本技術(shù)涉及大型語言模型,特別涉及一種增強(qiáng)大模型效果的方法及裝置。
背景技術(shù):
1、近年來,大型語言模型(llm)廣泛應(yīng)用于解決多種實(shí)際問題,如何通過提示工程優(yōu)化llm的響應(yīng),使其更能滿足用戶需求,成為了一個重要的研究方向。不同的llm采用了不同的訓(xùn)練數(shù)據(jù)和方法,在問題回答上可能顯示出不同的側(cè)重點(diǎn)?,F(xiàn)有的llm通常從通用價(jià)值觀的角度作出回答,但在專業(yè)領(lǐng)域中,用戶期望得到包含更多專業(yè)知識的答案。
2、現(xiàn)有技術(shù)中,將預(yù)訓(xùn)練模型與圖神經(jīng)網(wǎng)絡(luò)結(jié)合的方法能夠?yàn)閿?shù)據(jù)賦予多層級標(biāo)簽,有助于對用戶提問進(jìn)行專業(yè)化的分類。還存在將標(biāo)簽嵌入文本,形成新向量的方法,能夠提高對用戶提問的分類正確率。但這些分類方法需要大量的標(biāo)簽,且每一類標(biāo)簽需要足夠的數(shù)據(jù)覆蓋量。當(dāng)標(biāo)簽太多、標(biāo)簽冷門時,就難以通過現(xiàn)有方法進(jìn)行準(zhǔn)確分類。因此,如何將用戶提問進(jìn)行準(zhǔn)確分類,以使llm給出更專業(yè)化的回答,成為了一個亟需解決的問題。
技術(shù)實(shí)現(xiàn)思路
1、基于上述問題,本技術(shù)提供了一種增強(qiáng)大模型效果的方法及裝置,以將用戶提問進(jìn)行準(zhǔn)確分類,以使llm給出更專業(yè)化的回答。
2、本技術(shù)公開了一種增強(qiáng)大模型效果的方法,所述方法包括:
3、為大型語言模型llm提供預(yù)設(shè)分類表;
4、基于原始問題和所述預(yù)設(shè)分類表,通過llm確定所述原始問題的分類信息;
5、將所述分類信息和原始問題結(jié)合,生成目標(biāo)問題;
6、基于所述目標(biāo)問題和所述預(yù)設(shè)分類表,通過llm獲取所述目標(biāo)問題的答案。
7、可選的,所述基于原始問題和所述預(yù)設(shè)分類表,通過llm確定所述原始問題的分類信息,包括:
8、按照所述預(yù)設(shè)分類表中的層級,以詢問llm的方式逐層獲取所述原始問題的分類信息;所述層級包括險(xiǎn)種類型、業(yè)務(wù)類型和業(yè)務(wù)子流程。
9、可選的,所述按照所述預(yù)設(shè)分類表中的層級,以詢問llm的方式逐層獲取所述原始問題的分類信息,包括:
10、詢問llm所述原始問題的險(xiǎn)種類型;
11、基于llm返回的險(xiǎn)種類型,詢問llm所述原始問題的業(yè)務(wù)類型;
12、基于llm返回的險(xiǎn)種類型和業(yè)務(wù)類型,詢問llm所述原始問題的業(yè)務(wù)子流程;
13、將llm返回的險(xiǎn)種類型、業(yè)務(wù)類型和業(yè)務(wù)子流程作為所述分類信息。
14、可選的,所述詢問llm所述原始問題的險(xiǎn)種類型,包括:
15、使用第一提示詢問llm所述原始問題的險(xiǎn)種類型;
16、獲取llm返回的險(xiǎn)種答案;
17、使用第一確定提示,詢問llm所述原始問題的險(xiǎn)種類型是否為所述險(xiǎn)種答案;
18、若是,則將所述險(xiǎn)種答案作為所述原始問題的險(xiǎn)種類型;
19、若否,則重復(fù)詢問llm所述原始問題的險(xiǎn)種類型,直至所述原始問題的險(xiǎn)種類型為所述險(xiǎn)種答案,將所述險(xiǎn)種答案作為所述原始問題的險(xiǎn)種類型。
20、可選的,所述基于llm返回的險(xiǎn)種類型,詢問llm所述原始問題的業(yè)務(wù)類型,包括:
21、基于llm返回的險(xiǎn)種類型,使用第二提示詢問llm所述原始問題的業(yè)務(wù)類型;
22、獲取llm返回的業(yè)務(wù)答案;
23、使用第二確定提示,詢問llm所述原始問題的業(yè)務(wù)類型是否為所述業(yè)務(wù)答案;
24、若是,則將所述業(yè)務(wù)答案作為所述原始問題的業(yè)務(wù)類型;
25、若否,則重復(fù)詢問llm所述原始問題的業(yè)務(wù)類型,直至所述原始問題的業(yè)務(wù)類型為所述業(yè)務(wù)答案,將所述業(yè)務(wù)答案作為所述原始問題的業(yè)務(wù)類型。
26、可選的,所述基于llm返回的險(xiǎn)種類型和業(yè)務(wù)類型,詢問llm所述原始問題的業(yè)務(wù)子流程,包括:
27、基于llm返回的險(xiǎn)種類型,使用第三提示詢問llm所述原始問題的業(yè)務(wù)子流程;
28、獲取llm返回的子流程答案;
29、使用第三確定提示,詢問llm所述原始問題的業(yè)務(wù)子流程是否為所述子流程答案;
30、若是,則將所述子流程答案作為所述原始問題的業(yè)務(wù)子流程;
31、若否,則重復(fù)詢問llm所述原始問題的業(yè)務(wù)子流程,直至所述原始問題的業(yè)務(wù)子流程為所述子流程答案,將所述子流程答案作為所述原始問題的業(yè)務(wù)子流程。
32、可選的,所述基于所述目標(biāo)問題和所述預(yù)設(shè)分類表,通過llm獲取所述目標(biāo)問題的答案,包括:
33、詢問llm所述目標(biāo)問題的答案;
34、llm基于所述預(yù)設(shè)分類表,根據(jù)所述目標(biāo)問題中的所述原始問題和所述分類信息,給出所述目標(biāo)問題的答案。
35、基于上述一種增強(qiáng)大模型效果的方法,本技術(shù)還公開了一種增強(qiáng)大模型效果的裝置,包括:分類表提供單元、分類信息確定單元、目標(biāo)問題生成單元和回答單元;
36、所述分類表提供單元,用于為大型語言模型llm提供預(yù)設(shè)分類表;
37、所述分類信息確定單元,用于基于原始問題和所述預(yù)設(shè)分類表,通過llm確定所述原始問題的分類信息;
38、所述目標(biāo)問題生成單元,用于將所述分類信息和原始問題結(jié)合,生成目標(biāo)問題;
39、所述回答單元,用于基于所述目標(biāo)問題和所述預(yù)設(shè)分類表,通過llm獲取所述目標(biāo)問題的答案。
40、可選的,所述分類信息確定單元,包括:
41、逐層獲取子單元,用于按照所述預(yù)設(shè)分類表中的層級,以詢問llm的方式逐層獲取所述原始問題的分類信息;所述層級包括險(xiǎn)種類型、業(yè)務(wù)類型和業(yè)務(wù)子流程。
42、可選的,所述逐層獲取子單元,包括:
43、險(xiǎn)種詢問子單元,用于詢問llm所述原始問題的險(xiǎn)種類型;
44、業(yè)務(wù)詢問子單元,用于基于llm返回的險(xiǎn)種類型,詢問llm所述原始問題的業(yè)務(wù)類型;
45、流程詢問子單元,用于基于llm返回的險(xiǎn)種類型和業(yè)務(wù)類型,詢問llm所述原始問題的業(yè)務(wù)子流程;
46、分類信息獲取子單元,用于將llm返回的險(xiǎn)種類型、業(yè)務(wù)類型和業(yè)務(wù)子流程作為所述分類信息。
47、可選的,所述險(xiǎn)種詢問子單元,用于:
48、使用第一提示詢問llm所述原始問題的險(xiǎn)種類型;
49、獲取llm返回的險(xiǎn)種答案;
50、使用第一確定提示,詢問llm所述原始問題的險(xiǎn)種類型是否為所述險(xiǎn)種答案;
51、若是,則將所述險(xiǎn)種答案作為所述原始問題的險(xiǎn)種類型;
52、若否,則重復(fù)詢問llm所述原始問題的險(xiǎn)種類型,直至所述原始問題的險(xiǎn)種類型為所述險(xiǎn)種答案,將所述險(xiǎn)種答案作為所述原始問題的險(xiǎn)種類型。
53、可選的,所述業(yè)務(wù)詢問子單元,用于:
54、基于llm返回的險(xiǎn)種類型,使用第二提示詢問llm所述原始問題的業(yè)務(wù)類型;
55、獲取llm返回的業(yè)務(wù)答案;
56、使用第二確定提示,詢問llm所述原始問題的業(yè)務(wù)類型是否為所述業(yè)務(wù)答案;
57、若是,則將所述業(yè)務(wù)答案作為所述原始問題的業(yè)務(wù)類型;
58、若否,則重復(fù)詢問llm所述原始問題的業(yè)務(wù)類型,直至所述原始問題的業(yè)務(wù)類型為所述業(yè)務(wù)答案,將所述業(yè)務(wù)答案作為所述原始問題的業(yè)務(wù)類型。
59、可選的,所述流程詢問子單元,用于:
60、基于llm返回的險(xiǎn)種類型,使用第三提示詢問llm所述原始問題的業(yè)務(wù)子流程;
61、獲取llm返回的子流程答案;
62、使用第三確定提示,詢問llm所述原始問題的業(yè)務(wù)子流程是否為所述子流程答案;
63、若是,則將所述子流程答案作為所述原始問題的業(yè)務(wù)子流程;
64、若否,則重復(fù)詢問llm所述原始問題的業(yè)務(wù)子流程,直至所述原始問題的業(yè)務(wù)子流程為所述子流程答案,將所述子流程答案作為所述原始問題的業(yè)務(wù)子流程。
65、可選的,所述回答單元,包括:
66、目標(biāo)詢問子單元,用于詢問llm所述目標(biāo)問題的答案;
67、答案獲取子單元,用于llm基于所述預(yù)設(shè)分類表,根據(jù)所述目標(biāo)問題中的所述原始問題和所述分類信息,給出所述目標(biāo)問題的答案。
68、本技術(shù)公開了一種增強(qiáng)大模型效果的方法及裝置。為大型語言模型llm提供預(yù)設(shè)分類表,其圍繞業(yè)務(wù)全流程設(shè)計(jì),為llm提供了具體而專業(yè)的知識框架,助于生成更專業(yè)的答案?;谠紗栴}和預(yù)設(shè)分類表,通過llm確定原始問題的分類信息。將分類信息和原始問題結(jié)合,生成目標(biāo)問題,為llm提供了明確的方向指引,增強(qiáng)了其回答的專業(yè)性。最后,基于目標(biāo)問題和預(yù)設(shè)分類表,通過llm獲取目標(biāo)問題的答案。本技術(shù)實(shí)現(xiàn)了專業(yè)知識的補(bǔ)充,將用戶提問進(jìn)行準(zhǔn)確分類,增強(qiáng)llm的回答效果,提高了llm答案的專業(yè)度。