本技術(shù)涉及計算機(jī),特別是涉及一種智能體應(yīng)用對象生成方法、裝置、計算機(jī)設(shè)備、存儲介質(zhì)和計算機(jī)程序產(chǎn)品。
背景技術(shù):
1、隨著計算機(jī)技術(shù)的發(fā)展,出現(xiàn)了agent應(yīng)用,agent應(yīng)用即智能體應(yīng)用,智能體應(yīng)用可以基于大語言模型實現(xiàn),大語言模型(large?language?model,llm),是一種旨在理解和生成人類語言的人工智能模型?;诖笳Z言模型實現(xiàn)的agent應(yīng)用,其行為由llm根據(jù)agent當(dāng)前的狀態(tài)和外部輸入決定,可以專門用于解決某一類問題,例如法律咨詢agent,專門用于提供法律咨詢服務(wù)。
2、傳統(tǒng)技術(shù)中,智能體應(yīng)用對象的生成可以通過對預(yù)先構(gòu)建的拓?fù)浔碚鲌D編譯得到,然而經(jīng)常存在智能體應(yīng)用對象的生成效率低的問題。
技術(shù)實現(xiàn)思路
1、基于此,有必要針對上述技術(shù)問題,提供一種能夠提高智能體應(yīng)用對象的生成效率的智能體應(yīng)用對象生成方法、裝置、計算機(jī)設(shè)備、計算機(jī)可讀存儲介質(zhì)和計算機(jī)程序產(chǎn)品。
2、第一方面,本技術(shù)提供了一種智能體應(yīng)用對象生成方法。所述方法包括:
3、響應(yīng)于服務(wù)請求,確定所述服務(wù)請求指示的拓?fù)浔碚鲌D,所述拓?fù)浔碚鲌D包括多個拓?fù)涔?jié)點,每個拓?fù)涔?jié)點表征一個組件,至少一個所述組件使用公共服務(wù)池中的公共服務(wù);
4、對所述拓?fù)浔碚鲌D進(jìn)行編譯,以對編譯到的拓?fù)涔?jié)點所表征的組件進(jìn)行初始化,獲得初始化的組件;
5、其中,當(dāng)編譯到的拓?fù)涔?jié)點表征的目標(biāo)組件使用所述公共服務(wù)池中的目標(biāo)公共服務(wù),則以引用所述公共服務(wù)池中所述目標(biāo)公共服務(wù)的方式,對所述目標(biāo)組件使用所述目標(biāo)公共服務(wù)的功能進(jìn)行編譯;
6、響應(yīng)于對所述拓?fù)浔碚鲌D的編譯完成,獲得基于所述拓?fù)浔碚鲌D中各拓?fù)涔?jié)點對應(yīng)的初始化的組件確定的智能體應(yīng)用對象。
7、第二方面,本技術(shù)還提供了一種智能體應(yīng)用對象生成裝置。所述裝置包括:
8、拓?fù)浔碚鲌D確定模塊,用于響應(yīng)于服務(wù)請求,確定所述服務(wù)請求指示的拓?fù)浔碚鲌D,所述拓?fù)浔碚鲌D包括多個拓?fù)涔?jié)點,每個拓?fù)涔?jié)點表征一個組件,至少一個所述組件使用公共服務(wù)池中的公共服務(wù);
9、拓?fù)浔碚鲌D編譯模塊,用于對所述拓?fù)浔碚鲌D進(jìn)行編譯,以對編譯到的拓?fù)涔?jié)點所表征的組件進(jìn)行初始化,獲得初始化的組件;其中,當(dāng)編譯到的拓?fù)涔?jié)點表征的目標(biāo)組件使用所述公共服務(wù)池中的目標(biāo)公共服務(wù),則以引用所述公共服務(wù)池中所述目標(biāo)公共服務(wù)的方式,對所述目標(biāo)組件使用所述目標(biāo)公共服務(wù)的功能進(jìn)行編譯;
10、智能體應(yīng)用對象獲得模塊,用于響應(yīng)于對所述拓?fù)浔碚鲌D的編譯完成,獲得基于所述拓?fù)浔碚鲌D中各拓?fù)涔?jié)點對應(yīng)的初始化的組件確定的智能體應(yīng)用對象。
11、在一些實施例中,所述服務(wù)請求是第一用戶在第一會話下發(fā)起的請求,本技術(shù)的智能體應(yīng)用對象生成方法還包括:智能體應(yīng)用對象運(yùn)行模塊,用于在無狀態(tài)模式下運(yùn)行所述智能體應(yīng)用對象,獲得所述智能體應(yīng)用對象針對所述服務(wù)請求的輸出信息;將所述輸出信息作為所述服務(wù)請求的響應(yīng)結(jié)果,并將所述響應(yīng)結(jié)果返回至所述第一用戶的終端。
12、在一些實施例中,智能體應(yīng)用對象運(yùn)行模塊,還用于:確定所述智能體應(yīng)用對象的輸入信息;將所述輸入信息輸入至所述智能體應(yīng)用對象以運(yùn)行所述智能體應(yīng)用對象,獲得所述智能體應(yīng)用對象針對所述服務(wù)請求的輸出信息;根據(jù)所述輸入信息以及所述智能體應(yīng)用對象運(yùn)行過程中的狀態(tài)信息確定所述第一會話下的會話狀態(tài)信息,將所述會話狀態(tài)信息與所述第一會話的會話標(biāo)識關(guān)聯(lián)保存至分布式緩存中。
13、在一些實施例中,智能體應(yīng)用對象運(yùn)行模塊,還用于:將所述輸入信息輸入至所述智能體應(yīng)用對象中;根據(jù)所述拓?fù)浔碚鲌D,調(diào)用所述智能體應(yīng)用對象中各初始化的組件處理所述輸入信息,獲得所述智能體應(yīng)用對象針對所述服務(wù)請求的輸出信息;其中,當(dāng)調(diào)用的組件為使用公共服務(wù)池中的公共服務(wù)的組件時,向所調(diào)用的組件引用的所述公共服務(wù)池中的公共服務(wù)發(fā)送服務(wù)調(diào)用請求,并基于所述服務(wù)調(diào)用請求的響應(yīng)結(jié)果繼續(xù)參與對所述輸入信息的處理。
14、在一些實施例中,本技術(shù)的智能體應(yīng)用對象生成裝置還包括:智能體應(yīng)用對象緩存模塊,用于對所述智能體應(yīng)用對象、所述拓?fù)浔碚鲌D以及所述拓?fù)浔碚鲌D對應(yīng)的編譯參數(shù)進(jìn)行緩存,并建立所述智能體應(yīng)用對象、所述拓?fù)浔碚鲌D以及所述拓?fù)浔碚鲌D對應(yīng)的編譯參數(shù)之間的關(guān)聯(lián)關(guān)系。
15、在一些實施例中,所述服務(wù)請求是第一用戶在第一會話下發(fā)起的請求,本技術(shù)的智能體應(yīng)用對象生成裝置還包括:服務(wù)請求響應(yīng)模塊,用于響應(yīng)于所述第一用戶在第一會話下新發(fā)起的服務(wù)請求,從所述新發(fā)起的服務(wù)請求中獲取所述第一會話的會話標(biāo)識和用戶輸入信息;根據(jù)所述會話標(biāo)識,獲取所述第一會話下的會話狀態(tài)信息;根據(jù)所述會話狀態(tài)信息和所述用戶輸入信息,確定所述智能體應(yīng)用對象的輸入信息;將所確定的輸入信息輸入所述智能體應(yīng)用對象,以獲得所述新發(fā)起的服務(wù)請求的響應(yīng)結(jié)果。
16、在一些實施例中,本技術(shù)的智能體應(yīng)用對象生成裝置還包括:響應(yīng)結(jié)果緩存模塊,用于將所述新發(fā)起的服務(wù)請求的響應(yīng)結(jié)果保存至所述分布式緩存中,以對所述分布式緩存中所述第一會話下的會話狀態(tài)信息進(jìn)行更新;更新后的會話狀態(tài)信息用于確定所述第一用戶在第一會話下發(fā)起的后續(xù)的服務(wù)請求的響應(yīng)結(jié)果。
17、在一些實施例中,服務(wù)請求響應(yīng)模塊,還用于響應(yīng)于第二用戶在第二會話下發(fā)起的服務(wù)請求,獲取所述第二用戶在第二會話下發(fā)起的所述服務(wù)請求所指示的目標(biāo)拓?fù)浔碚鲌D以及目標(biāo)編譯參數(shù);當(dāng)所述目標(biāo)拓?fù)浔碚鲌D與緩存的所述智能體應(yīng)用對象關(guān)聯(lián)的拓?fù)浔碚鲌D一致、且所述目標(biāo)編譯參數(shù)與所述緩存的所述智能體應(yīng)用對象關(guān)聯(lián)的編譯參數(shù)一致,將緩存的所述智能體應(yīng)用對象作為所述第二會話下的目標(biāo)智能體應(yīng)用對象;通過所述目標(biāo)智能體應(yīng)用對象,確定所述第二用戶在第二會話下發(fā)起的所述服務(wù)請求的響應(yīng)結(jié)果。
18、在一些實施例中,拓?fù)浔碚鲌D編譯模塊,還用于:根據(jù)所述拓?fù)浔碚鲌D中各拓?fù)涔?jié)點之間的連接關(guān)系,確定所述拓?fù)浔碚鲌D中各拓?fù)涔?jié)點之間的節(jié)點依賴關(guān)系;基于各拓?fù)涔?jié)點之間的節(jié)點依賴關(guān)系,確定各拓?fù)涔?jié)點的編譯順序;按照所述編譯順序依次編譯所述拓?fù)浔碚鲌D中各拓?fù)涔?jié)點,以對編譯到的拓?fù)涔?jié)點所表征的組件進(jìn)行初始化,獲得初始化的組件。
19、在一些實施例中,拓?fù)浔碚鲌D確定模塊,還用于響應(yīng)于服務(wù)請求,確定所述服務(wù)請求指示的拓?fù)浔碚鲌D和編譯參數(shù);拓?fù)浔碚鲌D編譯模塊,還用于根據(jù)所述編譯參數(shù)對所述拓?fù)浔碚鲌D進(jìn)行編譯,以對編譯到的拓?fù)涔?jié)點所表征的組件進(jìn)行初始化,獲得初始化的組件。
20、在一些實施例中,所述多個拓?fù)涔?jié)點分別表征的組件中,至少一個組件為預(yù)訓(xùn)練的大語言模型。
21、第三方面,本技術(shù)還提供了一種計算機(jī)設(shè)備。所述計算機(jī)設(shè)備包括存儲器和處理器,所述存儲器存儲有計算機(jī)程序,所述處理器執(zhí)行所述計算機(jī)程序時實現(xiàn)上述智能體應(yīng)用對象生成方法的步驟。
22、第四方面,本技術(shù)還提供了一種計算機(jī)可讀存儲介質(zhì)。所述計算機(jī)可讀存儲介質(zhì),其上存儲有計算機(jī)程序,所述計算機(jī)程序被處理器執(zhí)行時實現(xiàn)上述智能體應(yīng)用對象生成方法的步驟。
23、第五方面,本技術(shù)還提供了一種計算機(jī)程序產(chǎn)品。所述計算機(jī)程序產(chǎn)品,包括計算機(jī)程序,該計算機(jī)程序被處理器執(zhí)行時實現(xiàn)上述智能體應(yīng)用對象生成方法的步驟。
24、上述智能體應(yīng)用對象生成方法、裝置、計算機(jī)設(shè)備、存儲介質(zhì)和計算機(jī)程序產(chǎn)品,響應(yīng)于服務(wù)請求,確定服務(wù)請求指示的拓?fù)浔碚鲌D,拓?fù)浔碚鲌D包括多個拓?fù)涔?jié)點,每個拓?fù)涔?jié)點表征一個組件,至少一個組件使用公共服務(wù)池中的公共服務(wù),對拓?fù)浔碚鲌D進(jìn)行編譯,以對編譯到的拓?fù)涔?jié)點所表征的組件進(jìn)行初始化,獲得初始化的組件,響應(yīng)于對拓?fù)浔碚鲌D的編譯完成,獲得基于拓?fù)浔碚鲌D中各拓?fù)涔?jié)點對應(yīng)的初始化的組件確定的智能體應(yīng)用對象,其中,當(dāng)編譯到的拓?fù)涔?jié)點表征的目標(biāo)組件使用公共服務(wù)池中的目標(biāo)公共服務(wù),則以引用公共服務(wù)池中目標(biāo)公共服務(wù)的方式,對目標(biāo)組件使用目標(biāo)公共服務(wù)的功能進(jìn)行編譯,如此,可以實現(xiàn)將公共服務(wù)從智能體應(yīng)用對象中剝離,使得智能體應(yīng)用對象生成過程中只需編譯構(gòu)建智能體應(yīng)用對象本身的部分即可,所占用的計算存儲資源較小,實現(xiàn)了智能體應(yīng)用對象的快速編譯構(gòu)建,從而提高了智能體應(yīng)用對象的生成效率。