国产精品1024永久观看,大尺度欧美暖暖视频在线观看,亚洲宅男精品一区在线观看,欧美日韩一区二区三区视频,2021中文字幕在线观看

  • <option id="fbvk0"></option>
    1. <rt id="fbvk0"><tr id="fbvk0"></tr></rt>
      <center id="fbvk0"><optgroup id="fbvk0"></optgroup></center>
      <center id="fbvk0"></center>

      <li id="fbvk0"><abbr id="fbvk0"><dl id="fbvk0"></dl></abbr></li>

      智能體應(yīng)用對象生成方法、裝置、計算機(jī)設(shè)備和存儲介質(zhì)與流程

      文檔序號:39346636發(fā)布日期:2024-09-10 12:11閱讀:36來源:國知局
      智能體應(yīng)用對象生成方法、裝置、計算機(jī)設(shè)備和存儲介質(zhì)與流程

      本技術(shù)涉及計算機(jī),特別是涉及一種智能體應(yīng)用對象生成方法、裝置、計算機(jī)設(shè)備、存儲介質(zhì)和計算機(jī)程序產(chǎn)品。


      背景技術(shù):

      1、隨著計算機(jī)技術(shù)的發(fā)展,出現(xiàn)了agent應(yīng)用,agent應(yīng)用即智能體應(yīng)用,智能體應(yīng)用可以基于大語言模型實現(xiàn),大語言模型(large?language?model,llm),是一種旨在理解和生成人類語言的人工智能模型?;诖笳Z言模型實現(xiàn)的agent應(yīng)用,其行為由llm根據(jù)agent當(dāng)前的狀態(tài)和外部輸入決定,可以專門用于解決某一類問題,例如法律咨詢agent,專門用于提供法律咨詢服務(wù)。

      2、傳統(tǒng)技術(shù)中,智能體應(yīng)用對象的生成可以通過對預(yù)先構(gòu)建的拓?fù)浔碚鲌D編譯得到,然而經(jīng)常存在智能體應(yīng)用對象的生成效率低的問題。


      技術(shù)實現(xiàn)思路

      1、基于此,有必要針對上述技術(shù)問題,提供一種能夠提高智能體應(yīng)用對象的生成效率的智能體應(yīng)用對象生成方法、裝置、計算機(jī)設(shè)備、計算機(jī)可讀存儲介質(zhì)和計算機(jī)程序產(chǎn)品。

      2、第一方面,本技術(shù)提供了一種智能體應(yīng)用對象生成方法。所述方法包括:

      3、響應(yīng)于服務(wù)請求,確定所述服務(wù)請求指示的拓?fù)浔碚鲌D,所述拓?fù)浔碚鲌D包括多個拓?fù)涔?jié)點,每個拓?fù)涔?jié)點表征一個組件,至少一個所述組件使用公共服務(wù)池中的公共服務(wù);

      4、對所述拓?fù)浔碚鲌D進(jìn)行編譯,以對編譯到的拓?fù)涔?jié)點所表征的組件進(jìn)行初始化,獲得初始化的組件;

      5、其中,當(dāng)編譯到的拓?fù)涔?jié)點表征的目標(biāo)組件使用所述公共服務(wù)池中的目標(biāo)公共服務(wù),則以引用所述公共服務(wù)池中所述目標(biāo)公共服務(wù)的方式,對所述目標(biāo)組件使用所述目標(biāo)公共服務(wù)的功能進(jìn)行編譯;

      6、響應(yīng)于對所述拓?fù)浔碚鲌D的編譯完成,獲得基于所述拓?fù)浔碚鲌D中各拓?fù)涔?jié)點對應(yīng)的初始化的組件確定的智能體應(yīng)用對象。

      7、第二方面,本技術(shù)還提供了一種智能體應(yīng)用對象生成裝置。所述裝置包括:

      8、拓?fù)浔碚鲌D確定模塊,用于響應(yīng)于服務(wù)請求,確定所述服務(wù)請求指示的拓?fù)浔碚鲌D,所述拓?fù)浔碚鲌D包括多個拓?fù)涔?jié)點,每個拓?fù)涔?jié)點表征一個組件,至少一個所述組件使用公共服務(wù)池中的公共服務(wù);

      9、拓?fù)浔碚鲌D編譯模塊,用于對所述拓?fù)浔碚鲌D進(jìn)行編譯,以對編譯到的拓?fù)涔?jié)點所表征的組件進(jìn)行初始化,獲得初始化的組件;其中,當(dāng)編譯到的拓?fù)涔?jié)點表征的目標(biāo)組件使用所述公共服務(wù)池中的目標(biāo)公共服務(wù),則以引用所述公共服務(wù)池中所述目標(biāo)公共服務(wù)的方式,對所述目標(biāo)組件使用所述目標(biāo)公共服務(wù)的功能進(jìn)行編譯;

      10、智能體應(yīng)用對象獲得模塊,用于響應(yīng)于對所述拓?fù)浔碚鲌D的編譯完成,獲得基于所述拓?fù)浔碚鲌D中各拓?fù)涔?jié)點對應(yīng)的初始化的組件確定的智能體應(yīng)用對象。

      11、在一些實施例中,所述服務(wù)請求是第一用戶在第一會話下發(fā)起的請求,本技術(shù)的智能體應(yīng)用對象生成方法還包括:智能體應(yīng)用對象運(yùn)行模塊,用于在無狀態(tài)模式下運(yùn)行所述智能體應(yīng)用對象,獲得所述智能體應(yīng)用對象針對所述服務(wù)請求的輸出信息;將所述輸出信息作為所述服務(wù)請求的響應(yīng)結(jié)果,并將所述響應(yīng)結(jié)果返回至所述第一用戶的終端。

      12、在一些實施例中,智能體應(yīng)用對象運(yùn)行模塊,還用于:確定所述智能體應(yīng)用對象的輸入信息;將所述輸入信息輸入至所述智能體應(yīng)用對象以運(yùn)行所述智能體應(yīng)用對象,獲得所述智能體應(yīng)用對象針對所述服務(wù)請求的輸出信息;根據(jù)所述輸入信息以及所述智能體應(yīng)用對象運(yùn)行過程中的狀態(tài)信息確定所述第一會話下的會話狀態(tài)信息,將所述會話狀態(tài)信息與所述第一會話的會話標(biāo)識關(guān)聯(lián)保存至分布式緩存中。

      13、在一些實施例中,智能體應(yīng)用對象運(yùn)行模塊,還用于:將所述輸入信息輸入至所述智能體應(yīng)用對象中;根據(jù)所述拓?fù)浔碚鲌D,調(diào)用所述智能體應(yīng)用對象中各初始化的組件處理所述輸入信息,獲得所述智能體應(yīng)用對象針對所述服務(wù)請求的輸出信息;其中,當(dāng)調(diào)用的組件為使用公共服務(wù)池中的公共服務(wù)的組件時,向所調(diào)用的組件引用的所述公共服務(wù)池中的公共服務(wù)發(fā)送服務(wù)調(diào)用請求,并基于所述服務(wù)調(diào)用請求的響應(yīng)結(jié)果繼續(xù)參與對所述輸入信息的處理。

      14、在一些實施例中,本技術(shù)的智能體應(yīng)用對象生成裝置還包括:智能體應(yīng)用對象緩存模塊,用于對所述智能體應(yīng)用對象、所述拓?fù)浔碚鲌D以及所述拓?fù)浔碚鲌D對應(yīng)的編譯參數(shù)進(jìn)行緩存,并建立所述智能體應(yīng)用對象、所述拓?fù)浔碚鲌D以及所述拓?fù)浔碚鲌D對應(yīng)的編譯參數(shù)之間的關(guān)聯(lián)關(guān)系。

      15、在一些實施例中,所述服務(wù)請求是第一用戶在第一會話下發(fā)起的請求,本技術(shù)的智能體應(yīng)用對象生成裝置還包括:服務(wù)請求響應(yīng)模塊,用于響應(yīng)于所述第一用戶在第一會話下新發(fā)起的服務(wù)請求,從所述新發(fā)起的服務(wù)請求中獲取所述第一會話的會話標(biāo)識和用戶輸入信息;根據(jù)所述會話標(biāo)識,獲取所述第一會話下的會話狀態(tài)信息;根據(jù)所述會話狀態(tài)信息和所述用戶輸入信息,確定所述智能體應(yīng)用對象的輸入信息;將所確定的輸入信息輸入所述智能體應(yīng)用對象,以獲得所述新發(fā)起的服務(wù)請求的響應(yīng)結(jié)果。

      16、在一些實施例中,本技術(shù)的智能體應(yīng)用對象生成裝置還包括:響應(yīng)結(jié)果緩存模塊,用于將所述新發(fā)起的服務(wù)請求的響應(yīng)結(jié)果保存至所述分布式緩存中,以對所述分布式緩存中所述第一會話下的會話狀態(tài)信息進(jìn)行更新;更新后的會話狀態(tài)信息用于確定所述第一用戶在第一會話下發(fā)起的后續(xù)的服務(wù)請求的響應(yīng)結(jié)果。

      17、在一些實施例中,服務(wù)請求響應(yīng)模塊,還用于響應(yīng)于第二用戶在第二會話下發(fā)起的服務(wù)請求,獲取所述第二用戶在第二會話下發(fā)起的所述服務(wù)請求所指示的目標(biāo)拓?fù)浔碚鲌D以及目標(biāo)編譯參數(shù);當(dāng)所述目標(biāo)拓?fù)浔碚鲌D與緩存的所述智能體應(yīng)用對象關(guān)聯(lián)的拓?fù)浔碚鲌D一致、且所述目標(biāo)編譯參數(shù)與所述緩存的所述智能體應(yīng)用對象關(guān)聯(lián)的編譯參數(shù)一致,將緩存的所述智能體應(yīng)用對象作為所述第二會話下的目標(biāo)智能體應(yīng)用對象;通過所述目標(biāo)智能體應(yīng)用對象,確定所述第二用戶在第二會話下發(fā)起的所述服務(wù)請求的響應(yīng)結(jié)果。

      18、在一些實施例中,拓?fù)浔碚鲌D編譯模塊,還用于:根據(jù)所述拓?fù)浔碚鲌D中各拓?fù)涔?jié)點之間的連接關(guān)系,確定所述拓?fù)浔碚鲌D中各拓?fù)涔?jié)點之間的節(jié)點依賴關(guān)系;基于各拓?fù)涔?jié)點之間的節(jié)點依賴關(guān)系,確定各拓?fù)涔?jié)點的編譯順序;按照所述編譯順序依次編譯所述拓?fù)浔碚鲌D中各拓?fù)涔?jié)點,以對編譯到的拓?fù)涔?jié)點所表征的組件進(jìn)行初始化,獲得初始化的組件。

      19、在一些實施例中,拓?fù)浔碚鲌D確定模塊,還用于響應(yīng)于服務(wù)請求,確定所述服務(wù)請求指示的拓?fù)浔碚鲌D和編譯參數(shù);拓?fù)浔碚鲌D編譯模塊,還用于根據(jù)所述編譯參數(shù)對所述拓?fù)浔碚鲌D進(jìn)行編譯,以對編譯到的拓?fù)涔?jié)點所表征的組件進(jìn)行初始化,獲得初始化的組件。

      20、在一些實施例中,所述多個拓?fù)涔?jié)點分別表征的組件中,至少一個組件為預(yù)訓(xùn)練的大語言模型。

      21、第三方面,本技術(shù)還提供了一種計算機(jī)設(shè)備。所述計算機(jī)設(shè)備包括存儲器和處理器,所述存儲器存儲有計算機(jī)程序,所述處理器執(zhí)行所述計算機(jī)程序時實現(xiàn)上述智能體應(yīng)用對象生成方法的步驟。

      22、第四方面,本技術(shù)還提供了一種計算機(jī)可讀存儲介質(zhì)。所述計算機(jī)可讀存儲介質(zhì),其上存儲有計算機(jī)程序,所述計算機(jī)程序被處理器執(zhí)行時實現(xiàn)上述智能體應(yīng)用對象生成方法的步驟。

      23、第五方面,本技術(shù)還提供了一種計算機(jī)程序產(chǎn)品。所述計算機(jī)程序產(chǎn)品,包括計算機(jī)程序,該計算機(jī)程序被處理器執(zhí)行時實現(xiàn)上述智能體應(yīng)用對象生成方法的步驟。

      24、上述智能體應(yīng)用對象生成方法、裝置、計算機(jī)設(shè)備、存儲介質(zhì)和計算機(jī)程序產(chǎn)品,響應(yīng)于服務(wù)請求,確定服務(wù)請求指示的拓?fù)浔碚鲌D,拓?fù)浔碚鲌D包括多個拓?fù)涔?jié)點,每個拓?fù)涔?jié)點表征一個組件,至少一個組件使用公共服務(wù)池中的公共服務(wù),對拓?fù)浔碚鲌D進(jìn)行編譯,以對編譯到的拓?fù)涔?jié)點所表征的組件進(jìn)行初始化,獲得初始化的組件,響應(yīng)于對拓?fù)浔碚鲌D的編譯完成,獲得基于拓?fù)浔碚鲌D中各拓?fù)涔?jié)點對應(yīng)的初始化的組件確定的智能體應(yīng)用對象,其中,當(dāng)編譯到的拓?fù)涔?jié)點表征的目標(biāo)組件使用公共服務(wù)池中的目標(biāo)公共服務(wù),則以引用公共服務(wù)池中目標(biāo)公共服務(wù)的方式,對目標(biāo)組件使用目標(biāo)公共服務(wù)的功能進(jìn)行編譯,如此,可以實現(xiàn)將公共服務(wù)從智能體應(yīng)用對象中剝離,使得智能體應(yīng)用對象生成過程中只需編譯構(gòu)建智能體應(yīng)用對象本身的部分即可,所占用的計算存儲資源較小,實現(xiàn)了智能體應(yīng)用對象的快速編譯構(gòu)建,從而提高了智能體應(yīng)用對象的生成效率。

      當(dāng)前第1頁1 2 
      網(wǎng)友詢問留言 已有0條留言
      • 還沒有人留言評論。精彩留言會獲得點贊!
      1