本發(fā)明涉及數(shù)據(jù)處理技術(shù)，更具體的說，是涉及無線蜂窩系統(tǒng)中大語言模型的應(yīng)用方法和裝置。

背景技術(shù)：

1、隨著芯片算力和人工智能算法的進(jìn)步，手機(jī)等終端設(shè)備也用到了大語言模型(large?language?model,?簡稱為llm)，用于文本、語音、圖像處理、無線信號處理等。這里的大語言模型一般指使用大量文本數(shù)據(jù)訓(xùn)練的深度學(xué)習(xí)模型，可以生成自然語言文本或理解語言文本的含義。大語言模型也可簡稱為大模型，泛指參數(shù)比較多的人工智能模型?；谑謾C(jī)的大語言模型，其參數(shù)集可以到幾億甚至幾十億量級，可以處理一些簡單的人工智能應(yīng)用。但是針對一些比較復(fù)雜的任務(wù)，例如圖像的處理或者音視頻的處理，受模型、手機(jī)硬件和其他條件的限制，需要在網(wǎng)絡(luò)側(cè)進(jìn)行大語言模型的應(yīng)用（例如推理、訓(xùn)練等）。針對一種基于大語言模型的使用場景，如何權(quán)衡用戶體驗、復(fù)雜度、功耗等多個因素，在終端側(cè)和網(wǎng)絡(luò)側(cè)動態(tài)地切換大語言模型應(yīng)用是需要考慮的問題。

2、目前，將大語言模型技術(shù)引入到終端的數(shù)據(jù)處理中，研究剛剛開始，信令機(jī)制沒有確定，存在較多的優(yōu)化問題需要解決。

技術(shù)實現(xiàn)思路

1、有鑒于此，本發(fā)明提供如下技術(shù)方案：

2、一種無線蜂窩系統(tǒng)中大語言模型應(yīng)用的方法，應(yīng)用于終端的數(shù)據(jù)處理，其特征在于，包括：

3、針對一種終端中基于大語言模型的應(yīng)用，終端采用分級觸發(fā)策略動態(tài)地切換其大語言模型的應(yīng)用模式，其中分級觸發(fā)策略首先判斷終端的參數(shù)是否滿足大語言模型應(yīng)用的條件，其中參數(shù)至少包括終端剩余電量、大語言模型能否提供答案、大語言模型響應(yīng)時延。如果以上參數(shù)滿足在終端應(yīng)用大語言模型的條件，在終端進(jìn)行大語言模型的應(yīng)用。如果以上參數(shù)不滿足在終端應(yīng)用大語言模型的條件，基于網(wǎng)絡(luò)側(cè)參數(shù)判斷是否可以在網(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用，其網(wǎng)絡(luò)側(cè)參數(shù)至少包括終端的數(shù)據(jù)傳輸費用和數(shù)據(jù)傳輸時延。如果網(wǎng)絡(luò)側(cè)參數(shù)滿足在網(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用的條件，終端將數(shù)據(jù)傳輸?shù)骄W(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用。在網(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用的過程中，終端隨時監(jiān)測自身參數(shù)，判斷終端的參數(shù)是否滿足大語言模型應(yīng)用的條件，如果滿足在終端應(yīng)用大語言模型的條件，動態(tài)地切回到在終端應(yīng)用大語言模型。

4、該方法包括，基于大語言模型的應(yīng)用，至少包括：用于文本總結(jié)、語言翻譯、音頻優(yōu)化、視頻優(yōu)化或者無線信號處理的大語言模型的訓(xùn)練、學(xué)習(xí)和推理。

5、該方法進(jìn)一步包括，判斷終端的參數(shù)是否滿足大語言模型應(yīng)用的條件，至少包括：首先終端剩余電量大于第一種特定閾值；其次大語言模型能夠在預(yù)計時間內(nèi)提供答案。

6、該方法還進(jìn)一步包括，基于網(wǎng)絡(luò)側(cè)參數(shù)判斷是否可以在網(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用，至少包括：首先終端的數(shù)據(jù)傳輸費用小于第二種特定閾值；其次終端的數(shù)據(jù)傳輸時延小于第三種特定閾值。

7、該方法還進(jìn)一步包括，終端隨時監(jiān)測自身的參數(shù)，判斷終端的參數(shù)是否滿足大語言模型應(yīng)用的條件，其判斷條件至少包括：首先終端剩余電量大于第一種特定閾值；其次大語言模型能夠在預(yù)計時間內(nèi)提供答案。

8、一種無線蜂窩系統(tǒng)中的大語言模型應(yīng)用的處理裝置，應(yīng)用于終端的數(shù)據(jù)處理，其特征在于，包括：針對一種終端中基于大語言模型的應(yīng)用，終端采用分級觸發(fā)策略動態(tài)切換其大語言模型的應(yīng)用模式，其中分級觸發(fā)策略首先判斷終端的參數(shù)是否滿足大語言模型應(yīng)用的條件，其中參數(shù)至少包括終端剩余電量、大語言模型能否提供答案、大語言模型響應(yīng)時延。如果以上參數(shù)滿足在終端應(yīng)用大語言模型的條件，在終端進(jìn)行大語言模型的應(yīng)用。如果以上參數(shù)不滿足在終端應(yīng)用大語言模型的條件，基于網(wǎng)絡(luò)側(cè)參數(shù)判斷是否可以在網(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用，其網(wǎng)絡(luò)側(cè)參數(shù)至少包括終端的數(shù)據(jù)傳輸費用和數(shù)據(jù)傳輸時延。如果網(wǎng)絡(luò)側(cè)參數(shù)滿足在網(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用的條件，終端將數(shù)據(jù)傳輸?shù)骄W(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用。在網(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用的過程中，終端隨時監(jiān)測自身參數(shù)，判斷終端的參數(shù)是否滿足大語言模型應(yīng)用的條件，如果滿足在終端應(yīng)用大語言模型的條件，動態(tài)地切回到在終端應(yīng)用大語言模型。

9、經(jīng)由上述的技術(shù)方案可知，與現(xiàn)有技術(shù)相比，本發(fā)明實施例公開了一種無線蜂窩系統(tǒng)中的大語言模型應(yīng)用的方法，方法包括：針對一種終端中基于大語言模型的應(yīng)用，終端采用分級觸發(fā)策略動態(tài)地切換其大語言模型的應(yīng)用模式，其中分級觸發(fā)策略首先判斷終端的參數(shù)是否滿足大語言模型應(yīng)用的條件，其中參數(shù)至少包括終端剩余電量、大語言模型能否提供答案、大語言模型響應(yīng)時延。如果以上參數(shù)滿足在終端應(yīng)用大語言模型的條件，在終端進(jìn)行大語言模型的應(yīng)用。如果以上參數(shù)不滿足在終端應(yīng)用大語言模型的條件，基于網(wǎng)絡(luò)側(cè)參數(shù)判斷是否可以在網(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用，其網(wǎng)絡(luò)側(cè)參數(shù)至少包括終端的數(shù)據(jù)傳輸費用和數(shù)據(jù)傳輸時延。如果網(wǎng)絡(luò)側(cè)參數(shù)滿足在網(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用的條件，終端將數(shù)據(jù)傳輸?shù)骄W(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用。在網(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用的過程中，終端隨時監(jiān)測自身參數(shù)，判斷終端的參數(shù)是否滿足大語言模型應(yīng)用的條件，如果滿足在終端應(yīng)用大語言模型的條件，動態(tài)地切回到在終端應(yīng)用大語言模型。

技術(shù)特征：

1.一種無線蜂窩系統(tǒng)中大語言模型應(yīng)用的方法，應(yīng)用于終端的數(shù)據(jù)處理，其特征在于，包括：

2.根據(jù)權(quán)利要求1所述的一種無線蜂窩系統(tǒng)中大語言模型應(yīng)用的方法，其特征在于，所述的基于大語言模型的應(yīng)用，至少包括：

3.根據(jù)權(quán)利要求1所述的一種無線蜂窩系統(tǒng)中大語言模型應(yīng)用的方法，其特征在于，所述的判斷終端的參數(shù)是否滿足大語言模型應(yīng)用的條件，至少包括：

4.根據(jù)權(quán)利要求1所述的一種無線蜂窩系統(tǒng)中大語言模型應(yīng)用的方法，其特征在于，所述的基于網(wǎng)絡(luò)側(cè)參數(shù)判斷是否可以在網(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用，至少包括：

5.根據(jù)權(quán)利要求1所述的一種無線蜂窩系統(tǒng)中大語言模型應(yīng)用的方法，其特征在于，所述的終端隨時監(jiān)測自身參數(shù)，判斷終端的參數(shù)是否滿足大語言模型應(yīng)用的條件，至少包括：

6.一種無線蜂窩系統(tǒng)中的大語言模型應(yīng)用的處理裝置，應(yīng)用于終端的數(shù)據(jù)處理，其特征在于，包括：

技術(shù)總結(jié)
本申請公開了一種無線蜂窩系統(tǒng)中大語言模型應(yīng)用的方法，方法包括：針對一種終端中基于大語言模型的應(yīng)用，終端采用分級觸發(fā)策略動態(tài)地切換其大語言模型的應(yīng)用模式，其中分級觸發(fā)策略首先判斷終端的參數(shù)是否滿足大語言模型應(yīng)用的條件，其中參數(shù)至少包括終端剩余電量、大語言模型能否提供答案、大語言模型響應(yīng)時延。如果以上參數(shù)滿足在終端應(yīng)用大語言模型的條件，在終端進(jìn)行大語言模型的應(yīng)用。如果以上參數(shù)不滿足在終端應(yīng)用大語言模型的條件，基于網(wǎng)絡(luò)側(cè)參數(shù)判斷是否可以在網(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用，其網(wǎng)絡(luò)側(cè)參數(shù)至少包括終端的數(shù)據(jù)傳輸費用和數(shù)據(jù)傳輸時延。如果網(wǎng)絡(luò)側(cè)參數(shù)滿足在網(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用的條件，終端將數(shù)據(jù)傳輸?shù)骄W(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用。在網(wǎng)絡(luò)側(cè)進(jìn)行大語言模型應(yīng)用的過程中，終端隨時監(jiān)測自身參數(shù)，判斷終端的參數(shù)是否滿足大語言模型應(yīng)用的條件，如果滿足在終端應(yīng)用大語言模型的條件，動態(tài)地切回到在終端應(yīng)用大語言模型。

技術(shù)研發(fā)人員：韓麗華
受保護(hù)的技術(shù)使用者：北京物資學(xué)院
技術(shù)研發(fā)日：
技術(shù)公布日：2024/10/10