本公開涉及人工智能，具體為深度學(xué)習(xí)，可應(yīng)用于智能交通領(lǐng)域。

背景技術(shù)：

1、在現(xiàn)代化的城市生活中，有效的路線規(guī)劃和準(zhǔn)確的通行時(shí)間預(yù)估是每天出行的關(guān)鍵。隨著交通網(wǎng)絡(luò)日益復(fù)雜，傳統(tǒng)導(dǎo)航系統(tǒng)在準(zhǔn)確性和效率上面臨挑戰(zhàn)。

2、當(dāng)前通行時(shí)間預(yù)估和導(dǎo)航路線排序領(lǐng)域主要利用先進(jìn)的算法和大數(shù)據(jù)技術(shù)來實(shí)現(xiàn)更準(zhǔn)確、高效的交通管理和導(dǎo)航服務(wù)。大數(shù)據(jù)時(shí)代下，對(duì)海量歷史交通數(shù)據(jù)進(jìn)行處理和分析，找出交通流量潛在的規(guī)律，能夠幫助給出更準(zhǔn)確、合理、高效的出行方案，以達(dá)到緩解道路交通壓力，協(xié)調(diào)公共資源，為人們提供出行便利的目的。

技術(shù)實(shí)現(xiàn)思路

1、本公開實(shí)施例提出了一種交通大模型訓(xùn)練方法、裝置、設(shè)備、存儲(chǔ)介質(zhì)以及程序產(chǎn)品。

2、第一方面，本公開實(shí)施例提出了一種交通大模型訓(xùn)練方法，包括：獲取訓(xùn)練樣本，其中，訓(xùn)練樣本包括第一歷史交通數(shù)據(jù)和第一未來通行時(shí)間真實(shí)值；對(duì)第一歷史交通數(shù)據(jù)進(jìn)行特征提取，得到第一歷史交通特征；將第一歷史交通特征輸入至轉(zhuǎn)換器模型，得到第一未來通行時(shí)間預(yù)測(cè)值；基于第一未來通行時(shí)間預(yù)測(cè)值和第一未來通行時(shí)間真實(shí)值，計(jì)算第一損失；基于第一損失調(diào)整轉(zhuǎn)換器模型的參數(shù)，得到交通大模型。

3、第二方面，本公開實(shí)施例提出了一種通行時(shí)間預(yù)測(cè)方法，包括：獲取目標(biāo)歷史交通數(shù)據(jù)；對(duì)目標(biāo)歷史交通數(shù)據(jù)進(jìn)行特征提取，得到目標(biāo)歷史交通特征；將目標(biāo)歷史交通特征輸入至交通大模型，得到目標(biāo)未來通行時(shí)間預(yù)測(cè)值，其中，交通大模型是以第一歷史交通特征為輸入，以第一未來通行時(shí)間真實(shí)值為目標(biāo)輸出，對(duì)轉(zhuǎn)換器模型進(jìn)行訓(xùn)練得到的。

4、第三方面，本公開實(shí)施例提出了一種交通大模型訓(xùn)練裝置，包括：第一獲取模塊，被配置成獲取訓(xùn)練樣本，其中，訓(xùn)練樣本包括第一歷史交通數(shù)據(jù)和第一未來通行時(shí)間真實(shí)值；第一提取模塊，被配置成對(duì)第一歷史交通數(shù)據(jù)進(jìn)行特征提取，得到第一歷史交通特征；第一預(yù)測(cè)模塊，被配置成將第一歷史交通特征輸入至轉(zhuǎn)換器模型，得到第一未來通行時(shí)間預(yù)測(cè)值；第一計(jì)算模塊，被配置成基于第一未來通行時(shí)間預(yù)測(cè)值和第一未來通行時(shí)間真實(shí)值，計(jì)算第一損失；第一調(diào)整模塊，被配置成基于第一損失調(diào)整轉(zhuǎn)換器模型的參數(shù)，得到交通大模型。

5、第四方面，本公開實(shí)施例提出了一種通行時(shí)間預(yù)測(cè)裝置，包括：第一獲取模塊，被配置成獲取目標(biāo)歷史交通數(shù)據(jù)；提取模塊，被配置成對(duì)目標(biāo)歷史交通數(shù)據(jù)進(jìn)行特征提取，得到目標(biāo)歷史交通特征；預(yù)測(cè)模塊，被配置成將目標(biāo)歷史交通特征輸入至交通大模型，得到目標(biāo)未來通行時(shí)間預(yù)測(cè)值，其中，交通大模型是以第一歷史交通特征為輸入，以第一未來通行時(shí)間真實(shí)值為目標(biāo)輸出，對(duì)轉(zhuǎn)換器模型進(jìn)行訓(xùn)練得到的。

6、第五方面，本公開實(shí)施例提出了一種電子設(shè)備，包括：至少一個(gè)處理器；以及與至少一個(gè)處理器通信連接的存儲(chǔ)器；其中，存儲(chǔ)器存儲(chǔ)有可被至少一個(gè)處理器執(zhí)行的指令，指令被至少一個(gè)處理器執(zhí)行，以使至少一個(gè)處理器能夠執(zhí)行如第一方面或第二方面描述的方法。

7、第六方面，本公開實(shí)施例提出了一種存儲(chǔ)有計(jì)算機(jī)指令的非瞬時(shí)計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，計(jì)算機(jī)指令用于使計(jì)算機(jī)執(zhí)行如第一方面或第二方面描述的方法。

8、第七方面，本公開實(shí)施例提出了一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序，計(jì)算機(jī)程序在被處理器執(zhí)行時(shí)實(shí)現(xiàn)如第一方面或第二方面描述的方法。

9、本公開的實(shí)施例的關(guān)鍵或重要特征，也不用于限制本公開的范圍。本公開的其它特征將通過以下的說明書而變得容易理解。

技術(shù)特征：

1.一種交通大模型訓(xùn)練方法，包括：

2.根據(jù)權(quán)利要求1所述的方法，其中，所述第一歷史交通數(shù)據(jù)包括歷史交通流量時(shí)間序列數(shù)據(jù)；以及

3.根據(jù)權(quán)利要求2所述的方法，其中，所述對(duì)所述歷史交通流量時(shí)間序列數(shù)據(jù)進(jìn)行特征提取，得到歷史時(shí)間特征，包括以下至少一項(xiàng)：

4.根據(jù)權(quán)利要求1-3中任一項(xiàng)所述的方法，其中，所述第一歷史交通數(shù)據(jù)包括歷史道路類型時(shí)間序列數(shù)據(jù)；以及

5.根據(jù)權(quán)利要求4所述的方法，其中，所述對(duì)所述歷史道路類型時(shí)間序列數(shù)據(jù)進(jìn)行特征提取，得到歷史空間特征，包括以下至少一項(xiàng)：

6.根據(jù)權(quán)利要求1所述的方法，其中，所述轉(zhuǎn)換器模型包括編碼器和解碼器，所述編碼器包括輸入嵌入層、可學(xué)習(xí)位置編碼層和轉(zhuǎn)換器塊，所述可學(xué)習(xí)位置編碼層采用可訓(xùn)練位置編碼的方式，將位置的編碼表示為可訓(xùn)練的向量，所述向量是在模型訓(xùn)練過程中通過反向傳播進(jìn)行優(yōu)化，所找到的最優(yōu)的編碼表示，所述解碼器包括轉(zhuǎn)換器塊和預(yù)測(cè)層。

7.根據(jù)權(quán)利要求6所述的方法，其中，所述轉(zhuǎn)換器塊包括多頭注意力層、求和與標(biāo)準(zhǔn)化層和前饋層。

8.根據(jù)權(quán)利要求1所述的方法，其中，所述第一歷史交通數(shù)據(jù)包括第一歷史時(shí)間段內(nèi)的多個(gè)時(shí)間片的交通數(shù)據(jù)和第二歷史時(shí)間段內(nèi)的多個(gè)時(shí)間片的交通數(shù)據(jù)，所述第一未來通行時(shí)間真實(shí)值是未來時(shí)間段內(nèi)的多個(gè)時(shí)間片的通行時(shí)間。

9.根據(jù)權(quán)利要求1所述的方法，其中，所述第一未來通行時(shí)間真實(shí)值包括第一路段未來通行時(shí)間真實(shí)值和第一路段序列未來通行時(shí)間真實(shí)值，所述第一未來通行時(shí)間預(yù)測(cè)值包括第一路段未來通行時(shí)間預(yù)測(cè)值和第一未來路段序列通行時(shí)間預(yù)測(cè)值；以及

10.根據(jù)權(quán)利要求1所述的方法，其中，所述方法還包括：

11.根據(jù)權(quán)利要求10所述的方法，其中，所述方法還包括：

12.一種通行時(shí)間預(yù)測(cè)方法，包括：

13.根據(jù)權(quán)利要求12所述的方法，其中，所述方法還包括：

14.根據(jù)權(quán)利要求12或13所述的方法，其中，所述方法還包括：

15.一種交通大模型訓(xùn)練裝置，包括：

16.根據(jù)權(quán)利要求15所述的裝置，其中，所述第一歷史交通數(shù)據(jù)包括歷史交通流量時(shí)間序列數(shù)據(jù)；以及

17.根據(jù)權(quán)利要求16所述的裝置，其中，所述第一提取模塊進(jìn)一步被配置成以下至少一項(xiàng)：

18.根據(jù)權(quán)利要求15-17中任一項(xiàng)所述的裝置，其中，所述第一歷史交通數(shù)據(jù)包括歷史道路類型時(shí)間序列數(shù)據(jù)；以及

19.根據(jù)權(quán)利要求18所述的裝置，其中，所述第一提取模塊進(jìn)一步被配置成以下至少一項(xiàng)：

20.根據(jù)權(quán)利要求15所述的裝置，其中，所述轉(zhuǎn)換器模型包括編碼器和解碼器，所述編碼器包括輸入嵌入層、可學(xué)習(xí)位置編碼層和轉(zhuǎn)換器塊，所述可學(xué)習(xí)位置編碼層采用可訓(xùn)練位置編碼的方式，將位置的編碼表示為可訓(xùn)練的向量，所述向量是在模型訓(xùn)練過程中通過反向傳播進(jìn)行優(yōu)化，所找到的最優(yōu)的編碼表示，所述解碼器包括轉(zhuǎn)換器塊和預(yù)測(cè)層。

21.根據(jù)權(quán)利要求20所述的裝置，其中，所述轉(zhuǎn)換器塊包括多頭注意力層、求和與標(biāo)準(zhǔn)化層和前饋層。

22.根據(jù)權(quán)利要求15所述的裝置，其中，所述第一歷史交通數(shù)據(jù)包括第一歷史時(shí)間段內(nèi)的多個(gè)時(shí)間片的交通數(shù)據(jù)和第二歷史時(shí)間段內(nèi)的多個(gè)時(shí)間片的交通數(shù)據(jù)，所述第一未來通行時(shí)間真實(shí)值是未來時(shí)間段內(nèi)的多個(gè)時(shí)間片的通行時(shí)間。

23.根據(jù)權(quán)利要求15所述的裝置，其中，所述第一未來通行時(shí)間真實(shí)值包括第一路段未來通行時(shí)間真實(shí)值和第一路段序列未來通行時(shí)間真實(shí)值，所述第一未來通行時(shí)間預(yù)測(cè)值包括第一路段未來通行時(shí)間預(yù)測(cè)值和第一未來路段序列通行時(shí)間預(yù)測(cè)值；以及

24.根據(jù)權(quán)利要求15所述的裝置，其中，所述裝置還包括：

25.根據(jù)權(quán)利要求24所述的裝置，其中，所述裝置還包括：

26.一種通行時(shí)間預(yù)測(cè)裝置，包括：

27.根據(jù)權(quán)利要求26所述的裝置，其中，所述裝置還包括：

28.根據(jù)權(quán)利要求26或27所述的裝置，其中，所述裝置還包括：

29.一種電子設(shè)備，包括：

30.一種存儲(chǔ)有計(jì)算機(jī)指令的非瞬時(shí)計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，所述計(jì)算機(jī)指令用于使所述計(jì)算機(jī)執(zhí)行權(quán)利要求1-11或12-14中任一項(xiàng)所述的方法。

31.一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序，所述計(jì)算機(jī)程序在被處理器執(zhí)行時(shí)實(shí)現(xiàn)根據(jù)權(quán)利要求1-11或12-14中任一項(xiàng)所述的方法。

技術(shù)總結(jié)
本公開提供了一種交通大模型訓(xùn)練方法和裝置，涉及人工智能技術(shù)領(lǐng)域，具體為深度學(xué)習(xí)技術(shù)領(lǐng)域，可應(yīng)用于智能交通領(lǐng)域。該方法的一具體實(shí)施方式包括：獲取訓(xùn)練樣本，其中，訓(xùn)練樣本包括第一歷史交通數(shù)據(jù)和第一未來通行時(shí)間真實(shí)值；對(duì)第一歷史交通數(shù)據(jù)進(jìn)行特征提取，得到第一歷史交通特征；將第一歷史交通特征輸入至轉(zhuǎn)換器模型，得到第一未來通行時(shí)間預(yù)測(cè)值；基于第一未來通行時(shí)間預(yù)測(cè)值和第一未來通行時(shí)間真實(shí)值，計(jì)算第一損失；基于第一損失調(diào)整轉(zhuǎn)換器模型的參數(shù)，得到交通大模型。該實(shí)施方式交通大模型可以用于預(yù)測(cè)未來通行時(shí)間，提高了通行時(shí)間的預(yù)測(cè)準(zhǔn)確度。

技術(shù)研發(fā)人員：劉瑩,劉果,武治,肖飛
受保護(hù)的技術(shù)使用者：百度在線網(wǎng)絡(luò)技術(shù)（北京）有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2024/9/26