本發(fā)明涉及沉降預(yù)測領(lǐng)域,特別是指基于智能恢復(fù)的地表沉降數(shù)據(jù)實(shí)現(xiàn)沉降預(yù)測的方法和裝置。
背景技術(shù):
1、地鐵建設(shè)中的空間受限,在盾構(gòu)作業(yè)時(shí)不可避免對(duì)現(xiàn)場安裝的傳感器或數(shù)據(jù)采集器造成破壞和損傷,導(dǎo)致數(shù)據(jù)丟失或缺失,甚至傳感器失效。即使在地表位置安裝相應(yīng)的沉降監(jiān)測裝置,但由于暴露在外界環(huán)境中同樣會(huì)引發(fā)數(shù)據(jù)的不完整性或數(shù)據(jù)缺失問題。目前大多采用人工智能方法建立的地表沉降預(yù)測模型多使用完整的數(shù)據(jù)集,但實(shí)際收集過程中獲得傳感器的完整數(shù)據(jù)是十分困難的,數(shù)據(jù)不完整或丟失的情況是必然存的,這有必要進(jìn)一步分析考慮。
2、最重要的是數(shù)據(jù)采集器的數(shù)據(jù)丟失是一個(gè)隨機(jī)過程,特別是所有傳感器均存在數(shù)據(jù)丟失的情況,這極大增加了數(shù)據(jù)恢復(fù)的難度?,F(xiàn)存的大多研究仍需利用部分正常傳感器通過相關(guān)技術(shù)來恢復(fù)出完整的數(shù)據(jù)集,鮮有研究對(duì)所有傳感器均存在數(shù)據(jù)丟失的情況下的數(shù)據(jù)恢復(fù)進(jìn)行研究。
3、在過去的十年間,大多研究著重于預(yù)測盾構(gòu)誘發(fā)的最大地表沉降值,但盾構(gòu)掘進(jìn)是一個(gè)連續(xù)的過程,僅預(yù)測最大地表沉降無法反應(yīng)盾構(gòu)與地層間的復(fù)雜的內(nèi)在聯(lián)系。因此有必要對(duì)盾構(gòu)過程中地表沉降的發(fā)展過程進(jìn)行深入研究。近年來學(xué)者開始側(cè)重于地表沉降發(fā)展過程的預(yù)測研究,現(xiàn)階段應(yīng)用最為廣泛的是長短期記憶(long?short?term?memory,lstm)神經(jīng)網(wǎng)絡(luò)模型,其是循環(huán)神經(jīng)網(wǎng)絡(luò)的一種變體結(jié)構(gòu),能夠捕捉時(shí)間序列任務(wù)中的相關(guān)信息,但其對(duì)長序列數(shù)據(jù)可能無效且無法捕捉數(shù)據(jù)間的全局特征。
技術(shù)實(shí)現(xiàn)思路
1、本發(fā)明的主要目的在于克服現(xiàn)有技術(shù)中的上述缺陷,提出一種基于智能恢復(fù)的地表沉降數(shù)據(jù)實(shí)現(xiàn)沉降預(yù)測的方法和裝置,對(duì)多通道不完整沉降數(shù)據(jù)集進(jìn)行聯(lián)合恢復(fù),產(chǎn)生完整的數(shù)據(jù)集。繼而使用恢復(fù)后的完整數(shù)據(jù)集建立預(yù)測模型,采用多頭自注意力機(jī)制(multi-head?self-attention?mechanism,mhsam)對(duì)lstm神經(jīng)網(wǎng)絡(luò)模型進(jìn)行改進(jìn)以提升其對(duì)盾構(gòu)誘發(fā)的地表沉降的預(yù)測精度。
2、本發(fā)明采用如下技術(shù)方案:
3、一種基于智能恢復(fù)的地表沉降數(shù)據(jù)實(shí)現(xiàn)沉降預(yù)測的方法,
4、獲取某一段時(shí)間的連續(xù)沉降的觀測數(shù)據(jù),所述觀測數(shù)據(jù)是具有一定隨機(jī)缺失的不完整的地表沉降數(shù)據(jù)矩陣,定義掩碼矩陣來標(biāo)注所述觀測數(shù)據(jù)中缺失數(shù)據(jù)位置的信息,通過所述掩碼矩陣來模擬缺失點(diǎn)的位置生成不完整的數(shù)據(jù)矩陣;
5、構(gòu)建多通道沉降數(shù)據(jù)修補(bǔ)深度學(xué)習(xí)模型,所述多通道沉降數(shù)據(jù)修補(bǔ)深度學(xué)習(xí)模型包括生成網(wǎng)絡(luò)和對(duì)抗網(wǎng)絡(luò),將所述不完整的數(shù)據(jù)矩陣、所述掩碼矩陣和隨機(jī)噪聲矩陣輸入所述生成網(wǎng)絡(luò)得到恢復(fù)后的完整沉降數(shù)據(jù)矩陣;基于所述掩碼矩陣生成提示矩陣,將所述完整沉降數(shù)據(jù)矩陣和所述提示矩陣輸入所述對(duì)抗網(wǎng)絡(luò)得到所述完整沉降數(shù)據(jù)矩陣中數(shù)值真假的概率矩陣;
6、構(gòu)建基于mhsam-lstm深度學(xué)習(xí)模型的沉降預(yù)測模型,根據(jù)所述完整沉降數(shù)據(jù)矩陣中數(shù)值真假的概率矩陣將符合要求的所述完整沉降數(shù)據(jù)矩陣輸入的所述沉降預(yù)測模型進(jìn)行沉降預(yù)測并輸出預(yù)測結(jié)果。
7、在盾構(gòu)隧道上方位置進(jìn)行監(jiān)測點(diǎn)布置,采用光纖布拉格光柵數(shù)據(jù)采集器獲取某一段時(shí)間的連續(xù)沉降的觀測數(shù)據(jù)。
8、所述生成網(wǎng)絡(luò)包括第一輸入層、第一特征提取模塊、第一池化層、第一自注意力層、第二特征提取模塊、第二自注意力層、第一上采樣層、第三特征提取模塊和第一輸出層;所述不完整的數(shù)據(jù)矩陣、所述掩碼矩陣和隨機(jī)噪聲矩陣經(jīng)所述第一輸入層輸入所述第一特征提取模塊進(jìn)行特征提取輸出第一過渡矩陣;所述第一過渡矩陣分別傳遞給所述第一池化層和所述第一上采樣層;所述第一過渡矩陣經(jīng)所述第一池化層輸入至所述第一自注意力層,再傳遞至所述第二特征提取模塊進(jìn)行特征提取輸出第二過渡矩陣;所述第一過渡矩陣和所述第二過渡矩陣輸入至所述第一上采樣層然后通過到第三特征提取模塊進(jìn)行特征提取,從所述第一輸出層輸出得到所述恢復(fù)后的完整沉降數(shù)據(jù)矩陣。
9、所述第一特征提取模塊包括依次設(shè)置的第一卷積層、第一密集連接層、第一歸一化層、第二卷積層和第二歸一化層;所述第二特征提取模塊包括依次設(shè)置的第三卷積層、第二密集連接層、第三歸一化層、第四卷積層和第四歸一化層;所述第三特征提取模塊包括依次設(shè)置的第五卷積層和第五批歸一化層;所述第一密集連接層和所述第二密集連接層分別包括依次設(shè)置的四個(gè)卷積層,將前一卷積層的特征輸出傳遞并作為后一卷積層的輸入。
10、所述對(duì)抗網(wǎng)絡(luò)包括第二輸入層、第四特征提取模塊、第二池化層、第五特征提取模塊、第二上采樣層、第六特征提取模塊和第二輸出層;所述完整沉降數(shù)據(jù)矩陣和所述提示矩陣經(jīng)所述第二輸入層輸入所述第四特征提取模塊進(jìn)行特征提取輸出第三過渡矩陣;所述第三過渡矩陣分別傳遞給所述第二池化層和所述第二上采樣層;所述第三過渡矩陣經(jīng)所述第二池化層輸入至所述第五特征提取模塊進(jìn)行特征提取輸出第四過渡矩陣;所述第三過渡矩陣和所述第四過渡矩陣輸入至所述第二上采樣層然后通過到第六特征提取模塊進(jìn)行特征提取,從所述第二輸出層輸出得到所述概率矩陣。
11、所述第四特征提取模塊包括依次設(shè)置的第一卷積層、第一密集連接層、第一歸一化層、第二卷積層和第二歸一化層;所述第五特征提取模塊包括依次設(shè)置的第二密集連接層、第三歸一化層、第三卷積層、第三密集連接層、第四歸一化層和第四卷積層;所述第六特征提取模塊包括依次設(shè)置的第五卷積層和第五批歸一化層;所述第一密集連接層、所述第二密集連接層和所述第三密集連接層分別包括四個(gè)卷積層,將每一卷積層的特征輸出傳遞并作為后面卷積層的輸入。
12、所述生成網(wǎng)絡(luò)包括二元交叉熵?fù)p失和rmse損失,其損失函數(shù)為:
13、;
14、所述對(duì)抗網(wǎng)絡(luò)的損失函數(shù)為:
15、;
16、其中,表示最小化目標(biāo)函數(shù),和表示目標(biāo)函數(shù),表示對(duì)變量、、的期望,為完整沉降數(shù)據(jù)矩陣;為不完整的數(shù)據(jù)矩陣;為掩碼矩陣;為哈達(dá)瑪積;為提示矩陣;d為對(duì)抗網(wǎng)絡(luò)運(yùn)算;表示超參數(shù)。
17、將所述完整沉降數(shù)據(jù)矩陣構(gòu)成的數(shù)據(jù)集分為訓(xùn)練集、驗(yàn)證集和測試集對(duì)所述沉降預(yù)測模型進(jìn)行訓(xùn)練、驗(yàn)證和測試以確定最優(yōu)的超參數(shù)組合;所述沉降預(yù)測模型包括三個(gè)lstm層和兩個(gè)mhsam層,所述lstm層用于捕捉所述完整沉降數(shù)據(jù)矩陣的具體特征,所述mhsam層設(shè)置于相鄰的兩所述lstm層之間以捕捉全局特征并從不同角度來豐富所捕捉數(shù)據(jù)的特征;所述沉降預(yù)測模型輸出預(yù)測結(jié)果以及對(duì)所述預(yù)測結(jié)果的評(píng)價(jià),所述評(píng)價(jià)包括均方誤差、平均絕對(duì)誤差和相關(guān)系數(shù)。
18、所述lstm層包括遺忘門、更新門、輸入門、細(xì)胞單元和輸出門,具體如下:
19、;
20、;
21、;
22、;
23、;
24、;
25、-c<t>表示當(dāng)前時(shí)刻參與計(jì)算的記憶細(xì)胞;?c<t-1>為下一時(shí)刻的記憶細(xì)胞;其中h<t>為t時(shí)刻的隱藏狀態(tài);x<t>、?h<t?-1>、c<t?-1>為輸入到lstm層中的向量;a<t>和c<t>表示輸出向量;?b?(bf,?bu,?bc,bo)?表示遺忘門、更新門、細(xì)胞單元和輸出門相應(yīng)的偏置值;w?(wf,?wu,wc,?wo)?表示遺忘門、更新門、細(xì)胞單元和輸出門相應(yīng)的權(quán)重值;σ和tanh分別是sigmoid激活函數(shù)和tanh激活函數(shù);γf為遺忘門,γu為更新門,γo為輸出門;
26、所述mhsam層包括q、k和k,分別表示查詢、鍵函和值,具體如下:
27、;
28、;
29、;
30、;
31、;
32、其中x為長度為n的輸入序列,用矩陣x∈rn×d表示,d表示序列中各位置的維度,dk表示第k個(gè)鍵的維度;wq、wk、wv是q、k、v所對(duì)應(yīng)的權(quán)重矩陣;a為注意力得分,softmax表示歸一化函數(shù);head[.]表示多頭自注意力運(yùn)算;attention(x)?為輸出;concat為合并多個(gè)多頭自注意力。
33、一種基于智能恢復(fù)的地表沉降數(shù)據(jù)實(shí)現(xiàn)沉降預(yù)測的裝置,包括:
34、數(shù)據(jù)獲取模塊,獲取某一段時(shí)間的連續(xù)沉降的觀測數(shù)據(jù),所述觀測數(shù)據(jù)是具有一定隨機(jī)缺失的不完整的地表沉降數(shù)據(jù)矩陣,定義掩碼矩陣來標(biāo)注所述觀測數(shù)據(jù)中缺失數(shù)據(jù)位置的信息,通過所述掩碼矩陣來模擬缺失點(diǎn)的位置生成不完整的數(shù)據(jù)矩陣;
35、數(shù)據(jù)修補(bǔ)模塊,構(gòu)建多通道沉降數(shù)據(jù)修補(bǔ)深度學(xué)習(xí)模型,所述多通道沉降數(shù)據(jù)修補(bǔ)深度學(xué)習(xí)模型包括生成網(wǎng)絡(luò)和對(duì)抗網(wǎng)絡(luò),將所述不完整的數(shù)據(jù)矩陣、所述掩碼矩陣和隨機(jī)噪聲矩陣輸入所述生成網(wǎng)絡(luò)得到恢復(fù)后的完整沉降數(shù)據(jù)矩陣;基于所述掩碼矩陣生成提示矩陣,將所述完整沉降數(shù)據(jù)矩陣和所述提示矩陣輸入所述對(duì)抗網(wǎng)絡(luò)得到所述完整沉降數(shù)據(jù)矩陣中數(shù)值真假的概率矩陣;
36、沉降預(yù)測模塊,構(gòu)建基于mhsam-lstm深度學(xué)習(xí)模型的沉降預(yù)測模型,根據(jù)所述完整沉降數(shù)據(jù)矩陣中數(shù)值真假的概率矩陣將符合要求的所述完整沉降數(shù)據(jù)矩陣輸入的所述沉降預(yù)測模型進(jìn)行沉降預(yù)測并輸出預(yù)測結(jié)果。
37、由上述對(duì)本發(fā)明的描述可知,與現(xiàn)有技術(shù)相比,本發(fā)明具有如下有益效果:
38、(1)本發(fā)明提出的多通道沉降數(shù)據(jù)修補(bǔ)深度學(xué)習(xí)模型dcl-sam-gain針對(duì)常出現(xiàn)的數(shù)據(jù)隨機(jī)缺失問題,在不完整數(shù)據(jù)集的情況下,重構(gòu)出失效的沉降觀測值的完整響應(yīng)。
39、(2)本發(fā)明的gain中生成網(wǎng)絡(luò)采用卷積網(wǎng)絡(luò)并結(jié)合sam對(duì)數(shù)據(jù)相關(guān)性特征提取,引入密集連接技術(shù)促進(jìn)層與層之間的信息流和提高網(wǎng)絡(luò)的參數(shù)利用率。gain中加入歸一化技術(shù),有利于底層細(xì)節(jié)的保存,并能有效緩解梯度消失的問題。通過對(duì)比gain和dcl-sam-gain模型對(duì)恢復(fù)后數(shù)據(jù)集的相對(duì)誤差,證明了本發(fā)明中的dcl-sam-gain對(duì)缺失數(shù)據(jù)恢復(fù)是有效的。
40、(3)相比于自注意力機(jī)制sam,mhsam能融合多種時(shí)間尺度的信息并通過多個(gè)注意力頭并行處理數(shù)據(jù),提升模型的預(yù)測效果。通過對(duì)比lstm,mhsam-lstm和sam-lstm預(yù)測模型,發(fā)現(xiàn)mhsam-lstm模型相比其他兩種模型具備更優(yōu)的預(yù)測效果。
41、(4)本發(fā)明所提出的dcl-sam-gain和mhsam-lstm的沉降數(shù)據(jù)恢復(fù)與預(yù)測模型從實(shí)際出發(fā),充分考慮了實(shí)際工程中沉降數(shù)據(jù)不完整或缺失的情況,在此技術(shù)上開發(fā)出了多通道數(shù)據(jù)集的聯(lián)合修復(fù)方法,并通過mhsam-lstm對(duì)恢復(fù)后的完整數(shù)據(jù)集進(jìn)行沉降預(yù)測,實(shí)現(xiàn)了較高的預(yù)測精度。相比于傳統(tǒng)的多采用完整數(shù)據(jù)集進(jìn)行沉降預(yù)測的研究更符合實(shí)際應(yīng)用場景,同時(shí)相比于自注意力機(jī)制提升的lstm模型具備更優(yōu)異的預(yù)測效果。