一種基于自編碼器的心肌缺血位置的預測方法
【專利摘要】本發(fā)明公開了一種基于自編碼器的心肌缺血位置的預測方法，該預測方法結(jié)合深度學習，對心肌缺血的運動場信息進行稀疏編碼，能夠?qū)π募∪毖恢眠M行準確的預測；與臨床上現(xiàn)有的心肌缺血診斷手段相比，本發(fā)明不需要給病人注射造影劑進行延遲增強造影，而是通過普通磁共振電影序列數(shù)據(jù)就可以對心肌缺血的位置進行準確的預測。
【專利說明】
一種基于自編碼器的心肌缺血位置的預測方法
技術(shù)領(lǐng)域
[0001] 本發(fā)明屬于心臟運動分析技術(shù)領(lǐng)域，具體涉及一種基于自編碼器的心肌缺血位置 的預測方法。
【背景技術(shù)】
[0002] 心臟可以看作一個彈性體，正常的組織和病變組織往往具有不同的運動特征，因 此對心肌運動進行定量分析，對診斷心肌缺血具有重要意義。心臟發(fā)生形變的程度可以用 彈性力學中的應變來描述，根據(jù)應變的定義，需要先求出心肌的位移場，再計算其偏導數(shù)。 因此對心肌應變場的分析就轉(zhuǎn)化為計算心肌的運動場，而且在計算過程中需要注意對噪聲 的抑制，因為位移場的噪聲在求取應變的時候會由于導數(shù)而放大，這對成像和計算的精確 度有了更高的要求。
[0003] 對心臟運動的定量分析有很多種方法，研究人員在早期把許多自然圖像處理的方 法和理論引入心臟運動的定量分析，包括光流場(Optical Flow)以及通過基于曲率的匹配 和基于標記的方法來尋找圖像序列中的觀測點之間對應關(guān)系等。追蹤人工植入標記的方法 可以作為分析心臟運動的金標準，但是這樣侵入式的方法可能影響心臟原有的運動規(guī)律， 也有可能給病人帶來額外的健康風險。結(jié)合現(xiàn)代醫(yī)學影像模式，比如核磁共振標記等方法 在分析心臟運動領(lǐng)域可以克服前面提出的若干問題，具有安全、準確等優(yōu)點。
[0004] 然而目前臨床上診斷心肌缺血以核磁共振延遲對比增強（Delay Contrast Enhancement)影像作為金標準，為了獲得延遲對比增強影像需要病人注射造影劑，這樣的 做法增加了診斷心肌缺血的成本和安全風險。因此，如何從現(xiàn)有的核磁共振電影序列出發(fā)， 對心肌缺血的特征進行表達，進一步給出有效的診斷和缺血位置預測成為一個十分有意義 的研究問題。

【發(fā)明內(nèi)容】

[0005] 針對現(xiàn)有技術(shù)所存在的上述技術(shù)問題，本發(fā)明提供了一種基于自編碼器的心肌缺 血位置的預測方法，通過深度神經(jīng)網(wǎng)絡(luò)學習表達心肌缺血的運動特征信息，最終以磁共振 電影序列數(shù)據(jù)為依據(jù)，對心肌缺血的位置進行有效的預測。
[0006] -種基于自編碼器的心肌缺血位置的預測方法，包括如下步驟：
[0007] (1)采集同一心動周期內(nèi)關(guān)于心肌缺血的多幀磁共振電影序列影像作為一組訓練 樣本，依此對連續(xù)多個心動周期進行采集對應得到多組訓練樣本；
[0008] (2)對所述的訓練樣本進行特征提取，以得到左心內(nèi)膜邊界的運動場信息；
[0009] (3)對于任一組訓練樣本，根據(jù)其對應的磁共振延遲對比增強影像通過人工判斷 對該影像中左心室缺血位置進行標記，得到該訓練樣本對應心肌缺血位置的標簽圖像；
[0010] (4)構(gòu)建由多個自編碼器累加而成的神經(jīng)網(wǎng)絡(luò)模型，進而使訓練樣本對應的運動 場信息作為輸入量，對應的標簽圖像作為輸出量對該神經(jīng)網(wǎng)絡(luò)模型進行訓練，并最終確立 得到心肌缺血位置的預測模型；
[0011] (5)根據(jù)步驟（1)采集同一心動周期內(nèi)關(guān)于心肌缺血的多幀磁共振電影序列影像 作為一組測試數(shù)據(jù);然后根據(jù)步驟(2)對測試數(shù)據(jù)進行特征提取，得到測試數(shù)據(jù)關(guān)于左心內(nèi) 膜邊界的運動場信息；最后將測試數(shù)據(jù)的運動場信息輸入上述預測模型中，從而輸出得到 對應關(guān)于心肌缺血位置的標簽圖像。
[0012] 所述的步驟(2)中在特征提取之前，先對訓練樣本中各幀磁共振電影序列影像依 次進行高斯平滑和各向異性擴散濾波的預處理;能夠?qū)崿F(xiàn)對訓練集數(shù)據(jù)中噪聲的抑制，各 向異性擴散濾波在去除噪聲的同時還能夠較好地保持圖像的邊緣和重要細節(jié)信息。
[0013] 所述的步驟(2)中對訓練樣本進行特征提取的過程依次包括心內(nèi)膜邊界提取和軌 跡追蹤測量。
[0014] 所述心內(nèi)膜邊界提取的過程為:首先，對于訓練樣本中任一幀磁共振電影序列影 像，通過人工在該影像上粗略地勾勒出左心室的心內(nèi)膜邊界曲線，以此作為初始狀態(tài);然 后，采用梯度矢量流計算圖像灰度在兩個正交方向上的梯度作為外力場，計算心內(nèi)膜邊界 曲線的彈性能量和彎曲能量作為內(nèi)力場;最后，利用Snake算法使心內(nèi)膜邊界曲線在外力場 和內(nèi)力場的作用下達到平衡狀態(tài)，平衡狀態(tài)下左心室的心內(nèi)膜邊界曲線即作為該幀磁共振 電影序列影像的心內(nèi)膜邊界提取結(jié)果。
[0015] 所述軌跡追蹤測量的方法為:在完成對訓練樣本的心內(nèi)膜邊界提取后，采用基于 形狀特征的追蹤算法，確定同一心動周期內(nèi)左心室的心內(nèi)膜邊界曲線上每一邊緣像素點在 各幀磁共振電影序列影像中的對應關(guān)系，從而得到左心內(nèi)膜邊界的運動場信息；左心內(nèi)膜 邊界的運動場信息由左心室的心內(nèi)膜邊界曲線上所有邊緣像素點的運動軌跡組成，任一邊 緣像素點的運動軌跡即為該點在各幀磁共振電影序列影像中的坐標信息所組成的列向量。
[0016] 所述的自編碼器由輸入層、隱藏層和輸出層組成;其中，前一個自編碼器的隱藏層 為后一個自編碼器的輸入層;對于任一自編碼器，其隱藏層的神經(jīng)元個數(shù)比輸入層的神經(jīng) 元個數(shù)少。
[0017] 所述自編碼器的函數(shù)模型如下：
[0018] h = 〇(wt+b)
[0019] z = 〇(w，h+b，)
[0020] 其中：t、h和z分別為自編碼器的輸入層、隱藏層和輸出層，w和b均為輸入層與隱藏 層之間的模型參數(shù)，w'和b'均為隱藏層與輸出層之間的模型參數(shù)， 〇(s)為神經(jīng)元函數(shù)且
,s為神經(jīng)元函數(shù)0(s)的自變量。
[0021 ]所述的步驟(4)中對神經(jīng)網(wǎng)絡(luò)模型進行訓練的具體方法如下：
[0022] 對于神經(jīng)網(wǎng)絡(luò)模型中的第一個自編碼器，以訓練樣本的輸入量作為該自編碼器的 輸入層，使該自編碼器輸出層與輸入層的損失函數(shù)L最小為目標，通過梯度下降法求解出該 自編碼器輸入層與隱藏層之間以及隱藏層與輸出層之間的模型參數(shù)；
[0023] 對于神經(jīng)網(wǎng)絡(luò)模型中除第一個和最后一個以外的任一自編碼器，以前一個自編碼 器的隱藏層作為該自編碼器的輸入層，使該自編碼器輸出層與輸入層的損失函數(shù)L最小為 目標，通過梯度下降法求解出該自編碼器輸入層與隱藏層之間以及隱藏層與輸出層之間的 模型參數(shù)；
[0024] 對于神經(jīng)網(wǎng)絡(luò)模型中的最后一個自編碼器，以前一個自編碼器的隱藏層作為該自 編碼器的輸入層，使訓練樣本的輸出量與該自編碼器輸入層的損失函數(shù)L'最小為目標，通 過反向傳播法求解出該自編碼器輸入層與隱藏層之間以及隱藏層與輸出層之間的模型參 數(shù)。
[0025]所述的損失函數(shù)L和L'的表達式如下：
[0028]其中：x為訓練樣本的輸出量，N為訓練樣本的個數(shù)，KL(h| |p)表示h與P之間的相對 熵即KL散度，P為對應h的期望平均激活函數(shù)，λ和β均為權(quán)重系數(shù)。
[0029] 本發(fā)明心肌缺血位置的預測方法結(jié)合深度學習，對心肌缺血的運動場信息進行稀 疏編碼，能夠?qū)π募∪毖恢眠M行準確的預測;與臨床上現(xiàn)有的心肌缺血診斷手段相比，本 發(fā)明不需要給病人注射造影劑進行延遲增強造影，而是通過普通磁共振電影序列數(shù)據(jù)就可 以對心肌缺血的位置進行準確的預測。
【附圖說明】
[0030] 圖1為本發(fā)明基于自編碼器神經(jīng)網(wǎng)絡(luò)模型預測心肌缺血位置的框架示意圖。
[0031] 圖2(a)為心臟短軸方向的磁共振延遲對比增強影像。
[0032] 圖2(b)為左心室在分成4扇區(qū)時預測的缺血位置的標簽圖像。
[0033] 圖2(c)為左心室在分成8扇區(qū)時預測的缺血位置的標簽圖像。
[0034]圖2(d)為左心室在分成12扇區(qū)時預測的缺血位置的標簽圖像。
【具體實施方式】
[0035] 為了更為明確地描述本發(fā)明，下面結(jié)合附圖及【具體實施方式】對本發(fā)明的技術(shù)方案 進行詳細說明。
[0036] 本發(fā)明基于自編碼器的心肌缺血位置的預測方法，具體實施步驟如下：
[0037] S1.獲取訓練樣本。
[0038] 采集心肌缺血病人的磁共振電影序列數(shù)據(jù)和磁共振延遲對比增強數(shù)據(jù)，要求同一 心動周期內(nèi)采集不少于5幀圖像，并以若干個心動周期的上述影像作為訓練集，其中磁共振 電影序列數(shù)據(jù)用于提供心臟運動場信息，延遲對比增強數(shù)據(jù)用于提供訓練所需的心肌缺血 位置標簽。
[0039] S2.對訓練樣本進行濾波。
[0040] 對訓練集中每個心動周期的數(shù)據(jù)進行預處理，包括高斯平滑和各向異性擴散濾 波，實現(xiàn)對訓練集數(shù)據(jù)中噪聲的抑制，各向異性擴散濾波在去除噪聲的同時還能夠較好地 保持圖像的邊緣和重要細節(jié)信息。
[0041] S3.提取心內(nèi)膜邊界。
[0042] 采用梯度矢量流(Gradient vector flow)計算邊緣圖的外力場，利用Snake算法 對左心室進行分割，從而實現(xiàn)了心內(nèi)膜邊界提取。具體地:對于心臟磁共振電影序列的某一 幀短軸圖像，先通過人工標記的方法粗略地畫出左心室的心內(nèi)膜邊界曲線，以此作為初始 狀態(tài);然后計算圖像灰度在兩個正交方向上的梯度作為外力場(也稱為GVF場），計算邊界曲 線的彈性能量和彎曲能量作為內(nèi)力場，最終心內(nèi)膜邊界曲線在外力場和內(nèi)力場的作用下達 到平衡狀態(tài)，停留在圖像灰度梯度值較大的地方，同時保持曲線的連續(xù)性和平滑性。
[0043] S4.獲取心肌的運動場信息和缺血位置標簽。
[0044] 采用基于形狀特征的追蹤算法，確定了同一心動周期內(nèi)相鄰幀圖像上邊界點之間 的對應關(guān)系，從而實現(xiàn)了心肌運動軌跡的追蹤測量。具體地:將一個心動周期里心內(nèi)膜邊界 點的運動場寫成一個列向量，再加上相應的標示心肌缺血位置的標簽，便組成了一個訓練 樣本，追蹤多個心動周期的心肌運動軌跡，進而組建得到多組訓練樣本;每組訓練樣本包括 左心內(nèi)膜邊界的運動場信息和相應的缺血位置標簽，運動場信息包括通過估計得到的左心 室心內(nèi)膜輪廓上若干點在同一心動周期內(nèi)的對應關(guān)系，缺血位置標簽P為通過相應的磁共 振延遲對比增強影像判斷得到，其中P=1表示延遲對比增強影像中該位置出現(xiàn)心肌缺血癥 狀，P = 0表示影像中該位置沒有明顯的缺血癥狀。
[0045] S5.構(gòu)建基于自編碼器的神經(jīng)網(wǎng)絡(luò)模型。
[0046] 構(gòu)建由多個自編碼器疊加而成的深度神經(jīng)網(wǎng)絡(luò)模型，如圖1所示；自編碼器基本結(jié) 構(gòu)由輸入層、隱藏層和輸出層組成;前一個自編碼器的隱藏層可以作為下一個自編碼器的 輸入層;而且對于任意一個自編碼器，其隱藏層的節(jié)點個數(shù)比輸入層的節(jié)點個數(shù)少。選取若 干種不同的隱藏層節(jié)點個數(shù)組合，設(shè)計測試實驗確定隱藏層節(jié)點數(shù)，需要綜合考慮預測精 確度和程序運行時間兩方面的因素。自編碼器的函數(shù)模型如下：
[0047] h = 〇(wt+b)
[0048] z = 〇(w，h+b，)
[0049] 其中：t、h和z分別為自編碼器的輸入層、隱藏層和輸出層，w和b均為輸入層與隱藏 層之間的模型參數(shù)，w'和b'均為隱藏層與輸出層之間的模型參數(shù)， 〇(s)為神經(jīng)元函數(shù)且
,s為神經(jīng)元函數(shù)0(s)的自變量。
[0050] S6.將心肌運動場信息和相應標簽用于訓練由堆疊自動編碼器構(gòu)成的深度神經(jīng)網(wǎng) 絡(luò)結(jié)構(gòu)，得到每一層的結(jié)構(gòu)參數(shù)，包括權(quán)重矩陣W和偏置b等。
[0051 ]首先將訓練樣本的輸入量作為該自編碼器的輸入層，以該自編碼器輸出層與輸入 層的損失函數(shù)L最小為目標，通過梯度下降法求解出該自編碼器輸入層與隱藏層之間以及 隱藏層與輸出層之間的結(jié)構(gòu)參數(shù)；
[0052] 對于神經(jīng)網(wǎng)絡(luò)模型中除第一個和最后一個以外的任一自編碼器，以前一個自編碼 器的隱藏層作為該自編碼器的輸入層，使該自編碼器輸出層與輸入層的損失函數(shù)L最小為 目標，通過梯度下降法求解出該自編碼器輸入層與隱藏層之間以及隱藏層與輸出層之間的 結(jié)構(gòu)參數(shù)；
[0053] 對于神經(jīng)網(wǎng)絡(luò)模型中的最后一個自編碼器，以前一個自編碼器的隱藏層作為該自 編碼器的輸入層，使訓練樣本的輸出量與該自編碼器輸入層的損失函數(shù)L最小為目標，通過 反向傳播法求解出該自編碼器輸入層與隱藏層之間以及隱藏層與輸出層之間的模型參數(shù)。
[0054] 損失函數(shù)L定義如下：
[0056]其中：pj表示第1層中第j個單位的平均激活函數(shù)，P是對應單元的期望平均激活函 數(shù)，N表示訓練集中樣本的個數(shù)。最后一項為KL散度，定義如下，
[0058] 損失函數(shù)中的第一項是輸出值和輸入值的均方根誤差，在重建過程中要使其盡可 能地小;第二項是正則項，使得權(quán)重矩陣極可能接近零;第三項起稀疏約束作用，最終隱藏 層中大部分單位激活值為〇,將不起作用，從而確保輸入層與隱藏層、隱藏層和輸出層之間 的稀疏連接。
[0059] S7.將測試數(shù)據(jù)輸入模型，得到心肌缺血位置標簽。
[0060] 根據(jù)步驟S1采集同一心動周期內(nèi)的多幀磁共振電影序列數(shù)據(jù)作為測試數(shù)據(jù);然后 根據(jù)步驟S2對測試集數(shù)據(jù)進行預處理，根據(jù)步驟S3和S4通過追蹤同一個心動周期的心肌運 動軌跡得到心肌的運動場信息；最后將心肌的運動場信息輸入上述神經(jīng)網(wǎng)絡(luò)模型中，從而 輸出得到預測心肌缺血位置的標簽圖像。
[0061] 將預測得到的心肌缺血位置標簽圖像與磁共振延遲對比增強影像真值對比如圖2 所示，可見采用本發(fā)明預測得到的缺血位置與真實缺血位置非常接近。
[0062]以下我們通過實驗來驗證本發(fā)明的可靠性，實驗的運行環(huán)境為：8G內(nèi)存，CHJ為 intel i5,主頻3.47GHz。結(jié)合表1的測試實驗結(jié)果，在該實驗中采用兩個隱含層，第一個隱 含層有100個節(jié)點，第二個隱含層有30個節(jié)點，該節(jié)點數(shù)組合在預測缺血位置的準確率方面 優(yōu)于其它9種組合方案，并且在訓練時間上也可以接受。需要注意的是，在測試實驗中采用 三個隱含層時，也可以達到相同的最高準確率，但是訓練時間顯著增長，因此在同等條件 下，我們選擇設(shè)置兩個隱含層，并將該組合方案應用到后續(xù)所有的實驗中。
[0063] 表 1
[0064]
[0066]通過前邊的測試實驗，可以確定深度網(wǎng)絡(luò)的隱含層節(jié)點數(shù)和隱含層數(shù)量，然后將 該網(wǎng)絡(luò)在經(jīng)過數(shù)據(jù)預處理后的訓練集上訓練，先后經(jīng)過預訓練和基于反向傳播算法的調(diào)優(yōu) 兩個過程，最終確定深度網(wǎng)絡(luò)的其它結(jié)構(gòu)參數(shù)比如權(quán)重系數(shù)和偏置等。
[0067] 為了排除數(shù)據(jù)特異性對深度神經(jīng)網(wǎng)絡(luò)參數(shù)訓練的影響，更加精確地反映所訓練的 深度神經(jīng)網(wǎng)絡(luò)性能，實驗中采取了五折交叉驗證(five-fold cross-validation)框架。在 五折交叉驗證框架下，我們將得到的數(shù)據(jù)集隨機地分成5份，然后每次將其中一份數(shù)據(jù)用作 測試集，另外的四份數(shù)據(jù)用于訓練深度神經(jīng)網(wǎng)絡(luò)得到心肌缺血位置預測模型。這一過程先 后重復5次，從而保證每一部分數(shù)據(jù)都被測試過，最后將預測的平均準確率作為衡量預測模 型精確度的指標。表2顯示了訓練得到的深度神經(jīng)網(wǎng)絡(luò)在五折交叉驗證框架下，先后5次實 驗中將左心室劃分為不同數(shù)量的扇區(qū)時對心肌缺血位置的預測準確率。
[0068] 表 2
[0069]
[0070] 上述的對實施例的描述是為便于本技術(shù)領(lǐng)域的普通技術(shù)人員能理解和應用本發(fā) 明。熟悉本領(lǐng)域技術(shù)的人員顯然可以容易地對上述實施例做出各種修改，并把在此說明的 一般原理應用到其他實施例中而不必經(jīng)過創(chuàng)造性的勞動。因此，本發(fā)明不限于上述實施例， 本領(lǐng)域技術(shù)人員根據(jù)本發(fā)明的揭示，對于本發(fā)明做出的改進和修改都應該在本發(fā)明的保護 范圍之內(nèi)。
【主權(quán)項】
1. 一種基于自編碼器的心肌缺血位置的預測方法，包括如下步驟： (1) 采集同一心動周期內(nèi)關(guān)于心肌缺血的多幀磁共振電影序列影像作為一組訓練樣 本，依此對連續(xù)多個心動周期進行采集對應得到多組訓練樣本； (2) 對所述的訓練樣本進行特征提取，以得到左心內(nèi)膜邊界的運動場信息； (3) 對于任一組訓練樣本，根據(jù)其對應的磁共振延遲對比增強影像通過人工判斷對該 影像中左心室缺血位置進行標記，得到該訓練樣本對應心肌缺血位置的標簽圖像； (4) 構(gòu)建由多個自編碼器累加而成的神經(jīng)網(wǎng)絡(luò)模型，進而使訓練樣本對應的運動場信 息作為輸入量，對應的標簽圖像作為輸出量對該神經(jīng)網(wǎng)絡(luò)模型進行訓練，并最終確立得到 心肌缺血位置的預測模型； (5) 根據(jù)步驟（1)采集同一心動周期內(nèi)關(guān)于心肌缺血的多幀磁共振電影序列影像作為 一組測試數(shù)據(jù);然后根據(jù)步驟(2)對測試數(shù)據(jù)進行特征提取，得到測試數(shù)據(jù)關(guān)于左心內(nèi)膜邊 界的運動場信息；最后將測試數(shù)據(jù)的運動場信息輸入上述預測模型中，從而輸出得到對應 關(guān)于心肌缺血位置的標簽圖像。2. 根據(jù)權(quán)利要求1所述的預測方法，其特征在于:所述的步驟(2)中在特征提取之前，先 對訓練樣本中各幀磁共振電影序列影像依次進行高斯平滑和各向異性擴散濾波的預處理。3. 根據(jù)權(quán)利要求1所述的預測方法，其特征在于:所述的步驟(2)中對訓練樣本進行特 征提取的過程依次包括心內(nèi)膜邊界提取和軌跡追蹤測量。4. 根據(jù)權(quán)利要求3所述的預測方法，其特征在于:所述心內(nèi)膜邊界提取的過程為:首先， 對于訓練樣本中任一幀磁共振電影序列影像，通過人工在該影像上粗略地勾勒出左心室的 心內(nèi)膜邊界曲線，以此作為初始狀態(tài);然后，采用梯度矢量流計算圖像灰度在兩個正交方向 上的梯度作為外力場，計算心內(nèi)膜邊界曲線的彈性能量和彎曲能量作為內(nèi)力場;最后，利用 Snake算法使心內(nèi)膜邊界曲線在外力場和內(nèi)力場的作用下達到平衡狀態(tài)，平衡狀態(tài)下左心 室的心內(nèi)膜邊界曲線即作為該幀磁共振電影序列影像的心內(nèi)膜邊界提取結(jié)果。5. 根據(jù)權(quán)利要求4所述的預測方法，其特征在于:所述軌跡追蹤測量的方法為:在完成 對訓練樣本的心內(nèi)膜邊界提取后，采用基于形狀特征的追蹤算法，確定同一心動周期內(nèi)左 心室的心內(nèi)膜邊界曲線上每一邊緣像素點在各幀磁共振電影序列影像中的對應關(guān)系，從而 得到左心內(nèi)膜邊界的運動場信息;左心內(nèi)膜邊界的運動場信息由左心室的心內(nèi)膜邊界曲線 上所有邊緣像素點的運動軌跡組成，任一邊緣像素點的運動軌跡即為該點在各幀磁共振電 影序列影像中的坐標信息所組成的列向量。6. 根據(jù)權(quán)利要求1所述的預測方法，其特征在于:所述的自編碼器由輸入層、隱藏層和 輸出層組成;其中，前一個自編碼器的隱藏層為后一個自編碼器的輸入層;對于任一自編碼 器，其隱藏層的神經(jīng)元個數(shù)比輸入層的神經(jīng)元個數(shù)少。7. 根據(jù)權(quán)利要求6所述的預測方法，其特征在于:所述自編碼器的函數(shù)模型如下： h = 〇(wt+b) z = 〇(w，h+b，） 其中：t、h和Z分別為自編碼器的輸入層、隱藏層和輸出層，W和b均為輸入層與隱藏層之 間的模型參數(shù)，W'和b'均為隱藏層與輸出層之間的模型參數(shù)，〇(s)為神經(jīng)元函數(shù)且 CF(ty)^ 1 ，S為神經(jīng)元函數(shù)〇(s)的自變量。 w 1 + e8. 根據(jù)權(quán)利要求7所述的預測方法，其特征在于:所述的步驟(4)中對神經(jīng)網(wǎng)絡(luò)模型進 行訓練的具體方法如下： 對于神經(jīng)網(wǎng)絡(luò)模型中的第一個自編碼器，以訓練樣本的輸入量作為該自編碼器的輸入 層，使該自編碼器輸出層與輸入層的損失函數(shù)L最小為目標，通過梯度下降法求解出該自編 碼器輸入層與隱藏層之間以及隱藏層與輸出層之間的模型參數(shù)； 對于神經(jīng)網(wǎng)絡(luò)模型中除第一個和最后一個以外的任一自編碼器，以前一個自編碼器的 隱藏層作為該自編碼器的輸入層，使該自編碼器輸出層與輸入層的損失函數(shù)L最小為目標， 通過梯度下降法求解出該自編碼器輸入層與隱藏層之間以及隱藏層與輸出層之間的模型 參數(shù)； 對于神經(jīng)網(wǎng)絡(luò)模型中的最后一個自編碼器，以前一個自編碼器的隱藏層作為該自編碼 器的輸入層，使訓練樣本的輸出量與該自編碼器輸入層的損失函數(shù)L'最小為目標，通過反 向傳播法求解出該自編碼器輸入層與隱藏層之間以及隱藏層與輸出層之間的模型參數(shù)。9. 根據(jù)權(quán)利要求8所述的預測方法，其特征在于:所述的損失函數(shù)L和L '的表達式如下：其中：X為訓練樣本的輸出量，N為訓練樣本的個數(shù)，KL(h | | P)表示h與P之間的相對熵即 KL散度，P為對應h的期望平均激活函數(shù)，λ和β均為權(quán)重系數(shù)。
【文檔編號】G06F19/00GK105868572SQ201610257836
【公開日】2016年8月17日
【申請日】2016年4月22日
【發(fā)明人】劉華鋒, 馬驍勇
【申請人】浙江大學