基于深度學(xué)習(xí)的高光譜遙感數(shù)據(jù)分類方法
【專利摘要】基于深度學(xué)習(xí)的高光譜遙感數(shù)據(jù)分類方法，屬于高光譜數(shù)據(jù)分類【技術(shù)領(lǐng)域】。本發(fā)明是為了解決現(xiàn)有對蘊(yùn)含非線性特征的高光譜數(shù)據(jù)進(jìn)行分類的方法存在分類精度低的問題。它首先對高光譜原始數(shù)據(jù)進(jìn)行處理獲得高光譜原始數(shù)據(jù)的光譜特征向量和空間特征信息；再對所述光譜特征向量和空間特征信息進(jìn)行整合；由高光譜整合數(shù)據(jù)確定標(biāo)記樣本，并由標(biāo)記樣本中選擇訓(xùn)練樣本和測試樣本；使用訓(xùn)練樣本對構(gòu)成深層網(wǎng)絡(luò)的多層限制玻爾茲曼機(jī)進(jìn)行預(yù)訓(xùn)練；使用訓(xùn)練樣本對多層限制玻爾茲曼機(jī)構(gòu)成的網(wǎng)絡(luò)進(jìn)行有監(jiān)督學(xué)習(xí)；將測試樣本輸入微調(diào)后的多層限制玻爾茲曼機(jī)構(gòu)成的網(wǎng)絡(luò)，實(shí)現(xiàn)高光譜遙感數(shù)據(jù)的分類。本發(fā)明用于高光譜遙感數(shù)據(jù)的分類。
【專利說明】基于深度學(xué)習(xí)的高光譜遙感數(shù)據(jù)分類方法

【技術(shù)領(lǐng)域】
[0001] 本發(fā)明涉及基于深度學(xué)習(xí)的高光譜遙感數(shù)據(jù)分類方法，屬于高光譜數(shù)據(jù)分類技術(shù) 領(lǐng)域。

【背景技術(shù)】
[0002] 隨著機(jī)載及星載高光譜傳感器的成功研制，對遙感數(shù)據(jù)的光譜分辨力得到了極大 的提高，它使多光譜遙感不能解決的問題得以解決，與此同時，高維數(shù)據(jù)的處理也成為了一 個急需解決的問題。數(shù)據(jù)的高維度來自于高的光譜分辨率，對于光譜分辨率達(dá)到納米級的 高光譜遙感在光譜上的數(shù)據(jù)維可以達(dá)到數(shù)百維，而眾多在低維空間表現(xiàn)很好的算法，在高 光譜數(shù)據(jù)的高維空間內(nèi)受到了很大限制。
[0003] 目前，解決高光譜數(shù)據(jù)高維度問題的主流方法是特征提取。然而對于高光譜數(shù)據(jù) 中蘊(yùn)含的非線性特征，是否采用了適當(dāng)?shù)奶卣魈崛》椒▽τ诟吖庾V數(shù)據(jù)的分類有著至關(guān)重 要的影響。現(xiàn)有對蘊(yùn)含非線性特征的高光譜數(shù)據(jù)分類方法存在分類精度低，適用性差的缺 陷。


【發(fā)明內(nèi)容】

[0004] 本發(fā)明目的是為了解決現(xiàn)有對蘊(yùn)含非線性特征的高光譜數(shù)據(jù)進(jìn)行分類的方法存 在分類精度低的問題，提供了一種基于深度學(xué)習(xí)的高光譜遙感數(shù)據(jù)分類方法。
[0005] 本發(fā)明所述基于深度學(xué)習(xí)的高光譜遙感數(shù)據(jù)分類方法，它包括以下步驟：
[0006] 步驟一：讀取高光譜原始數(shù)據(jù)，采用主成分分析法獲得高光譜原始數(shù)據(jù)的特征值 和特征向量，進(jìn)而獲得高光譜原始數(shù)據(jù)的光譜特征向量；再對高光譜原始數(shù)據(jù)的光譜特征 向量進(jìn)行鄰域信息提取，獲得高光譜原始數(shù)據(jù)的空間特征信息；
[0007] 步驟二：對高光譜原始數(shù)據(jù)的光譜特征向量和空間特征信息進(jìn)行整合，獲得高光 譜整合數(shù)據(jù)；
[0008] 步驟三：由高光譜整合數(shù)據(jù)確定標(biāo)記樣本，并由標(biāo)記樣本中選擇訓(xùn)練樣本和測試 樣本；
[0009] 步驟四：基于深度學(xué)習(xí)方法，使用訓(xùn)練樣本對構(gòu)成深層網(wǎng)絡(luò)的多層限制玻爾茲曼 機(jī)進(jìn)行預(yù)訓(xùn)練，以深層的學(xué)習(xí)高光譜整合數(shù)據(jù)特征并提取特征；
[0010] 步驟五：在步驟四預(yù)訓(xùn)練的基礎(chǔ)上，使用訓(xùn)練樣本對多層限制玻爾茲曼機(jī)構(gòu)成的 網(wǎng)絡(luò)進(jìn)行有監(jiān)督學(xué)習(xí)，以微調(diào)多層限制玻爾茲曼機(jī)構(gòu)成的網(wǎng)絡(luò)；
[0011] 步驟六：將測試樣本輸入微調(diào)后的多層限制玻爾茲曼機(jī)構(gòu)成的網(wǎng)絡(luò)，實(shí)現(xiàn)高光譜 遙感數(shù)據(jù)的分類。
[0012] 高光譜原始數(shù)據(jù)的光譜特征向量的獲得方法為：
[0013] 首先計(jì)算出高光譜原始數(shù)據(jù)的協(xié)方差矩陣，根據(jù)協(xié)方差矩陣采用主成分分析法計(jì) 算獲得所有高光譜原始數(shù)據(jù)的特征值和特征向量，并按照特征值從大到小的順序，排列相 應(yīng)的特征向量；使用特征向量作為加權(quán)系數(shù)計(jì)算獲得所有特征向量的B個波段主成分分 量，將所有包含B個波段主成分分量的特征向量作為高光譜原始數(shù)據(jù)的光譜特征向量；B為 正整數(shù)；
[0014] 高光譜原始數(shù)據(jù)的空間特征信息的獲得方法為：
[0015] 選取高光譜原始數(shù)據(jù)的光譜特征向量的B個波段主成分分量中排列在前的N個主 成分分量，將N個主成分分量中每一個主成分分量作為一幅二維灰度圖像；對每幅二維灰 度圖像進(jìn)行如下處理：
[0016] 選定二維灰度圖像中任意一個像素點(diǎn)，該像素點(diǎn)的位置坐標(biāo)為（Xi，yi)，以該像素 點(diǎn)為中心確定一個w X w的鄰域,w為大于1的奇數(shù)，將領(lǐng)域內(nèi)w2個像素點(diǎn)的灰度值作為該二 維灰度圖像中選定像素點(diǎn)在主成分分量P n下的特征向量，其中η = 1，2, -·，Ν;由此，獲得 Ν個主成分分量在同一坐標(biāo)位置的像素點(diǎn)的長度為NXw2的特征向量，將所述長度為NXw2 的特征向量作為像素點(diǎn)（Xi，yi)的空間特征信息。
[0017] 獲得高光譜整合數(shù)據(jù)的具體方法為：將高光譜原始數(shù)據(jù)中像素點(diǎn)（Xi，yi)的光 譜信息視為長度為B的光譜特征向量，將高光譜原始數(shù)據(jù)中所有在同一坐標(biāo)位置的像 素點(diǎn)（ Xi，yi)、長度為B的光譜特征向量和長度為NXw2的空間特征信息，整合為長度為 (B+NXw 2)的向量，作為高光譜整合數(shù)據(jù)。
[0018] 步驟三中由高光譜整合數(shù)據(jù)確定標(biāo)記樣本，并由標(biāo)記樣本中選擇訓(xùn)練樣本和測試 樣本的方法為：
[0019] 首先讀取高光譜整合數(shù)據(jù)，該高光譜整合數(shù)據(jù)以三維矩陣的形式存儲，它由二維 的空間特征信息和一維的光譜特征向量組成；與高光譜整合數(shù)據(jù)各像素點(diǎn)空間位置對應(yīng)的 真實(shí)地物標(biāo)記圖為二維矩陣，該二維矩陣作為監(jiān)督數(shù)據(jù)，監(jiān)督數(shù)據(jù)以整數(shù)值的形式標(biāo)記真 實(shí)地物標(biāo)記圖中相應(yīng)像素點(diǎn)的地物類別，使具有同一地物類別的像素點(diǎn)具有相同的標(biāo)記整 數(shù)值，所有標(biāo)記整數(shù)值形成標(biāo)記樣本；
[0020] 讀入高光譜整合數(shù)據(jù)以及監(jiān)督數(shù)據(jù)，確定真實(shí)地物標(biāo)記圖中地物類別數(shù)目C以及 有效的特征數(shù)目（B+NXw 2);
[0021] 在監(jiān)督數(shù)據(jù)中，查找所有標(biāo)記樣本的空間位置坐標(biāo)，按照空間位置坐標(biāo)在高光譜 整合數(shù)據(jù)中從上向下，并且從左向右的順序，抽取高光譜整合數(shù)據(jù)中每一個數(shù)據(jù)的特征向 量，將所有抽取的特征向量排列成行向量，形成二維矩陣，該二維矩陣的行數(shù)是高光譜整合 數(shù)據(jù)中標(biāo)記樣本的個數(shù)，列數(shù)是每個像素的有效的特征數(shù)目（B+NXw 2)，將該二維矩陣中的 奇數(shù)行作為訓(xùn)練樣本的特征向量，偶數(shù)行作為測試樣本的特征向量；
[0022] 對標(biāo)記樣本的地物類別標(biāo)號，在監(jiān)督數(shù)據(jù)中從上向下，并且從左向右抽取數(shù)值，排 列形成列向量，該列向量中元素的個數(shù)為標(biāo)記樣本的個數(shù)，每一個元素的數(shù)值為一個標(biāo)記 樣本的地物類別標(biāo)號，第奇數(shù)個元素作為訓(xùn)練樣本的地物類別標(biāo)號；第偶數(shù)個元素作為測 試樣本的地物類別標(biāo)號。
[0023] 步驟四中使用訓(xùn)練樣本對構(gòu)成深層網(wǎng)絡(luò)的多層限制玻爾茲曼機(jī)進(jìn)行預(yù)訓(xùn)練的具 體方法為：
[0024] 將步驟三中獲得的由訓(xùn)練樣本的特征向量構(gòu)成的二維矩陣作為m層限制玻爾茲 曼機(jī)構(gòu)成的深信度網(wǎng)絡(luò)的輸入，其中m為大于2的整數(shù)，通過非監(jiān)督的學(xué)習(xí)來訓(xùn)練深信度網(wǎng) 絡(luò)；對于每一層的限制玻爾茲曼機(jī)，可視層作為其輸入，隱層作為其輸出；每層限制玻爾茲 曼機(jī)采用相同的隱層節(jié)點(diǎn)數(shù)目，其隱層節(jié)點(diǎn)數(shù)目為h ;頂層限制玻爾茲曼機(jī)可視節(jié)點(diǎn)的數(shù) 目為特征向量的特征數(shù)目（B+NXw2);其余層的限制玻爾茲曼機(jī)的輸入為上一層的輸出，可 視節(jié)點(diǎn)的數(shù)目為h ;
[0025] 預(yù)訓(xùn)練過程中，通過不斷的迭代調(diào)整可視層與隱層之間的連接權(quán)重。
[0026] 步驟五中使用訓(xùn)練樣本對多層限制玻爾茲曼機(jī)構(gòu)成的網(wǎng)絡(luò)進(jìn)行有監(jiān)督學(xué)習(xí)的具 體方法為：
[0027] 使用邏輯回歸分類器作為分類器，將深信度網(wǎng)絡(luò)最底層限制玻爾茲曼機(jī)包含有h 個節(jié)點(diǎn)的輸出作為邏輯回歸分類器的輸入，邏輯回歸分類器的輸出節(jié)點(diǎn)數(shù)目為真實(shí)地物標(biāo) 記圖中地物類別數(shù)據(jù)C，所述輸出節(jié)點(diǎn)除了對應(yīng)的類別位置為1，其他節(jié)點(diǎn)均為0 ;將監(jiān)督數(shù) 據(jù)中所有抽取的特征向量形成的二維矩陣作為深信度網(wǎng)絡(luò)的輸入，訓(xùn)練樣本的地物類別標(biāo) 號作為深信度網(wǎng)絡(luò)的輸出，對整個深信度網(wǎng)絡(luò)的權(quán)重進(jìn)行微調(diào)。
[0028] 步驟六中將測試樣本輸入微調(diào)后的多層限制玻爾茲曼機(jī)構(gòu)成的網(wǎng)絡(luò)，實(shí)現(xiàn)高光譜 遙感數(shù)據(jù)的分類的具體方法為：
[0029] 將測試樣本特征向量構(gòu)成的二維矩陣作為深信度網(wǎng)絡(luò)的輸入，對測試樣本進(jìn)行分 類，深信度網(wǎng)絡(luò)的輸出為對應(yīng)測試樣本的地物類別標(biāo)號，從而完成了高光譜遙感數(shù)據(jù)的分 類。
[0030] 本發(fā)明的優(yōu)點(diǎn)：本發(fā)明方法通過對高光譜數(shù)據(jù)進(jìn)行光譜維和空間維的信息整合， 利用深度學(xué)習(xí)的方法對整合的信息進(jìn)行深層的特征學(xué)習(xí)與提取，再通過有監(jiān)督的微調(diào)，結(jié) 束整個深層網(wǎng)絡(luò)的訓(xùn)練過程，最后將待分類的高光譜數(shù)據(jù)輸入網(wǎng)絡(luò)完成數(shù)據(jù)分類。它針對 高光譜數(shù)據(jù)的高維度、非線性和空譜信息合二為一的數(shù)據(jù)特性，采用基于深度學(xué)習(xí)的分類 方法，更加有效的提取了高光譜數(shù)據(jù)的特征，從而能夠減少由于數(shù)據(jù)的非線性特性對數(shù)據(jù) 分類精度造成的影響，它能夠獲得精確的數(shù)據(jù)分類結(jié)果，以應(yīng)用于后續(xù)的圖像處理。
[0031] 本發(fā)明解決了高光譜數(shù)據(jù)高維度、非線性的數(shù)據(jù)特性對分類精度的限制,充分利 用了高光譜數(shù)據(jù)的光譜維和空間維的信息，使用深度學(xué)習(xí)的方法進(jìn)行深層的特征學(xué)習(xí)，形 成深層的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，進(jìn)而實(shí)現(xiàn)了精確的數(shù)據(jù)分類。

【專利附圖】

【附圖說明】
[0032] 圖1是本發(fā)明所述基于深度學(xué)習(xí)的高光譜遙感數(shù)據(jù)分類方法的流程圖。

【具體實(shí)施方式】

【具體實(shí)施方式】 [0033] 一：下面結(jié)合圖1說明本實(shí)施方式，本實(shí)施方式所述基于深度學(xué)習(xí) 的高光譜遙感數(shù)據(jù)分類方法，它包括以下步驟：
[0034] 步驟一：讀取高光譜原始數(shù)據(jù)，采用主成分分析法獲得高光譜原始數(shù)據(jù)的特征值 和特征向量，進(jìn)而獲得高光譜原始數(shù)據(jù)的光譜特征向量；再對高光譜原始數(shù)據(jù)的光譜特征 向量進(jìn)行鄰域信息提取，獲得高光譜原始數(shù)據(jù)的空間特征信息；
[0035] 步驟二：對高光譜原始數(shù)據(jù)的光譜特征向量和空間特征信息進(jìn)行整合，獲得高光 譜整合數(shù)據(jù)；
[0036] 步驟三：由高光譜整合數(shù)據(jù)確定標(biāo)記樣本，并由標(biāo)記樣本中選擇訓(xùn)練樣本和測試 樣本；
[0037] 步驟四：基于深度學(xué)習(xí)方法，使用訓(xùn)練樣本對構(gòu)成深層網(wǎng)絡(luò)的多層限制玻爾茲曼 機(jī)進(jìn)行預(yù)訓(xùn)練，以深層的學(xué)習(xí)高光譜整合數(shù)據(jù)特征并提取特征；
[0038] 步驟五：在步驟四預(yù)訓(xùn)練的基礎(chǔ)上，使用訓(xùn)練樣本對多層限制玻爾茲曼機(jī)構(gòu)成的 網(wǎng)絡(luò)進(jìn)行有監(jiān)督學(xué)習(xí)，以微調(diào)多層限制玻爾茲曼機(jī)構(gòu)成的網(wǎng)絡(luò)；
[0039] 步驟六：將測試樣本輸入微調(diào)后的多層限制玻爾茲曼機(jī)構(gòu)成的網(wǎng)絡(luò)，實(shí)現(xiàn)高光譜 遙感數(shù)據(jù)的分類。

【具體實(shí)施方式】 [0040] 二：本實(shí)施方式對實(shí)施方式一作進(jìn)一步說明，高光譜原始數(shù)據(jù)的光 譜特征向量的獲得方法為：
[0041] 首先計(jì)算出高光譜原始數(shù)據(jù)的協(xié)方差矩陣，根據(jù)協(xié)方差矩陣采用主成分分析法計(jì) 算獲得所有高光譜原始數(shù)據(jù)的特征值和特征向量，并按照特征值從大到小的順序，排列相 應(yīng)的特征向量；使用特征向量作為加權(quán)系數(shù)計(jì)算獲得所有特征向量的B個波段主成分分 量，將所有包含B個波段主成分分量的特征向量作為高光譜原始數(shù)據(jù)的光譜特征向量；B為 正整數(shù)；
[0042] 高光譜原始數(shù)據(jù)的空間特征信息的獲得方法為：
[0043] 選取高光譜原始數(shù)據(jù)的光譜特征向量的B個波段主成分分量中排列在前的N個主 成分分量，將N個主成分分量中每一個主成分分量作為一幅二維灰度圖像；對每幅二維灰 度圖像進(jìn)行如下處理：
[0044] 選定二維灰度圖像中任意一個像素點(diǎn)，該像素點(diǎn)的位置坐標(biāo)為（Xi, y),以該像素 點(diǎn)為中心確定一個w X w的鄰域,w為大于1的奇數(shù)，將領(lǐng)域內(nèi)w2個像素點(diǎn)的灰度值作為該二 維灰度圖像中選定像素點(diǎn)在主成分分量P n下的特征向量，其中η = 1，2, -·，Ν;由此，獲得 Ν個主成分分量在同一坐標(biāo)位置的像素點(diǎn)的長度為NXw2的特征向量，將所述長度為NXw2 的特征向量作為像素點(diǎn)（Xi，yi)的空間特征信息。
[0045] 本實(shí)施方式中，在高光譜數(shù)據(jù)的光譜維上使用主成分分析法，其原理是通過較少 的分量來反映原始數(shù)據(jù)中的大部分特性，將原始數(shù)據(jù)中相關(guān)性較高的分量轉(zhuǎn)換為彼此間不 相關(guān)的新分量，新分量稱之為主成分。排列越前的主成分分量包含越多的信息。選取其中 排列在前的N個主成分分量，后續(xù)在它們的基礎(chǔ)上提取鄰域信息。實(shí)驗(yàn)表明，N取3-5時， 效果較好。
[0046] 對于N個主成分同一坐標(biāo)位置的像素點(diǎn)將會有長度為NXw2的特征向量，形成了 像素點(diǎn)（ Xi，yi)的空間信息。

【具體實(shí)施方式】 [0047] 三：本實(shí)施方式對實(shí)施方式二作進(jìn)一步說明，獲得高光譜整合數(shù)據(jù) 的具體方法為：將高光譜原始數(shù)據(jù)中像素點(diǎn)（ Xi，yi)的光譜信息視為長度為B的光譜特征向 量，將高光譜原始數(shù)據(jù)中所有在同一坐標(biāo)位置的像素點(diǎn)（ Xi，yi)、長度為B的光譜特征向量 和長度為NXw2的空間特征信息，整合為長度為（B+NXw 2)的向量，作為高光譜整合數(shù)據(jù)。
[0048] 本實(shí)施方式中，經(jīng)過信息整合后的高光譜數(shù)據(jù)，每一個像素點(diǎn)將有包含光譜信息 和空間信息的長度為（B+NXw 2)的特征向量。
[0049]

【具體實(shí)施方式】四：本實(shí)施方式對實(shí)施方式三作進(jìn)一步說明，步驟三中由高光譜整 合數(shù)據(jù)確定標(biāo)記樣本，并由標(biāo)記樣本中選擇訓(xùn)練樣本和測試樣本的方法為：
[0050] 首先讀取高光譜整合數(shù)據(jù)，該高光譜整合數(shù)據(jù)以三維矩陣的形式存儲，它由二維 的空間特征信息和一維的光譜特征向量組成；與高光譜整合數(shù)據(jù)各像素點(diǎn)空間位置對應(yīng)的 真實(shí)地物標(biāo)記圖為二維矩陣，該二維矩陣作為監(jiān)督數(shù)據(jù)，監(jiān)督數(shù)據(jù)以整數(shù)值的形式標(biāo)記真 實(shí)地物標(biāo)記圖中相應(yīng)像素點(diǎn)的地物類別，使具有同一地物類別的像素點(diǎn)具有相同的標(biāo)記整 數(shù)值，所有標(biāo)記整數(shù)值形成標(biāo)記樣本；
[0051] 讀入高光譜整合數(shù)據(jù)以及監(jiān)督數(shù)據(jù)，確定真實(shí)地物標(biāo)記圖中地物類別數(shù)目C以及 有效的特征數(shù)目（B+NXw 2);
[0052] 在監(jiān)督數(shù)據(jù)中，查找所有標(biāo)記樣本的空間位置坐標(biāo)，按照空間位置坐標(biāo)在高光譜 整合數(shù)據(jù)中從上向下，并且從左向右的順序，抽取高光譜整合數(shù)據(jù)中每一個數(shù)據(jù)的特征向 量，將所有抽取的特征向量排列成行向量，形成二維矩陣，該二維矩陣的行數(shù)是高光譜整合 數(shù)據(jù)中標(biāo)記樣本的個數(shù)，列數(shù)是每個像素的有效的特征數(shù)目（B+NXw 2)，將該二維矩陣中的 奇數(shù)行作為訓(xùn)練樣本的特征向量，偶數(shù)行作為測試樣本的特征向量；
[0053] 對標(biāo)記樣本的地物類別標(biāo)號，在監(jiān)督數(shù)據(jù)中從上向下，并且從左向右抽取數(shù)值，排 列形成列向量，該列向量中元素的個數(shù)為標(biāo)記樣本的個數(shù)，每一個元素的數(shù)值為一個標(biāo)記 樣本的地物類別標(biāo)號，第奇數(shù)個元素作為訓(xùn)練樣本的地物類別標(biāo)號；第偶數(shù)個元素作為測 試樣本的地物類別標(biāo)號。
[0054] 本實(shí)施方式中首先對信息整合后高光譜數(shù)據(jù)進(jìn)行相應(yīng)的處理，為后續(xù)的分類算法 準(zhǔn)備數(shù)據(jù)。主要包括讀取信息整合后高光譜數(shù)據(jù)、確定標(biāo)記樣本并選擇訓(xùn)練樣本和測試樣 本。根據(jù)監(jiān)督數(shù)據(jù)得到的標(biāo)記樣本，用來訓(xùn)練和測試分類方法。其訓(xùn)練樣本與測試樣本數(shù) 目之比為1 : 1。標(biāo)記樣本的特征向量與類別標(biāo)號具有一一對應(yīng)的關(guān)系。

【具體實(shí)施方式】 [0055] 五：本實(shí)施方式對實(shí)施方式四作進(jìn)一步說明，步驟四中使用訓(xùn)練樣 本對構(gòu)成深層網(wǎng)絡(luò)的多層限制玻爾茲曼機(jī)進(jìn)行預(yù)訓(xùn)練的具體方法為：
[0056] 將步驟三中獲得的由訓(xùn)練樣本的特征向量構(gòu)成的二維矩陣作為m層限制玻爾茲 曼機(jī)構(gòu)成的深信度網(wǎng)絡(luò)的輸入，其中m為大于2的整數(shù)，通過非監(jiān)督的學(xué)習(xí)來訓(xùn)練深信度網(wǎng) 絡(luò)；對于每一層的限制玻爾茲曼機(jī)，可視層作為其輸入，隱層作為其輸出；每層限制玻爾茲 曼機(jī)采用相同的隱層節(jié)點(diǎn)數(shù)目，其隱層節(jié)點(diǎn)數(shù)目為h;頂層限制玻爾茲曼機(jī)可視節(jié)點(diǎn)的數(shù) 目為特征向量的特征數(shù)目（B+NXw 2);其余層的限制玻爾茲曼機(jī)的輸入為上一層的輸出，可 視節(jié)點(diǎn)的數(shù)目為h ;
[0057] 預(yù)訓(xùn)練過程中，通過不斷的迭代調(diào)整可視層與隱層之間的連接權(quán)重。
[0058] 所述可視層包含可視節(jié)點(diǎn)，隱層包含隱層節(jié)點(diǎn)。

【具體實(shí)施方式】 [0059] 六：本實(shí)施方式對實(shí)施方式五作進(jìn)一步說明，步驟五中使用訓(xùn)練樣 本對多層限制玻爾茲曼機(jī)構(gòu)成的網(wǎng)絡(luò)進(jìn)行有監(jiān)督學(xué)習(xí)的具體方法為：
[0060] 使用邏輯回歸分類器作為分類器，將深信度網(wǎng)絡(luò)最底層限制玻爾茲曼機(jī)包含有h 個節(jié)點(diǎn)的輸出作為邏輯回歸分類器的輸入，邏輯回歸分類器的輸出節(jié)點(diǎn)數(shù)目為真實(shí)地物標(biāo) 記圖中地物類別數(shù)據(jù)C，所述輸出節(jié)點(diǎn)除了對應(yīng)的類別位置為1，其他節(jié)點(diǎn)均為0 ;將監(jiān)督數(shù) 據(jù)中所有抽取的特征向量形成的二維矩陣作為深信度網(wǎng)絡(luò)的輸入，訓(xùn)練樣本的地物類別標(biāo) 號作為深信度網(wǎng)絡(luò)的輸出，對整個深信度網(wǎng)絡(luò)的權(quán)重進(jìn)行微調(diào)。
[0061] 本實(shí)施方式中，使用深度學(xué)習(xí)的方法對高光譜數(shù)據(jù)進(jìn)行深層的特征學(xué)習(xí)與提取以 及網(wǎng)絡(luò)的有監(jiān)督微調(diào)，包括兩部分：使用訓(xùn)練樣本對構(gòu)成深層網(wǎng)絡(luò)的各層限制玻爾茲曼機(jī) RBM進(jìn)行預(yù)訓(xùn)練，深層的學(xué)習(xí)數(shù)據(jù)特征并提取特征；在預(yù)訓(xùn)練的基礎(chǔ)上，使用訓(xùn)練樣本對多 層RBM構(gòu)成的網(wǎng)絡(luò)進(jìn)行有監(jiān)督學(xué)習(xí)，微調(diào)網(wǎng)絡(luò)。
[0062] 在預(yù)訓(xùn)練的過程中，通過不斷的迭代來調(diào)整可視層與隱層之間的連接權(quán)重，使得 整個網(wǎng)絡(luò)能夠較為準(zhǔn)確的學(xué)習(xí)并提取出數(shù)據(jù)的本質(zhì)特征。實(shí)驗(yàn)結(jié)果表明，對于高光譜數(shù)據(jù) 而言，RBM層數(shù)m選擇3-5,隱層節(jié)點(diǎn)數(shù)目h選擇40-70,預(yù)訓(xùn)練的迭代次數(shù)為1000次，分類 效果較好。
[0063] 在m層RBM構(gòu)成的深信度網(wǎng)絡(luò)之后，使用邏輯回歸分類器作為后續(xù)的分類器。對 整個深信度網(wǎng)絡(luò)的權(quán)重進(jìn)行微調(diào)是為保證較高的分類精度。實(shí)驗(yàn)結(jié)果表明，微調(diào)的迭代次 數(shù)為5000次，分類效果較好。
[0064]

【具體實(shí)施方式】七：本實(shí)施方式對實(shí)施方式六作進(jìn)一步說明，步驟六中將測試樣本 輸入微調(diào)后的多層限制玻爾茲曼機(jī)構(gòu)成的網(wǎng)絡(luò)，實(shí)現(xiàn)高光譜遙感數(shù)據(jù)的分類的具體方法 為：
[0065] 將測試樣本特征向量構(gòu)成的二維矩陣作為深信度網(wǎng)絡(luò)的輸入，對測試樣本進(jìn)行分 類，深信度網(wǎng)絡(luò)的輸出為對應(yīng)測試樣本的地物類別標(biāo)號，從而完成了高光譜遙感數(shù)據(jù)的分 類。
[〇〇66] 本實(shí)施方式中使用訓(xùn)練好的網(wǎng)絡(luò)對測試樣本分類。通過網(wǎng)絡(luò)輸出的類別與測試樣 本本身的類別標(biāo)號對比，可以計(jì)算出整個分類系統(tǒng)的分類精度的定量衡量。
【權(quán)利要求】
1. 一種基于深度學(xué)習(xí)的高光譜遙感數(shù)據(jù)分類方法，其特征在于，它包括以下步驟： 步驟一：讀取高光譜原始數(shù)據(jù)，采用主成分分析法獲得高光譜原始數(shù)據(jù)的特征值和特 征向量，進(jìn)而獲得高光譜原始數(shù)據(jù)的光譜特征向量；再對高光譜原始數(shù)據(jù)的光譜特征向量 進(jìn)行鄰域信息提取，獲得高光譜原始數(shù)據(jù)的空間特征信息； 步驟二：對高光譜原始數(shù)據(jù)的光譜特征向量和空間特征信息進(jìn)行整合，獲得高光譜整 合數(shù)據(jù)； 步驟三：由高光譜整合數(shù)據(jù)確定標(biāo)記樣本，并由標(biāo)記樣本中選擇訓(xùn)練樣本和測試樣 本； 步驟四：基于深度學(xué)習(xí)方法，使用訓(xùn)練樣本對構(gòu)成深層網(wǎng)絡(luò)的多層限制玻爾茲曼機(jī)進(jìn) 行預(yù)訓(xùn)練，以深層的學(xué)習(xí)高光譜整合數(shù)據(jù)特征并提取特征； 步驟五：在步驟四預(yù)訓(xùn)練的基礎(chǔ)上，使用訓(xùn)練樣本對多層限制玻爾茲曼機(jī)構(gòu)成的網(wǎng)絡(luò) 進(jìn)行有監(jiān)督學(xué)習(xí)，以微調(diào)多層限制玻爾茲曼機(jī)構(gòu)成的網(wǎng)絡(luò)； 步驟六：將測試樣本輸入微調(diào)后的多層限制玻爾茲曼機(jī)構(gòu)成的網(wǎng)絡(luò)，實(shí)現(xiàn)高光譜遙感 數(shù)據(jù)的分類。
2. 根據(jù)權(quán)利要求1所述的基于深度學(xué)習(xí)的高光譜遙感數(shù)據(jù)分類方法，其特征在于，高 光譜原始數(shù)據(jù)的光譜特征向量的獲得方法為： 首先計(jì)算出高光譜原始數(shù)據(jù)的協(xié)方差矩陣，根據(jù)協(xié)方差矩陣采用主成分分析法計(jì)算獲 得所有高光譜原始數(shù)據(jù)的特征值和特征向量，并按照特征值從大到小的順序，排列相應(yīng)的 特征向量；使用特征向量作為加權(quán)系數(shù)計(jì)算獲得所有特征向量的B個波段主成分分量，將 所有包含B個波段主成分分量的特征向量作為高光譜原始數(shù)據(jù)的光譜特征向量；B為正整 數(shù)； 高光譜原始數(shù)據(jù)的空間特征信息的獲得方法為： 選取高光譜原始數(shù)據(jù)的光譜特征向量的B個波段主成分分量中排列在前的N個主成分 分量，將N個主成分分量中每一個主成分分量作為一幅二維灰度圖像；對每幅二維灰度圖 像進(jìn)行如下處理： 選定二維灰度圖像中任意一個像素點(diǎn)，該像素點(diǎn)的位置坐標(biāo)為（Xi，yD，以該像素點(diǎn)為 中心確定一個wXw的鄰域，w為大于1的奇數(shù)，將領(lǐng)域內(nèi)w2個像素點(diǎn)的灰度值作為該二維 灰度圖像中選定像素點(diǎn)在主成分分量？"下的特征向量，其中η = 1，2,…，N;由此，獲得N 個主成分分量在同一坐標(biāo)位置的像素點(diǎn)的長度為NXw2的特征向量，將所述長度為NXw2的 特征向量作為像素點(diǎn)（ Xi，yi)的空間特征信息。
3. 根據(jù)權(quán)利要求2所述的基于深度學(xué)習(xí)的高光譜遙感數(shù)據(jù)分類方法，其特征在于，獲 得高光譜整合數(shù)據(jù)的具體方法為：將高光譜原始數(shù)據(jù)中像素點(diǎn)（ Xi，yi)的光譜信息視為長 度為B的光譜特征向量，將高光譜原始數(shù)據(jù)中所有在同一坐標(biāo)位置的像素點(diǎn)（ Xi，yi)、長度 為B的光譜特征向量和長度為NXw2的空間特征信息，整合為長度為（B+NXw 2)的向量，作 為高光譜整合數(shù)據(jù)。
4. 根據(jù)權(quán)利要求3所述的基于深度學(xué)習(xí)的高光譜遙感數(shù)據(jù)分類方法，其特征在于，步 驟三中由高光譜整合數(shù)據(jù)確定標(biāo)記樣本,并由標(biāo)記樣本中選擇訓(xùn)練樣本和測試樣本的方法 為： 首先讀取高光譜整合數(shù)據(jù)，該高光譜整合數(shù)據(jù)以三維矩陣的形式存儲，它由二維的空 間特征信息和一維的光譜特征向量組成；與高光譜整合數(shù)據(jù)各像素點(diǎn)空間位置對應(yīng)的真 實(shí)地物標(biāo)記圖為二維矩陣，該二維矩陣作為監(jiān)督數(shù)據(jù)，監(jiān)督數(shù)據(jù)以整數(shù)值的形式標(biāo)記真實(shí) 地物標(biāo)記圖中相應(yīng)像素點(diǎn)的地物類別，使具有同一地物類別的像素點(diǎn)具有相同的標(biāo)記整數(shù) 值，所有標(biāo)記整數(shù)值形成標(biāo)記樣本； 讀入高光譜整合數(shù)據(jù)以及監(jiān)督數(shù)據(jù)，確定真實(shí)地物標(biāo)記圖中地物類別數(shù)目C以及有效 的特征數(shù)目（B+NXw2); 在監(jiān)督數(shù)據(jù)中，查找所有標(biāo)記樣本的空間位置坐標(biāo)，按照空間位置坐標(biāo)在高光譜整合 數(shù)據(jù)中從上向下，并且從左向右的順序，抽取高光譜整合數(shù)據(jù)中每一個數(shù)據(jù)的特征向量，將 所有抽取的特征向量排列成行向量，形成二維矩陣，該二維矩陣的行數(shù)是高光譜整合數(shù)據(jù) 中標(biāo)記樣本的個數(shù)，列數(shù)是每個像素的有效的特征數(shù)目（B+NXw 2)，將該二維矩陣中的奇數(shù) 行作為訓(xùn)練樣本的特征向量，偶數(shù)行作為測試樣本的特征向量； 對標(biāo)記樣本的地物類別標(biāo)號，在監(jiān)督數(shù)據(jù)中從上向下，并且從左向右抽取數(shù)值，排列形 成列向量，該列向量中元素的個數(shù)為標(biāo)記樣本的個數(shù)，每一個元素的數(shù)值為一個標(biāo)記樣本 的地物類別標(biāo)號，第奇數(shù)個元素作為訓(xùn)練樣本的地物類別標(biāo)號；第偶數(shù)個元素作為測試樣 本的地物類別標(biāo)號。
5. 根據(jù)權(quán)利要求4所述的基于深度學(xué)習(xí)的高光譜遙感數(shù)據(jù)分類方法，其特征在于，步 驟四中使用訓(xùn)練樣本對構(gòu)成深層網(wǎng)絡(luò)的多層限制玻爾茲曼機(jī)進(jìn)行預(yù)訓(xùn)練的具體方法為： 將步驟三中獲得的由訓(xùn)練樣本的特征向量構(gòu)成的二維矩陣作為m層限制玻爾茲曼機(jī) 構(gòu)成的深信度網(wǎng)絡(luò)的輸入，其中m為大于2的整數(shù)，通過非監(jiān)督的學(xué)習(xí)來訓(xùn)練深信度網(wǎng)絡(luò)； 對于每一層的限制玻爾茲曼機(jī)，可視層作為其輸入，隱層作為其輸出；每層限制玻爾茲曼機(jī) 采用相同的隱層節(jié)點(diǎn)數(shù)目，其隱層節(jié)點(diǎn)數(shù)目為h ;頂層限制玻爾茲曼機(jī)可視節(jié)點(diǎn)的數(shù)目為 特征向量的特征數(shù)目（B+NXw2);其余層的限制玻爾茲曼機(jī)的輸入為上一層的輸出，可視節(jié) 點(diǎn)的數(shù)目為h ; 預(yù)訓(xùn)練過程中，通過不斷的迭代調(diào)整可視層與隱層之間的連接權(quán)重。
6. 根據(jù)權(quán)利要求5所述的基于深度學(xué)習(xí)的高光譜遙感數(shù)據(jù)分類方法，其特征在于，步 驟五中使用訓(xùn)練樣本對多層限制玻爾茲曼機(jī)構(gòu)成的網(wǎng)絡(luò)進(jìn)行有監(jiān)督學(xué)習(xí)的具體方法為： 使用邏輯回歸分類器作為分類器，將深信度網(wǎng)絡(luò)最底層限制玻爾茲曼機(jī)包含有h個節(jié) 點(diǎn)的輸出作為邏輯回歸分類器的輸入，邏輯回歸分類器的輸出節(jié)點(diǎn)數(shù)目為真實(shí)地物標(biāo)記圖 中地物類別數(shù)據(jù)C，所述輸出節(jié)點(diǎn)除了對應(yīng)的類別位置為1，其他節(jié)點(diǎn)均為0 ;將監(jiān)督數(shù)據(jù)中 所有抽取的特征向量形成的二維矩陣作為深信度網(wǎng)絡(luò)的輸入，訓(xùn)練樣本的地物類別標(biāo)號作 為深信度網(wǎng)絡(luò)的輸出，對整個深信度網(wǎng)絡(luò)的權(quán)重進(jìn)行微調(diào)。
7. 根據(jù)權(quán)利要求6所述的基于深度學(xué)習(xí)的高光譜遙感數(shù)據(jù)分類方法，其特征在于，步 驟六中將測試樣本輸入微調(diào)后的多層限制玻爾茲曼機(jī)構(gòu)成的網(wǎng)絡(luò)，實(shí)現(xiàn)高光譜遙感數(shù)據(jù)的 分類的具體方法為： 將測試樣本特征向量構(gòu)成的二維矩陣作為深信度網(wǎng)絡(luò)的輸入，對測試樣本進(jìn)行分類， 深信度網(wǎng)絡(luò)的輸出為對應(yīng)測試樣本的地物類別標(biāo)號，從而完成了高光譜遙感數(shù)據(jù)的分類。
【文檔編號】G06K9/66GK104102929SQ201410359935
【公開日】2014年10月15日 申請日期:2014年7月25日 優(yōu)先權(quán)日:2014年7月25日
【發(fā)明者】陳雨時, 趙興, 王強(qiáng), 時春雨 申請人:哈爾濱工業(yè)大學(xué)