一種模式分類方法及模式分類系統(tǒng)的制作方法
【專利摘要】本申請(qǐng)公開了一種模式分類方法及模式分類系統(tǒng)，其中，所述模式分類方法包括：獲取第一訓(xùn)練集；將第一訓(xùn)練集映射到核隱空間，得到映射后的第一訓(xùn)練集；利用映射后的第一訓(xùn)練集構(gòu)造成對(duì)約束集合；在核隱空間中利用成對(duì)約束集合計(jì)算馬氏距離中的半正定矩陣；將待測(cè)數(shù)據(jù)映射到核隱空間，得到映射后的待測(cè)數(shù)據(jù)；根據(jù)半正定矩陣與映射后的待測(cè)數(shù)據(jù)，尋找映射后的第一訓(xùn)練集中的目標(biāo)樣本，將目標(biāo)樣本的標(biāo)簽賦給待測(cè)樣本。模式分類方法在獲取第一訓(xùn)練集和待測(cè)數(shù)據(jù)后，都將其映射到核隱空間中，從而引入了局部特性，以實(shí)現(xiàn)對(duì)第一訓(xùn)練集和待測(cè)數(shù)據(jù)的全局和局部的綜合衡量，從而實(shí)現(xiàn)對(duì)第一訓(xùn)練及和待測(cè)數(shù)據(jù)的全面利用，進(jìn)而提高模式分類方法的分類精度。
【專利說明】
-種模式分類方法及模式分類系統(tǒng)
技術(shù)領(lǐng)域
[0001 ]本申請(qǐng)?jiān)O(shè)及模式分類技術(shù)領(lǐng)域，更具體地說，設(shè)及一種模式分類方法及模式分類 系統(tǒng)。
【背景技術(shù)】
[0002] 模式分類運(yùn)一學(xué)科已經(jīng)發(fā)展了五十余年，由于其廣泛的應(yīng)用價(jià)值，受到了各領(lǐng)域 技術(shù)人員的廣泛關(guān)注，成為了包括計(jì)算機(jī)視覺、人工智能領(lǐng)域在內(nèi)的眾多學(xué)科中屯、研究內(nèi) 容之一，特別是在指紋識(shí)別、手寫體數(shù)字識(shí)別和人臉識(shí)別技術(shù)中的應(yīng)用有重大的意義。某些 模式分類方法需要一種度量方式來確定模式之間的關(guān)系。通常的度量方式是和分類任務(wù)無 關(guān)的，要想讓一成不變的度量方式變成與分類任務(wù)相關(guān)的方法就是進(jìn)行度量學(xué)習(xí)，W增加 模式分類的針對(duì)性，提高分類精度。
[0003] Xing等人在文南犬Distance Metric Learning,With Application To Clustering With Side-Information[J],Advances in Neural Information Processing Systems, 2002，15:505--512.中提出了基于成對(duì)約束的度量學(xué)習(xí)方法。該方法提出了利用成對(duì)約束 (side information)來學(xué)習(xí)馬氏距離函數(shù)中的半正定矩陣的方法，從而學(xué)習(xí)到與任務(wù)相關(guān) 的度量方式。但是該度量方法由于在度量學(xué)習(xí)過程中僅考慮了全局的約束，沒有考慮全局 與局部的平衡，導(dǎo)致應(yīng)用該度量方法的模式分類方法的分類精度較低。

【發(fā)明內(nèi)容】

[0004] 為解決上述技術(shù)問題，本發(fā)明提供了一種模式分類方法及模式分類系統(tǒng)，W實(shí)現(xiàn) 提高所述模式分類方法的分類精度的目的。
[0005] 為實(shí)現(xiàn)上述技術(shù)目的，本發(fā)明實(shí)施例提供了如下技術(shù)方案：
[0006] -種模式分類方法，包括：
[0007] 獲取第一訓(xùn)練集戰(zhàn)，乃培，其中，Xi表示模式種類，yi表示模式Xi的類別標(biāo)簽，N表示 所述第一訓(xùn)練集中的數(shù)據(jù)個(gè)數(shù)；
[000引將所述第一訓(xùn)練集映射到核隱空間，得到映射后的第一訓(xùn)練集，其中，映射過程中 采用預(yù)設(shè)映射函數(shù)，所述預(yù)設(shè)映射函數(shù)為kn(Xi，Xi) = e即(-Y。I I X廣Xj I I2)，P=I,2,3,丫 1 = 0.1 丫 0, 丫 2= 丫 0, 丫 3=10 丫 0，
[0009] 利用所述映射后的第一訓(xùn)練集構(gòu)造成對(duì)約束集合；
[0010] 在核隱空間中利用所述成對(duì)約束集合計(jì)算馬氏距離中的半正定矩陣；
[0011] 將待測(cè)數(shù)據(jù)映射到核隱空間，得到映射后的待測(cè)數(shù)據(jù)，其中，映射過程中采用預(yù)設(shè) 映射函數(shù)；
[0012] 根據(jù)所述半正定矩陣與所述映射后的待測(cè)數(shù)據(jù)，尋找所述映射后的第一訓(xùn)練集中 的目標(biāo)樣本，將所述目標(biāo)樣本的標(biāo)簽賦給所述待測(cè)樣本。
[0013] 優(yōu)選的，所述成對(duì)約束集合包括必須連接集合和不能連接集合。
[0014] 優(yōu)選的，利用所述映射后的第一訓(xùn)練集構(gòu)造成對(duì)約束集合包括：
[0015] 從所述映射后的第一訓(xùn)練集中任意選取兩個(gè)樣本，判斷選取的兩個(gè)樣本的類別標(biāo) 簽是否相同，如果是，則將運(yùn)兩個(gè)樣本放入所述必須連接集合中；如果否，則將運(yùn)兩個(gè)樣本 放入所述不能連接集合中；
[0016] 重復(fù)上述步驟直至所述映射后的第一訓(xùn)練集為空集。
[0017] 優(yōu)選的，在核隱空間中利用所述成對(duì)約束集合計(jì)算馬氏距離中的半正定矩陣包 括：
[001引在核隱空間中將所述馬氏距離表示為d(Zi向）= (Zi-Zj)Tm(Zi-Zj)，其中，M為馬氏 距離中的半正定矩陣.
[0019] 通過公式（1)求解所述半正定矩陣；
[0020]
[0021]
[0022] (1)
[0023] 其中義表示半正定，s.t.表示受約束于。
[0024] 優(yōu)選的，根據(jù)所述半正定矩陣與所述映射后的待測(cè)數(shù)據(jù)，尋找所述映射后的第一 訓(xùn)練集中的目標(biāo)樣本，將所述目標(biāo)樣本的標(biāo)簽賦給所述待測(cè)樣本包括：
[0025] 根據(jù)所述半正定矩陣計(jì)算映射后的第一訓(xùn)練集與所述映射后的待測(cè)數(shù)據(jù)之間的 馬氏距離；
[0026] 將與所述映射后的待測(cè)數(shù)據(jù)之間的馬氏距離最小的第一訓(xùn)練集中的樣本作為目 標(biāo)樣本；
[0027] 將所述目標(biāo)樣本的標(biāo)簽賦給所述待測(cè)樣本。
[002引一種模式分類系統(tǒng)，包括：
[0029] 訓(xùn)練集獲取模塊，用于獲取第一訓(xùn)練集托，巧悠，其中，Xi表示模式種類，yi表示模 式Xi的類別標(biāo)簽，N表示所述第一訓(xùn)練集中的數(shù)據(jù)個(gè)數(shù)；
[0030] 第一映射模塊，用于將所述第一訓(xùn)練集映射到核隱空間，得到映射后的第一訓(xùn)練集， 其中，映射過程中采用預(yù)設(shè)映射函數(shù)，所述預(yù)設(shè)映射函數(shù)為
P =1,2,3, 丫 1 = 0.1 丫 0, 丫 2= 丫 0, 丫 3 = 10 丫（
；
[0031] 集合生成模塊，用于利用所述映射后的第一訓(xùn)練集構(gòu)造成對(duì)約束集合；
[0032] 度量學(xué)習(xí)模塊，用于在核隱空間中利用所述成對(duì)約束集合計(jì)算馬氏距離中的半正 定矩陣；
[0033] 第二映射模塊，用于將待測(cè)數(shù)據(jù)映射到核隱空間，得到映射后的待測(cè)數(shù)據(jù)，其中， 映射過程中采用預(yù)設(shè)映射函數(shù)；
[0034] 分類模塊，用于根據(jù)所述半正定矩陣與所述映射后的待測(cè)數(shù)據(jù)，尋找所述映射后 的第一訓(xùn)練集中的目標(biāo)樣本，將所述目標(biāo)樣本的標(biāo)簽賦給所述待測(cè)樣本。
[0035] 優(yōu)選的，所述成對(duì)約束集合包括必須連接集合和不能連接集合。
[0036] 優(yōu)選的，所述集合生成模塊包括：
[0037] 判斷單元，用于從所述映射后的第一訓(xùn)練集中任意選取兩個(gè)樣本，判斷選取的兩 個(gè)樣本的類別標(biāo)簽是否相同，如果是，則將運(yùn)兩個(gè)樣本放入所述必須連接集合中；如果否， 則將運(yùn)兩個(gè)樣本放入所述不能連接集合中；
[003引循環(huán)單元，用于判斷所述第一訓(xùn)練集是否為空集，如果否，則返回判斷單元；如果 是，則進(jìn)入度量學(xué)習(xí)模塊。
[0039] 優(yōu)選的，所述度量學(xué)習(xí)模塊包括：
[0040] 設(shè)定單元，用于在核隱空間中將所述馬氏距離表示為d(Zl，ZJ) = (Zl-ZJ)TM(Zl- zJ)，其中，M為馬氏距離中的半正定矩陣；
[0041 ]第一計(jì)算單元，用于通過公式(1)求解所述半正定矩陣；
[0042]
[0043]
[0044] (1)
[0045] 其中之表示半正定，s.t.表示受約束于。
[0046] 優(yōu)選的，所述分類模塊包括：
[0047] 第二計(jì)算單元，用于根據(jù)所述半正定矩陣計(jì)算映射后的第一訓(xùn)練集與所述映射后 的待測(cè)數(shù)據(jù)之間的馬氏距離；
[004引選擇單元，用于將與所述映射后的待測(cè)數(shù)據(jù)之間的馬氏距離最小的第一訓(xùn)練集中 的樣本作為目標(biāo)樣本；
[0049] 賦值單元，用于將所述目標(biāo)樣本的標(biāo)簽賦給所述待測(cè)樣本。
[0050] 從上述技術(shù)方案可W看出，本發(fā)明實(shí)施例提供了一種模式分類方法及模式分類系 統(tǒng)，其中，所述模式分類方法在獲取所述第一訓(xùn)練集和所述待測(cè)數(shù)據(jù)后，都將其映射到核隱 空間中，從而引入了局部特性，W實(shí)現(xiàn)對(duì)所述第一訓(xùn)練集和所述待測(cè)數(shù)據(jù)的全局和局部的 綜合衡量，從而實(shí)現(xiàn)對(duì)所述第一訓(xùn)練及和所述待測(cè)數(shù)據(jù)的全面利用，進(jìn)而提高所述模式分 類方法的分類精度。
【附圖說明】
[0051] 為了更清楚地說明本發(fā)明實(shí)施例或現(xiàn)有技術(shù)中的技術(shù)方案，下面將對(duì)實(shí)施例或現(xiàn) 有技術(shù)描述中所需要使用的附圖作簡單地介紹，顯而易見地，下面描述中的附圖僅僅是本 發(fā)明的實(shí)施例，對(duì)于本領(lǐng)域普通技術(shù)人員來講，在不付出創(chuàng)造性勞動(dòng)的前提下，還可W根據(jù) 提供的附圖獲得其他的附圖。
[0052] 圖1為本申請(qǐng)的一個(gè)實(shí)施例提供的一種模式分類方法的流程示意圖；
[0053] 圖2為本申請(qǐng)的另一個(gè)實(shí)施例提供的一種模式分類方法的流程示意圖；
[0054] 圖3為本申請(qǐng)的又一個(gè)實(shí)施例提供的一種模式分類方法的流程示意圖；
[0055] 圖4為本申請(qǐng)的一個(gè)實(shí)施例提供的一種模式分類系統(tǒng)的結(jié)構(gòu)示意圖；
[0056] 圖5為本申請(qǐng)的一個(gè)實(shí)施例提供的一種集合生成模塊的結(jié)構(gòu)示意圖；
[0057] 圖6為本申請(qǐng)的一個(gè)實(shí)施例提供的一種度量學(xué)習(xí)模塊的結(jié)構(gòu)示意圖；
[0058] 圖7為本申請(qǐng)的一個(gè)實(shí)施例提供的一種分類模塊的結(jié)構(gòu)示意圖。
【具體實(shí)施方式】
[0059] 下面將結(jié)合本發(fā)明實(shí)施例中的附圖，對(duì)本發(fā)明實(shí)施例中的技術(shù)方案進(jìn)行清楚、完 整地描述，顯然，所描述的實(shí)施例僅僅是本發(fā)明一部分實(shí)施例，而不是全部的實(shí)施例?；?本發(fā)明中的實(shí)施例，本領(lǐng)域普通技術(shù)人員在沒有做出創(chuàng)造性勞動(dòng)前提下所獲得的所有其他 實(shí)施例，都屬于本發(fā)明保護(hù)的范圍。
[0060] 本申請(qǐng)實(shí)施例提供了一種模式分類方法，如圖1所示，包括：
[0061] Sioi:獲取第一訓(xùn)練集戰(zhàn)，乂洽，其中，X康示模式種類，y康示模式Xi的類別標(biāo)簽， N表示所述第一訓(xùn)練集中的數(shù)據(jù)個(gè)數(shù)；
[0062] S102:將所述第一訓(xùn)練集映射到核隱空間，得到映射后的第一訓(xùn)練集，其中，映射 過程中采用預(yù)設(shè)映射函數(shù)，所述預(yù)設(shè)映射函數(shù)為kp(Xl，XJ) = e邱(-丫pX廣XJM2)，其中，P =1,2,，丫 1 = 0.1 丫 0, 丫 2= 丫 0, 丫 3=10 丫 0
[0063] S103:利用所述映射后的第一訓(xùn)練集構(gòu)造成對(duì)約束集合；
[0064] S104:在核隱空間中利用所述成對(duì)約束集合計(jì)算馬氏距離中的半正定矩陣；
[0065] S105:將待測(cè)數(shù)據(jù)映射到核隱空間，得到映射后的待測(cè)數(shù)據(jù)，其中，映射過程中采 用預(yù)設(shè)映射函數(shù)；
[0066] S106:根據(jù)所述半正定矩陣與所述映射后的待測(cè)數(shù)據(jù)，尋找所述映射后的第一訓(xùn) 練集中的目標(biāo)樣本，將所述目標(biāo)樣本的標(biāo)簽賦給所述待測(cè)樣本。
[0067] 其中，所述第一訓(xùn)練集中的XiGR嗦示模式種類，yi=U，2,…，c}表示Xi的類別標(biāo) 簽，C表示類別數(shù)，d表示模式的特征個(gè)數(shù)。
[006引在本實(shí)施例中，將所述第一訓(xùn)練集映射到核隱空間，即
[0069] Xi^Zi= [ki(xi ,Xi), ??? ,ki(xi ,xn) ,k2(xi ,Xi), ??? ,k2(xi ,xn) ,k3(xi ,Xi), ??? ,k3(xi, xn)]t
[0070] 其中，ZiGR3W為在核隱空間的映射像，R表示實(shí)數(shù)集，在運(yùn)個(gè)過程中采取的映射函 數(shù)為預(yù)設(shè)映射函數(shù)^
其中，p = l，2,3,丫 1 = 0.1 丫 0,丫 2 = 丫 0， T 3=10 y (
,11 M表示取范數(shù)。
[0071] 在上述實(shí)施例的基礎(chǔ)上，在本申請(qǐng)的另一個(gè)實(shí)施例中，如圖2所示，所述模式分類 方法包括：
[00巧 5201:獲取第一訓(xùn)練集戊.，>，,篇，其中，町表示模式種類，7康示模式^的類別標(biāo)簽， N表示所述第一訓(xùn)練集中的數(shù)據(jù)個(gè)數(shù)；
[0073] S202:將所述第一訓(xùn)練集映射到核隱空間，得到映射后的第一訓(xùn)練集；其 中，映射過程中采用預(yù)設(shè)映射函數(shù)，所述預(yù)設(shè)映射函數(shù)為
P =1,2,3, 丫 1 = 0.1 丫 0, 丫 2 = 丫 O，丫 3 = 10 丫 0，
[0074] S203:從所述映射后的第一訓(xùn)練集中任意選取兩個(gè)樣本，判斷選取的兩個(gè)樣本的 類別標(biāo)簽是否相同，如果是，則將運(yùn)兩個(gè)樣本放入所述必須連接集合中；如果否，則將運(yùn)兩 個(gè)樣本放入所述不能連接集合中；
[0075] S204:重復(fù)步驟203，直至所述映射后的第一訓(xùn)練集為空集；
[0076] S205:在核隱空間中利用所述成對(duì)約束集合計(jì)算馬氏距離中的半正定矩陣；
[0077] S206:將待測(cè)數(shù)據(jù)映射到核隱空間，得到映射后的待測(cè)數(shù)據(jù)，其中，映射過程中采 用預(yù)設(shè)映射函數(shù)；
[0078] S207:根據(jù)所述半正定矩陣與所述映射后的待測(cè)數(shù)據(jù)，尋找所述映射后的第一訓(xùn) 練集中的目標(biāo)樣本，將所述目標(biāo)樣本的標(biāo)簽賦給所述待測(cè)樣本。
[0079] 在本實(shí)施例中，所述成對(duì)約束集合包括必須連接集合S和不能連接集合D。利用所 述映射后的第一訓(xùn)練集構(gòu)造成對(duì)約束集合包括：
[0080] 從所述映射后的第一訓(xùn)練集咕，.Vj二中任意選取兩個(gè)樣本Zi和Zj,判斷選取的兩個(gè) 樣本的類別標(biāo)簽是否相同（yi是否等于yj)，如果是，則將運(yùn)兩個(gè)樣本放入所述必須連接集合 S中；如果否，則將運(yùn)兩個(gè)樣本放入所述不能連接集合D中；
[0081] 重復(fù)上述步驟直至所述映射后的第一訓(xùn)練集枉,，.r,広為空集。
[0082] 在上述實(shí)施例的基礎(chǔ)上，在本申請(qǐng)的又一個(gè)實(shí)施例中，如圖3所示，所述模式分類 方法包括：
[008：3] S301:獲取第一訓(xùn)練集戰(zhàn)，乂值，其中，X康示模式種類，y康示模式Xi的類別標(biāo)簽， N表示所述第一訓(xùn)練集中的數(shù)據(jù)個(gè)數(shù)；
[0084] S302:將所述第一訓(xùn)練集映射到核隱空間，得到映射后的第一訓(xùn)練集促，其 中，映射過程中采用預(yù)設(shè)映射函數(shù)，所述預(yù)設(shè)映射函數(shù)3
=1,2,3, 丫 1 = 0.1 丫 0, 丫 2 = 丫 0, 丫 3=10 丫 0，
[0085] S303:從所述映射后的第一訓(xùn)練集中任意選取兩個(gè)樣本，判斷選取的兩個(gè)樣本的 類別標(biāo)簽是否相同，如果是，則將運(yùn)兩個(gè)樣本放入所述必須連接集合中；如果否，則將運(yùn)兩 個(gè)樣本放入所述不能連接集合中；
[0086] S304:重復(fù)步驟303，直至所述映射后的第一訓(xùn)練集為空集；
[0087] S305:在核隱空間中將所述馬氏距離表示為d(Zi，Zj) = (Zi-Zj)TM(Zi-Zj)，其中，M 為馬氏距離中的半正定矩陣；
[0088] S306:通過公式（1)求解所述半正定矩陣；
[0089]
[0090]
[0091] (1)
[0092] 其中，么表示半正定，s.t.表示受約束于；
[0093] S307:將待測(cè)數(shù)據(jù)映射到核隱空間，得到映射后的待測(cè)數(shù)據(jù)，其中，映射過程中采 用預(yù)設(shè)映射函數(shù)；
[0094] S308:根據(jù)所述半正定矩陣計(jì)算映射后的第一訓(xùn)練集與所述映射后的待測(cè)數(shù)據(jù)之 間的馬氏距離；
[00M] S309:將與所述映射后的待測(cè)數(shù)據(jù)之間的馬氏距離最小的第一訓(xùn)練集中的樣本作 為目標(biāo)樣本；
[0096] S310:將所述目標(biāo)樣本的標(biāo)簽賦給所述待測(cè)樣本。
[0097] 其中，I I I Im表示取范數(shù)，下標(biāo)M表示范數(shù)類型為M范數(shù)。
[0098] 在本實(shí)施例中，將所述待測(cè)數(shù)據(jù)XERd映射到所述核隱空間，得到映射后的待測(cè)數(shù) 據(jù)zGR3^，具體映射過程與將所述第一訓(xùn)練集映射到所述核隱空間的過程相同。根據(jù)所述半 正定矩陣M計(jì)算映射后的第一訓(xùn)練集與所述映射后的待測(cè)數(shù)據(jù)Z之間的馬氏距離，即d(zi， Z) = (Zi-Z )Tm( Zi-Z)，i = 1，…，N，獲得N個(gè)不同的馬氏距離，每個(gè)馬氏距離對(duì)應(yīng)一個(gè)第一訓(xùn) 練集中的樣本;將與所述映射后的待測(cè)數(shù)據(jù)之間的馬氏距離最小的第一訓(xùn)練集中的樣本作 為目標(biāo)樣本，并將所述目標(biāo)樣本的標(biāo)簽賦給所述待測(cè)樣本(即如果min ，Z；)，則把 X判定為類，其中表示當(dāng)d(zi，z)最小時(shí)Zi和Z的取值）。 口、N
[0099] 相應(yīng)的，本申請(qǐng)實(shí)施例還提供了一種模式分類系統(tǒng)，如圖4所示，包括：
[0100] 訓(xùn)練集獲取模塊A100,用于獲取第一訓(xùn)練集狂三:，其中，X康示模式種類，yi表 示模式Xi的類別標(biāo)簽，N表示所述第一訓(xùn)練集中的數(shù)據(jù)個(gè)數(shù)；
[0101] 第一映射模塊A200,用于將所述第一訓(xùn)練集映射到核隱空間，得到映射后的第一 訓(xùn)練集，其中，映射過程中采用預(yù)設(shè)映射函數(shù)，所述預(yù)設(shè)日電制?巧獄Vp I Xi-Xjl |2)，p = 1，2,3, 丫 1 = 0.1 丫 0, 丫 2 = 丫 0, 丫 3=10 丫 0，
[0102] 集合生成模塊A300,用于利用所述映射后的第一訓(xùn)練集構(gòu)造成對(duì)約束集合；
[0103] 度量學(xué)習(xí)模塊A400,用于在核隱空間中利用所述成對(duì)約束集合計(jì)算馬氏距離中的 半正定矩陣；
[0104] 第二映射模塊A500,用于將待測(cè)數(shù)據(jù)映射到核隱空間，得到映射后的待測(cè)數(shù)據(jù)，其 中，映射過程中采用預(yù)設(shè)映射函數(shù)；
[0105] 分類模塊A600,用于根據(jù)所述半正定矩陣與所述映射后的待測(cè)數(shù)據(jù)，尋找所述映 射后的第一訓(xùn)練集中的目標(biāo)樣本，將所述目標(biāo)樣本的標(biāo)簽賦給所述待測(cè)樣本。
[0106] 其中，所述第一訓(xùn)練集中的XiGR嗦示模式種類，yi=U，2,…，c}表示Xi的類別標(biāo) 簽，C表示類別數(shù)，d表示模式的特征個(gè)數(shù)。
[0107] 在本實(shí)施例中，將所述第一訓(xùn)練集映射到核隱空間，即
[010引 Xi一Zi= [kl(Xi ,XI) , ,kl(Xi ,XN) ,k2(Xi ,XI) , ,k2(Xi ,XN) ,k3(Xi ,XI) , ,k3(Xi , xn)]t
[0109]其中，Z i G R3W為在核隱空間的映射像，R表示實(shí)數(shù)集，在運(yùn)個(gè)過程中采取的映射函 數(shù)為預(yù)設(shè)映射函數(shù)kp(Xi，Xj)=e邱（-丫p||xi-Xj||2)，其中，p=l,2,3，丫l = 0.1丫o，丫2 = 丫 0, 丫 3= 10 丫。
I表示取范數(shù)。
[0110] 在本申請(qǐng)的一個(gè)具體實(shí)施例中，所述訓(xùn)練集獲取模塊Aioo、第一映射模塊A200、集 合生成模塊A300集成于一個(gè)數(shù)據(jù)預(yù)處理模塊中；所述第二映射模塊A500、分類模塊A600集 成于一個(gè)分類決策模塊中。本申請(qǐng)對(duì)此并不做限定，具體視實(shí)際情況而定。
[0111] 在上述實(shí)施例的基礎(chǔ)上，在本申請(qǐng)的另一個(gè)實(shí)施例中，所述成對(duì)約束集合包括必 須連接集合S和不能連接集合D。
[0112] 在上述實(shí)施例的基礎(chǔ)上，在本申請(qǐng)的又一個(gè)實(shí)施例中，如圖5所示，所述集合生成 模塊A300包括：
[0113] 判斷單元A310,用于從所述映射后的第一訓(xùn)練集中任意選取兩個(gè)樣本，判斷選取 的兩個(gè)樣本的類別標(biāo)簽是否相同，如果是，則將運(yùn)兩個(gè)樣本放入所述必須連接集合中；如果 否，則將運(yùn)兩個(gè)樣本放入所述不能連接集合中；
[0114] 循環(huán)單元A320,用于判斷所述第一訓(xùn)練集是否為空集，如果否，則返回判斷單元 A310;如果是，則進(jìn)入度量學(xué)習(xí)模塊A400。
[0115] 在本實(shí)施例中，所述判斷單元A310從所述映射后的第一訓(xùn)練集{Z,.，.V,.浩中任意選 取兩個(gè)樣本Zi和Zj,判斷選取的兩個(gè)樣本的類別標(biāo)簽是否相同（yi是否等于yj)，如果是，貝U 將運(yùn)兩個(gè)樣本放入所述必須連接集合S中；如果否，則將運(yùn)兩個(gè)樣本放入所述不能連接集合 帥；
[0116] 所述循環(huán)單元A320用于判斷所述第一訓(xùn)練集知是否為空集，如果否，則返回 判斷單元A310;如果是，則進(jìn)入度量學(xué)習(xí)模塊A400。
[0117] 在上述實(shí)施例的基礎(chǔ)上，在本申請(qǐng)的又一個(gè)實(shí)施例中，如圖6所示，所述度量學(xué)習(xí) 模塊A400包括：
[0118] 設(shè)定單元A410,用于在核隱空間中將所述馬氏距離表示為d(zi，Zj) = (Zi-Zj)TM (Zi-Zj)，其中，M為馬氏距離中的半正定矩陣；
[0119] 第一計(jì)算單元A420，用于通過公式(1)求解所述半正定矩陣；
[0120]
[0121]
[0122] (1)
[0123] 其中，.苗表示半正定，s.t.表示受約束于。
[0124] 在本實(shí)施例中，I I I Im表示取范數(shù)，下標(biāo)M表示范數(shù)類型為M范數(shù)。
[0125] 在上述實(shí)施例的基礎(chǔ)上，在本申請(qǐng)的又一個(gè)實(shí)施例中，如圖7所示，所述分類模塊 A600包括：
[0126] 第二計(jì)算單元A610,用于根據(jù)所述半正定矩陣計(jì)算映射后的第一訓(xùn)練集與所述映 射后的待測(cè)數(shù)據(jù)之間的馬氏距離；
[0127] 選擇單元A620,用于將與所述映射后的待測(cè)數(shù)據(jù)之間的馬氏距離最小的第一訓(xùn)練 集中的樣本作為目標(biāo)樣本；
[01 %]賦值單元A630，用于將所述目標(biāo)樣本的標(biāo)簽賦給所述待測(cè)樣本。
[0129] 在本實(shí)施例中，將所述待測(cè)數(shù)據(jù)XERd映射到所述核隱空間，得到映射后的待測(cè)數(shù) 據(jù)zGR3^，具體映射過程與將所述第一訓(xùn)練集映射到所述核隱空間的過程相同。根據(jù)所述半 正定矩陣M計(jì)算映射后的第一訓(xùn)練集與所述映射后的待測(cè)數(shù)據(jù)Z之間的馬氏距離，即d(zi， Z) = (Zi-Z )Tm( Zi-Z)，i = 1，…，N，獲得N個(gè)不同的馬氏距離，每個(gè)馬氏距離對(duì)應(yīng)一個(gè)第一訓(xùn) 練集中的樣本;將與所述映射后的待測(cè)數(shù)據(jù)之間的馬氏距離最小的第一訓(xùn)練集中的樣本作 為目標(biāo)樣本，并將所述目標(biāo)樣本的標(biāo)簽賦給所述待測(cè)樣本(即如果
則把 X判定為ym類，其C _
良示當(dāng)d(Zi,Z)最小時(shí)Zi和Z的取值）。
[0130] 下面將利用本申請(qǐng)?zhí)峁┑乃瞿Ｊ椒诸惙椒▽?duì)電離層（Ionoshpere)數(shù)據(jù)集進(jìn)行 模式分類的識(shí)別率與基于成對(duì)約束度量學(xué)習(xí)方法進(jìn)行模式分類的識(shí)別率進(jìn)行比對(duì)，在本實(shí) 施例中，所述待測(cè)數(shù)據(jù)中共有116個(gè)樣本，因此要重復(fù)執(zhí)行所述分類決策模塊116次，統(tǒng)計(jì)出 被正確識(shí)別的樣本個(gè)數(shù)，計(jì)算出識(shí)別率，詳見表1?？蒞發(fā)現(xiàn)，本申請(qǐng)實(shí)施例提供的所述模式 分類方法在電離層數(shù)據(jù)上的識(shí)別率明顯優(yōu)于基于成對(duì)約束度量學(xué)習(xí)方法，具有一定的優(yōu) 勢(shì)。
[0131 ]表1在電離層數(shù)據(jù)上的識(shí)別率（％ )
[0132]
[0133] 所述電離層數(shù)據(jù)集是來自UCI標(biāo)準(zhǔn)數(shù)據(jù)庫中測(cè)試分類系統(tǒng)的一個(gè)數(shù)據(jù)集。每條數(shù) 據(jù)反映的是來自UCI標(biāo)準(zhǔn)數(shù)據(jù)庫中測(cè)試分類系統(tǒng)的一個(gè)數(shù)據(jù)集。每條數(shù)據(jù)反映的是電離層 中自由電子的雷達(dá)回波信號(hào)。該數(shù)據(jù)集共有351個(gè)樣本，總共分為兩類，其中第一類有127組 數(shù)據(jù)，第二類有224組數(shù)據(jù)，特征個(gè)數(shù)為34.為了驗(yàn)證所述模式分類方法的可行性，把所述電 離層數(shù)據(jù)集分為所述第一訓(xùn)練集和所述待測(cè)數(shù)據(jù)。所述第一訓(xùn)練集中的樣本個(gè)數(shù)占整個(gè)電 離層數(shù)據(jù)集的2/3,其余的1/3作為所述待測(cè)數(shù)據(jù)。所述第一訓(xùn)練集和所述待測(cè)數(shù)據(jù)的劃分 重復(fù)10次，表1的結(jié)果為10次劃分后分別進(jìn)行測(cè)試的平均結(jié)果。
[0134] 綜上所述，本申請(qǐng)實(shí)施例提供了一種模式分類方法及模式分類系統(tǒng)，其中，所述模 式分類方法在獲取所述第一訓(xùn)練集和所述待測(cè)數(shù)據(jù)后，都將其映射到核隱空間中，從而引 入了局部特性，W實(shí)現(xiàn)對(duì)所述第一訓(xùn)練集和所述待測(cè)數(shù)據(jù)的全局和局部的綜合衡量，從而 實(shí)現(xiàn)對(duì)所述第一訓(xùn)練及和所述待測(cè)數(shù)據(jù)的全面利用，進(jìn)而提高所述模式分類方法的分類精 度。
[0135] 本說明書中各個(gè)實(shí)施例采用遞進(jìn)的方式描述，每個(gè)實(shí)施例重點(diǎn)說明的都是與其他 實(shí)施例的不同之處，各個(gè)實(shí)施例之間相同相似部分互相參見即可。
[0136] 對(duì)所公開的實(shí)施例的上述說明，使本領(lǐng)域?qū)I(yè)技術(shù)人員能夠?qū)崿F(xiàn)或使用本發(fā)明。 對(duì)運(yùn)些實(shí)施例的多種修改對(duì)本領(lǐng)域的專業(yè)技術(shù)人員來說將是顯而易見的，本文中所定義的 一般原理可W在不脫離本發(fā)明的精神或范圍的情況下，在其它實(shí)施例中實(shí)現(xiàn)。因此，本發(fā)明 將不會(huì)被限制于本文所示的運(yùn)些實(shí)施例，而是要符合與本文所公開的原理和新穎特點(diǎn)相一 致的最寬的范圍。
【主權(quán)項(xiàng)】
1. 一種模式分類方法，其特征在于，包括： 獲取第一訓(xùn)練集丨*,.，乃}【，其中^表示模式種類^表示模式1冊(cè)類別標(biāo)簽4表示所述 第一訓(xùn)練集中的數(shù)據(jù)個(gè)數(shù)； 將所述第一訓(xùn)練集映射到核隱空間，得到映射后的第一訓(xùn)練集，其中，映射過程中采用 預(yù)設(shè)映射函數(shù)，所述預(yù)設(shè)映射函數(shù)為1^匕力）=61口(-丫13|卜1||2)4 = 1，2,3，丫1 = 0.1 γ〇, γ2= γ〇, γ3=10 γc利用所述映射后的第一訓(xùn)練集構(gòu)造成對(duì)約束集合； 在核隱空間中利用所述成對(duì)約束集合計(jì)算馬氏距離中的半正定矩陣； 將待測(cè)數(shù)據(jù)映射到核隱空間，得到映射后的待測(cè)數(shù)據(jù)，其中，映射過程中采用預(yù)設(shè)映射 函數(shù)； 根據(jù)所述半正定矩陣與所述映射后的待測(cè)數(shù)據(jù)，尋找所述映射后的第一訓(xùn)練集中的目 標(biāo)樣本，將所述目標(biāo)樣本的標(biāo)簽賦給所述待測(cè)樣本。2. 根據(jù)權(quán)利要求1所述的模式分類方法，其特征在于，所述成對(duì)約束集合包括必須連接 集合和不能連接集合。3. 根據(jù)權(quán)利要求2所述的模式分類方法，其特征在于，利用所述映射后的第一訓(xùn)練集構(gòu) 造成對(duì)約束集合包括： 從所述映射后的第一訓(xùn)練集中任意選取兩個(gè)樣本，判斷選取的兩個(gè)樣本的類別標(biāo)簽是 否相同，如果是，則將這兩個(gè)樣本放入所述必須連接集合中；如果否，則將這兩個(gè)樣本放入 所述不能連接集合中； 重復(fù)上述步驟直至所述映射后的第一訓(xùn)練集為空集。4. 根據(jù)權(quán)利要求1所述的模式分類方法，其特征在于，在核隱空間中利用所述成對(duì)約束 集合計(jì)算馬氏距離中的半正定矩陣包括： 在核隱空間中將所述馬氏距離表示為d(Zl，Zj) = (Zl-Zj)TM(Zl-Zj)，其中，Μ為馬氏距離 中的半正定矩陣； 通過公式（1)求解所述半正定矩陣；⑴ 其中，t表示半正定，s. t.表示受約束于。5. 根據(jù)權(quán)利要求1所述的模式分類方法，其特征在于，根據(jù)所述半正定矩陣與所述映射 后的待測(cè)數(shù)據(jù)，尋找所述映射后的第一訓(xùn)練集中的目標(biāo)樣本，將所述目標(biāo)樣本的標(biāo)簽賦給 所述待測(cè)樣本包括： 根據(jù)所述半正定矩陣計(jì)算映射后的第一訓(xùn)練集與所述映射后的待測(cè)數(shù)據(jù)之間的馬氏 距離； 將與所述映射后的待測(cè)數(shù)據(jù)之間的馬氏距離最小的第一訓(xùn)練集中的樣本作為目標(biāo)樣 本； 將所述目標(biāo)樣本的標(biāo)簽賦給所述待測(cè)樣本。6. -種模式分類系統(tǒng)，其特征在于，包括： 訓(xùn)練集獲取模塊，用于獲取第一訓(xùn)練集，其中，Xl表示模式種類，yi表示模式^ 的類別標(biāo)簽，N表示所述第一訓(xùn)練集中的數(shù)據(jù)個(gè)數(shù)； 第一映射模塊，用于將所述第一訓(xùn)練集映射到核隱空間，得到映射后的第一訓(xùn)練集，其 中，映射過程中采用預(yù)設(shè)映射函數(shù)，所述預(yù)設(shè)映射函數(shù)SkP(Xl，Xj)= exp(-yP| |Xl-Xj| |2)， ρ = 1，2,3, γι = 0·1γ〇, γ2 = γ〇, γ3 = 10γ〔集合生成模塊，用于利用所述映射后的第一訓(xùn)練集構(gòu)造成對(duì)約束集合； 度量學(xué)習(xí)模塊，用于在核隱空間中利用所述成對(duì)約束集合計(jì)算馬氏距離中的半正定矩 陣； 第二映射模塊，用于將待測(cè)數(shù)據(jù)映射到核隱空間，得到映射后的待測(cè)數(shù)據(jù)，其中，映射 過程中采用預(yù)設(shè)映射函數(shù)； 分類模塊，用于根據(jù)所述半正定矩陣與所述映射后的待測(cè)數(shù)據(jù)，尋找所述映射后的第 一訓(xùn)練集中的目標(biāo)樣本，將所述目標(biāo)樣本的標(biāo)簽賦給所述待測(cè)樣本。7. 根據(jù)權(quán)利要求6所述的模式分類系統(tǒng)，其特征在于，所述成對(duì)約束集合包括必須連接 集合和不能連接集合。8. 根據(jù)權(quán)利要求7所述的模式分類系統(tǒng)，其特征在于，所述集合生成模塊包括： 判斷單元，用于從所述映射后的第一訓(xùn)練集中任意選取兩個(gè)樣本，判斷選取的兩個(gè)樣 本的類別標(biāo)簽是否相同，如果是，則將這兩個(gè)樣本放入所述必須連接集合中；如果否，則將 這兩個(gè)樣本放入所述不能連接集合中； 循環(huán)單元，用于判斷所述第一訓(xùn)練集是否為空集，如果否，則返回判斷單元;如果是，則 進(jìn)入度量學(xué)習(xí)模塊。9. 根據(jù)權(quán)利要求6所述的模式分類系統(tǒng)，其特征在于，所述度量學(xué)習(xí)模塊包括： 設(shè)定單元，用于在核隱空間中將所述馬氏距離表示為d(Zl，Zj) = (Zl-Zj)TM(Zl-Z丄其 中，Μ為馬氏距離中的半正定矩陣； 第一計(jì)算單元，用于通過公式(1)求解所述半正定矩陣；(1) 其中上表示半正定，s. t.表示受約束于。10. 根據(jù)權(quán)利要求6所述的模式分類系統(tǒng)，其特征在于，所述分類模塊包括： 第二計(jì)算單元，用于根據(jù)所述半正定矩陣計(jì)算映射后的第一訓(xùn)練集與所述映射后的待 測(cè)數(shù)據(jù)之間的馬氏距離； 選擇單元，用于將與所述映射后的待測(cè)數(shù)據(jù)之間的馬氏距離最小的第一訓(xùn)練集中的樣 本作為目標(biāo)樣本； 賦值單元，用于將所述目標(biāo)樣本的標(biāo)簽賦給所述待測(cè)樣本。
【文檔編號(hào)】G06K9/62GK105956629SQ201610321052
【公開日】2016年9月21日
【申請(qǐng)日】2016年4月20日
【發(fā)明人】張莉, 周偉達(dá), 王邦軍, 張召, 李凡長
【申請(qǐng)人】蘇州大學(xué)