專利名稱：基于支持向量機(jī)正則化路徑的貝葉斯模型平均模型組合方法
技術(shù)領(lǐng)域：
在本發(fā)明涉及支持向量機(jī)正則化路徑上的模型組合，特別是一種基于貝葉斯模型平均的模型組合方法。
背景技術(shù)：
支持向量機(jī)(Support Vector Machine, SVM)是Vapnik等人提出的一種基于統(tǒng)計(jì)學(xué)習(xí)理論的機(jī)器學(xué)習(xí)方法，它以最大化分類間隔構(gòu)造最優(yōu)分類超平面來提高分類器的泛化能力，較好地解決了非線性、高維數(shù)、局部極小點(diǎn)等問題。與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)方法相比， SVM具有結(jié)構(gòu)風(fēng)險(xiǎn)最小，可以逼近任意函數(shù)且保證全局最優(yōu)，適用于小樣本、非線性核高維建模的領(lǐng)域。目前，SVM已廣泛應(yīng)用于手寫字識(shí)別、文本分類、語音識(shí)別等方面，并取得了良好的應(yīng)用效果。對(duì)于2-分類支持向量機(jī)，已知訓(xùn)練集
權(quán)利要求
1. 一種基于支持向量機(jī)正則化路徑的貝葉斯模型平均模型組合方法，該方法包括以下步驟步驟一，計(jì)算支持向量機(jī)2-分類模型的正則化路徑，得到初始模型集； 根據(jù)正則化路徑算法，在訓(xùn)練數(shù)據(jù)集上運(yùn)行正則化路徑算法，得到初始模型集Μ ,Μ={/Λ)\^ε
,M中的模型個(gè)數(shù)等于svmpath算法的迭代次數(shù)況，且況為伐?。。！^及))，ι的取值范圍大概為W，6], 表示正類訓(xùn)練樣本個(gè)數(shù)；I表示負(fù)類訓(xùn)練樣本個(gè)數(shù)；步驟二，在得到的正則化路徑上應(yīng)用貝葉斯公式求解模型的后驗(yàn)概率； 模型/』的先驗(yàn)被賦予一個(gè)簡(jiǎn)單的高斯過程，高斯過程先驗(yàn)的協(xié)方差矩陣是正定矩陣，作為SVM的核矩陣
全文摘要
本發(fā)明公開了一種基于支持向量機(jī)正則化路徑的貝葉斯模型平均模型組合方法，該方法包括以下步驟計(jì)算支持向量機(jī)2-分類模型的正則化路徑，得到初始模型集；在得到的正則化路徑上應(yīng)用貝葉斯公式求解模型的后驗(yàn)概率；貝葉斯模型平均預(yù)測(cè)；步驟四，得到預(yù)測(cè)輸出；與廣義近似交叉驗(yàn)證方法相比，基于支持向量機(jī)正則化路徑的貝葉斯模型平均模型組合算法具有更低的分類誤差，在保證較高預(yù)測(cè)精確率的同時(shí)，較大的減少了運(yùn)行時(shí)間并降低了操作復(fù)雜度。
文檔編號(hào)G06K9/62GK102208030SQ20111014924
公開日2011年10月5日 申請(qǐng)日期2011年6月3日 優(yōu)先權(quán)日2011年6月3日
發(fā)明者廖士中, 趙寧, 趙志輝 申請(qǐng)人:天津大學(xué)