基于支持向量機(jī)的預(yù)測(cè)方法及系統(tǒng)的制作方法
【技術(shù)領(lǐng)域】
[0001]本申請(qǐng)涉及機(jī)器學(xué)習(xí)技術(shù)領(lǐng)域，尤其涉及一種基于支持向量機(jī)的預(yù)測(cè)方法及系統(tǒng)。
【背景技術(shù)】
[0002]支持向量機(jī)(SupportVector Machine，SVM)是 Corinna Cortes 和 Vapnik 等于1995年首先提出的，它在解決小樣本、非線性及高維模式識(shí)別中表現(xiàn)出許多特有的優(yōu)勢(shì)，并能夠推廣應(yīng)用到函數(shù)擬合等其他機(jī)器學(xué)習(xí)問(wèn)題中。在機(jī)器學(xué)習(xí)中，支持向量機(jī)是與相關(guān)的學(xué)習(xí)算法有關(guān)的監(jiān)督學(xué)習(xí)模型，可以分析數(shù)據(jù)、識(shí)別模式、以及用于分類和回歸預(yù)測(cè)分析。
[0003]目前在使用SVM進(jìn)行回歸預(yù)測(cè)分析的實(shí)際應(yīng)用中，經(jīng)常會(huì)出現(xiàn)訓(xùn)練樣本過(guò)于龐大的情況，使得SVM樣本訓(xùn)練過(guò)于耗時(shí)耗力，甚至造成對(duì)樣本數(shù)據(jù)的浪費(fèi)，使樣本數(shù)據(jù)利用率低下。另一方面，研究者在回歸預(yù)測(cè)分析中通常只利用SVM建立回歸模型，然后直接對(duì)測(cè)試數(shù)據(jù)進(jìn)行預(yù)測(cè)。該方法存在精度不高的問(wèn)題，原因在于單一回歸模型不能完全反映被研究對(duì)象之間的復(fù)雜關(guān)系。

【發(fā)明內(nèi)容】

[0004]本申請(qǐng)?zhí)峁┮环N基于SVM的預(yù)測(cè)方法及系統(tǒng)，其可應(yīng)用于眾多領(lǐng)域，旨在提高使用SVM算法的預(yù)測(cè)精度的同時(shí)，還減少了對(duì)訓(xùn)練樣本量的需求。
[0005]根據(jù)本申請(qǐng)的一個(gè)方面，本申請(qǐng)實(shí)施例提供一種基于SVM的預(yù)測(cè)方法，包括:按照常規(guī)支持向量機(jī)預(yù)測(cè)算法和常規(guī)支持向量機(jī)分類算法對(duì)訓(xùn)練數(shù)據(jù)分別進(jìn)行訓(xùn)練，分別得到預(yù)測(cè)模型和分類模型；將測(cè)試數(shù)據(jù)分別輸入預(yù)測(cè)模型和分類模型，分別得到預(yù)測(cè)結(jié)果和分類結(jié)果；根據(jù)所述預(yù)測(cè)結(jié)果和所述分類結(jié)果的區(qū)間關(guān)系，確定所述預(yù)測(cè)結(jié)果的正確性；在確定出所述預(yù)測(cè)結(jié)果正確后，輸出按所述預(yù)測(cè)模型預(yù)測(cè)的預(yù)測(cè)結(jié)果。
[0006]根據(jù)本申請(qǐng)的另一方面，本申請(qǐng)實(shí)施例提供一種基于SVM的預(yù)測(cè)系統(tǒng)，包括:常規(guī)訓(xùn)練模塊，用于按照常規(guī)支持向量機(jī)預(yù)測(cè)算法和常規(guī)支持向量機(jī)分類算法對(duì)訓(xùn)練數(shù)據(jù)分別進(jìn)行訓(xùn)練，分別得到預(yù)測(cè)模型和分類模型；測(cè)試模塊，用于將測(cè)試數(shù)據(jù)分別輸入預(yù)測(cè)模型和分類模型，分別得到預(yù)測(cè)結(jié)果和分類結(jié)果；判斷模塊，用于根據(jù)所述預(yù)測(cè)結(jié)果和所述分類結(jié)果的區(qū)間關(guān)系，確定所述預(yù)測(cè)結(jié)果的正確性；預(yù)測(cè)模塊，用于在確定出所述預(yù)測(cè)結(jié)果正確后，輸出按所述預(yù)測(cè)模型預(yù)測(cè)的預(yù)測(cè)結(jié)果。
[0007]本申請(qǐng)實(shí)施例通過(guò)采用常規(guī)SVM預(yù)測(cè)算法與分類算法對(duì)訓(xùn)練數(shù)據(jù)分別進(jìn)行訓(xùn)練，來(lái)得到預(yù)測(cè)模型和分類模型，然后將測(cè)試數(shù)據(jù)分別輸入預(yù)測(cè)模型和分類模型以得到預(yù)測(cè)結(jié)果和分類結(jié)果，對(duì)這兩種結(jié)果進(jìn)行區(qū)間關(guān)系判斷，以此確定預(yù)測(cè)模型的預(yù)測(cè)結(jié)果是否正確，使得即使只有少量訓(xùn)練樣本，由于結(jié)合了分類算法得到的分類結(jié)果予以判斷，從而可以提高預(yù)測(cè)的精度。
【附圖說(shuō)明】
[0008]圖1是本申請(qǐng)一實(shí)施例的基于SVM的預(yù)測(cè)方法的流程示意圖；
[0009]圖2是圖1所示實(shí)施例的細(xì)化過(guò)程示意圖；
[0010]圖3是本申請(qǐng)一實(shí)施例的基于SVM的預(yù)測(cè)系統(tǒng)的結(jié)構(gòu)示意圖。
【具體實(shí)施方式】
[0011]常規(guī)SVM預(yù)測(cè)算法是首先使用訓(xùn)練數(shù)據(jù)建立預(yù)測(cè)模型model_B，最后將測(cè)試數(shù)據(jù)經(jīng)過(guò)預(yù)測(cè)模型model_A得到預(yù)測(cè)結(jié)果。而常規(guī)SVM分類算法則是，其首先對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行標(biāo)定，例如常見(jiàn)的兩類分類器中將訓(xùn)練數(shù)據(jù)標(biāo)定為1和-1，然后使用訓(xùn)練數(shù)據(jù)建立分類模型model_B，最后將測(cè)試數(shù)據(jù)經(jīng)過(guò)分類模型model_B得到分類結(jié)果。如前述如果僅利用這樣的常規(guī)方法建立SVM預(yù)測(cè)模型，其存在精度不高、需要大量訓(xùn)練樣本的問(wèn)題。
[0012]對(duì)此，本申請(qǐng)?zhí)岢鲆环N新的SVM建模方法，將常規(guī)SVM分類算法和常規(guī)SVM預(yù)測(cè)算法相結(jié)合，并將其應(yīng)用于SVM建模中。本申請(qǐng)?zhí)峁┑幕赟VM的預(yù)測(cè)方法將SVM預(yù)測(cè)算法與SVM分類算法相結(jié)合，相互印證，篩選出不一致的結(jié)果，由此得到合適的預(yù)測(cè)模型，從而可以提高預(yù)測(cè)結(jié)果的準(zhǔn)確性，實(shí)現(xiàn)提高SVM算法的精度。更進(jìn)一步地，本申請(qǐng)?jiān)诘玫胶线m的預(yù)測(cè)模型后，在實(shí)際預(yù)測(cè)過(guò)程中，對(duì)同一測(cè)試數(shù)據(jù)進(jìn)行復(fù)制后再輸入預(yù)測(cè)模型，獲得多個(gè)預(yù)測(cè)值，再對(duì)這些預(yù)測(cè)值進(jìn)行去除最大最小值后求平均，將平均值作為最終的預(yù)測(cè)結(jié)果，從而進(jìn)一步提高了預(yù)測(cè)結(jié)果的準(zhǔn)確度。
[0013]為使本申請(qǐng)的目的、技術(shù)方案和優(yōu)點(diǎn)更加清楚明白，下面將通過(guò)具體實(shí)施例并結(jié)合參考附圖對(duì)本申請(qǐng)作進(jìn)一步說(shuō)明。
[0014]如圖1和圖2所示，為本申請(qǐng)一實(shí)施例提供的一種基于SVM的預(yù)測(cè)方法的流程示意圖，包括常規(guī)訓(xùn)練步驟S11、測(cè)試步驟S13、判斷步驟S15和預(yù)測(cè)步驟S17。
[0015]在常規(guī)訓(xùn)練步驟S11中，按照常規(guī)SVM預(yù)測(cè)算法和常規(guī)SVM分類算法對(duì)訓(xùn)練數(shù)據(jù)分別進(jìn)行訓(xùn)練，并分別得到預(yù)測(cè)模型model_A和分類模型model_B。這里常規(guī)SVM預(yù)測(cè)算法和常規(guī)SVM分類算法是指本領(lǐng)域普通技術(shù)人員公知的相關(guān)的SVM預(yù)測(cè)算法和SVM分類算法，本申請(qǐng)對(duì)此不做限制。
[0016]在測(cè)試步驟中S13，將測(cè)試數(shù)據(jù)分別輸入預(yù)測(cè)模型model_A和分類模型model_B，并分別得到預(yù)測(cè)結(jié)果result_A和分類結(jié)果reSult_B。這里將測(cè)試數(shù)據(jù)輸入預(yù)測(cè)模型和分類模型并進(jìn)行訓(xùn)練得到對(duì)應(yīng)的結(jié)果的過(guò)程，也可采用本領(lǐng)域普通技術(shù)人員公知的相關(guān)技術(shù)實(shí)現(xiàn)，本申請(qǐng)對(duì)此不做限制。
[0017]在判斷步驟S15中，根據(jù)預(yù)測(cè)結(jié)果result_A和分類結(jié)果result_B的區(qū)間關(guān)系，確定預(yù)測(cè)結(jié)果result_A的正確性。一種具體實(shí)現(xiàn)中，SVM預(yù)測(cè)算法涉及的訓(xùn)練數(shù)據(jù)形式采用精確數(shù)值，SVM分類算法涉及的訓(xùn)練數(shù)據(jù)形式是將精確數(shù)值按不同的幅值范圍歸類到不同區(qū)間，將區(qū)間數(shù)值應(yīng)用于建立SVM的分類網(wǎng)絡(luò)。在本實(shí)施例，在步驟S15中，判斷預(yù)測(cè)結(jié)果result_A是否屬于分類結(jié)果result_B所在的區(qū)間，如果屬于，則保留預(yù)測(cè)結(jié)果result_A ；如果不屬于，則丟棄預(yù)測(cè)結(jié)果result_A，然后重新進(jìn)行預(yù)測(cè)，例如返回步驟S11，按照常規(guī)SVM預(yù)測(cè)算法重新訓(xùn)練預(yù)測(cè)模型。
[0018]在預(yù)測(cè)步驟S17中，在確定出預(yù)測(cè)結(jié)果result_A正確(即確定預(yù)測(cè)結(jié)果result_A屬于分類結(jié)果result_B所在的區(qū)間)后，本實(shí)施例的做法是將該預(yù)測(cè)結(jié)果result_A作為最終的預(yù)測(cè)結(jié)果輸出。
[0019]本實(shí)施例通過(guò)采用常規(guī)SVM預(yù)測(cè)算法與SVM分類算法相互結(jié)合，同時(shí)使用，能夠充分利用SVM在分類和回歸預(yù)測(cè)方面的應(yīng)用，提高了支持向量機(jī)算法的精度。
[0020]對(duì)于預(yù)測(cè)步驟S17，在另一實(shí)施例中，其在確定出預(yù)測(cè)結(jié)果result_A正確(即確定預(yù)測(cè)結(jié)果result_A屬于分類結(jié)果result_B所在的區(qū)間)后，保留當(dāng)前的預(yù)測(cè)模型model_A。然后或者同時(shí)，復(fù)制每一個(gè)測(cè)試數(shù)據(jù)Dei (i為正整數(shù))，得到多個(gè)同一測(cè)試數(shù)據(jù)如Del、Dc2、…、Dcn，η為總個(gè)數(shù)，然后將這多個(gè)同一測(cè)試數(shù)據(jù)Del、Dc2、…、Den輸入預(yù)測(cè)模型model_A進(jìn)行預(yù)測(cè)，得到多個(gè)預(yù)測(cè)值Rcl、Rc2、."、Rcn，接著對(duì)這多個(gè)預(yù)測(cè)值Rcl、Rc2、…、Ren去掉最大值和最小值，而后求取平均值，該平均值作為最終的預(yù)測(cè)結(jié)果輸出。對(duì)于該實(shí)施例，預(yù)測(cè)模型建立成功后，實(shí)際預(yù)測(cè)過(guò)程中，對(duì)同一個(gè)數(shù)據(jù)輸入進(jìn)行復(fù)制后再輸入模型中，從而可獲得多個(gè)預(yù)測(cè)值，對(duì)這些預(yù)測(cè)值去掉最大