一種基于支持向量回歸的建模方法
【專利摘要】一種基于支持向量回歸的建模方法,步驟如下:一、對衛(wèi)星遙測數(shù)據(jù)進(jìn)行小波分解,獲取其奇異點;二、將衛(wèi)星遙測數(shù)據(jù)通過奇異點分割為多個數(shù)據(jù)段;三、對各個數(shù)據(jù)段分別使用支持向量回歸建模,得到定量模型;四、對各個數(shù)據(jù)段分配模式符號,得到模式符號集合,每個模式符號對應(yīng)一個支持向量回歸模型,即定量模型;五、對在衛(wèi)星遙測數(shù)據(jù)奇異點附近的原始數(shù)據(jù)進(jìn)行量化,分配數(shù)據(jù)符號,得到數(shù)據(jù)符號集合;六、根據(jù)衛(wèi)星遙測數(shù)據(jù),與步驟五中得到的數(shù)據(jù)符號集合,生成多維數(shù)據(jù)符號序列,結(jié)合模式符號集合,生成模式轉(zhuǎn)移元組;七、對得到的模式轉(zhuǎn)移元組進(jìn)行D?Markov重構(gòu),得到D?Markov機(jī)定性模型;八、將D?Markov機(jī)定性模型中模式符號與所對應(yīng)的定量模型相關(guān)聯(lián),得到混合模型。
【專利說明】
一種基于支持向量回歸的建模方法【
技術(shù)領(lǐng)域
】
[0001]本發(fā)明提供一種建模方法,特別涉及一種基于支持向量回歸的建模方法,屬于基于衛(wèi)星遙測數(shù)據(jù)的建模領(lǐng)域,能夠僅通過衛(wèi)星遙測數(shù)據(jù)對衛(wèi)星設(shè)備建立混合模型。【【背景技術(shù)】】
[0002]根據(jù)建模方式的不同,系統(tǒng)建模技術(shù)可分為基于機(jī)理與數(shù)據(jù)驅(qū)動兩大類?;跈C(jī)理的建模通過分析系統(tǒng)內(nèi)部機(jī)理結(jié)構(gòu)建立精確模型,而數(shù)據(jù)驅(qū)動的建模則使用系統(tǒng)歷史數(shù)據(jù),重構(gòu)系統(tǒng)行為,從而建立近似模型。傳統(tǒng)建模方法假設(shè)系統(tǒng)數(shù)據(jù)處于穩(wěn)態(tài),而衛(wèi)星遙測數(shù)據(jù)變化復(fù)雜,具備多個工作模式,針對衛(wèi)星數(shù)據(jù),傳統(tǒng)的建模方法存在諸多缺陷。
[0003]常用的數(shù)據(jù)驅(qū)動的定量建模方法有線性回歸(Linear Regress1n)、自回歸滑動平均(Auto Regressive Moving Average)、支持向量回歸(Support Vector Regress1n) 與人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network)等。這些建模方法首先規(guī)定了帶有未知參數(shù)的基本模型結(jié)構(gòu),隨后使用系統(tǒng)的歷史數(shù)據(jù)來估計各個參數(shù)的值,最終得到系統(tǒng)的近似模型。但這些基本模型所對應(yīng)均為光滑曲線,對僅有一個工作模式的系統(tǒng),這些建模方法能夠取得良好的效果,但對擁有多個工作模式的混合系統(tǒng),建模精度將大大降低,特別是在模式切換點附近,建模誤差無法接受。
[0004]常用的數(shù)據(jù)驅(qū)動定性建模方法有符號序列分析、D-Markov回歸等。這些建模方法首先將系統(tǒng)歷史數(shù)據(jù)量化,得到定性的符號序列,隨后通過統(tǒng)計學(xué)分析符號序列間的關(guān)聯(lián)關(guān)系,得到系統(tǒng)的定性統(tǒng)計學(xué)模型。由于衛(wèi)星遙測數(shù)據(jù)是多個模式下的數(shù)據(jù)集合,因此為建立準(zhǔn)確統(tǒng)計模型,需要分析的字符串很長,給建模帶來了困難。
[0005]本專利所提出的一種基于支持向量回歸的建模方法使用基于小波的奇異點識別方法探測混合模式切換時所引起的奇異點,隨后使用支持向量回歸與D-Markov回歸,根據(jù)衛(wèi)星遙測數(shù)據(jù)建立混合模型。【
【發(fā)明內(nèi)容】
】
[0006]1、發(fā)明目的:
[0007]本發(fā)明的目的是提供一種基于支持向量回歸的建模方法,它針對具備多個工作模式的混合系統(tǒng),使用該系統(tǒng)的歷史數(shù)據(jù),重構(gòu)其行為,建立該系統(tǒng)的混合模型。
[0008]2、技術(shù)方案:
[0009]本發(fā)明一種基于支持向量回歸的建模方法,其步驟如下:
[0010]步驟一:對衛(wèi)星遙測數(shù)據(jù)進(jìn)行小波分解,獲取其奇異點;[0011 ]所述的“對衛(wèi)星遙測數(shù)據(jù)進(jìn)行小波分解,獲取其奇異點”,做法如下:當(dāng)衛(wèi)星遙測數(shù)據(jù)為單維時,使用小波對其進(jìn)行分解,并重構(gòu)得到各細(xì)節(jié)層,當(dāng)細(xì)節(jié)層在某處的幅值明顯高于其附近時,即為一個奇異點;當(dāng)衛(wèi)星遙測數(shù)據(jù)為多維時,需要對所有的維度單獨進(jìn)行小波分解,所有奇異點之集合即為總的奇異點。
[0012]步驟二:將衛(wèi)星遙測數(shù)據(jù)通過奇異點分割為多個數(shù)據(jù)段;
[0013]所述的“通過奇異點分割為多個數(shù)據(jù)段”,做法如下:衛(wèi)星遙測數(shù)據(jù)以奇異點為分界點,劃分為多個數(shù)據(jù)段。
[0014]步驟三:對各個數(shù)據(jù)段分別使用支持向量回歸建模,得到定量模型;
[0015]所述的“使用支持向量回歸建?!保龇ㄈ缦?對任意數(shù)據(jù)段,當(dāng)數(shù)據(jù)為單維度數(shù)據(jù)時,以時間為輸入,該數(shù)據(jù)段為輸出,使用支持向量機(jī)進(jìn)行建模;當(dāng)數(shù)據(jù)為多維度時,則以歷史數(shù)據(jù)中標(biāo)記的輸入輸出為準(zhǔn)使用支持向量機(jī)建模。需要指出的是,當(dāng)數(shù)據(jù)為單維度時,需要將時間軸平移到〇時刻開始。最終,得到衛(wèi)星遙測數(shù)據(jù)各個數(shù)據(jù)段的支持向量回歸模型。
[0016]步驟四:對各個數(shù)據(jù)段分配模式符號,得到模式符號集合,每個模式符號對應(yīng)一個支持向量回歸模型,即定量模型;
[0017]所述的“各個數(shù)據(jù)段分配模式符號,得到模式符號集合,每個模式符號對應(yīng)一個支持向量回歸模型,即定量模型”,做法如下:在步驟三中對所有數(shù)據(jù)段使用了支持向量回歸建模,每個數(shù)據(jù)段對應(yīng)于一個支持向量回歸模型,即定量模型。當(dāng)任意兩個定量模型近似, 即所有模型參數(shù)的相對誤差均在5%之內(nèi)時,即認(rèn)定兩者為相同的定量模型,兩個定量模型將通過參數(shù)取平均值的方式融合成為一個新的定量模型,以此類推,將所有可融合的定量模型進(jìn)行融合,并分配給各個定量模型唯一的模式符號。各個數(shù)據(jù)段的模式符號與其所對應(yīng)的定量模型的模式符號一致,此時一個模式符號即對應(yīng)衛(wèi)星遙測數(shù)據(jù)中蘊含的一個工作模式。后面對系統(tǒng)的模式與其對應(yīng)的模式符號不加區(qū)分。
[0018]步驟五:對在衛(wèi)星遙測數(shù)據(jù)奇異點附近的原始數(shù)據(jù)進(jìn)行量化,分配數(shù)據(jù)符號,得到數(shù)據(jù)符號集合;
[0019]所述的“在衛(wèi)星遙測數(shù)據(jù)奇異點附近的原始數(shù)據(jù)進(jìn)行量化,分配數(shù)據(jù)符號,得到數(shù)據(jù)符號集合”,做法如下:根據(jù)系統(tǒng)特性,首先選擇D-Markov的長度D,隨后對衛(wèi)星遙測數(shù)據(jù)模式切換點前D個數(shù)據(jù)點進(jìn)行量化,即將衛(wèi)星遙測數(shù)據(jù)幅值所在區(qū)間劃分為多個子區(qū)間,隨后對落入不同區(qū)間的數(shù)據(jù)分配數(shù)據(jù)符號,落入同一區(qū)間的數(shù)據(jù)分配相同數(shù)據(jù)符號。
[0020]步驟六:根據(jù)衛(wèi)星遙測數(shù)據(jù),與步驟五中得到的數(shù)據(jù)符號集合,生成多維數(shù)據(jù)符號序列,結(jié)合模式符號集合,生成模式轉(zhuǎn)移元組;
[0021]所述的“根據(jù)衛(wèi)星遙測數(shù)據(jù),與步驟五中得到的數(shù)據(jù)符號集合,生成多維數(shù)據(jù)符號序列,結(jié)合模式符號集合,生成模式轉(zhuǎn)移元組”,做法如下:依次分析衛(wèi)星遙測數(shù)據(jù),當(dāng)出現(xiàn)一個模式切換點時,將該模式切換點前D個數(shù)據(jù)點所對應(yīng)的數(shù)據(jù)符號依次記錄,得到一個數(shù)據(jù)符號序列,該數(shù)據(jù)符號序列和模式切換前后所處模式對應(yīng)的模式符號一起構(gòu)成一個模式轉(zhuǎn)移元組。
[0022]步驟七:對得到的模式轉(zhuǎn)移元組進(jìn)行D-Markov重構(gòu),得到D-Markov機(jī)定性模型;
[0023]所述的“D-Markov機(jī)”指每個狀態(tài)代表一個或多個長度為D的數(shù)據(jù)序列的有限狀態(tài)自動機(jī)。
[0024]所述的“對得到的模式轉(zhuǎn)移元組進(jìn)行D-Markov重構(gòu),得到D-Markov機(jī)定性模型”, 做法如下:統(tǒng)計所有模式轉(zhuǎn)移元組,由模式a轉(zhuǎn)移到模式邱勺模式轉(zhuǎn)移元組出現(xiàn)次數(shù)記為Nae, 在這Nae個模式轉(zhuǎn)移元組中,數(shù)據(jù)符號序列s出現(xiàn)的次數(shù)記為N%,那么當(dāng)當(dāng)前模式為a,當(dāng)前數(shù)據(jù)量化得到的序列為s時,模式轉(zhuǎn)移為邱勺概率為NWNae,一起組成模式概率轉(zhuǎn)移元組〈a, s,Nsae/Naf!,。所有模式概率轉(zhuǎn)移元組一起組成D-Markov機(jī)定性模型。
[0025]步驟八:將D-Markov機(jī)定性模型中模式符號與所對應(yīng)的定量模型相關(guān)聯(lián),得到混合模型。
[0026]所述的“將D-Markov機(jī)定性模型中模式符號與所對應(yīng)的定量模型相關(guān)聯(lián),得到混合模型”,做法如下:將D-Markov機(jī)定性模型中模式符號與所對應(yīng)的定量模型相關(guān)聯(lián),便得到了混合模型。在該混合模型中,D-Markov機(jī)的模式代表了衛(wèi)星遙測數(shù)據(jù)所蘊含的模式,D-Markov機(jī)的切換條件代表了衛(wèi)星遙測數(shù)據(jù)模式切換的條件,各個模式所對應(yīng)的支持向量回歸模型代表衛(wèi)星遙測數(shù)據(jù)在該模式下的連續(xù)行為。[〇〇27]優(yōu)點及功效:
[0028]本發(fā)明的優(yōu)點是能夠根據(jù)混合系統(tǒng)的歷史數(shù)據(jù)得到建模模型,與傳統(tǒng)定量模型相比能夠表示系統(tǒng)的工作模式,且有著更高的精確程度?!尽靖綀D說明】】[〇〇29]圖1原始數(shù)據(jù)圖。
[0030]圖2小波奇異點識別圖。[〇〇31]圖3數(shù)據(jù)段1支持向量回歸模型。[〇〇32]圖4數(shù)據(jù)段2支持向量回歸模型。[〇〇33]圖5數(shù)據(jù)段3支持向量回歸模型。[〇〇34]圖6數(shù)據(jù)段4支持向量回歸模型。[〇〇35] 圖7建模模型。[〇〇36]圖8本發(fā)明所述方法流程圖?!尽揪唧w實施方式】】
[0037]下面結(jié)合附圖1-8,對本發(fā)明進(jìn)一步說明如下:[〇〇38]方法實施對象為一三模式系統(tǒng),觀測數(shù)據(jù)為一維,見圖1所示。
[0039]本發(fā)明一種基于支持向量回歸的建模方法,其步驟如下:
[0040]步驟一:對系統(tǒng)歷史數(shù)據(jù)進(jìn)行小波分解,獲取其奇異點;[0041 ]步驟二:將原始?xì)v史數(shù)據(jù)通過奇異點分割為多個數(shù)據(jù)段;
[0042]步驟三:對各個數(shù)據(jù)段分別使用支持向量回歸建模,得到定量模型;[〇〇43]步驟四:對各個數(shù)據(jù)段分配模式符號,得到模式符號集合,每個模式符號對應(yīng)一個支持向量回歸模型;
[0044]步驟五:對在奇異點附近的原始數(shù)據(jù)進(jìn)行量化,分配數(shù)據(jù)符號,得到數(shù)據(jù)符號集合;
[0045]步驟六:根據(jù)原始數(shù)據(jù),結(jié)合步驟四與步驟五中得到的符號集合,生成多維符號序列,結(jié)合模式符號集合,生成模式轉(zhuǎn)移元組;
[0046]步驟七:對得到的模式轉(zhuǎn)移元組進(jìn)行D-Markov重構(gòu),得到D-Markov機(jī)定性模型;
[0047]步驟八:將D-Markov機(jī)中模式符號與所對應(yīng)的支持向量回歸模型相關(guān)聯(lián),得到模型。[〇〇48]例如圖1為某衛(wèi)星電源系統(tǒng)電流監(jiān)測數(shù)據(jù)。
[0049]步驟一做法如下:
[0050]對圖1中的遙測數(shù)據(jù)進(jìn)行小波分解,得到結(jié)果如圖2所示,可以明顯看出在時間軸1、2、3處幅值較大,取1、2、3處幅值最大的幾個點,分別求平均可以得到奇異點分別為0.97、 2.05與2.96。[〇〇51 ] 步驟二做法如下:[〇〇52]原始遙測數(shù)據(jù)采樣率為0.01,共計400個點。使用0.97、2.05與2.96分割可以得到 1:97、98:205、206:296 和 297:400共計四段數(shù)據(jù)。[〇〇53] 步驟三做法如下:
[0054]分別對四段遙測數(shù)據(jù)采用支持向量回歸建立模型,得到四個模型ml、m2、m3、m4jt 應(yīng)曲線圖3、圖4、圖5、圖6所示。[〇〇55]步驟四做法如下:
[0056]由于ml與m4接近,因此需要融合為m5,分配同一個符號,m2與m3各自分配不同符號。結(jié)果給m5分配符號a,m2分配符號隊m3分配符號Y。[〇〇57] 步驟五做法如下:
[0058]首先設(shè)置D=l,對切換點前一個數(shù)據(jù)分別設(shè)置區(qū)間,分配符號。該系統(tǒng)中,設(shè)置區(qū)間(2.6,2.7)對應(yīng)符號si,(0.4,0.5)對應(yīng)符號s2,(0.9,1)對應(yīng)符號S3。[〇〇59]步驟六做法如下:
[0060]根據(jù)實際遙測數(shù)據(jù),得到單個模式轉(zhuǎn)移元組分別為〈Sl,a,f3>、〈S2,f3, y>、〈s3, y,a>〇[〇〇61 ] 步驟七做法如下:
[0062]統(tǒng)計可以得到模式概率轉(zhuǎn)移元組:
[0063]<a,sl,l,P>
[0064]<P,s2,l,y>
[0065]< y ,s3,l,a>[〇〇66]步驟八做法如下:[〇〇67]得到模型為如圖7所示。[〇〇68]通過以上步驟,能夠?qū)崿F(xiàn)使用衛(wèi)星遙測數(shù)據(jù)對系統(tǒng)建立混合模型。
【主權(quán)項】
1.一種基于支持向量回歸的建模方法,其特征在于:步驟如下:步驟一:對衛(wèi)星遙測數(shù)據(jù)進(jìn)行小波分解,獲取其奇異點;步驟二:將衛(wèi)星遙測數(shù)據(jù)通過奇異點分割為多個數(shù)據(jù)段;步驟三:對各個數(shù)據(jù)段分別使用支持向量回歸建模,得到定量模型;步驟四:對各個數(shù)據(jù)段分配模式符號,得到模式符號集合,每個模式符號對應(yīng)一個支持 向量回歸模型,即定量模型;步驟五:對在衛(wèi)星遙測數(shù)據(jù)奇異點附近的原始數(shù)據(jù)進(jìn)行量化,分配數(shù)據(jù)符號,得到數(shù)據(jù) 符號集合;步驟六:根據(jù)衛(wèi)星遙測數(shù)據(jù),與步驟五中得到的數(shù)據(jù)符號集合,生成多維數(shù)據(jù)符號序 列,結(jié)合模式符號集合,生成模式轉(zhuǎn)移元組;步驟七:對得到的模式轉(zhuǎn)移元組進(jìn)行D-Markov重構(gòu),得到D-Markov機(jī)定性模型;所述的 D-Markov機(jī)指每個狀態(tài)代表一個或多個長度為D的數(shù)據(jù)序列的有限狀態(tài)自動機(jī);步驟八:將D-Markov機(jī)定性模型中模式符號與所對應(yīng)的定量模型相關(guān)聯(lián),得到混合模型。2.根據(jù)權(quán)利要求1所述的一種基于支持向量回歸的建模方法,其特征在于:步驟一中, 所述的對衛(wèi)星遙測數(shù)據(jù)進(jìn)行小波分解,獲取其奇異點,具體為:當(dāng)衛(wèi)星遙測數(shù)據(jù)為單維時, 使用小波對其進(jìn)行分解,并重構(gòu)得到各細(xì)節(jié)層,當(dāng)細(xì)節(jié)層在某處的幅值明顯高于其附近時, 即為一個奇異點;當(dāng)衛(wèi)星遙測數(shù)據(jù)為多維時,需要對所有的維度單獨進(jìn)行小波分解,所有奇 異點之集合即為總的奇異點。3.根據(jù)權(quán)利要求1所述的一種基于支持向量回歸的建模方法,其特征在于:步驟二中, 所述的通過奇異點分割為多個數(shù)據(jù)段,具體為:衛(wèi)星遙測數(shù)據(jù)以奇異點為分界點,劃分為多 個數(shù)據(jù)段。4.根據(jù)權(quán)利要求1所述的一種基于支持向量回歸的建模方法,其特征在于:步驟三中, 所述的使用支持向量回歸建模,具體為:對任意數(shù)據(jù)段,當(dāng)數(shù)據(jù)為單維度數(shù)據(jù)時,以時間為 輸入,該數(shù)據(jù)段為輸出,使用支持向量機(jī)進(jìn)行建模;當(dāng)數(shù)據(jù)為多維度時,則以歷史數(shù)據(jù)中標(biāo) 記的輸入輸出為準(zhǔn)使用支持向量機(jī)建模。5.根據(jù)權(quán)利要求1所述的一種基于支持向量回歸的建模方法,其特征在于:步驟四中, 所述的各個數(shù)據(jù)段分配模式符號,得到模式符號集合,每個模式符號對應(yīng)一個支持向量回 歸模型,即定量模型,具體為:在步驟三中對所有數(shù)據(jù)段使用了支持向量回歸建模,每個數(shù) 據(jù)段對應(yīng)于一個支持向量回歸模型,即定量模型;當(dāng)任意兩個定量模型參數(shù)的相對誤差均 在5%之內(nèi)時,即認(rèn)定兩者為相同的定量模型,兩個定量模型將通過參數(shù)取平均值的方式融 合成為一個新的定量模型;將所有可融合的定量模型進(jìn)行融合,并分配給各個定量模型唯 一的模式符號;各個數(shù)據(jù)段的模式符號與其所對應(yīng)的定量模型的模式符號一致,此時一個 模式符號即對應(yīng)衛(wèi)星遙測數(shù)據(jù)中蘊含的一個工作模式;后面對系統(tǒng)的模式與其對應(yīng)的模式 符號不加區(qū)分。6.根據(jù)權(quán)利要求1所述的一種基于支持向量回歸的建模方法,其特征在于:步驟五中, 所述的對在衛(wèi)星遙測數(shù)據(jù)奇異點附近的原始數(shù)據(jù)進(jìn)行量化,分配數(shù)據(jù)符號,得到數(shù)據(jù)符號 集合,具體為:首先選擇D-Markov的長度D,隨后對衛(wèi)星遙測數(shù)據(jù)模式切換點前D個數(shù)據(jù)點進(jìn) 行量化,即將衛(wèi)星遙測數(shù)據(jù)幅值所在區(qū)間劃分為多個子區(qū)間,隨后對落入不同區(qū)間的數(shù)據(jù)分配數(shù)據(jù)符號,落入同一區(qū)間的數(shù)據(jù)分配相同數(shù)據(jù)符號。7.根據(jù)權(quán)利要求1所述的一種基于支持向量回歸的建模方法,其特征在于:步驟六中, 所述的根據(jù)衛(wèi)星遙測數(shù)據(jù),與步驟五中得到的數(shù)據(jù)符號集合,生成多維數(shù)據(jù)符號序列,結(jié)合 模式符號集合,生成模式轉(zhuǎn)移元組,具體為:依次分析衛(wèi)星遙測數(shù)據(jù),當(dāng)出現(xiàn)一個模式切換 點時,將該模式切換點前D個數(shù)據(jù)點所對應(yīng)的數(shù)據(jù)符號依次記錄,得到一個數(shù)據(jù)符號序列, 該數(shù)據(jù)符號序列和模式切換前后所處模式對應(yīng)的模式符號一起構(gòu)成一個模式轉(zhuǎn)移元組。8.根據(jù)權(quán)利要求1所述的一種基于支持向量回歸的建模方法,其特征在于:步驟七中, 所述的對得到的模式轉(zhuǎn)移元組進(jìn)行D-Markov重構(gòu),得到D-Markov機(jī)定性模型,具體為:統(tǒng)計 所有模式轉(zhuǎn)移元組,由模式a轉(zhuǎn)移到模式抑勺模式轉(zhuǎn)移元組出現(xiàn)次數(shù)記為Nae,在這Nae個模式 轉(zhuǎn)移元組中,數(shù)據(jù)符號序列s出現(xiàn)的次數(shù)記為Nsae,那么當(dāng)當(dāng)前模式為a,當(dāng)前數(shù)據(jù)量化得到 的序列為s時,模式轉(zhuǎn)移為的概率為NWNae,一起組成模式概率轉(zhuǎn)移元組〈a,s,NWNae, >;所有模式概率轉(zhuǎn)移元組一起組成D-Markov機(jī)定性模型。9.根據(jù)權(quán)利要求1所述的一種基于支持向量回歸的建模方法,其特征在于:步驟八中, 所述的將D-Markov機(jī)定性模型中模式符號與所對應(yīng)的定量模型相關(guān)聯(lián),得到混合模型,具 體為:將D-Markov機(jī)定性模型中模式符號與所對應(yīng)的定量模型相關(guān)聯(lián),得到混合模型;在該 混合模型中,D-Markov機(jī)的模式代表了衛(wèi)星遙測數(shù)據(jù)所蘊含的模式,D-Markov機(jī)的切換條 件代表了衛(wèi)星遙測數(shù)據(jù)模式切換的條件,各個模式所對應(yīng)的支持向量回歸模型代表衛(wèi)星遙 測數(shù)據(jù)在該模式下的連續(xù)行為。10.根據(jù)權(quán)利要求4所述的一種基于支持向量回歸的建模方法,其特征在于:當(dāng)數(shù)據(jù)為 單維度時,需要將時間軸平移到〇時刻開始。
【文檔編號】G06K9/62GK105956615SQ201610266154
【公開日】2016年9月21日
【申請日】2016年4月26日
【發(fā)明人】趙琦, 孫澤斌, 馮文全, 趙洪博, 張文峰, 周淦
【申請人】北京航空航天大學(xué)