專利名稱：基于半監(jiān)督回歸學習的多模型軟測量方法
技術領域：
本發(fā)明涉及的是ー種軟測量儀表技術領域的方法，具體是ー種基于半監(jiān)瞀回歸學習的多模型軟測量方法。
背景技術：
在目前的エ業(yè)生產中，一般采用兩種手段實現(xiàn)控制變量的測量在線儀表的方法和離線測量分析的方法。但是這兩種方法都存在一定的缺點和劣勢在線儀表進行測量的方法往往投入成本高，維護難度大，而離線測量分析的方法則由于人工因素的加入，容易測量過失誤差變大，且測量滯后性嚴重，難以滿足對實時性要求較高的系統(tǒng)。隨著計算機技術的發(fā)展，軟測量技術成為解決這ー問題的有效方法，軟測量技術是ー種使用計算機建模技術對ー些難以測量或者無法測量的變量進行預測的方法，這種難以測量的變量一般稱為主 導變量，與之相対，作為模型輸入的另外ー些相對容易測量的變量則一般稱為輔助變量。軟測量技術的輸入是輔助變量，輸出是主導變量，這種方法一般具有投入成本低、維護方便、可以實時測量的優(yōu)點。在傳統(tǒng)的軟測量技術中，往往僅僅使用少量的標記數(shù)據(jù)來進行建模，浪費了大量可以輕易獲得的未標記數(shù)據(jù)的價值，而半監(jiān)瞀學習是ー種研究如何利用未標記樣本來獲得較好性能和推廣能力的學習機器。近些年來，隨著機器學習的不斷發(fā)展以及未標記數(shù)據(jù)的日漸增加，半監(jiān)瞀學習正逐漸成為ー個研究熱點。一般來說，標記數(shù)據(jù)的獲取是比較“昂貴”的，在一個系統(tǒng)中，一般沒有辦法大量地獲得標記數(shù)據(jù)來進行建立模型，而未標記數(shù)據(jù)因為并不需要人工地對數(shù)據(jù)進行標記，所以可以對其大量獲取，并且研究發(fā)現(xiàn)，在未標記數(shù)據(jù)中存在能夠表述數(shù)據(jù)結構特點的信息，如果能力對這些信息加以利用，在軟測量技術中是可以有效地提聞預測精度的。隨著現(xiàn)代社會經濟和科技的迅猛發(fā)展，エ業(yè)生產環(huán)境變得越來越復雜，想要在這樣復雜的エ業(yè)環(huán)境中做到系統(tǒng)控制準確，必然需要對系統(tǒng)有更加準確和多祥化的認識。在軟測量領域，因為測量的主導變量一般是能夠主導控制策略變化的主要因素，所以如果軟測量模型不準確，將會帶來非常嚴重的控制問題。目前軟測量建模的方法有很多種，每種方法都可能有它自己相對應或者擅長的領域，而如今的控制系統(tǒng)也往往出現(xiàn)多變量、非線性、強耦合、多エ況、控制性能綜合要求高等特點，是多種類型系統(tǒng)的組合或者耦合，對這種系統(tǒng)采用単一模型進行軟測量建模，效果并不好。所以，對于復雜多エ況的系統(tǒng)，有必要建立多個軟測量模型，同時利用多個模型對系統(tǒng)的主導變量進行測量，最后再根據(jù)多組測量結果進行優(yōu)化，從而有助于提高軟測量模型的魯棒性、準確性和可靠性。

發(fā)明內容
本發(fā)明針對傳統(tǒng)軟測量技術中并沒有利用未標記數(shù)據(jù)及對于多エ況、非線性強的復雜エ業(yè)過程単一模型預測效果不好的問題，提供一種基于半監(jiān)瞀回歸學習的多模型軟測
量方法。
根據(jù)本發(fā)明的ー個方面，提供一種基于半監(jiān)瞀回歸學習的多模型軟測量方法，包括如下步驟步驟ー對數(shù)據(jù)進行聚類；步驟ニ根據(jù)數(shù)據(jù)分類結果采用多個子模型預測方案共同進行子模型預測，獲得子模型預測結果；步驟三將多個子模型預測結果進行合并，得到預測結果。優(yōu)選地，所述步驟一，具體為以加權式多模型軟測量建模方法采用G-K模糊聚類算法對數(shù)據(jù)進行聚類。優(yōu)選地，所述步驟三，包括步驟將子模型預測結果進行基于加權的優(yōu)化。 優(yōu)選地，所述步驟一，具體為以切換式多模型軟測量建模方法采用最小距離分類算法對數(shù)據(jù)進行聚類。優(yōu)選地，所述步驟三，包括步驟將子模型預測結果進行基于切換的優(yōu)化。優(yōu)選地，在軟測量模型建模之前，首先通過數(shù)據(jù)聚類將作為模型輸入的輔助變量數(shù)據(jù)根據(jù)它們之間的相似性進行分類，接著再根據(jù)分類結果采用不同的建模策略將ー個系統(tǒng)拆分為多個軟測量子模型共同進行變量預測，最后再把多個子模型的預測結果進行合并，形成ー種多模型的軟測量模型預測結果。優(yōu)選地，所述對數(shù)據(jù)進行聚類包括模糊聚類以及硬聚類，其中，模糊聚類是指ー種不嚴格的聚類，即某ー個數(shù)據(jù)點并不完全屬于ー個類別，數(shù)據(jù)點對各個類別的所述關系通過模糊隸屬度來表現(xiàn)，模糊隸屬度是ー個范圍在O到I內的小數(shù)，該小數(shù)越大，代表數(shù)據(jù)點與某一類別中的數(shù)據(jù)越相似，此外，同一數(shù)據(jù)點對所有類別的模糊隸屬度加和為I;硬聚類是指ー種嚴格的聚類，即某一個數(shù)據(jù)點是只能嚴格地屬于某一個類別，這種方法不存在隸屬度的概念，對某ー數(shù)據(jù)點的所屬關系來說，是非此即彼的。優(yōu)選地，加權式多模型軟測量建模方法指的是首先利用G-K模糊聚類算法對輸入數(shù)據(jù)點進行聚類分析，得到聚類中心和每個數(shù)據(jù)點的模糊隸屬度，接著根據(jù)類別的特點建立與類別數(shù)相等的子模型進行軟測量模型主導變量的預測，最后再以每個數(shù)據(jù)點的模糊隸屬度為加權系數(shù)對該數(shù)據(jù)點的所有子模型預測結果進行加權計算，最終得到一個基于加權的多模型軟測量模型預測結果。優(yōu)選地，所述的切換式多模型軟測量建模方法指的是首先對作為輸入的輔助變量數(shù)據(jù)進行聚類分析，得到數(shù)據(jù)的聚類數(shù)和聚類中心；接著采用最小距離分類方法對輸入數(shù)據(jù)進行分類，這里的最小聚類分類指的是通過計算某一數(shù)據(jù)點到各個聚類中心的距離來判定該數(shù)據(jù)點屬于哪個類別，取距離最小的類別為該數(shù)據(jù)點的所屬類別；然后再根據(jù)分類結果建立各個類別的軟測量子模型對其中的數(shù)據(jù)進行預測；最后取所有類別中數(shù)據(jù)的預測結果的并集，直接作為這種多模型軟測量方法的預測結果集。更為具體地，提供兩種基于半監(jiān)瞀回歸學習的多模型軟測量方法加權式多模型軟測量建模方法和切換式多模型軟測量建模方法。首先，這兩種多模型軟測量建模方法均以數(shù)據(jù)聚類算法為基礎，所不同的是加權式多模型軟測量建模方法采用G-K模糊聚類算法對數(shù)據(jù)進行聚類，切換式多模型軟測量建模方法采用最小距離分類對數(shù)據(jù)進行聚類；接著再根據(jù)數(shù)據(jù)分類結果分別采用不同的子模型預測方案進行子模型預測，最后再根據(jù)兩種建模方法的不同分別將子模型預測結果進行基于加權或基于切換的優(yōu)化，從而得到不同多模型軟測量建模方法下的預測結果。所述的基于半監(jiān)瞀回歸的學習方法指的是通過將半監(jiān)瞀核引入一種監(jiān)瞀回歸學習算法目標方程中的方法，將其變?yōu)椹`種基于半監(jiān)瞀回歸的學習算法，接著再通過對這種半監(jiān)瞀學習方法的目標函數(shù)進行最小值求解，從而得到當目標函數(shù)取得最小值時某些未知變量的值，最后再通過這些未知變量的值來描述系統(tǒng)函數(shù)關系的一種學習方法。所述的以數(shù)據(jù)聚類算法為基礎的多模型軟測量模型指的是在軟測量模型建模之前，首先通過數(shù)據(jù)聚類將作為模型輸入的輔助變量數(shù)據(jù)根據(jù)它們之間的相似性進行分類，接著在根據(jù)分類結果采用不同的建模策略將ー個系統(tǒng)拆分為多個軟測量子模型共同進行變量預測，最后再把多個子模型的預測結果進行合并，形成ー種多模型的軟測量模型預測結果。這里的數(shù)據(jù)聚類算法可以分為模糊聚類和硬聚類，所謂模糊聚類是指一種不嚴格的聚類，即某ー個數(shù)據(jù)點并不完全屬于ー個類別，數(shù)據(jù)點對各個類別的所述關系通過模糊隸屬度來表現(xiàn)，模糊隸屬度是ー個范圍在O到I內的小數(shù)，該小數(shù)越大，代表數(shù)據(jù)點與某ー類別中的數(shù)據(jù)越相似，此外，同一數(shù)據(jù)點對所有類別的模糊隸屬度加和為I;所謂硬聚類是指一種嚴格的聚類，即某一個數(shù)據(jù)點是只能嚴格地屬于某一個類別，這種方法不存在隸屬度的概念，對某ー數(shù)據(jù)點的所屬關系來說，是非此即彼的。 所述的加權式多模型軟測量建模方法指的是首先利用G-K模糊聚類算法對輸入數(shù)據(jù)點進行聚類分析，得到聚類中心和每個數(shù)據(jù)點的模糊隸屬度，接著根據(jù)類別的特點建立與類別數(shù)相等的子模型進行軟測量模型主導變量的預測，最后再以每個數(shù)據(jù)點的模糊隸屬度為加權系數(shù)對該數(shù)據(jù)點的所有子模型預測結果進行加權計算，最終得到ー個基于加權的多模型軟測量模型預測結果。如圖I所示，它的步驟如下①分析事先獲得的一部分數(shù)據(jù)，找出子エ況(類別)數(shù)C，其中c可以根據(jù)經驗給定或者通過其他聚類算法進行分析。②分別為每個類別選擇子模型建模方法，并優(yōu)化參數(shù)，使得該模型對所屬類別的數(shù)據(jù)預測效果最優(yōu)。③讀取輸入數(shù)據(jù)Xp使用所有的子模型對進行預測，得到子模型預測結果
·Λ④預測結束，轉⑤；預測未結束j=j+l，轉③。⑤對輸入數(shù)據(jù)集X進行G-K聚類分析，將X分為c個類別，得到隸屬度矩陣U，根據(jù)式下式計算多模型輸出F = Ui Yi
i~l其中Ui為第i個類別對X中所有數(shù)據(jù)的隸屬度向量，ξ為X中所有數(shù)據(jù)在第i個子模型下的預測結果。⑥輸出所有數(shù)據(jù)的多模型預測結果y。所述的切換式多模型軟測量建模方法指的是首先對作為輸入的輔助變量數(shù)據(jù)進行聚類分析，得到數(shù)據(jù)的聚類數(shù)和聚類中心；接著采用最小距離分類方法對輸入數(shù)據(jù)進行分類，這里的最小聚類分類指的是通過計算某一數(shù)據(jù)點到各個聚類中心的距離來判定該數(shù)據(jù)點屬于哪個類別，取距離最小的類別為該數(shù)據(jù)點的所屬類別；然后再根據(jù)分類結果建立各個類別的軟測量子模型對其中的數(shù)據(jù)進行預測；最后取所有類別中數(shù)據(jù)的預測結果的并集，直接作為這種多模型軟測量方法的預測結果集。如圖2所示，這種方法的步驟如下①獲取全部輸入數(shù)據(jù)并進行聚類分析，將所有的數(shù)據(jù)分為c個類別，并得到c個類別的聚類中心V= {vj ,1 = 1,2, ...，Co②獲取一個輸入數(shù)據(jù)點Xp利用下式計算其到每個聚類中心的歐氏距離。(Ii= I I Xj-Vi I
③得到d最小的類別P，并把歸類為這ー類別，將其加入到Xp。④所有數(shù)據(jù)讀取結束，轉⑤；所有數(shù)據(jù)未讀取結束，轉②。⑤檢查每個類別的標記樣本數(shù)目是否少于n，若是，轉⑥，否則轉⑦。⑥對標記樣本數(shù)目少于η的類別，從另外c-Ι個類別中各抽取一半的標記樣本與其自身的標記樣本集合并，共同作為該類別的標記樣本集。⑦分別對c個類別的數(shù)據(jù)集選取子模型建模方法并優(yōu)化參數(shù)，進行預測
Aγ, ==⑧合并所有子模型預測結果，得到多模型預測結果
ΛΓ = F1U F2U…U》:.，/■ = U2,.",C與現(xiàn)有技術相比，本發(fā)明具有如下有益效果I.在傳統(tǒng)軟測量方法中，一般僅僅對輸入進行單ー模型的建立,本發(fā)明提供的兩種基于半監(jiān)瞀回歸的多模型軟測量建模方法可以有效降低因為過程復雜化帶來的模型不準確問題。2.加權式多模型軟測量建模方法是ー種基于模糊聚類的方法，這種方法不要求事先就對輸入數(shù)據(jù)進行分類，所以只要子模型采取在線建模方法，就可以對數(shù)據(jù)進行實時分類而在線地得到預測結果。3.切換式多模型軟測量建模方法子模型因為僅僅只對一部分相似的輸入數(shù)據(jù)進行預測，所以它的模型預測準確度比較高，可以很好地根據(jù)エ況情況對數(shù)據(jù)進行區(qū)分預測。本發(fā)明在エ業(yè)軟測量建模方法領域有著廣泛的應用前景。


圖I是加權式多模型軟測量建模方法流程圖。圖2是切換式多模型軟測量建模方法流程圖。圖3是多模型軟測量建模方法子模型A對煙氣含氧量的預測效果圖。圖4是多模型軟測量建模方法多模型對煙氣含氧量的預測效果圖。
具體實施例方式本發(fā)明中所述的基于半監(jiān)瞀回歸的學習方法指的是通過將半監(jiān)瞀核引入ー種監(jiān)瞀回歸學習算法目標方程中的方法，將其變?yōu)椹`種基于半監(jiān)瞀回歸的學習算法，接著再通過對這種半監(jiān)瞀學習方法的目標函數(shù)進行最小值求解，從而得到當目標函數(shù)取得最小值時某些未知變量的值，最后再通過這些未知變量的值來描述系統(tǒng)函數(shù)關系的一種學習方法。
下面對本發(fā)明的實施例作詳細說明，本實施例在以本發(fā)明技術方案為前提下進行實施，給出了詳細的實施方式和具體的操作過程，但本發(fā)明的保護范圍不限于下述的實施例。實施例本實施例利用某電廠1000MW實測數(shù)據(jù)進行基于加權式多模型軟測量建模方法的煙氣含氧量預測，包括以下步驟首先，了解研究對象，選取輔助變量和主導變量；其次，根據(jù)數(shù)據(jù)特點選取子模型并選取適應于該子模型數(shù)據(jù)的最優(yōu)參數(shù)；再次，對輸入數(shù)據(jù)進行多個子模型的預測，得到多組的預測結果；最后，利用G-K模糊聚類算法對輸入數(shù)據(jù)進行聚類得到模糊隸屬度矩陣，并利用模糊隸屬度為加權系數(shù)對多組子模型預測結果進行加權計算。在評價建模方法的性能時使用了以下指標相對均方根誤差(RMSE)，它的計算公 式如下
權利要求
1.一種基于半監(jiān)瞀回歸學習的多模型軟測量方法，其特征在于，包括如下步驟 步驟ー對數(shù)據(jù)進行聚類； 步驟ニ根據(jù)數(shù)據(jù)分類結果采用多個子模型預測方案共同進行子模型預測，獲得子模型預測結果； 步驟三將多個子模型預測結果進行合并，得到預測結果。
2.根據(jù)權利要求I所述的基于半監(jiān)瞀回歸學習的多模型軟測量方法，其特征在于，所述步驟一，具體為以加權式多模型軟測量建模方法采用G-K模糊聚類算法對數(shù)據(jù)進行聚類。
3.根據(jù)權利要求2所述的基于半監(jiān)瞀回歸學習的多模型軟測量方法，其特征在于，所述步驟三，包括步驟將子模型預測結果進行基于加權的優(yōu)化。
4.根據(jù)權利要求I至3中任一項所述的基于半監(jiān)瞀回歸學習的多模型軟測量方法，其特征在于，所述步驟一，具體為以切換式多模型軟測量建模方法采用最小距離分類算法對數(shù)據(jù)進行聚類。
5.根據(jù)權利要求4所述的基于半監(jiān)瞀回歸學習的多模型軟測量方法，其特征在干，所述步驟三，包括步驟將子模型預測結果進行基于切換的優(yōu)化。
6.根據(jù)權利要求I至5中任一項所述的基于半監(jiān)瞀回歸學習的多模型軟測量方法，其特征在干，具體為在軟測量模型建模之前，首先通過數(shù)據(jù)聚類將作為模型輸入的輔助變量數(shù)據(jù)根據(jù)它們之間的相似性進行分類，接著再根據(jù)分類結果采用不同的建模策略將ー個系統(tǒng)拆分為多個軟測量子模型共同進行變量預測，最后再把多個子模型的預測結果進行合并，形成ー種多模型的軟測量模型預測結果。
7.根據(jù)權利要求I至6中任一項所述的基于半監(jiān)瞀回歸學習的多模型軟測量方法，其特征在于，所述對數(shù)據(jù)進行聚類包括模糊聚類以及硬聚類，其中，模糊聚類是指一種不嚴格的聚類，即某ー個數(shù)據(jù)點并不完全屬于ー個類別，數(shù)據(jù)點對各個類別的所述關系通過模糊隸屬度來表現(xiàn)，模糊隸屬度是ー個范圍在O到I內的小數(shù)，該小數(shù)越大，代表數(shù)據(jù)點與某一類別中的數(shù)據(jù)越相似，此外，同一數(shù)據(jù)點對所有類別的模糊隸屬度加和為I;硬聚類是指一種嚴格的聚類，即某一個數(shù)據(jù)點是只能嚴格地屬于某一個類別，這種方法不存在隸屬度的概念，對某ー數(shù)據(jù)點的所屬關系來說，是非此即彼的。
8.根據(jù)權利要求2至7中任一項所述的基于半監(jiān)瞀回歸學習的多模型軟測量方法，其特征在于，加權式多模型軟測量建模方法指的是首先利用G-K模糊聚類算法對輸入數(shù)據(jù)點進行聚類分析，得到聚類中心和每個數(shù)據(jù)點的模糊隸屬度，接著根據(jù)類別的特點建立與類別數(shù)相等的子模型進行軟測量模型主導變量的預測，最后再以每個數(shù)據(jù)點的模糊隸屬度為加權系數(shù)對該數(shù)據(jù)點的所有子模型預測結果進行加權計算，最終得到一個基于加權的多模型軟測量模型預測結果。
9.根據(jù)權利要求4至8中任一項所述的基于半監(jiān)瞀回歸學習的多模型軟測量方法，其特征在于，所述的切換式多模型軟測量建模方法指的是首先對作為輸入的輔助變量數(shù)據(jù)進行聚類分析，得到數(shù)據(jù)的聚類數(shù)和聚類中心；接著采用最小距離分類方法對輸入數(shù)據(jù)進行分類，這里的最小聚類分類指的是通過計算某一數(shù)據(jù)點到各個聚類中心的距離來判定該數(shù)據(jù)點屬于哪個類別，取距離最小的類別為該數(shù)據(jù)點的所屬類別；然后再根據(jù)分類結果建立各個類別的軟測量子模型對其中的數(shù)據(jù)進行預測；最后取所有類別中數(shù)據(jù)的預測結果的并集， 直接作為這種多模型軟測量方法的預測結果集。
全文摘要
本發(fā)明提供一種基于半監(jiān)督回歸學習的多模型軟測量方法，包括步驟步驟一對數(shù)據(jù)進行聚類；步驟二根據(jù)數(shù)據(jù)分類結果采用多個子模型預測方案共同進行子模型預測，獲得子模型預測結果；步驟三將多個子模型預測結果進行合并，得到預測結果。本發(fā)明可以有效降低因為過程復雜化帶來的模型不準確問題。加權式多模型軟測量建模方法不要求事先就對輸入數(shù)據(jù)進行分類，所以只要子模型采取在線建模方法，就可以對數(shù)據(jù)進行實時分類而在線地得到預測結果。切換式多模型軟測量建模方法子模型因為僅僅只對一部分相似的輸入數(shù)據(jù)進行預測，所以它的模型預測準確度比較高，可以很好地根據(jù)工況情況對數(shù)據(jù)進行區(qū)分預測。
文檔編號G06N7/02GK102693452SQ201210148588
公開日2012年9月26日 申請日期2012年5月11日 優(yōu)先權日2012年5月11日
發(fā)明者張曦, 李哲, 王國良, 閻威武, 陳世和 申請人:上海交通大學, 廣東電網(wǎng)公司電力科學研究院