專利名稱：一種基于網(wǎng)絡(luò)流量自適應(yīng)預(yù)測(cè)的動(dòng)態(tài)負(fù)載均衡方法
技術(shù)領(lǐng)域：
本發(fā)明涉及一種計(jì)算機(jī)應(yīng)用技術(shù)，具體的說(shuō)就是一種服務(wù)器集群的網(wǎng)絡(luò)負(fù)載均衡方法。
背景技術(shù)：
當(dāng)前，在各個(gè)網(wǎng)絡(luò)的核心部分，其數(shù)據(jù)流量和計(jì)算強(qiáng)度之大，使得單一設(shè)備根本無(wú)法承擔(dān)，而如何在完成同樣功能的多個(gè)網(wǎng)絡(luò)設(shè)備之間實(shí)現(xiàn)合理的業(yè)務(wù)量分配，使之不至于出現(xiàn)一臺(tái)設(shè)備過(guò)忙、而別的設(shè)備卻未充分發(fā)揮處理能力的情況，就成了一個(gè)問(wèn)題，負(fù)載均衡機(jī)制也因此應(yīng)運(yùn)而生。 負(fù)載均衡建立在現(xiàn)有網(wǎng)絡(luò)結(jié)構(gòu)之上，它提供了一種廉價(jià)有效的方法擴(kuò)展服務(wù)器帶寬和增加吞吐量，加強(qiáng)網(wǎng)絡(luò)數(shù)據(jù)處理能力，提高網(wǎng)絡(luò)的靈活性和可用性。它主要完成以下任務(wù)解決網(wǎng)絡(luò)擁塞問(wèn)題，服務(wù)就近提供，實(shí)現(xiàn)地理位置無(wú)關(guān)性；為用戶提供更好的訪問(wèn)質(zhì)量；提高服務(wù)器響應(yīng)速度；提高服務(wù)器及其他資源的利用效率；避免網(wǎng)絡(luò)關(guān)鍵部位出現(xiàn)單點(diǎn)失效等等。 現(xiàn)在所說(shuō)的負(fù)載均衡，多指的是對(duì)訪問(wèn)服務(wù)器的負(fù)載進(jìn)行均衡(或者說(shuō)分擔(dān))措施。 在現(xiàn)在的負(fù)載均衡應(yīng)用中，基本都是滯后調(diào)節(jié)，僅僅是對(duì)當(dāng)前負(fù)載的觀測(cè)值進(jìn)行調(diào)節(jié)，在做出調(diào)節(jié)的同時(shí)事實(shí)上負(fù)載已經(jīng)變化了，這樣容易造成反應(yīng)滯后，調(diào)節(jié)效果不明顯，有時(shí)甚至起到相反作用的效果。

發(fā)明內(nèi)容
本發(fā)明的目的是提供一種基于網(wǎng)絡(luò)流量預(yù)測(cè)的服務(wù)器集群的動(dòng)態(tài)負(fù)載均衡方法，
可使網(wǎng)絡(luò)負(fù)載得到預(yù)先調(diào)節(jié)，避免了滯后效應(yīng)，時(shí)時(shí)使網(wǎng)絡(luò)負(fù)載保持在比較均衡的狀態(tài)。
本發(fā)明的目的是按以下方式實(shí)現(xiàn)的由網(wǎng)絡(luò)負(fù)載的一定時(shí)間周期的歷史數(shù)據(jù)得到
自適應(yīng)算法的參數(shù)值，形成預(yù)測(cè)程序的公式，將當(dāng)前時(shí)刻的負(fù)載觀測(cè)值和上述參數(shù)值代入
公式，得到對(duì)下一時(shí)刻的網(wǎng)絡(luò)負(fù)載的預(yù)測(cè)值，從而使負(fù)載均衡軟件根據(jù)該預(yù)測(cè)值預(yù)先調(diào)整
后端的調(diào)度算法的權(quán)值，實(shí)現(xiàn)負(fù)載均衡。
具體步驟如下 首先由基于SNMP協(xié)議的負(fù)載均衡器本身操作系統(tǒng)的網(wǎng)絡(luò)流量監(jiān)控軟件或負(fù)載均
衡軟件的網(wǎng)絡(luò)流量監(jiān)控記錄，包括流入負(fù)載均衡交換機(jī)或交換軟件的網(wǎng)絡(luò)流量在一定時(shí)間
周期的歷史數(shù)據(jù)，代入預(yù)測(cè)程序中自適應(yīng)算法的計(jì)算公式，得到自適應(yīng)算法的參數(shù)，在進(jìn)行
預(yù)測(cè)時(shí)，把當(dāng)前時(shí)刻的負(fù)載觀測(cè)值代入公式來(lái)預(yù)測(cè)下一時(shí)刻的負(fù)載數(shù)值，并取代當(dāng)前時(shí)刻
的負(fù)載觀測(cè)值輸入負(fù)載均衡軟件的負(fù)載均衡模塊來(lái)對(duì)后端服務(wù)器進(jìn)行流量分配； 自適應(yīng)算法為三層BP神經(jīng)網(wǎng)絡(luò)算法，當(dāng)前時(shí)刻的下一時(shí)刻的網(wǎng)絡(luò)流量負(fù)載的預(yù)
測(cè)公式為
<formula>formula see original document page 4</formula> 其中INPUTji = 0，1，2，3， n_l)是當(dāng)前時(shí)刻的網(wǎng)絡(luò)流量、距當(dāng)前時(shí)刻前一時(shí)
間間隔、前兩個(gè)時(shí)間間隔、前三個(gè)時(shí)間間隔、……前n-1個(gè)時(shí)間間隔的網(wǎng)絡(luò)流量負(fù)載，Xi則是通過(guò)自適應(yīng)算法得到的權(quán)值，通過(guò)上面加權(quán)自回歸公式的計(jì)算，得到對(duì)下一時(shí)間間隔的網(wǎng)絡(luò)流量INPUTn的預(yù)測(cè)值，Xi的計(jì)算過(guò)程參照神經(jīng)網(wǎng)絡(luò)介紹，n值的選定，和時(shí)間間隔的大小根據(jù)該網(wǎng)絡(luò)負(fù)載變化的時(shí)間周期而定；
具體算法描述如下<formula>formula see original document page 4</formula>，為輸入向量，隱層r^個(gè)神經(jīng)元，<formula>formula see original document page 4</formula>輸出神經(jīng)元yGlT，y二 (y。，yi，， ym—》t，輸入層與隱層之間的權(quán)值為Wik，閾值為9i，隱層與輸出層間的權(quán)值為Wkj，閾值為^，那么隱層神經(jīng)元的輸出滿足<formula>formula see original document page 4</formula> 輸出層神經(jīng)元的輸出滿足乂 <formula>formula see original document page 4</formula>[ooi6]網(wǎng)絡(luò)關(guān)于第p個(gè)樣本的誤差測(cè)度<formula>formula see original document page 4</formula>
三層BP神經(jīng)網(wǎng)絡(luò)算法的過(guò)程是由模式的正向傳播和誤差反向傳播所組成，在正向傳播過(guò)程中，輸入信息經(jīng)隱層神經(jīng)元逐層處理并傳向輸出層，輸出層不能得到所期望的輸出，則轉(zhuǎn)入反向傳播過(guò)程，將實(shí)際值與網(wǎng)絡(luò)輸出之間的誤差按原來(lái)的聯(lián)結(jié)通路返回，通過(guò)修改各層神經(jīng)元間的權(quán)重使誤差減小，然后再轉(zhuǎn)入正向傳播過(guò)程，如此反復(fù)計(jì)算，直到誤差小于設(shè)定值為止。 本發(fā)明的異效果是具備較強(qiáng)的自學(xué)習(xí)能力，其參數(shù)可隨歷史數(shù)據(jù)的不斷變化而變化，預(yù)測(cè)程序的公式也隨之變化，從而保證預(yù)測(cè)值在任何情況下都具有較高的準(zhǔn)確性。通過(guò)自適應(yīng)算法的預(yù)測(cè)程序來(lái)預(yù)測(cè)下一時(shí)刻流入負(fù)載均衡交換機(jī)或交換軟件的網(wǎng)絡(luò)負(fù)載，在負(fù)載變化具有時(shí)間周期性變化特點(diǎn)的場(chǎng)合，能夠較準(zhǔn)確地根據(jù)該時(shí)間周期內(nèi)的網(wǎng)絡(luò)負(fù)載變化趨勢(shì)進(jìn)行流量預(yù)測(cè)和預(yù)先進(jìn)行調(diào)節(jié)。


圖1基于網(wǎng)絡(luò)流量預(yù)測(cè)的服務(wù)器集群的動(dòng)態(tài)負(fù)載均衡方法的原理 圖2三層BP神經(jīng)網(wǎng)絡(luò)算法原理圖。
具體實(shí)施例方式
參照說(shuō)明書附圖作詳細(xì)說(shuō)明 將基于自適應(yīng)算法的流量預(yù)測(cè)模塊接在負(fù)載均衡策略前，用對(duì)下一時(shí)刻的網(wǎng)絡(luò)負(fù)
載預(yù)測(cè)值傳遞給負(fù)載均衡策略，而不是當(dāng)前的網(wǎng)絡(luò)負(fù)載觀測(cè)值。
舉例說(shuō)明 可以把基于自適應(yīng)算法(神經(jīng)網(wǎng)絡(luò))的網(wǎng)絡(luò)流量預(yù)測(cè)模塊看作一個(gè)黑盒子，有輸入和輸出。比如說(shuō)把某天18點(diǎn)的負(fù)載流量作為輸出，把某天當(dāng)天17點(diǎn)30分，17點(diǎn)40分，17點(diǎn)50分的負(fù)載流量作為輸入，那么可以得到由輸入計(jì)算輸出的神經(jīng)網(wǎng)絡(luò)的一組參數(shù)。在 對(duì)今天18點(diǎn)的負(fù)載流量進(jìn)行預(yù)測(cè)時(shí)，把已經(jīng)觀測(cè)到的今天17點(diǎn)30分，17點(diǎn)40分，17點(diǎn)50 分的負(fù)載流量輸入神經(jīng)網(wǎng)絡(luò)，由前面得到的參數(shù)值就可以對(duì)18點(diǎn)的負(fù)載流量進(jìn)行預(yù)測(cè)。當(dāng) 然僅僅根據(jù)一天的歷史數(shù)據(jù)得到的參數(shù)值并不足夠精確，需要進(jìn)行大量的測(cè)試得到較多參 數(shù)值，再簡(jiǎn)單平均或者加權(quán)平均得到比較精確和有效的參數(shù)。 其他自適應(yīng)學(xué)習(xí)算法的學(xué)習(xí)過(guò)程類似。使用哪種自適應(yīng)學(xué)習(xí)算法并不重要，它只 是一個(gè)黑盒子，能夠得到輸出就可以了。 當(dāng)前時(shí)刻的下一時(shí)刻的網(wǎng)絡(luò)流量負(fù)載的預(yù)測(cè)公式為
鮮LT〃 二Zx,/A,尸〖/7: 其中INPUTji = 0，1，2，3， n_l)是當(dāng)前時(shí)刻的網(wǎng)絡(luò)流量、距當(dāng)前時(shí)刻前一時(shí)
間間隔、前兩個(gè)時(shí)間間隔、前三個(gè)時(shí)間間隔、……前n-l個(gè)時(shí)間間隔的網(wǎng)絡(luò)流量負(fù)載，Xi則
是通過(guò)自適應(yīng)算法得到的權(quán)值，通過(guò)上面加權(quán)自回歸公式的計(jì)算，得到對(duì)下一時(shí)間間隔的
網(wǎng)絡(luò)流量INPUTn的預(yù)測(cè)值。Xi的計(jì)算過(guò)程參照神經(jīng)網(wǎng)絡(luò)介紹。n值的選定，和時(shí)間間隔的
大小根據(jù)該網(wǎng)絡(luò)負(fù)載變化的時(shí)間周期而定。 以三層BP神經(jīng)網(wǎng)絡(luò)為例，實(shí)現(xiàn)過(guò)程如附圖2所示 三層BP網(wǎng)絡(luò)的自適應(yīng)算法如圖2所示，x二 (x。，Xl， ...xn—》t，這里n = 6，分別代 表某天當(dāng)天17點(diǎn)30分(x。) ， 17點(diǎn)35分(Xl)……17點(diǎn)55分(xn—》的網(wǎng)絡(luò)負(fù)載流量，隱層
個(gè)神經(jīng)元，X' GRn，X' = (x' 。，x'"…，x' n—》t，輸出神經(jīng)元y G lT，y = (y。，y"…， ym—》t，這里m二 1，代表18點(diǎn)的網(wǎng)絡(luò)負(fù)載流量，輸入層與隱層之間的權(quán)值為Wik，閾值為9j， ( 一般取0)，隱層與輸出層間的權(quán)值為wkj，閾值為9 i，那么隱層神經(jīng)元的輸出滿足 ^/(Zm^x,-A) 輸出層神經(jīng)元的輸出滿足 乃二/(5]、x;-《) 網(wǎng)絡(luò)關(guān)于第p個(gè)樣本的誤差測(cè)度 - )2
z產(chǎn)i 這里把以往觀測(cè)到的17點(diǎn)30分，17點(diǎn)35分……17點(diǎn)55分的負(fù)載流量代入x =
/'一
(Xo，Xl，'"xn—》t，把18點(diǎn)的負(fù)載流量代入y = (y。，yp…，y『》t，分別解4 =/(!]沐,^,—
和7/ =/(2>;^-《)，得到參數(shù)值^和Wkj，從而，當(dāng)隱含層數(shù)目取1時(shí)，可以得到公式 ，C/T,, :^'，^，' ,=() 公式中的參數(shù)值Xi = wikXwkj。這樣就可以把今大的17點(diǎn)30分，17點(diǎn)35分
17點(diǎn)55分網(wǎng)絡(luò)負(fù)載觀測(cè)值代入公式，從而得到今天的18點(diǎn)的網(wǎng)絡(luò)流量預(yù)測(cè)值。 如圖1所示，去掉虛線框里的步驟就是一般的負(fù)載均衡，當(dāng)前網(wǎng)絡(luò)流量的觀測(cè)值直接交給后端的調(diào)度算法進(jìn)行負(fù)載均衡，而我們的基于預(yù)測(cè)的動(dòng)態(tài)負(fù)載均衡則是先進(jìn)行虛 線框中的步驟得到對(duì)下一時(shí)刻的網(wǎng)絡(luò)流量的預(yù)測(cè)值，再把這個(gè)預(yù)測(cè)值送給后端的調(diào)度算法 進(jìn)行負(fù)載均衡。 這里"一定量的歷史數(shù)據(jù)"即一定時(shí)間段內(nèi)的網(wǎng)絡(luò)負(fù)載流量記錄，通過(guò)對(duì)這些記錄 的學(xué)習(xí)和辨識(shí)，神經(jīng)網(wǎng)絡(luò)可以得到一組參數(shù)，該參數(shù)可以用于進(jìn)行預(yù)測(cè)。得到參數(shù)以后，將 當(dāng)前時(shí)刻的負(fù)載觀測(cè)值作為輸入，用神經(jīng)網(wǎng)絡(luò)算法進(jìn)行模擬，可以得到對(duì)下一時(shí)刻的負(fù)載 流量的預(yù)測(cè)值。將預(yù)測(cè)值作為負(fù)載均衡器的輸入，就相當(dāng)于預(yù)先對(duì)網(wǎng)絡(luò)流量進(jìn)行調(diào)整，在負(fù) 載具有一定時(shí)間周期規(guī)律的情況下，結(jié)果具有較高的準(zhǔn)確程度。
權(quán)利要求
一種基于網(wǎng)絡(luò)流量自適應(yīng)預(yù)測(cè)的動(dòng)態(tài)負(fù)載均衡方法，其特征在于，由網(wǎng)絡(luò)負(fù)載的一定時(shí)間周期的歷史數(shù)據(jù)得到自適應(yīng)算法的參數(shù)值，形成預(yù)測(cè)程序的公式，將當(dāng)前時(shí)刻的負(fù)載觀測(cè)值和上述參數(shù)值代入公式，得到對(duì)下一時(shí)刻的網(wǎng)絡(luò)負(fù)載的預(yù)測(cè)值，從而使負(fù)載均衡軟件根據(jù)該預(yù)測(cè)值預(yù)先調(diào)整后端的調(diào)度算法的權(quán)值，實(shí)現(xiàn)負(fù)載均衡，具體步驟如下首先由基于SNMP協(xié)議的負(fù)載均衡器本身操作系統(tǒng)的網(wǎng)絡(luò)流量監(jiān)控軟件或負(fù)載均衡軟件的網(wǎng)絡(luò)流量監(jiān)控記錄，包括流入負(fù)載均衡交換機(jī)或交換軟件的網(wǎng)絡(luò)流量在一定時(shí)間周期的歷史數(shù)據(jù)，代入預(yù)測(cè)程序中自適應(yīng)算法的計(jì)算公式，得到自適應(yīng)算法的參數(shù)，在進(jìn)行預(yù)測(cè)時(shí)，把當(dāng)前時(shí)刻的負(fù)載觀測(cè)值代入公式來(lái)預(yù)測(cè)下一時(shí)刻的負(fù)載數(shù)值，并取代當(dāng)前時(shí)刻的負(fù)載觀測(cè)值輸入負(fù)載均衡軟件的負(fù)載均衡模塊來(lái)對(duì)后端服務(wù)器進(jìn)行流量分配；自適應(yīng)算法為三層BP神經(jīng)網(wǎng)絡(luò)算法，當(dāng)前時(shí)刻的下一時(shí)刻的網(wǎng)絡(luò)流量負(fù)載的預(yù)測(cè)公式為 <mrow><msub> <mi>INPUT</mi> <mi>n</mi></msub><mo>=</mo><munderover> <mi>&Sigma;</mi> <mrow><mi>i</mi><mo>=</mo><mn>0</mn> </mrow> <mrow><mi>n</mi><mo>-</mo><mn>1</mn> </mrow></munderover><msub> <mi>x</mi> <mi>i</mi></msub><mi>INPU</mi><msub> <mi>T</mi> <mi>i</mi></msub> </mrow>其中INPUTi(i＝0，1，2，3，……n-1)是當(dāng)前時(shí)刻的網(wǎng)絡(luò)流量、距當(dāng)前時(shí)刻前一時(shí)間間隔、前兩個(gè)時(shí)間間隔、前三個(gè)時(shí)間間隔、……前n-1個(gè)時(shí)間間隔的網(wǎng)絡(luò)流量負(fù)載，xi則是通過(guò)自適應(yīng)算法得到的權(quán)值，通過(guò)上面加權(quán)自回歸公式的計(jì)算，得到對(duì)下一時(shí)間間隔的網(wǎng)絡(luò)流量INPUTn的預(yù)測(cè)值，xi的計(jì)算過(guò)程參照神經(jīng)網(wǎng)絡(luò)介紹，n值的選定，和時(shí)間間隔的大小根據(jù)該網(wǎng)絡(luò)負(fù)載變化的時(shí)間周期而定；具體算法描述如下x＝(x0，x1，…xn-1)T，x∈Rn，為輸入向量，隱層n1個(gè)神經(jīng)元，x′∈Rn，x′＝(x′0，x′1，…，x′n-1)T，輸出神經(jīng)元y∈Rm，y＝(y0，y1，…，ym-1)T，輸入層與隱層之間的權(quán)值為wik，閾值為θj，隱層與輸出層間的權(quán)值為wkj，閾值為θl，那么隱層神經(jīng)元的輸出滿足輸出層神經(jīng)元的輸出滿足網(wǎng)絡(luò)關(guān)于第p個(gè)樣本的誤差測(cè)度三層BP神經(jīng)網(wǎng)絡(luò)算法的過(guò)程是由模式的正向傳播和誤差反向傳播所組成，在正向傳播過(guò)程中，輸入信息經(jīng)隱層神經(jīng)元逐層處理并傳向輸出層，輸出層不能得到所期望的輸出，則轉(zhuǎn)入反向傳播過(guò)程，將實(shí)際值與網(wǎng)絡(luò)輸出之間的誤差按原來(lái)的聯(lián)結(jié)通路返回，通過(guò)修改各層神經(jīng)元間的權(quán)重使誤差減小，然后再轉(zhuǎn)入正向傳播過(guò)程，如此反復(fù)計(jì)算，直到誤差小于設(shè)定值為止。
全文摘要
本發(fā)明提供一種基于網(wǎng)絡(luò)流量自適應(yīng)預(yù)測(cè)的動(dòng)態(tài)負(fù)載均衡方案。該方案通過(guò)觀察流入負(fù)載均衡交換機(jī)或交換軟件的網(wǎng)絡(luò)負(fù)載在一定時(shí)間周期的歷史數(shù)據(jù)規(guī)律，得到預(yù)測(cè)程序中自適應(yīng)算法的參數(shù)值，形成計(jì)算公式，之后把當(dāng)前時(shí)刻的負(fù)載觀測(cè)值代入公式來(lái)預(yù)測(cè)下一時(shí)刻的負(fù)載數(shù)值，根據(jù)預(yù)測(cè)值來(lái)實(shí)時(shí)對(duì)后端服務(wù)器進(jìn)行流量分配，使網(wǎng)絡(luò)負(fù)載得到預(yù)先調(diào)節(jié)，避免了滯后效應(yīng)，時(shí)時(shí)使網(wǎng)絡(luò)負(fù)載保持在比較均衡的狀態(tài)，適合負(fù)載流量具有一定時(shí)間周期性規(guī)律的網(wǎng)絡(luò)，例如定期網(wǎng)絡(luò)備份等場(chǎng)合，大大增強(qiáng)了網(wǎng)絡(luò)對(duì)負(fù)載的自適應(yīng)自調(diào)節(jié)能力。
文檔編號(hào)H04L12/26GK101695050SQ20091022941
公開(kāi)日2010年4月14日 申請(qǐng)日期2009年10月19日 優(yōu)先權(quán)日2009年10月19日
發(fā)明者王守昊, 王渭巍 申請(qǐng)人:浪潮電子信息產(chǎn)業(yè)股份有限公司;