包容性檢驗和SVM相融合的網絡流量預測

鄭偉勇，馮廣麗

河南工程學院 計算機科學與工程系，鄭州 451191

包容性檢驗和SVM相融合的網絡流量預測

鄭偉勇，馮廣麗

河南工程學院 計算機科學與工程系，鄭州 451191

1 引言

隨著網絡規(guī)模擴大，網絡管理難度日益增加，而流量預測可以了解網絡流量的發(fā)生趨勢，為網絡管理人員合理分配網絡帶寬，防止網絡擁塞提供有價值參考意見，因此，網絡流量預測準確性已成為網絡管理領域中的研究熱點問題[1]。

網絡流量受到上網隨機性、節(jié)假日等因素影響，具有一定的周期性、規(guī)律性和非平穩(wěn)性，傳統(tǒng)流量預測方法主要有回歸分析法、時間序列法、趨勢外推法等[2-4]，這些方法基于線性建模，難以準確反映網絡流量復雜變化特點，預測誤差較大[5]?；诜蔷€性理論的網絡流量預測方法主要有隱馬爾可夫、神經網絡、支持向量機、灰色理論等，它們具有較好的非線性預測能力，網絡流量預測效果較好[6-8]。但是對于不同結構的網絡流量，它們的預測性能差異較大，難以獲得比較穩(wěn)定的預測結果。近些年，一些學者提出一些基于組合理論的網絡流量預測模型，如：姚奇富等提出的灰色理論和馬爾可夫鏈組合網絡流量預測方法[9]；李捷等提出的卡爾曼濾波和小波分析組合的流量預測方法[10]，研究結果表明，組合模型較好地克服了單一模型只能反映網絡流量變化的片段、部分信息的缺陷，網絡流量預測的精度得以提高[11]。相關研究表明，隨便增加單一預測模型個數(shù)并不一定提高組合模型的預測效果，而且單一模型間可能存在一定的相關性，使組合預測的輸入信息重疊，導致預測準確率降低，因此，在進行網絡流量組合建模預測前，選擇哪些單一模型對網絡流量進行組合預測至關重要[12]。包容性檢驗方法用于判定一個預測模型是否包括或包容了其他預測模型的有關信息，根據(jù)包容性檢驗的結果，篩選出適用于組合預測的各單一預測模型，有學者將其應用于云計算資源組合預測和艦船裝備維修費組合預測[13-14]，結果表明，包容性檢驗可以進一步提高組合模型的預測準確度，因此為網絡流量預測提供了一種新的研究思路。

為了提高復雜多變的網絡流量預測的準確度，嘗試將包容性檢驗方法引入到網絡流量組合預測模型選擇中，提出一種基于包容性檢驗和支持向量機相結合的網絡流量預測模型（EΤ-SVM），并通過仿真實驗檢驗模型的有效性。

2 包容性檢驗原理

設m1、m2分別表示兩個不同的網絡流量預測模型，t時刻的實際網絡流量值為yt，兩模型在t時刻的網絡流量結果分別為r1，t和r2，t，考慮如下形式的回歸方程：

式中，ut為隨機擾動；β1、β2為回歸系數(shù)，且β1+β2=1。

式（1）兩邊同時減去r1，t，則有：

令ei，t=yt-ri，t(i=1，2)，則式（2）就可以轉化為：

根據(jù)包容性檢測原則，則有：

以上是兩模型組合的包容性檢驗原理，但是在實際應用中，一般是兩個以上的模型進行組合。對于多個網絡流量預測模型，若采用式（1）進行預測模型間的包容性檢驗，則易出現(xiàn)模型數(shù)量過多，無法確定回歸系數(shù)的問題[15]。

設r1，t，r2，t，…，rk，t分別表示t時刻分別來自k個不同網絡流量模型的預測結果，t時刻的實際網絡流量值為yt；rc，t為是r1，t，r2，t，…，rk，t網絡流量預測模型組合結果；rc(-i)，t表示不包含ri，t網絡流量預測結果。

令ec，t=yt-rc，t，ec(-i)，t=yt-rc(-i)，t，在包容性檢驗中增加截距項，然后根據(jù)式（3）得到多模型組合預測的包容性檢驗為：

檢驗假設：H0:αi=0，i=1，2，…，k，在αi顯著性水平下，通過t統(tǒng)計量檢驗選擇模型。如果t檢驗顯著不為0，則表示ri，t包含原有模型所不具備的信息，組合ri，t，可以提高網絡流量的預測效果，ri，t不能被原有模型包容，否則，表示組合ri，t對預測結果沒有什么影響，刪除ri，t。

3 包容性檢測選擇網絡流量單一模型

（1）采用檢測設備對網絡流量進行收集，為了提高學習速度，在網絡流量數(shù)據(jù)進行預處理，具體為：

式中，x表示網絡流量原始數(shù)據(jù)，xmin和xmax分別表示最小值和最大值。

（2）采用單一模型對網絡流量進行預測，并將預測結果的均方根誤差（RMSE）作為模型優(yōu)劣評價準則，并根據(jù)RMSE對模型進行降序排序。

（3）選擇預測性能最好的網絡流量模型，并根據(jù)包容性檢驗原則，對預測性能最好的模型依次進行檢驗，看其是否包容其他網絡流量模型，若包容了其他網絡流量模型，則將該模型從列表中刪除，反之，就以一定的組合方式將它們進行預測組合，直到組合模型以外所有其他模型已被刪除，那么包容性檢驗就完成了。

（4）將當前組合模型作為最好模型，繼續(xù)與其他還沒有包容性檢驗的模型進行檢驗，不斷重復步驟（3）。

（5）將最后所選擇單一網絡流量預測模型作為最合適的網絡流量單一模型。具體如圖1所示。

圖1 單一網絡流預測模型的選擇流程

4 SVM的單一模型網絡流量預測結果組合

假設通過包容性檢驗最終選擇了m個單一預測模型，對第i個測試樣本，m個單一預測模型的預測值分別記為{xi1，xi2，…，xim}，這些值作為自變量，第i個測試樣本的實際值作為因變量，對n個訓練樣本，計算出相應的預測值xij(i=1，2，…，n，j=1，2，…，m)，由此構造n×m個輸入向量，它們組成SVM的學習樣本，具體如表1所示。

表1 SVM的網絡流量學習樣本

當網絡流量學習樣本集為線性時，SVM的回歸預測函數(shù)可表示為：

式中，w表示權向量，b表示偏置向量。

通過求解一個凸二次規(guī)劃問題求解式（6）中的w和b，從而得到預測函數(shù)。SVM同時考慮經驗風險和置信范圍，因此可通過最小化下面的目標函數(shù)得到問題的解。

式中，第1項使得函數(shù)更加平坦從而提高推廣能力，第2項是經驗誤差，常量C稱為懲罰系數(shù)，體現(xiàn)對樣本預測誤差的懲罰程度，也是對置信范圍和經驗風險的一種折衷，Remp(f)為損失函數(shù)，本文采用ε不敏感損失函數(shù)。

通過引入松弛因子，將式（7）的優(yōu)化目標函數(shù)即轉換為：

式中，ξi，表示為松弛因子。

為了加快求解速度，通過引入上式的Lagrange函數(shù)，并求解下面的對偶形式獲得乘子αi，：

在求解實際問題時，網絡流量變化具有非線性特點，此時，SVM引入一個映射函數(shù)φ將原始數(shù)據(jù)映射到一個新的特征空間，從而將非線性問題轉化為新特征空間中的線性問題，此時，網絡流量的SVM回歸預測函數(shù)可表示為：

式（10）的優(yōu)化目標函數(shù)轉化為下面的形式：

通過引入核函數(shù)k(xi，x)代替(φ(xi)，φ(xj))，這樣式（11）變?yōu)橄旅娴膬?yōu)化目標函數(shù)：

5 仿真實驗

5.1 數(shù)據(jù)來源

為了驗證EΤ-SVM的網絡流量預測模型性能，采用網絡流量庫：http：//newsfeed.ntcu.net/～news/2011的2011年1月1日到3月11日共100 d每小時訪問流量進行仿真實驗，共收集到100×24=2 400個網絡流量時間序列，具體如圖2所示。前2 300個網絡流量時間序列組成訓練集，建立網絡流量EΤ-SVM模型；后100個網絡流量時間序列組成測試集，用于檢驗EΤ-SVM模型的預測性能。

圖2 網絡流量時間序列

5.2 單一模型預測結果

采用五種單一模型（線性回歸分析、趨勢外推法、時間序列法、灰色模型和BP神經網絡）對網絡流量數(shù)據(jù)進行建模，并對網絡流量進行預測，它們的RMSE見表2。

表2 各模型預測結果的RMSE值

5.3 包容性檢驗選擇單一模型

（1）根據(jù)表2單一模型預測結果的RMSE對模型進行排序：r5、r4、r3、r2、r1，將這些模型按順序輸入待評表。選擇r5為基本模型，將其從待評表移至備選表中。

（2）在a=0.05的顯著性水平下，對r5和r4進行包容性檢驗，得到t統(tǒng)計量為4.155，查t分布臨界值表，可以得到t0.0025=2.878，有t=4.006 7＞2.878，根據(jù)接受原則，r5和r4不包容，因此采用SVM將r5和r4進行組合，組合模型記為r54。

（3）在a=0.05的顯著性水平下，將模型r54對模型r3進行包容性檢驗，t統(tǒng)計量為3.300，查t分布臨界值表，可以得到t0.0025=2.142，有t=3.300＞2.142，根據(jù)接受原則，r54和r4不包容，因此采用SVM將r54和r3進行組合，組合模型記為r543。

（4）將r543對r2進行包容性檢驗，t統(tǒng)計量為 -0.539，查t分布臨界值表，可以得到t0.0025=1.763，有|t|=0.539＜1.763，根據(jù)接受原則，r543和r2互相包容，因將r2從待評表中刪除。

（5）將r543對r1進行包容性檢驗，t統(tǒng)計量為 -0.115 7，查t分布臨界值表可以得到t0.0025=1.562，有|t|=0.115＜1.562，根據(jù)接受原則，r543和r2互相包容，因將r2從待評表中刪除，此時，待評表已經為空，停止包容性檢驗。

（6）將組合模型r543作為最終選擇的單一預測模型。

5.4 SVM對單一模型預測結果進行組合

采用所選擇的時間序列法、灰色模型和BP神經網絡分別對網絡流量進行預測，得到相應的預測結果，然后將預測結果構成輸入向量，實際測試集的網絡流量作為期望輸出，輸入到SVM進行學習建模，最后得到網絡流量的預測結果，結果如圖3所示。

圖3 EΤ-SVM的預測結果

5.5 與單一模型預測結果比較

采用時間序列法、灰色模型和BP神經網絡對網絡流量進行預測，它們的預測結果分別如圖4所示。從圖3和圖4預測結果進行分析可知，EΤ-SVM的預測值與實際網絡流量值相當接近，而單一模型的預測值與實際網絡流量值間的偏差較大，而且EΤ-SVM的預測結果更加穩(wěn)定，對比結果表明，EΤ-SVM是一種有效的、預測精度高、結果可靠的網絡流量預測方法。

5.6 與單一模型預測誤差對比

為了更加全面描述模型的優(yōu)劣，采用RMSE和平均絕對百分誤差（MΑPE）作為模型性能的評價指標，它們定義

圖4 各單一模型預測結果

如下：

式中，xi和分別為網絡流量實際值和預測值，n為測試樣本數(shù)。

各模型的RMSE和MΑPE見表3。從表3可知，EΤ-SVM預測結果的誤差要小于參比模型，網絡流量的預測精度得到了提高，對比結果表明，通過包容性檢驗選擇的單一模型可以很好地實現(xiàn)優(yōu)勢互補，對網絡流量變化特點進行全面、準確的刻畫，建立的網絡流量預測模型更好地反映了網絡流量變化趨勢。

表3 各模型的預測誤差對比

6 結束語

針對網絡流量組合預測過程的單一模型選擇問題，提出一種包容性檢驗和SVM相融合的網絡流量預測模型。仿真結果表明，相對于對比模型，EΤ-SVM提高了網絡流量的預測精度，降低了網絡流量的平均預測誤差，預測結果更加可靠，對復雜多變的網絡流量預測具有重要意義。

[1]Nguyen Τ Τ，Armitage G.A survey of techniques for internet traffic classification using machine learning[J].IEEE Communications Surveys and Τutorials，2008，10（4）：56-76.

[2]Silva C G.Τime series forecasting with a nonlinear model and the scatter search meta heuristic[J].Information Sciences，2008，178（16）：3288-3299.

[3]高波，張欽宇，梁永生，等.基于EMD及ARMA的自相似網絡流量預測[J].通信學報，2011（4）.

[4]呂林濤，李軍懷.時間序列模式及其預測模型算法應用[J].計算機工程，2004，17（4）：3-4.

[5]王俊松，高志偉.基于RBF神經網絡的網絡流量建模及預測[J].計算機工程與應用，2008，44（13）：6-7.

[6]馬華林.基于灰色模型和自適應過濾的網絡流量預測[J].計算機工程，2009，35（1）：130-131.

[7]趙振江.基于PSO-BP神經網絡的網絡流量預測與研究[J].計算機應用與軟件，2009，26（1）：218-221.

[8]張穎路.基于遺傳算法優(yōu)化支持向量機的網絡流量預測[J].計算機科學，2008，35（5）：177-179.

[9]姚奇富，李翠鳳，馬華林，等.灰色系統(tǒng)理論和馬爾柯夫鏈相結合的網絡流量預測方法[J].浙江大學學報：理學版，2007，34（4）：396-400.

[10]魏永濤，汪晉寬，王翠榮，等.基于小波變換與組合模型的網絡流量預測算法[J].東北大學學報：自然科學版，2011，32（10）.

[11]李捷，劉瑞新，劉先省，等.一種基于混合模型的實時網絡流量預測算法[J].計算機研究與發(fā)展，2006，43（5）：806-812.

[12]汪同三，張濤.組合預測——理論、方法及應用[M].北京：社會科學文獻出版社，2008：183-189.

[13]謝力，魏汝祥，訾書宇，等.基于包容性檢驗的艦船裝備維修費組合預測[J].系統(tǒng)工程與電子技術，2010，32（12）：2599-2602.

[14]李洪安，康寶生，張婧，等.基于改進的包容性檢驗的云計算資源組合預測[J].計算機應用研究，2013，30（1）：252-255.

[15]Fang Y.Forecasting combination and encompassing tests[J]. International Journal of Forecasting，2003，19（1）：87-94.

ZHENG Weiyong,FENG Guangli

Department of Computer Science and Engineering,Henan Institute of Engineering,Zhengzhou 451191,China

Model selection is a key problem for combination model of network traffic,and in order to improve the forecasting accuracy of network traffic,this paper proposes a network flow combination model based on encompassing test and Support Vector Machine.A lot of single models are used to forecast the network traffic,and the merits of the model are defined by mean square error of the forecasting results,and then the appropriate single model is selected by encompassing test,and the single model prediction results are combined by Support Vector Machine to get the final forecasting result of network traffic,and the performance of model is tested by the simulation experiment.Τhe simulation results show that the proposed model can reduce the forecasting error and has improved the forecasting accuracy of network traffic.

network traffic;encompassing test;Support Vector Machine（SVM）;combination forecast

模型選擇對網絡流量組合預測結果至關重要，為了提高網絡流量的預測效果，提出一種包容性檢驗和支持向量機相融合的網絡流量預測模型（EΤ-SVM）。采用多個單一模型對網絡流量進行預測，根據(jù)預測結果的均方根誤差對模型優(yōu)劣進行排序，通過包容性檢驗，根據(jù)t統(tǒng)計量檢驗選擇最合適的單一模型，采用支持向量機對單一模型預測結果進行組合得到最終預測結果，通過仿真實驗對模型性能進行測試。仿真結果表明，EΤ-SVM降低了網絡流量的預測誤差，預測精度得到了提高。

網絡流量；包容性檢驗；支持向量機；組合預測

A

ΤP393.06

10.3778/j.issn.1002-8331.1301-0284

ZHENG Weiyong,FENG Guangli.Network traffic combination forecasting based on encompassing tests and Support Vector Machine.Computer Engineering and Applications,2013,49（15）：84-87.

鄭偉勇（1978—），男，講師，主要研究方向：計算機軟件及應用、計算機網絡、數(shù)據(jù)庫技術；馮廣麗（1973—），女，講師，主要研究方向：計算機軟件及應用、計算機網絡通信。

2013-01-25

2013-04-22

1002-8331（2013）15-0084-04