基于支持向量機補償?shù)幕疑Ｐ途W(wǎng)絡流量預測

錢 淵，宋 軍，傅 珂

（1.空軍工程大學電訊工程學院，陜西 西安 710077；2.機電動態(tài)控制重點實驗室，陜西 西安 710065）

0 引言

隨著網(wǎng)絡技術(shù)的發(fā)展，互聯(lián)網(wǎng)業(yè)務量急劇增長，用戶對網(wǎng)絡服務質(zhì)量提出了更高的要求。網(wǎng)絡流量是影響網(wǎng)絡運行質(zhì)量變化的內(nèi)在動因，在網(wǎng)絡資源有限的條件下，網(wǎng)絡流量的測量、分析和預測等方法對于減少網(wǎng)絡擁塞、合理分配資源、提高服務質(zhì)量、發(fā)現(xiàn)網(wǎng)絡異常等行為具有十分重要的作用。

互聯(lián)網(wǎng)中網(wǎng)絡流量數(shù)據(jù)呈現(xiàn)出非平穩(wěn)動態(tài)隨機變化，具有非線性、分形、長相關、自相似性、突發(fā)性等特征，研究人員利用網(wǎng)絡流量的不同特征進行預測，但是單一模型很難實現(xiàn)更準確的要求，預測的誤差比較大。組合預測模型預測網(wǎng)絡流量可以結(jié)合單項預測模型的優(yōu)點，能夠更準確地刻畫流量特性［1－4］。本文采用組合預測模型，綜合灰色模型和支持向量機（Support Vector Machines，SVM）預測的優(yōu)點，提出基于支持向量機殘差補償?shù)幕疑Ｐ途W(wǎng)絡流量預測模型，取得較為精確的預測效果。

1 灰色模型及支持向量機模型預測

1.1 灰色模型預測

灰色系統(tǒng)理論［5］是一種研究“小樣本、貧信息”不確定性問題的方法，通過對雜亂無章的、有限的、離散數(shù)據(jù)的研究，找出潛在規(guī)律，建立相應的灰色預測模型，其短期預測比較準確［6］。

1.1.1 GM（1，1）模型預測

常用灰色模型的是單變量一階灰色模型GM（1，1），該模型通過對原始數(shù)據(jù)作一次累加生成，使生成的數(shù)列呈一定規(guī)律，建立微分方程模型，求得擬合曲線，實現(xiàn)預測。

原始序列 ｛x（1）（i）｝進行 GM（1，1）預測的過程如下：

1）通 過 一 次 累 加 生 成 （1－AGO）獲 得 序 列｛X1（i）｝。

2）對累加后的序列｛X1（i）｝用線性動態(tài)模型來模擬和逼近，建立一階常微分方程。

3）通過最小二乘法計算式（1）中參數(shù)a、u，其中a為發(fā)展系數(shù)；u為灰色作用變量。

式中，B為累加矩陣，Yn為向量。它們的構(gòu)造形式分別為：

4）通過式（2）獲得a和u值后，式（1）的離散解為：

5）預測值

1.1.2 新陳代謝灰色模型

使用GM（1，1）進行預測時，在保持建模數(shù)據(jù)長度不變的條件下，增加一個新信息x（1）（n＋1）的同時，丟棄最老信息x（1）（1），這種方法稱為新陳代謝灰色模型，對于預測的精度有明顯的提高。

1.1.3 殘差補償

GM（1，1）只有原始數(shù)列本身存在指數(shù)變化規(guī)律時其預測才比較準確，對于網(wǎng)絡流量這樣隨機性較大的數(shù)據(jù)預測容易產(chǎn)生較大的誤差。在灰色預測中將預測誤差序列稱為殘差序列，殘差補償是提高預測精度的有效手段。

1.2 支持向量機預測

支持向量機是基于統(tǒng)計學習理論的新一代機器學習技術(shù)，使用結(jié)構(gòu)風險最小化原則替代經(jīng)驗風險最小化原則，具有小樣本、推廣能力強、強大的非線性處理能力和高維處理能力等特點［7］。

1.2.1 支持向量機回歸原理

支持向量機應用到非線性回歸估計和曲線擬合中，稱為SVM回歸機。假設訓練樣本為 ｛xk，yk｝l，其中xk∈Rn為n維樣本輸入，yk∈R為樣本輸出，回歸預測就是通過樣本訓練找到合適的函數(shù)f（x），對于樣本外的x，通過函數(shù)f找到對應的y。在線性條件下SVM 回歸機使用線性函數(shù)f（x）＝（w·x）＋b進行擬合。非線性條件下利用非線性映射φ（x）將樣本映射到一個高維特征空間，建立線性模型f（x）＝ （w·φ（x））＋b，SVM回歸機表示為：

其中，‖w‖2代表與模型復雜度相關的因素，模型采用ε不敏感損失函數(shù)，松弛變量表示樣本偏離ε不敏感區(qū)域的程度，C為懲罰系數(shù)。

使用SVM回歸機運算時，核函數(shù)的選擇對于運算結(jié)果有重要的影響，徑向基核函數(shù)與其他核函數(shù)相比，不僅具有較少的參數(shù)還具有良好的性能［8］，因此本文采用徑向基函數(shù)（RBF）核函數(shù)構(gòu)造SVM回歸機。

RBF核參數(shù)g和懲罰參數(shù)C是SVM回歸機需要確定的兩個參數(shù)，粒子群優(yōu)化算法［9］計算徑向基函數(shù)參數(shù)最優(yōu)解，具有不容易陷入局部最小、算法簡單、計算量小、尋優(yōu)時間短等優(yōu)點。

1.2.2 混沌與相空間重構(gòu)

混沌模型中相空間重構(gòu)方法將非線性序列映射到高維空間，把非線性序列中的動力學特性信息顯示出來，該方法與SVM回歸機組合可以有效提高預測精度［10］。

相空間重構(gòu)的關鍵是時延τ和嵌入維數(shù)m的確定。在得到時延和嵌入維數(shù)以后計算Lyapunov指數(shù)，正的Lyapunov指數(shù)表明系統(tǒng)具有混沌性，可以進行預測。

2 支持向量機補償?shù)幕疑Ｐ途W(wǎng)絡流量預測模型

本文將灰色預測和支持向量機有機融合，提出基于支持向量機殘差補償?shù)幕疑Ｐ途W(wǎng)絡流量預測模型。根據(jù)實時數(shù)據(jù)建立灰色模型預測，預測結(jié)果反映了網(wǎng)絡流量序列的總體變化趨勢，但由于網(wǎng)絡流量序列的波動性較大，僅采用灰色模型預測對于數(shù)據(jù)擬合較差。針對預測的殘差補償是提高灰色模型預測精度的有效手段，本文證明殘差序列具有混沌特性，提出采用支持向量機進行殘差序列預測，有效提高預測精度。

基于支持向量機補償?shù)幕疑Ｐ途W(wǎng)絡流量預測模型如圖1所示。

圖1 基于SVM補償?shù)幕疑Ｐ途W(wǎng)絡流量預測模型Fig.1 The model of Network Traffic prediction Based on GM and SVM compensation

預測步驟為：

1）使用GM（1，1）模型構(gòu)建網(wǎng)絡流量灰色預測模型，實現(xiàn)對網(wǎng)絡流量基本規(guī)律的預測，并得到預測的殘差序列；

2）利用SVM模型建立殘差序列預測模型，實現(xiàn)對于殘差序列的預測；

3）將基于GM（1，1）的預測結(jié)果與基于SVM的殘差序列預測結(jié)果相加，實現(xiàn)對于GM（1，1）預測結(jié)果的修正，完成網(wǎng)絡流量預測。

3 模型實驗驗證及結(jié)果分析

3.1 模型實驗驗證

本文使用Abilene網(wǎng)絡的實際流量數(shù)據(jù)驗證模型的預測精度，所用數(shù)據(jù)采樣間隔為5min，一共600個采樣值（流量曲線如圖2所示，數(shù)據(jù)單位為100B）。

圖2 原始流量數(shù)據(jù)曲線Fig.2 Original traffic flow curve

采用新陳代謝灰色預測模型，建模數(shù)據(jù)長度為5，預測步長為1。預測結(jié)果如圖3所示。預測性能如表1所示，灰色模型較好地實現(xiàn)對網(wǎng)絡流量基本規(guī)律的預測。

對殘差序列數(shù)據(jù)（如圖4所示）進行相空間重構(gòu)，選擇重構(gòu)參數(shù)時，采用互信息法得到的流量序列時延為τ＝2；采用假近鄰法得到的嵌入維數(shù)為m＝4；采用小數(shù)據(jù)量法得到的最大Lyapunov指數(shù)λ＝0.096 5，該值為正值，證明了殘差序列具有混沌特性，可以進行短期預測。

圖3 GM（1，1）模型預測數(shù)據(jù)曲線Fig.3 The traffic flow curve predicted by GM（1，1）

圖4 GM（1，1）預測后的殘差序列曲線Fig.4 Residual sequence curve after GM（1，1）prediction

采用Libsvm工具箱實現(xiàn)殘差序列SVM回歸模型，使用前400個數(shù)據(jù)作為已知數(shù)據(jù)訓練模型，后200個數(shù)據(jù)作為預測數(shù)據(jù)用以校驗模型的預測效果。SVM回歸模型采用徑向基核函數(shù)，通過粒子群優(yōu)化算法確定C＝0.1，g＝12.082 6作為模型參數(shù)值，利用訓練好的模型對殘差數(shù)據(jù)進行預測。最后將基于GM（1，1）的預測結(jié)果與基于SVM的殘差序列預測結(jié)果的相加，預測效果如圖5所示。

圖5 SVM補償灰色預測模型預測結(jié)果Fig.5 The traffic flow curve predicted by GM and SVM compensation

3.2 結(jié)果分析

為了驗證本文提出模型的預測效果，將對比四種預測模型，分別是灰色系統(tǒng)預測模型，支持向量機預測模型、采用灰色預測殘差補償?shù)念A測模型和本文提出的預測模型。采用平均相對誤差MAPE和相關系數(shù)rXY兩個值來評價模型的預測功能。

式中，xi為原始數(shù)據(jù)為預測數(shù)據(jù)。

式中，xi為原始數(shù)據(jù)為原始數(shù)據(jù)序列均值，yi為預測數(shù)據(jù)為預測數(shù)據(jù)序列均值。

四種預測模型預測的指標結(jié)果如表1所列。

表1 四種預測方法性能比較Tab.1 The performance comparison of four kinds of prediction

由表1可知，本文提出的基于支持向量機的殘差補償灰色預測模型的平均相對誤差最小，說明預測準確，相關系數(shù)最大，說明與原數(shù)據(jù)更加相似，因此與其他三個模型相比預測效果最好，更適合網(wǎng)絡流量預測。

4 結(jié)論

本文提出了基于支持向量機殘差補償?shù)幕疑Ｐ途W(wǎng)絡流量預測模型。使用灰色預測GM（1，1）進行流量趨勢的預測，根據(jù)混沌理論證明殘差序列具有混沌特性，采用支持向量機進行殘差序列預測，實現(xiàn)殘差補償，完成對網(wǎng)絡流量較為精確地預測。實驗結(jié)果表明：該模型能有效預測網(wǎng)絡流量，具有預測模型樣本小，預測精度高等優(yōu)點。下一步工作可將模型應用于網(wǎng)絡入侵檢測預測，提高入侵監(jiān)測準確率。

［1］MORATO D，ARACIL J，DIEZ L A，et al.On linear prediction of internet traffic for packet and burst switching networks［C］／／Scottsdale，Arizona，USA：ICCCN，2001：138－143.

［2］胡俊，胡玉清，肖中卿.基于小波變換的網(wǎng)絡流量預測模型［J］.計算機工程，2008，34（19）：112－114.HU Jun，HU Yuqing，XIAO Zhongqing.Network traffic prediction models based on wavelet transform［J］.Computer Engineering，2008，34（19）：112－114.

［3］陳曉天，張順頤，田婷婷.基于BP神經(jīng)網(wǎng)絡的IP網(wǎng)絡流量預測［J］.南京郵電大學學報，2010，30（2）：16－21 CHEN Xiaotian，ZHANG Shunyi，TIAN Tingting.Internet traffic forecasting based on bp neural network［J］.Journal of Nanjing University of Posts and Telecommunications，2010，30（2）：16－21

［4］姜明，吳春明，胡大民，等.網(wǎng)絡流量預測中的時間序列模型比較研究［J］.電子學報，2009，37（11）：2 353－2 358.JIANG Ming，WU chunming，ZHANG Min.Research on the comparison of time series models for network traffic prediction［J］.Acta Electronica Sinica，2009，37（11）：2 353－2 358.

［5］劉思峰，郭天榜，黨耀國.灰色系統(tǒng)理論及其應用［M］.北京：科學出版社，1999.

［6］王春健，馬亮，吳剛，黃海.基于灰色理論的發(fā)射筒油霧濃度預測方法［J］.探測與控制學報，2011，33（2）：15－18 WANG Chunjian，MA Liang，WU Gang，HUANG Hai.Oil mist concentration forecasting of launcher based on grey theory［J］.Journal of Detection ＆ Control，2011，33（2）：15－18

［7］TAREK HABIB，JORDI INGLADA，GREGOIRE MERCIER，et al.Support vector reduction in svm algorithm for abrupt change detection in remote sensing［J］.IEEE Geoscience and Remote Sensing letters，2009，6（3）：606－610.

［8］Hsu Wei，Chang Chung，Lin J en.A practical guide to SVM classification［EB／ OL］［2008207203］.http：∥www.csie.nt u.edu.tw／～cjlin／papers／guide／guide.pdf.

［9］金晶，王行愚，羅先國，等.PSO－ε－SVM 的回歸算法［J］.華東理工大學學報，2006，32（7）：872－875 JIN JING，WANG Xingyv，LUO Xianguo，WANG Bei.Regression algorithm of PSO－ε－SVM［J］.Journal of East China University of Science and Technology，2006，32（7）：872－875

［10］羅赟騫，夏靖波，王煥彬.混沌－支持向量機回歸在流量預測中的應用研究［J］.計算機科學，2009，36（7）：244－247. LUO Yunqian，XIA Jingbo，WANG Huanbin.Application of chaos－support vector machine regression in traffic prediction［J］.Computer Science，2009，36（7）：244－247.