一種改進的小波神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測算法

陳振偉,王 茜,黃繼紅

（皖西學(xué)院計算機科學(xué)與技術(shù)系,安徽六安 237012）

一種改進的小波神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測算法

陳振偉,王 茜,黃繼紅

（皖西學(xué)院計算機科學(xué)與技術(shù)系,安徽六安 237012）

為了有效地對網(wǎng)絡(luò)進行維護,提高網(wǎng)絡(luò)性能,預(yù)知網(wǎng)絡(luò)流量可以提前對網(wǎng)絡(luò)出現(xiàn)的問題采取應(yīng)對策略,從而對用戶提供更好的服務(wù)。在神經(jīng)網(wǎng)絡(luò)預(yù)測模型中把隱含層的傳遞函數(shù)用小波函數(shù)替換,并采用共軛梯度下降算法,建立了一個小波神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測模型。通過實際流量數(shù)據(jù)對模型進行仿真,結(jié)果顯示該模型與神經(jīng)網(wǎng)絡(luò)預(yù)測模型相比,該網(wǎng)絡(luò)具有良好的預(yù)測效果,網(wǎng)絡(luò)訓(xùn)練時間短,有效地提高了訓(xùn)練速度。

神經(jīng)網(wǎng)絡(luò);小波函數(shù);網(wǎng)絡(luò)流量;共軛梯度

1 引言

隨著計算機網(wǎng)絡(luò)的迅速發(fā)展,目前的網(wǎng)絡(luò)規(guī)模極為龐大和復(fù)雜,基于網(wǎng)絡(luò)的應(yīng)用急劇增長。網(wǎng)絡(luò)互聯(lián)環(huán)境的復(fù)雜,造成了網(wǎng)絡(luò)的安全性和穩(wěn)定性的降低,從而影響了網(wǎng)絡(luò)服務(wù)的質(zhì)量。為了給用戶提供優(yōu)質(zhì)的服務(wù),網(wǎng)絡(luò)的維護和管理顯得尤為重要,如果能預(yù)知網(wǎng)絡(luò)流量,可在很大程度上方便網(wǎng)絡(luò)的維護和管理,并且能提前采取應(yīng)對措施。因此網(wǎng)絡(luò)流量預(yù)測對網(wǎng)絡(luò)管理和維護是一項很必要的技術(shù)。

現(xiàn)有的網(wǎng)絡(luò)流量預(yù)測分為線性預(yù)測和非線性預(yù)測。其中ARIMA[1]作為線性預(yù)測方法的代表得到了廣泛應(yīng)用。ARIMA的理論前提是網(wǎng)絡(luò)流量具有線性寬平穩(wěn)過程特征。文獻[2]提出并驗證了網(wǎng)絡(luò)流量具有多構(gòu)性、自相似性、突然繼發(fā)性。網(wǎng)絡(luò)流量在不同的時間頻率尺度上具有自相似性和多尺度特征。因此ARIMA模型預(yù)測的精度低,無法準(zhǔn)確地描述出網(wǎng)絡(luò)的全部特征。

人工神經(jīng)網(wǎng)絡(luò)的預(yù)測方法[3]用于非線性預(yù)測的效果很好,從網(wǎng)絡(luò)流量的特征來看,也是非線性的。從理論上來講,神經(jīng)網(wǎng)絡(luò)可以任意精度逼近任意非線性序列,但其不足之處在于:①難以科學(xué)地確定網(wǎng)絡(luò)的結(jié)構(gòu);②要用模型進行預(yù)測,首先要對模型進行訓(xùn)練,而訓(xùn)練的速度有待提高;③容易陷入局部次優(yōu)點,難于找到全局最小點;并且時間空間復(fù)雜度太高。小波方法與神經(jīng)網(wǎng)絡(luò)的結(jié)合有兩種方法:一種是先通過小波對網(wǎng)絡(luò)流量時間序列進行小波分解,得到小波變換尺度系數(shù)序列和小波系數(shù)序列,然后輸入到一個神經(jīng)網(wǎng)絡(luò)中加以訓(xùn)練,進行預(yù)測。這種小波和神經(jīng)網(wǎng)絡(luò)結(jié)合的方法,雖然有較好的預(yù)測效果,但本質(zhì)上還是神經(jīng)網(wǎng)絡(luò)預(yù)測,并沒有從本質(zhì)上改善神經(jīng)網(wǎng)絡(luò)訓(xùn)練速度慢,容易陷入局部次優(yōu)點,難以找到全局最小點的缺點。另一種結(jié)合方法是把神經(jīng)網(wǎng)絡(luò)隱含層的傳輸函數(shù)用小波函數(shù)代替,這樣結(jié)合從本質(zhì)上改變了預(yù)測模型的結(jié)構(gòu),并應(yīng)用于每日太陽光總的發(fā)熱預(yù)測和電力負(fù)荷預(yù)測上[4][5]。

2 小波神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測模型

2.1 小波神經(jīng)網(wǎng)絡(luò)

在小波神經(jīng)網(wǎng)絡(luò)流量預(yù)測模型中,直接以小波函數(shù)代替常規(guī)神經(jīng)網(wǎng)絡(luò)的Sigmoid作為神經(jīng)網(wǎng)絡(luò)的隱節(jié)點激勵函數(shù),以小波的尺度和平移參數(shù)作為神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值參數(shù),構(gòu)成一個前饋型網(wǎng)絡(luò)。

設(shè)平方可積函數(shù)Ψ（x）∈L2（R）的傅立葉變換為^Ψ（ω）,且滿足條件

則以函數(shù)Ψ（x）∈L2（R）為母小波,采用不同的平移和伸縮因子,可生成一維小波函數(shù)系,即

ai,bi分別為伸縮和平移因子。

取上述一維小波函數(shù)系作為神經(jīng)網(wǎng)絡(luò)傳遞函數(shù)代替Sigmoid函數(shù),就構(gòu)成了小波神經(jīng)網(wǎng)絡(luò),達到對任意信號函數(shù)的最佳逼近。

2.2 網(wǎng)絡(luò)流量預(yù)測模型

網(wǎng)絡(luò)流量預(yù)測模型采用三層的小波神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),即輸入層、隱含層、輸出層。

圖1 小波神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

在輸入層中有p個輸入,即一次輸入含有p個元素的輸入序列,這p個元素是p個網(wǎng)絡(luò)流量值,p表示預(yù)測流量與它之前的相關(guān)步數(shù)。隱含層包含n個神經(jīng)元。輸出層有1個神經(jīng)元,輸出為第k+1個網(wǎng)絡(luò)流量的預(yù)測值。wm

ij表示從m-1層的神經(jīng)元i到第m層的神經(jīng)元j之間的權(quán)值,amjk表示第m層神經(jīng)元j的第k次輸入,Ψm表示第m層的轉(zhuǎn)移函數(shù),bmjk表示第m層的相應(yīng)輸出,即:

把預(yù)測值的均方誤差函數(shù)作為目標(biāo)函數(shù)C（θ）。

為了使上述誤差最小,得出網(wǎng)絡(luò)模型的最優(yōu)參數(shù),本文采用共軛梯度下降法計算誤差函數(shù)的最小值。令

2.3 小波BP網(wǎng)絡(luò)模型學(xué)習(xí)步驟

step1選用合適的小波,本文選用Morlet母小波,即

step5采用梯度最速下降法[5],來對參數(shù)w i,ai, bi進行調(diào)整,調(diào)整方式為:

step6誤差函數(shù)的絕對值小于預(yù)先設(shè)定的某個正數(shù)值時,停止網(wǎng)絡(luò)的學(xué)習(xí);否則返回step3,重復(fù)上述算法。

3 模型仿真

3.1 仿真參數(shù)說明

在Matlab 7.0仿真平臺上,分別編制神經(jīng)網(wǎng)絡(luò)算法程序和小波神經(jīng)網(wǎng)絡(luò)算法程序,提取100組網(wǎng)絡(luò)流量數(shù)據(jù),流量數(shù)據(jù)的采集是每隔5m采集一個數(shù)據(jù),共采集了100組流量數(shù)據(jù),模型采用了8-10 -1結(jié)構(gòu),即輸入層8個神經(jīng)元,10個隱含神經(jīng)元, 1個輸出神經(jīng)元。輸入層8個神經(jīng)元代表模型設(shè)定的相關(guān)步數(shù) T=8,訓(xùn)練學(xué)習(xí)率lr=0.01,動量系數(shù)mc=0.95,訓(xùn)練的最大步數(shù)epochs=150000,訓(xùn)練目標(biāo)goal=0.025。分別對兩種網(wǎng)絡(luò)進行訓(xùn)練,進行了一步,五步,十步預(yù)測,預(yù)測效果如圖2所示,效果良好。

圖2 神經(jīng)網(wǎng)絡(luò)和小波神經(jīng)網(wǎng)絡(luò)1、5、10步預(yù)測圖

表1 性能分析表

從表1中可以看出,在1步,5步,10步預(yù)測中,對100組流量數(shù)據(jù)進行訓(xùn)練時,平均誤差很接近,1步預(yù)測神經(jīng)網(wǎng)絡(luò)訓(xùn)練平均用了5743epochs,而小波神經(jīng)網(wǎng)絡(luò)用了4113epochs;5步預(yù)測中,神經(jīng)網(wǎng)絡(luò)訓(xùn)練平均用了7218epochs,小波神經(jīng)網(wǎng)絡(luò)用了4002epochs;10步預(yù)測中,神經(jīng)網(wǎng)絡(luò)訓(xùn)練平均用了6284epochs,小波神經(jīng)網(wǎng)絡(luò)用了3477epochs;小波神經(jīng)網(wǎng)絡(luò)在訓(xùn)練中的代數(shù)大大降低。平均到達目標(biāo)時間,1步預(yù)測中,神經(jīng)網(wǎng)絡(luò)平均用了7.4s,小波神經(jīng)網(wǎng)絡(luò)平均用了4.2s;5步預(yù)測中,神經(jīng)網(wǎng)絡(luò)平均用了7.3s,小波神經(jīng)網(wǎng)絡(luò)平均用了3.7s;10步預(yù)測中,神經(jīng)網(wǎng)絡(luò)平均用了7.6s,小波神經(jīng)網(wǎng)絡(luò)平均用了5.1s。從平均到達目標(biāo)時間上來看,小波神經(jīng)網(wǎng)絡(luò)較神經(jīng)網(wǎng)絡(luò)大大降低,從而進一步提高了預(yù)測的實時性。

4 結(jié)束語

本文提出了一種改進的小波神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測算法。在不影響預(yù)測精度的前提下,在一定程度上縮短了模型的訓(xùn)練代數(shù)和到達目標(biāo)的時間,從而提高了訓(xùn)練的速度,并且克服了神經(jīng)網(wǎng)絡(luò)容易陷入局部次優(yōu)點的缺點,且把神經(jīng)網(wǎng)絡(luò)隱含層的傳輸函數(shù)用小波函數(shù)代替,算法易實現(xiàn),易應(yīng)用和推廣,因此它在預(yù)測方面也具有一定的實際意義。

[1]Guoqiang Yu,Changshui Zhang.Switching ARIMA Model Based Forecasting for Trafficflow[J].ICASSP,2004,（2）: 429-432.

[2]Kihong Park,Walter Willinger.Self-Similar Network Traffic and Performance Evaluation[M].Wiley Inter-Science,2000.

[3]劉芹,余一嬌,譚連生.一種利用BP神經(jīng)網(wǎng)絡(luò)的 Internet流量預(yù)測算法[Z].2003中國計算機大會.

[4]A Mellit,MBenghanem,S A Kalogirou.An Adaptive Wavelet-network model for forecasting daily total solar-radiation[J].Applied Energy,2006,83（7）:705-722.

[5]Jianchang Lu,Zhihong Gu,Huiqing Wang.Research on the Application of the Wavelet Neural Network Model in Peak Load Forecasting Considering of the Climate Facto rs[J]. Proceedings of the Fourth International Conferenceon Machine Learning and Cybernetics,2005,（8）:18-21.

[6]Martin T Hagan,Howard B Demuth,Mark H Beale.神經(jīng)網(wǎng)絡(luò)設(shè)計[M].北京:機械工業(yè)出版社,2002.

A Network Traffic Prediction Algorithm Based on Wavelet Function and Neural Network

CHEN Zhen-wei,WANG Qian,HUANG Ji-hong

（Department of Computer and Science&Technology,West Anhui University,Lu’an237012,China）

To maintain network availably,and imp rove the performance of network,the corresponding strategy could be adopted in advance by the network traffic prediction,thus better service may be offered to users.In this paper,with introducing the wavelet function into the neural network traffic prediction model,and conjugate gradient descent algorithm,a wavelet neural network model used to predict the network traffic is proposed in this paper.Simulations are performed on the model by use of some real network traffic data,and the simulation results demonstrate that the model has better prediction effect and much higher training speed,compared with the original Network Traffic Prediction model.

neural network;wavelet function;network traffic;conjugate gradient

TP393

A

1009-9735（2010）02-0036-03

2010-01-06

陳振偉（1981-）,男,河南新鄉(xiāng)人,碩士,研究方向:流量預(yù)測,網(wǎng)絡(luò)管理;王茜（1980-）,女,安徽壽縣人,碩士,研究方向:基礎(chǔ)數(shù)學(xué);黃繼紅（1977-）,男,安徽霍邱人,碩士,研究方向:網(wǎng)絡(luò)安全。