基于LSTM神經(jīng)網(wǎng)絡(luò)的電力綜合數(shù)據(jù)網(wǎng)網(wǎng)絡(luò)流量預(yù)測(cè)研究

楊金岳

摘 要：為了提高電力綜合數(shù)據(jù)網(wǎng)的網(wǎng)絡(luò)性能和服務(wù)質(zhì)量，提出了一種基于深度LSTM神經(jīng)網(wǎng)絡(luò)的骨干網(wǎng)絡(luò)流量預(yù)測(cè)方法。本文采用了基于深度學(xué)習(xí)的框架;考慮到網(wǎng)絡(luò)流量的影響因子都是隨時(shí)間變化的物理量，同時(shí)深度LSTM神經(jīng)網(wǎng)絡(luò)算法對(duì)時(shí)間序列的強(qiáng)大處理能力;從而選取長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)對(duì)電力綜合數(shù)據(jù)網(wǎng)網(wǎng)絡(luò)流量進(jìn)行預(yù)測(cè)。LSTM具有“遺忘”與“更新”功能，很好的解決了長(zhǎng)序依賴問題，從而使特征可以很好的保留到后續(xù)的計(jì)算中，不會(huì)出現(xiàn)記憶消散問題。試驗(yàn)結(jié)果表明： 相較傳統(tǒng)預(yù)測(cè)模型，運(yùn)用深度LSTM神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型精度較高，可使電力綜合數(shù)據(jù)網(wǎng)可以更快、更準(zhǔn)確地調(diào)整工作狀態(tài)，具有很好的應(yīng)用前景。

關(guān)鍵詞：電力綜合數(shù)據(jù)網(wǎng);網(wǎng)絡(luò)流量預(yù)測(cè);深度學(xué)習(xí);LSTM網(wǎng)絡(luò)

DOI：10.16640/j.cnki.37-1222/t.2019.20.140

1 引言

電力綜合數(shù)據(jù)網(wǎng)是為了滿足電網(wǎng)的信息化建設(shè)，將電力網(wǎng)絡(luò)性能要求不一的各類業(yè)務(wù)做統(tǒng)一承載而搭建的支撐性網(wǎng)絡(luò)[1]。由于電力業(yè)務(wù)類型復(fù)雜和電力業(yè)務(wù)需求不斷增加，使得電力綜合數(shù)據(jù)網(wǎng)穩(wěn)定運(yùn)行及業(yè)務(wù)保證面臨著新挑戰(zhàn)。而通過大量網(wǎng)絡(luò)流量歷史數(shù)據(jù)對(duì)網(wǎng)絡(luò)未來的流量趨勢(shì)進(jìn)行預(yù)測(cè)分析，將極大提高網(wǎng)絡(luò)性能和服務(wù)質(zhì)量[2]。因此，電力綜合數(shù)據(jù)網(wǎng)網(wǎng)絡(luò)流量預(yù)測(cè)研究將是保障電力信息業(yè)務(wù)可靠使用的重要手段。

在通信網(wǎng)絡(luò)技術(shù)的發(fā)展中，研究人員常利用一些傳統(tǒng)預(yù)測(cè)方法來實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)資源合理地分配和控制。傳統(tǒng)預(yù)測(cè)方法有回歸模型和時(shí)間序列預(yù)測(cè)模型等，是基于線性變化來建立模型。但隨著對(duì)網(wǎng)絡(luò)流量預(yù)測(cè)的深入研究，網(wǎng)絡(luò)流量數(shù)據(jù)呈現(xiàn)出明顯的非線性、突發(fā)性、長(zhǎng)相關(guān)性、混純性、自相似性等特點(diǎn)[3]。傳統(tǒng)方法無法較好地模擬非線性時(shí)間序列，于是出現(xiàn)了神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)等深度學(xué)習(xí)算法應(yīng)用于網(wǎng)絡(luò)流量預(yù)測(cè)中。

目前，在網(wǎng)絡(luò)流量的預(yù)測(cè)領(lǐng)域中，深度學(xué)習(xí)算法已得到初步應(yīng)用。其通過逐層的特征變換，自動(dòng)學(xué)習(xí)樣本中的抽象特征，重新建立一個(gè)更抽象的特征空間來獲得差異化的隱含特征，從而進(jìn)行有針對(duì)性地預(yù)測(cè)來實(shí)現(xiàn)更好的預(yù)測(cè)效果[4]。RNN循環(huán)神經(jīng)網(wǎng)絡(luò)主要是處理和預(yù)測(cè)序列數(shù)據(jù)，而LSTM作為RNN的一個(gè)重要結(jié)構(gòu)，對(duì)序列數(shù)據(jù)的長(zhǎng)期記憶方面表現(xiàn)良好。因此，本文采用LSTM神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型對(duì)電力通信綜合數(shù)據(jù)網(wǎng)網(wǎng)絡(luò)流量進(jìn)行預(yù)測(cè)。仿真試驗(yàn)表明，該算法能夠有效地預(yù)測(cè)電力通信綜合數(shù)據(jù)網(wǎng)網(wǎng)絡(luò)流量。

2 電力綜合數(shù)據(jù)網(wǎng)

電力綜合數(shù)據(jù)網(wǎng)主要是為各應(yīng)用系統(tǒng)服務(wù)，其承載的業(yè)務(wù)對(duì)網(wǎng)絡(luò)的可靠性要求較高，例如對(duì)帶寬要求很高的圖像監(jiān)控，對(duì)丟包率忍受度很低的電源性能監(jiān)控，對(duì)綜合性能要求最好的電視電話會(huì)議等[5]。

電力綜合數(shù)據(jù)網(wǎng)的業(yè)務(wù)主要包括以下方向：

（1）信息系統(tǒng)應(yīng)用。如：用電信息采集、營(yíng)銷系統(tǒng)、財(cái)務(wù)系統(tǒng)、企業(yè)門戶等共計(jì)50余個(gè)信息系統(tǒng)。

（2）語音及視頻應(yīng)用。如：高清會(huì)議電視、一體化會(huì)議電視、IMS系統(tǒng)等電視電話會(huì)議系統(tǒng)。

（3）其他應(yīng)用。如：通信類外網(wǎng)管。

3 基于LSTM神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型

長(zhǎng)短期記憶網(wǎng)絡(luò)（long-short-term memory network， LSTM）主要是建立時(shí)間遞歸神經(jīng)網(wǎng)絡(luò)，用來處理和預(yù)測(cè)時(shí)間序列中間隔和延遲相對(duì)較長(zhǎng)的重要事件。為了使神經(jīng)網(wǎng)絡(luò)更有效地保存長(zhǎng)期記憶，“遺忘門”和“輸入門”被設(shè)計(jì)進(jìn)網(wǎng)絡(luò)中，作為L(zhǎng)STM結(jié)構(gòu)的核心存在。“遺忘門”可以讓循環(huán)神經(jīng)網(wǎng)絡(luò)忘記之前沒用的信息，同時(shí)“輸入門”輸入補(bǔ)充最新的記憶，他們之間的配合可以更加有效地決定信息的遺忘與保留[6]。

4 基于深度LSTM網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測(cè)模型

4.1 LSTM模型參數(shù)選擇

建立用于電力綜合數(shù)據(jù)網(wǎng)網(wǎng)絡(luò)流量預(yù)測(cè)的LSTM網(wǎng)絡(luò)主要需要確定模型中輸入層時(shí)間步數(shù)、輸入層維數(shù)、隱藏層數(shù)目、每個(gè)隱藏層維數(shù)以及輸出變量維數(shù)[7]。針對(duì)電力綜合數(shù)據(jù)網(wǎng)網(wǎng)絡(luò)流量預(yù)測(cè)，本文擬采用單層LSTM的預(yù)測(cè)模型，模型參數(shù)假定為1。通過多次模型試驗(yàn)，發(fā)現(xiàn)增加隱藏層的維數(shù)可以取得較好的預(yù)測(cè)效果;但由于本預(yù)測(cè)任務(wù)是利用電力網(wǎng)絡(luò)歷史信息來預(yù)測(cè)下一步的網(wǎng)絡(luò)流量，因此輸出變量的維數(shù)也假定為1。

4.2 隱藏層的確定

隱藏層對(duì)于神經(jīng)網(wǎng)絡(luò)非常重要，神經(jīng)網(wǎng)絡(luò)的獨(dú)特性在于它對(duì)隱藏層的使用。隱藏層節(jié)點(diǎn)的選取并沒有統(tǒng)一的標(biāo)準(zhǔn)，可通過經(jīng)驗(yàn)公式與試湊法相結(jié)合來選擇隱含層神經(jīng)元個(gè)數(shù)。通常選用的經(jīng)驗(yàn)公式有：

式中：l表示隱含層節(jié)點(diǎn)數(shù)，n表示輸入層節(jié)點(diǎn)數(shù)，m表示輸出層節(jié)點(diǎn)數(shù)。

4.3 預(yù)測(cè)效果評(píng)估

本文將選用均方根誤差（root mean square error，RMSE）法對(duì)預(yù)測(cè)結(jié)果進(jìn)行評(píng)價(jià)，計(jì)算公式為：

式中：和分別為網(wǎng)絡(luò)流量的實(shí)際值和預(yù)測(cè)值;n為預(yù)測(cè)驗(yàn)證數(shù)據(jù)個(gè)數(shù);i為預(yù)測(cè)點(diǎn)序列編號(hào)，輸出序列最大值。

5 試驗(yàn)

通過編寫相應(yīng)程序獲得電力綜合業(yè)務(wù)數(shù)據(jù)網(wǎng)的流量數(shù)據(jù)，根據(jù)15分鐘的時(shí)間間隔來取一次流量數(shù)據(jù)，連續(xù)取25天。本文將根據(jù)收集到的流量數(shù)據(jù)為例進(jìn)行試驗(yàn)分析。在進(jìn)行試驗(yàn)前需要對(duì)采集的數(shù)據(jù)進(jìn)行歸一化處理，排除由于數(shù)據(jù)差異所帶來的影響。采用LSTM神經(jīng)網(wǎng)絡(luò)對(duì)訓(xùn)練樣本進(jìn)行學(xué)習(xí)。其訓(xùn)練損失分析如圖1所示。

通過采用LSTM神經(jīng)網(wǎng)絡(luò)對(duì)網(wǎng)絡(luò)流量的預(yù)測(cè)的分析。從圖2中可以看出：采用LSTM神經(jīng)網(wǎng)絡(luò)模型的預(yù)測(cè)和實(shí)際值的曲線比較吻合，雖然與實(shí)際值相比還是有略微的偏差，但與傳統(tǒng)的方法相比，訓(xùn)練速度更快，預(yù)測(cè)精度亦明顯提高，是一種很好的網(wǎng)絡(luò)流量預(yù)測(cè)模型。

6 結(jié)論

針對(duì)電力綜合數(shù)據(jù)網(wǎng)網(wǎng)絡(luò)流量預(yù)測(cè)問題，本文提出深度LSTM神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型。LSTM具有“遺忘”與“更新”功能，很好的解決了長(zhǎng)序依賴問題，從而使特征可以很好的保留到后續(xù)的計(jì)算中，不會(huì)出現(xiàn)記憶消散問題。試驗(yàn)結(jié)果表明：相較傳統(tǒng)預(yù)測(cè)模型，運(yùn)用深度LSTM神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型精度較高，可使電力綜合數(shù)據(jù)網(wǎng)可以更快、更準(zhǔn)確地調(diào)整工作狀態(tài)，具有很好的應(yīng)用前景。通過對(duì)網(wǎng)絡(luò)流量預(yù)測(cè)的精度和速度都明顯提高，是一種值得深入研究的網(wǎng)絡(luò)流量預(yù)測(cè)方法。

參考文獻(xiàn)：

[1]馬濤.電力綜合數(shù)據(jù)網(wǎng)模擬仿真系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)[J].電子科技大學(xué)碩士論文，2016（04）.

[2]曹建華，劉淵，戴悅.一種基于灰色神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測(cè)模型[J].計(jì)算機(jī)工程與應(yīng)用，2008（02）.

[3]馮辰.基于ESN的網(wǎng)絡(luò)流量預(yù)測(cè)算法研究[J].北京郵電大學(xué)碩士論文，2012（11）.

[4]史佳琪，張建華.基于深度學(xué)習(xí)的超短期光伏精細(xì)化預(yù)測(cè)模型研究[J].電力建設(shè)，2017（06）.

[5]馬濤.電力綜合數(shù)據(jù)網(wǎng)模擬仿真系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)[J].電子科技大學(xué)碩士論文，2016（04）.

[6]繆磊磊.基于卷積神經(jīng)網(wǎng)絡(luò)的手寫數(shù)字識(shí)別算法分析和實(shí)現(xiàn)[J].大學(xué)生論文聯(lián)合比對(duì)庫，2017（06）.

[7]朱喬木，李弘毅，王子琪，陳金富，王博.基于長(zhǎng)短期記憶網(wǎng)絡(luò)的風(fēng)電場(chǎng)發(fā)電功率超短期預(yù)測(cè)[J].電網(wǎng)技術(shù)，2017（12）.

[8]任師濤，史志才，吳飛等.基于改進(jìn)BP神經(jīng)網(wǎng)絡(luò)的路由器流量預(yù)測(cè)方法[J].傳感器與微系統(tǒng)，2018（08）.