基于CNN-LSTM的短期電力負(fù)荷預(yù)測研究

劉月峰 楊宇慧

摘 ?要：針對短期電力負(fù)荷預(yù)測中電力負(fù)荷影響因素提取不準(zhǔn)確以及長期依賴信息丟失的問題，提出一種結(jié)合一維卷積神經(jīng)網(wǎng)絡(luò)CNN與長短期記憶網(wǎng)絡(luò)LSTM的短期電力負(fù)荷預(yù)測模型，將卷積神經(jīng)網(wǎng)絡(luò)的速度和輕量與長短期記憶網(wǎng)絡(luò)的順序敏感性的優(yōu)勢結(jié)合起來，考慮歷史電力負(fù)荷、時(shí)間日期、溫度對電力負(fù)荷的影響，實(shí)例結(jié)果表明，與其他模型相比，預(yù)測誤差更小，較好地提高了預(yù)測性能。

關(guān)鍵詞：短期電力負(fù)荷預(yù)測;卷積神經(jīng)網(wǎng)絡(luò);長短期記憶網(wǎng)絡(luò)

中圖分類號：TM715 ? ? ? ?文獻(xiàn)標(biāo)志碼：A ? ? ? ? 文章編號：2095-2945（2020）01-0084-02

Abstract： In order to solve the problems of inaccurate extraction of power load influencing factors and long-term dependence on information loss in short-term power load prediction， a short-term power load prediction model combining a convolutional neural network （CNN） and a long-term and short-term memory network （LSTM） is proposed. Speed and light weight are combined with the order sensitivity of long-term and short-term memory networks， considering the effects of historical power load， time and date， and temperature on the power load. The results of the examples show that compared with other models， the prediction error is smaller and the prediction performance is better.

Keywords： short-term load forecasting; convolutional neural network （CNN）; long-term and short-term memory network （LSTM）

1 概述

隨著電力工業(yè)的迅速發(fā)展以及智能電網(wǎng)技術(shù)的普及，電力負(fù)荷預(yù)測在發(fā)電和配電等能源規(guī)劃中發(fā)揮著重要作用，為電力市場化改革以及能源互聯(lián)網(wǎng)進(jìn)一步推進(jìn)提供重要的技術(shù)支撐，短期負(fù)荷預(yù)測技術(shù)是電力系統(tǒng)高效運(yùn)行和分析的基礎(chǔ)，負(fù)荷預(yù)測使公用事業(yè)提供商能夠?qū)﹄娏ω?fù)荷進(jìn)行建模和預(yù)測，以保持生產(chǎn)和需求之間的平衡，降低生產(chǎn)成本，估算實(shí)際能源價(jià)格以及管理調(diào)度未來的容量規(guī)劃。負(fù)荷預(yù)測方法可以大致分為統(tǒng)計(jì)方法，人工智能方法以及組合方法，統(tǒng)計(jì)方法包括時(shí)間序列法、回歸分析法、相關(guān)分析法、相似日法，人工智能方法包括模糊預(yù)測法、專家系統(tǒng)法、灰色模型法、小波變換法、支持向量機(jī)法、人工神經(jīng)網(wǎng)絡(luò)法，組合方法則是基于上述兩種方法進(jìn)行組合。智能電網(wǎng)環(huán)境中的非線性和動態(tài)不確定性是預(yù)測精度的主要障礙。電力負(fù)荷影響因素較多，諸如歷史負(fù)荷數(shù)據(jù)，氣象數(shù)據(jù)、日期信息以及峰谷電價(jià)等因素，近幾年來，深度學(xué)習(xí)作為機(jī)器學(xué)習(xí)領(lǐng)域的一種新興方法，是處理大數(shù)據(jù)的利器，具有強(qiáng)大的自動特征提取能力和處理高維、非線性數(shù)據(jù)等方面的優(yōu)勢，在短期電力負(fù)荷領(lǐng)域受到廣泛關(guān)注[1-4]。

2 電力負(fù)荷預(yù)測

本文提出的CNN-LSTM組合模型，充分利用一維卷積神經(jīng)網(wǎng)絡(luò)與長短期記憶網(wǎng)絡(luò)在序列預(yù)測方面的優(yōu)勢，本文借鑒自然語言處理過程中的詞嵌入表示方法，將某一時(shí)刻的負(fù)荷值與其相關(guān)的特征串聯(lián)成向量表示，進(jìn)而形成一個全新的時(shí)間序列數(shù)據(jù)，每一時(shí)刻的歷史負(fù)荷均由與其相關(guān)的特征共同表示，然后利用一維卷積的平移不變性，使用滑動窗口方式依次將輸入的時(shí)間序列數(shù)據(jù)生成特征圖，然后利用LSTM網(wǎng)絡(luò)進(jìn)行訓(xùn)練，最后預(yù)測電力負(fù)荷，與其他模型進(jìn)行對比。

LSTM是RNN（循環(huán)神經(jīng)網(wǎng)絡(luò)）的一種改進(jìn)模型，LSTM網(wǎng)絡(luò)單元結(jié)構(gòu)如圖1所示，原始的RNN在訓(xùn)練過程中，隨著時(shí)間的加長以及網(wǎng)絡(luò)層數(shù)的增多，很容易出現(xiàn)梯度爆炸或梯度消失的問題，從而無法獲取較早時(shí)間長距離數(shù)據(jù)的信息。LSTM單元能夠?qū)W習(xí)長期依賴，允許過去的信息稍后重新進(jìn)入，從而解決梯度消失問題。在LSTM中，每個神經(jīng)元是一個記憶細(xì)胞，細(xì)胞中有三個門：輸入門，遺忘門，輸出門，輸入門it控制有多少信息可以流入記憶細(xì)胞;遺忘門ft控制有多少上一時(shí)刻的記憶細(xì)胞中的信息可以累積到當(dāng)前時(shí)刻的記憶細(xì)胞中，輸出門ot控制有多少當(dāng)前時(shí)刻的記憶細(xì)胞中的信息可以流入當(dāng)前隱藏狀態(tài)ht中。

3 實(shí)驗(yàn)結(jié)果分析

本文建立了基于一維卷積神經(jīng)網(wǎng)絡(luò)與長短期記憶網(wǎng)絡(luò)的組合預(yù)測模型，電力數(shù)據(jù)來自ISO新英格蘭，ISO新英格蘭是聯(lián)邦能源監(jiān)管委員會（FERC）授權(quán)的獨(dú)立非營利性公司，包含2004年3月到2014年12月以小時(shí)為單位測量的電網(wǎng)總負(fù)荷，一共103000項(xiàng)數(shù)據(jù)，以2004年3月至2013年12月數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)集，以2014年1月到2014年12月數(shù)據(jù)作為測試數(shù)據(jù)集。

本文提出的CNN-LSTM網(wǎng)絡(luò)組合模型如圖2所示，主要由兩部分組成：一維CNN與LSTM，一維卷積神經(jīng)網(wǎng)絡(luò)分別處理每個輸入序列段，一維卷積神經(jīng)網(wǎng)絡(luò)的架構(gòu)與二維卷積神經(jīng)網(wǎng)絡(luò)相同，它是Conv1D層和MaxPooling1D層的堆疊，最后是一個全局池化層或Flatten層。在LSTM網(wǎng)絡(luò)部分，通過循環(huán)層堆疊，增加網(wǎng)絡(luò)容量，進(jìn)一步提升模型預(yù)測能力，增加每層單元數(shù)或增加層數(shù)，本次實(shí)驗(yàn)設(shè)置3層LSTM網(wǎng)絡(luò)層，各層神經(jīng)元數(shù)量依次為32，64，128，在每層LSTM網(wǎng)絡(luò)層間加入隨機(jī)失活Dropout，在每次訓(xùn)練迭代過程中，會隨機(jī)地在神經(jīng)網(wǎng)絡(luò)中放棄25%的神經(jīng)元，以避免過度擬合。

實(shí)驗(yàn)程序使用Python編寫，基于深度學(xué)習(xí)鏈接庫Keras，底層依賴Tensorflow框架，訓(xùn)練過程中將均方誤差MSE作為損失函數(shù)，使用RMSprop優(yōu)化算法更新權(quán)重與偏置。

本文首先進(jìn)行模型訓(xùn)練調(diào)優(yōu)，最后使用訓(xùn)練好的模型進(jìn)行某一天電力負(fù)荷預(yù)測，與CNN、LSTM網(wǎng)絡(luò)進(jìn)行對比，實(shí)驗(yàn)結(jié)果使用平均絕對百分比誤差MAPE作為評估指標(biāo)：

式中：M為預(yù)測的負(fù)荷值個數(shù);ti為真實(shí)負(fù)荷值，i為模型預(yù)測的負(fù)荷值，該MAPE指標(biāo)描述了模型對負(fù)荷預(yù)測的相對偏離程度，其值越小，表明模型預(yù)測精度越高，不同算法模型平均絕對百分比誤差如表1所示，算法模型預(yù)測值與實(shí)際值折線圖如圖3所示。

由圖3可以看出，本文所提模型CNN-LSTM預(yù)測得到的負(fù)荷預(yù)測曲線精度最高，與實(shí)際曲線變化趨勢基本一致。

4 結(jié)論

本文考慮歷史負(fù)荷數(shù)據(jù)、時(shí)間信息、溫度對短期電力負(fù)荷預(yù)測的影響，提出了一種基于一維卷積神經(jīng)網(wǎng)絡(luò)與長短期記憶網(wǎng)絡(luò)結(jié)合的短期電力負(fù)荷預(yù)測模型，對電力負(fù)荷數(shù)據(jù)進(jìn)行異常值修正與缺失值填補(bǔ)，對所有的負(fù)荷、溫度數(shù)據(jù)進(jìn)行歸一化處理，對樣本數(shù)據(jù)進(jìn)行重構(gòu)。其中，為了更精確地反映季節(jié)因素與電力負(fù)荷之間的關(guān)系，將溫度調(diào)整為與年平均氣溫的絕對誤差之后再進(jìn)行歸一化處理。所提模型將卷積神經(jīng)網(wǎng)絡(luò)的速度和輕量與長短期記憶網(wǎng)絡(luò)的順序敏感性結(jié)合起來，實(shí)驗(yàn)結(jié)果表明，CNN-LSTM模型與其他單一模型在負(fù)荷預(yù)測的精度上有很大提高。

參考文獻(xiàn)：

[1]周莽，高僮，李晨光，等.GRU神經(jīng)網(wǎng)絡(luò)短期電力負(fù)荷預(yù)測研究[J].科技創(chuàng)新與應(yīng)用，2018，253（33）：58-59+63.

[2]張建寰，吉瑩，陳立東.深度學(xué)習(xí)在電力負(fù)荷預(yù)測中的應(yīng)用[J].自動化儀表，2019，40（8）：8-12+17.

[3]王增平，趙兵，紀(jì)維佳，等.基于GRU-NN模型的短期負(fù)荷預(yù)測方法[J].電力系統(tǒng)自動化，2019，43（5）：53-62.

[4]宋占黨，李湘華，王海賓，等.大數(shù)據(jù)環(huán)境下的電力負(fù)荷預(yù)測研究[J].電子測量技術(shù)，2019，42（12）：51-54.