一種基于LSTM神經(jīng)網(wǎng)絡(luò)的短期用電負荷預(yù)測方法

朱家貽 劉思蕊?潘楠 沈鑫 郭曉玨

【摘要】? ? 負荷預(yù)測目前已成為保障電力系統(tǒng)用電安全的重要基礎(chǔ)工作，在我國市場經(jīng)濟制度持續(xù)完善過程中，能源產(chǎn)業(yè)也逐漸發(fā)展為以市場為導向，這就要求負荷預(yù)測要更加可靠、實時與準確。保證負荷預(yù)測的準確性，能為電力銷售計劃的制定奠定堅實基礎(chǔ)并提供可靠依據(jù)，確保電網(wǎng)運行更加安全與經(jīng)濟。在智能電網(wǎng)時代下，電力用戶側(cè)涉及到海量數(shù)據(jù)，且用戶數(shù)據(jù)具有一定隨機性，以往所用負荷預(yù)測方法無法滿足新時期提出的負荷預(yù)測要求。為此，本文分析一種基于LSTM神經(jīng)網(wǎng)絡(luò)的短期用電負荷預(yù)測方法，以更高效、準確的挖掘大量數(shù)據(jù)當中有價值的信息，經(jīng)實例證明，此方法具有更高適用性和準確性。

【關(guān)鍵詞】? ? LSTM神經(jīng)網(wǎng)絡(luò)? ? 短期用電? ? 負荷預(yù)測

前言

負荷預(yù)測主要是以電力負荷各項歷史數(shù)據(jù)為基礎(chǔ)，對負荷數(shù)據(jù)各項變化情況、數(shù)據(jù)相關(guān)性、社會條件和各種自然情況之間存在的內(nèi)在關(guān)聯(lián)等進行分析與研究，探索并掌握負荷發(fā)展規(guī)律，進而相對科學、準確的預(yù)測未來一定時間段之內(nèi)的負荷數(shù)據(jù)。短期負荷預(yù)測若存在誤差，將使電網(wǎng)運行成本顯著增加，而保證短期負荷預(yù)測的準確性，能夠?qū)﹄娋W(wǎng)系統(tǒng)及各項相關(guān)設(shè)備具體運行作出合理安排，保證系統(tǒng)運行始終保持在安全范圍內(nèi)。

以LSTM神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)的短期用電負荷預(yù)測方法，是對人工智能算法的有效改進，可以更好的對時間序列有關(guān)數(shù)據(jù)進行處理，并能對負荷數(shù)據(jù)相互存在的關(guān)聯(lián)性實現(xiàn)充分利用，保證負荷預(yù)測更加精準。

一、LSTM神經(jīng)網(wǎng)絡(luò)的原理

通過對RNN（循環(huán)神經(jīng)網(wǎng)絡(luò)）進行不斷改進與完善，獲得了LSTM神經(jīng)網(wǎng)絡(luò)，它能夠?qū)NN當中容易發(fā)生的梯度消亡現(xiàn)象實現(xiàn)有效解決[1]。和普通神經(jīng)網(wǎng)絡(luò)相比，RNN一個最重要的特點就是它所涉及到的多個隱藏層單元沒有保持相互獨立性，而是不同的隱藏層單元之間保持著相互連接的關(guān)系，同時相應(yīng)隱藏層單元還和其所接受的時刻之前有關(guān)時序輸入存在密切關(guān)聯(lián)，它的這一特性有助于后續(xù)對時序相關(guān)數(shù)據(jù)進行更快速、準確地處理。傳統(tǒng)神經(jīng)網(wǎng)絡(luò)當中，每個網(wǎng)絡(luò)層其參數(shù)均保持相互獨立不共享，但是RNN當中每一步的輸入，相應(yīng)各層都會彼此之間共享輸入至隱含層權(quán)重、隱含層至隱含層權(quán)重、隱含層至輸出權(quán)重等相關(guān)參數(shù)。

這代表著RNN當中輸入的每一步，其所做的事情都是一樣的，只是保持著差異化的輸入，這一訓練形式能使網(wǎng)絡(luò)當中減少所需學習的相關(guān)參數(shù)，不僅有助于確保精度，還能使訓練時間大大減少。不過RNN卻面臨這樣一個不足，就是在標準RNN構(gòu)架下，實踐當中只有非常有限的可聯(lián)系“上下文”，若相關(guān)記憶屬于較遠時刻的，那么其對輸出所產(chǎn)生的影響要么體現(xiàn)出衰減極小，要么體現(xiàn)出指數(shù)爆炸增長，此情況也就是通常所說的梯度消亡問題。

LSTM作為改進型RNN，主要就是能夠?qū)μ荻认鰡栴}加以解決[2]。LSTM單元當中，包含多個或單個Cell（細胞核），以對LSTM單元目前狀態(tài)進行描述。在LSTM單元結(jié)構(gòu)當中包含三個控制門，具體就是Forget Gate、Output Gate、Input Gate，這三個控制門相應(yīng)輸出都分別和1個乘法單元相連接，進而分別對網(wǎng)絡(luò)輸入、輸出、Cell單元相關(guān)狀態(tài)進行控制[3]。在對第一時刻輸入O1實現(xiàn)處理結(jié)束后，只要保證Forget Gate保持打開狀態(tài)，Input Gate保持關(guān)閉狀態(tài)，那么網(wǎng)絡(luò)輸出就會不間斷的受O1影響。

二、建立以LSTM神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)的負荷預(yù)測模型

2.1對輸入數(shù)據(jù)實現(xiàn)預(yù)處理

數(shù)據(jù)采集環(huán)節(jié)通常會受到設(shè)備老化、人為操作失誤等情況影響而產(chǎn)生壞數(shù)據(jù)，進而會對預(yù)測模型準確度產(chǎn)生較大程度的影響，所以，輸入訓練數(shù)據(jù)之前，要事先識別并處理樣本當中所存在的壞數(shù)據(jù)。因為負荷數(shù)據(jù)存在一定周期性，假設(shè)短期內(nèi)數(shù)據(jù)在橫向?qū)用姹３忠恢?，不存在突變，那么可通過橫向比較法識別壞數(shù)據(jù)[4]。

結(jié)合樣本統(tǒng)計指標以及設(shè)定閾值，可明確是否存在異常數(shù)據(jù)。由于傳感器的采樣頻率是每間隔30min采集一個點，所以所采集到的數(shù)據(jù)則是n天48個單位相應(yīng)矩陣[5]。通過對壞數(shù)據(jù)實現(xiàn)識別并有效處理之后，要基于新數(shù)據(jù)集實現(xiàn)歸一化處理。

2.2選擇輸入輸出量

輸入數(shù)據(jù)在實現(xiàn)預(yù)處理結(jié)束后，就到了負荷預(yù)測模型建立最關(guān)鍵環(huán)節(jié)，也就是要合理的選擇輸入量和相應(yīng)標簽，以更順利的通過神經(jīng)網(wǎng)絡(luò)實現(xiàn)訓練。文章對短期用電負荷進行預(yù)測，主要是針對未來某幾天實現(xiàn)24h負荷圖的預(yù)測。負荷數(shù)據(jù)會根據(jù)休息日和工作日，按照一周為單位呈現(xiàn)出周期性變化，周末時間段和工作日時間段相比，用電負荷會有所下降。結(jié)合這一特性，文章選擇迭代預(yù)測方法，比如要對6月27號24h負荷值進行預(yù)測，那么則輸入5月1號至5月7號相應(yīng)歷史負荷數(shù)據(jù)，同時將5月8號相應(yīng)歷史負荷數(shù)據(jù)當作標簽輸出，實現(xiàn)首次訓練。之后輸入5月2號到5月8號相關(guān)歷史負荷數(shù)據(jù)，同時將5月9號相應(yīng)歷史負荷數(shù)據(jù)當做標簽輸出，實現(xiàn)二次訓練，通過這一方式實現(xiàn)迭代預(yù)測，一直持續(xù)至獲得6月27號負荷預(yù)測值。另外，文章基于歷史數(shù)據(jù)通過one-hot編碼處理之后再次當做訓練樣本，能夠?qū)v史負荷數(shù)據(jù)具有的周期性規(guī)律實現(xiàn)更充分的利用。

在選擇時間序列模型技術(shù)方面，文章考慮到電力負荷是一種隨機過程，對相應(yīng)隨機過程進行研究期間，自相關(guān)系數(shù)可以明確隨機過程平穩(wěn)與否，同時可判定所選模型階數(shù)合適與否。綜合分析，將模型階數(shù)確定為7，也就是將前7天相應(yīng)歷史負荷數(shù)據(jù)當作具體特征向量實現(xiàn)滾動預(yù)測。以單維度數(shù)據(jù)實現(xiàn)模型建立，證明此模型適用性非常良好。

2.3確定LSTM神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

在明確輸入輸出量后，接下來的關(guān)鍵工作主要是合適的選擇網(wǎng)絡(luò)結(jié)構(gòu)。而這一環(huán)節(jié)最核心步驟，就是對輸入輸出節(jié)點具體數(shù)量進行確定。首先針對多模型單變量方面的預(yù)測，主要選擇24個差異化神經(jīng)網(wǎng)絡(luò)預(yù)測模型，一一和一天當中24h相對應(yīng)，這一方法涉及到的參數(shù)相對易收斂，并且單個網(wǎng)絡(luò)結(jié)構(gòu)相對比較小，不過此方法整個過程比較冗余、復雜，并且一個單獨網(wǎng)絡(luò)易過擬合。通常情況下，要對一天負荷量實現(xiàn)預(yù)測，所搭建的模型數(shù)量就是24個;針對單模型多變量方面的預(yù)測，主要通過數(shù)量為24的輸出節(jié)點一一代表一天當中對應(yīng)的24h，同步對一天每個小時具體負荷數(shù)進行預(yù)測。若將此結(jié)構(gòu)網(wǎng)絡(luò)放在傳統(tǒng)預(yù)測方法中，那么網(wǎng)絡(luò)結(jié)構(gòu)會異常復雜，并且需訓練更新的參數(shù)數(shù)量多達上千個，這將會對網(wǎng)絡(luò)運算速度以及最終預(yù)測精度產(chǎn)生極大影響。

綜合分析，文章選擇多變量的模型形式實現(xiàn)網(wǎng)絡(luò)構(gòu)建。因為LSTM網(wǎng)絡(luò)涉及到的權(quán)重共享方式有別于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)，選擇24個對應(yīng)輸出節(jié)點期間，LSTM和傳統(tǒng)神經(jīng)網(wǎng)絡(luò)相比，其所需學習的參數(shù)將大大減少，這樣便于模型更快速、便捷的建立，基本上只具有一個網(wǎng)絡(luò)就能夠高精度的實現(xiàn)負荷預(yù)測。

三、實例驗證

為了對上文所提出的短期用電負荷預(yù)測方法進行驗證，文章選擇某次負荷數(shù)據(jù)競賽當中涉及到的12個月數(shù)據(jù)當做樣本，將其中的前11個月數(shù)據(jù)當做訓練數(shù)據(jù)集，對12月7日、8日每日24h負荷值進行預(yù)測，同時選取的驗證集當中，12月7日屬于工作日，12月8日屬于休息日，通過上文提出的基于LSTM神經(jīng)網(wǎng)絡(luò)的短期用電負荷預(yù)測模型實現(xiàn)訓練預(yù)測，并和傳統(tǒng)以BP神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)的模型作出對照。

通過分析BP網(wǎng)絡(luò)和LSTM網(wǎng)絡(luò)相應(yīng)的訓練誤差降低曲線，并都將訓練1000步當做分界點，可以發(fā)現(xiàn)針對相同的數(shù)據(jù)，LSTM網(wǎng)絡(luò)對應(yīng)的訓練步數(shù)約100的時候，已經(jīng)降低至小于0.1，并且已呈現(xiàn)出網(wǎng)絡(luò)收斂狀態(tài)。在多層BP網(wǎng)絡(luò)當中，其訓練步數(shù)在1000步的時候，對應(yīng)誤差還保持兩位數(shù)。足以見得相比傳統(tǒng)多層BP神經(jīng)網(wǎng)絡(luò)，LSTM具有更高的學習效率。

通過實現(xiàn)訓練的模型預(yù)測12月7日、12月8日相關(guān)負荷數(shù)據(jù)，可以發(fā)現(xiàn)以LSTM神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)所構(gòu)建負荷預(yù)測模型，只有非常小的誤差，并且表現(xiàn)比較穩(wěn)定，這2天中對48個點實現(xiàn)預(yù)測，只有極個別點其誤差和3%相接近，其他大部分均保持在約1.5%，證明預(yù)測準確率非常高;以多層BP神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)所構(gòu)建負荷預(yù)測模型當中，具有比較高的誤差率，其誤差大部分都超過了3%，并且一些點的誤差超過了5%，和當前所提出的短期預(yù)測精度要求不相符。

公式當中的Li代表真實值，Li代表預(yù)測值。通過對上述兩種方法分別計算其EMAPE，經(jīng)結(jié)果對比，可明顯發(fā)現(xiàn)和多層BP網(wǎng)絡(luò)相比，以LSTM神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)的負荷預(yù)測方法其涉及到的平均百分誤差要明顯小得多，足以證明此方法和傳統(tǒng)方法相比具有更優(yōu)秀的使用效果。

四、結(jié)束語

文章主要結(jié)合負荷數(shù)據(jù)本身所具有的特性，通過對負荷數(shù)據(jù)周期性進行研究，提出一種以LSTM神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)的短期用電負荷預(yù)測方法?；贚STM原理，證明此方法在負荷預(yù)測方面具有良好的適用性。之后文章又討論了輸入輸出量選擇，為后續(xù)模型構(gòu)建奠定堅實基礎(chǔ)。之后，通過某競賽當中涉及到的實際數(shù)據(jù)實現(xiàn)仿真，通過對數(shù)據(jù)實現(xiàn)預(yù)處理，將相關(guān)數(shù)據(jù)輸入到模型當中實現(xiàn)訓練預(yù)測，經(jīng)過實例驗證，證明以LSTM神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)的短期用電負荷預(yù)測方法具有非常好的適用性，并且和傳統(tǒng)預(yù)測方法相比，其預(yù)測精確度更高。

參? 考? 文? 獻

[1]李昭昱， 艾芊， 張宇帆，等. 基于attention機制的LSTM神經(jīng)網(wǎng)絡(luò)超短期負荷預(yù)測方法[J]. 供用電， 2019， 36（01）：22-22.

[2]姚朝， 辛平安， 施卜今，等. 基于LSTM時間遞歸神經(jīng)網(wǎng)絡(luò)的短期電力負荷預(yù)測[J]. 云南水力發(fā)， 2019， 35（003）：163-163.

[3]陸繼翔， 張琪培， 楊志宏，等. 基于CNN-LSTM混合神經(jīng)網(wǎng)絡(luò)模型的短期負荷預(yù)測方法[J]. 電力系統(tǒng)自動化， 2019， 43（08）：197-197.

[4]張洋， 姬波， 盧紅星，等. 基于LSTM神經(jīng)網(wǎng)絡(luò)的短期高壓負荷電流預(yù)測方法[J]. 計算機科學， 2019， 046（006）：49-49.

[5]于佳弘， 包哲靜， 李志杰. 基于LSTM的用戶負荷區(qū)間預(yù)測方法[J]. 工業(yè)控制計算機， 2018， 031（004）：102-102.