GRU神經(jīng)網(wǎng)絡(luò)短期電力負荷預(yù)測研究

周莽 高僮 李晨光 姜辰龍

摘 要：隨著智能電網(wǎng)的快速發(fā)展，針對電力部門亟需解決的短期電力負荷預(yù)測的問題，提出了一種基于棧式自編碼和GRU神經(jīng)網(wǎng)絡(luò)的短期電力負荷預(yù)測方法，方法首先對輸入的歷史數(shù)據(jù)，包括電力負荷、天氣信息和節(jié)假日信息等進行棧式自編碼，從而將輸入數(shù)據(jù)進行壓縮，然后利用多層GRU構(gòu)建神經(jīng)網(wǎng)絡(luò)，從而預(yù)測電力負荷，實例結(jié)果表明，將文本提出的電力負荷預(yù)測模型能有效預(yù)測電力負荷的日變化，與其它常用模型進行比對，預(yù)測誤差更小，精度更高。

關(guān)鍵詞：智能電網(wǎng)；神經(jīng)網(wǎng)絡(luò)；電力負荷預(yù)測；棧式自編碼

中圖分類號：TM715 文獻標志碼：A 文章編號：2095-2945（2018）33-0052-03

Abstract： With the rapid development of smart grid， a short-term load forecasting method based on stack self-coding and GRU neural network is proposed. Methods the input historical data， including power load， weather information and holiday information， are compressed by stack self-coding， and then the neural network is constructed using multi-layer GRU to predict the power load. The results show that the proposed power load forecasting model can effectively predict the diurnal variation of power load， and compared with other commonly used models， the forecasting error is smaller and the accuracy is higher.

Keywords： smart grid； neural network； power load forecasting； stack self-coding

1 概述

電力負荷預(yù)測包括長期電力負荷預(yù)測、中期電力負荷和短期電力負荷。短期負荷預(yù)測主要是預(yù)測短時間的負荷用量，一般包括數(shù)分鐘到數(shù)小時的電力負荷使用狀況，或者日電力負荷和周電力負荷預(yù)測情況，預(yù)測結(jié)果會對電廠的水電調(diào)度、發(fā)電機組控制、水火協(xié)調(diào)控制等提供理論參考依據(jù)，因此短期電力負荷預(yù)測是電網(wǎng)短期日常運行所需的重要工作內(nèi)容。根據(jù)預(yù)測的輸出形式要求，電力負荷預(yù)測可劃分為點負荷預(yù)測和概率預(yù)測。點負荷預(yù)測是指對某一時刻用電量的一個具體的數(shù)值預(yù)測；概率負荷預(yù)測是指對用電量的概率區(qū)間的預(yù)測，結(jié)果為一個概率密度函數(shù)或一個預(yù)測區(qū)間。概率負荷預(yù)測與點預(yù)測相比，它對未來電力負荷的輸出結(jié)果提供了更多的選擇。但是，電力負荷預(yù)測會受到天氣、溫度、節(jié)假日等因素的影響，因此，短期負荷預(yù)測的方法和模型必須充分考慮環(huán)境因素，才能保證方法和模型的精確性和可靠性[1-3]。

2 電力負荷預(yù)測方法

棧式自編碼和GRU神經(jīng)網(wǎng)絡(luò)進行融合，通過棧式自編碼將數(shù)據(jù)進行壓縮，然后利用GRU進行訓(xùn)練，然后預(yù)測電力負荷。自編碼是一種無監(jiān)督學習的過程，因此自編碼的過程是自己建立標簽[4]。自編碼是一個典型的三層神經(jīng)網(wǎng)絡(luò)模型，包含輸入層、隱藏層、輸出層（重構(gòu)層）。

工作流程如下：首先，訓(xùn)練第一層神經(jīng)網(wǎng)絡(luò)的權(quán)重值，然后將權(quán)值輸入到自編碼器，得到參數(shù)W1和b1；根據(jù)參數(shù)可以計算出經(jīng)過第一層隱藏層的輸出值。繼續(xù)把輸出值作為輸入到自編碼器，同樣可以得到第二層隱藏層的參數(shù)W2和b2。把第二層隱藏層通過計算得到的輸出值，作為特征輸入到分類器，然后分類器經(jīng)過訓(xùn)練得到了分類器的參數(shù)。為了優(yōu)化結(jié)果，在上述預(yù)訓(xùn)練過程后，可以通過反向傳播算法同時調(diào)整（微調(diào)）所有層的參數(shù)以改善參數(shù)結(jié)果。

GRU是RNN（循環(huán)神經(jīng)網(wǎng)絡(luò)）的一種改進模型，RNN是利用數(shù)據(jù)樣本的時序性進行結(jié)果預(yù)測。傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的特點是從輸入層到隱藏層，最后到輸入層，各層直接的節(jié)點是連接的，但是每一層的節(jié)點之間是無連接的[5-6]。RNN網(wǎng)絡(luò)會對前面的信息進行記憶然后再應(yīng)用于當前輸出的計算中，即隱藏層之間的節(jié)點不再是無連接的而是有連接的，并且隱藏層的輸入不僅包括當前輸入層的輸出還包括上一時刻隱藏層的輸出，隱藏它可以有效的解決各層節(jié)點直接的無連接的缺點。但是RNN雖然能有效的利用以前時刻的輸出信息，但是它缺點是隨著隱藏層的增多，歷史信息可能逐層衰減，在反向傳播時可能會產(chǎn)生梯度消失或梯度爆炸，因此在長時間序列應(yīng)用上效果不好。

首先，根據(jù)xt和ht-1的信息可以獲得兩個門控zt和rt狀態(tài)，如式所示：

zt=f（wz[xt，ht-1]+bz） （1）

rt=f（wr[xt，ht-1]+br） （2）

其中f為sigmoid函數(shù)，可以控制值域在0-1之間，這樣就可以用來進行門控，從而得到門控信號。在得到門控信號后，首先要使用重置門控rt，然后得到經(jīng)過重置后的數(shù)據(jù)h't-1，再與xt結(jié)合，通過tanh激活函數(shù)激活，得到t。

t=f（w[rt×ht-1，xt]） （3）

其中f為tanh激活函數(shù)，可以控制值域在-1～1之間?？梢钥闯鰐包含了輸入數(shù)據(jù)xt，然后控制了隱藏信息ht-1。

在更新階段，使用了更新門zt進行控制，同時進行遺忘和記憶這兩個操作。如公式所示。

ht=（1-zt）×ht-1+zt×t （4）

其中，zt的范圍為0～1，當越趨近于1時，代表記憶（保留）的數(shù)據(jù)越多，zt越趨近于0則代表遺忘（丟棄）的數(shù)據(jù)越多。因此，通過zt可以同時進行遺忘和記憶的控制。因此，式中zt×t表示對隱藏狀態(tài)的遺忘程度，zt的功能相當于遺忘門，選擇性遺忘一些不相關(guān)信息。（1-zt）×ht-1表示當前節(jié)點信息的選擇性記憶程度，1-zt的功能相當于選擇一些相關(guān)信息。公式4的作用是遺忘上層傳遞下來的ht-1中的某些維度信息，并加入當前節(jié)點輸入的某些維度信息。詳細說明了基于棧式自編碼和GRU神經(jīng)網(wǎng)絡(luò)的預(yù)測模型（SAE-GRUs）的過程，方法的結(jié)構(gòu)如圖2所示。

本文提出的深度神經(jīng)模型可分為3個部分，按照從左到右的次序，第一層為棧式自編碼層，該層只包含編碼功能，不包含解碼的功能，作用是用來進行輸入數(shù)據(jù)信息壓縮；第二層結(jié)構(gòu)是GRU深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，包含3個GRU層疊，作用是用來進行數(shù)據(jù)的操作；第三層是深度神經(jīng)網(wǎng)絡(luò)的輸出層，用來輸出電力負荷的預(yù)測結(jié)果。

3 實驗結(jié)果分析

本文建立了基于棧式自編碼和GRU神經(jīng)網(wǎng)絡(luò)的短期負荷預(yù)測模型，下面將對這個模型與LSTM和SVM進行比較，從而驗證模型的預(yù)測結(jié)果。本文使用的數(shù)據(jù)集為某省某市的電力數(shù)據(jù)，來進行短期電力負荷預(yù)測，其中訓(xùn)練集數(shù)據(jù)取值范圍為2016年1月1日至2017年12月31日，預(yù)測區(qū)間為從訓(xùn)練日結(jié)束每30分鐘一個樣本點的一天（24小時）的實際負荷數(shù)據(jù)為例，取700天樣本數(shù)據(jù)用于訓(xùn)練，即共有33600個訓(xùn)練樣本點。

圖3、圖4和圖5分別給出了SAE-GRUs、LSTM和SVM三種模型對于冬季的工作日、周末、節(jié)假日的單日電力負荷預(yù)測對比圖，從圖中可以看出，SVM模型的誤差水平最高，而LSTM在經(jīng)過500輪訓(xùn)練后，由于LSTM模型沒有進行堆疊處理，網(wǎng)絡(luò)結(jié)構(gòu)較簡單，沒有實現(xiàn)對數(shù)據(jù)的深度挖掘。而由于棧式自編碼的結(jié)構(gòu)，SAE-GRU模型誤差低于簡單LSTM模型，同時由于單層LSTM模型層數(shù)較少，沒有充分挖掘數(shù)據(jù)上下文的能力，因此誤差水平較高，但要低于SVM模型。

相比于其它模型SAE-GRUs模型有的預(yù)測準確率最高。比對SVM預(yù)測模型我們可以發(fā)現(xiàn)，SAE-GRUs模型的準確度有較大提升，與LSTM神經(jīng)網(wǎng)絡(luò)模型相比，SAE-GRUs模型的準確度也提升較大，這說明棧式自編碼的數(shù)據(jù)降維和數(shù)據(jù)壓縮方面，具有很好的效果。從不同日期類型情況下的誤差對比中發(fā)現(xiàn)，當節(jié)假日進行電力負荷預(yù)測時，由于節(jié)假日的不確定性，三個模型的預(yù)測誤差均會增加，但SAE-GRUs模型的誤差依然是最小的，因此，本文提出的SAE-GRUs模型基于較強的魯棒性。

4 結(jié)束語

本文在進行短期電力負荷預(yù)測時，充分考慮了預(yù)測時的歷史數(shù)據(jù)、溫度濕度和節(jié)假日信息，分析了神經(jīng)網(wǎng)絡(luò)將輸入數(shù)據(jù)進行歸一化，提出了一種基于棧式自編碼和GRU深度神經(jīng)網(wǎng)絡(luò)的短期電力負荷預(yù)測方法，方法首先將輸入的數(shù)據(jù)進行壓縮編碼，對不確定性時間的序列輸入數(shù)據(jù)進行了有效特征提取和重構(gòu)，然后搭建了3層結(jié)構(gòu)的GRU深度神經(jīng)網(wǎng)絡(luò)，充分利用GRU的兩個邏輯門結(jié)構(gòu)，有效的對歷史時間序列數(shù)據(jù)進行了處理，提高了對可變長度時間序列的信息處理能力。實驗分析表明，SAE-GRUs模型比傳統(tǒng)的SVM模型和GRU模型在負荷預(yù)測的精度上有很多提高。

參考文獻：

[1]彭春華，劉剛，孫惠娟.基于小波分解和微分進化支持向量機的風電場風速預(yù)測[J].電力自動化設(shè)備，2012，32（1）：9-13.

[2]孫海蓉，謝碧霞，田瑤，等.基于數(shù)據(jù)的SecRPSO-SVM短期電力負荷預(yù)測[J].系統(tǒng)仿真學報，2017（8）：1829-1836.

[3]張亞麗，胡伯軒，李莎莎，等.基于相似日搜索的改進LMD與ESN相結(jié)合的短期電力負荷預(yù)測模型[J].鄭州大學學報（理學版），2017，49（2）：121-127.

[4]史佳琪，譚濤，郭經(jīng)，等.基于深度結(jié)構(gòu)多任務(wù)學習的園區(qū)型綜合能源系統(tǒng)多元負荷預(yù)測[J].電網(wǎng)技術(shù)，2018，42（3）：698-707.

[5]李幼軍，黃佳進，王海淵，等.基于SAE和LSTMRNN的多模態(tài)生理信號融合和情感識別研究[J].通信學報，2017，38（12）：109-120.

[6]牛哲文，余澤遠，李波，等.基于深度門控循環(huán)單元神經(jīng)網(wǎng)絡(luò)的短期風功率預(yù)測模型[J].電力自動化設(shè)備，2018，38（5）：36-42.