基于LSTM 的鋼鐵工業(yè)地區(qū)母線短期負(fù)荷預(yù)測(cè)研究

孫昀昀，王連成

（山東大學(xué)，山東 濟(jì)南 250061）

0 引言

準(zhǔn)確的母線負(fù)荷預(yù)測(cè)是制定電網(wǎng)合理運(yùn)行方式和電力調(diào)度的數(shù)據(jù)基礎(chǔ)。母線負(fù)荷相對(duì)于系統(tǒng)負(fù)荷，量大面廣且易受多重因素影響，通常是供給有限范圍區(qū)域負(fù)荷的總和。母線負(fù)荷變化特點(diǎn)是速度快、趨勢(shì)不明顯，使母線負(fù)荷穩(wěn)定性通常較弱。當(dāng)光伏電源并網(wǎng)和鋼鐵沖擊性負(fù)荷容量達(dá)到一定規(guī)模時(shí)，其功率波動(dòng)會(huì)破壞接入電網(wǎng)原有負(fù)荷特性曲線的固有形態(tài)，給統(tǒng)調(diào)負(fù)荷預(yù)測(cè)工作帶來(lái)困難，增加電力電量平衡的難度。

迄今為止已提出了多種各具特點(diǎn)的母線負(fù)荷預(yù)測(cè)方法，文獻(xiàn)［1］分析了母線負(fù)荷與氣象因素的關(guān)聯(lián)性，找出了影響其負(fù)荷特性的氣象因素，構(gòu)建出基于關(guān)聯(lián)性分析的母線負(fù)荷分類(lèi)預(yù)測(cè)模型。文獻(xiàn)［2］小波分解算法，將母線負(fù)荷序列分解，分別分析各序列規(guī)律特征的不同，構(gòu)造出不同的支持向量機(jī)模型負(fù)荷預(yù)測(cè)，重構(gòu)后獲得預(yù)測(cè)值。母線負(fù)荷屬于短期負(fù)荷預(yù)測(cè)，傳統(tǒng)方法如時(shí)間序列法、回歸分析法已經(jīng)被廣泛應(yīng)用，但預(yù)測(cè)精度逐漸不再滿足現(xiàn)代需求。隨著人工智能和智能電網(wǎng)的發(fā)展，以深度學(xué)習(xí)為代表的人工智能方法在電力系統(tǒng)負(fù)荷預(yù)測(cè)領(lǐng)域取得了不錯(cuò)的效果。深度學(xué)習(xí)模型通過(guò)多層非線性映射逐層學(xué)習(xí)海量負(fù)荷序列中蘊(yùn)含的抽象特征。文獻(xiàn)［3］采用模糊C-聚類(lèi)算法將不同行業(yè)劃分為不同的預(yù)測(cè)類(lèi)型；分別建立基于深度信念網(wǎng)絡(luò)的負(fù)荷預(yù)測(cè)模型，負(fù)荷預(yù)測(cè)精度有所提升，但沒(méi)有充分利用負(fù)荷數(shù)據(jù)的時(shí)序特性。文獻(xiàn)［4］采用MATLAB中的BP神經(jīng)網(wǎng)絡(luò)建立以時(shí)間序列為模型的方法應(yīng)對(duì)鋼鐵廠用電復(fù)雜多變的特性，但作者指出由于BP網(wǎng)絡(luò)基于自身特點(diǎn)，采用非線性函數(shù)的梯度優(yōu)化算法，存在收斂速度慢、容易陷入局部最優(yōu)的缺點(diǎn)，有一定的局限性。

為了解決傳統(tǒng)方法中存在的問(wèn)題，以含有大型鋼廠沖擊性負(fù)荷的地區(qū)母線負(fù)荷數(shù)據(jù)為基礎(chǔ)，利用深度學(xué)習(xí)長(zhǎng)短期記憶 （Long Short-term Memory,LSTM）算法的優(yōu)勢(shì)充分挖掘與整合多維影響因素，根據(jù)母線負(fù)荷中所包含的光伏發(fā)電、鋼鐵負(fù)荷所占比例的大小，將母線分為三類(lèi)進(jìn)行預(yù)測(cè)，提出鋼鐵工業(yè)地區(qū)的短期母線負(fù)荷預(yù)測(cè)模型。

1 基于深度學(xué)習(xí)的負(fù)荷預(yù)測(cè)方法

1.1 深度學(xué)習(xí)網(wǎng)絡(luò)模型

循環(huán)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Network，RNN）是一類(lèi)具有短期記憶能力的神經(jīng)網(wǎng)絡(luò)，適合用于處理視頻、語(yǔ)音、文本等與時(shí)序相關(guān)的問(wèn)題［5-6］。循環(huán)神經(jīng)網(wǎng)絡(luò)中神經(jīng)單元不僅可以接受其他神經(jīng)單元傳輸?shù)男畔ⅲ€可以處理本神經(jīng)單元的信息形成環(huán)路。根據(jù)時(shí)間展開(kāi)后，循環(huán)神經(jīng)網(wǎng)絡(luò)神經(jīng)元如圖1所示。

圖1 展開(kāi)的循環(huán)神經(jīng)網(wǎng)絡(luò)神經(jīng)元

時(shí)間為t時(shí)，網(wǎng)絡(luò)的輸入量為xt，不僅當(dāng)前時(shí)刻的隱狀態(tài) （即隱藏層神經(jīng)元活性值）ht與輸入xt有關(guān)，上一個(gè)時(shí)刻的隱狀態(tài)ht-1也與其相關(guān)，進(jìn)而與全部輸入序列 x=｛x1，x2，…，xt｝相關(guān)。 由圖 1 可知 RNN展開(kāi)后由多個(gè)相同的單元連續(xù)連接，是一個(gè)自我不斷循環(huán)的結(jié)構(gòu)。表示為：

式中：zt為隱藏層的凈輸入；f（·）為非線性激活函數(shù)，一般是tanh函數(shù)或Sigmoid函數(shù)；U為狀態(tài)-狀態(tài)權(quán)重矩陣；W為狀態(tài)-輸入權(quán)重矩陣；b為偏置矩陣。

但RNN神經(jīng)網(wǎng)絡(luò)也有其局限性，隨著時(shí)間跨度增加，容易產(chǎn)生長(zhǎng)期依賴(lài)激活函數(shù)和網(wǎng)絡(luò)參數(shù)的問(wèn)題，失去從過(guò)去獲取更多信息的能力，產(chǎn)生梯度消失或梯度爆炸現(xiàn)象［7］。在這個(gè)基礎(chǔ)上，RNN的變體LSTM神經(jīng)網(wǎng)絡(luò)嶄露頭角。

1.2 LSTM神經(jīng)網(wǎng)絡(luò)

為了改善RNN的缺陷，LSTM神經(jīng)網(wǎng)絡(luò)由S.Hochreiter和 J.Schmidhuber于 1997年提出［8］。 與標(biāo)準(zhǔn) RNN結(jié)構(gòu)重復(fù)的神經(jīng)網(wǎng)絡(luò)模塊的鏈?zhǔn)叫问较啾?，LSTM在每個(gè)RNN的cell內(nèi)部加入了三個(gè)控制門(mén)單元（Gate），構(gòu)成一組稱(chēng)之為記憶塊（Memory Blocks）的循環(huán)子網(wǎng)絡(luò)。用于選擇對(duì)關(guān)鍵節(jié)點(diǎn)信息的記憶或者遺忘，實(shí)現(xiàn)了長(zhǎng)時(shí)間和短時(shí)間記憶的結(jié)合，有效改進(jìn)了RNN難以處理的人為延長(zhǎng)時(shí)間任務(wù)的問(wèn)題，更適用于處理和預(yù)測(cè)時(shí)間序列中間隔和延遲相對(duì)較長(zhǎng)的重要事件，在語(yǔ)言模型、機(jī)器翻譯、語(yǔ)音識(shí)別［9］等領(lǐng)域應(yīng)用廣泛。圖2為L(zhǎng)STM神經(jīng)網(wǎng)絡(luò)典型結(jié)構(gòu)。

圖2 LSTM神經(jīng)網(wǎng)絡(luò)典型結(jié)構(gòu)

LSTM神經(jīng)網(wǎng)絡(luò)單元處理數(shù)據(jù)的流程是：把t時(shí)刻輸入數(shù)據(jù)與t-1時(shí)刻的輸出數(shù)據(jù)結(jié)合，經(jīng)過(guò)遺忘門(mén)選擇性保留長(zhǎng)期記憶狀態(tài)變量。再通過(guò)輸入門(mén)將上一時(shí)刻長(zhǎng)期狀態(tài)與當(dāng)前時(shí)刻狀態(tài)疊加，得到新記憶狀態(tài)變量。最終長(zhǎng)期記憶狀態(tài)變量通過(guò)輸出門(mén)作用得到t時(shí)刻輸出。與RNN相比，LSTM得到新記憶狀態(tài)值是疊加的形式，可以大大改善狀態(tài)值逐漸接近0 的情況，即梯度消失現(xiàn)象［10］。

根據(jù)圖2所示，可以用式（3）—式（8）解釋 LSTM循環(huán)模型單個(gè)循環(huán)體的具體運(yùn)算過(guò)程，其中xt為輸入，yt為輸出，it為輸入門(mén)的輸出，ft為遺忘門(mén)的輸出，ot為輸出門(mén)的輸出，W和b為參數(shù)矩陣。σ采用Sigmoid激活函數(shù)。

2 短期負(fù)荷預(yù)測(cè)流程

LSTM神經(jīng)網(wǎng)絡(luò)由于具有記憶結(jié)構(gòu)，可以很好地反映負(fù)荷數(shù)據(jù)在時(shí)間順序上的聯(lián)系。將深度學(xué)習(xí)LSTM神經(jīng)網(wǎng)絡(luò)應(yīng)用于短期負(fù)荷預(yù)測(cè)，重點(diǎn)在于對(duì)海量的歷史負(fù)荷數(shù)據(jù)進(jìn)行預(yù)處理以及解決由于網(wǎng)絡(luò)深、參數(shù)多帶來(lái)的訓(xùn)練困難問(wèn)題。將數(shù)據(jù)庫(kù)按7∶3的比例分為訓(xùn)練數(shù)據(jù)集和測(cè)試數(shù)據(jù)集，分別用于深度學(xué)習(xí)網(wǎng)絡(luò)模型的學(xué)習(xí)過(guò)程和對(duì)訓(xùn)練完成的深度學(xué)習(xí)網(wǎng)絡(luò)模型的性能測(cè)試。圖3為深度學(xué)習(xí)網(wǎng)絡(luò)模型構(gòu)建過(guò)程。

圖3 深度學(xué)習(xí)網(wǎng)絡(luò)模型構(gòu)建過(guò)程

模型構(gòu)建的詳細(xì)流程：

1）數(shù)據(jù)預(yù)處理，歷史負(fù)荷數(shù)據(jù)采集系統(tǒng)會(huì)存在數(shù)據(jù)缺失或者數(shù)據(jù)異常的情況［11］。若不加處理輸入模型將會(huì)導(dǎo)致很大的誤差。因此，數(shù)據(jù)預(yù)處理需要對(duì)缺失的數(shù)據(jù)進(jìn)行填補(bǔ)，并對(duì)異常數(shù)據(jù)進(jìn)行識(shí)別和修正［12］。

2）確定模型的輸入輸出變量，將預(yù)處理后的數(shù)據(jù)集劃分成為訓(xùn)練集、測(cè)試集2個(gè)部分。按是否有標(biāo)簽將訓(xùn)練集數(shù)據(jù)分為無(wú)標(biāo)簽數(shù)據(jù)和有標(biāo)簽數(shù)據(jù)，訓(xùn)練集數(shù)據(jù)用于模型訓(xùn)練，測(cè)試集用于測(cè)試模型對(duì)新數(shù)據(jù)預(yù)測(cè)性能的優(yōu)劣。

3）由于神經(jīng)網(wǎng)絡(luò)具有激活函數(shù)特性，對(duì)［-1，1］內(nèi)的數(shù)據(jù)更加敏感［13］。針對(duì)數(shù)據(jù)庫(kù)進(jìn)行歸一化處理，采用歸一化公式（9）將數(shù)據(jù)處理至［0，1］區(qū)間內(nèi)。

式中：X′為完成歸一化的輸入變量；X為預(yù)處理后的待歸一化數(shù)據(jù)；max（X）為待歸一化數(shù)據(jù)每行的最大值；min（X）為待歸一化數(shù)據(jù)每行的最小值。

4）訓(xùn)練集數(shù)據(jù)輸入LSTM網(wǎng)絡(luò)模型中獲得預(yù)測(cè)值，模型超參數(shù)采取梯度下降調(diào)整方式，代價(jià)函數(shù)為平方重構(gòu)誤差，LSTM實(shí)現(xiàn)監(jiān)督學(xué)習(xí)。

5）LSTM網(wǎng)絡(luò)訓(xùn)練完成后，輸入測(cè)試集數(shù)據(jù)，反歸一化后輸出預(yù)測(cè)結(jié)果。

6）將5）中得到的負(fù)荷預(yù)測(cè)值與實(shí)際負(fù)荷進(jìn)行對(duì)比評(píng)價(jià)，采用誤差的均方根值（Root Mean Square Error，RMSE）作為預(yù)測(cè)結(jié)果的評(píng)級(jí)指標(biāo)，衡量LSTM 網(wǎng)絡(luò)模型的預(yù)測(cè)準(zhǔn)確性。

式中： δr為誤差的均方根；fp（i）和 fi（i）分別為測(cè)試集中第i個(gè)采樣點(diǎn)的預(yù)測(cè)負(fù)荷值和實(shí)際負(fù)荷值；n為測(cè)試集中樣本數(shù)。電力負(fù)荷預(yù)測(cè)中RMSE越小，則負(fù)荷預(yù)測(cè)效果越好。

3 深度LSTM負(fù)荷預(yù)測(cè)模型

該地區(qū)多數(shù)母線帶有鋼鐵工業(yè)負(fù)荷，母線負(fù)荷曲線波動(dòng)幅度大，母線負(fù)荷預(yù)測(cè)的基準(zhǔn)值遠(yuǎn)小于系統(tǒng)預(yù)測(cè)的基準(zhǔn)值，提升母線負(fù)荷準(zhǔn)確率成為一個(gè)棘手的問(wèn)題。通過(guò)分析母線歷史準(zhǔn)確率，將母線分為三類(lèi)。第一類(lèi)母線接入光伏發(fā)電站，負(fù)荷變動(dòng)與天氣關(guān)聯(lián)性強(qiáng)，日周期性明顯，歷史預(yù)測(cè)準(zhǔn)確率高；第二類(lèi)母線接入部分鋼鐵工業(yè)負(fù)荷，有一定的日周期性，歷史準(zhǔn)確率較高；第三類(lèi)母線幾乎完全接入鋼鐵工業(yè)負(fù)荷，日周期規(guī)律性很差，同時(shí)受鋼鐵企業(yè)生產(chǎn)計(jì)劃、檢修計(jì)劃影響大，歷史準(zhǔn)確率低。

由于歷史負(fù)荷之間大體趨勢(shì)相同，但每日負(fù)荷受該日日期類(lèi)型、氣象因素（溫度與光照）、電價(jià)波動(dòng)、鋼鐵期貨水平變化而產(chǎn)生相應(yīng)的變化。電價(jià)與工業(yè)負(fù)荷波動(dòng)之間有密切的聯(lián)系，鋼鐵工業(yè)在電價(jià)高的白天負(fù)荷低于夜晚，在08：00電價(jià)變化分界處，負(fù)荷會(huì)明顯減少。鋼鐵市場(chǎng)價(jià)格的浮動(dòng)也與鋼鐵負(fù)荷變化相關(guān)，鋼鐵價(jià)格上漲時(shí)，鋼鐵工業(yè)負(fù)荷隨之升高；相反地，鋼鐵市場(chǎng)低迷時(shí)，鋼鐵工業(yè)負(fù)荷也會(huì)降低。同時(shí)，光照因素對(duì)沒(méi)有光伏電廠接入的母線負(fù)荷預(yù)測(cè)影響較小。綜合考慮各母線負(fù)荷的實(shí)際情況，把負(fù)荷歷史數(shù)據(jù)和多種影響因素量化值的集合作為深度學(xué)習(xí)LSTM網(wǎng)絡(luò)預(yù)測(cè)模型的輸入量［14］，建立了兩種負(fù)荷預(yù)測(cè)的輸入特征集。特征集分別如表1、表2所示。

表1 不接光伏的負(fù)荷預(yù)測(cè)輸入特征

表2 接入光伏的負(fù)荷預(yù)測(cè)輸入特征

規(guī)定光伏未接入的母線預(yù)測(cè)模型為模型Ⅰ，光伏接入的為模型Ⅱ。模型Ⅰ中，1—7號(hào)特征量是待預(yù)測(cè)日前7日的每日96負(fù)荷點(diǎn)負(fù)荷數(shù)據(jù)；8號(hào)特征量為待預(yù)測(cè)日的日期類(lèi)型，包括節(jié)假日信息；9號(hào)特征量是溫度因素，顯示為待預(yù)測(cè)日溫度的96點(diǎn)變化量化值；10號(hào)特征量展示各個(gè)時(shí)間段電價(jià)波動(dòng)；11—12號(hào)特征量是選取螺紋鋼、H型鋼價(jià)格的波動(dòng)體現(xiàn)鋼鐵市場(chǎng)形勢(shì)。模型Ⅱ中，1—3號(hào)特征量選取待預(yù)測(cè)前3日的96點(diǎn)負(fù)荷數(shù)據(jù)；4號(hào)特征量是待預(yù)測(cè)日的日期類(lèi)型；5號(hào)特征量是96點(diǎn)溫度量化值；6號(hào)特征量為待預(yù)測(cè)日天氣類(lèi)型，用于體現(xiàn)光照因素影響；7號(hào)特征量是待預(yù)測(cè)日各個(gè)時(shí)間段電價(jià)波動(dòng)。以上特征量作為L(zhǎng)STM網(wǎng)絡(luò)模型的輸入量，充分反映了負(fù)荷隨影響因素變化的情況。

4 仿真與結(jié)果分析

基于MATLAB R2018b平臺(tái)實(shí)現(xiàn)本文所使用的深度學(xué)習(xí)網(wǎng)絡(luò)模型編程與仿真，在MATLAB中的Deep Learn Toolbox工具箱完成網(wǎng)絡(luò)調(diào)用。

4.1 仿真設(shè)置

測(cè)試仿真數(shù)據(jù)來(lái)自某地區(qū)2018年10個(gè)220 kV變電站共21條母線的實(shí)際負(fù)荷數(shù)據(jù)，采樣間隔選取為15 min，每天96點(diǎn)負(fù)荷值?？紤]到負(fù)荷數(shù)據(jù)變化的季節(jié)性、母線運(yùn)行方式和檢修計(jì)劃調(diào)整，以30~90天作為訓(xùn)練間隔。原始數(shù)據(jù)集為1—3月、6—7月、10—12月歷史負(fù)荷數(shù)據(jù)。

根據(jù)前期大量仿真可知，帶光伏電站的母線，對(duì)外界光照因素更敏感，適用模型Ⅰ；帶鋼鐵生產(chǎn)的工序的母線適用模型Ⅱ。

4.2 仿真結(jié)果分析

首先用深度學(xué)習(xí)的兩種模型以6個(gè)變電站6條母線為例進(jìn)行仿真，對(duì)母線歷史負(fù)荷數(shù)據(jù)進(jìn)行負(fù)荷預(yù)測(cè)，將三大數(shù)據(jù)集分別進(jìn)行訓(xùn)練測(cè)試工作；三大數(shù)據(jù)集的負(fù)荷預(yù)測(cè)仿真結(jié)果與現(xiàn)有負(fù)荷預(yù)測(cè)系統(tǒng)的預(yù)測(cè)結(jié)果進(jìn)行對(duì)比，其對(duì)比結(jié)果如表3—表5所示。

表3 1—3月負(fù)荷預(yù)測(cè)準(zhǔn)確率對(duì)比

表4 6—7月負(fù)荷預(yù)測(cè)準(zhǔn)確率對(duì)比

表5 10—12月負(fù)荷預(yù)測(cè)準(zhǔn)確率對(duì)比

調(diào)研地區(qū)現(xiàn)有預(yù)測(cè)方法，發(fā)現(xiàn)傳統(tǒng)方法僅考慮了時(shí)間因素與負(fù)荷之間的關(guān)系，鋼鐵工業(yè)自身特點(diǎn)以及影響負(fù)荷變化的多種因素沒(méi)有納入。故本文將多種影響因素量化輸入深度學(xué)習(xí)LSTM預(yù)測(cè)模型，可以有效地提升母線負(fù)荷預(yù)測(cè)準(zhǔn)確性。已知GC 2號(hào)母線是帶有大型鋼鐵企業(yè)沖擊負(fù)荷的母線，存在負(fù)荷瞬時(shí)波動(dòng)超過(guò)100 MW的極端情況，在僅依靠預(yù)測(cè)方法難以進(jìn)一步提升準(zhǔn)確率的情況下，常常還需要人工干預(yù)。

對(duì)于沖擊負(fù)荷疊加導(dǎo)致的負(fù)荷急劇變化，需要專(zhuān)工參考鋼廠生產(chǎn)工序和生產(chǎn)計(jì)劃，對(duì)波動(dòng)點(diǎn)數(shù)據(jù)修正或用邊界值代替。

大型用電設(shè)備故障檢修、跳閘使得負(fù)荷急劇波動(dòng)時(shí)，預(yù)測(cè)結(jié)果需要現(xiàn)場(chǎng)運(yùn)行人員根據(jù)實(shí)際情況修正。

以6—7月數(shù)據(jù)集為例，將深度學(xué)習(xí)負(fù)荷預(yù)測(cè)方法的預(yù)測(cè)結(jié)果與人工神經(jīng)網(wǎng)絡(luò)算法、支持向量機(jī)算法的結(jié)果進(jìn)行對(duì)比如表6所示。

表6 6—7月各算法負(fù)荷預(yù)測(cè)準(zhǔn)確率對(duì)比

將現(xiàn)下廣泛使用的人工神經(jīng)網(wǎng)絡(luò)算法、支持向量機(jī)算法與本文使用的深度學(xué)習(xí)預(yù)測(cè)方法相比，可以證明深度學(xué)習(xí)預(yù)測(cè)方法的先進(jìn)性及其在電力負(fù)荷預(yù)測(cè)方面的適用性。

5 結(jié)語(yǔ)

電力負(fù)荷時(shí)序數(shù)據(jù)有著時(shí)序性、非線性及觀測(cè)時(shí)限性的特點(diǎn)。特別是鋼鐵工業(yè)負(fù)荷包含更多的隨機(jī)因素，同時(shí)用電設(shè)備的啟停、檢修會(huì)導(dǎo)致總負(fù)荷產(chǎn)生很大的波動(dòng)，其負(fù)荷變動(dòng)周期性及規(guī)律性不佳?？紤]到光伏發(fā)電的間歇性和不確定性以及鋼鐵負(fù)荷的沖擊性，提出了基于深度學(xué)習(xí)的鋼鐵工業(yè)地區(qū)母線負(fù)荷預(yù)測(cè)方法。在充分考慮多重影響因素的基礎(chǔ)上，分析改善前饋神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)等機(jī)器學(xué)習(xí)方法在提取負(fù)荷序列深層特點(diǎn)的缺陷，構(gòu)造深度學(xué)習(xí)LSTM網(wǎng)絡(luò)模型。仿真結(jié)果表明建立的模型可以有效提升負(fù)荷預(yù)測(cè)準(zhǔn)確率。