基于Attention-BiLSTM 神經(jīng)網(wǎng)絡(luò)和氣象數(shù)據(jù)修正的短期負(fù)荷預(yù)測(cè)模型

王繼東，杜 沖

（天津大學(xué) 智能電網(wǎng)教育部重點(diǎn)實(shí)驗(yàn)室，天津 300072）

0 引言

準(zhǔn)確高效的短期電力負(fù)荷預(yù)測(cè)是保證電力系統(tǒng)安全可靠運(yùn)行的前提，也是電網(wǎng)合理安排發(fā)電計(jì)劃的依據(jù)。電力市場(chǎng)化改革的進(jìn)行，對(duì)短期電力負(fù)荷預(yù)測(cè)的精度提出了更高的要求。

用于短期電力負(fù)荷預(yù)測(cè)的方法主要分為統(tǒng)計(jì)學(xué)方法和機(jī)器學(xué)習(xí)方法兩大類。統(tǒng)計(jì)學(xué)方法主要有回歸分析法［1］、自回歸積分滑動(dòng)平均模型［2］、波動(dòng)模型［3］等，這些方法原理簡(jiǎn)單，計(jì)算速度較快，但是對(duì)于變量間非線性關(guān)系的處理能力有限。機(jī)器學(xué)習(xí)方法主要有支持向量機(jī)法［4-5］、反向傳播（BP）神經(jīng)網(wǎng)絡(luò)［6］、隨機(jī)森林法［7］等，這些方法的共同缺點(diǎn)是難以挖掘負(fù)荷序列的時(shí)序性，且不適合處理大量數(shù)據(jù)。

近年來，深度學(xué)習(xí)發(fā)展迅速，為短期負(fù)荷預(yù)測(cè)方法的研究提供了新的思路。典型的深度學(xué)習(xí)方法有卷積神經(jīng)網(wǎng)絡(luò)、深度信念網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)RNN（Recurrent Neural Network）等。其中，以RNN為主體的預(yù)測(cè)模型由于在處理時(shí)序數(shù)據(jù)方面的優(yōu)勢(shì)而被廣泛應(yīng)用。長(zhǎng)短時(shí)記憶LSTM（Long Short-Term Memory）神經(jīng)網(wǎng)絡(luò)是一種特殊的RNN，其通過增加門控單元，解決了傳統(tǒng)RNN存在的梯度消失問題［8］，能夠更好地學(xué)習(xí)時(shí)間序列中的歷史信息。文獻(xiàn)［9］使用LSTM 神經(jīng)網(wǎng)絡(luò)進(jìn)行負(fù)荷預(yù)測(cè)，相較于BP神經(jīng)網(wǎng)絡(luò)，LSTM神經(jīng)網(wǎng)絡(luò)提高了預(yù)測(cè)精度，但是由于輸入特征較多，難以突出對(duì)當(dāng)前負(fù)荷影響更大的因素。文獻(xiàn)［10］在負(fù)荷預(yù)測(cè)前首先使用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行特征提取，但是其僅將歷史負(fù)荷數(shù)據(jù)作為模型的輸入，而沒有考慮其他因素對(duì)負(fù)荷數(shù)據(jù)的影響。文獻(xiàn)［11］在使用LSTM 神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測(cè)的同時(shí)，引入注意力（Attention）機(jī)制，通過給輸入特征賦予不同的權(quán)重，突出關(guān)鍵特征的影響，增強(qiáng)了模型學(xué)習(xí)序列中長(zhǎng)距離依賴的能力。

上述方法存在的共同問題是，LSTM神經(jīng)網(wǎng)絡(luò)只能考慮單向的數(shù)據(jù)信息，忽視了序列的反向信息對(duì)預(yù)測(cè)的影響。另外，這些方法通常是將歷史負(fù)荷數(shù)據(jù)和影響負(fù)荷的其他因素如氣象數(shù)據(jù)等作為模型的輸入特征共同輸入預(yù)測(cè)模型。文獻(xiàn)［12］通過對(duì)真實(shí)氣象數(shù)據(jù)序列特征的分析發(fā)現(xiàn)，氣象數(shù)據(jù)在幾個(gè)星期到幾年的范圍內(nèi)可近似為白噪聲，序列內(nèi)部規(guī)律性差。而RNN 及其變體處理內(nèi)部規(guī)律性不強(qiáng)的數(shù)據(jù)的能力較差［13］。因此，氣象數(shù)據(jù)等不適合作為RNN模型的輸入特征。

針對(duì)以上問題，本文提出一種基于Attention-BiLSTM（Attention Bidirectional Long Short-Term Memory）和氣象數(shù)據(jù)修正的短期負(fù)荷預(yù)測(cè)模型。在采用最大信息系數(shù)MIC（Maximum Information Coefficient）分析影響負(fù)荷的主要因素的基礎(chǔ)上，針對(duì)規(guī)律性較強(qiáng)的歷史負(fù)荷數(shù)據(jù)以及規(guī)律性較差的氣象數(shù)據(jù)分別建立預(yù)測(cè)模型和誤差修正模型。首先，使用雙向長(zhǎng)短時(shí)記憶（BiLSTM）神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)歷史負(fù)荷數(shù)據(jù)的正、反向規(guī)律，并引入Attention 機(jī)制突出關(guān)鍵因素的影響；然后，使用核極限學(xué)習(xí)機(jī)KELM（Kernel Extreme Learning Machine）結(jié)合氣象數(shù)據(jù)進(jìn)行誤差預(yù)測(cè)，并對(duì)預(yù)測(cè)模型的結(jié)果進(jìn)行修正，旨在提高模型的整體預(yù)測(cè)精度。實(shí)驗(yàn)結(jié)果表明，本文模型相較于其他模型具有更高的預(yù)測(cè)精度。

1 影響負(fù)荷的因素分析

由于負(fù)荷序列具有一定的周期性和趨勢(shì)性，因此歷史負(fù)荷數(shù)據(jù)是預(yù)測(cè)當(dāng)前時(shí)刻負(fù)荷的最主要依據(jù)。此外，氣象數(shù)據(jù)特別是溫度和相對(duì)濕度對(duì)負(fù)荷數(shù)據(jù)也有一定影響。因此，本文重點(diǎn)考慮歷史負(fù)荷及溫度、相對(duì)濕度對(duì)當(dāng)前時(shí)刻負(fù)荷的影響。

由于MIC在處理相關(guān)性分析問題時(shí)具有較好的魯棒性和較小的計(jì)算復(fù)雜度［14］，因此本文采用MIC分析各變量與當(dāng)前負(fù)荷數(shù)據(jù)之間的相關(guān)性。

1.1 MIC

MIC 是一種基于互信息的關(guān)聯(lián)性分析算法。它采用網(wǎng)格劃分的方法，不僅可以衡量數(shù)據(jù)集中變量之間的線性和非線性函數(shù)關(guān)系，還可以廣泛地挖掘變量之間的非函數(shù)依賴關(guān)系，具有較好的普適性和公平性。MIC計(jì)算方法描述如下。

在一個(gè)二元數(shù)據(jù)集D∈R2中，給定2 個(gè)變量X={xi，i=1，2，…，n}和Y={yi，i=1，2，…，n}，n為變量X和Y的維度，則其互信息I(X；Y)定義為：

式中：MD|G(X；Y) 為標(biāo)準(zhǔn)化的最大互信息值；lg min(a，b)為標(biāo)準(zhǔn)化系數(shù)；F(D)MIC為MIC；B（n）為網(wǎng)格劃分?jǐn)?shù)的上界，一般取B（n）=n0.6。MIC 是一種歸一化的最大互信息，其取值范圍為［0，1］，2 個(gè)變量間的MIC 值越接近1，表示變量間的關(guān)聯(lián)性越強(qiáng)，MIC值越接近0，表示變量間的關(guān)聯(lián)性越弱。

1.2 歷史負(fù)荷與當(dāng)前負(fù)荷的相關(guān)性分析

附錄A 圖A1 為我國(guó)東部某地區(qū)一個(gè)月的負(fù)荷數(shù)據(jù)變化情況。由圖可知，電力負(fù)荷數(shù)據(jù)具有明顯的周期性：隨著人們生活作息的變化，白天負(fù)荷水平逐漸提高，夜晚負(fù)荷水平逐漸降低，這體現(xiàn)出負(fù)荷的日周期性；一周中每天的負(fù)荷遵從上述變化，其中周一至周五為工作日，負(fù)荷以工業(yè)用電為主，負(fù)荷水平較高，而周六、周日由于工廠等用電大戶休息，負(fù)荷以居民用電為主，處于較低水平，這體現(xiàn)出負(fù)荷的周周期性。此外，負(fù)荷數(shù)據(jù)還具有連續(xù)性，中間一般不會(huì)出現(xiàn)階躍和離散現(xiàn)象。

設(shè)pi（t）為第i天t時(shí)刻的負(fù)荷數(shù)據(jù)，Pi（t）為第i天以負(fù)荷項(xiàng)pi（t）為尾項(xiàng)，向第i-1天方向擴(kuò)展的長(zhǎng)度為24 個(gè)時(shí)刻的負(fù)荷序列?？紤]到負(fù)荷的日周期性、周周期性以及連續(xù)性，分別計(jì)算一個(gè)月內(nèi)Pi（t-1）、Pi（t-2）、Pi-1（t）、Pi-1（t-1）、Pi-7（t）、Pi-7（t-1）和當(dāng)前負(fù)荷序列Pi（t）之間的相關(guān)性，計(jì)算結(jié)果如表1所示。

表1 歷史負(fù)荷與當(dāng)前負(fù)荷的相關(guān)性Table 1 Correlation between historical load and current load

由表1 可知，所選負(fù)荷序列與當(dāng)前負(fù)荷序列的MIC 值均大于0.7，相關(guān)性較強(qiáng)［15］。其中，Pi（t-1）與Pi（t）時(shí)間相距最近，相關(guān)性最強(qiáng)。另外，所選負(fù)荷數(shù)據(jù)的周周期性略強(qiáng)于日周期性，計(jì)算結(jié)果符合負(fù)荷變化的實(shí)際情況。

1.3 氣象數(shù)據(jù)與當(dāng)前負(fù)荷的相關(guān)性分析

除了歷史負(fù)荷，氣象也被認(rèn)為是影響當(dāng)前負(fù)荷的重要因素，本文主要考慮溫度和相對(duì)濕度對(duì)負(fù)荷的影響。

設(shè)Pi為第i天的負(fù)荷數(shù)據(jù)，Ti為第i天的溫度數(shù)據(jù)，Hi為第i天的相對(duì)濕度數(shù)據(jù)。由于氣象數(shù)據(jù)對(duì)負(fù)荷數(shù)據(jù)的影響可能存在季節(jié)性差異，因此計(jì)算各季節(jié)典型月中每日氣象數(shù)據(jù)和負(fù)荷數(shù)據(jù)的相關(guān)性。本文認(rèn)為MIC 值大于0.2 則表示兩序列之間存在一定的相關(guān)性。分別計(jì)算各季節(jié)典型月中氣象數(shù)據(jù)與負(fù)荷數(shù)據(jù)之間的MIC值大于0.2的天數(shù)占比，計(jì)算結(jié)果如表2所示。

表2 氣象數(shù)據(jù)與負(fù)荷的相關(guān)性Table 2 Correlation between meteorological data and load

表2 結(jié)果表明，溫度和相對(duì)濕度是負(fù)荷重要的外部影響因素，且存在季節(jié)性差異。其中溫度與負(fù)荷的相關(guān)性更強(qiáng)，對(duì)負(fù)荷的影響更大。綜合來看，氣象數(shù)據(jù)在夏季時(shí)對(duì)負(fù)荷的影響最為明顯。

2 基于Attention-BiLSTM神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型

2.1 BiLSTM神經(jīng)網(wǎng)絡(luò)

LSTM 神經(jīng)網(wǎng)絡(luò)是一種時(shí)間RNN，是目前最成功的RNN 架構(gòu)之一。LSTM 神經(jīng)網(wǎng)絡(luò)基本結(jié)構(gòu)見附錄A圖A2。

LSTM神經(jīng)網(wǎng)絡(luò)的核心是門控單元，其中遺忘門負(fù)責(zé)選擇性地遺忘歷史信息，輸入門負(fù)責(zé)保留當(dāng)前信息并將其與歷史信息融合，輸出門決定當(dāng)前狀態(tài)對(duì)隱含層的影響。LSTM 神經(jīng)網(wǎng)絡(luò)對(duì)應(yīng)的參數(shù)計(jì)算如下：

式中：ft、it、ot、ct分別為當(dāng)前t時(shí)刻遺忘門、輸入門、輸出門和狀態(tài)單元的狀態(tài)；ht-1為前一時(shí)刻隱含層的狀態(tài)；xt為當(dāng)前t時(shí)刻的輸入；Wf、Wi、Wo、Wc和bf、bi、bo、bc分別為對(duì)應(yīng)的權(quán)重系數(shù)矩陣和偏置項(xiàng)；σ(·)表示Sigmoid激活函數(shù)。

LSTM神經(jīng)網(wǎng)絡(luò)存在的一個(gè)不足是，其僅能夠利用從正向序列中傳來的歷史信息，這使其在對(duì)波動(dòng)過程進(jìn)行預(yù)測(cè)時(shí)可能會(huì)導(dǎo)致相位滯后。

為驗(yàn)證負(fù)荷數(shù)據(jù)存在雙向信息流，選取數(shù)據(jù)集中連續(xù)一個(gè)月的負(fù)荷數(shù)據(jù)，以其中心點(diǎn)為原點(diǎn)向正、反2 個(gè)方向延伸，得到正向負(fù)荷序列和反向負(fù)荷序列。分別計(jì)算正、反向負(fù)荷序列的自相關(guān)系數(shù)，結(jié)果如圖1所示。

圖1 正、反向負(fù)荷序列的自相關(guān)系數(shù)Fig.1 Autocorrelation coefficients of positive and negative load sequences

由圖1 可知，負(fù)荷序列具有明顯的正、反向規(guī)律性，因此，在負(fù)荷預(yù)測(cè)時(shí)要同時(shí)考慮歷史負(fù)荷和未來負(fù)荷對(duì)預(yù)測(cè)精度的影響。BiLSTM 神經(jīng)網(wǎng)絡(luò)由正向和反向2 個(gè)LSTM 神經(jīng)網(wǎng)絡(luò)組成，相較于傳統(tǒng)的LSTM 神經(jīng)網(wǎng)絡(luò)，BiLSTM 神經(jīng)網(wǎng)絡(luò)同時(shí)考慮了前、后向數(shù)據(jù)的內(nèi)在規(guī)律［16］，是從歷史和未來2 個(gè)方向展開預(yù)測(cè)，使用2 個(gè)獨(dú)立的隱含層分別處理來自正向和反向的數(shù)據(jù)，然后將正向和反向的隱含層輸出均作為輸出層的輸入，從而中和相位誤差，提高預(yù)測(cè)精度。BiLSTM神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)示意圖見附錄A圖A3。

2.2 Attention機(jī)制

深度學(xué)習(xí)中的Attention 機(jī)制是一種模擬人腦Attention 的模型。在處理特定信息時(shí)，人腦會(huì)將Attention 集中在關(guān)鍵區(qū)域，以獲得更多需要關(guān)注的信息［17］。Attention 機(jī)制給輸入特征賦予不同的權(quán)重，以突出強(qiáng)相關(guān)因素的影響，減少弱相關(guān)因素的影響，相較于分心模型，其可以得到更好的預(yù)測(cè)效果。Attention結(jié)構(gòu)見附錄A圖A4，其各參數(shù)計(jì)算公式為：

式中：et、αt分別為當(dāng)前t時(shí)刻不同特征對(duì)應(yīng)的權(quán)重分?jǐn)?shù)和Attention 權(quán)重；ν、W為計(jì)算Attention 權(quán)重時(shí)的多層感知機(jī)的權(quán)重；b為計(jì)算Attention權(quán)重時(shí)的多層感知機(jī)的偏置參數(shù)；m為預(yù)測(cè)模型輸入向量的維度；Ct為Attention 機(jī)制在t時(shí)刻的輸出。Attention 機(jī)制自適應(yīng)地計(jì)算并調(diào)整原始輸入特征對(duì)應(yīng)的隱含層狀態(tài)值，達(dá)到突出重要特征以及弱化次要特征的效果，最后將加權(quán)過的隱含層狀態(tài)值輸入BiLSTM 神經(jīng)網(wǎng)絡(luò)進(jìn)一步挖掘數(shù)據(jù)的內(nèi)部規(guī)律。

3 基于KELM的氣象數(shù)據(jù)修正模型

為了進(jìn)一步提高模型的預(yù)測(cè)精度，本文利用KELM 結(jié)合氣象數(shù)據(jù)對(duì)Attention-BiLSTM 神經(jīng)網(wǎng)絡(luò)模型的預(yù)測(cè)結(jié)果進(jìn)行修正。

KELM 是在極限學(xué)習(xí)機(jī)的基礎(chǔ)上，結(jié)合核函數(shù)提出的一種改進(jìn)算法［18］。極限學(xué)習(xí)機(jī)的輸出與連接權(quán)重計(jì)算公式為：

式中：x為模型輸入；f(x)為模型輸出；h(x)、H為隱含層特征映射矩陣；β為隱含層與輸出層連接權(quán)值；I為對(duì)角矩陣；C為懲罰系數(shù)；T為目標(biāo)向量。

為了提升極限學(xué)習(xí)機(jī)的泛化能力和穩(wěn)定性，KELM 算法使用核矩陣ΩELM代替極限學(xué)習(xí)機(jī)中的隨機(jī)矩陣H。核矩陣定義為：

式中：xi和xj分別為樣本中第i個(gè)和j個(gè)輸入向量；k(xi，xj)為核函數(shù)，通常定義為徑向基函數(shù)（RBF）核，如式（15）所示。

式中：N為輸入樣本數(shù)。

KELM 屬于單隱含層前饋神經(jīng)網(wǎng)絡(luò)，計(jì)算速度快，其擬合能力相較于普通的極限學(xué)習(xí)機(jī)和支持向量機(jī)有較大提升，且由于核函數(shù)直接采用內(nèi)積形式，隱含層節(jié)點(diǎn)無需單獨(dú)設(shè)置。綜上，本文選擇KELM算法建立修正模型。

本文構(gòu)建基于Attention-BiLSTM 神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型，挖掘歷史負(fù)荷數(shù)據(jù)的內(nèi)在規(guī)律性。同時(shí)，為了綜合考慮影響負(fù)荷數(shù)據(jù)的氣象因素，進(jìn)一步提高預(yù)測(cè)精度，建立基于KELM 的氣象數(shù)據(jù)修正模型。建模流程如附錄A 圖A5 所示。建模的具體步驟如下。

1）數(shù)據(jù)預(yù)處理。首先對(duì)輸入數(shù)據(jù)序列進(jìn)行異常值處理，然后再將數(shù)據(jù)序列按式（17）歸一化至區(qū)間［0，1］中。

式中：y為原始數(shù)據(jù)；y*為歸一化后的數(shù)據(jù)；ymax、ymin分別為數(shù)據(jù)集中的最大值、最小值。

2）負(fù)荷預(yù)測(cè)和誤差序列生成。按照第2 節(jié)建立Attention-BiLSTM 神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型，將處理后的歷史負(fù)荷數(shù)據(jù)作為輸入特征，采用滾動(dòng)預(yù)測(cè)的方式進(jìn)行模型的訓(xùn)練，分別得到訓(xùn)練集上的預(yù)測(cè)值序列y′t和測(cè)試集上的預(yù)測(cè)值序列y″t，在此基礎(chǔ)上求取真實(shí)值yt與y′t之差，得到訓(xùn)練集上的誤差序列yres：

3）誤差預(yù)測(cè)。將誤差序列yres與處理后的氣象數(shù)據(jù)作為輸入特征，訓(xùn)練KELM，得到測(cè)試集的誤差預(yù)測(cè)值序列y′res。

4）誤差修正。用步驟3）中得到的誤差預(yù)測(cè)值序列y′res修正步驟2）中的預(yù)測(cè)結(jié)果y″t，得到最終的預(yù)測(cè)值y～t：

4 算例仿真

為驗(yàn)證本文所提方法的科學(xué)性和可靠性，選取我國(guó)東部某地區(qū)連續(xù)兩年的真實(shí)負(fù)荷數(shù)據(jù)和氣象數(shù)據(jù)作為實(shí)驗(yàn)數(shù)據(jù)集進(jìn)行仿真驗(yàn)證。

本文實(shí)驗(yàn)所用PC 機(jī)配置為Windows 10 64 位操作系統(tǒng)，CPU 為Inter Core i5-8400，內(nèi)存為8 GB。軟件平臺(tái)為Spyder，程序運(yùn)行環(huán)境為keras2.0.6 和Tensorflow1.13.1。

本文誤差指標(biāo)選用平均絕對(duì)百分比誤差（MAPE）eMAPE和均方根誤差（RMSE）eRMSE，計(jì)算公式分別見附錄A式（A1）、（A2）。

4.1 Attention機(jī)制分析

為研究Attention 機(jī)制對(duì)預(yù)測(cè)模型的影響，選取數(shù)據(jù)集中一個(gè)月的負(fù)荷數(shù)據(jù)，對(duì)不同輸入特征分配的Attention權(quán)重如圖2所示。

圖2 不同輸入特征的Attention權(quán)重分配情況Fig.2 Distribution condition of Attention weight for different input features

由圖2可知，Attention機(jī)制關(guān)聯(lián)了不同輸入特征序列對(duì)預(yù)測(cè)結(jié)果的影響，其中模型對(duì)前一時(shí)刻負(fù)荷序列Pi（t-1）分配了最高的Attention 權(quán)重，其對(duì)當(dāng)前負(fù)荷的預(yù)測(cè)結(jié)果影響最大，而Pi-1（t-1）的權(quán)重系數(shù)最小，因此對(duì)預(yù)測(cè)結(jié)果的影響最小。

圖3 為所選數(shù)據(jù)集時(shí)間跨度由5 d 增加至50 d時(shí)，各輸入序列對(duì)應(yīng)Attention 權(quán)重的變化情況。由圖可知，各輸入序列的Attention 權(quán)重隨著時(shí)間跨度的增加而動(dòng)態(tài)變化并逐漸趨于穩(wěn)定。Attention 機(jī)制不是簡(jiǎn)單地將各影響因素貢獻(xiàn)率平均化，而是在各時(shí)刻自主挖掘不同輸入特征對(duì)預(yù)測(cè)結(jié)果的影響程度，進(jìn)而提高模型對(duì)關(guān)鍵特征信息的提取能力。

圖3 Attention權(quán)重的變化Fig.3 Change of Attention weight

4.2 氣象修正模型對(duì)預(yù)測(cè)精度的影響分析

由1.3節(jié)可知，氣象數(shù)據(jù)對(duì)負(fù)荷的影響存在季節(jié)性差異。為研究氣象修正模型在不同季節(jié)時(shí)對(duì)預(yù)測(cè)精度的影響，將該地區(qū)一年的負(fù)荷數(shù)據(jù)和氣象數(shù)據(jù)劃分成4 個(gè)數(shù)據(jù)集，分別為春季（3 至5 月）、夏季（6至8 月）、秋季（9 至11 月）和冬季（1、2、12 月）。將4個(gè)數(shù)據(jù)集按照7∶3 的比例劃分為訓(xùn)練集和測(cè)試集，使用多步迭代預(yù)測(cè)的方法對(duì)比本文基于Attention-BiLSTM 神經(jīng)網(wǎng)絡(luò)和氣象數(shù)據(jù)修正的模型（模型1）與Attention-BiLSTM 神經(jīng)網(wǎng)絡(luò)（模型2）的預(yù)測(cè)精度。其中，模型1 用歷史負(fù)荷數(shù)據(jù)訓(xùn)練Attention-BiLSTM 神經(jīng)網(wǎng)絡(luò)模型，得到初步的預(yù)測(cè)誤差，再結(jié)合氣象數(shù)據(jù)作為KELM 模型的輸入進(jìn)行誤差的預(yù)測(cè)和修正。模型2 的輸入特征為歷史負(fù)荷數(shù)據(jù)和對(duì)應(yīng)時(shí)刻的氣象數(shù)據(jù)。為保證實(shí)驗(yàn)的可靠性，兩模型中BiLSTM 神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)相同，均為2 層BiLSTM 神經(jīng)網(wǎng)絡(luò)層，各層神經(jīng)元個(gè)數(shù)分別為50、40個(gè)，時(shí)間步為10，迭代次數(shù)為500次。

各季節(jié)負(fù)荷在測(cè)試集上的預(yù)測(cè)誤差如表3 所示。氣象數(shù)據(jù)修正模型使得整體預(yù)測(cè)精度在春、夏、秋、冬季分別提高了0.54%、0.73%、0.45%、0.57%。這表明，相較于模型2 使用Attention-BiLSTM 神經(jīng)網(wǎng)絡(luò)模型處理所有的特征，模型1 考慮不同類型特征各自的特點(diǎn)，根據(jù)特征序列內(nèi)部規(guī)律性強(qiáng)弱分別對(duì)其進(jìn)行處理，充分發(fā)揮了Attention-BiLSTM 神經(jīng)網(wǎng)絡(luò)模型處理時(shí)序數(shù)據(jù)的優(yōu)勢(shì)，同時(shí)建立基于KELM 的氣象修正模型，避免了將規(guī)律性差的氣象數(shù)據(jù)輸入BiLSTM 神經(jīng)網(wǎng)絡(luò)，有效提高了預(yù)測(cè)精度。此外，夏季時(shí)氣象因素與負(fù)荷序列相關(guān)性最強(qiáng)，氣象修正效果最明顯。

表3 氣象修正模型對(duì)預(yù)測(cè)精度的影響Table 3 Influence of meteorological correction model on prediction accuracy

4.3 不同模型的預(yù)測(cè)結(jié)果及分析

為進(jìn)一步研究本文模型的預(yù)測(cè)性能，分別用本文模型、Attention-LSTM 神經(jīng)網(wǎng)絡(luò)模型、BiLSTM 神經(jīng)網(wǎng)絡(luò)模型、LSTM 神經(jīng)網(wǎng)絡(luò)模型和BP 神經(jīng)網(wǎng)絡(luò)模型對(duì)該地區(qū)進(jìn)行一天和連續(xù)一周的預(yù)測(cè)。首先將數(shù)據(jù)集進(jìn)行重新劃分，前18個(gè)月的數(shù)據(jù)為訓(xùn)練集，后6個(gè)月的數(shù)據(jù)為測(cè)試集。實(shí)驗(yàn)結(jié)果如表4所示。

由表4 可知：相較于其他對(duì)比模型，本文模型在一天和一周的預(yù)測(cè)結(jié)果中都達(dá)到了最好的效果，這說明本文模型具有較高的精度和較強(qiáng)的魯棒性；相較于LSTM 神經(jīng)網(wǎng)絡(luò)模型，增加Attention 機(jī)制使得Attention-LSTM 神經(jīng)網(wǎng)絡(luò)模型整體預(yù)測(cè)精度在一天和一周范圍內(nèi)分別提高了0.21%和0.29%，這表明Attention 機(jī)制可以更好地突出關(guān)鍵特征對(duì)預(yù)測(cè)結(jié)果的影響；相較于LSTM神經(jīng)網(wǎng)絡(luò)模型，BiLSTM神經(jīng)網(wǎng)絡(luò)模型的整體預(yù)測(cè)精度分別提高了0.43%和0.53%，這表明BiLSTM 神經(jīng)網(wǎng)絡(luò)可以更好地挖掘負(fù)荷數(shù)據(jù)的正、反向規(guī)律，進(jìn)而提高預(yù)測(cè)精度。

表4 不同模型的預(yù)測(cè)誤差對(duì)比Table 4 Comparison of prediction errors among different models

為了更直觀地展示不同模型的預(yù)測(cè)效果，選取不同模型一天的負(fù)荷預(yù)測(cè)值和真實(shí)值進(jìn)行對(duì)比，如圖4所示。

圖4 不同模型的預(yù)測(cè)結(jié)果Fig.4 Predicted results of different models

由圖4 可知，所選預(yù)測(cè)日的負(fù)荷曲線近似為雙峰曲線，在10:00—20:00 時(shí)間段（圖中預(yù)測(cè)時(shí)間點(diǎn)20—40）負(fù)荷曲線波動(dòng)較大，相較于其他模型，本文模型在負(fù)荷曲線波峰和波谷區(qū)域的波動(dòng)性最小。此外，在早晚負(fù)荷曲線的上升和下降階段，本文模型也能很好地捕捉負(fù)荷變化的規(guī)律?？傮w上看，本文模型的預(yù)測(cè)結(jié)果與真實(shí)值擬合程度最高，變化趨勢(shì)基本一致。

5 結(jié)論

針對(duì)電力系統(tǒng)短期負(fù)荷預(yù)測(cè)精度要求日益提高的要求，本文提出一種基于Attention-BiLSTM 神經(jīng)網(wǎng)絡(luò)和氣象數(shù)據(jù)修正的短期負(fù)荷預(yù)測(cè)模型，并通過實(shí)驗(yàn)進(jìn)行驗(yàn)證。本文主要結(jié)論如下。

1）采用MIC方法驗(yàn)證了歷史負(fù)荷數(shù)據(jù)和氣象數(shù)據(jù)中的溫度和相對(duì)濕度數(shù)據(jù)對(duì)當(dāng)前負(fù)荷數(shù)據(jù)存在較大的影響。

2）建立基于Attention-BiLSTM 神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型，BiLSTM 神經(jīng)網(wǎng)絡(luò)可以充分挖掘歷史負(fù)荷數(shù)據(jù)的時(shí)序性和正、反向信息，Attention 機(jī)制通過給輸入特征賦予不同的權(quán)重，突出了對(duì)負(fù)荷預(yù)測(cè)精度影響更大的特征。

3）針對(duì)BiLSTM 神經(jīng)網(wǎng)絡(luò)在處理溫度數(shù)據(jù)、濕度數(shù)據(jù)等內(nèi)部規(guī)律性不強(qiáng)的數(shù)據(jù)時(shí)精度會(huì)降低的問題，建立基于KELM 的氣象數(shù)據(jù)修正模型，充分發(fā)揮了BiLSTM 神經(jīng)網(wǎng)絡(luò)處理時(shí)序數(shù)據(jù)的優(yōu)勢(shì)和KELM學(xué)習(xí)速度快、非線性映射能力強(qiáng)的特點(diǎn)。另外，引入氣象修正模型可以減少時(shí)序預(yù)測(cè)模型輸入特征的維度，進(jìn)而節(jié)約時(shí)序預(yù)測(cè)模型的運(yùn)算成本。

未來可以研究在考慮降雨量、日類型等影響因素更復(fù)雜環(huán)境下的短期負(fù)荷預(yù)測(cè)問題，并且可以與其他負(fù)荷預(yù)測(cè)方法相結(jié)合進(jìn)一步提高模型的預(yù)測(cè)精度和普適性。

附錄見本刊網(wǎng)絡(luò)版（http：//www.epae.cn）。