基于VMD-EWT-IASSP-EBILSTM的短期電力負荷預測

楊健,孫濤,陳小龍,蘇堅,姚健,周倩

(國網(wǎng)寧夏供電有限公司吳忠供電公司,吳忠 751100)

近年來,國家大力建設電力市場,深化電力系統(tǒng)改革,但隨著電力系統(tǒng)消納的動態(tài)運轉,電力系統(tǒng)的供給側不斷發(fā)生變化,系統(tǒng)負荷充滿隨機不確定性與非平穩(wěn)性,對后續(xù)電力系統(tǒng)調度計劃的應用與能源系統(tǒng)的安全穩(wěn)定運行帶來巨大影響[1]。因此,通過對電力系統(tǒng)負荷進行預測,獲得電力系統(tǒng)負荷波動的區(qū)間范圍,對電力市場合理優(yōu)化配置資源具有重要指導意義。

國內外研究者對負荷預測領域的研究主要集中在點預測技術上,點預測方法主要采用指數(shù)平滑模型[2]、回歸[3]與時間序列等統(tǒng)計方法。隨著人工智能的發(fā)展,負荷預測開始應用一些人工智能的技術如神經(jīng)網(wǎng)絡[4-5]、支持向量機[6]和模糊系統(tǒng)[7]等。然而,由于電力市場負荷的波動性,其預測精度并不理想。

Gaillard等[8]分別采用半?yún)?shù)回歸模型、多元時間序列仿真模型和重采樣策略進行點負荷預測,但預測性能不佳;Kou等[9]提出了一種基于高斯過程的日負荷預測擴散異方差預測方法,但直接采用歷史的預測誤差估計擴散異方差的精度不高; Wang等[10]采用卷積神經(jīng)網(wǎng)絡模型來估算風電負荷,相較于Delta方法,負荷預測復雜度較低,精度較高,但該模型不能有效提取負荷時序信息;秦勉等[11]采用遺傳算法與極限學習機(extreme learning machine,ELM)模型結合,構建負荷預測模型,采用遺傳算法來優(yōu)化ELM的參數(shù),但遺傳算法較為復雜,迭代求解過程速率較慢;李守茂等[12]基于小波神經(jīng)網(wǎng)絡與粒子優(yōu)化算法進行負荷預測,但采用的粒子群優(yōu)化算法計算量大,容易出現(xiàn)維數(shù)災問題。Musaed等[13]采用卷積神經(jīng)網(wǎng)絡與長短時記憶網(wǎng)絡 (convolutional neural networks-long short term memory,CNN-LSTM)結合的模型結構,用CNN提取輸入樣本的特征信息,再利用LSTM進行電力系統(tǒng)負荷預測,但該方法LSTM負荷預測的精度受CNN提取特征的約束,若CNN特征層提取不佳,會導致預測精度下降。任成國等[14]提出一種經(jīng)驗模態(tài)分解(empirical mode decomposition,EMD)與LSTM網(wǎng)絡模型結合的算法,將時間序列分解若干子分量,在子分量基礎上分別訓練LSTM模型訓練,預測精度有較高的提升,但EMD算法容易造成模態(tài)混疊的現(xiàn)象。

綜上所述,現(xiàn)有算法存在著預測精度、時效、穩(wěn)定度等不同問題,難以穩(wěn)定工程化應用。為了有效提高模型的預測精度與時效性,提出一種短期電力負荷預測模型?？紤]到變分模態(tài)分解 (variational mode decomposition,VMD)方法和經(jīng)驗小波變換(empirical wavelet transform,EWT)方法對非線性信號具有良好的分解特性,采用VMD方法對原始的電力負荷序列進行分解,并采用EWT方法對殘差序列進一步分解,利用過零率指標劃分高低頻負荷序列。為了對分解的高低頻負荷序列進一步預測,結合通道注意力的思想改進ASSP網(wǎng)絡結構,優(yōu)化卷積核提取感受野的方式,增強高頻序列負荷特征提取能力;同時構造時序依賴捕獲模塊EBiLSTM結構,充分捕獲低頻序列負荷特征的長期依賴性,共同構建出一種高低頻雙流的神經(jīng)網(wǎng)絡短期負荷預測模型。最后將每個子序列的預測結果組合,得到最終的預測結果。

1 負荷神經(jīng)網(wǎng)絡模型預測架構

1.1 變分模態(tài)分解與經(jīng)驗小波分解方法

電力負荷數(shù)據(jù)變化具有一定的規(guī)律性,同時受季節(jié)、地理位置、日期的影響,存在著負荷量急劇增加或減少等非平穩(wěn)現(xiàn)象,若直接用原始數(shù)據(jù)進行神經(jīng)網(wǎng)絡訓練,誤差較大[15]。為提高后續(xù)模型的訓練精度,負荷預測前需對負荷序列進行模態(tài)特征的分解,而現(xiàn)在常用的EMD手段容易引發(fā)模態(tài)混疊的問題,進而影響后續(xù)的預測精度。VMD[16]能夠解決負荷序列模態(tài)混疊的問題,但經(jīng)過VMD分解的殘差序列,負荷變化特征仍比較復雜,并不能有效利用。

EWT是一種自適應信號分解方法。根據(jù)原始信號傅里葉譜的分割,建立合適的小波濾波器組,將原始信號分解為緊湊支持傅里葉譜的多個子信號,分解的信號具有完整性與自適應性,其完整性體現(xiàn)于分解后的子序列信號與殘差信號累加后可還原原始信號。因此,結合VMD與EWT方法的分解特性,利用VMD將原始的負荷序列分解為若干子序列和殘差序列,解決信號模態(tài)混疊問題,再利用EWT方法對殘差序列進行進一步分解,降低負荷序列的復雜度。

VMD可以將一個復雜信號在頻域內分解為一系列具有特定帶寬的子信號,從而挖掘復雜非線性信號的特征。假設VMD方法分解過程中各模態(tài)分量的頻率集中在中心頻率wk附近,利用VMD序列分解問題可轉化為優(yōu)化問題,優(yōu)化的目的是尋找模態(tài)分解數(shù)K,使分解模態(tài)序列的總帶寬最小,且滿足所有分解序列求和得到原始信號f(t)的條件,優(yōu)化問題數(shù)學建模,表達式為

(1)

式(1)中:f(t)為原始負荷信號;δ(t)為狄拉克分布函數(shù);t表示時間;uk與wk為第k次分解的模態(tài)分量與對應的中心頻率;K為模態(tài)分解數(shù)量;j為虛數(shù)單位。將式(1)引入二次懲罰和拉格朗日乘子,上述約束變分問題可轉化為無約束優(yōu)化問題,即

(2)

利用經(jīng)驗小波變換(EWT)對殘差序列進行進一步分解的主要步驟如下。

(1)將殘差序列的傅里葉譜分成N個連續(xù)段。

(2)基于經(jīng)驗小波構造帶通濾波器,每段的經(jīng)驗尺度函數(shù)φn(w)與小波函數(shù)ψn(w)定義為

(3)

(4)

式中:ζ為平移量,函數(shù)β(x)定義為

(5)

(3)計算近似系數(shù)Wf(0,t)和細節(jié)系數(shù)Wf(n,t),近似系數(shù)由原始信號與經(jīng)驗尺度函數(shù)內積得出,細節(jié)系數(shù)由原始信號與小波函數(shù)內積得出,定義為

(6)

(7)

(4)計算子信號(經(jīng)驗模態(tài)函數(shù)),第一個子信號f1(t)與第n個子信號fn(t)定義為

f1(t)=Wf(0,t)φ1(t)

(8)

fn(t)=Wf(n,t)ψn(t)

(9)

1.2 低頻模態(tài)分量特征捕獲EBiLSTM結構

電力負荷數(shù)據(jù)受輻照度、溫度、濕度等一些外部因素的影響,雖具有一定的波動性,但用戶消費習慣仍具有一定的規(guī)律性,因此,在一段時間序列內,負荷特征數(shù)據(jù)也具有一定的周期規(guī)律性。這種周期規(guī)律性相對比較平緩,多反映在負荷的低頻模態(tài)信號中。因此,提出一種時序依賴捕獲模塊EBiLSTM結構,考慮上下文的序列信息,提取低頻模態(tài)分量的特征信息。

EBiLSTM結構接收原始負荷信號,通過集成雙向的輸入門、忘記門與輸出門等長短時門結構與記憶結構,不斷學習負荷數(shù)據(jù)的短時、中長時、長時等多維度負荷時序信息,同時考慮模型訓練中的過擬合問題,設計Dropout層與BatchNormal層,合理地減少網(wǎng)絡的過擬合問題,提高了模型的魯棒性,具體的EBiLSTM結構如圖1所示。

圖1 時序特征信息提取鏈路

1.3 高頻模態(tài)分量特征提取IASSP結構

電力負荷數(shù)據(jù)經(jīng)過VMD與EWT分解的高頻序列,局部范圍內負荷特征變化較為劇烈,具有一定的波動性,需構建高效的特征提取模塊來提取局部的特征信息。采用不同尺度的卷積核結構,改進ASSP網(wǎng)絡結構的特征提取模塊,稱為IASSP(improved atros spatial pyramid pooling)模塊,具體的模塊結構如圖2所示。首先采用1×1卷積結構降維,減少計算量,再采用1×1結構、3×3結構與連續(xù)兩次3×3卷積操作進行網(wǎng)絡的并行處理,空洞卷積的擴張率設計為1、3、5結構,采用不同卷積核多尺度提取的特征結構。

圖2 IASSP特征提取結構

為進一步提高有效特征的權重比例,借鑒SENet模型的通道注意力機制,為IASPP模塊的每個通道添加相應的權重值,學習并篩選出對目標預測貢獻較大的特征圖。原ASSP網(wǎng)絡模型,默認同等對待每個通道信息,對負荷預測貢獻相同。實際上,隨著卷積層的堆疊與語義信息的豐富,每個通道攜帶了不同的特征信息,與目標的關聯(lián)程度也不盡相同。若對特征圖的通道賦予權重,并學習與篩選出對負荷預測貢獻較大的特征,讓網(wǎng)絡更加關注輸入的重要特征,更好地判斷輸入到輸出的映射關系,進一步提高模型的預測精度和泛化能力。

IASSP模塊構建完畢,模塊內設計卷積結構,后接全局池化結構來降低特征數(shù)據(jù)的維度,減少模型的參數(shù)量,避免模型的過擬合現(xiàn)象。激活函數(shù)采用SiLU函數(shù),該函數(shù)結合Sigmoid函數(shù)與Relu激活函數(shù)的平滑可微的優(yōu)勢,進行非線性映射,增強模型對復雜結構的學習能力,具體數(shù)學表達式為

f(x)=xsigmoid(x)

(10)

為提高負荷特征提取能力并加快特征梯度整體的傳輸效率,網(wǎng)絡模型的設計過程中借鑒DenseNet網(wǎng)絡的跳躍連接思想,特征層能夠直接獲取損失函數(shù)計算的梯度信息,并得到淺層網(wǎng)絡結構的輸入信息與負荷特征,減輕模型梯度消失問題,提高預測的精度,最后輸出電力系統(tǒng)提取的特征信息來預測系統(tǒng)負荷的局部趨勢,具體的特征信息提取鏈路的網(wǎng)絡結構如圖3所示。

圖3 高頻特征提取鏈路

2 基于VMD-EWT-IASSP-EBiLSTM的負荷預測模型

2.1 數(shù)據(jù)分解與參數(shù)確定

利用VMD分解原始負荷序列前,需預先確定懲罰因子α與模態(tài)分解數(shù)K。α決定各模態(tài)分量的帶寬大小。當α增大時,各模態(tài)分量的帶寬減小,反之,帶寬增大。同樣,模態(tài)分解數(shù)K的取值,直接影響分解結果。當K很小時,原始信號不能完全分解,分解誤差大,預測精度低;當K較大時,原始信號被過度分解,隨著累積誤差的疊加,過多的分解會導致預測精度下降,增加計算負擔。

通過均方誤差損失函數(shù)來設計自適應優(yōu)化模數(shù)K,具體的損失函數(shù)為

(11)

(12)

式(12)中:uk(t)代表第k次的模態(tài)分量。定義損失函數(shù)后,對VMD分解進行迭代優(yōu)化,Ede越小,VMD分解越徹底。

經(jīng)過VMD分解的殘差序列,再利用EWT方法對殘差序列進行進一步分解,降低負荷序列的復雜度,EWT分解的模態(tài)次數(shù)過大過小都會影響分解結果,考慮到VMD算法中心頻率的收斂特性可自適應檢測模態(tài)分量的邊界與中心頻率,因此ETW分解殘差序列前,先利用VMD分解殘差序列,利用中心頻率的收斂自適應確定ETW的模態(tài)分解次數(shù)。

2.2 基于VMD-EWT-IASSP-EBiLSTM負荷預測模型

為提高電力系統(tǒng)負荷預測精度,基于VMD、EWT、IASSP、EBiLSTM模塊提出了一種負荷預測模型,模型的預測流程圖如圖4所示。

圖4 負荷預測模型的流程圖

首先,利用VMD將原始負荷序列分解為若干次序列和殘差序列,利用EWT對殘差序列進行進一步分解。將VMD分解的子序列利用過零率進行高低頻信號的劃分,過零率的具體定義為

(13)

式(13)中:Z0為過零率;z0為過零的次數(shù);N為負荷樣本總數(shù)目。

然后將子序列劃分的低頻序列,利用EBiLSTM模塊構建的網(wǎng)絡結構進行負荷特征長期依賴性的捕獲;劃分的高頻序列,利用IASSP模塊進一步特征提取。最后疊加重構每個子序列的負荷預測,得到整體的負荷預測結果。

基于VMD-EWT-EBiLSTM-IASSP設計的負荷預測模型如圖5所示。低頻分量的主干網(wǎng)絡通過堆疊EBiLSTM模塊來捕獲負荷的時序變化,堆疊的數(shù)量為1、2、4、4、2、2;高頻分量的主干網(wǎng)絡通過堆疊IASSP結構提取局部負荷特征,模塊堆疊的數(shù)量為2、2、2、4、4、2,共同構成高低頻雙流鏈路的特征提取通道。將雙流鏈路的提取的特征信息疊加重構,輸入到64個長短時神經(jīng)元結構,學習來自兩條路徑特征融合的長期依賴性,然后將長短時神經(jīng)元捕獲的特征通過跳躍結構進行連接。經(jīng)過Concat層處理后作為全連接層的輸入,同時為避免過擬合現(xiàn)象,采用Dropout層進行連接,最后經(jīng)過激活函數(shù)為Sigmoid的全連接層預測電力系統(tǒng)的負荷信息。

圖5 基于VMD-EWT-IASSP-EBiLSTM負荷預測模型

3 實驗結果與分析

3.1 數(shù)據(jù)集與負荷序列分解

采用寧夏吳忠電網(wǎng)的實測數(shù)據(jù)為基礎進行算法的驗證。實測數(shù)據(jù)時間范圍為2018年1月—2021年12月,包含了輻照度、溫度、濕度的時序數(shù)據(jù),采樣周期為15 min。將2018年1月1日—2020年12月31日的數(shù)據(jù)作為神經(jīng)網(wǎng)絡預測模型的數(shù)據(jù)集進行訓練,為了評估網(wǎng)絡模型的泛化能力,根據(jù)交叉驗證原則,將2021年1月1日—12月31日的數(shù)據(jù)作為測試集進行驗證。

VMD算法分解負荷序列,設置VMD分解算法的初始參數(shù),α設置為4 000,以調整每個模式分量的帶寬到適當?shù)乃?。τ設置為0.000 01,λ設置為0,K初始化為1,Ede的閾值為0.03;然后利用VMD分解算法迭代更新參數(shù),每次分解計算誤差Ede。

VMD算法分解負荷序列迭代更新后,最終模態(tài)分解數(shù)K=5時,迭代終止,分解誤差為0.026 7。因此取K=5為變分模態(tài)分解數(shù)目,具體的分解結果如圖6所示。EWT的模態(tài)分解次數(shù)利用VMD分解殘差序列中心頻率的收斂來確定,最后模態(tài)次數(shù)為4時,序列的中心頻率值收斂,因此ETW的模態(tài)分解次數(shù)取N=4,具體的分解結果如圖7所示。

圖6 VMD分解負荷原始信號

圖7 EWT分解殘差信號

利用過零率對分解序列進行高低頻分量的劃分,各模態(tài)分量的過零率計算如表1所示。其中取過零率大于0.05的模態(tài)分量作為高頻分量,可看到IMF1與IMF2模態(tài)分量屬于低頻分量,IMF3、IMF4、IMF5模態(tài)分量與殘差序列均作為高頻分量。

表1 不同模態(tài)分量的過零率

3.2 模型損失函數(shù)與訓練

網(wǎng)絡的訓練過程中,為更好地獲得負荷預測的最優(yōu)結果。整個訓練過程共兩個階段,第一階段,只訓練主干網(wǎng)絡的高頻分量特征提取鏈路與低頻時序依賴捕獲鏈路;第二階段基于一階段訓練的網(wǎng)絡權重,對整體網(wǎng)絡結構進行訓練。訓練過程中,采用Adam優(yōu)化算法,尋找全局最優(yōu)。定義神經(jīng)網(wǎng)絡預測模型的損失函數(shù)為

(14)

3.3 客觀評價指標

為更系統(tǒng)地評估本文提出的神經(jīng)網(wǎng)絡模型對電力系統(tǒng)負荷預測,采用平均絕對誤差(mean absolute error,MAE)[17]和均方根誤差(root mean squared error,RMSE)[18]這兩種客觀評價指標對預測性能進行評估,具體的計算公式為

(15)

(16)

3.4 不同分解算法對比的實驗結果

為驗證VMD-EWT算法分解負荷序列對負荷預測的效果,選取EMD方法、VMD方法以及模態(tài)序列不分解方法,結合IASSP與EBiLSTM網(wǎng)絡結構進行對比仿真驗證。

取測試集測試驗證,對所有預測結果統(tǒng)計分析,結果如圖8所示。

由圖8可看出,將原始負荷序列經(jīng)過VMD-EWT、EMD、VMD與序列模態(tài)不分解的方法進行預測,曲線的總體趨勢基本一致,在負荷波動處,相較于其他分解算法,本文提出的VMD-EWT算法的預測值更趨近于真實值。

負荷真實值與各算法預測結果利用式(15)進行評估,具體實驗結果如圖9所示,可看到本文算法誤差范圍趨于[0,100]區(qū)間,VMD誤差范圍趨于[0,200],EMD誤差范圍趨于[0,400],負荷未模態(tài)分解的預測誤差范圍趨于[0,500]區(qū)間,由誤差范圍區(qū)間可判斷出采用VMD-EWT分解的方法,再采用神經(jīng)網(wǎng)絡模型預測的負荷精度更高。

圖9 不同分解方法誤差對比實驗

采用客觀評價指標均方根誤差RMSE、平均絕對誤差MAE,對不同模態(tài)分解方法做進一步的性能驗證,具體的驗證指標結果如表2所示。

表2 不同模態(tài)分解方法誤差對比

如表2所示,本文提出的模態(tài)分解方法的RMSE指標與MAE指標誤差更低,算法誤差降低了53.7%～79.6%,進一步驗證負荷序列在急劇增加或急劇減少的波動處,采用VMD-EWT分解方法進行特征分量的分解,有助于提高負荷模型的預測精度。

3.5 負荷神經(jīng)網(wǎng)絡模型對比實驗

為了驗證本文提出負荷預測模型的性能,與QR(quantile regression)算法[19]、ELM算法[20]、LSTM算法[21]、CNN-LSTM算法[22]等四種國內外前沿短期負荷概率預測方法進行對比。

為驗證不同模型對電力系統(tǒng)負荷預測的性能,利用測試集進行負荷預測評估,預測結果如圖10所示,從圖10(a)～圖10(e)可以看出本文算法、CNN-LSTM網(wǎng)絡模型、LSTM模型對負荷的預測與真實負荷曲線趨勢相近,而ELM算法與QR模型預測的負荷值與真實值略有偏差。為進一步評估不同算法模型對電力負荷預測的效果,繪制出不同模型的預測結果與真實值的絕對誤差如圖10(f)所示,可看到本文提出的神經(jīng)網(wǎng)絡算法的誤差區(qū)間為[0,50],CNN-LSTM算法誤差區(qū)間為[0,100],LSTM算法誤差區(qū)間為[0,130],ELM算法誤差區(qū)間趨于[0,240],QR算法誤差范圍趨于[0,200]。

圖10 不同模型對能源系統(tǒng)的負荷預測

同樣采用MAE、RMSE客觀評價指標對不同模型的負荷預測結果進行評估,如表3所示。

表3 不同算法的預測誤差對比

可直觀體現(xiàn)出本文提出的負荷預測模型的誤差相對較小,相比于現(xiàn)有的主流預測算法,負荷預測的絕對誤差降低了37%～75%,更反映出本文提出的網(wǎng)絡模型對電力系統(tǒng)的負荷預測方面效果更佳。

同時采用兩年的實測數(shù)據(jù)進行模型的訓練,數(shù)據(jù)量較大,環(huán)境覆蓋比較豐富,包含大部分的負荷供給場景,實驗數(shù)據(jù)也表明了本文所提負荷預測模型的可靠性較高。

4 結論

以時間為序列的電力負荷預測是高度非線性的,往往依賴于各種參數(shù),并涉及許多不確定因素,較難預測,而準確可靠的電力系統(tǒng)負荷預測可以幫助市場參與者輔助構建智能化電網(wǎng)控制系統(tǒng)。本文基于VMD-EWT-IASSP-BiLSTM方法提出一種負荷預測模型,該算法利用VMD方法將原始負荷序列分解子序列與殘差序列,利用EWT方法進一步分解殘差序列,將具有復雜變化特征的原始負荷序列分解為一系列變換特征相對簡單的子序列,降低原始序列的復雜性。利用過零率指標劃分的高低頻序列,分別采用IASSP特征提取模塊與BiLSTM時序依賴提取模塊進行負荷預測,最后疊加重構子序列預測結果,經(jīng)過全連接層非線性映射得到最終的負荷預測結果。以寧夏某地實測數(shù)據(jù)進行模型泛化能力的驗證,得到如下實驗結果。

(1)采用VMD-EWT分解的方法,相較于其他負荷分解的方法,負荷預測精度更高,預測誤差降低了53.7%～79.6%。

(2)構建的神經(jīng)網(wǎng)絡負荷預測模型,相較于國內外前沿神經(jīng)網(wǎng)絡,負荷預測的MAE均方根誤差降低了36.3%～70.9%,RMSE絕對誤差降低了37%～75%。

(3)后續(xù)網(wǎng)絡模型的輸入還會考慮一些其他干擾負荷預測的因素,比如天氣信息、負荷電價等因素。