VMD-LSTM算法在短期負荷預(yù)測中的應(yīng)用

胡欣球， 馬立新

(上海理工大學(xué) 光電信息與計算機工程學(xué)院，上海 200093)

0 引言

短期電力負荷預(yù)測是在考慮節(jié)假日、溫度、濕度、歷史負荷等因素的基礎(chǔ)上預(yù)測未來一周之內(nèi)的用電負荷?？紤]到電能難以大量儲存以及發(fā)電機組啟停成本，為保持發(fā)電和用電之間的動態(tài)平衡，因此有必要進一步提高電力負荷預(yù)測的精度，并在此基礎(chǔ)上制定最優(yōu)化的發(fā)電計劃,保證電力系統(tǒng)的經(jīng)濟、可靠運行。

常用的電力系統(tǒng)負荷預(yù)測技術(shù)有回歸分析法，專家系統(tǒng)，極限學(xué)習(xí)機(Extreme Learning Machine,ELM)以及支持向量機(Support Vector Machines,SVM)等?；貧w分析法用于具有明顯趨勢的負荷預(yù)測。文獻[1]結(jié)合自組織映射(Self-Organizing Maps,SOM)和ELM算法建立短期負荷預(yù)測模型，消除了負荷數(shù)據(jù)中的冗余特征。文獻[2]首先分析影響預(yù)測結(jié)果的特征，并建立了SVM模型，并通過實際算例驗證了該模型具有更好的泛化能力，但SVM在負荷數(shù)據(jù)量很大時，將耗費大量的內(nèi)存空間和計算時間。文獻[3]使用粒子群(Particle Swarm Optimization,PSO)進行相似日提取，提出了一種組合預(yù)測方法[4-5]。

為分離負荷數(shù)據(jù)中的信號和噪聲，提高預(yù)測模型的精度，本文首先采用變分模態(tài)分解[6]技術(shù)將歷史負荷數(shù)據(jù)分解成若干個本征模態(tài)分量，使其頻率帶寬之和最小化。然后利用深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)LSTM分別對分解出的模態(tài)分量建模，LSTM神經(jīng)網(wǎng)絡(luò)由于具有記憶單元，相比于傳統(tǒng)的循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Networks，RNN)可以提取出更長的時間尺度上數(shù)據(jù)之間的關(guān)聯(lián)性，解決了RNN所存在的梯度消失的問題，在處理時間序列預(yù)測問題上能獲得更高的精度。因此本文基于VMD-LSTM算法建立了短期負荷預(yù)測模型，并通過算例驗證了本文模型的有效性。

1 VMD基本原理

VMD是一種受經(jīng)驗?zāi)B(tài)分解(Empirical Mode Decomposition, EMD)啟發(fā)的非平穩(wěn)信號分解方法，可以從時間序列信號中提取出信號固有的幾種模態(tài)分量。

平穩(wěn)信號指的是信號的均值、方差隨著時間的推移波動較小，從已有的信號中可以推測出未來的信號均值、方差與已有的樣本均值方差相同。EMD方法可以將任意類型的時序信號自適應(yīng)分解成多個頻率不同的模態(tài)函數(shù)(Intrinsic Mode Function，IMF)，若對負荷信號進行分解可以得到日常生活中不同時間的用電習(xí)慣。

與EMD不同的是，VMD使用變分模型確定相關(guān)頻帶并提取出相應(yīng)的模態(tài)分量，具有更好的抗噪聲能力和理論基礎(chǔ)[7-9]。若原始信號為非平穩(wěn)信號，變分模型從中提取出k個模態(tài)分量，使其頻率帶寬之和最小化，約束是使得每個模態(tài)分量之和等于給定信號。目標(biāo)函數(shù)如下所示：

(1)

式中：{μk}={μ1,μ2,…,μk}為分解之后的各個模態(tài)分量；{ωk}={ω1,ω2,…，ωk}是分解得到的各個模態(tài)函數(shù)對應(yīng)的中心頻率；δ(t)是沖擊函數(shù)；約束中的f是原始信號。

為了在上述約束條件下尋找目標(biāo)函數(shù)全局最優(yōu)解，首先采用二階范數(shù)懲罰因子α和拉格朗日乘子λ(t)來構(gòu)造出增廣拉格朗日函數(shù)，然后使用交替方向乘子法迭代尋找全局最優(yōu)解。增廣拉格朗日函數(shù)如下所示：

L({μk},{ωk},λ)=

(2)

(3)

根據(jù)傅里葉變換可得到每種模態(tài)分量的極小值：

(4)

采用相同的方法，解得中心頻率的極小值：

(5)

2 長短時記憶神經(jīng)網(wǎng)絡(luò)

循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Networks,RNNs)是一種深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)，不同于傳統(tǒng)的FNNs(Feed-forward Neural Networks，前向反饋神經(jīng)網(wǎng)絡(luò))，RNNs結(jié)構(gòu)中引入定向循環(huán)，能夠提取序列數(shù)據(jù)中的關(guān)聯(lián)信息，并且由于處理序列數(shù)據(jù)的優(yōu)越性而廣泛應(yīng)用于自然語言處理等領(lǐng)域，但是如果樣本之間存在長期依賴，會出現(xiàn)梯度消失問題，LSTM是針對此問題的一種改進型神經(jīng)網(wǎng)絡(luò)。LSTM 神經(jīng)網(wǎng)絡(luò)由Hochreiter 等[10]提出，并由Graves 進行改進[11]。LSTM神經(jīng)元結(jié)構(gòu)中有3個門，分別是輸入門(input gate),輸出門(output gate)和遺忘門(fotget gate)，用于從歷史數(shù)據(jù)中篩選出有用的信息，神經(jīng)元內(nèi)部結(jié)構(gòu)如圖1所示。

圖1 LSTM神經(jīng)元結(jié)構(gòu)

在圖1所示LSTM神經(jīng)元結(jié)構(gòu)中，令x=[x1,x2,x3,…,xT]為輸入時序信號，xt為t時刻神經(jīng)元的輸入。令y=[y1,y2,y3,…,yT]為對應(yīng)的輸出目標(biāo)，yt為t時刻的輸出。令c=[c1,c2,c3,…,cT]表示神經(jīng)元的狀態(tài)信息，ct為t時刻神經(jīng)元的狀態(tài)矩陣。則LSTM記憶單元計算過程可表示如下：

it=sig(wi·[yt-1,ct-1,xt]+bi)

(6)

ft=sig(wf·[yt-1,ct-1,xt]+bf)

(7)

ot=sig(wo·[yt-1,ct-1,xt]+bo)

(8)

μt=sig(wμ·[yt-1,ct-1,xt]+bμ)

(9)

式中：wi，wf，wo和wμ分別表示神經(jīng)元結(jié)構(gòu)中的輸入門，遺忘門，輸出門和神經(jīng)元狀態(tài)矩陣；bi，bf，bo和bμ表示對應(yīng)的偏置常量；sig表示sigmoid函數(shù)。

根據(jù)以上公式可得神經(jīng)元狀態(tài)ct和輸出yt的表達式如下：

ct=ft?ct-1+it?μt

(10)

yt=ot?tanh(ct)

(11)

其中?表示矩陣點乘。

3 仿真實驗

3.1 VMD-LSTM模型流程圖

VMD-LSTM模型結(jié)構(gòu)如圖2所示。

圖2 VMD-LSTM流程圖

(1) 利用VMD技術(shù)將輸入負荷分解成4個不同頻率的本征模態(tài)分量。

(2) 對分解出的每個模態(tài)的負荷數(shù)據(jù)進行歸一化處理。

(3) 針對每個模態(tài)分量分別建立LSTM模型，以當(dāng)前時間之前168 h負荷序列為模型輸入，預(yù)測未來24 h的負荷值。

(4) 結(jié)合每個模型的輸出，重構(gòu)預(yù)測結(jié)果。

3.2 VMD分解結(jié)果

本文采用某電網(wǎng)2014年實際負荷數(shù)據(jù)作為樣本，負荷數(shù)據(jù)采樣相隔為1 h。利用VMD分解的4個模態(tài)分量部分結(jié)果如圖3所示。

觀察圖3可以發(fā)現(xiàn)，模態(tài)分量U1、U2、U3的平均周期分別為6.02 h，12.00 h，24.07 h。分別代表人們生活中不同的用電習(xí)慣，U4模態(tài)分量反映負荷以周為單位的變化趨勢。

圖3 VMD分解結(jié)果

3.3 數(shù)據(jù)預(yù)處理

由于影響負荷的各個特征具有不同的量綱，若直接將各個特征值直接輸入模型進行訓(xùn)練，會造成較大的誤差，因此需要去除各個特征之間的量綱。常見的作法是歸一化處理，即把輸入數(shù)據(jù)歸一化到(0，1)范圍內(nèi)。歸一化方法如下：

(12)

式中：x′為歸一化之后的數(shù)據(jù)；x為樣本數(shù)據(jù)；xmax和xmin分別是該特征的最大值和最小值。

3.4 算例分析

本文以某電網(wǎng)2014年1月1日1時到12月7日24時實際負荷為樣本，分別建立SVM，LSTM以及VMD-LSTM預(yù)測模型，對2014年12月8日1時到2014年12月14日24時的負荷做出提前預(yù)測。評價指標(biāo)采用平均絕對百分比誤差(Mean Absolute Percentage Error, MAPE)，計算公式如下：

(13)

訓(xùn)練集誤差如圖4所示。

圖4 各模態(tài)分量預(yù)測誤差曲線

圖4中U1、U2、U3、U4分別代表VMD分解所得的4個模態(tài)分量，分別建立LSTM預(yù)測模型在訓(xùn)練集上的誤差。

12月8日預(yù)測結(jié)果如圖5所示。

圖5 不同模型預(yù)測曲線

12月8日至12月14日預(yù)測結(jié)果如表1所示。

為驗證模型的有效性，以12月8日至12月14日一周的負荷為樣本，對其進行提前24 h預(yù)測，3種模型的預(yù)測結(jié)果如表1所示。其中SVM預(yù)測模型的平均預(yù)測精度為96.90%，LSTM的平均預(yù)測精度為97.54%，而VMD-LSTM模型平均精度為98.62%，最大誤差為1.63%。結(jié)果表明，LSTM神經(jīng)網(wǎng)絡(luò)相比于SVM預(yù)測精度提高了1.72%，相比于LSTM模型精度提高了1.08%。因此LSTM能從歷史負荷序列中提取更多的有效信息，再經(jīng)過VMD分解并分別對每個模態(tài)進行建模，預(yù)測精度進一步提高。

表1 負荷預(yù)測誤差對比

4 結(jié)論

為進一步提高負荷預(yù)測精度，本文基于LSTM神經(jīng)網(wǎng)絡(luò)的短期負荷預(yù)測模型，并且結(jié)合VMD技術(shù)對負荷序列進行分解得到不同的用電模式，更細致地分析日常生活中的用電周期性。同時將預(yù)測結(jié)果與未結(jié)合VMD分解的模型以及SVM預(yù)測模型相比，具有更高的預(yù)測精度。仿真結(jié)果表明，該預(yù)測模型具有顯著的理論意義與實際價值。

參考文獻：

[1]馬立新,尹晶晶,鄭曉棟.SOM特征提取與ELM在電力負荷預(yù)測中的應(yīng)用[J].電力科學(xué)與工程,2015,31(5):1-5.

[2]謝宏,魏江平,劉鶴立.短期負荷預(yù)測中支持向量機模型的參數(shù)選取和優(yōu)化方法[J].中國電機工程學(xué)報,2006,26(22):17-22.

[3]羅勇,鄭金,寧美鳳.基于相似日搜索的PSO-WNN組合模型在短期電力負荷預(yù)測中的應(yīng)用[J].信息與控制,2013,42(3):371-376.

[4]李野，康重慶，陳新宇．綜合預(yù)測模型及其單一預(yù)測方法的聯(lián)合參數(shù)自適應(yīng)優(yōu)化[J]．電力系統(tǒng)自動化，2010，34(22)：36-40．

[5]牛東曉，魏亞楠．基于FHNN 相似日聚類自適應(yīng)權(quán)重的短期電力負荷組合預(yù)測[J]．電力系統(tǒng)自動化，2013，37(3)：54-57．

[6]DRAGOMIRETSKIY K, ZOSSO D. Variational mode decomposition[M]. IEEE, 2014.

[7]唐衍,顧潔,張宇俊,等.基于EMD理論的短期負荷預(yù)測[J].電力需求側(cè)管理,2011,13(1):15-19.

[8]湯慶峰,劉念,張建華,等.基于EMD-KELM-EKF與參數(shù)優(yōu)選的用戶側(cè)微電網(wǎng)短期負荷預(yù)測方法[J].電網(wǎng)技術(shù),2014,38(10):2691-2699.

[9]DRAGOMIRETSKIY K, ZOSSO D. Variational mode decomposition[J]．IEEE Transactions on Signal Processing，2013，62(3)：531-544．

[10]湯慶峰, 劉念, 張建華,等. 基于EMD-KELM-EKF與參數(shù)優(yōu)選的用戶側(cè)微電網(wǎng)短期負荷預(yù)測方法[J]. 電網(wǎng)技術(shù), 2014, 38(10):2691-2699.

[11]陳艷平, 毛弋, 陳萍,等. 基于EEMD-樣本熵和Elman神經(jīng)網(wǎng)絡(luò)的短期電力負荷預(yù)測[J]. 電力系統(tǒng)及其自動化學(xué)報, 2016, 28(3):59-64.