基于雙層優(yōu)化VMD-LSTM的農(nóng)村超短期電力負荷預(yù)測

王 俊，王繼燁，程 坤，方 均，鞠丹陽

（1.沈陽農(nóng)業(yè)大學(xué)信息與電氣工程學(xué)院，沈陽 110161；2.國網(wǎng)內(nèi)蒙古東部電力有限公司呼倫貝爾供電公司，內(nèi)蒙古 呼倫貝爾 162650）

農(nóng)村電網(wǎng)建設(shè)是國家農(nóng)村發(fā)展建設(shè)的重要一環(huán)，對鄉(xiāng)村振興起著重要的作用，電力負荷水平是其中一項重要指標，預(yù)測的精確度直接影響到對鄉(xiāng)村地區(qū)電力負荷水平的判斷，進而對之后的供電計劃產(chǎn)生深遠影響。超短期負荷預(yù)測一般用于在線監(jiān)測、事故預(yù)防及緊急事故處理等，精準的負荷預(yù)測對電網(wǎng)的穩(wěn)定運行及安全經(jīng)濟起著巨大的作用，電力負荷預(yù)測的準確性受到多個影響因素制約，得到精確預(yù)測結(jié)果相對困難，因此提升模型的預(yù)測準確性顯得尤為重要。負荷預(yù)測主要包括傳統(tǒng)預(yù)測和機器學(xué)習(xí)。傳統(tǒng)預(yù)測利用智能電表實時測量數(shù)據(jù)[1]進行建模，機器學(xué)習(xí)包括人工神經(jīng)網(wǎng)絡(luò)、支持向量機等，其中長短期記憶神經(jīng)網(wǎng)絡(luò)LSTM為代表的深度學(xué)習(xí)被廣泛運用。由于單一模型已經(jīng)難以滿足精度需要，大量學(xué)術(shù)文獻把研究方向集中在組合模型。LightGBM[2]、隨機森林[3]、誤差修正[4]、XGBoost[5]、word2vec[6]進行結(jié)合提高模型預(yù)測精度，為進一步完善預(yù)測模型，引入了卷積和注意力機制的概念[7-9]。隨著智能算法的成熟，越來越多學(xué)者通過模擬各生物的生活習(xí)性而創(chuàng)造出大量智能優(yōu)化算法并加入到負荷預(yù)測領(lǐng)域，如粒子群算法[10]、鯨魚算法[11]，通過計算機大量訓(xùn)練數(shù)據(jù)代替人工，避免了因經(jīng)驗造成的模型參數(shù)非最優(yōu)從而導(dǎo)致預(yù)測結(jié)果不夠精確。

除去預(yù)測模型本身優(yōu)化，數(shù)據(jù)集處理方面也很重要，常用方法有經(jīng)驗?zāi)B(tài)分解、變分模態(tài)分解、小波變換等。經(jīng)驗?zāi)B(tài)分解通過與貝葉斯[12]、PCA 主成分分析[13]、TCN 時域網(wǎng)絡(luò)[14]、ARIMA[15]進行組合預(yù)測，將數(shù)據(jù)集分解為模態(tài)分量而不需要提前分析研究，在此基礎(chǔ)上發(fā)展出的聚類經(jīng)驗?zāi)B(tài)分解[16]、CEEMDAN[17]、EEMD[18]可以在一定程度上進行優(yōu)化，但由于經(jīng)驗?zāi)B(tài)分解本身存在模態(tài)混疊和端點效應(yīng)，這種改進所取得效果比較有限。而變分模態(tài)分解可以有效避免這兩種問題，經(jīng)驗?zāi)B(tài)分解逐漸被取代為變分模態(tài)分解[19-24],變分模態(tài)將數(shù)據(jù)分解為模態(tài)分量通過VMD 將數(shù)據(jù)分解后進行重組，進一步提高了模型的精確度，但這兩者都沒有考慮到算法自身參數(shù)的最優(yōu)解問題，因此利用智能算法對VMD關(guān)鍵參數(shù)各模態(tài)初始中心約束強度（alpha）和模態(tài)個數(shù)（k）進行智能尋優(yōu)[25-28]，避免人為設(shè)置參數(shù)導(dǎo)致預(yù)測結(jié)果精度不夠的問題。將處理數(shù)據(jù)集、智能算法與預(yù)測模型進行結(jié)合[29-31]，充分利用各部分特點最大限度提高模型的訓(xùn)練效果與精確度。上述文獻充分說明了智能算法優(yōu)化VMD 及組合算法在電力負荷預(yù)測中的可行性。

在分析研究以上成果后，提出一種雙層優(yōu)化組合模型，一層麻雀算法優(yōu)化VMD，二層改進樽海鞘群算法優(yōu)化LSTM，數(shù)據(jù)集經(jīng)第一層分解為模態(tài)分量后分別帶入到二層模型訓(xùn)練，再進行疊加預(yù)測。通過實驗仿真，將最后的預(yù)測結(jié)果與基礎(chǔ)模型進行比較，并利用4種評價指標驗證其性能以及在農(nóng)村電力負荷預(yù)測方面的可行性。

1 麻雀算法優(yōu)化變分模態(tài)分解

1.1 標準變分模態(tài)分解（VMD）

2014年，DRAGOMIRETSKIY 提出了變分模態(tài)分解（variational mode decom position，VMD），該方法通過分量窄帶建立約束優(yōu)化問題估計各個信號分量，VMD 是一種比較完善、技術(shù)比較成熟的信號處理技術(shù)，能夠有效地克服傳統(tǒng)EMD、CEEMD 等算法在處理時存在的模式混淆、終端影響等問題，能夠得到更加穩(wěn)定的負荷數(shù)據(jù)。利用此技術(shù)，能夠盡量降低大多數(shù)噪聲，提高信號的平滑性，通過分解得到若干組模態(tài)分量。設(shè)定待處理信號原始負荷時序f(t) ，運用VMD 進行信號分解的約束表達式為：

式中分析了各模態(tài)成分的分布及中心頻率。其中，k為模態(tài)分解的次數(shù)，*為一個卷積運算符采用拉格朗日乘積算子，求解帶約束的變分問題。相反的情況下，包絡(luò)熵變得很低，公式變?yōu)椋?/p>

式中：λ為Lagrange 算子；α為二次懲罰因子。運用交替方向乘子ADMM 尋優(yōu)迭代后得到模態(tài)分量和中心頻率。交替尋優(yōu)后的uk、ωk、λ表達式為：

式中：γ為噪聲容忍度，、ui(ω)、f(ω)和λ(ω)進行傅里葉變換后可得到、ui(t)、f(t)、λ(t)。

1.2 麻雀算法優(yōu)化變分模態(tài)原理

VMD 和EMD 由于理論框架不同，二者存在諸多差異，VMD 有5 個參數(shù)，alpha 所代表的懲罰系數(shù)和k 所代表的分解個數(shù)對最終結(jié)果影響最大，采用麻雀算法同時搜尋alpha 和k。避免主觀因素對參數(shù)選取的影響，以包絡(luò)熵極小值作為適應(yīng)度函數(shù)，當IMF 中噪聲較多，特征信息較少時，包絡(luò)熵值較大，反之，則包絡(luò)熵值較小。

信號x(i)=i=1，2，…，N的包絡(luò)熵依據(jù)公式為：

式中：a(i)為VMD分解后的k個模態(tài)成分經(jīng)過Hibert解調(diào)所得的包絡(luò)熵，其中，對a(i)進行了標準化處理，N(i)是對a(i)進行了統(tǒng)計處理后獲得的一個概率分布，N(i)是抽樣點數(shù)目，對這些概率分布的一個序列進行了統(tǒng)計處理，將其作為一個包絡(luò)熵來求取。

圖1 麻雀算法優(yōu)化VMD流程Figure 1 Sparrow algorithm to optimize the VMD process

2 改進樽海鞘群算法（ASSSA）優(yōu)化LSTM模型

2.1 基本算法原理

樽海鞘群算法（salp swarm algorithm，SSA）是SEYEDALI 提出的一種智能優(yōu)化算法。該算法模擬了樽海鞘鏈的群體行為，初始化樽海鞘的值。

式中：N為樽海鞘種群的大?。籇為空間維度；lbj為每一維搜索空間下限；ubj為每一維搜索空間上限；i∈[1,2,…,N]；j∈[1,2,…,N]。

對每個樽海鞘個體按照目標函數(shù)計算適應(yīng)度值并排序，取最小值為全局最優(yōu)位置，即為食物源位置。

領(lǐng)導(dǎo)者的位置更新為：

式中：k為當前迭代次數(shù)；為第1個樽海鞘（領(lǐng)導(dǎo)者）在j維空間的位置。

Fj為食物源在第j維空間的位置，它是整個樽海鞘群搜索的目標，c2和c3為[0，1]之間的隨機數(shù)，c2決定在第j維空間移動的步長，c3確定了移動的正負方向，c1隨迭代次數(shù)的增加而非線性減小，c1是最重要的參數(shù)，定義如下：

式中：t為當前迭代次數(shù)；Tmax為種群最大迭代次數(shù)。

（1）樽海鞘追隨者的位置更新為：

式中：i≥2，為第i只樽海鞘在第j維的位置。

（2）計算更新后每只樽海鞘每一維適應(yīng)度值，若適應(yīng)度值小于食物源位置的適應(yīng)度值，則將此位置替換食物源位置。

（3）判斷是否滿足最大迭代數(shù)，若是滿足，則輸出結(jié)果，否則轉(zhuǎn)為步驟3繼續(xù)迭代，直到滿足條件為止。

2.2 改進的樽海鞘群算法

2.2.1 自適應(yīng)螺旋搜索策略 在SSA的領(lǐng)導(dǎo)者種群更新中，SSA在最優(yōu)個體周圍進行隨機位置更新，受金槍魚群算法螺旋覓食策略的啟發(fā)，將該螺旋覓食策略引入到SSA領(lǐng)導(dǎo)者位置更新中。SSA從原策略和螺旋覓食策略中隨機選擇一種策略對個體位置進行更新，避免其他個體陷入局部最優(yōu)。螺旋覓食策略具體為：

式中：a為一個常數(shù)，取值為0.7；b為一個0 到1 均勻分布的隨機數(shù)；為最優(yōu)個體或者在搜索空間中隨機生成的一個個體。全局探索階段，螺旋搜索策略需要搜索更廣泛的空間，因此為搜索空間中隨機生成的一個個體；在后期的局部開發(fā)階段，更多圍繞最優(yōu)個體進行螺旋搜索，因此取最優(yōu)個體的位置信息。個體在迭代時，會依照概率隨機選擇使用原始搜索策略或者螺旋搜索策略。

2.2.2 自適應(yīng)種群分布策略 自適應(yīng)種群分布策略公式為：

式中：c為控制領(lǐng)導(dǎo)者和跟隨者數(shù)量的比例系數(shù)。分析公式可知，Popleader的值隨迭代數(shù)的增大，領(lǐng)先者數(shù)目不斷減小，從隨者數(shù)目不斷增多。更多的“樽海鞘”跟隨者則深入到了最好的位置，同時為了保證算法后期仍有部分個體進行全局探索，因此，引入?yún)?shù)d，d為確保Popleader不為0的隨機數(shù)。

2.2.3 正弦慣性權(quán)重遞減策略 追隨者位置更新與當前個體和其前一個體位置有重大關(guān)系。但是，由于盲目跟隨的行為，只能單方面接受信息，因此，搜索效果會受到一定程度限制。

在此基礎(chǔ)上增加了正弦慣性權(quán)重遞減策略，具體公式為：

式中：ωmax為最大慣性權(quán)重；ωmin為最小慣性權(quán)重。

2.2.4 雙重反向?qū)W習(xí)策略 該方法可有效地避免陷入局部極值問題。具體公式為：

為了進一步增強種群多樣性，解決傳統(tǒng)反向?qū)W習(xí)方法產(chǎn)生的解不一定是最優(yōu)解問題，利用Tent混沌映射的隨機性、遍歷性，輔助產(chǎn)生新的解集。將Tent 的混沌映射與反向?qū)W習(xí)相結(jié)合，得到Tent 反向?qū)W習(xí)機制。具體數(shù)學(xué)模型描述為：

式中：k為透鏡成像縮放因子，k的取值影響反向解的生成質(zhì)量，k值越小，生成的反向解范圍越大；k值越大，能提供較小范圍的反向解，考慮到算法前期更多進行全局搜索，后期更多在局部位置。因此，提出一種動態(tài)調(diào)節(jié)的縮放因子公式：

雙重反向?qū)W習(xí)策略，其一是Tent逆向?qū)W習(xí)；其二是透鏡反向?qū)W習(xí)。該策略通過隨機產(chǎn)生[0，1]的隨機數(shù)與切換概率P比較大小，進而為算法選擇不同的反向?qū)W習(xí)策略。在文中，切換概率設(shè)為P=0.5。若rand

2.3 長短期記憶神經(jīng)網(wǎng)絡(luò)LSTM模型

LSTM 是一種以RNN 為基礎(chǔ)進行改進的循環(huán)神經(jīng)網(wǎng)絡(luò)，它通過遺忘門、輸入門和輸出門來刪除或添加“細胞狀態(tài)信息”，使其只保留重要信息，因此避免了RNN 中出現(xiàn)的梯度爆炸現(xiàn)象。相比于單一循環(huán)體結(jié)構(gòu)，LSTM 有3 個門：遺忘門、輸入門、輸出門。整體結(jié)構(gòu)如圖2。

圖2 LSTM結(jié)構(gòu)圖Figure 2 LSTM structure diagram

圖2 中：xt是t時刻的輸入數(shù)據(jù)，ct-1表示在t-1時刻的網(wǎng)絡(luò)細胞的記憶值，ht-1是t-1時刻LSTM模型的輸出值。t時刻模型輸出值分別為ct和ht。

遺忘門（ForgetGate）的作用是決定上一時刻的單元狀態(tài)ct-1有多少保留到當前時刻的單元狀態(tài)ct。輸入門（InputGate）決定的是當前時刻網(wǎng)絡(luò)的輸入xt有多少保存到單元狀態(tài)ct。輸出門（Output-Gate）的作用主要是為了控制長時記憶對當前輸出的影響，輸出門單元狀態(tài)將共同決定網(wǎng)絡(luò)模型最終的輸出結(jié)果。

2.4 改進的樽海鞘群算法優(yōu)化LSTM模型

由于LSTM模型里隱藏層神經(jīng)元個數(shù)、最大周期及學(xué)習(xí)率等參數(shù)都會對模型預(yù)測結(jié)果產(chǎn)生較大影響。因此，利用4種改進策略優(yōu)化原始算法的搜索方式、整體布局、跟進方式，通過反向解來解決最優(yōu)解問題，改進后的算法對神經(jīng)元個數(shù)、最大周期及學(xué)習(xí)率等參數(shù)進行智能迭代尋優(yōu)，基本流程如圖3。

圖3 改進樽海鞘群算法優(yōu)化LSTM參數(shù)Figure 3 Optimization of LSTM parameters by improved salp swarm algorithm

3 雙層優(yōu)化VMD-LSTM負荷預(yù)測模型

在第一層優(yōu)化模型里，SSA 可以模仿麻雀覓食和逃避捕獵者的行為，進而有效優(yōu)化模型參數(shù)。假定N個種群中，SSA算法可以在維度D上搜索出最佳解，并且可以根據(jù)發(fā)現(xiàn)者的位置更新，實現(xiàn)更加精確的搜索效果。發(fā)現(xiàn)者位置更新為：

加入者位置更新為：

偵察者位置更新為：

式中：β為步長控制參數(shù);K為[-1,1 ]的隨機數(shù)，表示麻雀移動方向；fi、fω、fg分別表示當前麻雀適應(yīng)度、最劣適應(yīng)度和最佳適應(yīng)度。

根據(jù)麻雀算法在尋優(yōu)上所具有的優(yōu)勢，將VMD 中兩個重要參數(shù)alpha 和k作為變量，其余參數(shù)由于對實驗結(jié)果影響不大設(shè)為固定參數(shù)，在尋優(yōu)完成后，所得出最優(yōu)麻雀位置即為最佳參數(shù)，再將此時的參數(shù)代回到變量中成為已知參數(shù)，新模型通過尋優(yōu)后的參數(shù)來分解數(shù)據(jù)集。再結(jié)合上文所提到的第二層模型來進行訓(xùn)練并做預(yù)測。

其主要流程為：（1）數(shù)據(jù)預(yù)處理，通過Person 系數(shù)進行特征篩選，保留p絕對值小于0.05 的強相關(guān)變量；（2）搭建第一層模型,對分解求出VMD 的兩個參量，并選擇出最優(yōu)的組合，代回到原模型；（3）SVMD 分解數(shù)據(jù)集，并將分解出來的imf分量采用ASSSA-LSTM 神經(jīng)網(wǎng)絡(luò)分別進行訓(xùn)練；（4）將訓(xùn)練好的imf分量分別預(yù)測，得到預(yù)測值P1、P2、…、Pn并將各模態(tài)分量疊加形成最終的預(yù)測結(jié)果；（5）評估預(yù)測結(jié)果。與真實電力負荷進行對比，通過相應(yīng)的評價指標評估模型實際預(yù)測效果，整體預(yù)測框架如圖4。

4 算例分析

本次試驗對遼寧省某市某鄉(xiāng)村10 kV 變壓器2020年7月1 日到7月10 日的變壓器歷史負荷和有關(guān)特性進行了分析。采用以15 min 為一個采樣點的21 維、3 456 條數(shù)據(jù)的電力變壓器的歷史負荷數(shù)據(jù)。影響負荷預(yù)測準確性的有時間、氣象等因素。時間方面，白天期間早晨和中午的時間段，夜間負荷會有差別。天氣變化也會影響負荷，比如雨雪天氣和晴天數(shù)據(jù)相差會比較大。由于各特征與負荷間存在相關(guān)性差異，為便于模型訓(xùn)練，對數(shù)據(jù)集進行特征篩選，采用皮爾森相關(guān)系數(shù)檢驗法，以熱力圖的形式表現(xiàn)出來，顯著性小于0.05為強相關(guān)特征（圖5），相關(guān)性系數(shù)絕對值越接近1則為強相關(guān)特征（圖6）。

圖5 皮爾遜相關(guān)性系數(shù)檢驗矩陣Figure 5 Pilson correlation coefficient test matrix

圖6 皮爾遜相關(guān)性分析系數(shù)矩陣Figure 6 Pilson correlation analysis coefficient matrix

圖中max和min分別代表該特征最大和最小值，可以很明顯看出時間、氣溫、相對濕度是對負荷影響較大的強相關(guān)特征，選取前10 d 的負荷數(shù)據(jù)，以前7 d 的數(shù)據(jù)作為訓(xùn)練后3 d 的數(shù)據(jù)作為驗證，設(shè)定步長為10。

4.1 麻雀算法的參數(shù)和優(yōu)化VMD效果

以包絡(luò)熵為適應(yīng)度函數(shù)，模態(tài)分解數(shù)和懲罰因子作為優(yōu)化參數(shù)，迭代次數(shù)初始設(shè)為100 次，總共實驗50 次。由于每次運行都在迭代次數(shù)為10 時趨于平穩(wěn)，故將迭代次數(shù)改為30，選取優(yōu)化效果最好的曲線如圖7~圖9。

圖7 適應(yīng)度值曲線圖Figure 7 Adapt ability value curve

圖8 模態(tài)分解數(shù)曲線圖Figure 8 Modal decomposition number curve

圖9 懲罰因子曲線圖Figure 9 Penalty factor curve

根據(jù)上文所述，麻雀最優(yōu)位置即為k、alpha 的值，試驗結(jié)果得出5 和1 715 為最優(yōu)解，此時將最優(yōu)解代入到SVMD 中可以分解得到圖10 的模態(tài)分量（intrinsic mode functions,IMF）。

圖10 各模態(tài)分量圖Figure 10 Diagram of each modal component

4.2 不同算法模型預(yù)測對比

為驗證SVMD-ASSSA-LSTM 模型的優(yōu)越性和改進樽海鞘群算法的有效性和麻雀算法優(yōu)化VMD參數(shù)的必要性，從而進一步說明所提出的方法對預(yù)測負荷有著明顯提升和改善，分別選用LSTM、PSO-LSTM、VMD-LSTM、SSA-LSTM 4 種基礎(chǔ)模型去做對比，預(yù)測結(jié)果采用RMSE、MAE、MAPE、R2指標進行對比驗證，函數(shù)表達式分別為：

式中：均方根誤差（RMSE）、平均絕對誤差（MAE）、平均絕對百分比誤差（MAPE）隨著數(shù)值減小，精確度增加。確定系數(shù)（R2）越大，精確度越高。yi為第i點的實際負荷值，y?i為第i點的預(yù)測負荷值，n為預(yù)測點個數(shù)。圖11為不同模型預(yù)測效果對比，表1為試驗結(jié)果數(shù)據(jù)對比。

表1 試驗結(jié)果對比Table 1 Experimental results comparison

圖11 4種指標對比Figure 11 Four indicators comparison

可以明顯看出，RMSE指標較對比新模型分別降低0.200 8，0.115，0.202 8，0.070 3，MAE降低0.133 1，0.100 6，0.147 2，0.052 1，MAPE降低2.656 1%，1.867 9%，2.512 5%，0.631 5%，R2增加0.04 4，0.02 1，0.05 1，0.01 2，為驗證新模型泛化性，將雙層優(yōu)化應(yīng)用于LSSVM 模型和GRU 模型，結(jié)果如圖12。

圖12 模型驗證結(jié)果Figure 12 Model verification results

試驗結(jié)果再次證明（表2），模型具有泛化性的特點。有效驗證了改進樽海鞘群優(yōu)化算法的優(yōu)越性和VMD 參數(shù)智能尋優(yōu)的可靠性以及融合策略的有效性，可針對農(nóng)村地區(qū)負荷情況進行精確預(yù)測。

表2 兩種模型驗證結(jié)果Table 2 Two model verification results

5 結(jié)論

本研究結(jié)果表明，利用麻雀算法智能尋優(yōu)的特點找出了VMD 的兩個最優(yōu)參數(shù)，有效提升了算法性能和預(yù)測結(jié)果精度。在標準樽海鞘群算法的基礎(chǔ)上進了4 點改進，使基礎(chǔ)模型有了更好的尋優(yōu)和收斂效果，可以高效找到LSTM 模型的最優(yōu)參數(shù)，進行更精準的預(yù)測。兩種優(yōu)化模型結(jié)合后形成的SVMD-ASSSA-LSTM 模型相比于基礎(chǔ)預(yù)測模型收斂速度更快，精度更高，預(yù)測效果更加穩(wěn)定，對供電公司用電規(guī)劃及未來農(nóng)村電力發(fā)展建設(shè)也會起著更重要的作用。