基于ISSA-BiGRU-Attention的短期電力負(fù)荷預(yù)測(cè)研究

沈夢(mèng)燕，韋文山，榮 新

（廣西民族大學(xué)電子信息學(xué)院，南寧 530006）

0 引言

精確的短期電力負(fù)荷預(yù)測(cè)為保證電力系統(tǒng)的平穩(wěn)工作和電力負(fù)荷管理工作提供了保障。目前，針對(duì)短期電力負(fù)荷預(yù)測(cè)，已有的前饋神經(jīng)網(wǎng)絡(luò)（BP）［1］較物理統(tǒng)計(jì)方法和單一機(jī)器學(xué)習(xí)模型在預(yù)測(cè)結(jié)果的準(zhǔn)確度上有所提高，但是對(duì)輸入數(shù)據(jù)進(jìn)行提取時(shí)易丟失時(shí)序信息。循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）［2］較BP而言能夠更好地把控輸入信息的時(shí)序性，但對(duì)于輸入的長(zhǎng)序列信息的處理仍然效果不佳。長(zhǎng)短期記憶網(wǎng)絡(luò)（LSTM）［3］通過(guò)引入門控機(jī)制改善RNN的上述問(wèn)題，但其在處理高維長(zhǎng)數(shù)據(jù)時(shí)［4］，存在訓(xùn)練效率較低的問(wèn)題。

此外，單一的循環(huán)神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型效果易受到模型中參數(shù)的影響，而通過(guò)經(jīng)驗(yàn)選擇的參數(shù)會(huì)造成模擬訓(xùn)練效率的不平衡,從而大大降低了預(yù)測(cè)準(zhǔn)確度。通過(guò)引入智能優(yōu)化算法選取神經(jīng)網(wǎng)絡(luò)模型中的最優(yōu)參數(shù)進(jìn)行改進(jìn)，雖然較單一模型的預(yù)測(cè)精度有所提高，但由于其存在的搜索算法的缺陷問(wèn)題無(wú)法得到解決，所求最優(yōu)解的精度往往會(huì)受到影響。

綜上所述，文中在現(xiàn)有電力負(fù)荷預(yù)測(cè)模型的基礎(chǔ)上提出如下改進(jìn)方案：

（1）在BiGRU神經(jīng)網(wǎng)絡(luò)中引入注意力機(jī)制，加強(qiáng)重要輸入特征的影響；

（2）對(duì)麻雀算法的發(fā)現(xiàn)者和跟隨者位置更新方式進(jìn)行優(yōu)化，同時(shí)引入精英反向?qū)W習(xí)策略提升算法的搜索能力；

（3）利用改進(jìn)后的麻雀算法獲取的超參數(shù)對(duì)BiGRU進(jìn)行建模優(yōu)化，提高模型預(yù)測(cè)精度。

1 改進(jìn)麻雀算法

1.1 改進(jìn)的正余弦算法

標(biāo)準(zhǔn)麻雀搜索算法（SSA）中麻雀?jìng)€(gè)體在迭代過(guò)程中逐漸聚集，搜索空間逐漸減小，存在陷入局部極值的可能性。針對(duì)此問(wèn)題，文中在SSA發(fā)現(xiàn)者位置更新方式中引入正弦余弦算法（SCA）,SCA依賴正余弦函數(shù)的振蕩特性尋找最優(yōu)解，最終于最優(yōu)解或其附近位置處收斂。在SCA中，引入非線性余弦調(diào)整因子和柯西變異算子如式（1），較原SCA算法搜索因子呈線性遞減趨勢(shì)而言，進(jìn)一步平衡了整個(gè)搜索過(guò)程的全局尋優(yōu)和局部探索能力。

式（1）中，a=2，前期算法運(yùn)行時(shí)，r1'> 1，賦予搜索因子較大的權(quán)重值，且遞減速度較慢，使算法的全局搜索性能得到提高；后期算法尋優(yōu)過(guò)程中，r1'< 1，則增強(qiáng)了算法的局部開(kāi)發(fā)能力，r1'的非線性遞減變化過(guò)程，加快了算法的尋優(yōu)速度。

考慮在麻雀算法整個(gè)種群搜索過(guò)程中，種群個(gè)體位置更新依賴于當(dāng)前個(gè)體位置，所以引入式（2）非線性反正弦調(diào)整因子w調(diào)節(jié)種群搜索過(guò)程中個(gè)體對(duì)當(dāng)前位置的依賴程度，前期算法運(yùn)行時(shí)，w緩慢遞增，較小的權(quán)重降低了對(duì)當(dāng)前個(gè)體位置的依賴程度，提高了算法的全局搜索能力；在后期尋優(yōu)過(guò)程中，w則快速增加，較大的權(quán)重增強(qiáng)了對(duì)當(dāng)前個(gè)體位置的依賴程度，有利于局部尋優(yōu)，加快收斂速度。

圖1 調(diào)整因子動(dòng)態(tài)變化曲線

改進(jìn)后的發(fā)現(xiàn)者位置更新公式如下：

1.2 Levy飛行與T分布擾動(dòng)

標(biāo)準(zhǔn)的SSA算法中的加入者在向最優(yōu)區(qū)域位置移動(dòng)時(shí)，易發(fā)生群體在極短時(shí)間內(nèi)快速聚集的情形，盡管可以獲得快速收斂的效應(yīng)，但由于群體的復(fù)雜性驟降，使得算法陷入局部最優(yōu)的機(jī)率大增。所以，為了更好地改善算法的搜索尋優(yōu)性能，文中采用動(dòng)態(tài)的選擇策略調(diào)整更新加入者位置，即Levy飛行策略和T分布算子擾動(dòng)策略在一定概率下交互進(jìn)行，動(dòng)態(tài)更新加入者位置。Levy飛行策略中［5］，通過(guò)產(chǎn)生隨機(jī)步長(zhǎng)，可以提高算法的全局搜索能力，從而增加算法的多樣性。T分布的變異策略中，通過(guò)使用T分布變異算子對(duì)加入者的位置加以擾動(dòng)，從而提高了局部搜索性能，降低了算法陷入局部最優(yōu)解的概率。改進(jìn)后的發(fā)現(xiàn)者位置更新公式如下：

式（4）中，i≥n/2。至于采用什么選擇策略進(jìn)行目標(biāo)位置更新，則根據(jù)其選擇概率P確定，其計(jì)算公式如下：

1.3精英反向?qū)W習(xí)策略

為了提高麻雀算法的尋優(yōu)速度，并避免算法的“早熟”情形，在每次的種群迭代過(guò)程中引入精英反向?qū)W習(xí)機(jī)制。反向?qū)W習(xí)（Oppositionbased Learning, OBL）方法使用了雙向評(píng)價(jià)標(biāo)準(zhǔn)，在每一次迭代時(shí)除了評(píng)估當(dāng)次的最優(yōu)候選解，同時(shí)還要將該候選解在反方向的解加以評(píng)價(jià)，進(jìn)而在當(dāng)前解與反向解之間擇優(yōu)評(píng)估最佳的解，作為下一代候選解［6］。研究人員證實(shí)，反向解法比當(dāng)前解接近全局最優(yōu)預(yù)測(cè)解的幾率多了百分之五十。因此使用反向?qū)W習(xí)可以極大增加算法尋找到全局最優(yōu)預(yù)測(cè)解的幾率［7］。

在麻雀種群位置更新后，選取適應(yīng)度值排名前10%的麻雀?jìng)€(gè)體，同時(shí)獲取其動(dòng)態(tài)邊界，利用反向?qū)W習(xí)策略求解反向解，對(duì)比更新前后麻雀，如果更優(yōu)則替代之前的麻雀。

2 短期電力負(fù)荷預(yù)測(cè)模型

本文模型中改進(jìn)的麻雀算法主要優(yōu)化BiGRU-Attention中的學(xué)習(xí)率、迭代次數(shù)、隱藏神經(jīng)元的個(gè)數(shù)L1、L2四個(gè)參數(shù)，以預(yù)測(cè)值和真實(shí)值的均方差為適應(yīng)度函數(shù)，在適應(yīng)度值最小的情況下得到最優(yōu)參數(shù)，并使用最優(yōu)參數(shù)對(duì)電力負(fù)荷進(jìn)行短期預(yù)測(cè)。文中提出的模型結(jié)構(gòu)如圖2所示。

圖2 ISSA-BiGRU-Attention預(yù)測(cè)流程圖

3 仿真結(jié)果分析

采用電工杯數(shù)據(jù)集2012年1月1日至2012年12月31日共12個(gè)月的電力負(fù)荷數(shù)據(jù)對(duì)模型進(jìn)行實(shí)驗(yàn)。其中包括天氣因素和一天96個(gè)時(shí)刻的電力負(fù)荷值，訓(xùn)練集為前11個(gè)月，最后1個(gè)月作為測(cè)試集。以第T-1天和第T天的平均溫度、最高溫度、最低溫度、相對(duì)濕度和降雨量等氣候特征以及第T-1天的96個(gè)電力負(fù)荷值作為輸入，對(duì)第T天的96個(gè)時(shí)刻的電力負(fù)荷值進(jìn)行預(yù)測(cè)。

文中通過(guò)min-max歸一化方法對(duì)負(fù)荷數(shù)據(jù)進(jìn)行處理，為了評(píng)估模型預(yù)測(cè)的精度，選取均方根誤差RMSE、平均絕對(duì)百分誤差MAPE、平均絕對(duì)誤差MAE、決定系數(shù)R2作為評(píng)價(jià)標(biāo)準(zhǔn)。為了驗(yàn)證文中提出的預(yù)測(cè)模型在電力負(fù)荷預(yù)測(cè)精度方面的優(yōu)勢(shì)，采用BP、RNN、LSTM、SSA-BiGRU-Attention等四種模型作為對(duì)比。

各模型的預(yù)測(cè)結(jié)果誤差指標(biāo)如表1所示，從表1可以看出，文中提出的ISSA-BiGRUAttention模型的預(yù)測(cè)精度更高，R2達(dá)到了97.61%，MAPE較其他四種方法分別降低了5.81%、5.63%、1.74%、0.78%；RMSE分別降低了509.4、420.39、175.37、58.94；MAE分別降低了363.31、331.75、105.44、44.2。

表1 各預(yù)測(cè)模型誤差指標(biāo)對(duì)比

圖3為2012年12月2日的真實(shí)值和不同模型預(yù)測(cè)值的曲線對(duì)比圖，由圖3可知，相較于其他模型，本文所提模型能夠更加平穩(wěn)地預(yù)測(cè)負(fù)荷數(shù)據(jù)的變化，在負(fù)荷數(shù)據(jù)劇烈波動(dòng)的時(shí)刻也保證了曲線的平滑度。

圖3 12月2日幾種模型預(yù)測(cè)結(jié)果對(duì)比

4 結(jié)語(yǔ)

本文提出了一種改進(jìn)麻雀算法優(yōu)化的雙向門控循環(huán)單元模型。該方法通過(guò)改進(jìn)的麻雀算法優(yōu)化BiGRU網(wǎng)絡(luò)的參數(shù)，并在模型中引入注意力機(jī)制，加強(qiáng)輸入特征提取的高效性。將ISSA-BiGRU-Attention模型應(yīng)用于短期電力負(fù)荷預(yù)測(cè)，算例分析結(jié)果也進(jìn)一步表明了該模型相較于SSA-BiGRU模型和未引入注意力機(jī)制的相關(guān)模型在預(yù)測(cè)精度和穩(wěn)定性上有所提升。