摘 要:為有效分析與利用光伏功率預(yù)測(cè)模型中以特定規(guī)律分布的預(yù)測(cè)誤差,提出基于LSTM-Attention和CNN-BiGRU誤差修正的光伏功率預(yù)測(cè)模型。首先,引入注意力機(jī)制(Attention)彌補(bǔ)輸入序列長(zhǎng)時(shí)長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)難以保留關(guān)鍵信息的不足,建立LSTM-Attention的預(yù)測(cè)模型對(duì)光伏功率進(jìn)行初步預(yù)測(cè)。其次,將卷積神經(jīng)網(wǎng)絡(luò)(CNN)在非線性特征提取上的優(yōu)勢(shì)與雙向門(mén)控循環(huán)單元(BiGRU)在防止多種特征相互干擾的優(yōu)勢(shì)相結(jié)合,搭建CNN-BiGRU誤差預(yù)測(cè)模型對(duì)可能產(chǎn)生的誤差進(jìn)行預(yù)測(cè),從而對(duì)初步預(yù)測(cè)結(jié)果進(jìn)行修正。經(jīng)過(guò)實(shí)例分析表明:與未經(jīng)誤差修正的預(yù)測(cè)結(jié)果進(jìn)行對(duì)比,經(jīng)CNN-BiGRU誤差預(yù)測(cè)模型進(jìn)行誤差修正后在不同天氣類(lèi)型中均能有效提高預(yù)測(cè)精度。
關(guān)鍵詞:光伏功率預(yù)測(cè);深度學(xué)習(xí);誤差修正;注意力機(jī)制;長(zhǎng)短期神經(jīng)網(wǎng)絡(luò);雙向門(mén)控循環(huán)單元
中圖分類(lèi)號(hào):M615 " " " " " " "文獻(xiàn)標(biāo)志碼:A
0 引 言
太陽(yáng)能發(fā)電作為新型發(fā)電方式得到廣泛應(yīng)用[1]。由于光伏發(fā)電固有的不確定性和不穩(wěn)定性等特征將嚴(yán)重威脅電力系統(tǒng)的安全性、穩(wěn)定性及可靠性,因此準(zhǔn)確預(yù)測(cè)光伏電站發(fā)電功率對(duì)電網(wǎng)運(yùn)行計(jì)劃調(diào)整與優(yōu)化至關(guān)重要[2-3]。
物理方法[4]和元啟發(fā)式學(xué)習(xí)方法等[5]是光伏功率預(yù)測(cè)常用方法。物理模型將光伏電場(chǎng)站的有關(guān)地形環(huán)境信息、地理位置坐標(biāo)以及光電場(chǎng)站的功率引入到一個(gè)物理公式中進(jìn)行預(yù)測(cè),但模型繁瑣,無(wú)法準(zhǔn)確模擬太陽(yáng)輻照度及組件在某些極端天氣下的參數(shù)變化,抗沖擊能力弱,不具備推廣能力[6]。
元啟發(fā)式學(xué)習(xí)方法是一種基于啟發(fā)式算法的機(jī)器學(xué)習(xí)方法,它通過(guò)將啟發(fā)式算法與機(jī)器學(xué)習(xí)算法相結(jié)合,來(lái)解決復(fù)雜的優(yōu)化問(wèn)題[7]。常用方法包括遺傳算法、人工神經(jīng)網(wǎng)絡(luò)等方法[8-10]。其中長(zhǎng)短期記憶網(wǎng)絡(luò)(long short-term memory, LSTM)在時(shí)序數(shù)據(jù)預(yù)測(cè)方面具有較好的效果,近年來(lái)得到廣泛應(yīng)用[11]。文獻(xiàn)[12]提出基于混合數(shù)據(jù)驅(qū)動(dòng)模型的新型預(yù)測(cè)方法,將支持向量機(jī)和人工神經(jīng)網(wǎng)絡(luò)相結(jié)合,并引入不同的元啟發(fā)式優(yōu)化算法優(yōu)化支持向量回歸(support vector regression, SVR)和人工神經(jīng)網(wǎng)絡(luò)(artificial neural network, ANN)的超參數(shù),提高了模型在未適當(dāng)調(diào)優(yōu)的情況下的預(yù)測(cè)精度;文獻(xiàn)[13]將注意力機(jī)制與LSTM相結(jié)合,彌補(bǔ)了LSTM輸入序列較長(zhǎng)時(shí)易忽略重要時(shí)序信息的問(wèn)題,通過(guò)構(gòu)建組合模型將多個(gè)模型的優(yōu)勢(shì)相結(jié)合提高了預(yù)測(cè)精度;文獻(xiàn)[14]在此基礎(chǔ)上,針對(duì)極端天氣歷史數(shù)據(jù)量匱乏導(dǎo)致預(yù)測(cè)精度低的問(wèn)題,用改進(jìn)的生成對(duì)抗網(wǎng)絡(luò)對(duì)極端天氣的訓(xùn)練集數(shù)據(jù)進(jìn)行擴(kuò)充,有效提高了預(yù)測(cè)精度。
上述研究都是從預(yù)測(cè)模型的角度入手提高預(yù)測(cè)精度,另外有學(xué)者則從預(yù)測(cè)誤差角度著手考慮進(jìn)一步提升預(yù)測(cè)精度。文獻(xiàn)[15]將光伏功率分解成一系列子模態(tài)后進(jìn)行預(yù)測(cè),并用最小二乘支持向量機(jī)預(yù)測(cè)進(jìn)行誤差預(yù)測(cè)并對(duì)初始預(yù)測(cè)值進(jìn)行補(bǔ)償,提高了不同天氣類(lèi)型下光伏功率預(yù)測(cè)的準(zhǔn)確性;文獻(xiàn)[16]針對(duì)預(yù)測(cè)誤差尖峰輕尾的統(tǒng)計(jì)特性,將功率的預(yù)測(cè)誤差進(jìn)行分層操作,根據(jù)不同層級(jí)預(yù)測(cè)誤差給予合適的處理方案;文獻(xiàn)[17]利用極限梯度提升(extreme gradient boosting,XGBoost)算法將誤差劃分為低、中、高3類(lèi)誤差,最后將模型的與預(yù)測(cè)結(jié)果與功率誤差預(yù)測(cè)值相加得到最終預(yù)測(cè)值。
預(yù)測(cè)模型誤差中不僅包含隨機(jī)誤差,也包含了基于模型原理而帶來(lái)的固有誤差,而此類(lèi)誤差分布則存在一定規(guī)律。為有效解決上述問(wèn)題,本文建立基于LSTM-Attention和CNN-BiGRU誤差修正的光伏功率預(yù)測(cè)模型。首先,搭建LSTM-Attention功率預(yù)測(cè)模型對(duì)光伏功率進(jìn)行初步預(yù)測(cè),引入注意力機(jī)制彌補(bǔ)LSTM輸入序列較長(zhǎng)時(shí)易忽略重要時(shí)序信息的問(wèn)題;其次,將卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network, CNN)在非線性特征提取上的優(yōu)勢(shì)與雙向門(mén)控循環(huán)單元(Bidirectional gated recurrent unit, BiGRU)在解決多種特征相互干擾問(wèn)題的能力相結(jié)合,搭建CNN-BiGRU誤差預(yù)測(cè)模型對(duì)誤差進(jìn)行預(yù)測(cè),從而修正初步預(yù)測(cè)結(jié)果。通過(guò)與未經(jīng)誤差修正的預(yù)測(cè)結(jié)果對(duì)比,驗(yàn)證了本文所提方法的有效性。
1 數(shù)據(jù)預(yù)處理
由于光伏電場(chǎng)的天氣因素、設(shè)備故障、網(wǎng)絡(luò)波動(dòng)、電網(wǎng)限電等原因,導(dǎo)致收集光伏實(shí)測(cè)數(shù)據(jù)存在缺失值以及異常值[18]。拉依達(dá)準(zhǔn)則(3σ)作為計(jì)算簡(jiǎn)單、適用廣泛的質(zhì)量控制方法,常用于光伏和風(fēng)功率數(shù)據(jù)清洗[19]。通過(guò)3σ準(zhǔn)則對(duì)異常數(shù)據(jù)進(jìn)行識(shí)別,然后采用線性插值法填補(bǔ)剔除的異常數(shù)據(jù)。3σ準(zhǔn)則計(jì)算方法如式(1)、式(2)所示。
[?=1p-1i=1p(Xi-Xi)2] (1)
[X-X>3?] (2)
式中:[X=[X1,X2,…,Xq]s]——光伏數(shù)據(jù)特征值;[X=[X1,X2,…,][Xq]]——光伏數(shù)據(jù)特征平均值;[?=[?1,?2,…,?q]]——特征標(biāo)準(zhǔn)差;[q]——數(shù)據(jù)特征維度;[p]——數(shù)據(jù)樣本量。
為消除不同特征之間因量綱不同對(duì)預(yù)測(cè)過(guò)程的影響,進(jìn)而提高模型的準(zhǔn)確性和穩(wěn)定性,對(duì)數(shù)據(jù)歸一化處理,歸一化公式為:
[x=x*-x*minx*max-x*min] (3)
式中:[x*]——輸入數(shù)據(jù); [x*max]——輸入最大值;[x*min]——輸入最小值;[x]——?dú)w一化后數(shù)據(jù)。
2 相關(guān)方法和理論
2.1 LSTM理論
LSTM通過(guò)引入輸入門(mén)、遺忘門(mén)和輸出門(mén)可實(shí)現(xiàn)對(duì)時(shí)序數(shù)據(jù)的有效建模和預(yù)測(cè),并在一定程度上緩解了模型梯度消失和梯度爆炸的問(wèn)題[20]。LSTM拓?fù)浣Y(jié)構(gòu)如圖1所示。遺忘門(mén)用ft表示,主要作用是控制哪些信息需被遺忘。輸入門(mén)用it表示,主要作用是控制哪些新信息需被加入到記憶細(xì)胞中。輸出門(mén)用Ot表示,主要作用是控制輸出隱藏狀態(tài)向量。計(jì)算公式如式(4)~式(9)所示。
[ft=σ(Wf[ht-1,xt]+bf)] (4)
[it=σ(Wi[ht-1,xt]+bi)] (5)
[Ot=σ(Wo[ht-1,xt]+bo)] (6)
[Ct=tanh(Wc[ht-1,xt]+bc)] (7)
[Ct=ft⊙Ct-1+it⊙Ct] (8)
[ht=Ot⊙tanh(Ct)] (9)
式中:[xt]——輸入序列第[t]個(gè)時(shí)間步的輸入;[ht]——第[t]個(gè)時(shí)間步的隱藏狀態(tài); [Ct]——第[t]個(gè)時(shí)間步候選單元狀態(tài); [Ct]——第[t]個(gè)時(shí)間步更新細(xì)胞狀態(tài);[Wf]、[Wi]、[Wo]、[Wc]——各模塊對(duì)應(yīng)的權(quán)值矩陣;[bf]、[bi]、[bo]、[bc]——各模塊對(duì)應(yīng)的偏置矩陣; [σ]——Sigmoid激活函數(shù); [⊙]——Hadamard積。
2.2 Attention機(jī)制
Attention機(jī)制是一種用于增強(qiáng)神經(jīng)網(wǎng)絡(luò)對(duì)輸入數(shù)據(jù)關(guān)注和處理的技術(shù),其基本原理是通過(guò)計(jì)算每個(gè)輸入位置的權(quán)重,從而使模型更加關(guān)注這些位置的信息。注意力機(jī)制對(duì)于權(quán)重值的計(jì)算,通常是通過(guò)引入評(píng)分函數(shù),計(jì)算隱含層輸出數(shù)據(jù)與中間狀態(tài)的特征向量的相似度,評(píng)分函數(shù)與相關(guān)度呈正相關(guān),相關(guān)度越小則計(jì)算出的評(píng)分函數(shù)越小,反之亦然。使用Softmax函數(shù)將相似度轉(zhuǎn)換為概率分布,然后將值向量按概率分布進(jìn)行加權(quán)和,得到最終的權(quán)重值。
2.3 CNN理論
CNN是一種前饋神經(jīng)網(wǎng)絡(luò),主要用于圖像、語(yǔ)音和自然語(yǔ)言處理等領(lǐng)域。其具有自動(dòng)特征提取、平移不變性、共享權(quán)重、處理大規(guī)模數(shù)據(jù)和遷移學(xué)習(xí)等優(yōu)點(diǎn),通過(guò)使用卷積操作可提取輸入數(shù)據(jù)中的局部特征[21]。CNN網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示。輸入層接收原始數(shù)據(jù),卷積層通過(guò)卷積操作提取特征,池化層通過(guò)降采樣操作減少特征圖的維度,全連接層通過(guò)多層感知器實(shí)現(xiàn)分類(lèi)或回歸任務(wù),輸出層輸出預(yù)測(cè)結(jié)果。
2.4 BiGRU理論
門(mén)控循環(huán)單元神經(jīng)網(wǎng)絡(luò)(gated recurrent unit,GRU)是基于LSTM思想進(jìn)行改進(jìn),在減少模型參數(shù)量的同時(shí)提高了訓(xùn)練效率[22]。在某些較小的數(shù)據(jù)集上,GRU相比于LSTM表現(xiàn)出更好的性能。GRU的基本結(jié)構(gòu)包括重置門(mén)和更新門(mén),通過(guò)非線性變換控制了隱藏狀態(tài)的更新和使用。GRU模型的網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示。計(jì)算公式如式(10)~式(13)所示。
[rt=σWrxt+Urht-1+br] (10)
[zt=σWzxt+Uzht-1+bz] (11)
[h*t=tanhWhxt+rtUht-1+bh] (12)
[ht=(1-zt)h*t+ztht-1] (13)
式中:[rt]——重置門(mén);[zt]——更新門(mén); tanh——雙曲正切激活函數(shù);[ht]——第[t]個(gè)時(shí)間步候選隱藏狀態(tài);[Wr]、[Wz]、[Wh]——各模塊對(duì)應(yīng)的權(quán)值矩陣;[br]、[bz]、[bh]——各模塊對(duì)應(yīng)的偏置矩陣。
BiGRU是一種結(jié)合了雙向RNN和GRU的神經(jīng)網(wǎng)絡(luò)模型。與傳統(tǒng)的RNN相比,GRU可更好地解決梯度消失和爆炸的問(wèn)題,同時(shí)還能捕捉到長(zhǎng)序列的依賴關(guān)系。而雙向RNN可同時(shí)考慮過(guò)去和未來(lái)的輸入,更好地處理序列數(shù)據(jù)。BiGRU在處理序列數(shù)據(jù)時(shí),首先將輸入序列分別由前向和后向的兩個(gè)GRU網(wǎng)絡(luò)處理,然后將兩個(gè)網(wǎng)絡(luò)的輸出進(jìn)行拼接,得到最終的輸出結(jié)果。BiGRU能同時(shí)考慮過(guò)去和未來(lái)的信息,更好地捕捉序列中的依賴關(guān)系。光伏功率的變化往往會(huì)受到多種氣象特征以及外部條件等因素的影響。因此,采用BiGRU模型解決影響因素相互干擾的問(wèn)題,將使得模型誤差的預(yù)測(cè)效果更佳。BiGRU的結(jié)構(gòu)如圖4所示。
3 基于誤差修正的光伏功率預(yù)測(cè)模型
為有效分析與利用光伏功率預(yù)測(cè)模型中以特定規(guī)律分布的預(yù)測(cè)誤差,提出基于LSTM-Attention和CNN-BiGRU誤差修正的光伏功率預(yù)測(cè)模型。在傳統(tǒng)LSTM網(wǎng)絡(luò)中,不同重要程度的特征數(shù)據(jù)被賦予相同權(quán)重,受限于遺忘門(mén)的存在,部分關(guān)鍵信息在學(xué)習(xí)過(guò)程中被丟棄,從而影響模型預(yù)測(cè)準(zhǔn)確性;注意力機(jī)制的加入增強(qiáng)了重要特征的權(quán)重,避免了重要信息的丟失,從而增強(qiáng)模型對(duì)信息的提取能力與選擇能力。因此,將LSTM和Attention機(jī)制相結(jié)合來(lái)達(dá)到提高預(yù)測(cè)精度的目的。
首先,利用LSTM-Attention模型進(jìn)行預(yù)測(cè)得到初步預(yù)測(cè)值。其次,將CNN和BiGRU相結(jié)合構(gòu)成誤差修正模型進(jìn)行誤差預(yù)測(cè)。最后,通過(guò)疊加誤差預(yù)測(cè)值及原功率預(yù)測(cè)結(jié)果以求得最終預(yù)測(cè)結(jié)果?;谡`差修正的光伏功率預(yù)測(cè)流程如圖5所示。
LSTM-Attention模型結(jié)構(gòu)如圖6所示。LSTM獲得輸入的光伏數(shù)據(jù)后,利用其隱含層計(jì)算獲得氣象數(shù)據(jù)中間狀態(tài),隨后采用函數(shù)[scoreht,j,ht]求解特征向量[ht,j]與隱藏狀態(tài)[ht]相似度。其計(jì)算方法為:
[scoreht,i,ht=WshTt+bs] (14)
式中:[Ws]——全連接層權(quán)值矩陣;[bs]——偏置向量值; [hTt]——隱藏狀態(tài)[ht]轉(zhuǎn)置;[scoreht,j,ht]——[hi,j]與[ht]的相關(guān)性。
通常, Softmax函數(shù)用來(lái)求解隱藏層向量注意力權(quán)重[αi],經(jīng)過(guò)與[hi,j]加權(quán)求和即可求得注意力層輸出[h*t],[αi]、[h*t],其計(jì)算方法如式(15)、式(16)所示。
[αi=expscoreht,i,htj=1τexpscoreht,j,ht] (15)
[h*t=i=1ταiht,i] (16)
式中:[t]——全連接層輸出節(jié)點(diǎn)。
在采用人工智能算法進(jìn)行的光伏發(fā)電預(yù)測(cè)中,許多因素會(huì)造成預(yù)測(cè)誤差,進(jìn)而影響模型預(yù)測(cè)的精度。對(duì)這些誤差進(jìn)行分析并進(jìn)行誤差修正,是一種非常有效提高預(yù)測(cè)準(zhǔn)確率的途徑。誤差修正方法是指經(jīng)預(yù)測(cè)模型得到預(yù)測(cè)值之后得到預(yù)測(cè)誤差。將得出的誤差按時(shí)間序列進(jìn)行排序,并將之作為新的特征序列。將氣象特征和預(yù)測(cè)的輸出功率一起輸入到合適的預(yù)測(cè)模型進(jìn)行訓(xùn)練,其輸出為預(yù)測(cè)誤差。最后,最終預(yù)測(cè)值為預(yù)測(cè)誤差和預(yù)測(cè)輸出功率之和。
為了使功率預(yù)測(cè)模型能得到充分訓(xùn)練,將歷史光伏數(shù)據(jù)按5∶4∶1分成訓(xùn)練集a、訓(xùn)練集b和驗(yàn)證集c。訓(xùn)練集a用來(lái)訓(xùn)練LSTM-Attention功率預(yù)測(cè)模型,將訓(xùn)練集b輸入到訓(xùn)練好的光伏功率預(yù)測(cè)模型得到功率預(yù)測(cè)值[y′b(t)]。通過(guò)光伏功率預(yù)測(cè)誤差公式計(jì)算得到訓(xùn)練集b的誤差序列[eb(t)],進(jìn)而訓(xùn)練得到誤差預(yù)測(cè)模型。用驗(yàn)證集c對(duì)訓(xùn)練好的模型進(jìn)行驗(yàn)證,將驗(yàn)證集c分別輸入到光伏功率預(yù)測(cè)模型和誤差預(yù)測(cè)模型,得到功率預(yù)測(cè)值[y′c][(t)]和誤差預(yù)測(cè)值[e′c(t)],利用[e′c(t)]修正功率預(yù)測(cè)值即可得到最終預(yù)測(cè)值[y″c(t)],其修正流程如圖7所示。光伏功率預(yù)測(cè)誤差公式為:
[e=y′-y] (17)
式中:[e]——功率預(yù)測(cè)值誤差;[y′]——功率預(yù)測(cè)值;[y]——功率真實(shí)值。
根據(jù)CNN-BiGRU原理建立光伏功率誤差預(yù)測(cè)模型,計(jì)算公式為:
[e′(t)=f[e(t-T),e(t-2T),…,e(t-nT)]] (18)
式中:[e′]——誤差預(yù)測(cè)模型預(yù)測(cè)的功率誤差值;[T]——預(yù)測(cè)時(shí)間尺度。
通過(guò)誤差預(yù)測(cè)值對(duì)光伏功率預(yù)測(cè)值進(jìn)行修正,計(jì)算公式為:
[y″=y′+e′] (19)
式中:[y″]——功率預(yù)測(cè)修正值。
GRU是LSTM網(wǎng)絡(luò)的一種效果很好的變體,其只有兩個(gè)門(mén)控單元,因此計(jì)算量比LSTM更小。當(dāng)數(shù)據(jù)集較少時(shí),使用GRU模型進(jìn)行預(yù)測(cè)可獲得更高的準(zhǔn)確率。在訓(xùn)練誤差預(yù)測(cè)模型時(shí),訓(xùn)練集b的數(shù)據(jù)較少,所以本文將CNN對(duì)時(shí)序數(shù)據(jù)特征提取的能力與BiGRU對(duì)時(shí)序數(shù)據(jù)預(yù)測(cè)能能力相結(jié)合,提出CNN-BiGRU模型對(duì)預(yù)測(cè)模型的誤差進(jìn)行預(yù)測(cè)。CNN可對(duì)時(shí)序數(shù)據(jù)進(jìn)行非線性特征能力的提取,而B(niǎo)iGRU則能解決多種氣象特征及外部條件因素相互干擾的問(wèn)題。因此可將CNN和BiGRU相結(jié)合構(gòu)成CNN-BiGRU誤差預(yù)測(cè)模型以發(fā)揮它們各自的優(yōu)勢(shì),使誤差預(yù)測(cè)模型的預(yù)測(cè)效果更佳。
4 實(shí)驗(yàn)仿真
4.1 數(shù)據(jù)來(lái)源
以澳洲愛(ài)麗絲泉某光伏發(fā)電站2015年3月1日—2016年2月29日的光伏輸出功率、總輻照度、溫度、風(fēng)速、風(fēng)向和相對(duì)濕度數(shù)據(jù)進(jìn)行分析。由于光伏發(fā)電在夜間的輸出功率為0,因此只考慮每天07:00—18:00之間的數(shù)據(jù),采樣分辨率為5 min,每天共133個(gè)采樣點(diǎn)。功率預(yù)測(cè)模型的訓(xùn)練集a、誤差預(yù)測(cè)模型的訓(xùn)練集b和驗(yàn)證集c按各天氣類(lèi)型歷史光伏數(shù)據(jù)的5∶1進(jìn)行分配。
4.2 評(píng)價(jià)指標(biāo)
為評(píng)價(jià)模型的預(yù)測(cè)性能,分別利用均方根誤差(root mean squared error, RMSE)、平均絕對(duì)誤差(mean average error, MAE)、決定系數(shù)([R2])和仿真時(shí)間([T])評(píng)價(jià)建立的功率及誤差預(yù)測(cè)模型,計(jì)算公式分別如式(20)~式(22)所示。
[ERMSE=1Nt=1N(yt-y′t)2] (20)
[EMAE=t=1Nyt-y′tN] (21)
[R2=1-t=1Ny′t-yt2i=1Nyt-yt2] (22)
式中:[N]——日采樣點(diǎn)數(shù)量;[yt]——[t]時(shí)刻的光伏功率真實(shí)值;[y′t]——[t]時(shí)刻的模型預(yù)測(cè)值;[yt]——功率真實(shí)值的平均值。
4.3 光伏功率影響因素及相關(guān)性分析
本文通過(guò)計(jì)算相關(guān)氣象數(shù)據(jù)與輸出功率間的Pearson相關(guān)系數(shù)來(lái)確定預(yù)測(cè)模型輸入特征。Pearson相關(guān)系數(shù)用[pxy]表示,[pxy]的絕對(duì)值越大表示兩個(gè)變量的相關(guān)性越強(qiáng),計(jì)算公式為:
[pxy=t=1N(ut-u)?(yt-y)t=1N(ut-u)2?t=1N(yt-y)2] (23)
式中:[ut]——[t]時(shí)刻氣象因素值;[u]——?dú)庀笠蛩氐钠骄怠?/p>
通過(guò)分析獲得的Pearson相關(guān)系數(shù)如表1所示。各關(guān)鍵因素中,總輻照度、相對(duì)濕度、溫度及風(fēng)速的相關(guān)系數(shù)較大,即表明其相關(guān)性很強(qiáng),故作為預(yù)測(cè)模型的輸入特征;而風(fēng)向的相關(guān)系數(shù)較小,表明其相關(guān)性較弱,故省去未做考慮。
4.4 LSTM-Attention初步預(yù)測(cè)結(jié)果分析
本研究以每天的總輻照度、相對(duì)濕度和溫度這3個(gè)氣象因素構(gòu)建特征向量。特征向量組成包括這3個(gè)氣象因素的標(biāo)準(zhǔn)差、峰值系數(shù)和平均值。標(biāo)準(zhǔn)差反映數(shù)據(jù)的離散程度,峰值系數(shù)反映數(shù)據(jù)分布的陡峭程度,平均值反映數(shù)據(jù)的中心位置。將每天的特征向量作為輸入,采用K-均值++聚類(lèi)算法將原始數(shù)據(jù)集劃分為晴天、多云和雨雪3種天氣類(lèi)型。聚類(lèi)結(jié)果如表2所示,通過(guò)對(duì)待預(yù)測(cè)日進(jìn)行先聚類(lèi)再預(yù)測(cè),能顯著提高模型的預(yù)測(cè)效果。
為驗(yàn)證LSTM-Attention預(yù)測(cè)模型,分別選用LSTM、RNN和GRU預(yù)測(cè)模型進(jìn)行對(duì)比驗(yàn)證。取晴天、多云、雨雪各1 d作為測(cè)試集進(jìn)行預(yù)測(cè),4種模型在3種天氣類(lèi)型下的預(yù)測(cè)結(jié)果如圖8所示。
表3展示了晴天、多云和雨雪天氣下4種預(yù)測(cè)方法的結(jié)果對(duì)比。由表3所示結(jié)果可知,相較于其他模型,本文提出的模型在上述的3種天氣類(lèi)型下具有最優(yōu)預(yù)測(cè)誤差,表現(xiàn)為
最小均方根誤差、最低平均絕對(duì)誤差和最高決定系數(shù)。進(jìn)一步分析預(yù)測(cè)結(jié)果可得:
1)在晴天、多云和雨雪3種天氣類(lèi)型下,LSTM和GRU預(yù)測(cè)模型的RMSE、MAE和[R2]均優(yōu)于RNN預(yù)測(cè)模型,說(shuō)明LSTM和GRU作為RNN的改進(jìn)模型,在預(yù)測(cè)性能上有明顯提升。但在預(yù)測(cè)時(shí)間上LSTM和GRU預(yù)測(cè)模型比RNN預(yù)測(cè)模型所需要計(jì)算的時(shí)間更久。LSTM和GRU預(yù)測(cè)模型在晴天時(shí)預(yù)測(cè)準(zhǔn)確性相差不大,而在多云和雨雪兩種天氣類(lèi)型時(shí),LSTM比GRU預(yù)測(cè)模型的RMSE分別降低10.0%和4.6%,MAE分別降低了2.2%和7.9%,表明LSTM模型在數(shù)據(jù)集較豐富時(shí),使用LSTM模型比GRU模型更具優(yōu)勢(shì)。但相應(yīng)的LSTM比GRU模型更復(fù)雜,在預(yù)測(cè)時(shí)所需時(shí)間更久。
2)相較于LSTM模型,LSTM-Attention預(yù)測(cè)模型在3種天氣類(lèi)型下預(yù)測(cè)誤差和預(yù)測(cè)計(jì)算時(shí)間均有所降低。晴天時(shí)RMSE和MAE分別降低12.8%和6.9%;多云時(shí)RMSE和MAE分別降低14.0%和11.1%;雨雪時(shí)RMSE和MAE分別降低15.0%和4.7%。
4.5 CNN-BiGRU誤差預(yù)測(cè)模型有效性驗(yàn)證
為避免預(yù)測(cè)模型自身性能導(dǎo)致的預(yù)測(cè)誤差,本文從誤差的角度搭建CNN-BiGRU誤差預(yù)測(cè)模型來(lái)對(duì)預(yù)測(cè)功率進(jìn)行修正從而改進(jìn)預(yù)測(cè)準(zhǔn)確性。為進(jìn)一步驗(yàn)證本文所建模型對(duì)光伏功率預(yù)測(cè)精度的有效性,選擇LSTM和BiGRU模型建立誤差預(yù)測(cè)模型進(jìn)行對(duì)比試驗(yàn)。各天氣類(lèi)型初步預(yù)測(cè)值誤差修正后曲線如圖9所示。
表4分別列出晴天、多云及雨雪天氣類(lèi)型下的初步預(yù)測(cè)值誤差修正結(jié)果。根據(jù)表4中可得,本文所示的誤差預(yù)測(cè)模
型相較于其他傳統(tǒng)誤差預(yù)測(cè)模型在上述3種天氣類(lèi)型下對(duì)初步預(yù)測(cè)值進(jìn)行誤差修正后具有最優(yōu)性能,表現(xiàn)為最小均方根誤差、最低平均絕對(duì)誤差和最高決定系數(shù);進(jìn)一步的,通過(guò)綜合分析預(yù)測(cè)誤差修正結(jié)果可得:
1)BiGRU誤差預(yù)測(cè)模型比LSTM誤差預(yù)測(cè)模型對(duì)預(yù)測(cè)初值的誤差修正效果更好;針對(duì)晴天、多云、雨雪等天氣類(lèi)型,BiGRU模型與未進(jìn)行誤差修正相比其RMSE分別降低19.3%、28.5%和32.6%,MAE分別降低9%、15.9%和21.4%。
2)利用CNN-BiGRU模型能夠進(jìn)行分析誤差的特性,將誤差中的可用信息提取出來(lái);針對(duì)晴天、多云、雨雪等天氣類(lèi)型,本文所建的CNN-BiGRU誤差修正模型與未進(jìn)行誤差修正相比其RMSE分別降低22%、31%和34.4%,MAE分別降低了9%、22.9%和26.9%。與BiGRU誤差修正模型相比,CNN-BiGRU模型可從預(yù)測(cè)誤差中提取更多的誤差規(guī)律信息,對(duì)預(yù)測(cè)結(jié)果的修正效果更具優(yōu)勢(shì)。
3)由計(jì)算時(shí)間可看出,通過(guò)引入誤差修正模型在提高預(yù)測(cè)精度的同時(shí)也增加了預(yù)測(cè)時(shí)間。其中,因?yàn)榍缣祛?lèi)型歷史數(shù)據(jù)最多,因此預(yù)測(cè)用時(shí)最長(zhǎng),其次分別為雨雪和多云天氣類(lèi)型。本文提出的誤差預(yù)測(cè)模型與其他兩種誤差預(yù)測(cè)模型相比,在增加較少計(jì)算時(shí)間的情況下有效提高了誤差預(yù)測(cè)精度,從而實(shí)現(xiàn)對(duì)初步預(yù)測(cè)結(jié)果修正。
4)極端天氣時(shí)利用誤差預(yù)測(cè)模型對(duì)誤差進(jìn)行預(yù)測(cè)并對(duì)初步預(yù)測(cè)值進(jìn)行修正時(shí),預(yù)測(cè)模型的精度提升更明顯。究其原因是極端天氣的預(yù)測(cè)誤差中有用信息比晴天天氣中更多導(dǎo)致。
5 結(jié) 論
為有效分析與利用光伏功率預(yù)測(cè)模型中以特定規(guī)律分布的預(yù)測(cè)誤差,本文提出基于LSTM-Attention和CNN-BiGRU誤差修正的光伏功率預(yù)測(cè)模型。得出如下主要結(jié)論:
1)針對(duì)LSTM模型在輸入序列較長(zhǎng)時(shí)忽略關(guān)鍵時(shí)序信息,造成預(yù)測(cè)精度降低的問(wèn)題;通過(guò)結(jié)合LSTM與注意力機(jī)制優(yōu)勢(shì)從而解決了難以保留長(zhǎng)輸入序列關(guān)鍵信息的問(wèn)題,提高了模型整體預(yù)測(cè)性能。
2)為充分利用預(yù)測(cè)模型的預(yù)測(cè)誤差中存在的有價(jià)值信息,本文提出CNN-BiGRU誤差預(yù)測(cè)模型。將CNN在非線性特征提取上的優(yōu)勢(shì)與BiGRU在解決多種特征相互干擾的問(wèn)題的能力相結(jié)合,較好地解析了時(shí)序誤差數(shù)據(jù)前后的相互依賴關(guān)系,并提取出了預(yù)測(cè)誤差的分布規(guī)律。實(shí)驗(yàn)結(jié)果表明:CNN-BiGRU能有效分析誤差分布規(guī)律,進(jìn)而修正初步預(yù)測(cè)結(jié)果,有效提高模型整體預(yù)測(cè)性能。
本文所建立的結(jié)合深度學(xué)習(xí)與注意力機(jī)制的誤差修正光伏功率預(yù)測(cè)模型在降低預(yù)測(cè)誤差的同時(shí)延長(zhǎng)了預(yù)測(cè)時(shí)間。未來(lái)研究可通過(guò)改進(jìn)模型計(jì)算速度,實(shí)現(xiàn)快速準(zhǔn)確的光伏功率預(yù)測(cè)。
[參考文獻(xiàn)]
[1] 賴昌偉, 黎靜華, 陳博, 等. 光伏發(fā)電出力預(yù)測(cè)技術(shù)研究綜述[J]. 電工技術(shù)學(xué)報(bào), 2019, 34(6): 1201-1217.
LAI C W, LI J H, CHEN B, et al. Review of photovoltaic power output prediction technology[J]. Transactions of China Electrotechnical Society, 2019, 34(6): 1201-1217.
[2] 楊國(guó)清, 李建基, 王德意, 等. 基于信息熵變權(quán)區(qū)間組合和邊界逼近的短期光伏功率區(qū)間預(yù)測(cè)[J]. 太陽(yáng)能學(xué)報(bào), 2023, 44(2): 381-390.
YANG G Q, LI J J, WANG D Y, et al. Short-term photovoltaic power interval prediction based on information entropy variable weight interval combination and boundary approximation[J]. Acta energiae solaris sinica, 2023, 44(2): 381-390.
[3] 張家安, 郝峰, 董存, 等. 基于兩階段不確定性量化的光伏發(fā)電超短期功率預(yù)測(cè)[J]. 太陽(yáng)能學(xué)報(bào), 2023, 44(1): 69-77.
ZHANG J A, HAO F, DONG C, et al. Ultra-short-term power forecasting of photovoltaic power generation based on two-stage uncertainty quantization[J]. Acta energiae solaris sinica, 2023, 44(1): 69-77.
[4] 劉潔, 林舜江, 梁煒焜, 等. 基于高階馬爾可夫鏈和高斯混合模型的光伏出力短期概率預(yù)測(cè)[J]. 電網(wǎng)技術(shù), 2023, 47(1): 266-275.
LIU J, LIN S J, LIANG W K, et al. Short-term probabilistic forecast for power output of photovoltaic station based on high order Markov chain and Gaussian mixture model[J]. Power system technology, 2023, 47(1): 266-275.
[5] 董雪, 趙宏偉, 趙生校, 等. 基于SOM聚類(lèi)和二次分解的BiGRU超短期光伏功率預(yù)測(cè)[J]. 太陽(yáng)能學(xué)報(bào), 2022, 43(11): 85-93.
DONG X, ZHAO H W, ZHAO S X, et al. Ultra-short-term forecasting method of photovoltaic power based on SOM clustering, secondary decomposition and BiGRU[J]. Acta energiae solaris sinica, 2022, 43(11): 85-93.
[6] 吉鋅格, 李慧, 葉林, 等. 基于波動(dòng)特性挖掘的短期光伏功率預(yù)測(cè)[J]. 太陽(yáng)能學(xué)報(bào), 2022, 43(5): 146-155.
JI X G, LI H, YE L, et al. Short-term photovoltaic power forecasting based on fluctuation characteristics mining[J]. Acta energiae solaris sinica, 2022, 43(5): 146-155.
[7] YANG M, ZHAO M, HUANG D W, et al. A composite framework for photovoltaic day-ahead power prediction based on dual clustering of dynamic time warping distance and deep autoencoder[J]. Renewable energy, 2022, 194: 659-673.
[8] 劉倩, 胡強(qiáng), 楊凌帆, 等. 基于時(shí)間序列的深度學(xué)習(xí)光伏發(fā)電模型研究[J]. 電力系統(tǒng)保護(hù)與控制, 2021, 49(19): 87-98.
LIU Q, HU Q, YANG L F, et al. Deep learning photovoltaic power generation model based on time series[J]. Power system protection and control, 2021, 49(19): 87-98.
[9] YAN J C, HU L, ZHEN Z, et al. Frequency-domain decomposition and deep learning based solar PV power ultra-short-term forecasting model[J]. IEEE transactions on industry applications, 2021, 57(4): 3282-3295.
[10] 張雨金, 楊凌帆, 葛雙冶, 等. 基于Kmeans-SVM的短期光伏發(fā)電功率預(yù)測(cè)[J]. 電力系統(tǒng)保護(hù)與控制, 2018, 46(21): 118-124.
ZHANG Y J, YANG L F, GE S Y, et al. Short-term photovoltaic power forecasting based on Kmeans algorithm and support vector machine[J]. Power system protection and control, 2018, 46(21): 118-124.
[11] 譚海旺, 楊啟亮, 邢建春, 等. 基于XGBoost-LSTM組合模型的光伏發(fā)電功率預(yù)測(cè)[J]. 太陽(yáng)能學(xué)報(bào), 2022, 43(8): 75-81.
TAN H W, YANG Q L, XING J C, et al. Photovoltaic power prediction based on combined XGBoost-LSTM model[J]. Acta energiae solaris sinica, 2022, 43(8): 75-81.
[12] ALRASHIDI M, RAHMAN S. Short-term photovoltaic power production forecasting based on novel hybrid data-driven models[J]. Journal of big data, 2023, 10: 26.
[13] 馬磊, 黃偉, 李克成, 等. 基于Attention-LSTM的光伏超短期功率預(yù)測(cè)模型[J]. 電測(cè)與儀表, 2021, 58(2): 146-152.
MA L, HUANG W, LI K C, et al. Photovoltaic ultra-short-term power prediction model based on Attention-LSTM[J]. Electrical measurement amp; instrumentation, 2021, 58(2): 146-152.
[14] 雷柯松, 吐松江·卡日, 伊力哈木·亞爾買(mǎi)買(mǎi)提, 等. 基于WGAN-GP和CNN-LSTM-Attention的短期光伏功率預(yù)測(cè)[J]. 電力系統(tǒng)保護(hù)與控制, 2023, 51(9): 108-118.
LEI K S, TUSONGJIANG K, YILIHAMU Y, et al. Prediction of short-term photovoltaic power based on WGAN-GP and CNN-LSTM-Attention[J]. Power system protection and control, 2023, 51(9): 108-118.
[15] 余向陽(yáng), 趙怡茗, 楊寧寧, 等. 基于VMD-SE-LSSVM和迭代誤差修正的光伏發(fā)電功率預(yù)測(cè)[J]. 太陽(yáng)能學(xué)報(bào), 2020, 41(2): 310-318.
YU X Y, ZHAO Y M, YANG N N, et al. Photovoltaic power generation forecasting based on VMD-SE-LSSVM and iterative error correction[J]. Acta energiae solaris sinica, 2020, 41(2): 310-318.
[16] 劉帥, 朱永利, 張科, 等. 基于誤差修正ARMA-GARCH模型的短期風(fēng)電功率預(yù)測(cè)[J]. 太陽(yáng)能學(xué)報(bào), 2020, 41(10): 268-275.
LIU S, ZHU Y L, ZHANG K, et al. Short-term wind power forecasting based on error correction ARMA-GARCH model[J]. Acta energiae solaris sinica, 2020, 41(10): 268-275.
[17] 丁婷婷, 楊明, 于一瀟, 等. 基于誤差修正的短期風(fēng)電功率集成預(yù)測(cè)方法[J]. 高電壓技術(shù), 2022, 48(2): 488-496.
DING T T, YANG M, YU Y X, et al. Short-term wind power integration prediction method based on error correction[J]. High voltage engineering, 2022, 48(2): 488-496.
[18] 丁明, 王磊, 畢銳. 基于改進(jìn)BP神經(jīng)網(wǎng)絡(luò)的光伏發(fā)電系統(tǒng)輸出功率短期預(yù)測(cè)模型[J]. 電力系統(tǒng)保護(hù)與控制, 2012, 40(11): 93-99, 148.
DING M, WANG L, BI R. A short-term prediction model to forecast output power of photovoltaic system based on improved BP neural network[J]. Power system protection and control, 2012, 40(11): 93-99, 148.
[19] 孫國(guó)良, 伊力哈木·亞爾買(mǎi)買(mǎi)提, 張寬, 等. 基于小波變換與IAGA-BP神經(jīng)網(wǎng)絡(luò)的短期風(fēng)電功率預(yù)測(cè)[J]. 電測(cè)與儀表, 2024, 61(5): 126-134, 145.
SUN G L, YILIHAMU Y, ZHANG K, et al. Short-term prediction of wind power based on wavelet transform and IAGA-BP neural network[J]. Electrical measurement amp; instrumentation, 2024, 61(5): 126-134, 145.
[20] QU J Q, QIAN Z, PEI Y. Day-ahead hourly photovoltaic power forecasting using attention-based CNN-LSTM neural network embedded with multiple relevant and target variables " prediction " pattern[J]. "Energy, " 2021, " 232: 120996.
[21] 邢紅濤, 郭江龍, 劉書(shū)安, 等. 基于CNN-LSTM混合神經(jīng)網(wǎng)絡(luò)模型的NOx排放預(yù)測(cè)[J]. 電子測(cè)量技術(shù), 2022, 45(2): 98-103.
XING H T, GUO J L, LIU S A, et al. NOx emission forecasting based on CNN-LSTM hybrid neural network[J]. Electronic measurement technology, 2022, 45(2): 98-103.
[22] 鄒智, 吳鐵洲, 張曉星, 等. 基于貝葉斯優(yōu)化CNN-BiGRU混合神經(jīng)網(wǎng)絡(luò)的短期負(fù)荷預(yù)測(cè)[J]. 高電壓技術(shù), 2022, 48(10): 3935-3945.
ZOU Z, WU T Z, ZHANG X X, et al. Short-term load forecast based on Bayesian optimized CNN-BiGRU hybrid neural networks[J]. High voltage engineering, 2022, 48(10): 3935-3945.
PHOTOVOLTAIC POWER PREDICTION BASED ON
LSTM-ATTENTION AND CNN-BiGRU ERROR CORRECTION
Kari·Tusongjiang1,Lei Kesong2,Ma Xiaojing1,Wu Xian1,Yu Kaifeng1
(1. School of Electrical Engineering, Xinjiang University, Urumqi 830049, China;
2. State Grid Changji Power Supply Company, Changji 831100, China)
Abstract:To effectively analyze and utilize the prediction errors distributed in a specific pattern in the photovoltaic power prediction model, a photovoltaic power prediction model based on LSTM-Attention and CNN-BiGRU error correction is proposed. Firstly, the LSTM-Attention mechanism is introduced to compensate for the shortcomings of the long short-term memory (LSTM) network, which is difficult to retain key information in the input sequence. Secondly, the advantages of convolutional neural network (CNN) in non-linear feature extraction are combined with the advantages of Bidirectional gated recurrent unit (BiGRU) in preventing multiple features from interfering with each other to build a CNN-BiGRU error prediction model is used to predict the possible errors and to correct the initial prediction results. The experimental results indicates that the CNN-BiGRU error prediction model can effectively improve the prediction accuracy in different weather types when compared with the prediction results without error correction.
Keywords:photovoltaic power prediction; deep learning; error correction; attention mechanism; long-short term memory network; bidirectional gated recurrent unit