黃 圓,魏云冰,童東兵,王維高
(上海工程技術(shù)大學(xué) 電子電氣工程學(xué)院,上海 201620)
相較于化石能源,光伏發(fā)電具有成本低和零污染等特性,在全球得到了迅速發(fā)展[1]。但光伏發(fā)電本身易受氣象因素影響,因而存在間歇性、波動(dòng)性和隨機(jī)性等問(wèn)題,并網(wǎng)會(huì)影響電力系統(tǒng)的穩(wěn)定性和安全性[2]。因此,精確的光伏發(fā)電功率預(yù)測(cè)對(duì)于光伏發(fā)電并網(wǎng)后電力系統(tǒng)的運(yùn)行、調(diào)度、新能源并網(wǎng)消納以及電網(wǎng)收益具有重要的實(shí)際意義[3]。
目前,受復(fù)雜的實(shí)際環(huán)境和氣象影響,光伏物理建模法[4]和時(shí)間序列法[5]等傳統(tǒng)預(yù)測(cè)方法的預(yù)測(cè)精度難以提高,因此研究者更傾向于基于數(shù)據(jù)驅(qū)動(dòng)的預(yù)測(cè)方法,主要有支持向量機(jī)(Support Vector Machine,SVM)[6]、極限學(xué)習(xí)機(jī)(Extreme Learning Machine,ELM)[7]等。隨著人工智能在各個(gè)領(lǐng)域的發(fā)展與應(yīng)用,以循環(huán)神經(jīng)網(wǎng)絡(luò)[8]和卷積神經(jīng)網(wǎng)絡(luò)[9]為代表的深度學(xué)習(xí)網(wǎng)絡(luò)已在光伏發(fā)電功率預(yù)測(cè)中取得了較好的效果[10]。文獻(xiàn)[11]利用主成分分析法分析氣象數(shù)據(jù)與光伏發(fā)電功率,建立長(zhǎng)短期記憶網(wǎng)絡(luò)(Long Short Term Memory,LSTM)進(jìn)行預(yù)測(cè),但以LSTM為代表的循環(huán)神經(jīng)網(wǎng)絡(luò)在模型訓(xùn)練上耗時(shí)過(guò)長(zhǎng)且存在梯度問(wèn)題,而時(shí)間卷積網(wǎng)絡(luò)(Temporal Convolutional Network,TCN)具有可并行計(jì)算的特性,能夠有效克服LSTM的缺點(diǎn)。目前TCN在風(fēng)電功率預(yù)測(cè)[12]、太陽(yáng)輻射預(yù)測(cè)[13]等領(lǐng)域已取得良好的效果。
雖然TCN為光伏發(fā)電功率預(yù)測(cè)提供了新思路,但傳統(tǒng)TCN網(wǎng)絡(luò)在實(shí)際運(yùn)行中常忽略了輸入特征之間的關(guān)聯(lián)性,且其殘差模塊中的Dropout在特征圖中無(wú)法有效抑制信息協(xié)同。針對(duì)上述問(wèn)題,本文提出改進(jìn)的TCN網(wǎng)絡(luò)預(yù)測(cè)模型。該模型采用DropBlock隨機(jī)歸零區(qū)域激活單元取代傳統(tǒng)TCN網(wǎng)絡(luò)中的Dropout,可有效抑制信息協(xié)同,并構(gòu)建注意力機(jī)制,量化并突出關(guān)鍵氣象輸入特征影響。
針對(duì)光伏發(fā)電功率時(shí)間序列的非平穩(wěn)性和波動(dòng)性,在預(yù)測(cè)前需對(duì)序列數(shù)據(jù)進(jìn)行預(yù)處理。變分模態(tài)分解(Variational Mode Decomposition,VMD)可以有效克服模態(tài)混疊,且各解析信號(hào)的瞬時(shí)頻率具有實(shí)際的物理意義[14]。
本文提出一種基于VMD和改進(jìn)TCN的短期光伏發(fā)電功率預(yù)測(cè)方法。利用VMD將具有非平穩(wěn)性的光伏發(fā)電功率時(shí)間序列分解為不同頻率且相對(duì)平穩(wěn)的分量,然后建立各模態(tài)分量的改進(jìn)TCN網(wǎng)絡(luò)預(yù)測(cè)模型。相較于其他光伏發(fā)電功率預(yù)測(cè)方法,本文所提預(yù)測(cè)方法預(yù)測(cè)精度明顯提高。
基于VMD和改進(jìn)TCN的短期光伏發(fā)電功率預(yù)測(cè)模型流程分為4步,如圖1所示。
步驟1首先利用VMD對(duì)光伏發(fā)電功率序列數(shù)據(jù)進(jìn)行K個(gè)模態(tài)分解,得到模態(tài)分量序列;
步驟2為使達(dá)到最佳分解效果,采用中心頻率法確定最佳模態(tài)分解個(gè)數(shù);
步驟3將分解后的每個(gè)分量輸入至改進(jìn)TCN網(wǎng)絡(luò)預(yù)測(cè)模型,利用DropBlock正則化方法抑制TCN網(wǎng)絡(luò)卷積層的過(guò)擬合并構(gòu)建注意力機(jī)制自主挖掘,量化關(guān)鍵輸入特征影響,建立改進(jìn)TCN網(wǎng)絡(luò)預(yù)測(cè)模型;
步驟4重構(gòu)疊加各個(gè)分量的預(yù)測(cè)結(jié)果得出最終光伏發(fā)電功率預(yù)測(cè)結(jié)果,并與其他預(yù)測(cè)模型進(jìn)行誤差對(duì)比分析。
圖1 基于VMD和改進(jìn)TCN的短期光伏發(fā)電功率預(yù)測(cè)模型Figure 1. Short-term photovoltaic power prediction model based on VMD and improved TCN
VMD是一種能夠有效處理非平穩(wěn)、波動(dòng)性信號(hào)的自適應(yīng)信號(hào)分解方法[15]。由于光伏發(fā)電功率具有非平穩(wěn)性、非線性和波動(dòng)性,因此在進(jìn)行光伏發(fā)電功率預(yù)測(cè)前需利用VMD對(duì)其進(jìn)行時(shí)間序列分解,將原始光伏發(fā)電功率序列分解為若干個(gè)相對(duì)平穩(wěn)且不同頻率的光伏功率子序列,以此降低原始光伏功率序列非線性以及非平穩(wěn)性對(duì)預(yù)測(cè)的干擾,具體實(shí)現(xiàn)步驟如下。
VMD將原始光伏發(fā)電功率序列信號(hào)f分解為k個(gè)模態(tài),但需要滿足:(1)分解后的每個(gè)模態(tài)都具有中心頻率;(2)每個(gè)模態(tài)都為有限帶寬分量;(3)每個(gè)模態(tài)的估計(jì)帶寬之和為最小。分解后的所有模態(tài)之和為原始光伏發(fā)電功率序列信號(hào),則相應(yīng)的約束條件可表示為
(1)
式中,K為模態(tài)分量總數(shù);?(t)代表求偏導(dǎo);δ(t)為狄拉克(Dirac)函數(shù);“*”代表卷積運(yùn)算;uk表示分解出的第k個(gè)模態(tài)分量;ωk表示第k個(gè)模態(tài)分量的中心頻率[16];f(t)表示原始光伏發(fā)電功率序列信號(hào)。
引入Lagrange乘子λ和二次懲罰因子m,將約束問(wèn)題轉(zhuǎn)變?yōu)闊o(wú)約束問(wèn)題,具體計(jì)算式如下。
(2)
利用交替方向乘子法對(duì)上式進(jìn)行求解,各分解分量uk以及ωk的求解表達(dá)式為
(3)
式中,ω表示頻率;n表示迭代次數(shù);u′k(ω)、f′(ω)和λ′(ω)分別表示為uk(t)、f(t)和λ(t)的傅里葉變換。
TCN網(wǎng)絡(luò)的擴(kuò)張卷積與傳統(tǒng)卷積的區(qū)別在于其結(jié)構(gòu)的具體形式由卷積核和擴(kuò)張系數(shù)所控制,具體結(jié)構(gòu)如圖2所示。卷積核和擴(kuò)張系數(shù)分別從網(wǎng)絡(luò)上層輸入神經(jīng)元的個(gè)數(shù)和距離來(lái)改變TCN網(wǎng)絡(luò)結(jié)構(gòu),擴(kuò)張系數(shù)z與網(wǎng)絡(luò)層數(shù)n呈指數(shù)關(guān)系,即z=2n,且網(wǎng)絡(luò)信息提取范圍與擴(kuò)張系數(shù)呈正比。因此相較于普通卷積網(wǎng)絡(luò),TCN網(wǎng)絡(luò)搭建相對(duì)較少的網(wǎng)絡(luò)層數(shù)便可獲得較大的感受野且能夠避免重復(fù)提取信息。
圖2 TCN因果擴(kuò)張卷積結(jié)構(gòu)Figure 2. Structure of TCN causal expansion convolution
卷積核大小、擴(kuò)張系數(shù)、卷積層數(shù)共同決定TCN網(wǎng)絡(luò)神經(jīng)元的感受野,即網(wǎng)絡(luò)記憶長(zhǎng)度。網(wǎng)絡(luò)中第s個(gè)序列元素的擴(kuò)張卷積運(yùn)算可定義為
(4)
式中,x為輸入序列;“*”表示卷積運(yùn)算;z為擴(kuò)張系數(shù);k為卷積核大??;f(i)為卷積核中的第i個(gè)元素[17-18];xs-z·i為輸入序列中與卷積核相對(duì)應(yīng)運(yùn)算的元素。
時(shí)間序列預(yù)測(cè)要求模型具有時(shí)間因果性,即輸出序列只能依賴于輸入序列在同時(shí)刻之前的元素,因此需對(duì)每層卷積層進(jìn)行零填充以保證輸出張量與輸入張量具有相同的長(zhǎng)度。為使TCN的擴(kuò)張卷積更符合時(shí)間序列建模預(yù)測(cè)要求,在網(wǎng)絡(luò)每層引入填充系數(shù)pn來(lái)保證因果卷積。填充系數(shù)可描述為pn=(k-1)z。
TCN殘差模塊包含基礎(chǔ)的TCN因果擴(kuò)張卷積層、權(quán)值規(guī)范化層(Weight Normalization,WN)、激活函數(shù)ReLU和Dropout層,結(jié)構(gòu)如圖3所示。
圖3 殘差塊結(jié)構(gòu)圖Figure 3. Residual block structure diagram
權(quán)值規(guī)范化通過(guò)對(duì)權(quán)重值的歸一化達(dá)到消除梯度爆炸的效果,并且能有效加快計(jì)算速度。本文采用線性整流函數(shù)ReLU作為網(wǎng)絡(luò)的激活函數(shù),并利用Dropout層進(jìn)行正則化出力,防止過(guò)擬合并增強(qiáng)模型的泛化性。最后,通過(guò)1×1的卷積調(diào)整殘差張量維度不同的問(wèn)題。
TCN網(wǎng)絡(luò)本質(zhì)上屬于卷積網(wǎng)絡(luò),容易過(guò)度強(qiáng)化空間特性而弱化個(gè)體特性。光伏發(fā)電時(shí)間序列數(shù)據(jù)參數(shù)種類多,數(shù)據(jù)量大且時(shí)間跨度長(zhǎng),運(yùn)用相關(guān)性分析難以篩選出與光伏功率相關(guān)性強(qiáng)的參數(shù),并且容易損失關(guān)鍵參數(shù)數(shù)據(jù)。若直接將光伏發(fā)電時(shí)間序列輸入TCN網(wǎng)絡(luò)進(jìn)行預(yù)測(cè),則易忽視關(guān)鍵特征影響,導(dǎo)致預(yù)測(cè)效果不佳。因此本文針對(duì)上述問(wèn)題,在傳統(tǒng)TCN網(wǎng)絡(luò)基礎(chǔ)上引入DropBlock正則化和注意力機(jī)制兩個(gè)方面進(jìn)行改進(jìn)優(yōu)化。
3.2.1 DropBlock正則化
常規(guī)TCN網(wǎng)絡(luò)中的Dropout只是簡(jiǎn)單地隨機(jī)歸零某些激活單元,但網(wǎng)絡(luò)仍然在被歸零激活單元的附近學(xué)習(xí)相同的特征信息。DropBlock不是隨機(jī)丟棄激活單元,而是通過(guò)隨機(jī)歸零某一區(qū)域,從而實(shí)現(xiàn)抑制信息協(xié)同。兩種正則化方法的結(jié)構(gòu)對(duì)比如圖4所示。
圖4 Dropout和DropBlock結(jié)構(gòu)圖Figure 4. Dropout and DropBlock structure diagram
DropBlock的計(jì)算式可被描述為
(5)
式中,γ表示歸零概率,即伯努利函數(shù)的概率;bs表示歸零塊的大?。籯p表示激活單元保持有效的概率;fs表示特征圖大小。
3.2.2 注意力機(jī)制
為篩選并突出關(guān)鍵影響因素對(duì)光伏發(fā)電功率的影響,構(gòu)建特征注意力機(jī)制來(lái)分析各輸入的關(guān)聯(lián)性。特征注意力機(jī)制通過(guò)多層感知機(jī)分析出不同輸入?yún)⒘繉?duì)預(yù)測(cè)信息的重要程度,量化各個(gè)輸入特征影響力的權(quán)重,從而提高模型學(xué)習(xí)效果。圖5為特征注意力機(jī)制結(jié)構(gòu)圖。
圖5 注意力機(jī)制結(jié)構(gòu)圖Figure 5. Structural diagram of attentional mechanisms
(6)
(7)
(8)
3.2.3 改進(jìn)TCN網(wǎng)絡(luò)預(yù)測(cè)模型結(jié)構(gòu)
改進(jìn)TCN網(wǎng)絡(luò)預(yù)測(cè)模型結(jié)構(gòu)如圖6所示。
圖6 改進(jìn)TCN網(wǎng)絡(luò)預(yù)測(cè)模型Figure 6. Improved TCN network prediction model
原始輸入數(shù)據(jù)進(jìn)入加入DropBlock正則化和注意力機(jī)制的改進(jìn)TCN網(wǎng)絡(luò)。DropBlock通過(guò)抑制區(qū)域激活單元,防止在卷積層中出現(xiàn)過(guò)擬合現(xiàn)象,提升網(wǎng)絡(luò)預(yù)測(cè)效果。在注意力機(jī)制中,輸入為經(jīng)過(guò)改進(jìn)TCN網(wǎng)絡(luò)的輸出量,Permute重新排列輸入量的維度,Multiply將改進(jìn)TCN網(wǎng)絡(luò)殘差模塊的輸出與注意力機(jī)制的輸出進(jìn)行對(duì)應(yīng)相乘,從而完成動(dòng)態(tài)加權(quán),實(shí)現(xiàn)突出關(guān)鍵特征的影響,提高模型預(yù)測(cè)精度,最后通過(guò)全連接層輸出并處理為預(yù)測(cè)結(jié)果。
本文選取江蘇省某光伏電站2019年1月1日~2019年12月30日光伏發(fā)電功率數(shù)據(jù)集,時(shí)間跨度為每天07∶00~19∶00,采集頻率為15 min。數(shù)據(jù)集包含光伏發(fā)電功率(MW)、總輻照度(W·m-2)、法向直射輻照度(W·m-2)、水平面散射輻照度(W·m-2)、氣溫(°C)、氣壓(Pa)和相對(duì)濕度(%)。
在VMD分解過(guò)程中,采用中心頻率法確定模態(tài)分解個(gè)數(shù)k。分別設(shè)置k=3,4,5,6,7,8進(jìn)行VMD分解,得到不同分解個(gè)數(shù)的各模態(tài)分量的中心頻率,如表1所示。
表1 不同模態(tài)分量的中心頻率
從表1中可看出,當(dāng)k=7時(shí),u3和u4的中心頻率分別為0.123和0.189,兩個(gè)分量中心頻率較為接近,說(shuō)明VMD過(guò)分解;而當(dāng)k=8時(shí),u2和u3以及u6和u7中心頻率相對(duì)接近,因此確定分解模態(tài)分量個(gè)數(shù)k為6。任選數(shù)據(jù)集中5天光伏發(fā)電功率序列數(shù)據(jù)進(jìn)行VMD分解,結(jié)果如圖7所示。
圖7 光伏發(fā)電功率VMD分解圖Figure 7. VMD decomposition diagram of photovoltaic power generation
為驗(yàn)證模型的預(yù)測(cè)效果,需對(duì)數(shù)據(jù)集進(jìn)行數(shù)據(jù)清洗。本文將數(shù)據(jù)集的前70%劃分為訓(xùn)練集,后30%劃分為驗(yàn)證集。為消除數(shù)據(jù)量綱影響,將VMD分解后的光伏發(fā)電功率分量和氣象數(shù)據(jù)進(jìn)行歸一化處理。在改進(jìn)TCN網(wǎng)絡(luò)中,設(shè)置輸入維度為卷積核大小為7,輸出維度為1,卷積核大小為2,DropBlock設(shè)為0.2,batch size設(shè)為32。在注意力機(jī)制中,設(shè)置每層隱含元個(gè)數(shù)為5的3層隱含層,學(xué)習(xí)率設(shè)為0.001,batch size設(shè)為32,epoch設(shè)置為100。所有模型優(yōu)化算法均為Adam,損失函數(shù)均為均方誤差(Mean Squared Error,MSE)。為檢驗(yàn)?zāi)P皖A(yù)測(cè)效果,采用均方根誤差(Root Mean Squared Error,RMSE)和平均絕對(duì)百分比誤差(Mean Absolute Percentage Error,MAPE)作為評(píng)價(jià)指標(biāo)。
為對(duì)改進(jìn)TCN預(yù)測(cè)模型性能進(jìn)行分析,以VMD分解后的光伏發(fā)電功率分量和氣象數(shù)據(jù)作為預(yù)測(cè)模型輸入,對(duì)比改進(jìn)TCN與LSTM、傳統(tǒng)TCN的預(yù)測(cè)效果,各模型參數(shù)都已依據(jù)實(shí)際情況調(diào)整至最優(yōu)數(shù)值。各預(yù)測(cè)模型的評(píng)價(jià)指標(biāo)值如表2所示。
表2 各模型預(yù)測(cè)評(píng)價(jià)指標(biāo)值
從表2中可看出,改進(jìn)TCN模型預(yù)測(cè)誤差最小,預(yù)測(cè)效果最佳。其RMSE值對(duì)比LSTM下降61%,對(duì)比傳統(tǒng)TCN下降47%,MAPE值也相應(yīng)分別下降67%、42%。改進(jìn)TCN模型中采用DropBlock正則化在光伏發(fā)電功率預(yù)測(cè)中表現(xiàn)優(yōu)異,不僅克服了LSTM耗時(shí)過(guò)長(zhǎng)和梯度問(wèn)題,還抑制了傳統(tǒng)TCN網(wǎng)絡(luò)卷積層中的信息協(xié)同問(wèn)題。而改進(jìn)TCN網(wǎng)絡(luò)中的注意力機(jī)制可以有效突出關(guān)鍵輸入特征的影響,量化各氣象輸入特征與光伏發(fā)電功率之間的關(guān)聯(lián)度,在各個(gè)時(shí)刻主動(dòng)挖掘總輻照度、法向直射輻照度、水平面散射輻照度、氣溫、氣壓和相對(duì)濕度對(duì)光伏發(fā)電功率的權(quán)重大小,而不是簡(jiǎn)單地將各影響因素的權(quán)重平均化。
(a)
(b) 圖8 各模型預(yù)測(cè)結(jié)果對(duì)比圖(a)預(yù)測(cè)結(jié)果 (b)預(yù)測(cè)結(jié)果局部放大圖 Figure 8. Comparison of prediction results of each model(a)Predicted results(b)Local enlargement of the prediction results
從圖8(a)中可看出,3種預(yù)測(cè)模型的預(yù)測(cè)曲線在整體上與實(shí)際光伏發(fā)電功率曲線都相對(duì)貼合。但在圖8(b)中,LSTM和TCN預(yù)測(cè)曲線與真實(shí)值曲線都有不同程度的偏離,得益于采用DropBlock正則化以及引入注意力機(jī)制,改進(jìn)TCN模型的預(yù)測(cè)曲線與真實(shí)值曲線擬合度最高,與真實(shí)值更為接近。這3種模型都是對(duì)經(jīng)VMD分解后的光伏發(fā)電功率分量進(jìn)行預(yù)測(cè),在一些突變點(diǎn)的預(yù)測(cè)上表現(xiàn)都較為出色,可見(jiàn)VMD能夠有效提取原始光伏發(fā)電功率序列中的細(xì)節(jié)信息并消除一定的噪聲干擾,從而提高預(yù)測(cè)精度。
為檢驗(yàn)注意機(jī)制挖掘氣象輸入特征關(guān)聯(lián)性效果,提取10個(gè)測(cè)試集樣本的特征分析情況,關(guān)聯(lián)熱力圖如圖9所示。圖中小格顏色的深淺表示特征權(quán)重系數(shù)的大小,顏色越深,表示關(guān)聯(lián)性越強(qiáng);反之,則關(guān)聯(lián)性越弱。
圖9 光伏發(fā)電功率與各特征關(guān)聯(lián)熱力圖Figure 9. Thermal diagram of photovoltaic power generation associated with each feature
從圖9中可看出,各特征在不同時(shí)刻對(duì)光伏發(fā)電功率具有不同的影響,總輻照度和水平面散射輻照度顏色相對(duì)較深,相關(guān)性較大,相對(duì)濕度和氣溫則稍次之,而法向直射輻照度和氣壓顏色很淺,相關(guān)性較弱。特征熱力圖所呈現(xiàn)的規(guī)律與實(shí)際光伏發(fā)電情況一致。在最后4個(gè)采樣點(diǎn)中,總光輻照度和水平面散射輻照度顏色顯著加深,實(shí)際情況中此3個(gè)采樣點(diǎn)為一天的午時(shí),光照最強(qiáng)時(shí)刻,光伏出力顯著增大,說(shuō)明注意力機(jī)制可提取并突出關(guān)鍵特征信息。
為驗(yàn)證本文所提模型有效性,以SVM、LSTM以及TCN進(jìn)行對(duì)比分析,并分別進(jìn)行單一模型預(yù)測(cè)以及與VMD組合預(yù)測(cè),其評(píng)價(jià)指標(biāo)值如表3所示。
表3 預(yù)測(cè)性能對(duì)比
由表3可看出,對(duì)比單一模型,與VMD組合的模型預(yù)測(cè)精度均有一定程度提高,說(shuō)明了采用VMD進(jìn)行數(shù)據(jù)預(yù)處理的必要性。該結(jié)果還證明了組合模型預(yù)測(cè)性能優(yōu)于單一模型。本文所提方法的RMSE為0.62 MW,MAPE為2.03%,誤差小于傳統(tǒng)TCN模型。對(duì)比其他6種預(yù)測(cè)模型,本文所提方法的預(yù)測(cè)結(jié)果與真實(shí)值更為接近,預(yù)測(cè)精度最高。
本文針對(duì)光伏發(fā)電功率自身的波動(dòng)性、非平穩(wěn)性以及受個(gè)種氣象因素影響而導(dǎo)致的隨機(jī)性,提出一種基于VMD和改進(jìn)TCN的短期光伏發(fā)電功率預(yù)測(cè)模型。通過(guò)實(shí)例實(shí)驗(yàn)得出如下結(jié)論:(1)采用VMD方法能夠有效提取原始光伏發(fā)電功率序列的細(xì)節(jié)信息并消除噪聲對(duì)預(yù)測(cè)的干擾;(2)在改進(jìn)TCN網(wǎng)絡(luò)中,通過(guò)DropBlock正則化有效抑制傳統(tǒng)TCN卷積層中Dropout所帶來(lái)的信息協(xié)同問(wèn)題,而注意力機(jī)制可有效提取氣象輸入特征中的關(guān)鍵信息,量化相關(guān)權(quán)重,突出關(guān)鍵輸入特征的影響;(3)本文的改進(jìn)TCN網(wǎng)絡(luò)中并未考慮時(shí)間角度的特征對(duì)預(yù)測(cè)的影響。在后續(xù)工作中,將構(gòu)建不同維度的注意力機(jī)制優(yōu)化TCN模型,以期提高預(yù)測(cè)精度。