基于自適應(yīng)權(quán)重的CNN-LSTM&GRU組合風(fēng)電功率預(yù)測方法

賈睿，楊國華,2，鄭豪豐，張鴻皓，柳萱，郁航

(1. 寧夏大學(xué) 物理與電子電氣工程學(xué)院，寧夏 銀川 750021；2. 寧夏電力能源安全重點(diǎn)實(shí)驗(yàn)室，寧夏 銀川 750004)

0 引言

隨著全球化石能源的不斷消耗，可再生能源成為了各國的研究熱點(diǎn)。由于風(fēng)能的可再生、清潔、資源豐富等特點(diǎn)，在全世界范圍內(nèi)得到了廣泛的開發(fā)和利用。截至2020年底，中國風(fēng)電裝機(jī)容量已達(dá)2.81億kW，其中新增風(fēng)電裝機(jī)容量達(dá)7000萬kW[1]。在中國相關(guān)政策和全球能源發(fā)展的趨勢下，未來幾年風(fēng)電裝機(jī)容量有繼續(xù)上升的趨勢。隨著風(fēng)電在電網(wǎng)中所占比例的不斷增加，風(fēng)電輸出功率的不確定性和波動性將會給電力系統(tǒng)的穩(wěn)定運(yùn)行帶來挑戰(zhàn)，進(jìn)而制約風(fēng)電發(fā)展規(guī)模，因此對風(fēng)電功率的高精度預(yù)測勢在必行[2]。

現(xiàn)有的風(fēng)電功率預(yù)測方法主要有物理方法、統(tǒng)計(jì)方法和人工智能方法[3]。物理方法主要是通過風(fēng)電場周圍的地表信息和氣象數(shù)據(jù)構(gòu)建物理模型進(jìn)行預(yù)測[4]，以數(shù)值氣象預(yù)報（numerical weather prediction，NWP）為代表。統(tǒng)計(jì)方法主要通過歷史數(shù)據(jù)，構(gòu)建出歷史數(shù)據(jù)與風(fēng)電功率的非線性對應(yīng)關(guān)系，以此對風(fēng)電功率進(jìn)行預(yù)測，主要方法有時間序列法[5]、灰色預(yù)測法[6]、自回歸移動平均法[7]。人工智能方法主要有神經(jīng)網(wǎng)絡(luò)[8]、支持向量機(jī)[9]、極限學(xué)習(xí)機(jī)[10]。由于神經(jīng)網(wǎng)絡(luò)能夠挖掘訓(xùn)練數(shù)據(jù)的非線性關(guān)系和深層特征，目前在風(fēng)電功率的預(yù)測中得到了廣泛的應(yīng)用[11]。文獻(xiàn)[12]在風(fēng)電功率預(yù)測中使用了長短期記憶（long short term memory，LSTM）網(wǎng)絡(luò)，研究表明深度神經(jīng)網(wǎng)絡(luò)比機(jī)器學(xué)習(xí)預(yù)測精度更高，但是LSTM網(wǎng)絡(luò)存在模型復(fù)雜和訓(xùn)練時間長的問題。對此文獻(xiàn)[11]成功開發(fā)了一種新型的門控循環(huán)單元（gated recurrent unit，GRU）深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)，并與LSTM網(wǎng)絡(luò)進(jìn)行了比較，在大部分的測試中，GRU網(wǎng)絡(luò)預(yù)測的準(zhǔn)確性優(yōu)于LSTM網(wǎng)絡(luò)，且訓(xùn)練時間更短。雖然每種方法都有其應(yīng)用場景，但單個模型往往難以獲得最優(yōu)預(yù)測結(jié)果。研究表明組合模型比單個模型具有更優(yōu)越的性能[13]。文獻(xiàn)[14]提出了一種基于主成分分析 (principal component analysis，PCA)的LSTM預(yù)測模型。文獻(xiàn)[15]提出一種基于奇異譜分析和長短期記憶網(wǎng)絡(luò)的短期風(fēng)電功率預(yù)測方法。文獻(xiàn)[16]提出了多模型融合方法用于電力負(fù)荷預(yù)測，結(jié)果表明，多模型融合結(jié)構(gòu)預(yù)測精度更高。文獻(xiàn)[17]提出了一種CNN-GRU組合預(yù)測模型，相比于單一的LSTM網(wǎng)絡(luò)，所提模型具有更高的風(fēng)電功率預(yù)測精度。

為了進(jìn)一步提高短期風(fēng)電功率預(yù)測精度，本文提出了一種CNN-LSTM&GRU多模型組合的短期風(fēng)電預(yù)測方法，并構(gòu)造出CNN-LSTM網(wǎng)絡(luò)和GRU網(wǎng)絡(luò)組合預(yù)測模型。針對LSTM網(wǎng)絡(luò)不能提取非連續(xù)數(shù)據(jù)特征的缺點(diǎn)，利用卷積神經(jīng)網(wǎng)絡(luò)（convolutional neural network，CNN）提取數(shù)據(jù)局部特征，然后將提取到的局部特征數(shù)據(jù)以時間序列格式輸入LSTM網(wǎng)絡(luò)，此種設(shè)計(jì)實(shí)現(xiàn)了對數(shù)據(jù)潛在特征關(guān)系的進(jìn)一步挖掘。然后將CNNLSTM網(wǎng)絡(luò)和GRU網(wǎng)絡(luò)進(jìn)行并行預(yù)測，通過多模型預(yù)測來避免單一模型難以獲得最優(yōu)結(jié)果的問題，并利用自適應(yīng)權(quán)重模塊通過深度學(xué)習(xí)，為2個模塊的輸出配權(quán)，選出最佳權(quán)重，構(gòu)建出最佳的短期風(fēng)電功率預(yù)測模型，從而提高風(fēng)電功率預(yù)測精度。通過實(shí)驗(yàn)對比所提模型與Elman模型、XGBoost模型、LSTM模型、GRU模型、串行CNN-LSTM模型、串行CNN-GRU模型，驗(yàn)證模型的精確性。

1 CNN-LSTM&GRU模型

1.1 CNN-LSTM網(wǎng)絡(luò)結(jié)構(gòu)

1.1.1 CNN 模塊

CNN是一種前饋式神經(jīng)網(wǎng)絡(luò)，由輸入層、卷積層、池化層、全連接層和輸出層構(gòu)成。CNN被廣泛應(yīng)用于圖像識別、模式分類、物體檢測、人臉識別、時間序列數(shù)據(jù)等方面[18]。由于CNN在計(jì)算時采用了卷積運(yùn)算，其運(yùn)算速度相比于一般的矩陣運(yùn)算有了很大的提高。CNN的卷積層和池化層的交替使用能夠有效提取數(shù)據(jù)局部特征并降低局部特征維度。由于權(quán)值共享，可以減少權(quán)值數(shù)量、降低模型的復(fù)雜度。一維卷積對于時間序列的特征提取的輸出為

式中：Y為提取的特征； σ 為sigmoid激活函數(shù)；W為權(quán)重矩陣；X為時間序列；b為偏置向量。

1.1.2 LSTM 網(wǎng)絡(luò)結(jié)構(gòu)

LSTM網(wǎng)絡(luò)是對循環(huán)神經(jīng)網(wǎng)絡(luò)（recurrent neural network，RNN）的一種改進(jìn)，其通過加入門結(jié)構(gòu)，有效解決了RNN存在的梯度消失和梯度爆炸[19]。LSTM網(wǎng)絡(luò)中加入的細(xì)胞記憶單元，使得LSTM網(wǎng)絡(luò)具有良好的記憶能力，被廣泛應(yīng)用在時間序列預(yù)測當(dāng)中。LSTM網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。其具體計(jì)算式為

圖1 LSTM網(wǎng)絡(luò)結(jié)構(gòu)單元Fig. 1 Structure unit of LSTM network

式中：Wf、Wi、Wc、Wo為權(quán) 重 矩陣；bf、bi、bc、bo為 對應(yīng)的偏置向量； ta nh為雙曲正切函數(shù)；?為點(diǎn)乘；ht?1為上一時刻的輸出；ft為保留程度值；Ct?1為上一時刻的記憶狀態(tài)；it為當(dāng)前時刻狀態(tài)的添加程度值；為中間狀態(tài)；Ct為當(dāng)前狀態(tài)；ot為輸出程度值；ht為當(dāng)前時刻的輸出；xt為當(dāng)前時刻的輸入。

1.2 GRU網(wǎng)絡(luò)模塊

GRU網(wǎng)絡(luò)是在LSTM網(wǎng)絡(luò)基礎(chǔ)上改進(jìn)的一種網(wǎng)絡(luò)，通過將LSTM網(wǎng)絡(luò)中的遺忘門和輸入門改進(jìn)為更新門。在結(jié)構(gòu)上只有更新門和重置門兩個門結(jié)構(gòu)。更新門用于決定前一時刻的狀態(tài)信息在當(dāng)前時刻學(xué)習(xí)中的保留程度，更新門值越大，保留程度越大。重置門用于控制前一時刻的狀態(tài)信息與當(dāng)前時刻狀態(tài)信息的結(jié)合程度，重置門值越大，結(jié)合度越大。簡化后的GRU網(wǎng)絡(luò)與LSTM網(wǎng)絡(luò)相比而言，減少了訓(xùn)練參數(shù)，降低了學(xué)習(xí)時間要求，并且在大多數(shù)的預(yù)測中預(yù)測效果優(yōu)于LSTM網(wǎng)絡(luò)[20]。GRU的結(jié)構(gòu)單元如圖2所示，其具體計(jì)算式為

圖2 GRU網(wǎng)絡(luò)結(jié)構(gòu)單元Fig. 2 Structure unit of GRU network

式中：Wz、Wr、Wh、Uz、Ur、Uh為權(quán)重矩陣；bz、br、bh為 對 應(yīng) 的偏置向量 ；rt為ht?1與xt的結(jié) 合程 度 值 ；zt為ht?1與xt的 保 留 程 度 值 ；為ht?1與xt的更新狀態(tài)。

1.3 自適應(yīng)權(quán)重模塊

為了降低組合模型的預(yù)測誤差，提出一種自適應(yīng)權(quán)重方法，并構(gòu)造出相應(yīng)的自適應(yīng)權(quán)重模塊。自適應(yīng)權(quán)重模塊原理如圖3所示。

圖3 自適應(yīng)權(quán)重模塊原理示意Fig. 3 Schematic diagram of adaptive weight module

風(fēng)電功率主要由風(fēng)速和空氣密度決定，風(fēng)電設(shè)備所處環(huán)境中的濕度、溫度、氣壓對空氣密度有一定影響[21]。全面考慮影響風(fēng)電功率的氣象因素，選擇風(fēng)速、風(fēng)向、濕度、溫度、氣壓、空氣密度氣象特征作為組合預(yù)測模型的輸入。即為預(yù)測時段數(shù)量），其中分別為時刻t的風(fēng)速、風(fēng)向、濕度、溫度、氣壓、空氣密度。為GRU模塊的輸出,為CNN-LSTM模塊的輸出。GRU模塊和CNN-LST M模塊的輸出維度均為96。自適應(yīng)權(quán)重模塊首先通過Dense層分別為2個模塊的輸出賦予不同的權(quán)重矩陣 α 、β后，得到然后通過Add層將線性相加得到維度為96的風(fēng)電功率預(yù)測值其具體計(jì)算式為

α、 β 作為組合預(yù)測模型的參數(shù)，在組合模型學(xué)習(xí)訓(xùn)練的同時得出最優(yōu)值，其尋優(yōu)公式為

式中：yloss為組合預(yù)測模型的預(yù)測誤差值；為時刻t的預(yù)測值；yt為時刻t的真實(shí)值。

1.4 CNN-LSTM&GRU預(yù)測模型

所提的CNN-LSTM&GRU短期風(fēng)電功率組合預(yù)測模型如圖4所示。首先針對LSTM網(wǎng)絡(luò)不能挖掘非連續(xù)數(shù)據(jù)間潛在聯(lián)系的缺點(diǎn)，在LSTM網(wǎng)絡(luò)之前加入CNN局部特征提取模塊。利用CNN網(wǎng)絡(luò)提取數(shù)據(jù)局部特征、LSTM網(wǎng)絡(luò)提取數(shù)據(jù)的時序特征并進(jìn)行學(xué)習(xí)預(yù)測。其次，針對單一模型難以獲得最優(yōu)結(jié)果的問題，將融合了特征提取模塊的CNN-LSTM網(wǎng)絡(luò)與其改進(jìn)的GRU網(wǎng)絡(luò)組合進(jìn)行預(yù)測，然后自適應(yīng)權(quán)重模塊利用式（12）（13）為CNN-LSTM網(wǎng)絡(luò)模塊和GRU網(wǎng)絡(luò)模塊輸出配權(quán)。最終構(gòu)造出基于自適應(yīng)權(quán)重的CNNLSTM&GRU組合預(yù)測模型。

圖4 CNN-LSTM&GRU模型結(jié)構(gòu)Fig. 4 Structure of CNN-LSTM&GRU model

2 輸入數(shù)據(jù)處理及預(yù)測流程

2.1 異常數(shù)據(jù)處理

由于數(shù)據(jù)的存儲和傳遞過程中會存在數(shù)據(jù)異常和缺失問題，這些異常數(shù)據(jù)會對模型的預(yù)測精度造成一定的影響，因此需要對異常數(shù)據(jù)進(jìn)行處理。采用四分位法對異常數(shù)據(jù)進(jìn)行清洗，其具體計(jì)算步驟見文獻(xiàn)[22]。最終得到正常風(fēng)電數(shù)據(jù)的范圍為

式中：dl、dh為正常數(shù)據(jù)的下界和上界；Q1、Q3分別為NWP數(shù)據(jù)的第1個、第3個分位數(shù)；IQR為四分位距。當(dāng)某一時刻風(fēng)電數(shù)據(jù)小于dl或者大于dh中的對應(yīng)時刻的數(shù)據(jù)時，此刻的數(shù)據(jù)就屬于異常數(shù)據(jù)，需要清洗掉。在對異常數(shù)據(jù)清洗以后，基于插值法對缺失數(shù)據(jù)和異常清洗掉的數(shù)據(jù)進(jìn)行填充，即

2.2 歸一化處理

由于不同氣象特征數(shù)據(jù)量綱不同，為了防止不同量綱對模型學(xué)習(xí)造成影響，同時提高模型的訓(xùn)練速度與收斂性，需要對輸入進(jìn)行歸一化處理[23]?？紤]到風(fēng)向特征的物理意義，通過三角函數(shù)對其進(jìn)行歸一化處理，即

對其他特征數(shù)據(jù)和功率數(shù)據(jù)進(jìn)行歸一化處理，即

考慮到風(fēng)電功率的物理意義，需要在預(yù)測結(jié)束后對預(yù)測結(jié)果進(jìn)行反歸一化，即

2.3 預(yù)測流程

為提高風(fēng)電功率的預(yù)測精度，本文基于CNN、LSTM、GRU 3種神經(jīng)網(wǎng)絡(luò)構(gòu)建了融合局部數(shù)據(jù)特征提取的CNN-LSTM網(wǎng)絡(luò)與GRU網(wǎng)絡(luò)的組合預(yù)測模型，并提出了一種自適應(yīng)權(quán)重方法，為各模塊輸出賦予最佳權(quán)重。預(yù)測流程主要包含以下幾個步驟。

（1）異常數(shù)據(jù)數(shù)據(jù)處理。根據(jù)文獻(xiàn)[22]中的處理方法，對NWP數(shù)據(jù)和功率數(shù)據(jù)中的異常數(shù)據(jù)進(jìn)行清洗，對缺失數(shù)據(jù)進(jìn)行填充。

（2）數(shù)據(jù)歸一化。將數(shù)據(jù)集劃分為訓(xùn)練集、驗(yàn)證集、測試集3個部分，利用式（18）～（21）對數(shù)據(jù)進(jìn)行歸一化。在預(yù)測結(jié)束后利用式（22）對預(yù)測結(jié)果進(jìn)行反歸一化，使得預(yù)測結(jié)果具有物理意義。

（3）輸入數(shù)據(jù)重構(gòu)。將訓(xùn)練集、驗(yàn)證集、測試集3個部分選擇對應(yīng)寬度的滑動窗口逐步向后滾動，將原始數(shù)據(jù)進(jìn)行分批重構(gòu)。重構(gòu)后的輸入數(shù)據(jù)為為時刻t對應(yīng)的氣象特征；對應(yīng)的輸出序列為y=[y1,y2,···,yn?1,yn]。

（4）訓(xùn)練模型并構(gòu)建出最優(yōu)模型。將訓(xùn)練集數(shù)據(jù)輸入CNN-LSTM&GRU組合預(yù)測模型中進(jìn)行學(xué)習(xí)訓(xùn)練，并在每次訓(xùn)練結(jié)束后對驗(yàn)證集數(shù)據(jù)進(jìn)行預(yù)測，對預(yù)測誤差進(jìn)行比較，選出誤差低的超參數(shù)，構(gòu)建出最優(yōu)組合預(yù)測模型。

（5）待預(yù)測日功率預(yù)測。將測試集的NWP數(shù)據(jù)輸入CNN-LSTM&GRU組合預(yù)測模型中，預(yù)測出待預(yù)測日的96點(diǎn)風(fēng)電功率，并對預(yù)測效果進(jìn)行評價。

3 算例分析

為驗(yàn)證所提組合預(yù)測模型對預(yù)測精度提升的可行性，采用中國西北某風(fēng)電場的風(fēng)電數(shù)據(jù)進(jìn)行研究實(shí)驗(yàn)。數(shù)據(jù)包含NWP數(shù)據(jù)與實(shí)時風(fēng)電功率數(shù)據(jù)，時間跨度為2019-10-01T00：00—2020-09-30T23：45，記錄間隔為15 min。風(fēng)電功率短期預(yù)測以分鐘或者小時為采樣單位，預(yù)測未來12～72 h范圍內(nèi)的功率[24]。此次短期預(yù)測的目標(biāo)為未來一天24 h的96個風(fēng)電功率值。模型的輸入為風(fēng)電數(shù)據(jù)的氣象因素：風(fēng)速、風(fēng)向、濕度、溫度、氣壓、空氣密度，模型的輸出為待預(yù)測日的風(fēng)電功率。將2019-10-01—2020-07-31的數(shù)據(jù)作為訓(xùn)練集，2020-08-01—08-31的數(shù)據(jù)作為驗(yàn)證集，2020-09-01—09-30的數(shù)據(jù)作為測試集。最后將所提模型與Elman模型、XGBoost模型、LSTM模型、GRU模型、串行CNN-LSTM網(wǎng)絡(luò)模型、串行CNN-GRU模型進(jìn)行對比分析。

3.1 實(shí)驗(yàn)環(huán)境

實(shí)驗(yàn)硬件平臺為 Intel Pentium G5400，內(nèi)存為8.00 GB，固態(tài)硬盤容量為 200 GB，GPU 顯卡為NVIDA GeForce GTX 1060。程序基于 tensorflow2.0深度學(xué)習(xí)庫采用Python語言編寫，該學(xué)習(xí)庫具有模塊化的優(yōu)點(diǎn)，支持模型層之間的自由組合與疊加。

3.2 評價指標(biāo)

實(shí)驗(yàn)使用平均絕對誤差(MAE)、均方根誤差(RMSE)、決定系數(shù)(R-Square)3個指標(biāo)對模型的預(yù)測效果進(jìn)行評價[25-26]。其公式如下。

3.3 預(yù) 測 模 型 結(jié) 構(gòu) 設(shè) 計(jì)

3.3.1 CNN-LSTM 網(wǎng)絡(luò)預(yù)測模塊參數(shù)設(shè)計(jì)

CNN-LSTM網(wǎng)絡(luò)模塊初始設(shè)置如下。CNN特征提取模塊：一層Conv1 D層，卷積核數(shù)為16，大小為2；LSTM模塊：LSTM網(wǎng)絡(luò)為一層，神經(jīng)元數(shù)為16，隨機(jī)失活系數(shù)為0.01。在實(shí)驗(yàn)中，首先不改變CNN特征提取模塊參數(shù)，分析LSTM網(wǎng)絡(luò)的單元數(shù)量和層數(shù)對模型預(yù)測結(jié)果的影響，確定LSTM網(wǎng)絡(luò)的最佳參數(shù)。然后LSTM網(wǎng)絡(luò)參數(shù)不變，分析CNN網(wǎng)絡(luò)層數(shù)、卷積核數(shù)目對模型預(yù)測結(jié)果的影響，確定出CNN特征提取模塊的最佳參數(shù)。最終得出CNN-LSTM網(wǎng)絡(luò)參數(shù)。實(shí)驗(yàn)中學(xué)習(xí)訓(xùn)練次數(shù)均為80次，實(shí)驗(yàn)結(jié)果見表1和表2。

表1 LSTM網(wǎng)絡(luò)參數(shù)設(shè)置預(yù)測結(jié)果對比Table 1 Comparison of prediction results of different LSTM network parameter settings

由表1和表2實(shí)驗(yàn)結(jié)果可知，CNN-LSTM網(wǎng)絡(luò)模塊的最佳的網(wǎng)絡(luò)框架結(jié)構(gòu)為：CNN局部特征提取模塊為1層Conv1 D層，卷積核數(shù)為16，大小為4，其后加入BatchNormalization層和Maxpool1 D層。LSTM網(wǎng)絡(luò)預(yù)測模塊為3層，各層神經(jīng)元數(shù)目均為16。

表2 CNN特征提取模塊參數(shù)設(shè)置預(yù)測結(jié)果對比Table 2 Comparison of prediction results of different CNN feature extraction module parameter settings

3.3.2 GR U 網(wǎng)絡(luò)預(yù)測模塊參數(shù)設(shè)計(jì)

針對GRU網(wǎng)絡(luò)模塊，主要分析神經(jīng)元數(shù)目與層數(shù)對預(yù)測模型結(jié)果的影響，初始參數(shù)設(shè)置為1層GRU，神經(jīng)元數(shù)目為16，隨機(jī)失活系數(shù)為0.01。訓(xùn)練次數(shù)均為80次，實(shí)驗(yàn)結(jié)果見表3。

表3 GRU網(wǎng)絡(luò)參數(shù)設(shè)置預(yù)測結(jié)果對比Table 3 Comparison of prediction results of different GRU network parameter settings

由表3實(shí)驗(yàn)結(jié)果，可以得出GRU模塊框架結(jié)構(gòu)的最佳參數(shù)為：3層GRU，神經(jīng)元數(shù)目依次為64、32、16。綜合3.3.1的實(shí)驗(yàn)，最終確定出組合預(yù)測模型的最佳參數(shù)，CNN提取模塊為1層CNN、LSTM網(wǎng)絡(luò)為3層、GRU網(wǎng)絡(luò)為3層，其具體參數(shù)見表4。

表4 組合預(yù)測模型結(jié)構(gòu)與參數(shù)Table 4 Structural parameters of combined prediction model

3.4 預(yù)測結(jié)果及分析

為驗(yàn)證基于自適應(yīng)權(quán)重的CNN-LSTM&GRU短期風(fēng)電功率組合預(yù)測模型的可行性，將所提模型與Elman模型、XGBoost模型、LSTM模型、GRU模型、串行CNN-LSTM模型、串行CNNGRU模型的預(yù)測效果進(jìn)行對比。為了避免單次實(shí)驗(yàn)的偶然性，保證實(shí)驗(yàn)結(jié)果的可信性，在相同條件下分別對測試集進(jìn)行10次實(shí)驗(yàn)。結(jié)果如表5所示。根據(jù)預(yù)測結(jié)果可知，所提組合模型性能最佳，而Elman神經(jīng)網(wǎng)絡(luò)預(yù)測效果最差。

表5 各模型9月份預(yù)測結(jié)果Table 5 Prediction results of each model in September

由表5可以看出，所提組合預(yù)測模型相較于Elman、XGBoost、LSTM、GRU單一預(yù)測模型，RMSE分別降低了50.03%、20.29%、31.05%、17.50%；MAE分別降低了52.76%、18.68%、32.38%、18.06%；決定系數(shù)R2分別提高了14.58%、2.46%、4.92%、2.02%。相較于CNN-LSTM、CNNGRU組合預(yù)測模型，RMSE分別降低了19.91%、21.45%；MAE分別降低了14.55%、19.83%；決定系數(shù)R2分別提高了2.35%、2.68%。模型的各性能指標(biāo)具體值只能用于證明在相同條件下所提模型相較于對比模型更優(yōu)，并不能用于證明在其他數(shù)據(jù)風(fēng)電功率預(yù)測中各性能指標(biāo)具體值也能達(dá)到此值。

表6為各個模型10次訓(xùn)練和預(yù)測時間的平均值。其中LSTM模型、GRU模型、串行CNN-LSTM模型、串行CNN-GRU模型、CNN-LSTM&GRU模型的訓(xùn)練與預(yù)測均在GPU上完成。由表6可以看出，Elman模型的時間雖然最短，但其精度太低，失去了預(yù)測的意義。本文所提模型訓(xùn)練所需的時間雖然高于其他模型，但是預(yù)測時間與其他深度神經(jīng)網(wǎng)絡(luò)模型預(yù)測時間相比，增加幅度不大并且預(yù)測精度最高。

表6 各模型所需時間對比Table 6 Comparison of the time required by each model

圖5為各模型對9月1日、9月15日、9月28日風(fēng)電功率預(yù)測結(jié)果的評價指標(biāo)對比。從圖5 a)和圖5 b)可以看出，對于這3天風(fēng)電功率的預(yù)測，CNN-LSTM&GRU組合預(yù)測模型的RMSE值和MAE值都是最低的，預(yù)測效果最好。從圖5 c)中可以看出Elman模型的擬合程度是最差的，其余模型對于3天的真實(shí)值擬合度相對較好，且本文所提組合預(yù)測模型的擬合度最好。綜合各指標(biāo)，可以看出本文所提組合模型相較于其他模型具有更高的預(yù)測精度。

圖5 某日單一模型、組合模型預(yù)測結(jié)果評價指標(biāo)對比Fig. 5 Comparison of evaluation indicators of results predicted by single models and combined models on a day

圖6為所提組合預(yù)測模型與單一預(yù)測模型9月1日、9月15日、9月28日風(fēng)電功率預(yù)測曲線。

圖6 a)為9月1日的風(fēng)電功率預(yù)測值與真實(shí)值曲線，可以看出在采樣點(diǎn)65～78，單一模型的預(yù)測值明顯偏離實(shí)際值，而本文所提模型可以較好地預(yù)測出風(fēng)電功率。

圖6 b)為9月15日的風(fēng)電功率預(yù)測值與真實(shí)值曲線，可以看出雖然各個模型都能基本預(yù)測出風(fēng)電功率的變化趨勢，但是CNN-LSTM&GRU模型的預(yù)測值更接近真實(shí)值，擬合程度最好。

圖6 c)為9月28日的風(fēng)電功率預(yù)測值與真實(shí)值曲線，可以看出大部分模型都能較好地預(yù)測出風(fēng)電功率，擬合程度較好。但Elman模型在采樣點(diǎn)42～96未能較好地預(yù)測出風(fēng)電功率，LSTM模型在采樣點(diǎn)42～50未能較好預(yù)測出風(fēng)電功率，GRU模型在采樣點(diǎn)50～76未能較好預(yù)測出風(fēng)電功率。

由圖6整體可知，對于相同的測試樣本，單一模型對風(fēng)電功率真實(shí)值的擬合程度低于本文所提CNN-LSTM&GRU組合預(yù)測模型。其中Elman模型預(yù)測效果最差；對LSTM網(wǎng)絡(luò)改進(jìn)的GRU深度學(xué)習(xí)網(wǎng)絡(luò)的預(yù)測結(jié)果有明顯改進(jìn)。所提組合預(yù)測模型首先通過融合數(shù)據(jù)局部特征提取模塊構(gòu)建出CNN-LSTM模塊，實(shí)現(xiàn)了對數(shù)據(jù)特征的進(jìn)一步挖掘，提高了LSTM網(wǎng)絡(luò)的預(yù)測精度。然后利用自適應(yīng)權(quán)重模塊，為CNN-LSTM網(wǎng)絡(luò)和GRU網(wǎng)絡(luò)輸出進(jìn)行配權(quán)，更好地綜合了CNN-LSTM網(wǎng)絡(luò)和GRU網(wǎng)絡(luò)的優(yōu)勢，對真實(shí)值的擬合度最好。

圖6 某日單一模型、組合模型預(yù)測曲線與真實(shí)曲線對比Fig. 6 Comparison of curves predicted by single models and combined models with the real curves on a day

圖7 某日多種組合預(yù)測模型預(yù)測曲線與真實(shí)曲線對比Fig. 7 Comparison of curves predicted by several combined model with the real curve on a day

圖7分別為CNN-LSTM&GRU、CNN-LSTM、CNN-GRU組合預(yù)測模型9月1日、9月15日、9月28日的風(fēng)電功率預(yù)測曲線。從圖7整體可知，各組合預(yù)測模型基本擬合了真實(shí)值曲線。利用CNN挖掘數(shù)據(jù)的局部特征、LSTM網(wǎng)絡(luò)進(jìn)行預(yù)測的CNN-LSTM組合預(yù)測模型，相較于單一的LSTM網(wǎng)絡(luò)擬合程度明顯提升。從圖7 a)采樣點(diǎn)65～78 范圍和圖 7 c) 采樣點(diǎn) 65～78 范圍可以看出，在CNN-LSTM組合預(yù)測模型和GRU預(yù)測模型擬合程度較差時，通過自適應(yīng)權(quán)重模塊為GRU模塊和CNN-LSTM模塊輸出配權(quán)的CNN-LSTM&GRU組合預(yù)測模型相對于CNN-LSTM和GRU預(yù)測模型擬合程度明顯提高，基本擬合了風(fēng)電功率真實(shí)值。

4 結(jié)論

針對電力系統(tǒng)對短期風(fēng)電功率預(yù)測精度更高的要求，本文提出了一種基于自適應(yīng)權(quán)重的CNNLSTM&GRU多模型組合短期風(fēng)電功率預(yù)測方法。預(yù)測結(jié)果表明，所提組合預(yù)測模型相較于Elman、XGBoost、LSTM、GRU單一預(yù)測模型，RMSE分別降低50.03%、20.29%、31.05%、17.50%；MAE分別降低52.76%、18.68%、32.38%、18.06%；決定系數(shù)R2分別提高了14.58%、2.46%、4.92%、2.02%。所提組合預(yù)測模型的主要特點(diǎn)如下。

（1）利用CNN網(wǎng)絡(luò)對數(shù)據(jù)的局部特征進(jìn)行提取，然后利用LSTM網(wǎng)絡(luò)對時間序列進(jìn)行學(xué)習(xí)預(yù)測，實(shí)現(xiàn)了對數(shù)據(jù)特征的深度挖掘。

（2）將CNN-LSTM網(wǎng)絡(luò)與GRU網(wǎng)絡(luò)同時用于預(yù)測，避免了單一預(yù)測模型預(yù)測難以獲得最優(yōu)結(jié)果的問題。

（3）自適應(yīng)權(quán)重模塊作為組合模型的一部分，在組合模型學(xué)習(xí)訓(xùn)練時為CNN-LSTM模塊與GRU模塊的輸出尋找出最佳的權(quán)重，提高了組合模型的預(yù)測精度。

（4）解決了單一模型難以獲得最優(yōu)結(jié)果的問題，為提高短期風(fēng)電功率預(yù)測精度提供了新的思路和方法。