劉科 王玲霞 苗伊 王梓霽 尚虹霖
DOI:10.19850/j.cnki.2096-4706.2024.01.035
收稿日期:2023-07-13
摘? 要:文章介紹一種解決電力市場(chǎng)價(jià)格波動(dòng)的電價(jià)預(yù)測(cè)方法。該方法利用卷積神經(jīng)網(wǎng)絡(luò)提取輸入序列的局部特征,并降維處理。同時(shí),應(yīng)用時(shí)序模式注意力機(jī)制,考慮不同時(shí)間步之間的依賴(lài)關(guān)系,為每個(gè)時(shí)間步分配權(quán)重,優(yōu)化門(mén)控循環(huán)單元的輸入特征。該模型在TGE數(shù)據(jù)集上進(jìn)行了驗(yàn)證,并與其他算法進(jìn)行了比較,結(jié)果在各項(xiàng)評(píng)價(jià)指標(biāo)上均達(dá)到最優(yōu),證實(shí)了其適應(yīng)性和在電力現(xiàn)貨市場(chǎng)中的可行性。
關(guān)鍵詞:時(shí)序模式注意力;循環(huán)神經(jīng)網(wǎng)絡(luò);電價(jià)預(yù)測(cè);卷積神經(jīng)網(wǎng)絡(luò);GRU
中圖分類(lèi)號(hào):TP18;TM715? ? ? 文獻(xiàn)標(biāo)識(shí)碼:A? ? ? 文章編號(hào):2096-4706(2024)01-0165-06
Research and Application of Electricity Price Prediction Model Based on CNN-TPA-GRU
LIU Ke1, WANG Lingxia1, MIAO Yi1, WANG Ziji2, SHANG Honglin2
(1.Inner Mongolia Longyuan New Energy Development Co., Ltd., Hohhot? 010000, China;
2.North China Electric Power University (Baoding), Baoding? 071003, China)
Abstract: This paper introduces a method of electricity price prediction to solve the fluctuation of electricity market price. In this method, Convolution Neural Networks are used to extract local features of input sequences and reduce dimensionality. At the same time, the Temporal Pattern Attention mechanism is applied to consider the dependencies between different time steps, assign weights to each time step, and optimize input characteristics of the Gate Recurrent Unit. The model is verified on TGE dataset, and compares with other algorithms, and reaches the optimal in each evaluation index, which confirmed its adaptability and feasibility in the power spot market.
Keywords: temporal pattern attention; Recurrent Neural Network; electricity price prediction; Convolutional Neural Network; GRU
0? 引? 言
近年來(lái),許多國(guó)家紛紛實(shí)行了電力市場(chǎng)自由化,這意味著電力市場(chǎng)的參與者不再受限于單一供應(yīng)商,而可以自由選擇電力供應(yīng)商和購(gòu)買(mǎi)方式。在電力市場(chǎng)自由化建立以來(lái),準(zhǔn)確預(yù)測(cè)電力價(jià)格一直是一個(gè)關(guān)鍵的目標(biāo),因?yàn)樗苯佑绊懙侥茉垂镜陌l(fā)電成本和利潤(rùn)優(yōu)化,尤其在能源公司的決策和戰(zhàn)略制定中,價(jià)格預(yù)測(cè)已經(jīng)成為一項(xiàng)必不可少的投入。準(zhǔn)確的價(jià)格預(yù)測(cè)有助于電力企業(yè)制定更有效的發(fā)電計(jì)劃,優(yōu)化能源資源的利用,提高電力供應(yīng)的穩(wěn)定性和可靠性,從而實(shí)現(xiàn)企業(yè)的盈利最大化。
目前,針對(duì)電價(jià)預(yù)測(cè)的方法主要包括兩類(lèi),分別為基于統(tǒng)計(jì)學(xué)的方法和基于機(jī)器學(xué)習(xí)的方法。統(tǒng)計(jì)學(xué)的方法包括歸條件異方差[1]和隱馬爾科夫模型[2]等,通過(guò)學(xué)習(xí)不同時(shí)刻的電價(jià)遞歸關(guān)系實(shí)現(xiàn)電價(jià)預(yù)測(cè),但是由于電價(jià)序列的復(fù)雜特征,如高波動(dòng)性和非平穩(wěn)性,預(yù)測(cè)效果并不佳。而在機(jī)器學(xué)習(xí)中采用支持向量機(jī)回歸[3]等算法,通過(guò)引入用電負(fù)荷、天氣、二氧化碳排放限額等相關(guān)信息,訓(xùn)練大量電力數(shù)據(jù),可以在一定程度上提高預(yù)測(cè)精度,發(fā)現(xiàn)輸出和輸入之間的映射關(guān)系,但這類(lèi)方法難以挖掘特征在非線(xiàn)性時(shí)間序列上的規(guī)律,預(yù)測(cè)精度還有提高的空間。
近年來(lái),隨著深度學(xué)習(xí)的廣泛應(yīng)用,許多學(xué)者將其應(yīng)用在電價(jià)預(yù)測(cè)中,針對(duì)電價(jià)序列的非線(xiàn)性等特點(diǎn),早期研究者們使用循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network, RNN)[4]進(jìn)行預(yù)測(cè),但是在處理較長(zhǎng)的時(shí)間序列時(shí),容易出現(xiàn)梯度爆炸或者梯度消失的問(wèn)題,導(dǎo)致時(shí)間序列預(yù)測(cè)不準(zhǔn)確。文獻(xiàn)[5]提出基于FBM驅(qū)動(dòng)的隨機(jī)微分方程,其被離散化為一個(gè)離散增量模型,用于預(yù)測(cè)電價(jià)。但是這種傳統(tǒng)方法仍然不能很好地歸納輸入與輸出二者直接的內(nèi)在聯(lián)系。為了解決上述問(wèn)題,研究學(xué)者們又提出了長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)(Long Short Term Memory, LSTM)[6-8],循環(huán)神經(jīng)網(wǎng)絡(luò)中的門(mén)控循環(huán)單元網(wǎng)絡(luò)(Gate Recurrent Unit, GRU)[9]等算法。深度學(xué)習(xí)方法在不同尺度的時(shí)間序列預(yù)測(cè)中具有更大的適應(yīng)性和準(zhǔn)確性。
卷積神經(jīng)網(wǎng)絡(luò) (Convolution Neural Networks, CNN)[10]對(duì)輸入的時(shí)序數(shù)據(jù)只能捕捉局部信息,必須通過(guò)層疊來(lái)獲取全局的聯(lián)系增強(qiáng)視野,而注意力機(jī)制可以靈活地捕捉全局與局部的聯(lián)系,補(bǔ)齊CNN的短板?;诖?,本文提出基于時(shí)序注意力機(jī)制的CNN-GRU短期電價(jià)預(yù)測(cè)模型,通過(guò)對(duì)序列數(shù)據(jù)中不同時(shí)間步的重要性進(jìn)行建模,以解決傳統(tǒng)電價(jià)預(yù)測(cè)模型存在的計(jì)算效率低、在電價(jià)跳躍點(diǎn)與尖峰點(diǎn)預(yù)測(cè)精度不高的問(wèn)題。
1? 相關(guān)工作
1.1? 時(shí)序注意力機(jī)制
時(shí)序注意力機(jī)制[11]是一種用于序列數(shù)據(jù)的注意力機(jī)制,主要在處理序列數(shù)據(jù)時(shí)提取有用的信息。如圖1所示,時(shí)序注意力模型會(huì)學(xué)習(xí)一個(gè)權(quán)重向量,用于給輸入序列中不同的時(shí)間步分配不同的權(quán)重,以強(qiáng)調(diào)重要的時(shí)間步和抑制不重要的時(shí)間步。
在電價(jià)預(yù)測(cè)任務(wù)中時(shí)序注意力機(jī)制用于從歷史電價(jià)時(shí)間序列中提取有用的信息。時(shí)序注意力可以將歷史電價(jià)序列和其他特征輸入到帶有時(shí)序注意力機(jī)制的深度學(xué)習(xí)模型中,模型會(huì)學(xué)習(xí)歷史時(shí)間步之間的關(guān)系,并為不同時(shí)間步分配不同的權(quán)重,以強(qiáng)調(diào)重要的時(shí)間步并抑制不重要的時(shí)間步。具體來(lái)說(shuō),時(shí)序注意力機(jī)制可以在每個(gè)歷史時(shí)間步上計(jì)算出一個(gè)注意力權(quán)重向量,將其與歷史電價(jià)序列相乘并求和,得到加權(quán)后的歷史電價(jià)向量。然后,將加權(quán)后的歷史電價(jià)向量和其他特征一起輸入到預(yù)測(cè)模型中進(jìn)行預(yù)測(cè)。在訓(xùn)練過(guò)程中,模型會(huì)通過(guò)最小化預(yù)測(cè)誤差來(lái)優(yōu)化注意力權(quán)重向量的學(xué)習(xí)。綜上所述,時(shí)序注意力機(jī)制可以幫助電價(jià)預(yù)測(cè)模型更好地處理歷史電價(jià)序列中的信息,提高模型的預(yù)測(cè)性能和泛化能力。
1.2? 卷積神經(jīng)網(wǎng)絡(luò)
CNN是一種廣泛應(yīng)用于圖像和視頻等數(shù)據(jù)上的深度學(xué)習(xí)模型。在電價(jià)預(yù)測(cè)中,通常將時(shí)間序列數(shù)據(jù)轉(zhuǎn)換成二維圖像輸入CNN卷積神經(jīng)網(wǎng)絡(luò)中,以學(xué)習(xí)輸入數(shù)據(jù)中的模式和趨勢(shì)。具體地說(shuō),可以將時(shí)間序列數(shù)據(jù)按照一定時(shí)間間隔進(jìn)行切割,將每個(gè)時(shí)間段內(nèi)的數(shù)據(jù)作為一行像素值,將多個(gè)時(shí)間段拼接成一個(gè)二維圖像。二維圖像可以看作圖像的輸入數(shù)據(jù),再使用CNN對(duì)這些圖像進(jìn)行卷積和池化操作,同時(shí)對(duì)電價(jià)時(shí)間序列進(jìn)行降維處理以及二次特征提取,最后通過(guò)全連接層匯總所有卷積單元提取的局部特征,輸出預(yù)測(cè)結(jié)果。CNN不僅可以降低模型的復(fù)雜度,還采用梯度下降優(yōu)化方法,有效減少過(guò)擬合現(xiàn)象,提高模型泛化能力。在電價(jià)預(yù)測(cè)中,CNN可以學(xué)習(xí)到不同時(shí)間段內(nèi)電價(jià)的趨勢(shì)和變化規(guī)律,進(jìn)而預(yù)測(cè)未來(lái)電價(jià)的變化趨勢(shì),提高電力市場(chǎng)參與者的決策效果和利潤(rùn)水平。
1.3? GRU神經(jīng)網(wǎng)絡(luò)
LSTM的記憶單元可以選擇性地保留和遺忘過(guò)去的信息有效地避免了梯度消失問(wèn)題,同時(shí)可以處理更長(zhǎng)的時(shí)間序列。然而由于其內(nèi)部結(jié)構(gòu)較為復(fù)雜,LSTM網(wǎng)絡(luò)的訓(xùn)練較長(zhǎng)。因此,在RNN的基礎(chǔ)上相關(guān)學(xué)者提出一種門(mén)控循環(huán)單元(GRU)神經(jīng)網(wǎng)絡(luò)模型,GRU神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)單元如圖2所示。
如圖2所示,在GRU中,每個(gè)單元包含兩個(gè)門(mén):更新門(mén)(Update Gate)和重置門(mén)(Reset Gate),以及一個(gè)隱藏狀態(tài),其內(nèi)部單元與LSTM的內(nèi)部單元相似。在每個(gè)時(shí)間步,輸入向量和前一個(gè)隱藏狀態(tài)會(huì)經(jīng)過(guò)一定的線(xiàn)性變換,然后會(huì)被送入到兩個(gè)門(mén)控制的記憶細(xì)胞中。重置門(mén)控制著過(guò)去記憶對(duì)當(dāng)前輸入有多少影響,而更新門(mén)則控制著保留多少過(guò)去的記憶,并與當(dāng)前輸入相結(jié)合,并采用sigmoid激活函數(shù)控制二者。通過(guò)這種方式,GRU網(wǎng)絡(luò)可以選擇性地忘記和記憶過(guò)去的信息,并將當(dāng)前的輸入與過(guò)去的信息相結(jié)合,其內(nèi)部關(guān)系[12]如下:
(1)
(2)
(3)
(4)
式中zt為更新門(mén),rt為重置門(mén),輸入x與隱藏層輸出結(jié)果ht-1相加得到ht,σ為sigmoid函數(shù),Wz、Wr、Wh、Uz、Ur、Uh、bz、br、bh為單元的權(quán)重矩陣。相比于LSTM,GRU參數(shù)量更少,在計(jì)算效率和速度方面具有很大優(yōu)勢(shì);同時(shí)由于GRU的結(jié)構(gòu)簡(jiǎn)單,使得其模型更容易優(yōu)化;最后,GRU通過(guò)門(mén)控制著過(guò)去的記憶對(duì)當(dāng)前的輸入有多少影響,同時(shí)控制著保留多少過(guò)去的記憶,并與當(dāng)前輸入相結(jié)合,可以更好地控制信息流動(dòng)。
GRU通過(guò)其門(mén)控機(jī)制來(lái)捕捉序列數(shù)據(jù)中的長(zhǎng)期依賴(lài)關(guān)系,從而經(jīng)常被用于分析歷史電價(jià)數(shù)據(jù)并預(yù)測(cè)未來(lái)的價(jià)格趨勢(shì),廣泛應(yīng)用在電價(jià)預(yù)測(cè)任務(wù)中。此外,對(duì)于電價(jià)預(yù)測(cè)而言,歷史價(jià)格數(shù)據(jù)通常存在一定的時(shí)間相關(guān)性和趨勢(shì),GRU可以從歷史價(jià)格序列中提取出相關(guān)的特征,如季節(jié)性變化等。因此,本文設(shè)計(jì)了基于CNN-TPA-GRU短期電價(jià)預(yù)測(cè)模型,通過(guò)一維卷積提取局部特征,TPA層處理時(shí)間依賴(lài)關(guān)系,GRU層增強(qiáng)表達(dá)和記憶能力。綜合多模態(tài)數(shù)據(jù)和神經(jīng)網(wǎng)絡(luò)融合,有效提高電價(jià)預(yù)測(cè)準(zhǔn)確性。
2? ?CNN-TPA-GRU預(yù)測(cè)模型
2.1? 數(shù)據(jù)歸一化
數(shù)據(jù)歸一化可以將所有特征的取值范圍都縮放到相同的區(qū)間內(nèi),使得不同特征的權(quán)重更加平衡,提高了模型訓(xùn)練的穩(wěn)定性和準(zhǔn)確性。同時(shí),進(jìn)行數(shù)據(jù)歸一化還可以加速模型訓(xùn)練的收斂速度,提高算法的收斂精度,從而更好地實(shí)現(xiàn)數(shù)據(jù)預(yù)處理的目標(biāo)。因此本文將所有數(shù)據(jù)縮放到[0,1]:
(5)
式中Xi為原始數(shù)據(jù)中的第i個(gè)特征,Xi,min和Xi,max分別為該特征的最大值和最小值,Xi,norm為歸一化后得到的值。在預(yù)測(cè)模型輸出結(jié)果時(shí),為了使預(yù)測(cè)結(jié)果具有實(shí)際意義,對(duì)輸出的數(shù)據(jù)進(jìn)行反歸一化,得到預(yù)測(cè)電價(jià)值,計(jì)算方法如式(6)所示:
(6)
2.2? 模型結(jié)構(gòu)
CNN-TPA-GRU模型的整體結(jié)構(gòu)如圖3所示。輸入層接收形狀為“時(shí)間步長(zhǎng),特征維度”的輸入。CNN層接收輸入層的輸入,使用了一維卷積層和ReLU激活函數(shù),一維卷積層的作用是從輸入序列中提取局部特征并降維處理,這些特征可以用于后續(xù)的模型層進(jìn)行進(jìn)一步的特征提取和預(yù)測(cè)。之后再通過(guò)專(zhuān)門(mén)用于處理時(shí)間序列數(shù)據(jù)的TPA層。通過(guò)考慮不同時(shí)間步之間的依賴(lài)關(guān)系來(lái)為每個(gè)時(shí)間步分配權(quán)重,從而實(shí)現(xiàn)對(duì)時(shí)間序列數(shù)據(jù)的特征提取,將注意力權(quán)重與輸入數(shù)據(jù)逐元素相乘,以實(shí)現(xiàn)類(lèi)似的加權(quán)特征表示,并輸出至GRU層。兩個(gè)GRU層由門(mén)控循環(huán)單元組成,用于控制信息的流動(dòng)和過(guò)濾,從而增強(qiáng)模型的表達(dá)能力和記憶能力。在本模型中,第一個(gè)GRU層的輸出將作為第二個(gè)GRU層的輸入,用于傳遞前一層提取的時(shí)間依賴(lài)關(guān)系信息和長(zhǎng)期依賴(lài)關(guān)系信息,之后進(jìn)入扁平化層。扁平化層將GRU層的輸出展平為一個(gè)1D張量,以便連接到全連接層,而全連接層具有100個(gè)神經(jīng)元,用于學(xué)習(xí)更高級(jí)別的特征表示。最后進(jìn)入丟棄層,用于隨機(jī)丟棄一定比例的神經(jīng)元,以防止模型過(guò)擬合,丟棄完成后輸出至輸出層,后續(xù)經(jīng)過(guò)反歸一化,得到最終的預(yù)測(cè)結(jié)果。
電價(jià)預(yù)測(cè)任務(wù)中,除了歷史價(jià)格序列外,本文通過(guò)考慮其他相關(guān)的多模態(tài)數(shù)據(jù),如二氧化碳排放量、風(fēng)發(fā)電量等。CNN具有強(qiáng)大的非線(xiàn)性建模能力,可以學(xué)習(xí)到更高階、更復(fù)雜的特征表示,從而提高電價(jià)預(yù)測(cè)的準(zhǔn)確性;同時(shí)TPA可以在序列數(shù)據(jù)中對(duì)不同時(shí)間步的特征進(jìn)行加權(quán)和選擇。通過(guò)將CNN、TPA和GRU融合,可以有效地融合這些多模態(tài)特征,在大量的歷史電價(jià)數(shù)據(jù)上進(jìn)行訓(xùn)練,可以學(xué)習(xí)到模型的參數(shù)和權(quán)重,使其能夠更好地適應(yīng)電價(jià)預(yù)測(cè)任務(wù),并提高預(yù)測(cè)精度。
3? 實(shí)驗(yàn)驗(yàn)證
3.1? 數(shù)據(jù)集
本文實(shí)驗(yàn)選取來(lái)自波蘭能源交易所(TGE)自2018年1月1日至2020年12月27日的日前市場(chǎng)(Day Ahead Market, DAM)電力交易數(shù)據(jù)作為仿真數(shù)據(jù)集[13]。數(shù)據(jù)集原始數(shù)據(jù)包含實(shí)時(shí)的時(shí)間、電價(jià)(波蘭茲羅提/兆瓦時(shí))、二氧化碳排放限額、用電負(fù)荷、風(fēng)電出力量的序列,每條記錄之間的時(shí)間間隔為一小時(shí),總計(jì)26 207條記錄。
3.2? 實(shí)驗(yàn)設(shè)置
本文實(shí)驗(yàn)選擇Ubuntu操作系統(tǒng)20.04.4 LTS,采用Nvidia RTX A5000(24 GB)GPU加速網(wǎng)絡(luò)訓(xùn)練,Python版本為3.8,CUDA版本為11.7,深度學(xué)習(xí)框架選用Keras 2.9.0。在模型訓(xùn)練過(guò)程中,時(shí)間步長(zhǎng)為30,數(shù)據(jù)特征維度為30,訓(xùn)練輪數(shù)為200,批處理大小為128。一維卷積層的卷積核大小為3×3,過(guò)濾器數(shù)為16。丟棄層丟棄率為0.2。模型使用Adam作為優(yōu)化器,學(xué)習(xí)率為0.01。
3.3? 評(píng)價(jià)指標(biāo)
本文選取均方根誤差(Root Mean Squared Error, RMSE)、平均絕對(duì)誤差(Mean Absolute Error, MAE),平均絕對(duì)百分比誤差(Mean Absolute Percentage Error, MAPE)和準(zhǔn)確率(Accuracy, ACC)作為模型評(píng)價(jià)指標(biāo),計(jì)算公式如下:
(7)
(8)
(9)
(10)
式中,yi為第i個(gè)觀(guān)測(cè)值的真實(shí)值, 為對(duì)應(yīng)的預(yù)測(cè)值,n為樣本數(shù)量。
3.4? DAM電價(jià)特征分析
電價(jià)具有影響因素多、波動(dòng)性強(qiáng)的特點(diǎn)。由于波蘭電力市場(chǎng)風(fēng)電占比較高,DAM電價(jià)波動(dòng)性強(qiáng),常出現(xiàn)電價(jià)跳躍的情況,價(jià)格跳躍和價(jià)格尖峰給電價(jià)預(yù)測(cè)帶來(lái)了巨大的困難,現(xiàn)有的方法很難預(yù)測(cè)出價(jià)格跳躍的準(zhǔn)確時(shí)間和跳躍高度。2018年1月至2020年12月期間DAM的電價(jià)變化曲線(xiàn)如圖4所示,可以看出電價(jià)出現(xiàn)較多尖峰,波動(dòng)較大。
為了體現(xiàn)本文實(shí)現(xiàn)的算法在跳躍點(diǎn)預(yù)測(cè)結(jié)果的優(yōu)越性,選用DAM的電力市場(chǎng)數(shù)據(jù)集進(jìn)行實(shí)驗(yàn)驗(yàn)證。對(duì)電價(jià)時(shí)間序列的分析證實(shí)了電價(jià)的周期性變化性質(zhì)[14]。圖5說(shuō)明了電價(jià)時(shí)間序列的自相關(guān)函數(shù),從中可以看出,給定時(shí)間的電價(jià)受24小時(shí)的倍數(shù)延遲對(duì)應(yīng)的歷史電價(jià)值的顯著影響。
3.5? 數(shù)據(jù)預(yù)處理
本文按照約為6:2:2的比例將數(shù)據(jù)集劃分為訓(xùn)練集、驗(yàn)證集、測(cè)試集,具體劃分的時(shí)間段如表1所示。
在本文選用的DAM電力市場(chǎng)數(shù)據(jù)集中,包含實(shí)時(shí)的時(shí)間、電價(jià)(波蘭茲羅提/兆瓦時(shí))、二氧化碳排放限額、用電負(fù)荷、風(fēng)電出力量的序列。電價(jià)和實(shí)時(shí)負(fù)荷相互關(guān)聯(lián),需求變動(dòng)會(huì)直接影響電價(jià),電價(jià)變化也會(huì)對(duì)能源消費(fèi)產(chǎn)生影響。對(duì)于高風(fēng)電滲透的電力市場(chǎng),加入風(fēng)發(fā)電量作為特征,能夠更好地反映電價(jià)的變化趨勢(shì),提高預(yù)測(cè)準(zhǔn)確率。所以,本文選取實(shí)時(shí)的用電負(fù)荷、風(fēng)發(fā)電量以及1-7天內(nèi)和14天前同一時(shí)刻的電價(jià)、用電負(fù)荷、風(fēng)發(fā)電量的歷史值作為模型輸入,各個(gè)特征與實(shí)時(shí)電價(jià)的皮爾遜相關(guān)系數(shù)如表2所示。表中P為電價(jià),D為用電負(fù)荷,W為風(fēng)發(fā)電量,數(shù)字表示距該時(shí)刻的天數(shù)。
在電力市場(chǎng)中,二氧化碳排放限額管控極為嚴(yán)格,且每日電力交易分為高峰期(Peak Period,07:00—22:00)和非高峰期(Offpeak Period),因此,增加二氧化碳排放限額和是否為高峰期作為模型輸入特征,皮爾遜相關(guān)系數(shù)分別為0.23和0.41。此外,考慮到電力市場(chǎng)節(jié)假日可能用電需求減少,電價(jià)可能有所下降,發(fā)現(xiàn)是否為節(jié)假日這一屬性與實(shí)時(shí)電價(jià)的皮爾遜相關(guān)系數(shù)為-0.32,具有一定的負(fù)相關(guān)性,將其也作為預(yù)測(cè)模型的一個(gè)輸入特征。
3.6? 與其他算法的對(duì)比實(shí)驗(yàn)
為了檢驗(yàn)本文所提出的CNN-TPA-GRU模型的學(xué)習(xí)能力更強(qiáng)、預(yù)測(cè)更準(zhǔn)確的特性,對(duì)測(cè)試集上5 232個(gè)小時(shí)的價(jià)格進(jìn)行了預(yù)測(cè),并分別采用了GRU模型、Attention-GRU模型[15]、Attention-CNN-LSTM模型[16]、CNN-GRU模型和本文提出的CNN-TPA-GRU進(jìn)行對(duì)比。對(duì)這五種預(yù)測(cè)結(jié)果與真實(shí)電價(jià)進(jìn)行了比較分析,選取2020年5月26日至2020年6月6日共計(jì)288個(gè)小時(shí)的預(yù)測(cè)結(jié)果進(jìn)行畫(huà)圖對(duì)比展示,如圖6所示。
從圖6中可以觀(guān)察到,五種算法模型的預(yù)測(cè)值變化趨勢(shì)與真實(shí)值大體上一致。然而,本文提出的CNN-TPA-GRU模型的預(yù)測(cè)值更接近真實(shí)值,而GRU原始模型的預(yù)測(cè)結(jié)果偏離真實(shí)值的差距最大,其后依次是Attention-CNN-LSTM模型、Attention-GRU模型、CNN-GRU模型。造成這種差異的原因主要是在本文提出的模型中,通過(guò)將CNN與TPA結(jié)合,以及考慮不同時(shí)間步之間的依賴(lài)關(guān)系來(lái)為每個(gè)時(shí)間步分配權(quán)重,從而實(shí)現(xiàn)對(duì)時(shí)間序列數(shù)據(jù)的特征提取,優(yōu)先篩選關(guān)鍵信息,以?xún)?yōu)化輸入到GRU網(wǎng)絡(luò)的數(shù)據(jù)。而相較于A(yíng)ttention-CNN-LSTM模型,GRU與LSTM相比,由于GRU沒(méi)有遺忘門(mén),它對(duì)于短期記憶和快速變化的數(shù)據(jù)可以有更好的適應(yīng)性,因此在處理短序列數(shù)據(jù)時(shí),GRU的表現(xiàn)優(yōu)于LSTM。因此,本文提出的CNN-TPA-GRU模型相較于其他四種更為精確。
從表3可以看出,本文提出的CNN-TPA-GRU模型的RMSE相較于GRU、Attention-GRU、Attention-CNN-LSTM、CNN-GRU分別降低了18%、9%、14%、4%,MAE分別降低了17%、8%、16%、5%,MAPE分別降低了17%、13%、16%、6%。各項(xiàng)評(píng)價(jià)指標(biāo)均為本文提出的CNN-TPA-GRU模型最佳,進(jìn)一步印證了對(duì)于圖6的分析,本文提出的CNN-TPA-GRU模型具有良好的精確性。
4? 結(jié)? 論
本文針對(duì)新能源高風(fēng)電滲透的電力市場(chǎng),提出了一種基于CNN-TPA-GRU的市場(chǎng)短期電價(jià)預(yù)測(cè)算法,通過(guò)在卷積神經(jīng)網(wǎng)絡(luò)后加入時(shí)序模式注意力機(jī)制,實(shí)現(xiàn)對(duì)時(shí)間序列數(shù)據(jù)的特征提取,突出了卷積神經(jīng)網(wǎng)絡(luò)處理后的輸入特征中的關(guān)鍵信息。同時(shí),加入風(fēng)發(fā)電量和二氧化碳限額作為輸入特征,能更準(zhǔn)確地反映電價(jià)去變化趨勢(shì),提升準(zhǔn)確率,符合目前大力構(gòu)建以新能源為主體的新型電力系統(tǒng)的現(xiàn)狀。同時(shí),本文采用TGE數(shù)據(jù)集進(jìn)行分析,通過(guò)與各種算法進(jìn)行對(duì)比,本文的模型在各種評(píng)價(jià)指標(biāo)上均達(dá)到了最優(yōu),相比于A(yíng)ttention-CNN-LSTM等算法,本文模型對(duì)于短期記憶和快速變化的數(shù)據(jù)可以有更好的適應(yīng)性,同時(shí)由于卷積神經(jīng)網(wǎng)絡(luò)的加入,更加優(yōu)化了特征提取過(guò)程,在不丟失重要信息的情況下降低輸入數(shù)據(jù)的維度,從而減少模型中的參數(shù)數(shù)量和計(jì)算復(fù)雜度。綜合上所述,CNN-TPA-GRU能很好地解決新能源大量并入的電力現(xiàn)貨市場(chǎng)短期電價(jià)預(yù)測(cè)問(wèn)題,有著廣闊的應(yīng)用場(chǎng)景。
參考文獻(xiàn):
[1] 樊宇琦,丁濤,孫瑜歌,等.國(guó)內(nèi)外促進(jìn)可再生能源消納的電力現(xiàn)貨市場(chǎng)發(fā)展綜述與思考 [J].中國(guó)電機(jī)工程學(xué)報(bào),2021,41(5):1729-1752.
[2] 王彩霞,李梓仟,李瓊慧,等.丹麥新能源參與電力市場(chǎng)機(jī)制及對(duì)中國(guó)的啟示 [J].中國(guó)電力,2018,51(9):143-150.
[3] 翟鴻雁,曾晉明,曾紀(jì)霞.基于支持向量機(jī)的電力市場(chǎng)價(jià)格預(yù)測(cè)中的核函數(shù)比較 [J].計(jì)算技術(shù)與自動(dòng)化,2011,30(2):30-33.
[4] GRAVES A,MOHAMED A R,HINTON G.Speech recognition with deep recurrent neural networks [C]//2013 IEEE International Conference on Acoustics,Speech,and Signal Processing (ICASSP).Vancouver:IEEE,2013:6645-6649.
[5] JAHANGIR H,TAYARANI H,BAGHALI S,et al. A novel Electricity Price Forecasting Approach Based on Dimension Reduction Strategy and Rough Artificial Neural Networks [J].IEEE Transactions on Industrial Informatics,2020,16(4):2369–2381.
[6] HOCHREITER S,SCHMIDHUBER J.Long short-term memory [EB/OL].[2023-06-29].https://max.book118.com/html/2017/0630/5030331033001034.shtm.
[7] DAS R,BO R,REHMAN W U,et al. Cross-Market Price Difference Forecast Using Deep Learning for Electricity Markets [C]//2020 IEEE PES Innovative Smart Grid Technologies Europe (ISGT-Europe).The Hague:IEEE,2020:854-858.
[8] BUI D M,LE P D,CAO T M,et al. A Statistical Data-Filtering Method Proposed for Short-Term Load Forecasting Models [J].Journal of Electrical Engineering & Technology,2020,15:1947-1967.
[9] YANG H l,SCHELL K R.HFNet: Forecasting Real-Time Electricity Price via Novel GRU Architectures [C]//2020 International Conference on Probabilistic Methods Applied to Power Systems (PMAPS).Liege:IEEE,2020:1-6.
[10] KRIZHEVSKY A,SUTSKEVER I,HINTON G E. ImageNet Classification with Deep Convolutional Neural Networks [J].Communications of the ACM,2017,60(6):84-90.
[11] SHIH S Y,SUN F K,LEE H Y. Temporal Pattern Attention for Multivariate Time Series Forecasting [J/OL].arXiv:1809.04206 [cs.LG].[2023-06-29].https://arxiv.org/abs/1809.04206v1.
[12] JOZEFOWICZ R,ZAREMBA W,SUTSKEVER I. An empirical exploration of recurrent network architectures [C]//ICML'15: Proceedings of the 32nd International Conference on International Conference on Machine Learning.Lille:JMLR.org,2015,37:2342-2350.
[13] 馮道雨.淺析波蘭電力行業(yè)現(xiàn)狀及發(fā)展趨勢(shì) [J].能源與節(jié)能,2020(10):152-154.
[14] 趙雅雪,王旭,蔣傳文,等.基于最大信息系數(shù)相關(guān)性分析和改進(jìn)多層級(jí)門(mén)控LSTM的短期電價(jià)預(yù)測(cè)方法 [J].中國(guó)電機(jī)工程學(xué)報(bào),2021,41(1):135-146+404.
[15] 謝謙,董立紅,厙向陽(yáng).基于A(yíng)ttention-GRU的短期電價(jià)預(yù)測(cè) [J].電力系統(tǒng)保護(hù)與控制,2020,48(23):154-160.
[16] 吉興全,曾若梅,張玉敏,等.基于注意力機(jī)制的CNN-LSTM短期電價(jià)預(yù)測(cè) [J].電力系統(tǒng)保護(hù)與控制,2022,50(17):125-132.
作者簡(jiǎn)介:劉科(1984—),男,漢族,內(nèi)蒙古呼和浩特人,高級(jí)工程師,碩士,研究方向:電力交易;王玲霞(1984—),女,漢族,內(nèi)蒙古呼和浩特人,工程師,碩士,研究方向:電力交易;苗伊(1989—),女,漢族,山西河曲人,中級(jí)經(jīng)濟(jì)師,本科,研究方向:電力交易;王梓霽(2000—),男,漢族,天津人,碩士研究生,研究方向:機(jī)器學(xué)習(xí)及其應(yīng)用;尚虹霖(1999—),男,漢族,遼寧盤(pán)錦人,碩士研究生,研究方向:機(jī)器學(xué)習(xí)及其應(yīng)用。