基于稀疏自編碼非線性自回歸網(wǎng)絡(luò)的負(fù)荷電價預(yù)測方法

史大洋，路峰迎，李文凱，弓 帥，李 垚，王 欣，魏文震

（1. 山東省建筑設(shè)計研究院有限公司，濟(jì)南 250001；2. 國網(wǎng)山東省電力公司 淄博供電公司，山東 淄博 255000）

0 引言

智能電網(wǎng)是一種廣泛采用通信技術(shù)的現(xiàn)代供電網(wǎng)絡(luò)，它包括自動化、控制和對消費變化做出快速反應(yīng)等技術(shù)模塊［1—2］。智能電網(wǎng)以高效、安全、可靠、經(jīng)濟(jì)、環(huán)保的方式提供能源，利用可再生能源發(fā)電減少碳排放［3—4］，并允許電力用戶和電力公司之間進(jìn)行雙向通信。隨著智能計量基礎(chǔ)設(shè)施的出現(xiàn)，用戶可以提前得知電價，并根據(jù)價格信號，將電力負(fù)荷轉(zhuǎn)移到低價時段以減少電費。由此可見，智能電網(wǎng)創(chuàng)造了一個價格響應(yīng)環(huán)境，價格隨著需求的變化而變化，反之亦然。

隨著智能計量系統(tǒng)的出現(xiàn)，用戶對價格有了更好的認(rèn)識，并能相應(yīng)地改變自己的用電量。在這種背景下，價格和負(fù)荷需求呈現(xiàn)高度相關(guān)性。市場參與者需要可靠的負(fù)荷和價格預(yù)測技術(shù)來最大化他們的利潤。研究表明，負(fù)荷預(yù)測的平均絕對百分比誤差每降低1%，發(fā)電成本將降低0.1%～0.3%［5］。因此，精確負(fù)荷和電價預(yù)測是電力系統(tǒng)中重要的研究內(nèi)容。

目前，已有部分學(xué)者針對提高預(yù)測精度展開研究。文獻(xiàn)［6］指出大規(guī)模新能源接入場景下，新能源的出力波動會導(dǎo)致電價產(chǎn)生波動，加大了預(yù)測難度，針對這一問題，采用自相關(guān)函數(shù)建立電價與電量的關(guān)聯(lián)模型，并在此基礎(chǔ)上使用深度神經(jīng)網(wǎng)絡(luò)進(jìn)行電價預(yù)測；文獻(xiàn)［7］考慮用戶需求側(cè)響應(yīng)對電網(wǎng)用電的影響，提出一種考慮需求響應(yīng)的負(fù)荷預(yù)測方法，來滿足企業(yè)對預(yù)測精度的需求，但該文獻(xiàn)僅進(jìn)行負(fù)荷預(yù)測，未考慮電力市場情境下，市場的實時電價對于系統(tǒng)負(fù)荷需求量影響；文獻(xiàn)［8］考慮了電價變化對負(fù)荷預(yù)測的影響，提出一種居民峰谷電價的響應(yīng)指標(biāo)，并分析了其變化特性，在此基礎(chǔ)上，用負(fù)荷增長率對原有的預(yù)測模型進(jìn)行更正，對電價和負(fù)荷進(jìn)行超短期預(yù)測；文獻(xiàn)［9］、文獻(xiàn)［10］考慮到影響用戶需求響應(yīng)的各類因素，建立徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測，但均未考慮負(fù)荷與電價的相互影響。

電價負(fù)荷預(yù)測物理建模困難且不精確，大量研究表明，基于大數(shù)據(jù)進(jìn)行預(yù)測分析可以提高預(yù)測精度［11］。智能電能表以小時間隔記錄數(shù)據(jù)，每天大約有2.2億次智能電能表測量記錄。對大數(shù)據(jù)進(jìn)行分析有助于電力企業(yè)更深入的了解用戶行為［12］，隨著輸入數(shù)據(jù)量不斷增加，數(shù)據(jù)在空間和時間上的復(fù)雜性顯著增加，基于分類器的模型難以適用。相比之下，深度神經(jīng)網(wǎng)絡(luò)在處理大數(shù)據(jù)上表現(xiàn)非常優(yōu)異［13］，具有良好的自學(xué)習(xí)和非線性逼近能力?？蓪⒂?xùn)練數(shù)據(jù)分組來優(yōu)化空間，將整個數(shù)據(jù)分割后逐批訓(xùn)練，大大提高的數(shù)據(jù)的處理能力。

基于此，本文考慮到電力負(fù)荷與電價之間的高度相關(guān)性，在預(yù)測模型的輸入中引入了電力負(fù)荷和電價的雙向關(guān)系。在此模型的基礎(chǔ)上，提出了一種基于深度學(xué)習(xí)的預(yù)測模型，即稀疏自編碼非線性自回歸網(wǎng)絡(luò)，可利用大數(shù)據(jù)對電力負(fù)荷和電價進(jìn)行準(zhǔn)確的預(yù)測。本文主要貢獻(xiàn)如下:

（1）所提出的方法充分利用大數(shù)據(jù)分析負(fù)荷和電價的關(guān)系，并進(jìn)行數(shù)據(jù)統(tǒng)計和圖形化分析。

（2）提出了一種基于稀疏自編碼器（sparse autoencoder，SAE）的特征提取方法。利用小波去噪作為解碼函數(shù)，顯著提高了提取特征的質(zhì)量，從而提高了SAE 的性能。提取的特征作為預(yù)測模型非線性自回歸網(wǎng)絡(luò)的細(xì)化信息和平滑訓(xùn)練輸入。

本研究旨在幫助電力市場運營商通過歷史大數(shù)據(jù)得到當(dāng)前負(fù)荷和電價預(yù)測值，以用于制定電力市場需求-響應(yīng)方案、發(fā)電計劃，而不是根據(jù)風(fēng)速、天氣等信息預(yù)測發(fā)電量，因此本文未建立系統(tǒng)的物理模型，所有預(yù)測在大數(shù)據(jù)環(huán)境下完成。

1 預(yù)測模型建立

在引出所提出的預(yù)測模型之前，本節(jié)簡要介紹所使用的方法。

1.1 人工神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)（artificial neural network，ANN）的設(shè)計靈感來自于生物神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程，能夠?qū)?shù)據(jù)中隱藏的復(fù)雜關(guān)系進(jìn)行建模。其中多層感知器是ANN最簡單、最基本的結(jié)構(gòu)，由神經(jīng)元、偏置和權(quán)重3部分組成［14］。

深度神經(jīng)網(wǎng)絡(luò)與ANN 相比含有的隱藏層數(shù)目更多，其在計算上更為強(qiáng)大，本文所提出的預(yù)測模型基于深度遞歸神經(jīng)網(wǎng)絡(luò)展開。

1.2 稀疏自編碼器

SAE 為一種無監(jiān)督算法，通過計算自編碼的輸入與輸出的差值，自適應(yīng)調(diào)整自身參數(shù)，練習(xí)得到最終模型，廣泛應(yīng)用于信息壓縮和特征提取。一般來說，在特征提取過程中，隱藏層神經(jīng)元的激活度通常表示為a=σ( )WX+b，其中，W為權(quán)矩陣，b為偏差矩陣。隱含層之中的神經(jīng)元j，其平均激活度ρj表示為

式中:S2為神經(jīng)元在某一隱藏層中的數(shù)量；W為稀疏懲罰權(quán)重。

為更好地提取負(fù)荷-電價特征，在上述SAE 的基礎(chǔ)上，本文提出稀疏自編碼器，從而提高價格和負(fù)荷預(yù)測的精度。在本節(jié)中，我們將詳細(xì)討論所提出的特征提取器。

1.2.1 稀疏自編碼器預(yù)訓(xùn)練

式中:δ(t)為δ函數(shù)；σ為正常數(shù)。之后使用1.2節(jié)中SAE解碼，完成預(yù)訓(xùn)練。

1.2.2 稀疏自編碼器微調(diào)

預(yù)訓(xùn)練之后進(jìn)行微調(diào)，在微調(diào)過程中，將小波去噪作為高效稀疏自解碼器第一隱藏層的傳遞函數(shù)。小波去噪分為兩個步驟:①小波分解；②重構(gòu)去噪。首先，通過高、低通濾波器將輸入時間序列分解到不同的頻帶；然后將噪聲的頻帶置零。利用小波重構(gòu)函數(shù)重構(gòu)信號，小波分解運算可以表示為

在高效稀疏自編碼器特征提取器中，隱藏層一和隱藏層二的神經(jīng)元數(shù)分別為400 個和300 個?？刂茖佣臍w一化權(quán)重系數(shù)設(shè)置為0.001，稀疏歸一化為4，稀疏比例為0.05，最大周期為100，權(quán)重學(xué)習(xí)算法采用共軛梯度下降法。

1.3 非線性自回歸網(wǎng)絡(luò)

非線性自回歸網(wǎng)絡(luò)［17］是一種自回歸遞歸神經(jīng)網(wǎng)絡(luò)，其反饋層含有幾個隱藏層，可以創(chuàng)建輸入和輸出之間的非線性映射。網(wǎng)絡(luò)通過過去值和網(wǎng)絡(luò)預(yù)測值的遞歸關(guān)系進(jìn)行學(xué)習(xí)［18］。非線性自回歸網(wǎng)絡(luò)可以用以下公式來解釋

y(t+1)=f(y(t),y(t-1),…,y(t-d),x(t+1),x(t),…,x(t-d))+ε(t) （9）式中:y(t+1)為網(wǎng)絡(luò)在t時刻的輸出；f為非線性映射函數(shù)；y(t)，y(t-1)，…，y(t-d)為過去時刻的觀測值；x(t+1)，x(t)，…，x(t-d)為網(wǎng)絡(luò)的輸入值；d為延遲數(shù)；ε(t)為誤差項。在提出的非線性自回歸網(wǎng)絡(luò)中，對價格和負(fù)荷同時預(yù)測，延遲數(shù)為2，網(wǎng)絡(luò)的隱藏層數(shù)為10，訓(xùn)練函數(shù)是Levenberg Marquardt。

2 非線性自回歸網(wǎng)絡(luò)預(yù)測模型

深度學(xué)習(xí)以其高精度的特征提取而著稱，基于此提出稀疏自編碼器提取有效特征的方法，這種深度神經(jīng)網(wǎng)絡(luò)可以顯著減少過擬合的不利影響，使學(xué)習(xí)得到的特征更有利于識別和預(yù)測。本文將其用于負(fù)荷和價格預(yù)測的特征提取上，然后使用特征值作為輸入，訓(xùn)練一個多入多出模型-非線性自回歸網(wǎng)絡(luò)，最后進(jìn)行價格和負(fù)荷的預(yù)測，預(yù)測模型如圖1所示，其中x為輸入變量，W為權(quán)重矩陣，Y為輸出矩陣。

圖1 預(yù)測模型Fig.1 Prediction model

（2）將歸一化后的數(shù)據(jù)使用稀疏自編碼器進(jìn)行特征的提取，訓(xùn)練完后，使用此自編碼器對輸入信息進(jìn)行編碼。當(dāng)輸入信息載入后，輸出對應(yīng)編碼的特性。

（3）將編碼后的特征作為訓(xùn)練非線性自回歸網(wǎng)絡(luò)的輸入。80%的數(shù)據(jù)用于訓(xùn)練，15%用于驗證，5%用于測試。價格和負(fù)荷預(yù)測時間為168 h，即一周。

模型流程如圖2 所示，高效稀疏自編碼特征提取器以小波去噪作為解碼器函數(shù)，在提取特征的同時對輸入特征進(jìn)行去噪。利用小波去噪增強(qiáng)了提取的特征，從而顯著提高了預(yù)測精度。非線性自回歸網(wǎng)絡(luò)則能同時準(zhǔn)確預(yù)測價格和負(fù)荷，提高計算效率。

圖2 非線性自回歸網(wǎng)絡(luò)模型的分步流程Fig.2 Distribution process of ESAENARX model

所提出的模型有多個輸入和輸出，其中輸入為小時、溫度、風(fēng)速、滯后價格和滯后負(fù)荷，輸出為價格和負(fù)荷。預(yù)測模型在輸入和輸出之間創(chuàng)建映射關(guān)系，即創(chuàng)建輸入時間、溫度等對于電荷和負(fù)載的映射。在創(chuàng)建此映射時需要同時關(guān)注價格和負(fù)載之間的關(guān)系，電價提升會導(dǎo)致負(fù)荷減少，負(fù)荷減少會使電價降低，最終得到一個穩(wěn)定的價格和負(fù)荷，即為滯后電價和滯后負(fù)荷。

此外，利用稀疏自編碼特征提取器的輸出作為非線性自回歸網(wǎng)絡(luò)的輸入，更好地將輸入信息與目標(biāo)聯(lián)系起來，提高預(yù)測的準(zhǔn)確性。

3 仿真與結(jié)果

本文采用MATLAB R2018a軟件進(jìn)行仿真驗證，仿真環(huán)境為:i3 核處理器和8GB RAM，用于預(yù)測的數(shù)據(jù)來自電力公司ISONE和PJM。

3.1 性能評估

為了評估ESAENARX的性能，使用了兩種性能度量（MAPE）均方根誤差（RMSE）和標(biāo)準(zhǔn)化RMSE（NRMSE）。誤差值越小，預(yù)測精度越高。MAPE是預(yù)測值和觀測值的平均絕對誤差，由下式定義

3.2 ESAENARX方法步驟與算例分析

為了方便讀者理解ESAENARX的計算步驟，本文結(jié)合算例對該ESAENARX方法進(jìn)行分析，具體步驟如下。

步驟1:使用式（10）對輸入數(shù)據(jù)和目標(biāo)進(jìn)行最小-最大歸一化。結(jié)果如圖6所示，負(fù)荷和價格歸一化后可更好地顯示它們的雙向關(guān)系。

11月13日8版《聚焦核心素養(yǎng)》，其“2007年11月徐匯區(qū)開了先河。這是具有悠久歷史文化底蘊和優(yōu)秀教育傳統(tǒng)的徐匯區(qū)，在教育史上書寫的大手筆:堪稱徐匯區(qū)教育界的大事，刷新上海區(qū)級層面舉辦此節(jié)的紀(jì)錄”，用“……開了先河……徐匯區(qū)，在教育史上的大手筆……大事，開創(chuàng)了上海區(qū)級層面舉辦此節(jié)的紀(jì)錄”為妥。書寫手筆，此話不通；是先河，何來“刷新”“堅定了徐匯教育走內(nèi)涵發(fā)展、科學(xué)發(fā)展、持續(xù)發(fā)展的新思維”，用“強(qiáng)化了徐匯……的新思維”為好。

步驟2:為了驗證編碼器對于外界隨機(jī)干擾的魯棒性，隨機(jī)選擇30%的數(shù)據(jù)點加入白噪聲，如式（4）—式（5）。

步驟3:使用高效稀疏自編碼器對數(shù)據(jù)進(jìn)行解碼，與步驟二共同完成算法的預(yù)訓(xùn)練。

步驟4:使用式（6）—式（8）對稀疏自編碼器系數(shù)進(jìn)行微調(diào)，訓(xùn)練完后，使用此自編碼器對輸入信息進(jìn)行編碼。當(dāng)輸入信息后，輸出對應(yīng)編碼的特性。

步驟5:使用提取的輸入、輸出特征通過Levenberg Marquardt函數(shù)得到非線性自回歸網(wǎng)絡(luò)。

步驟6:使用非線性自回歸網(wǎng)絡(luò)，同時進(jìn)行負(fù)荷和電價預(yù)測。

步驟7:對數(shù)據(jù)進(jìn)行去歸一化，得到最終預(yù)測結(jié)果。

3.3 電價和用電需求的大數(shù)據(jù)分析

本研究深入分析了負(fù)荷和價格的大數(shù)據(jù)，ISONE電力公司可視化分析用圖3—圖5表示。由圖3—圖4可得，負(fù)荷需求有一定的周期性，而電價分布相對沒有規(guī)律。圖5對價格和負(fù)荷進(jìn)行統(tǒng)計學(xué)分析，得到價格與負(fù)荷的成正比關(guān)系其相關(guān)系數(shù)為0.62。

圖3 2011年1月至2018年3月的負(fù)荷Fig.3 Load of January 2011 to March 2018

圖4 2011年1月至2018年3月的價格Fig.4 Price of January 2011 to March 2018

圖5 2018年1月至3月的價格需求信號關(guān)系Fig.5 Price-demand signals relation of January 2018 to March 2018

圖6 顯示了6 月第一周的歸一化負(fù)荷和價格，以便更好地顯示它們的雙向關(guān)系。負(fù)荷的價格彈性是描述需求相對于價格變化的一個因素，通常情況下，電力需求隨著電價的上漲而減少，但電力需求的價格彈性較低。根據(jù)文獻(xiàn)［19］分析，在美國，一年內(nèi)負(fù)荷對價格彈性為-0.1或更小。

圖6 2018年6月第一周的歸一化負(fù)荷和價格Fig.6 Normalized load and price of first week in June 2018

提出的ESAENARX 模型用于負(fù)荷與電價短期預(yù)測，預(yù)測周期為1周。2018年6月第1周ISONE價格和負(fù)荷預(yù)測結(jié)果如圖7 和圖8 所示。2018 年9 月第一周PJM 電價和負(fù)荷預(yù)測分別如圖9 和圖10 所示。從圖7—圖10 可知，本文提出模型得到的預(yù)測值與實際值偏差較小，可以完成準(zhǔn)確預(yù)測。與價格相比，預(yù)測負(fù)荷趨勢更接近實際負(fù)荷趨勢，因為負(fù)載具有類似的周期性，而價格模式具有較大波動性。由于價格數(shù)據(jù)的波動、突變特性，相比于負(fù)荷預(yù)測，價格預(yù)測更加困難。學(xué)習(xí)規(guī)律需要更加強(qiáng)大的智能算法，從仿真結(jié)果可以看出，ESAENARX能夠很好地預(yù)測價格和負(fù)荷。

圖7 2018年6月第一周的預(yù)測和實際價格Fig.7 Forecasted and observed price of first week of June 2018

圖8 2018年6月第一周的預(yù)測和實際負(fù)荷Fig.8 Forecasted and observed load of first week of June 2018

圖9 PJM的實際和預(yù)測價格Fig.9 Actual and predicted price of PJM

圖10 PJM的實際和預(yù)測負(fù)荷Fig.10 Actual and predicted load of PJM

3.4 比較與討論

仿真算例用本文所提方法與NARX 和ELM、DE-ELM 和RELM 等多種人工神經(jīng)網(wǎng)絡(luò)預(yù)測方法進(jìn)行了比較，如圖11—圖14所示。

圖11 ESAENARX價格預(yù)測在ISONE中與其他方法的比較Fig.11 Comparison of ESAENARX price prediction with other forecasting methods in ISONE

圖12 ESAENARX負(fù)荷預(yù)測在ISONE中與其他預(yù)測方法的比較Fig.12 Comparison of ESAENARX load prediction with other forecasting methods in ISONE

圖13 ESAENARX電價預(yù)測在PJM中與其他預(yù)測方法的比較Fig.13 Comparison of ESAENARX price prediction with other forecasting methods in PJM

圖14 ESAENARX負(fù)荷預(yù)測在PJM中與其他預(yù)測方法的比較Fig.14 Comparison of ESAENARX load prediction with other forecasting methods in PJM

與其他預(yù)測方法相比，ESAENARX 能夠更好地跟蹤價格和負(fù)荷趨勢。預(yù)測精度較高的原因是本文提出的特征提取器ESAE可提取出最具代表性的特征。利用提取的特征對NARX 預(yù)測器進(jìn)行訓(xùn)練，可以取得了更好的預(yù)測效果。

數(shù)值結(jié)果表明，ESAENARX 預(yù)測精度比單純的NARX高得多，因其提取的特征信息豐富，預(yù)測模型能夠更好地對數(shù)據(jù)進(jìn)行建模，預(yù)測的準(zhǔn)確性也更高。

在6 種比較方法中，ELM 的預(yù)測結(jié)果最差。因為ELM是一個前饋網(wǎng)絡(luò)，它的權(quán)值只在向前傳遞時學(xué)習(xí)一次，而且不會更新。因此，為了獲得可接受的預(yù)測結(jié)果，ELM 的初始權(quán)值選擇變得異常重要。與ELM相比，NARX表現(xiàn)更好。然而，其預(yù)測結(jié)果不如提出的ESAENARX 方法準(zhǔn)確。誤差MAPE 和NRMSE 如表1、表2 所示。由表1 可知，7 種方法的預(yù) 測 精 度 如 下:ESAENARX＞NARX＞Deep-ESN＞CEANN＞DE-ELM＞RELM＞ELM。

表1 ISONE預(yù)測誤差的比較Table 1 Comparison of forecasting errors in ISONE%

表2 PJM預(yù)測誤差的比較Table 2 Comparison of forecasting errors in PJM%

與其他方法相比，ESAENARX 能夠更好地跟蹤價格和負(fù)荷趨勢。預(yù)測精度較高的原因是該方法充分利用了稀疏自編碼器和非線性自回歸網(wǎng)絡(luò)的優(yōu)勢，可提取到最具代表性的特征信息，利用提取的特征對非線性自回歸網(wǎng)絡(luò)進(jìn)行訓(xùn)練，可以大大提高預(yù)測的精度。

數(shù)值結(jié)果表明，利用特征提取作為輸入的ESAENARX 預(yù)測精度比單純的非線性自回歸網(wǎng)絡(luò)高得多。稀疏自編碼器提取的特征信息豐富且具有代表性，能夠更好地對數(shù)據(jù)進(jìn)行建模，預(yù)測的準(zhǔn)確性也大大提高。

ESAENARX 的計算時間見表3，PJM 數(shù)據(jù)需要更多的時間來訓(xùn)練，原因是PJM 數(shù)據(jù)的時間復(fù)雜度高于ISONE。

表3 ESAENARX算法的計算時間Table 3 Computational time of ESAENARX algorithms s

4 結(jié)束語

本文針對電力負(fù)荷和電價相互影響的場景，進(jìn)行電價和負(fù)荷預(yù)測，提出一種基于深度遞歸神經(jīng)網(wǎng)絡(luò)的負(fù)荷與電價預(yù)測模型，即基于外部輸入的高效稀疏自編碼器的非線性自回歸網(wǎng)絡(luò)，以美國電力系統(tǒng)ISONE和PJM市場作為仿真驗證對象，證明所提出的方法可以大大提高預(yù)測的準(zhǔn)確性，主要結(jié)論如下:

（1）本文提出的稀疏自編碼器，顯著提高了特征提取的質(zhì)量，從而提高了預(yù)測的準(zhǔn)確性。所提出的模型有效地捕捉到電力大數(shù)據(jù)中的價格-負(fù)荷的變化趨勢。數(shù)值結(jié)果表明，所提出的預(yù)測模型的MAPE、RMSE均小于傳統(tǒng)方法。通過對已知的真實電力市場數(shù)據(jù)的準(zhǔn)確性，驗證了所提出模型的可行性和實用性。

（2）大數(shù)據(jù)分析揭示了關(guān)于用電行為和電價的關(guān)系，這些信息有助于制定新的需求響應(yīng)計劃和電網(wǎng)長期決策，如為滿足未來電力供應(yīng)需求升級電網(wǎng)，有助于電網(wǎng)的穩(wěn)定性的提高。D