基于人工神經(jīng)網(wǎng)絡(luò)的貴州省用電量預(yù)測(cè)

（貴州大學(xué) 經(jīng)濟(jì)學(xué)院，貴州 貴陽(yáng) 550025）

一、引言

貴州省是近幾年脫貧攻堅(jiān)戰(zhàn)略的重要省份，經(jīng)濟(jì)的發(fā)展以及人民生活水平的提高均離不開電力資源的支撐。電力作為一種“特殊商品”，具有存儲(chǔ)成本高、需及時(shí)“變現(xiàn)”的特性[1]，為此，利用當(dāng)前用電量數(shù)據(jù)預(yù)測(cè)未來用電量對(duì)電力企業(yè)合理安排“生產(chǎn)”、保證電力供應(yīng)有很大的幫助。

貴州省用電量預(yù)測(cè)的研究主要使用的模型為傳統(tǒng)的時(shí)間序列模型等，鮮有文獻(xiàn)考慮人工智能方法。且使用人工智能方法進(jìn)行用電量預(yù)測(cè)時(shí)，很多研究?jī)H利用變量的時(shí)間序列滯后性，并沒有將用電量的時(shí)間序列特征量化。鑒于此，本文從以下幾方面進(jìn)行改進(jìn)：（1）使用獨(dú)熱編碼（One-Hot 編碼）將用電量數(shù)據(jù)的時(shí)序特征數(shù)字化，作為人工神經(jīng)網(wǎng)絡(luò)模型（Artificial Neural Network，ANN）的輸入變量，豐富用電量數(shù)據(jù)的輸入特征；（2）利用網(wǎng)格調(diào)參和遞增窗口交叉驗(yàn)證相結(jié)合的方法選取最優(yōu)模型參數(shù)，提高預(yù)測(cè)精度。

二、文獻(xiàn)綜述

目前對(duì)用電量的預(yù)測(cè)方法主要分為傳統(tǒng)計(jì)量模型與人工智能兩種[2]。使用傳統(tǒng)計(jì)量模型預(yù)測(cè)用電量的方法主要有ARIMA 模型、向量自回歸、灰度預(yù)測(cè)等。ARIMA 模型利用用電量的時(shí)間序列特征建立模型[3]，而向量自回歸可根據(jù)GDP、人口分布等變量與電力消費(fèi)量的協(xié)整關(guān)系建立誤差修正模型[4-5]。曾鳴等（2013）[6]采用趨勢(shì)外推法、線性回歸和灰度預(yù)測(cè)三種方法，預(yù)測(cè)貴州省2015—2020 年的用電量，結(jié)果表明灰度預(yù)測(cè)通用性更強(qiáng)。Hussain（2016）[7]利用ARIMA 模型和指數(shù)平滑模型對(duì)巴基斯坦的用電量進(jìn)行預(yù)測(cè)分析。除此之外，也有學(xué)者[8-10]利用系統(tǒng)GMM、動(dòng)態(tài)面板數(shù)據(jù)估計(jì)等估計(jì)法探究居民用電量與經(jīng)濟(jì)變量之間的關(guān)系。傳統(tǒng)計(jì)量方法進(jìn)行用電量預(yù)測(cè)考慮到了用電量的時(shí)間序列特征以及經(jīng)濟(jì)變量與用電量之間的關(guān)系，可以有效地預(yù)測(cè)短期用電量，但仍具有以下局限：（1）基于變量之間的線性關(guān)系、正態(tài)分布假設(shè)建模，與實(shí)際經(jīng)濟(jì)變量非線性關(guān)系非正態(tài)分布不符；（2）預(yù)測(cè)精度易受極端值的影響[11]。

人工智能不需要考慮數(shù)據(jù)的分布特征、能夠刻畫模型的非線性關(guān)系，在用電量預(yù)測(cè)方面有廣泛應(yīng)用。目前關(guān)于用電量預(yù)測(cè)的人工智能方法主要有支持向量機(jī)（Support Vector Machine，SVM）、ANN 等。國(guó)外學(xué)者[12-13]曾利用SVM 和單隱藏層ANN 對(duì)土耳其用電量進(jìn)行預(yù)測(cè)分析，龍勇等（2018）[14]、石棟安和周蕓（2018）[15]將傳統(tǒng)計(jì)量模型與ANN 結(jié)合，對(duì)用電負(fù)荷量進(jìn)行擬合。但目前利用人工智能對(duì)用電量數(shù)據(jù)進(jìn)行預(yù)測(cè)存在變量的時(shí)間序列特征提取不充分、未根據(jù)用電量時(shí)間序列特征調(diào)整參數(shù)等問題。

考慮到現(xiàn)有研究存在以上不足，本文引入One-Hot 編碼提取用電量數(shù)據(jù)的時(shí)間序列特征，使用加入動(dòng)量的隨機(jī)梯度下降（SGD with Momentum，SGDM）優(yōu)化算法，通過遞增窗口交叉驗(yàn)證和網(wǎng)格調(diào)參選取最優(yōu)人工智能模型預(yù)測(cè)貴州省用電量。

三、模型構(gòu)建與訓(xùn)練

（一）模型構(gòu)建

ANN 為人工智能常用方法，在預(yù)測(cè)和分類問題中有廣泛應(yīng)用。ANN 基本結(jié)構(gòu)包括神經(jīng)元、激活函數(shù)、輸入層、隱藏層以及輸出層幾部分。其中，神經(jīng)元可表示輸入數(shù)據(jù)特征，激活函數(shù)決定輸入信號(hào)的輸出特性，神經(jīng)元之間的連接代表連接信號(hào)的加權(quán)值。數(shù)據(jù)輸入神經(jīng)網(wǎng)絡(luò)后，會(huì)與其對(duì)應(yīng)權(quán)重相乘并加總求和，得到輸出值，輸出值和輸入數(shù)據(jù)之的差異為偏差；之后將“和”與偏差相加，在激活函數(shù)的作用下得到最終輸出值。

以xi，…，xn表示輸入數(shù)據(jù)，以wp1，…，wpn表示神經(jīng)元P 之間的連接權(quán)重，令bp表示輸出數(shù)據(jù)與真實(shí)值之間的偏差，以φ 表示激活函數(shù)，輸出數(shù)據(jù)記為yp，上述過程可表示為：

ANN 常用優(yōu)化算法主要有梯度下降、隨機(jī)梯度下降、SGD-M 等，考慮到SGD-M 算法可避免陷入局部最優(yōu)、提升計(jì)算速度，本文選用SGD-M 算法做優(yōu)化器。

（二）模型預(yù)測(cè)效果評(píng)估指標(biāo)

本文使用平均絕對(duì)誤差（MAE）、均方根誤差（RMSE）、方向預(yù)測(cè)精度（DA）比較模型的預(yù)測(cè)效果。MAE、RMSE 值越小，表明模型預(yù)測(cè)精度越高；DA 值越大，表示模型的趨勢(shì)預(yù)測(cè)精度越高。以pred 表示預(yù)測(cè)值，obs 表示觀測(cè)值，m 表示數(shù)據(jù)量，MAE、RMSE、DA 計(jì)算方式為：

（三）模型調(diào)優(yōu)

機(jī)器學(xué)習(xí)中常采用k 折交叉驗(yàn)證的方式選擇最優(yōu)模型及參數(shù)，但時(shí)間序列數(shù)據(jù)使用此方法會(huì)出現(xiàn)“用未來信息預(yù)測(cè)當(dāng)期信息”的情況，使用遞增窗口交叉驗(yàn)證可以保證未利用未來信息預(yù)測(cè)當(dāng)期信息。

本文將原數(shù)據(jù)劃分為訓(xùn)練集和測(cè)試集，在訓(xùn)練集上進(jìn)行模型訓(xùn)練，通過遞增窗口交叉驗(yàn)證和網(wǎng)格調(diào)參選擇最優(yōu)模型；在測(cè)試集進(jìn)行外推1 期預(yù)測(cè)，比較不同模型預(yù)測(cè)性能。如圖1 所示，將訓(xùn)練集數(shù)據(jù)劃分為N+1 個(gè)子集，每個(gè)子集樣本數(shù)為訓(xùn)練集總樣本數(shù)/（N+1），將所得余數(shù)放入第1 個(gè)子集作為第一期訓(xùn)練樣本（Train1），并將第2 個(gè)子集到第N+1 個(gè)子集作為驗(yàn)證集（Valid1），此規(guī)則下劃分的每個(gè)驗(yàn)證集的樣本數(shù)相同。

圖1 遞增窗口交叉驗(yàn)證示意圖

以第一個(gè)子集作為Train1，進(jìn)行模型訓(xùn)練后預(yù)測(cè)第二個(gè)子集Valid1中數(shù)據(jù)，根據(jù)預(yù)測(cè)值與真實(shí)值計(jì)算MSE1；再將前兩個(gè)子集Train1和Valid1作為新訓(xùn)練集Train2，預(yù)測(cè)Valid2，并計(jì)算MSE2；以此方式訓(xùn)練模型，最后得到MSEN，以N 個(gè)MSE 均值作為模型MSE值，根據(jù)MSE 值越小，模型擬合效果越好的性質(zhì)選定最優(yōu)參數(shù)組合。

四、數(shù)據(jù)來源及樣本選擇

（一）數(shù)據(jù)來源及描述性統(tǒng)計(jì)分析

本文選取2006 年3 月至2019 年6 月的數(shù)據(jù)對(duì)貴州省用電量月度數(shù)據(jù)進(jìn)行預(yù)測(cè)分析。樣本數(shù)據(jù)共160 期，來自wind 數(shù)據(jù)庫(kù)。首先對(duì)用電量數(shù)據(jù)進(jìn)行取對(duì)數(shù)處理，以減弱用電量的趨勢(shì)性。原用電量數(shù)據(jù)與取對(duì)數(shù)后用電量數(shù)據(jù)走勢(shì)圖如圖3 所示。根據(jù)計(jì)算，用電量數(shù)據(jù)的峰度為2.401 5，偏度為-0.340 9，JB 統(tǒng)計(jì)量為0.163 1，不服從正態(tài)分布；進(jìn)行去趨勢(shì)項(xiàng)檢驗(yàn)，ADF 值為-8.854 4，在1%顯著性水平下數(shù)據(jù)平穩(wěn)。

（二）數(shù)據(jù)預(yù)處理

1.歸一化是常用的提高機(jī)器學(xué)習(xí)模型的預(yù)測(cè)精度方法，本文將原用電量數(shù)據(jù)進(jìn)行歸一化處理的方式為，其中，xnew表示歸一化的數(shù)據(jù)，xobs表示觀測(cè)值，即原數(shù)據(jù)，max（xobs）、min（xobs）分別為原數(shù)據(jù)最大值、最小值。

2.One-Hot 編碼構(gòu)建時(shí)序特征。One-Hot 編碼可將非數(shù)字特征量化，基于獨(dú)熱編碼方法進(jìn)行ANN 訓(xùn)練能得到更高的精度[16]。因此，本文將原數(shù)據(jù)以12為周期進(jìn)行“賦值循環(huán)”，按照月度特征賦值為0 和1。例如，樣本處于1 月份，其相應(yīng)的One-Hot 編碼賦值可以寫為12 維向量（1，0，0，0，0，…，0）；樣本處于2 月份，數(shù)據(jù)的One-Hot 編碼賦值可以寫為12維向量（0，1，0，0，0，…，0），其余月份賦值以此類推。

五、實(shí)證結(jié)果分析

（一）模型最優(yōu)參數(shù)選擇

1.ANN 最優(yōu)參數(shù)選擇。原時(shí)間序列數(shù)據(jù)共有160期，考慮到季節(jié)趨勢(shì)問題，本文將歸一化數(shù)據(jù)的滯后4 期數(shù)據(jù)、One-Hot 編碼數(shù)據(jù)作為輸入變量，歸一化后的數(shù)據(jù)作為輸出變量，進(jìn)行模型訓(xùn)練。其中，1～132 期數(shù)據(jù)作為訓(xùn)練集，133～156 期數(shù)據(jù)作為測(cè)試集。

考慮到模型調(diào)整的效率、參數(shù)對(duì)模型性能影響程度以及優(yōu)化算法的收斂問題，本文使用的參數(shù)主要有學(xué)習(xí)率（0.01、0.05、0.1、0.15、0.2）、激活函數(shù)（tanh、ReLu、logistic 函數(shù)）、動(dòng)能（0.1～1，以0.1 為步長(zhǎng)增加）、隱藏層層數(shù)（1～5）、隱藏層節(jié)點(diǎn)數(shù)（16、32、64、128、256）等。

采用遞增窗口交叉驗(yàn)證和網(wǎng)格調(diào)參進(jìn)行模型訓(xùn)練時(shí)，訓(xùn)練集劃分中N 的取值范圍為14～28，以2為步長(zhǎng)增加。經(jīng)過訓(xùn)練，N 取值為26 時(shí)可得到最優(yōu)模型。與此同時(shí)，隱藏層中3 隱藏層ANN（以下簡(jiǎn)稱ANN（3 層））預(yù)測(cè)效果最優(yōu)，因而以ANN（3 層）為本文最優(yōu)模型。本文選取單隱藏層ANN（以下簡(jiǎn)稱ANN（單層））作為ANN（3 層）預(yù)測(cè)效果對(duì)比模型。最終選定參數(shù)為ANN（單層）：學(xué)習(xí)率0.1，激活函數(shù)tanh，隱藏層節(jié)點(diǎn)128，動(dòng)能0.9；ANN（3 層）：學(xué)習(xí)率0.05，激活函數(shù)tanh，隱藏層節(jié)點(diǎn)（64，128，256），動(dòng)能0.9。

2.SVM、ARIMA 模型最優(yōu)參數(shù)選擇。為比較不同模型的預(yù)測(cè)精度，本文將SVM、ARIMA 模型作為基準(zhǔn)模型，將其在測(cè)試集上預(yù)測(cè)結(jié)果與ANN 模型預(yù)測(cè)結(jié)果進(jìn)行對(duì)比。

（1）SVM 最優(yōu)參數(shù)選擇。SVM 通過選擇不同核函數(shù)可提升數(shù)據(jù)投影到線性特征空間的性能，常用于處理非線性模型。SVM 也使用遞增窗口交叉驗(yàn)證和網(wǎng)格調(diào)參進(jìn)行模型訓(xùn)練與調(diào)優(yōu)，流程與ANN 模型相似，不再贅述。SVM 的備選參數(shù)為：核函數(shù)（線性核函數(shù)、多項(xiàng)式核函數(shù)、sigmoid 核函數(shù)、徑向核函數(shù)）；gamma 值（0.1～1，以0.1 為步長(zhǎng)遞增）；懲罰系數(shù)（10～100，以10 為步長(zhǎng)遞增）。最終選定的參數(shù)為懲罰系數(shù)100，徑向核函數(shù)、gamma 值0.01。

（2）ARIMA 模型最優(yōu)參數(shù)選擇。ARIMA 模型在時(shí)間序列數(shù)據(jù)分析及預(yù)測(cè)方面具有廣泛應(yīng)用[3]。ARIMA（p，d，q）模型中，p 表示自回歸的滯后階數(shù)，d 表示序列單整階數(shù)，q 表示移動(dòng)平均滯后階數(shù)。建立模型時(shí)，在訓(xùn)練集中進(jìn)行模型訓(xùn)練，根據(jù)不同p、d、q 參數(shù)下的AIC 值選出最優(yōu)模型，之后利用選定的參數(shù)進(jìn)行外推1 期預(yù)測(cè)，評(píng)估模型性能。選定最優(yōu)參數(shù)為p、d 取1，q 取2。

（二）模型預(yù)測(cè)效果評(píng)估

利用遞增窗口交叉驗(yàn)證及網(wǎng)格調(diào)參選擇最優(yōu)參數(shù)后，在測(cè)試集上進(jìn)行外推1 期預(yù)測(cè)，各模型預(yù)測(cè)效果評(píng)估指標(biāo)如表1 所示。

表1 不同模型在測(cè)試集上的預(yù)測(cè)精度

進(jìn)一步將ANN 模型（單層、3 層）的預(yù)測(cè)結(jié)果與SVM、ARIMA 模型預(yù)測(cè)結(jié)果對(duì)比圖畫出，如圖2 所示。

圖2 各模型的預(yù)測(cè)值與真實(shí)值對(duì)比圖

由以上預(yù)測(cè)精度數(shù)據(jù)可以得出結(jié)論，人工智能方法在測(cè)試集上的預(yù)測(cè)性能優(yōu)于傳統(tǒng)的時(shí)間序列模型，即預(yù)測(cè)精度方面，ANN（3 層）優(yōu)于ANN（單層），優(yōu)于SVM 及ARIMA 模型，且方向預(yù)測(cè)精度排序也是如此。

六、結(jié)論

貴州省經(jīng)濟(jì)高速發(fā)展離不開電力的支撐，電力對(duì)于社會(huì)經(jīng)濟(jì)的發(fā)展有重要的保障與促進(jìn)作用。本文利用ANN、SVM 以及ARIMA 模型，對(duì)2006—2019 年貴州省月度用電量數(shù)據(jù)進(jìn)行建模分析，采用遞增窗口交叉驗(yàn)證和網(wǎng)格調(diào)參的方式選擇最優(yōu)參數(shù)。實(shí)證結(jié)果表明：（1）引入One-Hot 編碼將用電量數(shù)據(jù)時(shí)序特征量化可提升模型的預(yù)測(cè)精度；（2）從模型預(yù)測(cè)效果看，ANN 模型的RMSE、MAE 值，以及DA 值，均表明其預(yù)測(cè)效果優(yōu)于SVM 和ARIMA 模型；（3）ANN（3 層）對(duì)用電量的預(yù)測(cè)效果優(yōu)于ANN（單層）。