基于徑向基函數(shù)極限學(xué)習(xí)機(jī)的短期負(fù)荷預(yù)測

李 偉,徐曉寅,夏 坤,趙子齊,呂 何,孔政敏

(1.國網(wǎng)山東省電力公司萊蕪供電公司,山東 萊蕪 271100;2.武漢大學(xué) 動力與機(jī)械學(xué)院，湖北 武漢 430072)

負(fù)荷預(yù)測對電網(wǎng)系統(tǒng)電力調(diào)度和售電市場運(yùn)營具有重要意義。然而，電力負(fù)荷由于受到溫度、經(jīng)濟(jì)情況、用電方式等很多因素的影響，存在較強(qiáng)的不確定性和非線性特征，難以建立精確的數(shù)學(xué)模型進(jìn)行分析[1-2]。因此，對于特定的用電對象，為其尋找一種精確有效的電力負(fù)荷預(yù)測方法具有重要作用。目前短期負(fù)荷預(yù)測方法主要有神經(jīng)網(wǎng)絡(luò)、最小二乘法和回歸分析法等[3-4]，這些傳統(tǒng)預(yù)測方法的優(yōu)點在于技術(shù)成熟、算法簡單，缺點是學(xué)習(xí)速度慢、泛化能力弱、預(yù)測精度不高[5]。

針對傳統(tǒng)學(xué)習(xí)算法收斂速度慢、泛化能力弱等問題，文獻(xiàn)[6]提出一種單隱含層前饋神經(jīng)網(wǎng)絡(luò)算法——極限學(xué)習(xí)機(jī)(extreme learning machine，ELM)，該算法與傳統(tǒng)方法相比具有學(xué)習(xí)速度快、泛化性能好、訓(xùn)練誤差小的優(yōu)點。目前ELM已成為機(jī)器學(xué)習(xí)領(lǐng)域的研究熱點之一[7]，被應(yīng)用于許多領(lǐng)域的分類及預(yù)測。文獻(xiàn)[8]提出一種基于粒子群優(yōu)化的核RBF-ELM模型，用于風(fēng)電功率區(qū)間預(yù)測；文獻(xiàn)[9]利用ELM對澳大利亞國家電力系統(tǒng)進(jìn)行短期負(fù)荷預(yù)測，其訓(xùn)練預(yù)測速度快，預(yù)測效果優(yōu)于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)算法；文獻(xiàn)[10]首次提出改進(jìn)ELM建立短期電力負(fù)荷模型，通過最小二乘向量機(jī)回歸來克服ELM預(yù)測的過擬合問題，但并沒有對ELM算法內(nèi)部結(jié)構(gòu)進(jìn)行改進(jìn)；文獻(xiàn)[11]詳細(xì)闡述了兩層RBF-ELM學(xué)習(xí)算法原理，但沒有將算法運(yùn)用到負(fù)荷預(yù)測中，并且從算法原理上RBF-ELM無法很好地解決特征相關(guān)性問題。

針對上述ELM用于電力負(fù)荷預(yù)測存在的問題，筆者首次提出基于正交投影徑向基函數(shù)極限學(xué)習(xí)機(jī)(OPRBF-ELM)的短期電力負(fù)荷預(yù)測算法。首先，將ELM的隱含層節(jié)點替換為徑向基神經(jīng)元，RBF在逼近能力和學(xué)習(xí)速度等方面都優(yōu)于隨機(jī)隱含層，可以降低隨機(jī)誤差。其次，將影響電力負(fù)荷的歷史特征因子與當(dāng)日電力負(fù)荷作為預(yù)測輸入與輸出，并在RBF內(nèi)優(yōu)化和選取核函數(shù)中心、寬度參數(shù)。再次，基于訓(xùn)練誤差二范數(shù)最小化準(zhǔn)則，采用正交投影求得輸出權(quán)值向量，正交投影能較好地消除輸入樣本特征之間的相關(guān)性，快速收斂得到輸出權(quán)值向量，從而提高負(fù)荷預(yù)測精度。最后，在RBF數(shù)量取值范圍內(nèi)索引獲取使得測試集均方根誤差(root mean square error, RMSE)最小的預(yù)測負(fù)荷結(jié)果，并以某省電動汽車用電領(lǐng)域的真實日負(fù)荷數(shù)據(jù)建立標(biāo)準(zhǔn)數(shù)據(jù)樣本進(jìn)行仿真實驗，以驗證所提出算法的可行性和有效性。

1 OPRBF-ELM負(fù)荷預(yù)測模型

1.1 模型結(jié)構(gòu)

基于OPRBF-ELM算法的電力負(fù)荷預(yù)測模型結(jié)構(gòu)圖如圖1所示。電力負(fù)荷的預(yù)測可以被看成機(jī)器學(xué)習(xí)中的模型訓(xùn)練與預(yù)測問題，首先,利用海量電力負(fù)荷歷史數(shù)據(jù)訓(xùn)練模型網(wǎng)絡(luò)，使得模型具有良好的預(yù)測能力;其次，將預(yù)測特征輸入訓(xùn)練好的模型，對電網(wǎng)未來的電力負(fù)荷進(jìn)行預(yù)測。影響電力負(fù)荷的主要因素有氣溫、氣候、季節(jié)、用電結(jié)構(gòu)、用電方式等[12]。經(jīng)過分析，筆者選取了上周同星期歷史負(fù)荷、日平均氣溫、日溫度差、節(jié)假日類型、月份數(shù)和月天數(shù)6個特征因子。

圖1 預(yù)測模型結(jié)構(gòu)圖

1.2 OPRBF-ELM負(fù)荷預(yù)測算法

OPRBF-ELM 神經(jīng)網(wǎng)絡(luò)是在ELM的理論基礎(chǔ)上，用RBF神經(jīng)元替換隱含層神經(jīng)元，基于訓(xùn)練誤差二范數(shù)最小化準(zhǔn)則，通過正交投影求得輸出權(quán)值向量得來的，具有計算速度快、對非線性函數(shù)擬合能力高等特點。對于一個輸入量x∈Rn,含M個內(nèi)核函數(shù)的RBF-ELM網(wǎng)絡(luò)輸出可表示為:

(1)

式中：βi=[βi1,βi2,…,βin]為連接內(nèi)核函數(shù)與輸出層之間的連接權(quán)值；φi(x)為第i個核函數(shù)的輸出。筆者選取的核函數(shù)為高斯核函數(shù)：

(2)

式中：ui=[ui1,ui2,…,uin]T為第i個核函數(shù)的中心；σi為第i個核函數(shù)的影響寬度[13]。對于具有任意樣本(xj,tj)，j=1,2,…，N,有xj=[xj1，xj2，…，xjn]T∈Rn、tj=[tj1，tj2，…，tjm]T∈Rm，M個核函數(shù)的RBF-ELM神經(jīng)網(wǎng)絡(luò)模型可以表示為：

(3)

對于N個任意樣本，在給定任意RBF核函數(shù)序列φN，初始化其核函數(shù)的中心和影響寬度，那么一定存在一個正數(shù)Q、一個任意小的正數(shù)δ和一個輸出權(quán)值向量β，當(dāng)N=Q時，有：

‖fM(xj)-tj‖<δ

(4)

即存在合適的正數(shù)Q及權(quán)值向量β，可以使得以下關(guān)系成立:

(5)

式(5)也可以表示為:

(6)

式(6)的矩陣表示形式為：

Hβ=T

(7)

(8)

(9)

其中，H+為矩陣H的Moore-Penrose(MP)廣義逆矩陣。筆者使用正交投影來計算核函數(shù)矩陣H的廣義逆矩陣H+：

H+=(HTH)-1HT

(10)

在HTH為非奇異矩陣情況下，輸出層權(quán)值向量可表示為：

(11)

根據(jù)嶺回歸理論[14]，在HTH的對角線上加上1/λ的正值可以使網(wǎng)絡(luò)輸出更加穩(wěn)定，具有更好的泛化性能。此時有：

(12)

那么對于一個給定輸入x，模型預(yù)測輸出y可以表示為：

(13)

未來實際電力負(fù)荷通過對未來天數(shù)的負(fù)荷數(shù)據(jù)統(tǒng)計得到，因此選用預(yù)測負(fù)荷與未來實際電力負(fù)荷的平均百分比誤差MAPE作為預(yù)測性能參數(shù)，其計算公式如下：

(14)

式中：yk為第k天電力負(fù)荷預(yù)測值；tk為yk對應(yīng)的電力負(fù)荷實際值，K為預(yù)測天數(shù)。

因此根據(jù)上述的理論分析可知，基于OPRBF-ELM負(fù)荷預(yù)測算法可被描述為：

(1)給定輸入N個訓(xùn)練集(xj,tj)(xj∈Rn,tj∈Rm,j=1,2,…,N)、M個RBF神經(jīng)元(0

(2)設(shè)定核函數(shù)中心ui、中心影響寬度σi，其中i=1,2,…,M；

(3)計算隱含層輸出矩陣H；

(4)采用正交投影計算矩陣H的廣義逆矩陣H+;

(5)利用式(12)計算輸出層權(quán)值；

(6)輸入測試集(xk,tk)，得到預(yù)測結(jié)果，并計算訓(xùn)練集的RMSE；

(7)在M取值范圍內(nèi)索引使得RMSE最小的網(wǎng)絡(luò)模型，得到最優(yōu)預(yù)測結(jié)果；

(8)將預(yù)測第一天的預(yù)測結(jié)果放入訓(xùn)練集，返回步驟(1)繼續(xù)預(yù)測第二天的負(fù)荷，以此類推實現(xiàn)短期負(fù)荷循環(huán)預(yù)測。

2 仿真實驗

負(fù)荷預(yù)測是針對實際用電領(lǐng)域的電力負(fù)荷，需獲取歷史負(fù)荷、氣象條件、日期類型等負(fù)荷特征數(shù)據(jù)，無標(biāo)準(zhǔn)數(shù)據(jù)集可參考，因此未選取UCI數(shù)據(jù)集。筆者選取具有上述6個特征因子的我國某省電動汽車用電領(lǐng)域的近兩年實際日負(fù)荷數(shù)據(jù)為樣本。

考慮到實際溫度預(yù)報的準(zhǔn)確性，筆者僅對該用電領(lǐng)域的電力負(fù)荷進(jìn)行一周的短期預(yù)測。仿真過程是將未來第一天的負(fù)荷特征作為模型輸入，得到未來第一天的負(fù)荷預(yù)測值；再將第一天預(yù)測值放入訓(xùn)練集進(jìn)行下一次模型訓(xùn)練，進(jìn)而預(yù)測未來第二天的負(fù)荷需求，以此循環(huán)訓(xùn)練預(yù)測得到短期電力預(yù)測負(fù)荷集。在建立模型之前還需要對數(shù)據(jù)進(jìn)行歸一化處理，以減少數(shù)據(jù)差異對模型預(yù)測性能的影響[15]。在最終預(yù)測結(jié)果中，索引選取學(xué)習(xí)算法內(nèi)的120個RBF神經(jīng)元，得到最優(yōu)的預(yù)測負(fù)荷結(jié)果。值得注意的是，若在不同用電領(lǐng)域，需根據(jù)上述負(fù)荷預(yù)測算法的步驟(7)選取合適數(shù)量的神經(jīng)元。

為了驗證所提出OPRBF-ELM算法在提高電網(wǎng)需求短期負(fù)荷預(yù)測精度方面的有效性，將其預(yù)測結(jié)果與傳統(tǒng)RBF-ELM、支持向量機(jī)(support vector machine,SVM)進(jìn)行對比，如圖2所示。

圖2 不同方法預(yù)測對比曲線

由圖2可知，3種預(yù)測方法對未來負(fù)荷預(yù)測的趨勢與實際負(fù)荷曲線大致相符。相對來說SVM預(yù)測結(jié)果與實際負(fù)荷相差最大，且預(yù)測結(jié)果上下波動較為嚴(yán)重，預(yù)測不穩(wěn)定；RBF-ELM預(yù)測結(jié)果優(yōu)于SVM，但預(yù)測結(jié)果均大于實際負(fù)荷，有一定的隨機(jī)誤差；OPRBF-ELM預(yù)測明顯優(yōu)于前兩種方法，與實際負(fù)荷最為接近，預(yù)測過程平穩(wěn)，預(yù)測最穩(wěn)定。通過預(yù)測相對誤差來對比3種方法在電力需求負(fù)荷預(yù)測方面的預(yù)測精度，結(jié)果如圖3所示。

圖3 預(yù)測負(fù)荷相對誤差對比圖

由圖3可知，SVM預(yù)測結(jié)果的相對誤差集中在50%以內(nèi)，其中第三天預(yù)測相對誤差最優(yōu)，在15%左右，預(yù)測誤差曲線上下波動較大，預(yù)測不穩(wěn)定，泛化能力較差；RBF-ELM預(yù)測結(jié)果的相對誤差都能控制在35%以內(nèi)，與實際負(fù)荷差距仍較大，預(yù)測穩(wěn)定性較弱； OPRBF-ELM預(yù)測結(jié)果的相對誤差除最后一天外所有天數(shù)的相對誤差都保持在10%以內(nèi)，曲線平穩(wěn)，預(yù)測最為穩(wěn)定，泛化能力最優(yōu)?？梢娫陔娋W(wǎng)短期電力需求負(fù)荷預(yù)測方面，筆者所提出的OPRBF-ELM較RBF-ELM和SVM具有更高的預(yù)測精度。

此外，將3種預(yù)測算法的預(yù)測過程所需時間進(jìn)行對比(運(yùn)行時間為上述預(yù)測算法在Matlab中數(shù)據(jù)訓(xùn)練加上預(yù)測所花的總時間)。在標(biāo)準(zhǔn)負(fù)荷樣本下，OPRBF-ELM、RBF-ELM和SVM 3種算法的運(yùn)行時間分別是1.3 s、2.6 s和63.8 s。由運(yùn)行時間結(jié)果可知，在預(yù)測時間上OPRBF-ELM和RBF-ELM均不到3 s，但因OPRBF-ELM收斂速度快且正交投影能消除輸入樣本特征之間的相關(guān)性，能夠快速得到輸出權(quán)值向量，其預(yù)測時間快了一倍；另外， OPRBF-ELM不需要在訓(xùn)練網(wǎng)絡(luò)時在高維空間的回歸函數(shù)中設(shè)置參數(shù)循環(huán)來選取最優(yōu)的懲罰參數(shù)和核函數(shù)參數(shù)[16]，因此與SVM相比其預(yù)測時間快了49倍，預(yù)測效率大幅度提高。

3種方法用于短期電力需求負(fù)荷預(yù)測的MAPE對比曲線如圖4所示，可以看出SVM的MAPE均在20%以上，且上下波動范圍約為15%，波動較大，泛化能力差；RBF-ELM的MAPE整體小于SVM，保持在15%以上，但MAPE隨著預(yù)測天數(shù)的增加而增大；OPRBF-ELM的MAPE均控制在10%以內(nèi)，且保持平穩(wěn)，始終在7.5%附近?？偟膩碚f，與RBF-ELM和SVM相比，OPRBF-ELM的MAPE明顯減小，變化更平穩(wěn)，預(yù)測性能更好，很好地解決了RBF-ELM存在的隨機(jī)映射產(chǎn)生的隨機(jī)誤差問題和預(yù)測不穩(wěn)定問題。由運(yùn)行時間對比結(jié)果和圖4可分析得出，筆者所提出的OPRBF-ELM算法用于發(fā)電電網(wǎng)短期電力需求負(fù)荷預(yù)測時，其預(yù)測精度更高、預(yù)測速度快，且MAPE預(yù)測性能優(yōu)于傳統(tǒng)RBF-ELM和SVM。

圖4 預(yù)測性能指標(biāo)MAPE曲線

3 結(jié)論

我國電網(wǎng)的電力負(fù)荷與天氣、日期、經(jīng)濟(jì)等多個因素密切相關(guān)，存在較強(qiáng)的不確定性和非線性特征，導(dǎo)致傳統(tǒng)方法的負(fù)荷預(yù)測精度較低。筆者針對ELM用于電力負(fù)荷預(yù)測存在的問題，提出基于OPRBF-ELM的短期電力負(fù)荷預(yù)測算法。該算法首先將ELM的隱含層節(jié)點替換為徑向基神經(jīng)元，提高了預(yù)測的逼近能力與學(xué)習(xí)速度。其次，在訓(xùn)練誤差二范數(shù)最小化原則下，采用正交投影求得輸出權(quán)值向量，并在核函數(shù)的數(shù)量取值范圍內(nèi)索引獲取使得訓(xùn)練集RMSE最小的預(yù)測負(fù)荷結(jié)果，很好地消除了輸入樣本特征之間的相關(guān)性，快速收斂得到輸出權(quán)值向量，減小隨機(jī)誤差，有效提高了負(fù)荷預(yù)測精度。最后，以我國某省電動汽車用電領(lǐng)域的負(fù)荷數(shù)據(jù)作為標(biāo)準(zhǔn)樣本進(jìn)行仿真實驗，驗證了所提出算法的可行性和有效性。與RBF-ELM和SVM相比，筆者提出的OPRBF-ELM預(yù)測算法具有更高的預(yù)測精度、更優(yōu)的泛化能力和更好的預(yù)測性能，為預(yù)測短期電力需求負(fù)荷提高了新的思路與方法。