相空間重構(gòu)的極端學(xué)習(xí)機短期風(fēng)速預(yù)測模型

武峰雨，樂秀璠，南東亮

（河海大學(xué)能源與電氣學(xué)院，南京 210098）

開發(fā)與利用新能源是21世紀(jì)的重要能源戰(zhàn)略。風(fēng)力發(fā)電因具有環(huán)?？稍偕?、全球可行、成本低且規(guī)模效益顯著等優(yōu)點，已經(jīng)受到了廣泛的重視，并成為發(fā)展最快的新型能源[1]。由于風(fēng)速受許多因素影響，具有很大的持續(xù)波動性，因此對風(fēng)速的準(zhǔn)確預(yù)測變得至關(guān)重要[2]。

風(fēng)速被認(rèn)為是最能準(zhǔn)確預(yù)測的氣象參數(shù)之一。目前關(guān)于風(fēng)速預(yù)測的方法有很多，時間序列預(yù)測法是應(yīng)用較多的一種方法。該方法中的因變量和自變量均可以是隨機變量，且風(fēng)速是一個隨機性的序列，因此可設(shè)定因變量為待預(yù)測風(fēng)速，自變量為風(fēng)速自身的歷史值[3，4]。與神經(jīng)網(wǎng)絡(luò)等方法相比，該方法更適用于短期風(fēng)速預(yù)測，但由于模型的階數(shù)不好確定，所以受氣候變化影響較大。人工神經(jīng)網(wǎng)絡(luò)是用于風(fēng)速預(yù)測較早的機器算法之一，使用非常廣泛。該方法具有并行處理、分布式存儲與容錯性等特征，具有自學(xué)習(xí)、自組織和自適應(yīng)能力，可以實現(xiàn)聯(lián)想記憶、分類與識別等功能，對于求解復(fù)雜問題十分有效，文獻(xiàn)[5，6]分別采用BP神經(jīng)網(wǎng)絡(luò)和徑向基神經(jīng)網(wǎng)絡(luò)進(jìn)行風(fēng)速預(yù)測，但其算法容易陷入局部最小問題而得不到最優(yōu)解，算法收斂慢。文獻(xiàn)[7，8]將最小二乘支持向量機應(yīng)用到風(fēng)速預(yù)測中，較之神經(jīng)網(wǎng)絡(luò)，該方法具有更高的精度和更強的魯棒性?？臻g相關(guān)性法的發(fā)展還不是很成熟，與上述方法不同，它需要考慮所預(yù)測地點以及與之相近幾個地點的風(fēng)速序列，運用幾個地點風(fēng)速之間的空間相關(guān)性進(jìn)行預(yù)測。然而該方法需要很大的數(shù)據(jù)量，輸入信息豐富，可能會在一定程度上提高預(yù)測精度[9]。

通過Lyapunov指數(shù)可以證明風(fēng)速時間序列具有混沌特性，而混沌序列短期是可以預(yù)測的。因此，利用相空間重構(gòu)理論可以還原風(fēng)速時間序列的非線性動力特性，然后利用一定的預(yù)測模型可以進(jìn)行短期風(fēng)速預(yù)測。本文利用相空間重構(gòu)獲得一組最佳的嵌入維數(shù)和延遲時間，最后利用極端學(xué)習(xí)機對重構(gòu)后的樣本進(jìn)行建模預(yù)測，對某風(fēng)電場的風(fēng)速時間序列進(jìn)行短期預(yù)測。實例表明，該方法的預(yù)測速度快，泛化性能好。

1 相空間重構(gòu)理論

1.1 概述

Takens定理認(rèn)為系統(tǒng)中任一分量的演化均由與之相互作用的其他分量所決定。因此，這些分量的信息隱含在任一分量的發(fā)展過程中，重構(gòu)系統(tǒng)相空間只需考察一個分量，通過某些固定的延時點上的觀測值重構(gòu)出原系統(tǒng)，重構(gòu)空間與原動力系統(tǒng)拓?fù)涞葍r[10-12]。

對于實際測得一組時間序列

如果嵌入維數(shù)和時間延遲為m和τ，則相空間中的相點個數(shù)為

重構(gòu)后構(gòu)造出的相空間向量Xi（i=1，2，…，N）為

相空間重構(gòu)是混沌預(yù)測的關(guān)鍵，而重構(gòu)相空間的關(guān)鍵是嵌入維數(shù)m和延遲時間τ的選取。

1.2 相空間重構(gòu)參數(shù)的同步計算法

相空間重構(gòu)參數(shù)的同步計算法能夠同時估計出延遲時間τ和嵌入窗寬τw，根據(jù)

可以求出嵌入維數(shù)m。

將時間序列{X（i）}（i=1，2，…，N），分成t個不相交的時間序列，長度為int（N/t），int為取整函數(shù)。計算每個子序列的統(tǒng)計量 S（m，N，r，τ）和差量 ΔS（m，N，t），具體過程及符號含義詳見文獻(xiàn)[11]。隨后，得方程

2 極端學(xué)習(xí)機原理

單隱含層前饋神經(jīng)網(wǎng)絡(luò)以其良好的學(xué)習(xí)能力在許多領(lǐng)域中得到廣泛應(yīng)用，然而傳統(tǒng)的學(xué)習(xí)算法（如BP算法）固有的一些缺陷，成為制約其發(fā)展的主要問題。傳統(tǒng)的網(wǎng)絡(luò)大多采用梯度下降法，該方法有以下缺點：①訓(xùn)練速度慢。因為其計算過程需要多次迭代來修正權(quán)值和閥值，因此時間長。②容易陷入局部極小值，無法達(dá)到全局最優(yōu)。③學(xué)習(xí)率選擇敏感。學(xué)習(xí)率對神經(jīng)網(wǎng)絡(luò)性能影響較大，若學(xué)習(xí)率太小，則收斂速度慢，消耗時間長，若學(xué)習(xí)率太大，則訓(xùn)練過程可能不收斂。探索一種速度快、具有良好泛化能力、獲得全局最優(yōu)解的算法時近年來研究的熱點。Huang等[13]提出了極端學(xué)習(xí)算法，該算法隨機產(chǎn)生輸入層與隱含層間的連接權(quán)值及隱含層神經(jīng)元的閾值，而且在訓(xùn)練過程中無霜調(diào)整，放棄梯度下降法的迭代調(diào)整策略，只需要設(shè)置隱含層的個數(shù)，便可以獲得唯一的全局最優(yōu)解。極端學(xué)習(xí)機極大地提高了網(wǎng)絡(luò)學(xué)習(xí)速度和泛化能力。

給定Q個不同樣本的集合，

則具有L個隱含層神經(jīng)元的ELM網(wǎng)絡(luò)輸出[14-16]為

式中：wj=[w1j，w2j，…，為輸入節(jié)點與第 j個隱含層神經(jīng)元之間的連接權(quán)值向量；bj為第j個隱含層神經(jīng)元的閾值；βj=[βj1，βj2，…，為第 j個隱含層神經(jīng)元與輸出節(jié)點之間的連接權(quán)值向量；g（x）為隱含層神經(jīng)元激活函數(shù)。

式（7）可用一個含個方程的線性方程組表示為

式中：H為神經(jīng)網(wǎng)絡(luò)隱含層輸出矩陣，具體形式為

若隱含層神經(jīng)元個數(shù)與訓(xùn)練集樣本個數(shù)相等，則對于任意的w和b，單隱含層前饋神經(jīng)網(wǎng)絡(luò)都可以零誤差逼近訓(xùn)練樣本。然而，當(dāng)訓(xùn)練集樣本個數(shù)Q較大時，則隱含層神經(jīng)元個數(shù)通常取比Q小的數(shù)。

當(dāng)激活函數(shù)g（x）無限可微時，單隱含層前饋神經(jīng)網(wǎng)絡(luò)參數(shù)不需要全部進(jìn)行調(diào)整，w和b在訓(xùn)練前可以隨機選擇，而且在訓(xùn)練中保持不變。隱含層與輸出層連接權(quán)值β可以通過解方程組的最小二乘解獲得

其解為

式中，H+為隱含層輸出矩陣H的Moore-Penrose廣義逆。

ELM學(xué)習(xí)算法主要有以下幾個步驟：

（1）確定隱含層神經(jīng)元個數(shù)，設(shè)置隱含層閥值b和輸入層與隱含層間的連接權(quán)值w。

（2）選擇隱含層神經(jīng)元的激活函數(shù)，進(jìn)而計算隱含層輸出矩陣H。

（3）計算輸出層權(quán)值

因此，相比于傳統(tǒng)方法，ELM訓(xùn)練過程不需要調(diào)整w和b，只需要計算調(diào)整β值，這樣參數(shù)選擇過程更加容易，同時可以獲得全局最優(yōu)解，訓(xùn)練速度顯著提高。

3 基于相空間重構(gòu)的ELM風(fēng)速預(yù)測模型

3.1 模型輸入輸出變量的選擇

風(fēng)速數(shù)據(jù)是一組隨時間變化的序列，記為{xt|t=1，2，…，n}需要利用 Takens理論[17]進(jìn)行相空間重構(gòu)，將一維時間序列轉(zhuǎn)化成矩陣形式，以獲得數(shù)據(jù)的關(guān)聯(lián)信息。相空間重構(gòu)中嵌入維數(shù)m和延遲時間τ的大小選取很重要，本文采用上述同步計算法求取嵌入維數(shù)和延遲時間。對原數(shù)據(jù)序列進(jìn)行相空間重構(gòu)，構(gòu)造樣本對{Xt，Yt}，其中 Xt={xt-m，xt-m+1，…，xt-1}，Yt=xt，xi為第 i個風(fēng)速值，m 為輸入向量維數(shù)。

3.2 樣本數(shù)據(jù)的預(yù)處理

數(shù)據(jù)預(yù)處理[18]可以加快模型的訓(xùn)練速度和收斂速度，提高預(yù)測精度，因此預(yù)測之前需要對原始數(shù)據(jù)進(jìn)行處理。樣本數(shù)據(jù)處理的方法很多，本文采用歸一化方法，即

3.3 ELM模型參數(shù)的選取

ELM預(yù)測模型的主要參數(shù)是隱含層神經(jīng)元的數(shù)目，它與輸入層和輸出層神經(jīng)元的數(shù)目有關(guān)。據(jù)現(xiàn)在的資料表明，對于隱含層神經(jīng)元數(shù)目的確定還沒有一個好的方法。極限學(xué)習(xí)機算法快捷方便，本文研究時，將隱含層神經(jīng)元初始設(shè)為10，再根據(jù)訓(xùn)練網(wǎng)絡(luò)的誤差來適當(dāng)增加，尋找合適的隱含層節(jié)點數(shù)。誤差大于允許范圍的增加隱含層節(jié)點數(shù)，反之，則減少節(jié)點數(shù)。激活函數(shù)選擇Sigmoid函數(shù)為

3.4 ELM預(yù)測模型的評價標(biāo)準(zhǔn)

ELM預(yù)測模型的預(yù)測效果采用均方誤差和平均絕對百分比誤差（eMAPE）和來評價，其表達(dá)式為

式中，Yi、分別為第i個實際風(fēng)速值與預(yù)測風(fēng)速值。

4 算例分析

為了驗證模型的預(yù)測能力，本文利用Matlab編制基于ELM的短期風(fēng)速預(yù)測程序，并進(jìn)行算例仿真和分析，計算流程如圖1所示。

本文采用某風(fēng)電場前7天的384個實測風(fēng)速值作為訓(xùn)練樣本，數(shù)據(jù)采樣間隔為15 min，建立ELM風(fēng)速預(yù)測模型，對第8天的96個風(fēng)速值做提前1點（即15 min）的預(yù)測。建立模型前對數(shù)據(jù)進(jìn)行預(yù)處理，選取合理的參數(shù)。通過Wolf法估計了最大Lyapunov指數(shù)，求得的最大Lyapunov指數(shù)為0.239 2，大于0，因此數(shù)據(jù)具有混沌特性。ELM風(fēng)速預(yù)測模型的輸入輸出數(shù)據(jù)采用相空間重構(gòu)法獲得，本文嵌入窗寬為12，延遲時間為2，嵌入維數(shù)取7。初始隱含層節(jié)點設(shè)為10，并且逐漸增加，每個隱含層節(jié)點實驗20次，查看不同隱含層數(shù)的預(yù)測效果，仿真結(jié)果見表1。

圖1 相空間重構(gòu)的ELM算法流程Fig.1 Flow chart of ELM algorithm with phase space reconstruction

表1 不同數(shù)目的隱含層節(jié)點對應(yīng)的預(yù)測均方差Tab.1 Predicted standard deviation in accordance with hidden nodes of different number

由表1可得，隱含層節(jié)點數(shù)目若過少，ELM模型不能很好地學(xué)習(xí)樣本，即均方差很大；隱含層數(shù)目過多，泛化能力將變差，而且隱含層節(jié)點在14以后均方差都保持在0.103 7左右，因此本文選擇隱含層節(jié)點數(shù)目為14。

ELM預(yù)測模型的預(yù)測風(fēng)速值的分布如圖2所示，預(yù)測結(jié)果如表2所示（由于數(shù)據(jù)較多，篇幅有限，只列取24個點數(shù)據(jù)）。

圖2 實際風(fēng)速與預(yù)測風(fēng)速分布Fig.2 Distribution of forecasted and observed wind speed

表2 ELM預(yù)測模型預(yù)測結(jié)果Tab.2 Forecasting results of ELM model

從圖2和表2可以看出，ELM預(yù)測模型對風(fēng)速提前15 min的預(yù)測只有少數(shù)點的相對誤差較大，大部分預(yù)測點的預(yù)測較為準(zhǔn)確，預(yù)測的最大誤差、平均相對誤差和均方誤差分別為15.57%、7.201%和2.52%，結(jié)果比較理想，從而驗證ELM理論在風(fēng)速預(yù)測中的可行性。

將ELM模型與BP神經(jīng)網(wǎng)絡(luò)模型、支持向量機（support vector machine，SVM）模型的預(yù)測結(jié)果進(jìn)行相應(yīng)的比較，這些模型在數(shù)據(jù)處理上基本一樣，這些模型得到的提前15 min的預(yù)測風(fēng)速分布如圖3所示，預(yù)測結(jié)果如表3和表4所示。

圖3 不同模型的預(yù)測結(jié)果Fig.3 Distribution of wind speed forecasted by different model

表3 不同模型預(yù)測風(fēng)速值Tab.3 Forecasting wind speed results of different forecast model

表4 不同模型預(yù)測結(jié)果Tab.4 Forecasting results of different forecast model

表3和表4分別列出不同預(yù)測模型的預(yù)測結(jié)果和預(yù)測誤差。由不同模型得到的預(yù)測結(jié)果可以看出，SVM網(wǎng)絡(luò)在風(fēng)速預(yù)測中精度較高，預(yù)測效果較好，但是比ELM網(wǎng)絡(luò)其優(yōu)勢并不是非常明顯。從表3中的收斂時間可以看出，ELM網(wǎng)絡(luò)幾乎瞬間可以完成預(yù)測，而SVM網(wǎng)絡(luò)所需要的時間約是它的37倍，BP網(wǎng)絡(luò)需要的時間更多，因此ELM有明顯的優(yōu)勢，所以在風(fēng)速快速預(yù)測時，該方法可以達(dá)到更好的效果。然而，在實際應(yīng)用中，不同的風(fēng)電場有各自的特點，因此根據(jù)具體的情況來選擇相應(yīng)的方法才能取得理想的效果。

5 結(jié)語

本文運用混沌相空間重構(gòu)理論，重構(gòu)樣本空間，使新的樣本能夠表征原始時間序列動態(tài)特性，更能反映風(fēng)速變化特性，采用極端學(xué)習(xí)機進(jìn)行了短期風(fēng)速預(yù)測，并與BP網(wǎng)絡(luò)和SVM網(wǎng)絡(luò)進(jìn)行對比，驗證了極端學(xué)習(xí)機在風(fēng)速預(yù)測中的優(yōu)越性。極端學(xué)習(xí)機需要設(shè)置隱含層節(jié)點個數(shù)，參數(shù)選擇容易，且在算法執(zhí)行過程中不需要調(diào)整輸入層與隱含層間的連接權(quán)值和隱含層神經(jīng)元閥值，因此學(xué)習(xí)速度快、泛化性能好，為風(fēng)速預(yù)測提供一種新方法。

[1]尹明，王成山，葛旭波（Yin Ming，Wang Chengshan，Ge Xubo）.風(fēng)電并網(wǎng)經(jīng)濟(jì)技術(shù)評價研究綜述（Review of economic technical assessment of wind power integration）[J].電力系統(tǒng)及其自動化學(xué)報（Proceedings of the CSUEPSA），2010，22（5）：102-108.

[2]Abdel-Aal R E，Elhadidy M A，Shaahid S M.Modeling and forecasting the mean hourly wind speed time series using GMDH-based abductive networks[J].Renewable Energy，2009，34（7）：1686-1699.

[3]丁明，吳義純，張立軍（Ding Ming，Wu Yichun，Zhang Lijun）.風(fēng)電場風(fēng)速概率分布參數(shù)計算方法的研究（Study on the algorithm to the probabilistic distribution parameters of wind speed in wind farms）[J].中國電機工程學(xué)報（Proceedings of the CSEE），2005，25（10）：107-110.

[4]陳國初，楊維，張延遲，等（Chen Guochu，Yang Wei，Zhang Yanchi，et al）.風(fēng)電場風(fēng)速概率分布參數(shù)計算新方法（New computation method of wind speed probability distribution parameters in wind farm）[J].電力系統(tǒng)及其自動化學(xué)報（Proceedings of the CSU-EPSA），2011，23（1）：46-51.

[5]蔡凱，譚倫農(nóng)，李春林，等（Cai Kai，Tan Lunnong，Li Chunlin，et al）.時間序列與神經(jīng)網(wǎng)絡(luò)法相結(jié)合的短期風(fēng)速預(yù)測（Short-term wind speed forecasting combing time series and neural network method）[J].電網(wǎng)技術(shù)（Power System Technology），2008，32（8）：82-85，90.

[6]李文良，衛(wèi)志農(nóng)，孫國強，等（Li Wenliang，Wei Zhinong，Sun Guoqiang，et al）.基于改進(jìn)空間相關(guān)法和徑向基神經(jīng)網(wǎng)絡(luò)的風(fēng)電場短期風(fēng)速分時預(yù)測模型（Multi-interval wind speed forecast model based on improved spatial correlation and RBF neural network）[J].電力自動化設(shè)備（Electric Power Automation Equipment），2009，29（6）：89-92.

[7]杜穎，盧繼平，李青，等（Du Ying，Lu Jiping，Li Qing，et al）.基于最小二乘支持向量機的風(fēng)電場短期風(fēng)速預(yù)測（Short-term wind speed forecasting of wind farm based on least square-support vector machine）[J].電網(wǎng)技術(shù)（Power System Technology），2008，32（15）：62-66.

[8]曾杰，張華（Zeng Jie，Zhang Hua）.基于最小二乘支持向量機的風(fēng)速預(yù)測模型（A wind speed forecasting model based on least squares support vector machine）[J].電網(wǎng)技術(shù)（Power System Technology），2009，33（18）：144-147.

[9]Damousis I G，Dokopoulos P.A fuzzy expert system for the forecasting of wind speed and power generation in wind farms[C]//International Conference on Power Industry Computer Applications.Sydney，Australia：2001.

[10]張智晟，馬 龍，孫雅明（Zhang Zhisheng，Ma Long，Sun Yaming）.混沌理論和支持向量機結(jié)合的負(fù)荷預(yù)測模型（Load forecasting model using chaos theory and support vector machine）[J].電力系統(tǒng)及其自動化學(xué)報（Proceedings of the CSU-EPSA），2008，20（6）：31-35.

[11]韓敏.混沌時間序列預(yù)測理論與方法[M].北京：中國水利水電出版社，2007.

[12]鄭永康，陳維榮，蔣剛，等（Zheng Yongkang，Chen Weirong，Jiang Gang，et al）.一種模糊支持向量的負(fù)荷混沌時間序列預(yù)測法（Chaotic time series method for load forecasting based on fuzzy support vector）[J].電力系統(tǒng)及其自動化學(xué)報（Proceedings of the CSU-EPSA），2007，19（6）：48-52.

[13]Huang Guang-Bin，Zhu Qin-Yu，Siew Chee-Kheong.Extreme learning machine：theory and applications[J].Neurocomputing，2006，70（1-3）：489-501.

[14]劉學(xué)藝，李平，郜傳厚（Liu Xueyi，Li Ping，Gao Chuanhou）.極限學(xué)習(xí)機的快速留一交叉驗證算法（Fast leave-one-out cross-validation algorithm for extreme learning machine）[J].上海交通大學(xué)學(xué)報 （Journal of Shanghai Jiao Tong University），2011，45（8）：1140-1145.

[15]潘華賢，程國建，蔡磊（Pan Huaxian，Cheng Guojian，Cai Lei）.極限學(xué)習(xí)機與支持向量機在儲層滲透率預(yù)測中的對比研究（Comparison of the extreme learning machine with the support vector machine for reservoir permeability prediction）[J].計算機工程與科學(xué)（Computer Engineering&Science），2010，32（2）：131-134.

[16]Huang Guang-Bin，Chen Lei，Siew Chee-Kheong.Universal approximation using incremental constructive feedforward networks with random hidden nodes[J].IEEE Trans on Neural Networks，2006，17（4）：879-892.

[17]Takens F.Detecting strange attractors in turbulence[J].Lecture Notes in Math，1981，898（29）：366-381.

[18]張永明，齊維貴，王軍棟（Zhang Yongming，Qi Weigui，Wang Jundong）.基于支持向量機的時間序列交叉負(fù)荷預(yù)報方法（Time series crossover load forecasting approach based on support vector machines）[J].電網(wǎng)技術(shù)（Power System Technology），2007，31（S2）：207-210.