基于并行相關(guān)向量機(jī)的多步預(yù)測(cè)方法研究

韓中合，周沛，苑一鳴

（華北電力大學(xué)能源與動(dòng)力工程學(xué)院，河北保定 071003）

基于并行相關(guān)向量機(jī)的多步預(yù)測(cè)方法研究

韓中合，周沛，苑一鳴

（華北電力大學(xué)能源與動(dòng)力工程學(xué)院，河北保定 071003）

針對(duì)風(fēng)速時(shí)間序列的非線性和非平穩(wěn)性的特點(diǎn)以及傳統(tǒng)迭代法累計(jì)誤差較大的不足，提出了基于并行相關(guān)向量機(jī)的多步預(yù)測(cè)方法。利用相空間重構(gòu)進(jìn)行樣本重構(gòu)，通過建立并行相關(guān)向量機(jī)（RVM）的短期風(fēng)速預(yù)測(cè)模型對(duì)風(fēng)速進(jìn)行預(yù)測(cè)。仿真結(jié)果表明，與傳統(tǒng)的多步預(yù)測(cè)模型相比，該方法預(yù)測(cè)精度更高。

相關(guān)向量機(jī)；多步預(yù)測(cè)；相空間重構(gòu)

風(fēng)能作為一種儲(chǔ)量豐富、潔凈環(huán)保、分布廣泛的可再生清潔能源，其具有其他能源不具備的發(fā)展?jié)摿桶l(fā)展前景。隨著風(fēng)電場(chǎng)規(guī)模的擴(kuò)大，風(fēng)電在電網(wǎng)中所占比重不斷增加，但由于風(fēng)能具有間歇性、不可控性和波動(dòng)性等特點(diǎn)，極大影響了電力系統(tǒng)的發(fā)電質(zhì)量、安全性和穩(wěn)定性[1]。因此，對(duì)風(fēng)速進(jìn)行準(zhǔn)確的預(yù)測(cè)是解決這一問題的重要手段。

目前，風(fēng)電場(chǎng)風(fēng)速預(yù)測(cè)大多基于歷史數(shù)據(jù)的方法，主要包括持續(xù)預(yù)測(cè)法、卡爾曼濾波法、隨機(jī)時(shí)間序列法、人工神經(jīng)網(wǎng)絡(luò)法、模糊邏輯法以及一些組合方法[2-3]等，這些方法大多是基于單步預(yù)測(cè)進(jìn)行建模[4-6]。對(duì)于多步預(yù)測(cè)，文獻(xiàn)[7]提出了直接式預(yù)測(cè)模型來進(jìn)行風(fēng)速的多步預(yù)測(cè)，在預(yù)測(cè)過程中沒有引入估計(jì)值，即沒有產(chǎn)生累積誤差，也即沒有考慮到時(shí)間序列內(nèi)在的相關(guān)性，可能會(huì)打破時(shí)間序列之間本質(zhì)特性的延續(xù)性；文獻(xiàn)[8]提出滾動(dòng)式預(yù)測(cè)模型，該模型在一些預(yù)測(cè)中取得了不錯(cuò)的效果，但每一步產(chǎn)生的誤差會(huì)向后傳遞，造成誤差的累積，預(yù)測(cè)步數(shù)越多，累積的誤差越大；文獻(xiàn)[9]提出了直接-滾動(dòng)式預(yù)測(cè)模型，同直接式預(yù)測(cè)模型一樣，運(yùn)用不同模型對(duì)每一步進(jìn)行預(yù)測(cè)，每一步預(yù)測(cè)中都加入前幾步的預(yù)測(cè)值，同樣無法避免誤差累積對(duì)結(jié)果的影響；相比于單步輸出，文獻(xiàn)[10]提出了多輸出式預(yù)測(cè)模型，既可以克服直接式模型對(duì)時(shí)間序列的條件獨(dú)立假設(shè)，又可以克服滾動(dòng)式模型帶來的迭代誤差，但此方法泛化能力差；針對(duì)多步預(yù)測(cè)存在的問題，本文提出了基于并行相關(guān)向量機(jī)（P-RVM）的多步預(yù)測(cè)方法。該方法通過相空間重構(gòu)得到的時(shí)間延遲對(duì)風(fēng)速序列進(jìn)行重構(gòu)，對(duì)每步再進(jìn)行RVM預(yù)測(cè)，在保證預(yù)測(cè)精度的同時(shí)大大提高了預(yù)測(cè)步長(zhǎng)。

1 相關(guān)向量機(jī)

相關(guān)向量機(jī)[11]RVM）是通過核函數(shù)映射把數(shù)據(jù)由低維向高維空間轉(zhuǎn)化的，相關(guān)向量機(jī)的訓(xùn)練是基于貝葉斯理論，在先驗(yàn)分布的條件下，利用自動(dòng)相關(guān)決策理論（automatic relevance determination，ARD）來消除無關(guān)聯(lián)的點(diǎn)，從而獲得稀疏化的分類模型，算法不但稀疏性高，而且能夠給出預(yù)測(cè)準(zhǔn)確度的概率。

式中：目標(biāo)函數(shù)帶有噪聲且滿足εi～N（0，σ2）；wi為權(quán)重系數(shù)；k（x，x）i為核函數(shù)；N為樣本數(shù)量。

由式（1）可知，求得ti服從ti～（y（xi，w），σ2）的分布。

對(duì)于相互獨(dú)立的目標(biāo)值t=[t1，t2，…，tn]T，在wi與σ2已知的條件下，訓(xùn)練集的似然估計(jì)如下：

式中：t=（t1，t2，…，tN）T；w=（w1，w2，…，wN）T；Φ為由特征向量代入到核函數(shù)中的N×（N+1）維矩陣：

由于預(yù)測(cè)模型中參數(shù)眾多，為了避免直接使用最大似然法得到w和σ2產(chǎn)生的過擬合現(xiàn)象[9]，對(duì)w加上先決條件，即采用稀疏貝葉斯原理對(duì)w賦予零均值高斯先驗(yàn)分布，得：

式中：α=[α1，α2，…，αn]T是N+1維超參數(shù)向量，每一個(gè)權(quán)重對(duì)應(yīng)一個(gè)獨(dú)立的超參數(shù)分量，因此將求解權(quán)重wi的問題轉(zhuǎn)化為對(duì)αi的求解，并且保證了RVM的稀疏性。

在定義了先驗(yàn)概率分布及似然分布以后，根據(jù)貝葉斯原理，就以求得所有未知參數(shù)的后驗(yàn)概率分布為

使用最大似然法可得超參數(shù)α和方差σ2。對(duì)于新的輸入值x*，與其對(duì)應(yīng)的預(yù)測(cè)結(jié)果為y*=μTφ（x*）。

2 基于并行相關(guān)向量機(jī)的多步預(yù)測(cè)

單步迭代預(yù)測(cè)采用預(yù)測(cè)值來繼續(xù)下一個(gè)值的預(yù)測(cè)，即通過預(yù)測(cè)得到的結(jié)果與之前數(shù)據(jù)構(gòu)成時(shí)間序列，對(duì)下一個(gè)時(shí)間點(diǎn)的數(shù)據(jù)進(jìn)行預(yù)測(cè)，這樣做會(huì)隨著被預(yù)測(cè)點(diǎn)的增加造成誤差積累，造成預(yù)測(cè)結(jié)果與實(shí)際值偏差較大；而多步預(yù)測(cè)即對(duì)每一個(gè)時(shí)間序列進(jìn)行單獨(dú)預(yù)測(cè)，每一步僅產(chǎn)生一個(gè)預(yù)測(cè)值，從而很好地保證了預(yù)測(cè)精度。

針對(duì)文獻(xiàn)[7-10]多步預(yù)測(cè)存在的預(yù)測(cè)計(jì)算量大、預(yù)測(cè)誤差較大等問題，本文提出了基于并行相關(guān)向量機(jī)（P-RVM）的多步預(yù)測(cè)方法。在已知風(fēng)速序列具有混沌特性的基礎(chǔ)上[11-12]，該方法將已知風(fēng)速時(shí)間序列分為τ個(gè)并列的時(shí)間序列，每個(gè)序列之間的關(guān)系是并列進(jìn)行的。通過確定參數(shù)m對(duì)時(shí)間序列進(jìn)行特征提取，從而確定被預(yù)測(cè)值。τ個(gè)并行相關(guān)向量機(jī)對(duì)應(yīng)τ個(gè)預(yù)測(cè)值，將τ個(gè)預(yù)測(cè)值按時(shí)間順序排列，就形成多步預(yù)測(cè)，即實(shí)現(xiàn)對(duì)風(fēng)速的并行多步預(yù)測(cè)。因此τ與m的確定直接決定了風(fēng)速時(shí)間序列的構(gòu)造和模型的建立。

2.1 τ和m的確定及相空間重構(gòu)理論

并行RVM個(gè)數(shù)（預(yù)測(cè)步數(shù)）與特征維數(shù)的選取不是任意的，τ的選取決定了預(yù)測(cè)的步數(shù)，即可預(yù)測(cè)時(shí)長(zhǎng)；m的選取影響到樣本的特征，進(jìn)而決定了模型的預(yù)測(cè)精度。故需要對(duì)二者的選取進(jìn)行研究。

本文從時(shí)間序列非線性動(dòng)力學(xué)特性角度出發(fā)，基于混沌相空間重構(gòu)理論計(jì)算確定τ與m的值。

相空間重構(gòu)是為了對(duì)混沌時(shí)間序列進(jìn)行判定與預(yù)測(cè)，根據(jù)Packard和Takens提出的嵌入理論[13]，如果嵌入維數(shù)m≥2d+1（d為系統(tǒng)動(dòng)力學(xué)維數(shù)），則在此嵌入維數(shù)的重構(gòu)空間里把有規(guī)律的軌跡恢復(fù)出來。在相空間重構(gòu)過程中，對(duì)于嵌入維數(shù)與延遲時(shí)間的選取是否恰當(dāng)，將直接影響時(shí)間序列的重構(gòu)質(zhì)量與預(yù)測(cè)精度。一般采用互信息法計(jì)算時(shí)間延遲τ，采用Cao方法計(jì)算重構(gòu)相空間的嵌入維數(shù)m。

2.2 并行相關(guān)向量機(jī)的多步預(yù)測(cè)模型建立

對(duì)于時(shí)間序列X={X1，X2，…，Xn}，基于并行RVM多步預(yù)測(cè)的模型建立具體步驟如下：

1）確定時(shí)間延遲τ。從風(fēng)場(chǎng)風(fēng)速數(shù)據(jù)中選取合適數(shù)目的一組風(fēng)速數(shù)據(jù)并分析其混沌特性，通過互信息法計(jì)算時(shí)間延遲τ。

2）利用τ將數(shù)據(jù)分組。以τ作為時(shí)間間隔將時(shí)間樣本進(jìn)行分組，最終將樣本分為τ組：

3）確定樣本特征及目標(biāo)值。采用Cao方法來對(duì)嵌入維數(shù)m進(jìn)行計(jì)算，并將m作為特征維數(shù)，得到樣本特征。以時(shí)間序列xi（i=1，2，…，τ）為例，構(gòu)造樣本特征，并與目標(biāo)值對(duì)應(yīng)：

其中，左側(cè)為樣本特征，右側(cè)為對(duì)應(yīng)目標(biāo)值。即得到第i個(gè)時(shí)間序列的訓(xùn)練樣本。

4）建立RVM預(yù)測(cè)模型。分別對(duì)每組時(shí)間序列進(jìn)行樣本訓(xùn)練，建立RVM預(yù)測(cè)模型。

5）形成多步預(yù)測(cè)結(jié)果。利用每個(gè)時(shí)間序列整合的樣本特征，得到每個(gè)時(shí)間序列的最后一組樣本特征對(duì)應(yīng)的目標(biāo)值yi，即為風(fēng)速的預(yù)測(cè)值，對(duì)τ組的預(yù)測(cè)值進(jìn)行有序的排列，最終形成多步預(yù)測(cè)的預(yù)測(cè)結(jié)果。如圖1所示（y1、y2、…yτ即為多步預(yù)測(cè)結(jié)果）。PRVM多步預(yù)測(cè)流程圖如2所示。

圖1 時(shí)間序列并行多步預(yù)測(cè)Fig.1 Parallelmulti-step prediction of time series

3 多步預(yù)測(cè)模型應(yīng)用研究

分別選取華北地區(qū)A、B風(fēng)場(chǎng)間隔為20 min的樣本容量為400個(gè)風(fēng)速數(shù)據(jù)，對(duì)之后的8個(gè)測(cè)點(diǎn)的風(fēng)速進(jìn)行預(yù)測(cè)。

圖2 P-RVM多步預(yù)測(cè)流程圖Fig.2 Flowchart of themulti-step prediction ofw ind speed forecasting

采用2.1節(jié)提出的互信息法和Cao方法計(jì)算所取風(fēng)速序列的時(shí)間延遲與嵌入維數(shù)，計(jì)算結(jié)果見表1。

表1 2個(gè)風(fēng)速時(shí)間序列的τ和mTab.1 τand m of two w ind speed time series

根據(jù)時(shí)間延遲τ，將時(shí)間樣本序列分為8組；利用嵌入維數(shù)4，構(gòu)造樣本特征維數(shù)，得到樣本特征；建立P-RVM多步預(yù)測(cè)模型，即8個(gè)并行RVM預(yù)測(cè)模型；分別利用并行預(yù)測(cè)模型對(duì)未來數(shù)據(jù)點(diǎn)進(jìn)行單步預(yù)測(cè)，最終形成8步預(yù)測(cè)結(jié)果，預(yù)測(cè)結(jié)果見圖3—圖4。

圖3 2種方法預(yù)測(cè)結(jié)果對(duì)比Fig.3 Com parison of 2methods for prediction results

本文采用相對(duì)誤差和平均相對(duì)誤差來衡量傳統(tǒng)方法與本文方法的精確度：

圖4 2種方法預(yù)測(cè)結(jié)果對(duì)比Fig.4 Com parison of 2methods for prediction result

式中：vi、v^i分別為第i個(gè)實(shí)際風(fēng)速與預(yù)測(cè)風(fēng)速的值；n取8。

表2為預(yù)測(cè)的8個(gè)樣本點(diǎn)的對(duì)比。從對(duì)比風(fēng)場(chǎng)A、B的預(yù)測(cè)相對(duì)誤差可以看出：基于P-RVM的多步預(yù)測(cè)方法的平均相對(duì)誤差分別為5.386 3%、5.559 7%，而傳統(tǒng)方法的平均相對(duì)誤差分別為19.087 2%、15.997 1%?？梢悦黠@看出，基于并行相關(guān)向量機(jī)（PRVM）的多步預(yù)測(cè)方法的預(yù)測(cè)精度明顯好于傳統(tǒng)迭代法，預(yù)測(cè)值更接近真實(shí)值，滿足風(fēng)電場(chǎng)關(guān)于風(fēng)速預(yù)測(cè)的誤差精度要求[14-15]。

表2 風(fēng)場(chǎng)風(fēng)速預(yù)測(cè)結(jié)果對(duì)比Tab.2 Com parison of w ind speed forecasting results %

4 結(jié)論

本文針對(duì)風(fēng)電機(jī)組風(fēng)速預(yù)測(cè)問題，提出了基于并行相關(guān)向量機(jī)（P-RVM）的多步預(yù)測(cè)方法，進(jìn)行短期風(fēng)速預(yù)測(cè)，并得出以下結(jié)論：

1）RVM方法在對(duì)風(fēng)速進(jìn)行短期預(yù)測(cè)建立模型時(shí)不需要過多的模型參數(shù)，更容易建立預(yù)測(cè)模型。同時(shí)，該方法具有較強(qiáng)的小樣本學(xué)習(xí)能力，在計(jì)算時(shí)不需要過多的樣本參數(shù)，便于計(jì)算。

2）本文提出的P-RVM可以實(shí)現(xiàn)高精度多步預(yù)測(cè)，與傳統(tǒng)多步預(yù)測(cè)方法相比避免了預(yù)測(cè)計(jì)算量大的問題，同時(shí)克服了迭代方法產(chǎn)生的迭代誤差。

3）通過混沌相空間重構(gòu)方法，從樣本時(shí)間序列自身的動(dòng)力學(xué)特性出發(fā)，計(jì)算得到時(shí)間延遲，即時(shí)間序列的可預(yù)測(cè)步數(shù)，為P-RVM可預(yù)測(cè)步數(shù)的選取提供了理論依據(jù)。

[1]雷亞洲，王偉勝，戴慧珠，等.風(fēng)電對(duì)電力系統(tǒng)運(yùn)行的價(jià)值分析[J].電網(wǎng)技術(shù)，2002，26（5）：10-14. LEI Yazhou，WANG Weisheng，DAI Huizhu，et al. Analysys ofwind power alue to power system operation[J]. Power System Technology，2002，26（5）：10-14（in Chinese）.

[2]楊秀媛，肖洋，陳樹勇.風(fēng)電場(chǎng)風(fēng)速和發(fā)電功率預(yù)測(cè)研究[J].中國(guó)電機(jī)工程學(xué)報(bào)，2005，25（11）：1-5. YANG Xiuyuan，XIAO Yang，CHEN Shuyong.Wind speed and generated power forecasting in wind farm[J]. Proceedingsof theCSEE，2005，25（11）：1-5（in Chinese）.

[3]BOSSANYIE A.Short-term wind prediction using kalman filters[J].Wind Engineering，1985，9（1）:1-8.

[4]劉子俊，孫健.基于遺傳算法和神經(jīng)網(wǎng)絡(luò)的分時(shí)段風(fēng)速預(yù)測(cè)方法[J].江蘇電機(jī)工程，2015，34（1）:6-8. LIU Zijun，SUN Jian.The wind speed prediction based on genetic algorithm and neural network with different periods[J].Jiangsu Electrical Engineering，2015，34（1）：6-8（in Chinese）.

[5]顏曉娟，龔仁喜，張千鋒.優(yōu)化遺傳算法尋優(yōu)的SVM在短期風(fēng)速預(yù)測(cè)中的應(yīng)用[J].電力系統(tǒng)保護(hù)與控制，2016，（9）：38-42. YAN Xiaojuan，GONG Renxi，ZHANG Qianfeng.Application of optimization SVM based on improved genetic algorithm in short-term wind speed prediction[J].Power System Protection and Control，2016（9）：38-42（in Chinese）.

[6]孫薇，劉默涵.基于改進(jìn)最小二乘支持向量機(jī)的短期負(fù)荷預(yù)測(cè)[J].電力科學(xué)與工程，2015（12）：16-21，33. SUNWei，LIU Mohan.Short-term load forecasting based on improved least squares-support vector machine[J].Electric Power Science and Engineering，2015（12）：16-21，33（in Chinese）.

[7]COSKUN HAMZA?EBI，DIYAR AKAY，F(xiàn)EVZIKUTAY. Comparison of direct and itera-tive artificial neural network forecast approaches in multi-periodic time series forecasting[J].Expert Systemswith Applications，2009，36（2）:3839-3844.

[8]孫春順，王耀南，李欣然.小時(shí)風(fēng)速的向量自回歸模型及應(yīng)用[J].中國(guó)電機(jī)工程學(xué)報(bào)，2008，28（14）：112-117. SUN Chunshun，WANG Yaonan，LI Xinran.A vector autoregressionmodel of hourly wind speed and its applications in hourly wind speed forecasting[J].Proceedings of the CSEE，2008，28（14）：112-117（in Chinese）.

[9]TAIEB，BOTEMPIS，SORJAMAA G，et al.Long-term prediction of time series by combining direct and mimo strategies[C].In International Joint Conference on Neural Networks，Atlan-ta，Georgia，2009（6）:14-19.

[10]TAIEB S B，SORJAMAA A，BOTEMPIG.Multiple outputmodeling formulti-step-ahead time series forecasting[J]. Neurocomputing，2010，73（10-12）：1950-1957.

[11]劉愛國(guó)，薛云濤，胡江鷺，等.基于GA優(yōu)化SVM的風(fēng)電功率的超短期預(yù)測(cè)[J].電力系統(tǒng)保護(hù)與控制，2015（2）：90-95. LIU Aiguo，XUE Yuntao，HU Jianglu，et al.Ultra-shortterm wind power forecasting based on SVM optimized by GA[J].Power System Protection and Control，2015（2）：90-95（in Chinese）.

[12]李占英，王科俊，張明君，等.基于混沌和二階對(duì)角遞歸網(wǎng)絡(luò)的船舶橫搖的直接多步預(yù)測(cè)方法[J].控制與決策，2012，27（7）：1057-1065. LI Zhanying，WANG Kejun，ZHANG Mingjun，et al. Directmulti-step prediction approach of ship rolling based on chaotic and second order diagonal recurrent neural network[J].Control and Decision，2012，27（7）：1057-1065（in Chinese）.

[13]王麗婕，廖曉鐘，高爽，等.并網(wǎng)型大型風(fēng)電場(chǎng)風(fēng)力發(fā)電功率-時(shí)間序列的混沌屬性分析[J].北京理工大學(xué)學(xué)報(bào)，2007，27（12）：1077-1080. WANG Lijie，L IAO Xi a o z h o n g，G AO Shu a n g，etal.Chaos characteristics analysis of wind power generation time series for a grid connecting wind farm[J].Transactions of Beijing Institute of Technology，2007，27（12）：1077-1080（in Chinese）.

[14]柳玉，曾德良，劉吉臻，等.基于小波包變換的最小二乘支持向量機(jī)短期風(fēng)速多步預(yù)測(cè)和信息?；A(yù)測(cè)的研究[J].太陽能學(xué)報(bào)，2014，35（2）：214-220. LIU Yu，ZENG Deliang，LIU Jizhen，et al.Wavelet packet transform and the least squares support vector machine in research of short-term wind speed multistep prediction and information granulation prediction[J].Acta Energiae Solaris Sinica，2014，35（2）：214-220（in Chinese）.

[15]呂金虎，路君安，陳世華.混沌時(shí)間序列分析及其應(yīng)用[M].武漢：武漢大學(xué)出版社，2002：46-80.

（編輯 董小兵）

Research on M ulti-Step Prediction Based on Parallel Relevance Vector M achine

HAN Zhonghe，ZHOU Pei，YUAN Yiming
（School of Energy and Power Engineering，North China Electric Power University，Baoding 071003，Hebei，China）

According to the characteristics of the nonlinear and non-stationary of wind speed time series and the large accumulation error of the traditional iterative method，this paper puts forward amulti-step predictionmethod based on a parallel relevance vectormachine.By using phase space reconstruction to reconstruct samples，short-term wind speed prediction is conducted by using parallel relevance vector machine（RVM）. Compared with the traditional multi-step prediction method，the simulation results show that the proposed method is more accurate than the traditionalmulti-step predictionmodel.

relevance vectormachine；multi-step prediction；phase space reconstruction

2016-04-29。

韓中合（1964—），男，博士，教授，研究方向?yàn)闊崃υO(shè)備狀態(tài)檢測(cè)與故障診斷、兩相流計(jì)算與測(cè)量；

周 沛（1992—），男，碩士研究生，研究方向?yàn)闋顟B(tài)監(jiān)測(cè)與故障診斷；

苑一鳴（1992—），男，碩士研究生，研究方向?yàn)闋顟B(tài)監(jiān)測(cè)與故障診斷。

中央高?；究蒲袠I(yè)務(wù)費(fèi)（2015MS102）；國(guó)家自然科學(xué)基金項(xiàng)目（51306059）。

Project Supported by the Central University Basic Scientific Research Program（2015MS10）；the National Nature Science Foundation of China（51306059）.

1674-3814（2017）02-0112-05

TM614

A