非線性時間序列B樣條優(yōu)化網(wǎng)絡(luò)預(yù)測模型及工業(yè)應(yīng)用

孔玲爽，龔小龍，周維龍

（湖南工業(yè)大學(xué) 電氣與信息工程學(xué)院，湖南 株洲 412007）

非線性時間序列B樣條優(yōu)化網(wǎng)絡(luò)預(yù)測模型及工業(yè)應(yīng)用

孔玲爽，龔小龍，周維龍

（湖南工業(yè)大學(xué) 電氣與信息工程學(xué)院，湖南 株洲 412007）

為有效實現(xiàn)非線性時間序列的實時預(yù)測，建立了一種B樣條優(yōu)化網(wǎng)絡(luò)預(yù)測模型。在網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計中，將各個樣條基函數(shù)的權(quán)值參數(shù)和節(jié)點位置同時視為待優(yōu)化的獨立變量，并選擇預(yù)測誤差平方和為評價函數(shù)，設(shè)計了一種全局優(yōu)化算法，對網(wǎng)絡(luò)結(jié)構(gòu)進行優(yōu)化。工業(yè)仿真實驗結(jié)果表明，所提出的優(yōu)化網(wǎng)絡(luò)預(yù)測模型具有較高的預(yù)測精度，而且結(jié)構(gòu)簡單，待優(yōu)參數(shù)少，是一種有效的非線性時間序列預(yù)測方法。

非線性時間序列；B樣條網(wǎng)絡(luò)；預(yù)測模型；工業(yè)過程

1　背景知識

時間序列預(yù)測問題廣泛存在于經(jīng)濟、金融、氣象、氣候、環(huán)境以及工業(yè)生產(chǎn)等領(lǐng)域。時間序列是將某種統(tǒng)計指標的數(shù)值按時間先后順序排列所形成的數(shù)列。時間序列預(yù)測方法通過編制和分析時間序列，根據(jù)其所反映出來的發(fā)展過程、方向和趨勢，進行類推或延伸，借以預(yù)測下一段或以后若干時間可能達到的水平［1］。由于時間序列本身的隨機特性，許多預(yù)測方法都是基于統(tǒng)計學(xué)原理的，比如自回歸（autoregressive，AR）模型、滑動平均（moving average，MA）模型和差分自回歸滑動平均（autoregressive integrated moving average，ARIMA）模型等。這些預(yù)測方法主要適用于同方差和單變量的線性問題。盡管在許多實際應(yīng)用中，線性模型基本上可行，然而近些年來，研究者越來越清楚地看到它們諸多的局限性（例如它們無法產(chǎn)生帶有非堆成周期的數(shù)據(jù)，它們通常是時間可逆的）。現(xiàn)實問題要求人們不得不以“非線性”來看待時間序列，并不斷地改進模型。

針對時間序列的非線性建模方法主要有門限自回歸（self-exciting threshold autoregressive，SETAR）模型、雙線性（bilinear，BL）模型和指數(shù)自回歸（exponential artoregressive，EAR）模型等［2］。其中，SETAR是最簡單的一種非線性時間序列模型。

隨著智能技術(shù)的發(fā)展和優(yōu)勢，人工神經(jīng)網(wǎng)絡(luò)逐漸成為非線性時間序列預(yù)測的有效工具［3-8］。理論上，如果隱層神經(jīng)元數(shù)目足夠多，人工神經(jīng)網(wǎng)絡(luò)可以以任意精度逼近非線性系統(tǒng)。然而，通常的神經(jīng)網(wǎng)絡(luò)具有多層感知，結(jié)構(gòu)復(fù)雜且難于理解。為此，研究者提出一種基于網(wǎng)格的徑向基函數(shù)網(wǎng)絡(luò)來近似非線性系統(tǒng)，但對于如何選擇網(wǎng)格點沒有進一步的討論和研究。另一類人工神經(jīng)網(wǎng)絡(luò)是模糊聯(lián)想記憶神經(jīng)網(wǎng)絡(luò)，它采用基函數(shù)的線性組合來近似非線性系統(tǒng)，這類網(wǎng)絡(luò)的結(jié)構(gòu)更容易理解。對于這類網(wǎng)絡(luò)，基函數(shù)有多種選擇，最常用的基函數(shù)是徑向基核函數(shù)，但徑向基核函數(shù)難以確定中心值和寬度參數(shù)［9-11］。另一類常用的基函數(shù)是B樣條基函數(shù)，它是用分段多項式來表示的函數(shù)，網(wǎng)絡(luò)結(jié)構(gòu)為B樣條基函數(shù)的線性組合［12-13］。在B樣條網(wǎng)絡(luò)的結(jié)構(gòu)設(shè)計中，節(jié)點的選擇對于網(wǎng)絡(luò)的預(yù)測精度非常重要。但在大多數(shù)研究中，由于理論的缺乏，節(jié)點往往被預(yù)先設(shè)定，或者當(dāng)近似精度不能滿足要求時，均勻地增加節(jié)點，這2種方法都不能實現(xiàn)節(jié)點的最優(yōu)設(shè)置，所以網(wǎng)絡(luò)的近似精度往往不如人意［14-15］。

本文擬采用一種節(jié)點優(yōu)化B樣條神經(jīng)網(wǎng)絡(luò)實現(xiàn)某冶金過程非線性時間序列參數(shù)的預(yù)測。該網(wǎng)絡(luò)將B樣條基函數(shù)的節(jié)點視為獨立決策變量，在網(wǎng)絡(luò)訓(xùn)練過程中，與網(wǎng)絡(luò)參數(shù)一起優(yōu)化；為避免優(yōu)化過程陷入局部最小，設(shè)計了一種隨機優(yōu)化算法進行全局尋優(yōu)計算。仿真結(jié)果表明，在具有相同精度的條件下，與徑向基核函數(shù)網(wǎng)絡(luò)相比，B樣條優(yōu)化網(wǎng)絡(luò)具有更簡單的結(jié)構(gòu)和更低的計算成本。

2　B樣條函數(shù)

B樣條函數(shù)是一個分段多項式，它可表示為B樣條基函數(shù)的線性組合。為了簡單，本研究先討論一維樣條函數(shù)。

式中k和m均為正整數(shù)。

這樣，在［a， b］上，m階的標準樣條基函數(shù)可表示為i，m，i=-m+1， -m+2， …， k。其定義為

對于任意m≥1，B樣條基函數(shù)滿足：

實質(zhì)上，基函數(shù)是對單位1的一種分割，即有

當(dāng)m≥3時，基函數(shù)在（-∞， +∞）上是光滑的。

這樣，一個m階的一維B樣條函數(shù) （x， x）定義為基函數(shù)的線性組合，即：

式中ci是待定常數(shù)，其中i=-m+1，-m+2，…， k。

3　非線性時間序列B樣條優(yōu)化網(wǎng)絡(luò)

設(shè)有一非線性時間序列｛y1， y2， …， yn｝，有

式中：n+1為預(yù)測誤差；

f（·）為預(yù)測函數(shù)。

時間序列預(yù)測問題就是如何構(gòu)建預(yù)測模型f（·）使其能夠利用過去的時間序列數(shù)據(jù)預(yù)測現(xiàn)在或?qū)淼慕Y(jié)果。在這里，采用多維B樣條函數(shù)網(wǎng)絡(luò)逼近f（·）。一個n維B樣條網(wǎng)絡(luò)函數(shù)f（·）可以用式（2）和式（3）的一維樣條基函數(shù)的張量積表示，即

X=（x1， x2， …， xn）為節(jié)點矩陣；

sj（j=1， 2， …， n）為第j維變量值域內(nèi)的值。

在現(xiàn)有大多數(shù)的研究中，式（6）的網(wǎng)絡(luò)結(jié)構(gòu)都是被預(yù)先設(shè)定，也就是說，各維變量的節(jié)點xj是預(yù)先設(shè)定好的。在訓(xùn)練網(wǎng)絡(luò)過程中，僅將視為變量，這種被預(yù)先固定結(jié)構(gòu)的B樣條網(wǎng)絡(luò)性能往往是不理想的。為了優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu)，將網(wǎng)絡(luò)（6）中的xj和同時視為決策變量，并進行全局尋優(yōu)，獲得一種帶有優(yōu)化節(jié)點的樣條網(wǎng)絡(luò)結(jié)構(gòu)。算法步驟如下。

1）選定一組序列 ｛ y1， y2， …， yn， yn+1， … ， yN｝，令，在超立方體［a， b］n上， 隨機初始化節(jié)點矩陣X ；給定一個常數(shù) c，隨機初始化

2）選定最大優(yōu)化次數(shù)M，令M0=0，初始化1個小正數(shù)=random（-1， 1）。

3）根據(jù)式（5）計算預(yù)測誤差的平方和，即

4　工業(yè)仿真實驗

為檢驗?zāi)Ｐ偷挠行?，采用某冶金配料過程的數(shù)據(jù)進行仿真驗證。在該配料過程中，由于生產(chǎn)條件和檢測技術(shù)的限制，原料質(zhì)量參數(shù)無法在線檢測，只能進行離線分析，檢測結(jié)果非常滯后，無法及時指導(dǎo)生產(chǎn)。但這些滯后的檢測數(shù)據(jù)是按時間順序排列的，構(gòu)成了時間序列，因此，如何利用這些時間序列進行原料質(zhì)量參數(shù)的實時預(yù)測非常有意義。在該工業(yè)仿真實驗中，對一種原料中氧化鈣和氧化硅的百分含量進行預(yù)測，分別取200組數(shù)據(jù)點訓(xùn)練網(wǎng)絡(luò)。其中，樣條基函數(shù)為三階，即m=3；網(wǎng)絡(luò)為二維，即n=2；在訓(xùn)練過程中，設(shè)定M=10 000。網(wǎng)絡(luò)訓(xùn)練完成后，另取50組數(shù)據(jù)驗證模型的泛化能力，如圖1和圖2所示。從2個圖中可以看出，預(yù)測結(jié)果非常接近實際值，說明了模型的有效性。

圖1　氧化鈣含量預(yù)測結(jié)果Fig. 1　Prediction results of calcium oxide content

圖2　氧化硅含量預(yù)測結(jié)果Fig. 2　Prediction results of sodium oxide content

為進一步評價方法的性能，將所提出的網(wǎng)絡(luò)和徑向基函數(shù)網(wǎng)絡(luò)進行比較，結(jié)果如表1所示。表1中采用預(yù)測值與實際值的最大相對誤差和均方根誤差作為評價指標，可看出所提出網(wǎng)絡(luò)的2種誤差明顯小于徑向基網(wǎng)絡(luò)的誤差，說明其具有較好的預(yù)測效果。

表1　2種網(wǎng)絡(luò)預(yù)測性能比較Table 1　Prediction performance comparison of 2 kinds of network %

5　結(jié)語

本文將一種B樣條優(yōu)化網(wǎng)絡(luò)用于非線性時間序列預(yù)測，該網(wǎng)絡(luò)在參數(shù)優(yōu)化中，結(jié)構(gòu)也同時被優(yōu)化，克服了結(jié)構(gòu)固定網(wǎng)絡(luò)的不足。工業(yè)應(yīng)用仿真實驗結(jié)果表明，所提出的優(yōu)化網(wǎng)絡(luò)具有較好的泛化能力，且結(jié)構(gòu)簡單，優(yōu)化參數(shù)少，是一種有效的非線性時間序列預(yù)測方法。

［1］張美英，何杰. 時間序列預(yù)測模型研究綜述［J］. 數(shù)學(xué)的實踐與認識，2011，41（18）：189-195. ZHANG Meiying，HE Jie. Summary on Time Series Forecasting Model［J］. Mathematics in Practice and Theory，2011，41（18）：189-195.

［2］張滸. 時間序列短期模型研究與應(yīng)用［D］. 武漢：華中科技大學(xué)，2013. ZHANG Hu. The Research and Application of Short-Term Forecasting Model for Time Series［D］. Wuhan：Huazhong University of Science and Technology，2013.

［3］牛家洋. 基于神經(jīng)網(wǎng)絡(luò)的非線性系統(tǒng)時間序列的預(yù)測方法研究［D］. 濟南：山東師范大學(xué)，2013. NIU Jiayang. Forecast Method Research of Nonlinear System Time Series Based on Neural Network［D］. Jinan：Shandong Normal University，2013.

［4］李哲敏，許世衛(wèi)，崔利國，等. 基于動態(tài)混沌神經(jīng)網(wǎng)絡(luò)的預(yù)測研究：以馬鈴薯時間序列價格為例［J］. 系統(tǒng)工程理論與實踐，2015，35（8） ：2083-2091. LI Zhemin，XU Shiwei，CUI Liguo，et al. Prediction Study Based on Dynamic Chaotic Neural Network：Taking Potato Time-series Prices as an Example［J］. System Engineering-Theory & Practice，2015，35（8）：2083-2091.

［5］張大斌，李紅燕，劉肖，等. 非線性時間序列的小波-模糊神經(jīng)網(wǎng)絡(luò)集成預(yù)測模型［J］. 中國管理科學(xué)，2013，21（S2）：647-651. ZHANG Dabin，LI Hongyan，LIU Xiao，et al. A Integrated Prediction Method of Wavelet-Fuzzy Neural Network for Nonlinear Time Series［J］. Chinese Journal of Management Science，2013，21（S2）：647-651.

［6］楊娟麗，徐梅，王福林，等. 基于BP神經(jīng)網(wǎng)絡(luò)的時間序列預(yù)測問題研究［J］. 數(shù)學(xué)的實踐與認識，2013，43（4）：158-164. YANG Juanli，XU Mei，WANG Fulin，et al. Research Based on BP Neural Netword Time Series Forecastin［J］. Mathematics in Practics and Theory，2013，43（4）：158-164.

［7］洪嘉灝，李雄英，王斌會. 基于人工神經(jīng)網(wǎng)絡(luò)和隨機游走模型的匯率預(yù)測［J］. 經(jīng)濟數(shù)學(xué)，2016，33（1）：30-35. HONG Jiahao，LI Xiongying，WANG Binhui. Exchange Rate Forecast Based on Artificial Neural Network and Random Walk Model［J］. Journal of Quantitative Economics，2016，33（1）：30-35.

［8］宋怡霖，陳新楚，鄭松. 對角遞歸神經(jīng)網(wǎng)絡(luò)在控制系統(tǒng)中的應(yīng)用現(xiàn)狀分析［J］. 電氣傳動和自動控制，2016，38（2）：41-43，68. SONG Yilin，CHEN Xinchu，ZHENG Song. An Analysis on the Status of Application of Diagonal Recurrent Neural Network in Control Systems［J］. Electric Drive & Automatic Control，2016，38（2）：41-43，68.

［9］佩世鑫，李仲怡，催芬萍，等. 基于RBF人工神經(jīng)網(wǎng)絡(luò)的X級以上太陽耀斑預(yù)報研究［J］. 西北師范大學(xué)學(xué)報（自然科學(xué)版），2014，50（6）：26-32. PEI Shixin，LI Zhongyi，CUI Fenping，et al. A Study of the Prediction for X-Class and Above Flares Based on RBF Artificial Neural Network［J］. Journal of Northwest Normal University（Natural Science），2014，50（6）：26-32.

［10］李光，楊韻. 基于RBF神經(jīng)網(wǎng)絡(luò)的柔性機械臂位置控制［J］. 湖南工業(yè)大學(xué)學(xué)報，2014，28（3）：41-46. LI Guang，YANG Yun. Flexible Manipulation Position Control Based on RBF Neural Network［J］. Journal of Hunan University of Technology，2014，28（3）：41-46.

［11］陳帝伊，柳燁，馬孝義. 基于徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的混沌時間序列相空間重構(gòu)雙參數(shù)聯(lián)合估計［J］. 物理學(xué)報，2012，61（10）：22-31. CHEN Diyi，LIU Ye，MA Xiaoyi. Parameter Joint Estimation of Phase Space Reconstruction in Chaotic Time Series Based on Radial Basis Function Neural Networks［J］. Acta Physica Sinica，2012，61（10）：22-31.

［12］張浩，張代遠. 基于三次樣條權(quán)函數(shù)神經(jīng)網(wǎng)絡(luò)的股價預(yù)測［J］. 計算機技術(shù)與發(fā)展，2014，24（6）：28-31. ZHANG Hao，ZHANG Daiyuan. Stock Prediction Based on Neural Networks with Cubic Spline Werght Functions［J］. Computer Technology and Development，2014，24（6）：28-31.

［13］王世東，王煥寶. 基于SOM網(wǎng)絡(luò)的三次B樣條曲線重建［J］. 計算機工程與應(yīng)用，2012，48（15）：192-244. WANG Shidong，WANG Huanbao. Cubic B-Spline Curve Reconstruction Based on SOM［J］. Computer Engineering and Applications，2012，48（15）：192-244.

［14］YIU K F，WANG S，TEO K L，et al. Nonlinear System Modeling Via Knot-Optimizaing B-Spline Networks［J］. IEEE Transaction on Neural Networks，2001，12（5）：1013-1022.

［15］WANG S，SHAO Q，ZHOU X. Knot-Optimizing Spline Networks（KOSNETS） for Nonparametric Regression［J］. Journal of Industrial & Management Optimization，2008，4（1）：33-52.

（責(zé)任編輯：申劍）

An Optimized Model Based on Nonlinear Time Series for B-Spline Networks Prediction and Its Industrial Application

KONG Lingshuang，GONG Xiaolong，ZHOU Weilong
（School of Electrical and Information Engineering，Hunan University of Technology，Zhuzhou Hunan 412007，China）

An optimizing model for B-spline networks prediction has been proposed for the effective realization of the real-time prediction based on nonlinear time series. A global optimization algorithm has been adopted for the optimization of the design of the network structure， with the weight parameters and node location of spline functions synchronous independent variables to be optimized. The industrial simulation results show that the proposed optimized model for networks prediction has a relatively higher prediction accuracy. With its structure much simpler and less parameters to be optimized， this is an effective prediction method based on nonlinear time series.

nonlinear time series；B-spline networks；prediction model；industrial process

TP274

A

1673-9833（2016）03-0082-04

10.3969/j.issn.1673-9833.2016.03.015

2016-03-27

國家自然科學(xué)基金資助項目（61203136），湖南省自然科學(xué)基金資助項目（2015JJ5025）

孔玲爽（1979-），女，河北邢臺人，湖南工業(yè)大學(xué)副教授，博士，主要從事復(fù)雜工業(yè)過程建模與優(yōu)化控制方面的研究，E-mail：konglingsh@126.com

周維龍（1978-），男，湖南邵陽人，湖南工業(yè)大學(xué)講師，碩士，主要研究方向為無線傳感器網(wǎng)絡(luò)與嵌入系統(tǒng)設(shè)計，E-mail：604085429@qq.com