回歸－Elman網(wǎng)絡(luò)在礦壩變形預(yù)測中的應(yīng)用

王祖順，韓吉德，王春青

（青海省第二測繪院，青海西寧810001）

?

回歸－Elman網(wǎng)絡(luò)在礦壩變形預(yù)測中的應(yīng)用

王祖順，韓吉德，王春青

（青海省第二測繪院，青海西寧810001）

摘 要：金礦開展礦壩的變形監(jiān)測工作，引入多層遞階回歸分析模型，有較高的預(yù)測精度，但方法較繁瑣，計(jì)算較復(fù)雜。由于變形數(shù)據(jù)可分離成趨勢項(xiàng)與隨機(jī)項(xiàng)，趨勢項(xiàng)可用多元線性回歸良好地擬合；隨機(jī)項(xiàng)的預(yù)測，文中采用Elman網(wǎng)絡(luò)建模計(jì)算，最后利用礦壩的實(shí)測高程位移數(shù)據(jù)進(jìn)行驗(yàn)證，并與多層遞階回歸進(jìn)行比較。結(jié)果表明：回歸－Elman網(wǎng)絡(luò)模型比多層遞階回歸的預(yù)測精度更高，效果更好，且方法簡潔實(shí)用性強(qiáng)。

關(guān)鍵詞：Elman神經(jīng)網(wǎng)絡(luò)；回歸分析；變形預(yù)測；多層遞階回歸；組合模型

回歸分析模型、時間序列分析模型、人工神經(jīng)網(wǎng)絡(luò)模型等，是對變形數(shù)據(jù)進(jìn)行預(yù)測預(yù)報的多種方法，是測繪人員長期地研究相關(guān)課題而相繼提出的［1］。然而每種模型都有一定的局限性，需滿足一定的適用條件。變形體變形機(jī)理多樣且復(fù)雜，結(jié)合多學(xué)科知識來逼近模擬變形規(guī)律是未來研究趨勢之一。

形變序列往往既具有確定的趨勢項(xiàng)，又具有不確定的隨機(jī)項(xiàng)。趨勢項(xiàng)可以由回歸分析較好地擬合，但是隨機(jī)項(xiàng)，需要進(jìn)一步處理［2］。文獻(xiàn)［3］采取的是多層遞階回歸，方法繁瑣，且其回歸分析的參數(shù)并不固定，隨時間而改變，計(jì)算復(fù)雜。而神經(jīng)網(wǎng)絡(luò)能夠自學(xué)習(xí)自適應(yīng)與信息綜合，不僅能夠運(yùn)算數(shù)值數(shù)據(jù)，對抽象的問題或未知的系統(tǒng)也能處理［1］。

張文博［4］等將BP神經(jīng)網(wǎng)絡(luò)應(yīng)用于建筑物沉降預(yù)測。BP神經(jīng)網(wǎng)絡(luò)具有3層的網(wǎng)絡(luò)結(jié)構(gòu)［5］。它是非線性、自適應(yīng)處理系統(tǒng)，可以通過自學(xué)來逼近輸入輸出之間的非線性映射關(guān)系。預(yù)測速度快，容錯能力和抗干擾能力強(qiáng)。但是網(wǎng)絡(luò)信息只能向前單方向流動。學(xué)者Elman等提出Elman神經(jīng)網(wǎng)絡(luò)模型。其內(nèi)部的神經(jīng)元不僅有前饋連接還有反饋連接，是具有記憶的功能動態(tài)神經(jīng)網(wǎng)絡(luò)。能夠更生動更直接地反映系統(tǒng)的動態(tài)特性［6］。故本文提出用Elman神經(jīng)網(wǎng)絡(luò)來預(yù)測隨機(jī)項(xiàng)。

因此，本文結(jié)合回歸分析和Elman網(wǎng)絡(luò)，嘗試用回歸分析來擬合形變序列里的趨勢項(xiàng)并用Elman神經(jīng)網(wǎng)絡(luò)來預(yù)測隨機(jī)項(xiàng)，并通過具體算例來加以實(shí)現(xiàn)。

1　多元線性回歸分析

對于大壩監(jiān)測點(diǎn)高程變化的線性系統(tǒng)，設(shè)系統(tǒng)有n個影響因子μ1、μ2……μn。沉降擬合值為，則多元線性回歸分析的數(shù)學(xué)模型為

其中a0，a1……an為回歸系數(shù)。

進(jìn)行多元回歸擬合之后，將實(shí)測值與回歸擬合值作差，則得到一組殘差序列。該殘差序列即是隨機(jī)項(xiàng)。有很多因素影響監(jiān)測點(diǎn)殘差序列的變化，且這些因素同樣也是不可準(zhǔn)確預(yù)知未來值的［10］。但是觀測點(diǎn)的時間序列數(shù)據(jù)內(nèi)暗含了這些因素造成的影響。故可采用神經(jīng)網(wǎng)絡(luò)模型來預(yù)測這些監(jiān)測點(diǎn)的時間序列數(shù)據(jù)。對隨機(jī)項(xiàng)用Elman網(wǎng)絡(luò)建模后，預(yù)測出未來的殘差值。然后將預(yù)測的殘差值與回歸分析的預(yù)測值相加，即得到最終的組合模型的預(yù)測值。

2　Elman網(wǎng)絡(luò)模型介紹

Elman神經(jīng)網(wǎng)絡(luò)［7］與前饋神經(jīng)網(wǎng)絡(luò)的區(qū)別在于增加了反饋通路，是一種動態(tài)的非線性模型。陳幸瓊等［8］認(rèn)為，引入反饋通路使得網(wǎng)絡(luò)能夠更有效地綜合處理時間序列信息，可將某些神經(jīng)元的輸出經(jīng)過延時之后反饋到其它神經(jīng)元或自身，具有適應(yīng)時變特性的能力。邱峻等［9］認(rèn)為，Elman神經(jīng)網(wǎng)絡(luò)在慣性輸入輸出數(shù)據(jù)的處理方面具有無法比擬的優(yōu)勢，從而廣泛應(yīng)用于時間序列預(yù)測等方面。不同于與BP神經(jīng)網(wǎng)絡(luò)經(jīng)典的三層結(jié)構(gòu)，Elman神經(jīng)網(wǎng)絡(luò)由輸入層、隱藏層、關(guān)聯(lián)層、輸出層共4層組成，見圖1。

其中輸入層、隱藏層和輸出層的作用與前饋神經(jīng)網(wǎng)絡(luò)相似。而關(guān)聯(lián)層的作用在于讓當(dāng)前和以前的輸入層數(shù)據(jù)皆對輸出層有影響。此特性有利于時間序列的預(yù)測。

圖1　Elman神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

簡述Elman網(wǎng)絡(luò)的算法［9］如下。Elman網(wǎng)絡(luò)的非線性狀態(tài)空間表達(dá)式為

其中，y為輸出結(jié)點(diǎn)向量，x為n維中間層結(jié)點(diǎn)單元向量，u為r維輸入向量，xc為n維反饋狀態(tài)向量，w3為中間層到輸出層連接權(quán)值，w2為輸入層到中間層連接權(quán)值，w1為承接層到中間層的連接權(quán)值，g函數(shù)為輸出神經(jīng)元的傳遞函數(shù)，是中間層輸出的線性組合。f函數(shù)為中間層神經(jīng)元的傳遞函數(shù)，常采用Sigmoid函數(shù)。

3　工程應(yīng)用

本實(shí)驗(yàn)數(shù)據(jù)采用文獻(xiàn)［3］中提供的算例。某金礦開展了礦壩的移動與變形監(jiān)測工作。從1995年5月開始平均每月監(jiān)測一次下沉值。根據(jù)歷史經(jīng)驗(yàn)，壩內(nèi)所蓄物質(zhì)的施壓μ1（k）及溫度μ2（k）是影響礦壩變形的主要因素。用y（k）表示礦壩的移動值，其中k為離散的流動時間（月）。原始數(shù)據(jù)及影響因子數(shù)據(jù)如表1。

表1　礦壩下沉值與影響因素

續(xù)表1

現(xiàn)由監(jiān)測到的33次尾壩下沉值，取其前29次下沉值進(jìn)行建模，并預(yù)測出未來4期的數(shù)據(jù)。圖2是前29期的監(jiān)測值變化曲線。

圖2　前29期監(jiān)測數(shù)據(jù)

3．1 多元線性回歸分析

根據(jù)實(shí)測數(shù)據(jù)，進(jìn)行多元線性回歸分析，建立回歸方程為：

畫出多元回歸分析的擬合值，如圖3所示。

圖3　回歸模型擬合值

將原始觀測值與回歸分析的擬合值作差，得到殘差序列。如圖4所示。

3．2 Elman網(wǎng)絡(luò)預(yù)測殘差序列

牛家洋等［10］認(rèn)為，用人工神經(jīng)網(wǎng)絡(luò)模型來預(yù)測殘差序列的方法，就是將殘差序列分為許多組一定長度的樣本作為網(wǎng)絡(luò)的輸入，每組樣本都將對應(yīng)1個或多個未來的預(yù)測數(shù)據(jù)，未來的預(yù)測值即作為網(wǎng)絡(luò)的輸出。訓(xùn)練網(wǎng)絡(luò)，利用訓(xùn)練集中的樣本對各個神經(jīng)元的連接進(jìn)行權(quán)重調(diào)整，使預(yù)測值盡可能逼近期待值，符合精度要求。訓(xùn)練完成后，網(wǎng)絡(luò)即可用于殘差序列的預(yù)測。具體步驟如下。

圖4　殘差值

3．2．1 歸一化

數(shù)據(jù)歸一化是把最小的序列值映射為0，最大的序列值映射為1。其余數(shù)據(jù)依次按照其值的大小按公式映射到［0，1］這個區(qū)間。歸一化公式如下：

進(jìn)行歸一化避免了因?yàn)槟承┳兓秶鷱V的數(shù)據(jù)在數(shù)值上相差過大而造成大數(shù)據(jù)淹沒小數(shù)據(jù)的問題，將樣本數(shù)據(jù)統(tǒng)一映射到一個符合激活函數(shù)要求的區(qū)間之內(nèi)。

3．2．2 確定時間序列的長度

在預(yù)測模型中網(wǎng)絡(luò)輸入層的節(jié)點(diǎn)數(shù)即為時間序列每組樣本的長度p。通常將時序數(shù)據(jù)的變動周期作為步長值。時序數(shù)據(jù)的變動周期值根據(jù)自相關(guān)系數(shù)來確定。設(shè)一個含有n個數(shù)據(jù)的時間序列｛xi｝，其滯后k步的自相關(guān)系數(shù)為r（k）：

當(dāng)自相關(guān)系數(shù)為式（7）時［11］，推斷時序延遲k步相關(guān)性顯著，否則不顯著。通常選取最大相關(guān)性對應(yīng)的k作為每組樣本的長度p。

3．2．3 網(wǎng)絡(luò)建模

在Matlab中使用newelm的命令來建立Elamn神經(jīng)網(wǎng)絡(luò)。通過反復(fù)調(diào)試，設(shè)置隱含層節(jié)點(diǎn)數(shù)為10，隱藏層傳遞函數(shù)為tansig函數(shù)，輸出層激活函數(shù)為purelin函數(shù)，訓(xùn)練函數(shù)選為trainlm函數(shù)，并對網(wǎng)絡(luò)進(jìn)行訓(xùn)練。

經(jīng)過上述數(shù)據(jù)集的訓(xùn)練最終得到Elman網(wǎng)絡(luò)的預(yù)測模型。利用模型得到后4個時間段的預(yù)測結(jié)果。并將預(yù)測結(jié)果與多層階梯回歸法做比較。如表2所示。

表2　預(yù)測結(jié)果比較

由上述對比分析結(jié)果可以看出，總體上Elman網(wǎng)絡(luò)在有限次預(yù)測內(nèi)有更好的效果，預(yù)測精度普遍提高。

分別計(jì)算小波神經(jīng)網(wǎng)絡(luò)和Elman神經(jīng)網(wǎng)絡(luò)模型預(yù)測結(jié)果的中誤差。

多層階梯預(yù)測結(jié)果的中誤差為

Elman網(wǎng)絡(luò)預(yù)測結(jié)果的中誤差為

由于σ2＜σ1，故同樣證明了Elman網(wǎng)絡(luò)模型用于變形預(yù)測的有效性，可見該模型具有良好的短期預(yù)報效果。

4　結(jié) 語

回歸分析可以很好描述歷史數(shù)據(jù)的趨勢項(xiàng)。而Elman網(wǎng)絡(luò)屬于典型的動態(tài)神經(jīng)網(wǎng)絡(luò)。采用的是動態(tài)的建模方法，能夠更生動直接地反映出殘差的動態(tài)特性，使得變形建模能因觀測時序數(shù)據(jù)的更新而更新，并作出相應(yīng)時序值的預(yù)報。所以組合模型預(yù)測精度更高、收斂速率更快、效果更好。因此回歸分析與Elman網(wǎng)絡(luò)組合模型適用于變形監(jiān)測數(shù)據(jù)的預(yù)測，實(shí)用價值較好。

參考文獻(xiàn)：

［1］ 潘國榮，谷川．變形監(jiān)測數(shù)據(jù)的小波神經(jīng)網(wǎng)絡(luò)預(yù)測方法［J］．大地測量與地球動力學(xué)，2007，27（4）：47－50．

［2］ 吳益平，滕偉福，李亞偉．灰色–神經(jīng)網(wǎng)絡(luò)模型在滑坡變形預(yù)測中的應(yīng)用［J］．巖石力學(xué)與工程學(xué)報，2007，26 （3）：632－637．

［3］ 欒元重，呂法奎，班訓(xùn)海．動態(tài)變形觀測與預(yù)報［M］．北京：中國農(nóng)業(yè)科學(xué)技術(shù)出版社，2007．217－224．

［4］ 張文博，郭云開．基于BP神經(jīng)網(wǎng)絡(luò)的建筑物沉降預(yù)測模型研究［J］．測繪工程，2013．22（2）：52－56．

［5］ ANDERSON J A．Introduction to Neural Networks ［M］．Cambridge，MA：MIT Press，1995．

［6］ 朱群雄，孫鋒．RNN神經(jīng)網(wǎng)絡(luò)的應(yīng)用研究［J］．北京化工大學(xué)學(xué)報．1998，25（1）：86－90．

［7］ Elman J．Finding structure in time［J］．Cognitive science，1990，14（2）：179－211．

［8］ 陳幸瓊，鄧長虹，潘章達(dá)，等．基于RBF循環(huán)神經(jīng)網(wǎng)絡(luò)的電力系統(tǒng)負(fù)荷建模［J］．電網(wǎng)技術(shù)，2007，31（17）：56－59．

［9］ 邱峻，張瑞林．基于遺傳算法的循環(huán)神經(jīng)網(wǎng)絡(luò)在銷售預(yù)測中的應(yīng)用［J］．浙江理工大學(xué)報，2007．5（3）：266－270．

［10］牛家洋，王洪國，邵增珍．BP人工神經(jīng)網(wǎng)絡(luò)算法在鳥情時間序列預(yù)測的應(yīng)用［J］．信息技術(shù)與信息化，2013 （3）：93－97．

［11］許國根，賈瑛．模式識別與智能計(jì)算的MATLAB實(shí)現(xiàn)［M］．北京：北京航空航天大學(xué)出版社，2012．

［12］張拯，張獻(xiàn)州．時間序列協(xié)整關(guān)系及其在變形分析中的應(yīng)用研究［J］．測繪工程，2015，24（9）：53－59．

［13］郇小龍，甄宗坤．基于自回歸分布滯后模型的地面沉降預(yù)測［J］．測繪工程，2015，24（9）：59－61．

［14］任遠(yuǎn)軍，李龍，石寧，等．改進(jìn)的GM（1，1）模型在大壩變形預(yù)測中的應(yīng)用［J］．測繪工程，2015，24（6）：61－64．

［責(zé)任編輯：王文福］

Application of regression－Elman network model to the dam deformation forcasting

WANG Zushun，HAN Jide，WANG Chunqing

（Second Surveying and Mapping Institute of Qinghai Province，Xi’ning 810001，China）

Abstract：A deformation monitoring for a gold mine is conducted in Shangdong using multi－layered hierarchical regression analysis．A good prediction accuracy is obtained，but the method is complicated in calculation．The deformation monitoring data can be seperated into trend values and random values．Regression method can predict trend values well．To predict the random value，this paper has introduced Elman neural network．The actual monitoring data for elevation displacement variation of mine dam is used for model verification．The prediction result is compared with multi－level recursive regression．It is concluded that better accuracy of prediction can be obtained through the regression－Elman network model and this method is concise and practical．

Key words：Elman neural network；regression；deformation prediction；multi－level recursive regression； combined model

作者簡介：王祖順（1978－），男，工程師．

收稿日期：2014－06－03；修回日期：2015－09－30

中圖分類號：TU196＋．1

文獻(xiàn)標(biāo)識碼：A

文章編號：1006－7949（2016）01－0039－04