采用Elman神經(jīng)網(wǎng)絡(luò)與支持向量機預(yù)測路基沉降

屈凱鋒

(中鐵第一勘察設(shè)計院集團有限公司，陜西 西安 710043)

0 引 言

開展路基沉降觀測，采用適當(dāng)?shù)氖侄翁崛≌鎸嵆两底冃沃挡⑦M行回歸分析，算出工后沉降量和其他評價指標，是嚴格控制公路路基變形超限的關(guān)鍵手段[1-4]。目前，較為典型的預(yù)測函數(shù)模型及參數(shù)解算方法包括雙曲線法與灰色模型等[5]，但灰色模型指數(shù)發(fā)散源容易使精度降低，雙曲線法求解擬合曲線參數(shù)困難[6]。本文采用Elaman神經(jīng)網(wǎng)絡(luò)和支持向量機這2種對非線性曲線擬合功能較為強大的模型進行路基沉降預(yù)測，且針對復(fù)雜觀測環(huán)境下所取得路基或隧道等線下構(gòu)筑物沉降資料通常不可避免地含有噪聲干擾，在模型預(yù)測前采用去噪性能較佳的小波和能緩和預(yù)測曲線嚴重發(fā)散的Kalman濾波同時進行消噪與平滑。在此基礎(chǔ)上構(gòu)建了一種小波和Kalman濾波下的Elman神經(jīng)網(wǎng)絡(luò)與SVM回歸預(yù)測組合模型，并結(jié)合路基線下工程實測數(shù)據(jù)進行預(yù)測，對比預(yù)測結(jié)果和實際累計沉降值的差別，用于指導(dǎo)實際工程的施工和維護。

1 小波去噪與Kalman濾波模型

1.1 小波去噪分析

由于變形監(jiān)測的各期觀測數(shù)據(jù)之間的變化量級較小，因此噪聲的存在對變形體的變形分析造成的影響不容忽視。觀測信號表現(xiàn)出局部化的低頻特性，而噪聲信號則表現(xiàn)出全局性的高頻特性。針對此類現(xiàn)象，用小波變換分析可對觀測數(shù)據(jù)實施有效的信噪分離，從而起到去除噪聲的效果。這里采用正交小波的迅捷算法[7](即Mallat算法)將信號分解后，得到的是低一級上的反映出信號變化概況的平滑信號(也稱為趨勢項)，以及出現(xiàn)于高一級、消失于低一級的反映出信號細節(jié)信息的隨機項。設(shè)觀測信號為f(x)，通過Mallat算法把信號分解到各自相異的頻道上，即

(1)

式中：Cj為在2j分辨率下的離散逼近；Dj為在2j分辨率下的離散細節(jié)；H、G代表尺度函數(shù)對應(yīng)的低通、高通濾波器。

其分解步驟為

f(x)=Aj-1f(x)=Ajf(x)+Djf(x)

(2)

式中：Ajf(x)為信號f(x)的頻率不超過2-j的成分；Djf(x)為頻率介于2-j和2-j+1之間的成分。

那么信號在低頻信號空間Vj上的投影為

(3)

在高頻信號空間Wj上的投影為

(4)

目前小波濾波方法分為多種，但本文利用的是小波多分辨分析中的小波分解與重構(gòu)算法對信號噪聲進行去除。小波的分解與重構(gòu)去噪就是將信號按式(1)進行重構(gòu)時，將式(4)中的高頻部分中的有關(guān)部分Dj置零，即可獲得去噪后的信號

(5)

1.2 Kalman濾波模型

Kalman濾波是最小均方差意義下的最優(yōu)估計，屬于一種遞推式估計算法，可用于數(shù)據(jù)的檢驗，也可用于數(shù)據(jù)的預(yù)報。在動態(tài)系統(tǒng)中，Kalman濾波的數(shù)學(xué)模型[8-9]在線性系統(tǒng)中通常是離散的形式，主要有狀態(tài)方程與觀測方程2種，分別為

式中：Xk為系統(tǒng)k時刻的n×1階狀態(tài)向量；Fk/k-1為作用在前一狀態(tài)的n×n階狀態(tài)轉(zhuǎn)移矩陣；Gk-1為系統(tǒng)k-1時刻的n×r階動態(tài)噪聲矩陣；Wk-1為系統(tǒng)k-1時刻的r×1階動態(tài)噪聲矩陣，其協(xié)方差矩陣為Qk(非負定方差矩陣)；Lk為系統(tǒng)k時刻的m×1階觀測向量；Hk為系統(tǒng)k時刻的m×n階觀測矩陣；Vk為系統(tǒng)k時刻的m×1階觀測噪聲矩陣，其協(xié)方差是Rk(正定方差矩陣)。

按照LS原理，能夠計算出隨機離散系統(tǒng)的Kalman濾波推導(dǎo)公式[10]如下。

狀態(tài)向量一步預(yù)測值

(8)

一步預(yù)測方差矩陣

(9)

狀態(tài)向量估計值

(10)

狀態(tài)向量估值的方差矩陣

Pk=(I-JkKk)Pk/k-1

(11)

其中，Jk是濾波增益矩陣，表示為

(12)

2 Elman神經(jīng)網(wǎng)絡(luò)與支持向量機理論

2.1 Elman神經(jīng)網(wǎng)絡(luò)

Elman遞歸神經(jīng)網(wǎng)絡(luò)是Elman在1990年提出的一種局部回歸網(wǎng)絡(luò)[12]，特殊的層聯(lián)接方式導(dǎo)致這種神經(jīng)網(wǎng)絡(luò)對歷史數(shù)據(jù)更為敏感，且加入的內(nèi)部反饋網(wǎng)絡(luò)提高了網(wǎng)絡(luò)本身處理動態(tài)信息的能力，從而達到了動態(tài)建模的目的。Elman神經(jīng)網(wǎng)絡(luò)在非線性空間狀態(tài)下的數(shù)學(xué)表達[13-14]如下。

y(k)=g(ω3x(k))

(13)

x(k)=f(ω1xc(k)+ω2(u(k-1)))

(14)

xc(k)=x(k-1)

(15)

式中：k為時刻點；x為n維中間層結(jié)點單元向量；y為m維輸出節(jié)點向量；u為r維輸入向量；xc為n維反饋狀態(tài)向量；ω1、ω2和ω3分別為承接層到中間層、輸入層到中間層以及中間層到輸出層的連接權(quán)值；g(…)、f(…)分別為輸出神經(jīng)元與中間神經(jīng)單元的傳遞函數(shù)；u(…)為中間層輸出的線性組合。

Elman網(wǎng)絡(luò)通過BP算法修改更正權(quán)值，學(xué)習(xí)指標函數(shù)的計算涉及誤差平方和函數(shù)，即

(16)

2.2 支持向量機

圖1 2種濾波方法對比曲線

支持向量機創(chuàng)建于VC(Vapnik-Chervonenkis)維理論基礎(chǔ)之上，是以SRM原則為基本準則的小樣本統(tǒng)計理論[15]，它避免了ANN等方法的網(wǎng)絡(luò)結(jié)構(gòu)選擇、欠學(xué)習(xí)與過學(xué)習(xí)等問題。因此將支持向量機(SVM)用于變形沉降預(yù)測的非線性回歸問題時，得到的回歸函數(shù)[16]為

(17)

(18)

本文針對SVM的回歸均通過遺傳算法[17]對各參數(shù)進行優(yōu)化選取。

3 預(yù)測步驟及試驗分析

本文實例采用廣昆高速公路某段運營期從 2015年3月至2016年7月共30期的變形監(jiān)測數(shù)據(jù)進行試驗。理想的變形監(jiān)測應(yīng)該是按規(guī)定的周期進行，但受到各種條件的制約和天氣的影響，本次試驗數(shù)據(jù)的采集時間間隔有長有短，但總體上呈現(xiàn)出一定的規(guī)律。

3.1 預(yù)測步驟

第1步：采用小波和Kalman濾波對廣昆高速某段路基30期原始沉降數(shù)據(jù)進行濾波預(yù)處理。在利用小波分析進行去噪時，由于實測數(shù)據(jù)的信噪比不能預(yù)知，因此本文采用sym4小波函數(shù)的軟閾值法來逐漸增大尺度，再根據(jù)均方根誤差值與信噪比的變化情況是否趨于穩(wěn)定來確定最大尺度，反復(fù)試驗后確定其最高信噪比29.561 9、最小去噪均方差0.269 6下的最佳分解尺度是3層；在Kalman濾波模型中，根據(jù)測量標準技術(shù)規(guī)范與觀察經(jīng)驗值，將觀測噪聲方差定義為Rk=0.5，動態(tài)噪聲方差定為Qk=2，由前次數(shù)據(jù)取初值。

2種濾波方法的對比曲線見圖1。

第2步：對濾波之后的數(shù)據(jù)采用Elman網(wǎng)絡(luò)進行預(yù)測。文本按照數(shù)據(jù)關(guān)聯(lián)性將Elman神經(jīng)網(wǎng)絡(luò)的輸入層設(shè)置成3個變量，并將其開始訓(xùn)練時的幾個參數(shù)設(shè)置如下：迭代次數(shù)是2 000，誤差容限為0.01，以2015～2016年采集到的路基沉降板的前25個累計沉降點為訓(xùn)練樣本，后5個沉降觀測點為測試樣本。根據(jù)上述參數(shù)設(shè)置后反復(fù)試驗，獲得可優(yōu)化程度最佳的Elman神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)(輸入層節(jié)點-隱層節(jié)點-輸出層節(jié)點)為3-15-1。根據(jù)結(jié)果可以看出，模型收斂，且收斂性能良好，沒有陷入局部最小，在合理的范圍內(nèi)預(yù)測精度已達到所需的要求。

第3步：對Elman網(wǎng)絡(luò)預(yù)測的殘差采用遺傳算法優(yōu)化的SVM進行修正。GA-SVM的設(shè)定為：懲罰因子C的取值范圍設(shè)定成[0,100]，核寬度σ的取值范圍設(shè)定成[0,1 000]；對于遺傳算法中的參數(shù)，其最大進化代數(shù)設(shè)定成200，種群最大數(shù)量為20，交叉概率為0.9，變異概率為0.05，選用10倍交叉驗證函數(shù)為適應(yīng)度函數(shù)，以訓(xùn)練誤差(MSE)作目標函數(shù)進行迭代計算。

多次計算得到精度最佳時殘差序列的結(jié)束代數(shù)為50，種群數(shù)量為20，C=29.789 9，σ=78.614 7，均方差(MSE)為0.067 4。

第4步：將第2步與第3步的計算結(jié)果融合疊加起來，即為最后結(jié)果。

3.2 試驗分析

從圖1可以看出，小波分析與Kalman濾波去噪曲線相比于單一小波去噪曲線，與原始沉降曲線的吻合度更高，殘差曲線變化值更集中和平緩；經(jīng)計算得出，單一小波去噪均方差σ2=0.301 2，小波分析與Kalman濾波去噪的均方差σ2=0.194 8，可見通過小波預(yù)處理后的Kalman濾波的方差比單一小波預(yù)處理的方差小。這說明小波分析的預(yù)處理能夠?qū)υ紨?shù)據(jù)中隨機游走的噪聲起到很強的降噪效果；而Kalman濾波本身就是一種穩(wěn)定性較強的模型，對動態(tài)變形預(yù)測具有更強的適應(yīng)性。因此，對于變形沉降波動性較大的路基沉降數(shù)據(jù)，將小波分析與Kalman濾波組合模型用于動態(tài)變形沉降數(shù)據(jù)處理的研究，能夠適當(dāng)提高數(shù)據(jù)濾波的可靠性與收斂性，其消噪性能在一定程度上比單一的小波或Kalman濾波有明顯提升。

為全面驗證本文組建的小波、Kalman濾波下的Elman神經(jīng)網(wǎng)絡(luò)與支持向量機在公路路基沉降預(yù)測中的性能，使用同一組路基沉降值的30期數(shù)據(jù)進行試驗，同時建立3種模型與之比較，得到試驗預(yù)測結(jié)果見表1、圖2與圖3；對各預(yù)測結(jié)果采用均方誤差(MSE)、平均絕對誤差(MAE)與平均絕對百分誤差(MAPE)進行精度評定，結(jié)果見表2。

表1 各模型預(yù)測結(jié)果對比 mm

綜合表1、2和圖2可知，上述4種模型預(yù)測曲

圖2 各模型預(yù)測結(jié)果對比

線與實際沉降曲線均表現(xiàn)出極強的吻合相關(guān)性，模型最大均方誤差與絕對誤差均可滿足測量精度要求。當(dāng)訓(xùn)練樣本與測試樣本數(shù)量均等時，Elman 模型與GA-SVM模型的預(yù)測精度MAE、MSE與MAPE接近，但GA-SVM模型的MSE卻小于Elman模型近1倍，表明SVM的非線性泛化能力比Elman網(wǎng)絡(luò)更強，因此將SVM用于這類規(guī)律性不強且非線性特征突出的殘差序列以修正Elamn神經(jīng)網(wǎng)絡(luò)的預(yù)測誤差，是較為合理的選擇。同時發(fā)現(xiàn)，Elman與SVM組合模型中，雖然整體誤差均遠遠優(yōu)于其他兩類單一模型的預(yù)測水平，但由于沒有經(jīng)過小波和Kalman濾波去噪，因此各精度指標均落后于本文的小波、Kalman濾波下的Elman神經(jīng)網(wǎng)絡(luò)與支持向量機預(yù)測模型，且其后期預(yù)測曲線出現(xiàn)發(fā)散狀況，說明本文模型的小波、Kalman濾波不僅在一定程度上剔除了冗余測量噪聲對實測數(shù)據(jù)的干擾，還可以實時動態(tài)估計出觀測噪聲，進而對濾波進行自適應(yīng)修正。因此，圖2中本文模型對應(yīng)的預(yù)測曲線較為收斂，接近實測沉降曲線；圖3中本文模型殘差曲線也更平穩(wěn)，接近于0。可見本文模型不僅預(yù)測更精準，且具備優(yōu)異的預(yù)測穩(wěn)定性，進一步證明該方法合理、實用。

圖3 各模型預(yù)測殘差對比

表2 各模型精度對比mm

4 結(jié) 語

影響高速公路路基沉降變形數(shù)據(jù)的因素繁多且成因機制復(fù)雜，造成了沉降預(yù)測困難。但噪聲信號的性質(zhì)基本上是高頻低幅的，而測量信號卻屬于低頻信號，所以利用小波分析來處理相關(guān)數(shù)據(jù)即可達到將噪聲和測量信號分離的目的。利用Kalman濾波再次平滑處理變形信號，增強了濾波器的動態(tài)數(shù)據(jù)處理性能，防止數(shù)據(jù)發(fā)散，因此，小波分析與Kalman濾波這一組合能有效地利用各自的優(yōu)勢對測量信號進行很好的過濾，且保留實際變形量。綜合Elamn神經(jīng)網(wǎng)絡(luò)和遺傳算法優(yōu)化支持向量機的非線性回歸模型泛化性能優(yōu)異，不用構(gòu)建復(fù)雜的力學(xué)系統(tǒng)模型，在數(shù)學(xué)模型的數(shù)據(jù)擬合、修正基礎(chǔ)上即可快速實現(xiàn)高速公路路基測量模型的沉降預(yù)測。綜上所述，本文構(gòu)建模型的預(yù)測結(jié)果精度較高， MSE與MAPE幾乎接近于0，穩(wěn)定性強，預(yù)測性能優(yōu)異，在一定程度上反映了在變形分析與預(yù)測方面，單一的研究方法有時并不那么適用于復(fù)雜多變的實際工程，將多種技術(shù)手段與模型理論有機結(jié)合、綜合比較才是攻克難題的有效途徑。