基于PCA-LSTM的多變量礦山排土場滑坡預警研究①

曹國清,張曉明,陳亞峰

1(北京化工大學 信息科學與技術(shù)學院,北京 100029)

2(北京石油化工學院 信息工程學院,北京 102617)

1 引言

我國屬于礦山資源大國,礦山排土場的安全問題尤為重要,很多排土場存在著滑坡危險,排土場的選址,堆放方式,管理方式可能都會引起滑坡事故.隨著傳感器技術(shù)的發(fā)展,各種類型的傳感器被應用到了礦山排土場的安全監(jiān)測當中,傳感器能保持不間斷地采集排土場的相關(guān)參數(shù),這些相關(guān)參數(shù)對排土場的安全指標具有重大意義,在一定程度上體現(xiàn)著排土場的安全狀況,傳感器傳輸?shù)膶崟r數(shù)據(jù)代表排土場的相關(guān)特征指標,當技術(shù)人員接收到異常數(shù)據(jù)時,排土場滑坡或許已經(jīng)產(chǎn)生了,若提前預測出傳感器下一時刻的數(shù)據(jù),在一定程度上可以減少排土場滑坡造成的財產(chǎn)損失和人員傷亡.針對國內(nèi)相關(guān)研究,常用的排土場滑坡風險分析預測方法有工程類比、案例推理、可拓理論等,欒婷婷等提出了可拓理論預警方法[1],根據(jù)可拓評價指標只是瞬時性地判斷排土場是否有滑坡危險,該方法沒有考慮到歷史數(shù)據(jù)對現(xiàn)有數(shù)據(jù)的影響,在一定程度上或許會影響到預測的精度; 梁冰等提出了采用電磁信號發(fā)射及信號測距的邊坡內(nèi)部位移監(jiān)測的方法[2],該方法能實時性地監(jiān)測排土場內(nèi)部位移量和排土場邊坡的安全狀況,但是該設(shè)計只是局限于了解到當前排土場的安全狀況,并不能對排土場下一時刻的安全狀況做出相應的判斷; 易慶林等提出結(jié)合多個監(jiān)測點對滑坡整體移動的貢獻率通過小波分析的方法推導出綜合位移方程的方法[3],該方法在判斷滑坡風險性方面有一定的實用價值,但是復雜的數(shù)學方程求解過程需要耗費一定的時間,同時該綜合位移方程的泛化能力方面比較弱; 張偉等提出主成分結(jié)合BP神經(jīng)網(wǎng)絡(luò)在壩頂位移監(jiān)控的方法[4],該方法雖然避免了建立復雜的數(shù)學模型過程,但是BP神經(jīng)網(wǎng)絡(luò)在擬合高度非線性函數(shù)時經(jīng)常會陷入局部最優(yōu),出現(xiàn)欠擬合和過擬合現(xiàn)象.這些分析方法理論比較完善,能基本確定一定時期內(nèi)排土場的安全狀況,但是由于影響排土場滑坡穩(wěn)定性的因素較多,且大多數(shù)因素具有隨機性、模糊性等特征,各因素之間的關(guān)系非常復雜,很難用準確的數(shù)學方程進行描述,這些方法在準確性、及時性及智能性方面存在缺陷.

LSTM網(wǎng)絡(luò)通過自身特殊的設(shè)計[5],極好地避免了常規(guī)循環(huán)神經(jīng)網(wǎng)絡(luò)訓練過程中存在的梯度消失和梯度爆炸問題,因此其能夠被有效地被訓練,進而真正有效的利用相關(guān)歷史序列信息[6].LSTM已經(jīng)在語音識別,視頻標簽分類[7]、聲音識別[8]、自然語言處理[9]等諸多前沿領(lǐng)域中得到廣泛研究和應用,LSTM彌補了循環(huán)神經(jīng)網(wǎng)絡(luò)的梯度消失和梯度爆炸、長期記憶能力不足等問題,使其能夠有效地利用長距離的時間序列信息進行預測,礦山排土場各個特性指標都具有時間序列的本質(zhì)特征,為通過運用LSTM網(wǎng)絡(luò)用多種數(shù)據(jù)源來判斷礦山排土場是否有滑坡的風險的想法應運而生.

礦山排土場災害監(jiān)測是一個動態(tài)的時間序列,排土場的穩(wěn)定性的過程是漸變的,也就是說當前排土場的穩(wěn)定性與歷史的穩(wěn)定性相互關(guān)聯(lián),多個特征指標間存在著相互關(guān)聯(lián),通過各特性指標間的相關(guān)性分析,得出地表位移這一排土場物理指標與內(nèi)部位移、土壓力,土壤含水率等相關(guān)性較大,同時結(jié)合調(diào)研的相關(guān)文獻,本文提出長短時記憶網(wǎng)絡(luò)模型(LSTM),通過傳感器接收的已有數(shù)據(jù),采用多特征指標來預測下一時刻的地表位移量具有重大意義.首先采用灰色關(guān)聯(lián)度算法,分析地表位移與其它指標的關(guān)聯(lián)度[10],根據(jù)關(guān)聯(lián)度大小對多變量時間序列進行篩選,進而降低數(shù)據(jù)規(guī)模和復雜度,最后,利用LSTM網(wǎng)絡(luò)對多變量時間序列與地表位移之間的非線性關(guān)系進行動態(tài)時間建模,構(gòu)建地表位移預測模型,通過LSTM網(wǎng)絡(luò)建立的地表位移預測模型,將已有數(shù)據(jù)預測貴州某礦山排土場的短時期位移量預測,結(jié)果表明,本文提出的方法通過多變量時間序列預測地表位移的效果較好[11].

2 系統(tǒng)算法分析與設(shè)計

2.1 數(shù)據(jù)預處理

以貴州某礦山排土場的從2016年1 2月19日～2017年11月20日的數(shù)據(jù)為研究對象,數(shù)據(jù)集中包含8個特性指標,分別是地表位移(Mp),土壓力(Dm),內(nèi)部位移(Ep),濕度(Hum),降雨量(Rg),土壤含水率(Smc),孔隙水壓力(St),溫度(Tpr).每組數(shù)據(jù)按一定周期持續(xù)更新,如圖1所示.影響山體滑坡的因素有許多,地表位移是表示著山體表面的移動距離,土壓力表示山體之間的相互作用力,在一定程度上表示著山體之間的緊密程度; 土壤含水率,孔隙水壓力,溫度,降雨量,濕度都會直接或間接地影響到山體滑坡,故將這些特性指標作為分析對象.

排土場的原始數(shù)據(jù)存在著眾多的異常值和少部分的缺失值,由于礦山排土場的滑坡需要嚴格地按照時間序列來預測,若直接對異常值進行舍棄,對預測結(jié)果會造成較大的影響,針對異常值,先對異常值進行空值處理,將其視為缺失值,然后通過拉格朗日插值法對所有空缺值進行插值填補[12].

圖1 各特性指標的變化趨勢

數(shù)據(jù)集中的每個特性指標間存在著量綱差異,為了消除不同量綱間的影響,需要對數(shù)據(jù)進行無量綱化處理,無量綱化有多種方法,本文采用歸一化法對數(shù)據(jù)集中的所有特性指標進行標準化

2.2 主成分分析(Principal Component Analysis,PCA)

礦山排土場特性指標總共8種,排土場滑坡風險評價受多種因素之間的相互影響,通過主成分分析(PCA)確立所有特性指標的主成分,通過主成分確立出作為影響礦山排土場滑坡的重要的特性指標,通過對礦山排土場的數(shù)據(jù)樣本進行主成分分析.

地表位移(Mp),土壓(Dm),內(nèi)部位移(Ep),濕度(Hum),降雨量(Rg),土壤含水率(Smc),孔隙水壓力(St),溫度(Tpr)的特征值分別是549.99,377.92,64.54,77.80,48.50,28.60,8.28,0.104如圖2所示.由各個指標的特征值,地表位移特征值遠大于其他指標的特征值,由此,在礦山排土場滑坡風險預測中,地表位移可以作為重要的考慮對象.

圖2 各特性指標的特征值

2.3 各指標間的相關(guān)性分析

影響礦山排土場滑坡的因素有許多,其中最明顯的表征就是地表位移,由2.2可知,地表位移在所有特征值中為第一主成分,因此可以將地表位移作為所有特性指標中對排土場滑坡影響最大的因素; 通過灰色關(guān)聯(lián)算法求解地表位移與其它指標(內(nèi)部位移、土壓力、孔隙水壓力、土壤含水率、降雨量,溫度、濕度)之間的關(guān)聯(lián)度.

灰色關(guān)聯(lián)分析法決策的思想是根據(jù)某個問題的實際情況確定出參考序列[13]; 然后,通過方案的序列曲線和幾何形狀與參考序列的曲線和幾何形狀的相似程度來判斷其之間的關(guān)聯(lián)程度; 曲線和幾何形狀越接近則說明其關(guān)聯(lián)度越大,方案越接近參考序列,反之亦然.設(shè)有個 對象,每個對象有項指標,由于每個評價的指標量綱是不一樣的,為了消除量綱之間的差異對結(jié)果的影響,需對評價指標數(shù)據(jù)進行歸一化處理,如(3)式,歸一化后的數(shù)據(jù)為令地表位移為參考序列,則與關(guān)于第個指標的關(guān)聯(lián)系數(shù)為:

由公式(6)與公式(7)可得出其它排土場參數(shù)指標與地表位移的關(guān)聯(lián)度,地表位移(Mp)與土壓力(Dm),內(nèi)部位移(Ep),濕度(Hum),降雨量(Rg),土壤含水率(Smc),孔隙水壓力(St),溫度(Tpr)的關(guān)聯(lián)度為0.8325,0.6114,0.4312,0.6233,0.7827,0.7416,0.7404如圖3所示,由關(guān)聯(lián)度的大小可知土壓力,土壓力,土壤含水率,溫度這幾個特性指標與地表位移的相關(guān)性較大,其對地表位移綜合影響為利用多變量同時預測地表位移下一時刻提供了可能.

圖3 地表位移(Mp)與各特性指標的關(guān)聯(lián)度

3 長短時記憶網(wǎng)絡(luò)模型(LSTM)進行多變量地表位移預測

3.1 LSTM網(wǎng)絡(luò)模型的搭建

由2.2可知地表位移在所有特性指標中為第一主成分,可以利用地表位移作為預測排土場滑坡的重要特性指標,同時由2.3得出地表位移與其他特性指標間的關(guān)聯(lián)度大小,為利用多個其他特性指標預測地表位移提供了重要依據(jù).基于LSTM的多變量預測得的神經(jīng)網(wǎng)絡(luò)拓撲結(jié)構(gòu)如圖4所示.

圖4 LSTM多變量預測神經(jīng)網(wǎng)絡(luò)拓撲結(jié)構(gòu)

圖4中,輸入層為經(jīng)過有監(jiān)督時間序列化處理后的礦山排土場的各特性指標,隱含層為長短時記憶網(wǎng)絡(luò)(LSTM),LSTM是RNN的一種變體,是RNN的一種特殊單元,LSTM將RNN中隱含層的神經(jīng)元替換成了記憶塊,每個記憶塊中包含一個或多個記憶細胞和3種非線性求和單元,這樣的做法很好地解決了傳統(tǒng)RNN存在梯度消失的問題[15],LSTM存儲單元的基本結(jié)構(gòu)如圖5所示; 輸出層為下一時刻地表位移這一特性指標.

圖5 存儲單元基本結(jié)構(gòu)

存儲單元的運作原理由以下面5個公式表示:

1) 按照前向計算方法公式(8)–(12)計算LSTM細胞的輸出值;

2) 反向計算每個LSTM細胞的誤差項,包括按時間和網(wǎng)絡(luò)層級兩個反向傳播方向;

3) 根據(jù)相應的誤差項,計算每個權(quán)重的梯度;

4) 應用基于梯度的優(yōu)化算法更新權(quán)重.

3.2 梯度優(yōu)化算法

梯度算法是求解最優(yōu)化問題的一類重要方法.算法選取目標函數(shù)的負梯度方向作為搜索方向,并且常依據(jù)目標函數(shù)的梯度來確定搜索步長.梯度優(yōu)化算法有隨機梯度下降(SGD),RMSProp,AdaGrad,Adam等,以平均絕對誤差(MAE)為目標損失函數(shù),圖6和圖7表示的是不同梯度優(yōu)化算法在訓練集和測試集上的損失函數(shù)曲線,發(fā)現(xiàn)Adam優(yōu)化算法表現(xiàn)比其他優(yōu)化算法效果更好,本文選用適應性動量估計算法(Adam),Adam是一種有效的基于梯度的隨機優(yōu)化算法,該算法融合了AdaGrad和RMSProp算法的優(yōu)勢,能夠?qū)Σ煌瑓?shù)計算適應性學習率并且占用比較少的存儲資源.試驗結(jié)果表明Adam相比與其它的隨機優(yōu)化算法在實際應用中整體表現(xiàn)更優(yōu)[16].

圖6 訓練集上各梯度優(yōu)化算法

圖7 測試集上各梯度優(yōu)化算法

3.3 地表位移預測算法流程與評價指標

基于上述的相關(guān)模型和算法,其具體流程為:

1) 數(shù)據(jù)預處理,包括異常值的舍棄,缺失值的填補以及數(shù)據(jù)的篩選;

2) 將數(shù)據(jù)轉(zhuǎn)化為有監(jiān)督的時間序列,便于對對下一時刻的數(shù)值進行相應的預測,劃分訓練集和測試集,訓練集為數(shù)據(jù)集的80%,測試集為20%;

3) 訓練與評價模型,利用前兩步處理后的數(shù)據(jù)和Adam優(yōu)化算法,學習率為1.0,神經(jīng)元的節(jié)點數(shù)為50,采用Relu激活函數(shù),訓練基于LSTM的深度神經(jīng)網(wǎng)絡(luò).

性能評價指標有均方根誤差(RMSE),一致性指數(shù)(IA),本文以RMSE來評估網(wǎng)絡(luò)的預測效果,如公式(13),RMSE的值越小則預測效果越好.

4 試驗與結(jié)果分析

本文以貴州某礦山排土場的相關(guān)數(shù)據(jù)為驗證對象,根據(jù)主成分分析和關(guān)聯(lián)性分析,提出采用通過預測地表位移值的方法來判斷礦山排土場滑坡的風險性.根據(jù)地表位移與其它特性指標間的關(guān)聯(lián)度大小,選取地表位移(Mp)與土壓力(Dm),內(nèi)部位移(Ep),降雨量(Rg),土壤含水率(Smc),孔隙水壓力(St),溫度(Tpr)這7個特性指標預測下一時刻地表位移的大小,預測效果如圖8所示,圖8中顯示的是通過LSTM對地表位移預測的結(jié)果和真實值的結(jié)果,從圖中可以看出通過多變量預測地表位移的效果是比較好的,通過多變量對地表位移的預測,由于在前文對礦山排土場的數(shù)據(jù)分析當中,得出地表位移在所有特性指標當中影響較大,同時與其它特性指標間存在著較強的關(guān)聯(lián)性,對排土場地表位移的預測,在一定程度上可以為礦山排土場的滑坡風險進行預估.圖9中顯示的是在損失函數(shù)曲線的收斂狀況,從圖中可以看出LSTM模型在進行數(shù)據(jù)訓練和測試時效果都較好,收斂速度塊,訓練集和測試集的擬合效果較好,均方根誤差RMSE=1.7156.

圖8 LSTM模型預測結(jié)果

圖9 LSTM損失函數(shù)

由2.3節(jié)可知,地表位移與土壓力(Dm)的關(guān)聯(lián)度最大,與濕度(Hum)的關(guān)聯(lián)度最小,為了驗證各個特性指標對預測下一時刻地表位移的精度影響,選取除土壓力(Dm)特性指標以外的其它特性指標通過LSTM模型預測下一時刻地表位移.預測效果如圖10所示,土壓力(Dm)與地表位移(Ep)的關(guān)聯(lián)度達到了0.8325,在缺失土壓力(Dm)這一指標特性指標的情況下,地表位移的預測精度會大幅度下降; 在加上濕度(Hum)這一特性指標后,通過LSTM的模型訓練,對地表位移預測的效果如圖11所示,其均方根誤差RMSE=1.6932濕度(Hum)這一特性指標對地表位移的影響較小.

圖10 不含土壓力(Dm)的預測結(jié)果

圖11 含濕度(Hum)的預測結(jié)果

通過試驗得知與待預測對象關(guān)聯(lián)度較大的特性指標對預測結(jié)果的精度影響較大,而與待測對象關(guān)聯(lián)度較小的特性指標對與檢測結(jié)果的精度影響很小,本文提出的PCA-LSTM模型對礦山排土場下一時刻地表位移預測效果較好.

5 結(jié)論與展望

本文針對礦山排土場的滑坡發(fā)生的動態(tài)性、滯后性,多組指標之間的高非線性,影響礦山排土場滑坡的因素很多,數(shù)據(jù)集中8個特性指標都會或多或少地影響排土場滑坡通過對所有特性指標進行數(shù)據(jù)分析,在主成分分析當中地表位移為第一主成分,同時由關(guān)聯(lián)性分析得知地表位移與其它指標具有較大的關(guān)聯(lián)性,采用地表位移作為預測目標,主成分分析與關(guān)聯(lián)性分析結(jié)合有效減少了數(shù)據(jù)集的維度,加快了預測效率,主成分分析屬于無監(jiān)督學習算法,在確定將地表位移作為預測目標時避免了人為選擇的主觀性.

本文提出采用以地表位移為顯著特性指標對礦山排土場的滑坡風險進行預測,通過LSTM模型的多個特征指標預測短時期內(nèi)地表位移的狀況,進而提前預知排土場滑坡的可能性,預測結(jié)果穩(wěn)定性好,為利用將多個特性指標綜合成單個顯著特性指標對礦山排土場滑坡預測提供了新的思路.