基于LSTM網(wǎng)絡(luò)的礦山壓力時空混合預(yù)測

余瓊芳，牛冬陽

(1.河南理工大學(xué) 電氣工程與自動化學(xué)院，河南 焦作 454000；2.大連理工大學(xué) 北京研究院博士后科研工作站，北京 100000)

綜采工作面礦山壓力的分析與預(yù)測對于液壓支架安全運行和保障煤礦安全高效開采具有重要的意義[1]。在工作面礦壓理論與應(yīng)用研究中，礦山壓力變化涉及頂板地質(zhì)信息、巖層物理力學(xué)性質(zhì)、圍巖破碎運移等復(fù)雜動態(tài)過程，采用確定性的物理力學(xué)方法實現(xiàn)礦山壓力的精準預(yù)測需依賴于確定的頂板結(jié)構(gòu)[3]。但是在現(xiàn)階段，難以精準獲取采煤過程中頂板結(jié)構(gòu)的動態(tài)變化[4]，因此基于確定性的頂板結(jié)構(gòu)根據(jù)物理力學(xué)規(guī)律實現(xiàn)礦山壓力的精確預(yù)測較為困難。

礦山壓力往往具有較強的時序特性，不同時刻之間的礦壓相互聯(lián)系，并隨開采過程生成龐大的關(guān)聯(lián)型數(shù)據(jù)，這些時序數(shù)據(jù)為機器學(xué)習(xí)、深度學(xué)習(xí)方法的應(yīng)用創(chuàng)造了條件。其中，采用傳統(tǒng)神經(jīng)網(wǎng)絡(luò)、專家系統(tǒng)或數(shù)據(jù)分類、回歸等用于礦壓預(yù)測的機器學(xué)習(xí)方法得到了長足發(fā)展。文獻[3]率先提出基于自適應(yīng)神經(jīng)網(wǎng)絡(luò)的頂板礦壓實時預(yù)報方法。文獻[5]建立了人工神經(jīng)網(wǎng)絡(luò)，對時間序列上的礦壓進行實時預(yù)測。文獻[6]以BP神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)對周期來壓進行預(yù)測。文獻[7]將粒子群算法與BP網(wǎng)絡(luò)相結(jié)合，對工作面頂板礦壓預(yù)測效果做出優(yōu)化。文獻[8]采用專家系統(tǒng)對礦山壓力數(shù)據(jù)進行分析和預(yù)測。文獻[10]采用經(jīng)驗回歸公式結(jié)合概率統(tǒng)計分析方法，研究了覆巖巖性、采高、埋深及長度對礦壓顯現(xiàn)的耦合影響作用。隨著計算性能及運算能力的不斷發(fā)展，在礦壓預(yù)測領(lǐng)域基于大數(shù)據(jù)分析的深度學(xué)習(xí)方法受到了科研人員的廣泛關(guān)注。其中，用于捕捉時序變化特征的長短期記憶(Long Short Term Memory，LSTM)網(wǎng)絡(luò)與礦壓預(yù)測問題表現(xiàn)出高度的契合。文獻[11]采用LSTM網(wǎng)絡(luò)捕捉工作面在推進過程中歷史壓力變化的時序特性，對紅慶河工作面礦壓進行預(yù)測。文獻[12]通過優(yōu)化LSTM網(wǎng)絡(luò)中的時間窗設(shè)置，進一步提高了礦壓預(yù)測精度。

隨著采煤工作不斷向前推進，頂板會發(fā)生周期性破斷、垮落，垮落方向主要為采空區(qū)側(cè)和支架移架側(cè)，并伴隨較為強烈的頂板壓力變化過程[13]。結(jié)合頂板垮落方向可知，礦山壓力傳遞區(qū)域主要為采空區(qū)側(cè)方向與移架側(cè)方向組成的弧形區(qū)域，區(qū)域中心為移架液壓支架主要支護位置。液壓支架支護需要給定初撐力，合理的初撐力能夠有效緩解頂板的早期下沉，保持頂板穩(wěn)定。工作面礦壓數(shù)據(jù)的實時預(yù)測對于指導(dǎo)支架的初撐力設(shè)置具有重要意義。頂板來壓等礦壓顯現(xiàn)現(xiàn)象存在周期性與異步性[1]。其中，來壓周期性多表現(xiàn)在來壓步距、來壓持續(xù)循環(huán)等特征參數(shù)；異步性是指局部少量支架先表現(xiàn)出來壓特征，隨后工作面進入大范圍來壓狀態(tài)?，F(xiàn)階段，礦山壓力預(yù)測大多基于當前支架的歷史周期內(nèi)的壓力數(shù)據(jù)，結(jié)合相鄰區(qū)域內(nèi)支架壓力數(shù)據(jù)進行輔助預(yù)測則較少。然而，礦山壓力的變化具有強烈的關(guān)聯(lián)性，表現(xiàn)為時序特性與空間特性。其中，時序特性可分析礦壓周期性變化特征進行預(yù)測，空間特性則需根據(jù)其異步性進行捕捉。因此，本文提出基于LSTM網(wǎng)絡(luò)的礦山壓力時空混合預(yù)測方法。在采煤領(lǐng)域暫無人提及從采空區(qū)測和支架移架側(cè)分別提取壓力特征混合預(yù)測礦壓。本文研究內(nèi)容為采用人工智能技術(shù)預(yù)測礦壓提供了一種思路，如能將基于LSTM的時空混合預(yù)測與大數(shù)據(jù)技術(shù)相結(jié)合，將有可能實現(xiàn)礦壓數(shù)據(jù)的實時預(yù)測。

1 礦山壓力及特征分布

壓力數(shù)據(jù)隨工作面的推進而改變，所以從時間和空間分別分析壓力變化。

1.1 時間方向壓力及數(shù)據(jù)特征分析

時間方向壓力就是當前支架歷史周期壓力，目前對礦山壓力理論研究如壓力拱理論研究、懸臂梁理論研究、預(yù)生裂縫理論研究、鉸接巖塊理論研究、砌體梁理論研究等都是基于時間的研究[14]。

在煤礦開采之前，頂板各方面受力是平衡的，伴隨煤層開挖，頂板平衡狀態(tài)遭到破壞。圍巖移動、形變以尋求新的平衡點，工作面頂板懸空面積隨著工作面推進不斷增大，頂板逐漸下沉，直至圍巖承受不住自身重力和采動的影響出現(xiàn)斷裂、垮落。以上便是是礦山壓力形成的原因。

圖1為液壓支架的部分壓力曲線，圖中橫坐標為采樣次數(shù)(采樣頻率為8 min采樣一次)，縱坐標為當前時間點對應(yīng)的來壓強度。隨著工作面的循環(huán)推進，支架的工作阻力由支護開始至移架結(jié)束，表現(xiàn)為如圖1所示的規(guī)律形式。支護初期上覆巖層下沉斷裂，頂板壓力持續(xù)上升。頂板復(fù)穩(wěn)后，壓力與支架撐力形成平衡。臨近采空側(cè)基本頂?shù)倪\移破碎，導(dǎo)致壓力出現(xiàn)輕微震蕩變化，且隨著開采時間，壓力呈現(xiàn)微小上升趨勢。隨工作面繼續(xù)推進，支架降柱卸壓進行移架，支架工作阻力下降。

圖1 支架工作阻力歷史數(shù)據(jù)曲線Figure 1. Historical data curve of stent working resistance

1.2 空間方向壓力及數(shù)據(jù)特征分析

空間方向壓力就是基于工作面相同時間的鄰架壓力。支架壓力在工作面推進方向和支架兩側(cè)壓力特征基本相同。在采場繼續(xù)推進形成的壓力波動及壓力范圍與支架兩側(cè)相關(guān)巖層所承受的壓力大小及壓力顯現(xiàn)相關(guān)，所以結(jié)合鄰架壓力變化有助于提高整體壓力預(yù)測準確性。

推進工作面各支架來壓強度歷史數(shù)據(jù)及時間的三維曲線如圖2所示。回采工作的開始伴隨著采場圍巖應(yīng)力的重新分布，采空區(qū)上方的巖石重力自然向周圍支撐區(qū)轉(zhuǎn)移，在采空區(qū)四周形成支撐壓力，工作面推進前方形成超前支撐壓力。受超前支撐壓力影響，未知應(yīng)力峰值區(qū)的上覆巖層何時變形垮落，具有異步性，所以須結(jié)合鄰架壓力變化的周期性共同分析預(yù)測礦壓。

圖2 支架工作阻力歷史數(shù)據(jù)三維曲線Figure 2. Three-dimensional curve of historical data of support working resistance

2 神經(jīng)網(wǎng)絡(luò)模型

礦山壓力隨著時間的推移而改變，這種變化與時間呈現(xiàn)非線性關(guān)系，且礦山壓力的大小隨工作面采場圍巖的破壞呈階段性改變，所以運用善于解決時間序列數(shù)據(jù)的LSTM網(wǎng)絡(luò)來處理礦山壓力與時空的關(guān)系。

2.1 LSTM神經(jīng)網(wǎng)絡(luò)

RNN(Recurrent Neural Network)作為傳統(tǒng)的循環(huán)神經(jīng)網(wǎng)絡(luò)，當前網(wǎng)絡(luò)輸出與之前輸出存在關(guān)聯(lián)。具體表現(xiàn)為網(wǎng)絡(luò)會對前面的內(nèi)容進行記憶并在當前時刻輸出，即隱藏層的輸入包括當前時刻的輸入和上一時刻隱藏層的輸出[15]，且可提取序列數(shù)據(jù)特征，有較強的處理時序數(shù)據(jù)能力。RNN循環(huán)結(jié)構(gòu)如圖3所示。

圖3 RNN循環(huán)結(jié)構(gòu)Figure 3. RNN loop structure

可見RNN在每一時刻的訓(xùn)練都包含之前循環(huán)的部分信息，并將該時刻的信息傳遞下去。但是由于RNN隱藏單元只有一個函數(shù)，每個時刻都在上一時刻函數(shù)的基礎(chǔ)上進行疊加，當參數(shù)初始化小于1或大于1時，容易造成梯度消失或梯度爆炸。

而LSTM作為特殊RNN，在循環(huán)網(wǎng)絡(luò)的基礎(chǔ)上添加了記憶細胞(cell)單元，可用于保存長期狀態(tài)。此外，其還增加了遺忘門、輸入門和輸出門來共同控制信息的遺忘和記憶，可有效解決RNN梯度消失和梯度爆炸的問題[17]，使之更擅長處理時間序列數(shù)據(jù)。液壓支架工作阻力數(shù)據(jù)是具有強時序性的數(shù)據(jù)，使用LSTM是一種行之有效的辦法。

圖4 LSTM單元結(jié)構(gòu)Figure 4. LSTM unit structure

圖4中，xt和ht分別為t時刻的輸入和輸出，ht-1為上一時刻LSTM單元的輸出，ct-1為上一時刻記憶細胞單元的輸出，ct為t時刻記憶細胞單元的輸出。

遺忘門決定上一時刻有多少信息保留或遺忘在記憶細胞ct，其構(gòu)成如式(1)所示。

ft=σ(Wfhht-1+Wfxxt+bf)

(1)

輸入門決定當前時刻有多少信息保留在記憶細胞ct，其構(gòu)成如式(2)所示。

it=σ(Witht-1+Wixxt+bi)

(2)

當前時刻的候選記憶細胞單元c′t的構(gòu)成表達式如式(3)所示。

c′t=tanh(Wchht-1+Wcxxt+bc)

(3)

記憶細胞由ft點乘上一時刻記憶細胞單元ct-1的值與it點乘當前時刻臨時儲存單元c′t的值相加更新，構(gòu)成如式(4)所示。

ct=ft⊙ct-1+it⊙c′t

(4)

輸出門決定當前記憶細胞ct有多少輸出到當前隱藏層的輸出值ht，構(gòu)成如式(5)所示。

ot=σ(Wohht-1+Woxxt+bo)

(5)

將記憶細胞ct經(jīng)過tanh函數(shù)處理后與輸出門ot相乘，如式(6)所示，最終得到輸出。

ht=ot⊙tanh(ct)

(6)

式中，Wfh、Wih、Woh分別為遺忘門、輸入門、輸出門與上一時刻隱藏層ht-1的權(quán)重矩陣；Wfx、Wix、Wox分別為遺忘門、輸入門、輸出門與輸入向量xt的權(quán)重矩陣；bf、bi、bc、bo分別為遺忘門、輸入門、記憶細胞、輸出門的偏執(zhí)項；σ代表Sigmoid非線性函數(shù)；tanh為雙曲正切函數(shù)；⊙表示向量間點乘。

經(jīng)過大量數(shù)據(jù)訓(xùn)練之后，LSTM各層各神經(jīng)元之間的權(quán)重發(fā)生改變，誤差函數(shù)縮小到一個可接受的范圍，從而完成了神經(jīng)網(wǎng)絡(luò)對訓(xùn)練數(shù)據(jù)的學(xué)習(xí)。

2.2 基于LSTM神經(jīng)網(wǎng)絡(luò)的時空混合預(yù)測模型

由雙向LSTM提供雙輸入單輸出的思路，本文采用兩個單向LSTM分別提取采空區(qū)側(cè)和支架移架側(cè)不同程度的壓力特征。由于壓力是不同因素造成的，具有參差不齊等特點，所以采用相同的權(quán)重是不合理的。為此，本文將數(shù)據(jù)通過獨立的網(wǎng)絡(luò)提取壓力特征，然后將兩個LSTM提取的時序信息通過全連接層融合在一起。

3 實驗設(shè)計及結(jié)果分析

圖5為本文所用的網(wǎng)絡(luò)結(jié)構(gòu)。本文使用3層全連接層是為了增加神經(jīng)元個數(shù)和網(wǎng)絡(luò)層數(shù)，提高模型非線性表達能力，進而增強模型的學(xué)習(xí)能力。

圖5 網(wǎng)絡(luò)結(jié)構(gòu)Figure 5. Network structure

3.1 實驗環(huán)境與數(shù)據(jù)集

算法使用Python語言在PyTorch框架下進行，具體實驗環(huán)境配置如表1所示。

表1 實驗環(huán)境

實驗數(shù)據(jù)由山東棗莊付村煤礦1007工作面[18]提供，該煤礦有液壓支架154架，采用中間區(qū)域97號至101號5架2020年11月19日～2020年12月27日的壓力數(shù)據(jù)。壓力傳感器在采集數(shù)據(jù)過程中會有數(shù)據(jù)缺失的情況，因此用相鄰數(shù)據(jù)的平均值補上中間缺失數(shù)據(jù)。整個實驗包括訓(xùn)練和測試兩個階段，以70%數(shù)據(jù)為訓(xùn)練集更新參數(shù)、學(xué)習(xí)網(wǎng)絡(luò)，以30%數(shù)據(jù)為測試集，并根據(jù)訓(xùn)練好的網(wǎng)絡(luò)查看實際學(xué)習(xí)能力及準確率，隨后預(yù)測礦山壓力變化，并與真實礦壓做對比。

3.2 搭建模型

對礦壓數(shù)據(jù)預(yù)處理采用歸一化的方法，將數(shù)據(jù)映射在(0～1)范圍內(nèi)。使用隨機梯度下降法，其中batch_size設(shè)置為100，訓(xùn)練共進行了130個輪次(epoch)，學(xué)習(xí)率為0.01。網(wǎng)絡(luò)訓(xùn)練采用具有高性能高效性的Adam優(yōu)化算法。

3.3 實驗標準

為驗證模型預(yù)測性能，本文選取均方誤差(Mean Squared Error，MSE)作為模型預(yù)測性能的誤差評價指標。MSE對預(yù)測值和真實值的誤差進行平方，可放大誤差，對異常點更加敏感，是衡量誤差一種比較簡單的方法，MSE值越小，說明預(yù)測模型精度越高。同時為了更加全面地考察模型的性能，本文選擇平均絕對誤差(Mean Absolute Error，MAE)作為輔助評價指標。計算式如下

(7)

(8)

3.4 實驗結(jié)果分析

為進一步驗證此實驗優(yōu)于其他模型，將所提出的混合模型與未做改進的傳統(tǒng)LSTM預(yù)測模型做對比實驗，實驗結(jié)果如圖6所示，實線為真實的礦壓值，虛線為預(yù)測的礦壓值。

(a)

從預(yù)測結(jié)果圖可以看出，改進的LSTM時空混合模型的預(yù)測結(jié)果與實際壓力曲線有更好的擬合。將兩實驗的損失函數(shù)進行對比，從圖中可以看出，基于LSTM的時空混合模型收斂速度更快。

圖7 損失函數(shù)值Figure 7. Loses the function value

兩種算法模型的指標如表2所示，對比結(jié)果可知，相對于傳統(tǒng)LSTM，混合LSTM的MSE和MAE誤差分別下降了24.49%和35.24%，表明該方法可以更好地提取特征，預(yù)測結(jié)果也更優(yōu)。

表2 誤差對比

4 結(jié)束語

本文通過對煤礦橫、縱向壓力分析，提出基于LSTM的時空混合預(yù)測模型，解決了傳統(tǒng)預(yù)測模型不能很好捕捉時序數(shù)據(jù)特征的問題，提高了礦壓預(yù)測模型的可靠性與準確性，在將來分析和預(yù)測礦壓方面有較廣闊的應(yīng)用前景。本實驗因預(yù)測效果較好，暫無改進網(wǎng)絡(luò)，在以后的研究當中可對網(wǎng)絡(luò)做適當改進。