基于Attention 機制的CNN-BiLSTM 瞬變電磁實時反演方法

古 瑤，解海軍，周子鵬，李 璐

(1.西安科技大學 地質(zhì)與環(huán)境學院，陜西 西安 710054；2.自然資源部煤炭資源勘查與綜合利用重點實驗室，陜西 西安 710048)

瞬變電磁法作為時間域掃面性方法被廣泛應用于礦產(chǎn)勘查、地下水調(diào)查等領(lǐng)域[1]。在其數(shù)據(jù)解釋方面，線性反演雖取得一定的應用效果，但存在過于依賴初始模型、易丟失細節(jié)信息且分辨率低等缺點[2]，不適用于高精度反演；而模擬退火、人工魚群優(yōu)化算法等完全非線性方法又受限于復雜的正反演理論和數(shù)據(jù)處理過程而難以真正投入使用[3-4]，因此，尋找簡潔快速、具有高分辨率的實時反演方法是亟待解決的問題。

Today, it’s all about bargains and Black Friday’s dark roots are for the history books.

近年來，神經(jīng)網(wǎng)絡憑借其突出的學習能力、非線性映射和泛化能力，被大量應用于地球物理領(lǐng)域的反演成像問題[5-7]，該方法可避免復雜的正演計算，極大地提高了反演效率。在瞬變電磁反演方面，李實[8]、王秀臣[9]等基于反向傳播(Back Propagaton，BP)算法設(shè)計了瞬變電磁實時反演系統(tǒng)；秦善強[10]利用遺傳算法優(yōu)化的BP 神經(jīng)網(wǎng)絡實現(xiàn)了瞬變電磁的即時反演；閆國才[11]利用3 層人工神經(jīng)網(wǎng)絡分析了孔隙度與瞬變電磁數(shù)據(jù)的關(guān)系，成功預測了巖層的富水性。以上研究雖利用神經(jīng)網(wǎng)絡達到了實時反演的目的，但未考慮到瞬變電磁數(shù)據(jù)的時間序列性和時空相關(guān)性，且從深度學習角度來看，BP 神經(jīng)網(wǎng)絡適用性較低，不利于復雜地質(zhì)條件下的精細化反演。此后，范濤等[12]利用專門解決時序問題的長短時記憶神經(jīng)網(wǎng)絡(Long-Short Term Memory，LSTM)實現(xiàn)了基于大量正演數(shù)據(jù)的瞬變電磁實時反演成像，并驗證了其在3 層、5 層模擬地層結(jié)構(gòu)上的應用效果，證明了LSTM 反演在理論層面的合理性。但單一的LSTM 對于空間特征的提取能力相比時間特征而言略顯薄弱[13]，這使得該網(wǎng)絡壓制隨機干擾、提取空間局部信息的能力不足，而瞬變電磁反演的主要目的是突出高阻或低阻異常區(qū)，因此，需要對其進行優(yōu)化或與其他算法聯(lián)合使用，進一步提高反演精度。從實現(xiàn)難易程度和應用效果來看，算法的聯(lián)合使用更為適用，且聯(lián)合算法已經(jīng)在地球物理領(lǐng)域成功開展。袁英淏[14]利用深層卷積神經(jīng)網(wǎng)絡(Convolutional Neural Network，CNN)實現(xiàn)了層位的自動追蹤，利用基于前饋注意力機制(Attention)的LSTM 實現(xiàn)了全剖面彈性波阻抗的預測；Cao Wei 等[15]利用架構(gòu)在編碼器-解碼器(Encoder-Decoder)模型的卷積-長短期記憶神經(jīng)網(wǎng)絡(CNN-LSTM)算法成功進行了地震速度反演；冼錦熾等[16]基于CNN-LSTM 組合結(jié)構(gòu)研究了拖曳式地面瞬變電磁的快速成像問題。以上研究證明了CNN-LSTM算法適用于反演領(lǐng)域，但將該方法聯(lián)合Attention 機制用于地面瞬變電磁勘探還未見論述。

本文在綜合考慮瞬變電磁數(shù)據(jù)時空特征和不同神經(jīng)網(wǎng)絡優(yōu)勢情況下，以正演和常規(guī)反演結(jié)果為學習基礎(chǔ)，在特定地電模型條件下，將瞬變電磁反演思想與機器學習方法相結(jié)合，研究了瞬變電磁反演電阻率的預測方法，以期快速、準確地實現(xiàn)資料反演。

1 AC-BiLSTM 反演方法原理

根據(jù)不同的網(wǎng)絡組合特性、反演需求及數(shù)據(jù)集大小，本次AC-BiLSTM 反演算法整體框架使用Encoder-Decoder 模型，編碼器(Encoder)部分使用CNN 和Bi-LSTM；解碼器(Decoder)為LSTM[15-16]。整體反演流程如下：首先，將各測點數(shù)據(jù)歸一化后輸入二維卷積神經(jīng)網(wǎng)絡(2D CNN)，通過卷積層挖掘數(shù)據(jù)間的空間相關(guān)性并剔除隨機干擾，再將處理后的數(shù)據(jù)作為整體傳入雙向長短時記憶神經(jīng)網(wǎng)絡(Bi-LSTM)中提取時間特征，獲得具有深度向長期相關(guān)性的數(shù)據(jù)體；最后，利用Attention 機制計算不同數(shù)據(jù)點的注意力權(quán)重，將加權(quán)平均后的數(shù)據(jù)輸入全連接層，對輸出數(shù)據(jù)進行反歸一化計算，獲得反演結(jié)果。詳細流程如圖1 所示。

圖1 AC-BiLSTM 模型工作流程Fig.1 Flow chart of the AC-BiLSTM model

1.1 卷積神經(jīng)網(wǎng)絡(CNN)

CNN 作為深度學習代表算法之一，是仿造生物的視知覺機制構(gòu)建，可進行監(jiān)督學習或非監(jiān)督學習，其不完全連接、卷積核參數(shù)共享、池化等特性可顯著降低網(wǎng)絡復雜度，提高模型的運算容錯能力[17]，目前已廣泛應用于大地電磁[18]、地震[19]、測井[20]等領(lǐng)域。經(jīng)典CNN 結(jié)構(gòu)包括輸入層、卷積層、池化層、全連接層和輸出層，其中池化層通過舍棄部分信息實現(xiàn)數(shù)據(jù)降維，然而在反演過程中，計算成本遠小于圖像處理，因此，本文設(shè)計的CNN 包括1 個輸入層、2 個卷積層、1 個全連接層和1 個輸出層。

多個瞬變電磁測點在空間上處于相鄰位置，故數(shù)據(jù)以二維張量X(t×n)的形式輸入神經(jīng)網(wǎng)絡，X為一個t行n列的二維矩陣，t為時間道數(shù)，n為測點數(shù)。為保留多個測點的空間相關(guān)性，本次使用二維卷積神經(jīng)網(wǎng)絡進行數(shù)據(jù)處理，卷積核按照測道和測點兩個方向進行卷積。根據(jù)范振宇[21]、王琪凱[22]等的研究，對于二維矩陣的卷積計算公式如下：

式中：g(l,j)為第l測點第j時間道的卷積結(jié)果輸出，l∈n,j∈t；X(l-m,j-k)為以第l測點第j時間道數(shù)據(jù)為中心的尺寸為 (m,k)的 實數(shù)矩陣；h(m,k)為二維卷積核及尺寸，按照濾波需求，設(shè)置二維卷積核尺寸為3×3，即∑長度∑m為3，寬度k為3，核數(shù)組首次輸入為隨機值；m∈nk∈t為遍歷輸入特征；b為 偏置參數(shù)；σ()為非線性激活函數(shù)。

1.2 雙向長短時記憶神經(jīng)網(wǎng)絡(Bi-LSTM)

LSTM 是循環(huán)神經(jīng)網(wǎng)絡(Recurrent Neural Network，RNN)的變體算法，其通過增加輸入門、遺忘門、輸出門來保持和更新細胞狀態(tài)，以門控結(jié)構(gòu)解決一般循環(huán)神經(jīng)網(wǎng)絡處理長序列數(shù)據(jù)時所產(chǎn)生的梯度爆炸或梯度消失問題[23]。其單元內(nèi)部結(jié)構(gòu)如圖2所示。

圖2 LSTM 單元內(nèi)部結(jié)構(gòu)Fig.2 Internal structure of the LSTM unit

超參數(shù)用于定義模型的高層次概念，它的選取對深度學習算法的質(zhì)控起到直接作用，不同超參數(shù)的組合會定義不同的反演模型性能。

式中：ωxi、ωx f、ωxo、ωxC為Xn對應的權(quán)重矩陣；ωhi、ωhf、ωho、ωhC為ht-1的 權(quán)重矩陣；bi、bf、bo、bC為偏置向量；tanh()為激活函數(shù)。

Bi-LSTM 是前向-后向長短時記憶神經(jīng)網(wǎng)絡的拼接，即利用concat 函數(shù)將前向隱藏狀態(tài)與后向隱藏狀態(tài)拼接為最終隱藏狀態(tài)記為[h1,h2,···,ht]。該網(wǎng)絡可對瞬變電磁數(shù)據(jù)按時間序列進行雙向?qū)W習，以保證數(shù)據(jù)在深度向的前后依賴關(guān)系[12,26]，相比單向LSTM 在地層預測方面有更好的效果。

1.3 Attention 機制

地層信息復雜多變，Encoder 中僅以最后一層網(wǎng)絡對應的隱藏層作為輸出結(jié)果容易忽略數(shù)據(jù)中的部分關(guān)鍵內(nèi)容，同時，對所有信息賦予相同的權(quán)值亦不能滿足精細反演需求，因此，引入Attention 機制對不同層次的數(shù)據(jù)進行偏向性選擇，以大權(quán)重聚焦關(guān)聯(lián)性大且重要的信息，以低權(quán)重分配給特征平淡的信息，以此對數(shù)據(jù)進行更深層次的特征提取，降低多步預測的誤差[27]。

本次根據(jù)實際權(quán)重計算需要，選擇Bahdanau Attention 計算方式。詳細架構(gòu)如圖3 所示。

圖3 Attention 詳細架構(gòu)Fig.3 Detailed architecture of the Attention mechanism

本次實測數(shù)據(jù)使用V8 電法工作站在陜北某煤礦勘測獲得，施工參數(shù)同表1。選取已知采空區(qū)附近500 個實測數(shù)據(jù)和鉆孔附近的28 個正演數(shù)據(jù)共同作為實測數(shù)據(jù)集。加入正演數(shù)據(jù)的目的是提高模型穩(wěn)定性和準確率，使神經(jīng)網(wǎng)絡更好地控制地層視電阻率、深度及厚度變化。

式中：V、W、U、b為模型學習參數(shù)矩陣或向量；為Bi-LSTM 隱藏層輸出值對當前輸入的臨時權(quán)重，經(jīng)softmax 轉(zhuǎn)換為網(wǎng)絡使用的注意力權(quán)重αti；[h1,h2,···,ht]為對應輸入序列的隱藏層狀態(tài)值。以上參數(shù)隨模型訓練過程不斷更新。

大幅提高平時考核的比例，從改革前的30%提高到50%，根據(jù)學生平時上課的出勤率、課堂活動參與情況等環(huán)節(jié)進行綜合考察，有利于教師對課堂教學活動的管理，引導、督促和激勵學生積極參與課堂活動，突出其主體地位。

需要提醒的是，在使用Attention 機制判斷不同層次樣本對結(jié)果貢獻度的過程中，需將Bi-LSTM 的隱含層狀態(tài)輸出值從雙向轉(zhuǎn)化為單向，再對LSTM 的輸出值和轉(zhuǎn)換順序后的隱含層數(shù)據(jù)執(zhí)行矩陣乘法，否則會產(chǎn)生關(guān)于維度不匹配的報錯命令。

2 數(shù)據(jù)集與評價指標

瞬變電磁反演的主要思想是利用神經(jīng)網(wǎng)絡接收原始數(shù)據(jù)，用訓練好的模型預測出相對精細的地層分布情況，并盡可能地使其與實際地層分布誤差最小。本次以采樣時間-視電阻率作為輸入特征進行參數(shù)訓練，規(guī)定模型的優(yōu)化目標為最小化擬合誤差[12]。

由于各個鎮(zhèn)的建設(shè)用地變化量代表了城市發(fā)展?jié)摿Γ浞捶矫嬲么砹顺鞘薪ㄔO(shè)用地減退的城市衰減潛力，因此，可由各個鎮(zhèn)的建設(shè)用地變化量計算出三地區(qū)各個鎮(zhèn)集體建設(shè)用地減量面積分別為 7.14km2、17.01km2、21.55km2。

此外BIM技術(shù)還可在施工組織階段中得到應用，通過BIM技術(shù)可幫助施工人員更好地了解施工計劃安排、施工方案設(shè)計以及施工場地實際情況，從而確保施工組織的合理安排。值得注意的是，施工地形各有差異，有些地方較低，有些地方較高，通過BIM技術(shù)便可對施工現(xiàn)場情況進行模擬，對工作平臺加以構(gòu)建，為后續(xù)施工的開展奠定基礎(chǔ)?；贐IM技術(shù)下可實現(xiàn)施工質(zhì)量的全面管理，確保施工質(zhì)量的有效提升，施工人員可通過移動設(shè)備來查詢施工方案、建立數(shù)據(jù)模型，將分布式云平臺技術(shù)運用其中，以便施工人員在施工現(xiàn)場及時發(fā)現(xiàn)問題，促進施工管理效率的提升。

2.1 模擬數(shù)據(jù)集

在模型訓練過程中，由于實測數(shù)據(jù)準確性無法判斷，故設(shè)計了模擬數(shù)據(jù)集。首先對區(qū)內(nèi)28 個鉆孔的測井曲線進行歸一化，按照曲線變化規(guī)律提取層間視電阻率，設(shè)計出28 個趨勢相同但細節(jié)不同的6 層地電模型，基于該28 個模型正演得到模擬數(shù)據(jù)集，在理論層面展示并論證算法的可行性和準確度。訓練期間通過超參數(shù)優(yōu)化提升模型性能，用設(shè)定的評估指標分辨模型的優(yōu)劣，最終得到的訓練模型用于瞬變電磁數(shù)據(jù)反演。

正演模型參數(shù)設(shè)置與實際采集參數(shù)相同，詳細參數(shù)見表1。

表1 參數(shù)設(shè)置Table 1 Parameter settings

2.2 實測數(shù)據(jù)集

假設(shè)共有t個時間步的輸入，Encoder 第t時間步的輸出表示為ht；Decoder 第i時間步的輸出為si，則第i時間步的Ci(Context vector)計算過程及公式如下[27-28]：

2.3 評價指標選取

評價指標用來計算反演數(shù)據(jù)與實際地層情況的擬合程度及偏差，以便對模型進行定量評價[29-30]。本次選用以下指標，從擬合程度、偏離程度和模型相似度3 個方面對算法有效性和準確率進行評估。

由圖7可見，換流器MMC1閥側(cè)發(fā)生A相不對稱短路故障時，對端MMC2、VSC同樣感應到故障導致A相電壓降低，非故障相BC電壓升高，且有幅值相等的故障電流流入各換流端中性點。各換流端中性點故障電流與接地電阻R成反比，當直流系統(tǒng)接地電阻取2.0 kΩ時的中性點電流明顯減小，如圖8所示。

1)決定系數(shù)(R2)

決定系數(shù)主要計算模型的擬合優(yōu)度，值越接近于1，則說明擬合程度越好。用于非線性回歸模型時，其計算公式如下：

2)均方根誤差(ERMS)

本研究包括以下變量：①自變量。針對障礙人士提出的無障礙網(wǎng)絡課程設(shè)計及其有效性；②因變量。實驗對象的學習興趣、活動參與積極性等；③其他變量。實驗對象本身并不是殘障人員，因此不能夠完全客觀的站在他們的角度去辨別有效性。另外還會受到遮擋物本身的影響等。

該指標反映預測值的精密程度，值越小，表明預測值與真實值的偏離越小。

3)平均相對誤差(EMR)

該指標通過各點之間的絕對差值衡量預測地層結(jié)構(gòu)與真實地層結(jié)構(gòu)的相似程度，值越小，說明相似程度越大，即預測地層結(jié)構(gòu)越接近實際。

顧青有些歉疚，房子是太簡陋了，沒有廚房沒有客廳，只有小小的一間，放了床、桌子和一臺電腦之后，空間就占掉了大半。溫簡在樓梯口生了個爐子，燒蜂窩煤，味道很濃嗆，她總是一邊炒菜一邊咳嗽，但她并不覺得苦。

式中：N為數(shù)據(jù)總個數(shù)，yt、分別為真實地層結(jié)構(gòu)曲線第t道數(shù)據(jù)和數(shù)據(jù)平均值；分別為反演地層結(jié)構(gòu)曲線第t道數(shù)據(jù)和數(shù)據(jù)平均值。

3 超參數(shù)選擇

令第n測點處數(shù)據(jù)為其中為第t時間道的視電阻率數(shù)據(jù)，令Xn為當前輸入，則LSTM 對于t時刻的工作流程如下[24-26]：每一個當前時刻，LSTM 單元通過遺忘門(ft)、輸入門(it)、輸出門(ot)接受上一時刻隱藏狀態(tài)ht-1與 當前狀態(tài)Xn兩類信息的輸入，其中遺忘門決定上一時刻ht-1保留到當前單元狀態(tài)Ct的比例，輸入門決定Xn輸入到當前單元狀態(tài)Ct的比例，輸入門的信息經(jīng)過非線性變換后與經(jīng)遺忘門變換的記憶狀態(tài)疊加，形成新的臨時記憶單元；輸出門決定上一輸出ht-1和 當前Xn輸 入到當前隱藏層狀態(tài)ht的比例，為臨時細胞狀態(tài)；最后，當前記憶單元Ct與ot輸出信息經(jīng)過運算，形成了當前單元的輸出ht。

3.1 學習率

學習率是梯度下降過程中判斷如何根據(jù)損失函數(shù)梯度調(diào)整網(wǎng)絡權(quán)重的超參數(shù)。學習率過低會增加網(wǎng)絡復雜度，使整個網(wǎng)絡困在局部最優(yōu)點；過高會使損失函數(shù)梯度在最小值附近震蕩，甚至造成模型無法收斂[31]。

本次選擇均方誤差作為目標損失函數(shù)，圖4 為不同學習率損失曲線對比。如圖所示，學習率為0.5 和0.1 時，訓練一定輪次后誤差幾乎不再改變，出現(xiàn)梯度爆炸；學習率為0.01 和0.001 時誤差下降趨勢近似一致，但值為0.001 時收斂更好；學習率為0.000 1 和0.000 01 時，網(wǎng)絡的損失值衰減較慢，經(jīng)多輪訓練后最終誤差較小。

圖4 不同學習率誤差對比Fig.4 Errors under different learning rates

6.外部資源獲取與整合。培育自身能力的同時，建筑施工企業(yè)也應成為資源整合方，廣泛整合專業(yè)領(lǐng)域的設(shè)計機構(gòu)、設(shè)備制造商，提升整體實施能力，滿足業(yè)主需求。

基于上述誤差對比結(jié)果，本次學習率設(shè)置選用離散下降法，即首先設(shè)置一個較大的學習率，使網(wǎng)絡的損失值快速衰減，再隨著迭代次數(shù)的增加降低學習率。設(shè)定初始學習率為0.1，規(guī)定每迭代50 輪，學習率下降為上50 輪次的1/10，共迭代250 輪[15]。

3.2 Dropout

考慮到精細反演需求，本次設(shè)定Dropout 取值范圍為[0,0.5]，詳細取值及測試效果如圖5 所示。由圖中可以看出，加入Dropout 后，損失函數(shù)快速收斂，除0.000 1 外，其他取值的損失函數(shù)均下降至極小。綜合考慮反演性能和數(shù)據(jù)要求，本次選定Dropout 值為0.01，誤差下降趨勢如圖6 所示。

在深度神經(jīng)網(wǎng)絡訓練過程中，當數(shù)據(jù)集較少而模型參數(shù)較多時，容易產(chǎn)生過擬合現(xiàn)象，主要表現(xiàn)為測試數(shù)據(jù)集損失函數(shù)大于訓練集、預測準確率低于訓練集。針對該問題引入Dropout 技術(shù)以丟棄傳播過程中部分神經(jīng)元，增強模型泛化能力。

圖5 不同Dropout 值誤差對比Fig.5 Errors under different dropout rates

圖6 Dropout 值為0.01 時誤差對比Fig.6 Errors under a dropout rate of 0.01

3.3 隱藏層節(jié)點數(shù)

在模型監(jiān)督學習和反饋過程中，設(shè)定訓練集∶驗證集∶測試集=0.8∶0.1∶0.1。最終確定模型超參數(shù)及其他相關(guān)參數(shù)見表2。

“嗯，一開始肯定不適應，不過我相信，學習成績好的孩子，到哪里都是好的。我也是希望你能帶動成績不好的同學，給他們一點壓力和動力！”周老師說起這次“行動”還挺高興的。

圖7 為隱藏層不同節(jié)點數(shù)誤差對比，圖8 為不同節(jié)點數(shù)均方根誤差對比。如圖8 所示，當隱藏層節(jié)點數(shù)為16 時，網(wǎng)絡均方根誤差較大，損失的信息過多；當節(jié)點數(shù)為32、64 時，兩組誤差變化在前期較為相近，訓練后期64 節(jié)點誤差略小于32 節(jié)點，此時網(wǎng)絡的質(zhì)量提升達到瓶頸；當節(jié)點數(shù)為128、256 時，網(wǎng)絡的均方根誤差降低但網(wǎng)絡整體質(zhì)量下降。綜合考慮網(wǎng)絡性能，最終設(shè)置隱藏層節(jié)點數(shù)為32，與輸入節(jié)點數(shù)較為相近，保留地質(zhì)信息的同時節(jié)省了訓練時間。

圖7 隱藏層不同節(jié)點數(shù)誤差對比Fig.7 Errors under the different nodes in the hidden layer

圖8 隱藏層不同節(jié)點數(shù)均方根誤差對比Fig.8 Root mean square errors under different nodes in the hidden layer

不同的隱藏層數(shù)及隱藏層節(jié)點數(shù)會對神經(jīng)網(wǎng)絡性能產(chǎn)生一定影響，在一定限度內(nèi)，隱藏層層數(shù)越多、節(jié)點數(shù)越多，網(wǎng)絡性能越強。經(jīng)研究以往資料[15]，本次數(shù)據(jù)量較少，同時考慮過擬合現(xiàn)象，設(shè)定隱藏層數(shù)目為3 層。在其他參數(shù)不變的情況下，以2n為變化基準研究16～256 個隱藏層節(jié)點數(shù)對反演效率及準確率的影響。

表2 超參數(shù)設(shè)置Table 2 Hyperparameter settings

4 實際應用效果

4.1 單點分析

圖9 為AC-BiLSTM 最終誤差下降趨勢曲線圖，從圖中可以看出誤差快速下降至收斂，未產(chǎn)生過擬合現(xiàn)象，說明該算法對地層數(shù)據(jù)具有較強的擬合能力。圖10 為從模型正演數(shù)據(jù)中隨機選取的2 組數(shù)據(jù)的反演結(jié)果，如圖11 所示，預測曲線雖與目標模型曲線有微小差異，但趨勢基本一致，說明該模型具備預測出6 層地層結(jié)構(gòu)的能力。

壯拳不僅是壯人生存斗爭的工具，更是狂歡時刻“手之舞之足之蹈之”的娛神娛人之手段。壯人有著自己獨特的事關(guān)宗教信仰的民俗和節(jié)慶活動，如“三月三”歌節(jié)、?；旯?jié)、螞拐節(jié)、中元節(jié)等壯族特有的節(jié)慶以及節(jié)慶中的民俗體育活動無不體現(xiàn)著對天神、雷神、牛神、蛙神、“布洛陀”、祖先、大樹等信仰中的“自然崇拜、鬼魂崇拜、祖先崇拜、英雄崇拜、圖騰崇拜、動植物崇拜”[12]，神祗眾多，信仰繁雜。

圖9 AC-BiLSTM 誤差下降趨勢曲線Fig.9 Downward trend curves of AC-BiLSTM errors

圖10 正演模擬數(shù)據(jù)單點反演結(jié)果與目標對比Fig.10 Single-point inversion results of data from forward modeling vs.target values

圖11 實測數(shù)據(jù)不同反演方法結(jié)果對比Fig.11 Results of different inversion methods on measured data

為進一步驗證該方法的有效性和優(yōu)越性，引入LSTM 及Occam 方法進行效果對比。圖11 為不同反演方法結(jié)果對比圖，圖11a 為實測數(shù)據(jù)3 600 點反演結(jié)果，圖11b 為3 900 點反演結(jié)果，如圖，3 種方法均能較好地預測出地層整體趨勢，但AC-BiLSTM 反演結(jié)果與地層結(jié)構(gòu)偏差程度最小。

表3 為不同方法的反演結(jié)果精度對比，其中評價因子為多個測點的平均值，由表中可以看出，相比其他兩種方法，AC-BiLSTM 反演的決定系數(shù)R2最高；均方根誤差ERMS最??；平均相對誤差EMR最小，即反演結(jié)果的準確度最高。

上世紀七十年代，微電子、IT和通訊技術(shù)的發(fā)展，使電氣自動化實現(xiàn)了質(zhì)的飛躍，融入了信息、通信、系統(tǒng)工程及人工智能等成果。

表3 不同方法反演結(jié)果精度對比Table 3 Accuracy of the results of different inversion methods

4.2 剖面對比

為進一步驗證反演效果，分別利用Occam、LSTM、AC-BiLSTM 方法對已知采空區(qū)附近部分實測數(shù)據(jù)進行反演(數(shù)據(jù)經(jīng)相同預處理)，結(jié)果如圖12 所示。圖中黑色虛線為煤層位置，灰色陰影部分