基于改進1DCNN 的煤巖識別模型研究

尹玉璽，周常飛，許志鵬，史春祥，胡文淵

（1.煤炭科學研究總院，北京 100013；2.天地上海采掘裝備科技有限公司，上海 201400）

0 引言

在煤炭開采過程中，常因煤巖突變導致開采難度增大、采掘機械故障率增高及開采質(zhì)量下降等問題[1]。傳統(tǒng)人工采煤方式很難準確識別煤巖界面，極易造成煤層欠割和過割現(xiàn)象。隨著煤礦智能化建設(shè)的加速推進，煤巖高效識別已成為煤炭智能化開采亟待解決的技術(shù)難題。

目前國內(nèi)外學者對煤巖識別方法進行了廣泛研究。王增才等[2]根據(jù)頂板巖層中自然γ 射線穿過剩留煤層后的輻射衰減特性進行煤層厚度檢測。王昕等[3]采用探地雷達法進行煤巖界面探測。張強等[4]采用紅外熱像技術(shù)，在單光源下對全煤、全巖和煤巖混合3 種煤巖試件開展煤巖界面識別研究。以上煤巖識別方法易受煤礦地質(zhì)條件和采煤工藝限制，難以實際應(yīng)用。近年來，光譜技術(shù)被逐漸用于煤巖識別研究。苗曙光等[5]通過太赫茲光譜儀獲取煤巖樣品太赫茲光譜，分析得到不同種類煤巖折射率和吸收系數(shù)的差異性，并以此進行煤巖識別。楊恩等[6]通過搭建煤壁煤巖界面臺架，研究了基于近紅外反射光譜技術(shù)的煤巖界面分布感知技術(shù)。目前，實驗室條件下已證明利用光譜技術(shù)可識別煤巖分界的波譜變化，但實際應(yīng)用時還需進一步研發(fā)高可靠性儀器，并進行井下試驗驗證?；趫D像的識別技術(shù)是解決煤巖識別問題的另一個重要研究方向，如孫傳猛等[7]通過煤巖圖像特征描述子結(jié)合改進YOLOv3 算法，有效提升了煤巖界面識別的精度和效率，但由于煤礦地質(zhì)條件和井下工作環(huán)境復雜，高質(zhì)量煤巖圖像通常難以實時采集，實際應(yīng)用較困難[8]。

相比于紅外熱像、圖像信號等，煤炭開采過程中的采掘機械振動信號是一種相對穩(wěn)定且可靠的信息來源[9]，因此被應(yīng)用于煤巖識別中。趙麗娟等[10]利用采煤機滾筒及搖臂振動特性開發(fā)了基于模糊控制的煤巖截割狀態(tài)識別系統(tǒng)。張啟志等[11]提出了基于振動信號倒譜距離分析的采煤機煤巖截割狀態(tài)識別方法。以往研究中多采用信號處理方法人工提取采煤機不同煤巖截割狀態(tài)下的振動信號特征，然后再進行煤巖識別，但目前各種信號處理方法都有其自身缺點，且信號處理流程較繁瑣。以卷積神經(jīng)網(wǎng)絡(luò)為代表的深度學習模型具有強大的特征提取和抗噪能力，可自行對信號有用特征進行提取[12]。鑒此，本文提出一種基于改進一維卷積神經(jīng)網(wǎng)絡(luò)（1-Dimensional Convolutional Neural Network，1DCNN）的煤巖識別模型，采用改進1DCNN 模型直接對采煤機截割振動信號進行處理與識別，實現(xiàn)端到端的煤巖截割狀態(tài)高效精準識別。

1 煤巖識別模型構(gòu)建

1.1 卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)常由卷積層、池化層及全連接層等組成。卷積層用于提取特征，某些卷積層只能提取低級特征，較多層的網(wǎng)絡(luò)能從低級特征中迭代提取更復雜的特征；池化層主要對卷積層學習到的特征進行亞采樣處理；全連接層則對提取到的特征進行分類或回歸處理。由于卷積神經(jīng)網(wǎng)絡(luò)具有權(quán)值共享、平移不變和尺度不變的特性，相比于其他深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，其所需考量的參數(shù)更少，模型訓練速度更快，因而具有一定優(yōu)勢。

1.2 改進1DCNN 模型

煤巖截割數(shù)據(jù)為一維振動數(shù)據(jù)，本文設(shè)計一種改進1DCNN 模型，對采煤機的煤巖截割狀態(tài)進行識別。相比于傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)模型，改進1DCNN 模型使用了多個連續(xù)卷積層，以提取信號特征；采用全局均值池化（Global Average Pool，GAP）層代替全連接層，以大幅降低模型參數(shù)訓練量；同時引入帶有熱啟動的余弦退火衰減方法優(yōu)化學習率，以避免模型訓練陷入局部極小值區(qū)域，提升訓練質(zhì)量。

改進1DCNN 模型包括輸入層、隱含層、輸出層3 個部分，如圖1 所示。隱含層包括首尾2 個卷積層和2 個池化層、中間3 個連續(xù)卷積層及最后與輸出層相連的GAP 層。卷積1（1×3s1-64ReLu）為第1 個卷積層，其中包含卷積核大小為1×3、步長為1、通道數(shù)為64 的一維卷積層和Relu 激活函數(shù)層；最大池化1（1×2s2）表示池化區(qū)域大小為2、步長為2 的最大池化層；輸出（2-softmax）為用于二分類的分類層，使用softmax 激活函數(shù)。隨著不同煤巖截割狀態(tài)一維振動信號的輸入，網(wǎng)絡(luò)自動提取振動信號的深層次特征，最終由輸出層完成煤巖截割狀態(tài)的識別。

圖1 改進1DCNN 模型結(jié)構(gòu)Fig.1 Structure of improved 1-dimensional convolutional neural network model

1.2.1 GAP 層

一般情況下，卷積神經(jīng)網(wǎng)絡(luò)最后通過全連接層與softmax 分類器相連實現(xiàn)分類任務(wù)，但這樣的方式會導致神經(jīng)元數(shù)量和計算量在全連接層暴增，同時極易產(chǎn)生過擬合現(xiàn)象。GAP 層可以避免全連接層的處理，直接通過GAP+softmax 進行分類，更適用于卷積層最后的處理，同時不會產(chǎn)生額外的參數(shù)[13]，其輸出為

采用全連接層處理方式時需要1 385 955 個訓練參數(shù)，而本文所提改進1DCNN 模型只需371 458 個訓練參數(shù)，參數(shù)量大幅減少，從而提高了模型訓練速度，此外還可部分保留輸入數(shù)據(jù)的空間結(jié)構(gòu)信息，提高模型泛化能力。

1.2.2 學習率優(yōu)化算法

學習率是神經(jīng)網(wǎng)絡(luò)最重要的超參數(shù)之一，其控制網(wǎng)絡(luò)優(yōu)化過程中的步長參數(shù)更新，學習率過小會導致模型收斂緩慢，學習率過大會阻礙模型收斂，甚至導致模型發(fā)散。常用的學習率衰減方法包括以固定步長衰減和多步長衰減為代表的分段學習率衰減方法，以及以指數(shù)衰減和余弦退火衰減為代表的平滑學習率衰減方法。分段學習率衰減方法需根據(jù)實驗預先定義學習率衰減計劃表，具有一定的不確定性。相比于指數(shù)衰減方法，余弦退火衰減方法允許更大的初始學習率，收斂更快，并可提高模型泛化能力[14]。

為使模型在訓練初期感知全局參數(shù)分布，然后逐漸完善參數(shù)空間建模，本文采用線性熱啟動與余弦退火相結(jié)合的學習率衰減策略，線性熱啟動策略可在模型訓練前期維持較小學習率，引導模型感知全局參數(shù)分布，解決余弦退火策略在模型訓練初期因參數(shù)更新劇烈變化而引起的模型訓練不穩(wěn)定及權(quán)重參數(shù)劇烈波動問題。

整體優(yōu)化過程中，前期使用極小學習率進行學習率預熱，然后以預定的迭代次數(shù)將學習率提升至預定的最大值（即余弦退火階段基礎(chǔ)學習率），再采用余弦退火策略進行學習率更新。余弦退火衰減公式為

式中：ηt為余弦退火階段第t輪迭代后的學習率與余弦退火階段基礎(chǔ)學習率的比值；T為余弦退火階段總迭代輪次。

2 實驗數(shù)據(jù)采集與預處理

2.1 數(shù)據(jù)采集

本文數(shù)據(jù)采集于陜西某煤礦采煤工作面，該工作面長330 m，使用MG650/1590-WD 型電牽引采煤機。煤層平均厚度為2.58 m，局部夾矸，煤層堅固性系數(shù)f1≤3；頂部為粉砂巖，巖層堅固性系數(shù)為f2（5≤f2≤7）；底部為泥巖，巖層堅固性系數(shù)為f3（3≤f3≤6）。采煤現(xiàn)場有大量掉落的片狀巖石，割巖現(xiàn)象嚴重。

實驗采用磁吸式無線振動傳感器，采樣頻率為10 kHz，布置于采煤機右搖臂5 軸處，井下數(shù)據(jù)采集現(xiàn)場如圖2 所示。實驗模擬了采煤機滾筒割煤和割巖2 種工作條件，采集每種條件下的振動信號。

圖2 井下數(shù)據(jù)采集現(xiàn)場Fig.2 Underground data acquisition site

2.2 數(shù)據(jù)預處理

割煤狀態(tài)下共采集到353 404 個數(shù)據(jù)點，割巖狀態(tài)下共采集到1 048 576 個數(shù)據(jù)點。由于原始樣本分類不均衡，為保障樣本均衡性，同時充分利用數(shù)據(jù)，采用自適應(yīng)下采樣方法分別選取每種狀態(tài)下的353 400 個數(shù)據(jù)點，組成新的數(shù)據(jù)集[15]，并以32∶3.34的比例劃分訓練集和測試集。為了增強數(shù)據(jù)，使用滑窗法構(gòu)造樣本[16]，單個樣本取為400 個數(shù)據(jù)點，滑窗步長設(shè)置為50?；胺?gòu)造的煤巖信號樣本如圖3 所示。

圖3 滑窗法構(gòu)造的煤巖信號樣本Fig.3 Coal and rock signal samples constructed by sliding window method

使用滑窗法共獲得12 784 個訓練樣本和1 320 個測試樣本。不同截割狀態(tài)的訓練樣本和測試樣本數(shù)量分別為6 392，660。預處理后樣本數(shù)據(jù)集信息見表1。

表1 樣本數(shù)據(jù)集信息Table 1 Sample dataset information

3 模型訓練與驗證

3.1 實驗平臺與參數(shù)

采用Python 編程語言在Tensorflow 深度學習框架下搭建改進1DCNN 模型。引入Adam 優(yōu)化算法，并用余弦退火策略自適應(yīng)調(diào)節(jié)學習率，設(shè)置預熱階段學習率為0.000 004，退火階段基礎(chǔ)學習率為0.01，Dropout 隨機失活率為0.5，批處理大小為256，對改進1DCNN 模型進行25 輪訓練。實驗平臺計算機配置：CPU 為英特爾core i5-8300H，GPU 為NVIDIA GeForce GTX1050Ti（4 GB），內(nèi)存為48 GB。改進1DCNN 模型結(jié)構(gòu)見表2，其中（400，1）表示輸出信號為400×1 矩陣。改進1DCNN 模型總參數(shù)量為371 458個，其中參加訓練參數(shù)量為370 818 個，未參加訓練參數(shù)量為640 個。

表2 改進1DCNN 模型結(jié)構(gòu)Table 2 Structure of improved 1-dimensional convolutional neural network model

3.2 模型訓練過程可視化分析

為直觀描述改進1DCNN 模型對煤巖截割振動數(shù)據(jù)的特征提取過程和分類能力，采用t-分布隨機近鄰嵌入（t-Distributed Stochastic Neighbor Embedding，t-SNE）流形學習算法對模型的特征學習過程進行可視化分析。t-SNE 是一種嵌入算法，將數(shù)據(jù)點間的相似度轉(zhuǎn)換為條件概率，原始空間中數(shù)據(jù)點的相似度由高斯聯(lián)合分布表示，嵌入空間中數(shù)據(jù)點的相似度由t 分布表示，通過原始空間與嵌入空間聯(lián)合概率分布的KL 散度來評判嵌入效果的好壞，常用于高維數(shù)據(jù)的降維和可視化[17]。將訓練樣本原始數(shù)據(jù)特征及經(jīng)過改進1DCNN 模型中Conv1 層、Conv4 層、Conv6 層、Conv9 層和輸出層訓練好的輸出數(shù)據(jù)特征投影至二維空間，進行可視化分析。訓練集在各網(wǎng)絡(luò)層的特征學習效果如圖4 所示，圖中綠色的“0”和藍色的“1”分別表示割煤和割巖2 種截割狀態(tài)。

圖4 訓練集在各網(wǎng)絡(luò)層的特征學習效果Fig.4 Feature learning effect of training set at each network layer

由圖4（a）可看出，原始數(shù)據(jù)經(jīng)t-SNE 降至2 維后分布散亂無章，同一類型特征并不聚類。后續(xù)各層輸出數(shù)據(jù)特征可視化效果明顯呈現(xiàn)同類特征向同一區(qū)域聚集的趨勢，且輸出層輸出的數(shù)據(jù)已實現(xiàn)聚類。這表明改進1DCNN 模型通過逐層特征學習，很好地實現(xiàn)了對煤巖截割狀態(tài)的識別。

3.3 模型訓練與測試結(jié)果分析

改進1DCNN 模型在訓練集與測試集上的準確率曲線如圖5 所示。在測試集上的混淆矩陣如圖6所示，其中標簽“0”代表割煤狀態(tài)，標簽“1”代表割巖狀態(tài)。

圖5 改進1DCNN 模型在訓練集與測試集上的準確率曲線Fig.5 Accuracy curves of improved 1-dimensional convolutional neural network model on training set and test set

圖6 改進1DCNN 模型在測試集上的混淆矩陣Fig.6 The confusion matrix of improved 1-dimensional convolutional neural network model on test set

由圖5 和圖6 可看出，改進1DCNN 模型在訓練集和測試集上均取得很好的結(jié)果，在訓練集上的準確率為99.91%，在測試集上的準確率為99.32%。這表明改進1DCNN 模型可直接用于采煤機截割原始振動信號分類，并能夠有效地識別出煤巖截割狀態(tài)。但同時模型也出現(xiàn)了少量樣本預測錯誤的情況：一方面可能是因為煤巖截割是一個漸變的過程，且樣本長度較短，導致較難識別的情況，可以通過增加網(wǎng)絡(luò)深度并提取數(shù)據(jù)深層次特征加以解決，但經(jīng)過多次模型訓練實驗，始終存在少量錯誤情況；另一方面也可能是由于原始信號受到井下環(huán)境干擾及隨機性落煤落巖激勵，信號噪聲較大，以至難以識別。

3.4 模型對比實驗

為驗證改進1DCNN 模型的優(yōu)勢，在相同訓練集和測試集上，與K-近鄰（K-Nearest Neighbor，KNN）、隨機森林（Random Forest，RF）、支持向量機（Support Vector Machines，SVM）、集成學習XGBoost 及未改進的一維卷積神經(jīng)網(wǎng)絡(luò)（Raw 1-Dimensional Convolutional Neural Network，R1DCNN）5 種模型進行性能對比驗證。KNN 中近鄰數(shù)設(shè)置為9；RF 中森林數(shù)目初始參數(shù)設(shè)置為 [120，200，300，500，800，1 200]，樹最大深度初始參數(shù)設(shè)置為[5，8，15，25，30]，使用GridSearchCV 網(wǎng)格搜索進行超參調(diào)優(yōu)。由于煤巖截割振動數(shù)據(jù)線性不可分，SVM 算法的kernel 參數(shù)采用徑向基核函數(shù)，并采用交叉驗證進行超參調(diào)優(yōu)。此外，隨機在測試集中選取400 個樣本作為新的測試樣本，每種模型均重復5 次實驗，以消除隨機誤差影響，實驗結(jié)果見表3。

表3 模型對比實驗結(jié)果Table 3 Model comparison experiment results %

由表3 可看出，KNN，SVM，XGBoost，R1DCNN及改進1DCNN 模型的煤巖截割狀態(tài)識別準確率均達90%以上，而RF 模型表現(xiàn)不佳。相對于傳統(tǒng)機器學習和集成學習模型，深度學習模型的識別精度和穩(wěn)定性均具有明顯優(yōu)勢；與R1DCNN 模型相比，改進1DCNN 模型在處理一維輸入數(shù)據(jù)時特征提取能力更強，平均準確率提高了0.59%，此外也大大節(jié)約了計算成本，提高了模型識別速度。實驗結(jié)果表明，改進1DCNN 模型可有效提高煤巖識別精度和速度。

4 結(jié)論

（1）改進1DCNN 模型無需預先對輸入信號進行頻譜分析，可直接從一維煤巖截割振動信號中提取深層次特征，實現(xiàn)對采煤機煤巖截割狀態(tài)的穩(wěn)定識別。

（2）改進1DCNN 模型使用多個連續(xù)卷積層提取一維振動信號特征，通過GAP 層代替全連接層，大幅減少了參數(shù)數(shù)量，從而提高了模型訓練速度；采用線性熱啟動與余弦退火相結(jié)合的學習率衰減策略，解決了余弦退火策略在模型訓練初期因參數(shù)更新劇烈變化而引起的模型訓練不穩(wěn)定及權(quán)重參數(shù)劇烈波動問題。

（3）采用t-SNE 流形學習算法對模型的特征學習過程進行可視化分析，結(jié)果表明，改進1DCNN 模型通過逐層特征學習，很好地實現(xiàn)了對煤巖截割狀態(tài)的識別。改進1DCNN 模型在訓練集上的準確率為99.91%，在測試集上的準確率為99.32%，可直接用于采煤機截割原始振動信號分類，并能夠有效識別煤巖截割狀態(tài)。與傳統(tǒng)機器學習、集成學習及未改進的1DCNN 模型相比，改進1DCNN 模型具有明顯優(yōu)勢，可在減少計算成本的同時提高識別率，平均識別準確率達99.56%。