嵌入改進(jìn)注意力機(jī)制的鏡質(zhì)組顯微亞組分輕量級網(wǎng)絡(luò)識別模型

王培珍 ，楊志豪，汪正才，薛子邯，劉 林，張代林

(1.安徽工業(yè)大學(xué) 電氣與信息工程學(xué)院,安徽 馬鞍山 243032；2.安徽工業(yè)大學(xué) 工程實踐與創(chuàng)新教育中心,安徽 馬鞍山 243032；3.安徽工業(yè)大學(xué)煤的潔凈轉(zhuǎn)化與高值化利用安徽省重點實驗室,安徽 馬鞍山 243032；4.安徽工業(yè)大學(xué) 冶金減排與資源綜合利用教育部重點實驗室,安徽 馬鞍山 243032)

煤巖顯微組分的構(gòu)成與其反應(yīng)性、黏結(jié)性、結(jié)焦性等工藝性質(zhì)密切相關(guān)。鏡質(zhì)組為煤中主要的顯微組分之一，實現(xiàn)鏡質(zhì)組中各顯微組分及亞組分的自動分類與識別，對配煤優(yōu)化和焦炭質(zhì)量的預(yù)測具有重要意義。目前，煤巖顯微組分的定量分析普遍采用的還是數(shù)點法，對測定者專業(yè)水平要求高，勞動強度大，分析成本高。為此，研究者們嘗試采用圖像處理技術(shù)對煤巖顯微組分進(jìn)行識別。LESTER 等[1]根據(jù)亮度與形態(tài)學(xué)特征，對殼質(zhì)組和樹脂體取得了較好識別效果，但對于其他組分分析效果不甚理想。王素婷等[2]將局部二進(jìn)制模式與灰度共生矩陣相結(jié)合提取煤巖顯微組分的紋理特征，再構(gòu)建支持向量機(jī)對煤巖與礦物質(zhì)進(jìn)行分類，其正確率最高可達(dá)92.77%，但對于三大組別內(nèi)的顯微組分未作進(jìn)一步分析。WANG 等[3]采用k-means 聚類算法對煤巖顯微圖像進(jìn)行分割，再使用隨機(jī)森林完成煤巖顯微組分的分類，其正確率最高可達(dá)90.44%，但該方法僅在煤化度Ro＜1.0%時有效且只適用于部分顯微組分。宋孝忠等[4]研制了一種能夠?qū)崿F(xiàn)顯微鏡自動聚焦、自動掃描和圖像自動采集功能的煤巖顯微圖像自動采集硬件平臺，并采用kmeans 聚類算法對顯微圖像進(jìn)行分割，依據(jù)像素點的灰度測算其反射率，從而判斷其顯微組分類別。由于腔體填充物、熒光及照明等因素對灰度有較大的影響，且隨著煤化程度的加深，不同顯微組分間灰度差異減小，因而僅僅依靠灰度信息推算顯微組分類別的方法仍有較大的提升空間。筆者所在課題組亦曾采用圖像分析與模式識別的方法對顯微組分進(jìn)行分類[5-8]，采用傳統(tǒng)的模式識別方法提取煤巖顯微圖像的紋理、灰度(亮度)分布特征，再采用PCA、壓縮感知等方法對特征空間進(jìn)行降維，最后構(gòu)建極限學(xué)習(xí)機(jī)或支持向量機(jī)對惰質(zhì)組、殼質(zhì)組及鏡質(zhì)組顯微組分自動分類，取得了一定的效果，但這些方法中初始特征集的構(gòu)建需要豐富的人工經(jīng)驗，對于構(gòu)建的初始特征集需進(jìn)行進(jìn)一步的特征提取以去除冗余信息和降維(即特征工程)，另需大量的實驗嘗試以確定算法中涉及的參數(shù)。

卷積神經(jīng)網(wǎng)絡(luò)由于可以自動提取圖像的不同層次的特征，因而在圖像分類與識別的過程中可以避免繁瑣的特征工程，實現(xiàn)端到端的自動識別，被越來越多地應(yīng)用于模式分類與識別領(lǐng)域。但經(jīng)典的卷積神經(jīng)網(wǎng)絡(luò)規(guī)模較大、訓(xùn)練時間長、難以應(yīng)用于某些實際場景，為此相繼出現(xiàn)了一系列輕量級網(wǎng)絡(luò)模型，如：SqueezeNet[9]、MobileNet V2[10]、ShuffleNet V2[11]等。這些輕量級模型在尺寸大小和速度方面有較大的提升，但其提升的普遍代價是準(zhǔn)確率的損失。注意力機(jī)制可以使深度卷積神經(jīng)網(wǎng)絡(luò)從輸入信息中選擇出對當(dāng)前任務(wù)目標(biāo)更關(guān)鍵的信息，同時抑制其他無關(guān)信息，從而可以提高分類的效率與準(zhǔn)確性。如：HU 等[12]提出SE (Sequeze-and-Excitation) 模塊并將其嵌入Res-Net，分類準(zhǔn)確率得到有效提升；WOO 等[13]采用空間和通道注意力機(jī)制相結(jié)合的方式，相比于僅關(guān)注通道的注意力的文獻(xiàn)[12]取得了更好的效果；針對注意力機(jī)制引入的高復(fù)雜度問題，WANG 等[14]提出了一種輕量級的架構(gòu)單元ECA，用較低的計算成本來提高網(wǎng)絡(luò)性能。

鑒于上述現(xiàn)狀及煤巖鏡質(zhì)組中亞組分識別這一特定問題，筆者提出一種基于改進(jìn)注意力機(jī)制的輕量級煤巖鏡質(zhì)組識別網(wǎng)絡(luò)模型，以實現(xiàn)煤巖鏡質(zhì)組顯微亞組分的高精度自動識別。

1 數(shù)據(jù)集

1.1 樣本特征分析

基于現(xiàn)行國家標(biāo)準(zhǔn)GB/T 15588—2013《煙煤顯微組分分類》[15]，依據(jù)細(xì)胞結(jié)構(gòu)保存的完好程度及其區(qū)域大小、形態(tài)等特征，鏡質(zhì)組分為結(jié)構(gòu)鏡質(zhì)體、無結(jié)構(gòu)鏡質(zhì)體、碎屑鏡質(zhì)體3 個顯微組分。其中，結(jié)構(gòu)鏡質(zhì)體細(xì)分為結(jié)構(gòu)鏡質(zhì)體-1 和結(jié)構(gòu)鏡質(zhì)體-2，無結(jié)構(gòu)鏡質(zhì)體細(xì)分為均質(zhì)鏡質(zhì)體、基質(zhì)鏡質(zhì)體、團(tuán)塊鏡質(zhì)體和膠質(zhì)鏡質(zhì)體。其在油浸反光下典型顯微圖像如圖1 所示[16]。

圖1 鏡質(zhì)組顯微亞組分典型圖像[16]Fig.1 Typical microscopic images of vitrinite submacerals[16]

結(jié)構(gòu)鏡質(zhì)體-1 細(xì)胞結(jié)構(gòu)保持完整且排列有序；結(jié)構(gòu)鏡質(zhì)體-2 細(xì)胞腔變形甚至消失，但殘跡尚存，呈較規(guī)則的線條狀或團(tuán)塊狀結(jié)構(gòu)；均質(zhì)鏡質(zhì)體較為均一，呈粗細(xì)不等的長條狀；基質(zhì)鏡質(zhì)體形態(tài)各異，常與其他顯微組分或共生礦物膠結(jié)，有時呈斑點狀或團(tuán)塊狀的集合體；團(tuán)塊鏡質(zhì)體主要表現(xiàn)為圓形、橢圓形和紡錘形；膠質(zhì)鏡質(zhì)體通常充填于細(xì)胞腔或其他空腔中；碎屑鏡質(zhì)體為徑粒小于10 μm 的鏡質(zhì)體碎屑，多表現(xiàn)為細(xì)小粒狀或者不規(guī)則形狀。由此可見，各顯微亞組分結(jié)構(gòu)有一定的規(guī)律，蘊含較為豐富的紋理信息；形態(tài)特征存在明顯差異，但部分亞組分形態(tài)特征又具有一定的相似性。針對這些特點，若采用傳統(tǒng)的小樣本方法進(jìn)行識別，特征維數(shù)高且特征量間存在大量的信息冗余，需要采取合適的方法進(jìn)行進(jìn)一步的特征提取，涉及的人為因素多且需要大量的實驗嘗試。為避免特征工程，筆者在后續(xù)工作中采用深度學(xué)習(xí)的方法構(gòu)建分類模型，實現(xiàn)鏡質(zhì)組各亞組分端到端的自動識別。

1.2 樣本數(shù)據(jù)及增強

煤樣來源于山西大同、靈石、呂梁、西山、河?xùn)|、霍西煤田和河南平頂山煤田、東升煤礦、鶴壁八礦及內(nèi)蒙古東升煤田等，含主焦煤、氣煤、肥煤、瘦煤，按國家標(biāo)準(zhǔn)GB/T 10773—2008《煤巖分析樣品制備方法》制樣后，在油浸反射光下采用光學(xué)顯微鏡(400 倍放大)采集顯微圖像。采集獲取的典型原始圖像如圖2 所示，大小為2 448 像素×2 048 像素。選取其中的420 幅顯微圖像作為初始樣本，其中280 幅為訓(xùn)練樣本，140 幅為測試樣本。因樣本數(shù)相對較少，若由其直接訓(xùn)練網(wǎng)絡(luò)模型則易產(chǎn)生過擬合現(xiàn)象，為此采用隨機(jī)裁剪、旋轉(zhuǎn)、鏡像和加噪等處理方式對樣本進(jìn)行增強，增強后的訓(xùn)練集包含1 960 幅圖像，測試集含980幅圖像。圖3 為對典型顯微圖像進(jìn)行增強后的結(jié)果。

圖3 典型圖像增強效果Fig.3 Enhancement samples of typical images

2 網(wǎng)絡(luò)結(jié)構(gòu)及算法

盡管對初始數(shù)據(jù)樣本進(jìn)行了增強，但現(xiàn)有樣本數(shù)據(jù)量仍難以支撐經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練。加之鏡質(zhì)組部分顯微亞組分間特征差異較小、甚至存在交織等，使得辨識難度增大。為此，筆者提出一種嵌入注意力機(jī)制的輕量級鏡質(zhì)組亞組分識別網(wǎng)絡(luò)模型，結(jié)構(gòu)如圖4 所示。首先對輸入的鏡質(zhì)組顯微圖像進(jìn)行數(shù)據(jù)增強；再以ShuffleNet V2 作為基礎(chǔ)網(wǎng)絡(luò)，利用增強的鏡質(zhì)組數(shù)據(jù)集對在大型數(shù)據(jù)集上預(yù)訓(xùn)練后的基礎(chǔ)網(wǎng)絡(luò)模型進(jìn)行遷移學(xué)習(xí)，構(gòu)建主干網(wǎng)絡(luò)以提取特征；最后在主干網(wǎng)絡(luò)的輸出部分嵌入注意力機(jī)制，并根據(jù)鏡質(zhì)組顯微亞組分圖像的特點對注意力機(jī)制進(jìn)行改進(jìn)，進(jìn)一步提取深層次的特征信息，進(jìn)而得到適用于鏡質(zhì)組顯微亞組分識別的網(wǎng)絡(luò)模型。

圖4 嵌入注意力機(jī)制的輕量級鏡質(zhì)組顯微亞組分識別網(wǎng)絡(luò)結(jié)構(gòu)Fig.4 Lightweight vitrinite submaceral recognition network structure embedded with an attention mechanism

2.1 基礎(chǔ)網(wǎng)絡(luò)結(jié)構(gòu)

輕量級網(wǎng)絡(luò)模型中，ShuffleNet V2 具有較高精度和較低的計算復(fù)雜度，其在準(zhǔn)確率、復(fù)雜度和訓(xùn)練速度上綜合優(yōu)勢較為突出，可在有限的計算預(yù)算下獲得較高的識別準(zhǔn)確率，筆者選擇ShuffleNet V2 作為基礎(chǔ)網(wǎng)絡(luò)用于特征提取。特征提取器每個stage 由一個空間下采樣單元和若干基本單元組成。為了避免過多的分組卷積在內(nèi)存訪問時增加的開銷，在卷積層輸入輸出通道采用通道拆分(Channel split)技術(shù)代替分組操作，即在基本單元的開頭，將C個特征通道(即通道維度)的輸入劃分為2 個分支，每個分支分別具有C/2 個通道數(shù)。拆分后的一個分支不作任何處理以滿足并行度，另一個分支由點卷積和深度可分離卷積構(gòu)成，遵循輸入和輸出特征通道數(shù)相等的準(zhǔn)則。卷積完成后，左右2 個部分拼接合并，使輸入、輸出通道數(shù)保持一致，合并后使用通道混洗技術(shù)實現(xiàn)信息交流(圖5(a))?？臻g下采樣單元如圖5(b)所示，由于沒有通道拆分(Channel split)，Concat 之后輸出通道數(shù)為輸入的2 倍。

圖5 特征提取器單元Fig.5 Units of feature extracting module

2.2 遷移學(xué)習(xí)

采用常規(guī)方法構(gòu)建深度學(xué)習(xí)分類模型時，通常需要大量用于訓(xùn)練的已標(biāo)注數(shù)據(jù)和較為復(fù)雜的調(diào)參、較長的訓(xùn)練時間。受煤巖鏡質(zhì)組顯微圖像樣本數(shù)限制，直接訓(xùn)練所得識別模型泛化能力差。因此，筆者在大型數(shù)據(jù)集ImageNet 上完成Shuffle V2 模型的預(yù)訓(xùn)練。在此基礎(chǔ)上，再在本文增強的鏡質(zhì)組顯微圖像訓(xùn)練樣本集上將預(yù)訓(xùn)練模型中靠近輸入的若干層凍結(jié)，對靠近輸出的網(wǎng)絡(luò)層權(quán)值進(jìn)行微調(diào)，實現(xiàn)遷移學(xué)習(xí)，構(gòu)建主干網(wǎng)絡(luò)。

2.3 注意力機(jī)制

由于鏡質(zhì)組中部分顯微亞組分間特征差異較小甚至存在一定的交錯，引入注意力機(jī)制以關(guān)注目標(biāo)中更為關(guān)鍵的信息。空間注意力機(jī)制一般用于關(guān)注淺層有效特征，如空間細(xì)節(jié)信息；通道注意力機(jī)制用于關(guān)注有效的深層特征[12,17]，如全局上下文感知信息等。由于文中遷移學(xué)習(xí)微調(diào)的是靠近輸出端的權(quán)重，用于提取深層特征，所以采用通道注意力機(jī)制以關(guān)注更高層次的深層特征。

ECA 是一種輕量級架構(gòu)的通道注意力機(jī)制模塊[14]，可以較低的計算成本來提高準(zhǔn)確率。但該模塊使用平均池化的方式對每個通道特征進(jìn)行壓縮，因而圖像中細(xì)節(jié)特征的提取受到影響。而紋理是區(qū)分鏡質(zhì)組不同顯微亞組分的重要特征。因此，在原ECA基礎(chǔ)上，結(jié)合煤巖顯微圖像的特點，采用全局平均池化和全局最大池化2 種輸出特征對應(yīng)位相加的方法，對ECA 進(jìn)行改進(jìn)，以充分提取顯微圖像中不同亞組分的紋理特征和其他高層次特征，并使2 者有效聚合。改進(jìn)后的結(jié)構(gòu)如圖6 所示。

圖6 改進(jìn)的通道注意力機(jī)制模塊Fig.6 Modified channel attention mechanism module

適當(dāng)?shù)目缤ǖ佬畔⒔换τ趯崿F(xiàn)深度CNN 通道注意是有效的[14]。本文設(shè)計的通道注意力機(jī)制模塊中，首先將輸入的特征圖采用全局平均池化和全局最大池化相加來聚合特征；然后通過大小為k的快速一維卷積實現(xiàn)跨通道信息交互，同時降低模型復(fù)雜度(式(1))。

其中，GMP 和GAP 分別為全局最大池化和全局平均池化；add 為將全局最大池化和全局平均池化輸出特征對應(yīng)位相加；CID 為一維卷積；k為一維卷積內(nèi)核的大??；σ為Sigmoid 激活函數(shù)；w為每個通道生成的特征圖的權(quán)重，維度為1×1×C。最后將每個特征通道生成的權(quán)重作用于原始輸入特征圖(式(2))。

式中：xc為第c個通道的特征圖，二維矩陣；wc為第c個通道的權(quán)重;F為基于元素的乘積操作。

為實現(xiàn)適當(dāng)?shù)目缤ǖ佬畔⒔换?，需要確定交互的覆蓋范圍(即一維卷積的內(nèi)核大小k)。不同通道數(shù)和不同CNN 架構(gòu)其卷積塊k會有所不同，通過交叉驗證手動調(diào)參將消耗大量計算資源。筆者采用一種自適應(yīng)的方法選擇一維卷積核大小，以確定局部跨通道交互的覆蓋范圍。一維卷積的內(nèi)核大小k和C之間映射關(guān)系φ表示為

最簡單的映射是線性映射，即φ(k)=γk-b，γ和b為參數(shù)。但線性映射過于局限，又因通道維數(shù)C(即濾波器的數(shù)量)通常為2 的指數(shù)倍，因此，文中將線性函數(shù)φ(k)=γk-b擴(kuò)展成一個非線性函數(shù)

在給定通道維度C的情況下，一維卷積的內(nèi)核大小k自適應(yīng)地確定

式中，|x|odd為最臨近x的奇數(shù)；γ和b設(shè)為2 和1。

圖7 給出網(wǎng)絡(luò)識別過程中樣本圖像從輸入到特征提取部分階段的特征(隨著網(wǎng)絡(luò)的加深，通道數(shù)急劇增加，特征圖數(shù)量也隨之增加)。由圖7 可以看出，不同階段、不同通道其提取特征的側(cè)重面有所不同。

圖7 不同階段特征Fig.7 Feature graphics of different feature extraction stages

3 實驗與結(jié)果分析

3.1 環(huán)境配置及參數(shù)設(shè)置

實驗所用硬件系統(tǒng)配置為：Intel(R) Core(TM) i9-10 850 K 中央處理器，Nvidia GeForce RTX 3080 顯卡，32 Gb 內(nèi)存。在python 編程環(huán)境下，使用pytorch 深度學(xué)習(xí)框架完成網(wǎng)絡(luò)架構(gòu)的實現(xiàn)與學(xué)習(xí)訓(xùn)練，并對鏡質(zhì)組7 類顯微亞組分進(jìn)行識別。樣本圖像尺寸統(tǒng)一規(guī)范為224×224，批大小batch_size 設(shè)為24。

遷移學(xué)習(xí)中凍結(jié)與訓(xùn)練網(wǎng)絡(luò)中靠近輸入的若干層，僅微調(diào)靠近輸出的網(wǎng)絡(luò)層權(quán)重，權(quán)重參數(shù)的更新采用Adam 優(yōu)化算法，學(xué)習(xí)率設(shè)為0.000 1，共訓(xùn)練100 個epoch。

3.2 評價指標(biāo)

選用混淆矩陣、平均準(zhǔn)確率和計算復(fù)雜度作為評價指標(biāo)對實驗結(jié)果及識別模型性能進(jìn)行評估。計算復(fù)雜度包括模型參數(shù)量(Parameters)和浮點運算次數(shù)(FLOPs)，其中模型參數(shù)量決定模型文件的大小。平均準(zhǔn)確率為每個類別下識別準(zhǔn)確率的平均值，反映模型在鏡質(zhì)組顯微亞組分識別任務(wù)中的準(zhǔn)確性?；煜仃嚳坍嬆Ｐ蛯︾R質(zhì)組各顯微亞組分識別的詳細(xì)結(jié)果。

3.3 實驗結(jié)果分析

基礎(chǔ)網(wǎng)絡(luò)ShuffleNet V2 的預(yù)訓(xùn)練在大型數(shù)據(jù)集ImageNet 上進(jìn)行，然后在本文構(gòu)建的鏡質(zhì)組顯微亞組分?jǐn)?shù)據(jù)集上進(jìn)行遷移學(xué)習(xí)及實驗驗證。圖8 為本文算法學(xué)習(xí)過程的準(zhǔn)確率與損失函數(shù)曲線，其判別基準(zhǔn)由煤巖專家人工標(biāo)注。由圖8 可以看出，當(dāng)?shù)螖?shù)在0～20 時，準(zhǔn)確率上升與損失函數(shù)下降均較快；當(dāng)?shù)螖?shù)超過50 以后，準(zhǔn)確率和損失函數(shù)曲線趨于穩(wěn)定，在測試集上所得曲線的波動性小，識別的平均準(zhǔn)確率接近98%。表明本文算法有較快的收斂速度、較好的泛化能力以及較高的識別精度。

圖8 本文算法準(zhǔn)確率和損失函數(shù)Fig.8 Accuracy and loss function of the proposed algorithm

為了驗證本文方法對鏡質(zhì)組顯微亞組分識別的有效性和可重復(fù)性，采用本文構(gòu)建的模型在測試集上分別對7 個顯微亞組分進(jìn)行識別實驗，實驗共進(jìn)行10 組，每組實驗從測試集中隨機(jī)選取140 個測試樣本(每個亞組分各20 個)，10 組實驗所得平均準(zhǔn)確率分別為：96.94%、97.03%、95.98%、98.72%、98.85%、96.74%、98.96%、98.76%、97.85%、98.67%，分布于95.98%～98.96%，滿足GB/T 8899—2013《煤的顯微組分組和礦物測定方法》關(guān)于重復(fù)性的要求。10 組實驗總平均準(zhǔn)確率為97.85%，平均極差為2.15%，表現(xiàn)出較高的可重復(fù)性、再現(xiàn)性和識別精度。

圖9 為其中1 組實驗所得的混淆矩陣，列表示識別模型預(yù)測的亞組分類別，行表示其由專家辨識的真實組分。

圖9 本文模型所得的混淆矩陣Fig.9 Confusion matrix of the proposed algorithm

混淆矩陣中，結(jié)構(gòu)鏡質(zhì)體-1 有1 個測試樣本被錯誤地劃分為碎屑鏡質(zhì)體(圖10(a))，團(tuán)塊鏡質(zhì)體、碎屑鏡質(zhì)體各有1 個樣本被錯誤分類至膠質(zhì)鏡質(zhì)體中(圖10(b)、(c))；其余類別均被正確分類。各顯微組分(亞顯微組分)分類的準(zhǔn)確率均高于95%，表明本文所提出的模型對于鏡質(zhì)組各顯微亞組分識別均具有較好的適應(yīng)性。

圖10 被錯誤識別的樣本Fig.10 Misrecognized samples

3.4 實驗對比與分析

3.4.1不同網(wǎng)絡(luò)模型結(jié)果對比

分別采用3 種經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)(AlexNet[18]、VGG16[19]和ResNet50[20])以及3 種最具代表性的輕量級神經(jīng)網(wǎng)絡(luò)(SqueezeNet1_0[9]、MobileNet V2[10]、ShuffleNet V2[11]模型)和相同的鏡質(zhì)組顯微亞組分測試樣本以同樣的方案進(jìn)行驗證實驗，結(jié)果見表1，不同模型測試結(jié)果混淆矩陣如圖11 所示。

表1 不同網(wǎng)絡(luò)模型性能對比Table 1 Performance comparison of different network models

圖11 不同網(wǎng)絡(luò)模型測試結(jié)果混淆矩陣Fig.11 Confusion matrixes of some different network models

由表1 和圖11 可以看出：與經(jīng)典網(wǎng)絡(luò)AlexNet、VGG16 和ResNet50 模型相比，采用本文算法其平均準(zhǔn)確率分別提高了3.56%、2.14%和2.85%，模型規(guī)模與計算量減少約2 個數(shù)量級；與輕量級網(wǎng)絡(luò)Squeeze-Net1_0 和MobileNet V2 模型相比，平均準(zhǔn)確率分別提高了5.71%和4.99%，計算量減少約1 個數(shù)量級；與ShuffleNet V2 原模型相比，其計算量雖增加0.15%，而平均準(zhǔn)確率提升了5.71%。相較于經(jīng)典網(wǎng)絡(luò)和輕量級網(wǎng)絡(luò)，本文構(gòu)建的模型有著較低的參數(shù)和計算量、較高的準(zhǔn)確率。

3.4.2不同注意力機(jī)制對網(wǎng)絡(luò)模型整體性能的影響

為了驗證本文改進(jìn)的注意力機(jī)制的有效性，在模型中將注意力機(jī)制模塊依次替換為4 種目前性能較好的SE[12]、SCSE[21]、CBAM[13]和ECA[14]注意力機(jī)制模塊，采用同樣的方法對模型進(jìn)行遷移學(xué)習(xí)與訓(xùn)練，并在本文測試集上進(jìn)行驗證，結(jié)果見表2。

表2 不同注意力機(jī)制對網(wǎng)絡(luò)性能的影響Table 2 Effects of different attention mechanisms on network performance

由表2 可以看出，與SE、SCSE 和CBAM 相比，嵌入本文提出的通道注意力機(jī)制其模型參數(shù)量和計算量略有減少，且平均準(zhǔn)確率有所提高。由于改進(jìn)的通道注意力機(jī)制兼顧了圖像的細(xì)節(jié)特征，可使模型在解決類似本文蘊含豐富紋理信息的問題時其整體性能得以提升。

4 結(jié)論

(1)本文構(gòu)建的網(wǎng)絡(luò)模型，由于在遷移學(xué)習(xí)與注意力機(jī)制等環(huán)節(jié)都充分考慮了鏡質(zhì)組顯微圖像的特點，對于煤巖鏡質(zhì)組顯微亞組分識別準(zhǔn)確率較高，可達(dá)97.85%，并具有較高的可重復(fù)性。

(2)與其他直接訓(xùn)練的卷積神經(jīng)網(wǎng)絡(luò)相比，本文算法網(wǎng)絡(luò)規(guī)模與計算量大規(guī)模下降，收斂速度較快，分類的平均準(zhǔn)確率較之ShuffleNet V2 原模型可提升5.71%。

(3)改進(jìn)的通道注意力機(jī)制由于兼顧了圖像的紋理特征，對模型的整體性能有明顯的改善，適合于紋理細(xì)節(jié)比較突出的圖像分類問題。