改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)在樹種識別中的應(yīng)用

李濱, 敬啟超

(東北林業(yè)大學(xué) 機(jī)電工程學(xué)院，哈爾濱 150040)

0 引言

樹種識別與分類是森林資源調(diào)查與保護(hù)中的一項(xiàng)重要工作[1]，但由于樹木種類繁多,人工識別工作量大且效率低，樹種識別技術(shù)也就應(yīng)運(yùn)而生。因此研究樹種識別分類，提高識別的準(zhǔn)確率具有非常重要的意義。

目前關(guān)于樹木種類識別的研究主要分為2種方法：①人工提取圖像特征，再運(yùn)用傳統(tǒng)機(jī)器學(xué)習(xí)的方法，利用樹葉和樹皮的顯著特征[2-3]，如顏色、形狀、紋理和大小的傳統(tǒng)計(jì)算機(jī)視覺系統(tǒng)，但該方法在特征提取時(shí)效率低。唐欽[4]提出的利用k近鄰(k-Nearest Neighbor，KNN)算法和支持向量機(jī)(SVM)算法在樹葉樣本上取得了89.64%的識別率。趙鵬超等[5-6]在卷積神經(jīng)網(wǎng)絡(luò)中對BP神經(jīng)網(wǎng)絡(luò)反向傳播算法和梯度下降算法優(yōu)化訓(xùn)練，取得了95%以上的正確率。楊蒙蒙[7]采用Hu矩和灰度共生矩陣與BP神經(jīng)網(wǎng)絡(luò)，在對15種樹葉圖像分類中取得了80.97%的識別率。樹木識別技術(shù)也在不斷改進(jìn)。②基于深度學(xué)習(xí)的識別方法，其中卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks，CNN)是深度學(xué)習(xí)模型中最重要的一種結(jié)構(gòu)，可自動(dòng)提取目標(biāo)特征，已基本滿足目標(biāo)分類。陳明建[8]提出了一種預(yù)處理算法，消除樹葉圖像陰影，再結(jié)合樹葉輪廓，最終在32種葉片上取得了98.26%的準(zhǔn)確率。Yang等[9]采用多個(gè)CNN分類器分別對葉片及顯著特征區(qū)域圖像自主提取特征，準(zhǔn)確率達(dá)到97.1%。Liu等[10]采用VGG16作為模型預(yù)訓(xùn)練網(wǎng)絡(luò)，再利用UNET網(wǎng)絡(luò)對樹種圖像進(jìn)行語義分割，最終取得96.03%的準(zhǔn)確率，但是網(wǎng)格模型較大效率不高。Mubin等[11]、業(yè)巧林等[12]提出了一種遙感圖像分類模型，采用圖像增強(qiáng)后利用深度學(xué)習(xí)訓(xùn)練模型，結(jié)果可以從衛(wèi)星圖像中取得的識別正確率分別為95.11%和92.26%，但是需要大量的森林衛(wèi)星圖像。Guan等[13]通過歸一化分割每個(gè)樹木的數(shù)據(jù)，使得特征提取十分精確，并在城市中的樹木分類取得了86.1%的準(zhǔn)確率，但是數(shù)據(jù)標(biāo)記耗時(shí)較多，且需要專業(yè)人員進(jìn)行操作。劉忠偉等[14-15]采用感興趣區(qū)域機(jī)制裁剪直方圖，并進(jìn)行均勻化圖像增強(qiáng)處理，基于Lenet5網(wǎng)絡(luò)對5種典型東北林木進(jìn)行識別，取得了95.8%的準(zhǔn)確率。

為了進(jìn)一步提高樹木圖像識別精度和速度，本文提出了基于卷積神經(jīng)網(wǎng)絡(luò)的并行注意力再提取算法，并采用消融實(shí)驗(yàn)證明該方法的有效性，再利用遷移學(xué)習(xí)的方法在BarkVN-50數(shù)據(jù)集(Kaggle發(fā)布的公開數(shù)據(jù)集)上進(jìn)行實(shí)驗(yàn)，驗(yàn)證此方法的訓(xùn)練效率和識別率。

1 數(shù)據(jù)集

BarkVN-50數(shù)據(jù)集包括柚木、花梨木、鐵刀木、榕樹、桉樹、雪松和千層樹等50種樹木，每種約100張，共計(jì)5 000多張樹木圖像。部分樹木樣本如圖1所示。

圖1 樹木種類實(shí)例

由圖1可知，由于每種樹木的圖像較少，且有一些具有相似外觀的不同類別樹木，放入神經(jīng)網(wǎng)絡(luò)模型中訓(xùn)練時(shí)，極易發(fā)生過擬合現(xiàn)象，為了提高神經(jīng)網(wǎng)絡(luò)的泛化能力，本次研究需要先進(jìn)行數(shù)據(jù)增強(qiáng)，把圖片進(jìn)行隨機(jī)上下和左右翻轉(zhuǎn)，然后應(yīng)用注意力再提取算法。通過數(shù)據(jù)增強(qiáng)后每一種樹木的數(shù)據(jù)量都得到擴(kuò)充，該方法有效地防止了過擬合現(xiàn)象的發(fā)生。

2 改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)

2.1 卷積神經(jīng)網(wǎng)絡(luò)的原理

卷積神經(jīng)網(wǎng)絡(luò)的框架主要由3個(gè)層級組成：卷積層、池化層和全連接層。卷積層是對輸入的樹木圖像特征的提??；池化層將卷積層輸出的高維度信息處理后得到低維度信息，避免過擬合；全連接層用向量化參數(shù)，從而獲得準(zhǔn)確率較高的輸出。

2.2 注意力模塊

卷積神經(jīng)網(wǎng)絡(luò)中的注意力機(jī)制目前有2種：一種是神經(jīng)網(wǎng)絡(luò)搭載了注意力機(jī)制能夠自主運(yùn)用；另一種是預(yù)制的注意力機(jī)制嵌入到卷積神經(jīng)網(wǎng)絡(luò)中，幫助卷積神經(jīng)網(wǎng)絡(luò)高效提取圖片中的特征。嵌入式的注意力機(jī)制分為軟注意力(Soft attention)和強(qiáng)注意力(Reinforcement learning)。本文研究所采用的是可微分的軟注意力，可以通過梯度方向反向傳播權(quán)重。軟注意力中又分為空間注意力(Spatial attention)、通道注意力(Channel attention)和混合注意力(Mixed concentration)?？臻g注意力并不重視各個(gè)通道中非重要的信息，而是由提取的特征決定了分類結(jié)果。通道注意力是將特征通道中的信息與圖像關(guān)聯(lián)從而決定分類的方法?；旌献⒁饬t是將2種注意力機(jī)制組合，把特征圖先經(jīng)過通道注意力，再通過空間注意力后經(jīng)過2次加權(quán)結(jié)果，得到輸出特征。但是先通過的注意力模塊權(quán)重會(huì)傳給后通過的注意力模塊，學(xué)習(xí)到的特征不全面，影響了注意力模塊學(xué)習(xí)的特征，嵌入了混合注意力模塊的CNN模型的學(xué)習(xí)效果不穩(wěn)定、正確率難以保證，因此提出并行注意力再提取算法解決注意力模塊內(nèi)部干擾，減緩過擬合發(fā)生。

2.2.1 非局部空間注意力和通道注意力

非局部空間的注意力機(jī)制(I-SAM)與傳統(tǒng)空間注意力(Spatial attention)機(jī)制[16-17]相比，在信道壓縮的基礎(chǔ)上再進(jìn)一步利用全局特征映射的平均池，從而降低嵌入在卷積神經(jīng)網(wǎng)絡(luò)中的空間注意力機(jī)制對超參數(shù)的依懶性，增強(qiáng)必要特征和抑制不必要特征，計(jì)算成本是由特征圖的寬度(W)和高度(H)決定，減少內(nèi)存使用量和計(jì)算成本。I-SAM的結(jié)構(gòu)由3部分組成：全局特征，將所有位置的特征采集并整合，再通過加權(quán)計(jì)算獲得全局特征；特征轉(zhuǎn)換，采用非線性特征轉(zhuǎn)換的方法；特征分配，將全局特征分配到每個(gè)位置的注意力分布函數(shù)。非局部空間的注意力算法的輸出為：

(1)

式中：X∈Rc×w×h；i為空間的所有取值；j為通道的所有索引，取值范圍1≤j≤C；θk為在信道壓縮的基礎(chǔ)上，再進(jìn)一步利用特征圖的全局特征映射的平均池化；δr為瓶頸轉(zhuǎn)換的像素捕捉的映射；函數(shù)F適用于特征融合的矩陣乘法，由公式(5)計(jì)算。

最終聚合的特征圖θk函數(shù)表示：

(2)

(3)

瓶頸轉(zhuǎn)換的像素捕捉δr函數(shù)表示：

(4)

特征融合函數(shù)F表示為：

(5)

通道注意力(Channel attention)模塊則采用最基本的形式，將特征圖作為輸入特征圖，如圖2所示。

圖2 通道注意力模塊

2.2.2 并行注意力再提取算法

樹木由于外觀具有相似性，在具體識別時(shí)注意力機(jī)制和數(shù)據(jù)庫容量就尤為重要，注意力機(jī)制可以對輸入圖像的顯著特征區(qū)域重點(diǎn)關(guān)注，混合注意力模塊在這方面廣泛應(yīng)用，但其內(nèi)部權(quán)重干擾的局限性又限制其難以取得較高的準(zhǔn)確率。

混合注意力模塊是單行連接先經(jīng)過通道注意力，再經(jīng)過空間注意力，此注意力模塊雖然能將空間信息和通道信息都利用起來，但是始終無法解決單行連接通道模塊的權(quán)重對于空間模塊的影響。因此，為消除這2個(gè)模塊間的相互干擾，都可由特征圖直接獲取權(quán)重，將混合通道改為I-SAM與通道注意并行。

為進(jìn)一步提高注意力在樹木圖像的特征定位與提取，消除數(shù)據(jù)庫容量不足，以減緩過擬合的發(fā)生，提出并行注意力再提取算法(I-attention)，如圖3所示。

圖3 并行注意力再提取算法

在I-attention中通過裁剪再提取出的隨機(jī)特征圖可以有效地增加訓(xùn)練數(shù)據(jù)庫容量，并減緩模型過擬合現(xiàn)象的發(fā)生。其中對于隨機(jī)特征圖的裁剪至關(guān)重要，因此訓(xùn)練階段在特種圖中隨機(jī)抽取一張Ak特征圖進(jìn)行裁剪，首先對其進(jìn)行規(guī)范化處理：

(6)

注意力裁剪方法為：

(6)

式中：θc為一個(gè)小于1隨機(jī)參數(shù)；Ck為尋找具有最小值的矩形，將此矩形放大后就是裁剪圖片。

2.3 遷移學(xué)習(xí)

遷移學(xué)習(xí)的基礎(chǔ)預(yù)訓(xùn)練網(wǎng)絡(luò)是一個(gè)保存的卷積神經(jīng)網(wǎng)絡(luò)，以前已在大型數(shù)據(jù)集(ImageNet)上對其進(jìn)行訓(xùn)練，提取出的特征信息可用于其他數(shù)據(jù)集。目前遷移學(xué)習(xí)模型架構(gòu)有很多，如VGG16、VGG19、inception v3、Xception和ResNet50等。但對于遷移學(xué)習(xí)的使用來說，不同條件下的遷移學(xué)習(xí)使用方法不同，為了減少網(wǎng)絡(luò)架構(gòu)導(dǎo)致的磁盤消耗和加快訓(xùn)練速度。在該系統(tǒng)中，由于網(wǎng)絡(luò)中數(shù)據(jù)集較小，采用Xception模型作為遷移本體。使用Xception模型搭建卷積神經(jīng)網(wǎng)絡(luò)，為滿足本文實(shí)驗(yàn)要求，故將模型中輸出層刪除，添加新的全連接層和輸出層，將預(yù)訓(xùn)練網(wǎng)絡(luò)權(quán)重凍結(jié)，添加I-attention修改用來識別樹木的IM-Xception。見表1。

表1 IM-Xception模型參數(shù)

在IM-Xception網(wǎng)絡(luò)結(jié)構(gòu)中，輸入的樹木圖像像素為299×299×3,共有14個(gè)混合卷積層,且卷積層的步長都為3×3,前8個(gè)卷積皆為首尾相連,上一層的輸出直接傳遞給下一層,從第8個(gè)到第10個(gè)卷積按順序執(zhí)行一次,并且循環(huán)8次，最后經(jīng)過2個(gè)卷積層和1個(gè)池化層后輸出1×1×2 048,經(jīng)過全連接層和softmax進(jìn)行輸出。

采用IM-Xception模型的卷積神經(jīng)網(wǎng)絡(luò)算法對樹木進(jìn)行識別，選擇合理的卷積層、池化層和全連接層對該系統(tǒng)框架進(jìn)行搭建。對于小數(shù)據(jù)集的系統(tǒng)，使用遷移學(xué)習(xí)能夠更加有效地避免過擬合現(xiàn)象，提高準(zhǔn)確率，使整個(gè)系統(tǒng)更加穩(wěn)定有效。樹木識別模型如圖4所示。

圖4 樹木圖像識別模型

本研究中輸入層和隱含層的激活函數(shù)選用relu-softsign組合激活函數(shù)[18-19]，其函數(shù)表達(dá)式為:

(8)

由公式(8)可知,該激活函數(shù)在x>0時(shí),與rule函數(shù)一致是導(dǎo)數(shù)為1的直線,保證了在前向傳播時(shí)模型的訓(xùn)練速度;當(dāng)x≤0時(shí),relu-softsign函數(shù)的導(dǎo)數(shù)緩慢減小，且能夠?yàn)榱愀浇姆钦龜?shù)提供非零導(dǎo)數(shù)，這樣既增強(qiáng)了relu-softsign 函數(shù)對非正值處理的魯棒性，又加快了模型的收斂速度，從而獲得比其他激活函數(shù)更好的分類效果[20-21]。

在框架的設(shè)計(jì)中，對于輸入層和隱含層的激活函數(shù)選用relu-softsign，在全連接層與輸出層之間加入非局部空間的注意力機(jī)制,對于輸出層采用softmax作為激活函數(shù)。因此該系統(tǒng)中損失函數(shù)是針對softmax函數(shù)而言。設(shè)softmax函數(shù)為hθ(x)，輸出為y，樣本數(shù)為m，則有損失函數(shù)為：

(9)

3 實(shí)驗(yàn)驗(yàn)證和結(jié)果分析

本實(shí)驗(yàn)平臺的硬件為1臺CPU為Intel(R)Core(TM)i7-9750H,GPU為GeForce GTX 1660Ti 6 GB顯存,內(nèi)存為16 GB,操作環(huán)境為Windows 10,軟件平臺為基于Python語言以keras為前端和TensorFlow為后端的編程構(gòu)架。

3.1 實(shí)驗(yàn)評價(jià)標(biāo)準(zhǔn)

采用全部輸入的樹木圖像層面和正確識別層面的正確分類作為分類評價(jià)標(biāo)準(zhǔn):

(10)

式中:Ra為識別率;Nal為全部輸入的樹木圖片數(shù)量;Nc為正確分類的圖片數(shù)量。

采用算法識別圖像總時(shí)間層面和算法迭代次數(shù)層面的平均時(shí)間作為時(shí)間評價(jià)標(biāo)準(zhǔn):

(11)

式中:t為平均時(shí)間;tal為算法識別消耗的總時(shí)間;te為算法的迭代次數(shù)。

3.2 實(shí)驗(yàn)結(jié)果

本實(shí)驗(yàn)將隨機(jī)選取樹木圖像的65%作為訓(xùn)練集,剩下的35%作為測試集。為了減少硬件設(shè)備對實(shí)驗(yàn)的影響以及確保實(shí)驗(yàn)結(jié)果的有效性,每次實(shí)驗(yàn)重復(fù)3次。為了排除學(xué)習(xí)率對識別結(jié)果的影響,分別對Xception和IM-Xception進(jìn)行3組對照實(shí)驗(yàn),學(xué)習(xí)率分別設(shè)置為0.1、0.01、0.001,共進(jìn)行6組實(shí)驗(yàn)，迭代次數(shù)為50。

由表2可知，學(xué)習(xí)率對深度卷積網(wǎng)絡(luò)有較大影響。遷移學(xué)習(xí)采用的都是預(yù)訓(xùn)練網(wǎng)絡(luò)，可以將學(xué)習(xí)到的特征用在不同的模型架構(gòu)中，使得深度學(xué)習(xí)對小數(shù)據(jù)問題非常有效，這也是深度學(xué)習(xí)的一個(gè)重要優(yōu)勢。深度卷積神經(jīng)網(wǎng)絡(luò)中沒新建的卷積層，采用的都是遷移學(xué)習(xí)的卷積層[22]，因此采用較大的學(xué)習(xí)率可以加速模型收斂。如實(shí)驗(yàn)6采用0.1的學(xué)習(xí)率，在訓(xùn)練集和測試集的準(zhǔn)確率分別為99.20%、98.90%，在相同條件下較其他學(xué)習(xí)率為最佳。如實(shí)驗(yàn)1和實(shí)驗(yàn)4采用0.001的學(xué)習(xí)率損失上下波動(dòng)，收斂速度慢，對硬件消耗大，故IM-Xception模型采用0.1的學(xué)習(xí)率進(jìn)行實(shí)驗(yàn)，具體如圖5和圖6所示。

表2 實(shí)驗(yàn)結(jié)果

圖5 實(shí)驗(yàn)正確率

圖6 實(shí)驗(yàn)損失值

3.3 實(shí)驗(yàn)結(jié)果對比

為驗(yàn)證實(shí)驗(yàn)結(jié)果的有效性，采用文獻(xiàn)[7]和文獻(xiàn)[11]中的結(jié)果與本文中的實(shí)驗(yàn)結(jié)果進(jìn)行對比，見表3。

表3 實(shí)驗(yàn)結(jié)果對比

由表3可知，在算法的正確率方面，IM-Xception模型的識別率最高，相比于VGG16和Lnet5模型的識別速度變快、消耗時(shí)間減少，正確率約增長1%～3%，不僅模型的規(guī)模大大減小，識別效率上提升了25%～50%。

3.4 消融實(shí)驗(yàn)

為了驗(yàn)證不同注意力模塊在卷積神經(jīng)網(wǎng)絡(luò)中的有效性，在BarkVN-50數(shù)據(jù)集上進(jìn)行消融實(shí)驗(yàn)，由于本文所提算法是由Xception改進(jìn)而來，所以這里以Xception為基準(zhǔn)進(jìn)行實(shí)驗(yàn)。相比于Xception，本文所提算法主要改進(jìn)了2點(diǎn)：添加了非局部空間注意力并行連接通道注意力，注意力特征圖再提取。因此，為了觀測其性能對上述2點(diǎn)進(jìn)行消融實(shí)驗(yàn)，見表4。

由表4可知，在Xception架構(gòu)設(shè)置了I-Attention和I-SAM不同情況下的性能測試，加入的非局部空間注意力和通道注意力模塊的測試性能有所提高，相比于Xception性能提升1.35%；同樣采用了注意力再提取模塊對特征圖進(jìn)行裁剪，能基于數(shù)據(jù)集提升模型性能0.66%。

表4 消融實(shí)驗(yàn)

4 結(jié)論

樹木識別技術(shù)是人工智能領(lǐng)域中一個(gè)重要的研究方向。針對采用傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的樹木識別方法中存在的識別正確率低、效率低和易產(chǎn)生過擬合現(xiàn)象，本文研究了一種基于改進(jìn)CNN的樹木識別方法，經(jīng)實(shí)驗(yàn)證明該方法的有效性。結(jié)果證明如下：

(1)針對樹木種類識別正確率、效率低的問題，對空間注意力模塊進(jìn)行改進(jìn)，提出了一種改進(jìn)的空間注意力模塊I-SAM并與通道注意力模塊采用并行連接，解決了注意力模塊內(nèi)部的特征圖權(quán)重干擾。

(2)針對不同品種且具有相似外觀特征的樹木，識別中易產(chǎn)生過擬合現(xiàn)象，影響識別準(zhǔn)確率，提出一種注意力再提取算法I-Attention，減緩了因數(shù)據(jù)庫不足發(fā)生的過擬合現(xiàn)象。

(3)對添加了I-Attention的IM-Xception模型與VGG16、Lnet5模型進(jìn)行對比，識別正確率約增長1%～3%，模型規(guī)模縮小24%，達(dá)到133.9 MB，且耗時(shí)僅有458 ms，識別效率上提升20%～50%。再通過消融實(shí)驗(yàn)，證明了I-SAM和I-Attention分別能對Xception模型提升1.35%和0.66%。

由于卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)復(fù)雜和參數(shù)多樣性,未來將繼續(xù)研究更適合于樹木識別的卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和方法，并進(jìn)行更深的研究討論和實(shí)驗(yàn)分析,得出其規(guī)律和特征。