基于深度可分離卷積神經(jīng)網(wǎng)絡(luò)的農(nóng)作物病害識別方法

蔡漢明 隨玉騰 張鎮(zhèn) 曾祥永

摘要 為了滿足現(xiàn)代化、機(jī)械化農(nóng)業(yè)生產(chǎn)的目標(biāo)，降低模型的計(jì)算量，使農(nóng)作物病害分類模型更適用于資源受限制的設(shè)備，提出了一種以深度可分離卷積為主的神經(jīng)網(wǎng)絡(luò)模型。利用深度可分離卷積和卷積相結(jié)合的方法取代標(biāo)準(zhǔn)卷積，計(jì)算量可降低至標(biāo)準(zhǔn)卷積的12%左右，并且大大減少網(wǎng)絡(luò)模型的參數(shù)量。通過進(jìn)一步減少通道數(shù)、改變網(wǎng)絡(luò)輸入圖片大小的等方式，獲得12種參數(shù)量和計(jì)算量不同的模型。結(jié)果顯示，對含有復(fù)雜背景和光照不均勻的10類農(nóng)作物的27種病害樣本圖片進(jìn)行分類，該研究提出的模型準(zhǔn)確率為98.26%，且參數(shù)量僅904 K。

關(guān)鍵詞 深度可分離卷積;病害識別;圖像處理;深度學(xué)習(xí)

中圖分類號 S1265;TP126文獻(xiàn)標(biāo)識碼 A

文章編號 0517-6611（2019）11-0244-03

doi：10.3969/j.issn.0517-6611.2019.11.070

開放科學(xué)（資源服務(wù)）標(biāo)識碼（OSID）：

Abstract In order to meet the goal of modern and mechanized agricultural production and reduce the computational load of the model，the crop disease classification model is more suitable for equipment with limited resources.A neural network model based on depthwise separable convolution was proposed.By combining depthwise separable convolution with 1×1 convolution，instead of standard convolution，the calculation amount could be reduced by 8～9 times，and the parameters of the network model could be greatly reduced.By further reducing the number of channels and changing the size of network input pictures，12 models with different parameters and computational load were obtained.Results showed that the accuracy of the proposed model was 98.26% and the parameters were only 904 K for the classification of 27 kinds of crop disease samples with complex background and uneven illumination.

Key words Depthwise separable convolution;Disease recognition;Image processing;Deep learning

作者簡介 蔡漢明（ 1960—） ，湖北武漢人，教授，從事計(jì)算機(jī)輔助設(shè)計(jì)與制造研究。*通信作者，碩士研究生，從事計(jì)算機(jī)集成制造研究。

收稿日期 2018-12-26

農(nóng)作物病害會直接影響其品質(zhì)，導(dǎo)致蔬菜減產(chǎn)，是種植者經(jīng)濟(jì)損失的主要原因之一。由于病害種類較多，不能及時確診病害類型，導(dǎo)致農(nóng)作物病害越來越嚴(yán)重。因此，準(zhǔn)確及時地確定農(nóng)作物病害類型是治療農(nóng)作病害的關(guān)鍵點(diǎn)。

隨著計(jì)算機(jī)和模式識別等技術(shù)的發(fā)展，研究人員利用機(jī)器學(xué)習(xí)和圖像處理等方法對植物葉片疾病識別進(jìn)行研究。田凱等[1]通過圖像處理提取茄子葉片上褐紋病病斑特征，構(gòu)建Fisher判別器，對茄子褐紋病的識別精度達(dá)到了90%。劉娜等[2]通過圖像處理和BP神經(jīng)網(wǎng)絡(luò)技術(shù)，構(gòu)建了一種黃瓜葉部病害識別系統(tǒng)，對多種病害的平均識別精度達(dá)到了94.06%。田有文等[3]通過提取葡萄葉片病害彩色圖像的紋理特征，提出了一種基于支持向量機(jī)的病害識別方法，取得比BP神經(jīng)網(wǎng)絡(luò)更好的結(jié)果。杜海順等[4]通過提取葉片特征和病害特征，將其合并并歸一化，提出了一種雙權(quán)重協(xié)同表示分類方法對多種農(nóng)作物的多種疾病識別取得了91.67%的準(zhǔn)確率。但是這種通過提取葉片特定圖像特征并通過傳統(tǒng)的分類算法的方式圖片預(yù)處理過程較復(fù)雜，抗干擾能力、魯棒性較差，處理速度較慢，對于計(jì)算和存儲資源有限的移動設(shè)備沒有足夠的支持。

近年來，深度學(xué)習(xí)的特征提取和識別方法取得了較大的進(jìn)步，卷積神經(jīng)網(wǎng)絡(luò)大范圍的應(yīng)用于各種圖像分類[5-6]、目標(biāo)檢測[7-9]、人臉識別[10]等任務(wù)中，并在各研究方向中取得優(yōu)異的成績。

卷積神經(jīng)網(wǎng)絡(luò)也普遍運(yùn)用于農(nóng)作物病害識別，馬浚誠等[11]通過一種復(fù)合顏色特征與傳統(tǒng)區(qū)域生長算法結(jié)合，構(gòu)建了一個基于卷積神將網(wǎng)絡(luò)的黃瓜病害識別系統(tǒng)，對多種黃瓜葉片疾病的平均識別精度達(dá)到95.7%。龍滿生等[12]通過遷移學(xué)習(xí)和數(shù)據(jù)擴(kuò)充的方式，使用AlexNet對油茶葉片的5種病害識別準(zhǔn)確率達(dá)到了96.53%。對PlantVillage 中14 種植物的26 種病害以及部分健康植物的圖像樣本，Mohanty 等[13]使用AlexNet 、GoogLeNet 模型，進(jìn)行分類識別訓(xùn)練，識別精度可達(dá)到97.82%和99.35%。孫俊等[14]提出一種改進(jìn)的AlexNet卷積神經(jīng)網(wǎng)絡(luò)，在PlantVillage數(shù)據(jù)集上達(dá)到98.32% 的識別準(zhǔn)確率。

但是一般來說卷積神經(jīng)網(wǎng)絡(luò)模型參數(shù)量大、計(jì)算量大、對使用設(shè)備要求較高，導(dǎo)致普及性較差。鑒于此，筆者提出一種基于深度可分離卷積[15-16]的神經(jīng)網(wǎng)絡(luò)模型，結(jié)合批次歸一化技術(shù)使其加速收斂、精度提高，得到一種參數(shù)量和計(jì)算量較小、適用于移動設(shè)備和資源受限的設(shè)備模型。對10類農(nóng)作物的27種病害樣本進(jìn)行分類，以期可以應(yīng)用于實(shí)際生產(chǎn)管理中。

1 材料與預(yù)處理

1.1 材料

數(shù)據(jù)集有10個物種，27種病害，10個健康分類，共37個分類。每張圖包含1片或者多片農(nóng)作物的葉子。數(shù)據(jù)集隨機(jī)分為訓(xùn)練集（90%）、測試集（10%）。其中，訓(xùn)練集有32 739張圖片，測試集有4 982張圖片。部分訓(xùn)練樣本如圖1所示。圖1中，1～4為蘋果健康、黑星病、灰斑病、雪松銹病;5～6為櫻桃健康、白粉病;7～11為玉米健康、灰斑病、銹病、葉斑病、花葉病毒;12～15為葡萄健康、黑腐病、輪斑病、褐斑病;16～17為柑橘健康、黃龍病;18～19為桃健康、瘡痂病;20～21為辣椒健康、瘡痂病;22～24為馬鈴薯健康、早疫病、薯晚疫病;25-26為草莓健康、葉枯病;27-37為番茄健康、白粉病、瘡痂病、早疫病、晚疫病菌、葉霉病、斑點(diǎn)病、茄斑枯病、番茄紅蜘蛛損傷、黃化曲葉病毒病、花葉病毒病。

1.2 預(yù)處理

與傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)一致，深度可分離卷積神經(jīng)網(wǎng)絡(luò)的輸入圖片不需要對圖片做復(fù)雜的預(yù)處理操作（病斑分割等）和設(shè)計(jì)特征，只需要輸入原始圖像就可以通過反向傳播逐層學(xué)習(xí)獲取特征。但是由于圖片樣本數(shù)量有限性，為了提高模型在測試集上的適應(yīng)性，故需要對訓(xùn)練集樣本進(jìn)行擴(kuò)充。一般對圖片的操作有隨機(jī)明亮度、對比度、飽和度調(diào)整，添加噪聲和模糊。為減少訓(xùn)練輪數(shù)，該研究選擇對訓(xùn)練集樣本進(jìn)行線下擴(kuò)充，對樣本進(jìn)行4個角度（0°、90°、180°、270°）的旋轉(zhuǎn)，以及各個方向上的水平和垂直翻轉(zhuǎn)，把原始訓(xùn)練數(shù)據(jù)集擴(kuò)充為原來的8倍，共261 912張訓(xùn)練樣本。

由于數(shù)據(jù)集中圖片大小、寬高比不一致，故將圖片進(jìn)行邊緣填充，用均值像素將其補(bǔ)充為方形，然后縮放至像素的大小存儲在硬盤中。

2 模型構(gòu)建與訓(xùn)練

一般卷積神經(jīng)網(wǎng)絡(luò)有多層卷積、池化層、激勵層、全連接層，后接softmax分類器用于分類。與標(biāo)準(zhǔn)卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)類似，該研究構(gòu)建一種以深度可分離卷積和卷積相結(jié)合的神經(jīng)網(wǎng)絡(luò)。

2.1 深度可分離卷積

假設(shè)標(biāo)準(zhǔn)卷積的卷積核大小為Dk×Dk×M×N，對于標(biāo)準(zhǔn)卷積操作可以認(rèn)為輸入Fin×Fin×M的特征圖，輸出是Fout×Fout×N。其中Fin代表輸入特征圖的大小，F(xiàn)out代表輸出特征圖的大小，M、N分別是輸入和輸出的通道數(shù)，Dk是卷積核的大小。所以標(biāo)準(zhǔn)卷積核的計(jì)算量如式1：

使用一個逐深度卷積和一個11的卷積組成的深度可分離卷積可以代替?zhèn)鹘y(tǒng)卷積，如圖2所示。對于Dk×Dk×M的逐深度卷積核，其計(jì)算量如公式2：

可以看出逐深度卷積核非常高效，計(jì)算量較少。但是只對輸入通道做卷積，并沒有產(chǎn)生新的特征，所以需要跟隨一個11卷積，對輸出通道做線性結(jié)合，產(chǎn)生新的特征。深度可分離卷積的計(jì)算量如式3：

所以，對于輸入輸出通道數(shù)和卷積核相等的卷積操作計(jì)算量比較公式如下：

由于該模型采用的是深度可分離卷積，所以能降低至標(biāo)準(zhǔn)卷積計(jì)算量的12%左右。

對于深度可分離卷積的參數(shù)量，計(jì)算方式如下：

對于標(biāo)準(zhǔn)卷積的參數(shù)量，計(jì)算方式如下：

所以，對于輸入輸出通道數(shù)和卷積核相等的卷積操作參數(shù)量比較如下：

2.2 網(wǎng)絡(luò)模型

為了簡化模型描述，定義標(biāo)準(zhǔn)卷積模塊和深度可分離卷積模塊如圖5、6。無論是卷標(biāo)準(zhǔn)卷積、深度可分離卷積、標(biāo)準(zhǔn)卷積，后面都接批次歸一化層和激勵層。

采用逐深度可分離的網(wǎng)絡(luò)模型如下：

由于該研究目的是將網(wǎng)絡(luò)模型使用在資源受限制的移動設(shè)備上，在保證模型準(zhǔn)確率的前提下降低模型參數(shù)量和模型計(jì)算量是該研究目標(biāo)。由于模型計(jì)算量和模型通道數(shù)量相關(guān)，參數(shù)量與輸入圖片尺寸大小相關(guān)。設(shè)計(jì)輸入不同模型如下表：

2.3 模型訓(xùn)練

該試驗(yàn)采用pytorch深度學(xué)習(xí)框架，Windows 7旗艦版64位操作系統(tǒng)，CPU為Intel i5-3210m，內(nèi)存8 G。

2.4 模型比較與分析

該研究設(shè)計(jì)的6種模型、經(jīng)典分類網(wǎng)絡(luò)Resnet 18和Alexnet比較結(jié)果見表2?？梢钥闯觯瑴?zhǔn)確率相差不到0.1%的情況下，該研究提出的模型參數(shù)量遠(yuǎn)遠(yuǎn)小于Alexnet和Resnet，推理速度分別是1.77、4.92倍，更適用于資源受限制的設(shè)備。

3 小結(jié)

針對傳統(tǒng)方法準(zhǔn)確率不高、標(biāo)準(zhǔn)卷積神經(jīng)網(wǎng)絡(luò)參數(shù)量過多、計(jì)算量偏大等問題，筆者采用深度可分離卷積對多種植物的多種疾病類型進(jìn)行分類試驗(yàn)，并與多種經(jīng)典分類模型進(jìn)行比較，該研究提出的模型參數(shù)量僅為904 K的情況下，測試集準(zhǔn)確率達(dá)到98.06%。

由此可見，深度可分離卷積不僅能對多種植物的多種疾病有較好的特征提取、分類能力，且模型參數(shù)量和計(jì)算量均大大降低，為降低硬件成本打下了堅(jiān)實(shí)的基礎(chǔ)，從而方便后續(xù)植物葉片病害識別系統(tǒng)的研究與開發(fā)。

參考文獻(xiàn)

[1] 田凱，張連寬，熊美東，等.基于葉片病斑特征的茄子褐紋病識別方法[J].農(nóng)業(yè)工程學(xué)報，2016，32（S1）：184-189.

安徽農(nóng)業(yè)科學(xué)，J.Anhui Agric.Sci. 2019，47（11）：247-248，282