基于輕量化卷積神經(jīng)網(wǎng)絡的番茄葉片病害識別

摘要：傳統(tǒng)的卷積神經(jīng)網(wǎng)絡在番茄葉部病害識別中存在結構復雜、參數(shù)龐大等問題，導致難以在移動設備上實現(xiàn)良好的應用效果。因此，提出一種基于輕量化卷積神經(jīng)網(wǎng)絡的番茄葉片病害識別方法。首先，將番茄葉片病害圖片進行數(shù)據(jù)增強擴充，保證數(shù)據(jù)分布均勻；其次，繪制MobileNet v3模型基于擴充數(shù)據(jù)集tomato2的敏感度分析曲線圖，根據(jù)敏感度分析曲線圖對模型的輸出通道數(shù)進行裁剪，構建輕量化卷積神經(jīng)網(wǎng)絡模型MobileNet v3-Prune；最后，運用4種卷積神經(jīng)網(wǎng)絡及其對應的輕量化模型對番茄葉片病害圖片訓練進行試驗對比。結果表明，MobileNet v3-Prune對番茄葉片病害識別性能最佳，在測試集上的平均識別準確率達到了99.60%，模型權重僅為3.69 MB，單張圖片識別時間為12.13 ms。本研究結果可以為移動設備上的番茄葉片病害識別應用的實現(xiàn)提供理論支持。

關鍵詞：番茄葉片病害；數(shù)據(jù)增強；MobileNet v3；敏感度分析；輕量化模型

中圖分類號：TP391.41；S126文獻標志碼：A

文章編號：1002-1302（2024）11-0225-06

農(nóng)業(yè)是國民經(jīng)濟建設和發(fā)展的基礎，番茄作為重要蔬菜被各國廣泛種植。據(jù)農(nóng)業(yè)農(nóng)村部統(tǒng)計，近年來我國番茄種植面積約為100萬hm2，產(chǎn)量超過 6 000萬t，占我國蔬菜產(chǎn)量的7%以上，是我國最重要的經(jīng)濟農(nóng)作物之一［1］。由于我國番茄栽培面積廣闊，品種豐富，在大產(chǎn)量的供給下為番茄病害提供了有利條件，成為番茄生產(chǎn)的重要限制因素之一。因此，對番茄病害的精準識別和正確防治是目前解決此問題的有效手段之一。

傳統(tǒng)的番茄病害識別往往得益于農(nóng)民的長期經(jīng)驗，但是番茄病害種類繁多，通過人工觀察識別耗時耗力。隨著近年來卷積神經(jīng)網(wǎng)絡的迅速發(fā)展，農(nóng)作物病害識別取得了初步進展，已逐步成為各高校與研究所的研究熱點，并廣泛運用于農(nóng)作物病害圖像識別領域。陳偉文等研究了AlexNet在番茄葉片病害識別時產(chǎn)生的過擬合問題，實現(xiàn)了對番茄葉片病害的分類識別［2］；徐振南等通過MobileNet v3模型實現(xiàn)對馬鈴薯葉部5類病害的分類識別［3］；胡玲艷等構建的CKFENet模型在強噪聲環(huán)境下對番茄病害識別準確率達到78%，穩(wěn)定性強且占用內(nèi)存小［4］；孫文杰等采用雙向長短期記憶網(wǎng)絡以挖掘和記憶輸入序列數(shù)據(jù)，實現(xiàn)了對桃樹葉部病害的圖像識別［5］；林建吾等提出的番茄病害識別模型 FTL-MobileNet 通過引入Focal Loss代替交叉熵損失函數(shù)，使其模型泛化能力更好、識別精度更高［6］；趙越等研究了一種基于Faster R-CNN的馬鈴薯葉片病害識別模型，應用COCO初始權重進行遷移學習，其識別準確率達到了99.5%［7］；帖軍等提出的 SK-EfficientNet 模型，不僅能提高圖像特征提取能力，同時更能有效地利用參數(shù)，對番茄葉片病害識別的準確率達到了99.64%［8］；周巧黎等同時使用Mixup混合數(shù)據(jù)增強、Focal Loss損失函數(shù)和遷移學習對MobileNet v3模型進行改進，提高了模型的識別準確率及識別速率［9］；牛學德等通過將遷移學習和DenseNet卷積神經(jīng)網(wǎng)絡模型相結合，得到測試準確率達到97.76%的番茄病害識別模型［10］；謝家興等對網(wǎng)絡特征提取模塊采用混合空洞卷積，實現(xiàn)了對5類荔枝病蟲害圖像的分類識別［11］；徐健等通過減少MobileNet v3冗余網(wǎng)路結構及改進MobileNet v3的池化層，完成了嵌入式設備對棉雜的在線檢測［12］；陳桂芬等研究了一種基于數(shù)據(jù)增強及遷移學習相結合的卷積網(wǎng)絡，提高了模型的識別準確率及泛化能力［13］。上述研究在實現(xiàn)番茄及其他農(nóng)作物病害識別的同時，也考慮了準確率、識別速率、模型大小等特性，但模型性能還有待提高，要將其應用在移動設備上實現(xiàn)在田間的實際番茄病害識別還存在一定距離。

因此，本研究介紹了一種利用輕量化卷積神經(jīng)網(wǎng)絡對番茄病害圖像識別的方法，該方法不僅能夠實現(xiàn)高分類準確率的識別，而且還能夠顯著減少模型所需內(nèi)存占用，提高識別速率，使其能夠最大程度地應用于性能不同的移動終端和硬件平臺，以期為智慧農(nóng)業(yè)科技的開展提供技術支持與方法。

1 數(shù)據(jù)來源及預處理

1.1 試驗數(shù)據(jù)集

本試驗研究對象為番茄葉部病害圖像，試驗數(shù)據(jù)集來自PlantVillage公開數(shù)據(jù)集，該數(shù)據(jù)集共計 54 000 多張圖片，包含14種蔬菜和水果，38種類別的標簽。番茄葉片試驗樣本主要包括10類常見的番茄病害葉片，其中早疫病1 000張、晚疫病1 909張、細菌斑點病2 127張、葉霉病952張、斑枯病 1 771 張、靶斑病1 404張、二斑葉螨病1 676張、花葉病毒病373張、黃曲葉病5 357張、健康葉片 1 591 張，共計18 160張圖片樣本。

1.2 數(shù)據(jù)預處理

1.2.1 幾何變換

為保證數(shù)據(jù)集的多樣化及充足性，對其采用了幾何變換的數(shù)據(jù)增強［14］，包括圖像歸一化、隨機裁剪、隨機旋轉、隨機水平翻轉，提高了樣本的質量和數(shù)量以及訓練模型的泛化能力，力求達到自然環(huán)境下對番茄葉片病害的識別效果。以斑枯病為例，幾何變換示意見圖1。

1.2.2 顏色變換

幾何變換類數(shù)據(jù)增強并沒有改變圖像本身，僅是將圖像的一部分或者對像素進行了重分布。顏色變換類數(shù)據(jù)增強［15］則是改變圖像本身以增加數(shù)據(jù)的復雜程度，本研究采用了包括調整圖像亮度、對比度和色調等數(shù)據(jù)增強方法。以番茄葉片斑枯病為例，顏色變換示意見圖2。以數(shù)據(jù)集均勻分布作為前提對圖像進行擴充，擴充后圖像總數(shù)為23 735張，10種番茄病害類型的分布見表1。

本研究將數(shù)據(jù)集中的90%作為訓練集，10%作為測試集，其中訓練集共有21 361張圖片，測試集共有2 374張圖片，統(tǒng)一采用jpg格式，將圖像像素大小統(tǒng)一調整到256×256像素。將PlantVillage公開數(shù)據(jù)集中的18 159張番茄葉片病害圖片設為tomato1數(shù)據(jù)集，將基于數(shù)據(jù)增強擴充后的23 735張番茄葉片病害圖片設為tomato2數(shù)據(jù)集，以便于后續(xù)研究對數(shù)據(jù)增強方法進行驗證。

2 輕量化番茄葉片病害識別模型

2.1 MobileNet v3網(wǎng)絡模型

輕量級網(wǎng)絡具有參數(shù)少、訓練速度快、推算時間短等特點，且更適用于存儲空間及算力受限的嵌入式設備等邊緣計算設備。MobileNet v3［16］在經(jīng)歷MobileNet v1［17］和MobileNet v2［18］ 2代積累后，在模型訓練速度及精度方面都表現(xiàn)優(yōu)異，其模型結構見表2。

MobileNet v3不但繼承了v1的深度可分離卷積方法，將空間濾波和特征形成機制分開，進而合理地分解傳統(tǒng)卷積結構，同時采用v2線性瓶頸的倒殘差機制以代替線性整流函數(shù)（linear rectification function，ReLU），以減少網(wǎng)絡的總體參數(shù)量，加快模型的運行速度。

MobileNet v3模型增添了獨特的Bneck網(wǎng)絡結構，在結構中將Hard-swish激活函數(shù)與ReLU激活函數(shù)互搭使用，以減少運算量，提高算法的推理性能。Hard-swish函數(shù)如公式（1）所示：

式中：x為輸入特征矩陣；Hard-swish代替原來Swish的激活函數(shù)；ReLU6［19］為普通ReLU激活函數(shù)，限制最大輸出值為6。本研究選用MobileNet v3模型針對數(shù)據(jù)集的規(guī)模大小分為MobileNet v3-Large和MobileNet v3-Small，本研究選用MobileNet v3-Large模型，具體結構見表2。

2.2 模型輕量化方法

本研究基于飛槳（PaddlePaddle）深度學習框架開發(fā)設計了番茄葉片病害識別模型，PaddleSlim是一款專門用于深度學習模型壓縮的工具庫。它提供了各種模型壓縮策略，如低比特量化、知識蒸餾和稀疏化等策略，能夠幫助開發(fā)者快速實現(xiàn)模型壓縮。本研究在PaddleSlim工具庫中采取卷積層輸出通道裁剪策略中的L1NormFilterPruner［20］策略，即通過對單個卷積層裁剪不同比例的輸出通道數(shù)，并將相對應的測試集精度損失比例進行繪圖，可得單個卷積層的曲線。同上述步驟可得到多個卷積層的曲線，該曲線稱為卷積神經(jīng)網(wǎng)絡的敏感度曲線。

以MobileNet v3模型為例，基于tomato2數(shù)據(jù)集可得如圖3所示的MobileNet v3模型的敏感度曲線。

在卷積神經(jīng)網(wǎng)絡的敏感度曲線圖中隨裁剪比例增加而精度損失比例越低的卷積層敏感度越低，反之則敏感度越高。敏感度越低的卷積層會被裁剪掉相對越多的輸出通道數(shù)，反之會被裁剪掉相對較少的輸出通道數(shù)。最后綜合考慮卷積神經(jīng)網(wǎng)絡的FLOPs預期裁剪比例和敏感度曲線圖，對各卷積層的輸出通道數(shù)進行裁剪。以MobileNet v3模型為例，依據(jù)其FLOPs預期裁剪比例60%和敏感度曲線圖對卷積層進行裁剪，得到輕量化卷積神經(jīng)網(wǎng)絡MobileNet v3-Prune，其結構見表3。

3 結果與分析

3.1 試驗環(huán)境

試驗軟件環(huán)境：使用Python 3.7編程語言，以PaddlePaddle作為深度學習開源框架。硬件環(huán)境采用AI Studio在線平臺，其中GPU為Tesla V100，顯存為32 GB，CPU為4 Cores，RAM為 32 GB，Disk為100 GB。

3.2 試驗方案設計

具體試驗步驟如下：

步驟1：設置模型訓練參數(shù)。本試驗每次迭代160輪（epochs），訓練集和測試集的batch size均設為64，選用自適應動量優(yōu)化器（Adam）優(yōu)化網(wǎng)絡模型，其學習率采用間隔輪數(shù)衰減策略，即迭代前30輪學習率設為0.001，30輪后將學習率降為 0000 1，迭代60輪后學習率降至0.000 01。

步驟2：比較4種卷積神經(jīng)網(wǎng)絡模型（MobileNet v3、Inception v3、ResNet50、ShuffleNet v2）在tomato1和tomato22種數(shù)據(jù)集上的準確率，驗證數(shù)據(jù)增強方法對模型性能的優(yōu)化效果。

步驟3：基于tomato2數(shù)據(jù)集對4種卷積神經(jīng)網(wǎng)絡模型（MobileNet v3、Inception v3、ResNet50、 ShuffleNet v2）進行輕量化處理。考慮減少模型大小的同時保證它的分類準確率，因此設定模型的浮點運算次數(shù)預期裁剪比例為60%，各模型FLOPs前后變化見表4。

步驟4：將4種卷積神經(jīng)網(wǎng)絡模型及其對應的輕量化模型進行對比，從模型的分類準確性、體積大小、單張圖片識別速率、穩(wěn)定性4個維度做試驗比較，驗證模型輕量化方法的優(yōu)越性并選出最適用于識別番茄葉片病害的模型。

3.3 數(shù)據(jù)增強對模型識別準確率的影響

由表5可知，在tomato2數(shù)據(jù)集上訓練得到的4種模型測試集分類準確率相較于tomato1數(shù)據(jù)集都有所提升，提升比例可達0.51百分點。由此可知，通過對數(shù)據(jù)集做數(shù)據(jù)增強擴充有助于提高模型的分類準確率，后續(xù)研究均采用tomato2數(shù)據(jù)集進行試驗。

3.4 輕量化方法對模型性能的影響

3.4.1 模型的準確率和模型大小

為驗證模型輕量化方法對模型性能的提升并選出最適用于識別番茄葉片病害的卷積神經(jīng)網(wǎng)絡模型，分別對4種卷積神經(jīng)網(wǎng)絡模型（MobileNet v3、Inception v3、ResNet50、ShuffleNet v2）及對應的輕量化模型在tomato2數(shù)據(jù)集上的分類準確率、體積大小和單張圖片識別速率作對比分析。

試驗結果見表6，4種輕量化模型在分類準確率下降小于等于0.1百分點的前提下，模型體積減小61%～81%，單張圖片識別速率提升11%～24%，由結果可知，模型輕量化方法在減少模型體積和單張圖片識別速率方面具有較好的適用性。

MobileNet v3-Prune模型在體積大小、單張圖片識別速率方面均好于其余7個模型，分類準確率相對于最高值僅低0.06百分點，Inception v3模型雖為分類準確率最高的模型，但其體積大小和單張圖片識別速率均大幅差于MobileNet v3-Prune模型?？紤]到番茄葉片病害識別模型在移動設備上的實際應用和性能要求，MobileNet v3-Prune模型在此領域具備更優(yōu)的應用優(yōu)勢。

3.4.2 模型的穩(wěn)定性

為驗證模型輕量化方法對模型穩(wěn)定性的提升及輕量化模型具有較好的穩(wěn)定性，對2種卷積神經(jīng)網(wǎng)絡模型（MobileNet v3、MobileNet v3-Prune）及4種輕量化模型（MobileNet v3-Prune、Inception v3-Prune、ResNet50-Prune、ShuffleNet v2-Prune）在tomato2數(shù)據(jù)集上160輪迭代過程中，測試集分類準確率和損失值的變化情況進行分析。如圖4所示，MobileNet v3和MobileNet v3-Prune模型在迭代前10輪內(nèi)均能達到較高的準確率并趨于穩(wěn)定，但MobileNet v3-Prune模型在迭代過程中準確率和損失值抖動幅度均小于MobileNet v3，由此證明模型輕量化方法能提升模型的穩(wěn)定性。對于4種輕量化模型在160輪迭代過程中測試集分類準確率和損失值的變化對比，Inception v3-Prune模型和ShuffleNet v2-Prune模型相較于其余2種模型在迭代初期準確率和損失值更快地趨于穩(wěn)定，且隨著迭代次數(shù)增加，前2種模型抖動頻率更低、抖動幅度更小，擁有較好的穩(wěn)定性。MobileNet v3-Prune模型和ResNet50-Prune模型雖然穩(wěn)定性略差于前2種模型，但也可在迭代前10輪內(nèi)趨于穩(wěn)定，擁有不錯的穩(wěn)定性。

MobileNet v3-Prune模型在tomato2測試集上的混淆矩陣見圖5，其顯示了真實標簽值與模型預測值之間的關系，對角線上的數(shù)字代表模型成功識別出的樣本數(shù)量。0～9分別表示番茄的瘡痂病、早疫病、晚疫病、葉霉病、斑枯病、二斑葉螨病、靶斑病、黃曲葉病、花葉病毒病、健康葉片，對應的預測準確率分別為100%、100%、99.04%、100%、9948%、99.51%、98.05%、100%、100%、100%。MobileNet v3-Prune模型對10類病害的識別準確率均在98.00%以上，試驗表明MobileNet v3-Prune模型對每類番茄葉片病害都具有較好的識別能力。

4 結論

本研究提出了一種輕量化的卷積神經(jīng)網(wǎng)絡模型MobileNet v3-Prune，以適應移動設備對番茄病害圖像識別的需求。模型輕量化方法是對多個卷積層裁剪不同比例的輸出通道數(shù)以繪制敏感度曲線圖，再依據(jù)敏感度曲線圖對模型裁剪得到輕量化卷積神經(jīng)網(wǎng)絡模型。模型輕量化方法在保證模型分類準確率的前提下減少了模型大小，提高了單張圖片的識別速率。由4種卷積神經(jīng)網(wǎng)絡模型（MobileNet v3、Inception v3、ResNet50、ShuffleNet v2）及對應的輕量化模型和2種數(shù)據(jù)集設計對比試驗，結果表明，（1）經(jīng)數(shù)據(jù)增強擴充后的數(shù)據(jù)集訓練卷積神經(jīng)網(wǎng)絡模型，能有效提高模型的分類準確率，可提升0.51百分點。（2）4種輕量化模型在分類準確率下降小于等于0.1百分點的前提下，模型體積減小61%～81%，單張圖片識別速率提升11%～24%，結果表明，模型輕量化方法在減少模型體積和單張圖片識別速率方面具有較好的適用性。（3）綜合對比8種卷積神經(jīng)網(wǎng)絡模型的分類準確性、體積大小、單張圖片識別速率和穩(wěn)定性，可知MobileNet v3-Prune模型在番茄葉片病害識別上具有更好的應用優(yōu)勢，能夠便利地應用于性能不同的移動終端和硬件平臺， 為智慧農(nóng)業(yè)科技的開展提供技術與方法。在后續(xù)工作中，將針對實際復雜環(huán)境下的番茄病害圖像，繼續(xù)優(yōu)化模型的綜合性能，提高在田間的番茄病害識別效率及穩(wěn)定性。

參考文獻：

［1］譚海文，吳永瓊，秦 莉，等. 我國番茄侵染性病害種類變遷及其發(fā)生概況［J］. 中國蔬菜，2019（1）：80-84.

［2］陳偉文，鄺祝芳，王忠偉. 基于卷積神經(jīng)網(wǎng)絡的種苗病害識別方法［J］. 中南林業(yè)科技大學學報，2022，42（7）：35-43.

［3］徐振南，王建坤，胡益嘉，等. 基于MobileNet v3的馬鈴薯病害識別［J］. 江蘇農(nóng)業(yè)科學，2022，50（10）：176-182.

［4］胡玲艷，周 婷，劉 艷，等. 基于輕量級網(wǎng)絡自適應特征提取的番茄病害識別［J］. 江蘇農(nóng)業(yè)學報，2022，38（3）：696-705.

［5］孫文杰，牟少敏，董萌萍，等. 基于卷積循環(huán)神經(jīng)網(wǎng)絡的桃樹葉部病害圖像識別［J］. 山東農(nóng)業(yè)大學學報（自然科學版），2020，51（6）：998-1003.

［6］林建吾，張 欣，陳孝玉龍，等. 基于輕量化卷積神經(jīng)網(wǎng)絡的番茄病害圖像識別［J］. 無線電工程，2022，52（8）：1347-1353.

［7］趙 越，趙 輝，姜永成，等. 基于深度學習的馬鈴薯葉片病害檢測方法［J］. 中國農(nóng)機化學報，2022，43（10）：183-189.

［8］帖 軍，隆娟娟，鄭 祿，等. 基于SK-EfficientNet的番茄葉片病害識別模型［J］. 廣西師范大學學報（自然科學版），2022，40（4）：104-114.

［9］周巧黎，馬 麗，曹麗英，等. 基于改進輕量級卷積神經(jīng)網(wǎng)絡MobileNet v3的番茄葉片病害識別［J］. 智慧農(nóng)業(yè)，2022，4（1）：47-56.

［10］牛學德，高丙朋，南新元，等. 基于改進DenseNet卷積神經(jīng)網(wǎng)絡的番茄葉片病害檢測［J］. 江蘇農(nóng)業(yè)學報，2022，38（1）：129-134.[HJ2mm]

［11］謝家興，陳斌瀚，彭家駿，等. 基于改進ShuffleNet v2的荔枝葉片病蟲害圖像識別［J］. 果樹學報，2023，40（5）：1024-1035.

［12］徐 健，胡道杰，劉秀平，等. 基于改進型RFB-MobileNet v3的棉雜圖像檢測［J］. 紡織學報，2023，44（1）：179-187.

［13］陳桂芬，趙 姍，曹麗英，等. 基于遷移學習與卷積神經(jīng)網(wǎng)絡的玉米植株病害識別［J］. 智慧農(nóng)業(yè)，2019，1（2）：34-44.

［14］孫海燕，陳云博，封丁惟， 等. 基于注意力模型和輕量化YOLO [HJ][LM]

[KH*4D]

[HT8.]v4的林業(yè)害蟲檢測方法［J］. 計算機應用，2022，42（11）：3580-3587.

［15］白祉旭，王衡軍，郭可翔. 基于圖像顏色隨機變換的對抗樣本生成方法［J］. 計算機科學，2023，50（4）：88-95.

［16］Howard A，Sandler M，Chen B，et al. Searching for MobileNet v3［C］//2019 IEEE/CVF International Conference on Computer Vision （ICCV）.Seoul：IEEE，2019：1314-1324.

［17］Howard A G，Zhu M L，Chen B，et al. MobileNets：efficient convolutional neural networks for mobile vision applications［J］. ArXiv e-Prints，2017：arXiv：1704.04861.

［18］Sandler M，Howard A，Zhu M L，et al. MobileNet v2：inverted residuals and linear bottlenecks［C］//2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition.Salt Lake City：IEEE，2018：4510-4520.

［19］Thakkar V，Tewary S，Chakraborty C. Batch normalization in convolutional neural Networks-a comparative study with CIFAR-10 data［C］//2018 Fifth International Conference on Emerging Applications of Information Technology （EAIT）.Kolkata：IEEE，2018：1-5.

［20］Li H，Kadav A，Durdanovic I，et al. Pruning filters for efficient ConvNets［EB/OL］. （2016-09-15）［2023-09-01］. https：//arxiv.org/pdf/1608.08710.pdf.