基于多尺度卷積與通道域增強的草莓病害識別方法

黃鋁文 鄭梁 黃煜 謙博 關非凡

摘要：為提高草莓病害圖像的分類準確性，提出一種基于通道域增強的深度超參數化金字塔卷積殘差網絡（CEM-DOPConv-ResNet18）。首先，針對草莓病害的多尺度特點，基于金字塔卷積與深度超參數化卷積提出深度超參數化金字塔卷積（DOPConv），在提取多尺度病害特征的同時，緩解參數量增加導致的收斂干擾；其次，提出基于雙重池化的通道增強模塊，用以提高模型的特征選擇能力，增強有用尺度下的特征；最后，將上述方法與ResNet18結合，將原本的3×3卷積替換為DOPConv，同時在殘差塊中加入通道增強模塊，構建出草莓病害分類網絡。為驗證模型識別性能與模塊有效性，在草莓病害圖像數據集上進行對比試驗和消融試驗。對比試驗結果表明，與原有ResNet18模型相比，CEM-DOPConv-ResNet18的準確率達97.867%，提高3.045百分點，同時內存占用量下降16.6%；消融試驗結果表明，相較于原始金字塔卷積，DOPConv可以優(yōu)化模型收斂，對通道增強模塊具有更高的兼容度。該模型提高了草莓病害的分類準確率，降低了網絡復雜度，為病害的精準識別提供了一種有效解決模型。

關鍵詞：草莓病害識別；多尺度卷積算子；特征增強；殘差模塊

中圖分類號：TP391.41文獻標志碼：A

文章編號：1002-1302（2023）10-0202-09

我國是全球最大的草莓生產國，草莓播種面積在全球占比近1/3［1］。而草莓病害的發(fā)生和擴散造成了大量減產。傳統(tǒng)草莓病害的預防方法主要依靠種植人員的經驗，對草莓生長進行追蹤和監(jiān)控，但草莓病害癥狀多樣，部分特征相似性強，僅靠人工檢測無法達到有效防控。研究表明，深度學習方法已被應用于多種作物的病害識別，實現了高效病害檢測［2-4］。病害識別模型的可靠性和準確性，一直是農作物病害檢測的研究熱點。為此，本研究提出一種基于殘差模型的多尺度病害識別方法，提高草莓病害的整體識別精度。

由表1可知，文獻［5-6］采用遷移學習方式，將病害先驗與網絡融合，提高了模型的泛化能力［7］。文獻［8-9］采用膠囊網絡模型，膠囊層可包含病害的多種信息，提高了模型的識別能力［10］。文獻［11-12］采用注意力機制，通過特征重標定，提高了模型的特征選擇能力［13］。然而，上述模型大多采用單一尺度卷積，感受野較固定，在面對尺度分布較復雜的病害時，特征提取能力有限。

結合草莓發(fā)病性狀的特點，在葉片和果實上的病斑通常呈現尺度不一的性質；同時，在同一發(fā)病位置上，不同病癥在不同發(fā)病時期的病斑具有尺度差異。表1所示方法還未充分考慮病斑大小不一所導致的多尺度特征問題。金字塔卷積能通過集成不同尺度的卷積核，提取不同尺度分布下的目標特征［14］，在多標簽圖像分類［15］、醫(yī)學圖像分割［16］上效果較為明顯。相較于文獻［7］的多分支融合提取方式，金字塔卷積僅需單分支，較為簡易；但多尺度提取方式在一定程度上會導致參數量增加，干擾模型的收斂。文獻［18］提出的深度超參數化卷積，可以通過改變卷積方式優(yōu)化模型的收斂，能提高整體的識別性能，已應用于高光譜圖像分類［19］、視覺跟蹤［20］和醫(yī)學圖像分割［21］。

為提高作物病害的識別精度，解決深度模型單一尺度特征的不足，并改善參數量增加導致的模型快速收斂問題，本研究提出了一種基于金字塔卷積和深度超參數化卷積的深度超參數化金字塔卷積（DOPConv），將其用于改造和優(yōu)化卷積神經網絡；同時提出并使用基于雙重池化的通道增強模塊（CEM），以進一步優(yōu)化網絡分類性能。該模型可滿足草莓常見病害的分類與快速檢測需求。

1材料與方法

1.1草莓病害數據集獲取

病害數據集為Afzaal等提供的草莓圖像，包含草莓果實上的白粉病、灰霉病、炭疽病及葉面上的白粉病、蛇眼病、角斑病、枯萎病7類樣本，共計2500幅圖像，其中每類病害均包含了發(fā)病各個時期的圖像［22］。數據集中的圖像文件大小集中于143～226kB之間，尺寸為419×419像素。各類別病害數量分布如表2所示，示例樣本如圖1所示。

在草莓數據集中，發(fā)病部位涵蓋了葉片和果實，呈現整體病斑大小不一、形態(tài)特征多樣等性質，但是不同發(fā)病時期的不同病害呈現相似的發(fā)病特征。例如，葉片角斑病在發(fā)病初期，表面出現紅褐色不規(guī)則病斑，病斑擴大時受葉脈限制，形成角形葉斑；葉片蛇眼病在發(fā)病初期，表面出現紫紅色小圓斑，隨后病斑擴大，中心為灰色，周圍紫褐色，呈蛇眼狀。由圖1-a、圖1-b可見，二者在感染初期特征相近，都具有大小相似的褐色不規(guī)則病斑。當果實感染白粉病時，幼果被白粉覆蓋；在感染灰霉病時，幼果濕軟腐爛；濕度大時，病部產生灰褐色霉狀物。由圖1-e、圖1-f可見，灰霉病、白粉病發(fā)病初期都具有灰白色霜狀覆蓋物，邊界形狀不規(guī)則，相似程度高。不同類別的草莓病害在一定條件下會形成相似的特征，葉片癥狀主要表現為出現病斑，呈現小而密集的特點；果實癥狀表現多為果實表面有明顯覆蓋物，屬于較大目標。以上這些病害的識別都會受到發(fā)病區(qū)域大小等尺度因素的影響。

1.2數據增強

為增強模型的泛化能力，在現有數據條件下擴充數據集規(guī)模，能模擬同一圖像目標在不同拍攝環(huán)境下的狀態(tài)，更加充分利用現有數據集的價值［23］。采用顏色與對比度調整模擬不同光照條件下的病害圖像采集，有利于降低模型對白粉病、灰霉病等顏色特征較為明顯的病害敏感性；采用幾何旋轉與鏡像翻轉模擬不同拍攝角度下的病害圖像，提高模型對于不同角度的魯棒性。將數據集按照6∶2∶2劃分為訓練集、驗證集、測試集，然后通過上述2類共8種數據增強方法進行數據增強。增強前后的對比結果如圖2所示，最終數據集劃分結果如表3所示。

2草莓病害識別模型

為實現草莓病害不同尺度大小的病斑特征識別，構建基于通道增強的深度超參數化金字塔卷積殘差網絡模型CEM-DOPConv-ResNet18（Channel-Enhancement-Module-Depthwise-Over-Parameterized-Convolution-ResNet18）。模型組成主要包括3個部分：（1）提取病害深度語義特征的殘差模塊；（2）草莓病害性狀的多尺度特征提取模塊；（3）基于雙重池化的尺度自適應增強模塊。

2.1殘差模塊

草莓病害的發(fā)病癥狀多樣，例如：白粉病在葉片或果實表面呈現白色粉狀全覆蓋物；灰霉病、炭疽病會導致不規(guī)則棕褐色斑；蛇眼病、角斑病等會產生密集的角狀和橢圓病斑。淺層網絡通常只能提取到邊緣等低級共性特征，表達能力較弱，不足以區(qū)分相似性強、大小不一的草莓病癥。同時，在深度模型的層數堆疊過度時，容易發(fā)生梯度彌散、梯度爆炸的問題。為此，本研究采用何愷明等提出的殘差網絡［24］來提取草莓病害的深度特征，殘差網絡的核心即殘差模塊的基本結構如圖3所示。

在每個殘差模塊中，代表原始輸入的identity與經過特征提取層的輸出F（x）相加，得到最終的輸出H（x），此時F（x）=H（x）-x，即為最終輸出的殘差，以此達到讓模型學習殘差的目的。殘差模塊的計算公式為：

式中：yi表示第i個殘差塊輸出結果；wi表示第i個殘差塊權重層；xi表示第i個殘差塊輸入特征；downsample表示下采樣操作。

在反向傳播過程中，由于模型學習的F（x）=H（x）-x，因此梯度可以始終保持一個較大的值，不會因為網絡的加深而出現彌散現象，便于模型參數的優(yōu)化。同時模型深度的增加提高了模型的表達能力，有利于提高最終的病害分類精度?？紤]到模型容量與數據規(guī)模的適配性，本研究選擇ResNet18作為基礎網絡。

2.2深度超參數化金字塔卷積

草莓病害特征在尺度分布上有較大差異，如蛇眼病早期在葉片上形成許多近圓形小斑點，呈現小而密的特點，但在中后期小斑點會匯聚成大病斑，形成類別內的特征尺度差異；另外，果實病害形成的病斑較大，如白粉病的白色菌層等，而在葉片上的病斑較小，如角斑病的角狀病斑，構成類別間的尺度差異。因此，采用多尺度特征提取，有利于模型精準捕捉到不同病害的發(fā)病部位。但是，現有多尺度特征提取通常使用多分支融合方式進行，易導致模型參數量增加，使得模型在參數空間中難以收斂。為此，結合深度超參數化卷積與金字塔卷積模型，提出了深度超參數化金字塔卷積模型，在提取多尺度特征的同時，便于網絡收斂和最優(yōu)參數組合。

由圖4可見，金字塔卷積由1個卷積核金字塔構成，集成了不同尺度的卷積核。大尺度卷積核具備較大感受野，可以提取草莓病害中的大病斑特征；小尺度卷積核感受野較小，可以提取小病斑特征。在多種尺度的卷積操作之后，通過調整padding、stride等參數，將不同尺度的病斑特征統(tǒng)一到同一尺度特征圖下，再通過通道拼接的方式完成特征融合。

本研究在金字塔卷積基礎上引入深度超參數化卷積，核金字塔中采用不同尺度的深度超參數化卷積，形成深度超參數化金字塔卷積。進行特征提取時首先使用1次深度卷積［25］，再使用1次標準卷積，計算完成后得到某一個尺度上的輸出特征圖。深度卷積使單一卷積核卷積單一通道，針對某一特定通道，使用Dmul個卷積核，能得到Dmul個特征圖。因此，假定卷積核尺度為m×n，輸入通道數為Cin，輸出通道數為Cout，則深度卷積的權重空間屬于F（Cin×Dmul×m×n）。由于每次卷積只利用了單一通道的信息，沒有進行跨通道交互，導致了信息損失。因此，再對中間結果進行標準卷積，將多通道信息融合，此時所用的標準卷積權重空間屬于R（Cin×Cout×Dmul）。深度超參數化卷積的計算公式為：

式中：P表示輸入特征圖；O表示輸出特征圖；D表示深度卷積核；o表示深度卷積操作；W表示標準卷積核；*表示標準卷積操作。

根據文獻［18］中的方法，令Dmul=m×n，則會多出Cin×m×n×Dmul個參數，為1個深度卷積的參數量。與原來的金字塔卷積相比，在引入深度超參數化卷積后，雖然在一定程度上增加了參數量，但是在正向傳播過程中，深度卷積核與標準卷積核通過核融合方式，可以合并為單一卷積核，不會增加計算需求。在反向傳播時，核金字塔所有層中的2個卷積核可以同時被訓練，相較于標準的卷積方式，額外進行了1次參數更新，因此可以加速模型的訓練，優(yōu)化模型在參數空間中的收斂過程。消融試驗結果表明，金字塔卷積與深度超參數卷積結合，可以有效抵消由增加多尺度組件和其他網絡組件帶來的模型復雜度、干擾模型收斂等問題，有利于提高整體的識別準確率。

2.3基于雙重池化的通道增強模塊

草莓病害圖像中除了病斑，還有背景和未被病害侵染的健康組織，而不同通道的特征圖中可能包含了這些影響模型分類的信息，需要進行篩選。同時，不同尺度下，特征的重要程度受病害性狀的影響。為此，本研究提出了基于雙重池化的通道增強模塊，對尺度進行自適應增強和選擇。該機制根據每一幅特征圖的全局信息和最大信息，進行特征通道的重標定，能增強對識別任務更有幫助的通道，抑制較無用的通道。由于模型中不同通道中的信息含有不同尺度下提取的特征語義，因此，增強通道的行為將改進模型學習中較重要的尺度。

基于雙重池化的通道篩選模塊結構如圖5所示，首先進行平均池化和最大池化，得到每個通道特征圖的全局表示和最大表示，然后沿著通道維度分別進行一維卷積，將卷積得到的2個結果相加，并進行Sigmoid運算，最終結果作為權重，并將相應的通道加權。在一維卷積核長度為2K+1時，公式如下。

式中：AvgPool表示全局平均池化；MaxPool表示全局最大池化；ai表示平均信息一維卷積中第i個權重；bi表示最大信息一維卷積中第i個權重；σ（·）表示Sigmoid運算；xi表示第i個通道特征圖；wi表示第i個通道權重。

通道增強模塊使用了病害的全局信息和最大信息，相較于ECA注意力［26］，使用了更多信息，提高了通道特征的表達能力，增加了特征重標定的精確性。在進行一維卷積時，不同通道均利用了相鄰通道的信息，形成跨域的信息流通，相較于SE注意力及其變體［27］，避免壓縮過程中通道降維操作導致的信息損失等負面影響。

2.4病害識別模型結構

在ResNet18的基礎上，CEM-DOPConv-ResNet18加入深度超參數化金字塔卷積與通道增強模塊，共分為4個殘差層，每層包含2個殘差模塊。將每個殘差塊中第1個3×3卷積替換為多尺度卷積，從第1層到第4層，核金字塔內的核尺度依次為（3，5，7，9）、（3，5，7）、（3，5）、3。將第2個3×3卷積替換為1×1卷積進行通道升降維。同時，在每個殘差塊的末尾加入通道增強模塊；為便于梯度計算，將模塊放置在殘差連接之前。特征降采樣由每層第1個殘差塊中步長為2的多尺度卷積完成。在網絡最后，保留原有平均池化與全連接層，作為最終分類判別輸出，整體網絡結構和各殘差層內部結構如圖6所示。

3試驗結果與分析

本試驗于2022年9月在西北農林科技大學信息工程學院深度學習服務器上運行，試驗環(huán)境使用Ubuntu20.04.4，CPU型號為IntelXeonE5-2690v4（14核、主頻2.6GHz），GPU型號為NVIDIAGeForceRTX3080Ti（流處理器10240個、顯存16GB），深度學習框架為PyTorch1.10.2。訓練過程中，為使模型能夠逃離局部最小點，優(yōu)化器采用帶動量的SGD［28］，學習率調整采用余弦退火策略。

試驗參數設置訓練輪數為80，批次大小為128，初始學習率為0.001，動量值為0.7，余弦退火周期為10個訓練輪數。余弦退火的學習率變化曲線如圖7所示，余弦退火可使學習率的大小如余弦函數般周期性變化；在1個周期的最大值中，模型可以憑借較大的學習率逃離局部最優(yōu)點，然后學習率逐漸減小，使模型能夠在一段區(qū)間內較好地收斂。在多個周期中，學習率會循環(huán)變化，覆蓋范圍較大，具有較好的魯棒性。

3.1模型性能對比

將本研究模型與經典模型對測試集準確率、精確率、召回率、F1值、參數量、內存占用量大小6個指標進行比較，結果如表4所示。同時，對各模型進行不同類別草莓病害識別準確率對比，結果如表5所示。

由表4可知，CEM-DOPConv-ResNet18取得最高的準確率和F1值，且內存占用較??；相較于InceptionV3、ResNet34，在減少內存占用的同時提高了準確率；相較于基礎模型ResNet18，參數量、模型內存占用量分別下降了16.7%、16.6%。

由表5可知，果實上炭疽病、灰霉病、白粉病的識別準確率較低。這是因為，果實上的白粉病與炭疽病在發(fā)病早期癥狀較為類似，都會呈現灰白色覆蓋物的特征，所以兩者區(qū)分較為困難。從特征細節(jié)看，白粉病是附著表面的白色菌絲且覆蓋面積大，而灰霉病是不規(guī)則的灰色霉層且覆蓋面較小，兩者全局信息相似但有細微的顏色差異和尺度差異。除此之外，炭疽病和灰霉病的褐色病斑顏色相近，蛇眼病發(fā)病前后期的病斑大小不一致，都具有一定的識別難度。本研究中，CEM-DOPConv-ResNet18在果實白粉病、灰霉病和葉片角斑病、枯萎病、白粉病的識別上，取得了最高的準確率，在炭疽病果實的識別上僅次于ResNet34，在蛇眼病葉片的識別上僅次于InceptionV3。上述結果充分說明，該模型能夠捕捉不同病害癥狀之間的細微差別和尺度差異，對草莓病害圖像分類有良好表現。

為了直觀地呈現不同模型在訓練過程中驗證集準確率的變化，繪制訓練曲線（圖8）。由圖8可知，本研究所提出模型在訓練過程中始終保持較高的準確率，曲線振蕩幅度較小，整體較平滑，這說明深度超參數化卷積對于模型訓練有優(yōu)化作用?；煜仃嚳梢跃唧w反映出模型的誤識別情況。由圖9可得，模型將26個炭疽病果實識別為灰霉病果實，11個灰霉病果實識別為炭疽病果實。由圖10可見，灰霉病前期會在果實表面形成褐色病斑，后產生灰色霉層；炭疽病也會在果實表面形成褐色病斑。在灰霉病褐色病斑與霉層交疊時，產生出與炭疽病病斑相近的癥狀，因此導致模型的誤識別。

同時，模型將34個白粉病果實識別為了灰霉病果實。由圖11可見，2類果實表面均有白色絮狀覆蓋物。白粉病果實發(fā)病會在表面生成白色霉層，而灰霉病會在發(fā)病時生成灰色霉層，在一定的光照與角度下，2種霉層顏色較相近，因此導致了模型的誤識別。

綜上所述，本研究提出的模型在對于葉片發(fā)病部位的分類上具有較高的準確率，多尺度的特征提取與通道域增強的尺度選擇，可以減少模型對病斑大小的敏感性，能夠對大小病斑進行合理提取并區(qū)分。模型對部分發(fā)病果實有一定誤識別現象，因為不同的果實病害在不同發(fā)病時期可能會產生相近且難以區(qū)分的癥狀，因此增加了模型識別的難度。

3.2消融試驗

為了分析深度超參數化金字塔卷積和通道增強模塊對于模型的提升效果，本研究設置了消融試驗，結果如表6所示。使用了多尺度卷積后，模型的識別性能都有較大的提升。在使用標準卷積的金字塔卷積模型中，增加CEM后，識別準確率有所下降，表明了金字塔卷積與CEM的融合為模型性能帶來了負面影響。因為增加網絡組件而提升了模型復雜度，使得模型的收斂變得更加困難，造成性能的下降。在使用深度超參數化金字塔卷積后，再加入CEM，模型的準確率提高了1.099百分點，F1值提高了2.026百分點，表明深度超參數金字塔卷積與CEM的融合進一步提升了模型性能。同時，引入了深度超參數卷積，模型準確率均高于未引入時。由此可以看出，深度超參數化卷積可以優(yōu)化模型的收斂，對于其他網絡組件有更好的兼容性，使得模型學習到更優(yōu)的參數組合。

3.3特征可視化

為了直觀了解圖像中對于模型決策更加重要的部分，使用類激活圖（classattentionmap，CAM）［29］進行特征可視化。由圖12可知，高激活值區(qū)域可以覆蓋各個病害的發(fā)病區(qū)域，且大小不一。CEM-DOPConv-ResNet18對于果實上的炭疽病、灰霉病、白粉病，在表面覆蓋物和潰爛處激活值較高；對于葉片上的蛇眼病、角斑病，高激活值部分基本覆蓋病斑區(qū)域，但是分布并不均勻。對于葉片上的枯萎病、白粉病，高激活值部分精準覆蓋發(fā)病區(qū)域。因此，本研究提出的CEM-DOPConv-ResNet18模型可有效捕捉不同部位、不同尺度下的發(fā)病特征。

4結論

針對草莓病害的不同發(fā)病部位和不同病斑尺度等識別問題，提出了深度超參數化金字塔卷積，并以ResNet18為基礎模型進行改進優(yōu)化，將殘差塊中的第1個3×3卷積改為金字塔卷積，將第2個3×3卷積改為1×1卷積，使得模型可以提取多尺度特征。同時，在殘差連接之前加入通道增強模塊，增強較有用的通道，抑制較無用的通道，進行尺度篩選。

改進后的CEM-DOPConv-ResNet18對于7類草莓病害的分類準確度達97.867%，相較于原本的ResNet18提高了3.045百分點；模型參數量、內存占用量分別下降了16.7%、16.6%，降低模型復雜度的同時，提高了模型性能。相較于ResNet18，對果實上發(fā)病性狀相似的白粉病、灰霉病、炭疽病的識別準確率均有所提高。

本研究提出的深度超參數化金字塔卷積算子，可以增加特征多尺度提取能力，還能優(yōu)化模型收斂，對于其他網絡組件具有較好的兼容度，可以應用到相似識別領域。

參考文獻：

［1］王鳴謙，薛莉，趙珺，等.世界草莓生產及貿易現狀［J］.中國果樹，2021（2）：104-108.

［2］ThakurPS，KhannaP，SheoreyT，etal.Trendsinvision-basedmachinelearningtechniquesforplantdiseaseidentification：asystematicreview［J］.ExpertSystemsWithApplications，2022，208：118117.

［3］翟肇裕，曹益飛，徐煥良，等.農作物病蟲害識別關鍵技術研究綜述［J］.農業(yè)機械學報，2021，52（7）：1-18.

［4］NgugiLC，AbelwahabM，Abo-ZahhadM.Recentadvancesinimageprocessingtechniquesforautomatedleafpestanddiseaserecognition-Areview［J］.InformationProcessinginAgriculture，2021，8（1）：27-51.

［5］MaL，GuoXL，ZhaoSK，etal.Algorithmofstrawberrydiseaserecognitionbasedondeepconvolutionalneuralnetwork［J］.Complexity，2021，2021：1-10.

［6］KimB，HanYK，ParkJH，etal.Improvedvision-baseddetectionofstrawberrydiseasesusingadeepneuralnetwork［J］.FrontiersinPlantScience，2021，11：559172.

［7］ZhuangFZ，QiZY，DuanKY，etal.Acomprehensivesurveyontransferlearning［J］.ProceedingsoftheIEEE，2021，109（1）：43-76.

［8］丁永軍，張晶晶，李民贊.基于卷積膠囊網絡的百合病害識別研究［J］.農業(yè)機械學報，2020，51（12）：246-251，331.

［9］張會敏，謝澤奇，張善文.基于注意力膠囊網絡的作物病害識別方法［J］.江蘇農業(yè)科學，2022，50（6）：101-106.

［10］KwabenaPatrickM，FelixAdekoyaA，AbraMightyA，etal.Capsulenetworks-Asurvey［J］.JournalofKingSaudUniversity-ComputerandInformationSciences，2022，34（1）：1295-1310.

［11］李書琴，陳聰，朱彤，等.基于輕量級殘差網絡的植物葉片病害識別［J］.農業(yè)機械學報，2022，53（3）：243-250.

［12］王美華，吳振鑫，周祖光.基于注意力改進CBAM的農作物病蟲害細粒度識別研究［J］.農業(yè)機械學報，2021，52（4）：239-247.

［13］NiuZY，ZhongGQ，YuH.Areviewontheattentionmechanismofdeeplearning［J］.Neurocomputing，2021，452：48-62.

［14］ShiH，CaoG，GeZX，etal.Double-branchnetworkwithpyramidalconvolutionanditerativeattentionforhyperspectralimageclassification［J］.RemoteSensing，2021，13（7）：1403.

［15］YangXH，YangY，YangJ，etal.Imagemulti-labelclassificationbasedonpyramidconvolutionandsplit-attentionmechanism［C］//202118thInternationalComputerConferenceonWaveletActiveMediaTechnologyandInformationProcessing（ICCWAMTIP）.December17-19，2021，Chengdu，China.IEEE，2022：534-538.

［16］LiCY，FanYX，CaiXD.PyConvU-Net：alightweightandmultiscalenetworkforbiomedicalimagesegmentation［J］.BMCBioinformatics，2021，22（1）：14.

［17］黃林生，羅耀武，楊小冬，等.基于注意力機制和多尺度殘差網絡的農作物病害識別［J］.農業(yè)機械學報，2021，52（10）：264-271.

［18］CaoJM，LiYY，SunMC，etal.DO-conv：depthwiseover-parameterizedconvolutionallayer［J］.IEEETransactionsonImageProcessing，2022，31：3726-3736.

［19］GaoHM，ChenZH，LiCM.Shallownetworkbasedondepthwiseoverparameterizedconvolutionforhyperspectralimageclassification［J］.IEEEGeoscienceandRemoteSensingLetters，2022，19：1-5.

［20］WangYY，ZhangWS，ZhangLM，etal.Depthwiseover-parameterizedSiamesenetworkforvisualtracking［C］//2021InternationalConferenceonInformationTechnologyandBiomedicalEngineering（ICITBE）.December24-26，2021，Nanchang，China.IEEE，2022：58-62.

［21］LiuYH，ShenJ，YangL，etal.ResDO-UNet：adeepresidualnetworkforaccurateretinalvesselsegmentationfromfundusimages［J］.BiomedicalSignalProcessingandControl，2023，79：104087.

［22］AfzaalU，BhattaraiB，PandeyaYR，etal.AninstancesegmentationmodelforstrawberrydiseasesbasedonmaskR-CNN［J］.Sensors，2021，21（19）：6565.

［23］ShortenC，KhoshgoftaarTM.Asurveyonimagedataaugmentationfordeeplearning［J］.JournalofBigData，2019，6（1）：1-48.

［24］HeKM，ZhangXY，RenSQ，etal.Deepresiduallearningforimagerecognition［C］//2016IEEEConferenceonComputerVisionandPatternRecognition（CVPR）.June27-30，2016，LasVegas，NV，USA.IEEE，2016：770-778.

［25］CholletF.Xception：deeplearningwithdepthwiseseparableconvolutions［C］//2017IEEEConferenceonComputerVisionandPatternRecognition（CVPR）.July21-26，2017，Honolulu，HI，USA.IEEE，2017：1800-1807.

［26］WangQL，WuBG，ZhuPF，etal.ECA-net：efficientchannelattentionfordeepconvolutionalneuralnetworks［C］//2020IEEE/CVFConferenceonComputerVisionandPatternRecognition（CVPR）.June13-19，2020.Seattle，WA，USA.IEEE，2020：11531-11539.

［27］HuJ，ShenL，AlbanieS，etal.Squeeze-and-excitationnetworks［J］.IEEETransactionsonPatternAnalysisandMachineIntelligence，2020，42（8）：2011-2023.

［28］史加榮，王丹，尚凡華，等.隨機梯度下降算法研究進展［J］.自動化學報，2021，47（9）：2103-2119.

［29］ZhouBL，KhoslaA，LapedrizaA，etal.Learningdeepfeaturesfordiscriminativelocalization［C］//2016IEEEConferenceonComputerVisionandPatternRecognition（CVPR）.June27-30，2016.LasVegas，NV，USA.IEEE，2016：2921-2929.