高光譜和卷積神經(jīng)網(wǎng)絡的大白菜農殘檢測

姜榮昌， 顧鳴聲， 趙慶賀， 李欣然， 沈景新,3， 蘇中濱*

1. 東北農業(yè)大學電氣與信息學院， 黑龍江 哈爾濱 150030

2. 哈爾濱市大數(shù)據(jù)中心， 黑龍江 哈爾濱 150030

3. 山東省農業(yè)機械科學研究院， 山東 濟南 250100

引 言

大白菜營養(yǎng)豐富價格低廉， 經(jīng)過加工腌制后可做成泡菜、 酸菜等， 是老百姓餐桌上不可或缺的美味佳肴。 在大白菜種植過程中不可避免的使用農藥來防治病蟲害。 一些農戶缺乏農藥用藥常識， 片面追求高產， 使得農藥的不規(guī)范使用、 濫用問題日益嚴重， 造成大白菜葉片中殘留過量農藥； 實驗證明成年人長期食用含有農藥殘留超限的蔬菜后， 會出現(xiàn)腹瀉、 腸道菌群失調或慢性中毒等不同反應； 兒童會出現(xiàn)非正常性生理早熟、 智力發(fā)育遲緩， 重度可導致身體畸形和基因突變。 因此， 如何無損、 快速、 準確的進行大白菜農殘檢測具有十分重要的意義。

現(xiàn)階段農藥殘留化學檢測常用方法有理化分析法和免疫分析法， 雖然這兩種方法具有高靈敏度和精度， 但是， 理化分析法和免疫分析法檢測前都需要較復雜的預處理工序， 費時、 費力、 有破壞性， 而且易出現(xiàn)假陰性或假陽性[1]等現(xiàn)象。 隨著光譜技術不斷進步， 基于光譜技術的農藥殘留檢測應用逐漸增多， 常見的光譜技術有基于拉曼和紅外光譜技術[2-3]， 由于檢測機理的限制， 拉曼和紅外光譜易受環(huán)境干擾， 影響測量精度和靈敏度。

近幾年高光譜技術在農作物農藥殘留檢測方面應用逐漸增多， 高光譜技術與拉曼和紅外等光譜技術相比具有圖譜合一的優(yōu)點， 不僅提供光譜空間分布信息， 而且高度連續(xù)且密集光譜信號可對被測物體化學組成精確定量分析； Sun等[4]利用高光譜技術獲取生菜葉片高光譜數(shù)據(jù)并建模， 基于隨機森林-遞歸特征消除-連續(xù)投影算法-最小二乘支持向量回歸(RF-RFE-SPA-LSSVR)模型能夠識別混合農藥殘留， 模型預測準確率為93.86%。 吉海彥等[5]利用高光譜成像儀采集菠菜葉片900～1 700 nm光譜數(shù)據(jù)， 采用卡方檢驗特征選擇算法篩選出8個特征波長后， 再利用支持向量機建立識別模型， 模型預測準確率為99.30%， 能夠準確識別菠菜葉片農藥殘留。

針對現(xiàn)階段農藥殘留檢測方法的不足和大白菜農殘無損、 快速檢測空白， 利用高光譜技術的優(yōu)點， 提出了一種基于高光譜離散小波變換和卷積神經(jīng)網(wǎng)絡(CNN)的大白菜農藥殘留檢測識別算法， 應用于大白菜樣本高光譜數(shù)據(jù)集， 驗證所提算法的可靠性和準確度， 為后期建立基于便攜式農藥殘留檢測設備打下基礎。

1 實驗部分

1.1 樣本制備

實驗所用的大白菜樣本均采購于哈爾濱市某大型商超。 實驗農藥為40%毒死蜱(市售， 河北八源生物制品有限公司)、 58.00 mg·L-1樂果(網(wǎng)購， 中國計量科學研究院)、 90%滅多威(市售， 山東華陽農藥化工集團有限公司)和4.5%氯氰菊酯(市售， 安徽尚禾沃達生物科技有限公司)。 按照《中華人民共和國食品安全國家標準GB2763—2019》中大白菜最大農藥殘留限量要求， 分別將毒死蜱、 樂果、 滅多威和氯氰菊酯分別配置0.10， 1.00， 0.20和2.00 mg·kg-1的藥溶液分別裝入4個噴壺內， 噴射距離8～10 cm， 每種藥溶噴灑10個樣本， 共計40個樣本， 均勻噴后平放置于室溫(溫度20 ℃， 濕度65%RH)自然吸收12 h后采集高光譜影像數(shù)據(jù)(共50個樣本， 其中10個為無農藥殘留樣本)。

1.2 高光譜成像系統(tǒng)

高光譜采集設備使用美國Headwall Photonics公司生產的高光譜成像系統(tǒng)， 由面陣CCD、 光柵光譜儀、 高光譜成像鏡頭、 均勻光源、 一維電動臺、 USB1394圖像采集卡、 高性能圖形工作站及相關采控軟件構成。 實驗所用高光譜相機分辨率為1 000×164 Pix， 位深度為24 bit， 線性陣列掃描成像方式； 光柵光譜儀的光譜范圍為400～1 000 nm， 共有800個波段， 光源由2個200 W溴鎢燈構成， 位于電動臺兩側， 入射角呈45°； 采控軟件通過RS232串口控制電動臺移動速度及方向， 如圖1所示。

圖1 高光譜成像系統(tǒng)結構示意圖

1.3 高光譜圖像數(shù)據(jù)標定與采集

高光譜圖像采集過程中會受到兩方面干擾， 一方面是由于大白菜樣本形狀各異、 表面高低不平等原因會產生漫反射； 另一方面是由于電網(wǎng)中暗電流和諧波的存在， 導致相機工作狀態(tài)不穩(wěn)定， 產生較大的圖像噪聲， 影響光譜采集效果。 因此， 在采集前必須對高光譜相機進行參數(shù)設置和黑白校正， 經(jīng)多次調試和效果比對， 最終曝光時間設置為0.03 s， 電動臺的移動速度參數(shù)設置為3.0 mm·s-1， 鏡頭垂直向下距電動臺450 mm。

后續(xù)所使用的數(shù)據(jù)分析處理軟件包括： ENVI 5.2(ITT Visual Information Solutions， Boulder， Co.， USA)， OriginPro 8(OriginLab Co.， Ma， USA)， The Unscrambler X 10.4， Python 3.6， TensorFlow 2.0等軟件。

1.4 樣本感興趣區(qū)域選取

為方便數(shù)據(jù)采集將大白菜樣本裁剪為16 cm×8 cm長方條， 使用ENVI軟件在每個大白菜樣本上避開主莖干選取40個感興趣區(qū)域(region of interest， ROI)， 選取位置如圖2所示。 每個ROI選擇的范圍是30×30 Pix， 計算出這900個像素點平均光譜反射值作為一條光譜記錄， 共計2 000條(5×400)光譜記錄。

圖2 大白菜樣本ROI選取示意圖

1.5 光譜預處理與噪聲裁剪

在高光譜圖像采集過程中， 會受到來自樣本自身因素干擾(如樣本平整度、 色差和水分含量等)和環(huán)境因素干擾等， 為了減少上述干擾的影響， 需要對高光譜圖像進行光譜預處理以消除干擾影響。 使用Unscrambler軟件對高光譜數(shù)據(jù)進行多元散射校正(multiple scattering correction， MSC)預處理； 5組樣本各隨機選取200條光譜在預處理前與后的譜形如圖3所示。 圖3(a)為未經(jīng)光譜預處理的原始樣本曲線， 圖3(b)為經(jīng)MSC預處理后樣本曲線。

如圖3(b)所示， 靠近400和1 000 nm邊緣波段光譜反射曲線波動較劇烈， 說明此處受到干擾較大， 數(shù)據(jù)嚴重失真， 影響后期建模分類效果； 因此， 需要進行噪聲裁剪， 為每個樣本掐頭去尾剔除噪聲較大400～414和912～1 000 nm的邊緣波段， 保留415～911 nm(對應原800波段中的20～749， 共計729波段)用于建模分析。

圖3 光譜數(shù)據(jù)預處理

1.6 離散小波變換降維算法

小波變換(wavelet transform， WT)是一種信號變換分析方法， 提供一種隨頻率改變的“時間-頻率”窗口， 通過小波基函數(shù)的伸縮平移運算實現(xiàn)信號(函數(shù))多尺度、 多分辨細化， 可同時提取細節(jié)分量(高頻部分)和近似分量(低頻部分)， 連續(xù)小波變換表達式為

(1)

式(1)中，j為縮放因子，k為平移因子，j和k均為連續(xù)變量，Ψ(λ)為小波基函數(shù)。

離散小波變換[6](discrete wavelet transform， DWT)是小波變換的一種， 可實現(xiàn)在離散尺度上進行信號分解， 通過高低通濾波器來實現(xiàn)高低頻信號分解， 離散變換公式為

DWT(a，b)=〈f(λ)，φa，b(λ)〉

(2)

式(2)中，a和b分別為第a層分解和第b個小波系數(shù)，φa，b(λ)為離散小波基函數(shù)。

將高光譜數(shù)據(jù)中的波長-反射率與信號的時間-頻率相對應， 利用離散小波變換多尺度分解特性實現(xiàn)降維， 既每層變換均略去細節(jié)分量(高頻部分)， 將分解后的近似分量(低頻部分)作為建模數(shù)據(jù)， 以此類推， 每層變換均在上層變換的近似分量基礎上進行再變換， 每層變換數(shù)據(jù)維度減半， 達到數(shù)據(jù)降維目的。

1.7 分類識別模型的建立

1.7.1 多層感知機

所使用的多層感知機(multilayer percetron, MLP)[7]具有4個全連接層和1個輸出層， 網(wǎng)絡結構如表1所示； 設置學習率learning_rate(LR)為0.001， 迭代次數(shù)epochs為500， 批量大小為batch_size(BS)為64， 測試集驗證頻率validation_freq為1， 優(yōu)化器使用Adam算法。

表1 多層感知機網(wǎng)絡結構

1.7.2 卷積神經(jīng)網(wǎng)絡

卷積神經(jīng)網(wǎng)絡[8](convolutional neural networks， CNN)是一種在多層感知機基礎上建立的深度學習網(wǎng)絡， 通過增加若干個卷積層(convolution layer)來增強網(wǎng)絡的特征抓取能力。 雖然經(jīng)典模型如AlexNet(8層)、 VGGNet(11～19層)、 GoogLeNet(Inception V1 22層)、 ResNet(18～152層)分類效果較好， 但模型層數(shù)較多、 參數(shù)量巨大， 對硬件性能要求較高。 本工作重新設計卷積神經(jīng)網(wǎng)絡結構如圖4所示； 高光譜大白菜樣本圖像經(jīng)ROI提取、 預處理和噪聲裁剪后數(shù)據(jù)為2 000×1×1×729， 為了便于二維卷積運算， 將光譜數(shù)據(jù)變形為2 000×27×27×1(all_batch×width×height×channels)， 卷積神經(jīng)網(wǎng)絡結構參數(shù)設置如表2所示。

表2 卷積神經(jīng)網(wǎng)絡結構參數(shù)設置

圖4 卷積神經(jīng)網(wǎng)絡結構

卷積神經(jīng)超參數(shù)的選取直接影響到識別模型分類精度， 為了確定關鍵超參數(shù)Learning_rate， Batch_size和Epochs， 高光譜數(shù)據(jù)經(jīng)多次、 多參數(shù)訓練， 如圖5所示； 圖5(a)為Batch_size=50， Epochs=1 000時， 4種不同Learning_rate下的模型訓練損失值， 從中可以看出當Learning_rate為0.005和0.01時均出現(xiàn)Training loss value(TLA)為不變值1.6， 說明此時Learning_rate過大， 導致模型無法收斂； 當Learning_rate為0.001時模型收斂速度較快。 圖5(b)為Learning_rate=0.001， Epochs=1 000時， 6種不同Batch_size下的模型訓練損失值， 中可以看出當Batch_size為70， 90， 110和130時Training loss value下降緩慢且振蕩劇烈， 說明此時模型不穩(wěn)定， 泛化能力較弱； 僅當Batch_size為50時Training loss value下降迅速且起伏較小。 圖5(c)為Learning_rate=0.001， Batch_size=50時， 6種不同Epochs下的模型訓練損失值， 從中可以看到隨著Epochs不斷增加， 總體精度(overall accuracy, OA)呈明顯上升趨勢， 當Epochs為1 000時， OA到達頂峰。 綜合考量， 最終確定超參數(shù)Learning_rate為0.001， Batch_size為50， Epochs為1000， 優(yōu)化器采用Adam算法。

圖5 卷積神經(jīng)網(wǎng)絡超參數(shù)選擇

為了更全面比較模型性能和精度， 同時還采用支持向量機(support vector machine， SVM)和K最鄰近(K-nearest neighbor， KNN)機器學習算法進行建模。

由于樣本數(shù)量較少， 容易發(fā)生模型過擬合， 在建模過程中引入數(shù)據(jù)增強技術(data augmentation)， 在原有的高光譜數(shù)據(jù)基礎上增加高斯噪聲， 將樣本數(shù)據(jù)量擴充為原來的2倍； 除此之外， 還采用Dropout和Regularization L2技術提高模型泛化能力和魯棒性。

2 結果與討論

2.1 樣品光譜曲線分析

為了從光譜曲線角度清楚地區(qū)分不同類型的樣品之間的光譜信息的差異， 將每類樣品的400條光譜曲線取平均值， 得到該平均光譜曲線如圖6所示。

由圖6可以看出， 在400～700 nm波段內， 出現(xiàn)3次較為明顯反射波谷， 分別出現(xiàn)在410 nm紫光、 490 nm青光和667 nm紅光附近； 在667～710 nm波段內反射率陡然上升， 710 nm波段后反射率逐漸平穩(wěn)， 符合綠色葉片光譜反射率規(guī)律。 在530～667 nm波段內5條光譜反射曲線區(qū)分度較高， 印證了葉片光譜反射率與農藥脅迫存在相關聯(lián)理論[9]， 為實現(xiàn)通過光譜對大白菜農藥殘留進行識別提供了科學依據(jù)。

圖6 大白菜樣本平均光譜曲線

2.2 降維算法分析

2.2.1 離散小波變換降維

為了比較降維效果， 以db1小波基為例， 在平均光譜曲線上進行離散小波變換， 每次變換后均只保留低頻分量， 舍棄高頻噪聲分量， 1～6層離散變換降維后得到的數(shù)據(jù)維度分別為364， 182， 91， 45， 22和11。

降維后的光譜曲線如圖7所示， 可以看到隨著變換層數(shù)的增加， 曲線形狀與原始曲線差異逐漸變大； 圖7(a)為經(jīng)過1層離散小波變換后的低頻分量曲線， 與圖6相比具有較高的相似性， 能夠較好的表征原曲線之間相對位置關系， 但所用數(shù)據(jù)維度只占原數(shù)據(jù)的1/2； 隨著離散小波變換層數(shù)的增加， 數(shù)據(jù)維度以2-m遞減(m為小波變換層數(shù))， 圖7 (f)為經(jīng)過6層離散小波變換后的曲線， 雖然數(shù)據(jù)維度只有11維， 仍能夠看出在關鍵的節(jié)點處曲線相對位置關系。

圖7 基于db1小波基函數(shù)離散小波變換后的低頻部分曲線

2.2.2 PCA和CARS降維

采用主成分分析(principal component analysis， PCA)算法對所有裁剪后的大白菜高光譜數(shù)據(jù)進行降維， 前11， 22， 45， 91， 182和364主成分累計貢獻率分別為99.11%， 99.48%， 99.76%， 99.91%， 99.98%和99.99%。

采用競爭性自適應重加權算法(competitive adaptive reweighted sampling， CARS)進行全樣本降維， 其中， 采樣頻率設置為0.8， 篩選閾值為0.8， 蒙特卡洛采樣次數(shù)為300， 交互驗證組為15， 篩選過程如圖8。

在圖8(a)和(b)中可以看到隨著運行次數(shù)的增加， 特征波長數(shù)量逐漸減少， RMSECV呈現(xiàn)先下降后上升的趨勢， 當在140次運行時RMSECV到達最小值； 圖8(c)表示特征波長變量回歸系數(shù)的變化趨勢， “*”表示RMSECV最小的位置， CARS共篩選出特征波長39個， 占全波段的6.12%， 特征波長分別為430.04， 445.81， 448.06， 448.81， 449.56， 472.09， 472.84， 509.64， 534.42， 538.17， 625.28， 626.78， 627.53， 703.38， 749.19， 749.94， 755.19， 756.70， 757.45， 767.21， 767.96， 797.25， 804.76， 805.51， 807.01， 812.27， 823.53， 830.29， 831.04， 831.79， 832.54， 833.29， 840.05， 843.05， 873.09， 892.62， 909.89， 928.66， 936.17 nm。

圖8 CARS篩選特征波長過程

2.3 識別模型評價

2.3.1 基于多種小波基離散變換降維模型評價

不同的小波基函數(shù)降維效果不同， 為了獲得最佳分類識別效果， 選取Daubechies小波族中的db1， Symlets中的sym2， Coiflets中的coif1， Biorthogonal中的bior2.2和ReverseBior中的rbio1.5分別對數(shù)據(jù)進行1～6層小波變換后建立識別模型， 建立流程如圖9所示。 樣本劃分采用Kennard-Stone算法， 樣本總數(shù)的75%作為訓練集， 25%作為預測集。

圖9 基于高光譜離散小波變換的卷積神經(jīng)網(wǎng)絡分類流程圖

4種算法的總體精度如圖10(a)—(d)所示。 總體來看， 基于CNN和MLP算法的總體精度曲線平穩(wěn)度均高于基于KNN和SVM算法， 說明CNN和MLP算法學習與預測能力較強， 各算法總體精度隨離散變換層數(shù)的增加成波浪式上下浮動， 經(jīng)bior2.2降維后的總體精度高于其他。 圖10(a)中除db1和rbio1.5小波基外， 其余小波基降維后基于CNN算法建模總體精度在78.40%～91.20%之間波動； 其中， 經(jīng)coif1第2層變換時總體精度取得最優(yōu)值為91.20%； 圖10(b)中經(jīng)coif1和rbio1.5第4層變換后MLP算法總體精度均取得最優(yōu)值為83.20%； 圖10(c)中經(jīng)sym2第2層變換后KNN算法總體精度取得最優(yōu)值為66.40%； 圖10(d)中經(jīng)bior2.2第2層變換后SVM算法總體精度取得最優(yōu)值為90.40%。

圖10 基于DWT， PCA和CARS降維的建模結果

2.3.2 基于PCA和CARS降維模型評價

為充分驗證本研究所提出的離散小波變換降維算法的可靠性， 分別取PCA降維后前364， 182， 91， 45， 22和11個主成分(分別對應離散小波1～6層變換后的數(shù)據(jù)維度)進行建模， 4種算法的總體精度如圖10(e)所示。 隨著數(shù)據(jù)維度的減少， CNN和MLP算法總體精度波動不大， 但KNN和SVM算法的總體精度波動較大， 相比而言CNN和MLP算法學習能力相對較強， 模型穩(wěn)定性較好。 SVM算法在取前45個主成分時獲得最優(yōu)總體精度為62.80%。 經(jīng)CARS降維后4種算法的總體精度如圖10(f)所示， CNN取得該降維算法最高總體精度82.40%， KNN算法總體精度最低為11.20%， 可見KNN算法不適合該類數(shù)據(jù)樣本。

2.3.3 不同降維和建模算法橫向評價

3種降維和4種建模算法總體精度和Kappa系數(shù)如表3所示。 從整體來看在總樣本未經(jīng)降維過程的分類模型預測用時最長， 精度不高； 基于CARS降維算法分類總體精度最低； 經(jīng)DWT降維后的分類模型KNN， SVM， MLP和CNN總體精度分別為66.40%， 90.40%， 83.20%和91.20%。 此外， 經(jīng)DWT降維后4種分類算法預測用時略高于其他2種降維算法。

表3 不同算法的總體精度和Kappa系數(shù)

不同算法的分類精度如表4所示， 從整體來看滅多威和樂果分類精度較低(分類精度分別為92.00%和96.00%)， 其原因可能是兩種藥物分子式均含有類似的甲基， 導致光譜特征區(qū)分度較低； 毒死碑和氯氰菊酯分別在CARS-SVM和DWT(bior2.2-2)-SVM算法取得最佳分類精度100%， 說明SVM識別分類能力較好； 樂果和無殘留均在DWT(coif1-2)-CNN獲得最高分類精度100%， 說明DWT-CNN算法有較好的降維、 特征提取和分類識別能力。

表4 不同算法的分類精度

3 結 論

融合高光譜、 離散小波變換和卷積神經(jīng)網(wǎng)絡提出了一種基于高光譜離散小波變換的卷積神經(jīng)網(wǎng)絡分類算法， 對5組大白菜樣本高光譜數(shù)據(jù)集進行分類識別， 結果表明：

(1)經(jīng)降維后的高光譜數(shù)據(jù)與未降維數(shù)據(jù)相比較， 預測集總體精度、 Kappa均有明顯提高， 同時用時也大大縮短， 說明降維算法能有效除去冗余數(shù)據(jù)降低維度， 改善“休斯現(xiàn)象”， 提高建模算法精度。

(2)基于coif1小波基函數(shù)的離散小波算法通過多層低通濾波器能夠有效過濾高頻干擾信息， 達到降維的效果； 與PAC和CARS降維算法相比較， 基于離散小波變換降維數(shù)據(jù)的同時， 不僅較好的保留原始光譜曲線形狀， 而且還能較好還原曲線相對空間位置， 提高了高光譜數(shù)據(jù)分類識別準確度。

(3)卷積神經(jīng)網(wǎng)絡具有較強的特征抓取和學習能力， 基于離散小波變換和卷積神經(jīng)網(wǎng)絡算法模型總體精度為91.20%， 與MLP、 SVM和KNN相比分別高出了8.00%， 0.80%和24.80%， 充分發(fā)揮了離散小波變換降維與卷積神經(jīng)網(wǎng)絡的優(yōu)勢。

本工作僅在單一農藥殘留基礎上建立識別模型， 為后期實現(xiàn)便攜式無損、 快速檢測大白菜農殘設備研發(fā)提供一個新的方法。 下一步研究工作將側重在混合農藥殘留的條件下構建分類模型， 并最大限度壓縮模型參數(shù)量， 縮短預測時間。