基于稀疏自編碼和SPSO-SVM的稻瘟病早期病害識別

蔡 娣,路 陽,林立媛,杜嬌嬌,管 闖

(1.黑龍江八一農(nóng)墾大學(xué) 信息與電氣工程學(xué)院,黑龍江 大慶 163319；2.東北石油大學(xué) 黑龍江省網(wǎng)絡(luò)化與智能控制重點實驗室,黑龍江 大慶 163318)

0 引 言

水稻是我國第二大糧食作物。2019年水稻播種面積約為4.45億畝,占糧食種植面積的25.27%[1],水稻產(chǎn)量超過2億噸。但水稻病害對我國水稻高產(chǎn)和穩(wěn)產(chǎn)造成重大威脅,其中稻瘟病是流行最廣、影響最大的病害之一。20世紀90年代開始,稻瘟病發(fā)生面積每年約為380萬畝[2],給種植戶造成巨大的損失。水稻稻瘟病分為：慢性、急性、褐點和白點型4種類型[2]。從目前水稻種植經(jīng)驗可看出,水稻早期病害的防治極其容易被忽略,一方面是由于農(nóng)民的防治意識和力度不夠,而另一方面是在病害發(fā)生初期,由于水稻葉片紋理復(fù)雜多變,差異性極難判斷,以及對初期病斑的診斷失誤都會引起后期大范圍的發(fā)病。若能及時發(fā)現(xiàn)水稻稻瘟病的早期病害并實施有針對性的措施,就可減少稻瘟病的發(fā)生。因此,準確識別水稻的早期稻瘟病具有重要的現(xiàn)實意義。

目前,水稻稻瘟病的早期識別主要依靠傳統(tǒng)的模式識別和數(shù)字圖像處理技術(shù)。這種傳統(tǒng)的識別方法主要包括圖像預(yù)處理,提取特征和識別病害3個關(guān)鍵步驟。首先通過主成分分析[3]等方法對原始圖像進行降維,然后通過數(shù)字圖像處理技術(shù)進行紋理、顏色和形狀等特征提取[4]。最后利用支持向量機等分類方法依據(jù)提取的特征進行分類識別[5]。

隨著人工智能技術(shù)的發(fā)展,Geoffery等[6]提出一種深度“自動編碼器”網(wǎng)絡(luò)用于學(xué)習(xí)高維數(shù)據(jù)的低維特征表達。Yann等[7]提出稀疏自動編碼器模型,進一步拓展了自動編碼器的研究與應(yīng)用。謝林等[8]將稀疏自動編碼技術(shù)(SAE：Sparse Automatic Encoder)應(yīng)用于15類場景數(shù)據(jù)集進行圖像表示并使用SVM(Support Vector Machine)識別,證明了SAE的有效性；趙玉蘭等[9]設(shè)計一種稀疏編碼和機器學(xué)習(xí)相融合,通過稀疏編碼算法確定特征的權(quán)值可精確描述多姿態(tài)人臉識別特征；湯芳[10]等應(yīng)用稀疏自編碼神經(jīng)網(wǎng)絡(luò)提取滾動軸承的信號特征并進行故障診斷。深度神經(jīng)網(wǎng)絡(luò)被廣泛應(yīng)用于圖像分類、語音識別、故障診斷等領(lǐng)域中,取得了顯著成果,但其在植物保護相關(guān)領(lǐng)域的應(yīng)用卻非常有限。以上研究的開展為將自動編碼器應(yīng)用于水稻病害早期診斷識別提供了參考和可行性依據(jù)。

筆者將構(gòu)建稀疏自動編碼器和交換粒子群優(yōu)化支持向量機融合的深度神經(jīng)網(wǎng)絡(luò),通過編碼、解碼學(xué)習(xí)水稻病害樣本更高層的隱含特征,然后應(yīng)用交換粒子群優(yōu)化的支持向量機對水稻稻瘟病類型識別。具體研究過程包括SAE-SPSO-SVM(Sparse Automatic Encoder-Switching Particle Swarm Optimization Support Vector Machine-Support Vector Machine)模型構(gòu)建、交換粒子群優(yōu)化SVM算法實現(xiàn)及驗證、模型性能對比與分析等。

1 SAE-SPSO-SVM深度神經(jīng)網(wǎng)絡(luò)

1.1稀疏自動編碼器

筆者通過SAE對復(fù)雜背景下的水稻稻瘟病葉部病害進行特征提取,依據(jù)田間環(huán)境下早期葉部稻瘟病圖像的特點,建立一種SAE-SPSO-SVM模型進行田間葉部稻瘟病圖像的識別,框架結(jié)構(gòu)如圖1所示。

圖1 SAE-SPSO-SVM識別稻瘟病框架結(jié)構(gòu)圖Fig.1 Frame structure diagram of rice blast identification based on SAE-SPSO-SVM

自動編碼器(AE：Auto Encoder)是由1個輸入層、1個隱含層和1個輸出層構(gòu)成的對稱神經(jīng)網(wǎng)絡(luò)[11],如圖2所示。

圖2自動編碼器結(jié)構(gòu)圖Fig.2 Structure diagram of automatic encoder

假設(shè)獲得了輸入層向量xn,可通過參數(shù)W和b得到隱藏層特征h,這部分的網(wǎng)絡(luò)也稱之為編碼器,編碼器對輸入數(shù)據(jù)進行編碼；之后,可利用參數(shù)W′和b′映射到輸出層以得到重建向量y,這部分網(wǎng)絡(luò)稱為解碼器,解碼器重構(gòu)輸入數(shù)據(jù)。編碼和解碼的實現(xiàn)過程可描述為

h=f(Wxn+b)

(1)

y=g(W′h+b′)

(2)

其中f和g分別為編碼和解碼階段的神經(jīng)元激活函數(shù),筆者選用ReLu函數(shù)。W、W′和b、b′分別表示編碼、解碼階段的權(quán)重和偏置系數(shù)。當(dāng)xn和y的重構(gòu)誤差cost足夠小時,得到的y即為xn的隱層特征。

當(dāng)y(i)=x(i)時,稱之為稀疏自動編碼。為保證隱含層的稀疏性,在自動編碼器的代價方程引入稀疏性懲罰項,總體代價函數(shù)如下

Jsparse(W,b)=J(W,b)+β

(3)

為實現(xiàn)稀疏性約束,需要向損失函數(shù)中添加額外的稀疏性懲罰項,并使用超參數(shù)β控制其在損失函數(shù)中所占比重,添加過稀疏性約束的損失函數(shù)形式如下

(4)

(5)

1.2 交換粒子群優(yōu)化SVM算法

交換粒子群優(yōu)化算法(SPSO：Switching Particle Swarm Optimization)通過在標準粒子群優(yōu)化算法中引入交換概率進行粒子速度更新。具有馬爾可夫交換參數(shù)的模式獨立的速度更新參數(shù)被引入到普通粒子群速度更新公式中,緩解了全局搜索與局部搜索之間的矛盾。即在早期搜索階段,粒子群中的粒子應(yīng)該保持它的獨立性和種群多樣性,幫助擴大搜索范圍,避免早熟收斂到局部極值。在搜索的后期,所有的粒子將收斂到最佳位置,從而獲得更精確的解。SPSO具體算法描述請參考文獻[12-14]。交換粒子群算法優(yōu)化SVM參數(shù)流程如圖3所示。

圖3 交換粒子群算法優(yōu)化SVM參數(shù)流程Fig.3 The flowchart of SVM parameter optimization by switching particle swarm optimization algorithm

1.3 訓(xùn)練算法

SAE-SPSO-SVM網(wǎng)絡(luò)模型的訓(xùn)練通過逐層無監(jiān)督貪婪預(yù)訓(xùn)練和反向有監(jiān)督微調(diào)兩個步驟實現(xiàn),以確定各層神經(jīng)元之間的權(quán)重系數(shù)。為保證深度神經(jīng)網(wǎng)絡(luò)的整體性能,通過有監(jiān)督訓(xùn)練對網(wǎng)絡(luò)參數(shù)進行全局微調(diào)。完整的訓(xùn)練算法流程如圖4所示。

圖4 訓(xùn)練算法流程圖Fig.4 Flow chart of training algorithm

2 試驗數(shù)據(jù)

2.1 數(shù)據(jù)獲取

根據(jù)早期葉部稻瘟病的發(fā)病規(guī)律,在病害癥狀較為顯著時在水稻植株葉片上采集樣本。采集時間為2020年6月-2020年9月,采集地點位于黑龍江省齊齊哈爾市哈拉海農(nóng)場水稻生產(chǎn)區(qū)(123.58°、47.71°)。利用蘋果手機iPhone X(主攝像頭雙1 200萬像素)垂直拍攝葉片樣本,拍攝距離約10～15 cm,拍攝時葉片展平,沒有重疊,保證病斑顏色、形狀清晰。共采集原始圖像3 320幅：其中白點型613幅、褐點型649幅、急性型786幅、慢性型932,健康型340幅。1 520幅從病害數(shù)據(jù)庫(https:∥www.kaggle.com/minhhuy2810/rice-diseases-image-dataset)獲取。采集原始圖像如圖5所示。

圖5 田間自然環(huán)境下的水稻稻瘟病圖像Fig.5 Image of rice blast in field natural environment

2.2 圖像校正

由于在采集過程中受光照影響,部分葉片存在光照不均勻現(xiàn)象,在進行特征提取前,筆者針對光照不均勻問題,采用Retinex增強方法進行處理[15],效果如圖6所示。

圖6 水稻稻瘟病校正圖像Fig.6 Correction image of rice blast

3 試驗結(jié)果及分析

3.1 SAE模型參數(shù)設(shè)置

在不同的學(xué)習(xí)率和不同的隱含層神經(jīng)元數(shù)目條件下,測試了SAE-SPSO-SVM模型的識別精度,此時SPSO和SVM采用隨機初始值,結(jié)果如表1所示。經(jīng)過多次試驗驗證,當(dāng)SAE的學(xué)習(xí)率為0.4時,隱含層神經(jīng)元數(shù)目為100時,網(wǎng)絡(luò)性能達到最佳。

表1 不同隱含層神經(jīng)元個數(shù)的識別性能Tab.1 Recognition performance under different number of hidden layer neurons

3.2 SPSO優(yōu)化算法參數(shù)設(shè)置

初始種群數(shù)和兩個學(xué)習(xí)因子是交換粒子群優(yōu)化算法的重要參數(shù)。選用常見的Sphere函數(shù)作為SPSO算法性能測試函數(shù)。設(shè)置最大迭代次數(shù)300,慣性權(quán)重參數(shù)為0.6,在初始種群分別為20,40,60,80,100條件下,選取3組學(xué)習(xí)因子作對比實驗,優(yōu)化性能指標如圖7所示。從圖7中可以看出,當(dāng)學(xué)習(xí)因子c1為1.6,c2為1.8,初始種群為80時,Sphere函數(shù)優(yōu)化性能指標最好。因此SPSO參數(shù)設(shè)置為,初始種群為80,慣性權(quán)重為0.9,最大迭代次數(shù)為300,學(xué)習(xí)因子c1為1.6,c2為1.8。

圖7 SPSO優(yōu)化算法在不同參數(shù)下的性能分析Fig.7 Performance analysis of SPSO optimization algorithm under different parameters

3.3 SVM參數(shù)設(shè)置

采用網(wǎng)格搜索法比較SVM懲罰參數(shù)C和核函數(shù)參數(shù)g不同組合下的識別精度。懲罰因子C和核函數(shù)參數(shù)g都以0.1作為搜索步長遍歷網(wǎng)格中的所有點,選擇識別精度最高時的C值和g值作為SVM模型的最優(yōu)參數(shù),如表2所示。從表2中可以看出,當(dāng)C=2.8,g=50時,支持向量機對4種類型水稻稻瘟病葉部病害和健康葉片的識別效果最好。

表2 參數(shù)C=2.8和g=50條件下4類水稻葉部病害及健康葉片的識別結(jié)果Tab.2 Identification results of four types of rice leaf diseases and healthy leaves

3.4 模型性能對比與分析

水稻稻瘟病分為白點、急性、慢性、褐點型4種,分別用0、1、2、3表示對應(yīng)的類別標簽,健康葉片對應(yīng)的類別標簽為5。從每類350個樣本數(shù)據(jù)集中隨機選擇80%,即每類280個樣本,共1 400個作為訓(xùn)練集,其余20%,即每類70個樣本,共350個作為測試集。使用上述確定的最優(yōu)參數(shù)訓(xùn)練SAE-SPSO-SVM模型,并分別選用PSO優(yōu)化的支持向量機和未優(yōu)化的支持向量機模型做對比分析,學(xué)習(xí)收斂曲線如圖8所示,從圖8中可看出,SAE-SPSO-SVM收斂最快。3種不同模型識別結(jié)果如表3所示,從表3中可看出,交換粒子群算法優(yōu)化后的支持向量機識別率達到了95.7%,取得了較好的識別效果。

圖8 不同模型收斂曲線對比分析Fig.8 Comparative analysis of convergence curves of different models

表3 不同模型識別率對比分析Tab.3 Comparative analysis of recognition rates of different models

4 結(jié) 語

筆者針對傳統(tǒng)模式識別方法在識別水稻葉部稻瘟病4種類型病害時主觀性強,不能及早診斷問題,提出將SAE和SPSO-SVM相結(jié)合,構(gòu)建深層神經(jīng)網(wǎng)絡(luò)模型對水稻葉部稻瘟病早期病害進行識別。研究了稀疏自動編碼器編碼、解碼學(xué)習(xí)病斑的高層隱含特征。通過實驗確定了交換粒子群算法的參數(shù),并使用交換群算法優(yōu)化了支持向量機懲罰因子和核函數(shù)參數(shù)。通過Kaggle水稻病害圖像和實際采集的水稻稻瘟病圖像數(shù)據(jù)集驗證了提出方法的有效性。但筆者的研究仍然存在模型比較簡單,沒有結(jié)合病斑精準標注等不足,后續(xù)研究將在優(yōu)化模型結(jié)構(gòu)和學(xué)習(xí)方法,結(jié)合病斑精準標注,推進水稻病害移動診斷研究和應(yīng)用。