殘差神經(jīng)網(wǎng)絡(luò)模型在木質(zhì)板材缺陷分類中的應(yīng)用1)

凌嘉欣 謝永華

(東北林業(yè)大學(xué)，哈爾濱，150040)

近年來(lái)，木材深加工技術(shù)實(shí)現(xiàn)了快速發(fā)展，木材表面缺陷檢測(cè)水平不斷提高，計(jì)算機(jī)視覺(jué)技術(shù)和模式識(shí)別技術(shù)為木材表面缺陷檢測(cè)提供了新的路徑與方法，在實(shí)踐應(yīng)用中發(fā)揮出良好效用。但木材表面由于具有復(fù)雜的紋理，而且缺陷的種類繁多，根據(jù)國(guó)家標(biāo)準(zhǔn)木材缺陷分為木材構(gòu)造缺陷、樹(shù)干形狀缺陷、傷疤(損傷)、變色、裂紋、腐朽、蟲眼、木材加工缺陷、節(jié)子、變形10大類，通過(guò)機(jī)器視覺(jué)系統(tǒng)采集木材的圖像，利用傳統(tǒng)的圖像處理算法檢測(cè)木材的缺陷，會(huì)面對(duì)巨大的挑戰(zhàn)[1-2]。針對(duì)板材缺陷識(shí)別問(wèn)題，有些傳統(tǒng)算法[3-7]能有效地進(jìn)行木材表面缺陷自動(dòng)識(shí)別，但在處理大樣本數(shù)據(jù)時(shí)，識(shí)別精度并不高。隨著卷積神經(jīng)網(wǎng)絡(luò)理論的完善，并在語(yǔ)音、圖像等方面的模式識(shí)別算法取得了一些成功[8-10]，這些比較新穎的算法，雖然準(zhǔn)確率達(dá)到80%以上，仍不能滿足工業(yè)產(chǎn)業(yè)化在線識(shí)別精度需求。因此，提高識(shí)別精度仍是業(yè)內(nèi)研究的重點(diǎn)。為此，本研究將超分辨率測(cè)試序列(VGG)網(wǎng)絡(luò)模型、谷歌網(wǎng)絡(luò)模型(GoogLeNet)、殘差神經(jīng)網(wǎng)絡(luò)模型(ResNet)應(yīng)用于木質(zhì)板材表面缺陷分類檢測(cè)中，重點(diǎn)研究木材的活節(jié)、死節(jié)、蟲眼3類表面缺陷，并依據(jù)分類精度，遴選識(shí)別效果更好的板材缺陷分類方法，旨在為拓展診斷木材板材缺陷途徑和方法提供參考。

1 材料與方法

1.1 樣本數(shù)據(jù)獲取

理論上，在進(jìn)行樣本庫(kù)的制作時(shí)應(yīng)含有多種樹(shù)種，每種樹(shù)種的缺陷圖像越多越好，實(shí)際上，尋求樣本的困難較大，也很難獲得每種缺陷的大量樣本。在現(xiàn)有的條件范圍內(nèi)，本研究選取了包括國(guó)內(nèi)具有代表性的樹(shù)種24科36屬共50種，其中針葉材16種、闊葉材34種；采集到木材缺陷樣本2 630張，裁剪成512×512像素、256級(jí)灰度，用數(shù)據(jù)增強(qiáng)的辦法，對(duì)2 630張圖片進(jìn)行旋轉(zhuǎn)、平移、尺度變換、灰度變換等方式處理，使樣本庫(kù)擴(kuò)容到10 687張圖片，選擇其中的7 480張圖片作為訓(xùn)練集、2 137張圖片作為驗(yàn)證集、1 070張圖片作為測(cè)試集。板材缺陷部分樣本見(jiàn)圖1。

圖1 木材板材缺陷樣本

1.2 超分辨率測(cè)試序列網(wǎng)絡(luò)模型的木質(zhì)板材缺陷分類方法

超分辨率測(cè)試序列(VGG)網(wǎng)絡(luò)模型是在亞歷克斯網(wǎng)絡(luò)模型(Alexnet)基礎(chǔ)上，去掉局部響應(yīng)歸一化，去掉7×7的卷積核，使用卷積核和池化核的大小均為3×3，減少了參數(shù)量，得到了超分辨率測(cè)試序列網(wǎng)絡(luò)模型。其中，超分辨率測(cè)試序列網(wǎng)絡(luò)模型的16層結(jié)構(gòu)常用于分類，16層結(jié)構(gòu)由13層卷積層和3層全連接層組成，是分類性能較為優(yōu)秀的網(wǎng)絡(luò)模型[11]。應(yīng)用超分辨率測(cè)試序列-16網(wǎng)絡(luò)模型對(duì)像素為224×224×3的木質(zhì)板材缺陷圖片分類(見(jiàn)圖2)。

圖2 超分辨率測(cè)試序列-16網(wǎng)絡(luò)模型的木質(zhì)板材缺陷分類過(guò)程

1.3 谷歌網(wǎng)絡(luò)模型的木質(zhì)板材缺陷分類方法

谷歌網(wǎng)絡(luò)模型(GoogLeNet)，網(wǎng)絡(luò)共有22層，且包含了非常高效的模塊，它的目的是設(shè)計(jì)一種具有優(yōu)良局部拓?fù)浣Y(jié)構(gòu)的網(wǎng)絡(luò)，即對(duì)輸入圖像并行地執(zhí)行多個(gè)卷積運(yùn)算或池化操作，并將所有輸出結(jié)果拼接為一個(gè)多層網(wǎng)絡(luò)結(jié)構(gòu)的特征圖。谷歌網(wǎng)絡(luò)模型對(duì)木質(zhì)板材缺陷分類流程見(jiàn)圖3。

圖3 谷歌網(wǎng)絡(luò)模型的木質(zhì)板材缺陷分類過(guò)程

1.4 殘差神經(jīng)網(wǎng)絡(luò)模型的木質(zhì)板材缺陷分類方法

殘差神經(jīng)網(wǎng)絡(luò)(ResNet)是2015年He et al.[12]提出的，在普通的卷積模型中，加入串聯(lián)機(jī)制形成殘差卷積神經(jīng)網(wǎng)絡(luò)模型，模型既有效地降低了網(wǎng)絡(luò)參數(shù)的訓(xùn)練難度，也不會(huì)造成精度下降。模型的2層基本塊見(jiàn)圖4；3層基本塊結(jié)構(gòu)是在2層結(jié)構(gòu)基礎(chǔ)上，在主支路上再加1層卷積層結(jié)構(gòu)。這些基本塊單元串聯(lián)形成殘差模塊，多個(gè)殘差模塊構(gòu)成殘差神經(jīng)網(wǎng)絡(luò)模型的最小單元[13]。

圖4 2層單元基本塊

殘差神經(jīng)網(wǎng)絡(luò)模型，因網(wǎng)絡(luò)層數(shù)不同，單元結(jié)構(gòu)也略有不同，有18層、34層、50層、101層4種模型結(jié)構(gòu)，具體的網(wǎng)絡(luò)結(jié)構(gòu)配置見(jiàn)表1。

表1 殘差神經(jīng)網(wǎng)絡(luò)模型的4種模型的網(wǎng)絡(luò)結(jié)構(gòu)配置

本研究調(diào)整了殘差網(wǎng)絡(luò)單元結(jié)構(gòu)，形成了新的殘差單元。即：將激活函數(shù)(ReLU)看做是權(quán)重層的“預(yù)激活”，而不是傳統(tǒng)的“激活”，使其產(chǎn)生了1個(gè)新的殘差單元。殘差神經(jīng)網(wǎng)絡(luò)改進(jìn)前后的結(jié)構(gòu)流程對(duì)比見(jiàn)圖5。

圖5 改進(jìn)前后的殘差網(wǎng)絡(luò)結(jié)構(gòu)

2 結(jié)果與分析

本研究將采集到的圖片進(jìn)行處理，批量轉(zhuǎn)換為JPG格式，對(duì)圖片尺寸進(jìn)行剪裁，通過(guò)尺度變換等一系列變換進(jìn)行數(shù)據(jù)增強(qiáng)，將數(shù)據(jù)集從原始的2 630張圖片擴(kuò)大到現(xiàn)在的10 687張，構(gòu)成圖像數(shù)據(jù)集。數(shù)據(jù)集通過(guò)數(shù)據(jù)增強(qiáng)后，能夠達(dá)到試驗(yàn)的網(wǎng)絡(luò)模型需要的數(shù)據(jù)量，盡量防止網(wǎng)絡(luò)的過(guò)擬合現(xiàn)象的發(fā)生。本研究將超分辨率測(cè)試序列-16網(wǎng)絡(luò)模型、谷歌網(wǎng)絡(luò)模型、殘差神經(jīng)網(wǎng)絡(luò)模型3種網(wǎng)絡(luò)模型應(yīng)用于木質(zhì)板材缺陷分類中，網(wǎng)絡(luò)模型初始參數(shù)：網(wǎng)絡(luò)模型單次處理數(shù)據(jù)組的數(shù)量為16組數(shù)據(jù)、初始學(xué)習(xí)率為0.001、權(quán)值衰減因子為0.000 5、動(dòng)量因子為0.9。

(1)超分辨率測(cè)試序列-16網(wǎng)絡(luò)模型損失函數(shù)值和識(shí)別缺陷的準(zhǔn)確率見(jiàn)圖6，網(wǎng)絡(luò)模型在14次迭代時(shí)，測(cè)試集分類準(zhǔn)確率達(dá)到最高值83.30%。

圖6 超分辨率測(cè)試序列-16網(wǎng)絡(luò)模型損失函數(shù)值和準(zhǔn)確率曲線

(2)谷歌網(wǎng)絡(luò)模型損失函數(shù)值和識(shí)別缺陷的準(zhǔn)確率見(jiàn)圖7，網(wǎng)絡(luò)模型在16次迭代時(shí)，測(cè)試集分類準(zhǔn)確率達(dá)到最高值89.64%。

圖7 谷歌網(wǎng)絡(luò)模型模型損失函數(shù)值和準(zhǔn)確率曲線

(3)殘差神經(jīng)網(wǎng)絡(luò)模型在18、34、50、101層時(shí)，測(cè)試集分類準(zhǔn)確率見(jiàn)圖8。18層網(wǎng)絡(luò)結(jié)構(gòu)模型，在第70次迭代時(shí)，達(dá)到分類準(zhǔn)確率最大值82.11%；34層網(wǎng)絡(luò)結(jié)構(gòu)模型，在第60次迭代時(shí)，達(dá)到分類準(zhǔn)確率最大值87.75%；50層網(wǎng)絡(luò)結(jié)構(gòu)模型，在第70次迭代時(shí)，達(dá)到分類準(zhǔn)確率最大值96.68%；101層網(wǎng)絡(luò)結(jié)構(gòu)模型，在第80次迭代時(shí)，達(dá)到分類準(zhǔn)確率最大值96.81%。

圖8 殘差神經(jīng)網(wǎng)絡(luò)測(cè)試集準(zhǔn)確率對(duì)比

(4)改進(jìn)的殘差神經(jīng)網(wǎng)絡(luò)模型，在18、34、50、101層的測(cè)試集分類準(zhǔn)確率見(jiàn)圖9。18層網(wǎng)絡(luò)結(jié)構(gòu)，在80次迭代時(shí)，達(dá)到分類準(zhǔn)確率最大值84.56%；34層網(wǎng)絡(luò)結(jié)構(gòu)，在第80次迭代時(shí)，達(dá)到分類準(zhǔn)確率最大值93.38%；50層網(wǎng)絡(luò)結(jié)構(gòu)模型，在第80次迭代時(shí)，達(dá)到分類準(zhǔn)確率最大值98.63%；101層網(wǎng)絡(luò)結(jié)構(gòu)模型，在第60次迭代時(shí)，達(dá)到分類準(zhǔn)確率最大值91.42%。

圖9 改進(jìn)的殘差神經(jīng)網(wǎng)絡(luò)測(cè)試集準(zhǔn)確率對(duì)比

改進(jìn)的殘差神經(jīng)網(wǎng)絡(luò)模型，針對(duì)蟲眼、死節(jié)、活節(jié)3類木質(zhì)板材表面缺陷的分類準(zhǔn)確率見(jiàn)表2，對(duì)比數(shù)據(jù)在50層結(jié)構(gòu)時(shí)分類精度達(dá)到最高。

表2 改進(jìn)的殘差神經(jīng)網(wǎng)絡(luò)模型對(duì)木質(zhì)板材表面缺陷分類準(zhǔn)確率

殘差神經(jīng)網(wǎng)絡(luò)模型改進(jìn)前后測(cè)試集的分類準(zhǔn)確率對(duì)比見(jiàn)表3。對(duì)比數(shù)據(jù)，改進(jìn)后的網(wǎng)絡(luò)模型分類準(zhǔn)確率優(yōu)于原模型。

表3 殘差神經(jīng)網(wǎng)絡(luò)模型改進(jìn)前后對(duì)木質(zhì)板材表面缺陷分類準(zhǔn)確率

(5)將本研究選擇的4種網(wǎng)絡(luò)模型對(duì)木質(zhì)板材缺陷測(cè)試集中分類準(zhǔn)確率進(jìn)行對(duì)比，超分辨率測(cè)試序列-16網(wǎng)絡(luò)模型的準(zhǔn)確率為83.30%、谷歌網(wǎng)絡(luò)模型的準(zhǔn)確率為89.64%、50層的殘差神經(jīng)網(wǎng)絡(luò)模型的準(zhǔn)確率為96.68%、50層的改進(jìn)殘差神經(jīng)網(wǎng)絡(luò)模型準(zhǔn)確率最高為98.63%。

3 結(jié)論

木質(zhì)板材質(zhì)量受木材自身的缺陷影響很大，為了得到高質(zhì)量的單板板材，需要對(duì)板材表面缺陷進(jìn)行檢測(cè)。本研究應(yīng)用超分辨率測(cè)試序列-16網(wǎng)絡(luò)模型、谷歌網(wǎng)絡(luò)模型、殘差神經(jīng)網(wǎng)絡(luò)模型、改進(jìn)的殘差神經(jīng)網(wǎng)絡(luò)模型對(duì)木質(zhì)板材樣本缺陷圖片進(jìn)行分類檢測(cè)。結(jié)果表明：改進(jìn)后的殘差神經(jīng)網(wǎng)絡(luò)模型，與超分辨率測(cè)試序列-16網(wǎng)絡(luò)模型、谷歌網(wǎng)絡(luò)模型模型相比，在網(wǎng)絡(luò)結(jié)構(gòu)層次增加時(shí)，由于自身增加了直連結(jié)構(gòu)，會(huì)在網(wǎng)絡(luò)反傳時(shí)降低網(wǎng)絡(luò)彌散的概率，并且每一層都能更多地保留原始信息，可有效降低欠擬合現(xiàn)象的發(fā)生，測(cè)試集分類準(zhǔn)確率高達(dá)98.63%，也更優(yōu)于未改進(jìn)前自身模型分類準(zhǔn)確率，具有較好的魯棒性和實(shí)用推廣性。