深度信念網(wǎng)絡(luò)在故障指示器檢測中的應(yīng)用

陽 武，李 倩，趙繼生，高 強，余 萍

(華北電力大學(xué) 電氣與電子工程學(xué)院，河北 保定071003)

0 引 言

在產(chǎn)品生產(chǎn)過程中，產(chǎn)品的質(zhì)量是否合格需要安排專人進(jìn)行檢測，而相當(dāng)一部分電子產(chǎn)品的檢測問題往往是檢測產(chǎn)品在某種條件下的動作狀態(tài)是否正確。當(dāng)檢測員長期檢測某產(chǎn)品的狀態(tài)時，可能會因視覺疲勞而漏檢，造成不合格產(chǎn)品進(jìn)入下一個流程。利用計算機技術(shù)開發(fā)產(chǎn)品檢測已有一些成果［1～3］，而利用深度信念網(wǎng)絡(luò)(deep belief network，DBN)技術(shù)進(jìn)行產(chǎn)品檢測具有更明顯的優(yōu)勢。

深層的神經(jīng)網(wǎng)絡(luò)不僅可以實現(xiàn)自動特征學(xué)習(xí)，而且學(xué)習(xí)到的特征對數(shù)據(jù)具有更本質(zhì)的刻畫，且通過“逐層初始化”克服了在訓(xùn)練上的難度，因此，其受到了學(xué)術(shù)界和工業(yè)界的廣泛研究，并成為當(dāng)前的研究熱點。其中，深度信念是應(yīng)用比較廣泛的一種模型。2008 年，Tijmen Tieleman 修正了CD 算法無法極大似然的缺陷，提出了PCD 算法［4］。2010～2012 年，許多研究者提出了基于回火的馬爾科夫鏈蒙特卡羅采樣(MCMC)的深度信念網(wǎng)絡(luò)改進(jìn)算法［5，6］，進(jìn)而提升深度信念網(wǎng)絡(luò)的學(xué)習(xí)效果。到目前為止，深度神經(jīng)網(wǎng)路現(xiàn)已成功應(yīng)用到了語音識別領(lǐng)域［7］，手寫字體識別［8］、人臉識別［9］、遙感圖像分類［10］和垃圾郵件過濾［11］等圖像處理領(lǐng)域中，大大提高了識別精度。

本文利用視頻檢測系統(tǒng)進(jìn)行圖像采集，針對名為故障指示器的電子產(chǎn)品的動作狀態(tài)檢測問題進(jìn)行了研究，通過建立視頻采集系統(tǒng)獲取圖像，應(yīng)用深度信念網(wǎng)絡(luò)技術(shù)進(jìn)行識別，獲得了良好的效果。

1 深度信念網(wǎng)絡(luò)分類

深度信念網(wǎng)絡(luò)是一種概率生成模型，由多層受限玻耳茲曼機(restricted Boltzmann machine，RBM)單元組成，結(jié)構(gòu)如圖1 所示。

圖1 深度信念網(wǎng)絡(luò)的結(jié)構(gòu)圖Fig 1 Structure diagram of DBN

1.1 RBM

一個典型的RBM 子模塊結(jié)構(gòu)圖是由可視層和隱含層兩層神經(jīng)元構(gòu)成的，每層有若干個節(jié)點，層內(nèi)節(jié)點無連接，不同層之間的節(jié)點依靠權(quán)值系數(shù)矩陣來連接。各層之間的權(quán)重值是采用無監(jiān)督的貪心算法獲取的。

RBM 是一種能量模型，其可視層和隱含層的聯(lián)合組態(tài)能量表示為

式中 θ=(W，a，b)，為RBM 模型中的三個參數(shù);wij為可視層節(jié)點i 與隱含層節(jié)點j 之間的連接權(quán)重值;ai，bj分別是可視層、隱含層的偏置值。對應(yīng)于可視層神經(jīng)元和隱含層神經(jīng)元的相應(yīng)映射概率分布為

式中 σ 為Sigmoid 函數(shù)。RBM 采用迭代的方式進(jìn)行訓(xùn)練，訓(xùn)練的目標(biāo)在于學(xué)習(xí)出參數(shù)θ=(W，a，b)的值，以擬合給定的訓(xùn)練數(shù)據(jù)。參數(shù)θ 可以通過最大化對數(shù)似然函數(shù)得到，最大化似然函數(shù)常用的數(shù)值方法是梯度上升。參數(shù)θ=(W，a，b)的迭代公式為

其中，η 為預(yù)訓(xùn)練的學(xué)習(xí)率。采用Hinton 提出的對比散度(CD)算法對重構(gòu)數(shù)據(jù)進(jìn)行近似擬采樣，可得各參數(shù)的更新規(guī)則為

其中，〈·〉data為訓(xùn)練樣本集所定義的分布之上的數(shù)學(xué)期望;〈·〉recon為重構(gòu)后的模型所定義的分布上的期望。

1.2 深度信念網(wǎng)絡(luò)算法的訓(xùn)練學(xué)習(xí)過程

通過式(5)～式(7)這樣一個非監(jiān)督的預(yù)訓(xùn)練過程就可以將一個RBM 調(diào)整到合適的初始值，然后再將多個RBM自底向上組合建立深度信念網(wǎng)絡(luò)模型，最后通過使交叉熵最小，采用BP 算法對整個網(wǎng)絡(luò)進(jìn)行監(jiān)督式學(xué)習(xí)，最終建立深度信念網(wǎng)絡(luò)。

具體過程歸納為兩步:

1)無監(jiān)督預(yù)訓(xùn)練:參照RBM 模型基于CD-k 的快速學(xué)習(xí)算法，根據(jù)系統(tǒng)能量最小逐層地訓(xùn)練每個RBM 來獲得可視層節(jié)點和隱含層節(jié)點間的權(quán)值。

2)有監(jiān)督微調(diào):深度信念網(wǎng)絡(luò)模型利用帶標(biāo)簽的數(shù)據(jù)用誤差反向傳播(BP)算法對判別性能進(jìn)行優(yōu)化調(diào)整。

2 故障指示器的狀態(tài)分類

本文基于深度信念網(wǎng)絡(luò)，對產(chǎn)品進(jìn)行檢測。對故障指示器的視頻圖像進(jìn)行預(yù)處理之后，通過第1 章描述的深度信念網(wǎng)絡(luò)算法進(jìn)行訓(xùn)練網(wǎng)絡(luò)。訓(xùn)練算法包含兩個階段:第一步是使用無標(biāo)簽訓(xùn)練集來訓(xùn)練多個RBM;第二步從預(yù)訓(xùn)練得到的權(quán)值開始使用反向傳播微調(diào)深度網(wǎng)絡(luò)。

2.1 數(shù)據(jù)集的獲取

為了獲得故障指示器的視頻圖像，首先建立了圖像采集系統(tǒng)，如圖2 所示。

圖2 圖像采集系統(tǒng)圖Fig 2 Image acquisition system

圖2 中，攝像頭陣列是通過合理安排鏡頭，可以對檢測臺上的所有待檢產(chǎn)品進(jìn)行拍攝圖像，以便對每一個產(chǎn)品都能進(jìn)行檢測。通過矩陣切換器將圖像分別送入服務(wù)器中進(jìn)行處理。

測試臺:待測產(chǎn)品連接到測試臺上，按規(guī)則擺放，以便獲取合適的圖像。

后臺服務(wù)器:接收、存儲和處理圖像，并顯示檢測結(jié)果。

將同一個攝像頭拍攝到的多個故障指示器的視頻圖像，通過分割得到多個單故障指示器的圖像，將其作為訓(xùn)練集和測試集。

2.2 深度信念網(wǎng)絡(luò)訓(xùn)練

對于分類任務(wù)，最高層的神經(jīng)元個數(shù)等于目標(biāo)類別個數(shù)。每一個神經(jīng)元分別對應(yīng)一個類別標(biāo)簽。為了實現(xiàn)故障指示器分類，設(shè)置最后BP 網(wǎng)絡(luò)輸出層包含兩個神經(jīng)元，輸入層神經(jīng)元個數(shù)設(shè)置為預(yù)處理后得到故障指示器圖像的大小，并設(shè)置合適的隱含層層數(shù)和每層隱含層的神經(jīng)元個數(shù)。

2.3 分 類

經(jīng)過RBM 的無監(jiān)督預(yù)訓(xùn)練和BP 的有監(jiān)督微調(diào)，所有的網(wǎng)絡(luò)權(quán)值達(dá)到了最小訓(xùn)練誤差。如圖3，將測試集預(yù)處理得到的圖像轉(zhuǎn)換為一維向量，輸入到訓(xùn)練好的深度信念網(wǎng)絡(luò)中，從而得到分類結(jié)果。

圖3 故障指示器的狀態(tài)分類Fig 3 State classification of fault indicator

對故障指示器進(jìn)行狀態(tài)分類的算法流程如圖4 所示。

圖4 故障指示器圖像狀態(tài)分類算法流程Fig 4 Flow chart of image state classification algorithm of fault indicator

圖4 中，首先從攝像頭獲取視頻流信息，再經(jīng)過單幀圖像抽取獲得視頻圖像;將同一鏡頭獲取的多個故障指示器圖像進(jìn)行分割，取出單個的故障指示器圖像進(jìn)行圖像預(yù)處理，主要是把圖像變成同樣大小的圖像，最后將其送入已經(jīng)訓(xùn)練好的深度信念網(wǎng)絡(luò)進(jìn)行分類。

3 實驗結(jié)果與分析

本實驗中選取的故障指示器視頻圖像包括兩種:一種是攝像頭斜下方監(jiān)視7 個故障指示器;另外一種是攝像頭正下方監(jiān)視3 個故障指示器，從視頻中截取的幀圖像如圖5所示。

由圖5 知，實驗所用到的故障指示器包括兩種狀態(tài)，一種是正常狀態(tài)，一種是翻轉(zhuǎn)狀態(tài)。將圖5 中的故障指示器分割成單個故障指示器，得到訓(xùn)練集和測試集。本實驗中隨機選取400 張圖像作為訓(xùn)練集，80 張圖像作為測試集，且訓(xùn)練集和測試集沒有交叉。故障指示器的樣圖如圖6。

圖6 故障指示器的狀態(tài)樣圖Fig 6 State sample images of fault indicator

為了評價DBN 在故障指示器檢測應(yīng)用中的性能，與常用的BP 神經(jīng)網(wǎng)絡(luò)［12］和SVM 算法進(jìn)行了比較。實驗結(jié)果比較如表1 所示。

實驗結(jié)果表明:該系統(tǒng)對故障指示器的兩種狀態(tài)(正常狀態(tài)和翻轉(zhuǎn)狀態(tài))的正確識別率可以達(dá)到100%，且效果明顯優(yōu)于BP 神經(jīng)網(wǎng)絡(luò)和SVM 算法。深度信念網(wǎng)絡(luò)分類算法可以用來解決實踐中的故障指示器等產(chǎn)品檢測的問題。

表1 算法性能對比Tab 1 Performance comparison of three algorithms

4 結(jié)束語

本文結(jié)合深度信念網(wǎng)絡(luò)，提出了基于深度信念網(wǎng)絡(luò)的分類方法，并將其應(yīng)用在產(chǎn)品狀態(tài)分類中，該產(chǎn)品名為故障指示器，具有兩種狀態(tài)即正常狀態(tài)和翻轉(zhuǎn)狀態(tài)。實驗結(jié)果表明:深度信念網(wǎng)絡(luò)的分類方法在故障指示器檢測中有較好的表現(xiàn)，識別精度高，可以代替人工檢測產(chǎn)品。

［1］ 羅小賓，殷國富，陳 珂，等.基于計算機視覺的產(chǎn)品自動檢測系統(tǒng)的研究［J］.計算機工程與應(yīng)用，2004(3):201－202.

［2］ 張 楊，孫國棟，梁永強，等.電子插接件視覺檢測中次品自動剔除裝置設(shè)計［J］.制造業(yè)自動化，2014，36(21):118－121.

［3］ 侯海燕.基于模板匹配的機器視覺話機檢測系統(tǒng)［J］.現(xiàn)代計算機，2013(30):63－65.

［4］ Hinton G E，Osindero S，Teh Y W.A fast learning algorithm for deep belief nets［J］.Neural Computation，2006，18(7):1527－1554.

［5］ Tijmen Tieleman.Training restricted Boltzmann machines using approximations to the likelihood gradient［C］∥Proceedings of the 25th International Conference on Machine Learning，Canada:ICML，2008:1064－1071.

［6］ Salakhutdinov Ruslan.Learning deep Boltzmann machines using adaptive MCMC［C］∥Proceedings of the 27th International Conference on Machine Learning(ICML)，USA，2010:943－950.

［7］ 陳 碩.深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)在語音識別中的應(yīng)用研究［D］.廣州:華南理工大學(xué)，2013.

［8］ Ji Nannan，Zhang Jiangshe，Zhang Chunxia.A sparse-response deep belief network based on rate distortion theory［J］.Pattern Recognition，2014，47(9):3179－3191.

［9］ Lin Miaozhen，F(xiàn)an Xin.Low resolution face recognition with pose variations using deep belief networks［C］∥2011 4th International Congress on Image and Signal Processing，Shanghai，2011.

［10］呂 啟，竇 勇，牛 新，等.基于DBN 模型的遙感圖像分類［J］.計算機研究與發(fā)展，2014，51(9):1911－1918.

［11］孫勁光，蔣金葉，孟祥福，等.深度置信網(wǎng)絡(luò)在垃圾郵件過濾中的應(yīng)用［J］.計算機應(yīng)用，2014，34(4):1122－1125.

［12］周 英，尹邦德，任 玲，等.基于BP 神經(jīng)網(wǎng)絡(luò)的電網(wǎng)短期負(fù)荷預(yù)測模型研究［J］.電測與儀表，2011(2):68－71.