基于極限學(xué)習(xí)機(jī)的焊點(diǎn)質(zhì)量檢測

馬立勇，袁統(tǒng)帥

哈爾濱工業(yè)大學(xué)（威海）信息與電氣工程學(xué)院，山東 威海 264200

1 引言

電子產(chǎn)品的焊點(diǎn)質(zhì)量直接影響產(chǎn)品的可靠性，因此，對電子產(chǎn)品焊點(diǎn)質(zhì)量進(jìn)行檢測，是保證電子產(chǎn)品質(zhì)量的重要工作。自動化和計算機(jī)技術(shù)的發(fā)展促進(jìn)了機(jī)器視覺代替人工進(jìn)入工業(yè)生產(chǎn)檢測環(huán)節(jié)，從而有效地解決在高速、高精、微距、超視等情況下人類的視覺容易出現(xiàn)疲勞、受環(huán)境和主觀因素影響大等問題。

由于實(shí)際生產(chǎn)工藝的不成熟，受溫度、焊錫量及元件貼裝位置等因素影響，各焊點(diǎn)的形狀與表面千差萬別，往往會產(chǎn)生缺陷，比如焊料過少導(dǎo)致的虛焊等，這就給焊點(diǎn)的圖像檢測帶來了諸多的困難。雖然焊點(diǎn)檢測技術(shù)得到了快速發(fā)展，但是在工業(yè)生產(chǎn)當(dāng)中還是以抽樣破壞檢測的方法進(jìn)行焊點(diǎn)檢測，這種方法不能滿足生產(chǎn)中高效率、高檢測率的要求。因此，對焊點(diǎn)缺陷進(jìn)行快速的無損檢測具有重要意義。為了解決該問題，出現(xiàn)了基于神經(jīng)網(wǎng)絡(luò)的檢測方法[1-3]，但是這類方法由于特征提取不明顯，分類方法粗淺，容易出現(xiàn)誤檢或者漏檢。為了能夠更有效地檢測焊點(diǎn)質(zhì)量，將極限學(xué)習(xí)機(jī)（Extreme Learning Machine，ELM）算法應(yīng)用到分類檢測中去，從而準(zhǔn)確檢測焊點(diǎn)質(zhì)量。雖然神經(jīng)網(wǎng)絡(luò)系統(tǒng)辨識經(jīng)過了50多年的發(fā)展，取得了很多顯著的理論成果，但是大規(guī)模系統(tǒng)中的大數(shù)據(jù)量、高維度以及數(shù)據(jù)的高不確定性，使神經(jīng)網(wǎng)絡(luò)的辨識速度很難滿足實(shí)際的要求。此外，像核算法、人工神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)等方法不僅需要大量的訓(xùn)練時間，并且會出現(xiàn)“過飽和”、“假飽和”等各種問題[4-6]。而通過主成分分析（Principal Component Analysis，PCA）將高維度數(shù)據(jù)可視化，簡化數(shù)據(jù)以便學(xué)習(xí)，再利用極限學(xué)習(xí)機(jī)算法訓(xùn)練速度快，泛化能力好的特性，使得極限學(xué)習(xí)機(jī)在焊點(diǎn)檢測分類中具有很大的優(yōu)勢。本文對焊點(diǎn)圖像進(jìn)行預(yù)處理后，采用極限學(xué)習(xí)機(jī)算法對焊點(diǎn)的特征圖像進(jìn)項(xiàng)檢測分類，有更高的檢測準(zhǔn)確率。

2 相關(guān)理論

本文使用的方法主要包括兩部分：主成分分析和極限學(xué)習(xí)機(jī)。圖像分類時，原始數(shù)據(jù)往往是高維度的，不利于學(xué)習(xí)，因此通過主成分分析將用于學(xué)習(xí)的數(shù)據(jù)先進(jìn)行降維處理，更便于后續(xù)利用極限學(xué)習(xí)機(jī)進(jìn)行數(shù)據(jù)分類。

2.1 主成分分析

主成分分析可以和機(jī)器學(xué)習(xí)相結(jié)合進(jìn)行分類。主成分分析利用降維的思想將高維度數(shù)據(jù)映射到低維度空間，并期望所投影的維度上方差最大。對于d維度空間的n個樣本 z1,z2,…,zn，其矩陣形式為 Zd×n=[z1,z2,…,zn]，對所有列取平均，可得：

這里n為樣本總數(shù)，m為樣本均值。令Zˉ=[m,m,…,m]，則定義樣本集X的協(xié)方差矩陣：

設(shè) St的秩為 k,則 λ1≥λ2≥…≥λk；wi,i=1,2,…,k為對應(yīng)的特征向量。累計貢獻(xiàn)率為：

當(dāng)ηm大于某個閾值（通常要達(dá)到70%～80%）時，可認(rèn)為主成分?jǐn)?shù)目為m。wi,i=1,2,…,m稱為樣本主成分，W=[w1,w2,…,wm]為主成分矩陣。

使用主成分分析得到的新變量為：

由此可見，通過主成分分析可以將樣本降維，樣本從n×d維降低至n×m維，這樣就只保留了貢獻(xiàn)率較高的部分[7]。

2.2 極限學(xué)習(xí)機(jī)

極限學(xué)習(xí)機(jī)是一種快速訓(xùn)練的單隱層前饋神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法。極限學(xué)習(xí)機(jī)相比于傳統(tǒng)的方法，其網(wǎng)絡(luò)訓(xùn)練速度提高了數(shù)千倍，并且不影響網(wǎng)絡(luò)的收斂能力。

對于N個任意不同的樣本(xi,ti)，其中 xi=[xi1,xi2,…,xin]T∈Rn，ti∈R ，i∈1, N 。對于具有L個隱層神經(jīng)元的單隱層前饋神經(jīng)網(wǎng)絡(luò)，可記為：

xi=[xi1,xi2,…,xin]T∈Rn表示輸入層與隱層第i神經(jīng)元之間的輸入權(quán)值，βi表示隱層第i個神經(jīng)元與輸出層神經(jīng)元之間的輸出權(quán)值，bi表示隱層第i個神經(jīng)元的閾值，wi?xj表示 wi與 xj的內(nèi)積。

具有L個隱層神經(jīng)元的單隱層前饋神經(jīng)網(wǎng)絡(luò)采用激勵函數(shù)g(x)，可以逼近來自同一連續(xù)系統(tǒng)的N個輸入樣本，預(yù)計輸出yi為：

這里ε是噪聲，其模型如圖1所示。

圖1 ELM模型

隱層神經(jīng)元將輸入數(shù)據(jù)轉(zhuǎn)換成不同的表示。轉(zhuǎn)換分為兩個步驟進(jìn)行，首先通過輸入層權(quán)重和閾值將數(shù)據(jù)映射到隱層，其次轉(zhuǎn)換映射數(shù)據(jù)。極限學(xué)習(xí)機(jī)中的非線性轉(zhuǎn)換函數(shù)可以很好地提高其學(xué)習(xí)能力。隱含層數(shù)據(jù)表達(dá)h可以用于查找輸出權(quán)重。

神經(jīng)網(wǎng)絡(luò)中的隱層不局限于一種轉(zhuǎn)換函數(shù)，不同的功能可以使用不同的函數(shù)（sigmoid、hyperbolic tangent、threshold等）[8-9]。通常情況下，線性網(wǎng)絡(luò)節(jié)點(diǎn)數(shù)等于數(shù)據(jù)特征數(shù)。

實(shí)際中，極限學(xué)習(xí)機(jī)通過矩陣形式求解，使用矩陣易于編寫，并且在計算機(jī)上運(yùn)行速度快，其矩陣形式可以表示為：

雖然極限學(xué)習(xí)機(jī)包括訓(xùn)練方面，但是和其他神經(jīng)網(wǎng)絡(luò)一樣，網(wǎng)絡(luò)本身是不可見的，數(shù)學(xué)上，只有一個矩陣描述兩個線性空間的映射關(guān)系。因此極限學(xué)習(xí)機(jī)可以視為兩個映射：輸入XW和輸出Hβ，它們之間是一個非線性轉(zhuǎn)換H=g(XW+b)，隱含層節(jié)點(diǎn)數(shù)目決定了W、H和β的大小[10-11]。

擁有不同的隱含層類型則對于每一種類型都是獨(dú)立的，兩種隱含層類型：

線性隱含層可以加入到極限學(xué)習(xí)機(jī)中：

由上述介紹可知：

訓(xùn)練這個網(wǎng)絡(luò)等同于求解方程（7）的最小二乘解。認(rèn)為H的秩等于N，在這一假設(shè)下，可計算左偽逆為：

則有：

3 實(shí)驗(yàn)方法

采用極限學(xué)習(xí)機(jī)算法進(jìn)行焊點(diǎn)檢測可以直接應(yīng)用于實(shí)際生產(chǎn)當(dāng)中，根據(jù)實(shí)際生產(chǎn)需要，要求焊點(diǎn)檢測準(zhǔn)確率在95%以上，實(shí)現(xiàn)器件的實(shí)時檢測。

本文采用極限學(xué)習(xí)機(jī)算法，對所采取到的圖像進(jìn)行處理時，重點(diǎn)包括兩方面的工作，一方面是圖像預(yù)處理提取特征，另一方面是對特征圖像檢測分類。

3.1 系統(tǒng)構(gòu)建

如圖2所示，視覺檢測系統(tǒng)包括條形光源、PC機(jī)和相機(jī)。相機(jī)采用Basler acA 2500-14gm GigE相機(jī)配有Aptina MT9P031 CMOS芯片，每秒14幀圖像，500萬像素分辨率。該相機(jī)外觀輕巧，適合安裝在狹小空間。利用圖2所示系統(tǒng)采集焊點(diǎn)圖像。

圖2 實(shí)驗(yàn)系統(tǒng)圖

3.2 圖像預(yù)處理

在所有的待檢測焊點(diǎn)圖像庫中隨機(jī)獲取部分圖像，對所獲得的全部圖像進(jìn)行預(yù)處理。用中值濾波去對全部圖像進(jìn)行濾波，可以消除噪聲，避免干擾；由于標(biāo)準(zhǔn)焊點(diǎn)是表面光滑的半橢球體，缺陷焊點(diǎn)則是表面不規(guī)則形狀，采用分水嶺算法對圖像進(jìn)行分割，可獲得焊點(diǎn)輪廓和分割區(qū)域輪廓；最后將獲得的分割輪廓圖像統(tǒng)一轉(zhuǎn)化成50×50大小的圖像作為提取的特征圖像。

本文采用的基于極限學(xué)習(xí)機(jī)的焊點(diǎn)檢測方法基本步驟如下：

步驟1對測試件進(jìn)行圖像采集，獲取焊點(diǎn)圖像。

步驟2對焊點(diǎn)圖像進(jìn)行預(yù)處理，首先截取焊點(diǎn)所在區(qū)域，再進(jìn)行中值濾波，最后將濾波結(jié)果進(jìn)行分水嶺分割，從而獲得特征圖像。預(yù)處理結(jié)果均為50×50的圖像，將其轉(zhuǎn)換成1×2 500的行向量，通過主成分分析對此行向量進(jìn)行降維，降低維度至1×87的行向量，作為極限學(xué)習(xí)機(jī)的輸入xi。

步驟3確定極限學(xué)習(xí)機(jī)的隱含層節(jié)點(diǎn)數(shù)目N，確定輸入層的輸入權(quán)值wi和bi，i=1,2,…,N。激勵函數(shù)為sigmoid，隱含層節(jié)點(diǎn)數(shù)目為200。

步驟4計算隱含層輸出矩陣H和輸出權(quán)值β：β=H-1T。

步驟5輸入測試集，獲取測試結(jié)果并分析。

4 結(jié)果與分析

4.1 測試結(jié)果

隨機(jī)采集合格焊點(diǎn)150張圖像和缺陷焊點(diǎn)100張圖像，共計250張圖像進(jìn)行圖像預(yù)處理，隨機(jī)選取其中的50個合格焊點(diǎn)和50個缺陷焊點(diǎn)預(yù)處理結(jié)果作為訓(xùn)練樣本，剩余的圖像預(yù)處理結(jié)果作為測試樣本。圖3是合格焊點(diǎn)和缺陷焊點(diǎn)的樣本圖以及預(yù)處理后的結(jié)果。

圖3 樣本圖像

對100個合格焊點(diǎn)和50個缺陷焊點(diǎn)進(jìn)行分類檢測，PCA+ELM的計算結(jié)果ti(i=1,2,…,150)，如圖4所示，分類結(jié)果如表1。對于缺陷類焊點(diǎn)達(dá)到100%的準(zhǔn)確檢測，避免錯誤出廠，在合格焊點(diǎn)的檢測準(zhǔn)確率也達(dá)到99%，可以滿足檢測要求。

4.1.1 準(zhǔn)確率對比

圖4PCA+ELM計算結(jié)果T

表1PCA+ELM檢測結(jié)果

傳統(tǒng)分類方法有基于核和基于實(shí)例算法等?；诤说乃惴ò演斎霐?shù)據(jù)映射到一個高階的向量空間，在這些高階向量空間里，有些分類或者回歸問題能夠更容易解決；基于實(shí)例的算法常常用來對決策問題建立模型，這樣的模型常常先選取一批樣本數(shù)據(jù)，然后根據(jù)某些近似性，把新數(shù)據(jù)與樣本數(shù)據(jù)進(jìn)行比較。其中比較著名的算法有支持向量機(jī)（Support Vector Machine，SVM）和鄰近算法（K-Nearest Neighbor，KNN）。最近10年來，深度學(xué)習(xí)得到了迅速發(fā)展，研究工作不斷深入，在模式識別和預(yù)測估計等領(lǐng)域取得了很大的成功。卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks，CNNs）是深度學(xué)習(xí)的一種，已成為圖像識別領(lǐng)域的研究熱點(diǎn)[12-13]。但是在實(shí)現(xiàn)相同成功率的情況下，深度學(xué)習(xí)算法所需要的樣本比極限學(xué)習(xí)機(jī)多很多。

在MATLAB 2015b下，對所提到的各種算法進(jìn)行測試并比較。僅用ELM進(jìn)行測試，其準(zhǔn)確率沒有優(yōu)勢，而PCA+ELM相對于SVM、KNN、CNNs，在擁有相對較高的檢測準(zhǔn)確率的同時，也具有很大的時間優(yōu)勢，其檢測準(zhǔn)確率如圖5。

圖5 檢測準(zhǔn)確率對比

為了避免不合格產(chǎn)品的錯誤出廠，僅靠檢測準(zhǔn)確率不足以滿足性能影響，因此需要新的指標(biāo)。ROC曲線是描述檢測概率和虛警概率的制約關(guān)系，用于目標(biāo)識別算法的評估。通過計算ROC曲線下的面積（Area Under an ROC Curve，AUC）作為判斷模型優(yōu)劣的指標(biāo)。AUC的取值范圍是[0，1]，AUC的值越大，說明算法分類性能越好。若AUC為1，表示分類完全正確[14-15]。表2是PCA+ELM和SVM、KNN、CNNs幾種算法在不同樣本下AUC的值，可以看出，PCA+ELM的分類性能要優(yōu)于SVM、KNN、CNNs。

表2AUC比較

從表2數(shù)據(jù)可以看出，PCA+ELM相對傳統(tǒng)分類方法分類性能更好。

4.1.2 時間對比

焊點(diǎn)檢測過程中，訓(xùn)練及測試時間是判斷算法好壞的一個重要指標(biāo)，表3是對PCA+ELM、ELM、SVM、KNN和CNNs幾種方法的時間統(tǒng)計；圖像采集時間和預(yù)處理時間相同，分別為2.4 ms和11.0 ms。由表中信息可以看出PCA+ELM明顯優(yōu)于另外4種。

表3 檢測時間 ms

CNNs對圖像進(jìn)行訓(xùn)練時，準(zhǔn)確率達(dá)到98%以上，訓(xùn)練樣本迭代次數(shù)至少300次，訓(xùn)練時間很長。由表3可見，極限學(xué)習(xí)機(jī)的訓(xùn)練時間遠(yuǎn)遠(yuǎn)短于支持向量機(jī)、鄰近算法和卷積神經(jīng)網(wǎng)絡(luò)，在測試時間上也比它們要快。卷積神經(jīng)網(wǎng)絡(luò)等算法的檢測時間的局限，使其不能實(shí)現(xiàn)在線實(shí)時焊點(diǎn)檢測。

4.2 參數(shù)分析

在圖像預(yù)處理過程中，使用中值濾波進(jìn)行濾波，可以去除噪聲，減少干擾，濾波窗口大小選取影響到檢測準(zhǔn)確率，因此依次對窗口大小為9×9到41×41的中值濾波進(jìn)行測試，檢測結(jié)果如圖6。因此在后續(xù)檢測中，為了使得檢測準(zhǔn)確率更高，檢測結(jié)果更穩(wěn)定，選取窗口大小為31×31的中值濾波。

圖6 中值濾波窗口大小測試圖

不同情形下可采用不同的隱含層函數(shù)，主要的隱含層函數(shù)有sigmoid函數(shù)、RBF函數(shù)和hardlim函數(shù)等形式。在實(shí)際實(shí)驗(yàn)中，隱含層神經(jīng)元節(jié)點(diǎn)數(shù)目的選取很大程度決定了整個神經(jīng)網(wǎng)絡(luò)的識別精度，也關(guān)系到系統(tǒng)的泛化性能。因此對極限學(xué)習(xí)機(jī)的隱含層激勵函數(shù)和節(jié)點(diǎn)數(shù)目進(jìn)行測試，測試結(jié)果如圖7所示。圖中顯示sigmoid激勵函數(shù)測試準(zhǔn)確率最高，并在200個神經(jīng)元之后其檢測準(zhǔn)確率不再上升，因此在實(shí)際檢測中選取sigmoid函數(shù)，神經(jīng)元數(shù)目選擇200個。

圖7 隱層參數(shù)測試

ELM以其快速的學(xué)習(xí)能力、良好的泛化性、簡單的參數(shù)設(shè)置等優(yōu)點(diǎn)，廣泛應(yīng)用于各個領(lǐng)域之中。由上述可得，最終選取大小為31×31的中值濾波窗口濾波后，進(jìn)行分水嶺分割，將處理結(jié)果作為訓(xùn)練測試樣本，使用極限學(xué)習(xí)機(jī)進(jìn)行分類，隱含層激勵函數(shù)為sigmoid，節(jié)點(diǎn)數(shù)目為200。經(jīng)過100次測試，得到測試標(biāo)準(zhǔn)差如圖8所示，由此可見該算法應(yīng)用穩(wěn)定。

使用PCA降維后再用ELM進(jìn)行焊點(diǎn)分類，大大降低了識別時間，在64位Windows系統(tǒng)下，CPU為i5-4590，MATLAB 2015b中運(yùn)行，本文算法相對支持向量機(jī)、鄰近算法、卷積神經(jīng)網(wǎng)絡(luò)，檢測準(zhǔn)確率更高，檢測時間縮短，檢測性能更好可以實(shí)現(xiàn)焊點(diǎn)的實(shí)時分類。

綜上所述，可見總體指標(biāo)均達(dá)到生產(chǎn)要求。

圖8 檢測標(biāo)準(zhǔn)差

5 結(jié)論

電子產(chǎn)品的焊點(diǎn)質(zhì)量會影響產(chǎn)品的可靠性，焊點(diǎn)質(zhì)量檢測是保證電子產(chǎn)品質(zhì)量的重要工作。傳統(tǒng)算法檢測精度低、耗時長。本文將焊點(diǎn)圖像預(yù)處理后，采用PCA+ELM對焊點(diǎn)進(jìn)行分類?；跇O限學(xué)習(xí)機(jī)的焊點(diǎn)檢測分類是一種適合高速精確測量的檢測方法，該方法的整體系統(tǒng)構(gòu)建簡單，占用空間小、精度高。本文方法分類精度高、耗時少，檢測準(zhǔn)確率和檢測時間均達(dá)到生產(chǎn)要求，可應(yīng)用到實(shí)際生產(chǎn)中。

[1]Jagannathan S.Automatic inspection of wave soldered joint using neural networks[J].Journal of Manufacturing Systems，1997，16（6）：389-398.

[2]Acciani G，Brunetti G，F(xiàn)ornarelli G.Application of neural networks in optical inspection and classification of solder joints in surface mount technology[J].IEEE Transactions on Industrial Informatics，2006，2（3）：200-209.

[3]Akusok A，Bjork K M，Miche Y，et al.High-performance extreme learning machines：A complete toolbox for big data applications[J].Access IEEE，2015，3：1011-1025.

[4]Huang Z，Yu Y，Gu J，et al.An efficient method for traffic sign recognition based on extreme learning machine[J].IEEE Transactions on Cybernetics，2016.

[5]Yadav B，Ch S，Mathur S.Discharge forecasting using an Online Sequential Extreme Learning Machine（OS-ELM）model：A case study in Neckar River，Germany[J].Measurement，2016，92：433-445.

[6]Al-Yaseen W L，Othman Z A，Nazri M Z A.Multi-level hybrid support vector machine and extreme learning machine based on modified K-means for intrusion detection system[J].Expert Systems with Applications，2017，67：296-303.

[7]Abdi H，Williams L J.Principal component analysis[J].Wiley Interdisciplinary Reviews Computational Statistics，2010，2（4）：433-459.

[8]Huang G B.What are extreme learning machines?Filling the gap between frank Rosenblatt’s dream and John von Neumann’s puzzle[J].Cognitive Computation，2015，7（3）：263-278.

[9]Huang G B.An insight into extreme learning machines：Random neurons，random features and kernels[J].Cognitive Computation，2014，6（3）：376-390.

[10]Huang G B.Learning capability and storage capacity of two-hidden-layer feedforward networks[J].IEEE Transactions on Neural Networks，2003，14（2）：274-281.

[11]Wang Y，Cao F，Yuan Y.A study on effectiveness of extreme learning machine[J].Neurocomputing，2011，74（16）：2483-2490.

[12]Hinton G E，Salakhutdinov R R.Reducing the dimensionality of data with neural networks[J].Science，2006，313（5786）：504.

[13]Makantasis K.Deep supervised learning for hyperspectral data classification through convolutional neural networks[C]//International Geoscience and Remote Sensing Symposium，2015：4959-4962.

[14]董元方，李雄飛，李軍，等.基于分辨粒度的gROC曲線分析方法[J].軟件學(xué)報，2013，24（1）：109-120.

[15]楊一，張淑娟，何勇.基于ELM和可見/近紅外光譜的鮮棗動態(tài)分類檢測[J].光譜學(xué)與光譜分析，2015（7）：1870-1874.