模擬電路的DCNN-ELM 軟故障診斷*

潘 峰，王建鋒，楊麗薇，甘旭升

（1.西京學(xué)院機(jī)械工程學(xué)院，西安 710123；2.空軍工程大學(xué)空管領(lǐng)航學(xué)院，西安 710051）

0 引言

故障的自診斷功能，是裝備研制的重要指標(biāo)，也是裝備升級(jí)的必然趨勢(shì)。我軍現(xiàn)役裝備大量系統(tǒng)采用模擬電路系統(tǒng)，不具備狀態(tài)檢測(cè)和診斷功能。當(dāng)裝備出現(xiàn)故障后，查找故障原因非常不便利，故障檢測(cè)過于依賴人員經(jīng)驗(yàn)，而基層單位相關(guān)技術(shù)人員較少，更缺乏專用儀器，這使得出現(xiàn)故障時(shí)，定位速度慢、維修困難、保障能力差，影響了完好率。如何實(shí)現(xiàn)模擬電路的自動(dòng)檢測(cè)與診斷，是當(dāng)前維護(hù)保障的一個(gè)研究熱點(diǎn)。

在以往模擬電路故障診斷研究中，信號(hào)的特征提取是需要解決的首要問題，它直接影響了分類器的診斷準(zhǔn)確率。Spina 等提出將被測(cè)電路得到的脈沖響應(yīng)作為特征直接輸入分類器［1］，然而，由于計(jì)算量較大，該方法診斷效果并不理想。因此，研究如何從信號(hào)中自動(dòng)提取最核心的、最有辨別力的特征用于故障診斷，成為了故障診斷領(lǐng)域的一個(gè)研究熱點(diǎn)。其中，采用KPCA 和KSLPP 方法對(duì)測(cè)量的脈沖響應(yīng)數(shù)據(jù)進(jìn)行特征提?。?-3］，取得了不錯(cuò)效果，得到了諸多研究者的認(rèn)可，已在模擬電路故障診斷中取得了較好效果。但該方法也存在不足，即需要核函數(shù)映射與人工設(shè)置特征參數(shù)，而當(dāng)前尚無(wú)有效方法解決這些問題，從而復(fù)雜了特征提取的過程。

深度學(xué)習(xí)是機(jī)器學(xué)習(xí)領(lǐng)域中新的研究方向［4］，而深度卷積神經(jīng)網(wǎng)絡(luò)（Deep Convolutional Neural Networks，DCNN）作為深度學(xué)習(xí)的典型算法，因其卓越性能而受到廣泛關(guān)注。DCNN 本質(zhì)上是一種具有深度結(jié)構(gòu)的前饋神經(jīng)網(wǎng)絡(luò)，同時(shí)，也可視為一種無(wú)監(jiān)督的特征提取方法。它通過卷積核共享處理數(shù)據(jù)，能夠無(wú)需人工選擇，自主提取信號(hào)的深度和內(nèi)在特征［5］。較之于傳統(tǒng)特征提取方法，DCNN 提取的特征直接源于信號(hào)本身，沒有經(jīng)過任何變換和函數(shù)映射。目前，DCNN 已成功用于圖像識(shí)別［6］、信號(hào)處理［7］和故障診斷［8］方面的特征提取。

選擇高效的分類器是實(shí)現(xiàn)故障有效診斷的必要條件。神經(jīng)網(wǎng)絡(luò)是一種經(jīng)典分類器，許多學(xué)者都采用神經(jīng)網(wǎng)絡(luò)研究故障的分類診斷問題［9-10］，但其訓(xùn)練存在著速度慢、過擬合和局部收斂等缺點(diǎn)，且分類精度也有待于提升。支持向量機(jī)（Support Vector Machine，SVM）是從解決最優(yōu)分類面問題發(fā)展起來(lái)的分類器，適于解決小樣本分類問題，是公認(rèn)的神經(jīng)網(wǎng)絡(luò)替代方法，并在故障診斷領(lǐng)域中得到了應(yīng)用［11-12］，但在多分類和超參數(shù)選擇等方面存在困難。極限學(xué)習(xí)機(jī)（Extreme Learning Machine，ELM）是一種新的單隱層前饋神經(jīng)網(wǎng)絡(luò)（Single Hidden Layer Feed Forward Neural Networks，SLFN）。它通過隨機(jī)方式產(chǎn)生全部隱層參數(shù)，并同時(shí)考慮了識(shí)別準(zhǔn)確率以及算法拓展性之間的平衡，理論上可提供較高的泛化性能和訓(xùn)練速度［3，13-14］，并已有研究將其應(yīng)用于故障診斷。

基于上述分析，本文提出一種基于DCNN 和ELM 的模擬電路軟故障診斷方法，嘗試通過DCNN 提取故障特征，并據(jù)此由ELM 分類器對(duì)各個(gè)故障類別進(jìn)行正確診斷。仿真驗(yàn)證了它的有效性和可行性。

1 基于DCNN 的故障特征提取

DCNN 是LeCun 基于深度學(xué)習(xí)思想提出的前饋神經(jīng)網(wǎng)絡(luò)［15］，其結(jié)構(gòu)形式如圖1 所示。每個(gè)層級(jí)中的核心操作各不相同，同時(shí)，通過特定結(jié)構(gòu)，實(shí)現(xiàn)權(quán)值共享，簡(jiǎn)化了網(wǎng)絡(luò)訓(xùn)練，降低了計(jì)算復(fù)雜性，提高了模型的泛化性能。在DCNN 中，卷積層與池化層最為重要，主要用于提取輸入訓(xùn)練集的高級(jí)融合特征，而全連接層則將提取的特征拉伸成一列，輸入到Softmax 分類器，最后計(jì)算網(wǎng)絡(luò)輸出和樣本輸出的殘差，并利用BP 算法更新網(wǎng)絡(luò)參數(shù)。

圖1 DCNN 結(jié)構(gòu)框架

DCNN 的主要優(yōu)點(diǎn)主要體現(xiàn)在：在卷積操作中，權(quán)值共享和局部連接較好地保留了局部差異化特征，減少了所需優(yōu)化參數(shù)的個(gè)數(shù)，同時(shí)也相應(yīng)增大了數(shù)據(jù)量；卷積操作結(jié)果經(jīng)非線性映射來(lái)完成，雖然增加了網(wǎng)絡(luò)復(fù)雜度，但卻提升了網(wǎng)絡(luò)的非線性描述能力，可抽取數(shù)據(jù)中隱藏的深層次特征；池化操作可對(duì)卷積操作獲取的特征進(jìn)行二次特征提取，以降低后續(xù)分類的特征輸入維數(shù)和運(yùn)算復(fù)雜程度；Softmax 分類器為L(zhǎng)ogistic 回歸模型在多分類問題上的推廣，輸出的是屬于不同類別的概率值。

2 極限學(xué)習(xí)機(jī)

ELM 是一種形式獨(dú)特、性能優(yōu)良的新型神經(jīng)網(wǎng)絡(luò)，它通過隨機(jī)方式產(chǎn)生全部隱層參數(shù)，并同時(shí)考慮了識(shí)別準(zhǔn)確率以及算法拓展性之間的平衡。目前在各研究領(lǐng)域已被廣泛應(yīng)用。

考慮樣本矩陣{yi，ti}，其中，i=1，2，…，N，且N 為樣本個(gè)數(shù)，yi=［yi1，yi2，…，yin］T∈Rn為網(wǎng)絡(luò)輸入向量，ti=［ti1，ti2，…，tim］T∈Rm為目標(biāo)輸出向量，n，L，m 分別為輸入層、隱含層和輸出層的維度，激勵(lì)函數(shù)g（y）通常為Sigmoid 類型的激勵(lì)函數(shù)，則ELM 的數(shù)學(xué)表達(dá)形式為

式（2）也可表示矩陣形式Hβ=T，其中隱含層輸出矩陣

這樣，訓(xùn)練網(wǎng)絡(luò)就轉(zhuǎn)化為求解一個(gè)線性系統(tǒng)Hβ=T，且

其中，H+表示矩陣H 的Moore-Penrose 廣義逆矩陣。

3 模擬電路軟故障DCNN-ELM 診斷流程

為了提高模擬電路軟故障的診斷效果，本文提出了基于DCNN 特征提取的ELM 診斷方法，其診斷流程如圖2 所示。主要由數(shù)據(jù)預(yù)處理、特征提取和分類診斷3 部分組成。其中，數(shù)據(jù)預(yù)處理部分對(duì)電路信號(hào)進(jìn)行小波包分解［16-18］和灰度化處理，為建模完成數(shù)據(jù)準(zhǔn)備；特征提取部分采用DCNN 完成，以訓(xùn)練更深層網(wǎng)絡(luò)，提煉更多有效特征；分類診斷部分通過對(duì)ELM 的訓(xùn)練和測(cè)試來(lái)實(shí)現(xiàn)。

基于DCNN 特征提取的ELM 模擬電路軟故障診斷方法的基本流程如下：

步驟1：采集模擬電路的正常波形信號(hào)與各故障波形信號(hào)數(shù)據(jù)；

步驟2：將采集波形信號(hào)數(shù)據(jù)分為訓(xùn)練數(shù)據(jù)與測(cè)試數(shù)據(jù)，并進(jìn)行3 層小波包分解，獲得小波包重構(gòu)系數(shù)；

步驟3：對(duì)新的小波包重構(gòu)系數(shù)波形進(jìn)行灰度化處理，轉(zhuǎn)化為二維矩陣形式；

步驟4：初始化網(wǎng)絡(luò)參數(shù)，并基于二維矩陣訓(xùn)練DCNN 網(wǎng)絡(luò)，提取模擬電路特征；

步驟5：將DCNN 提取的特征作為輸入，選取參數(shù)，進(jìn)行ELM 故障診斷模型訓(xùn)練；

步驟6：使用處理后的測(cè)試數(shù)據(jù)，完成ELM 模型的驗(yàn)證。

此外，在圖2 的故障診斷流程中，需要明確小波包分解與灰度化處理的作用：

圖2 DCNN 和ELM 的故障診斷流程

1）模擬電路的輸出信號(hào)波形中包含了豐富的頻率成分，電路發(fā)生故障時(shí)，這些頻率成分受影響程度各不相同。有的頻率成分被削弱了，能量會(huì)減小；而有的被加強(qiáng)了，能量會(huì)增大。其中一些頻率成分的能量變化，能使本不明顯的故障特征，在不同分辨率下的小波包子空間中，以顯著的能量變化的形式表現(xiàn)出來(lái)，因此，采用小波包分解方法將它們提取出來(lái)，能夠表征某個(gè)元器件的故障情況。

2）DCNN 受視覺神經(jīng)機(jī)制的啟發(fā)而設(shè)計(jì)，是為識(shí)別二維或三維信號(hào)而設(shè)計(jì)的多層感知器，尤其在處理二維信號(hào)方面，具有良好的魯棒性和運(yùn)算效率，因此，在DCNN 特征提取前，本文通過灰度化處理預(yù)先將小波包分解信號(hào)轉(zhuǎn)化為二維信號(hào)。

4 實(shí)驗(yàn)仿真

實(shí)驗(yàn)環(huán)境：Pentium IV 2.4 GHz CPU，4 GB DDR內(nèi)存，80 GB+7200 轉(zhuǎn)硬盤；Windows 7 操作系統(tǒng)。實(shí)驗(yàn)樣本主要采用軟件PSPICE 仿真獲?。凰惴ǚ抡骝?yàn)證則全部通過MATLAB 程序語(yǔ)言來(lái)實(shí)現(xiàn)。另外，實(shí)驗(yàn)未采用任何啟發(fā)式算法。

4.1 實(shí)驗(yàn)對(duì)象選取

實(shí)驗(yàn)將常用的Sallen-Key 帶通濾波器作為模擬電路故障診斷對(duì)象，中心頻率1.584 9 KHz，下限截止頻率和上限截止頻率分別為824.39 Hzt 和3.092 6 KHz，電路中各元器件標(biāo)稱值如圖3 所示。設(shè)電阻的正常容差范圍為5%，電容的正常容差范圍為10%，且輸出端Out 為唯一可測(cè)試節(jié)點(diǎn)。為簡(jiǎn)化問題，僅研究電阻和電容的單個(gè)軟故障，而不考慮多故障和硬故障。

圖3 Sallen-Key 帶通濾波器

利用軟件PSPICE 對(duì)該電路進(jìn)行仿真，通過交流小信號(hào)靈敏度分析，綜合比較各元件對(duì)輸出波形影響的靈敏度后，可知電路的輸出響應(yīng)波形受R2、R3、C1和C2的變化影響最大。因此，可確定故障集中包含8 種故障模式，即R2-、R2+、R3-、R3+、C1-、C1+、C2-和C2+，其中，符號(hào)+和-分別表示偏大軟故障和偏小軟故障，偏差標(biāo)稱值都為±50%，再加上正常模式共9 種模式。采用“0-l”法可得DCNN-ELM 的8 個(gè)的期望輸出向量，如表1 所示。在建模診斷中，若DCNN-ELM 的任一輸出節(jié)點(diǎn)的實(shí)際輸出值與期望輸出值差值的絕對(duì)值小于判定值0.3 （可視情況取不同值），則認(rèn)為診斷正確；否則，診斷錯(cuò)誤。

表1 DCNN-ELM 故障診斷的期望輸出向量

4.2 小波包分解

在圖3 所示電路中，將輸入電源V1為正弦波輸入激勵(lì)，頻率1 KHz，幅值4 V。掃描步長(zhǎng)取設(shè)定為0.5 μs，掃描時(shí)間范圍0.25 ms～1.5 ms，在對(duì)該電路作特性分析時(shí)，利用軟件PSPICE 對(duì)電路的各個(gè)故障模式進(jìn)行MonteCarlo 瞬態(tài)分析，并相應(yīng)輸出波形。圖4 給出R2- 故障模式下的輸出波形，其中，實(shí)線代表R2-故障模式下的輸出響應(yīng)波形；虛線代表正常模式下的輸出響應(yīng)波形。仿真后，各個(gè)故障模式輸出50 個(gè)瞬態(tài)響應(yīng)信號(hào)波形，對(duì)波形采樣后的數(shù)據(jù)保存到軟件PSPICE 的輸出文本文件中。

圖4 R2-故障狀態(tài)下的輸出波形

讀取*.Out 文件中各個(gè)波形的在0.25 ms～1.5 ms時(shí)段內(nèi)的采樣數(shù)據(jù)，得到1 000 個(gè)信號(hào)。選擇db2 小波作為小波基函數(shù)，對(duì)采集數(shù)據(jù)進(jìn)行3 層小波包分解，然后采用小波包變換計(jì)算第3 層的8 個(gè)頻段的能量［19］，并歸一化后構(gòu)成8 維輸入向量，最后與“0-l”法表征的期望輸出向量組合，就可以得到1 000 組樣本集，隨機(jī)選取400 組用于訓(xùn)練DCNN-ELM 模型，剩下600 組用于測(cè)試。

4.3 DCNN 特征提取

根據(jù)診斷流程設(shè)計(jì)，DCNN 主要被用于提取待測(cè)電路故障的內(nèi)在特征。為提高診斷精度，構(gòu)建DCNN 模型時(shí)，需要預(yù)先根據(jù)情況選取恰當(dāng)?shù)木W(wǎng)絡(luò)。本文主要根據(jù)診斷精度來(lái)選擇網(wǎng)絡(luò)參數(shù)、信號(hào)波形大小和網(wǎng)絡(luò)結(jié)構(gòu)。

在采用DCNN 提取故障特征中，可試著以大小32*32 的波形信號(hào)為基礎(chǔ)來(lái)研究確定網(wǎng)絡(luò)參數(shù)，所確定參數(shù)主要指卷積層的特征圖個(gè)數(shù)與卷積核大小。在確定卷積層的特征圖個(gè)數(shù)時(shí)，卷積層數(shù)可預(yù)設(shè)為4 層，并設(shè)置了增量、恒定和遞減3 種模式，例如，增量模式30*50*80*100。卷積核大小可設(shè)置為3*3、4*4 或5*5。池化核大小常設(shè)置為2*2。訓(xùn)練批次數(shù)大小可通過逐次遞增方式來(lái)確定。表2 給出DCNN 模型主要參數(shù)的準(zhǔn)確度對(duì)比，可據(jù)此選擇合適參數(shù)。

表2 DCNN 模型主要參數(shù)選擇

由表2 可看出，遞增模式訓(xùn)練精度最高，遞減模式測(cè)試精度最高，兩個(gè)模式測(cè)試準(zhǔn)確率相差較大，綜合考慮，在確定特征圖個(gè)數(shù)時(shí)，可選擇遞減模式；當(dāng)卷積核選擇5*5 時(shí)，訓(xùn)練準(zhǔn)確率最高，當(dāng)選擇3*3 時(shí)，測(cè)試準(zhǔn)確率最高，折中考慮測(cè)試與訓(xùn)練準(zhǔn)確率，卷積核大小可選取4*4；同時(shí)，也可以看到，訓(xùn)練精度隨著訓(xùn)練批次數(shù)的逐漸增加而增加，而測(cè)試精度是先增后減，當(dāng)訓(xùn)練批次數(shù)取60 時(shí)，訓(xùn)練和測(cè)試精度達(dá)到局部最優(yōu)。

在選取了DCNN 主要參數(shù)后，接著要確定DCNN 的層數(shù)和輸入波形信號(hào)大小。表3 給出不同輸入波形信號(hào)大小與對(duì)應(yīng)網(wǎng)絡(luò)結(jié)構(gòu)的訓(xùn)練和測(cè)試精度。從診斷效果可看出，訓(xùn)練精度極為接近，測(cè)試精度差別較大，且在波形信號(hào)大小24*24 和8 層網(wǎng)絡(luò)結(jié)構(gòu)時(shí)測(cè)試精度最好。

表3 DCNN 結(jié)構(gòu)與輸入波形信號(hào)大小選擇

DCNN 模型共有8 層結(jié)構(gòu)，如表4 所示。其中，第8 層是輸出層，即ELM 層（即由ELM 分類器代替原來(lái)的Softmax 分類器）。此外，本文使用全卷積層取代了全連接層，以期更有效提取特征。為便于理解特征提取過程，圖5 給出第1 個(gè)卷積層中的卷積核濾波器的權(quán)值位置變化情況。

表4 DCNN 模型結(jié)構(gòu)

圖5 第1 卷與第2 卷積核濾波器的DCNN 卷積核

為驗(yàn)證DCNN 特征提取能力，KPCA 與KSLPP也分別被用于故障診斷的特征提取過程，并進(jìn)行了對(duì)比，下頁(yè)圖6 給出了樣本高維特征的2 個(gè)主元可視化描述。由圖6 可見，KPCA 提取的主元特征的判別能力最差，C1+與R3+之間嚴(yán)重重疊，正常模式、R2-、R3-和C1+之間有明顯重疊，R3-與R3+之間也存在一定重疊。KSLPP 提取的主元特征聚類界限不清晰，R3-和C1+之間明顯重疊，其他各類故障之間有輕微重疊。經(jīng)DCNN 處理后的類內(nèi)距離較小，除R2+ 與C1-、R3+ 與C2+、R3- 與C1+ 之間分別存在輕微重疊，其他故障均為獨(dú)立分布，類間間距很明顯，表明DCNN 模型能夠從電路信號(hào)中抽取極具有辨識(shí)力的特征，有利于后續(xù)分類器的故障識(shí)別。

圖6 二維尺度下特征提取效果

4.4 ELM 分類診斷

DCNN 提取特征后，將對(duì)應(yīng)數(shù)據(jù)輸入ELM 構(gòu)建故障診斷模型，需要選擇隱層節(jié)點(diǎn)數(shù)。表5 給出ELM 與DCNN-ELM 的診斷結(jié)果，其中，C 表示測(cè)試準(zhǔn)確數(shù)；R 表示測(cè)試準(zhǔn)確率。由表5 中數(shù)據(jù)發(fā)現(xiàn)，當(dāng)選取35 個(gè)隱層節(jié)點(diǎn)時(shí)，DCNN-ELM 的測(cè)試準(zhǔn)確率為98.2%，而ELM 的測(cè)試準(zhǔn)確率為85.5%。當(dāng)獨(dú)立的ELM 的隱層節(jié)點(diǎn)選取68 時(shí)，才能達(dá)到與DCNN-ELM 相近的準(zhǔn)確率。因此，當(dāng)隱層節(jié)點(diǎn)數(shù)目較少時(shí)，DCNN-ELM 能達(dá)到更高精度。

表5 ELM 與DCNN-ELM 的診斷結(jié)果對(duì)比

由此，基于DCNN 特征提取數(shù)據(jù)訓(xùn)練ELM 分類模型，隱層節(jié)點(diǎn)數(shù)可取35。所建模型的診斷效果如表6 所示，其中，第1 列代表待診斷的各故障模式，第1 行代表各故障模式的診斷結(jié)果。不難發(fā)現(xiàn)，除錯(cuò)誤將2 個(gè)R3-診斷為C1+、3 個(gè)R3+診斷為C2+和5 個(gè)C1-診斷為R2+外，R2+、R2-、C1+、C2-、C2+和正常模式全部實(shí)現(xiàn)正確診斷。

表6 DCNN-ELM 診斷結(jié)果

為了驗(yàn)證有效性，對(duì)KPCA-ELM、KSLPP-ELM和DCNN-ELM 的性能進(jìn)行了比較，實(shí)驗(yàn)結(jié)果如表7 所示。相對(duì)于KPCA-ELM 與KSLPP-ELM 方法，DCNN-ELM 方法除對(duì)R3+ 和C1- 故障的測(cè)試準(zhǔn)確率略有下降外，對(duì)其他故障都有不同程度改善和提升，總體診斷正確率達(dá)到98.3 %，并有效解決了診斷中常見的準(zhǔn)確率不平衡問題。這也說(shuō)明，相對(duì)于KPCA 和KSLPP 的特征提取，DCNN 提取的特征更有辨識(shí)力，更能有效提高ELM 軟故障診斷能力。

表7 基于不同特征提取方法的診斷結(jié)果

此外，還分別采用標(biāo)準(zhǔn)DCNN（Softmax 分類器）方法以及DCNN-SVM（SVM 分類器）方法進(jìn)行了軟故障建模診斷，共做了10 組重復(fù)實(shí)驗(yàn)，得到的平均結(jié)果對(duì)比如下頁(yè)表8 所示?？梢钥闯觯鄬?duì)于DCNN方法與DCNN-SVM 方法，無(wú)論對(duì)于訓(xùn)練集，還是對(duì)于測(cè)試集，DCNN-ELM 方法的平均診斷準(zhǔn)確率都是最高的。

表8 基于不同方法的平均診斷準(zhǔn)確率

5 結(jié)論

為實(shí)現(xiàn)武器裝備模擬電路軟故障的準(zhǔn)確診斷，提出了基于DCNN 與ELM 的集成診斷方法。DCNN用于提取故障數(shù)據(jù)中具有辨識(shí)能力的特征；ELM 用于解決復(fù)雜非線性、不確定問題的分類問題，將兩者有機(jī)結(jié)合，取長(zhǎng)補(bǔ)短，優(yōu)勢(shì)互補(bǔ)，能夠改善武器裝備模擬電路軟故障的診斷準(zhǔn)確率和診斷效率問題。仿真表明，相對(duì)于單一ELM、KPCA-ELM 和KSLPP-ELM 模型，DCNN-ELM 模型的診斷準(zhǔn)確率有了明顯改善，從而為解決武器裝備模擬電路軟故障診斷問題貢獻(xiàn)了一種有效的解決途徑。下一步研究的問題是：采用所提出方法研制開發(fā)實(shí)用的電路檢測(cè)裝置。