一種使用深度學(xué)習(xí)網(wǎng)絡(luò)進行模擬電路故障特征自動提取的方案*

王月海 王瀚晨

(北方工業(yè)大學(xué)信息學(xué)院，100144，北京)

現(xiàn)代電子電路一般由數(shù)字電路和模擬電路組成. 雖然模擬電路只占混合電路的20%，但80%的故障都發(fā)生在模擬電路中，模擬電路故障診斷對電子系統(tǒng)的穩(wěn)定性和可靠性至關(guān)重要.

基于深度學(xué)習(xí)的故障診斷本質(zhì)是模式識別問題，其研究內(nèi)容主要包括特征提取和分類器設(shè)計. 模擬電路的故障診斷研究起源于1960年代，從經(jīng)典的故障字典法到BP神經(jīng)網(wǎng)絡(luò)，從單一的算法到多種算法組合優(yōu)化，分類器設(shè)計的相關(guān)算法越來越成熟. 相比之下，特征提取的相關(guān)研究進展則較為緩慢. 實際上，診斷效果與輸入的特征數(shù)據(jù)有直接的關(guān)系. 目前，對于原始信號的特征提取方法主要依靠經(jīng)驗豐富的領(lǐng)域工程師來選擇恰當(dāng)?shù)奶卣鹘M合，或采用各類統(tǒng)計特征或抽象數(shù)據(jù)特征，如譚陽紅等通過對原始信號進行小波多尺度分解，并對特征能量進行正交化、歸一化處理后得到特征信息、但小波函數(shù)的選擇和小波分解的層數(shù)等參數(shù)卻只能憑經(jīng)驗或?qū)嶒瀸Ρ冗M行確認[1]，Yuan Lifen等應(yīng)用峭度和熵提取故障特征，但在分類診斷時易收斂于局部最小值[2]，Shen Hong 等提出基于高階統(tǒng)計量的方法[3]，但其缺點是遺漏了低階信號中的特征. 為解決特征選擇和特征提取的難題，減少特征選擇和特征提取中領(lǐng)域?qū)＜业慕槿耄档吞卣鬟x取的門檻，直接將測量所得到的響應(yīng)信號作為輸入，由提取算法自動提取故障特征是一個很有前景的想法. 但直接輸入故障數(shù)據(jù)所帶來的龐大計算量會使得分類器性能急劇下降，同時診斷結(jié)果也差強人意. 深度學(xué)習(xí)技術(shù)的出現(xiàn)為這一想法的實現(xiàn)提供了支持，以犧牲可接受范圍內(nèi)的效率作為代價，本文提出一種基于卷積神經(jīng)網(wǎng)絡(luò)(Convolution Neural Network,簡稱CNN)的故障特征直接提取方法.

支持向量機(Support Vector Machine，簡稱SVM)針對非線性問題而設(shè)計，泛化能力強，適用于故障診斷的場景. 孔夢君、萬國發(fā)等使用不同組合優(yōu)化后的SVM分類器均取得了較高的故障診斷率.[4-5]所以我們選擇SVM用于測試特征提取性能的故障診斷算法.

本文提出一種基于CNN+SVM的模擬電路故障診斷方法，使用輸出點電壓波形作為原始數(shù)據(jù)，應(yīng)用CNN完成特征提取后輸入SVM構(gòu)建分類器，最終完成對目標電路的故障分類.

1 基于CNN的特征提取

卷積神經(jīng)網(wǎng)絡(luò)CNN由紐約大學(xué)的Yann LeCun于1998年提出，其質(zhì)是一個采用了局部連接和共享權(quán)值的多層感知機. CNN是一種深度的監(jiān)督學(xué)習(xí)下的機器學(xué)習(xí)模型，善于挖掘二維圖像中的局部特征. 與基于小波分析的特征提取方法相比，CNN可以使用物理量(如電壓、電流)隨時間變化的二維矢量圖作為輸入，在不經(jīng)過變換和分解的情況下完成局部特征的提取.

1.1 卷積神經(jīng)網(wǎng)絡(luò)原理

1.1.1局部連接

卷積神經(jīng)網(wǎng)絡(luò)使用局部感知結(jié)構(gòu)的構(gòu)思理念，每一個卷積層節(jié)點只與前一層的部分節(jié)點相連接，即每一個節(jié)點只用來學(xué)習(xí)局部特征.

如圖1所示，第N層的每個節(jié)點只與第N-1層的3個節(jié)點連接，權(quán)值參數(shù)由15個減少到9個，參數(shù)量減少了40%. 這樣做的好處是加快了學(xué)習(xí)速率，降低過擬合的可能.

1.1.2權(quán)值共享

在卷積神經(jīng)網(wǎng)絡(luò)中，卷積核通過與輸入數(shù)據(jù)的不同區(qū)域做卷積運算的方法檢測特征，相同的卷積核檢測相同的特征，所以相同的卷積核對應(yīng)的權(quán)值參數(shù)也是相同的.

如圖1所示，第N-1層到第N層的權(quán)值僅僅需要3個權(quán)值，在局部連接的基礎(chǔ)上參數(shù)數(shù)量又減少了66.7%. 這樣做不僅進一步提高了學(xué)習(xí)的速率，而且在提取特征的過程中不需要考慮局部特征的位置.

1.2 故障特征提取

本文使用模擬電路的輸出電壓波形圖作為卷積神經(jīng)網(wǎng)絡(luò)的輸入，波形圖與手寫字體都可以看做是較為簡單的二值圖像，如果將不同的故障模式看成是分類的標簽，電路故障診斷和圖像識別本質(zhì)相同. 誕生于1994年，針對手寫字體識別設(shè)計的LeNet- 5是最早最成熟的的卷積神經(jīng)網(wǎng)絡(luò)之一，因此我們在LeNet- 5的基礎(chǔ)上進行改進以設(shè)計電路故障自動提取器.

本文網(wǎng)絡(luò)模型改動如下：1)C1層卷積核大小縮小為5×5，個數(shù)增加到8個，C1層降采樣后得到的S2層個數(shù)也增加到8個；C3層卷積核大小縮小為3×3，個數(shù)不變，改動原因是相比手寫字體，模擬電路輸出的電壓波形圖采樣間隔較短，輸入數(shù)據(jù)量較大，因此縮小卷積核的大小，以達到減少參數(shù)，加快訓(xùn)練速率的目的. 同時為了盡可能的保證網(wǎng)絡(luò)精度，增加了卷積核的數(shù)量. 2)S4層的最大池化大小改為3×3，省略掉S2層. 原因是通過C1、C2層所得到的特征圖像已經(jīng)很小了，S2和S4層的本質(zhì)是進行降采樣，對于已經(jīng)很小的特征無需進行多次池化. 3)每一層的激活函數(shù)都由tanh改為RELU，原因是tanh在飽和區(qū)域變化較為平緩，在使用梯度下降法訓(xùn)練最優(yōu)解時，容易出現(xiàn)梯度消失的問題，而RELU的梯度通常是常數(shù)，可以解決訓(xùn)練過程中的梯度消失問題.

2 實驗

2.1 數(shù)據(jù)采集

應(yīng)用二級四運放高通濾波器仿真電路進行故障診斷實驗，電路如圖2所示.

容差允許范圍：電阻5%、電容10%，激勵信號為5 V，脈寬10 μs，周期20 μs的理想激勵信號.[6]該電路故障模式共有12種，故障值與標稱值參照文獻[7]設(shè)置，如表1所示. 單點采樣頻率為5萬赫茲，1 ms內(nèi)共采集501個點，使用Pspice對正常模式及每種故障模式進行50次高斯分布的蒙特卡洛分析，每種模式采集50組數(shù)據(jù). 其中35組數(shù)據(jù)作為訓(xùn)練集，剩余15組作為測試集.

表1 各元件標準值及故障值

2.2 卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程

2.3 支持向量機算法參數(shù)設(shè)置

Libsvm模型選擇C- SVC，核函數(shù)選擇RBF核，初始懲罰系數(shù)設(shè)置為3.

3 實驗結(jié)果及分析

為對比不同特征提取算法，本文使用Haar小波分析+SVM應(yīng)用于四運放高通濾波器電路，卷積神經(jīng)網(wǎng)絡(luò)與Haar小波針對相同的采樣數(shù)據(jù)分別從時域和頻域信號提取特征. 每種診斷方法分別對13種故障模式的測試集進行診斷，診斷結(jié)果如表2所示.

表2 2種故障診斷方法診斷結(jié)果比較

從診斷結(jié)果中的測試準確率可以發(fā)現(xiàn)，在使用相同分類器算法時，使用卷積神經(jīng)網(wǎng)絡(luò)提取的特征經(jīng)過分類測試后的準確率有所提升，說明使用卷積神經(jīng)網(wǎng)絡(luò)對模擬電路提取故障特征的方法是可行的. 相比Haar小波分析提取特征的方法，小幅度提升了準確率的同時，省略了繁瑣的特征工程 . 另外本文實驗中所使用的訓(xùn)練樣例相對較少，在應(yīng)對大規(guī)模模擬電路上百種故障時，使用小波分析這樣復(fù)雜的特征提取方法，需要極其豐富的專家經(jīng)驗和巨大的時間成本. 相比之下，在應(yīng)對大規(guī)模數(shù)據(jù)問題時，卷積神經(jīng)網(wǎng)絡(luò)不需要增加投入的成本，只需要適當(dāng)增加各層神經(jīng)元數(shù)量，就能夠增加抽取的特征，提高識別大規(guī)模數(shù)據(jù)的能力.

從診斷結(jié)果中支持向量機訓(xùn)練過程的迭代次數(shù)可以發(fā)現(xiàn)，雖然卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程犧牲了一些效率，但訓(xùn)練后的特征在輸入分類器診斷的過程中效率是haar小波特征提取方法的兩倍左右. 而且在實際的工程問題中，卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程應(yīng)是在實際故障發(fā)生前，因此訓(xùn)練過程犧牲的效率是可以忽略不計的. 當(dāng)實際故障發(fā)生時，測試人員只需將針對某一類故障電路訓(xùn)練好的網(wǎng)絡(luò)模型調(diào)出即可完成測試，實際是提升了測試的效率.

4 結(jié)語

本文將卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用到模擬電路故障特征提取中，使得故障診斷系統(tǒng)可以使用模擬電路的電壓響應(yīng)信號作為原始輸入數(shù)據(jù)，取代了傳統(tǒng)特征工程中復(fù)雜的故障特征提取過程，降低了測試門檻，減少了人工成本. 同時結(jié)合支持向量機，對四運放高通濾波器完成了模擬診斷試驗，實驗結(jié)果表明，相比小波分析，基于卷積神經(jīng)網(wǎng)絡(luò)的特征提取方法雖然增加了一定程度的訓(xùn)練時間，但減少了分類器診斷的時間，且分類準確率獲得了一些提升，具備較好的實際應(yīng)用價值.