基于改進(jìn)多層核超限學(xué)習(xí)機(jī)的模擬電路故障診斷

朱敏， 許愛強(qiáng)， 許晴， 李睿峰

(1.91576部隊(duì)， 浙江 寧波 315020； 2.海軍航空大學(xué)， 山東 煙臺(tái) 264001；3.92228部隊(duì)， 北京 100010)

0 引言

模擬電路高度集成于現(xiàn)代電子系統(tǒng)并廣泛運(yùn)用于自動(dòng)控制、通信、供電系統(tǒng)等軍用、民用領(lǐng)域。統(tǒng)計(jì)數(shù)據(jù)表明，占比不到20%的模擬部分卻集中了整個(gè)電子系統(tǒng)中超過80%的故障[1]。因此，模擬電路故障診斷一直是故障診斷領(lǐng)域的熱點(diǎn)問題[2]。盡管近幾十年來該問題得到持續(xù)而廣泛的研究，但這些研究多停留于某一環(huán)節(jié)的理論而未見整套的實(shí)際應(yīng)用方案，事實(shí)上該項(xiàng)技術(shù)仍遠(yuǎn)未達(dá)到實(shí)際應(yīng)用的水平，其主要障礙除了電路所固有的非線性、組件的冗余性、測(cè)試點(diǎn)不足、測(cè)量中的不確定性[3-4]外，還在于對(duì)于復(fù)雜模擬電路所存在的較大規(guī)模的高質(zhì)量故障樣本以及高效診斷模型的匱乏[4]。

近年來，基于數(shù)據(jù)驅(qū)動(dòng)的方法引起了國內(nèi)外學(xué)者的廣泛關(guān)注，其研究成果主要反映在故障特征提取和分類器設(shè)計(jì)兩個(gè)方面[4-6]。當(dāng)前，模擬電路的故障特征主要分為兩大類：第一大類為傳統(tǒng)人工提取的特征，包括3種：一是基于電路節(jié)點(diǎn)的電壓響應(yīng)(這種方法通?？紤]測(cè)試性，涉及對(duì)測(cè)試節(jié)點(diǎn)進(jìn)行優(yōu)選[5-6])；二是從時(shí)頻響應(yīng)曲線中抽取特征(包括峰值增益及其相應(yīng)的頻率和相位[7]，3 dB截止頻率[8]等)；三是基于信號(hào)處理理論(除最流行的小波特征[9]外，還包括包絡(luò)特征[10]、高階統(tǒng)計(jì)量特征[11]等)。第二大類特征則來源于由深度神經(jīng)網(wǎng)絡(luò)從模擬信號(hào)或時(shí)頻響應(yīng)曲線中提取的抽象特征[12-14]。分類器方面，近年來基于核的機(jī)器學(xué)習(xí)方法得到了最廣泛的關(guān)注，其中最典型的方法包括支持向量機(jī)(SVM)[15]、核超限學(xué)習(xí)機(jī)(KELM)[16]、相關(guān)向量機(jī)(RVM)[17]等，核函數(shù)及其參數(shù)的選取對(duì)該類方法的性能有著巨大影響。

人為提取的特征往往需要專業(yè)的領(lǐng)域知識(shí)，且這種特征與分類器的適配性難以得到保證；受益于深度神經(jīng)網(wǎng)絡(luò)對(duì)特征和分類器的聯(lián)合學(xué)習(xí)能力，深度神經(jīng)網(wǎng)絡(luò)自動(dòng)提取的抽象特征往往效果極佳，但卻存在固有缺陷：1)在預(yù)訓(xùn)練以及微調(diào)階段需要利用樣本反復(fù)迭代，學(xué)習(xí)速度相當(dāng)緩慢，對(duì)工程應(yīng)用提出了更高的硬件要求；2)具有大量自由參數(shù)，其調(diào)節(jié)缺乏理論指導(dǎo)，因此結(jié)果具有偶然性。為提高深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練效率，最近，文獻(xiàn)[18-19]將超限學(xué)習(xí)機(jī)(ELM)的思想和深度學(xué)習(xí)相結(jié)合，提出一種多層超限學(xué)習(xí)機(jī)(ML-ELM)，保留了深度學(xué)習(xí)優(yōu)勢(shì)的同時(shí)還大大降低了訓(xùn)練時(shí)間，但是由于每層ELM的固有特性，結(jié)果的隨機(jī)性仍然存在。文獻(xiàn)[20]提出了分層超限學(xué)習(xí)機(jī)(H-ELM)，其主要貢獻(xiàn)在于將ML-ELM中的表示學(xué)習(xí)和分類分成了兩個(gè)獨(dú)立階段。文獻(xiàn)[21]則將ML-ELM的最后一層替換為KELM，進(jìn)一步提升了分類精度并將之應(yīng)用于航空發(fā)動(dòng)機(jī)部件的故障診斷，然而該方法不僅依然需要人為調(diào)整每個(gè)隱層的節(jié)點(diǎn)數(shù)量，還需要額外調(diào)整核參數(shù)及正則化參數(shù)，并且這種不徹底的核化方式也沒有從根本上改變結(jié)果的隨機(jī)性。

針對(duì)現(xiàn)有的模擬電路故障特征提取方法人工依賴程度較高、現(xiàn)有的面向復(fù)雜模擬電路的故障診斷方法自動(dòng)化程度低、實(shí)用性差的問題，本文將深度學(xué)習(xí)與KELM相結(jié)合，提出一種基于多層單純形優(yōu)化核超限學(xué)習(xí)機(jī)(ML-SOKELM)的故障診斷方法。首先，以文獻(xiàn)[4，22]于2018年提出的仿真診斷模型及開發(fā)的相應(yīng)軟件為基礎(chǔ)獲取較大規(guī)模的高質(zhì)量故障樣本，再從樣本數(shù)據(jù)出發(fā)初步選取故障特征；其次，將ML-ELM的每一層(包括自動(dòng)編碼器層和分類器層)均進(jìn)行核化，提出了多層核超限學(xué)習(xí)機(jī)(ML-KELM)的概念，徹底避開了傳統(tǒng)深度學(xué)習(xí)中所固有的網(wǎng)絡(luò)結(jié)構(gòu)(每層神經(jīng)元數(shù)量及初始權(quán)重，不包括層數(shù))調(diào)整問題，針對(duì)由此新產(chǎn)生的少量核參數(shù)的設(shè)置問題，引入Nelder-Mead單純形法，對(duì)各層核參數(shù)進(jìn)行聯(lián)合優(yōu)化；最后，將初選后的故障特征輸入訓(xùn)練好的模型，逐層提取特征并獲取診斷結(jié)果。以國際上最常見的故障診斷基準(zhǔn)電路(Sallen-Key帶通濾波電路和Biquad低通濾波電路)[17]為例，驗(yàn)證了所提方法相較于其他算法在理論上的優(yōu)勢(shì)，并進(jìn)一步搭建工程中常見的串聯(lián)穩(wěn)壓電路，通過實(shí)測(cè)數(shù)據(jù)驗(yàn)證了所提方法的實(shí)用性。

1 多層單純形優(yōu)化核超限學(xué)習(xí)機(jī)

1.1 核超限學(xué)習(xí)機(jī)

(1)

式中：‖·‖F(xiàn)表示矩陣的Frobenius范數(shù)；‖·‖2表示向量的2范數(shù)；β=[β1,β2,…,βL]T是模型輸出權(quán)重向量，L為隱層層數(shù)；h(xi)=[h1(xi),…,hL(xi)]表示隱層神經(jīng)元對(duì)輸入樣本xi的映射向量，hk(·)表示第k個(gè)隱層神經(jīng)元的激活函數(shù)；ξi=[ξi1,ξi2,…,ξim]T表示對(duì)應(yīng)于第i個(gè)訓(xùn)練樣本的輸出誤差向量；yi=[yi1,yi2,…,yim]T表示對(duì)應(yīng)于第i個(gè)訓(xùn)練樣本的理想輸出向量；c是正則化參數(shù)，并且c∈R+. 基于Karush-Kuhn-Tucker優(yōu)化條件求解(1)式的優(yōu)化問題，可得輸出權(quán)重為

β=H?Y=HT(c-1I+HHT)-1Y，

(2)

式中：Y=[y1,y2,…,yn]T是輸入樣本對(duì)應(yīng)的目標(biāo)值向量；H是輸入樣本的映射矩陣；I是單位矩陣。應(yīng)用Mercer條件定義核矩陣Ω=HHT，Ω(i,j)=h(xi)·h(xj)T=k(xi，xj)，j=1,2,…,n,可得ELM的核化形式:

f(x)=h(x)HT(c-1I+HHT)-1Y=
[k(x,x1),…,k(x,xn)](c-1I+Ω)-1Y.

(3)

令fp(x)表示第p個(gè)輸出節(jié)點(diǎn)的輸出值，則有f(x)=[f1(x),f2(x),…,fm(x)]. 對(duì)于給定的測(cè)試樣本x，其輸出類別判定為

(4)

1.2 多層超限學(xué)習(xí)機(jī)

借鑒深度學(xué)習(xí)的思想，ML-ELM[18-19]由多個(gè)ELM自動(dòng)編碼器(ELM-AE)堆疊而成，每個(gè)ELM-AE的結(jié)構(gòu)如圖1所示。

圖1 第i個(gè)ELM-AE結(jié)構(gòu)Fig.1 Architecture of the ith ELM-AE

H(i)Γ(i)=X(i).

(5)

ML-ELM使用ELM-AE逐層訓(xùn)練時(shí)，第i隱層和第i+1隱層的關(guān)系為

H(i+1)=g(H(i)(Γ(i))T).

(6)

1.3 多層核超限學(xué)習(xí)機(jī)

在ML-ELM中應(yīng)用核技巧，本文選用徑向基核函數(shù)(RBF)將輸入矩陣X(i)通過核函數(shù)映射到核矩陣Ω(i)，即

Ω(i)=K(X(i),σ(i)),

(7)

式中：K表示與核函數(shù)k(·，·)相對(duì)應(yīng)的核矩陣；σ(i)表示其核參數(shù)。

(8)

此時(shí)，(5)式和(6)式分別改寫成：

(9)

(10)

表1 ML-KELM流程

1.4 基于Nelder-Mead單純形法的核優(yōu)化

不同核函數(shù)的性能表現(xiàn)差別很大，且核函數(shù)的構(gòu)造及相應(yīng)核參數(shù)選取至今沒有完善的理論依據(jù)[23]。Nelder-Mead單純形法作為一種解決無約束優(yōu)化問題的有效方法，因其簡(jiǎn)單、快速、易實(shí)現(xiàn)的特點(diǎn)廣泛應(yīng)用于工程優(yōu)化計(jì)算中[24]。本文將各層核參數(shù)向量v=[σ1,σ2,…,σL]視為待優(yōu)化變量，將L層ML-KELM的訓(xùn)練視為無約束優(yōu)化問題，運(yùn)用Nelder-Mead單純形法搜索其最優(yōu)值，由此形成ML-SOKELM，具體流程如表2所示。借鑒文獻(xiàn)[25]中的核參數(shù)設(shè)置方法，各層的初始核參數(shù)σi設(shè)置為各層輸入X(i)的平均歐式距離；最大迭代次數(shù)MT設(shè)為100；為防止過擬合，目標(biāo)函數(shù)f(V)=|ηe(V)-ηt(V)|，其中，ηe(V)為期望的訓(xùn)練誤差，ηt(V)為其實(shí)際訓(xùn)練誤差，V={v1,v2,…,vL+1}。

表2 ML-SOKELM流程

2 模擬電路故障診斷的實(shí)施框架

本文使用文獻(xiàn)[4，22]提出的仿真診斷模型(SDM)作為模擬電路大規(guī)模故障診斷的應(yīng)用框架，如圖2所示。

圖2 SDM應(yīng)用框架Fig.2 Application framework of SDM

2.1 故障電路生成

在此階段，給定CUT描述，變異生成過程根據(jù)用戶配置產(chǎn)生規(guī)定數(shù)量的變異體，即向CUT中注入故障并得到相應(yīng)的電路故障版本。本文涉及的主要變異操作如表3所示。表3中：PCH為軟故障變異算子，元件的參數(shù)負(fù)向偏差(PCH-)和參數(shù)正向偏差(PCH+)分別服從均勻分布U(0.1Θ，Θ-2ε)和U(Θ+2ε,2Θ)，ε、Θ分別表示元件的容差值、標(biāo)稱值；ROP、LRB、GRB和NSP為硬故障變異算子；ROP、NSP接入的阻值服從均勻分布U(100 kΩ，1 MΩ)；LRB、GRB接入的阻值服從均勻分布U(10 Ω，1 kΩ)。

表3 變異算子

2.2 故障數(shù)據(jù)仿真

將由上一個(gè)階段產(chǎn)生的變異體描述與測(cè)試集T中的測(cè)試描述信息組合在一起，輸入基于Pspice內(nèi)核的仿真器，從仿真輸出文件中解析得到響應(yīng)信號(hào)數(shù)據(jù)。鑒于元件參數(shù)存在一定的容差，假設(shè)每個(gè)元件參數(shù)服從均值為標(biāo)稱值Θ，標(biāo)準(zhǔn)差為σ=tΘ/3的高斯分布，本文中相對(duì)容差t設(shè)為10%，隨后進(jìn)行Monte Carlo仿真得到各類CUT的仿真數(shù)據(jù)。

2.3 故障特征提取

圖3 模糊度示意圖Fig.3 Schematic diagram of ambiguity

2.4 故障模式分類與評(píng)價(jià)

首先，根據(jù)2.3節(jié)特征選擇結(jié)果從頻率響應(yīng)曲線中提取故障特征形成訓(xùn)練和測(cè)試數(shù)據(jù)集；其次，根據(jù)表2流程完成訓(xùn)練；最后，將測(cè)試數(shù)據(jù)集輸入訓(xùn)練好的模型進(jìn)行故障模式分類。借鑒裝備測(cè)試性中的概念，使用以下指標(biāo)進(jìn)行診斷性能的評(píng)價(jià)：

1) 漏警率(MAR)=發(fā)生的漏警數(shù)/故障樣本總數(shù)；

2) 虛警率(FAR)=發(fā)生的虛警數(shù)/正常樣本總數(shù)；

3) 故障檢測(cè)率(FDR)=檢測(cè)到的故障樣本數(shù)/故障樣本總數(shù)；

4) 故障隔離率(FIR)=正確隔離的故障樣本數(shù)/檢測(cè)到的故障樣本數(shù)；

5) 分類正確率(Accuracy)=分類正確的樣本數(shù)/樣本總數(shù)。

3 仿真實(shí)驗(yàn)

為證明所提方法的有效性，將基于核方法的算法、基于深度學(xué)習(xí)的算法以及ML-ELM[19]作為比較算法。其中：基于核方法的算法采用最流行的KELM、SVM及Psorakis等[26]提出的多分類相關(guān)向量機(jī)(MRVM)；基于深度學(xué)習(xí)的方法則采用最常見的堆疊自編碼器(SAE)、深度置信網(wǎng)絡(luò)(DBN)及結(jié)合了深度學(xué)習(xí)與ELM優(yōu)勢(shì)的ML-ELM. 實(shí)驗(yàn)中，SVM采用一對(duì)一(OAO)法進(jìn)行多分類，構(gòu)建的每個(gè)SVM的核參數(shù)均設(shè)為“auto”(意味著對(duì)SVM采用啟發(fā)式方法確定核參數(shù)，Matlab 2014a軟件中引進(jìn)的fitcsvm函數(shù)可實(shí)現(xiàn)該過程)；所有核方法的核函數(shù)均采用高斯核，正則化參數(shù)與核參數(shù)(OAO-SVM與ML-SOKELM除外)通過網(wǎng)格搜索法均從集合[10-6,10-2,…,106]中得到；實(shí)驗(yàn)發(fā)現(xiàn)，深度學(xué)習(xí)算法對(duì)于模擬電路故障數(shù)據(jù)在兩個(gè)隱層時(shí)性能較好，為方便比較，本文所有基于深度學(xué)習(xí)的算法均采用兩個(gè)隱層的結(jié)構(gòu)。實(shí)驗(yàn)電腦配置為：Inter Core i7-4770 CPU，3.4 GHz主頻和8 GB RAM.

3.1 Sallen-Key帶通濾波電路

首先采用Sallen-Key帶通濾波電路來詳細(xì)分析ML-SOKELM的診斷性能，該電路結(jié)構(gòu)如圖4所示。圖4中：R1、R2、R3、R4、R5表示電阻；C1、C2表示電容；Vin為激勵(lì)輸入端；GND為接地端；OUT為輸出端。注入的14類軟故障詳見表4，其他非故障元件相對(duì)容差設(shè)為10%。

圖4 Sallen-Key帶通濾波電路Fig.4 Sallen-Key band-pass filter circuit

對(duì)CUT的每種故障模式產(chǎn)生200個(gè)變異體，將從[0 Hz,100 kHz]頻率區(qū)間等間隔離散化得到的1 001個(gè)激勵(lì)信號(hào)輸入到仿真器，得到由3 000個(gè)故障樣本構(gòu)成、特征數(shù)為1 001的原始數(shù)據(jù)集。將其按故障類別均分，得到樣本數(shù)均為1 500的訓(xùn)練集和測(cè)試集。借鑒文獻(xiàn)[16]的頻點(diǎn)(激勵(lì))選取方法獲取特征集為FT*=[0.001 kHz,9.31 kHz,16.12 kHz,16.82 kHz,17.02 kHz,17.42 kHz,17.62 kHz,18.22 kHz,18.32 kHz,19.32 kHz,20.42 kHz,20.82 kHz,21.92 kHz,23.02 kHz,27.73 kHz,30.13 kHz,30.23 kHz,33.33 kHz,33.43 kHz,70.87 kHz,71.37 kHz]。實(shí)驗(yàn)中，ML-SOKELM由兩個(gè)KELM-AE和一個(gè)KELM堆疊而成，將FT*對(duì)應(yīng)的數(shù)據(jù)集輸入各個(gè)分類器中，診斷結(jié)果的混淆矩陣如圖5所示。圖5中，模式1～模式15分別對(duì)應(yīng)F0～F14.

表4 Sallen-Key帶通濾波電路故障描述

圖5 ML-SOKELM的診斷結(jié)果Fig.5 Diagnosed results of ML-SOKELM

由圖5可知，每種故障模式的診斷準(zhǔn)確率依次是95%、94%、88%、99%、96%、96%、100%、100%、85%、97%、100%、98%、95%、99%和100%。其中：診斷準(zhǔn)確最低的是F2，僅為88%；F6，F(xiàn)7，F(xiàn)13和F14則達(dá)到了100%。從整體上看，ML-SOKELM對(duì)本案例中的各類故障模式具有較好的區(qū)分能力。

ML-SOKELM與3種常用的核學(xué)習(xí)算法性能比較結(jié)果如表5所示。由表5可知，4種算法除時(shí)間花費(fèi)外，各性能指標(biāo)差距并不顯著。這是因?yàn)镾allen-Key帶通濾波電路結(jié)構(gòu)相對(duì)簡(jiǎn)單，各故障模式的特征表現(xiàn)相對(duì)明顯，易于區(qū)分。對(duì)算法性能進(jìn)行如下細(xì)致分析，以證明其潛力。

表5 與基于核方法算法的診斷性能比較

1) 在診斷準(zhǔn)確率上，ML-SOKELM要高于其他3種算法，KELM則是其中表現(xiàn)最差的。

2) ML-SOKELM的FAR和FIR都優(yōu)于其他3種算法，MAR也僅次于OAO-SVM(高0.07%)，F(xiàn)DR比KELM高0.13%，比OAO-SVM和MRVM分別低0.07%和0.2%，說明所提算法在有效抑制漏警、虛警的同時(shí)，還具備較高的故障檢測(cè)率和隔離率。

3) 時(shí)間花費(fèi)上，KELM顯然具備最明顯的優(yōu)勢(shì)。除KELM之外，在訓(xùn)練階段，ML-SOKELM由于涉及基于單純形法的核參數(shù)優(yōu)化過程，訓(xùn)練時(shí)間較OAO-SVM略長(zhǎng)，但仍然要遠(yuǎn)遠(yuǎn)短于MRVM；在測(cè)試階段，ML-SOKELM時(shí)效性最佳，OAO-SVM則因?yàn)樾枰獙?duì)每個(gè)二分類SVM進(jìn)行預(yù)測(cè)并進(jìn)行投票統(tǒng)計(jì)，時(shí)效性最差。

所提算法與兩種常見的深度學(xué)習(xí)算法(SAE、DBN)以及ML-ELM的性能比較如表6所示。為公平比較，SAE、DBN和ML-ELM激活函數(shù)均為Sigmoid函數(shù)，每層均設(shè)定80個(gè)節(jié)點(diǎn)(通過實(shí)驗(yàn)，這樣的取值可取得較好效果)。每層RBM及AE預(yù)訓(xùn)練次數(shù)均為100，第2階段微調(diào)訓(xùn)練次數(shù)設(shè)為3 000次，批訓(xùn)練(Mini batch)大小設(shè)為100. 由表6看到如下內(nèi)容：

表6 與深度學(xué)習(xí)相關(guān)算法的診斷性能比較

1) 在時(shí)間花費(fèi)方面，ML-ELM和ML-SOKELM均無需對(duì)網(wǎng)絡(luò)進(jìn)行微調(diào)，因此訓(xùn)練時(shí)間相對(duì)SAE和DBN大幅度縮短，核參數(shù)的優(yōu)化過程則導(dǎo)致ML-SOKELM比ML-ELM耗時(shí)略多。

圖6 Biquad低通濾波電路結(jié)構(gòu)圖Fig.6 Structure chart of Biquad low-pass filter circuit

2) 診斷精度方面，原始數(shù)據(jù)集經(jīng)過激勵(lì)(頻點(diǎn))選取前后，SAE和DBN在原來92.07%和92.00%基礎(chǔ)上分別提升了4.66%和5.33%. 一方面說明SAE和DBN的深度結(jié)構(gòu)確實(shí)具備在原始幅頻曲線基礎(chǔ)上直接提取抽象特征的能力；另一方面也證明了特征(激勵(lì))初步選取方法可以讓抽象特征的提取更為高效。在特征集FT*對(duì)應(yīng)的數(shù)據(jù)集上進(jìn)行訓(xùn)練和測(cè)試，ML-SOKELM的診斷準(zhǔn)確率高于ML-ELM但略低于SAE和DBN，4種算法在其余包括MAR、FAR、FDR和FIR在內(nèi)的各個(gè)指標(biāo)上并無明顯差距?？紤]到訓(xùn)練時(shí)效性的巨大差距以及對(duì)人的主觀經(jīng)驗(yàn)的依賴程度，綜合來看，ML-SOKELM明顯比其他算法更具實(shí)用性。

3.2 Biquad低通濾波電路

為更多地覆蓋實(shí)際面臨的問題，本節(jié)對(duì)較大規(guī)模、同時(shí)包含軟硬故障的電路進(jìn)行診斷，以Biquad低通濾波電路為例做進(jìn)一步的研究，該電路結(jié)構(gòu)如圖6所示。圖6中：U1、U2、U3表示集成運(yùn)算放大器；IN表示輸入端；n1、n2、n3、n4、n5表示連接節(jié)點(diǎn)；1、2、3、4、5表示關(guān)鍵元器件的管腳。注入的29類具有代表性的軟硬故障詳見表7.

表7 Biquad低通濾波電路故障描述

圖8 4個(gè)頻點(diǎn)上F0和F10的模糊度值Fig.8 Ambiguity values of F0 and F10 at four feature points

對(duì)CUT的每種故障模式產(chǎn)生100個(gè)變異體。以頻率為1 Hz～200 kHz(等間隔劃分為1 001個(gè)頻點(diǎn))的掃頻信號(hào)作為激勵(lì)，采集輸出端的響應(yīng)信號(hào)作為原始數(shù)據(jù)，得到由3 000個(gè)故障樣本構(gòu)成、每個(gè)樣本1 001維特征的原始數(shù)據(jù)集。將其按故障類別均分，得到樣本數(shù)均為1 500的訓(xùn)練集和測(cè)試集。

3.2.1 故障特性分析

對(duì)于故障規(guī)模較大的復(fù)雜電路，某些故障模式的頻率響應(yīng)曲線過于相似，以至于難以精確診斷。以故障F10和正常模式F0為例，其頻率響應(yīng)曲線如圖7所示，在頻點(diǎn)10 kHz、30 kHz、50 kHz以及100 kHz上對(duì)應(yīng)的概率密度曲線及其模糊度值如圖8所示。顯然，F(xiàn)10在所有頻點(diǎn)上均無法與F0進(jìn)行區(qū)分。由此引出響應(yīng)曲線簇模糊組的概念。

圖7 F0和F10的頻率響應(yīng)曲線Fig.7 Response curves of F0 and F10

圖9給出了無故障狀態(tài)F0所對(duì)應(yīng)的AG和不同閾值下所有故障狀態(tài)的AG. 圖9中，δ所在圓的內(nèi)部所有故障互為AG. 顯然，δ=1時(shí)不存在AG，隨著δ變小，越來越多的故障落入同一AG. 實(shí)際診斷時(shí)，診斷結(jié)果與實(shí)際故障在同一AG中，就認(rèn)為診斷正確。

圖9 不同δ下F0所在的AGFig.9 Ambiguity group of F0 under different δ

圖10 Biquad低通濾波電路診斷結(jié)果Fig.10 Diagnosed results of Biquad low-pass filter circuit

3.2.2 診斷結(jié)果分析

表8 Biquad低通濾波電路診斷準(zhǔn)確率比較

由表8和圖10可以看到如下內(nèi)容：

1) 當(dāng)δ=1時(shí)(不考慮AG)，每種方法的診斷準(zhǔn)確率均處于最低水平，ML-ELM、ML-SOKELM、KELM和OAO-SVM的FAR甚至分別高達(dá)0.88、0.8、0.84和0.82. 這是由于多種元件的故障表現(xiàn)(頻率響應(yīng)曲線)過于接近(例如圖7中的F0和F10)，任何分類器都難以將之區(qū)分。與表5對(duì)比，表9中ML-SOKELM的診斷準(zhǔn)確率比其他算法有了更明顯的提升，這說明對(duì)故障模式不易區(qū)分的診斷對(duì)象，ML-SOKELM有著更強(qiáng)的分類能力。

2) 隨著δ的降低，原本難以區(qū)分的故障模式形成AG(如圖9所示)，4種算法的診斷準(zhǔn)確率、FDR和FIR均隨之上升，MAR與FAR則隨之降低。

3)在不同δ下，ML-SOKELM均具有最高的診斷正確率、最低的MAR，F(xiàn)DR、FIR和FAR方面也接近或超過其他算法的最優(yōu)水平。當(dāng)δ=0.3時(shí)，其診斷正確率已高達(dá)0.947 3，甚至超過δ=0.1時(shí)ML-KELM和OAO-SVM的診斷正確率。

為研究多層結(jié)構(gòu)對(duì)診斷精度的影響，分別將ML-SOKELM的層數(shù)設(shè)為0～6(層數(shù)等于KELM-AE個(gè)數(shù)，0層時(shí)退化為KELM)，圖11展示了不同模糊度閾值下測(cè)試精度隨層數(shù)的變化關(guān)系。

圖11 診斷精度隨層數(shù)的變化關(guān)系Fig.11 Variation of diagnostic accuracy with number of layers

顯然，ML-SOKELM提取的抽象特征的優(yōu)異程度不會(huì)隨著層數(shù)的增多而一直增加，對(duì)于本文的電

路數(shù)據(jù)，第2層的抽象特征是最優(yōu)的，在其基礎(chǔ)上進(jìn)行分類，可以獲取最高的診斷精度，隨著層數(shù)的繼續(xù)增加，提取的抽象特征反而開始變差，診斷精度出現(xiàn)下降。一種可能的解釋是隨著層數(shù)的增加，模型的復(fù)雜度逐漸上升，與訓(xùn)練數(shù)據(jù)匹配度開始降低，由此產(chǎn)生了不同程度的過擬合問題；從另一方面看，測(cè)試準(zhǔn)確率的下降并不明顯，這說明ML-SOKELM對(duì)層數(shù)的變化并不敏感，因此，實(shí)際應(yīng)用中簡(jiǎn)單選擇一個(gè)較小的層數(shù)即可。

從圖11還可以看到，當(dāng)δ減小到一定程度，隨著δ的繼續(xù)減小，診斷精度的提升相當(dāng)有限。結(jié)合圖10的結(jié)果，建議δ在區(qū)間[0.3,0.5]之間取值，因?yàn)樵谶@樣的區(qū)間內(nèi)，既能得到相對(duì)較高的診斷正確率、FDR和FIR，同時(shí)還可保持較低的MAR和FAR，又不至于存在太多AG.

3.3 串聯(lián)穩(wěn)壓電路

本節(jié)以實(shí)際應(yīng)用中常見的串聯(lián)穩(wěn)壓電路為例，通過注入實(shí)際故障給出本文方法的實(shí)施細(xì)節(jié)并分析其實(shí)用性。該電路結(jié)構(gòu)如圖12所示，實(shí)物圖如圖13所示。圖12中：Q1、Q2、Q3、Q4表示三極管；D1、D2、D3、D4、D5表示二極管；V1為正弦波信號(hào)；RL為負(fù)載電阻。該電路共包含20個(gè)可更換單元(元器件)，考慮每個(gè)元器件的局部硬故障(LRB和ROP)、電容和電阻的軟故障(PCH+和PCH-)，共有56個(gè)目標(biāo)硬故障(不包括正常狀態(tài))和22個(gè)目標(biāo)軟故障。另外，考慮到R3阻值很小，變異配置中不考慮其橋接故障及軟故障，最終得到55個(gè)目標(biāo)硬故障和20個(gè)目標(biāo)軟故障。

圖12 串聯(lián)穩(wěn)壓電路Fig.12 Serial regulator circuit

圖13 串聯(lián)穩(wěn)壓電路實(shí)物圖Fig.13 Real serial regulator circuit

基于文獻(xiàn)[4]開發(fā)的仿真診斷模型及其軟件,對(duì)CUT的每種目標(biāo)故障(包含正常情況共計(jì)76種)產(chǎn)生100個(gè)變異體，并施加幅度為15 V、頻率為50 Hz的正弦波信號(hào)，分別采集測(cè)點(diǎn)1, 2, …, 9, out處穩(wěn)態(tài)響應(yīng)的最大值和最小值作為初始特征(共20維)，形成訓(xùn)練樣本集。

1) 借鑒文獻(xiàn)[16]的特征選取方法初步選擇特征集，得到來自7個(gè)測(cè)點(diǎn)的8維特征，即測(cè)點(diǎn)1上的最大值和最小值，測(cè)點(diǎn)2、3、5、7上的最大值和測(cè)點(diǎn)4、9上的最小值。

2) 基于8維特征，對(duì)訓(xùn)練樣本集中構(gòu)成AG的

故障進(jìn)行分析并建立診斷模型。以δ取0.4為例，得到C3開路、Q3的基極、集電極和射極開路4個(gè)故障難以與正常狀態(tài)區(qū)分，R2的軟故障(PCH+和PCH-)以及C3的軟故障(PCH+和PCH-)都難以區(qū)分，故將其忽略；依據(jù)表2流程完成ML-SOKELM診斷模型的建立。

3) 利用程控電容箱和可變電阻進(jìn)行軟故障的物理注入，以直接斷開或用導(dǎo)線短接方式進(jìn)行硬故障的物理注入；用示波器對(duì)上述7個(gè)測(cè)點(diǎn)上電壓的最大或最小值進(jìn)行測(cè)量，將測(cè)量值矢量標(biāo)準(zhǔn)化后輸入上一步建立的診斷模型；最終得到軟故障和硬故障的診斷結(jié)果，分別如表9和表10所示，其中，受限于實(shí)驗(yàn)的硬件條件(實(shí)際上也不可能對(duì)實(shí)際的硬件電路枚舉所有軟故障)，各軟故障的參數(shù)取值僅取一例(容差值取0.1倍的標(biāo)稱值，參數(shù)值在軟故障參數(shù)均勻分布的中心取值)來進(jìn)行分析。

表9 注入軟故障的診斷結(jié)果

表10 注入硬故障的診斷結(jié)果

考慮到實(shí)際物理電路中，非故障元件的參數(shù)值是確定的，對(duì)同一種注入故障僅能得到一組故障數(shù)據(jù)，此時(shí)，2.4節(jié)的部分評(píng)價(jià)指標(biāo)將失效。為此，本實(shí)驗(yàn)以輸出節(jié)點(diǎn)的輸出值占所有節(jié)點(diǎn)輸出值之和的比例來近似各個(gè)故障的判別概率(如表9和表10的故障結(jié)果列所示)。由表9(對(duì)于最高判別概率低于60%的，展示了概率最高的前2名)可知：一方面，所有的故障模式都能被準(zhǔn)確診斷(對(duì)于C3↑和C3↓，由于均屬于同一個(gè)AG，可以認(rèn)為診斷正確)，這是因?yàn)?，在軟故障情況下，電路仿真結(jié)果與真實(shí)實(shí)驗(yàn)結(jié)果高度一致，故障樣本的高質(zhì)量使得訓(xùn)練的模型盡可能的準(zhǔn)確；另一方面，注意到診斷準(zhǔn)確概率普遍不高(70%左右)，甚至有部分故障模式的診斷概率極為相近(如表9中加粗部分所示)，一種合理的解釋是軟故障在客觀上距離正常情況較近，故障特征表現(xiàn)并不明顯，區(qū)分度確實(shí)不高。

由表10(該表為每個(gè)元器件都展示了一種故障模式，并且已展示所有的判別錯(cuò)誤情況，如加粗部分所示)可知，除R3開路、R4短路和Q2集電極開路3個(gè)故障，大多數(shù)注入故障都能被正確診斷，實(shí)際診斷正確率高達(dá)94.6%(53/56)。其中：R4短路和Q2集電極開路時(shí)，診斷準(zhǔn)確概率實(shí)際仍處于較高水平(分別是39.9%和40.5%)，接近于第1名(分別是42.5%和42.1%)，診斷發(fā)生偏差的可能解釋是在仿真診斷模型中，需要用極大的電阻或極小的電阻來近似開路或短路這樣的硬故障，這就造成故障仿真樣本不能很好地體現(xiàn)實(shí)測(cè)情況，由此導(dǎo)致最終構(gòu)建的分類模型出現(xiàn)了偏差；在R3開路情況下，其故障診斷準(zhǔn)確概率則遠(yuǎn)低于第1名(92.8%)，其主要原因可能還要疊加實(shí)際使用的儀器精度影響(測(cè)量誤差增大了實(shí)測(cè)值與仿真結(jié)果的不一致性，在診斷對(duì)測(cè)量精度較為敏感的故障時(shí)造成診斷準(zhǔn)確率的快速降低)；對(duì)于53種診斷正確的情況，其判別概率至少高于第2名40%，絕大多數(shù)甚至達(dá)到90%以上，這說明本文算法對(duì)于硬故障的診斷具有很高的可靠性。事實(shí)上，故障仿真與實(shí)際的差異以及測(cè)量誤差的存在都是難以避免的，再考慮到本文方法極低的人工依賴性以及較高的診斷正確率(94.6%)，有理由認(rèn)為所提故障診斷方法達(dá)到了較高的實(shí)用水平。

表9和表10展示了每個(gè)注入故障在所提算法下的診斷結(jié)果及其可靠程度，為了從整體上驗(yàn)證所提算法在實(shí)際電路中的性能優(yōu)勢(shì)，下面仍以實(shí)用性較高的ML-ELM、KELM、OAO-SVM作為對(duì)比算法，在給出不同AG閾值下各方法對(duì)實(shí)測(cè)數(shù)據(jù)的診斷準(zhǔn)確率，如表11所示。

表11 串聯(lián)穩(wěn)壓電路診斷準(zhǔn)確率比較

由表11可以看到，表11的診斷結(jié)果與表8是一致的，隨著δ的減小，各算法在實(shí)際電路中的診斷準(zhǔn)確率都在提升。尤其是所提算法，在各個(gè)δ取值下，診斷正確率均不同程度地高于其他算法，并且在δ取0.3時(shí)就已經(jīng)達(dá)到了最高的診斷正確率，甚至高于其他算法在δ取0.1時(shí)的結(jié)果，這又一次從整體診斷準(zhǔn)確性的角度說明了所提算法的優(yōu)勢(shì)。

4 結(jié)論

結(jié)合深度學(xué)習(xí)與KELM的優(yōu)勢(shì)，本文提出一種基于ML-SOKELM的模擬電路故障診斷方法，相比已有方法，其主要優(yōu)勢(shì)在于：

1) 借助最新的SDM測(cè)試性框架，考慮了非故障元件的參數(shù)容差，完成了從高質(zhì)量的故障樣本獲取到特征自動(dòng)提取到樣本分類的一整套診斷方案，并且全程幾乎不依賴任何先驗(yàn)知識(shí)，具有極強(qiáng)的實(shí)用性。

2) 與深度學(xué)習(xí)算法(包括ML-ELM)相比，ML-SOKELM不需要依賴主觀經(jīng)驗(yàn)來調(diào)整網(wǎng)絡(luò)結(jié)構(gòu)；訓(xùn)練過程中不需要更新權(quán)重和偏置，只需維護(hù)統(tǒng)一的轉(zhuǎn)換矩陣，大大減少了內(nèi)存占用。Sallen-Key帶通濾波電路的實(shí)驗(yàn)結(jié)果表明，與SAE和DBN相比，在診斷精度相似情況下，訓(xùn)練時(shí)間分別縮短了87.8%和85.5%，測(cè)試時(shí)間分別縮短了30.1%和8.7%。

3) 與常用的核學(xué)習(xí)算法相比，ML-SOKELM通過將KELM-AE堆疊形成深度網(wǎng)絡(luò)結(jié)構(gòu)，能夠?qū)?shù)據(jù)逐層重新組合，自動(dòng)提取出更高級(jí)的抽象特征。Biquad低通濾波電路的實(shí)驗(yàn)結(jié)果表明，在不同δ下，均具備最高的診斷準(zhǔn)確率，以δ取0.4為例，與KELM和OAO-SVM相比，診斷準(zhǔn)確率分別提高了3.47%和2.16%。

為了進(jìn)一步提升所提方法的實(shí)用性，下一步研究方向包括：

1) 本文在單故障假設(shè)下應(yīng)用1階變異算子來分析電路中的故障。盡管概率很小，但復(fù)雜電路中確實(shí)存在多故障的可能，尤其是由一個(gè)故障引發(fā)的其他連帶故障，未來可以考慮電路的高階變異生成。

2) 串聯(lián)穩(wěn)壓電路的實(shí)際實(shí)驗(yàn)結(jié)果一方面證明了所提方法的準(zhǔn)確性和實(shí)用性，另一方面也應(yīng)看到仿真結(jié)果與實(shí)測(cè)結(jié)果在硬故障條件下確實(shí)存在差異，未來可以用一種仿真與實(shí)測(cè)相結(jié)合的方法，以實(shí)物系統(tǒng)的實(shí)測(cè)數(shù)據(jù)來輔助構(gòu)造樣本集，這需要研究相關(guān)的技術(shù)和設(shè)備實(shí)現(xiàn)高度自動(dòng)化的故障物理注入。

參考文獻(xiàn)(References)

[1] ZHANG C L, HE Y G, YUAN L F, et al. Analog circuit incipi-ent fault diagnosis method using DBN based features extraction[J]. IEEE Access, 2018, 6(5): 23053-23064.

[2] BINU D, KARIYAPPA B S. RideNN: a new rider optimization algorithm-based neural network for fault diagnosis in analog circuits[J]. IEEE Transactions on Instrumentation and Measurement, 2019, 68(1):2-26.

[3] BINU D, KARIYAPPA B S. A survey on fault diagnosis of analog circuits: Taxonomy and state of the art[J]. AEU-International Journal of Electronics and Communications, 2017, 73:68-83.

[4] TANG X F, XU A Q, LI R F, et al. Simulation-based diagnostic model for automatic testability analysis of analog circuits[J]. IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems, 2018,37(7): 1483-1493.

[5] LUO H， LU W, WANG Y R, et al. A new test point selection method for analog continuous parameter fault[J]. Journal of Electronic Testing: Theory & Applications, 2017, 33(3):339-352.

[6] TANG X F, XU A Q, NIU S C. KKCV-GA-based method for optimal analog test point selection[J]. IEEE Transactions on Instrumentation and Measurement, 2017, 66(1):24-32.

[7] KUMAR A， SINGH A P. Fuzzy classifier for fault diagnosis in analog electronic circuits[J]. ISA Transactions, 2013, 52(6):816-824.

[9] 袁莉芬, 孫業(yè)勝, 何怡剛, 等. 基于小波包優(yōu)選的模擬電路故障特征提取方法[J]. 電工技術(shù)學(xué)報(bào), 2018, 33(1):158-165.

YUAN L F, SUN Y S, HE Y G, et al. Fault feature extraction method for analog circuit based on preferred wavelet packet [J]. Transactions of China Electrotechnical Society, 2018, 33(1): 158-165. (in Chinese)

[10] LIU Z B, LIU T M, HAN J W, et al. Signal model-based fault coding for diagnostics and prognostics of analog electronic circuits[J]. IEEE Transactions on Industrial Electronics, 2017, 64(1):605-614.

[11] XIE T， HE Y G. Fault diagnosis of analog circuit based on high-order cumulants and information fusion[J]. Journal of Electronic Testing: Theory & Applications, 2014, 30(5):505-514.

[12] YANG H H, MENG C, WANG C. Data-driven feature extraction for analog circuit fault diagnosis using 1-D convolutional neural network [J]. IEEE Access, 2020, 8(1): 18305-18315.

[13] LIU Z B, JIA Z, VONG C M, et al. Capturing high-discriminative fault features for electronics-rich analog system via deep learning[J]. IEEE Transactions on Industrial Informatics, 2017, 13(3):1213-1226.

[14] XU G W, LIU M, JIANG Z F, et al. Online fault diagnosis method based on transfer convolutional neural networks[J]. IEEE Transactions on Instrumentation and Measurement, 2020, 69(2):509-520.

[15] 廖劍, 史賢俊, 周紹磊, 等. 基于局部圖嵌入加權(quán)罰SVM的模擬電路故障診斷方法[J]. 電工技術(shù)學(xué)報(bào), 2016, 31(4): 28-35.

LIAO J, SHI X J, ZHOU S L, et al. Analog circuit fault diagnosis based on local graph embedding weighted-penalty SVM[J]. Transactions of China Electrotechnical Society, 2016, 31(4): 28-35. (in Chinese)

[16] 張偉, 劉星, 許愛強(qiáng), 等. lp范數(shù)約束的模擬電路3層多核故障診斷模型[J]. 兵工學(xué)報(bào), 2018, 39(7):1352-1363.

ZHANG W, LIU X, XU A Q, et al. Three-layer multiple kernel fault diagnosis model with lp-norm constraint for analog circuit[J]. Acta Armamentarii, 2018, 39(7):1352-1363. (in Chinese)

[17] 高明哲,許愛強(qiáng),唐小峰, 等.基于多核多分類相關(guān)向量機(jī)的模擬電路故障診斷方法[J].自動(dòng)化學(xué)報(bào),2019,45(2):434-444.

GAO M Z, XU A Q, TANG X F, et al. Analog circuit diagnostic method based on multi-kernel learning multiclass relevance vector machine[J]. Acta Automatica Sinica, 2019，45(2):434-444. (in Chinese)

[18] LIYANAARACHCHI L C K, ZHOU H M, HUANG G B. Representational learning with ELMs for big data[J]. IEEE Intelligent Systems,2013,28(6): 31-34.

[19] KASUN L C， YANG Y， HUANG G B， et al. Dimension reduction with extreme learning machine[J]. IEEE Transactions on Image Processing, 2016, 25(8):3906-3918.

[20] TANG J X, DENG C W, HUANG G B. Extreme learning machine for multilayer perception[J]. IEEE Transactions on Neural Networks and Learning Systems, 2016,27(4):809-821.

[21] 逄珊, 楊欣毅, 張勇, 等. 應(yīng)用深度核極限學(xué)習(xí)機(jī)的航空發(fā)動(dòng)機(jī)部件故障診斷[J]. 推進(jìn)技術(shù), 2017,38(11): 2613-2621.

PANG S, YANG X Y, ZHANG Y， et al. Application of deep kernel extreme learning machinein aero engine components fault diagnosis[J]. Journal of Propulsion Technology, 2017,38(11): 2613-2621. (in Chinese)

[22] TANG X F, XU A Q. Practical analog circuit diagnosis based on fault features with minimum ambiguities[J]. Journal of Electro-nic Testing, 2016, 32(1):83-95.

[23] CHEN X, WANG W, CAO W, et al. Gaussian-kernel-based adaptive critic design using two-phase value iteration[J]. Information Sciences, 2019, 482(6): 139-155.

[24] LAGARIAS J C, REEDS J A, WRIGHT M H, et al. Convergence properties of the Nelder-Mead simplex method in low dimensions[J]. SIAM Journal on Optimization: A Publication of the Society for Industrial & Applied Mathematics, 2006, 9(1):112-147.

[25] IOSIFIDIS A, TEFAS A, PITAS I. Graph embedded extreme learning machine[J]. IEEE Transactions on Cybernetics, 2016,46(1):311-324.

[26] PSORAKIS I， DAMOULAS T, GIROLAMI M A. Multiclass relevance vector machines: sparsity and accuracy[J]. IEEE Tran-sactions on Neural Networks, 2010, 21(10):1588-1598.