基于改進相關(guān)向量機的模擬電路故障預測

王 力 石立超

(中國民航大學 天津 300300)

0 引 言

現(xiàn)階段,模擬電路在控制、通信和導航等電子系統(tǒng)中得到了廣泛應用,隨著對電子系統(tǒng)可靠性要求不斷提高,模擬電路作為電子系統(tǒng)的重要組成部分,其故障預測方法已成為了當下的研究重點[1-2]。

當前故障預測方法主要包括基于物理模型的方法和基于數(shù)據(jù)驅(qū)動的方法[3-5]?；谖锢砟Ｐ偷姆椒ㄍㄟ^分析實際特征參數(shù)與物理模型仿真的特征參數(shù)之間的殘差來判斷系統(tǒng)的狀態(tài),邏輯推理嚴密,診斷說服力強[6]。但隨著電子設備越來越復雜,物理模型的建立難度也越來越大。基于數(shù)據(jù)驅(qū)動的方法以測試和狀態(tài)監(jiān)測數(shù)據(jù)為對象,估計對象系統(tǒng)未來的狀態(tài)演化趨勢,從而避免了基于物理模型方法的缺點。其中,相關(guān)向量機(Relevance Vector Machine,RVM)具有參數(shù)設置簡單、稀疏度高、概率式輸出以及核函數(shù)不受Mercer定理約束等特點,已在模擬電路故障預測[7]、鋰電池剩余壽命預測[8-10]以及列車牽引系統(tǒng)剩余壽命預測[11]中表現(xiàn)出良好的效果。但是,直接采用RVM算法進行預測,預測精度較低,且預測結(jié)果易受訓練樣本影響[12]。

鑒于此,本文針對模擬電路故障預測中的關(guān)鍵問題,提出了一種基于離散灰色多核RVM的模擬電路故障預測方法,用于預測模擬電路的剩余使用性能(Remain Useful Performance,RUP)。在提取被測電路(Circuit Under Test,CUT)的故障特征數(shù)據(jù)之后,首先將傳統(tǒng)RVM中單個核函數(shù)改進為多個不同核函數(shù)組合形成混合核函數(shù),然后利用量子方法改進人工蜂群算法提升其優(yōu)化效果以對各個核函數(shù)的權(quán)重因子尋優(yōu),從而提高算法的泛化性能及預測精度。最后利用離散灰色模型與多核相關(guān)向量機相結(jié)合,提升算法的長期趨勢預測性能。本文以Sallen-Key帶通濾波電路和Biquad低通濾波電路兩個國際上最常用的驗證預測方法性能的基準電路[1]為實驗對象,驗證所提故障預測方法性能的優(yōu)劣。

1 模擬電路故障特征提取與預處理

在模擬電路故障預測的過程中,故障特征提取與預處理是一個重要環(huán)節(jié),其目的在于更加準確地描述影響電路性能退化的元器件的老化過程。

1.1 故障特征提取

模擬電路中電阻、電容等元器件極易發(fā)生故障[1],對CUT輸入掃頻信號,當這些元器件性能衰退時,具體表現(xiàn)為其參數(shù)值發(fā)生單向偏離,其電路輸出響應就會發(fā)生變化,如圖1所示。

圖1 不同電阻值的電路輸出響應

在不同參數(shù)下輸出頻率響應中均勻地提取不同頻率下的電壓作為特征向量,如圖2所示。

圖2 特征提取過程

特征向量表示為:

Y=[y1,y2,…,yn]

(1)

式中:y1,y2,…,yn是CUT在同一元器件參數(shù)值下的不同頻率響應,即電壓,n為特征數(shù)量。

1.2 故障特征預處理

在提取故障特征之后,需要對特征向量采用皮爾遜相關(guān)系數(shù)(Pearson Product-moment Correlation Coefficient,PPMCC)方法進行預處理,處理后的數(shù)據(jù)用來表示元器件的健康度[3]。

PPMCC用于表示兩個向量間的相關(guān)程度,是衡量兩個向量相似度的一種方法,其計算公式如下:

當元器件無故障時,其參數(shù)值等于標準參數(shù)值,即Y0=Yh,此時計算出的PPMCC為1,表示元器件健康度為1,當元器件發(fā)生性能衰退時,其參數(shù)值偏離標準參數(shù)值,即Y0≠Yh,計算出的相關(guān)度也隨之變小,表示元器件的健康度下降,即元器件的性能發(fā)生衰退。

2 模擬電路RVM故障預測算法改進

在構(gòu)建模擬電路故障預測模型時,不僅要考慮預測模型的預測精度問題,還要考慮其泛化性、適用性以及長期趨勢預測的穩(wěn)定性問題。鑒于此,本文提出的故障預測算法結(jié)合RVM算法、人工蜂群算法及離散灰色模型的特點,并提出了以下三個改進之處。

(1) 針對單核RVM算法表達能力受限,易于忽略故障特征中的關(guān)鍵信息從而導致泛化性能差以及預測精度低的問題,提出了多核RVM算法。通過對五個不同的核函數(shù)組合形成混合核函數(shù)以更多地獲取故障特征中的有用信息,從而增強RVM算法的泛化性能和預測精度。其中,多核RVM中每個核函數(shù)的權(quán)重因子由人工蜂群算法尋優(yōu)生成。

(2) 針對傳統(tǒng)的人工蜂群算法在優(yōu)化過程中對于離散變量的優(yōu)化效果較差的問題,本文提出了量子人工蜂群優(yōu)化方法(Quantum-behaved Artificial Bee Colony,QABC),使全局搜索能力得到加強,并且有效地解決了對離散變量優(yōu)化效果較差的問題。然后對RVM每個核函數(shù)的權(quán)重因子尋優(yōu),更有效地提高了RVM算法的預測精度。

(3) 針對RVM長期預測精度低的問題,本文提出將RVM算法與離散灰色模型相結(jié)合,利用離散灰色模型長期預測精度高的特點,提升RVM長期預測能力。

2.1 RVM算法改進

故障預測屬于時間序列多步預測問題,本質(zhì)上是回歸問題,所以本文對相關(guān)向量回歸方法進行改進。其中RVM訓練算法采用MacKay迭代估計法。

t=y(x)+ε

(3)

式中:y(x)為非線性函數(shù);ε為均值為0,方差為σ2的高斯噪聲。

相關(guān)向量回歸的數(shù)學表達式為:

t=φω+ε

(4)

式中:ω=(ω0,ω1,…,ωN)T為相關(guān)向量回歸的權(quán)值;φ=(φ0,φ1,…,φN)T為核函數(shù)矩陣,且φ(x)=[1,K(x,x1),…,K(x,xN)],K(x,xi)為核函數(shù)。

本文選取的核函數(shù)分別為高斯核函數(shù)、指數(shù)核函數(shù)、拉普拉斯核函數(shù)、多項式核函數(shù)和Sigmoid核函數(shù),將五個核函數(shù)進行線性組合,QABC算法來優(yōu)化各個核函數(shù)的權(quán)重系數(shù)。本文首先采用單核RVM模型進行訓練,得到效果較好的超參數(shù),然后對各個核函數(shù)進行線性組合。

其中,高斯核函數(shù)為:

指數(shù)核函數(shù)為:

拉普拉斯核函數(shù)為:

多項式核函數(shù)為:

K4(x,xi)=(axTxi+c)d

(8)

Sigmoid核函數(shù)為:

K5(x,xi)=tanh(axTxi+c)

(9)

通過對多個核函數(shù)進行線性組合,可以更全面地描述元器件的性能衰退過程。五個核函數(shù)線性組合的構(gòu)建方法為:

(11)

式中:t=(t1,t2,…,tN)T。

如果直接對權(quán)重ω進行最大似然估計,會存在過擬合現(xiàn)象。因此,在權(quán)重ω上定義一個零均值高斯先驗分布:

(12)

式中:α=(α0,α1,…,αN)為N+1個超參數(shù),與權(quán)重ω相對應。

在稀疏貝葉斯理論下,當存在一組新的輸入數(shù)據(jù)時,基于稀疏貝葉斯理論下的預測可表示為:

p(tN+1|t)=?p(tN+1|ω,α,σ2)p(ω,α,σ2|t)dωdαdσ2

(13)

式中:tN+1為新的輸入數(shù)據(jù)的目標值。

對式(13)進行分解,得到:

p(ω,α,σ2|t)=p(ω|t,α,σ2)p(α,σ2|t)

(14)

參數(shù)的后驗分布在先驗分布和似然分布的基礎上應用貝葉斯推理,得到:

得到權(quán)重的后驗方差和均值分別為:

φ=(σ-2φTφ+A)-1

(16)

μ=σ-2φφTt

(17)

式中:A=diag(α0,α1,…,αN)。

對式(11)中參數(shù)進行邊緣積分,得出最合適的超參數(shù)后驗分布式:

輸入的一組新的數(shù)據(jù)x*,其輸出t*預測均值和方差分別為:

t*=μTφ(x*)

(19)

2.2 人工蜂群算法改進

人工蜂群算法是一種模擬自然界中蜜蜂搜索蜜源過程的群智能算法[13]。將所有蜜源的五維向量設置為多核RVM算法中五個核函數(shù)的權(quán)重因子w1,w2,…,w5,在每次迭代過程中,根據(jù)適應度對蜜源的優(yōu)劣進行比較,通過尋找更優(yōu)蜜源來優(yōu)化權(quán)重因子,直至達到最大迭代次數(shù)為止。

用一串量子位表示量子蜜蜂的位置[14],一個量子位為(a,b)T,其中a2+b2=1,第i只量子蜜蜂的位置為:

式中:i={1,2,…,BN},BN為種群規(guī)模。

對量子蜜蜂位置的更新通過量子旋轉(zhuǎn)門來實現(xiàn)。第i只量子蜜蜂的位置的第n個量子位vin可以表示為:

整個蜂群主要包括兩個角色:量子引領(lǐng)蜂和量子偵察蜂,并且數(shù)目相同。量子引領(lǐng)蜂的數(shù)量和食物源的數(shù)量相等,每個量子引領(lǐng)蜂位置都對應一個由字符串0或1組成的蜜源,用zi=(zi1,zi2,…,zim)來表示第i個蜜源的位置,m表示優(yōu)化問題的維度,其中第i個食物源的第d個量子位zid可以表示為:

假設當前第i只量子蜜蜂的局部最優(yōu)位置為pi=(pi1,pi2,…,pim),整個蜂群當前全局最優(yōu)位置為pg=(pg1,pg2,…,pgm)。

量子引領(lǐng)蜂主要依據(jù)當前局部最優(yōu)位置和蜂群全局最優(yōu)位置來進行位置的更新。具體表示為:

通過對量子引領(lǐng)蜂進行擇優(yōu),然后利用其局部最優(yōu)位置來確定量子偵察蜂位置的更新。第j只量子引領(lǐng)蜂被選擇的概率為:

量子偵察蜂量子位的更新表示如下:

反復進行上述量子引領(lǐng)蜂、量子偵察蜂的量子位更新過程,直到算法達到迭代次數(shù)limit,輸出全局最優(yōu)解。

綜上所述,給出量子人工蜂群算法的流程如圖3所示。

圖3 量子人工蜂群算法流程

2.3 離散灰色多核RVM故障預測算法

離散灰色模型具有趨勢預測精度高、穩(wěn)定性強的特點[15],將離散灰色模型與多核RVM相結(jié)合可以提高預測精度。離散灰色多核RVM預測模型的構(gòu)建包括以下五個階段。

(1) 初始化階段。將元器件健康度數(shù)據(jù)分為訓練數(shù)據(jù)和測試數(shù)據(jù),初始化多核RVM參數(shù),包括每個核函數(shù)經(jīng)QABC算法尋優(yōu)得到的權(quán)重因子,MacKay迭代估計法的最大循環(huán)次數(shù)、收斂條件等。

(2) 離散灰色模型的建立。假設原始訓練數(shù)據(jù)序列為:

X(0)={x(0)(1),x(0)(2),…,x(0)(n)}

則灰色微分方程為:

x(1)(k+1)=r1x(1)(k)+r2

(30)

由于訓練數(shù)據(jù)X(0)為非負序列,所以其一次累加生成序列為:

X(1)={x(1)(1),x(1)(2),…,x(1)(n)},其中x(1)(k)按照下式來計算:

式中:k=1,2,…,n。

將X(1)代入下式:

Z=Br

(32)

采用最小二乘法估計灰色微分方程x(1)(k+1)=r1x(1)(k)+r2,得到方程系數(shù)為:

r=(BTB)-1BTZ

(33)

令x(1)(1)=x(0)(1),則一次累加生成序列的估計值為:

式中:k=2,3,…,n。

通過還原得到離散灰色預測模型:

將式(34)代入式(35)得到離散灰色預測模型:

式中:k=2,3,…,n。

(3) 多核RVM建模。用式(36)對訓練數(shù)據(jù)進行預測,將預測結(jié)果輸入多核RVM,原始訓練數(shù)據(jù)為多核RVM的輸出,采用MacKay迭代估計法訓練多核RVM模型,得到多核RVM回歸預測模型。

(4) 預測模型測試。將測試數(shù)據(jù)輸入離散灰色模型,得到預測值輸入多核RVM模型,得到最終預測結(jié)果并判斷預測值是否小于設定的故障閾值,若小于,則將預測值轉(zhuǎn)換為RUP;否則,將對多核RVM模型進行更新。

(5) 多核RVM模型更新。首先,采用新陳代謝法,用階段(4)得到的預測值更新訓練數(shù)據(jù),得到新的訓練數(shù)據(jù)。然后,計算新訓練數(shù)據(jù)與原始訓練數(shù)據(jù)的相關(guān)度,若相關(guān)度大于0.9,則返回(4)繼續(xù)預測;否則,返回(3)更新多核RVM模型,并進行預測。

綜上所述,離散灰色多核RVM故障預測算法的流程如圖4所示。

圖4 離散灰色多核RVM故障預測算法流程

3 仿真實驗及分析

模擬電路的故障以單一故障情形為主,且單一故障情形預測方法亦可拓展到多重故障情形[1],本文以單一故障情形為例進行實驗驗證,并采用圖5、圖6所示Biquad低通濾波電路和Sallen-Key帶通濾波電路兩個國際常用的驗證電路[1]為例對所提出的故障預測方法進行仿真實驗及分析。

圖5 Biquad低通濾波電路

圖6 Sallen-Key帶通濾波電路

本次實驗步驟如下:

步驟1將掃頻信號輸入CUT,在CUT輸出端均勻地提取每個元器件不同參數(shù)下的頻率響應信號;

步驟2利用PPMCC方法對各個元器件的頻率響應信號進行計算得到每個元器件的健康度,并作為樣本數(shù)據(jù);

步驟3將樣本數(shù)據(jù)分為訓練數(shù)據(jù)和測試數(shù)據(jù);

步驟4利用QABC算法優(yōu)化生成多核RVM核函數(shù)的權(quán)重因子;

步驟5將訓練數(shù)據(jù)輸入離散灰色多核RVM建立故障預測模型;

步驟6利用測試數(shù)據(jù)進行故障預測得到預測結(jié)果,計算RUP及各項評價指標。

仿真實驗以OrCAD Capture 16.6和MATLAB R2016b為實驗平臺,驗證電路由OrCAD Capture 16.6搭建,仿真數(shù)據(jù)由Pspice仿真后采集得出,方法的驗證、編譯及實驗結(jié)果由MATLAB R2016b得到。

3.1 實驗參數(shù)設置

當元器件參數(shù)值偏離標稱值50%該元器件發(fā)生故障,可以計算出元器件發(fā)生故障的時間點為:

TF=|VF-Vno|/V0

(37)

式中:TF為元器件發(fā)生故障的時間點;VF為元器件發(fā)生故障的參數(shù)值;Vno為元器件無故障的參數(shù)值(標稱值);V0為元器件每個時間點的參數(shù)變化量。

用Vend來表示本次實驗中元器件最終的參數(shù)值,則每個元器件的時間點總數(shù)Tend為:

Tend=|Vend-Vno|/V0

(38)

選擇圖5電路中的R2、C1和圖6電路中的R3為實驗對象,假設R2、C1和R3的參數(shù)值在性能衰退期間為均勻變化,每次變化在時間上對應一個時間點。當R2參數(shù)值不斷升高,從6.2 kΩ升至9.92 kΩ,每次均勻增加6.2 Ω,共600個時間點;C1參數(shù)值不斷升高,從5 nF升至8 nF,每次均勻增加0.005 nF,共600個時間點;R3參數(shù)值不斷升高,從3 kΩ升至4.8 kΩ,每次均勻增加3 Ω,共600個時間點,R2、C1和R3在第500個時間點發(fā)生故障。在使用Pspice仿真過程中,設定Biquad低通濾波電路交流掃頻激勵信號的起始頻率為1 Hz,終止頻率為50 kHz;Sallen-Key帶通濾波電路交流掃頻激勵信號的起始頻率為1 Hz,終止頻率為100 kHz。表1記錄了本次實驗元器件各項實驗參數(shù)。

表1 C1和R3實驗參數(shù)

3.2 實驗過程

對CUT輸入掃頻信號,在輸出端提取頻率響應信號,應用式(2)計算出R2、C1和R3在各個時間點的健康度,可以得出R2、C1和R3在第500個時間點的故障閾值分別為0.919 534 280 701 682、0.915 965 952 985 941和0.956 998 900 194 065,三者稍有不同,原因在于每個元器件對掃頻信號的靈敏度不同,靈敏度越大,則故障閾值越小。

上述結(jié)果是在理想條件下得出,然而模擬電路在實際運行過程中會受到器件容差、溫度及外界應力等干擾,測量過程也會存在誤差。因此,本文在R2、C1和R3的健康度中添加2%的高斯白噪聲以模擬電路的實際運行時的情形[17]。該方法已經(jīng)過文獻[17]驗證可以模擬實際電路測量時的情形,如圖7、圖8和圖9所示。

圖7 添加噪聲的R2健康度

圖8 添加噪聲的C1健康度

圖9 添加噪聲的R3健康度

假設在時間點Tnow開始預測,則RUP通過下式進行計算:

RUP=TF-Tnow

(39)

假設TEF為離散灰色多核RVM預測模型對元器件發(fā)生故障的時間點的預測值,且滿足條件:

式中:H(TEF-1)為預測發(fā)生故障時間點的前一個時間點的健康度;H(TEF)為預測發(fā)生故障時間點的健康度;H(TF)為元器件發(fā)生故障時的健康度。

離散灰色多核RVM預測模型預測的RUPE為:

RUPE=TEF-Tnow

(41)

實驗中R2、C1和R3分別有600組健康度隨時間點變化的數(shù)據(jù),將R2、C1和R3的前300組數(shù)據(jù)作為訓練數(shù)據(jù),后300組數(shù)據(jù)作為測試數(shù)據(jù)。首先,將訓練數(shù)據(jù)輸入離散灰色模型進行預測,提取預測結(jié)果更新訓練數(shù)據(jù)。然后,將新的訓練樣本輸入多核RVM回歸預測模型,其中需要使用QABC算法對各個核函數(shù)的權(quán)重因子進行尋優(yōu)。

在QABC算法中,蜜源數(shù)量設定為5,最大迭代次數(shù)設定為100次。在多核RVM算法中,首先采用單核RVM模型進行訓練,得到較好的超參數(shù),如表2所示。

表2 核函數(shù)的超參數(shù)

核函數(shù)的超參數(shù)設定好之后,利用訓練數(shù)據(jù)對各個核函數(shù)的權(quán)重因子進行尋優(yōu)操作。尋優(yōu)結(jié)果如表3所示?？梢钥闯?部分核函數(shù)對預測結(jié)果貢獻較大,部分貢獻較小,幾乎為零。

表3 應用QABC算法尋優(yōu)生成的權(quán)重因子

應用表3所示的權(quán)重因子,建立離散灰色多核RVM預測模型,分別對R2、C1和R3的測試數(shù)據(jù)進行預測。預測結(jié)果的評價指標采用絕對誤差(Absolute Error,AE)、相對誤差(Relative Error,RE)和測試誤差(Measure Error,MSE),定義如下:

EA=RUPE-RUP

(42)

式中:m為樣本數(shù)據(jù)的數(shù)量;VE(i)為預測數(shù)據(jù);V(i)為測試數(shù)據(jù)。

圖10、圖11和圖12分別為R2、C1和R3測試數(shù)據(jù)的預測結(jié)果,各項評價指標如表4所示。

圖10 基于離散灰色多核RVM預測模型的R2預測結(jié)果

圖11 基于離散灰色多核RVM預測模型的C1預測結(jié)果

圖12 基于離散灰色多核RVM預測模型的R3預測結(jié)果

表4 基于離散灰色多核RVM預測模型的預測結(jié)果評價指標

3.3 對比實驗及分析

為了進一步驗證本文所提基于離散灰色多核RVM預測方法的性能,將其與傳統(tǒng)的RVM方法進行對比,其中傳統(tǒng)RVM中核函數(shù)選擇最常用的高斯核函數(shù),超參數(shù)設定為σ=2。訓練數(shù)據(jù)和測試數(shù)據(jù)選擇本次實驗中的R2、C1和R3樣本數(shù)據(jù)。將訓練數(shù)據(jù)輸入傳統(tǒng)RVM中建立RVM預測模型,然后利用測試數(shù)據(jù)對RVM預測方法進行測試。圖13、圖14和圖15所示分別為R2、C1和R3在基于RVM方法的預測結(jié)果,表5記錄了各項評價指標。

圖13 基于RVM的R2預測結(jié)果

圖14 基于RVM的C1預測結(jié)果

圖15 基于RVM的R3預測結(jié)果

表5 基于RVM的預測結(jié)果評價指標

將本方法與當前研究中結(jié)果相對較好的量子粒子群優(yōu)化多核RVM[17]方法進行對比,對比結(jié)果如表6所示。

表6 對比結(jié)果

將基于離散灰色多核RVM預測方法的結(jié)果與基于RVM的預測結(jié)果進行對比,從圖10、圖11、圖12及表4與圖13、圖14、圖15及表5的數(shù)據(jù)可以看出,基于離散灰色多核RVM預測方法所得出的預測結(jié)果中預測數(shù)據(jù)與原始數(shù)據(jù)緊密程度更高,各項評價指標AE、RE及MSE與基于RVM的預測方法相比均有明顯的提升。與量子優(yōu)化多核RVM方法預測結(jié)果對比,在相同元件,樣本數(shù)量相同的條件下,各項評價指標AE、RE及MSE也均有一定的提升。由對比實驗可以得出結(jié)論,離散灰色多核RVM預測方法應用于模擬電路故障預測時,可以得到更好的預測效果。

4 結(jié) 語

本文提出了一種基于離散灰色多核RVM的模擬電路故障預測方法,與現(xiàn)有方法相比,本文方法主要的提升在于:(1) 應用簡單有效的故障特征提取方法,并在樣本數(shù)據(jù)中加入噪聲,使樣本數(shù)據(jù)更加符合實際情況;(2) 把離散灰色模型和RVM的優(yōu)點相結(jié)合以及增加RVM核函數(shù)的數(shù)量及多樣性,使得故障預測結(jié)果的準確性更高;(3) 利用量子方法的優(yōu)勢,使經(jīng)過量子方法改進的人工蜂群優(yōu)化算法在尋優(yōu)方面取得了更好的效果。

但是模擬電路的故障預測是一個復雜問題,在現(xiàn)實生活中仍然面臨挑戰(zhàn)。提取的樣本數(shù)據(jù)是否能準確反映實際系統(tǒng)的特征。建立的故障預測模型是否能對特征全部利用。這些問題都將對RUP預測的精度產(chǎn)生影響。下一步的研究工作將對模擬電路故障特征及預測模型進行更深入的研究以提高模擬電路故障預測精度。