基于深度殘差網(wǎng)絡的模擬電路軟故障診斷方法*

傅晨琦，季利鵬，孫偉卿，郝 健

(上海理工大學 機械工程學院·上?！?00093)

0 引 言

隨著我國經(jīng)濟的不斷發(fā)展，我國的航天工業(yè)也取得了很大的進步。電子設備從過去粗放的發(fā)展模式逐漸走向精細化和科學化。為了保證系統(tǒng)的整體質(zhì)量，人們對航天領域中使用的電子設備的電路的可靠性提出了越來越高的要求。特別是面向航天探測任務的電子設備，其電子電路的故障直接影響到航天任務能否順利進行[1]。然而，隨著微電子技術的快速發(fā)展，航天探測設備中電子模擬電路的集成化程度越來越高，其性能和組成越來越復雜，這也使得電子設備的故障診斷變得更加困難[2]。

電子電路的軟故障檢測是指電路元件在實際環(huán)境中運行時參數(shù)偏離初始標稱值的情況，如某電阻值偏離正常公差類，使電路性能偏離正常狀態(tài)[3]。軟故障不同于硬故障，它是多種多樣的，因此對其的檢測更難進行，這也導致航天電子設備軟故障檢測一直是航天故障領域的研究熱點[4]。

傳統(tǒng)的電子設備故障診斷方法基本利用通過測試儀器逐點跟蹤信號的思路，借助人的邏輯判斷確定設備的故障點。這種傳統(tǒng)的診斷技術在很大程度上依賴于維護人員的實踐經(jīng)驗和專業(yè)技術水平，通過對電子設備[5]的檢查和測試確定故障點。但是，這種傳統(tǒng)的方法對于現(xiàn)代化的航天事業(yè)而言相對落伍，尤其是相對商業(yè)航天的批量化設備生產(chǎn)而言。近年來，許多學者在模擬電路故障診斷領域進行了大量的研究，提出了故障字典方法[6]、靈敏度分析方法[7]和信號處理方法[8]等。故障字典方法通過建立字典模型，利用映射關系進行故障診斷。然而，為較大的和高度復雜的航天集成電路創(chuàng)建字典是非常繁瑣的。靈敏度分析[9-10]是一種有效的故障診斷技術，可以提高從信號中識別適當輸入頻率的能力。然而，這種方法在處理公差特性方面存在一定缺點。Zhang和Li[11]提取了電路噪聲作為故障診斷的特征，但高精度的測量儀器[12]設計比較困難。

近年來，人們提出了許多基于人工智能的現(xiàn)代智能方法，包括模糊推理系統(tǒng)[13]、人工神經(jīng)網(wǎng)絡[14-16]和支持向量機[17-18]。這些方法將人工智能作為故障信息挖掘的有效手段，可以提高電子線路故障診斷的準確性和效率。然而，現(xiàn)代智能故障診斷技術高度依賴數(shù)據(jù)驅(qū)動效應，忽視了電路的物理原理，因此其在故障診斷方面的準確性是有限的。目前，基于數(shù)據(jù)驅(qū)動的模擬電路故障診斷方法大多是將特征提取與分類器進行結(jié)合的方法。

本文提出了一種改進的軟故障診斷方法。該方法充分利用了人工智能中的深度學習技術，首先利用短時傅里葉變換(Short-time Fourier Transform，STFT)將電路的時域輸出信號轉(zhuǎn)換為二維電路故障圖像，并將其作為深度殘差網(wǎng)絡ResNet的輸入；然后，采用ResNet作為主要的智能技術，提取模擬電路的性能特征，確定元件的故障位置以及故障類型。

本文的各部分組織如下：第一章系統(tǒng)地闡述了所提出的方法，特別是ResNet-50的人工智能技術框架；第二章研究了電路圖像的獲取方法；第三章對所提的方法進行了仿真并將其與文獻[19]所介紹的方法進行了對比；第四章對全文進行了總結(jié)，并提出了今后的工作方向。

1 相關工作

本文所提的方法旨在尋找一種可靠、準確的模擬航空航天電路軟故障診斷方法。提出的方法依賴于深度殘差學習與二維電路圖像。提出的基于ResNet的故障診斷方法的流程圖如圖1所示。

圖1 基于ResNet的故障診斷方法流程圖Fig.1 Flow chart of fault diagnosis method based on ResNet

所提方法的具體步驟如下：

535 Role of interferon regulatory factor 8 inhibiting helper T cell 17 differentiation in pathogenesis of Beh?et’s disease

(1)二維電路圖像獲取。電路圖像可以表示電路的工作原理，可以作為ResNet的輸入。第三節(jié)詳細說明了獲取電路圖像的方法。

(2)ResNet參數(shù)測定。以二維電路圖像作為ResNet-50模型的輸入，通過多次迭代進行模型訓練和優(yōu)化，以確定ResNet參數(shù)。

(3)電路故障診斷。根據(jù)上述訓練得到的模型，在被測圖像上進行實驗，確定模擬航空航天電路的故障類型和對應的元件。ResNet的SoftMax層給出了每一故障類型的概率，最后的軟故障診斷結(jié)果可用混淆矩陣表示。

本文所提的方法可通過神經(jīng)網(wǎng)絡ResNet實現(xiàn)。ResNet是深度神經(jīng)網(wǎng)絡領域中的一種重要的神經(jīng)網(wǎng)絡模型類型。眾所周知，在加深神經(jīng)網(wǎng)絡層時，很難學習從輸入到輸出的直接映射，這會降低訓練的準確性。然而，ResNet可以克服這個問題[20]。ResNet引入了一種全新的網(wǎng)絡結(jié)構，該網(wǎng)絡結(jié)構被稱為殘差網(wǎng)絡[21]，它代表了一種前向反饋的快捷網(wǎng)絡。定義x為輸入神經(jīng)網(wǎng)絡模型的數(shù)據(jù)。傳統(tǒng)的神經(jīng)網(wǎng)絡模型傾向于學習訓練數(shù)據(jù)H(x)的輸入輸出映射，而殘差網(wǎng)絡模型傾向于學習表示為F(x)=H(x)-x的映射函數(shù)。這樣，就避免了從x到H(x)直接映射的學習，而學習了它們之間的差異。殘差網(wǎng)絡模型的結(jié)構如圖2所示。

圖2 殘差結(jié)構Fig.2 Residual network model structure

對于大多數(shù)航天探測電路而言，由于缺乏豐富的電路圖像樣本數(shù)據(jù)，在采用神經(jīng)網(wǎng)絡時容易出現(xiàn)過擬合的現(xiàn)象。與其他神經(jīng)網(wǎng)絡相比，ResNet采用了批歸一化(Batch Normalization，BN)方法。批處理歸一化的應用使得神經(jīng)網(wǎng)絡在電路圖像訓練過程中對初始權值參數(shù)的要求較低，并可確保訓練過程的穩(wěn)定性。同時，批處理歸一化可以加快模型的學習速度，提高模型的泛化能力。因此，在眾多經(jīng)典的神經(jīng)網(wǎng)絡模型中，ResNet更有利于電路故障的檢測。

ResNet的層數(shù)有很多選擇。本文選擇了ResNet-50結(jié)構，該結(jié)構具有50個卷積層和全連接層。ResNet-50不僅能更好地提取特征，且不易引起過擬合。ResNet-50結(jié)構是綜合考慮了不同的ResNet結(jié)構的各層特性、計算量等相關因素而選擇的。ResNet-50的網(wǎng)絡結(jié)構如圖3所示。選擇ResNet-50對于完成大部分的航天模擬電路軟故障診斷而言足以提供較多可調(diào)的參數(shù)，并保證較快的計算速度。

圖3 ResNet-50的網(wǎng)絡結(jié)構Fig.3 The ResNet-50 network structure

ResNet-50包含50個卷積層和全連接層。在結(jié)構上，它用殘差網(wǎng)絡的實現(xiàn)思路表示一組3×3的卷積層，因此通過網(wǎng)絡層傳輸梯度。圖3的左側(cè)是整體網(wǎng)絡結(jié)構圖，右側(cè)是網(wǎng)絡模型第一個殘塊的殘差結(jié)構的詳細顯示。如圖3所示，ResNet-50結(jié)構模型由反復堆疊的1×1和3×3卷積層組成，3×3卷積通常夾在1×1卷積層中。這樣，既減少了參數(shù)的數(shù)量和計算量，又增加了非線性表達式，增加了特征圖的數(shù)量。圖3的右側(cè)，給出了應用殘差思想后的網(wǎng)絡結(jié)構圖；主路徑由三層卷積層組成，右側(cè)信號經(jīng)過1×1卷積層和批處理歸一化層，最后與兩條路徑的結(jié)果疊加。殘差結(jié)構是兩種信號疊加的結(jié)果。在這種反向傳播中，通過一條路徑的淺層傳遞可以有效減少過擬合，提取的特征相當于淺層和深層的疊加特征，特征的表達能力更強。

2 二維電路圖譜的獲取

短時傅里葉變換將信號看作是一系列短時信號[22]的疊加，并將信號分成幾個小的時間間隔，通過傳統(tǒng)的傅里葉變換進一步分析這些小時間間隔。這些頻率顯示了頻譜隨時間的變化。具體而言，可利用STFT在信號上添加一個滑動時間窗，并在窗內(nèi)對信號進行傅里葉變換，從而得到信號的時變頻譜。

對于給定的連續(xù)時間信號s(t)∈L2(R)，STFT可表示為

(1)

其中，w表示連續(xù)時間信號，τ表示時間平移參數(shù)，h(t)表示一個窗口函數(shù)，其寬度以非常短的時間t為中心實現(xiàn)滑動。

在實際應用中，往往使用的是STFTs(t,w)的離散化表達式。假設采樣頻率為fs，s(τ)的離散化表示為s(x)，h(t)的離散化表達為h(x)，窗函數(shù)的寬度為N。窗函數(shù)參數(shù)的確定會影響生成的電路譜圖，導致故障信息的豐富程度也不相同。參數(shù)值的選擇對深度學習的分類效果有很大影響。因此，在引入STFT數(shù)學模型后，將詳細描述這些參數(shù)的最優(yōu)值的選擇，離散化的短時傅里葉表達式如下

(2)

其中，ω表示離散時間信號，t=mΔt，Δt=1/fs表示采樣時間間隔，m表示時間步長。離散化短時傅里葉變化得到的是一個復雜的二維矩陣，該矩陣包含了電路的故障信息，也可以作為神經(jīng)網(wǎng)絡的輸入。

STFT有多種窗函數(shù)，本文使用了一個固定的窗口函數(shù)，即矩形窗函數(shù)

(3)

通過調(diào)整平移參數(shù)t的大小，可以改變窗函數(shù)的中心位置。不同的中心窗函數(shù)可以產(chǎn)生不同的變換譜圖。

這些頻譜圖最終可以形成電路圖像。圖4給出了利用短時傅里葉變換將電路的時域脈沖響應轉(zhuǎn)換為相應的電路圖像的實例。獲得的電路圖像可以作為ResNet-50的輸入。

圖4 短時傅里葉變換過程Fig.4 STFT process

3 仿真試驗及結(jié)果分析

如前所述，本文所提出的軟故障診斷方法基于ResNet-50與二維電路頻譜圖像。以航天探測器中常見的四階高通濾波電路為例，來驗證所提方法的有效性。待測電路如圖5所示。

圖5 待測航天電路Fig.5 An aerospace circuit.

3.1 仿真結(jié)果

利用PSPICE軟件對電路進行仿真，產(chǎn)生時域脈沖響應信號。被測電路激勵源的脈沖振幅為5 V，周期為1 ms，脈沖寬度為10μs。

針對被測電路的每種故障類型，生成200張樣本電路頻譜圖，隨機選取其中的120張圖作為訓練集，20張圖作為驗證集，其余60張圖作為測試集。訓練集用于獲得最優(yōu)的ResNet-50模型，測試集用于驗證最優(yōu)訓練模型的檢測精度。用混淆矩陣表示電路的故障檢測結(jié)果。在混淆矩陣中，列表示通過ResNet-50模型得到的真實故障類型，行表示電路預測的故障類型。每列的值顯示了準確預測的故障數(shù)量。

被測電路包含了24種故障類型。電路中的每一個故障都可以用短時傅里葉變換以二維圖像表示。圖6給出了被測電路的24種故障類型。從圖6可以看出，人眼很難分辨這些圖像不同的特征。

圖6 被測電路的24種軟故障圖譜Fig.6 Twenty-four fault types of the CUT

3.2 結(jié)果分析

如前所述，參考文獻[19]也使用該電路分析了故障診斷的準確性。因此，可使用文獻[19]提出的FRFT-SVM方法與本文提出的方法進行比較。兩種比較方法的精度如表2所示，本文方法和FRFT-SVM方法的精度分別為99.1%和95.12%。顯然，本文方法比FRFT-SVM方法的診斷性能更好。

表2 兩種不同方法精度的對比

圖7為被測電路的混淆矩陣。如圖7所示，在本文方法中，大多數(shù)故障分類預測是正確的。表3給出了本文所提方法被測電路的精密度、查全率和特異度，所有的實驗結(jié)果都是令人滿意的。因此，所提出的網(wǎng)絡模型和方法可以有效地被應用于航天探測設備中的模擬電路的故障分類。

圖7 被測電路的混淆矩陣Fig.7 The confusion matrix of the CUT

表3 本文所提方法的精確率、召回率和特異度

實驗和對比結(jié)果表明，所提方法相比對比方法具有更高的診斷精度，且本文所提方法能夠?qū)崿F(xiàn)高達99.1%的診斷準確率?？紤]到這種四階雙高通濾波電路經(jīng)常被應用于航天探測設備中，所以也可以得出結(jié)論，該方法對于航天電子設備的可靠性診斷也是極其有利的。

4 結(jié) 論

本文提出了一種基于ResNet-50的模擬電路故障檢測方法。該方法利用短時傅里葉變換將時域信號轉(zhuǎn)換為電路圖像。通過對航天探測設備中經(jīng)常出現(xiàn)的四階高通濾波器的實驗，驗證了該方法的故障診斷性能。仿真結(jié)果表明，所提出的方法對電路具有顯著的性能，性能優(yōu)于本文所提的其他方法。因此，該方法通過對比可證實是可靠和有效的，這對于航天電子電路的診斷方向研究而言具有極其重要的意義。