基于ECA-ResNet與CEEMDAN能量熵的軸承故障診斷

宋振軍，高丙朋，莊國(guó)航，劉前進(jìn)，趙恒輝

(新疆大學(xué)電氣工程學(xué)院，新疆烏魯木齊 830047)

0 前言

軸承作為最重要的機(jī)械部件之一，其健康狀況往往是影響大型設(shè)備安全服役的重要因素，因此對(duì)軸承的故障診斷一直是科學(xué)研究的重點(diǎn)和難點(diǎn)。

近年來(lái)，隨著人工智能領(lǐng)域的發(fā)展，故障診斷的方法由傳統(tǒng)的機(jī)器學(xué)習(xí)方法逐步向深度學(xué)習(xí)邁進(jìn)。深度學(xué)習(xí)通過(guò)建立的深層次模型，實(shí)現(xiàn)端對(duì)端的故障診斷，克服了傳統(tǒng)機(jī)器學(xué)習(xí)在特征提取與模型訓(xùn)練方面的缺陷。目前，國(guó)內(nèi)外已有許多學(xué)者對(duì)基于深度學(xué)習(xí)的故障診斷進(jìn)行了研究。JING等利用信號(hào)的頻譜作為1D-CNN的輸入，將它應(yīng)用于齒輪箱的故障診斷。LI等將信號(hào)的圖像作為輸入，通過(guò)CNN進(jìn)行遷移學(xué)習(xí)來(lái)進(jìn)行故障診斷。唐波和陳慎慎利用短時(shí)傅里葉變換(STFT)將軸承時(shí)域信號(hào)轉(zhuǎn)換為二維時(shí)頻譜再輸入到CNN中進(jìn)行故障診斷。以上研究對(duì)深度學(xué)習(xí)在故障診斷中的發(fā)展起到了推動(dòng)作用，但是仍存在一些不足，例如大多使用單一深度學(xué)習(xí)模型進(jìn)行故障診斷，未考慮深度學(xué)習(xí)在故障診斷中的泛化能力，以及對(duì)深度學(xué)習(xí)模型的使用大多局限于簡(jiǎn)單的CNN模型。

針對(duì)以上問(wèn)題，本文作者提出一種基于注意力機(jī)制下的深度學(xué)習(xí)模型(ECA-ResNet)。通過(guò)對(duì)信號(hào)進(jìn)行建模來(lái)提取故障特征，并將完全噪聲輔助聚合經(jīng)驗(yàn)?zāi)B(tài)分解(Complete Ensemble Empirical Mode Decomposition with Adaptive Noise，CEEMDAN)提取的能量熵與傳統(tǒng)時(shí)域信號(hào)統(tǒng)計(jì)指標(biāo)作為補(bǔ)充特征來(lái)提高深度學(xué)習(xí)模型的泛化能力；利用最新的麻雀搜索算法(SSA)對(duì)支持向量機(jī)(SVM)進(jìn)行優(yōu)化以進(jìn)行故障診斷；對(duì)軸承多個(gè)部位不同損傷程度進(jìn)行故障診斷，證明該方法的有效性。

1 ECA-ResNet網(wǎng)絡(luò)

1.1 ResNet網(wǎng)絡(luò)

為解決深度學(xué)習(xí)過(guò)程中容易出現(xiàn)的梯度消失或梯度爆炸問(wèn)題，HE等于2015年提出了殘差網(wǎng)絡(luò)(ResNet)，它使用一種叫作捷徑連接(Shortcut Connection)的全新的網(wǎng)絡(luò)連接方式。ResNet的結(jié)構(gòu)如圖1所示。

圖1 ResNet結(jié)構(gòu)

如圖1所示,ResNet對(duì)每層的輸入作一個(gè)學(xué)習(xí)，形成殘差函數(shù)。這種殘差函數(shù)更容易優(yōu)化，能使網(wǎng)絡(luò)層數(shù)大大加深，其輸出可形式化為執(zhí)行如下的數(shù)學(xué)計(jì)算：

=()

(1)

式中：表示非線性函數(shù)ReLU。然后通過(guò)一個(gè)捷徑連接，和第2個(gè)ReLU，獲得輸出：

=(,{})+

(2)

當(dāng)輸入和輸出維數(shù)需要發(fā)生變化時(shí)(如降維處理)，可以在捷徑連接時(shí)對(duì)作線性變換，如式(3)所示：

=(,{})+

(3)

ResNet的最大優(yōu)點(diǎn)是在提高訓(xùn)練精度的同時(shí)可減少訓(xùn)練時(shí)間，且在一定程度上減少深度學(xué)習(xí)過(guò)程中的參數(shù)量。此外，ResNet可以有效避免深度學(xué)習(xí)過(guò)程中梯度消失或梯度爆炸問(wèn)題。

1.2 ECA-Net注意力機(jī)制

注意力機(jī)制(Attention Mechanism)是一種通過(guò)模擬人腦注意力機(jī)制來(lái)優(yōu)化深度學(xué)習(xí)模型的方法，主要思想是在重點(diǎn)區(qū)域投入更多注意力資源，以篩選出更多所需要關(guān)注的重點(diǎn)信息，同時(shí)對(duì)無(wú)用信息進(jìn)行有效抑制。它通過(guò)一個(gè)組合函數(shù)來(lái)計(jì)算注意力的概率分布，進(jìn)而突出某個(gè)關(guān)鍵輸入對(duì)輸出的影響。最近幾年注意力機(jī)制模型在深度學(xué)習(xí)被廣泛應(yīng)用于各個(gè)領(lǐng)域，能夠優(yōu)化深度學(xué)習(xí)模型，以處理不同類型的任務(wù)。

WANG等于2019年提出了輕量級(jí)注意模塊(ECA-Net)，它只涉及極少參數(shù)，但大幅度提升網(wǎng)絡(luò)模型的性能。ECA-Net是一種無(wú)降維的局部跨通道交互策略，可以通過(guò)快速一維卷積有效實(shí)現(xiàn)，并且可以在現(xiàn)有的深度學(xué)習(xí)模型中得到有效整合。ECA-Net的結(jié)構(gòu)如圖2所示。

圖2 ECA-Net結(jié)構(gòu)

如圖2所示ECA-Net在未對(duì)數(shù)據(jù)進(jìn)行降維處理的情況下，考慮了每個(gè)通道及其個(gè)鄰居，并且使用了適當(dāng)?shù)目缤ǖ澜换?。其中，?nèi)核大小是一個(gè)關(guān)鍵參數(shù)，它決定了交互的覆蓋范圍。由于使用1D-CNN來(lái)捕獲局部的跨通道交互，不同的通道數(shù)和不同的CNN架構(gòu)的卷積塊可能會(huì)有所不同。與通道維數(shù)有關(guān)，通道維數(shù)越大，長(zhǎng)期交互作用越強(qiáng)，而通道維數(shù)越小，短期交互作用越強(qiáng)。即可能有某種映射存在于和之間。

=()

(4)

最優(yōu)通常是未知的，但基于上述分析，與呈非線性比例，因此參數(shù)化指數(shù)函數(shù)是一個(gè)可行的選擇。同時(shí)，在經(jīng)典的核技巧中，作為核函數(shù)的指數(shù)族函數(shù)被廣泛用于處理未知映射問(wèn)題。因此,使用一個(gè)指數(shù)函數(shù)近似映射:

=()≈-

(5)

此外，線性函數(shù)的特征關(guān)系過(guò)于有限，且通道維數(shù)通常被設(shè)置為2，因此和之間的映射進(jìn)一步表示為

=()=2-

(6)

給定通道維數(shù)，自適應(yīng)地確定尺寸。

(7)

式中:||表示最近的奇數(shù);=2；=1。

ECA-Net的優(yōu)勢(shì)是其輕量級(jí)的結(jié)構(gòu)及模型復(fù)雜度小，但可以明顯改進(jìn)骨干網(wǎng)絡(luò)模型的性能。

2 CEEMDAN能量熵

2.1 CEEMDAN算法

TORRES等于2009年為克服EMD的模態(tài)混疊問(wèn)題,提出了CEEMDAN算法，它不僅解決了傳統(tǒng)EMD的模態(tài)混疊問(wèn)題，而且克服了EEMD算法由于參數(shù)選擇出現(xiàn)過(guò)多虛假分量的問(wèn)題。

(8)

(9)

進(jìn)行多次重復(fù)計(jì)算，每次計(jì)算都會(huì)添加一次噪聲，并對(duì)新信號(hào)()+[()]進(jìn)行再次分解，直到得到首個(gè)IMF分量為止。再計(jì)算下一個(gè)IMF分量，公式為

(10)

算法終止時(shí)，得到個(gè)IMF分量，最終余量信號(hào)()為

(11)

則原始信號(hào)()被分解為

(12)

由式(12)可知,CEEMDAN可改善模態(tài)混疊現(xiàn)象且保證了信號(hào)的完備性。

2.2 IMF能量熵的提取

在軸承故障診斷中,軸承的故障往往伴隨著特定的故障頻率，此時(shí)信號(hào)的能量也會(huì)隨著故障頻率的產(chǎn)生而發(fā)生變化。由于CEEMDAN分解出的IMF函數(shù)包含唯一的頻帶，由高頻到低頻分布，且根據(jù)信號(hào)內(nèi)的不同故障頻率而分布不同。因此，可以計(jì)算軸承故障信號(hào)本身的能量以及CEEMDAN分解得到各階IMF函數(shù)的能量作為故障特征來(lái)進(jìn)行軸承故障診斷。為描述信號(hào)的能量大小，用能量熵描述信號(hào)能量。

經(jīng)過(guò)分解得到的IMF分量為,…,，每個(gè)分量的能量計(jì)算式為

(13)

其中：表示信號(hào)的點(diǎn)數(shù)。信號(hào)的總能量為

(14)

其中：表示IMF的數(shù)量。IMF分量能量熵為

(15)

其中

=

(16)

式中：為IMF分量的能量占總能量的百分比。

3 基于SSA-SVM的軸承故障分類

支持向量機(jī)(SVM)是一種基于統(tǒng)計(jì)學(xué)習(xí)理論的智能學(xué)習(xí)方法：它對(duì)于非線性以及高維模式的分類識(shí)別問(wèn)題表現(xiàn)出良好的性能，在故障診斷系統(tǒng)的故障分類中得到了廣泛應(yīng)用。SVM的分類性能取決于懲罰參數(shù)和核函數(shù)的選取，因此對(duì)這兩個(gè)參數(shù)進(jìn)行尋優(yōu)可以大大提高SVM的分類準(zhǔn)確率。

XUE和SHEN于2020年提出的麻雀搜索算法(SSA)是一種新型群體智能優(yōu)化算法。SSA主要是受麻雀的覓食行為和反捕食行為的啟發(fā)而提出的，具有實(shí)現(xiàn)簡(jiǎn)單、尋優(yōu)能力強(qiáng)、收斂速度快等優(yōu)點(diǎn)。

麻雀覓食過(guò)程可抽象為發(fā)現(xiàn)者-加入者模型，并加入偵察預(yù)警機(jī)制。因此，在 SSA中，模擬麻雀覓食過(guò)程以獲得優(yōu)化問(wèn)題的解。假設(shè)在一個(gè)維搜索空間中，存在只麻雀，則第只麻雀在搜索空間中的位置為=[,1,…,,,…,,],其中=1,2,3,…,,,表示第只麻雀在維的位置。

發(fā)現(xiàn)者一般占種群的10%～20%，位置更新公式如下:

(17)

式中:表示迭代次數(shù)；表示最大迭代次數(shù)；表示(0,1]的隨機(jī)數(shù)；表示服從正態(tài)分布的隨機(jī)數(shù)；表示大小為1×、元素均為1的矩陣；表示預(yù)警值；表示安全值，當(dāng)<時(shí)，種群安全，發(fā)現(xiàn)者可廣泛搜索，引導(dǎo)種群獲取更高的適應(yīng)度；當(dāng)≥時(shí)，偵查麻雀發(fā)現(xiàn)捕食者，并立即釋放危險(xiǎn)信號(hào)，種群立刻做反捕食行為，調(diào)整搜索策略，迅速向安全區(qū)域靠攏。除了發(fā)現(xiàn)者，剩余的麻雀均作為加入者，并根據(jù)下式進(jìn)行位置更新：

(18)

偵察預(yù)警的麻雀一般占到種群的 10%～20%，位置更新如下：

(19)

式中：表示步長(zhǎng)控制參數(shù)；表示[-1,1]之間的一個(gè)隨機(jī)數(shù)，表示麻雀移動(dòng)的方向；表示極小常數(shù)，以避免分母為 0 的情況出現(xiàn)；表示第只麻雀的適應(yīng)度；表示最優(yōu)適應(yīng)度；表示最差適應(yīng)度；當(dāng)≠時(shí)，表明該麻雀正處于種群的邊緣，極易受到捕食者攻擊；當(dāng)=時(shí)，表明該麻雀正處于種群中間，由于意識(shí)到捕食者的威脅，為避免被捕食者攻擊，及時(shí)靠近其他麻雀來(lái)調(diào)整搜索策略。

使用SSA優(yōu)化SVM的過(guò)程是以測(cè)試集的預(yù)測(cè)正確率為適應(yīng)度函數(shù)，尋找最優(yōu)的SVM參數(shù)。

=max{accuracy[predict(test)]}

(20)

4 基于ECA-ResNet與CEEMDAN能量熵的軸承故障診斷

首先,對(duì)軸承信號(hào)劃分?jǐn)?shù)據(jù)集，再使用傅里葉變換(FFT)得到軸承的頻域信號(hào)，通過(guò)ECA-ResNet得到軸承信號(hào)的頻域特征;然后,對(duì)軸承信號(hào)進(jìn)行CEEMDAN分解,得到信號(hào)時(shí)頻域特征，再計(jì)算軸承信號(hào)的15個(gè)統(tǒng)計(jì)時(shí)域指標(biāo),經(jīng)過(guò)核主元分析(KPCA)降維得到軸承信號(hào)的時(shí)域特征，將所有特征構(gòu)建成故障特征矩陣，輸入到SSA-SVM中，實(shí)現(xiàn)故障分類識(shí)別。故障診斷流程如圖3所示，具體步驟如下：

圖3 基于ECA-ResNet與CEEMDAN能量熵的軸承故障診斷流程

步驟1,通過(guò)滑動(dòng)窗選取的方式對(duì)多種軸承信號(hào)劃分?jǐn)?shù)據(jù)集；

步驟2,對(duì)軸承信號(hào)數(shù)據(jù)集進(jìn)行FFT,得到軸承頻域信號(hào)數(shù)據(jù)集；

步驟3,將頻域信號(hào)數(shù)據(jù)集轉(zhuǎn)化為×的矩陣作為ECA-ResNet的輸入；

步驟4,通過(guò)ECA-ResNet輸出得到軸承信號(hào)的頻域特征；

步驟5,對(duì)軸承信號(hào)數(shù)據(jù)集進(jìn)行CEEMDAN分解，得到多個(gè)IMF分量；

步驟6,求取軸承信號(hào)數(shù)據(jù)集，并求得其IMF分量的能量熵作為軸承信號(hào)的頻域特征；

步驟7,計(jì)算軸承信號(hào)數(shù)據(jù)集的15個(gè)統(tǒng)計(jì)時(shí)域指標(biāo)，經(jīng)過(guò)KPCA降維得到軸承信號(hào)的時(shí)域特征；

步驟8,將步驟2—步驟7提取的軸承信號(hào)頻域、時(shí)頻域、時(shí)域特征共同構(gòu)成軸承信號(hào)的分類特征矩陣；

步驟9,通過(guò)SSA-SVM對(duì)軸承信號(hào)特征矩陣進(jìn)行故障分類識(shí)別。

5 仿真分析

仿真的實(shí)驗(yàn)數(shù)據(jù)采用美國(guó)凱斯西儲(chǔ)大學(xué)的軸承故障數(shù)據(jù)，選擇0 W下，故障直徑為0.177 8、0.355 6、0.533 4 mm的軸承內(nèi)圈、外圈、滾動(dòng)體故障信號(hào)以及正常信號(hào)共計(jì)10個(gè)類別信號(hào)。每個(gè)類別100組數(shù)據(jù)，采用滑動(dòng)窗方式將10個(gè)類別的軸承信號(hào)轉(zhuǎn)換成為10 000個(gè)信號(hào)樣本，其中7 000個(gè)樣本作為訓(xùn)練集，3 000個(gè)樣本作為測(cè)試集。對(duì)所有樣本進(jìn)行FFT變換，得到軸承信號(hào)的頻域數(shù)據(jù)，取每個(gè)樣本頻域的4 096個(gè)點(diǎn)，轉(zhuǎn)化為64×64的矩陣作為ECA-ResNet的輸入。網(wǎng)絡(luò)結(jié)構(gòu)如圖4所示。

圖4 ECA-ResNet網(wǎng)絡(luò)結(jié)構(gòu)

該網(wǎng)絡(luò)模型主要由9個(gè)殘差塊和4個(gè)ECA-ResNet注意力機(jī)制塊組成，由于篇幅限制，激活函數(shù)層ReLU層和歸一化層BatchNorm層省略。在訓(xùn)練網(wǎng)絡(luò)時(shí)，通過(guò)改變第3個(gè)線性層Linear3輸出數(shù)目來(lái)獲得最佳的故障頻域特征數(shù)，ECA-ResNet提取不同特征訓(xùn)練準(zhǔn)確率如圖5所示，分別選取50～90間隔為10的特征個(gè)數(shù)進(jìn)行實(shí)驗(yàn)。

圖5 不同數(shù)量頻域特征準(zhǔn)確率

由圖5可知：選擇80個(gè)頻域特征輸出的準(zhǔn)確率為94.60%，高于其他數(shù)目的特征，且收斂速度也最快，在第6輪訓(xùn)練時(shí)達(dá)到收斂。

為凸顯ECA-ResNet注意力機(jī)制對(duì)網(wǎng)絡(luò)模型的提升，與不采用注意力機(jī)制的ResNet和采用其他注意力機(jī)制的ResNet進(jìn)行對(duì)比。文中選取SE-Net注意力機(jī)制和CBAM-Net進(jìn)行對(duì)比，結(jié)果如表1所示。

表1 不同注意力機(jī)制訓(xùn)練結(jié)果

由表1可知：ECA-ResNet相對(duì)于ResNet增加了較少參數(shù)且只增加了較短的訓(xùn)練時(shí)間就獲得了更好的訓(xùn)練效果；與其他2種注意力機(jī)制對(duì)比，ECA-ResNet的訓(xùn)練精度略有提升，參數(shù)個(gè)數(shù)分別比SE-ResNet、CBMA-ResNet減少20 948、10 300個(gè)，且訓(xùn)練時(shí)間較短。

獲得軸承信號(hào)的頻域特征后，提取軸承信號(hào)時(shí)頻域特征。對(duì)3 000組軸承信號(hào)進(jìn)行CEEMDAN分解，由于篇幅限制只展示一組故障深度為0.177 8 mm的內(nèi)圈故障信號(hào)的實(shí)驗(yàn)結(jié)果，且由于分解層數(shù)過(guò)多，只展示前8層，如圖6所示。

圖6 內(nèi)圈故障信號(hào)的CEEMDAN分解圖

對(duì)CEEMDAN分解得到的各分量及軸承信號(hào)求能量熵，由于第8個(gè)IMF的能量熵通常小于第1個(gè)IMF的1%，因此選擇前7個(gè)IMF能量熵和信號(hào)能量熵共計(jì)8個(gè)特征作為時(shí)頻域特征。

對(duì)信號(hào)的時(shí)域特征進(jìn)行提取，計(jì)算3 000個(gè)樣本的15個(gè)統(tǒng)計(jì)時(shí)域指標(biāo)。由于這些時(shí)域指標(biāo)存在信息冗余或不相關(guān)信息，導(dǎo)致故障診斷時(shí)間長(zhǎng)、精度低，需要進(jìn)行故障特征指標(biāo)優(yōu)化降維。因此，采用核主成分分析(KPCA)進(jìn)行數(shù)據(jù)降維，結(jié)果如圖7所示。

圖7 時(shí)域特征主元貢獻(xiàn)率

由圖7可知：前6個(gè)主元的累計(jì)貢獻(xiàn)率為95.01%，因此選擇前6個(gè)主元作為時(shí)域特征。

分析軸承的振動(dòng)信號(hào)，并且基于3種不同方法提取共94個(gè)特征構(gòu)成特征矩陣，利用特征矩陣對(duì)軸承故障進(jìn)行分類。將提取完特征的樣本分為訓(xùn)練集和測(cè)試集作為SSA-SVM的輸入，其中1 500個(gè)樣本為訓(xùn)練集，1 500個(gè)樣本為測(cè)試集，SSA的優(yōu)化參數(shù)為2個(gè)，麻雀數(shù)量為10，最大迭代次數(shù)為150，分類結(jié)果如圖8所示。

圖8 SSA-SVM測(cè)試集樣本分類結(jié)果

由圖8可知：SSA-SVM的分類準(zhǔn)確率為98.7%，分類效果良好。

為體現(xiàn)混合特征矩陣的優(yōu)越性，用SSA-SVM分別對(duì)15個(gè)傳統(tǒng)時(shí)域特征、6個(gè)降維后時(shí)域特征、8個(gè)CEEMDAN能量熵時(shí)頻域特征、80個(gè)ECA-ResNet提取的頻域特征與文中所選的94個(gè)混合特征進(jìn)行比較，結(jié)果如表2所示。

由表2可知：文中所選擇的94個(gè)混合特征的分類精確度高于選擇其他幾種特征，證明了它在故障診斷中良好的泛化性能。

表2 不同特征選取方式分類準(zhǔn)確率

為體現(xiàn)SSA-SVM分類方法的良好效果，選擇遺傳算法優(yōu)化SVM(GA-SVM)、粒子群算法優(yōu)化SVM(PSO-SVM)、布谷鳥算法優(yōu)化SVM(CS-SVM)、1D-CNN進(jìn)行對(duì)比，分類準(zhǔn)確率和分類時(shí)間如表3所示。

表3 不同分類方法分類準(zhǔn)確與分類時(shí)間

由表3可知：SSA-SVM在分類準(zhǔn)確率、分類時(shí)間上的表現(xiàn)最好，尤其是分類時(shí)間上有較大提升。

6 結(jié)論

(1)使用含有超輕量化注意力模塊的ECA-Net來(lái)優(yōu)化深度學(xué)習(xí)模型并應(yīng)用于故障診斷的特征提取，在增加較少參數(shù)的情況下提升了模型精度并縮短了模型訓(xùn)練時(shí)間；

(2)將CEEMDAN能量熵作為時(shí)頻域特征與傳統(tǒng)統(tǒng)計(jì)時(shí)域特征一起作為ECA-ResNet提取特征的補(bǔ)充特征，仿真實(shí)驗(yàn)表明該故障特征提取方法可以彌補(bǔ)深度學(xué)習(xí)模型在故障診斷中泛化能力不足的缺點(diǎn)，并進(jìn)一步提高診斷效果；

(3)使用SSA-SVM對(duì)故障進(jìn)行分類具有良好的效果,SSA能夠更好地對(duì)SVM的懲罰參數(shù)和核函數(shù)進(jìn)行尋優(yōu)；SSA-SVM的故障分類時(shí)間、故障分類準(zhǔn)確度都明顯優(yōu)于相比較的其他分類算法。