基于小波變換和Involution卷積神經(jīng)網(wǎng)絡(luò)的滾動軸承故障診斷方法

王正，文傳博，董逸凡

(上海電機學(xué)院 電氣學(xué)院，上海 201306)

小波變換克服了短時傅里葉變換單一分辨率的缺點，可以同時提取信號的時域特征與頻域特征并將其轉(zhuǎn)換為蘊含著原始信號故障特征的二維時頻圖[1-3]。文獻[4]提出一種基于多尺度小波變換和時頻圖的微波源故障檢測方法，利用小波變換繪制殘差信號的時頻圖，再對檢測結(jié)果進行可視化分析，實現(xiàn)了微波源隊列中故障微波位置以及故障發(fā)生時間的準(zhǔn)確在線檢測；文獻[5]提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)和遷移學(xué)習(xí)的電機軸承故障診斷方法，將原始振動信號通過小波變換轉(zhuǎn)換為二維時頻圖，再通過神經(jīng)網(wǎng)絡(luò)模型進行故障分類；文獻[6]提出了一種采用多種小波提取軸承健康狀態(tài)特征的神經(jīng)網(wǎng)絡(luò)算法，并用全局最大池化替代卷積操作后的最大池化，明顯提高了分類精度；文獻[7]將原始軸承振動信號進行短時傅里葉變換轉(zhuǎn)換為二維時頻圖像，再送入深度殘差網(wǎng)絡(luò)進行故障分類，分類準(zhǔn)確率有了很大提升。由上述文獻可知，將時頻圖作為神經(jīng)網(wǎng)絡(luò)的輸入進行故障特征提取的研究仍存在較多問題：1)原始信號經(jīng)小波變換轉(zhuǎn)換為時頻圖后保留的原始故障特征是否充分；2)將卷積神經(jīng)網(wǎng)絡(luò)用于滾動軸承故障診斷中，存在梯度擴散、參數(shù)爆炸以及訓(xùn)練時間較長等缺點；3)卷積神經(jīng)網(wǎng)絡(luò)與其他網(wǎng)絡(luò)模型的對比不夠充分。

相對于常規(guī)Convolution，Involution有更少的參數(shù)，更快的計算速度和更強的特征提取能力[9]；但其卷積操作并不能改變輸入圖像的通道數(shù)，連續(xù)使用可能會影響故障特征的提取。針對上述問題，本文提出了一種基于小波變換和Involution卷積神經(jīng)網(wǎng)絡(luò)的滾動軸承故障特征提取和分類方法，通過Convolution提取特征并擴展輸入特征圖的通道數(shù)[9-10]，再通過Involution進一步提取輸入圖像的特征，從而在減少模型訓(xùn)練時間的同時獲取更高的分類精度。

1 Involution

在深度學(xué)習(xí)中[11-13]，卷積的目的是從輸入中提取有用的特征，卷積核在空間維度和通道維度上有2大特性：1)空間不變性，即在特征圖中所有的空間位置使用同一尺寸的卷積核，卷積核在所有位置都是共享的，可以有效節(jié)省模型參數(shù)，還可以讓卷積操作維護平移的等變性，但由于卷積核只有一個，不可以根據(jù)輸入特征靈活調(diào)整卷積核的參數(shù)，對特征圖的特征提取能力不充分；2)通道特異性，即不同的通道中采用不同的卷積核進行卷積操作，從不同的通道提取各自的語義信息，但不同通道對應(yīng)的卷積核可能會出現(xiàn)冗余。針對上述不足，提出了一種可以讓卷積核在通道維度上有所減少而不會明顯影響其表達能力的操作，即Involution，在保證計算高效的情況下，極大減少了網(wǎng)絡(luò)參數(shù)量。

Involution與常規(guī)卷積操作具有反對稱性，其具有空間特異性和通道不變性(將特征圖的通道分為G個組，每個組內(nèi)共享一個卷積核)，Involution操作沒有像常規(guī)卷積操作一樣采用一個固定尺寸的權(quán)重作為可學(xué)習(xí)參數(shù)，而是基于特征圖生成對應(yīng)的卷積核，從而確定其卷積核尺寸與輸入特征矩陣在空間維度上是可以對齊的。Involution算子為

Involution卷積核的通用形式為

Hi,j=φ(Xψi,j)，

式中：ψi,j為坐標(biāo)(i,j)鄰域的一個集合，表示特征圖上包含Xi,j的某個鄰域。

核生成函數(shù)φ可以有多種形式，用一種類似于SENet的bottleneck結(jié)構(gòu)進行試驗，得到Involution卷積核生成的一種實例化，如圖1所示。

常規(guī)Convolution操作所需參數(shù)量為Ci(輸入通道)×Co(輸出通道)×K×K，而Involution操作所需參數(shù)量為(C2+CGK2)/r，一般C會比G少很多，因此Involution的參數(shù)量也會少很多。

2 基于小波變換和Involution的卷積神經(jīng)網(wǎng)絡(luò)模型

2.1 網(wǎng)絡(luò)模型結(jié)構(gòu)

本文使用的框架為同時結(jié)合Conv2d卷積操作和Involution卷積操作的神經(jīng)網(wǎng)絡(luò)模型，包含4個卷積層、2個池化層和3個全連接層，模型結(jié)構(gòu)見表1。

表1 網(wǎng)絡(luò)模型結(jié)構(gòu)

2.2 試驗流程

試驗流程如圖4所示：將原始數(shù)據(jù)轉(zhuǎn)換為小波時頻圖，按照7∶2∶1的比例劃分為訓(xùn)練集，驗證集以及測試集，經(jīng)過數(shù)據(jù)預(yù)處理將時頻圖裁剪為64×64×3的大小送入神經(jīng)網(wǎng)絡(luò)，經(jīng)過4個卷積層提取輸入特征，再通過3個全連接層分類，最后繪制出準(zhǔn)確率曲線以及網(wǎng)絡(luò)模型損失曲線；然后，將測試集輸入網(wǎng)絡(luò)模型，計算得出混淆矩陣，觀察各類故障的識別情況。

3 仿真分析

3.1 CWRU數(shù)據(jù)集

采用美國凱斯西儲大學(xué)的軸承數(shù)據(jù)集進行仿真分析，試驗軸承為6205，工況為0hp，采樣頻率為48 kHz，轉(zhuǎn)速為1 797 r/min。軸承故障分為內(nèi)圈故障(IR)，外圈故障(OR)和滾動體故障(B)，每種故障又分為輕度故障(07，故障直徑0.178 mm)，中度故障(014，故障直徑0.356 mm)和重度故障(021，故障直徑0.534 mm)3個類別。劃分后每個樣本的采樣點為864，其中包含2個故障周期，每類故障各200個樣本，按7∶2∶1劃分為訓(xùn)練集，驗證集，與測試集，具體數(shù)據(jù)見表2。各故障軸承振動信號經(jīng)小波變換轉(zhuǎn)換得到的時頻圖如圖5所示。

表2 CWRU軸承數(shù)據(jù)集

3.2 網(wǎng)絡(luò)結(jié)構(gòu)分析

為分析Involution對網(wǎng)絡(luò)模型的影響，在網(wǎng)絡(luò)不同位置采用不同的卷積操作，建立不同的網(wǎng)絡(luò)模型驗證其對故障軸承的識別能力。將CWRU軸承數(shù)據(jù)集通過小波變換轉(zhuǎn)換得到的二維時頻圖輸入不同的神經(jīng)網(wǎng)絡(luò)模型，準(zhǔn)確率和運行時間的對比結(jié)果見表3。其中，網(wǎng)絡(luò)1為本文所建網(wǎng)絡(luò)模型，括號內(nèi)為該層所選用的卷積類型。由表3可知：

表3 不同網(wǎng)絡(luò)結(jié)構(gòu)性能對比

1)相對于采用4個常規(guī)卷積的網(wǎng)絡(luò)2，網(wǎng)絡(luò)1的訓(xùn)練集準(zhǔn)確率提升了2.25%，驗證集準(zhǔn)確率提升了4.18%，運行時間縮短為原來的59.86%。

2)網(wǎng)絡(luò)3將網(wǎng)絡(luò)1的第2層卷積由Involution換為Convolution，參數(shù)增加了624，訓(xùn)練速度略有降低。

3)網(wǎng)絡(luò)4的卷積層全部采用Involution，雖然大大降低了每個卷積層的參數(shù)量(由網(wǎng)絡(luò)1的1 911下降為132，降低約93.1%)，但由于Involution操作無法改變輸入特征圖的通道數(shù)(本試驗取值為3)，故其卷積層均生成3×3×3(K×K×G)的Involution卷積核；另外，為保證與其他網(wǎng)絡(luò)的Involution操作一致，步長均為1，因此網(wǎng)絡(luò)4并沒有改變輸入特征圖的大小，導(dǎo)致其全連接層的參數(shù)量大大增加，訓(xùn)練時間也有所增長。

4)網(wǎng)絡(luò)4和網(wǎng)絡(luò)5的訓(xùn)練集準(zhǔn)確率與驗證集準(zhǔn)確率差異較大，即出現(xiàn)了過擬合現(xiàn)象，這同樣是由于Involution不可改變輸入特征圖的通道數(shù)，當(dāng)網(wǎng)絡(luò)中連續(xù)使用較多Involution操作時，通道間的內(nèi)部信息交換受到一定程度的影響。

綜上分析可知，網(wǎng)絡(luò)1的分類準(zhǔn)確率度最高，運行時間相對較短，對滾動軸承故障的識別性能最佳，驗證了前文所提模型結(jié)構(gòu)的合理性。

3.3 仿真結(jié)果分析

試驗平臺配置如下：CPU為Intel(R)Core(TM)i5-10400 CPU @ 2.90GHz，顯卡為RTX2060，運行程序為PyCharm Community Edition 2020.3x64。網(wǎng)絡(luò)模型參數(shù)設(shè)置如下：學(xué)習(xí)率為0.002，迭代次數(shù)為100，batchsize為64；由于輸入圖像尺寸較小(64×64×3)，Involution的壓縮率r和組數(shù)G均取為3。將CWRU軸承數(shù)據(jù)集經(jīng)小波變換得到的二維時頻圖進行數(shù)據(jù)預(yù)處理，裁剪為64×64大小的圖像送入模型進行訓(xùn)練，訓(xùn)練集和驗證集的損失曲線和準(zhǔn)確率曲線如圖6所示，測試集輸入訓(xùn)練完成模型得到的混淆矩陣如圖7所示。

由圖6可知，本文所建網(wǎng)絡(luò)模型在迭代30次左右時達到收斂，訓(xùn)練集及驗證集均達到了100%的準(zhǔn)確率；由圖7可知，在測試集中，僅有1個B021故障被錯誤識別為IR021，其他故障的識別率均達到了100%：說明該模型可以有效識別軸承故障。

4 試驗驗證

4.1 試驗數(shù)據(jù)

為進一步驗證本文所建模型在實際應(yīng)用中的表現(xiàn)，在圖8所示試驗臺上進行軸承試驗，試驗軸承型號為6206-2RS，轉(zhuǎn)速為1 420 r/min，采樣頻率為10 kHz,在0負(fù)載的工況下，分別通過電動機驅(qū)動端的橫向、徑向以及軸向加速度傳感器獲取三通道的振動信號，通過MATLAB處理合并為1個數(shù)據(jù)，試驗數(shù)據(jù)包括外圈故障、內(nèi)圈故障、滾動體故障以及正常工況各500個樣本(圖9，內(nèi)外圈故障均為機械擠壓制成，故障深度為0.6 mm)，每個樣本的采樣點數(shù)為864(包含2個故障周期)，按7∶2∶1劃分為訓(xùn)練集、驗證集以及測試集，具體數(shù)據(jù)分布見表4。各故障軸承振動信號經(jīng)小波變換轉(zhuǎn)換得到的時頻圖如圖10所示。

表4 試驗軸承數(shù)據(jù)集

4.2 試驗結(jié)果分析

通過小波變換將試驗軸承數(shù)據(jù)轉(zhuǎn)換為二維時頻圖，經(jīng)過數(shù)據(jù)預(yù)處理后裁剪為64×64的圖像輸入模型，訓(xùn)練集和驗證集的損失曲線和準(zhǔn)確率曲線結(jié)果如圖11所示，驗證集的混淆矩陣如圖12所示。分析可知：在20次迭代后，訓(xùn)練集和驗證集的準(zhǔn)確率分別達到100%和99.75%；測試集中也僅有1個正常軸承被誤識別為內(nèi)圈故障，總體分類準(zhǔn)確率高達99.50%；充分驗證了本文所建模型可以有效進行滾動軸承的故障識別，在面對不同工況下的故障軸承時具有很好的泛化能力。

4.3 網(wǎng)絡(luò)模型對比分析

為進一步表現(xiàn)本文所提網(wǎng)絡(luò)模型的性能優(yōu)勢，分別將CWRU軸承數(shù)據(jù)集和試驗軸承數(shù)據(jù)集直接輸入傳統(tǒng)的DBN，SAE等網(wǎng)絡(luò)模型，并將軸承數(shù)據(jù)經(jīng)小波變換轉(zhuǎn)換為時頻圖后輸入AlexNet圖像處理網(wǎng)絡(luò)中，以及將軸承數(shù)據(jù)經(jīng)短時傅里葉變換轉(zhuǎn)換為時頻圖再送入深度殘差網(wǎng)絡(luò)(STFT-DRNN模型)，各網(wǎng)絡(luò)模型的對比結(jié)果如圖13和表5所示(準(zhǔn)確率及時間均取10次訓(xùn)練平均值)。

表5 不同網(wǎng)絡(luò)模型性能對比表

上述5種網(wǎng)絡(luò)模型對于CWRU軸承數(shù)據(jù)集的分類準(zhǔn)確率均較高，但對于不同工況，不同試驗條件下采集的試驗軸承數(shù)據(jù)，小波+AlexNet以及 DBN，SAE網(wǎng)絡(luò)模型的表現(xiàn)不佳，準(zhǔn)確率并不高。本文所建模型以及STFT+DRNN模型在面對不同工況軸承數(shù)據(jù)時均表現(xiàn)良好，但本文所建模型使用Involution大大減小了網(wǎng)絡(luò)模型的參數(shù)量，模型訓(xùn)練時間僅為STFT+DRNN模型的9.50%左右，更適用于工程應(yīng)用中的在線故障檢測。

5 結(jié)束語

建立了一種用于滾動軸承故障診斷的Involution卷積神經(jīng)網(wǎng)絡(luò)模型，小波變換得到的時頻圖可以很好地保留原始軸承振動信號的故障特征，將Involution引入常規(guī)卷積神經(jīng)網(wǎng)絡(luò)可以簡化模型訓(xùn)練參數(shù)，提高模型訓(xùn)練速度，并通過自適應(yīng)改變的卷積核提高模型的故障識別準(zhǔn)確率以及面對不同工況時的泛化能力，相對于DBN，SAE，小波+AlexNet以及STFT+DRNN等模型，本文所建模型更適用于實際應(yīng)用工況。