基于殘差膠囊網(wǎng)絡(luò)的滾動軸承故障診斷研究*

董建偉,王衍學(xué)

(1.桂林電子科技大學(xué) 機電工程學(xué)院,廣西 桂林 541004;2.北京建筑大學(xué) 城市軌道交通車輛服役性能保障北京市重點實驗室,北京 100044)

0 引 言

滾動軸承作為旋轉(zhuǎn)機械的重要組成部件,由于其工作條件復(fù)雜,收集到的振動信號也大多為非平穩(wěn)、非線性信號。

在傳統(tǒng)的滾動軸承故障診斷方法中,對其振動信號進行分析是目前普遍采用的一種方法,其相關(guān)信號處理的方法也已經(jīng)成功應(yīng)用到對滾動軸承的故障診斷中[1-5]。但是人工特征提取過程通常依賴于現(xiàn)有特征或評估標(biāo)準(zhǔn),這使得挖掘新的有用信號特征變得困難。因此,研究一種能夠直接從原始信號中提取特征,適應(yīng)機械系統(tǒng)變化的自動特征提取方法很有必要。

近年來,深度學(xué)習(xí)技術(shù)越來越受到各個領(lǐng)域研究人員的關(guān)注。它具有學(xué)習(xí)高非線性樣本特征的能力,可以逐層處理從輸入數(shù)據(jù)中提取到的信息。從原始輸入開始,深度神經(jīng)網(wǎng)絡(luò)(deep neural networks,DNN)可以自動發(fā)現(xiàn)大數(shù)據(jù)集中的復(fù)雜結(jié)構(gòu),并逐層學(xué)習(xí)有用的特征。隨著深度學(xué)習(xí)的發(fā)展,智能故障診斷技術(shù),如堆疊自編碼(stacked auto-encode,SAE)、深層信念網(wǎng)絡(luò)(deep belief network,DBNs)、卷積神經(jīng)網(wǎng)絡(luò)、長短期記憶神經(jīng)網(wǎng)絡(luò)(long short term memory networks,LSTMs)已被成功應(yīng)用在故障診斷領(lǐng)域[6,7]。

李巍華等人[8]利用稀疏自編碼器對不同傳感器的特征進行了融合,并將融合的特征向量訓(xùn)練深度信念網(wǎng)絡(luò)作了進一步的故障分類。陳雪峰等人[9]利用蟻群算法自動確定了深度自編碼的模型參數(shù),提高了模型的性能。HOANG D T等人[10]將振動信號轉(zhuǎn)換為二維形式輸入到卷積神經(jīng)網(wǎng)絡(luò)中,使得模型在不同的負載和噪聲條件下,都能取得較好的分類精度。李新宇等人[11]將原始信號轉(zhuǎn)換為灰度圖像,消除了因手工提取特征對診斷精度造成的影響,并對不同故障類型的圖像利用LeNet-5卷積神經(jīng)網(wǎng)絡(luò)進行了分類。黃如意等人[12]針對旋轉(zhuǎn)機械復(fù)合故障的識別和解耦問題設(shè)計了多棧膠囊作為解耦分類器,完成了對復(fù)合故障的準(zhǔn)確識別和解耦。謝佳琪等人[13]將原始振動信號轉(zhuǎn)換為頻域信號,利用改進的卷積置信網(wǎng)絡(luò)對數(shù)據(jù)特征進行了自動學(xué)習(xí),同時利用多特征融合增加了模型的泛化性。

然而,深度信念網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)等深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練依賴于大量的樣本,在訓(xùn)練數(shù)據(jù)不足的情況下,模型會受到過擬合因素的影響。此外,卷積神經(jīng)網(wǎng)絡(luò)中的池化層會導(dǎo)致一些有價值的空間信息的丟失,如位置、尺寸等參數(shù),甚至造成輸入變化很大,但輸出變化很小情況的發(fā)生。對于時頻圖而言,在圖中一個很小的變化,既可能是故障類型的變化,也可能是故障尺寸大小的變化。

基于傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)的缺點,HINTON G E和他的助手在2017年提出了膠囊網(wǎng)絡(luò)(capsule network)[14],它可以保留確切的位置、方向、大小等參數(shù),并且有輸入的微小變化也能使輸出帶來微小改變。膠囊網(wǎng)絡(luò)的結(jié)構(gòu)是由膠囊組成而不是神經(jīng)元,膠囊是一組神經(jīng)元,可以對區(qū)域內(nèi)的特定圖像輸出矢量,矢量的方向表示目標(biāo)的姿態(tài)參數(shù),矢量的長度表示該特征估計的概率大小,特征的矢量表示有效地提高了軸承故障診斷的準(zhǔn)確率[15-19]。

為了解決傳統(tǒng)方法需要手工提取特征,以及一些深度學(xué)習(xí)方法需要對原始信號進行二維轉(zhuǎn)換等數(shù)據(jù)預(yù)處理,并且提取到的特征無法充分表達故障特征的問題,筆者提出一種端到端的滾動軸承故障診斷模型,即以一維原始振動信號為輸入,殘差網(wǎng)絡(luò)自適應(yīng)提取特征,并利用膠囊網(wǎng)絡(luò)充分表達故障信息,以提高分類精度的診斷模型。

1 基礎(chǔ)理論

1.1 殘差網(wǎng)絡(luò)

針對深度神經(jīng)網(wǎng)絡(luò)隨著網(wǎng)絡(luò)深度的增加出現(xiàn)的梯度消失和網(wǎng)絡(luò)性能退化的問題,何愷明等人[20]提出了一種名為殘差網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu),即在卷積神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上引入了殘差學(xué)習(xí)的概念。

殘差塊結(jié)構(gòu)如圖1所示。

圖1 殘差塊結(jié)構(gòu)

圖1中,殘差單元以一種跳層連接的形式實現(xiàn),即將單元的輸入直接與單元輸出相加,然后再激活。當(dāng)殘差塊的輸入為Xl時,右側(cè)為殘差函數(shù)F(Xl),左側(cè)為輸入Xl的恒等映射,這兩個分支的對應(yīng)元素經(jīng)過相加后,再經(jīng)過Relu非線性變換激活函數(shù),形成整個殘差塊的基本結(jié)構(gòu)。將多個殘差塊進行堆疊而形成的網(wǎng)絡(luò)結(jié)構(gòu)被稱為殘差網(wǎng)絡(luò)。

1.2 膠囊網(wǎng)絡(luò)

在膠囊網(wǎng)絡(luò)中,網(wǎng)絡(luò)輸出以向量的形式存在,長度表示實體存在的概率,方向表示實體的性質(zhì)。膠囊網(wǎng)絡(luò)還將最大池化操作替換為動態(tài)路由機制,通過動態(tài)路由算法來計算一組路由系數(shù);這些路由系數(shù)連接網(wǎng)絡(luò)中相鄰層之間的低層和高層膠囊,每個路由系數(shù)表示一個單獨的低級別膠囊應(yīng)該分配給一個高級別膠囊的概率,根據(jù)低級別膠囊和高級別膠囊的相似性程度確定路由的系數(shù)。

高層膠囊vj的計算過程如圖2所示。

圖2 向量的計算過程

(1)

sj的計算方式如下:

(2)

式中:cij—耦合系數(shù)。

對于每一個低層膠囊ui而言,所有的耦合系數(shù)cij大于0,并且總和等于1,其計算方式如下:

(3)

式中:bij—膠囊i和膠囊j相結(jié)合的對數(shù)先驗概率。

在動態(tài)路由過程中所有的bij被初始化為0,通過下式迭代更新,即:

(4)

最后,筆者通過一個非線性激活函數(shù)Squash函數(shù)得到膠囊j的激活值vj,通過Squash函數(shù)確保每個高層膠囊的向量長度介于0和1之間,即向量的長度代表一個特定特征的存在概率。

Squash函數(shù)表示為:

(5)

1.3 改進的動態(tài)路由算法

由于動態(tài)路由算法在數(shù)據(jù)形狀太復(fù)雜的數(shù)據(jù)集上不能達到很好的效果,筆者引入了一種適用性更好的模糊聚類的思想,對動態(tài)路由過程進行了改進;對每個對象和簇賦予一個權(quán)值,表明對象屬于該簇的程度。

模糊聚類算法就是一個不斷迭代計算隸屬度wij和聚類中心vj的過程,直到它們達到最優(yōu)解。

計算隸屬度矩陣wij:

(6)

式中:ui—第i個樣本,具有d維特征;vj—第j個簇的聚類中心,具有d維特征;l—聚類中心個數(shù);wij—樣本ui屬于j類的隸屬度矩陣;m—模糊程度;‖*‖—歐式距離度量。

計算聚類中心vj為:

(7)

由于模糊聚類算法是基于加權(quán)的歐式距離,其中最顯著的一個特點就是聚類中心向量是類內(nèi)向量的加權(quán)平均,不能像原動態(tài)路由過程使用向量的模長來表示特征的顯著程度。通過增加一個標(biāo)量aj衡量第j個膠囊的顯著性,這個標(biāo)量稱為激活值,因此可以用不確定性來描述這個激活值,類內(nèi)分布越分散,不確定性越大,類內(nèi)分布越集中,不確定性越小。

不確定性可以用信息熵來度量,信息熵如下:

(8)

式中:Rij—通過貝葉斯公式求得的聚類中心的選取概率。

Rij的表達式為:

(9)

因為熵越小,特征越顯著,筆者采用-Sj來衡量特征的顯著程度,并且在做一些尺度變換后使用Sigmoid激活函數(shù)將結(jié)果壓縮在0和1之間[21],即:

(10)

aj=sigmoid(λ(βa-costj))

(11)

其中:λ采用退火策略,隨著訓(xùn)練過程慢慢增大;βa,βu通過反向傳播進行優(yōu)化。

于是可以得到改進后的動態(tài)路由算法:

step1:初始化wij,初始化aj(0

step2:迭代3次;

step8:aj=sigmoid(λ(βa-costj));

2 基于殘差膠囊網(wǎng)絡(luò)的軸承診斷方法

2.1 模型結(jié)構(gòu)

為了從原始振動信號中提取更加豐富的深層特征信息,防止因網(wǎng)絡(luò)層數(shù)的增加產(chǎn)生梯度消失現(xiàn)象,筆者將殘差模塊和改進后的膠囊網(wǎng)絡(luò)相結(jié)合,形成用于滾動軸承故障診斷的殘差膠囊網(wǎng)絡(luò)。

殘差膠囊網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示。

圖3 殘差膠囊網(wǎng)絡(luò)結(jié)構(gòu)

圖3中,網(wǎng)絡(luò)結(jié)構(gòu)主要由1個大卷積核卷積層、2個殘差模塊和1個膠囊層組成;該網(wǎng)絡(luò)模型以一維原始振動信號作為輸入,說明不需要任何人工預(yù)處理,采用大卷積核即可提取全局信息,并且減少了背景噪聲的干擾;2個殘差模塊用于提取滾動軸承故障信號的深層特征信息,在主膠囊層構(gòu)建膠囊單元。

為了減少參數(shù)數(shù)量,提升模型的泛化性能,筆者在數(shù)字膠囊層采用一種權(quán)值共享版姿勢矩陣,如圖4所示。

圖4 權(quán)值共享姿勢矩陣

圖4中,整個網(wǎng)絡(luò)模型以原始信號作為輸入。首先使用卷積核為70×1,步長為15的1維卷積提取振動信號的全局信息;在第一個殘差模塊中,使用3×3的卷積核,步長為1用來提取低層特征,為了避免池化操作丟失信息,使用大小3×3,步長為2的卷積核增大感受野;第二個殘差模塊中使用堆疊兩層大小為3×3,步長為1的卷積層;在主膠囊層采用8組9×9大小的卷積核構(gòu)建膠囊單元。

2.2 模型損失函數(shù)

筆者在提出的殘差膠囊網(wǎng)絡(luò)中使用邊際損失作為損失函數(shù),即:

Lk=Tkmax(0,m+-‖vk‖)2+
λ(1-Tk)max(0,‖vk‖-m-)2

(12)

式中:k—分類類別;Tk—指標(biāo)函數(shù);m+—上邊界;m-—下邊界;λ—比例系數(shù)。

其中:若k類存在則Tk為1,否則為0,設(shè)m+=0.9,m-=0.1,比例系數(shù)取值為0.5。

3 實驗及結(jié)果分析

3.1 數(shù)據(jù)獲取

為了驗證殘差膠囊網(wǎng)絡(luò)的故障診斷性能,本文選用了美國SpectraQuest公司的MFS-Magnum試驗臺的試驗數(shù)據(jù)。

該軸承故障檢測裝置如圖5所示。

圖5 軸承故障檢測試驗平臺

該裝置主要包括:轉(zhuǎn)速顯示器、加速度傳感器、手動調(diào)速器(變頻)、試驗軸承、電機、轉(zhuǎn)軸、離合器等。試驗軸承采樣頻率為25.6 kHz,軸承分別處于外圈故障、內(nèi)圈故障和滾動體故障,每種故障狀態(tài)下又分別處在9.9 Hz、19.88 Hz、29.87 Hz的轉(zhuǎn)頻下,加上正常狀態(tài)下的軸承,共計需要識別10類不同狀態(tài)的軸承。

為了防止模型產(chǎn)生過擬合現(xiàn)象,提高模型的泛化能力,筆者采用一種重疊信號分割的方式擴充數(shù)據(jù)集。

獲取數(shù)據(jù)樣本如圖6所示。

圖6 獲取數(shù)據(jù)樣本

圖6中,從原始振動信號的起始點開始采集,每次采樣1 024個點,采集完成之后向后移動200個數(shù)據(jù)點繼續(xù)采集,直至所有樣本采集完畢。

筆者將采集到的數(shù)據(jù)樣本按照6:1的比例劃分為訓(xùn)練樣本和測試樣本,其中每個類別的訓(xùn)練集樣本數(shù)為6 000,測試集樣本數(shù)為1 000。

3.2 方法對比

為了客觀地評價所提方法的性能,本文通過與其他深度學(xué)習(xí)模型進行比較,以驗證殘差膠囊網(wǎng)絡(luò)的準(zhǔn)確性和泛化性。

此處筆者選用準(zhǔn)確率作為評價指標(biāo),對比方法包括:傳統(tǒng)深度神經(jīng)網(wǎng)絡(luò)(artificial neural network,ANN)、卷積神經(jīng)網(wǎng)絡(luò)、殘差神經(jīng)網(wǎng)絡(luò)(residual networks ,ResNet)、Inception1模型。其中,ANN采用6層全連接網(wǎng)絡(luò),CNN采用3個卷積層和2個池化層,一層全連接層;ResNet堆疊3個殘差模塊和一個全連接層,Inception1網(wǎng)絡(luò)使用3個inception1模塊。

在訓(xùn)練過程中,筆者使用Adam優(yōu)化算法,學(xué)習(xí)率設(shè)置為0.001,迭代次數(shù)為30次。

3.3 結(jié)果分析

多個深度學(xué)習(xí)模型的收斂曲線如圖7所示。

圖7 模型收斂曲線

由圖7可知:在網(wǎng)絡(luò)性能方面,殘差膠囊網(wǎng)絡(luò)可以很快地達到平緩的收斂狀態(tài),并且具有很高的診斷準(zhǔn)確率,說明筆者所提方法相比于其他深度網(wǎng)絡(luò)模型具有較強的魯棒性和泛化性。

本文以滾動軸承的原始振動信號為輸入,通過診斷其故障類別驗證所提方法的有效性。為了減少隨機因素的影響,驗證所提方法的穩(wěn)定性,筆者將該方法和對比方法重復(fù)試驗3次;同時,為了定量對比5種診斷方法的診斷精度,筆者列出每次試驗診斷精度及平均診斷精度。

3次實驗的結(jié)果如表1所示(為了量化診斷性能,試驗結(jié)果采取平均診斷精度作為衡量指標(biāo))。

表1 3次實驗結(jié)果

從表1結(jié)果可以看出:本文所提出的網(wǎng)絡(luò)模型取得了很好的效果,其平均預(yù)測精度達到了99.95%,明顯優(yōu)于其他方法;ANN,CNN,Incept1,ResNet分別達到了67.62%,98.54%,98.74%和98.65%,都低于本文方法,顯示了本文所提方法的顯著性能。

作為一種將故障分類結(jié)果可視化的工具,多類混淆矩陣可以反映故障分類的準(zhǔn)確率和誤分類率。其中,混淆矩陣的橫軸表示樣本的預(yù)測標(biāo)簽,縱軸表示樣本的真實標(biāo)簽,顏色條表示值和顏色之間的對應(yīng)關(guān)系;以混淆矩陣的形式給出了更詳細的結(jié)果。

試驗結(jié)果混淆矩陣如圖8所示。

圖8 試驗結(jié)果混淆矩陣

從圖8可以看出:ANN把第1類誤分成了第0類,CNN對第0、4和6類中的某些樣本不能很好地識別,Incept1對第0類和第3類有分類錯誤,ResNet對第0類和第6類有分類錯誤。

該結(jié)果顯示,本文所提的方法對所有類都能很好地進行識別。

為了驗證所提方法自適應(yīng)挖掘高層特征的能力,筆者利用t-SNE(t-distributed stochastic neighbor embedding)技術(shù),對高層特征進行可視化,并從聚類性能的角度對其可分性進行評價。

筆者對各個網(wǎng)絡(luò)最后一層的特征進行t-SNE處理。為了將聚類結(jié)果可視化,將所有特征表示在二維特征圖上。

基于t-SNE的可視化結(jié)果如圖9所示。

圖9 基于t-SNE的可視化結(jié)果

由圖9可知:ANN中大部分數(shù)據(jù)點是混合的,說明網(wǎng)絡(luò)不能很好地區(qū)分每一個類別;CNN、Incept1和ResNet中數(shù)據(jù)點聚類較好,但也有部分重疊,說明雖然能夠區(qū)分開不同的類,但有些類之間的特征相似,不具有很好的魯棒性;本文所提出的方法可以很好地表征相同故障狀況的特征進行聚類,所有的類都可以被清晰地分離。

本文所提網(wǎng)絡(luò)結(jié)構(gòu)的主要思想是先提取原始信號的低層特征,通過聚類的思想轉(zhuǎn)化為更抽象的特征,在聚類方面也做到了同類的類內(nèi)間距小、不同類的類間間距大,說明了本文所提方法可以很好地對區(qū)分滾動軸承故障類別的基本特征進行提取,在特征提取方面具有智能性和有效性。

4 結(jié)束語

本研究提出了一種基于殘差網(wǎng)絡(luò)和膠囊網(wǎng)絡(luò)相結(jié)合的滾動軸承故障診斷模型,實現(xiàn)了以故障軸承的時域信號作為輸入,無需手工提取特征的滾動軸承故障診斷。筆者將所提出的模型在故障軸承數(shù)據(jù)集進行了試驗驗證,并與其他深度學(xué)習(xí)模型進行了對比。

試驗和研究結(jié)果表明:

(1)殘差膠囊網(wǎng)絡(luò)的分類精度和收斂速度都優(yōu)于其他網(wǎng)絡(luò)模型,證明了該網(wǎng)絡(luò)模型具有良好的診斷故障類型的能力;

(2)通過t-SNE的可視化分析表明,殘差膠囊網(wǎng)絡(luò)具有較好的自適應(yīng)挖掘高層特征的能力和全面表達滾動軸承故障信息的能力。

在后續(xù)的研究過程中,筆者將進一步優(yōu)化模型,以解決滾動軸承故障診斷在噪聲污染和復(fù)雜工況環(huán)境下診斷準(zhǔn)確率不高的問題。