一維多尺度卷積神經(jīng)網(wǎng)絡(luò)及其在滾動(dòng)軸承故障診斷中的應(yīng)用

張成帆,江澤鵬,曹偉,陳偉,張敏

(1. 西南交通大學(xué) 機(jī)械工程學(xué)院,成都 610031； 2. 軌道交通運(yùn)維技術(shù)與裝備四川省重點(diǎn)實(shí)驗(yàn)室,成都 6100313. 西南交通大學(xué) 盾構(gòu)/TBM裝備摩擦學(xué)設(shè)計(jì)實(shí)驗(yàn)室,成都 610031)

滾動(dòng)軸承是在機(jī)械設(shè)備中具有廣泛應(yīng)用的關(guān)鍵部件之一,由于過載,疲勞,磨損,腐蝕等原因,滾動(dòng)軸承在機(jī)器運(yùn)行過程中容易損壞,在實(shí)際生產(chǎn)中超過50%的旋轉(zhuǎn)機(jī)器故障與軸承故障有關(guān)[1]。為保障實(shí)際生產(chǎn)中旋轉(zhuǎn)機(jī)械不出現(xiàn)安全事故,使用有效的診斷算法對(duì)滾動(dòng)軸承進(jìn)行診斷具有十分重要的意義。但由于實(shí)際生產(chǎn)中來自滾動(dòng)軸承監(jiān)測(cè)系統(tǒng)的數(shù)據(jù)量日益增多,各狀態(tài)參數(shù)之間存在強(qiáng)耦合、非等效等復(fù)雜的對(duì)應(yīng)關(guān)系,很難實(shí)現(xiàn)數(shù)據(jù)特征的高效提取。自Hinton等[2]首次探討了使用深度學(xué)習(xí)進(jìn)行大數(shù)據(jù)處理以來,近年來受到學(xué)術(shù)界和工業(yè)界的廣泛重視,越來越多的學(xué)者開始了利用深度學(xué)習(xí)進(jìn)行滾動(dòng)軸承故障診斷的研究。

目前利用深度學(xué)習(xí)進(jìn)行故障診斷的方法,大多集中于使用預(yù)提取的特征作為神經(jīng)網(wǎng)絡(luò)的輸入的方法。如Unal等[3]利用希爾伯特-黃變換和傅里葉變換提取故障特征后使用神經(jīng)網(wǎng)絡(luò)進(jìn)行軸承故障診斷。陳文戈等[4]使用小波變換提取信號(hào)在不同頻道上的特征作為神經(jīng)網(wǎng)絡(luò)的輸入進(jìn)行軸承故障分類。黃競(jìng)楠等[5]通過奇異值分解和經(jīng)驗(yàn)?zāi)Ｊ椒纸獾姆绞教崛『兄饕收闲畔⒌姆至?然后從選取的本征模函數(shù)分量中提取故障特征參數(shù)作為神經(jīng)網(wǎng)絡(luò)輸入進(jìn)行軸承故障診斷。Zhang等[6]利用自回歸模型提取軸承振動(dòng)信號(hào)特征,并通過優(yōu)化后的人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)故障識(shí)別。Wang等[7]直接將軸承采樣信號(hào)的希爾伯特包絡(luò)譜作為特征向量,之后使用深度置信網(wǎng)絡(luò)對(duì)特征向量進(jìn)行分類完成軸承故障分類。Khajavi等[8]使用離散小波變換進(jìn)行信號(hào)預(yù)處理,利用神經(jīng)網(wǎng)絡(luò)對(duì)輸入的歸一化的離散小波系數(shù)進(jìn)行軸承故障分類。上述方法都受到需要預(yù)提取特征的制約,所提取的特征僅針對(duì)特定場(chǎng)景有效,并且只將神經(jīng)網(wǎng)絡(luò)作為一個(gè)分類器使用,而忽視了神經(jīng)網(wǎng)絡(luò)強(qiáng)大的非線性擬合能力本身就具有自動(dòng)提取特征并進(jìn)行分類的能力。

因此有部分學(xué)者提出端到端的深度學(xué)習(xí)方法來進(jìn)行軸承故障診斷,即無需對(duì)信號(hào)做特征提取的工作,直接利用深度學(xué)習(xí)自身的非線性擬合能力自動(dòng)完成特征提取和故障分類的工作。其中,Tamilselvan等[9]提出一種基于深度置信網(wǎng)絡(luò)的故障診斷方法,莊雨旋等[10]提出通過基于LSTM的軸承故障端到端的診斷方法,雷亞國等[11]提出基于無監(jiān)督學(xué)習(xí)和有監(jiān)督學(xué)習(xí)相結(jié)合的深度置信神經(jīng)網(wǎng)絡(luò)的軸承故障診斷算法,這些方法驗(yàn)證了端對(duì)端的深度學(xué)習(xí)方法在軸承故障識(shí)別方面的可行性和無需預(yù)先提取特征的優(yōu)勢(shì)。實(shí)際上,滾動(dòng)軸承的振動(dòng)信號(hào)屬于一維數(shù)據(jù),也有不少學(xué)者使用適合處理一維數(shù)據(jù)處理的一維卷積神經(jīng)網(wǎng)絡(luò)來實(shí)現(xiàn)端到端的滾動(dòng)軸承故障診斷工作。曲建嶺等[12]提出基于一維卷積神經(jīng)網(wǎng)絡(luò)的層級(jí)化智能故障診斷模型,可同時(shí)識(shí)別滾動(dòng)軸承的故障類型和故障程度。Zhang等[13]提出利用一維卷積神經(jīng)網(wǎng)絡(luò)的一種端對(duì)端的滾動(dòng)軸承故障診斷算法。Wang等[14]對(duì)使用粒子群優(yōu)化算法對(duì)一維卷積網(wǎng)絡(luò)的超參數(shù)進(jìn)行優(yōu)化,以適應(yīng)滾動(dòng)軸承故障診斷。吳春志等[15]使用一維卷積網(wǎng)絡(luò)進(jìn)行齒輪箱的故障診斷方法并取得了高于傳統(tǒng)方法的診斷效果。上述方法都是使用單一尺度卷積核的一維卷積神經(jīng)網(wǎng)絡(luò),造成了信息易在池化層產(chǎn)生丟失現(xiàn)象[16]。

綜上所述,為了解決使用深度學(xué)習(xí)需要使用預(yù)提取的特征作為輸入,以及使用單一尺度卷積核的一維卷積神經(jīng)網(wǎng)絡(luò)易在池化層丟失部分信息的問題。提出一種一維多尺度卷積層對(duì)信號(hào)進(jìn)行特征提取,然后由全連接層實(shí)現(xiàn)分類識(shí)別的一維多尺度卷積神經(jīng)網(wǎng)絡(luò)的滾動(dòng)軸承故障診斷方法。

1 一維卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)是屬于深度學(xué)習(xí)中的一種模型,因其能夠從數(shù)據(jù)中學(xué)習(xí)并提取深度特征信息并且在圖像識(shí)別領(lǐng)域具有強(qiáng)大的泛化能力而有名。而一維卷積神經(jīng)網(wǎng)絡(luò)則是使用一維卷積核來實(shí)現(xiàn)卷積操作的卷積神經(jīng)網(wǎng)絡(luò)。一維卷積神經(jīng)網(wǎng)絡(luò)的卷積運(yùn)算部分[17]一般由一維卷積層和池化層構(gòu)成,而后連接一個(gè)全連接層來實(shí)現(xiàn)最后分類結(jié)果的輸出,為避免模型產(chǎn)生過擬合現(xiàn)象,還可在全連接層間添加Dropout層。

1.1 一維卷積層

一維卷積神經(jīng)網(wǎng)絡(luò)中的核心是一維卷積運(yùn)算。在某個(gè)卷積層上通過多個(gè)卷積核對(duì)上層輸出的激活值進(jìn)行卷積后加上偏置,然后經(jīng)過一個(gè)激活函數(shù)即可得到下一層的激活值,這個(gè)過程的表達(dá)式為

(1)

假設(shè)輸入大小為n×1,卷積核大小為m×1,卷積核個(gè)數(shù)為a,移動(dòng)步長為s,則輸入大小為c×a,其中c=(n-m)/s+1。不使用激活函數(shù)的卷積運(yùn)算過程見圖1。

圖1 不使用激活函數(shù)的卷積運(yùn)算

1.2 池化層

池化層負(fù)責(zé)將上層卷積層輸出的激活值進(jìn)行降維,不僅可以減少神經(jīng)網(wǎng)絡(luò)計(jì)算的數(shù)據(jù)量,還能一定程度上維持激活值的特征尺度不變性。池化方法主要有最大值池化和平均池化,最大值池化即選擇池化窗口中的最大值為輸出,平均值池化即輸入池化窗口中值的平均值。設(shè)輸出池化層的m×1 維矩陣X=[x1,x2,…,xm]T, 池化窗口大小為s,則池化之后輸出的數(shù)據(jù)為n×1維矩陣Y=[y1,y2,…,ym]T,輸入長度m和輸出長度n的關(guān)系為

(2)

式中“? 」”表示向下取整,即池化操作可以使輸入矩陣尺寸變小。池化方法主要分為平均池化和最大池化兩種。平均池化輸出池化窗口內(nèi)的平均值,最大池化輸出池化窗口內(nèi)的最大值。池化運(yùn)算過程見圖2。

圖2 池化運(yùn)算

1.3 Dropout層

Dropout層中隨機(jī)將上層某個(gè)神經(jīng)元的輸出置為零,也就是關(guān)閉了部分神經(jīng)元,這種方法可以強(qiáng)迫神經(jīng)網(wǎng)絡(luò)只能使用部分神經(jīng)元進(jìn)行訓(xùn)練,從而避免神經(jīng)網(wǎng)絡(luò)對(duì)部分神經(jīng)元過于依賴的問題,可以降低模型出現(xiàn)過擬合的概率。Dropout過程表達(dá)式為

Al+1=(Al×D)/keep-prob

(3)

式中：Al+1為Dropout層輸出；Al為進(jìn)行Dropout操作的輸入；D為和Al大小相同,內(nèi)部元素初始為全為1的矩陣，內(nèi)部元素按照keep-prob大小進(jìn)行隨機(jī)置零,若keep-prob為0.8,則表示全1矩陣D中有20%的元素被隨機(jī)置零。為了保證輸入矩陣Al的期望值不變,置零后的A矩陣中的每個(gè)元素還需要除以keep-prob。

1.4 全連接層

輸入數(shù)據(jù)經(jīng)過多個(gè)卷積層和池化層交替?zhèn)鞑ズ?還需要依靠全連接層提取的特征進(jìn)行分類,該層將上層輸出的矩陣降為1×n維矩陣,經(jīng)過Softmax激活函數(shù)輸出該樣本被分為n類中某一類的概率。

2 模型設(shè)計(jì)

2.1 一維多尺度卷積層

滾動(dòng)軸承振動(dòng)信號(hào)往往隨著損傷點(diǎn)的出現(xiàn)而產(chǎn)生非周期沖擊信號(hào),并且滾動(dòng)軸承共振頻率隨著轉(zhuǎn)速而發(fā)生改變[18],這就導(dǎo)致使用單一卷積核進(jìn)行特征提取的卷積網(wǎng)絡(luò)可能會(huì)產(chǎn)生部分特征丟失的現(xiàn)象。同時(shí),不同轉(zhuǎn)速和負(fù)載工況下的滾動(dòng)軸承故障信號(hào)特征不同,單一尺度的卷積核難以應(yīng)對(duì)變工況下的滾動(dòng)軸承故障診斷,若需將算法應(yīng)用到其他工況下的故障診斷時(shí),只能重新進(jìn)行參數(shù)調(diào)試過程。為此,本文中提出一種一維多尺度卷積層(One-dimensional multiscale convolution layer,1D-MCL)來取代常規(guī)卷積網(wǎng)絡(luò)中的單一尺度卷積層,其結(jié)構(gòu)如圖3所示。

圖3 一維多尺度卷積層

該模塊由四支分支構(gòu)成,每只分支所使用的卷積核尺度都和其他卷積核尺度不同,這樣就能從上一層輸出中提取到多尺度的特征,然后將每支分支卷積得到的特征向量進(jìn)行拼接作為下一層的輸入。一維多尺度卷積層中各分支卷積核個(gè)數(shù)如表1所示。

表1 各分支中卷積核個(gè)數(shù)

一維多尺度卷積層運(yùn)算過程為

(4)

2.2 模型結(jié)構(gòu)

本文試驗(yàn)搭建的一維多尺度卷積神經(jīng)網(wǎng)絡(luò)(One-dimensional multiscale convolutional neural network,1D-MCNN)模型由1個(gè)輸入層,2個(gè)卷積層,2個(gè)池化層,3個(gè)一維多尺度卷積層,1個(gè)Dropout層和一個(gè)全連接層構(gòu)成,其結(jié)構(gòu)見圖4。

圖4 試驗(yàn)采用的1d-MCNN模型結(jié)構(gòu)

試驗(yàn)所采用的每個(gè)滾動(dòng)軸承信號(hào)樣本長度都為6 000的一維向量,通過前兩層一維卷積層和一個(gè)最大池化層迅速縮短向量長度同時(shí)增加通道數(shù),然后進(jìn)入3個(gè)堆疊的一維多尺度卷積層進(jìn)一步提取特征,最后使用一個(gè)全局平均池化層,使數(shù)據(jù)通道數(shù)變?yōu)?便于后面全連接層進(jìn)行分類。全局平均池化層和全連接層之間添加一個(gè)Dropout層,避免模型產(chǎn)生過擬合現(xiàn)象。軸承樣本數(shù)據(jù)進(jìn)入神經(jīng)網(wǎng)絡(luò)中的尺寸變化見表2。

表2 神經(jīng)網(wǎng)絡(luò)中數(shù)據(jù)尺寸變化

3 試驗(yàn)分析

3.1 數(shù)據(jù)來源

試驗(yàn)數(shù)據(jù)來自于美國凱斯西儲(chǔ)大學(xué)軸承數(shù)據(jù)中心公開的滾動(dòng)軸承故障振動(dòng)數(shù)據(jù)集[19]。包括電機(jī)在不同負(fù)載下使用加速度傳感器,測(cè)得的驅(qū)動(dòng)端、風(fēng)扇端滾動(dòng)軸承的振動(dòng)信號(hào)。

每種載荷下都含有滾動(dòng)軸承的4種狀態(tài):正常、滾珠故障、內(nèi)圈故障、外圈故障,且每種故障類型都包含3種不同的故障程度,分別為0.177 8 mm損傷直徑、0.355 6 mm損傷直徑和0.533 4 mm損傷直徑。每種載荷下根據(jù)故障類型和損傷直徑的不同，一共有10種狀態(tài)，數(shù)據(jù)集分布情況如表3所示。

表3 試驗(yàn)數(shù)據(jù)集組成

3.2 數(shù)據(jù)擴(kuò)增

為了進(jìn)一步提高模型的泛化能力,需要大量的數(shù)據(jù)來對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。然而受限于種種原因,往往現(xiàn)實(shí)中無法收集到大量的數(shù)據(jù)。為此本文使用了滑動(dòng)窗口數(shù)據(jù)采樣來完成數(shù)據(jù)的擴(kuò)增,以適應(yīng)神經(jīng)網(wǎng)絡(luò)對(duì)大量數(shù)據(jù)的需求。滑動(dòng)窗口數(shù)據(jù)采樣如圖5所示。

圖5 滑動(dòng)窗口數(shù)據(jù)采樣

假如采樣窗口長度為f,采樣窗口移動(dòng)步長為s,數(shù)據(jù)總長度為L,則數(shù)據(jù)數(shù)量n計(jì)算式為。

n=?(L-f)/s」

(5)

原數(shù)據(jù)集中每種載荷下各種故障數(shù)據(jù)長度為120 000,設(shè)置滑動(dòng)采樣窗口長度6 000,步長1 000,則可得每種故障狀態(tài)下的數(shù)據(jù)114組,10種故障狀態(tài)共計(jì)1 140組數(shù)據(jù)。相比單純?cè)O(shè)置6 000長度分割一組數(shù)據(jù)的方法,該方法將數(shù)據(jù)數(shù)量擴(kuò)增了5.7倍。

3.3 試驗(yàn)結(jié)果與分析

3.3.1 不同工況下的診斷結(jié)果

將1d-MCNN學(xué)習(xí)率設(shè)置為0.000 1,Dropout比率設(shè)置為0.3,使用交叉熵?fù)p失函數(shù),并利用Adam梯度下降算法進(jìn)行權(quán)重更新。訓(xùn)練數(shù)據(jù)分為70%和30%兩部分,70%部分?jǐn)?shù)據(jù)用于訓(xùn)練網(wǎng)絡(luò),更新模型權(quán)重參數(shù),剩余30%部分?jǐn)?shù)據(jù)用于評(píng)估模型性能。模型對(duì)不同載荷下的診斷結(jié)果如圖6所示。

圖6 4種載荷樣本訓(xùn)練過程中的Accuracy曲線

由圖6可以看出在4種載荷下的訓(xùn)練出的神經(jīng)網(wǎng)絡(luò)均能在訓(xùn)練集和驗(yàn)證集上達(dá)到接近100%的識(shí)別準(zhǔn)確率。

為了展示1D-MCNN算法對(duì)滾動(dòng)軸承故障的診斷效果,繪制了預(yù)測(cè)載荷為2 hp數(shù)據(jù)集的軸承誤分類矩陣圖。

圖7 滾動(dòng)軸承故障誤分類矩陣

圖7中坐標(biāo)值從0到9分別為表3中的標(biāo)簽編號(hào),代表滾動(dòng)軸承的不同狀態(tài)。陰影中的數(shù)字表示為實(shí)際樣本標(biāo)簽和預(yù)測(cè)樣本標(biāo)簽相符合的個(gè)數(shù)。從圖7中可以看出,測(cè)試的340個(gè)樣本中,除了類別2中有一個(gè)樣本被誤分類至類別3中,其他預(yù)測(cè)樣本的分類結(jié)果均正確?？梢哉f1D-MCNN算法在測(cè)試中取得令人十分滿意的分類結(jié)果。

3.3.2 模型提取特征能力分析

模型若能在小樣本量下依然能取得較好的診斷結(jié)果,說明模型具有從故障信號(hào)中準(zhǔn)確提取故障特征的能力。為了驗(yàn)證模型提取特征的能力,使用了訓(xùn)練集和測(cè)試集劃分比例分別為9∶1、8∶2、7∶3、6∶4和5∶5的數(shù)據(jù)集進(jìn)行測(cè)驗(yàn),其結(jié)果如表4所示。

表4 不同訓(xùn)練集與測(cè)試集比例對(duì)診斷結(jié)果的影響

從表4中可以看出,當(dāng)訓(xùn)練集占比為50%時(shí)診斷準(zhǔn)確率最低,為99.43%,而訓(xùn)練集占比為90%時(shí)診斷準(zhǔn)確率最高,為99.98%。這說明了訓(xùn)練樣本的數(shù)量越多,樣本內(nèi)部蘊(yùn)含的故障特征越具有針對(duì)性,訓(xùn)練出來的模型診斷性能越好。為展示1D-MCL提取特征的能力,采用t-SNE技術(shù)[20]將模型中三層1D-MCL輸入的高維特征映射成二維特征進(jìn)行可視化,可以看出各種故障類型的診斷樣本從圖8a)中可以看出第一層1D-MCL輸出時(shí)還處于無序的分布狀態(tài),而從圖8b)、圖8c)中可以看出經(jīng)過第2個(gè)、第三層1D-MCL模塊處理之后,同一種故障類型的樣本都很好的聚集在一起,而不同的故障類型的樣本則被有效的分離開,這說明1D-MCL層具有良好的故障模式捕捉能力。

圖8 神經(jīng)網(wǎng)絡(luò)中間層輸出降維可視化

3.3.3 與其他算法對(duì)比分析

最后使用了支持向量機(jī)(Support vector machine,SVM)、BP神經(jīng)網(wǎng)絡(luò)和循環(huán)神經(jīng)網(wǎng)絡(luò)(Recursive neural network,RNN)作為對(duì)比。所有模型輸入的均是長度6 000的滾動(dòng)軸承振動(dòng)信號(hào),SVM采用高斯核函數(shù),懲罰參數(shù)30,gamma取0.001;BP網(wǎng)絡(luò)設(shè)置神經(jīng)元數(shù)量為3 000和1 000的兩層中間層,使用Softmax分類器;RNN網(wǎng)絡(luò)使用神經(jīng)元數(shù)量分別為500、200、50的三層門循環(huán)單元(Gated recurrent unit,GRU)中間層,其各個(gè)模型的診斷效果如表5所示。從表5可以看出,除1D-MCNN以外,其他方法在不同載荷下的診斷效果有著較大的偏差,不能適應(yīng)不同工況下的診斷工作,如使用同一參數(shù)進(jìn)行訓(xùn)練的RNN用來進(jìn)行診斷時(shí),0載荷下的診斷正確率為85.29%,而3 hp下的診斷正確率卻高達(dá)99.41%,若要使RNN在其他載荷下也取得較好的診斷效果則需要反復(fù)多次的進(jìn)行參數(shù)調(diào)整。而無論在何種載荷下,無需進(jìn)行參數(shù)調(diào)整的1D-MCNN的診斷精度都在99%以上,說明了1d-MCNN具有能夠在不同工況下進(jìn)行診斷的適應(yīng)性。

表5 不同模型的滾動(dòng)軸承故障診斷結(jié)果

4 結(jié)論

針對(duì)軸承振動(dòng)信號(hào)一維性的特點(diǎn),傳統(tǒng)一維卷積網(wǎng)絡(luò)使用單一尺度卷積核提取特征可能會(huì)造成特征丟失的問題,提出了一種一維多尺度卷積層,設(shè)計(jì)了使用一維多尺度卷積層進(jìn)行特征提取的一維多尺度卷積神經(jīng)網(wǎng)絡(luò)。實(shí)現(xiàn)了軸承故障特征的自動(dòng)提取,擺脫了傳統(tǒng)深度學(xué)習(xí)方法依靠預(yù)提取特征輸入的依賴。試驗(yàn)表明,本文所使用方法對(duì)于不同載荷下的滾動(dòng)軸承均能準(zhǔn)確診斷出其故障位置和故障程度,且準(zhǔn)確率優(yōu)于常見診斷方法。通過可視化分析

一維多尺度卷積層的輸出可以看出本文提出的一維多尺度卷積層具有良好的特征提取能力,因此其故障診斷正確率更高。以上試驗(yàn)和結(jié)果表明,本文方法對(duì)滾動(dòng)軸承故障診斷具有一定的實(shí)用價(jià)值,是大數(shù)據(jù)環(huán)境下滾動(dòng)軸承故障診斷的一個(gè)可行的方案。