改進(jìn)孿生網(wǎng)絡(luò)在小樣本軸承故障診斷中的應(yīng)用

趙曉平，彭 澎，張永宏，張中洋

1.南京信息工程大學(xué) 計(jì)算機(jī)與軟件學(xué)院，南京 210044

2.南京信息工程大學(xué) 數(shù)字取證教育部工程研究中心，南京 210044

3.南京信息工程大學(xué) 自動(dòng)化學(xué)院，南京 210044

滾動(dòng)軸承是旋轉(zhuǎn)機(jī)械設(shè)備中的關(guān)鍵零部件，被廣泛應(yīng)用于航空航天、軌道交通和工業(yè)生產(chǎn)等領(lǐng)域，一旦發(fā)生故障將直接影響整個(gè)設(shè)備的正常運(yùn)行，輕則給企業(yè)造成經(jīng)濟(jì)損失，重則引發(fā)事故，威脅生命安全。因此，準(zhǔn)確識(shí)別滾動(dòng)軸承的故障狀態(tài)對(duì)于監(jiān)測(cè)機(jī)械設(shè)備健康，及時(shí)排除安全隱患至關(guān)重要。

故障特征提取是智能故障診斷的關(guān)鍵環(huán)節(jié)，許多研究采用先進(jìn)的信號(hào)處理方法來(lái)進(jìn)行故障特征提取。莫代一等[1]將基于信號(hào)共振稀疏分解方法應(yīng)用到滾動(dòng)軸承故障診斷中；Lei等[2]提出自適應(yīng)雙穩(wěn)態(tài)隨機(jī)共振方法來(lái)診斷行星齒輪箱早期故障；譙自健等[3]提出非對(duì)稱勢(shì)誘導(dǎo)隨機(jī)共振的機(jī)械重復(fù)瞬態(tài)特征增強(qiáng)方法，準(zhǔn)確增強(qiáng)與提取出隱含在機(jī)械監(jiān)測(cè)信號(hào)中的微弱重復(fù)瞬態(tài)特征。近年來(lái)，大量學(xué)者將支持向量機(jī)（support vector machine，SVM）[4-5]、長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)（long short-term memory，LSTM）[6-7]和卷積神經(jīng)網(wǎng)絡(luò)（convolutional neural network，CNN）[8-9]等神經(jīng)網(wǎng)絡(luò)方法應(yīng)用于滾動(dòng)軸承的狀態(tài)監(jiān)測(cè)[10]，并取得了較好的診斷效果，然而這類方法過(guò)于依賴大量的訓(xùn)練數(shù)據(jù)。在生產(chǎn)實(shí)踐中，由于各種客觀因素的限制，有時(shí)無(wú)法采集到充足的軸承故障信號(hào)。導(dǎo)致常用的深度學(xué)習(xí)模型難以得到充分訓(xùn)練，從而引起診斷準(zhǔn)確率低和泛化性差等問(wèn)題。因此，研究一種小樣本條件下的滾動(dòng)軸承故障診斷方法，不僅可以在有限的訓(xùn)練數(shù)據(jù)下實(shí)現(xiàn)對(duì)設(shè)備健康狀態(tài)的準(zhǔn)確識(shí)別，對(duì)于緩解實(shí)際工業(yè)中軸承故障信號(hào)采集困難，降低人力、物力的投入也具有重大意義。

小樣本學(xué)習(xí)[11]理論近年來(lái)引起了廣泛的研究，針對(duì)故障診斷領(lǐng)域的小樣本識(shí)別問(wèn)題，研究者們主要從數(shù)據(jù)增強(qiáng)、遷移學(xué)習(xí)和度量學(xué)習(xí)等方面進(jìn)行研究[12]。呂楓等[13]提出一種基于深度嵌入關(guān)系空間下齒輪箱標(biāo)記樣本擴(kuò)充的半監(jiān)督故障診斷方法，通過(guò)對(duì)有標(biāo)記樣本集進(jìn)行擴(kuò)充來(lái)提高關(guān)系網(wǎng)絡(luò)的泛化能力，在4%標(biāo)記樣本條件下，能夠?qū)崿F(xiàn)98.59%的分類準(zhǔn)確率。Hu 等[14]使用階次跟蹤和重采樣方法處理不同轉(zhuǎn)速的軸承數(shù)據(jù)，在6種跨工況情況下的平均準(zhǔn)確率遠(yuǎn)好于傳統(tǒng)的SVM 方法。此外，張西寧等[15]、張根保等[16]、Li 等[17]均采用遷移學(xué)習(xí)方法，將模型在源域上學(xué)習(xí)到的知識(shí)遷移至目標(biāo)域，使得在僅有少量目標(biāo)數(shù)據(jù)的情況下也能取得很高的診斷準(zhǔn)確率。度量學(xué)習(xí)方面，朱瑞金等[18]提出一種小樣本條件下基于卷積孿生網(wǎng)絡(luò)的變壓器故障診斷方法，故障分類準(zhǔn)確率可以達(dá)到83.2%。余浩帥等[19]設(shè)計(jì)了一種混合自注意力模塊并與原型網(wǎng)絡(luò)相結(jié)合來(lái)解決小樣本情況下的故障診斷問(wèn)題，所提方法在20個(gè)和100個(gè)訓(xùn)練樣本下分別能達(dá)到83.15%和92.88%的準(zhǔn)確率。上述方法雖然在一定程度上提高了小樣本下的故障診斷性能，但仍存在諸多問(wèn)題。例如數(shù)據(jù)增強(qiáng)方法有可能會(huì)引入噪聲數(shù)據(jù)，且生成模型往往難以訓(xùn)練；遷移學(xué)習(xí)方法需要大量的源域數(shù)據(jù)作為輔助，遷移效果依賴于目標(biāo)域和源域的相近程度和遷移策略的選擇；而度量學(xué)習(xí)僅通過(guò)簡(jiǎn)單的距離度量，在訓(xùn)練樣本很少的情況下準(zhǔn)確率較低，但由于其計(jì)算簡(jiǎn)單、便于操作，應(yīng)用相對(duì)較多。

孿生網(wǎng)絡(luò)[20]是一種基于相似性度量的小樣本學(xué)習(xí)方法，其結(jié)構(gòu)簡(jiǎn)單，容易訓(xùn)練，已經(jīng)在人臉識(shí)別[21]、語(yǔ)音處理[22]和簽名驗(yàn)證[23]等領(lǐng)域取得巨大成效。但在很多情況下，模型效果依賴特征質(zhì)量的好壞和度量方式的選擇，且在測(cè)試時(shí)需要將待測(cè)樣本與訓(xùn)練樣本逐個(gè)配對(duì)來(lái)計(jì)算相似度。鑒于此，本文針對(duì)小樣本條件下傳統(tǒng)深度神經(jīng)網(wǎng)絡(luò)方法診斷準(zhǔn)確率低、易產(chǎn)生過(guò)擬合的問(wèn)題，提出了改進(jìn)的孿生神經(jīng)網(wǎng)絡(luò)（improved siamese neural network，ⅠSNN）軸承故障診斷模型。與改進(jìn)前相比，本文方法優(yōu)勢(shì)如下：

（1）在標(biāo)準(zhǔn)孿生網(wǎng)絡(luò)的基礎(chǔ)上加入了分類分支，使模型在計(jì)算樣本相似度的同時(shí)，也能直接對(duì)樣本進(jìn)行預(yù)測(cè)分類，避免了模型測(cè)試時(shí)對(duì)數(shù)據(jù)進(jìn)行逐個(gè)配對(duì)計(jì)算；此外，標(biāo)準(zhǔn)孿生網(wǎng)絡(luò)只用到了樣本間的相似度標(biāo)簽信息，而分類分支有效利用了每個(gè)樣本自身的類別標(biāo)簽信息，在模型訓(xùn)練時(shí)能起到更好的約束作用。

（2）在特征提取環(huán)節(jié)，將采集到的時(shí)域信號(hào)數(shù)據(jù)和變換后的頻域數(shù)據(jù)共同輸入模型，同時(shí)利用LSTM 和CNN 提取出故障信號(hào)的時(shí)間和空間特征，從而實(shí)現(xiàn)對(duì)有限樣本的信息充分利用。

（3）用神經(jīng)網(wǎng)絡(luò)度量替換固定距離的度量方式，使模型自適應(yīng)地根據(jù)學(xué)習(xí)到的特征調(diào)整度量方式；同時(shí)為了減少網(wǎng)絡(luò)參數(shù)，緩解模型過(guò)擬合問(wèn)題，在度量網(wǎng)絡(luò)和分類網(wǎng)絡(luò)中使用全局均值池化層。

1 理論基礎(chǔ)

1.1 小樣本診斷問(wèn)題描述

小樣本學(xué)習(xí)的概念最早是從計(jì)算機(jī)視覺(jué)領(lǐng)域興起的[24]，按照訓(xùn)練樣本的多少可以將小樣本學(xué)習(xí)分為三類：（1）只有一個(gè)訓(xùn)練樣本，被稱為單樣本學(xué)習(xí)；（2）不存在目標(biāo)訓(xùn)練樣本，被稱為零樣本學(xué)習(xí)；（3）有數(shù)10 個(gè)訓(xùn)練樣本，被稱為小樣本學(xué)習(xí)[25]。文獻(xiàn)[12]指出，小樣本學(xué)習(xí)的樣本數(shù)量通常小于20。對(duì)于一個(gè)小樣本分類任務(wù)，其目標(biāo)是在給定少量訓(xùn)練樣本的條件下，如何訓(xùn)練一個(gè)可以有效識(shí)別待測(cè)樣本的機(jī)器學(xué)習(xí)模型。

不同于計(jì)算機(jī)視覺(jué)領(lǐng)域中嚴(yán)格意義上的小樣本識(shí)別問(wèn)題，查閱了大量小樣本故障診斷的文獻(xiàn)后發(fā)現(xiàn)，研究者們對(duì)樣本數(shù)量的限定從幾十個(gè)到幾百個(gè)不等。因此，本文重點(diǎn)研究了100 個(gè)樣本以內(nèi)的軸承故障診斷問(wèn)題。假設(shè)獲取到的滾動(dòng)軸承故障監(jiān)測(cè)數(shù)據(jù)集為，其中Ns為訓(xùn)練樣本個(gè)數(shù)，yi∈γ為樣本的類別標(biāo)簽，γ∈{1,2,…,k} 是標(biāo)簽集合，共有k個(gè)故障類別。對(duì)于待測(cè)軸承樣本集合，這里的目的是設(shè)計(jì)出一個(gè)性能優(yōu)秀的故障診斷模型，從而實(shí)現(xiàn)對(duì)待測(cè)軸承信號(hào)xj的準(zhǔn)確預(yù)測(cè)。

1.2 孿生網(wǎng)絡(luò)

孿生網(wǎng)絡(luò)的主要思想是使同一類的樣本在嵌入空間中彼此接近，不同類別的樣本彼此遠(yuǎn)離。在進(jìn)行小樣本分類時(shí)，通過(guò)計(jì)算待測(cè)樣本和已知標(biāo)簽樣本之間的距離，找到最鄰近類別來(lái)確定最終的分類結(jié)果。

孿生網(wǎng)絡(luò)使用兩個(gè)權(quán)值共享的子網(wǎng)絡(luò)同時(shí)接收兩個(gè)輸入樣本，輸出結(jié)果為兩個(gè)樣本的相似度[26]。其結(jié)構(gòu)如圖1 所示，模型首先將兩個(gè)樣本(X1,X2)映射到低維特征空間，然后計(jì)算兩個(gè)特征向量之間的歐式距離d(X1,X2)，通過(guò)距離來(lái)衡量樣本之間的相似性程度。

圖1 孿生網(wǎng)絡(luò)結(jié)構(gòu)Fig.1 Structure of siamese network

由圖1 可知，孿生網(wǎng)絡(luò)的輸入是一對(duì)樣本，輸出是它們之間的相似度。當(dāng)兩個(gè)樣本屬于相同類別時(shí)，相似度趨近于1；當(dāng)兩個(gè)樣本屬于不同類別時(shí)，相似度趨近于0。孿生網(wǎng)絡(luò)采用對(duì)比損失函數(shù)來(lái)優(yōu)化模型的訓(xùn)練目標(biāo)，如式（1）所示：

式中，X表示輸入樣本，Y是樣本的相似度標(biāo)簽，Y=1代表兩個(gè)樣本相似，如果在特征空間的歐氏距離較大，反而說(shuō)明當(dāng)前模型效果不好，此時(shí)會(huì)增加損失；Y=0 代表兩個(gè)樣本不相似，如果兩個(gè)樣本在特征空間的歐氏距離反而小的話，損失值也會(huì)變大，m為設(shè)定的閾值，‖ ? ‖2表示特征之間的二范數(shù)，即歐式距離。

2 ISNN故障診斷模型與診斷流程

本文分析了傳統(tǒng)孿生網(wǎng)絡(luò)的優(yōu)缺點(diǎn)，通過(guò)引入分類網(wǎng)絡(luò)構(gòu)建出改進(jìn)的ⅠSNN 故障診斷模型，然后設(shè)計(jì)一個(gè)基于ⅠSNN的診斷流程以實(shí)現(xiàn)小樣本條件下的滾動(dòng)軸承故障診斷。

2.1 ISNN模型框架

由于本文算法是在小樣本條件下進(jìn)行的，因此需充分利用每個(gè)訓(xùn)練樣本的信息，且對(duì)網(wǎng)絡(luò)設(shè)計(jì)不宜過(guò)深。標(biāo)準(zhǔn)的孿生網(wǎng)絡(luò)采用歐式距離作為度量函數(shù)，度量效果取決于前期的特征提取質(zhì)量，在模型測(cè)試時(shí)需要進(jìn)行繁瑣的樣本比對(duì)。為了使模型能更加靈活地進(jìn)行故障分類，充分利用有限的樣本信息，以孿生網(wǎng)絡(luò)為主干模型，在此基礎(chǔ)上加入了分類分支，并根據(jù)軸承數(shù)據(jù)的特點(diǎn)重新設(shè)計(jì)了特征提取和距離度量部分，從而提出的ⅠSNN軸承故障診斷模型包含特征提取網(wǎng)絡(luò)、關(guān)系度量網(wǎng)絡(luò)和故障分類網(wǎng)絡(luò)三個(gè)部分，其結(jié)構(gòu)如圖2所示。

圖2 ⅠSNN模型結(jié)構(gòu)圖Fig.2 Structure diagram of ⅠSNN model

2.1.1 特征提取網(wǎng)絡(luò)

本文搭建的特征提取網(wǎng)絡(luò)由兩個(gè)結(jié)構(gòu)和參數(shù)完全相同的子模塊組成，其輸入是一對(duì)故障樣本(Xi,Xj)。為了使訓(xùn)練樣本中包含更多的特征信息，在數(shù)據(jù)預(yù)處理時(shí)將切分后的時(shí)域信號(hào)（長(zhǎng)度為2 000）進(jìn)行快速傅里葉變換（fast Fourier transform，F(xiàn)FT），得到對(duì)應(yīng)的頻域數(shù)據(jù)，然后把二者拼接成單個(gè)樣本（長(zhǎng)度為4 000）。相比于常用的時(shí)頻圖輸入，本文方法通過(guò)簡(jiǎn)單拼接信號(hào)，保持了信號(hào)的一維特性，每個(gè)樣本中既包含了未處理的原始時(shí)域信息，也包含了變換后的頻譜信息。而時(shí)頻圖雖然能同時(shí)反映信號(hào)的時(shí)間與頻率信息，但其丟棄了信號(hào)的原本特征信息，且在變換過(guò)程中需要人為設(shè)置固定參數(shù)，自適應(yīng)性不足，也會(huì)有信息損失。此外，本文將一維數(shù)據(jù)輸入模型，使得在后續(xù)的卷積、池化等步驟中僅需采用一維操作，與二維卷積相比能夠減小模型參數(shù)。數(shù)據(jù)處理的具體步驟如圖3所示。

圖3 樣本處理步驟Fig.3 Sample processing steps

每個(gè)特征提取子模塊中首先利用兩個(gè)LSTM層（即圖2中的L1、L2）提取故障樣本的時(shí)間信息，然后通過(guò)卷積層C1 進(jìn)一步提取空間信息，而常規(guī)的特征提取模型一般僅采用堆疊CNN 的方式進(jìn)行特征提取。LSTM是循環(huán)神經(jīng)網(wǎng)絡(luò)的變體，可以緩解訓(xùn)練中的梯度消失現(xiàn)象[27]，常被應(yīng)用于時(shí)序性數(shù)據(jù)的分類和預(yù)測(cè)問(wèn)題，其模型結(jié)構(gòu)如圖4所示。

圖4 LSTM結(jié)構(gòu)示意圖Fig.4 Structure schematic diagram of LSTM

LSTM的最小細(xì)胞單元包括遺忘門、輸入門和輸出門三個(gè)部分，它們決定了樣本中的哪些信息應(yīng)該被丟棄、存儲(chǔ)和輸出，其計(jì)算方法如式（2）~（4）所示：

式中，σ是激活函數(shù)，輸出范圍是0~1，ω和b表示權(quán)重和偏置，ht-1是前一個(gè)單元的輸出，xt是當(dāng)前輸入。

本文將樣本維度重塑為40×100輸入LSTM，經(jīng)過(guò)卷積后尺寸變?yōu)?6×332。在卷積層后接入一個(gè)最大值池化層P1 對(duì)卷積結(jié)果進(jìn)行下采樣，將特征減小至16×110并輸出到下一環(huán)節(jié)。此外，本文將訓(xùn)練樣本以成對(duì)的方式輸入ⅠSNN 模型，可以極大增加模型的訓(xùn)練次數(shù)。假設(shè)有n個(gè)故障樣本，每次向模型輸入一對(duì)樣本，則一共可以進(jìn)行C2n次有效訓(xùn)練。

2.1.2 關(guān)系度量網(wǎng)絡(luò)

關(guān)系度量網(wǎng)絡(luò)的作用是將輸入的兩個(gè)特征向量f(Xi)和f(Xj)映射為相似度概率，當(dāng)兩個(gè)樣本相似時(shí)，輸出概率為1，當(dāng)兩個(gè)樣本不相似時(shí)，輸出概率為0。常用的固定度量方式過(guò)于依賴特征提取網(wǎng)絡(luò)學(xué)習(xí)到的特征嵌入空間質(zhì)量，本文利用神經(jīng)網(wǎng)絡(luò)來(lái)度量特征間的相似度關(guān)系，將其與特征提取網(wǎng)絡(luò)聯(lián)合訓(xùn)練，自適應(yīng)地根據(jù)輸入的特征調(diào)整度量方式。

由圖2 的ⅠSNN 模型結(jié)構(gòu)可知，關(guān)系度量網(wǎng)絡(luò)首先通過(guò)卷積層C2 和C3 對(duì)輸入的兩個(gè)維度為16×110的特征向量f(Xi)和f(Xj)進(jìn)行處理，輸出為16×26 的特征圖。為了減少模型參數(shù)，緩解過(guò)擬合問(wèn)題，本文采用全局均值池化（global average pooling，GAP）[28]即P2 代替多層全連接。GAP 的基本思想是計(jì)算每個(gè)特征圖的平均值，并用它來(lái)代替整個(gè)特征圖，且該過(guò)程不會(huì)產(chǎn)生需要優(yōu)化的參數(shù)。如圖5 展示了采用普通全連接方法和采用GAP方法的計(jì)算量對(duì)比。

圖5 全連接層和全局均值池化對(duì)比Fig.5 Comparison of full connection layer and global mean pooling

從圖5 可以看出，如果使用全連接方法將16 個(gè)26維的特征圖映射成相似度值，共需要416 次參數(shù)計(jì)算，而GAP 方法只需要16 次運(yùn)算。在網(wǎng)絡(luò)最后利用Sigmoid 激活函數(shù)把相似度值變換到[0，1]中，計(jì)算相似度值的方法如式（5）所示：

式中，Ri,j表示第i個(gè)樣本和第j個(gè)樣本之間的相似度值，g(?)表示將特征向量映射為相似度值的關(guān)系函數(shù)，f(?)表示特征提取網(wǎng)絡(luò)的輸出，Sigmoid是激活函數(shù)。

為了準(zhǔn)確地度量易混淆類樣本之間的相似度，定義了帶權(quán)重的相似性損失函數(shù)，根據(jù)不同故障類之間區(qū)分的難易程度增加了懲罰系數(shù)，在容易混淆的故障類之間增大誤判損失，損失函數(shù)如式（6）所示：

式中，LS表示相似度損失，Yi,j表示兩個(gè)樣本間的相似度標(biāo)簽，αi,j表示樣本i和樣本j屬于不同故障種類時(shí)的懲罰系數(shù)。當(dāng)兩個(gè)樣本不相似時(shí)，如果網(wǎng)絡(luò)輸出的Ri,j值不趨近于0，便給αi,j賦予較大數(shù)值來(lái)增加損失。

2.1.3 故障分類網(wǎng)絡(luò)

由于關(guān)系度量網(wǎng)絡(luò)只用到了樣本的相似度標(biāo)簽，且只能判斷成對(duì)樣本的相似性，無(wú)法直接對(duì)待測(cè)數(shù)據(jù)進(jìn)行分類，因此本文在ⅠSNN 模型中引入了分類網(wǎng)絡(luò)。設(shè)計(jì)的故障分類網(wǎng)絡(luò)能夠利用每個(gè)樣本自身的類別標(biāo)簽信息進(jìn)行監(jiān)督學(xué)習(xí)，可以直接預(yù)測(cè)出其屬于哪個(gè)故障類別，增加了模型的靈活性。如圖2 所示，故障分類網(wǎng)絡(luò)與關(guān)系度量網(wǎng)絡(luò)結(jié)構(gòu)類似，首先利用卷積層C4 和C5將尺寸為16×110的特征向量映射為16×26的低維特征，然后通過(guò)全局均值池化層P3 以及全連接層F2 輸出為5 種類別，最后在網(wǎng)絡(luò)尾部使用Softmax 激活函數(shù)輸出各個(gè)故障類的預(yù)測(cè)概率。網(wǎng)絡(luò)訓(xùn)練時(shí)將兩個(gè)樣本特征f(Xi)、f(Xj)輸入故障分類網(wǎng)絡(luò)分別進(jìn)行預(yù)測(cè)，而在測(cè)試階段只需要輸入一個(gè)待測(cè)樣本。本文使用均方誤差作為分類網(wǎng)絡(luò)的損失函數(shù)，如式（7）所示：

式中，LC表示分類損失，Y(?)表示樣本的故障類別標(biāo)簽，y(?)表示網(wǎng)絡(luò)的預(yù)測(cè)標(biāo)簽，它的計(jì)算方法如式（8）所示：

式中，h(?)是分類網(wǎng)絡(luò)的輸出，Softmax是激活函數(shù)。

在ⅠSNN 故障診斷模型中，特征提取網(wǎng)絡(luò)主要是對(duì)輸入樣本(Xi,Xj)進(jìn)行初步特征提??；關(guān)系度量網(wǎng)絡(luò)利用相似度信息對(duì)網(wǎng)絡(luò)訓(xùn)練進(jìn)行約束，使同類樣本的特征距離變近，不同類樣本的特征距離變遠(yuǎn)；分類網(wǎng)絡(luò)則是完成最后的故障樣本分類任務(wù)。三個(gè)網(wǎng)絡(luò)相互約束，在小樣本條件下充分利用了故障數(shù)據(jù)的時(shí)域信息、頻域信息、標(biāo)簽信息和樣本的相似度信息，將度量學(xué)習(xí)思想應(yīng)用到分類問(wèn)題中，且整個(gè)模型采用了較淺的網(wǎng)絡(luò)結(jié)構(gòu)，有效控制了參數(shù)量大小。在模型訓(xùn)練時(shí)，同時(shí)優(yōu)化相似度損失LS和分類損失LC，將二者合并，得到模型最終的損失函數(shù)如式（9）所示：

2.2 故障診斷流程

本文在提出的ⅠSNN 模型基礎(chǔ)上，設(shè)計(jì)了一個(gè)滾動(dòng)軸承故障診斷流程，具體包含數(shù)據(jù)預(yù)處理、ⅠSNN模型訓(xùn)練和故障診斷三個(gè)步驟，如圖6所示。

圖6 滾動(dòng)軸承故障診斷流程Fig.6 Process of rolling bearing fault diagnosis

（1）數(shù)據(jù)預(yù)處理

本文利用加速度傳感器從故障診斷實(shí)驗(yàn)臺(tái)采集滾動(dòng)軸承的振動(dòng)信號(hào)，將所采集故障信號(hào)的前半部分作為訓(xùn)練集，后半部分作為測(cè)試集。然后按照每2 000 個(gè)點(diǎn)為一段切分信號(hào)，并對(duì)切分后的每一段信號(hào)進(jìn)行FFT變換得到對(duì)應(yīng)的頻域數(shù)據(jù)，將變換前后的數(shù)據(jù)進(jìn)行串聯(lián)拼接得到每個(gè)樣本。

（2）ⅠSNN模型訓(xùn)練

首先對(duì)搭建好的ⅠSNN 模型進(jìn)行參數(shù)初始化，每次從訓(xùn)練集中隨機(jī)挑選出兩個(gè)故障樣本組成樣本對(duì)共同輸入模型，逐步訓(xùn)練特征提取網(wǎng)絡(luò)、關(guān)系度量網(wǎng)絡(luò)和故障分類網(wǎng)絡(luò)。通過(guò)多次迭代最小化損失函數(shù)，并利用反向傳播算法不斷優(yōu)化模型參數(shù)。當(dāng)達(dá)到設(shè)定的最大訓(xùn)練次數(shù)后，保存模型參數(shù)。

（3）故障診斷

進(jìn)行軸承故障診斷時(shí)，將測(cè)試集樣本輸入已經(jīng)訓(xùn)練好的特征提取網(wǎng)絡(luò)得到低維特征向量，然后通過(guò)分類網(wǎng)絡(luò)輸出故障診斷結(jié)果。

3 實(shí)驗(yàn)與分析

3.1 實(shí)驗(yàn)數(shù)據(jù)

為了驗(yàn)證本文提出算法的具體效果，從動(dòng)力傳動(dòng)故障診斷試驗(yàn)臺(tái)（drivertrain diagnostics simulator，DDS）采集5種不同健康狀態(tài)的軸承振動(dòng)信號(hào)作為實(shí)驗(yàn)數(shù)據(jù)，分別為正常狀態(tài)、滾動(dòng)體故障、內(nèi)圈故障、外圈故障和復(fù)合故障（滾動(dòng)體、內(nèi)圈和外圈均發(fā)生損傷）。試驗(yàn)臺(tái)的結(jié)構(gòu)如圖7所示，主要由驅(qū)動(dòng)電機(jī)、齒輪箱、制動(dòng)器和負(fù)載等部分組成。圖8為除正常狀態(tài)外的4種故障軸承的實(shí)物展示，紅色框內(nèi)標(biāo)注的字母表示軸承所屬的故障類型。

圖7 動(dòng)力傳動(dòng)故障診斷試驗(yàn)臺(tái)Fig.7 Drivertrain diagnostics simulator

圖8 軸承的4種故障狀態(tài)Fig.8 Four fault states of bearing

為了模擬工程實(shí)際中有時(shí)難以采集到多種工況下豐富的故障數(shù)據(jù)，實(shí)驗(yàn)僅采集了一種工況的軸承故障信號(hào)作為訓(xùn)練數(shù)據(jù)。設(shè)置電機(jī)轉(zhuǎn)速為1 700 r/min，負(fù)載電壓為4 V，使用單向加速度傳感器獲取振動(dòng)信號(hào)，采樣頻率設(shè)置為20 kHz，僅采樣20 s。每種故障軸承的振動(dòng)信號(hào)文件中共包含409 600 個(gè)采樣點(diǎn)，將前10 s 的數(shù)據(jù)作為訓(xùn)練集，后10 s數(shù)據(jù)作為測(cè)試集。本文對(duì)采集到的軸承信號(hào)按照每2 000 點(diǎn)為一段進(jìn)行不重疊切分，最終每類故障得到100個(gè)訓(xùn)練樣本和100個(gè)測(cè)試樣本。為了研究不同數(shù)量的故障樣本對(duì)ⅠSNN 模型效果的影響，從每類100個(gè)訓(xùn)練樣本中分別隨機(jī)挑選了10個(gè)、20個(gè)、50個(gè)樣本構(gòu)造了4 種訓(xùn)練集。此外，為了后續(xù)驗(yàn)證ⅠSNN 的泛化性能，采集了另外兩種工況的故障信號(hào)用來(lái)測(cè)試模型效果。一種工況與訓(xùn)練數(shù)據(jù)的工況相近（電機(jī)轉(zhuǎn)速1 700 r/min，負(fù)載電壓8 V），另一種工況與訓(xùn)練數(shù)據(jù)的工況差別較大（電機(jī)轉(zhuǎn)速3 400 r/min，負(fù)載電壓8 V）。測(cè)試數(shù)據(jù)的采樣時(shí)間為10 s，樣本切分方式與之前相同。本文所用數(shù)據(jù)集的劃分如表1所示。

表1 實(shí)驗(yàn)數(shù)據(jù)集Table 1 Experimental datasets

3.2 實(shí)驗(yàn)參數(shù)設(shè)置

實(shí)驗(yàn)平臺(tái)為i7-4790 CPU，英偉達(dá)GTX1050Ti，python3.7，Pytorch1.3。實(shí)驗(yàn)中采用Adam算法優(yōu)化模型參數(shù)，Batch-size設(shè)置為50，學(xué)習(xí)率設(shè)置為0.002，最大迭代輪數(shù)為500次。本文所提ⅠSNN模型的參數(shù)設(shè)置如表2 所示，輸入網(wǎng)絡(luò)前需要將故障信號(hào)調(diào)整為40×100 維度，其中40 表示LSTM 的單時(shí)序輸入尺寸，100 表示輸入的時(shí)序總數(shù)。表2中，一維卷積的參數(shù)分別表示輸入通道、輸出通道、核尺寸、步長(zhǎng)和padding的大小，池化層參數(shù)分別表示池化窗口大小和步長(zhǎng)。

表2 ⅠSNN模型的參數(shù)設(shè)置Table 2 Parameters setting of ⅠSNN

3.3 ISNN算法性能分析

3.3.1 訓(xùn)練樣本數(shù)量對(duì)模型性能的影響

本文的研究目的是提升小樣本條件下的軸承故障診斷準(zhǔn)確率，為了驗(yàn)證不同數(shù)量的訓(xùn)練樣本對(duì)ⅠSNN 模型故障診斷性能的影響，設(shè)置每類訓(xùn)練樣本數(shù)量分別為10、20、50、100 個(gè)，即采用表1 中的訓(xùn)練集A、訓(xùn)練集B、訓(xùn)練集C和訓(xùn)練集D作為訓(xùn)練數(shù)據(jù)，用測(cè)試集1驗(yàn)證模型效果。為了消除實(shí)驗(yàn)結(jié)果的隨機(jī)性，進(jìn)行多次重復(fù)實(shí)驗(yàn)，表3 記錄了測(cè)試結(jié)果的平均準(zhǔn)確率和標(biāo)準(zhǔn)差，具體計(jì)算方法如公式（10）、（11）所示：

表3 ⅠSNN模型在不同訓(xùn)練集下的診斷準(zhǔn)確率Table 3 Diagnosis accuracy of ⅠSNN under different training sets 單位：%

由表3可知，隨著訓(xùn)練樣本數(shù)量的增多，ⅠSNN模型的故障診斷準(zhǔn)確率不斷提高。在每類故障僅有10個(gè)樣本的情況下（訓(xùn)練集A），都能夠獲得83.6±2.6%的診斷準(zhǔn)確率；當(dāng)每類有50 個(gè)訓(xùn)練樣本時(shí)（訓(xùn)練集C），準(zhǔn)確率已經(jīng)超過(guò)95%；當(dāng)訓(xùn)練樣本達(dá)到100個(gè)時(shí)（訓(xùn)練集D），平均準(zhǔn)確率接近99%。此外，診斷準(zhǔn)確率的標(biāo)準(zhǔn)差隨著訓(xùn)練樣本數(shù)量的增多從2.6%逐漸降低到0.6%，模型的訓(xùn)練結(jié)果更加趨于穩(wěn)定。以上結(jié)果表明ⅠSNN模型對(duì)大規(guī)模訓(xùn)練數(shù)據(jù)的依賴性顯著降低，在僅有幾十個(gè)故障樣本情況下仍然能取得較好的診斷效果。

3.3.2 不同特征提取網(wǎng)絡(luò)對(duì)模型性能的影響

為了分析ⅠSNN模型中特征提取網(wǎng)絡(luò)對(duì)故障診斷性能的影響，對(duì)比了4 種不同的特征提取方式，分別為只使用時(shí)域數(shù)據(jù)作為模型輸入，只使用頻域數(shù)據(jù)作為模型輸入，只使用全連接層和只使用一維卷積搭建特征提取網(wǎng)絡(luò)。在不同訓(xùn)練集下測(cè)試了各種特征提取方式的診斷準(zhǔn)確率，結(jié)果如圖9所示。

圖9 不同特征提取方式的診斷準(zhǔn)確率Fig.9 Diagnosis accuracy of different feature extraction methods

從圖9可以看出，直接使用時(shí)域數(shù)據(jù)進(jìn)行模型訓(xùn)練時(shí)（橙色柱），故障診斷效果最差。每類故障有10 個(gè)樣本時(shí)，準(zhǔn)確率僅有43.4%，當(dāng)訓(xùn)練樣本達(dá)到100 個(gè)時(shí)，也只能獲得63.2%的準(zhǔn)確率。與之相比，將頻域數(shù)據(jù)輸入模型進(jìn)行訓(xùn)練（灰色柱），診斷效果得到明顯改善。在10個(gè)訓(xùn)練樣本情況下，準(zhǔn)確率超過(guò)了80%，在100 個(gè)訓(xùn)練樣本情況下準(zhǔn)確率達(dá)到95.2%，比時(shí)域數(shù)據(jù)情況提升了32%，表明在故障診斷中，信號(hào)的頻域信息能為模型提供更多的有效特征。此外，當(dāng)使用不同的網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行特征提取時(shí)，在訓(xùn)練樣本數(shù)量特別少的情況下，卷積結(jié)構(gòu)的特征提取效果（藍(lán)色柱）還不如全連接結(jié)構(gòu)的效果（黃色柱），例如僅有10個(gè)和20個(gè)訓(xùn)練樣本時(shí)，采用卷積結(jié)構(gòu)的準(zhǔn)確率分別比采用全連接結(jié)構(gòu)的準(zhǔn)確率低了4.8個(gè)百分點(diǎn)和2.2 個(gè)百分點(diǎn)。隨著訓(xùn)練樣本數(shù)量的增多，卷積結(jié)構(gòu)的特征提取效果越來(lái)越好，在每類有100個(gè)樣本的情況下，故障診斷準(zhǔn)確率超過(guò)了97%，明顯好于全連接結(jié)構(gòu)，表明了卷積網(wǎng)絡(luò)對(duì)樣本數(shù)量的依賴性。相比之下，采用本文設(shè)計(jì)的特征提取網(wǎng)絡(luò)（綠色柱），即將故障信號(hào)的時(shí)域信息和頻域信息一起輸入模型，并利用LSTM和CNN結(jié)構(gòu)聯(lián)合提取樣本特征，可以取得更好的故障診斷效果，在不同數(shù)量的訓(xùn)練樣本下，都能取得最高的診斷準(zhǔn)確率。

3.3.3 不同關(guān)系度量方式對(duì)模型性能的影響

為了分析ⅠSNN模型中關(guān)系度量網(wǎng)絡(luò)對(duì)故障診斷性能的影響，在本文算法框架下，將網(wǎng)絡(luò)度量方式替換為歐式距離和余弦距離，利用不同的訓(xùn)練數(shù)據(jù)集對(duì)3種方法的效果進(jìn)行了驗(yàn)證，準(zhǔn)確率結(jié)果如圖10所示。

圖10 不同關(guān)系度量方式的診斷準(zhǔn)確率Fig.10 Diagnosis accuracy of different relationship measurement methods

從圖10 可以看出，在本文的算法框架下，3 種關(guān)系度量方式均能取得較高的診斷準(zhǔn)確率，但在各種訓(xùn)練集下也有所差別。具體而言，在每類10 個(gè)訓(xùn)練樣本情況下（訓(xùn)練集A），余弦距離度量方式效果最差（藍(lán)色柱），只有74.8%的準(zhǔn)確率，而本文網(wǎng)絡(luò)度量方式（綠色柱）的準(zhǔn)確率為83.6%，比歐式距離度量方式（橙色柱）高2.2個(gè)百分點(diǎn)。但隨著訓(xùn)練樣本數(shù)量的增多，余弦距離度量方式的效果逐漸好于歐式距離度量方式，當(dāng)每類有100個(gè)訓(xùn)練樣本時(shí)（訓(xùn)練集D），前者的診斷準(zhǔn)確率達(dá)到97.2%，高于后者96.4%的準(zhǔn)確率，此時(shí)網(wǎng)絡(luò)度量方法的準(zhǔn)確率為98.6%，略高于兩種固定的距離度量方式。綜合來(lái)看，在訓(xùn)練樣本量從10 個(gè)增加到100 個(gè)情況下，網(wǎng)絡(luò)度量方法的效果和穩(wěn)定性要好于固定的距離度量方法。

3.4 與其他方法效果對(duì)比

為了進(jìn)一步驗(yàn)證ⅠSNN模型對(duì)小樣本軸承故障診斷的優(yōu)秀效果，選取未改進(jìn)的孿生網(wǎng)絡(luò)、原型網(wǎng)絡(luò)[29]以及文獻(xiàn)[30]中的卷積神經(jīng)網(wǎng)絡(luò)（1D-CNN）、深度置信網(wǎng)絡(luò)（deep belief network，DBN）和自動(dòng)編碼器（auto-encoder，AE）作為對(duì)比方法。實(shí)驗(yàn)分別在4種訓(xùn)練集下對(duì)各個(gè)模型進(jìn)行訓(xùn)練，為了驗(yàn)證模型的泛化性能，采用3 種不同工況的測(cè)試集進(jìn)行測(cè)試。

3.4.1 相同工況下診斷準(zhǔn)確率對(duì)比

表4列出了在不同訓(xùn)練樣本數(shù)量下，各種方法在測(cè)試集1（與訓(xùn)練集工況相同）上的故障診斷準(zhǔn)確率?？梢钥闯?，在訓(xùn)練樣本數(shù)量特別少的情況下（訓(xùn)練集A），1D-CNN 的準(zhǔn)確率最低，不到50%，原型網(wǎng)絡(luò)和孿生網(wǎng)絡(luò)兩種小樣本方法的準(zhǔn)確率也只有60%左右，DBN 方法表現(xiàn)較好，準(zhǔn)確率為76.8%，而本文提出的ⅠSNN方法在每類10個(gè)樣本時(shí)也可以達(dá)到83.6%，遠(yuǎn)高于其他5種方法。當(dāng)每類有50個(gè)訓(xùn)練樣本時(shí)（訓(xùn)練集C），1D-CNN的準(zhǔn)確率明顯提高，達(dá)到88.6%，高于原型網(wǎng)絡(luò)的82.5%和孿生網(wǎng)絡(luò)的75.8%，DBN方法的準(zhǔn)確率為91.8%，但仍然比ⅠSNN 方法低了近5%。當(dāng)訓(xùn)練樣本達(dá)到100 個(gè)時(shí)（訓(xùn)練集D），大部分方法都已表現(xiàn)很好，DBN 和AE 的準(zhǔn)確率分別達(dá)到了97.1%和95.4%，明顯高于原型網(wǎng)絡(luò)和孿生網(wǎng)絡(luò)，與ⅠSNN 方法的差距也變得更小。整體來(lái)看，單一的1D-CNN 模型受訓(xùn)練樣本數(shù)量的影響較大，樣本嚴(yán)重不足時(shí)會(huì)引起模型過(guò)擬合，直接用于小樣本故障診斷效果并不理想。在各對(duì)比方法中，DBN 方法表現(xiàn)最好，改進(jìn)前的孿生網(wǎng)絡(luò)故障診斷效果很差，甚至不如原型網(wǎng)絡(luò)，在100個(gè)訓(xùn)練樣本的情況下，僅有86.7%的準(zhǔn)確率，而改進(jìn)后的ⅠSNN方法準(zhǔn)確率得到顯著提升，診斷效果明顯好于其他幾種對(duì)比方法。

表4 各種方法在測(cè)試集1上的準(zhǔn)確率對(duì)比Table 4 Accuracy comparison of various methods on testing set 1單位：%

為了觀察6種方法對(duì)每類軸承故障的識(shí)別情況，以每類20 個(gè)訓(xùn)練樣本（訓(xùn)練集B）為例，繪制了各種方法在測(cè)試集1 上診斷結(jié)果的混淆矩陣，如圖11 所示。其中橫坐標(biāo)表示預(yù)測(cè)的故障類型，縱坐標(biāo)表示真實(shí)故障類型，主對(duì)角線為預(yù)測(cè)正確的樣本數(shù)，每類共有100 個(gè)測(cè)試樣本。

圖11 各種方法在訓(xùn)練集B上診斷結(jié)果的混淆矩陣Fig.11 Confusion matrix of diagnosis results of various methods under training set B

從圖11 可知，在每類故障有20 個(gè)訓(xùn)練樣本的情況下，5種對(duì)比方法均產(chǎn)生了不少錯(cuò)分情況，故障診斷效果較差，而本文的ⅠSNN 方法則明顯好于對(duì)比方法。具體來(lái)說(shuō)，從圖11（a）可以看出，用1D-CNN 進(jìn)行診斷時(shí)，只有內(nèi)圈故障和正常類樣本被分得較好，而被測(cè)試的100個(gè)復(fù)合故障樣本中僅有37 個(gè)被預(yù)測(cè)正確。圖11（b）和（c）表明DBN 和AE 的效果好于其他對(duì)比方法，對(duì)各類故障都能正確分類80個(gè)左右。從圖11（d）和（e）可以看出，原型網(wǎng)絡(luò)的故障分類情況相比于1D-CNN有了一定程度的改善，孿生網(wǎng)絡(luò)的診斷效果最差，僅對(duì)正常類軸承分得較好，有94個(gè)樣本被識(shí)別正確，而復(fù)合故障和外圈故障有大約一半的樣本被錯(cuò)分。相比之下，從圖11（f）可以看出，本文的ⅠSNN 方法能顯著改善各類故障的錯(cuò)分情況，除了復(fù)合故障被錯(cuò)分較多（有19個(gè)樣本預(yù)測(cè)錯(cuò)誤），其余故障類型均有90 個(gè)以上的樣本被正確識(shí)別。以上分析表明，在訓(xùn)練樣本較少的情況下，幾種對(duì)比方法均難以對(duì)軸承故障進(jìn)行有效診斷，而提出的ⅠSNN 方法能夠有效提升故障診斷效果，實(shí)現(xiàn)小樣本情況下的軸承故障診斷。

3.4.2 不同工況下診斷準(zhǔn)確率對(duì)比

生產(chǎn)實(shí)際中，設(shè)備的運(yùn)行工況往往會(huì)發(fā)生改變，導(dǎo)致要測(cè)試的故障數(shù)據(jù)與訓(xùn)練數(shù)據(jù)分布不一致，為了驗(yàn)證ⅠSNN 方法相比于其他方法對(duì)不同測(cè)試數(shù)據(jù)的泛化性能，使用表1 中的測(cè)試集2（與訓(xùn)練集工況相近）和測(cè)試集3（與訓(xùn)練集工況差別大）對(duì)4種方法的故障診斷效果進(jìn)行驗(yàn)證，結(jié)果如表5所示。

表5 各種診斷方法在不同工況下的準(zhǔn)確率對(duì)比Table 5 Accuracy comparison of various diagnostic methods under different operating conditions 單位：%

從表5 可以看出，對(duì)相近工況的數(shù)據(jù)（測(cè)試集2）進(jìn)行診斷時(shí)，5種對(duì)比方法在10個(gè)樣本（訓(xùn)練集A）和20個(gè)訓(xùn)練樣本（訓(xùn)練集B）情況下的診斷效果都較低。當(dāng)訓(xùn)練樣本增加到100 個(gè)時(shí)（訓(xùn)練集D），1D-CNN、DBN 和AE 方法的準(zhǔn)確率都達(dá)到90%以上，而原型網(wǎng)絡(luò)和孿生網(wǎng)絡(luò)的準(zhǔn)確率分別只有74.4%和78.5%。此時(shí)ⅠSNN 方法的準(zhǔn)確率仍然能保持在98%左右。當(dāng)對(duì)工況變化較大的數(shù)據(jù)（測(cè)試集3）進(jìn)行診斷時(shí)，對(duì)比方法的故障診斷效果變得更差，尤其是在訓(xùn)練樣本不足50個(gè)的情況下，原型網(wǎng)絡(luò)和孿生網(wǎng)絡(luò)的診斷準(zhǔn)確率僅有60%左右，另外三種對(duì)比方法也只有大約85%的準(zhǔn)確率，而ⅠSNN 方法仍然能達(dá)到90%以上。通過(guò)以上分析可以得出，原型網(wǎng)絡(luò)和孿生網(wǎng)絡(luò)在面對(duì)變工況數(shù)據(jù)時(shí)診斷準(zhǔn)確率變得很差，泛化能力很弱，1D-CNN、DBN 和AE 方法的準(zhǔn)確率也有不同程度的下降，而ⅠSNN 方法在相近工況下準(zhǔn)確率僅降低了1個(gè)百分點(diǎn)左右，在工況變化較大時(shí)也能取得最高95.2%的準(zhǔn)確率，模型的泛化性能相較于其他5種方法有了明顯提升。

為了更直觀地展示ⅠSNN方法在小樣本條件下對(duì)變工況數(shù)據(jù)的故障診斷效果，以訓(xùn)練集C（每類50個(gè)樣本）和測(cè)試集3（與訓(xùn)練集工況差別大）為例，選擇各種模型中診斷效果最好的DBN 方法作為對(duì)比，將兩種方法的故障分類結(jié)果進(jìn)行降維可視化，結(jié)果如圖12所示。

圖12 DBN和ⅠSNN方法在訓(xùn)練集C上的診斷結(jié)果可視化Fig.12 Visualization of diagnosis results of DBN and ⅠSNN under training set C

從圖12（a）可以看出，DBN方法雖然能夠?qū)⒏鱾€(gè)故障類大致分開(kāi)，但彼此之間仍有不同程度的重疊，例如內(nèi)圈故障（黃色）的部分樣本混合到了其他多種故障中，正常類故障（紅色）也有少量樣本被誤分到了滾動(dòng)體故障（藍(lán)色）中。此外，有大量外圈故障（紫色）和復(fù)合故障樣本（綠色）相互重疊，模型的整體分類結(jié)果較差。從圖12（b）可以看出，采用ⅠSNN 方法進(jìn)行故障診斷后，相同故障類別的樣本更好地聚集在了一起，不同類別樣本之間也有較大間隔，區(qū)分明顯，僅有少量的外圈故障樣本（紫色）被錯(cuò)分到復(fù)合故障樣本（綠色）中，表明ⅠSNN 方法在工況變化較大的情況下仍然能較好地識(shí)別各類軸承故障，驗(yàn)證了模型在小樣本條件下良好的泛化效果。

4 結(jié)論

本文提出一種小樣本條件下基于改進(jìn)孿生神經(jīng)網(wǎng)絡(luò)（ⅠSNN）的滾動(dòng)軸承故障診斷算法，將度量學(xué)習(xí)思想和普通分類網(wǎng)絡(luò)集成到一個(gè)框架中，通過(guò)聯(lián)合訓(xùn)練特征提取網(wǎng)絡(luò)、關(guān)系度量網(wǎng)絡(luò)和故障分類網(wǎng)絡(luò)實(shí)現(xiàn)對(duì)軸承故障的精確診斷。經(jīng)過(guò)大量實(shí)驗(yàn)分析，可以得出以下結(jié)論：

（1）ⅠSNN 模型在多種小樣本情況下均能實(shí)現(xiàn)對(duì)軸承故障的有效診斷，當(dāng)每類只有10個(gè)訓(xùn)練樣本時(shí)，仍然能取得83.6±2.6%的準(zhǔn)確率，當(dāng)每類有100 個(gè)訓(xùn)練樣本時(shí)，準(zhǔn)確率可以達(dá)到98.6±0.6%。

（2）本文設(shè)計(jì)的LSTM+CNN 特征提取網(wǎng)絡(luò)和利用神經(jīng)網(wǎng)絡(luò)進(jìn)行關(guān)系度量的方式能夠使模型學(xué)習(xí)到更具判別性的樣本特征，從而獲得更高的診斷準(zhǔn)確率。

（3）通過(guò)與1D-CNN、DBN 和原型網(wǎng)絡(luò)等方法的實(shí)驗(yàn)對(duì)比可知，本文提出的ⅠSNN 方法在小樣本條件下具有更高的故障診斷準(zhǔn)確率，當(dāng)測(cè)試數(shù)據(jù)工況發(fā)生變化時(shí)也能表現(xiàn)出更好的泛化性，100個(gè)訓(xùn)練樣本下可以達(dá)到95.2%的準(zhǔn)確率。