基于深度學(xué)習(xí)和遷移學(xué)習(xí)的液壓泵健康評估方法

，

(上海交通大學(xué)機械與動力工程學(xué)院，上海 200240)

0 引言

液壓泵作為液壓系統(tǒng)的動力元件，其健康狀態(tài)會對液壓系統(tǒng)的工作狀態(tài)產(chǎn)生直接影響。近年來，利用傳統(tǒng)機器學(xué)習(xí)對液壓泵的故障診斷和健康評估取得了較多的成果[1-2]。隨著深度學(xué)習(xí)的出現(xiàn)，在故障診斷和健康評估領(lǐng)域，越來越多的學(xué)者開始嘗試采用深度學(xué)習(xí)。深度學(xué)習(xí)是一種不需要人工提取特征的方法，近年來被廣泛應(yīng)用[3-7]。然而，上面所述方法有其局限性，其一就是當(dāng)設(shè)備在不同條件下的運行數(shù)據(jù)分布改變時，已訓(xùn)練的模型往往不再適用；此外，在一些新的條件下，運行數(shù)據(jù)有時很難獲得，因此，沒有足夠的數(shù)據(jù)來訓(xùn)練得到一個模型。當(dāng)前出現(xiàn)的遷移學(xué)習(xí)方法是有望解決這一問題的重要途徑之一。目前遷移學(xué)習(xí)在圖像、語音和文本識別的研究中已經(jīng)取得了較大進展[8-10]。但是在機械設(shè)備狀態(tài)檢測領(lǐng)域，遷移學(xué)習(xí)的研究還比較少。Shen 等人[11]采用了一種遷移學(xué)習(xí)框架。使用SVD方法進行特征提取，利用TrAdaBoost算法，對軸承狀態(tài)進行了評估。為了解決液壓泵數(shù)據(jù)采集困難，在少量數(shù)據(jù)下建立健康評估模型的問題，在此提出了一種基于深度學(xué)習(xí)和遷移學(xué)習(xí)的液壓泵健康評估方法。首先，利用快速傅里葉變換將時域信號轉(zhuǎn)化為頻域信號；然后，通過卷積神經(jīng)網(wǎng)絡(luò)的方法對已有大量歷史條件下液壓泵振動的頻域信號建立預(yù)測模型；最后,用遷移學(xué)習(xí)的思想在目標(biāo)少量液壓泵數(shù)據(jù)上對深度學(xué)習(xí)模型進行微調(diào)。

1 深度學(xué)習(xí)和遷移學(xué)習(xí)理論

1.1 深度學(xué)習(xí)

深度學(xué)習(xí)利用多個層，自動提取數(shù)據(jù)深層特征，然后經(jīng)過最后的分類器，實現(xiàn)分類功能，由于其強大的特征提取能力，使其分類效果往往優(yōu)于傳統(tǒng)機器學(xué)習(xí)方法。

卷積神經(jīng)網(wǎng)絡(luò)是深度學(xué)習(xí)的一種。傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)包括特征提取部分和分類部分。特征提取部分包括輸入層、卷積層和池化層，而卷積層和池化層可能不止一個；分類部分包括全連接層和輸出層。卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

圖1 卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)的輸入數(shù)據(jù)為二維數(shù)組，輸入數(shù)據(jù)大小inputsize=n×m，其中n，m分別為輸入二維數(shù)組的列數(shù)和行數(shù)；卷積核大小Kernelsize=h×w，其中h，w分別為卷積核的長和寬；卷積核窗口的步長1×1，特征圖的數(shù)目為f。同一特征圖的卷積核共享權(quán)重和偏置，不同特征圖之間權(quán)重和偏置不同，這就意味著不同特征圖之間提取了輸入數(shù)據(jù)的不同特征。那么在卷積層中，權(quán)重數(shù)量N為：

N=f×h×w

(1)

f為偏置的數(shù)量。所有特征圖的大小為：

figsize=(n-h+1)×(m-w+1)

(2)

下面連接著激活函數(shù)ReLU，ReLU函數(shù)為：

f(x)=max(0,x)

(3)

x為特征圖上點的值，被用在任意2個卷積層和池化層之間。接下來是池化層，本文使用最大池化的方法，選擇池化核中的最大值，池化核大小為Kernel=h_×w_，這樣得到了全部較小的特征圖。通過平滑處理，將所有較小特征圖從二維轉(zhuǎn)換為一維，并連接成一個向量。全連接層可以提取深度特征，通常采用2個全連接層。其中后面全連接層的大小為1×n_class，n_class是需要分類的類別數(shù)。最后用Softmax激活函數(shù)來計算數(shù)據(jù)屬于每個類別的可能性。Softmax函數(shù)如下：

(4)

Si表示數(shù)據(jù)i類別的概率；Vi為Softmax函數(shù)輸入的第i個單元的值。

學(xué)生管理工作是一項很復(fù)雜的工作，大學(xué)生具有自主意識，管理者需要充分考慮學(xué)生的心愿，關(guān)心學(xué)生的發(fā)展，將自己的關(guān)懷和情感投入到學(xué)生管理中，才能實現(xiàn)雙方的相互體諒，讓學(xué)生感恩于輔導(dǎo)員的工作，修正自己的錯誤。社會環(huán)境是復(fù)雜的，學(xué)生自身的能力、素質(zhì)不同，輔導(dǎo)員要想占據(jù)管理的主動地位還需要不斷提升工作效率。管理學(xué)生并不是強制性的，管理人員應(yīng)充分尊重學(xué)生、愛護學(xué)生，認識到學(xué)生個性發(fā)展的需求，培養(yǎng)學(xué)生的主動性和積極性，促進學(xué)生全面的發(fā)展。

本文使用交叉熵函數(shù)作為損失函數(shù)：

(5)

y為數(shù)據(jù)的實際類別；a為預(yù)測數(shù)據(jù)的類別。本文使用梯度下降法來最小化損失函數(shù)LH，得到所有連接權(quán)重和偏置。更新規(guī)則如下：

(6)

W和b分別代表權(quán)重和偏置，η是學(xué)習(xí)率，η>0。

1.2 遷移學(xué)習(xí)

遷移學(xué)習(xí)需要在已訓(xùn)練好的模型中，找到某些可以在待求解問題中被用來當(dāng)作特征的層次，然后將新的數(shù)據(jù)輸入該層，提取其特征，其輸出特征作為新的網(wǎng)絡(luò)輸入，新的網(wǎng)絡(luò)結(jié)構(gòu)可以根據(jù)不同問題改變。該方法的優(yōu)勢在于，預(yù)訓(xùn)練模型已經(jīng)在大量數(shù)據(jù)上進行了訓(xùn)練，故其特征較為良好，因此，基于特征的遷移學(xué)習(xí)可以節(jié)省一部分特征提取的過程，使網(wǎng)絡(luò)結(jié)構(gòu)更為簡單。同時，該方法還可以解決數(shù)據(jù)不足的問題。如果在新的問題中，數(shù)據(jù)量不足，那么將很難提取有效的特征，這時，可以直接采用預(yù)訓(xùn)練模型的特征，在新的問題上定義分類器即可。

假設(shè)已經(jīng)在大量歷史數(shù)據(jù)下訓(xùn)練好了模型，接下來用遷移學(xué)習(xí)的思想，對該模型進行微調(diào)，得到適用于目標(biāo)數(shù)據(jù)的預(yù)測模型，如圖2所示。固定卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)不變，將輸入數(shù)據(jù)和輸出標(biāo)簽替換為目標(biāo)數(shù)據(jù)，對已有網(wǎng)絡(luò)進行微調(diào)訓(xùn)練。微調(diào)時，損失函數(shù)和更新規(guī)則保持不變。

圖2 遷移學(xué)習(xí)

2 液壓泵健康狀態(tài)評估方法

液壓泵隨著其工作時間的推移，其健康狀態(tài)逐漸惡化，由于泄漏量越來越大，其流量的波動逐漸變大，導(dǎo)致振動加劇。同時，隨著液壓泵泄漏增大和壓力損失的增大，其出口壓力會變得更加不穩(wěn)定，會導(dǎo)致壓力無法達到峰值。

實驗測得全新的液壓泵(工作0 h)、工作2 000 h的液壓泵和工作3 500 h的液壓泵的壓力信號，如圖3所示。由圖3可知，壓力信號呈現(xiàn)脈動特征，但不同健康狀態(tài)的液壓泵壓力峰值不同。隨著已工作時間的變長，液壓泵的壓力峰值逐漸降低。工作2 000 h的液壓泵壓力峰值有時達不到最大值，而工作3 500 h的液壓泵其壓力峰值則為不穩(wěn)定。

取各健康狀態(tài)的一段時間的出口壓力，通過公式

(7)

表1 通過壓力均值標(biāo)記液壓泵的健康狀態(tài)

做好數(shù)據(jù)標(biāo)記后，要對液壓泵的振動信號建立深度學(xué)習(xí)和遷移學(xué)習(xí)模型,其流程如圖4所示。采集目標(biāo)數(shù)據(jù)和其他條件下數(shù)據(jù)(輔助數(shù)據(jù))的振動信號；將時域信號轉(zhuǎn)化成頻域信號后，用卷積神經(jīng)網(wǎng)絡(luò)對輔助數(shù)據(jù)建立預(yù)訓(xùn)練模型；模型訓(xùn)練好之后，把模型的結(jié)構(gòu)保留，將輸入數(shù)據(jù)和其標(biāo)簽換成目標(biāo)數(shù)據(jù)，對模型進行微調(diào)；最終得到模型，在目標(biāo)數(shù)據(jù)中的測試數(shù)據(jù)上進行預(yù)測。

圖3 不同健康狀態(tài)下的液壓泵出口壓力信號

圖4 液壓泵健康評估算法流程

3 實驗驗證

本文進行了液壓泵的實驗，用深度學(xué)習(xí)和遷移學(xué)習(xí)算法對實驗數(shù)據(jù)建立預(yù)測模型，并測試了預(yù)測準確率。

實驗液壓系統(tǒng)裝置如圖5所示，其液壓系統(tǒng)原理如圖6所示。實驗裝置包括電機、待測泵、振動傳感器、溢流閥、油箱和壓力傳感器。實驗室中采用的是川崎斜盤式軸向柱塞泵K3V112DTH100R2N01，共有3種不同健康狀態(tài)的泵，分別為全新的1號泵，使用約2 000 h的2號泵，已經(jīng)使用3 500 h即將報廢的3號泵。分別在1 500 r/min，2 200 r/min轉(zhuǎn)速條件下運行大約800 s，用不同傳感器記錄運行過程中的各種信號，包括振動、壓力和溫度等信號。其中，用壓力信號對數(shù)據(jù)進行標(biāo)記，用振動信號對液壓泵建立預(yù)測模型。實驗測得數(shù)據(jù)的保存為振動信號和模擬信號2種。振動傳感器有3個，分別安裝在泵主軸的左上、右上和正下方，兩兩之間呈120°分布。采樣頻率為50 kHz，總數(shù)據(jù)點數(shù)超過4 000萬。

圖5 實驗室液壓系統(tǒng)

圖6 液壓系統(tǒng)原理

首先，通過計算出口壓力均值，利用表1的計算結(jié)果對數(shù)據(jù)的健康狀態(tài)進行標(biāo)記。

然后，對采集的振動數(shù)據(jù)進行時頻轉(zhuǎn)換，得到不同健康狀態(tài)的液壓泵的頻域特征，作為卷積神經(jīng)網(wǎng)絡(luò)的輸入。

圖7顯示了工作3 500 h液壓泵振動信號的頻域特征，首先對其進行歸一化操作，這樣可以使網(wǎng)絡(luò)訓(xùn)練的速度加快。歸一化函數(shù)為：

(8)

圖7 工作3 500 h液壓泵振動信號頻域特征

x為某一頻率點的幅值，將所有數(shù)據(jù)轉(zhuǎn)化到區(qū)間[-0.5,0.5]上。然后把這些一維數(shù)組特征分成若干組，每組包含相同數(shù)量的數(shù)據(jù)，每組占據(jù)一行，把它們堆疊成一個二維數(shù)組，作為卷積神經(jīng)網(wǎng)絡(luò)的輸入。

接下來，使用深度學(xué)習(xí)和遷移學(xué)習(xí)的方法進行實驗。實驗中，分別在1 500 r/min，2 200 r/min轉(zhuǎn)速下采集了3種不同健康狀態(tài)的液壓泵。選擇1 500 r/min轉(zhuǎn)速下采集到的數(shù)據(jù)作為目標(biāo)數(shù)據(jù)，其中，每類健康狀態(tài)的目標(biāo)數(shù)據(jù)取50個。選擇2 200 r/min轉(zhuǎn)速下的數(shù)據(jù)作為輔助數(shù)據(jù)進行實驗，每類健康狀態(tài)的輔助數(shù)據(jù)取500個。

本文中，卷積神經(jīng)網(wǎng)絡(luò)的輸入為50×40大小的數(shù)組，第一卷積層卷積核大小為5×5，步長為1×1，特征圖個數(shù)為32，第一池化層池化核大小為2×2；第二卷積層卷積核大小為5×5，步長為1×1，特征圖個數(shù)為64，第二池化層池化核大小為2×2。全連接層為128個單元。

在輔助數(shù)據(jù)上訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)模型，用于提取深度特征。在此，采用輔助數(shù)據(jù)每類數(shù)據(jù)500個，作為卷積神經(jīng)網(wǎng)絡(luò)的輸入，訓(xùn)練完成后，保存模型。然后改用目標(biāo)數(shù)據(jù)在保存的預(yù)訓(xùn)練模型上進行遷移學(xué)習(xí)任務(wù)，對網(wǎng)絡(luò)進行微調(diào)。該實驗與直接用目標(biāo)數(shù)據(jù)訓(xùn)練深度卷積神經(jīng)網(wǎng)絡(luò)進行對比，實驗結(jié)果如圖8所示。

結(jié)果顯示，經(jīng)過輔助數(shù)據(jù)預(yù)訓(xùn)練的網(wǎng)絡(luò)，初始準確率即可達到66.8%，并且很快(不到10輪)準確率達到了99%以上。而僅用目標(biāo)數(shù)據(jù)進行深度學(xué)習(xí)的訓(xùn)練時，初始準確率只有12.4%，隨著訓(xùn)練輪次的增加，其模型準確率會有較大的波動。進行25輪迭代，準確率才能達到90%以上。

圖8 深度學(xué)習(xí)與基于深度學(xué)習(xí)的遷移學(xué)習(xí)的方法對比

接著，本文用不同數(shù)量的目標(biāo)數(shù)據(jù)和輔助數(shù)據(jù)進行實驗，驗證本文方法的效果。目標(biāo)數(shù)據(jù)取每類健康狀態(tài)的數(shù)據(jù)，分別為10個、30個、50個和100個，輔助數(shù)據(jù)取目標(biāo)數(shù)據(jù)的10倍，進行基于深度學(xué)習(xí)和遷移學(xué)習(xí)的實驗，實驗結(jié)果如表2所示。

表2 不同數(shù)據(jù)量下深度學(xué)習(xí)與基于深度學(xué)習(xí)和遷移學(xué)習(xí)的結(jié)果對比

表2比較了深度學(xué)習(xí)和基于深度學(xué)習(xí)和遷移學(xué)習(xí)在不同目標(biāo)數(shù)據(jù)量下的測試準確率?？梢园l(fā)現(xiàn)，在不同數(shù)量的目標(biāo)數(shù)據(jù)下，本文提出的方法預(yù)測準確率較深度學(xué)習(xí)的方法有較大提高，且數(shù)據(jù)量越少，預(yù)測準確率提高越大。當(dāng)每類目標(biāo)數(shù)據(jù)為10個時(此時輔助數(shù)據(jù)為每類100個)，本文提出的方法其準確率可達90.0%，相對于深度學(xué)習(xí)提升了19.8%，而當(dāng)目標(biāo)數(shù)據(jù)量為50時(此時輔助數(shù)據(jù)為每類500個)，本文提出的方法其準確率可達99.9%。

4 結(jié)束語

本文提出了一種基于深度學(xué)習(xí)和遷移學(xué)習(xí)的液壓泵健康評估方法。這種方法適用于目標(biāo)數(shù)據(jù)量較少，不足以訓(xùn)練出一個較好的預(yù)測模型，但有較多輔助數(shù)據(jù)的情況。對液壓泵進行了實驗，得出了以下結(jié)論：

a.本文提出的方法在訓(xùn)練過程中，初始準確率、訓(xùn)練速度及最終準確率與深度學(xué)習(xí)相比，都有較大提高，且最終準確率可以達到99%以上。

b.本文提出的方法在不同目標(biāo)數(shù)據(jù)量下，預(yù)測準確率都有較大提升，且數(shù)據(jù)量較少時，預(yù)測準確率提高得更為明顯，說明該方法適用于目標(biāo)數(shù)據(jù)較少的情況下。