基于數(shù)據(jù)驅(qū)動(dòng)的渦輪發(fā)動(dòng)機(jī)剩余壽命預(yù)測(cè)

柳長(zhǎng)源， 何先平， 于會(huì)越

(哈爾濱理工大學(xué) 測(cè)控技術(shù)與通信工程學(xué)院，哈爾濱 150080)

0 引 言

渦輪發(fā)動(dòng)機(jī)的工作狀態(tài)直接影響飛機(jī)的性能，而飛機(jī)由于其起飛后長(zhǎng)時(shí)間滯空等客觀原因，其發(fā)生故障后不管是對(duì)人身安全方面的危害，還是經(jīng)濟(jì)方面的損失，都是無法估量的。為了保障渦輪發(fā)動(dòng)機(jī)的運(yùn)行的可靠性，并降低飛機(jī)的維修成本，美國(guó)等航空發(fā)達(dá)國(guó)家早在1977年就將故障預(yù)測(cè)和健康管理應(yīng)用于發(fā)動(dòng)機(jī)的維修[1]。ISO13881-1定義故障預(yù)測(cè)為：對(duì)設(shè)備失效或出現(xiàn)風(fēng)險(xiǎn)的時(shí)間點(diǎn)進(jìn)行估計(jì)。而設(shè)備的剩余壽命(remaining useful life RUL)[2]指的是設(shè)備從初始狀態(tài)到設(shè)備完全失效這一階段的時(shí)間。預(yù)先精準(zhǔn)的剩余壽命預(yù)測(cè)能夠使航空公司提前做出明智的維護(hù)決策，避免永久性損壞，顯著的降低了運(yùn)營(yíng)和維護(hù)成本。

渦輪發(fā)動(dòng)機(jī)剩余壽命預(yù)測(cè)主要有2個(gè)方向，1)基于物理模型：在發(fā)動(dòng)機(jī)失效原理基礎(chǔ)上建立模型后對(duì)剩余壽命進(jìn)行預(yù)測(cè)操作；2)基于數(shù)據(jù)驅(qū)動(dòng)，通過采集或者仿真發(fā)動(dòng)機(jī)失效過程中的數(shù)據(jù)，利用算法、機(jī)器學(xué)習(xí)等結(jié)合失效閾值進(jìn)行剩余壽命預(yù)測(cè)，如基于滑動(dòng)窗口的算法[3]、基于隱馬爾科夫的算法(HMM)[4]、基于K-Means的算法[5]、基于支持向量機(jī)的算法(SVM)[6]、基于卷積神經(jīng)網(wǎng)絡(luò)(CNN)和長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)的算法等[7-8]；基于物理模型建立壽命預(yù)測(cè)模型的泛化性較差，所以本文采用第二種方式進(jìn)行壽命預(yù)測(cè)。

基于支持向量回歸的算法不能良好利用性能參數(shù)對(duì)應(yīng)的提取時(shí)間來預(yù)測(cè)剩余壽命，而且SVR模型的參數(shù)較多，在實(shí)際應(yīng)用的在參數(shù)設(shè)置方面會(huì)耗費(fèi)大量的資源，并且預(yù)測(cè)效果和算法的效率一般?；谏窠?jīng)網(wǎng)絡(luò)的算法受其搜索算法的控制，求解空間函數(shù)時(shí)若搜索步長(zhǎng)過小容易陷入局部最優(yōu)，存在局部極小、收斂速度慢的問題。隨著機(jī)器學(xué)習(xí)技術(shù)的成熟，集成學(xué)習(xí)也有了很大的發(fā)展。這種通過某些規(guī)則將多個(gè)機(jī)器學(xué)習(xí)的成果有效的整合在一起的方法也可以應(yīng)用在發(fā)動(dòng)機(jī)壽命預(yù)測(cè)上。通過使用單邊梯度采樣和互斥特征綁定對(duì)梯度提升迭代決策樹(gradient boosting decision tree, GBDT)進(jìn)行改進(jìn)，該算法提高了樹算法中的殘差的近似值，選擇擬合損失函數(shù)的負(fù)梯度的方法來進(jìn)行壽命預(yù)測(cè)，在保證預(yù)測(cè)性能指標(biāo)的同時(shí)大大降低了模型的運(yùn)行時(shí)間，提高了模型的預(yù)測(cè)效率。

1 梯度提升樹模型原理

GBDT模型是利用加法模型和前向分布算法實(shí)現(xiàn)學(xué)習(xí)優(yōu)化過程的一種集成模型。GBDT預(yù)測(cè)流程如圖1所示。

圖1 GBDT預(yù)測(cè)流程Fig.1 GBDT forecasting process

該模型基分類器為分類與回歸樹(classification and regression tree，CART)，集成方為梯度下降(gradient boosting)[9]。GBDT在進(jìn)行子樹構(gòu)建時(shí)將會(huì)產(chǎn)生相應(yīng)的殘差，將其數(shù)據(jù)傳輸給下一個(gè)子樹，并且按照子樹逐層構(gòu)建的順序來進(jìn)行預(yù)測(cè)，最終將預(yù)測(cè)結(jié)果相加。

1.1 GBDT概述

GBDT模型在訓(xùn)練過程中不斷調(diào)整殘差，最終通過相加來實(shí)現(xiàn)數(shù)據(jù)的回歸。訓(xùn)練數(shù)據(jù)集表示為

T={(x1,y1),(x2,y2),…,(xN,yN)}，xi∈χ?Rn。

(1)

式中：x為輸入空間；yi∈Y?Rn，y為輸出空間。損失函數(shù)為L(zhǎng)(y,f(x))，輸出為F(x)。損失函數(shù)訓(xùn)練數(shù)據(jù)集模型可以表示為決策樹的加法模型：

(2)

式中：T(x;θm)為決策樹；θm為決策樹參數(shù)；M為樹的個(gè)數(shù)。

模型訓(xùn)練總輪數(shù)為M輪，每輪都會(huì)有一個(gè)弱分類器T(x;θm)產(chǎn)生。弱分類器的損失函數(shù)為

(3)

GBDT的每一次迭代都要輸入上一次迭代產(chǎn)生的殘差，擬合誤差會(huì)隨著迭代次數(shù)的增加逐步減小。因此，通過不斷的迭代，最終得到一個(gè)弱學(xué)習(xí)器T(x;θm)，使樣本的損失盡可能變小。

1.2 GBDT的負(fù)梯度擬合

Freidman通過采用損失函數(shù)的負(fù)梯度的方式來模擬最速下降法，從而得到擬合本輪損失的近似值[10]，這種方法解決了損失函數(shù)擬合方法的問題，最后通過擬合得到一個(gè)CART回歸樹[11]。第M輪的第i個(gè)樣本的損失函數(shù)的負(fù)梯度表示為

(4)

利用(xi,rmi)(i=1,2,…,m)估計(jì)回歸樹葉節(jié)點(diǎn)區(qū)域。將第m顆樹的輸入空間χi分為j個(gè)無交集部分Rm1,Rm2,…,RmJ，每個(gè)部分的輸出為常量cmj，c為上一輪迭代后決策樹的輸出值，有

(5)

(6)

(7)

采用線性搜索來估計(jì)葉節(jié)點(diǎn)區(qū)域的值，使損失函數(shù)達(dá)到極小化，則樹由初始狀態(tài)(6)更新為式(7)。

最終得到回歸樹為

(8)

1.3 改進(jìn)的梯度提升樹

GBDT具有效率高、精度高等優(yōu)點(diǎn)，但由于GBDT在處理數(shù)據(jù)是需要掃描數(shù)據(jù)集的所有特征，在處理高維度、數(shù)據(jù)量大的數(shù)據(jù)集時(shí)非常耗時(shí)[12]。

本文使用基于梯度的單邊采樣和互斥特征捆綁這兩種算法對(duì)GBDT進(jìn)行改進(jìn)，改進(jìn)的GBDT算法能夠很好的平衡運(yùn)行效率和數(shù)據(jù)量。這種改進(jìn)大幅度提高了計(jì)算速度、降低了內(nèi)存消耗，也更適應(yīng)于大數(shù)據(jù)的回歸。

1.3.1 單邊梯度采樣

單邊梯度采樣主要是通過減少樣本數(shù)據(jù)，在保證較大梯度樣本數(shù)據(jù)不變的同時(shí),隨機(jī)采樣部分的小梯度樣本，不僅極大地提升了計(jì)算速度，也有效地保證了計(jì)算精度。

較大梯度的數(shù)據(jù)能夠?yàn)橛?jì)算信息增益的提供較大的幫助，當(dāng)某個(gè)樣本點(diǎn)的梯度已經(jīng)減小到足夠小時(shí)，此時(shí)該樣本的訓(xùn)練誤差已經(jīng)達(dá)到要求，即該樣本已經(jīng)被充分訓(xùn)練。因此，使用常量乘法器放大未充分訓(xùn)練。

為了保證數(shù)據(jù)的總體分布，首先針將數(shù)據(jù)的絕對(duì)值進(jìn)行依次減少的順式排序,然后選取前a個(gè)樣本作為較大梯度的數(shù)據(jù)子集A,并對(duì)其余樣本進(jìn)行隨機(jī)采樣,在剩下的較小梯度數(shù)據(jù)中選取b個(gè)樣本實(shí)例作為數(shù)據(jù)集B[13]。最后,通過計(jì)算所選取的a+b個(gè)樣本數(shù)據(jù)，獲得信息增益，其計(jì)算方式為

(9)

1.3.2 互斥特征綁定

互斥特征綁定的定義是為提升計(jì)算效率，而將不完全互斥的特征進(jìn)行融合捆綁來降低特征數(shù)量。為減少計(jì)算量，將特征按照非零值進(jìn)行排序，非零值越多，越容易發(fā)生互斥，并將不完全發(fā)生互斥的2個(gè)特征進(jìn)行捆綁，并使用特征合并法來降低算法復(fù)雜度。通過互斥綁定后的復(fù)雜度為O(數(shù)據(jù)×綁定后特征數(shù)目)，此時(shí)使用的綁定后特征數(shù)目已經(jīng)大幅度降低，使得模型在保證精度的情況下減少訓(xùn)練時(shí)間。改進(jìn)的GBDT算法存儲(chǔ)的不是連續(xù)的特征值而是離散的直方柱。通過向指定的直方柱添加偏移量解決原始特征值可識(shí)別問題。設(shè)定特征數(shù)組總共包含2個(gè)特征C，D。若C∈[0,8]，D∈[0,16]，向特征向量D添加8個(gè)單位的偏移量，則綁定后的范圍為[8,24]。

2 基于梯度提升樹的壽命預(yù)測(cè)

2.1 實(shí)驗(yàn)數(shù)據(jù)介紹

本實(shí)驗(yàn)采用的是大型渦輪風(fēng)扇發(fā)動(dòng)機(jī)GE90的仿真數(shù)據(jù)。該數(shù)據(jù)集共有4個(gè)子集，各個(gè)子集的操作模態(tài)和故障數(shù)目各不相同，每個(gè)子集都由200個(gè)及以上完整的運(yùn)行單元組成。每個(gè)完整的運(yùn)行單元由26維特征數(shù)據(jù)構(gòu)成。每一維數(shù)據(jù)都可以描述給定時(shí)間點(diǎn)上引擎狀態(tài)或受到其他列傳感器影響的數(shù)據(jù)。該矩陣第一列表示發(fā)動(dòng)機(jī)ID，第二列表示發(fā)動(dòng)機(jī)運(yùn)行次數(shù)，接下來的三列為運(yùn)行環(huán)境設(shè)置，余下的21列則對(duì)應(yīng)傳感器數(shù)據(jù)。4個(gè)仿真數(shù)據(jù)子集的詳細(xì)設(shè)置如表1所示。

表1 C-MAPSS數(shù)據(jù)集

為了衡量算法效果，本文使用兩種評(píng)價(jià)指標(biāo)來進(jìn)行衡量。懲罰函數(shù)(Score)的大小衡量了壽命預(yù)測(cè)的合理性，有

(10)

而均方根誤差(RMSE)反映了預(yù)測(cè)壽命與實(shí)際壽命的擬合程度，表示為

(11)

其中Ei為真實(shí)壽命與預(yù)測(cè)壽命之差，當(dāng)Ei越小，即Score與RMSE越小，預(yù)測(cè)壽命越準(zhǔn)確，預(yù)測(cè)效果越好。

2.2 剩余壽命估計(jì)目標(biāo)函數(shù)

早期的余壽預(yù)測(cè)領(lǐng)域所使用的目標(biāo)函數(shù)大多數(shù)為一次遞減函數(shù)，這種函數(shù)只能表示設(shè)備損耗與設(shè)備性能之間的線性下降的關(guān)系，無法顯示設(shè)備的損耗與時(shí)間的關(guān)系。機(jī)械設(shè)備工作初期設(shè)備磨損較小，機(jī)械設(shè)備在一段時(shí)間內(nèi)工作在穩(wěn)定狀態(tài)。而機(jī)械設(shè)備在經(jīng)過長(zhǎng)時(shí)間的磨損之后，設(shè)備性能逐漸降低，當(dāng)磨損達(dá)到一個(gè)臨界值，設(shè)備的使用壽命逐漸下降[14]。因此，使用分段目標(biāo)函數(shù)能夠更加準(zhǔn)確的表示剩余壽命的發(fā)展趨勢(shì)，如圖2所示。

圖2 剩余壽命估計(jì)目標(biāo)函數(shù)Fig.2 Remaining useful life of objective function

本文采用的分段函數(shù)是通過實(shí)驗(yàn)確定，對(duì)于GE90的仿真數(shù)據(jù)集，其最長(zhǎng)使用壽命為130能夠得到最優(yōu)的預(yù)測(cè)性能。對(duì)于一個(gè)完整運(yùn)行壽命周期為200的實(shí)驗(yàn)，設(shè)其最初運(yùn)行時(shí)為最大使用壽命130，運(yùn)行一段時(shí)間后到達(dá)第70個(gè)檢測(cè)采樣周期，此后電機(jī)壽命開始逐漸下降，呈線性衰減，直到實(shí)驗(yàn)結(jié)束時(shí)剩余使用壽命衰減為0。

2.3 數(shù)據(jù)歸一化

數(shù)據(jù)處理根據(jù)數(shù)據(jù)自身具有的特性，避免特征絕對(duì)值上小數(shù)據(jù)被大數(shù)據(jù)平均掉，幫助模型更好的適應(yīng)數(shù)據(jù)。

崇明島內(nèi)河水位主要是由沿江水閘控制的。在枯水期（1月、2月、11月、12月），島上的水閘一般采取西水東調(diào)、南引北排的方式進(jìn)行調(diào)水工作；在平常的3月、4月、5月、10月，則根據(jù)長(zhǎng)江內(nèi)的水質(zhì)情況，采取選擇性的引排方式，即選擇符合引水標(biāo)準(zhǔn)的南沿水閘進(jìn)行引水、北沿水閘適當(dāng)排水。而在主汛期主要是以南引北排的方式進(jìn)行，以控制內(nèi)河水位。

歸一化方程式為

(12)

式中：μi表示平均值；σi表示標(biāo)準(zhǔn)偏差。對(duì)發(fā)動(dòng)機(jī)的21維傳感器參數(shù)進(jìn)行歸一化處理后如圖3所示。

圖3 歸一化處理Fig.3 Normalization

3 實(shí)驗(yàn)結(jié)果分析

本實(shí)驗(yàn)的實(shí)驗(yàn)環(huán)境如表2所示。

表2 實(shí)驗(yàn)環(huán)境

3.1 工況一性能分析

圖4為改進(jìn)的GBDT模型在FD001數(shù)據(jù)集和FD003數(shù)據(jù)集中的Score變化情況，這兩種數(shù)據(jù)集均工作在模態(tài)1下。實(shí)驗(yàn)結(jié)果表明，改進(jìn)的GBDT算法在FD001數(shù)據(jù)集和FD003數(shù)據(jù)集的Score指標(biāo)上表現(xiàn)極其優(yōu)越。FD003數(shù)據(jù)集在Score指標(biāo)表現(xiàn)上較FD001數(shù)據(jù)集表現(xiàn)稍差，這是由于FD003數(shù)據(jù)集是在高壓壓氣機(jī)和風(fēng)扇均故障下收集得到的。

圖4 FD001和FD003的Score對(duì)比Fig.4 Comparison of Score between FD001 and FD003

圖5為不同算法在FD001數(shù)據(jù)集和FD003數(shù)據(jù)集下的評(píng)價(jià)指標(biāo)直方圖。由圖可以看出，改進(jìn)后的GBDT算法在2種數(shù)據(jù)集中的RMSE值偏高，但由于RMSE值與Score值的相關(guān)性，綜合總體情況，改進(jìn)后的GBDT算法更加適用于提前發(fā)出壽命預(yù)警，而對(duì)于飛機(jī)發(fā)動(dòng)機(jī)而言，更早的發(fā)現(xiàn)發(fā)動(dòng)機(jī)設(shè)備的受損情況能夠更早的進(jìn)行設(shè)備維護(hù)工作，因此較早提出壽命預(yù)警是合理的。

圖5 FD001和FD003的RMSE對(duì)比Fig.5 Comparison of RMSE between FD001 and FD003

3.2 工況二性能分析

FD002數(shù)據(jù)集和FD004數(shù)據(jù)集在模態(tài)6下工作。通過對(duì)比實(shí)驗(yàn)可知，改進(jìn)GBDT模型的Score指標(biāo)較剩余壽命預(yù)測(cè)領(lǐng)域經(jīng)典算法提升幅度小，各個(gè)算法的Score指標(biāo)對(duì)比如圖6所示。

圖6 FD002和FD004的Score指標(biāo)對(duì)比Fig.6 Comparison of Score between FD002 and FD004

復(fù)雜工況下改進(jìn)的GBDT的RMSE表現(xiàn)較差，F(xiàn)D002數(shù)據(jù)集較FD004數(shù)據(jù)集稍好一些。RMSE直觀對(duì)比如圖7所示。更復(fù)雜的情況導(dǎo)致擬合較為困難，2個(gè)數(shù)據(jù)集下改進(jìn)GBDT的RMSE指標(biāo)都是僅僅比SVR表現(xiàn)略好。將兩種指標(biāo)進(jìn)行總體分析，改進(jìn)的GBDT模型在復(fù)雜工況下，Score值較其他算法略有提升，RMSE較經(jīng)典算法略有提高，能夠在發(fā)電機(jī)剩余壽命結(jié)束前發(fā)出預(yù)警。

圖7 FD002和FD004的RMSE對(duì)比Fig.7 Comparison of RMSE between FD002 and FD004

通過分析改進(jìn)的GBDT與其他算法在不同工況下的性能，可以得出改進(jìn)的GBDT算法在Score指標(biāo)上有較為明顯的提升，能夠較好的預(yù)測(cè)發(fā)動(dòng)機(jī)的剩余壽命情況，尤其是在故障較少的FD001和FD002數(shù)據(jù)集下表現(xiàn)較為優(yōu)異，算法預(yù)測(cè)更為準(zhǔn)確，而在復(fù)雜工況的下提升幅度較小。改進(jìn)的GBDT算法在RMSE指標(biāo)上也是在簡(jiǎn)單工況的表現(xiàn)更好。因此，改進(jìn)的GBDT算法能夠提早完成預(yù)測(cè)，適用于發(fā)動(dòng)機(jī)剩余壽命預(yù)測(cè)。

從C-MAPSS中的FD001、FD002、FD003、FD004中分別隨機(jī)選擇一個(gè)時(shí)間周期，在保證其測(cè)試結(jié)果完整的情況下進(jìn)行結(jié)果可視化，真實(shí)剩余壽命與預(yù)測(cè)剩余壽命的對(duì)比圖如圖8所示。其中折線為根據(jù)分段函數(shù)設(shè)定的發(fā)動(dòng)機(jī)真實(shí)壽命，另一條為改進(jìn)的GBDT預(yù)測(cè)壽命。

圖8 剩余使用壽命預(yù)測(cè)Fig.8 Prediction of remaining useful life

3.3 運(yùn)行速度與評(píng)價(jià)指標(biāo)分析

CMAPSS數(shù)據(jù)集的維數(shù)為26維，對(duì)一段完整的生命周期進(jìn)行一次剩余壽命預(yù)測(cè)需要將近兩百個(gè)循環(huán)，大量的數(shù)據(jù)在一定程度上保證了預(yù)測(cè)效果但也使得運(yùn)行效率并不理想。通過將互斥程度較小的特征進(jìn)行捆綁，減少特征維度，達(dá)到計(jì)算效率的提升。表3為改進(jìn)后的GBDT模型與其他算法在不同工況下的剩余壽命預(yù)測(cè)時(shí)間。

表3 不同模型運(yùn)行時(shí)間

為了進(jìn)一步驗(yàn)證模型的性能，做了多種不同的算法性能對(duì)比，Score指標(biāo)結(jié)果對(duì)比如表4，RMSE指標(biāo)結(jié)果如表5。

表4 Score指標(biāo)結(jié)果

表5 RMSE指標(biāo)結(jié)果

通過以上指標(biāo)對(duì)比分析，改進(jìn)的GBDT模型在不同數(shù)據(jù)集上的運(yùn)行時(shí)間有較大幅度的提升，Score指標(biāo)較幾種現(xiàn)有算法均有明顯提升，RMSE指標(biāo)在FD002和FD004數(shù)據(jù)集上略有提升，在FD001和FD003數(shù)據(jù)集上略有下降，RMSE指標(biāo)除SVR較差外，其他幾種方法與改進(jìn)的GBDT算法大體相仿。

4 結(jié) 論

本文通過比較改進(jìn)的GBDT模型與現(xiàn)有的SVR、CNN、LSTM、CNN-LSTM算法在不同工況下的性能指標(biāo)，得到改進(jìn)的GBDT模型在Score指標(biāo)上有大幅度提升，RMSE指標(biāo)相仿。結(jié)合實(shí)際情況可以得出改進(jìn)的GBDT算法傾向于更早提出壽命預(yù)警，更適用于飛機(jī)發(fā)動(dòng)機(jī)剩余壽命預(yù)測(cè)領(lǐng)域。同時(shí)，在保證預(yù)測(cè)性能指標(biāo)的情況下，改進(jìn)的GBDT模型在4個(gè)子數(shù)據(jù)集下的運(yùn)行時(shí)間較經(jīng)典算法都下降60%以上，表明本文所提出的算法具有較高的實(shí)用價(jià)值。