基于LSTM的燃料電池發(fā)動(dòng)機(jī)壽命預(yù)測(cè)

郭克珩 張璞 郝磊

摘 要：隨著工業(yè)4.0和數(shù)據(jù)科學(xué)的發(fā)展，利用數(shù)據(jù)對(duì)氫燃料電池發(fā)動(dòng)機(jī)剩余壽命進(jìn)行預(yù)測(cè)，將有利于提前發(fā)現(xiàn)發(fā)動(dòng)機(jī)性能退化問題，進(jìn)而及時(shí)采取維護(hù)保養(yǎng)措施，對(duì)發(fā)動(dòng)機(jī)安全運(yùn)行以及延長(zhǎng)發(fā)動(dòng)機(jī)運(yùn)行壽命至關(guān)重要。傳統(tǒng)發(fā)動(dòng)機(jī)壽命預(yù)測(cè)一般基于機(jī)理模式的經(jīng)驗(yàn)判斷或者數(shù)理統(tǒng)計(jì)，但在氫燃料電池發(fā)動(dòng)機(jī)這個(gè)技術(shù)尚不穩(wěn)定成熟的發(fā)展階段，傳統(tǒng)手段無法保證相對(duì)較低的誤差。本文在不依賴于機(jī)理模式的情況下，利用傳感器收集的數(shù)據(jù)，基于神經(jīng)網(wǎng)絡(luò)深度學(xué)習(xí)的模式，構(gòu)建一種基于數(shù)據(jù)驅(qū)動(dòng)的長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)（LSTM）的剩余壽命預(yù)測(cè)模型，通過機(jī)器的訓(xùn)練與學(xué)習(xí)，分析預(yù)測(cè)氫燃料電池發(fā)動(dòng)機(jī)的壽命衰減情況，為預(yù)測(cè)性維護(hù)提供數(shù)據(jù)支持。

關(guān)鍵詞：氫燃料電池發(fā)動(dòng)機(jī) 長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò) 壽命預(yù)測(cè) 預(yù)測(cè)性維護(hù)

Abstract：With the development of Industry 4.0 and data science， using data to predict the remaining life of hydrogen fuel cell engine will help to detect the degradation of engine performance in advance， and then timely maintenance measures can be taken， which is very important for the safe operation of the engine and the extension of the operating life of the engine. The traditional engine life prediction is generally based on the empirical judgment or mathematical statistics of the mechanism model， but in the development stage of hydrogen fuel cell engine， the technology is unstable and immature， and the traditional means cannot guarantee the relatively low error. Without depending on the mechanism mode， this paper uses the data collected by sensors， and? based on the model of neural network deep learning， the paper constructs a remaining life prediction model based on data-driven long short-term memory （LSTM） . Through machine training and learning， the life decay of hydrogen fuel cell engine is studied， providing data support for predictive maintenance.

Key words：fuel cell engine， long short-term memory neural network， life prediction， predictive maintenance

1 數(shù)據(jù)采樣

1.1 數(shù)據(jù)依托

本文通過合作單位億華通獲取了多臺(tái)同型號(hào)同批次的YHTG60氫燃料電池發(fā)動(dòng)機(jī)數(shù)據(jù)的全生命周期數(shù)據(jù)集。億華通自主研發(fā)的國(guó)產(chǎn)氫燃料電池系統(tǒng)，采用國(guó)產(chǎn)自主研發(fā)電堆，零下30°低溫啟動(dòng)、零下40°低溫存儲(chǔ)；高度集成化、模塊化設(shè)計(jì)，即插即用。

億華通的傳感器數(shù)據(jù)采樣間隔為5秒一條，每一條數(shù)據(jù)包含260多個(gè)數(shù)據(jù)指標(biāo)。本文從9臺(tái)裝車運(yùn)行的氫燃料電池系統(tǒng)的歷史數(shù)據(jù)中提取從裝車運(yùn)行時(shí)刻開始，直到氫燃料電池系統(tǒng)從整車換下的時(shí)刻的全生命周期歷史數(shù)據(jù)，作為基礎(chǔ)原始數(shù)據(jù)集。

1.2 數(shù)據(jù)集提取

基于氫燃料電池發(fā)動(dòng)機(jī)的衰減特性以及機(jī)理模式，依托于全生命周期基礎(chǔ)數(shù)據(jù)集，本文構(gòu)建了一個(gè)全新的氫燃料電池發(fā)動(dòng)機(jī)壽命數(shù)據(jù)集。該數(shù)據(jù)集包含氫燃料電池發(fā)動(dòng)機(jī)啟動(dòng)次數(shù)、運(yùn)行時(shí)間、平均單片電壓、最低單片電壓、最高單片電壓、燃料電池輸出電流、變載次數(shù)、剩余壽命共8項(xiàng)指標(biāo)。

其中啟動(dòng)次數(shù)、運(yùn)行時(shí)間、平均單片電壓、最低單片電壓、最高單片電壓、燃料電池輸出電流為基礎(chǔ)原始數(shù)據(jù)集里直接包含的數(shù)據(jù)指標(biāo)，變載次數(shù)則根據(jù)原始數(shù)據(jù)集中的燃料電池輸出電流通過統(tǒng)計(jì)計(jì)算而來（一段時(shí)間內(nèi)燃料電池輸出電流變化的絕對(duì)值超過80A計(jì)為一次變載）；燃料電池發(fā)動(dòng)機(jī)剩余壽命根據(jù)運(yùn)行時(shí)間計(jì)算而來（最大燃料電池發(fā)動(dòng)機(jī)運(yùn)行時(shí)間減當(dāng)前燃料電池發(fā)動(dòng)機(jī)運(yùn)行時(shí)間）。

2 算法描述

2.1 長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)LSTM

LSTM是在循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）的基礎(chǔ)上改進(jìn)演變而來，是一種特殊的RNN神經(jīng)網(wǎng)絡(luò)。RNN的輸入包括了兩個(gè)：一個(gè)是當(dāng)前時(shí)刻輸入xt，用于實(shí)時(shí)更新狀態(tài)，另一個(gè)是上一時(shí)刻隱藏層的狀態(tài)ht-1，用于記憶狀態(tài)，一個(gè)RNN就相當(dāng)于一個(gè)神經(jīng)網(wǎng)絡(luò)的多個(gè)副本，每個(gè)副本都把自己收集到的信息傳遞給后繼者。然而，由于RNN中每個(gè)時(shí)間片使用相同的權(quán)值矩陣，權(quán)值矩陣循環(huán)相乘導(dǎo)致會(huì)導(dǎo)致極端的非線性行為，產(chǎn)生梯度消失和梯度爆炸。

LSTM在RNN的基礎(chǔ)上，引入了遺忘門、輸入門、輸出門的多門機(jī)制用于控制特征的流通和損失，用于解決RNN的梯度消失和梯度爆炸問題。

遺忘門決定了要從上一個(gè)狀態(tài)中舍棄什么信息，它輸入上一狀態(tài)的輸出ht-1、當(dāng)前狀態(tài)輸入信息xt到一個(gè)Sigmoid函數(shù)中，產(chǎn)生一個(gè)介于0到1之間的數(shù)值，與上一個(gè)時(shí)刻的狀態(tài)ct-1相乘之后來確定舍棄（保留）多少信息。0表示“完全舍棄”，1表示“完全保留”，這個(gè)階段完成了對(duì)上一個(gè)節(jié)點(diǎn)cell state進(jìn)行選擇性忘記，如公式1，公式2所示。

輸入門則是對(duì)輸入有選擇性的“記憶”，它決定了要往當(dāng)前狀態(tài)中保存什么新的信息，它輸入上一狀態(tài)的輸出ht-1、當(dāng)前輸入信息xt到一個(gè)Sigmoid函數(shù)中，產(chǎn)生一個(gè)介于0到1之間的數(shù)值it來確定需要保留多少的新信息，如公式3，公式4，公式5。

輸出門決定了要從cell state中輸出什么信息，先有一個(gè)Sigmoid函數(shù)產(chǎn)生一個(gè)介于0到1之間的數(shù)值Ot來確定我們需要輸出多少cell state中的信息。cell state的信息在與Ot相乘時(shí)首先會(huì)經(jīng)過一個(gè)tanh層進(jìn)行“激活”，得到的就是這個(gè)LSTM block的輸出信息ht。LSTM各門的計(jì)算公示及輸出如公式6，公式7所示。

3 模型構(gòu)建

3.1 數(shù)據(jù)預(yù)處理

3.1.1 數(shù)據(jù)過濾

首先，基于上述的數(shù)據(jù)集，根據(jù)閾值范圍對(duì)壽命數(shù)據(jù)集中的毛刺數(shù)據(jù)和非法數(shù)據(jù)進(jìn)行過濾，其中最大值為缺省表示對(duì)次不設(shè)限制，見表1。

其次，由于構(gòu)建的數(shù)據(jù)集是時(shí)序上連續(xù)數(shù)據(jù)集，對(duì)于累計(jì)值出現(xiàn)跳變或者隨時(shí)間增大而減小的數(shù)據(jù)，如啟動(dòng)次數(shù)、運(yùn)行時(shí)間、變載次數(shù)用時(shí)序上連續(xù)的臨近數(shù)據(jù)進(jìn)行替換。

3.1.2 數(shù)據(jù)標(biāo)準(zhǔn)化

由于數(shù)據(jù)集中不同指標(biāo)的量綱、數(shù)據(jù)的量級(jí)存在差異，導(dǎo)致數(shù)據(jù)不具備可比性，為消除差異，通過數(shù)據(jù)標(biāo)準(zhǔn)化將原始指標(biāo)數(shù)據(jù)按比例縮放，是不同單位或者量級(jí)的指標(biāo)能夠進(jìn)行比較和加權(quán)。常用的標(biāo)準(zhǔn)化方法有min-max標(biāo)準(zhǔn)化、z-score標(biāo)準(zhǔn)化方法。

min-max標(biāo)準(zhǔn)化也叫歸一化，是對(duì)原始數(shù)據(jù)的線性變換，使結(jié)果落到[0，1]區(qū)間，如公式8所示：

z-score標(biāo)準(zhǔn)化先減去平均值，然后除以方差（公式9），其中為均值，為方差，從而使得結(jié)果的分布具備單位方差。

不同于最小最大標(biāo)準(zhǔn)化的是，z-score標(biāo)準(zhǔn)化不將值綁定到特定范圍，更好地保持樣本的間距。當(dāng)樣本中有異常值時(shí)，歸一化可能將正常的樣本壓縮到一起，使用梯度下降來訓(xùn)練模型時(shí)，模型需更長(zhǎng)的時(shí)間才能收斂。本文采用z-score進(jìn)行數(shù)據(jù)標(biāo)準(zhǔn)化處理。

3.2 LSTM神經(jīng)網(wǎng)絡(luò)構(gòu)建

LSTM的時(shí)序預(yù)測(cè)可分為單維單步、單維多步、多維單步、多維多步預(yù)測(cè)。

單維單步：輸入輸出是相同的單維度指標(biāo)，使用前n步預(yù)測(cè)后一步，例如通過前n月（5月，6月）的收入去預(yù)測(cè)n+1月（7月）的收入，此處n為2。

單維多步：輸入輸出是相同單維度指標(biāo)，使用前n步預(yù)測(cè)后m步，例如通過前n月的收入去預(yù)測(cè)后m月[n+1，n+2，…n+m]的收入。

多維單步：輸入是多維指標(biāo)，使用前n步多維指標(biāo)預(yù)測(cè)下一步的目標(biāo)指標(biāo)，例如通過前n月（5月，6月）的收入、購(gòu)物支出、交通支出等去預(yù)測(cè)n+1月（7月）的收入。

多維多步：輸入是多維指標(biāo)，使用前n步多維指標(biāo)預(yù)測(cè)后m步目標(biāo)指標(biāo)，例如通過前n月的收入、購(gòu)物支出等去預(yù)測(cè)后m月[n+1，n+2，…n+m]的收入。

本位采用多維多步方式，用氫燃料電池發(fā)動(dòng)機(jī)過去兩小時(shí)的啟動(dòng)次數(shù)、運(yùn)行時(shí)間、平均單片電壓、最低單片電壓、最高單片電壓、燃料電池輸出電流、變載次數(shù)、剩余壽命共8項(xiàng)指標(biāo)數(shù)據(jù)預(yù)測(cè)未來30分鐘發(fā)動(dòng)機(jī)的剩余壽命。由于數(shù)據(jù)采樣頻率為5秒一條，2小時(shí)為2*60*60=7200秒，則2小時(shí)的時(shí)間步長(zhǎng)換算為神經(jīng)網(wǎng)絡(luò)的輸入步長(zhǎng)為7200/5=1440，半小時(shí)預(yù)測(cè)量為0.5*60*60=1800秒，預(yù)測(cè)步長(zhǎng)為1800/5=360，轉(zhuǎn)換為多維多步即為用8維前1440步長(zhǎng)的數(shù)據(jù)預(yù)測(cè)后360步長(zhǎng)的剩余壽命。對(duì)后360步產(chǎn)的輸出求中位數(shù)即為最終的輸出結(jié)果，即未來半小時(shí)的燃料電池發(fā)動(dòng)機(jī)剩余壽命。

本文的LSTM模型基于python3.8和tensorflow1.4構(gòu)建，采用多層網(wǎng)絡(luò)結(jié)構(gòu)，由入到出依次為輸入層、LSTM1層、dropout1層、LSTM2層、dropout2層、全連接層、輸出層構(gòu)成。

輸入層是數(shù)據(jù)接入的入口，本文采用2小時(shí)的時(shí)間步長(zhǎng)，按照多維多步的訓(xùn)練模型，指標(biāo)維度為8，步長(zhǎng)為1440，網(wǎng)絡(luò)批次輸入的設(shè)置為為128，因此輸入層一次輸入的數(shù)據(jù)維度為128*1440*8的3維矩陣。

LSTM層是LSTM循環(huán)網(wǎng)絡(luò)單元，是LSTM神經(jīng)網(wǎng)絡(luò)的核心層，該層實(shí)現(xiàn)了遺忘門、輸入門、輸出門的設(shè)計(jì)構(gòu)想。

dropout層加入是為了防止模型過擬合。在模型訓(xùn)練過程中隨機(jī)讓網(wǎng)絡(luò)某些神經(jīng)元不工作，可以使得一個(gè)神經(jīng)元的訓(xùn)練不嚴(yán)格依賴于另一個(gè)神經(jīng)元，進(jìn)而使得特征之間的協(xié)同作用減弱，可有效提高網(wǎng)絡(luò)的泛化能力。

全連接層則是負(fù)責(zé)將輸出的360步長(zhǎng)的數(shù)據(jù)求中位數(shù)，作為輸出傳遞給輸出層。

輸出層最終獲取的是一個(gè)一維數(shù)據(jù)，即最終預(yù)測(cè)的剩余壽命。

4 壽命預(yù)測(cè)

4.1 評(píng)價(jià)指標(biāo)

神經(jīng)網(wǎng)絡(luò)根據(jù)目標(biāo)的不同，一般可分為分類問題和回歸問題。本文的壽命預(yù)測(cè)問題是一個(gè)典型回歸問題。本文采用均方根（RMSE）誤差（公式10）和絕對(duì)值（MAE）誤差（公式11）作為評(píng)價(jià)指標(biāo)，評(píng)價(jià)指標(biāo)越小，模型準(zhǔn)確度越高，模型越優(yōu)越。

其中yi為真實(shí)值，y_i為預(yù)測(cè)值。

4.2 預(yù)測(cè)結(jié)果及分析

4.2.1 學(xué)習(xí)率變化

在神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程中，學(xué)習(xí)率（learning rate）控制著參數(shù)更新速度。學(xué)習(xí)率大易形成震蕩，在最優(yōu)值附近徘徊，學(xué)習(xí)率小則收斂速度較慢。在模型訓(xùn)練初期，為得到比較優(yōu)的解，用較大學(xué)習(xí)率進(jìn)行訓(xùn)練，隨著訓(xùn)練進(jìn)行，逐步減小學(xué)習(xí)率，使模型在訓(xùn)練后期更加穩(wěn)定。本文采用動(dòng)態(tài)變化的學(xué)習(xí)率機(jī)制，通過指數(shù)衰減法（tf.train.exponential_decay（））逐步更新學(xué)習(xí)率。初使學(xué)習(xí)率設(shè)置為0.01，衰減速率為0.9，衰減步長(zhǎng)為1000，即每訓(xùn)練循環(huán)1000次，學(xué)習(xí)率衰減為原學(xué)習(xí)率的0.9，如公式12所示：

lr=lr_init*decay_rate（train_step/1000） ? ?（12）

式中l(wèi)r為當(dāng)前學(xué)習(xí)率，lr_init為初使學(xué)習(xí)率0.01，decay_rate為衰減率，train_step為當(dāng)前訓(xùn)練的迭代次數(shù)。

4.2.2 訓(xùn)練集模型優(yōu)化

本文將9臺(tái)發(fā)動(dòng)機(jī)的運(yùn)行數(shù)據(jù)分為兩部分，其中7臺(tái)發(fā)動(dòng)機(jī)數(shù)據(jù)作為訓(xùn)練模型時(shí)使用，另外2臺(tái)發(fā)動(dòng)機(jī)數(shù)據(jù)作為驗(yàn)證集使用。使用RMSE作為訓(xùn)練階段的損失函數(shù)，自適應(yīng)運(yùn)動(dòng)估計(jì)算法（Adam）作為優(yōu)化器，以不斷減小loss為目的，Adam優(yōu)化器不斷優(yōu)化權(quán)重參數(shù)，進(jìn)而使網(wǎng)絡(luò)模型越來越真實(shí)，loss越來越小。

在訓(xùn)練初期，RMSE較大，從訓(xùn)練0次到第100次之間，模型快速收斂，RMSE迅速?gòu)?00多下降到100，從第101到第5000次訓(xùn)練迭代的過程中，RMSE依舊在不斷減小，但減小的速率明顯低于0-100次的下降速率，模型收斂速度變慢，但誤差越來越小，模型越來越優(yōu)。

4.2.3 預(yù)測(cè)結(jié)果分析

本文采用兩臺(tái)發(fā)動(dòng)機(jī)數(shù)據(jù)作為驗(yàn)證數(shù)據(jù)集，對(duì)模型預(yù)測(cè)結(jié)果進(jìn)行實(shí)際驗(yàn)證。分別將兩臺(tái)車數(shù)據(jù)集，圖中紅線為實(shí)際值，藍(lán)線為預(yù)測(cè)值。橫軸為采樣點(diǎn)數(shù)每小時(shí)一個(gè)采樣點(diǎn)，縱軸為剩余壽命。

對(duì)比可以看出，1號(hào)車在初期預(yù)測(cè)值偏低于實(shí)際值，后期預(yù)測(cè)值偏高于實(shí)際值，而二號(hào)車預(yù)測(cè)值整體趨于實(shí)際值的上方，偏大于實(shí)際值。整體誤差情況如表2所示，誤差百分比計(jì)算公式如公式13，Abs為絕對(duì)值，pred為預(yù)測(cè)的剩余壽命，real為實(shí)際的剩余壽命。

誤差%=Abs（pred-real）/pred（13）

從預(yù)測(cè)結(jié)果看，驗(yàn)證車1號(hào)的RMSE高于訓(xùn)練階段后期的RMSE，驗(yàn)證車2號(hào)的RMSE與訓(xùn)練階段后期相近，整體誤差百分比1號(hào)車為2號(hào)車的2.64倍，整體誤差偏高。分析原始數(shù)據(jù)后發(fā)現(xiàn)，1號(hào)車與2號(hào)車的長(zhǎng)時(shí)間運(yùn)行地區(qū)不一致，1號(hào)車長(zhǎng)時(shí)間運(yùn)行于張家口地區(qū)，為公交線路運(yùn)行車輛，2號(hào)車長(zhǎng)時(shí)間運(yùn)行于北京市區(qū)，為園區(qū)擺渡車，訓(xùn)練集中的7臺(tái)發(fā)動(dòng)機(jī)數(shù)據(jù)有6臺(tái)來自和2號(hào)車同樣運(yùn)行區(qū)域以及使用方式，剩余1臺(tái)來自和1號(hào)車同樣的張家口地區(qū)公交運(yùn)行車輛。兩地的海拔差距，氣溫差異等差異，可能是造成1號(hào)車預(yù)測(cè)結(jié)果差異大的原因。

5 結(jié)論

本文采用基于數(shù)據(jù)驅(qū)動(dòng)的LSTM神經(jīng)網(wǎng)絡(luò)模型，提出了一種以數(shù)據(jù)為驅(qū)動(dòng)，通過模型預(yù)測(cè)氫燃料電池發(fā)動(dòng)機(jī)的剩余壽命，對(duì)比剩余壽命的衰退情況，針對(duì)性的做出維護(hù)保養(yǎng)計(jì)劃，為氫燃料電池發(fā)動(dòng)機(jī)的穩(wěn)定運(yùn)行提供安全保障，進(jìn)一步延長(zhǎng)發(fā)動(dòng)機(jī)的使用壽命。

上述研究實(shí)驗(yàn)所采用的數(shù)據(jù)均來源同一型號(hào)、同一批次，且在同一地區(qū)運(yùn)行的氫燃料電池汽車上的發(fā)動(dòng)機(jī)數(shù)據(jù)，由于氫燃料電池發(fā)動(dòng)機(jī)系統(tǒng)的復(fù)雜性，不同地區(qū)，不同海拔，空氣不同的硫化物濃度都會(huì)對(duì)發(fā)動(dòng)機(jī)使用壽命產(chǎn)生影響，后續(xù)的研究將加入地區(qū)、海拔、環(huán)境、空氣質(zhì)量、路況等元素對(duì)LSTM神經(jīng)網(wǎng)絡(luò)模型進(jìn)行優(yōu)化，使之具有泛化性和準(zhǔn)確性。

參考文獻(xiàn)：

[1]孫慶凱，王小君，張義志，等.基于LSTM和多任務(wù)學(xué)習(xí)的綜合能源系統(tǒng)多元負(fù)荷預(yù)測(cè)[J].電力系統(tǒng)自動(dòng)化，2021，45（5）：63-70.

[2]羅賢峰，何宇，劉仲富，等.基于LSTM的航空發(fā)動(dòng)機(jī)電氣附件性能預(yù)測(cè)[J].科技創(chuàng)新與應(yīng)用，2022，12（11）：56-60.

[3]王茂男.基于深度學(xué)習(xí)的鋰離子電池剩余壽命預(yù)測(cè)方法研究[D].2021.

[4]熊茜.基于神經(jīng)網(wǎng)絡(luò)的燃料電池發(fā)動(dòng)機(jī)故障診斷系統(tǒng)設(shè)計(jì)[D].2010.

[5]王鍇燁.基于循環(huán)神經(jīng)網(wǎng)絡(luò)的機(jī)械設(shè)備健康狀態(tài)預(yù)測(cè)方法[D].2019.

作者簡(jiǎn)介

郭克珩：（1978.07—），男，漢族，山西大同人，碩士研究生。研究方向：主要從車聯(lián)網(wǎng)、大數(shù)據(jù)及人工智能應(yīng)用研究，基于大數(shù)據(jù)的故障推理研究，基于大數(shù)據(jù)的燃料電池性能預(yù)測(cè)模型研究。

張 璞：（1981．10—），男，漢族，河南許昌人，碩士研究生。研究方向：主要從車聯(lián)網(wǎng)、大數(shù)據(jù)及人工智能應(yīng)用研究，基于大數(shù)據(jù)的故障推理研究，基于大數(shù)據(jù)的燃料電池性能預(yù)測(cè)模型研究。

郝 磊：（1988.10—），男，漢族，云南楚雄人，碩士研究生學(xué)歷，工程師。研究方向：主要從事物聯(lián)網(wǎng)大數(shù)據(jù)應(yīng)用研究，基于人工智能技術(shù)的燃料電池能效優(yōu)化研究，基于大數(shù)據(jù)的燃料電池壽命預(yù)測(cè)模型研究，基于知識(shí)圖譜的故障預(yù)測(cè)模型研究。