基于LSTM網(wǎng)絡(luò)的衛(wèi)星壽命預(yù)測研究

張 偉，王憲勇，3，崔秀艷，何 旭

(1.中國科學(xué)院沈陽自動化研究所機(jī)器人學(xué)國家重點(diǎn)實(shí)驗(yàn)室，遼寧沈陽 110016;2.中國科學(xué)院機(jī)器人與智能制造創(chuàng)新研究院，遼寧沈陽 110169;3.沈陽理工大學(xué)自動化與電氣工程學(xué)院，遼寧沈陽 110159;4.河北軟件職業(yè)技術(shù)學(xué)院，河北保定 071000)

1 引言

現(xiàn)如今，對未知空間領(lǐng)域的積極探索，極大地促進(jìn)了科學(xué)技術(shù)的高速發(fā)展，航天器便是應(yīng)時代發(fā)展的產(chǎn)物。航天技術(shù)的發(fā)展與進(jìn)步，是社會和諧、國家安全、人民幸福的有力保障。為保證一系列探月活動等深空任務(wù)的高效開展，衛(wèi)星的可靠性，即器件的穩(wěn)定性、使用壽命等問題成為重中之重，是航天器運(yùn)行的基本保障，更是開展探月活動的基石。

2013年7月至2014年5月，由于各種故障的出現(xiàn)，俄羅斯“質(zhì)子-M”火箭七次發(fā)射失敗、2015年4月，美國太空探索技術(shù)公司完成了五次空間站貨運(yùn)任務(wù)后，第六次將“龍”號宇宙飛船火箭發(fā)射到國際空間站時，火箭第一級垂直降落嘗試失敗。高成本、任務(wù)重已然成為衛(wèi)星的標(biāo)簽，為確保衛(wèi)星安全的運(yùn)行在其軌道上，需要對其執(zhí)行任務(wù)期間的工作狀態(tài)進(jìn)行分析和研究，通過數(shù)據(jù)信息預(yù)測其剩余壽命，以最大可能性減少或避免由時間積累導(dǎo)致的設(shè)備老化故障而造成的損失，十分有必要。

電源系統(tǒng)是航天器的核心部件之一，電源系統(tǒng)的研發(fā)、維護(hù)管理技術(shù)的不斷進(jìn)步是經(jīng)國大業(yè)。鋰電池——航天器上易損壞、易損耗的關(guān)鍵部件，其眾多優(yōu)點(diǎn)中的存儲能量多、質(zhì)量輕、使用壽命長等特點(diǎn)，符合航天技術(shù)進(jìn)步的需求。航天技術(shù)的日益發(fā)展與完善，電源技術(shù)更隨之不斷完善，鋰離子電池日趨取代了傳統(tǒng)鎳鎘蓄電池在人造衛(wèi)星中的地位，其質(zhì)量輕、體積小，減輕衛(wèi)星固有質(zhì)量，有效載荷得到顯著提高，因此，鋰電池成為人造衛(wèi)星核心儲能設(shè)備，是航天事業(yè)發(fā)展的必然選擇。文獻(xiàn)[1]統(tǒng)計(jì)了527次國外航天器發(fā)生故障的原因，電源系統(tǒng)發(fā)生的故障占總比的14%，位居可能發(fā)生的故障因素的第二位。鋰電池作為能源系統(tǒng)的主要儲能設(shè)備及能源供應(yīng)，研究影響其性能退化的因素以及預(yù)測其剩余使用壽命，對提高衛(wèi)星使用的可靠性起到至關(guān)重要的作用。壽命預(yù)測技術(shù)不僅保證了系統(tǒng)的安全性[2]和可靠性[3-5]，又能最大化的利用資源，避免了資源浪費(fèi)。隨著人工智能技術(shù)與大數(shù)據(jù)的不斷應(yīng)用和發(fā)展，數(shù)據(jù)挖掘算法、遞歸濾波算法、粒子濾波算法等以及深度學(xué)習(xí)網(wǎng)絡(luò)模型都被應(yīng)用于衛(wèi)星的壽命預(yù)測研究中。

1)數(shù)據(jù)挖掘算法，可以僅通過電池在使用階段各個時刻的表征數(shù)據(jù)來建立回歸模型，而不需要分析復(fù)雜多變的化學(xué)反應(yīng)來建立機(jī)理模型[6]，使得電池的健康管理變得更為簡單、便捷。Anton[7]等人應(yīng)用支持向量回歸機(jī)(Support Vector Regression，SVR)分析鋰電池的電流與溫度、電池的荷電狀態(tài)與電壓的關(guān)系，建立了基于數(shù)據(jù)驅(qū)動(data-driven model)來分析電池使用情況的模型，從而估計(jì)電池的損耗情況。

2)遞歸濾波算法(Recursive filter algorithm)，直接使用電池在使用階段各個時刻的表征數(shù)據(jù)來分析、估計(jì)與預(yù)測電池的故障，因此被廣泛應(yīng)用于鋰電池健康管理中。同類別的卡爾曼濾波算法(Kalman Filter)也毫無疑問的被一些研究者應(yīng)用于電池健康狀態(tài)診斷的研究中。因此，Andre[8]等人建立了無跡卡爾曼濾波器(Unscented Kalman Filter，UKF)與卡爾曼雙濾波器模型估計(jì)電池的剩余容量與荷電狀態(tài)，通過剩余容量值與荷電狀態(tài)來估計(jì)電池的剩余使用時長。

3)粒子濾波(Particle Filter，PE)，貝葉斯濾波方法中最簡單的一種，通過粒子定位，可以反應(yīng)被測量的密度信息。Li等人應(yīng)用粒子濾波估計(jì)出鋰電池容量值隨時間衰退的趨勢，根據(jù)此趨勢建立方程，得出相關(guān)關(guān)系的表達(dá)，估計(jì)出電池在任意時刻的容量信息，從而得出電池當(dāng)前的使用情況，但是并未提及如何進(jìn)行鋰電池剩余使用時間預(yù)估計(jì)的方法。

衛(wèi)星上的鋰電池[9]隨著充放電次數(shù)的不斷增加，電池電壓從滿電壓放電到閾值電壓的時間會逐漸縮短[10]，按照等電壓記錄時間會得到一組組序列數(shù)據(jù)。LSTM網(wǎng)絡(luò)因其獨(dú)特的結(jié)構(gòu)被頻繁用于序列數(shù)據(jù)的分析與預(yù)測，被廣泛的應(yīng)用在語音識別、語言建模、機(jī)器翻譯等。鋰電池放電的特性也符合序列數(shù)據(jù)的特性，本文將采集的電池放電時間信息結(jié)合LSTM網(wǎng)絡(luò)算法，進(jìn)行衛(wèi)星電源系統(tǒng)的壽命預(yù)測[11]。

2 LSTM網(wǎng)絡(luò)的結(jié)構(gòu)和特點(diǎn)

LSTM是循環(huán)神經(jīng)網(wǎng)絡(luò)的最知名和成功的擴(kuò)展。由于循環(huán)神經(jīng)網(wǎng)絡(luò)有梯度消失和梯度爆炸的問題，學(xué)習(xí)能力有限，在實(shí)際的任務(wù)中往往達(dá)不到預(yù)期的效果，長短時記憶網(wǎng)絡(luò)可以對有價值的信息進(jìn)行長期記憶，從而減小循環(huán)神經(jīng)網(wǎng)絡(luò)的信息難度，因此在語音識別、圖像描述文本生成等問題中有著廣泛的應(yīng)用。如圖1為長短時記憶網(wǎng)絡(luò)模型內(nèi)部結(jié)構(gòu)示意圖。

圖1 長短時記憶網(wǎng)絡(luò)內(nèi)部結(jié)構(gòu)

與傳統(tǒng)的循環(huán)神經(jīng)網(wǎng)絡(luò)相比，長短時記憶網(wǎng)絡(luò)仍然是基于xt和ht-1來計(jì)算ht，內(nèi)部的結(jié)構(gòu)進(jìn)行了優(yōu)化設(shè)計(jì)來緩解誤差的無限累計(jì)，加入了輸入門it、遺忘門ft以及輸出門ot三個門和一個內(nèi)部記憶單元ct輸入門控制當(dāng)前時刻新狀態(tài)更新到細(xì)胞中的程度；遺忘門控制上一時刻細(xì)胞單元中的信息被遺忘掉的程度；輸出門決定當(dāng)前細(xì)胞輸出有多大程度上取決于當(dāng)前的記憶單元。通過“門”來對數(shù)據(jù)流進(jìn)行控制，來增加或去除信息到細(xì)胞狀態(tài)的能力，計(jì)算過程如式(1)至式(6)。

it=σ(wixt+uiht-1+bi)

(1)

ft=σ(wfxt+ufht-1+bf)

(2)

ot=σ(woxt+uoht-1+bo)

(3)

(4)

(5)

ht=ot⊙tanh(ct)

(6)

在LSTM細(xì)胞中，如圖1所示，第一步會經(jīng)過“遺忘門”，該門會讀取細(xì)胞上一時刻的輸出ht-1和當(dāng)前時刻的輸入xt。數(shù)據(jù)經(jīng)過sigmoid函數(shù)輸出一個在0和1之間的數(shù)值，更新上一時刻細(xì)胞狀態(tài)ct-1，‘1’表示“完全保留”，‘0’表示“完全舍棄”。更新后的數(shù)據(jù)與輸入層的數(shù)據(jù)結(jié)合，得到當(dāng)前細(xì)胞狀態(tài)ct，作為下一時刻更新細(xì)胞狀態(tài)的輸入數(shù)據(jù)。然后對信息就行篩選，決定什么信息將被更新到細(xì)胞狀態(tài)中，統(tǒng)稱為“輸入層”，一部分為sigmoid層，決定什么信息將要更新，另一部分為tanh層，根據(jù)輸入產(chǎn)生一個候選向量。接著將細(xì)胞狀態(tài)由舊狀態(tài)ct-1更新到新狀態(tài)ct。將舊狀態(tài)ct-1與ft相乘，對信息進(jìn)行篩選，并加上更新的新信息，得到新的狀態(tài)ct。最后，根據(jù)當(dāng)前的細(xì)胞狀態(tài)產(chǎn)生一個輸出值，作為下一個細(xì)胞的輸入值。

3 基于LSTM網(wǎng)絡(luò)的衛(wèi)星壽命預(yù)測方法

本論文采用兩種規(guī)范化數(shù)據(jù)的方法，分別為基于最小-最大規(guī)范化、Z-score規(guī)范化，對比不同規(guī)范化對數(shù)據(jù)預(yù)測的影響。

3.1 網(wǎng)絡(luò)細(xì)胞的長度及層數(shù)的選取

如圖2所示為長短時記憶網(wǎng)絡(luò)的基本架構(gòu)。

圖2 長短時記憶網(wǎng)絡(luò)架構(gòu)

為使算法預(yù)測的準(zhǔn)去性較高，在正式預(yù)測前需要對算法的層數(shù)及細(xì)胞的長度進(jìn)行選取，在相同層數(shù)不同細(xì)胞長度及相同細(xì)胞長度不同層數(shù)的長短時記憶網(wǎng)絡(luò)模型中進(jìn)行訓(xùn)練和測試分別得到如圖3、圖4所示的測試圖片。

圖3中，從左至右從上至下分別是細(xì)胞長度為16、32、64、128的長短時記憶網(wǎng)絡(luò)，從圖中可以看出隨著層數(shù)的增加預(yù)測的精度在不斷提高，在16層和32層時可能由于模型過于簡單，存在欠擬合問題使其預(yù)測精度不高，在64和128個細(xì)胞長度的長短時記憶網(wǎng)絡(luò)預(yù)測的效果較好。考慮效率等問題，選取64個細(xì)胞長度的網(wǎng)絡(luò)模型

圖3 不同細(xì)胞長度的算法訓(xùn)練對比圖

圖4中，從左至右從上至下分別是網(wǎng)絡(luò)層數(shù)為1、2、3和4的網(wǎng)絡(luò)模型，從圖中可以看出使用1層的網(wǎng)絡(luò)模型預(yù)測效果最好，2層和3層的網(wǎng)絡(luò)模型預(yù)測數(shù)據(jù)出現(xiàn)波動情況，4層的網(wǎng)絡(luò)模型甚至無法進(jìn)行數(shù)據(jù)預(yù)測。故本文選取1層的LSTM網(wǎng)絡(luò)模型。

圖4 不同層數(shù)的算法訓(xùn)練對比圖

3.2 數(shù)據(jù)預(yù)處理方法

衛(wèi)星在長期運(yùn)行過程中不可避免地會逐漸老化，如果運(yùn)行的條件復(fù)雜，運(yùn)行環(huán)境惡劣，則會加速其老化的過程。設(shè)備的剩余壽命減少，安全隱患風(fēng)險(xiǎn)逐漸增大，甚至導(dǎo)致突發(fā)性的惡劣事件。

在影響衛(wèi)星壽命的諸多因素中，可控因素只有衛(wèi)星本身。通常會研究鋰電池和動量輪近而來研究衛(wèi)星的剩余壽命。美國國家航空航天局(NASA)公布的衛(wèi)星電池測量數(shù)據(jù)集(共對4塊電池進(jìn)行了相同的實(shí)驗(yàn)，分別為電池5、電池6、電池7和電池18)如圖5所示為電池5的放電曲線，從中可以看出隨著充放電次數(shù)的增加電池有效使用時間逐漸減少。

圖5 放電曲線

為使用長短時記憶網(wǎng)絡(luò)，需要對此數(shù)據(jù)進(jìn)行預(yù)處理，對數(shù)據(jù)進(jìn)行特征提取，選取電壓相同時間點(diǎn)，記錄下電池此時已使用的時間，每組數(shù)據(jù)選取170個特征數(shù)據(jù)一共130組數(shù)據(jù)作為長短時記憶網(wǎng)絡(luò)的輸入數(shù)據(jù)來進(jìn)行網(wǎng)絡(luò)的訓(xùn)練，其中70%的數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)集，30%的數(shù)據(jù)作為測試數(shù)據(jù)集。處理后的訓(xùn)練數(shù)據(jù)集如圖6所示。

圖6 電池放電時間曲線

圖6中每條數(shù)據(jù)之間相差20次充放電次數(shù)，圖中曲線可以明顯的看出電池使用時間在逐漸減少。

從圖6中可以看出數(shù)據(jù)量級跨度比較大，包含十、百、千，為提高數(shù)據(jù)預(yù)測的精度，需要對數(shù)據(jù)進(jìn)行無量綱處理。本文采用Z-score數(shù)據(jù)規(guī)范化方法，Z-score規(guī)范化公式為

(7)

圖7 數(shù)據(jù)無量綱化

3.3 LSTM網(wǎng)絡(luò)的訓(xùn)練與預(yù)測

網(wǎng)絡(luò)的總體架構(gòu)選取如表1所示，網(wǎng)絡(luò)訓(xùn)練前采用Z-score規(guī)范化方法對數(shù)據(jù)進(jìn)行無量綱操作，提高訓(xùn)練精度。網(wǎng)絡(luò)的輸入為130組數(shù)據(jù)，每組包含170個數(shù)據(jù)，共22100個數(shù)據(jù)。70%為訓(xùn)練數(shù)據(jù)集，30%為測試數(shù)據(jù)集。經(jīng)過訓(xùn)練，網(wǎng)絡(luò)預(yù)測準(zhǔn)確率達(dá)到98%以上，如圖8所示為網(wǎng)絡(luò)的預(yù)測曲線，數(shù)據(jù)分析如表2所示，預(yù)測誤差穩(wěn)定在0.03左右。

表1 網(wǎng)絡(luò)架構(gòu)設(shè)定

圖8 預(yù)測曲線

表2 數(shù)據(jù)分析

4 結(jié)論

本文基于LSTM網(wǎng)絡(luò)提出一種衛(wèi)星壽命預(yù)測方法，通過對網(wǎng)絡(luò)的細(xì)胞長度及層數(shù)進(jìn)行研究，選取了合適的細(xì)胞長度及層數(shù)，采用NASA公布的衛(wèi)星電池?cái)?shù)據(jù)集作為網(wǎng)絡(luò)的數(shù)據(jù)集，并對數(shù)據(jù)集無量綱化處理提高預(yù)測的準(zhǔn)確率。對訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行測試，測試結(jié)果準(zhǔn)確，表明了使用該方法進(jìn)行衛(wèi)星壽命預(yù)測的有效性。