基于GAN-BiLSTM的鋰電池RUL預(yù)測(cè)

孟 春,汪濟(jì)洲,彭 相,張開(kāi)宇

(合肥學(xué)院 1.先進(jìn)制造工程學(xué)院;2.能源材料與化工學(xué)院,安徽 合肥 230601)

鋰電池因其循環(huán)使用周期長(zhǎng)、充電速率快等優(yōu)越特性,被廣泛應(yīng)用于民用、商用、軍用等能源設(shè)備中[1]。然而,隨著鋰電池多次的循環(huán)使用和充放電操作,電池的剩余使用壽命不可避免地縮減,最終導(dǎo)致系統(tǒng)無(wú)法正常工作甚至可能造成安全事故[2]。若能提前預(yù)測(cè)鋰電池的剩余使用壽命,并預(yù)先做出對(duì)策,勢(shì)必會(huì)大大降低危險(xiǎn)事故發(fā)生的頻次,因此準(zhǔn)確的鋰電池RUL預(yù)測(cè)顯得尤為重要。

目前對(duì)于鋰電池RUL預(yù)測(cè)任務(wù)方法的研究主要包括基于模型的方法和基于數(shù)據(jù)驅(qū)動(dòng)的方法[3-5]。其中前者需要考慮鋰電池內(nèi)部的復(fù)雜變化,從而建立相應(yīng)的物理和數(shù)學(xué)模型,而基于數(shù)據(jù)驅(qū)動(dòng)的方法采用統(tǒng)計(jì)學(xué)理論和機(jī)器學(xué)習(xí)方法[6],主要通過(guò)神經(jīng)網(wǎng)絡(luò)對(duì)RUL進(jìn)行估算。如張浩等人[7]將容量、阻抗、溫度作為輸入數(shù)據(jù),提出了基于BiLSTM的RUL預(yù)測(cè)算法,趙顯赫等人[8]利用attention強(qiáng)化輸入數(shù)據(jù)中敏感性較高的特征,將長(zhǎng)短期記憶網(wǎng)絡(luò)(long short-term memory, LSTM)和attention相融合,提出了基于Attention-LSTM的RUL預(yù)測(cè)模型。雖然采用數(shù)據(jù)驅(qū)動(dòng)的方法只需從數(shù)據(jù)出發(fā)而無(wú)需考慮復(fù)雜的電池內(nèi)部變化,但是此種方法需要大量的數(shù)據(jù)作為前提,若數(shù)據(jù)量較小則其準(zhǔn)確率無(wú)法保證,在一些獲取鋰電池充放電數(shù)據(jù)較為困難的場(chǎng)景,若采用數(shù)據(jù)驅(qū)動(dòng)的方法則準(zhǔn)確率較低。因此如何在鋰電池?cái)?shù)據(jù)量較小的情況下,研究一種具有高準(zhǔn)確率的RUL估計(jì)方法很有必要。

本文提出基于GAN-BiLSTM的鋰電池RUL預(yù)測(cè),在學(xué)者研究的基礎(chǔ)上,增加了GAN模型,通過(guò)生成對(duì)抗網(wǎng)絡(luò)擴(kuò)充數(shù)據(jù)集,在樣本數(shù)據(jù)量較小或數(shù)據(jù)獲取較為困難的場(chǎng)景下,大大提高了鋰電池RUL預(yù)測(cè)的準(zhǔn)確率。與其他循環(huán)神經(jīng)網(wǎng)絡(luò)進(jìn)行對(duì)比,獲得了較好的實(shí)驗(yàn)效果,并驗(yàn)證了具有較低的損失,因此具有一定的實(shí)際應(yīng)用價(jià)值。

1 相關(guān)方法分析

1.1 GAN

生成對(duì)抗網(wǎng)絡(luò)由兩部分組成[9],包括生成器G和判別器D,如圖1所示,生成器用于生成鋰電池?cái)?shù)據(jù),而判別器用于判斷數(shù)據(jù)的真假,具體步驟如下:隨機(jī)噪聲z經(jīng)過(guò)生成器G生成虛假的鋰電池?cái)?shù)據(jù)G(z),訓(xùn)練判別器D判斷樣本數(shù)據(jù)來(lái)源于生成數(shù)據(jù)G(z)還是真實(shí)的樣本數(shù)據(jù)x,用訓(xùn)練好的判別器訓(xùn)練生成器G生成接近真實(shí)鋰電池?cái)?shù)據(jù)的樣本,以求達(dá)到博弈論中的“納什平衡”,最終生成器生成接近真實(shí)的鋰電池?cái)?shù)據(jù)以欺騙判別器,而判別器判別不出真假。

圖1 GAN模型結(jié)構(gòu)圖

GAN模型的目標(biāo)函數(shù)如式(1)所示。

V(G,D)=Ex～Pdata(x)[logD(x)]+Ez～Px{log{1-D[G(z)]}}

(1)

式(1)中:高斯隨機(jī)噪聲z～pz;真實(shí)數(shù)據(jù)樣本x～pdata(x),分為兩部分進(jìn)行單獨(dú)訓(xùn)練,優(yōu)化一次生成器后再優(yōu)化k次訓(xùn)練器,從而使各自的代價(jià)函數(shù)達(dá)到最低。

1.2 LSTM

LSTM[10]在RNN的基礎(chǔ)上提出門(mén)控的概念,該模型由輸入門(mén),輸出門(mén),遺忘門(mén)組成。通過(guò)三個(gè)門(mén)的作用進(jìn)行信息的保留以及遺忘。若在訓(xùn)練過(guò)程中捕捉到兩個(gè)信息之間的關(guān)聯(lián)性,則會(huì)通過(guò)記憶單元保留其狀態(tài)信息,若未捕捉到其關(guān)聯(lián)性,則選擇遺忘該狀態(tài)信息。并通過(guò)記憶單元對(duì)數(shù)據(jù)進(jìn)行更新?；窘Y(jié)構(gòu)如圖2所示,表達(dá)式如式(2)-式(7)所示。

圖2 LSTM結(jié)構(gòu)圖

(1)輸入門(mén)

it=σ(Wixt+Uiht-1+bi)

(2)

式(2)中:it為輸入門(mén)輸出;σ為sigmoid激活函數(shù);Wi、Ui為權(quán)重參數(shù),ht-1為t-1時(shí)刻隱藏層輸出;bi為偏重參數(shù);xt為t時(shí)刻的輸入。

(3)

(2)遺忘門(mén)

ft=σ(Wfxt+Ufht-1+bf)

(4)

式(4)中:ft為遺忘層輸出;Wf、Uf為遺忘門(mén)的權(quán)重參數(shù);bf為遺忘門(mén)的偏重參數(shù)。

(3)輸出門(mén)

ot=σ(Woxt+Uoht-1+bo)

(5)

式(5)中:ot為輸出門(mén)輸出;Wo、Uo為輸出門(mén)的權(quán)重參數(shù);bo為輸出門(mén)的偏重參數(shù)。

ht=ot·tanh(Ct)

(6)

式(6)中:ht為t時(shí)刻隱藏層的輸出;Ct為t時(shí)刻內(nèi)部狀態(tài)。

(4)單元狀態(tài)

(7)

式(7)中:Ct-1為t-1時(shí)刻內(nèi)部狀態(tài),反映歷史信息。

LSTM中每個(gè)神經(jīng)元都通過(guò)“逐元素運(yùn)算”和“激活運(yùn)算”,選擇和傳遞狀態(tài)中有用的信息,但LSTM僅學(xué)習(xí)了過(guò)去狀態(tài)對(duì)當(dāng)前狀態(tài)的影響,忽略了未來(lái)狀態(tài)的作用,沒(méi)有充分利用時(shí)間序列的前后依賴性關(guān)系,因此對(duì)于數(shù)據(jù)的學(xué)習(xí)能力有所欠缺。而B(niǎo)i-LSTM網(wǎng)絡(luò)能同時(shí)學(xué)習(xí)過(guò)去與未來(lái)狀態(tài)對(duì)當(dāng)前狀態(tài)的作用,極大提高了模型對(duì)具有前后依賴關(guān)系的長(zhǎng)序數(shù)據(jù)的學(xué)習(xí)能力,能夠迅速捕捉前后數(shù)據(jù)間的細(xì)微關(guān)系。鋰電池RUL預(yù)測(cè)中不僅要考慮過(guò)去數(shù)據(jù)對(duì)當(dāng)前狀態(tài)的影響,也需要考慮將來(lái)數(shù)據(jù)對(duì)當(dāng)前狀態(tài)的影響,所以必須考慮前后兩個(gè)方面的狀態(tài)關(guān)系。因此本文選擇BiLSTM替代LSTM模型,在每一個(gè)t時(shí)刻都要進(jìn)行從前往后的正向處理hL和從后往前的逆向處理hR,t時(shí)刻的BiLSTM輸出為:ht=hL·hR。

2 GAN-BiLSTM模型與算法建立

鋰電池的一次循環(huán)充放電數(shù)據(jù)中存在著大量的數(shù)據(jù),由于這些數(shù)據(jù)中存在著大量的冗余信息不能直接將數(shù)據(jù)作為模型的輸入,根據(jù)學(xué)者研究[11],每項(xiàng)數(shù)據(jù)指標(biāo)中的最大值、最小值或者突變點(diǎn)可以更好地表征電池性能,因此本文根據(jù)鋰電池的輸入數(shù)據(jù):溫度、容量、電壓數(shù)據(jù),按照偏度skew,正態(tài)分布的峰度值kurtosis、最大值max、最小值min、平均值mean、標(biāo)準(zhǔn)差std進(jìn)行劃分?jǐn)?shù)據(jù),再加上時(shí)間t的值,得到原始數(shù)據(jù),并劃分?jǐn)?shù)據(jù)集為訓(xùn)練集和測(cè)試集,按照SOH容量計(jì)算的方式計(jì)算每個(gè)循環(huán)次數(shù)的鋰電池健康狀態(tài)(state of health, SOH)值,其含義如式(8)所示,并將SOH值小于80%時(shí)的最大值作為截止SOH,而標(biāo)簽y即為截止SOH時(shí)對(duì)應(yīng)循環(huán)次數(shù)值與當(dāng)前循環(huán)次數(shù)值之差。

(8)

式(8)中:Cnow和C0分別為鋰電池的當(dāng)前可用容量和標(biāo)稱容量。

為減少異常數(shù)據(jù)的影響,加快訓(xùn)練過(guò)程中數(shù)據(jù)收斂,首先對(duì)數(shù)據(jù)歸一化和標(biāo)準(zhǔn)化處理,標(biāo)準(zhǔn)化后的值如式(9)所示。

(9)

其中:x為樣本值;x*為標(biāo)準(zhǔn)化后的值;min(·)、max(·)分別表示取最小值和取最大值。標(biāo)準(zhǔn)化操作使得所有數(shù)據(jù)位于[0,1]之間,減少了單個(gè)數(shù)據(jù)對(duì)整體的影響,并設(shè)置時(shí)間窗大小對(duì)數(shù)據(jù)進(jìn)行滑動(dòng),其中窗寬度為10,時(shí)間步長(zhǎng)為1,得到預(yù)處理后的數(shù)據(jù)。再通過(guò)GAN模型進(jìn)行數(shù)據(jù)的擴(kuò)充后使用BiLSTM模型進(jìn)行預(yù)測(cè),所建立的GAN-BiLSTM模型,如圖3所示。

圖3 基于GAN-BiLSTM的鋰電池RUL預(yù)測(cè)模型圖

對(duì)鋰電池?cái)?shù)據(jù)增強(qiáng)的GAN模型,如圖4所示,為捕捉鋰電池前后數(shù)據(jù)相互依賴的內(nèi)部關(guān)系,生成器和判別器均采用BiLSTM模型。

圖4 生成器和判別器結(jié)構(gòu)圖

在生成器中,維度為(11,41)的隨機(jī)噪聲經(jīng)過(guò)三層BiLSTM并通過(guò)RepeatVector層轉(zhuǎn)換變成了(11,256)的張量,然后經(jīng)過(guò)三層BiLSTM和一層LSTM后,輸出(11,41)的張量,即為一組gan模型生成數(shù)據(jù),生成器網(wǎng)絡(luò)的BiLSTM層均采用了ReLU激活函數(shù)。

在判別器中,輸入為(11,41)的張量,分為真實(shí)的鋰電池?cái)?shù)據(jù)和生成器生成的數(shù)據(jù),經(jīng)過(guò)兩個(gè)BiLSTM層、一個(gè)Dropout層、一個(gè)RepeatVector層后,輸出(1,256)的張量,再經(jīng)過(guò)一層TimeDistributed層,一層Dropout層,輸出(1,128)張量,最終輸出前經(jīng)過(guò)一個(gè)全連接層后得到輸出值,即為判別器的判別結(jié)果,判別器的激活函數(shù)采用LeakyRelu。

實(shí)驗(yàn)中選擇GAN模型生成的樣本數(shù)量為128,原輸入數(shù)據(jù)的維度為(302,11,41),經(jīng)過(guò)GAN模型進(jìn)行數(shù)據(jù)增強(qiáng)的數(shù)據(jù)維度為(128,11,41),擴(kuò)充后數(shù)據(jù)量維度達(dá)到(430,11,41)。最后使用BiLSTM對(duì)鋰電池此RUL進(jìn)行預(yù)測(cè)。本文的模型采用了一層BiLSTM網(wǎng)絡(luò),前向LSTM的神經(jīng)元個(gè)數(shù)是624,反向LSTM的神經(jīng)元個(gè)數(shù)是416,激活函數(shù)采用Relu,損失函數(shù)采用MSE變體,優(yōu)化器采用Adam,將原始數(shù)據(jù)和增強(qiáng)的數(shù)據(jù)一起輸入到BiLSTM模型中進(jìn)行訓(xùn)練,最后通過(guò)全連接層和relu激活函數(shù)對(duì)剩余壽命進(jìn)行預(yù)測(cè)。

3 實(shí)驗(yàn)與結(jié)果分析

由于GAN-BiLSTM模型采用了GAN模型和基本的時(shí)間序列模型BiLSTM,為充分驗(yàn)證模型的先進(jìn)性,通過(guò)實(shí)驗(yàn)與未經(jīng)數(shù)據(jù)集拓展的其他時(shí)間序列模型:LSTM、GRU、BiGRU、BiLSTM進(jìn)行比較,并對(duì)實(shí)驗(yàn)結(jié)果進(jìn)行比較,驗(yàn)證本文提出模型的優(yōu)越性。

3.1數(shù)據(jù)集介紹

本實(shí)驗(yàn)采用牛津大學(xué)老化實(shí)驗(yàn)數(shù)據(jù)集[12],電池容量740mAh的SLPB 533459H鋰電池。采用恒壓恒流方式進(jìn)行循環(huán)充放電,共選擇了cell1-cell8共8塊電池進(jìn)行實(shí)驗(yàn),每塊鋰電池循環(huán)充放電次數(shù)不超過(guò)8200次,每個(gè)電池?cái)?shù)據(jù)中包含著充電和放電的數(shù)據(jù),每組數(shù)據(jù)中包括容量、電壓、時(shí)間、溫度等數(shù)據(jù),并將其作為輸入數(shù)據(jù)。

3.2 評(píng)價(jià)指標(biāo)

(10)

(11)

(12)

(2)diff與0進(jìn)行比較,得到是否大于0的布爾類型張量greater。

(3)將布爾類型張量greater轉(zhuǎn)換為float32類型(0或者1)。

(4)將greater值加1。

(6)計(jì)算MSE值與greater乘積:loss=MSE×greater。

(a)MSE損失函數(shù)曲線

3.3 結(jié)果分析

五組模型在SLPB 533459H鋰電池上的預(yù)測(cè)效果如圖6所示,可以看出,幾種模型的總體預(yù)測(cè)趨勢(shì)一致,但是LSTM模型的預(yù)測(cè)曲線與實(shí)際曲線相比,始終有一定差距,這是因?yàn)槭褂肔STM僅考慮了單向的影響,并沒(méi)有考慮到前后數(shù)據(jù)間相互依賴的關(guān)系,因此差距較大。BiLSTM、GRU、BiGRU與實(shí)際曲線較為擬合,但效果都沒(méi)有加入GAN模型進(jìn)行數(shù)據(jù)增強(qiáng)的GAN-BiLSTM模型擬合效果好。這是因?yàn)樵谛颖镜挠?xùn)練中會(huì)出現(xiàn)過(guò)擬合或者樣本數(shù)據(jù)量較小無(wú)法表征整體的情況,GAN模型的加入,解決了小樣本下訓(xùn)練的困難,在樣本量較少時(shí),通過(guò)擴(kuò)充數(shù)據(jù)集使模型泛化能力大大提高,從最初的樣本個(gè)數(shù)302,擴(kuò)充到430,樣本數(shù)量大大提高,在樣本數(shù)量充足的情況下,模型的訓(xùn)練效果也更好,所以曲線擬合程度也較高。

圖6 模型預(yù)測(cè)比較曲線圖

為了更加直觀地看出各個(gè)模型的效果,根據(jù)實(shí)驗(yàn)結(jié)果繪制前2000個(gè)epoch的模型訓(xùn)練集上損失曲線圖和驗(yàn)證集上損失曲線圖,如圖7所示。由圖7中的結(jié)果可以直觀反映出LSTM模型表現(xiàn)欠佳,前2000個(gè)Epoch損失未能迅速下降,而B(niǎo)iLSTM、GRU、BiGRU、GAN-BiLSTM曲線迅速下降,如圖8所示,BiLSTM模型損失下降過(guò)程中振蕩較為嚴(yán)重,幅度較大,一直不能達(dá)到穩(wěn)定,而GAN模型的加入擴(kuò)充了數(shù)據(jù)集,使得前1000個(gè)Epoch損失的振蕩幅度快速下降,后趨于穩(wěn)定,GAN-BiLSTM的損失值最低值達(dá)到24.1,較其他幾個(gè)模型也始終最低。

圖7 模型訓(xùn)練損失圖

圖8 模型訓(xùn)練損失圖(局部放大圖)

在驗(yàn)證集上驗(yàn)證時(shí)如圖9所示,與在訓(xùn)練集上訓(xùn)練的趨勢(shì)一致,LSTM模型的預(yù)測(cè)損失較大,且損失值較高一直不能快速下降,其驗(yàn)證的效果預(yù)測(cè)精度較差,局部放大后如圖10所示,前500個(gè)epoch雖然BiLSTM快速震蕩但后趨于穩(wěn)定,并且損失值達(dá)到最低1.04,而B(niǎo)iLSTM模型雖然能夠快速穩(wěn)定但較GAN-BiLSTM而言,始終保持一定損失值。與其他模型對(duì)比表明GAN-BiLSTM在驗(yàn)證集上預(yù)測(cè)精度較高,即預(yù)測(cè)的RUL更接近真實(shí)值。

圖9 模型驗(yàn)證損失圖

圖10 模型驗(yàn)證損失圖(局部放大圖)

結(jié)語(yǔ)

本文提出的GAN-BiLSTM模型在小樣本場(chǎng)景下通過(guò)GAN進(jìn)行數(shù)據(jù)集的擴(kuò)充,使用BiLSTM模型進(jìn)行在線鋰電池RUL預(yù)測(cè),模型評(píng)估階段采用符合實(shí)際需求的鋰電池RUL預(yù)測(cè)評(píng)價(jià)指標(biāo):基于MSE變體的評(píng)價(jià)指標(biāo),并在牛津大學(xué)鋰電池?cái)?shù)據(jù)集上進(jìn)行驗(yàn)證,通過(guò)與LSTM、GRU、BiGRU、BiLSTM模型進(jìn)行對(duì)比實(shí)驗(yàn),實(shí)驗(yàn)證明了GAN-BiLSTM在訓(xùn)練集和驗(yàn)證集上損失最低:在訓(xùn)練集上損失達(dá)到24.1,測(cè)試集上達(dá)到1.04。與其他時(shí)間序列模型相對(duì)比模型的泛化能力較高,因此有著更高的預(yù)測(cè)精度,即預(yù)測(cè)的鋰電池RUL值更接近真實(shí)值,通過(guò)提前預(yù)測(cè)鋰電池剩余循環(huán)次數(shù),優(yōu)化退役鋰電池的后續(xù)處理措施,因此具有一定的工程應(yīng)用價(jià)值。