GRU-BP在數(shù)字化車間關(guān)鍵部件壽命預(yù)測(cè)中的研究

郝俊虎，胡 毅，崔寧寧，韓豐羽，徐崇良

1(中國科學(xué)院 沈陽計(jì)算技術(shù)研究所， 沈陽 110168)

2(中國科學(xué)院大學(xué) 計(jì)算機(jī)與控制學(xué)院，北京 101408)

3(沈陽高精數(shù)控智能技術(shù)股份有限公司， 沈陽 110168)

E-mail ：ekkohao@126.com

1 引 言

大數(shù)據(jù)的發(fā)展正驅(qū)動(dòng)著傳統(tǒng)數(shù)控車間的數(shù)字化和智能化變革，其研究的本質(zhì)在于探測(cè)事務(wù)無法被直接觀測(cè)的內(nèi)在規(guī)律，從而對(duì)事務(wù)未來的發(fā)展方向進(jìn)行預(yù)測(cè).工業(yè)4.0可以通過應(yīng)用大數(shù)據(jù)處理方法，數(shù)字化系統(tǒng)，以及更多面向未來的智能技術(shù)等使數(shù)字化車間變得智能化.然而，數(shù)字化車間的高復(fù)雜性、高自動(dòng)化和靈活性給數(shù)控設(shè)備的可靠性和安全性帶來了新的挑戰(zhàn).

預(yù)測(cè)性維護(hù)作為數(shù)字化車間制造維護(hù)的重要組成部分，在調(diào)度、維護(hù)管理和質(zhì)量改進(jìn)中起著至關(guān)重要的作用[1].數(shù)字化車間安全保證中最重要的環(huán)節(jié)是故障的排查和維修，但是目前故障的排查和維修都是需要在停機(jī)的狀態(tài)下完成，這不僅可能會(huì)影響生產(chǎn)加工的進(jìn)度，還可能會(huì)增加人工干預(yù)的風(fēng)險(xiǎn).人工排查和維修還有一個(gè)最難解決的問題是檢查周期的選擇，周期過短則會(huì)影響機(jī)器的正常運(yùn)行，周期過長又會(huì)增加生產(chǎn)的風(fēng)險(xiǎn).如果能夠?qū)?shù)字化車間關(guān)鍵設(shè)備的關(guān)鍵部位的剩余使用壽命(RUL)進(jìn)行預(yù)測(cè)，那么將會(huì)極大的改善這個(gè)問題.

數(shù)字化車間的部件或系統(tǒng)的RUL定義為從當(dāng)前時(shí)間到該部件或系統(tǒng)使用壽命結(jié)束時(shí)的長度[2].RUL預(yù)測(cè)可以看作是數(shù)字化車間安全運(yùn)行的基礎(chǔ)，自提出以來受到了大量的研究學(xué)者對(duì)其預(yù)測(cè)方法進(jìn)行研究.Camci[3]和Liao[4]等人將剩余使用壽命預(yù)測(cè)分為了基于數(shù)學(xué)和物理模型的、基于經(jīng)驗(yàn)的和基于數(shù)據(jù)的三種方法.基于數(shù)學(xué)和物理模型的的方法需要構(gòu)建退化的物理故障模型，例如裂縫，磨損，腐蝕等.物理模型對(duì)于在沒有足夠數(shù)據(jù)可用的情況下解決RUL問題非常有用.在這種情況下，通過物理模型結(jié)合實(shí)際數(shù)據(jù)學(xué)習(xí)出RUL估計(jì)模型，可以很大程度上減少故障的發(fā)生.但是，這種物理故障模型非常復(fù)雜且難以構(gòu)建，并且許多部件可能也并不存在物理模型，所以這種方法很難應(yīng)用于復(fù)雜的系統(tǒng).基于經(jīng)驗(yàn)的包括專家系統(tǒng)和模糊邏輯理論，這種方法非常依賴經(jīng)驗(yàn)的準(zhǔn)確程度以及經(jīng)驗(yàn)知識(shí)的多少，需要大量的經(jīng)驗(yàn)積累和總結(jié).基于數(shù)據(jù)的方法則不需要探索和理解繁瑣的機(jī)械工作原理，只需要采集足夠的數(shù)據(jù)用于模型訓(xùn)練和預(yù)測(cè)即可.即對(duì)于具有足夠退化數(shù)據(jù)的設(shè)備，使用傳感器數(shù)據(jù)和操作條件數(shù)據(jù)來估計(jì)RUL的數(shù)據(jù)驅(qū)動(dòng)方法是優(yōu)選的且有效的.在數(shù)字化車間中，這些數(shù)據(jù)也相對(duì)容易收集，為數(shù)據(jù)驅(qū)動(dòng)方法提供準(zhǔn)確的RUL估計(jì)提供了堅(jiān)實(shí)的支持.

多種預(yù)測(cè)剩余使用壽命的方法近年來被需多研究學(xué)者提出并驗(yàn)證.陳雄姿等人[5]提出了使用貝葉斯最小二乘支持向量回歸的時(shí)間序列預(yù)測(cè)模型，通過NASA的公開數(shù)據(jù)集做對(duì)比實(shí)驗(yàn)，證明了這種基于貝葉斯的改良方法在預(yù)測(cè)準(zhǔn)確度是十分高的，但是由于模型對(duì)計(jì)算效率的要求，這種方法無法處理大數(shù)據(jù)條件下的預(yù)測(cè).豆金昌等人[6]提出了使用ARIMA自回歸模型和粒子濾波(PF)預(yù)測(cè)剩余使用壽命的框架，將粒子濾波應(yīng)用于更長時(shí)間的預(yù)測(cè)，使得該框架在長期和短期預(yù)測(cè)中都有較高的正確率，但該方法也并沒有考慮時(shí)間序列的輸入順序?qū)︻A(yù)測(cè)結(jié)果的影響.

源于人工神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)具有很強(qiáng)的學(xué)習(xí)能力[7]，使得深度學(xué)習(xí)在很多方面都極大地改進(jìn)了現(xiàn)有技術(shù).張國輝[8]提出了一種深度置信網(wǎng)絡(luò)的時(shí)間序列預(yù)測(cè)方法，驗(yàn)證了深度置信網(wǎng)絡(luò)在時(shí)間序列預(yù)測(cè)上的可行性，但是并沒考慮實(shí)際應(yīng)用中模型訓(xùn)練需要?jiǎng)討B(tài)更新的問題；高育林[9]提出了一種基于深度學(xué)習(xí)的多模態(tài)剩余壽命預(yù)測(cè)方法，研究了多模態(tài)在描述準(zhǔn)確性中的提高方法，并著重解決了傳統(tǒng)深度學(xué)習(xí)的精度不足的問題，成功將多模態(tài)下的深度學(xué)習(xí)網(wǎng)絡(luò)進(jìn)行有效訓(xùn)練并進(jìn)行預(yù)測(cè)，但是多模態(tài)模型需要準(zhǔn)確的對(duì)數(shù)據(jù)模態(tài)進(jìn)行分組歸類，面對(duì)沒有明確分組的數(shù)據(jù)該模型無法使用.Yan等人[10]為了減少專家經(jīng)驗(yàn)和人類決策對(duì)預(yù)測(cè)的影響，提出了一種設(shè)備心電圖(DECG)的概念和一種基于深度去噪自動(dòng)編碼器(DDA)和回歸操作的算法來預(yù)測(cè)工業(yè)設(shè)備的剩余使用壽命.

2 RUL預(yù)測(cè)系統(tǒng)架構(gòu)設(shè)計(jì)

本文將數(shù)字化車間關(guān)鍵部位的RUL預(yù)測(cè)分為兩個(gè)階段，分別為采集階段和分析預(yù)測(cè)階段.采集階段從加工中的數(shù)控車床采集數(shù)據(jù)，如刀具和軸承可采集的信號(hào)有振動(dòng)、溫度、空間位移、切削力以及主軸電流等.采集得到的數(shù)據(jù)將用于分析預(yù)測(cè)階段，該階段首先對(duì)數(shù)據(jù)進(jìn)行預(yù)處理，需要處理的情況有缺失值、異常值以及信號(hào)中的噪音.然后通過特征提取和特征選擇得到與RUL預(yù)測(cè)最相關(guān)的特征.最后輸入進(jìn)選定的模型進(jìn)行訓(xùn)練和預(yù)測(cè).

圖1描述了用于數(shù)字化車間關(guān)鍵部件RUL預(yù)測(cè)的系統(tǒng)架構(gòu).如前所述，分析預(yù)測(cè)階段包含了五個(gè)步驟.第一步為對(duì)信號(hào)的預(yù)處理，一般是對(duì)信號(hào)的異常值進(jìn)行檢查，但對(duì)于設(shè)備采集的信號(hào)，如振動(dòng)等信號(hào)，一般還要包括降噪的過程，本文使用了小波降噪的方法進(jìn)行降噪.第二步為特征提取，一般采集到的信號(hào)都是時(shí)域的，很多頻域和時(shí)頻特征不能直接拿到，也無法觀測(cè)，所以還要經(jīng)過頻域和時(shí)頻域轉(zhuǎn)換來挖掘更多特征，本文使用了傅里葉變換和小波包變換來完成此項(xiàng)工作.第三步為特征選擇，經(jīng)過第二階段得到的特征可能是幾十維甚至上百維，所以要通過相關(guān)分析或主成分分析等一些可以降維的方法來選擇與目標(biāo)結(jié)果最相關(guān)的特征.第四步為模型訓(xùn)練，經(jīng)過前面幾步的處理，得到的數(shù)據(jù)已經(jīng)滿足訓(xùn)練的要求，把這些數(shù)據(jù)輸入進(jìn)合適的模型來訓(xùn)練，這個(gè)過程最常見的問題之一就是過擬合，改善的方法就是優(yōu)化結(jié)構(gòu)風(fēng)險(xiǎn)和增加訓(xùn)練數(shù)據(jù).最后一個(gè)階段為預(yù)測(cè)階段，即應(yīng)用模型來完成預(yù)測(cè)，并根據(jù)預(yù)測(cè)結(jié)果做出相應(yīng)的建議.

圖1 RUL預(yù)測(cè)系統(tǒng)架構(gòu)

3 理論基礎(chǔ)

3.1 BP神經(jīng)網(wǎng)絡(luò)

傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)是經(jīng)典的3層模型.第一層是輸入層，它用來接收自變量，其神經(jīng)元個(gè)數(shù)由具體的預(yù)測(cè)輸入維度決定.第二層為隱藏層，該層的神經(jīng)元個(gè)數(shù)可任意.最后一層為輸出層，為最終的預(yù)測(cè)結(jié)果.BP網(wǎng)絡(luò)的訓(xùn)練過程首先由輸入層計(jì)算出前向傳播的輸出，然后根據(jù)輸出層的誤差反向調(diào)整各層連接的權(quán)重.

3.2 門限循環(huán)單元

門控循環(huán)單元(GRU)是由Cho和Chung等人提出的一種深度學(xué)習(xí)網(wǎng)絡(luò)[11].GRU是對(duì)長短期記憶網(wǎng)絡(luò)(LSTM)在計(jì)算效率上的改進(jìn)算法，它們的共同基礎(chǔ)是循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN).RNN改進(jìn)了傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)沒有考慮輸入時(shí)序相關(guān)性的問題.RNN網(wǎng)絡(luò)隱狀態(tài)的值不僅僅取決于當(dāng)前計(jì)算時(shí)序的輸入，還與前一個(gè)計(jì)算時(shí)序的隱狀態(tài)有關(guān).隱狀態(tài)和輸出值的計(jì)算公式如式(1-2)所示.

Ht=σ(U*Xt+W*Ht-1)

(1)

yt=Softmax(V*Ht)

(2)

式(1-2)中σ為sigmoid激活函數(shù)，U為輸入層到隱藏層權(quán)重向量，V為隱藏層到輸出層權(quán)重向量，W為時(shí)間序列計(jì)算向量.RNN最大的改進(jìn)是把前一次計(jì)算的信息帶到當(dāng)前的計(jì)算過程，但是，當(dāng)兩次計(jì)算的時(shí)間幀相距過遠(yuǎn)時(shí)，需要十分苛刻的設(shè)置RNN訓(xùn)練參數(shù)才能使長距離的時(shí)間信息被計(jì)算到，這種苛刻的條件實(shí)際計(jì)算時(shí)很難達(dá)到，一般將這種問題稱為長期依賴丟失問題.

Hochreiter和Schmidhuber提出的LSTM[12]旨解決RNN存在的長期依賴丟失的問題，它可以認(rèn)為是一種能夠?qū)W習(xí)計(jì)算時(shí)序中的長期依賴性的特殊的RNN.RNN在時(shí)序計(jì)算中僅簡單的將上一步的輸入作為下一步的輸入，LSTM對(duì)此做出了改進(jìn).LSTM的核心是設(shè)計(jì)了一個(gè)記憶單元的用來存儲(chǔ)長期記憶，在時(shí)間序列的訓(xùn)練中，記憶單元的值緩慢更新.每個(gè)LSTM單元接收三個(gè)輸入，一個(gè)是當(dāng)前時(shí)序的輸入，另外兩個(gè)輸入是由前一時(shí)序的計(jì)算結(jié)果而來，一個(gè)結(jié)果保存了長期記憶，它在每次計(jì)算中僅作比較小的更新，另一個(gè)結(jié)果保存了短期記憶，完全由上一時(shí)序的輸入決定.LSTM網(wǎng)絡(luò)通過將新的信息遞增地添加到單個(gè)存儲(chǔ)器槽中來處理可變長度序列x=(x1，x2，...，xn)，使用門來控制信應(yīng)該記住的新信息，應(yīng)該刪除的舊信息，以及應(yīng)該暴露輸出的當(dāng)前信息.LSTM的內(nèi)部結(jié)構(gòu)如圖2所示.

圖2 LSTM內(nèi)部結(jié)構(gòu)

圖2描述了在計(jì)算時(shí)序t，記憶狀態(tài)和隱藏狀態(tài)的計(jì)算過程.圖中從下往上第3層為3個(gè)控制門f、i和o，它們的值范圍都是0到1，0代表著完全刪除信息，1代表完全保留該信息.f為忘記門控，用來從上一步的記憶單元忘記不需要的信息.i為輸入門控，用來從輸入中選擇需要更新的信息，其右邊的tanh激活函數(shù)則是用來創(chuàng)建新的記憶候選項(xiàng).o為輸出門控，用來從tanh激活的記憶單元中輸出當(dāng)前需要的信息.記憶狀態(tài)和隱藏狀態(tài)的具體公式如式(3-5)所示.

(3)

(4)

ht=ot⊙tanh(Ct)

(5)

式(3-5)中，i、f和o是控制門，⊙表示哈達(dá)瑪乘積.結(jié)合內(nèi)部結(jié)構(gòu)和上述公式就可以理解LSTM與經(jīng)典的RNN網(wǎng)絡(luò)的不同，LSTM保持了額外的記憶狀態(tài)更新，將記憶狀態(tài)與預(yù)測(cè)時(shí)與時(shí)序環(huán)境相互作用的隱藏狀態(tài)分開.但也可以看到，LSTM的計(jì)算是較為復(fù)雜，導(dǎo)致其計(jì)算速度慢，訓(xùn)練耗時(shí)較長.針對(duì)這個(gè)問題，GRU設(shè)計(jì)了重置門和更新門來簡化LSTM的結(jié)構(gòu).

圖3 GRU內(nèi)部結(jié)構(gòu)

(6)

Zt=σ(xtWxz+ht-1Whz+bz)

(7)

式(6-7)中，W為權(quán)重參數(shù)，b為偏差參數(shù).更新門和重置門也是通過sigmoid激活得到，所以它們的取值范圍也是從0到1，0同樣代表著完全刪除信息，1也同樣代表完全保留該信息.重置門的作用在于刪除預(yù)測(cè)無關(guān)信息.GRU在計(jì)算隱狀態(tài)之前，最重要的一部是首先計(jì)算出一個(gè)候選隱狀態(tài)，它是從兩部分得到，一部分是上一時(shí)序的隱狀態(tài)與重置門的哈達(dá)瑪乘積，另一部分是當(dāng)前時(shí)序的輸入，這兩部分作為輸入經(jīng)過tanh激活得到候選隱隱狀態(tài).總結(jié)其計(jì)算公式如式(8)所示.

(8)

從式(8)中可以看出，重置門是用來控制上一計(jì)算時(shí)許隱狀態(tài)的值對(duì)當(dāng)前輸入的影響，上一時(shí)序的隱狀態(tài)包含了長期記憶和短期記憶(上一時(shí)序的輸出)兩部分，經(jīng)過重置門控制后可以將這兩部分中的垃圾信息(以后預(yù)測(cè)不再使用的信息)刪除.然后與當(dāng)前時(shí)序的輸入Xt一起求和并經(jīng)過tanh激活就得到了候選隱狀態(tài)，從名字上就可以看出，候選隱狀態(tài)的計(jì)算是為下一步得到真正的隱狀態(tài)做準(zhǔn)備.

最終當(dāng)前時(shí)序的隱狀態(tài)由兩部分求和得到，一部分是經(jīng)過更新門更新的上一時(shí)許的隱狀態(tài)，另一部分是更新門更新的候選隱狀態(tài).其計(jì)算公式如式(9)所示.

(9)

綜上，可以總結(jié)GRU單元的計(jì)算分為4步.第一步，使用重置門刪除上一時(shí)序的隱狀態(tài)中的與之后預(yù)測(cè)無關(guān)的信息，第二步，第一部分得到的結(jié)果同當(dāng)前時(shí)序的輸入一起經(jīng)過tanh激活得到候選隱狀態(tài).第三步，使用更新門的帶經(jīng)過遺忘后的上一時(shí)序隱狀態(tài)，第四步，將第三步的結(jié)果結(jié)合候選隱狀態(tài)最終得到當(dāng)前時(shí)序的隱狀態(tài).

4 RUL預(yù)測(cè)模型

本文的RUL預(yù)測(cè)模型輸入為時(shí)序多維特征，輸出為單維預(yù)測(cè)序列，是典型的多對(duì)一結(jié)構(gòu).為充分使用輸入提供的時(shí)間序列信息，設(shè)計(jì)了一種多對(duì)一的雙GRU神經(jīng)網(wǎng)絡(luò)模型，其結(jié)構(gòu)如圖4所示.

圖4中的神經(jīng)網(wǎng)絡(luò)模型共包括6層，各層的輸入輸出參數(shù)中，B為Batch個(gè)數(shù)，T為時(shí)序數(shù)，I為輸入的特征數(shù)，O為輸出向量長度，U為隱藏層個(gè)數(shù).RUL預(yù)測(cè)模型是個(gè)多對(duì)一的模型，所以輸出長度O為1.第1層為GRU層，輸出全部時(shí)間序列的結(jié)果；第2層為TimeDistributed層，是對(duì)第一層結(jié)果在每個(gè)時(shí)間序列上進(jìn)行多對(duì)多的映射，用來提高單個(gè)時(shí)序內(nèi)的學(xué)習(xí)能力；第3層為第二個(gè)GRU層，用來增強(qiáng)時(shí)間序列信息，但只輸出最終的時(shí)序結(jié)果；第4層為Dropout層，用來丟棄某些輸入，防止過擬合；第5層為全鏈接層，選用relu激活函數(shù)，其作用為保證學(xué)習(xí)率的情況下降低隱藏層個(gè)數(shù)；第六層為全鏈接層，也是最終輸出層，輸出為1維.下一節(jié)將使用此模型訓(xùn)練神經(jīng)網(wǎng)絡(luò)，然后使用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)刀具和軸承的RUL序列.

圖4 基于GRU-BP神經(jīng)網(wǎng)絡(luò)的RUL預(yù)測(cè)模型

5 仿真實(shí)驗(yàn)

5.1 數(shù)據(jù)來源

1)銑削刀磨損數(shù)據(jù).本為使用的銑削刀數(shù)據(jù)來源于PHM 2010 Data Challenge.該數(shù)據(jù)集包含6個(gè)6mm球鼻碳化鎢鋼刀的工作數(shù)據(jù)記錄，分別用c1，c2，…，c6表示，取前4組作為訓(xùn)練數(shù)據(jù)，后2組作為測(cè)試數(shù)據(jù).每個(gè)刀具反復(fù)用于切割同一類工件，主軸轉(zhuǎn)速為10400RPM，進(jìn)給率為1555 mm/min，橫向切深為0.125 mm，縱向切深為0.2 mm，采樣率為50 KHz進(jìn)行實(shí)驗(yàn).每次切割0.001 mm后測(cè)量刀具三個(gè)凹槽的磨損.此外，使用測(cè)力計(jì)測(cè)量X，Y，Z三個(gè)軸方向的切削力.三個(gè)加速度計(jì)用于測(cè)量X，Y，Z方向上的切割過程的振動(dòng).聲發(fā)射(AE)傳感器用于測(cè)量切割過程中工件的聲學(xué)特征(AE-RMS).每組刀具數(shù)據(jù)包含315個(gè)切割文件，包含X軸切削力、Y軸切削力、Z軸切削力、X軸振動(dòng)、Y軸振動(dòng)、Z軸振動(dòng)、聲音信號(hào)RMS以及每次切割后產(chǎn)生的三個(gè)凹槽的磨損數(shù)據(jù).

2)軸承退化數(shù)據(jù).本文使用的軸承數(shù)據(jù)來源于法國國家應(yīng)用力學(xué)實(shí)驗(yàn)室FEMTO-ST為IEEE PHM 2012 Prognostic challenge 提供的比賽數(shù)據(jù)[13].該數(shù)據(jù)由PRONOSTIA平臺(tái)完成實(shí)驗(yàn)，共提供了17個(gè)軸承全部生命周期的溫度和加速度數(shù)據(jù)(包括徑向水平和垂直兩個(gè)方向).每組數(shù)據(jù)包含約7萬行溫度數(shù)據(jù)和約180萬行加速度數(shù)據(jù).每個(gè)測(cè)量值都以100Hz的頻率測(cè)量.振動(dòng)傳感器由兩個(gè)微型加速度計(jì)組成，彼此夾角成90°，分別位于垂直軸和水平軸上.兩個(gè)加速度計(jì)徑向放置在軸承的外部通道上.加速度的采樣頻率為25.6kHz，溫度采樣頻率為0.1Hz.17個(gè)軸承被分成三組負(fù)載進(jìn)行實(shí)驗(yàn)，其中一組有7個(gè)實(shí)驗(yàn)軸承，負(fù)載為1650rpm轉(zhuǎn)速和4200N徑向力，分別將它們編號(hào)為b1，b2，…，b7，本文選取此組軸承的b1到b5作為訓(xùn)練組，b6和b7作為測(cè)試組數(shù)據(jù)進(jìn)行實(shí)驗(yàn).

5.2 小波降噪

刀具和軸承工作于數(shù)字化車間的關(guān)鍵部位，在高精度加工過程中，傳感器獲取到的信號(hào)往往含有噪聲.因此，在正式分析數(shù)據(jù)之前，降噪是一個(gè)非常必要的過程.本文對(duì)刀具3個(gè)軸的振動(dòng)信號(hào)和軸承2個(gè)方向共5組振動(dòng)信號(hào)進(jìn)行小波降噪，結(jié)合采集數(shù)據(jù)的實(shí)際環(huán)境，振動(dòng)信號(hào)的噪聲頻帶和有效頻帶未知，經(jīng)過比較最終選用小波系數(shù)閾值法完成降噪.小波基函數(shù)選取了Daubechie、Coiflets和Symlets三種來對(duì)比效果，分解層數(shù)為5.閾值的選擇采用啟發(fā)式閾值選擇方法，考慮到軟閾值和硬閾值都有欠缺之處，轉(zhuǎn)而采用了一種軟硬閾值改良折衷法[14]來調(diào)整閾值.該改良方法在閾值附近接近硬閾值法，在向無窮大增長的過程中接近軟閾值法.選用信噪比(SNR)衡量去噪效果，其計(jì)算方法如公式(10)所示.

SNR=10lg(ps/pn)

(10)

式(10)中，ps為有效信號(hào)的功率，pn為純?cè)肼曅盘?hào)的功率.表1為刀具3個(gè)軸振動(dòng)信號(hào)在小波Daubechie、Coiflets和Symlets各個(gè)階數(shù)時(shí)的平均信噪比.

表1 Daubechie、Coiflets和Symlets各個(gè)階數(shù)的信噪比

表1可以看出，使用db6小波降噪時(shí)的平均信噪比最高.圖5顯示了該小波在c1刀具x軸上的降噪效果.

圖5 刀具c1在x軸方向降噪前后比較

5.3 特征提取和選擇

完成信號(hào)降噪后，接下來就是分析并提取與刀具和軸承的RUL結(jié)果相關(guān)的特征.其步驟是首先提取特征，提取的維度包括時(shí)域特征、頻域特征和時(shí)頻域特征三個(gè)方面，然后再選擇與預(yù)測(cè)結(jié)果最相關(guān)的特征集合[15].

1.3 評(píng)價(jià)指標(biāo) ①急診效率指標(biāo)：包括就診至首次球囊擴(kuò)張(DtoB)的時(shí)間和介入治療前谷草轉(zhuǎn)氨酶(AST)、乳酸脫氫酶(LDH)、肌酸激酶(CK)、肌酸激酶同工酶(CK-MB),均采用全自動(dòng)生化分析儀器檢測(cè)；②治療7 d后采用心尖四腔切面彩色多普勒超聲檢測(cè)患者的心功能E峰值、左心室舒張末期直徑(LVEDD)、E/A值及左心室射血分?jǐn)?shù)(LEVF)；③治療7 d后測(cè)定氨基末端腦鈉素前體(NT-proBNP)的水平；④治療7 d后采用問卷調(diào)查評(píng)估患者的滿意度，包括心理護(hù)理得分、生理護(hù)理得分、護(hù)理服務(wù)得分，滿分為100分。

時(shí)域特征本文選取了均值、方差、標(biāo)準(zhǔn)差、偏度、峰度、均方根、峰-峰值、峰值因子、脈沖因子和裕度因子等十個(gè)維度.頻域特征使用功率譜密度(PSD)來提取.獲取PSD的直接方法是求傅里葉變換在一較大的時(shí)間間隔內(nèi)幅度的平均值，但更簡單的方法是直接通過信號(hào)的自相關(guān)方程進(jìn)行傅里葉變換得到，本文使用的就是后一種方法.

時(shí)頻域特征是特征提取時(shí)一個(gè)非常重要的考量方面，其對(duì)象主要是非平穩(wěn)信號(hào).小波包變換是提取時(shí)頻域特征的一個(gè)非常合適的選擇，它是連續(xù)小波變換和離散小波變換的折衷方法，計(jì)算效率和分辨率精度都滿足要求.如圖6為刀具c1的5級(jí)小波包分解圖：

圖6 5級(jí)小波包分解各節(jié)點(diǎn)的能量變化

圖6中可以看到左上和右下兩個(gè)圖內(nèi)的節(jié)點(diǎn)能量變化和剩余使用壽命的負(fù)相關(guān)性最強(qiáng).圖中還可以看到某些子節(jié)點(diǎn)的能量較高，說明這個(gè)節(jié)點(diǎn)對(duì)應(yīng)的頻段為能量的集中區(qū)域.小波包分解總共分解的到25個(gè)頻段節(jié)點(diǎn)，將這32個(gè)節(jié)點(diǎn)的節(jié)點(diǎn)系數(shù)的歸一化能量作為提取的時(shí)頻域特征.

通過前面的特征提取，每個(gè)軸向通道分別分別獲取了10個(gè)時(shí)域特征，7個(gè)頻域特征以及32個(gè)時(shí)頻域特征，共49個(gè)特征.刀具的振動(dòng)信號(hào)有xyz三個(gè)軸向通道，軸承有徑向水平和垂直兩個(gè)軸向通道，所以刀具和軸承分別共有147和98個(gè)特征.這個(gè)特征數(shù)是非常龐大的，需要進(jìn)一步選擇出與RUL最相關(guān)的特征用于預(yù)測(cè)模型.本文使用Pearson相關(guān)系數(shù)來進(jìn)行特征選擇.分別計(jì)算刀具147個(gè)特征和軸承98個(gè)特征與剩余壽命相關(guān)性.刀具的每個(gè)候選特征與剩余壽命的相關(guān)性取4組用于訓(xùn)練的數(shù)據(jù)的平均值作為相關(guān)系數(shù)參考值.同樣的，軸承的每個(gè)候選特征與剩余壽命的相關(guān)性取5組訓(xùn)練數(shù)據(jù)的平均值作為參考值.最終選取相關(guān)系數(shù)絕對(duì)值大于0.95為輸入特征.

最終選擇出的刀具輸入特征有，x軸的小波包節(jié)點(diǎn)6、節(jié)點(diǎn)11、節(jié)點(diǎn)16和節(jié)點(diǎn)17，y軸的小波包節(jié)點(diǎn)7、節(jié)點(diǎn)10和節(jié)點(diǎn)11，z軸的小波包節(jié)點(diǎn)1和節(jié)點(diǎn)8，以及z軸的方差、標(biāo)準(zhǔn)差和均方根，總共12個(gè)特征.

最終選擇軸承的輸入特征有，x軸的小波包節(jié)點(diǎn)7、節(jié)點(diǎn)12、節(jié)點(diǎn)14和節(jié)點(diǎn)18，y軸的小波節(jié)點(diǎn)20和節(jié)點(diǎn)21，總共6個(gè)特征.

5.4 模型訓(xùn)練與預(yù)測(cè)

經(jīng)過前面降噪和特征分析得到了用于模型訓(xùn)練的特征.將6組刀具的數(shù)據(jù)進(jìn)行分區(qū)以便于提取特征和訓(xùn)練模型，最終選擇用于訓(xùn)練的數(shù)據(jù)有25200行，用于訓(xùn)練的數(shù)據(jù)有12600行；同樣對(duì)軸承的數(shù)據(jù)進(jìn)行分區(qū)特征分析，得到6150行訓(xùn)練數(shù)據(jù)，1500行測(cè)試數(shù)據(jù).將訓(xùn)練數(shù)據(jù)輸入進(jìn)模型進(jìn)行訓(xùn)練.模型訓(xùn)練使用的損失函數(shù)為均方根誤差，優(yōu)化器算法采用自適應(yīng)矩估計(jì)優(yōu)化法.經(jīng)過網(wǎng)格搜索超參數(shù)法，得到刀具和軸承RUL預(yù)測(cè)模型的參數(shù)如表2所示.

表2 RUL預(yù)測(cè)模型參數(shù)

將前面訓(xùn)練好的模型分別對(duì)刀具和軸承的測(cè)試組數(shù)據(jù)進(jìn)行RUL預(yù)測(cè)，最終的結(jié)果如圖7所示，其上半部分為刀具c5和c6的RUL預(yù)測(cè)結(jié)果，下半部分為軸承b6和b7的RUL預(yù)測(cè)結(jié)果.四個(gè)預(yù)測(cè)曲線圖中，前20-50的樣本區(qū)域誤差相對(duì)其他區(qū)域稍大(推測(cè)可能的原因是此時(shí)部件工作處于磨合期)，其余區(qū)域預(yù)測(cè)值和真實(shí)值的誤差基本在50s以內(nèi).如果將剩余10%壽命作為維修報(bào)警的閾值，刀具和軸承分別在1250、1400、580和650樣本區(qū)報(bào)警.整體上預(yù)測(cè)結(jié)果達(dá)到預(yù)期效果.

圖7 RUL預(yù)測(cè)結(jié)果

本次實(shí)驗(yàn)除了使用常用的均方根誤差(RMSE)評(píng)價(jià)方法外，還使用了PHM2012比賽針對(duì)RUL設(shè)計(jì)的打分方法RUL Score，該打分方法考慮了RUL預(yù)測(cè)產(chǎn)生的正誤差(預(yù)測(cè)值大于目標(biāo)值)和負(fù)誤差(預(yù)測(cè)值小于目標(biāo)值)對(duì)結(jié)果的影響不同.Score的計(jì)算公式如式(11)所示.

(11)

為了方便衡量本文的實(shí)驗(yàn)結(jié)果，將本文提出的方法同未考慮輸入時(shí)序因素的梯度增強(qiáng)算法XGBoost和傳統(tǒng)的BP網(wǎng)絡(luò)預(yù)測(cè)結(jié)果相比較，比較結(jié)果如表3所示.通過表3的數(shù)據(jù)對(duì)比可以得到，兩種評(píng)分方法都證明了考慮了輸入時(shí)序因素的GRU-BP神經(jīng)網(wǎng)絡(luò)在RUL預(yù)測(cè)精度上要優(yōu)于XGBoost和BP神經(jīng)網(wǎng)絡(luò).

表3 RUL預(yù)測(cè)結(jié)果比較

6 結(jié) 語

本文主要針對(duì)數(shù)字化車間關(guān)鍵部件的RUL預(yù)測(cè)提出了一種多對(duì)一雙GRU層神經(jīng)網(wǎng)絡(luò)的RUL預(yù)測(cè)方法.首先設(shè)計(jì)了RUL預(yù)測(cè)的基本系統(tǒng)架構(gòu)，闡述了GRU對(duì)于RNN和LSTM的改進(jìn)以及GRU的基本原理，然后搭建了基于GRU-BP的神經(jīng)網(wǎng)絡(luò)模型，在信號(hào)預(yù)處理時(shí)使用了改進(jìn)的軟硬閾值適中法進(jìn)行小波降噪，并充分的考慮了輸入時(shí)序因素進(jìn)行RUL預(yù)測(cè).最后通過實(shí)驗(yàn)驗(yàn)證了本文方法的可行性和正確性，并將其同XGBoost和BP神經(jīng)網(wǎng)絡(luò)方法做對(duì)比，進(jìn)一步顯示了GRU應(yīng)用于RUL預(yù)測(cè)的準(zhǔn)確性.