基于LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)的核電設(shè)備狀態(tài)預(yù)測分析

門永偉

江蘇核電有限公司 江蘇連云港 222042

近幾年，國內(nèi)核電站的運(yùn)轉(zhuǎn)規(guī)模逐漸擴(kuò)展，所用設(shè)備的復(fù)雜性也隨之提升，使得對(duì)于設(shè)備狀態(tài)的把控程度也有更高要求，其預(yù)測準(zhǔn)確性也變得極為重要。因?yàn)楹穗娫O(shè)備形成的信息屬于保密的范疇，再加上其他因素的影響，使得有關(guān)研究無法借助數(shù)據(jù)信息實(shí)現(xiàn)對(duì)機(jī)械工作狀態(tài)的預(yù)測。所以，分析預(yù)測機(jī)械狀態(tài)的方式具備實(shí)際價(jià)值。

1 核電系統(tǒng)中應(yīng)用LSTM的現(xiàn)狀

核電系統(tǒng)內(nèi)部框架復(fù)雜，形成的數(shù)據(jù)與其結(jié)構(gòu)復(fù)雜性呈正比。常規(guī)的設(shè)備預(yù)測方式有灰色預(yù)測、非線性濾波裝置等，但此類方式僅能反映出因果循環(huán)，無法判斷時(shí)序數(shù)據(jù)和裝置工作狀態(tài)的聯(lián)系。當(dāng)前，基于LSTM，利用核電裝置的時(shí)序信息預(yù)測設(shè)備狀態(tài)，已經(jīng)有成功經(jīng)驗(yàn)。比如，以LSTM為依托，建立摩擦模型，專門判斷設(shè)備滾動(dòng)摩擦，以預(yù)測出機(jī)械工作的摩擦指數(shù)。又如，將該神經(jīng)網(wǎng)絡(luò)形成的模型與分解算法聯(lián)合應(yīng)用，對(duì)軸承信息的本征模函數(shù)進(jìn)行分量，獲得信息和支持向量機(jī)加以比較，以此判斷設(shè)備的狀態(tài)。

2 有關(guān)理論分析

2.1 預(yù)處理

預(yù)處理為發(fā)掘信息的關(guān)鍵一步，要求提供的原始信息有價(jià)值，但現(xiàn)實(shí)情況一般無法達(dá)到。而利用預(yù)處理，將專業(yè)知識(shí)當(dāng)成“向?qū)А?，梳理原始?shù)據(jù)，去除與預(yù)測對(duì)象無關(guān)的因素，由此建立出更為精準(zhǔn)的數(shù)據(jù)模型。有關(guān)此方面的理論及方式有多種，但在核電設(shè)備此種較為復(fù)雜地預(yù)處理上，還未出現(xiàn)切實(shí)深入地分析。相關(guān)表達(dá)式為：

其中，x是實(shí)驗(yàn)數(shù)據(jù)，μ是平均數(shù)，σ是標(biāo)準(zhǔn)差。

2.2 LSTM

該種神經(jīng)網(wǎng)絡(luò)是基于常規(guī)相關(guān)結(jié)構(gòu)設(shè)計(jì)，增加時(shí)序數(shù)據(jù)，以提高預(yù)測環(huán)境的適應(yīng)度。傳統(tǒng)的RNN模型本身有梯度消失及爆炸的弊端，難以長時(shí)間工作，同時(shí)，使用該模型需實(shí)現(xiàn)設(shè)置處理窗口長度，而此參數(shù)無法準(zhǔn)確把握。LSTM屬于RNN的一種變體，其在基礎(chǔ)模型上，添加記憶單元，由此達(dá)到對(duì)時(shí)序數(shù)據(jù)的監(jiān)控。各序列信息會(huì)在各單元傳遞期間，經(jīng)過多道可控門，把控以往與實(shí)時(shí)信息的遺忘指數(shù)，以此實(shí)現(xiàn)長期記憶，利用此種模式，LSTM切實(shí)改進(jìn)原本的缺陷，提高預(yù)測效率。

2.3 梯度運(yùn)算

此項(xiàng)算法是目前相關(guān)機(jī)械領(lǐng)域應(yīng)用頻率較高的調(diào)整方式，現(xiàn)如今已經(jīng)形成多個(gè)版本的運(yùn)算方式，即Adam、RMSProp、SGD等。以SGD為例，其是在確定樣本范圍內(nèi)，運(yùn)用隨機(jī)抽樣方式獲得一定容量的樣本，以此代表整個(gè)樣本。此種處理形式可以在確定樣本范圍的基礎(chǔ)上，快速得出結(jié)果。其可避免由于樣本數(shù)量增加而影響運(yùn)算效率的問題，控制機(jī)械資源占用率[1]。

3 基于LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)建立預(yù)測模型

3.1 初建模型

預(yù)測參考的數(shù)據(jù)為單變量時(shí)序信息，預(yù)測模型分成五個(gè)單元。其一，輸入層，其負(fù)責(zé)簡單整理預(yù)測所用的信息，設(shè)定數(shù)據(jù)集，實(shí)現(xiàn)對(duì)數(shù)據(jù)的規(guī)范化管理，確保數(shù)據(jù)分割等處理，適應(yīng)預(yù)測模型的輸入標(biāo)準(zhǔn)。其二，隱藏層，借助LSTM構(gòu)建網(wǎng)絡(luò)神經(jīng)，其中系統(tǒng)中的遺忘門影響對(duì)神經(jīng)元情況變化的保留量，而輸入門負(fù)責(zé)確定設(shè)備當(dāng)前相關(guān)數(shù)據(jù)的保留量，輸出層則負(fù)責(zé)給出最終結(jié)果。利用SGD算法調(diào)整各數(shù)據(jù)的比重，兼顧準(zhǔn)確度和效率。

3.2 訓(xùn)練預(yù)測

第一步，設(shè)置機(jī)械的原始狀態(tài)下的時(shí)序數(shù)據(jù)。為滿足隱藏層對(duì)于輸入數(shù)據(jù)的要求，可采用分割方式整理數(shù)據(jù)集。

第二步，把整體分成兩項(xiàng)內(nèi)容，即train_x與train_y、test_x與test_y。第三步，把train_x,train_y傳送至隱藏層中。根據(jù)初期對(duì)兩類數(shù)據(jù)集進(jìn)行的參數(shù)設(shè)計(jì)，二者比值是9:1，由此得到輸出值與train_y都是 ( 0.9*t,L-m)。所以，使用均方誤差進(jìn)行計(jì)算。進(jìn)行預(yù)測實(shí)驗(yàn)的目的是控制損失函數(shù)，基于差異化的學(xué)習(xí)率及窗口長度等，利用SGD進(jìn)行數(shù)據(jù)權(quán)重調(diào)整，以形成更佳的數(shù)據(jù)模型。合理運(yùn)用LSTM對(duì)機(jī)械狀態(tài)加以預(yù)測，并把test_x傳送至數(shù)據(jù)模型中，并借助test_y得到較為精確的預(yù)算結(jié)果[2]。

3.3 預(yù)測驗(yàn)證

首先，確認(rèn)數(shù)據(jù)集，預(yù)測對(duì)象是核電機(jī)械中的主泵繞組，以溫度參數(shù)為預(yù)測指標(biāo)。此項(xiàng)參數(shù)能直接反映出核電機(jī)械工作狀態(tài)，而溫度是否處于適宜范圍內(nèi)，決定機(jī)械當(dāng)前的工作情況。本次預(yù)測實(shí)驗(yàn)以1條/min的頻率進(jìn)行數(shù)據(jù)采集，涉及到的數(shù)據(jù)超過370萬。

其次，度量指標(biāo)。實(shí)踐訓(xùn)練選用的度量方法關(guān)乎最終運(yùn)算準(zhǔn)確程度，常用方法有三種，分別計(jì)算誤差平方期望值、算術(shù)平方根以及平均數(shù)。為保障數(shù)據(jù)模型的運(yùn)算準(zhǔn)確性，一般會(huì)選用最后一種。

最后，預(yù)測結(jié)果。一方面，建立的模型參數(shù)準(zhǔn)確性較好，使用差異化的窗口長度及學(xué)習(xí)率，進(jìn)行模型實(shí)驗(yàn)。經(jīng)過多次實(shí)驗(yàn)記錄結(jié)果限制，在窗口長度是15，且學(xué)習(xí)率為0.02，此時(shí)該模型的狀態(tài)預(yù)測質(zhì)量為最佳狀態(tài)，MAE值約等于0.03。另一方面，此模型和RNN、GRU相較。為驗(yàn)證該模型可以在多種工作狀態(tài)下，是否可以保持穩(wěn)定預(yù)測，實(shí)驗(yàn)期間通過調(diào)整隱藏層的數(shù)據(jù)，建立其他兩種模型，同時(shí)，應(yīng)用一樣的數(shù)據(jù)展開實(shí)驗(yàn)，由此判斷預(yù)測準(zhǔn)確性。經(jīng)實(shí)踐數(shù)據(jù)顯示，RNN數(shù)據(jù)模型預(yù)測狀態(tài)最佳時(shí)的MAE值超過0.034，而GRU則超過0.032。通過數(shù)據(jù)對(duì)比，基本可以得出，LSTM的應(yīng)用效果優(yōu)于RNN及GRU[3]。

4 結(jié)語

根據(jù)實(shí)驗(yàn)結(jié)果顯示，LSTM的應(yīng)用性能較佳，且其在學(xué)習(xí)率的參數(shù)確定方面，有較高的敏感度，即使有細(xì)微地調(diào)整，也會(huì)改變最后結(jié)果的精度，但其訓(xùn)練周期相對(duì)偏長。簡單而言，已經(jīng)證實(shí)LSTM的使用效果，并拓寬實(shí)際預(yù)測范疇。根據(jù)現(xiàn)今核電機(jī)械的運(yùn)轉(zhuǎn)狀態(tài)，應(yīng)當(dāng)繼續(xù)深化在隱藏層以及最佳參數(shù)等方面的分析，以更好地掌握核電設(shè)備的工作狀態(tài)。