基于LSTM的磺化反應(yīng)釜溫度預(yù)測方法

岳 宏 張曉航 趙康軍 徐凱宏

(1.中國電子科技集團公司第四十九研究所，哈爾濱 150028；2.東北林業(yè)大學(xué)信息與計算機工程學(xué)院，哈爾濱 150040；3.臨沭縣工業(yè)和信息化局，山東 臨沭 276700)

磺化反應(yīng)釜的溫度控制系統(tǒng)不僅可以保證生產(chǎn)安全，還可以提升生產(chǎn)效率、節(jié)省物料以節(jié)約成本。由于反應(yīng)釜的自身溫度檢測具有較強的滯后性、非線性等特征，現(xiàn)實中對磺化反應(yīng)釜的溫度監(jiān)控時效性不能得到保證，因此近年來反應(yīng)釜的溫度控制與預(yù)測一直是我國現(xiàn)代制造技術(shù)的重點與難點[1-4]。傳統(tǒng)PID控制器非常依賴比例參數(shù)的設(shè)定，在線性時定?？刂葡到y(tǒng)中具有靈活穩(wěn)定和安全易操作等優(yōu)點。但對不滿足線性時變的磺化反應(yīng)釜控制器難以進行精準的溫度調(diào)控[5-7]。目前許多學(xué)者采用神經(jīng)網(wǎng)絡(luò)進行溫度預(yù)測，主要集中在風(fēng)力發(fā)電機、車輛軸承溫度和航空發(fā)動機尾氣等領(lǐng)域[8-11]。該文基于磺化反應(yīng)釜溫度控制系統(tǒng)自身特點，提出了一種利用長短期記憶網(wǎng)絡(luò)(Long-short Term Memory,LSTM)預(yù)測磺化反應(yīng)釜溫度的方法。

1 磺化反應(yīng)釜技術(shù)工藝

磺化反應(yīng)有甲苯與硫酸參與，反應(yīng)時放出大量熱，容易產(chǎn)生溫度異常和爆炸危險，具體原因如下。①參與反應(yīng)的甲苯等材料具有爆炸危險; ②濃硫酸溶于水會大量釋放熱能;③沒有按照規(guī)定順序投放反應(yīng)原料、投放速度不均、沒有充分攪拌和沒有達到冷卻效果等，能是造成反應(yīng)釜內(nèi)溫度異常升高的原因，引起反應(yīng)原料燃燒，引起燃爆事故;工藝的成熟程度也決定著反應(yīng)釜溫度的穩(wěn)定性。不同階段的物料反應(yīng)需要不同的溫度適配，因此需要控制系統(tǒng)對溫度的精準預(yù)測保證不同反應(yīng)之間的平穩(wěn)銜接以及系統(tǒng)穩(wěn)定[12]。

作為磺化反應(yīng)容器，反應(yīng)釜內(nèi)部結(jié)構(gòu)主要包括夾套、導(dǎo)熱、攪拌、冷卻及封軸等。攪拌和加熱是反應(yīng)釜降低溫度的最有效方式。通過盤管、熱油、攪拌或者電熱的方式可進行加熱，冷卻降溫可通過盤管、夾套和攪拌等方式實現(xiàn)。

2 溫度預(yù)測模型構(gòu)建

2.1 LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)模型原理

傳統(tǒng)RNN神經(jīng)網(wǎng)絡(luò)基于有序的序列進行學(xué)習(xí)，當(dāng)前時刻的判斷是基于歷史信息決定的。由于RNN循環(huán)神經(jīng)網(wǎng)絡(luò)處理大量數(shù)據(jù)時會出現(xiàn)梯度消失和梯度爆炸現(xiàn)象，導(dǎo)致不能記憶久遠的信息[13-16]。為了解決RNN循環(huán)神經(jīng)網(wǎng)絡(luò)存在的問題，Sepp Hochreiter和Jurgen Schmidhuber兩人于1997年初次提出了LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)。LSTM在傳統(tǒng)RNN循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)上針對隱藏層細胞結(jié)構(gòu)進行了較為復(fù)雜的性能提升。相比普通RNN，LSTM多了輸入門、遺忘門和輸出門3個門限控制器，正是此機制使LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)獲得了更長久的記憶能力，如圖1所示。

圖1 LSTM細胞結(jié)構(gòu)圖

LSTM的前一時刻短期記憶ht-1和當(dāng)前時刻的輸入特征xt經(jīng)過遺忘門ft、輸入門(更新門)it、輸出門ot后，再通過Sigmoid激活函數(shù)進行歸一化。ct′為當(dāng)前輸入的單元狀態(tài)。具體表達式如下。

ft=σ(Wfxxt+Wfxht-1+bf)

(1)

式中Wfx為矩陣遺忘門Wf關(guān)于前一時刻短期記憶ht-1和當(dāng)前時刻的輸入特征xt的遺忘門分支，bf為遺忘門偏置。

it=σ(Wixxt+Wixht-1+bi)

(2)

式中Wix為矩陣輸入門Wi關(guān)于前一時刻短期記憶ht-1和當(dāng)前時刻的輸入特征xt的輸入門分支，bi為輸入門偏置。

ct′=htan(Wcxxt+Wchht-1+bc)

(3)

式中Wcx為當(dāng)前單元狀態(tài)Wc關(guān)于前一時刻短期記憶ht-1和當(dāng)前時刻的輸入特征xt的當(dāng)前單元狀態(tài)分支，bc為當(dāng)前單元狀態(tài)偏置，htan是雙曲正切運算。

ot=σ(Woxxt+Wohht-1+bo)

(4)

式中Wfx為矩陣輸出門Wf關(guān)于前一時刻短期記憶ht-1和當(dāng)前時刻的輸入特征xt的輸出門分支，bo為輸出門偏置。

2.2 預(yù)測模型結(jié)構(gòu)及超參數(shù)設(shè)置

多層LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)是由多層LSTM單元堆疊而成，可以對數(shù)據(jù)進行充分的信息提取，相較于單層LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)對于解決預(yù)測和分類問題擁有更高準確度。該文提出的基于LSTM的磺化反應(yīng)釜溫度預(yù)測神經(jīng)網(wǎng)絡(luò)模型，如圖2所示。由1個輸入層，5個LSTM層、3個防止過擬合(Dropout)層和1個輸出層組成。一次訓(xùn)練的樣本個數(shù)(batch_size)設(shè)置為32，窗口長度設(shè)置為100，激活函數(shù)選用‘Sigmoid’。在模型迭代更新方面，采用Adam(adaptive moment estimation)優(yōu)化算法代替?zhèn)鹘y(tǒng)的隨機梯度下降算法，有效降低了模型的損失函數(shù)，最終完成訓(xùn)練。為保證模型輸出結(jié)果維度與實際輸入維度一致，在LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)之后的輸出層為全連接層。

圖2 基于LSTM的磺化反應(yīng)釜溫度預(yù)測模型

損失函數(shù)由均方誤差(Mean Square Error)表示,其公式為：

(5)

式中，其中yi為一個數(shù)據(jù)包(batch)中第i個數(shù)據(jù)的真實值，而yi′為LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)的預(yù)測值。

3 磺化反應(yīng)釜溫度預(yù)測算法實現(xiàn)與結(jié)果分析

3.1 溫度數(shù)據(jù)獲取及處理

由于目前缺少實際數(shù)據(jù)樣本，為驗證該文算法的可考性，該文參考文獻[10]采用Max Planck Institute for Biogeochemistryd的大氣溫度數(shù)據(jù)作為SEM溫度模擬數(shù)據(jù)源的方法，這里采用1750年至今全球地表氣溫變化數(shù)據(jù)[17]作為磺化反應(yīng)釜溫度模擬數(shù)據(jù)源，該模擬數(shù)據(jù)源共包括3 180組數(shù)據(jù)。

磺化反應(yīng)釜內(nèi)部溫度區(qū)間為20～80 ℃，對溫度的模擬數(shù)據(jù)應(yīng)整體大致分布在20～80 ℃之間，見表1。

3.2 反應(yīng)釜溫度預(yù)測算法實現(xiàn)

磺化反應(yīng)釜溫度預(yù)測算法的具體可分為4個步驟，加載數(shù)據(jù)集、數(shù)據(jù)歸一化、模型訓(xùn)練和評估模型，如圖3所示。

(1)加載數(shù)據(jù)集。將1750年至今全球地表氣溫變化數(shù)據(jù)儲存為.csv文件。選取前2 880組樣本數(shù)據(jù)作為訓(xùn)練集，后300組樣本數(shù)據(jù)作為測試集，并讀取數(shù)據(jù)集。

表1 模擬溫度數(shù)據(jù)源變換表Table 1 Analog temperature data source transformation

圖3 磺化反應(yīng)釜溫度預(yù)測算法實現(xiàn)流程圖

(2)數(shù)據(jù)歸一化。使輸入的數(shù)據(jù)分布在0～1之間，歸一化有助于提高神經(jīng)網(wǎng)絡(luò)模型學(xué)習(xí)效率。

(3)模型訓(xùn)練。通過Pycharm平臺和Tensorflow構(gòu)建LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)模型，向構(gòu)建好的神經(jīng)網(wǎng)絡(luò)模型送入訓(xùn)練集數(shù)據(jù)和測試集?？梢杂^察到如圖4所示損失函數(shù)逐漸減小。

(4)評估模型。選取平均絕對誤差、均方誤差和均方根誤差作為評估指標，并繪制損失函數(shù)曲線與預(yù)測數(shù)據(jù)曲線，評價LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)是否滿足預(yù)期要求。

3.3 結(jié)果分析

基于以上設(shè)置對磺化反應(yīng)釜進行溫度預(yù)測實驗，為驗證該文方法的優(yōu)越性，利用相同數(shù)據(jù)集采取RNN溫度預(yù)測模型作為對比實驗，均通過python實現(xiàn)。

(a) LSTM模型損失函數(shù)

(b) RNN模型損失函數(shù)

(a) LSTM溫度預(yù)測曲線

(b) RNN溫度預(yù)測曲線

由圖4可以看出LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練損失函數(shù)相比于RNN循環(huán)模型更早趨于平穩(wěn)，預(yù)測損失函數(shù)更小且更穩(wěn)定。由圖5可以看出LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)模型的預(yù)測溫度曲線與真實溫度曲線更加接近。表2為LSTM模型與RNN模型的評測指標對比。

表2 兩種預(yù)測模型結(jié)果對比Table 2 Comparison of the results of two prediction models

可以看出該文提出的基于LSTM的磺化反應(yīng)釜溫度預(yù)測模型相比于RNN模型誤差小且擬合能力更好，學(xué)習(xí)速度快，吻合度高。因此，LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)模型預(yù)測效果好于RNN模型，更適合作為磺化反應(yīng)釜的溫度預(yù)測模型。

4 結(jié)論

該文提出了一種基于LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)的磺化反應(yīng)釜溫度預(yù)測方法，提高了磺化反應(yīng)釜溫度預(yù)測的準確性。以1750年至今全球地表氣溫變化數(shù)據(jù)為例，該文方法與RNN模型預(yù)測方法進行性能對比，結(jié)果表明：該文提出的基于LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)的溫度預(yù)測方法預(yù)測準確度更高，運行更加穩(wěn)定。該方法也適用于其他類型化學(xué)反應(yīng)釜的溫度及反應(yīng)釜內(nèi)其他數(shù)據(jù)的預(yù)測，為化工廠的安全穩(wěn)定運行提供了保障。