基于粒子群優(yōu)化LSTM模型的管道應(yīng)力預(yù)測(cè)方法

吳澤民，周臨風(fēng)，冷建成

(東北石油大學(xué)，黑龍江大慶 163318)

0 引言

管道是油氣資源的主要運(yùn)輸方式，在長(zhǎng)期服役過程中由于受到環(huán)境載荷以及材料本身性能退化等因素影響，會(huì)產(chǎn)生結(jié)構(gòu)損傷、變形甚至斷裂失效[1]，因此，非常有必要對(duì)這些高后果區(qū)管段以及超期服役管道實(shí)施在線監(jiān)測(cè)，并利用監(jiān)測(cè)數(shù)據(jù)預(yù)測(cè)管道的發(fā)展趨勢(shì)以實(shí)現(xiàn)異常預(yù)警，確保在役管道的安全。

國(guó)內(nèi)外學(xué)者在油氣管道安全監(jiān)測(cè)方面開展了大量研究，胡瑾秋等[2]通過引入數(shù)據(jù)自組織挖掘思想對(duì)設(shè)備退化狀態(tài)進(jìn)行預(yù)警，采用隱馬爾科夫模型對(duì)設(shè)備狀態(tài)進(jìn)行評(píng)估，再進(jìn)一步通過建立自組織預(yù)測(cè)模型進(jìn)行退化過程預(yù)測(cè)；El-ABBASY等[3]采用人工神經(jīng)網(wǎng)絡(luò)(ANN)模型對(duì)管道狀態(tài)進(jìn)行預(yù)測(cè)，給出了油氣管道的衰退曲線；謝麗婉[4]基于埋地聚乙烯管道，建立了模糊綜合評(píng)價(jià)數(shù)學(xué)模型，通過將安全預(yù)警理論與風(fēng)險(xiǎn)矩陣相結(jié)合來確定管道的安全預(yù)警等級(jí)；溫江濤等[5]引入深度遷移學(xué)習(xí)，實(shí)現(xiàn)了復(fù)雜環(huán)境下油氣管道周邊入侵事件的準(zhǔn)確識(shí)別。

綜上所述，目前應(yīng)用傳統(tǒng)預(yù)測(cè)方法對(duì)管道進(jìn)行安全評(píng)價(jià)的研究較多，筆者基于地基沉降下的室內(nèi)管道模型試驗(yàn)，曾提出利用BP神經(jīng)網(wǎng)絡(luò)和GM(1,1)組合模型進(jìn)行管道監(jiān)測(cè)部位的應(yīng)力預(yù)測(cè)，但預(yù)測(cè)結(jié)果偏保守[6]。本文將深度學(xué)習(xí)中的長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)引入到管道應(yīng)力發(fā)展的趨勢(shì)預(yù)測(cè)，為后續(xù)的在線安全預(yù)警提供指導(dǎo)。

1 長(zhǎng)短期記憶網(wǎng)絡(luò)模型

循環(huán)神經(jīng)網(wǎng)絡(luò)(Recycle Neural Network,RNN)是ANN的一種改進(jìn)，與傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)相比[7-8]，RNN網(wǎng)絡(luò)具有記憶功能，即考慮時(shí)間相關(guān)性的影響，通過收集數(shù)據(jù)序列的歷史信息來計(jì)算當(dāng)前輸出，能夠更深地挖掘數(shù)據(jù)的潛在規(guī)律，從而實(shí)現(xiàn)更準(zhǔn)確的預(yù)測(cè)；但由于自身特殊的結(jié)構(gòu)而會(huì)出現(xiàn)梯度爆炸或梯度消失問題，為此通過引入長(zhǎng)短期記憶單元代替原來的隱含層單元就得到LSTM網(wǎng)絡(luò)模型，其原理如圖1[9]所示。

圖1 長(zhǎng)短期記憶網(wǎng)絡(luò)原理示意Fig.1 Schematic diagram of LSTM network

圖1中，長(zhǎng)短期記憶單元包含記憶單元和3個(gè)門，分別為輸入門、遺忘門和輸出門，這些門控制著信息流入和流出記憶單元。

2 基于LSTM網(wǎng)絡(luò)的管道應(yīng)力預(yù)測(cè)

2.1 管道應(yīng)力監(jiān)測(cè)

基于有限元分析結(jié)果[6]，兼顧室內(nèi)試驗(yàn)和現(xiàn)場(chǎng)安裝需要，在管道關(guān)鍵部位表面安裝4個(gè)振弦傳感器和5個(gè)直角電阻應(yīng)變片，具體布置見圖2。其中，振弦傳感器可以測(cè)量管道表面的軸向應(yīng)變和溫度，應(yīng)變片同時(shí)測(cè)量軸向和周向應(yīng)變。

圖2 振弦傳感器和應(yīng)變片布置Fig.2 Arrangement of vibrating wire sensors and strain gauges

通過調(diào)節(jié)管道底部的升降支架進(jìn)行不同基礎(chǔ)沉降下的在線監(jiān)測(cè)試驗(yàn)，具體試驗(yàn)過程見文獻(xiàn)[6]。

2.2 基于粒子群優(yōu)化的LSTM模型管道應(yīng)力預(yù)測(cè)

2.2.1 基于LSTM模型的管道應(yīng)力趨勢(shì)預(yù)測(cè)

振弦傳感器在現(xiàn)場(chǎng)施工中具有便于安裝和適于長(zhǎng)期監(jiān)測(cè)等優(yōu)勢(shì)，但僅能測(cè)量軸向應(yīng)變。由于薄壁管道可考慮為平面應(yīng)力狀態(tài)，因此，本文主要對(duì)室內(nèi)直角應(yīng)變片的監(jiān)測(cè)數(shù)據(jù)進(jìn)行應(yīng)力分析。

對(duì)管道應(yīng)力變化進(jìn)行趨勢(shì)預(yù)測(cè)需要基于前期監(jiān)測(cè)的歷史數(shù)據(jù)，利用LSTM模型可以考慮過去的監(jiān)測(cè)數(shù)據(jù)和未來數(shù)據(jù)之間的時(shí)間相關(guān)性，進(jìn)而實(shí)現(xiàn)管道的應(yīng)力預(yù)測(cè)。其主要過程如下：首先，依據(jù)與等效應(yīng)力相關(guān)的監(jiān)測(cè)參數(shù)的個(gè)數(shù)來確定輸入層節(jié)點(diǎn)數(shù)，根據(jù)輸入層和輸出層確定隱含層數(shù)目；然后，將應(yīng)力監(jiān)測(cè)數(shù)據(jù)分為訓(xùn)練集和預(yù)測(cè)集，并對(duì)數(shù)據(jù)作歸一化處理，以消除量綱影響；最后，建立LSTM模型，選取激活函數(shù)進(jìn)行訓(xùn)練，得到擬合結(jié)果。

具體來說，選擇軸向應(yīng)變、周向應(yīng)變作為輸入變量，輸入節(jié)點(diǎn)數(shù)設(shè)為2；輸出變量為等效應(yīng)力，輸出節(jié)點(diǎn)數(shù)設(shè)為1；基于輸入層和輸出層節(jié)點(diǎn)數(shù)，需要確定隱含層數(shù)目，即LSTM單元數(shù)目，通過經(jīng)驗(yàn)公式[10]可進(jìn)行初步估算:

(1)

式中，N為隱含層節(jié)點(diǎn)數(shù)；m,n分別為輸入和輸出層節(jié)點(diǎn)數(shù)；a為1～10之間的常數(shù)。

考慮到LSTM單元數(shù)目越多，神經(jīng)網(wǎng)絡(luò)的擬合能力越強(qiáng)，但計(jì)算時(shí)間也會(huì)增加；如果隱含層數(shù)目過少，長(zhǎng)短期記憶網(wǎng)絡(luò)的學(xué)習(xí)能力不強(qiáng)，基于式(1)代入不同的隱含層節(jié)點(diǎn)數(shù)，通過不斷調(diào)整嘗試使模型訓(xùn)練的均方根誤差(RMSE)(見式(2))結(jié)果最小，進(jìn)而確定最優(yōu)隱含層節(jié)點(diǎn)數(shù)為5。

(2)

RMSE計(jì)算結(jié)果越小，說明預(yù)測(cè)值和實(shí)際值偏差程度越小，預(yù)測(cè)效果越好。

選取2019年4月25日～4月27日應(yīng)變片3的應(yīng)力監(jiān)測(cè)數(shù)據(jù)作為基礎(chǔ)數(shù)據(jù)建立LSTM模型，對(duì)2019年4月28 日～4月29日的應(yīng)力進(jìn)行預(yù)測(cè)。輸入數(shù)據(jù)前需要對(duì)訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)進(jìn)行歸一化處理，目的在于消除量綱不同和數(shù)值差異的影響，其計(jì)算公式為:

xk=(x-xmean)/xvar

(3)

式中，xk為歸一化之后的數(shù)據(jù)；xmean，xvar分別為數(shù)據(jù)的均值和方差。

將歸一化處理之后的訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)輸入LSTM模型進(jìn)行訓(xùn)練，確定每次訓(xùn)練的輪次為500，初始學(xué)習(xí)率為0.01，求解器應(yīng)用Adam優(yōu)化算法，激活函數(shù)選擇sigmoid，最后進(jìn)行反歸一化得到預(yù)測(cè)結(jié)果如圖3所示。

圖3 LSTM模型預(yù)測(cè)結(jié)果Fig.3 Prediction results of LSTM model

由圖3可以看出，基于LSTM模型進(jìn)行應(yīng)力擬合和預(yù)測(cè)取得了較好效果，經(jīng)均方根誤差計(jì)算，其值為0.35 MPa，表明具有較高的預(yù)測(cè)精度。

2.2.2 基于粒子群算法優(yōu)化的LSTM模型應(yīng)力預(yù)測(cè)

在實(shí)際應(yīng)用中，長(zhǎng)短期記憶網(wǎng)絡(luò)中的迭代次數(shù)、學(xué)習(xí)率等參數(shù)通常都是依靠人為經(jīng)驗(yàn)來確定，具有隨機(jī)性，進(jìn)而會(huì)影響模型的擬合和訓(xùn)練效果。為此，本文提出應(yīng)用粒子群算法(PSO)[11]對(duì)長(zhǎng)短期記憶網(wǎng)絡(luò)進(jìn)行優(yōu)化。

粒子群思想源于鳥類社會(huì)行為研究，即在距離食物最近的鳥所在區(qū)域，通過最簡(jiǎn)單的方法搜索食物，并通過個(gè)體間的協(xié)助和信息共享實(shí)現(xiàn)群體進(jìn)化。一個(gè)粒子可以看作一個(gè)可能解，用位置、速度和適應(yīng)度值進(jìn)行描述，通過不斷迭代尋找最優(yōu)區(qū)域，從而在搜索空間中完成尋優(yōu)過程，最終得到滿足終止條件的最優(yōu)解。

在搜索空間中，多個(gè)粒子構(gòu)成一個(gè)群體，在第t次迭代后形成粒子的速度和位置，分別用Vi,t和Xi,t表示，在尋優(yōu)過程中不斷更新位置和速度，并形成兩個(gè)最優(yōu)解：一個(gè)是個(gè)體極值pbesti；另一個(gè)是全局最優(yōu)解gbesti。在尋找最優(yōu)解的過程中，粒子分別按照式(4)和式(5)[12]更新速度和位置。

Vi,t+1=ωVi,t+c1rand(pbest-Xi,t)

+c2rand(gbest-Xi,t)

(4)

Xi,t+1=Xi,t+λVi,t+1

(5)

式中，ω為慣性因子；c1，c2分別為個(gè)體和群體學(xué)習(xí)因子；rand為[0,1]間的隨機(jī)數(shù)；λ為速度系數(shù)，一般取1。

取同樣的監(jiān)測(cè)數(shù)據(jù)，構(gòu)建PSO-LSTM模型進(jìn)行優(yōu)化預(yù)測(cè)，首先仍然是將數(shù)據(jù)劃分為訓(xùn)練集和測(cè)試集；其次，將LSTM模型中的學(xué)習(xí)率、迭代次數(shù)做為優(yōu)化目標(biāo)，設(shè)置最大迭代次數(shù)為10，個(gè)體和群體學(xué)習(xí)因子分別設(shè)為0.5和1，慣性因子設(shè)為0.6，粒子群規(guī)模設(shè)為5，定義適應(yīng)度函數(shù)f[12]為:

(6)

式中，K為種群規(guī)模；yi為預(yù)測(cè)數(shù)據(jù)；y0為實(shí)際數(shù)據(jù)。

依據(jù)式(6)計(jì)算每個(gè)粒子的適應(yīng)度值，根據(jù)初始適應(yīng)度值確定個(gè)體極值和全局最優(yōu)解；根據(jù)式(4)(5)對(duì)粒子的速度和位置進(jìn)行更新；判斷全局最優(yōu)解是否滿足最大迭代次數(shù)，若滿足則輸出最優(yōu)結(jié)果，若不滿足，重新計(jì)算適應(yīng)度值，重復(fù)上述迭代過程。PSO-LSTM模型的適應(yīng)度曲線見圖4。

圖4 PSO-LSTM模型適應(yīng)度曲線Fig.4 PSO-LSTM model fitness curve

由圖4可以看出，隨著迭代次數(shù)的增加，適應(yīng)度值趨于穩(wěn)定，當(dāng)?shù)?次后達(dá)到最佳適應(yīng)度值。優(yōu)化后的LSTM模型迭代次數(shù)和學(xué)習(xí)率分別為272和0.003 9，將優(yōu)化參數(shù)和測(cè)試數(shù)據(jù)輸入到構(gòu)建的訓(xùn)練模型中，反標(biāo)準(zhǔn)化得到優(yōu)化后的預(yù)測(cè)結(jié)果見圖5。可以看出，優(yōu)化后的長(zhǎng)短期記憶網(wǎng)絡(luò)預(yù)測(cè)效果更接近于實(shí)際值。

圖5 PSO-LSTM優(yōu)化預(yù)測(cè)結(jié)果Fig.5 Prediction results optimized by PSO-LSTM

將基于同一監(jiān)測(cè)數(shù)據(jù)的BP神經(jīng)網(wǎng)絡(luò)、長(zhǎng)短期記憶網(wǎng)絡(luò)以及優(yōu)化后的LSTM預(yù)測(cè)結(jié)果應(yīng)用均方根誤差作為指標(biāo)進(jìn)行定量評(píng)價(jià)，計(jì)算結(jié)果列于表1中。

表1 三種模型應(yīng)力預(yù)測(cè)結(jié)果對(duì)比Tab.1 Comparison of stress prediction results by three models

由表1可以看出，基于BP神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測(cè)的均方根誤差為0.81 MPa，而LSTM模型和PSO-LSTM模型進(jìn)行趨勢(shì)預(yù)測(cè)的均方根誤差分別為0.35 MPa和0.29 MPa，說明優(yōu)化后的LSTM模型能夠很好地反映數(shù)據(jù)變化趨勢(shì)，而且PSO-LSTM模型的預(yù)測(cè)曲線更接近真實(shí)應(yīng)力變化，預(yù)測(cè)結(jié)果也比LSTM模型更精確。

需要說明的是，不同樣本的選擇有可能會(huì)對(duì)模型的預(yù)測(cè)結(jié)果及預(yù)測(cè)能力產(chǎn)生影響，下一步將討論其相關(guān)性及樣本-樣本誤差，并研究新的樣本選擇算法以確保所提模型的準(zhǔn)確性和穩(wěn)健性[13]。

3 結(jié)論

(1)基于循環(huán)神經(jīng)網(wǎng)絡(luò)能夠更深層次地挖掘監(jiān)測(cè)數(shù)據(jù)特征和規(guī)律，與BP神經(jīng)網(wǎng)絡(luò)相比，所提出的LSTM模型預(yù)測(cè)應(yīng)力趨勢(shì)效果更好。

(2)提出了基于粒子群算法對(duì)LSTM模型進(jìn)行優(yōu)化的PSO-LSTM模型，結(jié)果表明，PSO-LSTM模型預(yù)測(cè)精度明顯優(yōu)于LSTM模型和BP神經(jīng)網(wǎng)絡(luò)結(jié)果，有望用于長(zhǎng)期監(jiān)測(cè)數(shù)據(jù)的趨勢(shì)分析和安全預(yù)警中。

(3)在管道應(yīng)力預(yù)測(cè)的基礎(chǔ)上，下一步將通過指數(shù)加權(quán)移動(dòng)平均控制圖實(shí)現(xiàn)對(duì)管道應(yīng)力預(yù)測(cè)數(shù)據(jù)的異常預(yù)警，并結(jié)合管道有限元模型開展異常數(shù)據(jù)的損傷程度評(píng)估及剩余壽命預(yù)測(cè)研究。