改進天鷹優(yōu)化器優(yōu)化Elman神經(jīng)網(wǎng)絡(luò)模型預(yù)測管道蠟沉積速率

陳卓, 劉波, 張源, 楊云博, 田洋陽

(1.中國石化西北油田分公司采油二廠, 烏魯木齊 830016; 2.國家管網(wǎng)北方管道長慶輸油氣分公司, 銀川 750001;3.中國石油長慶油田分公司第六采氣廠, 西安 710021; 4.中國石油長慶油田長北作業(yè)分公司, 西安 710018;5.西安石油大學(xué)石油工程學(xué)院, 西安 710065)

原油管道輸送因其具有輸送量大、經(jīng)濟環(huán)保、成本較低等優(yōu)點,是中國目前主要的原油輸送方式。但國產(chǎn)原油大多具有高黏、易凝且含蠟量高等特性,在管輸過程中,隨著管道壓力、溫度等條件的變化,極易導(dǎo)致原油中蠟、膠質(zhì)及瀝青質(zhì)等重質(zhì)組分以固體形式析出,并在管壁上形成蠟沉積[1-2]。管壁結(jié)蠟會使得管道有效流通面積減小、流通阻力增大、輸送能力降低,嚴重時甚至堵塞管道,清管作業(yè)時易發(fā)生清管器卡堵等故障[3]。因此,建立蠟沉積模型預(yù)測實際管輸過程中的蠟沉積情況至關(guān)重要。

隨著計算機科學(xué)的不斷發(fā)展,基于神經(jīng)網(wǎng)絡(luò)、微粒群算法等智能算法對管道蠟沉積厚度進行預(yù)測的研究應(yīng)用越來越廣泛,其不需要探究影響管道結(jié)蠟厚度的具體機理,主要是通過機器學(xué)習(xí)的方法對大量的實驗數(shù)據(jù)進行處理,訓(xùn)練模擬蠟沉積速率同各影響因素之間的關(guān)系,確定不同工況狀態(tài)下的管道結(jié)蠟厚度, 進而對管道蠟沉積速率進行預(yù)測[4]。周詩崠等[5]考慮了原油的動力黏度、管壁處剪切應(yīng)力、管壁處溫度梯度和管壁處蠟分子濃度梯度4個因素對蠟沉積速率的影響,構(gòu)建了誤差反向傳播神經(jīng)網(wǎng)絡(luò)模型(back propagation neural networks, BPNN),并證實了所建模型的有效性。田震等[6]綜合考慮了7個因素對管道蠟沉積速率的影響,建立了預(yù)測蠟沉積速率的7-10-1三層BPNN模型。作者指出,BPNN模型存在一些固有的缺陷,其會很大程度上影響模型的預(yù)測性能。Xie等[7]建立了徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)并預(yù)測了蠟沉積速率,結(jié)果表明該模型的相對誤差僅為1.5%。王磊等[8]建立了支持向量機模型來預(yù)測管道的蠟沉積速率,作者指出使用(radial basis function, RBF)神經(jīng)網(wǎng)絡(luò)作為核函數(shù)時,不同的懲罰因子C、核函數(shù)參數(shù)g組合對預(yù)測結(jié)果影響較大。以上學(xué)者們基于所建模型獲得的預(yù)測結(jié)果雖與真實值均較為吻合,但受限于優(yōu)化算法和神經(jīng)網(wǎng)絡(luò)自身局限性,可能導(dǎo)致針對多因素、高維度問題導(dǎo)致在管道蠟沉積速率預(yù)測過程中出現(xiàn)泛化能力不足、預(yù)測效果不佳等問題。

Elman神經(jīng)網(wǎng)絡(luò)是一種典型的局部回歸網(wǎng)絡(luò),目前已在很多領(lǐng)域得到了應(yīng)用。其在應(yīng)用過程中,往往存在泛化能力不足、易陷入極小點的缺陷。天鷹優(yōu)化器(aquila optimizer,AO)是一種新型元啟發(fā)式優(yōu)化算法,其主要靈感來源于天鷹在捕捉獵物過程中的自然界行為,具有全局搜索能力強、求解精度較高的優(yōu)點。但其與傳統(tǒng)的元啟發(fā)式算法都存在相同缺陷,即在尋優(yōu)過程中無法在全局與局部搜索之間取得最佳平衡。針對傳統(tǒng)Elman神經(jīng)網(wǎng)絡(luò)(Elman neural network, ENN)模型與天鷹優(yōu)化器的不足,引入鯨魚優(yōu)化算法的狩獵策略對天鷹優(yōu)化器的局部搜索能力進行改進,提出一種基于改進天鷹優(yōu)化器(improved aquila optimizer, IAO)的ENN模型,并通過室內(nèi)結(jié)蠟實驗數(shù)據(jù)驗證了所建模型的有效性,其研究結(jié)果對于結(jié)蠟速率的準確預(yù)測具有重要的指導(dǎo)意義。

1 基于改進天鷹優(yōu)化器優(yōu)化ENN模型構(gòu)建

1.1 Elman神經(jīng)網(wǎng)絡(luò)模型構(gòu)建

Elman神經(jīng)網(wǎng)絡(luò)模型是一種具有局部記憶單元和局部反饋連接的回歸式網(wǎng)絡(luò)[9]。不同于BP神經(jīng)網(wǎng)絡(luò)的是它在傳統(tǒng)的三層網(wǎng)絡(luò)結(jié)構(gòu)基礎(chǔ)上(輸入層、隱含層、輸出層),增加了關(guān)聯(lián)層,因此具備記憶的特性。

其中,ENN模型非線性狀態(tài)空間表達式為

(1)

式(1)中:k為當前狀態(tài)所處時刻;y(k)為輸出節(jié)點單元的輸出;x(k)為中間層的輸出;xc(k)為關(guān)聯(lián)層的輸出;u為輸入層單元向量;w1、w2、w3分別表示關(guān)聯(lián)層與中間層的連接權(quán)矩陣、輸入層與中間層的連接權(quán)矩陣、中間層與輸出層的連接權(quán)矩陣;g() 、f()為輸出層、中間層的神經(jīng)元傳遞函數(shù);b1、b2分別為輸入層與中間層的閾值。

ENN模型在對權(quán)值與閾值進行更新時,實際上是采用誤差反向傳播和誤差平方和函數(shù)進行衡量,其表示為

(2)

式(2)中:E(k)表示誤差平方和函數(shù);yd(k)為k時刻網(wǎng)絡(luò)實際輸出矩陣;y(k)為k時刻網(wǎng)絡(luò)預(yù)測輸出矩陣。

1.2 改進天鷹優(yōu)化器的基本思路

1.2.1 鯨魚優(yōu)化算法狩獵策略的引入

鯨魚優(yōu)化算法(whale optimization algorithm, WOA)模仿座頭鯨捕獵時主要分為兩種策略:包圍策略和狩獵策略[10]。改進天鷹優(yōu)化器主要引進鯨魚優(yōu)化算法的狩獵策略,利用螺旋修正位置機制修正Xbest(t)和Xi(t)之間的距離,計算公式為

Xi(t+1)=D′eblcos(2πl(wèi))+Xbest(t)

(3)

式(3)中:D′表示當前搜索個體與當前最優(yōu)解的距離;b為螺旋形狀參數(shù);l表示值域為[-1,1]均勻分布的隨機數(shù);Xbest(t)為當前最優(yōu)解的位置向量。

1.2.2 改進天鷹優(yōu)化器原理

天鷹優(yōu)化器(AO)尋優(yōu)過程分為四種方式:依據(jù)天鷹的飛行特性首先在高空翱翔選擇搜索空間,然后通過短滑攻擊的等高線飛行、滑翔在發(fā)散搜索空間內(nèi)探索,最后通過低空飛行在收斂空間中探索獵物,并通過快速俯沖對獵物達到捕捉的目的[11-13]。文獻[11]已給出天鷹優(yōu)化器的詳細原理,讀者可自行查閱。天鷹優(yōu)化器尋優(yōu)過程中的四種數(shù)學(xué)表述為

(4)

式(4)中:Xi(t+1)為天鷹使用方法i迭代的下一個解(i=1,2,3,4);Xbest(t)為當前最優(yōu)解;BU、BL為搜索上、下界;t為當前迭代次數(shù);T為最大迭代次數(shù);rand為[0, 1]之間的隨機數(shù);XM(t)為當前解在t次迭代時的平均值;Levy(D)為懲罰飛行分布函數(shù);XR(t)為t次迭代在[1,N](N為種群規(guī)模)范圍內(nèi)采用的隨機解;y和x用于螺旋形狀搜索;α和δ為調(diào)整系數(shù)取常數(shù)0.1;FQ為平衡搜索策略的函數(shù);X(t)為迭代的當前解;G1為天鷹在捕捉獵物時的運動軌跡;G2為天鷹捕捉獵物時飛行首位置與末位置之間的斜率。

天鷹優(yōu)化器作為新的群體智能優(yōu)化算法,其和傳統(tǒng)的優(yōu)化算法都存在共同的缺陷,即:無法在全局和局部搜索之間獲得最佳平衡,尤其是當其應(yīng)用于高維數(shù)據(jù)集中的特征選擇時。全局搜索與局部搜索不平衡則會導(dǎo)致收斂緩慢并很快陷入局部最優(yōu)問題。改進天鷹優(yōu)化器(IAO)是利用WOA的狩獵策略優(yōu)勢改進AO的一種耦合算法。具體而言,在IAO尋優(yōu)過程中,WOA的狩獵策略被用作改進原始AO的局部搜索能力從而提高其解決不同優(yōu)化問題的能力。

主要尋優(yōu)過程為:首先使用天鷹優(yōu)化器初始化全局參數(shù)并使用隨機分布方法生成初始種群,進而使用目標函數(shù)[本文中使用預(yù)測樣本的均方誤差]衡量整體尋優(yōu)過程中的最優(yōu)解,然后利用AO全局搜索較好以及WOA局部搜索較好的優(yōu)點對原始AO進行擴展開發(fā)[具體為使用鯨魚優(yōu)化算法原理狩獵策略式(3)對天鷹優(yōu)化器尋優(yōu)過程中的式(4)③進行替換]。因此,IAO在整個尋優(yōu)過程中受益于天鷹優(yōu)化器和鯨魚優(yōu)化算法的優(yōu)勢,通過改進后的四種方法對目標函數(shù)進行更新,將最優(yōu)的結(jié)果(改進ENN模型的權(quán)值和閾值)保留至后續(xù)迭代,直到迭代達到停止條件,最終輸出最優(yōu)結(jié)果[14]。

2 基于改進天鷹優(yōu)化器優(yōu)化ENN模型的建模流程

傳統(tǒng)ENN模型在預(yù)測管道蠟沉積速率時,存在泛化能力不足、易陷入極小點的缺陷,因此文中引入改進天鷹優(yōu)化器對傳統(tǒng)ENN模型的權(quán)值和閾值進行尋優(yōu)處理。將每組天鷹的飛行位置(Xi)視為傳統(tǒng)ENN模型的權(quán)值與閾值,通過目標函數(shù)本文使用預(yù)測樣本的均方誤差來判斷天鷹飛行的最佳位置,迭代更新改進ENN模型的權(quán)值以及閾值,直至滿足目標函數(shù)的最小精度或最大迭代次數(shù)時停止,其IAO-ENN模型流程如圖1所示。

圖1 IAO-ENN模型構(gòu)建流程Fig.1 IAO-ENN model construction process

3 基于實測數(shù)據(jù)的改進新模型預(yù)測精度分析

3.1 數(shù)據(jù)選取與預(yù)處理

以文獻[15-16]中給出的兩組不同物性的原油管道蠟沉積速率實驗數(shù)據(jù)為例(分別對應(yīng)實例一、實例二),對比分析所建IAO-ENN模型和其他模型的預(yù)測精度。文獻[15-16]中給出的原油管道蠟沉積速率實驗數(shù)據(jù)分別為35組、38組,分別隨機選取其中的30組數(shù)據(jù)作為訓(xùn)練樣本建立模型,采用剩余的5組、8組數(shù)據(jù)(預(yù)測樣本)來對比分析各模型的預(yù)測精度。具體的訓(xùn)練樣本分別如表1和表2所示。

表1 原油管道蠟沉積速率訓(xùn)練樣本[15](實例一)Table 1 Training samples of wax deposition rate in crude oil pipeline[15] (example 1)

表2 原油管道蠟沉積速率訓(xùn)練樣本[16](實例二)Table 2 Training samples of wax deposition rate in crude oil pipeline[16] (example 2)

在對訓(xùn)練樣本學(xué)習(xí)時,由于變量間的量綱不同,需要使用mapminmax函數(shù)對數(shù)據(jù)進行歸一化處理,即把各變量的數(shù)據(jù)映射到[0,1]范圍內(nèi)。

3.2 仿真結(jié)果對比及誤差原因分析

文中各模型的代碼使用MATLAB軟件自主編程實現(xiàn),在AMD Ryzen7 4800U CPU @ 1.80 GHz,內(nèi)存16.0 GB,windows 10操作系統(tǒng)電腦端參數(shù)條件下通過Matlab R2020a軟件對所建各模型進行仿真求解。在對傳統(tǒng)ENN模型構(gòu)建時,設(shè)定訓(xùn)練樣本的學(xué)習(xí)次數(shù)為1 000次,學(xué)習(xí)速率為0.01,訓(xùn)練目標最小誤差為0.000 01,動量因子0.01,最小性能梯度為1×10-6。其中傳統(tǒng)ENN模型針對實例一、實例二實測數(shù)據(jù)確定隱含層節(jié)點數(shù)H時,計算公式為

(5)

式(5)中:m表示輸入層節(jié)點個數(shù);n表示輸出層節(jié)點個數(shù);a取1～10的整數(shù);H隨a的改變而改變。

使用訓(xùn)練樣本均方誤差數(shù)值作為確定隱藏層節(jié)點個數(shù)的衡量標準,基于實例一、實例二不同隱藏層節(jié)點數(shù)求解的訓(xùn)練樣本均方誤差結(jié)果,如表3、表4所示。

表3 不同隱含層節(jié)點數(shù)計算訓(xùn)練樣本的均方誤差(實例一)Table 3 Calculation of mean square error of training samples with different number of hidden layer nodes (example 1)

表4 不同隱含層節(jié)點數(shù)計算訓(xùn)練樣本的均方誤差(實例二)Table 4 Calculation of mean square error of training samples with different number of hidden layer nodes (example 2)

由表3可見,當隱藏層節(jié)點數(shù)為11時,對應(yīng)的訓(xùn)練樣本均方誤差最小(實例一),故實例一仿真試驗確定構(gòu)建7-11-1三層ENN模型。同樣由表4可見,當隱藏層節(jié)點數(shù)為10時,對應(yīng)的訓(xùn)練樣本均方誤差最小(實例二),故實例二仿真試驗確定構(gòu)建7-10-1三層ENN模型。

為了驗證IAO-ENN模型的預(yù)測精度,文中建立了ENN、WOA-ENN、AO-ENN模型與其對比。為了便于分析,保持上述模型迭代尋優(yōu)次數(shù)為50次,種群規(guī)模為30;其中WOA-ENN模型初始化常量取a=[0,2],b=1,l=[-1,1];AO-ENN、IAO-ENN模型初始化常量取α=0.1,δ=0.1。

仿真結(jié)束后,得到各模型管道蠟沉積速率的預(yù)測結(jié)果并計算相對誤差,結(jié)果見表5、表6、圖2以及圖3。

表5 不同模型的預(yù)測結(jié)果及相對誤差(實例一)

表6 不同模型的預(yù)測結(jié)果及相對誤差(實例二)Table 6 Prediction results and relative errors of different models (example 2)

圖2 不同實例IAO-ENN與ENN模型管道蠟沉積速率預(yù)測值對比Fig.2 Comparison of predicted values of wax deposition rate between IAO-ENN and ENN models in different examples

圖3 不同實例IAO-ENN與ENN模型預(yù)測誤差對比Fig.3 Comparison of prediction errors between IAO-ENN and ENN models in different examples

為評價各模型的預(yù)測精度,采用平均絕對百分比誤差(mean absolute percentage error, MAPE)、均方根誤差(root mean square error, RMSE)、相關(guān)系數(shù)R2對其進行評估,具體計算結(jié)果見表7。

表7 不同實例各模型預(yù)測精度對比Table 7 Comparison of prediction accuracy of different models in different examples

從表5～表7、圖2以及圖3可見,新建的IAO-ENN模型預(yù)測精度最高,其相關(guān)系數(shù)R2更接近1,且其平均絕對百分比誤差分別僅為0.760 3%和1.245 2%。此外傳統(tǒng)ENN模型的預(yù)測精度相對較低,WOA-ENN、AO-ENN模型的預(yù)測精度均高于傳統(tǒng)ENN模型,這也證明了使用優(yōu)化算法改進模型的有效性。

從以上預(yù)測結(jié)果可見,IAO-ENN改進模型可獲得更高的預(yù)測精度,而傳統(tǒng)ENN模型的預(yù)測精度較差。這是由于:對傳統(tǒng)ENN模型而言,其Elmantrain函數(shù)應(yīng)用誤差反向傳播訓(xùn)練函數(shù)對權(quán)值進行修正,這就導(dǎo)致梯度下降法求解E(k)對權(quán)值的偏導(dǎo)數(shù)時,存在易陷入局部極小點的缺陷。且傳統(tǒng)Elman神經(jīng)網(wǎng)絡(luò)進行預(yù)測模型的創(chuàng)建時,初始的權(quán)值與閾值通常由偽隨機數(shù)初始化產(chǎn)生,這就導(dǎo)致訓(xùn)練好的預(yù)測模型穩(wěn)定性較差,進而導(dǎo)致泛化能力(機器學(xué)習(xí)對新樣本的適應(yīng)能力)不足[17-19]。

采用天鷹優(yōu)化器建立改進ENN模型進行預(yù)測時,引入改進天鷹優(yōu)化器可對初始化權(quán)值與閾值進行全局尋優(yōu)處理,這就有利于:①盡可能克服了由初始權(quán)值與閾值取值不當,導(dǎo)致傳統(tǒng)ENN模型在訓(xùn)練過程中使用梯度下降法對權(quán)值與閾值進行調(diào)整時,收斂速度過慢和易陷入局部極小點的缺陷;②避免了使用隨機方式對權(quán)值與閾值進行賦值時,容易導(dǎo)致訓(xùn)練好的模型,針對其他樣本預(yù)測時,較難取得精確預(yù)測結(jié)果的缺陷,提高了傳統(tǒng)ENN模型的泛化能力。

此外新建的IAO-ENN模型較AO-ENN模型預(yù)測精度也有所提升,這主要是因為:新模型采用鯨魚優(yōu)化算法的狩獵策略改進天鷹優(yōu)化器的捕獵能力,能夠進一步提高原始天鷹優(yōu)化器的局部搜索能力,故其預(yù)測精度較高。

從仿真結(jié)果可見,新建的IAO-ENN模型同樣較WOA-ENN模型預(yù)測精度有所提升,這主要是因為:改進天鷹優(yōu)化器將其尋優(yōu)過程分為四種方式,既引進了鯨魚優(yōu)化算法局部搜索能力強的優(yōu)勢,又在迭代后期很好地平衡了全局搜索與局部搜索之間的關(guān)系,能夠克服原始鯨魚優(yōu)化算法過早陷入局部最優(yōu)解的缺陷,故其預(yù)測精度仍較高。

4 結(jié)論

(1)針對傳統(tǒng)ENN模型的不足,在耦合鯨魚優(yōu)化算法與天鷹優(yōu)化器的基礎(chǔ)上,提出了一種基于改進天鷹優(yōu)化器建立的改進ENN模型,并通過兩個實例預(yù)測了原油管道的蠟沉積速率。結(jié)果表明,所建立的改進天鷹優(yōu)化器優(yōu)化ENN模型平均絕對百分比誤差分別僅為0.760 3%和1.245 2%,其具有很好的預(yù)測精度。

(2)從改進天鷹優(yōu)化器優(yōu)化ENN模型和其他模型的對比結(jié)果可見,改進天鷹優(yōu)化器優(yōu)化ENN模型的擬合精度與預(yù)測精度均較好,傳統(tǒng)ENN模型的擬合精度與預(yù)測精度最差。

(3)采用改進天鷹優(yōu)化器優(yōu)化ENN模型預(yù)測管道的蠟沉積速率完全可行,其有效解決了傳統(tǒng)ENN模型預(yù)測時泛化能力不足、易陷入極小值的缺陷,該方法為結(jié)蠟速率的準確預(yù)測提供了新的途徑,且拓寬了傳統(tǒng)ENN模型的應(yīng)用范圍。