極端梯度提升與隨機(jī)森林融合的天然氣 露點(diǎn)預(yù)測方法

熊偉，何彥霖，宋偉，張厚望，尹愛軍

（1.中國石油西南油氣田分公司 重慶氣礦，重慶 400021； 2.重慶大學(xué) 機(jī)械與運(yùn)載工程學(xué)院，重慶 400044）

天然氣作為一種優(yōu)質(zhì)的清潔能源，承擔(dān)著國民經(jīng)濟(jì)快速發(fā)展的重要職責(zé)，保證天然氣在集輸過程中的安全以及產(chǎn)品質(zhì)量至關(guān)重要。天然氣在集輸過程中，由于時(shí)變溫度及壓力的作用會(huì)析出游離的液態(tài)水，極易與天然氣中的碳、硫等酸性物質(zhì)形成酸性溶液，進(jìn)而導(dǎo)致集輸管線腐蝕穿孔、閥門堵塞等危害現(xiàn)象。天然氣水露點(diǎn)反映了天然氣中液態(tài)水的含量，是衡量脫水裝置脫水性能及天然氣產(chǎn)品質(zhì)量的一項(xiàng)重要技術(shù)指標(biāo)。目前，對于水露點(diǎn)的測量方法大多停留在人工采用冷卻鏡面露點(diǎn)儀測量的階段，成本高，且檢測儀易受到外界因素的影響，從而導(dǎo)致檢測結(jié)果與實(shí)際值存在誤差，同時(shí)結(jié)果存在一定的時(shí)延性，不能實(shí)時(shí)準(zhǔn)確地反映產(chǎn)品質(zhì)量。因此，對天然氣水露點(diǎn)進(jìn)行實(shí)時(shí)準(zhǔn)確地評估是天然氣集輸過程中一項(xiàng)重要的任務(wù)。

考慮到對天然氣水露點(diǎn)影響最大的工藝參數(shù)為三甘醇（Triethylene Glycol，TEG）濃度與吸收塔接觸溫度，基于此，研究人員已提出多種利用相關(guān)均衡性的天然氣水露點(diǎn)估算方法。然上述平衡式無法精確估計(jì)氣相TEG溶液上方的平衡水濃度。Twu等提出使用TST（Twu-Sim-Tassone）狀態(tài)方程來模擬含有TEG與水的二元系統(tǒng)，同時(shí)提出TST狀態(tài)方程與相關(guān)均衡關(guān)聯(lián)的天然氣水露點(diǎn)預(yù)測方法，但該方法泛化能力較弱。文獻(xiàn)[8]構(gòu)建了水露點(diǎn)關(guān)于吸收塔接觸溫度與TEG濃度的一個(gè)平衡多項(xiàng)式，盡管該多項(xiàng)式相關(guān)工藝參數(shù)的有效覆蓋范圍較廣，如吸收塔接觸溫度范圍為10~80 ℃、TEG濃度范圍為90%~99.999%，但仍有必要開發(fā)更高精度的水露點(diǎn)預(yù)測模型。隨著數(shù)據(jù)驅(qū)動(dòng)方法的興起，Ahmadi等提出應(yīng)用基于粒子群優(yōu)化（Particle Swarm Optimization，PSO）的人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Network，ANN）預(yù)測不同TEG濃度和吸收塔接觸溫度下的水露點(diǎn)。Afshin等根據(jù)TEG濃度與吸收塔接觸溫度，分別利用多層感知網(wǎng)絡(luò)（Multilayer Perceptron，MLP）與徑向基神經(jīng)網(wǎng)絡(luò)（Radial Basis Function Neural Network，RBF-NN）對水露點(diǎn)進(jìn)行預(yù)測，結(jié)果表明，MLP模型具有更好的表現(xiàn)。文獻(xiàn)[11]采用基因表達(dá)式編程（Gene Expression Programming，GEP）構(gòu)造水露點(diǎn)關(guān)于TEG濃度與吸收塔接觸溫度的函數(shù)，結(jié)果顯示，所構(gòu)建的函數(shù)較文獻(xiàn)[8]更簡單、更準(zhǔn)確。Ahmad等將貝葉斯正則化訓(xùn)練的前反饋人工神經(jīng)網(wǎng)絡(luò)（Feedforward Artificial Neural Network，F(xiàn)ANN）用于預(yù)測TEG脫水過程中天然氣平衡水露點(diǎn)。盡管上述各方法均能實(shí)現(xiàn)對水露點(diǎn)的評估，但僅考慮了TEG濃度、吸收塔接觸溫度2個(gè)與天然氣水露點(diǎn)關(guān)聯(lián)緊密的工藝參數(shù)，忽略了天然氣TEG脫水與再生過程中其余重要工藝參數(shù)的影響。

由于在解釋變量與響應(yīng)之間復(fù)雜非線性時(shí)所具備的優(yōu)秀能力，基于分類回歸樹（Classification And Regression Tree，CART）的算法被證明是有效可靠的方法，但仍存在過擬合、預(yù)測能力差等問題。隨機(jī)森林（Random Forest，RF）作為其中最具代表性的算法，它克服了上述缺點(diǎn)，擁有極佳的預(yù)測能力，在醫(yī)學(xué)、航空、電力等領(lǐng)域均得到了有效應(yīng)用。將RF算法引入石化領(lǐng)域，構(gòu)建天然氣水露點(diǎn)預(yù)測模型，為天然氣脫水裝置關(guān)鍵參數(shù)預(yù)測提供參考。實(shí)際TEG脫水裝置中，在天然氣脫水與TEG再生流程中涵蓋多個(gè)反映裝置狀態(tài)的工藝參數(shù)，如各部位的流量、液位、壓力、溫度以及控制閥開度等，各工藝參數(shù)相互耦合以維持化工過程平衡。提取對水露點(diǎn)敏感性較高的影響參數(shù)，減少無關(guān)或冗余參數(shù)對水露點(diǎn)預(yù)測結(jié)果的影響，提高預(yù)測模型的預(yù)測精度是本文重點(diǎn)研究內(nèi)容之一。極端梯度提升（eXtreme Gradient Boosting，XGBoost）是一種性能優(yōu)秀的特征選擇算法，在各領(lǐng)域獲得了較好的效果。

本文將XGBoost算法引入至水露點(diǎn)預(yù)測領(lǐng)域，對脫水過程中各工藝參數(shù)與水露點(diǎn)間的重要性進(jìn)行評分，篩選最優(yōu)特征參數(shù)集，以最優(yōu)特征參數(shù)集作為RF模型特征變量，提出將XGBoost算法、RF算法有機(jī)結(jié)合的天然氣水露點(diǎn)預(yù)測方法。利用XGBoost約簡樣本指標(biāo)，提取關(guān)鍵特征參數(shù)，充分利用脫水流程中各工藝參數(shù)對預(yù)測對象的影響。再使用RF建立水露點(diǎn)預(yù)測模型，實(shí)現(xiàn)對水露點(diǎn)進(jìn)行有效且實(shí)時(shí)的預(yù)測。以天然氣脫水監(jiān)測系統(tǒng)監(jiān)測數(shù)據(jù)與生產(chǎn)數(shù)據(jù)為例，驗(yàn)證所提方法的有效性。

1 XGBoost特征選擇

XGBoost是一種基于梯度提升決策樹（Gradient Boosting Decision Tree，GBDT）的機(jī)器學(xué)習(xí)框架。常規(guī)GBDT模型在優(yōu)化過程中僅使用一階導(dǎo)數(shù)信息，難以實(shí)施分布式訓(xùn)練。XGBoost則對損失函數(shù)執(zhí)行二次泰勒展開式，同時(shí)利用一階及二階導(dǎo)數(shù)信息，可在訓(xùn)練時(shí)自動(dòng)使用CPU的多線程并行計(jì)算。此外為防止過擬合，在損失函數(shù)中增加正則懲罰項(xiàng)降低模型復(fù)雜度，并采用行列采樣的方式進(jìn)行采樣。模型如式（1）所示。

式中：為CART樹的數(shù)量；f為表示第棵CART樹；為所有CART樹的集合空間；x表示第個(gè)數(shù)據(jù)點(diǎn)的特征向量。

對應(yīng)的目標(biāo)函數(shù)為：

式中：代表損失函數(shù)，表征預(yù)測值與觀測值之間的誤差；為用于防止過擬合的正則懲罰項(xiàng)函數(shù)，可有效限制葉子節(jié)點(diǎn)的數(shù)量。

式中：、為懲罰系數(shù)；表示給定CART樹的葉節(jié)點(diǎn)數(shù)目；為每棵CART樹上葉子節(jié)點(diǎn)的權(quán)重。

對目標(biāo)函數(shù)進(jìn)行二階泰勒展開，有：

其中，g、h分別表示一階與二階梯度，見式（6）。

將式（3）與（6）代入目標(biāo)函數(shù)的二階泰勒展開式，當(dāng)其導(dǎo)數(shù)為0時(shí)，最佳權(quán)重及目標(biāo)函數(shù)為：

基于XGBoost進(jìn)行特征選擇時(shí)，特征變量的平均增益反映了以當(dāng)前特征為分支節(jié)點(diǎn)進(jìn)行分裂所提升的準(zhǔn)確率，以該指標(biāo)量化特征變量在模型中的重要程度。每次分裂后模型的增益表示為：

式中：、分別表示分裂后所有左、右側(cè)葉子節(jié)點(diǎn)的集合。對特征變量在每棵CART樹的增益進(jìn)行加權(quán)平均計(jì)算即可得到其在模型中的重要性得分。

2 水露點(diǎn)預(yù)測模型

2.1 隨機(jī)森林

隨機(jī)森林（Random Forest，RF）是在一種在決策樹基礎(chǔ)上所構(gòu)建的集成學(xué)習(xí)方法，其在決策樹訓(xùn)練過程中引入了隨機(jī)子空間與隨機(jī)屬性特征，有效提高了模型的抗噪能力、抗過擬合性，如今廣泛應(yīng)用于分類與回歸問題中。單棵決策樹在面對數(shù)據(jù)中的微小變化時(shí)容易產(chǎn)生極大誤差，RF結(jié)合多棵決策樹進(jìn)行分類或回歸處理，克服了單棵決策樹容易出現(xiàn)的結(jié)果不穩(wěn)定現(xiàn)象。RF的基本原理是通過使用Boostrap重抽樣法，從總體訓(xùn)練數(shù)據(jù)集中有放回地隨機(jī)抽取多個(gè)與樣本容量相同的樣本子集，最大限度地構(gòu)建多棵決策樹，且每棵決策樹隨機(jī)選擇特征進(jìn)行節(jié)點(diǎn)分裂，構(gòu)建一個(gè)全局集成學(xué)習(xí)器，而后取每棵決策樹的回歸均值作為回歸預(yù)測結(jié)果。RF模型的構(gòu)造過程如圖1所示。

圖1 RF構(gòu)造過程 Fig.1 The Construction process of RF

構(gòu)造隨機(jī)森林的一般步驟有：

2）對于特征參數(shù)集，針對每個(gè)樣本子集，建立決策樹回歸模型(,),=1,2,…,。隨機(jī)選擇個(gè)特征，應(yīng)小于總的特征數(shù)，使得每個(gè)葉節(jié)點(diǎn)選擇最大信息增益的特征進(jìn)行分裂，同時(shí)不進(jìn)行剪枝處理。其中，信息增益表示為：

3）所有樣本子集訓(xùn)練完成后，得到?jīng)Q策樹回歸模型，將所有決策樹組合形成隨機(jī)森林，取各決策樹的均值作為隨機(jī)森林回歸預(yù)測模型的最終結(jié)果。

2.2 預(yù)測流程

在三甘醇脫水裝置天然氣水露點(diǎn)預(yù)測中，用XGBoost篩選出的影響水露點(diǎn)的關(guān)鍵特征參數(shù)建立特征變量集，輸入至RF模型得到水露點(diǎn)的預(yù)測結(jié)果。其流程如圖2所示。

圖2 天然氣水露點(diǎn)預(yù)測流程 Fig.2 Natural gas water dew point prediction process

采用均方根誤差（）與平均絕對誤差（）指標(biāo)評價(jià)預(yù)測方法的有效性及準(zhǔn)確性。

3 實(shí)驗(yàn)驗(yàn)證

3.1 數(shù)據(jù)來源

西南油氣田公司重慶氣礦某脫水裝置現(xiàn)場如圖3所示。該套脫水裝置采用三甘醇脫水工藝實(shí)現(xiàn)對天然氣脫水，分為天然氣脫水與三甘醇再生2部分子系統(tǒng)，包括原料氣分離器、吸收塔、重沸器及精餾柱等眾多處理子設(shè)備。

圖3 脫水現(xiàn)場 Fig.3 Dehydration site map

根據(jù)已建立的脫水裝置實(shí)時(shí)數(shù)據(jù)監(jiān)測與采集系統(tǒng)，對原料氣分離器液位、三甘醇循環(huán)量及精餾柱溫度等33個(gè)工藝參數(shù)數(shù)據(jù)進(jìn)行采集，并統(tǒng)計(jì)三甘醇貧液濃度、三甘醇富液濃度及天然氣水露點(diǎn)等3個(gè)生產(chǎn)參數(shù)數(shù)據(jù)，詳細(xì)監(jiān)測參數(shù)見表1。

表1 脫水裝置工藝參數(shù) Tab.1 Process parameters of dehydration unit

本文以該脫水裝置生產(chǎn)數(shù)據(jù)對所提方法進(jìn)行實(shí)驗(yàn)驗(yàn)證，并在全部特征及特征選擇后的數(shù)據(jù)集上對比驗(yàn)證方法的優(yōu)越性。以脫水裝置監(jiān)測工藝參數(shù)為特征參數(shù)集，收集該場站2017—2019年共計(jì)495條監(jiān)測數(shù)據(jù)及天然氣水露點(diǎn)，部分工藝參數(shù)原始數(shù)據(jù)如圖4所示。

圖4 部分監(jiān)測參數(shù)原始數(shù)據(jù) Fig.4 Raw data of some monitoring parameters

3.2 特征提取

針對該三甘醇脫水裝置多維原始訓(xùn)練數(shù)據(jù)集，以所有工藝參數(shù)為自變量、天然氣水露點(diǎn)為因變量，設(shè)定XGBoost模型損失函數(shù)正則項(xiàng)的葉節(jié)點(diǎn)復(fù)雜性系 數(shù)=0.0，懲罰系數(shù)=1，決策樹的數(shù)量為100，決策樹的最大深度為8，最小葉子點(diǎn)權(quán)重和為2，學(xué)習(xí)率為0.01。得到所有工藝特征參數(shù)對于天然氣水露點(diǎn)的重要性得分，如圖5所示。

圖5 工藝參數(shù)重要性排序 Fig.5 Process parameter importance ranking

從圖5可以看出，出吸收塔富甘醇溫度的特征重要性最高，達(dá)到0.297 07，說明出吸收塔富甘醇溫度對天然氣水露點(diǎn)具有較大的影響作用。該參數(shù)同時(shí)反映了三甘醇進(jìn)吸收塔溫度與濕天然氣進(jìn)塔溫度2個(gè)影響因素，與實(shí)際情況吻合。在模型特征選擇中，過多或過少的特征數(shù)都會(huì)導(dǎo)致模型的預(yù)測失效，根據(jù)重要性得分進(jìn)行排序，由排序后不同特征個(gè)數(shù)所對應(yīng)模型預(yù)測準(zhǔn)確率如圖6所示。隨著特征個(gè)數(shù)的增加，在特征集為前9個(gè)特征時(shí)及均達(dá)到最小值，故選擇前9個(gè)工藝參數(shù)作為后續(xù)RF預(yù)測模型的特征參數(shù)集，見表2。

圖6 不同特征個(gè)數(shù)預(yù)測評價(jià) Fig.6 Prediction and evaluation of the number of different features

表2 特征參數(shù)集 Tab.2 Characteristic parameter set

3.3 對比分析

設(shè)置測試集與訓(xùn)練集的比例為0.25，為了更好地驗(yàn)證所提方法的優(yōu)越性，在全部特征以及特征選擇后的參數(shù)集中，運(yùn)用RF、XGBoost、支持向量機(jī)（Support Vector Machine，SVM）進(jìn)行對比分析驗(yàn)證，結(jié)果如圖7、8所示。其中，采用網(wǎng)格搜索對RF模型進(jìn)行尋優(yōu)處理，設(shè)定RF模型的決策樹數(shù)量為100，葉子節(jié)點(diǎn)最小樣本數(shù)為15，不限制樹的最大深度，內(nèi)部節(jié)點(diǎn)再劃分樣本數(shù)為2。圖7表示了以全部工藝參數(shù)作為后續(xù)預(yù)測模型的特征集時(shí)各種預(yù)測模型的預(yù)測結(jié)果對比，圖8表示了采用XGBoost選擇的特征參數(shù)作為預(yù)測模型特征集時(shí)各種預(yù)測模型的預(yù)測結(jié)果對比?？梢钥闯?，無論是以全部參數(shù)為特征還是進(jìn)行特征選擇后，RF的預(yù)測值相較于其余2個(gè)模型而言更接近真實(shí)值，吻合效果更佳，說明RF用于天然氣水露點(diǎn)預(yù)測領(lǐng)域具有較強(qiáng)的可行性。

圖7 全部工藝參數(shù)為特征集 Fig.7 The feature sets of all process parameters

圖8 選擇特征參數(shù)集數(shù) Fig.8 Select the data of feature parameter sets

為進(jìn)一步評價(jià)模型預(yù)測性能，采用式（12）、（13）所示的均方根誤差、平均絕對誤差對3組預(yù)測模型進(jìn)行誤差分析，結(jié)果如圖9所示。對于全部參數(shù)作為特征集時(shí)，RF的=0.827 7 ℃分別低于XGBoost模型的0.896 2 ℃和SVM模型的1.005 3 ℃，同時(shí)其均低于其余2組模型；以XGBoost選擇參數(shù)作為特征集時(shí)，RF相較于其余XGBoost與SVM模型，具有最低的、值。進(jìn)一步說明了無論是否進(jìn)行特征選擇，RF的預(yù)測效果更好。對比特征選擇前后的評價(jià)指標(biāo)，可以看出，、值均有一定程度的降低。從值來看，RF、XGBoost與SVM特征選擇后，分別減少了0.016 9、0.031 8、0.082 1 ℃；從值來看，特征選擇后，RF與SVM預(yù)測模型分別降低了0.014 6、0.230 8 ℃，而XGBoost則增加了0.020 4 ℃。出現(xiàn)該現(xiàn)象的原因是XGBoost模型中存在個(gè)別觀測值與實(shí)際值有較大偏離程度的離群點(diǎn)，導(dǎo)致指標(biāo)變差。根本原因在于按照特征重要性選擇特征參數(shù)數(shù)目時(shí)，所選擇的基準(zhǔn)模型為RF，從而針對XGBoost模型可能去除了部分有效信息，導(dǎo)致預(yù)測結(jié)果出現(xiàn)個(gè)別奇異點(diǎn)。從指標(biāo)可以看出，XGBoost模型在特征選擇后，整體預(yù)測效果得到了提升。綜上所述，經(jīng)過特征選擇后的預(yù)測模型，預(yù)測性能均得到了一定程度的提升，且本文所提方法均有更好的預(yù)測效果。

圖9 預(yù)測結(jié)果評價(jià) Fig.9 Evaluation of prediction results:a) all parameters are characteristic parameters; b) after seleeting characteristic paramenters

將原始脫水監(jiān)測數(shù)據(jù)集劃分為5等份，任取其中1份作為測試數(shù)據(jù)集，交叉驗(yàn)證本文所提方法的泛化能力，取評價(jià)結(jié)果的平均值作為交叉驗(yàn)證評價(jià)指標(biāo)，結(jié)果見表3?？梢钥闯觯?jīng)過特征選擇后，與XGBoost模型及SVM模型相比，RF模型具有更優(yōu)的及指標(biāo)性能，說明由XGBoost特征提取后運(yùn)用RF模型對天然氣水露點(diǎn)預(yù)測具有較好的泛化能力，預(yù)測精度和可靠性更高。

表3 交叉驗(yàn)證評價(jià)結(jié)果 Tab.3 Cross-validation evaluation results

4 結(jié)論

針對三甘醇脫水裝置實(shí)際生產(chǎn)中天然氣水露點(diǎn)數(shù)據(jù)多為人工采用檢測儀獲得，易受到外界因素的影響，同時(shí)檢測費(fèi)用高昂、時(shí)效性低等問題，將XGBoost與RF進(jìn)行有機(jī)融合，建立了天然氣水露點(diǎn)XGBoost- RF預(yù)測方法。以實(shí)際生產(chǎn)數(shù)據(jù)對比分析，結(jié)果表明：

1）以脫水系統(tǒng)實(shí)時(shí)監(jiān)測工藝參數(shù)數(shù)據(jù)為特征，可有效實(shí)現(xiàn)對天然氣水露點(diǎn)的預(yù)測，實(shí)時(shí)性高，且避免了外界因素的影響。

2）采用XGBoost算法，對特征參數(shù)進(jìn)行重要性排序，并選擇對目標(biāo)參數(shù)敏感特征，降低了冗余特征的影響，提高了預(yù)測模型的預(yù)測性能。特征選擇前后，RF預(yù)測結(jié)果的平均絕對誤差值降低了0.016 9 ℃，均方根誤差值降低了0.014 6 ℃；

3）對比分析RF與XGBoost、SVM預(yù)測模型結(jié)果，RF預(yù)測模型具有更好的預(yù)測能力與工程實(shí)用性，可為天然氣集輸處理現(xiàn)場提供積極的指導(dǎo)作用。