基于PCA-BO-XGBoost的礦井回采工作面瓦斯涌出量預(yù)測(cè)

王媛彬，李媛媛，韓 騫，李瑜杰，周 沖

(西安科技大學(xué) 電氣與控制工程學(xué)院，陜西 西安 710054)

0 引 言

煤炭是中國(guó)重要的能源[1]，隨著人類對(duì)煤炭資源的開采和使用，淺部地區(qū)的煤炭資源逐漸減少[2]，埋深地下千米的煤炭將會(huì)成為往后開采的重要目標(biāo)[3]。然而面對(duì)煤層瓦斯賦存環(huán)境更加復(fù)雜、瓦斯復(fù)合災(zāi)害更加嚴(yán)重以及開采難度更高的局面，準(zhǔn)確預(yù)測(cè)深部礦井的瓦斯涌出量成為亟需解決的問(wèn)題[4]。

在煤礦的開采過(guò)程中，回采工作面是礦井瓦斯涌出的主要來(lái)源，最易發(fā)生安全事故，尤其是工作面的隅角處通風(fēng)效果差、溫度和濕度較高，容易積聚瓦斯，被看作是瓦斯的重點(diǎn)防治區(qū)域。而瓦斯防治的首要目標(biāo)是將瓦斯?jié)舛瓤刂圃诎踩侠淼姆秶韵?，所以精?zhǔn)地預(yù)測(cè)瓦斯涌出量并實(shí)時(shí)根據(jù)瓦斯?jié)舛炔扇∠鄳?yīng)的抽采措施，能夠有效降低事故發(fā)生概率、減少人員傷亡和財(cái)產(chǎn)損失。因此，對(duì)回采工作面瓦斯涌出量預(yù)測(cè)方法的研究具有重要的意義。為此，眾多學(xué)者對(duì)瓦斯預(yù)測(cè)進(jìn)行深入的研究，旨在減少甚至是避免瓦斯事故的發(fā)生，為煤礦安全生產(chǎn)起理論指導(dǎo)作用[5]。

傳統(tǒng)的煤礦瓦斯涌出量預(yù)測(cè)方法有分源預(yù)測(cè)法、礦山統(tǒng)計(jì)法等[6-7]。隨著計(jì)算機(jī)技術(shù)的發(fā)展，在瓦斯涌出量預(yù)測(cè)方面，出現(xiàn)一些新的預(yù)測(cè)方法。如：灰色系統(tǒng)[8]、BP神經(jīng)網(wǎng)絡(luò)方法[9]、支持向量機(jī)方法[10]等。徐剛等人提出基于因子分析法和BP神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)方法對(duì)工作面瓦斯涌出量進(jìn)行研究[11]。劉鵬等人針對(duì)CART決策樹穩(wěn)定性差的問(wèn)題，對(duì)CART決策樹進(jìn)行改進(jìn)，提出一種結(jié)合支持向量機(jī)的增強(qiáng)CRAT回歸算法，并將該方法應(yīng)用于瓦斯涌出量用預(yù)測(cè)，取得較好的效果[12]。肖鵬等人為提高瓦斯涌出量預(yù)測(cè)的精度，提出將小波包分解方法和極限學(xué)習(xí)機(jī)相結(jié)合，建立小波-極限學(xué)習(xí)機(jī)的瓦斯涌出量預(yù)測(cè)模型，為瓦斯涌出量時(shí)變序列的預(yù)測(cè)提供了新的思路[13]。溫廷新等人將BP神經(jīng)網(wǎng)絡(luò)、粒子群優(yōu)化算法(PSO)以及AdaBoost迭代算法相結(jié)合建立一種瓦斯涌出量分源預(yù)測(cè)模型，經(jīng)實(shí)驗(yàn)分析該模型的平均相對(duì)誤差要小于BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型[14]。豐盛成等人為了準(zhǔn)確預(yù)測(cè)回采工作面的瓦斯涌出量，提出PCA-PSO-LSSVM的瓦斯涌出量預(yù)測(cè)模型[15]。代巍等人將變分模態(tài)分解(VMD)方法、差分進(jìn)化(DE)算法以及相關(guān)向量機(jī)(RVM)相結(jié)合，提出基于VMD-DE-RVM的瓦斯涌出量區(qū)間預(yù)測(cè)方法，獲得較高的預(yù)測(cè)結(jié)果[16]。李樹剛等人構(gòu)建因子分析與BP神經(jīng)網(wǎng)絡(luò)相結(jié)合的瓦斯涌出量預(yù)測(cè)模型，實(shí)現(xiàn)對(duì)煤礦井下瓦斯涌出量的預(yù)測(cè)[17]。

綜上所述，大量學(xué)者對(duì)瓦斯涌出量進(jìn)行研究，在預(yù)測(cè)精度和效率方面都有所提高。但是仍存在以下兩方面不足：一方面是煤礦井下環(huán)境較復(fù)雜且影響瓦斯涌出量的因素具有非線性的特點(diǎn)，使得預(yù)測(cè)精度的提高受到一定限制。另一方面是BP神經(jīng)網(wǎng)絡(luò)本身存在收斂速度慢和易陷入局部最優(yōu)解等問(wèn)題，導(dǎo)致預(yù)測(cè)精度不高。因此有必要在前人研究的基礎(chǔ)上繼續(xù)探索新的預(yù)測(cè)方法對(duì)瓦斯涌出量進(jìn)行預(yù)測(cè)。針對(duì)瓦斯涌出量的因素具有非線性的特點(diǎn)，文中利用主成分分析法(principal component analysis，PCA)進(jìn)行原始數(shù)據(jù)降維，提取瓦斯涌出量數(shù)據(jù)的特征信息；針對(duì)神經(jīng)網(wǎng)絡(luò)精度欠佳的問(wèn)題，建立極端梯度提升(extreme gradient boosting，XGBoost)瓦斯涌出量預(yù)測(cè)模型；針對(duì)XGBoost模型中超參數(shù)難以確定的問(wèn)題，將貝葉斯優(yōu)化(bayesian optimization，BO)算法引入XGBoost中，建立BO-XGBoost預(yù)測(cè)模型，并且與隨機(jī)搜索和網(wǎng)格搜索所建立的模型進(jìn)行對(duì)比分析，驗(yàn)證貝葉斯優(yōu)化模型在泛化性能和預(yù)測(cè)精度上具有優(yōu)勢(shì)。最后將PCA和BO-XGBoost相結(jié)合，建立PCA-BO-XGBoost的瓦斯涌出量預(yù)測(cè)模型。

1 主成分降維

主成分分析法(principal components analysis，PCA)的基本思想是通過(guò)對(duì)存在線性關(guān)系的特征變量經(jīng)過(guò)線性變換組合成少數(shù)幾個(gè)特征變量，變換后的特征變量叫做主成分。每個(gè)主成分都是通過(guò)對(duì)原始變量線性組合得來(lái)的，且各主成分之間是沒(méi)有相關(guān)性的，雖然主成分的數(shù)量要少于原始的變量特征，但是主成分包含了原始數(shù)據(jù)的大多數(shù)信息，因此可以做到簡(jiǎn)約數(shù)據(jù)的作用，尤其是對(duì)較高維度的數(shù)據(jù)。假設(shè)有n個(gè)數(shù)據(jù)樣本，每個(gè)數(shù)據(jù)樣本都有m維的特征，則可以建立m×n階的數(shù)據(jù)矩陣為

(1)

其中 矩陣X的每一列可表示為

(2)

對(duì)m×n階矩陣X做線性變化

(3)

式中F1,F2,…,Fm依次為第1主成分，第2主成分， …，第m主成分。同時(shí)，還必須滿足以下3個(gè)條件。

條件2：Fi和Fj(i≠j;i,j=1,2,…,m)之間相互獨(dú)立，并且兩者之間的協(xié)方差等于0。

條件3：Var(F1)>Var(F2)>…>Var(Fm)。

筆者利用主成分分析法對(duì)瓦斯涌出量數(shù)據(jù)進(jìn)行降維處理，具體步驟如下。

1)對(duì)瓦斯涌出量的數(shù)據(jù)進(jìn)行中心化處理。

2)計(jì)算樣本的協(xié)方差矩陣。

3)計(jì)算協(xié)方差矩陣的特征值和特征向量。

4)選擇主成分的個(gè)數(shù)，論文按照累計(jì)貢獻(xiàn)率超過(guò)85%的選取原則選擇主成分。

5)根據(jù)計(jì)算出的特征向量寫出主成分的表達(dá)式。

2 預(yù)測(cè)模型的構(gòu)建

2.1 XGBoost算法原理

XGBoost是一種由多個(gè)弱學(xué)習(xí)器疊加訓(xùn)練而成的集成算法[18]，弱學(xué)習(xí)器一般指分類和回歸樹。XGBoost中每棵樹擬合的是前一棵樹與真實(shí)值之間的殘差，依次迭代直至達(dá)到停止條件，最后對(duì)所有樹的擬合結(jié)果累計(jì)求和值，得到最終的預(yù)測(cè)結(jié)果。

令數(shù)據(jù)集D=(xi,yi)(|D|=n,xi∈Rm,yi∈R)，m表示特征維數(shù)，n表示樣本數(shù)量。假設(shè)某個(gè)模型由K棵樹組成，則

(4)

XGBoost算法的目標(biāo)函數(shù)由訓(xùn)練誤差項(xiàng)與約束正則項(xiàng)2部分組成

(5)

(6)

式中T為子樹葉子節(jié)點(diǎn)的個(gè)數(shù)；ω為葉子節(jié)點(diǎn)的分?jǐn)?shù)組成的集合；γ和λ為系數(shù)。

(7)

式(7)表示，模型的輸出結(jié)果等于前t-1次的輸出結(jié)果加上第t棵樹的輸出結(jié)果。于是，在第t次時(shí)，目標(biāo)函數(shù)可以寫成

(8)

目標(biāo)函數(shù)經(jīng)過(guò)二階泰勒展開后近似結(jié)果為

(9)

式中g(shù)i為誤差函數(shù)的一階導(dǎo)數(shù)；hi為誤差函數(shù)的二階導(dǎo)數(shù)。

在使用XGBoost模型進(jìn)行預(yù)測(cè)的過(guò)程中，如果訓(xùn)練數(shù)據(jù)太多，需要先進(jìn)行數(shù)據(jù)篩選或通過(guò)降維方法來(lái)剔除無(wú)效數(shù)據(jù)，減少特征數(shù)量，否則模型容易過(guò)度擬合；相反，如果變量太少，容易產(chǎn)生欠擬合現(xiàn)象。因此，數(shù)據(jù)樣本的多少對(duì)預(yù)測(cè)結(jié)果的精度至關(guān)重要。

2.2 貝葉斯優(yōu)化

貝葉斯優(yōu)化算法(bayesian optimization algorithm，BOA)是基于概率學(xué)中“貝葉斯理論”的一種黑盒優(yōu)化算法。BOA在運(yùn)行某一組超參數(shù)時(shí)，會(huì)考慮前一組超參數(shù)的優(yōu)化結(jié)果，以此可以更有效地得到最優(yōu)的參數(shù)解。有2個(gè)核心部分，分別是先驗(yàn)函數(shù)(prior function，PF)和采集函數(shù)(acquisition function，AC)。文中的先驗(yàn)函數(shù)采用高斯過(guò)程，采集函數(shù)采用概率提升(probability of improvement，PI)函數(shù)來(lái)提高模型的泛化能力。貝葉斯優(yōu)化流程如圖1所示。

圖1 貝葉斯優(yōu)化流程Fig.1 Bayesian optimization flow

2.3 瓦斯涌出量預(yù)測(cè)流程

建立基于PCA-BO-XGBoost的瓦斯涌出量預(yù)測(cè)模型具體的算法步驟如下。

1)瓦斯涌出量數(shù)據(jù)的預(yù)處理。利用公式(1)～(3)對(duì)11種影響瓦斯涌出量的因素進(jìn)行降維處理，并把降維后的數(shù)據(jù)分為訓(xùn)練集和測(cè)試集。

2)確定預(yù)測(cè)模型中的超參數(shù)值。設(shè)置XGBoost模型中待確定的超參數(shù)尋優(yōu)范圍，在此基礎(chǔ)上筆者采用BAO對(duì)超參數(shù)進(jìn)行尋優(yōu)以確定最佳的超參數(shù)。

3)訓(xùn)練XGBoost預(yù)測(cè)模型。根據(jù)上一步驟中尋優(yōu)的結(jié)果，設(shè)置XGBoost模型中超參數(shù)的值，同時(shí)將訓(xùn)練集數(shù)據(jù)輸入到XGBoost模型中，以此得到訓(xùn)練好的瓦斯涌出量預(yù)測(cè)模型。

4)瓦斯涌出量預(yù)測(cè)。根據(jù)第3)步得到的預(yù)測(cè)模型，將測(cè)試集數(shù)據(jù)輸入到該模型，得出預(yù)測(cè)的結(jié)果，并對(duì)該結(jié)果進(jìn)行分析和評(píng)價(jià)。

基于PCA-BO-XGBoost的瓦斯涌出量預(yù)測(cè)流程如圖2所示。

圖2 基于PCA-BO-XGBoost瓦斯涌出量預(yù)測(cè)流程Fig.2 Flow of gas emission prediction based on PCA-BO-XGBoost

3 實(shí)驗(yàn)及分析

3.1 瓦斯涌出量數(shù)據(jù)降維

實(shí)驗(yàn)數(shù)據(jù)采用黃陵二號(hào)礦的歷史樣本數(shù)據(jù)，隨機(jī)采樣130組樣本構(gòu)成測(cè)試集，其中每個(gè)樣本包括了11種瓦斯涌出量影響因素。瓦斯涌出量的影響因素眾多，例如開采煤層瓦斯含量、開采技術(shù)、地面大氣壓變化等，文中采取最主要的2種因素，即地質(zhì)因素和開采技術(shù)因素，其中地質(zhì)因素包括煤層埋藏深度、煤層厚度、煤層瓦斯含量、煤層傾角、鄰近層瓦斯含量和煤層間距；開采技術(shù)因素包括日進(jìn)度、日產(chǎn)量、采高、工作面采出率和工作面長(zhǎng)度。部分原始數(shù)據(jù)見(jiàn)表1。煤層埋藏深度X1(m)、煤層厚度X2(m)、煤層瓦斯含量X3(m3/t)、日進(jìn)度X4(m/d)、日產(chǎn)量X5(t/d)、煤層傾角X6(°)、鄰近層瓦斯含量X7(m3/t)、煤層間距X8(m)、采高X9(m)、工作面采出率X10(%)、以及工作面長(zhǎng)度X11(m)，預(yù)測(cè)的目標(biāo)為絕對(duì)瓦斯涌出量Y(m3/min)。

表1 瓦斯涌出量影響因素部分?jǐn)?shù)據(jù)Table 1 Partial data of influencing factors of gas emission

表2是選取不同數(shù)量的影響因素進(jìn)行預(yù)測(cè)后產(chǎn)生的結(jié)果與原始數(shù)據(jù)之間的誤差對(duì)比?？梢钥闯觯绊懸蛩販p少，模型預(yù)測(cè)精度會(huì)隨之降低。對(duì)于11種瓦斯涌出量影響因素本身存在的數(shù)據(jù)重復(fù)、冗余問(wèn)題，進(jìn)行相關(guān)性分析，得到各因素之間的相關(guān)系數(shù)矩陣見(jiàn)表3。表3展示了瓦斯涌出量的影響因素間的相關(guān)性大小，不同因素間存在相關(guān)性大小不同，如果直接使用上述數(shù)據(jù)對(duì)瓦斯涌出量進(jìn)行預(yù)測(cè)勢(shì)必會(huì)增加預(yù)測(cè)模型的復(fù)雜度。因此，需要對(duì)原始數(shù)據(jù)預(yù)處理，從而達(dá)到精簡(jiǎn)影響因素的目的。主成分分析法作為數(shù)據(jù)降維最常用的方法之一，在瓦斯涌出量預(yù)測(cè)領(lǐng)域中運(yùn)用比較廣泛。與其他算法相比，PCA在數(shù)據(jù)處理上降維效果明顯，且處理時(shí)間較短，實(shí)用性較強(qiáng)。因此，筆者利用主成分分析法對(duì)11個(gè)影響工作面瓦斯涌出量的因素進(jìn)行數(shù)據(jù)降維，得到的主成分對(duì)不同的影響因素分配不同的權(quán)重系數(shù)，選擇滿足要求的主成分個(gè)數(shù)，即預(yù)測(cè)模型的輸入變量，并將這些輸入變量繼續(xù)作為后續(xù)工作中學(xué)習(xí)器的輸入。降維后的結(jié)果如圖3所示，各成分累計(jì)的方差貢獻(xiàn)率見(jiàn)表4。

圖3 主成分分析法的數(shù)據(jù)降維Fig.3 Data dimensionality reduction diagram of PCA

表2 預(yù)測(cè)誤差結(jié)果對(duì)比Table 2 Comparison of prediction errors

表3 樣本的相關(guān)系數(shù)矩陣Table 3 Correlation coefficient matrix of samples

當(dāng)主成分貢獻(xiàn)率累計(jì)值達(dá)到85%以上，能夠保證降維后的變量包含充分的原始信息。為了更充分地保證信息量，筆者在85%的基礎(chǔ)上選取貢獻(xiàn)率達(dá)到90%的主成分進(jìn)行后續(xù)分析。由表4可知，前5個(gè)主成分的累計(jì)方差貢獻(xiàn)率分別為61.307%,73.970%,81.277%,87.878%,91.541%，前5個(gè)主成分的累計(jì)方差貢獻(xiàn)率超過(guò)90%，實(shí)驗(yàn)結(jié)果表明PCA對(duì)數(shù)據(jù)降維有明顯效果，能夠減少各因素之間的相關(guān)性所帶來(lái)的影響，減少計(jì)算。因此，選取前5個(gè)主成分進(jìn)行后續(xù)分析，各主成分的系數(shù)見(jiàn)表5，F(xiàn)1～F5為降維后的5個(gè)主成分。

表4 各成分累計(jì)的方差貢獻(xiàn)率Table 4 Accumulated variance contribution rate of each component

根據(jù)表5可以得到5個(gè)主成分的表達(dá)式，其公式如下

表5 主成分系數(shù)Table 5 Principal component coefficients

F1=0.723X1+0.857X2+0.918X3+-0.719X4+0.876X5+0.277X6+0.781X7+-0.543X8+0.932X9+-0.889X10+0.848X11

(10)

F2=-0.104X1+-0.216X2+-0.102X3+0.069X4+-0.084X5+0.829X6+-0.009X7+-0.636X8+-0.262X9+0.165X100.354X11

(11)

F3=-0.550X1+0.348X2+-0.176X3+-0.146X4+0.059X5+0.326X6+-0.129X7+0.386X8+0.065X9+-0.193X10+0.109X11

(12)

F4=-0.039X1+0.031X2+-0.099X3+0.619X4+0.187X5+0.103X6+0.510X7+0.145X8+0.017X9+-0.043X10+-0.033X11

(13)

F5=0.359X1+-0.074X2+-0.057X3+-0.134X4+-0.169X5+0.313X6+0.084X7+0.305X8+-0.009X9+-0.051X10+-0.135X11

(14)

5個(gè)主成分是對(duì)11個(gè)瓦斯涌出量影響因素進(jìn)行線性變換得到，不會(huì)改變?cè)加绊懸蛩氐目陀^存在。

3.2 XGBoost超參數(shù)尋優(yōu)

XGBoost模型中含有大量需要設(shè)置的超參數(shù)，最主要的3類超參數(shù)分別是：常規(guī)的超參數(shù)、提升器超參數(shù)以及任務(wù)參數(shù)。一般情況下，常規(guī)的超參數(shù)和任務(wù)參數(shù)采用默認(rèn)值，所以只需要對(duì)提升器超參數(shù)進(jìn)行適當(dāng)調(diào)整，達(dá)到優(yōu)化模型性能的目的。由于XGBoost模型中的超參數(shù)較多，如果對(duì)所有參數(shù)進(jìn)行優(yōu)化，會(huì)給計(jì)算機(jī)帶來(lái)巨大挑戰(zhàn)，增加尋優(yōu)時(shí)間。根據(jù)文獻(xiàn)[19-20]的建議和實(shí)際情況，最終選擇7個(gè)超參數(shù)作為待尋優(yōu)的目標(biāo)，設(shè)定的7個(gè)超參數(shù)取值范圍見(jiàn)表6，其余超參數(shù)均保持默認(rèn)值不變。

表6 XGBoost模型超參數(shù)設(shè)定范圍及含義Table 6 XGBoost model hyperparameter setting range and meaning

為證明貝葉斯算法在預(yù)測(cè)模型中的優(yōu)越性，筆者分別利用網(wǎng)格搜索、隨機(jī)搜索和BOA對(duì)XGBoost模型的7個(gè)超參數(shù)進(jìn)行尋優(yōu)對(duì)比。綜合考慮后選用均方誤差和尋優(yōu)時(shí)間作為尋優(yōu)的評(píng)價(jià)指標(biāo)，3種尋優(yōu)算法的尋優(yōu)結(jié)果見(jiàn)表7，算法性能對(duì)比結(jié)果見(jiàn)表8。

表7 3種尋優(yōu)算法尋優(yōu)結(jié)果Table 7 Results of three optimization algorithms

對(duì)表7的尋優(yōu)結(jié)果進(jìn)行分析，由不同尋優(yōu)算法所得到的參數(shù)值相差甚大，這是隨機(jī)搜索和網(wǎng)格搜索算法在尋優(yōu)過(guò)程中陷入局部最優(yōu)所導(dǎo)致的。結(jié)合表7和表8可知，相較于其他2種搜索算法，BOA在時(shí)間和均方誤差方面上具有很大的優(yōu)勢(shì)，尋優(yōu)時(shí)間為7.87 s，明顯小于網(wǎng)格搜索和隨機(jī)搜索，BOA的均方誤差為0.009 16，同樣在3種算法內(nèi)達(dá)到最小。

表8 3種尋優(yōu)算法性能對(duì)比Table 8 Performance comparison of three optimization algorithms

3.3 基于PCA-BO-XGBoost預(yù)測(cè)模型對(duì)瓦斯涌出量預(yù)測(cè)

由3.1小節(jié)中的PCA對(duì)130組瓦斯涌出量影響因素進(jìn)行數(shù)據(jù)降維，得到的部分結(jié)果見(jiàn)表9。其中，F(xiàn)1～F5是經(jīng)過(guò)PCA降維得到的5個(gè)主成分，Y代表瓦斯涌出量。將130組數(shù)據(jù)分為訓(xùn)練集(前100組)和測(cè)試集(后30組)輸入到建立的PCA-BO-XGBoost預(yù)測(cè)模型中進(jìn)行訓(xùn)練和預(yù)測(cè)。

表9 主成分分析法降維后的主成分?jǐn)?shù)據(jù)Table 9 Principal component data after dimensionality reduction by PCA

為驗(yàn)證文中所建立的模型性能，分別建立PCA-XGBoost、PCA-BP以及PCA-SVM這3種預(yù)測(cè)模型與提出的預(yù)測(cè)模型進(jìn)行對(duì)比，可以得到4種算法的預(yù)測(cè)趨勢(shì)與原始數(shù)據(jù)的對(duì)比結(jié)果以及預(yù)測(cè)算法產(chǎn)生的誤差如圖4、圖5所示。

圖4 4種預(yù)測(cè)算法與實(shí)際結(jié)果對(duì)比Fig.4 Comparison of results by four prediction algorithms and actual results

圖5 4種預(yù)測(cè)算法預(yù)測(cè)誤差Fig.5 Prediction errors of four prediction algorithms

從圖4可以看出4種預(yù)測(cè)模型均與原始的樣本數(shù)據(jù)保持大致相同的趨勢(shì)，結(jié)合圖5的預(yù)測(cè)誤差結(jié)果進(jìn)行分析，PCA-BO-XGBoost瓦斯涌出量預(yù)測(cè)模型的誤差較低且總體變換趨勢(shì)較為平緩。

為進(jìn)一步驗(yàn)證PCA-BO-XGBoost模型的優(yōu)越性，選取平均絕對(duì)誤差和均方根誤差2個(gè)評(píng)價(jià)指標(biāo)進(jìn)行誤差對(duì)比，其結(jié)果見(jiàn)表10。結(jié)合表10進(jìn)行分析可知，PCA-BO-XGBoost預(yù)測(cè)模型的平均絕對(duì)誤差為0.070 3，是4種預(yù)測(cè)模型中最小的，與PCA-XGBoost預(yù)測(cè)模型、PCA-SVM預(yù)測(cè)模型以及PCA-BP預(yù)測(cè)模型相比，平均絕對(duì)誤差分別降低1.29%，2.86%，6.27%。PCA-BO-XGBoost預(yù)測(cè)模型的均方根誤差是0.095 7，與PCA-XGBoost預(yù)測(cè)模型、PCA-SVM預(yù)測(cè)模型以及PCA-BP預(yù)測(cè)模型相比，均方根誤差分別降低0.92%，2.17%，8.88%。

表10 4種算法預(yù)測(cè)誤差結(jié)果Table 10 Prediction errors of the four algorithms

分析上述試驗(yàn)結(jié)果，PCA-XGBoost模型的預(yù)測(cè)曲線要好于PCA-BP和PCA-SVM模型的預(yù)測(cè)曲線，證明XGBoost在精度提高方面更具優(yōu)勢(shì)。在此基礎(chǔ)上，采用貝葉斯優(yōu)化PCA-XGBoost中的超參數(shù)進(jìn)一步減小了XGBoost的預(yù)測(cè)誤差，對(duì)模型的預(yù)測(cè)性能有較好的提升作用，所以PCA-BO-XGBoost 預(yù)測(cè)精度要高于未經(jīng)過(guò)優(yōu)化的PCA-XGBoost預(yù)測(cè)精度。綜上所述，建立的PCA-BO-XGBoost得到的預(yù)測(cè)變化趨勢(shì)與實(shí)際變化最接近，不僅更加符合實(shí)際的變化情況，且具有更高的預(yù)測(cè)精度和泛化能力。

4 結(jié) 論

1)針對(duì)瓦斯涌出量影響因素過(guò)多的問(wèn)題，利用主成分分析法對(duì)原始數(shù)據(jù)降維，有效減小輸入數(shù)據(jù)的復(fù)雜度和各影響因素之間的重復(fù)、冗余，達(dá)到提高預(yù)測(cè)精度的目的。

2)選擇BOA對(duì)XGBoost模型中的超參數(shù)尋優(yōu)，同時(shí)與經(jīng)典的尋優(yōu)算法網(wǎng)格搜索，隨機(jī)搜索進(jìn)行對(duì)比實(shí)驗(yàn)，結(jié)果表明：BOA耗費(fèi)時(shí)間最少，且優(yōu)化后的預(yù)測(cè)模型均方誤差達(dá)到最低。因此，建立了PCA-BO-XGBoost瓦斯涌出量預(yù)測(cè)模型。

3)通過(guò)仿真實(shí)驗(yàn)來(lái)驗(yàn)證瓦斯涌出量預(yù)測(cè)模型的性能，并利用PCA-SVM模型、PCA-BP模型和PCA-XGBoost模型進(jìn)行預(yù)測(cè)結(jié)果的對(duì)比分析，該算法將平均絕對(duì)誤差分別降低了1.29%，2.86%，6.27%，均方根誤差降低了0.92%，2.17%，8.88%。實(shí)驗(yàn)結(jié)果表明，文中算法能夠明顯提升預(yù)測(cè)精度和效率，對(duì)礦井的安全生產(chǎn)實(shí)踐提供一定的理論參考和指導(dǎo)，具有現(xiàn)實(shí)意義。