基于IPSO-Powell優(yōu)化SVM的煤與瓦斯突出預(yù)測算法

吳雅琴， 李惠君， 徐丹妮

(中國礦業(yè)大學(xué)(北京)機電與信息工程學(xué)院，北京 100083)

0 引言

我國是世界上煤與瓦斯突出最嚴(yán)重的國家之一[1]，對煤與瓦斯突出進行準(zhǔn)確預(yù)測具有重大意義。隨著計算機和仿真技術(shù)的發(fā)展，通過建立數(shù)學(xué)算法和計算機仿真與運算進行煤與瓦斯突出預(yù)測已成為當(dāng)前煤與瓦斯突出預(yù)測的主要手段之一。劉俊娥等[2]建立了基于粗糙集-支持向量機(Rough Set-Support Vector Machine, RS-SVM)的煤與瓦斯突出風(fēng)險判別模型，較單一使用支持向量機(SVM)模型具有更高的預(yù)測精度，但該模型缺少對核函數(shù)參數(shù)的優(yōu)化，預(yù)測精度不高。孫玉峰等[3]應(yīng)用SVM方法對煤與瓦斯涌出類型及涌出量進行了分析，并對核函數(shù)的判錯率進行了研究，但在選擇核函數(shù)時未考慮非線性數(shù)據(jù)的分類，對非線性分布的煤與瓦斯突出影響因素提取效果較差。楊力等[4]提出了基于模糊支持向量機(Fuzzy Support Vector Machine, FSVM)的煤與瓦斯突出預(yù)測模型，擁有比SVM更好的學(xué)習(xí)能力，但存在運算效率不高的問題。溫廷新等[5]利用量子遺傳算法對最小二乘支持向量機的參數(shù)作尋優(yōu)處理，建立了煤與瓦斯突出預(yù)測模型，使預(yù)測結(jié)果避免了陷入局部最優(yōu)解，但存在未成熟收斂的問題。周愛桃等[6]提出了基于支持向量分類機的煤與瓦斯突出危險性分類的預(yù)測方法，對比了4種核函數(shù)的預(yù)測能力，但缺少對主控因素的分析，運算的時間成本過大，可靠性不高。隆能增等[7]提出了基于局部線性嵌入法-果蠅優(yōu)化算法-BP神經(jīng)網(wǎng)絡(luò)模型(LLE-FOA-BP)的煤與瓦斯突出強度預(yù)測方法，提高了算法的魯棒性和學(xué)習(xí)效率，但數(shù)據(jù)量過大時模型存在訓(xùn)練速度較慢的問題。付華等[8]將等距映射算法與優(yōu)化加權(quán)向量機耦合算法相結(jié)合，建立了煤與瓦斯突出雙耦合算法預(yù)測模型，提高了煤與瓦斯突出的預(yù)測泛化能力，但缺少SVM模型的自身參數(shù)優(yōu)化，無法滿足算法的可靠性要求。

針對以上問題，本文提出了基于IPSO-Powell優(yōu)化SVM的煤與瓦斯突出預(yù)測算法。首先通過灰色關(guān)聯(lián)分析對煤與瓦斯突出的主控因素進行提取，消除了煤與瓦斯突出影響因素之間的冗余，并將其作為算法的輸入樣本；然后將改進的粒子群(Improved Particle Swarm Optimization，IPSO)算法與Powell算法結(jié)合起來優(yōu)化SVM的懲罰系數(shù)和核函數(shù)參數(shù)[9]，得到SVM的最優(yōu)參數(shù)組合；最后將主控因素輸入到SVM進行分類，并將其與實際測試集分類結(jié)果進行對比，實現(xiàn)煤與瓦斯突出預(yù)測。仿真結(jié)果驗證了該算法的準(zhǔn)確性和可靠性。

1 煤與瓦斯突出主控因素提取

根據(jù)煤與瓦斯突出機理的綜合作用假說[10-12]，影響煤與瓦斯突出的因素主要包括瓦斯含量、瓦斯壓力、瓦斯放散初速度、煤的普氏系數(shù)、煤體破壞類型、軟分層煤體厚度和開采深度等。為了研究不同影響因素對煤與瓦斯突出的影響程度，運用灰色關(guān)聯(lián)分析理論，按照關(guān)聯(lián)度的排序提取煤與瓦斯突出的主控因素，為煤與瓦斯突出預(yù)測算法的仿真實驗奠定基礎(chǔ)。

1.1 現(xiàn)場實例樣本

通過收集整理相關(guān)文獻所列山西屯蘭礦、沙曲礦和寺河礦等礦井的樣本數(shù)據(jù)[13-16]，得到了119個現(xiàn)場實例樣本，見表1。表1中煤與瓦斯突出強度為0的樣本表示非突出樣本，不為0的樣本表示發(fā)生了煤與瓦斯突出的樣本；煤體破壞類型分為5類，1—5分別表示非破壞煤、破壞煤、強烈破壞煤、粉粒煤和全粉煤。

1.2 灰色關(guān)聯(lián)分析

灰色關(guān)聯(lián)分析是對動態(tài)發(fā)展進程態(tài)勢的量化剖析，運用灰色關(guān)聯(lián)度的曲線圖形來剖析系統(tǒng)因素間、因素對系統(tǒng)的影響水平的一種方式，通過確定參考數(shù)據(jù)列和剩余多個比較數(shù)據(jù)列的曲線圖形的差異水平來判別其關(guān)系是否緊密，從而找到煤與瓦斯突出的主控因素。灰色關(guān)聯(lián)分析計算步驟如下：

(1)確定參考數(shù)列和比較數(shù)列。假設(shè)煤與瓦斯突出有n個影響因素，對于m次突出案例，其突出強度的理想化樣本如下：

(l=1,2,…,m)

(1)

表1 現(xiàn)場實例樣本

(k=0,1,…,n)

(2)

(2)變量無量綱化。由于各變量單位不統(tǒng)一、初值差異不方便對比，需要對數(shù)據(jù)進行標(biāo)準(zhǔn)化處理。

(3)

(3)計算關(guān)聯(lián)系數(shù)η(k)。關(guān)聯(lián)系數(shù)定義如下：

(4)

(4)計算各個突出影響因素的關(guān)聯(lián)度。比較數(shù)列與參考數(shù)列在各個時刻的關(guān)聯(lián)程度值為關(guān)聯(lián)系數(shù)，計算出每一個突出影響因素和突出強度的關(guān)聯(lián)系數(shù)后，采用式(5)計算結(jié)果作為比較數(shù)列與參考數(shù)列間關(guān)聯(lián)程度的大小，關(guān)聯(lián)系數(shù)的平均值稱為關(guān)聯(lián)度，反映數(shù)列之間的緊密程度。關(guān)聯(lián)度r(k)的表達式為

(5)

(5)關(guān)聯(lián)度排序是按照關(guān)聯(lián)度從大至小依次排列，假設(shè)r(1)

1.3 煤與瓦斯突出影響因素灰色關(guān)聯(lián)度排序

運用Matlab軟件進行煤與瓦斯突出影響因素灰色關(guān)聯(lián)分析，以突出強度為參考數(shù)列，以瓦斯含量、瓦斯壓力、瓦斯放散初速度、煤的普氏系數(shù)、煤體破壞類型、軟分層厚度和開采深度作為比較數(shù)列。對表1中發(fā)生突出的樣本數(shù)據(jù)進行灰色關(guān)聯(lián)分析，計算結(jié)果見表2。將關(guān)聯(lián)度按照由大到小進行排序，關(guān)聯(lián)順序反映各個影響因素對煤與瓦斯突出的控制作用逐漸降低，從而提取煤與瓦斯突出的主控因素。各個影響因素對煤與瓦斯突出控制作用的順序：瓦斯放散初速度>瓦斯壓力>開采深度>瓦斯含量>煤體破壞類型>煤的普氏系數(shù)>軟分層厚度，故提取瓦斯放散初速度、瓦斯壓力、開采深度、瓦斯含量和煤體破壞類型作為煤與瓦斯突出主控因素。

表2 影響因素關(guān)聯(lián)度排序

2 IPSO-Powell優(yōu)化SVM的煤與瓦斯突出預(yù)測算法

2.1 算法原理

粒子群(Particle Swarm Optimization,PSO)算法利用群體中的個體對信息的共享來追隨當(dāng)前搜索到的最優(yōu)值，從而找到問題求解空間中的全局最優(yōu)解[17]。假設(shè)群體大小為z，目標(biāo)搜尋空間為d維，Xi=(xi1,xi2,…,xid)T(i=1,2,…,z)，表示第i個粒子的位置；Vi=(vi1,vi2,…,vid)T，表示第i個粒子的飛翔速度，粒子i自身搜索到的最好位置記為pbestid，gbestd為當(dāng)前種群中粒子搜索到的最好的點，粒子i通過式(6)來迭代更新自身的速度與位置。

(6)

為使PSO算法在起初階段搜索到足夠大的范圍，快速找到最優(yōu)解的大概位置，以便后期進行局部精細(xì)搜索，利用IPSO算法，采用線性上升策略處理慣性權(quán)重。

(7)

式中：ωmax為權(quán)重最大值；Δω為權(quán)重最大值與最小值的差；tc，tmax分別為當(dāng)前迭代次數(shù)和最大迭代次數(shù)。

將式(7)代入式(6)可得

(8)

用IPSO算法和Powell算法共同優(yōu)化SVM的參數(shù)，并對PSO算法本身進行優(yōu)化，然后結(jié)合Powell算法做進一步的局部尋優(yōu)，反復(fù)迭代，將最后得到的最優(yōu)解代入到SVM進行分類預(yù)測。IPSO-Powell優(yōu)化SVM算法流程如圖1所示。

圖1 IPSO-Powell優(yōu)化SVM算法流程

多項式核函數(shù)形式過于簡單，非線性程度較低，高斯核函數(shù)很少發(fā)生維數(shù)災(zāi)難，并且超平面參數(shù)的個數(shù)較少，經(jīng)綜合考慮，本文采用高斯核函數(shù)作為SVM算法的核函數(shù)，其關(guān)鍵參數(shù)既可用σ表示，也可用g表示，兩者之間的關(guān)系為

(9)

本文采用IPSO-Powell算法優(yōu)化SVM算法中的2個參數(shù)，即懲罰系數(shù)C和核函數(shù)參數(shù)σ。算法運行步驟如下：

(1)初始化參數(shù)：初始化IPSO算法的最大迭代次數(shù)tmax，學(xué)習(xí)因子c1、c2,混合算法的最大迭代次數(shù)M，Powell算法的搜索精度ε，搜索概率Pp等。

(2)利用適應(yīng)度函數(shù)評價所有粒子的適應(yīng)度。

(3)若混合算法的迭代次數(shù)大于M，則放棄迭代，將所有尋找到的極值點輸出，否則繼續(xù)下一步操作。

(4)若IPSO迭代代數(shù)t≤tmax，則更新粒子的位置、速度、pbestid和gbestd。

(5)r

(6)將上述得到的極值點放入到極值點庫中。

(7)再次初始化粒子的位置及速度。

(8)將極值點庫中已經(jīng)搜尋到的全局極值點賦給已初始化的粒子，返回步驟(3)。

(9)利用最優(yōu)參數(shù)組合(C,σ)對SVM算法進行仿真實驗。

2.2 不同比例樣本對算法結(jié)果的影響

為了分析不同比例的訓(xùn)練樣本和預(yù)測樣本對IPSO-Powell優(yōu)化SVM算法結(jié)果的影響，利用流行的UCI數(shù)據(jù)庫中的Wine數(shù)據(jù)集進行算法驗證。Wine數(shù)據(jù)集中樣本個數(shù)為178，屬性個數(shù)為13，類別個數(shù)為3，分別記為1，2，3，隨機選取4組訓(xùn)練樣本和測試樣本進行對比，具體結(jié)果見表3。

表3 實驗數(shù)據(jù)對比

通過仿真實驗將運算的預(yù)測測試集分類結(jié)果與實際測試集分類結(jié)果進行對比。4組測試樣本的預(yù)測結(jié)果如圖2—圖5所示。從圖2可看出，第1組89個樣本中，有3個樣本預(yù)測測試集分類結(jié)果為3，實際測試集分類結(jié)果為2，其余86個預(yù)測結(jié)果正確，準(zhǔn)確率為96.6%。從圖3可看出，第2組64個樣本中，有2個樣本預(yù)測測試集分類結(jié)果為3，實際測試集分類結(jié)果為2，其余62個預(yù)測結(jié)果正確，準(zhǔn)確率為96.9%。從圖4可看出，第3組41個樣本中，有2個樣本預(yù)測測試集分類結(jié)果為2，實際測試集分類結(jié)果為1，其余39個預(yù)測結(jié)果正確，準(zhǔn)確率為95.1%。從圖5可看出，第4組20個樣本中，有1個樣本預(yù)測測試集分類結(jié)果為2，實際測試集分類結(jié)果為1，其余19個預(yù)測結(jié)果正確，準(zhǔn)確率為95%。4組預(yù)測結(jié)果準(zhǔn)確率均超過95%。上述結(jié)果表明：選取不同比例的訓(xùn)練樣本與預(yù)測樣本對預(yù)測結(jié)果影響較小，準(zhǔn)確率相差1%左右，基本符合算法預(yù)期效果。

圖2 第1組測試樣本的預(yù)測結(jié)果

圖3 第2組測試樣本的預(yù)測結(jié)果

圖4 第3組測試樣本的預(yù)測結(jié)果

圖5 第4組測試樣本的預(yù)測結(jié)果

2.3 煤與瓦斯突出預(yù)測步驟

(1)將運用灰色關(guān)聯(lián)分析提取的煤與瓦斯突出主控因素(瓦斯放散初速度、瓦斯壓力、開采深度、瓦斯含量和煤體破壞類型)作為算法的輸入樣本。

(2)利用IPSO-Powell優(yōu)化SVM算法中的懲罰系數(shù)C和核函數(shù)參數(shù)σ，利用最優(yōu)參數(shù)組合(C,σ)建立的SVM算法進行仿真實驗。

(3)利用流行的UCI數(shù)據(jù)庫中的Wine數(shù)據(jù)集分析不同比例的訓(xùn)練樣本和預(yù)測樣本對算法結(jié)果的影響，驗證算法的可靠性。

(4)利用IPSO-Powell優(yōu)化SVM算法計算預(yù)測測試集分類結(jié)果，并將其與實際測試集分類結(jié)果進行對比，對煤與瓦斯突出進行預(yù)測。

3 算法仿真

3.1 數(shù)據(jù)樣本的處理

在表1所列119個現(xiàn)場實例樣本中，隨機選取70個作為訓(xùn)練樣本，包括突出樣本45個、非突出樣本25個，另選49個作為預(yù)測樣本。根據(jù)煤與瓦斯突出強度的大小把樣本分成3類：無突出(標(biāo)記為1)、小型突出(突出煤量為0～50 t，標(biāo)記為2)、大型突出(突出煤量為50 t以上，標(biāo)記為3)，SVM模型的輸出結(jié)果集用這個標(biāo)準(zhǔn)作為評價集。根據(jù)關(guān)聯(lián)度計算結(jié)果從大到小進行排序，提取主控因素(瓦斯放散初速度、瓦斯壓力、開采深度、瓦斯含量和煤體破壞類型)作為煤與瓦斯突出預(yù)測算法的輸入樣本進行仿真實驗。

3.2 不同算法仿真結(jié)果對比

為分析基于IPSO-Powell優(yōu)化SVM的煤與瓦斯突出預(yù)測算法的準(zhǔn)確性和可靠性，將其與粒子群-支持向量機(Particle Swarm Optimization-Support Vector Machine，PSO-SVM)算法、遺傳算法-支持向量機(Genetic Algorithm-Support Vector Machine，GA-SVM)算法和SVM算法進行仿真對比。

仿真時，要確定SVM算法中的懲罰系數(shù)C和核函數(shù)參數(shù)σ的值。如果C值太大，容易導(dǎo)致過擬合；如果C值太小，容易發(fā)生欠擬合。如果σ值太小，存在訓(xùn)練準(zhǔn)確率很高而預(yù)測準(zhǔn)確率不高的可能；如果σ值太大，則會出現(xiàn)平滑效應(yīng)，無法實現(xiàn)較高的訓(xùn)練準(zhǔn)確率，也會影響預(yù)測的準(zhǔn)確率。首先對算法參數(shù)進行初始化，由IPSO算法和Powell算法根據(jù)適應(yīng)度函數(shù)對SVM的懲罰系數(shù)C和核函數(shù)參數(shù)σ進行尋優(yōu)，記錄最優(yōu)的一組參數(shù)組合(C,σ)進行仿真。

(1)利用IPSO-Powell優(yōu)化SVM算法進行仿真,結(jié)果如圖6所示。圖6(a)中的g與參數(shù)σ的關(guān)系參見式(9)。當(dāng)最優(yōu)參數(shù)組合中C=0.329 88,σ=1時，49個樣本中有2個樣本預(yù)測測試集分類結(jié)果為3，實際測試集分類結(jié)果為2，其余47個預(yù)測結(jié)果正確，準(zhǔn)確率為95.9%。

(a)算法參數(shù)和預(yù)測準(zhǔn)確率關(guān)系

(b)預(yù)測結(jié)果

(2)利用PSO-SVM算法進行仿真，結(jié)果如圖7所示。當(dāng)最優(yōu)參數(shù)組合中C=0.353 55，σ=0.5時，49個樣本中有6個樣本預(yù)測測試集分類結(jié)果為2，實際測試集分類結(jié)果為1，其余43個預(yù)測結(jié)果正確，準(zhǔn)確率為87.8%。

(a)算法參數(shù)和預(yù)測準(zhǔn)確率關(guān)系

(b)預(yù)測結(jié)果

(3)利用GA-SVM算法進行仿真，結(jié)果如圖8所示。當(dāng)最優(yōu)參數(shù)組合中C=0.5，σ=1時，49個樣本中有7個樣本預(yù)測測試集分類結(jié)果為2，實際測試集分類結(jié)果為1，有2個樣本預(yù)測測試集分類結(jié)果為2，實際測試集分類結(jié)果為3，其余 40 個預(yù)測結(jié)果正確，準(zhǔn)確率為81.6%。

(4)利用SVM算法進行仿真，結(jié)果如圖9所示。當(dāng)最優(yōu)參數(shù)組合中C=0.707 11,σ=0.25時，49個樣本中有11個樣本預(yù)測測試集分類結(jié)果為2，實際測試集分類結(jié)果為1，有2個樣本預(yù)測測試集分類結(jié)果為2，實際測試集分類結(jié)果為3，其余36個預(yù)測結(jié)果正確，準(zhǔn)確率為73.5%。

(a)算法參數(shù)和預(yù)測準(zhǔn)確率關(guān)系

(b)預(yù)測結(jié)果

(a)算法參數(shù)和預(yù)測準(zhǔn)確率關(guān)系

(b)預(yù)測結(jié)果

從仿真結(jié)果發(fā)現(xiàn)，IPSO-Powell優(yōu)化SVM算法的預(yù)測準(zhǔn)確率超過95%，其他3種算法的預(yù)測準(zhǔn)確率均低于90%，說明IPSO-Powell優(yōu)化SVM算法在迭代次數(shù)較少的情況下預(yù)測準(zhǔn)確率更高。

4 結(jié)論

(1)運用灰色關(guān)聯(lián)理論分析各個影響因素對煤與瓦斯突出的影響程度，根據(jù)關(guān)聯(lián)度的排序提取瓦斯放散初速度、瓦斯壓力、開采深度、瓦斯含量和煤體破壞類型作為煤與瓦斯突出主控因素。

(2)將IPSO算法與Powell算法相結(jié)合對SVM算法的懲罰系數(shù)C和高斯核函數(shù)參數(shù)σ進行尋優(yōu)。運用IPSO-Powell優(yōu)化SVM算法對不同比例訓(xùn)練樣本與預(yù)測樣本的仿真結(jié)果進行預(yù)測，預(yù)測準(zhǔn)確率均超過95%，表明選取不同比例的訓(xùn)練樣本與預(yù)測樣本對預(yù)測結(jié)果影響較小。

(3)在提取煤與瓦斯突出主控因素的基礎(chǔ)上，構(gòu)建了基于IPSO-Powell優(yōu)化SVM的煤與瓦斯突出預(yù)測算法。IPSO-Powell優(yōu)化SVM算法和SVM算法、GA-SVM算法、PSO-SVM算法的仿真對比結(jié)果表明：基于IPSO-Powell優(yōu)化SVM的煤與瓦斯突出預(yù)測算法具有更高的預(yù)測精度，同時提高了SVM 求解過程的運算效率，為煤與瓦斯突出預(yù)測提供了新的思路和方法。