基于IPSO-Powell優(yōu)化SVM的煤與瓦斯突出預(yù)測(cè)算法

吳雅琴， 李惠君， 徐丹妮

(中國(guó)礦業(yè)大學(xué)(北京)機(jī)電與信息工程學(xué)院，北京 100083)

0 引言

我國(guó)是世界上煤與瓦斯突出最嚴(yán)重的國(guó)家之一[1]，對(duì)煤與瓦斯突出進(jìn)行準(zhǔn)確預(yù)測(cè)具有重大意義。隨著計(jì)算機(jī)和仿真技術(shù)的發(fā)展，通過建立數(shù)學(xué)算法和計(jì)算機(jī)仿真與運(yùn)算進(jìn)行煤與瓦斯突出預(yù)測(cè)已成為當(dāng)前煤與瓦斯突出預(yù)測(cè)的主要手段之一。劉俊娥等[2]建立了基于粗糙集-支持向量機(jī)(Rough Set-Support Vector Machine, RS-SVM)的煤與瓦斯突出風(fēng)險(xiǎn)判別模型，較單一使用支持向量機(jī)(SVM)模型具有更高的預(yù)測(cè)精度，但該模型缺少對(duì)核函數(shù)參數(shù)的優(yōu)化，預(yù)測(cè)精度不高。孫玉峰等[3]應(yīng)用SVM方法對(duì)煤與瓦斯涌出類型及涌出量進(jìn)行了分析，并對(duì)核函數(shù)的判錯(cuò)率進(jìn)行了研究，但在選擇核函數(shù)時(shí)未考慮非線性數(shù)據(jù)的分類，對(duì)非線性分布的煤與瓦斯突出影響因素提取效果較差。楊力等[4]提出了基于模糊支持向量機(jī)(Fuzzy Support Vector Machine, FSVM)的煤與瓦斯突出預(yù)測(cè)模型，擁有比SVM更好的學(xué)習(xí)能力，但存在運(yùn)算效率不高的問題。溫廷新等[5]利用量子遺傳算法對(duì)最小二乘支持向量機(jī)的參數(shù)作尋優(yōu)處理，建立了煤與瓦斯突出預(yù)測(cè)模型，使預(yù)測(cè)結(jié)果避免了陷入局部最優(yōu)解，但存在未成熟收斂的問題。周愛桃等[6]提出了基于支持向量分類機(jī)的煤與瓦斯突出危險(xiǎn)性分類的預(yù)測(cè)方法，對(duì)比了4種核函數(shù)的預(yù)測(cè)能力，但缺少對(duì)主控因素的分析，運(yùn)算的時(shí)間成本過大，可靠性不高。隆能增等[7]提出了基于局部線性嵌入法-果蠅優(yōu)化算法-BP神經(jīng)網(wǎng)絡(luò)模型(LLE-FOA-BP)的煤與瓦斯突出強(qiáng)度預(yù)測(cè)方法，提高了算法的魯棒性和學(xué)習(xí)效率，但數(shù)據(jù)量過大時(shí)模型存在訓(xùn)練速度較慢的問題。付華等[8]將等距映射算法與優(yōu)化加權(quán)向量機(jī)耦合算法相結(jié)合，建立了煤與瓦斯突出雙耦合算法預(yù)測(cè)模型，提高了煤與瓦斯突出的預(yù)測(cè)泛化能力，但缺少SVM模型的自身參數(shù)優(yōu)化，無法滿足算法的可靠性要求。

針對(duì)以上問題，本文提出了基于IPSO-Powell優(yōu)化SVM的煤與瓦斯突出預(yù)測(cè)算法。首先通過灰色關(guān)聯(lián)分析對(duì)煤與瓦斯突出的主控因素進(jìn)行提取，消除了煤與瓦斯突出影響因素之間的冗余，并將其作為算法的輸入樣本；然后將改進(jìn)的粒子群(Improved Particle Swarm Optimization，IPSO)算法與Powell算法結(jié)合起來優(yōu)化SVM的懲罰系數(shù)和核函數(shù)參數(shù)[9]，得到SVM的最優(yōu)參數(shù)組合；最后將主控因素輸入到SVM進(jìn)行分類，并將其與實(shí)際測(cè)試集分類結(jié)果進(jìn)行對(duì)比，實(shí)現(xiàn)煤與瓦斯突出預(yù)測(cè)。仿真結(jié)果驗(yàn)證了該算法的準(zhǔn)確性和可靠性。

1 煤與瓦斯突出主控因素提取

根據(jù)煤與瓦斯突出機(jī)理的綜合作用假說[10-12]，影響煤與瓦斯突出的因素主要包括瓦斯含量、瓦斯壓力、瓦斯放散初速度、煤的普氏系數(shù)、煤體破壞類型、軟分層煤體厚度和開采深度等。為了研究不同影響因素對(duì)煤與瓦斯突出的影響程度，運(yùn)用灰色關(guān)聯(lián)分析理論，按照關(guān)聯(lián)度的排序提取煤與瓦斯突出的主控因素，為煤與瓦斯突出預(yù)測(cè)算法的仿真實(shí)驗(yàn)奠定基礎(chǔ)。

1.1 現(xiàn)場(chǎng)實(shí)例樣本

通過收集整理相關(guān)文獻(xiàn)所列山西屯蘭礦、沙曲礦和寺河礦等礦井的樣本數(shù)據(jù)[13-16]，得到了119個(gè)現(xiàn)場(chǎng)實(shí)例樣本，見表1。表1中煤與瓦斯突出強(qiáng)度為0的樣本表示非突出樣本，不為0的樣本表示發(fā)生了煤與瓦斯突出的樣本；煤體破壞類型分為5類，1—5分別表示非破壞煤、破壞煤、強(qiáng)烈破壞煤、粉粒煤和全粉煤。

1.2 灰色關(guān)聯(lián)分析

灰色關(guān)聯(lián)分析是對(duì)動(dòng)態(tài)發(fā)展進(jìn)程態(tài)勢(shì)的量化剖析，運(yùn)用灰色關(guān)聯(lián)度的曲線圖形來剖析系統(tǒng)因素間、因素對(duì)系統(tǒng)的影響水平的一種方式，通過確定參考數(shù)據(jù)列和剩余多個(gè)比較數(shù)據(jù)列的曲線圖形的差異水平來判別其關(guān)系是否緊密，從而找到煤與瓦斯突出的主控因素。灰色關(guān)聯(lián)分析計(jì)算步驟如下：

(1)確定參考數(shù)列和比較數(shù)列。假設(shè)煤與瓦斯突出有n個(gè)影響因素，對(duì)于m次突出案例，其突出強(qiáng)度的理想化樣本如下：

(l=1,2,…,m)

(1)

表1 現(xiàn)場(chǎng)實(shí)例樣本

(k=0,1,…,n)

(2)

(2)變量無量綱化。由于各變量單位不統(tǒng)一、初值差異不方便對(duì)比，需要對(duì)數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理。

(3)

(3)計(jì)算關(guān)聯(lián)系數(shù)η(k)。關(guān)聯(lián)系數(shù)定義如下：

(4)

(4)計(jì)算各個(gè)突出影響因素的關(guān)聯(lián)度。比較數(shù)列與參考數(shù)列在各個(gè)時(shí)刻的關(guān)聯(lián)程度值為關(guān)聯(lián)系數(shù)，計(jì)算出每一個(gè)突出影響因素和突出強(qiáng)度的關(guān)聯(lián)系數(shù)后，采用式(5)計(jì)算結(jié)果作為比較數(shù)列與參考數(shù)列間關(guān)聯(lián)程度的大小，關(guān)聯(lián)系數(shù)的平均值稱為關(guān)聯(lián)度，反映數(shù)列之間的緊密程度。關(guān)聯(lián)度r(k)的表達(dá)式為

(5)

(5)關(guān)聯(lián)度排序是按照關(guān)聯(lián)度從大至小依次排列，假設(shè)r(1)

1.3 煤與瓦斯突出影響因素灰色關(guān)聯(lián)度排序

運(yùn)用Matlab軟件進(jìn)行煤與瓦斯突出影響因素灰色關(guān)聯(lián)分析，以突出強(qiáng)度為參考數(shù)列，以瓦斯含量、瓦斯壓力、瓦斯放散初速度、煤的普氏系數(shù)、煤體破壞類型、軟分層厚度和開采深度作為比較數(shù)列。對(duì)表1中發(fā)生突出的樣本數(shù)據(jù)進(jìn)行灰色關(guān)聯(lián)分析，計(jì)算結(jié)果見表2。將關(guān)聯(lián)度按照由大到小進(jìn)行排序，關(guān)聯(lián)順序反映各個(gè)影響因素對(duì)煤與瓦斯突出的控制作用逐漸降低，從而提取煤與瓦斯突出的主控因素。各個(gè)影響因素對(duì)煤與瓦斯突出控制作用的順序：瓦斯放散初速度>瓦斯壓力>開采深度>瓦斯含量>煤體破壞類型>煤的普氏系數(shù)>軟分層厚度，故提取瓦斯放散初速度、瓦斯壓力、開采深度、瓦斯含量和煤體破壞類型作為煤與瓦斯突出主控因素。

表2 影響因素關(guān)聯(lián)度排序

2 IPSO-Powell優(yōu)化SVM的煤與瓦斯突出預(yù)測(cè)算法

2.1 算法原理

粒子群(Particle Swarm Optimization,PSO)算法利用群體中的個(gè)體對(duì)信息的共享來追隨當(dāng)前搜索到的最優(yōu)值，從而找到問題求解空間中的全局最優(yōu)解[17]。假設(shè)群體大小為z，目標(biāo)搜尋空間為d維，Xi=(xi1,xi2,…,xid)T(i=1,2,…,z)，表示第i個(gè)粒子的位置；Vi=(vi1,vi2,…,vid)T，表示第i個(gè)粒子的飛翔速度，粒子i自身搜索到的最好位置記為pbestid，gbestd為當(dāng)前種群中粒子搜索到的最好的點(diǎn)，粒子i通過式(6)來迭代更新自身的速度與位置。

(6)

為使PSO算法在起初階段搜索到足夠大的范圍，快速找到最優(yōu)解的大概位置，以便后期進(jìn)行局部精細(xì)搜索，利用IPSO算法，采用線性上升策略處理慣性權(quán)重。

(7)

式中：ωmax為權(quán)重最大值；Δω為權(quán)重最大值與最小值的差；tc，tmax分別為當(dāng)前迭代次數(shù)和最大迭代次數(shù)。

將式(7)代入式(6)可得

(8)

用IPSO算法和Powell算法共同優(yōu)化SVM的參數(shù)，并對(duì)PSO算法本身進(jìn)行優(yōu)化，然后結(jié)合Powell算法做進(jìn)一步的局部尋優(yōu)，反復(fù)迭代，將最后得到的最優(yōu)解代入到SVM進(jìn)行分類預(yù)測(cè)。IPSO-Powell優(yōu)化SVM算法流程如圖1所示。

圖1 IPSO-Powell優(yōu)化SVM算法流程

多項(xiàng)式核函數(shù)形式過于簡(jiǎn)單，非線性程度較低，高斯核函數(shù)很少發(fā)生維數(shù)災(zāi)難，并且超平面參數(shù)的個(gè)數(shù)較少，經(jīng)綜合考慮，本文采用高斯核函數(shù)作為SVM算法的核函數(shù)，其關(guān)鍵參數(shù)既可用σ表示，也可用g表示，兩者之間的關(guān)系為

(9)

本文采用IPSO-Powell算法優(yōu)化SVM算法中的2個(gè)參數(shù)，即懲罰系數(shù)C和核函數(shù)參數(shù)σ。算法運(yùn)行步驟如下：

(1)初始化參數(shù)：初始化IPSO算法的最大迭代次數(shù)tmax，學(xué)習(xí)因子c1、c2,混合算法的最大迭代次數(shù)M，Powell算法的搜索精度ε，搜索概率Pp等。

(2)利用適應(yīng)度函數(shù)評(píng)價(jià)所有粒子的適應(yīng)度。

(3)若混合算法的迭代次數(shù)大于M，則放棄迭代，將所有尋找到的極值點(diǎn)輸出，否則繼續(xù)下一步操作。

(4)若IPSO迭代代數(shù)t≤tmax，則更新粒子的位置、速度、pbestid和gbestd。

(5)r

(6)將上述得到的極值點(diǎn)放入到極值點(diǎn)庫(kù)中。

(7)再次初始化粒子的位置及速度。

(8)將極值點(diǎn)庫(kù)中已經(jīng)搜尋到的全局極值點(diǎn)賦給已初始化的粒子，返回步驟(3)。

(9)利用最優(yōu)參數(shù)組合(C,σ)對(duì)SVM算法進(jìn)行仿真實(shí)驗(yàn)。

2.2 不同比例樣本對(duì)算法結(jié)果的影響

為了分析不同比例的訓(xùn)練樣本和預(yù)測(cè)樣本對(duì)IPSO-Powell優(yōu)化SVM算法結(jié)果的影響，利用流行的UCI數(shù)據(jù)庫(kù)中的Wine數(shù)據(jù)集進(jìn)行算法驗(yàn)證。Wine數(shù)據(jù)集中樣本個(gè)數(shù)為178，屬性個(gè)數(shù)為13，類別個(gè)數(shù)為3，分別記為1，2，3，隨機(jī)選取4組訓(xùn)練樣本和測(cè)試樣本進(jìn)行對(duì)比，具體結(jié)果見表3。

表3 實(shí)驗(yàn)數(shù)據(jù)對(duì)比

通過仿真實(shí)驗(yàn)將運(yùn)算的預(yù)測(cè)測(cè)試集分類結(jié)果與實(shí)際測(cè)試集分類結(jié)果進(jìn)行對(duì)比。4組測(cè)試樣本的預(yù)測(cè)結(jié)果如圖2—圖5所示。從圖2可看出，第1組89個(gè)樣本中，有3個(gè)樣本預(yù)測(cè)測(cè)試集分類結(jié)果為3，實(shí)際測(cè)試集分類結(jié)果為2，其余86個(gè)預(yù)測(cè)結(jié)果正確，準(zhǔn)確率為96.6%。從圖3可看出，第2組64個(gè)樣本中，有2個(gè)樣本預(yù)測(cè)測(cè)試集分類結(jié)果為3，實(shí)際測(cè)試集分類結(jié)果為2，其余62個(gè)預(yù)測(cè)結(jié)果正確，準(zhǔn)確率為96.9%。從圖4可看出，第3組41個(gè)樣本中，有2個(gè)樣本預(yù)測(cè)測(cè)試集分類結(jié)果為2，實(shí)際測(cè)試集分類結(jié)果為1，其余39個(gè)預(yù)測(cè)結(jié)果正確，準(zhǔn)確率為95.1%。從圖5可看出，第4組20個(gè)樣本中，有1個(gè)樣本預(yù)測(cè)測(cè)試集分類結(jié)果為2，實(shí)際測(cè)試集分類結(jié)果為1，其余19個(gè)預(yù)測(cè)結(jié)果正確，準(zhǔn)確率為95%。4組預(yù)測(cè)結(jié)果準(zhǔn)確率均超過95%。上述結(jié)果表明：選取不同比例的訓(xùn)練樣本與預(yù)測(cè)樣本對(duì)預(yù)測(cè)結(jié)果影響較小，準(zhǔn)確率相差1%左右，基本符合算法預(yù)期效果。

圖2 第1組測(cè)試樣本的預(yù)測(cè)結(jié)果

圖3 第2組測(cè)試樣本的預(yù)測(cè)結(jié)果

圖4 第3組測(cè)試樣本的預(yù)測(cè)結(jié)果

圖5 第4組測(cè)試樣本的預(yù)測(cè)結(jié)果

2.3 煤與瓦斯突出預(yù)測(cè)步驟

(1)將運(yùn)用灰色關(guān)聯(lián)分析提取的煤與瓦斯突出主控因素(瓦斯放散初速度、瓦斯壓力、開采深度、瓦斯含量和煤體破壞類型)作為算法的輸入樣本。

(2)利用IPSO-Powell優(yōu)化SVM算法中的懲罰系數(shù)C和核函數(shù)參數(shù)σ，利用最優(yōu)參數(shù)組合(C,σ)建立的SVM算法進(jìn)行仿真實(shí)驗(yàn)。

(3)利用流行的UCI數(shù)據(jù)庫(kù)中的Wine數(shù)據(jù)集分析不同比例的訓(xùn)練樣本和預(yù)測(cè)樣本對(duì)算法結(jié)果的影響，驗(yàn)證算法的可靠性。

(4)利用IPSO-Powell優(yōu)化SVM算法計(jì)算預(yù)測(cè)測(cè)試集分類結(jié)果，并將其與實(shí)際測(cè)試集分類結(jié)果進(jìn)行對(duì)比，對(duì)煤與瓦斯突出進(jìn)行預(yù)測(cè)。

3 算法仿真

3.1 數(shù)據(jù)樣本的處理

在表1所列119個(gè)現(xiàn)場(chǎng)實(shí)例樣本中，隨機(jī)選取70個(gè)作為訓(xùn)練樣本，包括突出樣本45個(gè)、非突出樣本25個(gè)，另選49個(gè)作為預(yù)測(cè)樣本。根據(jù)煤與瓦斯突出強(qiáng)度的大小把樣本分成3類：無突出(標(biāo)記為1)、小型突出(突出煤量為0～50 t，標(biāo)記為2)、大型突出(突出煤量為50 t以上，標(biāo)記為3)，SVM模型的輸出結(jié)果集用這個(gè)標(biāo)準(zhǔn)作為評(píng)價(jià)集。根據(jù)關(guān)聯(lián)度計(jì)算結(jié)果從大到小進(jìn)行排序，提取主控因素(瓦斯放散初速度、瓦斯壓力、開采深度、瓦斯含量和煤體破壞類型)作為煤與瓦斯突出預(yù)測(cè)算法的輸入樣本進(jìn)行仿真實(shí)驗(yàn)。

3.2 不同算法仿真結(jié)果對(duì)比

為分析基于IPSO-Powell優(yōu)化SVM的煤與瓦斯突出預(yù)測(cè)算法的準(zhǔn)確性和可靠性，將其與粒子群-支持向量機(jī)(Particle Swarm Optimization-Support Vector Machine，PSO-SVM)算法、遺傳算法-支持向量機(jī)(Genetic Algorithm-Support Vector Machine，GA-SVM)算法和SVM算法進(jìn)行仿真對(duì)比。

仿真時(shí)，要確定SVM算法中的懲罰系數(shù)C和核函數(shù)參數(shù)σ的值。如果C值太大，容易導(dǎo)致過擬合；如果C值太小，容易發(fā)生欠擬合。如果σ值太小，存在訓(xùn)練準(zhǔn)確率很高而預(yù)測(cè)準(zhǔn)確率不高的可能；如果σ值太大，則會(huì)出現(xiàn)平滑效應(yīng)，無法實(shí)現(xiàn)較高的訓(xùn)練準(zhǔn)確率，也會(huì)影響預(yù)測(cè)的準(zhǔn)確率。首先對(duì)算法參數(shù)進(jìn)行初始化，由IPSO算法和Powell算法根據(jù)適應(yīng)度函數(shù)對(duì)SVM的懲罰系數(shù)C和核函數(shù)參數(shù)σ進(jìn)行尋優(yōu)，記錄最優(yōu)的一組參數(shù)組合(C,σ)進(jìn)行仿真。

(1)利用IPSO-Powell優(yōu)化SVM算法進(jìn)行仿真,結(jié)果如圖6所示。圖6(a)中的g與參數(shù)σ的關(guān)系參見式(9)。當(dāng)最優(yōu)參數(shù)組合中C=0.329 88,σ=1時(shí)，49個(gè)樣本中有2個(gè)樣本預(yù)測(cè)測(cè)試集分類結(jié)果為3，實(shí)際測(cè)試集分類結(jié)果為2，其余47個(gè)預(yù)測(cè)結(jié)果正確，準(zhǔn)確率為95.9%。

(a)算法參數(shù)和預(yù)測(cè)準(zhǔn)確率關(guān)系

(b)預(yù)測(cè)結(jié)果

(2)利用PSO-SVM算法進(jìn)行仿真，結(jié)果如圖7所示。當(dāng)最優(yōu)參數(shù)組合中C=0.353 55，σ=0.5時(shí)，49個(gè)樣本中有6個(gè)樣本預(yù)測(cè)測(cè)試集分類結(jié)果為2，實(shí)際測(cè)試集分類結(jié)果為1，其余43個(gè)預(yù)測(cè)結(jié)果正確，準(zhǔn)確率為87.8%。

(a)算法參數(shù)和預(yù)測(cè)準(zhǔn)確率關(guān)系

(b)預(yù)測(cè)結(jié)果

(3)利用GA-SVM算法進(jìn)行仿真，結(jié)果如圖8所示。當(dāng)最優(yōu)參數(shù)組合中C=0.5，σ=1時(shí)，49個(gè)樣本中有7個(gè)樣本預(yù)測(cè)測(cè)試集分類結(jié)果為2，實(shí)際測(cè)試集分類結(jié)果為1，有2個(gè)樣本預(yù)測(cè)測(cè)試集分類結(jié)果為2，實(shí)際測(cè)試集分類結(jié)果為3，其余 40 個(gè)預(yù)測(cè)結(jié)果正確，準(zhǔn)確率為81.6%。

(4)利用SVM算法進(jìn)行仿真，結(jié)果如圖9所示。當(dāng)最優(yōu)參數(shù)組合中C=0.707 11,σ=0.25時(shí)，49個(gè)樣本中有11個(gè)樣本預(yù)測(cè)測(cè)試集分類結(jié)果為2，實(shí)際測(cè)試集分類結(jié)果為1，有2個(gè)樣本預(yù)測(cè)測(cè)試集分類結(jié)果為2，實(shí)際測(cè)試集分類結(jié)果為3，其余36個(gè)預(yù)測(cè)結(jié)果正確，準(zhǔn)確率為73.5%。

(a)算法參數(shù)和預(yù)測(cè)準(zhǔn)確率關(guān)系

(b)預(yù)測(cè)結(jié)果

(a)算法參數(shù)和預(yù)測(cè)準(zhǔn)確率關(guān)系

(b)預(yù)測(cè)結(jié)果

從仿真結(jié)果發(fā)現(xiàn)，IPSO-Powell優(yōu)化SVM算法的預(yù)測(cè)準(zhǔn)確率超過95%，其他3種算法的預(yù)測(cè)準(zhǔn)確率均低于90%，說明IPSO-Powell優(yōu)化SVM算法在迭代次數(shù)較少的情況下預(yù)測(cè)準(zhǔn)確率更高。

4 結(jié)論

(1)運(yùn)用灰色關(guān)聯(lián)理論分析各個(gè)影響因素對(duì)煤與瓦斯突出的影響程度，根據(jù)關(guān)聯(lián)度的排序提取瓦斯放散初速度、瓦斯壓力、開采深度、瓦斯含量和煤體破壞類型作為煤與瓦斯突出主控因素。

(2)將IPSO算法與Powell算法相結(jié)合對(duì)SVM算法的懲罰系數(shù)C和高斯核函數(shù)參數(shù)σ進(jìn)行尋優(yōu)。運(yùn)用IPSO-Powell優(yōu)化SVM算法對(duì)不同比例訓(xùn)練樣本與預(yù)測(cè)樣本的仿真結(jié)果進(jìn)行預(yù)測(cè)，預(yù)測(cè)準(zhǔn)確率均超過95%，表明選取不同比例的訓(xùn)練樣本與預(yù)測(cè)樣本對(duì)預(yù)測(cè)結(jié)果影響較小。

(3)在提取煤與瓦斯突出主控因素的基礎(chǔ)上，構(gòu)建了基于IPSO-Powell優(yōu)化SVM的煤與瓦斯突出預(yù)測(cè)算法。IPSO-Powell優(yōu)化SVM算法和SVM算法、GA-SVM算法、PSO-SVM算法的仿真對(duì)比結(jié)果表明：基于IPSO-Powell優(yōu)化SVM的煤與瓦斯突出預(yù)測(cè)算法具有更高的預(yù)測(cè)精度，同時(shí)提高了SVM 求解過程的運(yùn)算效率，為煤與瓦斯突出預(yù)測(cè)提供了新的思路和方法。