基于Adaboost-SVM組合算法的爆破振動(dòng)強(qiáng)度預(yù)測(cè)研究

梅 比， 汪旭光， 楊仁樹(shù)

(1.中國(guó)礦業(yè)大學(xué)(北京) 力學(xué)與建筑工程學(xué)院，北京 100083； 2.北京礦冶研究總院，北京 100160)

隨著爆破技術(shù)的日趨成熟和廣泛應(yīng)用，爆破振動(dòng)危害問(wèn)題也日益突出。尤其是在核電站、地鐵等重要項(xiàng)目建設(shè)過(guò)程中控制爆破振動(dòng)危害尤為重要，因此準(zhǔn)確預(yù)報(bào)爆破振動(dòng)強(qiáng)度的需求愈發(fā)迫切[1]。由于影響爆破地震波的隨機(jī)因素多、非線(xiàn)性強(qiáng)，這些因素若都作為預(yù)測(cè)模型的輸入?yún)?shù)，會(huì)增加模型冗余度，對(duì)預(yù)測(cè)速度和準(zhǔn)確性造成不利影響。

主分量分析[2](Principal Component Analysis，PCA)法是一種統(tǒng)計(jì)分析方法，可以高效地找出數(shù)據(jù)中的主要部分，將原有的復(fù)雜數(shù)據(jù)降維，去除整個(gè)數(shù)據(jù)中的噪音和冗余。支持向量機(jī)(Support Vector Machine，SVM)能夠根據(jù)有限的樣本信息在模型的復(fù)雜性和學(xué)習(xí)能力之間尋求最佳折衷，以獲得最好的推廣能力[3]。該方法主要用于模式識(shí)別，近年來(lái)已推廣到線(xiàn)性和非線(xiàn)性系統(tǒng)的回歸估計(jì)中。自適應(yīng)提升算法[4](Adaboost)是一種高效的迭代算法，能夠?qū)Ω鞣N方法構(gòu)建的弱分類(lèi)器進(jìn)行有效篩選和組合，從而構(gòu)成強(qiáng)分類(lèi)器，其最大優(yōu)點(diǎn)就是自適應(yīng)性強(qiáng)，不會(huì)出現(xiàn)過(guò)擬合情況[5]。在爆破振動(dòng)預(yù)測(cè)方面，國(guó)內(nèi)的陸凡東等[6-8]利用SVM對(duì)爆破振動(dòng)強(qiáng)度作了預(yù)測(cè)研究，但他們對(duì)輸入因素參量的選擇大多依靠經(jīng)驗(yàn)選取，缺乏量化分析指導(dǎo)。

本文依靠某重點(diǎn)爆破工程的振動(dòng)監(jiān)測(cè)實(shí)測(cè)數(shù)據(jù)，在用PCA法科學(xué)選取主影響因素的基礎(chǔ)上，結(jié)合徑向基SVM分析法，建立了預(yù)測(cè)模型。為了進(jìn)一步提高對(duì)爆破振動(dòng)強(qiáng)度的預(yù)測(cè)精度，首次將Adaboost與SVM方法結(jié)合，提出了Adaboost-SVM組合算法，并成功運(yùn)用于爆破振動(dòng)強(qiáng)度的預(yù)測(cè)，使預(yù)測(cè)精度得到了進(jìn)一步提高。

1 爆破振動(dòng)測(cè)試及監(jiān)測(cè)數(shù)據(jù)

在某核電站爆破工程中，對(duì)核島區(qū)重點(diǎn)保護(hù)部位進(jìn)行了爆破振動(dòng)監(jiān)測(cè)，并從監(jiān)測(cè)數(shù)據(jù)中選取了35組有效樣本數(shù)據(jù)作為研究對(duì)象。部分?jǐn)?shù)據(jù)列于表1。本文選取質(zhì)點(diǎn)振動(dòng)加速度峰值作為衡量爆破振動(dòng)強(qiáng)度的物理量，預(yù)測(cè)對(duì)象即為監(jiān)測(cè)點(diǎn)爆破振動(dòng)信號(hào)的質(zhì)點(diǎn)振動(dòng)加速度峰值。

表1 爆破振動(dòng)試驗(yàn)監(jiān)測(cè)結(jié)果Tab.1 Monitoring results of blasting vibration test

2 方法原理

2.1 主分量分析法

由于原始數(shù)據(jù)的變量基數(shù)比較復(fù)雜，難以描述其特征，主分量分析提出了一種簡(jiǎn)單解決問(wèn)題的思想，從事物的主要方面進(jìn)行重點(diǎn)分析[9]。該方法認(rèn)為某個(gè)事物的特征集中在幾個(gè)主要變量上，只需要將這幾個(gè)變量分離出來(lái)，對(duì)這幾個(gè)變量進(jìn)行重點(diǎn)分析，用它們的線(xiàn)性組合表示事物的主要特征[10]。

PCA方法可描述為：尋找一組正交基組成的矩陣P，定義Y=PX，使得CY=MYYT是對(duì)角矩陣。P的行向量，就是數(shù)據(jù)X的主分量，也就是XXT的特征向量，矩陣CY對(duì)角線(xiàn)上第i個(gè)元素是數(shù)據(jù)X在方向Pi的方差[11]。

主分量是n個(gè)原始變量的線(xiàn)性組合，各主分量之間互不相關(guān)[12]。每個(gè)主分量對(duì)應(yīng)一個(gè)方差，該方差為協(xié)方差陣對(duì)應(yīng)的特征值，各主分量特征值之和為1。將主分量按照其對(duì)應(yīng)的方差值從大到小依次排列，則最大的方差對(duì)應(yīng)第一主分量，以此類(lèi)推。選擇主分量的數(shù)量取決于保留部分的累積方差在總方差中所占的百分比。由于所有主分量的總方差值是確定的，前面變量的方差較大，則后面的變量方差就較小。只有前幾個(gè)綜合變量才稱(chēng)得上是主分量，后幾個(gè)綜合變量為次分量。一般情況下，可根據(jù)問(wèn)題的實(shí)際需要，主觀地確定一個(gè)百分比值，當(dāng)前x項(xiàng)的方差之和大于此百分比值時(shí)，就可以決定保留前x個(gè)主分量,而忽略后面的次分量。

2.2 支持向量機(jī)回歸

給定樣本{(xi，yi)|i=1,2,…，n}，xi∈Rd，yi∈R。這里xi表示輸入向量，yi為輸出向量。對(duì)于這個(gè)非線(xiàn)性函數(shù)回歸問(wèn)題，采用一個(gè)非線(xiàn)性映射φ(·)將樣本從原空間映射到維數(shù)為k的高維特征空間中，然后在高維特征空間中進(jìn)行線(xiàn)性回歸，從而取得在原空間非線(xiàn)性回歸的效果[13]。設(shè)線(xiàn)性回歸函數(shù)為

F={f|f(x)=wT·x+b,w∈Rk}

(1)

式中：w為權(quán)向量;b為常數(shù)；b∈R。按照最優(yōu)化理論中凸二次規(guī)劃的解法，通過(guò)函數(shù)變換，非線(xiàn)性函數(shù)回歸問(wèn)題可以轉(zhuǎn)化為求解非線(xiàn)性規(guī)劃問(wèn)題，則函數(shù)f(x)可以表示為

(2)

(3)

式中：σ2為寬度系數(shù)。

2.3 Adaboost-SVM組合預(yù)測(cè)模型

Adaboost作為一種迭代提升算法，其基本思路是把多個(gè)不同的弱分類(lèi)器集成，從而構(gòu)成一個(gè)強(qiáng)分類(lèi)器[15-16]。本文采用的Adaboost-SVM算法是把基于PCA特征子空間的多個(gè)SVM預(yù)測(cè)模型作為弱分類(lèi)器，爾后通過(guò)Adaboost算法構(gòu)成強(qiáng)分類(lèi)器。其具體步驟如下：

步驟1給定一個(gè)訓(xùn)練樣本{(x1,y1),…,(xn,yn)}，樣本數(shù)據(jù)的初始分布權(quán)值為D1(i)=1/n,i=1,2,…,n。設(shè)進(jìn)行T次循環(huán)迭代，初始化迭代次數(shù)為t=1。

步驟2按初始權(quán)重分布從訓(xùn)練樣本中選取m組訓(xùn)練樣本子集(m

步驟5更新樣本權(quán)重

步驟6令迭代次數(shù)t=t+1。

步驟7若t

步驟8組合強(qiáng)分類(lèi)器

3 爆破振動(dòng)強(qiáng)度預(yù)測(cè)及結(jié)果分析

3.1 PCA法確定模型輸入?yún)?shù)

將振動(dòng)加速度峰值設(shè)為被解釋變量Y，將總藥量、最大段藥量等7個(gè)影響因素指標(biāo)設(shè)為解釋變量x1，…，x7。從表1中選取了前10個(gè)樣本數(shù)據(jù)，構(gòu)成了觀測(cè)數(shù)據(jù)矩陣X。按照以下步驟作PCA法分析：

步驟1對(duì)原始數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理，消除量綱的影響。

步驟2計(jì)算原始變量樣本觀測(cè)數(shù)據(jù)經(jīng)標(biāo)準(zhǔn)化處理后所得數(shù)據(jù)的協(xié)方差矩陣S。

步驟3計(jì)算S的所有特征根及其對(duì)應(yīng)的特征向量，并按特征根λj的大小順序?qū)⑺鼈冞M(jìn)行排序。

步驟4計(jì)算各主分量的貢獻(xiàn)率、累計(jì)貢獻(xiàn)率及各變量的信息提取率。

步驟5根據(jù)步驟4的參數(shù)來(lái)判定選擇主分量的個(gè)數(shù)及種類(lèi)。在實(shí)際中，一般要求主分量的累計(jì)貢獻(xiàn)率要達(dá)到85%以上。同時(shí)，還要考慮到某個(gè)原始變量在所選取的主分量中所能反映的程度。

經(jīng)過(guò)計(jì)算，得到前2個(gè)主分量的累積貢獻(xiàn)率為75.6%，前3個(gè)為88.4%，前4個(gè)為94.7%。可見(jiàn)，選取前3個(gè)主分量就可以足夠表示主要信息。本文利用分量得分系數(shù)矩陣中各因素得分系數(shù)之和排序，得出了用于SVM預(yù)測(cè)模型的主分量因素，分量得分系數(shù)矩陣見(jiàn)表2。

表2 分量得分系數(shù)矩陣Tab.2 Matrix of component score coefficient

從表2數(shù)據(jù)可知，7種因素在主分量里的得分權(quán)重依次為最大段藥量、距離、高程差、總藥量、孔深、分段數(shù)和排距，前3種因素的數(shù)值高出較多。結(jié)合實(shí)際分析，總藥量的影響小于最大段藥量，是由于微差爆破所決定的；一旦總藥量和各段藥量確定，分段數(shù)也就隨之確定；各樣本的排距一般變化不是很大，而且考慮到破碎效果，排距在設(shè)計(jì)時(shí)受限于孔深和段藥量等參數(shù)。所以，本文用于SVM預(yù)測(cè)模型的特征參數(shù)確定為最大段藥量、爆源到測(cè)點(diǎn)距離和高程差這3組參數(shù)。

3.2 SVM模型的訓(xùn)練和預(yù)測(cè)

將表1中樣本序號(hào)1～30作為訓(xùn)練樣本，樣本序號(hào)31～35作為預(yù)測(cè)樣本。經(jīng)過(guò)對(duì)表1中數(shù)據(jù)的標(biāo)準(zhǔn)化處理，得到去量綱后的數(shù)據(jù)，建立訓(xùn)練樣本集

{(xi,yi),i=1,2,…,30},xi∈R3,yi∈R

式中：xi為3維輸入向量；yi為1維輸出向量；X為訓(xùn)練樣本輸入向量，其為n×l的矩陣；Y為訓(xùn)練樣本輸出向量，其為1×l的矩陣；Z為預(yù)測(cè)樣本輸入向量，其為n×l’的矩陣。這里，n=3，l=30，l’=5。

采用徑向基核函數(shù)和序貫最小優(yōu)化算法來(lái)訓(xùn)練模型，在MATLAB上編程實(shí)現(xiàn)。模型中需要確定的參數(shù)有核函數(shù)的寬度系數(shù)σ2、懲罰因子C以及不敏感系數(shù)ε。ε控制模型擬合誤差的大小，σ2和C控制著模型的復(fù)雜程度，反映模型訓(xùn)練擬合和預(yù)測(cè)精度的折衷。根據(jù)模型特點(diǎn)，ε從0.000 01～0.1按5個(gè)數(shù)量級(jí)分別取值。圖1反映了訓(xùn)練樣本在不同ε值下的回歸擬合結(jié)果。

圖1 不同ε取值時(shí)訓(xùn)練樣本的擬合結(jié)果Fig.1 Fitting results of training samples in different ε values

從圖1可知，當(dāng)ε=0.01時(shí)擬合值與實(shí)際值相差較大，說(shuō)明產(chǎn)生欠擬合；ε=0.001時(shí)擬合曲線(xiàn)已經(jīng)比較接近實(shí)際值曲線(xiàn)；而當(dāng)ε=0.000 1和ε=0.000 01時(shí)，除個(gè)別樣本點(diǎn)外，擬合值與實(shí)際值相差無(wú)幾，但為了避免因?yàn)檫^(guò)擬合而影響模型的泛化能力，這里取ε=0.001比較合適。(ε=0.1時(shí)擬合值均為負(fù)值，未標(biāo)出)。σ2和C的取值采用交叉驗(yàn)證法。經(jīng)過(guò)計(jì)算，得出最優(yōu)參數(shù)為σ2=8，C=26。

根據(jù)以上參數(shù)確定預(yù)測(cè)模型后，輸入預(yù)測(cè)樣本對(duì)振動(dòng)加速度峰值進(jìn)行預(yù)測(cè)。將預(yù)測(cè)結(jié)果與BP神經(jīng)網(wǎng)絡(luò)法[17](Neural Network,NN)、經(jīng)驗(yàn)公式法[18](Empirical Formula Method,EFM)的預(yù)測(cè)結(jié)果對(duì)比，結(jié)果見(jiàn)表3。3種方法的預(yù)測(cè)值的平均相對(duì)誤差分別為：4.55%，16.02%和19.24%。

表3 各模型預(yù)測(cè)結(jié)果對(duì)比表Tab.3 Forecasting results of each model

由此可見(jiàn)，SVM模型的爆破振動(dòng)強(qiáng)度預(yù)測(cè)精度達(dá)到了95.45%，要高于其它兩種模型。此外，把經(jīng)PCA法確定的3因素和未作處理前的7因素這兩種樣本條件，即輸入矩陣規(guī)模分別為3×30和7×30，用SVM算法進(jìn)行訓(xùn)練，在同一配置的計(jì)算機(jī)硬件和軟件環(huán)境中，其收斂時(shí)間分別為5 s和28 s，說(shuō)明經(jīng)過(guò)PCA算法確定主因素后，預(yù)測(cè)模型的算法速度提高了5倍以上。

3.3 Adaboost-SVM組合算法

為了進(jìn)一步提高爆破振動(dòng)預(yù)測(cè)精度，以PCA算法得出的3種特征參數(shù)作為輸入?yún)⒘浚瑢⒂?xùn)練樣本子集均分為3組(即將序號(hào)1～30數(shù)據(jù)分為3組)分別建立SVM模型，作為弱分類(lèi)器，通過(guò)Adaboost提升算法構(gòu)建一個(gè)強(qiáng)分類(lèi)器，而后采用測(cè)試集數(shù)據(jù)對(duì)強(qiáng)分類(lèi)器進(jìn)行校驗(yàn)。其中，設(shè)置迭代的終止條件為et=0或迭代次數(shù)T=10。最終得到該算法迭代次數(shù)與預(yù)測(cè)誤差之間的關(guān)系，如圖2所示。

圖2 預(yù)測(cè)誤差與迭代次數(shù)的關(guān)系Fig.2 Relationship between prediction error and iteration number

由圖2可知，隨著迭代次數(shù)的增加，該模型的預(yù)測(cè)誤差也逐漸降低，但當(dāng)?shù)?輪迭代預(yù)測(cè)誤差降低到2.56%后趨于穩(wěn)定，表明終止迭代的條件是預(yù)期設(shè)定的迭代次數(shù)，而非et=0。經(jīng)過(guò)該模型迭代計(jì)算，預(yù)測(cè)精度提升到了97.44%，且6次迭代即可。其對(duì)應(yīng)的序號(hào)31～35樣本的預(yù)測(cè)值依次為：0.010 5，0.015 7，0.017 5，0.014 7，0.014 2。為了與前文中幾種方法預(yù)測(cè)效果作直觀對(duì)比，圖3繪出了各方法的預(yù)測(cè)值與實(shí)際值的曲線(xiàn)圖。

圖3 各種方法預(yù)測(cè)值與實(shí)際值的曲線(xiàn)圖Fig.3 Diagram of forecasting values & practical values in each way

4 結(jié) 論

(1) 所提出的基于Adaboost-PCA-SVM綜合算法模型，可用于預(yù)測(cè)爆破振動(dòng)加速度峰值。通過(guò)PCA分析法有效約簡(jiǎn)了影響爆破振動(dòng)強(qiáng)度的次要因素和冗余數(shù)據(jù)，確定了3個(gè)主因素。經(jīng)過(guò)SVM模型的訓(xùn)練優(yōu)化，實(shí)現(xiàn)了對(duì)爆破振動(dòng)加速度峰值的預(yù)測(cè)，最后通過(guò)Adaboost算法與SVM相結(jié)合，構(gòu)建強(qiáng)分類(lèi)器模型，進(jìn)一步提升了預(yù)測(cè)精度。

(2) 計(jì)算結(jié)果表明，經(jīng)過(guò)PCA因素優(yōu)化后的SVM模型的預(yù)測(cè)精度達(dá)到了95.45%，遠(yuǎn)大于經(jīng)驗(yàn)公式法和BP神經(jīng)網(wǎng)絡(luò)法得到的結(jié)果，且算法速度得到提高；提出的Adaboost-SVM組合算法能夠進(jìn)一步將預(yù)測(cè)精度提高至97.57%，該模型方法具有較高的推廣應(yīng)用價(jià)值。