充填鉆孔壽命SVM優(yōu)化預(yù)測(cè)模型研究

張欽禮，陳秋松，胡威，高瑞文

(中南大學(xué) 資源與安全工程學(xué)院，湖南 長(zhǎng)沙，410083)

如何在環(huán)境不受破壞的前提下，合理、高效地利用礦產(chǎn)資源是當(dāng)今社會(huì)和各界的關(guān)注重點(diǎn)，充填采礦法由此應(yīng)運(yùn)而生。充填采礦法不但能提高采礦回收率，有效降低了貧化率，而且為回收難采礦產(chǎn)資源和邊界經(jīng)濟(jì)礦產(chǎn)資源等提供了可能[1?2]。此外，充填采礦法還能有效控制并降低采場(chǎng)地壓，防止大規(guī)模巖層移動(dòng)、礦巖整體失穩(wěn)、巷道頂板突發(fā)性冒落以及巖爆、沖擊地壓等發(fā)生。但充填采礦法也存在一些難題，特別是地下礦山進(jìn)行充填時(shí)存在充填鉆孔的使用壽命問(wèn)題。充填鉆孔作為充填料漿的專(zhuān)屬通道，承受了料漿的腐蝕與沖刷作用，容易造成破損堵塞。一旦充填鉆孔破壞，要恢復(fù)基本不可能。而充填鉆孔被損壞必然影響礦山的充填和采礦工藝的銜接，甚至?xí)绊懙V山正常的生產(chǎn)：因此，對(duì)充填鉆孔的壽命進(jìn)行預(yù)測(cè)，提前對(duì)鉆孔進(jìn)行修復(fù)，是維護(hù)礦山正常生產(chǎn)的重要環(huán)節(jié)，具有重大的意義[3]。目前比較常見(jiàn)的預(yù)測(cè)分析方法主要有回歸分析法、神經(jīng)網(wǎng)絡(luò)法[4?6]等?；貧w分析法主要用于變量關(guān)系簡(jiǎn)單、易找到關(guān)系方程的模型，在技術(shù)條件復(fù)雜的礦山充填系統(tǒng)中顯然不太適用。神經(jīng)網(wǎng)絡(luò)法應(yīng)在許多復(fù)雜的模型中得到運(yùn)用。鄭晶晶等[7]采用BP神經(jīng)網(wǎng)絡(luò)對(duì)充填鉆孔壽命進(jìn)行了預(yù)測(cè)，在一定程度上取得了良好效果。但神經(jīng)網(wǎng)絡(luò)的局部極小點(diǎn)、過(guò)學(xué)習(xí)以及結(jié)構(gòu)和類(lèi)型的選擇過(guò)分依賴(lài)于經(jīng)驗(yàn)等固有的缺陷，嚴(yán)重降低了其應(yīng)用和發(fā)展的效果。支持向量機(jī)能有效克服神經(jīng)網(wǎng)絡(luò)的這些缺陷[8]。與神經(jīng)網(wǎng)絡(luò)不同，支持向量機(jī)(SVM)是一種基于結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則的新型回歸方法，并且是在小樣本情況下發(fā)展起來(lái)的統(tǒng)計(jì)機(jī)器學(xué)理論，在很多情況下可以克服維數(shù)災(zāi)難問(wèn)題。為此，本文作者針對(duì)充填鉆孔壽命預(yù)測(cè)問(wèn)題，運(yùn)用SVM進(jìn)行建模，而針對(duì)困擾SVM的模型參數(shù)選擇問(wèn)題，結(jié)合遺傳算法(GA)進(jìn)行優(yōu)選，確保所選參數(shù)最優(yōu)化，從而使模型最優(yōu)化。由此得到的模型可以保證對(duì)充填鉆孔壽命預(yù)測(cè)的準(zhǔn)確性。

1 支持向量機(jī)回歸數(shù)學(xué)模型

SVM[9?10]是由Vapnik等在1995年根據(jù)統(tǒng)計(jì)學(xué)習(xí)原理提出的一種新的學(xué)習(xí)方法。SVM模型可以實(shí)現(xiàn)對(duì)小樣本高維、非線性系統(tǒng)準(zhǔn)確擬合，在手寫(xiě)識(shí)別、臉部識(shí)別、文本分類(lèi)、回歸建模與預(yù)測(cè)等方面運(yùn)用較多并取得較好效果。

已知訓(xùn)練集S={(x1，y1)，…，(xl，yl)}(其中，l為樣本數(shù)量；xi∈Rn；yi∈R；i=1，2，…，l；n為xi向量維數(shù)；R為實(shí)數(shù)集)。對(duì)于非線性問(wèn)題，通過(guò)非線性變換將輸入向量映射到高維特征空間，轉(zhuǎn)化為線性回歸問(wèn)題。將原訓(xùn)練集S通過(guò)映射f=φ(x)變?yōu)楦呔S空間Z，則對(duì)回歸問(wèn)題就轉(zhuǎn)變?yōu)榇_定一個(gè)最優(yōu)的基于訓(xùn)練集Z的函數(shù)：

使得|yi?f(xi)|≤ε成立。式中：i=1，…，l；ε為任意小的數(shù)；α為拉格蘭日乘子；ω為權(quán)重；b為偏置量。S中的點(diǎn)到f(x)的距離di為

于是，有

所以，通過(guò)最大化di即最小化||ω||2，就可以得到最優(yōu)f(x)，此時(shí)回歸問(wèn)題化為優(yōu)化問(wèn)題。考慮到可能誤差，引入松弛變量ξi，ξi*≥0(i=1，…，l)，優(yōu)化方程為

約束為

式中：C為懲罰因子。

引入拉格朗日函數(shù)：

式中：α和γ為拉格朗日乘子。分別對(duì)式(8)中ω，ξ和b求偏微分，可得

消去ω和γ，求出α，可得f(x)的表達(dá)式為

由于僅僅需要計(jì)算特征空間中向量之間的內(nèi)積，故據(jù) Hilbert-Schmidt理論，引入核函數(shù)K(x，xi)=h(x)h(xi)[11]，代入式(10)得到f(x)的表達(dá)式為

這樣就避免了“維數(shù)災(zāi)難”。目前，常用的核函數(shù)有10多種，其中，高斯核函數(shù)(RBF)為

其中：σ為核函數(shù)參數(shù)。經(jīng)過(guò)驗(yàn)證，能使SVM獲得非常平滑的估計(jì)。

2 基于GA的SVM預(yù)測(cè)模型建立

2.1 數(shù)據(jù)歸一化

由于樣本中各個(gè)指標(biāo)互不相同，原始樣本中各向量的數(shù)量級(jí)差別很大，為了計(jì)算方便，在研究中對(duì)樣本數(shù)據(jù)進(jìn)行歸一化處理。利用向量歸一化到區(qū)間[0，1]之間。歸一化公式為

2.2 基于遺傳算法的SVM參數(shù)尋優(yōu)

遺傳算法(genetic algorithm)[12?13]是一類(lèi)借鑒生物界的進(jìn)化規(guī)律(適者生存、優(yōu)勝劣汰遺傳機(jī)制)演化而來(lái)的隨機(jī)化搜索方法。它是由Holland[14]于1975年首先提出，其主要特點(diǎn)是：直接對(duì)結(jié)構(gòu)對(duì)象進(jìn)行操作，不存在求導(dǎo)和函數(shù)連續(xù)性的限定；具有內(nèi)在的隱并行性和強(qiáng)大的獲得全局最優(yōu)解能力；遺傳尋優(yōu)方法能獲取和指導(dǎo)搜索優(yōu)化的空間，并能夠調(diào)整搜索方向，不需要給定規(guī)則。

GA具有強(qiáng)大的全局尋優(yōu)能力[15]，克服了核函數(shù)參數(shù)的隨意選擇對(duì)其回歸模型帶來(lái)的巨大誤差。根據(jù)所建立的 SVM 模型，確定以預(yù)測(cè)值的均方誤差作為遺傳尋優(yōu)的適應(yīng)度函數(shù)，適應(yīng)度越小，則預(yù)測(cè)值越精確，所尋找到的 SVM 模型參數(shù)也就越優(yōu)，模型也就越好。

Vapnik等在研究中發(fā)現(xiàn)核函數(shù)的參數(shù)σ和懲罰因子C是影響性能的關(guān)鍵因素。因?yàn)楹撕瘮?shù)參數(shù)σ影響樣本數(shù)據(jù)在高維特征空間，懲罰因子C則在特征空間中調(diào)節(jié) SVM 的置信范周和經(jīng)驗(yàn)風(fēng)險(xiǎn)的比例[16]，而交叉概率p影響算法的收斂速度及結(jié)果的隨機(jī)性。換言之，SVM模型的性能依賴(lài)于參數(shù)之間的相互作用，需同時(shí)優(yōu)化全部參數(shù)。遺傳算法的基本步驟如下。

(1) 編碼。采用通用的二進(jìn)制編碼法，以σ，C和p這3個(gè)參數(shù)的二進(jìn)制編碼隨機(jī)組合構(gòu)成n組染色體。

(2) 選擇合適的參數(shù)。包括群體大小M(一般取20～100)、遺傳代數(shù)T(一般取 100～500)，依據(jù)實(shí)際數(shù)據(jù)復(fù)雜程度進(jìn)行選擇。

(3) 確定適應(yīng)值函數(shù)。根據(jù)SVM回歸預(yù)測(cè)模型，要想得到精度高的回歸函數(shù)，必須使預(yù)測(cè)值與實(shí)際值的誤差盡量小，使回歸曲線與實(shí)際曲線貼近，因此，確定把均方誤差作為適應(yīng)值函數(shù)。顯然，適應(yīng)值越小，模型越精確。

(4) 隨機(jī)生成群體。

(5) 進(jìn)行遺傳迭代，直到滿足停止條件(遺傳代數(shù)達(dá)到)為止，得到最優(yōu)SVM參數(shù)。

最終得到的GA_SVM結(jié)合關(guān)系如圖1所示。

3 工程實(shí)例

以某礦為例，運(yùn)用 GA_SVM 模型對(duì)礦山充填鉆孔壽命進(jìn)行預(yù)測(cè)。由于礦區(qū)充填原料及充填配比、圍巖條件等基本相同，在建立模型時(shí)，為減少分析工作量，提高預(yù)測(cè)精度，不考慮這些因素，僅分析鉆孔直徑、鉆孔偏斜率以及充填倍線這3個(gè)主要影響因素，研究其與鉆孔使用壽命(用累計(jì)充填量表示)之間的關(guān)系。

3.1 數(shù)據(jù)處理

選取該礦區(qū)典型的20個(gè)鉆孔資料建立樣本數(shù)據(jù)，如表1所示。其中，前10個(gè)鉆孔作為訓(xùn)練集(用來(lái)對(duì)SVM 進(jìn)行訓(xùn)練)，11～15號(hào)鉆孔作為驗(yàn)證集(用來(lái)對(duì)SVM模型的核函數(shù)的參數(shù)進(jìn)行優(yōu)選)，最后5個(gè)鉆孔數(shù)據(jù)為預(yù)測(cè)集，對(duì)充填鉆孔使用壽命進(jìn)行預(yù)測(cè)。對(duì)樣本數(shù)據(jù)歸一化到區(qū)間(0,1)，所得結(jié)果如表2所示。

3.2 SVM模型確立

將表2中管道內(nèi)徑、偏斜率、充填倍線作為輸入因素，累計(jì)充填量作為輸出因素。根據(jù) SVM 原理，將訓(xùn)練集代入式(10)，求出其中參數(shù)，得到確定的SVM模型。

表1 學(xué)習(xí)樣本參數(shù)Table 1 Learning sample parameters

表2 歸一化后的無(wú)量綱樣本參數(shù)Table 2 Normalized sample parameters

3.3 GA_SVM模型的確立

由于得到的 SVM 模型中，高斯核函數(shù)的參數(shù)σ在一般情況下根據(jù)經(jīng)驗(yàn)隨即選取，這樣，對(duì)模型的精確性帶來(lái)很大的隨機(jī)誤差，為此，運(yùn)用GA對(duì)參數(shù)σ優(yōu)化選擇，以驗(yàn)證集的均方誤差作為GA的適應(yīng)度函數(shù)。其他參數(shù)如下：種群規(guī)模為40，進(jìn)化代數(shù)為200，核函數(shù)參數(shù)σ、懲罰系數(shù)C尋優(yōu)范圍為(0，100)，交叉概率p范圍為(0,1)。按照?qǐng)D1所示流程，運(yùn)用matlab計(jì)算得到GA_SVM模型最優(yōu)參數(shù)：適應(yīng)值(均方誤差)為0.011 1，懲罰系數(shù)C為47.076 8，核函數(shù)參數(shù)σ為2.263 8，交叉變異概率p為0.045 26。

3.4 優(yōu)化模型的應(yīng)用

運(yùn)用得到的 GA_SVM 模型對(duì)預(yù)測(cè)集進(jìn)行預(yù)測(cè)，將預(yù)測(cè)集的輸入因素輸入模型，得到的預(yù)測(cè)結(jié)果如圖2所示，預(yù)測(cè)結(jié)果如表3所示。

圖2 預(yù)測(cè)結(jié)果與實(shí)際值曲線Fig. 2 Curve of predicted results and actual results

表3 模型預(yù)測(cè)結(jié)果與分析Table 3 Results and analysis of model predictions

從圖2和表3可以看出：模型的擬合結(jié)果較好，充填量經(jīng)模型預(yù)測(cè)所得結(jié)果與實(shí)際結(jié)果誤對(duì)誤差較小，均控制在10%以?xún)?nèi)，并且大多數(shù)相對(duì)誤差控制在5%左右，模型預(yù)測(cè)精度較高。

3.5 模型比較

BP神經(jīng)網(wǎng)絡(luò)在回歸方面運(yùn)用廣泛，為了說(shuō)明GA_SVM的優(yōu)越性，將前15組數(shù)據(jù)作為訓(xùn)練樣本，后 5組數(shù)據(jù)作為測(cè)試樣本。輸入和輸出與 GA_SVM模型的一樣，利用 3-9-1神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)對(duì)充填鉆孔壽命進(jìn)行預(yù)測(cè)，得到的結(jié)果如表4所示。從表4可以看出：由于樣本數(shù)據(jù)少，充填量擬合結(jié)果誤差波動(dòng)較大(4.8%～13.6%)。

表4 BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)值Table 4 Predictive value of BP

2種模型對(duì)充填鉆孔充填量預(yù)測(cè)結(jié)果分析如表 5所示。從表5可以看出：雖然兩者相對(duì)誤差相差不大，但從平均相對(duì)誤差和平均絕對(duì)誤差可知經(jīng) GA_SVM模型預(yù)測(cè)結(jié)果更穩(wěn)定，也更精確。

表5 模型鉆孔充填量精度分析Table 5 Accuracy of model of drill-hole filling

4 結(jié)論

(1) 預(yù)測(cè)方法的選擇是預(yù)測(cè)模型建立的關(guān)鍵步驟。根據(jù) SVM 原理，建立以管道內(nèi)徑、偏斜率和充填倍線為輸入，以充填鉆孔壽命(累計(jì)充填量)為輸出的預(yù)測(cè)模型。因 SVM 基于小樣本統(tǒng)計(jì)學(xué)習(xí)原理和結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則等優(yōu)點(diǎn)，確保了模型的合理性。

(2) 結(jié)合遺傳算法，構(gòu)建GA_SVM模型，經(jīng)計(jì)算得到模型的最優(yōu)參數(shù)(C=47.076 8，σ=2.263 8)和預(yù)測(cè)結(jié)果，預(yù)測(cè)結(jié)果最大相對(duì)誤差為8.6%，平均相對(duì)誤差為5.2%。對(duì)于環(huán)境和影響因素復(fù)雜的充填鉆孔，精度很高，可以為提前保護(hù)和維修鉆孔提供依據(jù)。

(3) GA_SVM模型與BP模型相比，GA_SVM模型在小樣本中能夠更好地對(duì)數(shù)據(jù)進(jìn)行擬合，預(yù)測(cè)精度更高，在其他類(lèi)似工程中有較大的推廣價(jià)值。

[1]王新民, 肖衛(wèi)國(guó), 張欽禮. 深井礦山充填理論與技術(shù)[M]. 長(zhǎng)沙: 中南大學(xué)出版社, 2005: 1?20.WANG Xinmin, XIAO Weiguo, ZHANG Qinli. The theory and technology of deep mine filling[M]. Changsha: Central South University Press, 2005: 1?20.

[2]周愛(ài)民, 古德生. 基于工業(yè)生態(tài)學(xué)的礦山充填模式[J]. 中南大學(xué)學(xué)報(bào)(自然科學(xué)版), 2004, 35(3): 468?472.ZHOU Aimin, GU Desheng. Mine-filling model based on industrial ecology[J]. Journal of Central South University(Science and Technology), 2004, 35(3): 468?472.

[3]張德明, 王新民, 鄭晶晶, 等. 深井充填鉆孔內(nèi)管道磨損機(jī)理及成因分析[J]. 武漢理工大學(xué)學(xué)報(bào), 2010, 32(13): 100?105.ZHANG Deming, WANG Xinmin, ZHENG Jingjing, et al. Wear mechanism and causes of backfilling drill holes pipelines in deep mine[J]. Journal of Wuhan University of Technology, 2010,32(13): 100?105.

[4]Desai V S, Crook J N, Overstreet G A. A comparison of eural networks and linear scoring models in the credit union environment[J]. European Journal of Operational Research, 1996,18: 15?26.

[5]Piramuthu S. Financial credit risk evaluation with neural and neurofuzzy systems[J]. European Journal of Operational Research, 1999, 112(2): 310?321.

[6]李蒙, 郭鑫, 譚顯東, 等. 基于改進(jìn) BP神經(jīng)網(wǎng)絡(luò)和工業(yè)重構(gòu)理論的用電增長(zhǎng)預(yù)測(cè)方法[J]. 中南大學(xué)學(xué)報(bào)(自然科學(xué)版),2007, 38(1): 143?147.LI Meng, GUO Xin, TAN Xiandong, et al. Predictive method for power growth based on improved BP neural network and rebuilding of new industry structure[J]. Journal of Central South University (Science and Technology), 2007, 38(1): 143?147.

[7]鄭晶晶, 張欽禮, 王新民. 基于BP 神經(jīng)網(wǎng)絡(luò)的充填鉆孔使用壽命預(yù)測(cè)[J]. 湘潭師范學(xué)院學(xué)報(bào)(自然科學(xué)版), 2008, 30(4):40?44.ZHENG Jingjing, ZHANG Qinli, WANG Xinmin. Fill drilling service life prediction based on BP neural network[J]. Journal of Xiangtan Normal University (Natural Science Edition), 2008,30(4): 40?44.

[8]王定成, 方廷健, 高理富, 等. 支持向量機(jī)回歸在線建模及應(yīng)用[J]. 控制與決策, 2003, 18(1): 89?95.WANG Dingcheng, FANG Tingjian, GAO Lifu, et al. Support vector machine regression on-line modeling and its applications[J]. Control and Decision, 2003, 18(1): 89?95.

[9]李偉超, 宋大猛, 陳斌. 基于遺傳算法的人工神經(jīng)網(wǎng)絡(luò)[J]. 計(jì)算機(jī)工程與設(shè)計(jì), 2006, 27(2): 316?318.LI Weichao, SONG Dameng, CHENG Bin. Artificial neural network based on genetic algorithm[J]. Compute Engineering and Design, 2006, 27(2): 316?318.

[10]金寶強(qiáng), 童凱軍, 孫紅杰, 等. 一種時(shí)變耦合模型在油井產(chǎn)量預(yù)測(cè)中的應(yīng)用[J]. 科技導(dǎo)報(bào), 2010, 28(17): 72?76.JIN Baoqiang, TONG Kaijun, SUN Hongjie, et al. Application of time varying coupling model in prediction of well production[J].Science ＆ Technology, 2010, 28(17): 72?76.

[11]Jae H M, Y C L. Bankruptcy prediction using support vector machine with optimal choice of kernel function parameters[J].Expert Systems with Application, 2005, 28(4): 603?614.

[12]鄭春紅, 焦李成, 鄭貴文. 基于GA的遙感圖像目標(biāo)SVM自動(dòng)識(shí)別[J]. 控制與決策, 2005, 20(11): 1212?1215.ZHENG Chunhong, JIAO Licheng, ZHENG Guiwen. Genetic algorithm- based SVM for automatic target classification of remote sensing images[J]. Control and Decision, 2005, 20(11):1212?1215.

[13]楊宏輝, 孫進(jìn)才, 袁駿. 基于支持向量機(jī)和遺傳算法的水下目標(biāo)特征選擇算法[J]. 西北工業(yè)大學(xué)學(xué)報(bào), 2005, 23(4):512?515.YANG Honghui, SUN Jincai, YUAN Jun. A new met ho d for feature selection for underwater acoustic tar gets[J]. Journal of North Western Polytechnical University, 2005, 23(4): 512?515.

[14]Holland J H. Adaptation in natural and artificial systems[M].Ann Arbor: University of Michigan Press, 1975: 1?20.

[15]李杰, 楚恒, 朱維樂(lè), 等. 基于支持向量機(jī)和遺傳算法的紋理識(shí)別[J]. 四川大學(xué)學(xué)報(bào), 2005, 37(4): 104?108.LI Jie, CHU Heng, ZHU Weile, et al. Texture recognition using support vector machines and genetic algorithm[J]. Journal of Sichuan University, 2005, 37(4): 104?108.

[16]李蓓智, 李立強(qiáng), 楊建國(guó), 等. 基于 GA-SVM 的質(zhì)量預(yù)測(cè)系統(tǒng)設(shè)計(jì)和實(shí)現(xiàn)[J]. 計(jì)算機(jī)工程, 2011, 37(1): 167?169.LI Beizhi, LI Liqiang, YANG Jianguo, et al. Design and implementation of quality prediction system based on GA-SVM[J]. Computer Engineering, 2011, 37(1): 167?169.