機器學習輔助下的概率積分法參數(shù)預計模型尋優(yōu)

沈　震，徐良驥，劉瀟鵬，秦長才，王振兵

(安徽理工大學測繪學院，安徽 淮南 232001)

?

機器學習輔助下的概率積分法參數(shù)預計模型尋優(yōu)

沈震，徐良驥，劉瀟鵬，秦長才，王振兵

(安徽理工大學測繪學院，安徽 淮南 232001)

收集整理了多組地表移動觀測站資料作為訓練樣本和檢驗樣本，以工作面地質(zhì)采礦條件為輸入集，概率積分法預計參數(shù)為輸出集，利用機器學習方法對概率積分法預測參數(shù)進行了預測。選取支持向量機、BP神經(jīng)網(wǎng)絡和偏最小二乘法3種機器學習方法對訓練樣本進行訓練，利用訓練所得模型預測檢驗樣本中的概率積分法預測參數(shù)，并將預測結果與觀測站實測值進行對比。結果表明，利用支持向量機預測下沉系數(shù)、主要影響角正切值及水平移動系數(shù)的精度最高，其平均相對誤差分別達到7.46%、4.00%、13.17%;拐點偏距及開采影響傳播角利用偏最小二乘法預計精度最高，平均相對誤差分別為10.83%、0.88%;總體而言支持向量機的預測精度最為穩(wěn)定。

概率積分法預計參數(shù)；支持向量機；BP神經(jīng)網(wǎng)絡；偏最小二乘法；模型尋優(yōu)

一、預測模型及其算法簡介

機器學習是指通過計算機編程實現(xiàn)從已知數(shù)據(jù)樣本中自動分析獲得規(guī)律，并利用分析結果對未知數(shù)據(jù)進行預測的方法。本文選取了機器學習中有代表性的3種方法：支持向量機、BP神經(jīng)網(wǎng)絡及偏最小二乘法對概率積分法參數(shù)進行預測。

1. 支持向量機

支持向量機，其主要思想是利用一個非線性映射K，將原本線性不可分的數(shù)據(jù)集合映射到高維空間，即

K(x,z)=φ(x)·φ(z)

(1)

式中，K為核函數(shù)；φ是從x到內(nèi)積特征空間F的映射。在高維空間中選擇一個超平面實現(xiàn)數(shù)據(jù)的最優(yōu)分類，式(2)、式(3)分別為決策函數(shù)和分類平面的數(shù)學模型，利用此最優(yōu)超平面對預測數(shù)據(jù)進行分類或預測[7-8]。

yi=sgn(wxi+b)

(2)

wxi+b=0

(3)

2. BP神經(jīng)網(wǎng)絡模型

BP神經(jīng)網(wǎng)絡屬于按誤差逆?zhèn)鞑ニ惴ㄓ柧毜亩鄬忧梆伨W(wǎng)絡，是目前應用最廣泛的神經(jīng)網(wǎng)絡模型之一。訓練開始前計算機隨機生成一組向量作為權值分配給各輸入分量，隨后由事先定義的決策函數(shù)F根據(jù)輸入量計算得到輸出數(shù)據(jù)，并根據(jù)輸出結果與真實數(shù)據(jù)之間的誤差反復修正權向量，直至輸出結果與真實數(shù)據(jù)的中誤差達到限值，最后利用網(wǎng)絡學習所得到的模型對未知數(shù)據(jù)進行預測[8-9]。

3. 偏最小二乘法

偏最小二乘法，其通過對自變量及應變量矩陣進行主成分分解以提取其中的隱藏因子，隨后通過迭代計算確定回歸系數(shù)，并利用一個線性模型來描述自變量與因變量之間的關系。其數(shù)學模型如下

Y=b0+b1X1+b2X2+…+bnXn

(4)

式中，Y為因變量向量；X1、X2、…、Xn為自變量元素；b0為截距；b1、b2、…、bn為自變量元素對應的回歸系數(shù)[10]。

二、樣本數(shù)據(jù)訓練

1. 樣本數(shù)據(jù)預處理

北京大學人民醫(yī)院魏來（摘要637）報告了中國3期臨床研究，sofosbuvir/velpatasvir（SOF/VEL）治療基因1～6型患者12周，耐受性好，12周總SVR為96%。不論是否有肝硬化基因1型、2型、6型均獲得100%的12周SVR。基因3型12周SVR為83%（其中有16%患者為經(jīng)治）。基因3b型有肝硬化的患者SVR相對低。一項來自意大利的研究顯示SOF/VEL治療基因3型12周，在代償期肝硬化患者中的12周SVR為96.4%，在失代償期肝硬化患者療效欠佳。聯(lián)合使用利巴韋林（RBV）未增加療效優(yōu)勢。

本文以23個地表移動觀測站數(shù)據(jù)作為樣本，其中前19組為訓練樣本，后4組為檢驗樣本。根據(jù)概率積分法預測參數(shù)、工作面地質(zhì)采礦條件及機器學習方法特點，選取7個地質(zhì)采礦條件參數(shù)作為樣本的輸入集，包括：平均開采深度H0、開采厚度m、覆巖平均堅固性系數(shù)f、松散層厚度w、采動程度n、煤層傾角α及重復采動影響。其中，采動程度n由工作面傾向長度L與平均開采深度H0的比值L/H0計算；重復采動項中0代表首采，1代表重復采動；覆巖平均堅固性系數(shù)f計算公式為

(5)

式中，mi為第i層煤層法向厚度；Ri為該層單向抗壓強度。樣本輸入集見表1。

表1　工作面基本參數(shù)

輸出集為概率積分法預測參數(shù)，分別為：下沉系數(shù)q、水平移動系數(shù)b、主要影響角正切值tanβ、開采影響傳播角θ、拐點偏距與采深的比值S/H0，樣本輸出集見表2[11-12]。

表2　概率積分法預測參數(shù)

由于樣本數(shù)據(jù)中包含多種參數(shù)，且參數(shù)取值范圍區(qū)別較大，若直接進行訓練會導致部分參數(shù)占有更大的比重，影響訓練結果，因此在確定樣本數(shù)據(jù)后對樣本數(shù)據(jù)進行歸一化處理以提高訓練精度。

2. 模型訓練

(1) 支持向量機訓練結果

利用Matlab中的Libsvm工具箱對歸一化后的樣本數(shù)據(jù)進行訓練，其中基礎模型使用epsilon-SVR模型，核函數(shù)采用RBF(徑向基)核函數(shù)，核函數(shù)gamma值設為2.8[13]。以下沉系數(shù)為例，訓練結果均方誤差MSE=0.035 3，圖1為訓練值與原始值對比圖。

(2) BP神經(jīng)網(wǎng)絡訓練結果

BP神經(jīng)網(wǎng)絡模型由輸入層、輸出層及隱藏層組成，其中輸入層和輸出層分別對應樣本數(shù)據(jù)中的輸入集和輸出集。隱藏層可為一層或多層，隱藏層的節(jié)點數(shù)過少將削弱模型精度，過多會降低運算速度，本文經(jīng)過試驗對比將隱藏層層數(shù)設為1，節(jié)點數(shù)設置為17，神經(jīng)網(wǎng)絡模型結構如圖2所示[14]。

圖1　支持向量機訓練結果

圖2　BP神經(jīng)網(wǎng)絡結構

利用BP神經(jīng)網(wǎng)絡對訓練樣本進行訓練，在9998次訓練后精度趨于穩(wěn)定，均方誤差MSE=0.016 7。

(3) 偏最小二乘法訓練結果

利用偏最小二乘法對訓練樣本進行訓練，可得到每個因變量相對于自變量的線性模型，以下沉系數(shù)q為例，其關于工作面地質(zhì)采礦條件的線性模型如下

q=1.562 3-0.000 9H0+0.001 6w-0.282 7n-0.000 3α-0.045 1m-0.077 9f-0.015 0r

(6)

訓練結果與原始數(shù)據(jù)均方誤差為0.011 3。

三、預測結果精度分析

利用訓練所得模型對檢驗樣本中的概率積分法參數(shù)進行預測。支持向量機、BP神經(jīng)網(wǎng)絡及偏最小二乘法預測結果見表3—表5。

表3　支持向量機預測值

表4　神經(jīng)網(wǎng)絡預測值

表5　偏最小二乘法預測值

將3種方法預測值與地表移動觀測站解算結果進行對比，計算其平均相對誤差平均值及最大相對誤差，結果見表6。

表6　預測精度對比　(%)

由表6可知，下沉系數(shù)q、主要影響角正切值tanβ及水平移動系數(shù)b利用支持向量機進行預測時精度最高；拐點偏距與采深的比值S/H0及開采影響傳播角θ利用偏最小二乘法預測時精度最高；就總體預測結果而言，支持向量機的預測精度最高。

四、結　論

1) 以觀測站實測數(shù)據(jù)為樣本數(shù)據(jù)，采用支持向量機、BP神經(jīng)網(wǎng)絡及偏最小二乘法3種機器學習方法對概率積分法參數(shù)進行了預測，結果證明機器學習方法能夠較為準確地預測概率積分法參數(shù)，為開采沉陷工作提供參考。

2) 不同的機器學習方法預測概率積分法參數(shù)時精度不盡相同，應根據(jù)實際情況選擇精度最高的預測模型或多種模型結合，如利用支持向量機方法預測下沉系數(shù)q、主要影響角正切值tanβ及水平移動系數(shù)b，而拐點偏距及開采影響傳播角θ則可使用偏最小二乘法進行預測。

[1]何國清,楊倫,凌賡娣,等.礦山開采沉陷學[M].徐州:中國礦業(yè)大學出版社,1995.

[2]鄒友峰.開采沉陷預計參數(shù)的確定方法[J].焦作工學院學報(自然科學版),2001,20(4):253-257.

[3]麻鳳海,楊帆.采礦地表沉陷的神經(jīng)網(wǎng)絡預測[J].中國地質(zhì)災害與防治學報,2001,12(3):87-90.

[4]郭文兵,鄧喀中,鄒友峰.概率積分法預計參數(shù)選取的神經(jīng)網(wǎng)絡模型[J].中國礦業(yè)大學學報,2004,33(3):88-92.

[5]楊帆，麻鳳海.地表移動預計參數(shù)選取的神經(jīng)網(wǎng)絡法[J].中國地質(zhì)災害與防治學報,2004,15(1):102-106.

[6]YAN W Y, HE Q.Multi-class Fuzzy Support Vector Machine Based on Dismissing Margin[C]∥Proceedings of the Eighth International Conference on Machine Learning and Cybernetics. Baoding, China: [s.n.], 2009: 1139-1144.

[7]林卉,朱慶,胡召玲.模糊支持向量機和變化矢量分析相結合的礦區(qū)土地覆蓋變化檢測[J]. 測繪通報,2014(11):25-27.

[8]梁月吉,任超,楊秀發(fā),等.結合雙樹復小波和廣義回歸神經(jīng)網(wǎng)絡的鐘差預報方法研究[J].測繪通報,2016(1):6-10，18.

[9]Kerh T,Gunaratnam D,Chan Y.Neural Computing with Genetic Algorithm in Evaluating Potentially Hazardous Metropolitan Areas Result from Earthquake[J].Neural Computing & Application,2010,19(4):521-529.

[10]羅批,郭繼昌,李鏘,等.基于偏最小二乘回歸建模的探討[J].天津大學學報(自然科學與工程技術版),2002,35(6):783-786.

[11]徐良驥,王少華,馬榮振,等.厚松散層開采條件下覆巖運動與地表移動規(guī)律研究[J].測繪通報,2015(10):52-56.

[12]劉偉韜,劉歡,陳志興,等.地表沉陷預計參數(shù)精度分析[J].測繪科學,2016(8):1-8.

[13]范昕煒.支持向量機算法的研究及其應用[D].杭州：浙江大學,2003.

[14]劉天舒.BP神經(jīng)網(wǎng)絡的改進研究及應用[D].哈爾濱：東北農(nóng)業(yè)大學,2011.

Probability Integral Method Parameters Prediction Model Optimization Based on Machine Learning Methods

SHEN Zhen，XU Liangji，LIU Xiaopeng，QIN Changcai，WANG Zhenbing

沈震，徐良驥，劉瀟鵬,等.機器學習輔助下的概率積分法參數(shù)預計模型尋優(yōu)[J].測繪通報，2016(10)：35-38.DOI:10.13474/j.cnki.11-2246.2016.0324.

2016-05-10

國家自然科學基金(41472323)；安徽省對外科技合作計劃(1503062020)

沈震(1990—)，男，碩士生，研究方向為礦山開采沉陷。E-mail：abczhenxx@qq.com

P258

B

0494-0911(2016)10-0035-04