基于機(jī)器學(xué)習(xí)方法的數(shù)字巖芯電導(dǎo)率預(yù)測(cè)

郭 晨，陳 龍

(長(zhǎng)安大學(xué) 信息工程學(xué)院，陜西 西安 710064)

0 引 言

數(shù)字巖石物理(digital rock physics，DRP)是近些年興起的一種計(jì)算巖石物理的方法。通過(guò)CT掃描技術(shù)對(duì)巖石樣本進(jìn)行三維成像，建立能模擬巖石孔隙空間分布的數(shù)字化巖芯數(shù)據(jù)，在此基礎(chǔ)上進(jìn)行數(shù)值模擬，計(jì)算巖石等效物理參數(shù)[1]。數(shù)字巖石物理包含數(shù)字巖芯模型建立和等效物理場(chǎng)模擬兩個(gè)大的部分，其數(shù)字巖芯微觀結(jié)構(gòu)可見(jiàn)，微觀影響因素可控，能進(jìn)行多物理場(chǎng)模擬，相比較實(shí)驗(yàn)巖石物理而言，這種分析方法較為精確且效率高[2]。數(shù)字巖石物理可廣泛應(yīng)用在模擬流動(dòng)性[3]、滲透性[4]、電特性[2]、聲學(xué)[5]及彈性[6]等領(lǐng)域。其中巖芯的電特性對(duì)于確定巖性，劃分油水層、確定油水飽和度等物理參數(shù)具有重要參考作用。然而在實(shí)際應(yīng)用中，由于CT掃描得到的巖芯三維數(shù)據(jù)龐大，對(duì)其進(jìn)行精確物理場(chǎng)數(shù)值計(jì)算時(shí)耗費(fèi)資源巨大。為了提高數(shù)字化分析方法的效率，本研究將機(jī)器學(xué)習(xí)方法創(chuàng)新性地應(yīng)用到了數(shù)字巖石物理之中。機(jī)器學(xué)習(xí)就是通過(guò)編碼使得計(jì)算機(jī)具有像人一樣的學(xué)習(xí)能力，進(jìn)而對(duì)新的數(shù)據(jù)進(jìn)行預(yù)測(cè)[7]。本研究的目標(biāo)為：通過(guò)機(jī)器學(xué)習(xí)模型對(duì)標(biāo)定電導(dǎo)率的巖芯數(shù)據(jù)進(jìn)行特征化學(xué)習(xí)，最終免去復(fù)雜耗時(shí)的物理場(chǎng)數(shù)值計(jì)算，直接通過(guò)巖芯數(shù)據(jù)預(yù)測(cè)其電導(dǎo)率。傳統(tǒng)的機(jī)器學(xué)習(xí)算法有K近鄰算法、決策樹(shù)、線性回歸、支持向量機(jī)、樸素貝葉斯分類器和邏輯回歸等，而神經(jīng)網(wǎng)絡(luò)是一種特殊的機(jī)器學(xué)習(xí)方法，被廣泛應(yīng)用于圖像分類、目標(biāo)檢測(cè)、語(yǔ)音識(shí)別、圖像和語(yǔ)音生成等方面[8]。目前神經(jīng)網(wǎng)絡(luò)相較于傳統(tǒng)機(jī)器學(xué)習(xí)方法而言，其性能最優(yōu)，但它也需要更多的數(shù)據(jù)，可解釋性差，且計(jì)算成本高，因此兩者是各有所長(zhǎng)。在本研究中傳統(tǒng)的機(jī)器學(xué)習(xí)方法和神經(jīng)網(wǎng)絡(luò)都被應(yīng)用到巖芯電導(dǎo)率預(yù)測(cè)方面，通過(guò)學(xué)習(xí)巖石的幾何特征、圖像空間分布與電特性的映射關(guān)系等，最終達(dá)到優(yōu)化預(yù)測(cè)效果、降低計(jì)算開(kāi)銷的目的。

1 數(shù)據(jù)處理

在研究中使用了400×400×400體素的貝雷亞砂巖巖芯(Berea Sandstone)。巖芯圖像是三維二進(jìn)制數(shù)據(jù)，在三維空間中，單個(gè)位置的數(shù)值為1或0，分別代表巖石固體或空隙。為了獲得足夠多的實(shí)驗(yàn)巖芯樣本，實(shí)驗(yàn)中對(duì)數(shù)字巖芯圖像進(jìn)行子樣截取。由于考慮到巖芯的幾何特性和計(jì)算資源，該實(shí)驗(yàn)采用64×64×64作為截取尺寸。研究使用了一個(gè)“移動(dòng)立方體取樣器”的方法對(duì)原始圖像進(jìn)行子取樣[9]。以貝雷亞砂巖巖芯圖像上沿著XYZ各個(gè)正方向每次移動(dòng)24個(gè)單位進(jìn)行子樣截取，子樣與子樣之間可能會(huì)有重合部分。最終實(shí)驗(yàn)共獲得了3 375個(gè)體素64×64×64尺寸的巖芯樣本。取樣后使用有限元的方法計(jì)算出每個(gè)巖芯樣本的電導(dǎo)率，用電導(dǎo)率作為機(jī)器學(xué)習(xí)的目標(biāo)。

2 特征提取

2.1 Minkowski泛函

Minkowski泛函是幾何形態(tài)特征的統(tǒng)計(jì)量。對(duì)于n維空間，有n+1個(gè)的Minkowski測(cè)量量。3維圖像具有4個(gè)Minkowski測(cè)量量，分別是體積(V)、表面積(S)、平均積分曲率(平均寬度)(M)和歐拉特性(X)[10]。歐拉特性又常稱作高斯曲率積分，公式如下：

V=V(y)

其中，r1(s)表示表面上的最大曲率，r2(s)表示表面上的最小曲率。Minkowski泛函可以綜合反映巖石幾何參數(shù)，如孔隙度、比表面積、顆粒的圓度等[11]。巖芯幾何特性直接影響到巖芯的電特性。因此使用Minkowski泛函在預(yù)測(cè)巖芯電導(dǎo)率上展示出更好的優(yōu)勢(shì)。為了更直觀地表現(xiàn)巖芯樣本的幾何特征，將體積轉(zhuǎn)為孔隙率(空隙體積/總體積)，表面積轉(zhuǎn)換為比表面積(面積/體積)。實(shí)驗(yàn)中巖芯樣本的孔隙率、比表面積、平均曲率積分和歐拉特性是由三維二元分割圖像中直接計(jì)算獲得。

2.2 三維二元分割圖像

三維二元分割巖芯圖像作為卷積神經(jīng)網(wǎng)絡(luò)的輸入。實(shí)驗(yàn)巖芯的體素為64×64×64，單個(gè)空間位置上的數(shù)值為1或0。實(shí)驗(yàn)中將原為0到1的數(shù)值區(qū)間投影到-1到1的區(qū)間。具體操作是將原來(lái)圖像上的0替換成-1。

3 方 法

3.1 機(jī)器學(xué)習(xí)

機(jī)器學(xué)習(xí)(machine learning，ML)是通過(guò)算法使得計(jì)算機(jī)具有學(xué)習(xí)能力，從歷史數(shù)據(jù)中學(xué)習(xí)規(guī)律，進(jìn)而預(yù)測(cè)新的數(shù)據(jù)。機(jī)器學(xué)習(xí)的步驟主要分為選擇數(shù)據(jù)、搭建模型、驗(yàn)證模型、測(cè)試模型、使用模型、優(yōu)化模型。

3.2 集成學(xué)習(xí)

集成學(xué)習(xí)(ensemble learning)是一種學(xué)習(xí)算法，它構(gòu)造一組分類器，通過(guò)對(duì)預(yù)測(cè)進(jìn)行(加權(quán))表決來(lái)對(duì)新的數(shù)據(jù)進(jìn)行分類[12]。常見(jiàn)的集成技術(shù)有Bagging、Boosting和Stacking。

3.2.1 加權(quán)平均法

加權(quán)平均法：

加權(quán)平均法是一種集成策略。通過(guò)模型訓(xùn)練可以得到多個(gè)不同的學(xué)習(xí)器，加權(quán)平均法是對(duì)每個(gè)使用的學(xué)習(xí)器的結(jié)果賦予不同的權(quán)值，實(shí)現(xiàn)結(jié)果的融合。對(duì)于驗(yàn)證結(jié)果較好的學(xué)習(xí)器賦高權(quán)值，而驗(yàn)證結(jié)果較差的學(xué)習(xí)器賦低權(quán)值，在賦值的同時(shí)保證總權(quán)值為1[13]。

3.2.2 堆疊法

Stacking不使用瑣碎的函數(shù)(如硬投票，加權(quán)平均)執(zhí)行集成，而是訓(xùn)練一個(gè)學(xué)習(xí)器來(lái)執(zhí)行這個(gè)集成的過(guò)程。在Stacking中個(gè)體學(xué)習(xí)器被稱為初級(jí)學(xué)習(xí)器，而用于結(jié)合的學(xué)習(xí)器稱為次級(jí)學(xué)習(xí)器。Stacking先從初始數(shù)據(jù)集訓(xùn)練出初級(jí)學(xué)習(xí)器，將初級(jí)學(xué)習(xí)器的輸出當(dāng)作特征構(gòu)成新數(shù)據(jù)集，利用新數(shù)據(jù)集再訓(xùn)練次級(jí)學(xué)習(xí)器[14]。Stacking使用的初級(jí)學(xué)習(xí)器可以是同一種算法，也可以是不同的算法。

3.3 多層神經(jīng)網(wǎng)絡(luò)(MNN)

多層神經(jīng)網(wǎng)絡(luò)包含輸入層、隱含層和輸出層，結(jié)構(gòu)如圖1所示。每一層的神經(jīng)元與下一層神經(jīng)元都相互連接，同層神經(jīng)元不連接。對(duì)于多層神經(jīng)網(wǎng)絡(luò)一般采用誤差逆?zhèn)鞑?lái)更新權(quán)值[15]。

圖1 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

3.4 3D卷積神經(jīng)網(wǎng)絡(luò)(3DCNN)

3D卷積神經(jīng)網(wǎng)絡(luò)是一種深度神經(jīng)網(wǎng)絡(luò)，主要包括卷積層、子采樣層和全連接層。在卷積層中實(shí)現(xiàn)卷積操作。使用卷積核進(jìn)行卷積運(yùn)算，卷積核的大小是遠(yuǎn)小于圖像矩陣的。具體操作是對(duì)于圖像矩陣的每一個(gè)像素計(jì)算它周圍像素與卷積核的乘積。為了避免維數(shù)災(zāi)難，通常在卷積層之后用一個(gè)子采樣層來(lái)降低特征維數(shù)。全連接層是一種下一層的每一個(gè)神經(jīng)元都與上一層的每個(gè)神經(jīng)元相連接的網(wǎng)絡(luò)結(jié)構(gòu)。卷積神經(jīng)網(wǎng)絡(luò)通過(guò)卷積層、子采樣層和全連接層組合的框架降低計(jì)算成本，防止過(guò)擬合，且提高了圖像識(shí)別的準(zhǔn)確性。

三維卷積如圖2所示。

圖2 三維卷積

4 模型搭建與訓(xùn)練

4.1 集成學(xué)習(xí)基礎(chǔ)學(xué)習(xí)器算法選取

本研究按4∶1的比例將數(shù)據(jù)劃分成訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)。訓(xùn)練數(shù)據(jù)用于訓(xùn)練模型，測(cè)試數(shù)據(jù)用于最后測(cè)試模型性能。在訓(xùn)練中，以歸一化后Minkowski參數(shù)作為輸入特征，以巖芯電導(dǎo)率為輸出目標(biāo)，按不同的機(jī)器學(xué)習(xí)算法訓(xùn)練多個(gè)學(xué)習(xí)器。同時(shí)，用五折疊交叉驗(yàn)證來(lái)驗(yàn)證模型性能。該實(shí)驗(yàn)使用了線性回歸(LinearRegression)、嶺回歸(RidgeRegression)、Lasso回歸(Lasso)、隨機(jī)森林回歸(RandomForestRegressor)、梯度提升回歸(GradientBoostingRegressor)、支持向量回歸機(jī)(SVR)、線性支持向量回歸機(jī)(LinearSVR)、彈性網(wǎng)絡(luò)(ElasticNet)、隨機(jī)梯度下降回歸(SGDRegressor)、貝葉斯嶺回歸(BayesianRidge)、核嶺回歸(KernelRidge)、極端隨機(jī)森林回歸(ExtraTreesRegressor)、極限梯度提高回歸(XGBRegressor)等算法來(lái)搭建基礎(chǔ)學(xué)習(xí)器。

4.2 加權(quán)平均模型集成

表1給出了不同算法搭建出的學(xué)習(xí)器的性能對(duì)比，最終選定了按LinearRegression、GradientBoostingRegressor、KernelRidge、XGBRegressor算法搭建的模型為基礎(chǔ)學(xué)習(xí)器。接著對(duì)各個(gè)模型進(jìn)行參數(shù)調(diào)優(yōu)，以求得更好的性能。最后按0.2，0.2，0.3和0.3的權(quán)值賦予各個(gè)學(xué)習(xí)器，進(jìn)行加權(quán)平均，集成一個(gè)新的學(xué)習(xí)器。

表1 各機(jī)器學(xué)習(xí)方法性能對(duì)比

4.3 Stacking模型集成

在Stacking的策略中，仍使用LinearRegression、GradientBoostingRegressor、KernelRidge、XGBRegressor算法搭建初級(jí)學(xué)習(xí)器，選擇了LinearRegression算法搭建次級(jí)學(xué)習(xí)器。訓(xùn)練中用初始訓(xùn)練數(shù)據(jù)集訓(xùn)練第一層初級(jí)學(xué)習(xí)器，產(chǎn)生新的數(shù)據(jù)集訓(xùn)練第二層的次級(jí)學(xué)習(xí)器，第一層初級(jí)學(xué)習(xí)器的輸出是第二層次級(jí)學(xué)習(xí)器的輸入特征，同時(shí)原始標(biāo)簽仍被作為新數(shù)據(jù)集的標(biāo)簽。

4.4 多層神經(jīng)網(wǎng)絡(luò)(MNN)和三維卷積神經(jīng)網(wǎng)絡(luò)(3DCNN)搭建訓(xùn)練

以Minkowski參數(shù)為輸入特征搭建多層神經(jīng)網(wǎng)絡(luò)，以三維二值分割圖像為輸入特征搭建一個(gè)三維卷積神經(jīng)網(wǎng)絡(luò)。兩個(gè)模型都使用均方根誤差(RMSE)作為損失函數(shù)，Adam作為優(yōu)化器來(lái)進(jìn)行模型訓(xùn)練。實(shí)驗(yàn)將數(shù)據(jù)按3∶1∶1將數(shù)據(jù)集劃分成訓(xùn)練集，驗(yàn)證集和測(cè)試集。訓(xùn)練集用于模型權(quán)重更新，驗(yàn)證集用于驗(yàn)證模型效果和提早結(jié)束訓(xùn)練，防止過(guò)度擬合，測(cè)試集用于評(píng)估最終模型效果。

5 結(jié)果與分析

表2總結(jié)了不同學(xué)習(xí)模型訓(xùn)練集和測(cè)試集的平均絕對(duì)百分比誤差(MAPE)。如預(yù)期一致，一般情況下學(xué)習(xí)模型訓(xùn)練集上的MAPE小于測(cè)試集上的MAPE。兩種集成方式加權(quán)平均模型和Stacking模型均在預(yù)測(cè)效果上比單一機(jī)器學(xué)習(xí)方法有提升。對(duì)于多層神經(jīng)網(wǎng)絡(luò)而言，其預(yù)測(cè)效果與傳統(tǒng)的機(jī)器學(xué)習(xí)方法效果并無(wú)大異。使用三維圖像的3DCNN比使用幾何參數(shù)的學(xué)習(xí)模型預(yù)測(cè)效果要好，這表明卷積操作比幾何參數(shù)更好地捕獲到巖芯的特征。

表2 各模型測(cè)試性能對(duì)比

6 結(jié)束語(yǔ)

文中提出了機(jī)器學(xué)習(xí)的方法在實(shí)驗(yàn)巖芯電導(dǎo)率的預(yù)測(cè)，其預(yù)測(cè)結(jié)果達(dá)到了較好的準(zhǔn)確性。研究結(jié)果證明機(jī)器學(xué)習(xí)在巖石物理領(lǐng)域的強(qiáng)大潛力，為數(shù)字巖芯電導(dǎo)率的研究提供了可供參考的新方法。同時(shí)實(shí)驗(yàn)對(duì)比表明卷積神經(jīng)網(wǎng)絡(luò)比幾何參數(shù)學(xué)習(xí)模型對(duì)數(shù)字巖芯電導(dǎo)率預(yù)測(cè)效果更優(yōu)。計(jì)劃在下一步研究中采用更深更復(fù)雜的卷積網(wǎng)絡(luò)結(jié)構(gòu)以謀求更好的效果，但幾何參數(shù)仍然具有潛力，將添加更多的幾何參數(shù)。在研究中初始樣本只有一個(gè)巖芯樣本，子采樣的方式可能會(huì)導(dǎo)致圖像和圖像之間關(guān)聯(lián)度強(qiáng)，造成實(shí)驗(yàn)誤差。為了解決該問(wèn)題，可能會(huì)采用對(duì)抗生成網(wǎng)絡(luò)生成樣本或者收集更多的巖芯樣本。