人工神經(jīng)網(wǎng)絡(luò)在電法勘探數(shù)據(jù)反演中的應(yīng)用研究綜述

王英杰，顧觀文，2，林興龍，王順吉，曹 來

（1.防災(zāi)科技學(xué)院地球科學(xué)學(xué)院，河北 三河 065201；2.河北省地震動(dòng)力學(xué)重點(diǎn)實(shí)驗(yàn)室，河北 三河 065201）

0 引言

地球物理勘探技術(shù)是用于地下介質(zhì)結(jié)構(gòu)探測的重要手段，電法勘探作為地球物理勘探的重要方法之一，可獲取地下介質(zhì)的精細(xì)電性結(jié)構(gòu)，具有應(yīng)用范圍廣、探測深度大、精度高、成本低等特點(diǎn)［1，2］。傳統(tǒng)的電法勘探數(shù)據(jù)反演是將非線性問題線性化，容易實(shí)現(xiàn)，但在處理此類超欠定反演問題時(shí)，較難收斂到全局極小值，對多個(gè)參數(shù)的反演效果不佳［3，4］。而非線性反演算法通過大規(guī)模數(shù)據(jù)集訓(xùn)練網(wǎng)絡(luò)參數(shù)，使神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)并建立電法數(shù)據(jù)與模型之間的非線性映射關(guān)系，不僅可以避免數(shù)據(jù)量大、計(jì)算效率低的問題，同時(shí)相較于線性算法，其準(zhǔn)確度有了大大的提升，具有較高的反演精度，已成為目前電法勘探數(shù)據(jù)反演研究的熱點(diǎn)方向，正逐步成為地球物理反演的重要手段。因此，研究每種人工神經(jīng)網(wǎng)絡(luò)的特點(diǎn)，選擇合適的方法為電法勘探數(shù)據(jù)反演提供依據(jù)變得尤為重要。近年來，智能仿生優(yōu)化算法發(fā)展迅速，一大批有著全局尋優(yōu)能力強(qiáng)、精確度高、收斂性快的智能優(yōu)化算法被提出，如粒子群算法、卷積神經(jīng)網(wǎng)絡(luò)、遺傳算法等。人工神經(jīng)網(wǎng)絡(luò)（ANN）是一類利用非線性化算法的智能方法，它由大量簡單的信息處理單元組成，以數(shù)學(xué)物理的方法模仿人類大腦的結(jié)構(gòu)及其信息處理功能［5，6］，具有高度的并行結(jié)構(gòu)和并行實(shí)現(xiàn)能力，綜合推理能力和較快的總體處理能力，能夠有效處理電法勘探數(shù)據(jù)［7］。神經(jīng)網(wǎng)絡(luò)非線性算法相比于傳統(tǒng)的線性化反演方法具有其獨(dú)特的優(yōu)點(diǎn)，近些年，地球物理學(xué)者在將人工神經(jīng)網(wǎng)絡(luò)應(yīng)用于電法勘探數(shù)據(jù)反演方面開展了相關(guān)研究工作，并初步證明了人工神經(jīng)網(wǎng)絡(luò)的效果和應(yīng)用潛力。通過系統(tǒng)地梳理主流神經(jīng)網(wǎng)絡(luò)算法在電法勘探反演方面的研究成果，對比分析主流人工神經(jīng)網(wǎng)絡(luò)算法在電法勘探反演應(yīng)用中的優(yōu)缺點(diǎn)及適用性，為后續(xù)電法勘探數(shù)據(jù)反演研究提供一定的借鑒作用。

1 人工神經(jīng)網(wǎng)絡(luò)原理簡述

1.1 人工神經(jīng)網(wǎng)絡(luò)的模型基礎(chǔ)

神經(jīng)元由細(xì)胞體、軸突和樹突組成，是神經(jīng)系統(tǒng)最基本的結(jié)構(gòu)與功能單位，神經(jīng)系統(tǒng)的一切機(jī)能都是通過神經(jīng)元實(shí)現(xiàn)的，樹突負(fù)責(zé)接收來自神經(jīng)元的信息并傳至細(xì)胞體，細(xì)胞體整合信息，通過細(xì)胞質(zhì)進(jìn)入軸突后將整合的信息傳遞至下一個(gè)神經(jīng)元。基于對神經(jīng)元的模仿，人工神經(jīng)網(wǎng)絡(luò)對于信息的處理具有信息儲(chǔ)存的分布性、信息處理的并行性、容錯(cuò)性以及自適應(yīng)性等特點(diǎn)［8］。每種神經(jīng)網(wǎng)絡(luò)方法的模型基礎(chǔ)略有差異。BP神經(jīng)網(wǎng)絡(luò)由多個(gè)神經(jīng)元組成，分為輸入層、隱藏層和輸出層。每個(gè)神經(jīng)元與下一層中的所有神經(jīng)元相連接，并且神經(jīng)元之間有確定的權(quán)重值；遺傳算法的基本模型包括：種群、適應(yīng)度函數(shù)、交叉操作、變異操作以及繁殖；卷積神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)可以概括為卷積層、池化層、激活函數(shù)和全連接層幾個(gè)方面；粒子群算法的模型基礎(chǔ)則是借鑒了鳥群覓食行為的原理，通過模擬鳥群中成員間的交流與合作來實(shí)現(xiàn)優(yōu)化問題的求解。

1.2 人工神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型

人工神經(jīng)網(wǎng)絡(luò)是由許多神經(jīng)元連接而成的網(wǎng)絡(luò)結(jié)構(gòu)，其構(gòu)造包括神經(jīng)元的結(jié)構(gòu)和網(wǎng)絡(luò)互聯(lián)結(jié)構(gòu)（拓?fù)浣Y(jié)構(gòu)）兩層含義，通過神經(jīng)元之間的交互來完成信息處理，知識與信息存儲(chǔ)在神經(jīng)元之間的權(quán)值中，而學(xué)習(xí)和識別則依賴于每個(gè)神經(jīng)元的連接權(quán)重因子。

單個(gè)神經(jīng)元的數(shù)學(xué)模型如圖1所示，對于某個(gè)神經(jīng)元來說，假設(shè)來自神經(jīng)i的信息為xi，它們與該神經(jīng)元的互相作用強(qiáng)度即連接權(quán)值為wi（i＝1，…，n），神經(jīng)元的內(nèi)部閾值為θ［7］。該神經(jīng)元的輸入為神經(jīng)元信息與連接權(quán)值乘積的累加，即該神經(jīng)元的輸入為：該神經(jīng)元的輸出為：，式中，wi為第i個(gè)神經(jīng)元與該神經(jīng)元的連接權(quán)重；xi為第i個(gè)神經(jīng)元的輸入；f為激活函數(shù)；θ為隱含層神經(jīng)節(jié)點(diǎn)的閾值。

圖1 神經(jīng)元數(shù)學(xué)模型圖Fig.1 Mathematical model of neurons

BP神經(jīng)網(wǎng)絡(luò)利用激活函數(shù)對輸入信號進(jìn)行非線性變換，并將其傳遞給下一層。常用的激活函數(shù)包括Sigmoid函數(shù)、ReLU函數(shù)等；遺傳算法用于求解優(yōu)化問題的離散空間搜索。通過對問題空間中的可行解進(jìn)行編碼表示，使用適應(yīng)度函數(shù)評估個(gè)體的適應(yīng)度；卷積神經(jīng)網(wǎng)絡(luò)利用矩陣乘法和非線性函數(shù)組合。通過反向傳播算法，可以基于訓(xùn)練數(shù)據(jù)來調(diào)整網(wǎng)絡(luò)中的權(quán)重，從而使網(wǎng)絡(luò)能夠?qū)W習(xí)到輸入數(shù)據(jù)的特征；粒子群算法常見的數(shù)學(xué)模型有3種，分別是帶慣性權(quán)重的粒子群模型、帶收縮系數(shù)的粒子群模型以及Bare Bones Particle Swarm模型。

1.3 人工神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)

圖2的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)有三層，分別是輸入層、隱含層和輸出層。其中，神經(jīng)元用圓表示，每條線則代表一個(gè)特定的權(quán)重（權(quán)值），神經(jīng)元相互連接形成拓?fù)浣Y(jié)構(gòu)。神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)包含了網(wǎng)絡(luò)層數(shù)、各層神經(jīng)元數(shù)量和各神經(jīng)元間相互連接的方式。其中，輸入層神經(jīng)元接收外部輸入信息并傳遞給隱含層神經(jīng)元。隱含層神經(jīng)元進(jìn)行內(nèi)部信息處理和變換，最終經(jīng)過激活函數(shù)處理后在輸出層進(jìn)行輸出。在電法勘探數(shù)據(jù)反演中，通常會(huì)包含多個(gè)隱含層，以便應(yīng)對大量的電法勘探的非線性數(shù)據(jù)。

圖2 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖Fig.2 Neural network structure diagram

拓?fù)浣Y(jié)構(gòu)是神經(jīng)網(wǎng)絡(luò)方法的核心部分，代表了神經(jīng)元之間的連接方式和層次結(jié)構(gòu)。BP神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)通常是多層前饋結(jié)構(gòu)，即輸入數(shù)據(jù)從輸入層開始，通過隱藏層傳遞到輸出層；遺傳算法的拓?fù)浣Y(jié)構(gòu)一般為進(jìn)化樹或進(jìn)化圖；典型的卷積神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)包括輸入層、多個(gè)卷積層、池化層、全連接層和輸出層。這種結(jié)構(gòu)設(shè)計(jì)旨在逐層提取并組合輸入數(shù)據(jù)的特征，從而實(shí)現(xiàn)對復(fù)雜模式的建模能力；粒子群算法中常見的拓?fù)浣Y(jié)構(gòu)有全局拓?fù)浣Y(jié)構(gòu)、環(huán)形拓?fù)浣Y(jié)構(gòu)和星形拓?fù)浣Y(jié)構(gòu)等，在不同拓?fù)浣Y(jié)構(gòu)中，粒子交流信息的方式不同。

1.4 人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則

人工神經(jīng)網(wǎng)絡(luò)在運(yùn)行時(shí)負(fù)責(zé)建立模型和確定權(quán)值兩部分工作。在信號輸入的過程中，由神經(jīng)網(wǎng)絡(luò)的輸入連接來增強(qiáng)其連接的強(qiáng)度，每一個(gè)連接都有一個(gè)相應(yīng)的權(quán)值。通過該權(quán)值的量化，采用激活函數(shù)累加得到各權(quán)重的總和，從而得到輸出結(jié)果。在信號輸出時(shí)，神經(jīng)網(wǎng)絡(luò)通過對輸入端的信息進(jìn)行學(xué)習(xí)，并根據(jù)輸入端的誤差實(shí)時(shí)調(diào)節(jié)神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值，直至結(jié)果與期望的結(jié)果一致為止［7］。

人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則，實(shí)際上就是網(wǎng)絡(luò)連接權(quán)的調(diào)整規(guī)則，對于不同的網(wǎng)絡(luò)結(jié)構(gòu)采用不同的學(xué)習(xí)規(guī)則［9］，BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程主要是指權(quán)重的更新過程，其中最常用的方法是基于誤差反向傳播算法；遺傳算法的學(xué)習(xí)規(guī)則主要是基于自然選擇和遺傳機(jī)制的原理，在進(jìn)化過程中逐步優(yōu)化個(gè)體的適應(yīng)度；卷積神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則與BP神經(jīng)網(wǎng)絡(luò)類似，包括前向計(jì)算和反向傳播兩個(gè)過程；粒子群算法常用的學(xué)習(xí)規(guī)則有全局最優(yōu)學(xué)習(xí)規(guī)則和局部最優(yōu)學(xué)習(xí)規(guī)則。神經(jīng)網(wǎng)絡(luò)系統(tǒng)是一個(gè)十分龐大的非線性系統(tǒng)，具有并行性、非線性以及強(qiáng)大的自適應(yīng)信息處理功能，能高效地處理地球物理非線性數(shù)據(jù)。

2 應(yīng)用于電法勘探數(shù)據(jù)反演中的人工神經(jīng)網(wǎng)絡(luò)方法及其對比

近年來應(yīng)用于電法勘探數(shù)據(jù)反演的方法主要是BP神經(jīng)網(wǎng)絡(luò)（BP）、遺傳算法（GA）、卷積神經(jīng)網(wǎng)絡(luò)（CNN）和粒子群算法（PSO）。針對四種方法逐一進(jìn)行表述，并闡述每種方法在電法勘探數(shù)據(jù)反演方面的應(yīng)用。

2.1 BP神經(jīng)網(wǎng)絡(luò)

BP神經(jīng)網(wǎng)絡(luò)是一種具有輸入層、隱含層以及輸出層三層或三層以上的多輸入單輸出的具有監(jiān)督學(xué)習(xí)模式的前饋神經(jīng)網(wǎng)絡(luò)。當(dāng)BP神經(jīng)網(wǎng)絡(luò)的層數(shù)，以及每層的神經(jīng)元數(shù)量都得到確定以后，就必須要確定各個(gè)層級間的權(quán)值系數(shù)，如此就可以在輸入的基礎(chǔ)上得出適當(dāng)?shù)妮敵鲋担?0］。BP網(wǎng)絡(luò)使用了誤差反向傳播的學(xué)習(xí)算法，沿著減小誤差的方向進(jìn)行學(xué)習(xí)，該方法是一步一步對網(wǎng)絡(luò)結(jié)構(gòu)中的連接權(quán)值進(jìn)行修正，從而達(dá)到降低錯(cuò)誤率的目的。

BP神經(jīng)網(wǎng)絡(luò)能學(xué)習(xí)和存儲(chǔ)大量的非線性輸入輸出模式的映射關(guān)系，而且不需要提前揭示描述這種映射關(guān)系的數(shù)學(xué)方程［11-12］。該模型非常依賴樣本數(shù)據(jù)的選取，在處理數(shù)據(jù)之前，需要將數(shù)據(jù)進(jìn)行歸一化處理，確保數(shù)據(jù)格式的統(tǒng)一性。在進(jìn)行BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練時(shí)，往往典型的數(shù)據(jù)更能體現(xiàn)出網(wǎng)絡(luò)模型的逼近及推廣能力。

在電法勘探數(shù)據(jù)反演方面，BP神經(jīng)網(wǎng)絡(luò)被用于處理和分析電法勘探所獲得的數(shù)據(jù)。張小娟等［13］利用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行電法勘探反演成像，研究表明BP神經(jīng)網(wǎng)絡(luò)具有更強(qiáng)的靈活性和適用性，該方法在計(jì)算量上有明顯的降低，對于復(fù)雜的二維、三維地形具有更好的實(shí)用價(jià)值；Dennis Conway等［14-16］利用神經(jīng)網(wǎng)絡(luò)處理三維大地電磁數(shù)據(jù)，結(jié)果表明：人工神經(jīng)網(wǎng)絡(luò)大大地減少了計(jì)算量，而且具有足夠好的插值和外推能力；王鶴等［17］利用BP神經(jīng)網(wǎng)絡(luò)算法先進(jìn)行學(xué)習(xí)訓(xùn)練，然后采用正向傳遞和負(fù)向傳遞兩種方式，迭代計(jì)算得到最佳的網(wǎng)絡(luò)連接權(quán)值，進(jìn)而利用訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)反演未知模型的視電阻率，對2、3層的大地電磁模型構(gòu)建神經(jīng)網(wǎng)絡(luò)，并對其進(jìn)行了試驗(yàn)反演，從而極大地提升了反演的速度和效率；張杰等［18］利用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行普通電阻率曲線和雙側(cè)向曲線的相互轉(zhuǎn)化，不僅提高電阻率曲線精度，還避免了多組偏微分方程的求解和參數(shù)的選擇；在高密度電阻率法數(shù)據(jù)反演方面，顏鐘、賀文博等［19-20］將BP神經(jīng)網(wǎng)絡(luò)進(jìn)行充分得當(dāng)?shù)挠?xùn)練，之后對高密度電阻率數(shù)據(jù)進(jìn)行反演，反演結(jié)果比傳統(tǒng)方法更精準(zhǔn)，對精細(xì)結(jié)構(gòu)具有更好的刻畫能力，反演速度更快，得到的電阻率值也更準(zhǔn)確；黃一配等［21］對高密度電阻率法數(shù)據(jù)反演研究則表明，BP神經(jīng)網(wǎng)絡(luò)具有更好的橫向分辨率和縱向分辨率。

上述研究表明，在電法勘探數(shù)據(jù)反演方面，BP神經(jīng)網(wǎng)絡(luò)具有一定的潛力以及應(yīng)用前景，可以用于實(shí)現(xiàn)電阻率分布的反演和預(yù)測。通過大量的訓(xùn)練樣本和合適的網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)，BP神經(jīng)網(wǎng)絡(luò)可以在一定程度上提高反演的準(zhǔn)確性和穩(wěn)定性。

2.2 遺傳算法

遺傳算法是以達(dá)爾文的進(jìn)化論和孟德爾的遺傳學(xué)說作為基礎(chǔ)，遵循“適者生存”原則，通過引用隨機(jī)理論形成的；遺傳算法首先使用二進(jìn)制（或其他進(jìn)制）對所解決的問題的各個(gè)參數(shù)進(jìn)行編碼，被編碼的參數(shù)結(jié)合在一起共同構(gòu)成染色體［22］。產(chǎn)生的染色體（初始種群）通過“再生”、“交換”、“變異”等方式，產(chǎn)生下一代的種群，不斷的重復(fù)這個(gè)過程，直至種群趨于均勻或種群中的最佳個(gè)體滿足一定的條件。該方法是在模型或參數(shù)空間中進(jìn)行抽樣，并在遺傳和變異兩個(gè)方面進(jìn)行進(jìn)化，最終得到一系列符合一定條件的最優(yōu)模型。遺傳算法可以得到反演問題的不同解的集合，可以直接處理非線性和多目標(biāo)最小化任務(wù)，避免了線性化和選擇合適的起始模型［23］。王光杰［24］利用遺傳算法對兩層理論曲線和三層H型理論視電阻率和相位曲線反演，證實(shí)了該算法精度高，可行性強(qiáng)；秦善強(qiáng)等［25-26］提出用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的權(quán)值，提高了數(shù)據(jù)處理結(jié)果的準(zhǔn)確性以及穩(wěn)定性。遺傳算法可以用于大地電磁反演問題，并能夠幫助尋找到較優(yōu)的地下介質(zhì)模型，考慮到多層構(gòu)造反演的多解性問題，李帝銓［22］在反演中引入最小構(gòu)造約束，利用遺傳算法對可控源音頻大地電磁測深數(shù)據(jù)進(jìn)行反演研究，該方法的穩(wěn)定性強(qiáng)，精度高，而且具有較強(qiáng)的去虛假多余構(gòu)造和抗噪能力；Marco A［27］應(yīng)用改進(jìn)的遺傳算法“重組遺傳類似物”（RGA）反演大地電磁數(shù)據(jù)，RGA適合于非線性假設(shè)檢驗(yàn)以及反向建模，模型對反演過程的整體收斂沒有阻礙，在模型高度異構(gòu)和數(shù)據(jù)受噪聲污染的情況下也可以使用RGA作為二維大地電磁反演方法；M.E.Everett［28］利用遺傳算法進(jìn)行二維非線性大地電磁反演，提取全局最佳擬合的電導(dǎo)率模型；遺傳算法很容易適應(yīng)任何正向解或目標(biāo)函數(shù)，并允許對反演施加先驗(yàn)信息。遺傳算法具有廣泛的適用性、并行搜索能力以及較強(qiáng)的全局搜索能力，適用于各種優(yōu)化問題，在電法勘探數(shù)據(jù)反演中可以用來優(yōu)化反演模型，以尋找到最佳的地下介質(zhì)參數(shù)。

2.3 卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)與人工神經(jīng)網(wǎng)絡(luò)類似，由多個(gè)神經(jīng)元節(jié)點(diǎn)層連接而成，卷積神經(jīng)網(wǎng)絡(luò)由輸入層、卷積層、激活層、池化層、全連接層和輸出層構(gòu)成，由于CNN在求解過程中使用卷積操作，因此與常規(guī)的矩陣運(yùn)算相比，CNN的運(yùn)行效率大幅提升。卷積層與池化層的交叉應(yīng)用可以高效提取數(shù)據(jù)的局部特征，并對其進(jìn)行降維處理［29］。電阻率觀測數(shù)據(jù)具有深度變化特征，即不同深度的相同異常體引起的異常特征不同［30］。在特征識別方面，卷積神經(jīng)網(wǎng)絡(luò)能力較強(qiáng)。李軍?。?1］利用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行了直流電阻率的二維地電模型的識別與方法研究，不僅解決了線性反演中辨識精度不高的問題，還使得識別網(wǎng)絡(luò)結(jié)果準(zhǔn)確度達(dá)到91%；將CNN運(yùn)用于電法勘探資料處理的反演，從理論上來說，所獲取的某個(gè)觀測數(shù)據(jù)能夠被看成是1個(gè)像素點(diǎn)，將視電阻率看成是具有不同顏色通道的像素點(diǎn)，將其用作卷積神經(jīng)網(wǎng)絡(luò)的輸入。將輸入數(shù)據(jù)進(jìn)行卷積處理，通過使用不同的卷積核來完成對數(shù)據(jù)的不同特性的提取，并使用最大池化法對被卷積過的數(shù)據(jù)進(jìn)行池化，通過信息的正向傳播和誤差反向傳播獲得最佳反演網(wǎng)絡(luò)排列及超參數(shù)，將地電模型參數(shù)作為網(wǎng)絡(luò)的輸出［32］。對于大地電磁數(shù)據(jù)的反演研究，廖曉龍［32］基于卷積神經(jīng)網(wǎng)絡(luò)，實(shí)現(xiàn)了對地電模型的精準(zhǔn)定位與成像。李賡等［33-34］利用卷積神經(jīng)網(wǎng)絡(luò)方法成功反演了大地電磁數(shù)據(jù)，取得了不錯(cuò)的效果；劉宇［35］利用深度卷積神經(jīng)網(wǎng)絡(luò)對污染場地的電阻率和極化率進(jìn)行反演，提高了污染場地的探測精度與準(zhǔn)確率。由此可見，卷積神經(jīng)網(wǎng)絡(luò)優(yōu)化了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)訓(xùn)練出現(xiàn)的參數(shù)過多導(dǎo)致模型更復(fù)雜和計(jì)算資源的浪費(fèi)以及對于訓(xùn)練數(shù)據(jù)的過度學(xué)習(xí)等問題，對初始模型依賴少、可以減少權(quán)值數(shù)量、降低模型的復(fù)雜度，具有很強(qiáng)的表征學(xué)習(xí)能力和全局尋優(yōu)性能。

2.4 粒子群算法

1995年，社 會(huì) 心 理 學(xué) 家 Kennedy［36］和Eberhar R［37］首次開發(fā)了粒子群算法，模擬了鳥類隨機(jī)搜索食物的捕食行為［38］，后來這種進(jìn)化算法由Shi［39］修改，為更好地控制粒子群優(yōu)化算法的全局搜索和局部搜索能力，將慣性權(quán)重引入粒子群算法中，形成了目前的標(biāo)準(zhǔn)算法［40］。Chatterjee A［41］提出了一種動(dòng)態(tài)自適應(yīng)的非線性慣性權(quán)重，并用其改進(jìn)粒子群優(yōu)化算法的收斂速度，微調(diào)算法的搜索過程。

粒子群算法具有收斂速度快、參數(shù)設(shè)置少、概念簡單、方便實(shí)現(xiàn)等優(yōu)點(diǎn)，主要用于連續(xù)函數(shù)空間的優(yōu)化，是一種高效的全局尋優(yōu)算法，在迭代的過程中，會(huì)根據(jù)其之前所在的最佳位置以及種群所在的最佳位置進(jìn)行粒子本身位置和速度的更新迭代。粒子群算法在模型空間中隨機(jī)地進(jìn)行全局搜索，因此搜索能力差，搜索精度不高，易陷入局部極小值［42］。在軟件開發(fā)方面，陳紫靜［43］在matlab軟件開發(fā)平臺(tái)上，編寫了大地電磁測深的正反演程序，完成了基于粒子群算法的大地電磁測深的反演軟件，并通過實(shí)驗(yàn)驗(yàn)證了反演程序的正確性。崔益安［44］通過對粒子群優(yōu)化算法參數(shù)的合理設(shè)計(jì)，利用其良好的全局與局部均衡的搜索能力，實(shí)現(xiàn)了對多個(gè)異常目標(biāo)體的同時(shí)反演，以實(shí)時(shí)準(zhǔn)確的定量解譯中梯剖面法圈定的異常目標(biāo)體，較好地滿足工程等領(lǐng)域的高時(shí)效性要求。

近年來，粒子群算法在地球物理反演領(lǐng)域的應(yīng)用越來越廣泛，其高效的全局尋優(yōu)能力以及強(qiáng)大的非線性處理能力為電法勘探數(shù)據(jù)反演提供了一種全新的途徑。

2.5 多種神經(jīng)網(wǎng)絡(luò)方法的組合反演

單一的神經(jīng)網(wǎng)絡(luò)方法在處理電法勘探數(shù)據(jù)時(shí)，往往存在容易陷入局部極小值、對訓(xùn)練樣本數(shù)據(jù)的依賴性大、處理數(shù)據(jù)效率低等問題，利用神經(jīng)網(wǎng)絡(luò)方法組合反演，能夠削弱單一方法的缺陷，提高反演效率。目前在電法勘探領(lǐng)域應(yīng)用成功的神經(jīng)網(wǎng)絡(luò)組合反演方法主要包括BP神經(jīng)網(wǎng)絡(luò)與遺傳算法、BP神經(jīng)網(wǎng)絡(luò)與粒子群算法、BP神經(jīng)網(wǎng)絡(luò)與蟻群算法、BP神經(jīng)網(wǎng)絡(luò)與模擬退火法、BP神經(jīng)網(wǎng)絡(luò)與多目標(biāo)優(yōu)化算法、卷積神經(jīng)網(wǎng)絡(luò)與長短時(shí)記憶網(wǎng)絡(luò)以及遺傳算法與統(tǒng)計(jì)學(xué)的組合反演。

2.5.1 遺傳算法與BP神經(jīng)網(wǎng)絡(luò)的組合反演

仿生學(xué)的遺傳算法將GA和BP神經(jīng)網(wǎng)絡(luò)相結(jié)合，可以克服BP神經(jīng)網(wǎng)絡(luò)易陷入局部極小的缺點(diǎn)，利用GA算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值矩陣，有效縮短了BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練學(xué)習(xí)時(shí)間，提高了網(wǎng)絡(luò)泛化性能。GA-BP組合算法的反演在時(shí)間上與BP單獨(dú)反演基本一致，但是反演精度和反演可靠性更高。陳風(fēng)超［45］將遺傳算法GA與BP神經(jīng)網(wǎng)絡(luò)組合，對電法勘探進(jìn)行非線性反演，研究結(jié)果表明，組合神經(jīng)網(wǎng)絡(luò)泛化性能強(qiáng)、反演時(shí)間短、反演成功率高、反演精度高，GA-BP算法應(yīng)用到電法勘探反演中是可行的；在高密度電法數(shù)據(jù)反演方面，張凌云等［46-47］研究了利用GA算法來優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的非線性反演方法，提高了BP神經(jīng)網(wǎng)絡(luò)反演方法的成功率，取得了明顯的效果；高明亮［48］將免疫遺傳算法（IGA）和BP神經(jīng)網(wǎng)絡(luò)相結(jié)合，應(yīng)用于二維高密度電法數(shù)據(jù)反演，提高了反演精度，縮短了反演時(shí)間并增強(qiáng)了反演成像的準(zhǔn)確度；在大地電磁數(shù)據(jù)非線性反演研究中，王鶴［49］利用GA-BP的方法，提高了反演的準(zhǔn)確性、穩(wěn)定性和計(jì)算速度；陳廣［50］將GA-BP神經(jīng)網(wǎng)絡(luò)應(yīng)用于接地網(wǎng)斷點(diǎn)仿真的實(shí)驗(yàn)中，驗(yàn)證了GA-BP在瞬變電磁快速成像、收斂速度和計(jì)算精確度方面所具有的優(yōu)越性。綜上分析表明，遺傳算法可以有效改善BP神經(jīng)網(wǎng)絡(luò)精度低、收斂緩慢、易陷入局部極小值等問題，提高反演精度和反演的可靠性。

2.5.2 蟻群算法與BP神經(jīng)網(wǎng)絡(luò)的組合反演

蟻群算法（ACO）由意大利人Dorigo M等［51］在1991年首先提出。蟻群算法與BP神經(jīng)網(wǎng)絡(luò)組合反演的反演模型具有穩(wěn)定性好、吻合度高、速度快、精度高等諸多優(yōu)點(diǎn)，是目前各種非線性組合反演方法中結(jié)果較好的一種。在電法勘探數(shù)據(jù)反演的非線性方法研究中，利用蟻群算法ACO優(yōu)化選擇BP的初始權(quán)值、預(yù)值，然后賦值給BP神經(jīng)網(wǎng)絡(luò)進(jìn)一步學(xué)習(xí)訓(xùn)練出更優(yōu)的網(wǎng)絡(luò)，形成ACO-BP算法。張凌云等［52-53］利用神經(jīng)網(wǎng)絡(luò)優(yōu)化方法與蟻群算法ACO組合反演，分別實(shí)現(xiàn)了高密度電阻率法的電阻率二維非線性反演和對復(fù)雜層狀電阻率結(jié)構(gòu)的檢測，體現(xiàn)了神經(jīng)網(wǎng)絡(luò)方法高精度、高效率以及計(jì)算速度快等優(yōu)點(diǎn)；陳風(fēng)超［45］在對電阻率法地質(zhì)勘探反演方法研究的探索中，將ACO-BP算法與BP神經(jīng)網(wǎng)絡(luò)算法分別應(yīng)用在異常體模型的反演中，實(shí)驗(yàn)表明：ACO-BP算法的反演時(shí)間更短，穩(wěn)定性更強(qiáng)，對地質(zhì)異常體參數(shù)變化較靈敏，能準(zhǔn)確地反演出異常體位置、電阻率值、形狀大小等參數(shù)。ACOBP算法將蟻群優(yōu)化的信息素更新機(jī)制與反向傳播神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力相結(jié)合，能夠有效地利用ACO的全局搜索能力和BP的局部優(yōu)化能力，增強(qiáng)求解復(fù)雜問題的效果。

2.5.3 粒子群算法與BP神經(jīng)網(wǎng)絡(luò)的組合反演

PSO的作用在于對BP神經(jīng)網(wǎng)絡(luò)的參數(shù)（權(quán)值和閾值）進(jìn)行學(xué)習(xí)和優(yōu)化。使用樣本數(shù)據(jù)進(jìn)行訓(xùn)練，以神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值數(shù)作為粒子向量的維數(shù)，其中的每一個(gè)粒子都是網(wǎng)絡(luò)權(quán)值和閾值的解，整個(gè)權(quán)值和閾值空間就是微粒群的搜尋空間；粒子群算法以神經(jīng)網(wǎng)絡(luò)的輸出誤差作為其適應(yīng)度函數(shù)［54］。戴前偉［55］提出基于混沌振蕩的粒子群算法，使用PSO訓(xùn)練和優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值，混沌振蕩PSO-BP不依賴初始模型，穩(wěn)定性、準(zhǔn)確性以及成像質(zhì)量較好，提高了在反演電阻率層析時(shí)的收斂速度和求解質(zhì)量。這種組合反演方法可以通過已知的數(shù)據(jù)建立起預(yù)測模型，并利用優(yōu)化算法調(diào)整模型參數(shù)來提高預(yù)測準(zhǔn)確性。

2.5.4 模擬退火法與BP神經(jīng)網(wǎng)絡(luò)的組合反演

模擬退火（SA）是一種隨機(jī)組合優(yōu)化技術(shù)，它的基本原理主要包括統(tǒng)計(jì)力學(xué)、熱力學(xué)和多變量概率論等，模擬退火方法具有以下幾個(gè)優(yōu)點(diǎn)：（1）在反演過程中能夠擺脫局部極小值；（2）全局搜索能力強(qiáng)；（3）具有隨機(jī)性和自適應(yīng)性的特點(diǎn)，利用隨機(jī)性進(jìn)行搜索，在搜索過程中能夠自適應(yīng)地調(diào)整搜索方向和步長，從而能夠靈活地適應(yīng)問題的特征。張凌云［52］利用非線性模擬退火法SA與BP神經(jīng)網(wǎng)絡(luò)組合方法進(jìn)行電阻率法二維反演。用SA的全局搜索方法來優(yōu)化BP神經(jīng)網(wǎng)絡(luò)，形成一種新的非線性算法SA-BP，其反演精度和速度略高于單一BP神經(jīng)網(wǎng)絡(luò)反演，但SA-BP算法反演整體效果不佳。利用BP神經(jīng)網(wǎng)絡(luò)的擬合能力來快速搜索模型參數(shù)空間，并結(jié)合模擬退火法進(jìn)行全局優(yōu)化，從而提高反演問題的求解效率和準(zhǔn)確度。

2.5.5 多目標(biāo)優(yōu)化算法與BP神經(jīng)網(wǎng)絡(luò)的組合反演

非支配排序遺傳算法（NSGA-Ⅱ）使用了快速非支配排序法，是一種基于非支配的多目標(biāo)優(yōu)化算法。NSGA-Ⅱ可以有效優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值，提高BP算法的全局尋優(yōu)能力和神經(jīng)網(wǎng)絡(luò)泛化能力。多目標(biāo)優(yōu)化算法與BP神經(jīng)網(wǎng)絡(luò)的組合反演是一種常用的方法，用于解決復(fù)雜問題的參數(shù)估計(jì)或模型反演問題。結(jié)合神經(jīng)網(wǎng)絡(luò)節(jié)點(diǎn)權(quán)值數(shù)量級越小，網(wǎng)絡(luò)泛化能力越強(qiáng)的特點(diǎn)，趙濤［56］將多目標(biāo)優(yōu)化算法與BP神經(jīng)網(wǎng)絡(luò)算法相結(jié)合，同時(shí)以BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練均方誤差和隱含層參數(shù)的均方根值作為目標(biāo)函數(shù)，對BP神經(jīng)網(wǎng)絡(luò)進(jìn)行多目標(biāo)優(yōu)化，提高了BP神經(jīng)網(wǎng)絡(luò)對高密度電法數(shù)據(jù)的反演精度。這種組合反演方法能夠提高參數(shù)估計(jì)或模型反演精度和效率，并具有一定的魯棒性。結(jié)合了多目標(biāo)優(yōu)化算法和BP神經(jīng)網(wǎng)絡(luò)的特點(diǎn)，可以有效克服各自的局限性并增強(qiáng)求解效果。

2.5.6 卷積神經(jīng)網(wǎng)絡(luò)與長短時(shí)記憶網(wǎng)絡(luò)的組合反演

CNN-LSTM混合網(wǎng)絡(luò)模型具有極高的精度和計(jì)算速度。長短時(shí)記憶（LSTM）網(wǎng)絡(luò)可以用來捕獲時(shí)間序列依賴關(guān)系，以解決傳統(tǒng)循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）存在的爆炸梯度和消失梯度問題。CNN通過局部連接和權(quán)重共享來處理局部結(jié)構(gòu)相似度，LSTM對CNN層的序列信息進(jìn)行進(jìn)一步處理，并構(gòu)建一維模型。廖曉龍利用CNN提取電磁響應(yīng)數(shù)據(jù)中的淺深層特征，之后通過LSTM對來自CNN層的序列信息進(jìn)行處理并重構(gòu)一維電阻率模型，建立了電阻率模型與大地電磁響應(yīng)之間復(fù)雜的非線性映射關(guān)系，完成了大地電磁數(shù)據(jù)的一維反演［57］。

2.5.7 遺傳算法與統(tǒng)計(jì)學(xué)組合應(yīng)用

遺傳算法與統(tǒng)計(jì)學(xué)的組合應(yīng)用在處理電法勘探數(shù)據(jù)時(shí)具有三個(gè)優(yōu)點(diǎn)：（1）計(jì)算量?。唬?）有利于判斷地層電性結(jié)構(gòu)；（3）參數(shù)有限使得反演更快、反演結(jié)果更準(zhǔn)確。程勃［58］通過結(jié)合遺傳算法和統(tǒng)計(jì)學(xué)的方法，利用一維反演結(jié)果的統(tǒng)計(jì)學(xué)特征來確定地層電性結(jié)構(gòu)，并設(shè)計(jì)初始模型，隨后使用遺傳算法來對模型進(jìn)行修改，并通過二維有限單元法進(jìn)行正演分析，從而使得模型達(dá)到最小擬合誤差，最終成功完成電阻率測深數(shù)據(jù)二維反演。遺傳算法與統(tǒng)計(jì)學(xué)的結(jié)合適合應(yīng)用于優(yōu)化和數(shù)據(jù)分析方面，可以實(shí)現(xiàn)參數(shù)優(yōu)化、特征選擇、數(shù)據(jù)建模與預(yù)測優(yōu)化問題求解以及數(shù)據(jù)聚類與分類等諸多應(yīng)用，使問題求解更加高效準(zhǔn)確。

2.6 不同神經(jīng)網(wǎng)絡(luò)方法對比

表1為目前應(yīng)用于電法勘探反演中的4種常用神經(jīng)網(wǎng)絡(luò)算法優(yōu)缺點(diǎn)對比，每一種算法都有其特點(diǎn)。BP神經(jīng)網(wǎng)絡(luò)算法應(yīng)用最為廣泛，并且可以處理高維度電法數(shù)據(jù)，但過于依賴樣本數(shù)據(jù)；遺傳算法不易陷入局部極小，全局優(yōu)化能力較強(qiáng)，且容易與其他算法相結(jié)合，但種群大小、交叉率、變異率等參數(shù)難以確定；卷積神經(jīng)網(wǎng)絡(luò)可以最大程度提取實(shí)物特征，且計(jì)算速度快，但對數(shù)據(jù)量的要求高，同時(shí)具有平移不變性和池化層的缺陷；粒子群算法原理簡單，需要調(diào)整的參數(shù)少，容易實(shí)現(xiàn)，但搜索精度不高，易陷入局部極小，在處理高維度復(fù)雜問題時(shí)可能會(huì)早熟收斂。人工神經(jīng)網(wǎng)絡(luò)目前仍存在樣本需求量大、計(jì)算速度慢、泛化能力弱等諸多問題，所以在進(jìn)行電法勘探數(shù)據(jù)反演時(shí)需要選擇適合的神經(jīng)網(wǎng)絡(luò)方法［59］。

表1 常用神經(jīng)網(wǎng)絡(luò)算法優(yōu)缺點(diǎn)對比Tab.1 Comparison of advantages and disadvantages of commonly used neural network algorithms

3 結(jié)論

傳統(tǒng)電阻率反演是對非線性問題進(jìn)行線性化轉(zhuǎn)化的線性反演方法，因此極易陷入局部極值，存在高度病態(tài)性和多解性，伴隨著神經(jīng)網(wǎng)絡(luò)研究日趨深入，各種神經(jīng)網(wǎng)絡(luò)方法也被引入電法勘探非線性數(shù)據(jù)反演研究之中，并取得了良好的反演效果。通過對前人研究成果較為系統(tǒng)的梳理，總結(jié)了目前電法勘探反演中主流的人工神經(jīng)網(wǎng)絡(luò)方法，闡述了人工智能對電法勘探非線性數(shù)據(jù)的反演技術(shù)特點(diǎn)，探討了組合反演方法并分析其優(yōu)勢，最后針對4種主流神經(jīng)網(wǎng)絡(luò)方法進(jìn)行優(yōu)缺點(diǎn)的比較，獲得以下幾點(diǎn)認(rèn)識：

（1）神經(jīng)網(wǎng)絡(luò)算法對于非線性復(fù)雜信息具有高效的處理能力，計(jì)算結(jié)果有較高的穩(wěn)定性和準(zhǔn)確性；BP神經(jīng)網(wǎng)絡(luò)作為目前最典型、最成熟的神經(jīng)網(wǎng)絡(luò)算法，在電法勘探反演中應(yīng)用最為廣泛；遺傳算法具有廣泛的適用性，可以解決大尺度、多參數(shù)問題；卷積神經(jīng)網(wǎng)絡(luò)可通過權(quán)值共享減少參數(shù)數(shù)量；粒子群算法概念簡單，方便實(shí)現(xiàn)。每一種神經(jīng)網(wǎng)絡(luò)方法都具有其獨(dú)有的特點(diǎn)，但同時(shí)也存在著一些不足之處，因此不同方法處理電法勘探數(shù)據(jù)的結(jié)果也存在差異。

（2）神經(jīng)網(wǎng)絡(luò)組合反演算法旨在充分利用它們各自的優(yōu)點(diǎn)克服各自的局限性并增強(qiáng)求解效果，具有降低反演多解性、提高反演效率、擺脫樣本依賴、全局尋優(yōu)等特點(diǎn)，神經(jīng)網(wǎng)絡(luò)組合反演方法是今后一段時(shí)間電法勘探非線性反演的研究熱點(diǎn)和難點(diǎn)。神經(jīng)網(wǎng)絡(luò)組合反演多為BP神經(jīng)網(wǎng)絡(luò)與其他全局尋優(yōu)算法相結(jié)合，相互補(bǔ)充，可以一定程度上彌補(bǔ)BP神經(jīng)網(wǎng)絡(luò)在電法勘探數(shù)據(jù)反演問題上的不足，提高多參數(shù)反演的準(zhǔn)確性與收斂性。

（3）人工神經(jīng)網(wǎng)絡(luò)在電法信號處理、反演成像等領(lǐng)域具有較好潛力以及應(yīng)用前景，但存在樣本需求量大，計(jì)算成本高，容易過擬合等諸多問題，有待于進(jìn)一步研究改進(jìn)。

（4）電法勘探種類較多，且數(shù)據(jù)量大，傳統(tǒng)的線性反演方法存在局限性，神經(jīng)網(wǎng)絡(luò)技術(shù)應(yīng)用于電法勘探反演已成為必然趨勢，不同的神經(jīng)網(wǎng)絡(luò)方法在反演電法勘探數(shù)據(jù)時(shí)效果不同，因此對于人工神經(jīng)網(wǎng)絡(luò)方法的選擇至關(guān)重要。