自適應(yīng)遞階遺傳神經(jīng)網(wǎng)絡(luò)測井巖性識別方法研究

溫志平，方江雄,2,3，劉 軍，鄭成龍

(1．東華理工大學(xué) 地球物理與測控技術(shù)學(xué)院，江西 南昌 330013；2．核技術(shù)應(yīng)用教育部工程研究中心，江西 南昌 330013；3．流域生態(tài)與地理環(huán)境監(jiān)測國家測繪地理信息局重點實驗室，江西 南昌 330013 )

巖性識別作為儲層評價、油藏描述和求解儲層參數(shù)的一種重要手段，準(zhǔn)確的巖性識別結(jié)果是地質(zhì)勘探和開發(fā)的有效依據(jù)。但在實際地質(zhì)條件中，由于儲層介質(zhì)的不均勻性和測井參數(shù)的非線性性，導(dǎo)致傳統(tǒng)的巖性識別方法識別率較低，無法準(zhǔn)確的揭示儲層的真實特性，比如交會圖法、數(shù)學(xué)概率統(tǒng)計法和聚類分析法(Juprasert et al.,1980;程國建等，2007;王祝文等，2009)。BP神經(jīng)網(wǎng)絡(luò)由于具有良好的非線性特征，靈活而有效地學(xué)習(xí)方式，對非線性系統(tǒng)具有很強的模擬能力，被運用于地球物理測井巖性識別領(lǐng)域(Simon et al.,2009；張治國，2006；高美娟，2005)。然而，這些BP神經(jīng)網(wǎng)絡(luò)采用梯度下降法進行參數(shù)尋優(yōu)，導(dǎo)致非凸能量泛函易陷入局部最小值，并且無法自適應(yīng)地選擇學(xué)習(xí)率和網(wǎng)絡(luò)結(jié)構(gòu)(Sutton, 1986)。遺傳算法由于具有概率性全局優(yōu)化搜索能力，被運用于優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值，從而改善陷入局部最小的機率(Whitley,1995)。但常用的遺傳算法只對神經(jīng)網(wǎng)絡(luò)的權(quán)閾值進行優(yōu)化，對神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)優(yōu)化尚無系統(tǒng)研究，且在遺傳操作中交叉變異概率采用固定值，無法準(zhǔn)確反映真實的進化過程。Ke等(1998)提出了遞階遺傳算法。

針對上述網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化和交叉變異算子取值問題，本文提出自適應(yīng)遞階遺傳算法。該方法主要研究兩個方面的內(nèi)容：①采用層次遞進的染色體編碼方式對神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和權(quán)閾值進行編碼，經(jīng)遺傳進化獲取最優(yōu)染色體，解碼后即為最優(yōu)的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)和網(wǎng)絡(luò)權(quán)閾值；②改進遺傳算法中的交叉變異算子，使其依據(jù)適應(yīng)度值和進化階段發(fā)生自適應(yīng)變化，讓遺傳算法在保持種群多樣性的同時，也能有效加快遺傳進化速度和避免“早熟”現(xiàn)象的發(fā)生。

遞階遺傳算法中交叉概率和變異概率的確定將直接影響算法的收斂性，當(dāng)交叉概率增大時，種群的多樣性加強，但過大的交叉概率使得種群內(nèi)適應(yīng)度高的個體以較大的概率被淘汰；當(dāng)交叉概率減小時，種群內(nèi)最優(yōu)適應(yīng)度的搜索過程減慢，搜索進程陷入局部的可能增加。相似的，當(dāng)變異概率減小時，種群的多樣性降低；變異概率增大時，算法的搜索過程將趨近隨機搜索，失去了算法意義。如何確定合適的交叉概率和變異概率是一個難題。自適應(yīng)的交叉和變異算子可以在遺傳進化的不同階段發(fā)生自適應(yīng)變化，較好的解決了這個問題。

1 自適應(yīng)遞階遺傳神經(jīng)網(wǎng)絡(luò)

1.1 BP神經(jīng)網(wǎng)絡(luò)

BP神經(jīng)網(wǎng)絡(luò)由輸入層、隱藏層及輸出層組成，經(jīng)典的三層BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)實現(xiàn)了m維到n維的映射，其中m,n∈N+。

BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程由信號的正向傳播和誤差的反向傳播兩部分構(gòu)成，輸入信號從輸入層進入網(wǎng)絡(luò)，經(jīng)過隱藏層的加權(quán)求和以及函數(shù)運算處理后，到輸出層輸出，這一過程稱為信號的正向傳播。當(dāng)輸出信號與期望輸出存在誤差時，將誤差信號反饋回網(wǎng)絡(luò)中，根據(jù)BP網(wǎng)絡(luò)的自適應(yīng)能力修改網(wǎng)絡(luò)各層連接權(quán)閾值，從而使誤差信號變小，這一過程稱為誤差的反向傳播。當(dāng)誤差達(dá)到所需精度或達(dá)到最大迭代次數(shù)時，訓(xùn)練結(jié)束，得到最優(yōu)的網(wǎng)絡(luò)模型。

1.2 遞階遺傳算法

遞階遺傳算法引進染色體階次遞進的概念，遞階遺傳染色體由控制基因串(CGs)和參數(shù)基因串(PGs)兩部分構(gòu)成?？刂苹虼蔀槎鄬釉O(shè)計，其上層控制基因控制管理著下層的控制基因，下層控制基因決定著參數(shù)基因的激活或凍結(jié)。

控制基因串(CGs)使用二進制1和0表示，其中1表示其下層的基因處于激活狀態(tài)，0表示其下層的基因處于凍結(jié)狀態(tài)。參數(shù)基因串(PGs)由需優(yōu)化的參數(shù)組成，并采用實數(shù)進行編碼，圖1顯示了遞階遺傳中基因的階次遞進關(guān)系。

圖1 遞階遺傳基因的階次遞進關(guān)系Fig.1 Order progression relation of hierarchical genetic gene

在神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)中，隱藏層層數(shù)、隱藏神經(jīng)元個數(shù)和層間神經(jīng)元傳遞參數(shù)(網(wǎng)絡(luò)權(quán)閾值)的設(shè)計具有明顯的階次遞進關(guān)系。隱藏決定著隱層神經(jīng)元是否存在，而神經(jīng)元決定著神經(jīng)元之間連接權(quán)閾值是否存在。神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中隱層數(shù)及隱層神經(jīng)元數(shù)可由遞階遺傳算法中染色體的雙層控制基因串(層控制基因CGs1和神經(jīng)元控制基因CGs2)編碼表示，網(wǎng)絡(luò)中的連接權(quán)值和閾值可由參數(shù)基因串(PGs)編碼表示。

2 AHGA-BPNN巖性識別模型

自適應(yīng)遞階遺傳神經(jīng)網(wǎng)絡(luò)(AHGA-BPNN)巖性識別模型，由BP神經(jīng)網(wǎng)絡(luò)設(shè)計和自適應(yīng)遞階遺傳算法設(shè)計兩部分構(gòu)成。其中，BP神經(jīng)網(wǎng)絡(luò)設(shè)計包括網(wǎng)絡(luò)初始化、輸入信號正向傳播、誤差反向傳播和網(wǎng)絡(luò)權(quán)閾值更新等過程；自適應(yīng)遞階遺傳算法設(shè)計包括遞階遺傳染色體編碼、適應(yīng)度函數(shù)設(shè)計、遺傳操作算子設(shè)計和適應(yīng)度評價等步驟。

2.1 BP神經(jīng)網(wǎng)絡(luò)設(shè)計

BP神經(jīng)網(wǎng)絡(luò)計算過程包括：網(wǎng)絡(luò)參數(shù)初始化、信號正向傳播和誤差反向傳播過程。其中初始化參數(shù)主要包括：輸入測井參數(shù)和輸出巖性類別、網(wǎng)絡(luò)最大隱藏層層數(shù)、隱藏層最大神經(jīng)元數(shù)目、網(wǎng)絡(luò)最大迭代次數(shù)、網(wǎng)絡(luò)誤差精度等；測井曲線數(shù)據(jù)經(jīng)預(yù)處理后輸入網(wǎng)絡(luò)進行正向傳播，經(jīng)各層函數(shù)計算，直至輸出層輸出，比較實際輸出與期望輸出，若存在誤差，則將誤差信號反向傳播回網(wǎng)絡(luò)，網(wǎng)絡(luò)各層間權(quán)閾值實時更新，直至網(wǎng)絡(luò)輸出達(dá)到預(yù)設(shè)精度，網(wǎng)絡(luò)訓(xùn)練結(jié)束。其中網(wǎng)絡(luò)權(quán)閾值更新方式不再采用梯度下降法尋優(yōu)，而是采用改進的自適應(yīng)遞階遺傳算法進化迭代尋優(yōu)。

2.2 自適應(yīng)遞階遺傳算法設(shè)計

2.2.1 遞階遺傳染色體編碼

圖2 遞階遺傳優(yōu)化BP神經(jīng)網(wǎng)絡(luò)權(quán)閾值及網(wǎng)絡(luò)結(jié)構(gòu)示意圖Fig.2 Schematic diagram of Hierarchical genetic algorithm optimization weight,threshold and the structure of Back-Propagation neural network

在遞階遺傳中，染色體由控制基因和參數(shù)基因組成，控制基因均以二進制形式隨機生成0、1編碼，1表示激活，0表示凍結(jié)。在遞階遺傳優(yōu)化BP神經(jīng)網(wǎng)絡(luò)中(圖2)，層控制基因中的1表示該層被激活，神經(jīng)元控制基因中的1表示該神經(jīng)元被激活。參數(shù)基因的編碼對象為神經(jīng)網(wǎng)絡(luò)各層間的權(quán)閾值，數(shù)據(jù)量較大，用實數(shù)形式編碼。遞階遺傳以編碼后的染色體進行繁殖進化，當(dāng)出現(xiàn)最優(yōu)解，或達(dá)到訓(xùn)練代數(shù)與停止準(zhǔn)則時，第一層控制基因串中1的個數(shù)即代表最佳隱藏層層數(shù)，第二層控制基因中串的1的個數(shù)即代表對應(yīng)隱藏層中的最佳神經(jīng)元個數(shù)，參數(shù)基因串中1的個數(shù)即代表前后層對應(yīng)神經(jīng)元間權(quán)閾值個數(shù)。

遞階遺傳染色體基因編碼時，一條完整的染色體的前部分由控制基因串，后部分由參數(shù)基因串組成?？刂苹虼拈L度(CGsL)=隱層數(shù)×隱層神經(jīng)元數(shù)。參數(shù)基因串的長度(PGsL)=輸入層神經(jīng)元×第一個隱層神經(jīng)元個數(shù)+隱層層數(shù)×隱層神經(jīng)元個數(shù)+輸出層×最后一個隱層神經(jīng)元個數(shù)+輸出層神經(jīng)元個數(shù)。

2.2.2 適應(yīng)度函數(shù)設(shè)計

適應(yīng)度函數(shù)是評價神經(jīng)網(wǎng)絡(luò)權(quán)閾值的一個關(guān)鍵指標(biāo)，其函數(shù)的大小直接關(guān)系到遺傳算法對神經(jīng)網(wǎng)絡(luò)的優(yōu)化效果。常用網(wǎng)絡(luò)輸出總誤差的倒數(shù)作為適應(yīng)度函數(shù)：

(1)

式中，m為網(wǎng)絡(luò)輸入層神經(jīng)元數(shù)，yk為網(wǎng)絡(luò)實際輸出，dk為網(wǎng)絡(luò)期望輸出。

但式(1)的適應(yīng)度值只能反映網(wǎng)絡(luò)輸出誤差的大小，缺乏對網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)好壞的評價。為解決這個問題，本文將網(wǎng)絡(luò)復(fù)雜度引入到適應(yīng)度函數(shù)設(shè)計中，使適應(yīng)度函數(shù)不僅反映網(wǎng)絡(luò)輸出誤差的大小，并且體現(xiàn)著神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)信息，其適應(yīng)度評價函數(shù)如下：

(2)

式中，l為隱藏層神經(jīng)元數(shù)，n為網(wǎng)絡(luò)輸入層神經(jīng)元數(shù)，a，b和c為待定系數(shù)，N為樣本數(shù)。根據(jù)大量實驗發(fā)現(xiàn)，待定系數(shù)取a∈(0.7,1)，b∈(0,0.2)，c∈[2,3,4,5]時效果較好。

2.2.3 遞階遺傳自適應(yīng)算子設(shè)計

在遞階遺傳過程中有三個遺傳操作算子，分別為選擇算子、交叉算子和變異算子。選擇算子的作用是保存群體中的優(yōu)良基因，提高遺傳算法的全局收斂性。交叉和變異算子的作用是提高種群的多樣性，降低“早熟”現(xiàn)象的發(fā)生。

(1) 選擇算子設(shè)計。為獲得合理的選擇算子，本文引入基于切斷的輪盤賭選擇優(yōu)化策略。首先用輪盤賭選擇的方式單獨選中某個最優(yōu)個體，然后在選定個體中相應(yīng)地減少該個體比例的大小，重復(fù)以上操作，直至產(chǎn)生所有所需個體。其具體步驟如下：

③若選出的個體數(shù)達(dá)到種群大小，則轉(zhuǎn)(4)，否則轉(zhuǎn)(1)；

④保存所有選出個體，結(jié)束。

圖3 Sigmoid函數(shù)及優(yōu)化自適應(yīng)交叉變異算子適應(yīng)度曲線 Fig.3 The Sigmoid function, crossover and mutation operator adaptive fitness adjustment curve

(2) 交叉變異算子設(shè)計。Sigmoid函數(shù)是神經(jīng)網(wǎng)絡(luò)中常用的傳遞函數(shù)，其圖形如圖3中(a)所示，該函數(shù)的平穩(wěn)和變化特征較為明顯，在非線性行為間有較好的平衡趨勢(Mennon et al.,1996)?；谶@些特點，該函數(shù)能較好的解決傳統(tǒng)交叉變異算子取固定值和線性變化值導(dǎo)致的遺傳算法穩(wěn)定性差及過“早熟”的問題(Siddique, 2014)。本文將Sigmoid函數(shù)引入到交叉變異算子的設(shè)計中，實現(xiàn)交叉變異算子的自適應(yīng)非線性調(diào)整。式(3)、(4)分別為改進的自適應(yīng)交叉和變異算子：

(3)

(4)

式中fmax和favg分別為種群的最大適應(yīng)度和平均適應(yīng)度，Pcmax和Pcmin分別為交叉概率取值的上、下限，f′為兩個交叉?zhèn)€體中較大的適應(yīng)度，f為所需變異個體的適應(yīng)度，Pmmax和Pmmin分別為變異概率取值的上下限，A為系數(shù)。

如圖3b,c分別為自適應(yīng)交叉和變異算子適應(yīng)度調(diào)整曲線，交叉和變異概率在favg處調(diào)整緩慢，有效提升適應(yīng)度值接近平均適應(yīng)度值的個體的交叉和變異概率。Sigmoid函數(shù)的引入改善了適應(yīng)調(diào)整曲線中favg和fmax相差較大時趨于直線型的問題，保證了種群中較優(yōu)個體的交叉和變異概率仍具有一定變化，避免了演化進程停滯不前。

2.3 AHGA-BPNN巖性識別流程

AHGA-BPNN巖性識別過程主要分為遺傳迭代尋優(yōu)和神經(jīng)網(wǎng)絡(luò)權(quán)閾值及網(wǎng)絡(luò)結(jié)構(gòu)賦值兩大步驟。其算法流程如圖4所示，主要步驟描述如下：

(1) 測井?dāng)?shù)據(jù)預(yù)處理，初始化自適應(yīng)遞階遺傳中的種群規(guī)模、最大迭代次數(shù)、染色體長度，以及神經(jīng)網(wǎng)絡(luò)中輸入測井參數(shù)個數(shù)、輸出巖性類別個數(shù)、隱藏層最大層數(shù)、隱藏層最大神經(jīng)元個數(shù)和網(wǎng)絡(luò)誤差精度等待定值；

(2) 遞階遺傳染色體編碼；

(3) 自適應(yīng)遞階遺傳選擇、交叉和變異算子操作，迭代尋優(yōu)；

圖4 自適應(yīng)遞階遺傳神經(jīng)網(wǎng)絡(luò)巖性識別模型Fig.4 Adaptive hierarchical genetic neural network mode of lithologic identification

(4) 適應(yīng)度評價，獲取最優(yōu)個體；

(5) 最優(yōu)個體染色體解碼，為網(wǎng)絡(luò)初始權(quán)閾值、網(wǎng)絡(luò)結(jié)構(gòu)和網(wǎng)絡(luò)學(xué)習(xí)率賦值；

(6) 采用自適應(yīng)遞階遺傳優(yōu)化后的神經(jīng)網(wǎng)絡(luò)對未知巖性部分的測井?dāng)?shù)據(jù)進行測試；

圖5 實際測井資料下自適應(yīng)遞階遺傳BP神經(jīng)網(wǎng)絡(luò)示意Fig.5 Schematic diagram of hierarchical genetic Back-Propagation neural network for real well logging data

(7) 巖性識別結(jié)果輸出。

3 應(yīng)用實例

選取某研究區(qū)的實際測井資料驗證本文提出的自適應(yīng)遞階遺傳神經(jīng)網(wǎng)絡(luò)模型的適用性。該研究區(qū)主要有泥巖、粉砂巖、含鈣粉砂巖和細(xì)砂巖四大類巖性，收集該區(qū)100個鉆井樣本，隨機打亂取前80個數(shù)據(jù)作為訓(xùn)練樣本，后20個作為測試樣本，樣本輸入為聲波時差(AC)、自然伽馬(GR)、微電位(MNOR)、微電極幅度差(ΔR微)、深側(cè)向電阻率(RLLD)和微梯度(MINV)共6條對巖性影響較大的測井曲線數(shù)據(jù)，四種巖性編碼成二進制形式作為神經(jīng)網(wǎng)絡(luò)的輸出。

3.1 數(shù)據(jù)預(yù)處理

由于儀器、人為操作等因素導(dǎo)致實際測井資料中含有誤差，因此，需要對測井?dāng)?shù)據(jù)進行預(yù)處理。首先進行測井資料環(huán)境矯正和巖性資料深度歸位，然后對不同量綱的測井曲線數(shù)據(jù)歸一化。

(5)

式中，X和X′分別為歸一化前、后的數(shù)據(jù)，Xmax和Xmin分別為對應(yīng)曲線的最大和最小值。預(yù)處理后數(shù)據(jù)如表1所示。

3.2 參數(shù)初始化

設(shè)定初始最大隱層數(shù)h=10，每個隱層最大神經(jīng)元數(shù)l=12，則控制基因串長度(CGsL)=h*l=120，采用二進制編碼。網(wǎng)絡(luò)輸入層神經(jīng)元數(shù)n=6，網(wǎng)絡(luò)輸出層神經(jīng)元數(shù)m=4，則參數(shù)基因串長度(PGsL)=6*12+10*12+12*4+4=292，采用實數(shù)編碼。適應(yīng)度評價函數(shù)待定系數(shù)取a=0.95，b=0.05，c=3。自適應(yīng)交叉變異算子系數(shù)取A=9:903438，自適應(yīng)遞階遺傳種群規(guī)模M=120，遺傳進化最大迭代次數(shù)g=500，網(wǎng)絡(luò)誤差精度ε=0.001，神經(jīng)網(wǎng)絡(luò)最大迭代次數(shù)epochsmax=5000。

3.3 測試結(jié)果分析

為了驗證本文提出的AHGA-BPNN巖性識別模型的有效性，將測井?dāng)?shù)據(jù)隨機打亂三次，重復(fù)進行3次實驗，分別對標(biāo)準(zhǔn)三層BP神經(jīng)網(wǎng)絡(luò)(BPNN)、標(biāo)準(zhǔn)遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)(GA-BPNN)和自適應(yīng)遞階遺傳優(yōu)化BP神經(jīng)網(wǎng)絡(luò)(AHGA-BPNN)三種巖性識別模型的收斂迭代次數(shù)、訓(xùn)練耗時、輸出誤差和識別準(zhǔn)確率進行對比分析。

表1 訓(xùn)練集和測試集歸一化處理后數(shù)據(jù)

三種巖性識別模型實驗結(jié)果數(shù)據(jù)如表2所示，可知本文提出的AHGA-BPNN巖性識別模型的平均識別率達(dá)到95.67%，明顯優(yōu)于BPNN的65.67%和GA-BPNN的77.7%。

在迭代次數(shù)和訓(xùn)練耗時上，BPNN巖性識別模型三次實驗平均迭代659次，平均耗時214 s；GA-BPNN巖性識別模型平均迭代221次，平均耗時104 s；AHGA-BPNN巖性識別模型平均迭代101次，平均耗時62 s。由實驗結(jié)果可知，本文提出的AHGA-BPNN方法的收斂迭代次數(shù)、訓(xùn)練耗時和網(wǎng)絡(luò)輸出誤差較BPNN模型均有較大縮減。

由圖6可知，本文提出的AHGA-BPNN算法在實際巖性識別測試中所得結(jié)果與實際巖性情況完全相符，具有識別準(zhǔn)確率高、收斂速度快和求解耗時短等特點，較其余兩種方法的識別準(zhǔn)確率有較大提高。

表2 三次實驗結(jié)果對比

圖6 實驗結(jié)果Fig.6 The test resultsa.三種方法的均方誤差變化曲線；b.AHGA-BPNN和GA-BPNN方法在遺傳進化中適應(yīng)度值變化曲線；c.AHGA-BPNN隱藏層數(shù)變化曲線；d.AHGA-BPNN和GA-BPNN隱藏層神經(jīng)元個數(shù)變化曲線；e.第三次實驗結(jié)果

4 結(jié)束語

本文提出的自適應(yīng)遞階遺傳神經(jīng)網(wǎng)絡(luò)實現(xiàn)神經(jīng)網(wǎng)絡(luò)傳遞參數(shù)和網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的同步優(yōu)化，解決了傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)收斂速度慢，網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)選取困難等問題。自適應(yīng)交叉變異算子依據(jù)適應(yīng)度值和進化階段進行自適應(yīng)變化，有效提升種群多樣性，使進化過程有效避免“早熟”現(xiàn)象的發(fā)生。將本文方法運用于實際測井巖性識別中，并與標(biāo)準(zhǔn)三層BP神經(jīng)網(wǎng)絡(luò)和標(biāo)準(zhǔn)遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)相比較，結(jié)果表明，本文提出的自適應(yīng)遞階遺傳神經(jīng)網(wǎng)絡(luò)巖性識別方法準(zhǔn)確率高，訓(xùn)練速度快?？傊?，自適應(yīng)遞階遺傳神經(jīng)網(wǎng)絡(luò)巖性識別方法有效提升了儲層巖性鑒別的精確性，為測井資料地質(zhì)解釋提供了一種新思路，在儲層預(yù)測、油藏描述等領(lǐng)域有著重要的意義。

程國建，周冠武，王瀟瀟. 2007. 概率神經(jīng)網(wǎng)絡(luò)方法在巖性識別中的應(yīng)用[J].微計算機信息, 23(6-1):288-289.

高美娟. 2005. 用于儲層參數(shù)預(yù)測的神經(jīng)網(wǎng)絡(luò)模式識別方法研究[D].大慶：大慶石油學(xué)院:3-10.

王祝文，劉菁華，任莉. 2009. 基于K均值動態(tài)聚類分析的地球物理測井巖性分類方法[J].東華理工大學(xué)學(xué)報：自然科學(xué)版，32(2):152-156.

張治國. 2006. 人工神經(jīng)網(wǎng)絡(luò)及其在地學(xué)中的應(yīng)用研究[D].長春：吉林大學(xué):21-30.

Juprasert S, Jusbasche M, Sanyal S K. 1980. An Evaluation of A Rhyolite-ba S Alt-volcanic Ash Sequence From Well Logs[J]. Log Analyst, 12(1):10-20.

Ke J Y, Tang K S, Man K F, et al. 1998. Hierarchical genetic fuzzy controller for a solar power plant[C]//IEEE International Symposium on Industrial Electronics. Proceedings. ISIE. IEEE:584-588.

Mennon A, K Mehrotra, C K Mohan, et al.1996. Characterization of a class of sigmoid functions with applications to neural networks[J].Neural Networks,(9):819-835.

Simon O. Haykin. 2009. Neural Networks and Learning Machines, 3rd Edition[M].Prentice Hall PTR:25-30.

Sutton R S. 1986. Two problems with back-propagation and other steepest-descent learning procedures for networks[J]. Proc Cognitive Sci Soc, 12(6):48-56.

Whitley D. 1995. Genetic algorithms and neural networks[J]. Genetic algorithms in engineering and computer science, 3: 203 -216.