基于神經(jīng)網(wǎng)絡(luò)和遺傳算法的池塘溶解氧預(yù)測模型

繆新穎,葛廷友,高輝,王建彬

(1.大連海洋大學(xué)信息工程學(xué)院,遼寧大連116023;2.大連海洋大學(xué)職業(yè)技術(shù)學(xué)院,遼寧大連116300; 3.大連海洋大學(xué)理學(xué)院,遼寧大連116023)

基于神經(jīng)網(wǎng)絡(luò)和遺傳算法的池塘溶解氧預(yù)測模型

繆新穎1,葛廷友2,高輝3,王建彬1

(1.大連海洋大學(xué)信息工程學(xué)院,遼寧大連116023;2.大連海洋大學(xué)職業(yè)技術(shù)學(xué)院,遼寧大連116300; 3.大連海洋大學(xué)理學(xué)院,遼寧大連116023)

水產(chǎn)養(yǎng)殖池塘是一個多變量、非線性和大時延系統(tǒng),其中溶解氧的預(yù)測也是一個復(fù)雜的問題。針對大連某水產(chǎn)養(yǎng)殖池塘,作者建立了一個基于Levenberg–Marquardt(LM)神經(jīng)網(wǎng)絡(luò)和遺傳算法(GA)的溶解氧預(yù)測模型GA-LM,并將該模型與傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)進(jìn)行比較分析。結(jié)果表明:使用本研究中建立的GA-LM模型預(yù)測的溶解氧值和實際測定值吻合較好,預(yù)測更為精準(zhǔn),運(yùn)行時間明顯減少。

溶解氧;Levenberg–marquardt算法;遺傳算法;預(yù)測模型

水質(zhì)測定是一個包括多種物理、化學(xué)和生物參數(shù)的復(fù)雜過程[1]。其中,池塘溶解氧作為養(yǎng)殖水域必控的水環(huán)境因子越來越受到重視。因此,及時掌握池塘水域溶解氧的動態(tài)變化規(guī)律,在缺氧之前進(jìn)行池塘溶解氧的事前預(yù)測是水產(chǎn)養(yǎng)殖生產(chǎn)中迫切需要解決的問題。

池塘溶解氧預(yù)測是一個非線性的復(fù)雜過程,利用統(tǒng)計的方法很難保證預(yù)測精度[2]。而神經(jīng)網(wǎng)絡(luò)(Neural network,NN)因為其無需輸入變量與輸出變量間復(fù)雜的相關(guān)假設(shè),成為模擬和解決非線性問題的理想工具之一,并開始應(yīng)用于溶解氧預(yù)測[3-6]。但是,采用傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)常常導(dǎo)致訓(xùn)練時間較長且易陷入局部極小點(diǎn)。Levenberg-Marquardt(LM)算法利用高斯-牛頓法可以在最優(yōu)值附近產(chǎn)生一個理想的搜索方向,從而保持較快下降速度的特點(diǎn),使網(wǎng)絡(luò)能夠有效收斂,大大提高了網(wǎng)絡(luò)的收斂速度和泛化能力。

遺傳算法(Genetic algorithm,GA)是一種模擬自然進(jìn)化過程搜索最優(yōu)解的方法。它借鑒了生物界自然選擇和自然遺傳機(jī)制,即基于達(dá)爾文適者生存、優(yōu)勝劣汰的進(jìn)化原則,對包含可行解的群體反復(fù)使用遺傳學(xué)的基本操作,不斷生成新的群體,使種群不斷進(jìn)化。同時,以全局并行搜索技術(shù)來搜索優(yōu)化群體的最優(yōu)個體,以求得滿足要求的最優(yōu)解。GA算法的最大優(yōu)點(diǎn)是,即使對多態(tài)的或非連續(xù)的函數(shù),它也能獲得全局最優(yōu)解,適合用來優(yōu)化神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)?；谝陨峡紤],本研究中,作者建立了一個綜合GA和LM兩種算法優(yōu)點(diǎn)的GA-LM模型,并將其與傳統(tǒng)的BP算法進(jìn)行比較分析。

1 池塘溶解氧預(yù)測模型(GA-LM模型)

1.1 影響池塘溶解氧的因素分析

影響池塘溶解氧的因素十分復(fù)雜,主要包括水呼吸、養(yǎng)殖生物的呼吸、底泥以及池塘水體溫度、水體含氮量和空氣中氧氣組分的分壓力等[7-9]。

本試驗中,取樣池塘設(shè)在大連市瓦房店地區(qū)謝屯,位于渤海東部區(qū)的普蘭店灣沿岸,養(yǎng)殖池塘總面積約6.67 hm2。綜合考慮各變量的可測性,選取溫度、亞硝酸鹽、氨氮和總氮4個變量作為輸入變量,輸出變量為池塘溶解氧。溫度、亞硝酸鹽氮、總氨氮和溶解氧使用美國YSI600XLM多參數(shù)水質(zhì)監(jiān)測儀現(xiàn)場測定,總氮值使用美國HACH公司制造的IL500全自動總氮分析儀測定。

對于這樣一個4輸入、1輸出的非線性系統(tǒng),非常適合利用神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測。從2006—2009三年所搜集的監(jiān)測數(shù)據(jù)中選取其中的100組數(shù)據(jù)作為建模數(shù)據(jù),其中80組作為訓(xùn)練樣本,20組作為測試樣本,對網(wǎng)絡(luò)模型進(jìn)行校驗。

1.2 GA-LM預(yù)測模型的算法

神經(jīng)網(wǎng)絡(luò)的傳統(tǒng)學(xué)習(xí)算法,如BP(Back-Propagation)通常采用梯度下降法,計算量較大,容易陷入局部極小點(diǎn),且學(xué)習(xí)效率很低。為此,本研究中選用LM算法以彌補(bǔ)BP算法的不足。LM算法是利用高斯-牛頓法可以在最優(yōu)值附近產(chǎn)生一個理想的搜索方向,從而保持較快下降速度的特點(diǎn),在最速梯度下降法和高斯-牛頓法之間自適應(yīng)調(diào)整網(wǎng)絡(luò)權(quán)值,使每次迭代不再沿著單一的負(fù)梯度方向,而是允許誤差沿著惡化的方向進(jìn)行搜索,使網(wǎng)絡(luò)能夠有效收斂,大大提高了網(wǎng)絡(luò)的收斂速度和泛化能力。由BP算法改進(jìn)得到LM算法的具體過程如下:

假設(shè)BP神經(jīng)網(wǎng)絡(luò)有Q對訓(xùn)練樣本(pq,yq), q=1,2,…,Q,其中:pq代表第q對訓(xùn)練樣本中的輸入信號;yq代表第q對訓(xùn)練樣本對應(yīng)的實際網(wǎng)絡(luò)輸出信號;令tq代表第q對訓(xùn)練樣本中的教師信號,則對應(yīng)的誤差eq=tq-yq。BP算法的訓(xùn)練目的是希望訓(xùn)練樣本的教師信號與網(wǎng)絡(luò)的輸出信號之間的誤差平方和最小,這個誤差平方和函數(shù)就是要優(yōu)化的目標(biāo)函數(shù)F:

誤差對權(quán)值w微分的雅可比矩陣為J(w),則LM算法權(quán)值的調(diào)整算法為

其中:I是單位矩陣;μ是LM算法內(nèi)部使用的一個大于零的調(diào)整因子,用于控制LM算法的迭代。當(dāng)其接近零時,LM算法接近高斯-牛頓法;當(dāng)其很大時,LM算法近似于傳統(tǒng)BP的最速下降法。通過自適應(yīng)調(diào)整該值,LM算法可以完成梯度下降法與高斯-牛頓法的較好結(jié)合。在實際操作中,該值是一個試探性的參數(shù),算法開始時μ取小值,如果求得的Δw能使誤差指標(biāo)函數(shù)F(x)降低,則該值降低到μ/β(其中β＞1);反之,該值增加至β·μ。本研究中μ初始值設(shè)為0.01,β取為5。

1.3 GA-LM預(yù)測模型的結(jié)構(gòu)

1989年Robert Hecht-Nielson證明了對于任何在閉區(qū)間內(nèi)的一個連續(xù)函數(shù)都可以用一個隱層的BP網(wǎng)絡(luò)來逼近[10],因而一個三層的BP網(wǎng)絡(luò)可以完成任意的m維到n維的映射。故在本研究中,將隱層的數(shù)目確定為1。

隱層節(jié)點(diǎn)數(shù)的選擇是一個十分復(fù)雜的問題,很多文獻(xiàn)均采用了試湊法[11]。很明顯,試湊法簡單,但缺乏科學(xué)理論依據(jù),并且運(yùn)行費(fèi)時。本研究中采用GA算法這個有效的搜索方法來確定神經(jīng)網(wǎng)絡(luò)的最優(yōu)結(jié)構(gòu),即所采用的3層LM神經(jīng)網(wǎng)絡(luò)的隱層節(jié)點(diǎn)數(shù)和最優(yōu)權(quán)值及閾值均由GA來完成。整個過程主要包括以下3個階段:

1)編碼。為了清晰表示神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),將一條染色體分為結(jié)構(gòu)基因和權(quán)重基因。結(jié)構(gòu)基因采用二進(jìn)制編碼形式,放在前面,表示隱層節(jié)點(diǎn)是否存在。其中“1”表示隱層節(jié)點(diǎn)存在,“0”表示隱層節(jié)點(diǎn)不存在;權(quán)重基因采用實數(shù)編碼,放在后面,表示連接權(quán)值和閾值。如圖1所示,假設(shè)神經(jīng)網(wǎng)絡(luò)有m個輸入節(jié)點(diǎn),n個輸出節(jié)點(diǎn),最多有L個隱層節(jié)點(diǎn)(結(jié)構(gòu)基因共L位),則相應(yīng)的連接權(quán)值和閾值為L×(m+n)個,即權(quán)重基因共L×(m+n)位,與第i個隱層節(jié)點(diǎn)有關(guān)的權(quán)值和閾值編碼被放在從L +(i-1)×(m+n)+1到L+i×(m+n)的位置上。

圖1 染色體結(jié)構(gòu)示意圖Fig.1 Structure of chromosomes

2)適應(yīng)度評價。計算每一個個體的評價函數(shù),用于評估該個體的適應(yīng)度。本研究中所采用的適應(yīng)度函數(shù)為

其中:V是經(jīng)神經(jīng)網(wǎng)絡(luò)訓(xùn)練得到的溶解氧值;T是實際測定的溶解氧值;E是誤差平方和;F是適應(yīng)度函數(shù)。通過向適應(yīng)度高的進(jìn)化過程,使得算法向誤差減小以及網(wǎng)絡(luò)結(jié)構(gòu)簡單的方向進(jìn)行。

3)遺傳算子[12]。本研究中選擇算法采用最常用的輪盤賭策略。因為二進(jìn)制編碼和實數(shù)編碼同時存在,所以交叉和變異算子均采用了混合策略。其中單點(diǎn)交叉應(yīng)用于結(jié)構(gòu)基因,算術(shù)交叉用于權(quán)重基因;同樣,在變異時,依然要判斷編碼的類型,二進(jìn)制編碼的結(jié)構(gòu)基因采用基本位變異算子,實數(shù)編碼的權(quán)重基因采用非均勻變異算子。

另外,本研究中有兩個終止判別條件。當(dāng)?shù)螖?shù)達(dá)到預(yù)設(shè)的最大進(jìn)化代數(shù)時,或當(dāng)訓(xùn)練目標(biāo)均方差(MSE)小于ε=0.001時,算法終止。

1.4 GA-LM預(yù)測模型的應(yīng)用

本研究中采用Matlab進(jìn)行編程構(gòu)成GA訓(xùn)練

LM神經(jīng)網(wǎng)絡(luò),其算法步驟如下:

1)對輸入數(shù)據(jù)進(jìn)行歸一化處理。網(wǎng)絡(luò)學(xué)習(xí)之前,為了提高精度,將試驗數(shù)據(jù)規(guī)范化,即將實測數(shù)據(jù)通過premnmx函數(shù)轉(zhuǎn)換為[-1,1]的值。

2)對運(yùn)行參數(shù)進(jìn)行設(shè)置。取種群大小N= 100,初始隱層節(jié)點(diǎn)數(shù)(最大隱層節(jié)點(diǎn)數(shù))L=22,進(jìn)化最大代數(shù)為100,交叉率為0.6,變異率為0.08。訓(xùn)練算法采用trainlm;隱層和輸出層的激活函數(shù)分別采用連續(xù)可微的tansig和線性的purelin。

3)初始化種群。結(jié)構(gòu)基因采用二進(jìn)制編碼;權(quán)重基因采用實數(shù)編碼。

4)對每個染色體解碼并計算適應(yīng)度。結(jié)構(gòu)基因為1時,與其對應(yīng)的權(quán)重基因有效;結(jié)構(gòu)基因為0時,與其對應(yīng)的權(quán)重基因無效。結(jié)構(gòu)基因為1的個數(shù)即為隱層節(jié)點(diǎn)數(shù),與其對應(yīng)的權(quán)重基因即為LM神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值,用其構(gòu)造神經(jīng)網(wǎng)絡(luò),計算每個染色體的適應(yīng)度。

5)按其適應(yīng)度采用輪盤賭策略選擇和復(fù)制個體,并按照“1.3”節(jié)中的方法進(jìn)行遺傳算子相應(yīng)的操作生成新的種群。

6)判斷是否滿足最大進(jìn)化代數(shù)或MSE小于0.001的停止準(zhǔn)則,若滿足則轉(zhuǎn)到步驟7);若不滿足則返回步驟4)。

7)對每個染色體解碼,構(gòu)造LM神經(jīng)網(wǎng)絡(luò),評價網(wǎng)絡(luò)性能。

8)利用訓(xùn)練好的LM網(wǎng)絡(luò)進(jìn)行預(yù)測并利用postmnmx函數(shù)對預(yù)測結(jié)果進(jìn)行反歸一化。

經(jīng)過迭代計算,隱層有12個節(jié)點(diǎn),即利用GA得到的最優(yōu)網(wǎng)絡(luò)結(jié)構(gòu)為4-12-1三層神經(jīng)網(wǎng)絡(luò),圖2為最優(yōu)網(wǎng)絡(luò)結(jié)構(gòu)示意圖。

圖2 最優(yōu)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)圖Fig.2 The optimal structure of a neural network

2 預(yù)測結(jié)果與分析

將利用本研究中所提出的GA-LM模型預(yù)測的結(jié)果與傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行比較。傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)的隱層節(jié)點(diǎn)數(shù)采用常見的經(jīng)驗法+試湊法確定。

其中:m和n分別為神經(jīng)網(wǎng)絡(luò)的輸入和輸出節(jié)點(diǎn)數(shù);α為一個0～10的常數(shù)。

將m=4,n=1代入,可得P的值為2～13,在此基礎(chǔ)上以均方差MSE為評判標(biāo)準(zhǔn),利用試湊法確定BP網(wǎng)絡(luò)的隱層節(jié)點(diǎn)數(shù),結(jié)果見圖3?？梢钥闯?當(dāng)隱層節(jié)點(diǎn)數(shù)為10的時候,MSE最小,故BP神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)為4-10-1。

圖3 用試湊法確定隱層節(jié)點(diǎn)數(shù)Fig.3 Determination of the number of hidden nodes by trial and error approach

利用傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)與本研究中建立的GALM模型對20組測試樣本進(jìn)行預(yù)測,溶解氧的實際測定值及模型預(yù)測值如表1所示?？梢钥闯?采用GA-LM預(yù)測的溶解氧值與測定值吻合程度遠(yuǎn)遠(yuǎn)高于BP算法。

對兩個模型的性能參數(shù)進(jìn)行比較(表2),可以看出:GA-LM模型的兩個統(tǒng)計參數(shù)平均誤差和誤差平方和遠(yuǎn)遠(yuǎn)小于BP網(wǎng)絡(luò),說明GA-LM模型預(yù)測精度明顯提高;從預(yù)測的運(yùn)行時間上看,采用試湊法的傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)明顯比GA-LM模型預(yù)測時間長很多。這說明采用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),與試湊法相比,大大節(jié)省了運(yùn)行時間。

3 結(jié)束語

面對養(yǎng)殖池塘這樣一個復(fù)雜的非線性系統(tǒng),作者在傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上,從算法和結(jié)構(gòu)上進(jìn)行了很大的改進(jìn)。結(jié)果表明:本研究中建立的GA -LM溶解氧預(yù)測模型,既發(fā)揮了LM神經(jīng)網(wǎng)絡(luò)預(yù)測精度高、泛化能力強(qiáng)的特點(diǎn),同時又能體現(xiàn)出GA的優(yōu)勢,快速優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu),節(jié)省運(yùn)行時間,進(jìn)一步提高預(yù)測性能。

表1 溶解氧的測定值及模型預(yù)測值Tab.1 The measured and predicted values of dissolved oxygen(DO)levelsmg/L

表2 兩個模型性能的比較Tab.2 Performance comparison of two prediction models

[1] Rankovic'a V,Radulovic'a J,Radojevic'b I,et al.Neural network modeling of dissolved oxygen in the Gru?a reservoir,Serbia[J]. Ecological Modelling,2010,221(4):1239-1244.

[2] Boano F,Revell R,Ridolfi L.Stochastic modelling of DO and BOD components in a stream with random inputs[J].Advances in Water Resources,2006,29(9):1341-1350.

[3] Schmid B H,Asce M,Koskiaho J.Artificial neural network modeling of dissolved oxygen in a wetland pond:the case of Hovi,Finland[J].Journal of Hydrologic Engineering,2006,11(4):188-192.

[4] Faruk D ?.A hybrid neural network and ARIMA model for water quality time series prediction[J].Engineering Applications of Artificial Intelligence,2010,23(2):586-594.

[5] Zhang S,Song W T,Mo J Y,et al.A neural network prediction model for dissolved oxygen in nutrient solution with MATLAB[J]. Environmental Informatics Archives,2005(3):207-210.

[6] Chen D J,Lu J,Shen Y N.Artificial neural network modelling of concentrations of nitrogen,phosphorus and dissolved oxygen in a non-point source polluted river in Zhejiang Province,southeast China[J].Hydrological Processes,2009,24(10):290-299.

[7] 高艷萍,于紅,崔新忠.基于優(yōu)化BP網(wǎng)絡(luò)的工廠化水產(chǎn)養(yǎng)殖水質(zhì)預(yù)測模型的實現(xiàn)[J].大連水產(chǎn)學(xué)院學(xué)報,2008,23(3):221-224.

[8] Deng C H,Wei X J,Guo L X.Application of Neural Network Based on PSO Algorithm in Prediction Model for Dissolved Oxygen in Fishpond[C]//Proc.6th World Congress on Intelligent Control and Automation(WCICA 2006).New york:IEEE Press,2006: 9401-9405.

[9] 郭連喜,鄧長輝.基于模糊神經(jīng)網(wǎng)絡(luò)的池塘溶解氧預(yù)測模型[J].水產(chǎn)學(xué)報,2006,30(2):225-229.

[10] 張立明.人工神經(jīng)網(wǎng)絡(luò)的模型及其應(yīng)用[M].上海:復(fù)旦大學(xué)出版社,1993.

[11] 王紅英,樊增緒,薛松堂.一種新的池塘溶解氧預(yù)測模型[J].農(nóng)業(yè)工程學(xué)報,1997(4):145-147.

[12] 周明,孫樹棟.遺傳算法原理及其應(yīng)用[M].北京:國防工業(yè)出版社,2000.

A prediction model for dissolved oxygen level in a fish pond based on combination of neural network and genetic algorithm

MIAO Xin-ying1,GE Ting-you2,GAO Hui3,WANG Jian-bin1
(1.School of Information Engineering,Dalian Ocean University,Dalian 116023,China;2.Vocational and Technical College,Dalian Ocean University,Dalian 116300,China;3.School of Science,Dalian Ocean University,Dalian 116023,China)

The prediction of dissolved oxygen(DO)level is complicated in aquaculture ponds as a complex system with multi-variables,nonlinearity and long-time lag.In this study,GA-LM,a hybrid neural network model combining Levenberg Marquardt(LM)algorithm and Genetic Algorithm(GA)was developed for DO level predicting in an aquaculture pond at Dalian,China.The The comparison of performance of GA-LM with the conventional Back -Propagation(BP)algorithm revealed that the predicted DO values using GA-LM model are in good agreement with the measured data,indicating that the model is capable of predicting DO accurately and rapidly.

dissolved oxygen;levenberg-marquardt algorithm;genetic algorithm;prediction model

2095-1388(2011)03-0264-04

S931.3

A

2010-08-12

國家自然科學(xué)基金資助項目(61004063);遼寧省教育廳高等學(xué)?？蒲杏媱濏椖?L2010073);遼寧省海洋與漁業(yè)廳項目(201006);遼寧省科學(xué)技術(shù)計劃項目(2010216008)

繆新穎(1977-),女,講師。E-mail:miaoxinying@dlou.edu.cn