基于GA的BP網(wǎng)絡(luò)算法優(yōu)化及應(yīng)用

林浩宇

（福州大學(xué) 物理與信息工程學(xué)院，福建 福州 350000）

0 引 言

BP（Back Propagation，BP）神經(jīng)網(wǎng)絡(luò)在生活中的應(yīng)用處處可見，如數(shù)字識別系統(tǒng)的設(shè)計、PID參數(shù)的整定值、函數(shù)逼近以及模式識別的應(yīng)用，都可以基于BP神經(jīng)網(wǎng)絡(luò)展開[1]。BP算法具有精確性高等優(yōu)點，但是也存在收斂速度慢、易陷入局部極小問題的缺點[2]。遺傳算法（Genetic Algorithm，GA）作為生物智能算法的一種，基于生物進化理論基礎(chǔ)發(fā)展而來，是一種自適應(yīng)性的算法，能夠?qū)σ粋€數(shù)據(jù)空間進行全局部優(yōu)，而且在收斂性方面也有一定的優(yōu)越性[3]。本文將遺傳算法與BP神經(jīng)網(wǎng)絡(luò)算法巧妙地結(jié)合在一起，利用遺傳算法對BP神經(jīng)網(wǎng)絡(luò)進行權(quán)值與閾值求解，并進行優(yōu)化處理，從而得到權(quán)值和閾值的最優(yōu)解，使BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的穩(wěn)定性大幅度提升[4-5]。

在理論研究方面，朱苗苗等人將BP神經(jīng)網(wǎng)絡(luò)和遺傳算法結(jié)合形成一種交互式算法[1]；在日常的生活應(yīng)用中，徐星等人基于遺傳算法優(yōu)化的BP網(wǎng)絡(luò)對礦井的水質(zhì)進行了分析[6]；在對未來數(shù)據(jù)走勢預(yù)測領(lǐng)域，謝夢蝶、秦江濤通過遺傳算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)實現(xiàn)了對股指進行預(yù)測及研究[7]；謝文強通過遺傳算法優(yōu)化的BP網(wǎng)絡(luò)對鋰離子電池剩余容量進行預(yù)測[8]。這些涉及日常生活各個領(lǐng)域的實驗及實踐有力地證明了遺傳算法優(yōu)化的BP網(wǎng)絡(luò)具有很強的實用性，也展現(xiàn)了遺傳算法的高效性與可利用性。

在數(shù)據(jù)云集的時代，BP神經(jīng)網(wǎng)絡(luò)在生活中的應(yīng)用處處可見。它可以對事物的未來變化過程進行預(yù)判，從而成為趨勢預(yù)測領(lǐng)域的有力工具之一。它利用構(gòu)建相對應(yīng)的模型，通過過去產(chǎn)生的數(shù)據(jù)隨時間推移變化的規(guī)律，對數(shù)據(jù)未來的趨勢進行預(yù)測[9]。但是，傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)存在收斂速度慢等缺點，有一定的局限性，而遺傳算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)，能很好地彌補傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)的這一缺點。優(yōu)化后的BP神經(jīng)網(wǎng)絡(luò)具有適應(yīng)性強、網(wǎng)絡(luò)穩(wěn)定度高的優(yōu)勢。

1 遺傳算法理論

遺傳算法GA是一種生物智能優(yōu)化算法。它實質(zhì)上是一種全局搜索尋找最優(yōu)值的技術(shù)。遺傳算法針對對隨機產(chǎn)生的可能結(jié)果，在這些結(jié)果中選擇一定量的可能解作為一個種群，根據(jù)相應(yīng)的規(guī)則，即自然遺傳學(xué)的選擇及交叉變異等方法，通過種群的迭代，得到最優(yōu)解。在種群迭代的過程中，需要對個體適應(yīng)度的大小進行比較，按照優(yōu)勝劣汰以及適者生存的原理，逐漸搜索得到一個最優(yōu)解，最終得到一個新的解集的群體。這個解集即需要解決的問題的最理想的解[10-11]。

遺傳算法解決實際問題的步驟如下[12]，流程如圖1所示。

圖1 遺傳算法流程圖

（1）初始化。通過遺傳算法參數(shù)編碼在N個樣本中隨機選擇，確定一個初始種群P(0)，形成一個可行解的集合。

（2）個體評估。把初始的種群P(0)導(dǎo)入目標(biāo)函數(shù)，然后算出樣本中各種群的適應(yīng)度。

（3）結(jié)束條件判斷。給定一個初始條件，判斷算法結(jié)束條件，如滿足條件直接跳到至步驟（8）。

（4）選擇運算。對目標(biāo)群體采用優(yōu)勝劣汰、適者生存的法則，選擇出大量優(yōu)良個體。

（5）變異運算。通過變異概率對目標(biāo)個體進行變異運算。

（6）交叉運算。通過交叉概率對目標(biāo)個體進行交叉運算。

（7）經(jīng)過變異、交叉隨機運算，如果得到由N個新個體構(gòu)成的下一個群體P(t+1)轉(zhuǎn)至步驟（2），反之轉(zhuǎn)至步驟（4）。

（8）進化個體。得到函數(shù)中適應(yīng)度最高的一個個體，這個個體即該問題的最理想的解，結(jié)束運算。

2 遺傳算法優(yōu)化的BP網(wǎng)絡(luò)

BP神經(jīng)網(wǎng)絡(luò)雖然操作簡單、實用性強，在數(shù)據(jù)預(yù)測和圖像分割領(lǐng)域有很大優(yōu)勢，但也難免存在一些問題，如收斂速度慢、算法穩(wěn)定性較差、容易落入局部極小值等。而遺傳算法在全局搜索方面表現(xiàn)出色，通過遺傳算法得到BP神經(jīng)網(wǎng)絡(luò)權(quán)值和閾值優(yōu)化求解，就可以得到穩(wěn)定的網(wǎng)絡(luò)結(jié)構(gòu)，在圖像分割處理、數(shù)據(jù)計算以及趨勢預(yù)測方面都有較好的完善和改進，是值得一做的優(yōu)化方案。

為了充分發(fā)揮遺傳算法和BP神經(jīng)網(wǎng)絡(luò)兩者的優(yōu)勢，本文通過遺傳算法對BP神經(jīng)網(wǎng)絡(luò)進行改進優(yōu)化，優(yōu)勢互補。具體步驟如下[13-14]，流程如圖2所示。

圖2 遺傳算法優(yōu)化的BP網(wǎng)絡(luò)流程圖

（1）初始化：對整個種群進行初始化處理，利用參數(shù)編碼生成N個個體，這N個個體形成新的初始種群，然后對種群數(shù)進行計算，確定染色體長度和范圍，給出理想的誤差值。

（2）適應(yīng)度計算：計算出適應(yīng)度f，公式如下。

式中：yi為網(wǎng)絡(luò)期望的輸出，oi為實際的輸出值，SE為誤差平方和函數(shù)。

（3）交叉運算：步驟（2）計算出適應(yīng)度f，通過優(yōu)勝劣汰的原則，篩選出優(yōu)良個體，對其進行交叉運算。即選擇第k個染色體ak和第i個染色體ai，在第j位的交叉運算方式如下。

式中：b∈[0,1]。

（4）變異運算，第i個個體在第j個基因進行變異運算公式如下。

式中：amax和amin分別為染色體aij的上下界，f(g)=r(1-g/Gmax)；g為進行到當(dāng)前的迭代次數(shù)，Gmax為進化的最多次數(shù)，r∈[0,1]。

（5）評估：對種群中個體的適應(yīng)度進行計算并計算誤差。

（6）判斷是否滿足終止的條件，如果滿足，轉(zhuǎn)至步驟（7），反之轉(zhuǎn)至步驟（3）。

（7）得到BP網(wǎng)絡(luò)最優(yōu)的權(quán)值和閾值。

（8）對BP網(wǎng)絡(luò)進行校正，調(diào)整各層參數(shù)。

（9）計算BP網(wǎng)絡(luò)的誤差，如果誤差在要求的范圍內(nèi)，則結(jié)束整個過程。反之轉(zhuǎn)至步驟（7），繼續(xù)校正網(wǎng)絡(luò)參數(shù)。

（10）得到優(yōu)化后的數(shù)據(jù)，對網(wǎng)絡(luò)空間和映射關(guān)系進行保存。

3 實驗與性能

為了驗證該優(yōu)化的網(wǎng)絡(luò)的實用性，以礦井通風(fēng)量為研究對象Data0，通過總回風(fēng)巷的通風(fēng)量、瓦斯、煤塵、溫度和濕度等數(shù)據(jù)對最優(yōu)礦井通風(fēng)量進行計算。需要注意的是，總回風(fēng)巷的氣流量等于回風(fēng)巷和掘進工作面氣流量之和，具體數(shù)據(jù)如表1所示。

根據(jù)表1的數(shù)據(jù)，繪制出各因素對應(yīng)下的通風(fēng)量之間的三位曲面圖，如圖3至圖8所示。

表1 某總回風(fēng)巷的數(shù)據(jù)點

由圖3至圖8可以看出，不同變量對通風(fēng)量影響是不同的，可能由工程中間間斷作業(yè)造成。采用GA-BP網(wǎng)絡(luò)對通風(fēng)量最優(yōu)值進行預(yù)測，經(jīng)過初始化、適應(yīng)性函數(shù)、選擇、交叉、變異等操作后，得到相關(guān)的適應(yīng)度曲線，最后輸出優(yōu)化過后神經(jīng)網(wǎng)絡(luò)的預(yù)測值及誤差值，如圖9至圖11所示。

圖3 某總回風(fēng)巷煤塵、瓦斯與通風(fēng)量之間的關(guān)系圖

圖8 某總回風(fēng)巷濕度、溫度與通風(fēng)量之間的關(guān)系圖

圖9 總回風(fēng)巷預(yù)測誤差分析

圖4 某總回風(fēng)巷濕度、瓦斯與通風(fēng)量之間的關(guān)系圖

圖5 某總回風(fēng)巷溫度、瓦斯與通風(fēng)量之間的關(guān)系圖

圖6 某總回風(fēng)巷溫度、煤塵與通風(fēng)量之間的關(guān)系圖

圖7 某總回風(fēng)巷濕度、煤塵與通風(fēng)量之間的關(guān)系圖

根據(jù)圖11，得出GA-BP預(yù)測與回歸總回風(fēng)巷預(yù)測的誤差比較如表2所示。

圖10 總回風(fēng)巷最優(yōu)通風(fēng)量預(yù)測

圖11 GA-BP預(yù)測與回歸預(yù)測總回風(fēng)巷誤差比較

表2 GA-BP預(yù)測與回歸總回風(fēng)巷預(yù)測的誤差比較表

由圖9至11可以得知，GA-BP網(wǎng)絡(luò)系統(tǒng)進行全域搜索，得到通風(fēng)量的最優(yōu)條件是：瓦斯0.5%，煤塵6.5 g·m-3，溫度16.5 ℃，濕度12.5%RH，預(yù)測的最優(yōu)風(fēng)速為4.158 4 m·s-1。由此可以得出，所得到的預(yù)測結(jié)果相較于回歸分析法誤差更小，預(yù)測結(jié)果更平滑，數(shù)值更精確，在一定程度上具有一定的魯棒性和泛化能力。

4 結(jié) 語

本文的實驗充分證明了遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的可行性，即利用遺傳算法極其強大的全域搜索能力，確定BP神經(jīng)網(wǎng)絡(luò)的最優(yōu)權(quán)值和閾值，使計算預(yù)測性能大幅度提升。實驗得出的結(jié)論也很好地印證了提出這一改進算法的初衷，即要求在誤差可控制的范圍內(nèi)提高BP網(wǎng)絡(luò)算法的穩(wěn)定性。

作為研究者，要清楚地認(rèn)識到，遺傳算法與BP網(wǎng)絡(luò)結(jié)合只是一個進步的開端。接下來，研究者還需要去做多次實驗來進一步提高該算法的穩(wěn)定性和實際操作性，需要不斷降低預(yù)測誤差。既然這個優(yōu)化算法在初步試驗中被證明其具有可行性，應(yīng)該將這種思維應(yīng)用到更多算法中，更高效、更穩(wěn)定地實現(xiàn)數(shù)據(jù)預(yù)測的優(yōu)化。