基于改進(jìn)BP神經(jīng)網(wǎng)絡(luò)的湘西方塊苗文圖像識(shí)別

伍文源，曾水玲

（ 1.吉首大學(xué) 物理與機(jī)電工程學(xué)院，湖南 吉首 416000；

2.吉首大學(xué) 信息科學(xué)與工程學(xué)院，湖南 吉首 416000 ）

【計(jì)算機(jī)科學(xué)與通信工程】

基于改進(jìn)BP神經(jīng)網(wǎng)絡(luò)的湘西方塊苗文圖像識(shí)別

伍文源1，曾水玲2

（ 1.吉首大學(xué) 物理與機(jī)電工程學(xué)院，湖南 吉首 416000；

2.吉首大學(xué) 信息科學(xué)與工程學(xué)院，湖南 吉首 416000 ）

湘西方塊苗文是湖南省湘西少數(shù)民族地區(qū)使用的一種文字，在采用傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)對(duì)字符圖像進(jìn)行識(shí)別時(shí)，易出現(xiàn)收斂速度慢、陷入局部極小值的問(wèn)題。對(duì)此，為采用BP神經(jīng)網(wǎng)絡(luò)對(duì)湘西方塊苗文圖像進(jìn)行更好地識(shí)別，提出了一種基于附加動(dòng)量法和自適應(yīng)學(xué)習(xí)速率相結(jié)合的改進(jìn)型BP神經(jīng)網(wǎng)絡(luò)，并將其應(yīng)用于湘西方塊苗文的識(shí)別。仿真結(jié)果表明，該算法不但收斂速度快，而且可以避免陷入局部極小值。

BP神經(jīng)網(wǎng)絡(luò)； 湘西方塊苗文； 圖像識(shí)別； 附加動(dòng)量法；

BP神經(jīng)網(wǎng)絡(luò)憑借其自身良好的容錯(cuò)性、自組織性和自學(xué)習(xí)等功能廣泛應(yīng)用于各個(gè)領(lǐng)域，取得了較多的研究成果。文獻(xiàn)[1]提出了基于確定學(xué)習(xí)的機(jī)器人任務(wù)空間自適應(yīng)神經(jīng)網(wǎng)絡(luò)控制，利用徑向基函數(shù)(Radial basis function, RBF) 神經(jīng)網(wǎng)絡(luò)為機(jī)器人任務(wù)空間跟蹤控制設(shè)計(jì)了一種新的自適應(yīng)神經(jīng)網(wǎng)絡(luò)控制算法，不僅實(shí)現(xiàn)了閉環(huán)系統(tǒng)所有信號(hào)的最終一致有界，而且在穩(wěn)定的控制過(guò)程中沿著回歸跟蹤軌跡實(shí)現(xiàn)了部分神經(jīng)網(wǎng)絡(luò)權(quán)值收斂到最優(yōu)值，同時(shí)實(shí)現(xiàn)了未知閉環(huán)系統(tǒng)動(dòng)態(tài)的局部準(zhǔn)確逼近。文獻(xiàn)[2]利用BP神經(jīng)網(wǎng)絡(luò)的優(yōu)化算法-LM算法，對(duì)非結(jié)構(gòu)化自由文本信息中的領(lǐng)域概念實(shí)體屬性關(guān)系進(jìn)行抽取，對(duì)語(yǔ)料進(jìn)行預(yù)處理，再利用CRFs模型對(duì)領(lǐng)域概念的實(shí)例、屬性和屬性值進(jìn)行實(shí)體識(shí)別，然后根據(jù)領(lǐng)域中各類關(guān)系的特點(diǎn)分別進(jìn)行特征提取，構(gòu)造BP神經(jīng)網(wǎng)絡(luò)模型，利用LM算法抽取相應(yīng)關(guān)系。文獻(xiàn)[3]提出了云環(huán)境下基于神經(jīng)網(wǎng)絡(luò)和群搜索優(yōu)化的資源分配機(jī)制，該機(jī)制不僅可以合理確定競(jìng)標(biāo)價(jià)，而且使價(jià)格可以動(dòng)態(tài)適應(yīng)市場(chǎng)變化。文獻(xiàn)[4]介紹了脈沖神經(jīng)網(wǎng)絡(luò)監(jiān)督學(xué)習(xí)算法的基本框架及其性能評(píng)價(jià)原則，包括脈沖序列學(xué)習(xí)能力、離線與在線處理性能、學(xué)習(xí)規(guī)則的局部特性和對(duì)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的適用性。雖然BP神經(jīng)網(wǎng)絡(luò)有以上有優(yōu)點(diǎn)，但BP神經(jīng)網(wǎng)絡(luò)在對(duì)湘西方塊苗文圖像進(jìn)行識(shí)別時(shí)，因權(quán)值修正以及學(xué)習(xí)速率的選取等問(wèn)題使識(shí)別時(shí)收斂速度比較緩慢，并且整個(gè)網(wǎng)絡(luò)容易陷入局部極小值。針對(duì)BP神經(jīng)網(wǎng)絡(luò)的這些缺陷，本文提出了在傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上將附加動(dòng)量法和自適應(yīng)學(xué)習(xí)速率調(diào)整相結(jié)合[5]來(lái)對(duì)湘西方塊苗文圖像進(jìn)行識(shí)別，克服了以上缺點(diǎn)，取得了良好的效果。

1.傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)及算法流程

BP神經(jīng)網(wǎng)絡(luò)[6-7]是一種包括輸入層、隱含層和輸出層的輸出誤差反向傳播算法的多層前饋網(wǎng)絡(luò)。其中隱含層可以是一層或者多層，可以根據(jù)網(wǎng)絡(luò)的實(shí)際需要而定，網(wǎng)絡(luò)的不同層之間相互連接，而同層

之間互不連接，整個(gè)網(wǎng)絡(luò)分為正向傳播和逆向傳播[8]。在進(jìn)行正向傳播時(shí)，樣本信息首先通過(guò)輸入層，然后經(jīng)過(guò)隱含層傳向輸出層，如果實(shí)際輸出值和期望輸出值之間存在誤差時(shí)，誤差信號(hào)會(huì)一層一層的逆向傳輸，在傳輸?shù)倪^(guò)程當(dāng)中改變各網(wǎng)絡(luò)層之間的連接權(quán)值和閾值，直到再一次作為輸入層的輸入信號(hào)開(kāi)始正向傳輸，如此反復(fù)的進(jìn)行，使得網(wǎng)絡(luò)的輸出誤差不斷地減少，直到達(dá)到合理的要求。因?yàn)楸疚乃R(shí)別的字符簡(jiǎn)單，數(shù)據(jù)量少，將采用具有輸入層、一個(gè)隱含層和輸出層的三層BP神經(jīng)網(wǎng)絡(luò)。

傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)一般采用Sigmoid函數(shù)作為傳輸函數(shù)實(shí)現(xiàn)輸入到輸出的非線性映射，使得該BP網(wǎng)絡(luò)以任意精度逼近任何連續(xù)函數(shù)，但傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)還是存在收斂速度慢和容易陷入局部極小點(diǎn)的問(wèn)題。為了解決收斂速度慢和局部極小的問(wèn)題，分別提出了附加動(dòng)量法和自適應(yīng)學(xué)習(xí)速率法。BP神經(jīng)網(wǎng)絡(luò)算法[9]實(shí)現(xiàn)具體步驟如下：

（1）分別對(duì)輸入層與隱層之間、隱層與輸出層之間的連接權(quán)值Wji和Wkj進(jìn)行初始化，學(xué)習(xí)速率η設(shè)為區(qū)間（0，1）之間的數(shù)，迭代次數(shù)l=1，累計(jì)誤差E置0。

（2）輸入樣本向量X=(X1,X2,...,Xn)T，期望輸出d=(d1,d2,...,dc)；

（8）檢查系統(tǒng)是否對(duì)所有訓(xùn)練樣本完成一輪訓(xùn)P＞N，若P＜N，計(jì)數(shù)器(P+1)，重返步聚（2）；

（9）檢查網(wǎng)絡(luò)總誤差是否達(dá)到精度要求，若滿足E＜Emax，訓(xùn)練結(jié)束，否則否則E置0，P置1，返回步聚（2）。

2.改進(jìn)的BP算法

2.1.附加動(dòng)量項(xiàng)的算法

傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)在對(duì)權(quán)值進(jìn)行修正時(shí)，只考慮了t時(shí)刻誤差函數(shù)在梯度方向上的作用，而沒(méi)有考慮t時(shí)刻以前誤差函數(shù)在梯度方向的作用[7]，使得收斂速度變慢，對(duì)誤差曲面局部細(xì)節(jié)變化敏感，容易產(chǎn)生震蕩。針對(duì)這一情況，在權(quán)值修正時(shí)附加一動(dòng)量項(xiàng)，這樣所獲得的權(quán)值是一個(gè)變化的權(quán)值，這樣可以達(dá)到加快收斂速度，增強(qiáng)網(wǎng)絡(luò)的穩(wěn)定性，降低因誤差曲面的局部細(xì)節(jié)的敏感性帶來(lái)的影響，能夠避免整個(gè)網(wǎng)絡(luò)陷入局部極小，式（1）為附加了動(dòng)量項(xiàng)的權(quán)值修正公式：

式中α為動(dòng)量常數(shù)，（0＜α＜1),Δωkj(t)為本次應(yīng)得權(quán)值修正量，Δωij(t -1)為上次權(quán)值修正量，η為學(xué)習(xí)率，kδ是誤差項(xiàng)。

2.2.自適應(yīng)調(diào)整學(xué)習(xí)速率

進(jìn)行網(wǎng)絡(luò)權(quán)值修正的目的是為了調(diào)整誤差函數(shù)，這就需要有相應(yīng)的學(xué)習(xí)速率來(lái)觀測(cè)誤差函數(shù)的變化，使得整個(gè)BP神經(jīng)網(wǎng)絡(luò)的收斂速度不會(huì)受到影響。而傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)速率是一個(gè)常數(shù)，無(wú)法對(duì)誤差函數(shù)的變化進(jìn)行觀測(cè)，勢(shì)必對(duì)整個(gè)網(wǎng)絡(luò)的收斂速度造成影響，因此我們希望通過(guò)選擇一個(gè)合適的學(xué)習(xí)速率來(lái)觀測(cè)誤差函數(shù)的變化。但學(xué)習(xí)速率選取的太小，會(huì)使整個(gè)BP神經(jīng)網(wǎng)絡(luò)的收斂速度很慢，學(xué)習(xí)速率選取的太大，會(huì)使整個(gè)BP網(wǎng)絡(luò)產(chǎn)生震蕩，不利于網(wǎng)絡(luò)的穩(wěn)定。因此，有必要對(duì)傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)速率進(jìn)行調(diào)整，以適應(yīng)網(wǎng)絡(luò)的隨機(jī)變化，目前比較常用的方法是采用能夠隨時(shí)觀測(cè)誤差函數(shù)變化的學(xué)習(xí)速率，也就是我們通常所說(shuō)自適應(yīng)學(xué)習(xí)速率方法，該學(xué)習(xí)速率的變化和誤差函數(shù)的變化成反比的關(guān)系，自適應(yīng)學(xué)習(xí)速率調(diào)整公式（2）：

式（2）中，β1，β2為學(xué)習(xí)速率調(diào)整比例因子，且β1>1，0＜β2＜1，E( t)為誤差項(xiàng)，ε為容許的反彈誤差系數(shù)，一般情況下ε>1。

2.3.改進(jìn)后的BP算法

通過(guò)對(duì)上面兩種改進(jìn)的方法可知，在傳統(tǒng)的BP網(wǎng)絡(luò)中添加附加動(dòng)量項(xiàng)，可以避免整個(gè)網(wǎng)絡(luò)陷入局部極小，但對(duì)學(xué)習(xí)速率的選擇是一個(gè)定常數(shù)，造成對(duì)網(wǎng)絡(luò)的輸出誤差變化比較敏感，不利于網(wǎng)絡(luò)的穩(wěn)定。若在傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)中只進(jìn)行自適應(yīng)學(xué)習(xí)率的調(diào)整，雖然可以加快網(wǎng)絡(luò)的收斂速度，但很難避免網(wǎng)絡(luò)陷入局部極小，若將這兩種方法結(jié)合起來(lái)形成一個(gè)新的BP神經(jīng)網(wǎng)絡(luò)算法，這樣既可以克服收斂速度慢的缺陷，又可以避免網(wǎng)絡(luò)陷入局部極小，因此本文提出了將附加動(dòng)量法和自適應(yīng)學(xué)習(xí)速率相結(jié)合的改進(jìn)型的BP神經(jīng)網(wǎng)絡(luò)算法[10]對(duì)湘西方塊苗文進(jìn)行識(shí)別。

3.基于改進(jìn)BP神經(jīng)網(wǎng)絡(luò)的湘西方塊苗文識(shí)別

3.1.初始權(quán)值的確定

網(wǎng)絡(luò)權(quán)值初始化的好壞，將直接影響到網(wǎng)絡(luò)的收斂速度、是否會(huì)達(dá)局部極小值及訓(xùn)練時(shí)間的長(zhǎng)短，一般來(lái)說(shuō)使隱含層神經(jīng)元節(jié)點(diǎn)的初始化權(quán)值盡量小，使輸出層神經(jīng)元節(jié)點(diǎn)初始化權(quán)值為+1和-1的數(shù)目相等，這樣就可以大大的縮短網(wǎng)絡(luò)的訓(xùn)練時(shí)間，加快收斂速度以及避免陷入局部極小。

3.2.輸入層神經(jīng)元個(gè)數(shù)的確定

因?yàn)楸疚乃R(shí)別的湘西方塊苗文圖像少，并且采用神經(jīng)網(wǎng)絡(luò)進(jìn)行識(shí)別，只需要將所要識(shí)別的樣本進(jìn)行大小歸一化來(lái)獲取特征向量，在這里我們將所要識(shí)別的湘西方塊苗文圖像歸一化50×50大小，再將圖像按列轉(zhuǎn)換成一個(gè)2500×1的行向量，從而得到2500個(gè)特征向量，因?yàn)橛卸嗌賯€(gè)輸入特征向量就需要有多少個(gè)輸入神經(jīng)元，因此輸入層需要2500個(gè)神經(jīng)元。

3.3.隱含層神經(jīng)元個(gè)數(shù)的確定

隱含層的設(shè)計(jì)，是整個(gè)網(wǎng)絡(luò)設(shè)計(jì)的關(guān)鍵，特別是隱含層節(jié)點(diǎn)數(shù)的多少，將直接影響到整個(gè)網(wǎng)絡(luò)的性能。節(jié)點(diǎn)數(shù)越多，識(shí)別精度越高，但同時(shí)也會(huì)加大訓(xùn)練的時(shí)間。節(jié)點(diǎn)數(shù)過(guò)少，會(huì)使迭代次數(shù)增加，不利于網(wǎng)絡(luò)的穩(wěn)定性。隱含層節(jié)點(diǎn)數(shù)的確定將至關(guān)重要，目前沒(méi)有一個(gè)確定的公式來(lái)確定隱層的節(jié)點(diǎn)數(shù)使網(wǎng)絡(luò)達(dá)到最優(yōu)，因?yàn)楸疚乃捎玫木W(wǎng)絡(luò)是一個(gè)三層的改進(jìn)BP神經(jīng)網(wǎng)絡(luò)。根據(jù)經(jīng)驗(yàn)公式可以算出隱含層的神經(jīng)元個(gè)數(shù)，其中m為輸出神經(jīng)元的個(gè)數(shù)，n為輸入神經(jīng)元的個(gè)數(shù)，a為[1,10]之間的整數(shù)，因此本次設(shè)計(jì)的隱層神經(jīng)元的個(gè)數(shù)為

3.4.輸出層神經(jīng)元個(gè)數(shù)的確定

一般情況下，有多少個(gè)需要識(shí)別的字符數(shù)目，就需要有多少個(gè)輸出神經(jīng)元的個(gè)數(shù)，因?yàn)楸疚男枰R(shí)別的是兩個(gè)湘西方塊苗文圖像，因此本文輸出神經(jīng)元的個(gè)數(shù)為2個(gè)。

4.仿真實(shí)驗(yàn)

4.1.動(dòng)量項(xiàng)對(duì)BP神經(jīng)網(wǎng)絡(luò)收斂速度的影響

實(shí)驗(yàn)中的采用相同的學(xué)習(xí)速率，相同的隱含層神經(jīng)元的數(shù)。動(dòng)量項(xiàng)取值不同，迭代次數(shù)差異很大。其中學(xué)習(xí)速率為0.5，隱含層神經(jīng)元的數(shù)目為60，通過(guò)取不同動(dòng)量值比較發(fā)現(xiàn)，在其他條件相同的情況下，動(dòng)量項(xiàng)越大，迭代的次數(shù)越少，網(wǎng)絡(luò)的收斂速度越快，但當(dāng)動(dòng)量項(xiàng)大于0.5后，收斂速度變化不是很明顯，并且加入動(dòng)量項(xiàng)后可以避免整個(gè)網(wǎng)絡(luò)陷入局部極小值。本文將利用0.95做為本文的動(dòng)量項(xiàng)。

表1 動(dòng)量項(xiàng)對(duì)BP神經(jīng)網(wǎng)絡(luò)收斂速度的影響

4.2.改進(jìn)前后BP神經(jīng)網(wǎng)絡(luò)的識(shí)別效果

改進(jìn)前BP神經(jīng)網(wǎng)絡(luò)的最小均方誤差設(shè)為0.001，最大的訓(xùn)練次數(shù)設(shè)為10000，訓(xùn)練間隔為10，隱含層神經(jīng)元的數(shù)目為60，動(dòng)量值為0，學(xué)習(xí)速率為定常數(shù)0.5的算法。改進(jìn)后BP神經(jīng)網(wǎng)絡(luò)的最小均方誤差、最大的訓(xùn)練次數(shù)、訓(xùn)練間隔和隱含層神經(jīng)元的數(shù)目與改進(jìn)前相同，動(dòng)量值為0.95。采用動(dòng)量項(xiàng)與自適應(yīng)學(xué)習(xí)速率相結(jié)合的算法，我們分別利用這兩個(gè)網(wǎng)絡(luò)對(duì)同一湘西方塊苗文圖像進(jìn)行識(shí)別，其實(shí)驗(yàn)結(jié)果分別如圖1～圖10所示。

圖1 原始圖像1

圖2 改進(jìn)前神經(jīng)網(wǎng)絡(luò)識(shí)別結(jié)果

圖3 改進(jìn)后神經(jīng)網(wǎng)絡(luò)識(shí)別結(jié)果

圖4 改進(jìn)前訓(xùn)練結(jié)果

圖5 改進(jìn)后訓(xùn)練結(jié)果

圖6 原始圖像2

圖7 改進(jìn)前BP神經(jīng)網(wǎng)絡(luò)識(shí)別結(jié)果

圖8 改進(jìn)后BP神經(jīng)網(wǎng)絡(luò)識(shí)別結(jié)果

圖9 改進(jìn)前訓(xùn)練結(jié)果

圖10 改進(jìn)后訓(xùn)練結(jié)果

通過(guò)改進(jìn)前后兩個(gè)BP神經(jīng)網(wǎng)絡(luò)分別對(duì)圖1進(jìn)行識(shí)別后生成的訓(xùn)練圖4與圖5可知，圖4需要迭代3990次才能達(dá)到我們所設(shè)定的最小均方誤差0.001，也就是我們上面圖2的識(shí)別效果，而圖5只需迭代143次就能達(dá)到我們所設(shè)定的最小均方誤差0.001，也就是上面圖3的識(shí)別效果，并且最后圖3的識(shí)別效果也要好于圖2的識(shí)別效果。同理，分別利用改進(jìn)前后的BP神經(jīng)網(wǎng)絡(luò)對(duì)圖6進(jìn)行識(shí)別也會(huì)得到相同效果。

上述實(shí)驗(yàn)表明，改進(jìn)后的BP神經(jīng)網(wǎng)絡(luò)不但收斂速度快于改進(jìn)前的BP神經(jīng)網(wǎng)絡(luò)，而且可以避免整個(gè)網(wǎng)絡(luò)陷入局部極小值。

5.結(jié)語(yǔ)

本文針對(duì)傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)對(duì)湘西方塊苗文圖像進(jìn)行識(shí)別時(shí)，因網(wǎng)絡(luò)權(quán)值修正以及學(xué)習(xí)速率的選取不當(dāng)容易造成收斂速度慢，容易陷入局部極小值等問(wèn)題，提出了將附加動(dòng)量法和自適應(yīng)學(xué)習(xí)效率調(diào)整相結(jié)合的BP神經(jīng)網(wǎng)絡(luò)算法對(duì)湘西方塊苗文圖像進(jìn)行識(shí)別，通過(guò)MATLAB對(duì)改進(jìn)后的算法進(jìn)行仿真實(shí)驗(yàn)，表明改進(jìn)后的算法不但改變了收斂速度慢的缺點(diǎn)，而且使整個(gè)網(wǎng)絡(luò)變得更加的穩(wěn)定，避免了網(wǎng)絡(luò)陷入局部極小值，取得了較好的效果。

[1] 吳玉香，王聰.基于確定學(xué)習(xí)的機(jī)器人任務(wù)空間自適應(yīng)神經(jīng)網(wǎng)絡(luò)控制[J].自動(dòng)化學(xué)報(bào)，2013，39（6）：806-815.

[2] 劉麗佳，郭劍毅，等.基于LM算法的領(lǐng)域概念實(shí)體屬性關(guān)系抽取[J].中文信息學(xué)報(bào)，2014，28（6）：216-222.

[3] 孫佳佳，王興偉，等.云環(huán)境下基于神經(jīng)網(wǎng)絡(luò)和群搜索優(yōu)化的資源分配機(jī)制[J].軟件學(xué)報(bào)，2014，25（8）：1858- 1873.

[4] 藺想紅，王向文，等.脈沖神經(jīng)網(wǎng)絡(luò)的監(jiān)督學(xué)習(xí)算法研究綜述[J].電子學(xué)報(bào)，2015，43（3）：577-586.

[5] 張永宏，吳鑫.神經(jīng)網(wǎng)絡(luò)在圖像字符識(shí)別中的改進(jìn)和應(yīng)用[J].南京信息工程大學(xué)學(xué)報(bào)，2011，44（5）：106-109.

[6] 吳志軍，王璐，等.基于改進(jìn) BP 神經(jīng)網(wǎng)絡(luò)的ATM系統(tǒng)信息安全評(píng)估方法[J].通信學(xué)報(bào)，2012，4（6）：150-158.

[7] 張旭蘭.基于BP人工神經(jīng)網(wǎng)絡(luò)的車(chē)牌字符識(shí)別優(yōu)化算法[J].計(jì)算機(jī)工程與應(yīng)用，2012，48（35）：182-185.

[8] 咼潤(rùn)華，蘇婷婷，等.BP神經(jīng)網(wǎng)絡(luò)聯(lián)合模板匹配的車(chē)牌識(shí)別系統(tǒng)[J].清華大學(xué)學(xué)報(bào) （自然科學(xué)版），2013，53（9）：1221-1226.

[9] 韓力群.人工神經(jīng)網(wǎng)絡(luò)教程[M].北京：北京郵電大學(xué)出版社，2006.

[10] 米江，紀(jì)國(guó)宜.改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)在風(fēng)機(jī)故障診斷中的應(yīng)用[J].噪聲與振控制，2011，（2）：94-98.

Images of Xiangxi Square Hmong Language Characters Recognition Based on Improved BP Neural Network

WU Wenyuan1, Zeng Shuiling2
( 1.College of Physics, Mechanical and Electrical Engineering, Jishou University, Jishou, Hunan 416000, China; 2. College of Information Science and Engineering, Jishou University, Jishou, Hunan 416000, China )

Square Hmong Language Characters of Xiangxi is used in Hmong area of Xiangxi. The images of characters recognition based on traditional BP neural network can easily fall into local minimum and slow convergence. As to overcome this drawbacks, improved BP neural network based on integrating the additional momentum method and adaptive learning rate methods was presented by this article. This algorithm could be used to recognize the images of Xiangxi Square Hmong Language Characters. The simulation shows that not only could the algorithm improve the convergence speed, but also get rid of local minimum.

BP neural network, images of Xiangxi Square Hmong Language, characters recognition, additional momentum method

TP311

A

1673-9639 (2016) 04-0054-05

（責(zé)任編輯 田 波）（責(zé)任校對(duì) 毛 志）

2015-09-09

國(guó)家自然科學(xué)基金項(xiàng)目(61363033和61363073）和校級(jí)課題基金項(xiàng)目（14JDY041)。

伍文源（1988-），男，湖南新化人，副教授，碩士研究生，研究方向：人工神經(jīng)網(wǎng)絡(luò)。曾水玲（1975-），女，副教授，博士，研究方向：神經(jīng)網(wǎng)絡(luò)、模式識(shí)別及其應(yīng)用。