一種基于神經(jīng)網(wǎng)絡(luò)的圖像識(shí)別算法

曾曉娟

摘要：該文介紹了一種基于神經(jīng)網(wǎng)絡(luò)的圖像識(shí)別算法。人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Network，ANN）是在神經(jīng)生物學(xué)發(fā)展的基礎(chǔ)上，模仿生物神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)功能，進(jìn)行分布式并行信息處理的數(shù)學(xué)模型。自1943年第一個(gè)人工神經(jīng)網(wǎng)絡(luò)模型誕生至今，人們已發(fā)展出了多種類型的網(wǎng)絡(luò)結(jié)構(gòu)與算法，其中誤差逆?zhèn)鞑ド窠?jīng)網(wǎng)絡(luò)，即BP神經(jīng)網(wǎng)絡(luò)是發(fā)展最為成熟和應(yīng)用最為廣泛的一種神經(jīng)網(wǎng)絡(luò)模型。圖像識(shí)別是目前計(jì)算機(jī)科學(xué)領(lǐng)域中數(shù)字圖像處理與模式識(shí)別相交叉的一個(gè)研究熱點(diǎn)，具有重要的理論價(jià)值和廣泛的應(yīng)用需求。該文采用基于BP神經(jīng)網(wǎng)絡(luò)的圖像識(shí)別算法進(jìn)行建模仿真，分析和研究了兩個(gè)具體實(shí)例。

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò)；圖像識(shí)別；BP算法；人工智能

中圖分類號(hào)：TP394.1 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1009-3044（2015）17-0171-04

An Image Recognition Algorithm based on Neural Network

ZENG Xiao-juan

（Information Project Department， Higher Vocational School of Electrical and Mechanical Services in Jiangsu Xuzhou， Xuzhou 221011， China）

Abstract： This paper introduces a kind of image recognition algorithm based on neural network. Artificial neural network is a kind of mathematical model based on the development of neurobiology. It imitates structure and function of biological neural network and does the distributed parallel information processing. Since the first artificial neural network model was built in 1943， people have developed hundreds of network structures and algorithm models. Of them the error back propagation （BP） neural network is one of the most mature and most widely algorithm models. Image recognition is now a hot research topic in the field of digital image processing and pattern recognition and has important theory values and wide range of practical applications. This paper simply introduces two example of image recognition based on neural network algorithm by using MATLAB.

Key words： neural network； image recognition； BP algorithm； artificial intelligence

1 引言

圖像識(shí)別的難點(diǎn)在于圖像特征會(huì)隨著圖像自身內(nèi)部的變化及外部光線強(qiáng)弱等影響而發(fā)生整體或局部的變化。由于人腦是一種高度進(jìn)化的發(fā)達(dá)的復(fù)雜信息處理器官，因此能夠在不同條件及環(huán)境下提取圖像特征，對(duì)圖象所傳達(dá)的信息做出有效分析。但計(jì)算機(jī)作為人類設(shè)計(jì)制造的一種信息處理機(jī)器卻遠(yuǎn)不能擁有人腦所具備的能力。因此，一種可行的方式就是，可以通過(guò)模仿人類大腦的結(jié)構(gòu)模型和工作原理，對(duì)構(gòu)成大腦的最基本單元——神經(jīng)元進(jìn)行數(shù)學(xué)抽象，構(gòu)建人工神經(jīng)網(wǎng)絡(luò)，以此對(duì)圖像進(jìn)行特征提取以及識(shí)別?；谌斯ど窠?jīng)網(wǎng)絡(luò)的方法進(jìn)行圖像識(shí)別的特點(diǎn)主要是利用神經(jīng)網(wǎng)絡(luò)作為分類器，將已經(jīng)進(jìn)行一定程度處理的圖像信息如提取的特征向量等作為不同學(xué)習(xí)樣本，輸入該分類器進(jìn)行訓(xùn)練，使得該神經(jīng)網(wǎng)絡(luò)分類系統(tǒng)通過(guò)自動(dòng)學(xué)習(xí)調(diào)整各神經(jīng)元的權(quán)重，最終達(dá)到一個(gè)穩(wěn)定的狀態(tài)并能夠很好地反映出所處理圖像的特點(diǎn)，并能夠正確分類。文章所介紹的基于神經(jīng)網(wǎng)絡(luò)的圖像識(shí)別算法，在本質(zhì)上是一種仿生方法的數(shù)學(xué)化應(yīng)用。

2 BP神經(jīng)網(wǎng)絡(luò)

2.1 BP神經(jīng)網(wǎng)絡(luò)模型

BP（Back Propagation）神經(jīng)網(wǎng)絡(luò)是以Rumelhart和McCelland為首的科學(xué)家小組于1986年提出的一種根據(jù)誤差的反向傳播算法訓(xùn)練的多層前饋網(wǎng)絡(luò)，是目前發(fā)展得最為深入，應(yīng)用最為廣泛的人工神經(jīng)網(wǎng)絡(luò)模型之一。BP神經(jīng)網(wǎng)絡(luò)具有學(xué)習(xí)和貯存大量輸入-輸出映射關(guān)系的特點(diǎn)，且無(wú)需事前給出描述該映射關(guān)系的數(shù)學(xué)方程。其學(xué)習(xí)方法采用最大速降法，反向傳播誤差以不斷調(diào)整網(wǎng)絡(luò)的權(quán)值及閾值，使整個(gè)網(wǎng)絡(luò)的方差最小。BP網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)包括：輸入層（input）、隱藏層（hidden layer）和輸出層（output layer），其模型各部分分別簡(jiǎn)述如下：

1）輸入/輸出模型

以最簡(jiǎn)單的BP神經(jīng)網(wǎng)絡(luò)模型為例，其基本公式為：

2.2 BP神經(jīng)網(wǎng)絡(luò)在圖像識(shí)別上的應(yīng)用

將BP神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像識(shí)別的基本思路是：根據(jù)所識(shí)別的圖像類別，在識(shí)別每一幀圖像的過(guò)程中利用BP神經(jīng)網(wǎng)絡(luò)建立分類器模型。

分類（Classification）是數(shù)據(jù)挖掘的三大核心技術(shù)之一，其實(shí)質(zhì)是產(chǎn)生一個(gè)目標(biāo)函數(shù)f，該函數(shù)將輸入數(shù)據(jù)集的屬性集x映射到已經(jīng)定義的類標(biāo)簽y上，該目標(biāo)函數(shù)通常也被稱為分類模型或分類器（Classifier）。

因此，分類可以定義為：通過(guò)對(duì)已知分類的訓(xùn)練集（Training Set）的學(xué)習(xí)，用樣本的特征屬性建立一個(gè)劃分類別屬性的模型，也就是分類器的訓(xùn)練；然后用測(cè)試集（Test Set）來(lái)評(píng)價(jià)模型的準(zhǔn)確率，也稱為分類器的測(cè)試。達(dá)到測(cè)試標(biāo)準(zhǔn)的模型便可以對(duì)新樣本進(jìn)行分類，最終實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)在圖像識(shí)別上的應(yīng)用。

2.3 BP神經(jīng)網(wǎng)絡(luò)算法建模

BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)主要由由正向傳播和誤差反向傳播兩部分構(gòu)成。

在正向傳播學(xué)習(xí)過(guò)程中，每一層的神經(jīng)元狀態(tài)影響且只影響下一層神經(jīng)元。若輸出層未得到期望輸出，即實(shí)際輸出與期望輸出之間存在誤差，則進(jìn)入誤差反向傳播學(xué)習(xí)過(guò)程。

誤差反向傳播學(xué)習(xí)即將誤差信號(hào)沿著原有神經(jīng)元連接通路返回，根據(jù)誤差，通過(guò)修改各層神經(jīng)元之間的連接權(quán)值，逐層返回輸入層方向進(jìn)行計(jì)算，完成該過(guò)程后再次重復(fù)正向傳播學(xué)習(xí)過(guò)程。

通過(guò)這兩個(gè)過(guò)程的反復(fù)運(yùn)用，最終使得實(shí)際輸出距離期望輸出的誤差最小。但實(shí)際應(yīng)用時(shí)，往往預(yù)先設(shè)定能夠接受的目標(biāo)誤差達(dá)，當(dāng)網(wǎng)絡(luò)經(jīng)學(xué)習(xí)達(dá)到所設(shè)定的誤差精度時(shí)，網(wǎng)絡(luò)學(xué)習(xí)即可結(jié)束。

為簡(jiǎn)化描述，假定該網(wǎng)絡(luò)只有一個(gè)輸出y。給定N個(gè)樣本為：（xk， yk）（k=1，2，...，N），假設(shè)神經(jīng)元任一節(jié)點(diǎn)i的輸出為[ο]i，則對(duì)應(yīng)神經(jīng)元的輸入為xk，對(duì)應(yīng)網(wǎng)絡(luò)的輸出則為yk，節(jié)點(diǎn)i的輸出則為[ο]ik。

現(xiàn)以第l層的第j個(gè)單元為研究對(duì)象，當(dāng)輸入第k個(gè)樣本時(shí)，節(jié)點(diǎn)j的輸入為：

2.4 算法優(yōu)化

為了達(dá)到所設(shè)定的精度，需要對(duì)該模型進(jìn)行優(yōu)化，以期得到較理想的圖像識(shí)別效果。需要指出的是，訓(xùn)練樣本（即輸入）的輸入順序從某一次到另一次必須滿足隨機(jī)狀態(tài)下完成。學(xué)習(xí)速率等參數(shù)需隨著訓(xùn)練的迭代次數(shù)的增加而予以調(diào)整（通常情況下需減少）。因此通過(guò)該模型結(jié)合較多的迭代次數(shù)，一般可以使得圖像識(shí)別達(dá)到一個(gè)新的精度。

3 仿真實(shí)驗(yàn)

3.1 仿真實(shí)驗(yàn)

為了檢驗(yàn)上文介紹的BP神經(jīng)網(wǎng)絡(luò)模型在實(shí)際應(yīng)用時(shí)的效果，在MATLAB環(huán)境下進(jìn)行了仿真實(shí)驗(yàn)。由于在隱含層的神經(jīng)元個(gè)數(shù)可以隨意調(diào)整的前提下，單隱含層的BP神經(jīng)網(wǎng)絡(luò)可以逼近任意的非線性映射。輸入層和輸出層神經(jīng)元個(gè)數(shù)為1，只有一個(gè)隱含層，其個(gè)數(shù)根據(jù)上述的設(shè)計(jì)經(jīng)驗(yàn)公式和本例的實(shí)際情況，選取9-16之間。下面的隱含層神經(jīng)元個(gè)數(shù)可變的BP神經(jīng)網(wǎng)絡(luò)，通過(guò)誤差和訓(xùn)練步數(shù)對(duì)比確定隱含層個(gè)數(shù)，并檢驗(yàn)隱含層神經(jīng)元個(gè)數(shù)對(duì)網(wǎng)絡(luò)性能的影響。

3.2 BP神經(jīng)網(wǎng)絡(luò)的MATLAB設(shè)計(jì)

在隱藏層神經(jīng)元數(shù)目可以任意調(diào)整的前提下，單隱藏層BP神經(jīng)網(wǎng)絡(luò)可以逼近任意非線性映射。輸入層和輸出層神經(jīng)元數(shù)目為1，則只有一個(gè)隱藏層，其神經(jīng)元數(shù)目根據(jù)本例的實(shí)際情況可選為9-16。接下來(lái)構(gòu)建一個(gè)隱藏層神經(jīng)元數(shù)目可變的BP神經(jīng)網(wǎng)絡(luò)，通過(guò)誤差和迭代次數(shù)的對(duì)比來(lái)確定隱藏層數(shù)目，并檢驗(yàn)隱藏層神經(jīng)元數(shù)目對(duì)網(wǎng)絡(luò)性能的影響。下面是重要步驟的MATLAB程序代碼及注釋：

%隱藏層的神經(jīng)元數(shù)目范圍

據(jù)圖可知，選擇隱含層神經(jīng)元數(shù)目為15是最佳選擇，不僅誤差小、學(xué)習(xí)步長(zhǎng)短，而且性能穩(wěn)定。也可以看出并非隱含層神經(jīng)元的數(shù)目越多，網(wǎng)絡(luò)的性能就越好。

3.3 實(shí)驗(yàn)總結(jié)

修改BP網(wǎng)絡(luò)學(xué)習(xí)算法的學(xué)習(xí)函數(shù)，可以得到標(biāo)準(zhǔn)BP算法以外的其他算法：增動(dòng)量法、彈性算法、動(dòng)量及自適應(yīng)學(xué)習(xí)速率法以及共軛梯度法和L-M算法。其中后兩者的收斂速度明顯更快。從實(shí)際的仿真結(jié)果及方差綜合觀之，僅L-M算法可以達(dá)到目標(biāo)誤差，因而對(duì)高精度的誤差來(lái)說(shuō)，L-M算法的優(yōu)勢(shì)要更為明顯；從方差結(jié)果及仿真效果圖來(lái)看，進(jìn)行仿真實(shí)驗(yàn)的算法從優(yōu)到劣依次為L(zhǎng)-M算法、共軛梯度法、彈性算法、動(dòng)量及自適應(yīng)學(xué)習(xí)速率法、增動(dòng)量法和標(biāo)準(zhǔn)BP算法；從誤差曲線來(lái)看，L-M算法達(dá)到了目標(biāo)誤差，標(biāo)準(zhǔn)BP算法的誤差曲線較粗，是因?yàn)檩^小范圍振蕩產(chǎn)生鋸齒，在圖形中由于間距加大，圖形不斷重疊而成，收斂速度很慢；增動(dòng)量法、彈性算法、動(dòng)量及自適應(yīng)學(xué)習(xí)速率法的誤差曲線較為平滑，在剛開(kāi)始收斂較快，在訓(xùn)練步數(shù)增加的時(shí)候，曲線趨于水平，收斂速度比較慢；共軛梯度法和L-M算法的誤差曲線變化較大且產(chǎn)生局部鋸齒狀，說(shuō)明不是最優(yōu)，仍需要進(jìn)行優(yōu)化，其中L-M算法達(dá)到了目標(biāo)誤差。共軛梯度法在相鄰迭代的正交方向搜索，綜合誤差曲線可知當(dāng)接近極值時(shí)會(huì)產(chǎn)生鋸齒形振蕩。再根據(jù)前面對(duì)各種BP改進(jìn)算法的描述可知，彈性算法不需要進(jìn)行搜索，需要內(nèi)存比較小，因此在一些大型網(wǎng)絡(luò)中比較適用，但是需要很長(zhǎng)的訓(xùn)練時(shí)間。對(duì)收斂速度要求不高時(shí)也可使用動(dòng)量及自適應(yīng)學(xué)習(xí)速率法。在小型網(wǎng)絡(luò)中，共軛梯度法僅次于L-M算法，但是L-M算法需要更大的內(nèi)存做臨時(shí)存儲(chǔ)，對(duì)于較大復(fù)雜的網(wǎng)絡(luò)和內(nèi)存受限的設(shè)備來(lái)說(shuō)不是很好的選擇，但是對(duì)于小型網(wǎng)絡(luò)來(lái)說(shuō)卻是首要選擇。對(duì)訓(xùn)練時(shí)間允許的條件下，共軛梯度法和彈性算法是對(duì)復(fù)雜大型網(wǎng)絡(luò)較好的選擇。

4 結(jié)論

本文首先指出了神經(jīng)網(wǎng)絡(luò)在圖像識(shí)別領(lǐng)域中的研究目的和應(yīng)用意義，并介紹了BP神經(jīng)網(wǎng)絡(luò)算法的數(shù)學(xué)模型及其工作原理，并分析研究了BP神經(jīng)網(wǎng)絡(luò)在具體實(shí)例中的應(yīng)用。并對(duì)比了基于不同算法的BP神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)性能和應(yīng)用特點(diǎn)。實(shí)驗(yàn)證明，在圖像識(shí)別領(lǐng)域應(yīng)用BP神經(jīng)網(wǎng)絡(luò)方法可以大大提高圖像的識(shí)別速度和精度，這將是今后圖像識(shí)別領(lǐng)域的一個(gè)發(fā)展熱點(diǎn)。

參考文獻(xiàn)：

[1] 海金（HayKin，S.），葉世偉.神經(jīng)網(wǎng)絡(luò)原理（原書第2版）[M].北京：機(jī)械工業(yè)出版社，2004： 12-268.

[2] 周開(kāi)利，康耀紅.神經(jīng)網(wǎng)絡(luò)模型及其MATLAB仿真程序設(shè)計(jì)[M]. 北京：清華大學(xué)出版社，2004： 2-4.

[3] 王永驥，涂健.神經(jīng)元網(wǎng)絡(luò)控制[M].北京：機(jī)械工業(yè)出版社，1998： 1-309.

[4] 張乃繞，閻平凡.神經(jīng)網(wǎng)絡(luò)與模糊控制[M].北京：清華大學(xué)出版社，1998： 1-29.

[5] 樓順天.基于Matlab的系統(tǒng)分析與設(shè)計(jì)---神經(jīng)網(wǎng)絡(luò)[M].西安：西安電子科技大學(xué)出版社，2000：23-40.

[6] 周開(kāi)利，康耀紅.神經(jīng)網(wǎng)絡(luò)模型及其MATLAB仿真程序設(shè)計(jì)[M].清華大學(xué)出版社，2006：10-43

[7] 魏海坤.神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)的理論與方法[M].國(guó)防工業(yè)出版社，2005：20-30

[8] 李學(xué)橋.神經(jīng)網(wǎng)絡(luò)工程應(yīng)用[M]. 重慶：重慶大學(xué)出版社，1995：20-73.

[9] 馮蓉， 楊建華.基于BP神經(jīng)網(wǎng)絡(luò)的函數(shù)逼近的MATLAB實(shí)現(xiàn)[J]. 榆林學(xué)院學(xué)報(bào)， 2007（2）.