許昌職業(yè)技術(shù)學(xué)院機(jī)電工程系 張亮亮 馬齋愛(ài)拜
人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network,簡(jiǎn)稱ANN)是在人類對(duì)其大腦神經(jīng)網(wǎng)絡(luò)認(rèn)識(shí)理解的基礎(chǔ)上人工構(gòu)造的能夠?qū)崿F(xiàn)某種功能的神經(jīng)網(wǎng)絡(luò)。它是理論化的人腦神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型,是基于模仿大腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和功能而建立的一種信息處理系統(tǒng)。它實(shí)際上是由大量簡(jiǎn)單元件相互連接而成的復(fù)雜網(wǎng)絡(luò),具有高度的非線性,能夠進(jìn)行復(fù)雜的邏輯操作和非線性關(guān)系實(shí)現(xiàn)的系統(tǒng)。
神經(jīng)元是生物神經(jīng)系統(tǒng)的最基本的單元,形狀和大小各種各樣。從組織結(jié)構(gòu)方面看,各種神經(jīng)元有其共性。神經(jīng)元由細(xì)胞體、樹(shù)突和突軸組成。
考慮到輸入信號(hào)的影響要持續(xù)一段時(shí)間(毫秒級(jí)),因此,神經(jīng)元的整合功能是一種時(shí)空整合。當(dāng)神經(jīng)元的時(shí)空整合產(chǎn)生的膜電位超過(guò)閾值時(shí),神經(jīng)元產(chǎn)生興奮性電脈沖,處于興奮狀態(tài);否則,無(wú)電脈沖產(chǎn)生,處于抑制狀態(tài)。整合后產(chǎn)生的信號(hào)延著該細(xì)胞的軸突傳遞出去,并通過(guò)突觸傳遞給其他神經(jīng)細(xì)胞,神經(jīng)細(xì)胞通過(guò)突觸的連接形成神經(jīng)網(wǎng)絡(luò)。
神經(jīng)元是人工神經(jīng)網(wǎng)絡(luò)的基本處理單元,是生物神經(jīng)元的抽象、簡(jiǎn)化和模擬。抽象是從數(shù)學(xué)角度而言,模擬是以神經(jīng)元的結(jié)構(gòu)和功能而言。一般形式神經(jīng)元如圖1所示。
神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和工作機(jī)理基本上是以人腦的組織結(jié)構(gòu)和活動(dòng)規(guī)律為背景的,它反映了腦的某些基本特征,但并不是要對(duì)人腦部分的真正實(shí)現(xiàn),可以說(shuō)它是某種抽象、簡(jiǎn)化或模仿。
如果將大量功能簡(jiǎn)單的形式神經(jīng)元通過(guò)一定的拓?fù)浣Y(jié)構(gòu)組織起來(lái),構(gòu)成群體并行分布式處理的計(jì)算結(jié)構(gòu),那么這種結(jié)構(gòu)就是人工神經(jīng)網(wǎng)絡(luò),在不引起混淆的情況下,統(tǒng)稱為神經(jīng)網(wǎng)絡(luò)。
感知機(jī)模型由感知層S(Sensory)、連接層A(Assocation)、反應(yīng)層R(Response)三層構(gòu)成。
圖1 形式神經(jīng)元模型
感知機(jī)是人們?yōu)榱搜芯看竽X的存貯、學(xué)習(xí)和認(rèn)識(shí)過(guò)程而提出的一種神經(jīng)網(wǎng)絡(luò)模型基本感知機(jī)是一個(gè)兩層網(wǎng)絡(luò),分為輸入層和輸出層,每層可由多個(gè)處理單元構(gòu)成,輸入層單元接收外部輸入模式,并傳遞給相連的輸出層單元;輸出層單元對(duì)所有輸入值加權(quán)求和,經(jīng)閾值性傳遞函數(shù)產(chǎn)生一組輸出模式。通常輸入、輸出模式用二進(jìn)制表示。兩層之間為全互連方式,即輸入層各單元與輸出層各單元均有連接,且兩層之間的連接權(quán)值是可調(diào)的。
進(jìn)行程序設(shè)計(jì)的第一步就是初始化,對(duì)感知器神經(jīng)網(wǎng)絡(luò)的初始化可采用MATLAB 7.O神經(jīng)網(wǎng)絡(luò)工具箱中的init()函數(shù)。使用init(net)函數(shù)可以得到一個(gè)已經(jīng)初始化的神經(jīng)網(wǎng)絡(luò),該網(wǎng)絡(luò)的權(quán)值和閥值是按照網(wǎng)絡(luò)初始化函數(shù)來(lái)進(jìn)行調(diào)整的,而網(wǎng)絡(luò)的初始化函數(shù)是由NET.initFcn設(shè)定的,其參數(shù)是由Net.initParam指定的。
BP網(wǎng)絡(luò)(Backpropagation NN)是一種單向傳播的多層前向網(wǎng)絡(luò)。網(wǎng)絡(luò)除輸入輸出節(jié)點(diǎn)外,還有一層或多層的隱層節(jié)點(diǎn),同層節(jié)點(diǎn)中沒(méi)有任何耦合。輸入信號(hào)從輸入層節(jié)點(diǎn)依次傳過(guò)各隱層節(jié)點(diǎn),然后傳到輸出節(jié)點(diǎn),每一層節(jié)點(diǎn)的輸出只影響下一層節(jié)點(diǎn)的輸出。其節(jié)點(diǎn)單元特性(傳遞函數(shù))通常為Sigmoid型,但在輸出層中,節(jié)點(diǎn)的單元特性有時(shí)為線性。
一個(gè)基本的神經(jīng)元模型,它具有R個(gè)輸入,每個(gè)輸入都通過(guò)一個(gè)適當(dāng)?shù)臋?quán)值w與神經(jīng)元相連,BP網(wǎng)絡(luò)中基本神經(jīng)元的激活函數(shù)必須處處可微,所以,經(jīng)常使用的是S型的對(duì)數(shù)或正切激活函數(shù)或線性函數(shù)。
在實(shí)際應(yīng)用中,原始的BP算法很難勝任,因此出現(xiàn)了很多的改進(jìn)算法。BP算法的改進(jìn)主要有兩種途徑,一種是采用啟發(fā)式學(xué)習(xí)法,另一種則是采用更有效的優(yōu)化算法。
在神經(jīng)網(wǎng)絡(luò)工具箱中,函數(shù)trainbpx()采用動(dòng)量法和學(xué)習(xí)速率自適應(yīng)調(diào)整兩種策略,從而提高了學(xué)習(xí)速度并增加了算法的可靠性,動(dòng)量法降低了網(wǎng)絡(luò)對(duì)于誤差曲面局部細(xì)節(jié)的敏感性,有效地抑制了網(wǎng)絡(luò)陷于局部極??;自適應(yīng)調(diào)整學(xué)習(xí)速率有利于縮短學(xué)習(xí)時(shí)間。
本文通過(guò)對(duì)人工神經(jīng)網(wǎng)絡(luò)的方法及應(yīng)用做了系統(tǒng)的闡述,通過(guò)分析與研究感知器網(wǎng)絡(luò)、BP神經(jīng)網(wǎng)絡(luò)作者得出以下結(jié)論:
感知器是最早提出的一種神經(jīng)網(wǎng)絡(luò)模型,它具有簡(jiǎn)單,易學(xué)易理解的優(yōu)點(diǎn),是我們初學(xué)人工神經(jīng)網(wǎng)絡(luò)時(shí)首先接觸到的一類網(wǎng)絡(luò)模型。但是它有很大的局限性,如只能對(duì)線性可分的輸入向量進(jìn)行分類;當(dāng)感知器神經(jīng)網(wǎng)絡(luò)的所有輸入樣本中存在奇異的樣本,即該樣本向量同其他所有的樣本向量比較起來(lái)特別大或特別小時(shí),網(wǎng)絡(luò)訓(xùn)練花費(fèi)的時(shí)間將很長(zhǎng)。
BP神經(jīng)網(wǎng)絡(luò)模型是在人工神經(jīng)網(wǎng)絡(luò)的實(shí)際應(yīng)用中很流行的一種網(wǎng)絡(luò)模型,它也是前向網(wǎng)絡(luò)的核心部分。BP網(wǎng)絡(luò)有很強(qiáng)的映射能力,其主要用于:模式識(shí)別、函數(shù)逼近、數(shù)據(jù)壓縮。
[1]樓順天,陳生潭,雷虎民.MATLAB5.X程序設(shè)計(jì)語(yǔ)言[M].西安電子科技大學(xué)出版社,2003,10.
[2][美]A.N.米歇爾,劉德榮著.張化光,季策,王臺(tái)山譯.遞歸人工神經(jīng)網(wǎng)絡(luò)的定性分析和綜合[M].科學(xué)出版社,2004,7.
[3]索興梅,王崇桃.人工神經(jīng)網(wǎng)絡(luò)在農(nóng)業(yè)中的應(yīng)用研究[J].計(jì)算機(jī)與農(nóng)業(yè),2002(2):6-7.