• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于前饋神經(jīng)網(wǎng)絡(luò)的模式識(shí)別效率分析

    2015-09-27 02:35:29成曉鵬侯道琪
    現(xiàn)代計(jì)算機(jī) 2015年26期
    關(guān)鍵詞:字符識(shí)別隱層權(quán)值

    成曉鵬,侯道琪

    (解放軍電子工程學(xué)院,合肥 230037)

    基于前饋神經(jīng)網(wǎng)絡(luò)的模式識(shí)別效率分析

    成曉鵬,侯道琪

    (解放軍電子工程學(xué)院,合肥230037)

    0 引言

    人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks,ANN)融會(huì)了生物物理學(xué)和數(shù)學(xué),是一種新興的問題求解辦法,被廣泛應(yīng)用于機(jī)器學(xué)習(xí)、專家系統(tǒng)、智能控制、模式識(shí)別以及計(jì)算機(jī)視覺等多領(lǐng)域[1]。前饋神經(jīng)網(wǎng)絡(luò)算法(Feed-forward Neural Networks)是一種基礎(chǔ)的人工神經(jīng)網(wǎng)絡(luò)算法,被廣泛應(yīng)用于求解模式識(shí)別問題中;但是其網(wǎng)絡(luò)訓(xùn)練過程一直是一個(gè)值得研究和探索的重點(diǎn)。本文基于一個(gè)字符識(shí)別系統(tǒng)的設(shè)計(jì)開發(fā)流程,重點(diǎn)探討了應(yīng)用前饋神經(jīng)網(wǎng)絡(luò)算法求解模式識(shí)別問題的方法,并進(jìn)行了影響網(wǎng)絡(luò)訓(xùn)練效率的相關(guān)要素分析,最后通過實(shí)例仿真,更為直觀地展現(xiàn)了各相關(guān)因素對(duì)網(wǎng)絡(luò)訓(xùn)練效率的影響。

    1 前饋神經(jīng)網(wǎng)絡(luò)算法

    現(xiàn)代計(jì)算機(jī)雖然有很強(qiáng)的計(jì)算和信息處理能力,但是它解決模式識(shí)別、感知、評(píng)判和決策等復(fù)雜問題的能力卻遠(yuǎn)不如人,缺乏向環(huán)境學(xué)習(xí)、適應(yīng)環(huán)境的能力。人腦則具有大量的神經(jīng)元,在情況分析判斷、學(xué)習(xí)和決策等方面的性能要比計(jì)算機(jī)高的多。為了模仿人腦的工作方式,構(gòu)造一種更接近人類智能的信息處理系統(tǒng)以提高計(jì)算機(jī)求解智能問題的能力,人們?cè)O(shè)計(jì)實(shí)現(xiàn)了人工神經(jīng)網(wǎng)絡(luò)。簡(jiǎn)言之,人工神經(jīng)網(wǎng)絡(luò)就是一種具有大量連接的并行分布處理器,它具有通過學(xué)習(xí)獲取知識(shí)并解決問題的能力,且知識(shí)是分布存儲(chǔ)在連接權(quán)(對(duì)應(yīng)于生物神經(jīng)元的突觸)中,而不是像常規(guī)計(jì)算機(jī)那樣按地址存在特定的存儲(chǔ)單元中[2]。

    人工神經(jīng)元模型的設(shè)計(jì)是計(jì)算機(jī)仿生學(xué)的一個(gè)重大成就,目前已經(jīng)非常成熟。本文由于篇幅限制,只對(duì)其進(jìn)行簡(jiǎn)要的介紹。圖1所示為神經(jīng)元模型的基本結(jié)構(gòu),它主要有三個(gè)基本要素:

    (1)一組連接權(quán)(對(duì)應(yīng)于生物神經(jīng)元的突觸),連接強(qiáng)度由各連接上的權(quán)值表示,權(quán)值為正表示激勵(lì),權(quán)值為負(fù)表示抑制。

    (2)一個(gè)求和單元,用于求取各輸入信息的加權(quán)和(線性組合);此外為了對(duì)各輸入信息進(jìn)行調(diào)節(jié),還需要設(shè)置一個(gè)閾值θk。

    (3)一個(gè)非線性激勵(lì)函數(shù),起到非線性映射作用并限制神經(jīng)元輸出幅度在一定的范圍之內(nèi) (一般限制在[0,1]或[-1]之間)。

    圖1 人工神經(jīng)元模型

    以上作用可以用數(shù)學(xué)表達(dá)為:

    其中激勵(lì)函數(shù)φ(·)的形式常取閾值函數(shù)、分段線性函數(shù)和Sigmoid函數(shù)三種。但是因?yàn)镾igmoid函數(shù)具有平滑和漸進(jìn)性,并且保持單調(diào)性,所以最為常用。其函數(shù)形式如式(2)所示:

    式中,參數(shù)α可以控制其斜率。Sigmoid函數(shù)的圖形如圖2所示。

    圖2 Sigmoid函數(shù)曲線圖

    前饋型網(wǎng)絡(luò)是ANN的一種典型拓?fù)浣Y(jié)構(gòu)。在前饋型網(wǎng)絡(luò)中,各神經(jīng)元接受前一層的輸入,并輸出給下一層,沒有反饋。結(jié)點(diǎn)分為兩類,即輸入單元和計(jì)算單元。每一計(jì)算單元可以有任意多個(gè)輸入,但只有一個(gè)輸出(它可以耦合到任意多個(gè)其他結(jié)點(diǎn)作為其輸入)。前饋網(wǎng)絡(luò)可分為不同的層,第i層的輸入只與第i-1層輸出相連,輸入和輸出結(jié)點(diǎn)與外界相連,而其他中間層稱為隱層。圖3所示為具有一個(gè)隱層的前饋型神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)。

    圖3 含一個(gè)隱層的前饋型神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

    前饋神經(jīng)網(wǎng)絡(luò)的工作過程主要分為兩個(gè)階段。一個(gè)階段是學(xué)習(xí)期,此時(shí)各計(jì)算單元狀態(tài)不變,各連線上的權(quán)值通過學(xué)習(xí)來修改。第二階段是工作期,此時(shí)連接權(quán)固定,計(jì)算單元狀態(tài)的變化,以達(dá)到某種穩(wěn)定的狀態(tài)。這一部分將在后面的章節(jié)結(jié)合具體問題進(jìn)行詳述。

    2 前饋神經(jīng)網(wǎng)絡(luò)的應(yīng)用方法

    前饋型網(wǎng)絡(luò)的作用效果主要是函數(shù)映射,可以有效運(yùn)用于模式識(shí)別和函數(shù)逼近,所以在解決字符識(shí)別、語音識(shí)別等模式匹配問題時(shí)具有獨(dú)到的優(yōu)勢(shì)。為了探究前饋神經(jīng)網(wǎng)絡(luò)在字符識(shí)別技術(shù)中的運(yùn)用,本文構(gòu)建了一個(gè)簡(jiǎn)易的字符識(shí)別系統(tǒng)。該系統(tǒng)能夠通過人工神經(jīng)網(wǎng)絡(luò),對(duì)給定的字符樣本進(jìn)行學(xué)習(xí)記憶,最終實(shí)現(xiàn)對(duì)用戶給定的未知形狀的字符的識(shí)別。

    在第二節(jié)中已經(jīng)論述了典型的前饋神經(jīng)網(wǎng)絡(luò)由輸入層、隱層和輸出層組成。在解決實(shí)際問題時(shí),所謂網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計(jì)主要就是確定輸入層、輸出層的神經(jīng)元的個(gè)數(shù),以及隱層的層數(shù)和每個(gè)隱層的神經(jīng)元的個(gè)數(shù)。這些數(shù)值的確定需要算法運(yùn)用人員結(jié)合具體問題具體分析;但由于具有偏差和至少一個(gè)S型隱層加上一個(gè)線性輸出層的網(wǎng)絡(luò),能夠逼近任何有理函數(shù);所以神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)不完全受所要解決的問題的限制。網(wǎng)絡(luò)的輸入神經(jīng)元數(shù)目及輸出層神經(jīng)元的數(shù)目是由問題的要求所決定的,而輸入和輸出層之間的隱層數(shù)以及每層的神經(jīng)元數(shù)是由設(shè)計(jì)者來決定的。

    通過向環(huán)境學(xué)習(xí)獲取知識(shí)并改進(jìn)自身性能是ANN的一個(gè)重要特點(diǎn)。性能的改善是按某種預(yù)定的度量通過調(diào)節(jié)自身參數(shù) (如權(quán)值)隨時(shí)間推移逐步達(dá)到的。在前饋神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式中,最常用的學(xué)習(xí)方式就是監(jiān)督學(xué)習(xí)(有教師學(xué)習(xí))。這種學(xué)習(xí)方式需要外界存在一個(gè)“教師”,它可對(duì)給定一組輸入提供應(yīng)有的輸出結(jié)果(正確答案),根據(jù)已知輸出與實(shí)際輸出之間的差值(誤差信號(hào))來調(diào)節(jié)系統(tǒng)參數(shù),其流程圖如圖4所示。

    圖4 監(jiān)督學(xué)習(xí)方式的學(xué)習(xí)流程圖

    如果學(xué)習(xí)系統(tǒng)所處的環(huán)境平穩(wěn)時(shí),那么學(xué)習(xí)系統(tǒng)的參數(shù)在完成學(xué)習(xí)記憶之后就會(huì)形成一個(gè)穩(wěn)定的狀態(tài)。字符學(xué)習(xí)系統(tǒng)的樣本是已經(jīng)廣泛應(yīng)用的成型字符,是基本不會(huì)發(fā)生變化的。所以本文在設(shè)計(jì)ANN的學(xué)習(xí)規(guī)則時(shí)重點(diǎn)采用了誤差糾正學(xué)習(xí)。這種學(xué)習(xí)規(guī)則的數(shù)學(xué)表示如下:

    令yk(n)是輸入為xk(n)時(shí)神經(jīng)元k在n時(shí)刻的實(shí)際輸出,dk(n)表示應(yīng)有的輸出(可有訓(xùn)練樣本決定),則誤差信號(hào)可寫為ek(n)=dk(n)-yk(n)。為了達(dá)到網(wǎng)絡(luò)中的每一單元的實(shí)際輸出在某種統(tǒng)計(jì)意義上逼近應(yīng)有輸出,可以選取誤差平方和的均值:

    作為目標(biāo)函數(shù)進(jìn)行網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的目標(biāo)函數(shù),當(dāng)J值在訓(xùn)練過程中達(dá)到給定閾值φ以下時(shí),就可以認(rèn)為網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練過程可以結(jié)束了。但是在實(shí)際過程中很難直接得到誤差平方和的均值,所以常用J在時(shí)刻n的瞬時(shí)值ξ(n)代替J,即,此時(shí)問題變?yōu)榍螃危╪)對(duì)權(quán)值ω的極小值,根據(jù)梯度下降法,可以得到Δωkj=ηek(n)xj(n),η為預(yù)先設(shè)定的學(xué)習(xí)步長(zhǎng)。

    3 實(shí)例應(yīng)用

    該字符識(shí)別系統(tǒng)的給定樣本如圖5所示。該樣本共有十個(gè)字符,每個(gè)字符是一個(gè)8×8的點(diǎn)陣,教師向量是長(zhǎng)度為10的行向量,所以在設(shè)計(jì)網(wǎng)絡(luò)結(jié)構(gòu)時(shí),把輸入層的神經(jīng)元的個(gè)數(shù)設(shè)計(jì)為64個(gè),把輸出層的神經(jīng)元的個(gè)數(shù)設(shè)計(jì)為10個(gè)。同時(shí)由于問題本身相對(duì)簡(jiǎn)單,維度較小,所以設(shè)計(jì)網(wǎng)絡(luò)的隱層的層數(shù)為1層,隱層所含的神經(jīng)元的個(gè)數(shù)對(duì)網(wǎng)絡(luò)訓(xùn)練的影響效果將在下文進(jìn)行詳細(xì)論述。

    圖5 字符樣本集

    網(wǎng)絡(luò)中的權(quán)值體現(xiàn)了把輸入模式映射到網(wǎng)絡(luò)所需的知識(shí);尋找有用權(quán)值的過程稱為網(wǎng)絡(luò)訓(xùn)練。前饋神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方法主要是反向傳播 (Back Propagation,BP)算法。本小節(jié)主要就是結(jié)合簡(jiǎn)易字符識(shí)別系統(tǒng)的設(shè)計(jì)過程來論述BP算法在前饋神經(jīng)網(wǎng)絡(luò)訓(xùn)練中的運(yùn)用。結(jié)合前面所述,神經(jīng)網(wǎng)絡(luò)應(yīng)用于模式識(shí)別的基本原理就是將代表識(shí)別模式的輸入矢量輸入至輸入層,并傳至后面的隱層,最后通過連接權(quán)輸出到輸出層。該網(wǎng)絡(luò)中的每個(gè)神經(jīng)元的輸出的數(shù)學(xué)描述如下:

    式(4)中outi是所考慮層中第i個(gè)神經(jīng)元的輸出;outj是前一層第j個(gè)神經(jīng)元的輸出,ωij是各神經(jīng)網(wǎng)絡(luò)結(jié)點(diǎn)間的權(quán)值,φ是激勵(lì)函數(shù),常取Sigmoid函數(shù)。

    在進(jìn)行網(wǎng)絡(luò)訓(xùn)練之前,首先必須度量網(wǎng)絡(luò)收斂到用戶的期望值的程度。如前所述,可以采用網(wǎng)絡(luò)誤差的均方差作為度量函數(shù)。由此,可以定義均方差如下:

    式(5)中,Ep是第p個(gè)表征矢量的誤差,tpj是第個(gè)神經(jīng)元的期望值,Opj是第j個(gè)輸出神經(jīng)元的實(shí)際值。因?yàn)樽罱K形式是整體求和,所以上式可以反映單個(gè)輸出神經(jīng)元對(duì)整體誤差的影響。根據(jù)梯隊(duì)下降訓(xùn)練算法,我們可以調(diào)整權(quán)值來使得網(wǎng)絡(luò)整體誤差最小,這就涉及到了網(wǎng)絡(luò)訓(xùn)練的最為核心本質(zhì)的內(nèi)容:權(quán)值究竟應(yīng)該如何調(diào)整。

    根據(jù)梯度的定義,權(quán)值的誤差函數(shù)負(fù)梯度指向誤差函數(shù)減小最快的方向。如果在權(quán)值空間沿這個(gè)矢量移動(dòng),最終將達(dá)到最小值,且最小值處梯度為零。該過程用數(shù)學(xué)方法可以描述為:

    式(6)中,Δpωji表示連接第l-1層的源神經(jīng)元i和l層的目的神經(jīng)元j之間的權(quán)值的變化。因?yàn)闄?quán)值的這個(gè)變化規(guī)律,將導(dǎo)致梯度沿著降低誤差的方向的變化,最終達(dá)到誤差的最小值。

    確定了權(quán)值的變化規(guī)律之后,就必須要確定如何調(diào)整每個(gè)權(quán)值使得網(wǎng)絡(luò)收斂。為了便于計(jì)算機(jī)計(jì)算,需要對(duì)式(5)進(jìn)行變形:

    根據(jù)微分的數(shù)學(xué)原理:

    netpj代表對(duì)l-1層的所有神經(jīng)元的輸出Opl求和,由此

    繼續(xù)變形:

    由此:

    但是在計(jì)算權(quán)值變化量時(shí),必須考慮目的神經(jīng)元是位于輸出層還是隱層之內(nèi)。經(jīng)過數(shù)學(xué)計(jì)算,可以得到如下結(jié)論:

    但是真正的梯度下降法在實(shí)際使用過程中以無窮小的步長(zhǎng)進(jìn)行,這顯然在實(shí)際中做不到。由此,我們必須對(duì)該算法進(jìn)行改進(jìn),在權(quán)值調(diào)整過程中加入學(xué)習(xí)步長(zhǎng)η和動(dòng)量因子α,這樣權(quán)值調(diào)整公式就變?yōu)榱耍?/p>

    學(xué)習(xí)步長(zhǎng)η相當(dāng)于步長(zhǎng)的增益,動(dòng)量因子α通過考慮過去權(quán)值的變化可以濾掉高頻變量,最終使網(wǎng)絡(luò)達(dá)到快速收斂的目的。

    4 仿真效果分析

    綜合前面的算法分析,在前饋神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練過程中,網(wǎng)絡(luò)訓(xùn)練效率的相關(guān)影響因素主要有:隱層神經(jīng)元的個(gè)數(shù)H(取隱層的層數(shù)為一層)、學(xué)習(xí)步長(zhǎng)η、動(dòng)量因子α和用戶對(duì)于網(wǎng)絡(luò)訓(xùn)練效果的期望值?。圖6是進(jìn)行實(shí)例仿真的相關(guān)效果圖。同時(shí)根據(jù)仿真效果圖,還可以進(jìn)行相關(guān)因素對(duì)網(wǎng)絡(luò)訓(xùn)練效率的影響效應(yīng)分析,得出實(shí)際結(jié)論,為前饋神經(jīng)網(wǎng)絡(luò)訓(xùn)練的相關(guān)效應(yīng)因子的選取提供現(xiàn)實(shí)指導(dǎo)。

    圖6 相關(guān)因素對(duì)網(wǎng)絡(luò)訓(xùn)練效率的影響效應(yīng)仿真圖

    通過對(duì)以上仿真效果圖進(jìn)行分析,我們可以得出如下結(jié)論:

    ①隱層神經(jīng)元的數(shù)目H對(duì)網(wǎng)絡(luò)訓(xùn)練效率的影響是十分顯著的,所以利用前饋神經(jīng)網(wǎng)絡(luò)求解問題時(shí),合理設(shè)計(jì)網(wǎng)絡(luò)結(jié)構(gòu)十分必要。如果設(shè)計(jì)的隱層神經(jīng)元數(shù)目較少,很有可能出現(xiàn)在較短的網(wǎng)絡(luò)訓(xùn)練周期內(nèi)無法達(dá)到滿意的訓(xùn)練效果,甚至?xí)咕W(wǎng)絡(luò)誤差出現(xiàn)較大的震蕩,形成“毛刺”效應(yīng)。

    ②用戶選取學(xué)習(xí)步長(zhǎng)η時(shí),應(yīng)該結(jié)合待求解問題本身的解空間的容量,同時(shí)應(yīng)該結(jié)合網(wǎng)絡(luò)誤差效應(yīng)函數(shù)的單調(diào)性。以本文所述的字符識(shí)別問題為例,由于問題本身維度較少,空間復(fù)雜度低,同時(shí)網(wǎng)絡(luò)誤差函數(shù)隨著訓(xùn)練次數(shù)的增加呈現(xiàn)單調(diào)遞減性,所以在選取學(xué)習(xí)步長(zhǎng)時(shí)可以選取較大的常數(shù)。如果利用前饋神經(jīng)網(wǎng)絡(luò)算法求解復(fù)雜性問題,同時(shí)網(wǎng)絡(luò)誤差效應(yīng)函數(shù)是不可預(yù)期的,這時(shí)必須盡量選取較小的學(xué)習(xí)步長(zhǎng),以犧牲時(shí)間效率來?yè)Q取最大限度得對(duì)解空間的遍歷。

    ③動(dòng)量因子本身考慮的是前次權(quán)值調(diào)整量對(duì)本次權(quán)值調(diào)整量的影響效應(yīng),體現(xiàn)了網(wǎng)絡(luò)訓(xùn)練的動(dòng)態(tài)連續(xù)性。在動(dòng)量因子的選取上,應(yīng)該盡量遵循選取較小值的原則。如仿真圖所示,當(dāng)選取的動(dòng)量因子較大時(shí),網(wǎng)絡(luò)誤差效應(yīng)函數(shù)曲線會(huì)出現(xiàn)很多小的“毛刺”,缺乏平滑性。根據(jù)經(jīng)驗(yàn)值,動(dòng)量因子α的取值一般要求小于0.5。

    ④用戶自定義期望?實(shí)質(zhì)上代表的是神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)人員對(duì)網(wǎng)絡(luò)訓(xùn)練誤差的容忍度。當(dāng)問題本身的解空間較小或者問題本身對(duì)求解結(jié)果的精確度有要求時(shí),我們應(yīng)盡可能地選取較小的網(wǎng)絡(luò)訓(xùn)練誤差期望值以提高神經(jīng)網(wǎng)絡(luò)模式識(shí)別的準(zhǔn)確率。當(dāng)然,如果問題的解空間較大或者用戶對(duì)網(wǎng)絡(luò)訓(xùn)練效率有要求時(shí),就必須折衷考慮網(wǎng)絡(luò)效率和求解結(jié)果精確度,做到統(tǒng)籌兼顧,選取一個(gè)合適的期望閾值。一般情況下,如果對(duì)精確度沒有更高的要求時(shí),我們可以選取?=0.0001。

    ⑤綜合以上結(jié)論,可以看出,影響前饋神經(jīng)網(wǎng)絡(luò)訓(xùn)練效率的四個(gè)因素中,H的貢獻(xiàn)率最大,η、α以及?的貢獻(xiàn)率較小。所以,增加H是提高前饋神經(jīng)網(wǎng)絡(luò)訓(xùn)練效率的最快辦法。另外,適當(dāng)調(diào)整、α以及的值也可以對(duì)網(wǎng)絡(luò)訓(xùn)練效率進(jìn)行微調(diào)。

    在對(duì)上述四個(gè)因素進(jìn)行分析之后,取H=30、η=1、α=0.2、?=0.0001,進(jìn)行編程,得到的軟件仿真結(jié)果如圖7所示。

    圖7 軟件仿真結(jié)果圖

    5 結(jié)語

    本文以前饋神經(jīng)網(wǎng)絡(luò)算法在簡(jiǎn)易字符識(shí)別系統(tǒng)設(shè)計(jì)中的應(yīng)用為背景,重點(diǎn)研究了利用BP算法進(jìn)行ANN網(wǎng)絡(luò)訓(xùn)練的算法原理和過程,對(duì)影響網(wǎng)絡(luò)訓(xùn)練效率的相關(guān)因素進(jìn)行了詳細(xì)地分析;并通過MATLAB仿真圖直觀地展示了隱層神經(jīng)元個(gè)數(shù)、學(xué)習(xí)步長(zhǎng)、動(dòng)量因子以及用戶自定義網(wǎng)絡(luò)誤差期望值對(duì)網(wǎng)絡(luò)訓(xùn)練效率的影響效果,最后通過簡(jiǎn)易字符識(shí)別系統(tǒng)的設(shè)計(jì)實(shí)現(xiàn)證明了前饋神經(jīng)網(wǎng)絡(luò)算法在解決模式識(shí)別問題方面的高效性。

    [1]王士同.人工智能教程(第2版)[M].北京,電子工業(yè)出版社,2006.

    [2]姚瑞波,孫國(guó)雄.多層神經(jīng)網(wǎng)絡(luò)BP算法的改進(jìn)[J].東南大學(xué)學(xué)報(bào),2007,26(4):126-129.

    [3]俞杰,沈壽林.基于BP神經(jīng)網(wǎng)絡(luò)算法的彈藥需求仿真研究[J].系統(tǒng)仿真學(xué)報(bào),2009,21(9):2734-2736.

    [4]王桂娟.基于MATLAB仿真的神經(jīng)網(wǎng)絡(luò)控制器的設(shè)計(jì)與實(shí)現(xiàn)[J].系統(tǒng)仿真學(xué)報(bào),2005,17(3):742-745.

    [5]白焰,何芳.球磨機(jī)存煤量和鋼球動(dòng)能信息融合的神經(jīng)網(wǎng)絡(luò)模型[J].系統(tǒng)仿真學(xué)報(bào),2015,27(4):689-696.

    [6]梁久楨,何新貴.神經(jīng)網(wǎng)絡(luò)BP算法動(dòng)力學(xué)分析[J].自動(dòng)化學(xué)報(bào),2002,28(5):729-735.

    Feed-Forward Neural Networks;BP Algorithm;Network Training

    Research on the Network Training of the Feed-forward Neural Networks Algorithm

    CHENG Xiao-peng,HOU Dao-qi

    (Information Warfare Laboratory,Electronic Engineering Institute,Hefei 230037)

    1007-1423(2015)26-0021-06

    10.3969/j.issn.1007-1423.2015.26.006

    成曉鵬(1991-),男,山西介休人,碩士研究生,研究方向?yàn)樽鲬?zhàn)仿真

    2015-08-13

    2015-09-06

    結(jié)合簡(jiǎn)易字符識(shí)別系統(tǒng)的設(shè)計(jì)過程,論述前饋神經(jīng)網(wǎng)絡(luò)算法的基本數(shù)學(xué)原理,并給出利用該算法求解模式識(shí)別問題的基本流程;重點(diǎn)研究利用BP算法進(jìn)行網(wǎng)絡(luò)訓(xùn)練的原理,并對(duì)影響網(wǎng)絡(luò)訓(xùn)練效率的相關(guān)因素進(jìn)行深入分析,結(jié)合MATLAB進(jìn)行影響效應(yīng)分析。通過實(shí)例仿真,結(jié)合仿真效果,驗(yàn)證前饋神經(jīng)網(wǎng)絡(luò)算法應(yīng)用于求解模式識(shí)別問題的高效性。

    前饋神經(jīng)網(wǎng)絡(luò);BP算法;網(wǎng)絡(luò)訓(xùn)練

    侯道琪(1990-),男,河南焦作人,碩士研究生,研究方向?yàn)樽鲬?zhàn)仿真

    Combining with the design procedure of the simple character recognition system,introduces the mathematics theory of the Feed-forward Neural Networks.Demonstrates the process that solves schema recognition and the theory of BP algorithm.At the same time,analyses the factors that can contribute to the networks training efficiency deeply by using MATLAB.Designs the character recognition system and confirms the algorithm is efficient in solving this type of problem.

    猜你喜歡
    字符識(shí)別隱層權(quán)值
    一種融合時(shí)間權(quán)值和用戶行為序列的電影推薦模型
    CONTENTS
    基于RDPSO結(jié)構(gòu)優(yōu)化的三隱層BP神經(jīng)網(wǎng)絡(luò)水質(zhì)預(yù)測(cè)模型及應(yīng)用
    人民珠江(2019年4期)2019-04-20 02:32:00
    一種改進(jìn)深度學(xué)習(xí)網(wǎng)絡(luò)結(jié)構(gòu)的英文字符識(shí)別
    基于權(quán)值動(dòng)量的RBM加速學(xué)習(xí)算法研究
    儀表字符識(shí)別中的圖像處理算法研究
    基于CUDA和深度置信網(wǎng)絡(luò)的手寫字符識(shí)別
    基于近似結(jié)構(gòu)風(fēng)險(xiǎn)的ELM隱層節(jié)點(diǎn)數(shù)優(yōu)化
    最優(yōu)隱層BP神經(jīng)網(wǎng)絡(luò)的滾動(dòng)軸承故障診斷
    機(jī)加工件點(diǎn)陣字符識(shí)別研究
    河南科技(2014年3期)2014-02-27 14:05:36
    激情视频va一区二区三区| xxxhd国产人妻xxx| 大香蕉久久成人网| 中文字幕人妻丝袜一区二区| 亚洲国产欧美日韩在线播放| 亚洲欧洲精品一区二区精品久久久| 欧美精品一区二区免费开放| 亚洲国产看品久久| 麻豆成人av在线观看| 超碰97精品在线观看| 夜夜爽天天搞| 久久久国产欧美日韩av| 欧美日韩瑟瑟在线播放| 欧美中文日本在线观看视频| 免费女性裸体啪啪无遮挡网站| 亚洲狠狠婷婷综合久久图片| 身体一侧抽搐| 国产单亲对白刺激| 午夜亚洲福利在线播放| 亚洲欧美日韩无卡精品| netflix在线观看网站| 欧美丝袜亚洲另类 | 波多野结衣高清无吗| 国产亚洲精品一区二区www| 色尼玛亚洲综合影院| 香蕉国产在线看| 久久久久久久午夜电影 | 国产精品 国内视频| 国产精品一区二区三区四区久久 | 在线观看免费视频网站a站| 亚洲专区国产一区二区| 老司机深夜福利视频在线观看| 女人爽到高潮嗷嗷叫在线视频| 色婷婷av一区二区三区视频| 天堂中文最新版在线下载| 欧美黄色片欧美黄色片| 999久久久国产精品视频| 亚洲va日本ⅴa欧美va伊人久久| 欧美中文日本在线观看视频| 丝袜人妻中文字幕| 国产一区二区在线av高清观看| 亚洲成人免费电影在线观看| 国产精品一区二区免费欧美| 三级毛片av免费| 日本a在线网址| 露出奶头的视频| www.999成人在线观看| 黄色成人免费大全| 久久 成人 亚洲| 成年女人毛片免费观看观看9| 两性夫妻黄色片| 欧美成人性av电影在线观看| 人人妻人人爽人人添夜夜欢视频| 婷婷精品国产亚洲av在线| 国产乱人伦免费视频| 欧美精品亚洲一区二区| 黄色丝袜av网址大全| 久久这里只有精品19| 久久久国产成人免费| a级毛片在线看网站| 亚洲熟妇中文字幕五十中出 | 制服诱惑二区| 亚洲九九香蕉| 午夜a级毛片| 欧美亚洲日本最大视频资源| 亚洲自偷自拍图片 自拍| av天堂久久9| 日本vs欧美在线观看视频| 国产成人精品久久二区二区91| 一二三四社区在线视频社区8| 美女大奶头视频| 日本黄色视频三级网站网址| 国产亚洲精品一区二区www| 久久久久国产一级毛片高清牌| 成年人黄色毛片网站| 亚洲欧美一区二区三区黑人| 在线天堂中文资源库| 在线观看免费视频网站a站| 人人妻,人人澡人人爽秒播| 激情视频va一区二区三区| a级毛片黄视频| 日韩免费高清中文字幕av| 啦啦啦在线免费观看视频4| 欧美久久黑人一区二区| 中文字幕色久视频| 国产欧美日韩一区二区精品| 国产成人精品久久二区二区91| 天堂√8在线中文| 国产xxxxx性猛交| 黄色 视频免费看| 国产一区二区在线av高清观看| 亚洲精品中文字幕在线视频| 99久久99久久久精品蜜桃| 成人亚洲精品av一区二区 | 91字幕亚洲| 亚洲色图综合在线观看| 可以免费在线观看a视频的电影网站| 高清黄色对白视频在线免费看| 国产免费现黄频在线看| 亚洲av美国av| 精品人妻在线不人妻| 乱人伦中国视频| 妹子高潮喷水视频| 亚洲色图av天堂| 亚洲va日本ⅴa欧美va伊人久久| 老熟妇乱子伦视频在线观看| 亚洲av片天天在线观看| 黑人猛操日本美女一级片| 免费在线观看亚洲国产| 亚洲人成电影观看| 18禁美女被吸乳视频| 夜夜爽天天搞| 久久久久久亚洲精品国产蜜桃av| 丰满人妻熟妇乱又伦精品不卡| 看黄色毛片网站| 国产精品亚洲一级av第二区| 亚洲成人精品中文字幕电影 | 久久久水蜜桃国产精品网| 欧美日本亚洲视频在线播放| 国产高清激情床上av| 成人av一区二区三区在线看| 中文字幕高清在线视频| 成人影院久久| 国产精品永久免费网站| 欧美丝袜亚洲另类 | 99香蕉大伊视频| 亚洲一码二码三码区别大吗| 久久人妻福利社区极品人妻图片| 国产免费现黄频在线看| 99精品欧美一区二区三区四区| 国产精品久久久av美女十八| 久久欧美精品欧美久久欧美| 亚洲成人免费电影在线观看| 999久久久国产精品视频| 神马国产精品三级电影在线观看 | 亚洲人成网站在线播放欧美日韩| 中文字幕精品免费在线观看视频| 国产精品久久久久成人av| 欧美日韩国产mv在线观看视频| 男男h啪啪无遮挡| 精品第一国产精品| 在线观看免费高清a一片| 亚洲专区字幕在线| 成人精品一区二区免费| 最近最新中文字幕大全电影3 | 久久亚洲真实| 久久人妻福利社区极品人妻图片| videosex国产| 91字幕亚洲| 麻豆久久精品国产亚洲av | 99国产综合亚洲精品| av在线天堂中文字幕 | 欧美黄色淫秽网站| 三级毛片av免费| 精品久久久久久久毛片微露脸| 欧美老熟妇乱子伦牲交| 免费在线观看完整版高清| 精品国产美女av久久久久小说| 88av欧美| 国产一区二区在线av高清观看| 国产亚洲欧美在线一区二区| avwww免费| 亚洲国产精品999在线| 精品电影一区二区在线| 日韩欧美国产一区二区入口| 99re在线观看精品视频| a级片在线免费高清观看视频| 亚洲精品久久成人aⅴ小说| 80岁老熟妇乱子伦牲交| 日韩视频一区二区在线观看| 69av精品久久久久久| 成人黄色视频免费在线看| 亚洲aⅴ乱码一区二区在线播放 | 黄色怎么调成土黄色| 日韩免费高清中文字幕av| 女同久久另类99精品国产91| 国产精品98久久久久久宅男小说| 9热在线视频观看99| 一进一出抽搐gif免费好疼 | 午夜亚洲福利在线播放| 亚洲人成77777在线视频| 久久中文字幕一级| 午夜福利免费观看在线| 国产精品日韩av在线免费观看 | 国产一区二区三区在线臀色熟女 | 可以免费在线观看a视频的电影网站| 精品久久久精品久久久| 纯流量卡能插随身wifi吗| 欧美日韩瑟瑟在线播放| 老司机亚洲免费影院| 国产精品99久久99久久久不卡| 一级黄色大片毛片| www.自偷自拍.com| 久久狼人影院| 国产一区二区三区综合在线观看| 在线观看免费视频网站a站| 国产一卡二卡三卡精品| 国产精品久久久人人做人人爽| 国产欧美日韩一区二区三| 国产成人精品在线电影| 大型av网站在线播放| 午夜福利在线观看吧| 啪啪无遮挡十八禁网站| 人成视频在线观看免费观看| 久久天躁狠狠躁夜夜2o2o| 午夜免费激情av| 老司机午夜十八禁免费视频| 久久午夜综合久久蜜桃| 日日摸夜夜添夜夜添小说| 免费在线观看日本一区| 丁香六月欧美| 精品国内亚洲2022精品成人| 国产成人免费无遮挡视频| 午夜福利影视在线免费观看| 亚洲av五月六月丁香网| 每晚都被弄得嗷嗷叫到高潮| 老司机靠b影院| 天天躁夜夜躁狠狠躁躁| 日本五十路高清| 天天躁狠狠躁夜夜躁狠狠躁| 黄色女人牲交| 国产免费现黄频在线看| 99国产精品一区二区蜜桃av| 国产成人欧美在线观看| 精品久久久精品久久久| 村上凉子中文字幕在线| 99精国产麻豆久久婷婷| 一夜夜www| 18美女黄网站色大片免费观看| 在线观看午夜福利视频| bbb黄色大片| 国产亚洲精品久久久久5区| 国产一卡二卡三卡精品| 人人妻人人爽人人添夜夜欢视频| 成人免费观看视频高清| 高清黄色对白视频在线免费看| 电影成人av| 欧美日韩福利视频一区二区| 国产高清国产精品国产三级| 美女福利国产在线| 国产熟女xx| 亚洲av五月六月丁香网| 不卡一级毛片| 久久人人97超碰香蕉20202| 久久精品国产亚洲av香蕉五月| 国产成年人精品一区二区 | 日韩欧美在线二视频| 亚洲欧美精品综合久久99| 高潮久久久久久久久久久不卡| 搡老熟女国产l中国老女人| 欧美精品啪啪一区二区三区| 色哟哟哟哟哟哟| 午夜福利欧美成人| 亚洲性夜色夜夜综合| 天堂中文最新版在线下载| 国产精华一区二区三区| 欧美中文日本在线观看视频| 欧洲精品卡2卡3卡4卡5卡区| 国产成人精品久久二区二区免费| 国产99白浆流出| 久久精品国产清高在天天线| 久久人妻熟女aⅴ| 高清av免费在线| 9热在线视频观看99| 99国产精品免费福利视频| 欧美日韩一级在线毛片| xxxhd国产人妻xxx| 脱女人内裤的视频| 日韩精品中文字幕看吧| 老司机靠b影院| 日本欧美视频一区| 久久久国产精品麻豆| 69精品国产乱码久久久| 校园春色视频在线观看| 91精品国产国语对白视频| 欧美激情久久久久久爽电影 | 国产精品亚洲一级av第二区| 丁香欧美五月| 国产精品日韩av在线免费观看 | 亚洲九九香蕉| 欧美色视频一区免费| 桃色一区二区三区在线观看| 精品久久久精品久久久| 久久久国产欧美日韩av| 亚洲熟妇中文字幕五十中出 | 窝窝影院91人妻| 12—13女人毛片做爰片一| 亚洲第一青青草原| 啪啪无遮挡十八禁网站| 国产精品亚洲av一区麻豆| 黄片播放在线免费| 757午夜福利合集在线观看| 女同久久另类99精品国产91| 男女下面进入的视频免费午夜 | 亚洲欧美激情综合另类| 亚洲在线自拍视频| 欧美激情久久久久久爽电影 | 男人舔女人的私密视频| www.999成人在线观看| 满18在线观看网站| 国产区一区二久久| 黄色怎么调成土黄色| 亚洲国产精品合色在线| 99久久久亚洲精品蜜臀av| 午夜福利欧美成人| 国产亚洲精品久久久久5区| 久久久精品国产亚洲av高清涩受| 国产精品一区二区免费欧美| 欧美精品亚洲一区二区| 午夜免费成人在线视频| 天堂√8在线中文| 久久性视频一级片| 成人三级做爰电影| 黑人操中国人逼视频| 亚洲精品在线美女| 80岁老熟妇乱子伦牲交| 99国产精品一区二区蜜桃av| 夜夜夜夜夜久久久久| av天堂久久9| 9热在线视频观看99| 嫩草影视91久久| 长腿黑丝高跟| 十八禁人妻一区二区| 欧洲精品卡2卡3卡4卡5卡区| 无限看片的www在线观看| 亚洲成人久久性| 欧美黄色片欧美黄色片| 这个男人来自地球电影免费观看| 成人亚洲精品av一区二区 | 国产精品国产av在线观看| 中文字幕人妻丝袜制服| av福利片在线| 男女高潮啪啪啪动态图| 手机成人av网站| 亚洲国产毛片av蜜桃av| 色综合站精品国产| 久9热在线精品视频| 免费观看精品视频网站| 91字幕亚洲| 国产三级黄色录像| 真人一进一出gif抽搐免费| 天堂影院成人在线观看| 国产乱人伦免费视频| 男人舔女人下体高潮全视频| 免费高清在线观看日韩| 午夜老司机福利片| 一本综合久久免费| 国产精品综合久久久久久久免费 | 亚洲欧美一区二区三区久久| 最好的美女福利视频网| 俄罗斯特黄特色一大片| 老司机午夜福利在线观看视频| 午夜91福利影院| 日韩精品青青久久久久久| 十八禁网站免费在线| 国产精品 国内视频| 自拍欧美九色日韩亚洲蝌蚪91| 日韩免费高清中文字幕av| 精品国产一区二区三区四区第35| 最近最新免费中文字幕在线| 亚洲男人的天堂狠狠| 色老头精品视频在线观看| 色在线成人网| 嫩草影院精品99| 免费不卡黄色视频| 美国免费a级毛片| 国产xxxxx性猛交| 精品免费久久久久久久清纯| 亚洲一区高清亚洲精品| 国产亚洲精品一区二区www| 一级a爱片免费观看的视频| 男女之事视频高清在线观看| 久久精品国产99精品国产亚洲性色 | 一本综合久久免费| 99久久人妻综合| 极品教师在线免费播放| 性欧美人与动物交配| 欧美日韩av久久| 欧美黑人精品巨大| 老鸭窝网址在线观看| 久久伊人香网站| 在线观看免费视频日本深夜| 日韩欧美一区视频在线观看| 一个人观看的视频www高清免费观看 | 最新在线观看一区二区三区| 在线观看舔阴道视频| 亚洲少妇的诱惑av| 叶爱在线成人免费视频播放| 最近最新中文字幕大全免费视频| 欧美黄色淫秽网站| 欧美性长视频在线观看| 欧美在线黄色| 亚洲一码二码三码区别大吗| 亚洲男人的天堂狠狠| 亚洲专区国产一区二区| 亚洲av成人av| 亚洲成国产人片在线观看| 亚洲精品成人av观看孕妇| 久久人妻福利社区极品人妻图片| 久久国产精品人妻蜜桃| 在线观看一区二区三区激情| 一级,二级,三级黄色视频| 男男h啪啪无遮挡| 乱人伦中国视频| 少妇裸体淫交视频免费看高清 | 亚洲九九香蕉| 成人18禁在线播放| 欧美一区二区精品小视频在线| 免费女性裸体啪啪无遮挡网站| 三级毛片av免费| 精品久久久精品久久久| 美女大奶头视频| 一级片免费观看大全| 午夜免费鲁丝| www.自偷自拍.com| 男女下面插进去视频免费观看| 亚洲欧美日韩高清在线视频| 天天躁狠狠躁夜夜躁狠狠躁| 一区二区三区精品91| 在线观看免费高清a一片| 新久久久久国产一级毛片| 亚洲av熟女| 丰满人妻熟妇乱又伦精品不卡| 日本黄色视频三级网站网址| av有码第一页| 亚洲avbb在线观看| 黑人巨大精品欧美一区二区mp4| a级片在线免费高清观看视频| 在线观看免费午夜福利视频| 国产成+人综合+亚洲专区| 亚洲片人在线观看| 亚洲色图 男人天堂 中文字幕| 亚洲一区二区三区不卡视频| 男女下面进入的视频免费午夜 | www国产在线视频色| 水蜜桃什么品种好| 亚洲人成77777在线视频| 亚洲第一欧美日韩一区二区三区| 777久久人妻少妇嫩草av网站| www.999成人在线观看| 国产97色在线日韩免费| 亚洲精品一卡2卡三卡4卡5卡| 一二三四社区在线视频社区8| 国产亚洲欧美98| 国产精品免费视频内射| 国产欧美日韩精品亚洲av| 日本撒尿小便嘘嘘汇集6| a级毛片黄视频| 一二三四社区在线视频社区8| 十分钟在线观看高清视频www| 777久久人妻少妇嫩草av网站| 国产成年人精品一区二区 | av免费在线观看网站| av网站在线播放免费| 国产精品电影一区二区三区| 在线视频色国产色| 香蕉国产在线看| 精品久久久精品久久久| 午夜福利一区二区在线看| 久久久国产成人免费| 又黄又粗又硬又大视频| 精品国产美女av久久久久小说| 很黄的视频免费| 热re99久久精品国产66热6| 大型av网站在线播放| 国产成人精品久久二区二区免费| 国产精品国产av在线观看| 精品无人区乱码1区二区| 国产精品98久久久久久宅男小说| 长腿黑丝高跟| 久久草成人影院| 丝袜在线中文字幕| 最近最新中文字幕大全免费视频| 精品一区二区三区av网在线观看| av欧美777| 十分钟在线观看高清视频www| 亚洲精品国产区一区二| 交换朋友夫妻互换小说| 在线国产一区二区在线| 免费av毛片视频| 亚洲人成伊人成综合网2020| 九色亚洲精品在线播放| videosex国产| 亚洲欧美日韩高清在线视频| 午夜福利欧美成人| 无人区码免费观看不卡| 国产99白浆流出| 中亚洲国语对白在线视频| 超碰成人久久| 精品久久久久久久毛片微露脸| 91老司机精品| 成人三级黄色视频| 波多野结衣一区麻豆| 欧美激情久久久久久爽电影 | 日韩欧美一区视频在线观看| 亚洲免费av在线视频| 97碰自拍视频| 亚洲一卡2卡3卡4卡5卡精品中文| 久热爱精品视频在线9| 亚洲国产精品一区二区三区在线| 国产免费男女视频| 长腿黑丝高跟| 精品久久久久久成人av| 999久久久国产精品视频| 久久天躁狠狠躁夜夜2o2o| 色播在线永久视频| 亚洲,欧美精品.| 国产激情久久老熟女| 国产在线观看jvid| 夜夜夜夜夜久久久久| 老熟妇仑乱视频hdxx| 一区二区三区精品91| 黄网站色视频无遮挡免费观看| 18禁美女被吸乳视频| 黄色毛片三级朝国网站| 丰满的人妻完整版| 色婷婷av一区二区三区视频| 精品国产超薄肉色丝袜足j| 亚洲黑人精品在线| 欧美日韩国产mv在线观看视频| 女性生殖器流出的白浆| 免费在线观看日本一区| 亚洲av美国av| 国产高清国产精品国产三级| 少妇被粗大的猛进出69影院| 亚洲欧美激情综合另类| 国产无遮挡羞羞视频在线观看| 久久久久久久精品吃奶| 9191精品国产免费久久| 亚洲久久久国产精品| 国产人伦9x9x在线观看| 日韩欧美三级三区| 成人18禁在线播放| 免费av毛片视频| e午夜精品久久久久久久| 久久久久久免费高清国产稀缺| 亚洲人成电影观看| 国产精品亚洲一级av第二区| 国产精品 国内视频| 亚洲色图av天堂| 满18在线观看网站| 久久精品国产综合久久久| 一二三四社区在线视频社区8| √禁漫天堂资源中文www| 乱人伦中国视频| 一级作爱视频免费观看| 国产亚洲精品久久久久久毛片| 亚洲av熟女| 亚洲国产精品合色在线| 99国产精品一区二区蜜桃av| 色老头精品视频在线观看| 亚洲一码二码三码区别大吗| 老司机亚洲免费影院| 午夜亚洲福利在线播放| 亚洲av片天天在线观看| 在线天堂中文资源库| 久久人妻av系列| 男女做爰动态图高潮gif福利片 | 亚洲精品粉嫩美女一区| 日日爽夜夜爽网站| 亚洲中文av在线| 看片在线看免费视频| 欧美日韩中文字幕国产精品一区二区三区 | 巨乳人妻的诱惑在线观看| 老司机午夜十八禁免费视频| 女人被躁到高潮嗷嗷叫费观| 国产精品偷伦视频观看了| 国产精品亚洲一级av第二区| av超薄肉色丝袜交足视频| 麻豆成人av在线观看| 亚洲一区二区三区欧美精品| 一级黄色大片毛片| 又大又爽又粗| 国产成人欧美| 后天国语完整版免费观看| 亚洲中文字幕日韩| 中国美女看黄片| 国产精品免费视频内射| 色精品久久人妻99蜜桃| 欧美日韩精品网址| 狠狠狠狠99中文字幕| 超碰成人久久| 99国产精品一区二区蜜桃av| 国产精品98久久久久久宅男小说| 日韩高清综合在线| 久久精品91蜜桃| 午夜精品久久久久久毛片777| 大型黄色视频在线免费观看| 精品久久蜜臀av无| 宅男免费午夜| 在线观看免费高清a一片| 亚洲欧美一区二区三区黑人| 亚洲五月色婷婷综合| 精品熟女少妇八av免费久了| 村上凉子中文字幕在线| www.熟女人妻精品国产| 在线天堂中文资源库| 日韩免费高清中文字幕av| av超薄肉色丝袜交足视频| 一进一出抽搐gif免费好疼 | 国产高清视频在线播放一区| 国产精品亚洲av一区麻豆| 精品一品国产午夜福利视频| 黄色丝袜av网址大全| 国产欧美日韩一区二区三| 国产高清国产精品国产三级| 亚洲成人国产一区在线观看| 91大片在线观看| 欧美老熟妇乱子伦牲交| 人人妻人人添人人爽欧美一区卜| 国产欧美日韩精品亚洲av| 国产精品电影一区二区三区| 成人亚洲精品一区在线观看| 超碰成人久久| 这个男人来自地球电影免费观看|