• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    手寫(xiě)體數(shù)字字符識(shí)別算法仿真比較研究

    2017-04-10 12:05:45郄小美黃信靜
    實(shí)驗(yàn)室研究與探索 2017年1期
    關(guān)鍵詞:手寫(xiě)體字符識(shí)別學(xué)習(xí)機(jī)

    陳 龍, 郄小美, 黃信靜, 林 虎

    (杭州電子科技大學(xué) 電子信息學(xué)院, 杭州 310018)

    手寫(xiě)體數(shù)字字符識(shí)別算法仿真比較研究

    陳 龍, 郄小美, 黃信靜, 林 虎

    (杭州電子科技大學(xué) 電子信息學(xué)院, 杭州 310018)

    采用BP神經(jīng)網(wǎng)絡(luò)、原始極限學(xué)習(xí)機(jī)、正則極限學(xué)習(xí)機(jī)和傅里葉變換優(yōu)化極限學(xué)習(xí)機(jī)算法分別進(jìn)行手寫(xiě)體數(shù)字字符識(shí)別仿真實(shí)驗(yàn),通過(guò)MINIST數(shù)據(jù)庫(kù)中的10 000個(gè)手寫(xiě)體數(shù)字樣本訓(xùn)練神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)傳輸過(guò)程中的參數(shù),用訓(xùn)練所得神經(jīng)網(wǎng)絡(luò)參數(shù)進(jìn)行手寫(xiě)體數(shù)字識(shí)別仿真測(cè)試。比較4種算法的仿真效果,BP網(wǎng)絡(luò)識(shí)別效果最好、訓(xùn)練速度最慢,原始極限學(xué)習(xí)機(jī)訓(xùn)練速度最快,正則極限學(xué)習(xí)機(jī)和傅里葉變換極限學(xué)習(xí)機(jī)優(yōu)化算法識(shí)別正確率高于原始極限學(xué)習(xí)機(jī),但增加了算法的時(shí)間復(fù)雜度。將該手寫(xiě)體數(shù)字字符識(shí)別仿真實(shí)驗(yàn)用于學(xué)生實(shí)驗(yàn)教學(xué),可加強(qiáng)學(xué)生對(duì)神經(jīng)網(wǎng)絡(luò)相關(guān)知識(shí)的學(xué)習(xí)和理解,提高學(xué)生編程和工程應(yīng)用能力。

    神經(jīng)網(wǎng)絡(luò); 極限學(xué)習(xí)機(jī); 手寫(xiě)數(shù)字識(shí)別; 實(shí)驗(yàn)教學(xué)

    0 引 言

    神經(jīng)網(wǎng)絡(luò)是模仿人的大腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和功能而建立的一種信息處理系統(tǒng),具有高度的非線性特征。神經(jīng)網(wǎng)絡(luò)在神經(jīng)科學(xué)、人工智能和計(jì)算機(jī)科學(xué)等領(lǐng)域具有廣泛應(yīng)用,其中Back Propagation (BP)神經(jīng)網(wǎng)絡(luò)是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一[1-3]。BP神經(jīng)網(wǎng)絡(luò)是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò),包括信號(hào)的正向傳播和誤差的反向傳播兩個(gè)過(guò)程。在多次信號(hào)的正向傳播和誤差的反向傳播過(guò)程中,神經(jīng)網(wǎng)絡(luò)各權(quán)值通過(guò)梯度下降法得到修正,使得網(wǎng)絡(luò)輸出誤差滿足要求,或達(dá)到設(shè)定的學(xué)習(xí)次數(shù)為止[4]。極限學(xué)習(xí)機(jī)是一種快速的單隱層前饋神經(jīng)網(wǎng)絡(luò)(Single-hidden Layer Feedforward Neural Network, SLFN),在2004年由黃廣斌教授等人提出,該算法通過(guò)大量的樣本計(jì)算確定神經(jīng)網(wǎng)絡(luò)的傳輸參數(shù),相對(duì)于BP神經(jīng)網(wǎng)絡(luò)因使用梯度下降法迭代計(jì)算傳輸參數(shù)耗費(fèi)大量時(shí)間,極限學(xué)習(xí)機(jī)計(jì)算過(guò)程無(wú)需迭代,具有訓(xùn)練速度快的特點(diǎn)[5-7]。

    手寫(xiě)數(shù)字識(shí)別在郵件分類(lèi)、車(chē)牌識(shí)別和銀行票據(jù)識(shí)別等方面的廣泛應(yīng)用使之成為了圖像處理和模式識(shí)別領(lǐng)域的一個(gè)研究熱點(diǎn)。目前已經(jīng)存在的手寫(xiě)字符識(shí)別方法包括模板匹配法、支持向量機(jī)和決策樹(shù)等[8-12]。本文采用BP神經(jīng)網(wǎng)絡(luò)、原始極限學(xué)習(xí)機(jī)、正則極限學(xué)習(xí)機(jī)和傅里葉變換優(yōu)化極限學(xué)習(xí)機(jī)算法進(jìn)行手寫(xiě)體數(shù)字字符識(shí)別仿真實(shí)驗(yàn),對(duì)4種算法的識(shí)別率和時(shí)間復(fù)雜度進(jìn)行了比較研究。該手寫(xiě)體數(shù)字字符識(shí)別實(shí)驗(yàn)用于本科生實(shí)驗(yàn)教學(xué)可提高學(xué)生對(duì)神經(jīng)網(wǎng)絡(luò)的理解和認(rèn)識(shí),讓學(xué)生掌握利用神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)手寫(xiě)體數(shù)字字符識(shí)別的方法,提高同學(xué)們綜合運(yùn)用所學(xué)知識(shí)解決實(shí)際問(wèn)題的能力[13]。

    1 極限學(xué)習(xí)機(jī)

    單隱含層前饋神經(jīng)網(wǎng)絡(luò)模型如圖1所示,包括輸入層、隱含層和輸出層,其中隱含層第i個(gè)神經(jīng)元的模型如圖2所示,隱含層第i個(gè)神經(jīng)元的輸入xj與對(duì)應(yīng)的權(quán)值wij相乘求和后加偏置b,經(jīng)激活函數(shù)g(x)限幅得隱含層神經(jīng)元輸出為

    (1)

    圖1 單隱含層前饋神經(jīng)網(wǎng)絡(luò)模型圖

    圖2 隱含層第i個(gè)神經(jīng)元模型圖

    (2)

    為了使模型的實(shí)際輸出oj零誤差逼近于期望輸出tj,即

    (3)

    輸入權(quán)值矩陣W和偏置矩陣b可隨機(jī)設(shè)定[5-6],根據(jù)Moore-Penrose廣義逆矩陣和最小范數(shù)最小二乘解[14]的相關(guān)定理,采用矩陣表達(dá)式得:

    (4)

    式中:H+為隱含層輸出矩陣H的Moore-Penrose廣義逆矩陣。

    神經(jīng)網(wǎng)絡(luò)訓(xùn)練過(guò)程即求傳輸參數(shù)的過(guò)程,對(duì)ELM而言即求輸出矩陣β的過(guò)程,根據(jù)式(1)~(4)完成ELM的參數(shù)訓(xùn)練過(guò)程,用所得輸出權(quán)值矩陣β進(jìn)行測(cè)試,對(duì)測(cè)試結(jié)果進(jìn)行對(duì)比和分析,測(cè)試結(jié)果若不滿足要求,可通過(guò)適當(dāng)增加訓(xùn)練樣本或增加隱含層神經(jīng)元個(gè)數(shù)改善測(cè)試結(jié)果。

    2 極限學(xué)習(xí)機(jī)優(yōu)化算法

    2.1 正則極限學(xué)習(xí)機(jī)

    正則極限學(xué)習(xí)機(jī)是一種通過(guò)參數(shù)γ來(lái)調(diào)節(jié)原始極限學(xué)習(xí)機(jī)數(shù)學(xué)模型存在的經(jīng)驗(yàn)和結(jié)構(gòu)風(fēng)險(xiǎn)的比例,從而提高原始極限學(xué)習(xí)機(jī)泛化能力,防止原始極限學(xué)習(xí)機(jī)易導(dǎo)致過(guò)擬合問(wèn)題的優(yōu)化算法[15],其數(shù)學(xué)模型由下式表示,使J值達(dá)到最小:

    (5)

    用拉格朗日乘子法求解式(5)所示數(shù)學(xué)模型的最優(yōu)解,R-ELM的數(shù)學(xué)模型可用拉格朗日方程表示為:

    L(β,ε,α)=

    (6)

    求得輸出權(quán)值矩陣

    (7)

    正則極限學(xué)習(xí)機(jī)通過(guò)優(yōu)化參數(shù)γ和矩陣D優(yōu)化輸出權(quán)值矩陣,通過(guò)式(7)計(jì)算所得輸出權(quán)值矩陣β進(jìn)行正則極限學(xué)習(xí)機(jī)的測(cè)試。

    2.2 傅里葉變換優(yōu)化極限學(xué)習(xí)機(jī)算法

    傅里葉變換是一種信號(hào)分析的方法,傅里葉變換優(yōu)化極限學(xué)習(xí)機(jī)算法[16]將隱含層神經(jīng)元的輸出做傅里葉變換,將圖像的特征轉(zhuǎn)換為特定的頻率信號(hào),通過(guò)拉格朗日乘子法優(yōu)化原始極限學(xué)習(xí)機(jī)的輸入權(quán)值矩陣,具體模型如下式所示,使J取最小值:

    (8)

    (9)

    用拉格朗日乘子法求解,列寫(xiě)拉格朗日方程為:

    (10)

    對(duì)式(10)求梯度得:

    (11)

    求得優(yōu)化后的輸入權(quán)值矩陣為:

    (12)

    優(yōu)化輸出權(quán)值矩陣的數(shù)學(xué)模型為

    (13)

    式中,ε=O-T=Hβ-T。列寫(xiě)優(yōu)化輸出矩陣的拉格朗日方程為:

    (14)

    與以上優(yōu)化輸入權(quán)值矩陣求解方式相同,解得優(yōu)化后的輸出權(quán)值矩陣為

    (15)

    傅里葉變換優(yōu)化極限學(xué)習(xí)機(jī)算法在對(duì)輸出權(quán)值矩陣β進(jìn)行優(yōu)化之前對(duì)輸入權(quán)值矩陣w也進(jìn)行了優(yōu)化。

    3 手寫(xiě)體數(shù)字字符識(shí)別仿真實(shí)驗(yàn)

    實(shí)驗(yàn)采用BP、ELM、R-ELM和DFT-ELM 4種算法進(jìn)行手寫(xiě)體數(shù)字字符識(shí)別仿真實(shí)驗(yàn),樣本選擇MINIST數(shù)據(jù)庫(kù)中的10 000個(gè)手寫(xiě)體數(shù)字作為訓(xùn)練樣本,部分樣本圖片如圖3所示,各字符筆畫(huà)的粗細(xì)和形狀各不相同,具有代表性。神經(jīng)網(wǎng)絡(luò)經(jīng)過(guò)訓(xùn)練后,選擇1 000個(gè)樣本進(jìn)行測(cè)試,其中0~9各數(shù)字均為100個(gè),最后對(duì)4種算法手寫(xiě)體數(shù)字字符識(shí)別結(jié)果進(jìn)行對(duì)比和分析。

    圖3 部分樣本圖片

    3.1 手寫(xiě)體數(shù)字字符樣本預(yù)處理

    MINIST樣本庫(kù)中手寫(xiě)體數(shù)字圖像均為28×28的灰度圖,黑色值為0,白色值為255。為減少運(yùn)算量,降低數(shù)據(jù)維數(shù),采用式(16)對(duì)樣本圖片進(jìn)行降維,其中r=c=2,圖4為數(shù)字樣本圖片5的降維結(jié)果,經(jīng)過(guò)降維后圖像像素為14×14。圖5為降維后的樣本圖片5的數(shù)據(jù)特征,橫坐標(biāo)為像素點(diǎn)順序,縱坐標(biāo)為灰度值。

    (16)

    圖5 樣本圖片5的灰度特征圖

    3.2 手寫(xiě)體數(shù)字字符識(shí)別仿真

    (1) 基于BP神經(jīng)網(wǎng)絡(luò)的手寫(xiě)體數(shù)字字符識(shí)別算法仿真。Matlab工具箱中為神經(jīng)網(wǎng)絡(luò)的訓(xùn)練提供了大量的庫(kù)函數(shù),本實(shí)驗(yàn)中采用newff函數(shù)創(chuàng)建BP神經(jīng)網(wǎng)絡(luò),train函數(shù)完成BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,圖6所示為隱含層神經(jīng)元個(gè)數(shù)為200時(shí)BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過(guò)程。圖6顯示了該BP神經(jīng)網(wǎng)絡(luò)輸入層具有196個(gè)神經(jīng)元,隱含層具有200個(gè)神經(jīng)元,輸出層具有10個(gè)神經(jīng)元,最大迭代次數(shù)為1 000次,訓(xùn)練時(shí)間為24 s。

    圖6 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練過(guò)程

    (2) 基于ELM算法的手寫(xiě)體數(shù)字字符識(shí)別算法仿真。經(jīng)過(guò)數(shù)據(jù)初始化后,通過(guò)對(duì)訓(xùn)練樣本的學(xué)習(xí)確定ELM傳輸過(guò)程中的傳輸參數(shù),即輸出權(quán)值矩陣β,期望輸出T為一個(gè)1×10的矩陣,數(shù)字為0~9時(shí)對(duì)應(yīng)的期望輸出,如表1所示。

    表1 各數(shù)字對(duì)應(yīng)的期望輸出T

    當(dāng)隱含層神經(jīng)元個(gè)數(shù)為200時(shí)測(cè)試所得神經(jīng)網(wǎng)絡(luò)的輸出如圖7所示,圖7(a)~(j)分別表示測(cè)試樣本為0~9時(shí)ELM網(wǎng)絡(luò)輸出。

    (3) R-ELM算法實(shí)現(xiàn)手寫(xiě)體數(shù)字字符識(shí)別。R-ELM優(yōu)化算法的目標(biāo)是提高原始極限學(xué)習(xí)機(jī)的泛化能力,根據(jù)式(7)計(jì)算R-ELM算法的輸出權(quán)值矩陣,其中調(diào)節(jié)參數(shù)γ=0.25,矩陣D取單位對(duì)角矩陣,輸出方式與ELM相同。

    (4) DFT-ELM算法實(shí)現(xiàn)手寫(xiě)體數(shù)字字符識(shí)別。DFT-ELM根據(jù)式(12)計(jì)算輸入權(quán)值矩陣,式(15)計(jì)算輸出權(quán)值矩陣,其中d1=d2=0.01,γ1=γ2=0.5,輸出方式與ELM相同。

    (a)數(shù)字0的識(shí)別結(jié)果(b)數(shù)字1的識(shí)別結(jié)果

    (c)數(shù)字2的識(shí)別結(jié)果(d)數(shù)字3的識(shí)別結(jié)果

    (e)數(shù)字4的識(shí)別結(jié)果(f)數(shù)字5的識(shí)別結(jié)果

    (g)數(shù)字6的識(shí)別結(jié)果(h)數(shù)字7的識(shí)別結(jié)果

    (i)數(shù)字8的識(shí)別結(jié)果(j)數(shù)字9的識(shí)別結(jié)果

    圖7 神經(jīng)元個(gè)數(shù)為200時(shí)ELM算法識(shí)別結(jié)果

    3.3 實(shí)驗(yàn)結(jié)果分析與對(duì)比

    為了比較BP、ELM、R-ELM和DFT-ELM 4種算法對(duì)手寫(xiě)體數(shù)字字符的識(shí)別效果,統(tǒng)計(jì)各數(shù)字識(shí)別正確的個(gè)數(shù),識(shí)別結(jié)果如圖8所示,橫坐標(biāo)為待識(shí)別的數(shù)字,縱坐標(biāo)為該數(shù)字識(shí)別正確的個(gè)數(shù),其中圖8(a)、(b)、(c)、(d)為隱含層神經(jīng)元個(gè)數(shù)為50時(shí)各算法的識(shí)別結(jié)果,圖8(e)、(f)、(g)、(h)為隱含層神經(jīng)元個(gè)數(shù)為200時(shí)各算法的識(shí)別結(jié)果。

    對(duì)圖8所示識(shí)別結(jié)果進(jìn)行統(tǒng)計(jì),4種算法在隱含層神經(jīng)元個(gè)數(shù)分別為50和200時(shí)各數(shù)字字符識(shí)別正確的個(gè)數(shù)及平均識(shí)別率如表2各數(shù)字字符識(shí)別結(jié)果統(tǒng)計(jì)所示,各算法實(shí)現(xiàn)過(guò)程所需時(shí)間如表3所示。由表2各數(shù)字識(shí)別結(jié)果統(tǒng)計(jì)和表3各算法識(shí)別過(guò)程所需時(shí)

    (a)BP網(wǎng)絡(luò)識(shí)別結(jié)果(N=50)(e)BP網(wǎng)絡(luò)識(shí)別結(jié)果(N=200)

    (b)ELM識(shí)別結(jié)果(N=50)(f)ELM識(shí)別結(jié)果(N=200)

    (c)R?ELM識(shí)別結(jié)果(N=50)(g)R?ELM識(shí)別結(jié)果(N=200)

    (d)DFT?ELM識(shí)別結(jié)果(N=50)(h)DFT?ELM識(shí)別結(jié)果(N=200)

    圖8 隱層神經(jīng)元個(gè)數(shù)為50和200時(shí)4種算法識(shí)別結(jié)果

    間可知,各算法在隱含層神經(jīng)元個(gè)數(shù)為200時(shí)的平均識(shí)別率均高于隱含層神經(jīng)元個(gè)數(shù)為50時(shí)的平均識(shí)別率,且BP網(wǎng)絡(luò)的識(shí)別率遠(yuǎn)遠(yuǎn)高于ELM及ELM的優(yōu)化算法,但BP網(wǎng)絡(luò)的訓(xùn)練過(guò)程消耗大量時(shí)間。

    表2 各數(shù)字識(shí)別結(jié)果統(tǒng)計(jì)

    表3 各算法識(shí)別過(guò)程所需時(shí)間

    4 結(jié) 語(yǔ)

    該實(shí)驗(yàn)以手寫(xiě)體數(shù)字字符識(shí)別為例,驗(yàn)證了BP神經(jīng)網(wǎng)絡(luò)、極限學(xué)習(xí)機(jī)及其優(yōu)化算法的性能,極限學(xué)習(xí)機(jī)及其優(yōu)化算法較傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)大大減少了算法的時(shí)間復(fù)雜度。BP神經(jīng)網(wǎng)絡(luò)已經(jīng)在各領(lǐng)域得到了廣泛應(yīng)用,極限學(xué)習(xí)機(jī)及其優(yōu)化算法除適用于手寫(xiě)體數(shù)字字符的識(shí)別,也可用于其他字符和圖形符號(hào)的識(shí)別,同時(shí)為處理大批量數(shù)據(jù)時(shí)降低訓(xùn)練集規(guī)模、減少運(yùn)算量和提高效率提供了新思路。將該手寫(xiě)體數(shù)字字符識(shí)別實(shí)驗(yàn)應(yīng)用于本科生實(shí)驗(yàn)教學(xué),通過(guò)Matlab軟件編程實(shí)現(xiàn)手寫(xiě)體數(shù)字字符識(shí)別過(guò)程,讓學(xué)生對(duì)神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)過(guò)程更加明確,其中圖像降維和特征提取過(guò)程讓學(xué)生對(duì)模式識(shí)別有了一定了解,掌握了利用Matlab軟件進(jìn)行程序編寫(xiě)和神經(jīng)網(wǎng)絡(luò)仿真實(shí)驗(yàn)的技能。

    [1] 曹旭帆,胡同森.基于BP神經(jīng)網(wǎng)絡(luò)的含噪字符識(shí)別系統(tǒng)及Matlab實(shí)現(xiàn)[J].實(shí)驗(yàn)室研究與探索,2008(1):76-80.

    [2] 蔣鼎國(guó). 基于改進(jìn)型BP神經(jīng)網(wǎng)絡(luò)PID控制器的溫室溫度控制技術(shù)[J].實(shí)驗(yàn)室研究與探索,2015(1):9-13.

    [3] 曹旭帆,葉 舟,萬(wàn) 俊,等.基于BP神經(jīng)網(wǎng)絡(luò)的函數(shù)逼近實(shí)驗(yàn)及Matlab實(shí)現(xiàn)[J].實(shí)驗(yàn)室研究與探索,2008(5):34-38.

    [4] 周 品,Matlab神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)與應(yīng)用[M].北京:清華大學(xué)出版社,2013,164-171.

    [5] Huang Guangbin,Qin YuZhu, CheeK. Extreme learning machine:Theoryandapplications [J]. Neuroco-mputing,2006,70:489-501.

    [6] Huang Guangbin,Wang Dianhui, Lan Yuan. Extreme learning machines: a survey [J]. Int.J. Mach. Learn. & Cyber.(2011)2:107-122.

    [7] 趙文華,張文濤,杜欣慧. 形相似的ELM在電鐵短期負(fù)荷預(yù)測(cè)中應(yīng)用[J]. 實(shí)驗(yàn)室研究與探索,2013(11):279-282,328.

    [8] 潘煒深,金連文,馮子勇. 基于多尺度梯度及深度神經(jīng)網(wǎng)絡(luò)的漢字識(shí)別[J].北京航空航天大學(xué)學(xué)報(bào),2015(4):751-756.

    [9] 楊 怡,王江晴,朱宗曉. 基于仿射傳播聚類(lèi)的自適應(yīng)手寫(xiě)字符識(shí)別[J]. 計(jì)算機(jī)應(yīng)用,2015(3):807-810.

    [10] 李 琢,王亞利,盧奇茂,等. 帶有格線邊框的手寫(xiě)體數(shù)字串處理系統(tǒng)[J]. 清華大學(xué)學(xué)報(bào)(自然科學(xué)版),2002(3):387-390.

    [11] 王 璇,薛 瑞.基于BP神經(jīng)網(wǎng)絡(luò)的手寫(xiě)數(shù)字識(shí)別的算法[J]. 自動(dòng)化技術(shù)與應(yīng)用,2014(5):5-10.

    [12] 王一木,潘 赟,龍彥辰,等.基于自組織映射的手寫(xiě)數(shù)字識(shí)別的并行實(shí)現(xiàn)[J]. 浙江大學(xué)學(xué)報(bào)(工學(xué)版),2014(4):742-747.

    [13] 王艷芬,叢瀟雨,王 剛,等. 基于Simulink的Chirp-UWB通信系統(tǒng)綜合實(shí)驗(yàn)設(shè)計(jì)[J]. 實(shí)驗(yàn)室研究與探索,2015(7):90-93,234.

    [14] 張娟娟. 穩(wěn)健線性回歸中再生權(quán)最小二乘法的有效性研究[D].太原:太原理工大學(xué),2013.

    [15] Deng W, Zheng Q, Chen L. Regularized Extreme Learn- ing Machine[C].Computational Intelligence and Data Mining, 2009. CIDM '09.IEEE Symposium on IEEE, 2009:389-395.

    [16] Man ZhiHong,LeeK,WangDianhui,etal. A robust single-hidden layer feedforward network based pattern classifier[J].IEEE Transactions on Neural Networks and Learning Systems,2011,P-3489-R2.

    A Comparative Study on Handwritten Digital Character Recognition Algorithm by Simulation

    CHENLong,QIEXiao-mei,HUANGXin-jing,LINHu

    (School of Electronic Information, Hangzhou Dianzi University, Hangzhou 310018,China)

    In this paper, we use back propagation (BP) neural network, extreme learning machine (ELM), regularized extreme learning machine (R-ELM) and DFT extreme learning machine (DFT-ELM) to realize the recognition of handwritten digital characters. Ten thousands handwritten digital samples from MINIST database are used to train neural network parameters in the process of data transmission, use the trained neural network parameters to do handwritten digital recognition test. In the light of the simulation results, BP has the best recognition accuracy, regardless of the training speed. Compared with ELM, although R-ELM and DFT-ELM have higher recognition accuracy, both of them increase the time complexity. This handwritten digital recognition simulation experiment can use to strengthen student's studying and understanding of neural networks and improve students' ability in programming and engineering application.

    neural networks; extreme learing machine(ELM); handwritten digital recognition; experiment teaching

    2016-03-03

    浙江省2013年高等教育課堂教學(xué)改革項(xiàng)目(kg2013125);浙江省2015年度高等教育教學(xué)改革項(xiàng)目(jg2015060)

    陳 龍(1979-),男,山東寧陽(yáng)人,碩士,副教授,研究方向?yàn)榍度胧较到y(tǒng)設(shè)計(jì)與應(yīng)用、神經(jīng)網(wǎng)絡(luò)與機(jī)器學(xué)習(xí)。

    Tel.:0571-86915094; E-mail:chenlong@hdu.edu.cn

    G 642.423

    A

    1006-7167(2017)01-0093-05

    猜你喜歡
    手寫(xiě)體字符識(shí)別學(xué)習(xí)機(jī)
    哐當(dāng)(外一首)
    哐當(dāng)(外一首)
    基于大數(shù)據(jù)下的手寫(xiě)體識(shí)別的設(shè)計(jì)與研發(fā)
    披著書(shū)法外衣的手寫(xiě)體
    極限學(xué)習(xí)機(jī)綜述
    基于極限學(xué)習(xí)機(jī)參數(shù)遷移的域適應(yīng)算法
    一種改進(jìn)深度學(xué)習(xí)網(wǎng)絡(luò)結(jié)構(gòu)的英文字符識(shí)別
    分層極限學(xué)習(xí)機(jī)在滾動(dòng)軸承故障診斷中的應(yīng)用
    儀表字符識(shí)別中的圖像處理算法研究
    基于CUDA和深度置信網(wǎng)絡(luò)的手寫(xiě)字符識(shí)別
    亚洲av成人不卡在线观看播放网| 国产蜜桃级精品一区二区三区| 久久青草综合色| 少妇的丰满在线观看| 国产精品一区二区免费欧美| 一级a爱视频在线免费观看| 免费观看精品视频网站| 天天一区二区日本电影三级 | 99国产综合亚洲精品| 久久午夜亚洲精品久久| 日韩欧美国产在线观看| 少妇 在线观看| 一级a爱片免费观看的视频| 在线天堂中文资源库| 免费搜索国产男女视频| 欧美成人免费av一区二区三区| 久久国产亚洲av麻豆专区| 亚洲成人免费电影在线观看| 免费av毛片视频| а√天堂www在线а√下载| 国产成人一区二区三区免费视频网站| 久久久久久久久中文| 亚洲精品国产区一区二| 十八禁网站免费在线| 99riav亚洲国产免费| 成熟少妇高潮喷水视频| 亚洲午夜精品一区,二区,三区| 日韩精品青青久久久久久| 欧美老熟妇乱子伦牲交| 午夜福利视频1000在线观看 | 国产黄a三级三级三级人| 18禁裸乳无遮挡免费网站照片 | 久久热在线av| 精品国产亚洲在线| 亚洲成av片中文字幕在线观看| 一边摸一边抽搐一进一小说| 成人18禁在线播放| 国产视频一区二区在线看| 亚洲国产看品久久| 母亲3免费完整高清在线观看| 欧美黄色淫秽网站| 又黄又粗又硬又大视频| 午夜福利欧美成人| 夜夜爽天天搞| 一级作爱视频免费观看| 99精品久久久久人妻精品| 十分钟在线观看高清视频www| 欧美久久黑人一区二区| 在线观看舔阴道视频| 欧美激情久久久久久爽电影 | 国产成人影院久久av| 亚洲国产中文字幕在线视频| 少妇 在线观看| 男女做爰动态图高潮gif福利片 | 岛国在线观看网站| 久久婷婷人人爽人人干人人爱 | 精品一区二区三区视频在线观看免费| 国产黄a三级三级三级人| 如日韩欧美国产精品一区二区三区| 亚洲精品国产色婷婷电影| 国语自产精品视频在线第100页| 美女大奶头视频| 日韩欧美免费精品| 国产单亲对白刺激| 97人妻天天添夜夜摸| 亚洲国产看品久久| 一本久久中文字幕| 亚洲精品av麻豆狂野| 老汉色∧v一级毛片| 88av欧美| 日本一区二区免费在线视频| 国产亚洲精品av在线| 女人高潮潮喷娇喘18禁视频| 满18在线观看网站| 亚洲天堂国产精品一区在线| 亚洲成人久久性| 亚洲精品美女久久久久99蜜臀| 禁无遮挡网站| 一级毛片精品| 久久人人精品亚洲av| 成在线人永久免费视频| 国产亚洲欧美精品永久| 国产亚洲av高清不卡| 宅男免费午夜| 在线观看日韩欧美| av电影中文网址| 国产野战对白在线观看| av网站免费在线观看视频| 成人亚洲精品av一区二区| 色老头精品视频在线观看| 啦啦啦免费观看视频1| 搡老妇女老女人老熟妇| 天堂影院成人在线观看| 99久久久亚洲精品蜜臀av| 亚洲精品美女久久久久99蜜臀| 麻豆国产av国片精品| 黄色毛片三级朝国网站| 国产在线观看jvid| 这个男人来自地球电影免费观看| 国产精品电影一区二区三区| 欧美av亚洲av综合av国产av| 久久精品成人免费网站| 窝窝影院91人妻| 久久久久久人人人人人| 中文字幕另类日韩欧美亚洲嫩草| 日韩欧美在线二视频| 国产精品一区二区精品视频观看| 亚洲男人天堂网一区| 禁无遮挡网站| 韩国av一区二区三区四区| 91成人精品电影| 精品国产乱码久久久久久男人| 国产成人欧美在线观看| 在线观看66精品国产| 国产91精品成人一区二区三区| 99riav亚洲国产免费| 国产成人av激情在线播放| 老汉色∧v一级毛片| 亚洲中文av在线| 一级作爱视频免费观看| 欧美乱码精品一区二区三区| 日本 av在线| 99riav亚洲国产免费| 欧美一级a爱片免费观看看 | 午夜视频精品福利| 一个人免费在线观看的高清视频| 精品午夜福利视频在线观看一区| 日韩中文字幕欧美一区二区| 久久精品人人爽人人爽视色| 欧美日韩亚洲国产一区二区在线观看| 999久久久精品免费观看国产| 久久精品影院6| 国产欧美日韩综合在线一区二区| 欧美 亚洲 国产 日韩一| 国产一区在线观看成人免费| 日韩大码丰满熟妇| 99国产精品99久久久久| 国产不卡一卡二| 一级片免费观看大全| 中文字幕最新亚洲高清| 国产精品影院久久| 国产精品 国内视频| xxx96com| 欧美av亚洲av综合av国产av| 91国产中文字幕| 国产精品电影一区二区三区| 男人舔女人下体高潮全视频| 欧美色视频一区免费| 午夜日韩欧美国产| 男女做爰动态图高潮gif福利片 | 老汉色∧v一级毛片| 欧美日韩中文字幕国产精品一区二区三区 | 后天国语完整版免费观看| 窝窝影院91人妻| 午夜福利18| 久久久久久久精品吃奶| 丁香六月欧美| 亚洲片人在线观看| 久99久视频精品免费| 一本大道久久a久久精品| 一区二区日韩欧美中文字幕| 三级毛片av免费| 欧美 亚洲 国产 日韩一| 久久婷婷人人爽人人干人人爱 | 欧美av亚洲av综合av国产av| 波多野结衣一区麻豆| 一级毛片高清免费大全| 一区福利在线观看| 黄色片一级片一级黄色片| 无限看片的www在线观看| 精品人妻在线不人妻| 午夜精品在线福利| 色婷婷久久久亚洲欧美| 美女高潮喷水抽搐中文字幕| 国产单亲对白刺激| 黄色 视频免费看| 丝袜美腿诱惑在线| 久久热在线av| 国产又爽黄色视频| 麻豆国产av国片精品| 亚洲一区二区三区不卡视频| 亚洲久久久国产精品| 免费不卡黄色视频| 亚洲精品在线美女| av网站免费在线观看视频| 亚洲 欧美一区二区三区| 国产亚洲精品第一综合不卡| 制服诱惑二区| 欧美日韩精品网址| 露出奶头的视频| 日本在线视频免费播放| 日本五十路高清| 亚洲黑人精品在线| 一区二区三区国产精品乱码| 国产私拍福利视频在线观看| 女人被狂操c到高潮| 侵犯人妻中文字幕一二三四区| 天堂√8在线中文| 欧美黄色淫秽网站| 国产精品综合久久久久久久免费 | 9191精品国产免费久久| 亚洲av美国av| 色av中文字幕| 女人高潮潮喷娇喘18禁视频| 69精品国产乱码久久久| 国产精品98久久久久久宅男小说| 丝袜美腿诱惑在线| 九色国产91popny在线| 乱人伦中国视频| 久久精品91无色码中文字幕| 咕卡用的链子| 老汉色av国产亚洲站长工具| 在线播放国产精品三级| 亚洲第一av免费看| 免费在线观看黄色视频的| 不卡av一区二区三区| 欧美黄色片欧美黄色片| 午夜成年电影在线免费观看| 涩涩av久久男人的天堂| 中文字幕人妻熟女乱码| 亚洲人成网站在线播放欧美日韩| а√天堂www在线а√下载| 免费观看精品视频网站| 18禁国产床啪视频网站| 精品日产1卡2卡| 不卡一级毛片| 日本 欧美在线| 色播在线永久视频| 国产精品二区激情视频| 丰满人妻熟妇乱又伦精品不卡| 男人舔女人的私密视频| 欧美乱妇无乱码| 少妇熟女aⅴ在线视频| 亚洲熟妇中文字幕五十中出| 国产av一区在线观看免费| 嫩草影视91久久| 日本 欧美在线| 久久 成人 亚洲| 一进一出抽搐gif免费好疼| xxx96com| 搡老熟女国产l中国老女人| 一二三四在线观看免费中文在| 日韩欧美一区二区三区在线观看| 狠狠狠狠99中文字幕| 国产极品粉嫩免费观看在线| 啦啦啦韩国在线观看视频| 久久精品91蜜桃| 天天添夜夜摸| 啦啦啦韩国在线观看视频| 男女下面进入的视频免费午夜 | www.www免费av| 国产成+人综合+亚洲专区| 人人妻人人爽人人添夜夜欢视频| 国产精品久久电影中文字幕| 无遮挡黄片免费观看| 99香蕉大伊视频| 成年版毛片免费区| 少妇裸体淫交视频免费看高清 | 精品欧美国产一区二区三| 亚洲国产欧美网| 日韩欧美一区视频在线观看| 少妇的丰满在线观看| 一进一出抽搐gif免费好疼| 久久天躁狠狠躁夜夜2o2o| 久久影院123| 中文字幕人成人乱码亚洲影| 日本vs欧美在线观看视频| 亚洲 欧美 日韩 在线 免费| 色综合婷婷激情| 国产精品久久久人人做人人爽| 免费在线观看亚洲国产| 免费在线观看影片大全网站| 欧美成狂野欧美在线观看| 又黄又爽又免费观看的视频| 国内毛片毛片毛片毛片毛片| 色播在线永久视频| 成人免费观看视频高清| svipshipincom国产片| 午夜免费成人在线视频| 99精品久久久久人妻精品| 精品不卡国产一区二区三区| 人成视频在线观看免费观看| 欧美国产精品va在线观看不卡| 视频区欧美日本亚洲| 国产精品一区二区在线不卡| 国产精品久久久久久精品电影 | 色婷婷久久久亚洲欧美| 免费观看人在逋| 99精品在免费线老司机午夜| 男女做爰动态图高潮gif福利片 | 动漫黄色视频在线观看| 免费女性裸体啪啪无遮挡网站| 怎么达到女性高潮| 亚洲久久久国产精品| 国内久久婷婷六月综合欲色啪| 色在线成人网| 日本撒尿小便嘘嘘汇集6| 老汉色∧v一级毛片| 亚洲精华国产精华精| 无限看片的www在线观看| 亚洲av日韩精品久久久久久密| 最近最新中文字幕大全电影3 | 国产精品久久久久久精品电影 | 又黄又爽又免费观看的视频| 免费女性裸体啪啪无遮挡网站| 啦啦啦韩国在线观看视频| av视频免费观看在线观看| 操美女的视频在线观看| 国产99白浆流出| 久久久久久久久久久久大奶| 亚洲av五月六月丁香网| av网站免费在线观看视频| 亚洲自偷自拍图片 自拍| 免费高清在线观看日韩| 久久久久久久久中文| 天堂√8在线中文| 久久国产精品人妻蜜桃| 亚洲男人天堂网一区| 午夜成年电影在线免费观看| 两个人免费观看高清视频| 久久精品国产99精品国产亚洲性色 | 免费在线观看完整版高清| 国产亚洲欧美精品永久| av欧美777| 精品欧美一区二区三区在线| 丁香欧美五月| 欧美丝袜亚洲另类 | 国产精品亚洲av一区麻豆| 日本免费一区二区三区高清不卡 | 日本五十路高清| 一进一出抽搐动态| 天天躁夜夜躁狠狠躁躁| 美女 人体艺术 gogo| 老熟妇仑乱视频hdxx| 亚洲五月婷婷丁香| 成年版毛片免费区| 免费观看人在逋| 成人精品一区二区免费| 国产主播在线观看一区二区| 日韩欧美免费精品| 欧美av亚洲av综合av国产av| 成人亚洲精品一区在线观看| 国内毛片毛片毛片毛片毛片| 99久久国产精品久久久| 亚洲av成人一区二区三| av在线播放免费不卡| 高清黄色对白视频在线免费看| 成人18禁在线播放| 免费少妇av软件| 国产97色在线日韩免费| 亚洲国产精品sss在线观看| 夜夜夜夜夜久久久久| 国产欧美日韩一区二区三区在线| 99久久国产精品久久久| 国产男靠女视频免费网站| 国产极品粉嫩免费观看在线| 国产精品影院久久| 性少妇av在线| 亚洲伊人色综图| bbb黄色大片| 日韩免费av在线播放| 欧美日韩一级在线毛片| 欧美+亚洲+日韩+国产| 男人操女人黄网站| 丝袜在线中文字幕| 99精品久久久久人妻精品| 老汉色∧v一级毛片| 午夜福利视频1000在线观看 | 久久久久久久精品吃奶| 老熟妇乱子伦视频在线观看| 久久中文字幕一级| 在线观看舔阴道视频| 黄色视频,在线免费观看| 在线观看舔阴道视频| 国产精品精品国产色婷婷| 国产成人免费无遮挡视频| 99热只有精品国产| 国内精品久久久久精免费| 深夜精品福利| 脱女人内裤的视频| 一个人免费在线观看的高清视频| 久久精品亚洲精品国产色婷小说| 丝袜美腿诱惑在线| 99国产精品一区二区三区| 日本免费a在线| 亚洲专区字幕在线| 免费搜索国产男女视频| 麻豆成人av在线观看| 又大又爽又粗| 免费在线观看影片大全网站| 一进一出抽搐动态| 国产亚洲精品第一综合不卡| 成人亚洲精品av一区二区| 日本 av在线| 国产av一区在线观看免费| 国产私拍福利视频在线观看| 看免费av毛片| 日韩视频一区二区在线观看| 欧美精品啪啪一区二区三区| 国产成人精品久久二区二区91| 亚洲色图av天堂| 久久久久久久精品吃奶| 国产亚洲精品久久久久久毛片| 视频在线观看一区二区三区| 妹子高潮喷水视频| 欧美日韩福利视频一区二区| 91成人精品电影| 十分钟在线观看高清视频www| 色在线成人网| 色综合欧美亚洲国产小说| 国产精品久久久av美女十八| 一卡2卡三卡四卡精品乱码亚洲| 男女下面进入的视频免费午夜 | 亚洲在线自拍视频| 国产三级黄色录像| netflix在线观看网站| av在线天堂中文字幕| 成人永久免费在线观看视频| 久久亚洲真实| 亚洲精品国产区一区二| x7x7x7水蜜桃| 午夜福利欧美成人| 久久久久精品国产欧美久久久| 欧美黄色片欧美黄色片| 男男h啪啪无遮挡| 大陆偷拍与自拍| 无限看片的www在线观看| 欧美在线一区亚洲| 久久精品91蜜桃| 精品熟女少妇八av免费久了| 涩涩av久久男人的天堂| 欧美中文综合在线视频| 欧美激情 高清一区二区三区| 人人澡人人妻人| 国产一区二区激情短视频| 91在线观看av| av网站免费在线观看视频| 亚洲三区欧美一区| 欧美色视频一区免费| 日韩欧美国产一区二区入口| www国产在线视频色| 欧美黑人精品巨大| 午夜免费鲁丝| 叶爱在线成人免费视频播放| 最近最新中文字幕大全电影3 | tocl精华| 美女国产高潮福利片在线看| 免费观看人在逋| 99久久99久久久精品蜜桃| 琪琪午夜伦伦电影理论片6080| 热re99久久国产66热| 天堂√8在线中文| 亚洲情色 制服丝袜| 岛国视频午夜一区免费看| 精品一区二区三区av网在线观看| 国产精品,欧美在线| 自拍欧美九色日韩亚洲蝌蚪91| 丁香欧美五月| 自拍欧美九色日韩亚洲蝌蚪91| 国产亚洲精品第一综合不卡| 国产麻豆成人av免费视频| 黄色 视频免费看| 在线观看免费日韩欧美大片| 曰老女人黄片| 大陆偷拍与自拍| 99国产精品99久久久久| 亚洲av电影在线进入| 咕卡用的链子| 国产精品久久视频播放| 免费在线观看影片大全网站| 女人精品久久久久毛片| 精品国产美女av久久久久小说| 高潮久久久久久久久久久不卡| 久久久久久大精品| 成人国产综合亚洲| 一区二区三区精品91| 12—13女人毛片做爰片一| 桃色一区二区三区在线观看| 美女午夜性视频免费| 九色国产91popny在线| 久久久久久大精品| 亚洲av五月六月丁香网| 国产精华一区二区三区| www.自偷自拍.com| 亚洲欧美精品综合久久99| 在线免费观看的www视频| 国产成人免费无遮挡视频| 亚洲欧美一区二区三区黑人| 亚洲欧美激情在线| 日韩一卡2卡3卡4卡2021年| 欧美黑人精品巨大| 日日夜夜操网爽| 欧美日韩乱码在线| 日本黄色视频三级网站网址| 热99re8久久精品国产| 99re在线观看精品视频| 一级毛片女人18水好多| 欧美激情高清一区二区三区| 亚洲熟女毛片儿| 久久久精品国产亚洲av高清涩受| 精品一品国产午夜福利视频| 黄片播放在线免费| 久久久国产精品麻豆| 亚洲最大成人中文| 国产欧美日韩一区二区精品| 亚洲国产精品sss在线观看| 最新美女视频免费是黄的| 国产一区二区三区在线臀色熟女| 欧美精品亚洲一区二区| 18禁黄网站禁片午夜丰满| 丁香欧美五月| 看免费av毛片| 大型av网站在线播放| 麻豆久久精品国产亚洲av| 中文字幕色久视频| 88av欧美| 欧美性长视频在线观看| 好男人在线观看高清免费视频 | 91av网站免费观看| 久久精品91蜜桃| 最新在线观看一区二区三区| 精品乱码久久久久久99久播| 咕卡用的链子| 在线观看免费日韩欧美大片| 亚洲成人精品中文字幕电影| 久久人人爽av亚洲精品天堂| 午夜亚洲福利在线播放| 老汉色∧v一级毛片| 狂野欧美激情性xxxx| 亚洲第一青青草原| 美国免费a级毛片| 18禁裸乳无遮挡免费网站照片 | 亚洲视频免费观看视频| 色综合婷婷激情| 视频在线观看一区二区三区| 日本五十路高清| 国产精品一区二区在线不卡| 欧美日韩亚洲综合一区二区三区_| 亚洲成人免费电影在线观看| 久久久国产成人精品二区| 国产成年人精品一区二区| 中文字幕精品免费在线观看视频| 欧美乱妇无乱码| 亚洲第一av免费看| 成人欧美大片| 亚洲黑人精品在线| 韩国精品一区二区三区| 色尼玛亚洲综合影院| 国产成人精品在线电影| 精品不卡国产一区二区三区| 女人精品久久久久毛片| 亚洲成av片中文字幕在线观看| 天天一区二区日本电影三级 | 巨乳人妻的诱惑在线观看| 精品一区二区三区av网在线观看| 亚洲七黄色美女视频| 亚洲精品中文字幕在线视频| 成人亚洲精品av一区二区| 久久久久久国产a免费观看| 国产精品98久久久久久宅男小说| 非洲黑人性xxxx精品又粗又长| 男女做爰动态图高潮gif福利片 | 欧美激情极品国产一区二区三区| 精品福利观看| 午夜老司机福利片| 欧美老熟妇乱子伦牲交| 日韩国内少妇激情av| 精品欧美国产一区二区三| 久久狼人影院| 真人做人爱边吃奶动态| www.www免费av| 欧美av亚洲av综合av国产av| 日日夜夜操网爽| 午夜福利在线观看吧| 国产精品久久久久久亚洲av鲁大| 久久午夜综合久久蜜桃| 51午夜福利影视在线观看| 国产欧美日韩一区二区三区在线| 国内久久婷婷六月综合欲色啪| 黄色视频,在线免费观看| 久久久久久免费高清国产稀缺| 99久久综合精品五月天人人| 女生性感内裤真人,穿戴方法视频| 亚洲欧美精品综合一区二区三区| 国产亚洲欧美98| 欧美黑人欧美精品刺激| 天天一区二区日本电影三级 | avwww免费| 99久久99久久久精品蜜桃| 亚洲成av人片免费观看| 美女午夜性视频免费| 丝袜美足系列| 成年人黄色毛片网站| 日韩精品免费视频一区二区三区| 精品国产国语对白av| tocl精华| av视频免费观看在线观看| 欧美乱色亚洲激情| 欧美人与性动交α欧美精品济南到| 国产又爽黄色视频| 久久久久久久久中文| 久久九九热精品免费| 中文字幕人成人乱码亚洲影| 亚洲av片天天在线观看| 在线观看午夜福利视频| 国产男靠女视频免费网站| 黄色a级毛片大全视频| 久久久久久久精品吃奶| 国产av在哪里看| 中文字幕久久专区| 久久久久久久久久久久大奶| av天堂在线播放| 成人18禁高潮啪啪吃奶动态图| 久久中文字幕一级| 国产欧美日韩一区二区三区在线|