• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    手寫(xiě)體數(shù)字字符識(shí)別算法仿真比較研究

    2017-04-10 12:05:45郄小美黃信靜
    實(shí)驗(yàn)室研究與探索 2017年1期
    關(guān)鍵詞:手寫(xiě)體字符識(shí)別學(xué)習(xí)機(jī)

    陳 龍, 郄小美, 黃信靜, 林 虎

    (杭州電子科技大學(xué) 電子信息學(xué)院, 杭州 310018)

    手寫(xiě)體數(shù)字字符識(shí)別算法仿真比較研究

    陳 龍, 郄小美, 黃信靜, 林 虎

    (杭州電子科技大學(xué) 電子信息學(xué)院, 杭州 310018)

    采用BP神經(jīng)網(wǎng)絡(luò)、原始極限學(xué)習(xí)機(jī)、正則極限學(xué)習(xí)機(jī)和傅里葉變換優(yōu)化極限學(xué)習(xí)機(jī)算法分別進(jìn)行手寫(xiě)體數(shù)字字符識(shí)別仿真實(shí)驗(yàn),通過(guò)MINIST數(shù)據(jù)庫(kù)中的10 000個(gè)手寫(xiě)體數(shù)字樣本訓(xùn)練神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)傳輸過(guò)程中的參數(shù),用訓(xùn)練所得神經(jīng)網(wǎng)絡(luò)參數(shù)進(jìn)行手寫(xiě)體數(shù)字識(shí)別仿真測(cè)試。比較4種算法的仿真效果,BP網(wǎng)絡(luò)識(shí)別效果最好、訓(xùn)練速度最慢,原始極限學(xué)習(xí)機(jī)訓(xùn)練速度最快,正則極限學(xué)習(xí)機(jī)和傅里葉變換極限學(xué)習(xí)機(jī)優(yōu)化算法識(shí)別正確率高于原始極限學(xué)習(xí)機(jī),但增加了算法的時(shí)間復(fù)雜度。將該手寫(xiě)體數(shù)字字符識(shí)別仿真實(shí)驗(yàn)用于學(xué)生實(shí)驗(yàn)教學(xué),可加強(qiáng)學(xué)生對(duì)神經(jīng)網(wǎng)絡(luò)相關(guān)知識(shí)的學(xué)習(xí)和理解,提高學(xué)生編程和工程應(yīng)用能力。

    神經(jīng)網(wǎng)絡(luò); 極限學(xué)習(xí)機(jī); 手寫(xiě)數(shù)字識(shí)別; 實(shí)驗(yàn)教學(xué)

    0 引 言

    神經(jīng)網(wǎng)絡(luò)是模仿人的大腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和功能而建立的一種信息處理系統(tǒng),具有高度的非線性特征。神經(jīng)網(wǎng)絡(luò)在神經(jīng)科學(xué)、人工智能和計(jì)算機(jī)科學(xué)等領(lǐng)域具有廣泛應(yīng)用,其中Back Propagation (BP)神經(jīng)網(wǎng)絡(luò)是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一[1-3]。BP神經(jīng)網(wǎng)絡(luò)是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò),包括信號(hào)的正向傳播和誤差的反向傳播兩個(gè)過(guò)程。在多次信號(hào)的正向傳播和誤差的反向傳播過(guò)程中,神經(jīng)網(wǎng)絡(luò)各權(quán)值通過(guò)梯度下降法得到修正,使得網(wǎng)絡(luò)輸出誤差滿足要求,或達(dá)到設(shè)定的學(xué)習(xí)次數(shù)為止[4]。極限學(xué)習(xí)機(jī)是一種快速的單隱層前饋神經(jīng)網(wǎng)絡(luò)(Single-hidden Layer Feedforward Neural Network, SLFN),在2004年由黃廣斌教授等人提出,該算法通過(guò)大量的樣本計(jì)算確定神經(jīng)網(wǎng)絡(luò)的傳輸參數(shù),相對(duì)于BP神經(jīng)網(wǎng)絡(luò)因使用梯度下降法迭代計(jì)算傳輸參數(shù)耗費(fèi)大量時(shí)間,極限學(xué)習(xí)機(jī)計(jì)算過(guò)程無(wú)需迭代,具有訓(xùn)練速度快的特點(diǎn)[5-7]。

    手寫(xiě)數(shù)字識(shí)別在郵件分類(lèi)、車(chē)牌識(shí)別和銀行票據(jù)識(shí)別等方面的廣泛應(yīng)用使之成為了圖像處理和模式識(shí)別領(lǐng)域的一個(gè)研究熱點(diǎn)。目前已經(jīng)存在的手寫(xiě)字符識(shí)別方法包括模板匹配法、支持向量機(jī)和決策樹(shù)等[8-12]。本文采用BP神經(jīng)網(wǎng)絡(luò)、原始極限學(xué)習(xí)機(jī)、正則極限學(xué)習(xí)機(jī)和傅里葉變換優(yōu)化極限學(xué)習(xí)機(jī)算法進(jìn)行手寫(xiě)體數(shù)字字符識(shí)別仿真實(shí)驗(yàn),對(duì)4種算法的識(shí)別率和時(shí)間復(fù)雜度進(jìn)行了比較研究。該手寫(xiě)體數(shù)字字符識(shí)別實(shí)驗(yàn)用于本科生實(shí)驗(yàn)教學(xué)可提高學(xué)生對(duì)神經(jīng)網(wǎng)絡(luò)的理解和認(rèn)識(shí),讓學(xué)生掌握利用神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)手寫(xiě)體數(shù)字字符識(shí)別的方法,提高同學(xué)們綜合運(yùn)用所學(xué)知識(shí)解決實(shí)際問(wèn)題的能力[13]。

    1 極限學(xué)習(xí)機(jī)

    單隱含層前饋神經(jīng)網(wǎng)絡(luò)模型如圖1所示,包括輸入層、隱含層和輸出層,其中隱含層第i個(gè)神經(jīng)元的模型如圖2所示,隱含層第i個(gè)神經(jīng)元的輸入xj與對(duì)應(yīng)的權(quán)值wij相乘求和后加偏置b,經(jīng)激活函數(shù)g(x)限幅得隱含層神經(jīng)元輸出為

    (1)

    圖1 單隱含層前饋神經(jīng)網(wǎng)絡(luò)模型圖

    圖2 隱含層第i個(gè)神經(jīng)元模型圖

    (2)

    為了使模型的實(shí)際輸出oj零誤差逼近于期望輸出tj,即

    (3)

    輸入權(quán)值矩陣W和偏置矩陣b可隨機(jī)設(shè)定[5-6],根據(jù)Moore-Penrose廣義逆矩陣和最小范數(shù)最小二乘解[14]的相關(guān)定理,采用矩陣表達(dá)式得:

    (4)

    式中:H+為隱含層輸出矩陣H的Moore-Penrose廣義逆矩陣。

    神經(jīng)網(wǎng)絡(luò)訓(xùn)練過(guò)程即求傳輸參數(shù)的過(guò)程,對(duì)ELM而言即求輸出矩陣β的過(guò)程,根據(jù)式(1)~(4)完成ELM的參數(shù)訓(xùn)練過(guò)程,用所得輸出權(quán)值矩陣β進(jìn)行測(cè)試,對(duì)測(cè)試結(jié)果進(jìn)行對(duì)比和分析,測(cè)試結(jié)果若不滿足要求,可通過(guò)適當(dāng)增加訓(xùn)練樣本或增加隱含層神經(jīng)元個(gè)數(shù)改善測(cè)試結(jié)果。

    2 極限學(xué)習(xí)機(jī)優(yōu)化算法

    2.1 正則極限學(xué)習(xí)機(jī)

    正則極限學(xué)習(xí)機(jī)是一種通過(guò)參數(shù)γ來(lái)調(diào)節(jié)原始極限學(xué)習(xí)機(jī)數(shù)學(xué)模型存在的經(jīng)驗(yàn)和結(jié)構(gòu)風(fēng)險(xiǎn)的比例,從而提高原始極限學(xué)習(xí)機(jī)泛化能力,防止原始極限學(xué)習(xí)機(jī)易導(dǎo)致過(guò)擬合問(wèn)題的優(yōu)化算法[15],其數(shù)學(xué)模型由下式表示,使J值達(dá)到最小:

    (5)

    用拉格朗日乘子法求解式(5)所示數(shù)學(xué)模型的最優(yōu)解,R-ELM的數(shù)學(xué)模型可用拉格朗日方程表示為:

    L(β,ε,α)=

    (6)

    求得輸出權(quán)值矩陣

    (7)

    正則極限學(xué)習(xí)機(jī)通過(guò)優(yōu)化參數(shù)γ和矩陣D優(yōu)化輸出權(quán)值矩陣,通過(guò)式(7)計(jì)算所得輸出權(quán)值矩陣β進(jìn)行正則極限學(xué)習(xí)機(jī)的測(cè)試。

    2.2 傅里葉變換優(yōu)化極限學(xué)習(xí)機(jī)算法

    傅里葉變換是一種信號(hào)分析的方法,傅里葉變換優(yōu)化極限學(xué)習(xí)機(jī)算法[16]將隱含層神經(jīng)元的輸出做傅里葉變換,將圖像的特征轉(zhuǎn)換為特定的頻率信號(hào),通過(guò)拉格朗日乘子法優(yōu)化原始極限學(xué)習(xí)機(jī)的輸入權(quán)值矩陣,具體模型如下式所示,使J取最小值:

    (8)

    (9)

    用拉格朗日乘子法求解,列寫(xiě)拉格朗日方程為:

    (10)

    對(duì)式(10)求梯度得:

    (11)

    求得優(yōu)化后的輸入權(quán)值矩陣為:

    (12)

    優(yōu)化輸出權(quán)值矩陣的數(shù)學(xué)模型為

    (13)

    式中,ε=O-T=Hβ-T。列寫(xiě)優(yōu)化輸出矩陣的拉格朗日方程為:

    (14)

    與以上優(yōu)化輸入權(quán)值矩陣求解方式相同,解得優(yōu)化后的輸出權(quán)值矩陣為

    (15)

    傅里葉變換優(yōu)化極限學(xué)習(xí)機(jī)算法在對(duì)輸出權(quán)值矩陣β進(jìn)行優(yōu)化之前對(duì)輸入權(quán)值矩陣w也進(jìn)行了優(yōu)化。

    3 手寫(xiě)體數(shù)字字符識(shí)別仿真實(shí)驗(yàn)

    實(shí)驗(yàn)采用BP、ELM、R-ELM和DFT-ELM 4種算法進(jìn)行手寫(xiě)體數(shù)字字符識(shí)別仿真實(shí)驗(yàn),樣本選擇MINIST數(shù)據(jù)庫(kù)中的10 000個(gè)手寫(xiě)體數(shù)字作為訓(xùn)練樣本,部分樣本圖片如圖3所示,各字符筆畫(huà)的粗細(xì)和形狀各不相同,具有代表性。神經(jīng)網(wǎng)絡(luò)經(jīng)過(guò)訓(xùn)練后,選擇1 000個(gè)樣本進(jìn)行測(cè)試,其中0~9各數(shù)字均為100個(gè),最后對(duì)4種算法手寫(xiě)體數(shù)字字符識(shí)別結(jié)果進(jìn)行對(duì)比和分析。

    圖3 部分樣本圖片

    3.1 手寫(xiě)體數(shù)字字符樣本預(yù)處理

    MINIST樣本庫(kù)中手寫(xiě)體數(shù)字圖像均為28×28的灰度圖,黑色值為0,白色值為255。為減少運(yùn)算量,降低數(shù)據(jù)維數(shù),采用式(16)對(duì)樣本圖片進(jìn)行降維,其中r=c=2,圖4為數(shù)字樣本圖片5的降維結(jié)果,經(jīng)過(guò)降維后圖像像素為14×14。圖5為降維后的樣本圖片5的數(shù)據(jù)特征,橫坐標(biāo)為像素點(diǎn)順序,縱坐標(biāo)為灰度值。

    (16)

    圖5 樣本圖片5的灰度特征圖

    3.2 手寫(xiě)體數(shù)字字符識(shí)別仿真

    (1) 基于BP神經(jīng)網(wǎng)絡(luò)的手寫(xiě)體數(shù)字字符識(shí)別算法仿真。Matlab工具箱中為神經(jīng)網(wǎng)絡(luò)的訓(xùn)練提供了大量的庫(kù)函數(shù),本實(shí)驗(yàn)中采用newff函數(shù)創(chuàng)建BP神經(jīng)網(wǎng)絡(luò),train函數(shù)完成BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,圖6所示為隱含層神經(jīng)元個(gè)數(shù)為200時(shí)BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過(guò)程。圖6顯示了該BP神經(jīng)網(wǎng)絡(luò)輸入層具有196個(gè)神經(jīng)元,隱含層具有200個(gè)神經(jīng)元,輸出層具有10個(gè)神經(jīng)元,最大迭代次數(shù)為1 000次,訓(xùn)練時(shí)間為24 s。

    圖6 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練過(guò)程

    (2) 基于ELM算法的手寫(xiě)體數(shù)字字符識(shí)別算法仿真。經(jīng)過(guò)數(shù)據(jù)初始化后,通過(guò)對(duì)訓(xùn)練樣本的學(xué)習(xí)確定ELM傳輸過(guò)程中的傳輸參數(shù),即輸出權(quán)值矩陣β,期望輸出T為一個(gè)1×10的矩陣,數(shù)字為0~9時(shí)對(duì)應(yīng)的期望輸出,如表1所示。

    表1 各數(shù)字對(duì)應(yīng)的期望輸出T

    當(dāng)隱含層神經(jīng)元個(gè)數(shù)為200時(shí)測(cè)試所得神經(jīng)網(wǎng)絡(luò)的輸出如圖7所示,圖7(a)~(j)分別表示測(cè)試樣本為0~9時(shí)ELM網(wǎng)絡(luò)輸出。

    (3) R-ELM算法實(shí)現(xiàn)手寫(xiě)體數(shù)字字符識(shí)別。R-ELM優(yōu)化算法的目標(biāo)是提高原始極限學(xué)習(xí)機(jī)的泛化能力,根據(jù)式(7)計(jì)算R-ELM算法的輸出權(quán)值矩陣,其中調(diào)節(jié)參數(shù)γ=0.25,矩陣D取單位對(duì)角矩陣,輸出方式與ELM相同。

    (4) DFT-ELM算法實(shí)現(xiàn)手寫(xiě)體數(shù)字字符識(shí)別。DFT-ELM根據(jù)式(12)計(jì)算輸入權(quán)值矩陣,式(15)計(jì)算輸出權(quán)值矩陣,其中d1=d2=0.01,γ1=γ2=0.5,輸出方式與ELM相同。

    (a)數(shù)字0的識(shí)別結(jié)果(b)數(shù)字1的識(shí)別結(jié)果

    (c)數(shù)字2的識(shí)別結(jié)果(d)數(shù)字3的識(shí)別結(jié)果

    (e)數(shù)字4的識(shí)別結(jié)果(f)數(shù)字5的識(shí)別結(jié)果

    (g)數(shù)字6的識(shí)別結(jié)果(h)數(shù)字7的識(shí)別結(jié)果

    (i)數(shù)字8的識(shí)別結(jié)果(j)數(shù)字9的識(shí)別結(jié)果

    圖7 神經(jīng)元個(gè)數(shù)為200時(shí)ELM算法識(shí)別結(jié)果

    3.3 實(shí)驗(yàn)結(jié)果分析與對(duì)比

    為了比較BP、ELM、R-ELM和DFT-ELM 4種算法對(duì)手寫(xiě)體數(shù)字字符的識(shí)別效果,統(tǒng)計(jì)各數(shù)字識(shí)別正確的個(gè)數(shù),識(shí)別結(jié)果如圖8所示,橫坐標(biāo)為待識(shí)別的數(shù)字,縱坐標(biāo)為該數(shù)字識(shí)別正確的個(gè)數(shù),其中圖8(a)、(b)、(c)、(d)為隱含層神經(jīng)元個(gè)數(shù)為50時(shí)各算法的識(shí)別結(jié)果,圖8(e)、(f)、(g)、(h)為隱含層神經(jīng)元個(gè)數(shù)為200時(shí)各算法的識(shí)別結(jié)果。

    對(duì)圖8所示識(shí)別結(jié)果進(jìn)行統(tǒng)計(jì),4種算法在隱含層神經(jīng)元個(gè)數(shù)分別為50和200時(shí)各數(shù)字字符識(shí)別正確的個(gè)數(shù)及平均識(shí)別率如表2各數(shù)字字符識(shí)別結(jié)果統(tǒng)計(jì)所示,各算法實(shí)現(xiàn)過(guò)程所需時(shí)間如表3所示。由表2各數(shù)字識(shí)別結(jié)果統(tǒng)計(jì)和表3各算法識(shí)別過(guò)程所需時(shí)

    (a)BP網(wǎng)絡(luò)識(shí)別結(jié)果(N=50)(e)BP網(wǎng)絡(luò)識(shí)別結(jié)果(N=200)

    (b)ELM識(shí)別結(jié)果(N=50)(f)ELM識(shí)別結(jié)果(N=200)

    (c)R?ELM識(shí)別結(jié)果(N=50)(g)R?ELM識(shí)別結(jié)果(N=200)

    (d)DFT?ELM識(shí)別結(jié)果(N=50)(h)DFT?ELM識(shí)別結(jié)果(N=200)

    圖8 隱層神經(jīng)元個(gè)數(shù)為50和200時(shí)4種算法識(shí)別結(jié)果

    間可知,各算法在隱含層神經(jīng)元個(gè)數(shù)為200時(shí)的平均識(shí)別率均高于隱含層神經(jīng)元個(gè)數(shù)為50時(shí)的平均識(shí)別率,且BP網(wǎng)絡(luò)的識(shí)別率遠(yuǎn)遠(yuǎn)高于ELM及ELM的優(yōu)化算法,但BP網(wǎng)絡(luò)的訓(xùn)練過(guò)程消耗大量時(shí)間。

    表2 各數(shù)字識(shí)別結(jié)果統(tǒng)計(jì)

    表3 各算法識(shí)別過(guò)程所需時(shí)間

    4 結(jié) 語(yǔ)

    該實(shí)驗(yàn)以手寫(xiě)體數(shù)字字符識(shí)別為例,驗(yàn)證了BP神經(jīng)網(wǎng)絡(luò)、極限學(xué)習(xí)機(jī)及其優(yōu)化算法的性能,極限學(xué)習(xí)機(jī)及其優(yōu)化算法較傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)大大減少了算法的時(shí)間復(fù)雜度。BP神經(jīng)網(wǎng)絡(luò)已經(jīng)在各領(lǐng)域得到了廣泛應(yīng)用,極限學(xué)習(xí)機(jī)及其優(yōu)化算法除適用于手寫(xiě)體數(shù)字字符的識(shí)別,也可用于其他字符和圖形符號(hào)的識(shí)別,同時(shí)為處理大批量數(shù)據(jù)時(shí)降低訓(xùn)練集規(guī)模、減少運(yùn)算量和提高效率提供了新思路。將該手寫(xiě)體數(shù)字字符識(shí)別實(shí)驗(yàn)應(yīng)用于本科生實(shí)驗(yàn)教學(xué),通過(guò)Matlab軟件編程實(shí)現(xiàn)手寫(xiě)體數(shù)字字符識(shí)別過(guò)程,讓學(xué)生對(duì)神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)過(guò)程更加明確,其中圖像降維和特征提取過(guò)程讓學(xué)生對(duì)模式識(shí)別有了一定了解,掌握了利用Matlab軟件進(jìn)行程序編寫(xiě)和神經(jīng)網(wǎng)絡(luò)仿真實(shí)驗(yàn)的技能。

    [1] 曹旭帆,胡同森.基于BP神經(jīng)網(wǎng)絡(luò)的含噪字符識(shí)別系統(tǒng)及Matlab實(shí)現(xiàn)[J].實(shí)驗(yàn)室研究與探索,2008(1):76-80.

    [2] 蔣鼎國(guó). 基于改進(jìn)型BP神經(jīng)網(wǎng)絡(luò)PID控制器的溫室溫度控制技術(shù)[J].實(shí)驗(yàn)室研究與探索,2015(1):9-13.

    [3] 曹旭帆,葉 舟,萬(wàn) 俊,等.基于BP神經(jīng)網(wǎng)絡(luò)的函數(shù)逼近實(shí)驗(yàn)及Matlab實(shí)現(xiàn)[J].實(shí)驗(yàn)室研究與探索,2008(5):34-38.

    [4] 周 品,Matlab神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)與應(yīng)用[M].北京:清華大學(xué)出版社,2013,164-171.

    [5] Huang Guangbin,Qin YuZhu, CheeK. Extreme learning machine:Theoryandapplications [J]. Neuroco-mputing,2006,70:489-501.

    [6] Huang Guangbin,Wang Dianhui, Lan Yuan. Extreme learning machines: a survey [J]. Int.J. Mach. Learn. & Cyber.(2011)2:107-122.

    [7] 趙文華,張文濤,杜欣慧. 形相似的ELM在電鐵短期負(fù)荷預(yù)測(cè)中應(yīng)用[J]. 實(shí)驗(yàn)室研究與探索,2013(11):279-282,328.

    [8] 潘煒深,金連文,馮子勇. 基于多尺度梯度及深度神經(jīng)網(wǎng)絡(luò)的漢字識(shí)別[J].北京航空航天大學(xué)學(xué)報(bào),2015(4):751-756.

    [9] 楊 怡,王江晴,朱宗曉. 基于仿射傳播聚類(lèi)的自適應(yīng)手寫(xiě)字符識(shí)別[J]. 計(jì)算機(jī)應(yīng)用,2015(3):807-810.

    [10] 李 琢,王亞利,盧奇茂,等. 帶有格線邊框的手寫(xiě)體數(shù)字串處理系統(tǒng)[J]. 清華大學(xué)學(xué)報(bào)(自然科學(xué)版),2002(3):387-390.

    [11] 王 璇,薛 瑞.基于BP神經(jīng)網(wǎng)絡(luò)的手寫(xiě)數(shù)字識(shí)別的算法[J]. 自動(dòng)化技術(shù)與應(yīng)用,2014(5):5-10.

    [12] 王一木,潘 赟,龍彥辰,等.基于自組織映射的手寫(xiě)數(shù)字識(shí)別的并行實(shí)現(xiàn)[J]. 浙江大學(xué)學(xué)報(bào)(工學(xué)版),2014(4):742-747.

    [13] 王艷芬,叢瀟雨,王 剛,等. 基于Simulink的Chirp-UWB通信系統(tǒng)綜合實(shí)驗(yàn)設(shè)計(jì)[J]. 實(shí)驗(yàn)室研究與探索,2015(7):90-93,234.

    [14] 張娟娟. 穩(wěn)健線性回歸中再生權(quán)最小二乘法的有效性研究[D].太原:太原理工大學(xué),2013.

    [15] Deng W, Zheng Q, Chen L. Regularized Extreme Learn- ing Machine[C].Computational Intelligence and Data Mining, 2009. CIDM '09.IEEE Symposium on IEEE, 2009:389-395.

    [16] Man ZhiHong,LeeK,WangDianhui,etal. A robust single-hidden layer feedforward network based pattern classifier[J].IEEE Transactions on Neural Networks and Learning Systems,2011,P-3489-R2.

    A Comparative Study on Handwritten Digital Character Recognition Algorithm by Simulation

    CHENLong,QIEXiao-mei,HUANGXin-jing,LINHu

    (School of Electronic Information, Hangzhou Dianzi University, Hangzhou 310018,China)

    In this paper, we use back propagation (BP) neural network, extreme learning machine (ELM), regularized extreme learning machine (R-ELM) and DFT extreme learning machine (DFT-ELM) to realize the recognition of handwritten digital characters. Ten thousands handwritten digital samples from MINIST database are used to train neural network parameters in the process of data transmission, use the trained neural network parameters to do handwritten digital recognition test. In the light of the simulation results, BP has the best recognition accuracy, regardless of the training speed. Compared with ELM, although R-ELM and DFT-ELM have higher recognition accuracy, both of them increase the time complexity. This handwritten digital recognition simulation experiment can use to strengthen student's studying and understanding of neural networks and improve students' ability in programming and engineering application.

    neural networks; extreme learing machine(ELM); handwritten digital recognition; experiment teaching

    2016-03-03

    浙江省2013年高等教育課堂教學(xué)改革項(xiàng)目(kg2013125);浙江省2015年度高等教育教學(xué)改革項(xiàng)目(jg2015060)

    陳 龍(1979-),男,山東寧陽(yáng)人,碩士,副教授,研究方向?yàn)榍度胧较到y(tǒng)設(shè)計(jì)與應(yīng)用、神經(jīng)網(wǎng)絡(luò)與機(jī)器學(xué)習(xí)。

    Tel.:0571-86915094; E-mail:chenlong@hdu.edu.cn

    G 642.423

    A

    1006-7167(2017)01-0093-05

    猜你喜歡
    手寫(xiě)體字符識(shí)別學(xué)習(xí)機(jī)
    哐當(dāng)(外一首)
    哐當(dāng)(外一首)
    基于大數(shù)據(jù)下的手寫(xiě)體識(shí)別的設(shè)計(jì)與研發(fā)
    披著書(shū)法外衣的手寫(xiě)體
    極限學(xué)習(xí)機(jī)綜述
    基于極限學(xué)習(xí)機(jī)參數(shù)遷移的域適應(yīng)算法
    一種改進(jìn)深度學(xué)習(xí)網(wǎng)絡(luò)結(jié)構(gòu)的英文字符識(shí)別
    分層極限學(xué)習(xí)機(jī)在滾動(dòng)軸承故障診斷中的應(yīng)用
    儀表字符識(shí)別中的圖像處理算法研究
    基于CUDA和深度置信網(wǎng)絡(luò)的手寫(xiě)字符識(shí)別
    国产一区二区三区综合在线观看| 国产日韩欧美视频二区| 久久国产精品影院| 黑人巨大精品欧美一区二区蜜桃| 美女高潮到喷水免费观看| 免费人妻精品一区二区三区视频| 国产人伦9x9x在线观看| 亚洲三区欧美一区| h视频一区二区三区| 国产亚洲精品久久久久5区| 久久久国产成人免费| 美女扒开内裤让男人捅视频| 欧美日韩av久久| 91字幕亚洲| 日本黄色日本黄色录像| 精品国产乱码久久久久久小说| 高清在线国产一区| 黑人巨大精品欧美一区二区mp4| 美女午夜性视频免费| 欧美日韩亚洲综合一区二区三区_| av福利片在线| 91精品国产国语对白视频| 中文亚洲av片在线观看爽 | 国产欧美日韩一区二区三| 久久精品国产亚洲av高清一级| 99久久国产精品久久久| 9191精品国产免费久久| videos熟女内射| 90打野战视频偷拍视频| 69精品国产乱码久久久| 99国产精品99久久久久| 国产日韩欧美亚洲二区| 日本a在线网址| 亚洲伊人久久精品综合| 久久精品亚洲精品国产色婷小说| 国产精品麻豆人妻色哟哟久久| 老司机影院毛片| 久久久国产成人免费| 黄片播放在线免费| 飞空精品影院首页| 国产在线免费精品| 国产一区二区在线观看av| 91精品国产国语对白视频| 午夜视频精品福利| 亚洲av电影在线进入| 一进一出抽搐动态| 国产亚洲精品一区二区www | 俄罗斯特黄特色一大片| 亚洲av第一区精品v没综合| 交换朋友夫妻互换小说| 露出奶头的视频| 五月开心婷婷网| av有码第一页| 免费观看av网站的网址| 久久免费观看电影| 亚洲人成电影免费在线| 熟女少妇亚洲综合色aaa.| 啦啦啦视频在线资源免费观看| av不卡在线播放| 97人妻天天添夜夜摸| 久久久久久人人人人人| 美女午夜性视频免费| 美女高潮到喷水免费观看| 久久免费观看电影| 极品人妻少妇av视频| 亚洲欧洲日产国产| 精品高清国产在线一区| 天天躁夜夜躁狠狠躁躁| 国产免费福利视频在线观看| 国产激情久久老熟女| av免费在线观看网站| 国产主播在线观看一区二区| 91国产中文字幕| 久久国产精品人妻蜜桃| 狠狠精品人妻久久久久久综合| 国产亚洲欧美在线一区二区| 欧美黄色淫秽网站| 黄色成人免费大全| 国产欧美日韩精品亚洲av| 成人黄色视频免费在线看| 亚洲精品久久午夜乱码| 丁香六月天网| 久久中文字幕人妻熟女| av网站在线播放免费| 国产精品国产高清国产av | 国产成人精品无人区| 一级片'在线观看视频| 美女国产高潮福利片在线看| 18禁国产床啪视频网站| 大香蕉久久成人网| 中文字幕高清在线视频| 天天躁狠狠躁夜夜躁狠狠躁| 久久久久久久精品吃奶| 99国产精品一区二区蜜桃av | 国产亚洲精品一区二区www | 免费看十八禁软件| 啦啦啦视频在线资源免费观看| 乱人伦中国视频| 久久中文字幕一级| 国产精品免费大片| 中文亚洲av片在线观看爽 | 久9热在线精品视频| 高潮久久久久久久久久久不卡| 欧美日韩av久久| 一区福利在线观看| 欧美日韩成人在线一区二区| 国产精品电影一区二区三区 | 天天添夜夜摸| 国产亚洲欧美精品永久| 激情视频va一区二区三区| 91精品三级在线观看| 午夜精品久久久久久毛片777| 日日摸夜夜添夜夜添小说| 在线观看www视频免费| 99国产精品免费福利视频| 18在线观看网站| 婷婷丁香在线五月| 欧美激情久久久久久爽电影 | 成人精品一区二区免费| 美女午夜性视频免费| 亚洲一区二区三区欧美精品| 精品国产乱子伦一区二区三区| 男人舔女人的私密视频| 高清黄色对白视频在线免费看| 日韩中文字幕视频在线看片| 成年版毛片免费区| 啦啦啦 在线观看视频| 亚洲国产av新网站| 777久久人妻少妇嫩草av网站| 另类亚洲欧美激情| 一区二区av电影网| 欧美日韩精品网址| 欧美黑人欧美精品刺激| 久久久精品国产亚洲av高清涩受| av电影中文网址| 亚洲国产看品久久| 麻豆国产av国片精品| 午夜福利视频精品| 精品一区二区三卡| 欧美日韩福利视频一区二区| 成年版毛片免费区| 噜噜噜噜噜久久久久久91| 欧美中文日本在线观看视频| 亚洲中文字幕一区二区三区有码在线看 | 天天添夜夜摸| 狂野欧美白嫩少妇大欣赏| 长腿黑丝高跟| 99久久精品热视频| 国产精品一及| 日韩三级视频一区二区三区| 丝袜人妻中文字幕| 色av中文字幕| 成人永久免费在线观看视频| 亚洲一区二区三区色噜噜| 亚洲国产看品久久| 亚洲五月天丁香| 脱女人内裤的视频| 国产一区二区在线观看日韩 | 日本 欧美在线| 国产 一区 欧美 日韩| 亚洲成人久久性| 在线观看美女被高潮喷水网站 | 久久精品91无色码中文字幕| 国产探花在线观看一区二区| av天堂在线播放| 91久久精品国产一区二区成人 | 国产午夜精品论理片| 五月伊人婷婷丁香| 亚洲色图 男人天堂 中文字幕| 可以在线观看毛片的网站| 国产精品99久久久久久久久| 午夜福利视频1000在线观看| 麻豆成人午夜福利视频| 天堂影院成人在线观看| 亚洲国产日韩欧美精品在线观看 | 女同久久另类99精品国产91| 中文字幕人成人乱码亚洲影| 欧美日韩乱码在线| 中文字幕精品亚洲无线码一区| 中文字幕久久专区| 精品国产亚洲在线| 国产欧美日韩一区二区三| 亚洲五月天丁香| 国产成人啪精品午夜网站| 亚洲va日本ⅴa欧美va伊人久久| 午夜免费成人在线视频| 这个男人来自地球电影免费观看| 又黄又粗又硬又大视频| 亚洲av免费在线观看| 精品一区二区三区四区五区乱码| 成人特级黄色片久久久久久久| 90打野战视频偷拍视频| 99热这里只有是精品50| 亚洲片人在线观看| 首页视频小说图片口味搜索| 日韩中文字幕欧美一区二区| av在线天堂中文字幕| 在线播放国产精品三级| 亚洲美女黄片视频| 亚洲色图 男人天堂 中文字幕| 又黄又粗又硬又大视频| 老汉色av国产亚洲站长工具| 丰满人妻熟妇乱又伦精品不卡| ponron亚洲| 两个人视频免费观看高清| 国产在线精品亚洲第一网站| 午夜a级毛片| 女警被强在线播放| 国产精品久久久久久久电影 | 亚洲欧美激情综合另类| 黄色 视频免费看| 一个人免费在线观看电影 | 少妇裸体淫交视频免费看高清| 国产人伦9x9x在线观看| 巨乳人妻的诱惑在线观看| 欧美乱妇无乱码| 国产精品99久久久久久久久| 国产黄a三级三级三级人| 熟女少妇亚洲综合色aaa.| 欧美日韩国产亚洲二区| 久久国产乱子伦精品免费另类| 丝袜人妻中文字幕| 手机成人av网站| 国产精品九九99| 99热这里只有精品一区 | 久久性视频一级片| 老熟妇乱子伦视频在线观看| 亚洲九九香蕉| 最近最新中文字幕大全电影3| 日韩欧美 国产精品| 观看美女的网站| 夜夜躁狠狠躁天天躁| 欧美日本亚洲视频在线播放| 国产麻豆成人av免费视频| 一级黄色大片毛片| 久久久久久久精品吃奶| 欧美乱色亚洲激情| 亚洲精品国产精品久久久不卡| 成熟少妇高潮喷水视频| 精品久久久久久,| 真人一进一出gif抽搐免费| 亚洲午夜精品一区,二区,三区| 色综合站精品国产| 高潮久久久久久久久久久不卡| 一a级毛片在线观看| 国产成人一区二区三区免费视频网站| av在线蜜桃| 最近最新中文字幕大全免费视频| 一本综合久久免费| 久久久久久久午夜电影| 国产久久久一区二区三区| 午夜免费成人在线视频| 精品欧美国产一区二区三| 国产精品一区二区三区四区免费观看 | 精品久久久久久久毛片微露脸| 丰满人妻熟妇乱又伦精品不卡| 午夜影院日韩av| 久久久国产成人免费| 免费av不卡在线播放| 精品国产乱码久久久久久男人| 国产成人av激情在线播放| avwww免费| 99久久精品国产亚洲精品| 亚洲 欧美 日韩 在线 免费| 亚洲精华国产精华精| 在线观看舔阴道视频| 国产高清视频在线观看网站| 国产精品 欧美亚洲| 亚洲真实伦在线观看| 久久九九热精品免费| 欧美日韩瑟瑟在线播放| 精品国产乱码久久久久久男人| 日日夜夜操网爽| 国产精品av视频在线免费观看| 热99re8久久精品国产| 久久香蕉精品热| 最近最新中文字幕大全免费视频| netflix在线观看网站| 88av欧美| 精品久久久久久成人av| 男女午夜视频在线观看| 狂野欧美白嫩少妇大欣赏| 亚洲精品在线美女| 俺也久久电影网| 国产毛片a区久久久久| 精品久久久久久久毛片微露脸| 欧美一级a爱片免费观看看| 男女做爰动态图高潮gif福利片| 国产视频内射| 男人舔奶头视频| 精品欧美国产一区二区三| av福利片在线观看| 精品久久久久久久末码| 欧美绝顶高潮抽搐喷水| 噜噜噜噜噜久久久久久91| 看免费av毛片| 长腿黑丝高跟| 久久人妻av系列| av欧美777| 美女高潮的动态| 男人舔奶头视频| 在线观看日韩欧美| 国产高清视频在线播放一区| 欧美成狂野欧美在线观看| 三级男女做爰猛烈吃奶摸视频| 偷拍熟女少妇极品色| 成人一区二区视频在线观看| 亚洲,欧美精品.| 国产精品久久电影中文字幕| 日韩 欧美 亚洲 中文字幕| 97超级碰碰碰精品色视频在线观看| ponron亚洲| 亚洲色图 男人天堂 中文字幕| 国产精品亚洲一级av第二区| 成人无遮挡网站| 久久久久国产精品人妻aⅴ院| 国产一区二区三区在线臀色熟女| 国产激情欧美一区二区| 国产一区二区激情短视频| 欧美一级a爱片免费观看看| 1024香蕉在线观看| av黄色大香蕉| 国产精品久久久久久精品电影| 少妇的丰满在线观看| 久久欧美精品欧美久久欧美| 非洲黑人性xxxx精品又粗又长| 国产精品综合久久久久久久免费| 国产精品精品国产色婷婷| 在线看三级毛片| 国产在线精品亚洲第一网站| 一区二区三区激情视频| 久久中文看片网| 麻豆成人午夜福利视频| 又黄又爽又免费观看的视频| 深夜精品福利| 狂野欧美白嫩少妇大欣赏| 欧美不卡视频在线免费观看| 一二三四社区在线视频社区8| 美女 人体艺术 gogo| 成人高潮视频无遮挡免费网站| 岛国视频午夜一区免费看| 亚洲第一欧美日韩一区二区三区| 日本黄色视频三级网站网址| 18禁美女被吸乳视频| 波多野结衣巨乳人妻| 一a级毛片在线观看| 国产麻豆成人av免费视频| 国语自产精品视频在线第100页| 国产私拍福利视频在线观看| 中文字幕精品亚洲无线码一区| 精品福利观看| 国产黄a三级三级三级人| 成熟少妇高潮喷水视频| 午夜福利高清视频| 日本免费a在线| 国产av一区在线观看免费| 亚洲精品在线观看二区| 色播亚洲综合网| 看片在线看免费视频| 国产不卡一卡二| 18禁黄网站禁片午夜丰满| 国产精品98久久久久久宅男小说| 女生性感内裤真人,穿戴方法视频| 欧美中文综合在线视频| 亚洲专区中文字幕在线| 啪啪无遮挡十八禁网站| 美女被艹到高潮喷水动态| 国产主播在线观看一区二区| 午夜激情欧美在线| 亚洲专区国产一区二区| 欧美xxxx黑人xx丫x性爽| av天堂中文字幕网| 午夜福利视频1000在线观看| 两个人的视频大全免费| 亚洲人成电影免费在线| 成人国产一区最新在线观看| 色视频www国产| 日韩欧美精品v在线| 欧美丝袜亚洲另类 | 老司机午夜福利在线观看视频| 国产精品久久久av美女十八| 老司机福利观看| 久久久国产欧美日韩av| 一卡2卡三卡四卡精品乱码亚洲| 99国产极品粉嫩在线观看| cao死你这个sao货| 手机成人av网站| a级毛片在线看网站| 国产精品98久久久久久宅男小说| 桃红色精品国产亚洲av| 亚洲成人久久性| 可以在线观看的亚洲视频| 成人国产一区最新在线观看| 性欧美人与动物交配| www日本黄色视频网| 美女扒开内裤让男人捅视频| 宅男免费午夜| 一级毛片女人18水好多| 久久久国产精品麻豆| 久久久久久久久中文| av在线天堂中文字幕| 国产免费男女视频| 欧美在线一区亚洲| 在线a可以看的网站| 欧美成人一区二区免费高清观看 | 精品无人区乱码1区二区| 亚洲精品一区av在线观看| 又爽又黄无遮挡网站| 成人三级黄色视频| 亚洲第一电影网av| 久久久久久久久久黄片| 99国产精品99久久久久| 国产伦人伦偷精品视频| 一个人看的www免费观看视频| 日本 欧美在线| 亚洲人成网站在线播放欧美日韩| 亚洲国产色片| 人人妻,人人澡人人爽秒播| 欧美3d第一页| 久久精品aⅴ一区二区三区四区| 日韩欧美国产在线观看| 国产成人福利小说| 国产亚洲精品av在线| 精品免费久久久久久久清纯| 一级黄色大片毛片| 国产真实乱freesex| av天堂在线播放| 欧美一级毛片孕妇| 久久精品国产清高在天天线| 免费观看精品视频网站| 久久中文字幕人妻熟女| h日本视频在线播放| 男插女下体视频免费在线播放| 两个人的视频大全免费| 日本黄色片子视频| 草草在线视频免费看| 国产人伦9x9x在线观看| 久久香蕉国产精品| 超碰成人久久| 俺也久久电影网| 日韩欧美 国产精品| 国产日本99.免费观看| 18禁黄网站禁片免费观看直播| 美女扒开内裤让男人捅视频| 亚洲精品色激情综合| 日日夜夜操网爽| 国产精品av久久久久免费| 免费在线观看视频国产中文字幕亚洲| 欧美黑人巨大hd| 精品国产超薄肉色丝袜足j| 女警被强在线播放| 美女午夜性视频免费| 级片在线观看| 亚洲av日韩精品久久久久久密| 特级一级黄色大片| 亚洲精品久久国产高清桃花| 国产午夜精品论理片| 欧美性猛交╳xxx乱大交人| 色老头精品视频在线观看| 一本久久中文字幕| 午夜福利高清视频| 亚洲欧美精品综合久久99| 久久精品国产亚洲av香蕉五月| 午夜久久久久精精品| 国产欧美日韩精品亚洲av| 在线观看舔阴道视频| 国产精品久久久久久人妻精品电影| 国产亚洲av高清不卡| 亚洲五月婷婷丁香| 久久久久久九九精品二区国产| xxxwww97欧美| 国产主播在线观看一区二区| 欧美最黄视频在线播放免费| 国产伦人伦偷精品视频| 亚洲成人免费电影在线观看| 精品一区二区三区四区五区乱码| 国内揄拍国产精品人妻在线| 免费在线观看日本一区| 搡老妇女老女人老熟妇| 亚洲中文字幕日韩| 99久久精品国产亚洲精品| 精品国产三级普通话版| 窝窝影院91人妻| 性色av乱码一区二区三区2| 在线观看免费视频日本深夜| 国产成人aa在线观看| 天天躁狠狠躁夜夜躁狠狠躁| 久久人妻av系列| 亚洲av电影在线进入| 手机成人av网站| 1024手机看黄色片| 91av网一区二区| 日韩欧美国产在线观看| or卡值多少钱| 三级男女做爰猛烈吃奶摸视频| 成人av在线播放网站| 少妇人妻一区二区三区视频| 男女那种视频在线观看| 噜噜噜噜噜久久久久久91| 一个人看的www免费观看视频| 精品一区二区三区视频在线 | 国产精品女同一区二区软件 | 在线看三级毛片| 国产主播在线观看一区二区| 成人欧美大片| а√天堂www在线а√下载| 动漫黄色视频在线观看| 日本撒尿小便嘘嘘汇集6| 久久久成人免费电影| 脱女人内裤的视频| 亚洲欧美日韩卡通动漫| 国产高潮美女av| 99热6这里只有精品| 亚洲乱码一区二区免费版| 午夜激情福利司机影院| 日韩欧美国产一区二区入口| 嫩草影院入口| 小说图片视频综合网站| 国产高清有码在线观看视频| 国产成人精品久久二区二区免费| 久久久久久久午夜电影| 天堂av国产一区二区熟女人妻| 视频区欧美日本亚洲| 中文字幕av在线有码专区| av在线天堂中文字幕| 欧美绝顶高潮抽搐喷水| 一个人免费在线观看电影 | 我要搜黄色片| 免费在线观看视频国产中文字幕亚洲| 男女之事视频高清在线观看| 一个人看视频在线观看www免费 | 国产亚洲av嫩草精品影院| 我的老师免费观看完整版| 最近在线观看免费完整版| 日韩人妻高清精品专区| 成年免费大片在线观看| 美女午夜性视频免费| 伦理电影免费视频| 成人特级av手机在线观看| 亚洲欧美日韩东京热| 高清毛片免费观看视频网站| 婷婷精品国产亚洲av在线| 伦理电影免费视频| 久久中文字幕人妻熟女| 精品国产超薄肉色丝袜足j| e午夜精品久久久久久久| 日韩欧美一区二区三区在线观看| 黑人操中国人逼视频| 一本久久中文字幕| 亚洲国产精品999在线| 一级毛片女人18水好多| 免费搜索国产男女视频| 欧美又色又爽又黄视频| 最新美女视频免费是黄的| 听说在线观看完整版免费高清| 亚洲成人免费电影在线观看| 免费看日本二区| 黄片小视频在线播放| 成人永久免费在线观看视频| 成年人黄色毛片网站| 美女大奶头视频| 精品国内亚洲2022精品成人| 男女视频在线观看网站免费| 久久久久亚洲av毛片大全| 99久久成人亚洲精品观看| 叶爱在线成人免费视频播放| 亚洲精品在线美女| 亚洲欧美精品综合久久99| 久久香蕉国产精品| 麻豆成人av在线观看| 欧美3d第一页| 久久久水蜜桃国产精品网| h日本视频在线播放| 免费在线观看亚洲国产| 亚洲av免费在线观看| 国内精品一区二区在线观看| 亚洲人与动物交配视频| 久久这里只有精品中国| 中文资源天堂在线| 成人无遮挡网站| 天天躁狠狠躁夜夜躁狠狠躁| 午夜精品一区二区三区免费看| 亚洲aⅴ乱码一区二区在线播放| 精品国产亚洲在线| 成人鲁丝片一二三区免费| 亚洲av成人av| 黄色日韩在线| 亚洲一区高清亚洲精品| 亚洲av免费在线观看| 国产毛片a区久久久久| 精品一区二区三区四区五区乱码| 精品乱码久久久久久99久播| 又黄又粗又硬又大视频| 欧美日韩一级在线毛片| 黄色女人牲交| 搞女人的毛片| 一级作爱视频免费观看| 免费av毛片视频| 亚洲成av人片在线播放无| 午夜精品在线福利| 久久精品aⅴ一区二区三区四区| 日韩欧美在线乱码| 日韩av在线大香蕉| 又粗又爽又猛毛片免费看| 天堂影院成人在线观看| 91在线精品国自产拍蜜月 | 中文字幕人妻丝袜一区二区| 亚洲色图av天堂| 亚洲一区高清亚洲精品| 亚洲精品国产精品久久久不卡| av天堂中文字幕网| 久久草成人影院| 国产精品爽爽va在线观看网站| 亚洲人成网站在线播放欧美日韩| 亚洲欧美精品综合久久99|