• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于近似結(jié)構(gòu)風(fēng)險(xiǎn)的ELM隱層節(jié)點(diǎn)數(shù)優(yōu)化

    2014-06-06 10:46:47黃重慶徐哲壯黃宴委賴(lài)大虎
    計(jì)算機(jī)工程 2014年9期
    關(guān)鍵詞:隱層學(xué)習(xí)機(jī)信任

    黃重慶,徐哲壯,黃宴委,賴(lài)大虎

    (福州大學(xué)電氣工程與自動(dòng)化學(xué)院,福州350108)

    基于近似結(jié)構(gòu)風(fēng)險(xiǎn)的ELM隱層節(jié)點(diǎn)數(shù)優(yōu)化

    黃重慶,徐哲壯,黃宴委,賴(lài)大虎

    (福州大學(xué)電氣工程與自動(dòng)化學(xué)院,福州350108)

    隱層節(jié)點(diǎn)數(shù)是影響極端學(xué)習(xí)機(jī)(ELM)泛化性能的關(guān)鍵參數(shù),針對(duì)傳統(tǒng)的ELM隱層節(jié)點(diǎn)數(shù)確定算法中優(yōu)化過(guò)程復(fù)雜、容易過(guò)學(xué)習(xí)或陷入局部最優(yōu)的問(wèn)題,提出結(jié)構(gòu)風(fēng)險(xiǎn)最小化-極端學(xué)習(xí)機(jī)(SRM-ELM)算法。通過(guò)分析VC維與隱層節(jié)點(diǎn)數(shù)量之間的關(guān)聯(lián),對(duì)VC信任函數(shù)進(jìn)行近似改進(jìn),使其為凹函數(shù),并結(jié)合經(jīng)驗(yàn)風(fēng)險(xiǎn)重構(gòu)近似的SRM。在此基礎(chǔ)上,將粒子群優(yōu)化的位置值直接作為ELM的隱層節(jié)點(diǎn)數(shù),利用粒子群算法最小化結(jié)構(gòu)風(fēng)險(xiǎn)函數(shù)獲得極端學(xué)習(xí)機(jī)的隱層節(jié)點(diǎn)數(shù),作為最優(yōu)節(jié)點(diǎn)數(shù)。使用6組UCI數(shù)據(jù)和膠囊缺陷數(shù)據(jù)進(jìn)行仿真驗(yàn)證,結(jié)果表明,該算法能獲得極端學(xué)習(xí)機(jī)的最優(yōu)節(jié)點(diǎn)數(shù),并具有更好的泛化能力。

    極端學(xué)習(xí)機(jī);結(jié)構(gòu)風(fēng)險(xiǎn);VC信任;粒子群優(yōu)化;隱層節(jié)點(diǎn)數(shù)

    1 概述

    極端學(xué)習(xí)機(jī)(Extreme Learning Machine,ELM)[1]是一種單隱層前饋神經(jīng)網(wǎng)絡(luò),具有運(yùn)算速度快、泛化性能好等特點(diǎn)。與普通的前饋神經(jīng)網(wǎng)絡(luò)一樣,ELM為保證良好的泛化性能,確定合適的隱層節(jié)點(diǎn)數(shù)量尤為重要。文獻(xiàn)[2]指出,ELM雖然避免了梯度下降法存在的問(wèn)題,但如何確定最優(yōu)隱層節(jié)點(diǎn)數(shù),避免反復(fù)試驗(yàn)調(diào)節(jié),依然是個(gè)亟待解決的問(wèn)題。文獻(xiàn)[3]針對(duì)稀疏數(shù)據(jù)學(xué)習(xí)問(wèn)題提出了RCGA-ELM算法,利用遺傳算法,優(yōu)化ELM的隱層節(jié)點(diǎn)數(shù)、權(quán)重w和偏置b,由于涉及多重算子,算法復(fù)雜,耗費(fèi)大量時(shí)間。為了降低算法復(fù)雜度,提出了S-ELM算法,以5倍交叉驗(yàn)證來(lái)選擇S-ELM的最佳參數(shù)w和b值。PSO-ELM[4], IPSO-ELM[5]和ICGA-SRM-ELM[6]均提出基于粒子群優(yōu)化(Particle Swarm Optimization,PSO)算法對(duì)ELM進(jìn)行改進(jìn),其中,PSO-ELM以均方根誤差為優(yōu)化目標(biāo)針對(duì)ELM中的w和b進(jìn)行自動(dòng)選擇與優(yōu)化。IPSO-ELM與ICGA-SRM-ELM類(lèi)似,強(qiáng)調(diào)優(yōu)化ELM的w和隱層節(jié)點(diǎn)數(shù),但I(xiàn)PSO-ELM強(qiáng)調(diào)優(yōu)化ELM的w值,并未涉及隱層節(jié)點(diǎn)數(shù)的優(yōu)化問(wèn)題,而且優(yōu)化目標(biāo)函數(shù)及迭代選擇標(biāo)準(zhǔn)與E-ELM[7]無(wú)實(shí)質(zhì)差別。ICGA-SRM-ELM則針對(duì)在經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化原則下對(duì)隱層節(jié)點(diǎn)數(shù)進(jìn)行分析,但沒(méi)給出具體形式。文獻(xiàn)[8]提出一種能自動(dòng)確定隱層節(jié)點(diǎn)的OP-ELM算法,但是需通過(guò)多元稀疏回歸和留一(LOO)算法,把開(kāi)始設(shè)定的大隱層節(jié)點(diǎn)數(shù)刪減到最佳值,這與EM-ELM和μGELM[9]一樣,需要多重判斷標(biāo)準(zhǔn)機(jī)制來(lái)選擇增加或刪減節(jié)點(diǎn),使整個(gè)算法趨于復(fù)雜。此外,μG-ELM用遺傳算法優(yōu)化隱層節(jié)點(diǎn)數(shù),給出的優(yōu)化目標(biāo)函數(shù)僅僅是經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化,容易出現(xiàn)過(guò)學(xué)習(xí)。這些工作對(duì)ELM的可調(diào)參數(shù)優(yōu)化研究都做出了或多或少的貢獻(xiàn),但還是存在一些不足之處:(1)沒(méi)有給出具體的優(yōu)化目標(biāo)函數(shù);(2)優(yōu)化目標(biāo)函數(shù)為經(jīng)驗(yàn)風(fēng)險(xiǎn),容易出現(xiàn)過(guò)學(xué)習(xí)或陷入局部最優(yōu);(3)利用遺傳、差分進(jìn)化算法優(yōu)化過(guò)程復(fù)雜。

    本文提出一種SRM-ELM算法,改進(jìn)VC信任函數(shù)以獲得凹函數(shù),與經(jīng)驗(yàn)風(fēng)險(xiǎn)構(gòu)成近似的結(jié)構(gòu)風(fēng)險(xiǎn)最小化(Structural Risk Minimization,SRM)函數(shù),利用PSO算法尋找SRM最小化時(shí)的ELM隱層節(jié)點(diǎn)數(shù),為最佳的隱層節(jié)點(diǎn)數(shù)量。最后,由6組UCI數(shù)據(jù)和膠囊缺陷數(shù)據(jù)來(lái)仿真驗(yàn)證SRM-ELM的可行性與性能。

    2 ELM基本原理

    給定N個(gè)訓(xùn)練樣本(xi,yi),xi=[xi1,xi2,…, xin]T∈Rn,yi=[yi1,yi2,…,yim]T∈Rm,i=1,2,…, N。令隱層節(jié)點(diǎn)數(shù)量為K,激活函數(shù)為g(w,x,b),可構(gòu)造一個(gè)單隱層網(wǎng)絡(luò),則ELM模型為:

    其中,i=1,2,…,N;j=1,2,…,K;wj=[wj1,wj2,…,wjn]T是連接輸入節(jié)點(diǎn)到第j個(gè)隱層節(jié)點(diǎn)的輸入權(quán)重;βj=[βj1,βj2,…,βjm]T是連接第j個(gè)隱層節(jié)點(diǎn)到輸出節(jié)點(diǎn)的輸出權(quán)重;bj是第 j個(gè)隱層節(jié)點(diǎn)的閾值。

    把N個(gè)學(xué)習(xí)樣本分別代入式(1)中可得:

    其中:

    H稱(chēng)為網(wǎng)絡(luò)隱層輸出矩陣。在一般情況下,隱層節(jié)點(diǎn)數(shù)遠(yuǎn)小于訓(xùn)練樣本數(shù),即K?N,H就可能不是一個(gè)方陣,因此需求H的偽逆,即Moore-Penrose廣義逆。在式(2)中,任意人為給定w和b,以及激活函數(shù)g(w,x,b),由Moore-Penrose廣義逆定理求得廣義逆H+,從而β的解為:

    與傳統(tǒng)的梯度下降法比較,ELM具有運(yùn)算速度快和不需反復(fù)調(diào)整權(quán)值等特點(diǎn)[10],但隱層節(jié)點(diǎn)數(shù)K成為影響ELM泛化性能的重要因素之一,如何自動(dòng)選擇參數(shù)K為本文研究重點(diǎn)。

    3 SRM-ELM算法

    3.1 SRM原理

    為克服經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化存在的過(guò)學(xué)習(xí)問(wèn)題,文獻(xiàn)[11]提出了SRM[11],有如下結(jié)論:

    對(duì)于來(lái)自具有有限VC維h的完全有界函數(shù)集0≤Q(z,α)≤B,α∈Λ的所有函數(shù),則:

    成立的概率至少為1-η。式中R(α)為期望風(fēng)險(xiǎn);Remp(α)為經(jīng)驗(yàn)風(fēng)險(xiǎn),且:

    其中,N為樣本數(shù)量,0<a≤4,0<b≤2,η∈(0,1],兩類(lèi)問(wèn)題中B=1,式(4)右邊第2項(xiàng)稱(chēng)為VC信任或VC置信區(qū)間。由SRM原則,為使R(α)最小,則必須使Remp(α)和VC信任總和最小。而在給定樣本情況下,VC信任取決于整個(gè)函數(shù)集的VC維h。從文獻(xiàn)[12-14]可知,隱層激活函數(shù)為sigmoid的神經(jīng)網(wǎng)絡(luò)VC維為:

    其中,λ為網(wǎng)絡(luò)的權(quán)值個(gè)數(shù);l為網(wǎng)絡(luò)的隱層數(shù);n0為隱層神經(jīng)元和輸出層神經(jīng)元的總數(shù)。

    由式(6)可知,h均與λ有關(guān),對(duì)ELM來(lái)講,l= 1,則:

    其中,n為ELM輸入維數(shù);m為ELM輸出維數(shù);n和m由樣本確定。在n和m已知情況下,由式(7)可知VC維h為隱層節(jié)點(diǎn)數(shù)K的函數(shù)。

    根據(jù)統(tǒng)計(jì)學(xué)習(xí)理論,令式(4)中B=1,則VC信任可寫(xiě)成:

    令a=4,b=1,對(duì)h求一次導(dǎo)得:

    由式(9)可知,h=N時(shí)為僅有的極大值點(diǎn),即h=N時(shí)f(h)取得最大值。

    3.2 VC信任函數(shù)的改進(jìn)

    利用UCI數(shù)據(jù)庫(kù)中的Haberman數(shù)據(jù)進(jìn)行VC信任函數(shù)式(9)特性分析。圖1為VC信任函數(shù)f(h)與h的關(guān)系。在h∈[0,N]時(shí)f(h)為凸函數(shù)(經(jīng)過(guò)歸一化),則式(4)右邊兩項(xiàng)的和很難求出全局最小值,相反很容易陷入局部最小值,為此需要對(duì)f(h)進(jìn)行改進(jìn)。

    不難發(fā)現(xiàn),對(duì)于任意h,滿(mǎn)足下列公式:

    則式(4)寫(xiě)成:

    另一方面,由式(4)得出概率:

    由式(11)和式(12),得:

    其中,η0∈(0,1],η∈(0,1]。即不等式:

    成立的概率至少為1-η。

    同樣利用UCI數(shù)據(jù)庫(kù)中的Haberman數(shù)據(jù)對(duì)改進(jìn)后的VC信任函數(shù)φ(h)與VC維h之間的關(guān)系進(jìn)行分析,如圖1所示。從圖1可知,改進(jìn)后VC信任φ(h)為VC維h的凹函數(shù),式(14)是VC維h的函數(shù),可近似獲得ELM的泛化能力:

    圖1 f(h)、φ(h)與h的關(guān)系

    3.3 PSO基本原理

    本文把PSO的位置值直接作為ELM的隱層節(jié)點(diǎn)數(shù),PSO每迭代一次相當(dāng)于ELM訓(xùn)練一次,迭代完畢后即獲得最優(yōu)隱層節(jié)點(diǎn)數(shù)。

    基于慣性權(quán)重的粒子速度v和位置p更新公式為:

    其中,是粒子i在第k次迭代中的第d維位置;是粒子i在第k次迭代中的第d維速度;為粒子i在第k次迭代中第d維達(dá)到的最好位置;為粒子群在第k次迭代中第d維達(dá)到的最優(yōu)位置,d=1,2,…,N;c1,c2為學(xué)習(xí)因子,一般c1=c2=2;rand1,rand2介于(0,1)之間。

    慣性權(quán)重τ計(jì)算公式為:

    其中,τmax和τmin分別表示權(quán)重的最大值和最小值;itmax表示最大的迭代次數(shù);NC表示當(dāng)前迭代的次數(shù)。粒子在搜索過(guò)程中都有一個(gè)最大最小速度和最大最小位置,設(shè)置規(guī)則見(jiàn)PSO-ELM[4]。

    PSO算法的優(yōu)勢(shì)在于結(jié)構(gòu)簡(jiǎn)單,容易實(shí)現(xiàn),且沒(méi)有過(guò)多參數(shù)需要調(diào)整,可以直接把粒子的位置參數(shù)替換成需要優(yōu)化的決策變量。SRM-ELM直接把PSO的位置值當(dāng)作隱層節(jié)點(diǎn)數(shù),粒子群最終達(dá)到的最佳位置就是所要尋找的最優(yōu)節(jié)點(diǎn)數(shù)。

    3.4 SRM-ELM算法流程

    SRM-ELM算法步驟如下:

    Step 1 粒子種群初始化。

    Step 2 粒子的位置量p直接作為隱層節(jié)點(diǎn)數(shù)K賦予ELM。

    Step 3 在ELM訓(xùn)練的過(guò)程中,根據(jù)每個(gè)粒子的位置值(隱層節(jié)點(diǎn)數(shù))計(jì)算對(duì)應(yīng)的目標(biāo)函數(shù)R(α,h)。

    Step 4 更新粒子最優(yōu)位置pbest和粒子群最優(yōu)位置gbest。如果當(dāng)前粒子的R(α,h)比上一代小,則對(duì)應(yīng)的位置作為目前粒子到達(dá)的最優(yōu)位置;如果當(dāng)前粒子群的最小R(α,h)比上一代的小,則對(duì)應(yīng)的位置作為目前粒子群到達(dá)的最優(yōu)位置。否則不更新。

    Step 5 更新粒子位置p和速度v。根據(jù)式(16)和式(17)重新計(jì)算粒子的位置和速度。

    Step 6 迭代終止。如果NC>itmax,則優(yōu)化結(jié)束,最后得到的粒子群最優(yōu)位置即所求的最優(yōu)隱層節(jié)點(diǎn)數(shù)K。否則轉(zhuǎn)到Step2循環(huán)操作。

    PSO和ELM的結(jié)合關(guān)鍵在于PSO把位置值賦予ELM,作為隱層節(jié)點(diǎn)于ELM主體中,同時(shí)把目標(biāo)函數(shù)R(α,h)植入ELM,隨著PSO算法的迭代,逐漸接近最好的位置,即逐漸優(yōu)化出最佳隱層節(jié)點(diǎn)數(shù)。

    4 仿真實(shí)驗(yàn)

    4.1 參數(shù)設(shè)置

    4.2 UCI數(shù)據(jù)

    本文分別用UCI數(shù)據(jù)庫(kù)中的6組2類(lèi)數(shù)據(jù)來(lái)驗(yàn)證SRM-ELM算法,6組數(shù)據(jù)如表1所示。

    表1 數(shù)據(jù)信息

    在ELM設(shè)計(jì)時(shí),一般利用交叉驗(yàn)證法在K值預(yù)設(shè)定的范圍內(nèi)確定最佳隱層節(jié)點(diǎn)數(shù)K。由Haberman數(shù)據(jù)進(jìn)行仿真,假設(shè)令K從1~300遞增,依次得到對(duì)測(cè)試樣本的分類(lèi)精度如圖2(a)所示,圖2(b)為最高測(cè)試精度為0.739 6所對(duì)應(yīng)的隱層節(jié)點(diǎn)數(shù)K=5。從圖2可知隨著K值繼續(xù)增加,ELM的測(cè)量精度總體上是遞減的,當(dāng)4≤K≤9時(shí),ELM具有很好的測(cè)試精度。

    利用SRM-ELM算法對(duì)6組數(shù)據(jù)分別連續(xù)重復(fù)仿真50次,求平均值確定最佳隱層節(jié)點(diǎn)數(shù)K完成ELM網(wǎng)絡(luò)設(shè)計(jì)。圖3為Haberman數(shù)據(jù)的仿真結(jié)果,其中圖3(a)為50次仿真所得到的隱層節(jié)點(diǎn)數(shù)K,從50次仿真可知,K值主要集中于6≤K≤9,落在交叉驗(yàn)證法得到K的范圍中。圖3(b)為第10次仿真中隱層節(jié)點(diǎn)數(shù)K收斂情況,K從1遞增到10,在第16代時(shí)收斂于7。對(duì)比圖3與圖2可知,由SRMELM算法所獲得K值能夠很好地符合由交叉驗(yàn)證法得到的K值。

    圖2 ELM對(duì)Haberman數(shù)據(jù)的測(cè)試精度

    圖3 隱層節(jié)點(diǎn)數(shù)K分布

    表2 SRM-ELM、ELM與試湊公式N0= +c的性能比較

    表2 SRM-ELM、ELM與試湊公式N0= +c的性能比較

    數(shù)據(jù)類(lèi)型 交叉驗(yàn)證法ELM N0= a+b+c SRM-ELMK測(cè)試精度/% K 測(cè)試精度/% K 測(cè)試精度/% Haberman 4~9 73.62±0.34 3~12 73.45±0.31 6~9 73.57±0.25 Blood 28~45 86.75±0.17 3~12 86.25±0.12 35~40 86.75±0.17 Pima 10~17 79.48±0.12 4~13 79.21±0.03 13~17 79.34±0.03 Ionosphere 35~55 91.58±0.49 7~16 85.64±0.30 27~33 90.59±0.19 Breast Cancer 35~50 99.75±0.15 4~13 99.75±0.15 13~21 99.25±0.10 Australian Credit 13~23 86.58±0.05 5~14 85.00±0.18 14~19 86.58±0.05

    4.3 膠囊外觀缺陷檢測(cè)

    圖4 正常膠囊和各種缺陷膠囊

    表3 膠囊缺陷檢測(cè)結(jié)果

    5 結(jié)束語(yǔ)

    本文針對(duì)隱層節(jié)點(diǎn)數(shù)量影響ELM泛化性能的問(wèn)題,提出一種SRM-ELM算法。SRM-ELM在結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則下,建立隱層節(jié)點(diǎn)數(shù)與泛化能力的關(guān)系函數(shù),利用PSO簡(jiǎn)單高效的全局搜索能力,優(yōu)化ELM的隱層節(jié)點(diǎn)數(shù),避免了傳統(tǒng)方法反復(fù)調(diào)節(jié)實(shí)驗(yàn)的繁瑣。由6組標(biāo)準(zhǔn)數(shù)據(jù)實(shí)驗(yàn)結(jié)果顯示,利用SRMELM計(jì)算得到的最優(yōu)隱層節(jié)點(diǎn)數(shù)均落在交叉驗(yàn)證法得到的ELM最優(yōu)隱層節(jié)點(diǎn)數(shù)范圍內(nèi),保證了良好的泛化性能,與試湊法比較顯現(xiàn)出準(zhǔn)確性高、推廣性好的優(yōu)勢(shì),并且可將該方法用于膠囊外觀缺陷檢測(cè)中。

    [1] Huang Guangbin,ZhuQinyu,Siew C K.Extreme Learning Machine:A New Learning Scheme of Feed Forward Neural Networks[C]//Proc.of IEEE International Joint Conference on Neural Networks. [S.l.]:IEEE Press,2004:985-990.

    [2] Feng Guorui,Huang Guangbin,Lin Qingping.Error Minimized Extreme Learning Machine with Growth of Hidden Nodes and Incremental Learning[J].IEEE Transactions on NeuralNetworks,2009,20(8): 1352-1357.

    [3] Suresh S,Saraswathi S,Sundararajan N.Performance Enhancement of Extreme Learning Machine for Multicategory Sparse Cancer Classification[J].Engineering Applications of Artificial Intelligence,2010,23(7): 1149-1157.

    [4] Xu You,Shu Yang.Evolutionary Extreme Learning Machine Based on Particle Swarm Optimization[C]// Advances in Neural Networks.[S.l.]:Springer,2006: 644-652.

    [5] Han Fei,YaoHaifen,LingQinghua.AnImproved Extreme Learning Machine Based on Particle Swarm Optimization[C]//Proc.of the 7th International Conference on IntelligentComputing.Zhengzhou, China:[s.n.],2012:699-704.

    [6] Saraswathi S,Sundaram S,Sundararajan N.ICGA-PSOELM Approach for Multiclass Cancer Classification Resulting Reduced Gene Sets in Which Genes Encoding Secreted Proteins are Highly Represented Inaccurate[J]. IEEE/ACM Transactions on Computational Biology and Bioinformatics,2010,8(2):452-463.

    [7] Zhu Qinyu,Qin A K,Suganthan P N.Evolutionary Extreme Learning Machine[J].Pattern Recognition, 2005,38(10):1759-1763.

    [8] Miche Y,Sorjamaa A,Bas P.OP-ELM:Optimally Pruned Extreme Learning Machine[J].IEEE Transactions on Neural Networks,2010,21(1):158-162.

    [9] Lahoz D,Lacruz B,Mateo P M.A Biobjective Microgenetic Extreme Learning Machine[C]//Proc.of IEEE Workshop on Hybrid Intelligent Models and Applications.[S.l.]:IEEE Press,2011:68-75.

    [10] Huang Guangbin,ZhuQinyu,Siew C K.Extreme Learning Machine[J].Neurocomputing,2006,70(1): 489-501.

    [11] Vapnik V N.Statistical Learning Theory[M].New York, USA:Wiley,1998.

    [12] Koiran P,Sontag E D.Neural Networks with Quadratic VC Dimension[J].Journal of Computer and System Science,1997,54(1):190-198.

    [13] Bartlett P L,Maiorov V,Meir R.Almost Linear VC Dimension Bounds for Piecewise Polynomial Networks [J].Neural Computation,1998,10(8):2159-2173.

    [14] Karpinski M,Macintyre A.Polynomial Bounds for VC Dimension of Sigmoidal and General Pfaffian Neural Networks[J].JournalofComputerand System Sciences,1997,54(1):169-176.

    [15] 朱啟兵,劉 杰,李允公,等.基于結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則的奇異值分解降噪研究[J].振動(dòng)工程學(xué)報(bào),2005, 18(2):204-207.

    編輯 顧逸斐

    Optimization for Hidden Nodes Number of ELM Based on Approximate Structure Risk

    HUANG Chong-qing,XU Zhe-zhuang,HUANG Yan-wei,LAI Da-hu
    (College of Electrical Engineering&Automation,Fuzhou University,Fuzhou 350108,China)

    The number of hidden nodes is a critical factor for the generalization of Extreme Learning Machine(ELM). There exists complex optimization process,over learning or traps in local optimum in traditional algorithm of calculating the number of hidden layer of ELM.Aiming at the problems,Structural Risk Minimization(SRM)-ELM is proposed. Combining empirical risk with VC confidence,this paper proposes a novel algorithm to automatically obtain the best one to guarantee good generalization.On this basis,the Particle Swarm Optimization(PSO)position value is directly treated as ELM hidden layer nodes,which employs the PSO in the optimizing process with Structural Risk Minimization(SRM) principle.The optimal number of hidden nodes is reasonable correspond to 6 cases.Simulation results show that the algorithm can obtain the extreme learning machine optimal nodes and better generalization ability.

    Extreme Learning Machine(ELM);structural risk;VC confidence;Particle Swarm Optimization(PSO); hidden nodes number

    1000-3428(2014)09-0215-05

    A

    TP18

    10.3969/j.issn.1000-3428.2014.09.043

    教育部博士點(diǎn)新教師基金資助項(xiàng)目(20113514120007);福建省教育廳科技基金資助項(xiàng)目(JA10034)。

    黃重慶(1989-),男,碩士研究生,主研方向:圖像處理,智能系統(tǒng);徐哲壯(通訊作者),講師、博士;黃宴委,副教授、博士;賴(lài)大虎,碩士。

    2013-08-12

    2013-10-10E-mail:297964854@qq.com

    猜你喜歡
    隱層學(xué)習(xí)機(jī)信任
    基于RTD可編程邏輯門(mén)的n變量函數(shù)實(shí)現(xiàn)算法
    基于RDPSO結(jié)構(gòu)優(yōu)化的三隱層BP神經(jīng)網(wǎng)絡(luò)水質(zhì)預(yù)測(cè)模型及應(yīng)用
    人民珠江(2019年4期)2019-04-20 02:32:00
    表示信任
    極限學(xué)習(xí)機(jī)綜述
    基于極限學(xué)習(xí)機(jī)參數(shù)遷移的域適應(yīng)算法
    分層極限學(xué)習(xí)機(jī)在滾動(dòng)軸承故障診斷中的應(yīng)用
    嚶嚶嚶,人與人的信任在哪里……
    桃之夭夭B(2017年2期)2017-02-24 17:32:43
    從生到死有多遠(yuǎn)
    信任
    最優(yōu)隱層BP神經(jīng)網(wǎng)絡(luò)的滾動(dòng)軸承故障診斷
    麻豆成人午夜福利视频| 欧美成人午夜免费资源| 久久久久性生活片| 禁无遮挡网站| 欧美成人a在线观看| 少妇裸体淫交视频免费看高清| 国产成人精品婷婷| 又大又黄又爽视频免费| 亚洲乱码一区二区免费版| 边亲边吃奶的免费视频| 日本-黄色视频高清免费观看| 亚洲性久久影院| 久久这里有精品视频免费| 久久精品国产亚洲av天美| 成年人午夜在线观看视频 | 大片免费播放器 马上看| 精品久久久精品久久久| 日本爱情动作片www.在线观看| 免费观看性生交大片5| 精品久久国产蜜桃| 国产精品国产三级专区第一集| 高清午夜精品一区二区三区| 免费人成在线观看视频色| 国产一级毛片在线| 久久韩国三级中文字幕| 日韩强制内射视频| 亚洲18禁久久av| 成人特级av手机在线观看| 久久99热这里只有精品18| 国产极品天堂在线| 国产精品一区二区在线观看99 | 欧美人与善性xxx| 欧美一级a爱片免费观看看| 久久精品久久久久久久性| 人人妻人人澡人人爽人人夜夜 | 男的添女的下面高潮视频| 久久久久国产网址| 精品国内亚洲2022精品成人| 18禁动态无遮挡网站| 简卡轻食公司| 日韩欧美精品免费久久| 偷拍熟女少妇极品色| 卡戴珊不雅视频在线播放| 午夜福利在线观看吧| 一级毛片我不卡| 最近2019中文字幕mv第一页| 一区二区三区免费毛片| av在线天堂中文字幕| av又黄又爽大尺度在线免费看| 精品久久久久久久久亚洲| 国产乱人视频| av.在线天堂| 免费大片黄手机在线观看| 免费看不卡的av| 久久久精品免费免费高清| 日本一本二区三区精品| 熟妇人妻不卡中文字幕| 欧美3d第一页| 非洲黑人性xxxx精品又粗又长| 美女cb高潮喷水在线观看| 亚洲欧美日韩卡通动漫| 美女xxoo啪啪120秒动态图| 我要看日韩黄色一级片| xxx大片免费视频| 亚洲美女视频黄频| 欧美bdsm另类| 免费高清在线观看视频在线观看| 1000部很黄的大片| 老司机影院毛片| 免费大片黄手机在线观看| 国产亚洲精品av在线| 可以在线观看毛片的网站| 亚洲在线观看片| 高清在线视频一区二区三区| 亚洲人成网站在线播| 男人狂女人下面高潮的视频| 国产精品一二三区在线看| 麻豆乱淫一区二区| 国产黄色视频一区二区在线观看| 老司机影院成人| 日本欧美国产在线视频| 性色avwww在线观看| 丰满少妇做爰视频| 日本av手机在线免费观看| 激情五月婷婷亚洲| 激情五月婷婷亚洲| 国产高清国产精品国产三级 | 亚洲天堂国产精品一区在线| 亚洲久久久久久中文字幕| 极品教师在线视频| 亚洲成人一二三区av| 天堂俺去俺来也www色官网 | 大又大粗又爽又黄少妇毛片口| 亚洲在线自拍视频| 亚洲在线观看片| 联通29元200g的流量卡| 日韩视频在线欧美| 日韩一区二区视频免费看| 午夜视频国产福利| 赤兔流量卡办理| 免费看不卡的av| 在线播放无遮挡| 久久久久免费精品人妻一区二区| 国产精品不卡视频一区二区| 亚洲精品一二三| 中文资源天堂在线| 日韩成人伦理影院| 精品少妇黑人巨大在线播放| 亚洲色图av天堂| 色综合色国产| 国产免费福利视频在线观看| 91午夜精品亚洲一区二区三区| 亚洲精品日韩在线中文字幕| freevideosex欧美| 欧美精品一区二区大全| 大话2 男鬼变身卡| 只有这里有精品99| 最新中文字幕久久久久| 久久久久久久久久黄片| 久久久精品94久久精品| 久久久久久国产a免费观看| 深爱激情五月婷婷| 国产av国产精品国产| 亚洲国产精品成人综合色| 丰满少妇做爰视频| 免费观看的影片在线观看| 久久久久精品性色| 免费看日本二区| 中文天堂在线官网| 蜜臀久久99精品久久宅男| 少妇丰满av| 久久久成人免费电影| 国产成人免费观看mmmm| 高清av免费在线| 久久综合国产亚洲精品| 卡戴珊不雅视频在线播放| 亚洲精品日本国产第一区| 成人二区视频| 成年av动漫网址| 午夜免费男女啪啪视频观看| 精品国产一区二区三区久久久樱花 | 中文字幕制服av| 精品久久久久久成人av| 别揉我奶头 嗯啊视频| 联通29元200g的流量卡| 不卡视频在线观看欧美| 不卡视频在线观看欧美| 亚洲av二区三区四区| 久久久久久久久久人人人人人人| 熟女电影av网| 在线观看av片永久免费下载| 亚洲成人精品中文字幕电影| 汤姆久久久久久久影院中文字幕 | 五月伊人婷婷丁香| 亚洲熟妇中文字幕五十中出| 2018国产大陆天天弄谢| 18禁在线播放成人免费| 久久午夜福利片| 乱系列少妇在线播放| 久久草成人影院| 极品少妇高潮喷水抽搐| 欧美97在线视频| 91狼人影院| av.在线天堂| 中文字幕av成人在线电影| 久久99精品国语久久久| 日韩精品有码人妻一区| 精品一区二区免费观看| 久久人人爽人人爽人人片va| 在线观看免费高清a一片| 97热精品久久久久久| 国产精品一区www在线观看| 国产亚洲一区二区精品| 特大巨黑吊av在线直播| 精品久久久久久久久久久久久| 亚洲丝袜综合中文字幕| 国产伦在线观看视频一区| 成年版毛片免费区| 免费观看av网站的网址| 久久久久久九九精品二区国产| 街头女战士在线观看网站| 久久久久久伊人网av| 青青草视频在线视频观看| 国产精品久久久久久av不卡| 亚洲精品影视一区二区三区av| 久久国内精品自在自线图片| 成人二区视频| 国产乱人偷精品视频| 国产综合懂色| 波多野结衣巨乳人妻| 岛国毛片在线播放| 22中文网久久字幕| 国产不卡一卡二| 亚洲精品色激情综合| 在线观看美女被高潮喷水网站| 日本免费a在线| 性色avwww在线观看| 久久精品国产亚洲网站| 九九爱精品视频在线观看| 免费黄频网站在线观看国产| 国产乱人偷精品视频| 亚洲av中文字字幕乱码综合| 久久鲁丝午夜福利片| 精品不卡国产一区二区三区| 91午夜精品亚洲一区二区三区| 欧美日韩精品成人综合77777| 777米奇影视久久| 偷拍熟女少妇极品色| 国产精品久久久久久av不卡| 精品欧美国产一区二区三| 99热6这里只有精品| 欧美 日韩 精品 国产| 午夜视频国产福利| 99久久九九国产精品国产免费| 肉色欧美久久久久久久蜜桃 | 一个人看视频在线观看www免费| 精品国产一区二区三区久久久樱花 | 免费观看av网站的网址| 欧美bdsm另类| 欧美性猛交╳xxx乱大交人| 国产av国产精品国产| 国产精品久久久久久精品电影小说 | 99re6热这里在线精品视频| 亚洲经典国产精华液单| 亚洲欧美精品自产自拍| av播播在线观看一区| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 搞女人的毛片| 欧美日韩综合久久久久久| 久久99蜜桃精品久久| 亚洲av.av天堂| 天美传媒精品一区二区| 欧美xxxx性猛交bbbb| 亚洲在线自拍视频| 黄色配什么色好看| 日韩一本色道免费dvd| 黑人高潮一二区| 91久久精品国产一区二区成人| 最近2019中文字幕mv第一页| 小蜜桃在线观看免费完整版高清| 三级国产精品欧美在线观看| 日韩大片免费观看网站| 99九九线精品视频在线观看视频| 午夜福利视频1000在线观看| 99热这里只有精品一区| 伊人久久精品亚洲午夜| 亚洲欧美精品自产自拍| 哪个播放器可以免费观看大片| 国产精品国产三级国产av玫瑰| 青青草视频在线视频观看| 麻豆乱淫一区二区| 伊人久久国产一区二区| 日韩成人伦理影院| 国内精品美女久久久久久| 国产一区二区在线观看日韩| 久久久久久国产a免费观看| 午夜免费激情av| 特大巨黑吊av在线直播| 少妇的逼水好多| 亚洲欧美一区二区三区黑人 | 大香蕉97超碰在线| 一级黄片播放器| 又黄又爽又刺激的免费视频.| 色5月婷婷丁香| 国产老妇女一区| 亚洲欧美日韩无卡精品| 久久久精品94久久精品| 亚洲最大成人手机在线| 成年av动漫网址| 中文资源天堂在线| 久久热精品热| xxx大片免费视频| 一二三四中文在线观看免费高清| 午夜激情福利司机影院| 日韩电影二区| 日本-黄色视频高清免费观看| 久久国产乱子免费精品| 国国产精品蜜臀av免费| 一级毛片我不卡| 十八禁国产超污无遮挡网站| av天堂中文字幕网| 五月伊人婷婷丁香| 亚洲最大成人av| 久久久久网色| 伊人久久国产一区二区| 熟女电影av网| 日日撸夜夜添| 免费观看的影片在线观看| 欧美高清性xxxxhd video| 91狼人影院| 天天躁夜夜躁狠狠久久av| 国产成人91sexporn| 女人十人毛片免费观看3o分钟| 女人被狂操c到高潮| 国产精品人妻久久久久久| 免费观看在线日韩| 国产精品一及| 少妇猛男粗大的猛烈进出视频 | 亚洲高清免费不卡视频| 三级毛片av免费| 日韩欧美一区视频在线观看 | 中文字幕av成人在线电影| 国产一区亚洲一区在线观看| 大片免费播放器 马上看| 极品教师在线视频| 91精品一卡2卡3卡4卡| 神马国产精品三级电影在线观看| a级毛片免费高清观看在线播放| 欧美成人一区二区免费高清观看| 男人狂女人下面高潮的视频| 亚洲,欧美,日韩| 最新中文字幕久久久久| 精品久久久久久久久av| 麻豆成人午夜福利视频| 亚洲三级黄色毛片| 麻豆久久精品国产亚洲av| 免费不卡的大黄色大毛片视频在线观看 | 久久99热这里只频精品6学生| 高清在线视频一区二区三区| av福利片在线观看| 热99在线观看视频| 天天躁日日操中文字幕| 中文字幕制服av| 免费av不卡在线播放| 搡女人真爽免费视频火全软件| 久久99热这里只频精品6学生| 三级国产精品片| 免费av观看视频| 国产黄色免费在线视频| 国产精品爽爽va在线观看网站| 精品人妻熟女av久视频| 成人美女网站在线观看视频| 你懂的网址亚洲精品在线观看| 免费不卡的大黄色大毛片视频在线观看 | 午夜激情福利司机影院| 欧美变态另类bdsm刘玥| 一区二区三区高清视频在线| 国产亚洲91精品色在线| 日本欧美国产在线视频| 亚洲在线自拍视频| 亚洲欧美精品自产自拍| 黑人高潮一二区| 免费播放大片免费观看视频在线观看| 在线观看免费高清a一片| 成年av动漫网址| 三级男女做爰猛烈吃奶摸视频| 亚洲国产精品专区欧美| 国产在视频线精品| 国产精品麻豆人妻色哟哟久久 | 卡戴珊不雅视频在线播放| 午夜福利成人在线免费观看| 国内精品一区二区在线观看| 亚洲欧美成人综合另类久久久| 国产成人a∨麻豆精品| 大又大粗又爽又黄少妇毛片口| 91午夜精品亚洲一区二区三区| 一夜夜www| 国产91av在线免费观看| 欧美最新免费一区二区三区| 九九久久精品国产亚洲av麻豆| 午夜福利视频1000在线观看| 国产成人a区在线观看| av网站免费在线观看视频 | 精品一区二区三区视频在线| 天堂av国产一区二区熟女人妻| 男女边摸边吃奶| 国产精品爽爽va在线观看网站| 日韩一区二区三区影片| 搞女人的毛片| 亚洲av男天堂| 久久国内精品自在自线图片| 欧美一级a爱片免费观看看| 国产高潮美女av| 国产精品女同一区二区软件| 如何舔出高潮| 国产精品一区二区在线观看99 | 成人无遮挡网站| 国产亚洲av片在线观看秒播厂 | 亚洲av.av天堂| 禁无遮挡网站| 大又大粗又爽又黄少妇毛片口| 91午夜精品亚洲一区二区三区| 最近视频中文字幕2019在线8| 一级av片app| 国内精品一区二区在线观看| 日韩不卡一区二区三区视频在线| 18禁在线无遮挡免费观看视频| 尤物成人国产欧美一区二区三区| 亚洲第一区二区三区不卡| 精品一区在线观看国产| 欧美3d第一页| 欧美激情久久久久久爽电影| 欧美bdsm另类| 亚洲精品国产av成人精品| 天堂网av新在线| 亚洲精品乱码久久久久久按摩| 听说在线观看完整版免费高清| 嘟嘟电影网在线观看| 久久久久久久久久人人人人人人| 国产欧美另类精品又又久久亚洲欧美| 亚洲欧美中文字幕日韩二区| 赤兔流量卡办理| 男人舔女人下体高潮全视频| 一级毛片我不卡| 99久久精品一区二区三区| 人人妻人人澡欧美一区二区| 国产高清有码在线观看视频| 亚洲av在线观看美女高潮| 国产精品一区二区性色av| 成人特级av手机在线观看| 国产精品伦人一区二区| 夫妻性生交免费视频一级片| 欧美精品国产亚洲| 亚洲一区高清亚洲精品| 亚洲成色77777| 2018国产大陆天天弄谢| 久久精品久久久久久久性| 国产男女超爽视频在线观看| 一级a做视频免费观看| 免费看日本二区| 精品熟女少妇av免费看| 激情 狠狠 欧美| 亚洲不卡免费看| 大话2 男鬼变身卡| 欧美日韩视频高清一区二区三区二| 直男gayav资源| 天天躁夜夜躁狠狠久久av| 啦啦啦中文免费视频观看日本| 老师上课跳d突然被开到最大视频| 日韩一本色道免费dvd| av卡一久久| av专区在线播放| 日韩中字成人| 久久久色成人| 伊人久久精品亚洲午夜| 爱豆传媒免费全集在线观看| 久久久久性生活片| 熟女电影av网| 观看美女的网站| 国产高清三级在线| 免费观看a级毛片全部| 国产成人aa在线观看| 欧美区成人在线视频| 一个人免费在线观看电影| 免费少妇av软件| 久久国产乱子免费精品| 亚洲精品日本国产第一区| 久久鲁丝午夜福利片| 亚洲国产欧美人成| 亚洲精品国产av蜜桃| 天天躁夜夜躁狠狠久久av| 好男人视频免费观看在线| 久久精品熟女亚洲av麻豆精品 | 3wmmmm亚洲av在线观看| 亚洲精品日本国产第一区| 国产一区二区三区综合在线观看 | 麻豆国产97在线/欧美| 免费黄网站久久成人精品| 精品人妻偷拍中文字幕| 精品久久久精品久久久| 高清视频免费观看一区二区 | 国产亚洲av片在线观看秒播厂 | 国产高清国产精品国产三级 | 久久精品久久久久久噜噜老黄| 男人爽女人下面视频在线观看| 国产成人一区二区在线| 在线免费观看的www视频| 亚洲精品日韩在线中文字幕| 最近中文字幕高清免费大全6| 中文字幕久久专区| 3wmmmm亚洲av在线观看| 能在线免费观看的黄片| 久久久久久久久久久免费av| 国产一区二区亚洲精品在线观看| 免费看av在线观看网站| 免费观看在线日韩| av在线播放精品| 人人妻人人看人人澡| 日韩大片免费观看网站| 国产久久久一区二区三区| 国产av在哪里看| 欧美日韩国产mv在线观看视频 | 69av精品久久久久久| 一级毛片aaaaaa免费看小| 又大又黄又爽视频免费| 国产中年淑女户外野战色| 波野结衣二区三区在线| 乱人视频在线观看| 亚洲在线自拍视频| 又大又黄又爽视频免费| 麻豆精品久久久久久蜜桃| 成人亚洲欧美一区二区av| 舔av片在线| 天堂网av新在线| 男人舔女人下体高潮全视频| 国产片特级美女逼逼视频| 久久久久久久久久久免费av| 噜噜噜噜噜久久久久久91| 国产 一区 欧美 日韩| 国产一区二区在线观看日韩| 国产乱来视频区| 1000部很黄的大片| 亚洲精品影视一区二区三区av| 久久精品熟女亚洲av麻豆精品 | 天堂√8在线中文| 丝瓜视频免费看黄片| 久久99精品国语久久久| 好男人在线观看高清免费视频| 97超碰精品成人国产| 黑人高潮一二区| 极品教师在线视频| 91午夜精品亚洲一区二区三区| 午夜老司机福利剧场| 国内精品一区二区在线观看| 激情五月婷婷亚洲| 丝袜喷水一区| 亚洲av成人精品一二三区| 如何舔出高潮| 自拍偷自拍亚洲精品老妇| 精品欧美国产一区二区三| 看十八女毛片水多多多| 久久综合国产亚洲精品| 中文字幕av在线有码专区| 亚洲国产欧美在线一区| 丝瓜视频免费看黄片| 国产一区二区三区av在线| 亚洲人与动物交配视频| 午夜福利在线观看免费完整高清在| 女人十人毛片免费观看3o分钟| 91精品一卡2卡3卡4卡| 亚洲国产欧美在线一区| 蜜桃久久精品国产亚洲av| av播播在线观看一区| 最近2019中文字幕mv第一页| 欧美日韩一区二区视频在线观看视频在线 | 国产精品麻豆人妻色哟哟久久 | 欧美丝袜亚洲另类| 国产永久视频网站| 亚洲四区av| 精品国产露脸久久av麻豆 | 麻豆精品久久久久久蜜桃| 欧美精品一区二区大全| 2021少妇久久久久久久久久久| .国产精品久久| 69人妻影院| 日日摸夜夜添夜夜添av毛片| 天堂√8在线中文| 国产成人a区在线观看| 免费电影在线观看免费观看| 亚洲av在线观看美女高潮| 日韩精品有码人妻一区| 特大巨黑吊av在线直播| 美女大奶头视频| 成人鲁丝片一二三区免费| 久久99精品国语久久久| 精品人妻熟女av久视频| 男女边摸边吃奶| 51国产日韩欧美| 日韩人妻高清精品专区| 成人av在线播放网站| 两个人的视频大全免费| 最近手机中文字幕大全| 成人亚洲欧美一区二区av| 一区二区三区乱码不卡18| 国产精品久久久久久久电影| 国语对白做爰xxxⅹ性视频网站| 亚洲成人av在线免费| 禁无遮挡网站| 精品不卡国产一区二区三区| 国产精品久久视频播放| h日本视频在线播放| 免费看美女性在线毛片视频| 老师上课跳d突然被开到最大视频| eeuss影院久久| 中文字幕亚洲精品专区| 大话2 男鬼变身卡| 午夜福利视频精品| 亚洲色图av天堂| 男女视频在线观看网站免费| 国产白丝娇喘喷水9色精品| 欧美成人a在线观看| av福利片在线观看| av国产久精品久网站免费入址| 一个人看的www免费观看视频| 91精品伊人久久大香线蕉| 插逼视频在线观看| 国产亚洲精品久久久com| 亚洲av日韩在线播放| 久久久久网色| 亚洲精品视频女| 国产视频内射| 哪个播放器可以免费观看大片| 极品教师在线视频| 草草在线视频免费看| 亚洲精品一区蜜桃| 亚洲av免费在线观看| 精品久久久噜噜| 久久精品综合一区二区三区| 亚洲精品一二三| 一个人免费在线观看电影| 人人妻人人澡人人爽人人夜夜 | 久久久久久久久久久丰满| 97超视频在线观看视频| 欧美一级a爱片免费观看看| 国产国拍精品亚洲av在线观看| 成年女人在线观看亚洲视频 | 又粗又硬又长又爽又黄的视频| 大又大粗又爽又黄少妇毛片口| 九色成人免费人妻av| 国产伦精品一区二区三区四那| 97在线视频观看| 日韩成人伦理影院| 国产黄色小视频在线观看| 国内精品一区二区在线观看| 91精品伊人久久大香线蕉|