• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于近似結(jié)構(gòu)風(fēng)險(xiǎn)的ELM隱層節(jié)點(diǎn)數(shù)優(yōu)化

    2014-06-06 10:46:47黃重慶徐哲壯黃宴委賴(lài)大虎
    計(jì)算機(jī)工程 2014年9期
    關(guān)鍵詞:隱層學(xué)習(xí)機(jī)信任

    黃重慶,徐哲壯,黃宴委,賴(lài)大虎

    (福州大學(xué)電氣工程與自動(dòng)化學(xué)院,福州350108)

    基于近似結(jié)構(gòu)風(fēng)險(xiǎn)的ELM隱層節(jié)點(diǎn)數(shù)優(yōu)化

    黃重慶,徐哲壯,黃宴委,賴(lài)大虎

    (福州大學(xué)電氣工程與自動(dòng)化學(xué)院,福州350108)

    隱層節(jié)點(diǎn)數(shù)是影響極端學(xué)習(xí)機(jī)(ELM)泛化性能的關(guān)鍵參數(shù),針對(duì)傳統(tǒng)的ELM隱層節(jié)點(diǎn)數(shù)確定算法中優(yōu)化過(guò)程復(fù)雜、容易過(guò)學(xué)習(xí)或陷入局部最優(yōu)的問(wèn)題,提出結(jié)構(gòu)風(fēng)險(xiǎn)最小化-極端學(xué)習(xí)機(jī)(SRM-ELM)算法。通過(guò)分析VC維與隱層節(jié)點(diǎn)數(shù)量之間的關(guān)聯(lián),對(duì)VC信任函數(shù)進(jìn)行近似改進(jìn),使其為凹函數(shù),并結(jié)合經(jīng)驗(yàn)風(fēng)險(xiǎn)重構(gòu)近似的SRM。在此基礎(chǔ)上,將粒子群優(yōu)化的位置值直接作為ELM的隱層節(jié)點(diǎn)數(shù),利用粒子群算法最小化結(jié)構(gòu)風(fēng)險(xiǎn)函數(shù)獲得極端學(xué)習(xí)機(jī)的隱層節(jié)點(diǎn)數(shù),作為最優(yōu)節(jié)點(diǎn)數(shù)。使用6組UCI數(shù)據(jù)和膠囊缺陷數(shù)據(jù)進(jìn)行仿真驗(yàn)證,結(jié)果表明,該算法能獲得極端學(xué)習(xí)機(jī)的最優(yōu)節(jié)點(diǎn)數(shù),并具有更好的泛化能力。

    極端學(xué)習(xí)機(jī);結(jié)構(gòu)風(fēng)險(xiǎn);VC信任;粒子群優(yōu)化;隱層節(jié)點(diǎn)數(shù)

    1 概述

    極端學(xué)習(xí)機(jī)(Extreme Learning Machine,ELM)[1]是一種單隱層前饋神經(jīng)網(wǎng)絡(luò),具有運(yùn)算速度快、泛化性能好等特點(diǎn)。與普通的前饋神經(jīng)網(wǎng)絡(luò)一樣,ELM為保證良好的泛化性能,確定合適的隱層節(jié)點(diǎn)數(shù)量尤為重要。文獻(xiàn)[2]指出,ELM雖然避免了梯度下降法存在的問(wèn)題,但如何確定最優(yōu)隱層節(jié)點(diǎn)數(shù),避免反復(fù)試驗(yàn)調(diào)節(jié),依然是個(gè)亟待解決的問(wèn)題。文獻(xiàn)[3]針對(duì)稀疏數(shù)據(jù)學(xué)習(xí)問(wèn)題提出了RCGA-ELM算法,利用遺傳算法,優(yōu)化ELM的隱層節(jié)點(diǎn)數(shù)、權(quán)重w和偏置b,由于涉及多重算子,算法復(fù)雜,耗費(fèi)大量時(shí)間。為了降低算法復(fù)雜度,提出了S-ELM算法,以5倍交叉驗(yàn)證來(lái)選擇S-ELM的最佳參數(shù)w和b值。PSO-ELM[4], IPSO-ELM[5]和ICGA-SRM-ELM[6]均提出基于粒子群優(yōu)化(Particle Swarm Optimization,PSO)算法對(duì)ELM進(jìn)行改進(jìn),其中,PSO-ELM以均方根誤差為優(yōu)化目標(biāo)針對(duì)ELM中的w和b進(jìn)行自動(dòng)選擇與優(yōu)化。IPSO-ELM與ICGA-SRM-ELM類(lèi)似,強(qiáng)調(diào)優(yōu)化ELM的w和隱層節(jié)點(diǎn)數(shù),但I(xiàn)PSO-ELM強(qiáng)調(diào)優(yōu)化ELM的w值,并未涉及隱層節(jié)點(diǎn)數(shù)的優(yōu)化問(wèn)題,而且優(yōu)化目標(biāo)函數(shù)及迭代選擇標(biāo)準(zhǔn)與E-ELM[7]無(wú)實(shí)質(zhì)差別。ICGA-SRM-ELM則針對(duì)在經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化原則下對(duì)隱層節(jié)點(diǎn)數(shù)進(jìn)行分析,但沒(méi)給出具體形式。文獻(xiàn)[8]提出一種能自動(dòng)確定隱層節(jié)點(diǎn)的OP-ELM算法,但是需通過(guò)多元稀疏回歸和留一(LOO)算法,把開(kāi)始設(shè)定的大隱層節(jié)點(diǎn)數(shù)刪減到最佳值,這與EM-ELM和μGELM[9]一樣,需要多重判斷標(biāo)準(zhǔn)機(jī)制來(lái)選擇增加或刪減節(jié)點(diǎn),使整個(gè)算法趨于復(fù)雜。此外,μG-ELM用遺傳算法優(yōu)化隱層節(jié)點(diǎn)數(shù),給出的優(yōu)化目標(biāo)函數(shù)僅僅是經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化,容易出現(xiàn)過(guò)學(xué)習(xí)。這些工作對(duì)ELM的可調(diào)參數(shù)優(yōu)化研究都做出了或多或少的貢獻(xiàn),但還是存在一些不足之處:(1)沒(méi)有給出具體的優(yōu)化目標(biāo)函數(shù);(2)優(yōu)化目標(biāo)函數(shù)為經(jīng)驗(yàn)風(fēng)險(xiǎn),容易出現(xiàn)過(guò)學(xué)習(xí)或陷入局部最優(yōu);(3)利用遺傳、差分進(jìn)化算法優(yōu)化過(guò)程復(fù)雜。

    本文提出一種SRM-ELM算法,改進(jìn)VC信任函數(shù)以獲得凹函數(shù),與經(jīng)驗(yàn)風(fēng)險(xiǎn)構(gòu)成近似的結(jié)構(gòu)風(fēng)險(xiǎn)最小化(Structural Risk Minimization,SRM)函數(shù),利用PSO算法尋找SRM最小化時(shí)的ELM隱層節(jié)點(diǎn)數(shù),為最佳的隱層節(jié)點(diǎn)數(shù)量。最后,由6組UCI數(shù)據(jù)和膠囊缺陷數(shù)據(jù)來(lái)仿真驗(yàn)證SRM-ELM的可行性與性能。

    2 ELM基本原理

    給定N個(gè)訓(xùn)練樣本(xi,yi),xi=[xi1,xi2,…, xin]T∈Rn,yi=[yi1,yi2,…,yim]T∈Rm,i=1,2,…, N。令隱層節(jié)點(diǎn)數(shù)量為K,激活函數(shù)為g(w,x,b),可構(gòu)造一個(gè)單隱層網(wǎng)絡(luò),則ELM模型為:

    其中,i=1,2,…,N;j=1,2,…,K;wj=[wj1,wj2,…,wjn]T是連接輸入節(jié)點(diǎn)到第j個(gè)隱層節(jié)點(diǎn)的輸入權(quán)重;βj=[βj1,βj2,…,βjm]T是連接第j個(gè)隱層節(jié)點(diǎn)到輸出節(jié)點(diǎn)的輸出權(quán)重;bj是第 j個(gè)隱層節(jié)點(diǎn)的閾值。

    把N個(gè)學(xué)習(xí)樣本分別代入式(1)中可得:

    其中:

    H稱(chēng)為網(wǎng)絡(luò)隱層輸出矩陣。在一般情況下,隱層節(jié)點(diǎn)數(shù)遠(yuǎn)小于訓(xùn)練樣本數(shù),即K?N,H就可能不是一個(gè)方陣,因此需求H的偽逆,即Moore-Penrose廣義逆。在式(2)中,任意人為給定w和b,以及激活函數(shù)g(w,x,b),由Moore-Penrose廣義逆定理求得廣義逆H+,從而β的解為:

    與傳統(tǒng)的梯度下降法比較,ELM具有運(yùn)算速度快和不需反復(fù)調(diào)整權(quán)值等特點(diǎn)[10],但隱層節(jié)點(diǎn)數(shù)K成為影響ELM泛化性能的重要因素之一,如何自動(dòng)選擇參數(shù)K為本文研究重點(diǎn)。

    3 SRM-ELM算法

    3.1 SRM原理

    為克服經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化存在的過(guò)學(xué)習(xí)問(wèn)題,文獻(xiàn)[11]提出了SRM[11],有如下結(jié)論:

    對(duì)于來(lái)自具有有限VC維h的完全有界函數(shù)集0≤Q(z,α)≤B,α∈Λ的所有函數(shù),則:

    成立的概率至少為1-η。式中R(α)為期望風(fēng)險(xiǎn);Remp(α)為經(jīng)驗(yàn)風(fēng)險(xiǎn),且:

    其中,N為樣本數(shù)量,0<a≤4,0<b≤2,η∈(0,1],兩類(lèi)問(wèn)題中B=1,式(4)右邊第2項(xiàng)稱(chēng)為VC信任或VC置信區(qū)間。由SRM原則,為使R(α)最小,則必須使Remp(α)和VC信任總和最小。而在給定樣本情況下,VC信任取決于整個(gè)函數(shù)集的VC維h。從文獻(xiàn)[12-14]可知,隱層激活函數(shù)為sigmoid的神經(jīng)網(wǎng)絡(luò)VC維為:

    其中,λ為網(wǎng)絡(luò)的權(quán)值個(gè)數(shù);l為網(wǎng)絡(luò)的隱層數(shù);n0為隱層神經(jīng)元和輸出層神經(jīng)元的總數(shù)。

    由式(6)可知,h均與λ有關(guān),對(duì)ELM來(lái)講,l= 1,則:

    其中,n為ELM輸入維數(shù);m為ELM輸出維數(shù);n和m由樣本確定。在n和m已知情況下,由式(7)可知VC維h為隱層節(jié)點(diǎn)數(shù)K的函數(shù)。

    根據(jù)統(tǒng)計(jì)學(xué)習(xí)理論,令式(4)中B=1,則VC信任可寫(xiě)成:

    令a=4,b=1,對(duì)h求一次導(dǎo)得:

    由式(9)可知,h=N時(shí)為僅有的極大值點(diǎn),即h=N時(shí)f(h)取得最大值。

    3.2 VC信任函數(shù)的改進(jìn)

    利用UCI數(shù)據(jù)庫(kù)中的Haberman數(shù)據(jù)進(jìn)行VC信任函數(shù)式(9)特性分析。圖1為VC信任函數(shù)f(h)與h的關(guān)系。在h∈[0,N]時(shí)f(h)為凸函數(shù)(經(jīng)過(guò)歸一化),則式(4)右邊兩項(xiàng)的和很難求出全局最小值,相反很容易陷入局部最小值,為此需要對(duì)f(h)進(jìn)行改進(jìn)。

    不難發(fā)現(xiàn),對(duì)于任意h,滿(mǎn)足下列公式:

    則式(4)寫(xiě)成:

    另一方面,由式(4)得出概率:

    由式(11)和式(12),得:

    其中,η0∈(0,1],η∈(0,1]。即不等式:

    成立的概率至少為1-η。

    同樣利用UCI數(shù)據(jù)庫(kù)中的Haberman數(shù)據(jù)對(duì)改進(jìn)后的VC信任函數(shù)φ(h)與VC維h之間的關(guān)系進(jìn)行分析,如圖1所示。從圖1可知,改進(jìn)后VC信任φ(h)為VC維h的凹函數(shù),式(14)是VC維h的函數(shù),可近似獲得ELM的泛化能力:

    圖1 f(h)、φ(h)與h的關(guān)系

    3.3 PSO基本原理

    本文把PSO的位置值直接作為ELM的隱層節(jié)點(diǎn)數(shù),PSO每迭代一次相當(dāng)于ELM訓(xùn)練一次,迭代完畢后即獲得最優(yōu)隱層節(jié)點(diǎn)數(shù)。

    基于慣性權(quán)重的粒子速度v和位置p更新公式為:

    其中,是粒子i在第k次迭代中的第d維位置;是粒子i在第k次迭代中的第d維速度;為粒子i在第k次迭代中第d維達(dá)到的最好位置;為粒子群在第k次迭代中第d維達(dá)到的最優(yōu)位置,d=1,2,…,N;c1,c2為學(xué)習(xí)因子,一般c1=c2=2;rand1,rand2介于(0,1)之間。

    慣性權(quán)重τ計(jì)算公式為:

    其中,τmax和τmin分別表示權(quán)重的最大值和最小值;itmax表示最大的迭代次數(shù);NC表示當(dāng)前迭代的次數(shù)。粒子在搜索過(guò)程中都有一個(gè)最大最小速度和最大最小位置,設(shè)置規(guī)則見(jiàn)PSO-ELM[4]。

    PSO算法的優(yōu)勢(shì)在于結(jié)構(gòu)簡(jiǎn)單,容易實(shí)現(xiàn),且沒(méi)有過(guò)多參數(shù)需要調(diào)整,可以直接把粒子的位置參數(shù)替換成需要優(yōu)化的決策變量。SRM-ELM直接把PSO的位置值當(dāng)作隱層節(jié)點(diǎn)數(shù),粒子群最終達(dá)到的最佳位置就是所要尋找的最優(yōu)節(jié)點(diǎn)數(shù)。

    3.4 SRM-ELM算法流程

    SRM-ELM算法步驟如下:

    Step 1 粒子種群初始化。

    Step 2 粒子的位置量p直接作為隱層節(jié)點(diǎn)數(shù)K賦予ELM。

    Step 3 在ELM訓(xùn)練的過(guò)程中,根據(jù)每個(gè)粒子的位置值(隱層節(jié)點(diǎn)數(shù))計(jì)算對(duì)應(yīng)的目標(biāo)函數(shù)R(α,h)。

    Step 4 更新粒子最優(yōu)位置pbest和粒子群最優(yōu)位置gbest。如果當(dāng)前粒子的R(α,h)比上一代小,則對(duì)應(yīng)的位置作為目前粒子到達(dá)的最優(yōu)位置;如果當(dāng)前粒子群的最小R(α,h)比上一代的小,則對(duì)應(yīng)的位置作為目前粒子群到達(dá)的最優(yōu)位置。否則不更新。

    Step 5 更新粒子位置p和速度v。根據(jù)式(16)和式(17)重新計(jì)算粒子的位置和速度。

    Step 6 迭代終止。如果NC>itmax,則優(yōu)化結(jié)束,最后得到的粒子群最優(yōu)位置即所求的最優(yōu)隱層節(jié)點(diǎn)數(shù)K。否則轉(zhuǎn)到Step2循環(huán)操作。

    PSO和ELM的結(jié)合關(guān)鍵在于PSO把位置值賦予ELM,作為隱層節(jié)點(diǎn)于ELM主體中,同時(shí)把目標(biāo)函數(shù)R(α,h)植入ELM,隨著PSO算法的迭代,逐漸接近最好的位置,即逐漸優(yōu)化出最佳隱層節(jié)點(diǎn)數(shù)。

    4 仿真實(shí)驗(yàn)

    4.1 參數(shù)設(shè)置

    4.2 UCI數(shù)據(jù)

    本文分別用UCI數(shù)據(jù)庫(kù)中的6組2類(lèi)數(shù)據(jù)來(lái)驗(yàn)證SRM-ELM算法,6組數(shù)據(jù)如表1所示。

    表1 數(shù)據(jù)信息

    在ELM設(shè)計(jì)時(shí),一般利用交叉驗(yàn)證法在K值預(yù)設(shè)定的范圍內(nèi)確定最佳隱層節(jié)點(diǎn)數(shù)K。由Haberman數(shù)據(jù)進(jìn)行仿真,假設(shè)令K從1~300遞增,依次得到對(duì)測(cè)試樣本的分類(lèi)精度如圖2(a)所示,圖2(b)為最高測(cè)試精度為0.739 6所對(duì)應(yīng)的隱層節(jié)點(diǎn)數(shù)K=5。從圖2可知隨著K值繼續(xù)增加,ELM的測(cè)量精度總體上是遞減的,當(dāng)4≤K≤9時(shí),ELM具有很好的測(cè)試精度。

    利用SRM-ELM算法對(duì)6組數(shù)據(jù)分別連續(xù)重復(fù)仿真50次,求平均值確定最佳隱層節(jié)點(diǎn)數(shù)K完成ELM網(wǎng)絡(luò)設(shè)計(jì)。圖3為Haberman數(shù)據(jù)的仿真結(jié)果,其中圖3(a)為50次仿真所得到的隱層節(jié)點(diǎn)數(shù)K,從50次仿真可知,K值主要集中于6≤K≤9,落在交叉驗(yàn)證法得到K的范圍中。圖3(b)為第10次仿真中隱層節(jié)點(diǎn)數(shù)K收斂情況,K從1遞增到10,在第16代時(shí)收斂于7。對(duì)比圖3與圖2可知,由SRMELM算法所獲得K值能夠很好地符合由交叉驗(yàn)證法得到的K值。

    圖2 ELM對(duì)Haberman數(shù)據(jù)的測(cè)試精度

    圖3 隱層節(jié)點(diǎn)數(shù)K分布

    表2 SRM-ELM、ELM與試湊公式N0= +c的性能比較

    表2 SRM-ELM、ELM與試湊公式N0= +c的性能比較

    數(shù)據(jù)類(lèi)型 交叉驗(yàn)證法ELM N0= a+b+c SRM-ELMK測(cè)試精度/% K 測(cè)試精度/% K 測(cè)試精度/% Haberman 4~9 73.62±0.34 3~12 73.45±0.31 6~9 73.57±0.25 Blood 28~45 86.75±0.17 3~12 86.25±0.12 35~40 86.75±0.17 Pima 10~17 79.48±0.12 4~13 79.21±0.03 13~17 79.34±0.03 Ionosphere 35~55 91.58±0.49 7~16 85.64±0.30 27~33 90.59±0.19 Breast Cancer 35~50 99.75±0.15 4~13 99.75±0.15 13~21 99.25±0.10 Australian Credit 13~23 86.58±0.05 5~14 85.00±0.18 14~19 86.58±0.05

    4.3 膠囊外觀缺陷檢測(cè)

    圖4 正常膠囊和各種缺陷膠囊

    表3 膠囊缺陷檢測(cè)結(jié)果

    5 結(jié)束語(yǔ)

    本文針對(duì)隱層節(jié)點(diǎn)數(shù)量影響ELM泛化性能的問(wèn)題,提出一種SRM-ELM算法。SRM-ELM在結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則下,建立隱層節(jié)點(diǎn)數(shù)與泛化能力的關(guān)系函數(shù),利用PSO簡(jiǎn)單高效的全局搜索能力,優(yōu)化ELM的隱層節(jié)點(diǎn)數(shù),避免了傳統(tǒng)方法反復(fù)調(diào)節(jié)實(shí)驗(yàn)的繁瑣。由6組標(biāo)準(zhǔn)數(shù)據(jù)實(shí)驗(yàn)結(jié)果顯示,利用SRMELM計(jì)算得到的最優(yōu)隱層節(jié)點(diǎn)數(shù)均落在交叉驗(yàn)證法得到的ELM最優(yōu)隱層節(jié)點(diǎn)數(shù)范圍內(nèi),保證了良好的泛化性能,與試湊法比較顯現(xiàn)出準(zhǔn)確性高、推廣性好的優(yōu)勢(shì),并且可將該方法用于膠囊外觀缺陷檢測(cè)中。

    [1] Huang Guangbin,ZhuQinyu,Siew C K.Extreme Learning Machine:A New Learning Scheme of Feed Forward Neural Networks[C]//Proc.of IEEE International Joint Conference on Neural Networks. [S.l.]:IEEE Press,2004:985-990.

    [2] Feng Guorui,Huang Guangbin,Lin Qingping.Error Minimized Extreme Learning Machine with Growth of Hidden Nodes and Incremental Learning[J].IEEE Transactions on NeuralNetworks,2009,20(8): 1352-1357.

    [3] Suresh S,Saraswathi S,Sundararajan N.Performance Enhancement of Extreme Learning Machine for Multicategory Sparse Cancer Classification[J].Engineering Applications of Artificial Intelligence,2010,23(7): 1149-1157.

    [4] Xu You,Shu Yang.Evolutionary Extreme Learning Machine Based on Particle Swarm Optimization[C]// Advances in Neural Networks.[S.l.]:Springer,2006: 644-652.

    [5] Han Fei,YaoHaifen,LingQinghua.AnImproved Extreme Learning Machine Based on Particle Swarm Optimization[C]//Proc.of the 7th International Conference on IntelligentComputing.Zhengzhou, China:[s.n.],2012:699-704.

    [6] Saraswathi S,Sundaram S,Sundararajan N.ICGA-PSOELM Approach for Multiclass Cancer Classification Resulting Reduced Gene Sets in Which Genes Encoding Secreted Proteins are Highly Represented Inaccurate[J]. IEEE/ACM Transactions on Computational Biology and Bioinformatics,2010,8(2):452-463.

    [7] Zhu Qinyu,Qin A K,Suganthan P N.Evolutionary Extreme Learning Machine[J].Pattern Recognition, 2005,38(10):1759-1763.

    [8] Miche Y,Sorjamaa A,Bas P.OP-ELM:Optimally Pruned Extreme Learning Machine[J].IEEE Transactions on Neural Networks,2010,21(1):158-162.

    [9] Lahoz D,Lacruz B,Mateo P M.A Biobjective Microgenetic Extreme Learning Machine[C]//Proc.of IEEE Workshop on Hybrid Intelligent Models and Applications.[S.l.]:IEEE Press,2011:68-75.

    [10] Huang Guangbin,ZhuQinyu,Siew C K.Extreme Learning Machine[J].Neurocomputing,2006,70(1): 489-501.

    [11] Vapnik V N.Statistical Learning Theory[M].New York, USA:Wiley,1998.

    [12] Koiran P,Sontag E D.Neural Networks with Quadratic VC Dimension[J].Journal of Computer and System Science,1997,54(1):190-198.

    [13] Bartlett P L,Maiorov V,Meir R.Almost Linear VC Dimension Bounds for Piecewise Polynomial Networks [J].Neural Computation,1998,10(8):2159-2173.

    [14] Karpinski M,Macintyre A.Polynomial Bounds for VC Dimension of Sigmoidal and General Pfaffian Neural Networks[J].JournalofComputerand System Sciences,1997,54(1):169-176.

    [15] 朱啟兵,劉 杰,李允公,等.基于結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則的奇異值分解降噪研究[J].振動(dòng)工程學(xué)報(bào),2005, 18(2):204-207.

    編輯 顧逸斐

    Optimization for Hidden Nodes Number of ELM Based on Approximate Structure Risk

    HUANG Chong-qing,XU Zhe-zhuang,HUANG Yan-wei,LAI Da-hu
    (College of Electrical Engineering&Automation,Fuzhou University,Fuzhou 350108,China)

    The number of hidden nodes is a critical factor for the generalization of Extreme Learning Machine(ELM). There exists complex optimization process,over learning or traps in local optimum in traditional algorithm of calculating the number of hidden layer of ELM.Aiming at the problems,Structural Risk Minimization(SRM)-ELM is proposed. Combining empirical risk with VC confidence,this paper proposes a novel algorithm to automatically obtain the best one to guarantee good generalization.On this basis,the Particle Swarm Optimization(PSO)position value is directly treated as ELM hidden layer nodes,which employs the PSO in the optimizing process with Structural Risk Minimization(SRM) principle.The optimal number of hidden nodes is reasonable correspond to 6 cases.Simulation results show that the algorithm can obtain the extreme learning machine optimal nodes and better generalization ability.

    Extreme Learning Machine(ELM);structural risk;VC confidence;Particle Swarm Optimization(PSO); hidden nodes number

    1000-3428(2014)09-0215-05

    A

    TP18

    10.3969/j.issn.1000-3428.2014.09.043

    教育部博士點(diǎn)新教師基金資助項(xiàng)目(20113514120007);福建省教育廳科技基金資助項(xiàng)目(JA10034)。

    黃重慶(1989-),男,碩士研究生,主研方向:圖像處理,智能系統(tǒng);徐哲壯(通訊作者),講師、博士;黃宴委,副教授、博士;賴(lài)大虎,碩士。

    2013-08-12

    2013-10-10E-mail:297964854@qq.com

    猜你喜歡
    隱層學(xué)習(xí)機(jī)信任
    基于RTD可編程邏輯門(mén)的n變量函數(shù)實(shí)現(xiàn)算法
    基于RDPSO結(jié)構(gòu)優(yōu)化的三隱層BP神經(jīng)網(wǎng)絡(luò)水質(zhì)預(yù)測(cè)模型及應(yīng)用
    人民珠江(2019年4期)2019-04-20 02:32:00
    表示信任
    極限學(xué)習(xí)機(jī)綜述
    基于極限學(xué)習(xí)機(jī)參數(shù)遷移的域適應(yīng)算法
    分層極限學(xué)習(xí)機(jī)在滾動(dòng)軸承故障診斷中的應(yīng)用
    嚶嚶嚶,人與人的信任在哪里……
    桃之夭夭B(2017年2期)2017-02-24 17:32:43
    從生到死有多遠(yuǎn)
    信任
    最優(yōu)隱層BP神經(jīng)網(wǎng)絡(luò)的滾動(dòng)軸承故障診斷
    极品少妇高潮喷水抽搐| 又大又黄又爽视频免费| 欧美97在线视频| 丝袜脚勾引网站| 国产免费一区二区三区四区乱码| 国产激情久久老熟女| 亚洲av男天堂| e午夜精品久久久久久久| 久久精品久久久久久噜噜老黄| 国产精品偷伦视频观看了| 男女免费视频国产| 午夜福利在线免费观看网站| 人人妻人人爽人人添夜夜欢视频| 久久久精品免费免费高清| 国产深夜福利视频在线观看| 亚洲三区欧美一区| 国产免费一区二区三区四区乱码| 精品卡一卡二卡四卡免费| 黑人欧美特级aaaaaa片| av网站在线播放免费| 91国产中文字幕| 大型av网站在线播放| 日韩熟女老妇一区二区性免费视频| 国产91精品成人一区二区三区 | 亚洲一码二码三码区别大吗| 国产亚洲欧美在线一区二区| 亚洲成人国产一区在线观看 | 日本色播在线视频| 成年美女黄网站色视频大全免费| 天天添夜夜摸| 国产精品.久久久| 日本黄色日本黄色录像| 国产又色又爽无遮挡免| 成人午夜精彩视频在线观看| 男女无遮挡免费网站观看| 丁香六月天网| 波多野结衣av一区二区av| 欧美日韩亚洲高清精品| 纯流量卡能插随身wifi吗| 每晚都被弄得嗷嗷叫到高潮| 美女视频免费永久观看网站| 一区二区三区激情视频| 亚洲精品国产av蜜桃| 老熟女久久久| www.自偷自拍.com| 纯流量卡能插随身wifi吗| 一区二区三区激情视频| 精品福利观看| 午夜福利影视在线免费观看| 国产成人a∨麻豆精品| 多毛熟女@视频| 极品人妻少妇av视频| 婷婷色综合大香蕉| 这个男人来自地球电影免费观看| 大型av网站在线播放| 国产精品国产三级专区第一集| 如日韩欧美国产精品一区二区三区| 国产精品成人在线| 亚洲五月婷婷丁香| 欧美日韩一级在线毛片| 精品熟女少妇八av免费久了| 国产麻豆69| 精品欧美一区二区三区在线| 国产片内射在线| 少妇人妻 视频| 亚洲伊人久久精品综合| 成年女人毛片免费观看观看9 | 男女边摸边吃奶| 看免费成人av毛片| 深夜精品福利| 美女脱内裤让男人舔精品视频| 国产成人精品无人区| 青草久久国产| 精品国产一区二区久久| 免费久久久久久久精品成人欧美视频| 国产成人欧美在线观看 | 久久ye,这里只有精品| av天堂久久9| 精品少妇内射三级| 老司机深夜福利视频在线观看 | 婷婷色av中文字幕| 欧美+亚洲+日韩+国产| 精品人妻1区二区| 亚洲国产看品久久| 午夜福利,免费看| 欧美日本中文国产一区发布| 深夜精品福利| 国产成人精品在线电影| 免费女性裸体啪啪无遮挡网站| 亚洲国产精品一区二区三区在线| 国产成人影院久久av| 精品国产乱码久久久久久小说| 在线观看免费午夜福利视频| 国产成人一区二区三区免费视频网站 | 在线天堂中文资源库| 黄色一级大片看看| av有码第一页| 欧美xxⅹ黑人| 国产精品一区二区在线观看99| 亚洲一码二码三码区别大吗| 老鸭窝网址在线观看| 国产精品偷伦视频观看了| 99香蕉大伊视频| 国产成人91sexporn| 爱豆传媒免费全集在线观看| 一本—道久久a久久精品蜜桃钙片| www.精华液| 一级毛片女人18水好多 | 国产精品二区激情视频| 久久久久精品人妻al黑| 国产高清不卡午夜福利| 国产精品 国内视频| 又大又爽又粗| 免费在线观看黄色视频的| 久久久久视频综合| 欧美中文综合在线视频| 久久久久精品国产欧美久久久 | 五月开心婷婷网| 免费高清在线观看日韩| 纵有疾风起免费观看全集完整版| 母亲3免费完整高清在线观看| 日韩av在线免费看完整版不卡| 成年人黄色毛片网站| 老司机午夜十八禁免费视频| 亚洲精品乱久久久久久| 中国国产av一级| 咕卡用的链子| 侵犯人妻中文字幕一二三四区| 超碰97精品在线观看| 欧美日韩黄片免| 亚洲 国产 在线| 青春草视频在线免费观看| 一本一本久久a久久精品综合妖精| 亚洲av日韩精品久久久久久密 | 少妇人妻久久综合中文| 在线av久久热| av一本久久久久| 真人做人爱边吃奶动态| 免费日韩欧美在线观看| 亚洲精品在线美女| 在线亚洲精品国产二区图片欧美| 欧美97在线视频| 免费看不卡的av| 久久久欧美国产精品| videos熟女内射| 搡老岳熟女国产| 午夜福利一区二区在线看| 亚洲av电影在线进入| 黄色怎么调成土黄色| 中文字幕色久视频| 久久人人爽av亚洲精品天堂| 午夜日韩欧美国产| 久久精品国产综合久久久| 亚洲欧美一区二区三区国产| 999久久久国产精品视频| 精品人妻1区二区| 国产伦理片在线播放av一区| 国产高清不卡午夜福利| 亚洲色图 男人天堂 中文字幕| 久久久国产一区二区| 精品少妇内射三级| 九色亚洲精品在线播放| 脱女人内裤的视频| 国产在视频线精品| 丝袜在线中文字幕| 国产主播在线观看一区二区 | 在线av久久热| 国产成人免费观看mmmm| 一级毛片女人18水好多 | 欧美在线一区亚洲| 99久久精品国产亚洲精品| 美女扒开内裤让男人捅视频| 我的亚洲天堂| 国产精品一区二区精品视频观看| 亚洲av在线观看美女高潮| 老汉色av国产亚洲站长工具| 美女大奶头黄色视频| 日韩一卡2卡3卡4卡2021年| 青春草亚洲视频在线观看| 校园人妻丝袜中文字幕| 免费日韩欧美在线观看| 亚洲精品国产av蜜桃| 18在线观看网站| 操美女的视频在线观看| 9色porny在线观看| 不卡av一区二区三区| 老熟女久久久| 人妻一区二区av| 交换朋友夫妻互换小说| 国产精品成人在线| 高清av免费在线| 热re99久久国产66热| 妹子高潮喷水视频| 久久精品aⅴ一区二区三区四区| av有码第一页| 日韩大码丰满熟妇| 国产97色在线日韩免费| 大片免费播放器 马上看| 啦啦啦啦在线视频资源| 久久精品熟女亚洲av麻豆精品| 亚洲av电影在线进入| 男人操女人黄网站| 国产精品欧美亚洲77777| 高清不卡的av网站| 欧美日韩精品网址| 人人妻,人人澡人人爽秒播 | 国产伦人伦偷精品视频| 婷婷色麻豆天堂久久| 精品欧美一区二区三区在线| 亚洲国产最新在线播放| 韩国高清视频一区二区三区| 男女无遮挡免费网站观看| 国产熟女欧美一区二区| 国产欧美日韩综合在线一区二区| 国产视频首页在线观看| 一本综合久久免费| 三上悠亚av全集在线观看| 欧美变态另类bdsm刘玥| 国产精品香港三级国产av潘金莲 | 2018国产大陆天天弄谢| av在线播放精品| 久久久精品区二区三区| 欧美精品高潮呻吟av久久| videosex国产| 免费观看a级毛片全部| av又黄又爽大尺度在线免费看| 欧美日韩国产mv在线观看视频| 热re99久久精品国产66热6| 亚洲第一青青草原| 老鸭窝网址在线观看| 久久久久视频综合| 久久国产亚洲av麻豆专区| 午夜视频精品福利| 亚洲男人天堂网一区| 亚洲av欧美aⅴ国产| 久久久精品国产亚洲av高清涩受| 黄片播放在线免费| 手机成人av网站| 欧美黑人精品巨大| 大话2 男鬼变身卡| 国产一区亚洲一区在线观看| 亚洲国产最新在线播放| 亚洲国产精品国产精品| 精品人妻熟女毛片av久久网站| 国产熟女午夜一区二区三区| 国产日韩一区二区三区精品不卡| 女人爽到高潮嗷嗷叫在线视频| 97精品久久久久久久久久精品| 在线观看免费视频网站a站| 九草在线视频观看| 中文欧美无线码| 丰满迷人的少妇在线观看| 99热全是精品| 亚洲视频免费观看视频| 国产免费福利视频在线观看| 国产男人的电影天堂91| 色婷婷久久久亚洲欧美| 无遮挡黄片免费观看| 国产亚洲精品久久久久5区| 精品国产乱码久久久久久小说| 久久 成人 亚洲| 狠狠精品人妻久久久久久综合| 日本黄色日本黄色录像| 两性夫妻黄色片| 国产精品一区二区免费欧美 | 亚洲成人免费电影在线观看 | 精品第一国产精品| 亚洲五月色婷婷综合| 亚洲第一青青草原| 日韩大码丰满熟妇| xxx大片免费视频| 最近手机中文字幕大全| tube8黄色片| 国产精品av久久久久免费| 可以免费在线观看a视频的电影网站| 一级毛片我不卡| 天天影视国产精品| 久久鲁丝午夜福利片| 亚洲熟女精品中文字幕| 黑人欧美特级aaaaaa片| 亚洲精品一卡2卡三卡4卡5卡 | 下体分泌物呈黄色| 80岁老熟妇乱子伦牲交| av网站免费在线观看视频| 亚洲欧洲日产国产| 久久99精品国语久久久| 精品一区在线观看国产| 亚洲成人免费电影在线观看 | 一级毛片电影观看| 亚洲三区欧美一区| 国产伦理片在线播放av一区| 久久九九热精品免费| 日日夜夜操网爽| 国产欧美日韩一区二区三区在线| 人人妻人人澡人人爽人人夜夜| 69精品国产乱码久久久| 国产99久久九九免费精品| 欧美日韩亚洲高清精品| 美女高潮到喷水免费观看| 免费不卡黄色视频| 国语对白做爰xxxⅹ性视频网站| 日本欧美视频一区| 亚洲一码二码三码区别大吗| 黑人猛操日本美女一级片| 国产精品一二三区在线看| 在线天堂中文资源库| 日本wwww免费看| 夜夜骑夜夜射夜夜干| 亚洲国产看品久久| 这个男人来自地球电影免费观看| 成人影院久久| 国产黄色视频一区二区在线观看| 午夜福利乱码中文字幕| 日韩大码丰满熟妇| 国产一区二区 视频在线| av不卡在线播放| 一级黄色大片毛片| 王馨瑶露胸无遮挡在线观看| 精品免费久久久久久久清纯 | 又紧又爽又黄一区二区| 国产亚洲一区二区精品| 亚洲,欧美精品.| 亚洲九九香蕉| 免费观看a级毛片全部| 一区二区三区四区激情视频| 欧美 日韩 精品 国产| 亚洲av电影在线进入| 少妇人妻久久综合中文| 好男人视频免费观看在线| 男人舔女人的私密视频| 国产精品香港三级国产av潘金莲 | 各种免费的搞黄视频| 男男h啪啪无遮挡| 大片免费播放器 马上看| 美女视频免费永久观看网站| 国产欧美亚洲国产| 国产1区2区3区精品| 欧美成人午夜精品| 亚洲精品一二三| 国产黄频视频在线观看| 亚洲av电影在线观看一区二区三区| 亚洲欧美中文字幕日韩二区| av天堂在线播放| 老司机影院毛片| 国产97色在线日韩免费| av不卡在线播放| 亚洲精品久久成人aⅴ小说| 国产精品国产三级专区第一集| 黄色a级毛片大全视频| 亚洲国产欧美日韩在线播放| 午夜福利,免费看| 日本av免费视频播放| 国产免费视频播放在线视频| 亚洲伊人色综图| 久久精品人人爽人人爽视色| 人人妻人人澡人人看| 我要看黄色一级片免费的| av在线老鸭窝| 亚洲精品自拍成人| 欧美另类一区| 最近手机中文字幕大全| tube8黄色片| 欧美日韩综合久久久久久| 亚洲伊人久久精品综合| 国产免费一区二区三区四区乱码| 新久久久久国产一级毛片| 国产成人精品久久久久久| 中文精品一卡2卡3卡4更新| 狂野欧美激情性bbbbbb| 91麻豆精品激情在线观看国产 | 色婷婷av一区二区三区视频| 午夜福利视频精品| 精品亚洲成a人片在线观看| 日本a在线网址| 国产精品免费大片| 亚洲欧美日韩另类电影网站| 蜜桃在线观看..| 精品国产乱码久久久久久小说| 王馨瑶露胸无遮挡在线观看| 久久久精品免费免费高清| 操出白浆在线播放| 下体分泌物呈黄色| 在线天堂中文资源库| 欧美xxⅹ黑人| 久久午夜综合久久蜜桃| 精品人妻1区二区| 汤姆久久久久久久影院中文字幕| 国产成人免费无遮挡视频| 两个人免费观看高清视频| 日韩制服骚丝袜av| 亚洲欧美日韩另类电影网站| 久久久国产精品麻豆| 国产精品欧美亚洲77777| av线在线观看网站| 日韩av不卡免费在线播放| 日日摸夜夜添夜夜爱| 国产精品久久久av美女十八| 国产精品 国内视频| 精品高清国产在线一区| 国产不卡av网站在线观看| 中文欧美无线码| 欧美人与性动交α欧美软件| 亚洲成av片中文字幕在线观看| 2018国产大陆天天弄谢| 精品亚洲乱码少妇综合久久| 久久久亚洲精品成人影院| 亚洲av片天天在线观看| 亚洲第一青青草原| 99国产精品一区二区蜜桃av | 亚洲国产最新在线播放| 80岁老熟妇乱子伦牲交| 亚洲成国产人片在线观看| 丰满饥渴人妻一区二区三| 波野结衣二区三区在线| 国产日韩一区二区三区精品不卡| 波多野结衣av一区二区av| 亚洲熟女精品中文字幕| 曰老女人黄片| 国产亚洲欧美在线一区二区| 又粗又硬又长又爽又黄的视频| 国产精品久久久久久精品古装| 大型av网站在线播放| 脱女人内裤的视频| 亚洲精品久久成人aⅴ小说| 又大又黄又爽视频免费| 亚洲五月色婷婷综合| 亚洲九九香蕉| 午夜福利视频精品| 国产91精品成人一区二区三区 | 国产精品二区激情视频| 又粗又硬又长又爽又黄的视频| 少妇粗大呻吟视频| 汤姆久久久久久久影院中文字幕| 人妻人人澡人人爽人人| 欧美黄色片欧美黄色片| 国产男人的电影天堂91| 午夜精品国产一区二区电影| 精品福利永久在线观看| 一级毛片我不卡| 老汉色av国产亚洲站长工具| 免费久久久久久久精品成人欧美视频| 成人国产一区最新在线观看 | 国产精品99久久99久久久不卡| 人人妻人人澡人人爽人人夜夜| 黄片播放在线免费| 精品视频人人做人人爽| 国产一区二区在线观看av| 九色亚洲精品在线播放| 中文字幕人妻丝袜制服| 久久 成人 亚洲| 欧美激情 高清一区二区三区| 高清av免费在线| 在线观看人妻少妇| 欧美日韩福利视频一区二区| 99热全是精品| 男的添女的下面高潮视频| 一本综合久久免费| 性高湖久久久久久久久免费观看| 久久久久精品国产欧美久久久 | 久久久久国产精品人妻一区二区| 久久久国产欧美日韩av| 亚洲国产欧美一区二区综合| 一区二区三区乱码不卡18| 精品少妇黑人巨大在线播放| 又粗又硬又长又爽又黄的视频| av天堂在线播放| 日本一区二区免费在线视频| 亚洲精品国产区一区二| 亚洲精品自拍成人| 在现免费观看毛片| 亚洲九九香蕉| 午夜福利视频精品| 国产成人一区二区在线| 男女国产视频网站| 日韩精品免费视频一区二区三区| av片东京热男人的天堂| 欧美亚洲日本最大视频资源| 汤姆久久久久久久影院中文字幕| a级毛片黄视频| 久久人妻福利社区极品人妻图片 | 亚洲精品美女久久久久99蜜臀 | 宅男免费午夜| 国产精品 欧美亚洲| 波多野结衣av一区二区av| 亚洲欧美成人综合另类久久久| 老汉色∧v一级毛片| 亚洲五月婷婷丁香| 亚洲精品第二区| a级毛片在线看网站| 不卡av一区二区三区| 中文字幕人妻丝袜制服| 国产成人精品久久二区二区免费| 久久鲁丝午夜福利片| 久久热在线av| 91麻豆精品激情在线观看国产 | 欧美人与善性xxx| 欧美另类一区| 国产日韩欧美在线精品| 国产97色在线日韩免费| 丝瓜视频免费看黄片| 99精品久久久久人妻精品| 久久精品久久久久久久性| 两性夫妻黄色片| 午夜两性在线视频| 国产女主播在线喷水免费视频网站| 亚洲国产最新在线播放| 久久久国产精品麻豆| 亚洲精品av麻豆狂野| 成年人免费黄色播放视频| 黄片播放在线免费| 人妻一区二区av| 搡老乐熟女国产| 熟女av电影| 国产高清videossex| 亚洲精品久久成人aⅴ小说| xxx大片免费视频| 91成人精品电影| 成人国语在线视频| 丁香六月天网| 久久久久久亚洲精品国产蜜桃av| 狠狠精品人妻久久久久久综合| 波多野结衣一区麻豆| 999精品在线视频| 成人黄色视频免费在线看| 亚洲av综合色区一区| 香蕉国产在线看| 另类精品久久| 亚洲人成电影观看| 麻豆乱淫一区二区| 亚洲人成电影观看| 一区二区av电影网| 亚洲精品成人av观看孕妇| 日韩人妻精品一区2区三区| 亚洲国产精品成人久久小说| 国产成人精品无人区| 老司机亚洲免费影院| 在线看a的网站| 下体分泌物呈黄色| 人成视频在线观看免费观看| 精品福利观看| 一级片免费观看大全| 一级黄色大片毛片| 欧美亚洲 丝袜 人妻 在线| 韩国高清视频一区二区三区| 汤姆久久久久久久影院中文字幕| 国产精品一区二区精品视频观看| 亚洲黑人精品在线| 97人妻天天添夜夜摸| 丝袜人妻中文字幕| 国产精品国产三级国产专区5o| 亚洲五月婷婷丁香| 久久久久久免费高清国产稀缺| 男人操女人黄网站| 婷婷成人精品国产| 69精品国产乱码久久久| 少妇粗大呻吟视频| 久久精品久久久久久噜噜老黄| av线在线观看网站| 色婷婷av一区二区三区视频| 亚洲少妇的诱惑av| 老司机午夜十八禁免费视频| 亚洲av成人不卡在线观看播放网 | 又大又黄又爽视频免费| 伊人久久大香线蕉亚洲五| 日韩一卡2卡3卡4卡2021年| 国产亚洲av片在线观看秒播厂| 最新在线观看一区二区三区 | 51午夜福利影视在线观看| 老司机深夜福利视频在线观看 | 亚洲激情五月婷婷啪啪| 亚洲专区国产一区二区| 亚洲av国产av综合av卡| 亚洲成人免费电影在线观看 | 亚洲欧美精品综合一区二区三区| 婷婷色麻豆天堂久久| 在线观看www视频免费| 日本午夜av视频| 男女午夜视频在线观看| 日韩av免费高清视频| 考比视频在线观看| 青青草视频在线视频观看| 国产精品.久久久| 欧美人与性动交α欧美软件| 男的添女的下面高潮视频| 性色av一级| 美女主播在线视频| 女人高潮潮喷娇喘18禁视频| 精品久久蜜臀av无| 80岁老熟妇乱子伦牲交| 黄色怎么调成土黄色| 国产精品九九99| 亚洲精品国产av成人精品| 欧美在线一区亚洲| 狂野欧美激情性bbbbbb| 欧美精品一区二区免费开放| 欧美亚洲日本最大视频资源| 久久这里只有精品19| 欧美精品高潮呻吟av久久| √禁漫天堂资源中文www| 亚洲国产精品999| 91精品伊人久久大香线蕉| 亚洲九九香蕉| 国产精品99久久99久久久不卡| 只有这里有精品99| 三上悠亚av全集在线观看| 亚洲av男天堂| avwww免费| 我的亚洲天堂| 免费高清在线观看日韩| 丝袜脚勾引网站| 久9热在线精品视频| 十八禁高潮呻吟视频| 色综合欧美亚洲国产小说| 国产不卡av网站在线观看| 黄色怎么调成土黄色|