• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    矩陣型多類代價敏感分類器模型

    2016-10-29 01:02:28華東理工大學(xué)計(jì)算機(jī)科學(xué)與工程系上海200237
    關(guān)鍵詞:代價正確率分類器

    孟 蕓, 王 喆(華東理工大學(xué)計(jì)算機(jī)科學(xué)與工程系,上海 200237)

    矩陣型多類代價敏感分類器模型

    孟 蕓, 王 喆
    (華東理工大學(xué)計(jì)算機(jī)科學(xué)與工程系,上海 200237)

    目前大部分分類器都是以分類正確率來衡量性能,這種評價標(biāo)準(zhǔn)都是基于理想情況下所有錯誤分類代價都是相同的。但實(shí)際生活中往往不同的錯誤分類會帶來不同的損失,因此代價敏感學(xué)習(xí)成為模式識別中一個熱點(diǎn)研究領(lǐng)域。本文將代價敏感思想與矩陣型學(xué)習(xí)機(jī)相結(jié)合,提出了一個矩陣型多類代價敏感分類器模型。通過與其他分類器在常用數(shù)據(jù)集上的對比實(shí)驗(yàn)證明,該方法降低了錯誤分類代價,提高了少數(shù)類或代價高類別的分類正確率,并可以在有效次內(nèi)收斂,是一個有效且實(shí)用的方法。

    模式識別;代價敏感;分類器設(shè)計(jì)

    分類器設(shè)計(jì)是機(jī)器學(xué)習(xí)和模式識別領(lǐng)域重要的一部分。目前大多數(shù)分類模型都側(cè)重于使用分類正確率來衡量一個算法的性能,并默認(rèn)這種評價標(biāo)準(zhǔn)都是基于所有錯誤分類代價是相同的。但是實(shí)際生活中的分類問題,數(shù)據(jù)錯誤分類代價往往不相等[1-2]。比如,在門禁系統(tǒng)的家庭成員識別問題上,將一個家庭成員識別錯誤使其不能進(jìn)入引起的代價遠(yuǎn)遠(yuǎn)小于將一個不屬于家庭成員的陌生人誤識別使其進(jìn)入房屋帶來的損失。對于這類錯誤分類代價不同的情況,如在信用卡欺詐檢測、醫(yī)療、網(wǎng)絡(luò)入侵檢測等領(lǐng)域,僅使用傳統(tǒng)的代價不敏感分類器并不能達(dá)到很好的分類效果[3]。而代價敏感學(xué)習(xí)的目標(biāo)就是通過最小化錯誤分類總代價做出最優(yōu)決策,因此,將代價敏感思想引入到分類器設(shè)計(jì)中具有十分深遠(yuǎn)的意義[4]。

    本文提出了一種新型的代價敏感學(xué)習(xí)模型——矩陣型多類代價敏感分類器(Cs Mc Mat MHKS),實(shí)驗(yàn)表明,該方法與矩陣型多類代價不敏感的Mc Mat MHKS分類器相比,有效地降低了錯誤分類總代價并提高了少數(shù)類的分類正確率。

    1 代價敏感學(xué)習(xí)

    1.1代價敏感研究現(xiàn)狀

    代價敏感學(xué)習(xí)方法是機(jī)器學(xué)習(xí)中的一種新方法,不同于傳統(tǒng)分類方法盡可能降低錯誤分類率,它主要是將各類不同的誤分代價引進(jìn)到分類決策中以降低錯誤分類的總體代價[3-5]。目前,代價敏感學(xué)習(xí)算法的研究主要集中在以下幾個方面:

    (1)基于重采樣的方法,也叫重構(gòu)訓(xùn)練集的方法。根據(jù)代價矩陣改變原始樣本分布重構(gòu)訓(xùn)練集,再結(jié)合一種基于最小錯誤率的分類方法進(jìn)行訓(xùn)練并分類[6]。通過不同的采樣方法,如過采樣、欠采樣或者兩者結(jié)合的形式[7]將分布不平衡的訓(xùn)練數(shù)據(jù)調(diào)整為均勻分布的數(shù)據(jù)。過采樣是通過隨機(jī)復(fù)制或者其他方式生成少數(shù)類樣本,改變訓(xùn)練集樣本中的分布,達(dá)到樣本類別的均衡,也可以根據(jù)代價信息過采樣樣本。過采樣的缺點(diǎn)是會增加額外的信息或噪聲,不一定能達(dá)到一個較好的結(jié)果。欠采樣既也是改變訓(xùn)練集眾數(shù)據(jù)分布使各類樣本達(dá)到平衡,與過采樣不同的是,它通過降低低代價樣本數(shù)目來達(dá)到目的,同時,這種方式會損失一部分可能攜帶重要信息的樣本,對分類造成不必要的影響。而混合采樣則是把兩者結(jié)合起來以求更佳效果的方法,實(shí)驗(yàn)證明,混合采樣繼承了過采樣與欠采樣的優(yōu)點(diǎn),又盡量避免了它們的缺點(diǎn),已被廣泛采用。

    (2)基于對分類結(jié)果的后處理,即按照傳統(tǒng)學(xué)習(xí)方法學(xué)習(xí)一個分類模型,然后對分類結(jié)果按照貝葉斯風(fēng)險理論進(jìn)行調(diào)整,以達(dá)到損失最小。較為著名的MetaCost方法[8]是一個將普通分類器轉(zhuǎn)化為代價敏感分類器的最普遍方法,它不依賴于所使用的具體分類器,對分類算法不作改變,經(jīng)過多次取樣,把訓(xùn)練集分為多個子模型訓(xùn)練多個分類器,綜合各個分類器給出的分類結(jié)果估計(jì)樣本的后驗(yàn)概率,再計(jì)算錯誤分類總代價[9-10],根據(jù)最小代價修改類標(biāo)號。MetaCost方法主要有兩個方面的缺點(diǎn):一是對訓(xùn)練集進(jìn)行重新標(biāo)記,再利用數(shù)據(jù)集來反映代價敏感性的有效性還需進(jìn)一步驗(yàn)證[1];二是不能準(zhǔn)確地對后驗(yàn)概率進(jìn)行估計(jì)。

    (3)直接構(gòu)造一個代價敏感的學(xué)習(xí)模型或者修改已有的分類算法,將代價的影響嵌入到?jīng)Q策的過程[10-11]。最常用的方法有可以直接處理樣本權(quán)重的決策樹、代價敏感人工神經(jīng)網(wǎng)絡(luò)和代價敏感支持向量機(jī)等[12-14]。如神經(jīng)網(wǎng)絡(luò),有多種方法可以使神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)化為代價敏感算法,如得到測試樣的后驗(yàn)概率,再使用貝葉斯風(fēng)險決策,或者改變輸出層每次迭代時的輸出,使其代價敏感等。文獻(xiàn)[15-16]用指數(shù)形式表示的極值問題替換用符號函數(shù)表示的錯誤分類代價極值問題,結(jié)合遞推得到了可以直接應(yīng)用于多分類問題的代價敏感學(xué)習(xí)的AdaBoost算法。

    1.2矩陣型多類分類模型

    面向矩陣的修正Ho-Kashyap分類器(Mat MHKS)[17]是一種可以直接處理矩陣模式的分類器,目前這個方法僅基于兩類情況設(shè)計(jì),在多分類問題上使用“一對一”策略實(shí)現(xiàn),時間復(fù)雜度較大。矩陣型多類分類器Mc Mat MHKS是一種直接多類矩陣型分類器[18],在實(shí)際的多類分類問題上,傳統(tǒng)的二元分類器將多類分類問題分解成多個兩類分類子問題,通過綜合各個子分類器的分類結(jié)果得出最終決策,而Mc Mat MHKS則是直接得出最后的分類結(jié)果,相比于傳統(tǒng)的兩類分類方法,直接法與矩陣化思想的結(jié)合,在保持了數(shù)據(jù)分類精度的同時也降低了分類的時間復(fù)雜度。

    2 矩陣型多類代價敏感分類器Cs Mc Mat MHKS

    本文中代價矩陣的設(shè)置采用常用的基于類別的代價敏感,即每一類樣本被錯誤分類所帶來的代價相等,而不同類別之間不相等[19-20]。假設(shè)C(i,j)為代價矩陣,行表示類別,列表示預(yù)測類別,Cij表示第i類樣本被錯誤分類為第j類樣本的代價。為了方便計(jì)算,對每一樣本采用以式(1)表示的這一類樣本被錯誤分類的代價,這一類的每個樣本被錯誤分類的代價相同[5,13,21],即

    Mc Mat MHKS的判別函數(shù)如下:

    單純地把樣本代價嵌入判別函數(shù)使代價參與決策面偏移,經(jīng)實(shí)驗(yàn)證明結(jié)果會根據(jù)代價的設(shè)置不同而比較隨機(jī)?,F(xiàn)設(shè)計(jì)加入樣本權(quán)重系數(shù),其與樣本錯誤分類代價成反比,如式(3)所示。即當(dāng)一類樣本被分錯的風(fēng)險對總體分類結(jié)果影響較大時,可能會過擬合,我們試圖減小各樣本錯誤分類誤差在總體中的比重來均衡各樣本對分類結(jié)果的總體貢獻(xiàn),以期獲得分類代價和推廣能力能達(dá)到一種平衡[1,5-6]。

    根據(jù)公式以及代價矩陣為每一樣本設(shè)置權(quán)重系數(shù),同一類別的樣本權(quán)重系數(shù)相同[22]。對于判別函數(shù)式(2),可以通過轉(zhuǎn)換為最小化總分類風(fēng)險求得判別函數(shù)中權(quán)向量的最優(yōu)解。

    Cs Mc Mat MHKS的準(zhǔn)則函數(shù)由經(jīng)驗(yàn)風(fēng)險和結(jié)構(gòu)風(fēng)險兩部分組成。

    其中加入權(quán)重系數(shù)ω后的經(jīng)驗(yàn)風(fēng)險Remp計(jì)算如下:

    正則化風(fēng)險Rreg計(jì)算如下:

    式中:r為正則化系數(shù);S1和S2是兩個單位矩陣,S1=(d1+1)Id1×d1,S2=(d2+1)Id2×d2。

    可以看出,當(dāng)所有樣本錯誤分類代價相同時,由式(3)可知,Ci/Cj=1。同時各樣本權(quán)重系數(shù)比例一致,ωi=ωj,即當(dāng)系數(shù)都為1時,判別函數(shù)式(2)就是代價不敏感的Mc Mat MHKS,因此本文方法也是對Mc Mat MHKS的擴(kuò)展。

    將式(5)、式(6)代入到式(4)可以得到

    在分類器最終決策階段,假設(shè)一個訓(xùn)練數(shù)據(jù)(Ai,yi),把它判為第j類,應(yīng)當(dāng)滿足式(10)。

    Cs Mc Mat MHKS算法步驟如下:

    (1)根據(jù)樣本每一類別樣本數(shù)目,設(shè)置代價矩陣C;根據(jù)式(3)設(shè)置樣本的權(quán)重系數(shù)ωi,同一類別樣本的權(quán)重系數(shù)相同。

    3 實(shí) 驗(yàn)

    3.1實(shí)驗(yàn)設(shè)置

    實(shí)驗(yàn)過程中,代價矩陣是自定義的,為了證明不同代價矩陣情況下算法的有效性,設(shè)置了兩種不同的代價矩陣進(jìn)行實(shí)驗(yàn)。本文采用的數(shù)據(jù)集來自UCI基準(zhǔn)數(shù)據(jù)集[23]中常用的兩個平衡數(shù)據(jù)集Banana和Water,以及不平衡數(shù)據(jù)集Breast Cancer Wisconsin (BCW)、Ionosphere和Ecoli。表1示出了各數(shù)據(jù)集的具體相關(guān)信息,表2示出了具體的代價設(shè)置。

    表1 數(shù)據(jù)集具體信息Table 1 Information of the datasets

    實(shí)驗(yàn)中設(shè)定數(shù)據(jù)集中的一半數(shù)據(jù)用于訓(xùn)練,另一半用于測試。正則化系數(shù)來自集合{10-3,10-2,10-1,1,10,102}。對比算法來自同一分類器家族,分別是本文方法Cs Mc Mat MHKS、Cost-blind Mc Mat MHKS、面向矩陣的修正Ho-Kashyap分類器(Mat MHKS)和修正Ho-Kashyap分類器(MHKS)[17]。針對UCI數(shù)據(jù)形式,同時也將向量型樣本轉(zhuǎn)換成多個矩陣型數(shù)據(jù)并從中選擇最優(yōu)的表示形式。例如BCW樣本維度為10,則轉(zhuǎn)化為矩陣形式有1×10,2×5,5×2和10×1共4種,其他數(shù)據(jù)集進(jìn)行同樣處理。因數(shù)據(jù)集不同,每個對應(yīng)的預(yù)設(shè)代價矩陣也不相同,遵循的基本規(guī)則是不平衡數(shù)據(jù)集中少數(shù)類樣本被錯誤分類代價高于多數(shù)類樣本代價,而平衡數(shù)據(jù)集中根據(jù)類別可隨機(jī)自定義。實(shí)驗(yàn)過程中,采用10輪Monte Carlo交叉驗(yàn)證(MCCV)[24],即每一個參數(shù)重復(fù)10次實(shí)驗(yàn),最終求得平均值,以保證實(shí)驗(yàn)的準(zhǔn)確度。MCCV與一般的交叉驗(yàn)證不同的是,每次循環(huán)它從整個數(shù)據(jù)集中無放回的選擇數(shù)據(jù)構(gòu)建訓(xùn)練集,剩余的做測試集,這樣能夠保證訓(xùn)練測試集都是有變化的并且每個劃分不重復(fù)。MCCV能夠避免訓(xùn)練規(guī)模過大,減少過擬合,因此,選用MCCV來驗(yàn)證本文方法的穩(wěn)定性和可信性。對于不平衡數(shù)據(jù)集,單純的分類正確率并不能很好地評估分類器性能,因此在不平衡數(shù)據(jù)集上采用了常用的G-means[25]作為評價標(biāo)準(zhǔn)。

    表2 各數(shù)據(jù)集對應(yīng)錯誤分類代價比例設(shè)置的代價矩陣(第1類/第2類/…/第n類)Table 2 Settings of cost matrix on the datasets(Costclass1/ Costclass2/…/Costclass n)

    其中:Ri表示每一類的分類正確率;k表示類別總數(shù)。

    3.2實(shí)驗(yàn)結(jié)果

    表3和表4示出了代價敏感Cs Mc Mat MHKS (Cs)、代價不敏感Cost-blind Mc Mat MHKS(Cb)、Mat MHKS和MHKS在4個數(shù)據(jù)集Banana、Water、BCW和Ionosphere上的實(shí)驗(yàn)結(jié)果,評價指標(biāo)包括分類總代價SumCost、G-means、分類正確率,并列出了達(dá)到最優(yōu)結(jié)果時對應(yīng)的矩陣表示形式和正則化系數(shù)r的值,其中分類總代價最低的算法數(shù)據(jù)用黑體表示,G-means最高的值以下劃線標(biāo)出。圖1示出了Cs與Cb在Ecoli數(shù)據(jù)集上各類別的分類正確率對比結(jié)果。

    本文在Banana和Ecoli數(shù)據(jù)集上對式(7)進(jìn)行了收斂性分析,收斂曲線如圖2所示。圖2中橫坐標(biāo)表示迭代次數(shù),縱坐標(biāo)表示目標(biāo)函數(shù)的對數(shù)值。

    表3 第1種代價矩陣下Cs,Cb,Mat MHKS,MHKS在4個數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果Table 3 Experimental results of Cs,Cb,Mat MHKS and MHKS on Banana,Water,BCW and Ionosphere

    表4 第2種代價矩陣下Cs,Cb,Mat MHKS,MHKS在4個數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果Table 4 Experimental results of Cs,Cb,Mat MHKS and MHKS on Banana,Water,BCW and Ionosphere

    圖1 Cs和Cb在Ecoli上每一類對應(yīng)的分類正確率Fig.1 Accuracy of Cs Mc Mat MHKS and Cost-blind Mc Mat MHKS on Ecoli classes

    圖2 Cs在Banana和Ecoli上的收斂曲線Fig.2 Convergence analysis of Cs Mc Mat MHKS on Banana and Ecoli

    3.3實(shí)驗(yàn)結(jié)果分析

    從表3和表4中可以看出:

    (1)本文方法在大部分?jǐn)?shù)據(jù)集上與代價不敏感的Mc Mat MHKS、Mat MHKS和MHKS相比達(dá)到了最小錯誤分類總代價,尤其是當(dāng)樣本類別之間的代價比例差別變大時,效果更為明顯。例如,Banana數(shù)據(jù)集在第1種代價比為1/2時,本文方法與最大錯誤分類代價之差為10.80,而在第2種代價比為1/5時,本文方法與最大錯誤分類代價之差為54。實(shí)驗(yàn)數(shù)據(jù)充分證明了代價敏感方法與其他方法相比,尤其是與代價不敏感原型相比,在降低分類總代價方面的有效性。

    (2)針對不平衡數(shù)據(jù)集BCW和Ionosphere的G-means評價指標(biāo),本文方法明顯好于Mc Mat MHKS,并且優(yōu)于或者與Mat MHKS、MHKS相當(dāng)。例如表4中,在Ionosphere上的G-means值約為Mc Mat MHKS的兩倍。G-means值的提高表明代價敏感模型在少數(shù)類或者代價高的類別上的分類正確率有提升。

    (3)從實(shí)驗(yàn)數(shù)據(jù)上看,矩陣形式不盡相同。有的在向量型數(shù)據(jù)上表現(xiàn)良好,有的在矩陣型數(shù)據(jù)上表現(xiàn)良好。這充分說明,針對最原始的向量型數(shù)據(jù)進(jìn)行不同的矩陣變換是十分必要的。

    (4)從圖1中可以看到,Cs Mc Mat MHKS在Ecoli除第7、8類因僅有一個測試樣本而數(shù)量太少影響不大外,其他多數(shù)類與少數(shù)類上的分類正確率均有所提高。

    (5)從圖2中可以看到本文方法均在有效次內(nèi)收斂,證明了該算法具有較好的學(xué)習(xí)效率。

    4 結(jié)束語

    針對大多數(shù)實(shí)際問題中不同的分類會帶來不同的損失,本文將代價敏感思想和相較于傳統(tǒng)向量型學(xué)習(xí)機(jī)有更優(yōu)性能的矩陣型學(xué)習(xí)機(jī)相結(jié)合,提出了矩陣型多類代價敏感分類器Cs Mc Mat MHKS。與代價不敏感的原型以及同一家族的分類器在數(shù)據(jù)集上的對比實(shí)驗(yàn)證明,本文方法可以有效降低錯誤分類總代價并提高分類器在少數(shù)類或者代價較高類別上的分類正確率,且可以快速收斂。實(shí)驗(yàn)證明,本文方法有著較優(yōu)的分類性能,是一個有效且實(shí)用的模型。

    [1] ZHANG Yin,ZHOU Zhihua.Cost-sensitive face recognition [J].IEEE Transactions on Pattern Analysis and Machine Intelligence,2010,32(10):1758-1769.

    [2] 葉志飛,文益民,呂寶糧.不平衡分類問題研究綜述[J].智能系統(tǒng)學(xué)報(bào),2009,4(2):148-156.

    [3] 楊明,尹軍梅,吉根林.不平衡數(shù)據(jù)分類方法綜述[J].南京師范大學(xué)學(xué)報(bào)(工程技術(shù)版),2009,8(4):7-12.

    [4] LI YUFENG,KWOK JAMES T,ZHOU Zhihua.Costsensitive semi-supervised support vector machine[C]// Proceedings of the National Conference on Artificial Intelligence.Atlanta,Georgia,USA:DBLP,2010:500-505.

    [5] SAHARE M,GUPTA H.A review of multi-class classification for imbalanced data[J].International Journal of Advanced Computer Research,2012,2(3):160-164.

    [6] 谷瓊,袁磊,寧彬,等.一種基于重取樣的代價敏感學(xué)習(xí)算法[J].計(jì)算機(jī)工程與科學(xué),2011,33(9):130-135.

    [7] 程險峰,李軍,李雄飛.一種基于欠采樣的不平衡數(shù)據(jù)分類算法[J].計(jì)算機(jī)工程,2011,37(13):147-149.

    [8] DOMINGOS P.Metacost:A general method for making classifiers cost-sensitive[C]//Proceedings of the Fifth ACM SIGKDD International Conference on Knowledge Discovery and Data Mining.USA:ACM,1999:155-164.

    [9] 凌曉峰,SHENG VICTOR S.代價敏感分離器的比較研究[J].計(jì)算機(jī)學(xué)報(bào),2007,30(8):1203-1211.

    [10] 閆明松,周志華.代價敏感分類算法的實(shí)驗(yàn)比較[J].模式識別與人工智能,2006,18(5):628-635.

    [11] 王瑞.針對類別不平衡和代價敏感分類問題的特征選擇和分類算法[D].合肥:中國科學(xué)技術(shù)大學(xué),2013.

    [12] 程學(xué)云,吉根林,凌霄漢.基于SVM的多類代價敏感學(xué)習(xí)及其應(yīng)用[J].南京師范大學(xué)學(xué)報(bào)(工程技術(shù)版),2007,6(4):79-82.

    [13] 李剛.代價敏感的支持向量機(jī)監(jiān)督學(xué)習(xí)研究[D].南京:南京師范大學(xué),2007.

    [14] ZHOU Zhihua,ZHANG Minling,HUANG Shengjun,et al. Multi-instance multi-label learning[J].Artificial Intelligence,2012,176(1):2291-2320.

    [15] 付忠良.多分類問題代價敏感AdaBoost算法[J].自動化學(xué)報(bào),2011,37(8):973-983.

    [16] 付忠良.多標(biāo)簽代價敏感分類集成學(xué)習(xí)算法[J].自動化學(xué)報(bào),2014,40(6):1075-1085.

    [17] CHEN Songcan,WANG Zhe,TIAN Yongjun.Matrixpattern-oriented Ho-Kashyap classifier with regularization learning[J].Pattern Recognition,2005,40(5):1533-1543.

    [18] WANG Zhe,MENG Yun,ZHU Yujin,et al.Mc Mat MHKS:A direct multi-class matrixized learning machine[J]. Knowledge-Based Systems,2015,88:184-194.

    [19] 李勇,劉戰(zhàn)東,張海軍.不平衡數(shù)據(jù)的集成分類算法綜述[J].計(jì)算機(jī)應(yīng)用研究,2014,31(5):1287-1291.

    [20] RAUDYS S,RAUDYS A.Pairwise costs in multiclass perceptrons[J].IEEE Transactions on Pattern Analysis and Machine Intelligence,2010,32(7):1324-1328.

    [21] LU Jiwen,ZHOU Xiuzhuang,TAN Yap-Peng,et al.Costsensitive semi-supervised discriminant analysis for face recognition[J].IEEE Transactions on Information Forensics and Security,2012,7(3):944-953.

    [22] TING Kaiming.An instance-weighting method to induce costsensitive trees[J].IEEE Transactions on Knowledge and Data Engineering,2002,14(3):659-665.

    [23] ASUNCION A,NEWMAN D.UCI machine learning repository[D].California:University of California Irvine of Information and Computer,2007:148-156.

    [24] XU Qingsong,LIANG Yizeng.Monte Carlo cross validation [J].Chemometrics and Intelligent Laboratory Systems,2001,56(1):1-11.

    [25] WANG Shuo,YAO Xin.Multiclass imbalance problems:Analysis and potential solutions[J].IEEE Transactions on Systems,Man,and Cybernetics,Part B:Cybernetics,2012,42 (4):1119-1130.

    Matrixized Multi-class Cost Sensitive Classification Mode

    MENG Yun, WANG Zhe
    (Department of Computer Science and Engineering,East China University of Science and Technology,Shanghai 200237,China)

    At present,most of the classifiers are evaluated by classification accuracy,which assumes that all the misclassification costs are the same.Actually,different misclassification may bring different loss.Therefore,the cost sensitive learning has been becoming a hot research area in pattern recognition.By combining the cost sensitive and matrixized learning thoughts,this paper proposes a matrixized multi-class cost sensitive classification mode.The experimental results on the data show that the proposed method can reduce the classification costs and improve the classification accuracy of the minority or higher cost classes. Meanwhile,the proposed method has a better convergence,which illustrates the effectiveness and practice of the proposed method.

    pattern recognition;cost sensitive;classifier design

    TP391

    A

    1006-3080(2016)01-0119-06 DOI:10.14135/j.cnki.1006-3080.2016.01.019

    2015-05-07

    國家自然科學(xué)基金面上項(xiàng)目(61272198);上海市教育委員會科研創(chuàng)新項(xiàng)目(14ZZ054);中央高?;究蒲袠I(yè)務(wù)費(fèi)專項(xiàng)資金

    孟 蕓(1990-),女,河北保定人,碩士生,研究方向?yàn)槟J阶R別。E-mail:mengyun_aijia@126.com

    王 喆,E-mail:wangzhe@ecust.edu.cn

    猜你喜歡
    代價正確率分類器
    門診分診服務(wù)態(tài)度與正確率對護(hù)患關(guān)系的影響
    BP-GA光照分類器在車道線識別中的應(yīng)用
    電子測試(2018年1期)2018-04-18 11:52:35
    愛的代價
    海峽姐妹(2017年12期)2018-01-31 02:12:22
    代價
    生意
    品管圈活動在提高介入手術(shù)安全核查正確率中的應(yīng)用
    加權(quán)空-譜與最近鄰分類器相結(jié)合的高光譜圖像分類
    結(jié)合模糊(C+P)均值聚類和SP-V-支持向量機(jī)的TSK分類器
    生意
    故事會(2016年15期)2016-08-23 13:48:41
    成熟的代價
    飞空精品影院首页| 国产精品国产三级国产专区5o| 日韩不卡一区二区三区视频在线| 一本—道久久a久久精品蜜桃钙片| 熟女少妇亚洲综合色aaa.| 最近中文字幕高清免费大全6| 精品久久蜜臀av无| 国产精品亚洲av一区麻豆 | 欧美精品人与动牲交sv欧美| 国产免费福利视频在线观看| 侵犯人妻中文字幕一二三四区| a级毛片黄视频| 国产白丝娇喘喷水9色精品| 亚洲男人天堂网一区| 久久久久久久久久久免费av| 国产精品成人在线| 国产免费现黄频在线看| av免费观看日本| 免费久久久久久久精品成人欧美视频| 午夜日韩欧美国产| 97精品久久久久久久久久精品| 国产男女内射视频| 国产精品av久久久久免费| 人人澡人人妻人| 在线观看免费日韩欧美大片| 日韩电影二区| 看十八女毛片水多多多| www日本在线高清视频| 18禁裸乳无遮挡动漫免费视频| 亚洲天堂av无毛| 日韩一本色道免费dvd| 亚洲男人天堂网一区| 欧美在线黄色| 亚洲国产精品国产精品| 女人被躁到高潮嗷嗷叫费观| 少妇熟女欧美另类| 中文乱码字字幕精品一区二区三区| 久久久久久久精品精品| 熟女少妇亚洲综合色aaa.| 欧美精品国产亚洲| 国产亚洲欧美精品永久| 亚洲精品乱久久久久久| 中文字幕精品免费在线观看视频| 一级爰片在线观看| 精品国产露脸久久av麻豆| 最新中文字幕久久久久| 好男人视频免费观看在线| 纯流量卡能插随身wifi吗| 高清视频免费观看一区二区| av在线观看视频网站免费| 有码 亚洲区| 免费日韩欧美在线观看| 久久国产精品男人的天堂亚洲| 国产av精品麻豆| 亚洲美女视频黄频| 人妻人人澡人人爽人人| 精品视频人人做人人爽| 亚洲激情五月婷婷啪啪| 9色porny在线观看| 久久久久久人妻| 捣出白浆h1v1| 少妇人妻 视频| 久久97久久精品| 国产精品国产三级国产专区5o| h视频一区二区三区| 亚洲av日韩在线播放| 国产精品亚洲av一区麻豆 | 少妇精品久久久久久久| 亚洲,欧美,日韩| 欧美在线黄色| 国产女主播在线喷水免费视频网站| 亚洲av成人精品一二三区| 啦啦啦中文免费视频观看日本| 精品国产超薄肉色丝袜足j| 国产成人午夜福利电影在线观看| 一区在线观看完整版| 9色porny在线观看| 欧美成人午夜免费资源| 国产av精品麻豆| 99热网站在线观看| 免费日韩欧美在线观看| 蜜桃在线观看..| 日韩人妻精品一区2区三区| 亚洲国产欧美在线一区| 狂野欧美激情性bbbbbb| 午夜福利,免费看| 高清黄色对白视频在线免费看| 日本免费在线观看一区| 国产在线视频一区二区| 亚洲伊人色综图| 亚洲图色成人| 亚洲国产成人一精品久久久| 久久国内精品自在自线图片| 人人澡人人妻人| 夫妻午夜视频| 大片电影免费在线观看免费| 日韩中文字幕欧美一区二区 | 精品亚洲成a人片在线观看| 欧美最新免费一区二区三区| 亚洲国产欧美在线一区| 麻豆精品久久久久久蜜桃| 久久久欧美国产精品| 日韩av在线免费看完整版不卡| 欧美另类一区| 国产成人欧美| 亚洲成色77777| 搡女人真爽免费视频火全软件| 午夜福利视频精品| 免费少妇av软件| 国产福利在线免费观看视频| 久久久久人妻精品一区果冻| 女的被弄到高潮叫床怎么办| 免费观看在线日韩| 制服人妻中文乱码| 在线亚洲精品国产二区图片欧美| 狠狠婷婷综合久久久久久88av| av片东京热男人的天堂| 人妻少妇偷人精品九色| 看免费成人av毛片| 久久久久视频综合| 久久久精品区二区三区| 免费高清在线观看日韩| av网站在线播放免费| 亚洲欧美一区二区三区国产| 久久亚洲国产成人精品v| 91国产中文字幕| 天美传媒精品一区二区| av在线老鸭窝| 街头女战士在线观看网站| 久久青草综合色| 久久久久久人妻| 在线天堂最新版资源| 欧美日韩亚洲国产一区二区在线观看 | 久久久欧美国产精品| 水蜜桃什么品种好| 最近的中文字幕免费完整| 侵犯人妻中文字幕一二三四区| 亚洲欧美日韩另类电影网站| 亚洲国产成人一精品久久久| 日韩视频在线欧美| 熟女av电影| 欧美最新免费一区二区三区| 边亲边吃奶的免费视频| 午夜av观看不卡| 美女国产视频在线观看| 各种免费的搞黄视频| 精品少妇久久久久久888优播| 国产精品蜜桃在线观看| 边亲边吃奶的免费视频| 国产成人免费无遮挡视频| 国产亚洲av片在线观看秒播厂| 寂寞人妻少妇视频99o| 国产亚洲午夜精品一区二区久久| 日韩一区二区三区影片| 夫妻性生交免费视频一级片| 一级毛片电影观看| 日日啪夜夜爽| 亚洲精品视频女| 黄色怎么调成土黄色| 亚洲少妇的诱惑av| 国产精品国产三级专区第一集| 黄色怎么调成土黄色| 亚洲av在线观看美女高潮| 日本-黄色视频高清免费观看| 欧美中文综合在线视频| 在线亚洲精品国产二区图片欧美| 交换朋友夫妻互换小说| 国产1区2区3区精品| av在线老鸭窝| 哪个播放器可以免费观看大片| 色播在线永久视频| 国产免费又黄又爽又色| 男人操女人黄网站| 美女国产高潮福利片在线看| 黄色配什么色好看| 大片电影免费在线观看免费| 久久久久久久国产电影| 男女边摸边吃奶| 天美传媒精品一区二区| 男女无遮挡免费网站观看| 汤姆久久久久久久影院中文字幕| 性色avwww在线观看| 日韩一区二区视频免费看| 一区二区三区精品91| 一二三四中文在线观看免费高清| 久久精品熟女亚洲av麻豆精品| 超色免费av| 一二三四中文在线观看免费高清| 少妇的逼水好多| 69精品国产乱码久久久| 亚洲国产精品成人久久小说| 看十八女毛片水多多多| 国产人伦9x9x在线观看 | 久久久久久伊人网av| 美国免费a级毛片| 欧美精品高潮呻吟av久久| 1024视频免费在线观看| 人妻人人澡人人爽人人| 日本黄色日本黄色录像| 国产激情久久老熟女| 香蕉精品网在线| 精品国产乱码久久久久久男人| 国产高清国产精品国产三级| 久久久久久人妻| av.在线天堂| 搡老乐熟女国产| 新久久久久国产一级毛片| 日产精品乱码卡一卡2卡三| 嫩草影院入口| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 亚洲欧美精品综合一区二区三区 | 亚洲内射少妇av| 久久久久久久大尺度免费视频| 在线看a的网站| 日韩成人av中文字幕在线观看| 久久国产精品男人的天堂亚洲| 亚洲熟女精品中文字幕| 国产 精品1| 性高湖久久久久久久久免费观看| 在线观看国产h片| 日本91视频免费播放| 91国产中文字幕| 超碰成人久久| 九草在线视频观看| 国产精品三级大全| 国产野战对白在线观看| 视频区图区小说| 最近2019中文字幕mv第一页| 欧美日韩一区二区视频在线观看视频在线| 久久久久久久精品精品| 秋霞伦理黄片| 18禁裸乳无遮挡动漫免费视频| 国产精品久久久久久精品古装| 黄频高清免费视频| 99久久综合免费| 熟女av电影| 久久久久视频综合| 国产乱人偷精品视频| 国产极品天堂在线| 国产精品99久久99久久久不卡 | 亚洲一码二码三码区别大吗| 亚洲欧洲日产国产| 日本欧美国产在线视频| 精品亚洲成a人片在线观看| 岛国毛片在线播放| 精品国产乱码久久久久久小说| 色哟哟·www| 欧美国产精品va在线观看不卡| 丝袜喷水一区| 国产有黄有色有爽视频| 久久久久视频综合| 在现免费观看毛片| 久久狼人影院| 欧美精品一区二区大全| 熟女少妇亚洲综合色aaa.| a 毛片基地| 亚洲国产看品久久| 日韩av不卡免费在线播放| 有码 亚洲区| 三级国产精品片| 国产一区二区三区综合在线观看| 国产一区二区三区av在线| 久久久久久久精品精品| 18禁动态无遮挡网站| 一级毛片黄色毛片免费观看视频| 亚洲国产欧美网| 欧美激情 高清一区二区三区| 各种免费的搞黄视频| 18禁观看日本| 国产 一区精品| 国产成人aa在线观看| 九草在线视频观看| 国产97色在线日韩免费| 丰满少妇做爰视频| 久久久久久久国产电影| 在线精品无人区一区二区三| 美女主播在线视频| 色播在线永久视频| 国产成人精品一,二区| 亚洲精品aⅴ在线观看| 免费av中文字幕在线| 丰满饥渴人妻一区二区三| 欧美激情极品国产一区二区三区| 极品人妻少妇av视频| 亚洲av免费高清在线观看| 亚洲精品久久成人aⅴ小说| 一级,二级,三级黄色视频| 中国国产av一级| 三上悠亚av全集在线观看| 免费观看av网站的网址| 黑人猛操日本美女一级片| 久久久久久人人人人人| 国产白丝娇喘喷水9色精品| 美女xxoo啪啪120秒动态图| 巨乳人妻的诱惑在线观看| 精品一区二区三区四区五区乱码 | 国产成人av激情在线播放| 久久婷婷青草| 国产97色在线日韩免费| 精品亚洲成a人片在线观看| av福利片在线| 黄网站色视频无遮挡免费观看| 亚洲av欧美aⅴ国产| 亚洲综合精品二区| 久久精品人人爽人人爽视色| 国产免费视频播放在线视频| 精品酒店卫生间| 国产综合精华液| 精品人妻在线不人妻| 可以免费在线观看a视频的电影网站 | 欧美97在线视频| 少妇人妻久久综合中文| 黑人巨大精品欧美一区二区蜜桃| 久久久久精品久久久久真实原创| 欧美日韩亚洲高清精品| 69精品国产乱码久久久| 久久久久久人人人人人| 99热国产这里只有精品6| 国产亚洲一区二区精品| 欧美亚洲 丝袜 人妻 在线| 久久久久精品性色| 中文天堂在线官网| 五月天丁香电影| 欧美日韩一区二区视频在线观看视频在线| 婷婷色综合www| 国产成人精品在线电影| 国产精品久久久久久av不卡| 美女高潮到喷水免费观看| 久久久久久久精品精品| 久久鲁丝午夜福利片| 久久热在线av| 高清视频免费观看一区二区| 校园人妻丝袜中文字幕| 老汉色av国产亚洲站长工具| 免费观看性生交大片5| 亚洲男人天堂网一区| 久久午夜综合久久蜜桃| 亚洲精品一二三| 一级毛片电影观看| 蜜桃在线观看..| 丰满乱子伦码专区| 久久亚洲国产成人精品v| 免费av中文字幕在线| 在线观看免费视频网站a站| 又粗又硬又长又爽又黄的视频| 久久久国产欧美日韩av| 可以免费在线观看a视频的电影网站 | a级片在线免费高清观看视频| 国产精品 欧美亚洲| 午夜激情久久久久久久| 青春草视频在线免费观看| 少妇的丰满在线观看| 亚洲国产精品国产精品| 18禁裸乳无遮挡动漫免费视频| 涩涩av久久男人的天堂| 国产97色在线日韩免费| 天天影视国产精品| 国产男女内射视频| 热99久久久久精品小说推荐| 黑人欧美特级aaaaaa片| 国产一区二区三区综合在线观看| 午夜福利视频精品| 99国产综合亚洲精品| 精品卡一卡二卡四卡免费| 90打野战视频偷拍视频| 卡戴珊不雅视频在线播放| 捣出白浆h1v1| 一二三四中文在线观看免费高清| 亚洲人成77777在线视频| 久久青草综合色| 日韩,欧美,国产一区二区三区| xxxhd国产人妻xxx| 欧美激情极品国产一区二区三区| 丝袜美足系列| 欧美日韩一区二区视频在线观看视频在线| 热99国产精品久久久久久7| 亚洲av电影在线进入| 国产免费一区二区三区四区乱码| 欧美日韩一区二区视频在线观看视频在线| 女性被躁到高潮视频| 国产成人精品久久二区二区91 | 久久久久久免费高清国产稀缺| 久久99精品国语久久久| 亚洲av综合色区一区| 国产精品无大码| 欧美亚洲日本最大视频资源| 日韩中字成人| 十八禁高潮呻吟视频| 99久久中文字幕三级久久日本| 精品亚洲成国产av| 2018国产大陆天天弄谢| 亚洲精华国产精华液的使用体验| 搡老乐熟女国产| 亚洲国产精品999| 成人漫画全彩无遮挡| 国产毛片在线视频| 免费观看性生交大片5| 国产一区二区激情短视频 | 美女大奶头黄色视频| 水蜜桃什么品种好| 中文欧美无线码| 欧美亚洲日本最大视频资源| 精品国产乱码久久久久久小说| www.自偷自拍.com| 爱豆传媒免费全集在线观看| 日韩欧美一区视频在线观看| 精品第一国产精品| 免费大片黄手机在线观看| 国产av国产精品国产| av有码第一页| 又黄又粗又硬又大视频| 精品福利永久在线观看| 麻豆精品久久久久久蜜桃| 国产精品一国产av| 亚洲av在线观看美女高潮| 中国三级夫妇交换| 久久狼人影院| 两个人看的免费小视频| 看十八女毛片水多多多| 欧美 亚洲 国产 日韩一| 纵有疾风起免费观看全集完整版| 黄色视频在线播放观看不卡| 亚洲精品日韩在线中文字幕| 如何舔出高潮| 99久久中文字幕三级久久日本| 日本欧美视频一区| 国产片内射在线| 亚洲第一青青草原| 少妇猛男粗大的猛烈进出视频| 久久国产精品大桥未久av| 超碰成人久久| 2022亚洲国产成人精品| 黄网站色视频无遮挡免费观看| 国产熟女午夜一区二区三区| 亚洲精品一区蜜桃| 国产一区亚洲一区在线观看| 成人午夜精彩视频在线观看| 午夜免费鲁丝| 免费高清在线观看日韩| 下体分泌物呈黄色| 亚洲精品,欧美精品| 国产成人欧美| 成人国产av品久久久| 高清视频免费观看一区二区| av卡一久久| 免费观看av网站的网址| 侵犯人妻中文字幕一二三四区| 香蕉国产在线看| 国产深夜福利视频在线观看| 亚洲国产欧美在线一区| 久久亚洲国产成人精品v| 日日爽夜夜爽网站| 成年美女黄网站色视频大全免费| 亚洲av福利一区| 七月丁香在线播放| 国产精品国产三级国产专区5o| 丝袜美腿诱惑在线| 黄色怎么调成土黄色| 蜜桃在线观看..| 高清av免费在线| videos熟女内射| 又大又黄又爽视频免费| 久久精品久久久久久久性| 天天躁夜夜躁狠狠久久av| 欧美人与性动交α欧美软件| 色94色欧美一区二区| 我的亚洲天堂| 亚洲精品一二三| 一级毛片电影观看| 成年女人在线观看亚洲视频| 日韩三级伦理在线观看| 亚洲av在线观看美女高潮| 99热国产这里只有精品6| 18禁动态无遮挡网站| 亚洲天堂av无毛| 婷婷成人精品国产| 99热网站在线观看| av视频免费观看在线观看| 久久青草综合色| 欧美激情高清一区二区三区 | av线在线观看网站| 日本猛色少妇xxxxx猛交久久| 深夜精品福利| 亚洲欧美一区二区三区久久| 边亲边吃奶的免费视频| 久热久热在线精品观看| 十分钟在线观看高清视频www| 80岁老熟妇乱子伦牲交| 国产1区2区3区精品| 永久网站在线| 天堂俺去俺来也www色官网| 日韩伦理黄色片| 免费黄频网站在线观看国产| 伦理电影免费视频| 90打野战视频偷拍视频| 日韩 亚洲 欧美在线| 欧美日韩精品成人综合77777| 在线观看人妻少妇| 丰满迷人的少妇在线观看| 精品酒店卫生间| 国产老妇伦熟女老妇高清| 欧美精品一区二区免费开放| 97在线人人人人妻| 久久ye,这里只有精品| 国产在线免费精品| 久久久久精品性色| 日韩伦理黄色片| 美女午夜性视频免费| 两个人看的免费小视频| 一级毛片黄色毛片免费观看视频| 日韩中文字幕欧美一区二区 | av福利片在线| 美女午夜性视频免费| 天美传媒精品一区二区| 寂寞人妻少妇视频99o| 妹子高潮喷水视频| 99久久中文字幕三级久久日本| 免费看不卡的av| 精品卡一卡二卡四卡免费| 久久免费观看电影| 老熟女久久久| 欧美少妇被猛烈插入视频| 国产欧美亚洲国产| 亚洲国产精品成人久久小说| 欧美bdsm另类| 午夜免费观看性视频| 亚洲 欧美一区二区三区| 亚洲国产精品一区二区三区在线| 丝袜在线中文字幕| 中文精品一卡2卡3卡4更新| 在线精品无人区一区二区三| 免费日韩欧美在线观看| 成人手机av| 丝袜喷水一区| 黄色怎么调成土黄色| 欧美激情高清一区二区三区 | 女人久久www免费人成看片| 欧美国产精品va在线观看不卡| 亚洲色图 男人天堂 中文字幕| 国产精品久久久av美女十八| 精品少妇久久久久久888优播| 制服丝袜香蕉在线| 成人二区视频| 久久久久视频综合| 国产一区二区三区综合在线观看| 男人爽女人下面视频在线观看| 日产精品乱码卡一卡2卡三| av在线app专区| 久久ye,这里只有精品| 99国产综合亚洲精品| 激情视频va一区二区三区| 亚洲av男天堂| 亚洲久久久国产精品| 五月天丁香电影| 精品国产乱码久久久久久小说| 午夜福利乱码中文字幕| 国产免费视频播放在线视频| 亚洲精品自拍成人| 国产乱人偷精品视频| 国产一区二区 视频在线| 日本免费在线观看一区| 黄色 视频免费看| 亚洲av福利一区| 大香蕉久久网| 亚洲欧美日韩另类电影网站| 99久久中文字幕三级久久日本| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 尾随美女入室| 国产在视频线精品| 波多野结衣一区麻豆| 久久婷婷青草| 国产免费一区二区三区四区乱码| 国产精品成人在线| 久久国产精品男人的天堂亚洲| 黄色毛片三级朝国网站| 午夜日本视频在线| 国产亚洲精品第一综合不卡| 多毛熟女@视频| 亚洲成人av在线免费| 精品国产超薄肉色丝袜足j| 亚洲av福利一区| 女性生殖器流出的白浆| 欧美成人午夜精品| 日韩大片免费观看网站| 在线天堂中文资源库| 久久久久国产精品人妻一区二区| 99久久中文字幕三级久久日本| 精品人妻熟女毛片av久久网站| 国产片特级美女逼逼视频| 久久久久精品久久久久真实原创| 亚洲精华国产精华液的使用体验| 日本欧美国产在线视频| 日韩精品有码人妻一区| 国产精品国产av在线观看| 婷婷色综合www| 婷婷色综合大香蕉| 国产精品国产av在线观看| 国产精品久久久久成人av| 最新中文字幕久久久久| 欧美老熟妇乱子伦牲交| 在线 av 中文字幕| 国产一区二区在线观看av| 在线精品无人区一区二区三| 97人妻天天添夜夜摸| 日本vs欧美在线观看视频| 不卡视频在线观看欧美| 久久久久国产精品人妻一区二区| 亚洲精品乱久久久久久| 女人久久www免费人成看片| 建设人人有责人人尽责人人享有的| 啦啦啦在线观看免费高清www| 成人亚洲精品一区在线观看| 亚洲三区欧美一区| 亚洲内射少妇av| 丝袜美腿诱惑在线|