• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    不平衡數(shù)據(jù)分類預(yù)測的閾值優(yōu)化算法ε-KSVM

    2018-02-27 03:06:42葛國青趙永彬
    關(guān)鍵詞:超平面分類器遺傳算法

    金 鑫 葛國青 陸 旭 趙永彬

    1(中央財(cái)經(jīng)大學(xué) 北京 100081) 2(國網(wǎng)內(nèi)蒙古東部電力有限公司 內(nèi)蒙古 赤峰 024000) 3(國網(wǎng)遼寧省電力有限公司信息通信分公司 遼寧 沈陽 110006)

    0 引 言

    隨著網(wǎng)絡(luò)與企業(yè)信息化建設(shè)的發(fā)展,電力、醫(yī)療、金融等行業(yè)往往積累了海量的大數(shù)據(jù),為實(shí)現(xiàn)海量數(shù)據(jù)的核心價(jià)值,發(fā)現(xiàn)海量信息中的隱藏線索,基于大數(shù)據(jù)的全量數(shù)據(jù)挖掘技術(shù)得到快速發(fā)展。但在實(shí)際數(shù)據(jù)分析中,不平衡數(shù)據(jù)的分類問題普遍存在,如電力通信故障診斷、網(wǎng)絡(luò)入侵診斷和信用卡欺詐等。傳統(tǒng)分類問題中,最大化分類準(zhǔn)確率往往基于兩個(gè)假設(shè):1) 訓(xùn)練數(shù)據(jù)集中各類別樣本數(shù)目大致相等;2) 各類樣本的分類錯(cuò)誤代價(jià)大致相等[1]。但在大數(shù)據(jù)背景下,原先的簡化假設(shè)不再成立,采集全量數(shù)據(jù)成為現(xiàn)實(shí),各個(gè)類別數(shù)據(jù)量不再人為選定,而需在更高的層級全貌看待分類問題。若使用傳統(tǒng)的預(yù)測方法會(huì)使海量數(shù)據(jù)中的多數(shù)類數(shù)據(jù)信息淹沒少數(shù)類,致使少數(shù)類數(shù)據(jù)的分類精度非常低。且在多數(shù)情況下,企業(yè)關(guān)注的是不平衡數(shù)據(jù)集中少數(shù)類數(shù)據(jù)及其被誤分帶來的損失。

    少數(shù)類樣本被錯(cuò)分的代價(jià)要遠(yuǎn)遠(yuǎn)大于對多數(shù)類樣本的錯(cuò)分代價(jià)。以信用卡欺詐為例,在學(xué)習(xí)過程中即使判定整個(gè)樣本均為良好信用客戶,準(zhǔn)確率也能高達(dá)90%,但這樣的分類毫無意義和價(jià)值[2]。針對該問題,如何設(shè)計(jì)精確的分類器,提高少數(shù)類的分類性能極具現(xiàn)實(shí)意義。

    1 相關(guān)工作及存在的問題

    不平衡數(shù)據(jù)最主要特征是少數(shù)類過少,對不平衡數(shù)據(jù)進(jìn)行分類時(shí),如何更高精度地對少數(shù)類進(jìn)行分類成為評價(jià)分類算法模型的關(guān)鍵指標(biāo)。目前不平衡數(shù)據(jù)主要從數(shù)據(jù)層面、模型評價(jià)準(zhǔn)則層面與算法層面三個(gè)層面進(jìn)行研究。

    1.1 數(shù)據(jù)層面解決方案

    目前,在數(shù)據(jù)層面解決數(shù)據(jù)不平衡問題主要有三類技術(shù):過抽樣、欠抽樣、混合抽樣。其中最具代表性的過抽樣算法是Chawla提出的SMOTE(Synthetic Minority Oversampling Technique),通過改進(jìn)采樣技術(shù),提高了過抽樣的性能[3]。欠抽樣技術(shù)旨在去除部分負(fù)類樣本以達(dá)到平衡數(shù)據(jù)類的目的?;旌铣闃硬捎昧藢⑶烦闃优c過抽樣技術(shù)結(jié)合的思想。事實(shí)已經(jīng)表明,三種技術(shù)均有重大缺陷:欠抽樣算法存在很大的盲目性,會(huì)導(dǎo)致多數(shù)類樣本有效信息丟失;而過采樣由于插值的隨機(jī)性并不能保證新合成的樣本為少數(shù)類,而且有可能導(dǎo)致過適應(yīng)[4]。三類技術(shù)都因?yàn)楦淖兞嗽紨?shù)據(jù)的分布特征而備受爭議。

    1.2 模型評價(jià)準(zhǔn)則

    在傳統(tǒng)的分類學(xué)習(xí)中,分類精度往往傾向于多數(shù)類。但對于不平衡數(shù)據(jù)而言,分類準(zhǔn)確率卻因傾向于多數(shù)類的準(zhǔn)確率而無法準(zhǔn)確評價(jià)對少數(shù)類的分類性能[5-6]。已有學(xué)者研究出新的評價(jià)標(biāo)準(zhǔn),如F-Score、G-mean等。Brefeld等(2005)使用ROC(Receiver Operating Characteristic)曲線的AUC(Area Under Curve)面積作為分類評價(jià)標(biāo)準(zhǔn),科學(xué)準(zhǔn)確地評價(jià)了分類器性能[7]。模型評價(jià)準(zhǔn)則的研究有助于更科學(xué)地評判分類器分類精度,但不能從根本上解決不平衡數(shù)據(jù)的分類問題。因此從算法角度解決不平衡數(shù)據(jù)分類問題尤為重要。

    1.3 算法層面解決方案

    算法層面不平衡數(shù)據(jù)處理的方法主要有代價(jià)敏感性學(xué)習(xí)、單類學(xué)習(xí)和集成學(xué)習(xí)算法等[8]。代價(jià)敏感學(xué)習(xí)基于對少數(shù)類正確分類的價(jià)值高于對多數(shù)類正確分類的價(jià)值的假設(shè),通過改進(jìn)分類器模型的內(nèi)部構(gòu)造,使基于最小錯(cuò)誤率的分類器轉(zhuǎn)化為代價(jià)敏感分類器。在數(shù)據(jù)嚴(yán)重不平衡時(shí),單類學(xué)習(xí)通過只采用感興趣的目標(biāo)類進(jìn)行學(xué)習(xí)來預(yù)防多數(shù)類對少數(shù)類的淹沒問題。集成學(xué)習(xí)通過增加錯(cuò)誤樣本分類的權(quán)值進(jìn)一步改善分類器針對少數(shù)類的分類性能。KSVM是目前比較經(jīng)典的分類器,該算法充分利用機(jī)器學(xué)習(xí)算法SVM,同時(shí)有效結(jié)合了KNN算法。但該分類器閾值的固定導(dǎo)致過多噪聲的引入是亟待解決的問題。本文研究的重點(diǎn)就是通過對KSVM分類器優(yōu)化改進(jìn)來提升對不平衡數(shù)據(jù)的分類預(yù)測性能。

    2 KSVM算法改進(jìn)

    2.1 KSVM分類器

    李蓉等[9]首次提出了定理:SVM可以看做每類只有一個(gè)代表點(diǎn)的1NN分類器。并在該定理的基礎(chǔ)之上提出了KSVM算法,主要思想是:由于SVM對每一類只取一個(gè)代表點(diǎn),但往往該點(diǎn)不能很好地代表該類提供充足的有效分類信息,此時(shí)引入KNN分類器,將所有的支持向量作為代表點(diǎn),從中選取近鄰的K(K=2n+1,n=1,2,3,…)個(gè)代表點(diǎn)增加有效分類信息進(jìn)而成功預(yù)測樣本類別。王超學(xué)等指出了KSVM算法的缺陷,并提出了改進(jìn)型算法EDSVM[10]:SVM學(xué)習(xí)訓(xùn)練得出各類別的支持向量,由支持向量數(shù)目確定KNN的K近鄰參數(shù),在特征空間采用KNN算法進(jìn)行分類。

    上述KSVM系列算法均建立在閾值ε固定的前提下,忽視了非平衡數(shù)據(jù)下兩類數(shù)據(jù)信息量的差異性,忽略了不同數(shù)據(jù)集的兩類支持向量(SVs+、SVs-)的數(shù)量、分布特征的差異[11]。因此,固定的閾值使得KSVM分類性能受到了限制。本文首先闡述了KSVM系列算法閾值尋優(yōu)的重要性,并在前人基礎(chǔ)之上,利用遺傳算法進(jìn)行閾值尋優(yōu)提出了ε-KSVM算法。通過實(shí)驗(yàn)進(jìn)一步論證了閾值尋優(yōu)應(yīng)用于分類器KSVM是科學(xué)的、有實(shí)踐意義的。

    2.2 閾值尋優(yōu)的必要性

    定義1清晰類(ClearData)數(shù)據(jù)集是由到分類超平面的距離大于等于閾值ε的待測樣本點(diǎn)組成。如圖1空間I、II所示。

    圖1 超平面與代表點(diǎn)

    定義2模糊類(BlurData)數(shù)據(jù)集是由到分類超平面的距離小于閾值ε的待測樣本點(diǎn)組成。如圖1空間III所示。

    損失函數(shù)(Loss Function)是用來估量模型預(yù)測值f(x)與真實(shí)值Y的不一致程度的非負(fù)實(shí)值函數(shù)。

    SVM分類器的損失函數(shù)可表示為:

    (1)

    KNN的損失函數(shù)可表示為:

    (2)

    式中:分類器SVM的y值應(yīng)為分類器決策函數(shù)的“原始”輸出,而不是最終的類標(biāo),即y=w·x+b。對于可能的輸出t=±1,若t與y有相同的符號(意味著y分類預(yù)測正確),則max{0,1-t·y}=0。對于分類器KNN,xi表示待測樣本的真實(shí)類別,ci=f(x)為預(yù)測類別。由此不難得出分類器KSVM的損失函數(shù)為:

    Loss=Loss,svm+a·Loss,knn=

    (3)

    KSVM分類器通過增加易錯(cuò)樣本點(diǎn)的有效分類信息進(jìn)一步提升了分類準(zhǔn)確率。對到分類超平面的距離小于閾值ε的模糊類樣本采用KNN分類器進(jìn)行分類,到分類超平面的距離大于閾值ε時(shí)采用SVM分類器。但閾值選取是否恰當(dāng),對分類超平面附近樣本點(diǎn)(尤其是少數(shù)類樣本)的分類準(zhǔn)確率有很大的影響。

    一方面,對于確定的待分類數(shù)據(jù)集,少數(shù)類特征向量數(shù)量少且分布密集時(shí)(見圖2(b))容易發(fā)生分類結(jié)果向多數(shù)類傾斜的情況,即樣本點(diǎn)位于少數(shù)類的支持向量面附近時(shí),SVM以1NN的方式計(jì)算該點(diǎn)最近鄰支持向量,卻因少數(shù)類的支持向量分布過于集中,極易造成負(fù)類噪聲的引入,導(dǎo)致該點(diǎn)的最近近鄰反而是多數(shù)類中的支持向量(SVs-),若此時(shí)將該點(diǎn)歸為ClearData數(shù)據(jù)集并用SVM分類器進(jìn)行分類,致使錯(cuò)分導(dǎo)致Losssvm增大。針對此種情況,需智能地增大閾值ε,將該樣本點(diǎn)歸為BlurData數(shù)據(jù)集采用KNN分類器來獲取更多有效分類信息[12]。

    圖2 少數(shù)類分類錯(cuò)誤情形

    另一方面,在少數(shù)類支持向量的個(gè)數(shù)明顯低于多數(shù)類支持向量且少數(shù)類支持向量分布稀疏的情況下(見圖2(b)),多數(shù)類支持向量提供的信息量足以淹沒少數(shù)支持量提供的分類信息,此時(shí)若將圖中待測樣本點(diǎn)歸為BlurData采用KNN進(jìn)行分類,由于引入過多噪聲導(dǎo)致錯(cuò)分,造成Lossknn增大。在該情形下,需智能地減小閾值ε,將該樣本點(diǎn)歸為ClearData數(shù)據(jù)集并采SVM分類器來最大限度地降低噪聲的影響。

    因此,對分類超平面附近的樣本進(jìn)行分類時(shí),往往需要增加有效分類信息提高分類精度,但增加有效分類信息的同時(shí)往往伴隨著引入更大的噪聲,智能地確定ClearData與BlurData的邊界(即閾值ε),成為進(jìn)一步降低分類“損失”的關(guān)鍵。閾值的選擇應(yīng)該適用于數(shù)據(jù)集以及具體支持向量的數(shù)量與分布特征,而并非采取統(tǒng)一的經(jīng)驗(yàn)閾值。

    2.3 ε-KSVM算法的提出

    本文針對KSVM算法應(yīng)用于不平衡數(shù)據(jù)時(shí)的閾值固定的缺陷,提出一種改進(jìn)的隨數(shù)據(jù)集不同動(dòng)態(tài)調(diào)整閾值的ε-KSVM算法。主要思想是:利用分類器KSVM對待測樣本進(jìn)行分類預(yù)測之前,采用遺傳算法尋找最優(yōu)閾值ε*。對于到分類超平面的距離distance≥ε*的待測樣本,歸為清晰類(ClearData);對于distance<ε*的樣本,歸為模糊類(BlurData)。對于清晰類樣本,采用SVM分類器進(jìn)行分類,對于模糊類樣本,需增加有效分類信息,采用KNN分類器進(jìn)行分類,從而提高了分類器樣本的分類精度。ε-KSVM算法具體如下:

    Input:訓(xùn)練數(shù)據(jù)集TrainData;測試數(shù)據(jù)集TestData

    Output:測試數(shù)據(jù)集中樣本的類別j*(x′)=f(x′)

    BEGIN:

    Step1:初始化數(shù)據(jù)集ClearData=Φ,BlurData=Φ;

    Step2:經(jīng)過對訓(xùn)練集TrainData的學(xué)習(xí)得到SVM的分類超平面g(x)=∑i∈SVαiyik(xi,x)+b*以及支持向量SVs;

    Step3:通過遺傳算法尋找最優(yōu)閾值ε*;

    Step4:對于測試樣本x′∈TestData,計(jì)算

    g(x′)=∑i∈SVαiyik(xi,x′)+b*;

    Step4.1:如果|g(x′)|≥ε*,則ClearData=ClearData∪{x′};

    Step4.2:如果|g(x′)|<ε*,則BlurData=BlurData∪{x′}

    Step5:TestData=TestData-x′;

    If (TestData≠Φ),取x′∈TestData,goto Step4; Else goto (Step6)

    Step6:

    Step6.1:對于x′∈ClearData,利用SVM分類器進(jìn)行分類,得到分類j*(x′)=f(x′);

    Step6.2:對于x′∈BlurData,則以所有的支持向量SVs作為x′近鄰樣本,采用KNN對x′進(jìn)行分類。

    END

    其中,通過遺傳算法進(jìn)行閾值尋優(yōu)過程見2.4節(jié)。

    2.4 閾值尋優(yōu)過程

    采用遺傳算法進(jìn)行閾值尋優(yōu)。遺傳算法具有隱含的并行性和強(qiáng)大的全局搜索能力,可以在較短的時(shí)間內(nèi)搜索到全局最優(yōu)點(diǎn)。由于遺傳算子、交叉算子的引入,理論上遺傳算法搜索到全局最優(yōu)解的概率為1[13]。

    遺傳算法閾值尋優(yōu)過程中,適應(yīng)度函數(shù)指導(dǎo)搜索方向。本文的目的是提高KSVM算法的分類精度,因而采用分類精度(Accuracy,ACC)作為樣本的適應(yīng)度函數(shù)Fitness,表示如下:

    (4)

    將遺傳算法應(yīng)用于KSVM閾值優(yōu)化過程,算法的基本步驟如下:

    BEGIN:

    Step1:初始化種群,隨機(jī)選擇種群個(gè)體P(ε);

    Step2:將種群中各個(gè)體P(ε)代入適應(yīng)度函數(shù)Fitness(ε),以訓(xùn)練數(shù)據(jù)和測試數(shù)據(jù)對其進(jìn)行訓(xùn)練和測試[14];

    Step3:依據(jù)適應(yīng)度計(jì)算準(zhǔn)則,計(jì)算個(gè)體適應(yīng)度函數(shù)值;

    Step4:若種群中最優(yōu)個(gè)體所對應(yīng)的適應(yīng)度函數(shù)值足夠大或者算法已連續(xù)運(yùn)行多代,且個(gè)體的最佳適應(yīng)度無明顯改進(jìn)則退出循環(huán),得到優(yōu)化閾值ε*;否則,繼續(xù)下一步Step5;

    Step5:應(yīng)用輪盤賭方式的選擇算子[15],按照最優(yōu)保存、最差取代的原則,從P(ε)中選擇出下一代;

    Step6:執(zhí)行交叉算子和變異算子,交叉概率取0.7,變異算子取0.1,形成新個(gè)體;

    END

    2.5 支持向量機(jī)參數(shù)優(yōu)化

    為了在不平衡數(shù)據(jù)的分類中更好地發(fā)揮支持向量機(jī)(SVM)的學(xué)習(xí)能力,選取粒子群優(yōu)化算法PSO(Particle Swarm Optimization)對SVM的懲罰參數(shù)C以及RBF核函數(shù)的參數(shù)gamma進(jìn)行優(yōu)化。粒子群算法PSO是一種基于群智能啟發(fā)式全局隨機(jī)優(yōu)化算法,通過信息共享機(jī)制模擬鳥群的捕食行為來尋找最優(yōu)解。粒子群算法尋優(yōu)參數(shù)C、gamma流程如圖3所示。

    圖3 PSO尋優(yōu)C、gamma過程

    3 實(shí)驗(yàn)及數(shù)據(jù)分析

    3.1 數(shù)據(jù)來源

    為驗(yàn)證算法的有效性,從UCI機(jī)器學(xué)習(xí)數(shù)據(jù)庫選取了不平衡程度、屬性維度、樣本數(shù)量互不相同的8組數(shù)據(jù)集進(jìn)行實(shí)驗(yàn),并且數(shù)據(jù)來源于電信、能源、醫(yī)療三個(gè)不同行業(yè),數(shù)據(jù)集基本信息如表1所示。本文使用綜合考慮查準(zhǔn)率、查全率的F-Score、GMean作為分類評價(jià)指標(biāo),F(xiàn)-Score衡量分類器對少數(shù)類的分類性能,GMean衡量數(shù)據(jù)集整體的分類性能[16]。

    表1 數(shù)據(jù)集基本信息

    續(xù)表1

    F-Score、GMean推導(dǎo)過程如下:

    (5)

    (6)

    (7)

    (8)

    式中:TPR為真“正類”率,TNR為真“負(fù)類”率。Precision與Recall分別為查準(zhǔn)率、查全率。F-Score是綜合查全率和查準(zhǔn)率的分類評價(jià)指標(biāo),GMean是保證多數(shù)類、少數(shù)類精度平衡的情況下最大化兩類精度的評價(jià)指標(biāo)。F-Score、GMean二者在對不平衡數(shù)據(jù)分類的評價(jià)上更加科學(xué)。

    3.2 實(shí)驗(yàn)結(jié)果分析

    實(shí)驗(yàn)在Windows環(huán)境下的MATLAB軟件上運(yùn)行,通過編寫分類器ε-KSVM與遺傳算法來進(jìn)行閾值尋優(yōu)。為了保證實(shí)驗(yàn)不受SVM核函數(shù)選擇上的影響,統(tǒng)一選擇徑向基函數(shù)(RBF kernel)。通過10折交叉驗(yàn)

    證(10-fold cross validation)重復(fù)實(shí)驗(yàn)。本文對比了KNN、SVM、KSVM、ε-KSVM幾種算法在評價(jià)準(zhǔn)則F-score、GMean上的優(yōu)劣程度。其中KNN算法采用了K=3、K=5兩種,KSVM算法使用的是前人固定的經(jīng)驗(yàn)值ε=0.8。得到了8組不平衡數(shù)據(jù)的最優(yōu)閾值ε以及6種算法的F-Score、GMean。

    從表2可知,8組數(shù)據(jù)的最優(yōu)閾值沒有統(tǒng)一的規(guī)律可尋,沒有采用前人所采取的經(jīng)驗(yàn)閾值0.8附近,而是針對不同的數(shù)據(jù)集獲取不同的最優(yōu)閾值。實(shí)驗(yàn)驗(yàn)證了ε-KSVM閾值尋優(yōu)思想的正確性。

    表2 8組數(shù)據(jù)的最優(yōu)閾值

    表3、表4給出了評價(jià)結(jié)果值(括號內(nèi)為多次交叉驗(yàn)證的標(biāo)準(zhǔn)差),結(jié)果顯示KNN(K=3)與KNN(K=5)的分類效果相差不大,KSVM系列算法(包括KSVM、BDKSVM算法在內(nèi))分類效果好于KNN、SVM算法。ε-KSVM的分類效果要優(yōu)于KNN、KSVM、BDKSVM。從F-Score、G-Mean的實(shí)驗(yàn)結(jié)果不難看出,改進(jìn)的分類器ε-KSVM整體分類精度優(yōu)于其他幾種算法。

    表3 F-Score對比值

    表4 G-Mean對比值

    綜合上述結(jié)果,通過遺傳算法進(jìn)行閾值優(yōu)化來提高對不平衡數(shù)據(jù)的分類精度是有效的。本文提出的閾值尋優(yōu)ε-KSVM分類器,對提高不平衡數(shù)據(jù)樣本尤其是少數(shù)類的分類精度有顯著效果。

    4 結(jié) 語

    在對電力、能源、醫(yī)療等行業(yè)數(shù)據(jù)分析的過程中,普遍存在數(shù)據(jù)分類不平衡問題,本文針對具體不同的不平衡數(shù)據(jù)集,提出了一種動(dòng)態(tài)適應(yīng)不同數(shù)據(jù)集的ε-KSVM分類器。該分類器利用遺傳算法尋找分類器最優(yōu)閾值ε*,調(diào)整SVM、KNN算法對待測數(shù)據(jù)集的應(yīng)用范圍,降低了對少數(shù)類分類時(shí)易被多數(shù)類覆蓋的風(fēng)險(xiǎn),改善少數(shù)類樣本的分類預(yù)測精度的同時(shí)也降低了對多數(shù)類的錯(cuò)分。與前人的KSVM系列分類器相比,本文提出的ε-KSVM算法在處理不平衡分類問題時(shí)性能更加優(yōu)越。實(shí)驗(yàn)進(jìn)一步驗(yàn)證了該算法的有效性,也為不平衡二分類問題提供了一個(gè)嶄新的視角,該思想可以應(yīng)用在電力通信故障檢測、疾病診斷、信用卡欺詐等諸多實(shí)際問題中。

    [1] 王瑞.針對類別不平衡和代價(jià)敏感分類問題的特征選擇和分類算法[D].中國科學(xué)技術(shù)大學(xué),2013.

    [2] 曾瑾.信用卡欺詐風(fēng)險(xiǎn)的防控[J].國際金融,2012(11):26-33.

    [3] Chawla N V,Hall L O,Bowyer K W,et al.SMOTE:Synthetic minority oversampling technique[J].Journal of Artificial Intelligence Research,2002,16:321-357.

    [4] Barandela R.Restricted decontamination for the imbalance training sample problem[C]//Proceeding of the 8th Ibero-american Congress on pattern Recognition,Havana,2003:424-431.

    [5] Van Hulse J,Khoshgoftaar T M.Knowledge discovery from imbalanced and noisy data[J].Data & Knowledge Engineering,2009(68):1513-1542.

    [6] 翟云,楊炳儒,曲武.不平衡類數(shù)據(jù)挖掘研究綜述[J].計(jì)算機(jī)科學(xué),2010,37(10):27-32.

    [7] Brefeld U,Scheffer T.AUC maximizing support vector learning[C]//Proceedings of 22nd International Conference on Machine Learning Workshop on ROC Analysis in Machine Learning,2005.

    [8] 王金華,喻輝.基于KNN+層次SVM的文本自動(dòng)分類技術(shù)[J].計(jì)算機(jī)應(yīng)用與軟件,2016,33(2):38-41.

    [9] 李蓉,葉世偉,史忠植.SVM-KNN分類器-一種提高SVM分類精度的新方法[J].電子學(xué)報(bào),2002,30(5):745-748.

    [10] 王超學(xué),張濤,馬春森.改進(jìn)SVM-KNN的不平衡數(shù)據(jù)分類[J].計(jì)算機(jī)工程與應(yīng)用,2016,52(4):51-55.

    [11] Ganganwar V.An overview of classification algorithms for imbalanced datasets[J].International Journal of Emerging Technology and Advanced Engineering,2012(4):42-47.

    [12] Geng X,Arnold A,Qin T,et al.Query dependent ranking using K-nearest neighbor[C]//Annual ACM Conference on Research and Development in Information Retrieval,Proceedings of the 31st Annual International ACM SIGIR Conference on Research and Development in Information Retrieval,2008:115-122.

    [13] 顏曉娟,龔仁喜,張千鋒.優(yōu)化遺傳算法尋優(yōu)的SVM在短期風(fēng)速預(yù)測中的應(yīng)用[J].電力系統(tǒng)保護(hù)與控制,2016,44(9):38-42.

    [14] 萬源,童恒慶,朱映映.基于遺傳算法的多核支持向量機(jī)的參數(shù)優(yōu)化[J].武漢大學(xué)學(xué)報(bào),2012,58(3):255-259.

    [15] 楊平,鄭金華.遺傳選擇算子的比較與研究[J].計(jì)算機(jī)工程與應(yīng)用,2007,43(15):59-64.

    [16] 林志勇,郝志峰,楊曉偉.若干評價(jià)準(zhǔn)則對不平衡數(shù)據(jù)學(xué)習(xí)的影響[J].華南理工大學(xué)學(xué)報(bào),2010,38(4):147-154.

    猜你喜歡
    超平面分類器遺傳算法
    全純曲線的例外超平面
    涉及分擔(dān)超平面的正規(guī)定則
    以較低截?cái)嘀財(cái)?shù)分擔(dān)超平面的亞純映射的唯一性問題
    BP-GA光照分類器在車道線識別中的應(yīng)用
    電子測試(2018年1期)2018-04-18 11:52:35
    基于自適應(yīng)遺傳算法的CSAMT一維反演
    一種基于遺傳算法的聚類分析方法在DNA序列比較中的應(yīng)用
    基于遺傳算法和LS-SVM的財(cái)務(wù)危機(jī)預(yù)測
    加權(quán)空-譜與最近鄰分類器相結(jié)合的高光譜圖像分類
    結(jié)合模糊(C+P)均值聚類和SP-V-支持向量機(jī)的TSK分類器
    基于改進(jìn)的遺傳算法的模糊聚類算法
    一二三四中文在线观看免费高清| 国产精品一区二区在线不卡| 国产有黄有色有爽视频| 国产精品久久久久久av不卡| 2022亚洲国产成人精品| 国产精品人妻久久久久久| 少妇熟女欧美另类| 国产男女内射视频| 亚洲天堂av无毛| 久久鲁丝午夜福利片| 黄色欧美视频在线观看| 亚洲综合精品二区| 国产日韩一区二区三区精品不卡 | 在线精品无人区一区二区三| 最近手机中文字幕大全| 国产伦理片在线播放av一区| 三上悠亚av全集在线观看 | 制服丝袜香蕉在线| 伊人久久国产一区二区| 国产亚洲精品久久久com| 国产亚洲午夜精品一区二区久久| 日产精品乱码卡一卡2卡三| 亚洲无线观看免费| 又爽又黄a免费视频| 中文字幕av电影在线播放| 老司机影院毛片| 少妇的逼水好多| 九九爱精品视频在线观看| 亚洲情色 制服丝袜| 精品国产一区二区久久| av网站免费在线观看视频| 久久鲁丝午夜福利片| 美女中出高潮动态图| 国产爽快片一区二区三区| 2021少妇久久久久久久久久久| 爱豆传媒免费全集在线观看| a级毛片在线看网站| 欧美bdsm另类| 国产成人91sexporn| 成人18禁高潮啪啪吃奶动态图 | 国精品久久久久久国模美| 国产欧美日韩综合在线一区二区 | 国产永久视频网站| 十八禁网站网址无遮挡 | 午夜福利在线观看免费完整高清在| 日日啪夜夜爽| 青春草国产在线视频| 国模一区二区三区四区视频| 丰满乱子伦码专区| 亚洲熟女精品中文字幕| 你懂的网址亚洲精品在线观看| 日韩精品免费视频一区二区三区 | 一本色道久久久久久精品综合| 最近中文字幕2019免费版| 大又大粗又爽又黄少妇毛片口| 啦啦啦啦在线视频资源| 日本猛色少妇xxxxx猛交久久| 日韩av不卡免费在线播放| 亚洲,欧美,日韩| 99热这里只有是精品50| 熟女人妻精品中文字幕| 啦啦啦在线观看免费高清www| 永久网站在线| 精品一品国产午夜福利视频| 香蕉精品网在线| 国产亚洲午夜精品一区二区久久| 我的老师免费观看完整版| 在线观看一区二区三区激情| 夜夜骑夜夜射夜夜干| 亚洲国产欧美在线一区| 欧美日韩在线观看h| 纵有疾风起免费观看全集完整版| 国产在线免费精品| 涩涩av久久男人的天堂| 丰满饥渴人妻一区二区三| 久久精品久久精品一区二区三区| 91aial.com中文字幕在线观看| 免费大片黄手机在线观看| 久久国产精品男人的天堂亚洲 | 久久久久久久大尺度免费视频| 国产精品熟女久久久久浪| 王馨瑶露胸无遮挡在线观看| 亚洲精品久久午夜乱码| 中国国产av一级| 精品久久久久久久久av| 免费久久久久久久精品成人欧美视频 | 乱码一卡2卡4卡精品| 久久99热6这里只有精品| 少妇 在线观看| 国产精品久久久久久精品电影小说| 99久久精品国产国产毛片| 国产免费一区二区三区四区乱码| 天美传媒精品一区二区| av天堂久久9| 丰满乱子伦码专区| 又粗又硬又长又爽又黄的视频| 婷婷色综合大香蕉| 哪个播放器可以免费观看大片| av在线观看视频网站免费| 男人舔奶头视频| 伊人亚洲综合成人网| a级毛片在线看网站| 久久久亚洲精品成人影院| 婷婷色综合大香蕉| 日日啪夜夜撸| 成人毛片a级毛片在线播放| 国产有黄有色有爽视频| 久久国产精品大桥未久av | 汤姆久久久久久久影院中文字幕| 亚洲第一区二区三区不卡| h日本视频在线播放| 亚洲性久久影院| 18+在线观看网站| 美女中出高潮动态图| 99热这里只有是精品50| 观看免费一级毛片| 亚洲国产毛片av蜜桃av| 免费人成在线观看视频色| 麻豆成人av视频| 午夜视频国产福利| av专区在线播放| 99热这里只有是精品50| av在线老鸭窝| 少妇精品久久久久久久| 亚洲国产毛片av蜜桃av| 老女人水多毛片| 精品亚洲成国产av| 国产高清三级在线| 亚洲国产毛片av蜜桃av| 国产高清三级在线| 国产色爽女视频免费观看| 久久精品国产鲁丝片午夜精品| 在线观看人妻少妇| av在线app专区| 久久久国产欧美日韩av| 久久久久久久亚洲中文字幕| 久久久久久久亚洲中文字幕| 国产成人精品一,二区| 中文字幕久久专区| 青春草视频在线免费观看| 精品一品国产午夜福利视频| 少妇被粗大的猛进出69影院 | 国产精品国产av在线观看| 精品一区二区三卡| 日韩电影二区| 国产在线男女| 在线播放无遮挡| 久久久久国产网址| 黄色日韩在线| 精品国产一区二区三区久久久樱花| 九九在线视频观看精品| 肉色欧美久久久久久久蜜桃| 我的老师免费观看完整版| 亚洲av日韩在线播放| av网站免费在线观看视频| 我的老师免费观看完整版| 高清黄色对白视频在线免费看 | 丰满迷人的少妇在线观看| 男女国产视频网站| 中国国产av一级| 久久久久久久精品精品| 成人漫画全彩无遮挡| 日韩强制内射视频| 国产视频首页在线观看| 亚洲精品国产色婷婷电影| 激情五月婷婷亚洲| 国产精品三级大全| 精品久久久久久久久av| 午夜激情久久久久久久| 欧美另类一区| 99九九线精品视频在线观看视频| 欧美日韩视频高清一区二区三区二| 少妇裸体淫交视频免费看高清| 啦啦啦中文免费视频观看日本| 日日摸夜夜添夜夜爱| 好男人视频免费观看在线| 欧美 亚洲 国产 日韩一| 黄色毛片三级朝国网站 | 国产一级毛片在线| 高清黄色对白视频在线免费看 | 大片电影免费在线观看免费| 黑人猛操日本美女一级片| 噜噜噜噜噜久久久久久91| 综合色丁香网| 在线观看免费高清a一片| 能在线免费看毛片的网站| 99久国产av精品国产电影| 国产精品久久久久久精品古装| 国产爽快片一区二区三区| 又爽又黄a免费视频| 午夜影院在线不卡| 成年女人在线观看亚洲视频| 80岁老熟妇乱子伦牲交| 久久精品国产亚洲av涩爱| 看十八女毛片水多多多| 精品国产露脸久久av麻豆| 在线观看av片永久免费下载| 日产精品乱码卡一卡2卡三| 久久久亚洲精品成人影院| 3wmmmm亚洲av在线观看| 免费人妻精品一区二区三区视频| 国产极品粉嫩免费观看在线 | av线在线观看网站| 精品亚洲乱码少妇综合久久| 国产亚洲av片在线观看秒播厂| 美女中出高潮动态图| 日韩在线高清观看一区二区三区| 看十八女毛片水多多多| 99精国产麻豆久久婷婷| 中文字幕人妻丝袜制服| 亚洲精品日韩在线中文字幕| av播播在线观看一区| 菩萨蛮人人尽说江南好唐韦庄| 亚洲精品国产色婷婷电影| 亚洲精品日本国产第一区| 少妇熟女欧美另类| 亚洲人成网站在线播| av在线app专区| 国产伦在线观看视频一区| 国产有黄有色有爽视频| 91午夜精品亚洲一区二区三区| 日韩中字成人| 亚洲国产欧美在线一区| 成人漫画全彩无遮挡| 91精品国产国语对白视频| 国内精品宾馆在线| 久久99热6这里只有精品| 国产91av在线免费观看| 成年女人在线观看亚洲视频| 国产白丝娇喘喷水9色精品| 精品熟女少妇av免费看| 欧美精品人与动牲交sv欧美| 亚洲美女黄色视频免费看| 中国三级夫妇交换| 啦啦啦在线观看免费高清www| 国产综合精华液| 欧美 亚洲 国产 日韩一| 国产亚洲一区二区精品| 丁香六月天网| 中国美白少妇内射xxxbb| 免费观看在线日韩| 亚洲天堂av无毛| 国产欧美另类精品又又久久亚洲欧美| 久久午夜综合久久蜜桃| 高清欧美精品videossex| 亚洲国产欧美日韩在线播放 | 久久国产乱子免费精品| 777米奇影视久久| 欧美少妇被猛烈插入视频| 少妇的逼水好多| 菩萨蛮人人尽说江南好唐韦庄| 国产色爽女视频免费观看| 免费观看性生交大片5| 亚洲情色 制服丝袜| 亚洲四区av| 欧美日韩亚洲高清精品| 国产av一区二区精品久久| h日本视频在线播放| 91午夜精品亚洲一区二区三区| 久久久久精品久久久久真实原创| a级毛片免费高清观看在线播放| 欧美日韩国产mv在线观看视频| 热re99久久精品国产66热6| 少妇精品久久久久久久| 看免费成人av毛片| 久久久亚洲精品成人影院| 久久久久久伊人网av| 欧美少妇被猛烈插入视频| 性色avwww在线观看| 国产69精品久久久久777片| 中文在线观看免费www的网站| 内射极品少妇av片p| 午夜福利网站1000一区二区三区| 黄片无遮挡物在线观看| 日韩大片免费观看网站| 在线观看美女被高潮喷水网站| 女性被躁到高潮视频| 自线自在国产av| a级片在线免费高清观看视频| www.av在线官网国产| 欧美亚洲 丝袜 人妻 在线| 一二三四中文在线观看免费高清| 一级黄片播放器| 夜夜爽夜夜爽视频| 成人亚洲精品一区在线观看| 在线观看免费日韩欧美大片 | 男人舔奶头视频| 精品午夜福利在线看| 国产免费一区二区三区四区乱码| 国产69精品久久久久777片| a级一级毛片免费在线观看| 大陆偷拍与自拍| 最黄视频免费看| 视频中文字幕在线观看| 久久久久国产精品人妻一区二区| 伊人久久国产一区二区| 欧美人与善性xxx| 久久热精品热| 国产欧美另类精品又又久久亚洲欧美| 嫩草影院入口| 久久久久久久大尺度免费视频| 另类亚洲欧美激情| 国产成人精品无人区| 我的女老师完整版在线观看| 精品少妇内射三级| 亚洲av不卡在线观看| 亚洲,欧美,日韩| 国产精品国产三级专区第一集| 高清av免费在线| 国产亚洲精品久久久com| 十八禁高潮呻吟视频 | 国产日韩一区二区三区精品不卡 | 亚洲国产欧美在线一区| 久久国产亚洲av麻豆专区| 一级av片app| 国产伦在线观看视频一区| 亚洲一区二区三区欧美精品| 国产精品欧美亚洲77777| av女优亚洲男人天堂| 中文字幕久久专区| 成年美女黄网站色视频大全免费 | 少妇被粗大猛烈的视频| 久久午夜综合久久蜜桃| 免费在线观看成人毛片| 久久久欧美国产精品| 亚洲精品乱码久久久久久按摩| 在线观看三级黄色| 在现免费观看毛片| 成人综合一区亚洲| 午夜福利网站1000一区二区三区| 又粗又硬又长又爽又黄的视频| 我要看黄色一级片免费的| 十八禁高潮呻吟视频 | 久久综合国产亚洲精品| 亚洲精品第二区| 久久久欧美国产精品| 男女啪啪激烈高潮av片| av又黄又爽大尺度在线免费看| 美女cb高潮喷水在线观看| 一级爰片在线观看| 亚洲电影在线观看av| 免费不卡的大黄色大毛片视频在线观看| 王馨瑶露胸无遮挡在线观看| 精品人妻一区二区三区麻豆| 色网站视频免费| 国产伦精品一区二区三区视频9| 国产免费视频播放在线视频| 中文字幕制服av| 国产精品.久久久| 一区二区av电影网| 国产成人免费无遮挡视频| 国产精品久久久久久久久免| 久久av网站| 两个人的视频大全免费| 亚洲av福利一区| 色婷婷久久久亚洲欧美| 久久国产精品男人的天堂亚洲 | 国产高清国产精品国产三级| 狂野欧美白嫩少妇大欣赏| 另类亚洲欧美激情| 2022亚洲国产成人精品| 精品一区在线观看国产| 欧美精品亚洲一区二区| 精品视频人人做人人爽| 在线看a的网站| av免费在线看不卡| 日韩欧美精品免费久久| 精品亚洲成国产av| 午夜福利网站1000一区二区三区| 国产亚洲91精品色在线| 精品人妻熟女av久视频| 亚洲国产毛片av蜜桃av| 免费观看在线日韩| 日韩大片免费观看网站| 亚洲欧美清纯卡通| av在线app专区| 国产免费一级a男人的天堂| 国产国拍精品亚洲av在线观看| 2021少妇久久久久久久久久久| 国产成人精品一,二区| 亚洲电影在线观看av| 五月玫瑰六月丁香| 国产 精品1| 久热这里只有精品99| 亚洲精品乱码久久久久久按摩| 亚洲精品国产成人久久av| 少妇 在线观看| 人妻制服诱惑在线中文字幕| 精品国产乱码久久久久久小说| 精品卡一卡二卡四卡免费| 熟妇人妻不卡中文字幕| 亚洲经典国产精华液单| 久久久久视频综合| 国产淫片久久久久久久久| 成人综合一区亚洲| 久久久久久久久久久久大奶| 欧美少妇被猛烈插入视频| av女优亚洲男人天堂| 一级毛片aaaaaa免费看小| 这个男人来自地球电影免费观看 | 狂野欧美激情性bbbbbb| 99久久精品一区二区三区| 黄片无遮挡物在线观看| 在线观看免费高清a一片| 免费黄频网站在线观看国产| 亚洲av欧美aⅴ国产| 在线观看国产h片| 纯流量卡能插随身wifi吗| 插逼视频在线观看| 精品久久国产蜜桃| 热re99久久精品国产66热6| 欧美日本中文国产一区发布| 国产精品秋霞免费鲁丝片| 中文字幕精品免费在线观看视频 | 哪个播放器可以免费观看大片| 一级毛片久久久久久久久女| 丝袜在线中文字幕| 在线天堂最新版资源| 久久久国产一区二区| 最近2019中文字幕mv第一页| 亚洲在久久综合| 少妇人妻 视频| 男人和女人高潮做爰伦理| 80岁老熟妇乱子伦牲交| 如日韩欧美国产精品一区二区三区 | 丁香六月天网| 我的老师免费观看完整版| 欧美性感艳星| 久久精品国产a三级三级三级| 日本-黄色视频高清免费观看| a 毛片基地| 免费人成在线观看视频色| 亚洲精品日韩在线中文字幕| 久久 成人 亚洲| 国产色婷婷99| 99久久精品热视频| 日本黄色片子视频| 国产熟女欧美一区二区| 国产亚洲最大av| 99久久人妻综合| 精品人妻偷拍中文字幕| 亚洲,一卡二卡三卡| 亚洲av成人精品一区久久| 国产极品天堂在线| 午夜91福利影院| 18+在线观看网站| 少妇人妻久久综合中文| 狂野欧美白嫩少妇大欣赏| 色94色欧美一区二区| 亚洲精品国产成人久久av| 国产在线一区二区三区精| 精品人妻偷拍中文字幕| 亚洲精品久久午夜乱码| 精品久久久噜噜| 成人黄色视频免费在线看| 久久国内精品自在自线图片| a级片在线免费高清观看视频| 美女国产视频在线观看| 国产精品国产三级国产专区5o| 成人亚洲欧美一区二区av| 中国国产av一级| 精品人妻一区二区三区麻豆| 亚洲精品日韩在线中文字幕| 好男人视频免费观看在线| 久久久欧美国产精品| 免费不卡的大黄色大毛片视频在线观看| 99热6这里只有精品| 大陆偷拍与自拍| 国产精品女同一区二区软件| 久久久a久久爽久久v久久| 亚洲精品久久久久久婷婷小说| 好男人视频免费观看在线| 另类亚洲欧美激情| 99热网站在线观看| 少妇人妻精品综合一区二区| 老司机影院毛片| 久久久精品94久久精品| 久久久久久久久久久丰满| 国产精品国产三级专区第一集| 亚洲婷婷狠狠爱综合网| 日韩在线高清观看一区二区三区| 婷婷色综合大香蕉| 国产片特级美女逼逼视频| 亚洲中文av在线| 一级毛片电影观看| av在线app专区| 国产极品天堂在线| 国产在视频线精品| 日韩,欧美,国产一区二区三区| 久久久国产一区二区| 免费黄网站久久成人精品| 亚洲精品视频女| 亚洲综合精品二区| 亚洲在久久综合| 亚洲内射少妇av| 99久久人妻综合| 亚洲av国产av综合av卡| 国产在视频线精品| 久久久久国产网址| 伦理电影免费视频| 丝袜喷水一区| 国产极品粉嫩免费观看在线 | 大码成人一级视频| 亚洲精品国产av蜜桃| 亚洲精品乱码久久久久久按摩| 国语对白做爰xxxⅹ性视频网站| 国产精品99久久久久久久久| 午夜久久久在线观看| 久久精品国产a三级三级三级| 一区在线观看完整版| 久久精品夜色国产| 国产精品久久久久久久电影| 在线观看免费高清a一片| 色5月婷婷丁香| 久久久国产一区二区| 99久久人妻综合| 3wmmmm亚洲av在线观看| 免费在线观看成人毛片| 在线看a的网站| 午夜福利影视在线免费观看| 国产精品.久久久| 一级毛片久久久久久久久女| 两个人免费观看高清视频 | 乱人伦中国视频| 观看av在线不卡| 性色av一级| 亚洲真实伦在线观看| 乱系列少妇在线播放| 我的老师免费观看完整版| 能在线免费看毛片的网站| 大香蕉久久网| 综合色丁香网| 人人妻人人看人人澡| 亚洲欧洲日产国产| 美女中出高潮动态图| 中文精品一卡2卡3卡4更新| 乱码一卡2卡4卡精品| 久久久久精品久久久久真实原创| 欧美 日韩 精品 国产| 国产精品偷伦视频观看了| 国产亚洲精品久久久com| 精品酒店卫生间| 久久青草综合色| 麻豆成人av视频| 亚洲情色 制服丝袜| 尾随美女入室| 国产亚洲欧美精品永久| 99热这里只有是精品50| 我的女老师完整版在线观看| 亚洲av在线观看美女高潮| 亚洲欧美成人综合另类久久久| 在线亚洲精品国产二区图片欧美 | 一区二区三区精品91| 国产中年淑女户外野战色| 男的添女的下面高潮视频| 国产亚洲精品久久久com| 黑丝袜美女国产一区| 久久久久人妻精品一区果冻| 婷婷色av中文字幕| 少妇高潮的动态图| 99热网站在线观看| 熟女人妻精品中文字幕| 亚洲精品一二三| 3wmmmm亚洲av在线观看| 午夜老司机福利剧场| 国产在线男女| 91久久精品国产一区二区三区| 久久久国产欧美日韩av| 色吧在线观看| 久久精品国产鲁丝片午夜精品| 视频区图区小说| 国产深夜福利视频在线观看| 国产伦精品一区二区三区视频9| 精品99又大又爽又粗少妇毛片| 欧美bdsm另类| 啦啦啦啦在线视频资源| 自拍偷自拍亚洲精品老妇| 人妻系列 视频| 亚洲精品,欧美精品| 秋霞在线观看毛片| 一区二区三区精品91| 丰满饥渴人妻一区二区三| 亚洲熟女精品中文字幕| 亚洲精品456在线播放app| 亚洲精品日韩av片在线观看| 香蕉精品网在线| 少妇丰满av| 十八禁高潮呻吟视频 | 亚洲国产成人一精品久久久| 日韩精品有码人妻一区| 亚洲国产精品国产精品| 我的女老师完整版在线观看| 久久久久久久亚洲中文字幕| 国产亚洲91精品色在线| 欧美变态另类bdsm刘玥| 美女xxoo啪啪120秒动态图| 在线精品无人区一区二区三| 日本爱情动作片www.在线观看| 一个人看视频在线观看www免费| 国精品久久久久久国模美| 成人免费观看视频高清| 日韩欧美精品免费久久| 天堂中文最新版在线下载| 精品人妻熟女av久视频| freevideosex欧美| 久久精品久久久久久久性| 久久精品国产自在天天线| 欧美成人午夜免费资源| 亚洲精品乱久久久久久| 大又大粗又爽又黄少妇毛片口| 又粗又硬又长又爽又黄的视频| 欧美变态另类bdsm刘玥| 9色porny在线观看| www.av在线官网国产| 最后的刺客免费高清国语|