• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于進化計算的特征選擇方法研究概述

    2020-02-25 07:13:20王艷麗岳彩通
    鄭州大學學報(工學版) 2020年1期
    關(guān)鍵詞:特征選擇子集適應(yīng)度

    王艷麗,梁 靜,薛 冰,岳彩通

    (1.鄭州大學 電氣工程學院,河南 鄭州 450001;2.新西蘭惠靈頓維多利亞大學 工程與計算機學院,新西蘭 惠靈頓 6140)

    0 引言

    隨著大數(shù)據(jù)時代的到來,數(shù)據(jù)挖掘和機器學習成為研究熱點,并受到了國內(nèi)外研究人員的廣泛關(guān)注。特征選擇(feature selection, FS)是從一組初始特征中挑選出一些具有代表性的特征以降低特征空間維數(shù)的過程,是數(shù)據(jù)挖掘和機器學習的關(guān)鍵問題之一。對于數(shù)據(jù)挖掘和機器學習,一個好的學習樣本是訓練分類器的關(guān)鍵,樣本中是否包含有不相關(guān)或冗余特征直接影響著分類器的性能。特征選擇的目的是尋找解決問題所必須的、足夠的最小特征子集。通過從原始特征集中剔除不相關(guān)和冗余特征以減少數(shù)據(jù)的維數(shù),加速學習過程,簡化學習模型和提高學習算法的性能[1]。有效的特征選擇方法是找到一個最優(yōu)的特征子集的關(guān)鍵。

    現(xiàn)實中的數(shù)據(jù)集通常由一組特征描述,這些特征包含許多信息,但也引入了冗余和噪聲。隨著數(shù)據(jù)維度的增加,搜索空間增大,選擇最優(yōu)特征子集變得尤為困難。比如對于一個有n個特征的數(shù)據(jù)集,特征子集的個數(shù)就有2n個[1]。隨著問題復(fù)雜性的增加,許多領(lǐng)域數(shù)據(jù)的特征維度都在逐漸增加,特征選擇變得更具挑戰(zhàn)性。在大多數(shù)情況下,窮舉搜索給定數(shù)據(jù)集的最優(yōu)特征子集幾乎是不可能實現(xiàn)的。目前已有許多搜索技術(shù)應(yīng)用于特征選擇,如完全搜索、貪婪搜索、啟發(fā)式搜索和隨機搜索[1-2]?,F(xiàn)有的搜索技術(shù)在特征選擇上取得了較大的成功,但大多數(shù)方法容易陷入局部最優(yōu),并且計算成本較高[3]。因此,需要一種有效的全局搜索技術(shù)來更好地解決特征選擇問題。

    進化計算(evolutionary computation, EC)算法通過模擬自然界生物進化機制,在一些可行解組成的種群中,通過迭代進化尋求最優(yōu)解。EC技術(shù)因其強大的全局搜索能力和潛力備受研究者的關(guān)注,近年來更是廣泛應(yīng)用于特征選擇問題。然而,現(xiàn)有的文獻對近些年EC在特征選擇上的應(yīng)用缺乏全面而系統(tǒng)的討論?;诖?,筆者對EC在特征選擇上應(yīng)用的相關(guān)文獻進行了分析和總結(jié),給感興趣的研究人員提供一些參考。

    1 特征選擇的基本框架

    特征選擇是從數(shù)據(jù)集特征的所有組合組成的搜索空間中選擇相關(guān)特征子集的過程[2]。迄今為止,許多研究者從不同的角度對特征選擇進行定義。Koller 等[4]從傳統(tǒng)的角度定義,給定n個原始特征,特征選擇的任務(wù)是從所有大小為m的特征子集中(m

    圖1 特征選擇的基本框架

    從圖1可以看出,在特征選擇中,搜索機制和評價準則是影響最終特征子集質(zhì)量的重要因素。

    傳統(tǒng)的特征選擇方法可以分為:過濾式(filter)[7]、封裝式(wrapper)[8]和嵌入式(embedded)[9]。過濾式方法先對數(shù)據(jù)集進行特征選擇,然后再訓練學習器,一般直接采用所有訓練數(shù)據(jù)的統(tǒng)計性能評估特征,速度快,但缺少學習算法的引導導致分類性能相對較低。封裝式方法利用學習算法的訓練精度作為特征子集的評價準則,偏差小,但是計算量大。嵌入式方法是將特征選擇過程嵌入到學習過程中,特征選擇過程和學習器訓練過程同步進行,因此花費時間大幅減少,但不適合處理含有大量噪聲特征的數(shù)據(jù)。集成(ensemble)[10]是近幾年發(fā)展起來的一種新的學習方法,應(yīng)用于特征選擇問題,目的是獲取多個最優(yōu)特征子集,并聚合基于多個最優(yōu)特征子集的學習結(jié)果。

    與傳統(tǒng)方法相比,基于種群的EC算法能并行搜索多個解,利用計算機技術(shù)自動搜索解決方案,不需要問題領(lǐng)域先驗知識?;谶@些優(yōu)點,EC在特征選擇上獲得較大成功[11]。EC在特征選擇上的應(yīng)用研究始于1990年左右,但是自2007年以來,隨著許多領(lǐng)域的特征數(shù)量逐漸增多,EC技術(shù)以其強大的全局搜索能力而受到特征選擇領(lǐng)域的廣泛關(guān)注。如圖2所示。

    圖2 進化計算用于特征選擇的論文數(shù)量

    圖2顯示EC算法在特征選擇上應(yīng)用的論文數(shù)量(數(shù)據(jù)來源Web of Science,2018.12),這表明自2007年以來,進化計算在特征選擇上的應(yīng)用呈整體增長趨勢。筆者對進化計算在特征選擇上的代表性研究工作進行討論,并對進化計算在單目標、多目標特征選擇上的研究工作分別進行詳細的介紹。

    2 基于進化計算的單目標特征選擇

    2.1 特征選擇的目標和個體表達

    特征選擇的目的是通過從原始特征集中刪除不相關(guān)和冗余的特征找到解決分類問題所必需和充分的最小特征子集。特征選擇有兩個主要目標:最大化分類性能和最小化選擇特征的數(shù)量。

    實際操作過程中,常用問題解的編碼有連續(xù)和二進制兩種表示方法,具體如下:連續(xù)表示指一個含有n個實數(shù)的向量,其中n是數(shù)據(jù)集中可用特征的個數(shù)或搜索空間的維數(shù)。每個個體i的位置向量值.id與設(shè)定的閾值θ進行比較。如果.id>θ,則特征d被選擇;否則,特征d未被選擇。每個個體采用二進制字符串“0”和“1”表示,“1”表示個體對應(yīng)的特征被選擇,“0”表示未被選擇。

    2.2 基于進化算法的特征選擇

    進化算法包括遺傳算法(genetic algorithms, GA)、遺傳規(guī)劃(genetic programming, GP)、進化規(guī)劃(evolution strategies, ES)和進化策略(evolution programming, EP)等。目前,遺傳算法和遺傳規(guī)劃被廣泛應(yīng)用于特征選擇中,以尋找最優(yōu)特征子集。

    2.2.1 遺傳算法

    GA算法[12]是模擬達爾文生物進化論的自然選擇和自然界生物進化過程演化而來的隨機搜索最優(yōu)解的方法。Siedlecki等[13]采用GAs解決特征選擇問題,首次把EC技術(shù)應(yīng)用到特征選擇問題中。為了提高算法性能,研究者對GAs進行了許多不同的改進,主要集中在搜索機制、個體表達和評價機制等方面。

    傳統(tǒng)的GAs由于遺傳算子簡單,降低了種群的多樣性。當搜索空間很大時,GAs容易快速收斂而陷入局部最優(yōu)。為了避免這一問題,Li等[14]提出一種多種群GAs的特征選擇方法,即相鄰種群通過共享兩個個體來交換信息,以提高種群的搜索能力。此外,對每個種群中的最優(yōu)個體進行局部搜索,進一步提高算法性能。但是該方法僅在特征維數(shù)小于60的數(shù)據(jù)上是有效的。Lin等[15]提出了一種新的基于GAs的特征選擇方法,該方法首先利用先驗知識對相似特征進行分組,并對同一組中的所有特征進行排序,然后采用GAs從每個組中搜索出最優(yōu)特征子集。近年來,GAs也被應(yīng)用在分層特征空間中選擇特征[16]。該算法提出了兩種新的變異算子處理分層空間中的冗余特征。最近基于GA的特征選擇方法被廣泛用于解決實際問題[17-18]。

    Hong 等[19]提出一種二進制向量表示每個個體,首先二進制位預(yù)先定義的小數(shù)被轉(zhuǎn)換為整數(shù),表明對應(yīng)的特征被選擇與否。該算法有效地降低數(shù)千特征的高維數(shù)據(jù)集上GA搜索空間的維度。同時,在算法中引入“透明適應(yīng)度共享”伸縮機制以避免GA 在搜索過程中出現(xiàn)早熟。通過分界線的動態(tài)變化來增加其他個體的選擇機會,并打散個體的分布以保持種群的多樣性。Chen等[20]提出一種改進的二進制表示方法,該方法包括兩部分:第一部分被轉(zhuǎn)換為整數(shù),表示被選擇特征的數(shù)量;第二部分顯示哪些特征被選擇。該方法的缺點是需要預(yù)先定義特征的數(shù)量,但可能不是最佳大小。針對這一問題,Yahya等[21]開發(fā)了一種長度可變的表示方法,每一個個體只顯示所選擇的特征,并且不同的個體可能具有不同的長度,提出了一種新的遺傳算子來處理長度可變表示問題。

    OA Silva 等[22]將分類精度和特征個數(shù)聚合成一個適應(yīng)度函數(shù)。Winkler 等[23]考慮特征個數(shù)、分類性能、分類特定精度以及利用所有初始特征的分類精度等提出了幾個適應(yīng)度函數(shù)。Sousa 等[24]利用貝葉斯分類器接收工作特性曲線下面積作為適應(yīng)度函數(shù)。

    2.2.2 遺傳規(guī)劃

    GP算法[25]是一種基于種群的進化計算算法,在特征選擇中,GP算法具有靈活的表示形式,每個個體表示為一棵樹,每棵樹的所有葉節(jié)點都是原始特征,但只有一個葉節(jié)點特征被認定是選擇的特征。

    Sherrah等[26]首次將GP算法用于特征選擇問題,該算法采用廣義線性機作為分類器來評價所選特征的適應(yīng)度。隨后,Neshatian等[27]提出一種基于GP的封裝式特征選擇方法,采用改進的貝葉斯算法進行分類。該算法采用位掩碼編碼表示特征子集,算子集作為基本函數(shù),利用GP將特征子集和算子集進行組合,獲得最優(yōu)特征子集。Hunt等[28]提出一種新的GP超啟發(fā)式特征選擇方法,開發(fā)兩個去除和添加特征的函數(shù)算子。Viegas等[29]提出一種處理平衡和不平衡數(shù)據(jù)的策略,GP算法中的每個內(nèi)部節(jié)點表示一個集合算子,每個葉節(jié)點表示一個原始特征,每個樹的輸出是一組特征。結(jié)果顯示,該算法在不降低分類性能的前提下,可以有效地減少生物數(shù)據(jù)集98%的特征。

    進化算法應(yīng)用于特征選擇問題已有30多年的歷史,并在數(shù)百個特征問題上顯示出了較好的性能。然而對于數(shù)千特征的問題,進化算法的效果并不是很理想。因此,使用進化算法來處理這一問題,需要一種新的表示來減少搜索空間的維數(shù)。遺傳算子的設(shè)計,如交叉和突變,提供了辨別好的特征組及組合或調(diào)整互補特征以找到最優(yōu)特征子集的機會,但這是一項具有挑戰(zhàn)性的任務(wù)。

    2.3 基于群集智能的特征選擇

    群集智能算法是人們受自然規(guī)律或生物界規(guī)律的啟發(fā),模仿某些規(guī)律而設(shè)計的求解實際問題的一類算法,它將復(fù)雜任務(wù)交給群體中大量的個體合作完成,具有概念簡單、實現(xiàn)方便的特點?;谶@些優(yōu)點,群集智能算法求解特征選擇問題受到了國內(nèi)外研究者的廣泛關(guān)注[11]。群智能算法包括蟻群優(yōu)化(ant colony optimization, ACO)、粒子群優(yōu)化(particle swarm optimization, PSO)、差分進化(differential evolution, DE)、人工蜂群算法(artificial bee colony, ABC)等[30]。

    Xue等[31]在PSO搜索過程中設(shè)計了新的初始化策略模擬典型的前向和反向特征選擇方法。結(jié)果表明,新的初始化策略顯著提高PSO特征選擇的性能。PSO中開發(fā)新的個體表示用于特征選擇的工作較少,研究者主要對典型表示進行微小的修改,同時用分類算法進行特征選擇和參數(shù)優(yōu)化,工作主要集中在對支持向量機核函數(shù)中的參數(shù)進行優(yōu)化[32-35]。PSO中新的個體表示長度等于特征總數(shù),主要有3種不同編碼方式:連續(xù)編碼[32]、二進制編碼[33]和二進制和連續(xù)編碼的混合[34-35]。PSO最初被提出用于連續(xù)優(yōu)化,因此連續(xù)編碼比其他兩種編碼方案具有更好的性能。

    Vieira等[33]提出新的PSO粒子表示方法,并同時進行特征選擇和SVM核參數(shù)優(yōu)化。該方法中每個粒子對應(yīng)一個初始特征或內(nèi)核參數(shù),表示長度等于特征個數(shù)和內(nèi)核參數(shù)個數(shù)的和。結(jié)果顯示,所提算法比其他二進制PSO特征選擇算法具有更好的分類性能,選擇的特征子集遠小于GA算法。Lane等[36]提出了采用PSO和統(tǒng)計聚類方法解決特征選擇問題,將來自于相同簇的特征分配到一起,然后從每一簇中僅選擇一個特征,該方法顯著減少了所選特征的數(shù)量。隨后,Lane等[37]進一步采用高斯分布從每個簇中選擇多個特征改進了算法,提高了分類性能。Nguyen等[38]提出每一個個體的維度由期望的最大特征數(shù)目確定,該方法確定的個體維度遠遠小于典型解的代表維度,但是難點在于如何確定期望的特征數(shù)量。Tran等[39]提出粒子長度可變表示,從而定義了較小的搜索空間,提高了PSO算法的性能。利用變長機制,PSO可以跳出局部最優(yōu),進一步縮小搜索空間。

    早熟收斂是PSO面臨的一個典型問題,容易使種群陷入局部最優(yōu)。為了避免這一問題,Chuang等[40]提出在有限次迭代中,最佳適應(yīng)度值不變,將gbest置零的重置機制。隨后,Tran等[41]將gbest重置機制與pbest局部搜索結(jié)合,通過被改變的特征來計算適應(yīng)度,加快局部搜索中的評價。Cheng等[42]在所提的PSO算法中,去掉了gbest和pbest,以避免PSO的過早收斂。通過粒子之間的競爭,獲勝者直接進入新的種群。失敗者向獲勝者學習,根據(jù)獲勝者的位置更新它們的位置,然后進入新的種群。該算法被稱為競爭群優(yōu)化算法,適用于大規(guī)模優(yōu)化問題。隨后,Gu等[43]將這種改進的PSO算法應(yīng)用于特征選擇問題。

    適應(yīng)度函數(shù)在PSO特征選擇中起著重要的作用。對于過濾式方法,適應(yīng)度函數(shù)通過使用不同的度量方法確定。而封裝式方法,許多現(xiàn)有的工作使用分類性能作為適應(yīng)度函數(shù)[3,40],導致特征子集相對較大。然而,大多數(shù)適應(yīng)度函數(shù)采用不同的方式將分類性能和特征數(shù)相結(jié)合組成為一個適應(yīng)度函數(shù)[34,44]。但是,如果沒有先驗知識,很難預(yù)先確定它們之間的最佳平衡。多目標特征選擇可以同時優(yōu)化這兩個目標以獲得一組折中解,從而有效地解決這一問題。

    2008年以來DE一直被應(yīng)用于解決特征選擇問題。大部分工作主要集中在改進DE的搜索策略和表示方法。Khushaba等[45]提出將DE用于搜索ACO得到的特征子集的最優(yōu)解的混合特征選擇方法。Ghosh等[46]提出采用自適應(yīng)DE算法用于生成特征子集。隨后,Khushaba等[47]將每個個體作為一個浮點數(shù)向量,并預(yù)先定義向量的長度,提出一種新的編碼方案。此外,研究表明,DE在大規(guī)模優(yōu)化方面也取得了成功[48],但對于特征數(shù)量較多的高維問題,還面臨一些困難。

    Hancer等[49]將基于相似性的進化搜索機制引入到現(xiàn)存的二進制 ABC 版本中,提出了新型二進制 ABC算法用于特征選擇問題。模因算法將基于種群的搜索和局部搜索結(jié)合,為封裝式和過濾式方法提供好的機會。因此,在大多數(shù)模因特征選擇方法中,封裝式特征選擇采用進化計算技術(shù),過濾式特征選擇采用局部搜索算法。

    總之,群集智能算法在特征選擇方面得到了迅速的發(fā)展。然而,作為一種種群優(yōu)化方法,群集智能用于特征選擇效率是有限的。開發(fā)新的PSO算法,特別是新的搜索機制、參數(shù)控制策略以及大規(guī)模特征選擇的表示,仍然是一個有待解決的問題。

    2.4 基于協(xié)同進化的特征選擇

    協(xié)同進化(cooperating coevolution,CC)是進化計算領(lǐng)域的一種技術(shù),從分治策略發(fā)展而來,其思想是首先將復(fù)雜的問題劃分成多個簡單子問題,然后對每個子問題應(yīng)用算法進行求解,最后將子問題的解合并得到原問題的解。協(xié)同進化策略可以嵌入到多種進化算法中,具有很好的魯棒性,已成功應(yīng)用到許多大規(guī)模的組合問題中[50]。Derrac等[51]提出一種基于3種群遺傳算法的協(xié)同進化特征選擇算法。算法將特征選擇和實例選擇同時放在一個過程中,減少了計算時間,對具有大量特征及噪聲實例的數(shù)據(jù)集效果顯著。隨后,Derrac等[52]進一步采用協(xié)同進化,對特征和實例進行數(shù)據(jù)降維,提出了一種最近鄰分類特征選擇和實例選擇的進化模型。Ebrahimpour等[53]提出一種新的基于全局搜索(利用分治策略)的特征選擇方法。該方法利用協(xié)同進化概念,在特征維度上以隨機方式垂直劃分數(shù)據(jù)集,使用過濾式準則以二元引力搜索算法搜索解空間。

    2.5 基于多模態(tài)的特征選擇

    在實際問題中,決策者希望得到多個全局或局部最優(yōu)解,必要時可以在多個最優(yōu)或次優(yōu)解之間快速切換以保證系統(tǒng)正常穩(wěn)定運行[54]。這類需要同時保留多個全局最優(yōu)或局部最優(yōu)解的問題屬于多模態(tài)優(yōu)化(multimodal optimization, MO)問題[55],如機器學習中的分類問題[56]、特征選擇問題[57]等。

    Kamyab等[58]研究了多模態(tài)優(yōu)化技術(shù)在特征選擇問題中的應(yīng)用效果。提出了基于動態(tài)適應(yīng)度共享(dynamic fitness sharing, DFS)、局部最優(yōu)粒子群算法(local best PSO)和GA_SN_CM等現(xiàn)有進化算法的二進制版本,用于從多個基準數(shù)據(jù)集中選擇合適的特征。特征選擇本質(zhì)上是一個高維優(yōu)化問題,需要一個具有較高探索能力的求解器。另一方面,如果可以為問題提供可選的最優(yōu)解方案,則根據(jù)問題領(lǐng)域的成本和限制,實現(xiàn)階段會變得更具選擇性。MO方法具有較強的探索能力和解的保存能力,能夠在一次運行中找到多個合適的解。因此,MO方法可以被認為是尋找適合特征選擇問題的特征子集的有力工具。

    3 基于進化計算的多目標特征選擇

    在許多實際問題中,需要同時優(yōu)化兩個或兩個以上相互沖突的目標,優(yōu)化其中一個目標值,會導致其他目標值的惡化,這類問題被稱為多目標優(yōu)化問題[59]。對于多目標優(yōu)化問題,無法找到單個解使它的每個目標都達到最優(yōu)。在這種情況下,進化算法能夠幫助決策者找到多個目標之間最好的折中解集。

    GA在實現(xiàn)多目標特征選擇方面也得到了廣泛的應(yīng)用,但大多數(shù)都是基于非支配排序的GA II(NSGA-II)或其變體[60-62]。Mukhopadhay等[60]利用NSGA-II和支持向量機(SVM)提出識別微小RNA標記物的多目標的特征選擇方法。Vignolo等[63]應(yīng)用多目標遺傳算法(MOGA)選擇人臉識別中最相關(guān)的一組特征。通過對多個可行選擇空間的探索,使特征子集的基數(shù)最小化,同時最大化特征子集的識別能力。結(jié)果顯示,MOGA得到的解選擇的特征較少,但精度與單目標GA相近。Neshatian等[64]針對二分類問題,提出基于GP的多目標過濾式特征選擇方法。與大多數(shù)只能測量單個特征與類標簽相關(guān)性的過濾式方法不同,該算法能夠發(fā)現(xiàn)特征子集和目標類別之間的隱藏關(guān)系,從而獲得更好的分類性能。

    近年來,DE也被應(yīng)用于多目標特征選擇[65]中,并將非支配解排序應(yīng)用到種群搜索中,研究者提出的多目標方法在分類性能和特征個數(shù)上都優(yōu)于單目標方法所獲得的特征子集。Hancer等[66]將ReliefF和FisherScore兩個過濾式準則結(jié)合起來作為排序度量標準,歸一化交互信息作為相關(guān)性度量標準,并將這兩種度量方法視為兩個相互沖突的目標。結(jié)果表明,該算法獲得較小的特征子集,且分類精度高于使用所有特征。DE雖然成功應(yīng)用于解決特征選擇問題,然而與PSO相比,應(yīng)用DE的特征選擇算法文章仍然較少。此外,研究顯示,DE在應(yīng)用于高維問題時還面臨一些困難[67]。

    Xue等[68-69]首次將MOPSO應(yīng)用于特征選擇上,把分類性能和特征數(shù)量作為多目標優(yōu)化問題的目標函數(shù)進行求解,并將連續(xù)和二進制PSO算法在多目標特征選擇上的性能進行了對比。結(jié)果表明,MOPSO在特征選擇問題上優(yōu)于NSGA-II等。Xue等[70]以最小化特征數(shù)量,最大化所選特征和類標簽之間的相關(guān)性為目標,提出基于MOPSO的過濾式特征選擇方法。結(jié)果顯示,與單目標特征選擇方法相比,該算法具有更高的分類性能。隨后,Nguyen等[71]通過引入插入、刪除和交換局部搜索機制提出了基于改進多目標PSO算法的特征選擇方法。該算法可以選擇數(shù)量較少的特征,并獲得很好的分類性能。

    目前大多數(shù)的多目標特征選擇算法采用基于帕累托(Pareto)支配的算法,這些算法通常集中在Pareto前沿的中心。針對這一問題,Paul等[72]將類間距離和類內(nèi)距離度量作為兩個相互沖突的目標,利用模糊規(guī)則從最終的Pareto前沿提取單個解,提出一種MOEA/D過濾式特征選擇算法。

    在EC技術(shù)中,GA算法的多目標算法是最受歡迎的,但是這些工作只是簡單地應(yīng)用GA而不考慮特征選擇的特點[11],因此對GA進行多目標特征選擇還需要進行深入的研究。

    4 總結(jié)與展望

    近年來,進化計算技術(shù)較為廣泛地應(yīng)用于特征選擇并取得了較大的成功。特征選擇也已成為EC的一個重要應(yīng)用領(lǐng)域。通過歸納已有研究工作,將未來EC技術(shù)在特征選擇上的研究問題歸納如下。

    (1)隨著數(shù)據(jù)規(guī)模越來越大,許多領(lǐng)域的特征數(shù)量達到數(shù)千甚至數(shù)百萬,增加了計算成本。然而,僅靠通過增加計算能力是無法解決的,這就需要先進的搜索機制。現(xiàn)有的基于進化計算的大規(guī)模特征選擇方法大多采用兩階段方法,第一階段采用度量方法對單個特征進行相關(guān)性評價,然后根據(jù)相關(guān)性值對其進行排序。只有排名最靠前的(更好的)特征才會被用作第二階段的輸入,進一步從中選擇特征。但是,第一階段刪除了排名較低的特征,并未考慮它們與其他特征的交互。為了解決這一問題,需要新的搜索算法和新的評價措施。

    (2)大多數(shù)特征選擇方法由于涉及大量的評價,計算成本較高,是進化計算在特征選擇上的一個關(guān)鍵問題。為了降低計算成本,需要高效搜索技術(shù)和快速評估措施。目前的方法中,評價過程占據(jù)了大部分的計算成本。因此,快速評價準則比搜索技術(shù)影響更大。進化計算的可并行性適合于網(wǎng)格計算、圖形處理單元和云計算,可以用來加速評價過程。

    (3)特征選擇本質(zhì)上是組合優(yōu)化問題,隨著特征維數(shù)的增加會導致“維數(shù)災(zāi)難”,傳統(tǒng)的窮舉法容易陷入局部最優(yōu),因此需要一種強大的全局搜索技術(shù)。EC算法是一種隨機方法,使用不同的起始點可能產(chǎn)生不同的解,即使解的適應(yīng)度值相同,也可能選擇不同的個體特征。這就要求新的搜索機制應(yīng)具有穩(wěn)定性。然而,算法的穩(wěn)定性不僅涉及適應(yīng)度值的差異,還涉及所選特征的一致性。因此,提出新的高穩(wěn)定性的搜索算法也是一項重要的任務(wù)。

    (4)評價指標構(gòu)成的適應(yīng)度函數(shù),在很大程度上影響了計算時間、分類性能和搜索空間的分布,是特征選擇的關(guān)鍵因素。封裝式和過濾式的大部分計算時間都用在評估過程中。目前有一些快速評估方法,如交互信息,但它們都是單獨評估特征,而不是一組特征。如果忽略特征之間的交互會導致特征子集具有冗余性并缺少互補特征,從而無法在大多數(shù)領(lǐng)域中實現(xiàn)最佳分類性能。特征交互是一項復(fù)雜且具有挑戰(zhàn)性的任務(wù),目前在這方面的工作還很少。

    (5)大多數(shù)進化計算方法中,傳統(tǒng)表示方法在特征選擇問題上存在很大的搜索空間。一個好的表示方法可以減少搜索空間的大小,從而有助于設(shè)計新的搜索機制來提高搜索能力。目前的表示方法通常只反映是否選擇了某個特性,而不顯示特征之間的交互信息。如果表示能夠反映特征組的選擇或刪除,則可以顯著提高分類性能。

    猜你喜歡
    特征選擇子集適應(yīng)度
    由一道有關(guān)集合的子集個數(shù)題引發(fā)的思考
    改進的自適應(yīng)復(fù)制、交叉和突變遺傳算法
    計算機仿真(2022年8期)2022-09-28 09:53:02
    拓撲空間中緊致子集的性質(zhì)研究
    關(guān)于奇數(shù)階二元子集的分離序列
    Kmeans 應(yīng)用與特征選擇
    電子制作(2017年23期)2017-02-02 07:17:06
    基于空調(diào)導風板成型工藝的Kriging模型適應(yīng)度研究
    中國塑料(2016年11期)2016-04-16 05:26:02
    聯(lián)合互信息水下目標特征選擇算法
    每一次愛情都只是愛情的子集
    都市麗人(2015年4期)2015-03-20 13:33:22
    基于特征選擇和RRVPMCD的滾動軸承故障診斷方法
    基于二元搭配詞的微博情感特征選擇
    計算機工程(2014年6期)2014-02-28 01:26:36
    大香蕉久久成人网| 男女做爰动态图高潮gif福利片 | 亚洲精品国产色婷婷电影| 亚洲精品久久国产高清桃花| 激情视频va一区二区三区| 精品卡一卡二卡四卡免费| 成人18禁高潮啪啪吃奶动态图| av片东京热男人的天堂| av视频在线观看入口| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲成av人片免费观看| 高清黄色对白视频在线免费看| 免费人成视频x8x8入口观看| 国产一区二区三区综合在线观看| 天天躁狠狠躁夜夜躁狠狠躁| 女人高潮潮喷娇喘18禁视频| 精品久久久久久,| 久久亚洲精品不卡| 男女床上黄色一级片免费看| 国产一区二区激情短视频| 国产一区二区在线av高清观看| 女生性感内裤真人,穿戴方法视频| 免费高清视频大片| 在线天堂中文资源库| 欧美黑人欧美精品刺激| 女性生殖器流出的白浆| 日韩视频一区二区在线观看| 久久久久久久午夜电影| 在线永久观看黄色视频| 亚洲第一av免费看| 一区福利在线观看| 久久狼人影院| 天天躁狠狠躁夜夜躁狠狠躁| 一级a爱视频在线免费观看| av天堂久久9| 一区在线观看完整版| 日韩av在线大香蕉| or卡值多少钱| 精品人妻在线不人妻| 91成人精品电影| 亚洲精品在线美女| 亚洲精品一卡2卡三卡4卡5卡| 午夜福利影视在线免费观看| 免费观看精品视频网站| 级片在线观看| 精品欧美一区二区三区在线| 欧美日韩一级在线毛片| 国产熟女午夜一区二区三区| tocl精华| 亚洲七黄色美女视频| 色在线成人网| 黑人巨大精品欧美一区二区mp4| 精品卡一卡二卡四卡免费| 91老司机精品| 成人18禁在线播放| 性欧美人与动物交配| 国产精品美女特级片免费视频播放器 | 妹子高潮喷水视频| 久久国产精品影院| 天天躁狠狠躁夜夜躁狠狠躁| 国内毛片毛片毛片毛片毛片| 99久久精品国产亚洲精品| 精品久久久久久久人妻蜜臀av | 久久久久久久久久久久大奶| 亚洲av电影不卡..在线观看| 人妻丰满熟妇av一区二区三区| 国产在线精品亚洲第一网站| 亚洲熟女毛片儿| 午夜精品国产一区二区电影| 亚洲精品国产区一区二| 欧美亚洲日本最大视频资源| 国产精品久久久久久亚洲av鲁大| 亚洲精品一区av在线观看| 成人永久免费在线观看视频| 国产日韩一区二区三区精品不卡| 久久草成人影院| 日韩一卡2卡3卡4卡2021年| 黄片大片在线免费观看| 中文字幕人妻熟女乱码| 好男人在线观看高清免费视频 | 亚洲国产高清在线一区二区三 | 99国产极品粉嫩在线观看| 久久青草综合色| 国产97色在线日韩免费| 18禁黄网站禁片午夜丰满| 日韩高清综合在线| 久久天躁狠狠躁夜夜2o2o| 精品欧美国产一区二区三| 在线观看免费午夜福利视频| 首页视频小说图片口味搜索| 午夜福利成人在线免费观看| 午夜久久久久精精品| 看免费av毛片| 亚洲一区中文字幕在线| 黄色女人牲交| 国产精品美女特级片免费视频播放器 | 国产精品久久久久久亚洲av鲁大| 欧美日韩亚洲综合一区二区三区_| 欧美黄色淫秽网站| 亚洲专区国产一区二区| 亚洲中文av在线| 国产麻豆69| 在线观看舔阴道视频| 搡老岳熟女国产| 亚洲aⅴ乱码一区二区在线播放 | 欧美一级毛片孕妇| 国产99白浆流出| 久久香蕉国产精品| 中出人妻视频一区二区| 久久国产精品影院| 亚洲av日韩精品久久久久久密| 18禁黄网站禁片午夜丰满| 欧美一级a爱片免费观看看 | 最新在线观看一区二区三区| 人人澡人人妻人| 成年版毛片免费区| 午夜免费成人在线视频| 日韩欧美三级三区| 高清黄色对白视频在线免费看| 很黄的视频免费| 亚洲天堂国产精品一区在线| 国产伦一二天堂av在线观看| 精品一品国产午夜福利视频| 久久九九热精品免费| 亚洲色图综合在线观看| 日本欧美视频一区| 少妇裸体淫交视频免费看高清 | 国产一区二区三区在线臀色熟女| 成年女人毛片免费观看观看9| 一边摸一边抽搐一进一出视频| 欧美午夜高清在线| 国产精品秋霞免费鲁丝片| 久久精品亚洲精品国产色婷小说| 婷婷六月久久综合丁香| 国产精华一区二区三区| 国产在线精品亚洲第一网站| 精品卡一卡二卡四卡免费| 亚洲男人天堂网一区| 欧美日韩中文字幕国产精品一区二区三区 | 欧美精品啪啪一区二区三区| 成人国产一区最新在线观看| 岛国视频午夜一区免费看| 一级,二级,三级黄色视频| 精品久久久久久成人av| 欧美乱色亚洲激情| 婷婷精品国产亚洲av在线| 欧美日本中文国产一区发布| 久久天躁狠狠躁夜夜2o2o| e午夜精品久久久久久久| 人妻丰满熟妇av一区二区三区| 又黄又爽又免费观看的视频| 纯流量卡能插随身wifi吗| 搡老岳熟女国产| 亚洲精品美女久久av网站| 老鸭窝网址在线观看| 国产成人一区二区三区免费视频网站| 亚洲欧洲精品一区二区精品久久久| 国产亚洲精品综合一区在线观看 | 日本撒尿小便嘘嘘汇集6| 高潮久久久久久久久久久不卡| 一本大道久久a久久精品| 午夜精品国产一区二区电影| 日本精品一区二区三区蜜桃| 久久亚洲真实| 免费不卡黄色视频| 最新美女视频免费是黄的| 欧美绝顶高潮抽搐喷水| 12—13女人毛片做爰片一| 99国产精品免费福利视频| 在线观看午夜福利视频| 国产aⅴ精品一区二区三区波| 少妇粗大呻吟视频| 久久精品91无色码中文字幕| 国产精品野战在线观看| av视频免费观看在线观看| 欧美日韩福利视频一区二区| 亚洲最大成人中文| 国产欧美日韩一区二区三| 99riav亚洲国产免费| 亚洲av第一区精品v没综合| 天堂√8在线中文| 亚洲国产欧美一区二区综合| 亚洲免费av在线视频| 免费在线观看日本一区| 国语自产精品视频在线第100页| 伊人久久大香线蕉亚洲五| 国产91精品成人一区二区三区| 黑丝袜美女国产一区| 久久午夜亚洲精品久久| 欧美最黄视频在线播放免费| 巨乳人妻的诱惑在线观看| 国产色视频综合| 久久 成人 亚洲| 天天躁夜夜躁狠狠躁躁| 中文字幕久久专区| netflix在线观看网站| 国产亚洲精品久久久久久毛片| 久久亚洲精品不卡| 丝袜美腿诱惑在线| 香蕉国产在线看| av电影中文网址| 伊人久久大香线蕉亚洲五| 国产一区二区在线av高清观看| 欧美一级毛片孕妇| 波多野结衣高清无吗| 一级,二级,三级黄色视频| 一级毛片高清免费大全| 欧美黑人欧美精品刺激| 国产精品永久免费网站| 涩涩av久久男人的天堂| 操出白浆在线播放| 亚洲三区欧美一区| 一级片免费观看大全| 日日夜夜操网爽| 精品久久久久久,| 一夜夜www| 香蕉国产在线看| 91av网站免费观看| 成年女人毛片免费观看观看9| 国产成+人综合+亚洲专区| 老熟妇仑乱视频hdxx| АⅤ资源中文在线天堂| 国产97色在线日韩免费| 97人妻天天添夜夜摸| 日韩欧美一区二区三区在线观看| 久久精品91无色码中文字幕| 国产99久久九九免费精品| 亚洲国产欧美日韩在线播放| 欧美黄色片欧美黄色片| 免费搜索国产男女视频| 国产亚洲欧美精品永久| 亚洲午夜理论影院| 亚洲国产欧美日韩在线播放| 岛国视频午夜一区免费看| 午夜精品在线福利| 91九色精品人成在线观看| 在线免费观看的www视频| 少妇的丰满在线观看| 丝袜在线中文字幕| 夜夜爽天天搞| 亚洲av成人一区二区三| 啦啦啦 在线观看视频| 欧洲精品卡2卡3卡4卡5卡区| 精品人妻1区二区| 桃红色精品国产亚洲av| 黄色成人免费大全| 狠狠狠狠99中文字幕| 免费一级毛片在线播放高清视频 | 国产区一区二久久| 亚洲精品在线美女| 久久精品成人免费网站| 曰老女人黄片| 黄频高清免费视频| 搡老熟女国产l中国老女人| 中文字幕人妻丝袜一区二区| 国内久久婷婷六月综合欲色啪| 精品人妻1区二区| 欧美乱妇无乱码| 亚洲国产精品合色在线| 俄罗斯特黄特色一大片| 男男h啪啪无遮挡| 一进一出好大好爽视频| 亚洲国产中文字幕在线视频| 国产野战对白在线观看| 很黄的视频免费| 欧美日韩黄片免| 日韩av在线大香蕉| 色婷婷久久久亚洲欧美| 免费看美女性在线毛片视频| 精品国内亚洲2022精品成人| 亚洲成人国产一区在线观看| 精品久久久久久成人av| 国产又爽黄色视频| 亚洲一区高清亚洲精品| 久久久久亚洲av毛片大全| 久久九九热精品免费| 777久久人妻少妇嫩草av网站| 天天添夜夜摸| 一级毛片高清免费大全| 亚洲成av片中文字幕在线观看| 美女扒开内裤让男人捅视频| 村上凉子中文字幕在线| 久久这里只有精品19| 又黄又爽又免费观看的视频| 精品国产美女av久久久久小说| 国产高清有码在线观看视频 | 夜夜看夜夜爽夜夜摸| 99精品欧美一区二区三区四区| 可以在线观看的亚洲视频| 欧美日韩精品网址| 久久久久久久精品吃奶| 又黄又爽又免费观看的视频| 中文字幕另类日韩欧美亚洲嫩草| 99国产精品99久久久久| 欧美激情极品国产一区二区三区| 91老司机精品| 人人妻人人爽人人添夜夜欢视频| 国产精品一区二区在线不卡| 婷婷六月久久综合丁香| 久久伊人香网站| 亚洲成人精品中文字幕电影| 无人区码免费观看不卡| 成人国产一区最新在线观看| 欧美日韩福利视频一区二区| 老司机靠b影院| www.www免费av| 91九色精品人成在线观看| 亚洲av成人不卡在线观看播放网| 在线观看66精品国产| 黄片小视频在线播放| 男人操女人黄网站| 亚洲av成人一区二区三| 亚洲欧美日韩无卡精品| 久久久久久久久久久久大奶| 欧美大码av| 午夜精品国产一区二区电影| 免费看美女性在线毛片视频| svipshipincom国产片| 午夜福利高清视频| 电影成人av| 搞女人的毛片| 亚洲av第一区精品v没综合| 在线观看舔阴道视频| 亚洲无线在线观看| 男男h啪啪无遮挡| 黄色视频不卡| 窝窝影院91人妻| 欧美午夜高清在线| 很黄的视频免费| 国产精品99久久99久久久不卡| 欧美黑人欧美精品刺激| 国产麻豆成人av免费视频| 欧美不卡视频在线免费观看 | 50天的宝宝边吃奶边哭怎么回事| 久久久国产欧美日韩av| av超薄肉色丝袜交足视频| 精品一区二区三区av网在线观看| 精品电影一区二区在线| 制服丝袜大香蕉在线| 国产高清videossex| 亚洲全国av大片| 夜夜爽天天搞| 亚洲精品av麻豆狂野| 99国产精品免费福利视频| 久久人妻av系列| 丰满的人妻完整版| 久久久久精品国产欧美久久久| 一区福利在线观看| 在线播放国产精品三级| 亚洲第一青青草原| 国产片内射在线| 国产xxxxx性猛交| 国产极品粉嫩免费观看在线| 国产精品国产高清国产av| av在线播放免费不卡| 村上凉子中文字幕在线| 亚洲成国产人片在线观看| 777久久人妻少妇嫩草av网站| 女生性感内裤真人,穿戴方法视频| 香蕉国产在线看| 色精品久久人妻99蜜桃| 黄片播放在线免费| 精品久久久久久,| 丝袜人妻中文字幕| 9191精品国产免费久久| 在线免费观看的www视频| 国产欧美日韩综合在线一区二区| 一边摸一边做爽爽视频免费| 91av网站免费观看| 欧美大码av| 最好的美女福利视频网| 久久久久九九精品影院| 日韩精品中文字幕看吧| 香蕉丝袜av| 色综合婷婷激情| АⅤ资源中文在线天堂| 国产av一区在线观看免费| 亚洲成人精品中文字幕电影| 女警被强在线播放| 亚洲国产高清在线一区二区三 | 国产精品综合久久久久久久免费 | 少妇的丰满在线观看| 午夜视频精品福利| 国产精品 国内视频| 久久 成人 亚洲| 精品一品国产午夜福利视频| 精品国产一区二区久久| 又紧又爽又黄一区二区| 久久香蕉国产精品| 一卡2卡三卡四卡精品乱码亚洲| 亚洲精品在线美女| 免费女性裸体啪啪无遮挡网站| 午夜免费鲁丝| 男人舔女人下体高潮全视频| 18禁黄网站禁片午夜丰满| 黑人巨大精品欧美一区二区mp4| 大陆偷拍与自拍| 精品一区二区三区av网在线观看| 亚洲国产看品久久| 99在线视频只有这里精品首页| 九色亚洲精品在线播放| 99在线人妻在线中文字幕| 日本一区二区免费在线视频| 亚洲最大成人中文| 国产精品九九99| 色尼玛亚洲综合影院| 亚洲少妇的诱惑av| 麻豆国产av国片精品| 免费无遮挡裸体视频| 午夜福利在线观看吧| 夜夜看夜夜爽夜夜摸| 真人一进一出gif抽搐免费| 一区二区三区高清视频在线| 免费在线观看亚洲国产| 欧美av亚洲av综合av国产av| 午夜福利成人在线免费观看| 欧美午夜高清在线| 人人澡人人妻人| 欧美黑人欧美精品刺激| 脱女人内裤的视频| 久久久精品欧美日韩精品| 咕卡用的链子| 国产伦人伦偷精品视频| 99国产精品一区二区三区| 满18在线观看网站| 久热爱精品视频在线9| 国产精品久久视频播放| 在线观看www视频免费| 如日韩欧美国产精品一区二区三区| 悠悠久久av| 国产成人av教育| 99国产极品粉嫩在线观看| 国产区一区二久久| 国产不卡一卡二| 亚洲精品国产一区二区精华液| avwww免费| www.精华液| 久久天堂一区二区三区四区| 午夜免费鲁丝| 淫秽高清视频在线观看| 超碰成人久久| 在线观看午夜福利视频| 久久婷婷成人综合色麻豆| 在线观看免费午夜福利视频| 久久国产精品男人的天堂亚洲| 真人一进一出gif抽搐免费| 麻豆久久精品国产亚洲av| 在线观看免费午夜福利视频| av中文乱码字幕在线| 夜夜夜夜夜久久久久| 丁香欧美五月| 久久伊人香网站| 久久中文看片网| 怎么达到女性高潮| 国产成人精品在线电影| 一边摸一边抽搐一进一出视频| 高清毛片免费观看视频网站| 亚洲全国av大片| 狂野欧美激情性xxxx| 精品人妻在线不人妻| 午夜免费鲁丝| 国内毛片毛片毛片毛片毛片| 国产精品1区2区在线观看.| 欧美成狂野欧美在线观看| 日韩欧美国产一区二区入口| 精品久久久久久成人av| 亚洲熟妇中文字幕五十中出| 香蕉久久夜色| 久久精品成人免费网站| 好男人电影高清在线观看| 精品欧美一区二区三区在线| 免费在线观看完整版高清| 中文字幕高清在线视频| 国产精品久久久久久人妻精品电影| 一边摸一边做爽爽视频免费| 国产成人av教育| 日本欧美视频一区| 精品久久久久久久久久免费视频| 一个人免费在线观看的高清视频| 9热在线视频观看99| 午夜精品在线福利| 久久久国产欧美日韩av| 91大片在线观看| 欧美日韩中文字幕国产精品一区二区三区 | 夜夜看夜夜爽夜夜摸| 久久久精品国产亚洲av高清涩受| 男女下面进入的视频免费午夜 | 亚洲午夜理论影院| 电影成人av| 国产高清视频在线播放一区| 99久久综合精品五月天人人| 欧美黑人欧美精品刺激| 亚洲专区字幕在线| 一区二区三区精品91| 神马国产精品三级电影在线观看 | 十分钟在线观看高清视频www| 欧美黑人精品巨大| 人人澡人人妻人| 久久中文字幕人妻熟女| 一边摸一边做爽爽视频免费| 国产麻豆69| 一区二区日韩欧美中文字幕| 国产1区2区3区精品| 国产成人精品久久二区二区91| 999久久久精品免费观看国产| 桃色一区二区三区在线观看| 18禁国产床啪视频网站| 精品卡一卡二卡四卡免费| 亚洲av熟女| 999精品在线视频| 亚洲成国产人片在线观看| 欧美老熟妇乱子伦牲交| 亚洲国产日韩欧美精品在线观看 | 久久午夜综合久久蜜桃| 亚洲av电影在线进入| 欧美日韩精品网址| 国产极品粉嫩免费观看在线| 久久亚洲精品不卡| 一级毛片高清免费大全| 亚洲国产欧美一区二区综合| 欧美+亚洲+日韩+国产| 日韩欧美在线二视频| 女生性感内裤真人,穿戴方法视频| www日本在线高清视频| 国产色视频综合| 无遮挡黄片免费观看| 最近最新中文字幕大全电影3 | 午夜激情av网站| 国产伦人伦偷精品视频| 亚洲精品一卡2卡三卡4卡5卡| 欧美日韩福利视频一区二区| 波多野结衣av一区二区av| 国产成人欧美在线观看| 日本欧美视频一区| 色av中文字幕| 国产高清激情床上av| 亚洲第一电影网av| 婷婷六月久久综合丁香| av天堂久久9| 91麻豆精品激情在线观看国产| 欧美国产日韩亚洲一区| 午夜福利一区二区在线看| 亚洲精品国产色婷婷电影| 精品国产美女av久久久久小说| www.熟女人妻精品国产| 他把我摸到了高潮在线观看| 黑人欧美特级aaaaaa片| 欧美日本中文国产一区发布| 国产成人免费无遮挡视频| 亚洲狠狠婷婷综合久久图片| av电影中文网址| а√天堂www在线а√下载| 亚洲av五月六月丁香网| 18禁裸乳无遮挡免费网站照片 | 久久青草综合色| 国产一区二区在线av高清观看| 精品高清国产在线一区| 亚洲九九香蕉| 亚洲va日本ⅴa欧美va伊人久久| 免费人成视频x8x8入口观看| 亚洲专区国产一区二区| 久久性视频一级片| 国产精品综合久久久久久久免费 | 亚洲va日本ⅴa欧美va伊人久久| 精品欧美国产一区二区三| 国产真人三级小视频在线观看| 国产99久久九九免费精品| av网站免费在线观看视频| 波多野结衣高清无吗| 最新美女视频免费是黄的| 国产伦人伦偷精品视频| 午夜视频精品福利| 高清在线国产一区| 日韩欧美免费精品| 国产成人欧美| 亚洲国产精品久久男人天堂| 天天添夜夜摸| 国产一区二区三区视频了| 精品久久久久久成人av| 免费高清在线观看日韩| 精品国产超薄肉色丝袜足j| 91麻豆av在线| 色综合站精品国产| 少妇 在线观看| 性欧美人与动物交配| 变态另类丝袜制服| 一级黄色大片毛片| 久久精品国产99精品国产亚洲性色 | 丝袜人妻中文字幕| 欧美av亚洲av综合av国产av| 成人欧美大片| 麻豆av在线久日| 久久国产乱子伦精品免费另类| 啦啦啦韩国在线观看视频| 亚洲国产欧美一区二区综合| 涩涩av久久男人的天堂| 久久青草综合色| 1024视频免费在线观看| 色在线成人网| 一级毛片精品| a在线观看视频网站| 美女午夜性视频免费| 午夜日韩欧美国产| 成人手机av| 久久亚洲精品不卡| 一本综合久久免费| 亚洲人成电影免费在线| 在线永久观看黄色视频| 两性午夜刺激爽爽歪歪视频在线观看 | 亚洲熟妇熟女久久| 欧美精品啪啪一区二区三区| 青草久久国产| 最好的美女福利视频网| 免费观看人在逋| 校园春色视频在线观看|