• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于樣本和特征搜索空間不斷縮小的模糊粗糙集特征選擇

    2021-11-08 03:05:22楊燕燕李翔宇杜晨曦李懿恒
    關(guān)鍵詞:特征

    楊燕燕,張 曉,李翔宇,杜晨曦,李懿恒

    (1.北京交通大學(xué) 軟件學(xué)院,北京 100044;2.西安理工大學(xué) 理學(xué)院,西安 710048)

    0 引 言

    隨著信息與通信技術(shù)的迅猛發(fā)展,人們收集、存儲(chǔ)、傳輸和管理數(shù)據(jù)的能力日益提高,使得各行各業(yè)積累了大量高維、海量數(shù)據(jù)[1]。這些高維海量數(shù)據(jù)中往往存在大量的冗余特征,這不僅增加了計(jì)算機(jī)的存儲(chǔ)成本,還對(duì)傳統(tǒng)機(jī)器學(xué)習(xí)算法的性能和效率帶來(lái)了嚴(yán)峻挑戰(zhàn)。特征選擇[2-3]是機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘中處理高維數(shù)據(jù)的主流技術(shù)之一,其主要操作是通過(guò)特定的特征估計(jì)度量和搜索策略,移除冗余以及不相關(guān)的特征為構(gòu)建好的預(yù)測(cè)模型選擇一個(gè)緊湊的、有信息量的特征子集[4-6]。理論和實(shí)踐表明,在執(zhí)行分類任務(wù)之前,對(duì)高維數(shù)據(jù)進(jìn)行特征選擇可有效提高學(xué)習(xí)算法的可解釋性、縮短學(xué)習(xí)算法的訓(xùn)練時(shí)間,并通過(guò)降低過(guò)擬合來(lái)提高學(xué)習(xí)算法的泛化性能[7]。目前,特征選擇已經(jīng)成為機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘領(lǐng)域中的一個(gè)研究熱點(diǎn),引起了學(xué)術(shù)界和企業(yè)界的廣泛關(guān)注,并已成功應(yīng)用于圖像識(shí)別[8]、圖像檢索[9]、文本挖掘[10]、生物數(shù)據(jù)分析[11]、故障診斷[12]等眾多應(yīng)用領(lǐng)域。

    模糊粗糙集[13-14]通過(guò)模糊信息?;姆绞綖樘卣鬟x擇提供了一種有效的方法[15-16]。作為經(jīng)典粗糙集模型[17]的推廣,它是一種處理數(shù)值集中樣本之間的不可辨識(shí)性和模糊性的有力數(shù)學(xué)工具。模糊粗糙集利用模糊相似關(guān)系來(lái)描述樣本之間的相似性,刻畫了數(shù)值數(shù)據(jù)中條件屬性(特征)與決策標(biāo)簽之間的不一致性。這種不一致性表現(xiàn)為2個(gè)樣本具有相同或相似的條件屬性取值,卻有不同的決策標(biāo)簽,其可通過(guò)模糊粗糙集的下近似對(duì)每個(gè)樣本關(guān)于其決策標(biāo)簽指派一個(gè)隸屬度來(lái)進(jìn)行度量[18]。通過(guò)保持每個(gè)樣本的這一隸屬度不變,模糊粗糙集特征選擇,也叫屬性約簡(jiǎn),就能刪去冗余或者不相關(guān)的條件特征以獲取一個(gè)有信息量的特征子集。

    近年來(lái),模糊粗糙集特征選擇的研究已經(jīng)取得了豐碩的成果,出現(xiàn)了各種各樣的模糊粗糙集特征選擇算法[19-23]。這些算法可分為基于測(cè)度的啟發(fā)式算法和基于區(qū)分能力的結(jié)構(gòu)化方法。其中,基于區(qū)分能力的結(jié)構(gòu)化方法以辨識(shí)矩陣的方法為典型代表,從樣本之間的區(qū)分能力的角度構(gòu)造了屬性約簡(jiǎn)方法。模糊粗糙集辨識(shí)矩陣的思想首次由文獻(xiàn)[15]引入,其利用辨識(shí)矩陣的方法研究了屬性約簡(jiǎn)的本質(zhì),設(shè)計(jì)了計(jì)算一個(gè)約簡(jiǎn)的辨識(shí)矩陣算法。然而,該辨識(shí)矩陣的方法需要占據(jù)大量的內(nèi)存,并不適用于大規(guī)模數(shù)據(jù)。鑒于此,文獻(xiàn)[24]提出了基于極小元素的模糊粗糙集特征選擇算法,該算法極大減少了運(yùn)行時(shí)間同時(shí)節(jié)省了大量的內(nèi)存空間。利用文獻(xiàn)[24]中的相對(duì)辨識(shí)關(guān)系的定義,文獻(xiàn)[25-26]構(gòu)造了基于相對(duì)辨識(shí)關(guān)系的模糊粗糙集特征選擇算法。

    基于測(cè)度的啟發(fā)式算法主要借助前向搜索的方式,通過(guò)保持?jǐn)?shù)據(jù)集的模糊依賴函數(shù)或模糊信息熵等特征估計(jì)測(cè)度不變來(lái)獲取該數(shù)據(jù)集的最優(yōu)特征子集。比如,最早提出模糊粗糙集屬性約簡(jiǎn)概念的文獻(xiàn)[27]將經(jīng)典粗糙集中保持依賴函數(shù)不變的思想平移到模糊粗糙集的框架中,設(shè)計(jì)了一個(gè)模糊粗糙集特征選擇的快速算法。然而,文獻(xiàn)[15]指出,文獻(xiàn)[27]所提算法是不收斂的,這對(duì)特征選擇的執(zhí)行帶來(lái)了諸多問(wèn)題。文獻(xiàn)[28-29]用模糊熵的概念刻畫了特征的重要性,進(jìn)而提出了基于模糊熵的特征選擇算法。通過(guò)改進(jìn)文獻(xiàn)[28]中模糊條件熵的定義,文獻(xiàn)[30]定義了λ-條件熵,并提出了基于該模糊熵的filter-wrapper算法。文獻(xiàn)[31]在所提出的擬合模糊粗糙集模型下定義了模糊依賴函數(shù),并設(shè)計(jì)了一個(gè)擬合模糊粗糙集特征選擇的前向啟發(fā)式算法。文獻(xiàn)[32]定義了特征子集的鄰域區(qū)分索引,基于此度量設(shè)計(jì)了一個(gè)數(shù)值數(shù)據(jù)的特征選擇算法。文獻(xiàn)[33]定義了模糊粗糙集自信息,并設(shè)計(jì)了一個(gè)基于模糊自信息的特征選擇算法。

    上述2類模糊粗糙集特征選擇算法不僅具有豐富的理論,也在實(shí)踐中表現(xiàn)出了良好的性能。但是,在確定每一個(gè)最優(yōu)候選特征的過(guò)程中,它們都需要遍歷數(shù)據(jù)集的所有樣本來(lái)計(jì)算每個(gè)候選特征加入后的特征估計(jì)測(cè)度,如依賴函數(shù)、信息熵等。事實(shí)上,并不需要借助數(shù)據(jù)集的所有樣本來(lái)確定一個(gè)最佳候選特征,這便需要借助樣本篩選策略,文獻(xiàn)[34-35]已經(jīng)研究過(guò)樣本篩選的機(jī)制,但是它們卻致力于增量特征選擇算法,這不是本文的研究范疇。另外,在每次迭代過(guò)程中,上述算法也都需要遍歷所有剩余的候選特征來(lái)確定一個(gè)最佳候選特征。事實(shí)上,有些候選特征可能是冗余的,對(duì)特征選擇過(guò)程不起任何作用。通過(guò)這2方面的分析,上述2類模糊粗糙集特征選擇算法還不夠高效?;谶@2個(gè)動(dòng)機(jī),本文通過(guò)研究樣本篩選機(jī)制和特征搜索準(zhǔn)則,在每次確定一個(gè)最佳候選特征后,縮小樣本和特征的搜索范圍,構(gòu)造一個(gè)新的模糊粗糙集特征選擇算法。在UCI機(jī)器學(xué)習(xí)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果也表明該算法的有效性和時(shí)間高效性。

    1 基于依賴函數(shù)的模糊粗糙集特征選擇

    本節(jié)簡(jiǎn)要介紹基于TM-相似關(guān)系的模糊粗糙集模型、正域、依賴函數(shù)及其特征選擇等相關(guān)概念。

    1.1 模糊粗糙集

    設(shè)U是一個(gè)非空論域,F(xiàn)(U×U)是U×U上的模糊冪集。R∈F(U×U)是U×U上的模糊二元關(guān)系。如果對(duì)任意x,y,z∈U,R是自反、對(duì)稱、TM傳遞的,則稱R是U上的一個(gè)模糊等價(jià)關(guān)系。

    文獻(xiàn)[13]首次定義了如下模糊粗糙集的概念。

    定義1[13]設(shè)U是非空論域,R是U上的一個(gè)模糊等價(jià)關(guān)系,X∈F(U)。對(duì)任意x∈U,X的模糊下、上近似算子分別定義為

    基于上述模糊粗糙集,學(xué)者們構(gòu)造了幾類廣義模糊粗糙集模型,有興趣的學(xué)者可參閱文獻(xiàn)[36-37]。本文的研究工作是在定義1的基礎(chǔ)上展開的。

    1.2 模糊粗糙集特征選擇

    本文用模糊決策表(U,A∪D)來(lái)表示一個(gè)數(shù)值或者混合數(shù)據(jù)集,其中U={x1,…,xn}是數(shù)據(jù)集中所有樣本的集合,A是數(shù)據(jù)集中描述樣本的所有特征構(gòu)成的集合,D=j5i0abt0b是決策特征的集合,用于確定數(shù)據(jù)中樣本的標(biāo)簽或者類別。因此,U中的每個(gè)樣本x可由特征集合A描述,d(x)是樣本x的標(biāo)簽。

    性質(zhì)1[38]設(shè)(U,A∪D)是模糊決策表,B?A。任意x∈U對(duì)其自身決策類[x]D的下、上近似隸屬度可簡(jiǎn)化為

    樣本x屬于其自身決策類下近似的隸屬度取值為[0,1],它與x屬于模糊正域的隸屬度之間有下列關(guān)系。

    樣本x屬于B的模糊正域的隸屬度實(shí)質(zhì)上是x對(duì)其自身決策類下近似的隸屬度。

    依賴函數(shù)取值于[0,1],它的幾何含義可解釋為論域中所有樣本到其異類樣本最小距離的平均。模糊依賴函數(shù)也表明特征子集B對(duì)決策的擬合程度。

    定義4[28,39]設(shè)(U,A∪D)是模糊決策表,P?A是決策表的一個(gè)約簡(jiǎn)或最優(yōu)特征子集,若它滿足:

    定義4中的條件1)表明約簡(jiǎn)能保持決策表的依賴函數(shù);條件2)表明約簡(jiǎn)是保持決策表依賴函數(shù)不變的極小特征子集,即從約簡(jiǎn)中刪去任何一個(gè)特征都不能保持決策表的依賴函數(shù)不變。

    性質(zhì)2[39]設(shè)(U,A∪D)是模糊決策表,B?C?A,則有

    性質(zhì)2表明隨著特征集合的增加,模糊決策表的正域和依賴函數(shù)單調(diào)遞增。這一結(jié)論是構(gòu)造特征選擇算法的理論基礎(chǔ)。文獻(xiàn)[39-40],已經(jīng)給出基于模糊依賴函數(shù)的特征選擇算法的具體形式,為了便于實(shí)驗(yàn)比較,本文重新闡述基于依賴函數(shù)的模糊粗糙集特征選擇算法(用DFFS表示)。該算法從空集開始,逐步選擇一個(gè)使得依賴函數(shù)增加最大的候選特征,并將其加入當(dāng)前所選特征子集中,直至數(shù)據(jù)集的模糊依賴函數(shù)保持不變。該算法的偽代碼如下。

    算法1DFFS算法

    輸入:決策表(U,A∪D)。

    輸出:約簡(jiǎn)P。

    For eachai∈A-P

    End for

    End while

    ④輸出約簡(jiǎn)P并終止算法。

    在每次迭代過(guò)程中,該算法的步驟③都需遍歷數(shù)據(jù)集的所有樣本來(lái)計(jì)算每個(gè)可能的候選特征加入后的依賴函數(shù),進(jìn)而從所有剩余候選特征中確定一個(gè)最佳特征。這種搜索模式必須借助于數(shù)據(jù)集的所有樣本和當(dāng)前所有剩余特征。當(dāng)處理海量高維數(shù)據(jù)時(shí),這種搜索模式常常需要花費(fèi)大量運(yùn)行時(shí)間。因此,為節(jié)省計(jì)算模糊粗糙集特征選擇的計(jì)算成本,本文進(jìn)行了深入研究。

    2 基于樣本和特征搜索空間不斷縮減的模糊粗糙集特征選擇算法

    本節(jié)提出了一種基于樣本和特征搜索空間不斷縮減的模糊粗糙集特征選擇算法(用SSFFS表示該算法)。首先,基于性質(zhì)2中樣本對(duì)其自身決策類下近似隸屬度單調(diào)遞增的特性,構(gòu)造樣本篩選機(jī)制,用以篩除決策類下近似已被當(dāng)前所選特征子集保持的樣本,這些樣本將不參與后續(xù)特征選擇過(guò)程中依賴函數(shù)的計(jì)算。其次,定義特征冗余性的概念,設(shè)計(jì)特征搜索準(zhǔn)則,用以移除已被判定為冗余的特征,在后續(xù)特征選擇的過(guò)程中將不再搜索這些特征。最后,通過(guò)融合樣本篩選機(jī)制和特征搜索準(zhǔn)則,相應(yīng)的模糊粗糙集特征選擇算法得以設(shè)計(jì)。

    根據(jù)性質(zhì)2,有下列結(jié)論。

    該定理表明,若當(dāng)前所選特征子集B能保持樣本x對(duì)其自身決策類下近似的隸屬度,則在特征選擇的后續(xù)過(guò)程中,可不用再計(jì)算該樣本對(duì)正域的隸屬度,這樣的操作可節(jié)省樣本空間的搜索范圍。于是,就有了樣本篩選機(jī)制。

    定義5表明,若加入候選特征a到B不能使依賴函數(shù)增加,則a相對(duì)于B是冗余的。

    類似上述的推導(dǎo),有

    該引理表明在特征選擇過(guò)程中,若一個(gè)候選特征的加入不增加樣本的正域,則在后續(xù)特征選擇過(guò)程中,該候選特征的加入依然不增加該樣本的正域。

    定理2對(duì)于a∈A-B,若a關(guān)于特征子集B是冗余的,則對(duì)任意C?B,a關(guān)于特征子集C也是冗余的。

    該定理表明,在特征選擇的早期過(guò)程,已經(jīng)被判定為冗余的特征在后續(xù)特征選擇的過(guò)程中仍然是冗余的。因此,在特征選擇的過(guò)程中,可不搜索這些冗余特征,從而能節(jié)省特征選擇的運(yùn)行時(shí)間?;诙ɡ?,本文給出如下特征搜索準(zhǔn)則。

    通過(guò)上述樣本篩選機(jī)制和特征搜索準(zhǔn)則,本文設(shè)計(jì)了基于樣本和特征空間搜索范圍不斷縮減的模糊粗糙集特征選擇算法,簡(jiǎn)記作SSFFS算法。

    算法的思路如下:從空集P開始,將剩余特征集合left中的每個(gè)特征加入P中,計(jì)算每個(gè)候選特征加入后的依賴函數(shù);將依賴函數(shù)增加最多的特征選作最佳的候選特征,并將其放入P中;計(jì)算最佳候選特征加入后的冗余樣本集合fs(P)和冗余特征集合rf(P);在確定下一個(gè)最佳特征時(shí),只需計(jì)算剩余候選特征集合A-P-rf(P)(而不是A-P)中每個(gè)特征加入后,U-fs(P)(而不是U中每個(gè)樣本的正域)中每個(gè)樣本的正域。通過(guò)重復(fù)上述步驟,當(dāng)剩余樣本的個(gè)數(shù)為0或者剩余特征個(gè)數(shù)為0,算法就終止,從而得出數(shù)據(jù)集的一個(gè)約簡(jiǎn)。

    具體算法如算法2。

    算法2SSFFS算法

    輸入:決策表(U,A∪D)。

    輸出:約簡(jiǎn)P。

    //*集合S是篩除冗余樣本后所剩樣本的集合;集合left是刪去冗余特征和最佳候選特征后所剩特征的集合。*/

    ③WhileS≠φandleft≠φdo

    For eachai∈left

    For eachxj∈S

    //*計(jì)算集合S中每個(gè)樣本的正域*/

    End for

    End for

    End while

    ④輸出約簡(jiǎn)P并終止算法。

    算法2能快速計(jì)算一個(gè)數(shù)據(jù)集的約簡(jiǎn)。步驟②與算法1的步驟②一樣,都是計(jì)算U中每個(gè)樣本的正域,并計(jì)算依賴函數(shù),其復(fù)雜度為O(|U|2|A|)。步驟③每次將已刪去冗余特征后的特征集合left中每個(gè)特征加入P,計(jì)算篩除冗余樣本后的集合S中每個(gè)樣本的正域,進(jìn)而確定一個(gè)最佳候選特征,這種方式可有效縮減樣本和特征空間的搜索范圍,其復(fù)雜度為O(|left|(|P|+1)|S||U|)。而算法1中步驟②的復(fù)雜度為O(|A-P|(|P|+1)|U||U|)。顯然,|S|<|U|,|left|<|A-P|,故O(|left|(|P|+1)·|S||U|)

    3 實(shí)驗(yàn)結(jié)果與分析

    為了驗(yàn)證本文所提出的SSFFS算法的有效性和時(shí)間高效性,本節(jié)在8個(gè)UCI數(shù)據(jù)集上比較SSFFS算法與DFFS算法、RDRAR算法[25]、HANDI算法[32]。下面給出具體的實(shí)驗(yàn)設(shè)置與結(jié)果分析。

    3.1 實(shí)驗(yàn)設(shè)置

    實(shí)驗(yàn)所用的具體運(yùn)行環(huán)境配置如下:Intel(R)Core(TM)i7-7700 CPU @ 3.60GHz 3.60GHz(2 processors), 64.0GB。運(yùn)行的軟件環(huán)境為:Matlab R2018b。實(shí)驗(yàn)選取的8個(gè)數(shù)據(jù)集均來(lái)源于UCI機(jī)器學(xué)習(xí)數(shù)據(jù)庫(kù)(1)http://archive.ics.uci.edu/ml/index.php,詳見(jiàn)表1。

    表1 實(shí)驗(yàn)數(shù)據(jù)集

    對(duì)表1中的每個(gè)數(shù)據(jù)集,采用十折交叉驗(yàn)證法得到實(shí)驗(yàn)結(jié)果。具體地,所有樣本被均分為10份,每份輪流作為測(cè)試集,剩下的9份作為訓(xùn)練集。對(duì)任意一個(gè)訓(xùn)練集中的特征,定義一個(gè)模糊等價(jià)關(guān)系Ra(xi,xj)=1-|a(xi)-a(xj)|,其中,xi和xj是該訓(xùn)練集中的樣本。

    在每個(gè)訓(xùn)練數(shù)據(jù)集上,使用特征選擇算法得到相應(yīng)的最有特征子集。在約簡(jiǎn)后的訓(xùn)練集上使用Matlab自帶的KNN訓(xùn)練分類器,其中分類器的參數(shù)均為默認(rèn)設(shè)置。將訓(xùn)練好的分類器作用于約簡(jiǎn)后的測(cè)試集,得到相應(yīng)的分類精度。這個(gè)過(guò)程對(duì)每一對(duì)訓(xùn)練集和測(cè)試集都執(zhí)行一次,因而最終報(bào)告的實(shí)驗(yàn)結(jié)果是10次實(shí)驗(yàn)結(jié)果的平均值。

    本實(shí)驗(yàn)將比較如下指標(biāo)。

    2)所選特征個(gè)數(shù)。每個(gè)特征選擇算法在10個(gè)訓(xùn)練數(shù)據(jù)集上所選特征的平均個(gè)數(shù)。

    3)分類精度。KNN分類器在約簡(jiǎn)后的測(cè)試數(shù)據(jù)集上的平均分類精度。

    3.2 實(shí)驗(yàn)結(jié)果

    首先給出SSFFS算法、DFFS算法、HANDI算法和RDRAR算法在每個(gè)數(shù)據(jù)集上的平均運(yùn)行時(shí)間、所選特征個(gè)數(shù)、平均KNN分類精度;接著,證實(shí)SSFFS算法確實(shí)在特征選擇的每次迭代過(guò)程中都能刪去冗余的樣本和冗余的特征,從而說(shuō)明它確實(shí)在幾乎每次迭代時(shí)都能減少樣本和特征的搜索空間。

    表2列出了4個(gè)算法SSFFS、DFFS、HANDI和RDRAR在每個(gè)數(shù)據(jù)集上的平均運(yùn)行時(shí)間,即每個(gè)特征選擇算法在每個(gè)數(shù)據(jù)集對(duì)應(yīng)的10個(gè)訓(xùn)練數(shù)據(jù)子集上的平均運(yùn)行時(shí)間。從表2可以看出,在每個(gè)所選數(shù)據(jù)集上,SSFFS算法都比DFFS算法、HANDI算法和RDRAR算法快。具體地,在數(shù)據(jù)集Anneal上,SSFFS算法的運(yùn)行時(shí)間分別是DFFS算法的運(yùn)行時(shí)間的7.198 3%、HANDI算法的24.15%、RDRAR算法的31.19%。在高維數(shù)據(jù)集Gearbox上,SSFFS算法的運(yùn)行時(shí)間僅是DFFS算法的運(yùn)行時(shí)間的2.4%、HANDI算法的10.71%、RDRAR算法的28.74%。在大規(guī)模數(shù)據(jù)集Thyroid上,SSFFS算法的運(yùn)行時(shí)間下降至DFFS算法的3.8%、HANDI算法的7.91%、RDRAR算法的4.26%。這些事實(shí)表明,與DFFS算法、HANDI算法和RDRAR算法相比,SSFFS算法可在最短的時(shí)間內(nèi)獲取一個(gè)最佳特征子集。其主要原因在于,所提SSFFS算法的核心在于能在每次迭代的過(guò)程中縮小樣本空間和特征空間的搜索范圍,這種雙向縮小范圍的搜索模式可極大提高特征選擇的計(jì)算效率。

    表2 不同特征選擇算法的運(yùn)行時(shí)間

    表3列出了4個(gè)特征選擇算法在每個(gè)數(shù)據(jù)集上所選特征的個(gè)數(shù),其中Raw data表示原始數(shù)據(jù)集中特征的個(gè)數(shù)。從表3可看出,所提SSFFS算法在8個(gè)數(shù)據(jù)集上所選特征的平均個(gè)數(shù)僅為8,明顯小于原始數(shù)據(jù)集的平均特征個(gè)數(shù)39.6。SSFFS算法所選特征的平均個(gè)數(shù)也小于算法HANDI算法(平均個(gè)數(shù)為8.7)、DFFS算法(平均個(gè)數(shù)為26.4)以及RDRAR(平均個(gè)數(shù)為33.8)。這些實(shí)驗(yàn)結(jié)果表明,所提SSFFS算法能刪去更多冗余特征。為了說(shuō)明SSFFS算法對(duì)分類器性能的有效性,表4列出了每個(gè)數(shù)據(jù)集的KNN預(yù)測(cè)精度,其中Raw是KNN分類器在原始數(shù)據(jù)集上的分類精度。從表4可看出,SSFFS算法具有最高的平均分類精度0.908,其次是RDRAR算法的分類精度0.906 6,接著是DFFS算法的分類精度0.905 4,最后是HANDI算法的分類精度0.889 7。它們都比原始數(shù)據(jù)集的平均分類精度高(為0.874 8)。這一結(jié)果說(shuō)明特征選擇確實(shí)可以改進(jìn)學(xué)習(xí)算法的性能。

    表3 不同特征選擇算法的所選特征的個(gè)數(shù)

    表4 不同特征選擇算法的KNN平均分類精度

    表2—表4表明,本文所提SSFFS算法不僅能快速地從數(shù)據(jù)集中選擇最有特征子集,也能有效減少冗余特征并能改善學(xué)習(xí)算法的分類性能。

    圖1給出了SSFFS算法在每次迭代的時(shí)候,刪去冗余樣本和冗余特征的個(gè)數(shù)。從圖1能看出,SSFFS算法幾乎在每次迭代時(shí)都能移除冗余樣本和特征。比如在數(shù)據(jù)集Anneal上,一共執(zhí)行了4次迭代,每次迭代時(shí)分別移除了7,24,3,0個(gè)特征,同時(shí)每次迭代時(shí)分別移除了108,90,63,85個(gè)樣本。在數(shù)據(jù)集Park上,一共執(zhí)行了2次迭代,第1次迭代時(shí)移除了2個(gè)特征,324個(gè)樣本,第2次迭代時(shí)移除了24個(gè)特征,298個(gè)樣本。在大規(guī)模數(shù)據(jù)集Thyroid上,SSFFS算法一共執(zhí)行2次循環(huán),第1次循環(huán)時(shí)刪去了20個(gè)特征和28個(gè)樣本,第2次循環(huán)時(shí)刪去了7個(gè)特征和880個(gè)樣本。這些結(jié)果證實(shí),所提SSFFS算法確實(shí)在幾乎每次迭代過(guò)程中都能移除冗余樣本和冗余特征,能有效地減少樣本和特征的搜索范圍,從而極大地提高了特征選擇的計(jì)算效率。

    圖1 每次迭代時(shí)SSFFS算法移除樣本和特征的個(gè)數(shù)

    4 結(jié) 論

    本文提出了一種基于樣本和特征空間搜索范圍不斷縮減的模糊粗糙集特征選擇算法,該算法的核心思想是樣本篩選機(jī)制和特征搜索準(zhǔn)則的構(gòu)造。具體地,本文首先利用每個(gè)樣本的正域隨特征單調(diào)遞增的性質(zhì),構(gòu)造了樣本篩選機(jī)制,用以篩去正域已能被當(dāng)前所選特征子集保持的樣本。其次,本文采用特征冗余的概念,構(gòu)造了特征搜索準(zhǔn)則,用以刪去不能使當(dāng)前所選特征子集依賴函數(shù)增加的特征。接著,將樣本篩選機(jī)制和特征搜索準(zhǔn)則相融合,提出了SSFFS算法。實(shí)驗(yàn)結(jié)果表明SSFFS算法的有效性和高效性,SSFFS算法在每次迭代的過(guò)程中都能有效減少樣本和特征的搜索范圍。

    本文的研究工作在基于TM-模糊粗糙集模型的基礎(chǔ)上展開的,下一步可以在廣義模糊粗糙集模型上作進(jìn)一步驗(yàn)證和研究。具體如下:①將本文的研究思想推廣至廣義粗糙集模型,構(gòu)建廣義粗糙集模型特征選擇的快速算法;②本文的研究集中于數(shù)值數(shù)據(jù)集或者混合數(shù)據(jù)集的處理,并未涉及更復(fù)雜的數(shù)據(jù)集,諸如缺失數(shù)據(jù)、集合值數(shù)據(jù)、文本數(shù)據(jù)、圖片數(shù)據(jù)等,因此,后續(xù)研究也可以把本文的核心思想用于處理更加復(fù)雜的數(shù)據(jù)集,從而建立新的特征選擇快速算法;③特征選擇算法的穩(wěn)定性并未涉及,未來(lái)對(duì)其展開研究,將形成特征選擇穩(wěn)定性的豐富理論。

    猜你喜歡
    特征
    抓住特征巧觀察
    離散型隨機(jī)變量的分布列與數(shù)字特征
    具有兩個(gè)P’維非線性不可約特征標(biāo)的非可解群
    月震特征及與地震的對(duì)比
    如何表達(dá)“特征”
    被k(2≤k≤16)整除的正整數(shù)的特征
    不忠誠(chéng)的四個(gè)特征
    詈語(yǔ)的文化蘊(yùn)含與現(xiàn)代特征
    新聞傳播(2018年11期)2018-08-29 08:15:24
    抓住特征巧觀察
    基于特征篩選的模型選擇
    大码成人一级视频| 在线天堂最新版资源| 免费少妇av软件| 免费看av在线观看网站| 亚洲婷婷狠狠爱综合网| 18禁裸乳无遮挡动漫免费视频| 日本午夜av视频| 全区人妻精品视频| 中文资源天堂在线| 又爽又黄a免费视频| 亚洲精品第二区| 免费观看的影片在线观看| 视频中文字幕在线观看| 一本—道久久a久久精品蜜桃钙片| 午夜日本视频在线| 国产欧美日韩精品一区二区| 女的被弄到高潮叫床怎么办| 中文字幕精品免费在线观看视频 | 色视频在线一区二区三区| 精品一区二区免费观看| 三级经典国产精品| 亚洲国产毛片av蜜桃av| 秋霞在线观看毛片| 日日摸夜夜添夜夜爱| 一本色道久久久久久精品综合| 亚洲真实伦在线观看| 看十八女毛片水多多多| 精品一区二区三卡| 欧美3d第一页| 啦啦啦视频在线资源免费观看| 国产一区亚洲一区在线观看| 亚洲精品乱码久久久久久按摩| 久久鲁丝午夜福利片| 涩涩av久久男人的天堂| 一本一本综合久久| 多毛熟女@视频| 美女主播在线视频| 美女脱内裤让男人舔精品视频| 成年女人在线观看亚洲视频| 最近的中文字幕免费完整| 国产免费视频播放在线视频| 久久人人爽人人爽人人片va| 99久久精品一区二区三区| 免费观看无遮挡的男女| 成人国产av品久久久| 亚洲不卡免费看| av国产久精品久网站免费入址| 亚洲国产欧美在线一区| 中文欧美无线码| 欧美区成人在线视频| 国产午夜精品一二区理论片| 91精品国产九色| 亚洲精品国产av成人精品| 欧美少妇被猛烈插入视频| 亚州av有码| 少妇被粗大猛烈的视频| 一级毛片黄色毛片免费观看视频| 日韩精品免费视频一区二区三区 | 高清在线视频一区二区三区| 国产成人aa在线观看| 国产免费视频播放在线视频| 精品久久国产蜜桃| 草草在线视频免费看| 天天操日日干夜夜撸| 欧美日本中文国产一区发布| 国产免费又黄又爽又色| 三级国产精品片| av不卡在线播放| 多毛熟女@视频| 观看av在线不卡| 性高湖久久久久久久久免费观看| 成人综合一区亚洲| 欧美日韩亚洲高清精品| 简卡轻食公司| 丰满少妇做爰视频| 国产免费视频播放在线视频| 97在线视频观看| 一本—道久久a久久精品蜜桃钙片| 午夜日本视频在线| 免费观看在线日韩| 久久久久久久久久成人| 亚洲第一av免费看| 丰满饥渴人妻一区二区三| 99久国产av精品国产电影| 久久青草综合色| 亚洲欧洲精品一区二区精品久久久 | 国产精品麻豆人妻色哟哟久久| 妹子高潮喷水视频| 成人无遮挡网站| 国产精品一区二区在线不卡| 国产男人的电影天堂91| 久久久久精品久久久久真实原创| 久久免费观看电影| 夫妻性生交免费视频一级片| 亚洲无线观看免费| 国产淫语在线视频| 亚洲不卡免费看| 国产69精品久久久久777片| 人妻少妇偷人精品九色| 欧美日韩国产mv在线观看视频| 在线观看美女被高潮喷水网站| 精品午夜福利在线看| 精品国产乱码久久久久久小说| 91午夜精品亚洲一区二区三区| 最近中文字幕2019免费版| 99re6热这里在线精品视频| 久久婷婷青草| av线在线观看网站| 嘟嘟电影网在线观看| 国产 精品1| 一区二区三区乱码不卡18| 青青草视频在线视频观看| 欧美少妇被猛烈插入视频| 亚洲av福利一区| 日韩中字成人| 亚洲精品,欧美精品| a级毛片在线看网站| 国产熟女欧美一区二区| 在线精品无人区一区二区三| 精品一品国产午夜福利视频| 中文在线观看免费www的网站| 国产爽快片一区二区三区| 晚上一个人看的免费电影| 三级国产精品片| 91久久精品国产一区二区三区| 国产熟女午夜一区二区三区 | 成人亚洲欧美一区二区av| 久久女婷五月综合色啪小说| 亚洲精品自拍成人| a级毛片在线看网站| 汤姆久久久久久久影院中文字幕| 免费观看a级毛片全部| 婷婷色综合大香蕉| 欧美bdsm另类| 极品人妻少妇av视频| 啦啦啦在线观看免费高清www| 色哟哟·www| 一级片'在线观看视频| √禁漫天堂资源中文www| 亚洲自偷自拍三级| 男女国产视频网站| 日韩成人av中文字幕在线观看| 六月丁香七月| 观看美女的网站| 一区二区三区四区激情视频| 最近中文字幕高清免费大全6| 国产高清有码在线观看视频| 在线观看免费高清a一片| 亚洲国产最新在线播放| 一本一本综合久久| 国产精品一区www在线观看| 最近的中文字幕免费完整| 亚洲成人一二三区av| 狠狠精品人妻久久久久久综合| 纯流量卡能插随身wifi吗| 国产无遮挡羞羞视频在线观看| 成年人午夜在线观看视频| 国产综合精华液| 欧美日韩视频高清一区二区三区二| 亚洲欧美日韩卡通动漫| 久久韩国三级中文字幕| 亚洲国产最新在线播放| 日韩亚洲欧美综合| 少妇人妻精品综合一区二区| 亚洲人成网站在线播| 精品一区二区三卡| 另类亚洲欧美激情| 亚洲,欧美,日韩| 女性生殖器流出的白浆| 大陆偷拍与自拍| 亚洲av日韩在线播放| 免费人妻精品一区二区三区视频| 日本色播在线视频| 草草在线视频免费看| 亚洲综合色惰| 国产男女内射视频| 久久人人爽av亚洲精品天堂| 高清不卡的av网站| 最近手机中文字幕大全| 久久久久国产精品人妻一区二区| 午夜激情福利司机影院| 国产亚洲av片在线观看秒播厂| 久久毛片免费看一区二区三区| 女人久久www免费人成看片| 亚洲国产精品一区二区三区在线| a级毛片在线看网站| 日本av免费视频播放| 99久久精品热视频| 美女xxoo啪啪120秒动态图| 日本爱情动作片www.在线观看| 一区二区三区免费毛片| 人妻少妇偷人精品九色| 天堂俺去俺来也www色官网| 精品99又大又爽又粗少妇毛片| 亚洲精品乱码久久久v下载方式| 免费人成在线观看视频色| 十八禁网站网址无遮挡 | 国产男女内射视频| av天堂久久9| 热re99久久国产66热| 国产淫片久久久久久久久| 欧美3d第一页| 91精品国产九色| 亚洲精品国产av蜜桃| 夜夜爽夜夜爽视频| 国产成人午夜福利电影在线观看| 久久久久久久久久成人| 成人免费观看视频高清| 久久久国产精品麻豆| 免费av不卡在线播放| 99视频精品全部免费 在线| 日本黄大片高清| 男女啪啪激烈高潮av片| 又大又黄又爽视频免费| 国产一区亚洲一区在线观看| 我要看日韩黄色一级片| 亚洲欧美日韩卡通动漫| av女优亚洲男人天堂| 国产一级毛片在线| 亚洲不卡免费看| 熟女av电影| 国产av精品麻豆| 亚洲精品乱码久久久久久按摩| 少妇人妻一区二区三区视频| 精品久久久久久电影网| 国产高清国产精品国产三级| 亚洲成人手机| 久久久久网色| 国产亚洲91精品色在线| 久久精品国产自在天天线| 亚洲av福利一区| 日日摸夜夜添夜夜爱| 亚洲人与动物交配视频| 久久精品国产a三级三级三级| 久久久精品免费免费高清| 国产精品一区二区在线观看99| 久久久亚洲精品成人影院| 女人精品久久久久毛片| 美女福利国产在线| 国产美女午夜福利| 涩涩av久久男人的天堂| 亚洲性久久影院| 日本黄大片高清| 看非洲黑人一级黄片| 成人特级av手机在线观看| 国模一区二区三区四区视频| 乱系列少妇在线播放| 一级毛片aaaaaa免费看小| 国产成人精品久久久久久| 国产熟女午夜一区二区三区 | 一级,二级,三级黄色视频| √禁漫天堂资源中文www| 曰老女人黄片| 亚洲精华国产精华液的使用体验| 在线观看免费日韩欧美大片 | 一区二区三区乱码不卡18| 国产伦精品一区二区三区四那| 最新的欧美精品一区二区| 中文字幕av电影在线播放| 高清在线视频一区二区三区| 纵有疾风起免费观看全集完整版| 搡老乐熟女国产| 51国产日韩欧美| 亚洲三级黄色毛片| 成人亚洲欧美一区二区av| 亚洲美女黄色视频免费看| 在线观看美女被高潮喷水网站| 久久精品国产亚洲网站| av在线app专区| 大香蕉久久网| 国产黄频视频在线观看| 国产男女内射视频| 春色校园在线视频观看| 精品久久久久久久久亚洲| 看非洲黑人一级黄片| 久久人人爽人人爽人人片va| 一区二区三区四区激情视频| 亚洲四区av| 极品少妇高潮喷水抽搐| 日韩,欧美,国产一区二区三区| 亚洲av欧美aⅴ国产| 日韩大片免费观看网站| 久久6这里有精品| 秋霞在线观看毛片| 亚洲第一av免费看| 国产精品.久久久| 26uuu在线亚洲综合色| 亚洲精品国产色婷婷电影| 秋霞在线观看毛片| 黄色欧美视频在线观看| 国产成人精品久久久久久| 久久久久精品久久久久真实原创| 国产亚洲最大av| 2021少妇久久久久久久久久久| 久久久久久久大尺度免费视频| 少妇的逼水好多| 午夜福利在线观看免费完整高清在| 亚洲怡红院男人天堂| 日本爱情动作片www.在线观看| 中文字幕亚洲精品专区| 99re6热这里在线精品视频| 免费观看在线日韩| 99久久精品热视频| 在线观看美女被高潮喷水网站| 99热这里只有是精品在线观看| 人人妻人人看人人澡| 在线观看av片永久免费下载| 日韩大片免费观看网站| 国产免费视频播放在线视频| 亚洲精品一区蜜桃| 高清黄色对白视频在线免费看 | 极品少妇高潮喷水抽搐| 久久久亚洲精品成人影院| 久久6这里有精品| 久久精品国产a三级三级三级| 交换朋友夫妻互换小说| 久久人人爽av亚洲精品天堂| 国产一级毛片在线| 亚洲经典国产精华液单| 日韩三级伦理在线观看| 人妻系列 视频| 人妻制服诱惑在线中文字幕| 国产黄频视频在线观看| 国产精品欧美亚洲77777| 一本一本综合久久| 国产高清三级在线| 亚洲中文av在线| 街头女战士在线观看网站| 色哟哟·www| 麻豆成人午夜福利视频| 免费黄频网站在线观看国产| 三级国产精品欧美在线观看| 国产精品无大码| 欧美少妇被猛烈插入视频| 老司机影院成人| 国产精品麻豆人妻色哟哟久久| 久久国产精品大桥未久av | 午夜福利视频精品| 国产一级毛片在线| 人妻一区二区av| 日韩人妻高清精品专区| 啦啦啦在线观看免费高清www| 纵有疾风起免费观看全集完整版| 亚洲av成人精品一二三区| 人人妻人人添人人爽欧美一区卜| 成年av动漫网址| 熟女电影av网| 国产欧美另类精品又又久久亚洲欧美| 99久国产av精品国产电影| 免费人成在线观看视频色| 人妻夜夜爽99麻豆av| 精品一区在线观看国产| 国产精品国产三级国产专区5o| 亚洲,欧美,日韩| 美女主播在线视频| 热re99久久国产66热| 丝瓜视频免费看黄片| 久久免费观看电影| 成人影院久久| 久热久热在线精品观看| 伦理电影大哥的女人| 一区二区av电影网| 久久精品久久精品一区二区三区| 国产一级毛片在线| h日本视频在线播放| 日本vs欧美在线观看视频 | 国产在线视频一区二区| 日韩精品有码人妻一区| 国语对白做爰xxxⅹ性视频网站| 在线免费观看不下载黄p国产| 亚洲欧美成人精品一区二区| 精品人妻偷拍中文字幕| 9色porny在线观看| 成年av动漫网址| 两个人的视频大全免费| 欧美日韩视频高清一区二区三区二| 国产视频内射| 国产欧美亚洲国产| 视频区图区小说| 大片免费播放器 马上看| 亚洲图色成人| 久久女婷五月综合色啪小说| 亚洲国产av新网站| 亚洲婷婷狠狠爱综合网| 十八禁高潮呻吟视频 | 伦理电影免费视频| 麻豆精品久久久久久蜜桃| 中文资源天堂在线| av播播在线观看一区| av在线播放精品| 成人美女网站在线观看视频| 亚洲av日韩在线播放| 我要看日韩黄色一级片| 国产精品伦人一区二区| 波野结衣二区三区在线| 高清av免费在线| 男人狂女人下面高潮的视频| 看十八女毛片水多多多| 我的女老师完整版在线观看| 国产成人aa在线观看| 亚洲国产日韩一区二区| 日日撸夜夜添| 亚洲精品第二区| 日本黄色日本黄色录像| 少妇人妻久久综合中文| 夜夜骑夜夜射夜夜干| 日韩欧美一区视频在线观看 | 中文字幕精品免费在线观看视频 | 国产精品免费大片| 51国产日韩欧美| 国产欧美亚洲国产| 丰满人妻一区二区三区视频av| 国产亚洲一区二区精品| 大香蕉久久网| av又黄又爽大尺度在线免费看| 午夜激情福利司机影院| 99国产精品免费福利视频| 色婷婷av一区二区三区视频| 秋霞在线观看毛片| 国产白丝娇喘喷水9色精品| 亚洲av男天堂| 久久久久网色| 亚洲性久久影院| www.色视频.com| 在线 av 中文字幕| 精品少妇黑人巨大在线播放| 人人妻人人澡人人看| 男人和女人高潮做爰伦理| 两个人免费观看高清视频 | 中文字幕精品免费在线观看视频 | 高清av免费在线| 天堂俺去俺来也www色官网| 黄色配什么色好看| 久久久久视频综合| 色视频www国产| 夜夜看夜夜爽夜夜摸| 91久久精品国产一区二区三区| 亚洲国产成人一精品久久久| 亚洲欧美一区二区三区黑人 | 中国国产av一级| 免费看日本二区| 亚洲成人av在线免费| 午夜激情久久久久久久| 啦啦啦啦在线视频资源| 成人亚洲精品一区在线观看| 亚洲自偷自拍三级| 一级黄片播放器| 精品酒店卫生间| 精品午夜福利在线看| 国产乱来视频区| 亚洲av二区三区四区| 精品午夜福利在线看| 国产日韩欧美视频二区| 黄色配什么色好看| 黑人高潮一二区| 三级国产精品片| 亚洲经典国产精华液单| 有码 亚洲区| 久热久热在线精品观看| 高清午夜精品一区二区三区| 亚洲精品国产成人久久av| 女的被弄到高潮叫床怎么办| av.在线天堂| 美女xxoo啪啪120秒动态图| 乱人伦中国视频| 永久免费av网站大全| 日本爱情动作片www.在线观看| 中文字幕精品免费在线观看视频 | 久久久精品免费免费高清| 在线观看免费日韩欧美大片 | 亚洲综合精品二区| 欧美激情国产日韩精品一区| 日韩三级伦理在线观看| 香蕉精品网在线| 只有这里有精品99| 国产精品熟女久久久久浪| 黑丝袜美女国产一区| 热re99久久国产66热| 一个人看视频在线观看www免费| 91久久精品国产一区二区三区| 欧美97在线视频| 七月丁香在线播放| av线在线观看网站| 久久99精品国语久久久| 日韩亚洲欧美综合| 美女脱内裤让男人舔精品视频| 天堂8中文在线网| 赤兔流量卡办理| 亚洲精品色激情综合| 国产无遮挡羞羞视频在线观看| 老司机影院毛片| 久久99热这里只频精品6学生| 国产成人精品一,二区| 五月伊人婷婷丁香| 亚洲欧美一区二区三区国产| av天堂中文字幕网| 在线观看美女被高潮喷水网站| 中文字幕久久专区| 国产精品秋霞免费鲁丝片| 晚上一个人看的免费电影| 男的添女的下面高潮视频| 99九九在线精品视频 | 日韩中字成人| 久久精品夜色国产| 亚洲欧美一区二区三区黑人 | 嫩草影院入口| 国产成人午夜福利电影在线观看| 日日撸夜夜添| 婷婷色av中文字幕| 寂寞人妻少妇视频99o| 高清不卡的av网站| a级一级毛片免费在线观看| 99久久精品热视频| 国产亚洲一区二区精品| 精品国产露脸久久av麻豆| 视频中文字幕在线观看| 亚洲丝袜综合中文字幕| 亚洲综合色惰| 婷婷色av中文字幕| 欧美精品一区二区大全| 久久午夜福利片| 亚洲久久久国产精品| 一级a做视频免费观看| 亚洲av在线观看美女高潮| 欧美精品一区二区免费开放| 成年人午夜在线观看视频| 免费观看在线日韩| 婷婷色综合www| 人妻一区二区av| 国产精品一区二区在线不卡| 人人妻人人看人人澡| 欧美精品国产亚洲| 国产亚洲av片在线观看秒播厂| 亚洲欧美成人综合另类久久久| 欧美日韩亚洲高清精品| 自拍偷自拍亚洲精品老妇| 国产日韩欧美视频二区| 久久免费观看电影| 国产精品久久久久成人av| 性高湖久久久久久久久免费观看| 一区二区三区四区激情视频| 国产伦理片在线播放av一区| 欧美少妇被猛烈插入视频| 国产午夜精品一二区理论片| 我要看日韩黄色一级片| 久久久欧美国产精品| 精品久久久久久久久av| 日韩电影二区| 精品午夜福利在线看| 国产亚洲av片在线观看秒播厂| www.色视频.com| 乱人伦中国视频| 一本色道久久久久久精品综合| 老女人水多毛片| 精品久久久久久电影网| 欧美日韩亚洲高清精品| 国产精品福利在线免费观看| 国产乱来视频区| 国产精品成人在线| 国产一级毛片在线| 天天操日日干夜夜撸| 最后的刺客免费高清国语| 中文资源天堂在线| 国产高清国产精品国产三级| 另类亚洲欧美激情| 欧美另类一区| 另类亚洲欧美激情| 搡老乐熟女国产| 少妇的逼水好多| 国产亚洲最大av| 久久毛片免费看一区二区三区| 午夜激情久久久久久久| 国产日韩欧美在线精品| 亚洲精品色激情综合| 日韩视频在线欧美| 精品久久国产蜜桃| 国产毛片在线视频| 啦啦啦视频在线资源免费观看| av福利片在线观看| 免费观看的影片在线观看| 99视频精品全部免费 在线| 99九九在线精品视频 | 中国三级夫妇交换| 极品少妇高潮喷水抽搐| 亚洲av.av天堂| videos熟女内射| 女人精品久久久久毛片| 观看免费一级毛片| 精品午夜福利在线看| 免费少妇av软件| 国产男人的电影天堂91| 一级爰片在线观看| 丰满人妻一区二区三区视频av| 久久精品国产鲁丝片午夜精品| 九九久久精品国产亚洲av麻豆| 国产日韩欧美亚洲二区| 成人国产av品久久久| 美女cb高潮喷水在线观看| 九九在线视频观看精品| 人妻人人澡人人爽人人| 国产熟女欧美一区二区| 免费观看的影片在线观看| 日本-黄色视频高清免费观看| 我要看黄色一级片免费的| 久久人妻熟女aⅴ| 我要看黄色一级片免费的| 免费观看在线日韩| 99久久精品国产国产毛片| 永久网站在线| 简卡轻食公司| 在线观看av片永久免费下载| 下体分泌物呈黄色| 亚洲精品视频女| 天堂俺去俺来也www色官网| 国产精品成人在线|