• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    面向高新企業(yè)審計數(shù)據(jù)的特征選擇算法研究

    2020-09-08 11:26:30賴文輝朱定局鄭泳智
    關(guān)鍵詞:互信息馬爾可夫特征選擇

    賴文輝,朱定局,賀 超,黃 立,鄭泳智,李 英

    (華南師范大學,廣東廣州 510631)

    0 引言

    傳統(tǒng)的審計活動一般根據(jù)靜態(tài)的數(shù)據(jù)和固定的模式進行,但隨著科技的發(fā)展及審計需求的變化,審計的方式與手段也發(fā)生改變。審計大數(shù)據(jù)系統(tǒng)能同時處理靜態(tài)與動態(tài)的數(shù)據(jù),用戶在獲得實時數(shù)據(jù)后,將數(shù)據(jù)代入審計模型,得出實時審計結(jié)果以及對結(jié)果的診斷。

    動態(tài)數(shù)據(jù)一般以時間序列的形式進行采集和存儲。動態(tài)審計大數(shù)據(jù)(系統(tǒng))的研究,就是對大數(shù)據(jù)建立動態(tài)數(shù)學模型,基于模型對系統(tǒng)進行分析、診斷、控制和優(yōu)化。對于本文所涉及的動態(tài)公司數(shù)據(jù),采用二階段特征選擇算法進行特征篩選與建模分析。

    隨著近年來模式識別和數(shù)據(jù)挖掘等領(lǐng)域中數(shù)據(jù)規(guī)模和特征維數(shù)的快速增加,特征選擇已成為去除數(shù)據(jù)中非相關(guān)和冗余特征的重要手段。在特征選擇中,最好的特征子集是維數(shù)最少且滿足對分類準確性貢獻最大的子集[1]。本文從二階段特征選擇算法展開,基于過濾式(Filter)和包裹式(Wrapper)的特征選擇算法進行設(shè)計建模,論證所提出的特征選擇方法的有效性。

    1 基于最大互信息系數(shù)的第一階段特征選擇算法

    在原特征子集中存在大量的噪聲數(shù)據(jù),對類別的劃分有不良影響,還會降低特征選擇算法的效率。在本文提出的二階段特征選擇算法中,第一階段使用最大互信息系數(shù)對原特征子集進行數(shù)據(jù)預(yù)處理,有利于提高后續(xù)第二階段算法的運算效率和最優(yōu)特征子集的驗證結(jié)果。

    最大互信息系數(shù)(MIC)由Reshef等人[2]提出,用于衡量2個特征之間線性或非線性的關(guān)系,獲知特征之間廣泛的相關(guān)關(guān)系。定義如式(1)所示:

    式(1)中:a、b分別表示在二維空間x、y方向上劃分的網(wǎng)格數(shù);B為一個表示樣本大小的變量,一般設(shè)置為樣本量n的0.6次方效果最好;I(x、y)為x×y的網(wǎng)格內(nèi)部互信息計算,互信息用于衡量兩個隨機變量之間的關(guān)聯(lián)程度。

    本文在特征選擇的第一階段使用最大化互信息系數(shù)計算特征與類別的相關(guān)程度,去除一些不相關(guān)的數(shù)據(jù)。由于MIC值經(jīng)過歸一化處理,取值范圍在[0,1]之間,根據(jù)各個特征和類別的MIC值直接進行排序和比較。

    2 基于近似馬爾可夫毯和隨機森林的第二階段特征選擇算法

    在通過第一階段的特征預(yù)選擇后,在此基礎(chǔ)上進行第二階段的特征選擇,進一步去除不相關(guān)及冗余特征,優(yōu)化所選特征子集的分類效果。本文選用近似馬爾科夫毯和隨機森林作為第二階段的主要算法。

    2.1 基于近似馬爾可夫毯的第二階段特征選擇算法流程

    馬爾可夫毯(Markov Blanket)算法由Koller等[4]提出,在特征選擇過程中去除冗余的特征,馬爾可夫毯的定義為:在隨機變量的全集U中,對于給定的變量X∈U和變量集若有:

    則稱能滿足上述條件的最小變量集MB為X的馬爾可夫毯(Markov Blanket)。

    快速相關(guān)性濾波算法(FCBF)由Yu等[5]提出,主要應(yīng)用對稱不確定性(SU)代替信息增益(IG)作為衡量一個特征是否與分類相關(guān)或者是否冗余。

    本文在FCBF二階段特征選擇算法基礎(chǔ)上,對第二階段使用近似馬爾可夫毯算法中去除冗余值的方法進行改進和優(yōu)化。馬爾可夫毯算法獲得最優(yōu)特征子集屬于非確定性多項式在時間復(fù)雜度內(nèi)規(guī)約到的NP-hard問題,目前一般使用近似馬爾可夫毯(Approximate Markov Blankets)算法查找最相關(guān)的K個冗余特征[6],采用該近似方法進行特征選擇。

    在第一階段通過MIC進行特征預(yù)選擇后,仍存在的問題是在特征數(shù)為λ的候選子集中,還存在弱相關(guān)和冗余的特征沒有處理。對于該問題,F(xiàn)CBF二階段特征選擇算法通過結(jié)合對稱不確定性和近似馬爾可夫毯的二階段特征選擇算法,再進行特征相關(guān)性比較,去除冗余的特征。

    特征冗余性和相關(guān)性的不同之處在于,相關(guān)性衡量特征和類別之間線性或非線性的程度;冗余性衡量特征子集內(nèi)部的關(guān)系,相比于相關(guān)性的計算,冗余性的復(fù)雜性更加高。FCBF算法將特征主要分為4類:無關(guān)特征、弱相關(guān)且冗余特征、弱相關(guān)非冗余特征和強相關(guān)特征。按照FCBF算法的定義,去除冗余特征后的最佳子集為強相關(guān)特征和弱相關(guān)非冗余的特征,主要通過近似馬爾可夫毯方法實現(xiàn)去除冗余特征,獲得最優(yōu)特征子集(見圖1)。

    圖1 FCBF算法的特征分類定義

    在FCBF算法的基礎(chǔ)上,本文提出通過最大互信息系數(shù)的新特征衡量準則,結(jié)合基于近似馬爾可夫毯的優(yōu)化。使用基于最大互信息系數(shù)和近似馬爾科夫毯的兩階段特征選擇方法,在衡量特征相關(guān)性和冗余性的同時,使特征選擇算法的分類效果更加準確和穩(wěn)定。

    綜合兩階段特征選擇算法的弱相關(guān)和冗余性特征去除過程為:在輸入原數(shù)據(jù)集后,通過特征預(yù)選擇階段得到候選特征子集,然后根據(jù)改進的近似馬爾可夫毯方法提高分類準確率,最后輸出最終特征子集(見圖2)。

    圖2 基于MIC和近似馬爾可夫毯的二階段特征選擇算法流程

    2.2 基于隨機森林的第二階段特征選擇算法

    相較于傳統(tǒng)的過濾式特征,封裝式特征選擇算法在特征選擇過程綁定分類器,使用分類準確率作為衡量準則,最終數(shù)據(jù)集可在某些分類器上獲得更好的分類效果。在隨機森林的基礎(chǔ)上,本文使用封裝式的特征選擇算法去除冗余特征,建立一種結(jié)合過濾式和封裝式的二階段特征選擇算法。

    隨機森林是一種基于裝袋算法(Bagging)的集成學習算法,并使用分類回歸樹(CART)作為弱學習器。決策樹算法一般會在節(jié)點處對所有的樣本特征進行選擇,將最優(yōu)的特征作為決策樹的左右子樹進行劃分,這樣在訓練數(shù)據(jù)上獲得的結(jié)果錯誤率較低,但模型的泛化能力較差。隨機森林在決策樹的基礎(chǔ)上,通過在節(jié)點上隨機地選擇一部分樣本特征,然后在這些樣本特征中選擇最優(yōu)的特征去劃分左右子樹,提高模型的泛化能力,最后再組合弱學習器,通過弱學習器的投票得到最終的分類結(jié)果。

    相比于過濾式(Filter)方法,包裹式(Wrapper)方法將特征選擇與分類器綁定在一起,通過學習算法的分類準確率作為特征選擇的評價準則,使算法的特征選擇結(jié)果分類更加準確;但Wrapper方法需要使用算法模型計算,計算時間更長,在面對高維的數(shù)據(jù)時不如Filter方法適用。Filter和Wrapper方法有各自的優(yōu)勢和缺點,通過二階段的方式可以結(jié)合者兩種方法的優(yōu)點。例如,Alexe等人[7]提出利用信息增益、相關(guān)系數(shù)等方法選擇進行預(yù)選擇,篩選掉與類別無關(guān)或相關(guān)性弱的特征,然后再利用分類器對經(jīng)過預(yù)選擇處理的候選特征子集進行冗余性特征的去除;Zhang等人[8]提出使用F檢驗進行無關(guān)特征的去除,然后通過巴氏距離對候選特征子集進行冗余性的衡量,提高了特征的區(qū)分能力。

    2.2.1 第一階段的Filter算法選擇

    通過將基于隨機森林的特征重要度評價準則和基于最大互信息系數(shù)算法所選擇的特征進行分類,分析比較其分類效果,選擇效果提升更明顯的方法作為第一階段的特征選擇算法。分類效果的評估方法為:使用隨機森林作為分類器并結(jié)合10折交叉驗證的方法計算特征分類結(jié)果的準確率。如圖3所示,以公司審計數(shù)據(jù)為例,橫坐標表達的是通過選擇方法保留的10到50個特征數(shù),縱坐標表達通過保留候選特征子集進行分類學習結(jié)果準確率。進行橫向和縱向?qū)Ρ瓤梢钥闯?,基于最大互信息系?shù)的特征選擇方法,在去除無關(guān)或相關(guān)性弱的特征后分類準確率提升明顯,而通過隨機森林重要度進行選擇的特征,準確率變化不大且保持在較低水平。當高維數(shù)據(jù)中存在較多的噪聲特征時,使用基于最大互信息系數(shù)的特征預(yù)選擇方法去除無關(guān)特征,可以提高第二階段Wrapper方法的特征選擇效果。

    圖3 通過MIC和隨機森林重要度特征選擇的分類準確率比較

    2.2.2 第二階段的Wrapper算法設(shè)計

    在通過最大互信息系數(shù)對原數(shù)據(jù)集中無關(guān)和相關(guān)性低的特性進行去除后,需要考慮進一步的特征縮減并提高分類的效果。本文提出在特征選擇第二階段,使用啟發(fā)式搜索策略中的序列后向選擇算法并結(jié)合隨機森林的分類準確率作為評價函數(shù)進行候選子集的篩選,加入10折交叉驗證方法和引入帶權(quán)重的均值計算方法,提高評價函數(shù)的穩(wěn)定性和有效性,解決審計數(shù)據(jù)集中不同標簽的樣本數(shù)不均衡的問題,提高篩選的特征的準確度。

    根據(jù)候選子集為通過最大互信息系數(shù)值進行排序的集合,弱相關(guān)的特征一般會處于集合的后面,冗余的特征排序位置較為接近,從候選子集開始,通過序列后向選擇搜索策略迭代地計算去除當前特征后的局部特征子集分類準確率是否有提高。其中,局部特征子集的分類準確率指的是,通過隨機森林判斷未刪除特征的特征子集的分類準確率ai是否小于刪除特征后特征子集的分類準確率,如果結(jié)果滿足條件ai≤ai-1,則將全局最優(yōu)準確率amax與刪除特征后的候選特征子集的分類準確率進行比較,當滿足的條件時,更新。算法的搜索策略屬于貪心搜索,使特征選擇結(jié)果的分類準確率接近最優(yōu),搜索的停止條件設(shè)定為當?shù)旰蜻x子集中所有的特征后,沒有產(chǎn)生局部分類準確率提高的結(jié)果時,停止循環(huán)。使用這一算法的優(yōu)勢在于,通過隨機森林的分類準確率對每個特征子集的分類性能進行評估和比較,在不降低或提升分類準確率的前提下降低特征子集中的噪聲,去除相關(guān)性較小和冗余的特征,去取得接近分類器準確率最優(yōu)的結(jié)果。

    假設(shè)候選特征子集的特征個數(shù)為λ,樣本數(shù)為n,隨機森林的基學習器數(shù)為k,則第二階段特征選擇算法的時間復(fù)雜度為。

    將第一階段過濾式特征選擇和第二階段封裝式特征選擇算法的弱相關(guān)和冗余特征去除過程進行綜合,在輸入原數(shù)據(jù)集后,通過Filter特征預(yù)選擇階段得到候選特征子集,根據(jù)Wrapper方法提高分類準確率并輸出最終特征子集(見圖4)。

    圖4 基于MIC和隨機森林的二階段特征選擇算法流程

    3 面向高新企業(yè)審計數(shù)據(jù)的分析和驗證

    為了驗證本文提出的二階段特征選擇算法的有效性,本次實驗除了采用廣東省審計廳的高新企業(yè)審計數(shù)據(jù)外,還加入來自美國加州大學歐文分校用于機器學習的數(shù)據(jù)庫(UCI)的Musk數(shù)據(jù)集,在不同的分類器上進行比較最終特征子集的準確率、精確率、召回率和F1-Score值的結(jié)果。本研究中所有數(shù)據(jù)實驗測試均基于2.3 GHz Intel核與16 G內(nèi)存的Windows 10平臺與Python 3.6編譯環(huán)境上進行。

    3.1 實驗設(shè)計

    本次實驗采用的高新企業(yè)審計數(shù)據(jù)集包含有89個特征屬性,樣本數(shù)為2839個,內(nèi)容主要包括企業(yè)的業(yè)務(wù)信息、創(chuàng)新投入、創(chuàng)新產(chǎn)出和財務(wù)信息等;標簽數(shù)據(jù)為審計專家對企業(yè)的打分數(shù)據(jù),主要分為3個類別:較差、一般和優(yōu)秀。本次實驗采用的Musk數(shù)據(jù)集包含有166個特征屬性,樣本數(shù)為6588個,內(nèi)容主要包括分子的形狀或構(gòu)造,共分為2個類別。見表1所示。

    表1 實驗數(shù)據(jù)集 單位:個

    針對本文提出的二階段特征選擇算法有效性評估,使用經(jīng)過第一階段預(yù)處理后的高新企業(yè)審計和Musk實驗數(shù)據(jù)集進行第二階段的算法性能和特征數(shù)目的對比實驗。本次實驗選擇隨機森林算法作為分類器,高新企業(yè)審計數(shù)據(jù)集和Musk數(shù)據(jù)集進行10折交叉驗證,最終的特征子集特征數(shù)比較結(jié)果如表2所示。

    表2 最終特征子集的特征數(shù)目比較 單位:個

    基于隨機森林的第二階段特征選擇算法在高新企業(yè)審計數(shù)據(jù)集和Musk數(shù)據(jù)集上的具體特征選擇過程分別如圖5和圖6所示,分類的準確率和F1-Score在去除相關(guān)性弱和冗余的特征的同時穩(wěn)定上升。其中,根據(jù)預(yù)選擇個數(shù)的公式,經(jīng)過第一階段特征選擇處理后,高新企業(yè)審計數(shù)據(jù)集的特征數(shù)約為46個,Musk數(shù)據(jù)集的特征數(shù)則約為75個。基于隨機森林算法的第二階段特征選擇算法由于不需要通過閾值篩選冗余或者相關(guān)性弱的特征,算法的搜索策略是在不影響隨機森林分類準確率降低的前提下去除弱相關(guān)和冗余的特征,經(jīng)過在第二階段特征選擇后,高新企業(yè)審計數(shù)據(jù)集的最優(yōu)特征數(shù)為14個,Musk數(shù)據(jù)集的最優(yōu)特征數(shù)則為6個。

    圖5 高新企業(yè)審計數(shù)據(jù)集基于RF的第二階段特征選擇過程

    圖6 Musk數(shù)據(jù)集基于RF的第二階段特征選擇過程

    基于MIC和近似馬爾可夫毯的第二階段特征選擇算法在高新企業(yè)審計數(shù)據(jù)集和Musk數(shù)據(jù)集上特征選擇的過程分別如圖7和圖8所示,圖中橫軸表示第二階段的弱相關(guān)冗余性閾值所分別對應(yīng)的特征數(shù),豎軸表示對應(yīng)的分類效果。根據(jù)預(yù)選擇個數(shù)的公式λ=[n/logn],高新企業(yè)審計數(shù)據(jù)集的特征數(shù)約為46個,Musk數(shù)據(jù)的特征數(shù)則約為75個。在高新企業(yè)審計數(shù)據(jù)集中,當閾值θ定為0.3時,分類準確率和F1-Score表現(xiàn)最好,對應(yīng)的特征數(shù)為8個;在Musk數(shù)據(jù)集中,當閾值θ設(shè)定為0.3時,表現(xiàn)最好,對應(yīng)的特征數(shù)為4個。根據(jù)特征選擇算法的計算方法可知,MIC_MB算法在第二階段通過尋找特征的近似馬爾可夫毯,然后計算特征的弱相關(guān)冗余性進行篩選,對于篩選掉的特征占比和子集內(nèi)部冗余程度的大小完全相關(guān)。

    圖7 高新企業(yè)審計數(shù)據(jù)集基于MIC和近似馬爾可夫毯的第二階段特征選擇過程

    圖8 Musk數(shù)據(jù)集基于MIC和近似馬爾可夫毯的第二階段特征選擇過程

    3.2 實驗結(jié)果對比與分析

    在特征選擇領(lǐng)域,多變量過濾式特征選擇算法因為能夠同時考慮到特征的相關(guān)性和冗余性,因此在實際中被廣泛地使用。本次實驗使用經(jīng)典的多變量特征選擇算法進行相互的比較,主要有ReliefF算法、mRMR算法;同時,為了更加有效地分析本文提出的二階段特征選擇算法效果,加入了同類二階段特征選擇的FCBF算法。

    ReliefF算法是基于Relief算法的一種特征權(quán)重算法[9],通過考察衡量特征和類別的相關(guān)性,對不同的特征賦予不同的權(quán)重。對于特征和類別相關(guān)性的衡量,主要是根據(jù)特征在相同類別的近鄰樣本與不同類別的近鄰樣本之間的差異來度量:如果特征在同類樣本之間差異值較小,而在異類樣本之間差異值較大,則說明該特征和類別的相關(guān)性強,應(yīng)該提高該特征的權(quán)重值。不過,由于Relief只能處理二分類的問題,Kononei[10]在Relief算法的基礎(chǔ)上提出了用于處理多分類問題的ReliefF算法。ReliefF算法的貢獻在于,使用回歸算法支持處理多分類數(shù)據(jù)和使用K近鄰法更新權(quán)重。ReliefF算法因其性能高效而無需使用全局搜索或啟發(fā)式搜索策略,在處理高維數(shù)據(jù)上有廣泛的應(yīng)用。假設(shè)為特征數(shù),p為迭代次數(shù),n為樣例數(shù),則該算法的復(fù)雜度為由于沒有特征的預(yù)處理,ReliefF的計算復(fù)雜度在比較的算法中最高。

    mRMR(Max-Relevance and Min-Redundancy)算法是一種實現(xiàn)特征和類別相關(guān)性最大(Max-Relevance)和特征內(nèi)部之間相關(guān)性最?。∕in-Redundancy)的多變量過濾式特征選擇算法。mRMR算法的度量方法使用的是互信息,最大相關(guān)性主要是計算各個特征和類別間互信息的均值,最小冗余性則主要是對特征內(nèi)部之間的互信息進行求和再除去特征個數(shù)的平方,最后通過使用增量搜查策略得到近似最優(yōu)解。具體的mRMR標準計算方法如式(3)所示,其中m為特征的個數(shù),需要總共計算次互信息計算復(fù)雜度為

    本次實驗將基于最大互信息系數(shù)和馬爾可夫毯的二階段特征選擇方法與基于最大互信息系數(shù)和隨機森林的二階段特征選擇方法、ReliefF算法、mRMR算法進行比較,驗證特征選擇算法結(jié)果的分類器選擇決策樹CART、隨機森林(RF)、支持向量機(SVM)和K最近鄰(KNN)。

    對于不同特征選擇算法生成的最終子集,在不同分類器驗證下的評價結(jié)果可進行對比和分析,得出特征選擇算法的實際有效性。為完全對比各個特征選擇算法的有效性,實驗采用4種不同的特征選擇方法進行比較,分類準確率均值、精確率、召回率均值和F1-Score見表3至表6。

    表3 最終特征子集在不同分類器上的準確率均值對比

    表4 最終特征子集在不同分類器上的精確率均值對比

    表5 最終特征子集在不同分類器上的召回率均值對比

    表6 最終特征子集在不同分類器上的F1-Score均值對比

    表3至表6中加粗字體表示該分類器中表現(xiàn)最好的特征選擇算法。由表中分類效果對比信息,可以得出:

    (1)使用決策樹分類器中,本文提出的MIC_RF算法在Musk數(shù)據(jù)集上的分類效果明顯好于其他的特征選擇算法,F(xiàn)CBF算法在高新企業(yè)審計數(shù)據(jù)集上除了分類精確率的其他方面表現(xiàn)均為最好,而MIC_MB在分類精確率上表現(xiàn)次之;

    (2)使用KNN分類器中,MIC_RF算法在高新企業(yè)審計數(shù)據(jù)集上的分類準確率和F1-Score效果最好,其次為MRMR算法在精確率和ReliefF算法在召回率上的表現(xiàn)最好,而MIC_MB算法在Musk數(shù)據(jù)集上表現(xiàn)明顯最好;

    (3)使用SVM分類器中,所有特征選擇算法在高新企業(yè)審計數(shù)據(jù)集中的分類表現(xiàn)無法區(qū)分,而在Musk數(shù)據(jù)集上MIC_MB算法的表現(xiàn)明顯好于其他的特征選擇算法;

    (4)使用RF分類器中,在高新企業(yè)審計數(shù)據(jù)集上MIC_RF算法的分類準確率和F1-Score表現(xiàn)最好,而MIC_MB算法在分類精確率和召回率上表現(xiàn)最好,在Musk數(shù)據(jù)上MIC_RF算法在分類準確率和召回率的表現(xiàn)最優(yōu),而mRMR算法在分類精確率和F1-Score上表現(xiàn)最優(yōu)。

    綜合以上特征選擇算法的分類結(jié)果對比,mRMR算法僅在Musk數(shù)據(jù)集上隨機森林的分類效果較好,而ReliefF算法的表現(xiàn)最差,完全不如其他的特征選擇算法;未使用特征選擇算法處理的原特征集,從整體的分類效果來看,要比其他經(jīng)過特征選擇處理的數(shù)據(jù)集表現(xiàn)都更差。本文提出的MIC_MB和MIC_RF特征選擇算法的有效性,整體好于多變量特征選擇的mRMR和ReliefF算法,即使是和同類的二階段特征選擇FCBF算法相比較,分類性能表現(xiàn)也是好于后者。

    從實驗效果可以看出,本文提出的二階段特征選擇算法可在第一階段有效地篩選掉無關(guān)和弱相關(guān)的特征,減少第二階段特征選擇算法的計算時間;在第二階段能夠去除絕大部分的弱相關(guān)和冗余性特征,提高在分類器上的實驗效果。

    MIC_MB和MIC_RF特征選擇算法的相同之處在于,在分類性能方面都取得了最好的表現(xiàn)。而這兩類算法的最大區(qū)別則是:MIC_MB算法是基于特征選擇算法FCBF,算法的復(fù)雜度要優(yōu)于MIC_RF算法,特別是在特征高維的數(shù)據(jù)集中的表現(xiàn)更為有效;MIC_RF算法的第二階段特征選擇的評價函數(shù)是和分類器一起綁定,最終子集在特定分類器的結(jié)果要好于傳統(tǒng)過濾式特征選擇算法。因此,在面對候選子集特征數(shù)不高、計算的復(fù)雜度不大的情況下,MIC_RF表現(xiàn)會更加有效;相應(yīng)的,對于特征維度較大、更加需要縮減特征數(shù)的情況下,MIC_MB算法的優(yōu)勢更大。

    4 結(jié)論

    通過特征選擇算法中相關(guān)性和冗余性的衡量,本文提出了兩類二階段特征選擇算法。因單變量的特征選擇算法只能度量特征的相關(guān)性而無法考慮到特征的冗余性,本文在第一階段去除無關(guān)和弱相關(guān)性特征的基礎(chǔ)上,提出在第二階段進一步提高候選子集的有效性。相比于傳統(tǒng)的二階段特征選擇算法在第二階段僅考慮最終特征子集滿足強相關(guān)、弱相關(guān)且非冗余的特點,本文提出在最大互信息系數(shù)去除無關(guān)特征的前提上,在第二階段優(yōu)化衡量特征弱相關(guān)和冗余性的方法,進一步對有用的類別特征進行有效選擇。

    本研究的實驗中,為了綜合比較本文提出的二階段特征選擇算法的表現(xiàn),除了使用高新企業(yè)審計數(shù)據(jù)集外,還添加了UCI的Musk數(shù)據(jù)集。從實驗結(jié)果來看,本文提出的算法整體上好于傳統(tǒng)的多變量特征選擇算法,在高新企業(yè)審計數(shù)據(jù)集上取得有效結(jié)果。

    猜你喜歡
    互信息馬爾可夫特征選擇
    Kmeans 應(yīng)用與特征選擇
    電子制作(2017年23期)2017-02-02 07:17:06
    保費隨機且?guī)в屑t利支付的復(fù)合馬爾可夫二項模型
    基于互信息的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學習
    聯(lián)合互信息水下目標特征選擇算法
    基于SOP的核電廠操縱員監(jiān)視過程馬爾可夫模型
    應(yīng)用馬爾可夫鏈對品牌手機市場占有率進行預(yù)測
    改進的互信息最小化非線性盲源分離算法
    電測與儀表(2015年9期)2015-04-09 11:59:22
    基于增量式互信息的圖像快速匹配方法
    認知無線網(wǎng)絡(luò)中基于隱馬爾可夫預(yù)測的P-CSMA協(xié)議
    基于特征選擇和RRVPMCD的滾動軸承故障診斷方法
    国产亚洲精品第一综合不卡 | 少妇被粗大猛烈的视频| h视频一区二区三区| 一本大道久久a久久精品| 免费不卡的大黄色大毛片视频在线观看| videosex国产| 乱人伦中国视频| 老司机亚洲免费影院| 国产欧美另类精品又又久久亚洲欧美| av.在线天堂| 亚洲国产毛片av蜜桃av| 精品一区二区三区视频在线| 国产男女内射视频| 边亲边吃奶的免费视频| 久久久精品免费免费高清| 久久久久网色| 欧美国产精品一级二级三级| 亚洲av中文av极速乱| 午夜免费男女啪啪视频观看| 建设人人有责人人尽责人人享有的| 久久久精品94久久精品| 亚洲精品久久久久久婷婷小说| 亚洲国产精品999| 三上悠亚av全集在线观看| av卡一久久| 各种免费的搞黄视频| 久久女婷五月综合色啪小说| videos熟女内射| 午夜激情av网站| 两个人看的免费小视频| av福利片在线| 熟女电影av网| 天天影视国产精品| 久久精品夜色国产| 久久久久久久精品精品| 久久久久视频综合| 午夜日本视频在线| 亚洲国产日韩一区二区| av在线老鸭窝| 三级国产精品片| 欧美日韩国产mv在线观看视频| xxx大片免费视频| 日韩av在线免费看完整版不卡| a级片在线免费高清观看视频| 亚洲精品国产av蜜桃| 高清欧美精品videossex| 久久人人爽人人爽人人片va| 最新中文字幕久久久久| 亚洲欧美精品自产自拍| 亚洲欧美色中文字幕在线| 久久国内精品自在自线图片| 国产精品欧美亚洲77777| 欧美日韩成人在线一区二区| 国产免费现黄频在线看| 亚洲三级黄色毛片| 天堂俺去俺来也www色官网| 国产免费一区二区三区四区乱码| 国产成人精品婷婷| 黄片无遮挡物在线观看| 成人免费观看视频高清| 夜夜爽夜夜爽视频| 妹子高潮喷水视频| 欧美国产精品va在线观看不卡| 啦啦啦中文免费视频观看日本| 精品久久久久久电影网| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 国产不卡av网站在线观看| 欧美丝袜亚洲另类| 少妇猛男粗大的猛烈进出视频| xxx大片免费视频| 亚洲熟女精品中文字幕| 精品国产一区二区三区久久久樱花| 精品视频人人做人人爽| 女人被躁到高潮嗷嗷叫费观| 午夜福利影视在线免费观看| 久久影院123| 久久久久精品久久久久真实原创| 最近最新中文字幕大全免费视频 | 天堂俺去俺来也www色官网| 国产成人免费无遮挡视频| 国产成人免费观看mmmm| 亚洲精品自拍成人| av有码第一页| 精品视频人人做人人爽| 三上悠亚av全集在线观看| 最近2019中文字幕mv第一页| 91精品伊人久久大香线蕉| 亚洲欧洲日产国产| 99热国产这里只有精品6| a级毛片在线看网站| videosex国产| kizo精华| 国产xxxxx性猛交| 久久久久久人人人人人| 最近2019中文字幕mv第一页| 日日摸夜夜添夜夜爱| 免费久久久久久久精品成人欧美视频 | 亚洲精品成人av观看孕妇| 久久午夜福利片| 青春草亚洲视频在线观看| 国产极品天堂在线| 国产熟女欧美一区二区| 人人妻人人澡人人爽人人夜夜| 一级,二级,三级黄色视频| 欧美人与善性xxx| 亚洲伊人色综图| 久久精品夜色国产| 国语对白做爰xxxⅹ性视频网站| 狂野欧美激情性xxxx在线观看| 国产精品秋霞免费鲁丝片| 一级,二级,三级黄色视频| 成人亚洲欧美一区二区av| 97超碰精品成人国产| 十八禁高潮呻吟视频| 建设人人有责人人尽责人人享有的| 丝袜美足系列| 在线观看美女被高潮喷水网站| 在线观看三级黄色| av福利片在线| 超色免费av| 亚洲第一区二区三区不卡| 欧美激情国产日韩精品一区| h视频一区二区三区| 日日啪夜夜爽| 国产黄色视频一区二区在线观看| 一本久久精品| 91在线精品国自产拍蜜月| 亚洲精品乱久久久久久| 最黄视频免费看| 国产黄色免费在线视频| 在线天堂最新版资源| av有码第一页| 中国美白少妇内射xxxbb| 国产高清三级在线| 免费看av在线观看网站| 欧美xxxx性猛交bbbb| 春色校园在线视频观看| 看免费av毛片| 男女高潮啪啪啪动态图| 亚洲精品乱久久久久久| 日韩不卡一区二区三区视频在线| 这个男人来自地球电影免费观看 | 一本色道久久久久久精品综合| 免费在线观看黄色视频的| 天天操日日干夜夜撸| 全区人妻精品视频| 午夜福利网站1000一区二区三区| 久久久久精品人妻al黑| 亚洲国产看品久久| 高清在线视频一区二区三区| 最新中文字幕久久久久| 永久免费av网站大全| 国产熟女欧美一区二区| www.av在线官网国产| 考比视频在线观看| 夜夜爽夜夜爽视频| av黄色大香蕉| 亚洲成人一二三区av| 秋霞在线观看毛片| 国产精品久久久久久精品电影小说| 亚洲四区av| videossex国产| 久久97久久精品| 亚洲国产精品一区三区| 色哟哟·www| 日韩中文字幕视频在线看片| 少妇人妻久久综合中文| 69精品国产乱码久久久| 亚洲精品日韩在线中文字幕| 亚洲国产精品一区二区三区在线| 99精国产麻豆久久婷婷| 国产精品.久久久| 亚洲在久久综合| 亚洲,欧美,日韩| 精品视频人人做人人爽| 亚洲三级黄色毛片| 亚洲av在线观看美女高潮| 女的被弄到高潮叫床怎么办| 性色av一级| 国产精品一二三区在线看| 少妇人妻精品综合一区二区| 97人妻天天添夜夜摸| 亚洲国产精品成人久久小说| www日本在线高清视频| 在线 av 中文字幕| 夜夜骑夜夜射夜夜干| 午夜福利影视在线免费观看| 咕卡用的链子| 一本大道久久a久久精品| 春色校园在线视频观看| 日韩免费高清中文字幕av| 日韩免费高清中文字幕av| 丰满少妇做爰视频| 免费观看无遮挡的男女| 91精品国产国语对白视频| 91精品伊人久久大香线蕉| 久久国产亚洲av麻豆专区| 久久韩国三级中文字幕| 一二三四中文在线观看免费高清| av在线播放精品| 国产成人免费无遮挡视频| 毛片一级片免费看久久久久| 黄色毛片三级朝国网站| 亚洲精品av麻豆狂野| 国产黄色视频一区二区在线观看| 国产精品一二三区在线看| 久久精品国产亚洲av涩爱| 日本wwww免费看| 亚洲成人手机| 侵犯人妻中文字幕一二三四区| 亚洲少妇的诱惑av| 国产乱人偷精品视频| 精品亚洲成国产av| 国产又爽黄色视频| 日韩精品免费视频一区二区三区 | 久久av网站| 成年人免费黄色播放视频| 日本黄色日本黄色录像| 女性生殖器流出的白浆| 国产av精品麻豆| 亚洲欧美精品自产自拍| 天天操日日干夜夜撸| 丝袜人妻中文字幕| 国产黄频视频在线观看| 日韩中字成人| 亚洲av男天堂| 国产精品人妻久久久影院| 有码 亚洲区| 黄片播放在线免费| 亚洲欧美日韩卡通动漫| 91精品伊人久久大香线蕉| 一区二区三区乱码不卡18| 久久久久精品性色| 一边摸一边做爽爽视频免费| 国产成人欧美| 久久久久久人妻| 久久精品国产a三级三级三级| 亚洲精品一区蜜桃| 精品亚洲成a人片在线观看| 又黄又爽又刺激的免费视频.| 欧美97在线视频| 另类亚洲欧美激情| 欧美老熟妇乱子伦牲交| 久久精品国产亚洲av涩爱| 久久国产精品大桥未久av| 国产av码专区亚洲av| 午夜日本视频在线| 免费久久久久久久精品成人欧美视频 | 国产av精品麻豆| 欧美人与性动交α欧美软件 | 热99久久久久精品小说推荐| 尾随美女入室| 久久久国产精品麻豆| 日本-黄色视频高清免费观看| 亚洲激情五月婷婷啪啪| 五月伊人婷婷丁香| 最近最新中文字幕免费大全7| 一级片'在线观看视频| 久久影院123| 99九九在线精品视频| 成年人午夜在线观看视频| 国产黄色视频一区二区在线观看| 亚洲精品456在线播放app| 亚洲伊人色综图| 久久婷婷青草| 成年人免费黄色播放视频| av.在线天堂| 大香蕉久久成人网| 久久这里只有精品19| 国产精品免费大片| 精品第一国产精品| 王馨瑶露胸无遮挡在线观看| 国产成人aa在线观看| 久久久久久人人人人人| 在线观看一区二区三区激情| 国产又色又爽无遮挡免| 久久精品人人爽人人爽视色| 男女下面插进去视频免费观看 | 好男人视频免费观看在线| 国产精品熟女久久久久浪| 韩国av在线不卡| 韩国精品一区二区三区 | 欧美bdsm另类| 中文精品一卡2卡3卡4更新| 亚洲av电影在线观看一区二区三区| 午夜福利视频精品| 97精品久久久久久久久久精品| 男人舔女人的私密视频| 精品一品国产午夜福利视频| 91精品三级在线观看| 99视频精品全部免费 在线| 国产极品天堂在线| 日日撸夜夜添| 搡老乐熟女国产| 性色avwww在线观看| 99热这里只有是精品在线观看| 日本91视频免费播放| 亚洲,欧美精品.| 美女脱内裤让男人舔精品视频| 2022亚洲国产成人精品| 亚洲综合色惰| 成人18禁高潮啪啪吃奶动态图| 国语对白做爰xxxⅹ性视频网站| 少妇熟女欧美另类| 国产又爽黄色视频| 亚洲国产日韩一区二区| 永久免费av网站大全| 草草在线视频免费看| 成人影院久久| 人妻人人澡人人爽人人| 久久精品久久久久久久性| 又黄又爽又刺激的免费视频.| 亚洲,欧美,日韩| 亚洲国产精品一区二区三区在线| 成人黄色视频免费在线看| 少妇的逼好多水| 精品卡一卡二卡四卡免费| 一边摸一边做爽爽视频免费| 国产亚洲av片在线观看秒播厂| 国产毛片在线视频| 九九在线视频观看精品| 日本与韩国留学比较| 一本—道久久a久久精品蜜桃钙片| 国产综合精华液| 国产精品嫩草影院av在线观看| 晚上一个人看的免费电影| 国产av一区二区精品久久| 色网站视频免费| 一区在线观看完整版| 多毛熟女@视频| 又黄又粗又硬又大视频| 精品99又大又爽又粗少妇毛片| 80岁老熟妇乱子伦牲交| 亚洲av电影在线进入| 2022亚洲国产成人精品| 成人国语在线视频| 亚洲 欧美一区二区三区| 欧美日韩av久久| 久久精品国产鲁丝片午夜精品| 亚洲在久久综合| 日韩av在线免费看完整版不卡| 亚洲一级一片aⅴ在线观看| 在线观看美女被高潮喷水网站| 久久久久网色| 中文字幕免费在线视频6| 久久av网站| 母亲3免费完整高清在线观看 | 亚洲国产看品久久| 国产av精品麻豆| 观看av在线不卡| 国产精品一区二区在线不卡| 99久国产av精品国产电影| 免费黄网站久久成人精品| 国产毛片在线视频| 精品人妻偷拍中文字幕| 黑人高潮一二区| 美女内射精品一级片tv| 高清在线视频一区二区三区| 国产成人精品在线电影| 高清av免费在线| 久久人人爽人人片av| 久久鲁丝午夜福利片| 国产一区二区在线观看日韩| 我的女老师完整版在线观看| 亚洲精品av麻豆狂野| 热re99久久精品国产66热6| 亚洲国产看品久久| 成年美女黄网站色视频大全免费| 久久久久久伊人网av| 免费观看性生交大片5| 久久精品久久久久久久性| 80岁老熟妇乱子伦牲交| 欧美日韩一区二区视频在线观看视频在线| 久久精品久久久久久噜噜老黄| 校园人妻丝袜中文字幕| 99热全是精品| 18禁国产床啪视频网站| 午夜福利网站1000一区二区三区| 一级毛片 在线播放| 大片免费播放器 马上看| 中文字幕制服av| 免费看光身美女| 制服诱惑二区| 免费大片18禁| 欧美亚洲日本最大视频资源| 久久亚洲国产成人精品v| 蜜臀久久99精品久久宅男| 久久久精品94久久精品| 黄色视频在线播放观看不卡| 国产免费又黄又爽又色| 九九在线视频观看精品| 亚洲国产精品专区欧美| 嫩草影院入口| 免费黄网站久久成人精品| 90打野战视频偷拍视频| 日韩不卡一区二区三区视频在线| 久久精品久久精品一区二区三区| 天堂俺去俺来也www色官网| 午夜视频国产福利| 久久免费观看电影| 国产亚洲午夜精品一区二区久久| 最近2019中文字幕mv第一页| h视频一区二区三区| 欧美精品一区二区大全| 午夜久久久在线观看| 国产黄色视频一区二区在线观看| 亚洲丝袜综合中文字幕| 久久99一区二区三区| 久久人人爽人人爽人人片va| 欧美xxxx性猛交bbbb| 国产av一区二区精品久久| 男女啪啪激烈高潮av片| 亚洲欧洲精品一区二区精品久久久 | 又大又黄又爽视频免费| 高清不卡的av网站| 午夜精品国产一区二区电影| 看十八女毛片水多多多| av片东京热男人的天堂| 夜夜骑夜夜射夜夜干| 国产免费又黄又爽又色| 边亲边吃奶的免费视频| 综合色丁香网| 国产成人午夜福利电影在线观看| 少妇的丰满在线观看| 久久精品国产a三级三级三级| 蜜臀久久99精品久久宅男| 日韩成人av中文字幕在线观看| 国产精品一二三区在线看| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 少妇人妻精品综合一区二区| 国产午夜精品一二区理论片| 亚洲精品久久久久久婷婷小说| 丰满迷人的少妇在线观看| 久久精品久久久久久久性| 国产一区二区三区综合在线观看 | 丝袜脚勾引网站| 蜜桃在线观看..| 制服诱惑二区| 一区二区三区乱码不卡18| 欧美97在线视频| 亚洲精品自拍成人| 在线观看美女被高潮喷水网站| 中文字幕制服av| 最近中文字幕2019免费版| 在线观看三级黄色| 亚洲欧美一区二区三区国产| 97超碰精品成人国产| 日本色播在线视频| 亚洲婷婷狠狠爱综合网| 午夜福利视频在线观看免费| 18禁国产床啪视频网站| 欧美日韩国产mv在线观看视频| www.色视频.com| 成人无遮挡网站| 日韩一区二区视频免费看| 国产精品偷伦视频观看了| 男男h啪啪无遮挡| 国产色婷婷99| 2022亚洲国产成人精品| 黄色怎么调成土黄色| 97在线人人人人妻| 边亲边吃奶的免费视频| 国产免费视频播放在线视频| 午夜免费男女啪啪视频观看| 国产精品成人在线| 黄色毛片三级朝国网站| av在线老鸭窝| 日韩av不卡免费在线播放| 高清欧美精品videossex| 国产精品一区二区在线观看99| 日本爱情动作片www.在线观看| 成年动漫av网址| 久久99蜜桃精品久久| 9191精品国产免费久久| 国产女主播在线喷水免费视频网站| xxx大片免费视频| 国产日韩欧美视频二区| 91精品三级在线观看| 亚洲美女黄色视频免费看| 99久久综合免费| 久久婷婷青草| 五月伊人婷婷丁香| 大香蕉97超碰在线| 亚洲欧美成人精品一区二区| 亚洲国产av影院在线观看| 水蜜桃什么品种好| 国产一区二区激情短视频 | 午夜福利视频精品| 国产xxxxx性猛交| 超色免费av| 精品久久久精品久久久| 国产午夜精品一二区理论片| 欧美日韩精品成人综合77777| 亚洲av免费高清在线观看| 国产毛片在线视频| 国产成人91sexporn| 九色亚洲精品在线播放| 欧美激情极品国产一区二区三区 | 亚洲av综合色区一区| 香蕉丝袜av| 久久99热这里只频精品6学生| 男人添女人高潮全过程视频| 国产精品一国产av| 国产在视频线精品| 国产不卡av网站在线观看| 搡女人真爽免费视频火全软件| 国产老妇伦熟女老妇高清| 久久久久久久久久成人| 国产一区二区在线观看av| a 毛片基地| 欧美精品人与动牲交sv欧美| 亚洲欧美日韩另类电影网站| 国产永久视频网站| 亚洲国产精品成人久久小说| 国产精品久久久久久久电影| 亚洲四区av| 欧美精品一区二区大全| 黄色视频在线播放观看不卡| 亚洲精品aⅴ在线观看| 一本大道久久a久久精品| 成年人免费黄色播放视频| 青春草亚洲视频在线观看| 午夜免费男女啪啪视频观看| 久久久久视频综合| 日韩制服丝袜自拍偷拍| 国产一区二区三区av在线| 妹子高潮喷水视频| 午夜日本视频在线| 亚洲国产精品成人久久小说| 精品国产露脸久久av麻豆| 午夜福利视频精品| 高清视频免费观看一区二区| 黑人猛操日本美女一级片| 又黄又爽又刺激的免费视频.| 色吧在线观看| 在线观看一区二区三区激情| 久久久国产一区二区| 青春草视频在线免费观看| 欧美国产精品一级二级三级| 国产精品国产av在线观看| 夫妻午夜视频| 国产不卡av网站在线观看| 制服人妻中文乱码| 亚洲国产精品999| 在线观看三级黄色| 国产色婷婷99| 一级片'在线观看视频| 在线观看免费视频网站a站| 男女边吃奶边做爰视频| 亚洲精华国产精华液的使用体验| 久久热在线av| 免费看光身美女| 亚洲精品久久午夜乱码| videosex国产| 成人无遮挡网站| 国产免费一级a男人的天堂| 日韩 亚洲 欧美在线| 欧美日韩一区二区视频在线观看视频在线| www日本在线高清视频| 日韩av不卡免费在线播放| a级毛色黄片| 五月伊人婷婷丁香| 久久人人97超碰香蕉20202| 亚洲国产av影院在线观看| 国产色爽女视频免费观看| 久久人人爽人人爽人人片va| 国产不卡av网站在线观看| 国产成人av激情在线播放| 亚洲国产日韩一区二区| 黄色毛片三级朝国网站| 国产一区二区三区综合在线观看 | videos熟女内射| 一级毛片 在线播放| 男人添女人高潮全过程视频| 久久久精品94久久精品| 国产成人一区二区在线| 欧美性感艳星| 午夜福利,免费看| 久久青草综合色| 成年人免费黄色播放视频| 最近中文字幕高清免费大全6| 久久女婷五月综合色啪小说| 精品国产国语对白av| 国产男女超爽视频在线观看| 99久久综合免费| 久久久久久久久久人人人人人人| 欧美日韩国产mv在线观看视频| 亚洲人成77777在线视频| 在线观看免费高清a一片| 国产白丝娇喘喷水9色精品| 日韩欧美精品免费久久| 中文字幕另类日韩欧美亚洲嫩草| 美国免费a级毛片| 狠狠婷婷综合久久久久久88av| 亚洲欧美清纯卡通| 天堂中文最新版在线下载| 成年人午夜在线观看视频| 日韩一本色道免费dvd| 青春草国产在线视频| 制服诱惑二区| 国产欧美日韩一区二区三区在线| 久久精品国产自在天天线| 久久久久久人妻| 免费观看a级毛片全部| 内地一区二区视频在线| 草草在线视频免费看| 极品少妇高潮喷水抽搐| 18禁裸乳无遮挡动漫免费视频| 在线观看一区二区三区激情| 国产激情久久老熟女| 赤兔流量卡办理| 成人漫画全彩无遮挡| 十八禁网站网址无遮挡| 亚洲 欧美一区二区三区| 90打野战视频偷拍视频|