• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于可信度的Android惡意代碼多模型協(xié)同檢測方法

    2020-04-07 03:38:52,,,,,*
    關(guān)鍵詞:分類特征檢測

    ,,,,,*

    (1. 中國民用航空華東地區(qū)空中交通管理局,上海200335;2. 南開大學(xué)網(wǎng)絡(luò)空間安全學(xué)院,天津300350;3. 國家計(jì)算機(jī)病毒應(yīng)急處理中心,天津300457)

    根據(jù)中國互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的研究報(bào)告[1],截止2018年5月,我國監(jiān)測到的移動應(yīng)用程序在架數(shù)量為415萬款,其中基于Android平臺開發(fā)的應(yīng)用更是占據(jù)了大部分市場。由于開源性和高占有率,Android操作系統(tǒng)成為惡意攻擊者針對移動平臺的首要攻擊目標(biāo)。同時(shí),由于用戶的盲目授權(quán)使攻擊者可以輕易繞過系統(tǒng)自帶的安全屏障,如權(quán)限聲明機(jī)制、訪問控制機(jī)制等。利用機(jī)器學(xué)習(xí)算法進(jìn)行惡意應(yīng)用檢測是目前常用的靜態(tài)檢測手段。

    惡意應(yīng)用檢測方法實(shí)際上是二分類問題,指從大量的Android應(yīng)用中區(qū)分出哪些應(yīng)用是惡意應(yīng)用。一般分為以下2個(gè)步驟:第一步,通過對應(yīng)用的解析,能夠得到應(yīng)用的各種描述信息,再從描述信息中提出多種用于分類的特征;第二步,利用數(shù)據(jù)挖掘技術(shù),再根據(jù)提取的特征構(gòu)造分類器。相比于以往的人工分析,利用機(jī)器學(xué)習(xí)檢測可以降低成本、提升效率。

    但這種檢測技術(shù)也存在一定的問題,一方面大多數(shù)檢測方法的特征空間是公開的,并且僅僅依賴于單模型。黑客可以根據(jù)特征的權(quán)重,修改惡意代碼的部分內(nèi)容,使得惡意樣本能夠規(guī)避單模型的分類,從而使模型的準(zhǔn)確度下降。另一方面,惡意代碼變異和進(jìn)化速度快、結(jié)構(gòu)復(fù)雜,每一次惡意代碼變種的出現(xiàn)和大規(guī)模繁殖都是經(jīng)濟(jì)效益驅(qū)動的結(jié)果,嚴(yán)重阻礙著數(shù)據(jù)挖掘技術(shù)的有效應(yīng)用。為了有效緩解模型退化帶來的預(yù)測效果下降的問題,本文提出基于可信度的多模型協(xié)同檢測方法。

    1 相關(guān)工作

    1.1 Android惡意代碼檢測技術(shù)

    惡意代碼檢測技術(shù)主要分為2種:基于簽名的檢測方法和基于行為的檢測方法?;诤灻臋z測方法比較傳統(tǒng),由于Android手機(jī)的計(jì)算能力、存儲能力有限,因此基于簽名的檢測方法無法應(yīng)用在手機(jī)上。而基于行為的檢測技術(shù)不需要依賴簽名,是當(dāng)前主流的惡意代碼檢測方法。依據(jù)是否需要實(shí)際運(yùn)行程序,可以將基于行為的檢測技術(shù)分為以下3種。

    1.1.1 靜態(tài)分析方法

    靜態(tài)分析方法是當(dāng)前應(yīng)用最廣泛的惡意代碼檢測方法。超過一半的檢測方法是基于靜態(tài)分析方法或靜態(tài)分析方法和其他方法相結(jié)合的方式設(shè)計(jì)的。其優(yōu)勢是在應(yīng)用安裝前進(jìn)行分析,不必在監(jiān)測環(huán)境下運(yùn)行代碼。Ma等[2]提出了一種組合檢測惡意代碼的方法。該方法從應(yīng)用的控制流圖中提取API調(diào)用、API使用頻率、API調(diào)用序列這3種靜態(tài)特征,并分別使用C4.5、DNN、LSTM分類算法訓(xùn)練模型,最終采用投票的方法確定測試樣本的標(biāo)簽。Vinod等[3]從隨機(jī)輸入和人工交互輸入中提取系統(tǒng)調(diào)用,使用2種特征選擇方法得到2個(gè)系統(tǒng)調(diào)用集合并構(gòu)建特征矩陣,最后輸入到RandomForest、RotationForest、AdaBoost這3個(gè)訓(xùn)練模型。

    1.1.2 動態(tài)分析方法

    動態(tài)分析要求在沙箱或隔離的環(huán)境中安裝、執(zhí)行應(yīng)用,這樣做的目的是為了能夠盡可能準(zhǔn)確地記錄應(yīng)用運(yùn)行時(shí)的行為。網(wǎng)絡(luò)流量分析是動態(tài)分析的實(shí)例,分析過程中的所有網(wǎng)絡(luò)數(shù)據(jù)包均會被捕獲分析。動態(tài)分析方法能夠監(jiān)控應(yīng)用執(zhí)行過程中應(yīng)用的行為,并檢測應(yīng)用中是否存在惡意行為。該方法能提供更高的安全性,在分析正確的前提下,可以檢測出使用混淆技術(shù)的惡意代碼。缺點(diǎn)是需要在安裝完成后執(zhí)行檢測操作。

    1.1.3 混合分析方法

    混合分析方法能夠結(jié)合動態(tài)和靜態(tài)的優(yōu)勢,能夠提高檢測的準(zhǔn)確程度。DroidCat使用方法調(diào)用和組件間通信調(diào)用(ICC)2種動態(tài)特征進(jìn)行惡意代碼分類,能夠?qū)崿F(xiàn)比靜態(tài)方法和基于系統(tǒng)調(diào)用的動態(tài)分析更好的魯棒性[4]。MalDAE研究靜態(tài)和動態(tài)API調(diào)用之間的聯(lián)系,基于語義將它們合并為混合序列,并定義了多種惡意代碼的行為類型,且提供可解釋的檢測結(jié)果,最終實(shí)現(xiàn)了97.89%的檢測精度和94.39%的分類精度[5]。MADAM利用4個(gè)級別(內(nèi)核、用戶、應(yīng)用、包)的特征實(shí)現(xiàn)了惡意代碼檢測和實(shí)時(shí)阻斷惡意行為的功能,并能檢測到來自125種惡意家族的惡意行為[6]?;旌戏治龅娜秉c(diǎn)在于檢測系統(tǒng)的設(shè)計(jì)十分復(fù)雜。

    1.2 靜態(tài)檢測技術(shù)的改進(jìn)

    基礎(chǔ)的靜態(tài)檢測方法因?yàn)槟P屯嘶?,預(yù)測效果隨之下降,可以從多方面改進(jìn)檢測模型。一種思路是對提取的特征進(jìn)一步提純,選擇其中更具有代表性的特征,在提高運(yùn)算效率的同時(shí)也能夠提升模型預(yù)測的準(zhǔn)確度[7]。Chen等[8]提出將二元特征矩陣通過數(shù)學(xué)分析改為連續(xù)計(jì)數(shù)的向量元素,連續(xù)計(jì)數(shù)取值區(qū)間為0到1。相比于二元矩陣,連續(xù)計(jì)數(shù)會更加精確。王全民等[9]也提出一種協(xié)同訓(xùn)練惡意代碼的檢測方法,具體做法是選取權(quán)限特征、API調(diào)用序列特征和Opcode特征形成3類非重疊的子視圖,針對每一種特征選擇最優(yōu)的分類算法生成3個(gè)分類器,預(yù)測得到3個(gè)結(jié)果。當(dāng)出現(xiàn)不一致情況時(shí),根據(jù)少數(shù)服從多數(shù)的規(guī)則作出最終的決策。

    2 Conformal prediction算法

    Conformal prediction算法可以用于分類或回歸分析的點(diǎn)預(yù)測,如SVM分類方法、決策樹、boosting提高弱分類算法和神經(jīng)網(wǎng)絡(luò)等等[10]。利用該算法能夠得到預(yù)測結(jié)果的可信程度。

    2.1 不一致性度量函數(shù)

    不一致程度測量的關(guān)鍵是一個(gè)實(shí)值函數(shù)A(B,z),該實(shí)值函數(shù)得到項(xiàng)z與集合B的不一致程度,以具體數(shù)值的形式表現(xiàn)出來。在一般情況下,z與z′(z′B)的距離可以表征這個(gè)程度,距離越大時(shí),二者越不相似,故函數(shù)A的定義如下:

    A(B,z):=d(z′(B),z)。

    (1)

    在分類算法中,假設(shè)B={z1,z2,…,zn-1},其中zi=(xi,yi),yi是xi的標(biāo)簽,那么不一致函數(shù)可以表示為:

    (2)

    另外,一致性程度與不一致程度是一組相對概念,取決于實(shí)值函數(shù)A(B,z)的定義。不論是利用一致性得分還是不一致性得分,對p-value的計(jì)算結(jié)果都不會產(chǎn)生影響。

    2.2 p-value

    Conformal prediction算法的關(guān)鍵是計(jì)算p-value,該值體現(xiàn)了待預(yù)測項(xiàng)的不一致性得分在所有項(xiàng)中的排名情況。計(jì)算所有訓(xùn)練集樣本和測試集樣本的不一致性得分,每計(jì)算一個(gè)訓(xùn)練集樣本i的不一致性得分,需要利用其他樣本訓(xùn)練一個(gè)新模型,用該模型預(yù)測i的標(biāo)簽并得到i的不一致性得分。循環(huán)得到所有樣本的不一致性得分。

    給定初始數(shù)據(jù)集{z1(x1,y1),z2(x2,y2),…,zn-1(xn-1,yn-1)},待預(yù)測zn(xn,yn)。Conformal prediction算法通過觀察(z1,z2,…,zn-1,xn)預(yù)測yn,結(jié)合前文不一致程度測量函數(shù)A,Conformal prediction算法計(jì)算p-value的具體過程如下:

    ①假設(shè)yn=y,即zn:=(xn,y);

    ②i=1,2,…,n時(shí),計(jì)算αi=A({z1,z2,…,zn}(〗zi},zi);

    p-value統(tǒng)計(jì)比αn大的αi的數(shù)量在總體n中的占比,p值越大,說明αn與原數(shù)據(jù)集越相似,yn=y的可能性越大。

    2.3 兩個(gè)概念:Vcredibility與Vconfidence

    該算法引入2個(gè)概念,分別是Vcredibility和Vconfidence[11]。若有n種標(biāo)簽時(shí),則循環(huán)假設(shè)y=yi(i= 1, 2,…,n),可以得到n個(gè)p-value值,記為P1,P2,…,Pn。那么:

    Vcredibility=max(Pi),i=1, 2, …,n,

    (3)

    Vconfidence=1-max(PiVcredibility),i=1, 2, …,n。

    (4)

    當(dāng)有4種標(biāo)簽時(shí),Vcredibility與Vconfidence的說明如圖1所示。

    圖1 Vcredibility與Vconfidence說明Fig.1 Instructions of Vcredibility and Vconfidence

    Vcredibility越大,說明預(yù)測的準(zhǔn)確度越高,但僅有這一項(xiàng)評價(jià)指標(biāo)是片面的,Vcredibility較高并不能肯定預(yù)測項(xiàng)屬于該類別,因?yàn)槠渌膒-value值可能也很高,所以引入Vconfidence這個(gè)概念,它計(jì)算的是待測樣本與其他類別的不一致性,Vconfidence越大,說明待測樣本與其他集合越不相似。

    3 基于可信度的協(xié)同檢測系統(tǒng)

    圖2 系統(tǒng)的設(shè)計(jì)框架Fig.2 Framework of system

    多模型協(xié)同檢測系統(tǒng)的設(shè)計(jì)框架可分為如圖2所示的5個(gè)部分:第一部分是Android應(yīng)用的數(shù)據(jù)集,包括良性與惡意的訓(xùn)練集樣本以及測試集樣本;第二部分是特征提取,包括所選特征的相關(guān)信息和特征統(tǒng)計(jì)技術(shù)(TF-IDF)等;第三部分是根據(jù)機(jī)器學(xué)習(xí)算法建立2個(gè)模型,分別是SVM模型和隨機(jī)森林模型;第四部分是利用Conformal prediction算法計(jì)算2種模型預(yù)測結(jié)果的可信程度;最后一部分介紹多模型協(xié)同分析方法,即最終協(xié)同系統(tǒng)的決策方法。

    3.1 特征提取

    本文參照DREBIN[12]算法中提出8種特征進(jìn)行選擇。從Android應(yīng)用的manifest文件和字節(jié)碼文件中各提取4種。然后將樣本中涉及到的8類特征存儲在后綴為data的文件中,樣本與其特征文件一一對應(yīng)。提取的特征信息如表1所示。

    表1 Android應(yīng)用提取的特征

    前四類特征分別與硬件組件請求、權(quán)限信息、系統(tǒng)接口以及進(jìn)程間交互的介質(zhì)有關(guān)。惡意代碼通過獲得這些權(quán)限達(dá)成控制或入侵的目的。后四類特征從字節(jié)碼文件中提取,由于dex文件是安裝時(shí)生成的二進(jìn)制文件,所以可以從中獲得許多有用的信息。

    以上選擇的是字符串形式的特征,而機(jī)器學(xué)習(xí)算法輸入的是數(shù)值向量。因此,需要利用統(tǒng)計(jì)方面的技術(shù)將字符串特征轉(zhuǎn)化為數(shù)值向量。TF-IDF是一種詞頻統(tǒng)計(jì)技術(shù),常用于信息檢索和數(shù)據(jù)挖掘等方面。該技術(shù)的主要思想是:特征串i在Android應(yīng)用j中出現(xiàn)的次數(shù)多,則它的詞頻(TF)就大,而在其他應(yīng)用中出現(xiàn)的次數(shù)較少或甚至不出現(xiàn),則認(rèn)為特征串可以用來區(qū)分應(yīng)用。同理,若包含特征串i的文件很少,特征串i的逆向文檔頻率(IDF)很大,也表明特征串i也有區(qū)分應(yīng)用的能力。利用該技術(shù)可以保留重要的語料,完成字符串到向量的轉(zhuǎn)化。

    3.2 分類算法

    根據(jù)特征提取部分,使用相同的特征構(gòu)建SVM模型和隨機(jī)森林模型。

    SVM算法建立二分類模型,主要思想是在空間中尋找一個(gè)能將所有數(shù)據(jù)劃開的超平面,使得點(diǎn)到超平面的間隔最大。針對惡意代碼檢測,SVM根據(jù)輸入樣本得到能夠區(qū)分良性與惡意應(yīng)用的超平面,并根據(jù)未知應(yīng)用的特征向量預(yù)測其所屬類別。

    隨機(jī)森林算法是集成學(xué)習(xí)思維的應(yīng)用。該算法建立多棵決策樹,通過投票表決得到最終結(jié)果,具有分類效果好,不容易產(chǎn)生過擬合等優(yōu)勢。

    2種算法在不同場景下各有優(yōu)勢。隨機(jī)森林算法可以處理缺失屬性的樣本以及樣本特征關(guān)聯(lián)性不強(qiáng)的情形。SVM算法能夠應(yīng)對特征量巨大的情況,同時(shí)不需要依賴全部數(shù)據(jù)[13]。正是因?yàn)閮烧咭罁?jù)完全不同的分類方法,各有優(yōu)劣,所以本文利用2種算法協(xié)同檢測,選擇可信度更高的結(jié)果,能夠在一定程度上提高預(yù)測的準(zhǔn)確度。

    3.3 可信度計(jì)算

    傳統(tǒng)學(xué)習(xí)模型的分類結(jié)果只說明未知應(yīng)用“是”或者“不是”惡意應(yīng)用,不能給出預(yù)測結(jié)果的可信度,更無從得知模型是否存在退化的問題,所以我們將一致性評估方法應(yīng)用于協(xié)同檢測系統(tǒng)中,用于計(jì)算每一個(gè)單模型預(yù)測結(jié)果,得到其可信程度。

    3.3.1 計(jì)算未知應(yīng)用xi的一致性得分

    分類問題依賴于評分函數(shù),而評分函數(shù)是用來測量一個(gè)樣本與一組舊樣本之間的差異性。對于不同的算法,測試樣本的一致性得分就等于算法評分函數(shù)的輸出值。因?yàn)橐恢滦栽u估和算法本身無關(guān),所以可以在多種機(jī)器學(xué)習(xí)算法的頂層利用預(yù)測結(jié)果的可信度進(jìn)行惡意代碼檢測。本文利用SVM和隨機(jī)森林分類模型實(shí)現(xiàn)協(xié)同分析,使用2種模型分別預(yù)測未知應(yīng)用xi的標(biāo)簽,而后計(jì)算每個(gè)模型對未知應(yīng)用的評分。由于惡意代碼檢測是二分類問題,故只有惡意與良性2種標(biāo)簽,且每一類標(biāo)簽都有對應(yīng)的評分(衡量未知應(yīng)用xi與其他應(yīng)用之間的差異性程度)。對于未知應(yīng)用xi,每個(gè)模型都輸出2個(gè)評分,總共可以得到4個(gè)一致性得分:

    (5)

    3.3.2 計(jì)算未知應(yīng)用xi的p-value

    p-value是表示一個(gè)新應(yīng)用與已知應(yīng)用集合之間一致性的統(tǒng)計(jì)量,反映了新應(yīng)用在已知集合中的顯著程度。計(jì)算一致性得分是計(jì)算p-value的基礎(chǔ)。根據(jù)一致性得分與標(biāo)簽數(shù)量的關(guān)系,并且協(xié)同分析系統(tǒng)是在2個(gè)模型的基礎(chǔ)上實(shí)現(xiàn)的,所以未知應(yīng)用xi對應(yīng)4個(gè)一致性得分。同樣地,可以計(jì)算出xi的4個(gè)p-value值:

    (6)

    3.3.3 計(jì)算未知應(yīng)用xi的Vcredibility與Vconfidence

    對于未知應(yīng)用xi,可以從每個(gè)模型的預(yù)測結(jié)果中得到1組Vcredibility和Vconfidence。根據(jù)本文中使用的SVM和隨機(jī)森林分類模型,可以得到2組Vcredibility和Vconfidence:

    (7)

    3.3.4 計(jì)算未知應(yīng)用xi的Vquality

    本文定義一個(gè)綜合評價(jià)模型預(yù)測指標(biāo)Vquality,即預(yù)測結(jié)果的可信程度。Vquality的計(jì)算表達(dá)式如(8)所示。

    Vquality=Vcredibility×Vconfidence。

    (8)

    Vcredibility越大,說明待測樣本與預(yù)測集合越相似,Vconfidence越大,待測樣本與其他集合的相似程度越小,所以將二者相乘得到的Vquality可以更加全面地、放大地考慮某一模型預(yù)測結(jié)果的可信程度。

    3.4 決策方法

    協(xié)同檢測系統(tǒng)的預(yù)測結(jié)果從2個(gè)單模型的預(yù)測結(jié)果中選擇。

    ①當(dāng)2個(gè)單模型預(yù)測結(jié)果一致時(shí),可以相互印證,協(xié)同檢測系統(tǒng)的結(jié)果與二者相同。

    ②當(dāng)2個(gè)單模型預(yù)測結(jié)果相異時(shí),比較2個(gè)單模型的Vquality,選擇Vquality更大的模型預(yù)測結(jié)果作為最終預(yù)測結(jié)果。

    4 實(shí)驗(yàn)結(jié)果

    4.1 實(shí)驗(yàn)數(shù)據(jù)

    AndroZoo是一個(gè)從多種渠道收集Android應(yīng)用的平臺,并以APK的形式呈現(xiàn)給使用者。本次實(shí)驗(yàn)的數(shù)據(jù)全部來源這個(gè)網(wǎng)站。

    取2015年1月到10月的部分應(yīng)用作為本次實(shí)驗(yàn)數(shù)據(jù),其中1月、2月為訓(xùn)練集,3月至10月為測試集,每月取良性樣本與惡意樣本的比例為1∶1,共獲得訓(xùn)練集樣本13 028個(gè),測試集樣本66 972個(gè),訓(xùn)練集樣本分布見表2,測試集樣本分布見表3。

    表2 訓(xùn)練集樣本分布

    表3 測試集樣本分布

    4.2 評價(jià)指標(biāo)

    在機(jī)器學(xué)習(xí)算法中,需要用不同的指標(biāo)對算法的預(yù)測情況作出評價(jià),在本次系統(tǒng)設(shè)計(jì)中,選擇精確率(Precision)、召回率(Recall)和綜合評價(jià)指標(biāo)(F1)三者作為衡量其預(yù)測優(yōu)劣的依據(jù)。精確率體現(xiàn)的是預(yù)測正確的數(shù)據(jù)占全部數(shù)據(jù)的比值;召回率體現(xiàn)的是所有預(yù)測為正類的數(shù)據(jù)中預(yù)測正確的數(shù)據(jù)占比;而綜合評價(jià)指標(biāo)F1則是綜合考慮精確率、召回率后給出的計(jì)算公式,其中TP代表將正類預(yù)測為正類的數(shù)量,TN代表將負(fù)類預(yù)測為負(fù)類的數(shù)量,TFP代表將負(fù)類預(yù)測為正類的數(shù)量,ηP代表精確率,ηR代表召回率。評價(jià)指標(biāo)的公式見表4。

    表4 評價(jià)指標(biāo)公式

    4.3 實(shí)驗(yàn)設(shè)計(jì)

    用訓(xùn)練集數(shù)據(jù)分別訓(xùn)練SVM、隨機(jī)森林和協(xié)同檢測的模型,得到3個(gè)模型SModel、RModel、HModel。利用3種模型分別預(yù)測3月至10月的測試數(shù)據(jù),計(jì)算其準(zhǔn)確率、召回率和F1,觀察協(xié)同檢測系統(tǒng)的預(yù)測效果。

    4.4 實(shí)驗(yàn)結(jié)果

    4.4.1 SVM模型測試結(jié)果

    利用SVM模型預(yù)測3月至10月的惡意樣本與良性樣本的結(jié)果詳見表5。

    表5 SVM模型預(yù)測結(jié)果

    4.4.2 隨機(jī)森林模型測試結(jié)果

    利用隨機(jī)森林模型預(yù)測3月至10月的惡意樣本與良性樣本的結(jié)果詳見表6。

    表6 隨機(jī)森林模型預(yù)測結(jié)果

    4.4.3 協(xié)同檢測模型測試結(jié)果

    協(xié)同檢測模型預(yù)測惡意樣本與良性樣本的結(jié)果詳見表7。

    表7 協(xié)同檢測模型系統(tǒng)預(yù)測結(jié)果

    4.4.4 3種模型測試結(jié)果對比

    F1能夠綜合反映預(yù)測效果,3種模型預(yù)測結(jié)果的F1平均值詳見表8。

    表8 F1平均值比較

    4.5 結(jié)果分析

    預(yù)測惡意樣本時(shí),2種單模型相比較,SVM預(yù)測的準(zhǔn)確度低、召回率高。協(xié)同檢測系統(tǒng)的效果最好:與SVM相比,F(xiàn)1值平均提升了0.875%。通過預(yù)測準(zhǔn)確度計(jì)算,在33 468個(gè)惡意測試樣本中有1 004個(gè)錯(cuò)誤預(yù)測的樣本被修正。與隨機(jī)森林相比,F(xiàn)1值平均提升了1.625%,召回率也由單模型的0.87上升至0.91。

    預(yù)測良性樣本時(shí),2種單模型中,SVM的預(yù)測準(zhǔn)確度高,但召回率低。協(xié)同檢測系統(tǒng)仍然具有最好的效果:與SVM相比,F(xiàn)1值平均提升了1.375%,召回率由原來的0.80提升至0.83。與隨機(jī)森林相比,F(xiàn)1值平均提升了1.125%,通過預(yù)測準(zhǔn)確度計(jì)算有1 339個(gè)良性樣本被修正。

    結(jié)果顯示,SVM和隨機(jī)森林的預(yù)測效果在不同場景下各有優(yōu)劣,兩種模型的結(jié)合能夠優(yōu)勢互補(bǔ)從而有效提高協(xié)同檢測系統(tǒng)預(yù)測的準(zhǔn)確程度。

    F1值能夠綜合反映預(yù)測結(jié)果,比較三者的F1值,惡意樣本與良性樣本的結(jié)果分別如圖3、圖4所示。因?yàn)閻阂獯a繁殖速度快、變形多,隨著時(shí)間推移,模型退化也會影響預(yù)測效果,故3月到10月的預(yù)測結(jié)果總體呈下降趨勢。其中7月F1值明顯低于其他月份,初步分析是由于該月份測試數(shù)據(jù)中的應(yīng)用特征在訓(xùn)練集中涵蓋較少。協(xié)同檢測系統(tǒng)在個(gè)別月份與單個(gè)模型的F1值相同,提升效果不明顯。分析實(shí)驗(yàn)的不足,一方面是實(shí)驗(yàn)樣本的訓(xùn)練集規(guī)模較小,這會影響p-value,即測試樣本排名的計(jì)算。另一方面,在根據(jù)Vquality對2種模型預(yù)測結(jié)果相異進(jìn)行取舍時(shí),沒有找到更好的方法對實(shí)際上正確的模型預(yù)測結(jié)果進(jìn)行有效放大。但總體來說,協(xié)同檢測系統(tǒng)能夠保證在不低于每一種單模型的基礎(chǔ)上有所提升。

    圖4 良性測試樣本的比較Fig.4 Comparison of benign samples

    5 結(jié)束語

    模型退化將會使攻擊者更容易躲避檢測,為了緩解這個(gè)問題,本文提出基于可信度的多模型協(xié)同檢測方法,用SVM和隨機(jī)森林分類算法各訓(xùn)練一個(gè)模型,對待測樣本進(jìn)行預(yù)測會得到2個(gè)結(jié)果。利用Comformal prediction算法分別計(jì)算預(yù)測結(jié)果的可信程度,當(dāng)2個(gè)模型的預(yù)測結(jié)果不一致時(shí)選擇更為可信的結(jié)果作為協(xié)同檢測系統(tǒng)的結(jié)果。

    猜你喜歡
    分類特征檢測
    “不等式”檢測題
    “一元一次不等式”檢測題
    “一元一次不等式組”檢測題
    分類算一算
    如何表達(dá)“特征”
    不忠誠的四個(gè)特征
    分類討論求坐標(biāo)
    數(shù)據(jù)分析中的分類討論
    教你一招:數(shù)的分類
    抓住特征巧觀察
    黄片无遮挡物在线观看| 国产伦理片在线播放av一区| 制服丝袜香蕉在线| 国产精品人妻久久久影院| av在线播放精品| 国产 精品1| 国产亚洲av片在线观看秒播厂| 国产欧美亚洲国产| 午夜av观看不卡| 午夜久久久在线观看| 精品国产国语对白av| 婷婷色av中文字幕| 国产精品二区激情视频| 欧美精品一区二区免费开放| 伦理电影免费视频| 亚洲三区欧美一区| 欧美黄色片欧美黄色片| 国产精品成人在线| 精品少妇久久久久久888优播| 一区二区三区乱码不卡18| 欧美日韩视频高清一区二区三区二| 久久精品国产自在天天线| 色网站视频免费| 99re6热这里在线精品视频| 亚洲欧美色中文字幕在线| 亚洲视频免费观看视频| 日本91视频免费播放| 亚洲精品国产av蜜桃| 建设人人有责人人尽责人人享有的| 国产精品熟女久久久久浪| 人妻人人澡人人爽人人| 毛片一级片免费看久久久久| 卡戴珊不雅视频在线播放| 看免费av毛片| 久久午夜福利片| 水蜜桃什么品种好| 另类亚洲欧美激情| 91国产中文字幕| 欧美另类一区| 日韩一区二区三区影片| 亚洲成av片中文字幕在线观看 | 日韩制服骚丝袜av| 午夜老司机福利剧场| 蜜桃国产av成人99| 久久久久精品人妻al黑| 99热国产这里只有精品6| 观看美女的网站| 一本久久精品| 国产无遮挡羞羞视频在线观看| 久久久久久久亚洲中文字幕| a级片在线免费高清观看视频| 午夜福利网站1000一区二区三区| 日日撸夜夜添| 国产精品嫩草影院av在线观看| 免费黄频网站在线观看国产| 一级毛片黄色毛片免费观看视频| 免费久久久久久久精品成人欧美视频| 建设人人有责人人尽责人人享有的| 宅男免费午夜| 日韩中字成人| videossex国产| 国产深夜福利视频在线观看| 欧美xxⅹ黑人| 激情五月婷婷亚洲| 久久精品久久久久久久性| 尾随美女入室| 亚洲天堂av无毛| 亚洲精品久久午夜乱码| 女人被躁到高潮嗷嗷叫费观| 人体艺术视频欧美日本| 十分钟在线观看高清视频www| 人妻人人澡人人爽人人| 人妻 亚洲 视频| 久久免费观看电影| 综合色丁香网| 国产欧美日韩一区二区三区在线| 精品国产一区二区三区久久久樱花| 日本vs欧美在线观看视频| av国产久精品久网站免费入址| 高清在线视频一区二区三区| 欧美精品一区二区大全| 久久综合国产亚洲精品| 午夜精品国产一区二区电影| 香蕉丝袜av| 精品久久蜜臀av无| 最近的中文字幕免费完整| 另类亚洲欧美激情| 又大又黄又爽视频免费| 热re99久久国产66热| 亚洲国产精品国产精品| 人成视频在线观看免费观看| 9色porny在线观看| 黄色 视频免费看| 久久鲁丝午夜福利片| 国产极品粉嫩免费观看在线| 热99国产精品久久久久久7| 男女无遮挡免费网站观看| 久久久久久久久久久久大奶| 国产综合精华液| 女人被躁到高潮嗷嗷叫费观| 你懂的网址亚洲精品在线观看| 大码成人一级视频| 99热全是精品| 人人妻人人澡人人爽人人夜夜| 日本vs欧美在线观看视频| 欧美人与性动交α欧美软件| 80岁老熟妇乱子伦牲交| 69精品国产乱码久久久| 我要看黄色一级片免费的| 日本欧美视频一区| 在线观看免费日韩欧美大片| 嫩草影院入口| 亚洲精品久久成人aⅴ小说| 天天躁夜夜躁狠狠久久av| 成人18禁高潮啪啪吃奶动态图| 国产无遮挡羞羞视频在线观看| 岛国毛片在线播放| 国产一区亚洲一区在线观看| 国产乱来视频区| 欧美老熟妇乱子伦牲交| 最黄视频免费看| 亚洲成人手机| 久热这里只有精品99| 一区二区三区精品91| 日本av手机在线免费观看| 久久久久久人妻| 叶爱在线成人免费视频播放| 亚洲内射少妇av| 亚洲精品成人av观看孕妇| 久久精品国产亚洲av涩爱| 国产国语露脸激情在线看| 午夜91福利影院| 国产又爽黄色视频| 如日韩欧美国产精品一区二区三区| av在线播放精品| 国产日韩欧美亚洲二区| 午夜日本视频在线| 免费观看无遮挡的男女| 天天影视国产精品| 制服诱惑二区| 在现免费观看毛片| 深夜精品福利| 精品一区二区三区四区五区乱码 | 日韩一卡2卡3卡4卡2021年| 超碰成人久久| 精品人妻熟女毛片av久久网站| 搡女人真爽免费视频火全软件| 国产在视频线精品| 欧美+日韩+精品| 视频区图区小说| av电影中文网址| 秋霞伦理黄片| 亚洲国产av影院在线观看| 亚洲四区av| 熟女av电影| 26uuu在线亚洲综合色| 午夜免费鲁丝| 9热在线视频观看99| 女人被躁到高潮嗷嗷叫费观| 国产精品av久久久久免费| 2022亚洲国产成人精品| 亚洲熟女精品中文字幕| 一级片'在线观看视频| 久久韩国三级中文字幕| 丰满饥渴人妻一区二区三| 日韩一区二区视频免费看| 色网站视频免费| 日韩精品有码人妻一区| 人人澡人人妻人| 亚洲五月色婷婷综合| 青春草视频在线免费观看| 老司机影院毛片| 五月伊人婷婷丁香| 国产一区二区 视频在线| 黄色视频在线播放观看不卡| 久久精品熟女亚洲av麻豆精品| 国产精品无大码| 精品卡一卡二卡四卡免费| 男人添女人高潮全过程视频| 大香蕉久久成人网| 性色avwww在线观看| 日韩一区二区视频免费看| 欧美日韩视频精品一区| 中文字幕精品免费在线观看视频| 亚洲欧美成人精品一区二区| 国产精品人妻久久久影院| 亚洲三区欧美一区| 久久精品国产亚洲av高清一级| 国产高清国产精品国产三级| 欧美成人午夜免费资源| 只有这里有精品99| 2021少妇久久久久久久久久久| 亚洲精品一二三| 久久久精品国产亚洲av高清涩受| 亚洲三区欧美一区| 在线天堂最新版资源| 91久久精品国产一区二区三区| 18禁观看日本| 国产黄频视频在线观看| 一本大道久久a久久精品| 国产伦理片在线播放av一区| 午夜激情久久久久久久| 黑人巨大精品欧美一区二区蜜桃| 亚洲精品,欧美精品| 一级毛片我不卡| 亚洲人成网站在线观看播放| 亚洲精品乱久久久久久| 香蕉精品网在线| 午夜福利在线观看免费完整高清在| 青春草亚洲视频在线观看| 乱人伦中国视频| a级毛片在线看网站| 一二三四中文在线观看免费高清| 热99久久久久精品小说推荐| 国产精品人妻久久久影院| 国产精品久久久久久精品古装| 香蕉丝袜av| 人人澡人人妻人| 午夜影院在线不卡| 精品一区二区三区四区五区乱码 | 熟女少妇亚洲综合色aaa.| 女的被弄到高潮叫床怎么办| 午夜日本视频在线| 在线 av 中文字幕| 免费高清在线观看日韩| 黑人欧美特级aaaaaa片| 日韩一区二区视频免费看| 亚洲av成人精品一二三区| 亚洲欧美中文字幕日韩二区| 久久久久久久久久久免费av| 色视频在线一区二区三区| 欧美97在线视频| 最新中文字幕久久久久| 少妇熟女欧美另类| 肉色欧美久久久久久久蜜桃| 男男h啪啪无遮挡| 欧美变态另类bdsm刘玥| 菩萨蛮人人尽说江南好唐韦庄| 亚洲五月色婷婷综合| 精品国产露脸久久av麻豆| 国产综合精华液| 精品一区二区三卡| 日韩一卡2卡3卡4卡2021年| 天堂俺去俺来也www色官网| 在线天堂最新版资源| 精品少妇久久久久久888优播| 青春草视频在线免费观看| 视频区图区小说| 少妇 在线观看| 欧美日韩综合久久久久久| 国产一区二区 视频在线| 国产又爽黄色视频| 国产97色在线日韩免费| 日韩制服丝袜自拍偷拍| 一区在线观看完整版| a 毛片基地| 90打野战视频偷拍视频| 国产av国产精品国产| 久久精品熟女亚洲av麻豆精品| 亚洲国产av新网站| 婷婷色av中文字幕| 只有这里有精品99| 少妇 在线观看| 狠狠婷婷综合久久久久久88av| av国产精品久久久久影院| 午夜免费观看性视频| 国产一区二区在线观看av| 久久久精品区二区三区| 成人毛片60女人毛片免费| 卡戴珊不雅视频在线播放| 18禁国产床啪视频网站| av一本久久久久| 丝袜喷水一区| 久久精品久久久久久噜噜老黄| 亚洲精品第二区| 制服丝袜香蕉在线| 一本大道久久a久久精品| 岛国毛片在线播放| 免费观看性生交大片5| 亚洲精品久久成人aⅴ小说| 国产成人免费观看mmmm| 久久精品国产a三级三级三级| 日本av免费视频播放| 日韩 亚洲 欧美在线| 一级毛片黄色毛片免费观看视频| 午夜91福利影院| 久久久久国产网址| 日韩成人av中文字幕在线观看| 午夜福利乱码中文字幕| 亚洲伊人久久精品综合| 韩国精品一区二区三区| 哪个播放器可以免费观看大片| 狂野欧美激情性bbbbbb| 边亲边吃奶的免费视频| 一区二区三区四区激情视频| 亚洲欧美色中文字幕在线| 久久久精品国产亚洲av高清涩受| 在线免费观看不下载黄p国产| 免费在线观看完整版高清| 免费久久久久久久精品成人欧美视频| 巨乳人妻的诱惑在线观看| 国产国语露脸激情在线看| 啦啦啦啦在线视频资源| 亚洲人成电影观看| 一边摸一边做爽爽视频免费| 亚洲精品视频女| 中文乱码字字幕精品一区二区三区| 成人亚洲欧美一区二区av| 高清不卡的av网站| 国产一区二区激情短视频 | 性高湖久久久久久久久免费观看| 看免费av毛片| 国产一区二区三区综合在线观看| 久久久久久久久免费视频了| 高清视频免费观看一区二区| 成人漫画全彩无遮挡| 成年女人在线观看亚洲视频| 国产激情久久老熟女| 亚洲国产毛片av蜜桃av| 18禁裸乳无遮挡动漫免费视频| 国精品久久久久久国模美| 免费看不卡的av| 熟女少妇亚洲综合色aaa.| 国产一区有黄有色的免费视频| 极品人妻少妇av视频| 狠狠精品人妻久久久久久综合| 街头女战士在线观看网站| 侵犯人妻中文字幕一二三四区| 久久99一区二区三区| 高清欧美精品videossex| 久久久久久久久久久免费av| 毛片一级片免费看久久久久| 欧美激情极品国产一区二区三区| 久久午夜综合久久蜜桃| 在线观看免费视频网站a站| 大码成人一级视频| 一个人免费看片子| 国产黄频视频在线观看| 国产免费一区二区三区四区乱码| 一区二区三区激情视频| 成人午夜精彩视频在线观看| 国产极品天堂在线| 国精品久久久久久国模美| 国产一区有黄有色的免费视频| freevideosex欧美| 大片免费播放器 马上看| 国产av一区二区精品久久| 日韩中字成人| 成年人午夜在线观看视频| 99国产精品免费福利视频| 成人国产av品久久久| 午夜av观看不卡| 超碰成人久久| 免费大片黄手机在线观看| 一边亲一边摸免费视频| 成年av动漫网址| 久久久久久久久久久久大奶| 9191精品国产免费久久| 国产精品av久久久久免费| 精品少妇内射三级| 色网站视频免费| 久久精品国产综合久久久| 色94色欧美一区二区| 一二三四中文在线观看免费高清| 亚洲成色77777| 男男h啪啪无遮挡| 看十八女毛片水多多多| 丝袜美足系列| 熟女电影av网| 国产精品熟女久久久久浪| 成年美女黄网站色视频大全免费| 成年人午夜在线观看视频| 国产成人精品久久二区二区91 | 三级国产精品片| 亚洲av国产av综合av卡| 欧美成人午夜精品| 成人手机av| 性色av一级| 91aial.com中文字幕在线观看| 黄网站色视频无遮挡免费观看| 亚洲av国产av综合av卡| 亚洲伊人色综图| 美女主播在线视频| 中文字幕亚洲精品专区| 日韩一卡2卡3卡4卡2021年| 亚洲少妇的诱惑av| 亚洲一级一片aⅴ在线观看| 男女午夜视频在线观看| 国产成人精品婷婷| 亚洲人成网站在线观看播放| 久久综合国产亚洲精品| 黄色一级大片看看| 9191精品国产免费久久| 午夜福利在线观看免费完整高清在| 亚洲av免费高清在线观看| 国产av码专区亚洲av| 中文字幕精品免费在线观看视频| 交换朋友夫妻互换小说| 少妇熟女欧美另类| 日本午夜av视频| 中文字幕亚洲精品专区| 久久久久久伊人网av| 91成人精品电影| 日韩中文字幕视频在线看片| 久久精品熟女亚洲av麻豆精品| 国产精品 欧美亚洲| 欧美变态另类bdsm刘玥| 综合色丁香网| 性高湖久久久久久久久免费观看| 亚洲精品国产av成人精品| 男女免费视频国产| 亚洲精品第二区| 国产黄频视频在线观看| 天天躁夜夜躁狠狠躁躁| 一本色道久久久久久精品综合| 天天躁狠狠躁夜夜躁狠狠躁| 色哟哟·www| 久久毛片免费看一区二区三区| 亚洲国产精品一区三区| 岛国毛片在线播放| 一本久久精品| 日韩人妻精品一区2区三区| 秋霞在线观看毛片| 日韩中字成人| 老女人水多毛片| 大片电影免费在线观看免费| 另类亚洲欧美激情| av在线播放精品| 国产精品一区二区在线观看99| 日韩免费高清中文字幕av| 久久99一区二区三区| 最近的中文字幕免费完整| 免费人妻精品一区二区三区视频| 亚洲成人一二三区av| 免费播放大片免费观看视频在线观看| 免费黄频网站在线观看国产| 欧美少妇被猛烈插入视频| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | av在线app专区| 一本色道久久久久久精品综合| 精品视频人人做人人爽| 久久久久久久久免费视频了| 人人妻人人澡人人爽人人夜夜| 高清欧美精品videossex| 亚洲av欧美aⅴ国产| 最近的中文字幕免费完整| 国产精品无大码| 九九爱精品视频在线观看| 18禁裸乳无遮挡动漫免费视频| 国产毛片在线视频| 欧美中文综合在线视频| 久久婷婷青草| 日韩成人av中文字幕在线观看| 日韩熟女老妇一区二区性免费视频| 国语对白做爰xxxⅹ性视频网站| 在线看a的网站| 免费黄色在线免费观看| 99香蕉大伊视频| 97在线人人人人妻| 亚洲欧洲日产国产| 老汉色av国产亚洲站长工具| videossex国产| 成人毛片60女人毛片免费| 少妇熟女欧美另类| 视频区图区小说| av在线老鸭窝| 在线观看国产h片| 黄色配什么色好看| 不卡av一区二区三区| 久久免费观看电影| 在线亚洲精品国产二区图片欧美| 中文字幕色久视频| 亚洲欧美成人精品一区二区| 热re99久久国产66热| 制服丝袜香蕉在线| 日韩欧美一区视频在线观看| 日韩成人av中文字幕在线观看| 波野结衣二区三区在线| 国产老妇伦熟女老妇高清| 2022亚洲国产成人精品| 九九爱精品视频在线观看| 777米奇影视久久| 午夜免费男女啪啪视频观看| 久久 成人 亚洲| 你懂的网址亚洲精品在线观看| 一级a爱视频在线免费观看| 制服诱惑二区| 丝袜喷水一区| 成人漫画全彩无遮挡| 成人亚洲精品一区在线观看| 国产精品久久久久久精品电影小说| 久久99蜜桃精品久久| 熟妇人妻不卡中文字幕| av网站在线播放免费| 亚洲,欧美,日韩| 午夜日韩欧美国产| 成人毛片a级毛片在线播放| 啦啦啦啦在线视频资源| 国产97色在线日韩免费| 天天影视国产精品| 亚洲综合色网址| 男人添女人高潮全过程视频| 国产精品人妻久久久影院| 老熟女久久久| 观看av在线不卡| 美女视频免费永久观看网站| 免费高清在线观看视频在线观看| 日韩 亚洲 欧美在线| 亚洲精品aⅴ在线观看| av女优亚洲男人天堂| 久久国产精品大桥未久av| 久久韩国三级中文字幕| 天天操日日干夜夜撸| 老汉色∧v一级毛片| 国产精品亚洲av一区麻豆 | 亚洲欧美一区二区三区黑人 | 精品国产一区二区久久| 一区二区日韩欧美中文字幕| 久久97久久精品| 制服丝袜香蕉在线| 老汉色∧v一级毛片| 中文字幕色久视频| 欧美人与善性xxx| 久久精品国产综合久久久| 亚洲av中文av极速乱| www.自偷自拍.com| 夫妻午夜视频| 国产白丝娇喘喷水9色精品| 亚洲精品日本国产第一区| 成人黄色视频免费在线看| 在线观看一区二区三区激情| 色视频在线一区二区三区| 免费观看在线日韩| 超碰97精品在线观看| 爱豆传媒免费全集在线观看| 亚洲在久久综合| av不卡在线播放| 午夜av观看不卡| 国产日韩欧美在线精品| 91在线精品国自产拍蜜月| 国产福利在线免费观看视频| 中文字幕亚洲精品专区| 国产亚洲午夜精品一区二区久久| 国产白丝娇喘喷水9色精品| 国产黄色视频一区二区在线观看| 久久精品久久久久久噜噜老黄| 午夜福利乱码中文字幕| 精品少妇内射三级| 丝袜人妻中文字幕| 国产乱人偷精品视频| 亚洲欧洲精品一区二区精品久久久 | 久久精品国产综合久久久| freevideosex欧美| 精品亚洲成国产av| 在线观看美女被高潮喷水网站| 狠狠婷婷综合久久久久久88av| 婷婷色av中文字幕| 欧美日韩亚洲国产一区二区在线观看 | 最近中文字幕高清免费大全6| 高清黄色对白视频在线免费看| 中文字幕亚洲精品专区| 多毛熟女@视频| 欧美最新免费一区二区三区| 在线免费观看不下载黄p国产| 美女国产视频在线观看| 国产成人一区二区在线| 午夜91福利影院| 久久99蜜桃精品久久| 国产精品久久久av美女十八| av在线播放精品| 国产精品 国内视频| 亚洲国产精品国产精品| 黑人欧美特级aaaaaa片| 亚洲国产精品一区二区三区在线| 狠狠精品人妻久久久久久综合| 欧美另类一区| 叶爱在线成人免费视频播放| 亚洲精品中文字幕在线视频| 亚洲精品国产一区二区精华液| 看十八女毛片水多多多| 日韩一区二区三区影片| 日韩中文字幕视频在线看片| 黄色一级大片看看| 侵犯人妻中文字幕一二三四区| 99久久中文字幕三级久久日本| 十八禁网站网址无遮挡| 国产精品99久久99久久久不卡 | 天天躁日日躁夜夜躁夜夜| 亚洲美女黄色视频免费看| 男人添女人高潮全过程视频| av卡一久久| 91国产中文字幕| 亚洲国产看品久久| 男男h啪啪无遮挡| 只有这里有精品99| 亚洲三级黄色毛片| av国产精品久久久久影院| 久久久亚洲精品成人影院| 国产亚洲精品第一综合不卡| 在线观看美女被高潮喷水网站| 亚洲精品aⅴ在线观看| 亚洲国产精品国产精品| 观看美女的网站| 母亲3免费完整高清在线观看 | 欧美日韩一级在线毛片| 久久精品aⅴ一区二区三区四区 | 国产在线免费精品| 99热全是精品| 自拍欧美九色日韩亚洲蝌蚪91| 色94色欧美一区二区| 精品国产超薄肉色丝袜足j| 2018国产大陆天天弄谢| 成人亚洲欧美一区二区av| 黄色 视频免费看| 精品一区在线观看国产|