• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于樣本分布特征的數(shù)據(jù)投毒防御

    2023-10-18 23:14:21楊立圣羅文華
    計算機應用研究 2023年9期

    楊立圣 羅文華

    摘 要:流量分類模型在更新過程中易受數(shù)據(jù)污染的干擾而降低模型性能,現(xiàn)有基于數(shù)據(jù)清洗的防御方法需依賴專家經(jīng)驗和人工篩選,且無法有效應對利用未知分布樣本構(gòu)造的投毒攻擊。針對上述問題,受分布外檢測和判別主動學習的啟發(fā),設計一種基于樣本分布特征的數(shù)據(jù)投毒防御方法,通過二分類判別器篩選每輪新增樣本中的已知及未知分布樣本。對于新增的已知分布樣本,通過模型預測與標注結(jié)果一致率評估新增樣本的數(shù)據(jù)質(zhì)量,決定是否進行模型更新;對于新增的未知分布樣本,則利用基于標注正確率的少樣本抽檢評估樣本可用性。實驗結(jié)果表明,該方法在抵御數(shù)據(jù)投毒攻擊的同時可以保證模型準確率,并有效識別利用未知分布樣本構(gòu)造的數(shù)據(jù)投毒攻擊。

    關鍵詞:AI安全;流量分類模型;數(shù)據(jù)投毒攻擊;樣本分布特征

    中圖分類號:TP309?? 文獻標志碼:A

    文章編號:1001-3695(2023)09-045-2845-06

    doi:10.19734/j.issn.1001-3695.2023.01.0025

    Data poisoning defense based on sample distribution characteristics

    Yang Lisheng,Luo Wenhua

    (School of Public Security Information Technology & Intelligence,Criminal Investigation Police University of China,Shenyang 110035,China)

    Abstract:The traffic classification model is vulnerable to the interference of data pollution in the update process and reduces the performance of the model.The existing defense methods based on data cleaning need to rely on expert experience and ma-nual screening,and cannot effectively deal with the poison attack constructed by using unknown distributed samples.In view of the above problems,inspired by out-of-distribution detection and discrimination active learning,this paper designed a data poisoning prevention method based on sample distribution characteristics,and used the binary classification discriminator to screen out the known and unknown distribution samples in each new round of samples.For the new known distribution samples,it used the concordant rate of prediction and annotation to evaluate the data quality of the new samples and determine whether to update the model.For the new unknown distribution samples,it used the small sample sampling based on the labeling accuracy to evaluate the sample availability.The experimental results show that this method can guarantee the accuracy of the model while resisting the data poisoning attack,and effectively identify the data poisoning attack constructed by using unknown distribution samples.

    Key words:AI security;traffic classification model;data poisoning attack;sample distribution characteristics

    0 引言

    深度學習技術的快速發(fā)展正改變網(wǎng)絡空間安全領域的格局。其中,基于深度學習的流量分類模型可有效檢測出各類網(wǎng)絡安全威脅[1],其已成為保護網(wǎng)絡系統(tǒng)安全的重要手段之一。流量分類模型雖可保護目標網(wǎng)絡系統(tǒng)免遭網(wǎng)絡攻擊[2],但其模型自身亦存在巨大安全風險[3],這些安全風險存在的根本原因是模型在設計之初并未考慮相關安全威脅,使得模型的預測結(jié)果容易被惡意攻擊所影響[4]。數(shù)據(jù)投毒攻擊作為一種新型的持續(xù)破壞模型可用性和完整性的攻擊方式,可對流量分類模型造成嚴重的安全威脅。流量分類模型遭受數(shù)據(jù)投毒攻擊后,分類性能會下降,喪失對惡意流量的識別能力。因此,如何高效識別數(shù)據(jù)投毒攻擊對流量分類模型安全具有重要意義。

    目前已有國內(nèi)外學者對入侵檢測模型的安全性及防御方法展開了相關研究,現(xiàn)有工作提出了增強模型魯棒性和數(shù)據(jù)清洗等防御方法。

    Ibitoye等人[5]提出一種自歸一化神經(jīng)網(wǎng)絡,該模型具有更強的魯棒性,可以防御對抗攻擊。Khamis等人[6]提出一種應用鞍點法來訓練入侵檢測系統(tǒng)以防御對抗攻擊的方法,有效提高了基于DNN的入侵檢測模型的魯棒性,并指出使用主成分分析對數(shù)據(jù)集進行降維有助于降低規(guī)避率。Anthi等人[7]針對入侵檢測模型提出了一種對抗機器學習的防御方法,采用基于雅可比矩陣的顯著圖攻擊生成對抗樣本,并利用對抗樣本進行對抗訓練,以提高模型的魯棒性,實現(xiàn)對對抗攻擊的防御?;隰敯粜詫W習的防御方法雖在一定程度上增強了模型的安全性,但也存在一定的局限。經(jīng)過對抗學習的模型只能對特定攻擊樣本產(chǎn)生防御效果,對新型攻擊樣本并不能起到防御作用[8]。采用魯棒性學習的方法不僅會降低模型精度,而且可能會帶來瞬態(tài)誤差、條件誤差、系統(tǒng)性錯誤等新的安全問題[9]。而且魯棒性學習主要應對由對抗樣本和噪聲帶來的攻擊問題,對標簽翻轉(zhuǎn)式數(shù)據(jù)投毒攻擊的防御效果并不理想。

    Apruzzese等人[10]提出一種針對網(wǎng)絡入侵檢測系統(tǒng)模型投毒攻擊的防御方法,該方法在訓練數(shù)據(jù)集上引入數(shù)據(jù)轉(zhuǎn)換,使攻擊者注入的投毒樣本經(jīng)過數(shù)據(jù)轉(zhuǎn)換后得到的特征與攻擊者所期望的特征不同,以減輕投毒攻擊對模型的影響。Bao等人[11]提出Februus方法可以精準地去除輸入樣本的異常擾動,以防御數(shù)據(jù)投毒攻擊。Tang等人[12]提出了一種基于表征分析及統(tǒng)計屬性的后門檢測方法,設計了統(tǒng)計污染分析器,利用每個類別的全局信息統(tǒng)計分析來判斷模型是否遭受后門攻擊,并對中毒樣本進行過濾。然而由于存在概念漂移現(xiàn)象,在實際場景中流量分類模型需及時更新以適應新的樣本分布。上述工作并未考慮到模型更新場景,且集中于識別單獨樣本的毒性,會引起較高的誤報率,模型復原代價較高[13]。而在更新過程中新增數(shù)據(jù)分布識別依靠專家經(jīng)驗,也會導致模型更新后的準確率反而降低的情況[14]。最近,劉廣睿等人[15]提出了一套針對智能入侵檢測系統(tǒng)的污染數(shù)據(jù)過濾的通用模型更新方法,使用EdgeGAN算法及模糊測試擬合模型的邊緣樣本分布,通過對比新增樣本與原模型的MSE值及更新后模型對舊邊緣樣本的Fβ分數(shù),從而識別被污染樣本。該方法雖在模型更新的場景下進行研究,但并未考慮攻擊者利用新型惡意流量構(gòu)造數(shù)據(jù)投毒攻擊的情況,無法識別未知分布樣本的數(shù)據(jù)投毒攻擊[16],而攻擊者極易利用該部分樣本構(gòu)造針對流量分類模型的“0day”攻擊。

    為了解決上述問題,實現(xiàn)流量分類模型的安全穩(wěn)定更新,設計一種基于樣本分布特征的數(shù)據(jù)投毒防御方法。首先,設計模型預測與標注結(jié)果一致率指標,借助更新前的良性模型對新增訓練樣本的質(zhì)量進行評估。其次,對于未知分布的惡意流量樣本,模型對其分類性能較差,此時僅依靠模型預測與標注結(jié)果一致率指標會引起誤報。為避免誤報,受分布外檢測[17]和判別主動學習[18]思路的啟發(fā),將已知分布樣本和未知分布樣本的判別轉(zhuǎn)換為二元分類任務,并據(jù)此設計新增樣本空間分布判別器,以區(qū)分已知分布樣本和未知分布樣本,防止攻擊者利用未知分布樣本進行數(shù)據(jù)投毒攻擊。

    1 方法設計

    由于流量樣本類別情況會隨時間而發(fā)生變化,流量分類模型需頻繁更新,但數(shù)據(jù)驅(qū)動的流量分類模型自身存在脆弱性,導致其在模型更新過程中極易受到數(shù)據(jù)投毒攻擊。在此場景下,需要實現(xiàn):a)以自動化的流程完成樣本篩選,并利用篩選好的干凈樣本進行模型更新;b)以較小的代價快速、便捷地實現(xiàn)未知分布樣本識別,防止攻擊者利用此部分樣本構(gòu)造針對流量分類模型的“0day”攻擊;c)及時發(fā)現(xiàn)投毒數(shù)據(jù)樣本,并對投毒樣本進行有效過濾。

    為了實現(xiàn)上述目標,設計一種基于樣本分布特征的數(shù)據(jù)投毒防御的方法。首先需要實現(xiàn)未知分布樣本的判別,即需要對訓練樣本和新增樣本進行分布外檢測。在此場景下,需快速、高效地完成未知分布樣本和已知分布樣本的二分類任務,故可將解決無標注集和有標注集分類任務的判別主動學習的思路遷移到新增樣本分布判別任務中。過濾未知分布樣本后,可保證剩余樣本的分布與訓練樣本相比不會發(fā)生劇烈變化。因此可根據(jù)未更新模型的預測結(jié)果與標注結(jié)果的一致性判別該批新增樣本的數(shù)據(jù)質(zhì)量,以實現(xiàn)對投毒數(shù)據(jù)樣本的檢測。

    基于樣本分布特征的數(shù)據(jù)投毒防御方法流程如圖1所示。對于每批用于模型更新的新增樣本,首先經(jīng)過新增樣本分布判別器的判別,從該批新增樣本中篩選出與自身訓練集數(shù)據(jù)分布差異較大及分布差異較小的樣本,這兩部分樣本對于模型而言可分別認為是未知分布樣本和已知分布樣本;若為未知分布樣本,則觸發(fā)少樣本抽檢判斷樣本是否符合質(zhì)量,如果符合質(zhì)量,則將該部分樣本作為模型更新訓練樣本;若不符合質(zhì)量則決定丟棄該部分樣本。對于已知分布樣本,通過計算模型預測與標注結(jié)果一致率判斷其是否符合樣本更新要求。如果符合,則使用該部分樣本對模型更新,否則就丟棄該部分樣本。若整個過程沒有符合條件的新增樣本,則不對模型進行更新。關于流程中的關鍵部分,將在1.1節(jié)和1.2節(jié)中詳細闡述。

    1.1 模型預測與標注結(jié)果一致率

    對于預訓練好的流量分類模型來說,模型需要頻繁更新以識別不斷變化的惡意流量[19],故其數(shù)據(jù)投毒安全風險存在于模型更新階段。記模型預訓練的數(shù)據(jù)集為Dpretrain,模型訓練過程可描述為:找到=Ψ(x),使得對于輸入x∈Dpretrain,其標簽為y,有較高概率成立=y。若新增訓練樣本中不存在投毒樣本,即DpoisonDiter,則更新好的模型Ψ′(x)對于輸入x∈(Dpretrain∪Diter) 有較高概率成立=y,且對于測試集中的數(shù)據(jù)x∈Dtest也有較高概率成立=y。若新增訓練樣本中存在投毒樣本,即DpoisonDiter,則更新好的模型Ψ′(x)對于輸入x∈(Dpretrain∪Diter) 有較高概率成立=y,但對于測試集中的數(shù)據(jù)x∈Dtest中成立=y的概率會下降,即模型的分類效果變差,故需設計方案保證流量分類模型的安全更新。

    2.2 實驗參數(shù)設置

    實驗使用的主機環(huán)境配置如下:處理器為Intel CoreTM i7-10870H CPU,顯卡為NVIDIA GeForce RTX 3070 Laptop,顯存大小為8 GB,運行內(nèi)存為64 GB,操作系統(tǒng)為Windows 11 專業(yè)版,代碼基于Python 3.9.6,深度學習框架主要使用PyTorch 1.12.0+CUDA 11.3版本,集成開發(fā)環(huán)境為PyCharm。模型設置的訓練參數(shù)為:訓練數(shù)據(jù)的batch大小設置為64,學習率設置為0.001,損失函數(shù)采用交叉熵損失函數(shù),優(yōu)化器選用Adam[26]。

    2.3 新增樣本空間分布判別器閾值的設定

    實驗構(gòu)建的新增樣本空間分布判別器網(wǎng)絡結(jié)構(gòu)如圖3所示。

    新增樣本空間分布判別器由特征輸入模塊、特征提取模塊、特征判別模塊組成。特征輸入模塊由linear層和LeakyReLU層構(gòu)成,用于將輸入流量數(shù)據(jù)輸入到判別器網(wǎng)絡中;特征提取模塊由兩層linear層和LeakyReLU層構(gòu)成,負責提取流量數(shù)據(jù)的未知分布和已知分布特征;特征判別模塊由一層linear層和softmax函數(shù)構(gòu)成,實現(xiàn)對未知分布樣本和已知分布樣本的分類判別。對于softmax函數(shù)得到分類的置信度結(jié)果[p0i,p1i],其中p0i為判別器對于樣本xi預測 add_label標簽為0的概率,p1i為判別器對于樣本xi預測add_label標簽為1的概率,p0i+p1i=1。由于Dpretrain中的add_label標簽為1,Diter中的add_label標簽為0,選用[p0i,p1i]中的p1i作為本實驗閾值θ篩選的概率值依據(jù),其中p1i的值越大,代表該樣本xi與預訓練樣本的分布較為相似。對于新增樣本空間分布判別器閾值θ的設定,進行如下實驗。實驗的數(shù)據(jù)選用數(shù)據(jù)集Dpretrain及新增樣本數(shù)據(jù)Diter,為方便評估實驗效果,對于Diter的數(shù)據(jù)保留BENIGE、DoS、PortScan、Brute Force、Web Attack、Bot的標注標簽。預訓練數(shù)據(jù)集Dpretrain中只包含BENIGE、DoS兩類數(shù)據(jù),故Diter中的PortScan、Brute Force、Web Attack、Bot類數(shù)據(jù)為相較于Dpretrain中數(shù)據(jù)的不同分布數(shù)據(jù)。首先從Diter中隨機采樣100 000條數(shù)據(jù)記為Dtest_discriminator,為了保證每次實驗選取相同樣本,對采樣器設置相同的隨機狀態(tài)(random_state)參數(shù)。從Dtest_discriminator中再隨機選取20%的數(shù)據(jù),并同樣設置隨機狀態(tài),與Dpretrain數(shù)據(jù)混合,得到Dtrain_discriminator。將Dtrain_discriminator數(shù)據(jù)用于判別器模型訓練,訓練完畢后,將Dtest_discriminator數(shù)據(jù)輸入模型中,并通過閾值θ,將Dtest_discriminator分為與預訓練集數(shù)據(jù)分布類似的樣本集合Dknown和與預訓練集數(shù)據(jù)分布不同的樣本集合Dunknown。再進行多次實驗時,每次判別器訓練完畢后的參數(shù)不保存,下次實驗重新訓練。

    為了更好地評估不同閾值θ下的判別器效果,設計未知樣本檢測率(unknown samples detection rate,USDR)與誤報率(false alarm rate,F(xiàn)AR)。

    USDR=TrueUnknownTrueUnknown+FalseKnown(7)

    FAR=FalseUnKnownFalseUnknown+TrueKnown(8)

    式(7)(8)展示了USDR與FAR的具體計算方法,其中TrueUnknown為正確識別的未知分布樣本數(shù)量;FalseUnknown為錯誤識別的已知分布樣本數(shù)量;TrueKnown為正確識別的已知分布樣本數(shù)量;FalseKnown為錯誤識別的未知分布樣本數(shù)量。USDR表示在識別未知分布樣本時,正確識別的樣本占比;FAR表示識別為未知分布樣本的集合中,錯誤識別的樣本占比。不同閾值θ下USDR與FAR情況如表3所示。

    根據(jù)表3可以得出,閾值θ越高,判別器的未知樣本檢測率越高,當閾值θ選定為0.8時,判別器的未知樣本檢測率最高,為0.921 2。但此時,模型的誤報率也為最高,為0.078 9。綜合考慮未知樣本檢測率及誤報率,選用閾值θ為0.75較為合適,即置信度超過0.75的樣本可以認為是已知分布的樣本,置信度低于0.75的樣本可認為是未知分布的樣本。后續(xù)實驗中,新增樣本空間分布判別器閾值θ選定為0.75。

    2.4 CRPA閾值的設定

    CRPA是評估是否利用該批樣本進行模型更新訓練的重要評價指標,對于流量分類模型來說,在正常情況下模型對新增樣本的預測結(jié)果與標注結(jié)果的差異不會過高[27],如果差異較大,則說明該批次樣本存在數(shù)據(jù)投毒攻擊的風險。為了確定CRPA閾值,進行如下實驗:

    對于流量分類模型,進行正常模型更新訓練,每次更新模型時從Diter中選取n個樣本,其中n∈{10 000,25 000,50 000,75 000,100 000},模型更新的總次數(shù)epochs取10,計算n取不同值時每一更新輪次的CRPA指標。

    表4展示了在正常訓練情況下n取不同值時,CRPA指標的最大值與最小值情況。根據(jù)表中數(shù)據(jù)可知,CRPA最小值在0.946 0~0.947 0波動,CRPA最大值在0.975~0.982波動。后續(xù)實驗的CRPA的閾值選定為0.94,即對于一批新增樣本,其CRPA指標小于0.94時,該批新增樣本的數(shù)據(jù)質(zhì)量不合格,不符合模型更新的要求,則丟棄該批樣本;若CRPA指標大于0.94時,該批新增樣本的數(shù)據(jù)質(zhì)量合格,符合模型更新的要求,利用該批新增樣本進行模型更新。

    2.5 數(shù)據(jù)投毒防御效果

    本實驗的更新樣本數(shù)據(jù)集采用Diter,測試數(shù)據(jù)集采用Dtest,總共進行n輪模型更新訓練,每次更新訓練從Diter新增樣本池中隨機抽取的樣本集合,記為Di,其中i=1,2,3,…,n。Di中包含模型未知分布樣本和已知分布樣本。本實驗將判別器的判別閾值θ設置為0.75,每輪的更新樣本Di通過判別器判別可得到未知分布樣本D_Unknowni以及已知分布樣本D_Knowni。為了模擬少樣本抽檢過程,將每輪的未知分布樣本D_Unknowni進行清洗。設置CRPA的閾值為0.94。對于已知分布樣本D_Knowni計算CRPA指標,若CRPA指標小于CRPA閾值,證明該批新增樣本Di中的D_Knowni數(shù)據(jù)集不符合模型更新的要求,丟棄該批D_Knowni樣本,將清洗后的D_Unknowni樣本與預訓練樣本Dpretrain混合構(gòu)成訓練樣本D_traini,利用D_traini樣本對模型進行更新訓練;若CRPA指標大于CRPA閾值,則將清洗后的D_Unknowni與D_Knowni樣本進行混合得到訓練樣本D_traini,利用D_traini樣本對模型進行更新訓練。本實驗總共進行10輪模型更新訓練,每次更新訓練從Diter新增樣本池中隨機抽取100 000個樣本,對前5輪的更新數(shù)據(jù)進行投毒,投毒的比例分別設置為10%和20%。

    實驗驗證了本文方案對數(shù)據(jù)投毒攻擊的防御效果,圖4、5展示了投毒比例為0.1、0.2時使用該防御方法與未使用防御方法模型準確率變化情況。圖6、7為投毒比例為0.1、0.2時的使用該防御方法與未使用防御方法模型CRPA指標變化情況。

    模型在投毒比例為10%和20%時均展現(xiàn)了對數(shù)據(jù)投毒攻擊的良好防御效果,在前5輪對模型進行投毒的訓練輪次中,使用本文防御方法的流量分類模型,其準確率并未發(fā)生顯著下降,而且與后5輪未投毒情況下的模型預測準確率差距不大,使用該防御方法可以保證模型在數(shù)據(jù)投毒攻擊的情況下仍能保持較為良好的分類性能。對于20%的投毒比例,其對模型造成的破壞與10%的數(shù)據(jù)投毒比例相比,攻擊效果是顯著的,但該方法仍可保證流量分類模型的預測準確率在較小的范圍內(nèi)浮動,且與投毒比例為10%時的防御效果接近。從圖6、7可以發(fā)現(xiàn),在數(shù)據(jù)投毒攻擊的輪數(shù)內(nèi),其CRPA指標較正常模型更新時差距明顯。在投毒比例為10%的情況下,模型的CRPA指標下降到了92%左右,在投毒比例為20%的情況下,模型的CRPA指標下降更為顯著,為87%左右,而在正常訓練時模型的CRPA指標在94%以上。本文防御方法根據(jù)CRPA指標有效判斷數(shù)據(jù)投毒攻擊的攻擊輪數(shù),并對其數(shù)據(jù)投毒攻擊進行攔截,防止模型利用被投毒的數(shù)據(jù)進行模型更新從而導致的模型性能急劇下降。

    2.6 對比實驗

    在對比實驗中,數(shù)據(jù)投毒攻擊的基準防御方法選用最新的基于邊緣樣本的防御方法[15]。本部分實驗總共進行10輪模型更新訓練,每次更新訓練從Diter新增樣本池中隨機抽取100 000個樣本,對前5輪的更新數(shù)據(jù)進行投毒,投毒的比例設置為10%。圖8展示了在流量分類模型前5輪投毒、正常更新以及采用基于邊緣樣本防御方法的MSE變化情況,通過觀察正常訓練以及投毒時的MSE變化情況,基準防御方法的MSE閾值設置為0.06。圖9展示了分別使用基于邊緣樣本的防御方法和本文防御方法的流量分類模型準確率的變化情況,在投毒攻擊的前5個輪次,可以觀察到基于邊緣樣本的防御方法和新防御方法均對數(shù)據(jù)投毒攻擊起到了防御的效果,新方法可以在保證抵御數(shù)據(jù)投毒攻擊的前提下進一步提高模型的準確率,并且新方法在絕大多數(shù)數(shù)據(jù)迭代更新的輪次過程中,模型的準確率高于基于邊緣樣本的防御方法。

    為了對比基于邊緣樣本的防御方法與本文方法在模型未知分布樣本上進行數(shù)據(jù)投毒的防御情況,每次更新訓練從Diter新增樣本池中隨機抽取100 000個樣本集合Di,將Di中的未知分布樣本D_Unknowni進行數(shù)據(jù)投毒,用來模擬針對流量分類模型的“0day”攻擊。

    圖10展示了對于未知分布樣本數(shù)據(jù)投毒攻擊不同防御方法下的模型準確率變化情況,圖11展示了本實驗條件下的基于邊緣樣本的數(shù)據(jù)投毒防御方法的MSE值的變化情況。從圖10可知,本文方法在面對未知分布樣本的數(shù)據(jù)投毒攻擊時仍能保持流量分類模型較高的準確率,且在10輪訓練過程中,絕大多數(shù)輪次的流量分類模型準確率要高于基于邊緣樣本的防御方法。而在前5輪未知分布樣本投毒攻擊的輪次中,基于邊緣樣本的防御方法的模型準確率幾乎保持在0.95左右,是因為此時的模型與預訓練的流量分類模型一樣,對于未知分布樣本的分類性能較差,模型將絕大部分未知分布的惡意樣本識別為良性樣本,此時利用測試集對模型進行測試,得到的就是0.95左右的準確率。結(jié)合圖11可知,基于邊緣樣本的防御方法并未有效實現(xiàn)防御。由于模型本身對未知分布樣本的分類能力差,而此時針對未知分布的惡意樣本進行了標簽翻式的數(shù)據(jù)投毒攻擊,模型預測結(jié)果與標注結(jié)果就會一致,這樣MSE值就會低于閾值,基于邊緣樣本的數(shù)據(jù)投毒防御方法就會失效。而本文方法利用新增樣本判別器將絕大數(shù)的未知分布樣本進行過濾,有效抵御了基于未知布樣本的數(shù)據(jù)投毒攻擊。

    3 結(jié)束語

    本文提出了一種基于樣本空間分布的數(shù)據(jù)投毒防御方法,并設計了該方法的兩個重要部分——新增樣本空間判別器以及CRPA指標。對于新增樣本空間判別器,詳細論述了其原理及算法實現(xiàn),并通過實驗驗證新增樣本判別器的可行性及其判別效果。對于CRPA指標,論述了其計算方法及將其作為模型更新時的樣本質(zhì)量評估指標的依據(jù)。判別器閾值和CRPA閾值是影響防御方法效能的關鍵因素,通過對比實驗,探究了不同條件下的判別器樣本分布情況和CRPA情況,并確定了判別器閾值和CRPA閾值。最后通過實驗驗證了基于樣本空間分布的數(shù)據(jù)投毒防御方法的有效性,并通過對比實驗展現(xiàn)了本文方法對數(shù)據(jù)投毒攻擊的良好防御效果,該方法可以在抵御數(shù)據(jù)投毒攻擊的前提下保證模型的準確率高于基于邊緣樣本的防御方法,且可以有效識別利用未知分布樣本構(gòu)造的數(shù)據(jù)投毒攻擊。未來會構(gòu)造多種不同的數(shù)據(jù)投毒方式,完善本文方案,進一步提升針對流量分類模型數(shù)據(jù)投毒攻擊的防御效果。

    參考文獻:

    [1]張昊,張小雨,張振友,等.基于深度學習的入侵檢測模型綜述[J].計算機工程與應用,2022,58(6):17-28.(Zhang Hao,Zhang Xiaoyu,Zhang Zhenyou,et al.Summary of intrusion detection models based on deep learning[J].Computer Engineering and Applications,2022,58(6):17-28.)

    [2]羅文華,許彩滇.利用改進DBSCAN聚類實現(xiàn)多步式網(wǎng)絡入侵類別檢測[J].小型微型計算機系統(tǒng),2020,41(8):1725-1731.(Luo Wenhua,Xu Caidian.Using improved DBSCAN clustering to implement multi-step network intrusion detection[J].Journal of Chinese Computer Systems,2020,41(8):1725-1731.)

    [3]陳宇飛,沈超,王騫,等.人工智能系統(tǒng)安全與隱私風險[J].計算機研究與發(fā)展,2019,56(10):2135-2150.(Chen Yufei,Shen Chao,Wang Qian,et al.Security and privacy risks in artificial intel-ligence systems[J].Journal of Computer Research and Development,2019,56(10):2135-2150.)

    [4]隋然.網(wǎng)絡空間安全與人工智能研究綜述[J].信息工程大學學報,2021,22(5):584-589.(Sui Ran.Survey of cyberspace security and artificial intelligence research[J].Journal of Information Engineering University,2021,22(5):584-589.)

    [5]Ibitoye O,Shafiq O,Matrawy A.Analyzing adversarial attacks against deep learning for intrusion detection in IoT networks[C]//Proc of IEEE Global Communications Conference.Piscataway,NJ:IEEE Press,2019:1-6.

    [6]Khamis R A,Shafiq M O,Matrawy A.Investigating resistance of deep learning-based IDS against adversaries using min-max optimization[C]//Proc of IEEE International Conference on Communications.Piscataway,NJ:IEEE Press,2020:1-7.

    [7]Anthi E,Williams L,Rhode M,et al.Adversarial attacks on machine learning cybersecurity defences in industrial control systems[J].Journal of Information Security and Applications,2021,58(8):102717.

    [8]Koh P W,Steinhardt J,Liang P.Stronger data poisoning attacks break data sanitization defenses[J].Machine Learning,2022,111(1):1-47.

    [9]Lechner M,Hasani R,Grosu R,et al.Adversarial training is not ready for robot learning[C]//Proc of IEEE International Conference on Robotics and Automation.Piscataway,NJ:IEEE Press,2021:4140-4147.

    [10]Apruzzese G,Colajanni M,F(xiàn)erretti L,et al.Addressing adversarial attacks against security systems based on machine learning[C]//Proc of the 11th International Conference on Cyber Conflict.Piscataway,NJ:IEEE Press,2019:1-18.

    [11]Bao G D,Abbasnejad E,Ranasinghe D.Februus:input purification defense against trojan attacks on deep neural network systems[C]//Proc of Annual Computer Security Applications Conference.Piscataway,NJ:IEEE Press,2020:897-912.

    [12]Tang Di,Wang Xiaofeng,Tang Haixu,et al.Demon in the variant:statistical analysis of DNNs for robust backdoor contamination detection[C]//Proc of the 30th USENIX Security Symposium.Berkeley,CA:USENIX Association,2021:1541-1558.

    [13]余正飛,閆巧,周鋆.面向網(wǎng)絡空間防御的對抗機器學習研究綜述[J].自動化學報,2022,48(7):1625-1649.(Yu Zhengfei,Yan Qiao,Zhou Yun.A survey on adversarial machine learning for cyberspace defense[J].Acta Automatica Sinica,2022,48(7):1625-1649.)

    [14]Al S,Dener M.STL-HDL:a new hybrid network intrusion detection system for imbalanced dataset on big data environment[J].Compu-ters & Security,2021,110:102435.

    [15]劉廣睿,張偉哲,李欣潔.基于邊緣樣本的智能網(wǎng)絡入侵檢測系統(tǒng)數(shù)據(jù)污染防御方法[J].計算機研究與發(fā)展,2022,59(10):2348-2361.(Liu Guangrui,Zhang Weizhe,Li Xinjie.Data contamination defense method for intelligent network intrusion detection systems based on edge examples[J].Journal of Computer Research and Development,2022,59(10):2348-2361.)

    [16]Truex S,Liu Ling,Gursoy M E,et al.Towards demystifying membership inference attacks[EB/OL].(2019-02-01).https://arxiv.org/abs/1807.09173.

    [17]Yang Jingkang,Zhou Kaiyang,Li Yixuan,et al.Generalized out-of-distribution detection:a survey[EB/OL].(2022-08-03).https://arxiv.org/abs/2110.11334.

    [18]Gissin D,Shalev-Shwartz S.Discriminative active learning[EB/OL].(2019-07-15).https://arxiv.org/abs/1907.06347.

    [19]Otoum S,Kantarci B,Mouftah H.A comparative study of AI-based intrusion detection techniques in critical infrastructures[J].ACM Trans on Internet Technology,2021,21(4):1-22.

    [20]Rosay A,Carlier F,Leroux P.MLP4NIDS:an efficient MLP-based network intrusion detection for CICIDS2017 dataset[C]//Proc of International Conference on Machine Learning for Networking.Berlin:Springer,2019:240-254.

    [21]Shahraki A,Abbasi M,Taherkordi A,et al.A comparative study on online machine learning techniques for network traffic streams analysis[J].Computer Networks:the International Journal of Computer and Telecommunications Networking,2022,207:108836.

    [22]Ahmad Z,Khan A S,Shiang C W,et al.Network intrusion detection system:a systematic study of machine learning and deep learning approaches[J].Trans on Emerging Telecommunications Technologies,2021,32(1):e4150.

    [23]Li Yupeng,Liang Ben,Tizghadam A.Robust online learning against malicious manipulation and feedback delay with application to network flow classification[J].IEEE Journal on Selected Areas in Communications,2021,39(8):2648-2663.

    [24]羅文華,許彩滇.基于改進MajorClust聚類的網(wǎng)絡入侵行為檢測[J].信息網(wǎng)絡安全,2020,20(2):14-21.(Luo Wenhua,Xu Caidian.Network intrusion detection based on improved MajorClust clustering[J].Netinfo Security,2020,20(2):14-21.)

    [25]Engelen G,Rimmer V,Joosen W.Troubleshooting an intrusion detection dataset:the CICIDS2017 case study[C]//Proc of IEEE Security and Privacy Workshops.Piscataway,NJ:IEEE Press,2021:7-12.

    [26]Kingma D P,Ba J.Adam:a method for stochastic optimization[EB/OL].(2017-01-30).https://arxiv.org/abs/1412.6980.

    [27]Singh N B,Singh M M,Sarkar A,et al.A novel wide & deep transfer learning stacked GRU framework for network intrusion detection[J].Journal of Information Security and Applications,2021,61:102899.

    收稿日期:2023-01-15;修回日期:2023-03-13? 基金項目:國家重點研發(fā)計劃資助項目(2018YFC0830600);中國刑事警察學院研究生創(chuàng)新能力提升項目(2022YCZD05)

    作者簡介:楊立圣(1999-),男,遼寧營口人,碩士研究生,主要研究方向為信息網(wǎng)絡安全與電子數(shù)據(jù)取證;羅文華(1977-),男(通信作者),遼寧沈陽人,教授,碩導,碩士,主要研究方向為信息網(wǎng)絡安全與電子數(shù)據(jù)取證(luowenhua770404@126.com).

    亚洲精品国产精品久久久不卡| 亚洲 欧美一区二区三区| 丁香六月天网| 18禁观看日本| 久久精品国产亚洲av香蕉五月 | 欧美大码av| 黑人操中国人逼视频| a 毛片基地| 亚洲熟女毛片儿| 日韩制服丝袜自拍偷拍| 久久久欧美国产精品| 99精国产麻豆久久婷婷| 一区在线观看完整版| 欧美一级毛片孕妇| 亚洲国产欧美网| 国产片内射在线| av线在线观看网站| 国产精品香港三级国产av潘金莲| 大片电影免费在线观看免费| 91成人精品电影| 久久久精品94久久精品| 法律面前人人平等表现在哪些方面 | 久久久久精品人妻al黑| 亚洲精品粉嫩美女一区| 亚洲色图 男人天堂 中文字幕| 亚洲国产中文字幕在线视频| 又黄又粗又硬又大视频| 精品亚洲成a人片在线观看| 国产一区二区激情短视频 | 中文字幕制服av| 美女高潮喷水抽搐中文字幕| 亚洲色图 男人天堂 中文字幕| 国产精品一区二区在线不卡| 性色av一级| 他把我摸到了高潮在线观看 | 色综合欧美亚洲国产小说| 99久久综合免费| 999久久久国产精品视频| 亚洲av美国av| 欧美人与性动交α欧美精品济南到| 国产精品一区二区在线不卡| 欧美日韩黄片免| 亚洲精品一二三| 一级片免费观看大全| 日韩中文字幕视频在线看片| 99久久99久久久精品蜜桃| 亚洲国产成人一精品久久久| 亚洲精品美女久久av网站| 999久久久国产精品视频| 天天影视国产精品| 亚洲精华国产精华精| 老司机福利观看| 国产成+人综合+亚洲专区| 亚洲av成人不卡在线观看播放网 | 亚洲自偷自拍图片 自拍| 97在线人人人人妻| 欧美xxⅹ黑人| 午夜久久久在线观看| 女性被躁到高潮视频| 丁香六月天网| 国产av精品麻豆| 亚洲五月婷婷丁香| 夜夜夜夜夜久久久久| 777米奇影视久久| 欧美少妇被猛烈插入视频| 丰满迷人的少妇在线观看| 高清av免费在线| 欧美另类一区| 午夜日韩欧美国产| 九色亚洲精品在线播放| 国产一级毛片在线| 国产xxxxx性猛交| 久热这里只有精品99| 欧美午夜高清在线| www.999成人在线观看| 在线天堂中文资源库| 女人久久www免费人成看片| 日韩视频一区二区在线观看| 国产亚洲精品久久久久5区| 另类亚洲欧美激情| 丝袜美足系列| 国产亚洲欧美精品永久| 日本a在线网址| 久久亚洲精品不卡| 久久国产精品影院| 久久99热这里只频精品6学生| 欧美一级毛片孕妇| 国产精品欧美亚洲77777| av一本久久久久| 久久影院123| 黑人欧美特级aaaaaa片| 搡老乐熟女国产| 啦啦啦视频在线资源免费观看| 国产精品1区2区在线观看. | 日韩中文字幕欧美一区二区| 欧美日本中文国产一区发布| 国产成人av教育| 亚洲中文日韩欧美视频| 天天躁狠狠躁夜夜躁狠狠躁| 母亲3免费完整高清在线观看| 大片电影免费在线观看免费| 国产精品一二三区在线看| 久久毛片免费看一区二区三区| 久久久久久久久久久久大奶| 黑人欧美特级aaaaaa片| 久久精品国产a三级三级三级| videosex国产| 中文精品一卡2卡3卡4更新| 国产精品熟女久久久久浪| 久久狼人影院| 成人手机av| 久久99热这里只频精品6学生| 午夜视频精品福利| 美女高潮到喷水免费观看| 男人操女人黄网站| 欧美乱码精品一区二区三区| 亚洲成人免费av在线播放| 欧美激情高清一区二区三区| av网站在线播放免费| 色老头精品视频在线观看| 日韩欧美一区视频在线观看| 如日韩欧美国产精品一区二区三区| 国产成人av激情在线播放| 老汉色∧v一级毛片| 老汉色av国产亚洲站长工具| 国产欧美日韩综合在线一区二区| 热99国产精品久久久久久7| 青春草视频在线免费观看| 欧美精品人与动牲交sv欧美| 伦理电影免费视频| 在线观看www视频免费| 国产一区二区三区综合在线观看| 18禁裸乳无遮挡动漫免费视频| 99国产精品一区二区三区| 国产淫语在线视频| 免费观看a级毛片全部| 91精品国产国语对白视频| av线在线观看网站| 高清黄色对白视频在线免费看| 熟女少妇亚洲综合色aaa.| a 毛片基地| 宅男免费午夜| 国产一区二区在线观看av| 国产亚洲精品一区二区www | 天天影视国产精品| 欧美成狂野欧美在线观看| 男女国产视频网站| 一本久久精品| av超薄肉色丝袜交足视频| 免费观看a级毛片全部| 桃花免费在线播放| 淫妇啪啪啪对白视频 | 欧美成人午夜精品| tube8黄色片| 十八禁网站免费在线| 啪啪无遮挡十八禁网站| 桃红色精品国产亚洲av| 国产成人一区二区三区免费视频网站| 黄色毛片三级朝国网站| 欧美日韩av久久| 老熟女久久久| 老汉色av国产亚洲站长工具| 男女下面插进去视频免费观看| 久久久久久亚洲精品国产蜜桃av| 巨乳人妻的诱惑在线观看| 人人澡人人妻人| 色婷婷久久久亚洲欧美| 日韩欧美国产一区二区入口| 99re6热这里在线精品视频| 90打野战视频偷拍视频| 久久久久久亚洲精品国产蜜桃av| 国产一区二区 视频在线| 亚洲国产成人一精品久久久| 精品熟女少妇八av免费久了| 欧美黄色淫秽网站| 99国产精品一区二区三区| 亚洲全国av大片| 亚洲成av片中文字幕在线观看| 免费女性裸体啪啪无遮挡网站| 中国美女看黄片| 亚洲一卡2卡3卡4卡5卡精品中文| 精品熟女少妇八av免费久了| 一区二区av电影网| 日韩大片免费观看网站| av又黄又爽大尺度在线免费看| 中文精品一卡2卡3卡4更新| 2018国产大陆天天弄谢| 高清av免费在线| 精品一区在线观看国产| 亚洲欧洲精品一区二区精品久久久| 久久影院123| 精品国内亚洲2022精品成人 | 亚洲熟女毛片儿| 黄色 视频免费看| 伊人久久大香线蕉亚洲五| 成人国产一区最新在线观看| 18禁观看日本| 午夜免费成人在线视频| 美女午夜性视频免费| 久久毛片免费看一区二区三区| 男女床上黄色一级片免费看| 十八禁网站网址无遮挡| 黄色视频,在线免费观看| 欧美黑人精品巨大| 黄片小视频在线播放| 国产精品.久久久| 亚洲七黄色美女视频| 久久精品亚洲av国产电影网| 99久久国产精品久久久| 爱豆传媒免费全集在线观看| av一本久久久久| 久久国产亚洲av麻豆专区| 夜夜骑夜夜射夜夜干| 狂野欧美激情性bbbbbb| 亚洲精品中文字幕在线视频| 精品人妻一区二区三区麻豆| 日韩欧美一区视频在线观看| 在线天堂中文资源库| 亚洲欧美精品自产自拍| 超色免费av| 极品人妻少妇av视频| 免费久久久久久久精品成人欧美视频| 久久国产精品人妻蜜桃| 色播在线永久视频| 国产精品久久久久久精品电影小说| 亚洲精品国产区一区二| 老熟女久久久| 美女午夜性视频免费| 美女高潮喷水抽搐中文字幕| 日韩三级视频一区二区三区| 90打野战视频偷拍视频| 亚洲av美国av| 国产日韩欧美亚洲二区| 久久久久久久国产电影| 美女视频免费永久观看网站| 黄网站色视频无遮挡免费观看| 成人18禁高潮啪啪吃奶动态图| 欧美国产精品va在线观看不卡| 黄片播放在线免费| 99久久精品国产亚洲精品| 国产免费福利视频在线观看| 欧美日本中文国产一区发布| 高清视频免费观看一区二区| 宅男免费午夜| 日韩视频一区二区在线观看| 国产精品香港三级国产av潘金莲| 超碰成人久久| 丰满迷人的少妇在线观看| 国产人伦9x9x在线观看| 十分钟在线观看高清视频www| 久久中文字幕一级| 男女床上黄色一级片免费看| 天堂俺去俺来也www色官网| 免费av中文字幕在线| 天天操日日干夜夜撸| av在线app专区| 天天躁日日躁夜夜躁夜夜| 操美女的视频在线观看| 91av网站免费观看| 美女中出高潮动态图| 一个人免费看片子| 精品人妻1区二区| av线在线观看网站| 搡老岳熟女国产| 老司机靠b影院| 国产成人精品久久二区二区免费| 国产亚洲午夜精品一区二区久久| 麻豆国产av国片精品| 国产欧美日韩一区二区精品| 亚洲天堂av无毛| 狂野欧美激情性xxxx| 桃花免费在线播放| 18禁裸乳无遮挡动漫免费视频| 成人三级做爰电影| 丰满迷人的少妇在线观看| 淫妇啪啪啪对白视频 | 男女高潮啪啪啪动态图| 欧美另类一区| 制服人妻中文乱码| 久久人人爽av亚洲精品天堂| 日韩免费高清中文字幕av| 日韩免费高清中文字幕av| 欧美国产精品va在线观看不卡| 欧美激情久久久久久爽电影 | 下体分泌物呈黄色| 老司机亚洲免费影院| 久久精品国产综合久久久| 久久久久久久精品精品| av一本久久久久| 国产成人av激情在线播放| 久久久久久久精品精品| 精品少妇久久久久久888优播| 黄色怎么调成土黄色| 国产1区2区3区精品| 精品少妇内射三级| 午夜91福利影院| 又黄又粗又硬又大视频| 精品福利观看| 又紧又爽又黄一区二区| 建设人人有责人人尽责人人享有的| 国产日韩欧美视频二区| 天堂俺去俺来也www色官网| 蜜桃国产av成人99| 久久久久久久大尺度免费视频| 999久久久精品免费观看国产| 蜜桃国产av成人99| 免费在线观看影片大全网站| 午夜91福利影院| 国产男人的电影天堂91| 国产成人影院久久av| a级毛片在线看网站| 中国美女看黄片| 51午夜福利影视在线观看| 国产男女超爽视频在线观看| 国内毛片毛片毛片毛片毛片| 午夜免费成人在线视频| 新久久久久国产一级毛片| 国产一区二区在线观看av| 成人黄色视频免费在线看| av网站免费在线观看视频| 欧美精品一区二区大全| 叶爱在线成人免费视频播放| 国产男女超爽视频在线观看| 悠悠久久av| 国产熟女午夜一区二区三区| 在线观看舔阴道视频| av片东京热男人的天堂| 高清黄色对白视频在线免费看| 91麻豆精品激情在线观看国产 | 久久久久久久精品精品| 两人在一起打扑克的视频| 久久精品成人免费网站| 久久久国产成人免费| 国产日韩一区二区三区精品不卡| 美女福利国产在线| 老司机影院成人| 老司机靠b影院| 国产真人三级小视频在线观看| 久久毛片免费看一区二区三区| av在线老鸭窝| 国产91精品成人一区二区三区 | 成人国产一区最新在线观看| 搡老岳熟女国产| 男女免费视频国产| 如日韩欧美国产精品一区二区三区| 国产熟女午夜一区二区三区| 少妇的丰满在线观看| 两个人看的免费小视频| 色播在线永久视频| 亚洲精品一卡2卡三卡4卡5卡 | 欧美精品高潮呻吟av久久| kizo精华| 久久女婷五月综合色啪小说| 欧美精品一区二区大全| 一级片'在线观看视频| 欧美另类亚洲清纯唯美| 黑人猛操日本美女一级片| 高清在线国产一区| 一区二区三区乱码不卡18| 嫩草影视91久久| 亚洲第一青青草原| 亚洲国产欧美一区二区综合| 男女边摸边吃奶| 欧美人与性动交α欧美精品济南到| 美女扒开内裤让男人捅视频| 午夜日韩欧美国产| 啦啦啦啦在线视频资源| 免费在线观看影片大全网站| 成人国语在线视频| 18禁黄网站禁片午夜丰满| 大香蕉久久成人网| 精品久久久久久久毛片微露脸 | 国产精品99久久99久久久不卡| 麻豆乱淫一区二区| 欧美黑人欧美精品刺激| 两人在一起打扑克的视频| 中文字幕制服av| 黄频高清免费视频| 国产免费视频播放在线视频| 国产成人欧美| 国产精品av久久久久免费| 熟女少妇亚洲综合色aaa.| 别揉我奶头~嗯~啊~动态视频 | 亚洲精品国产精品久久久不卡| 在线观看免费午夜福利视频| 久久精品国产综合久久久| 人人妻,人人澡人人爽秒播| 亚洲欧美一区二区三区黑人| 国精品久久久久久国模美| 人人妻,人人澡人人爽秒播| 少妇被粗大的猛进出69影院| 成人手机av| 久久热在线av| 亚洲专区国产一区二区| 久久久欧美国产精品| 国产成人欧美在线观看 | 欧美国产精品一级二级三级| 亚洲自偷自拍图片 自拍| 国产一区二区三区综合在线观看| 亚洲七黄色美女视频| 看免费av毛片| 亚洲五月色婷婷综合| 精品久久久久久久毛片微露脸 | 岛国毛片在线播放| 欧美精品av麻豆av| 欧美乱码精品一区二区三区| 搡老乐熟女国产| av福利片在线| 1024视频免费在线观看| 中文字幕人妻熟女乱码| 亚洲欧美日韩高清在线视频 | 夜夜夜夜夜久久久久| 一级片'在线观看视频| 一本大道久久a久久精品| 99国产精品一区二区蜜桃av | 久久久水蜜桃国产精品网| 香蕉丝袜av| 如日韩欧美国产精品一区二区三区| 亚洲国产中文字幕在线视频| 日日摸夜夜添夜夜添小说| 极品少妇高潮喷水抽搐| 亚洲欧美色中文字幕在线| 亚洲久久久国产精品| 满18在线观看网站| 中文字幕色久视频| 侵犯人妻中文字幕一二三四区| 波多野结衣av一区二区av| 日韩,欧美,国产一区二区三区| 久久天躁狠狠躁夜夜2o2o| 18禁裸乳无遮挡动漫免费视频| a 毛片基地| 欧美av亚洲av综合av国产av| av有码第一页| 操出白浆在线播放| 色视频在线一区二区三区| 两性午夜刺激爽爽歪歪视频在线观看 | 欧美精品亚洲一区二区| 精品人妻一区二区三区麻豆| 亚洲中文av在线| 亚洲天堂av无毛| 国产亚洲精品一区二区www | 亚洲精品美女久久久久99蜜臀| 欧美在线一区亚洲| av又黄又爽大尺度在线免费看| 国产亚洲av高清不卡| av欧美777| 69av精品久久久久久 | 亚洲精品美女久久av网站| 亚洲精品中文字幕一二三四区 | www.av在线官网国产| 亚洲美女黄色视频免费看| 高清在线国产一区| 亚洲 国产 在线| 精品人妻熟女毛片av久久网站| 亚洲av国产av综合av卡| 精品少妇一区二区三区视频日本电影| 91精品三级在线观看| 美女脱内裤让男人舔精品视频| 国产欧美日韩一区二区精品| 一级片'在线观看视频| 亚洲精品久久午夜乱码| 国产日韩欧美视频二区| 无遮挡黄片免费观看| 亚洲精品美女久久av网站| 大香蕉久久成人网| 国产精品 欧美亚洲| 老司机深夜福利视频在线观看 | 国产1区2区3区精品| 久久久久国产精品人妻一区二区| 欧美精品高潮呻吟av久久| 俄罗斯特黄特色一大片| 精品久久久久久电影网| 欧美久久黑人一区二区| 午夜两性在线视频| 国产精品国产av在线观看| 欧美xxⅹ黑人| 亚洲黑人精品在线| 成人国产av品久久久| 伊人久久大香线蕉亚洲五| 欧美老熟妇乱子伦牲交| 高清黄色对白视频在线免费看| 日韩中文字幕视频在线看片| 亚洲专区字幕在线| 国产在线一区二区三区精| 欧美激情极品国产一区二区三区| 成人手机av| 欧美精品av麻豆av| 国产亚洲av高清不卡| 午夜福利一区二区在线看| cao死你这个sao货| 91麻豆av在线| 亚洲少妇的诱惑av| 高清黄色对白视频在线免费看| 欧美一级毛片孕妇| 王馨瑶露胸无遮挡在线观看| 精品乱码久久久久久99久播| 国产精品亚洲av一区麻豆| 又黄又粗又硬又大视频| 波多野结衣av一区二区av| 精品免费久久久久久久清纯 | 97在线人人人人妻| 久久久水蜜桃国产精品网| 国产一区二区三区av在线| 午夜成年电影在线免费观看| 两性午夜刺激爽爽歪歪视频在线观看 | 国产成人影院久久av| 18禁裸乳无遮挡动漫免费视频| 999精品在线视频| 性高湖久久久久久久久免费观看| 国产欧美日韩综合在线一区二区| 精品少妇内射三级| 每晚都被弄得嗷嗷叫到高潮| 亚洲男人天堂网一区| 中文欧美无线码| 在线 av 中文字幕| 久热这里只有精品99| 亚洲国产欧美一区二区综合| 91大片在线观看| 亚洲精品在线美女| 亚洲av电影在线进入| 成人国产av品久久久| 亚洲精品自拍成人| 亚洲av电影在线观看一区二区三区| 国产精品一二三区在线看| 黄色视频不卡| 99久久国产精品久久久| 国产亚洲av高清不卡| 亚洲精品美女久久av网站| 性少妇av在线| 中文字幕最新亚洲高清| 黄网站色视频无遮挡免费观看| 精品国产一区二区三区四区第35| 国产不卡av网站在线观看| 交换朋友夫妻互换小说| 可以免费在线观看a视频的电影网站| 丝袜在线中文字幕| 女人久久www免费人成看片| 91大片在线观看| 黄色 视频免费看| 五月开心婷婷网| 色婷婷av一区二区三区视频| 两性午夜刺激爽爽歪歪视频在线观看 | 国产人伦9x9x在线观看| 麻豆乱淫一区二区| 亚洲精品国产精品久久久不卡| 国产成人欧美在线观看 | 激情视频va一区二区三区| 在线精品无人区一区二区三| 日本撒尿小便嘘嘘汇集6| 国产高清视频在线播放一区 | 亚洲第一欧美日韩一区二区三区 | 久久国产精品男人的天堂亚洲| 亚洲一区二区三区欧美精品| 99精品久久久久人妻精品| 在线观看舔阴道视频| 精品国产一区二区三区四区第35| 大香蕉久久成人网| 色播在线永久视频| 成年动漫av网址| 18禁裸乳无遮挡动漫免费视频| 一级黄色大片毛片| 国产欧美亚洲国产| av又黄又爽大尺度在线免费看| 国产精品久久久久久精品电影小说| 国产又色又爽无遮挡免| 18禁黄网站禁片午夜丰满| 在线 av 中文字幕| 亚洲精品美女久久久久99蜜臀| 中文字幕色久视频| 老司机深夜福利视频在线观看 | 精品久久久久久电影网| 国产老妇伦熟女老妇高清| 91精品三级在线观看| 大片电影免费在线观看免费| 国产精品久久久久久精品电影小说| 十八禁网站网址无遮挡| 日韩中文字幕视频在线看片| 国产无遮挡羞羞视频在线观看| 老司机影院毛片| 精品一区在线观看国产| 国产精品香港三级国产av潘金莲| 欧美成狂野欧美在线观看| 午夜福利影视在线免费观看| 精品乱码久久久久久99久播| 国产成人免费观看mmmm| av在线app专区| 视频在线观看一区二区三区| 91老司机精品| 精品一区二区三卡| 午夜精品久久久久久毛片777| 美女视频免费永久观看网站| 99国产综合亚洲精品| 精品第一国产精品| 日韩欧美国产一区二区入口| 精品熟女少妇八av免费久了| 777久久人妻少妇嫩草av网站| 视频区欧美日本亚洲| 亚洲综合色网址| 亚洲av成人不卡在线观看播放网 | 免费不卡黄色视频| 一区二区三区激情视频| 国产亚洲精品久久久久5区| 免费在线观看黄色视频的| 岛国在线观看网站| 性高湖久久久久久久久免费观看| 一级片'在线观看视频| 午夜视频精品福利| 18禁黄网站禁片午夜丰满| 久久久久国产精品人妻一区二区| 老司机影院毛片| 免费av中文字幕在线| 国产不卡av网站在线观看| 国产成人欧美在线观看 | 亚洲成人免费av在线播放| 亚洲av欧美aⅴ国产|