• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于樣本分布特征的數(shù)據(jù)投毒防御

    2023-10-18 23:14:21楊立圣羅文華
    計算機應用研究 2023年9期

    楊立圣 羅文華

    摘 要:流量分類模型在更新過程中易受數(shù)據(jù)污染的干擾而降低模型性能,現(xiàn)有基于數(shù)據(jù)清洗的防御方法需依賴專家經(jīng)驗和人工篩選,且無法有效應對利用未知分布樣本構(gòu)造的投毒攻擊。針對上述問題,受分布外檢測和判別主動學習的啟發(fā),設計一種基于樣本分布特征的數(shù)據(jù)投毒防御方法,通過二分類判別器篩選每輪新增樣本中的已知及未知分布樣本。對于新增的已知分布樣本,通過模型預測與標注結(jié)果一致率評估新增樣本的數(shù)據(jù)質(zhì)量,決定是否進行模型更新;對于新增的未知分布樣本,則利用基于標注正確率的少樣本抽檢評估樣本可用性。實驗結(jié)果表明,該方法在抵御數(shù)據(jù)投毒攻擊的同時可以保證模型準確率,并有效識別利用未知分布樣本構(gòu)造的數(shù)據(jù)投毒攻擊。

    關鍵詞:AI安全;流量分類模型;數(shù)據(jù)投毒攻擊;樣本分布特征

    中圖分類號:TP309?? 文獻標志碼:A

    文章編號:1001-3695(2023)09-045-2845-06

    doi:10.19734/j.issn.1001-3695.2023.01.0025

    Data poisoning defense based on sample distribution characteristics

    Yang Lisheng,Luo Wenhua

    (School of Public Security Information Technology & Intelligence,Criminal Investigation Police University of China,Shenyang 110035,China)

    Abstract:The traffic classification model is vulnerable to the interference of data pollution in the update process and reduces the performance of the model.The existing defense methods based on data cleaning need to rely on expert experience and ma-nual screening,and cannot effectively deal with the poison attack constructed by using unknown distributed samples.In view of the above problems,inspired by out-of-distribution detection and discrimination active learning,this paper designed a data poisoning prevention method based on sample distribution characteristics,and used the binary classification discriminator to screen out the known and unknown distribution samples in each new round of samples.For the new known distribution samples,it used the concordant rate of prediction and annotation to evaluate the data quality of the new samples and determine whether to update the model.For the new unknown distribution samples,it used the small sample sampling based on the labeling accuracy to evaluate the sample availability.The experimental results show that this method can guarantee the accuracy of the model while resisting the data poisoning attack,and effectively identify the data poisoning attack constructed by using unknown distribution samples.

    Key words:AI security;traffic classification model;data poisoning attack;sample distribution characteristics

    0 引言

    深度學習技術的快速發(fā)展正改變網(wǎng)絡空間安全領域的格局。其中,基于深度學習的流量分類模型可有效檢測出各類網(wǎng)絡安全威脅[1],其已成為保護網(wǎng)絡系統(tǒng)安全的重要手段之一。流量分類模型雖可保護目標網(wǎng)絡系統(tǒng)免遭網(wǎng)絡攻擊[2],但其模型自身亦存在巨大安全風險[3],這些安全風險存在的根本原因是模型在設計之初并未考慮相關安全威脅,使得模型的預測結(jié)果容易被惡意攻擊所影響[4]。數(shù)據(jù)投毒攻擊作為一種新型的持續(xù)破壞模型可用性和完整性的攻擊方式,可對流量分類模型造成嚴重的安全威脅。流量分類模型遭受數(shù)據(jù)投毒攻擊后,分類性能會下降,喪失對惡意流量的識別能力。因此,如何高效識別數(shù)據(jù)投毒攻擊對流量分類模型安全具有重要意義。

    目前已有國內(nèi)外學者對入侵檢測模型的安全性及防御方法展開了相關研究,現(xiàn)有工作提出了增強模型魯棒性和數(shù)據(jù)清洗等防御方法。

    Ibitoye等人[5]提出一種自歸一化神經(jīng)網(wǎng)絡,該模型具有更強的魯棒性,可以防御對抗攻擊。Khamis等人[6]提出一種應用鞍點法來訓練入侵檢測系統(tǒng)以防御對抗攻擊的方法,有效提高了基于DNN的入侵檢測模型的魯棒性,并指出使用主成分分析對數(shù)據(jù)集進行降維有助于降低規(guī)避率。Anthi等人[7]針對入侵檢測模型提出了一種對抗機器學習的防御方法,采用基于雅可比矩陣的顯著圖攻擊生成對抗樣本,并利用對抗樣本進行對抗訓練,以提高模型的魯棒性,實現(xiàn)對對抗攻擊的防御?;隰敯粜詫W習的防御方法雖在一定程度上增強了模型的安全性,但也存在一定的局限。經(jīng)過對抗學習的模型只能對特定攻擊樣本產(chǎn)生防御效果,對新型攻擊樣本并不能起到防御作用[8]。采用魯棒性學習的方法不僅會降低模型精度,而且可能會帶來瞬態(tài)誤差、條件誤差、系統(tǒng)性錯誤等新的安全問題[9]。而且魯棒性學習主要應對由對抗樣本和噪聲帶來的攻擊問題,對標簽翻轉(zhuǎn)式數(shù)據(jù)投毒攻擊的防御效果并不理想。

    Apruzzese等人[10]提出一種針對網(wǎng)絡入侵檢測系統(tǒng)模型投毒攻擊的防御方法,該方法在訓練數(shù)據(jù)集上引入數(shù)據(jù)轉(zhuǎn)換,使攻擊者注入的投毒樣本經(jīng)過數(shù)據(jù)轉(zhuǎn)換后得到的特征與攻擊者所期望的特征不同,以減輕投毒攻擊對模型的影響。Bao等人[11]提出Februus方法可以精準地去除輸入樣本的異常擾動,以防御數(shù)據(jù)投毒攻擊。Tang等人[12]提出了一種基于表征分析及統(tǒng)計屬性的后門檢測方法,設計了統(tǒng)計污染分析器,利用每個類別的全局信息統(tǒng)計分析來判斷模型是否遭受后門攻擊,并對中毒樣本進行過濾。然而由于存在概念漂移現(xiàn)象,在實際場景中流量分類模型需及時更新以適應新的樣本分布。上述工作并未考慮到模型更新場景,且集中于識別單獨樣本的毒性,會引起較高的誤報率,模型復原代價較高[13]。而在更新過程中新增數(shù)據(jù)分布識別依靠專家經(jīng)驗,也會導致模型更新后的準確率反而降低的情況[14]。最近,劉廣睿等人[15]提出了一套針對智能入侵檢測系統(tǒng)的污染數(shù)據(jù)過濾的通用模型更新方法,使用EdgeGAN算法及模糊測試擬合模型的邊緣樣本分布,通過對比新增樣本與原模型的MSE值及更新后模型對舊邊緣樣本的Fβ分數(shù),從而識別被污染樣本。該方法雖在模型更新的場景下進行研究,但并未考慮攻擊者利用新型惡意流量構(gòu)造數(shù)據(jù)投毒攻擊的情況,無法識別未知分布樣本的數(shù)據(jù)投毒攻擊[16],而攻擊者極易利用該部分樣本構(gòu)造針對流量分類模型的“0day”攻擊。

    為了解決上述問題,實現(xiàn)流量分類模型的安全穩(wěn)定更新,設計一種基于樣本分布特征的數(shù)據(jù)投毒防御方法。首先,設計模型預測與標注結(jié)果一致率指標,借助更新前的良性模型對新增訓練樣本的質(zhì)量進行評估。其次,對于未知分布的惡意流量樣本,模型對其分類性能較差,此時僅依靠模型預測與標注結(jié)果一致率指標會引起誤報。為避免誤報,受分布外檢測[17]和判別主動學習[18]思路的啟發(fā),將已知分布樣本和未知分布樣本的判別轉(zhuǎn)換為二元分類任務,并據(jù)此設計新增樣本空間分布判別器,以區(qū)分已知分布樣本和未知分布樣本,防止攻擊者利用未知分布樣本進行數(shù)據(jù)投毒攻擊。

    1 方法設計

    由于流量樣本類別情況會隨時間而發(fā)生變化,流量分類模型需頻繁更新,但數(shù)據(jù)驅(qū)動的流量分類模型自身存在脆弱性,導致其在模型更新過程中極易受到數(shù)據(jù)投毒攻擊。在此場景下,需要實現(xiàn):a)以自動化的流程完成樣本篩選,并利用篩選好的干凈樣本進行模型更新;b)以較小的代價快速、便捷地實現(xiàn)未知分布樣本識別,防止攻擊者利用此部分樣本構(gòu)造針對流量分類模型的“0day”攻擊;c)及時發(fā)現(xiàn)投毒數(shù)據(jù)樣本,并對投毒樣本進行有效過濾。

    為了實現(xiàn)上述目標,設計一種基于樣本分布特征的數(shù)據(jù)投毒防御的方法。首先需要實現(xiàn)未知分布樣本的判別,即需要對訓練樣本和新增樣本進行分布外檢測。在此場景下,需快速、高效地完成未知分布樣本和已知分布樣本的二分類任務,故可將解決無標注集和有標注集分類任務的判別主動學習的思路遷移到新增樣本分布判別任務中。過濾未知分布樣本后,可保證剩余樣本的分布與訓練樣本相比不會發(fā)生劇烈變化。因此可根據(jù)未更新模型的預測結(jié)果與標注結(jié)果的一致性判別該批新增樣本的數(shù)據(jù)質(zhì)量,以實現(xiàn)對投毒數(shù)據(jù)樣本的檢測。

    基于樣本分布特征的數(shù)據(jù)投毒防御方法流程如圖1所示。對于每批用于模型更新的新增樣本,首先經(jīng)過新增樣本分布判別器的判別,從該批新增樣本中篩選出與自身訓練集數(shù)據(jù)分布差異較大及分布差異較小的樣本,這兩部分樣本對于模型而言可分別認為是未知分布樣本和已知分布樣本;若為未知分布樣本,則觸發(fā)少樣本抽檢判斷樣本是否符合質(zhì)量,如果符合質(zhì)量,則將該部分樣本作為模型更新訓練樣本;若不符合質(zhì)量則決定丟棄該部分樣本。對于已知分布樣本,通過計算模型預測與標注結(jié)果一致率判斷其是否符合樣本更新要求。如果符合,則使用該部分樣本對模型更新,否則就丟棄該部分樣本。若整個過程沒有符合條件的新增樣本,則不對模型進行更新。關于流程中的關鍵部分,將在1.1節(jié)和1.2節(jié)中詳細闡述。

    1.1 模型預測與標注結(jié)果一致率

    對于預訓練好的流量分類模型來說,模型需要頻繁更新以識別不斷變化的惡意流量[19],故其數(shù)據(jù)投毒安全風險存在于模型更新階段。記模型預訓練的數(shù)據(jù)集為Dpretrain,模型訓練過程可描述為:找到=Ψ(x),使得對于輸入x∈Dpretrain,其標簽為y,有較高概率成立=y。若新增訓練樣本中不存在投毒樣本,即DpoisonDiter,則更新好的模型Ψ′(x)對于輸入x∈(Dpretrain∪Diter) 有較高概率成立=y,且對于測試集中的數(shù)據(jù)x∈Dtest也有較高概率成立=y。若新增訓練樣本中存在投毒樣本,即DpoisonDiter,則更新好的模型Ψ′(x)對于輸入x∈(Dpretrain∪Diter) 有較高概率成立=y,但對于測試集中的數(shù)據(jù)x∈Dtest中成立=y的概率會下降,即模型的分類效果變差,故需設計方案保證流量分類模型的安全更新。

    2.2 實驗參數(shù)設置

    實驗使用的主機環(huán)境配置如下:處理器為Intel CoreTM i7-10870H CPU,顯卡為NVIDIA GeForce RTX 3070 Laptop,顯存大小為8 GB,運行內(nèi)存為64 GB,操作系統(tǒng)為Windows 11 專業(yè)版,代碼基于Python 3.9.6,深度學習框架主要使用PyTorch 1.12.0+CUDA 11.3版本,集成開發(fā)環(huán)境為PyCharm。模型設置的訓練參數(shù)為:訓練數(shù)據(jù)的batch大小設置為64,學習率設置為0.001,損失函數(shù)采用交叉熵損失函數(shù),優(yōu)化器選用Adam[26]。

    2.3 新增樣本空間分布判別器閾值的設定

    實驗構(gòu)建的新增樣本空間分布判別器網(wǎng)絡結(jié)構(gòu)如圖3所示。

    新增樣本空間分布判別器由特征輸入模塊、特征提取模塊、特征判別模塊組成。特征輸入模塊由linear層和LeakyReLU層構(gòu)成,用于將輸入流量數(shù)據(jù)輸入到判別器網(wǎng)絡中;特征提取模塊由兩層linear層和LeakyReLU層構(gòu)成,負責提取流量數(shù)據(jù)的未知分布和已知分布特征;特征判別模塊由一層linear層和softmax函數(shù)構(gòu)成,實現(xiàn)對未知分布樣本和已知分布樣本的分類判別。對于softmax函數(shù)得到分類的置信度結(jié)果[p0i,p1i],其中p0i為判別器對于樣本xi預測 add_label標簽為0的概率,p1i為判別器對于樣本xi預測add_label標簽為1的概率,p0i+p1i=1。由于Dpretrain中的add_label標簽為1,Diter中的add_label標簽為0,選用[p0i,p1i]中的p1i作為本實驗閾值θ篩選的概率值依據(jù),其中p1i的值越大,代表該樣本xi與預訓練樣本的分布較為相似。對于新增樣本空間分布判別器閾值θ的設定,進行如下實驗。實驗的數(shù)據(jù)選用數(shù)據(jù)集Dpretrain及新增樣本數(shù)據(jù)Diter,為方便評估實驗效果,對于Diter的數(shù)據(jù)保留BENIGE、DoS、PortScan、Brute Force、Web Attack、Bot的標注標簽。預訓練數(shù)據(jù)集Dpretrain中只包含BENIGE、DoS兩類數(shù)據(jù),故Diter中的PortScan、Brute Force、Web Attack、Bot類數(shù)據(jù)為相較于Dpretrain中數(shù)據(jù)的不同分布數(shù)據(jù)。首先從Diter中隨機采樣100 000條數(shù)據(jù)記為Dtest_discriminator,為了保證每次實驗選取相同樣本,對采樣器設置相同的隨機狀態(tài)(random_state)參數(shù)。從Dtest_discriminator中再隨機選取20%的數(shù)據(jù),并同樣設置隨機狀態(tài),與Dpretrain數(shù)據(jù)混合,得到Dtrain_discriminator。將Dtrain_discriminator數(shù)據(jù)用于判別器模型訓練,訓練完畢后,將Dtest_discriminator數(shù)據(jù)輸入模型中,并通過閾值θ,將Dtest_discriminator分為與預訓練集數(shù)據(jù)分布類似的樣本集合Dknown和與預訓練集數(shù)據(jù)分布不同的樣本集合Dunknown。再進行多次實驗時,每次判別器訓練完畢后的參數(shù)不保存,下次實驗重新訓練。

    為了更好地評估不同閾值θ下的判別器效果,設計未知樣本檢測率(unknown samples detection rate,USDR)與誤報率(false alarm rate,F(xiàn)AR)。

    USDR=TrueUnknownTrueUnknown+FalseKnown(7)

    FAR=FalseUnKnownFalseUnknown+TrueKnown(8)

    式(7)(8)展示了USDR與FAR的具體計算方法,其中TrueUnknown為正確識別的未知分布樣本數(shù)量;FalseUnknown為錯誤識別的已知分布樣本數(shù)量;TrueKnown為正確識別的已知分布樣本數(shù)量;FalseKnown為錯誤識別的未知分布樣本數(shù)量。USDR表示在識別未知分布樣本時,正確識別的樣本占比;FAR表示識別為未知分布樣本的集合中,錯誤識別的樣本占比。不同閾值θ下USDR與FAR情況如表3所示。

    根據(jù)表3可以得出,閾值θ越高,判別器的未知樣本檢測率越高,當閾值θ選定為0.8時,判別器的未知樣本檢測率最高,為0.921 2。但此時,模型的誤報率也為最高,為0.078 9。綜合考慮未知樣本檢測率及誤報率,選用閾值θ為0.75較為合適,即置信度超過0.75的樣本可以認為是已知分布的樣本,置信度低于0.75的樣本可認為是未知分布的樣本。后續(xù)實驗中,新增樣本空間分布判別器閾值θ選定為0.75。

    2.4 CRPA閾值的設定

    CRPA是評估是否利用該批樣本進行模型更新訓練的重要評價指標,對于流量分類模型來說,在正常情況下模型對新增樣本的預測結(jié)果與標注結(jié)果的差異不會過高[27],如果差異較大,則說明該批次樣本存在數(shù)據(jù)投毒攻擊的風險。為了確定CRPA閾值,進行如下實驗:

    對于流量分類模型,進行正常模型更新訓練,每次更新模型時從Diter中選取n個樣本,其中n∈{10 000,25 000,50 000,75 000,100 000},模型更新的總次數(shù)epochs取10,計算n取不同值時每一更新輪次的CRPA指標。

    表4展示了在正常訓練情況下n取不同值時,CRPA指標的最大值與最小值情況。根據(jù)表中數(shù)據(jù)可知,CRPA最小值在0.946 0~0.947 0波動,CRPA最大值在0.975~0.982波動。后續(xù)實驗的CRPA的閾值選定為0.94,即對于一批新增樣本,其CRPA指標小于0.94時,該批新增樣本的數(shù)據(jù)質(zhì)量不合格,不符合模型更新的要求,則丟棄該批樣本;若CRPA指標大于0.94時,該批新增樣本的數(shù)據(jù)質(zhì)量合格,符合模型更新的要求,利用該批新增樣本進行模型更新。

    2.5 數(shù)據(jù)投毒防御效果

    本實驗的更新樣本數(shù)據(jù)集采用Diter,測試數(shù)據(jù)集采用Dtest,總共進行n輪模型更新訓練,每次更新訓練從Diter新增樣本池中隨機抽取的樣本集合,記為Di,其中i=1,2,3,…,n。Di中包含模型未知分布樣本和已知分布樣本。本實驗將判別器的判別閾值θ設置為0.75,每輪的更新樣本Di通過判別器判別可得到未知分布樣本D_Unknowni以及已知分布樣本D_Knowni。為了模擬少樣本抽檢過程,將每輪的未知分布樣本D_Unknowni進行清洗。設置CRPA的閾值為0.94。對于已知分布樣本D_Knowni計算CRPA指標,若CRPA指標小于CRPA閾值,證明該批新增樣本Di中的D_Knowni數(shù)據(jù)集不符合模型更新的要求,丟棄該批D_Knowni樣本,將清洗后的D_Unknowni樣本與預訓練樣本Dpretrain混合構(gòu)成訓練樣本D_traini,利用D_traini樣本對模型進行更新訓練;若CRPA指標大于CRPA閾值,則將清洗后的D_Unknowni與D_Knowni樣本進行混合得到訓練樣本D_traini,利用D_traini樣本對模型進行更新訓練。本實驗總共進行10輪模型更新訓練,每次更新訓練從Diter新增樣本池中隨機抽取100 000個樣本,對前5輪的更新數(shù)據(jù)進行投毒,投毒的比例分別設置為10%和20%。

    實驗驗證了本文方案對數(shù)據(jù)投毒攻擊的防御效果,圖4、5展示了投毒比例為0.1、0.2時使用該防御方法與未使用防御方法模型準確率變化情況。圖6、7為投毒比例為0.1、0.2時的使用該防御方法與未使用防御方法模型CRPA指標變化情況。

    模型在投毒比例為10%和20%時均展現(xiàn)了對數(shù)據(jù)投毒攻擊的良好防御效果,在前5輪對模型進行投毒的訓練輪次中,使用本文防御方法的流量分類模型,其準確率并未發(fā)生顯著下降,而且與后5輪未投毒情況下的模型預測準確率差距不大,使用該防御方法可以保證模型在數(shù)據(jù)投毒攻擊的情況下仍能保持較為良好的分類性能。對于20%的投毒比例,其對模型造成的破壞與10%的數(shù)據(jù)投毒比例相比,攻擊效果是顯著的,但該方法仍可保證流量分類模型的預測準確率在較小的范圍內(nèi)浮動,且與投毒比例為10%時的防御效果接近。從圖6、7可以發(fā)現(xiàn),在數(shù)據(jù)投毒攻擊的輪數(shù)內(nèi),其CRPA指標較正常模型更新時差距明顯。在投毒比例為10%的情況下,模型的CRPA指標下降到了92%左右,在投毒比例為20%的情況下,模型的CRPA指標下降更為顯著,為87%左右,而在正常訓練時模型的CRPA指標在94%以上。本文防御方法根據(jù)CRPA指標有效判斷數(shù)據(jù)投毒攻擊的攻擊輪數(shù),并對其數(shù)據(jù)投毒攻擊進行攔截,防止模型利用被投毒的數(shù)據(jù)進行模型更新從而導致的模型性能急劇下降。

    2.6 對比實驗

    在對比實驗中,數(shù)據(jù)投毒攻擊的基準防御方法選用最新的基于邊緣樣本的防御方法[15]。本部分實驗總共進行10輪模型更新訓練,每次更新訓練從Diter新增樣本池中隨機抽取100 000個樣本,對前5輪的更新數(shù)據(jù)進行投毒,投毒的比例設置為10%。圖8展示了在流量分類模型前5輪投毒、正常更新以及采用基于邊緣樣本防御方法的MSE變化情況,通過觀察正常訓練以及投毒時的MSE變化情況,基準防御方法的MSE閾值設置為0.06。圖9展示了分別使用基于邊緣樣本的防御方法和本文防御方法的流量分類模型準確率的變化情況,在投毒攻擊的前5個輪次,可以觀察到基于邊緣樣本的防御方法和新防御方法均對數(shù)據(jù)投毒攻擊起到了防御的效果,新方法可以在保證抵御數(shù)據(jù)投毒攻擊的前提下進一步提高模型的準確率,并且新方法在絕大多數(shù)數(shù)據(jù)迭代更新的輪次過程中,模型的準確率高于基于邊緣樣本的防御方法。

    為了對比基于邊緣樣本的防御方法與本文方法在模型未知分布樣本上進行數(shù)據(jù)投毒的防御情況,每次更新訓練從Diter新增樣本池中隨機抽取100 000個樣本集合Di,將Di中的未知分布樣本D_Unknowni進行數(shù)據(jù)投毒,用來模擬針對流量分類模型的“0day”攻擊。

    圖10展示了對于未知分布樣本數(shù)據(jù)投毒攻擊不同防御方法下的模型準確率變化情況,圖11展示了本實驗條件下的基于邊緣樣本的數(shù)據(jù)投毒防御方法的MSE值的變化情況。從圖10可知,本文方法在面對未知分布樣本的數(shù)據(jù)投毒攻擊時仍能保持流量分類模型較高的準確率,且在10輪訓練過程中,絕大多數(shù)輪次的流量分類模型準確率要高于基于邊緣樣本的防御方法。而在前5輪未知分布樣本投毒攻擊的輪次中,基于邊緣樣本的防御方法的模型準確率幾乎保持在0.95左右,是因為此時的模型與預訓練的流量分類模型一樣,對于未知分布樣本的分類性能較差,模型將絕大部分未知分布的惡意樣本識別為良性樣本,此時利用測試集對模型進行測試,得到的就是0.95左右的準確率。結(jié)合圖11可知,基于邊緣樣本的防御方法并未有效實現(xiàn)防御。由于模型本身對未知分布樣本的分類能力差,而此時針對未知分布的惡意樣本進行了標簽翻式的數(shù)據(jù)投毒攻擊,模型預測結(jié)果與標注結(jié)果就會一致,這樣MSE值就會低于閾值,基于邊緣樣本的數(shù)據(jù)投毒防御方法就會失效。而本文方法利用新增樣本判別器將絕大數(shù)的未知分布樣本進行過濾,有效抵御了基于未知布樣本的數(shù)據(jù)投毒攻擊。

    3 結(jié)束語

    本文提出了一種基于樣本空間分布的數(shù)據(jù)投毒防御方法,并設計了該方法的兩個重要部分——新增樣本空間判別器以及CRPA指標。對于新增樣本空間判別器,詳細論述了其原理及算法實現(xiàn),并通過實驗驗證新增樣本判別器的可行性及其判別效果。對于CRPA指標,論述了其計算方法及將其作為模型更新時的樣本質(zhì)量評估指標的依據(jù)。判別器閾值和CRPA閾值是影響防御方法效能的關鍵因素,通過對比實驗,探究了不同條件下的判別器樣本分布情況和CRPA情況,并確定了判別器閾值和CRPA閾值。最后通過實驗驗證了基于樣本空間分布的數(shù)據(jù)投毒防御方法的有效性,并通過對比實驗展現(xiàn)了本文方法對數(shù)據(jù)投毒攻擊的良好防御效果,該方法可以在抵御數(shù)據(jù)投毒攻擊的前提下保證模型的準確率高于基于邊緣樣本的防御方法,且可以有效識別利用未知分布樣本構(gòu)造的數(shù)據(jù)投毒攻擊。未來會構(gòu)造多種不同的數(shù)據(jù)投毒方式,完善本文方案,進一步提升針對流量分類模型數(shù)據(jù)投毒攻擊的防御效果。

    參考文獻:

    [1]張昊,張小雨,張振友,等.基于深度學習的入侵檢測模型綜述[J].計算機工程與應用,2022,58(6):17-28.(Zhang Hao,Zhang Xiaoyu,Zhang Zhenyou,et al.Summary of intrusion detection models based on deep learning[J].Computer Engineering and Applications,2022,58(6):17-28.)

    [2]羅文華,許彩滇.利用改進DBSCAN聚類實現(xiàn)多步式網(wǎng)絡入侵類別檢測[J].小型微型計算機系統(tǒng),2020,41(8):1725-1731.(Luo Wenhua,Xu Caidian.Using improved DBSCAN clustering to implement multi-step network intrusion detection[J].Journal of Chinese Computer Systems,2020,41(8):1725-1731.)

    [3]陳宇飛,沈超,王騫,等.人工智能系統(tǒng)安全與隱私風險[J].計算機研究與發(fā)展,2019,56(10):2135-2150.(Chen Yufei,Shen Chao,Wang Qian,et al.Security and privacy risks in artificial intel-ligence systems[J].Journal of Computer Research and Development,2019,56(10):2135-2150.)

    [4]隋然.網(wǎng)絡空間安全與人工智能研究綜述[J].信息工程大學學報,2021,22(5):584-589.(Sui Ran.Survey of cyberspace security and artificial intelligence research[J].Journal of Information Engineering University,2021,22(5):584-589.)

    [5]Ibitoye O,Shafiq O,Matrawy A.Analyzing adversarial attacks against deep learning for intrusion detection in IoT networks[C]//Proc of IEEE Global Communications Conference.Piscataway,NJ:IEEE Press,2019:1-6.

    [6]Khamis R A,Shafiq M O,Matrawy A.Investigating resistance of deep learning-based IDS against adversaries using min-max optimization[C]//Proc of IEEE International Conference on Communications.Piscataway,NJ:IEEE Press,2020:1-7.

    [7]Anthi E,Williams L,Rhode M,et al.Adversarial attacks on machine learning cybersecurity defences in industrial control systems[J].Journal of Information Security and Applications,2021,58(8):102717.

    [8]Koh P W,Steinhardt J,Liang P.Stronger data poisoning attacks break data sanitization defenses[J].Machine Learning,2022,111(1):1-47.

    [9]Lechner M,Hasani R,Grosu R,et al.Adversarial training is not ready for robot learning[C]//Proc of IEEE International Conference on Robotics and Automation.Piscataway,NJ:IEEE Press,2021:4140-4147.

    [10]Apruzzese G,Colajanni M,F(xiàn)erretti L,et al.Addressing adversarial attacks against security systems based on machine learning[C]//Proc of the 11th International Conference on Cyber Conflict.Piscataway,NJ:IEEE Press,2019:1-18.

    [11]Bao G D,Abbasnejad E,Ranasinghe D.Februus:input purification defense against trojan attacks on deep neural network systems[C]//Proc of Annual Computer Security Applications Conference.Piscataway,NJ:IEEE Press,2020:897-912.

    [12]Tang Di,Wang Xiaofeng,Tang Haixu,et al.Demon in the variant:statistical analysis of DNNs for robust backdoor contamination detection[C]//Proc of the 30th USENIX Security Symposium.Berkeley,CA:USENIX Association,2021:1541-1558.

    [13]余正飛,閆巧,周鋆.面向網(wǎng)絡空間防御的對抗機器學習研究綜述[J].自動化學報,2022,48(7):1625-1649.(Yu Zhengfei,Yan Qiao,Zhou Yun.A survey on adversarial machine learning for cyberspace defense[J].Acta Automatica Sinica,2022,48(7):1625-1649.)

    [14]Al S,Dener M.STL-HDL:a new hybrid network intrusion detection system for imbalanced dataset on big data environment[J].Compu-ters & Security,2021,110:102435.

    [15]劉廣睿,張偉哲,李欣潔.基于邊緣樣本的智能網(wǎng)絡入侵檢測系統(tǒng)數(shù)據(jù)污染防御方法[J].計算機研究與發(fā)展,2022,59(10):2348-2361.(Liu Guangrui,Zhang Weizhe,Li Xinjie.Data contamination defense method for intelligent network intrusion detection systems based on edge examples[J].Journal of Computer Research and Development,2022,59(10):2348-2361.)

    [16]Truex S,Liu Ling,Gursoy M E,et al.Towards demystifying membership inference attacks[EB/OL].(2019-02-01).https://arxiv.org/abs/1807.09173.

    [17]Yang Jingkang,Zhou Kaiyang,Li Yixuan,et al.Generalized out-of-distribution detection:a survey[EB/OL].(2022-08-03).https://arxiv.org/abs/2110.11334.

    [18]Gissin D,Shalev-Shwartz S.Discriminative active learning[EB/OL].(2019-07-15).https://arxiv.org/abs/1907.06347.

    [19]Otoum S,Kantarci B,Mouftah H.A comparative study of AI-based intrusion detection techniques in critical infrastructures[J].ACM Trans on Internet Technology,2021,21(4):1-22.

    [20]Rosay A,Carlier F,Leroux P.MLP4NIDS:an efficient MLP-based network intrusion detection for CICIDS2017 dataset[C]//Proc of International Conference on Machine Learning for Networking.Berlin:Springer,2019:240-254.

    [21]Shahraki A,Abbasi M,Taherkordi A,et al.A comparative study on online machine learning techniques for network traffic streams analysis[J].Computer Networks:the International Journal of Computer and Telecommunications Networking,2022,207:108836.

    [22]Ahmad Z,Khan A S,Shiang C W,et al.Network intrusion detection system:a systematic study of machine learning and deep learning approaches[J].Trans on Emerging Telecommunications Technologies,2021,32(1):e4150.

    [23]Li Yupeng,Liang Ben,Tizghadam A.Robust online learning against malicious manipulation and feedback delay with application to network flow classification[J].IEEE Journal on Selected Areas in Communications,2021,39(8):2648-2663.

    [24]羅文華,許彩滇.基于改進MajorClust聚類的網(wǎng)絡入侵行為檢測[J].信息網(wǎng)絡安全,2020,20(2):14-21.(Luo Wenhua,Xu Caidian.Network intrusion detection based on improved MajorClust clustering[J].Netinfo Security,2020,20(2):14-21.)

    [25]Engelen G,Rimmer V,Joosen W.Troubleshooting an intrusion detection dataset:the CICIDS2017 case study[C]//Proc of IEEE Security and Privacy Workshops.Piscataway,NJ:IEEE Press,2021:7-12.

    [26]Kingma D P,Ba J.Adam:a method for stochastic optimization[EB/OL].(2017-01-30).https://arxiv.org/abs/1412.6980.

    [27]Singh N B,Singh M M,Sarkar A,et al.A novel wide & deep transfer learning stacked GRU framework for network intrusion detection[J].Journal of Information Security and Applications,2021,61:102899.

    收稿日期:2023-01-15;修回日期:2023-03-13? 基金項目:國家重點研發(fā)計劃資助項目(2018YFC0830600);中國刑事警察學院研究生創(chuàng)新能力提升項目(2022YCZD05)

    作者簡介:楊立圣(1999-),男,遼寧營口人,碩士研究生,主要研究方向為信息網(wǎng)絡安全與電子數(shù)據(jù)取證;羅文華(1977-),男(通信作者),遼寧沈陽人,教授,碩導,碩士,主要研究方向為信息網(wǎng)絡安全與電子數(shù)據(jù)取證(luowenhua770404@126.com).

    午夜福利乱码中文字幕| 狠狠狠狠99中文字幕| 波多野结衣一区麻豆| 国产激情久久老熟女| 午夜福利影视在线免费观看| 色在线成人网| 亚洲av电影在线进入| 99香蕉大伊视频| 国产精品欧美亚洲77777| 亚洲va日本ⅴa欧美va伊人久久| 美女视频免费永久观看网站| 国产精品九九99| 久久精品91无色码中文字幕| 国产片内射在线| 色老头精品视频在线观看| 精品亚洲成a人片在线观看| 欧美激情极品国产一区二区三区| 一进一出抽搐动态| 久久精品国产综合久久久| 三上悠亚av全集在线观看| 亚洲视频免费观看视频| 亚洲五月婷婷丁香| 欧美久久黑人一区二区| 亚洲精品国产区一区二| 国产精品二区激情视频| tocl精华| 免费一级毛片在线播放高清视频 | videosex国产| 人人妻人人澡人人看| 啦啦啦中文免费视频观看日本| 热re99久久精品国产66热6| 日韩精品免费视频一区二区三区| 国产亚洲精品久久久久5区| 久久这里只有精品19| 日日夜夜操网爽| 亚洲国产欧美日韩在线播放| 久久久国产精品麻豆| 精品国产乱码久久久久久小说| 50天的宝宝边吃奶边哭怎么回事| 中文字幕制服av| 十八禁网站免费在线| 欧美亚洲 丝袜 人妻 在线| 黄色丝袜av网址大全| 国产精品98久久久久久宅男小说| 另类亚洲欧美激情| 超色免费av| 搡老乐熟女国产| av免费在线观看网站| 一区福利在线观看| 汤姆久久久久久久影院中文字幕| 如日韩欧美国产精品一区二区三区| 青草久久国产| 精品第一国产精品| 日韩免费av在线播放| 啦啦啦 在线观看视频| 久久香蕉激情| 丰满少妇做爰视频| 女人高潮潮喷娇喘18禁视频| 纵有疾风起免费观看全集完整版| 高清在线国产一区| 女人被躁到高潮嗷嗷叫费观| 欧美日本中文国产一区发布| 欧美日韩一级在线毛片| 精品卡一卡二卡四卡免费| 男人舔女人的私密视频| 90打野战视频偷拍视频| av又黄又爽大尺度在线免费看| 欧美 亚洲 国产 日韩一| 午夜福利视频在线观看免费| 少妇裸体淫交视频免费看高清 | 欧美亚洲 丝袜 人妻 在线| 久久香蕉激情| 国产亚洲欧美精品永久| 日日摸夜夜添夜夜添小说| 国产精品1区2区在线观看. | 精品少妇一区二区三区视频日本电影| 国产欧美日韩一区二区三区在线| 午夜福利乱码中文字幕| 天天添夜夜摸| 十八禁人妻一区二区| e午夜精品久久久久久久| 久久99热这里只频精品6学生| 手机成人av网站| 嫩草影视91久久| 久久狼人影院| 成在线人永久免费视频| 亚洲五月婷婷丁香| 国产激情久久老熟女| 美国免费a级毛片| 国产无遮挡羞羞视频在线观看| av天堂在线播放| 精品一区二区三卡| 天堂动漫精品| 香蕉丝袜av| 麻豆国产av国片精品| e午夜精品久久久久久久| 精品第一国产精品| 国产精品久久久久成人av| 亚洲精品国产区一区二| 日韩精品免费视频一区二区三区| 久久精品人人爽人人爽视色| 十八禁人妻一区二区| 婷婷丁香在线五月| 色综合婷婷激情| 久久久久久免费高清国产稀缺| 啦啦啦免费观看视频1| 久久久久久久精品吃奶| 搡老乐熟女国产| 国产成人欧美| 国产男女超爽视频在线观看| 免费久久久久久久精品成人欧美视频| 久久久久久免费高清国产稀缺| 19禁男女啪啪无遮挡网站| 国产麻豆69| av电影中文网址| 男女无遮挡免费网站观看| 亚洲精品自拍成人| 美女福利国产在线| 在线观看一区二区三区激情| 亚洲精品自拍成人| 成人精品一区二区免费| 久久精品熟女亚洲av麻豆精品| 久久天躁狠狠躁夜夜2o2o| 制服人妻中文乱码| 新久久久久国产一级毛片| 男女免费视频国产| 伦理电影免费视频| 国产欧美日韩一区二区三区在线| 99国产精品一区二区蜜桃av | 麻豆成人av在线观看| 亚洲久久久国产精品| 视频区图区小说| 高清欧美精品videossex| h视频一区二区三区| 高清毛片免费观看视频网站 | 免费在线观看黄色视频的| 欧美乱码精品一区二区三区| 国产免费av片在线观看野外av| 中文欧美无线码| 日日爽夜夜爽网站| av欧美777| 两性夫妻黄色片| 男男h啪啪无遮挡| 波多野结衣av一区二区av| 亚洲av欧美aⅴ国产| 久久热在线av| 午夜福利视频在线观看免费| 成年人黄色毛片网站| 色综合婷婷激情| 精品一区二区三卡| 国产极品粉嫩免费观看在线| av免费在线观看网站| 亚洲精品美女久久久久99蜜臀| 无人区码免费观看不卡 | 亚洲人成电影观看| 午夜福利影视在线免费观看| 99精品欧美一区二区三区四区| 一进一出抽搐动态| 欧美激情久久久久久爽电影 | 国产成+人综合+亚洲专区| 精品一品国产午夜福利视频| 免费观看a级毛片全部| 少妇猛男粗大的猛烈进出视频| 欧美av亚洲av综合av国产av| 免费人妻精品一区二区三区视频| 久久精品亚洲精品国产色婷小说| 日韩欧美一区视频在线观看| 久久久国产成人免费| 咕卡用的链子| 久久av网站| 亚洲国产av新网站| 亚洲成人免费电影在线观看| 国产男女超爽视频在线观看| 人人澡人人妻人| 午夜免费成人在线视频| 成年人黄色毛片网站| 丰满少妇做爰视频| 91精品三级在线观看| 久久久久久亚洲精品国产蜜桃av| 亚洲国产中文字幕在线视频| 午夜精品国产一区二区电影| 中亚洲国语对白在线视频| 看免费av毛片| 国产主播在线观看一区二区| 桃花免费在线播放| 飞空精品影院首页| 视频在线观看一区二区三区| 成人永久免费在线观看视频 | 一区二区三区国产精品乱码| 欧美黑人精品巨大| 99热网站在线观看| 免费在线观看视频国产中文字幕亚洲| www.自偷自拍.com| 日韩中文字幕欧美一区二区| 久久99热这里只频精品6学生| 国产精品久久久久久精品电影小说| 久久久久久免费高清国产稀缺| 久久99热这里只频精品6学生| 国产1区2区3区精品| 天堂俺去俺来也www色官网| 欧美激情 高清一区二区三区| 亚洲国产av影院在线观看| 97人妻天天添夜夜摸| 黄色视频不卡| 国产高清videossex| 韩国精品一区二区三区| 青草久久国产| 热99国产精品久久久久久7| 欧美黑人欧美精品刺激| 777米奇影视久久| 欧美亚洲日本最大视频资源| 久久天躁狠狠躁夜夜2o2o| 一区二区三区国产精品乱码| 热99久久久久精品小说推荐| 午夜老司机福利片| 激情视频va一区二区三区| 国产有黄有色有爽视频| 日日爽夜夜爽网站| 高清视频免费观看一区二区| www.熟女人妻精品国产| 在线观看一区二区三区激情| 99香蕉大伊视频| 亚洲色图av天堂| 啦啦啦 在线观看视频| 美女扒开内裤让男人捅视频| 国产亚洲精品第一综合不卡| 在线观看免费午夜福利视频| 日本黄色视频三级网站网址 | 久久精品成人免费网站| 欧美性长视频在线观看| 91成年电影在线观看| av天堂久久9| 国产日韩欧美亚洲二区| 在线观看免费午夜福利视频| 动漫黄色视频在线观看| 色精品久久人妻99蜜桃| 两性午夜刺激爽爽歪歪视频在线观看 | 9色porny在线观看| 精品人妻在线不人妻| 老司机午夜十八禁免费视频| 久久婷婷成人综合色麻豆| 最近最新中文字幕大全免费视频| 91九色精品人成在线观看| 国产精品免费一区二区三区在线 | 搡老乐熟女国产| 波多野结衣av一区二区av| 欧美日韩视频精品一区| 一级黄色大片毛片| 交换朋友夫妻互换小说| 国产成+人综合+亚洲专区| 一二三四社区在线视频社区8| 大码成人一级视频| 麻豆成人av在线观看| 91av网站免费观看| 亚洲中文日韩欧美视频| 久久av网站| 国产亚洲欧美精品永久| 亚洲伊人色综图| 中文欧美无线码| 美女国产高潮福利片在线看| 国产亚洲精品久久久久5区| 国产av国产精品国产| av视频免费观看在线观看| 两人在一起打扑克的视频| 热re99久久精品国产66热6| 欧美精品一区二区大全| 精品国产国语对白av| 人人妻人人爽人人添夜夜欢视频| 亚洲欧洲精品一区二区精品久久久| 日韩成人在线观看一区二区三区| 视频区图区小说| 国产亚洲一区二区精品| a在线观看视频网站| 国产精品熟女久久久久浪| videosex国产| 我的亚洲天堂| 欧美老熟妇乱子伦牲交| 黄色丝袜av网址大全| 少妇精品久久久久久久| 久久久久久亚洲精品国产蜜桃av| 精品人妻1区二区| 69精品国产乱码久久久| 999久久久精品免费观看国产| 天天操日日干夜夜撸| 91九色精品人成在线观看| 欧美日本中文国产一区发布| 亚洲精品国产色婷婷电影| 亚洲第一av免费看| 国产区一区二久久| 97在线人人人人妻| 性少妇av在线| 韩国精品一区二区三区| 三级毛片av免费| 老汉色∧v一级毛片| 一边摸一边抽搐一进一小说 | 日本欧美视频一区| 菩萨蛮人人尽说江南好唐韦庄| 婷婷成人精品国产| 久久性视频一级片| 一区二区三区激情视频| 在线观看免费日韩欧美大片| 亚洲色图av天堂| 免费女性裸体啪啪无遮挡网站| 少妇猛男粗大的猛烈进出视频| 国产精品二区激情视频| 黄色a级毛片大全视频| 国产精品国产av在线观看| 狂野欧美激情性xxxx| av线在线观看网站| 亚洲人成伊人成综合网2020| 韩国精品一区二区三区| 亚洲国产av新网站| 91字幕亚洲| 欧美日韩视频精品一区| 丝袜在线中文字幕| 麻豆国产av国片精品| 日本黄色视频三级网站网址 | 欧美久久黑人一区二区| 欧美变态另类bdsm刘玥| 在线播放国产精品三级| 午夜福利欧美成人| 欧美另类亚洲清纯唯美| 国产日韩欧美在线精品| 成年女人毛片免费观看观看9 | 一进一出好大好爽视频| 高清在线国产一区| 蜜桃在线观看..| 国产亚洲午夜精品一区二区久久| 两个人免费观看高清视频| 老司机福利观看| videos熟女内射| 日本wwww免费看| 少妇粗大呻吟视频| 国产极品粉嫩免费观看在线| 丝瓜视频免费看黄片| 99精品久久久久人妻精品| 建设人人有责人人尽责人人享有的| 中亚洲国语对白在线视频| 极品教师在线免费播放| 精品国产国语对白av| 成人免费观看视频高清| 午夜福利视频精品| 人人妻人人澡人人爽人人夜夜| 黄色毛片三级朝国网站| 国产精品一区二区在线观看99| 午夜免费鲁丝| 捣出白浆h1v1| 一级毛片精品| 欧美黑人欧美精品刺激| 一本色道久久久久久精品综合| 妹子高潮喷水视频| 肉色欧美久久久久久久蜜桃| 久久久久久久久免费视频了| 在线观看人妻少妇| 视频在线观看一区二区三区| 9色porny在线观看| 伊人久久大香线蕉亚洲五| 少妇裸体淫交视频免费看高清 | 最新的欧美精品一区二区| 午夜日韩欧美国产| 午夜福利一区二区在线看| 99热国产这里只有精品6| 成年版毛片免费区| 亚洲精品国产精品久久久不卡| 久久久久国产一级毛片高清牌| 黄色 视频免费看| 男女下面插进去视频免费观看| 色视频在线一区二区三区| 日韩精品免费视频一区二区三区| 99热国产这里只有精品6| 9热在线视频观看99| 精品国产一区二区三区久久久樱花| 日日夜夜操网爽| 岛国毛片在线播放| 9191精品国产免费久久| 国产精品av久久久久免费| 精品国产国语对白av| 成在线人永久免费视频| 亚洲自偷自拍图片 自拍| 一夜夜www| 五月天丁香电影| 天天操日日干夜夜撸| 欧美日韩精品网址| 日韩人妻精品一区2区三区| 国产精品99久久99久久久不卡| 国产精品 国内视频| 97人妻天天添夜夜摸| 久久天躁狠狠躁夜夜2o2o| 亚洲精品成人av观看孕妇| 这个男人来自地球电影免费观看| 欧美日韩黄片免| 久久午夜亚洲精品久久| 大型黄色视频在线免费观看| 国产一区二区在线观看av| 精品亚洲成a人片在线观看| 最新在线观看一区二区三区| 啦啦啦免费观看视频1| 欧美另类亚洲清纯唯美| 国产91精品成人一区二区三区 | 99精国产麻豆久久婷婷| 老司机亚洲免费影院| 国产福利在线免费观看视频| 麻豆成人av在线观看| 嫁个100分男人电影在线观看| 亚洲成人免费电影在线观看| 99精品久久久久人妻精品| 自线自在国产av| 亚洲国产av新网站| 巨乳人妻的诱惑在线观看| 午夜久久久在线观看| 国产不卡av网站在线观看| 国产在线精品亚洲第一网站| 亚洲久久久国产精品| 国产av国产精品国产| 午夜福利免费观看在线| 不卡av一区二区三区| 亚洲一码二码三码区别大吗| 女同久久另类99精品国产91| 久久香蕉激情| 丁香六月天网| 欧美中文综合在线视频| 深夜精品福利| 热re99久久国产66热| 精品国产乱码久久久久久男人| 五月天丁香电影| 久久天躁狠狠躁夜夜2o2o| 国产亚洲一区二区精品| 人人妻人人澡人人看| 在线观看人妻少妇| 午夜成年电影在线免费观看| 人人妻人人爽人人添夜夜欢视频| 日日爽夜夜爽网站| 中文字幕人妻丝袜制服| 在线观看66精品国产| 欧美精品一区二区免费开放| 在线亚洲精品国产二区图片欧美| 两人在一起打扑克的视频| 精品一区二区三卡| 久久国产精品人妻蜜桃| 五月开心婷婷网| 成人永久免费在线观看视频 | 中文字幕最新亚洲高清| 婷婷成人精品国产| av天堂在线播放| 黄色片一级片一级黄色片| 建设人人有责人人尽责人人享有的| 欧美精品人与动牲交sv欧美| 亚洲专区字幕在线| 男女床上黄色一级片免费看| 欧美日韩亚洲国产一区二区在线观看 | 国产在线视频一区二区| www.精华液| 亚洲成人免费av在线播放| 国产欧美日韩综合在线一区二区| 亚洲中文字幕日韩| 国产精品 国内视频| 色老头精品视频在线观看| 性高湖久久久久久久久免费观看| 淫妇啪啪啪对白视频| 日韩欧美一区视频在线观看| 欧美黄色淫秽网站| 18禁观看日本| 免费观看a级毛片全部| 黄色成人免费大全| 国产亚洲精品久久久久5区| 啦啦啦在线免费观看视频4| av视频免费观看在线观看| 精品一区二区三区四区五区乱码| 另类精品久久| 国产精品久久久久久人妻精品电影 | 建设人人有责人人尽责人人享有的| 最近最新免费中文字幕在线| 国产精品久久久久久精品电影小说| 岛国毛片在线播放| 国产成人av激情在线播放| 亚洲精品久久成人aⅴ小说| 久久这里只有精品19| 久久久精品区二区三区| 性色av乱码一区二区三区2| 黄色a级毛片大全视频| 下体分泌物呈黄色| 久久久久久久精品吃奶| 王馨瑶露胸无遮挡在线观看| 99国产精品免费福利视频| 丰满迷人的少妇在线观看| 亚洲成人国产一区在线观看| 在线播放国产精品三级| 国产又色又爽无遮挡免费看| 午夜激情久久久久久久| 新久久久久国产一级毛片| 国产麻豆69| 亚洲国产成人一精品久久久| 中文欧美无线码| 另类精品久久| 超色免费av| 久久久精品区二区三区| 丝袜人妻中文字幕| 又紧又爽又黄一区二区| 在线看a的网站| av线在线观看网站| 最近最新免费中文字幕在线| 在线十欧美十亚洲十日本专区| 国产av精品麻豆| 9191精品国产免费久久| 女人久久www免费人成看片| 50天的宝宝边吃奶边哭怎么回事| 国产91精品成人一区二区三区 | 亚洲av成人不卡在线观看播放网| 美女主播在线视频| 丝袜在线中文字幕| 91国产中文字幕| 女同久久另类99精品国产91| 母亲3免费完整高清在线观看| a级毛片黄视频| 国产精品 国内视频| 女性被躁到高潮视频| 国产精品av久久久久免费| 欧美日韩国产mv在线观看视频| 午夜福利在线免费观看网站| 一区二区三区国产精品乱码| 亚洲熟妇熟女久久| 国精品久久久久久国模美| 成年人免费黄色播放视频| 精品第一国产精品| 91麻豆精品激情在线观看国产 | 国产一区二区激情短视频| 我的亚洲天堂| 99re6热这里在线精品视频| 正在播放国产对白刺激| 久久毛片免费看一区二区三区| 亚洲欧洲日产国产| 国产av一区二区精品久久| 一级毛片电影观看| 久久久精品免费免费高清| 久久久国产一区二区| 啦啦啦免费观看视频1| 91麻豆av在线| 99re在线观看精品视频| 高清av免费在线| 国产高清激情床上av| 黄色a级毛片大全视频| 少妇裸体淫交视频免费看高清 | videos熟女内射| 狂野欧美激情性xxxx| 日韩欧美一区视频在线观看| 国产一区二区 视频在线| 中文字幕人妻丝袜一区二区| 精品国产乱子伦一区二区三区| 国产三级黄色录像| 黑人操中国人逼视频| 国产免费福利视频在线观看| 又紧又爽又黄一区二区| 欧美日韩福利视频一区二区| 一个人免费看片子| 国产高清videossex| 岛国毛片在线播放| 两性午夜刺激爽爽歪歪视频在线观看 | 国产成人av激情在线播放| 国产精品一区二区在线观看99| 岛国在线观看网站| 男女免费视频国产| 亚洲精品在线美女| 久久久精品国产亚洲av高清涩受| 99re在线观看精品视频| 人人澡人人妻人| 国产av精品麻豆| 在线观看66精品国产| 国产极品粉嫩免费观看在线| 国产日韩欧美在线精品| 精品第一国产精品| 成在线人永久免费视频| 国产精品1区2区在线观看. | 51午夜福利影视在线观看| 精品福利观看| 桃红色精品国产亚洲av| 大型黄色视频在线免费观看| 欧美一级毛片孕妇| kizo精华| 91精品国产国语对白视频| 国产亚洲精品久久久久5区| 精品少妇一区二区三区视频日本电影| 最黄视频免费看| 国产日韩欧美在线精品| 制服人妻中文乱码| 捣出白浆h1v1| 在线观看免费高清a一片| 欧美日韩亚洲综合一区二区三区_| 黑人操中国人逼视频| 欧美激情高清一区二区三区| 精品福利观看| 在线观看免费日韩欧美大片| 午夜精品国产一区二区电影| 久久精品国产99精品国产亚洲性色 | 两性午夜刺激爽爽歪歪视频在线观看 | av片东京热男人的天堂| 久久精品熟女亚洲av麻豆精品| 丰满人妻熟妇乱又伦精品不卡| 国产在线免费精品| 美女国产高潮福利片在线看| 十八禁人妻一区二区| 国产成人欧美| 免费在线观看黄色视频的| 伊人久久大香线蕉亚洲五| 老司机午夜福利在线观看视频 | 超色免费av| 日韩一区二区三区影片| 国产极品粉嫩免费观看在线| 国产成人系列免费观看| 最新美女视频免费是黄的| 亚洲av日韩精品久久久久久密| 两性午夜刺激爽爽歪歪视频在线观看 | 久久精品成人免费网站| 久久久久久免费高清国产稀缺| 老司机午夜十八禁免费视频| 亚洲国产看品久久|