• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    結合擾動約束的低感知性對抗樣本生成方法

    2022-07-15 01:05:34王楊曹鐵勇楊吉斌鄭云飛方正鄧小桐
    中國圖象圖形學報 2022年7期
    關鍵詞:擾動損失階段

    王楊,曹鐵勇*,楊吉斌,鄭云飛,2,3,方正,鄧小桐

    1.陸軍工程大學指揮控制工程學院,南京 210007;2.陸軍炮兵防空兵學院南京校區(qū)火力系,南京 211100;3.安徽省偏振成像與探測重點實驗室,合肥 230031

    0 引 言

    隨著深度神經網絡在計算機視覺任務中的廣泛應用,對抗樣本(adversarial examples)的概念也應運而生。對抗樣本是指在原數據集中通過人工添加對抗擾動而形成的樣本。這類樣本會導致深度模型以高置信度給出與原樣本不同的輸出結果。對抗擾動是對抗樣本生成過程中的關鍵因素。對抗擾動的作用是使模型產生錯誤的輸出,同時擾動應盡量不影響原圖像,甚至讓人眼視覺也難以感知。

    攻擊成功率(attack success rate,ASR)和視覺感知性是評價對抗樣本的兩個重要指標。攻擊成功率指添加擾動后對抗樣本被深度模型誤判的概率,其衡量了對抗樣本對深度模型的攻擊性能,數值越高,則對抗樣本對深度模型的攻擊能力越強。視覺感知性指在原圖像上增加對抗擾動后而不為人眼視覺所感知的能力,其衡量了對抗樣本的隱蔽性,感知性越低,說明對抗擾動越隱蔽,更不為人眼察覺。

    按照對抗樣本生成算法是否獲得神經網絡的參數和結構信息,可以將現(xiàn)有算法分為白盒攻擊算法與黑盒攻擊算法。

    一些典型的白盒方法通過生成對抗樣本實現(xiàn)了視覺的低感知性。FGSM(fast gradient sign method)算法(Goodfellow等,2015)在損失增加的方向上添加固定幅度的擾動生成對抗樣本,但該算法僅在圖像全局范圍內添加擾動,沒有對擾動的分布進行界定。Kurakin等人(2016)提出了基于FGSM的迭代版本BIM(basic iterative method),經迭代沿損失增加的方向上添加小幅擾動,并在每次迭代后重新計算優(yōu)化方向,進而構建了比FGSM更精細的擾動。之后FGSM衍生算法的目標也多是提升對抗性與遷移性(Dong等,2018;Xie等,2019;Shi等,2019),在視覺感知性上與原有方法無明顯差異。DeepFool算法(Moosavi-Dezfooli等,2016)通過比較樣本空間中樣本點到不同分類邊界的距離,添加最小幅度的擾動生成對抗樣本,它也成為白盒方法中視覺感知性比較的一個基準。JSMA(Jacobian-based saliency map attacks)(Papernot等,2016)計算圖像顯著性分數,依照像素點對輸出結果的重要性添加擾動,僅改變部分圖像像素即可實現(xiàn)攻擊。C&W(Carlini &Wagner)算法(Carlini和Wagner,2017)使用改進的范數損失對擾動進行優(yōu)化。Rony等人(2019)對C&W算法進行改進,在提升效率的同時仍能得到與原始算法視覺感知性近似的樣本。Croce和Hein(2020)分析了現(xiàn)有方法在迭代時存在的次優(yōu)解現(xiàn)象,提出了APGD(auto projected gradient descent)和AutoAttacks兩種方法。PerC-C&W(perceptual color distance C&W)(Zhao等,2020)在CIELch空間計算對抗樣本與原圖像在樣本空間的距離,為改善對抗樣本的視覺感知性提供了新思路。

    現(xiàn)實中常常無法獲得部署模型的參數信息,因此黑盒方法的實用性要遠大于白盒攻擊方法。不同于白盒中普遍使用梯度信息生成擾動的做法,黑盒方法通過向模型輸入帶有擾動的圖像,利用輸出的變化求解擾動。這使得黑盒算法生成對抗樣本的難度更大。OnePixel(Su等,2019)利用差分進化法篩選添加擾動的像素。該方法在極端情況下僅改變一個像素的數值就使深度模型輸出錯誤,但擾動的生成位置沒有考慮對視覺感知性的影響,且若要達到較高的攻擊成功率需增加擾動像素的個數。Xiao等人(2018)提出了基于生成對抗網絡(generative adversarial network,GAN)(Goodfellow 等,2014)的對抗樣本生成方法AdvGAN(adversarial GAN),使用合頁損失優(yōu)化擾動,并對擾動幅度進行限定。之后的AdvGAN++(Jandial等,2019)、DaST(data-free substitute training for adversarial atacks)(Zhou等,2020)方法均基于GAN網絡。Phan等人(2020)提出CAG(content-aware adversarial attack generator)方法,利用感知損失生成對抗樣本。此外,還有利用集成思想(Liu等,2017;Che等,2019;Pang等,2019)實現(xiàn)黑盒攻擊的方法。這些方法在對抗樣本的攻擊成功率或攻擊可行性上取得了進步,但在視覺感知性上的優(yōu)化手段與之前的方法相同。

    在達到一定攻擊率的情況下,上述算法通過添加固定幅度的擾動、修改少量像素的數值或限定擾動變化的極限值實現(xiàn)對視覺感知性的客觀要求。但客觀上滿足感知性要求,并不能在主觀評價上取得很好的效果。

    圖1展示了部分算法生成的對抗樣本。可以看出,現(xiàn)有方法在視覺感知性上還存在一定的改進空間:1)在圖像全局增加擾動,存在擾動紋理突出的現(xiàn)象(圖1(b)(d));2)沒有考慮生成擾動對全局結構的影響,破壞了圖像的整體結構(圖1(c));3)擾動分布不合理,生成擾動跨越前后背景(圖1(d))。

    圖1 部分方法在Tiny-ImageNet數據集上生成的對抗樣本Fig.1 Adversarial examples generated by some algorithms on Tiny-ImageNet((a) original image;(b) FGSM;(c) PerC-C&W;(d) AdvGAN)

    限定對抗擾動的幅度、面積與分布,能夠降低對抗樣本的視覺感知性,但會對樣本的攻擊成功率產生影響。如何平衡對抗樣本攻擊成功率與視覺感知性之間的關系,在維持較高攻擊成功率的前提下降低視覺感知性,是本文研究的主要問題。

    綜上,本文提出通過提取圖像中的關鍵區(qū)域在有限的區(qū)域內添加擾動,同時限定對抗擾動在該區(qū)域內的分布,使擾動分布更符合圖像全局結構,從而降低視覺感知性。已有研究(Selvaraj等,2017)證明,不同區(qū)域對模型輸出結果的響應不盡相同。本文將圖像中對模型分類結果響應較大的區(qū)域稱為關鍵區(qū)域。在關鍵區(qū)域上添加對抗擾動能對模型的輸出結果產生較大影響,從而維持受限擾動條件下對抗攻擊的ASR。

    本文方法具體分為兩個階段。第1階段的目標是使用提取網絡提取對分類模型輸出影響較大的關鍵區(qū)域。若提取出的區(qū)域符合預期,則向該區(qū)域添加擾動,能加大分類模型輸出錯誤結果的概率。為訓練提取網絡,在第1階段不對擾動進行優(yōu)化,使用數值固定的噪聲作為第1階段擾動,訓練提取網絡;同時,計算關鍵區(qū)域與輸入數據在感知網絡某一層輸出的感知損失(楊娟 等,2019),從而優(yōu)化提取網絡,使提取出的區(qū)域與輸入數據在圖像全局結構近似。第2階段固定提取網絡的權重,生成關鍵區(qū)域,通過生成對抗網絡向關鍵區(qū)域添加擾動,生成對抗樣本。生成對抗網絡是一種基于對抗性訓練的神經網絡,由生成網絡和判別網絡兩個子網絡構成。在本文中,生成網絡的功能是輸入圖像信息,輸出針對該圖像的對抗擾動。之后對抗擾動與原圖像結合,成為對抗樣本。將對抗樣本與原始圖像送入判別網絡,由網絡判斷輸入數據是原始數據還是對抗樣本。隨著兩種網絡的交替訓練,擾動的性能逐步提升。

    為驗證本文生成對抗樣本的視覺感知性,引入均方誤差(mean square error,MSE)與結構相似性(structural similarity,SSIM)作為衡量感知性的兩個客觀指標。最終在3個公開數據集上的實驗驗證了本文方法的有效性,在保持較高攻擊成功率的同時,有效限制了擾動生成的區(qū)域與面積,顯著降低了視覺感知性。

    1 本文算法

    1.1 問題描述

    給定原始圖像x,y為正確的分類標簽,圖像分類模型f能夠以較大概率實現(xiàn)從輸入x至輸出y的映射f(x)→y。向原始圖像x添加擾動ρ生成對抗樣本x+ρ,使得f(x+ρ)≠y。

    1.2 方法介紹

    本文算法提出通過約束對抗擾動的面積與空間分布,降低對抗樣本的視覺感知性。算法在設計中主要考慮以下因素:1)對抗擾動分布盡可能在圖像的同一語義區(qū)域,如目標區(qū)域或背景區(qū)域;2)擾動分布應與圖像結構保持一致;3)減少無效擾動的生成。

    模型包含兩個階段,總體框架如圖2所示,其中,橙色表示在某一階段進行訓練的網絡,藍色表示在該階段權重固定的網絡。在第1階段,通過提取網絡提取能顯著影響深度模型輸出結果的關鍵區(qū)域,并利用感知損失進一步限定該區(qū)域,使擾動與圖像的結構信息保持一致。在第2階段,通過帶有自注意力機制的生成對抗網絡,向前一階段獲得的圖像關鍵區(qū)域添加擾動,生成具有低感知性的對抗樣本。

    圖2 總體框架Fig.2 Overall framework

    第2階段生成擾動的對抗性應優(yōu)于或等于第1階段使用的噪聲擾動,這也為第2階段的對抗成功率劃定了下界。同時,對抗成功率的下界也與第1階段選擇的擾動相關。本文選擇高斯噪聲作為第1階段的固定擾動。

    1.3 生成對抗網絡

    模型中通過生成對抗網絡向原圖添加擾動,構造對抗樣本。具體而言,本文生成網絡包含編碼器—瓶頸層—解碼器結構。瓶頸層使用殘差連接,編碼器包含6層卷積—標準化—激活結構,瓶頸層殘差分支包含4層卷積—標準化—激活結構,解碼器包含5層結構。生成網絡結構如圖3所示。

    為使生成的對抗擾動更平滑,模型在解碼器結構圖的模塊2①中引入像素渲染模塊(Shi等,2016),如圖3右上標注A所示,計算流程為:輸入尺寸為H×W×r2的特征圖,通過周期篩選得到尺寸為rH×rW×C的高分辨率圖像。本文在生成網絡的瓶頸層加入自注意力機制,如圖3右上標注B所示。自注意力機制是注意力機制的一種,它擅長捕捉數據或特征的內部相關性。在圖像生成領域中,它可以捕捉圖像中某一點像素與其他位置較遠像素間的聯(lián)系,更好地對全局信息建模,具體結構如圖4所示。

    圖3 生成網絡結構圖Fig.3 Generator structure

    圖4 自注意力結構Fig.4 Self-attention module

    圖5展示了自注意生成網絡與普通生成網絡生成擾動的對比,其中圖5(b)(c)均為標準化后灰度圖像。從圖中紅框區(qū)域可以看出,使用自注意力機制與全局感知損失生成的擾動主要分布在圖像的關鍵區(qū)域,且分布更為均勻、密集。從圖中藍框區(qū)域可以看出,在非關鍵區(qū)域添加的擾動顏色較淺、幅度更小。

    圖5 自注意生成網絡與普通生成網絡生成擾動的對比Fig.5 Comparison of adversarial perturbations between self-attention generator and normal generator((a) original images;(b) perturbation generated with self-attention mechanism;(c) normal perturbation)

    判別網絡判斷輸入數據是原始樣本或是對抗樣本。網絡包含5層結構,前3層使用譜標準化,用以提升網絡訓練時的穩(wěn)定性,結構如圖6所示對應圖2中模塊②。

    圖6 判別網絡結構Fig.6 Discriminator’s structure

    1.4 提取網絡

    算法的出發(fā)點是通過限定擾動的位置與分布,降低對抗樣本的視覺感知性。注意力機制(項圣凱等,2020)能夠提取出深度模型輸出的關鍵區(qū)域,賦予其更大權重。算法通過帶有注意力機制的提取網絡,生成關鍵區(qū)域,約束擾動的分布。

    提取網絡與注意力機制的結構如圖7所示,其中D-Conv表示空洞卷積結構,Conv為卷積結構對應圖2中模塊③。注意力機制選擇應用廣泛的BAM(bottleneck attention module)(Park等,2018)結構。提取網絡包含3層卷積—標準化—激活結構、1個注意力層、2個反卷積—標準化—激活結構和1個用于增強局部信息的池化—卷積—標準化—激活結構。通過提取網絡中卷積結構得到的輸出特征圖,經過門機制篩選,最終得到包含圖像關鍵區(qū)域的特征圖。門機制篩選圖像關鍵區(qū)域算法的具體步驟如下:

    圖7 提取網絡與注意力結構Fig.7 Extractor and attention mechanism

    輸入:圖像x。

    輸出:包含圖像關鍵區(qū)域的特征圖。

    第1階段:圖像x送入注意力網絡生成標準化特征圖。

    1) 將圖像送入注意力網絡,輸出注意力特征圖(H×W× 3);

    2) 將注意力特征圖通道內像素的值歸一化至[0,1]。

    第2階段:門機制生成粗特征圖,篩選后得到關鍵區(qū)域。

    3) for 注意力特征圖中的像素點(x,y,c) do;

    4) 粗特征圖在 (x,y) 的值為該點在第1階段生成特征圖的值 (1 × 3) 與τ(3 × 1)相乘;

    5) if 值大于閾值;

    6) 值不變;

    7) else;

    8) 值為0;

    9) end for;

    10) 得到關鍵區(qū)域特征圖。

    經實驗驗證,τ的取值為[0.36,0.34,0.30],閾值設定為0.7。

    1.5 感知網絡結構

    為更好地約束注意力網絡生成的關鍵區(qū)域,本文引入感知損失。計算感知損失所用的特征提取網絡為帶有ImageNet預訓練權重的VGG16(Visual Geometry Group)網絡,對應圖2中模塊④。

    2 訓練過程

    2.1 第1階段訓練過程

    第1階段訓練注意力網絡,損失函數為

    L1=α1Ladv1+β1LD1+γ1Lp

    (1)

    式中,Ladv1為第1階段對抗損失,LD1為第1階段判別損失,Lp為感知損失,α1、β1、γ1的取值分別為5、10、1。

    原圖進入注意力網絡,生成包含圖像關鍵區(qū)域的特征圖。原圖與特征圖進入感知網絡,計算兩者的感知損失。感知損失為特征圖與原圖在經過感知網絡第2層激活函數后所得特征圖間的最小二乘損失,表達式為

    (2)

    式中,φ為特征提取網絡,C、H、W為原圖x與特征圖a經過特征提取網絡第2層后的通道數、高度和寬度。

    將通過門機制篩選得到的特征圖與噪聲擾動相乘,生成第1階段對抗擾動。擾動與原圖結合得到第1階段的對抗樣本。對抗樣本和原圖一同送入判別網絡,計算判別損失。之后對抗樣本送入目標網絡,計算第1階段對抗損失。

    判別損失為

    LD1=ExlogD(x)+Exlog(1-D(x+ρ1))

    (3)

    ρ1=F?PG

    (4)

    式中,ρ1為第1階段得到的擾動,F(xiàn)為經過門機制得到的特征圖,D()為判別器輸出結果,PG表示高斯噪聲擾動(Gaussian noise perturbation),F(xiàn)與PG間使用元素級乘法?。

    對抗損失表達式為

    Ladv1=Exlt(T(x+ρ1),t)
    ρ1∈[-Pmax,Pmax]

    (5)

    式中,T為被攻擊的深度模型,輸入第1階段對抗樣本,輸出向量與經過one-hot編碼所得的分類標簽向量t長度相同。lt為損失函數,本文使用交叉熵損失。Pmax為擾動幅度的上限。

    2.2 第2階段訓練過程

    第2階段訓練生成網絡,損失表達式為

    (6)

    式中,α2、β2、γ2的取值分別為5、1、1。固定提取網絡權重,將原圖送入提取網絡與生成網絡,生成帶有關鍵區(qū)域的特征圖和第2階段對抗擾動。擾動與特征圖之間進行元素級乘法,并與原圖結合,生成對抗樣本。將原圖與對抗樣本送入目標網絡和判別網絡,計算對抗損失和判別損失。

    第2階段的對抗損失為

    Ladv2=Exlt(T(x+ρ2),t)

    (7)

    ρ2=F?P2,ρ2∈[-Pmax,Pmax]

    (8)

    式中,ρ2為第2階段得到的擾動,P2為生成網絡生成的第2階段擾動(perturbation generated by generator)。第2階段的判別損失為

    LD2=ExlogD(x)+Exlog(1-D(x+ρ2))

    (9)

    在兩個階段中,算法均對判別網絡進行訓練。兩個階段的判別網絡結構相同,作用是判斷輸入數據是原始數據還是添加擾動后的數據。第1階段訓練結束后,不固定判別網絡的參數,直接進入第2階段的訓練。實驗結果表明,在前一階段得到的權重上繼續(xù)訓練與在初始化后的網絡上重新訓練相比,能更快地使模型收斂。隨著輪數的增加,兩種條件下訓練得到的損失趨于一致,對應的攻擊成功率無明顯差別。

    3 實驗與分析

    為評估本文算法的效果,與9種典型對抗樣本算法在3個圖像分類數據集上進行比較。對比算法包含白盒與黑盒算法,白盒算法為FGSM (Goodfellow 等,2015)、BIM(Kurakin 等,2016)、DeepFool(Moosavi-Dezfooli等,2016)、JSMA(Papernot 等,2016)、PerC-C&W (Zhao 等,2020)、APGD(Croce和Hein,2020)和AutoAttack(Croce和Hein,2020),黑盒算法為OnePixel(Su 等,2019)和AdvGAN (Xiao 等,2018)。

    3.1 評估數據集及模型

    本文方法使用的優(yōu)化器為Adam,判別損失學習率為0.005,對抗損失學習率為0.01,采用異步優(yōu)化策略,即判別網絡每5輪進行1次優(yōu)化、生成網絡每輪進行優(yōu)化。兩個階段的迭代輪數均為100輪。評估數據集為CIFAR-10、Tiny-ImageNet和隨機抽取的 ImageNet數據集圖像。CIFAR-10數據集共10種類別,包含50 000幅訓練圖像和10 000幅測試圖像,分辨率為32 × 32像素。Tiny-ImageNet數據集共200種類別,包含100 000幅訓練圖像和10 000幅測試圖像,分辨率為64 × 64像素。隨機選取ImageNet數據集共10種類別,包含1 000幅圖像,分辨率裁剪為224 × 224像素。對抗模型為3種廣泛使用的圖像分類模型:VGG13、ResNet18和DenseNet121。實驗硬件平臺為 GeForce Nvidia RTX 2080Ti,軟件平臺為Ubuntu 19.10、Pytorch 1.6。

    在客觀指標的評價上,使用ASR評價算法的對抗性能,通過比較對抗擾動前后圖像的MSE和SSIM衡量不同算法生成對抗樣本的客觀視覺感知性。MSE衡量對抗擾動的強度,SSIM從結構化信息角度評價對抗擾動對圖像的影響。ASR與SSIM數值越接近1越好,MSE數值越小越好。FGSM的擾動步長ε= 10,APGD與AutoAttack的擾動步長均為15。其余對比算法參數為原文開源代碼的默認參數。對比算法均設置最大迭代輪數。

    3.2 攻擊效果對比分析

    實驗對不同對抗樣本的攻擊效果進行對比與分析。不同方法在CIFAR-10和Tiny-ImageNet數據集上的ASR比較如表1和表2所示。

    表2 不同方法在Tiny-ImageNet數據集的ASR比較Table 2 ASR comparison of different methods on Tiny-ImageNet dataset

    從表1可以看出,在低分辨率數據集CIFAR-10上添加小幅度擾動,隨著擾動幅度的增強,ASR逐漸提升,與基于GAN的算法相差不超過3%,而在ResNet網絡上甚至超過了基于GAN的算法。原因是在分辨率較低的圖像上,注意力網絡生成的圖像重點區(qū)域較小,添加小幅擾動能降低模型的分類置信度,但仍輸出正確的結果。

    表1 不同方法在CIFAR-10數據集的ASR比較Table 1 ASR comparison of different methods on CIFAR-10 dataset

    從表2可以看出,隨著圖像分辨率的增長(Tiny-ImageNet、ImageNet),注意力網絡提取的圖像重點區(qū)域增大,在小幅度擾動的情況下,本文方法的對抗攻擊成功率能夠與對比方法持平,相差不超過0.5%;另外由于攻擊成功率超過99%,微小的性能差別并不會影響實質攻擊效果。綜合比較,本文方法的攻擊成功率與當前方法近似,維持在同一水平。

    3.3 視覺感知性對比分析

    3.3.1 客觀指標分析

    不同方法在CIFAR-10和Tiny-ImageNet數據集上的MSE比較如表3所示??梢钥闯?,本文方法的MSE值大幅低于FGSM、BIM、PerC-C&W、APGD、AutoAttack和AdvGAN。DeepFool算法的MSE值遠低于其他算法,原因是Tiny-ImageNet數據集有200個類別,算法能夠找到更多的決策邊界,進而選擇更小的邊界距離,減小擾動的幅度。PerC-C&W的MSE遠大于其他方法,原因是算法并不在圖像的每一通道限制擾動幅度,而是限定在三通道上總的擾動幅度,導致其擾動數值分布不平均,MSE較大。OnePixel和JSMA對像素值的修改幅度劇烈,使得MSE數值偏大。這也反映了客觀的評價指標并不能充分體現(xiàn)主觀的感知性評價。APGD通過改進現(xiàn)有方法的不足,AutoAttack通過糅合多種方法提升對抗攻擊的成功率,但均沒有充分考慮擾動對圖像感知性的影響,故客觀感知性評價較低。綜上,在低、中分辨率數據集上對視覺感知性的客觀評價指標比較表明,本文方法的MSE值優(yōu)于大部分比較方法,僅在中分辨率數據集上高于DeepFool方法。

    表3 不同方法的MSE比較Table 3 MSE comparison of different methods

    結構相似性(SSIM)是一衡量兩幅圖像相似度的指標,其值越接近1,說明兩幅圖像越相似。不同方法在CIFAR-10和Tiny-ImageNet數據集上的SSIM比較如表4所示??梢钥闯?,本文方法的SSIM較AdvGAN大幅提升,略高于DeepFool算法。

    表4 不同方法的SSIM比較Table 4 SSIM comparison of different methods

    3.3.2 主觀感知性比較

    圖8為不同方法在CIFAR-10數據集上生成的對抗樣本比較,其中,為確保攻擊成功率,OnePixel方法修改的像素點為5個。圖8(j)為AdvGAN方法在擾動幅度Pmax= 10時生成的對抗樣本,圖8(k)和圖8(l)分別為本文方法在擾動幅度Pmax=20和Pmax=30時生成的對抗樣本??梢钥闯觯疚姆椒ㄔ跀_動幅度Pmax=20時較擾動幅度Pmax= 10的AdvGAN方法仍有一定的優(yōu)勢。

    圖8 不同方法在CIFAR-10數據集上生成的對抗樣本比較Fig.8 Comparison of different adversarial examples on CIFAR-10 ((a) original images;(b) FGSM;(c) BIM;(d) DeepFool;(e) PerC-C&W;(f) OnePixel;(g) JSMA;(h) APGD;(i) AutoAttack;(j) AdvGAN when Pmax= 10;(k) ours whenPmax= 20;(l) ours whenPmax= 30)

    圖9為不同方法在Tiny-ImageNet數據集上的效果比較。其中,圖9(j)和圖9(k)分別為擾動幅度Pmax= 10時AdvGAN和本文方法生成的對抗樣本??梢钥闯觯跀_動幅度相同情況下,與黑盒方法OnePixel和AdvGAN相比,本文生成擾動面積小,對抗紋理不明顯;與白盒方法中的FGSM、BIM和PerC-C&W方法相比,本文擾動紋理的感知性更低。

    圖9 不同方法在Tiny-ImageNet數據集上生成的對抗樣本比較Fig.9 Comparison of different adversarial examples on Tiny-ImageNet((a) original images;(b) FGSM;(c) BIM;(d) DeepFool;(e) PerC-C&W;(f) OnePixel;(g) JSMA;(h) APGD;(i) AutoAttck;(j) AdvGAN when Pmax= 10;(k) ours when Pmax= 10)

    在包含1 000幅挑選的ImageNet圖像數據集上對本文方法的視覺感知性進行測試,擾動幅度限制為25,在保持較高成功率的情況下,視覺感知效果如圖10所示??梢钥闯?,1)限定最大擾動幅度為15時,本文方法的效果(圖10(k))與AdvGAN(圖10(j))相比,隨著分辨率的提升,對抗擾動的紋理對圖像信息、結構和視覺感知性產生的影響降低,但AdvGAN生成的對抗樣本在圖像邊緣產生了一定的虛化。2)在高分辨率圖像上與對比方法相比,本文方法在視覺感知性上低于FGSM、JSMA、AdvGAN算法,與BIM、DeepFool、PerC-C&W、OnePixel、APGD和AutoAttack算法相當。

    圖10 不同方法在ImageNet數據集上生成的對抗樣本比較Fig.10 Comparison of different adversarial examples on ImageNet dataset((a) original images;(b) FGSM;(c) BIM;(d) DeepFool;(e) PerC-C&W;(f) OnePixel;(g) JSMA;(h) APGD;(i) AutoAttack;(j) AdvGAN;(k) ours)

    3.4 參數敏感性分析與消融實驗

    3.4.1 參數敏感性分析

    對擾動生成產生影響的參數主要有擾動幅度Pmax、第1階段訓練參數和第2階段訓練參數。其中,第1階段訓練參數包括對抗損失權重α1=5、判別損失權重β1=10、感知損失權重γ1=1;第2階段訓練參數包括對抗損失權重α2=5、判別損失權重β2=1、感知損失權重γ2=1。實驗對第1、2階段的訓練參數進行敏感性分析,并對算法中各模塊對ASR的影響做消融實驗。選用數據集為Tiny-ImageNet,對抗模型為ResNet18,擾動最大幅值Pmax=10。

    對于兩個階段的6個參數,分別對某一參數進行調整,固定其余參數,觀察算法ASR值的變化。對第1階段參數進行分析,結果如圖11(a)—(c)所示。從ASR變化的幅度可以看出,對抗損失權重α1對ASR影響較大,隨著α1增大,算法ASR逐漸增加,表明算法側重于對模型的攻擊性能。隨著判別損失權重β1和感知損失權重γ1的增加,ASR下降,模型趨于對擾動的分布進行優(yōu)化,對抗性能下降。在第1階段訓練結束后,不對判別網絡權重進行初始化,而是直接進行下一階段的訓練,結果如圖11(d)—(e)所示。第2階段的判別損失權重β2對ASR的影響較小。在該階段主要對生成網絡進行訓練,對抗損失權重α2對ASR產生較大影響。從圖11的數據觀察得到,若側重于對抗樣本的視覺感知性(降低對抗損失權重、提高判別損失權重),則攻擊成功率有所下滑,體現(xiàn)出提升對抗樣本的攻擊成功率與減低其視覺感知性之間是矛盾的。若僅進行第1階段訓練,得到的攻擊成功率并不理想;第2階段對擾動進行優(yōu)化后,攻擊成功率得到提升。說明第2階段的功能是對第1階段使用固定擾動提取出的關鍵區(qū)域生成新的擾動,新生成的擾動更適應該區(qū)域所包含的圖像信息。

    圖11 參數變化對ASR的影響Fig.11 The influence of α,β and γ on ASR ((a) α1-ASR line graph;(b) β1-ASR line graph;(c) γ1-ASR line graph;(d)α2-ASR line graph;(e)β2-ASR line graph;(f)γ2-ASR line graph)

    3.4.2 消融實驗

    參與第1階段訓練的模塊主要有感知網絡和注意力網絡,兩種模塊對ASR的影響如表5所示。

    表5 不同模塊對ASR的影響Table 5 The influence of different modules on ASR

    4 結 論

    本文分析了現(xiàn)有對抗樣本生成方法在視覺感知性上的不足,提出了全新的低感知對抗樣本生成方法,通過限定對抗樣本擾動生成的位置與面積,在保證攻擊率的情況下,顯著降低了對抗樣本的視覺感知性。最后通過定性和定量實驗,比較了本文算法與具有代表性的對抗樣本方法在攻擊成功率和視覺感知性上的性能,驗證了本文算法的有效性。

    本文主要針對對抗樣本的視覺感知性進行研究,通過約束擾動的位置與分布提升了對抗樣本的視覺效果。下一步工作將關注于提升對抗樣本的攻擊成功率,增強攻擊的魯棒性。

    猜你喜歡
    擾動損失階段
    Bernoulli泛函上典則酉對合的擾動
    少問一句,損失千金
    關于基礎教育階段實驗教學的幾點看法
    科學與社會(2022年1期)2022-04-19 11:38:42
    胖胖損失了多少元
    在學前教育階段,提前搶跑,只能跑得快一時,卻跑不快一生。
    莫愁(2019年36期)2019-11-13 20:26:16
    (h)性質及其擾動
    玉米抽穗前倒伏怎么辦?怎么減少損失?
    小噪聲擾動的二維擴散的極大似然估計
    一般自由碰撞的最大動能損失
    用于光伏MPPT中的模糊控制占空比擾動法
    電源技術(2015年11期)2015-08-22 08:50:38
    色av中文字幕| 99久久成人亚洲精品观看| 可以在线观看毛片的网站| 婷婷精品国产亚洲av| 搡老岳熟女国产| 国产一区二区激情短视频| 色精品久久人妻99蜜桃| 欧美国产日韩亚洲一区| 欧美激情久久久久久爽电影| 午夜福利欧美成人| 国产黄色小视频在线观看| 午夜激情福利司机影院| 国产又黄又爽又无遮挡在线| 亚洲中文字幕日韩| 国产91精品成人一区二区三区| 亚洲aⅴ乱码一区二区在线播放| 狂野欧美白嫩少妇大欣赏| 国产成人a区在线观看| 三级男女做爰猛烈吃奶摸视频| www日本黄色视频网| 国内毛片毛片毛片毛片毛片| 亚洲成人久久爱视频| 亚洲欧美日韩高清在线视频| 国产精品一区二区性色av| 国产精品一及| 春色校园在线视频观看| 国产精品永久免费网站| 亚洲人成网站在线播放欧美日韩| 草草在线视频免费看| а√天堂www在线а√下载| 亚洲成a人片在线一区二区| 波多野结衣巨乳人妻| 日韩欧美 国产精品| 99热只有精品国产| 国内精品宾馆在线| 99久久精品一区二区三区| 国产高清视频在线播放一区| 国产一区二区在线av高清观看| 男人和女人高潮做爰伦理| 亚洲天堂国产精品一区在线| 国产一区二区三区视频了| 亚洲av.av天堂| 女同久久另类99精品国产91| 亚洲av美国av| 午夜福利视频1000在线观看| 人妻丰满熟妇av一区二区三区| 熟女电影av网| 久久人人爽人人爽人人片va| 美女 人体艺术 gogo| 可以在线观看毛片的网站| 一区二区三区高清视频在线| 九九热线精品视视频播放| 国产人妻一区二区三区在| 国内精品久久久久精免费| 国产一级毛片七仙女欲春2| 久久久久久伊人网av| 一个人观看的视频www高清免费观看| 亚洲欧美精品综合久久99| 天天一区二区日本电影三级| 亚洲乱码一区二区免费版| 亚洲最大成人av| x7x7x7水蜜桃| 搞女人的毛片| 久久久久久久久大av| 亚洲精品影视一区二区三区av| 人妻久久中文字幕网| 日韩,欧美,国产一区二区三区 | 日本 欧美在线| 免费黄网站久久成人精品| 成人国产综合亚洲| 九九久久精品国产亚洲av麻豆| 久久亚洲真实| 久久久精品大字幕| 午夜福利高清视频| 俄罗斯特黄特色一大片| 蜜桃久久精品国产亚洲av| 成年版毛片免费区| 国产精品,欧美在线| 亚洲欧美清纯卡通| 国产伦精品一区二区三区四那| 身体一侧抽搐| 中文字幕熟女人妻在线| 亚洲不卡免费看| 波野结衣二区三区在线| 2021天堂中文幕一二区在线观| 99热网站在线观看| 亚洲四区av| xxxwww97欧美| 欧美日韩瑟瑟在线播放| 国产私拍福利视频在线观看| 午夜爱爱视频在线播放| 久久精品国产亚洲av涩爱 | 此物有八面人人有两片| 狂野欧美激情性xxxx在线观看| 久久久久性生活片| 看免费成人av毛片| 美女黄网站色视频| 午夜爱爱视频在线播放| 亚洲欧美日韩东京热| 日韩中字成人| 亚洲欧美清纯卡通| 欧美潮喷喷水| 少妇人妻一区二区三区视频| 亚洲aⅴ乱码一区二区在线播放| 亚洲美女搞黄在线观看 | 欧美bdsm另类| 美女cb高潮喷水在线观看| 观看免费一级毛片| 精品人妻1区二区| 国产精品女同一区二区软件 | 热99在线观看视频| 精品久久久久久久末码| 久久久精品大字幕| 亚洲欧美日韩无卡精品| 毛片一级片免费看久久久久 | 亚洲真实伦在线观看| 日韩欧美免费精品| 中文字幕人妻熟人妻熟丝袜美| 国产精品亚洲一级av第二区| 成年女人永久免费观看视频| 久久草成人影院| 91在线观看av| 国产主播在线观看一区二区| 丝袜美腿在线中文| 国产精品电影一区二区三区| 少妇人妻一区二区三区视频| 午夜福利视频1000在线观看| 亚洲成av人片在线播放无| 久久人人精品亚洲av| 精品免费久久久久久久清纯| 日韩欧美国产在线观看| 99国产极品粉嫩在线观看| 欧美日韩乱码在线| 淫妇啪啪啪对白视频| 一区二区三区高清视频在线| 精品免费久久久久久久清纯| 男女那种视频在线观看| av天堂在线播放| 搡老妇女老女人老熟妇| 精品一区二区三区av网在线观看| 自拍偷自拍亚洲精品老妇| 99国产精品一区二区蜜桃av| 久久久精品大字幕| av中文乱码字幕在线| 成人特级av手机在线观看| 最新在线观看一区二区三区| 日本成人三级电影网站| 欧美精品国产亚洲| 蜜桃亚洲精品一区二区三区| 久久香蕉精品热| 亚洲熟妇熟女久久| 亚洲精品456在线播放app | 午夜精品久久久久久毛片777| 午夜日韩欧美国产| 久久精品夜夜夜夜夜久久蜜豆| 狠狠狠狠99中文字幕| 国产av一区在线观看免费| 国产高潮美女av| 听说在线观看完整版免费高清| 女的被弄到高潮叫床怎么办 | 少妇人妻精品综合一区二区 | 色av中文字幕| 日韩人妻高清精品专区| 亚洲欧美日韩卡通动漫| 欧美一级a爱片免费观看看| 97碰自拍视频| 午夜福利视频1000在线观看| 看免费成人av毛片| 欧美一区二区国产精品久久精品| 国产单亲对白刺激| 中文亚洲av片在线观看爽| 长腿黑丝高跟| 亚洲久久久久久中文字幕| 欧美三级亚洲精品| 亚洲精品色激情综合| 久久九九热精品免费| 免费在线观看日本一区| 蜜桃久久精品国产亚洲av| 国语自产精品视频在线第100页| 草草在线视频免费看| 国产精品久久久久久av不卡| 内地一区二区视频在线| 中国美白少妇内射xxxbb| 成人毛片a级毛片在线播放| 久久精品综合一区二区三区| 狂野欧美白嫩少妇大欣赏| 91在线观看av| 亚洲精品成人久久久久久| 久久6这里有精品| 精品日产1卡2卡| 亚洲精品一卡2卡三卡4卡5卡| 亚洲乱码一区二区免费版| 国产高清有码在线观看视频| 亚洲一区高清亚洲精品| 欧美日本视频| 午夜福利18| 欧美性感艳星| 最新在线观看一区二区三区| av在线亚洲专区| 无遮挡黄片免费观看| 欧美日韩乱码在线| 精品99又大又爽又粗少妇毛片 | 制服丝袜大香蕉在线| 国产人妻一区二区三区在| 老女人水多毛片| 国产精品1区2区在线观看.| 午夜a级毛片| 国产精品爽爽va在线观看网站| 国产精品美女特级片免费视频播放器| 国产av麻豆久久久久久久| 国产女主播在线喷水免费视频网站 | 欧美日韩亚洲国产一区二区在线观看| 中文字幕久久专区| 999久久久精品免费观看国产| 亚洲一级一片aⅴ在线观看| 一边摸一边抽搐一进一小说| 久久精品国产亚洲av天美| 欧美精品啪啪一区二区三区| 99国产极品粉嫩在线观看| 嫩草影院新地址| 亚洲图色成人| 免费看光身美女| 亚洲精品在线观看二区| 国产一区二区三区在线臀色熟女| 免费黄网站久久成人精品| 国产爱豆传媒在线观看| 给我免费播放毛片高清在线观看| 国产亚洲精品综合一区在线观看| 男人舔女人下体高潮全视频| 免费看av在线观看网站| 日韩精品青青久久久久久| 在线观看午夜福利视频| 国产成人一区二区在线| 精品久久国产蜜桃| 九色国产91popny在线| 村上凉子中文字幕在线| 少妇人妻精品综合一区二区 | 久久精品国产亚洲av天美| 日韩欧美国产一区二区入口| 禁无遮挡网站| 人妻制服诱惑在线中文字幕| 亚洲最大成人av| 午夜久久久久精精品| 国产一区二区三区av在线 | 欧美成人性av电影在线观看| 中文字幕久久专区| 在线免费观看的www视频| 国产日本99.免费观看| 国产午夜福利久久久久久| 女人十人毛片免费观看3o分钟| 精品国内亚洲2022精品成人| 丰满的人妻完整版| 欧美3d第一页| 婷婷精品国产亚洲av在线| 亚洲va在线va天堂va国产| 国产免费男女视频| 国产精品精品国产色婷婷| 国产在线精品亚洲第一网站| 日日撸夜夜添| 人妻久久中文字幕网| 亚洲精品亚洲一区二区| 午夜爱爱视频在线播放| 欧美三级亚洲精品| 国产成人影院久久av| 国产免费男女视频| 18禁在线播放成人免费| 国产亚洲精品综合一区在线观看| 男女边吃奶边做爰视频| 国产色婷婷99| 91麻豆精品激情在线观看国产| 国产日本99.免费观看| 日本黄大片高清| 国产精品久久久久久av不卡| 黄色一级大片看看| 免费看美女性在线毛片视频| 窝窝影院91人妻| 国产免费av片在线观看野外av| 日本黄色片子视频| 国产男靠女视频免费网站| 亚洲av免费高清在线观看| 国内精品一区二区在线观看| 欧美一区二区亚洲| 色综合婷婷激情| 精品午夜福利在线看| 日本在线视频免费播放| 久久亚洲精品不卡| 色av中文字幕| eeuss影院久久| 少妇人妻精品综合一区二区 | 国产av麻豆久久久久久久| 91麻豆精品激情在线观看国产| 人妻久久中文字幕网| 精品人妻偷拍中文字幕| 国产亚洲av嫩草精品影院| 少妇熟女aⅴ在线视频| a级毛片免费高清观看在线播放| 久久国产精品人妻蜜桃| 日韩欧美一区二区三区在线观看| 精品久久久久久成人av| www日本黄色视频网| 亚洲成a人片在线一区二区| 22中文网久久字幕| 99在线视频只有这里精品首页| 欧美最新免费一区二区三区| 精品久久久久久久末码| .国产精品久久| 一区二区三区四区激情视频 | 人妻丰满熟妇av一区二区三区| www.色视频.com| 国产单亲对白刺激| 搡老岳熟女国产| 两人在一起打扑克的视频| 麻豆久久精品国产亚洲av| 国产精品久久视频播放| 麻豆成人av在线观看| 69av精品久久久久久| 国产精品亚洲美女久久久| 男女边吃奶边做爰视频| 国产精品电影一区二区三区| 精品久久国产蜜桃| 麻豆一二三区av精品| 九九爱精品视频在线观看| 日本与韩国留学比较| 国产成人aa在线观看| 三级男女做爰猛烈吃奶摸视频| 欧美在线一区亚洲| 成人高潮视频无遮挡免费网站| 久久久精品欧美日韩精品| av专区在线播放| 亚州av有码| 国产又黄又爽又无遮挡在线| 亚州av有码| 老女人水多毛片| 亚洲综合色惰| 级片在线观看| 久久中文看片网| 欧美国产日韩亚洲一区| 日日撸夜夜添| 久久精品国产鲁丝片午夜精品 | 成人美女网站在线观看视频| 久久精品国产清高在天天线| av黄色大香蕉| 久久精品国产清高在天天线| 精品人妻一区二区三区麻豆 | 久久久久久国产a免费观看| 成人美女网站在线观看视频| 亚洲熟妇熟女久久| 麻豆一二三区av精品| 国产成人福利小说| 免费一级毛片在线播放高清视频| 99在线人妻在线中文字幕| 国产aⅴ精品一区二区三区波| 欧美bdsm另类| 国产精品永久免费网站| 国产精品,欧美在线| 一本精品99久久精品77| 88av欧美| 成人综合一区亚洲| 99在线人妻在线中文字幕| 精品一区二区三区av网在线观看| 99在线人妻在线中文字幕| 免费在线观看日本一区| 欧美一区二区国产精品久久精品| 在线国产一区二区在线| 国产一区二区三区在线臀色熟女| 国产伦在线观看视频一区| 久久久精品欧美日韩精品| 在线播放无遮挡| 狂野欧美激情性xxxx在线观看| 99久久精品一区二区三区| 色哟哟·www| 99热精品在线国产| 日韩强制内射视频| 欧美激情国产日韩精品一区| 69av精品久久久久久| 伦理电影大哥的女人| 亚洲av熟女| 亚洲最大成人中文| 精品久久久久久久末码| 免费观看在线日韩| 简卡轻食公司| 日韩精品青青久久久久久| 亚洲人与动物交配视频| 在线观看免费视频日本深夜| 男女之事视频高清在线观看| 国产乱人伦免费视频| 精品免费久久久久久久清纯| 午夜免费男女啪啪视频观看 | 午夜精品在线福利| ponron亚洲| 18禁黄网站禁片午夜丰满| 嫩草影视91久久| 狂野欧美白嫩少妇大欣赏| 午夜福利在线在线| 欧美3d第一页| 热99在线观看视频| 国产精品一区二区免费欧美| 长腿黑丝高跟| 日韩在线高清观看一区二区三区 | 日日摸夜夜添夜夜添小说| 亚洲熟妇中文字幕五十中出| 国产av麻豆久久久久久久| 91久久精品国产一区二区三区| 真人做人爱边吃奶动态| 欧美日韩中文字幕国产精品一区二区三区| 日韩在线高清观看一区二区三区 | 啦啦啦韩国在线观看视频| 亚洲熟妇中文字幕五十中出| 麻豆一二三区av精品| 乱人视频在线观看| 国产毛片a区久久久久| 国产精品久久久久久av不卡| 动漫黄色视频在线观看| 麻豆国产av国片精品| 亚洲 国产 在线| 99热这里只有是精品在线观看| 成人三级黄色视频| 别揉我奶头 嗯啊视频| 精品久久久久久久久亚洲 | 有码 亚洲区| 18+在线观看网站| 欧美日韩乱码在线| av天堂中文字幕网| 精品一区二区三区视频在线| 人人妻,人人澡人人爽秒播| 干丝袜人妻中文字幕| 97人妻精品一区二区三区麻豆| 最新在线观看一区二区三区| 精品国产三级普通话版| 淫妇啪啪啪对白视频| 国产一区二区亚洲精品在线观看| 亚洲性久久影院| 舔av片在线| 伊人久久精品亚洲午夜| 日韩欧美精品免费久久| ponron亚洲| 国产亚洲欧美98| 97人妻精品一区二区三区麻豆| 蜜桃久久精品国产亚洲av| 丰满人妻一区二区三区视频av| 大又大粗又爽又黄少妇毛片口| 亚洲精品粉嫩美女一区| 在线观看舔阴道视频| 女人十人毛片免费观看3o分钟| 日本成人三级电影网站| 乱系列少妇在线播放| 神马国产精品三级电影在线观看| 午夜福利成人在线免费观看| 美女黄网站色视频| 色综合婷婷激情| 最近中文字幕高清免费大全6 | 69人妻影院| 国产白丝娇喘喷水9色精品| 久久久久国内视频| 22中文网久久字幕| 91麻豆av在线| 91麻豆精品激情在线观看国产| 99热精品在线国产| 一个人免费在线观看电影| 伦理电影大哥的女人| 国产精华一区二区三区| 欧美激情在线99| 国产午夜精品论理片| 一个人观看的视频www高清免费观看| 一区二区三区激情视频| 成人av在线播放网站| 日日啪夜夜撸| 欧美极品一区二区三区四区| 久久久久久久久久黄片| 韩国av一区二区三区四区| 91久久精品国产一区二区成人| 一区二区三区激情视频| 久久精品国产亚洲网站| 欧美bdsm另类| 成人综合一区亚洲| 免费观看人在逋| 日本成人三级电影网站| 狂野欧美白嫩少妇大欣赏| 18禁黄网站禁片免费观看直播| 久久久久久久久久久丰满 | 亚洲欧美清纯卡通| 亚洲av二区三区四区| 天天躁日日操中文字幕| 国产一区二区三区视频了| 久久九九热精品免费| 午夜福利在线在线| 国内久久婷婷六月综合欲色啪| 亚洲内射少妇av| 中国美白少妇内射xxxbb| 嫩草影院入口| 男女啪啪激烈高潮av片| 精品久久久久久成人av| 九色成人免费人妻av| 国产探花极品一区二区| 亚洲四区av| 午夜免费成人在线视频| 久久久久精品国产欧美久久久| 亚洲国产欧美人成| 国产探花极品一区二区| 毛片女人毛片| 日韩欧美精品v在线| 亚洲天堂国产精品一区在线| 国产一区二区三区在线臀色熟女| 少妇高潮的动态图| 欧美黑人巨大hd| 亚洲经典国产精华液单| 一区二区三区免费毛片| 亚洲国产高清在线一区二区三| 久久久色成人| 中文字幕av成人在线电影| 久99久视频精品免费| 久久久久精品国产欧美久久久| www.色视频.com| 国产久久久一区二区三区| 国产蜜桃级精品一区二区三区| 最近最新中文字幕大全电影3| 美女黄网站色视频| 老师上课跳d突然被开到最大视频| 国产精品国产三级国产av玫瑰| 真实男女啪啪啪动态图| 香蕉av资源在线| 国产成人a区在线观看| 免费高清视频大片| a级一级毛片免费在线观看| 成年女人永久免费观看视频| 国产激情偷乱视频一区二区| 丰满乱子伦码专区| 午夜视频国产福利| 舔av片在线| 国产成人一区二区在线| 日韩av在线大香蕉| 久久精品91蜜桃| 国产欧美日韩一区二区精品| 日韩欧美 国产精品| 午夜激情福利司机影院| 亚洲美女黄片视频| 欧美丝袜亚洲另类 | 国产亚洲精品久久久com| av在线蜜桃| 国产成人aa在线观看| 日韩精品有码人妻一区| 波多野结衣巨乳人妻| 国产精品久久视频播放| 婷婷精品国产亚洲av在线| 亚洲天堂国产精品一区在线| 18禁在线播放成人免费| 永久网站在线| 亚洲av不卡在线观看| 色哟哟·www| 亚洲经典国产精华液单| 久久精品国产亚洲网站| 丰满人妻一区二区三区视频av| 国产精品亚洲美女久久久| 国产亚洲av嫩草精品影院| 久久国产乱子免费精品| 国内精品久久久久精免费| 久久6这里有精品| 1000部很黄的大片| 欧美高清性xxxxhd video| 91久久精品国产一区二区三区| 亚洲色图av天堂| 狂野欧美白嫩少妇大欣赏| 色综合亚洲欧美另类图片| 18+在线观看网站| 久久久久九九精品影院| 最好的美女福利视频网| 天堂网av新在线| 日日干狠狠操夜夜爽| 国产免费一级a男人的天堂| 如何舔出高潮| 久久久久久久午夜电影| 女同久久另类99精品国产91| 亚洲一区高清亚洲精品| 国产一区二区在线观看日韩| 国产精品永久免费网站| 亚州av有码| 午夜日韩欧美国产| 我要搜黄色片| 三级男女做爰猛烈吃奶摸视频| 午夜精品久久久久久毛片777| 日韩精品青青久久久久久| 精品午夜福利视频在线观看一区| www.色视频.com| 久久草成人影院| 久久这里只有精品中国| 久久精品国产亚洲av天美| 噜噜噜噜噜久久久久久91| 熟女电影av网| 两人在一起打扑克的视频| 搡女人真爽免费视频火全软件 | 精品国内亚洲2022精品成人| 国产精品精品国产色婷婷| 成年版毛片免费区| 最近在线观看免费完整版| 亚洲美女视频黄频| 亚洲性久久影院| 国产人妻一区二区三区在| 久久久久久久久大av| 一个人看视频在线观看www免费| 精品人妻熟女av久视频| 久久久成人免费电影| 久久精品国产亚洲av涩爱 | 嫁个100分男人电影在线观看| 国产精品无大码| 国产伦精品一区二区三区四那| 国产成人影院久久av| eeuss影院久久| 国产精品不卡视频一区二区| 亚洲四区av| 婷婷六月久久综合丁香| 欧美人与善性xxx| 久久久国产成人免费| 99久久精品热视频| 久久精品国产亚洲av涩爱 | 国产精品嫩草影院av在线观看 |