• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于改進(jìn)DCGAN輪胎缺陷圖像生成方法

    2023-09-14 14:32:16李春華付睿智劉玉坤王愉霖
    關(guān)鍵詞:注意力機(jī)制

    李春華 付睿智 劉玉坤 王愉霖

    摘 要:

    針對(duì)深度卷積生成對(duì)抗網(wǎng)絡(luò)的數(shù)據(jù)擴(kuò)充方法存在生成圖像質(zhì)量差、模型框架不穩(wěn)定、模型收斂速度慢等問題,提出一種改進(jìn)DCGAN輪胎缺陷圖像生成模型。將殘差網(wǎng)絡(luò)和注意力機(jī)制嵌入到DCGAN模型中,提升模型特征的提取能力;同時(shí)摒棄DCGAN損失函數(shù)JS散度,使用帶有梯度懲罰項(xiàng)的Wasserstein距離,提高模型訓(xùn)練的穩(wěn)定性。實(shí)驗(yàn)結(jié)果表明,使用給定模型生成的輪胎缺陷圖像質(zhì)量優(yōu)于使用DCGAN,WGAN,CGAN與SAGAN所生成圖像,其平均FID值可以達(dá)到116.28,最小FID值可以達(dá)到84.94。所提出的模型可以穩(wěn)定生成質(zhì)量更好的輪胎缺陷圖像,為輪胎缺陷樣本數(shù)據(jù)集的擴(kuò)充提供了一種有效途徑,有助于有效解決深度學(xué)習(xí)在缺陷檢測(cè)領(lǐng)域發(fā)展所面臨的小樣本問題。

    關(guān)鍵詞:計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò);生成對(duì)抗網(wǎng)絡(luò);殘差網(wǎng)絡(luò);注意力機(jī)制;數(shù)據(jù)擴(kuò)充

    中圖分類號(hào):TN958.98?? 文獻(xiàn)標(biāo)識(shí)碼:A??DOI:10.7535/hbkd.2023yx04003

    A method for generating tire defect images based on improved DCGAN

    LI Chunhua1,F(xiàn)U Ruizhi2,LIU Yukun2,WANG Yulin3

    (1.School of Grammar and Law, Hebei University of Science and Technology, Shijiazhuang, Hebei 050018, China;

    2.School of Information Science and Engineering, Hebei University of Science and Technology, Shijiazhuang, Hebei 050018, China;3.The Electrical Engineering College, Guizhou University,Guiyang, Guizhou 550025, China)

    Abstract: An improved DCGAN tire defect image generation model was proposed to solve the problems of poor image quality, unstable model frame and slow model convergence in the data expansion method of deep convolutional generative adversarial network. The residual network and attention mechanism were embedded in DCGAN model to improve the feature extraction ability of the model. At the same time, the DCGAN loss function JS divergence was abandoned and Wasserstein distance with gradient penalty term was used to improve the stability of model training. The experimental results show that the quality of tire defect images generated by this model is better than that generated by DCGAN, WGAN, CGAN and SAGAN,with an average FID value of 116.28 and a minimum FID value of 84.94. The proposed model can stably generate tire defect images with better quality, which provides an effective way for expanding tire defect sample dataset and alleviates the problem of small sample in the development of deep learning in the field of defect detection.

    Keywords: computer neural network; generative adversarial network; residual network; attention mechanism; data expansion

    近年來,隨著國家經(jīng)濟(jì)的快速發(fā)展,汽車保有量越來越大,輪胎作為汽車最重要的零部件之一,其質(zhì)量的好壞直接影響人們的生命健康。據(jù)統(tǒng)計(jì),中國每年在高速公路上由于輪胎發(fā)生故障導(dǎo)致的交通事故約占總交通事故的46%[1],其中由于爆胎引起的交通事故約占70%[2],因此,輪胎的質(zhì)量直接影響公共交通安全。目前很多輪胎制造商對(duì)輪胎缺陷的檢測(cè)方法還停留在人工觀察階段,由于人工目測(cè)具有主觀性,導(dǎo)致造成的誤差難以控制,很容易出現(xiàn)誤檢、漏檢等問題,大大降低了輪胎檢測(cè)的效率。因此,如何提高出廠前輪胎缺陷檢測(cè)的效率和自動(dòng)化程度,是一項(xiàng)十分必要的研究內(nèi)容。

    深度學(xué)習(xí)借助大型數(shù)據(jù)集訓(xùn)練神經(jīng)網(wǎng)絡(luò),目前已經(jīng)在缺陷檢測(cè)領(lǐng)域得到廣泛應(yīng)用[3]。數(shù)據(jù)是深度學(xué)習(xí)的核心[4],數(shù)據(jù)集質(zhì)量好壞和范圍大小直接影響檢測(cè)的效果。數(shù)據(jù)集過小,則模型很容易出現(xiàn)不收斂、過擬合現(xiàn)象[5],導(dǎo)致缺陷檢測(cè)精度低、效果差。然而,在實(shí)際工業(yè)生產(chǎn)中,受限于復(fù)雜的缺陷圖像收集過程,輪胎缺陷圖像嚴(yán)重不足,相關(guān)數(shù)據(jù)集十分有限。數(shù)據(jù)擴(kuò)充是解決上述問題的一種有效方式。傳統(tǒng)的數(shù)據(jù)擴(kuò)充方法通過將現(xiàn)有樣本進(jìn)行旋轉(zhuǎn)、平移、縮放、添加噪聲等產(chǎn)生新的樣本[6],由于擴(kuò)充的樣本與原始樣本之間具有很高的相似性,因而無法保證新生成的樣本有利于模型訓(xùn)練,甚至有時(shí)會(huì)加劇模型的過擬合程度[7 8]。另一種方法是通過生成式模型進(jìn)行數(shù)據(jù)擴(kuò)充,GOODFELLOW等[9]在2014年提出生成對(duì)抗網(wǎng)絡(luò)(GAN)模型,GAN模型通過學(xué)習(xí)特征分布生成新的樣本,但生成的圖像質(zhì)量差,訓(xùn)練不穩(wěn)定,容易出現(xiàn)梯度爆炸。近年來,越來越多的研究者基于GAN進(jìn)行改進(jìn)優(yōu)化,出現(xiàn)了很多新模型。MIRZA等[10]通過向網(wǎng)絡(luò)中加入條件,監(jiān)督樣本生成,提出條件生成對(duì)抗網(wǎng)絡(luò)(CGAN)模型,可以使網(wǎng)絡(luò)朝著既定的方向生成樣本,但并沒有解決訓(xùn)練不穩(wěn)定的問題。RADFORD等[11]提出了深度卷積生成對(duì)抗網(wǎng)絡(luò)(DCGAN),使用帶步長的卷積層代替GAN模型的池化層和全連接層,并且為了增加訓(xùn)練的穩(wěn)定性,加入批歸一化層(BN層)。DCGAN模型的提出基本確定了生成對(duì)抗網(wǎng)絡(luò)的基本結(jié)構(gòu),但該結(jié)構(gòu)仍然存在著特征提取能力有限、模型框架不穩(wěn)定、生成圖像樣本質(zhì)量差且過于自由等問題。

    為了解決上述問題,在DCGAN模型的基礎(chǔ)上,提出一種改進(jìn)的DCGAN輪胎缺陷圖像生成模型。該模型將注意力機(jī)制與殘差網(wǎng)絡(luò)融合成一個(gè)“基本塊”嵌入到DCGAN網(wǎng)絡(luò)結(jié)構(gòu)中,并用帶有梯度懲罰項(xiàng)Wasserstein距離替代原始DCGAN損失函數(shù)所使用的JS散度。殘差網(wǎng)絡(luò)的加入,增加了網(wǎng)絡(luò)深度,使模型能夠提取更深層次的圖像特征。注意力機(jī)制具有自動(dòng)分配權(quán)重的特點(diǎn),使網(wǎng)絡(luò)學(xué)習(xí)到更多的有用紋理信息,抑制無用噪聲信息。

    1 基于改進(jìn)DCGAN圖像生成模型

    模型由帶“基本塊”的生成器和判別器構(gòu)成,輪胎缺陷圖像生成整體流程如圖1所示。首先,將一組服從均勻分布的隨機(jī)噪聲Z作為輸入送入生成器中,輸出生成樣本G(z);然后,將真實(shí)樣本和生成樣本G(z)一起作為輸入送入判別器中,實(shí)現(xiàn)對(duì)生成樣本G(z)真假的判斷。生成樣本通過生成器和判別器不斷對(duì)抗迭代優(yōu)化處理,變得越來越接近真實(shí)樣本,達(dá)到生成輪胎缺陷圖像的目的。

    1.1 DCGAN模型框架

    DCGAN模型是以GAN模型為基礎(chǔ)提出的,模型思想來源于博弈論中零和博弈[12]。在GAN模型基礎(chǔ)上,DCGAN模型采用全卷積網(wǎng)絡(luò)結(jié)構(gòu),使用帶步長的卷積層替代GAN模型生成器和判別器的池化層,使用1×1的卷積替代全連接層;將BN層應(yīng)用在除生成器的輸出層和判別器輸入層之外的每一層;生成器中使用ReLu作為激活函數(shù),最后一層使用Tanh作為激活函數(shù),而判別器中使用Leaky ReLu作為激活函數(shù),最后一層使用Sigmoid作為激活函數(shù)。

    DCGAN由生成器和判別器構(gòu)成。生成器具有轉(zhuǎn)置卷積結(jié)構(gòu),目的是盡可能地生成近似于真實(shí)的樣本;判別器具有卷積結(jié)構(gòu),目的是對(duì)生成樣本和真實(shí)樣本進(jìn)行判別,兩者通過不斷迭代對(duì)抗優(yōu)化各自的性能,最終達(dá)到納什平衡。生成器與判別器相互博弈的目標(biāo)函數(shù)如式(1)所示:

    式中:x為真實(shí)樣本數(shù)據(jù);Pr(x)為x的概率分布;E為數(shù)學(xué)期望;z為隨機(jī)變量;Pg(z)為z的概率分布;V(D,G)為判別器和生成器的值函數(shù)。

    盡管DCGAN模型在數(shù)據(jù)擴(kuò)充領(lǐng)域應(yīng)用十分廣泛,但仍存在一些問題,比如模型崩潰、收斂速度慢、生成樣本過于自由且不可控等。

    1.2 網(wǎng)絡(luò)結(jié)構(gòu)改進(jìn)

    針對(duì)DCGAN模型在圖像生成過程中所存在的網(wǎng)絡(luò)訓(xùn)練崩潰、生成圖像質(zhì)量差等問題,所提模型在DCGAN模型結(jié)構(gòu)的基礎(chǔ)上進(jìn)行改進(jìn),根據(jù)注意力機(jī)制“即插即用”的特點(diǎn)和不破壞網(wǎng)絡(luò)原始結(jié)構(gòu)的原則,將注意力機(jī)制和殘差網(wǎng)絡(luò)融合為一個(gè)“基本塊”嵌入到DCGAN模型的生成器和判別器中。

    1.2.1 注意力機(jī)制模塊

    傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)在作為生成器生成圖像的過程中,由于卷積核的尺寸固定,且大小受限,關(guān)注的區(qū)域有限,無法將2個(gè)距離較遠(yuǎn)的像素點(diǎn)聯(lián)系起來,在訓(xùn)練過程中通常只能學(xué)習(xí)到圖像的局部信息,因而容易導(dǎo)致生成的樣本出現(xiàn)錯(cuò)誤。注意力機(jī)制CBAM模塊的加入可以補(bǔ)充傳統(tǒng)卷積操作無法學(xué)習(xí)到的信息,使2個(gè)距離較遠(yuǎn)的區(qū)域信息產(chǎn)生聯(lián)系,捕獲到更多的信息,更好地學(xué)習(xí)到全局特征之間的關(guān)系。

    注意力機(jī)制CBAM模塊[13]是由通道注意力和空間注意力2部分組成,通道注意力可以使神經(jīng)網(wǎng)絡(luò)更加關(guān)注對(duì)圖像生成起關(guān)鍵作用的像素區(qū)域而忽略無關(guān)緊要的區(qū)域,即明確特征中哪些特征是有意義的;空間注意力用于處理特征通道之間的分配關(guān)系,即明確有意義的特征在哪里。CBAM模塊結(jié)構(gòu)圖如圖2所示。

    通道注意力結(jié)構(gòu)如圖3所示。通道注意力的特點(diǎn)是可以保持輸入特征圖的通道維度不變,

    壓縮空間維度。首先,將特征圖F作為輸入,基于空間進(jìn)行全局最大池化和全局均值池化操作,得到2個(gè)1×1通道權(quán)重矩陣,再輸入到多層次感知網(wǎng)絡(luò)中;然后,對(duì)輸出的特征進(jìn)行加和以及Sigmoid激活操作得到通道注意力特征權(quán)重Mc,該過程如式(2)所示:

    Mc(F)=σ(MLP(AvgPool(F))+MLP(MaxPool(F)))=σ(W1(W0(FcAvg))+W1(W0(FcMax))),(2)

    將通道注意力特征權(quán)重與原始輸入特征相乘,得到空間注意力的輸入F′,該過程如式(3)所示:

    空間注意力結(jié)構(gòu)如圖4所示??臻g注意力的特點(diǎn)是使特征圖的空間維度不變,壓縮通道維度。首先將輸入的特征圖F′進(jìn)行基于通道的最大池化和平均池化操作得到2個(gè)二維向量拼接;然后經(jīng)過卷積計(jì)算和Sigmoid激活操作,生成空間注意力特征權(quán)重Ms,該過程如式(4)所示:

    Ms(F)=σ(f7×7([AvgPool(F);MaxPool(F)]))=σ(f7×7([FsAvg;FsMax])) ,(4)

    式中:f7×7代表卷積核為7×7大小的卷積層。

    將空間注意力特征權(quán)重與輸入特征相乘,得到顯著特征圖F″,該過程如式(5)所示:

    1.2.2 殘差網(wǎng)絡(luò)與基本塊

    對(duì)于神經(jīng)網(wǎng)絡(luò)來說,理想情況下,網(wǎng)絡(luò)的層數(shù)越深,性能越好。但是實(shí)際訓(xùn)練過程中,隨著網(wǎng)絡(luò)的逐漸加深,常常伴隨著梯度不穩(wěn)定、訓(xùn)練困難、網(wǎng)絡(luò)退化等問題[14]。為解決上述問題,HE等[15]在卷積神經(jīng)網(wǎng)絡(luò)(CNN)的基礎(chǔ)上提出了殘差網(wǎng)絡(luò)(Resnet),Resnet的核心在于引入了殘差塊,利用跳躍連接或快捷方式跳過某些卷積層,殘差塊結(jié)構(gòu)如圖5所示,多個(gè)殘差塊通過線性連接構(gòu)成殘差網(wǎng)絡(luò)。

    傳統(tǒng)生成對(duì)抗網(wǎng)絡(luò)存在卷積層數(shù)少、對(duì)特征提取不完全的問題,但只是單一地加深網(wǎng)絡(luò)的層數(shù)則會(huì)出現(xiàn)模型計(jì)算速度減慢、梯度爆炸、網(wǎng)絡(luò)退化等問題[16],因此引入具有跳躍連接結(jié)構(gòu)的殘差網(wǎng)絡(luò)來抑制梯度爆炸和網(wǎng)絡(luò)退化等問題。但殘差網(wǎng)絡(luò)在提取特征方面并沒有直接的優(yōu)勢(shì),而是通過不斷逐層深入表征更多的特征,達(dá)到最理想的效果。

    針對(duì)此問題,提出將注意力機(jī)制CBAM模塊嵌入到殘差塊中,利用注意力機(jī)制自動(dòng)分配權(quán)重的特點(diǎn),彌補(bǔ)殘差網(wǎng)絡(luò)在特征表征中的不足,通過盡可能少的殘差塊提取到更多的特征,使網(wǎng)絡(luò)更加輕量化。根據(jù)注意力機(jī)制“即插即用”的特點(diǎn)和不破壞網(wǎng)絡(luò)原始結(jié)構(gòu)的原則,選擇在每個(gè)殘差塊的殘差分支之后、聚合之前嵌入注意力機(jī)制CBAM模塊。在該模型中將嵌入CBAM模塊的殘差塊稱為“基本塊”,基本塊結(jié)構(gòu)如圖6所示。

    1.2.3 改進(jìn)的生成器和判別器

    生成器作為整個(gè)網(wǎng)絡(luò)的核心,目的是生成輪胎缺陷圖像,所提模型生成器結(jié)構(gòu)如圖7所示。將一個(gè)100維的線性向量輸入到網(wǎng)絡(luò)中,經(jīng)過線性層重構(gòu)為256×8×8的特征圖,在特征圖送入DeConv層之前引入“基本塊”,“基本塊”的加入只是對(duì)網(wǎng)絡(luò)特征提取能力的提升,不會(huì)改變輸出特征圖的大小和通道數(shù)。將輸出的特征圖依次送入DeConv層、BN層、ReLu激活函數(shù)層得到128×16×16的特征圖,之后重復(fù)2次上述操作,除網(wǎng)絡(luò)末尾使用Tanh作為激活函數(shù),其他均使用ReLu作為激活函數(shù),得到3×64×64的特征圖作為生成器的輸出。

    模型判別器結(jié)構(gòu)如圖8所示。判別器的輸入為生成器的輸出圖像,判別器包含3個(gè)卷積層,輸入3×64×64的特征圖經(jīng)過連續(xù)卷積變?yōu)?56×8×8的特征圖。3層卷積激活函數(shù)均使用Leaky ReLu,在第2、第3層卷積之前加入“基本塊”并添加BN層。在第1、第3卷積層后加入Dropout層,目的是防止判別器過于優(yōu)化導(dǎo)致訓(xùn)練出現(xiàn)過擬合[17]。最后將256×8×8的特征圖經(jīng)過一個(gè)Sigmoid激活函數(shù)得到生成器生成樣本真或假的概率。

    1.3 損失函數(shù)優(yōu)化

    對(duì)于傳統(tǒng)生成對(duì)抗網(wǎng)絡(luò),如果只是單純地改進(jìn)網(wǎng)絡(luò)模型的結(jié)構(gòu),并不能從根本上解決生成網(wǎng)絡(luò)訓(xùn)練難、梯度不穩(wěn)定等問題。傳統(tǒng)生成對(duì)抗網(wǎng)絡(luò)所使用的損失函數(shù)JS散度存在問題,當(dāng)真實(shí)分布與生成分布沒有交集時(shí),JS散度就會(huì)變成常數(shù),導(dǎo)致梯度消失模型訓(xùn)練不穩(wěn)定。為此,ARGOVSKY等[18]提出利用帶有梯度懲罰項(xiàng)Wasserstein距離改進(jìn)損失函數(shù),Wasserstein距離具有平滑性的優(yōu)點(diǎn),反映真實(shí)分布概率與生成分布概率之間的距離,Wasserstein距離越小,說明真實(shí)分布與生成分布越相似,生成樣本與真實(shí)樣本之間的差距越小。Wasserstein距離如式(6)所示:

    式中:n為真實(shí)分布與生成分布之間的隨機(jī)差值;Pn為真實(shí)分布與生成分布之間的差值;λ為正則項(xiàng)系數(shù);SymbolQC@nD(n)為梯度約束。

    2 實(shí)驗(yàn)設(shè)計(jì)

    2.1 參數(shù)設(shè)置及評(píng)價(jià)指標(biāo)

    改進(jìn)的DCGAN輪胎缺陷圖像生成模型,訓(xùn)練參數(shù)的設(shè)置如表1所示,運(yùn)行環(huán)境是基于Python3.6的Pytorch1.10.2框架,使用的GPU為NVIDIA 3060。采用Adam為該實(shí)驗(yàn)優(yōu)化器,將生成器的

    學(xué)習(xí)率設(shè)置為0.001,判別器的學(xué)習(xí)率設(shè)置為0.000 1,batch_size為8,懲罰項(xiàng)參數(shù)λ為10,迭代2 500個(gè)epochs后停止訓(xùn)練。實(shí)驗(yàn)數(shù)據(jù)來源于自建數(shù)據(jù)集,為了保證圖像的精度,使用工業(yè)相機(jī)得到高分辨率輪胎圖像,將得到的高分辨率輪胎圖像經(jīng)過裁剪得到圖像大小為64×64的輪胎缺陷樣本,隨后通過人工篩選得到輪胎缺陷訓(xùn)練集,訓(xùn)練集共計(jì)500張圖像。

    文獻(xiàn)[20]指出,評(píng)價(jià)GAN生成圖像效果并沒有固定的指標(biāo),為了更加客觀地體現(xiàn)生成圖像的質(zhì)量,采用FID(frechet inception distance)值作為本次實(shí)驗(yàn)評(píng)估生成圖像質(zhì)量的主要指標(biāo)[21]。FID是計(jì)算真實(shí)圖像與生成圖像特征向量之間的距離,F(xiàn)ID值越小,說明生成圖像越接近于真實(shí)圖像[22]。FID通過預(yù)訓(xùn)練的Inception v3網(wǎng)絡(luò)提取真實(shí)圖像和生成圖像兩者的特征,計(jì)算公式如式(9)所示:

    式中:μr為真實(shí)圖像特征的均值;μg為生成圖像特征的均值;∑r為真實(shí)圖像特征的方差;∑g為生成圖像特征的方差。

    2.2 消融實(shí)驗(yàn)設(shè)計(jì)

    采用3種改進(jìn)措施對(duì)原始DCGAN模型進(jìn)行改進(jìn),分別是將殘差結(jié)構(gòu)和注意力機(jī)制嵌入到DCGAN模型中;使用帶有梯度懲罰項(xiàng)Wasserstein距離代替原始DCGAN模型的損失函數(shù)。為了驗(yàn)證改進(jìn)措施對(duì)模型的增益作用,設(shè)計(jì)試驗(yàn)來驗(yàn)證3種改進(jìn)措施對(duì)模型的提升效果。首先,將DCGAN模型選取為基準(zhǔn)模型;然后,在基準(zhǔn)模型的基礎(chǔ)上,分別加入殘差網(wǎng)絡(luò)(DCGAN Resnet)、注意力機(jī)制(DCGAN CBAM)和帶有梯度懲罰項(xiàng)的Wasserstein距離(DCGAN Wasserstein);最后,將所提模型與DCGAN,DCGAN Resnet,DCGAN CBAM,DCGAN Wasserstein從主觀效果和客觀指標(biāo)2個(gè)方面進(jìn)行對(duì)比,驗(yàn)證3種改進(jìn)措施對(duì)模型的提升效果。消融實(shí)驗(yàn)分別選取所生成圖像FID的平均值和最小值作為評(píng)價(jià)指標(biāo)。

    2.3 對(duì)比實(shí)驗(yàn)設(shè)計(jì)

    為了進(jìn)一步驗(yàn)證改進(jìn)模型相比現(xiàn)有主流模型的優(yōu)越性,將改進(jìn)模型與現(xiàn)有主流的DCGAN,WGAN,CGAN,SAGAN模型進(jìn)行對(duì)比。WGAN將傳統(tǒng)生成對(duì)抗網(wǎng)絡(luò)損失函數(shù)替換為Wasserstein距離但并沒有加入懲罰項(xiàng)系數(shù);CGAN在生成器和判別器的輸入中加入條件約束;SAGAN將自注意力機(jī)制加入到模型結(jié)構(gòu)當(dāng)中。對(duì)上述5種模型從主觀效果和客觀指標(biāo)2個(gè)方面進(jìn)行對(duì)比分析,驗(yàn)證改進(jìn)模型相比于其他模型的優(yōu)越性。對(duì)比實(shí)驗(yàn)分別選取所生成圖像FID的平均值和最小值作為評(píng)價(jià)指標(biāo)。

    3 結(jié)果與分析

    3.1 改進(jìn)模型圖像生成結(jié)果

    圖9為改進(jìn)模型生成的輪胎缺陷圖像展示。為了更加詳細(xì)地展示不同迭代次數(shù)所生成圖像的效果,在訓(xùn)練過程中每經(jīng)過200次迭代抽取一張生成圖像作為展示,訓(xùn)練過程如圖10所示。由圖10可知,改進(jìn)模型在迭代到600次時(shí)能夠生成缺陷,但此時(shí)生成的圖像嚴(yán)重失真;當(dāng)?shù)M(jìn)行到1 400次時(shí),生成的圖像得到很大改善,但背景網(wǎng)格化程度十分嚴(yán)重;當(dāng)?shù)? 800次時(shí),除圖像邊緣部分還有些許網(wǎng)格外,生成圖像已經(jīng)接近真實(shí)圖像;當(dāng)?shù)? 000~2 500次時(shí),生成圖像已十分接近真實(shí)圖像。

    3.2 消融實(shí)驗(yàn)結(jié)果與分析

    圖11從主觀效果方面展示了消融實(shí)驗(yàn)5種模型所生成的圖像。由圖11可知,基于DCGAN,DCGAN Wasserstein,DCGAN Resnet,DCGAN CBAM的模型,生成的圖像已經(jīng)有了缺陷的大致輪廓,但是缺陷邊緣模糊,容易與背景融合,虛假紋理較多,圖像質(zhì)量不高。DCGAN模型所生成的圖像雖然有了缺陷但是無法將缺陷完整地生成出來。DCGAN Wasserstein生成的圖像與原始DCGAN模型相比,背景網(wǎng)格化問題依然存在,但缺陷形狀較清晰,模型框架穩(wěn)定,在訓(xùn)練過程中未出現(xiàn)梯度爆炸等問題,驗(yàn)證了損失函數(shù)改進(jìn)的有效性。DCGAN CBAM可以將缺陷形狀大致生成,驗(yàn)證了注意力機(jī)制嵌入的有效性,但是背景虛化嚴(yán)重。DCGAN Resnet可以將缺陷和背景進(jìn)行區(qū)分,且圖像背景更加清晰,驗(yàn)證了殘差網(wǎng)絡(luò)結(jié)構(gòu)的有效性,但是所生成的缺陷形狀不明顯且嚴(yán)重失真。采用改進(jìn)模型生成的圖像缺陷邊緣更清楚,圖像噪聲點(diǎn)顯著減少并且整體缺陷和背景有了明顯區(qū)分,生成的圖像更加真實(shí)。

    為了更加客觀地評(píng)估所提模型生成圖像的效果,消融實(shí)驗(yàn)分別對(duì)5種模型進(jìn)行2 500次迭代,實(shí)驗(yàn)過程中發(fā)現(xiàn)模型迭代1 800次前所生成圖像樣本過于自由,圖像質(zhì)量非常差,會(huì)對(duì)消融實(shí)驗(yàn)結(jié)果造成較大誤差,因此,從1 800次迭代開始,每隔100次迭代計(jì)算當(dāng)前迭代的FID值,迭代到2 500次停止。消融實(shí)驗(yàn)5種模型生成圖像的FID值如表2所示。由表2可知,3種改進(jìn)措施模型所生成圖像的FID平均值和最小值均低于原始DCGAN模型,進(jìn)一步驗(yàn)證了3種措施的有效性。本文模型所生成的圖像FID平均值和最小值分別為116.28和84.94,遠(yuǎn)低于DCGAN模型所生成圖像的168.56和125.77。綜合主觀效果和客觀指標(biāo),所提模型的3種改進(jìn)措施均有利于生成圖像質(zhì)量的提高。

    3.3 對(duì)比實(shí)驗(yàn)結(jié)果與分析

    圖12從主觀效果方面展示了對(duì)比實(shí)驗(yàn)5種模型所生成的圖像。由圖12可知,DCGAN生成的圖像雖然生成了缺陷但是無法將缺陷完整地生成出來。WGAN只是對(duì)損失函數(shù)進(jìn)行改進(jìn),在訓(xùn)練過程中沒有出現(xiàn)梯度爆炸等問題,但生成的圖像較DCGAN相比沒有明顯提升。CGAN所生成圖像缺陷邊緣模糊,背景網(wǎng)格化嚴(yán)重。加入自注意力機(jī)制的SAGAN可以生成較清晰的缺陷,但缺陷邊緣模糊,背景存在較多噪聲點(diǎn)。所提模型生成圖像對(duì)比其他4種模型,缺陷形狀更加清晰,缺陷與背景融合更加自然,背景網(wǎng)格化問題得到很大改善,且在訓(xùn)練過程中沒有出現(xiàn)梯度爆炸等問題。

    為了更加客觀地評(píng)估改進(jìn)模型生成圖像的效果,對(duì)比實(shí)驗(yàn)分別對(duì)5種模型進(jìn)行2 500次迭代,從1 800~2 500次迭代,每隔100次迭代計(jì)算當(dāng)前迭代所生成圖像的FID值。對(duì)比5種模型生成圖像的FID值如表3所示。由表3可知,所提模型生成圖像樣本的FID平均值和最小值分別為116.28和84.94,均低于其他4種方法,說明改進(jìn)模型生成的圖像樣本更符合原始圖像的分布,質(zhì)量更高,證明所提模型在圖像生成方面優(yōu)于現(xiàn)有主流的4種模型。

    4 結(jié) 語

    在DCGAN模型的基礎(chǔ)上,提出從網(wǎng)絡(luò)結(jié)構(gòu)和損失函數(shù)2個(gè)方面對(duì)其進(jìn)行改進(jìn),有效改善了傳統(tǒng)對(duì)抗網(wǎng)絡(luò)生成圖像質(zhì)量不高、收斂速度慢、訓(xùn)練不穩(wěn)定等問題。在網(wǎng)絡(luò)結(jié)構(gòu)方面,將殘差網(wǎng)絡(luò)和注意力機(jī)制CBAM模塊融合成一個(gè)“基本塊”嵌入到DCGAN模型中,提升模型特征提取的能力。在損失函數(shù)方面,使用帶有梯度懲罰項(xiàng)的Wasserstein距離代替原始DCGAN模型所使用的JS散度,提高模型的收斂速度和穩(wěn)定性。使用FID值作為生成圖像的評(píng)價(jià)指標(biāo),實(shí)驗(yàn)結(jié)果表明,該模型生成圖像FID平均值為116.28,最小值為84.94,生成圖像質(zhì)量優(yōu)于DCGAN,WGAN,CGAN與SAGAN。所提模型不僅能夠生成高質(zhì)量的輪胎缺陷圖像,還可以為不同應(yīng)用場(chǎng)景下擴(kuò)充樣本數(shù)據(jù)集提供理論參考與方法借鑒,例如路面縫隙缺陷樣本、精密金屬零件缺陷樣本、印刷品、紡織物缺陷樣本等。但是該模型在提高缺陷圖像多樣性方面不夠理想,未來將以生成多種類型缺陷圖像為目的繼續(xù)展開研究。

    參考文獻(xiàn)/References:

    羅偉柱.駕駛員應(yīng)了解輪胎的“四個(gè)理”[J].汽車運(yùn)用,2017,15(4):35.

    LUO Weizhu.Drivers should understand the "four principles" of tires[J].Automotive Application,2017,15(4):35.

    [2] 陳思羽.輪胎質(zhì)量頑疾難改[J].汽車觀察,2009(4):82 83.

    [3] 羅東亮,蔡雨萱,楊子豪,等.工業(yè)缺陷檢測(cè)深度學(xué)習(xí)方法綜述[J].中國科學(xué):信息科學(xué),2022,52(6):1002 1039.

    LUO Dongliang, CAI Yuxuan, YANG Zihao, et al. Review of deep learning methods for industrial defect detection [J]. Chinese Science: Information Science, 2022, 52(6): 1002 1039.

    [4] WANG Ning,WANG Yuanyuan,ER M J.Review on deep learning techniques for marine object recognition:Architectures and algorithms[J].Control Engineering Practice,2022,118.DOI:10.1016/j.conengprac.2020.104458.

    [5] YING Xue.An overview of overfitting and its solutions[J].Journal of Physics:Conference Series,2019,1168(2).DOI 10.1088/1742 6596/1168/2/022022.

    [6] JIA Shijie,WANG Ping,JIA Peiyi,et al.Research on data augmentation for image classification based on convolution neural networks[C]//2017 Chinese Automation Congress (CAC),Jinan:IEEE,2017:4165 4170.

    [7] SHORTEN C,KHOSHGOFTAAR T M.A survey on image data augmentation for deep learning[J].Journal of Big Data,2019,6(1). DOI:10.1186/s40537 019 0197 0.

    [8] CHEN Tingkai,WANG Ning,WANG Rongfeng,et al.One stage CNN detector based benthonic organisms detection with limited training dataset[J].Neural Networks,2021,144:247 259.

    [9] GOODFELLOW I J,POUGET ABADIE J,MIRZA M,et al.Generative adversarial nets[C]//Proceedings of the 27th International Conference on Neural Information Processing Systems.Montreal:MITPress,2014,2:2672 2680.

    [10]MIRZA M,OSINDERO S.Conditional Generative Adversarial Nets[DB/OL].https://arxiv.org/abs/1411.1784,2014 11 06.

    [11]RADFORD A,METZ L,CHINTALA S.Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks[DB/OL].https://arxiv.org/abs/1511.06434,2016 01 07.

    [12]王萬良,李卓蓉.生成式對(duì)抗網(wǎng)絡(luò)研究進(jìn)展[J].通信學(xué)報(bào),2018,39(2):135 148.

    WANG Wanliang,LI Zhuorong.Advances in generative adversarial network[J].Journal on Communications,2018,39(2):135 148.

    [13]WOO S,PARK J,LEE J Y,et al.CBAM:Convolutional block attention module[C]//Computer Vision ECCV 2018,Cham:Springer,2018:3 19.

    [14]王珂,張根耀.基于ResNet模型的甲狀腺SPECT影像診斷[J].河北科技大學(xué)學(xué)報(bào),2020,41(3):242 248.

    WANG Ke,ZHANG Genyao.Diagnosis of thyroid SPECT image based on ResNet model[J].Journal of Hebei University of Science and Technology,2020,41(3):242 248.

    [15]HE Kaiming,ZHANG Xiangyu,REN Shaoqing,et al.Deep residual learning for image recognition[C]//2016 IEEE Conference on Computer Vision and Pattern Recognition (CVPR).Las Vegas:IEEE,2016:770 778.

    [16]GLOROT X,BENGIO Y.Understanding the difficulty of training deep feedforward neural networks[C]//Proceedings of the 13th International Conference on Artificial Intelligence and Statistics (AISTATS) 2010.Sardinia:JMLR,2010:249 256.

    [17]SRIVASTAVA N,HINTON G,KRIZHEVSKY A,et al.Dropout:Asimple way to prevent neural networks from overfitting[J].Journal of Machine Learning Research,2014,15(1):1929 1958.

    [18]ARJOVSKY M,CHINTALA S,BOTTOU L.Wasserstein GAN[DB/OL].https://arxiv.org/abs/1701.07875,2017 12 06.

    [19]李慶旭,王巧華,馬美湖.基于生成對(duì)抗網(wǎng)絡(luò)的禽蛋圖像數(shù)據(jù)生成研究[J].農(nóng)業(yè)機(jī)械學(xué)報(bào),2021,52(2):236 245.

    LI Qingxu,WANG Qiaohua,MA Meihu.Poultry egg image data generating based on generative adversarial network[J].Transactions of the Chinese Society for? Agricultural Machinery,2021,52(2):236 245.

    [20]SHMELKOV K,SCHMID C,ALAHARI K.How good ismy GAN?[C]//Computer Vision ECCV 2018.Cham:Springer,2018,6:218 234.

    [21]HEUSEL M,RAMSAUER H,UNTERTHINER T,et al.GANs trained by a two time scale update rule converge to a local nash equilibrium[C]//Proceedings of the 31st International Conference on Neural Information Processing Systems.LongBeach:CurranAssociates Inc.,2017:6629 6640.

    [22]陳雪云,黃小巧,謝麗.基于多尺度條件生成對(duì)抗網(wǎng)絡(luò)血細(xì)胞圖像分類檢測(cè)方法[J].浙江大學(xué)學(xué)報(bào)(工學(xué)版),2021,55(9):1772 1781.

    CHEN Xueyun,HUANG Xiaoqiao,XIE Li.Classification and detection method of blood cells images based on multi scale conditional generative adversarial network[J].Journal of Zhejiang University(Engineering Science),2021,55(9):1772 1781.

    猜你喜歡
    注意力機(jī)制
    基于注意力機(jī)制的行人軌跡預(yù)測(cè)生成模型
    基于注意力機(jī)制和BGRU網(wǎng)絡(luò)的文本情感分析方法研究
    多特征融合的中文實(shí)體關(guān)系抽取研究
    基于序列到序列模型的文本到信息框生成的研究
    基于深度學(xué)習(xí)的手分割算法研究
    從餐館評(píng)論中提取方面術(shù)語
    面向短文本的網(wǎng)絡(luò)輿情話題
    基于自注意力與動(dòng)態(tài)路由的文本建模方法
    基于深度學(xué)習(xí)的問題回答技術(shù)研究
    基于LSTM?Attention神經(jīng)網(wǎng)絡(luò)的文本特征提取方法
    色婷婷久久久亚洲欧美| 久久久久久久久免费视频了| 欧美精品一区二区免费开放| 免费高清视频大片| 黄色成人免费大全| 久久国产精品人妻蜜桃| bbb黄色大片| 日本a在线网址| 丰满的人妻完整版| 自线自在国产av| 韩国av一区二区三区四区| 老司机午夜十八禁免费视频| 日韩人妻精品一区2区三区| 长腿黑丝高跟| 亚洲国产精品sss在线观看 | 久久人人爽av亚洲精品天堂| 久久久久久亚洲精品国产蜜桃av| 国产精品 国内视频| 嫩草影院精品99| 亚洲精品粉嫩美女一区| 国产av一区二区精品久久| 好男人电影高清在线观看| 在线观看免费视频日本深夜| 国产1区2区3区精品| 最近最新中文字幕大全电影3 | 人人妻人人澡人人看| 欧美激情高清一区二区三区| 欧美日韩中文字幕国产精品一区二区三区 | 欧美午夜高清在线| 在线免费观看的www视频| a级片在线免费高清观看视频| 天天躁夜夜躁狠狠躁躁| 女同久久另类99精品国产91| 亚洲精品成人av观看孕妇| 国产亚洲精品综合一区在线观看 | 久久久久久亚洲精品国产蜜桃av| 丝袜人妻中文字幕| av在线天堂中文字幕 | 国产成人精品无人区| 亚洲成av片中文字幕在线观看| 午夜影院日韩av| 亚洲精品成人av观看孕妇| 在线国产一区二区在线| 正在播放国产对白刺激| 美女扒开内裤让男人捅视频| 日本vs欧美在线观看视频| 久久性视频一级片| 夜夜爽天天搞| 一级作爱视频免费观看| 精品国产一区二区久久| 欧美在线一区亚洲| 久久中文字幕一级| 久久香蕉国产精品| 国产精品九九99| 99在线人妻在线中文字幕| 欧美激情 高清一区二区三区| 欧美国产精品va在线观看不卡| 午夜免费鲁丝| 午夜成年电影在线免费观看| 成熟少妇高潮喷水视频| 美女扒开内裤让男人捅视频| 大码成人一级视频| x7x7x7水蜜桃| 色综合欧美亚洲国产小说| 热99re8久久精品国产| av超薄肉色丝袜交足视频| 亚洲性夜色夜夜综合| 欧美黑人欧美精品刺激| 在线观看免费视频网站a站| 久久久国产欧美日韩av| 悠悠久久av| 成年版毛片免费区| 咕卡用的链子| 日日夜夜操网爽| 高清av免费在线| 国产麻豆69| 久99久视频精品免费| 亚洲一区二区三区欧美精品| 国产伦人伦偷精品视频| 午夜福利免费观看在线| 美女高潮喷水抽搐中文字幕| 国产又色又爽无遮挡免费看| 亚洲少妇的诱惑av| 少妇粗大呻吟视频| 国产亚洲av高清不卡| 国产精品野战在线观看 | 手机成人av网站| 视频在线观看一区二区三区| videosex国产| 成年人免费黄色播放视频| 亚洲精品美女久久久久99蜜臀| 亚洲第一青青草原| 五月开心婷婷网| 成在线人永久免费视频| 国产精品自产拍在线观看55亚洲| 一二三四社区在线视频社区8| 亚洲视频免费观看视频| 18禁国产床啪视频网站| 亚洲第一青青草原| 亚洲熟妇熟女久久| 国产精品九九99| 99精国产麻豆久久婷婷| 精品久久久久久久毛片微露脸| videosex国产| 午夜福利,免费看| 一进一出好大好爽视频| 叶爱在线成人免费视频播放| 久久人妻熟女aⅴ| av超薄肉色丝袜交足视频| 国产精品 国内视频| 久99久视频精品免费| www国产在线视频色| 中文字幕色久视频| 午夜精品久久久久久毛片777| 大香蕉久久成人网| 在线观看午夜福利视频| av网站免费在线观看视频| 日日干狠狠操夜夜爽| av在线天堂中文字幕 | 满18在线观看网站| 午夜亚洲福利在线播放| 精品国产乱码久久久久久男人| 欧美日本中文国产一区发布| 免费观看人在逋| 叶爱在线成人免费视频播放| 免费女性裸体啪啪无遮挡网站| 国产有黄有色有爽视频| 中亚洲国语对白在线视频| 男人的好看免费观看在线视频 | 亚洲国产欧美一区二区综合| 国产成人精品久久二区二区91| 天堂中文最新版在线下载| www.999成人在线观看| 丝袜美腿诱惑在线| 国产熟女午夜一区二区三区| 人妻丰满熟妇av一区二区三区| 亚洲欧美精品综合一区二区三区| 少妇被粗大的猛进出69影院| 老鸭窝网址在线观看| 欧美日本中文国产一区发布| 欧美+亚洲+日韩+国产| 国产免费av片在线观看野外av| 十八禁网站免费在线| av超薄肉色丝袜交足视频| 日韩有码中文字幕| 国产高清videossex| 无限看片的www在线观看| 97人妻天天添夜夜摸| 老司机靠b影院| 精品国产美女av久久久久小说| 亚洲中文av在线| 如日韩欧美国产精品一区二区三区| 一级片'在线观看视频| 麻豆一二三区av精品| 精品福利观看| 欧美+亚洲+日韩+国产| 日韩精品免费视频一区二区三区| 俄罗斯特黄特色一大片| 视频在线观看一区二区三区| 成人亚洲精品av一区二区 | 一进一出好大好爽视频| 69av精品久久久久久| 国产精品美女特级片免费视频播放器 | 欧美激情久久久久久爽电影 | 午夜两性在线视频| 一级a爱片免费观看的视频| 亚洲成人国产一区在线观看| 成人亚洲精品一区在线观看| 久久人妻熟女aⅴ| 日本撒尿小便嘘嘘汇集6| 黑人猛操日本美女一级片| 亚洲中文日韩欧美视频| 夜夜看夜夜爽夜夜摸 | 国产一区二区三区在线臀色熟女 | 色婷婷久久久亚洲欧美| 免费在线观看影片大全网站| 亚洲欧美日韩无卡精品| 日韩三级视频一区二区三区| 91成年电影在线观看| 欧美激情高清一区二区三区| 男女之事视频高清在线观看| 香蕉丝袜av| 在线看a的网站| 久久人妻熟女aⅴ| 亚洲五月天丁香| 操美女的视频在线观看| 久久久久久久久免费视频了| 香蕉久久夜色| 欧美日本亚洲视频在线播放| 亚洲狠狠婷婷综合久久图片| 99riav亚洲国产免费| 国产激情久久老熟女| av电影中文网址| 999久久久国产精品视频| 十八禁网站免费在线| 最近最新免费中文字幕在线| 久久久国产成人精品二区 | 亚洲美女黄片视频| 亚洲熟妇熟女久久| av超薄肉色丝袜交足视频| 国产欧美日韩综合在线一区二区| 欧美另类亚洲清纯唯美| 欧美乱码精品一区二区三区| 激情在线观看视频在线高清| 久久婷婷成人综合色麻豆| 女人高潮潮喷娇喘18禁视频| 国产精品二区激情视频| av超薄肉色丝袜交足视频| 日韩一卡2卡3卡4卡2021年| 91精品国产国语对白视频| 精品国产超薄肉色丝袜足j| 999精品在线视频| 亚洲美女黄片视频| 日韩欧美免费精品| 热99re8久久精品国产| 成人精品一区二区免费| 久久婷婷成人综合色麻豆| 国产91精品成人一区二区三区| 中文字幕人妻丝袜制服| 大香蕉久久成人网| 熟女少妇亚洲综合色aaa.| 亚洲一区高清亚洲精品| 亚洲人成电影观看| 日本vs欧美在线观看视频| 一区二区三区国产精品乱码| 国产精品综合久久久久久久免费 | 精品国产国语对白av| 亚洲成人久久性| 两个人免费观看高清视频| 天堂中文最新版在线下载| 精品欧美一区二区三区在线| 黄色毛片三级朝国网站| 99国产极品粉嫩在线观看| 日本精品一区二区三区蜜桃| 99riav亚洲国产免费| 大码成人一级视频| 亚洲国产欧美网| 亚洲伊人色综图| 丰满的人妻完整版| 视频区欧美日本亚洲| 亚洲五月婷婷丁香| 老司机午夜十八禁免费视频| 国产激情久久老熟女| 老熟妇乱子伦视频在线观看| 亚洲成人精品中文字幕电影 | 最近最新中文字幕大全免费视频| 男人的好看免费观看在线视频 | www.www免费av| 国产一区二区三区视频了| 亚洲精品一区av在线观看| 亚洲av美国av| 人成视频在线观看免费观看| 日本wwww免费看| 国产激情欧美一区二区| 侵犯人妻中文字幕一二三四区| 欧美+亚洲+日韩+国产| 91麻豆精品激情在线观看国产 | 国产免费男女视频| 91成人精品电影| 一夜夜www| bbb黄色大片| 窝窝影院91人妻| 纯流量卡能插随身wifi吗| 99热只有精品国产| 日韩视频一区二区在线观看| 国产欧美日韩一区二区精品| 自拍欧美九色日韩亚洲蝌蚪91| 国产精品永久免费网站| 精品国内亚洲2022精品成人| 无限看片的www在线观看| 99国产精品一区二区三区| 久久国产亚洲av麻豆专区| 99精品在免费线老司机午夜| 黑人猛操日本美女一级片| 男男h啪啪无遮挡| 国产精品久久久久成人av| 黄色成人免费大全| 91字幕亚洲| 午夜福利欧美成人| 亚洲,欧美精品.| 国产精品九九99| 精品福利永久在线观看| 人人妻人人添人人爽欧美一区卜| 亚洲中文字幕日韩| 99国产精品免费福利视频| www.www免费av| 成人三级做爰电影| 国产99久久九九免费精品| 岛国在线观看网站| 无遮挡黄片免费观看| 日本免费a在线| 精品欧美一区二区三区在线| 免费一级毛片在线播放高清视频 | 在线观看午夜福利视频| bbb黄色大片| 波多野结衣一区麻豆| 免费在线观看亚洲国产| 成人影院久久| av电影中文网址| 91成人精品电影| 亚洲精品中文字幕一二三四区| 高清av免费在线| 老司机在亚洲福利影院| 村上凉子中文字幕在线| 亚洲中文av在线| 高清毛片免费观看视频网站 | 在线观看免费高清a一片| 欧美日本亚洲视频在线播放| 亚洲国产精品一区二区三区在线| 在线播放国产精品三级| 激情视频va一区二区三区| 露出奶头的视频| 91麻豆av在线| av免费在线观看网站| 亚洲精品一二三| 成年人黄色毛片网站| 免费一级毛片在线播放高清视频 | 欧美日韩亚洲高清精品| 日韩三级视频一区二区三区| 日本vs欧美在线观看视频| 免费日韩欧美在线观看| 天堂动漫精品| 亚洲第一欧美日韩一区二区三区| 国产亚洲av高清不卡| 国产av精品麻豆| 久久人妻av系列| 国产精品亚洲一级av第二区| 美女午夜性视频免费| www.www免费av| 中文字幕高清在线视频| 精品人妻1区二区| 国产精品一区二区三区四区久久 | 欧美一级毛片孕妇| 又黄又爽又免费观看的视频| 久久精品91蜜桃| 国产精品日韩av在线免费观看 | 最近最新中文字幕大全电影3 | 成人黄色视频免费在线看| 美国免费a级毛片| 国产91精品成人一区二区三区| 久久久精品国产亚洲av高清涩受| 国产精品国产高清国产av| 亚洲熟妇中文字幕五十中出 | 成人三级黄色视频| 69精品国产乱码久久久| 国产精品免费视频内射| 亚洲精华国产精华精| 国产精品国产高清国产av| 亚洲欧美一区二区三区黑人| 99国产精品一区二区三区| 日韩欧美免费精品| 老司机亚洲免费影院| 黄色视频,在线免费观看| 欧美大码av| 亚洲伊人色综图| 中国美女看黄片| av天堂久久9| 精品人妻1区二区| 亚洲人成电影观看| 亚洲 欧美一区二区三区| 女人高潮潮喷娇喘18禁视频| 麻豆av在线久日| 在线国产一区二区在线| 国产精品久久久人人做人人爽| 无人区码免费观看不卡| svipshipincom国产片| 精品国产亚洲在线| 亚洲狠狠婷婷综合久久图片| 国产高清videossex| 亚洲 国产 在线| 久久久久国内视频| 美国免费a级毛片| 欧美黑人欧美精品刺激| 久久草成人影院| 亚洲成人久久性| 亚洲成人精品中文字幕电影 | 大型av网站在线播放| 国产高清国产精品国产三级| 欧美一区二区精品小视频在线| 欧美日韩乱码在线| 黄色a级毛片大全视频| 无遮挡黄片免费观看| 欧美成人性av电影在线观看| 黑人欧美特级aaaaaa片| av视频免费观看在线观看| 中出人妻视频一区二区| 日韩免费av在线播放| 中亚洲国语对白在线视频| 精品卡一卡二卡四卡免费| 午夜福利,免费看| 亚洲第一欧美日韩一区二区三区| 午夜视频精品福利| 在线观看午夜福利视频| 亚洲一区二区三区不卡视频| 中文字幕人妻丝袜一区二区| 成人三级做爰电影| 国产深夜福利视频在线观看| 国产黄色免费在线视频| 亚洲自偷自拍图片 自拍| 亚洲av成人av| 丰满人妻熟妇乱又伦精品不卡| 天天躁狠狠躁夜夜躁狠狠躁| 在线观看免费午夜福利视频| 亚洲精品成人av观看孕妇| 久久人妻熟女aⅴ| netflix在线观看网站| 国产黄a三级三级三级人| 午夜久久久在线观看| 精品久久久久久,| 国产单亲对白刺激| 国产av一区二区精品久久| 中文字幕最新亚洲高清| 99国产精品免费福利视频| 日日爽夜夜爽网站| 久久久精品欧美日韩精品| 午夜福利影视在线免费观看| 69av精品久久久久久| 变态另类成人亚洲欧美熟女 | 久久人人爽av亚洲精品天堂| 五月开心婷婷网| 精品卡一卡二卡四卡免费| 少妇裸体淫交视频免费看高清 | 成在线人永久免费视频| 成人永久免费在线观看视频| 交换朋友夫妻互换小说| 丰满饥渴人妻一区二区三| 99香蕉大伊视频| 韩国精品一区二区三区| 日本wwww免费看| 丝袜在线中文字幕| 免费看十八禁软件| 精品第一国产精品| 一边摸一边抽搐一进一出视频| 五月开心婷婷网| 久久久久久久久免费视频了| 午夜福利欧美成人| 国产97色在线日韩免费| 在线观看免费视频日本深夜| 欧美在线一区亚洲| 国产亚洲精品综合一区在线观看 | 99国产精品一区二区三区| 久久天堂一区二区三区四区| 日韩有码中文字幕| 老熟妇乱子伦视频在线观看| 午夜免费观看网址| 99热国产这里只有精品6| 中文字幕高清在线视频| 成人三级黄色视频| 母亲3免费完整高清在线观看| 可以免费在线观看a视频的电影网站| 欧美成人午夜精品| 在线看a的网站| 国产成人啪精品午夜网站| 少妇粗大呻吟视频| 午夜福利一区二区在线看| 高清黄色对白视频在线免费看| 黄片播放在线免费| 久热这里只有精品99| 成人国语在线视频| 91字幕亚洲| 国产色视频综合| 日韩精品中文字幕看吧| 成年人免费黄色播放视频| 国产av一区在线观看免费| 国产一区在线观看成人免费| 亚洲免费av在线视频| 亚洲专区中文字幕在线| 青草久久国产| 又紧又爽又黄一区二区| 欧美在线一区亚洲| 国产成+人综合+亚洲专区| 黄色视频不卡| 久久久久久久久免费视频了| 国产蜜桃级精品一区二区三区| 亚洲成a人片在线一区二区| 少妇粗大呻吟视频| tocl精华| 侵犯人妻中文字幕一二三四区| 99国产精品一区二区蜜桃av| 老司机亚洲免费影院| 午夜免费激情av| 每晚都被弄得嗷嗷叫到高潮| aaaaa片日本免费| 男女午夜视频在线观看| 国产精品秋霞免费鲁丝片| 97人妻天天添夜夜摸| 国产精品自产拍在线观看55亚洲| 黄色a级毛片大全视频| 男女下面进入的视频免费午夜 | 国产99久久九九免费精品| 18禁国产床啪视频网站| 国产激情久久老熟女| 91成人精品电影| 日本vs欧美在线观看视频| 老司机靠b影院| 校园春色视频在线观看| 新久久久久国产一级毛片| 真人一进一出gif抽搐免费| 欧美成人午夜精品| 18禁裸乳无遮挡免费网站照片 | 亚洲一卡2卡3卡4卡5卡精品中文| 最好的美女福利视频网| www.熟女人妻精品国产| 五月开心婷婷网| a级毛片黄视频| 国产欧美日韩一区二区精品| 亚洲欧美日韩无卡精品| 久久午夜综合久久蜜桃| 亚洲狠狠婷婷综合久久图片| 国产精品免费视频内射| 视频区图区小说| 一区福利在线观看| 一级毛片精品| cao死你这个sao货| 欧美日韩亚洲高清精品| 人妻久久中文字幕网| 十八禁网站免费在线| 欧美 亚洲 国产 日韩一| 久久精品亚洲av国产电影网| 亚洲美女黄片视频| 国产日韩一区二区三区精品不卡| 91成年电影在线观看| 欧美日韩精品网址| 69精品国产乱码久久久| 精品国产一区二区三区四区第35| 50天的宝宝边吃奶边哭怎么回事| 中文字幕另类日韩欧美亚洲嫩草| 亚洲欧美激情在线| 国产欧美日韩综合在线一区二区| av欧美777| 国产1区2区3区精品| 免费搜索国产男女视频| 天天躁夜夜躁狠狠躁躁| 午夜久久久在线观看| 国产亚洲欧美在线一区二区| 亚洲自偷自拍图片 自拍| 两性夫妻黄色片| 村上凉子中文字幕在线| 久久影院123| 叶爱在线成人免费视频播放| 天堂俺去俺来也www色官网| 欧美黄色淫秽网站| 中文字幕人妻丝袜一区二区| 热99国产精品久久久久久7| 国产色视频综合| 免费少妇av软件| 国产99久久九九免费精品| 精品福利永久在线观看| 好男人电影高清在线观看| www.熟女人妻精品国产| 成在线人永久免费视频| 天堂俺去俺来也www色官网| 性欧美人与动物交配| 欧美黄色片欧美黄色片| 欧美性长视频在线观看| 99精品久久久久人妻精品| 精品一品国产午夜福利视频| 男男h啪啪无遮挡| 这个男人来自地球电影免费观看| 女人高潮潮喷娇喘18禁视频| 久久人人爽av亚洲精品天堂| а√天堂www在线а√下载| 欧美日韩亚洲高清精品| 欧洲精品卡2卡3卡4卡5卡区| 亚洲人成77777在线视频| 亚洲熟女毛片儿| 久久久国产成人精品二区 | 成人永久免费在线观看视频| 亚洲色图 男人天堂 中文字幕| 日韩 欧美 亚洲 中文字幕| 久久国产亚洲av麻豆专区| 亚洲一区二区三区欧美精品| 91成人精品电影| 人人妻人人添人人爽欧美一区卜| 69av精品久久久久久| 嫩草影视91久久| 久久人妻av系列| 狠狠狠狠99中文字幕| 日本免费一区二区三区高清不卡 | 麻豆成人av在线观看| 欧美丝袜亚洲另类 | videosex国产| 久久国产精品影院| 欧美黄色淫秽网站| 在线天堂中文资源库| 侵犯人妻中文字幕一二三四区| 亚洲人成电影免费在线| 亚洲国产毛片av蜜桃av| 色尼玛亚洲综合影院| 久久中文看片网| 美女福利国产在线| 久久99一区二区三区| 成人特级黄色片久久久久久久| 后天国语完整版免费观看| 日韩精品青青久久久久久| 狂野欧美激情性xxxx| 婷婷六月久久综合丁香| 淫妇啪啪啪对白视频| 国产精品日韩av在线免费观看 | 免费日韩欧美在线观看| 国产精品 国内视频| 精品国产亚洲在线| 视频区图区小说| 巨乳人妻的诱惑在线观看| 久久久久精品国产欧美久久久| 十八禁网站免费在线| 91在线观看av| 国产精品久久久久久人妻精品电影| 丰满饥渴人妻一区二区三| 国产精品美女特级片免费视频播放器 | 午夜精品在线福利| 亚洲成人免费av在线播放| 亚洲色图综合在线观看| 久久久久国内视频| 精品一区二区三卡|