• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于優(yōu)化神經(jīng)網(wǎng)絡(luò)的遙感影像語義分割算法

    2022-08-31 22:53:51王曉鋒張猷夏嚴(yán)峰王森王輝
    電腦知識與技術(shù) 2022年17期
    關(guān)鍵詞:深度神經(jīng)網(wǎng)絡(luò)遙感影像

    王曉鋒 張猷 夏嚴(yán)峰 王森 王輝

    摘要:利用機器學(xué)習(xí)技術(shù)可以自動化地識別地表覆蓋物,減輕人力成本和減少人為誤差,加快測繪、國防、農(nóng)業(yè)和防災(zāi)減災(zāi)等各個領(lǐng)域的數(shù)字化轉(zhuǎn)型。遙感影像地表覆蓋物的分類算法已經(jīng)得到了一定的發(fā)展,但具體到應(yīng)用場景中,受制于模型效率,自動化水平仍不高。為了保證訓(xùn)練產(chǎn)生的機器學(xué)習(xí)模型可以穩(wěn)定、快速地服務(wù)于上述的領(lǐng)域,本文針對機器學(xué)習(xí)模型在訓(xùn)練、測試階段的優(yōu)化進行了探索,從而保證模型可更高效穩(wěn)定地在有限的硬件資源上運行。通過本文介紹的優(yōu)化方法,模型的訓(xùn)練速度得到了提升,模型占用的空間得到了減小,模型的推理速度得到了提高,并且保證了模型的精度幾乎不受影響。

    關(guān)鍵詞:神經(jīng)網(wǎng)絡(luò)壓縮;神經(jīng)網(wǎng)絡(luò)優(yōu)化;深度神經(jīng)網(wǎng)絡(luò);圖像語義分割;遙感影像

    中圖分類號:TP391? ? ? 文獻標(biāo)識碼:A

    文章編號:1009-3044(2022)17-0070-03

    1 概述

    航拍圖像和遙感圖像識別長期以來得到了測繪、國防、農(nóng)業(yè)等領(lǐng)域的廣泛應(yīng)用,隨著深度學(xué)習(xí)和卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,CNN)的高速發(fā)展,地表覆蓋物分類等基于遙感影像的自動化分析技術(shù)也得到了一定程度的發(fā)展。

    在過去的10年內(nèi),視覺模型的發(fā)展主要有兩個主流方向,分別是增加模型對于圖像的理解能力和降低模型理解圖像的算力消耗。通過增加模型復(fù)雜度提高精度已經(jīng)得到了充分研究,但如何在不損失太大精度的前提下,降低模型的大小和算力消耗仍有待探索。為了使深度學(xué)習(xí)模型得到更廣泛的應(yīng)用,尤其是在移動端設(shè)備上應(yīng)用,這樣的探索是必須的。

    目前,學(xué)術(shù)界已有一些模型優(yōu)化的成果,比如MobileNetV2[1]和ShuffleNetV2[2]。從優(yōu)化的不同時間階段,模型優(yōu)化可以分為訓(xùn)練階段和推理階段。在模型訓(xùn)練階段,可以更改模型權(quán)重更新的過程,從而提高訓(xùn)練效率;在模型推理階段,可以將訓(xùn)練好的模型進行編譯優(yōu)化,得到一個體積更小、運行更快的部署模型。

    (1)訓(xùn)練階段的優(yōu)化

    l空間可分離卷積:在不考慮通道維度的情況下,通過將卷積核分解降低運算量,但并不是任何卷積核都可以分解為兩個向量,因此不具備通用性。而且,計算矩陣分解還需要消耗一定的算力。

    l深度可分離卷積:在考慮通道維度的情況下,將矩陣連乘的過程優(yōu)化為乘法的加法。需要注意的是,深度可分離卷積是減少卷積的參數(shù)量的近似算法,和樸素的卷積并不是嚴(yán)格等價的。

    l量化:在不過分影響模型效果的前提下,將部分32位浮點數(shù)精度的數(shù)值降低為16位浮點數(shù)和8位整數(shù),這樣可以減少模型體積、加快訓(xùn)練的速度。

    l剪枝:在不過分影響模型效果的前提下,將模型的部分結(jié)構(gòu)刪除,從而減少模型體積、加快推理速度。

    l聚類:通過共享權(quán)重的方式來減少權(quán)重的數(shù)量,這樣可以減少模型體積、加快模型收斂速度。在樣本稀疏或者樣本分布不均衡的部分場景下,可以提升模型的效果。聚類對于模型效果和收斂速度的提升都是鑒于當(dāng)前的深度學(xué)習(xí)模型的參數(shù)數(shù)量很大、擬合能力很強這一事實。

    (2)推理階段的優(yōu)化

    l常量折疊:在編譯階段將一些常量表達(dá)式的值計算出來,然后寫入二進制文件中(在模型編譯優(yōu)化的場景下,就是優(yōu)化后的模型),同時也是許多現(xiàn)代編譯器使用的編譯優(yōu)化技巧。這樣可以通過編譯時的單次計算換取運算時的若干次重復(fù)運算。并且,由于把常量表達(dá)式替換為常量,也減少了不少空間的存儲,因此也可以減少模型的體積。

    l減少死區(qū)代碼:經(jīng)過模型的優(yōu)化之后,可能有許多的計算步驟被跳過了,因此會出現(xiàn)大量的不會被觸達(dá)的指令區(qū)域。減少死區(qū)代碼的方法是,通過遍歷所有指令來將這些代碼移除掉,達(dá)到減少模型體積的效果。

    l算子融合:由于現(xiàn)代的機器學(xué)習(xí)建??蚣芏际且晕⑿退阕优c圖的形式來表示一個模型。適當(dāng)?shù)貙⒁恍┏R姷乃阕油負(fù)涞男蛄腥诤铣梢粋€算子可以極大地減少算子的內(nèi)存占用和算子之間的數(shù)據(jù)傳輸壓力,這樣就會達(dá)到減少模型大小和加快模型計算速度的目的。

    訓(xùn)練階段廣泛被使用的框架有TensorFlow[3]和PyTorch[4]等,推理階段有ARM NN和TensorRT等。雖然這些框架都具有一定的跨平臺特性,但要想做到對所有的目標(biāo)設(shè)備(CPU、GPU、NPU、TPU)都能實現(xiàn)很好的推理性能是很難的。這是因為,各種硬件設(shè)備的計算特性有所差異,所以框架之間并不存在強通用性。

    本文介紹了一些重要的深度學(xué)習(xí)模型優(yōu)化方法,并基于遙感影像語義分割問題進行了實驗。實驗結(jié)果顯示,本文介紹的方法在不損失太多精度的前提下,對于縮小模型大小、提高訓(xùn)練和推理效率有著很好的效果,有利于遙感影像語義分割算法在移動端的部署與應(yīng)用。

    2 方法

    本文介紹神經(jīng)網(wǎng)絡(luò)訓(xùn)練和推理階段的若干優(yōu)化方法,具體的流程如圖1所示。在訓(xùn)練階段,引入混合精度、權(quán)重剪枝、權(quán)重聚類獲得模型1;在推理階段,通過編譯優(yōu)化獲得模型2,即最終模型。

    2.1 混合精度

    如今,大多數(shù)深度學(xué)習(xí)模型使用的數(shù)據(jù)精度是32位浮點數(shù),占用4字節(jié)內(nèi)存。但是,使用16位浮點數(shù)可以達(dá)到更快的運算速度和更小的內(nèi)存占用,因此產(chǎn)生了混合精度技術(shù)?;旌暇仁怯?xùn)練時在模型中同時使用16位和32位浮點類型,從而加快運行速度、減少內(nèi)存使用的一種訓(xùn)練方法。讓模型的某些部分保持使用32位類型的目的是,既能保持?jǐn)?shù)值穩(wěn)定性,又能縮短模型的單步用時,在提高訓(xùn)練效率的同時仍可以獲得同等的模型精度。

    在混合精度訓(xùn)練時,由于權(quán)重、激活值、梯度等都使用16位存儲,會更容易產(chǎn)生舍入誤差和數(shù)據(jù)溢出的問題。為了使模型的準(zhǔn)確性不損失過多,可以使用權(quán)重備份和損失縮放的方法[5]。權(quán)重備份是指,在優(yōu)化步驟中,維護、更新一份32位的權(quán)重。在每次迭代中,32位權(quán)重被轉(zhuǎn)為16位,用于前向傳播和反向傳播。權(quán)重備份主要防范的問題是,當(dāng)產(chǎn)生過小的梯度,乘學(xué)習(xí)率后很容易下溢為0,對模型準(zhǔn)確性產(chǎn)生不利的影響。使用權(quán)重備份后,可以通過備份的32位權(quán)重恢復(fù)準(zhǔn)確性。損失縮放的方法啟發(fā)于網(wǎng)絡(luò)訓(xùn)練期間對數(shù)值范圍的觀察,大部分16位可表示范圍未被使用,而許多低于可表示最小值的值變成了0。如果將這些數(shù)值增大到2的冪次倍,可以避免下溢產(chǎn)生的誤差。最有效的方法是,將前向傳播后得到的損失值縮放,再進行反向傳播,根據(jù)鏈?zhǔn)椒▌t,后續(xù)的梯度也會被縮放同樣的倍數(shù)。在選取縮放倍數(shù)的時候,只要不導(dǎo)致溢出,縮放因子越大越好。如果產(chǎn)生溢出,將使權(quán)重或梯度產(chǎn)生無窮大或NaN,而這是無法恢復(fù)的。

    2.2 權(quán)重剪枝

    權(quán)重剪枝通過刪除神經(jīng)網(wǎng)絡(luò)層之間的連接,從而減少參數(shù),進而減少計算中涉及的參數(shù)和運算量,有利于模型壓縮,對于模型的存儲與傳輸來說都有好處。權(quán)重剪枝方法可以消除權(quán)重張量中作用不大的值,這一步通常會用到某些啟發(fā)式方法,比如計算權(quán)重張量的平均激活值來對權(quán)重張量中的值進行優(yōu)先級排序,找到一定范圍內(nèi)的低優(yōu)先級的權(quán)重,再通過將神經(jīng)網(wǎng)絡(luò)中這些參數(shù)的值設(shè)置為0,以消除神經(jīng)網(wǎng)絡(luò)各層之間不必要的連接。由于在權(quán)重剪枝過程中,如果一次性剪枝掉太多張量中的值,可能會對神經(jīng)網(wǎng)絡(luò)造成不可逆的損傷,因此,權(quán)重剪枝方法常常是迭代式進行的,即訓(xùn)練與剪枝過程的交替重復(fù)。稀疏張量可以實現(xiàn)很好的壓縮效果,因此很適合進行壓縮。權(quán)重剪枝過程之后,由于張量中存在大量為0的參數(shù),所以可以很好地進行模型壓縮,以達(dá)到降低模型大小的目的。

    下面敘述一個具體的剪枝方法。對于選擇修剪的每一層,添加一個二進制掩碼變量,與每層的權(quán)重形狀相同,用于確定哪些權(quán)重參與運算。前向傳播時,對權(quán)重按絕對值進行排序,絕對值最小的權(quán)重對應(yīng)的掩碼被設(shè)為0,直到達(dá)到所需的稀疏度。反向傳播過程中,在前向傳播中被屏蔽的權(quán)重不會得到更新。需要注意的是,為了避免對模型的準(zhǔn)確性產(chǎn)生太大影響,設(shè)定的稀疏度需要經(jīng)過多次調(diào)整。學(xué)習(xí)率大小與其調(diào)整方式是另一個對模型精度影響很大的地方。如果學(xué)習(xí)率會下調(diào)很多,在學(xué)習(xí)率大幅下降、網(wǎng)絡(luò)已經(jīng)被剪枝后,網(wǎng)絡(luò)將難以從剪枝帶來的準(zhǔn)確率下降中恢復(fù)。如果初始學(xué)習(xí)率過高,可能意味著當(dāng)權(quán)重尚未收斂到一個好的解時修剪權(quán)重。這里描述的剪枝方法不依賴于任何特定網(wǎng)絡(luò)的屬性,具有高度的泛化性。

    2.3 權(quán)重聚類

    權(quán)重聚類通過用相同的值替換權(quán)重中的相似權(quán)重來減小模型的大小。通過在模型的訓(xùn)練權(quán)重上運行聚類算法,可以找到這些相似的權(quán)重,并把這些相似的權(quán)重用同樣的值進行代替。權(quán)重聚類在減少模型存儲空間和傳輸大小方面具有直接優(yōu)勢,因為具有共享參數(shù)模型的壓縮率要比不具有共享參數(shù)的模型高得多。這樣的模型壓縮方法類似于權(quán)重剪枝,不同之處在于,權(quán)重聚類是通過增加共享權(quán)重的參數(shù)個數(shù)來實現(xiàn)的,而剪枝是通過將低于某個閾值的權(quán)重設(shè)置為0來實現(xiàn)的。由于權(quán)重聚類會將模型中所有參數(shù)替換為給定個數(shù)的共享權(quán)重值,所以在應(yīng)用權(quán)重聚類方法之前,通常需要對模型進行一些預(yù)訓(xùn)練,使得模型的參數(shù)更新到一個可接受的水平之后,再使用權(quán)重聚類對參數(shù)進行微調(diào)。將模型進行權(quán)重聚類后,可以應(yīng)用常用的壓縮算法進行壓縮。由于權(quán)重聚類后的模型中存在大量的共享參數(shù),可以實現(xiàn)更高的壓縮率。

    在具體實現(xiàn)過程中,由于聚類中心對于聚類效果有影響,需要選擇合適的權(quán)重初始化方法,根據(jù)文獻[6],線性初始化是最優(yōu)的方法。計算相似權(quán)重的常用方法是K-means,并用歐氏距離度量權(quán)重和聚類中心的距離。聚類完成后的聚類中心就是共享權(quán)重。

    2.4 編譯優(yōu)化

    編譯優(yōu)化是將編譯前端生成的模型在編譯器中端通過計算圖的優(yōu)化方法對模型進行優(yōu)化。需要注意的是,針對不同的目標(biāo)設(shè)備,使用的優(yōu)化方法以及優(yōu)化策略是有所不同的,以確保生成優(yōu)化后的計算圖能夠在目標(biāo)設(shè)備上表現(xiàn)出最佳性能。

    編譯優(yōu)化的方法主要有:運算符合并,將多個小運算(加、和)合并為一個運算;常量折疊,可以預(yù)計算能夠確定的部分計算圖;靜態(tài)內(nèi)存規(guī)劃,可以預(yù)分配臨時變量占用的空間,避免多次內(nèi)存申請和釋放;數(shù)據(jù)分布變換,可以將數(shù)據(jù)分布變換為有利于進行高效后端運算的分布,比如將行主序或列主序的矩陣變換為更適合目標(biāo)硬件的存儲形式。

    3 實驗與分析

    3.1 實現(xiàn)細(xì)節(jié)

    本文以遙感影像地表覆蓋物分類為例對所介紹的方法進行驗證。遙感影像數(shù)據(jù)的來源為上海市某地區(qū)的航拍圖,并按照建筑、水系、植逐像素地進行了人工標(biāo)注。完成語義分割任務(wù)的基準(zhǔn)深度學(xué)習(xí)網(wǎng)絡(luò)是深度為4的U-Net[7],并融合了MobileNetV2[1],使用TensorFlow實現(xiàn)。輸入網(wǎng)絡(luò)的圖片大小均為1024*1024。訓(xùn)練批次大小設(shè)為4,迭代20代,損失函數(shù)使用Lovasz Loss[8]。

    混合精度使用TensorFlow的Keras API實現(xiàn),權(quán)重剪枝和權(quán)重聚類使用TensorFlow提供的工具包Pruning API和Weight Clustering API實現(xiàn),編譯優(yōu)化使用TVM[9]實現(xiàn)。在模型進行儲存時,權(quán)重仍然按照與權(quán)重剪枝或權(quán)重聚類前的模型一樣的Tensor格式進行存儲,而并非會因為權(quán)重矩陣變得更為稀疏而采用稀疏矩陣的方式進行存儲。所以,為了減少模型權(quán)重矩陣中的冗余數(shù)據(jù)的存儲,在存儲模型時采用gzip算法進行壓縮。

    3.2 實驗結(jié)果

    混合精度實驗的結(jié)果如表1,有預(yù)訓(xùn)練時混合精度會縮短訓(xùn)練時長并降低Loss,無預(yù)訓(xùn)練時則相反。使用混合精度后,縮短訓(xùn)練時長的表現(xiàn)并不穩(wěn)定,并且會在一定程度上影響訓(xùn)練結(jié)果,但內(nèi)存占用被大幅減少了。

    權(quán)重剪枝與權(quán)重聚類的實驗結(jié)果如表2,其中耗時表示一張圖片的推理耗時。可以看出,權(quán)重剪枝與權(quán)重聚類對于推理耗時的影響非常有限,但是能大大縮減模型大小,而且對輸出準(zhǔn)確度沒有負(fù)面影響。之所以對推理耗時幾乎沒有影響,是因為盡管這兩種策略會提高矩陣的稀疏度,但是由于TensorFlow默認(rèn)存儲的方式仍然是Dense Tensor,所以在進行計算時,沒有對稀疏張量提供計算加速的支持,仍然采用默認(rèn)的計算方法。

    權(quán)重剪枝與權(quán)重聚類后對一張圖的預(yù)測結(jié)果如圖2所示,從左向右分別為:原圖、原預(yù)測圖、應(yīng)用權(quán)重剪枝的預(yù)測圖、應(yīng)用權(quán)重聚類的預(yù)測圖??梢钥闯?,權(quán)重剪枝與權(quán)重聚類對于預(yù)測結(jié)果沒有太大的影響,但權(quán)重剪枝會造成比權(quán)重聚類更多的誤分類。

    使用TVM進行編譯優(yōu)化實驗的結(jié)果如表3,對Conv2D算子進行圖優(yōu)化。可以看出,經(jīng)過多輪優(yōu)化,推理時間逐步減少。

    4 結(jié)論與展望

    本文針對遙感圖像語義分割在移動平臺應(yīng)用的問題,研究了神經(jīng)網(wǎng)絡(luò)優(yōu)化算法。本文探索了混合精度、權(quán)重剪枝、權(quán)重聚類、編譯優(yōu)化的方法,在開源平臺上進行了實驗,分析了各種方法的優(yōu)勢與不足?;旌暇饶軌虼蠓档蛢?nèi)存使用,但對于訓(xùn)練時間和訓(xùn)練效果的影響不可預(yù)料;權(quán)重剪枝和權(quán)重聚類能大幅度減小存儲模型的大小,對推理時間的影響幾乎可以忽略不計;編譯優(yōu)化和平臺具有很高的相關(guān)性,難以部署。為了進一步探索優(yōu)化算法的適用性,可以在不同的網(wǎng)絡(luò)模型上進行實驗,在不同平臺上測試性能表現(xiàn)。

    參考文獻:

    [1] Sandler M,Howard A,Zhu M L,et al.MobileNetV2:inverted residuals and linear bottlenecks[C]//2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition.Salt Lake City,UT.IEEE,2018: 4510-4520.

    [2] Ma N N,Zhang X Y,Zheng H T,et al.ShuffleNet V2:practical guidelines for efficient CNN architecture design[C]//Computer Vision – ECCV 2018,2018: 116-131.

    [3] Abadi M, Agarwal A, Barham P, et al. Tensorflow: Large-scale machine learning on heterogeneous distributed systems[J]. arXiv preprint arXiv:1603.04467, 2016.

    [4] Paszke A, Gross S, Massa F, et al. Pytorch: An imperative style, high-performance deep learning library[J]. Advances in neural information processing systems, 2019(32): 8026-8037.

    [5] Micikevicius P, Narang S, Alben J, et al. Mixed precision training[J]. arXiv preprint arXiv:1710.03740, 2017.

    [6] Han S, Mao H, Dally W J. Deep compression: Compressing deep neural networks with pruning, trained quantization and huffman coding[J]. arXiv preprint arXiv:1510.00149, 2015.

    [7] Ronneberger O,F(xiàn)ischer P,Brox T.U-net:convolutional networks for biomedical image segmentation[C]//Medical Image Computing and Computer-Assisted Intervention-MICCAI 2015,2015:234-241.

    [8] Berman M,Triki A R,Blaschko M B.The lovasz-softmax loss:a tractable surrogate for the optimization of the intersection-over-union measure in neural networks[C]//2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition.Salt Lake City,UT,USA.IEEE,2018:4413-4421.

    [9] Chen T,Moreau T,Jiang Z,et al.TVM:An automated end-to-end optimizing compiler for deep learning[C]//Proceedings of the 13th USENIX Symposium on Operating Systems Design and Implementation(OSDI 8).Carlsbad,USA,2018:578-594.

    收稿日期:2022-02-10

    作者簡介:王曉鋒(1982—),男,上海人,高級工程師,碩士,主要研究方向為土木工程;張猷(1982—),男,上海人,高級工程師,本科,主要研究方向為輸變電工程建設(shè)管理;夏嚴(yán)峰(1990—)男,上海人,工程師,碩士,主要研究方向為輸變電項目管理;王森(1999—),男,黑龍江慶安人,本科,主研方向為圖像分割;王輝(1997—),男,安徽廬江人,碩士在讀,主要研究方向為圖像分割。

    猜你喜歡
    深度神經(jīng)網(wǎng)絡(luò)遙感影像
    基于大數(shù)據(jù)網(wǎng)絡(luò)的運動損傷評估模型研究
    試論基于深度神經(jīng)網(wǎng)絡(luò)的汽車車型識別問題
    深度神經(jīng)網(wǎng)絡(luò)的發(fā)展現(xiàn)狀
    遙感影像資料在海圖制圖中的應(yīng)用研究
    航海(2016年6期)2017-01-09 11:28:24
    基于深度神經(jīng)網(wǎng)絡(luò)的身份識別研究
    遙感數(shù)字圖像處理課程實驗綜述
    科技視界(2016年13期)2016-06-13 12:01:14
    人工智能與語音識別技術(shù)
    臥龍湖濕地遙感調(diào)查和演變分析
    基于深度學(xué)習(xí)的目標(biāo)反饋識別系統(tǒng)
    高分遙感影像中道路信息提取方法綜述
    亚洲国产欧美在线一区| 日本a在线网址| 日日爽夜夜爽网站| 在线观看www视频免费| 国产成人精品久久二区二区91| 午夜日韩欧美国产| 性高湖久久久久久久久免费观看| 久久精品久久精品一区二区三区| 天天躁狠狠躁夜夜躁狠狠躁| 99香蕉大伊视频| 午夜日韩欧美国产| 亚洲av日韩在线播放| 黄色片一级片一级黄色片| 高清不卡的av网站| 精品国产超薄肉色丝袜足j| 亚洲人成电影观看| 国产精品国产三级国产专区5o| 观看av在线不卡| 午夜免费男女啪啪视频观看| 国产精品熟女久久久久浪| 在线观看免费日韩欧美大片| 一级黄片播放器| 在线av久久热| 亚洲第一av免费看| 国产精品一区二区免费欧美 | 好男人电影高清在线观看| 亚洲成国产人片在线观看| 国产不卡av网站在线观看| 亚洲精品国产av成人精品| 在线观看免费日韩欧美大片| 亚洲av成人不卡在线观看播放网 | 精品人妻在线不人妻| 亚洲欧美日韩高清在线视频 | 成年av动漫网址| 久久99精品国语久久久| 日韩中文字幕欧美一区二区 | 另类亚洲欧美激情| 在线观看国产h片| 美女午夜性视频免费| 午夜福利视频精品| 国产av精品麻豆| 97人妻天天添夜夜摸| 亚洲欧美精品自产自拍| 亚洲精品国产av蜜桃| 又粗又硬又长又爽又黄的视频| 国产精品.久久久| 一本色道久久久久久精品综合| 亚洲欧美激情在线| 日韩av在线免费看完整版不卡| 性色av一级| 久久久久国产一级毛片高清牌| 永久免费av网站大全| 国产主播在线观看一区二区 | 亚洲,欧美,日韩| 老司机靠b影院| 男男h啪啪无遮挡| 国产精品亚洲av一区麻豆| 国产精品久久久久久人妻精品电影 | 国产极品粉嫩免费观看在线| www.999成人在线观看| www.自偷自拍.com| 免费不卡黄色视频| 欧美97在线视频| a级毛片黄视频| 日韩大码丰满熟妇| 丝瓜视频免费看黄片| 免费在线观看日本一区| 亚洲精品美女久久久久99蜜臀 | 久久午夜综合久久蜜桃| 国产三级黄色录像| 亚洲国产精品成人久久小说| 人人妻人人澡人人看| 精品国产一区二区三区久久久樱花| 啦啦啦啦在线视频资源| 午夜免费鲁丝| 久久天躁狠狠躁夜夜2o2o | 亚洲欧美精品综合一区二区三区| 大片电影免费在线观看免费| av网站免费在线观看视频| 久久精品国产a三级三级三级| 亚洲欧美日韩高清在线视频 | 汤姆久久久久久久影院中文字幕| 五月开心婷婷网| 一本一本久久a久久精品综合妖精| 亚洲精品国产av蜜桃| 一级黄片播放器| 欧美精品av麻豆av| 最近最新中文字幕大全免费视频 | 久热这里只有精品99| 中文字幕av电影在线播放| 观看av在线不卡| 成人午夜精彩视频在线观看| 水蜜桃什么品种好| 欧美日韩福利视频一区二区| 久久精品久久久久久久性| 又粗又硬又长又爽又黄的视频| 欧美xxⅹ黑人| 国产野战对白在线观看| 午夜日韩欧美国产| 亚洲免费av在线视频| 色94色欧美一区二区| 18禁观看日本| 欧美精品av麻豆av| 欧美精品一区二区大全| 欧美97在线视频| 青青草视频在线视频观看| 黄频高清免费视频| 成人国产一区最新在线观看 | 男女边吃奶边做爰视频| 亚洲国产欧美一区二区综合| 亚洲精品成人av观看孕妇| 又粗又硬又长又爽又黄的视频| 国产伦理片在线播放av一区| 亚洲欧美日韩另类电影网站| 亚洲av男天堂| 国产亚洲精品第一综合不卡| 免费久久久久久久精品成人欧美视频| 国产男女超爽视频在线观看| 妹子高潮喷水视频| 国产一区亚洲一区在线观看| 亚洲第一青青草原| 国产精品久久久久久精品电影小说| 各种免费的搞黄视频| 汤姆久久久久久久影院中文字幕| 亚洲精品久久成人aⅴ小说| 丝袜脚勾引网站| 欧美精品av麻豆av| 在线观看免费日韩欧美大片| 国产一区二区激情短视频 | 美国免费a级毛片| 91精品国产国语对白视频| 久久久久久久精品精品| 多毛熟女@视频| 黑人猛操日本美女一级片| 国产亚洲午夜精品一区二区久久| 国产97色在线日韩免费| av福利片在线| 大香蕉久久成人网| 满18在线观看网站| 色网站视频免费| 国产精品久久久久久人妻精品电影 | 久久精品久久久久久噜噜老黄| 1024视频免费在线观看| 欧美精品一区二区大全| 天堂中文最新版在线下载| 国产伦人伦偷精品视频| 中文字幕另类日韩欧美亚洲嫩草| videosex国产| 一区福利在线观看| 精品亚洲成国产av| 免费黄频网站在线观看国产| 亚洲专区中文字幕在线| 韩国高清视频一区二区三区| 欧美成人精品欧美一级黄| 欧美精品亚洲一区二区| 国产精品久久久久久精品电影小说| 超碰成人久久| 男人爽女人下面视频在线观看| 亚洲国产精品成人久久小说| www日本在线高清视频| 老司机影院成人| 免费在线观看视频国产中文字幕亚洲 | 亚洲黑人精品在线| 纵有疾风起免费观看全集完整版| 大型av网站在线播放| 国产伦人伦偷精品视频| 婷婷色麻豆天堂久久| 亚洲色图 男人天堂 中文字幕| 99热国产这里只有精品6| 久久免费观看电影| 精品福利永久在线观看| 满18在线观看网站| 丝袜美腿诱惑在线| 亚洲欧美一区二区三区黑人| cao死你这个sao货| 亚洲一码二码三码区别大吗| 国产免费现黄频在线看| 高清黄色对白视频在线免费看| 久久人妻熟女aⅴ| 夫妻性生交免费视频一级片| 香蕉丝袜av| 1024视频免费在线观看| 国产成人91sexporn| 91老司机精品| 王馨瑶露胸无遮挡在线观看| 2021少妇久久久久久久久久久| 97人妻天天添夜夜摸| 国产爽快片一区二区三区| 少妇精品久久久久久久| 国产在线观看jvid| 日本五十路高清| 亚洲国产毛片av蜜桃av| 久热这里只有精品99| 热99久久久久精品小说推荐| 宅男免费午夜| videosex国产| 亚洲精品日韩在线中文字幕| 中国美女看黄片| 免费人妻精品一区二区三区视频| 亚洲五月婷婷丁香| 日韩伦理黄色片| 色婷婷av一区二区三区视频| 熟女少妇亚洲综合色aaa.| 黑人猛操日本美女一级片| 久久综合国产亚洲精品| 午夜福利视频精品| 无限看片的www在线观看| 久久国产精品影院| 日韩一区二区三区影片| 国产无遮挡羞羞视频在线观看| 免费在线观看影片大全网站 | 人人妻人人爽人人添夜夜欢视频| 国产一区二区三区综合在线观看| 90打野战视频偷拍视频| 久久99一区二区三区| 精品福利永久在线观看| 日本a在线网址| 久久99精品国语久久久| 男人操女人黄网站| 各种免费的搞黄视频| 亚洲欧美成人综合另类久久久| 国产成人免费观看mmmm| 一边亲一边摸免费视频| 国产精品一区二区在线不卡| xxxhd国产人妻xxx| 久久 成人 亚洲| 亚洲国产精品成人久久小说| 婷婷色av中文字幕| 精品人妻1区二区| 亚洲人成网站在线观看播放| 看十八女毛片水多多多| 久久久亚洲精品成人影院| 亚洲人成电影免费在线| 男女国产视频网站| 一本综合久久免费| 亚洲三区欧美一区| 国产精品麻豆人妻色哟哟久久| 两个人免费观看高清视频| 亚洲av日韩精品久久久久久密 | 日韩伦理黄色片| 日韩av免费高清视频| 一级毛片女人18水好多 | 女性生殖器流出的白浆| 母亲3免费完整高清在线观看| 少妇人妻 视频| 人人澡人人妻人| 久久久久网色| 久久久久久免费高清国产稀缺| 搡老岳熟女国产| 黄色视频不卡| 男女免费视频国产| 婷婷色综合大香蕉| 操美女的视频在线观看| 国产成人啪精品午夜网站| 久久国产亚洲av麻豆专区| 下体分泌物呈黄色| www.自偷自拍.com| 亚洲精品美女久久久久99蜜臀 | 日日爽夜夜爽网站| 曰老女人黄片| 亚洲 国产 在线| 亚洲男人天堂网一区| 久久免费观看电影| av网站免费在线观看视频| 精品国产乱码久久久久久小说| 丰满人妻熟妇乱又伦精品不卡| 久久国产亚洲av麻豆专区| 亚洲三区欧美一区| 国产日韩欧美在线精品| 人人妻人人爽人人添夜夜欢视频| 大话2 男鬼变身卡| 久久九九热精品免费| 少妇的丰满在线观看| 中国国产av一级| 欧美人与性动交α欧美软件| 精品国产超薄肉色丝袜足j| 日本91视频免费播放| 久久精品国产亚洲av涩爱| cao死你这个sao货| 波多野结衣一区麻豆| 一级毛片电影观看| 99久久综合免费| 又紧又爽又黄一区二区| 丝瓜视频免费看黄片| 十八禁网站网址无遮挡| 51午夜福利影视在线观看| 又大又黄又爽视频免费| 久久久久国产一级毛片高清牌| 久久青草综合色| 亚洲精品日本国产第一区| 精品亚洲成a人片在线观看| 国产午夜精品一二区理论片| 夫妻性生交免费视频一级片| cao死你这个sao货| 国产亚洲欧美精品永久| 搡老乐熟女国产| 手机成人av网站| 欧美97在线视频| 国产在线免费精品| 国产精品一国产av| 黄片播放在线免费| 久热爱精品视频在线9| avwww免费| 看十八女毛片水多多多| 日韩av在线免费看完整版不卡| 夫妻午夜视频| 超碰成人久久| 亚洲 国产 在线| 男女床上黄色一级片免费看| 亚洲精品自拍成人| 两人在一起打扑克的视频| 王馨瑶露胸无遮挡在线观看| 咕卡用的链子| 亚洲欧美中文字幕日韩二区| 曰老女人黄片| 妹子高潮喷水视频| 尾随美女入室| 久久精品成人免费网站| 久久久久视频综合| 国语对白做爰xxxⅹ性视频网站| 国产高清视频在线播放一区 | 欧美激情 高清一区二区三区| 狠狠婷婷综合久久久久久88av| bbb黄色大片| 人人澡人人妻人| 日韩 亚洲 欧美在线| 国产野战对白在线观看| 19禁男女啪啪无遮挡网站| 制服诱惑二区| av天堂久久9| 美女国产高潮福利片在线看| 亚洲欧美色中文字幕在线| 国产男女超爽视频在线观看| 一级毛片电影观看| 国产精品一区二区精品视频观看| 少妇精品久久久久久久| 90打野战视频偷拍视频| 99香蕉大伊视频| 搡老乐熟女国产| 亚洲欧美激情在线| 国产午夜精品一二区理论片| 欧美在线一区亚洲| 各种免费的搞黄视频| 精品少妇内射三级| 自线自在国产av| 19禁男女啪啪无遮挡网站| 中文欧美无线码| 久久 成人 亚洲| 欧美日韩亚洲高清精品| 久久亚洲国产成人精品v| 亚洲人成电影观看| 国产精品欧美亚洲77777| 亚洲国产欧美网| 中文字幕制服av| 欧美日韩综合久久久久久| 啦啦啦在线观看免费高清www| 免费看av在线观看网站| 欧美xxⅹ黑人| 天堂8中文在线网| 狠狠精品人妻久久久久久综合| 看十八女毛片水多多多| 亚洲欧洲国产日韩| 王馨瑶露胸无遮挡在线观看| 韩国精品一区二区三区| 亚洲国产精品999| 两性夫妻黄色片| av天堂久久9| 久久久久国产精品人妻一区二区| 久久精品熟女亚洲av麻豆精品| 高清黄色对白视频在线免费看| av天堂久久9| 亚洲国产欧美日韩在线播放| 亚洲av日韩在线播放| 亚洲精品乱久久久久久| 精品卡一卡二卡四卡免费| 国产精品久久久久久精品古装| 人人妻人人爽人人添夜夜欢视频| 亚洲欧美一区二区三区黑人| 久久久精品国产亚洲av高清涩受| 啦啦啦在线免费观看视频4| 国产成人欧美| 亚洲国产精品999| 欧美xxⅹ黑人| 日本一区二区免费在线视频| 最新的欧美精品一区二区| 欧美精品一区二区免费开放| 日韩一本色道免费dvd| 午夜福利视频精品| 午夜福利一区二区在线看| 99精品久久久久人妻精品| 亚洲国产精品成人久久小说| 99re6热这里在线精品视频| 亚洲国产av新网站| 99国产精品一区二区三区| videos熟女内射| 成年人黄色毛片网站| 水蜜桃什么品种好| 欧美激情高清一区二区三区| 久久久久精品国产欧美久久久 | 久久国产精品人妻蜜桃| 亚洲国产精品国产精品| 男女免费视频国产| 黑人欧美特级aaaaaa片| 999久久久国产精品视频| 精品免费久久久久久久清纯 | 日本欧美国产在线视频| 日韩精品免费视频一区二区三区| 精品福利永久在线观看| 欧美中文综合在线视频| 99国产精品一区二区三区| 精品少妇一区二区三区视频日本电影| 国产xxxxx性猛交| 黑丝袜美女国产一区| 交换朋友夫妻互换小说| 老鸭窝网址在线观看| 国产精品成人在线| 亚洲欧洲精品一区二区精品久久久| 99久久99久久久精品蜜桃| 久久久久久人人人人人| 男人添女人高潮全过程视频| 国产一区二区在线观看av| 国产精品国产三级国产专区5o| 永久免费av网站大全| 久久人人爽av亚洲精品天堂| 免费少妇av软件| 精品熟女少妇八av免费久了| 99久久99久久久精品蜜桃| 亚洲视频免费观看视频| 亚洲成国产人片在线观看| 老司机靠b影院| 天堂中文最新版在线下载| 亚洲av电影在线观看一区二区三区| 老熟女久久久| 亚洲av日韩在线播放| 啦啦啦视频在线资源免费观看| 美女午夜性视频免费| 观看av在线不卡| 黄色视频在线播放观看不卡| 亚洲av日韩精品久久久久久密 | 中文字幕av电影在线播放| 国产淫语在线视频| 久久这里只有精品19| 亚洲专区国产一区二区| 狠狠婷婷综合久久久久久88av| 啦啦啦在线观看免费高清www| 亚洲精品中文字幕在线视频| 最近中文字幕2019免费版| av又黄又爽大尺度在线免费看| 亚洲中文字幕日韩| 黑丝袜美女国产一区| 欧美大码av| 欧美av亚洲av综合av国产av| 国产一区二区三区av在线| 欧美成人午夜精品| 国产视频首页在线观看| 九色亚洲精品在线播放| 国产成人系列免费观看| 天天躁夜夜躁狠狠久久av| 亚洲av电影在线观看一区二区三区| 国产日韩欧美亚洲二区| 欧美激情高清一区二区三区| 欧美另类一区| 老汉色∧v一级毛片| 欧美在线一区亚洲| 一级片'在线观看视频| 老司机靠b影院| 国产精品 国内视频| 久久人人爽av亚洲精品天堂| 国产又爽黄色视频| 99热国产这里只有精品6| 午夜两性在线视频| 欧美激情高清一区二区三区| 久久人人爽av亚洲精品天堂| 日韩电影二区| 午夜老司机福利片| 丰满饥渴人妻一区二区三| 99国产精品一区二区蜜桃av | 校园人妻丝袜中文字幕| 日韩精品免费视频一区二区三区| 精品久久久久久电影网| 国产亚洲av高清不卡| 少妇裸体淫交视频免费看高清 | 免费久久久久久久精品成人欧美视频| 每晚都被弄得嗷嗷叫到高潮| 亚洲精品自拍成人| 国产老妇伦熟女老妇高清| 亚洲人成77777在线视频| 校园人妻丝袜中文字幕| 少妇被粗大的猛进出69影院| 国产成人91sexporn| 中文字幕亚洲精品专区| 1024视频免费在线观看| 亚洲av片天天在线观看| 免费在线观看完整版高清| 自拍欧美九色日韩亚洲蝌蚪91| 老汉色∧v一级毛片| 色精品久久人妻99蜜桃| 美国免费a级毛片| 看免费成人av毛片| 午夜久久久在线观看| 丝瓜视频免费看黄片| 亚洲专区中文字幕在线| 日本午夜av视频| 黄网站色视频无遮挡免费观看| 久久99一区二区三区| 午夜福利视频精品| 十八禁网站网址无遮挡| 免费av中文字幕在线| 国产精品久久久av美女十八| 国产97色在线日韩免费| 极品少妇高潮喷水抽搐| 免费观看a级毛片全部| 韩国高清视频一区二区三区| 高清黄色对白视频在线免费看| 国产免费视频播放在线视频| 午夜福利一区二区在线看| 七月丁香在线播放| 纯流量卡能插随身wifi吗| 一级毛片黄色毛片免费观看视频| 久久久久久久精品精品| 80岁老熟妇乱子伦牲交| 一本色道久久久久久精品综合| 超碰97精品在线观看| 美女大奶头黄色视频| 我要看黄色一级片免费的| 国产在线免费精品| 91老司机精品| 国产av一区二区精品久久| 亚洲精品乱久久久久久| 久久人人97超碰香蕉20202| 久久99精品国语久久久| 亚洲国产精品成人久久小说| 黑丝袜美女国产一区| 人人妻人人添人人爽欧美一区卜| 日韩欧美一区视频在线观看| 一级毛片 在线播放| 国产爽快片一区二区三区| 91国产中文字幕| 亚洲五月色婷婷综合| 国产女主播在线喷水免费视频网站| 美国免费a级毛片| 成人亚洲精品一区在线观看| 一区二区三区乱码不卡18| 51午夜福利影视在线观看| 欧美精品啪啪一区二区三区 | 精品亚洲成国产av| 国产成人av教育| 激情视频va一区二区三区| 只有这里有精品99| 麻豆乱淫一区二区| 欧美日韩成人在线一区二区| 亚洲专区国产一区二区| av网站免费在线观看视频| 久久精品亚洲熟妇少妇任你| 国产男女超爽视频在线观看| 黄色毛片三级朝国网站| 一二三四社区在线视频社区8| 黑人欧美特级aaaaaa片| 国产伦理片在线播放av一区| 久久ye,这里只有精品| 成人午夜精彩视频在线观看| 国产精品 欧美亚洲| 人妻 亚洲 视频| svipshipincom国产片| 日韩精品免费视频一区二区三区| 免费久久久久久久精品成人欧美视频| 国产xxxxx性猛交| 少妇人妻久久综合中文| 91字幕亚洲| 别揉我奶头~嗯~啊~动态视频 | av国产久精品久网站免费入址| 啦啦啦 在线观看视频| 国产99久久九九免费精品| 尾随美女入室| 人人澡人人妻人| 91精品三级在线观看| 亚洲精品国产色婷婷电影| 精品视频人人做人人爽| 国产男人的电影天堂91| 欧美av亚洲av综合av国产av| 国产97色在线日韩免费| 少妇精品久久久久久久| 婷婷丁香在线五月| 在线观看免费视频网站a站| 啦啦啦在线观看免费高清www| 美女午夜性视频免费| 一级片'在线观看视频| 日韩精品免费视频一区二区三区| 国产亚洲欧美精品永久| 美女中出高潮动态图| 男女边吃奶边做爰视频| 国产精品久久久人人做人人爽| 男女边吃奶边做爰视频| 亚洲视频免费观看视频| 国产成人av激情在线播放| 亚洲精品美女久久久久99蜜臀 | 人人妻人人爽人人添夜夜欢视频| 国产精品 欧美亚洲| 精品视频人人做人人爽| 欧美另类一区| 欧美变态另类bdsm刘玥| 午夜激情久久久久久久| 日本欧美视频一区| 狂野欧美激情性xxxx| 丝袜喷水一区| 各种免费的搞黄视频| 欧美97在线视频| 久久ye,这里只有精品| 19禁男女啪啪无遮挡网站| 亚洲av片天天在线观看| 视频区欧美日本亚洲| 王馨瑶露胸无遮挡在线观看| 狠狠婷婷综合久久久久久88av| 久久久久网色| 欧美精品人与动牲交sv欧美|