• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    面向星上目標(biāo)提取的卷積神經(jīng)網(wǎng)絡(luò)優(yōu)化技術(shù)

    2021-03-04 04:10:12孫永巖鄭幸飛齊保貴
    上海航天 2021年1期
    關(guān)鍵詞:剪枝集上濾波器

    盧 丹,孫永巖,鄭幸飛,齊保貴,師 皓

    (1.上海衛(wèi)星工程研究所,上海 201109;2.北京理工大學(xué) 信息與電子學(xué)院 雷達(dá)技術(shù)研究所,北京 100081;3.嵌入式實(shí)時(shí)信息處理技術(shù)北京市重點(diǎn)實(shí)驗(yàn)室,北京 100081)

    0 引言

    隨著遙感成像和信息處理技術(shù)的發(fā)展,在星上實(shí)時(shí)完成目標(biāo)檢測、場景分類等任務(wù),直接從遙感數(shù)據(jù)中獲取有用信息,具有十分重要的意義。卷積神經(jīng)網(wǎng)絡(luò)憑借其強(qiáng)大的特征提取能力,在遙感數(shù)據(jù)處理任務(wù)中可顯著提升信息提取的效率和精度,逐漸獲得廣泛應(yīng)用[1]。

    伴隨著性能的提升,卷積神經(jīng)網(wǎng)絡(luò)的參數(shù)存儲量和計(jì)算開銷也越來越大,在低功耗、計(jì)算和存儲資源有限的在軌場景中難以移植應(yīng)用。因此,如何在不降低網(wǎng)絡(luò)性能的條件下,縮小網(wǎng)絡(luò)規(guī)模,減少計(jì)算消耗,成為當(dāng)前亟待解決的問題。如果能將網(wǎng)絡(luò)規(guī)模小型化,那么將卷積神經(jīng)網(wǎng)絡(luò)部署到機(jī)載、星載等遙感設(shè)備便成為可能,這無疑是從實(shí)驗(yàn)室走向應(yīng)用的關(guān)鍵性進(jìn)展。

    通過模型壓縮來降低存儲量和計(jì)算成本已經(jīng)有了大量的研究。目前提出的網(wǎng)絡(luò)壓縮方法主要可分為以下幾類[2]:參數(shù)剪枝、權(quán)值量化、低秩分解、緊性卷積核設(shè)計(jì)和知識蒸餾。參數(shù)剪枝法通過對網(wǎng)絡(luò)進(jìn)行結(jié)構(gòu)或非結(jié)構(gòu)化的剪枝操作,將模型中冗余的參數(shù)進(jìn)行裁剪,從而降低網(wǎng)絡(luò)復(fù)雜度,并可在一定程度上防止過擬合。20 世紀(jì)末,CUN 等[3]和HASSIBI等[4]先后提出最優(yōu)腦損傷(Optimal Brain Damage,OBD)和最優(yōu)腦外科(Optimal Brain Surgeon,OBS)的參數(shù)剪枝方法,利用網(wǎng)絡(luò)的二階導(dǎo)數(shù)信息衡量參數(shù)的冗余性,從而對網(wǎng)絡(luò)進(jìn)行修剪。2015 年,韓松等[5]提出了一種基于低權(quán)值連接的剪枝方法,對網(wǎng)絡(luò)中權(quán)值較小的參數(shù)進(jìn)行修剪,將原始的稠密網(wǎng)絡(luò)變得稀疏。但這種非結(jié)構(gòu)化的剪枝方式不會帶來顯著的加速,LI 等[6]、LEBEDEV 等[7]通過對冗余濾波器進(jìn)行裁剪,研究了結(jié)構(gòu)化的參數(shù)剪枝方法。2017 年,LIU 等[8]提出了一種網(wǎng)絡(luò)瘦身(Network Slimming)方法,利用BN 層的縮放因子,結(jié)合正則化稀疏約束對網(wǎng)絡(luò)中不重要的通道進(jìn)行裁剪。權(quán)值量化的主要思想是用較低的比特位表示模型實(shí)際的浮點(diǎn)型權(quán)值,通過減少網(wǎng)絡(luò)參數(shù)的存儲量,實(shí)現(xiàn)模型加速和壓縮。GUPTA 等[9]使用16 位定點(diǎn)數(shù)表示CNN 訓(xùn)練過程中的參數(shù),不僅顯著減少了內(nèi)存使用和浮點(diǎn)運(yùn)算量,且?guī)缀鯇Ψ诸惥葲]有損失。

    為了進(jìn)一步壓縮權(quán)重,二元[10]、三元[11]權(quán)值網(wǎng)絡(luò)被提出,通過在訓(xùn)練過程中學(xué)習(xí)低比特權(quán)值或激活,大幅壓縮網(wǎng)絡(luò)規(guī)模。低秩分解法采用張量或矩陣分解技術(shù),將原始卷積核拆解為多個(gè)小卷積核的乘積,從而降低網(wǎng)絡(luò)運(yùn)算量和參數(shù)規(guī)模。緊性卷積核設(shè)計(jì)法從網(wǎng)絡(luò)結(jié)構(gòu)出發(fā),通過設(shè)計(jì)更精簡的網(wǎng)絡(luò)模 塊,如SqueezeNet[12]、ShuffleNet[13]等,有效減 小模型尺寸。2015 年,HINTON 等[14]提出了知識蒸餾的概念,從高性能復(fù)雜網(wǎng)絡(luò)中學(xué)習(xí)有用信息來指導(dǎo)簡單網(wǎng)絡(luò)的訓(xùn)練,在保證性能相差不大的情況下實(shí)現(xiàn)模型壓縮。

    上述方法可不同程度地減小原始網(wǎng)絡(luò)規(guī)模,但也帶來了精度的下降。為了改善精度損傷的問題,本文提出一種基于知識蒸餾的剪枝壓縮改進(jìn)方法。該方法將參數(shù)剪枝與知識蒸餾技術(shù)相結(jié)合,先對網(wǎng)絡(luò)進(jìn)行混合參數(shù)剪枝以刪除冗余信息,再用剪枝前網(wǎng)絡(luò)指導(dǎo)剪枝后網(wǎng)絡(luò)的再訓(xùn)練過程,以提升后者的性能。以遙感圖像分類任務(wù)為例,在遙感數(shù)據(jù)集上對VGG-16 網(wǎng)絡(luò)進(jìn)行壓縮,在網(wǎng)絡(luò)精度損傷不大的情況下,可實(shí)現(xiàn)16~18 倍的壓縮效果。

    1 基于混合參數(shù)剪枝的卷積神經(jīng)網(wǎng)絡(luò)壓縮方法

    1.1 方法介紹

    參數(shù)剪枝主要有兩種途徑:一種針對通道剪枝;一種針對權(quán)重剪枝。為了降低網(wǎng)絡(luò)參數(shù)的冗余度,可將兩種剪枝方法結(jié)合應(yīng)用,其主要技術(shù)路線如圖1所示[15]。

    圖1 混合參數(shù)剪枝Fig.1 Hybrid parameter pruning

    首先對網(wǎng)絡(luò)進(jìn)行通道剪枝,實(shí)現(xiàn)模型的初步壓縮,并對網(wǎng)絡(luò)再訓(xùn)練以恢復(fù)損傷的精度。其次,在通道剪枝的基礎(chǔ)上再進(jìn)行權(quán)重剪枝,以進(jìn)一步壓縮網(wǎng)絡(luò)的參數(shù)規(guī)模。

    1.2 基于通道的參數(shù)剪枝

    通道剪枝是一種結(jié)構(gòu)化的參數(shù)剪枝方式,通過剪去網(wǎng)絡(luò)中冗余的通道,即對網(wǎng)絡(luò)貢獻(xiàn)度較小的單個(gè)濾波器,實(shí)現(xiàn)對模型的壓縮,如圖2 所示。

    圖2 通道剪枝前后Fig.2 Before and after channel pruning

    該方法可分為3 個(gè)步驟:訓(xùn)練網(wǎng)絡(luò)→裁剪冗余的通道→網(wǎng)絡(luò)再訓(xùn)練。

    如圖3 所示,Xi為第i卷積層的輸入特征圖,Xi+1為輸出特征圖,每個(gè)卷積層有ni×ni+1個(gè)二維的卷積核Fi,j,其中,ni和ni+1分別表示輸入、輸出特征圖的維度。

    圖3 修剪一個(gè)濾波器會導(dǎo)致在下一層中刪除其相應(yīng)的特征圖和相關(guān)的內(nèi)核Fig.3 Trimming a filter causes its corresponding feature map and associated kernel to be deleted in the next layer

    首先評估通道的重要性,通過計(jì)算單個(gè)濾波器的L1范數(shù),即其絕對權(quán)重之和來衡量每個(gè)層中濾波器的相對重要性。與層中其他濾波器相比,具有較小內(nèi)核權(quán)重和的濾波器傾向于產(chǎn)生具有弱激活的特征映射。從第i個(gè)卷積層中修剪m個(gè)濾波器的步驟如下:

    步驟1對于每個(gè)濾波器Fi,j,計(jì)算其權(quán)重絕對值的總和。

    步驟2按sj對濾波器進(jìn)行排序。

    步驟3剪去具有最小和值的m個(gè)濾波器及其對應(yīng)的特征映射,下一個(gè)卷積層中與被修剪的特征映射相對應(yīng)的內(nèi)核也被刪除。

    步驟4第i層和第i+1 層創(chuàng)建新的內(nèi)核矩陣,并將剩余的內(nèi)核權(quán)重復(fù)制到新模型。

    網(wǎng)絡(luò)中不同卷積層對修剪的敏感度不同,通過逐層修剪并在測試集上評估剪枝網(wǎng)絡(luò)的精度,可以判斷各層對剪枝的敏感性,并確定每一卷積層通道剪枝的比例。

    1.3 基于權(quán)重的參數(shù)剪枝

    對網(wǎng)絡(luò)進(jìn)行通道剪枝后,得到較小規(guī)模的新網(wǎng)絡(luò),再訓(xùn)練使其恢復(fù)精度。將小規(guī)模新網(wǎng)絡(luò)的參數(shù)按照權(quán)值大小進(jìn)行排序,權(quán)重越小代表其對網(wǎng)絡(luò)的最終貢獻(xiàn)越小。

    通過刪除權(quán)重小于指定閾值的連接,減少模型的參數(shù)量,如圖4 所示。

    圖4 權(quán)重剪枝前后,網(wǎng)絡(luò)由稠密變得稀疏Fig.4 Before and after weight pruning,the network becomes sparse from dense

    該方法仍然遵循“訓(xùn)練網(wǎng)絡(luò)→剪枝→再訓(xùn)練”的3 個(gè)步驟,剪枝的具體操作是將低于某一閾值的參數(shù)置零,再訓(xùn)練過程中已經(jīng)被剪掉的參數(shù)將保持零值,不再進(jìn)行參數(shù)更新。網(wǎng)絡(luò)中不同層參數(shù)對剪枝的敏感度是不同的。由于網(wǎng)絡(luò)的計(jì)算量主要集中在卷積層,通常卷積層比全連接層對參數(shù)剪枝更敏感?;诖?,應(yīng)仔細(xì)衡量每一層參數(shù)的剪枝比例,以獲得最優(yōu)的壓縮效果。

    2 基于知識蒸餾的剪枝壓縮改進(jìn)方法

    由于上述混合參數(shù)剪枝方法會帶來精度下降,因此本文提出了一種基于知識蒸餾的剪枝壓縮改進(jìn)方法,將知識蒸餾技術(shù)融合到混合參數(shù)剪枝中,通過再訓(xùn)練過程中的知識傳遞可以減少剪枝后的精度損失。具體步驟如圖5 所示。

    知識蒸餾法的主要思想是用大型復(fù)雜模型學(xué)習(xí)到的知識指導(dǎo)簡單網(wǎng)絡(luò)的訓(xùn)練,從而提升后者的表現(xiàn)。此時(shí),復(fù)雜模型可以看作是“教師”,待訓(xùn)練的簡單模型為“學(xué)生”。通過網(wǎng)絡(luò)間的知識傳遞,使簡單模型重現(xiàn)復(fù)雜模型的輸出結(jié)果,達(dá)到規(guī)模壓縮的目的。

    神經(jīng)網(wǎng)絡(luò)學(xué)到的知識將輸入數(shù)據(jù)映射為輸出結(jié)果,對于處理分類任務(wù)的網(wǎng)絡(luò),其訓(xùn)練目標(biāo)是將正確輸出結(jié)果的概率最大化。但這種訓(xùn)練方式為每個(gè)錯(cuò)誤結(jié)果也分配了概率,這些錯(cuò)誤概率展示了網(wǎng)絡(luò)進(jìn)行分類判斷的“思路”。神經(jīng)網(wǎng)絡(luò)通常使用Softmax 輸出層得到分類概率,函數(shù)定義如下:

    圖5 基于知識蒸餾的剪枝壓縮改進(jìn)方法Fig.5 Improved pruning compression method based on knowledge distillation

    式中:zi為復(fù)雜模型分類結(jié)果的輸出值;i為類別索引;j為類別總數(shù);qi為由Softmax 函數(shù)計(jì)算得到的分類概率;T為溫度,是一個(gè)可調(diào)節(jié)的超參數(shù),通常為1,T值越大,類別的概率分布就越“軟”,即更加均勻平和。

    知識蒸餾法通過調(diào)整網(wǎng)絡(luò)再訓(xùn)練過程中的損失函數(shù),進(jìn)行網(wǎng)絡(luò)間的知識傳遞。訓(xùn)練小模型時(shí),損失函數(shù)由兩部分組成:第1 項(xiàng)是包含“軟目標(biāo)”的交叉熵函數(shù),其目的是使小模型向經(jīng)過蒸餾的復(fù)雜模型的輸出結(jié)果優(yōu)化;第2 項(xiàng)是由小模型輸出的結(jié)果與正確標(biāo)簽的差值計(jì)算得出的交叉熵函數(shù),這與傳統(tǒng)的訓(xùn)練過程相同,目的是使小模型向真實(shí)的標(biāo)簽值進(jìn)行優(yōu)化。損失函數(shù)的公式[16]為

    式中:Lsoft、Lhard分別為優(yōu)化方向?yàn)椤败浤繕?biāo)”和正確標(biāo)簽的交叉熵函數(shù);α為損失函數(shù)的權(quán)重系數(shù),α=0 時(shí)對應(yīng)于不使用知識蒸餾法進(jìn)行訓(xùn)練的情況。

    以混合參數(shù)剪枝前的網(wǎng)絡(luò)為“教師”,剪枝后的網(wǎng)絡(luò)為“學(xué)生”,采用知識蒸餾法對網(wǎng)絡(luò)進(jìn)行再訓(xùn)練。相比于傳統(tǒng)再訓(xùn)練方式,知識蒸餾法能獲得更優(yōu)的再訓(xùn)練效果,改善網(wǎng)絡(luò)性能。

    3 實(shí)驗(yàn)驗(yàn)證

    3.1 基于混合參數(shù)剪枝的卷積神經(jīng)網(wǎng)絡(luò)壓縮方法

    以遙感圖像分類任務(wù)為例,分別在兩個(gè)公開的遙感數(shù)據(jù)集NWPU-RESISC45 和UC Merced Land-Use 上對VGG-16 網(wǎng)絡(luò)進(jìn)行壓縮實(shí)驗(yàn)。NW?PU-RESISC45 數(shù)據(jù)集由西北工業(yè)大學(xué)研究團(tuán)隊(duì)于2017 年提出,包含飛機(jī)、港口、教堂等45 個(gè)不同的場景類別,每個(gè)場景中分別有700 幅256×256 的RGB圖像,大部分測試圖像的空間分辨率能達(dá)到每個(gè)像素0.2 m。UC Merced Land-Use 數(shù)據(jù)集是由美國國家地質(zhì)調(diào)查局航空拍攝的正射影像,包含棒球場、海灘、十字路口等21 個(gè)不同的場景類別,每個(gè)場景包含100 幅256×256 的RGB 圖像,圖像的空間分辨率為每個(gè)像素0.3 m。實(shí)驗(yàn)時(shí)選取數(shù)據(jù)集中20%的圖像作為訓(xùn)練集,剩余圖像作為測試集,觀察剪枝前后VGG-16 網(wǎng)絡(luò)的分類表現(xiàn)。

    首先對VGG-16 網(wǎng)絡(luò)進(jìn)行基于通道的參數(shù)剪枝,由于每一卷積層對剪枝的敏感性不同,需要先對單層修剪濾波器以判斷每個(gè)卷積層對修剪的敏感度,從而設(shè)置恰當(dāng)?shù)耐ǖ兰糁Ρ壤?。?shí)驗(yàn)結(jié)果如圖6 和圖7 所示。由實(shí)驗(yàn)結(jié)果可知,在不同的數(shù)據(jù)集上,卷積層對通道剪枝的敏感性是相似的。第7卷積層對剪枝最敏感,第1 卷積層對剪枝最不敏感。在本次實(shí)驗(yàn)中,對訓(xùn)練好的VGG-16 網(wǎng)絡(luò)的第7 卷積層剪去25%的濾波器,對剩余卷積層均剪去50%的濾波器。

    圖6 在NWPU-RESISC45 數(shù)據(jù)集上,不同卷積層對通道剪枝的敏感性Fig.6 Sensitivity of different convolutional layers to channel pruning on the NWPU-RESISC45 dataset

    圖7 在UC Merced Land-Use 數(shù)據(jù)集上,不同卷積層對通道剪枝的敏感性Fig.7 Sensitivity of different convolutional layers to channel pruning on the UC Merced Land-Use dataset

    對通道剪枝后的網(wǎng)絡(luò)進(jìn)行再訓(xùn)練,使其恢復(fù)精度。接下來對網(wǎng)絡(luò)進(jìn)行基于權(quán)重的參數(shù)剪枝,以進(jìn)一步減少冗余參數(shù)。首先對全連接層90%的參數(shù)進(jìn)行剪枝,經(jīng)過再訓(xùn)練,網(wǎng)絡(luò)分類精度損傷不大,這說明剪掉的90%全連接層參數(shù)中大部分是冗余的。在此基礎(chǔ)上,對卷積層參數(shù)進(jìn)行剪枝,并逐漸增大卷積層參數(shù)的剪枝比例。在遙感數(shù)據(jù)集上對VGG-16 網(wǎng)絡(luò)進(jìn)行混合參數(shù)剪枝,實(shí)驗(yàn)結(jié)果見表1。

    由表1 數(shù)據(jù)可知,對VGG-16 網(wǎng)絡(luò)進(jìn)行混合剪枝,網(wǎng)絡(luò)精度下降1%左右時(shí),能移除93%左右的參數(shù)。這說明通過合理調(diào)整卷積層通道剪枝比例和通道剪枝后網(wǎng)絡(luò)的權(quán)重剪枝比例,可以裁剪掉網(wǎng)絡(luò)中的大部分冗余參數(shù)。

    表1 混合參數(shù)剪枝前后網(wǎng)絡(luò)對比Tab.1 Network comparison before and after hybrid parameter pruning

    3.2 基于知識蒸餾的剪枝壓縮改進(jìn)方法

    在NWPU-RESISC45 數(shù)據(jù)集上,參數(shù)剪枝前VGG-16 網(wǎng)絡(luò)的分類精度為89.69%。經(jīng)混合參數(shù)剪枝剪去網(wǎng)絡(luò)中93.92%的參數(shù)后,按普通方式對網(wǎng)絡(luò)進(jìn)行再訓(xùn)練,最終分類精度為88.53%,相比于剪枝前,性能下降了1.16%。為了使再訓(xùn)練后網(wǎng)絡(luò)性能損失不超過1%,使用知識蒸餾方式學(xué)習(xí)剪枝前網(wǎng)絡(luò)的有用信息。

    通過調(diào)整Softmax 函數(shù)中參數(shù)α、T的值,可獲得不同的知識蒸餾效果。網(wǎng)絡(luò)再訓(xùn)練后的分類精度見表2。由表2 可見,采用知識蒸餾法訓(xùn)練的網(wǎng)絡(luò)比普通訓(xùn)練方式得到的網(wǎng)絡(luò)性能更好,這說明原始網(wǎng)絡(luò)的分類結(jié)果對小網(wǎng)絡(luò)的訓(xùn)練起到了正向的指導(dǎo)作用,提升了小網(wǎng)絡(luò)的表現(xiàn)。當(dāng)α=0.8、T=5 時(shí),對剪枝后的VGG-16 網(wǎng)絡(luò)重新訓(xùn)練,其精度可達(dá)到89.63%;相比于剪枝前,性能只下降了0.06%。

    如圖8 所示,繪制剪枝后網(wǎng)絡(luò)再訓(xùn)練過程中的精度變化曲線,紅線代表α=0.8、T=5 時(shí)使用知識蒸餾方法訓(xùn)練,藍(lán)線代表普通訓(xùn)練方式。由曲線趨勢可見,在相同迭代次數(shù)時(shí),知識蒸餾法訓(xùn)練的網(wǎng)絡(luò)性能有微弱的優(yōu)勢,最終分類精度比普通訓(xùn)練方式提升了1 個(gè)百分點(diǎn)。

    表2 在NWPU-RESISC45 數(shù)據(jù)集上,剪枝93.92%的參數(shù),知識蒸餾效果Tab.2 Knowledge distillation effect on the NWPURESISC45 dataset,pruning 93.92% of the parameters

    圖8 在NWPU-RESISC45 數(shù)據(jù)集上,網(wǎng)絡(luò)再訓(xùn)練過程中精度變化曲線Fig.8 Accuracy curves during network retraining on the NWPU-RESISC45 dataset

    在UC Merced Land-Use 數(shù)據(jù)集上,參數(shù)剪枝前VGG-16 網(wǎng)絡(luò)的分類精度為87.86%。經(jīng)混合剪枝,剪去網(wǎng)絡(luò)中93.78%的參數(shù)后,網(wǎng)絡(luò)性能下降,經(jīng)普通方式再訓(xùn)練精度可恢復(fù)到86.25%,相比于剪枝前,精度下降了1.61%。

    采用知識蒸餾方式進(jìn)行對剪枝后的網(wǎng)絡(luò)進(jìn)行再訓(xùn)練,訓(xùn)練結(jié)果見表3。

    由實(shí)驗(yàn)結(jié)果可知,采用知識蒸餾方法再訓(xùn)練的網(wǎng)絡(luò)有了更好的性能。當(dāng)α=0.7、T=8 時(shí),重新訓(xùn)練后網(wǎng)絡(luò)的最佳分類精度可達(dá)到87.86%,與剪枝前網(wǎng)絡(luò)的精度相同。當(dāng)α=0.7、T=5 時(shí),再訓(xùn)練后網(wǎng)絡(luò)的最佳精度達(dá)到88.21%,優(yōu)于剪枝前的性能。這表明剪枝后的網(wǎng)絡(luò)接收到了原始模型學(xué)到的“知識”,在“教師”網(wǎng)絡(luò)和有標(biāo)簽數(shù)據(jù)集的共同指導(dǎo)下,呈現(xiàn)出了更好的表現(xiàn)。

    表3 在UC Merced Land-Use 數(shù)據(jù)集上,剪枝93.78%的參數(shù),知識蒸餾效果Tab.3 Knowledge distillation effect on the UC Merced Land-Use dataset,pruning 93.78% of the parameters

    如圖9 所示,繪制在UC Merced Land-Use 數(shù)據(jù)集上,剪枝后網(wǎng)絡(luò)再訓(xùn)練過程中的精度變化曲線。圖9 中,紅線代表α=0.7、T=5 時(shí)使用知識蒸餾方法訓(xùn)練,藍(lán)線代表普通訓(xùn)練方式。由圖可知,在相同迭代次數(shù)時(shí),知識蒸餾法訓(xùn)練的網(wǎng)絡(luò)性能優(yōu)于普通訓(xùn)練方式,在訓(xùn)練20 個(gè)epoch 后,知識蒸餾法訓(xùn)練的網(wǎng)絡(luò)就達(dá)到了最高精度,所需迭代次數(shù)更少。

    圖9 在UC Merced Land-Use 數(shù)據(jù)集上,網(wǎng)絡(luò)再訓(xùn)練過程中精度變化曲線Fig.9 Accuracy curves during network retraining on the UC Merced Land-Use dataset

    由以上實(shí)驗(yàn)結(jié)果可知,在遙感數(shù)據(jù)集上對VGG-16 網(wǎng)絡(luò)進(jìn)行實(shí)驗(yàn),基于知識蒸餾的剪枝壓縮改進(jìn)方法可在網(wǎng)絡(luò)精度下降不到1%的條件下,移除93%~94% 的參數(shù)量,實(shí)現(xiàn)16~18 倍的壓縮效果。在知識蒸餾過程中,當(dāng)選擇恰當(dāng)?shù)膮?shù)值時(shí),剪枝后網(wǎng)絡(luò)還可能獲得優(yōu)于原始網(wǎng)絡(luò)的性能。

    3.3 網(wǎng)絡(luò)壓縮前后性能對比

    在NWPU-RESISC45 數(shù)據(jù)集上訓(xùn)練VGG-16網(wǎng)絡(luò),比較網(wǎng)絡(luò)壓縮前后的性能變化,結(jié)果如圖10所示。其中,Network Slimming 是LIU 等[8]于2017年提出的基于正則化和BN 層縮放因子的通道剪枝方法。取剪枝并再訓(xùn)練后網(wǎng)絡(luò)精度下降不足1%的模型,對其參數(shù)量、浮點(diǎn)運(yùn)算數(shù)(FLOPs)、內(nèi)存讀寫開銷三個(gè)維度進(jìn)行比較??梢钥闯鼋?jīng)剪枝后,Net?work Slimming 方法的FLOPs 顯著下降,而本文方法在減少參數(shù)量和內(nèi)存讀寫開銷上更有優(yōu)勢。這是由于網(wǎng)絡(luò)運(yùn)算量主要集中在卷積層,參數(shù)量集中在全連接層。對比模型中,Network Slimming 減去了約70%的卷積層,而本文方法只減去不足50%的冗余通道。通過多次進(jìn)行剪枝和微調(diào),本文方法有望進(jìn)一步減少冗余通道數(shù)和FLOPs。

    圖10 網(wǎng)絡(luò)壓縮前后性能變化Fig.10 Performance changes before and after network compression

    4 結(jié)束語

    本文針對卷積神經(jīng)網(wǎng)絡(luò)規(guī)模龐大、難以在軌應(yīng)用的問題,對深度神經(jīng)網(wǎng)絡(luò)壓縮方法進(jìn)行研究,提出了一種基于知識蒸餾的剪枝壓縮改進(jìn)方法。在遙感圖像分類任務(wù)中,該方法對VGG-16 網(wǎng)絡(luò)實(shí)現(xiàn)了16~18 倍的壓縮效果,并帶來了運(yùn)算量、內(nèi)存讀寫開銷的下降,且精度損失不到1%。本文提出的方法可擴(kuò)展到其他深度神經(jīng)網(wǎng)絡(luò)上,如殘差網(wǎng)絡(luò)、Inception 網(wǎng)絡(luò)等,但在進(jìn)行混合參數(shù)剪枝時(shí)需要根據(jù)網(wǎng)絡(luò)的結(jié)構(gòu)調(diào)整剪枝策略,以獲得理想的壓縮效果。此外,由于參數(shù)剪枝引入了不規(guī)則稀疏性,在網(wǎng)絡(luò)計(jì)算過程中不會帶來顯著的加速。因此,后續(xù)可進(jìn)行稀疏網(wǎng)絡(luò)運(yùn)算加速方面的研究,以滿足實(shí)時(shí)性要求。

    猜你喜歡
    剪枝集上濾波器
    基于無擾濾波器和AED-ADT的無擾切換控制
    人到晚年宜“剪枝”
    基于YOLOv4-Tiny模型剪枝算法
    Cookie-Cutter集上的Gibbs測度
    鏈完備偏序集上廣義向量均衡問題解映射的保序性
    從濾波器理解卷積
    電子制作(2019年11期)2019-07-04 00:34:38
    開關(guān)電源EMI濾波器的應(yīng)用方法探討
    電子制作(2018年16期)2018-09-26 03:26:50
    復(fù)扇形指標(biāo)集上的分布混沌
    剪枝
    天津詩人(2017年2期)2017-03-16 03:09:39
    基于TMS320C6678的SAR方位向預(yù)濾波器的并行實(shí)現(xiàn)
    国产男女内射视频| 99在线人妻在线中文字幕 | 精品卡一卡二卡四卡免费| 亚洲中文字幕日韩| 国产精品二区激情视频| 久久九九热精品免费| 国产男女内射视频| 老熟妇乱子伦视频在线观看| 国产精品香港三级国产av潘金莲| 国产一区二区三区在线臀色熟女 | 伦理电影免费视频| 亚洲专区国产一区二区| 一进一出好大好爽视频| 大香蕉久久成人网| 国产99久久九九免费精品| 久热爱精品视频在线9| 国产淫语在线视频| 色精品久久人妻99蜜桃| 国产精品免费大片| 在线观看免费视频日本深夜| 亚洲精品一二三| cao死你这个sao货| 久久久久精品国产欧美久久久| 欧美激情久久久久久爽电影 | 成人av一区二区三区在线看| 黄色视频不卡| 99久久精品国产亚洲精品| 美女福利国产在线| 精品亚洲成国产av| 亚洲av日韩在线播放| 成人国语在线视频| a级毛片黄视频| 免费黄频网站在线观看国产| 亚洲aⅴ乱码一区二区在线播放 | 国产亚洲精品久久久久久毛片 | 啦啦啦在线免费观看视频4| 亚洲精品在线美女| 岛国毛片在线播放| 老司机午夜十八禁免费视频| 亚洲av成人一区二区三| 亚洲国产毛片av蜜桃av| 免费女性裸体啪啪无遮挡网站| e午夜精品久久久久久久| 热re99久久国产66热| 国产精品综合久久久久久久免费 | 女人被躁到高潮嗷嗷叫费观| 90打野战视频偷拍视频| 狂野欧美激情性xxxx| 中文字幕精品免费在线观看视频| av欧美777| cao死你这个sao货| 最新美女视频免费是黄的| 亚洲专区国产一区二区| 99re6热这里在线精品视频| 成年人黄色毛片网站| 亚洲情色 制服丝袜| 久久久精品区二区三区| 国产一区二区激情短视频| 别揉我奶头~嗯~啊~动态视频| 人妻丰满熟妇av一区二区三区 | 午夜福利免费观看在线| 国产精品久久视频播放| 久久人人爽av亚洲精品天堂| 久久人人97超碰香蕉20202| av有码第一页| 女人被狂操c到高潮| 午夜福利影视在线免费观看| 国产日韩欧美亚洲二区| 欧美在线一区亚洲| 久久久久精品国产欧美久久久| 女同久久另类99精品国产91| 成年人免费黄色播放视频| 欧美色视频一区免费| 99精品在免费线老司机午夜| 91成人精品电影| 99国产综合亚洲精品| 最新在线观看一区二区三区| 97人妻天天添夜夜摸| 80岁老熟妇乱子伦牲交| 欧美亚洲 丝袜 人妻 在线| 久久国产精品人妻蜜桃| 99久久人妻综合| 天天添夜夜摸| 操美女的视频在线观看| 九色亚洲精品在线播放| 在线永久观看黄色视频| 18禁裸乳无遮挡免费网站照片 | 久久久精品免费免费高清| a级毛片在线看网站| 男女高潮啪啪啪动态图| 女人被躁到高潮嗷嗷叫费观| 少妇裸体淫交视频免费看高清 | 一级毛片女人18水好多| 日韩欧美国产一区二区入口| 久久天躁狠狠躁夜夜2o2o| 高清在线国产一区| 老司机靠b影院| 国产一区二区激情短视频| 亚洲人成伊人成综合网2020| 国产精品久久久久成人av| 久久国产精品男人的天堂亚洲| 满18在线观看网站| 精品久久久久久久久久免费视频 | 亚洲欧美色中文字幕在线| 亚洲av熟女| 欧美国产精品一级二级三级| 国产精品综合久久久久久久免费 | 午夜福利视频在线观看免费| 麻豆av在线久日| 成人18禁高潮啪啪吃奶动态图| 国产无遮挡羞羞视频在线观看| 久久久水蜜桃国产精品网| 国产国语露脸激情在线看| 欧美乱码精品一区二区三区| 国产又爽黄色视频| 欧美成狂野欧美在线观看| 国精品久久久久久国模美| 人人妻,人人澡人人爽秒播| 精品国产乱码久久久久久男人| 老司机福利观看| 黄色成人免费大全| 女性生殖器流出的白浆| 狂野欧美激情性xxxx| av免费在线观看网站| 午夜福利,免费看| 欧美日韩一级在线毛片| 两性午夜刺激爽爽歪歪视频在线观看 | 国产精品久久久人人做人人爽| 久久性视频一级片| 好看av亚洲va欧美ⅴa在| 精品一区二区三卡| 别揉我奶头~嗯~啊~动态视频| 亚洲av成人一区二区三| 在线永久观看黄色视频| 久久这里只有精品19| 欧美国产精品va在线观看不卡| 一区二区日韩欧美中文字幕| 热99re8久久精品国产| 欧美人与性动交α欧美软件| 亚洲,欧美精品.| 久99久视频精品免费| 国产成+人综合+亚洲专区| 成年动漫av网址| 大香蕉久久成人网| 无限看片的www在线观看| av视频免费观看在线观看| 欧美色视频一区免费| 搡老熟女国产l中国老女人| 精品国产一区二区三区四区第35| 免费观看a级毛片全部| 欧美乱码精品一区二区三区| 一本一本久久a久久精品综合妖精| 无人区码免费观看不卡| 变态另类成人亚洲欧美熟女 | 精品国产美女av久久久久小说| 麻豆国产av国片精品| 91九色精品人成在线观看| 日韩精品免费视频一区二区三区| 国产欧美日韩综合在线一区二区| 欧美精品亚洲一区二区| 亚洲人成77777在线视频| 高清av免费在线| 国产亚洲一区二区精品| 一个人免费在线观看的高清视频| 正在播放国产对白刺激| 精品亚洲成国产av| 久久久国产成人免费| 亚洲欧美一区二区三区久久| 欧美黄色片欧美黄色片| 午夜老司机福利片| 一边摸一边做爽爽视频免费| 一个人免费在线观看的高清视频| 制服人妻中文乱码| av中文乱码字幕在线| 亚洲av欧美aⅴ国产| 怎么达到女性高潮| 村上凉子中文字幕在线| 最新的欧美精品一区二区| 国产1区2区3区精品| 搡老岳熟女国产| 久久精品亚洲av国产电影网| 老司机亚洲免费影院| 1024香蕉在线观看| 亚洲精品乱久久久久久| 午夜视频精品福利| 国产伦人伦偷精品视频| 国产激情欧美一区二区| 国产一区在线观看成人免费| 免费在线观看黄色视频的| 天天躁日日躁夜夜躁夜夜| 精品人妻在线不人妻| 如日韩欧美国产精品一区二区三区| 美女福利国产在线| 久久天堂一区二区三区四区| 女人精品久久久久毛片| 天堂俺去俺来也www色官网| 五月开心婷婷网| 亚洲第一欧美日韩一区二区三区| 999久久久精品免费观看国产| 视频区欧美日本亚洲| 大码成人一级视频| 日本黄色视频三级网站网址 | 欧美乱码精品一区二区三区| 深夜精品福利| e午夜精品久久久久久久| 女同久久另类99精品国产91| 久久人妻福利社区极品人妻图片| 国产成人av激情在线播放| 精品人妻1区二区| 久久99一区二区三区| 精品第一国产精品| 亚洲国产毛片av蜜桃av| 久99久视频精品免费| 欧美性长视频在线观看| 亚洲av成人av| svipshipincom国产片| 老司机靠b影院| 一夜夜www| 国产人伦9x9x在线观看| 波多野结衣av一区二区av| 日韩大码丰满熟妇| 亚洲自偷自拍图片 自拍| 人妻一区二区av| 日本撒尿小便嘘嘘汇集6| av免费在线观看网站| 欧美激情极品国产一区二区三区| 老司机福利观看| 悠悠久久av| 18禁美女被吸乳视频| 国产aⅴ精品一区二区三区波| 成人国产一区最新在线观看| 1024视频免费在线观看| 又黄又粗又硬又大视频| 日本黄色日本黄色录像| 欧美精品av麻豆av| 波多野结衣av一区二区av| 亚洲人成电影观看| 一边摸一边抽搐一进一出视频| 十八禁网站免费在线| 国产精品亚洲av一区麻豆| 国产亚洲一区二区精品| 两人在一起打扑克的视频| 又黄又爽又免费观看的视频| 视频区欧美日本亚洲| 国内久久婷婷六月综合欲色啪| 18禁观看日本| 午夜福利在线观看吧| 精品久久久久久久久久免费视频 | 黑人巨大精品欧美一区二区蜜桃| 一区二区三区精品91| 国产成+人综合+亚洲专区| 亚洲成人国产一区在线观看| 成熟少妇高潮喷水视频| 人人妻,人人澡人人爽秒播| 亚洲精品自拍成人| 亚洲中文日韩欧美视频| 91麻豆精品激情在线观看国产 | 亚洲在线自拍视频| 久久亚洲精品不卡| 亚洲一区高清亚洲精品| 国产99白浆流出| 久久中文字幕人妻熟女| 啦啦啦在线免费观看视频4| 亚洲片人在线观看| 首页视频小说图片口味搜索| 成人国产一区最新在线观看| 欧美人与性动交α欧美精品济南到| 欧美激情久久久久久爽电影 | 99在线人妻在线中文字幕 | 国产精品.久久久| 制服人妻中文乱码| 另类亚洲欧美激情| 亚洲国产中文字幕在线视频| 国产成人系列免费观看| 夜夜夜夜夜久久久久| 12—13女人毛片做爰片一| 久久天躁狠狠躁夜夜2o2o| 一本大道久久a久久精品| 亚洲精品国产精品久久久不卡| 夫妻午夜视频| 国产不卡一卡二| 精品无人区乱码1区二区| 动漫黄色视频在线观看| 亚洲av欧美aⅴ国产| 午夜福利影视在线免费观看| 99精国产麻豆久久婷婷| 国产成人精品久久二区二区免费| 女性生殖器流出的白浆| 一级毛片精品| 黄片小视频在线播放| 美女扒开内裤让男人捅视频| 日本欧美视频一区| 成年女人毛片免费观看观看9 | 如日韩欧美国产精品一区二区三区| 国产乱人伦免费视频| 狠狠婷婷综合久久久久久88av| 一级毛片精品| 欧美在线黄色| 久久久久视频综合| tube8黄色片| 亚洲人成伊人成综合网2020| 老熟女久久久| 三级毛片av免费| 免费在线观看影片大全网站| 免费观看a级毛片全部| 一边摸一边做爽爽视频免费| 日韩大码丰满熟妇| 老熟妇乱子伦视频在线观看| 中文字幕人妻丝袜制服| 搡老熟女国产l中国老女人| 亚洲精品粉嫩美女一区| 精品国内亚洲2022精品成人 | 精品久久蜜臀av无| 国产野战对白在线观看| 亚洲一区高清亚洲精品| 精品久久久久久,| 亚洲人成伊人成综合网2020| 国产在线一区二区三区精| 欧美日韩福利视频一区二区| 老熟妇仑乱视频hdxx| 嫁个100分男人电影在线观看| 美女国产高潮福利片在线看| 免费人成视频x8x8入口观看| 久久久久国产精品人妻aⅴ院 | 黄网站色视频无遮挡免费观看| 母亲3免费完整高清在线观看| 亚洲va日本ⅴa欧美va伊人久久| 大陆偷拍与自拍| 真人做人爱边吃奶动态| 五月开心婷婷网| 脱女人内裤的视频| 捣出白浆h1v1| 国产精品电影一区二区三区 | 亚洲欧美一区二区三区久久| 99国产综合亚洲精品| 亚洲成人手机| 国产精品一区二区在线观看99| 国产99久久九九免费精品| 亚洲成av片中文字幕在线观看| 久久午夜综合久久蜜桃| 欧美激情 高清一区二区三区| 高清在线国产一区| 国产91精品成人一区二区三区| 国产精品永久免费网站| 热99久久久久精品小说推荐| 成人影院久久| 亚洲,欧美精品.| 国产精品一区二区在线不卡| 久久中文看片网| 伦理电影免费视频| 欧美黄色片欧美黄色片| 丰满迷人的少妇在线观看| 在线永久观看黄色视频| 最新美女视频免费是黄的| 久久精品国产清高在天天线| 搡老乐熟女国产| 热99久久久久精品小说推荐| xxx96com| 19禁男女啪啪无遮挡网站| 亚洲色图综合在线观看| 久久久国产精品麻豆| 久久国产亚洲av麻豆专区| 亚洲av成人av| 一区二区三区国产精品乱码| 日韩视频一区二区在线观看| 好看av亚洲va欧美ⅴa在| 俄罗斯特黄特色一大片| 免费在线观看视频国产中文字幕亚洲| 精品免费久久久久久久清纯 | 欧美精品一区二区免费开放| 美女视频免费永久观看网站| 在线观看免费午夜福利视频| 国产深夜福利视频在线观看| 操美女的视频在线观看| 一级a爱片免费观看的视频| 中文字幕色久视频| 国产不卡一卡二| 熟女少妇亚洲综合色aaa.| 巨乳人妻的诱惑在线观看| 成人三级做爰电影| 日韩欧美一区视频在线观看| 欧美大码av| 久久中文看片网| 国产在线精品亚洲第一网站| 老汉色av国产亚洲站长工具| 在线观看免费高清a一片| 久久久久久久午夜电影 | 99国产极品粉嫩在线观看| 日韩一卡2卡3卡4卡2021年| 亚洲伊人色综图| 最新在线观看一区二区三区| 国产又色又爽无遮挡免费看| 正在播放国产对白刺激| 亚洲精品美女久久久久99蜜臀| 午夜免费鲁丝| 午夜福利免费观看在线| 免费在线观看视频国产中文字幕亚洲| av网站免费在线观看视频| 国产精品1区2区在线观看. | av不卡在线播放| 黄频高清免费视频| 国产精品98久久久久久宅男小说| 亚洲人成电影观看| 国产精品综合久久久久久久免费 | 极品教师在线免费播放| 亚洲国产精品合色在线| 最新的欧美精品一区二区| 精品国产超薄肉色丝袜足j| 男人操女人黄网站| 亚洲av成人不卡在线观看播放网| 亚洲免费av在线视频| 一级a爱片免费观看的视频| 校园春色视频在线观看| 国产精品免费一区二区三区在线 | 丰满的人妻完整版| 国产在线精品亚洲第一网站| 视频区欧美日本亚洲| 好看av亚洲va欧美ⅴa在| 俄罗斯特黄特色一大片| 欧美乱码精品一区二区三区| 久久久久久久精品吃奶| 国产精品一区二区精品视频观看| 成人手机av| 久久久久久人人人人人| 最新在线观看一区二区三区| 午夜福利乱码中文字幕| 欧美大码av| 天堂√8在线中文| 在线观看免费高清a一片| 国产精品av久久久久免费| 超碰成人久久| 久久精品91无色码中文字幕| 妹子高潮喷水视频| 免费在线观看亚洲国产| 国产不卡一卡二| 国产高清videossex| 99精品久久久久人妻精品| 国产乱人伦免费视频| 麻豆av在线久日| 黑人巨大精品欧美一区二区mp4| 免费女性裸体啪啪无遮挡网站| 热re99久久国产66热| 狠狠婷婷综合久久久久久88av| 美女国产高潮福利片在线看| 青草久久国产| 成人国产一区最新在线观看| 777米奇影视久久| 精品国产美女av久久久久小说| 人人妻人人添人人爽欧美一区卜| 一个人免费在线观看的高清视频| 成年人午夜在线观看视频| 99riav亚洲国产免费| 12—13女人毛片做爰片一| 极品人妻少妇av视频| 久久国产乱子伦精品免费另类| 法律面前人人平等表现在哪些方面| 黄片小视频在线播放| 久久国产亚洲av麻豆专区| 少妇裸体淫交视频免费看高清 | 嫩草影视91久久| 可以免费在线观看a视频的电影网站| 成年动漫av网址| 人人澡人人妻人| 国产精品.久久久| 欧美 亚洲 国产 日韩一| 麻豆av在线久日| 飞空精品影院首页| 狂野欧美激情性xxxx| 国产免费av片在线观看野外av| 免费在线观看日本一区| 狠狠婷婷综合久久久久久88av| 成人永久免费在线观看视频| 天天添夜夜摸| 欧美日韩av久久| 亚洲黑人精品在线| 欧美人与性动交α欧美软件| 欧美亚洲 丝袜 人妻 在线| 999久久久国产精品视频| 久久久久视频综合| 在线免费观看的www视频| 看片在线看免费视频| 亚洲人成77777在线视频| 手机成人av网站| 91国产中文字幕| 国产在线一区二区三区精| 亚洲精品国产一区二区精华液| 在线免费观看的www视频| 看黄色毛片网站| 最近最新中文字幕大全免费视频| 欧美精品亚洲一区二区| 亚洲人成电影免费在线| 亚洲第一av免费看| 制服人妻中文乱码| 欧美激情极品国产一区二区三区| 免费日韩欧美在线观看| 国产精品偷伦视频观看了| 日韩欧美国产一区二区入口| 多毛熟女@视频| 19禁男女啪啪无遮挡网站| 99国产精品一区二区三区| 嫁个100分男人电影在线观看| 亚洲av成人不卡在线观看播放网| 夫妻午夜视频| 亚洲成av片中文字幕在线观看| 女人爽到高潮嗷嗷叫在线视频| 最近最新免费中文字幕在线| 精品电影一区二区在线| 大码成人一级视频| 一二三四社区在线视频社区8| 亚洲欧美一区二区三区久久| 国产黄色免费在线视频| 中文字幕制服av| 女警被强在线播放| av天堂在线播放| 最新在线观看一区二区三区| 免费黄频网站在线观看国产| 欧美成人免费av一区二区三区 | 交换朋友夫妻互换小说| 水蜜桃什么品种好| 麻豆av在线久日| 自线自在国产av| 国产成人啪精品午夜网站| 天堂√8在线中文| 欧美国产精品va在线观看不卡| 香蕉国产在线看| 无遮挡黄片免费观看| 丰满迷人的少妇在线观看| 亚洲九九香蕉| 亚洲熟女毛片儿| 女人精品久久久久毛片| 午夜福利,免费看| 成人永久免费在线观看视频| 91国产中文字幕| 亚洲国产毛片av蜜桃av| 黄色怎么调成土黄色| 亚洲av第一区精品v没综合| 亚洲精品中文字幕在线视频| 精品欧美一区二区三区在线| 国产欧美日韩精品亚洲av| 免费日韩欧美在线观看| 在线观看日韩欧美| av在线播放免费不卡| 亚洲精品av麻豆狂野| 男女下面插进去视频免费观看| 午夜视频精品福利| 午夜成年电影在线免费观看| videosex国产| 女同久久另类99精品国产91| 亚洲免费av在线视频| 深夜精品福利| 欧美日韩瑟瑟在线播放| 国产欧美日韩综合在线一区二区| 日韩欧美一区视频在线观看| 午夜日韩欧美国产| 这个男人来自地球电影免费观看| 男女午夜视频在线观看| 91老司机精品| 最近最新中文字幕大全免费视频| ponron亚洲| 黑人猛操日本美女一级片| 国产一区二区三区在线臀色熟女 | 一本一本久久a久久精品综合妖精| 国产免费男女视频| 久久香蕉激情| av视频免费观看在线观看| 亚洲欧美一区二区三区久久| 成人手机av| 国产真人三级小视频在线观看| 亚洲 欧美一区二区三区| 69av精品久久久久久| 18禁观看日本| 久久ye,这里只有精品| 欧美激情高清一区二区三区| 美女视频免费永久观看网站| 免费久久久久久久精品成人欧美视频| 亚洲av日韩精品久久久久久密| 黑人巨大精品欧美一区二区mp4| 亚洲免费av在线视频| 亚洲熟妇中文字幕五十中出 | 国产av一区二区精品久久| 欧美日韩国产mv在线观看视频| 国产色视频综合| av在线播放免费不卡| 色播在线永久视频| 欧美精品一区二区免费开放| 精品视频人人做人人爽| 99久久99久久久精品蜜桃| 91国产中文字幕| av在线播放免费不卡| 亚洲av成人一区二区三| 中文欧美无线码| 成年动漫av网址| 咕卡用的链子| 男人操女人黄网站| 久久精品国产亚洲av香蕉五月 | 麻豆av在线久日| 波多野结衣av一区二区av| 啦啦啦在线免费观看视频4| 在线观看午夜福利视频| 丁香欧美五月| 看黄色毛片网站| 欧美乱妇无乱码| 精品一品国产午夜福利视频| 咕卡用的链子| 亚洲一卡2卡3卡4卡5卡精品中文| 久久精品国产亚洲av香蕉五月 | 国产成人影院久久av| 日韩成人在线观看一区二区三区| 亚洲色图综合在线观看| 在线观看午夜福利视频| 一级a爱片免费观看的视频| 热re99久久国产66热| 欧美成狂野欧美在线观看| 精品人妻在线不人妻| 国产免费男女视频|