• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于深度殘差網(wǎng)絡(luò)的人臉表情識(shí)別

    2019-02-27 02:28:02盧官明朱海銳閆靜杰
    數(shù)據(jù)采集與處理 2019年1期
    關(guān)鍵詞:深度模型

    盧官明 朱海銳 郝 強(qiáng) 閆靜杰

    (南京郵電大學(xué)通信與信息工程學(xué)院,南京,210003)

    引 言

    在人類交流過程中,人臉表情不僅可以呈現(xiàn)交流者的情緒狀態(tài),更能傳遞交流者的情感信息。如何讓機(jī)器像人類一樣能夠理解和表達(dá)情感,從而實(shí)現(xiàn)人和機(jī)器的智能交互,是當(dāng)前人工智能領(lǐng)域的重要研究課題。人臉表情識(shí)別作為情感計(jì)算的關(guān)鍵技術(shù),在患者情緒狀態(tài)分析、疲勞檢測(cè)、抑郁癥的嚴(yán)重程度和疼痛程度評(píng)估[1]等方面有著廣闊的應(yīng)用前景。

    在基于傳統(tǒng)機(jī)器學(xué)習(xí)的表情識(shí)別系統(tǒng)中,面部表情的特征提取與分類器設(shè)計(jì)是分離的,要想獲得好的識(shí)別性能,須要提取出具有良好鑒別能力的特征,同時(shí)又要設(shè)計(jì)合適的分類器。國內(nèi)外學(xué)者在這兩方面都進(jìn)行了大量的研究,提出了基于Gabor小波變換[2]、方向梯度直方圖(Histogram of oriented gra?dients,HOG)[3]、局部二值模式(Local binary pattern,LBP)[4-5]、流形學(xué)習(xí)[6]的特征提取方法,以及基于支持向量機(jī)(Support vector machine,SVM)[7]的分類器等。由于人臉表情具有高維、非剛性、多尺度變化、易受光照和角度影響等特點(diǎn),基于傳統(tǒng)機(jī)器學(xué)習(xí)的表情識(shí)別算法的性能依賴于人工提取特征的優(yōu)劣,人為干擾因素較大,算法的魯棒性和識(shí)別精度有待提高。

    近年來,深度卷積神經(jīng)網(wǎng)絡(luò)(Deep convolutional neural network,DCNN)在圖像分類和識(shí)別等領(lǐng)域取得了突破性的進(jìn)展[8]。2014年,牛津大學(xué)視覺幾何組(Visual Geometry group,VGG)提出的VGGNet模型[9]在ILSVRC比賽中將Top-5錯(cuò)誤率降到了7.32%。Google團(tuán)隊(duì)提出的GoogLeNet模型(又稱In?ception模型)及其后續(xù)版本[10-13],將ImageNet數(shù)據(jù)集上的Top-5錯(cuò)誤率降低至4.8%。然而,隨著網(wǎng)絡(luò)深度的增加,訓(xùn)練網(wǎng)絡(luò)時(shí)由于會(huì)出現(xiàn)梯度消失或梯度爆炸的問題而使訓(xùn)練變得困難。為了解決上述問題,何愷明等人提出了深度殘差網(wǎng)絡(luò)ResNet[14]。該網(wǎng)絡(luò)采用殘差學(xué)習(xí)單元作為基本組成部分,在原始卷積層外部加入捷徑連接(Shortcut connections)支路構(gòu)成基本殘差學(xué)習(xí)單元,通過順序疊加殘差學(xué)習(xí)單元成功地緩解了DCNN難以訓(xùn)練和性能退化問題,在2015年的ILSVRC比賽中奪得冠軍,將Top-5錯(cuò)誤率降低至3.57%。在ResNet推出后不久,Google團(tuán)隊(duì)就借鑒了ResNet的思想,提出了Inception V 4和Inception-ResNet-V 2兩種網(wǎng)絡(luò)模型[15],并通過融合這兩種網(wǎng)絡(luò)模型,在ILSVRC比賽中將Top-5錯(cuò)誤率降到了3.08%??梢姡琑esNet及其思想具有很強(qiáng)的推廣性。

    DCNN在圖像分類和識(shí)別領(lǐng)域取得的突破性進(jìn)展,也為研究表情識(shí)別提供了基礎(chǔ)與借鑒。盧官明等人[16]設(shè)計(jì)了一種用于人臉表情識(shí)別的卷積神經(jīng)網(wǎng)絡(luò)(CNN)模型,其中包括3層卷積層、2層池化層、1層全連接層和1層Softmax層,將表情特征提取和表情分類兩個(gè)步驟結(jié)合在一起,同時(shí)采取Dropout和數(shù)據(jù)集擴(kuò)增策略緩解了網(wǎng)絡(luò)的過擬合問題,在擴(kuò)充的Cohn-Kanade人臉表情數(shù)據(jù)集(The Extended Cohn-Kanade database,CK+)上進(jìn)行了實(shí)驗(yàn),取得了84.55%的平均識(shí)別準(zhǔn)確率。李勇等人[17]提出了一種跨連接LeNet-5卷積神經(jīng)網(wǎng)絡(luò)用于人臉表情識(shí)別,在CK+表情數(shù)據(jù)集上取得了83.74%的平均識(shí)別準(zhǔn)確率。然而,目前大多數(shù)用于人臉表情識(shí)別的DCNN模型都是在CK+等表情數(shù)據(jù)集上訓(xùn)練得到的,由于CK+表情數(shù)據(jù)集上的圖像都是正面拍攝的圖像,與實(shí)際應(yīng)用場(chǎng)景中采集的人臉圖像有較大的差別,而且每類表情圖像的樣本數(shù)量有限,所以,在CK+表情數(shù)據(jù)集上訓(xùn)練得到的模型容易產(chǎn)生過擬合現(xiàn)象,會(huì)導(dǎo)致模型的泛化能力很弱。為了提高網(wǎng)絡(luò)模型的泛化能力,本文從KDEF(Karolinska direct?ed emotional faces)和CK+兩種表情數(shù)據(jù)集上選取表情圖像樣本組成混合數(shù)據(jù)集以用于訓(xùn)練網(wǎng)絡(luò),提出了一種基于殘差學(xué)習(xí)單元的深度殘差網(wǎng)絡(luò),探索提高人臉表情識(shí)別準(zhǔn)確率和魯棒性的新途徑。

    1 殘差學(xué)習(xí)的基本思想

    從在ILSVRC比賽中取得的成績來看,卷積神經(jīng)網(wǎng)絡(luò)在圖像分類識(shí)別任務(wù)上的性能在很大程度上得益于較深的網(wǎng)絡(luò)模型。那么,是否可以簡單地通過增加卷積層數(shù)就能提高卷積神經(jīng)網(wǎng)絡(luò)的特征學(xué)習(xí)能力和分類識(shí)別性能?文獻(xiàn)[18]指出如果單純地通過堆疊卷積層來增加網(wǎng)絡(luò)深度,那么當(dāng)卷積層數(shù)增加到某個(gè)值后,分類識(shí)別的準(zhǔn)確率反而會(huì)下降。為了解決隨卷積層數(shù)的增加而引起的性能退化問題,文獻(xiàn)[14]提出一種深度殘差學(xué)習(xí)框架,其基本思想是在構(gòu)建卷積神經(jīng)網(wǎng)絡(luò)時(shí)通過加入捷徑連接(Short?cut connections)支路構(gòu)成基本殘差學(xué)習(xí)單元,利用堆疊的非線性卷積層來擬合一個(gè)殘差映射。假設(shè)期望的網(wǎng)絡(luò)層映射為H(x),殘差映射R(x):=H(x)-x,其中,x 為輸入信號(hào),則H(x)=R(x)+x,即期望得到的實(shí)際映射H(x)不是傳統(tǒng)神經(jīng)網(wǎng)絡(luò)中的輸入的映射,而是輸入的映射(即殘差映射R(x))和輸入x的相加。通過殘差學(xué)習(xí)單元將卷積層對(duì)H(x)的學(xué)習(xí)轉(zhuǎn)化為對(duì)R(x)的學(xué)習(xí)。這里假設(shè)對(duì)殘差映射R(x)進(jìn)行學(xué)習(xí)可能會(huì)比直接對(duì)期望的實(shí)際映射H(x)進(jìn)行學(xué)習(xí)更加容易。

    殘差學(xué)習(xí)單元的結(jié)構(gòu)示意圖如圖1所示。圖1中的捷徑連接執(zhí)行一個(gè)簡單的恒等映射(Identity mapping),既沒有引入新的參數(shù),也沒有增加計(jì)算復(fù)雜度。將殘差學(xué)習(xí)單元應(yīng)用于深度卷積神經(jīng)網(wǎng)絡(luò)可以有效緩解網(wǎng)絡(luò)模型訓(xùn)練時(shí)反向傳播中的梯度消失問題,進(jìn)而解決了深層網(wǎng)絡(luò)難以訓(xùn)練和性能退化的問題。

    圖1 殘差學(xué)習(xí)單元的結(jié)構(gòu)示意圖Fig.1 Building block for residual learning

    2 深度殘差網(wǎng)絡(luò)的結(jié)構(gòu)

    本文提出的深度殘差網(wǎng)絡(luò)的結(jié)構(gòu)如圖2所示,包括依次相連的卷積層、批歸一化(Batch normalization)層、修正線性單元(Rectified linear unit,ReLU)激活函數(shù)層、殘差學(xué)習(xí)模塊1、殘差學(xué)習(xí)模塊2、殘差學(xué)習(xí)模塊3、全局池化層、全連接層和Softmax分類層。輸入圖像首先經(jīng)過4個(gè)3×3的卷積核進(jìn)行卷積操作,步長為1,填充為1。全局池化層在32×32窗口內(nèi)進(jìn)行平均池化操作,步長為1。全連接層的輸出神經(jīng)元數(shù)設(shè)為7,對(duì)應(yīng)7種不同的表情類別,輸出1個(gè)7維向量。最后通過Softmax分類器輸出分類結(jié)果。

    殘差學(xué)習(xí)模塊1的結(jié)構(gòu)如圖3所示,包括若干個(gè)依次相連的具有相同結(jié)構(gòu)的殘差學(xué)習(xí)單元A。

    殘差學(xué)習(xí)模塊2的結(jié)構(gòu)如圖4所示,包括1個(gè)殘差學(xué)習(xí)單元B和若干個(gè)依次相連的具有相同結(jié)構(gòu)的殘差學(xué)習(xí)單元A。

    殘差學(xué)習(xí)模塊3的結(jié)構(gòu)如圖5所示,包括1個(gè)殘差學(xué)習(xí)單元B和若干個(gè)個(gè)依次相連的具有相同結(jié)構(gòu)的殘差學(xué)習(xí)單元A。

    3個(gè)不同殘差學(xué)習(xí)模塊中的殘差學(xué)習(xí)單元A的結(jié)構(gòu)都相同,如圖6所示,其區(qū)別在于殘差學(xué)習(xí)單元A中卷積層所用的卷積核的數(shù)量有所不同。

    圖2 深度殘差網(wǎng)絡(luò)的結(jié)構(gòu)示意圖Fig.2 A block diagram of the deep residual network

    圖3 殘差學(xué)習(xí)模塊1的結(jié)構(gòu)示意圖Fig.3 A block diagram of the module-1 for residual learning

    圖4 殘差學(xué)習(xí)模塊2的結(jié)構(gòu)示意圖Fig.4 A block diagram of the mod?ule-2 for residual learning

    圖5 殘差學(xué)習(xí)模塊3的結(jié)構(gòu)示意圖Fig.5 A block diagram of the mod?ule-3 for residual learning

    圖6 殘差學(xué)習(xí)單元A的結(jié)構(gòu)示意圖Fig.6 A building block-A for residual learning

    圖7 殘差學(xué)習(xí)單元B的結(jié)構(gòu)示意圖Fig.7 A building block-B for residual learning

    同樣,殘差學(xué)習(xí)模塊2和殘差學(xué)習(xí)模塊3中的殘差學(xué)習(xí)單元B的結(jié)構(gòu)是相同的,如圖7所示,其區(qū)別在于殘差學(xué)習(xí)單元B中卷積層所用的卷積核的數(shù)量有所不同。

    例如,當(dāng)殘差學(xué)習(xí)模塊1、殘差學(xué)習(xí)模塊2和殘差學(xué)習(xí)模塊3分別包含6個(gè)殘差學(xué)習(xí)單元時(shí),殘差網(wǎng)絡(luò)的深度為38層;當(dāng)殘差學(xué)習(xí)模塊1、殘差學(xué)習(xí)模塊2和殘差學(xué)習(xí)模塊3分別包含12個(gè)殘差學(xué)習(xí)單元時(shí),殘差網(wǎng)絡(luò)的深度為74層。這里所指的殘差網(wǎng)絡(luò)的深度是指卷積神經(jīng)網(wǎng)絡(luò)中不考慮捷徑連接支路所包含的卷積層和全連接層的總層數(shù)。

    3 深度殘差網(wǎng)絡(luò)模型的參數(shù)初始化和訓(xùn)練

    3.1 網(wǎng)絡(luò)模型參數(shù)的初始化

    網(wǎng)絡(luò)模型參數(shù)的初始化是一件很重要的事情。傳統(tǒng)的固定方差的高斯分布初始化,是使權(quán)重初始值滿足給定均值和標(biāo)準(zhǔn)差的高斯分布,但網(wǎng)絡(luò)層數(shù)增加使模型很難收斂。Xavier初始化方法[19]是為了讓網(wǎng)絡(luò)前向傳播和反向傳播時(shí)每一層方差盡量一致的一種方法,在推導(dǎo)的時(shí)候假設(shè)激活函數(shù)是線性的。而本文的深度殘差網(wǎng)絡(luò)采用ReLU非線性激活函數(shù),因此,優(yōu)先考慮采用基于ReLU設(shè)計(jì)的msra初始化方法[20]。msra初始化方法讓每個(gè)卷積層的權(quán)重初始值滿足均值為0、標(biāo)準(zhǔn)差為 2/Nl高斯分布,其中Nl是第l層輸入的個(gè)數(shù)。全連接層中所有權(quán)重初始值為0。

    3.2 網(wǎng)絡(luò)模型參數(shù)的訓(xùn)練和優(yōu)化

    CNN本質(zhì)上實(shí)現(xiàn)一種輸入到輸出的映射關(guān)系,能夠?qū)W習(xí)大量輸入與輸出之間的映射關(guān)系,不需要任何輸入和輸出之間的精確數(shù)學(xué)表達(dá)式,只要用已知的模式對(duì)CNN加以訓(xùn)練,就可以使網(wǎng)絡(luò)具有輸入輸出之間的映射能力。CNN執(zhí)行的是有監(jiān)督訓(xùn)練,訓(xùn)練過程分為前向傳播和反向傳播兩個(gè)階段,其中前向傳播階段就是利用隱層提取特征的過程,主要是卷積和池化操作;反向傳播階段采用反向傳播(BP)算法傳遞誤差,更新權(quán)重參數(shù)。

    (1)前向傳播階段。從訓(xùn)練集中隨機(jī)選取24個(gè)小批量(Mini-batch)樣本,同時(shí)輸入到網(wǎng)絡(luò),逐層傳播下去,最后Softmax分類層輸出24個(gè)7維向量,向量中的每個(gè)元素分別代表輸入樣本被分到對(duì)應(yīng)表情類別的概率。

    (2)反向傳播階段,也稱為誤差傳播階段。首先根據(jù)交叉熵(Cross-entropy)損失函數(shù)計(jì)算出損失值,然后使用文獻(xiàn)[21]的算法更新網(wǎng)絡(luò)中每個(gè)可訓(xùn)練的權(quán)重參數(shù)使得損失值最小化,以優(yōu)化整個(gè)網(wǎng)絡(luò)。

    4 實(shí)驗(yàn)結(jié)果與分析

    本文實(shí)驗(yàn)是在開源深度學(xué)習(xí)框架Caffe上完成的。實(shí)驗(yàn)硬件平臺(tái)為Intel(R)Core(TM)i5-6500 CPU,主頻為 3.2 GHz,內(nèi)存為 8 GB,操作系統(tǒng)為Ubuntu16.04 LTS版本,搭載Linux內(nèi)核,同時(shí)借助NVIDIA GTX 1080TIGPU進(jìn)行加速處理。

    4.1 表情數(shù)據(jù)集

    本文采用KDEF(The Karolinska Directed Emotional Faces)[22]和CK+(The extended Cohn-Kanade Dataset)[23]兩個(gè)表情數(shù)據(jù)集。KDEF表情數(shù)據(jù)集包含了20歲至30歲年齡段的70位業(yè)余演員(35位女性和35位男性)的7類表情圖像,共有4 900幅,其中,有表情類別標(biāo)簽的圖像有4 898幅,每類表情圖像的數(shù)量如表1所示。拍攝角度包括左側(cè)面(Full left profile)、半左側(cè)面(Half left profile)、正面(Straight)、半右側(cè)面(Half right profile)、右側(cè)面(Full right profile)。

    CK+表情數(shù)據(jù)集包括了123位受試者的593個(gè)視頻序列,其中有327個(gè)視頻序列的最后一幀標(biāo)記了表情的標(biāo)簽,每類表情圖像的數(shù)量如表2所示。

    由于CK+和KDEF表情數(shù)據(jù)集中的表情類別不完全一致,實(shí)驗(yàn)中我們從CK+表情數(shù)據(jù)集中舍棄了類別標(biāo)簽為輕蔑的18幀表情圖像,從KDEF和CK+表情數(shù)據(jù)集中選取了7類表情共5170幅表情圖像,其中每類表情圖像的數(shù)量如表3所示。

    表1 KDEF表情數(shù)據(jù)集中每類表情圖像的數(shù)量Tab.1 The number of images for each expression clas?sification on the KDEF dataset

    表2 CK+表情數(shù)據(jù)集中每類表情圖像的數(shù)量Tab.2 The number of images for each expression clas?sification on the CK+dataset

    表3 實(shí)驗(yàn)中使用的每類表情圖像的數(shù)量Tab.3 The number of used images for each expres?sion classification in experiment

    實(shí)驗(yàn)中先將所有圖像剪裁成128像素×128像素大小,如圖8所示,并對(duì)像素值進(jìn)行歸一化操作。為了提高識(shí)別結(jié)果的可靠性,實(shí)驗(yàn)中采用十折(10-fold)交叉驗(yàn)證方法,即將每類表情圖像平均分成10份,每次實(shí)驗(yàn)使用其中的1份用作測(cè)試樣本集,其余的9份用作訓(xùn)練樣本集,并采用鏡像翻轉(zhuǎn)的方式對(duì)訓(xùn)練樣本進(jìn)行擴(kuò)充,將訓(xùn)練樣本數(shù)擴(kuò)充1倍,即共有9 306幅圖像。這樣的識(shí)別實(shí)驗(yàn)重復(fù)10次,最后取10次的平均識(shí)別率。

    圖8 實(shí)驗(yàn)中使用的7類表情圖像的樣例Fig.8 Samples of seven classifications of facial expression images used in the experiment

    4.2 實(shí)驗(yàn)結(jié)果與分析

    為了比較帶有殘差學(xué)習(xí)單元的深度殘差網(wǎng)絡(luò)(ResNet)與不帶殘差學(xué)習(xí)單元的DCNN以及不同網(wǎng)絡(luò)深度所具有的表情識(shí)別性能,實(shí)驗(yàn)對(duì)比了20,38,56,74層帶有殘差學(xué)習(xí)單元的ResNet與相同深度但不帶殘差學(xué)習(xí)單元的DCNN的識(shí)別準(zhǔn)確率,其結(jié)果如圖9所示。其中,74層ResNet的表情識(shí)別混淆矩陣如表4所示。在對(duì)比實(shí)驗(yàn)中,所謂的不帶殘差學(xué)習(xí)單元的DCNN,是指僅僅把帶有殘差學(xué)習(xí)單元的深度殘差網(wǎng)絡(luò)中的捷徑連接支路刪除后的堆疊DCNN,其他各層的操作都是一樣的。

    由圖9可知,當(dāng)采用不帶殘差學(xué)習(xí)單元的普通堆疊DCNN時(shí),隨著網(wǎng)絡(luò)深度從20層增加到38層,表情識(shí)別準(zhǔn)確率相應(yīng)地從87.02%增加到87.20%,提升不明顯;但隨著網(wǎng)絡(luò)深度從38層進(jìn)一步增加到56,74層時(shí),表情識(shí)別準(zhǔn)確率并不會(huì)隨著層數(shù)的增加而增加,反而從87.20%降低到86.71%、86.23%,出現(xiàn)了識(shí)別性能的退化現(xiàn)象,收斂性較差。反之,當(dāng)采用帶有殘差學(xué)習(xí)單元的ResNet時(shí),隨著網(wǎng)絡(luò)深度從20層增加到38層、56層、74層,表情識(shí)別準(zhǔn)確率相應(yīng)地從86.77%增加到88.97%、89.48%、90.79%,沒有出現(xiàn)識(shí)別性能的退化現(xiàn)象,收斂性較好。實(shí)驗(yàn)結(jié)果表明采用殘差單元構(gòu)建的深度卷積神經(jīng)網(wǎng)絡(luò)可以解決網(wǎng)絡(luò)深度和模型收斂性之間的矛盾,隨著網(wǎng)絡(luò)深度的加深,能夠?qū)W習(xí)到鑒別能力更強(qiáng)的表情特征,可提升表情識(shí)別的準(zhǔn)確率和魯棒性。

    圖9 不同結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)的表情識(shí)別準(zhǔn)確率比較Fig.9 Comparison among different neural networks in term of expression recognition accuracy

    表4 74層ResNet的表情識(shí)別混淆矩陣Tab.4 Confusion matrix for ResNet with 74 layers%

    由表4可知,當(dāng)采用74層的ResNet時(shí),中性和高興這兩類表情的識(shí)別準(zhǔn)確率分別達(dá)到96.14%和97.89%,憤怒、厭惡、悲傷和驚訝4類表情的識(shí)別準(zhǔn)確率也分別達(dá)到了88.92%、90.93%、86.39%和92.69%。害怕和驚訝兩種表情容易被混淆,驚訝表情被誤判為害怕表情的概率為5.77%,而害怕表情被誤判為驚訝表情的概率為5.56%。另外,憤怒表情也容易被誤判為厭惡表情,誤判概率為5.00%。

    5 結(jié)束語

    深度卷積神經(jīng)網(wǎng)絡(luò)通過組合多層神經(jīng)元,提取不同層次的特征,不斷迭代組合成更高層次的抽象特征,相比傳統(tǒng)的人工設(shè)計(jì)特征具有更強(qiáng)的特征表達(dá)能力和泛化能力。但是,隨著卷積神經(jīng)網(wǎng)絡(luò)深度的加深,一方面由于在訓(xùn)練網(wǎng)絡(luò)時(shí)會(huì)出現(xiàn)梯度消失或梯度爆炸的問題而使訓(xùn)練變得困難,另一方面由于網(wǎng)絡(luò)模型結(jié)構(gòu)越來越復(fù)雜,隨之帶來的不利因素就是更大的計(jì)算量和更高的內(nèi)存需求,這會(huì)極大地影響模型對(duì)輸入圖像的處理速度。針對(duì)深度卷積神經(jīng)網(wǎng)絡(luò)隨著卷積層數(shù)增加而導(dǎo)致網(wǎng)絡(luò)模型難以訓(xùn)練和性能退化等問題,本文提出了一種基于深度殘差網(wǎng)絡(luò)的人臉表情識(shí)別方法。實(shí)驗(yàn)結(jié)果驗(yàn)證了所提出的方法的有效性,但仍然存在有待進(jìn)一步研究之處。一方面,深度神經(jīng)網(wǎng)絡(luò)是一種數(shù)據(jù)驅(qū)動(dòng)的監(jiān)督學(xué)習(xí)模型,需要從海量樣本數(shù)據(jù)中學(xué)習(xí)數(shù)據(jù)特征,只有通過大量的有標(biāo)簽樣本數(shù)據(jù)訓(xùn)練后才會(huì)獲得理想的識(shí)別效果;而目前本文所用的表情數(shù)據(jù)集還不夠充足,當(dāng)網(wǎng)絡(luò)深度進(jìn)一步加深時(shí),需要學(xué)習(xí)的權(quán)重參數(shù)過多會(huì)導(dǎo)致過擬合等問題。另一方面,本文對(duì)所提出的深度殘差網(wǎng)絡(luò)采用基于端到端的訓(xùn)練,訓(xùn)練過程復(fù)雜,在計(jì)算能力有限的實(shí)驗(yàn)平臺(tái)條件下,再增加網(wǎng)絡(luò)深度有一定難度。然而,有研究表明,基于遷移學(xué)習(xí)(Transfer learning)的方法可以將從某一任務(wù)中學(xué)習(xí)到的特征遷移到新任務(wù)中,比如在Ima?geNet等大規(guī)模數(shù)據(jù)集上預(yù)先訓(xùn)練學(xué)習(xí)到的特征,在其他很多圖像識(shí)別任務(wù)中也取得了很好的結(jié)果。因此,下一步的研究工作將嘗試使用預(yù)先訓(xùn)練的深度殘差網(wǎng)絡(luò)ResNet-101、ResNet-152作為特征提取器,以解決因訓(xùn)練樣本數(shù)量不足而導(dǎo)致網(wǎng)絡(luò)模型出現(xiàn)過擬合問題。

    猜你喜歡
    深度模型
    一半模型
    深度理解一元一次方程
    重要模型『一線三等角』
    重尾非線性自回歸模型自加權(quán)M-估計(jì)的漸近分布
    深度觀察
    深度觀察
    深度觀察
    深度觀察
    3D打印中的模型分割與打包
    FLUKA幾何模型到CAD幾何模型轉(zhuǎn)換方法初步研究
    成人无遮挡网站| 亚洲av中文av极速乱| 免费播放大片免费观看视频在线观看 | 亚洲,欧美,日韩| 22中文网久久字幕| 国产欧美另类精品又又久久亚洲欧美| 国产成人a∨麻豆精品| 久久精品夜色国产| 赤兔流量卡办理| 人妻夜夜爽99麻豆av| 七月丁香在线播放| 性色avwww在线观看| 男人狂女人下面高潮的视频| 中国美白少妇内射xxxbb| 国产极品精品免费视频能看的| 久久婷婷人人爽人人干人人爱| 最近中文字幕高清免费大全6| 韩国av在线不卡| 99久久精品一区二区三区| 你懂的网址亚洲精品在线观看 | 亚洲av成人精品一区久久| .国产精品久久| 国产一区二区在线观看日韩| 性插视频无遮挡在线免费观看| 久久草成人影院| av在线亚洲专区| 波多野结衣高清无吗| 国产黄a三级三级三级人| 国内精品宾馆在线| 国产色婷婷99| 中文字幕av成人在线电影| 国产av不卡久久| 99久国产av精品国产电影| 国产亚洲av片在线观看秒播厂 | 国产一区二区在线av高清观看| 国产高清国产精品国产三级 | 黄色一级大片看看| 中文字幕av在线有码专区| 久久精品国产自在天天线| www.色视频.com| 狂野欧美激情性xxxx在线观看| 亚洲va在线va天堂va国产| 人妻系列 视频| 精品久久久久久成人av| 免费观看精品视频网站| 三级经典国产精品| 又粗又爽又猛毛片免费看| 精华霜和精华液先用哪个| 我的女老师完整版在线观看| 一级二级三级毛片免费看| 亚洲av一区综合| 中文乱码字字幕精品一区二区三区 | 国产不卡一卡二| 久久99热这里只有精品18| 色综合亚洲欧美另类图片| 综合色丁香网| 99久国产av精品| 亚洲精品一区蜜桃| 在线观看66精品国产| 亚洲美女视频黄频| 好男人视频免费观看在线| 亚洲国产精品国产精品| 午夜福利在线观看免费完整高清在| 国产私拍福利视频在线观看| 国产精品久久久久久精品电影小说 | 日本色播在线视频| 亚洲五月天丁香| av线在线观看网站| 国产免费福利视频在线观看| 色哟哟·www| 国产精品美女特级片免费视频播放器| 亚洲性久久影院| 亚洲成人精品中文字幕电影| 丝袜美腿在线中文| 国产av一区在线观看免费| 三级男女做爰猛烈吃奶摸视频| 亚洲国产精品专区欧美| 一本久久精品| 小蜜桃在线观看免费完整版高清| 日韩人妻高清精品专区| 国产精品精品国产色婷婷| 日本黄色片子视频| 久久久久久久久久成人| 免费观看a级毛片全部| 女人十人毛片免费观看3o分钟| 午夜精品国产一区二区电影 | 直男gayav资源| 人人妻人人澡人人爽人人夜夜 | 久久久色成人| 久久人妻av系列| 精品一区二区三区人妻视频| 青春草亚洲视频在线观看| 国产精品一二三区在线看| 国产精品99久久久久久久久| 久久婷婷人人爽人人干人人爱| 国语对白做爰xxxⅹ性视频网站| 久久人妻av系列| 人妻夜夜爽99麻豆av| 久久精品综合一区二区三区| 免费黄色在线免费观看| 成人高潮视频无遮挡免费网站| 久久精品国产自在天天线| 18禁在线无遮挡免费观看视频| 亚洲天堂国产精品一区在线| 中文字幕av成人在线电影| 最近视频中文字幕2019在线8| a级毛色黄片| 久久精品国产亚洲av涩爱| 亚洲精品成人久久久久久| 一二三四中文在线观看免费高清| 亚洲在线观看片| 久久久久久九九精品二区国产| 日韩强制内射视频| 亚洲av不卡在线观看| 免费无遮挡裸体视频| www.色视频.com| 日本欧美国产在线视频| 免费一级毛片在线播放高清视频| 国产一区二区三区av在线| 69av精品久久久久久| 又爽又黄a免费视频| 欧美区成人在线视频| 亚州av有码| 国产精品美女特级片免费视频播放器| 国内精品一区二区在线观看| 欧美精品国产亚洲| 久久久国产成人精品二区| 欧美激情久久久久久爽电影| 国产精品国产三级国产av玫瑰| 久久久国产成人免费| 久久久欧美国产精品| 日本与韩国留学比较| 女人十人毛片免费观看3o分钟| videos熟女内射| 国产免费一级a男人的天堂| 精品久久久久久久久av| a级毛色黄片| 国产精品一区二区三区四区免费观看| 五月玫瑰六月丁香| 亚洲精品456在线播放app| 黄色日韩在线| 综合色av麻豆| 在线播放国产精品三级| 亚洲激情五月婷婷啪啪| 成人午夜高清在线视频| 久久精品熟女亚洲av麻豆精品 | www.色视频.com| 老司机影院成人| 91精品一卡2卡3卡4卡| 五月伊人婷婷丁香| 国产老妇伦熟女老妇高清| 亚洲成av人片在线播放无| 26uuu在线亚洲综合色| 男插女下体视频免费在线播放| 成人欧美大片| 成人国产麻豆网| 亚洲欧美清纯卡通| 亚洲精华国产精华液的使用体验| 亚洲综合色惰| 热99re8久久精品国产| 少妇熟女aⅴ在线视频| 色吧在线观看| 女人被狂操c到高潮| av天堂中文字幕网| 久久久久久久午夜电影| 亚洲国产精品久久男人天堂| 男人舔奶头视频| 最近中文字幕高清免费大全6| 老师上课跳d突然被开到最大视频| 久久久久久九九精品二区国产| 天美传媒精品一区二区| 青春草视频在线免费观看| 汤姆久久久久久久影院中文字幕 | 亚洲国产色片| 国产白丝娇喘喷水9色精品| 黑人高潮一二区| 久久人人爽人人片av| 色综合色国产| 男女国产视频网站| 国产高清三级在线| 亚洲欧美精品专区久久| 久久久国产成人免费| 欧美激情国产日韩精品一区| 久久精品影院6| 美女高潮的动态| 人体艺术视频欧美日本| 久久久精品欧美日韩精品| 久久精品国产亚洲av天美| 国产免费一级a男人的天堂| 日本av手机在线免费观看| videos熟女内射| 久久久午夜欧美精品| 国产精品久久久久久av不卡| 亚洲无线观看免费| 国产男人的电影天堂91| 亚洲久久久久久中文字幕| 一区二区三区高清视频在线| 亚洲高清免费不卡视频| 亚洲性久久影院| 色吧在线观看| 国产69精品久久久久777片| 国产精品一区二区在线观看99 | av视频在线观看入口| 久久久久久久亚洲中文字幕| 欧美日本亚洲视频在线播放| av女优亚洲男人天堂| 伊人久久精品亚洲午夜| 色综合站精品国产| 国产大屁股一区二区在线视频| 亚洲激情五月婷婷啪啪| 欧美成人一区二区免费高清观看| 亚洲人成网站在线观看播放| 日韩欧美三级三区| 欧美成人午夜免费资源| 亚洲欧美精品专区久久| 亚洲av免费高清在线观看| 欧美人与善性xxx| 亚洲自偷自拍三级| 直男gayav资源| 婷婷色麻豆天堂久久 | 日本免费一区二区三区高清不卡| 97热精品久久久久久| 赤兔流量卡办理| 99久久精品热视频| 建设人人有责人人尽责人人享有的 | 美女国产视频在线观看| 久热久热在线精品观看| 国产亚洲5aaaaa淫片| 插阴视频在线观看视频| 伦理电影大哥的女人| 日本猛色少妇xxxxx猛交久久| 午夜福利成人在线免费观看| 国产免费男女视频| 国产不卡一卡二| 亚洲精品国产av成人精品| av在线老鸭窝| 久久热精品热| 免费观看性生交大片5| 大又大粗又爽又黄少妇毛片口| 少妇丰满av| 亚洲成人久久爱视频| .国产精品久久| 99九九线精品视频在线观看视频| 99热这里只有是精品50| 菩萨蛮人人尽说江南好唐韦庄 | 色网站视频免费| 青春草亚洲视频在线观看| 亚洲人成网站高清观看| 99热网站在线观看| 欧美另类亚洲清纯唯美| 久久国产乱子免费精品| 成人av在线播放网站| 国产黄片美女视频| 一区二区三区四区激情视频| 日韩成人伦理影院| 亚洲国产欧美人成| 国产成人精品一,二区| 男人舔女人下体高潮全视频| 成人二区视频| 免费看a级黄色片| 国产亚洲精品久久久com| 黄色配什么色好看| 一个人免费在线观看电影| 夜夜爽夜夜爽视频| 国产精品一及| 99热这里只有精品一区| 亚洲欧美精品专区久久| 麻豆精品久久久久久蜜桃| 精品一区二区三区人妻视频| 午夜福利视频1000在线观看| 国产高清不卡午夜福利| 免费搜索国产男女视频| 日韩,欧美,国产一区二区三区 | 看免费成人av毛片| 成年女人永久免费观看视频| 观看免费一级毛片| 精品一区二区免费观看| 亚洲一区高清亚洲精品| 欧美又色又爽又黄视频| 国产麻豆成人av免费视频| 插逼视频在线观看| 国产精品久久久久久av不卡| 尾随美女入室| 少妇的逼好多水| 色尼玛亚洲综合影院| 免费看a级黄色片| 成人av在线播放网站| 中文亚洲av片在线观看爽| av视频在线观看入口| 在线播放无遮挡| 少妇的逼好多水| videos熟女内射| 男人舔女人下体高潮全视频| 亚洲av不卡在线观看| 国产三级在线视频| 桃色一区二区三区在线观看| 欧美又色又爽又黄视频| 午夜激情福利司机影院| 日韩人妻高清精品专区| 日韩 亚洲 欧美在线| 永久网站在线| 免费观看的影片在线观看| 三级经典国产精品| 欧美成人a在线观看| 两性午夜刺激爽爽歪歪视频在线观看| 一级二级三级毛片免费看| a级一级毛片免费在线观看| av免费在线看不卡| 老师上课跳d突然被开到最大视频| 久久精品国产自在天天线| 啦啦啦啦在线视频资源| 免费看a级黄色片| 狂野欧美白嫩少妇大欣赏| 亚洲电影在线观看av| 六月丁香七月| 在线观看66精品国产| 亚洲aⅴ乱码一区二区在线播放| 国产午夜精品论理片| 国国产精品蜜臀av免费| 精品久久久久久久人妻蜜臀av| 国产男人的电影天堂91| 国产 一区 欧美 日韩| 成人国产麻豆网| 亚洲欧美精品综合久久99| av在线观看视频网站免费| 国产黄色视频一区二区在线观看 | 久久精品久久久久久久性| 精品人妻偷拍中文字幕| 简卡轻食公司| 成人毛片a级毛片在线播放| 99久久精品国产国产毛片| 三级男女做爰猛烈吃奶摸视频| 一二三四中文在线观看免费高清| 成年版毛片免费区| 美女内射精品一级片tv| 夫妻性生交免费视频一级片| 一级毛片我不卡| 一个人看的www免费观看视频| 一区二区三区四区激情视频| 欧美不卡视频在线免费观看| 丝袜美腿在线中文| 亚洲av二区三区四区| 久久6这里有精品| 亚洲,欧美,日韩| 欧美性感艳星| 日韩国内少妇激情av| 嫩草影院精品99| 人人妻人人看人人澡| 亚洲欧洲日产国产| 国产又色又爽无遮挡免| 欧美性感艳星| 天天一区二区日本电影三级| av在线播放精品| 一个人看视频在线观看www免费| 一级毛片久久久久久久久女| 日本熟妇午夜| 69av精品久久久久久| 久久久久国产网址| 性插视频无遮挡在线免费观看| 成年版毛片免费区| 亚洲国产最新在线播放| 国产熟女欧美一区二区| 99久久精品国产国产毛片| 日本免费在线观看一区| 久久久久网色| 中文字幕av成人在线电影| 亚洲人与动物交配视频| 只有这里有精品99| 99久国产av精品| 欧美日韩精品成人综合77777| 蜜桃亚洲精品一区二区三区| 成人国产麻豆网| 亚洲不卡免费看| 午夜a级毛片| 欧美成人午夜免费资源| 免费电影在线观看免费观看| 国产成人a区在线观看| 国产欧美另类精品又又久久亚洲欧美| 国产探花在线观看一区二区| 久久久久久大精品| 91狼人影院| 一级毛片久久久久久久久女| 黄色一级大片看看| 亚洲婷婷狠狠爱综合网| 在线天堂最新版资源| 亚洲欧美清纯卡通| 一区二区三区高清视频在线| 韩国av在线不卡| 自拍偷自拍亚洲精品老妇| 国产亚洲一区二区精品| 欧美日韩精品成人综合77777| 欧美极品一区二区三区四区| 久久久久久伊人网av| 国产大屁股一区二区在线视频| 在线免费观看的www视频| 真实男女啪啪啪动态图| 国产精品一区二区三区四区久久| 可以在线观看毛片的网站| 精品久久国产蜜桃| 亚洲无线观看免费| 亚洲aⅴ乱码一区二区在线播放| 欧美不卡视频在线免费观看| 亚洲综合精品二区| 永久免费av网站大全| 精品人妻熟女av久视频| 久久99蜜桃精品久久| 国产一级毛片在线| 久久亚洲精品不卡| 亚洲人成网站高清观看| 一级毛片电影观看 | 变态另类丝袜制服| 联通29元200g的流量卡| 中文字幕熟女人妻在线| 亚洲最大成人中文| 好男人视频免费观看在线| 亚洲中文字幕日韩| 亚洲国产精品成人久久小说| 人人妻人人澡欧美一区二区| 国产欧美日韩精品一区二区| 我要看日韩黄色一级片| 色网站视频免费| 男插女下体视频免费在线播放| 精品一区二区三区人妻视频| 少妇熟女欧美另类| www日本黄色视频网| 亚洲人成网站在线播| 国产一区二区在线观看日韩| 又爽又黄a免费视频| 精品午夜福利在线看| 国产激情偷乱视频一区二区| 一级二级三级毛片免费看| 看免费成人av毛片| 国产在视频线精品| 男女啪啪激烈高潮av片| 一级av片app| 最新中文字幕久久久久| 久久精品国产鲁丝片午夜精品| 七月丁香在线播放| 日韩一区二区视频免费看| 最近视频中文字幕2019在线8| 日韩国内少妇激情av| 一区二区三区四区激情视频| 你懂的网址亚洲精品在线观看 | 亚洲成人中文字幕在线播放| 中文字幕人妻熟人妻熟丝袜美| av又黄又爽大尺度在线免费看 | 国产男人的电影天堂91| 国产亚洲精品av在线| 一区二区三区四区激情视频| 日本黄色视频三级网站网址| 亚洲欧美一区二区三区国产| 婷婷色综合大香蕉| 国产色爽女视频免费观看| 国产精品三级大全| 两性午夜刺激爽爽歪歪视频在线观看| .国产精品久久| 国产人妻一区二区三区在| 久久久久久久久久成人| 九九热线精品视视频播放| 国产日韩欧美在线精品| 日韩中字成人| 三级国产精品片| 日韩人妻高清精品专区| 国内精品宾馆在线| 黄色一级大片看看| 免费看美女性在线毛片视频| 欧美变态另类bdsm刘玥| 中文精品一卡2卡3卡4更新| 国产在视频线在精品| 日本wwww免费看| 亚洲av电影不卡..在线观看| 中文欧美无线码| 国产麻豆成人av免费视频| 91久久精品电影网| 国内精品宾馆在线| 亚洲电影在线观看av| 日韩高清综合在线| 成年版毛片免费区| 午夜免费激情av| 久久热精品热| 18禁动态无遮挡网站| 久久久久久久久大av| 免费一级毛片在线播放高清视频| 久久精品久久精品一区二区三区| 欧美日韩一区二区视频在线观看视频在线 | 白带黄色成豆腐渣| 在线免费十八禁| 国产av在哪里看| 蜜桃久久精品国产亚洲av| 黑人高潮一二区| 91精品一卡2卡3卡4卡| 一个人观看的视频www高清免费观看| 欧美三级亚洲精品| 国产亚洲一区二区精品| 亚洲av男天堂| 日韩欧美在线乱码| 久久午夜福利片| 天天躁夜夜躁狠狠久久av| 女的被弄到高潮叫床怎么办| 黑人高潮一二区| 国产午夜精品论理片| 能在线免费看毛片的网站| 日韩av不卡免费在线播放| 老司机福利观看| 在线免费观看的www视频| 亚洲成av人片在线播放无| 嫩草影院入口| 91午夜精品亚洲一区二区三区| 亚洲av电影不卡..在线观看| 99在线人妻在线中文字幕| 国产成人freesex在线| 国产亚洲精品久久久com| 日本与韩国留学比较| 中文字幕人妻熟人妻熟丝袜美| 亚洲精品国产成人久久av| 白带黄色成豆腐渣| 亚洲成人久久爱视频| 色噜噜av男人的天堂激情| 中文字幕久久专区| 一区二区三区四区激情视频| 1000部很黄的大片| 午夜福利成人在线免费观看| 有码 亚洲区| 色综合色国产| 亚洲欧美一区二区三区国产| 久久这里只有精品中国| 看黄色毛片网站| 一区二区三区免费毛片| 日产精品乱码卡一卡2卡三| 在线播放国产精品三级| 听说在线观看完整版免费高清| .国产精品久久| 在线免费观看不下载黄p国产| 亚洲怡红院男人天堂| 看片在线看免费视频| 少妇猛男粗大的猛烈进出视频 | 精品熟女少妇av免费看| 婷婷色av中文字幕| 午夜精品在线福利| 国产亚洲5aaaaa淫片| 乱码一卡2卡4卡精品| 听说在线观看完整版免费高清| 老司机影院毛片| 99热全是精品| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 日韩 亚洲 欧美在线| 久久亚洲精品不卡| 18+在线观看网站| 性色avwww在线观看| 国产精品福利在线免费观看| 国产成人a区在线观看| 久久99热这里只频精品6学生 | 能在线免费看毛片的网站| 日产精品乱码卡一卡2卡三| 国产亚洲av片在线观看秒播厂 | 天天躁日日操中文字幕| 久久久午夜欧美精品| 老师上课跳d突然被开到最大视频| 一级二级三级毛片免费看| 欧美日韩一区二区视频在线观看视频在线 | 久久亚洲精品不卡| 看黄色毛片网站| 一级毛片我不卡| 欧美日韩在线观看h| 夜夜爽夜夜爽视频| 日韩av在线大香蕉| 波多野结衣高清无吗| 老师上课跳d突然被开到最大视频| av在线天堂中文字幕| av.在线天堂| 久久草成人影院| 有码 亚洲区| 老司机影院毛片| 99热这里只有是精品在线观看| 亚洲av免费在线观看| 亚洲国产精品合色在线| 能在线免费观看的黄片| 国产伦精品一区二区三区视频9| 少妇的逼水好多| 丰满少妇做爰视频| 欧美日韩在线观看h| 成人一区二区视频在线观看| 亚洲婷婷狠狠爱综合网| 亚洲欧美精品专区久久| 大又大粗又爽又黄少妇毛片口| 男女视频在线观看网站免费| 免费看a级黄色片| 欧美97在线视频| 99国产精品一区二区蜜桃av| 婷婷色麻豆天堂久久 | 18禁在线播放成人免费| av.在线天堂| 欧美另类亚洲清纯唯美| 嫩草影院精品99| 国产精品一区二区性色av| 久久精品国产亚洲av天美| 久久综合国产亚洲精品| 欧美精品一区二区大全| 日韩欧美国产在线观看| 免费观看人在逋| 精品人妻偷拍中文字幕| 国产又黄又爽又无遮挡在线| 视频中文字幕在线观看| 日本免费一区二区三区高清不卡| 亚洲天堂国产精品一区在线| 免费观看性生交大片5| 国产三级中文精品| 国产综合懂色| 国产黄片视频在线免费观看| 国产三级中文精品| 国产一区有黄有色的免费视频 | 1024手机看黄色片| 搡女人真爽免费视频火全软件| 欧美日韩国产亚洲二区| 亚洲国产色片|