• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于改進(jìn)損失函數(shù)的YOLOv3網(wǎng)絡(luò)①

    2019-04-10 05:06:36鑠,蔡烜,馮
    關(guān)鍵詞:置信度導(dǎo)數(shù)梯度

    呂 鑠,蔡 烜,馮 瑞

    1(復(fù)旦大學(xué) 計(jì)算機(jī)科學(xué)技術(shù)學(xué)院,上海 201203)

    2(上海視頻技術(shù)與系統(tǒng)工程研究中心,上海 201203)

    3(復(fù)旦大學(xué) 智能信息處理實(shí)驗(yàn)室,上海 201203)

    4(公安部第三研究所物聯(lián)網(wǎng)技術(shù)研發(fā)中心,上海 201204)

    目標(biāo)檢測(cè)具有廣闊的發(fā)展前景和巨大的商業(yè)價(jià)值,已經(jīng)成為國(guó)內(nèi)外相關(guān)從業(yè)者的研究熱點(diǎn),在智能安防、自動(dòng)駕駛等領(lǐng)域具有廣泛應(yīng)用.經(jīng)典的目標(biāo)檢測(cè)方法有Dalal于2005年提出的基于HOG特征的檢測(cè)方法[1],Felzenswalb等人于2008年提出的可變行組件模型(Deformable Part Model,DPM)檢測(cè)方法[2],該方法先利用梯度算子計(jì)算出目標(biāo)物體的HOG特征并采用滑動(dòng)窗口+SVM的方法進(jìn)行分類(lèi),在目標(biāo)檢測(cè)問(wèn)題中表現(xiàn)良好.

    與經(jīng)典方法相比,深度神經(jīng)網(wǎng)絡(luò)提取特征能力強(qiáng),準(zhǔn)確率高,在計(jì)算機(jī)文本、圖像分析等領(lǐng)域取得令人矚目的成果,受益于深度學(xué)習(xí)的快速發(fā)展,基于卷積神經(jīng)網(wǎng)絡(luò)(CNN)的目標(biāo)檢測(cè)模型層出不窮,檢測(cè)效果不斷提升,Girshick R等人于2014年提出R-CNN網(wǎng)絡(luò)[3],采用選擇性搜索(selective search)方法代替?zhèn)鹘y(tǒng)的滑動(dòng)窗口,將VOC2012數(shù)據(jù)集上目標(biāo)檢測(cè)平均準(zhǔn)確率(mean Average Precision,mAP)提高了30%;Girshick R和Ren SQ等人相繼提出了Fast R-CNN[4]與Faster R-CNN[5]網(wǎng)絡(luò),Faster R-CNN采用區(qū)域推薦網(wǎng)絡(luò)(Region Proposal Network,RPN)生成候選框,再對(duì)這些候選框進(jìn)行分類(lèi)和坐標(biāo)回歸,檢測(cè)精度大幅提升,檢測(cè)速度約5 fps,這些方法由于生成候選框和進(jìn)行預(yù)測(cè)分成兩個(gè)步驟進(jìn)行,所以稱(chēng)為為T(mén)wo-Stage方法,同時(shí)進(jìn)行這兩種操作的網(wǎng)絡(luò)稱(chēng)為One-Stage方法,代表有YOLO[6],SSD[7]等.2016年Redmon J等提出YOLO網(wǎng)絡(luò),其特點(diǎn)是將生成候選框與分類(lèi)回歸合并成一個(gè)步驟,預(yù)測(cè)時(shí)特征圖被分成S×S(S為常數(shù),在YOLOv1中取7)個(gè)cell,對(duì)每個(gè)cell進(jìn)行預(yù)測(cè),這就大大降低了計(jì)算復(fù)雜度,加快了目標(biāo)檢測(cè)的速度,幀率最高可達(dá)45 fps,之后,Redmon J再次提出了YOLOv2[8],與前代相比,在VOC2007測(cè)試集上的mAP由67.4%提高到76.8%,然而由于一個(gè)cell只負(fù)責(zé)預(yù)測(cè)一個(gè)物體,面對(duì)被遮擋目標(biāo)的識(shí)別表現(xiàn)不夠好.2018年4月,YOLO發(fā)布第三個(gè)版本YOLOv3[9],在COCO數(shù)據(jù)集上的mAP-50由YOLOv2的44.0%提高到57.9%,與mAP61.1%的RetinaNet[10]相比,RetinaNet在輸入尺寸500×500的情況下檢測(cè)速度約98 ms/幀,而YOLOv3在輸入尺寸416×416時(shí)檢測(cè)速度可達(dá)29 ms/幀,在保證速度的前提下,達(dá)到了很高的準(zhǔn)確率.

    為了實(shí)現(xiàn)實(shí)時(shí)分析的目標(biāo),本文針對(duì)One-Stage方法的代表YOLOv3網(wǎng)絡(luò)模型進(jìn)行研究和改進(jìn),根據(jù)坐標(biāo)預(yù)測(cè)值和Sigmoid函數(shù)的特殊性質(zhì),將原版的損失函數(shù)進(jìn)行優(yōu)化,不僅減少了梯度消失的情況,而且可以使網(wǎng)絡(luò)收斂更加快速,同時(shí)通過(guò)分析數(shù)據(jù)集中目標(biāo)的分布情況修正anchor box,使得anchor box更加符合目標(biāo)尺寸,增強(qiáng)收斂效果,在Pascal VOC[11]數(shù)據(jù)集上的實(shí)驗(yàn)表明,在不影響檢測(cè)速度的情況下準(zhǔn)確率提高了1個(gè)百分點(diǎn)左右,且收斂速度變快,使目標(biāo)檢測(cè)能力進(jìn)一步提升.

    1 傳統(tǒng)YOLOv3網(wǎng)絡(luò)

    YOLO網(wǎng)絡(luò)將目標(biāo)檢測(cè)問(wèn)題轉(zhuǎn)化為回歸問(wèn)題,合并分類(lèi)和定位任務(wù)到一個(gè)步驟,直接預(yù)測(cè)物體的位置及類(lèi)別,檢測(cè)速度可以滿(mǎn)足實(shí)時(shí)分析的要求.YOLOv3包含了新的特征提取網(wǎng)絡(luò)Darknet-53,以及三種尺度的YOLO層,也就是預(yù)測(cè)層.通過(guò)在三種尺度上進(jìn)行預(yù)測(cè)的方法,有效的增強(qiáng)了對(duì)不同大小物體及被遮擋物體的檢測(cè)效果,并引入躍層連接以強(qiáng)化收斂效果,同時(shí)采用隨機(jī)多尺度訓(xùn)練的方式增強(qiáng)了魯棒性.

    1.1 檢測(cè)過(guò)程

    YOLOv3提出了新的提取圖片特征的網(wǎng)絡(luò)Darknet53,作為全卷積網(wǎng)絡(luò),darknet53主要由卷積層、Batch Normalization及躍層連接組成,激活函數(shù)采用LeakyRelu,其網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示.

    圖1 YOLOv3的網(wǎng)絡(luò)結(jié)構(gòu)

    YOLO卷積層負(fù)責(zé)輸出檢測(cè)結(jié)果,包括目標(biāo)的中心位置xy,寬高wh,置信度,以及類(lèi)別,這種檢測(cè)分別在三個(gè)尺度上進(jìn)行,13×13,26×26,52×52,通道數(shù)為3,也就是每個(gè)box負(fù)責(zé)對(duì)三個(gè)anchor box進(jìn)行回歸,取其中的一個(gè)作為最終檢測(cè)結(jié)果,共對(duì)9個(gè)anchor box進(jìn)行回歸,所以對(duì)于一張輸入圖像,最后的輸出尺寸為1×(3×(13×13+26×26+52×52))×(5+k)=1×10647×(5+k),k代表類(lèi)別數(shù),在COCO數(shù)據(jù)集上為80,VOC數(shù)據(jù)集上為20,如圖2所示.

    圖2 YOLOv3網(wǎng)絡(luò)的輸出格式

    在YOLOv1版本中,x,y,w,h是直接預(yù)測(cè)物體實(shí)際值,預(yù)測(cè)值的微小變化都會(huì)被放大到整個(gè)圖像的范圍,導(dǎo)致坐標(biāo)波動(dòng)較大,預(yù)測(cè)不準(zhǔn)確.YOLOv2對(duì)其進(jìn)行了改進(jìn),其公式為:

    其中,tx,ty為網(wǎng)絡(luò)預(yù)測(cè)值,經(jīng)過(guò)Sigmoid運(yùn)算將其縮放到0和1之間,tw,th也為網(wǎng)絡(luò)預(yù)測(cè)值,無(wú)需Sigmoid;cx,cy為cell坐標(biāo),也就是距離左上角的偏移量;pw,ph代表該cell對(duì)應(yīng)anchor box的寬高,計(jì)算出bounding box的位置,如圖3所示.通過(guò)對(duì)confidence這一項(xiàng)設(shè)定閾值,過(guò)濾掉低分的預(yù)測(cè)框,然后對(duì)剩下的預(yù)測(cè)框執(zhí)行非極大值抑制(Non Maximum Suppression,NMS)處理,得到網(wǎng)絡(luò)最終的預(yù)測(cè)結(jié)果.

    圖3 YOLOv3的bounding box坐標(biāo)轉(zhuǎn)換公式

    1.2 損失函數(shù)

    對(duì)于YOLOv3的損失函數(shù),Redmon J在論文中并沒(méi)有進(jìn)行講解,本文作者根據(jù)對(duì)Darknet,也就是Redmon J實(shí)現(xiàn)YOLOv3網(wǎng)絡(luò)的平臺(tái)的源代碼進(jìn)行解讀,總結(jié)出YOLOv3網(wǎng)絡(luò)的損失函數(shù)為:

    其主要分為三大部分,坐標(biāo)損失,置信度損失及分類(lèi)損失,λobj在該cell存在物體時(shí)為1,其他cell為0,且均采用SSE計(jì)算,最終Loss采用和的形式而不是平均Loss,主要原因?yàn)轭A(yù)測(cè)的特殊機(jī)制,造成正負(fù)樣本比巨大,尤其是置信度損失部分,以一片包含一個(gè)目標(biāo)為例,置信度部分的正負(fù)樣本比可以高達(dá)1:10646,如果采用平均損失,會(huì)使損失趨近于0,網(wǎng)絡(luò)預(yù)測(cè)變?yōu)槿?失去預(yù)測(cè)能力.并且,根據(jù)作者描述,Lin TY等提出的,用于解決正負(fù)樣本不均衡,使得網(wǎng)絡(luò)專(zhuān)注于困難樣本計(jì)算的Focal Loss無(wú)法解決這個(gè)問(wèn)題,會(huì)導(dǎo)致mAP下降.

    2 模型訓(xùn)練與改進(jìn)

    2.1 Anchor參數(shù)設(shè)定

    PASCAL VOC數(shù)據(jù)集是目標(biāo)分類(lèi)、檢測(cè)等常用的數(shù)據(jù)集,通過(guò)模型在VOC2007 test部分的表現(xiàn)衡量目標(biāo)檢測(cè)模型的性能已經(jīng)成為常用的驗(yàn)證方法,在實(shí)際訓(xùn)練過(guò)程中,一般使用VOC2012的全部樣本及VOC2007的train及val部分樣本作為訓(xùn)練集,VOC2007 test部分作為測(cè)試集,本文也是如此.訓(xùn)練集部分包含圖片16 551張,物體40 058個(gè),測(cè)試集包含圖片4952張,物體12 032個(gè).根據(jù)標(biāo)簽數(shù)據(jù),對(duì)訓(xùn)練集的物體寬高進(jìn)行分析,其分布情況如圖4所示,可以發(fā)現(xiàn)VOC數(shù)據(jù)集中較小目標(biāo)占比較大.

    作為聚類(lèi)算法的一種,K-means具備簡(jiǎn)潔快速,易于實(shí)現(xiàn)的優(yōu)點(diǎn),應(yīng)用非常廣泛,其基本思想是以空間中K個(gè)點(diǎn)作為形心,將最靠近他們的點(diǎn)進(jìn)行歸類(lèi),然后迭代更新這K個(gè)點(diǎn)的值,直到K個(gè)值不再變化或達(dá)到最大迭代次數(shù).本文使用K-means算法對(duì)VOC數(shù)據(jù)集進(jìn)行分析,結(jié)果如圖5,縱坐標(biāo)表示平均畸變程度,越小說(shuō)明類(lèi)內(nèi)距離越小,根據(jù)肘部法則選擇K值為9,并確定相應(yīng)的anchor box.

    圖4 VOC物體寬高分布情況,大點(diǎn)為聚類(lèi)結(jié)果

    圖5 K-means聚類(lèi)分析結(jié)果

    2.2 損失函數(shù)分析

    作為深度神經(jīng)網(wǎng)絡(luò)對(duì)誤檢測(cè)樣本進(jìn)行懲罰的根據(jù),損失函數(shù)可以在很大程度上影響模型收斂的效果,如何設(shè)計(jì)更合適的損失函數(shù)以獲得更好地預(yù)測(cè)效果也成為模型優(yōu)化的重要方向,學(xué)界對(duì)此也進(jìn)行了很多研究[12,13].在YOLOv3網(wǎng)絡(luò)的最終輸出中,x,y,物體置信度以及類(lèi)別置信度部分均經(jīng)過(guò)Sigmoid函數(shù)激活,然后采用SSE計(jì)算最終損失,從Sigmoid函數(shù)的導(dǎo)數(shù)圖像(圖6)可以看到,當(dāng)神經(jīng)網(wǎng)絡(luò)的輸出較大時(shí),(x)會(huì)變得非常小,此時(shí)使用平方誤差得到的誤差值很小,導(dǎo)致網(wǎng)絡(luò)收斂很慢,出現(xiàn)誤差越大收斂越慢,也就是梯度消失的情況,為了解決這個(gè)問(wèn)題,當(dāng)真實(shí)值只能取0或1時(shí),一個(gè)常用的方法是采用交叉熵(cross-entropy)損失函數(shù),其形式為:

    a代表神經(jīng)網(wǎng)絡(luò)經(jīng)過(guò)Sigmoid以后的輸出值,也就是a=σ(ωx+b),令z=ωx+b,可以計(jì)算出交叉熵函數(shù)的導(dǎo)數(shù).

    圖6 Sigmoid函數(shù)及其導(dǎo)數(shù)

    特別的,對(duì)于predx和predy的輸出,它們的真實(shí)值并不是0或1,而是0和1之間的某個(gè)值,也就是說(shuō)predx,predy并不是離散變量,以truthx=predx=0.7為例,交叉熵?fù)p失為 -0.7 ln(0.7)-0.3 ln(0.3)≈0.61,不為0,所以不能采用交叉熵?fù)p失函數(shù).

    通過(guò)以上分析可知,損失函數(shù)的導(dǎo)數(shù)形式f(x)需要具備以下性質(zhì): ①f(x)的定義域?yàn)閤2(-1,1),值域f(x)2(-1,1);②f(x)為 單調(diào)遞增函數(shù),且f(0)=0;③f(x)的 圖像需要關(guān)于坐標(biāo)原點(diǎn)對(duì)稱(chēng);④(x)≠0.因此,本文設(shè)計(jì)了一種新的損失函數(shù),稱(chēng)為tan方損失(Tan-Squared Error,TSE),導(dǎo)數(shù)形式為L(zhǎng)ossGrad=tan(t-σ(z))/tan(1),在YOLOv3中,t-σ(z)2(-1,1),由于t也是不定項(xiàng),此差值與σ(z)本 身的取值無(wú)關(guān),令x=t-σ(z),作出 函數(shù)圖像如圖7.

    圖7 TSE與SSE導(dǎo)數(shù)圖像

    在本網(wǎng)絡(luò)的訓(xùn)練過(guò)程中,由于極其巨大的正負(fù)樣本比,訓(xùn)練開(kāi)始時(shí)會(huì)難以避免地出現(xiàn)網(wǎng)絡(luò)輸出全零的情況,此時(shí)負(fù)樣本部分,也就是真實(shí)值為0的部分,其誤差逼近于0,而真實(shí)值為1的部分,誤差則非常的大,對(duì)于predx和predy來(lái)說(shuō),差值更是為(-1,1),而不是常見(jiàn)的(0,1),作者采用平方損失進(jìn)行計(jì)算,并且是定義了梯度值的計(jì)算方法,也就是直接使用公式grad=tx-predx進(jìn)行梯度計(jì)算,這也正是平方損失函數(shù)的導(dǎo)數(shù)形式,遵循同樣的思路,本文定義了TSE導(dǎo)數(shù)形式的計(jì)算公式,通過(guò)TSE與SSE的圖像(圖7)可以直觀地看出,TSE與SSE導(dǎo)數(shù)的值域均為(-1,1),并且TSE導(dǎo)數(shù)的絕對(duì)值要小于SSE,也就是說(shuō)對(duì)于較大的誤差,可以將它進(jìn)行適當(dāng)?shù)乜s小,這樣當(dāng)梯度傳播到Sigmoid函數(shù)時(shí),可以使小幅度地增大,加快初始時(shí)的收斂速度,減小梯度消失的影響;同樣的,對(duì)于誤差已經(jīng)逼近0的情況,由于TSE要略微小于SSE,可以使輸出層權(quán)重的調(diào)整幅度更小,使模型得到更好收斂.這種調(diào)整也應(yīng)該控制在一個(gè)較小的幅度,防止對(duì)輸出層的權(quán)重作出過(guò)大的調(diào)整,導(dǎo)致模型不收斂或者發(fā)散的情形.對(duì)兩函數(shù)求導(dǎo),得到他們的導(dǎo)數(shù)圖像如圖8.

    可以看到,TSE導(dǎo)數(shù)的值域約為(-2.2,2.2),即使誤差極大導(dǎo)數(shù)也在有限范圍內(nèi),并且最小值約為0.64,不會(huì)出現(xiàn)梯度為0從而導(dǎo)致梯度消失.不同于SSE的常數(shù)梯度值,TSE的梯度會(huì)隨著誤差的變化而變化,具有誤差大時(shí)梯度大,誤差小時(shí)梯度小的性質(zhì),既能在誤差較大時(shí)加大權(quán)重的調(diào)整,也在誤差減小以后,以更小的變化率調(diào)整權(quán)重,使網(wǎng)絡(luò)模型可以收斂得更好,這是對(duì) 于連續(xù)變量predx和predyTSE所具有的優(yōu)勢(shì).

    圖8 TSE與SSE導(dǎo)數(shù)的梯度變化

    2.3 調(diào)整幅度驗(yàn)證

    對(duì)預(yù)測(cè)損失值的大小進(jìn)行控制可以增強(qiáng)反向傳播時(shí)卷積層權(quán)重調(diào)整的效果,TSE控制梯度變化的幅度是否合適也需要驗(yàn)證.將TSE與梯度調(diào)整幅度更大的損失函數(shù)進(jìn)行對(duì)比,其導(dǎo)數(shù)形式為:

    從它與TSE的對(duì)比圖像如圖9.

    圖9 TSE與另一函數(shù)對(duì)比

    從圖9可以看出: 該函數(shù)在訓(xùn)練的初期可以對(duì)損失進(jìn)行更大幅度的調(diào)整,理論上來(lái)講可以更大程度地減少梯度消失的情況,使得預(yù)測(cè)層梯度保持在一個(gè)較大的數(shù)值.在實(shí)際的實(shí)驗(yàn)過(guò)程中,訓(xùn)練的初始階段Loss下降得非???正樣本的置信度上升速度也加快了很多,但是由于誤差靠近0時(shí)梯度的過(guò)度減小,負(fù)樣本的置信度未能得到有效下降,訓(xùn)練后期梯度消失的現(xiàn)象也導(dǎo)致正負(fù)樣本沒(méi)有被很好地區(qū)分開(kāi),模型收斂效果變差,最終的mAP很低;而且由于采用較大的學(xué)習(xí)率,訓(xùn)練中也出現(xiàn)了預(yù)測(cè)值變?yōu)镹an的情況,說(shuō)明過(guò)大的調(diào)整幅度也可能導(dǎo)致梯度發(fā)散.

    3 實(shí)驗(yàn)結(jié)果

    在Pascal VOC數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn),使用兩塊1080TI的顯卡,顯存為2×12 GB,CPU為Intel Xeon E5-2620 V4@2.10 GHz,軟件環(huán)境為cuda9.0 + cudnn7,訓(xùn)練集為VOC07+12,測(cè)試集為07 test-dev,由于作者并未公布相關(guān)的mAP數(shù)據(jù),本文直接使用作者提供的訓(xùn)練配置文件進(jìn)行訓(xùn)練,總計(jì)訓(xùn)練了50 000個(gè)batch,除了更換損失函數(shù)和修改anchor box外不作其他改動(dòng),結(jié)果如表1所示.

    表1 VOC數(shù)據(jù)集訓(xùn)練結(jié)果

    由于本實(shí)驗(yàn)的主要目的是驗(yàn)證TSE的有效性,作者并沒(méi)有對(duì)訓(xùn)練時(shí)的超參數(shù)進(jìn)行仔細(xì)調(diào)參,不保證該mAP一定為YOLOv3網(wǎng)絡(luò)模型在VOC數(shù)據(jù)集上可以達(dá)到的最高值.通過(guò)最終的mAP值可以表明,只是改用TSE就可以得到1個(gè)百分點(diǎn)左右的提升,TSE可以使網(wǎng)絡(luò)獲得更好地收斂效果.

    為了驗(yàn)證TSE相比于SSE在收斂速度方面所獲得的優(yōu)勢(shì),采取每10 000個(gè)batch保存一次模型的方式,收集了5個(gè)階段的mAP數(shù)據(jù),如圖9所示,可以看出,在訓(xùn)練10 000個(gè)batch時(shí),TSE就可以比SSE取得更高的mAP值,并且在30 000個(gè)batch時(shí)mAP就達(dá)到了SSE訓(xùn)練40 000個(gè)batch的水平,說(shuō)明使用TSE可以使網(wǎng)絡(luò)收斂得更加快速.當(dāng)訓(xùn)練40 000個(gè)batch以后,學(xué)習(xí)率被減少為原來(lái)的1/10,模型進(jìn)一步收斂,mAP獲得了比較大的提升,并且受益于TSE的函數(shù)性質(zhì),模型獲得了1個(gè)百分點(diǎn)左右的mAP提升.

    圖10 三種方法訓(xùn)練的mAP

    4 總結(jié)與展望

    4.1 本文工作總結(jié)

    本文分析了YOLOv3模型的結(jié)構(gòu),并且對(duì)它實(shí)際的訓(xùn)練應(yīng)用過(guò)程做出了有益嘗試.通過(guò)對(duì)原版損失函數(shù)特點(diǎn)的分析,提出了一種新的損失函數(shù)TSE,在VOC數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明: ① 與SSE相比,TSE適用于連續(xù)變量的情況,減少了梯度消失的情況,mAP穩(wěn)步提升;② 模型的收斂速度得到提升,能夠使訓(xùn)練所需輪數(shù)減少,節(jié)省訓(xùn)練所需時(shí)間;③ 對(duì)比實(shí)驗(yàn)表明TSE進(jìn)行梯度調(diào)整的幅度比較合適,可以在保證正負(fù)樣本區(qū)分度的基礎(chǔ)上有效增強(qiáng)正樣本的置信度.基于改進(jìn)損失函數(shù)的網(wǎng)絡(luò)模型取得1個(gè)百分點(diǎn)左右的mAP提升,獲得了更好的檢測(cè)效果.

    目前,YOLO系列網(wǎng)絡(luò)由于其檢測(cè)快速的優(yōu)點(diǎn),已經(jīng)在實(shí)際生產(chǎn)中獲得了大量應(yīng)用.如鄭志強(qiáng)等將YOLO網(wǎng)絡(luò)應(yīng)用于遙感圖像的飛機(jī)識(shí)別[14],王福建等將YOLO網(wǎng)絡(luò)應(yīng)用于車(chē)輛信息的快速檢測(cè)[15],蔡成濤等基于YOLO網(wǎng)絡(luò)實(shí)現(xiàn)機(jī)場(chǎng)跑道目標(biāo)的快速檢測(cè)[16],都取得了非常好的效果,本文提出的方法適用面廣,通用性強(qiáng),可以很好地應(yīng)用于現(xiàn)有的YOLO檢測(cè)系統(tǒng)中,獲得更為準(zhǔn)確的檢測(cè)效果,使系統(tǒng)性能獲得進(jìn)一步增強(qiáng).

    4.2 未來(lái)工作展望

    本文從損失函數(shù)的角度,提出了現(xiàn)有網(wǎng)絡(luò)的改進(jìn)方法.在下一步的研究工作中,將會(huì)在更多其他的網(wǎng)絡(luò)模型中,采用更大規(guī)模的數(shù)據(jù)集如MSCOCO[17]等,用以驗(yàn)證TSE的通用性與魯棒性;同時(shí)也對(duì)連續(xù)變量的梯度控制問(wèn)題,尋求更好的解決方案;另外,針對(duì)于網(wǎng)絡(luò)結(jié)構(gòu)本身的改進(jìn),如何設(shè)計(jì)出性能更強(qiáng)的網(wǎng)絡(luò)來(lái)提取圖像特征,也需要更加細(xì)致地研究.

    圖11 檢測(cè)結(jié)果示例

    猜你喜歡
    置信度導(dǎo)數(shù)梯度
    硼鋁復(fù)合材料硼含量置信度臨界安全分析研究
    一個(gè)改進(jìn)的WYL型三項(xiàng)共軛梯度法
    解導(dǎo)數(shù)題的幾種構(gòu)造妙招
    一種自適應(yīng)Dai-Liao共軛梯度法
    一類(lèi)扭積形式的梯度近Ricci孤立子
    正負(fù)關(guān)聯(lián)規(guī)則兩級(jí)置信度閾值設(shè)置方法
    關(guān)于導(dǎo)數(shù)解法
    導(dǎo)數(shù)在圓錐曲線(xiàn)中的應(yīng)用
    置信度條件下軸承壽命的可靠度分析
    軸承(2015年2期)2015-07-25 03:51:04
    函數(shù)與導(dǎo)數(shù)
    精品国产乱码久久久久久男人| 亚洲最大成人中文| 99久久国产精品久久久| 超碰成人久久| 亚洲,欧美精品.| 精品卡一卡二卡四卡免费| 免费不卡黄色视频| 一级片免费观看大全| 黄片小视频在线播放| 12—13女人毛片做爰片一| 亚洲欧美日韩高清在线视频| 一区二区三区精品91| 欧美激情高清一区二区三区| 国产欧美日韩一区二区三| 91字幕亚洲| 欧美亚洲日本最大视频资源| 亚洲精品av麻豆狂野| av福利片在线| 搡老妇女老女人老熟妇| 日韩欧美三级三区| 欧美av亚洲av综合av国产av| 亚洲中文字幕一区二区三区有码在线看 | 日韩大码丰满熟妇| 亚洲第一青青草原| 免费在线观看影片大全网站| 搞女人的毛片| 日韩欧美国产在线观看| 操出白浆在线播放| 电影成人av| 亚洲精品美女久久av网站| 国产精品久久久久久精品电影 | 成年版毛片免费区| 正在播放国产对白刺激| 给我免费播放毛片高清在线观看| 国产高清有码在线观看视频 | 90打野战视频偷拍视频| av在线播放免费不卡| 国产99白浆流出| 夜夜躁狠狠躁天天躁| 非洲黑人性xxxx精品又粗又长| 18禁美女被吸乳视频| 88av欧美| 久久精品aⅴ一区二区三区四区| 999久久久精品免费观看国产| a级毛片在线看网站| 亚洲国产精品成人综合色| 国产一区二区在线av高清观看| 在线天堂中文资源库| 免费在线观看完整版高清| 国产xxxxx性猛交| 中文字幕人成人乱码亚洲影| 亚洲精品一区av在线观看| 久久欧美精品欧美久久欧美| 97人妻精品一区二区三区麻豆 | x7x7x7水蜜桃| 婷婷丁香在线五月| 亚洲第一电影网av| 可以在线观看毛片的网站| 午夜福利成人在线免费观看| 一卡2卡三卡四卡精品乱码亚洲| 国内久久婷婷六月综合欲色啪| 天堂影院成人在线观看| 久久久国产成人精品二区| 国产熟女午夜一区二区三区| 欧美人与性动交α欧美精品济南到| 青草久久国产| 大香蕉久久成人网| 很黄的视频免费| 伦理电影免费视频| 精品国产国语对白av| 国产视频一区二区在线看| 亚洲成人免费电影在线观看| 亚洲欧美精品综合一区二区三区| xxx96com| 欧美日本中文国产一区发布| 成人亚洲精品一区在线观看| 午夜福利免费观看在线| 免费av毛片视频| 国产精品二区激情视频| 久久久久久大精品| 国产亚洲精品久久久久5区| 久久人妻熟女aⅴ| 男人的好看免费观看在线视频 | 中文字幕色久视频| 国产野战对白在线观看| 国产伦人伦偷精品视频| 午夜精品国产一区二区电影| 亚洲成人国产一区在线观看| 亚洲性夜色夜夜综合| 嫁个100分男人电影在线观看| 国产激情久久老熟女| 黑人操中国人逼视频| 欧美日韩精品网址| 大型黄色视频在线免费观看| 久久精品国产清高在天天线| 国产伦人伦偷精品视频| 久久久久九九精品影院| 亚洲av电影不卡..在线观看| 一级毛片精品| 免费无遮挡裸体视频| 亚洲国产高清在线一区二区三 | 亚洲精品国产色婷婷电影| 精品久久久久久久人妻蜜臀av | 激情视频va一区二区三区| 97人妻天天添夜夜摸| 国产亚洲精品久久久久久毛片| 激情视频va一区二区三区| 最好的美女福利视频网| 深夜精品福利| 免费女性裸体啪啪无遮挡网站| 亚洲人成电影观看| 国产欧美日韩一区二区精品| 十分钟在线观看高清视频www| 在线播放国产精品三级| 午夜福利影视在线免费观看| 亚洲精品中文字幕在线视频| 午夜a级毛片| 露出奶头的视频| 嫁个100分男人电影在线观看| 成人亚洲精品av一区二区| 亚洲 欧美一区二区三区| 在线观看免费视频日本深夜| 一进一出抽搐gif免费好疼| 亚洲精品国产精品久久久不卡| 国产成人一区二区三区免费视频网站| 波多野结衣巨乳人妻| 乱人伦中国视频| 免费高清视频大片| 久久性视频一级片| 黑人操中国人逼视频| 波多野结衣av一区二区av| 色综合站精品国产| 亚洲avbb在线观看| 午夜福利高清视频| 免费观看人在逋| 校园春色视频在线观看| 黄色 视频免费看| 色综合站精品国产| 日本三级黄在线观看| 国产精品亚洲一级av第二区| 亚洲av美国av| 18禁黄网站禁片午夜丰满| 韩国av一区二区三区四区| 搡老岳熟女国产| 一级片免费观看大全| 欧美久久黑人一区二区| 此物有八面人人有两片| 久久中文字幕一级| 中文字幕最新亚洲高清| 国产欧美日韩一区二区三区在线| 亚洲欧美一区二区三区黑人| 成人18禁高潮啪啪吃奶动态图| 亚洲成人久久性| 女性生殖器流出的白浆| svipshipincom国产片| 中文亚洲av片在线观看爽| 91精品三级在线观看| 无人区码免费观看不卡| 99国产精品一区二区三区| 日本 av在线| 久久九九热精品免费| 99国产精品99久久久久| 日韩精品免费视频一区二区三区| 嫁个100分男人电影在线观看| 亚洲色图综合在线观看| 亚洲国产精品sss在线观看| av网站免费在线观看视频| 国产精品一区二区在线不卡| 日韩精品青青久久久久久| 制服丝袜大香蕉在线| 成年女人毛片免费观看观看9| 国产精品1区2区在线观看.| 国产精品一区二区三区四区久久 | 桃色一区二区三区在线观看| 一二三四在线观看免费中文在| 免费高清视频大片| 校园春色视频在线观看| 亚洲成人久久性| 午夜福利免费观看在线| 午夜久久久久精精品| 悠悠久久av| 久久中文字幕一级| 国产精品一区二区免费欧美| 色在线成人网| 在线观看午夜福利视频| 亚洲精品av麻豆狂野| 国产男靠女视频免费网站| 国产高清有码在线观看视频 | 国产伦人伦偷精品视频| 成人18禁高潮啪啪吃奶动态图| 日韩免费av在线播放| 制服丝袜大香蕉在线| 天堂影院成人在线观看| 国产野战对白在线观看| 成年人黄色毛片网站| 国产1区2区3区精品| 欧美av亚洲av综合av国产av| tocl精华| 搞女人的毛片| 日韩三级视频一区二区三区| 久久久国产成人精品二区| 欧美成人午夜精品| 久久中文字幕人妻熟女| 黑人欧美特级aaaaaa片| 欧美在线黄色| 操出白浆在线播放| 午夜两性在线视频| 日韩欧美免费精品| 国产精品一区二区在线不卡| 精品人妻1区二区| 欧美成人一区二区免费高清观看 | 亚洲熟妇中文字幕五十中出| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲电影在线观看av| 女同久久另类99精品国产91| 19禁男女啪啪无遮挡网站| 中文字幕色久视频| 一区二区三区激情视频| 亚洲欧美一区二区三区黑人| 啦啦啦韩国在线观看视频| 欧美av亚洲av综合av国产av| 欧美乱妇无乱码| 我的亚洲天堂| 国产xxxxx性猛交| 久久性视频一级片| 老司机深夜福利视频在线观看| 国产精品久久久久久精品电影 | 亚洲欧洲精品一区二区精品久久久| 久久久久久免费高清国产稀缺| 黄色视频,在线免费观看| 亚洲国产精品久久男人天堂| 亚洲伊人色综图| 视频在线观看一区二区三区| 91精品国产国语对白视频| 国产野战对白在线观看| 国产熟女午夜一区二区三区| 国产精品免费视频内射| 亚洲精品中文字幕一二三四区| 91老司机精品| 国产精品久久久人人做人人爽| 三级毛片av免费| 国产精品国产高清国产av| 在线天堂中文资源库| 欧美日韩亚洲国产一区二区在线观看| 人人妻,人人澡人人爽秒播| 免费看十八禁软件| 在线观看舔阴道视频| 亚洲成人国产一区在线观看| 自拍欧美九色日韩亚洲蝌蚪91| 老司机靠b影院| 大型av网站在线播放| 一级毛片精品| 美女高潮喷水抽搐中文字幕| 欧美另类亚洲清纯唯美| 女人高潮潮喷娇喘18禁视频| 国产熟女午夜一区二区三区| 侵犯人妻中文字幕一二三四区| 淫秽高清视频在线观看| 免费观看精品视频网站| 国产不卡一卡二| 十八禁人妻一区二区| 精品第一国产精品| 99re在线观看精品视频| 亚洲一区高清亚洲精品| 久久欧美精品欧美久久欧美| 好男人在线观看高清免费视频 | 一级a爱片免费观看的视频| 成年人黄色毛片网站| 一边摸一边抽搐一进一出视频| 国产精品二区激情视频| www.精华液| 国产欧美日韩一区二区三区在线| 日日干狠狠操夜夜爽| 日韩大尺度精品在线看网址 | 欧美中文日本在线观看视频| 久久久久久人人人人人| 这个男人来自地球电影免费观看| 国产伦一二天堂av在线观看| 精品乱码久久久久久99久播| 人妻久久中文字幕网| 黄色 视频免费看| 满18在线观看网站| 亚洲精品av麻豆狂野| 国产主播在线观看一区二区| 桃色一区二区三区在线观看| 成人av一区二区三区在线看| cao死你这个sao货| 搡老熟女国产l中国老女人| 久久中文看片网| e午夜精品久久久久久久| 亚洲成人免费电影在线观看| 69av精品久久久久久| 人妻丰满熟妇av一区二区三区| 亚洲国产毛片av蜜桃av| 女警被强在线播放| 亚洲成人久久性| 久久亚洲真实| 91精品国产国语对白视频| 国产蜜桃级精品一区二区三区| 可以在线观看的亚洲视频| 国产精品99久久99久久久不卡| 国产精品爽爽va在线观看网站 | 两人在一起打扑克的视频| 亚洲国产高清在线一区二区三 | 男女床上黄色一级片免费看| 成人18禁在线播放| 欧美在线黄色| 夜夜夜夜夜久久久久| 动漫黄色视频在线观看| 亚洲精品美女久久久久99蜜臀| 亚洲一区高清亚洲精品| 亚洲中文字幕日韩| 亚洲五月天丁香| 精品国产国语对白av| 欧美黄色片欧美黄色片| 99久久综合精品五月天人人| 亚洲伊人色综图| 久久九九热精品免费| 又紧又爽又黄一区二区| 18美女黄网站色大片免费观看| 岛国在线观看网站| 黄频高清免费视频| 99国产精品一区二区三区| 天天添夜夜摸| 9191精品国产免费久久| 久久久久久大精品| 亚洲av成人一区二区三| 一个人免费在线观看的高清视频| 在线国产一区二区在线| or卡值多少钱| 韩国av一区二区三区四区| 国产三级黄色录像| 热re99久久国产66热| 啦啦啦 在线观看视频| 最新美女视频免费是黄的| 午夜福利一区二区在线看| 婷婷丁香在线五月| 一a级毛片在线观看| 久久草成人影院| 黑人巨大精品欧美一区二区蜜桃| 一进一出抽搐动态| 国产精品影院久久| 性少妇av在线| 国产三级在线视频| 性欧美人与动物交配| 免费看a级黄色片| 免费在线观看黄色视频的| 999久久久精品免费观看国产| 久久亚洲真实| 国产1区2区3区精品| 少妇被粗大的猛进出69影院| 制服人妻中文乱码| 丰满的人妻完整版| 久久影院123| 国产私拍福利视频在线观看| 国产精品一区二区在线不卡| 欧美黑人欧美精品刺激| 日韩大尺度精品在线看网址 | 久久精品亚洲精品国产色婷小说| 性色av乱码一区二区三区2| 9191精品国产免费久久| 91av网站免费观看| 岛国在线观看网站| 亚洲五月天丁香| 九色亚洲精品在线播放| 99riav亚洲国产免费| 女同久久另类99精品国产91| 国产色视频综合| 亚洲中文字幕一区二区三区有码在线看 | 国产亚洲欧美精品永久| 婷婷六月久久综合丁香| 亚洲天堂国产精品一区在线| 男女床上黄色一级片免费看| 日日摸夜夜添夜夜添小说| 黄色视频不卡| 99久久99久久久精品蜜桃| 久久精品人人爽人人爽视色| av电影中文网址| 日日夜夜操网爽| 亚洲成av片中文字幕在线观看| 亚洲欧洲精品一区二区精品久久久| 丰满的人妻完整版| 黄色a级毛片大全视频| 久久天堂一区二区三区四区| 久久热在线av| 欧美激情极品国产一区二区三区| 在线国产一区二区在线| 制服丝袜大香蕉在线| 亚洲va日本ⅴa欧美va伊人久久| 亚洲欧美一区二区三区黑人| 国产精品98久久久久久宅男小说| 欧美成人一区二区免费高清观看 | 热99re8久久精品国产| www.自偷自拍.com| 夜夜夜夜夜久久久久| 亚洲成人精品中文字幕电影| 免费久久久久久久精品成人欧美视频| 丰满的人妻完整版| 高潮久久久久久久久久久不卡| 亚洲熟妇熟女久久| 亚洲国产欧美网| 大陆偷拍与自拍| 国产亚洲精品一区二区www| 精品国产乱码久久久久久男人| 超碰成人久久| 久久天躁狠狠躁夜夜2o2o| 久久香蕉精品热| 午夜精品在线福利| 亚洲专区中文字幕在线| 香蕉久久夜色| 欧美日本中文国产一区发布| 国产男靠女视频免费网站| 免费看a级黄色片| 欧美日韩一级在线毛片| 一级毛片女人18水好多| 日韩欧美一区二区三区在线观看| 一区二区三区精品91| 久久久久国产精品人妻aⅴ院| 大陆偷拍与自拍| xxx96com| 美女免费视频网站| 欧美黄色淫秽网站| 一区二区三区高清视频在线| 色播亚洲综合网| 女人爽到高潮嗷嗷叫在线视频| 国产精品日韩av在线免费观看 | 久久婷婷成人综合色麻豆| 免费看十八禁软件| 欧美精品啪啪一区二区三区| 亚洲精品美女久久久久99蜜臀| 国产精品永久免费网站| 久久国产乱子伦精品免费另类| 别揉我奶头~嗯~啊~动态视频| 国产精品免费视频内射| 亚洲av第一区精品v没综合| 男男h啪啪无遮挡| 十八禁网站免费在线| 91大片在线观看| av欧美777| 国产单亲对白刺激| 黑人巨大精品欧美一区二区蜜桃| 97超级碰碰碰精品色视频在线观看| 欧美日韩福利视频一区二区| 欧美国产精品va在线观看不卡| 久久中文字幕人妻熟女| 精品久久久久久久人妻蜜臀av | 亚洲黑人精品在线| 国产亚洲精品av在线| 90打野战视频偷拍视频| 成人欧美大片| 亚洲精品久久成人aⅴ小说| av片东京热男人的天堂| 亚洲欧美激情在线| 黄频高清免费视频| 最近最新中文字幕大全电影3 | 国产成人免费无遮挡视频| 欧美av亚洲av综合av国产av| 十分钟在线观看高清视频www| 色在线成人网| 亚洲第一欧美日韩一区二区三区| 亚洲精品在线观看二区| 久久久精品国产亚洲av高清涩受| 国产午夜福利久久久久久| 人成视频在线观看免费观看| 又黄又粗又硬又大视频| 欧美日韩中文字幕国产精品一区二区三区 | 国产精品久久电影中文字幕| 亚洲成人精品中文字幕电影| 国产麻豆69| 韩国精品一区二区三区| 国产欧美日韩一区二区精品| 国产成人欧美| 又大又爽又粗| 色婷婷久久久亚洲欧美| 免费高清在线观看日韩| 国产成人免费无遮挡视频| 男女床上黄色一级片免费看| 亚洲第一电影网av| 欧美黑人精品巨大| 性欧美人与动物交配| 欧洲精品卡2卡3卡4卡5卡区| 一本大道久久a久久精品| 黄色视频不卡| 怎么达到女性高潮| 99在线人妻在线中文字幕| 亚洲精品av麻豆狂野| 日韩三级视频一区二区三区| 一级毛片女人18水好多| 亚洲中文av在线| 日日摸夜夜添夜夜添小说| 国产亚洲欧美在线一区二区| 成人欧美大片| 成人亚洲精品一区在线观看| 久久国产亚洲av麻豆专区| 久久精品影院6| 日日夜夜操网爽| 欧美老熟妇乱子伦牲交| 最新美女视频免费是黄的| 丰满的人妻完整版| 亚洲在线自拍视频| 日韩欧美一区二区三区在线观看| 日本vs欧美在线观看视频| 日韩免费av在线播放| 操出白浆在线播放| www.自偷自拍.com| 美女高潮到喷水免费观看| 一区二区三区精品91| 手机成人av网站| 欧美日韩亚洲综合一区二区三区_| 国产成人免费无遮挡视频| 88av欧美| 免费观看精品视频网站| 国产黄a三级三级三级人| 亚洲 欧美一区二区三区| 久久精品人人爽人人爽视色| 国产1区2区3区精品| 亚洲成人国产一区在线观看| 最新美女视频免费是黄的| 岛国视频午夜一区免费看| 人人澡人人妻人| 老汉色av国产亚洲站长工具| 国产99久久九九免费精品| 日韩三级视频一区二区三区| 久久国产亚洲av麻豆专区| 国产亚洲精品av在线| 久久久久久久午夜电影| 91精品国产国语对白视频| 一个人免费在线观看的高清视频| 国产亚洲精品av在线| 男女之事视频高清在线观看| 又黄又爽又免费观看的视频| 国产精品久久久久久人妻精品电影| 亚洲午夜精品一区,二区,三区| 亚洲国产欧美一区二区综合| 少妇 在线观看| 视频在线观看一区二区三区| 亚洲国产高清在线一区二区三 | 欧美黑人欧美精品刺激| 国产激情欧美一区二区| 久久精品人人爽人人爽视色| 亚洲国产日韩欧美精品在线观看 | 天天躁狠狠躁夜夜躁狠狠躁| 亚洲欧美激情综合另类| 亚洲精品在线观看二区| 欧美成人免费av一区二区三区| 在线永久观看黄色视频| 欧美一级a爱片免费观看看 | 成人特级黄色片久久久久久久| 欧美成狂野欧美在线观看| 欧美一区二区精品小视频在线| 99久久国产精品久久久| 男人舔女人的私密视频| 老司机午夜十八禁免费视频| 婷婷精品国产亚洲av在线| 国产欧美日韩综合在线一区二区| 国产欧美日韩一区二区三区在线| 日本vs欧美在线观看视频| 成人18禁在线播放| 一区二区日韩欧美中文字幕| 成人18禁高潮啪啪吃奶动态图| 久久香蕉国产精品| 窝窝影院91人妻| 长腿黑丝高跟| 亚洲欧美日韩高清在线视频| 99热只有精品国产| 看免费av毛片| 成人免费观看视频高清| 好看av亚洲va欧美ⅴa在| 欧美成人性av电影在线观看| 免费无遮挡裸体视频| 高清毛片免费观看视频网站| 欧美亚洲日本最大视频资源| 三级毛片av免费| 亚洲国产毛片av蜜桃av| 欧洲精品卡2卡3卡4卡5卡区| 在线免费观看的www视频| 日日爽夜夜爽网站| 极品教师在线免费播放| 又黄又爽又免费观看的视频| 18禁裸乳无遮挡免费网站照片 | 夜夜躁狠狠躁天天躁| 午夜福利免费观看在线| 一本大道久久a久久精品| 久久亚洲真实| 欧美日韩黄片免| x7x7x7水蜜桃| 国产又色又爽无遮挡免费看| 制服人妻中文乱码| 亚洲中文av在线| 免费在线观看视频国产中文字幕亚洲| www.www免费av| 国产成人系列免费观看| 久久青草综合色| 一级,二级,三级黄色视频| 久久人人精品亚洲av| 欧美最黄视频在线播放免费| a级毛片在线看网站| 午夜福利18| 丁香六月欧美| 这个男人来自地球电影免费观看| 亚洲国产精品999在线| 日日爽夜夜爽网站| 99riav亚洲国产免费| 啦啦啦免费观看视频1| 国产成人精品久久二区二区免费| 99riav亚洲国产免费| 欧美在线黄色| netflix在线观看网站| 亚洲色图 男人天堂 中文字幕| 一区二区日韩欧美中文字幕| 午夜福利影视在线免费观看| 欧美日韩一级在线毛片| 18禁国产床啪视频网站| 亚洲va日本ⅴa欧美va伊人久久| 热99re8久久精品国产|