• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于深度學(xué)習(xí)的手骨X 射線圖像骨齡評估

    2021-01-15 07:18:30王嘉慶梅禮曄張俊華
    計(jì)算機(jī)工程 2021年1期
    關(guān)鍵詞:骨齡殘差卷積

    王嘉慶,梅禮曄,張俊華

    (云南大學(xué) 信息學(xué)院,昆明 650500)

    0 概述

    醫(yī)學(xué)上通常將人類骨骼年齡(以下稱為骨齡)作為其生物學(xué)年齡,與出生年齡相比,骨齡能更準(zhǔn)確地反映人體成熟度。在臨床醫(yī)學(xué)中,骨齡評估廣泛應(yīng)用于兒童成長預(yù)測與相關(guān)疾病輔助診斷,是研究兒童內(nèi)分泌、遺傳因子和生長障礙的一種常用手段[1-3]。

    目前臨床通常采用G&P 方法[4]或TW 方法[5]通過左手(非慣用手)骨X射線圖像進(jìn)行骨齡人工評估。G&P方法又稱圖譜法,該方法主要通過觀察遠(yuǎn)端指骨、中間指骨以及腕部的各種形狀骨樣,將特定感興趣區(qū)域(Region of Interest,RoI)的圖像特征與標(biāo)準(zhǔn)圖譜中各年齡段圖像特征進(jìn)行對比來評估骨齡。TW 方法又稱計(jì)分法,該方法主要通過分析骨骺/干骨后端感興趣區(qū)域(Epiphysis/Metaphysis Region of Interest,E/MRoI)以及腕骨感興趣區(qū)域(Carpal Region of Interest,CRoI)等20 個(gè)感興趣區(qū)域(Region of Interest,RoI)并分別評分,然后將所有RoI 分?jǐn)?shù)相加得到骨成熟度總評分來評估骨齡。然而G&P 方法和TW 方法耗時(shí)較長,以G&P 方法和TW 方法中TW2 方法為例,經(jīng)驗(yàn)豐富的醫(yī)生使用這兩種方法分別需耗費(fèi)1.4 min 和7.9 min[6]。此外,上述方法均受醫(yī)生主觀因素影響,評估所得骨齡通常存在誤差,其中,G&P 方法的平均誤差為0.96 歲,TW2 方法的平均誤差為0.74 歲[7]。

    目前自動化骨齡檢測方法大部分按照TW 方法的原理對手骨X 射線圖像的RoI 特征進(jìn)行自動化提取。21 世紀(jì)初,PIETKA 等人[8-9]提出基于自組織指骨距離提取的E/MRoI 分割方法,并用模糊分類器進(jìn)行TW 級分配,通過評估360 張0 歲~6 歲兒童的手骨X 射線圖像得到骨齡平均絕對誤差(Mean Absolute Error,MAE)為2.41 歲,經(jīng)改進(jìn)分類器處理后得到MAE 為1.93 歲。2007 年,GERTYCH 等人[10]采用模糊邏輯的骨齡評估方法在1 400 張0 歲~18 歲兒童手骨X 射線圖像公共數(shù)據(jù)集上進(jìn)行評估,得到骨齡MAE 為2.15 歲。2016 年,SEOK 等人[11]提出一種決策規(guī)則的評估方法,在135 張未公布年齡的X 射線圖像非公開數(shù)據(jù)集上評估得到骨齡均方誤差(Mean Square Error,MSE)為0.19 歲。文獻(xiàn)[12]提出一種BoneXpert 方法,融合G&P 方法和TW 方法建立統(tǒng)一模型進(jìn)行自動年齡評估,利用生成模型和活動外觀模型自動分割手部和腕部的15 根骨骼,然后根據(jù)骨骼的形狀、強(qiáng)度與紋理特征確定其G&P 或TW2 骨齡,在1 559 張7 歲~17 歲兒童的手骨X 射線圖像非公開數(shù)據(jù)集上評估得到G&P 和TW2 骨齡的MSE 為0.42 歲和0.80 歲。2017 年,SPAMPINATO 等人[13]提出一種基于深度學(xué)習(xí)的骨齡評估方法BoNet,在0 歲~18 歲涵蓋所有種族和性別的手骨X 射線圖像公共數(shù)據(jù)集上進(jìn)行自動化骨齡評估,得到骨齡MAE 為0.8 歲。

    在上述研究中,除了基于深度學(xué)習(xí)的自動化骨齡評估方法,其他方法均基于G&P 方法或TW 方法中的E/MRoI 和CRoI 對手骨X 射線圖像進(jìn)行分割提取圖像幾何物理特征,并計(jì)算出圖像特征來評估骨齡,然而將臨床特征直接作為計(jì)算機(jī)視覺或機(jī)器學(xué)習(xí)分析處理的對象極大限制了自動化骨齡評估的泛化能力。此外,骨齡評估還存在實(shí)驗(yàn)數(shù)據(jù)集不公開、數(shù)據(jù)量較少、針對特定性別或種族,以及大部分受試者因年齡較小骨骼尚未定型等問題,其中BoneXpert方法對圖像質(zhì)量要求較高。以上因素導(dǎo)致實(shí)驗(yàn)結(jié)果不能真實(shí)反映自動化評估方法的性能,且評估方法不易驗(yàn)證與推廣。

    針對上述自動化骨齡評估方法存在的問題,本文提出一種基于深度學(xué)習(xí)的X 射線圖像自動骨齡評估方法,建立改進(jìn)的端到端深度學(xué)習(xí)網(wǎng)絡(luò)Inception ResNet V2,減少特征提取復(fù)雜度與局限性,在不借助任何先驗(yàn)信息的情況下,將手骨X 射線圖像簡單預(yù)處理后作為神經(jīng)網(wǎng)絡(luò)的輸入,通過改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)自動提取手骨X 射線圖像深層特征進(jìn)行識別和分類,并采用分層K折交叉驗(yàn)證法對網(wǎng)絡(luò)進(jìn)行訓(xùn)練。

    1 基于深度學(xué)習(xí)的骨齡檢測方法

    深度學(xué)習(xí)與傳統(tǒng)簡單學(xué)習(xí)的區(qū)別在于,前者通過多層網(wǎng)絡(luò)結(jié)構(gòu)自主學(xué)習(xí)和表征數(shù)據(jù)特征[14],而后者需要人工提取特征信息。人工提取的特征通常不準(zhǔn)確或者不能很好地表征事物本質(zhì),難以取得理想的學(xué)習(xí)效果。與傳統(tǒng)簡單學(xué)習(xí)相比,深度學(xué)習(xí)的效果更優(yōu)異且對數(shù)據(jù)特征的提取更準(zhǔn)確。卷積神經(jīng)網(wǎng)絡(luò)是深度學(xué)習(xí)在圖像領(lǐng)域的成功應(yīng)用之一[15]。

    近年來,深度卷積神經(jīng)網(wǎng)絡(luò)已成為圖像識別性能優(yōu)化的關(guān)鍵,其中具有代表性的是2014 年ImageNet ILSVRC 圖像識別競賽的冠軍模型GoogleNet[16-17],其以相對較低的計(jì)算成本獲得良好的識別精度。GoogleNet 深度學(xué)習(xí)架構(gòu)中較先進(jìn)的Inception V3、Inception V4、Inception ResNet V1 以及Inception ResNet V2 網(wǎng)絡(luò)[18]的檢測錯(cuò)誤率與參數(shù)量如表1 所示。可以看出,Inception ResNet V2 網(wǎng)絡(luò)的Top-1 和Top-5 錯(cuò)誤率均低于GoogleNet 系列的其他網(wǎng)絡(luò),因此,本文將Inception ResNet V2 作為基礎(chǔ)網(wǎng)絡(luò)用于骨齡評估。

    表1 不同網(wǎng)絡(luò)的檢測錯(cuò)誤率與參數(shù)量Table 1 Detection error rate and parameter quantity of different networks

    1.1 優(yōu)化的Inception ResNet V2 網(wǎng)絡(luò)

    Inception ResNet V2 網(wǎng)絡(luò)的原始結(jié)構(gòu)由Stem 模塊、Inception-ResNet模塊、Reduction 模塊以及Softmax 層組成。Inception-ResNet 模塊使用1×1 卷積和降維的方法減少參數(shù)量,在增加網(wǎng)絡(luò)深度的同時(shí)使用Shortcut 可有效避免梯度消失的問題,提高識別速度并加快收斂。

    使用Inception ResNet V2 網(wǎng)絡(luò)進(jìn)行骨齡評估的具體過程為:利用深度卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行特征學(xué)習(xí),將手骨X 射線圖像的低層特征和高層特征進(jìn)行融合,同時(shí)重復(fù)利用手骨特征有效性,并刪減Inception ResNet V2 網(wǎng)絡(luò)中Softmax 層以優(yōu)化Inception ResNet V2 網(wǎng)絡(luò)結(jié)構(gòu),如圖1 所示(彩色效果參見《計(jì)算機(jī)工程》官網(wǎng)HTML 版)。

    圖1 優(yōu)化的Inception ResNet V2 網(wǎng)絡(luò)結(jié)構(gòu)Fig.1 Optimized structure of Inception ResNet V2 network

    1.1.1 優(yōu)化的Inception 模塊

    Inception 模塊使用多層感知器代替?zhèn)鹘y(tǒng)卷積神經(jīng)網(wǎng)絡(luò)中的通用線性結(jié)構(gòu),多層感知器具有良好的非線性分類能力,在分類精度和收斂速度方面具有更好的效果,適用于骨齡評估等非線性分類問題。Inception 模塊原始結(jié)構(gòu)如圖2(a)所示,該模塊利用1×1、3×3、5×5 卷積核和3×3 最大池化操作擴(kuò)展網(wǎng)絡(luò)的深度與寬度,將不同規(guī)模卷積核的結(jié)果聯(lián)合濾波獲得輸出,以提取更豐富的手骨X 射線圖像深層特征。考慮到5×5 卷積核需要大量計(jì)算,采用3×3 卷積核代替5×5 卷積核[19]對Inception 模塊進(jìn)行優(yōu)化,獲得Inception-A 模塊,其結(jié)構(gòu)如圖2(b)所示。為進(jìn)一步減少計(jì)算量,引入非對稱卷積核,使用1×n卷積核與n×1 卷積核代替n×n卷積核,在卷積核感受野不變的情況下節(jié)約計(jì)算資源。非對稱卷積核在中等大小的特征圖上分類精度更高,經(jīng)過測試得到卷積優(yōu)化后的Inception-B 模塊和Inception-C 模塊,其結(jié)構(gòu)分別如圖2(c)和圖2(d)所示。

    圖2 原始模塊和卷積優(yōu)化后的Inception 模塊結(jié)構(gòu)Fig.2 Structure of original module and convolution optimized Inception modules

    1.1.2 殘差連接的Inception 模塊

    Inception 模塊的引入使網(wǎng)絡(luò)寬度與深度增加,卷積優(yōu)化后的Inception 模塊可降低計(jì)算量并提取到手骨X 射線圖像不同層次的特征,有利于提高骨齡預(yù)測精度,但也會造成梯度消失或梯度爆炸等問題。因此,通過在卷積優(yōu)化后的Inception 模塊中加入殘差連接[20]結(jié)構(gòu)可解決卷積神經(jīng)網(wǎng)絡(luò)深度增加帶來的副作用,殘差連接結(jié)構(gòu)如圖3 所示。

    圖3 殘差連接結(jié)構(gòu)Fig.3 Residual connection structure

    殘差連接結(jié)構(gòu)的輸入和輸出關(guān)系表示為:

    其 中,xl為殘差塊的輸入,xl+1、xl+2和xL分別為xl后第1 層、第2 層和第L層殘差塊的輸出,F(xiàn)(·) 為激活函數(shù),w為卷積操作。

    根據(jù)反向傳播算法中的鏈?zhǔn)椒▌t,損失函數(shù)c關(guān)于xl的梯度表示為:

    在殘差連接結(jié)構(gòu)中,當(dāng)更新某個(gè)節(jié)點(diǎn)的參數(shù)時(shí),由于xL=F(x)+xl,因此鏈?zhǔn)角髮?dǎo)后即使數(shù)值再小,其左側(cè)1 的存在使原鏈?zhǔn)角髮?dǎo)中連乘運(yùn)算變?yōu)檫B加運(yùn)算,從而保證該節(jié)點(diǎn)參數(shù)更新時(shí)不出現(xiàn)梯度消失或梯度爆炸現(xiàn)象。

    利用殘差連接結(jié)構(gòu)的優(yōu)勢,將改進(jìn)后的Inception 模塊與殘差連接結(jié)合[17]分別得到Inception-ResNet-A 模塊、Inception-ResNet-B 模塊和Inception-ResNet-C 模塊,其結(jié)構(gòu)如圖4 所示。

    圖4 3 種模塊的結(jié)構(gòu)Fig.4 Structure of three modules

    1.2 損失函數(shù)的選取

    本文采用固定學(xué)習(xí)率訓(xùn)練優(yōu)化后的Inception ResNet V2 網(wǎng)絡(luò),考慮到固定學(xué)習(xí)率下網(wǎng)絡(luò)模型不易收斂,采用MSE 損失函數(shù)。由于MSE 損失梯度隨損失減小而降低,當(dāng)梯度下降即將結(jié)束時(shí)不易錯(cuò)過最小值,因此訓(xùn)練網(wǎng)絡(luò)采用MSE 損失函數(shù)較其他損失函數(shù)所得效果更精確。

    將骨齡評估損失定義為手骨X 射線圖像評估所得骨齡讀數(shù)與標(biāo)簽(真實(shí))值的均方誤差,計(jì)算公式為:

    其中,N為樣本數(shù),ytrue為骨齡真實(shí)值,ypred為骨齡預(yù)測值。MSE 值越大,表示骨齡預(yù)測結(jié)果越差。

    1.3 評價(jià)指標(biāo)

    對于骨齡數(shù)值回歸預(yù)測結(jié)果,本文采用平均絕對誤差作為評價(jià)指標(biāo),MAE 值越小,說明預(yù)測精度越高,計(jì)算公式為:

    2 實(shí)驗(yàn)與結(jié)果分析

    2.1 數(shù)據(jù)集

    本文實(shí)驗(yàn)數(shù)據(jù)集采用一種骨骼年齡自動基準(zhǔn)測量的公共綜合X 射線數(shù)據(jù)集Digital Hand Atlas Database System。該數(shù)據(jù)集包含1 391 張18 歲以下兒童左手骨X 射線圖像,涵蓋亞洲人、非洲人、高加索人、西班牙人4 個(gè)種族,每張圖像都由醫(yī)學(xué)專家提供骨齡值,兒童的種族、年齡、性別分布情況如表2所示。由于該數(shù)據(jù)集為公共數(shù)據(jù)集,適用性較強(qiáng),涵蓋種族數(shù)量多、年齡范圍廣,因此其訓(xùn)練的網(wǎng)絡(luò)可應(yīng)用于各年齡段及各種族的骨齡評估,在一定程度上彌補(bǔ)了目前自動骨齡評估方法的不足。

    表2 數(shù)據(jù)集中兒童的種族、年齡和性別分布情況Table 2 Race,age and gender distribution of children in the dataset

    2.2 數(shù)據(jù)預(yù)處理

    利用深度學(xué)習(xí)處理圖像時(shí),需采用大量數(shù)據(jù)進(jìn)行訓(xùn)練,然而數(shù)據(jù)集樣本不足,因此,需擴(kuò)增數(shù)據(jù)集樣本數(shù)量。由于不能改變手骨X 射線圖像RoI 特征的原始樣貌,因此未選用隨機(jī)拉伸等數(shù)據(jù)增強(qiáng)方法,而是通過將圖像上下翻轉(zhuǎn)180°使數(shù)據(jù)集圖像數(shù)量擴(kuò)大為原來的兩倍。然后對數(shù)據(jù)增強(qiáng)后的手骨X 射線圖像進(jìn)行Z-Score 標(biāo)準(zhǔn)化處理,經(jīng)過處理的數(shù)據(jù)均值為0,標(biāo)準(zhǔn)差為1,最終將不同量級的數(shù)據(jù)轉(zhuǎn)化為統(tǒng)一度量,從而提高數(shù)據(jù)可比性并削弱數(shù)據(jù)解釋性。

    2.3 改進(jìn)的交叉驗(yàn)證方法

    本文實(shí)驗(yàn)所用數(shù)據(jù)集包括亞洲人、非洲人、高加索人和西班牙人4 個(gè)種族,不同種族手骨X 射線圖像的特征區(qū)域存在差異。采用標(biāo)準(zhǔn)K折交叉驗(yàn)證法(見圖5(a))將數(shù)據(jù)集按順序分為K等份,對于每一次模型的訓(xùn)練測試(共K次),都有(K-1)份做訓(xùn)練集,剩下1 份做測試集,K次訓(xùn)練測試后共得到K個(gè)結(jié)果,對該結(jié)果取平均值作為最終結(jié)果。由于此方法按順序?qū)?shù)據(jù)集劃分等份,可能存在樣本類別分配不均衡造成驗(yàn)證效果無意義,因此本文實(shí)驗(yàn)采用分層K折交叉驗(yàn)證法(見圖5(b))對數(shù)據(jù)分層采樣,確保訓(xùn)練集和測試集中樣本類別的比例與原始數(shù)據(jù)集相同,避免分類不均衡,以彌補(bǔ)標(biāo)準(zhǔn)K折交叉驗(yàn)證法的不足,使實(shí)驗(yàn)結(jié)果更準(zhǔn)確。

    圖5 2 種交叉驗(yàn)證方法Fig.5 Two cross validation methods

    2.4 實(shí)驗(yàn)平臺

    本文實(shí)驗(yàn)在安裝Windows10 系統(tǒng)的GPU 計(jì)算平臺上進(jìn)行,采用Intel?CoreTMi7-8700K CPU、16 GB×2內(nèi)存以及NVIDIA GeForce GTX 1080Ti GPU,所有程序通過以Tensorflow 為后端的開源框架Keras 及其Python 接口實(shí)現(xiàn)。

    2.5 訓(xùn)練策略

    本文采用MSE 損失函數(shù)和Adam 優(yōu)化算法[21]訓(xùn)練模型,批量大小設(shè)置為32,初始學(xué)習(xí)速率為0.1,以每次縮小為原速率1/5 或1/10 的速率依次遞減進(jìn)行學(xué)習(xí)速率調(diào)參,并在取得較高骨齡評估精度時(shí)通過微調(diào)學(xué)習(xí)速率取得最優(yōu)結(jié)果。使用骨齡標(biāo)簽值作為模型訓(xùn)練目標(biāo),在增強(qiáng)后的數(shù)據(jù)集上使用分層5 折交叉驗(yàn)證法評估網(wǎng)絡(luò)模型對骨齡的預(yù)測精度,每折進(jìn)行200 次迭代,并計(jì)算骨齡預(yù)測值和骨齡真實(shí)值的MAE 作為模型輸出。

    2.6 結(jié)果分析

    神經(jīng)網(wǎng)絡(luò)權(quán)值的變化基于損失梯度的調(diào)整,而學(xué)習(xí)速率控制神經(jīng)網(wǎng)絡(luò)權(quán)值變化的速度。若學(xué)習(xí)速率過高,則梯度降幅較大,易越過最優(yōu)解;若學(xué)習(xí)速率過低,則梯度降幅較小,將會延長收斂時(shí)間。在采用改進(jìn)的Inception ResNet V2 網(wǎng)絡(luò)進(jìn)行骨齡評估過程中,為取得最優(yōu)學(xué)習(xí)速率,本文在不同學(xué)習(xí)速率下進(jìn)行實(shí)驗(yàn),所得結(jié)果如圖6所示??梢钥闯觯倪M(jìn)的Inception ResNet V2網(wǎng)絡(luò)在評估骨齡過程中,當(dāng)學(xué)習(xí)速率小于0.005時(shí)MAE值開始收斂,并在學(xué)習(xí)速率為0.001 時(shí)MAE 達(dá)到最小值,得到模型訓(xùn)練后的最優(yōu)結(jié)果。

    圖6 改進(jìn)Inception ResNet V2 網(wǎng)絡(luò)在不同學(xué)習(xí)速率下的MAE 值Fig.6 MAE values of improved Inception ResNet V2 network at different learning rates

    為驗(yàn)證本文提出的改進(jìn)Inception ResNet V2 網(wǎng)絡(luò)(以下稱為本文網(wǎng)絡(luò))的檢測性能,將其與基于深度學(xué)習(xí)的BoNet[13]骨齡評估網(wǎng)絡(luò)(以下稱為BoNet 網(wǎng)絡(luò))在同一數(shù)據(jù)集上進(jìn)行對比。BoNet 網(wǎng)絡(luò)由5 個(gè)卷積層和位于第4個(gè)卷積層后的1個(gè)變形層組成,由含有2 048個(gè)神經(jīng)元的全連接層與用于估計(jì)的單神經(jīng)元組成回歸網(wǎng)絡(luò)。在對比實(shí)驗(yàn)中,本文網(wǎng)絡(luò)采用分層K折交叉驗(yàn)證法,BoNet 網(wǎng)絡(luò)采用標(biāo)準(zhǔn)K折交叉驗(yàn)證法,結(jié)果如表3所示??梢钥闯?,本文網(wǎng)絡(luò)的MAE 值較BoNet 網(wǎng)絡(luò)更低,骨齡預(yù)測精度更高。由此可見,在包括多個(gè)種族、不同年齡和性別的公共數(shù)據(jù)集上,本文方法能提取更具區(qū)分性的特征,對骨骼圖像的識別率更高,具有較好的魯棒性與泛化能力。

    表3 2 種網(wǎng)絡(luò)的MAE 值Table 3 MAE values of two networks

    2.7 預(yù)測精度對比

    為驗(yàn)證Inception ResNet V2 網(wǎng)絡(luò)在骨齡評估方面的優(yōu)異性能,對比Inception V3、Inception V4、Inception ResNet V1 網(wǎng)絡(luò)(上述網(wǎng)絡(luò)均已刪去Softmax 層以便骨齡評估)的骨齡評估情況,采用MSE 損失函數(shù)和MAE指標(biāo)并利用分層K折交叉驗(yàn)證法進(jìn)行實(shí)驗(yàn),批處理圖像數(shù)量為32,通過調(diào)參得到各網(wǎng)絡(luò)的最優(yōu)學(xué)習(xí)速率,不同網(wǎng)絡(luò)的學(xué)習(xí)速率調(diào)參結(jié)果如圖7 所示。結(jié)合圖6 可以看出,Inception V3、Inception V4、Inception ResNet V1與Inception ResNet V2 網(wǎng)絡(luò)的最優(yōu)學(xué)習(xí)速率分別為0.001 0、0.010 0、0.000 5 和0.001 0。4 種網(wǎng)絡(luò)在最優(yōu)學(xué)習(xí)速率下所得MAE 值如表4 所示。

    圖7 不同網(wǎng)絡(luò)的學(xué)習(xí)速率調(diào)參結(jié)果Fig.7 Results of parameter adjustments of learning rate of different networks

    表4 4 種網(wǎng)絡(luò)在最優(yōu)學(xué)習(xí)速率下的MAE 值Table 4 MAE values of four networks at optimal learning rates

    可以看出,Inception 系列網(wǎng)絡(luò)的骨齡預(yù)測精度均優(yōu)異于BoNet 網(wǎng)絡(luò),說明Inception 系列模塊在手骨X 射線圖像特征提取上具有優(yōu)異的效果。Inception ResNet V1 在Inception V3 的基礎(chǔ)上加入殘差連接結(jié)構(gòu),Inception ResNet V2 在Inception V4 的基礎(chǔ)上加入殘差連接結(jié)構(gòu),Inception V4 在Inception V3 基礎(chǔ)上對網(wǎng)絡(luò)進(jìn)行優(yōu)化,與Inception V3 相比,Inception V4 的網(wǎng)絡(luò)結(jié)構(gòu)更精簡且Inception 模塊更多,上述網(wǎng)絡(luò)中前者的MAE 值均低于后者,骨齡預(yù)測精度更高。以上實(shí)驗(yàn)結(jié)果表明,殘差網(wǎng)絡(luò)的連接結(jié)構(gòu)對骨齡評估有正向促進(jìn)作用。殘差網(wǎng)絡(luò)結(jié)構(gòu)使深度神經(jīng)網(wǎng)絡(luò)在前向傳播時(shí)的輸入信號從任意層直接傳播到高層,在一定程度上解決網(wǎng)絡(luò)退化問題,且深度神經(jīng)網(wǎng)絡(luò)在反向傳播時(shí)的錯(cuò)誤信號可不經(jīng)過任何中間權(quán)重矩陣變換直接傳播到低層,在一定程度上緩解梯度彌散問題,從而提升網(wǎng)絡(luò)模型對手骨X線圖像特征的處理性能,得到更高的預(yù)測精度。

    3 結(jié)束語

    本文提出一種基于深度學(xué)習(xí)的改進(jìn)Inception ResNet V2 網(wǎng)絡(luò)骨齡評估方法。通過去除Softmax 層優(yōu)化深度卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),在Inception 模塊中加入非對稱卷積核和殘差連接結(jié)構(gòu)提高分類精度,擴(kuò)展數(shù)據(jù)集避免深度學(xué)習(xí)算法出現(xiàn)過擬合現(xiàn)象,采用分層K折交叉驗(yàn)證法對數(shù)據(jù)均衡采樣。實(shí)驗(yàn)結(jié)果表明,與采用BoNet 網(wǎng)絡(luò)的方法相比,該方法骨齡預(yù)測精度更高,具有較好的魯棒性和泛化能力。后續(xù)將對卷積神經(jīng)網(wǎng)絡(luò)的特征提取區(qū)域進(jìn)行可視化研究,并與G&P 方法和TW 方法的特征提取區(qū)域進(jìn)行對比,進(jìn)一步提高本文方法的骨齡評估性能。

    猜你喜歡
    骨齡殘差卷積
    基于雙向GRU與殘差擬合的車輛跟馳建模
    評估身高需要定期測骨齡嗎
    基于3D-Winograd的快速卷積算法設(shè)計(jì)及FPGA實(shí)現(xiàn)
    基于殘差學(xué)習(xí)的自適應(yīng)無人機(jī)目標(biāo)跟蹤算法
    骨齡預(yù)測身高靠譜嗎
    基于遞歸殘差網(wǎng)絡(luò)的圖像超分辨率重建
    從濾波器理解卷積
    電子制作(2019年11期)2019-07-04 00:34:38
    骨齡測評軟件在矮身材、性早熟兒童身高管理中的應(yīng)用
    基于傅里葉域卷積表示的目標(biāo)跟蹤算法
    平穩(wěn)自相關(guān)過程的殘差累積和控制圖
    河南科技(2015年8期)2015-03-11 16:23:52
    国产欧美亚洲国产| 国产野战对白在线观看| 亚洲欧洲精品一区二区精品久久久| 最近最新免费中文字幕在线| 最近中文字幕2019免费版| 日韩电影二区| 少妇粗大呻吟视频| 天堂俺去俺来也www色官网| 丰满少妇做爰视频| 欧美大码av| 国产麻豆69| 亚洲美女黄色视频免费看| 亚洲国产精品一区二区三区在线| 免费黄频网站在线观看国产| 三上悠亚av全集在线观看| 五月天丁香电影| 国产99久久九九免费精品| 丝袜美腿诱惑在线| 青春草视频在线免费观看| 亚洲成人免费av在线播放| 啦啦啦啦在线视频资源| 日韩一区二区三区影片| 免费日韩欧美在线观看| av不卡在线播放| 日韩免费高清中文字幕av| 国产成人免费无遮挡视频| 天堂8中文在线网| 精品少妇久久久久久888优播| 日韩制服骚丝袜av| 操出白浆在线播放| 欧美日韩视频精品一区| 亚洲精品自拍成人| 男女之事视频高清在线观看| 人人妻人人爽人人添夜夜欢视频| 18禁国产床啪视频网站| 十八禁网站免费在线| av有码第一页| kizo精华| 在线观看www视频免费| 美女福利国产在线| 午夜老司机福利片| 在线观看免费日韩欧美大片| 性色av乱码一区二区三区2| 成人亚洲精品一区在线观看| 女性生殖器流出的白浆| 亚洲性夜色夜夜综合| 免费女性裸体啪啪无遮挡网站| 国产在线视频一区二区| h视频一区二区三区| 国产精品国产av在线观看| 国产在线视频一区二区| 国产真人三级小视频在线观看| 啦啦啦啦在线视频资源| 侵犯人妻中文字幕一二三四区| 又黄又粗又硬又大视频| 青春草亚洲视频在线观看| 男女国产视频网站| 一级片'在线观看视频| 亚洲av男天堂| 操出白浆在线播放| e午夜精品久久久久久久| 国产精品亚洲av一区麻豆| 女人精品久久久久毛片| 亚洲天堂av无毛| 99香蕉大伊视频| 国产一区二区在线观看av| 成年女人毛片免费观看观看9 | 大陆偷拍与自拍| 欧美黄色片欧美黄色片| 精品乱码久久久久久99久播| 久久女婷五月综合色啪小说| 一个人免费在线观看的高清视频 | 国产精品.久久久| 少妇精品久久久久久久| 伊人久久大香线蕉亚洲五| 午夜福利视频在线观看免费| 乱人伦中国视频| 日韩视频一区二区在线观看| 精品高清国产在线一区| 性少妇av在线| 一级,二级,三级黄色视频| kizo精华| 亚洲中文日韩欧美视频| 国产97色在线日韩免费| 国产亚洲欧美在线一区二区| 亚洲av成人不卡在线观看播放网 | 岛国在线观看网站| 国产精品欧美亚洲77777| 汤姆久久久久久久影院中文字幕| kizo精华| 国产精品99久久99久久久不卡| www.熟女人妻精品国产| 香蕉国产在线看| www.999成人在线观看| 无遮挡黄片免费观看| 亚洲午夜精品一区,二区,三区| 在线av久久热| 国产一区二区在线观看av| 一本色道久久久久久精品综合| 午夜老司机福利片| 大片电影免费在线观看免费| 大码成人一级视频| 婷婷丁香在线五月| 50天的宝宝边吃奶边哭怎么回事| 久久国产亚洲av麻豆专区| 成年人午夜在线观看视频| 黄色视频在线播放观看不卡| 中文字幕高清在线视频| 啦啦啦在线免费观看视频4| 欧美久久黑人一区二区| 人人澡人人妻人| 亚洲av片天天在线观看| 老司机影院成人| 久久国产精品影院| 精品人妻1区二区| 成年av动漫网址| 国产成人系列免费观看| 在线观看人妻少妇| 日韩欧美国产一区二区入口| 午夜免费成人在线视频| 美女中出高潮动态图| 热99久久久久精品小说推荐| 精品乱码久久久久久99久播| www.999成人在线观看| 亚洲精品国产精品久久久不卡| 亚洲人成77777在线视频| 狠狠婷婷综合久久久久久88av| 99国产精品一区二区蜜桃av | netflix在线观看网站| 亚洲欧美一区二区三区久久| 国产xxxxx性猛交| 亚洲 国产 在线| 久久国产精品男人的天堂亚洲| 精品亚洲成国产av| 91麻豆精品激情在线观看国产 | 黄片小视频在线播放| 精品国产一区二区三区久久久樱花| 久久精品人人爽人人爽视色| 精品国产一区二区三区四区第35| 亚洲视频免费观看视频| 黄色视频不卡| 免费观看人在逋| 国产精品偷伦视频观看了| 这个男人来自地球电影免费观看| 亚洲七黄色美女视频| 黄色片一级片一级黄色片| 日本猛色少妇xxxxx猛交久久| 成人影院久久| 中文字幕高清在线视频| 一二三四在线观看免费中文在| 久热爱精品视频在线9| 亚洲国产成人一精品久久久| 亚洲全国av大片| 人妻 亚洲 视频| 在线天堂中文资源库| 视频在线观看一区二区三区| 国产区一区二久久| 人人澡人人妻人| 午夜日韩欧美国产| 九色亚洲精品在线播放| 男人舔女人的私密视频| 韩国高清视频一区二区三区| 9色porny在线观看| 午夜免费鲁丝| 女人爽到高潮嗷嗷叫在线视频| 下体分泌物呈黄色| 国产精品一二三区在线看| 亚洲专区字幕在线| 下体分泌物呈黄色| 一级黄色大片毛片| 日本欧美视频一区| 美女高潮到喷水免费观看| 日韩,欧美,国产一区二区三区| 久久久国产精品麻豆| 久久人妻福利社区极品人妻图片| 日本a在线网址| 最黄视频免费看| 亚洲欧洲日产国产| 久久影院123| 一本久久精品| 狂野欧美激情性bbbbbb| 男人舔女人的私密视频| 一区二区日韩欧美中文字幕| 亚洲av日韩精品久久久久久密| 一个人免费在线观看的高清视频 | 2018国产大陆天天弄谢| 丁香六月欧美| 亚洲熟女毛片儿| 精品视频人人做人人爽| 在线天堂中文资源库| 亚洲欧美一区二区三区黑人| 日本av免费视频播放| 亚洲avbb在线观看| 亚洲中文日韩欧美视频| 啦啦啦啦在线视频资源| 亚洲伊人色综图| 日本黄色日本黄色录像| 国产伦人伦偷精品视频| 如日韩欧美国产精品一区二区三区| 性少妇av在线| 人人澡人人妻人| 欧美精品亚洲一区二区| 一个人免费看片子| 岛国毛片在线播放| 97在线人人人人妻| 国产高清videossex| 免费在线观看影片大全网站| 日韩大片免费观看网站| 黄频高清免费视频| 国产亚洲精品一区二区www | 亚洲欧美一区二区三区久久| 老司机在亚洲福利影院| 久久国产精品影院| 新久久久久国产一级毛片| 午夜影院在线不卡| 国产精品一区二区在线观看99| 老司机影院毛片| 国产成人影院久久av| 两人在一起打扑克的视频| 2018国产大陆天天弄谢| 首页视频小说图片口味搜索| 日本av手机在线免费观看| 国产亚洲精品一区二区www | 中文字幕另类日韩欧美亚洲嫩草| 精品国产乱码久久久久久男人| 亚洲五月婷婷丁香| 一本—道久久a久久精品蜜桃钙片| 女警被强在线播放| 多毛熟女@视频| 欧美人与性动交α欧美软件| 纯流量卡能插随身wifi吗| 国产伦理片在线播放av一区| 91av网站免费观看| 人人妻人人澡人人看| av在线播放精品| 久久久久久免费高清国产稀缺| 亚洲精品中文字幕在线视频| 久久亚洲精品不卡| 黄频高清免费视频| 日本撒尿小便嘘嘘汇集6| 一区二区三区四区激情视频| 亚洲午夜精品一区,二区,三区| 韩国精品一区二区三区| 亚洲久久久国产精品| 中文欧美无线码| 91大片在线观看| 建设人人有责人人尽责人人享有的| 精品亚洲乱码少妇综合久久| 他把我摸到了高潮在线观看 | 国产一卡二卡三卡精品| 欧美xxⅹ黑人| 亚洲av男天堂| 啦啦啦在线免费观看视频4| 色老头精品视频在线观看| 国产野战对白在线观看| 成在线人永久免费视频| 亚洲国产av新网站| 国产精品一区二区免费欧美 | av有码第一页| 如日韩欧美国产精品一区二区三区| 国产男女内射视频| 咕卡用的链子| 亚洲专区中文字幕在线| www.999成人在线观看| 国产精品偷伦视频观看了| 法律面前人人平等表现在哪些方面 | 国产一区二区 视频在线| 国产老妇伦熟女老妇高清| videos熟女内射| 成年人免费黄色播放视频| 如日韩欧美国产精品一区二区三区| 久久中文字幕一级| 国产精品影院久久| 国产精品二区激情视频| a级毛片在线看网站| 欧美日韩亚洲国产一区二区在线观看 | www.av在线官网国产| 久久久精品免费免费高清| 久热这里只有精品99| 亚洲精品久久成人aⅴ小说| 不卡一级毛片| 老熟妇仑乱视频hdxx| 自线自在国产av| 丁香六月天网| 美女午夜性视频免费| 免费在线观看完整版高清| 99精国产麻豆久久婷婷| 少妇裸体淫交视频免费看高清 | 国产成+人综合+亚洲专区| 久久久久久久精品精品| 久久久久久久久免费视频了| 精品少妇久久久久久888优播| 久久 成人 亚洲| 一本久久精品| 免费日韩欧美在线观看| 日韩 亚洲 欧美在线| 欧美 日韩 精品 国产| 欧美老熟妇乱子伦牲交| 亚洲精品自拍成人| 欧美国产精品一级二级三级| 狂野欧美激情性bbbbbb| 美女中出高潮动态图| 国产精品久久久久久人妻精品电影 | 久久久久精品人妻al黑| 伊人亚洲综合成人网| 国产精品偷伦视频观看了| 2018国产大陆天天弄谢| 老司机深夜福利视频在线观看 | 超色免费av| 操美女的视频在线观看| 亚洲成人手机| 午夜免费成人在线视频| 成年美女黄网站色视频大全免费| 日韩有码中文字幕| 国产成人a∨麻豆精品| 日韩欧美国产一区二区入口| 日韩熟女老妇一区二区性免费视频| 亚洲色图 男人天堂 中文字幕| 亚洲情色 制服丝袜| 飞空精品影院首页| 色94色欧美一区二区| 性少妇av在线| 国产精品熟女久久久久浪| 波多野结衣av一区二区av| 国产福利在线免费观看视频| 国产亚洲欧美精品永久| 97人妻天天添夜夜摸| 一本一本久久a久久精品综合妖精| 亚洲精品自拍成人| 中国国产av一级| 午夜两性在线视频| 十八禁网站网址无遮挡| 一进一出抽搐动态| 99国产精品一区二区三区| 一区二区日韩欧美中文字幕| 最近最新免费中文字幕在线| 免费在线观看日本一区| 亚洲少妇的诱惑av| 狠狠狠狠99中文字幕| 亚洲欧洲日产国产| 精品福利观看| 精品人妻熟女毛片av久久网站| 一区在线观看完整版| 亚洲国产欧美网| 午夜影院在线不卡| 久久免费观看电影| 日日夜夜操网爽| tube8黄色片| 天天操日日干夜夜撸| 久久国产精品人妻蜜桃| 日韩制服丝袜自拍偷拍| 欧美在线一区亚洲| 青春草亚洲视频在线观看| 999精品在线视频| 黑丝袜美女国产一区| 夫妻午夜视频| 欧美成人午夜精品| 亚洲精品美女久久久久99蜜臀| 欧美成狂野欧美在线观看| 丁香六月欧美| 在线观看一区二区三区激情| 俄罗斯特黄特色一大片| 一本色道久久久久久精品综合| www日本在线高清视频| 亚洲第一青青草原| 精品国产乱码久久久久久小说| 99久久综合免费| h视频一区二区三区| 国产一区二区三区av在线| 91精品国产国语对白视频| videos熟女内射| 狠狠狠狠99中文字幕| 久久人人爽av亚洲精品天堂| 成年av动漫网址| 69av精品久久久久久 | 国产极品粉嫩免费观看在线| 亚洲国产中文字幕在线视频| 久久久精品区二区三区| 大香蕉久久网| 免费久久久久久久精品成人欧美视频| 秋霞在线观看毛片| 91成年电影在线观看| svipshipincom国产片| 日本黄色日本黄色录像| 一区二区av电影网| 国产精品熟女久久久久浪| 人妻一区二区av| 人人妻人人澡人人看| av免费在线观看网站| 成人亚洲精品一区在线观看| 午夜成年电影在线免费观看| 午夜精品国产一区二区电影| 欧美xxⅹ黑人| 欧美另类一区| 国产高清视频在线播放一区 | av一本久久久久| 国产无遮挡羞羞视频在线观看| 91成年电影在线观看| 丰满人妻熟妇乱又伦精品不卡| 动漫黄色视频在线观看| 久久精品人人爽人人爽视色| 免费av中文字幕在线| 91字幕亚洲| 亚洲人成电影观看| 国产在视频线精品| 亚洲成人免费av在线播放| 久久九九热精品免费| 亚洲成人手机| 亚洲av美国av| 91麻豆av在线| www.自偷自拍.com| 男女边摸边吃奶| 精品国内亚洲2022精品成人 | av超薄肉色丝袜交足视频| 黄色怎么调成土黄色| 亚洲成人免费av在线播放| cao死你这个sao货| av在线播放精品| avwww免费| 亚洲国产av新网站| 老熟妇乱子伦视频在线观看 | 视频区图区小说| 色婷婷久久久亚洲欧美| 人人妻人人爽人人添夜夜欢视频| 国产精品亚洲av一区麻豆| 亚洲精品国产区一区二| 伊人亚洲综合成人网| 精品卡一卡二卡四卡免费| 黄片小视频在线播放| 狂野欧美激情性xxxx| 午夜视频精品福利| 一级片免费观看大全| 亚洲国产欧美网| 十八禁网站免费在线| svipshipincom国产片| 无遮挡黄片免费观看| 久久久国产成人免费| 亚洲精品一卡2卡三卡4卡5卡 | 99热网站在线观看| 国产无遮挡羞羞视频在线观看| 纵有疾风起免费观看全集完整版| 国产99久久九九免费精品| 国产又爽黄色视频| 麻豆国产av国片精品| a级毛片黄视频| 捣出白浆h1v1| 欧美少妇被猛烈插入视频| 亚洲全国av大片| 亚洲av欧美aⅴ国产| 精品少妇久久久久久888优播| av欧美777| 夜夜夜夜夜久久久久| 免费在线观看影片大全网站| 99国产精品一区二区蜜桃av | 日韩制服丝袜自拍偷拍| 午夜福利免费观看在线| 99久久精品国产亚洲精品| av电影中文网址| 国产日韩欧美亚洲二区| 欧美激情极品国产一区二区三区| 国产精品 国内视频| 久久午夜综合久久蜜桃| 少妇粗大呻吟视频| 肉色欧美久久久久久久蜜桃| 日韩欧美免费精品| 一级毛片电影观看| 999精品在线视频| 久久精品国产亚洲av高清一级| 午夜激情久久久久久久| 黄网站色视频无遮挡免费观看| 久久国产精品大桥未久av| 大片免费播放器 马上看| 19禁男女啪啪无遮挡网站| 青青草视频在线视频观看| 欧美午夜高清在线| 欧美另类一区| h视频一区二区三区| 日本猛色少妇xxxxx猛交久久| 国产成人系列免费观看| 成人国产av品久久久| 国产97色在线日韩免费| videos熟女内射| 久久这里只有精品19| 午夜免费成人在线视频| 国产欧美日韩综合在线一区二区| 动漫黄色视频在线观看| 亚洲五月婷婷丁香| 国产视频一区二区在线看| 电影成人av| 欧美 亚洲 国产 日韩一| 岛国毛片在线播放| 久久午夜综合久久蜜桃| 日韩欧美一区视频在线观看| 亚洲国产欧美在线一区| 老熟女久久久| 午夜老司机福利片| 飞空精品影院首页| 亚洲美女黄色视频免费看| 天堂俺去俺来也www色官网| 亚洲黑人精品在线| 色老头精品视频在线观看| 久久精品国产亚洲av高清一级| 午夜日韩欧美国产| 国产一区二区激情短视频 | 午夜影院在线不卡| 亚洲伊人久久精品综合| 在线亚洲精品国产二区图片欧美| 亚洲av国产av综合av卡| 丝袜脚勾引网站| 天堂中文最新版在线下载| 国产精品久久久久成人av| 肉色欧美久久久久久久蜜桃| 日韩免费高清中文字幕av| a级片在线免费高清观看视频| 欧美日韩亚洲国产一区二区在线观看 | 国产av一区二区精品久久| 2018国产大陆天天弄谢| 日韩欧美国产一区二区入口| 亚洲天堂av无毛| 黄网站色视频无遮挡免费观看| 永久免费av网站大全| 亚洲精品日韩在线中文字幕| 高潮久久久久久久久久久不卡| 天天影视国产精品| 最黄视频免费看| 国产欧美日韩一区二区三区在线| 久久久久国内视频| 一边摸一边做爽爽视频免费| 又大又爽又粗| 欧美日韩精品网址| 国产福利在线免费观看视频| 女性被躁到高潮视频| 国产伦人伦偷精品视频| 两个人看的免费小视频| 久久久国产欧美日韩av| tocl精华| 国产精品熟女久久久久浪| 亚洲精品一二三| 日本vs欧美在线观看视频| 成在线人永久免费视频| 日韩有码中文字幕| 丝袜脚勾引网站| 美女高潮喷水抽搐中文字幕| 最新在线观看一区二区三区| 国产日韩欧美视频二区| 美女高潮到喷水免费观看| 法律面前人人平等表现在哪些方面 | 亚洲五月色婷婷综合| 国产男女超爽视频在线观看| 精品久久蜜臀av无| 亚洲熟女毛片儿| 午夜福利免费观看在线| 高清在线国产一区| 国产日韩欧美亚洲二区| 亚洲精品久久久久久婷婷小说| 国产成人免费无遮挡视频| 午夜影院在线不卡| 波多野结衣一区麻豆| 97人妻天天添夜夜摸| 一个人免费在线观看的高清视频 | 亚洲国产中文字幕在线视频| 精品一区二区三卡| 777米奇影视久久| 国产亚洲精品第一综合不卡| 最新在线观看一区二区三区| 亚洲国产毛片av蜜桃av| 国产亚洲欧美精品永久| 午夜福利乱码中文字幕| www.熟女人妻精品国产| 国产不卡av网站在线观看| 亚洲av电影在线观看一区二区三区| 在线永久观看黄色视频| 国产精品一区二区在线不卡| www.999成人在线观看| 国产成人a∨麻豆精品| 久久人妻福利社区极品人妻图片| 天天躁日日躁夜夜躁夜夜| 成年美女黄网站色视频大全免费| 免费在线观看视频国产中文字幕亚洲 | 亚洲综合色网址| 久久毛片免费看一区二区三区| 久久久久精品国产欧美久久久 | 免费高清在线观看视频在线观看| 国产老妇伦熟女老妇高清| 国产精品一区二区在线观看99| 精品国产国语对白av| 男女免费视频国产| a级毛片黄视频| av超薄肉色丝袜交足视频| 黑人巨大精品欧美一区二区mp4| 日韩大码丰满熟妇| 国产精品久久久久久精品古装| 久久久国产成人免费| 乱人伦中国视频| 亚洲国产欧美在线一区| 久久精品熟女亚洲av麻豆精品| 免费av中文字幕在线| 日本精品一区二区三区蜜桃| 丁香六月欧美| 精品久久久久久久毛片微露脸 | 丁香六月天网| 亚洲综合色网址| kizo精华| 国产一区二区 视频在线| 精品视频人人做人人爽| 亚洲成国产人片在线观看| 日韩欧美一区视频在线观看| 别揉我奶头~嗯~啊~动态视频 | 亚洲人成电影免费在线| 午夜免费成人在线视频| 国产亚洲欧美精品永久| 他把我摸到了高潮在线观看 | 亚洲国产精品一区三区| 日韩熟女老妇一区二区性免费视频| 亚洲中文日韩欧美视频|