基于深度學(xué)習(xí)實(shí)現(xiàn)維吾爾族青少年左手腕關(guān)節(jié)骨齡自動(dòng)化評(píng)估

胡婷鴻 ，火 忠 ，劉太昂 ，王 飛 ，萬(wàn) 雷 ，汪茂文 ，陳 騰 ，王亞輝

（1.司法鑒定科學(xué)研究院 上海市法醫(yī)學(xué)重點(diǎn)實(shí)驗(yàn)室 上海市司法鑒定專業(yè)技術(shù)服務(wù)平臺(tái)，上海 200063；2.西安交通大學(xué)醫(yī)學(xué)部法醫(yī)學(xué)院，陜西 西安 710061；3.新疆維吾爾自治區(qū)人民醫(yī)院，新疆 烏魯木齊 830000；4.上海帆陽(yáng)信息科技有限公司，上海 200444）

人體骨骼隨生長(zhǎng)周期呈現(xiàn)連續(xù)性與階段性的發(fā)育特征，決定了骨骼的生物學(xué)年齡可以反映個(gè)體的生活年齡。我國(guó)傳統(tǒng)骨齡評(píng)估技術(shù)主要依據(jù)人工讀取骨關(guān)節(jié)在X線片中所反映的骨骼發(fā)育程度獲取個(gè)體骨骼年齡，以用于臨床個(gè)體發(fā)育調(diào)查、運(yùn)動(dòng)員選材以及刑事案件中涉及青少年犯罪嫌疑人的定罪量刑等。但是，人工讀片存在耗時(shí)長(zhǎng)、技術(shù)要求高、不同讀片者評(píng)估結(jié)果不盡相同等局限，從而影響了骨齡鑒定意見(jiàn)的有效性和準(zhǔn)確性。為改善或解決上述問(wèn)題，20世紀(jì)末至21世紀(jì)初，隨著計(jì)算機(jī)硬件設(shè)備以及圖像數(shù)字化處理技術(shù)的發(fā)展，國(guó)內(nèi)外學(xué)者針對(duì)X線骨齡評(píng)估提出計(jì)算機(jī)輔助評(píng)估系統(tǒng)[1-4]。2014年，王亞輝等[5]運(yùn)用淺層監(jiān)督學(xué)習(xí)算法-支持向量機(jī)（support vector machine，SVM），通過(guò)核函數(shù)處理骨骼數(shù)字X射線攝影（digital radiography，DR）圖像特征信息與骨骺發(fā)育分級(jí)之間非線性對(duì)應(yīng)關(guān)系表達(dá)，實(shí)現(xiàn)骨骺發(fā)育分級(jí)自動(dòng)化評(píng)估。SVM[6]為基于統(tǒng)計(jì)學(xué)習(xí)理論的模式識(shí)別算法，適用于小樣本數(shù)據(jù)信息挖掘，但其利用人工經(jīng)驗(yàn)獲取局部樣本特征過(guò)程中必然伴隨圖像機(jī)器識(shí)別信息丟失，對(duì)樣本種類高度依賴的特性導(dǎo)致局限泛化能力，對(duì)復(fù)雜函數(shù)處理能力有限，且小樣本數(shù)據(jù)同樣暗示不能挖掘更復(fù)雜骨骼結(jié)構(gòu)內(nèi)部信息。

機(jī)器學(xué)習(xí)是人工智能的一個(gè)分支，其通過(guò)算法使機(jī)器從大數(shù)據(jù)訓(xùn)練中學(xué)習(xí)規(guī)律，進(jìn)而對(duì)新數(shù)據(jù)進(jìn)行識(shí)別及預(yù)測(cè)。 深度學(xué)習(xí)（deep learning，DL）[7-8]屬于一種機(jī)器學(xué)習(xí)，其基本結(jié)構(gòu)是至少具備一個(gè)隱含層的深度神經(jīng)網(wǎng)絡(luò)，近年在圖像識(shí)別方面取得很大成就[9]。尤其是卷積神經(jīng)網(wǎng)絡(luò)（convolutional neural network，CNN），可以至少在網(wǎng)絡(luò)的一層中使用卷積運(yùn)算來(lái)替代一般的矩陣乘法運(yùn)算的神經(jīng)網(wǎng)絡(luò)[10]，目前已成功應(yīng)用于眾多其他醫(yī)學(xué)圖像識(shí)別領(lǐng)域中，如有絲分裂圖像識(shí)別[11]、肺斜裂結(jié)節(jié)檢查[12]、皮膚癌[13]以及乳腺癌病理圖像分類[14]等。2015年，LEE等[15]首次基于深度學(xué)習(xí)創(chuàng)建了網(wǎng)絡(luò)模型“FingerNet”，用于腕關(guān)節(jié)DR圖像中的指關(guān)節(jié)檢測(cè)，但未實(shí)現(xiàn)骨齡評(píng)估。直到2017年，SPAMPINATO等[16]建立了自動(dòng)化骨齡評(píng)估模型“BoNet”，手腕關(guān)節(jié)DR圖像的深度學(xué)習(xí)與人工讀片評(píng)估結(jié)果之間的平均絕對(duì)誤差僅為0.79歲。隨后，LEE等[17]同樣選用左手腕關(guān)節(jié)DR圖像為樣本，提出一套能生成結(jié)構(gòu)化放射學(xué)報(bào)告的全自動(dòng)骨齡評(píng)估深度學(xué)習(xí)系統(tǒng)，實(shí)現(xiàn)了較好的評(píng)估準(zhǔn)確率。近期，KIM等[18]將CNN作為人工讀片的輔助工具進(jìn)行研究，通過(guò)方法間的差異性比較得出，深度學(xué)習(xí)較人工讀片的準(zhǔn)確度有所提升，讀片消耗時(shí)間顯著減少?；诖?，深度學(xué)習(xí)可較好地應(yīng)用于骨齡評(píng)估，本研究擬采用深度學(xué)習(xí)對(duì)我國(guó)維吾爾族青少年左手腕關(guān)節(jié)DR圖像進(jìn)行骨齡自動(dòng)化評(píng)估，并檢驗(yàn)該自動(dòng)化評(píng)估方法的準(zhǔn)確性。

1 對(duì)象與方法

1.1 研究對(duì)象

本研究從新疆某醫(yī)院放射科DR圖像庫(kù)中運(yùn)用分層整群抽樣方法采集了自2014年8月至2016年12月期間拍攝的維吾爾族13.0～20.0歲男、女性左手腕關(guān)節(jié)DR圖像作為數(shù)據(jù)集，其中男性青少年245例、女性青少年227例。上述DR圖像對(duì)應(yīng)的真實(shí)個(gè)人年齡信息均源于其居民身份證或戶籍資料。樣本分布情況見(jiàn)表1。

表1 不同性別、不同年齡組人群分布（例）

納入標(biāo)準(zhǔn)：采用馬爾丁金屬測(cè)量計(jì)、經(jīng)校準(zhǔn)的杠桿秤，分別測(cè)身高、體質(zhì)量，并經(jīng)新疆維吾爾自治區(qū)人民醫(yī)院確認(rèn)身體健康、營(yíng)養(yǎng)狀況良好的個(gè)體，其左手腕關(guān)節(jié)DR圖像作為研究對(duì)象。

排除標(biāo)準(zhǔn)：參加特殊文藝、體育訓(xùn)練者，曾有服用影響骨骺發(fā)育藥物史者，曾有影響骨骺發(fā)育疾病史或外傷史者。

本研究符合有關(guān)醫(yī)學(xué)倫理法律條款規(guī)定。

在上述男、女性左手腕關(guān)節(jié)DR圖像中分別隨機(jī)選取70%的樣本（男性172例，女性159例）作為訓(xùn)練集（其中60%樣本作為網(wǎng)絡(luò)訓(xùn)練集，10%樣本作為驗(yàn)證集），用于模型訓(xùn)練、參數(shù)學(xué)習(xí)、自動(dòng)微調(diào)連接參數(shù)及模型優(yōu)化等。余下30%的樣本（男性73例，女性68例）作為測(cè)試集，用于測(cè)試深度學(xué)習(xí)模型的識(shí)別及泛化能力，獲取在不同年齡精度的圖像識(shí)別準(zhǔn)確率。

1.2 方法

1.2.1 圖像預(yù)處理方法

本研究中骨骼是深度學(xué)習(xí)需要識(shí)別的主體。首先通過(guò)批量處理來(lái)濾除首飾穿戴及字符等影響因素，按圖1所示的三個(gè)步驟進(jìn)行圖像預(yù)處理。

（1）去字符。通過(guò)灰度確定字符位置，并生成灰度為該圖像灰度眾數(shù)的圓點(diǎn)，以覆蓋字符。

（2）二值化。選用經(jīng)典的圖像閾值分割算法，即OTSU算法[19]，將需要分割的圖像根據(jù)灰度不同分為前景和背景兩個(gè)部分。前景即手及腕部，通過(guò)該算法得出分離這兩部分的最佳閾值，也就是使類內(nèi)方差最小，最終獲得前景。我們?cè)贠TSU算法中根據(jù)圖片的灰度值調(diào)整OTSU結(jié)果，使可能包含識(shí)別信息的組織像素點(diǎn)[17]也可被選出，效果如圖2所示。

（3）圖像分割。首先用二值化圖像完全去除背景信息，分割出手及腕關(guān)節(jié)。然后通過(guò)求連通域中心及包含連通域最小方框的形式截取分割后的圖像，使手及腕關(guān)節(jié)最大化，且位于圖像相對(duì)中心的位置。

圖1 圖片預(yù)處理流程圖

圖2 調(diào)整OTSU前后的圖像

1.2.2 CNN回歸算法

（1）網(wǎng)絡(luò)結(jié)構(gòu)選擇

選取AlexNet[20]作為圖像識(shí)別回歸模型，其網(wǎng)絡(luò)結(jié)構(gòu)包含八個(gè)帶權(quán)層，前五層為卷積層，后三層為全連接層。最后一個(gè)全連接層采用分類器作為激活函數(shù)輸出。同時(shí)，在每個(gè)卷積層后，都將上一層網(wǎng)絡(luò)結(jié)構(gòu)中的紅、綠、藍(lán)3個(gè)通道完成的圖像識(shí)別輸出結(jié)果進(jìn)行歸一化（batch normalization，BN）處理，使其均值為 0，方差為1。

（2）參數(shù)設(shè)置及算法優(yōu)化

將用于一般圖像訓(xùn)練之后的AlexNet預(yù)訓(xùn)練模型直接作為網(wǎng)絡(luò)初始環(huán)境，其預(yù)訓(xùn)練參數(shù)，也相應(yīng)地作為遷移學(xué)習(xí)[21]的初始參數(shù)。之后通過(guò)訓(xùn)練學(xué)習(xí)本研究樣本來(lái)對(duì)其進(jìn)行微調(diào)，用于DR圖像分類。70%的樣本會(huì)在每次訓(xùn)練過(guò)程中隨機(jī)分為訓(xùn)練集與驗(yàn)證集。在用預(yù)訓(xùn)練的參數(shù)初始化網(wǎng)絡(luò)后，輸入60%的網(wǎng)絡(luò)訓(xùn)練集，使用隨機(jī)梯度下降法（stochastic gradient descent method，SGD）對(duì)網(wǎng)絡(luò)普通參數(shù)進(jìn)行訓(xùn)練，將訓(xùn)練次數(shù)設(shè)置為5000次，即迭代5000次，小批量數(shù)為32，動(dòng)量值為0.9，參數(shù)以0.000 5的衰退值下降，以樣本真實(shí)年齡標(biāo)記作為模型訓(xùn)練的目標(biāo)。每次訓(xùn)練之后輸入余下的10%驗(yàn)證集，運(yùn)用網(wǎng)格搜索算法[22]在手動(dòng)指定的超參數(shù)空間中劃分網(wǎng)格，按網(wǎng)格的每一個(gè)格點(diǎn)對(duì)應(yīng)的參數(shù)設(shè)置網(wǎng)絡(luò)并進(jìn)行訓(xùn)練。最后，選擇訓(xùn)練結(jié)果與驗(yàn)證學(xué)習(xí)結(jié)果準(zhǔn)確度最匹配時(shí)所對(duì)應(yīng)的最優(yōu)參數(shù)作為網(wǎng)格搜索結(jié)果。常數(shù)k、n、α、β為修正線性單元（rectified linear unit，ReLU）激活函數(shù)公式中的超參數(shù)，根據(jù)驗(yàn)證集學(xué)習(xí)結(jié)果來(lái)確定其值分別設(shè)置為2、5、4～10 和 0.75。

經(jīng)過(guò)上述訓(xùn)練過(guò)程，在確定最優(yōu)的網(wǎng)絡(luò)結(jié)構(gòu)以及參數(shù)值之后，輸入未參與訓(xùn)練學(xué)習(xí)的30%測(cè)試集樣本得出預(yù)報(bào)年齡值，作為最終統(tǒng)計(jì)數(shù)據(jù)。

1.2.3 評(píng)估結(jié)果的統(tǒng)計(jì)方法

對(duì)于訓(xùn)練樣本和測(cè)試集樣本來(lái)說(shuō)，圖像進(jìn)入深度學(xué)習(xí)網(wǎng)絡(luò)中識(shí)別之后會(huì)得出預(yù)報(bào)年齡值，分別將訓(xùn)練集及測(cè)試集的預(yù)報(bào)年齡值與對(duì)應(yīng)樣本的真實(shí)年齡值相比。若差值的絕對(duì)值在1.0歲以內(nèi)，我們視為誤差范圍在±1.0歲以內(nèi)的吻合樣本，將所有吻合樣本數(shù)與訓(xùn)練樣本數(shù)比值的百分?jǐn)?shù)作為該誤差范圍的準(zhǔn)確率。同樣，若預(yù)報(bào)年齡值與真實(shí)年齡值差值的絕對(duì)值在0.7歲以內(nèi)，我們將其視為誤差范圍在±0.7歲以內(nèi)的吻合樣本，采用上述同樣的方法計(jì)算出±0.7歲誤差范圍的準(zhǔn)確率。

2 結(jié) 果

表1 維吾爾族男、女性左手腕關(guān)節(jié)DR圖像訓(xùn)練集深度學(xué)習(xí)骨齡結(jié)果

在深度學(xué)習(xí)網(wǎng)絡(luò)訓(xùn)練和學(xué)習(xí)中，其圖像識(shí)別準(zhǔn)確率結(jié)果：男性誤差范圍在±1.0歲及±0.7歲的準(zhǔn)確率分別為81.4%和75.6%；女性分別為80.5%和74.8%（表1）。

利用測(cè)試集檢驗(yàn)深度學(xué)習(xí)模型的泛化能力，其預(yù)報(bào)準(zhǔn)確率結(jié)果：73例男性與其真實(shí)年齡相比，誤差范圍在±1.0歲及±0.7歲以內(nèi)的吻合樣本數(shù)分別為58例、52例，準(zhǔn)確率分別為79.5%和71.2%；68例女性與其真實(shí)年齡相比，誤差范圍在±1.0歲及±0.7歲以內(nèi)的吻合樣本數(shù)分別為54例、45例，準(zhǔn)確率分別為79.4%和 66.2%（表2）。

表2 維吾爾族男、女性左手腕關(guān)節(jié)DR圖像測(cè)試集深度學(xué)習(xí)骨齡結(jié)果

3 討 論

在我國(guó)，目前對(duì)于少數(shù)民族青少年骨骼生長(zhǎng)發(fā)育的基礎(chǔ)數(shù)據(jù)尚不完整，少數(shù)民族青少年骨齡評(píng)估應(yīng)當(dāng)以該民族的研究樣本及基礎(chǔ)數(shù)據(jù)為準(zhǔn)。另外，維吾爾族人群眾多，且生活環(huán)境、飲食習(xí)慣都具有其獨(dú)特的民族特性?；谶@樣的國(guó)情及背景，本研究將新疆維吾爾族青少年關(guān)節(jié)DR圖像作為研究對(duì)象，開(kāi)展維吾爾族青少年骨齡研究，旨在為維吾爾族青少年骨發(fā)育的研究提供基礎(chǔ)資料和數(shù)據(jù)，盡可能客觀地反映維吾爾族青少年骨骼發(fā)育的真實(shí)情況。此外，本研究還考慮到軀體多部位關(guān)節(jié)DR圖像收集存在費(fèi)用高、耗時(shí)長(zhǎng)等局限，遂選用拍攝簡(jiǎn)單常見(jiàn)、繼發(fā)骨化中心較多的手腕關(guān)節(jié)作為理想研究部位[16]。

在圖像識(shí)別方面，人工閱片僅針對(duì)骨骺發(fā)育程度判斷個(gè)體骨骼年齡，而深度學(xué)習(xí)是對(duì)于進(jìn)入模型的整個(gè)圖像進(jìn)行識(shí)別，最大程度地提取圖像中有價(jià)值的特征，防止信息丟失。深度學(xué)習(xí)與其他網(wǎng)絡(luò)算法最大不同之處在于，其特征提取為自動(dòng)學(xué)習(xí)過(guò)程，通過(guò)非監(jiān)督式的學(xué)習(xí)方法逐層預(yù)訓(xùn)練自動(dòng)學(xué)習(xí)獲取樣本特征，將下層淺層學(xué)習(xí)特征作為上一層輸入得到更高級(jí)特征輸出，最后通過(guò)監(jiān)督學(xué)習(xí)方法自上而下進(jìn)行微調(diào)訓(xùn)練使網(wǎng)絡(luò)連接權(quán)值達(dá)到最佳，獲得最終學(xué)習(xí)目的。此外，深度學(xué)習(xí)還有自我挖掘特性，部分人工感興趣區(qū)域?qū)ι疃葘W(xué)習(xí)來(lái)說(shuō)并不一定是顯著差別特征[23]，這些發(fā)現(xiàn)說(shuō)明，深度學(xué)習(xí)可能在識(shí)別差異性特征方面更為全面。

本研究基于上述理論基礎(chǔ)進(jìn)行設(shè)計(jì)推理。在我國(guó)新疆維吾爾自治區(qū)采集了13.0～19.0歲青少年左手腕關(guān)節(jié)DR圖像，男、女性樣本量分別為245例、227例。在部分DR圖像中，手及腕部在位置、方向及灰度上有很大差異，且背景中含有大量字符，這些都會(huì)對(duì)網(wǎng)絡(luò)算法自主學(xué)習(xí)圖像特征產(chǎn)生影響。因此，通過(guò)圖像處理過(guò)程統(tǒng)一圖像規(guī)格，并去除因背景和圖像質(zhì)量差異而導(dǎo)致的噪聲干擾，從而提高模型準(zhǔn)確率。經(jīng)過(guò)處理后，利用深度學(xué)習(xí)模型進(jìn)行圖像識(shí)別及參數(shù)調(diào)整，最終獲取誤差在±1.0歲以內(nèi)訓(xùn)練集和測(cè)試集的準(zhǔn)確率，來(lái)驗(yàn)證深度學(xué)習(xí)在骨齡評(píng)估中的可行性。經(jīng)分析比對(duì)上述研究結(jié)果，我們選取了誤差為±1.0歲訓(xùn)練集和測(cè)試集的準(zhǔn)確率作為結(jié)果判定的一項(xiàng)指標(biāo)，以適應(yīng)我國(guó)《刑法》對(duì)14、16、18周歲青少年骨骼年齡鑒定的需求。為通過(guò)深度學(xué)習(xí)方法獲得更為精準(zhǔn)的骨齡評(píng)估結(jié)果，本研究綜合考慮誤差范圍及結(jié)果準(zhǔn)確率等拮抗因素，選取了誤差范圍為±0.7歲作為另一項(xiàng)結(jié)果判定指標(biāo)，以此說(shuō)明深度學(xué)習(xí)在青少年骨齡評(píng)估自動(dòng)化過(guò)程中的現(xiàn)實(shí)意義，選取這一精度的目的旨在探索當(dāng)要求誤差范圍更小的情況下骨齡評(píng)估準(zhǔn)確率的高低，以此評(píng)估這一準(zhǔn)確率是否適合用于當(dāng)前的青少年骨齡鑒定。從本研究結(jié)果看出，同一性別誤差范圍為±1.0歲訓(xùn)練集和測(cè)試集的準(zhǔn)確率穩(wěn)定在80%左右，這也說(shuō)明對(duì)于±1.0歲的精度要求，模型的計(jì)算結(jié)果是趨于穩(wěn)定的。根據(jù)筆者多年從事青少年骨骼年齡評(píng)估的科研工作經(jīng)驗(yàn)以及在日常骨齡鑒定檢案實(shí)踐中與法官、檢察官及辦案民警等委托人對(duì)于骨齡鑒定意見(jiàn)采信的具體要求中了解到，對(duì)于骨齡鑒定意見(jiàn)在±1.0歲誤差范圍內(nèi)以及結(jié)果的準(zhǔn)確率在80%以上時(shí)，委托人結(jié)合其他年齡證據(jù)，可以采納法醫(yī)學(xué)骨齡鑒定意見(jiàn)對(duì)案件進(jìn)行審理與判決。而當(dāng)誤差范圍設(shè)定為±0.7歲時(shí)，骨齡評(píng)估結(jié)果的準(zhǔn)確率下降較為明顯，且同一性別誤差范圍為±0.7歲的訓(xùn)練集和測(cè)試集的準(zhǔn)確率波動(dòng)亦較大，這一結(jié)果的變化主要考慮與本研究的樣本總量有限相關(guān)，誤差范圍為±0.7歲的準(zhǔn)確率目前尚不能應(yīng)用于我國(guó)青少年骨齡鑒定檢案實(shí)踐。本課題組在后期研究中，將會(huì)繼續(xù)增加樣本量，進(jìn)一步提高結(jié)果準(zhǔn)確率、并逐步克服隨精度要求增加時(shí)準(zhǔn)確率的波動(dòng)現(xiàn)象。

與以往各方法相比，本研究存在以下優(yōu)勢(shì)：（1）深度神經(jīng)網(wǎng)絡(luò)自動(dòng)提取特征代替人工讀片，節(jié)省時(shí)間和人力；（2）將手、腕部作為一個(gè)整體進(jìn)行分析，信息更全面；（3）圖像在進(jìn)行網(wǎng)絡(luò)預(yù)處理時(shí)選用經(jīng)典的OTSU算法生成二值化圖像，在研究中通過(guò)加入?yún)?shù)調(diào)整OTSU結(jié)果，使除骨骼像素點(diǎn)以外的組織像素點(diǎn)也可被選出，從而避免有用的深度學(xué)習(xí)特征信息丟失；（4）從圖像預(yù)處理（調(diào)整灰度，分割圖像去除字符）和人工控制處理（過(guò)濾有首飾穿戴等因素）兩個(gè)方面綜合提高圖片質(zhì)量，更利于深度學(xué)習(xí)；（5）本研究選用的網(wǎng)格搜索算法可以在一定精度范圍內(nèi)通過(guò)選用10%驗(yàn)證集檢驗(yàn)，找到使網(wǎng)絡(luò)訓(xùn)練結(jié)果最優(yōu)的參數(shù)；（6）與SPAMPINATO等[16]及LEE等[17]方法相比，本研究選用的左手腕關(guān)節(jié)DR圖像樣本為自主收集與篩選，相比于其在線數(shù)據(jù)庫(kù)而言，本研究樣本規(guī)格更趨于統(tǒng)一、質(zhì)量相對(duì)更優(yōu)，在后期圖像預(yù)處理過(guò)程中的特征信息丟失更少；（7）本研究針對(duì)我國(guó)新疆維吾爾自治區(qū)的骨齡進(jìn)行探究，我們認(rèn)為該數(shù)據(jù)集具有特殊意義，既擴(kuò)充了我國(guó)除漢族以外另一個(gè)民族的骨齡評(píng)估數(shù)據(jù)庫(kù)，又利于公安部門處理少數(shù)民族人群相關(guān)案件的骨齡評(píng)估問(wèn)題。

通過(guò)本研究結(jié)果可以看出，深度學(xué)習(xí)之所以能較好地應(yīng)用于醫(yī)學(xué)影像圖像識(shí)別中，離不開(kāi)以下三個(gè)關(guān)鍵點(diǎn)：（1）選用深度卷積網(wǎng)絡(luò)，該網(wǎng)絡(luò)通過(guò)卷積層和采樣層對(duì)輸入圖像逐層學(xué)習(xí)代表特征，后接包含前層抽取出的特征向量訓(xùn)練的全連接回歸層。其BN可以優(yōu)先避免誤差反向傳播中的梯度消失和爆炸問(wèn)題，使權(quán)重更新更加穩(wěn)健，從而減少分類結(jié)果對(duì)于權(quán)重初始化的依賴性，可使用更高學(xué)習(xí)速率，更易于深度學(xué)習(xí)。目前在許多計(jì)算機(jī)視覺(jué)任務(wù)中取得了顯著成績(jī)，包括目標(biāo)分類、檢測(cè)和語(yǔ)義分割[16]。（2）深度卷積網(wǎng)絡(luò)之所以在自然圖像分類工作中迅速發(fā)展，是由于有大規(guī)模可用和全面注釋的數(shù)據(jù)，如ImageNet[24]。然而，現(xiàn)階段獲取和ImageNet同規(guī)模和同質(zhì)量注釋的醫(yī)療數(shù)據(jù)仍是一大挑戰(zhàn)，且醫(yī)學(xué)圖像數(shù)據(jù)量和可用特征與自然圖像相比都較少，使深度卷積網(wǎng)絡(luò)回歸具有更大挑戰(zhàn)性。本研究選用遷移學(xué)習(xí)[22]，將在簡(jiǎn)單知識(shí)及大規(guī)模數(shù)據(jù)集上訓(xùn)練良好的網(wǎng)絡(luò)作為初始網(wǎng)絡(luò)，使其可簡(jiǎn)單分辨圖像，然后微調(diào)權(quán)重，使模型可應(yīng)用于特定目標(biāo)。該方法一般應(yīng)用在性質(zhì)相似數(shù)據(jù)集之間。雖然醫(yī)學(xué)圖像與自然圖像有很大不同，但是相關(guān)骨齡研究[16-18]均證實(shí)，通過(guò)使用在大數(shù)據(jù)集上訓(xùn)練的通用濾波器組和調(diào)整參數(shù)來(lái)呈現(xiàn)醫(yī)學(xué)圖像特有的高級(jí)特征是可行的。（3）機(jī)器學(xué)習(xí)的某些參數(shù)取值范圍極大，甚至可能是整個(gè)實(shí)數(shù)域，有必要人為設(shè)置范圍及離散化參數(shù)。參數(shù)不同，將會(huì)極大地影響模型訓(xùn)練及最終結(jié)果。尤其是醫(yī)學(xué)影像圖像，相對(duì)其他圖像而言，像素灰度差異不大的特性決定了網(wǎng)絡(luò)更需要優(yōu)化參數(shù)，來(lái)提高網(wǎng)絡(luò)精度及數(shù)據(jù)分析能力。

綜上，本研究通過(guò)對(duì)我國(guó)新疆維吾爾族青少年男、女性左手腕關(guān)節(jié)DR圖像與深度學(xué)習(xí)相結(jié)合，進(jìn)一步證實(shí)了深度學(xué)習(xí)應(yīng)用于骨齡研究的可行性，使人工骨齡評(píng)估邁入自動(dòng)化評(píng)估進(jìn)程。但鑒于本研究是一種探索性研究，因此，在樣本數(shù)量的采集、深度學(xué)習(xí)的算法選擇以及測(cè)試結(jié)果與真實(shí)年齡的差值等方面仍有較大的提升空間。在下一步研究中，我們將致力于擴(kuò)大樣本量，增加軀體各大關(guān)節(jié)的采集部位，優(yōu)化深度學(xué)習(xí)算法、深入挖掘DR圖像信息，進(jìn)一步探索深度學(xué)習(xí)在軀體其他關(guān)節(jié)DR圖像識(shí)別中的應(yīng)用價(jià)值。

[1]TANNER J M，GIBBONS R D.A computerized image analysis system for estimating Tanner-Whitehouse 2 bone age[J].Horm Res，1994，42（6）：282-287.

[2]GROSS G W，BOONE J M，BISHOP D M.Pediatric skeletal age：determination with neural networks[J].Radiology，1995，195（3）：689-695.

[3]SATO K，ASHIZAWA K，ANZO M，et al.Setting up an automated system for evaluation of bone age[J].Endocr J，1999，46 Suppl：S97-S100.

[4]FAN B C，HSIEH C W，JONG T L，et al.Automatic bone age estimation based on carpal-bone image--a preliminary report[J].Zhonghua Yi Xue Za Zhi（Taipei），2001，64（4）：203-208.

[5]王亞輝，王子慎，魏華，等.基于支持向量機(jī)實(shí)現(xiàn)骨骺發(fā)育分級(jí)的自動(dòng)化評(píng)估[J].法醫(yī)學(xué)雜志，2014，30（6）：422-426.

[6]VAPNIK V N.The nature of statistical learning theory[M].2nd.New York： Springer-Verlag，1995.

[7]吳岸城.神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)[M].北京：電子工業(yè)出版社，2016.

[8]蔡自興，劉麗玨，蔡競(jìng)峰，等.人工智能及其應(yīng)用[M].北京：清華大學(xué)出版社，2016.

[9]LECUN Y，BENGIO Y，HINTON G.Deep learning[J].Nature，2015，521（7553）：436-444.

[10]GOODFELLOW I， BENGIO Y， COURVILLE A.Deep Learning[M].Cambridge： MIT Press，2016.

[11]MALON C D，COSATTO E.Classification of mitotic figures with convolutional neural networks and seeded blob features[J].J Pathol Inform，2013，4：9.

[12]CIOMPI F，de HOOP B，van RIEL S J， et al.Automatic classification of pulmonary peri-fissural nodules in computed tomography using an ensemble of 2D views and a convolutional neural network out-of-thebox[J].Med Image Anal，2015，26（1）：195-202.

[13]ESTEVA A， KUPREL B， NOVOA R A， et al.Dermatologist-level classification of skin cancer with deep neural networks[J].Nature，2017，542（7639）：115-118.

[14]何雪英，韓忠義，魏本征.基于深度學(xué)習(xí)的乳腺癌病理圖像自動(dòng)分類[J].計(jì)算機(jī)工程與應(yīng)用，2017.

[15]LEE S， CHOI M， CHOI H S， et al.FingerNet：Deep learning-based robustfinger jointdetection from radiographs[C].2015 IEEE Biomedical Circuits and Systems Conference （BioCAS），2015.

[16]SPAMPINATO C， PALAZZO S， GIORDANO D，et al.Deep learning for automated skeletal bone age assessment in X-ray images[J].Med Image Anal，2017，36：41-51.

[17]LEE H， TAJMIR S， LEE J， et al.Fully Automated Deep Learning System for Bone Age Assessment[J].J Digit Imaging，2017，30（4）：427-441.

[18]KIM J R，SHIM W H，YOON H M，et al.Computerized Bone Age Estimation Using Deep Learning Based Program：Evaluation of the Accuracy and Efficiency[J].AJR Am J Roentgenol，2017，209（6）：1374-1380.

[19]OTSU N.A Threshold Selection Method from Gray-Level Histograms[J].IEEE Transactions on Systems，Man， and Cybernetics，1979，9（1）：62-66.

[20]KRIZHEVSKY A， SUTSKEVER I， HINTON G E.ImageNet Classification with Deep Convolutional Neural Networks[M]//PEREIRA F， BURGES C J C，BOTTOU L，et al.Advances in Neural Information Processing Systems 25.Curran Associates， Inc.，2012：1097-1105.

[21]SHIN H C，ROTH H R，GAO M，et al.Deep Convolutional Neural Networks for Computer-Aided Detection： CNN Architectures， Dataset Characteristics and Transfer Learning[J].IEEE Trans Med Imaging，2016，35（5）：1285-1298.

[22]吳皓瑩，程晶，范凱.基于SVM的語(yǔ)音特征提取及識(shí)別模型研究[J].武漢理工大學(xué)學(xué)報(bào)（交通科學(xué)與工程版），2014（2）：316-319.

[23]胡婷鴻，萬(wàn)雷，劉太昂，等.深度學(xué)習(xí)在圖像識(shí)別及骨齡評(píng)估中的優(yōu)勢(shì)及應(yīng)用前景[J].法醫(yī)學(xué)雜志，2017，33（6）：629-634，639.

[24]DENG J， DONG W， SOCHER R， et al.ImageNet：A large-scale hierarchical image database[C].2009 IEEE Conference on Computer Vision and Pattern Recognition，2009.