基于改進AlexNet的手腕骨圖像成熟等級識別

丁維龍，李 濤，丁 瀟，余 鋆，毛科技

(浙江工業(yè)大學(xué) 計算機科學(xué)與技術(shù)學(xué)院，浙江 杭州 310023)

骨齡是研究兒童與青少年成長發(fā)育情況的一個重要指標(biāo)，在一定程度上能夠說明一個人實際發(fā)育的水平[1]。骨齡評估是對骨骼發(fā)育成長程度的評定，在社會生活中應(yīng)用十分廣泛，在預(yù)防醫(yī)學(xué)、臨床醫(yī)學(xué)和體育科學(xué)等領(lǐng)域都有著重要意義和使用價值[2]。此外，骨齡評估還能幫助警方確定刑事責(zé)任年齡，反映出犯罪嫌疑人或死者的真實年齡，為斷案判刑提供有力的證據(jù)參考[3]。傳統(tǒng)的骨齡評估方法是醫(yī)學(xué)專家人工觀察并解讀左手X光片來評定骨齡，其評定方法有簡單計數(shù)法、圖譜法和計分法等。目前，國際上主流的骨齡評估方法是G-P圖譜法[4](Greulich and Pyle atlas method)和TW3(Tanner-Whitehouse 3)計分法[5]。前者是醫(yī)生將X光片與X光片圖譜中的不同年齡標(biāo)準圖像進行對比來評定骨齡；后者是先從患者左手X光片中選出多塊骨頭，并分別對每一塊骨頭的成熟度進行打分，然后計算所有骨頭的分值，從而得到整個左手X光片的成熟度的總分，最后對比已制定的標(biāo)準表來查閱該患者的骨齡。這兩種方法使用的樣本均是取自歐洲的兒童及青少年，因此張紹巖等采用中國青少年兒童樣本，結(jié)合這兩種方法制定出了適合中國青少年兒童的《中國人手腕骨發(fā)育標(biāo)準CHN法》[6]。傳統(tǒng)的評估骨齡方法，有以下缺陷[7-9]：1)骨齡評估的準確性受專家的主觀因素影響；2)人工評定骨齡要求評定專家具有豐富的專業(yè)知識和經(jīng)驗，難以批量評定骨齡；3)醫(yī)學(xué)專家評估骨齡，無論是查找圖譜還是計分查表都需要耗費大量時間。針對這些缺陷，近年來出現(xiàn)了將人工智能與骨齡評估相結(jié)合的研究，以實現(xiàn)骨齡的自動化評估。

國際上早期的骨齡評估系統(tǒng)是BoneXpert[10]，該系統(tǒng)是根據(jù)活動形狀的主動外觀模型來分割左手圖像的15 塊骨骼，選擇其中13 塊骨骼，結(jié)合它們形狀、紋理和骨骼密度等特征，通過計分和對比圖譜來評定骨齡[11]，但該方法容易受到左手X光片圖像質(zhì)量和年齡因素的干擾和限制。為了提升骨齡的評估效率，國內(nèi)外學(xué)者研究出了基于深度學(xué)習(xí)的骨齡評估方法。Hu等[12]結(jié)合遷移學(xué)習(xí)方法，使用新疆維吾爾自治區(qū)青少年的左手圖片樣本和AlexNet卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練出回歸模型來自動評估骨齡，該研究的樣本量少且年齡范圍也有限制，訓(xùn)練的模型能力不是很穩(wěn)定。Iglovikov等[13]對左手圖像進行圖像分割去除背景干擾，使用利用關(guān)鍵點確定特定部位的方式來評估骨齡，該方法是面向全手和特定部位的識別，評估骨齡的準確性一般。Larson等[14]采集14 036 張左手X光片作為樣本并使用深度殘差網(wǎng)絡(luò)訓(xùn)練出網(wǎng)絡(luò)模型來實現(xiàn)骨齡自動化評估，該模型效果與人工評估效果雖然相當(dāng)，但是該研究中0～2 歲的樣本較少，導(dǎo)致該年齡段的骨齡評估準確性不高[15]。Bui等[16]先使用Fast R-CNN檢測興趣區(qū)域ROI并提取出TW3法中的多塊骨骼區(qū)域，再結(jié)合Inception-V4卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練分類模型實現(xiàn)骨齡自動評估。該研究使用的樣本只有男性693 張、女性682 張，訓(xùn)練的模型不穩(wěn)定。以上這些研究表明：目前研究骨齡的主要方法是通過識別左手全手和手腕骨的多個特征區(qū)域的方式來評估骨齡，骨齡評估模型的穩(wěn)定性和準確率還有待進一步提高，因此如何提升評估骨齡準確率是一個重要的研究方向。CHN法中的等級評定是評估骨齡的關(guān)鍵步驟，故提升骨骼的等級識別準確率對評估骨齡的準確性有重要影響。為此，筆者提出一種基于改進AlexNet的手腕骨圖像等級識別方法，該方法是將優(yōu)化的空間變換網(wǎng)絡(luò)加入到AlexNet網(wǎng)絡(luò)結(jié)構(gòu)中，對特征圖進行旋轉(zhuǎn)、平移和縮放等變換操作以獲取更有辨識度的特征信息；采用Maxout激活函數(shù)作為網(wǎng)絡(luò)中卷積層的激活函數(shù)，以避免網(wǎng)絡(luò)模型訓(xùn)練過程中出現(xiàn)神經(jīng)元壞死問題，提升對手腕骨圖像成熟等級識別的準確性。實驗結(jié)果表明：筆者改進的AlexNet網(wǎng)絡(luò)模型可以比較明顯地提升手腕骨圖像成熟等級識別的性能，對實現(xiàn)骨齡自動化評估有一定的參考意義。

1 手腕骨圖像成熟等級識別網(wǎng)絡(luò)模型

卷積神經(jīng)網(wǎng)絡(luò)是一類包含卷積計算且具有深度結(jié)構(gòu)的前饋神經(jīng)網(wǎng)絡(luò)，被有效地應(yīng)用于多個領(lǐng)域的任務(wù)中[17-18]。AlexNet網(wǎng)絡(luò)在2012年的ImageNet大賽上獲得冠軍，在圖像分類領(lǐng)域體現(xiàn)出優(yōu)越的性能[19]。AlexNet與GoogLeNet，ResNet等更先進的模型相比，具有更簡單的網(wǎng)絡(luò)結(jié)構(gòu)和更少的網(wǎng)絡(luò)參數(shù)。對于手腕骨圖像數(shù)據(jù)集，AlexNet更便于作出改進并獲得更好的訓(xùn)練效果。因此，筆者采用AlexNet作為基礎(chǔ)網(wǎng)絡(luò)用于手腕骨圖像成熟等級的識別。為了提升AlexNet在實際應(yīng)用手腕骨圖像成熟等級識別中的準確度，筆者提出一種改進的AlexNet網(wǎng)絡(luò)結(jié)構(gòu)，進行手腕骨圖像特征學(xué)習(xí)，并構(gòu)建高效的手腕骨圖像等級識別模型。

AlexNet是一種深度卷積神經(jīng)網(wǎng)絡(luò)模型，具有很強的圖像分類能力且應(yīng)用廣泛，它繼承了LeNet思想并進一步發(fā)展，首次將ReLU，Dropout和LRN等策略成功地加入到卷積神經(jīng)網(wǎng)絡(luò)中并使卷積神經(jīng)網(wǎng)絡(luò)的思想在很深很寬的網(wǎng)絡(luò)中得到應(yīng)用。

AlexNet網(wǎng)絡(luò)含有8 層結(jié)構(gòu)，包括5 個卷積層，3 個池化層和3 個全連接層。它采用ReLU函數(shù)為激活函數(shù)，添加了Dropout技術(shù)以防止出現(xiàn)過擬合。卷積層主要是提取圖像的特征，池化層操作(Pooling)主要是進行特征融合和降維，最后的全連接層使特征圖轉(zhuǎn)換成特征向量。AlexNet網(wǎng)絡(luò)輸入的圖像尺寸是227×227，第1層卷積層的卷積核大小為11×11，步長為4，卷積核數(shù)為96；第2層的卷積層的卷積核大小是5×5，步長為1，卷積核數(shù)為256；第3～5 層卷積層的卷積核大小都是 3×3，步長為1，卷積核數(shù)分別為384，384，256；該5 層卷積層每層后面都接著LRN層，第1,2,5 層的卷積層后接著核大小為3×3，步長為2的最大池化層；第6～8 層是使用了ReLU和Dropout的全連接層，每層具有4 096 個神經(jīng)元，最終輸出的Softmax為1 000。AlexNet網(wǎng)絡(luò)結(jié)構(gòu)如表1所示。

表1 AlexNet模型結(jié)構(gòu)

2 改進的AlexNet

針對AlexNet存在收斂慢和其在網(wǎng)絡(luò)模型訓(xùn)練時會出現(xiàn)神經(jīng)元壞死等問題，筆者提出了一種改進的AlexNet網(wǎng)絡(luò)結(jié)構(gòu)，構(gòu)建高效的手腕骨圖像等級識別模型。該模型是從網(wǎng)絡(luò)框架和網(wǎng)絡(luò)內(nèi)部兩個方面進行改進和優(yōu)化：1)將優(yōu)化后的空間變換網(wǎng)絡(luò)加入到AlexNet網(wǎng)絡(luò)結(jié)構(gòu)中以提升網(wǎng)絡(luò)學(xué)習(xí)效率；2)AlexNet中5 層卷積層的激活函數(shù)全都采用Maxout函數(shù)替換原來的ReLU函數(shù)，避免網(wǎng)絡(luò)模型出現(xiàn)神經(jīng)元壞死問題。

2.1 優(yōu)化的空間變換網(wǎng)絡(luò)增加卷積神經(jīng)網(wǎng)絡(luò)空間不變性

2.1.1 空間變換網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)中卷積層和池化層的操作雖然都具有平移不變性，但是這種不變性有一定的局限性，過分依賴先驗知識，對輸入的數(shù)據(jù)并不真正具有空間不變性的能力，因此引入了一個新的空間域注意力模塊，即空間變換網(wǎng)絡(luò)。空間變換網(wǎng)絡(luò)是Jaderberg等[20]提出的一個局部網(wǎng)絡(luò)層，是一個可訓(xùn)練的模塊，能對輸入到網(wǎng)絡(luò)中的數(shù)據(jù)進行空間變換?？臻g變換網(wǎng)絡(luò)具有動態(tài)機制，可以對輸入的樣本圖像進行縮放、剪切、旋轉(zhuǎn)和非剛性變形等變換操作，以實現(xiàn)整個特征映射。因此，空間變換網(wǎng)絡(luò)類似于注意力機制，可以選擇感興趣的圖像區(qū)域特征，讀取特征的關(guān)鍵信息以助于后續(xù)網(wǎng)絡(luò)的圖像識別分類。

空間變換網(wǎng)絡(luò)主要由定位網(wǎng)絡(luò)(Localisation network)、網(wǎng)格生成器(Grid generator)和采樣器(Sampler)3 個部分組成?？臻g變換網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

圖1 空間變換網(wǎng)絡(luò)結(jié)構(gòu)圖

2.1.2 優(yōu)化的空間變換網(wǎng)絡(luò)

空間變換網(wǎng)絡(luò)的定位網(wǎng)絡(luò)一般由2 層卷積層和2 層全連接層組成，第1層卷積層卷積核尺寸大小為7×7，步長為1，通道數(shù)為8；第1層最大池化層核為2×2，步長為2；第2層卷積層卷積核尺寸大小為5×5，步長為1，通道數(shù)為10；第2層最大池化層核為2×2，步長為2；第1層全連接層有32 個神經(jīng)元；第2層全連接層有6 個神經(jīng)元，如圖2(a)所示。為了將空間變換網(wǎng)絡(luò)加入到AlexNet網(wǎng)絡(luò)結(jié)構(gòu)中以對特征圖進行空間變換，調(diào)整特征圖幫助網(wǎng)絡(luò)學(xué)習(xí)到關(guān)鍵的特征信息，引入NIN模塊[21]對空間變換網(wǎng)絡(luò)進行優(yōu)化，從而設(shè)計出適合的空間變換機制?？紤]到卷積層輸出多通道的卷積特征，對添加到第3，4卷積層后的空間變換網(wǎng)絡(luò)重新設(shè)計定位網(wǎng)絡(luò)結(jié)構(gòu)，結(jié)果如圖2(b)所示。第1層為1×1的卷積層，將多通道之間的卷積特征轉(zhuǎn)換成單通道特征圖輸入到下一層卷積層，并添加2 個NIN模塊：1)由一個7×7的卷積層和2 個1×1的卷積層組成；2)由一個3×3的卷積層和2 個1×1的卷積層組成。添加到第5層卷積層后的最大池化層后的空間變換網(wǎng)絡(luò)將最大池化層下采樣后的特征圖進行空間變換，突出更有辨識度信息的特征區(qū)域輸入到全連接層，提升網(wǎng)絡(luò)模型的分類效果。該部分設(shè)計的空間變換網(wǎng)絡(luò)的定位網(wǎng)絡(luò)結(jié)構(gòu)如圖2(c)所示，第1層為1×1的卷積層，添加了1 個3×3的卷積層和2 個1×1的卷積層組成的NIN模塊，并在其后再加入1 個1×1的卷積層進行轉(zhuǎn)換通道數(shù)。引入NIN模塊優(yōu)化空間變換網(wǎng)絡(luò)的定位網(wǎng)絡(luò)，可以減少網(wǎng)絡(luò)的參數(shù)量、增強卷積特征圖的局部感受野，提升網(wǎng)絡(luò)結(jié)構(gòu)的非線性表達能力。

圖2 空間變換網(wǎng)絡(luò)中的定位網(wǎng)絡(luò)結(jié)構(gòu)圖

添加的空間變換網(wǎng)絡(luò)通過旋轉(zhuǎn)、平移、縮放和裁剪等方式調(diào)整特征圖，獲取感興趣的關(guān)鍵特征區(qū)域，使用網(wǎng)格生成器進行仿射變換，其計算式為

(1)

式中Aθ為仿射變換，通過改變S，xt，yt的值來實現(xiàn)旋轉(zhuǎn)、平移、縮放和裁剪等變換操作。

由于雙線性插值是可微的，因此空間變換網(wǎng)絡(luò)的采樣器采用的是雙線性采樣核，其計算式為

(2)

將改進的空間變換網(wǎng)絡(luò)命名為NSTN，并將其加入到AlexNet網(wǎng)絡(luò)結(jié)構(gòu)中構(gòu)建成NSTN-AlexNet網(wǎng)絡(luò)，網(wǎng)絡(luò)結(jié)構(gòu)與圖3相同，其卷積層使用的激活函數(shù)是ReLU函數(shù)。NSTN-AlexNet網(wǎng)絡(luò)不僅具有空間不變性，還能減小模型訓(xùn)練的損失函數(shù)，提升網(wǎng)絡(luò)模型的識別準確性。

圖3 基于改進的AlexNet網(wǎng)絡(luò)結(jié)構(gòu)圖

2.2 Maxout在卷積神經(jīng)網(wǎng)絡(luò)中的表達

Maxout激活函數(shù)使用在卷積神經(jīng)網(wǎng)絡(luò)中相當(dāng)于在網(wǎng)絡(luò)結(jié)構(gòu)中加入了1 層激活函數(shù)層[22]，與ReLU，Sigmoid相比，具有1 個參數(shù)k，隱含層具有k個神經(jīng)元。Maxout函數(shù)比較k個神經(jīng)元的激活值，再將最大的激活值作為下一層的輸入值。Maxout中隱含層神經(jīng)元i節(jié)點輸出的數(shù)學(xué)表達式為

(3)

式中：k為Maxout層的參數(shù)，k值越大，運算量越大；zij的數(shù)學(xué)計算公式為

zij=xTWij+bij

(4)

式中：W為一個三維矩陣W∈Rd×m×k；b為一個二維矩陣b∈Rm×k。W和b都是后向傳播學(xué)習(xí)得到的參數(shù)。Maxout函數(shù)包含著任意的仿射變換，能夠擬合任意的凸函數(shù)，表示成一個分段函數(shù)。它具有ReLU函數(shù)的全部優(yōu)點，不僅能夠防止出現(xiàn)梯度消失和梯度爆炸等問題，還能在輸入值小于零時進行神經(jīng)元傳遞，從而能解決ReLU出現(xiàn)神經(jīng)元壞死的問題。

為了提升網(wǎng)絡(luò)學(xué)習(xí)效率，避免網(wǎng)絡(luò)模型訓(xùn)練過程中出現(xiàn)神經(jīng)元壞死問題，將AlexNet網(wǎng)絡(luò)的5 層卷積層的激活函數(shù)都采用Maxout替換原有的ReLU。Maxout層結(jié)構(gòu)如圖4所示。由圖4可知：添加Maxout函數(shù)層增加了網(wǎng)絡(luò)參數(shù)量，可以提取到更抽象、精確的圖像特征，從而提升網(wǎng)絡(luò)模型的識別準確性。

圖4 Maxout激活函數(shù)層結(jié)構(gòu)

2.3 基于改進的AlexNet手腕骨圖像等級識別

將優(yōu)化后的空間變換網(wǎng)絡(luò)加入到AlexNet網(wǎng)絡(luò)結(jié)構(gòu)中，使用Maxout函數(shù)作為AlexNet網(wǎng)絡(luò)中的激活函數(shù)，構(gòu)建了改進的AlexNet網(wǎng)絡(luò)結(jié)構(gòu)(圖3)。該網(wǎng)絡(luò)模型的輸入為圖像及其相對應(yīng)的標(biāo)簽，輸出是圖像標(biāo)簽分類的概率。

使用改進的AlexNet網(wǎng)絡(luò)對CHN法中左手手腕骨部位的單類骨骼圖像進行成熟等級識別：先將制作好的單塊骨頭訓(xùn)練集圖像及其對應(yīng)的標(biāo)簽輸入到改進的AlexNet網(wǎng)絡(luò)中訓(xùn)練，得到識別效果好的分類模型；再使用訓(xùn)練好的分類模型對單塊骨骼圖像等級進行預(yù)測，輸出各等級預(yù)測的概率；最后選取預(yù)測概率最大的骨骼等級作為識別的最終等級輸出。

3 實 驗

3.1 實驗方法

3.1.1 構(gòu)建數(shù)據(jù)集和圖像預(yù)處理

實驗所用的數(shù)據(jù)是從杭州、諸暨等地區(qū)的小學(xué)采集的，范圍為1～6 年級。拍攝采集的左手手腕部X光片圖像是DICOM格式(將其轉(zhuǎn)換成JPG格式)?？紤]到采集的X光片圖像中左手手腕部大小不同和圖像噪聲都會對實驗造成干擾，因此需要對圖像進行預(yù)處理。從左手X光片中分別切割出頭狀骨、鉤骨、掌骨Ⅰ、遠節(jié)指骨Ⅰ和中節(jié)指骨Ⅴ圖像，在保證每塊骨骼圖像區(qū)域被全部切割的前提下，切割時盡量避免其他骨的干擾。選取這5 類骨頭的主要原因是頭狀骨、鉤骨旁邊干擾多，識別難度大，掌骨Ⅰ、遠節(jié)指骨Ⅰ和中節(jié)指骨Ⅴ的相鄰等級圖像特征的區(qū)分度小導(dǎo)致識別難度高。選取的5 類骨頭預(yù)處理后的圖像如圖5所示。

圖5 選取的5類骨頭圖像

骨齡專家根據(jù)中國人手腕骨發(fā)育標(biāo)準CHN法對這5 類骨骼圖像進行人工標(biāo)定，給出骨骼的成熟等級，將標(biāo)定出的等級與單類骨骼圖像相對應(yīng)，制作頭狀骨、鉤骨、掌骨Ⅰ、遠節(jié)指骨Ⅰ和中節(jié)指骨Ⅴ等5 類骨骼數(shù)據(jù)集各10 341 張。每個數(shù)據(jù)集中都具有經(jīng)過3 個骨齡專家共同評定出的骨骼等級的圖像1 380 張(包含各個骨骼等級)。實驗數(shù)據(jù)集樣本中頭狀骨成熟等級分布為4～7 等級，鉤骨成熟等級分布為3～8 等級，掌骨Ⅰ成熟等級分布為1～8 等級，遠節(jié)指骨Ⅰ成熟等級分布為3～8 等級，中節(jié)指骨Ⅴ成熟等級分布為0～8 等級。選取由3 位專家共同評定的1 380 張圖片樣本作為測試集，其余的數(shù)據(jù)集圖像作為訓(xùn)練集和驗證集。

3.1.2 數(shù)據(jù)增強

實驗使用的數(shù)據(jù)集來源于1～6 年級的小學(xué)生，骨骼成熟等級分布不均衡。卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練需要大量的帶標(biāo)簽的圖片樣本才能訓(xùn)練出較好的分類模型，訓(xùn)練集樣本有限且圖像等級分布不均衡，會導(dǎo)致網(wǎng)絡(luò)模型訓(xùn)練出現(xiàn)過擬合的現(xiàn)象。為提升模型的準確率和泛化能力，使用隨機旋轉(zhuǎn)、隨機平移和隨機中心裁剪技術(shù)對訓(xùn)練集圖像進行增強，每個數(shù)據(jù)增強后產(chǎn)生的圖像都被當(dāng)作一個帶標(biāo)簽的“新”圖像，輸入網(wǎng)絡(luò)中進行訓(xùn)練，使得網(wǎng)絡(luò)模型具有泛化性特征。對訓(xùn)練集樣本圖像使用隨機旋轉(zhuǎn)，旋轉(zhuǎn)的角度范圍在0°～30°，隨機平移和隨機中心裁剪的范圍都在0～30 像素。以鉤骨和頭狀骨訓(xùn)練集圖像為例，經(jīng)過這3 種數(shù)據(jù)增強技術(shù)處理后的圖像如圖6，7所示。

圖6 鉤骨的數(shù)據(jù)增強

圖7 頭狀骨的數(shù)據(jù)增強

3.1.3 實驗過程

采用的計算機硬件配置為i59 600 kF的CPU，Geforce RTX 2 060的GPU，16 G內(nèi)存，使用python 3.6和pytorch 1.0的深度學(xué)習(xí)環(huán)境進行實驗研究。本實驗中采用先填充再中心剪裁的方法將訓(xùn)練集圖像的尺寸調(diào)整為227×227 像素大小，輸入到改進的AlexNet網(wǎng)絡(luò)中進行訓(xùn)練，5 個骨骼訓(xùn)練集共訓(xùn)練出5 個網(wǎng)絡(luò)模型，使用測試集測試出模型的識別效果，并與ResNet[23]，SENet[24]，ResNeXt[25]，GoogLeNet[26]和CBAM[27]網(wǎng)絡(luò)對5 個骨骼訓(xùn)練集訓(xùn)練出的分類模型識別效果進行對比。

準確率為圖像識別效果評價指標(biāo)，其計算式為

(5)

式中：P為準確率；TN為準確識別的圖像個數(shù)；TP為錯誤識別的圖像個數(shù)。

3.2 實驗結(jié)果分析

為了驗證筆者改進方法中隱含層神經(jīng)元的個數(shù)對手腕骨圖像分類精度的影響和改進的AlexNet模型對手腕骨圖像等級的識別效果，筆者進行3 種對比試驗：1)在鉤骨、頭狀骨等數(shù)據(jù)集上測試不同隱含層神經(jīng)元個數(shù)的手腕骨圖像分類精度；2)改進網(wǎng)絡(luò)之間的識別準確率的實驗對比；3)改進的AlexNet網(wǎng)絡(luò)與其他卷積神經(jīng)網(wǎng)絡(luò)的識別準確率的實驗對比。

3.2.1 隱含層神經(jīng)元個數(shù)對圖像分類精度的影響

為了驗證Maxout激活函數(shù)中的隱含層神經(jīng)元的個數(shù)對手腕骨圖像分類精度的影響，在鉤骨、頭狀骨、掌骨Ⅰ、遠節(jié)指骨Ⅰ和中節(jié)指骨Ⅴ數(shù)據(jù)集上，測試不同隱含層神經(jīng)元個數(shù)的手腕骨圖像分類精度。針對手腕骨單類骨骼成熟等級的分類任務(wù)，實驗設(shè)置隱含層神經(jīng)元個數(shù)n={2，4，8，16，32}，在優(yōu)化的AlexNet+Maxout網(wǎng)絡(luò)模型上進行實驗，設(shè)置batchsize=32，學(xué)習(xí)率LR=0.001，并采用隨機梯度下降法(Stochastic gradient descent，SGD)訓(xùn)練數(shù)據(jù)，實驗結(jié)果如表2所示。

表2 不同神經(jīng)元個數(shù)的圖像分類錯誤率

由表2實驗結(jié)果可知：隱含層神經(jīng)元的數(shù)量變化影響手腕骨圖像的識別精度。對于鉤骨、頭狀骨、掌骨Ⅰ、遠節(jié)指骨Ⅰ和中節(jié)指骨Ⅴ數(shù)據(jù)集的識別訓(xùn)練，當(dāng)隱含層神經(jīng)元數(shù)量≤4時，隨著隱含層神經(jīng)元個數(shù)的增加，訓(xùn)練出的模型分類精度逐漸提升；當(dāng)隱含層神經(jīng)元數(shù)量在4～32時，隨著隱含層神經(jīng)元個數(shù)的增加，訓(xùn)練出的模型分類精度開始逐漸下降。當(dāng)隱含層神經(jīng)元數(shù)量增加到16時，網(wǎng)絡(luò)訓(xùn)練會出現(xiàn)輕微的過擬合，降低網(wǎng)絡(luò)模型的分類精度。綜合考慮網(wǎng)絡(luò)模型的分類精度和網(wǎng)絡(luò)的運算時間及復(fù)雜度，改進的AlexNet網(wǎng)絡(luò)中采用的隱含層神經(jīng)元個數(shù)為4。

3.2.2 改進網(wǎng)絡(luò)的準確率對比

為了驗證對改進的AlexNet網(wǎng)絡(luò)的模型識別準確率，選用了頭狀骨、鉤骨、掌骨Ⅰ、遠節(jié)指骨Ⅰ和中節(jié)指骨Ⅴ的訓(xùn)練集，對逐步改進的網(wǎng)絡(luò)訓(xùn)練出的分類模型進行了對比實驗，即使用AlexNet網(wǎng)絡(luò)和將空間變換網(wǎng)絡(luò)加入到AlexNet網(wǎng)絡(luò)結(jié)構(gòu)中構(gòu)建成的STN-AlexNet網(wǎng)絡(luò)、將優(yōu)化的空間變換網(wǎng)絡(luò)加入到AlexNet網(wǎng)絡(luò)結(jié)構(gòu)中構(gòu)建成的NSTN-AlexNet網(wǎng)絡(luò)、將Maxout函數(shù)替換AlexNet中卷積層ReLU激活函數(shù)的AlexNet+Maxout網(wǎng)絡(luò)、改進的AlexNet網(wǎng)絡(luò)對5 個骨骼訓(xùn)練集圖像進行學(xué)習(xí)訓(xùn)練，設(shè)置batchsize=32，學(xué)習(xí)率LR=0.001，并采用SGD法訓(xùn)練數(shù)據(jù)，對訓(xùn)練出的分類模型使用相對應(yīng)的測試集進行測試。其測試結(jié)果如表3所示。

表3 改進的網(wǎng)絡(luò)模型識別5 類骨骼成熟等級的準確率

由表3中的實驗結(jié)果可知：改進的AlexNet網(wǎng)絡(luò)訓(xùn)練的網(wǎng)絡(luò)模型識別頭狀骨的成熟等級準確率為88.39%，鉤骨的成熟等級準確率為85.35%，掌骨Ⅰ的成熟等級準確率為79.69%，遠節(jié)指骨Ⅰ的成熟等級準確率為79.41%，中節(jié)指骨Ⅴ的成熟等級準確率為81.29%。改進AlexNet網(wǎng)絡(luò)模型比原始AlexNet網(wǎng)絡(luò)模型的識別準確率提高了3%～4%。實驗結(jié)果說明：改進的AlexNet網(wǎng)絡(luò)具有空間不變性，在網(wǎng)絡(luò)訓(xùn)練中能對特征圖進行空間變換突出有辨別力的特征信息區(qū)域，獲取到更抽象、精確的特征表達，并提升網(wǎng)絡(luò)模型的學(xué)習(xí)效率，能較好的識別5 類骨骼圖像的成熟等級。

3.2.3 改進的AlexNet與其他卷積神經(jīng)網(wǎng)絡(luò)模型對比

為了驗證筆者改進的AlexNet網(wǎng)絡(luò)模型識別性能，將改進的AlexNet模型與其他卷積神經(jīng)網(wǎng)絡(luò)模型進行實驗對比，即使用頭狀骨、鉤骨、掌骨Ⅰ、遠節(jié)指骨Ⅰ和中節(jié)指骨Ⅴ這5 個骨骼訓(xùn)練集分別對筆者改進的AlexNet與ResNet，SENet，ResNeXt，GoogLeNet和CBAM這6 個網(wǎng)絡(luò)進行訓(xùn)練，設(shè)置batchsize=32，學(xué)習(xí)率LR=0.001，并采用SGD法訓(xùn)練數(shù)據(jù)，并分別使用相對應(yīng)的測試集對訓(xùn)練出的分類模型測試出識別的準確率。不同網(wǎng)絡(luò)模型對5 類骨骼圖像成熟等級識別測試結(jié)果如表4所示。

表4 不同的網(wǎng)絡(luò)模型識別5 類骨骼成熟等級的準確率

由表4可以看出：6 種不同的卷積神經(jīng)網(wǎng)絡(luò)模型對5 類骨骼圖像成熟等級的識別，都取得了較好的準確率。筆者改進的AlexNet網(wǎng)絡(luò)模型，具有較好的泛化能力，其訓(xùn)練的分類模型與其他卷積神經(jīng)網(wǎng)絡(luò)的分類模型對5 類骨骼圖像的等級識別準確率相比，提高了3%～4%。實驗結(jié)果表明：與其他5 個卷積神經(jīng)網(wǎng)絡(luò)模型對5 類骨骼圖像的成熟等級識別效果相比，筆者改進的AlexNet網(wǎng)絡(luò)模型識別效果更好；改進的AlexNet網(wǎng)絡(luò)對手腕骨圖像的等級識別具有一定的優(yōu)越性。

4 結(jié) 論

提出了一種基于改進AlexNet的手腕骨圖像等級識別方法，該方法將優(yōu)化后的空間變換網(wǎng)絡(luò)加入AlexNet網(wǎng)絡(luò)中對卷積后的特征圖進行空間變換，突出具有辨識度的特征區(qū)域，并提取該區(qū)域特征信息用于網(wǎng)絡(luò)模型識別；使用Maxout函數(shù)作為網(wǎng)絡(luò)中5 層卷積層的激活函數(shù)，以避免網(wǎng)絡(luò)訓(xùn)練中出現(xiàn)神經(jīng)元壞死問題，提升網(wǎng)絡(luò)學(xué)習(xí)效率，進而提升手腕骨圖像等級識別的準確率。實驗結(jié)果表明：筆者改進的AlexNet網(wǎng)絡(luò)訓(xùn)練的識別模型對5 類骨骼圖像的等級識別準確率與原始的AlexNet網(wǎng)絡(luò)相比，提高了3%～4%，與其他卷積神經(jīng)網(wǎng)絡(luò)相比，也具有一定的優(yōu)越性。該方法可給骨齡自動評估系統(tǒng)的開發(fā)提供一定的參考。本研究尚有一些不足：1)數(shù)據(jù)集樣本等級分布不均衡，邊緣等級圖像樣本少，這些問題影響總體識別準確率；2)實驗沒有訓(xùn)練CHN法中剩余的9 類特征骨的分類模型。未來，將進一步研究如何在樣本等級分布不均衡的情況下提升單類骨骼的等級識別準確率。