基于深度學(xué)習(xí)的群體醫(yī)療數(shù)據(jù)智能分析系統(tǒng)設(shè)計(jì)

邢文娜，寧睿

（西安航空職業(yè)技術(shù)學(xué)院，陜西西安 710089）

在醫(yī)療領(lǐng)域中，隨著互聯(lián)網(wǎng)、機(jī)器學(xué)習(xí)等高新技術(shù)的介入，醫(yī)療數(shù)據(jù)呈指數(shù)級(jí)增長(zhǎng)。醫(yī)療數(shù)據(jù)被廣泛應(yīng)用于藥品研發(fā)、臨床診斷等諸多領(lǐng)域，這對(duì)于提高醫(yī)院資源利用、降低醫(yī)療成本與提高醫(yī)療效率具有重要的意義。

群體醫(yī)療數(shù)據(jù)分析是指對(duì)一個(gè)特定區(qū)域內(nèi)的群體進(jìn)行醫(yī)療數(shù)據(jù)分析，從而得出規(guī)律性的結(jié)論。有效、精確的分析結(jié)果不但可以輔助診斷、優(yōu)化醫(yī)療資源配置，還可以監(jiān)控群體健康水平，輔助管理決策。在高職院校中，有大量的集體生活群體，對(duì)其進(jìn)行規(guī)律性的醫(yī)療數(shù)據(jù)監(jiān)控，可以有效保障群體的健康水平，及時(shí)發(fā)現(xiàn)各類疫情或某種原因引起的群體健康事件。數(shù)值型的醫(yī)療數(shù)據(jù)監(jiān)控起來(lái)較為簡(jiǎn)單，而難點(diǎn)在于圖形數(shù)據(jù)的有效分析與監(jiān)控。

計(jì)算機(jī)斷層掃描（CT）是診斷疾病的有效方法，醫(yī)生可以通過(guò)CT 直觀地檢查患者的身體結(jié)構(gòu)并有效地分析病情。實(shí)際治療中醫(yī)生會(huì)對(duì)每個(gè)患者采集數(shù)百個(gè)醫(yī)學(xué)圖像，處理與分析大量醫(yī)學(xué)圖像數(shù)據(jù)是一個(gè)較大的挑戰(zhàn)，而這些圖像數(shù)據(jù)則能反映出眾多的有效信息。

文中提出了一種基于卷積自動(dòng)編碼器神經(jīng)網(wǎng)絡(luò)（CANN）的深度學(xué)習(xí)架構(gòu)[1]，用于肺結(jié)節(jié)的分類。首先利用原始圖像補(bǔ)丁進(jìn)行無(wú)監(jiān)督的特征學(xué)習(xí)，而將少量標(biāo)記數(shù)據(jù)用于有監(jiān)督的微調(diào)參數(shù)，然后從輸入圖像中提取特征表示。實(shí)驗(yàn)結(jié)果表明，所提出的方法可以有效地通過(guò)數(shù)據(jù)驅(qū)動(dòng)的方法提取圖像特征，并更快地標(biāo)注醫(yī)學(xué)數(shù)據(jù)[2]。

1 自動(dòng)編碼器神經(jīng)網(wǎng)絡(luò)CANN 架構(gòu)設(shè)計(jì)

文中基于深度學(xué)習(xí)架構(gòu)的目標(biāo)函數(shù)F由多層組成，而不是簡(jiǎn)單的f:X?Y中從X到Y(jié)的直接映射[3]。具體而言，第一層L1接收輸入圖像x，最后一層LN是輸出層。中間層包括3 個(gè)池化層與一個(gè)全通連接層[4]，結(jié)構(gòu)如圖1 所示。

圖1 自動(dòng)編碼器神經(jīng)網(wǎng)絡(luò)CANN架構(gòu)

從原始CT 圖像分割的圖片區(qū)域被輸入到CANN，將其用于分類。神經(jīng)網(wǎng)絡(luò)中卷積層的參數(shù)由自動(dòng)編碼器無(wú)監(jiān)督學(xué)習(xí)確定，少量標(biāo)記的數(shù)據(jù)用于微調(diào)CANN 的參數(shù)并訓(xùn)練分類器。該節(jié)主要探討此次設(shè)計(jì)的CANN 結(jié)構(gòu)、參數(shù)設(shè)置與訓(xùn)練方法[5]。

具體地，從原始CT 圖像劃分的圖片區(qū)域可表示為x∈X,X?Rm×d×d，其中m表示圖片輸入通道的數(shù)量，d×d表示輸入圖像的尺寸[6]。標(biāo)記的數(shù)據(jù)表示為y∈Y,Y?Rn，其中n代表輸出分類的數(shù)量。通過(guò)CANN 模型從訓(xùn)練中推導(dǎo)出目標(biāo)函數(shù)[7]，即f:X?Y和參數(shù)集θ。

此次的訓(xùn)練數(shù)據(jù)包括兩個(gè)數(shù)據(jù)集，即未標(biāo)記的數(shù)據(jù)集UD={x∣x∈X}與已標(biāo)記的數(shù)據(jù)集D={x,y∣x∈X,y∈Y}。需要說(shuō)明的是，UD用于無(wú)監(jiān)督訓(xùn)練[8]，D用于有監(jiān)督的微調(diào)與分類器訓(xùn)練。

深度學(xué)習(xí)中，監(jiān)督方法可用于數(shù)據(jù)驅(qū)動(dòng)的特征學(xué)習(xí)，其中連接權(quán)重通過(guò)正向與反向傳播算法進(jìn)行更新[9]。與有監(jiān)督的方法相比，無(wú)監(jiān)督的方法可以直接接收未標(biāo)記的輸入數(shù)據(jù)，有效地減少標(biāo)記數(shù)據(jù)的工作量[10]。

文中提出了一種用于無(wú)監(jiān)督學(xué)習(xí)的自動(dòng)編碼器方法，自動(dòng)編碼器提取輸出數(shù)據(jù)以重建輸入數(shù)據(jù)，并將其與原始輸入數(shù)據(jù)進(jìn)行比較[11]。經(jīng)過(guò)足夠多次迭代后，成本函數(shù)達(dá)到了最優(yōu)，這意味著重構(gòu)的輸入數(shù)據(jù)能夠在最大程度上近似原始輸入數(shù)據(jù)。

輸入數(shù)據(jù)I表示m維向量I∈Rm。輸出數(shù)據(jù)代碼是n維向量code∈Rn[12]。標(biāo)準(zhǔn)自動(dòng)編碼器包括3 個(gè)主要步驟：

1）編碼[13]。通過(guò)code=f(I)=σ(w·I+b)將輸入數(shù)據(jù)I轉(zhuǎn)換為隱藏層編碼，其中w∈Rm×n且b∈Rn，σ是激活函數(shù)，此次使用Sigmod 與雙曲正切函數(shù)。

2）解 碼[14]。根據(jù)編碼，通過(guò)式重構(gòu)輸入值O′，其中

3）計(jì)算平方誤差Lrecon(I,O′)=‖I-O′‖3，即誤差成本函數(shù)[15]。通過(guò)優(yōu)化成本函數(shù)來(lái)實(shí)現(xiàn)最小平方誤差，如式（1）所示。

自動(dòng)編碼器的無(wú)監(jiān)督特征學(xué)習(xí)如圖2 所示。

圖2 自動(dòng)編碼器的無(wú)監(jiān)督特征學(xué)習(xí)

2 CANN網(wǎng)絡(luò)層間設(shè)計(jì)

2.1 卷積自動(dòng)編碼器

卷積自動(dòng)編碼器將局部卷積連接與自動(dòng)編碼器相結(jié)合，從特征圖的輸入到輸出的卷積轉(zhuǎn)換過(guò)程稱為卷積解碼器[16]。通過(guò)逆卷積運(yùn)算重建輸出值，以及標(biāo)準(zhǔn)自動(dòng)編碼器無(wú)監(jiān)督貪婪訓(xùn)練，可以計(jì)算編碼與解碼操作的參數(shù)。卷積自動(dòng)編碼器布局中的操作，如圖3 所示。

圖3 自動(dòng)編碼器結(jié)構(gòu)

圖3 中，f(·)代表卷積編碼操作；f′(·)代表卷積解碼操作。輸入要素映射x∈Rn×l×l，可從輸入層或上一層獲取，其中包含n個(gè)特征圖，每個(gè)特征圖的大小為l×l像素。卷積自動(dòng)編碼器操作包括m個(gè)卷積內(nèi)核，輸出層輸出m個(gè)特征圖。當(dāng)從輸入圖層生成輸入特征圖時(shí)，n表示輸入通道數(shù)。當(dāng)輸入要素從上一層映射時(shí)，n表示前一層的輸出要素映射的數(shù)量。卷積核的大小為d×d，其中d≤l。

通過(guò)隨機(jī)梯度下降（SGD）將權(quán)重與誤差降至最低，并優(yōu)化卷積自編碼器層。訓(xùn)練后的參數(shù)用于輸出特征圖，然后將其傳輸?shù)缴窠?jīng)網(wǎng)絡(luò)下一層。

2.2 神經(jīng)網(wǎng)絡(luò)池化

與常見(jiàn)的CNN 相似，卷積層連接到池化層，在CANN 中卷積自編碼器層之后是最大池化層，如式（7）所示。

每個(gè)輸入特征圖根據(jù)池化區(qū)域的大小，分為n個(gè)無(wú)重疊區(qū)域。其中，代表第j個(gè)特征圖的第i個(gè)區(qū)域，代表第j個(gè)輸出特征圖的第i個(gè)神經(jīng)元，輸入要素圖的數(shù)量等于池化層中輸出要素圖的數(shù)量。池化操作后，可以減少特征圖中的神經(jīng)元，從而降低計(jì)算復(fù)雜度。

2.3 代價(jià)函數(shù)設(shè)計(jì)

用于根據(jù)特征進(jìn)行分類的Softmax 分類層位于多個(gè)卷積自動(dòng)編碼器層、最大池化層與全連接層后。文中將CT 圖像分為兩類。具體而言，來(lái)自分類器的代表結(jié)節(jié)與無(wú)結(jié)節(jié)的概率。

此外，在有監(jiān)督的訓(xùn)練網(wǎng)絡(luò)中，成本函數(shù)為交叉熵L，如式（9）所示。SGD 用于最小化交叉熵L，y是樣本數(shù)據(jù)的標(biāo)簽。

3 實(shí)驗(yàn)驗(yàn)證

3.1 訓(xùn)練參數(shù)設(shè)計(jì)

1）卷積自動(dòng)編碼器

卷積層使用50 000 個(gè)樣本無(wú)監(jiān)督學(xué)習(xí)訓(xùn)練自動(dòng)編碼器，通過(guò)代價(jià)函數(shù)計(jì)算梯度并通過(guò)SGD 優(yōu)化參數(shù)。具體執(zhí)行時(shí)，每100 個(gè)樣本包含在一個(gè)小批次中，每個(gè)批次的迭代次數(shù)為50。因此，每層的迭代次數(shù)為50×N/100。

2）全連接層和分類器

全連接層的輸入來(lái)自最后一個(gè)池化層，Softmax分類器的500 個(gè)神經(jīng)元輸出興趣特征。此次使用1 800 個(gè)帶標(biāo)簽的數(shù)據(jù)分類訓(xùn)練，每個(gè)包含50個(gè)小批量樣本。

3.2 訓(xùn)練樣本規(guī)模實(shí)驗(yàn)

圖4 為訓(xùn)練樣本數(shù)量對(duì)CANN 與MCCNN 的分類精度影響。結(jié)果表明，對(duì)于CANN 與MCCNN 方法，當(dāng)數(shù)目均達(dá)到2 900 時(shí)，性能是最優(yōu)的。隨著數(shù)量增加到1 500 或1 600，CANN 呈現(xiàn)出性能向好的趨勢(shì)。

圖4 訓(xùn)練樣本規(guī)模實(shí)驗(yàn)

3.3 分類性能比較

文中將CANN、自動(dòng)編碼器（AE）、卷積神經(jīng)網(wǎng)絡(luò)CNN 與MCCNN 的分類性能與數(shù)據(jù)集D2 進(jìn)行了比較，結(jié)果如表1 所示；變化率對(duì)比如圖5 所示。

表1 分類性能比較

圖5 變化實(shí)驗(yàn)

CNN 與MCCNN 使用了與CANN 相同的卷積架構(gòu)。所提方法的準(zhǔn)確率、精確度、召回率、F1 與AUC分別為92%、91%、91%、91%與0.97。AE 方法使用相同的未標(biāo)記訓(xùn)練數(shù)據(jù)庫(kù)，并在同一數(shù)據(jù)庫(kù)上對(duì)其進(jìn)行測(cè)試。由表1 可知，CNN 與MCCNN 方法的分類性能均低于所提方法。評(píng)估證明，無(wú)監(jiān)督的特征學(xué)習(xí)與有監(jiān)督的微調(diào)相結(jié)合可以顯著提高性能。

3.4 相似度檢查

圖像相似性判斷用于檢索相似的結(jié)節(jié)，以供醫(yī)生參考。相似性判斷與結(jié)節(jié)分類必須考慮多個(gè)特征，例如結(jié)節(jié)的形態(tài)、密度、大小、邊緣等。圖像的相似度與分類如圖6 所示。

圖6 圖像相似度實(shí)驗(yàn)

評(píng)估證明，無(wú)監(jiān)督的特征學(xué)習(xí)與有少量訓(xùn)練集的有監(jiān)督微調(diào)可以獲得更優(yōu)的性能。

4 結(jié)束語(yǔ)

文中研究了兩種代表性的方法來(lái)輔助醫(yī)療圖像數(shù)據(jù)分析?；诜指钆c手工特征提取的方法費(fèi)時(shí)費(fèi)力，而數(shù)據(jù)驅(qū)動(dòng)方法可避免結(jié)節(jié)分割中重要信息的丟失。但由于標(biāo)記的醫(yī)學(xué)數(shù)據(jù)的稀缺性，這兩種方法的可行性較差。

因此，文中提出了一種用于數(shù)據(jù)驅(qū)動(dòng)特征學(xué)習(xí)的基于CANN 的方法。其中，對(duì)網(wǎng)絡(luò)進(jìn)行無(wú)監(jiān)督的訓(xùn)練，并帶有大量的未標(biāo)記補(bǔ)丁，少量的標(biāo)記數(shù)據(jù)用于微調(diào)網(wǎng)絡(luò)結(jié)構(gòu)。將所提出的方法應(yīng)用于肺結(jié)節(jié)的識(shí)別、分類和相似性檢查，解決了興趣位置ROI 標(biāo)記與標(biāo)記數(shù)據(jù)不足的耗時(shí)問(wèn)題，并通過(guò)綜合實(shí)驗(yàn)驗(yàn)證了該方法的優(yōu)越性。