權(quán)重初始化-滑動窗口CNN 的醫(yī)學(xué)圖像分類

安鳳平，李曉薇，曹 翔

1.淮陰師范學(xué)院 物理與電子電氣工程學(xué)院，江蘇 淮安223300

2.北京理工大學(xué) 信息與電子學(xué)院，北京100081

隨著計(jì)算機(jī)和醫(yī)學(xué)影像領(lǐng)域的快速發(fā)展，電子計(jì)算機(jī)斷層掃描（computed tomography，CT）、磁共振成像（magnetic resonance imaging，MRI）等醫(yī)學(xué)影像能夠在非介入的情況下反映人體內(nèi)部組織和器官的生理狀態(tài)，已逐漸成為醫(yī)學(xué)研究、臨床診療以及手術(shù)規(guī)劃中不可或缺的重要工具。這些新技術(shù)在為醫(yī)學(xué)理論和醫(yī)療技術(shù)帶來進(jìn)步的同時(shí)，也提出了新的問題，比如需要醫(yī)生對診斷結(jié)果進(jìn)行分類和處理等。圖像分類技術(shù)能夠在一定程度上對圖像內(nèi)容進(jìn)行自動理解，它可以對醫(yī)學(xué)圖像中的病灶區(qū)域進(jìn)行有效識別，可以協(xié)助醫(yī)生進(jìn)行高效診斷。但是，現(xiàn)實(shí)中的醫(yī)學(xué)圖像種類繁多，為了區(qū)分這些醫(yī)學(xué)圖像的類別信息，往往需要采用不同的處理和分析方法。目前，醫(yī)學(xué)圖像分類大多基于模式識別方法，然后利用分類模型對醫(yī)學(xué)圖像進(jìn)行識別和區(qū)分。根據(jù)分類模型訓(xùn)練方法的不同，一般可以將醫(yī)學(xué)圖像分類分為有監(jiān)督分類方法和無監(jiān)督分類方法。

有監(jiān)督的分類方法是指提前給定樣本標(biāo)簽，通過帶標(biāo)簽的圖像特征訓(xùn)練分類模型，分類的類別通常都是預(yù)先指定的。主要的有監(jiān)督分類方法包括K近鄰算法、貝葉斯模型、邏輯回歸、神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)等。以基于神經(jīng)網(wǎng)絡(luò)的醫(yī)學(xué)圖像分類方法效果最佳，這是因?yàn)樯窠?jīng)網(wǎng)絡(luò)能夠解決圖像分類中小樣本、非線性可分等問題，并且分類精度和運(yùn)算時(shí)間都具有較大優(yōu)勢。Abbass提出了一種基于Pareto 差分進(jìn)化算法的神經(jīng)網(wǎng)絡(luò)用于乳腺癌WBCD（Wisconsin breast cancer database）數(shù)據(jù)集分類，獲得了比傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)更好的分類性能。Karabatak 等人利用關(guān)聯(lián)規(guī)則進(jìn)行維度約減，將9 個(gè)特征約減為4 個(gè)特征，再用ANN（artificial neural network）進(jìn)行分類，在乳腺癌WBCD 數(shù)據(jù)集上其2 折交叉驗(yàn)證的準(zhǔn)確率達(dá)到90%。但是該類方法存在無法自適應(yīng)地匹配醫(yī)學(xué)圖像本身特征信息，導(dǎo)致分類效果在不同醫(yī)學(xué)圖像存在較大的差異性。

無監(jiān)督的分類方法是在沒有預(yù)設(shè)樣本標(biāo)簽的前提下，根據(jù)樣本間的相似度自動劃分出不同類別，無監(jiān)督學(xué)習(xí)本質(zhì)上是一個(gè)聚類過程，常用的聚類算法如-means、模糊C 均值以及主成分分析（principal components analysis，PCA）等都是典型無監(jiān)督方法。比如2010 年，Juang 等人提出了利用具有均值聚類技術(shù)的顏色轉(zhuǎn)換分割算法。該方法能夠通過添加基于顏色的分割操作來解決磁共振成像（MRI）圖像中無法精確找到病變對象輪廓的問題。2004年，Zhang 等人提出了一種新的MRI 數(shù)據(jù)模糊分割算法，分割效果較好，但后面的識別準(zhǔn)確率較低。2012 年，Singh 等人提出了一種基于PCA 的自動分類MRI 圖像和自然圖像的方法，實(shí)驗(yàn)表明，分類精度達(dá)到91%。雖然該類方法實(shí)現(xiàn)比較簡單，在圖像識別和分類應(yīng)用取得了一定的效果，但是分類效果在不同醫(yī)學(xué)圖像分類和識別中存在較大差異問題，不能根據(jù)醫(yī)學(xué)圖像本身特性進(jìn)行良好的自適應(yīng)分類和識別。

近年來，隨著深度學(xué)習(xí)理論的發(fā)展，基于深度學(xué)習(xí)的醫(yī)學(xué)圖像分類研究再度引起相關(guān)學(xué)者的高度關(guān)注。深度學(xué)習(xí)是有監(jiān)督和無監(jiān)督方法有機(jī)結(jié)合，它通常先利用無監(jiān)督學(xué)習(xí)訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)，然后通過有監(jiān)督學(xué)習(xí)方法進(jìn)行微調(diào)。在深度神經(jīng)網(wǎng)絡(luò)發(fā)展初期，醫(yī)療圖像識別側(cè)重于無監(jiān)督的預(yù)訓(xùn)練，如棧式自編碼器（stacked autoencoder，SAE）和RBM（restricted Boltzmann machine）。比如，2013 年Brosch 等人利用深度信念網(wǎng)絡(luò)用于神經(jīng)影像學(xué)的圖像分類。Plis 等人利用深度信念網(wǎng)絡(luò)和棧式自編碼器，基于腦磁共振成像診斷患者是否患有阿爾茨海默病。Cheng 等人利用SAE 進(jìn)行乳房超聲病灶和非結(jié)節(jié)的智能識別，性能與常規(guī)方法相比有顯著的提升。Kallenberg 等人利用卷積稀疏自編碼器從無標(biāo)簽的乳腺癌X 射線照片中提取特征，卷積稀疏自編碼器和經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)（convolutional neural networks，CNN）之間的主要區(qū)別是使用具有稀疏自動編碼器的無監(jiān)督預(yù)訓(xùn)練。近期對醫(yī)療圖像分類方法的研究主要集中在卷積神經(jīng)網(wǎng)絡(luò)方面，這是因?yàn)樵擃惙椒ň哂休^高的自適應(yīng)能力和較好的效果。同時(shí)，在實(shí)際的醫(yī)學(xué)影像中的分類任務(wù)通常指的是將醫(yī)學(xué)圖像的某個(gè)局部（先前識別的）分為兩個(gè)或多個(gè)類別。對于這類任務(wù)，往往需要結(jié)合關(guān)于病變出現(xiàn)的局部信息和關(guān)于病變位置的全局上下文信息以更加精確分類。此類要求通過通用深度學(xué)習(xí)架構(gòu)是很難實(shí)現(xiàn)的。相關(guān)研究者嘗試?yán)枚嗑W(wǎng)絡(luò)分支架構(gòu)解決該問題。比如，2015 年，Shen 等人通過構(gòu)建三個(gè)CNN，每個(gè)都采用不同尺度的結(jié)節(jié)片作為輸入。然后將三個(gè)CNN 的輸出連接以形成最終特征向量。2016 年，Kawahara 等人嘗試?yán)枚喾种NN 對皮膚病變進(jìn)行分類，其中每個(gè)分支工作在不同的圖像分辨率上。2017 年，Esteva等人使 用129 450張臨床圖像的數(shù)據(jù)集對CNN 進(jìn)行模型訓(xùn)練，實(shí)驗(yàn)內(nèi)容為兩個(gè)二分類任務(wù)：一個(gè)是角質(zhì)形成細(xì)胞癌與良性脂溢性角化病，另外一個(gè)是惡性黑素瘤與良性痣。實(shí)驗(yàn)結(jié)果表明，CNN對皮膚癌的分類水平基本達(dá)到了皮膚科醫(yī)生的水平。2018年，針對乳腺癌晚期患者，Bidart等人利用全卷積神經(jīng)網(wǎng)絡(luò)（fully convolutional neural networks，F(xiàn)CNN）設(shè)計(jì)了一種乳腺癌組織切片細(xì)胞核自動定位方法，并將乳腺癌組織切片的細(xì)胞核圖像分成淋巴細(xì)胞、良性上皮細(xì)胞和惡性上皮細(xì)胞三類，分類準(zhǔn)確率達(dá)到94.6%。綜上可知，深度學(xué)習(xí)理論在醫(yī)學(xué)圖像分類中得到了廣泛的應(yīng)用。但是醫(yī)療圖像與自然圖像特征不相同，比如病灶只占整個(gè)圖像的一小部分，而且病灶的發(fā)生對周圍的組織會產(chǎn)生影響等。如何根據(jù)這些特點(diǎn)構(gòu)建性能更優(yōu)異的CNN，獲得更高性能的醫(yī)療圖像智能分類結(jié)果，是一個(gè)需要解決的難題。同時(shí)，由于網(wǎng)絡(luò)深度影響了卷積神經(jīng)網(wǎng)絡(luò)的非線性建模能力，初始化不當(dāng)會導(dǎo)致深層網(wǎng)絡(luò)難以收斂，當(dāng)前還沒有較好的初始化方法。鑒于此，本文首先從網(wǎng)絡(luò)優(yōu)化角度出發(fā)，通過優(yōu)化方法提高網(wǎng)絡(luò)的非線性建模能力，并可通過改善吸引域提高收斂后的解的泛化性能。進(jìn)而提出了一種新的網(wǎng)絡(luò)權(quán)重初始化方法，緩解了現(xiàn)有深度學(xué)習(xí)的初始化理論受限于非線性單元類型的問題，使得深層網(wǎng)絡(luò)的結(jié)構(gòu)設(shè)計(jì)可以有更多的選擇，增加了神經(jīng)網(wǎng)絡(luò)處理不同視覺任務(wù)的潛力。同時(shí)，為了充分利用醫(yī)學(xué)圖像的特性，本文針對多列卷積神經(jīng)網(wǎng)絡(luò)的框架進(jìn)行了研究。首先，通過改變卷積神經(jīng)網(wǎng)絡(luò)不同層次的特征圖數(shù)量和卷積核的大小，構(gòu)造了不同結(jié)構(gòu)的卷積神經(jīng)網(wǎng)絡(luò)模型，以更好地適應(yīng)待處理醫(yī)學(xué)圖像的醫(yī)學(xué)特性；然后，不同的卷積神經(jīng)網(wǎng)絡(luò)模型分別在同一個(gè)數(shù)據(jù)集上進(jìn)行訓(xùn)練；最后，訓(xùn)練得到的異構(gòu)多列卷積神經(jīng)網(wǎng)絡(luò)再通過本文提出的一種自適應(yīng)的滑動窗口融合機(jī)制，共同完成醫(yī)學(xué)圖像的分類任務(wù)，實(shí)現(xiàn)醫(yī)學(xué)圖像的自適應(yīng)、高精度分類?；谏鲜鏊枷?，本文提出了一種基于權(quán)重初始化-多層卷積神經(jīng)網(wǎng)絡(luò)滑動窗口融合的醫(yī)學(xué)分類算法。

1 基于自適應(yīng)泰勒的深度學(xué)習(xí)模型權(quán)重初始化方法

醫(yī)學(xué)圖像的分類問題本質(zhì)上就是特征提取后再進(jìn)行識別的問題。雖然淺層網(wǎng)絡(luò)能夠?qū)崿F(xiàn)識別系統(tǒng)中輸入到輸出的復(fù)雜非線性變換，但需要極高計(jì)算復(fù)雜度才能達(dá)到與深層網(wǎng)絡(luò)相近的非線性表示能力。因此，在一定計(jì)算復(fù)雜度的條件下，增加網(wǎng)絡(luò)深度是解決醫(yī)學(xué)圖像分類問題的最可靠方法。然而深層網(wǎng)絡(luò)的優(yōu)化是深度學(xué)習(xí)中的難題，尤其是初始化不當(dāng)引起的梯度爆炸問題?，F(xiàn)有方法中，MSRA（Microsoft research lab Asia）法具有良好的收斂性和泛化性能，不足之處是受限于特定的網(wǎng)絡(luò)類型；高斯初始化不需要特定的網(wǎng)絡(luò)類型，但是其網(wǎng)絡(luò)收斂性和泛化能力不足。鑒于此，本章提出新的初始化方法，旨在通過優(yōu)化技術(shù)來提高模型的收斂性和泛化能力。本文提出的初始化方法將會結(jié)合上述兩類方法的優(yōu)點(diǎn)，避免其不足。本文所提初始化方法是MSRA方法的延伸和擴(kuò)展，因此本章將分為MSRA 方法介紹和本文方法闡述兩部分。

1.1 MSRA 方法

對于第個(gè)卷積層，其輸出中的某個(gè)像素y可以表示為：

其中，y是一個(gè)隨機(jī)變量，w和x是相互獨(dú)立的隨機(jī)向量。偏置項(xiàng)b以0 進(jìn)行初始化。接下來考察y方差和y方差的關(guān)系。

式中，k表示卷積核大小，c是卷積層輸入的通道數(shù)。 w和x是相互獨(dú)立的隨機(jī)變量。式（4）的成立條件是式（3）中的隨機(jī)向量w中的元素和x中的元素均是獨(dú)立同分布的。當(dāng)w以0 均值初始化，那式（4）可以轉(zhuǎn)化為下式：

對于不同類型的非線性單元，式（6）會得到不同的解，不同的解對應(yīng)了不同的初始化方法。對于Sigmoid 非線性，式（6）可以調(diào)整為下式：

文獻(xiàn)[43-46]在式（7）的基礎(chǔ)上假定原點(diǎn)附近x與y是線性關(guān)系，此時(shí)可以得到Xavier 初始化方法。對于ReLU 非線性，式（6）可以調(diào)整為下式：

He 等利用式（8）將Xavier 初始化推廣到ReLU網(wǎng)絡(luò)。

1.2 自適應(yīng)泰勒初始化方法

將式（7）代入式（5）可得到適用于Sigmoid 網(wǎng)絡(luò)的Xavier初始化方法，同理將式（8）代入式（5）可得到適用于ReLU 網(wǎng)絡(luò)的MSRA 初始化方法?？梢?，初始化的解析解是x與y關(guān)系的函數(shù)。但是，如果式（6）的展開式存在高次項(xiàng)，式（5）將難以求解。因此，當(dāng)前主流的初始化方法在理論上不適用于ReLU 和Sigmoid以外其他類型的網(wǎng)絡(luò)。針對這一問題，本文通過引入泰勒公式提出了一種更加通用性的初始化方法。

根據(jù)Gulcehre 等對非線性單元的定義，非線性單元是一個(gè)由實(shí)數(shù)空間到實(shí)數(shù)空間的映射，且?guī)缀跆幪幙蓪?dǎo)，即:R →R，為了推導(dǎo)方便，定義非線性單元為下列函數(shù)：

其中，為非線性單元的輸出，為非線性單元的輸入，且滿足在∈R 內(nèi)幾乎處處可導(dǎo)。假設(shè)∈R內(nèi)存在一點(diǎn)，使得()=0，根據(jù)定義在處具有至少一階導(dǎo)數(shù)或下梯度存在，對在=處進(jìn)行≥1 階泰勒展開有：

通過觀察式（5）可以發(fā)現(xiàn)，當(dāng)式（10）中的階數(shù)為2 時(shí)，該方程難以求解。為了解決這一問題，本節(jié)利用泰勒公式對非線性單元做近似計(jì)算，取式（10）中≤1 的線性項(xiàng)。雖然這種方法會引入一定的誤差，但該誤差在初始化階段是可以忽略的。根據(jù)定義，若在=處連續(xù)且可導(dǎo)，則式（10）可以簡化為下式：

若在=處連續(xù)不可導(dǎo)但下梯度存在（比如ReLU），則有：

式（11）可以看作式（12）的特例，因此本文基于式（13）進(jìn)行推導(dǎo)。

若′()=′()=0，則=()，任意∈R 。這表明非線性單元的輸出恒為常數(shù)。這將導(dǎo)致卷積神經(jīng)網(wǎng)絡(luò)失去判別力，因而需排除這種情況。

式（16）描述了相鄰卷積層的輸出方差之間的關(guān)系，考慮第層的輸出方差與第1 層的輸出方差之間的關(guān)系如下：

從式（17）可以看出，Var(y)的大小與是指數(shù)上升的關(guān)系。而且，對非線性單元:R →R，如果不存在點(diǎn)，使得()=0，則當(dāng)很大時(shí)，Var(y)也將是一個(gè)很大的數(shù)，從而導(dǎo)致Softmax 層的輸出溢出，網(wǎng)絡(luò)無法收斂。對于大部分非線性單元而言，通常設(shè)計(jì)其函數(shù)過原點(diǎn)，即：

不妨取=0，即在=0 處對做泰勒展開。此時(shí)的初始化值也變?yōu)?，那么式（17）可以簡化為：

將上式代入式（18）可得：

通過式（21），如果卷積層參數(shù)的方差滿足上述關(guān)系，則前向傳遞過程中輸入信號的幅值不會發(fā)散或消失，這進(jìn)一步保證了后向傳遞過程中梯度流的合理。通過上述分析，得出本文提出的自適應(yīng)泰勒初始化方法為：

綜上所述，Xavier 初始方法基于非線性單元在原點(diǎn)處是線性函數(shù)的假設(shè)，因此適用于Sigmoid 網(wǎng)絡(luò)；MSRA 初始化方法將Xavier 初始化理論推廣到ReLU/PReLU 網(wǎng)絡(luò)，但理論上不適用于其他類型的網(wǎng)絡(luò)。雖然LSUV（layer sequence unit variance）初始化是通用性的方法，但基于數(shù)據(jù)驅(qū)動，無法求得解析解且計(jì)算速度較慢。本文提出了自適應(yīng)泰勒初始方法，緩解了現(xiàn)有初始化理論受限于非線性單元類型的問題，與其他方法相比，有較強(qiáng)的通用性且能求得解析解。

2 基于多層卷積神經(jīng)網(wǎng)絡(luò)的滑動窗口融合方法

為了使卷積神經(jīng)網(wǎng)絡(luò)更多地融合醫(yī)學(xué)圖像自身特征信息，本章從網(wǎng)絡(luò)結(jié)構(gòu)和網(wǎng)絡(luò)融合兩方面對卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行進(jìn)一步的研究。在網(wǎng)絡(luò)構(gòu)成上，本章主要研究卷積神經(jīng)網(wǎng)絡(luò)的多層特性，也即通過構(gòu)建不同網(wǎng)絡(luò)結(jié)構(gòu)模型對同一醫(yī)學(xué)圖像進(jìn)行差別化學(xué)習(xí)，從而提高整個(gè)網(wǎng)絡(luò)的泛化性能。同時(shí)，對于多層卷積神經(jīng)網(wǎng)絡(luò)模型，本章提出了一種基于滑動窗口的多層網(wǎng)絡(luò)融合方法，該方法能夠?qū)Χ鄬泳W(wǎng)絡(luò)的分類結(jié)果進(jìn)行靈活的選擇，優(yōu)化多層卷積神經(jīng)網(wǎng)絡(luò)的融合過程，提高醫(yī)學(xué)圖像分類精度。

2.1 多層卷積神經(jīng)網(wǎng)絡(luò)

通過結(jié)構(gòu)不同的多個(gè)卷積神經(jīng)網(wǎng)絡(luò)可以組成多層卷積神經(jīng)網(wǎng)絡(luò)，該多層卷積神經(jīng)網(wǎng)絡(luò)的示意圖如圖1 所示。

圖1 本文所提的多層卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖Fig.1 Structure diagram of multi-layer convolutional neural network proposed in this paper

在卷積過程中，卷積層對模型影響如下：（1）卷積核的大小決定感受野的尺度，也影響特征信息的多少；（2）卷積核的數(shù)目決定特征信息豐富程度。鑒于此，本節(jié)通過構(gòu)建卷積核大小以及特征圖數(shù)目不同的多個(gè)卷積神經(jīng)網(wǎng)絡(luò)，而后利用各個(gè)卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，從而實(shí)現(xiàn)通過不同的網(wǎng)絡(luò)模型結(jié)構(gòu)擬合訓(xùn)練數(shù)據(jù)集的目的。最終，融合多層卷積神經(jīng)網(wǎng)絡(luò)得到最后輸出結(jié)果，以便獲得較優(yōu)分類精度。

2.2 多層卷積神經(jīng)網(wǎng)絡(luò)的滑動窗口融合方法

文獻(xiàn)[32]提出了針對輸入圖像進(jìn)行不同的預(yù)處理而帶來網(wǎng)絡(luò)模型的多樣性，但本文與文獻(xiàn)[32]的思想不同，本文多層卷積神經(jīng)網(wǎng)絡(luò)多樣性是由于該模型中蘊(yùn)含多個(gè)結(jié)構(gòu)不同的卷積神經(jīng)網(wǎng)絡(luò)。

一般的分類器融合方法主要有：最小規(guī)則（min rule）、最大規(guī)則（max rule）、平均規(guī)則（average rule）以及乘積規(guī)則（product rule）等。該類方法功能單一，局限性較大。故本文提出了一種全新的基于滑動窗口的分類器融合方法。該方法是一般分類器融合方法的普遍化拓展。它比傳統(tǒng)的分類器融合方法更靈活和一般化。

本文以10 層卷積神經(jīng)網(wǎng)絡(luò)為例，對滑動窗口融合方法進(jìn)行描述。該方法的基本流程如圖2 所示。

圖2 多層卷積神經(jīng)網(wǎng)絡(luò)滑動窗口融合示意圖Fig.2 Schematic diagram of sliding window fusion of multi-layer convolutional neural network

對于一個(gè)輸入的醫(yī)學(xué)圖像，經(jīng)過各層卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行前向傳導(dǎo)之后，1 到10 為各層卷積神經(jīng)網(wǎng)絡(luò)針對某個(gè)類別的分類概率。上述概率由低到高排序，然后一個(gè)滑動窗口被運(yùn)用到經(jīng)過排序后的分類概率分布中產(chǎn)生最終的分類結(jié)果。該過程主要完成以下工作：

（1）確定哪些網(wǎng)絡(luò)的分類結(jié)果會融入到后續(xù)結(jié)果當(dāng)中，該功能通過窗口的起始位置和選取范圍確定。

（2）確定選定分類結(jié)果的融合方式，該功能通過參數(shù)Operation 來確定。在實(shí)際的網(wǎng)絡(luò)融合過程中，滑動窗口融合相比于傳統(tǒng)的單一融合方式更靈活。融合過程如下：

①參數(shù)說明

對于輸入層，(,)表示第列卷積神經(jīng)網(wǎng)絡(luò)對第個(gè)類別的預(yù)測概率；表示滑動窗口的起始位置（Start）；表示滑動窗口的范圍（Range）；表示滑動窗口的操作（Operation，可以設(shè)置為“Sum”和“Product”）。對于輸出層，()表示滑動窗口融合后對第個(gè)類別的預(yù)測概率。

②卷積神經(jīng)網(wǎng)絡(luò)的列數(shù)：←(,1)。

③預(yù)測的類別數(shù)：←(,2)。

④對于類別從1 到做循環(huán)處理，將多列卷積神經(jīng)網(wǎng)絡(luò)的預(yù)測拼接成一個(gè)向量←[(1,),(2,),…,(,)]，對向量中的元素進(jìn)行排序t←(,1)。

⑤當(dāng)==Sum，()←從t()開始往后個(gè)元素累加；==Product，()←從t()開始往后個(gè)元素累乘。

注意：對于t的索引超出時(shí)，則從t(1)開始索引。

Product 表示對所有經(jīng)過滑動窗口選擇的概率相乘得到最終分類概率：

通過調(diào)整滑動窗口融合參數(shù)后，該方法會轉(zhuǎn)變?yōu)槠渌诸惼鞣椒?，具體如表1 所示。

表1 滑動窗口融合方法的特例Table 1 Special cases of sliding window fusion method

該融合方法涉及的參數(shù)（，，）通過窮盡與訓(xùn)練方式得到。窮盡方式雖然理論上可以得到最好的分類效果，但是存在以下缺點(diǎn)：（1）窮盡方式得到參數(shù)所采用的算法復(fù)雜度大，記為()，其中是卷積神經(jīng)網(wǎng)絡(luò)模型的數(shù)量；（2）窮盡方式可以對已知數(shù)據(jù)測試效果較好，對未知數(shù)據(jù)測試效果較差。因此，窮盡方式不能滿足實(shí)際的測試要求。訓(xùn)練方式是得到在訓(xùn)練集上所有參數(shù)組合，最后找到最優(yōu)參數(shù)進(jìn)行相關(guān)測試。其復(fù)雜度仍為()，但是測試的復(fù)雜度降低為(1)。使用訓(xùn)練的方式得到方法的相關(guān)參數(shù)，它有利于提高方法的通用性和普適性。因此，本文使用該方式得到相關(guān)參數(shù)。

3 基于權(quán)重初始化-多層卷積神經(jīng)網(wǎng)絡(luò)滑動窗口融合的醫(yī)學(xué)分類算法

基于上述內(nèi)容，本章構(gòu)建基于權(quán)重初始化-多層卷積神經(jīng)網(wǎng)絡(luò)滑動窗口融合的醫(yī)學(xué)分類算法。首先建立一個(gè)較優(yōu)的卷積神經(jīng)網(wǎng)絡(luò)權(quán)重初始化方法，旨在通過優(yōu)化技術(shù)來提高模型的收斂性和泛化能力。避免由于權(quán)重初始化問題導(dǎo)致卷積神經(jīng)網(wǎng)絡(luò)出現(xiàn)梯度消失等問題；而后該權(quán)重初始化方法引入到本文第2 章縮減了的多層卷積神經(jīng)網(wǎng)絡(luò)滑動窗口融合模型當(dāng)中，從而提升多層卷積神經(jīng)網(wǎng)絡(luò)滑動窗口融合模型的自適應(yīng)能力和泛化能力；最后建立基于權(quán)重初始化-多層卷積神經(jīng)網(wǎng)絡(luò)滑動窗口融合的醫(yī)學(xué)分類算法。所提出醫(yī)學(xué)圖像分類算法的基本流程圖如圖3所示，它的基本步驟如下：

圖3 本文所提醫(yī)學(xué)分類算法基本流程圖Fig.3 Basic flow chart of medical classification algorithm proposed in this paper

（1）首先對醫(yī)學(xué)圖像數(shù)據(jù)進(jìn)行去噪等預(yù)處理。

（2）利用本文提出的自適應(yīng)泰勒權(quán)重初始化方法進(jìn)行卷積神經(jīng)網(wǎng)絡(luò)權(quán)重初始化，因?yàn)楸疚奶岢龅木矸e神經(jīng)網(wǎng)絡(luò)權(quán)重初始化方法能夠有效緩解現(xiàn)有初始化理論受限于非線性單元類型的問題，與其他方法相比，有較強(qiáng)的通用性且能求得解析解，從而提升卷積神經(jīng)網(wǎng)絡(luò)模型的自適應(yīng)能力和泛化能力，進(jìn)而更多地獲取醫(yī)學(xué)圖像特征信息。

（3）為了改善單個(gè)卷積神經(jīng)網(wǎng)絡(luò)無法完整獲取醫(yī)學(xué)圖像的復(fù)雜特征信息，本文通過構(gòu)建不同的網(wǎng)絡(luò)結(jié)構(gòu)對同一個(gè)醫(yī)學(xué)圖像的特征進(jìn)行有差異化的學(xué)習(xí)，從而提高整個(gè)網(wǎng)絡(luò)的泛化性能。同時(shí)，針對多層網(wǎng)絡(luò)的融合，提出了一種滑動窗口融合機(jī)制，實(shí)現(xiàn)對多層網(wǎng)絡(luò)的分類結(jié)果進(jìn)行靈活的選擇，優(yōu)化多層卷積神經(jīng)網(wǎng)絡(luò)的融合過程，提高醫(yī)學(xué)圖像分類精度。

（4）將步驟（2）的方法引入到步驟（3）當(dāng)中，進(jìn)而通過步驟（1）～（3）建立基于權(quán)重初始化-多層卷積神經(jīng)網(wǎng)絡(luò)滑動窗口融合的醫(yī)學(xué)分類算法，利用該醫(yī)學(xué)圖像分類算法對相關(guān)實(shí)例進(jìn)行分析，得到分類結(jié)果。

4 實(shí)例分析

4.1 乳腺腫塊分類實(shí)驗(yàn)

本實(shí)驗(yàn)所用乳腺腫塊圖像數(shù)據(jù)集是由南佛羅里達(dá)大學(xué)發(fā)布的乳腺鉬靶X光圖像數(shù)據(jù)集DDSM（digital database for screening mammography）。該數(shù)據(jù)集包含了乳腺腫塊良惡性的類別標(biāo)簽和像素級別精度的病變區(qū)域標(biāo)注信息。具體實(shí)驗(yàn)數(shù)據(jù)設(shè)置如下：數(shù)據(jù)集中的600 幅圖像（分別有300 幅良性腫塊圖像和300 幅惡性腫塊圖像）分別按照60%、40%的比例將乳腺腫塊數(shù)據(jù)劃分為訓(xùn)練集和測試集。每個(gè)集合中的良性腫塊和惡性腫塊的數(shù)目相同。

為了驗(yàn)證本文方法的有效性，本文選擇多次隨機(jī)劃分?jǐn)?shù)據(jù)集的平均分類準(zhǔn)確率（100 次隨機(jī)劃分的平均結(jié)果）作為實(shí)際測試結(jié)果，并與主流方法（其中文獻(xiàn)[48]是機(jī)器學(xué)習(xí)分類方法，文獻(xiàn)[49-50]均為優(yōu)化CNN 方法）進(jìn)行對比。具體測試結(jié)果如表2 所示。

表2 不同方法分類精度對比Table 2 Comparison of classification accuracy of different methods

表2 給出了不同分類方法的乳腺腫塊良惡性分類結(jié)果，通過表2 可知，本文所提的基于權(quán)重初始化-滑動窗口融合卷積神經(jīng)網(wǎng)絡(luò)的醫(yī)學(xué)圖像分類方法獲得了較好的效果。本文方法比文獻(xiàn)[48]分類精度高2.8 個(gè)百分點(diǎn)，說明本文方法較傳統(tǒng)的機(jī)器學(xué)習(xí)方法具有明顯的優(yōu)勢。本文方法比傳統(tǒng)CNN 精度高1.7個(gè)百分點(diǎn)，這說明本文方法較傳統(tǒng)CNN 方法具有一定的優(yōu)勢。本文方法得到的分類精度比文獻(xiàn)[49-50]方法分別高1.5 個(gè)百分點(diǎn)和1.1 個(gè)百分點(diǎn)，這也從側(cè)面驗(yàn)證了本文所提的卷積神經(jīng)網(wǎng)絡(luò)方法要優(yōu)于其他主要優(yōu)化卷積神經(jīng)網(wǎng)絡(luò)方法。為了更好地說明本文方法為何優(yōu)于其他卷積神經(jīng)網(wǎng)絡(luò)方法，下面就本文方法的理論及實(shí)際計(jì)算思路進(jìn)行解釋和說明。

本文方法對乳腺腫塊圖像進(jìn)行可視化處理，得到的原始乳腺腫塊圖像灰度特征、CNN 特征表示層獲得的腫塊特征和特征變換后的CNN 特征進(jìn)行了特征向量可視化分布，結(jié)果如圖4 所示。圖中，（a）～（c）分別代表腫塊圖像原始灰度特征、CNN 特征表示網(wǎng)絡(luò)層的特征向量和經(jīng)過本文方法處理后的網(wǎng)絡(luò)層特征的可視化結(jié)果。每幅圖中，黃色和藍(lán)色的點(diǎn)分別代表良性腫塊圖像樣本和惡性腫塊圖像樣本。通過比較圖中的不同層特征分布的可視化結(jié)果，可以知道，本文采用的CNN 特征和經(jīng)過多層滑動轉(zhuǎn)換后的特征大幅提升原始良惡性乳腺腫塊圖像間的區(qū)分性。此外，對比網(wǎng)絡(luò)層代表的未經(jīng)過大間隔度量學(xué)習(xí)層轉(zhuǎn)換的CNN 特征表示，可以發(fā)現(xiàn)大間隔度量學(xué)習(xí)層能將原始乳腺腫塊圖像CNN 特征轉(zhuǎn)換到類內(nèi)分布更緊湊、類間分布更離散的新特征空間，使得不同類別腫塊在特征空間中的可區(qū)分性更強(qiáng)，保證具有該特性的腫塊圖像特征分布更有利于分類準(zhǔn)確率的提升。

圖4 乳腺腫塊特征可視化分布Fig.4 Visualized distribution of breast mass features

4.2 腦腫瘤組織分類實(shí)驗(yàn)

本實(shí)驗(yàn)數(shù)據(jù)源自北京大學(xué)第三醫(yī)院，它包含12名腦腫瘤患者的腦部MRI 橫斷面圖像。所有圖像都進(jìn)行格式、降噪等預(yù)處理，再由神經(jīng)外科和影像科醫(yī)生生動描繪出腦腫瘤真值區(qū)域，將其作為訓(xùn)練樣本標(biāo)簽及對比實(shí)驗(yàn)參照標(biāo)準(zhǔn)。同時(shí)，由于卷積神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練需要大量樣本，為了擴(kuò)大訓(xùn)練樣本數(shù)量和測試本文方法對不同腦腫瘤圖像進(jìn)行分類的結(jié)果，實(shí)驗(yàn)中通過留一法進(jìn)行十折交叉驗(yàn)證。對于所測試的12 幅腦腫瘤MRI 圖，每次選取11 幅圖像進(jìn)行訓(xùn)練，另外1 幅圖像作為測試集，每次實(shí)驗(yàn)中收集的訓(xùn)練樣本和測試樣本數(shù)目如表3 所示。

表3 每次實(shí)驗(yàn)樣本情況Table 3 Sample situation for each experiment

實(shí)驗(yàn)中，首先對本文提出的基于權(quán)重初始化-滑動窗口融合卷積神經(jīng)網(wǎng)絡(luò)的腦腫瘤組織分類方法進(jìn)行測試。為了驗(yàn)證本文方法的有效性，將本文方法與傳統(tǒng)機(jī)器學(xué)習(xí)方法、其他深度學(xué)習(xí)方法進(jìn)行比較。所有的實(shí)驗(yàn)數(shù)據(jù)及實(shí)驗(yàn)環(huán)境均保持一致，相關(guān)參數(shù)設(shè)置均通過尋優(yōu)法獲得，腦腫瘤組織分類結(jié)果的準(zhǔn)確率如表4 所示。

表4 腦腫瘤組織分類結(jié)果對比Table 4 Comparison of classification results of brain tumor tissues %

通過表4 可知，傳統(tǒng)的機(jī)器學(xué)習(xí)方法SVM 準(zhǔn)確率僅為88.19%，這是因?yàn)镾VM 屬于小樣本訓(xùn)練、測試方法，相對大樣本來說，它的效果不如深度學(xué)習(xí)方法。傳統(tǒng)的CNN 方法平均分類準(zhǔn)確率為91.12%，較SVM 方法提升了將近3 個(gè)百分點(diǎn)，這也充分說明了深度學(xué)習(xí)方法較傳統(tǒng)機(jī)器學(xué)習(xí)方法具有較大的優(yōu)勢。文獻(xiàn)[51]提出的優(yōu)化CNN 方法的平均分類準(zhǔn)確率為93.67%，它不僅遠(yuǎn)高于傳統(tǒng)SVM 方法，也高于傳統(tǒng)CNN 方法。這是因?yàn)樵摲椒ㄔ谝欢ǔ潭壬弦种屏司矸e神經(jīng)網(wǎng)絡(luò)存在的過擬合問題，故取得了較好分類效果。本文方法得到的平均分類準(zhǔn)確率達(dá)到95.71%，在12 例腦腫瘤患者M(jìn)RI 樣本的圖像塊分類任務(wù)中，都取得最高的準(zhǔn)確率，尤其是在分類難度較高的2 號樣本、11 號樣本和12 號樣本中體現(xiàn)了較為突出的優(yōu)勢，它充分驗(yàn)證了本文方法在大幅度提升分類準(zhǔn)確率的同時(shí)，也具有良好的穩(wěn)定性和魯棒性。這是因?yàn)楸疚姆椒軌蜉^好地解決卷積神經(jīng)網(wǎng)絡(luò)存在的權(quán)重初始化和過擬合等問題，所以該模型結(jié)構(gòu)能夠充分發(fā)揮深度學(xué)習(xí)方法的優(yōu)勢，故分類效果最高。此外，這四類方法在運(yùn)算速度上，本文方法較其他深度學(xué)習(xí)方法更優(yōu)，與其他機(jī)器學(xué)習(xí)方法處于一個(gè)計(jì)算量級上。也就是說本文方法較其他深度學(xué)習(xí)方法的復(fù)雜度要低，與其他機(jī)器學(xué)習(xí)方法復(fù)雜度差異不大。

4.3 醫(yī)學(xué)數(shù)據(jù)庫分類實(shí)驗(yàn)

為了進(jìn)一步驗(yàn)證本文所提算法對醫(yī)學(xué)圖像的分類效果，本節(jié)將對兩個(gè)公開的醫(yī)學(xué)數(shù)據(jù)庫（TCIA-CT數(shù)據(jù)庫和OASIS-MRI 數(shù)據(jù)庫）進(jìn)行分類測試，并與主流圖像分類算法進(jìn)行對比分析。

（1）數(shù)據(jù)庫介紹及測試過程說明

TCIA-CT 數(shù)據(jù)庫是美國國家癌癥研究院和華盛頓大學(xué)聯(lián)合建立的開源數(shù)據(jù)庫。按照文獻(xiàn)[54]中的設(shè)置，本文獲得與DICOM 圖像類型相同的TCIA-CT數(shù)據(jù)庫，它將用于本節(jié)的實(shí)驗(yàn)測試，部分圖片示例如圖5 所示。本文從數(shù)據(jù)庫中選擇604 張結(jié)腸影像圖片。而且，該TCIA-CT數(shù)據(jù)庫包含了8類結(jié)腸圖片，各自數(shù)量分別是52、45、52、86、120、98、74和85張。本文使用基于數(shù)據(jù)增強(qiáng)策略來完善該數(shù)據(jù)庫，獲得了988張圖像的訓(xùn)練數(shù)據(jù)集和218 張圖像的測試數(shù)據(jù)集。

圖5 TCIA-CT 數(shù)據(jù)庫部分示例圖片F(xiàn)ig.5 Some sample pictures of TCIA-CT database

OASIS-MRI 數(shù)據(jù)庫是被OASIS 機(jī)構(gòu)創(chuàng)立的核磁共振生物醫(yī)學(xué)圖像數(shù)據(jù)庫，該數(shù)據(jù)庫包含了416 位來自18 歲到96 歲的個(gè)體。為此，本文將其分為四個(gè)類別，每個(gè)類別分別包含了152、121、88 和68 張圖像，示例圖片如圖6 所示。這四個(gè)類別的圖像分類難度大，即使人眼觀察也存在困難，更何況使用計(jì)算機(jī)進(jìn)行此數(shù)據(jù)庫的分類。針對這個(gè)數(shù)據(jù)，本文根據(jù)相同的數(shù)據(jù)選擇和數(shù)據(jù)增強(qiáng)方法，構(gòu)成了498 張圖像的訓(xùn)練集和86 張圖像的測試集。

圖6 OASIS-MRI數(shù)據(jù)庫部分示例圖片F(xiàn)ig.6 Some sample pictures of OASIS-MRI database

（2）分類結(jié)果與分析

使用本文提出的分類算法與其他主流圖像分類算法分別對上述兩個(gè)醫(yī)學(xué)圖像數(shù)據(jù)庫進(jìn)行分析，再對分類結(jié)果進(jìn)行統(tǒng)計(jì)，統(tǒng)計(jì)結(jié)果如表5 所示。

表5 不同算法在醫(yī)學(xué)圖像數(shù)據(jù)庫的分類精度Table 5 Classification accuracy of different algorithms in medical image database %

通過表5 可知，本文提出的基于權(quán)重初始化-滑動窗口融合卷積神經(jīng)網(wǎng)絡(luò)的醫(yī)學(xué)圖像分類算法相比傳統(tǒng)分類算法、其他深度學(xué)習(xí)算法，分類精度具有較為明顯的優(yōu)勢。同時(shí)，本文方法在兩個(gè)醫(yī)學(xué)圖像數(shù)據(jù)庫中的表現(xiàn)都比較穩(wěn)定，分類結(jié)果也很準(zhǔn)確。具體來看，表中前三個(gè)傳統(tǒng)分類算法主要是將圖像特征提取和分類分開成兩個(gè)步驟，然后組合而成用于醫(yī)學(xué)圖像的分類。而后面三個(gè)對應(yīng)的深度學(xué)習(xí)算法可以將特征提取和分類過程統(tǒng)一到一個(gè)整體里面完成對應(yīng)測試。總體上來說，一體化的分類算法取得分類結(jié)果的魯棒性和精度都要高于組合式的傳統(tǒng)方法。這也是深度學(xué)習(xí)圖像分類算法整體高于傳統(tǒng)圖像分類方法的主要原因。

具體地，對于TCIA-CT 數(shù)據(jù)庫中的表現(xiàn)，只有本文算法獲得了最好的分類結(jié)果。而其他特征對應(yīng)的三個(gè)算法的分類精度明顯較低。而另外兩個(gè)對比的深度模型DeepNet1 和DeepNet3 對應(yīng)方法的結(jié)果還比較滿意，雖然不能取得100%的分類結(jié)果，但是相比傳統(tǒng)方法具有較大優(yōu)勢。對于最難分類的OASISMRI 數(shù)據(jù)庫，可以發(fā)現(xiàn)所有的深度模型算法的效果明顯好于傳統(tǒng)類型的算法，這就表明了自動學(xué)習(xí)深度特征應(yīng)用于醫(yī)學(xué)圖像分類任務(wù)上的精度高于人工設(shè)計(jì)的圖像特征。之前在TCIA-CT 數(shù)據(jù)庫分類中表現(xiàn)不錯(cuò)的HOG+KNN、HOG+SVM 和LBP+SVM 算法，在OASIS-MRI 數(shù)據(jù)庫分類中得到的分類結(jié)果較差，尤其是LBP+SVM算法，只有57.5%的分類準(zhǔn)確率。

總之，傳統(tǒng)分類算法在醫(yī)學(xué)圖像分類任務(wù)中存在分類精度不高和穩(wěn)定性差的缺點(diǎn)，說明這種組合式的傳統(tǒng)分類方法對于生物醫(yī)學(xué)圖像分類而言效果不好，即使包含了出色人工設(shè)計(jì)特征描述子和流行的機(jī)器學(xué)習(xí)分類器。而且，深度分類算法在其中三個(gè)醫(yī)學(xué)圖像數(shù)據(jù)庫（這三個(gè)醫(yī)學(xué)圖像數(shù)據(jù)庫是醫(yī)學(xué)不同方向的成像圖像，也就是說這三個(gè)醫(yī)學(xué)圖像數(shù)據(jù)庫代表不同類型的醫(yī)學(xué)圖像，所蘊(yùn)含的醫(yī)學(xué)圖像特征信息存在較大的差異性）中的分類精度明顯地優(yōu)于傳統(tǒng)分類算法，這也從側(cè)面證明了深度學(xué)習(xí)模型所具有的優(yōu)勢。此外，本文提出的基于權(quán)重初始化-滑動窗口融合卷積神經(jīng)網(wǎng)絡(luò)的醫(yī)學(xué)圖像分類算法，相比其他提出的深度分類算法DeepNet1 和DeepNet3，可以得到最好的分類表現(xiàn)。這是因?yàn)楸疚奶岢龅纳疃葘W(xué)習(xí)模型不但解決了模型權(quán)重初始化問題，而且還解決了深度學(xué)習(xí)模型中多層關(guān)聯(lián)的問題。

5 結(jié)論

本文從網(wǎng)絡(luò)優(yōu)化角度出發(fā)，通過優(yōu)化方法提高網(wǎng)絡(luò)的非線性建模能力，并通過改善吸引域提高收斂后的解的泛化性能，進(jìn)而提出了一種新的網(wǎng)絡(luò)權(quán)重初始化方法，緩解了現(xiàn)有深度學(xué)習(xí)的初始化理論受限于非線性單元類型的問題，使得深層網(wǎng)絡(luò)的結(jié)構(gòu)設(shè)計(jì)可以有更多的選擇，增加了神經(jīng)網(wǎng)絡(luò)處理不同視覺任務(wù)的潛力。同時(shí)，為了充分利用醫(yī)學(xué)圖像的特性，本文對多列卷積神經(jīng)網(wǎng)絡(luò)的框架進(jìn)行深入研究。首先，通過改變卷積神經(jīng)網(wǎng)絡(luò)不同層次的特征圖數(shù)量和卷積核的大小，構(gòu)造了不同結(jié)構(gòu)的卷積神經(jīng)網(wǎng)絡(luò)模型，以更好地適應(yīng)待處理醫(yī)學(xué)圖像的醫(yī)學(xué)特性；然后，不同的卷積神經(jīng)網(wǎng)絡(luò)模型分別在同一個(gè)數(shù)據(jù)集上進(jìn)行訓(xùn)練；最后，訓(xùn)練得到的異構(gòu)多列卷積神經(jīng)網(wǎng)絡(luò)再通過本文提出的一種自適應(yīng)的滑動窗口融合機(jī)制，共同完成醫(yī)學(xué)圖像的分類任務(wù)，實(shí)現(xiàn)醫(yī)學(xué)圖像的自適應(yīng)、高精度分類。基于上述思想，本文提出了一種基于權(quán)重初始化-多層卷積神經(jīng)網(wǎng)絡(luò)滑動窗口融合的醫(yī)學(xué)分類算法。

乳腺腫塊分類實(shí)驗(yàn)結(jié)果表明，本文方法的分類精度最高，達(dá)到98.2%，這是因?yàn)椴捎玫腃NN 特征和經(jīng)過多層滑動轉(zhuǎn)換后的特征大幅提升了原始良惡性乳腺腫塊圖像間的區(qū)分性，使得不同類別腫塊在特征空間中的可區(qū)分性更強(qiáng)，保證具有該特性的腫塊圖像特征分布更有利于分類準(zhǔn)確率的提升。

腦腫瘤組織分類實(shí)驗(yàn)結(jié)果表明，本文方法得到的平均分類準(zhǔn)確率最高，達(dá)到95.71%，在12 例腦腫瘤患者M(jìn)RI 樣本的圖像塊分類任務(wù)中，對分類難度較高的2 號樣本、11 號樣本和12 號樣本體現(xiàn)了較為突出的優(yōu)勢，充分驗(yàn)證了本文方法在大幅度提升分類準(zhǔn)確率的同時(shí)，也具有良好的穩(wěn)定性和魯棒性。

醫(yī)學(xué)數(shù)據(jù)庫分類實(shí)驗(yàn)結(jié)果表明，對于TCIA-CT數(shù)據(jù)庫和最難分類的OASIS-MRI 數(shù)據(jù)庫，本文提出的分類算法都獲得了最好分類結(jié)果。它優(yōu)于傳統(tǒng)機(jī)器學(xué)習(xí)算法，深度學(xué)習(xí)模型能夠更好地獲得醫(yī)學(xué)圖像特征信息，為后續(xù)分類奠定基礎(chǔ)。它優(yōu)于其他主流深度學(xué)習(xí)算法，這是因?yàn)楸疚奶岢龅纳疃葘W(xué)習(xí)模型不但解決了模型權(quán)重初始化問題，而且還解決了深度學(xué)習(xí)模型中多層關(guān)聯(lián)的問題。