基于Xception和遷移學(xué)習(xí)的圖像分類研究

謝生鋒

（河南工學(xué)院計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院，新鄉(xiāng) 453003）

0 引言

遷移學(xué)習(xí)是一種機(jī)器學(xué)習(xí)方法，它是將已經(jīng)學(xué)習(xí)過的知識(shí)遷移應(yīng)用于新的問題中，用于提高解決新問題的速度和能力。卷積神經(jīng)網(wǎng)絡(luò)CNN使用卷積運(yùn)算提取圖像的特征，從而實(shí)現(xiàn)對(duì)圖像的分類和識(shí)別，在CNN 的發(fā)展過程中出現(xiàn)了許多經(jīng)典的網(wǎng)絡(luò)模型，如AlexNet、GoogLeNet、VGGNet、ResNet 和Xception 等［1］。這些網(wǎng)絡(luò)模型是在包含超過1400萬張有標(biāo)記圖片的ImageNet數(shù)據(jù)集訓(xùn)練出來的，所以當(dāng)需要訓(xùn)練一個(gè)新的圖像分類任務(wù)時(shí)，使用這些網(wǎng)絡(luò)模型作為預(yù)訓(xùn)練模型，然后在訓(xùn)練好的卷積基的基礎(chǔ)上建立分類器。

1 Xception網(wǎng)絡(luò)模型

Xception 是Google 繼Inception 后提出的InceptionV3 的一種改進(jìn)模型，主要采用深度可分離卷積替代InceptionV3 中的卷積操作，將通道維度和空間維度的處理分開，達(dá)到解耦的效果。Xception 模型先用1 × 1 卷積處理通道維度之間的信息，再用3 × 3 卷積處理每一個(gè)通道維度內(nèi)的空間維度信息。Xception 網(wǎng)絡(luò)結(jié)構(gòu)是由36 個(gè)卷積層組成網(wǎng)絡(luò)的特征提取基礎(chǔ)，這些卷積層被分成14個(gè)模塊，除了首尾模塊，其余模塊用線性殘差連接［2］，其網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

基于上述Xception 網(wǎng)絡(luò)模型的特點(diǎn)，其在ImageNet 數(shù)據(jù)集上訓(xùn)練的準(zhǔn)確率有明顯提高，參數(shù)量有所下降，同時(shí)引入了殘差連接機(jī)制也加快了Xception 的收斂過程。本文采用Xception網(wǎng)絡(luò)模型作為預(yù)訓(xùn)練模型，對(duì)貓狗圖像進(jìn)行分類識(shí)別。

2 實(shí)驗(yàn)數(shù)據(jù)

2.1 數(shù)據(jù)集

數(shù)據(jù)來源于Kaggle競(jìng)賽平臺(tái)上的dogs-vs-cats數(shù)據(jù)集，該數(shù)據(jù)集由標(biāo)記為cat 和dog 的25000張圖片和未標(biāo)記的圖片組成，其中有標(biāo)記的貓和狗的圖片各占12500張。本文從有標(biāo)記的圖片中隨機(jī)抽取5000 張圖片來構(gòu)建數(shù)據(jù)集，將數(shù)據(jù)集劃分為訓(xùn)練集、驗(yàn)證集和測(cè)試集三部分，圖片數(shù)量分別是3000張、1000張和1000張，并且每一個(gè)數(shù)據(jù)集中的貓和狗的圖片數(shù)量相等。劃分后的訓(xùn)練集中的圖片如圖2所示。

圖1 Xception模型結(jié)構(gòu)圖

圖2 訓(xùn)練集圖片

2.2 數(shù)據(jù)處理

由于Xception 模型要求的圖片大小是229像素×229像素，包含的三個(gè)通道分別是R、G、B。所以先把三個(gè)數(shù)據(jù)集中的圖片維度處理為（229，229，3），使用Keras 框架中的圖片生成器ImageDataGenerator 對(duì)訓(xùn)練集中的圖片做數(shù)據(jù)增強(qiáng)，它是對(duì)圖片進(jìn)行旋轉(zhuǎn)、平移、縮放、反轉(zhuǎn)、剪切和歸一化等操作，歸一化是把像素值縮小到（0，1）范圍內(nèi)［3］。通過數(shù)據(jù)增強(qiáng)可以擴(kuò)充數(shù)據(jù)集大小，增強(qiáng)模型的泛化能力，而對(duì)驗(yàn)證集和測(cè)試集中的圖片只做歸一化處理，訓(xùn)練集和驗(yàn)證集每個(gè)批次生成圖片的數(shù)量分別設(shè)置成30 和20，同時(shí)把文本類標(biāo)簽cat 和dog 編碼為數(shù)值，分別是0和1。

3 構(gòu)建模型

采用Xception 模型作為預(yù)訓(xùn)練模型，首先刪除Xception 模型的最后一個(gè)模塊，即刪除Dense 層和GlobalAveragePooling 兩層，同時(shí)對(duì)Xception 模型進(jìn)行微調(diào)，解凍block14 模塊，包括兩個(gè)SeparableConv2D 層、兩個(gè)BatchNormalization 層，兩個(gè)Activation 層，使這六層變?yōu)榭捎?xùn)練狀態(tài)，它們的權(quán)重在訓(xùn)練模型的每個(gè)周期中被更新［4］，block14模塊的結(jié)構(gòu)如圖3所示。

圖3 block14模塊的結(jié)構(gòu)圖

在block14 模塊的基礎(chǔ)上構(gòu)建圖像分類器，使用GlobalAveragePooling2D 對(duì)圖像數(shù)據(jù)進(jìn)行扁平化處理，得到的一維數(shù)據(jù)作為Dense層的輸入數(shù)據(jù)，激活函數(shù)是ReLU；再使用Dropout層抑制過擬合；最后使用Dense 層進(jìn)行二分類，激活函數(shù)是Sigmoid。圖像分類器的結(jié)構(gòu)如圖4所示。

圖4 圖像分類器的結(jié)構(gòu)圖

4 實(shí)驗(yàn)結(jié)果分析

使用模型的fit_generator 函數(shù)在數(shù)據(jù)生成器上進(jìn)行訓(xùn)練，分批次讀取數(shù)據(jù)增強(qiáng)后的圖片數(shù)據(jù)，模型迭代訓(xùn)練50 次。設(shè)置訓(xùn)練集的一次訓(xùn)練包含的步數(shù)是100，每一步生成30個(gè)圖片數(shù)據(jù)參與訓(xùn)練，驗(yàn)證集的一次訓(xùn)練包含的步數(shù)是50，每一步生成20 個(gè)圖片數(shù)據(jù)參與訓(xùn)練。模型的損失函數(shù)和準(zhǔn)確率分別采用binary_crossentropy 和accuracy來評(píng)估［5］。

經(jīng)過訓(xùn)練后模型的準(zhǔn)確率如圖5所示，可以看出，驗(yàn)證集的準(zhǔn)確率為98.9%。模型的損失值如圖6所示，驗(yàn)證集的損失曲線是逐漸下降并趨于收斂。

圖5 模型準(zhǔn)確率變化曲線

圖6 模型損失變化曲線

訓(xùn)練后的模型以h5格式保存到硬盤中，并對(duì)測(cè)試集的1000張圖片進(jìn)行測(cè)試，調(diào)用evaluate（）函數(shù)輸出準(zhǔn)確率以對(duì)模型進(jìn)行評(píng)估，程序運(yùn)行結(jié)果表明，測(cè)試集上的準(zhǔn)確率達(dá)到99.2%，損失值是0.0219。最后調(diào)用roc_curve（）函數(shù)生成ROC 曲線，如圖7所示。從圖7看出，曲線下方的面積接近于1，表明模型的分類效果好。

圖7 ROC曲線圖

5 結(jié)語

本文使用遷移學(xué)習(xí)將Xception 模型作為預(yù)訓(xùn)練模型，并對(duì)其中的block14 模塊進(jìn)行微調(diào)，使其中的六層處于可訓(xùn)練狀態(tài)，在此基礎(chǔ)上構(gòu)建圖像分類器，把5000 張貓狗圖片分為訓(xùn)練集、驗(yàn)證集和測(cè)試集，通過訓(xùn)練集得到模型的權(quán)重，該模型在驗(yàn)證集和測(cè)試集上的準(zhǔn)確率分別達(dá)到了98.9%和99.2%，證明了該模型對(duì)貓狗圖片的分類效果好。