基于卷積神經(jīng)網(wǎng)絡(luò)的魚類圖像識(shí)別與分類

林明旺

當(dāng)前非法、無序的漁業(yè)捕撈嚴(yán)重威脅海洋生態(tài)環(huán)境和全球的海產(chǎn)品的可持續(xù)供應(yīng)。有關(guān)部門和組織已經(jīng)開始探索利用攝像頭大規(guī)模監(jiān)控漁船的捕撈活動(dòng)。為了準(zhǔn)確高效的對(duì)采集的圖像數(shù)據(jù)進(jìn)行魚類的識(shí)別與分類， 利用計(jì)算機(jī)視覺技術(shù)，設(shè)計(jì)了一種基于卷積神經(jīng)網(wǎng)絡(luò)的魚類圖像識(shí)別與分類系統(tǒng)。針對(duì)復(fù)雜神經(jīng)網(wǎng)絡(luò)過擬合嚴(yán)重的問題，運(yùn)用了一系列有效降低過擬合的方法來優(yōu)化神經(jīng)網(wǎng)絡(luò)模型，其中包括了數(shù)據(jù)集擴(kuò)增方法，dropout方法， batch normalization方法。利用該模型對(duì)8種魚類進(jìn)行了識(shí)別分類，結(jié)果顯示準(zhǔn)確率達(dá)到了96.24%，從而可以準(zhǔn)確快速的進(jìn)行魚類的分類。

【關(guān)鍵詞】卷積神經(jīng)網(wǎng)絡(luò) 反向傳播算法 仿射變換 dropout batch normalization

1 引言

當(dāng)前非法，無管理的漁業(yè)捕撈嚴(yán)重威脅海洋生態(tài)環(huán)境和全球的海產(chǎn)品的可持續(xù)供應(yīng)，有關(guān)部門和組織已經(jīng)開始探索利用攝像頭大規(guī)模監(jiān)控漁船的捕撈活動(dòng)。但是目前需要人工對(duì)采集的視頻圖像數(shù)據(jù)進(jìn)行魚類的的識(shí)別與分類，采集的數(shù)據(jù)體量龐大，人工處理耗時(shí)，昂貴。所以急需利用計(jì)算機(jī)自動(dòng)的對(duì)圖像數(shù)據(jù)進(jìn)行分類。

目前機(jī)器學(xué)習(xí)的一些方法在魚類圖像分類上取得了比較突出的效果。吳一全等[1]采用了手動(dòng)選擇特征的方法， 基于支持向量機(jī)對(duì)5 種魚進(jìn)行識(shí)別，各類魚的識(shí)別精度均為83.33%。Hu 等[2]在HSV顏色空間利用小波濾波器提取魚的紋理特征，并進(jìn)行了SVM分類識(shí)別。萬鵬等[3]計(jì)算魚的長軸方向各段的平均寬度與長度的比值并將其作為特征參數(shù)，利用3層BP（back propagation）神經(jīng)網(wǎng)絡(luò)對(duì)鯽魚和鯉魚進(jìn)行識(shí)別，識(shí)別精度為92.50%。但是這些方法首先都是在嚴(yán)格拍攝控制下產(chǎn)生的圖片上衍生的方法，魚類圖片幾乎沒背景干擾， 方法的魯棒性較差。其次，這些方法都是基于手動(dòng)選擇特征的機(jī)器學(xué)習(xí)方法，手動(dòng)選擇特征的方法不僅效率低下，還會(huì)導(dǎo)致遺漏重要的特征， 導(dǎo)致分類準(zhǔn)確率低。目前隨著計(jì)算機(jī)性能的大幅提升，深度學(xué)習(xí)在圖像分類領(lǐng)域展現(xiàn)出了出眾的性能。其中代表性的就有卷積神經(jīng)網(wǎng)絡(luò)（CNN）。卷積神經(jīng)網(wǎng)絡(luò)重要的特征就是能在訓(xùn)練過程中自動(dòng)學(xué)到“好”特征，避免了手動(dòng)選擇特征的一些問題，而且CNN每一層神經(jīng)元共用一組連接權(quán)重，從而大大降低了參數(shù)訓(xùn)練的開銷。

基于上述分析，本文從神經(jīng)網(wǎng)絡(luò)模型出發(fā)，構(gòu)造了泛化能力強(qiáng)的卷積神經(jīng)網(wǎng)絡(luò)模型，然后針對(duì)卷積神經(jīng)網(wǎng)絡(luò)容易過擬合的問題，運(yùn)用了一系列降低過擬合的方法來優(yōu)化CNN模型。實(shí)驗(yàn)結(jié)果顯示此模型具有很高的識(shí)別精度和魯棒性，能在背景干擾很強(qiáng)的圖片數(shù)據(jù)集上準(zhǔn)確的完成魚類的識(shí)別和分類。

2 卷積神經(jīng)網(wǎng)絡(luò)（CNN）

2.1 CNN如何進(jìn)行圖片分類

整個(gè)CNN模型主要由輸入層、多層卷積層、多層采樣層、多層連接層、輸出層組成。

卷積濾波器既是神經(jīng)網(wǎng)絡(luò)神經(jīng)元的權(quán)重，整個(gè)訓(xùn)練過程就是卷積濾波器權(quán)重以及全連接層權(quán)重的自動(dòng)學(xué)習(xí)過程。

直觀地說， 整個(gè)分類過程就是一張圖片的像素RGB值與卷積濾波器逐層作卷積來提取特征，低層濾波器首先提取圖片底層較簡單的特征表示例如邊緣、斜坡，隨著神經(jīng)網(wǎng)絡(luò)的前向進(jìn)行，高層濾波器逐漸提取進(jìn)一步的特征表示如拐角、輪廓，以此類推，直到能提取較復(fù)雜的特征如皮毛、花紋為止。最后通過相當(dāng)于線性分類器的全連接層處理就可以完成分類。

2.2 模型構(gòu)建

本次研究所用的神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)如圖1所示。

對(duì)自然圖像分類任務(wù)而言，低層的卷積濾波器存在通用性，如提取圓圈、橢圓、對(duì)角線特征的濾波器，提取圓圈橢圓等組合而成的圖形特征的濾波器等在自然圖像上都是通用的，所以重頭訓(xùn)練這些卷積濾波器對(duì)本次研究要解決的圖像分類任務(wù)沒有意義。本次研究采用了被廣泛使用在圖像分類任務(wù)中的VGG模型的卷積濾波器的權(quán)重 [4]，并在其模型上作微調(diào)來實(shí)現(xiàn)本次研究的目標(biāo)。

輸入層將不同尺寸的圖片轉(zhuǎn)換為244*244大小作為輸入。

匯合層（max pooling）的作用是基于局部相關(guān)性進(jìn)行亞采樣，在減少數(shù)據(jù)量的同時(shí)保留有用信息，并可減少對(duì)應(yīng)的參數(shù)個(gè)數(shù)，控制過擬合。

激活函數(shù)采用RELU，即f（x）=max（0，x）。最后一層全連接層需要把計(jì)算出的對(duì)應(yīng)于各個(gè)分類的分?jǐn)?shù)轉(zhuǎn)換成總和為1的對(duì)應(yīng)于各個(gè)分類的概率數(shù)值，所以激活函數(shù)采用Softmax，即f（x）=exp（x）/sum（exp（x）。

全連接層的權(quán)重采用反向傳播算法（back propagation）訓(xùn)練，參數(shù)尋優(yōu)采用隨機(jī)梯度下降方法。然而隨機(jī)梯度下降方法的學(xué)習(xí)率為手動(dòng)設(shè)定的常量，這會(huì)帶來一些問題。學(xué)習(xí)率設(shè)定太低的話會(huì)導(dǎo)致參數(shù)優(yōu)化速率很慢，無法在合理的時(shí)間里完成訓(xùn)練。學(xué)習(xí)率設(shè)定太高的話又會(huì)導(dǎo)致參數(shù)的振蕩，甚至無法收斂。在優(yōu)化過程中也可能陷入局部極小值點(diǎn)或是鞍點(diǎn)。臨時(shí)的辦法是在訓(xùn)練過程中手動(dòng)調(diào)整學(xué)習(xí)率， 但是這種做法遺漏了學(xué)習(xí)過程中產(chǎn)生的一些有用信息。最好的方法是根據(jù)損失函數(shù)最優(yōu)訓(xùn)練中產(chǎn)生的信息自動(dòng)動(dòng)態(tài)調(diào)整學(xué)習(xí)率的大小。目前主流的動(dòng)態(tài)學(xué)習(xí)率設(shè)定方法主要有3種，分別為Adagrad，RMSProp，Adam，Eve。本次研究采用了Adam方法。

神經(jīng)網(wǎng)絡(luò)模型具體的數(shù)據(jù)結(jié)構(gòu)及算法基于python語言和theano平臺(tái)編程實(shí)現(xiàn)。

3 實(shí)驗(yàn)數(shù)據(jù)及性能評(píng)估方法

實(shí)驗(yàn)數(shù)據(jù)來源于有關(guān)組織舉辦的圖像分類競賽，數(shù)據(jù)可用作科研用途。數(shù)據(jù)采集方式是通過固定在漁船某個(gè)位置的攝像頭采集甲板上魚類的照片，共采集到3777張共8個(gè)分類的照片作為訓(xùn)練樣本，為長鰭金槍魚、大眼金槍魚、黃鰭金槍魚、鲯鰍魚、月魚、鯊魚、其他（表示照片中的魚為除了這6個(gè)種類的魚以外的魚類）、無魚類（表示照片中沒有魚）。按8：1：1比例從原始數(shù)據(jù)集做分層采樣， 其中2984張用做訓(xùn)練集， 394張用作驗(yàn)證集，399張用作測試集。

本次研究采用多類對(duì)數(shù)損失函數(shù)作為性能評(píng)估的方法。評(píng)估公式如下：

其中，N是測試集圖片的數(shù)量，M為圖片類的類數(shù)，當(dāng)i屬于類j時(shí)，yij = 1，否則yij = 0。pij為當(dāng)i屬于類j時(shí)預(yù)測的可能性值。在多分類問題上， 比起用識(shí)別精度來衡量，多類對(duì)數(shù)損失函數(shù)能更精細(xì)的衡量一個(gè)方法的性能高低，尤其是在識(shí)別精度相差一樣的情況下。為了避免log函數(shù)的極端情況，預(yù)測的可能性值會(huì)被max（min（p，1-10-15），10-15）替代。

4 降低過擬合的方法

卷積神經(jīng)網(wǎng)絡(luò)由于模型復(fù)雜，參數(shù)眾多，訓(xùn)練時(shí)間過長以及過擬合一直是兩大主要問題[5]。這一部分針對(duì)具體的魚類分類問題運(yùn)用了一系列降低過擬合的方法優(yōu)化CNN模型，主要包括dropout方法[6]、數(shù)據(jù)集擴(kuò)增方法、Batch Normalization方法[7]。Batch Normalization方法還可有效降低訓(xùn)練的時(shí)間。

4.1 dropout方法

dropout方法是指在激活層之后插入一層dropout層，作用是以一定的比例將激活層的部分?jǐn)?shù)值置為0。這樣隨機(jī)的丟棄一些訓(xùn)練獲得的信息可以增強(qiáng)神經(jīng)網(wǎng)絡(luò)模型的泛化能力，降低過擬合。

驗(yàn)證結(jié)果顯示當(dāng)dropout 的比率等于0.5的時(shí)候， 訓(xùn)練集和驗(yàn)證集的識(shí)別精度相差最小。以0.5比率的dropout為基礎(chǔ)，再進(jìn)行下一步數(shù)據(jù)集擴(kuò)增的操作。

4.2 數(shù)據(jù)集擴(kuò)增

為了進(jìn)一步降低過擬合，提高圖像分類的準(zhǔn)確性，設(shè)想通過平移（Translation）、縮放（Scaling）、旋轉(zhuǎn)（Rotation）、錯(cuò)切（Shearing）等圖形的仿射變換在原始樣本圖片上做些改動(dòng)來產(chǎn)生更多樣的訓(xùn)練樣本圖片，如圖2所示。

由于CNN訓(xùn)練時(shí)間成本高昂， 所以驗(yàn)證哪些圖像變換有效的工作在小樣本集上完成。通過分層采樣，從原始訓(xùn)練集中各個(gè)分類中各抽取10%作為小樣本訓(xùn)練集，從原始驗(yàn)證集中各個(gè)分類中各抽取10%作為小樣本驗(yàn)證集。每種圖片變換各作3種變換幅度范圍，分別為0.1，0.5.1.5，每種變換幅度再以4種不同的初始權(quán)重作訓(xùn)練， 用early stopping方法來確定停止訓(xùn)練的時(shí)機(jī)（當(dāng)訓(xùn)練集的logloss值繼續(xù)下降， 而驗(yàn)證集的logloss值不再下降）。用未經(jīng)變換的原始訓(xùn)練集作為性能對(duì)照。

驗(yàn)證結(jié)果顯示當(dāng)錯(cuò)切幅度范圍為0.15時(shí)，驗(yàn)證集的logloss值 在4種不同的初始權(quán)重作訓(xùn)練下平均值為 0.98915， 顯著小于原始訓(xùn)練集的1.023275。其他類型的圖片變換均大于1.023275。所以采用0.15的錯(cuò)切幅度產(chǎn)生更多樣的訓(xùn)練圖片來降低過擬合。

4.3 Batch Normalization方法

在卷積神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練過程中，某層神經(jīng)元的某個(gè)權(quán)重的值可能會(huì)變得特別大。這個(gè)特別大的權(quán)重值會(huì)產(chǎn)生特別大的輸出值并當(dāng)做輸入傳遞給下一層，然后隨著神經(jīng)網(wǎng)絡(luò)一層層的前向進(jìn)行，造成整個(gè)網(wǎng)絡(luò)模型的不穩(wěn)定。所以需要規(guī)范化CNN激活層的輸出值。

規(guī)范化CNN激活層的輸出值的方法第一步是在每層激活層之后加上一層規(guī)范化層，具體操作是將激活層的每個(gè)輸出值先減去這一層激活層所有輸出值的平均值，再除以這一層激活層的標(biāo)準(zhǔn)差。之后，再乘以一個(gè)任意初始值的參數(shù)，并加上一個(gè)額外的任意初始值的參數(shù)。第二步是將上述的這4個(gè)參數(shù)設(shè)為可訓(xùn)練。

5 實(shí)驗(yàn)結(jié)果

經(jīng)過上述方法優(yōu)化的CNN模型在擴(kuò)增過的訓(xùn)練集上僅訓(xùn)練13輪之后， 在驗(yàn)證集上的識(shí)別精度達(dá)到了96.95%，在測試集上精度達(dá)到了96.24%， 在測試集上的logloss值僅為1.08832。目前在魚類分類方面，識(shí)別精度較高的為吳一全等提出的基于SVM的方法[1]，在5種魚類分類上取得了91.67%的識(shí)別結(jié)果和萬鵬等提出的基于3層BP神經(jīng)網(wǎng)絡(luò)的方法[3]，在4種魚類分類上取得了92.50%的識(shí)別結(jié)果。相比之下，本次工作在魚類分類更多、圖像背景干擾更大的情況下，仍然取得了更優(yōu)異的識(shí)別性能。

6 結(jié)語

本文構(gòu)建了一個(gè)基于VGG16的有較強(qiáng)泛化能力的卷積網(wǎng)絡(luò)模型，并用dropout方法和batch normalization 方法優(yōu)化了模型，降低了過擬合；用數(shù)據(jù)集擴(kuò)增的方法增強(qiáng)了原始數(shù)據(jù)集。實(shí)驗(yàn)結(jié)果顯示此模型具有很高的識(shí)別精度，達(dá)到了預(yù)期目標(biāo)。

參考文獻(xiàn)

[1]吳一全，殷駿，戴一冕等.基于蜂群優(yōu)化多核支持向量機(jī)的淡水魚種類識(shí)別[J]. 農(nóng)業(yè)工程學(xué)報(bào)，2014（16）：312-319.

[2]Hu Jing，Li Daoliang，Duan Qingling， et al.Fish species classification by color，texture and multi-class support vector machine using computer vision[J].Computers and Electronics in Agriculture，2012，88（s）：133-140.

[3]萬鵬，潘海兵，龍長江等.基于機(jī)器視覺技術(shù)淡水魚 品種在線識(shí)別裝置設(shè)計(jì)[J].食品與機(jī)械，2012，28（06）：164-167.

[4]Simonyan，K.and Zisserman，A.Very deep convolutional networks for large-scale image recognition[J].arXiv preprint arXiv，2014：1409.1556.

[5]周志華.機(jī)器學(xué)習(xí)[M].北京：清華大學(xué)出版社，2015.

[6]Krizhevsky，A.，Sutskever，I.and Hinton， G.E.Imagenet classification with deep convolutional neural networks[C].In Advances in neural information processing.

[7]Ioffe，Sergey，and Christian Szegedy. Batch normalization：Accelerating deep network training by reducing internal covariate shift[J].arXiv， 2015：1502.03167.

作者單位

湖南科技大學(xué)信息與電氣工程學(xué)院 湖南省湘潭市 411201