淺談基于卷積神經(jīng)網(wǎng)絡(luò)的手繪畫智能識別

馬藝菲

摘 要：本文規(guī)劃和設(shè)計(jì)了基于卷積神經(jīng)網(wǎng)絡(luò)、采用分布式架構(gòu)的手繪畫的識別系統(tǒng)，該系統(tǒng)通過深度學(xué)習(xí)，利用卷積神經(jīng)網(wǎng)絡(luò)自動提取手繪畫圖像的特征，并實(shí)現(xiàn)圖像特征提取過程可視化，最終實(shí)現(xiàn)手繪畫的智能識別。

關(guān)鍵詞：手繪畫識別；分布式系統(tǒng)；卷積神經(jīng)網(wǎng)絡(luò)；特征提取和分類

中圖分類號：TP391 文獻(xiàn)標(biāo)識碼：A 文章編號：1671-2064（2018）23-0041-02

1 引言

手繪畫與我們的現(xiàn)代生活密不可分，是人類最直觀且最原始的溝通工具，廣泛應(yīng)用于電子商務(wù)、電子政務(wù)、財(cái)政、建筑、家居軟裝設(shè)計(jì)、工業(yè)設(shè)計(jì)、美術(shù)等領(lǐng)域。近年來，隨著智能移動設(shè)備、可觸屏設(shè)備的普及，手繪畫可方便地從智能手機(jī)、平板電腦等移動設(shè)備上獲取， 這給手繪畫識別帶來更多的應(yīng)用場景。目前己有的手繪圖識別方法通常依賴于手工特征提取，但是由于手繪畫中線條的多變性、個(gè)人的主觀因素的不確定性等原因，使得人工提取特征變得十分困難， 導(dǎo)致了現(xiàn)有的手繪畫的識別率較低，且通用性較差。

在傳統(tǒng)的計(jì)算機(jī)手繪畫識別中，是將手繪畫以圖像的方式錄入計(jì)算機(jī)，建立手繪畫識別系統(tǒng)，根據(jù)手繪畫的幾何特征進(jìn)行識別。由于手繪畫千差萬別，所以提取其特征比較困難，而卷積神經(jīng)網(wǎng)絡(luò)可以自動提取特征，并且能夠迭代多次、反復(fù)訓(xùn)練，識別結(jié)果優(yōu)于傳統(tǒng)的提取特征的識別方法。

2 智能分布式手繪畫識別系統(tǒng)的關(guān)鍵技術(shù)

在智能分布式手繪畫識別系統(tǒng)中，采用分布式架構(gòu)，將手繪畫的信息采集、特征提取、智能識別和分類，以及結(jié)果輸出等識別任務(wù)分散到不同的計(jì)算機(jī)節(jié)點(diǎn)上運(yùn)行，各個(gè)識別任務(wù)協(xié)同完成手繪畫的智能識別，該系統(tǒng)涉及的主要關(guān)鍵技術(shù)包括分布計(jì)算技術(shù)和卷積神經(jīng)網(wǎng)絡(luò)。

2.1 卷積神經(jīng)網(wǎng)絡(luò)

所謂神經(jīng)網(wǎng)絡(luò)就是將許多個(gè)單一“神經(jīng)元”聯(lián)結(jié)在一起，一個(gè)“神經(jīng)元”的輸出是另一個(gè)“神經(jīng)元”的輸入。卷積神經(jīng)網(wǎng)絡(luò)是一種多層的神經(jīng)網(wǎng)絡(luò)，其網(wǎng)絡(luò)模型是一種特殊的深層次的神經(jīng)網(wǎng)絡(luò)模型，它的特殊性體現(xiàn)在兩個(gè)方面，一方面它的神經(jīng)元的鏈接是非全連接的。另一方面同一層次中某些權(quán)重是相同的、共享的。它的非全鏈接和權(quán)值共享的網(wǎng)絡(luò)結(jié)構(gòu)更類似生物的神經(jīng)網(wǎng)絡(luò)，從而降低了網(wǎng)絡(luò)模型的復(fù)雜度。卷積神經(jīng)網(wǎng)絡(luò)包含輸入層、隱藏層和輸出層，其中隱藏層包括卷積層、池化層、全連接層和分類層，以及輸出。卷積層，也可稱為特征提取層，包括卷積、激勵(lì)和池化，它通過利用不同的卷積來突出不同方面的特征以達(dá)到提取特征的效果。卷積是分析數(shù)學(xué)中的一種運(yùn)算，具體過程卷積核與上層整個(gè)特征圖卷積，得到這一層的一個(gè)特征圖，每一輸出的特征圖都與前一層的特征圖存在關(guān)聯(lián)性，代表了這個(gè)輸入圖像不同的特征。并利用圖像局部相關(guān)性的原理，對圖像進(jìn)行抽樣，達(dá)到減少數(shù)據(jù)處理量同時(shí)保留有用信息的效果。在卷積層后后是池化層，池化層由多個(gè)特征映射組成，每個(gè)特征映射是一個(gè)平面，平面上采用權(quán)值共享技術(shù)，通過激勵(lì)函數(shù)進(jìn)行運(yùn)算。全鏈接層用來將所有特征圖展開得到一維向量，然后把一維向量輸入到分類層進(jìn)行分類，最后由輸出層輸出結(jié)果。一般根據(jù)具體的應(yīng)用和問題確定需要多少卷積層和池化層，采用什么樣的分類器。

在智能手繪畫識別系統(tǒng)圖1和圖2中，采用Eits收集的250類手繪畫數(shù)據(jù)集并進(jìn)行反轉(zhuǎn)、旋轉(zhuǎn)等作為訓(xùn)練數(shù)據(jù)集，對每個(gè)卷積結(jié)果都進(jìn)行relu（x）=max（0，x）運(yùn)算，采用dropout優(yōu)化訓(xùn)練和分類，圖像特征提取分類可視化，從而提高手繪畫識別的速度和準(zhǔn)確率。

2.2 手繪畫識別與分布計(jì)算技術(shù)

分布計(jì)算是一種計(jì)算方法，簡單來說，是把一個(gè)大計(jì)算任務(wù)拆分成多個(gè)小計(jì)算任務(wù)分布到若干臺機(jī)器上去計(jì)算，使對計(jì)算、數(shù)據(jù)處理等分散到構(gòu)成整個(gè)系統(tǒng)的各個(gè)節(jié)點(diǎn)中，然后再進(jìn)行結(jié)果匯總。在分布式系統(tǒng)中的涉及的主要關(guān)鍵技術(shù)包括資源調(diào)度和負(fù)載均衡、信息共享和同步。在智能分布式手繪畫識別系統(tǒng)中，手繪畫的信息采集、圖像特征提取和分類以及智能識別的結(jié)果輸出分布在不同的計(jì)算節(jié)點(diǎn)，這些節(jié)點(diǎn)的計(jì)算任務(wù)由管理節(jié)點(diǎn)進(jìn)行任務(wù)調(diào)度和管理，通過共享文件系統(tǒng)和消息機(jī)制實(shí)現(xiàn)各節(jié)點(diǎn)計(jì)算任務(wù)的信息共享和交換。

3 智能分布式手繪畫識別系統(tǒng)的規(guī)劃和設(shè)計(jì)

智能分布式手繪畫的識別系統(tǒng)由數(shù)據(jù)采集器、管理服務(wù)器、工作服務(wù)器、存儲服務(wù)器、通訊服務(wù)器和輸出器組成。數(shù)據(jù)采集器實(shí)現(xiàn)被識別手繪畫信息采集處理。管理服務(wù)器完成對智能識別網(wǎng)絡(luò)集群的管理、參數(shù)更新以及配置管理等。工作服務(wù)器完成智能識別的特征提取和分類。工作服務(wù)器包括特征提取器、分類器。特征提取器基于卷積的神經(jīng)網(wǎng)絡(luò)模型完成識別對象的特征提取，由卷積器、激勵(lì)器和池化器組成，卷積器主要作用是提取輸入數(shù)據(jù)特征。分類器由全連接器和分類器組成，全連接器將所有特征圖展開得到一維向量，然后輸入到分類器進(jìn)行分類，將分類的結(jié)果由輸出器輸出，整個(gè)識別過程的可視化。通訊服務(wù)器提供的可靠的通訊服務(wù)，存儲服務(wù)器由內(nèi)存數(shù)據(jù)庫和文件系統(tǒng)提供信息共享存儲服務(wù)。管理服務(wù)器和工作服務(wù)器之間由消息隊(duì)列提供網(wǎng)絡(luò)模型參數(shù)的傳遞和控制信息的傳遞。在工作服務(wù)器中包括5層卷積，2層全鏈接。每層卷積有卷積器、激勵(lì)器和池化器組成。在2層全鏈接中，每層全鏈接進(jìn)行全連接處理和采用dropout優(yōu)化。獨(dú)立的輸出器，由一層全鏈接和Finser分類器組成。結(jié)構(gòu)如圖3所示。

輸入器完成圖像的采集和預(yù)處理。數(shù)據(jù)集和訓(xùn)練集采用擴(kuò)展后的Eits 250類手繪畫。在250類手繪畫中，都是日常生活中常見的物品，且包含80幅灰度圖像。對250類畫進(jìn)行水平翻轉(zhuǎn)和旋轉(zhuǎn)擴(kuò)展，數(shù)據(jù)集數(shù)量達(dá)160000。采用去均值和歸一化處理，及先就和求中心值求均值，而后減去均值，把各個(gè)維度的數(shù)據(jù)都中性化到0，進(jìn)行歸一化處理。工作服務(wù)器主要完成特征的提取和分類，通過利用不同的卷積核來突出不同方面的特征以達(dá)到提取特征的效果。具體過程為上層得到的特征圖與一個(gè)卷積核卷積，然后經(jīng)過激活函數(shù)，加上偏置，形成這一層特征圖的局部特征，得到這一層不同的特征圖。在卷積器后面是激勵(lì)器，激勵(lì)器由多個(gè)特征映射組成，每個(gè)特征映射是一個(gè)平面，平面上采用權(quán)值共享技術(shù)，通過激勵(lì)函數(shù)進(jìn)行運(yùn)算，采用relu函數(shù)作為網(wǎng)絡(luò)的激活函數(shù)，對每個(gè)卷積結(jié)果都進(jìn)行relu（x）=max（0，x）運(yùn)算。池化器是將得到的特征進(jìn)行抽樣，對每個(gè)子塊進(jìn)行池化，對運(yùn)算結(jié)果選取最大值，及找出最大值作為輸出的值。卷積神經(jīng)網(wǎng)絡(luò)通過卷積器和激勵(lì)器和池化器的循環(huán)往復(fù)提取到圖像特征。整個(gè)智能識別系統(tǒng)有3層全鏈接層，在工作服務(wù)器有2層全連接層。在輸出器中有1層全鏈接層，輸出器中全連接層將所有特征圖展開得到Fisher向量，進(jìn)行分類輸出識別結(jié)果。分布式手繪畫識別系統(tǒng)將特征提取信息可視化，根據(jù)可視化結(jié)果進(jìn)行相應(yīng)分析及規(guī)律總結(jié)，調(diào)試和優(yōu)化卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。管理服務(wù)器，完成對智能識別網(wǎng)絡(luò)集群的管理、網(wǎng)絡(luò)模型參數(shù)的更新以及配置管理，完成對工作服務(wù)器的特征提取參數(shù)、分類參數(shù)管理等，完成同工作服務(wù)器定時(shí)心跳管理，工作服務(wù)器的注冊、自動接入管理。管理服務(wù)器和工作服務(wù)器之間基于通訊服務(wù)器提供的RPC和MQ進(jìn)行信息交換。

4 智能手繪畫識別系統(tǒng)的識別分析

智能手繪畫識別過程包括系統(tǒng)各部件初始化過程、加載數(shù)據(jù)和預(yù)處理過程、手繪畫特征提取和分類網(wǎng)絡(luò)模型定義和構(gòu)建過程，以及訓(xùn)練、預(yù)測和評估過程。

在初始化、加載數(shù)據(jù)及預(yù)處理過程中，涉及管理服務(wù)器和網(wǎng)絡(luò)參數(shù)的初始化，創(chuàng)建工作服務(wù)器，工作服務(wù)器的注冊、工作服務(wù)器和管理服務(wù)器的心跳的建立，采集輸入器和輸出器的初始化，工作服務(wù)器的卷積器、激勵(lì)器、池化器的初始化，以及數(shù)據(jù)預(yù)處理。

在訓(xùn)練以及預(yù)測和評估過程中，主要包括訓(xùn)練，前向傳播和反向計(jì)算，前向傳播特征信息，而反向計(jì)算體現(xiàn)在基于誤差信息對模型進(jìn)行校正，以及識別預(yù)測。

5 結(jié)語

智能手繪畫識別系統(tǒng)基于卷積神經(jīng)網(wǎng)絡(luò)，采用端對端的數(shù)據(jù)處理方式，能夠自動提取輸入圖像的特征，其圖像的特征提取就像一個(gè)黑盒子，圖像特征提取過程可視化，根據(jù)可視化結(jié)果優(yōu)化卷積神經(jīng)網(wǎng)絡(luò)模型及網(wǎng)絡(luò)參數(shù)，迭代多次、反復(fù)訓(xùn)練，實(shí)現(xiàn)手繪畫的智能識別，識別結(jié)果優(yōu)于傳統(tǒng)的提取特征的識別，可廣泛應(yīng)用于電子政務(wù)、電子商務(wù)和工業(yè)設(shè)計(jì)等領(lǐng)域，應(yīng)用前景廣闊。

參考文獻(xiàn)

[1]山下隆義.圖解深度學(xué)習(xí)[M].人民出版社，2018.

[2]李飛鵬.卷積神經(jīng)網(wǎng)絡(luò)及其應(yīng)用[D].大連理工大學(xué)，2014.

[3]George Coulouris著.金蓓弘譯，概念與設(shè)計(jì)[M].機(jī)械工業(yè)出版社，2008.