一種海量圖片樣本數(shù)據(jù)的存儲(chǔ)與抽取系統(tǒng)設(shè)計(jì)

孫藝航 潘欣

摘要：當(dāng)前利用機(jī)器學(xué)習(xí)技術(shù)識(shí)別影像中的場(chǎng)景和語(yǔ)義信息在很多領(lǐng)域得到了廣泛應(yīng)用，實(shí)現(xiàn)智能識(shí)別的基礎(chǔ)是海量的圖片樣本數(shù)據(jù)，在實(shí)際應(yīng)用中，這些圖片樣本往往分辨率和存儲(chǔ)格式不一致，需要經(jīng)過(guò)多種不同的幾何變換和抽取過(guò)程。為此，設(shè)計(jì)了一種海量圖片樣本數(shù)據(jù)的存儲(chǔ)與抽取系統(tǒng)，建立了一種可定制的腳本化的數(shù)據(jù)存儲(chǔ)與抽取執(zhí)行機(jī)制，將圖片樣本的存儲(chǔ)、變換和抽取轉(zhuǎn)換為腳本并自動(dòng)執(zhí)行。實(shí)驗(yàn)表明，該系統(tǒng)可以顯著提高海量圖片樣本數(shù)據(jù)的存儲(chǔ)和抽取效率。

關(guān)鍵詞：樣本;抽取;存儲(chǔ);腳本化;機(jī)器學(xué)習(xí)

0 引言

當(dāng)前利用機(jī)器學(xué)習(xí)技術(shù)識(shí)別影像中的場(chǎng)景和語(yǔ)義信息在很多領(lǐng)域得到了廣泛應(yīng)用[1]。機(jī)器學(xué)習(xí)的基礎(chǔ)是海量的樣本數(shù)據(jù)，這些數(shù)據(jù)是訓(xùn)練智能模型的基礎(chǔ)[2]。在機(jī)器學(xué)習(xí)技術(shù)的實(shí)際應(yīng)用中，通常需要引入較多的樣本來(lái)提高識(shí)別質(zhì)量[3]，這些樣本可能來(lái)源于固有的機(jī)器學(xué)習(xí)庫(kù)、自主收集的圖片信息以及實(shí)驗(yàn)過(guò)程中的過(guò)程影像數(shù)據(jù)，這些樣本數(shù)據(jù)通常存在分辨率和存儲(chǔ)格式不一致的問(wèn)題，需要經(jīng)過(guò)幾何變換或特定的抽取過(guò)程[4]，工作量較大，限制了機(jī)器學(xué)習(xí)影像識(shí)別的應(yīng)用，因此需要引入新的技術(shù)來(lái)提高該過(guò)程的工作效率。

機(jī)械性復(fù)雜工作可以通過(guò)腳本化方式執(zhí)行完成，并可以顯著提高工作效率[5]。因此，本文提出了一種海量圖片樣本數(shù)據(jù)的存儲(chǔ)與抽取系統(tǒng)（A storage and extraction system for massive image sample data，SES-Sample），建立了一種可定制的腳本化的數(shù)據(jù)存儲(chǔ)與抽取執(zhí)行機(jī)制，將圖片樣本的存儲(chǔ)、變換和抽取轉(zhuǎn)換為腳本并自動(dòng)執(zhí)行。實(shí)驗(yàn)表明，該系統(tǒng)可以顯著提高海量圖片樣本數(shù)據(jù)的存儲(chǔ)和抽取效率，促進(jìn)機(jī)器學(xué)習(xí)影像識(shí)別的應(yīng)用。

1 系統(tǒng)設(shè)計(jì)

1.1 ? ?系統(tǒng)總體架構(gòu)

海量圖片樣本數(shù)據(jù)的存儲(chǔ)與抽取系統(tǒng)采用多主機(jī)分布式處理的總體架構(gòu)，其結(jié)構(gòu)如圖1所示。

在SES-Sample系統(tǒng)中包含如下組成部分：

1.1.1 ? ?客戶端

客戶端負(fù)責(zé)與用戶進(jìn)行交互，負(fù)責(zé)接收用戶輸入的數(shù)據(jù)并上傳到服務(wù)器端，也可以從服務(wù)器端下載數(shù)據(jù)。對(duì)于數(shù)據(jù)傳輸通過(guò)FTP數(shù)據(jù)傳輸協(xié)議封裝，對(duì)于服務(wù)器功能的訪問(wèn)以網(wǎng)絡(luò)服務(wù)的形式進(jìn)行封裝。

1.1.2 ? ?服務(wù)器端

服務(wù)器端負(fù)責(zé)接收客戶端需求，可以處理圖片格式變化、幾何變換以及抽取標(biāo)簽任務(wù)。服務(wù)器開放了2個(gè)服務(wù)，一是間接數(shù)據(jù)存儲(chǔ)服務(wù)，當(dāng)客戶端請(qǐng)求數(shù)據(jù)訪問(wèn)功能的時(shí)候，以服務(wù)器作為中轉(zhuǎn)站，將Hadoop存儲(chǔ)的數(shù)據(jù)轉(zhuǎn)發(fā)給客戶;二是功能范圍服務(wù)，所有開放功能均以網(wǎng)絡(luò)服務(wù)形式開放。

1.1.3 ? ?存儲(chǔ)端

存儲(chǔ)端為基于Hadoop的存儲(chǔ)云環(huán)境，負(fù)責(zé)存儲(chǔ)所有服務(wù)器構(gòu)建的樣本數(shù)據(jù)。在分布式文件系統(tǒng)上，所有的圖片數(shù)據(jù)均以分布式系統(tǒng)上的獨(dú)立文件形式存在。系統(tǒng)封裝了存儲(chǔ)、抽樣算法，使用者可以利用客戶端對(duì)圖片樣本直接進(jìn)行訪問(wèn)控制，降低了此類操作復(fù)雜性。

1.2 ? ?圖片存儲(chǔ)模式

與傳統(tǒng)的單一文件存儲(chǔ)模式不同，本系統(tǒng)采用多文件、多文件標(biāo)簽的模式存儲(chǔ)圖片樣本，圖片樣本的存儲(chǔ)方式如圖2所示。

如圖2所示，當(dāng)一個(gè)圖片要存儲(chǔ)到SES-Sample系統(tǒng)中時(shí)，首先需要將圖片轉(zhuǎn)換為對(duì)應(yīng)的公共存儲(chǔ)結(jié)構(gòu)，本系統(tǒng)采用的公共存儲(chǔ)結(jié)構(gòu)格式：每個(gè)像元3個(gè)字節(jié)（RGB格式），并以二維矩陣的形式存儲(chǔ)所有像元;在轉(zhuǎn)換為公共存儲(chǔ)結(jié)構(gòu)之后，繼續(xù)執(zhí)行多個(gè)相關(guān)的變換腳本，生成在系統(tǒng)中的真正樣本，這些樣本由公共存儲(chǔ)結(jié)構(gòu)+XML元數(shù)據(jù)構(gòu)成。在SES-Sample系統(tǒng)中，每個(gè)樣本是公共存儲(chǔ)結(jié)構(gòu)+XML元數(shù)據(jù)雙重結(jié)構(gòu)，其中元數(shù)據(jù)包含著對(duì)應(yīng)樣本的關(guān)鍵信息，具體包括如下內(nèi)容：

（1）ID：在執(zhí)行第1次圖片轉(zhuǎn)換時(shí)所獲得的唯一標(biāo)識(shí)。

（2）SubID：經(jīng)歷第n次腳本變換所獲得的序號(hào)，ID和SubID聯(lián)合確定一個(gè)樣本的主鍵。

（3）TransformArray：經(jīng)歷變換的名稱和步驟，標(biāo)識(shí)該樣本經(jīng)歷了哪些幾何或者矩陣變換。

（4）Label：圖片對(duì)應(yīng)的標(biāo)簽信息。

在此基礎(chǔ)上，SES-Sample系統(tǒng)的圖片存儲(chǔ)算法如下：

SamplesSaveing Algorithm圖片存儲(chǔ)算法

Input：一個(gè)樣本sample和對(duì)應(yīng)的標(biāo)簽label，樣本變換腳本集scriptlist

Output：轉(zhuǎn)換后的存儲(chǔ)集合S

Begin

matrix=將sample轉(zhuǎn)換為公共存儲(chǔ)結(jié)構(gòu);

id=Create a UUID; S←？準(zhǔn);

for i in len（scriptlist）

subid=i;

TransformArray=獲取scriptlist[i]的名稱列表;

image=ScriptTransform（matrix， scriptlist[i]）;

S←（image，（id，subid， TransformArray，label））;

return S;

End

通過(guò)SamplesSaveing算法，SES-Sample系統(tǒng)完成了從輸入的初始圖片到多重變換存儲(chǔ)結(jié)果的轉(zhuǎn)換，每個(gè)樣本除了中立的存儲(chǔ)結(jié)構(gòu)之外，還帶有XML結(jié)構(gòu)的元數(shù)據(jù)。

1.3 ? ?腳本的執(zhí)行模式

本文為了實(shí)現(xiàn)多種腳本靈活運(yùn)行的機(jī)制，設(shè)計(jì)了腳本的類結(jié)構(gòu)。如圖3所示，在SES-Sample系統(tǒng)中腳本處理的類結(jié)構(gòu)包含如下內(nèi)容：

（1）腳本原子父類OrigianlAlgNodeClass：OrigianlNodeClass為一個(gè)abstract類，該類封裝了進(jìn)行一次變換所必須的輸入、輸出。

（2）腳本原子類ChileAlgNodeClass：該類繼承于OrigianlAlg

NodeClass類，每一個(gè)子類均具體實(shí)現(xiàn)了某一個(gè)變換的具體算法。

（3）腳本類ScriptClass：腳本類Script接收OrigianlAlgNodeClass構(gòu)成的列表，該列表可以引入多種腳本子類的實(shí)例，來(lái)描述一個(gè)樣本所經(jīng)歷的變換歷程。

（4）腳本執(zhí)行類ParsingClass：該類執(zhí)行Script中的內(nèi)容，并完成整個(gè)存儲(chǔ)過(guò)程。

基于以上4個(gè)類，腳本的執(zhí)行和變換算法如下：

ScriptTransform Algorithm腳本的執(zhí)行與變換

Input：一個(gè)樣本存貯結(jié)構(gòu)matrix，腳本類本實(shí)例script

Output：轉(zhuǎn)換后的結(jié)果image

Begin

foreach s in script

OrigianlAlgNodeClass itf=（ OrigianlAlgNodeClass） s;

matrix=利用itf對(duì)matrix進(jìn)行變換

image= matrix;

return image;

End

本系統(tǒng)通過(guò)ScriptTransform算法，實(shí)現(xiàn)了逐一進(jìn)行腳本中的變換并獲得結(jié)果的目標(biāo)。

1.4 ? ?樣本的抽取模式

與傳統(tǒng)算法在使用樣本時(shí)才進(jìn)行變換不同，SES-Sample系統(tǒng)存儲(chǔ)了大量變換用腳本，每個(gè)腳本對(duì)應(yīng)一個(gè)特定的編號(hào)。SES-Sample中的服務(wù)器端包含守護(hù)進(jìn)程，在服務(wù)器處于空閑狀態(tài)時(shí)，可以自動(dòng)運(yùn)行腳本并存儲(chǔ)到云服務(wù)器中。系統(tǒng)在使用過(guò)程中，基于樣本對(duì)應(yīng)的XML描述文件，直接提取云服務(wù)中已經(jīng)存儲(chǔ)好的內(nèi)容，抽取算法如下：

SamplesExtraction Algorithm樣本抽取算法

Input：樣本類目標(biāo)簽label和變換類型transform，訓(xùn)練數(shù)據(jù)量trainp，測(cè)試數(shù)據(jù)量testp

Output：訓(xùn)練數(shù)據(jù)集train，測(cè)試數(shù)據(jù)集test

Begin

文件名列表list=基于樣本類目標(biāo)簽label和變換類型transform在云存儲(chǔ)中查詢XML文件;

list=隨機(jī)打亂list的順序;

train←？準(zhǔn); test←？準(zhǔn);

while len（train）< trainp

train←取出list中下一個(gè)XML文件，并讀取對(duì)應(yīng)圖像數(shù)據(jù);

while len（test）< testp

train←取出list中下一個(gè)XML文件，并讀取對(duì)應(yīng)圖像數(shù)據(jù);

return train，test;

End

本系統(tǒng)利用SamplesExtraction算法，可以快速實(shí)現(xiàn)特定標(biāo)簽、特定變換結(jié)果樣本的抽取。

2 對(duì)比實(shí)驗(yàn)

本系統(tǒng)的客戶端部分采用C#4.0編寫，服務(wù)器端部分采用Anaconda集成開發(fā)環(huán)境下的Python 3.6編寫，圖形變換調(diào)用的是scikit-image開發(fā)包;服務(wù)器端算法程序均在Intel i9 9900K、64G的計(jì)算機(jī)上運(yùn)行并測(cè)試。本系統(tǒng)客戶端界面如圖4所示，客戶端可以訪問(wèn)服務(wù)器端的資源數(shù)據(jù)。

為了對(duì)比傳統(tǒng)算法和SES-Sample的應(yīng)用效果，本文引入了大型的測(cè)試數(shù)據(jù)集進(jìn)行速度測(cè)試，對(duì)比結(jié)果如表1所示。

由表1可知，SES-Sample抽取樣本的速度明顯優(yōu)于傳統(tǒng)算法。

3 結(jié)語(yǔ)

有關(guān)人員在采用機(jī)器學(xué)習(xí)技術(shù)進(jìn)行模型訓(xùn)練的時(shí)候，管理海量樣本是一個(gè)非常耗費(fèi)時(shí)間的工作，相關(guān)的圖片數(shù)據(jù)變換和存儲(chǔ)需要花費(fèi)大量的計(jì)算時(shí)間，嚴(yán)重限制了相關(guān)領(lǐng)域的工作效率。為此，本文提出了一種海量圖片樣本數(shù)據(jù)的存儲(chǔ)與抽取系統(tǒng)，通過(guò)以圖片樣本的存儲(chǔ)、變換和抽取轉(zhuǎn)換為腳本并自動(dòng)執(zhí)行，可以顯著提高海量圖片樣本的管理效率。

[參考文獻(xiàn)]

[1] 李曉理，張博，王康，等.人工智能的發(fā)展及應(yīng)用[J].北京工業(yè)大學(xué)學(xué)報(bào)，2020，46（6）：583-590.

[2] 徐浩智.人工智能在模式識(shí)別中的關(guān)鍵技術(shù)[J].電子技術(shù)與軟件工程，2018（2）：247.

[3] 趙永強(qiáng)，饒?jiān)?，董世鵬，等.深度學(xué)習(xí)目標(biāo)檢測(cè)方法綜述[J].中國(guó)圖象圖形學(xué)報(bào)，2020，25（4）：629-654.

[4] 張蕊，李錦濤.基于深度學(xué)習(xí)的場(chǎng)景分割算法研究綜述[J].計(jì)算機(jī)研究與發(fā)展，2020，57（4）：859-875.

[5] 白文秀，吳瑞苗.基于Django的運(yùn)維自動(dòng)化系統(tǒng)設(shè)計(jì)[J].智能計(jì)算機(jī)與應(yīng)用，2016，6（3）：95-97.

收稿日期：2020-08-12

作者簡(jiǎn)介：孫藝航（1999—），女，吉林長(zhǎng)春人，研究方向：智能信息處理、大數(shù)據(jù)分析。

潘欣（1978—），男，吉林長(zhǎng)春人，博士，研究方向：地理信息系統(tǒng)、大數(shù)據(jù)、互聯(lián)網(wǎng)軟件技術(shù)。