基于大數(shù)據(jù)技術(shù)的網(wǎng)絡(luò)視頻處理系統(tǒng)設(shè)計(jì)

段武清，許春聰，王繼業(yè)

（1.解放軍78020部隊(duì)，云南 昆明 650223；2.解放軍75837部隊(duì)，廣東 廣州 510630）

近年來，隨著信息時(shí)代的到來，信息多元化程度加深。多媒體信息成為互聯(lián)網(wǎng)上的主要的信息載體[1]。網(wǎng)絡(luò)直播商業(yè)化應(yīng)用進(jìn)入了大眾的視線，一大批移動視頻直播平臺獲得了長足發(fā)展[2]。傳統(tǒng)網(wǎng)絡(luò)視頻采集、識別和處理面臨新的挑戰(zhàn)和機(jī)遇。如何有效利用新的技術(shù)和方法來驅(qū)動和滿足視頻數(shù)據(jù)處理的需求已成為一個(gè)現(xiàn)實(shí)而迫切的問題。本文設(shè)計(jì)了一種基于大數(shù)據(jù)技術(shù)實(shí)現(xiàn)的海量網(wǎng)絡(luò)視頻處理系統(tǒng)，該系統(tǒng)采用多機(jī)集群并行方式對視頻數(shù)據(jù)進(jìn)行處理，算法基于MapReduce模型實(shí)現(xiàn)，能有效解決海量網(wǎng)絡(luò)視頻處理問題。本文分四部分，第一部分介紹分布式系統(tǒng)與云；第二部分介紹MapReduce計(jì)算模型；第三部分介紹系統(tǒng)功能、技術(shù)流程和應(yīng)用；最后為結(jié)語。

1 分布式系統(tǒng)

1.1 分布式系統(tǒng)與云

GFS[3]是Google公司采用的一種分布式文件系統(tǒng)，它完全滿足當(dāng)前所稱“云”結(jié)構(gòu)[4]的要求。眾多文獻(xiàn)[5-7]將與GFS結(jié)構(gòu)類似的分布式系統(tǒng)稱為“云”，主要因?yàn)樵擃愊到y(tǒng)的構(gòu)成特點(diǎn)與自然界的云極為相似。下面以GFS為例，將其特征與自然界的云做一個(gè)對比。

我們回想一下自然界的云?？吹教焐巷h著的白云，我們自然會想到它漂浮不定、經(jīng)常變換，它容易分散也容易集聚；此外，據(jù)常識我們知道每朵云都是由成千上萬漂浮在空中的小水滴組成的。因此，云具有動態(tài)、易變、易分離組合且內(nèi)部成員數(shù)量眾多等特點(diǎn)，可以說云是由像灰塵一樣微小的小水珠隨意組成、隨風(fēng)飄動的聚合體。上述為自然界的云，在計(jì)算機(jī)界，人們定義的云其特征如文獻(xiàn)[4]所述，我們可以簡明扼要地將其概括為：接入方式靈活多樣，不論在哪里接入，不論多少客戶接入，都能立即得到服務(wù)，而且服務(wù)是無限量提供的，服務(wù)的種類可以無限量增加，也可以根據(jù)需要隨時(shí)進(jìn)行調(diào)整和刪除。文獻(xiàn)[3]所述GFS結(jié)構(gòu)完全滿足動態(tài)、易變、易分離組合，且系統(tǒng)中機(jī)器數(shù)量眾多等特征，這些特征與上述“云”特征完全吻合。GFS可以隨時(shí)增加或刪除節(jié)點(diǎn)；很容易將一個(gè)GFS系統(tǒng)分離為兩個(gè)，或?qū)蓚€(gè)組合為一個(gè)；而且，GFS能管理的成員計(jì)算機(jī)數(shù)量猶如一朵云中的小水滴一樣多。

GFS的發(fā)明開創(chuàng)了一個(gè)新的時(shí)代，使得“云”在計(jì)算機(jī)界真正能夠?qū)崿F(xiàn)。GFS結(jié)構(gòu)創(chuàng)新的主要貢獻(xiàn)在于將計(jì)算機(jī)本身的角色功能進(jìn)行了又一次的擴(kuò)展和分離。我們知道計(jì)算機(jī)最初僅用于數(shù)值計(jì)算和存儲數(shù)據(jù)，如果說一部分計(jì)算機(jī)被分離出來專門用于數(shù)據(jù)轉(zhuǎn)發(fā)（這些計(jì)算機(jī)被稱為交換機(jī)或路由器），就導(dǎo)致了計(jì)算機(jī)網(wǎng)絡(luò)的誕生和發(fā)展，那么當(dāng)一部分計(jì)算機(jī)被分離出來充當(dāng)管理者專門負(fù)責(zé)管理其他計(jì)算機(jī)的工作，就誕生了“云”。我們知道人類社會區(qū)別于其他物種的一個(gè)很大特點(diǎn)就在于工作上有分工，不僅有不同工種的分工，而且還有管理者與被管理者的分工，也就是說我們?nèi)祟惿鐣杏幸徊咳怂麄兊墓ぷ魇菍ｉT管理別人，讓被管理者更好地工作。那為什么讓一部分計(jì)算機(jī)充當(dāng)管理者的角色就能夠達(dá)到“云”的效果。本文認(rèn)為原因如下：①由于當(dāng)前計(jì)算機(jī)性能不斷提升，每臺充當(dāng)管理者的計(jì)算機(jī)（通常稱Master）能支持的被管理成員數(shù)量巨大，一臺計(jì)算機(jī)能同時(shí)管理成千上萬個(gè)成員。如果讓一臺計(jì)算機(jī)管理1千個(gè)成員，那么采用二級管理，全系統(tǒng)所能管理的計(jì)算機(jī)數(shù)為1百萬臺，如果讓一臺計(jì)算機(jī)管理1萬個(gè)成員，采用二級管理，能管理計(jì)算機(jī)數(shù)為1億臺，三級管理能管理1萬億臺。②速度快。每臺充當(dāng)管理者的計(jì)算機(jī)能在很短的時(shí)間內(nèi)，幾十毫秒甚至幾毫秒內(nèi)就能知道它所管轄的成員在哪里、上面有什么（資源）、它能干什么（提供什么服務(wù)），并且給他指派任務(wù)。③并行性。每臺充當(dāng)管理者的計(jì)算機(jī)對外能同時(shí)為多個(gè)客戶提供多種不同的服務(wù)，同時(shí)對內(nèi)能進(jìn)行多個(gè)成員的管理。具備上述三點(diǎn)，一個(gè)分布式系統(tǒng)就能對足夠多的成員數(shù)量、足夠大的存儲空間和足夠豐富的服務(wù)類型進(jìn)行管理，從而使得該系統(tǒng)具備對外提供無限量計(jì)算、存儲和其他服務(wù)的能力，并且這些服務(wù)都是實(shí)時(shí)的。

1.2 GFS結(jié)構(gòu)分析

圖1是GFS結(jié)構(gòu)示意圖，GFS中有三種不同的計(jì)算機(jī)角色：①管理者節(jié)點(diǎn)（Master），數(shù)量一般有兩個(gè)，一個(gè)正常工作，一個(gè)備用，當(dāng)正常工作的節(jié)點(diǎn)出現(xiàn)故障后備用節(jié)點(diǎn)即刻啟動，因而整個(gè)系統(tǒng)幾乎可以做到不出現(xiàn)死機(jī)。②數(shù)據(jù)節(jié)點(diǎn)，也稱工作者節(jié)點(diǎn)(Worker)，被Master管理，數(shù)量可以是任意多個(gè)（只要Master管理能力足夠強(qiáng)）。③負(fù)責(zé)數(shù)據(jù)交換的節(jié)點(diǎn)，目前一般被專門稱為路由器或交換機(jī)（圖1中未給出）。

GFS的工作過程如下：當(dāng)一個(gè)客戶機(jī)要訪問系統(tǒng)中的某個(gè)文件，他首先將該文件的文件名稱發(fā)給Master，Master根據(jù)該名稱查找目錄，然后告訴客戶機(jī)該文件的位置，客戶機(jī)根據(jù)文件地址和標(biāo)識訪問具有該地址的工作者節(jié)點(diǎn)，工作節(jié)點(diǎn)根據(jù)文件標(biāo)識和地址偏移找到文件中的數(shù)據(jù)返回給客戶機(jī)。

2 MapReduce計(jì)算模型

2.1 MapReduce算法過程

MapReduce[8]算法模型是一種處理和生成大規(guī)模數(shù)據(jù)集的算法模型，采用MapReduce模型實(shí)現(xiàn)的程序自動地具有了并行性且能在一個(gè)由普通商用計(jì)算機(jī)組成的集群上執(zhí)行。文獻(xiàn)[7]介紹了該算法在GFS上的實(shí)現(xiàn)。圖2為MapReduce算法過程圖，實(shí)際上，MapReduce過程可簡單總結(jié)為：將一個(gè)由客戶機(jī)提出的計(jì)算任務(wù)在Master的管理下分配到多臺機(jī)器上執(zhí)行，執(zhí)行完后由Master指派結(jié)果收集者從多臺機(jī)器上收集結(jié)果并發(fā)送給提出請求的客戶機(jī)。該圖中Map階段分配任務(wù)，Reduce階段收集執(zhí)行結(jié)果。

上述執(zhí)行過程主要包括如下步驟：①由用戶程序?qū)⑤斎氲奈募殖蒑個(gè)片段。分片完畢后，用戶程序向Master發(fā)出數(shù)據(jù)處理請求。Master收到數(shù)據(jù)處理請求后，在Worker節(jié)點(diǎn)群中尋找空閑節(jié)點(diǎn)作為執(zhí)行任務(wù)或收集結(jié)果的節(jié)點(diǎn)。在Map階段，Master將需要執(zhí)行的M個(gè)任務(wù)指派到M個(gè)空閑Worker節(jié)點(diǎn)上；在Reduce階段，Master將R個(gè)結(jié)果收集任務(wù)指派到R個(gè)Worker節(jié)點(diǎn)上。其中M、R取值不大于Worker節(jié)點(diǎn)總數(shù)。②一個(gè)被指派作為任務(wù)執(zhí)行者的Worker（也稱Map Worker）讀取相應(yīng)的文件分片,并將輸入數(shù)據(jù)解析成key/value配對（根據(jù)用戶定義的Map函數(shù)確定），然后交用戶定義的Map函數(shù)執(zhí)行，執(zhí)行后得到中間級key/value配對，接著Map函數(shù)將這些值存入內(nèi)存并定期寫到本地磁盤的R個(gè)位置上。這些存儲中間級key/value配對的磁盤位置被Map函數(shù)周期性地上報(bào)到Master，Master收到后將這些位置通知執(zhí)行結(jié)果收集的Worker（也稱Reduce Worker）。③Reduce Worker收到Master的通知后，對這些存儲中間級key/value的磁盤位置進(jìn)行遠(yuǎn)程讀取，并將讀到的數(shù)據(jù)寫入結(jié)果文件。當(dāng)所有的Map Worker和Reduce Worker都工作結(jié)束后，Master喚醒用戶程序，由用戶讀取最終結(jié)果。

2.2 MapReduce與大數(shù)據(jù)

GFS與部署在其上的MapReduce算法模型構(gòu)成了大數(shù)據(jù)處理的一個(gè)基礎(chǔ)。文獻(xiàn)[8]介紹，目前Google已有上百個(gè)應(yīng)用部署到GFS云上，而且各應(yīng)用完全不相互影響。GFS云就像一棵果樹，但與自然界中的果樹不同的是這棵樹上結(jié)的果實(shí)種類是不定的，果的類別由具體的應(yīng)用決定，構(gòu)造什么樣的應(yīng)用就能結(jié)什么樣的果。對此，我們可以得到這樣的啟示：如果要處理大數(shù)據(jù)，首先建好一棵由計(jì)算機(jī)硬件集群和相應(yīng)的軟件算法模型構(gòu)成的樹，然后在上面運(yùn)行不同的應(yīng)用就能得到不同的果，例如當(dāng)前流行的搜索、文本識別、語音識別等等，都可以看成是在同一套計(jì)算機(jī)硬件集群和相應(yīng)的軟件算法模型構(gòu)成的樹上結(jié)出的不同的果。翻譯、視頻處理、音頻處理、郵件服務(wù)等應(yīng)用與此類似。如果“樹”的規(guī)模足夠大，這些應(yīng)用可以同時(shí)運(yùn)行而彼此互不影響，“果”的種類也可以不段增加。按此類比，本文設(shè)計(jì)的海量視頻處理系統(tǒng)在設(shè)計(jì)上實(shí)現(xiàn)了一棵樹，這棵樹上僅是結(jié)了視頻處理這樣一個(gè)“果”。

3 海量網(wǎng)絡(luò)視頻處理系統(tǒng)結(jié)構(gòu)

系統(tǒng)由兩部分組成，一部分為客戶機(jī)集合，數(shù)量不定，用于視頻數(shù)據(jù)采集；另一部分為用于視頻數(shù)據(jù)處理的分布式計(jì)算機(jī)集群（結(jié)構(gòu)類似GFS，采用MapReduce算法模型）。每個(gè)客戶機(jī)上部署數(shù)據(jù)輸入和視頻數(shù)據(jù)處理控制界面。Master節(jié)點(diǎn)負(fù)責(zé)與客戶機(jī)進(jìn)行交互，并負(fù)責(zé)對所有Worker節(jié)點(diǎn)進(jìn)行資源管理和任務(wù)分配；Worker節(jié)點(diǎn)完成對視頻數(shù)據(jù)的具體處理。

3.1 系統(tǒng)功能

系統(tǒng)可實(shí)現(xiàn)對海量視頻內(nèi)容利用關(guān)鍵字進(jìn)行檢索；能對視頻中的特定人物和事物通過特征設(shè)定、特征提取和比對進(jìn)行位置追蹤。相比以往，系統(tǒng)采用GFS結(jié)構(gòu)和MapReduce算法模型后處理速度得以較大提升，能較好適應(yīng)互聯(lián)網(wǎng)上飛速劇增的視頻數(shù)據(jù)的處理需求，具有很強(qiáng)的可擴(kuò)展性。

3.2 系統(tǒng)處理流程

系統(tǒng)處理流程如圖3所示，由視頻輸入、視頻格式標(biāo)準(zhǔn)化轉(zhuǎn)換、視頻片段按幀分解、目標(biāo)特征識別、目標(biāo)特征提取和比對、視頻內(nèi)容重復(fù)性檢測、視頻片段信息量計(jì)算及結(jié)果顯示等部分組成。

3.2.1 視頻輸入

該部分按照網(wǎng)絡(luò)上多媒體數(shù)據(jù)來源的不同，分Media Server、Web Server和Ftp Server三個(gè)子模塊進(jìn)行處理（圖中未給出），各部分均對輸入視頻提供多種格式支持，包括asf、avi、flv、mkv、mp4和rmvb等。視頻數(shù)據(jù)進(jìn)入系統(tǒng)后由該部分進(jìn)行分布式存儲管理，分別存儲于系統(tǒng)各個(gè)Worker節(jié)點(diǎn)上。

3.2.2 視頻片段幀提取

該模塊對一個(gè)視頻文件進(jìn)行特定位置上的幀提取，為下一步進(jìn)行目標(biāo)特征識別和提取做準(zhǔn)備。其中，特定位置可以在系統(tǒng)中進(jìn)行預(yù)先指定和調(diào)整。

3.2.3 目標(biāo)特征識別和提取

本部分在Worker節(jié)點(diǎn)上實(shí)現(xiàn)，由用戶定義的Map函數(shù)完成，主要功能為檢測視頻中出現(xiàn)的人臉、文字、物品及建筑物等特征信息并進(jìn)行識別提取，具體包括：①外部特征提取，對數(shù)據(jù)的時(shí)間、地域、來源等特征的提??；②內(nèi)部特征提取，對數(shù)據(jù)文件大小、固定點(diǎn)位上的圖（幀）、固定偏移上的數(shù)據(jù)片及一些自定義特征的提??；③特征向量與信息指紋生成，將①②計(jì)算結(jié)果組合為視頻特征向量，并計(jì)算出一個(gè)信息指紋作為該文件在系統(tǒng)中的唯一標(biāo)識，方便視頻檢索。

3.2.4 視頻內(nèi)容重復(fù)性檢測

視頻內(nèi)容重復(fù)性檢測即圖3所示，檢測視頻內(nèi)容是否重復(fù)。該部分對步驟（3）計(jì)算得到的視頻特征向量利用重復(fù)檢測算法Bof[9]對視頻內(nèi)容進(jìn)行檢測，若存在相似度大于設(shè)定值的視頻，則認(rèn)為其重復(fù)并進(jìn)行標(biāo)注。

3.2.5 視頻片段信息量計(jì)算

本文采用計(jì)算視頻數(shù)據(jù)信息量的方式在海量視頻中搜索目標(biāo)視頻。具體算法為：將該視頻所具有的人物、時(shí)間、地點(diǎn)、事件等多個(gè)屬性都作為描述視頻的一個(gè)維，并賦予一定的權(quán)重，計(jì)算時(shí)先比較新輸入視頻各維的屬性與該維上預(yù)設(shè)屬性的相似性并給出一個(gè)值，然后將各維上相似性比較后得到的值乘以各維的權(quán)重再求和得到該視頻信息量。用信息量衡量視頻的重要程度，信息量越大的視頻越接近目標(biāo)視頻。

3.2.6 結(jié)果顯示部分

結(jié)果顯示部分顯示按關(guān)鍵字搜索到的相似視頻，結(jié)果按相似程度或?qū)傩跃S度進(jìn)行排序。

3.3 內(nèi)容識別

3.3.1 文字識別

文字識別即將視頻中的文字提取出來成為文本。視頻中包含的文字主要有兩種情況，分別為字幕和圖上文字。采用如下方式處理：對于字幕，能從視頻文件中分離的直接分離后處理；對于不能分離的，采用文獻(xiàn)[10]所述的方法提取；對于不能正確識別，但很可能是文字的，進(jìn)行圖片截取處理。

3.3.2 人識別

識別出視頻中有人的部分，方便后續(xù)人工處理。識別采用兩種方式：一種進(jìn)行人臉識別，另一種進(jìn)行人身體識別。由于本系統(tǒng)僅限于識別出視頻中的人，而不區(qū)分被識別者是誰，因此采用較簡單的基于人臉特征點(diǎn)的識別算法[11]實(shí)現(xiàn)。人身體識別參照人臉識別并輔以其他特定算法實(shí)現(xiàn)。整個(gè)算法以人臉識別為主，身體識別為輔。

4 結(jié)束語

本文基于大數(shù)據(jù)技術(shù)設(shè)計(jì)實(shí)現(xiàn)了一種海量網(wǎng)絡(luò)視頻處理系統(tǒng)。該系統(tǒng)采用與GFS類似的結(jié)構(gòu)，設(shè)計(jì)了MapReduce模式的視頻處理并行算法。系統(tǒng)具有良好的可擴(kuò)展性和容錯(cuò)性，無論在視頻的存儲能力還是檢索速度上，其性能均優(yōu)于之前的集中式處理系統(tǒng)?？梢灶A(yù)見，該系統(tǒng)將是未來較長一段時(shí)間內(nèi)處理海量網(wǎng)絡(luò)視頻的一個(gè)有力工具。

［1］ 周凱，朱一杰，龔松杰，等.互聯(lián)網(wǎng)環(huán)境下大數(shù)據(jù)多媒體信息檢索研究［J］.科技資訊，2015，13（24）：23-24.

［2］ 王江山.透視中國網(wǎng)絡(luò)直播當(dāng)前的問題與發(fā)展［J］.新聞研究導(dǎo)刊，2016（13）.

［3］ GHEMAWATS S，GOBIOOFF H，LEUNG S T.The google file system［J］.Acm Sigops Operating Systems Review，2003，37（5）：29-43.

［4］ 陳康，鄭緯民.云計(jì)算：系統(tǒng)實(shí)例與研究現(xiàn)狀［J］.軟件學(xué)報(bào)，2009，20（5）：1337-1348.

［5］ 林闖，蘇文博，孟坤，等.云計(jì)算安全：架構(gòu)、機(jī)制與模型評價(jià)［J］.計(jì)算機(jī)學(xué)報(bào)，2013，36（9）：1765-1784.

［6］ 秦榮生.大數(shù)據(jù)、云計(jì)算技術(shù)對審計(jì)的影響研究［J］.審計(jì)研究，2014（6）：23-28.

［7］ 程學(xué)旗，靳小龍，王元卓，等.大數(shù)據(jù)系統(tǒng)和分析技術(shù)綜述［J］.軟件學(xué)報(bào)，2014，25（9）：1889-1908.

［8］ DEAN J，GHEMAWAT S.MapReduce：A flexible data processing tool［J］.Communication of the ACM，2010，53（1）：72-77.

［9］ 陳永健.基于內(nèi)容的大規(guī)模圖像檢索關(guān)鍵技術(shù)研究［D］.湖北：華中科技大學(xué)，2011.

［10］ Shewale P P，Kinikar M.Novel method for character recognition in natural scene images［J］.International Journal of Advanced Computer and Mathematical Sciences，2014，2（5）：14-18.

［11］ 潘仁林.基于幾何特征的三維人臉識別方法研究［D］.廈門：廈門大學(xué)，2014.