淺析視頻數(shù)據(jù)挖掘技術(shù)在監(jiān)控系統(tǒng)中的應(yīng)用

浦世亮

淺析視頻數(shù)據(jù)挖掘技術(shù)在監(jiān)控系統(tǒng)中的應(yīng)用

浦世亮

近年來(lái)，隨著視頻監(jiān)控系統(tǒng)的大量普及安裝，監(jiān)控系統(tǒng)所獲取并存儲(chǔ)的視頻數(shù)據(jù)容量正以驚人的速度增長(zhǎng)。從理想角度看，這些視頻包含了現(xiàn)實(shí)世界中的大量信息，應(yīng)該為我們的管理及安保工作帶來(lái)巨大的價(jià)值。但是從現(xiàn)實(shí)角度看，依靠人工處理包含數(shù)以萬(wàn)計(jì)的視頻數(shù)據(jù)集,并從中獲取信息，是非常困難、甚至是不可能的。也因此，監(jiān)控系統(tǒng)所獲取并存儲(chǔ)的絕大部分視頻數(shù)據(jù)成了存儲(chǔ)在硬盤中無(wú)人使用的數(shù)據(jù)，使我們陷入了一個(gè)數(shù)據(jù)爆炸卻信息匱乏的困境。

視頻數(shù)據(jù)之所以無(wú)法成為我們能夠直接使用的信息，是因?yàn)閮烧咧g存在著“語(yǔ)義鴻溝”，即計(jì)算機(jī)所理解的低層次圖像特征與人類所理解的高層次語(yǔ)義信息之間的差異。舉例來(lái)說(shuō)，人類在觀看一段監(jiān)控視頻時(shí)，可以迅速結(jié)合先驗(yàn)知識(shí)判斷出視頻中奔跑的行人、交談的人群、甚至行人之間的相互關(guān)系及情緒等更加細(xì)節(jié)的信息，而計(jì)算機(jī)只能獲取圖像色塊、區(qū)域紋理或者運(yùn)動(dòng)方向等圖像特征。

數(shù)據(jù)挖掘技術(shù)架起人機(jī)“溝通橋梁”

數(shù)據(jù)挖掘技術(shù)正是一座架在“語(yǔ)義鴻溝”之上的橋梁，使我們能夠從無(wú)法直接理解的圖像特征信息中獲取到能夠應(yīng)用的語(yǔ)義信息。但是現(xiàn)階段視頻數(shù)據(jù)的挖掘在數(shù)據(jù)挖掘技術(shù)領(lǐng)域還是一個(gè)難題，與文本數(shù)據(jù)不同，視頻數(shù)據(jù)是非規(guī)則的且信息量非常龐大的數(shù)據(jù)格式，它不具備文本數(shù)據(jù)那樣的語(yǔ)法及段落等規(guī)則；另外，視頻中包含的信息量相當(dāng)龐大，對(duì)于視頻數(shù)據(jù)的特征融合及信息提取具有較高的難度。所以總體來(lái)看，視頻數(shù)據(jù)挖掘技術(shù)目前還處于初級(jí)階段，但是有部分技術(shù)已經(jīng)到了較成熟的規(guī)?；瘧?yīng)用階段，例如車牌識(shí)別技術(shù)、視頻入侵檢測(cè)技術(shù)等。

視頻數(shù)據(jù)挖掘解決方案的用戶需求

如何從海量視頻數(shù)據(jù)中提取到我們所能應(yīng)用的信息，甚至是經(jīng)過(guò)歸納總結(jié)的知識(shí)，無(wú)疑是監(jiān)控系統(tǒng)各個(gè)行業(yè)用戶都迫切需要解決的問(wèn)題。但是視頻包含了非常龐大的信息量，不同行業(yè)客戶對(duì)于視頻信息的提取及使用方式有很大的差異性。這就要求監(jiān)控技術(shù)的供應(yīng)商能夠針對(duì)不同行業(yè)客戶的需求提供不同的視頻數(shù)據(jù)挖掘解決方案。舉例來(lái)說(shuō)，公安行業(yè)用戶在日常治安管理工作中需要從視頻中及時(shí)的獲取治安異常事件的信息，例如斗毆事件或者群聚性事件，從而可以及時(shí)進(jìn)行處理；在進(jìn)行刑偵工作時(shí)要對(duì)大量視頻進(jìn)行目標(biāo)查找，需要從視頻中獲取目標(biāo)的身份信息，例如人員身份信息及車輛牌照信息等。而高速公路行業(yè)用戶需要在收費(fèi)處獲取車輛牌照信息，在道路監(jiān)控視頻中獲取異常事件信息，例如擁堵事件、停車等，還需要提取例如車流量、平均車速等統(tǒng)計(jì)類信息以實(shí)現(xiàn)管理優(yōu)化。還有一些視頻信息是各行業(yè)用戶都需要的，例如視頻質(zhì)量信息，即從視頻數(shù)據(jù)中獲取的當(dāng)前視頻設(shè)備運(yùn)行狀態(tài)是否正常的信息量，這對(duì)于各行業(yè)監(jiān)控系統(tǒng)的運(yùn)行維護(hù)都有著重要實(shí)用價(jià)值。

根據(jù)實(shí)際應(yīng)用需求及應(yīng)用方式的不同，可以將視頻中挖掘的信息分為五類，分別是：事件語(yǔ)義信息、目標(biāo)身份信息、目標(biāo)圖像特征信息、視頻統(tǒng)計(jì)信息及視頻質(zhì)量信息。事件語(yǔ)義信息是指從視頻中獲取的可用語(yǔ)言描述的事件信息，例如有人闖入?yún)^(qū)域、有人奔跑、發(fā)生群聚性事件等，這類信息主要以報(bào)警的方式實(shí)時(shí)呈現(xiàn)給用戶，用戶可以根據(jù)這類信息實(shí)時(shí)對(duì)異常事件進(jìn)行判斷并進(jìn)行處理。目標(biāo)身份信息主要是指人員身份及車輛牌照信息，用戶以報(bào)警的方式或者檢索的方式使用這類信息，例如車輛黑名單報(bào)警或者嫌疑人照片檢索。目標(biāo)圖像特征信息是指可描述的目標(biāo)圖像特征，例如紅色轎車、穿黑白條紋衣服的人員等，用戶在刑偵工作中可以利用這類信息在海量視頻數(shù)據(jù)中對(duì)目標(biāo)進(jìn)行快速定位。視頻統(tǒng)計(jì)信息是指從視頻中獲取的長(zhǎng)時(shí)間統(tǒng)計(jì)數(shù)據(jù)，例如商場(chǎng)的客流量、交通要道的車流量等，用戶可以利用這類信息進(jìn)行管理工作的優(yōu)化。視頻質(zhì)量信息是指對(duì)視頻質(zhì)量進(jìn)行診斷獲取的對(duì)視頻質(zhì)量異常進(jìn)行描述的信息，例如視頻被遮擋、視頻失焦、視頻偏色等，用戶可以利用這類信息進(jìn)行監(jiān)控系統(tǒng)的運(yùn)行維護(hù)。

視頻數(shù)據(jù)挖掘技術(shù)實(shí)現(xiàn)方式

視頻數(shù)據(jù)挖掘技術(shù)的實(shí)現(xiàn)方式可分為前端設(shè)備實(shí)現(xiàn)方式和后端設(shè)備實(shí)現(xiàn)方式兩種。前端設(shè)備實(shí)現(xiàn)方式是指在各種前端監(jiān)控設(shè)備中集成智能視頻分析技術(shù)，以實(shí)現(xiàn)視頻信息的實(shí)時(shí)挖掘；后端設(shè)備實(shí)現(xiàn)方式是指利用后端服務(wù)器集群，對(duì)前端監(jiān)控設(shè)備采集的視頻信息進(jìn)行數(shù)據(jù)挖掘。一般而言，前端設(shè)備實(shí)現(xiàn)方式的優(yōu)點(diǎn)是可以對(duì)視頻數(shù)據(jù)進(jìn)行實(shí)時(shí)分析，并具有根據(jù)視頻分析算法的需要對(duì)前端設(shè)備進(jìn)行成像控制的能力，對(duì)于信息實(shí)時(shí)性或者視頻成像特性有特定要求的數(shù)據(jù)挖掘技術(shù)更適合用前端設(shè)備實(shí)現(xiàn)方式。圖1是視頻數(shù)據(jù)挖掘技術(shù)前端實(shí)現(xiàn)方式的拓?fù)鋱D，視頻數(shù)據(jù)挖掘技術(shù)可以根據(jù)需要在DVS、DVR、IP攝像機(jī)及網(wǎng)絡(luò)球機(jī)等多種前端設(shè)備中集成。視頻數(shù)據(jù)挖掘技術(shù)的后端實(shí)現(xiàn)方式的優(yōu)點(diǎn)在于可以利用服務(wù)器集群提供更強(qiáng)大的處理能力，并可同時(shí)對(duì)多路視頻數(shù)據(jù)進(jìn)行處理實(shí)現(xiàn)多路視頻數(shù)據(jù)之間的信息融合。圖2是視頻數(shù)據(jù)挖掘技術(shù)后端實(shí)現(xiàn)方式的拓?fù)鋱D，視頻數(shù)據(jù)挖掘技術(shù)在后端服務(wù)器集群中實(shí)現(xiàn)。云計(jì)算平臺(tái)由于具有高度的靈活性及擴(kuò)展性，是視頻數(shù)據(jù)挖掘技術(shù)后端實(shí)現(xiàn)方式優(yōu)秀的承載平臺(tái)，隨著云計(jì)算技術(shù)的發(fā)展及成熟，或許在不遠(yuǎn)的將來(lái)，云計(jì)算平臺(tái)將在視頻數(shù)據(jù)挖掘技術(shù)中有大量應(yīng)用。

不同的視頻數(shù)據(jù)挖掘技術(shù)根據(jù)其應(yīng)用及技術(shù)特點(diǎn)需要采用不同的實(shí)現(xiàn)方式。有的信息對(duì)于實(shí)時(shí)性及處理能力的要求不高，用兩種方式都可以實(shí)現(xiàn)數(shù)據(jù)挖掘，例如視頻質(zhì)量信息及統(tǒng)計(jì)類的信息。而有些信息的應(yīng)用對(duì)于實(shí)時(shí)性有較高的要求，或者在數(shù)據(jù)挖掘的過(guò)程中需要對(duì)成像設(shè)備進(jìn)行控制，這類數(shù)據(jù)挖掘技術(shù)就適用于前端設(shè)備實(shí)現(xiàn)方式，例如，事件語(yǔ)義信息的提取，這類信息一般以報(bào)警的方式呈現(xiàn)給用戶，用戶需要及時(shí)的獲取這類信息以做出應(yīng)對(duì)，這類信息的挖掘技術(shù)就適合用前端設(shè)備實(shí)現(xiàn)。又例如，車牌信息的提取及人臉圖像的檢測(cè)，一般需要對(duì)成像設(shè)備進(jìn)行實(shí)時(shí)的控制，例如攝像機(jī)的曝光時(shí)間、攝像機(jī)增益值等，以獲取高清晰度的圖像并保證所獲取信息的精確度，因此這類數(shù)據(jù)挖掘技術(shù)在前端攝像機(jī)中實(shí)現(xiàn)具有較大的優(yōu)勢(shì)。

有一些數(shù)據(jù)的挖掘過(guò)程中需要系統(tǒng)提供很強(qiáng)的計(jì)算能力支撐，或者需要對(duì)多路視頻數(shù)據(jù)進(jìn)行信息融合，這類數(shù)據(jù)挖掘技術(shù)就適用于后端實(shí)現(xiàn)方式。例如公安部門在刑偵工作中需要用到的目標(biāo)特征信息——在刑偵過(guò)程中，需要在較短的時(shí)間內(nèi)完成對(duì)海量視頻數(shù)據(jù)中具有一定特征的目標(biāo)進(jìn)行檢索。在這類應(yīng)用中，需要系統(tǒng)在短時(shí)間內(nèi)完成對(duì)海量視頻數(shù)據(jù)中的目標(biāo)特征進(jìn)行提取及檢索，因此利用服務(wù)器集群的后端實(shí)現(xiàn)方式就可以提供高密度計(jì)算能力的支撐。又例如，對(duì)人員身份信息的檢索，用戶需要輸入目標(biāo)人員的人臉圖片在海量視頻數(shù)據(jù)中對(duì)該目標(biāo)人員進(jìn)行檢索。在這類應(yīng)用中需要對(duì)海量視頻數(shù)據(jù)進(jìn)行人臉檢測(cè)并建立人臉特征庫(kù)，并在人臉特征庫(kù)中檢索出特征相似的目標(biāo)，由于涉及多路視頻數(shù)據(jù)的信息融合建立人臉特征庫(kù)，因此需要應(yīng)用后端實(shí)現(xiàn)方式。

數(shù)據(jù)挖掘流程

視頻數(shù)據(jù)挖掘的目的是建立底層視頻數(shù)據(jù)到高層語(yǔ)義信息之間的映射關(guān)系，由于這種映射關(guān)系比較復(fù)雜，一般采用多層次的信息提取及映射技術(shù)來(lái)最終實(shí)現(xiàn)數(shù)據(jù)挖掘過(guò)程，其信息提取的層次模型可以由圖3表示。在視頻數(shù)據(jù)挖掘過(guò)程中，從底層的視頻數(shù)據(jù)中首先提取低層圖像特征信息，包括圖像紋理、圖像色塊、運(yùn)動(dòng)矢量、圖像邊緣、灰度直方圖等信息，這類信息無(wú)法為我們所直接理解，它們是提取元語(yǔ)義信息的基礎(chǔ)。然后利用目標(biāo)檢測(cè)、目標(biāo)跟蹤、特征比對(duì)等手段從圖像特征中提取元語(yǔ)義信息，包括運(yùn)動(dòng)目標(biāo)、運(yùn)動(dòng)目標(biāo)軌跡、車牌圖片、人臉圖片等，這類信息已經(jīng)可以為我們所理解，但是離最終應(yīng)用還有距離。最后將元語(yǔ)義信息融合為高層的語(yǔ)義級(jí)描述信息，例如融合運(yùn)動(dòng)目標(biāo)軌跡信息及用戶設(shè)計(jì)的禁區(qū)信息所生成的描述內(nèi)容為“發(fā)現(xiàn)有人闖入禁區(qū)”的語(yǔ)義級(jí)報(bào)警信息，再例如融合目標(biāo)行人目標(biāo)檢測(cè)信息及運(yùn)動(dòng)軌跡信息可以生成客流量統(tǒng)計(jì)報(bào)表……隨著提取信息的層次越高，其包含的信息量逐步減少，其信息的抽象程度越高，也更接近我們所能應(yīng)用及理解的范疇。

行業(yè)應(yīng)用分析

不同行業(yè)對(duì)于視頻信息的需求及應(yīng)用方式是截然不同的，因此很難開(kāi)發(fā)出一套通用的視頻數(shù)據(jù)挖掘技術(shù)去適用于各個(gè)行業(yè)。在現(xiàn)有的技術(shù)發(fā)展水平下，比較合理的做法是根據(jù)各行業(yè)的需求開(kāi)發(fā)專用的視頻數(shù)據(jù)挖掘系統(tǒng)。以下筆者將著重介紹異常事件報(bào)警應(yīng)用及客流量統(tǒng)計(jì)應(yīng)用。

監(jiān)控系統(tǒng)的主要用途之一是為了在監(jiān)控場(chǎng)景中發(fā)生各類異常事件時(shí)，用戶可以及時(shí)發(fā)現(xiàn)這類事件并進(jìn)行處理，但是在缺少視頻數(shù)據(jù)挖掘技術(shù)時(shí)，監(jiān)控系統(tǒng)很難發(fā)揮應(yīng)有的效能。視頻數(shù)據(jù)挖掘技術(shù)可以從視頻中獲取描述運(yùn)動(dòng)目標(biāo)的各種元語(yǔ)義信息，并結(jié)合用戶事先設(shè)定的規(guī)則生成報(bào)警事件描述性語(yǔ)義信息，并及時(shí)通知用戶，使用戶能夠及時(shí)對(duì)這類事件做出反應(yīng)。這類視頻數(shù)據(jù)挖掘技術(shù)已經(jīng)發(fā)展到一定的成熟度，并在機(jī)場(chǎng)、鐵路、監(jiān)獄、油田、住宅小區(qū)等監(jiān)控領(lǐng)域有了較多的應(yīng)用，但是這類技術(shù)具有比較強(qiáng)的場(chǎng)景依賴性，在比較復(fù)雜多變的場(chǎng)景下其應(yīng)用效果還需要進(jìn)一步提升。

監(jiān)控視頻中包含了大量統(tǒng)計(jì)類信息，這類信息對(duì)管理優(yōu)化及決策輔助有寶貴的應(yīng)用價(jià)值，例如連鎖店的客流量、保有量及客戶購(gòu)買率等信息對(duì)于連鎖行業(yè)客戶非常重要，現(xiàn)階段要獲取這類信息一般只能靠人工方式統(tǒng)計(jì)，成本非常昂貴。視頻數(shù)據(jù)挖掘技術(shù)可以通過(guò)安裝在連鎖店門口的攝像機(jī)獲取進(jìn)出店門的人員視頻，并從視頻中獲取進(jìn)出人員及人員運(yùn)動(dòng)軌跡等元語(yǔ)義信息，并最終根據(jù)用戶設(shè)定的需求生成各類統(tǒng)計(jì)報(bào)表。目前，由于技術(shù)限制，從視頻中挖掘的統(tǒng)計(jì)信息雖無(wú)法保證百分之百精確，但是其勝處在于獲取的數(shù)據(jù)量龐大且成本低廉。

結(jié)語(yǔ)

監(jiān)控視頻數(shù)據(jù)是埋藏了大量有用信息的“寶庫(kù)”，由于巨大的“語(yǔ)義鴻溝”存在，我們一直以來(lái)對(duì)這座寶庫(kù)可望不可及，借助數(shù)據(jù)挖掘技術(shù)這座“橋梁”我們有望跨越這條鴻溝。然而由于視頻數(shù)據(jù)包含的信息非常龐大且各行業(yè)對(duì)于信息的需求不同，不同的視頻數(shù)據(jù)挖掘技術(shù)的成熟度有所不同，有些已經(jīng)可以成熟應(yīng)用，而有些還處于起步階段，需要監(jiān)控技術(shù)供應(yīng)商及集成商付出長(zhǎng)期的努力來(lái)完善該類技術(shù)。

作者為杭州?？低晹?shù)字技術(shù)股份有限公司項(xiàng)目總監(jiān)