互信息在圖像檢索中的應(yīng)用

盛仲飆

(渭南師范學(xué)院數(shù)學(xué)與信息科學(xué)學(xué)院,陜西渭南 714099)

【信息科學(xué)與工程研究】

互信息在圖像檢索中的應(yīng)用

盛仲飆

(渭南師范學(xué)院數(shù)學(xué)與信息科學(xué)學(xué)院,陜西渭南 714099)

基于互信息的圖像檢索方法是根據(jù)圖像的可視性及相似性測(cè)度對(duì)圖像進(jìn)行檢索的方法.首先利用互信息生成一種在統(tǒng)計(jì)上有代表性的視覺模式,使用這種模式的分布作為圖像內(nèi)容的描述符;接著利用該內(nèi)容的描述,設(shè)計(jì)其互信息的計(jì)算方法以衡量圖像的相似性.實(shí)驗(yàn)結(jié)果表明,在圖像檢索中,相對(duì)于其他如KL散度和L2規(guī)范等方法,互信息是一種更為有效的衡量相似性的方法.

圖像檢索;互信息;高斯金字塔;顏色直方圖

0 引言

基于內(nèi)容的圖像檢索是目前計(jì)算機(jī)視覺、圖像數(shù)據(jù)庫與知識(shí)挖掘領(lǐng)域最活躍的研究熱點(diǎn)之一.它根據(jù)圖像中物體的顏色、紋理、形狀等特征來查詢圖像.其中,相似性測(cè)度是圖像索引中的一個(gè)關(guān)鍵環(huán)節(jié),測(cè)度的選擇是否合理,直接影響圖像檢索的準(zhǔn)確性.互信息作為一種相似性測(cè)度方法有很多優(yōu)點(diǎn):首先,互信息測(cè)量了變量之間的普遍性統(tǒng)計(jì)關(guān)系;其次,對(duì)于變量的單調(diào)線性變換,其互信息是不變的;再次,互信息能夠直觀說明相似性大小.利用互信息作為相似性的衡量標(biāo)準(zhǔn),檢索結(jié)果是和樣本圖像具有最大的互信息的圖像,或者說,這些被檢索的圖像應(yīng)該能表達(dá)樣本圖像的最大信息量[1-3].

1 互信息相似度量的圖像表示

圖像的內(nèi)容描述往往采用顏色和紋理特征[1].圖像的表示方法對(duì)相似性測(cè)量效果有直接的影響.在沒有標(biāo)準(zhǔn)的圖像內(nèi)容表示法時(shí),本文采用了學(xué)習(xí)統(tǒng)計(jì)上有代表性的視覺模型,它同時(shí)描述了圖像紋理和顏色分布特性.

首先把一個(gè)給定的圖像分解成一個(gè)多層次的高斯金字塔,在每一級(jí),該圖像由對(duì)立的色彩空間來表示,令{Il(x,y)}={rl(x,y),gl(x,y),bl(x,y)}表示圖像金字塔的第l級(jí)圖像,這些圖像然后轉(zhuǎn)換到一個(gè)對(duì)立空間.用YChCr空間,在每一級(jí)形成m×n像素的圖像補(bǔ)丁(塊).令{Bl(i,j)}={(Yl(i,j),Cbl(i,j), Crl(i,j))|i=1,2,…,m;j=1,2,…,n}為第l級(jí)圖像補(bǔ)丁,對(duì)于每一個(gè)補(bǔ)丁塊,建立如下形式的向量:其中:al是非彩色外觀向量,cl是Bl(i,j)塊的彩色向量.對(duì)于各級(jí)金字塔,使用單一均勻尺寸(4×4像素)的塊,它覆蓋了原圖像中面積為4×4,8×8,16×16,32×32,…的像素區(qū)域,覆蓋面積取決于向量在金字塔的哪一級(jí).然后,使用矢量量化來為非彩色向量(所有分辨率)和彩色向量(依然是所有分辨率)設(shè)計(jì)各自的碼本.顯然非彩色向量為16維,彩色向量為8維.

設(shè)計(jì)好的碼本就可以代表圖像的內(nèi)容,一個(gè)圖像通過如下4個(gè)步驟來檢索:

(1)將圖像分解成一個(gè)L級(jí)高斯金字塔;

(2)對(duì)于每個(gè)l級(jí)(l=1,2,…,L),將圖像分成4×4塊(相互可以交疊),對(duì)每一塊,通過(1)式來計(jì)算消色差和彩色向量,并且根據(jù)各自的碼本,對(duì)這些向量進(jìn)行編碼;

(3)對(duì)于每個(gè)l級(jí)(l=1,2,…,L),構(gòu)建一個(gè)非彩色視覺模式直方圖和彩色視覺模式直方圖,這些直方圖記錄對(duì)圖像塊進(jìn)行編碼時(shí)每個(gè)碼字的出現(xiàn)頻率;

(4)連接各級(jí)消色差和色彩直方圖來構(gòu)建最終圖像符.

2 互信息及其計(jì)算

假設(shè)X=(x1,x2,…,xn),Y=(y1,y2,…,yn)是二進(jìn)制碼的直方圖,xi和yi是相應(yīng)直方圖的第n個(gè)二進(jìn)制數(shù).X和Y的互信息[3,10,13]定義為:

其中:H(X)是X直方圖的香農(nóng)熵,由二進(jìn)制數(shù)的概率分布計(jì)算可得.此處的香農(nóng)熵不同于圖像熵,圖像熵可以由二進(jìn)制數(shù)直接計(jì)算可得.將X的二進(jìn)制數(shù)設(shè)為a,0≤a≤1.二進(jìn)制數(shù)的概率分布可以定義如下:

其中:δ是狄拉克δ函數(shù).在離散情況下,a是一個(gè)不連續(xù)的量,積分用“和”來代替.H(X|Y)是基于條件概率P(X=a|Y=b)的條件熵,在Y的值為b的情況下X為a的概率.

熵是一種不確定性度量.因此,方程式(2)的含義為:當(dāng)直方圖X的不確定度減去直方圖Y(Y的內(nèi)容)已知時(shí)X的不確定度.因此,當(dāng)Y已知時(shí),X的不確定度減少的量為交互信息I(X;Y),或者說,Y包含了關(guān)于X的信息量.交互信息是對(duì)稱的,也就是說I(X;Y)=I(Y;X),因此互信息也是X中包含的關(guān)于Y的信息量.

互信息也可以定義為直方圖的聯(lián)合概率分布:

估計(jì)直方圖X和Y的聯(lián)合概率P(a,b)=P(X=a,Y=b),最簡單的辦法就是計(jì)算相應(yīng)的二進(jìn)制碼值的共生矩陣CM(a,b),它記錄了二進(jìn)制量X(其值為a)與相應(yīng)的二進(jìn)制量Y(其值為b)一致的次數(shù).基于圖像配準(zhǔn)的交互信息使用了一種類似的方法來估計(jì)兩個(gè)圖像的聯(lián)合概率[6].聯(lián)合概率通過記錄除以共生矩陣記錄的總次數(shù)來獲得聯(lián)合概率.P(X=a)和P(Y=b)的邊緣分布可以通過共生矩陣的行和或者列和得到.

聯(lián)合概率也可以使用Parzen窗口技術(shù)來估計(jì)得到[7].假定vi=(xi,yi),uj=(xj,yj)為對(duì)應(yīng)X,Y的二進(jìn)制值,vi=(xi,yi)聯(lián)合概率可以定義為:

3 實(shí)驗(yàn)結(jié)果

本文所使用的數(shù)據(jù)庫是Corel庫存圖像數(shù)據(jù)的集合.對(duì)于每張圖像,使用了3級(jí)高斯金字塔,彩色和消色差模式的密碼長度都是64位.

在實(shí)驗(yàn)中,進(jìn)一步定義了兩種基于交互信息的相似性度量方式.歸一化的互信息定義為

信息距離測(cè)度(MID)定義為

其中:H(X,Y)為相關(guān)平均信息量,MID滿足距離公理:

作為比較,同樣完成了KL散度測(cè)量、標(biāo)準(zhǔn)相關(guān)度、歐幾里得距離作為相似性度量.

假定Qi作為第i級(jí)查詢圖像,i=1,2,…,k,并且令Qi(1),Qi(2),…,Qi(Ni)作為Ni個(gè)查詢圖像Qi的“正確”答案.定義了如下的平均累計(jì)召回措施:

顯然,較大的RC(1)性能就越好.還定義了下面的精度測(cè)量:

同樣,較大的PR(1)所對(duì)應(yīng)的性能越好.選擇3個(gè)類動(dòng)物圖像作為查詢實(shí)例和目標(biāo)圖像,它們是獵豹、老虎、獅子的動(dòng)物形象.圖像數(shù)據(jù)庫的總大小是10 000.對(duì)于每一種相似性的衡量措施,交互信息(MI),歸一化互信息(NMI),交互信息距離(MID),利用Kullback-Leibler散度(KLD),歸一化相關(guān)(NC),和歐氏距離(ED),在此,進(jìn)行了300次查詢,就是每個(gè)獅子、老虎、獵豹類別中的圖像都被用來作為一個(gè)查詢.這些查詢的檢索率和精確性由圖1和圖2表示.

圖1 不同相似性度量的召回率

圖2 不同相似性度量的精確度

從圖1和圖2可以看出,交互信息衡量相似性的表現(xiàn)優(yōu)于其他措施.可以看出交互信息定義量X和Y等于Kullback-Leibler分散度,而且和Kullback-Leibler發(fā)散角有密切的關(guān)系.事實(shí)上,交互信息I(X,Y)介于聯(lián)合概率函數(shù)P(X,Y)和概率函數(shù)P(X)和P(Y)的積之間.實(shí)驗(yàn)結(jié)果表明,相比Kullback-Leibler散度,交互信息是一種更有效的相似性度量手段.

4 結(jié)語

本文引入了基于交互信息的圖像檢索方法,驗(yàn)證了可以使用交互信息作為圖像間相似性度量.兩個(gè)圖像具有更高的交互信息,意味著知道了一個(gè)圖像就能表達(dá)另一個(gè)圖像的更多信息,因此互信息自然是一種衡量圖像間相似性的手段.最后設(shè)計(jì)了一種計(jì)算圖像的視覺直方圖之間交互信息的方法,實(shí)驗(yàn)結(jié)果證明了相比于所廣泛使用的方法,交互信息衡量手段具有很大的優(yōu)越性.這種方法可以很容易地?cái)U(kuò)展到其他的圖像內(nèi)容描述符,如顏色相關(guān)圖、MPEG-7顏色描述符和其他廣泛使用的圖像描述符.

[1]Minakshi Banerjee,Malay Kumar Kundu,Pradipta Maji.Content-based image retrieval using visually significant point features [J].Fuzzy Sets and Systems,2009,160(23):3323-3341

[2]Thomas Hurtut,Yann Gousseau,Francis Schmitt.Adaptive image retrieval based on the spatial organization of colors[J].Computer Vision and Image Understanding,2008,112(2):101-113.

[3]Maciej A.Mazurowski,Joseph Y.Lo,Brian P.Harrawood,et al.Mutual information-based template matching scheme for detection of breastmasses:From mammography to digital breast tomosynthesis[J].Journal of Biomedical Informatics,2011,44(5): 815-823.

[4]Feng Wanga,Cheng Yang,Zhiyi Lin,et al.Hybrid sampling on mutual information entropy-based clustering ensembles for optimizations[J].Neurocomputing,2010,73(7-9):1457-1464.

[5]陳偉卿.基于互信息的醫(yī)學(xué)圖像剛性配準(zhǔn)研究[D].大連:大連理工大學(xué)博士學(xué)位論文,2009.

[6]譚立球.基于本體的圖像檢索相關(guān)技術(shù)研究[D].長沙:中南大學(xué)博士學(xué)位論文,2009.

[7]陳慶芳.基于分塊互信息的圖像匹配[J].計(jì)算機(jī)工程與應(yīng)用,2011,47(9):160-162.

【責(zé)任編輯 曹 靜】

Application of Mutual Information in Image Retrieval

SHENG Zhong-biao
(School of Mathematics and Information Science,Weinan Normal University,Weinan 714099,China)

An approach for image retrieval usingmutual information is based on the visibility of the image and the similarity measurement.The paper first generates a setof statistically representative visual patterns and uses the distributions of these patterns as images content descriptors.And then using the similarity of two images,it develops amethod to compute themutual information between their content descriptors.Two imageswith larger descriptormutual information is regarded asmore similarity.The experimental results demonstrate thatmutual information is amore effective image similaritymeasurement than others such as Kullback-Leibler divergence and L2 norms.It has greater benefits.

image retrieval;mutual information;Gaussian pyramid;color histogram

TP391

A

1009-5128(2014)03-0043-04

2013-12-10

陜西省教育廳科學(xué)研究計(jì)劃項(xiàng)目:關(guān)于F.Smarandache數(shù)論問題的計(jì)算機(jī)輔助研究(2013JK1165);渭南市自然科學(xué)基礎(chǔ)研究計(jì)劃項(xiàng)目:支持多協(xié)議的智能儀表軟件架構(gòu)研究(2012KYJ-8)

盛仲飆(1974—),女,陜西渭南人,渭南師范學(xué)院數(shù)學(xué)與信息科學(xué)學(xué)院講師,碩士,主要從事網(wǎng)絡(luò)計(jì)算機(jī)應(yīng)用技術(shù)研究.