反積型信息熵及其在圖像分割中的應(yīng)用

王 帥, 李 婷, 于永利

(1. 陸軍工程大學(xué)石家莊校區(qū)信息工程系， 河北 石家莊 050003；2. 陸軍工程大學(xué)石家莊校區(qū)裝備指揮與管理系， 河北 石家莊 050003)

熵的概念源自于熱力學(xué)，是表征物質(zhì)狀態(tài)的參量，其物理意義是體系混亂程度的度量[1]。香農(nóng)于1948年提出信息熵的概念，并給出了數(shù)學(xué)表達(dá)，解決了信息度量問(wèn)題[2]。信息熵出現(xiàn)后，在諸多領(lǐng)域得到了廣泛應(yīng)用。圖像分割作為計(jì)算機(jī)圖形圖像處理中的基礎(chǔ)技術(shù)，是讀取、分析和理解圖像信息的關(guān)鍵步驟。1980年以后，國(guó)內(nèi)外眾多研究者將熵的概念應(yīng)用于圖像分割處理，并進(jìn)行了大量研究。如：曹建農(nóng)[3]系統(tǒng)地闡述了信息熵、Renyi熵、Tsallis熵等新型熵在圖像分割處理中的應(yīng)用，并基于此對(duì)比了全局熵、局部熵、指數(shù)熵、高維熵、條件熵、聯(lián)合熵和交叉熵等基本熵，同時(shí)對(duì)比了一維熵和二維熵的應(yīng)用；吳成茂[4]研究了新型信息熵及其性質(zhì)，并用于圖像分割，獲得了良好效果；林佳穎[5]和冉清華[6]研究了基于Renyi熵圖像分割算法；盛春冬[7]和唐土生等[8]研究了模糊熵在圖像分割中的應(yīng)用；張新明等[9]研究了基于Tsallis熵采用廣義概率進(jìn)行圖像分割；路亞緹[10]將粒子群優(yōu)化算法應(yīng)用于最大熵多閾值圖像分割方法中；陳愷[11]將螢火蟲(chóng)算法和二維熵多閾值方法結(jié)合起來(lái)進(jìn)行快速圖像分割；張曉麗[12]研究了基于改進(jìn)差分進(jìn)化算法進(jìn)行二維最大熵圖像分割；李?lèi)?ài)菊等[13]采用改進(jìn)布鳥(niǎo)算法進(jìn)行最大熵值圖像分割等。上述研究均在一定程度上提高了圖像分割效果，豐富了圖像分割內(nèi)涵，但也有一定的適用范圍。為簡(jiǎn)化圖像分割算法，提高圖像分割處理效率，筆者在信息熵的基礎(chǔ)上定義一種反積型信息熵，并證明其性質(zhì)，最后通過(guò)采用二維閾值最大熵值法并結(jié)合圖像分割實(shí)例應(yīng)用驗(yàn)證該熵的有效性和實(shí)用性。

1 信息熵

(1)

信息熵的典型性質(zhì)為[2-3]：

1) 非負(fù)性。對(duì)于任意離散概率分布P，則有0≤H(P)≤logn。

2) 確定性。對(duì)于任意離散概率分布P，當(dāng)P=(0,0,…,0,1,0,…,0)時(shí)，則有H(P)=0，即離散事件中，如果有確定性的事件發(fā)生，那么其信息熵為0。

3) 對(duì)稱(chēng)性。當(dāng)p1,p2,…,pn的順序任意互換時(shí)，H(P)值不變。

4) 可加性。獨(dú)立事件的熵等于各獨(dú)立事件的熵之和，即H(PQ)=H(P)+H(Q)。

信息熵在描述信息不確定度時(shí)，對(duì)于一個(gè)n狀態(tài)系統(tǒng)，pi作為第i個(gè)事件發(fā)生的概率，則第i個(gè)事件的信息量可表示為

H(pi)=-pilogpi。

(2)

由式(2)可推出：pi越大，其信息量越小，即第i個(gè)事件的不確定度越小。因此，本文提出反積型信息熵，用于描述n狀態(tài)系統(tǒng)的信息量。

2 反積型信息熵

2.1 定義

對(duì)于第i個(gè)事件，其發(fā)生的概率為pi，那么其信息量表征為1-pi。對(duì)于離散概率分布P=(p1,p2,…,pn)，n狀態(tài)系統(tǒng)的熵值H′(P)命名為反積型信息熵，可表示為

(3)

反積型信息熵的含義為：離散系統(tǒng)的信息量，可使用離散事件中原發(fā)生概率取反后的相互乘積來(lái)衡量。反積型信息熵具有如下性質(zhì)：

2) 確定性。對(duì)于任意離散概率分布P，當(dāng)且僅當(dāng)P=(0,0,…,0,1,0,…,0)時(shí)，有H′(P)=0，即離散事件中，如果有確定性的事件發(fā)生，那么其信息熵為0。

4) 不可加性。獨(dú)立事件的熵不等于各獨(dú)立事件熵之和，即H(PQ)≠H(P)+H(Q)。

反積型信息熵的不可加性是顯而易見(jiàn)的，這里不作證明，而僅證明性質(zhì)1)-3)。

2.2 證明

2.2.1 非負(fù)性證明

因?yàn)?/p>

0≤pi≤1，

則

進(jìn)而

因?yàn)?/p>

所以

2.2.2 確定性證明

對(duì)于任意離散概率分布P，當(dāng)P=(0,0,…,0,1,0,…,0)時(shí)，1-P=(1,1,…,1,0,1,…,1)，因此

且上述離散事件順序可任意調(diào)換。

由于

并且

所以

(4)

又因?yàn)?/p>

0≤pi≤1，

所以

2.2.3 對(duì)稱(chēng)性證明

由性質(zhì)1)證明可知

當(dāng)且僅當(dāng)1-p1=1-p2=…=1-pn時(shí)等號(hào)成立，

也即

則有

3 信息熵在圖像分割中的應(yīng)用

3.1 二維閾值最大熵值法圖像分割原理

閾值分割法是圖像分割中基本而又廣泛使用的一種方法，其思想是采用閾值來(lái)劃分圖像中的目標(biāo)物與其背景物灰度，使目標(biāo)從背景中分離出來(lái)。閾值分割方法的原理為：設(shè)原始灰度圖像函數(shù)為f(x,y)，以一定的準(zhǔn)則在f(x,y)中找出一個(gè)灰度值t作為閾值，將圖像分割為2部分，分割后的二值函數(shù)

(5)

二維閾值化圖像分割方法則需要同時(shí)考慮像素點(diǎn)的灰度值及其鄰域平均灰度值,其原理為：將f(x,y)看作一個(gè)二維灰度圖像函數(shù)，其鄰域灰度值為g(x,y)，設(shè)二維分割閾值分別為s和t，則對(duì)圖像函數(shù)f(x,y)以二維閾值分割后的二值函數(shù)記為fs,t(x,y)，即

(6)

假定有一幅數(shù)字灰度圖像G，表示為G=[g(x,y)]M×N(1≤x≤M，1≤y≤N)，則該圖像中灰度的變化為0～L-1(L=256)，對(duì)于圖像上任何一個(gè)像素點(diǎn)m×n(m、n通常取值為3)，有像素灰度值u和鄰域平均灰度值v與其對(duì)應(yīng)。設(shè)ruv表示圖像G中像素灰度值為u，且其鄰域平均灰度值為v的像素點(diǎn)的個(gè)數(shù)，有

(7)

則定義二元組(u,v)在圖像G中的二維聯(lián)合概率密度p(u,v)，則有[4,14]

(8)

式(8)本質(zhì)上是一個(gè)二維均值直方圖，相比較一維閾值圖像分割，其用于圖像分割能夠降低圖像噪聲和邊緣的影響，可較好地保證圖像分割效果，但二維均值表示復(fù)雜，計(jì)算量大，必然增加計(jì)算時(shí)間。本文將分別使用信息熵最大熵值法和反積型信息熵最大熵值法求解二維閾值，再利用所得二維閾值進(jìn)行典型圖像分割，對(duì)比圖像分割效果以及所耗時(shí)間。

提取原始圖像任意像素點(diǎn)的灰度值以及計(jì)算該像素點(diǎn)鄰域平均灰度值之后，根據(jù)給定的二維閾值(s,t)，將圖像二維聯(lián)合概率密度分割成A、B、C、D四個(gè)典型區(qū)域。一般而言，圖像中目標(biāo)點(diǎn)和背景點(diǎn)在圖像像素中所占比例最大，且目標(biāo)區(qū)域和背景區(qū)域內(nèi)部的像素點(diǎn)灰度級(jí)比較均勻，點(diǎn)灰度及其區(qū)域灰度均值相差不大，導(dǎo)致目標(biāo)點(diǎn)和背景點(diǎn)往往集中在對(duì)角線附近[14]。因此，可用對(duì)角線連接圖1中的A、B區(qū)域，使其分別對(duì)應(yīng)于目標(biāo)和背景，而將遠(yuǎn)離對(duì)角線的C、D區(qū)域分別對(duì)應(yīng)噪聲和邊緣。圖像二維閾值分割分區(qū)表達(dá)如圖1所示。

此時(shí)，假設(shè)目標(biāo)概率和背景分別為CA和CB，其出現(xiàn)的概率分別為

(9)

則目標(biāo)CA的灰度級(jí)(u,v)所對(duì)應(yīng)的概率分布為

(10)

同樣地，背景CB的灰度級(jí)(u,v)所對(duì)應(yīng)的概率分布為

(11)

根據(jù)基于信息熵的二維直方圖閾值化分割準(zhǔn)則，可得二維最優(yōu)閾值(sopt,topt)為

H(s,t,CB)}，

(12)

式中：

(13)

(14)

分別為給定閾值(sopt,topt)分割圖像所得目標(biāo)CA和CB的信息熵。

相應(yīng)地，反積型信息熵分別為

(15)

(16)

3.2 二維閾值圖像分割過(guò)程

為了驗(yàn)證反積型信息熵的有效性，分別采用信息熵二維最大閾值分割法和反積型信息熵二維最大閾值分割法對(duì)圖像進(jìn)行分割實(shí)驗(yàn)，具體圖像分割處理流程如圖2所示。其中：選用的圖像處理工具是MATLAB2011b，計(jì)算機(jī)配置為Intel(R) CoreTMi7-6700 @2600 GHz，8 GB內(nèi)存，64_位Windows7操作系統(tǒng)。

限于篇幅，選用了5幅典型灰度圖像作為示例說(shuō)明，采用2種二維閾值法對(duì)其進(jìn)行分割，其圖像及其分割效果如圖3-7所示，表1為5幅圖像對(duì)應(yīng)的閾值和時(shí)間消耗。

由圖3-7可以看出：反積型信息熵用于二維閾值圖像分割是可行的。同時(shí)，由圖4、5、7可以清晰地看出：在圖像分割細(xì)節(jié)方面，反積型信息熵的分割效果優(yōu)于信息熵分割效果，進(jìn)一步驗(yàn)證了反積型熵的有效性。反積型信息熵的數(shù)學(xué)性質(zhì)有效支撐了其在圖像分割領(lǐng)域的可行性和有效性，說(shuō)明了其與信息熵在進(jìn)行信息量量化方面本質(zhì)上是一致的。

圖像名稱(chēng)原圖大小/kB信息熵分割法反積型信息熵分割法閾值計(jì)算時(shí)間/s閾值計(jì)算時(shí)間/sLena512×512 258(123,120)32.132 4(112,99)11.510 2手骨骼307×409 124(32,29)10.169 7 (41,35)4.538 3文本320×240 77 (168,166)18.067 8(167,162)7.532 3樓梯254×252 65 (115,121)12.170 5(115,109)4.684 1小兔461×461 210(121,80)21.106 0(99,115)11.167 9

由表1可以看出：反積型信息熵的計(jì)算時(shí)間遠(yuǎn)小于信息熵計(jì)算時(shí)間，后者約為前者的2.5倍，與理論結(jié)論相符。

4 結(jié)論

本文提出了反積型信息熵，并從數(shù)學(xué)性質(zhì)和圖像分割應(yīng)用2個(gè)角度證明了該熵的有效性，且該信息熵表達(dá)簡(jiǎn)單，便于理解，同時(shí)實(shí)驗(yàn)結(jié)果表明其能夠大幅減少計(jì)算時(shí)間，進(jìn)一步豐富了信息熵的理論，具有一定的現(xiàn)實(shí)意義。但在進(jìn)行計(jì)算時(shí)并未對(duì)求解過(guò)程進(jìn)行優(yōu)化，若與其他優(yōu)化算法結(jié)合使用，則能夠進(jìn)一步節(jié)省圖像分割時(shí)間，提高分割效率。

參考文獻(xiàn)：

[1] 傅祖蕓.信息論-基礎(chǔ)理論與應(yīng)用[M].3版.北京:電子工業(yè)出版社,2011:1-40.

[2] 高秀峰,齊劍鋒.軍事信息技術(shù)基礎(chǔ)[M].北京:電子工業(yè)出版社,2017:5-20.

[3] 曹建農(nóng).圖像分割的熵方法綜述[J].模式識(shí)別與人工智能,2012,25(6):958-969.

[4] 吳成茂.一種新信息熵定義及其在圖像分割中的應(yīng)用[J].西安郵電學(xué)報(bào),2009,14(1):72-78.

[5] 林佳穎.基于Renyi熵的圖像分割算法研究[D].長(zhǎng)春:吉林大學(xué),2010:10-13.

[6] 冉清華.基于Renyi熵理論的圖像分割算法研究[D].重慶:重慶大學(xué),2011:13-23.

[7] 盛春冬.基于變精度粗糙熵的職能圖像分割方法研究[D].哈爾濱:哈爾濱工程大學(xué),2011:17-28.

[8] 唐土生,陳絢青.基于超模糊熵ULPCNN二值圖像分割算法研究與實(shí)現(xiàn)[J].激光雜志,2016,37(1):113-116.

[9] 張新明,張貝,涂強(qiáng).廣義概率Tsallis熵的快速多閾值圖像分割[J].數(shù)學(xué)采集與處理,2013,31(3):502-511.

[10] 路亞緹.基于粒子群優(yōu)化算法的最大熵多閾值圖像分割研究[D].鄭州:鄭州大學(xué),2015:13-22.

[11] 陳愷.基于螢火蟲(chóng)算法的二維熵多閾值快速圖像分割[J].光學(xué)精密工程,2014,22(2):517-523.

[12] 張曉麗.基于改進(jìn)差分進(jìn)化算法的二維最大熵圖像分割[J].自動(dòng)化技術(shù)與應(yīng)用,2016,35(6):71-76.

[13] 李?lèi)?ài)菊,鈕文良,王廷梅.改進(jìn)布鳥(niǎo)搜索算法最大熵值的醫(yī)學(xué)圖像分割[J].計(jì)算機(jī)仿真,2014,31(8):421-425.

[14] 張毅軍,吳雪菁,夏良正.二維熵圖像閾值分割的快速遞推算法[J].模式識(shí)別與人工智能,1997,10(3):259-263.