周 巖, 王雪瑞
(河南工程學(xué)院 計(jì)算機(jī)學(xué)院,鄭州 451191)
?
基于改進(jìn)小波神經(jīng)網(wǎng)絡(luò)的圖像壓縮算法
周巖, 王雪瑞
(河南工程學(xué)院 計(jì)算機(jī)學(xué)院,鄭州 451191)
在傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上,引入小波函數(shù)而構(gòu)成的小波神經(jīng)網(wǎng)絡(luò)具有極強(qiáng)的函數(shù)映射能力,在圖像壓縮領(lǐng)域有著較多應(yīng)用.為了進(jìn)一步提高圖像的壓縮質(zhì)量,引入了遺傳算法對傳統(tǒng)小波神經(jīng)網(wǎng)絡(luò)算法進(jìn)行改進(jìn),在對小波基平移和伸縮參數(shù)系數(shù)進(jìn)行尋優(yōu)時(shí),將其作為種群初始化,經(jīng)過選擇、交叉和變異,獲得最佳染色體,最后將最佳染色體轉(zhuǎn)化成對應(yīng)的權(quán)值、伸縮系數(shù)和平移系數(shù)從而進(jìn)行小波神經(jīng)網(wǎng)絡(luò)映射.實(shí)驗(yàn)結(jié)果表明,改進(jìn)后的小波神經(jīng)網(wǎng)絡(luò)圖像壓縮方法相較傳統(tǒng)小波神經(jīng)網(wǎng)絡(luò)法,均方誤差分別降低了14.8%和16.7%,圖像信噪比分別提高了9.15%和7.11%,圖像壓縮質(zhì)量有了較大提高.
圖像處理;遺傳算法;小波神經(jīng)網(wǎng)絡(luò);圖像壓縮;編碼
隨著多媒體與信息技術(shù)的發(fā)展,圖像信息的存儲(chǔ)和傳輸顯得愈發(fā)重要[1].為了實(shí)現(xiàn)在有限的設(shè)備中存儲(chǔ)或者傳輸這些海量信息,就需要對其進(jìn)行編碼壓縮處理[2-3],但傳統(tǒng)的編碼方法在壓縮效率和壓縮效果方面無法滿足需要.許多學(xué)者正在探索新的更有效的方法,Kunt[4]等人于1985年提出了“第二代”圖像編碼技術(shù),主要有基于模型的編碼、基于區(qū)域分割的編碼、基于分形的編碼和基于神經(jīng)網(wǎng)絡(luò)編碼等.文獻(xiàn)[5]和文獻(xiàn)[6]將小波變換與神經(jīng)網(wǎng)絡(luò)結(jié)合應(yīng)用對圖像進(jìn)行壓縮編碼,也都實(shí)現(xiàn)了不錯(cuò)的效果.但傳統(tǒng)的小波神經(jīng)網(wǎng)絡(luò)法很容易陷入局部最小點(diǎn),且全局搜索能力較弱.遺傳算法是通過模擬生物在自然狀態(tài)下的遺傳與進(jìn)化過程而成的一種具有自適應(yīng)性的全局優(yōu)化搜索算法[7],廣泛應(yīng)用于數(shù)學(xué)優(yōu)化、機(jī)器人學(xué)、圖像處理、生產(chǎn)調(diào)度、控制理論和機(jī)器學(xué)習(xí)中,遺傳算法可以對多峰、復(fù)雜、非線性和不可微函數(shù)達(dá)到較好的全局搜索效果[8].引入遺傳算法對小波神經(jīng)網(wǎng)絡(luò)的圖像壓縮方法進(jìn)行改進(jìn),在確定小波基平移和伸縮系數(shù)時(shí),利用遺傳算法對其進(jìn)行尋優(yōu),依次進(jìn)行選擇、交叉和變異等遺傳操作,獲得最佳染色體,最后將最佳染色體轉(zhuǎn)化成對應(yīng)參數(shù)值,在小波神經(jīng)網(wǎng)絡(luò)的隱含層映射中,得到壓縮圖像,有更好的圖像壓縮質(zhì)量.
1.1小波神經(jīng)網(wǎng)絡(luò)
小波神經(jīng)網(wǎng)絡(luò)與BP網(wǎng)絡(luò)類似,是通過將小波函數(shù)作為基底的連接型網(wǎng)絡(luò),通常都是由輸入層、隱含層和輸出層三部分組成.其中,隱含層的激活函數(shù)就是小波函數(shù)[9].
小波神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法:設(shè)樣本點(diǎn)的總個(gè)數(shù)為N,小波分解層數(shù)為M,繼而根據(jù)樣本點(diǎn)對網(wǎng)絡(luò)進(jìn)行訓(xùn)練,直到滿足預(yù)先定義的精度要求.通常采用梯度下降法減小誤差函數(shù),定義代價(jià)函數(shù)為:
(1)
進(jìn)一步可以將誤差函數(shù)表示為:
E=E(W1,a1,b1,…,Wk,ak,bk)
(2)
為最小化誤差函數(shù),需要求得最優(yōu)的網(wǎng)絡(luò)參數(shù)W1,a1,b1,…,Wk,ak,bk.通過累積誤差逆?zhèn)鞑ニ惴ㄟM(jìn)行調(diào)整,有:
(3)
其中,k=1,2,…,K,η為學(xué)習(xí)率.在小波神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的過程中,通過選擇最優(yōu)的小波函數(shù)與尺度函數(shù),同時(shí)在最廣的尺度L上開始訓(xùn)練節(jié)點(diǎn),直到網(wǎng)絡(luò)收斂.在此過程中,通過預(yù)先確定逼近誤差,并基于此增加合適的節(jié)點(diǎn)從而減小誤差.再對網(wǎng)絡(luò)的性能進(jìn)行提升,通過引入新樣本進(jìn)行驗(yàn)證,同時(shí)忽略權(quán)值較小的節(jié)點(diǎn),當(dāng)使網(wǎng)絡(luò)的性能達(dá)到最優(yōu)時(shí)為止.另外,為了防止網(wǎng)絡(luò)無限訓(xùn)練下去,在訓(xùn)練前需要設(shè)定一個(gè)訓(xùn)練次數(shù)限制,當(dāng)訓(xùn)練次數(shù)達(dá)到此限制時(shí)還未收斂,則停止訓(xùn)練并重新選擇網(wǎng)絡(luò)參數(shù)開始新一輪訓(xùn)練.
1.2遺傳算法優(yōu)化原理
遺傳算法是通過自適應(yīng)迭代的方法,對全局進(jìn)行優(yōu)化和搜索,并將生物的進(jìn)化抽象為選擇、交叉和變異3個(gè)遺傳算子,并根據(jù)適者生存和優(yōu)勝劣汰的自然法則,通過分析個(gè)體的適應(yīng)度函數(shù),即目標(biāo)函數(shù),從而對個(gè)體施加遺傳操作來實(shí)現(xiàn)群體內(nèi)個(gè)體結(jié)構(gòu)重新組合的迭代運(yùn)算,直至得到具有最大適應(yīng)度的個(gè)體作為最優(yōu)解輸出[10].
遺傳算法基于概率方法迭代,具有一定的隨機(jī)性,基本思想如下:首先對小波神經(jīng)網(wǎng)絡(luò)中的伸縮系數(shù)、平移系數(shù)和權(quán)值等參數(shù)進(jìn)行編碼,同時(shí)確定初始目標(biāo)地函數(shù)值,將訓(xùn)練樣本數(shù)設(shè)定為初始種群數(shù),利用小波神經(jīng)網(wǎng)絡(luò)算法對網(wǎng)絡(luò)進(jìn)行訓(xùn)練,按照訓(xùn)練結(jié)果確定個(gè)體的適應(yīng)度函數(shù),利用選擇、交叉和變異等遺傳算子對其進(jìn)行運(yùn)算,獲得最佳染色體后,將最佳染色體轉(zhuǎn)化成對應(yīng)的伸縮系數(shù)、平移系數(shù)和權(quán)值.
圖1 神經(jīng)元結(jié)構(gòu)圖
2.1基于小波神經(jīng)網(wǎng)絡(luò)的圖像壓縮處理
將遺傳算法對小波神經(jīng)網(wǎng)絡(luò)進(jìn)行改進(jìn)后的新算法用于圖像壓縮領(lǐng)域,將第一層神經(jīng)元設(shè)置為原始待壓縮圖像,則隱含層的神經(jīng)元為圖像壓縮結(jié)果,第三層的神經(jīng)元輸出為解壓重建后的圖像,如圖1所示.
當(dāng)輸入的圖像經(jīng)過小波神經(jīng)網(wǎng)絡(luò)的訓(xùn)練加權(quán)后,得到的隱含層為原始圖像的壓縮編碼,可以通過量化器轉(zhuǎn)換成適合信息通道傳輸?shù)碾x散信號(hào),直到接收后再轉(zhuǎn)成相應(yīng)的連續(xù)信號(hào),最后到達(dá)輸出層經(jīng)加權(quán)后解碼即為原圖像.
設(shè)原始圖像為K×L的灰度圖像,則訓(xùn)練樣本總數(shù)為K×L.對于某個(gè)特征點(diǎn)gxy,相應(yīng)的網(wǎng)絡(luò)輸出為:
(4)
其中,ak代表小波基平移因子;Wk代表權(quán)重系數(shù);bk代表伸縮參數(shù);K代表小波基函數(shù)的個(gè)數(shù);h(x)則是小波函數(shù).故采用高斯推導(dǎo)式小波函數(shù):
(5)
利用均方差函數(shù):
(6)
(7)
(8)
(9)
2.2改進(jìn)過程
在對小波基的平移和伸縮參數(shù)系數(shù)進(jìn)行尋優(yōu)時(shí),引入遺傳算法.具體操作如下:
Step1:將種群規(guī)模設(shè)為P,即選擇P條染色體來初始化種群.每一條染色體分別用一個(gè)網(wǎng)絡(luò)結(jié)構(gòu)來進(jìn)行編碼.
Step2:利用小波神經(jīng)網(wǎng)絡(luò)對各初始參數(shù)進(jìn)行訓(xùn)練,并對初始參數(shù)(伸縮系數(shù)、平移系數(shù)和權(quán)值)進(jìn)行編碼,每個(gè)個(gè)體設(shè)置成問題的一個(gè)解.
Step3:按照訓(xùn)練的結(jié)果來確定每一個(gè)個(gè)體的適應(yīng)度函數(shù):
(10)
Step4:若計(jì)算結(jié)果滿足終止條件,則轉(zhuǎn)向Step8.
Step5:采用適應(yīng)度比例進(jìn)行選取遺傳算子,再根據(jù)個(gè)體的選擇幾率與其適應(yīng)度值成正比的原則進(jìn)行遺傳運(yùn)算,也就是說,只有適應(yīng)度較大的個(gè)體才能以相對應(yīng)大小的概率遺傳給子代個(gè)體.
Step6:選擇操作之后的種群,按照概率Pc隨機(jī)選擇兩個(gè)個(gè)體來進(jìn)行交叉算子,則[11]:
(11)
Step7:對每一個(gè)個(gè)體進(jìn)行變異操作,變異概率為Pm,則[12]:
Pm(g)=0.001+NG·C
(12)
其中,g表示當(dāng)前的進(jìn)化代數(shù),NG表示自上一次進(jìn)化以來到現(xiàn)在為止連續(xù)的未進(jìn)化代數(shù),C為變異率.
Step8:根據(jù)終止條件跳出算法循環(huán),得到最佳染色體,將染色體轉(zhuǎn)化成所對應(yīng)的伸縮系數(shù)、平移系數(shù)和網(wǎng)絡(luò)權(quán)值.
確定各參數(shù)之后,構(gòu)建g(w)和w,當(dāng)小波神經(jīng)網(wǎng)絡(luò)進(jìn)行第i次迭代時(shí),通過共扼梯度下降的手段得出搜索的方向:
(13)
2.3壓縮與解壓過程
圖像壓縮流程:
Step1:輸入圖像;
Step2:對小波參數(shù)Wk,ak,bk進(jìn)行初始化;
Step3:初始化神經(jīng)網(wǎng)絡(luò)權(quán)值,隱含層節(jié)點(diǎn)數(shù)并隨機(jī)調(diào)節(jié)各個(gè)參數(shù);
Step4:對小波參數(shù)Wk,ak,bk依次進(jìn)行編碼,選擇P條染色體初始化該種群;
Step5:通過在遺傳算法的尋優(yōu)過程中得到最佳的染色體,并將其變成所對應(yīng)的小波參數(shù);
Step6:與設(shè)定好的誤差函數(shù)比較,當(dāng)滿足誤差要求時(shí),將訓(xùn)練好的隱含層參數(shù)存儲(chǔ)為壓縮數(shù)據(jù);否則重新尋優(yōu).
圖像解壓過程:
Step1:存儲(chǔ)的訓(xùn)練后隱含層參數(shù)數(shù)據(jù)設(shè)置為小波網(wǎng)絡(luò)第二層的相應(yīng)參數(shù);
Step2:通過和已訓(xùn)練好的第二層與輸出層的權(quán)值進(jìn)行雙向變換,得到輸出層的參數(shù)數(shù)據(jù);
Step3:輸出層數(shù)據(jù)進(jìn)行規(guī)范化處理;
Step4:得到解壓縮后的圖像灰度矩陣.
為了驗(yàn)證本文提出的算法在實(shí)際壓縮過程中的性能,分別通過對Lena圖像和Antenna圖像采用傳統(tǒng)小波神經(jīng)網(wǎng)絡(luò)法和本文提出的算法對其進(jìn)行壓縮實(shí)驗(yàn).利用MATLAB編程對圖像進(jìn)行壓縮仿真,當(dāng)在對兩幅圖像的壓縮比均為4∶1時(shí),得到的仿真結(jié)果如圖2所示.
圖2 Lena和Antenna圖像的圖像壓縮效果對比
通常采用均方誤差MSE和峰值信噪比PSNR兩個(gè)參數(shù)來定量地評價(jià)圖像的質(zhì)量,為了進(jìn)一步分析壓縮圖像的濾波效果,定義如下:
(14)
(15)
式中,M代表圖像的高度;N代表圖像的寬帶.Sij為原始圖像的矩陣表達(dá)形式;Yij為采用本文提出的算法壓縮后的圖像矩陣表達(dá)形式;若MSE越小,說明濾波后噪聲被有效地抑制,圖像的保真度越好;若PSNR越大,說明解壓后圖像效果越接近原始圖像,解壓質(zhì)量越高.仿真得到的結(jié)果如表1所示.
表1 不同壓縮算法下MSE和PSNR對比
從表1中可以看出,對于Lena圖像,相對于傳統(tǒng)小波神經(jīng)網(wǎng)絡(luò)法,本文算法MSE降低了14.8%,圖像信噪比提高了9.15%,對于Antenna圖像,本文算法的MSE降低了16.7%,圖像信噪比提高了7.11%,可見圖像的保真度有了一定幅度提高,壓縮質(zhì)量有了較大的提高.
在傳統(tǒng)基于小波神經(jīng)網(wǎng)絡(luò)的圖像壓縮算法基礎(chǔ)上,引入遺傳算法,提出改進(jìn)小波神經(jīng)網(wǎng)絡(luò)圖像壓縮算法.對小波網(wǎng)絡(luò)中的權(quán)值、伸縮因子和平移因子等參數(shù)進(jìn)行編碼,并確定初始目標(biāo)函數(shù)值,依次進(jìn)行選擇、交叉和變異等遺傳操作,獲得最佳染色體,最后將最佳染色體轉(zhuǎn)化成對應(yīng)的權(quán)值、伸縮系數(shù)和平移系數(shù)從而優(yōu)化小波神經(jīng)網(wǎng)絡(luò)過程.通過對兩幅圖像的仿真實(shí)驗(yàn)結(jié)果表明:提出的改進(jìn)方法比傳統(tǒng)小波神經(jīng)網(wǎng)絡(luò)算法,在均方誤差方面分別降低了14.8%和16.7%,同時(shí)將信噪比分別提高了9.15%和7.11%,大大提高了壓縮后圖像的質(zhì)量.
[1]叢爽,蒲亞坤,王軍南.DCT圖像壓縮方法的改進(jìn)及其應(yīng)用[J].計(jì)算機(jī)工程與應(yīng)用,2010,46(18):160-163.
[2]郭雨,柏森,陽溢,等.基于復(fù)用技術(shù)和數(shù)論的圖像加密壓縮同步算法[J].電視技術(shù),2013,37(5):33-37.
[3]呂曉麗,張瑞,王博,等.一種確定神經(jīng)網(wǎng)絡(luò)最優(yōu)結(jié)構(gòu)的新算法[J].西安文理學(xué)院學(xué)報(bào)(自然科學(xué)版),2014,17(4):4-8.
[4]ALFALOU,AYMAN,CHRISTIAN B.Optical image compression and encryption methods[J].Advances in Optics and Photonics,2009,1(3):589-636.
[5]陳明星.小波變換與神經(jīng)網(wǎng)絡(luò)混合應(yīng)用于彩色圖像壓縮的研究[J].農(nóng)業(yè)網(wǎng)絡(luò)信息,2013(5):20-23.
[6]羅忠亮.基于小波和神經(jīng)網(wǎng)絡(luò)的圖像壓縮方法[J].韶關(guān)學(xué)院學(xué)報(bào),2010,31(3):25-28.
[7]盧齊飛,唐平,張光富,等.改進(jìn)的遺傳算法優(yōu)化二維不規(guī)則圖形排樣[J].計(jì)算機(jī)工程與設(shè)計(jì),2013,34(4):1409-1414.
[8]何冰,季建華,劉新平,等.基于遺傳算法的城市輸電網(wǎng)絡(luò)巡視路徑優(yōu)化選擇問題[J].計(jì)算機(jī)應(yīng)用研究,2013,30(8):2276-2279.
[9]周晶晶,吳文全,許炎義,等.基于小波神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷方法研究[J].現(xiàn)代電子技術(shù),2015,38(6):36-38.
[10]肖理慶,邵曉根,李子龍,等.基于遺傳算法的組合ERT圖像重建算法研究[J].儀器儀表學(xué)報(bào),2010,31(2):305-311.
[11]孟慶瑩,王聯(lián)國.基于鄰域正交交叉算子的混合蛙跳算法[J].計(jì)算機(jī)工程與應(yīng)用,2011,47(36):54-56.
[12]戴勇謙,張明武,祝勝林,等.基于變異概率分析的改進(jìn)QGA及其應(yīng)用[J].計(jì)算機(jī)工程,2013,39(7):247-251.
[責(zé)任編輯馬云彤]
Image Compression Algorithm Based onImproved Wavelet Neural Network
ZHOU Yan, WANG Xue-rui
(School of Computer Science, Henan University of Engineering, Zhengzhou 451191, China)
On the basis of the traditional neural network, the wavelet neural network which is formed by the introduction of wavelet function has a strong function mapping ability, which has many applications in the field of image compression. In order to improve the image compression quality, genetic algorithm is introduced to improve the traditional wavelet neural network algorithm. when the wavelet translation and the scaling parameters coefficients are optimized, which will be initialized as a species through selection, crossover and mutation to get the best chromosome and then transfer this to the corresponding weights, stretching coefficient and pan coefficient, thereby performing wavelet neural network mapping. The test results showed that compared to the traditional wavelet neural network method, by using of the improved wavelet neural network image compression method, the mean square error was reduced by 14.8% and 16.7% respectively, and SNR increased 9.15% and 7.11% respectively, and the image compression quality had been greatly improved.
image process; genetic algorithm; wavelet neural network; image compression; coding
1008-5564(2016)02-0037-05
2015-10-13
周巖(1981—),女,河南開封人,河南工程學(xué)院計(jì)算機(jī)學(xué)院講師,碩士,主要從事人工智能與計(jì)算應(yīng)用研究;
王雪瑞(1977—),女,河南登封人,河南工程學(xué)院計(jì)算機(jī)學(xué)院副教授,碩士,主要從事計(jì)算機(jī)應(yīng)用與網(wǎng)絡(luò)安全研究.
TP391
A