許法強(qiáng)
(浙江工貿(mào)職業(yè)技術(shù)學(xué)院信息傳媒學(xué)院,浙江溫州325003)
基于阻尼修正FICA的圖像分離算法
許法強(qiáng)
(浙江工貿(mào)職業(yè)技術(shù)學(xué)院信息傳媒學(xué)院,浙江溫州325003)
獨(dú)立分量分析算法是一種常用的盲源信號(hào)(包括圖像信號(hào)、音頻信號(hào)等)分離方法,它的主要任務(wù)在于分析混合矩陣及對(duì)應(yīng)的分離矩陣的結(jié)構(gòu)。文章提出了一種阻尼修正的獨(dú)立分量分析方法,它可以根據(jù)迭代過(guò)程中梯度函數(shù)的收斂情況來(lái)動(dòng)態(tài)設(shè)置和調(diào)整阻尼系數(shù)的值,從而保證梯度函數(shù)始終能收斂于某一穩(wěn)定值,并且最終可提取出一組特定的獨(dú)立分量,同時(shí)還具有修正的獨(dú)立分量分析方法所具有的計(jì)算速度快的優(yōu)點(diǎn)。通過(guò)兩組混合圖像的分離實(shí)驗(yàn),證明該方法具有一定的實(shí)用意義。
獨(dú)立分量分析;盲源信號(hào)分離;快速獨(dú)立分量分析;阻尼系數(shù)
獨(dú)立分量分析(Independent Component Analy?sis,ICA)方法的原理就是根據(jù)獨(dú)立性衡量準(zhǔn)則,從一組混合信號(hào)中分解并提取出各獨(dú)立的原始信號(hào)。該方法被廣泛地應(yīng)用于盲源信號(hào)分離中,如著名的“雞尾酒會(huì)”問(wèn)題。
假設(shè)有N個(gè)獨(dú)立的信號(hào)源S(t)=[s1(t),?s2(t),?…,?sN(t)]T,其中t代表不同的采樣點(diǎn),另外還有M個(gè)觀(guān)測(cè)信號(hào)X(t)=[χ1(t),?χ2(t),?…,?χM(t)]T由N個(gè)獨(dú)立信號(hào)源混合而成。上述過(guò)程可以分別通過(guò)混合矩陣A和分離矩陣W來(lái)操作,假設(shè)最終提取出的獨(dú)立分量為
其中,W即為A的廣義逆矩陣,但混合矩陣A和分離矩陣W均為未知,我們只能通過(guò)觀(guān)測(cè)信號(hào)X(t)來(lái)獲取一個(gè)關(guān)于源信號(hào)S(t)的最佳估計(jì)值S’(t)。
對(duì)于公式(1)的求解,主要是分析混合矩陣A及對(duì)應(yīng)的分離矩陣W(主要是后者)的結(jié)構(gòu)[1~3]。但是傳統(tǒng)獨(dú)立分量分析方法存在計(jì)算復(fù)雜度高、收斂速度慢的缺陷,而修正的獨(dú)立分量分析方法雖然不用多次矩陣求導(dǎo)和求逆,不過(guò)其結(jié)果的穩(wěn)則可用下式1來(lái)表示:定性不足、與初始值的選取有很大關(guān)系。因此,文章提出了一種阻尼修正的獨(dú)立分量分析方法,即在修正的獨(dú)立分量分析方法中引入一個(gè)阻尼系數(shù),從而保證了結(jié)果的收斂性。最后通過(guò)一組混合圖像的分離實(shí)驗(yàn),證明了所提出的方法具有一定的實(shí)用意義。
1.1 獨(dú)立分量的一般求解過(guò)程
獨(dú)立分量分析實(shí)質(zhì)是一個(gè)優(yōu)化問(wèn)題,其關(guān)鍵在于目標(biāo)函數(shù)的確定。目標(biāo)函數(shù)又稱(chēng)獨(dú)立性判據(jù),通常是一個(gè)關(guān)于求解目標(biāo)(即分離矩陣W)的函數(shù),我們需要利用某種學(xué)習(xí)算法來(lái)尋找目標(biāo)函數(shù)的最優(yōu)值,也就是找到滿(mǎn)足特定的獨(dú)立性判據(jù)時(shí)所對(duì)應(yīng)的分離矩陣W。
常用的獨(dú)立性判據(jù)有最小化互信息、信息熵極大化、最大似然估計(jì)以及高階累積量等。另外根據(jù)上面所提到的獨(dú)立分量分析的假設(shè)條件可知,各獨(dú)立源信號(hào)必須盡量滿(mǎn)足非高斯性要求,因此也可以根據(jù)最終所提取的各獨(dú)立分量的非高斯性度量值來(lái)判斷是否符合獨(dú)立性條件。非高斯性可通過(guò)峰度(或稱(chēng)峭度)及負(fù)熵來(lái)度量。峰度又稱(chēng)四階累積量,其平方值可用來(lái)作為非高斯性的度量標(biāo)準(zhǔn),該值越大則非高斯性程度也越大。而負(fù)熵則直接反映了任意隨機(jī)變量與具有相同方差的高斯變量之間的信息熵之差,該差值越大則非高斯性程度也越大。常用的快速獨(dú)立分量分析算法就是一種基于負(fù)熵值最大化的獨(dú)立分量分析方法。
1.2 快速獨(dú)立分量分析算法
快速獨(dú)立分量分析算法(Fast ICA,F(xiàn)ICA)是由Aapo Hyv?rinen等人提出并發(fā)展起來(lái)的,該算法得名于其較快的收斂速度。FICA算法基于負(fù)熵值最大化原則,使用固定點(diǎn)算法來(lái)尋找所提取分量的最大負(fù)熵值。該方法使用了一個(gè)非線(xiàn)性函數(shù)G()?來(lái)對(duì)負(fù)熵值進(jìn)行近似度量[4~5]:
式(3)便是FICA算法中常用的三種非線(xiàn)性函數(shù)G()?及其一階導(dǎo)數(shù)g()?:
固定點(diǎn)算法的形式類(lèi)似于牛頓迭代法的計(jì)算公式,其具體形式見(jiàn)式(4):
1.3 阻尼修正快速獨(dú)立分量分析算法
由上可以看出,快速獨(dú)立分量分析方法實(shí)質(zhì)就是一個(gè)牛頓迭代法的運(yùn)算過(guò)程:
其中,
可見(jiàn),對(duì)于獨(dú)立分量的提取關(guān)鍵在于尋找一個(gè)關(guān)于目標(biāo)函數(shù)L(wi)的梯度下降方向,使得權(quán)值wi(k+ 1)沿著該方向能夠快速而穩(wěn)定地收斂于某個(gè)值。在該運(yùn)算過(guò)程中,每次迭代處理時(shí)都會(huì)涉及到Jacobi矩陣和逆矩陣的運(yùn)算,這將大大降低FICA算法的實(shí)際運(yùn)行效率。
為了降低上述過(guò)程的計(jì)算復(fù)雜度并提高其收斂速度,可對(duì)一般快速獨(dú)立分量分析方法進(jìn)行如下修正:
即:在每一輪提取某一個(gè)獨(dú)立分量的迭代運(yùn)算過(guò)程中,只需計(jì)算初始權(quán)值情況下的Jacobi矩陣和逆矩陣,后面每次的迭代運(yùn)算均直接用其結(jié)果替代相應(yīng)運(yùn)算[6]。
上述修正方法雖然能明顯提高FICA算法的運(yùn)算速度,但由于為了保證FICA算法的分離效果,在每一輪的迭代運(yùn)算開(kāi)始時(shí)采用的都是隨機(jī)選取的初始權(quán)值wi(1),所以可能會(huì)導(dǎo)致每次運(yùn)算的收斂結(jié)果和收斂速度出現(xiàn)振蕩,甚至無(wú)法收斂。因此,本文在該修正方法的基礎(chǔ)上又進(jìn)一步引入了一個(gè)阻尼系數(shù)α(實(shí)質(zhì)即為步長(zhǎng)),以消除對(duì)初始權(quán)值的依賴(lài),其具體形式為:
若成立,則繼續(xù)按公式(9)進(jìn)行迭代運(yùn)算檢查;反之,則將系數(shù)縮小一半后重新執(zhí)行公式(9)的前部分迭代運(yùn)算過(guò)程,直到滿(mǎn)足其后部分條件為止,這樣才完成了阻尼修正FICA算法的一次迭代運(yùn)算過(guò)程。該方法既保留了一般修正方法運(yùn)算速度快的優(yōu)點(diǎn),同時(shí)又克服了其對(duì)于初始權(quán)值的依賴(lài),具有穩(wěn)定收斂的特點(diǎn)。
圖1 第一組實(shí)驗(yàn)圖像
此處我們采用了兩組圖像作為實(shí)驗(yàn)數(shù)據(jù),每組包含由三張?jiān)紙D像混合而成的六張圖像,如圖1和圖3所示,然后分別對(duì)FICA、修正FICA和阻尼修正FICA算法進(jìn)行了性能測(cè)試和比較,結(jié)果如表1和表2所示,表中列出了每種算法的前十次運(yùn)行情況。另外,實(shí)驗(yàn)算法采用了公式(3)中的非線(xiàn)性函數(shù)G1()?,參數(shù)a1設(shè)置為1,權(quán)值向量wi的終止閾值為10-4,每一輪的最大迭代次數(shù)為1000次。由于每次提取獨(dú)立分量的時(shí)間極短不便于計(jì)量,文中采用了各次的迭代次數(shù)作為算法收斂速度的衡量標(biāo)準(zhǔn)。從表1和表2中可以看出,阻尼修正FICA算法的平均迭代次數(shù)要明顯少于FICA算法,說(shuō)明收斂速度有了顯著提升,而迭代次數(shù)標(biāo)準(zhǔn)差則低于修正FICA算法,證明其收斂穩(wěn)定性更好。另外,通過(guò)阻尼修正FICA算法可以得到三個(gè)獨(dú)立的圖像數(shù)據(jù),且十次運(yùn)行結(jié)果的數(shù)據(jù)成分幾乎一致,取其有效平均值后如圖2和圖4所示。
圖2 第一組實(shí)驗(yàn)圖像經(jīng)阻尼修正FICA算法處理后得到的獨(dú)立圖像分量
圖3 第二組實(shí)驗(yàn)圖像
文章提出了一種阻尼修正的獨(dú)立分量分析方法,它可以根據(jù)迭代過(guò)程中梯度函數(shù)的收斂情況來(lái)動(dòng)態(tài)設(shè)置和調(diào)整阻尼系數(shù)的值,從而保證梯度函數(shù)始終能收斂于某一穩(wěn)定值,并且最終可提取出一組特定的獨(dú)立分量,同時(shí)還具有修正的獨(dú)立分量分析方法所具有的計(jì)算速度快的優(yōu)點(diǎn)。最后通過(guò)一組混合圖像的分離實(shí)驗(yàn),證明了該方法在運(yùn)算效率和收斂性能上具有一定的實(shí)用意義。
圖4 第二組實(shí)驗(yàn)圖像經(jīng)阻尼修正FICA算法處理后得到的獨(dú)立圖像分量
表1 第一組實(shí)驗(yàn)圖像經(jīng)FICA、修正FICA和阻尼修正FICA算法處理時(shí)的十次迭代次數(shù)
表2 第二組實(shí)驗(yàn)圖像經(jīng)FICA、修正FICA和阻尼修正FICA算法處理時(shí)的十次迭代次數(shù)
[1]Lu Wei,Yu Xuchu.Small Target Extraction Based on Independent Component Analysis for Hyperspectral Imagery[J].Geo-spatial In?formation Science,2006,9(2):103-107.
[2]Donghoh Kim,Se-kang Kim.Comparing Patterns of Component Loadings:Principal Component Analysis(PCA)Versus Independent Component Analysis(ICA)in Analyzing Multivariate Non-normal Data[J].Behavior Research Methods,2012,44(4):1239-1243.
[3]A.Hyvarinen,J.Karhunen,E.Oja.Independent Component Analysis[M].John Wiley&Sons Inc.,2001.
[4]A.Hyvarinen,E.Oja.Independent Component Analysis:Algorithms and Applications[J].Neural Networks,2000,13(4):411-430.
[5]Hefa Zhang,Liping Li,Wanchun Li.Independent Component Analysis Based on Fast Proximal Gradient[J].Circuits,Systems,and Sig?nal Processing,2012,31(2):583-593.
[6]蔣長(zhǎng)錦.科學(xué)計(jì)算和C程序設(shè)計(jì)[M].安徽:中國(guó)科學(xué)技術(shù)出版社,1998.
(責(zé)任編輯:潘修強(qiáng))
An Image SeparationAlgorithm Based on Damping Modification FICA
XU Fa-qiang
(College of Information and Communications,Zhejiang Industry&Trade Vocational College,Wenzhou,325003,China)
An independent component analysis algorithm,usually used to separate bind source signs,such as audio and images, etc.,whose main goal is to analyze the structures of a mixed matrix and its separation matrix.This paper proposes an independent component analysis algorithm of damping modification,which may adjust the damping coefficient dynamically according to the convergent state of gradient function during iteration,make sure that gradient function converges to a certain stable value.And a set of particular independent components can be drawn finally.Otherwise,it has an advantage of converging fast.An experiment of separating a set of mixing images proves that the methodology has some practical meanings.
independent component analysis;blind source signal separation;fast independent component analysis;damping coefficient
TP391
A
1672-0105(2014)03-0030-04
10.3969/j.issn.1672-0105.2014.03.009
2014-07-29
許法強(qiáng)(1980—),男,湖北黃岡人,助教,博士,主要研究方向?yàn)閳D像傳播工程。