熊 杰,康榮雷
(中國(guó)西南電子技術(shù)研究所,四川 成都 610036)
?
盲信號(hào)分離自適應(yīng)算法研究
熊杰,康榮雷
(中國(guó)西南電子技術(shù)研究所,四川 成都 610036)
盲信號(hào)分離是信號(hào)處理領(lǐng)域的一個(gè)重要問題.其目的是當(dāng)滿足一定假設(shè)條件后,根據(jù)觀測(cè)到的混合信號(hào)還原分離出若干原始信號(hào).闡述了盲信號(hào)分離的模型和原理,分析了幾種RLS和LMS盲信號(hào)分離自適應(yīng)算法的性能,并對(duì)上述算法進(jìn)行了仿真比較.仿真結(jié)果表明RLS算法比LMS算法收斂速度快,但LMS比RLS穩(wěn)定性好.
盲信號(hào)分離; 自然梯度; 普通梯度; RLS; LMS
盲信號(hào)分離技術(shù)(Blind Signal Separation, BSS)直接起源于陣列信號(hào)處理.最初,盲信號(hào)分離技術(shù)用于建立陣列響應(yīng)的數(shù)學(xué)模型,估計(jì)模型中不能直接測(cè)量的參數(shù).又由于盲信號(hào)分離技術(shù)在實(shí)際應(yīng)用中不要求已知關(guān)于信號(hào)源以及信號(hào)傳輸信道的先驗(yàn)背景知識(shí),因此盲信號(hào)分離技術(shù)拓展了應(yīng)用場(chǎng)合,逐漸應(yīng)用于現(xiàn)代信號(hào)處理的各個(gè)領(lǐng)域[1].
盲信號(hào)分離技術(shù)是指在滿足一定假設(shè)條件下,從測(cè)量得到的混合信號(hào)中恢復(fù)出若干原始信號(hào).特別地,在信號(hào)分離過程中,不要求已知源信號(hào)模型和信道模型.因此引起了廣泛的關(guān)注,提出了很多自適應(yīng)算法,如遞推最小二乘方法(RLS),最小均方誤差方法(LMS)以及PAST方法等.本文在簡(jiǎn)要闡述盲信號(hào)分離的模型和原理的基礎(chǔ)上分析了幾種RLS和LMS盲信號(hào)分離自適應(yīng)算法的性能,并對(duì)上述盲信號(hào)分離算法進(jìn)行了仿真比較.
源信號(hào)混合的主要方式包含瞬時(shí)/實(shí)時(shí)線性疊加方式與非線性疊加方式.本文所討論的盲信號(hào)分離技術(shù)只針對(duì)線性疊加的盲信號(hào),其混合與分離原理如圖1所示.
圖1 BSS基本數(shù)據(jù)模型
盲信號(hào)分離技術(shù)一般不要求源信號(hào)數(shù)目與觀測(cè)信號(hào)數(shù)目一致.圖1中,假設(shè)信號(hào)源si(t),i=1,…,n兩兩獨(dú)立,上述信號(hào)經(jīng)過信道A后得到m路混合信號(hào)xi(t),i=1,…,m.源信號(hào)在信道A內(nèi)完成信號(hào)混合過程.上述過程可以刻畫為如下數(shù)學(xué)關(guān)系:
其中A=(aij)m×n是混合矩陣,一般是未知的.上式寫成矩陣形式:
x(t)=As(t)
x(t)為接收到的m維隨機(jī)變量,又稱觀測(cè)向量.上式在實(shí)際中應(yīng)該有干擾存在,應(yīng)該寫成
x(t)=As(t)+n(t)
其中,n(t)為噪聲向量.我們也可以把噪聲看成源信號(hào),在混合矩陣的作用下和其他信號(hào)混合在一起,這樣表達(dá)式中就可以消除n(t).
盲信號(hào)處理要解決的就是從觀測(cè)信號(hào)x(t)中估計(jì)出源信號(hào)s(t),其分離過程就是尋找一個(gè)分離矩陣W,使得
y(t)=Wx(t)
其中,y(t)表示分離出來的信號(hào)向量,也就是估計(jì)的源信號(hào).
綜上所示,源信號(hào)分離的數(shù)學(xué)描述如下:已知觀測(cè)信號(hào)x(t),設(shè)計(jì)分離矩陣W,以恢復(fù)出原始信號(hào)s(t).
若已知信道A,那么盲信號(hào)分離問題可退化為線性方程求解問題;若缺乏信道A的先驗(yàn)知識(shí),盲信號(hào)分離問題將變得棘手.為此需引入一些假設(shè)條件,在滿足假設(shè)條件下,盲信號(hào)分離問題才可能在數(shù)學(xué)上有解.當(dāng)然,引入的假設(shè)條件必須合理且具有一定的普適性.
盲信號(hào)分離技術(shù)有許多分析方法,而不同分析方法引入的假設(shè)的條件不盡相同.基于主元分析的盲信號(hào)分離技術(shù)一般假設(shè)輸出分離相互獨(dú)立;而基于獨(dú)立成分分析的盲信號(hào)分離技術(shù)一般假設(shè)分離結(jié)果兩兩獨(dú)立;此外,基于稀疏獨(dú)立成分分析的盲信號(hào)分離技術(shù)還需要引入源信號(hào)也滿足兩兩獨(dú)立的假設(shè)條件.本文所討論的基于RLS準(zhǔn)則及LMS準(zhǔn)則的盲信號(hào)分離技術(shù)滿足以下假設(shè)條件:第一,信道模型A必須列滿秩,且觀測(cè)信號(hào)數(shù)目m不小于源信號(hào)數(shù)目n;第二,源信號(hào)si(t)都是零均值平穩(wěn)過程,且最多存在一路源信號(hào)是高斯信號(hào);第三,在任意時(shí)刻t,源信號(hào)si(t)兩兩獨(dú)立;第四,源信號(hào)si(t)的標(biāo)準(zhǔn)差都為1.
需要強(qiáng)調(diào)的是,即使上述假設(shè)條件都得到滿足,分離后的信號(hào)也會(huì)在幅度和排序上呈現(xiàn)不確定關(guān)系[3].
2.1代價(jià)函數(shù)
根據(jù)前面定義的盲信號(hào)分離模型可以看出盲信號(hào)分離問題就是從混合向量中分離出源信號(hào).為了達(dá)到這個(gè)目的,通常的方法是找到分離矩陣B,使得輸出yt=Bxt為源向量的拷貝.
求分離矩陣B的一種方法是通過極大或極小化一個(gè)表達(dá)式來得到;另一種方法是先通過一個(gè)n×m的矩陣V對(duì)觀測(cè)數(shù)據(jù)進(jìn)行預(yù)處理,然后再求得一個(gè)n×n的正交矩陣W,總的分離矩陣變?yōu)椋築=WV.
文獻(xiàn)[2]給出了非線性的PCA準(zhǔn)則,描述如下:
(1)
(2)
式中0<β≤1是加權(quán)因子.上式可以等價(jià)為:
(3)
式(2)或(3)稱為普通梯度.進(jìn)一步把它寫成如下形式:
(4)
上式稱為自然梯度.
聯(lián)立式(3)、(4)有:
(5)
2.2算法描述
2.2.1基于普通梯度的算法
基于式(3),可以得到下面兩種基于普通梯度的算法[4].
1)普通梯度LMS算法
令式(3)中的β=1.代價(jià)函數(shù)為:
遞推算法為:
yt=Wt-1vt
zt=g(yt)
(6)
2)普通梯度RLS算法
令式(3)中的0<β≤1,代價(jià)函數(shù)依然保持式(3)的形式,得到的遞推算法為:
yt=Wt-1vt
zt=g(yt)
(7)
2.2.2基于自然梯度的算法
基于式(5)可以得到下面兩種基于自然梯度的算法[4].
1)自然梯度LMS算法:
令(5)中的β=1,此時(shí)代價(jià)函數(shù)為:
相應(yīng)的LMS算法為
yt=Wt-1vt
g(Wtvt)=g(yt)
(9)
2)自然梯度RLS算法
yt=Wt-1vt
zt=g(yt)
(10)
2.2.3其他算法
其他算法的推導(dǎo)與上面類似,只是選擇的代價(jià)函數(shù)不同而已.下面不加證明給出兩種算法:
1)基于自然梯度的PAST算法[5]:
yt=Wt-1vt
zt=g(yt)
ht=Pt-1zt
(11)
保持矩陣Θ的對(duì)角元素不變,矩陣中其余元素按Θij←Θji,?i≠j方式進(jìn)行復(fù)制操作.
2)基于自然梯度的EASI算法[6]:
yt=Wt-1vt
zt=g(yt)
(12)
上述各算法在使用過程中需根據(jù)不同的信號(hào)選擇非線性函數(shù)g(·).文獻(xiàn)[4]給出了幾種g(·)的常用選擇:g(y)=y-tanh(y),g(y)=tanh(y)以及g(y)=y3.
本節(jié)我們給出兩組數(shù)值計(jì)算實(shí)例.實(shí)例一為構(gòu)造的數(shù)值仿真,以驗(yàn)證前文所述盲信號(hào)分離算法理論性能;實(shí)例二是將實(shí)例一中的性能最優(yōu)的盲信號(hào)分離算法用于實(shí)際的圖像分離中,以驗(yàn)證盲信號(hào)分離技術(shù)的實(shí)際效果.
s1(n)=sgn(cos(2π·155n))
s2(n)=sin(2π·800n)
s3(n)=sin(2π·90n)
s4(n)=sin(2π·300n+6cos(2π·60n))
s5(n)=v(n)
其中v(n)是在[-1,1]內(nèi)均勻分布的噪聲.混合矩陣:隨機(jī)產(chǎn)生一個(gè)5*5非奇異矩陣作為信道的混合矩陣A.
定義變量PI作為度量算法性能的指標(biāo),稱為串音誤差.形式如下:
(13)
各算法比較其數(shù)據(jù)都采用自s(n),采樣頻率f=10kHz.學(xué)習(xí)步長(zhǎng)η=200×10-4,β=0.98,g(y)=tanh(y),總樣本數(shù)取4000,獨(dú)立200次實(shí)驗(yàn),畫出上述各算法的串音誤差隨樣本個(gè)數(shù)變化的均值曲線圖,如圖2所示.
圖2 盲信號(hào)分離算法串音誤差曲線
仿真表明,各算法均能收斂,收斂精度差別不大,但RLS算法要比LMS算法收斂速度快,這是因?yàn)樵诿恳徊礁逻^程中RLS算法用到的是前面一段測(cè)量值進(jìn)行更新的,而LMS算法只用了當(dāng)前時(shí)刻的測(cè)量值.另一方面,RLS算法收斂以后會(huì)出現(xiàn)抖動(dòng)現(xiàn)象,即RLS穩(wěn)定性不如LMS算法.同時(shí)圖2也表明PAST算法與EASI算法能較快對(duì)收斂到穩(wěn)定區(qū)域.
實(shí)例一表明PAST算法綜合性能相對(duì)于其他幾個(gè)算法要好,因此我們將該算法用于實(shí)際的圖像分離中,驗(yàn)證盲信號(hào)分離技術(shù)的實(shí)際效果.
假設(shè)有以下三幅圖像:
圖3 原圖像
由傳感器檢測(cè)到以上三幅圖像的混合信號(hào)為:
圖4 混合圖像信號(hào)
把圖像展成一維信號(hào),利用PAST算法可以得到以下的分離信號(hào):
圖5 分離后的圖像
由上圖可以看出,盲信號(hào)檢測(cè)可以較好分離出源信號(hào),但是由于此類算法具有模糊性,對(duì)信號(hào)的相位無法確定,所以檢測(cè)出的圖像沒有達(dá)到很好的效果.另外此類算法無法判斷源圖像的次序[3].
在工程實(shí)踐中,盲信號(hào)分離技術(shù)常常用于解決未知信道模型情況下分離混合信號(hào)的問題.本文簡(jiǎn)要闡述了瞬時(shí)盲信號(hào)分離技術(shù)中RLS類算法和RLS類算法.同時(shí),將本文所涉及算法進(jìn)行了仿真性能比例以及將仿真性能最好的算法用于實(shí)際的圖像分離問題.
仿真表明RLS比LMS算法收斂速度快,但RLS收斂穩(wěn)定性不如LMS算法,而PAST算法與EASI算法能較快對(duì)收斂到穩(wěn)定范圍.在圖像處理領(lǐng)域,盲信號(hào)分離算法能恢復(fù)原始圖像,驗(yàn)證了盲信號(hào)分離算法的特性.
[1]張賢達(dá). 現(xiàn)代信號(hào)處理[M]. 北京:清華大學(xué)出版社,2002.
[2]Zhu X, Zhang X. Adaptive RLS algorithm for blind source separation using a natural gradient[J]. IEEE Signal Processing Letters, 2002,(12):761-767.
[3]徐尚志. 盲信號(hào)分離算法的研究[D].合肥: 中國(guó)科學(xué)技術(shù)大學(xué)博士學(xué)位論文, 2005.
[4]Amari S. Natural gradient works efficiently in learning[J]. Neural Comput, 1998,(2):251-276.
[5]Karhunen J, Pajunen P, Oja E. The nonlinear PCA criterion in blind source separation: Relations with other approaches[J]. Neuro Comput, 1998,(1-3):5-20.
[6]Pajunen P, Karhunen J. Least-squares methods for blind source separation based on nonlinear PCA[J]. Int J Neural Syst, 1998,8:601-612.
(責(zé)任編校:晴川)
Research on Adaptive Algorithm of Blind Signal Separation
XIONG Jie, KANG Ronglei
(Southwest China Institute of Electronic Technology, Chengdu Sichuan 610036, China)
The topic of blind signal separation (BSS) is an important research hotpot in signal processing. The purpose of BSS is to recover the original independent signals from their mixed observation date. In this paper, we expatiate on the model and theory of BSS, and analyze some adaptive algorithms—LMS and RLS. The performance and effect of these algorithms are compared, and the results show that the RLS has batter convergence than LMS, but the stability of RLS is worse than LMS.
blind signal separation; natural gradient; ordinary gradient; RLS; LMS
2016-05-24
熊杰(1984— ),男,四川邛崍人,中國(guó)西南電子技術(shù)研究所工程師,博士.研究方向:數(shù)據(jù)鏈與導(dǎo)航.
TN911.23
A
1008-4681(2016)05-0049-04