源信號數(shù)目未知的自然梯度盲信號分離算法

邵蓮蓮

(西安電子科技大學(xué)數(shù)學(xué)與統(tǒng)計學(xué)院，陜西西安 710071)

所謂盲信源分離，是指未知傳輸信道特性及源信號任何先驗知識的情況下，僅通過觀測信號來實現(xiàn)信號辨識或信號恢復(fù)。其是當(dāng)前信號處理和神經(jīng)網(wǎng)絡(luò)學(xué)界共同研究的課題，在無線電通信、雷達(dá)、圖像、語音及生物醫(yī)學(xué)等領(lǐng)域均具有良好的應(yīng)用前景［1］。盲源分離問題根據(jù)源信號數(shù)目n和混合信號m數(shù)目之間的大小關(guān)系可分為正定盲信號分離(m=n)、欠定盲信號分離(m＜n)和超定盲信號分離(m＞n)3種情況。

迄今為止，盲信源分離的大部分經(jīng)典算法均是圍繞信源數(shù)已知展開的，對于信源數(shù)未知算法研究較少，尤其是對于信源數(shù)未知或數(shù)目動態(tài)變化的超定盲信號分離算法，至今少有研究［2－3］。然而在眾多實際場合，源信號的數(shù)目未知甚至可能動態(tài)變化，例如在移動通訊中，一個小區(qū)中用戶的個數(shù)就是隨機(jī)變化的，因此源信號數(shù)目未知的盲信號分離問題研究更具現(xiàn)實意義［4－5］。

1 問題描述

考慮盲信源分離模型［1－13］

A是m×n維的混合矩陣，xt是m維的觀測數(shù)據(jù)，st是n維的源信號向量。對源信號向量有如下假設(shè):(1)源信號st的各分量相互統(tǒng)計獨立且最多有一個信號服從高斯分布。(2)源信號具有零均值和單位方差。(3)混合矩陣列A滿秩，即m≥n。

為實現(xiàn)盲信號分離，通常用n×m維的分離矩陣B作用于觀測信號向量xt，使系統(tǒng)輸出yt=Bxt是源信號向量st的某個拷貝或估計［6］。現(xiàn)有的多數(shù)研究假定觀測信號向量與源信號向量有相同的維數(shù)，即m=n。本文研究m≥n且n未知的一般情形。

對于源信號個數(shù)未知的超定盲信號分離，現(xiàn)有采用分離矩陣的分離模型已不再適用。自然的想法就是采用的方陣作為分離矩陣的分離模型［4－5］，即

其中，B是m×m的非奇異的分離矩陣。顯然，在分離模型式(2)下，分離模型輸出作為一個m維的隨機(jī)向量，其秩等于源信號個數(shù)n。文獻(xiàn)［4］已證明了模型(2)是可分的，且當(dāng)分離矩陣時，分離模型達(dá)到分離狀態(tài)。其中，G是廣義交換陣，N(AT)表示AT的零空間一組基構(gòu)成的m×(m－n)的矩陣為由A+的行向量和零向量中任取m－n個行向量構(gòu)成的(m－n)×m子矩陣。

2 盲信號分離自然梯度算法

由互信息與微分熵之間的關(guān)系可得，分離模型(2)輸出的互信息I(yt;Bt)為

式中，Bt為可逆方陣，yt與xt的負(fù)熵有如下關(guān)系

將式(4)代入式(3)并使用自然梯度［7－9］可得搜索對比式(3)的極小值，可得離散時間自然梯度算法［7－10］

其中，ηt＞ 0 是學(xué)習(xí)速率，φ(yt)=［φ1(y1，t)，…，φm(ym，t)］T是一個非線性的列向量，其分量 φi(yi，t)=，稱作盲信號分離分值函數(shù)。通常情況下，分值函數(shù)φi(yi，t)未知。一般用一個單調(diào)增的奇函數(shù)稱作激勵函數(shù)來代替分值函數(shù)，激勵函數(shù)的選取要滿足一定的穩(wěn)定性條件［11］。

基于分離模型的自然梯度算法中 Cichocki等人［12］首先提出，并用大量仿真驗證了算法的有效性。

當(dāng)自然梯度算法收斂到互信息的局部極小值點時，算法不能穩(wěn)定收斂。其平穩(wěn)條件［4－5］

無法得到滿足。分離信號yt的秩等于源信號個數(shù)n，即輸出信號中有n個輸出信號線性無關(guān)，其他幾個輸出信號是以概率1線性無關(guān)的輸出信號的線性組合，從而輸出信號中最多有n個信號相互獨立，而算法平衡的條件要求m個輸出信號相互獨立。由于分離點不是算法的平衡點，當(dāng)算法收斂到分離點時，算法仍將驅(qū)使分離矩陣的各行沿混合矩陣轉(zhuǎn)置的零空間作無效移動，以致分離矩陣的范數(shù)趨于無窮大而導(dǎo)致算法發(fā)散［5－13］。

3 自然梯度算法的仿真與分析

為驗證在分離模型下自然梯度算法的分析結(jié)果，考慮以下源信號的分離:(1)符號信號sign(cos(2π155t));(2)幅度調(diào)制信號sin(2π10t)sin(2π300t);(3)高頻正弦信號sin(2π800t);(4)在［－1，1］上均勻分布的隨機(jī)噪聲信號。仿真中，混合矩陣 A7×4元素為在［－1，1］區(qū)間均勻分布的隨機(jī)數(shù)，使用7 000個觀測樣本。初始分離矩陣取B0=0.5I，激勵函數(shù) Φ(y)=y3，步長50T，T=0.000 1表示對觀測信號的采樣周期。文獻(xiàn)［4］中已證明在源信號獨立同分布的假設(shè)條件下，混合矩陣A的轉(zhuǎn)置與任意長度為k的觀察數(shù)據(jù)片斷構(gòu)成的m×k矩陣XT=［xt+1，…，xt+k］T以概率1具有相同的零空間［4］?？稍贛atlab環(huán)境下利用Null程序求N(XT)，即N(AT)。將分離矩陣B按行向混合矩陣AT的零空間作投影。

盲信號分離算法的性能用“串音”誤差［4－13］

來衡量。其中，C=BA={cij}表示整個混合－分離合成系統(tǒng)的傳遞矩陣。

圖1是截取1 000個采樣點的源信號圖像，圖2是自然梯度算法分離出的信號;圖3是自然梯度算法的200次獨立運行平均串音誤差曲線;圖4給B出按行在Null(AT)上投影的F范數(shù)變化曲線。可看出，除了分離出4個源信號外，其他信號是源信號的重復(fù)。算法在學(xué)習(xí)的最初階段是收斂的，但隨著學(xué)習(xí)過程的繼續(xù)，算法將隨著分離矩陣范數(shù)指數(shù)的增長而發(fā)散。從圖4中易見在自然梯度算法中信號分離后，B在Null(AT)的部分F范數(shù)趨于無窮。

圖1 源信號

圖2 自然梯度算法分離出的信號

圖3 源信號數(shù)目未知的自然梯度算法的200次獨立運行平均串音誤差曲線

圖4 分離矩陣B按行在混合矩陣轉(zhuǎn)置零空間上投影的F范數(shù)曲線

4 投影自然梯度算法的冗余分量分析

由正交投影理論［5］可知，只需將自然梯度的各行沿?zé)o效空間Null(AH)方向作到有效空間的正交投影，便可消去自然梯度中沿Null(AH)方向的冗余分量，而保留在有效空間Col(A)中的有效移動?；诖?，文獻(xiàn)［5］中提出了投影自然梯度算法

投影自然梯度通過正交投影方法消除了自然梯度的各行沿?zé)o效空間Null(AH)方向的分量，并保留了自然梯度在有效空間Col(A)上的分量。由式(8)可得記則就是自然梯度沿?zé)o效空間Null(AH)方向的冗余分量。

盲信號分離有分離信號的順序和幅度不確定性兩種不確定性。假設(shè)分離信號yt的前n個信號是按順序排列的源信號，后m－n個信號是按原順序排列的前m－n個信號。記分離矩陣收斂到分離點B=G·［(A+)T，N(AT)+的時刻為零時刻，G取對角矩陣，即有 B0=［a1T，…，aTn，a1T+b1，…，aTm－n+bm－n］T。其中，bi表示Null(AT)的一組正交基構(gòu)成的m×(mn)矩陣的第 i列，ai表示 diag{λ1，λ2，…，λn}A+的第 i行，λi是第i個輸出信號的幅度。通過簡單計算，可得到冗余分量在零時刻的更新矩陣為

其中，η是學(xué)習(xí)步長，即一個較小的正數(shù)。

這樣就得到了在時刻1的分離矩陣B1，進(jìn)一步計算分離輸出，可得冗余分量在時刻1的更新矩陣為

其中，γk是與η有關(guān)的正常數(shù)。

在任意時刻k與k－1之間的變化有如下關(guān)系

5 結(jié)束語

源信號數(shù)目未知或動態(tài)變化的盲信號始終是盲信號分離的難點，Cichocki提出將適定盲信號分離的自然梯度算法推廣到源信號個數(shù)未知的情況。仿真驗證，算法能分離出源信號，但無法穩(wěn)定收斂。這是因分離矩陣的各行在混合矩陣轉(zhuǎn)置的零空間上無效移動產(chǎn)生了冗余分量，致使分離矩陣范數(shù)指數(shù)增長而發(fā)散。本文借助收斂的投影自然梯度算法，證明了冗余分量隨迭代次數(shù)的增加呈指數(shù)增長。

［1］Hyvarinen A，Karhunen J，Oja E.Independent component analysis［M］.New York:Wiley，2001.

［2］Ji Min Y，Xiao Long Z，Xian Da Z，Adaptive blind separation with an unknown number of sources［J］.Neural Computation，2004，16(8):1641 －1660.

［3］Cichocki A，Karhunen J，Kasprzak W，et al.Neural networks for blind separation with unknown number of sources［J］.Neuro Computing，1999，24(2):55 －93.

［4］冶繼民，張賢達(dá)，朱孝龍.信源數(shù)目未知和動態(tài)變化時的盲信號分離［J］.中國科學(xué):E 輯，2005，35(12):1－12.

［5］冶繼民，金海紅，樓順天，等.未知源信號數(shù)目投影自然梯度盲信號分離算法［J］.西安電子科技大學(xué)學(xué)報:自然科學(xué)版，2006，33(2):190 －194.

［6］張賢達(dá)，保錚.盲信號分離［J］.電子學(xué)報，2001，29(12):1766－1771.

［7］Amari S.Natural gradient works efficiently in learning［J］.Neural Computation，1998，10(2):251 －276.

［8］Amari S.Natural gradient for over－and under－complete bases in ICA［J］.Neural Computation，1999，11(8):1875 －1883.

［9］Xiao Long Z，Xian Da Z，Ji Min Y，Natural gradient－ based recursive least squares algorithm for blind source separation［J］.Sci.China Ser.F，2004，47(1):55 －65.

［10］Amari S.Neural learning in structured parameter space:Neural Riemannian gradient［M］.Cambridge，MA:MIT Press，1997.

［11］Hyvarinen A.Fast and robust fixed－point algorithms for independent component analysis［J］.IEEE Transactions on Neural Networks，1999，10(3):626 －634.

［12］Cichocki A，Sabala I，Choi S，et al.Self－ adaptive independent component analysis for sub－Gaussian and super－Gaussian mixtures with unknown number of source signals and additive noise［C］.International Sympily on Nonlinear Theory and Applications，1997.

［13］金海紅，冶繼民.源信號個數(shù)未知的超定盲信號分離的半?yún)?shù)統(tǒng)計算法［J］.西安電子科技大學(xué)學(xué)報:自然科學(xué)版，2003，30(6):844－848.