噪聲ICA模型去偏技術(shù)研究

張明亮，王曙釗，盧 虎，卞東亮，王 博，楊 勇

空軍工程大學(xué) 理學(xué)院，西安 710051

噪聲ICA模型去偏技術(shù)研究

張明亮，王曙釗，盧 虎，卞東亮，王 博，楊 勇

空軍工程大學(xué) 理學(xué)院，西安 710051

1 引言

近二十年的發(fā)展，獨立分量分析[1-3]（Independent Component Analysis，ICA）在盲源分離領(lǐng)域占據(jù)了主導(dǎo)地位。但是由于實際應(yīng)用中噪聲的存在，如何有效地將它們從提取出來的獨立成分中去除掉，成為當(dāng)前研究的熱點和難點問題。目前，針對噪聲ICA模型常見的算法或多或少的用到了噪聲的先驗知識[4-10]。基于高斯矩的偏差去除方法[4-6]利用噪聲先驗知識修正普通ICA模型的公式，用“準(zhǔn)白化”運算代替白化。然而“準(zhǔn)白化”通常假設(shè)噪聲是高斯的，且其協(xié)方差矩陣是單位陣，使用條件比較苛刻。自適應(yīng)噪聲抵消算法[7-8]將去噪作為盲源分離的準(zhǔn)備階段。相對而言，該方法對噪聲的假設(shè)條件相對寬松，但是目前提出的最小均方（Least Mean Squares，LMS）自適應(yīng)噪聲抵消算法[8]對相關(guān)噪聲敏感。虛擬噪聲通道算法[10]假設(shè)虛擬出一個或若干個和混雜噪聲相同的噪聲，將每個噪聲視為獨立源，然后將噪聲模型化成普通模型進行分離。即使能構(gòu)造出混雜的噪聲，其實是對噪聲完全已知，但實際上是無法實現(xiàn)的。

受偏差去除算法的啟發(fā)，先對高斯噪聲條件下普通ICA模型對解混矩陣的可辨識性進行了論述和實驗證明，發(fā)現(xiàn)噪聲ICA模型的難點在于信號和噪聲的完全分離，也即解決問題的關(guān)鍵在于去噪。在此結(jié)論的指導(dǎo)下，引入基于QR分解的遞歸最小二乘（Recursive Least Squares，RLS）自適應(yīng)噪聲抵消算法和Fast-ICA算法結(jié)合起來（QRRLSICA），用前者對觀測向量進行去噪處理，再用后者提取出獨立成分。此類方法可以歸為去偏方法范疇。同時將該方法與文獻[8]中使用的LMS自適應(yīng)噪聲抵消和Fast-ICA結(jié)合的算法（LMS-ICA）在不同噪聲條件下進行了實驗仿真比較。

2 問題描述

文獻里通常將噪聲ICA模型表達如下[3-5，8]：

式中，x=(x1，x2，…，xm)是隨機觀測向量，s=(s1，s2，…，sm)是潛在變量，稱為獨立成分，A是未知的常數(shù)矩陣，即混合矩陣。模型的基本假設(shè)是獨立成分si是非高斯同分布的

，且互相統(tǒng)計獨立。

文獻[3]認為偏差去除技術(shù)是對噪聲ICA模型最有希望的方法。即對普通的ICA方法進行修正，以去除由于噪聲引起的偏差，或者至少減少這種偏差，基于高斯矩的去偏技術(shù)便是基于這種思考?；诟咚咕氐钠钊コ椒╗4-6]將n假設(shè)為具有零均值、單位協(xié)方差 Σ的高斯噪聲（即Σ=E{ } nnT），用“準(zhǔn)白化”代替白化。

獨立成分分析的基本思想就是尋找數(shù)據(jù)的極大非高斯性方向投影Wx給出獨立成分的一致估計。實際上非高斯性度量對高斯噪聲不敏感，換言之，解混矩陣W受高斯噪聲的影響甚小，用常規(guī)算法依然是可辨識的。如圖1所示，直觀上理解，二維高斯分布在各方向上的分布幾率是相同的，不包含方向信息，如果將其作為噪聲“覆蓋”在一個兩成分聯(lián)合分布上，不會影響原來的極大非高斯性投影方向，可以將其推廣到多維空間里。

圖1 二維高斯分布

由Darmois定理[11]可得，如果分離混合P=WA是一個廣義置換矩陣，便可以實現(xiàn)信號源的盲分離。實際運算中，常常得到的矩陣P中每行僅有一個絕對占優(yōu)的值，一般情況下得不到理想的廣義置換矩陣。下面做一個關(guān)于高斯噪聲對解混矩陣的可辨識性的影響實驗，隨機取一3×3常數(shù)矩陣為混合矩陣A，用Fast-ICA算法[1，3，12]分別求出無噪聲時的W1和加－10 dB高斯噪聲時的W2，進而求出P1和P2進行比較（見表1）。

從表1可見，矩陣P1和P2都符合實現(xiàn)信號源盲分離的條件。換言之，對純凈信號源加上－10 dB噪聲后，常規(guī)的Fast-ICA算法得到的解混矩陣W2依然可以分離無噪聲污染的混合信號。即W1(A S )和W2(A S)都可以從混合信號AS中分離出獨立成分。

故根據(jù)無噪聲模型的解混方程，可以得到噪聲ICA線性解混表達式：

進一步用性能指標(biāo)PI來衡量分離混合矩陣P做定量分析[12]，來評價分離結(jié)果。

其中P=WA=() pijn×n即分離混合矩陣，PI值越小說明矩陣P越接近廣義置換矩陣，分離效果越好。在上面實驗的基礎(chǔ)上，把加入三組觀測向量的噪聲分為同一高斯噪聲和不同高斯噪聲兩種情況，在不同信噪比水平下，記錄PI的均值和方差等統(tǒng)計值（由于引入噪聲的隨機性和ICA問題的不確定性，每個實驗結(jié)果均是100次實驗結(jié)果的統(tǒng)計值）。如圖2所示。

統(tǒng)計發(fā)現(xiàn)，當(dāng)PI＞3.7時，矩陣P的某一行不再有絕對占優(yōu)的值，導(dǎo)致分離效果較差。在圖2中，同一高斯噪聲、不同高斯噪聲以及沒有噪聲三種情況下PI的均值和方差曲線分別用實線、虛線和點劃線表示。觀察可見，若所有觀測向量中加入同一高斯噪聲時，在信噪比低于－20 dB后，PI開始大于3.7，而且方差較小，分離效果比較穩(wěn)定；若觀測向量加入不同高斯噪聲時，在信噪比低于－5 dB后，PI開始大于3.7，而且方差較大，分離效果穩(wěn)定性較差。換言之，在后者這種情況下，矩陣W的辨識性變差，分離出含噪獨立成分十分復(fù)雜，如果采用分離后對獨立成分去噪將變得十分困難。所以，在解混之前對含噪觀測向量去噪操作簡單，易于實現(xiàn)。

表1 解混矩陣可辨識比較

圖2 不同高斯噪聲條件下PI的均值和方差曲線

3 自適應(yīng)噪聲抵消

自適應(yīng)噪聲抵消也叫信號增強[7-8，13]，其基本原理由圖3表示。

圖3 自適應(yīng)噪聲抵消

由圖3可知，自適應(yīng)噪聲抵消器的原始輸入由期望信號x(k)和加性噪聲n1(k)組成，自適應(yīng)濾波器的參考輸入是和噪聲n1(k)相關(guān)的噪聲n2(k)，輸出誤差e(k)表示如下：

式中，f(k)是在時間點k處對n1(k)的最佳逼近，ωl和N分別是濾波器的權(quán)系數(shù)和階數(shù)，且ωl∈ω(k)= [ω0(k )ω1(k )…ωN(k )]T。

其原理過程簡述為：先將噪聲n2(k)作為參考輸入，通過自適應(yīng)濾波器作用后得到 f(k)，并要求f(k)盡可能逼近原始輸入中的噪聲n1(k)；然后將原始輸入x(k)+n1(k)和f(k)帶入加法器進行減法運算，得到的差便是去噪后接近期望信號x(k)的值。這便要求噪聲n1(k)和參考輸入噪聲n2(k)之間具有較強的相關(guān)性，去噪效果才能更好。用自適應(yīng)濾波模塊求式（7）中的濾波器的權(quán)系數(shù)和階數(shù)時會使用到自適應(yīng)算法，文獻[8]用到了LMS算法。實驗發(fā)現(xiàn)該方法雖然計算量小、易于實現(xiàn)，但是在較低信噪比下效果一般，而且在各通道混入不同但相關(guān)的噪聲時，去噪效果較差。利用基于QR分解的RLS算法則能夠彌補這些不足。下文仿真實驗將利用QRRLS算法在解混之前對含噪觀測向量去噪處理，帶噪聲混合信號作為自適應(yīng)抵消器的原始輸入，混入噪聲作為參考輸入，輸出即去噪后的混合向量，最后用Fast-ICA算法從中提取出獨立成分（關(guān)于基于QR分解RLS算法，可以參考文獻[13]）。

4 性能指標(biāo)

比較分離信號和源信號之間的波形是辨別算法性能的最直觀的方法。ICA算法得到的分離信號具有順序不確定、符號不確定性和幅值不確定性（見圖4）。存在殘存噪聲時，幅值的估計變得困難，因為經(jīng)過去噪和解混后殘存的噪聲產(chǎn)生的“毛邊”會掩蓋信號的真實邊際，故如何用指標(biāo)精確的描述算法的性能比無噪聲存在時相對困難。分離信號可用下式表示：

式中，N是采樣點數(shù)，i=1，2，…，N。上式寫成最小二乘形式為：

而且，式（10）的最小值就是殘存噪聲的能量，進而輸出信噪比表示為：

5 實驗仿真

為方便和文獻[8]中LMS-ICA方法作比較，實驗選擇了兩個女聲和一個男聲等三個語音信號作為信號源，采樣率為8 kHz，采樣點數(shù)為20 000。實驗分為兩個部分：一是在同一噪聲條件下，即不同傳感器受到同一個噪聲污染；一是在相關(guān)噪聲條件下，即不同傳感器受到污染噪聲之間是相關(guān)的。

5.1 同一噪聲條件下

文獻[8]的實驗里用三個傳感器來采集三個語音信號和排氣扇噪聲，理想情況下認為源信號被同一噪聲污染。實驗選擇用QRRLS-ICA對這種情況仿真過程如圖4。

如圖4所示，（a）、（b）、（c）和（d）分別顯示的是源信號、混入噪聲－10 dB時的混合信號、去噪后的混合信號和分離信號。實驗過程中，先對圖4（b）中受噪聲污染的混合信號用QRRLS自適應(yīng)消噪算法進行去噪處理，得到圖4（c）所示的較為“純凈”的混合信號，再用Fast-ICA算法從后者中提取出圖4（d）顯示的獨立成分。從圖中波形可見，去噪后分離出的信號比較純凈，視聽效果也沒有干擾。用最小二乘算法求解出此時分離出的三個信號的輸出信噪比分別為11.9 dB、7.3 dB、13.0 dB（參見表2劃線部分）。為方便和LMS-ICA算法進行比較，將其分離信號輸出信噪比統(tǒng)計如表2。

表2 同一噪聲條件下QRRLS-ICA和LMS-ICA算法對比 dB

在表2中，共選取了四組數(shù)據(jù)來對兩種方法進行了對比，Input-SNR表示各通道混入噪聲的信噪比水平，Output-SNR表示分離信號中殘存噪聲的信噪比水平（每組數(shù)據(jù)為50次實驗的平均值，下同）。對比發(fā)現(xiàn)，QRRLS-ICA算法相比LMS-ICA算法在相同信噪比時，前者的去噪效果比后者更加顯著。其次，前者穩(wěn)定性好。隨著噪聲的增強，QRRLS-ICA算法性能衰減比LMS-ICA算法慢，從5 dB到－40 dB的外加噪聲情況下，其輸出信噪比一直維持在較高的水平。而且實驗中發(fā)現(xiàn)，用LMS-ICA算法有時不能收斂，或者某一信號有時分離不出。從視聽效果上，LMS-ICA算法在低信噪比水平下得到的結(jié)果明顯有干擾。

仿真實驗中，如果將混合矩陣A固定，混合信號也就確定，因此通過把兩種方法得到的去噪后混合信號分別與純凈的混合信號（見圖5（a））進行對比，用信噪比衡量出它們中殘存噪聲的多少，以此來表征兩種算法的噪聲匹配精度。LMS-ICA算法得到去噪后混合信號和分離信號分別如圖5（b）和（c）所示。比較圖4（c）、（d）和圖5可見，LMS整體去噪效果和分離效果不太理想，剩余了大量噪聲。輸入噪聲為－10 dB時，QRRLS去噪后的混合信號信噪比分別為－0.25 dB、－0.39 dB和－0.35 dB，LMS去噪后的混合信號信噪比分別為－2.34 dB、－4.17 dB和－3.42 dB。顯然，QRRLS的噪聲匹配精度更高。

5.2 相關(guān)噪聲條件下

圖4 混入噪聲－10 dB時QRRLS-ICA仿真過程圖

圖5 純凈的混合信號以及LMS-ICA去噪后混合信號和分離信號

實際上，所有通道所污染的噪聲和自適應(yīng)噪聲抵消器的參考輸入為同一噪聲這一假設(shè)條件有些理想化?？紤]到一些不確定因素的隨機擾動影響（假設(shè)它們是高斯的），假定這些通道混入的噪聲之間是高相關(guān)的比較符合實際，稱之為相關(guān)噪聲。那么對這些高相關(guān)噪聲進行自適應(yīng)去噪后，殘余噪聲可視為是高斯的。前面已用實驗證明，若混合信號混入一定信噪比的高斯噪聲后，用常規(guī)的ICA算法依然可以分離出帶少許噪聲的獨立成分。在上述實驗的基礎(chǔ)上，各通道對混入噪聲加入微量隨機擾動來模擬相關(guān)噪聲（隨機擾動的噪聲水平必須在一定范圍內(nèi)）。圖6為兩種算法在混合信號各通道混入噪聲為0 dB時得到的分離信號。

從圖6可直觀看出，相關(guān)噪聲條件下，兩種算法的分離效果相比同一噪聲條件下有所降低。在各通道噪聲約為0 dB時，LMS-ICA算法基本上只能分離出兩路信號。同樣地，將兩種算法的性能指標(biāo)統(tǒng)計如表3。

圖6 混入的相關(guān)噪聲為0 dB時，QRRLS-ICA和LMS-ICA算法分離信號對比

表3 相關(guān)噪聲條件下QRRLS-ICA和LMS-ICA算法對比 dB

不難發(fā)現(xiàn)，相關(guān)噪聲條件下，LMS-ICA算法基本失效。如果不同通道所加入的擾動差別變大時，即噪聲之間相關(guān)性變?nèi)鯐r，QRRLS-ICA算法性能隨之衰減。

6 結(jié)論

實驗分析發(fā)現(xiàn)，噪聲ICA模型的關(guān)鍵在于對含噪聲的觀測向量或者含噪聲的獨立成分進行去噪。通過對分離性能指標(biāo)PI在高斯噪聲條件下統(tǒng)計分析，得出了對前者的去噪更容易實現(xiàn)的結(jié)論。在此結(jié)論的基礎(chǔ)上，引入自適應(yīng)噪聲抵消技術(shù)進行去噪是比較合理的，因為這種去噪方法不需要對噪聲有苛刻的假設(shè)條件；然后再用Fast-ICA算法從去噪后的觀測信號中提取出獨立成分。實驗仿真表明基于QR分解的RLS自適應(yīng)濾波器比LMS濾波器去噪效

果明顯，尤其在不同通道混入相關(guān)噪聲的情況下仍然有較好的效果，但是其在運算效率方面不如后者。此外，用最小二乘法求輸出信噪比，能夠較為準(zhǔn)確地反映算法的去噪結(jié)果。當(dāng)各混合通道混入的噪聲之間的相關(guān)性較小或者是獨立的，QRRLS-ICA方法性能也會隨之變差。

[1]Amari S，Hyv?rinen A，Lee S Y，et al.Blind signal separation and independent component analysis[J].Neurocomputing，2002，49：1-5.

[2]Choi S，Cichocki A，Park H M，et al.Blind source separation and independent component analysis：a review[J].Neural Information Processing，2005，6（1）：1-57.

[3]Hyv?rinen A，Karhunen J，Oja E.Independent component analysis[M].New York：John Wiley，2001.

[4]Hyvarinen A.Gaussian moments for noisy independent componentanalysis[J].IEEE SignalProcessing Letters，1999，6 （6）：145-147.

[5]Shi Zhenwei，Zhang Changshui.Gaussian moments for noisy complexity pursuit[J].Neurocomputing，2006，69：917-921.

[6]Cichocki A，Douglas S C，Amari S.Robust techniques for independent component analysis with noisy data[J].Neurocomputing，1998，22：113-129.

[7]Jafari M G，Chambers J A.Adaptive noise cancellation and blind source separation[C]//4th International Symposium on Independent Component Analysis and Blind Signal Separation（ICA 2003）.[S.l.]：ICA Press，2003：627-632.

[8]吳莉莉，曹晴，李輝.ICA和線性神經(jīng)網(wǎng)絡(luò)在帶噪語音分離中的研究[J].計算機工程與應(yīng)用，2010，46（16）：143-146.

[9]Parka H M，Ohb S H，Lee S Y.A filter bank approach to independent component analysis and its application to adaptive noise canceling[J].Neurocomputing，2003，55：755-759.

[10]季忠，金濤，楊炯明，等.虛擬噪聲通道在基于ICA消噪過程中的應(yīng)用[J].中國機械工程，2005，16（4）：350-352.

[11]徐麗琴.盲源分離算法研究[D].西安：西安電子科技大學(xué)，2006：9-10.

[12]史習(xí)智.盲信號處理—理論與實踐[M].上海：上海交通大學(xué)出版社，2008：3-6.

[13]劉郁林，景曉軍，譚剛兵，等.自適應(yīng)濾波算法與實現(xiàn)[M].北京：電子工業(yè)出版社，2004：192-220.

[14]Yang Yumin，Guo Chonghui.Gaussian moments for noisy unifying model[J].Neurocomputing Lett，2008，71：3656-3659.

[15]Hyvarinen A.FastICA fornoisy data using Gaussian moments[C]//ProceedingsoftheInternationalSymposium on Circuits and Systems.Orlando，F(xiàn)L：[s.n.]，1999：57-61.

ZHANG Mingliang,WANG Shuzhao,LU Hu,BIAN Dongliang,WANG Bo,YANG Yong

Faculty of Science,Air Forces Engineering University,Xi'an 710051,China

Bias removal techniques usually remove the bias which is caused by noise in the method of correcting noiseless ICA. Nevertheless,the demixing matrix is still identifiable by using the noiseless ICA algorithms in the presence of additive Gaussian noise.So it is preferable to perform denoising with the vector of observed random variables,rather than to make modification to the demixing matrix.Then the QR-decomposition-based Recursive Least Squares（RLS）adaptive noise cancellation（QRRLS）is introduced to combine with Fast-ICA algorithm.To test performance of the proposed approach,two experiments for it and the LMS-ICA algorithm are conducted on the conditions of identical noise and correlation noises respectively.By comparison,it shows that the proposed approach outperforms the latter.Moreover,in order to measure the performance availably,the least-squares method is adopted to calculate the Signal to Noise Ratio（SNR）of recovery signals.

noisy independent component analysis;bias removal techniques;identifiability of demixing matrix;Recursive Least Squares（RLS）adaptive noise cancellation;least-squares method

偏差去除算法通常假設(shè)高斯噪聲條件下對普通ICA算法進行修正來消除噪聲帶來的影響。但是存在高斯噪聲條件時，普通ICA算法對解混矩陣仍然可以辨識。故引入基于QR分解的RLS自適應(yīng)噪聲抵消算法和Fast-ICA算法相結(jié)合，只需對觀測信號進行去噪處理，不需要對解混矩陣修正。并分別在同一噪聲和相關(guān)噪聲條件下做了仿真實驗，與LMS-ICA算法進行了比較。仿真實驗證明，該方法比后者效果顯著。提出了用最小二乘算法計算分離信號的輸出信噪比，作為評價算法的性能指標(biāo)。

噪聲獨立分量分析（ICA）；偏差去除技術(shù)；解混矩陣的可辨識性；遞歸最小二乘（RLS）自適應(yīng)抵消；最小二乘算法

A

TP391

10.3778/j.issn.1002-8331.1107-0484

ZHANG Mingliang,WANG Shuzhao,LU Hu,et al.Study of bias removal techniques for noisy ICA.Computer Engineering and Applications,2013,49（5）：205-209.

國家自然科學(xué)基金（No.61174194）。

張明亮（1988—），男，碩士研究生，研究領(lǐng)域：信號和信息處理；王曙釗（1955—），男，教授，碩導(dǎo)，研究領(lǐng)域：信號和信息處理、信號檢測與估計、無源雷達定位技術(shù)；盧虎（1975—），男，副教授，碩導(dǎo)，研究領(lǐng)域：通信與信息系統(tǒng)；卞東亮（1988—），男，碩士研究生，研究領(lǐng)域：雷達目標(biāo)檢測與跟蹤；王博（1987—），男，碩士研究生，研究領(lǐng)域：雷達目標(biāo)檢測與跟蹤；楊勇（1987—），男，碩士研究生，研究領(lǐng)域：集成電路設(shè)計與雷達信號處理。E-mail：446478446@qq.com

2011-07-25

2011-09-23

1002-8331（2013）05-0205-05

CNKI出版日期：2011-11-14 http://www.cnki.net/kcms/detail/11.2127.TP.20111114.0939.025.html