多類(lèi)型噪聲中的獨(dú)立成分分離算法

馮平興，魏 平

?

多類(lèi)型噪聲中的獨(dú)立成分分離算法

馮平興，魏 平

(電子科技大學(xué)電子工程學(xué)院 成都 611731)

該文將一般的噪聲獨(dú)立成分分離算法擴(kuò)展到多類(lèi)型噪聲混合環(huán)境。為了識(shí)別觀測(cè)數(shù)據(jù)中的多類(lèi)型噪聲成份，利用基于S估計(jì)原理的非多項(xiàng)式函數(shù)，對(duì)觀測(cè)數(shù)據(jù)進(jìn)行投影分析，給出脈沖噪聲閾值估計(jì)及噪聲去除和重構(gòu)信號(hào)方法。此外，結(jié)合獨(dú)立噪聲分析算法，提出了一種針對(duì)多類(lèi)型噪聲的快速獨(dú)立成份分離算法。該算法解決了傳統(tǒng)噪聲ICA在多類(lèi)型噪聲環(huán)境，特別是脈沖噪聲時(shí)的失效性問(wèn)題，極大地提高了噪聲ICA算法的分離性能。仿真分析驗(yàn)證了該方法的有效性。

獨(dú)立成分分析; 多維信號(hào)處理; 噪聲; 噪聲算法

盲源分離(blind signal separation, BSS)是信號(hào)處理技術(shù)中新發(fā)展起來(lái)的方法。與傳統(tǒng)的信號(hào)處理技術(shù)相比，具有很多優(yōu)良的特點(diǎn)。它僅利用所觀測(cè)到的數(shù)據(jù)，用統(tǒng)計(jì)的方法對(duì)信號(hào)進(jìn)行分離。由于對(duì)觀測(cè)信號(hào)不需要獲得先驗(yàn)知識(shí)，所以被廣泛用于定位跟蹤、多輸入多輸出、數(shù)字水印等領(lǐng)域[1-9]。傳統(tǒng)的噪聲獨(dú)立成份分析算法中常用的去除噪聲算法主要有：偏差去除技術(shù)、極大似然估計(jì)、最大后驗(yàn)估計(jì)和稀疏碼收縮等方法。

文獻(xiàn)[5-6]提出了一種基于偏差消除方法用于消除觀測(cè)數(shù)據(jù)中的高斯噪聲。極大似然估計(jì)主要用于對(duì)混合矩陣的估計(jì)[7]，然而該方法隨著信號(hào)維數(shù)的增加，其計(jì)算量會(huì)迅速增長(zhǎng)，極大地降低了算法的效率。極大后驗(yàn)估計(jì)和稀疏碼收縮法[8-11]除了計(jì)算量的問(wèn)題外還對(duì)數(shù)據(jù)的模型做了精確的假設(shè)，因而上述方法難以滿(mǎn)足多類(lèi)型噪聲的環(huán)境。本文將傳統(tǒng)的噪聲獨(dú)立成分分離方法推廣到多類(lèi)型噪聲環(huán)境，利用該方法在不增加計(jì)算量的基礎(chǔ)上可以將混有多種噪聲的獨(dú)立源信號(hào)分離出來(lái)。

1 噪聲獨(dú)立成分混合模型

1.1 獨(dú)立成分的混合

無(wú)噪聲獨(dú)立成分混合模型是基于信號(hào)源之間相互獨(dú)立且為非高斯的假設(shè)，估計(jì)信號(hào)與源信號(hào)的關(guān)系可以表示為：

(2)

1.2 噪聲混合模型

當(dāng)噪聲混入源信號(hào)后，相應(yīng)的觀測(cè)信號(hào)可以表示為：

或

(5)

利用簡(jiǎn)單的數(shù)學(xué)關(guān)系可以得到此時(shí)被估計(jì)噪聲的另一種表示形式：。因而式(5)可以重寫(xiě)為：[5-6]。一般地，如果噪聲成分分別加載到源信號(hào)之上，又或者噪聲成分的協(xié)方差具有特定的形式，那么混合信號(hào)的估計(jì)就可以用經(jīng)典的ICA分離算法得到。

然而，當(dāng)噪聲的類(lèi)型為多種，特別是在源信號(hào)中混有沖擊噪聲和高斯噪聲時(shí)，那么式(4)和式(5)可表示為：

和

(8)

在這種情況下，脈沖噪聲會(huì)對(duì)經(jīng)典的ICA分離算法有顯著的影響，使得估計(jì)的分離矩陣精度難以保證，甚至失去原有的分離性能，因而對(duì)混合噪聲中的脈沖成分分析是必要的。

2 脈沖成分分析

2.1 非多項(xiàng)式函數(shù)

由于對(duì)觀測(cè)數(shù)據(jù)進(jìn)行白化處理會(huì)使得ICA問(wèn)題變得簡(jiǎn)單，因此可以對(duì)噪聲成分進(jìn)行白化投影處理。

因而，對(duì)觀測(cè)到的噪聲成分，白化處理可以表示為：

(10)

為了分析觀測(cè)數(shù)據(jù)中的脈沖成分，本文提出利用基于S估計(jì)原理，構(gòu)造合適的非多項(xiàng)式函數(shù)對(duì)觀測(cè)數(shù)據(jù)進(jìn)行投影處理，定義為：

(12)

根據(jù)S估計(jì)的理論基礎(chǔ)，并結(jié)合仿真試驗(yàn)，本文給出了兩個(gè)用于數(shù)據(jù)投影的非多項(xiàng)式函數(shù)：

(14)

(16)

2.2 脈沖噪聲的消除

由于閾值是隨觀測(cè)數(shù)據(jù)而變化，實(shí)驗(yàn)表明觀測(cè)數(shù)據(jù)中如果脈沖噪聲不太嚴(yán)重，又或者脈沖噪聲為稀疏型分布的情況下，式(16)具有良好的檢驗(yàn)性能。由式(16)的結(jié)果僅能判斷數(shù)據(jù)脈沖噪聲的存在性，為了消除脈沖噪聲對(duì)分離性能的影響，本文給出了去除脈沖噪聲并重構(gòu)數(shù)據(jù)的方法為：

(18)

實(shí)驗(yàn)表明，式(17)對(duì)于平穩(wěn)型數(shù)據(jù)具有良好的處理效果，而式(18)處理超高斯型數(shù)據(jù)中的脈沖噪聲問(wèn)題時(shí)效果顯著。式(17)和式(18)是基于觀測(cè)數(shù)據(jù)含有脈沖噪聲而提出的，當(dāng)數(shù)據(jù)中沒(méi)有脈沖噪聲時(shí)，上述處理方法仍然有效。由于進(jìn)行了平均運(yùn)算，其作用機(jī)理相當(dāng)于濾波，因此不會(huì)對(duì)源數(shù)據(jù)有實(shí)質(zhì)的影響。

2.3 多類(lèi)型噪聲中的分離算法

通過(guò)上述分析，可以得到關(guān)于多類(lèi)型噪聲環(huán)境中的獨(dú)立成分分析的分離算法:

1) 對(duì)觀測(cè)的噪聲數(shù)據(jù)中心化處理使其均值為0；

2) 利用式(10)對(duì)數(shù)據(jù)進(jìn)行白化處理；

4) 利用合適的非多項(xiàng)式函數(shù)，如式(13)、式(14)對(duì)觀測(cè)數(shù)據(jù)進(jìn)行投影，并計(jì)算閾值；

6) 利用式(17)或式(18)去除脈沖噪聲并重構(gòu)數(shù)據(jù)；

7) 利用噪聲ICA分離算法迭代：

9) 如果仍未收斂，則返回步驟7)。

3 仿真分析

為了分析算法的有效性，本文利用混有高斯白噪聲和脈沖噪聲的超高斯和次高斯信號(hào)進(jìn)行仿真分析。觀測(cè)信號(hào)由式(7)或者式(8)給出。為了便于比較，所有的實(shí)驗(yàn)中高斯噪聲協(xié)方差矩陣設(shè)定為，混合的脈沖噪聲為：

此外，為公平起見(jiàn)，用于實(shí)驗(yàn)的源信號(hào)、參數(shù)設(shè)置一致。為了評(píng)價(jià)算法的分離性能，本文引入了Amari指數(shù)[14]進(jìn)行分析，其計(jì)算可以表示為：

首先，本文對(duì)傳統(tǒng)的噪聲ICA算法和本文提出的多類(lèi)型噪聲ICA算法在源信號(hào)混有高斯白噪聲和脈沖噪聲的情況下進(jìn)行比較。3種用于仿真的源信號(hào)為三角波信號(hào)、由多種不同頻率正弦波疊加的信號(hào)、正弦信號(hào)，其幅值分別為1.8、2、2，圖2和圖3分別給出了分離信號(hào)的結(jié)果。

從分離結(jié)果可以看出，當(dāng)混入脈沖噪聲成分時(shí)，傳統(tǒng)的噪聲ICA算法失去了應(yīng)有的性能，此時(shí)雖然算法整體上仍然具有收斂性，然而其分離出的信號(hào)已經(jīng)失去意義。相比之下，由圖3可以看出，本文提出的算法能夠成功分離出相應(yīng)的源信號(hào)。

圖4顯示了兩種算法在多類(lèi)型噪聲的環(huán)境中隨信號(hào)樣本數(shù)量增長(zhǎng)的分離性能結(jié)果。

圖4 不同樣本長(zhǎng)度下的分離性能

仿真結(jié)果顯示，本文提出的算法隨著樣本數(shù)量增加，分離性能提高；然而，由于未考慮到脈沖噪聲的影響，即使增加信號(hào)樣本數(shù)量，傳統(tǒng)的噪聲ICA算法仍然無(wú)法成功分離源信號(hào)。

圖5給出了兩種算法在不同信噪比下的分離性能。

可以看出，本文的算法性能隨信噪比的增加而改善。雖然傳統(tǒng)的噪聲ICA算法的性能隨信噪比的增加而局部改善，然而由于脈沖噪聲影響，使得估計(jì)矩陣的精度大幅度降低，甚至導(dǎo)致算法無(wú)法收斂，即使收斂，分離的結(jié)果仍不能滿(mǎn)足分離信號(hào)的要求。

4 結(jié)束語(yǔ)

本文提出了一種用于在多類(lèi)型噪聲環(huán)境中的獨(dú)立成分分離算法。利用S估計(jì)原理給出了用于分析脈沖噪聲的非多項(xiàng)式函數(shù)，并提出了脈沖噪聲的閾值估計(jì)及脈沖噪聲的去處和重構(gòu)信號(hào)的方法。仿真結(jié)果表明，本文提出的算法能夠在多類(lèi)型噪聲中實(shí)現(xiàn)對(duì)獨(dú)立成分的分離，并顯示出良好的性能。

[1] BREUER L, DAMMERS J, ROBERTS T P, et al, A constrained ICA approach for real-time cardiac artifact rejection in magneto encephalography[J]. IEEE Transactions on Biomedical Engineering, 2014, 61(2): 405-414.

[2] WANG Xiao-feng, ZHANG Xiao-Ping. An ICA mixture hidden conditional random field model for video event classification[J]. IEEE Transactions on Signal Processing, 2013, 61(24): 46-59.

[3] NAFTA A, JOHANNISSON P, SHTAIF M. Blind equalization in optical communications using independent component analysis[J]. Journal of Lightwave Technology, 2013, 31(12): 2043-2049.

[4] HYVARINEN A. Fast independent component analysis with noise data using Gaussian moments[C]//Proc Int Symp on Circuits and Systems. Orlando, Florida, USA: [s.n.], 1999.

[5] HYVARINEN A. Gaussian moments for noisy independent component analysis[J]. IEEE Signal Processing Letters, 1999, 6(6): 145-147.

[6] MOULINES E, CARDOSO J, GASSIAT E. Maximum likelihood for blind separation and deconvolution of noisy signals using mixtures models[C]//Proc IEEE Int Conf on Acoustics, Speech and Signal Processing. Munich, Germany: IEEE, 1997.

[7] KOIVUNEN V, ENESCU M, OJA E. A adaptive algorithm for blind separation from noisy time varying mixtures[J]. Neural Computation, 2001, 13(10): 2339-2357.

[8] KOIVUNEN V, OJA E. Predictor-corrector structure for real time blind separation from the noisy mixtures[C]//Proc Int Workshop on Independent component Analysis and Signal Separation (ICA’99). Aussois, France: [s.n.], 1999.

[9] HYVARINEN A. Sparse code shrinkage: Denoising of nongaussian data by maximum likelihood estimation[J]. Neural Computation, 1999, 11(7): 1739-1768.

[10] HAYKIN S, KOSKO B. IIntelligent signal processing[M]. New York, USA: Wiley-IEEE Press, 2009.

[11] HYVARINEN A, KARHUNEN J, OJA E. Independent component analysis[M]. New York, USA: Jhon Wiley & Sons, 2001.

[12] ROUSSEEUW P J, LEROY A M. Robust regression and outlier detection[J]. Wiley-Interscience, 1987, 31(2): 260-261.

[13] AMARI S, CICHOCKI A, YANG H H. A new learning algorithm for blind signal separation[C]//Advances in Neural Information Processing Systems. Denver, USA: NIPS, 1995.

編 輯 稅 紅

Algorithm of Independent Component Analysis for Multi-Types Noise Moments

FENG Ping-xing and WEIPing

(School of Electronic Engineering, University of Electronic Science and Technology of China Chengdu 611731)

The performance of fast fixed-point algorithm of independent component analysis (ICA) is influenced by noise significantly. However, the method of noisy ICA proposed by Hyv?rinen did not discuss the impulsive noise. In this study, we extend the algorithm proposed by Hyv?rinen for noisy ICA to the more general situation in which the signals are observed in the presence of Gaussian and impulsive noise. We use the non-polynomial function to analyze the impulsive noise, which is to guarantee the impulsive noise can be distinguished from the observed data. Furthermore, combined with the noisy ICA method, a modification to the algorithm for multi-noise is introduced. The proposed technique improves the performance of Hyv?rinen’s algorithm for cases where the observed signals contain Gaussian and impulsive noise. We also perform simulations to demonstrate the effectiveness of the proposed method.

independent component analysis; multidimensional signal processing; noise; noisy algorithm

TN97

A

10.3969/j.issn.1001-0548.2017.02.006

2015-06-10；

2015-10-12

國(guó)家自然科學(xué)基金(11176005)

馮平興(1981-)，男，博士，主要從事信號(hào)處理、盲源分離等方面的研究.