抗沖擊噪聲的核對數(shù)最小絕對差算法

林　云，雷　洋，曾俊俊

（重慶郵電大學(xué) 移動通信技術(shù)重慶市重點實驗室，重慶 400065）

抗沖擊噪聲的核對數(shù)最小絕對差算法

林云，雷洋，曾俊俊

（重慶郵電大學(xué) 移動通信技術(shù)重慶市重點實驗室，重慶 400065）

提出了一種魯棒核自適應(yīng)濾波算法，其結(jié)合了核空間和最小對數(shù)絕對差（LLAD）算法，使用對數(shù)代價函數(shù)來解決沖擊噪聲對算法收斂的影響，從而提高算法的抗干擾性能。核對數(shù)最小絕對差（KLLAD）算法實現(xiàn)了類似核最小均方誤差（KLMS）算法的收斂性能，而且KLLAD算法具有很強的抗干擾能力，在非線性系統(tǒng)辨識中的魯棒性和收斂方面具有很好的表現(xiàn)。

自適應(yīng)濾波；系統(tǒng)辨識；魯棒性

0　引言

核方法作為解決非線性問題的有效手段得到了全面的關(guān)注和研究，它的原理是把輸入信號映射到高維的特征空間中，在高維的特征空間里再進行線性運算[1]，從而解決非線性問題。核方法不需要知道映射的具體形式，只需要確定變換后內(nèi)積的核函數(shù)的形式?；谧钚【秸`差（LMS）算法的核最小均方誤差（KLMS）算法已經(jīng)被證明能夠在有高斯噪聲的環(huán)境下很好地解決非線性問題[2]，而在實際應(yīng)用中往往會存在著非高斯沖擊噪聲[3]，因而 KLMS算法的性能會受到很大的影響。在線性算法中，用對數(shù)作為代價函數(shù)的最小對數(shù)絕對差（LLAD）算法被用來解決這種存在非高斯噪聲的問題[4]。文獻[4]中的實驗結(jié)果表明，最小對數(shù)絕對差（LLAD）算法和傳統(tǒng)的最小均方誤差（LMS）算法相比，前者具有很好的抗沖擊干擾能力，但是LLAD算法僅僅適用于線性系統(tǒng)。本文將LLAD算法引入到核空間中，提出核最小對數(shù)絕對差（KLLAD）算法，以此來解決存在非高斯噪聲的非線性問題，由于KLLAD算法以對數(shù)作為代價函數(shù)，能夠降低測量誤差 e(i)對算法更新的影響，所以它在魯棒性和收斂方面都有很好的表現(xiàn)。

1　KLMS和LLAD自適應(yīng)濾波算法

1.1KLMS算法

Mercer核是一個連續(xù)、對稱、正定的核函數(shù) κ：Rm× Rm→R[5]，常用的核函數(shù)包括高斯核和多項式核，本文使用的高斯核定義如下：

其中 h是核參數(shù)，根據(jù) Mercer的理論研究，任何核函數(shù)κ(u，u′)都可以通過映射φ以內(nèi)積的形式把輸入空間 U映射到高維特征空間 F（內(nèi)積空間）中[6]，其數(shù)學(xué)表達式如下：

如果定義φ(u)=κ(u，·)，則特征中空間 F本質(zhì)上也是一個核再生希伯特空間，KLMS算法實質(zhì)上就是在特征空間F中的線性LMS算法[2]。首先，通過映射φ將輸入信號u(i)映射到特征空間F中后變成φ(u(i))，定義φ(i)=φ(u(i))，然后對新的輸入數(shù)列{φ(i)，d(i)}應(yīng)用 LMS算法可以得到：

其中，e(i)是第 i次的預(yù)測誤差，η是步長，w(i)是對特征空間中對自適應(yīng)濾波器抽頭矢量的估計。由式(3)可以看出，KLMS算法本質(zhì)上是在高緯特征空間中的線性LMS算法，是解決非線性問題的有效手段，有著非常廣泛的應(yīng)用。

1.2LLAD算法

在傳統(tǒng)的 LMS算法中，定義輸入信號為 u(i)，期望輸出為d(i)，濾波器輸出為y(i)，誤差信號e(i)=d(i)-y(i)= d(i)-w(i)Tu(i)，w(i)是自適應(yīng)濾波器的抽頭系數(shù)矢量，最常見的代價函數(shù)是E(e(i)2)，通過減少代價函數(shù)來逼近待辨識的系統(tǒng)，而在LLAD算法中應(yīng)用對數(shù)作為代價函數(shù)[4]：

對式(4)求導(dǎo)可得：

當(dāng)式（5）=0時，代價函數(shù)便取得最優(yōu)解，其中 a為設(shè)計的參數(shù)且a＞0，因此LLAD算法的自適應(yīng)濾波器的抽頭矢量更新表達式變?yōu)椋?/p>

其中μ為步長參數(shù)。

分析式(6)可知，當(dāng)e(i)很大時算法更新近似于符號（SA）算法，當(dāng) e(i)很小時，算法更新近似于傳統(tǒng)的 LMS算法。因此LLAD算法綜合了LMS和SA兩種算法[4]，與LMS算法相比具有很好的抗沖擊噪聲性能，與SA算法相比具有更好的收斂性能。

2　KLLAD自適應(yīng)濾波算法

最小對數(shù)絕對差（LLAD）算法雖然具有很好的抗沖擊噪聲性能和收斂性能，但其只適用于線性系統(tǒng)，并不能直接用來解決非線性問題，因此本文在LLAD算法的基礎(chǔ)上提出KLLAD算法，在核空間中應(yīng)用LLAD算法，把LLAD算法推廣到核空間來解決非線性問題，并用系統(tǒng)辨識來驗證其魯棒性和收斂性能。

首先，通過映射 φ將輸入信號u(i)映射到特征空間F中后變成φ(u(i))，定義 φ(i)=φ(u(i))，然后對新的輸入數(shù)列{φ(i)，d(i)}應(yīng)用 LLAD算法可以得到 KLLAD算法，KLLAD算法第i次的預(yù)測誤差:

由式(4)可以得出KLLAD算法的代價函數(shù)為：

其中F(e(i))=E(|e(i)|)。

對式(8)求導(dǎo)可得到：

如果▽wF(e(i))=0或者F(e(i))=0，則對數(shù)代價函數(shù)可以取得最優(yōu)解，所以對數(shù)代價函數(shù)J(e(i))的最優(yōu)解與代價函數(shù) F(e(i))的最優(yōu)解是一致的[4]。由于 F(e(i))=E(|e(i)|)，利用式(6)可以得出：

其中 μ是步長，w(i)是對特征空間中對自適應(yīng)濾波器抽頭矢量的估計，如果定義w(0)=0，則可得到：

KLLAD在特征空間中的學(xué)習(xí)曲線為：

自適應(yīng)濾波器的輸出fi=w(i)Tφ(·)，如果定義φ(u(i))= κ(u(i)，.)，則KLLAD在原始空間中的學(xué)習(xí)曲線為：

綜上所述，KLLAD算法本質(zhì)上是在特征空間中的LLAD算法，所以其具有LLAD算法的魯棒性。

3　實驗仿真結(jié)果分析

系統(tǒng)辨識是自適應(yīng)濾波器的一個重要應(yīng)用，本文用非線性系統(tǒng)辨識來驗證KLLAD算法的性能，定義系統(tǒng)噪聲由高斯噪聲和非高斯沖擊噪聲線性組合而成，系統(tǒng)噪聲混入期望信號對期望信號產(chǎn)生干擾，實驗中分別用KLLAD、KLMS和 LLAD三種算法來對該未知系統(tǒng)進行逼近，并對比三種算法的魯棒性和收斂性。

非線性系統(tǒng)由一個線性信道和一個非線性信道組合而成[7]，其中線性信道選擇為：H(z)=1+0.2z-1，非線性信道為：y=x-0.9x2，其中 x為線性信道的輸出。定義非高斯沖擊噪聲表示為KiAi，Ki是一個伯努利過程且p(Ki=1)= pr，Ai是零均值的高斯過程，系統(tǒng)噪聲 n(i)由一個方差為σ2的白高斯噪聲和沖擊噪聲 KiAi組成[8，9]，在實驗中KLLAD算法的參數(shù)設(shè)定為：核參數(shù)h=0.1，σ2=0.4，a=5[4]，μ=0.1；KLMS算法中 σ2=0.4，μ=0.05；LLAD算法中 σ2= 0.4，μ=0.01。三種算法的訓(xùn)練數(shù)據(jù)是1 000，測試數(shù)據(jù)是100，學(xué)習(xí)曲線取計算30次的平均值。三種算法的性能對比如圖1、圖2和圖3所示。其中圖1是沒有非高斯沖擊噪聲的環(huán)境，即pr=0；圖2是存在5%的非高斯沖擊噪聲的情況（pr=0.05，Ai=150）；圖3是存在很大單點非高斯沖擊噪聲的情況（A500=1 500）。

從圖1可以看出：在沒有沖擊噪聲的環(huán)境下，KLLAD（μ=0.1）算法和 KLMS算法（μ=0.05）具有相近的穩(wěn)態(tài)誤差，而且KLLAD算法收斂速度比KLMS要快；與LLAD算法（μ=0.01）相比，KLLAD算法的穩(wěn)態(tài)誤差要遠遠低于LLAD算法，由此也證明了LLAD算法不適用于非線性系統(tǒng)，表明了提出KLLAD算法的必要性。從圖2可以看出：在存在非高斯沖擊噪聲的環(huán)境里，KLLAD算法與LLAD都有很好的魯棒性，能夠避免沖擊噪聲對算法更新迭代的影響，使算法具有穩(wěn)定性；但是KLMS算法由于受到系統(tǒng)非高斯沖擊噪聲的影響，穩(wěn)態(tài)誤差波動較大，其收斂性能大大降低，KLLAD算法要優(yōu)于KLMS算法。圖3是在第500次迭代時出現(xiàn)一個很大的非高斯沖擊噪聲，從圖中可以看出：在500次迭代時該沖擊噪聲對KLLAD和LLAD算法并無影響，而KLMS算法在i=500時出現(xiàn)了較大的波動，產(chǎn)生了較大的誤差，在非高斯沖擊噪聲消失后，KLMS算法又會收斂于一個較低的穩(wěn)態(tài)誤差，其結(jié)果更進一步驗證了KLLAD算法的魯棒性和KLMS算法的局限性，在有非高斯沖擊的環(huán)境下KLLAD算法要遠遠優(yōu)于KLMS算法。

圖1　無沖擊噪聲環(huán)境下的三種算法對比（pr=0）

圖2　有沖擊噪聲環(huán)境下的三種算法對比（pr=0.05，Ai=150）

圖3　在i=500有單點沖擊噪聲環(huán)境下的三種算法對比

4　結(jié)論

本文提出的核最小對數(shù)絕對差（KLLAD）算法是將最小絕對差(LLAD)算法與核方法相結(jié)合而形成的新的算法，由于 KLLAD算法使用對數(shù)作為代價函數(shù)，有效降低了測量誤差 e(i)對算法更新迭代的影響[4]，使算法更具穩(wěn)定性，以此來解決存在非高斯沖擊噪聲的非線性問題，從系統(tǒng)辨識的實驗仿真結(jié)果來看，在存在非高斯沖擊噪聲的環(huán)境里KLLAD算法與LLAD算法、KLMS算法相比，前者確實具有很好的魯棒性和收斂性能。

[1]LIU W，PRINCIPLE J C，HAYKIN S.Kernel adaptive filtering：a comprehensive introdtion[M].Hoboken，NJ，USA：Wiley，2010.

[2]LIU W，POKHAREL P P，PRINCIPLE J C.The kernel least-mean-square algorithm[J].IEEE Trans.Signal Process.，2008，56（2）：543-554.

[3]CHAMBERS J，AVLONITIS A.A robust mixed-norm adaptive filter algorithm[J].IEEE Signal Process.，1997，4 (2)：46-48.

[4]SAYIN M O，VANLI N D，KOZAT S S.A novel family of adaptive filtering based on logarithmic cost[J].IEEE Trans. Signal Process.，2014，62(17)：4411-4424.

[5]ARONSZAJN N.Theory of reproducing kernels[J].Trans. Amer.Math，Soc.，1950，68(3)：337-404.

[6]BURGES C J C.A tutorial on support vecter machines for patten recognition[J].Data Min.Knowl.Disc.，1998，2(2)：121-167.

[7]MIAO Q Y，LI C G.Kernel least-mean mixed-norm algorithm[C].ACAI.Xiamen：IET，2012：1285-1288.

[8]TANRIKULU O，CHANBERS J A.Convergence and steadystate properties of the least-mean mixed-norm(LMMN) adaptive algorithm[J].Proc.IEE-Vis.，Image&Signal Process.，1996，143(3)：137-142.

[9]WALACH E，WIDROW B.The least mean fourth(LMF) adaptive algorithm and its family[J].IEEE Trans.Inform. Theory，1984，30(2)：275-283.

Kernel least logarithmic absolute difference algorithm aganist impulsive noise

Lin Yun，Lei Yang，Zeng Junjun
(Chongqing Key Lab of Mobile Communication Technology，Chongqing University of Posts and Telecommunications，Chongqing 400065，China)

This paper presents a robust kernel adaptive filter algorithm,which combines the kernel space and the least logarithm absolute difference(LLAD)algorithm,it uses logarithm as its cost function to solve the impact on the convergence of algorithm which caused by the impulsive noise,then improve the anti-interference performance of the algorithm.Kernel least logarithm absolute difference(KLLAD)algorithm achieves the comparable convergence performance with the kernel least mean square(KLMS)algorithm while the KLLAD algorithm is robust against impulsive interference.The good performances in terms of robust and convergence performance are demonstrated in nonlinear system identification.

adaptive filter；system identification；robustness

TN911.72

A

10.16157/j.issn.0258-7998.2016.02.021

林云（1968-），男，博士，副教授，主要研究方向：MIMO技術(shù)及稀疏信號處理。

雷洋（1989-），通信作者，男，碩士研究生，主要研究方向：核自適應(yīng)濾波器，E-mail：leiy1989@163.com。

曾俊?。?991-），男，碩士研究生，主要研究方向：自適應(yīng)濾波器。

中文引用格式：林云，雷洋，曾俊俊.抗沖擊噪聲的核對數(shù)最小絕對差算法[J].電子技術(shù)應(yīng)用，2016，42(2)：78-80，84.

英文引用格式：Lin Yun，Lei Yang，Zeng Junjun.Kernel least logarithmic absolute difference algorithm aganist impulsive noise[J]. Application of Electronic Technique，2016，42(2)：78-80，84.