基于LMS算法與RLS算法的自適應(yīng)濾波

徐艷，李靜

（長安大學(xué) 信息工程學(xué)院，陜西 西安 710064）

隨著數(shù)字信號處理器性能的增強(qiáng)，自適應(yīng)濾波器的應(yīng)用也越來越常見，它主要應(yīng)用于系統(tǒng)辨識、回波消除、自適應(yīng)譜線增強(qiáng)、自適應(yīng)信道均衡、語音現(xiàn)行預(yù)測、自適應(yīng)天線陣等諸多領(lǐng)域中。自適應(yīng)濾波器是根據(jù)環(huán)境的改變，使用自適應(yīng)算法來改變?yōu)V波器的參數(shù)和結(jié)構(gòu)。自適應(yīng)濾波器算法決定了濾波的性能，根據(jù)濾波算法優(yōu)化準(zhǔn)則不同，自適應(yīng)濾波器算法可分為兩類基本算法：最小均方誤差（LMS）算法和遞歸最小二乘（RLS）算法。

1 自適應(yīng)濾波器的原理

自適應(yīng)濾波就是利用前一時(shí)刻獲得濾波器參數(shù)的結(jié)果自動(dòng)的調(diào)節(jié)現(xiàn)時(shí)刻的濾波器參數(shù)，以適應(yīng)信號和噪聲未知的或隨時(shí)間變化的統(tǒng)計(jì)特性，從而實(shí)現(xiàn)最優(yōu)濾波。自適應(yīng)濾波器實(shí)質(zhì)上就是一種能調(diào)節(jié)其自身傳輸特性以達(dá)到最優(yōu)的維納濾波器。自適應(yīng)濾波器的特性變化是由自適應(yīng)算法通過調(diào)整濾波器系數(shù)來實(shí)現(xiàn)的。一般而言，自適應(yīng)濾波器由參數(shù)可調(diào)的數(shù)字濾波器和自適應(yīng)算法兩部分組成。參數(shù)可調(diào)數(shù)字濾波器可以是FIR數(shù)字濾波器或IIR數(shù)字濾波器，也可以是格型數(shù)字濾波器。自適應(yīng)濾波器的一般結(jié)構(gòu)如圖1所示[5-6]。

圖1中x（n）為輸入信號，通過參數(shù)可調(diào)的數(shù)字濾波器后產(chǎn)生輸出信號y（n），將輸出信號y（n）與期望信號d（n）進(jìn)行比較，得到誤差信號e（n）。e（n）和x（n）通過自適應(yīng)算法對濾波器的參數(shù)進(jìn)行調(diào)整，調(diào)整的目的使得誤差信號e（n）最小。

自適應(yīng)濾波器大多用FIR來實(shí)現(xiàn)。直接型自適應(yīng)濾波器FIR濾波器如圖2所示。

圖1 自適應(yīng)濾波器的一般結(jié)構(gòu)Fig.1 General structure of adaptive filter

圖2 直接型自適應(yīng)濾波器FIR濾波器Fig.2 Direct type adaptive filter FIR filter

2 自適應(yīng)濾波算法

自適應(yīng)濾波器的算法主要是以各種判據(jù)條件作為推算基礎(chǔ)的。通常有兩種判據(jù)條件：最小均方誤差判據(jù)和最小二乘法判據(jù)。即自適應(yīng)濾波有兩類基本的算法：最小均方誤差（LMS）算法和遞歸最小二乘（RLS）算法[1]。

1）最小均方誤差（Least Mean Square，LMS）算法

最小均方誤差（Least Mean Square，LMS）算法是一種易于實(shí)現(xiàn)、性能穩(wěn)定、應(yīng)用廣泛的算法。LMS算法設(shè)法使y（n）接近d（n），理想信號 d（n）與濾波器輸出 y（n）之差 e（n）的期望值最小，并且根據(jù)這個(gè)判據(jù)來修改權(quán)系數(shù)wi（n）。均方誤差ε表示為：

對于橫向結(jié)構(gòu)的濾波器，代入y（n）的表達(dá)式：

其中：R=E[X（n）XT（n）]為 N×N 的自相關(guān)矩陣，它是輸入信號采樣值間的相關(guān)性矩陣。P=E[d（n）X（n）]為 N×1 互相關(guān)矢量，代表理想信號d（n）與輸入矢量的相關(guān)性。在均方誤差ε 達(dá)到最小時(shí)，得到最佳權(quán)系數(shù) W*=[ω*0，ω*1，…，ω*N－1]T它應(yīng)滿足下式:

求解最佳權(quán)系數(shù)W*的兩種方法，一種是最陡梯度法。其思路為：設(shè)計(jì)初始權(quán)系數(shù)W（0），用W（n+1）=W（n）－uΔ（n）迭代公式計(jì)算，到W（n+1）與W（n）誤差小于規(guī)定范圍。其中Δ（n）的E[]計(jì)算可用估計(jì)值表達(dá)式為：

上式K取值應(yīng)足夠大。如果用瞬時(shí)－2e（n）X（n）來代替上面對－2E{e（n）X（n）}的估計(jì)運(yùn)算，就產(chǎn)生了另一種算法——隨機(jī)梯度法，此時(shí)迭代公式為：

LMS算法基本上是一種遞推算法，它用任意選擇的{h（k）}的初始值作為開始，然后將每一新的輸入樣本{x（n）}輸入到這個(gè)自適應(yīng)FIR濾波器，計(jì)算相應(yīng)的輸出{y（n）}，形成誤差信號 e（n）=d（n）－y（n）并按方程 hn（n）=hn－1（k）+Δe（n）x（n－k），0≤k≤N－1更新濾波器系數(shù)，這里Δ稱為步長參數(shù)，x（n－k）是輸入信號在時(shí)間n位于濾波器的第k個(gè)樣本，而e（n）x（n－k）是對第k個(gè)濾波器系數(shù)的一個(gè)梯度負(fù)值的近似估計(jì)[2]。

2）遞歸最小二乘（Recursive Least Square，RLS）算法

遞歸最小二乘（Recursive Least Square，RLS）算法是在最小均方誤差算法的基礎(chǔ)上得來的。所不同的是在求均方誤差時(shí)觀測數(shù)據(jù)的長度是變化的，且隨著觀測數(shù)據(jù)的時(shí)間先后順序分別乘了加權(quán)因子。即RLS算法的均方誤差變成:

式中：β（k，n）是加權(quán)因子，滿足:0＜β（k，n）≤1，n=1，2，…，k。這樣會(huì)使很多次迭代之前的數(shù)據(jù)被遺忘掉，當(dāng)濾波器工作在非平穩(wěn)環(huán)境中時(shí)，觀測數(shù)據(jù)仍可能服從統(tǒng)計(jì)變化的一些特性。其中遺忘因子的最常用形式為指數(shù)加權(quán)因子，即:

式中:α是一個(gè)接近1但小于1的數(shù)。將式（7）代入式（6）可以得到均方誤差的具體表達(dá)式為:

當(dāng)ε（k）達(dá)到最小值時(shí)，有下列關(guān)系:

w*（k）為均方誤差達(dá)到最小時(shí)的自適應(yīng)濾波器最佳權(quán)系數(shù)。由式（9）可知，要求出w*（k）需要先確定。為此我們把R－1（k）當(dāng)前的瞬時(shí)估計(jì)分離出來:

對于p（k）做同樣的處理可以得到:

由矩陣求逆定理:若A和B是2個(gè)M×M的正定矩陣，存在關(guān)系:A=B+C*D－1*CH，其中C是一個(gè) M×N矩陣，D是一個(gè)N×N 正定矩陣，則有 A=B－B*C（D+CH*B*C）－1?？梢粤?A=R（k），B=α*R（k－1），C=（k），D=1 代入上面的矩陣逆定理公式可得:

如果記:

則式（12）變形如下:

把式（15）反代入式（14）可以得到以下的關(guān)系:r（k）=R－1（k）x（k）

由式（9）得到計(jì)算權(quán)向量的公式為:

將式（15）代入式（16）右端第一項(xiàng)可以得到：w（k）=w（k－1）+r（k）·η（k）。

式中:η（k）=d（k）－wH（k－1）x（k）。這樣就得到了權(quán)向量迭代的計(jì)算公式。

總結(jié)以上推導(dǎo)步驟歸納出RLS算法實(shí)現(xiàn)流程如下:

3 MATLAB仿真實(shí)驗(yàn)

1）LMS算法的自適應(yīng)濾波部分實(shí)現(xiàn)程序代碼如下：

仿真結(jié)果：

圖3 LMS算法的自適應(yīng)濾波仿真結(jié)果Fig.3 LMS algorithm of adaptive filter simulation results

2）RLS算法的自適應(yīng)濾波部分實(shí)現(xiàn)程序代碼如下：

仿真結(jié)果：

圖4 RLS算法的自適應(yīng)濾波仿真結(jié)果Fig.4 LMS algorithm of adaptive filter simulation results

4 結(jié) 論

LMS算法易于實(shí)現(xiàn)、性能穩(wěn)定、應(yīng)用廣泛，但LMS算法對非平穩(wěn)信號的適應(yīng)性差且收斂速度慢。RLS算法具有較好的收斂性能和跟蹤能力，收斂速度快于LMS算法以及穩(wěn)定性強(qiáng)，具有更小的權(quán)噪聲和更大的抑噪能力，但是他的計(jì)算量很大。目前最快的RLS算法要比LMS算法多2～3倍的計(jì)算量。

LMS與RLS都是來一個(gè)數(shù)據(jù)輸出一個(gè)數(shù)據(jù)，階數(shù)和濾波系數(shù)可變，易于調(diào)整，是實(shí)際應(yīng)用的實(shí)現(xiàn)方法。LMS的效果和步長因子μ的選取有很大關(guān)系，一般濾波器階數(shù)越大，它的值取得越小，RLS濾波效果和λ有關(guān)，其濾波輸出的信號比LMS要好一些，但運(yùn)算量很大，基本是N2的數(shù)量級，而LMS運(yùn)算量是 O（N）。

[1]石艷麗，譚忠吉，于海霞.基于LMS算法自適應(yīng)噪聲抵消系統(tǒng)的仿真研究[J].電子測量技術(shù)，2009（6）:71－74.SHI Yan-li，TAN Zhong-ji，YU Hai-xia.LMS algorithm based on adaptive noisecan cellation of the simulation system[J].Electronic Measurement Technology，2009（6）:71－74.

[2]嚴(yán)雪艷，郭建中.基于LMS自適應(yīng)濾波器對噪聲干擾的語音恢復(fù)研究[J].陜西師范大學(xué)學(xué)報(bào)，2009（3）:25－28.YAN Xue-yan，GUO Jian-zhong，Based on adaptive LMS noise filter to restore the speech[J].Shanxi Normal University Press，2009（3）:25－28.

[3]衡霞，劉志鏡.基于自適應(yīng)濾波的語音增強(qiáng)和噪聲消除[J].微機(jī)發(fā)展，2004（1）:33－35.HENG Xia，LIU Zhi-jing.Based on adaptive filter speech enhancement and noise elimination[J].Microcomputer Development，2004（1）:33－35.

[4]張賢達(dá).現(xiàn)代信號處理[M].2版.北京:清華大學(xué)出版社，2002.

[5]龔耀寰.自適應(yīng)濾波器[M].北京:電子工業(yè)出版社，1989.

[6]Simon Haykin，鄭寶玉，等譯.自適應(yīng)濾波器原理[M].北京:電子工業(yè)出版社，2006.

[7]李正周.MATLAB數(shù)字信號處理與應(yīng)用[M].北京:清華大學(xué)出版社，2008.

[8]羅軍輝，等.《Matlab7.0在數(shù)字信號處理中的應(yīng)用》[M].北京：機(jī)械工業(yè)出版社，2005.