王崇輝,鄒 鯤
(1.陜西廣播電視臺發(fā)射部,陜西西安 710061;2.空軍工程大學(xué)信息與導(dǎo)航學(xué)院,陜西西安 710077)
最小均方(Least Mean Square,LMS)算法是由Widrow和Hoff于1960年提出的[1],該算法是基于最小均方誤差準則的維納濾波器和最陡下降法。LMS算法特點是計算量小、易于實現(xiàn),因此獲得廣泛應(yīng)用。LMS算法中,要提高收斂速度,步長應(yīng)該盡量選擇較大值,而為降低穩(wěn)態(tài)方差,步長應(yīng)該選擇較小值。因此在LMS算法應(yīng)用中,只能折衷設(shè)定步長大小,不能同時滿足快的收斂速度和小的穩(wěn)態(tài)方差的要求[2]。
針對LMS算法的不足,人們提出了各種的變步長(Variable Step Size,VSS)LMS 算法[3-4]。所謂VSSLMS算法,就是在算法的迭代過程中,根據(jù)當(dāng)前系統(tǒng)的狀態(tài)信息,動態(tài)改變步長的大小,從而提高收斂速度的同時還可以降低穩(wěn)態(tài)方差。一般在收斂開始階段,要求步長較大,從而提高過渡到穩(wěn)態(tài)的收斂速度。在收斂結(jié)束后,需要小的步長,這樣可以減小由于步長較大而引入的失調(diào),即穩(wěn)態(tài)方差。
在這些VSSLMS算法中,有一類是將步長與瞬時誤差平方相關(guān)聯(lián)[5],因為瞬時誤差平方在收斂開始時較大,而在收斂結(jié)束后較小,稱為E-LMS算法。另一類算法則是將步長與誤差的相關(guān)函數(shù)相關(guān)聯(lián)[6],因為在收斂開始時,誤差中間的相關(guān)分量較大,而處于穩(wěn)態(tài)時,可以假定誤差分量不相關(guān),稱為R-LMS算法。由于系統(tǒng)不可避免的引入其他噪聲分量,而E-LMS算法中由于瞬時誤差平方中包含噪聲分量,導(dǎo)致該方法的抗噪性能較差,而R-LMS算法則是由于相關(guān)函數(shù)具有“記憶”效應(yīng),導(dǎo)致當(dāng)系統(tǒng)性能突變時,跟蹤能力較差。為此文中結(jié)合E-LMS算法中的變步長策略,對R-LMS算法進行了改進,改進后的算法在抗噪性能和跟蹤性能都得到了較大的提高。
以系統(tǒng)辨識[7]為例來討論VSSLMS算法。自適應(yīng)濾波器配置方式如圖1所示。輸入信號為x(n),參考信號d(n)是未知系統(tǒng)的輸出y(n)和加性噪聲分量v(n)的疊加。而由參考信號與自適應(yīng)濾波器輸出信號之差構(gòu)成誤差信號e(n)來控制自適應(yīng)濾波器中的系數(shù),對于LMS算法,就是通過調(diào)節(jié)濾波器系數(shù),使得均方誤差最小。
圖1 自適應(yīng)濾波原理圖
LMS算法中的自適應(yīng)濾波器系數(shù)迭代關(guān)系為
為此提出了多種VSSLMS算法,其基本思路就是將步長大小與迭代過程中的某種狀態(tài)變量關(guān)聯(lián),利用狀態(tài)變量的變化來動態(tài)控制步長的變化。這些狀態(tài)變量可以是瞬時誤差,瞬時誤差的平方,相鄰兩次迭代的瞬時誤差的相關(guān)函數(shù),誤差與輸入矢量的相關(guān)性等[8],這些狀態(tài)變量在收斂開始時可能較大,而在收斂后可能較小,因此滿足動態(tài)控制步長的要求。其次關(guān)聯(lián)的方法也多種多樣,可以是線性或者非線性的,也可以是遞歸或非遞歸的。其中非線性關(guān)聯(lián)方式計算量比線性關(guān)聯(lián)要大,遞歸關(guān)聯(lián)相對于非遞歸關(guān)聯(lián),需要更多的存儲空間。
這些VSSLMS算法當(dāng)中,有一類是將步長與瞬時誤差平方相關(guān)聯(lián),稱之為E-LMS算法。關(guān)聯(lián)的方式通常是非線性非遞歸形式,其算法為
圖2為該方法的學(xué)習(xí)曲線和常規(guī)的LMS算法的比較,可以看出,穩(wěn)態(tài)方差比LMS算法要高,尤其是當(dāng)SNR較低時,穩(wěn)態(tài)方差更大,因此該方法的抗噪性能較差。
圖2 不同SNR下,E-LMS算法與LMS算法的學(xué)習(xí)曲線
另一類算法是將步長與相鄰兩次迭代的瞬時誤差的相關(guān)函數(shù)相關(guān)聯(lián),稱之為R-LMS算法,采用的是線性遞歸形式,其算法為
其中,0<β,α <1,λ?1,通過選擇合適的參數(shù),也可以得到較為理想的性能。式(4)是一個計算相關(guān)函數(shù)的公式,其中參數(shù)β通常稱為遺忘因子,如果參數(shù)β較大,則說明該算法具有一定的“記憶”能力,也就是對當(dāng)前的輸入不敏感。為獲得較為精確的相關(guān)函數(shù),β通常盡可能地接近1。但當(dāng)算法處于穩(wěn)態(tài)時,系統(tǒng)內(nèi)部發(fā)生突變,則這時的e(n)e(n-1)可能很大,此時應(yīng)具有較大的步長,盡快過渡到收斂狀態(tài)。但由于式(4)具有一定的記憶能力,因此對相關(guān)函數(shù)計算值的影響不大,因此利用式(5)計算出的步長還是維持在很小的值附近。這就說明該算法對于突變系統(tǒng)的跟蹤能力較弱。
圖3表示SNR=20 dB條件下,R-LMS算法的跟蹤能力,假定在迭代次數(shù)達到750點處,未知系統(tǒng)的參數(shù)發(fā)生改變。如圖3所示,雖然開始時,R-LMS比LMS算法有更快的收斂速度,但是一旦系統(tǒng)發(fā)生突變,R-LMS算法的收斂速度將緩慢。
圖3 R-LMS算法的跟蹤能力與LMS算法對比
可以看出,影響R-LMS算法的主要因素來自與式(4)中的遺忘因子β,正是由于其接近1,使得相關(guān)函數(shù)的計算具有較強的記憶能力,從而對系統(tǒng)參數(shù)突變引入的較大誤差分量不敏感。參考E-LMS算法,如果參數(shù)β能夠誤差平方滿足一定的關(guān)聯(lián)方式,就可以使得當(dāng)系統(tǒng)突變時,適當(dāng)減小β值,使相關(guān)函數(shù)的計算遺忘能力增強。本文給出的算法為
式(6)~式(7)實際是綜合了E-LMS算法和RLMS算法兩種控制步長的策略。其中式(7),式(8)與R-LMS算法的步長設(shè)置完全一致,唯一不同的是因子β不是常量,因子β的控制也是通過迭代過程實現(xiàn)的,其控制方式與E-LMS算法中的式(3)類似,與瞬時誤差功率有關(guān)。這樣,本文所給出的算法中,參數(shù)β不再保持常數(shù),而是受誤差平方的控制,從而使得誤差相關(guān)函數(shù)計算的記憶能力能夠調(diào)整,相對于R-LMS算法,可以改善算法針對突變系統(tǒng)的跟蹤能力,同時步長與誤差相關(guān)函數(shù)關(guān)聯(lián),而不與誤差平方相關(guān)聯(lián),相對于E-LMS算法有更好的抗噪聲能力。
圖4是本文算法的抗噪性能分析,和圖2給定的條件一樣,與常規(guī)LMS算法進行對比,可以看出該算法的穩(wěn)態(tài)方差與LMS算法基本相等,而與圖2對比可以看出,E-LMS算法隨著SNR降低,穩(wěn)態(tài)方差顯著增大。因此可以確定該算法的抗噪性能優(yōu)于E-LMS算法。
圖5是本文算法的跟蹤突變系統(tǒng)的能力分析,和圖3給定的條件一樣,但是當(dāng)系統(tǒng)發(fā)生突變時,本算法能夠及時跟蹤,并快速進入到穩(wěn)態(tài)條件,說明本算法的跟蹤能力優(yōu)于R-LMS算法。
圖4 改進的VSSLMS算法的抗噪能力分析
圖5 改進的VSSLMS算法的跟蹤能力分析
常規(guī)LMS算法的固有矛盾是收斂速度和穩(wěn)態(tài)方差無法同時滿足,為此人們研究了各種VSSLMS算法,其中E-LMS算法是將步長與輸出誤差平方相關(guān)聯(lián),該方法抗噪能力有限,R-LMS算法則是將步長與輸出誤差的相關(guān)函數(shù)相關(guān)聯(lián),該方法的跟蹤突變系統(tǒng)能力有限。本文給出了改進的VSSLMS算法,能夠克服E-LMS算法和R-LMS算法的缺點,從仿真結(jié)果來看,抗噪能力優(yōu)于 E-LMS算法,跟蹤能力優(yōu)于R-LMS算法。
[1]WIDROW B,STEARNS S D.Adaptive signal processing[M].Prentice Hall,NJ:Englewood Cliffs,1985.
[2]HAYKIN S.Adaptive filter theory[M].3rdEdition.New York:Prencice-Hall,1996.
[3]HARRIS R W,CHABRIES D M,BISHOP F A.A variable step adaptive filter algorithm[J].IEEE Transaction on A-coustics Speech and Signal Proc,1986,34(4):309-3l6.
[4]KWONG R H,JOHNSTON E W.A variable step size LMS algorithm [J].IEEE Transaction on Signal Processing,1992,40(7):1633-l642.
[5]SHAN T J,KALLAITH T.Adaptive algorithm:an automatic gain control feature[J].IEEE Transaction on Acoustic,Signal Processing,1991,35(1):122-127.
[6]蔣明峰,鄭小林,彭承琳.一種新的變步長LMS自適應(yīng)算法及其在自適應(yīng)噪聲對消中的應(yīng)用[J].信號處理,2001(3):282-286.
[7]羅小東,賈振紅,王強.一種新的變步長LMS自適應(yīng)濾波算法[J].電子學(xué)報,2006,34(6):1123-1126.
[8]高鷹,謝勝利.一種變步長LMS自適應(yīng)濾波算法及分析[J].電子學(xué)報,2001,29(8):1094-1097.