均方偏差分析的多態(tài)可變步長LMS算法

孟 金，張紅升，易勝宏，劉 挺，馬小東，衛(wèi)中陽

(重慶郵電大學(xué) 光電工程學(xué)院，重慶 400065)

0 引 言

自適應(yīng)濾波器在許多領(lǐng)域都有重要應(yīng)用，如音頻信號處理[1]、通信信道處理[2]、雷達(dá)信號處理[3]等。為實(shí)現(xiàn)自適應(yīng)濾波，Widrow和Hoff[4]率先提出了最小均方(least mean square，LMS)算法。但是LMS算法的收斂速度和穩(wěn)態(tài)均方誤差(mean square error,MSE)相互矛盾，快(慢)的收斂速度有大(小)的穩(wěn)態(tài)MSE。為了解決上述問題，Kwong[5]提出了可變步長最小均方(variable step size least mean square，VSS-LMS)算法，根據(jù)誤差的大小來調(diào)整步長的大小，獲得了較好的性能，但是該算法需要精準(zhǔn)地調(diào)整多個(gè)參數(shù)，較難實(shí)現(xiàn)。在VSS-LMS算法的基礎(chǔ)上，文獻(xiàn)[6-12]提出了許多改進(jìn)的VSS-LMS算法，從不同方面改進(jìn)VSS-LMS算法的性能。其中，文獻(xiàn)[6]的算法不需要調(diào)整任何參數(shù)便可以運(yùn)行，該算法在平穩(wěn)信道與時(shí)變信道都有較快的收斂速度，但該算法在降噪處理中有較高的MSE。文獻(xiàn)[7]的算法在系統(tǒng)辨識中有比較出色的性能，但是該算法是基于峰度進(jìn)行計(jì)算，復(fù)雜度高，并不適用于實(shí)時(shí)信號處理。目前性能最好的是Prob-LMS算法[10]，從概率角度來處理信號，實(shí)現(xiàn)了比上述算法更好的穩(wěn)態(tài)MSE性能。然而，該算法的復(fù)雜度過高，且在突變信道中收斂速度慢。

上述算法都是以MSE為設(shè)計(jì)依據(jù)，其MSE指期望信號與輸出信號之差產(chǎn)生估計(jì)均方誤差的集平均值。近些年，由學(xué)者提出一種新的穩(wěn)態(tài)均方偏差(mean square deviation, MSD)分析理論[4]，其MSD為濾波器系數(shù)與信道的沖激響應(yīng)之差產(chǎn)生均方估計(jì)誤差的集平均值。濾波器系數(shù)與信道的沖激響應(yīng)的差值是影響MSE的關(guān)鍵因素，因此，對算法的MSD分析，可更好地推導(dǎo)出影響算法的參數(shù)、提升算法的性能。本文基于MSD分析理論，針對現(xiàn)有算法在突變信道中收斂速度慢與復(fù)雜度高的問題，提出了多態(tài)可變步長最小均方算法(multi-state variable step size least mean square, MVSS-LMS)，通過添加暫態(tài)遞減步長作為過渡，實(shí)現(xiàn)以快的收斂速度達(dá)到系統(tǒng)最小的MSD。

1 系統(tǒng)辨識與性能評價(jià)依據(jù)

1.1 系統(tǒng)辨識

LMS算法已經(jīng)廣泛應(yīng)用于系統(tǒng)辨識，干擾抵消和自適應(yīng)預(yù)測。本文的主要研究基于系統(tǒng)辨識的背景，系統(tǒng)辨識指根據(jù)系統(tǒng)的輸入和輸出信號建立系統(tǒng)數(shù)學(xué)模型的理論與方法。圖1給出了的系統(tǒng)辨識模型[4]。

在圖1中，系統(tǒng)辨識指濾波器W(n)通過不斷地迭代更新而辨識出信道的沖激響應(yīng)H(n)。其中，X(n)=[x(n)x(n-1) …x(n-L+1)]T為n時(shí)刻的輸入信號向量，L是濾波器長度，W(n)=[w0w1…wL-1]T是估計(jì)濾波器的系數(shù)，H(n)=[h0h1…h(huán)L-1]是信道的沖激響應(yīng)?？紤]信道具有時(shí)變性，則向量H(n)表現(xiàn)為隨機(jī)擾動，其一階馬爾可夫模型為

H(n+1)=H(n)+q(n)

(1)

圖1 系統(tǒng)辨識模型Fig.1 System identification model

1.2 性能評價(jià)依據(jù)

基于系統(tǒng)辨識模型，當(dāng)濾波器不斷地迭代更新辨識信道的沖激響應(yīng)時(shí)，需要一個(gè)統(tǒng)一的評判標(biāo)準(zhǔn)。由此，文獻(xiàn)[4]提出了以MSD作為評判標(biāo)準(zhǔn)，MSD為濾波器系數(shù)與信道的沖激響應(yīng)之差產(chǎn)生均方估計(jì)誤差的集平均值，其定義為

MSD(n)=Tr(E{(W(n)-H(n))·

(W(n)-H(n)T)})

(2)

(2)式中：Tr(·)是矩陣的跡；E(·)是隨機(jī)變量的數(shù)學(xué)期望。為表征方便起見，仿真結(jié)果一般轉(zhuǎn)換為MSDdB，定義為

MSDdB=10lg(MSD(n))

(3)

2 多態(tài)可變步長LMS分析

2.1 LMS的穩(wěn)態(tài)均方差分析

針對系統(tǒng)辨識模型，進(jìn)行LMS算法的穩(wěn)態(tài)MSD分析，并在該分析上，提出本文的多態(tài)可變步長LMS算法，具體分析如下。在圖1中，誤差輸出信號為

e(n)=d(n)-y(n)

(4)

(4)式中：期望信號為d(n)=XT(n)H(n)+n(n)；輸出信號為y(n)=XT(n)W(n)。

估計(jì)濾波器的系數(shù)迭代更新向量為

W(n+1)=W(n)+μX(n)e(n)

(5)

(5)式中，μ為步長，該步長影響算法的收斂速度與MSD。假設(shè)濾波器系數(shù)與信道的沖激響應(yīng)的誤差向量為

V(n)=H(n)-W(n)

(6)

由(1)、(4)、(5)和(6)式,可推出LMS的濾波器系數(shù)與信道系數(shù)之差的誤差迭代更新向量為

V(n+1)=V(n)-μX(n)(XT(n)V(n)+

n(n))+q(n)

(7)

由(7)式可求出濾波器系數(shù)與信道系數(shù)之差的誤差迭代更新向量V(n+1)的期望E{V(n+1)VT(n+1)}為

E{V(n+1)VT(n+1)}=E{V(n)VT(n)}+

μ2E{X(n)XT(n)V(n)VT(n)X(n)XT(n)}-

(8)

E{X(n)XT(n)V(n)VT(n)X(n)XT(n)}=

E{V(n)VT(n)-ITr(E{V(n)VT(n)})}

(9)

將(9)式代入(8)式，可得期望E{V(n+1)VT(n+1)}為

E{V(n+1)VT(n+1)}=

(10)

由(10)式,可以推導(dǎo)MSD的迭代更新公式為

MSD(n+1)=

(11)

(11)式中，當(dāng)n→∞，可推出算法性能達(dá)到穩(wěn)定時(shí)的MSD為

(12)

(13)

2.2 MVSS-LMS算法的提出與穩(wěn)態(tài)均方偏差分析

在提出與推導(dǎo)MVSS-LMS算法之前，需要對LMS算法分別處于時(shí)變信道和平穩(wěn)信道進(jìn)行穩(wěn)態(tài)MSD分析。針對不同的信道，提出不同的多態(tài)可變步長策略，以達(dá)到該系統(tǒng)的最佳穩(wěn)態(tài)MSD。

2.2.1 時(shí)變信道分析

(14)

(14)式中，μ1能達(dá)到的穩(wěn)態(tài)MSD為

(15)

(16)

由(16)式，可推導(dǎo)出時(shí)變信道的最佳步長μopt取值為

(17)

(17)式為中，μopt所能達(dá)到的最小穩(wěn)態(tài)MSD為

(18)

圖2 不同步長的LMS的仿真和理論MSD曲線比較Fig.2 Comparison of simulated and theoretical MSD curves for LMS with different step sizes

圖3 改進(jìn)的VSS-LMS算法與其他算法的MSD曲線比較Fig.3 Comparison of MSD curves with the improved VSS-LMS algorithm and other algorithms

暫態(tài)步長的計(jì)算方法如下。先計(jì)算出μ1與μopt的倍數(shù)因子為

(19)

(19)式中，β1=β2=β3=…=βn。

根據(jù)βi(i=1,2,3,…,n)，推導(dǎo)出第2階段的步長因子μ2i為

(20)

(20)式中，μ2i所達(dá)到的穩(wěn)態(tài)MSD為

(21)

綜上，時(shí)變信道的步長為

(22)

由圖4可知，MVSS-LMS算法達(dá)到比Prob-LMS算法更快的收斂速度且保持著最小的穩(wěn)態(tài)MSD值。

圖4 MVSS-LMS算法與其他算法的MSD曲線比較Fig.4 Comparison of MSD curves with MVSS-LMS algorithm and other algorithms

2.2.2 平穩(wěn)信道分析

(23)

(23)式中，平穩(wěn)信道的步長為

(24)

在第3個(gè)階段，給出所需的最終穩(wěn)態(tài)的MSD3(∞)，結(jié)合(24)式，計(jì)算出第3個(gè)階段的最佳步長為

(25)

在第2個(gè)階段，根據(jù)μ1與μ3值確定其倍數(shù)因子，根據(jù)(19)—(20)式，可確定出平穩(wěn)信道第二階段的多態(tài)步長μ2j，并由(23)式推導(dǎo)出第2階段的MSD為

(26)

綜上，平穩(wěn)信道的步長為

(27)

2.2.3MVSS-LMS算法的建立流程

在本小節(jié)中，為了更加清楚展示MVSS-LMS算法的建立流程，如表1所示。

表1 MVSS-LMS算法的建立流程Tab.1 Establishment process of MVSS LMS algorithm

續(xù)表

3 復(fù)雜度分析

MVSS-LMS算法的復(fù)雜度差異取決于暫態(tài)個(gè)數(shù)。若暫態(tài)數(shù)少，則復(fù)雜度低，所以在本文中選取的暫態(tài)數(shù)較小。假設(shè)存在m個(gè)暫態(tài)，MVSS-NLMS算法比Prob-LMS算法多了2m+1比較器，少了4個(gè)加法器、3個(gè)乘法器和2個(gè)除法器。從資源考慮，除法器、乘法器消耗的資源都遠(yuǎn)大于比較器的資源。其復(fù)雜度如表2所示。

表2 模型識別系統(tǒng)中的復(fù)雜度比較Tab.2 Comparison of complexity in model recognition systems

從表2可看出，最新的Prob-LMS算法具有2個(gè)除法運(yùn)算，除法運(yùn)算是比加法、乘法和比較運(yùn)算更占用運(yùn)算資源的。本文所提出的MVSS-LMS算法，加法與乘法運(yùn)算與基礎(chǔ)的LMS算法相當(dāng)，僅比LMS算法多2m+1個(gè)比較運(yùn)算，其復(fù)雜度遠(yuǎn)低于最新的Prob-LMS算法，且在后續(xù)的性能仿真中優(yōu)于Prob-LMS算法。

4 仿真結(jié)果

4.1 平穩(wěn)信道仿真

由(11)式可知，濾波器長度L與峰度γ較大地影響了LMS算法的收斂速度[14]。本文系統(tǒng)參數(shù)分別設(shè)置為峰度γ=3和長度L≤12，在不同的信噪比情況下對上述算法進(jìn)行穩(wěn)態(tài)MSD模擬仿真。在隨機(jī)沖激響應(yīng)的平穩(wěn)信道中，設(shè)置濾波器長度L=12、α=0.6和分別對SNR=10 dB、20 dB進(jìn)行了100次Monte Carlo仿真，如圖5所示。

在圖5中，MVSS-LMS-3指MVSS-LMS算法含有3個(gè)暫態(tài)，當(dāng)SNR=10 dB時(shí)，輸入的MSD3=-40 dB；當(dāng)SNR=20 dB時(shí)，輸入的MSD3=-50 dB。

由圖5可知，文獻(xiàn)[9]的MSD穩(wěn)定性較低。MVSS-LMS算法與Prob-LMS的收斂速度和穩(wěn)態(tài)均方差所表現(xiàn)出來的性能基本一致。

4.2 突變信道仿真

假設(shè)突變前與突變后的信道都是平穩(wěn)的，針對信道突變的情況分別對上述算法進(jìn)行了仿真。假設(shè)迭代次數(shù)為t，以下仿真的系統(tǒng)參數(shù)為L=12，α=0.6，SNR=20 dB，MVSS-LMS算法的最終穩(wěn)態(tài)MSD設(shè)置為MSD3=-50 dB。本文將設(shè)置分別在t=500(上述5種算法均未達(dá)到穩(wěn)定的MSD)、(上述5種算法已達(dá)到穩(wěn)定的MSD)處進(jìn)行信道突變模擬。其仿真MSD曲線如圖6和圖7所示。

圖5 MVSS-LMS算法與其他算法在平穩(wěn)信道下的 MSD曲線比較Fig.5 Comparison of MSD curves with MVSS-LMS algorithm and other algorithms under stationary channel

圖6 算法在信道t=500突變時(shí)的MSD曲線比較Fig.6 Comparison of MSD curves with MVSS-LMS and other algorithms when the channel mutates at t=500

圖6中，在5種算法未達(dá)到穩(wěn)定的MSD進(jìn)行信道突變時(shí)，文獻(xiàn)[7]和Prob-LMS算法表現(xiàn)出來的MSD值不如MVSS-LMS算法。

圖7 MVSS-LMS算法與其他算法在信道 t=20 000突變時(shí)的MSD曲線比較Fig.7 Comparison of MSD curves with MVSS-LMMS and algorithms when the channel mutates at t=20 000

圖7中，在未突變前Prob-LMS算法與所提出的MVSS-LMS算法的性能相差不大。在達(dá)到最終的穩(wěn)定的MSD進(jìn)行突變時(shí)，Prob-LMS算法經(jīng)過突變信道后，其MSD性能與突變前相差甚遠(yuǎn)，而MVSS-LMS算法依舊保持良好的MSD值。MVSS-LMS算法在信道突變中是具有一定優(yōu)勢的。

4.3 時(shí)變信道仿真

由圖8和圖9可知，所提出的MVSS-LMS算法基于LMS算法的穩(wěn)態(tài)MSD分析理論，合理地將步長設(shè)置為多態(tài)可變步長。該算法前期收斂過程中，其收斂速度快于Prob-LMS算法，且注意MVSS-LMS算法的復(fù)雜度是低于Prob-LMS算法。至于文獻(xiàn)[9]、[11]、[12]中的3種算法，都極易受非平穩(wěn)度的影響，其穩(wěn)態(tài)MSD性能都遠(yuǎn)不如Prob-LMS和所提出的MVSS-LMS算法。圖8和圖9中的具體系統(tǒng)環(huán)境參數(shù)如表3所示。

圖8 當(dāng)SNR=0 dB時(shí)，MVSS-LMS算法與其他 算法的MSD曲線仿真Fig.8 Simulation of MSD curves with MVSS-LMS and other algorithms when SNR=0 dB

結(jié)合圖8、圖9和表3，當(dāng)DNS<0.02時(shí)，與Prob-LMS算法相比，MVSS-LMS算法以更低的復(fù)雜度，達(dá)到了比Prob-LMS算法更快的收斂速度。

圖9 當(dāng)SNR=10 dB時(shí)，MVSS-LMS算法與其他 算法的MSD曲線仿真Fig.9 Simulation of MSD curves with MVSS-LMS and other algorithms when SNR=10 dB

4.4 相關(guān)輸入信號的仿真

為了進(jìn)一步地測試所提算法的收斂性能，我們將輸入信號設(shè)置為由高斯信號X(n)激勵一階AR濾波器產(chǎn)生的[15]，即

X(n)=0.6X(n)+n(n)

(28)

表3 上述算法在時(shí)變信道的不同參數(shù)模擬結(jié)果Tab.3 Simulation results of above algorithms for different parameters of time-varying channels

以上述系統(tǒng)環(huán)境，對上述的5種算法的穩(wěn)態(tài)MSD性能進(jìn)行100蒙特卡洛模擬仿真，其MSD變化曲線如圖10所示。

圖10 5種算法的MSD曲線比較 Fig.10 Comparison of MSD curves with five algorithms

當(dāng)輸入信號為相關(guān)信號時(shí)，Prob-LMS算法的收斂速度受到了較大的影響，導(dǎo)致其收斂速度較慢，至于文獻(xiàn)[9]、[11]、[12]中的3種算法的MSD值都不穩(wěn)定，難以保持最佳性能，且MSD值也不如Prob-LMS與MVSS-LMS算法。本文所提的MVSS-LMS算法的收斂速度與穩(wěn)態(tài)MSD都比上述的算法更具有優(yōu)勢。

5 結(jié) 論

MVSS-LMS通過對LMS算法的均方差偏分析，確定其步長因子與穩(wěn)態(tài)MSD，并與Prob-LMS算法相比，MVSS-LMS算法的主要優(yōu)勢有：①M(fèi)VSS-LMS算法的復(fù)雜度比Prob-LMS低；②在平穩(wěn)信道中，兩者性能相當(dāng)；③在突變信道中，MVSS-LMS算法的穩(wěn)態(tài)MSD更低，收斂速度更快；④在時(shí)變信道中，當(dāng)DNS<0.02時(shí)，所提算法的收斂速度更快。