數(shù)字音頻里L(fēng)MS算法及其改進(jìn)算法研究

但 曄 黃 虎

(成都理工大學(xué)信息工程學(xué)院，四川 成都 610061)

1.引言

LMS算法具有低計(jì)算復(fù)雜度、在平穩(wěn)環(huán)境中的收斂性好、其均值無(wú)偏地收斂到wiener解和利用有限精度實(shí)現(xiàn)算法時(shí)的穩(wěn)定性等特性，使其成為自適應(yīng)算法中應(yīng)用最廣泛的算法。本文對(duì)LMS算法及其改進(jìn)算法(NLMS算法、泄露LMS算法等)進(jìn)行了詳細(xì)的研究，并對(duì)其性能及應(yīng)用進(jìn)行了仿真。

2.LMS及其改進(jìn)算法

2.1 自適應(yīng)濾波

自適應(yīng)濾波器與普通濾波器不同，它的沖擊響應(yīng)或?yàn)V波參數(shù)是隨外部環(huán)境的變化而變化的，經(jīng)過(guò)一段自動(dòng)調(diào)整的收斂時(shí)間達(dá)到最佳濾波的要求。自適應(yīng)濾波器本身有一個(gè)重要的自適應(yīng)算法，這個(gè)算法可以根據(jù)輸入、輸出及原參數(shù)量值，按照一定準(zhǔn)則改變?yōu)V波參量，以使它本身能有效地跟蹤外部環(huán)境的變化。原理如圖1所示，圖中離散時(shí)間線性系統(tǒng)表示一個(gè)可編程濾波器，它的沖擊響應(yīng)為h(n)，或稱(chēng)其為濾波參數(shù)。自適應(yīng)濾波器輸出信號(hào)為y(n)，所期望的響應(yīng)信號(hào)為d(n)，誤差信號(hào)e(n)為d(n)與y(n)之差。期望響應(yīng)信號(hào)d(n)是根據(jù)不同用途來(lái)選擇的，自適應(yīng)濾波器的輸出信號(hào)y(n)是對(duì)期望響應(yīng)信號(hào)d(n)進(jìn)行估計(jì)的，濾波參數(shù)受誤差信號(hào)e(n)的控制并自動(dòng)調(diào)整，使y(n)得估計(jì)值于所期望的響應(yīng)d(n)。

圖1 自適應(yīng)濾波器原理圖

2.2 LMS算法

圖2 自適應(yīng)LMS算法信號(hào)流圖

最小均方(LMS)算法，這是一種用瞬時(shí)值估計(jì)梯度矢量的方法，而且這種瞬時(shí)估計(jì)法是無(wú)偏的。利用時(shí)間n=0的濾波系數(shù)矢量為任意的起始值w(0)，然后開(kāi)始LMS算法的計(jì)算，通過(guò)推導(dǎo)我們得到其更新公式：

收斂因子應(yīng)滿(mǎn)足以下收斂條件：

2.3 LMS算法改進(jìn)形式

2.3.1 NLMS算法

如果不希望用與估計(jì)輸入信號(hào)矢量有關(guān)的相關(guān)矩陣來(lái)加快LMS算法的收斂速度，那么可用變步長(zhǎng)方法來(lái)縮短其自適應(yīng)收斂過(guò)程，其中一個(gè)主要的方法是歸一化LMS(Normalized LMS，縮寫(xiě)為NLMS)算法。其更新公式如下式所示：

2.3.2 泄露LMS算法

泄露LMS算法的迭代公式如下式所示：

收斂因子應(yīng)滿(mǎn)足下列收斂條件：

3.組合自適應(yīng)濾波器

組合自適應(yīng)濾波器的基本思想是對(duì)兩個(gè)或兩個(gè)以上的自適應(yīng)LMS算法并行實(shí)現(xiàn)。在每次迭代中選擇最合適的算法，選擇最佳的加權(quán)系數(shù)值。最佳的加權(quán)系數(shù)是指在給定的時(shí)刻，與相應(yīng)的維納矢量值最接近的值。設(shè)Wi(k，q)是LMS算法中，參數(shù)為q，時(shí)刻為k時(shí)的第i個(gè)加權(quán)系數(shù)，在瞬間選擇參數(shù)q和系數(shù)k。對(duì)所有算法歸一化：LMS：q≡ ，GLMS：q≡a，SA：q≡ 。LMS算法的執(zhí)行主要取決于q值，在每個(gè)迭代中有一個(gè)最佳值qopt，得到最佳表現(xiàn)的自適應(yīng)算法。在組合自適應(yīng)濾波器中，含有幾個(gè)相同類(lèi)型的LMS算法，但其參數(shù)q是不同的。

加權(quán)系數(shù)是分布在Wi*(k)周?chē)碾S機(jī)變量，它與bias(Wi(k，q))及方差 σq2的關(guān)系式如下[4，9]：。

(7)式中的概率P(κ)取決于κ的值。例如當(dāng)κ=2且滿(mǎn)足高斯分布，則 P(κ)=0.95。

Wi(k，q)的置信區(qū)間定義為：

從(7)式到(8)式可知，只有 |bias(Wi(k，q))|<κσq，則 Wi*(k)∈Di(k)，與q無(wú)關(guān)，這意味著，對(duì)于較小的偏差bias，對(duì)于同一LMS算法的不同q值，其置信區(qū)間相交。當(dāng)bias變大，不同q值的置信區(qū)間的中心點(diǎn)距離增大，他們將變得不相交。

由于對(duì)bias(Wi(k，q))沒(méi)有先驗(yàn)知識(shí)，我們將使用一種特殊的統(tǒng)計(jì)方法得到的自適應(yīng)算法的選擇準(zhǔn)則，即q的取值。這個(gè)準(zhǔn)則遵循以下權(quán)衡條件：偏差與方差具有相同數(shù)量級(jí)，即 |bias(Wi(k，q))|≌κσq[4]。

組合自適應(yīng)算法如下：

第1步：首先設(shè)定Q={qi，q2，…}，對(duì)不同的q值計(jì)算Wi(k，q)。

第2步：估算每個(gè)算法的方差σq2。

第3步：判斷各算法的Di(k)是否相交。從具有最大方差值的算法開(kāi)始，再到方差值較小的算法。根據(jù)(7)，(8)和上述的權(quán)衡條件，可按下式進(jìn)行判斷：

若上式成立，則Di(k)相交。

如果Di(k)不相交，則選擇具有最大方差值的算法。兩個(gè)置信區(qū)間不相交意味著滿(mǎn)足了權(quán)衡條件，所以選擇具有最大方差值的算法。如果Di(k)相交，則偏差已經(jīng)很小，因此，檢查另一對(duì)新的加權(quán)系數(shù)，如果已經(jīng)是最后一對(duì)，則選擇具有最小方差值的算法。

第4步：轉(zhuǎn)到下一時(shí)刻。

Q集的最小元素個(gè)數(shù)L=2。在這種情況下，其中的一個(gè)q應(yīng)能提供最大方差，而另一個(gè)q應(yīng)提供穩(wěn)定狀態(tài)下的小方差。通過(guò)觀察發(fā)現(xiàn)，在這兩個(gè)q值之間增加q的數(shù)量，可以對(duì)算法的瞬態(tài)行為進(jìn)行一定的改進(jìn)。

需要注意的是，在(9)式中只有方差是未知的。在仿真中我們參考文獻(xiàn)[4]對(duì)σq2進(jìn)行估算：

對(duì)于穩(wěn)定狀態(tài)下的標(biāo)準(zhǔn)的LMS算法，σq2=qσn2。

組合自適應(yīng)算法的復(fù)雜性取決于組成算法 (第1步)和決策算法(第3步)。由于使用并行硬件實(shí)現(xiàn)，并行算法的加權(quán)系數(shù)計(jì)算并未增加計(jì)算時(shí)間，但增加了硬件要求。方差估算(第2步)由于使用獨(dú)立的硬件實(shí)現(xiàn)，所以其對(duì)算法復(fù)雜度的增加可以忽略不計(jì)。

4.結(jié)論

通過(guò)以上分析可知，如果不希望用與估計(jì)輸入信號(hào)矢量有關(guān)的相關(guān)矩陣來(lái)加快LMS算法的收斂速度，那么可用變步長(zhǎng)方法來(lái)縮短其自適應(yīng)收斂過(guò)程，其中一個(gè)主要的方法是歸一化LMS算法，為了達(dá)到快速收斂的目的，必須合適地選擇變步長(zhǎng)μ(n)的值，一個(gè)可能的策略是盡可能多的減少瞬時(shí)平方誤差，即用瞬時(shí)平方誤差作為均方誤差MSE的簡(jiǎn)單估計(jì)。一般來(lái)說(shuō)，較小的收斂因子會(huì)導(dǎo)致收斂速度較小的失調(diào)。

當(dāng)輸入信號(hào)自相關(guān)陣的一個(gè)或多個(gè)特征值為0時(shí)，由于非線性量化的影響，自適應(yīng)濾波器有可能不能收斂。通常，采用泄露技術(shù)來(lái)防止這一現(xiàn)象的發(fā)生。在自適應(yīng)濾波器權(quán)系數(shù)的更新中引入一定的非線性變換，可以在一定程度上簡(jiǎn)化權(quán)系數(shù)更新過(guò)程中的乘法運(yùn)算，并因此簡(jiǎn)化LMS自適應(yīng)濾波器的硬件或程序?qū)崿F(xiàn)。

[1]何振亞著.自適應(yīng)信號(hào)處理[M].北京：科學(xué)出版社，2002.

[2]劉波，文忠，曾涯等.MATLAB信號(hào)處理[M].北京：電子工業(yè)出版社，2006.

[3]邱天爽，魏東興，唐洪，張安清等.通信中的自適應(yīng)信號(hào)處理[M].北京：電子工業(yè)出版社，2005.

[4]李勇，徐震等.MATLAB輔助現(xiàn)代工程數(shù)字信號(hào)處理[M].西安：西安電子科技大學(xué)出版社，2002.