基于粒子群的LMS算法在信號(hào)濾波降噪中的應(yīng)用

趙軼驍, 汪鐳(同濟(jì)大學(xué) 電子與信息工程學(xué)院, 上海 201804)

基于粒子群的LMS算法在信號(hào)濾波降噪中的應(yīng)用

趙軼驍, 汪鐳
(同濟(jì)大學(xué) 電子與信息工程學(xué)院, 上海 201804)

在自適應(yīng)濾波算法中，LMS算法是最常用的算法之一，因?yàn)榫邆浣Y(jié)構(gòu)簡(jiǎn)單，易于實(shí)現(xiàn)，性能穩(wěn)定，計(jì)算復(fù)雜度低等特點(diǎn)。然而，LMS算法也存在缺點(diǎn)，比如，收斂速度較慢，收斂精度低的問(wèn)題，這就影響LMS算法在收斂性要求較高的領(lǐng)域中的應(yīng)用。使用粒子群算法對(duì)LMS算法進(jìn)行改進(jìn)，可以將LMS濾波設(shè)計(jì)變成對(duì)LMS濾波參數(shù)優(yōu)化的問(wèn)題， 利用粒子群算法的優(yōu)化能力，使得濾波參數(shù)得到全局最優(yōu)解。以此可以提高LMS濾波算法的收斂性能，從而提高濾波性能。

自適應(yīng)濾波; LMS算法; 粒子群算法

Abstract： In the adaptive filter algorithms, LMS algorithm is one of the most common algorithms because of its simple structure, facile realization and stability, low computational complexity. But， LMS algorithm has also some defects, for example, low rate of convergence and convergence precision. Those problems have impacted on the application in high convergence fields. PSO algorithm can be used to improve the LMS algorithm. The designation of the LMS filter can be transferred to optimization problem for the parameters of LMS filter. The optimization of PSO algorithm is utilized to get the global optimal solution of filter parameters. In this way, convergence of LMS algorithm can be improved, and the performance of filter also can be improved.

Keywords： Adaptive filter; LMS algorithm; PSO algorithm

0 引言

自適應(yīng)濾波算法在目前數(shù)字信號(hào)處理應(yīng)用中，是非常重要的組成部分。其中，基于最小均方差理論發(fā)展起來(lái)的LMS算法(Least mean square)是目前自適應(yīng)濾波中應(yīng)用最廣泛的一種。它使用梯度下降的原理，讓均方差達(dá)到最小。在LMS算法中，算法的收斂速度和收斂精度是自相沖突的指標(biāo)，兩者通過(guò)調(diào)整收斂因子μ達(dá)到平衡。所以，如何更好的提高LMS算法的收斂性能一直是被研究的問(wèn)題。，諸如，變長(zhǎng)LMS算法，變階數(shù)LMS等等，這些改進(jìn)一步步完善了LMS算法，但是只在特別的情況下有效果，通用能力弱。

粒子群算法是基于群體智能的搜索優(yōu)化算法，通過(guò)在搜索空間內(nèi)的對(duì)多點(diǎn)搜索，通過(guò)搜索到當(dāng)前最優(yōu)值來(lái)找到空間內(nèi)的全局最優(yōu)點(diǎn)。這種算法以其實(shí)現(xiàn)容易、精度高、收斂快等優(yōu)點(diǎn)。文獻(xiàn)[1]中將PSO運(yùn)用到LMS中去，在多重模態(tài)的問(wèn)題上，解決了收斂速度和收斂精度的沖突的問(wèn)題。本文正是利用該算法的諸多優(yōu)點(diǎn)，對(duì)LMS算法進(jìn)行改進(jìn)，彌補(bǔ)算法收斂性存在的不足能力，提高它的濾波性能，并將它用于信號(hào)降噪中去。

信號(hào)降噪是一直被廣泛使用的技術(shù)，在尤其是聲音信號(hào)的方面，也常被叫做語(yǔ)音增強(qiáng)，語(yǔ)音增強(qiáng)是指當(dāng)語(yǔ)音信號(hào)被各種各樣的噪聲干擾、甚至淹沒(méi)后，從噪聲背景中提取有用的語(yǔ)音信號(hào)，抑制、降低噪聲干擾的技術(shù)。一句話，從含噪語(yǔ)音中提取盡可能純凈的原始語(yǔ)音。

本文會(huì)將粒子群算法改進(jìn)后的LMS濾波算法與其他常用的維納濾波算法以及譜減算法進(jìn)行減噪性能比對(duì)，以此來(lái)評(píng)估算法的降噪性能。

1 LMS自適應(yīng)濾波算法

1.1 MS自適應(yīng)濾波基本概念

1959年，有Widrow和Hoff在研究自適應(yīng)線性元素的模式識(shí)別方案時(shí)提出了LMS算法，從而奠定了自適應(yīng)濾波的理論基礎(chǔ)。之后，各種各樣的自適應(yīng)濾波算法相繼被提出，并是自適應(yīng)濾波器在跟多領(lǐng)域中得以更為廣泛的應(yīng)用和發(fā)展。如，大約1965年，來(lái)自貝爾電話實(shí)驗(yàn)室的Kelly首先提出把自適應(yīng)濾波器用于回音消除中。同年，Widrow和其他的自斯坦福大學(xué)的合作一起發(fā)明了自適應(yīng)譜線增強(qiáng)器，它可用于消除譯碼器輸出端的60Hz及心電圖放大器等。

LMS濾波器的基本結(jié)構(gòu),如圖1所示。

根據(jù)如圖1所示，該圖為L(zhǎng)MS濾波器的基本原理框圖。

圖1 LMS濾波器基本結(jié)構(gòu)

初始化時(shí)，如式(1)。

w(0)=w(0)=[0 0 0 … 0]T

(1)

當(dāng)k≥0時(shí),如式(2)、式(3)。

e(k)=d(k)-xT(k)w(k)

(2)

w(k+1)=w(k)-2μe(k)x(k)

(3)

其中，(k)為瞬時(shí)的誤差，μ為收斂因子，e(k)是誤差信號(hào)，w(k)為的濾波器系數(shù)。按照梯度特性，w(k)在每次迭代運(yùn)算中會(huì)自動(dòng)調(diào)整，逐步是均值E[e2(k)]最小化，E[e2(k)]就是最小均方差。

1.2 自適應(yīng)濾波在降噪中的應(yīng)用

當(dāng)自適應(yīng)濾波被應(yīng)用在降噪應(yīng)用中是，它的結(jié)構(gòu)框圖,如圖2所示。

圖2 信號(hào)降噪結(jié)構(gòu)

與看見(jiàn)的自適應(yīng)濾波器結(jié)構(gòu)是不同的。信號(hào)x(k)受到噪聲n1(k)的影響。而信號(hào)n2(k)是與噪聲相關(guān)的信號(hào)，它可以被測(cè)量到的信號(hào)。n2(k)也作為自適應(yīng)濾波器的輸入信號(hào)，受到干擾的信號(hào)x(k)+n1(k)作為期望信號(hào)。

輸出信號(hào)y(k)與輸入信號(hào)n2(k)的數(shù)學(xué)關(guān)系式根據(jù)圖1是式(4)

(4)

按照均方誤差方程,可以得到式(5)。

E[e2(k)]=E[x2(k)]+E{[n1(k)-y(k)]2}

(5)

假如x(k)與n1(k)和n2(k)無(wú)關(guān)，那么該函數(shù)的最小MSE為式(6)。

ξmin=E[e2(k)]=E[x2(k)]

(6)

其中x(k)就是我們?yōu)V波所要得到的信號(hào)。

以該信號(hào)降噪模型和LMS基本濾波結(jié)構(gòu)進(jìn)行降噪濾波處理。以信噪比(Signal-Noise Ratio,SNR)評(píng)估。

收斂因子2μ=0.000 1，處理結(jié)果如下圖3所示。

圖3 普通LMS濾波效果(2μ=0.000 1)

設(shè)定帶噪信號(hào)的SNR為5.0，LMS濾波后的信號(hào)的SNR為20.1。

可以很明顯地看出，在使用LMS算法濾波后，噪聲信號(hào)在信號(hào)的剛開(kāi)始的部分仍然存在，而且噪音很大，但是后半段的信號(hào)濾波效果很好。如果提高的值，濾波信號(hào)前端噪音會(huì)有所減少，但是會(huì)造成整體的濾波效果不理想。

當(dāng)收斂因子2μ=0.01，濾波效果,如圖4所示。

設(shè)定帶噪信號(hào)SNR為5.0, LMS濾波后的信號(hào)的SNR為7.7。

可以看出,在使用LMS濾波后，前端的信號(hào)噪聲消除了，但是之后的信號(hào)噪聲仍然很大，說(shuō)明收斂速度提升，會(huì)影響收斂的精度，濾波效果變得更差。

這就是收斂速度慢和收斂精度之間矛盾。提高收斂精度勢(shì)必會(huì)造成收斂速度降慢，提高收斂速度結(jié)果造成收斂精度低。本文利用粒子群算法來(lái)解決這一矛盾。

2 粒子群算法

2.1 粒子群算法的基本概念

粒子群算法，也稱粒子群優(yōu)化算法(Particle Swarm Optimization)，縮寫(xiě)為PSO，是近年來(lái)發(fā)展起來(lái)的一種新的進(jìn)化算法(Evolutionary Algorithm-EA)。PSO算法屬于進(jìn)化算法的一種，它是從隨機(jī)解出發(fā)，通過(guò)迭代尋找最優(yōu)解，它也是通過(guò)適應(yīng)度來(lái)評(píng)價(jià)解的品質(zhì)，但它比遺傳算法規(guī)則更為簡(jiǎn)單，它沒(méi)有遺傳算法的“交叉”(Crossover)和“變異”(Mutation)操作，它通過(guò)追隨當(dāng)前搜索到的最優(yōu)值來(lái)尋找全局最優(yōu)。這種算法以其實(shí)現(xiàn)容易、精度高、收斂快等優(yōu)點(diǎn)引起了學(xué)術(shù)界的重視，并且在解決實(shí)際問(wèn)題中展示了其優(yōu)越性。

假定搜索空間E內(nèi)有N個(gè)粒子，i(i=1～N)對(duì)應(yīng)搜索空間內(nèi)一個(gè)粒子，設(shè)定粒子在該搜索空間E內(nèi)對(duì)應(yīng)的位置地址表示為xi=(xi1,xi2,…,xE-2,xE-1,xE)，設(shè)定粒子在該搜索空間E內(nèi)的運(yùn)動(dòng)速度表示為vi=(vi1,vi2,…,viB,viE-1,viE)，建立所有粒子在搜索空間E內(nèi)的速度和更新方程為式(7)、式(9)

vid(t+1)=ωvidI(t)+c1rand1[pid-

xid(t)]+c1rand2[pgd-xid(t)]

(7)

(8)

xid(t+1)=xid(t)+vid(t)

(9)

在式(7)中，t表示算法的迭代次數(shù)。c1和c2是加速因子(acceleration coefficient)，加速因子一般也設(shè)為恒定的常量。ω是慣性權(quán)重(inertia weight)，慣性權(quán)重一般設(shè)為一個(gè)恒定常量。pid代表粒子在之前的迭代進(jìn)程中在搜索空間內(nèi)最優(yōu)的位置，而pgd代表當(dāng)前迭代次數(shù)下粒子在搜索空間內(nèi)最優(yōu)的位置。通過(guò)計(jì)算pid和pgd與所有粒子現(xiàn)在所在位置xid(t)之差來(lái)更新接下去所有粒子在搜索空間內(nèi)的速度與移動(dòng)趨勢(shì)，因此所有粒子能向著它現(xiàn)在最優(yōu)位置和粒子群目前最優(yōu)的位置運(yùn)動(dòng)。此外方程中設(shè)定了隨機(jī)數(shù)rand1和rand2,它們是是在[0,1]之的隨機(jī)數(shù)。通過(guò)設(shè)定隨機(jī)數(shù)，從而讓所有粒子更新帶有一定的隨機(jī)性。

基本的粒子群算法的工作流程是如下圖5所示。

圖5 粒子群算法基本流程

1)算法進(jìn)入初始階段，生成粒子群，在設(shè)定的空間范圍內(nèi)，對(duì)粒子的初始位置和速度賦值。

2)使用適應(yīng)度函數(shù)對(duì)所有粒子進(jìn)行評(píng)估值，記錄個(gè)體歷史上的最優(yōu)值和群體中最優(yōu)值。

3)根據(jù)更新方程，更新所有粒子的位置和速度。

4)判斷迭代是否完成，或者達(dá)到計(jì)算的要求，如果沒(méi)有完成或達(dá)到要求，轉(zhuǎn)到第二步繼續(xù)迭代操作。如果達(dá)到迭代上限，或者達(dá)到計(jì)算要求結(jié)束迭代。

5)輸出評(píng)估出的最優(yōu)結(jié)果，結(jié)束程序。

其中，適應(yīng)度函數(shù)是用于評(píng)估粒子目前所在的位置。利用該函數(shù)可以評(píng)估出目前最優(yōu)的粒子位置。

3 粒子群算法對(duì)LMS濾波算法的改進(jìn)

式2和式3所示的更新方程是LMS算法的最重要的工作步驟。根據(jù)梯度特性E[e2(k)]會(huì)不斷趨于最小均方差。其中。從式2能夠推倒出下式(10)。

e(k+1)=d(k+1)-xT(k+1)[w(k)-2μe(k)x(k)]

(10)

e(k)是瞬時(shí)誤差，根據(jù)式10所示，收斂因子2μ決定了E[e2(k)]的最小值。許多研究都是針對(duì)2μ，通過(guò)動(dòng)態(tài)調(diào)整2μ使得E[e2(k)]值逐步達(dá)到最小，從而提高收斂性。而本文則使用粒子群算法優(yōu)化能力，使得E[e2(k)]在每次迭代中做到最小化，實(shí)現(xiàn)LMS濾波的最優(yōu)收斂效果，從而提升濾波降噪能力。

首先將收斂因子μ設(shè)為搜索空間內(nèi)的粒子，那么對(duì)μ的調(diào)整操作就轉(zhuǎn)換為尋找粒子在空間的最優(yōu)位置。

根據(jù)式(10)，本文設(shè)定適應(yīng)度函數(shù)，如下式(11)。

F=min(e(k+1))

(11)

該適應(yīng)度函數(shù)能夠?qū)崿F(xiàn)瞬時(shí)誤差的最小化，從而是最小均方差MSE達(dá)到最小。

本文將基于粒子群改進(jìn)的LMS算法與其他濾波算法進(jìn)行比對(duì)。

當(dāng)使用PSO改進(jìn)的LMS算法濾波是。效果如圖6所示。

圖4.1 基于PSO的LMS算法濾波效果

設(shè)定帶噪信號(hào)SNR為5.0, LMS濾波后的信號(hào)的SNR為30.3。

當(dāng)使用維納濾波時(shí)，效果如圖4.2所示。

圖6 維納濾波效果

設(shè)定帶噪信號(hào)的SNR為5.0，LMS濾波后的信號(hào)的SNR為17.2。

當(dāng)使用譜減濾波時(shí)，效果如如圖7所示。設(shè)定帶噪信號(hào)的SNR為5.0，LMS濾波后的信號(hào)的SNR為14.8。

圖7 譜減濾波效果

4 總結(jié)

基于PSO的LMS算法相比于其他算法，在濾波降噪上擁有更好的收斂性，更好的濾波效果。該算法能夠在前期保證收斂速度，也能保證后期的收斂精度。

基于PSO的LMS算法擁有很好的收斂效果，能夠有效地降低噪音信號(hào)，提取有用的信號(hào)數(shù)據(jù)。對(duì)于語(yǔ)音信號(hào)和音樂(lè)信號(hào)的提取還原有著非常大的作用。

[1] D. J. Krusienski, W. K. Jenkins. A Particle Swarm Optimizat ionleast Mean Squares Algorithm for Adap-

tive Filter[C]. IEEE 38th Asilomar Conference on, Signals, Systems and Computers, 2004, 1(11): 241-245.

[2] 李輝,張安,趙敏,等. 粒子群優(yōu)化算法FIR數(shù)字濾器設(shè)計(jì)中的應(yīng)用[J]. 電子學(xué)報(bào), 2005, 33(7): 1338-1341.

[3] 黃媛媛,王友人,崔江,等.基于粒子群算法的自適應(yīng)LMS濾波器設(shè)計(jì)及可重構(gòu)硬件實(shí)現(xiàn)[J].佳木斯大學(xué)學(xué)報(bào)(自然科學(xué)版),2010,28(1):1-4.

[4] 吳怡.基于LMS算法的語(yǔ)音增強(qiáng)系統(tǒng)的研究[D]. 北京:北京郵電大學(xué)，2011.

[5] 宋智用. MATLAB在語(yǔ)音信號(hào)分析與合成中的應(yīng)用[M]. 北京：北京航天航空大學(xué)出版社,2013.

[6] T.Mvsr, K.Meghashyam, A.Verma.Comprehensive Analysis of LMS and NLMS Algorithms using Adaptive Equalizers[C].IEEE 2014 International Conference on,Communications and Signal Processing (ICCSP), 2014,1101-1104.

[7] 迪尼. 自適應(yīng)濾波算法與實(shí)現(xiàn)[M]. 劉郁林,譯. 北京： 電子工業(yè)出版社，2014.

LMSAlgorithmBasedonPSOandApplicationintheFieldofNoise-reduceFilter

Zhao Tiexiao, Wang Lei
(Collge of Electronics and Engineering, Tongi University, Shanghai 201804, China)

TP393.04

A

2017.06.25)

趙軼驍(1990-)，男，工程碩士，研究方向：電子通信工程. 汪鐳(1970-)，男，教授，研究方向:智能控制，智能計(jì)算，CIMS和系統(tǒng)工程方面.

1007-757X(2017)09-0071-03