融合動量BP算法的樣本數(shù)自適應(yīng)粒子濾波

張 園，趙長勝，李曉明

(江蘇師范大學(xué)地理測繪與城鄉(xiāng)規(guī)劃學(xué)院，江蘇徐州221116)

E-mail:zy1993_xuzhou@sina.com

1 引言

粒子濾波是一種非線性、非高斯系統(tǒng)濾波算法，它將蒙特卡羅方法和貝葉斯估計理論相結(jié)合，該方法的基本思想是用一組粒子來近似表示系統(tǒng)的驗后概率分布，然后使用這一近似表示來估計系統(tǒng)的狀態(tài).粒子濾波適用于任何能用狀態(tài)空間模型表示的非線性、非高斯隨機系統(tǒng)，精度可以逼近最優(yōu)，是一種有效的非線性濾波技術(shù)，可廣泛用于數(shù)字通信、金融領(lǐng)域數(shù)據(jù)分析、統(tǒng)計學(xué)、圖像處理、計算機視覺、自適應(yīng)估計、語音信號處理、機器學(xué)習(xí)等方面［1-3］.

D.Fox學(xué)者于2002年提出粒子數(shù)可變的自適應(yīng)粒子濾波，即基于Kullback-leibler(KL)信息數(shù)或KL距離(KLD)采樣的自適應(yīng)粒子濾波器［4］.趙媛媛等提出了一種用于跟蹤系統(tǒng)的可在線調(diào)整采樣周期和粒子數(shù)目的自適應(yīng)粒子濾波器［5］.傅惠民等提出對于許多實際工程(如深空探測)中存在的由未知系統(tǒng)誤差的影響而無法精確建立量測似然函數(shù)及濾波過程中的粒子匱乏等問題，通過增量粒子濾波對粒子數(shù)進行自適應(yīng)調(diào)整，從而消除未知系統(tǒng)和粒子匱乏的影響，自適應(yīng)調(diào)整濾波粒子數(shù)目，進而提高濾波的精度［6］.基于KLD(Kullback Leibler Distance)采樣和蝙蝠算法，滕飛等提出一種可動態(tài)調(diào)整粒子數(shù)的自適應(yīng)粒子濾波算法［7］.高為廣等利用神經(jīng)網(wǎng)絡(luò)對自適應(yīng)濾波器狀態(tài)方程的預(yù)報值進行實時修正，給出神經(jīng)網(wǎng)絡(luò)輔助的GPS/INS組合導(dǎo)航自適應(yīng)濾波算法［8］.張應(yīng)博等提出在神經(jīng)網(wǎng)絡(luò)訓(xùn)練中，使用迭代拓展卡爾曼濾波器生成建議分布［9］.一種新的基于粒子濾波的神經(jīng)網(wǎng)絡(luò)算法，用于克服一般神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)方法易陷入局部極小值的缺陷［10］.BP神經(jīng)網(wǎng)絡(luò)用于輔助基本粒子濾波算法(NNWA-PF)，在濾波精度方面有一定提高［11］.基于似然分布的樣本數(shù)自適應(yīng)UPF算法已應(yīng)用到SINS/SAR組合導(dǎo)航系統(tǒng)中［12］.

本文提出了融合動量BP算法的樣本數(shù)自適應(yīng)粒子濾波(SS-NNWA-APF):其一，由樣本數(shù)目和濾波精度的關(guān)系可實現(xiàn)自適應(yīng)地調(diào)整粒子數(shù);其二，將動量BP算法與樣本數(shù)自適應(yīng)粒子濾波結(jié)合，增大位于低概率密度區(qū)域粒子的權(quán)值，使位于這部分區(qū)域的小權(quán)值粒子重新進入高權(quán)值區(qū)域，降低粒子退化，同時部分高權(quán)值的粒子分裂為小權(quán)值粒子.

2 樣本數(shù)可自適應(yīng)調(diào)整的粒子濾波

傳統(tǒng)粒子濾波算法樣本數(shù)保持不變，而固定的樣本數(shù)將會直接影響粒子濾波算法的計算復(fù)雜度，進而影響粒子濾波算法的實時性和精度.針對這一問題，本文引入樣本數(shù)可自適應(yīng)調(diào)整的粒子濾波，既可以在每一步狀態(tài)方差估計中設(shè)定樣本數(shù)的下限，也考慮狀態(tài)方差過大或者過小的情形.

樣本數(shù)自適應(yīng)調(diào)整粒子濾波過程如下:

4)預(yù)測樣本數(shù):由k時刻的量測，用EKF計算k+1的方差 σ2(k+1)，根據(jù):

計算樣本數(shù)量Nk+1.

5)重復(fù)步驟(2)～步驟(4)，直到仿真時間T結(jié)束.

輸出后驗分布估計.粒子濾波輸出的一組樣本點，可近似地表示成后驗分布，即:

3 動量BP算法

傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)是一種梯度下降學(xué)習(xí)算法，沿誤差性能函數(shù)的反方向，進行權(quán)值修正.研究表明，基于最速下降法的BP神經(jīng)網(wǎng)絡(luò)算法，可以使權(quán)值和閾值向量獲得穩(wěn)定解，但存在部分缺點，如BP神經(jīng)網(wǎng)絡(luò)收斂速度慢，容易導(dǎo)致局部最優(yōu)等問題.在一定條件下，如果采用較高學(xué)習(xí)速率，學(xué)習(xí)過程也可能發(fā)生振蕩.為了在一定程度上避免最速下降算法的振蕩和不穩(wěn)定現(xiàn)象，動量BP算法在梯度最速下降法的基礎(chǔ)上引入動量因子η(0＜η＜1):

動量BP算法總是力圖使在同一梯度上的修正量增加，動量因子η越大，同一梯度方向上的“動量”也越大［13］.該算法若采用較大的學(xué)習(xí)率，不會產(chǎn)生學(xué)習(xí)過程的發(fā)散情況.因為過量修正時，該算法總能減少修正量，進而保證修正的收斂性;另外，該算法能加速修正量向著同一梯度的方向進行.以上表明，該算法不僅可以保證算法穩(wěn)定，還能加快其收斂速率，減少學(xué)習(xí)時間.

4 融合動量BP算法的樣本數(shù)自適應(yīng)粒子濾波

通過采取自適應(yīng)調(diào)整樣本數(shù)策略，可以一定程度上改善算法的實時性、降低計算復(fù)雜度和提高算法的精度.標準粒子濾波算法中，當(dāng)概率分布值多次更新后，只有少數(shù)粒子具有高權(quán)值，因而出現(xiàn)粒子退化現(xiàn)象，為了解決上述問題，在樣本數(shù)自適應(yīng)粒子濾波的基礎(chǔ)上，增加權(quán)值分裂和權(quán)值調(diào)整兩個步驟，增大部分粒子的權(quán)值，使得小權(quán)值粒子重新進入高權(quán)值區(qū)域，從而增加粒子的多樣性，那么融合動量BP算法的樣本數(shù)自適應(yīng)粒子濾波算法具體步驟如下:

6)預(yù)測樣本數(shù):由k時刻的量測，使用EKF算法來計算k+1的方差σ2(k+1)，再根據(jù)式(3)計算樣本數(shù)量Nk+1.

7)令k=k+1，轉(zhuǎn)至步驟2).

8)結(jié)合式(5)，輸出后驗分布估計.

5 實驗仿真與結(jié)果分析

5.1 仿真模型為單變量非靜態(tài)增長模型

5.1.1 一維系統(tǒng)建模

為了考察算法的有效性，這里選用單變量非靜態(tài)增長模型對粒子濾波算法在非線性系統(tǒng)中的應(yīng)用進行仿真分析.其狀態(tài)模型和觀測模型分別為:

這里，wk和vk為均值為0、方差分別為Qk=10和Rk=1的高斯噪聲，狀態(tài)初始值為x0=0.1，訓(xùn)練次數(shù)T=50.狀態(tài)方程中xk和xk－1是非線性關(guān)系，觀測方程zk和xk也是非線性關(guān)系.動量BP算法中學(xué)習(xí)步長為0.05，神經(jīng)元個數(shù)為8，訓(xùn)練精度為0.005，動量系數(shù)設(shè)定為0.5，最大訓(xùn)練次數(shù)1000.

5.1.2 仿真數(shù)據(jù)分析

選用5.1.1所示的單變量非靜態(tài)增長模型，仿真參數(shù)和初始化如5.1.1.選取粒子數(shù)分別為50、150和300，采用標準粒子濾波算法(PF)、NNWA-PF算法和SS-NNWA-APF算法對系統(tǒng)狀態(tài)進行估計.系統(tǒng)仿真結(jié)果如圖1～圖4所示.

圖1 粒子數(shù)為50時估計與真值的關(guān)系Fig.1 Relation between estimation and truth value when the particle number is 50

圖2 粒子數(shù)為150時估計與真值的關(guān)系Fig.2 Relation between estimation and truth value when the particle number is 50

1)估計與真值的關(guān)系主要考慮濾波值在直線兩側(cè)分布的均勻程度和接近程度.

圖3 粒子數(shù)為300時估計與真值的關(guān)系Fig.3 Relation between estimation and truth value when the particle number is 50

圖1 ～圖4中涉及的符號及參數(shù):PME為后驗均值估計，MAP為最大后驗概率估計，RMSE為均方根誤差.

圖4 三種算法RMSE對比圖Fig.4 RMSE comparison of three algorithms

圖1 ～圖3為PF、NNWA-PF和SS-NNWA-APF三種算法分別取粒子數(shù)為50、150和300時估計與真值的關(guān)系對比圖，由圖可以看出本文提出的融合動量BP算法的樣本數(shù)自適應(yīng)粒子濾波(SS-NNWA-APF)更加均勻且密集地分布在直線兩側(cè)，說明精度上比前兩者要高.圖4也可以直觀看出SSNNWA-APF算法精度上優(yōu)于其他兩種算法.

2)取粒子數(shù)為50、150、300對有效粒子數(shù)(Neff)、均方根誤差(RMSE)、用時/秒、平均粒子數(shù)等指標進行分析.表1本文采用SS-NNWA-APF算法中，有效粒子數(shù)(Neff)取從1到運行時間T的均值，平均粒子數(shù)取從1到運行時間T的均值.

表1 三種算法處理后的參數(shù)對比情況Table 1 Comparison of the parameters after the three algorithms are processed

如表1所示，粒子數(shù)分別取50、150和300時，四種算法在有效粒子數(shù)(Neff)、均方根誤差(RMSE)、用時/秒、平均粒子數(shù)等各項指標有不同之處.有效粒子數(shù)(Neff)表現(xiàn)為PF、NNWA-PF和MO-NNWA-PF(即融合動量BP算法的粒子濾波)隨著粒子數(shù)的增加而增加，而SS-NNWA-APF穩(wěn)定在200左右，有效粒子數(shù)(Neff)較多且表現(xiàn)出一定的穩(wěn)定性.均方根誤差(RMSE)表現(xiàn)為PF、NNWA-PF和MO-NNWA-PF隨著粒子數(shù)的增加而降低，而SS-NNWA-APF則在2.5～3.0范圍內(nèi)變化，說明SS-NNWA-APF精度上要好，且穩(wěn)定性優(yōu)于其他兩種算法，這些數(shù)據(jù)也暗含了SS-NNWA-APF算法實時性的優(yōu)勢.

3)考慮改進BP算法后動量BP算法對粒子濾波的實時性影響.由表一知，NNWA-PF和MO-NNWA-PF兩種算法隨著粒子數(shù)增加，有效粒子數(shù)和均方根誤差后者效果略優(yōu)，而用時方面，后者則有一定的改進.當(dāng)粒子數(shù)增加，前者用時顯著增加，而后者用時在3.48秒到4.11秒范圍內(nèi)變化，表現(xiàn)一定的穩(wěn)定性，沒有因為粒子數(shù)的增加而顯著影響算法的實時性.

由表1對 SS-NNWA-APF算法深入分析，因為 SSNNWA-APF算法的粒子數(shù)在仿真過程中根據(jù)狀態(tài)方差不同而變化，故選取均方根誤差進行比較.當(dāng)粒子數(shù)從50到300增加時，PF、NNWA-PF和MO-NNWA-PF的均方根誤差依次減小，但SS-NNWA-APF均方根誤差的變化幅度卻不大，且總體偏小.

4)綜合以上分析，隨著粒子數(shù)增加，PF、NNWA-PF和MONNWA-PF用時也在增加，而SS-NNWA-APF算法基本保持不變.也就是說粒子數(shù)在取值較大時，SS-NNWA-APF算法仍可以保持較好的實時性，而其他兩種算法雖然可以在取得大粒子數(shù)時保持較高精度，但是實時性卻大大降低.這表明當(dāng)粒子數(shù)較小時，SS-NNWA-APF算法在精度上有優(yōu)勢，而粒子數(shù)較大時，SS-NNWA-APF算法也可以在實時性上保證優(yōu)勢.

5.2 仿真模型多維單目標跟蹤模型

5.2.1 多維單目標跟蹤系統(tǒng)建模

假定目標沿直線運動，觀測站坐標(x0，y0)，狀態(tài)方程為:

式中，Φ為狀態(tài)轉(zhuǎn)移矩陣，G為過程噪聲驅(qū)動矩陣;ω(k)為過程噪聲，行人狀態(tài)矢量為:

式中x1(k)為東方向位置，y1(k)為北方向位置，x2(k)為東方向速度，y1(k)為北方向速度.行人觀測方程為:

函數(shù)h表示觀測站與行人狀態(tài)之間的非線性關(guān)系:

其中v(k)為觀測噪聲.

考慮一般的目標跟蹤問題，假定目標運動軌跡為矩形，X軸為東方向，Y軸為北方向，初始位置為(13.12，17.54)，初始狀態(tài)為(0，0，1，0)，其水平速度 x2=1m/s，粒子數(shù)目為 N=200，采樣次數(shù)為100.

5.2.2 仿真數(shù)據(jù)分析

圖5 平面跟蹤軌跡圖Fig.5 Plane tracking trajectory

表2 三種算法處理后的誤差及用時對比情況Table 2 Comparisons of errors and time use after processing of three algorithms

圖5為三種算法處理后的平面跟蹤軌跡圖，其中粒子數(shù) 為200.由圖可看出三種算法均能基本描述目標的運動軌跡，其中PF算法部分偏差較大，SS-NNWA-APF算法較NNWAAPF算法跟蹤效果好.

表2為粒子數(shù)200時，三種算法處理后的誤差及用時對比情況，同時增加了粒子數(shù)100和粒子數(shù)300時不同算法的用時對比情況.其中x方向位移RMSE，PF算法誤差較大，其他兩種算法大致相當(dāng);y方向位移RMSE，PF算法誤差較大，而本文提出的新算法SS-NNWA-APF跟蹤誤差小于NNWAAPF算法.這說明本文提出的新算法在跟蹤效果上優(yōu)于其他兩種算法.

實時性上，隨著粒子數(shù)的增加，PF和NNWA-APF算法用時逐漸增加，而SS-NNWA-APF算法用時基本保持不變.這表明了新算法在實時性上的優(yōu)勢.

6 結(jié)論

采樣頻率和粒子數(shù)目可以顯著影響粒子濾波算法的性能和復(fù)雜度，增加采樣頻率和粒子數(shù)目雖可以有效改善濾波結(jié)果，但也給實時性帶來了挑戰(zhàn).

在引入了BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練后，算法精度得到了提高，但算法的訓(xùn)練時間增加.考慮到濾波精度與實時性的關(guān)系，提出了融合動量BP算法的樣本數(shù)自適應(yīng)粒子濾波(SS-NNWAAPF)算法.SS-NNWA-APF算法根據(jù)樣本數(shù)目和濾波精度間的關(guān)系，實現(xiàn)了自適應(yīng)地調(diào)整粒子數(shù);并將動量BP算法與樣本數(shù)自適應(yīng)粒子濾波結(jié)合，增大位于低概率密度區(qū)域粒子的權(quán)值，使位于這部分區(qū)域的小權(quán)值粒子重新進入高權(quán)值區(qū)域，降低粒子退化，而且權(quán)值較高的粒子可能會被分裂為若干小權(quán)值粒子;這樣，當(dāng)粒子數(shù)較少時，可以有效改善濾波精度，當(dāng)粒子數(shù)較多時，既能保證濾波精度相對較高，同時在實時性上也保證了穩(wěn)定性.

仿真模型選取分別為單變量非靜態(tài)增長模型和多維單目標跟蹤模型，仿真結(jié)果得出:使用融合動量BP算法的樣本數(shù)自適應(yīng)粒子濾波優(yōu)于標準粒子濾波算法、基于BP神經(jīng)網(wǎng)絡(luò)的粒子濾波算法，在均方根誤差、估計與真值的關(guān)系、有效粒子數(shù)等方面都表現(xiàn)出較好的預(yù)測能力，該算法表現(xiàn)出精度較高，穩(wěn)定性較好，并降低了計算的復(fù)雜度.