α穩(wěn)定分布噪聲條件下TVAR模型參數(shù)估計(jì)

邱 天爽, 栗 娜, 里紅杰,2

(1.大連理工大學(xué)電子信息與電氣工程學(xué)部,遼寧大連 116024;

2.大連工業(yè)大學(xué)信息科學(xué)與工程學(xué)院,遼寧大連 116034)

0 引 言

實(shí)際中的隨機(jī)信號(hào)許多是非平穩(wěn)非高斯的,長(zhǎng)期以來(lái)囿于理論的發(fā)展,只好將其簡(jiǎn)化為平穩(wěn)高斯隨機(jī)問(wèn)題,其結(jié)果當(dāng)然令人不甚滿(mǎn)意.許多隨機(jī)信號(hào)或噪聲往往具有顯著的尖峰脈沖特性,使得其統(tǒng)計(jì)特性顯著偏離高斯分布,其概率密度函數(shù)的衰減過(guò)程比高斯分布要慢,從而造成了顯著的拖尾.通常用α穩(wěn)定分布模型來(lái)描述這類(lèi)具有顯著尖峰脈沖狀波形和較厚概率密度函數(shù)拖尾的隨機(jī)信號(hào),α越小拖尾越厚,脈沖性越強(qiáng).由于α穩(wěn)定分布信號(hào)不存在有限的二階和二階以上矩,在高斯條件下基于二階矩理論的信號(hào)處理算法在α穩(wěn)定分布條件下性能退化[1].因此需要根據(jù)信號(hào)噪聲的特點(diǎn)研究出新的信號(hào)處理方法.例如在實(shí)際應(yīng)用中,對(duì)于信號(hào)中突發(fā)性的野值干擾,當(dāng)采用范數(shù)為2的最小均方誤差準(zhǔn)則時(shí),平方的作用放大了野值的影響,從而使對(duì)系統(tǒng)的自回歸(AR)估計(jì)產(chǎn)生嚴(yán)重影響.如果選用較小的范數(shù),則會(huì)對(duì)較大誤差有一定的抑制作用,從而使估計(jì)結(jié)果的穩(wěn)健性更好.

本文主要結(jié)合非平穩(wěn)信號(hào)的 TVAR模型描述以及α穩(wěn)定分布條件下信號(hào)處理的最小p范數(shù)(LPN)方法,給出一種估計(jì)非平穩(wěn)信號(hào)TVAR模型時(shí)變參數(shù)的最小p范數(shù)方法.

1 非平穩(wěn)隨機(jī)信號(hào)的時(shí)變AR模型

時(shí)變參數(shù)模型法是近年來(lái)應(yīng)用于非平穩(wěn)隨機(jī)信號(hào)分析與處理的一種新方法.這種方法通常用具有時(shí)變參數(shù)的AR模型和自回歸滑動(dòng)平均(ARMA)模型來(lái)表征非平穩(wěn)隨機(jī)信號(hào),將時(shí)變參數(shù)假設(shè)為一組基時(shí)間函數(shù)的線性組合.由于任何MA和ARMA模型都可以用無(wú)窮階的AR模型來(lái)表示,并且AR模型計(jì)算比較簡(jiǎn)單,信號(hào)處理中常用AR模型來(lái)表征信號(hào).時(shí)變參數(shù)模型法的優(yōu)點(diǎn)在于將一個(gè)線性非平穩(wěn)問(wèn)題轉(zhuǎn)化為一個(gè)線性時(shí)不變問(wèn)題,而且與假設(shè)在一段時(shí)間間隔上信號(hào)是平穩(wěn)的參數(shù)估計(jì)方法相比,時(shí)變參數(shù)模型法可以進(jìn)一步提高參數(shù)估計(jì)的精確度[2].

設(shè)零均值、N階時(shí)變參數(shù)自回歸(TVAR)模型[3 、4]為

式中:en為平穩(wěn)白噪聲過(guò)程,假設(shè)時(shí)變參數(shù){ai(n),i=1,…,N}是一組基時(shí)間函數(shù)的線性組合,

式中{gj(n),j=0,…,m}是一組基時(shí)間函數(shù),m稱(chēng)為基的程度.

由以上可以看出:N個(gè)時(shí)變參數(shù)被一組定常參數(shù){aij}所代替,這種方法也可以稱(chēng)為坐標(biāo)方法.當(dāng)參數(shù)被看成是以{gj(n),j=0,…,m}為基的一個(gè)時(shí)間函數(shù)時(shí),它是由xn的軌跡坐標(biāo)構(gòu)成的.這樣就將一個(gè)標(biāo)量過(guò)程替換成向量過(guò)程,從而把一個(gè)線性非平穩(wěn)問(wèn)題轉(zhuǎn)化為一個(gè)線性時(shí)不變問(wèn)題.

2 TVAR模型的最小p范數(shù)估計(jì)

2.1 AR SαS 過(guò)程

通常認(rèn)為AR、MA、ARMA過(guò)程的激勵(lì)en是獨(dú)立同分布(i.i.d.)的高斯過(guò)程,這種假設(shè)在許多情況下是合理的.但是,在某些場(chǎng)合,高斯激勵(lì)的線性模型就不再適用,比如水文數(shù)據(jù)、氣象數(shù)據(jù)以及具有很大的瞬時(shí)尖峰脈沖的數(shù)據(jù),包括股票市場(chǎng)價(jià)格、電話信號(hào)和一些生物醫(yī)學(xué)信號(hào)等.這類(lèi)尖峰脈沖信號(hào)的分布比高斯分布有更厚的拖尾,而且具有無(wú)限方差.這時(shí),原有的基于二階統(tǒng)計(jì)量的分析方法不再適用,需要新的不受有限方差限制的參數(shù)模型方法[5].

最常用的具有無(wú)窮方差的線性模型是自回歸(AR)SαS過(guò)程,一個(gè)ARSαS過(guò)程xn可表示為

這里en是一個(gè)特征指數(shù)為α,分散系數(shù)為 γ的i.i.d.的SαS分布過(guò)程.

2.2 TVAR模型時(shí)變參數(shù)的最小p范數(shù)估計(jì)方法

對(duì)于穩(wěn)定過(guò)程的線性估計(jì)問(wèn)題,由于沒(méi)有有限方差,最小均方誤差(MMSE)準(zhǔn)則不再適用,但是MMSE準(zhǔn)則的概念可以推廣到穩(wěn)定分布過(guò)程.特別地,最小分散系數(shù)(MD)準(zhǔn)則可以用于討論穩(wěn)定過(guò)程的線性理論.在MD準(zhǔn)則下,一個(gè)SαS隨機(jī)變量在觀測(cè)線性空間的最佳估計(jì)是使估計(jì)誤差的分散系數(shù)最小.一個(gè)穩(wěn)定隨機(jī)變量的分散系數(shù)具有和方差同樣的地位和作用.分散系數(shù)越大,遠(yuǎn)離中值的穩(wěn)定隨機(jī)變量的樣本越多.因此,通過(guò)分散系數(shù)的最小化,可以使估計(jì)誤差的平均幅度達(dá)到最小[6].

設(shè)一個(gè)非平穩(wěn)ARSαS過(guò)程為

式中:en為特征指數(shù)為α、分散系數(shù)為γ的i.i.d.的SαS分布過(guò)程 .令

則式(4)可以寫(xiě)成如下形式:

要估計(jì)TVAR模型的時(shí)變參數(shù),目標(biāo)就是使式(6)最小化:

其中s(n)是期望信號(hào).對(duì)式(6)相對(duì)于系數(shù)矢量a的每個(gè)元素求偏導(dǎo),并令其為0,得到

定義殘留矢量為r,其中第n個(gè)元素

這樣,式(7)可簡(jiǎn)化為

由于sgn(rn)=rn/|rn|,式(8)等價(jià)于

式(9)等號(hào)兩邊同除以p,可以消去p.同時(shí)定義一個(gè)加權(quán)對(duì)角陣

用矩陣形式來(lái)表達(dá)式(9),有

這里

求解式(10)得

該式是加權(quán)最小二乘問(wèn)題.然而,這里a是W的函數(shù),而W又是a的殘留函數(shù).因此,這個(gè)公式?jīng)]有解析解,其迭代解法如下:

這里,a(k)是TVAR模型第k步迭代的參數(shù)矢量,‖·‖(p)表示lp范數(shù).

3 仿真實(shí)驗(yàn)

為了研究上述算法的性能,對(duì)一 TVAR(2)模型的時(shí)變參數(shù)進(jìn)行了估計(jì),并對(duì)用本文中最小p范數(shù)(LPN)方法得到的估計(jì)結(jié)果與用傳統(tǒng)遞推最小二乘[7](RLS)法得到的估計(jì)結(jié)果進(jìn)行了比較.

常用的基時(shí)間函數(shù)有很多種,本文采用傅里葉基時(shí)間函數(shù),形式如下:

其中j=0,1,…,m,m越大,模型描述非平穩(wěn)信號(hào)特性越準(zhǔn)確,但運(yùn)算量也隨之顯著增加,綜合考慮這兩點(diǎn)因素,本實(shí)驗(yàn)中基的程度取m=2.

實(shí)驗(yàn)中要討論的二階時(shí)變AR過(guò)程如圖1所示,可以用式(12)表示:

其中a1(n)=0.1+0.5sin ωk+0.7cos 2ωk,a2(n)=-0.3-0.7sin ωk-0.2cos 2ωk,當(dāng)en是i.i.d.高斯時(shí)間序列時(shí)信號(hào)xn如圖1所示,當(dāng)en是i.i.d.SαS時(shí)間序列時(shí)xn如圖2所示.

從圖中可以看出,圖2所示的SαS過(guò)程不同于圖1所示的高斯隨機(jī)過(guò)程,信號(hào)中存在較大的尖峰脈沖.對(duì)圖2所示信號(hào)的α參數(shù)進(jìn)行估計(jì),得到α=1.03.

圖1 二階TVAR高斯過(guò)程Fig.1 Second-order Gaussian process with TVAR model

圖2 二階 TVAR SαS過(guò)程Fig.2 Second-order SαS processw ith TVARmodel

圖3 高斯噪聲條件下LPN估計(jì)結(jié)果Fig.3 Estimation using LPN algorithm underGaussian noise conditions

圖4 高斯噪聲條件下RLS估計(jì)結(jié)果Fig.4 Estimation using RLS algorithm under Gaussian noise conditions

分別用最小p范數(shù)(LPN)方法與遞推最小二乘(RLS)法對(duì)圖1和2所示信號(hào)進(jìn)行TVAR模型參數(shù)估計(jì),在高斯條件下即對(duì)圖1所示信號(hào)估計(jì)得到的結(jié)果如圖3和4所示,在α穩(wěn)定分布條件下即對(duì)圖2所示信號(hào)估計(jì)得到的結(jié)果如圖5和6所示.從圖中可以看出,在高斯條件下,兩種方法都可以得到比較準(zhǔn)確的估計(jì)結(jié)果.在α穩(wěn)定分布情況下,本文的LPN方法可以得到比較準(zhǔn)確的TVAR模型的時(shí)變參數(shù);而RLS方法得到的估計(jì)結(jié)果存在較大誤差,基本不能給出模型參數(shù)隨時(shí)間的變化情況.兩種方法在兩種條件下的誤差情況如表1和2所示,其中誤差均值和誤差功率計(jì)算公式如式(13)、(14).實(shí)驗(yàn)結(jié)果說(shuō)明,在高斯條件下適用的RLS算法在α穩(wěn)定分布條件下性能退化;而LPN算法既適用于高斯條件又適用于α穩(wěn)定分布條件,比RLS算法具有更廣泛的適用性.

其中εi(i=1,2,…,N)為各時(shí)刻的估計(jì)誤差.

圖5 α穩(wěn)定分布噪聲條件下LPN估計(jì)結(jié)果Fig.5 Estimation using LPN algorithm under α-stable distribution noise conditions

圖6 α穩(wěn)定分布噪聲條件下RLS估計(jì)結(jié)果Fig.6 Estimation using RLS algorithm under α-stab le distribution noise conditions

表1 高斯噪聲條件下LPN方法與RLS方法結(jié)果誤差比較Tab.1 Error comparison of LPN algorithm and RLS a lgorithm under Gaussian noise conditions

表2 α穩(wěn)定分布噪聲條件下 LPN方法與RLS方法結(jié)果誤差比較Tab.2 Error com parison of LPN algorithm and RLS algorithm underα-stable distribution noise conditions

4 結(jié) 語(yǔ)

非高斯與非平穩(wěn)信號(hào)處理是當(dāng)前信號(hào)處理的研究熱點(diǎn),實(shí)際中很多信號(hào)都具有非高斯和非平穩(wěn)特性,所以將這兩個(gè)問(wèn)題結(jié)合起來(lái)研究具有很重要的理論意義和實(shí)際價(jià)值.本文給出了一種用最小p范數(shù)法對(duì)非平穩(wěn)信號(hào)TVAR模型時(shí)變參數(shù)進(jìn)行估計(jì)的方法,這種方法既適用于高斯條件下非平穩(wěn)信號(hào)TVAR模型的參數(shù)估計(jì),又適用于非高斯α穩(wěn)定分布條件下非平穩(wěn)信號(hào)的參數(shù)估計(jì),改善了傳統(tǒng)的RLS方法僅適用于高斯條件的情況,較RLS方法具有更好的韌性.

[1]邱天爽,張旭秀,李小兵,等.統(tǒng)計(jì)信號(hào)處理—— 非高斯信號(hào)處理及其應(yīng)用[M].北京:電子工業(yè)出版社,2004

[2]王宏禹.非平穩(wěn)隨機(jī)信號(hào)分析與處理[M].北京:國(guó)防工業(yè)出版社,1999

[3]ZHU Yong-liang, PAGILLA P R.Adap tive estimation of time-varying parameters in linear systems[C]//Proceeding of the American Control Conference.Piscataway:IEEE,2003:4167-4172

[4]SH EN M in-fen,SONG Rong,TING K H,etal.A method for identifying non-Gaussian parametricmodel with time-varying coefficients[C]//ICASSP 2003 Acoustics,Speech,and Signal Processing.Piscataw ay:IEEE,2003:629-632

[5]王文華,王宏禹.一種非平穩(wěn)隨機(jī)信號(hào)模型的時(shí)變參數(shù)估計(jì)算法性能研究[J].大連理工大學(xué)學(xué)報(bào),1997,37(1):97-102(WANG W en-hua,WANG Hong-yu.An algorithm property analysis for time-varying parameters estimation o f nonstationary random signals model[J].Journal of Dalian University of Technology,1997,37(1):97-102)

[6]SODSRIC.Time-varying autoregressivemodeling for nonstationary acoustic signal and its frequency ana lysis[D].Pennsy lvania:The Pennsy lvania State University,2003

[7]馮大政,常冬霞,袁 莉.一種自適應(yīng)全局最小p范數(shù)算法[J].電子學(xué)報(bào),2001,29(12A):1848-1851