傳遞函數(shù)辨識(shí)(25):自回歸輸出誤差自回歸滑動(dòng)平均系統(tǒng)的輔助模型遞階廣義增廣遞推參數(shù)估計(jì)

丁 鋒,徐 玲,籍 艷,劉喜梅

(1.江南大學(xué) 物聯(lián)網(wǎng)工程學(xué)院,江蘇 無(wú)錫 214122;2.青島科技大學(xué) 自動(dòng)化與電子工程學(xué)院,山東 青島 266061)

系統(tǒng)辨識(shí)是研究用數(shù)學(xué)模型描述事物的運(yùn)動(dòng)規(guī)律的學(xué)科,是自然科學(xué)的基礎(chǔ)。最近出版的系統(tǒng)辨識(shí)學(xué)術(shù)專著[1-7]和連載論文[8-15]中介紹了許多系統(tǒng)參數(shù)辨識(shí)方法。自回歸輸出誤差自回歸滑動(dòng)平均(AR-OEARMA)模型是隨機(jī)系統(tǒng)的最一般模型結(jié)構(gòu)形式,其他方程誤差模型和輸出誤差模型都是該模型的特例。輸出誤差系統(tǒng)的辨識(shí)要用到輔助模型,故對(duì)應(yīng)的方法稱為輔助模型辨識(shí)方法。

在《系統(tǒng)辨識(shí):多新息辨識(shí)理論與方法》一書3.6節(jié)中,針對(duì)輸出誤差自回歸滑動(dòng)平均(OEARMA)系統(tǒng)(即Box-Jenkins系統(tǒng)),研究了基于模型分解的輔助模型(多新息)廣義增廣隨機(jī)梯度算法和輔助模型(多新息)廣義增廣最小二乘算法,其中《兩階段輔助模型多新息廣義增廣隨機(jī)梯度算法和兩階段輔助模型廣義增廣最小二乘算法》發(fā)表在國(guó)際期刊IET Signal Processing 2013年第8期上[16]。

《系統(tǒng)辨識(shí):迭代搜索原理與辨識(shí)方法》3.5節(jié)和4.5節(jié)研究了輸出誤差自回歸滑動(dòng)平均(OEARMA)系統(tǒng)(即Box-Jenkins系統(tǒng))和自回歸輸出誤差自回歸滑動(dòng)平均(AR-OEARMA)系統(tǒng)的輔助模型廣義增廣迭代辨識(shí)方法[5]。《系統(tǒng)辨識(shí):多新息辨識(shí)理論與方法》3.5節(jié)和3.6節(jié),研究了OEARMA系統(tǒng)的輔助模型遞推辨識(shí)方法[6]。《系統(tǒng)辨識(shí):輔助模型辨識(shí)思想與方法》2.5節(jié)和2.6節(jié)研究了AROEARMA系統(tǒng)的輔助模型遞推辨識(shí)方法[4]。

最近的連載論文研究了輸出誤差模型的輔助模型遞階遞推辨識(shí)方法和遞階遞推多新息辨識(shí)方法[8]。這里加以推廣,針對(duì)有色噪聲干擾的自回歸輸出誤差自回歸滑動(dòng)平均(AR-OEARMA)系統(tǒng),即自回歸Box-Jenkins(AR-BJ)系統(tǒng),利用遞階辨識(shí)原理、多新息辨識(shí)理論,研究和提出輔助模型遞階廣義增廣遞推辨識(shí)方法和輔助模型遞階多新息廣義增廣遞推辨識(shí)方法。提出的輔助模型遞階遞推辨識(shí)方法可以推廣用于研究其他線性和非線性隨機(jī)系統(tǒng),以及信號(hào)模型的參數(shù)辨識(shí)問(wèn)題。

1 AR-BJ系統(tǒng)描述與遞階辨識(shí)模型

考慮自回歸輸出誤差自回歸滑動(dòng)平均(AROEARMA)模型,即自回歸Box-Jenkins模型(ARBJ模型)描述的動(dòng)態(tài)隨機(jī)系統(tǒng):

其中u(t)和y(t)分別為系統(tǒng)的輸入和輸出,v(t)為零均值、不相關(guān)隨機(jī)白噪聲(不可測(cè)),A(z),B(z),C(z),D(z)和F(z)為單位后移算子z－1的多項(xiàng)式:

設(shè)階次na,nb,nc,nd和nf已知,記n＝na＋nb＋nc＋nd＋nf,且t≤0時(shí),y(t)＝0,u(t)＝0,v(t)＝0。

定義中間變量x(t)和噪聲模型輸出w(t)為

定義參數(shù)向量:

定義信息向量:

由式(2)和(3)可得

將式(2)和(3)代入式(1)可得

這個(gè)辨識(shí)模型包含了兩個(gè)參數(shù)向量?和ρ。遞階辨識(shí)是一種基于分解的辨識(shí)。下面通過(guò)定義一個(gè)中間變量,獲得遞階辨識(shí)模型,研究交互估計(jì)兩個(gè)參數(shù)向量的輔助模型遞階辨識(shí)方法。

引入中間變量(intermediate variable)

式(8)可以等價(jià)寫為兩個(gè)子辨識(shí)模型:

這兩個(gè)子辨識(shí)模型構(gòu)成了AR-BJ系統(tǒng)的遞階辨識(shí)模型。

注1對(duì)AR-BJ系統(tǒng)辨識(shí)模型(8)進(jìn)行分解,得到遞階辨識(shí)模型(9)和(10),一個(gè)包含系統(tǒng)模型的參數(shù)向量?,另一個(gè)包含噪聲模型的參數(shù)向量ρ,這里分別推導(dǎo)它們的辨識(shí)算法,并利用遞階辨識(shí)原理協(xié)調(diào)兩個(gè)子辨識(shí)算法間的關(guān)聯(lián)項(xiàng)。

2 輔助模型遞階廣義增廣隨機(jī)梯度辨識(shí)算法

根據(jù)AR-BJ系統(tǒng)的遞階辨識(shí)模型(9)和(10),定義兩個(gè)梯度準(zhǔn)則函數(shù):

遞推關(guān)系式(12)～(15)右邊包含了未知信息向量φ(t)和ψ(t),以及未知參數(shù)向量ρ和?,所以無(wú)法計(jì)算參數(shù)估計(jì)和,原因是信息向量φ(t)包含了中間變量x(t－i),ψ(t)包含了不可測(cè)噪聲項(xiàng)w(t－i)和v(t－i)。解決的方法是利用輔助模型辨識(shí)思想,利用系統(tǒng)的可測(cè)信息(包括計(jì)算得到的信息)建立輔助模型,用輔助模型的輸出代替這些未知量,從而使辨識(shí)問(wèn)題得到解決。具體做法如下。

根據(jù)φ(t)的定義式,用輔助模型的輸出^x(ti)和系統(tǒng)輸入u(t－i)定義φ(t)的估計(jì):

根據(jù)ψ(t)的定義式,用輔助模型的輸出和定義ψ(t)的估計(jì):

根據(jù)φ(t)的定義式,用定義φ(t)的估計(jì):

由式(7)可得

由式(8)可得

上式也可以直接根據(jù)式(6)得到。

定義新息

式(12)～(15)右邊的未知向量φ(t),ψ(t),ρ和?分別用其估計(jì)和代替,可以得到估計(jì)AR-BJ系統(tǒng)參數(shù)向量?和ρ的輔助模型遞階廣義增廣隨機(jī)梯度算法(auxiliary model HGESG algorithm,AM-HGESG算法):

在AM-HGESG算法(16)～(31)中引入加權(quán)因子、遺忘因子,可以得到輔助模型加權(quán)遞階廣義增廣隨機(jī)梯度算法(AM-W-HGESG算法),輔助模型遺忘因子遞階廣義增廣隨機(jī)梯度算法(AM-FF-HGESG算法),輔助模型加權(quán)遺忘因子遞階廣義增廣隨機(jī)梯度算法(AM-W-FF-HGESG算法)。

1)初始化:令t＝1,給定新息長(zhǎng)度p和參數(shù)估計(jì)精度ε。置初值,1n是一個(gè)元均為1的n維列向量。

2)采集輸入輸出數(shù)據(jù)u(t)和y(t)。用式(22)～(24)構(gòu)造信息向量,)和),用式(21)構(gòu)造信息向量)。

3)用式(17)計(jì)算新息e(t),用式(18)計(jì)算r1(t)。

5)用式(20)計(jì)算r2(t)。根據(jù)式(19)刷新參數(shù)估計(jì)向量。

3 輔助模型遞階多新息廣義增廣隨機(jī)梯度算法

為改進(jìn)輔助模型遞階廣義增廣隨機(jī)梯度辨識(shí)算法的收斂速度,下面借助多新息辨識(shí)理論,通過(guò)擴(kuò)展新息維數(shù),推導(dǎo)出輔助模型遞階多新息廣義增廣隨機(jī)梯度算法。

設(shè)正整數(shù)p表示新息長(zhǎng)度?；贏M-HGESG算法(16)～(31),將輸出y(t),信息向量和)擴(kuò)展為堆積輸出向量Y(p,t),堆積信息矩陣和:

將式(16)和(19)中標(biāo)量新息

擴(kuò)展為新息向量

就得到估計(jì)AR-BJ系統(tǒng)參數(shù)向量?和ρ的輔助模型遞階多新息廣義增廣隨機(jī)梯度算法(AMHMI-GESG算法):

在AM-HMI-GESG算法(32)～(50)中引入加權(quán)矩陣、遺忘因子,可以得到輔助模型加權(quán)遞階多新息廣義增廣隨機(jī)梯度算法(AM-W-HMI-GESG算法),輔助模型遺忘因子遞階多新息廣義增廣隨機(jī)梯度算法(AM-FF-HMI-GESG算法),輔助模型加權(quán)遺忘因子遞階多新息廣義增廣隨機(jī)梯度算法(AM-WFF-HMI-GESG算法)。當(dāng)新息長(zhǎng)度p＝1時(shí),AMHMI-GESG算法退化為AM-HGESG算法(16)～(31)。

AM-HMI-GESG算法(32)～(50)計(jì)算參數(shù)估計(jì)向量)和的步驟如下。

1)初始化:令t＝1,給定新息長(zhǎng)度p和參數(shù)估計(jì)精度ε。置初值是一個(gè)元均為1的n維列向量。

2)采集輸入輸出數(shù)據(jù)u(t)和y(t)。用式(41)～(43)構(gòu)造信息向量和,用式(40)構(gòu)造信息向量)。用式(37)～(39)構(gòu)造堆積輸出向量Y(p,t),堆積信息矩陣和)。

3)用式(33)計(jì)算新息向量E(p,t),用式(34)計(jì)算r1(t)。

5)用式(36)計(jì)算r2(t)。根據(jù)式(35)刷新參數(shù)估計(jì)向量。

4 輔助模型遞階廣義增廣遞推梯度辨識(shí)算法

根據(jù)AR-BJ系統(tǒng)的遞階辨識(shí)模型(9)和(10),定義堆積輸出向量Y(t),堆積信息矩陣Φ(t),堆積虛擬輸出向量Y1(t),堆積噪聲向量W(t)和堆積噪聲矩陣Ψ(t)如下:

定義準(zhǔn)則函數(shù):

使用負(fù)梯度極小化準(zhǔn)則函數(shù)J3(?)和J4(ρ),未知量用其估計(jì)代替,聯(lián)立式(21)～(31),便得到辨識(shí)AR-BJ系統(tǒng)參數(shù)向量?和ρ的輔助模型遞階廣義增廣梯度算法(auxiliary model HGEG algorithm,AM-HGEG算法):

在AM-HGEG算法(53)～(71)中引入加權(quán)因子、遺忘因子,便得到輔助模型加權(quán)遞階廣義增廣梯度算法(AM-W-HGEG算法)、輔助模型遺忘因子遞階廣義增廣梯度算法(AM-FF-HGEG算法)、輔助模型加權(quán)遺忘因子遞階廣義增廣梯度算法(AM-WFF-HGEG算法)。

1)初始化:給定參數(shù)估計(jì)精度ε。令t＝1,置初值max[na,nb,nc,nd,nf],p0是一個(gè)大正常數(shù),如p0＝106。

2)采集輸入輸出數(shù)據(jù)u(t)和y(t)。用式(62)～(64)構(gòu)造信息向量和,用式(61)構(gòu)造信息向量)。

3)用式(54)計(jì)算r1(t),用式(55)計(jì)算向量ξ1(t),用式(56)計(jì)算矩陣R1(t)。用式(53)刷新參數(shù)估計(jì)向量。從式(68)的中讀出子參數(shù)估計(jì))。

4)用式(58)計(jì)算r2(t),用式(59)計(jì)算向量ξ2(t),用式(60)計(jì)算矩陣R2(t)。用式(57)刷新參數(shù)估計(jì)向量)。用式(62)～(64)計(jì)算輔助模型的輸出和。

5 輔助模型遞階多新息廣義增廣遞推梯度算法

設(shè)正整數(shù)p表示新息長(zhǎng)度?；贏M-HGEG算法(53)～(71),將式(54)～(56)和(58)～(60)中輸出y(t),信息向量)擴(kuò)展為堆積輸出向量Y(p,t),堆積信息矩陣

聯(lián)立式(72)～(74),便得到辨識(shí)AR-BJ系統(tǒng)參數(shù)向量?和ρ的輔助模型遞階多新息廣義增廣梯度算法(auxiliary model HMI-GEG algorithm,AMHMI-GEG算法):

在AM-HMI-GEG算法(75)～(96)中引入加權(quán)因子(加權(quán)矩陣)、遺忘因子,便得到輔助模型加權(quán)遞階多新息廣義增廣梯度算法(AM-W-HMI-GEG算法)、輔助模型遺忘因子遞階多新息廣義增廣梯度算法(AM-FF-HMI-GEG算法)、輔助模型加權(quán)遺忘因子遞階多新息廣義增廣梯度算法(AM-W-FFHMI-GEG算法)。

AM-HMI-GEG算法(75)～(96)計(jì)算參數(shù)估計(jì)向量和的步驟如下。

1)初始化:給定新息長(zhǎng)度p和參數(shù)估計(jì)精度ε。令t＝1,置初值,p＋max[na,nb,nc,nd,nf],p0是一個(gè)大正常數(shù),如p0＝106。

2)采集輸入輸出數(shù)據(jù)u(t)和y(t)。用式(87)～(89)構(gòu)造信息向量和,用式(86)構(gòu)造信息向量。用式(83)～(85)構(gòu)造堆積輸出向量Y(p,t),堆積信息矩陣矩陣和。

3)用式(76)計(jì)算r1(t),用式(77)計(jì)算向量ξ1(t),用式(78)計(jì)算矩陣R1(t)。用式(75)刷新參數(shù)估計(jì)向量。從式(93)的中讀出子參數(shù)估計(jì)和。

4)用式(80)計(jì)算r2(t),用式(81)計(jì)算向量ξ2(t),用式(82)計(jì)算矩陣R2(t)。用式(79)刷新參數(shù)估計(jì)向量。用式(90)～(92)計(jì)算輔助模型的輸出和

6 輔助模型遞階廣義增廣最小二乘辨識(shí)算法

根據(jù)AR-BJ系統(tǒng)的遞階辨識(shí)模型(9)和(10),引入兩個(gè)準(zhǔn)則函數(shù):

參照RLS算法的推導(dǎo),極小化J5(?)和J6(ρ),可以得到下列最小二乘遞推關(guān)系:

在式(97)～(102)中,由于信息向量φ(t)和ψ(t)是未知的,故用輔助模型的輸出和系統(tǒng)輸入u(t－i)定義φ(t)的估計(jì):

用噪聲w(t)和v(t)的估計(jì)定義ψ(t)的估計(jì):

用φy(t)和構(gòu)造φ(t)的估計(jì):

定義新息

于是,將式(97)～(102)右邊的未知向量φ(t),ψ(t),ρ和?分別用其估計(jì)和代替,聯(lián)立式(97)～(102)和式(4),可以得到估計(jì)AR-BJ系統(tǒng)參數(shù)向量?和ρ的輔助模型遞階廣義增廣最小二乘算法(auxiliary model HGELS algorithm,AM-HGELS算法):

AM-HGELS算法(110)～(127)計(jì)算參數(shù)估計(jì)向量的步驟如下。

1)初始化:令t＝1。給定參數(shù)估計(jì)精度ε。置初值。

2)采集輸入輸出數(shù)據(jù)u(t)和y(t)。用式(118)～(120)構(gòu) 造 信 息向量和,用 式(117)構(gòu)造信息向量

3)用式(111)計(jì)算新息e(t),用式(112)計(jì)算增益向量L1(t),用式(113)計(jì)算協(xié)方差陣P1(t)。

5)用式(115)計(jì)算增益向量L2(t),用式(116)計(jì)算協(xié)方差陣P2(t)。

在AM-HGELS算法(110)～(127)中引入加權(quán)因子、遺忘因子,便得到輔助模型加權(quán)遞階廣義增廣最小二乘算法(AM-W-HGELS算法),輔助模型遺忘因子遞階廣義增廣最小二乘算法(AM-FF-HGELS算法),輔助模型加權(quán)遺忘因子遞階廣義增廣最小二乘算法(AM-W-FF-HGELS算法)。

7 輔助模型遞階多新息廣義增廣最小二乘算法

根據(jù)多新息辨識(shí)理論,基于AM-HGELS算法(110)～(127),將系統(tǒng)輸出y(t),信息向量)和擴(kuò)展為堆積輸出向量Y(p,t),堆積信息矩陣:

將式(110)和(114)中標(biāo)量新息

擴(kuò)展為新息向量

可以得到估計(jì)AR-BJ系統(tǒng)參數(shù)向量?和ρ的輔助模型遞階多新息廣義增廣最小二乘算法(auxiliary model HMI-GELS algorithm,AM-HMI-GELS算法):

當(dāng)新息長(zhǎng)度p＝1時(shí),AM-HMI-GELS算法退化為AM-HGELS算法(110)～(127)。

AM-HMI-GELS算法(128)～(148)計(jì)算參數(shù)估計(jì)向量的步驟如下。

1)初始化:令t＝1,給定新息長(zhǎng)度p和參數(shù)估計(jì)精度ε。置,,,p0＝106。

2)采集輸入輸出數(shù)據(jù)u(t)和y(t)。用式(139)～(141)構(gòu)造信 息向量和,用 式(138)構(gòu)造信息向量。用式(135)～(137)構(gòu)造堆積輸出向量Y(p,t),堆積信息矩陣和

3)用式(129)計(jì)算新息向量E(p,t),用式(130)和(131)計(jì)算增益向量L1(t)和協(xié)方差陣P1(t)。

5)用式(133)計(jì)算增益向量L2(t),用式(134)計(jì)算協(xié)方差陣P2(t)。

在AM-HMI-GELS算法(128)～(148)中引入加權(quán)因子(加權(quán)矩陣)、遺忘因子,可以得到輔助模型加權(quán)遞階多新息廣義增廣最小二乘算法(AM-WHMI-GELS算法),輔助模型遺忘因子遞階多新息廣義增廣最小二乘算法(AM-FF-HMI-GELS算法),輔助模型加權(quán)遺忘因子遞階多新息廣義增廣最小二乘算法(AM-W-FF-HMI-GELS算法)。

8 多變量系統(tǒng)與多元系統(tǒng)

可以將提出的輔助模型遞階(多新息)遞推辨識(shí)方法推廣用于下列多變量(自回歸)輸出誤差自回歸滑動(dòng)平均系統(tǒng)和多元(自回歸)輸出誤差自回歸滑動(dòng)平均系統(tǒng)。

8.1 多輸入輸出誤差自回歸滑動(dòng)平均(OEARMA)系統(tǒng),即多輸入Box-Jenkins系統(tǒng)

u1(t),u2(t),…,ur(t)為系統(tǒng)的r個(gè)輸入。

8.2 多輸入自回歸輸出誤差自回歸滑動(dòng)平均(AROEARMA)系統(tǒng),即多輸入AR-Box-Jenkins統(tǒng)(包括特殊的多輸入AR-OEMA系統(tǒng)和多輸入AR-OEAR系統(tǒng))

8.3 多變量輸出誤差自回歸滑動(dòng)平均(OEARMA)系統(tǒng),即多變量Box-Jenkins系統(tǒng)[17]

u(t)＝[u1(t),u2(t),…,ur(t)]T∈?r為系統(tǒng)的輸入向量,y(t)＝[y1(t),y2(t),…,ym(t)]T∈?m為系統(tǒng)的輸出向量,v(t)＝[v1(t),v2(t),…,vm(t)]T∈?m為系統(tǒng)的干擾白噪聲向量,汪學(xué)海[18]研究了輔助模型廣義增廣隨機(jī)梯度辨識(shí)方法和輔助模型遞推廣義增廣最小二乘辨識(shí)方法的收斂性,進(jìn)一步可研究輔助模型遞階(多新息)廣義增廣隨機(jī)梯度辨識(shí)方法、輔助模型遞階(多新息)廣義增廣梯度辨識(shí)方法和輔助模型遞階(多新息)廣義增廣最小二乘辨識(shí)方法。

8.4 多變量自回歸輸出誤差自回歸滑動(dòng)平均(AROEARMA)系統(tǒng),即多變量AR-Box-Jenkins系統(tǒng)

8.5 多變量自回歸輸出誤差自回歸滑動(dòng)平均(AROEARMA)系統(tǒng)

y1(t),y2(t),…,ym(t)為系統(tǒng)的m個(gè)輸出,v1(t),v2(t),…,vm(t)為系統(tǒng)的m個(gè)白噪聲,

令u(t)＝[u1(t),u2(t),…,ur(t)]T∈?r為系統(tǒng)輸入向量,y(t)＝[y1(t),y2(t),…,ym(t)]T∈?m為系統(tǒng)輸出向量,v(t)＝[v1(t),v2(t),…,vm(t)]T∈?m為零均值不相關(guān)白噪聲向量,那么上述系統(tǒng)可以等價(jià)寫為

8.6 多元輸出誤差自回歸滑動(dòng)平均(OEARMA)系統(tǒng)和多元自回歸輸出誤差自回歸滑動(dòng)平均

Φ(t)∈?m×n和Φj(t)∈?m×nj都是可測(cè)信息矩陣。

8.7 多變量輸出誤差自回歸滑動(dòng)平均(OEARMA)系統(tǒng)和多元自回歸輸出誤差自回歸滑動(dòng)平均(AR-OEARMA)系統(tǒng)

9 結(jié) 語(yǔ)

針對(duì)自回歸輸出誤差自回歸滑動(dòng)平均(AROEARMA)系統(tǒng),研究和提出了輔助模型遞階(多新息)廣義增廣隨機(jī)梯度算法、輔助模型遞階(多新息)廣義增廣遞推梯度算法、輔助模型遞階(多新息)廣義增廣最小二乘算法。盡管這些輔助模型遞階遞推辨識(shí)方法是針對(duì)有色噪聲干擾下的標(biāo)量輸出誤差隨機(jī)系統(tǒng)提出的,但是其思想可以推廣到有色噪聲干擾下的線性和非線性多變量輸出誤差隨機(jī)系統(tǒng)中[19-32]。