基于二次規(guī)劃的量化隨機(jī)非線性系統(tǒng)在線辨識(shí)

楊仕旗，王宏偉，2，李昊哲，郭明霄

(1. 新疆大學(xué)電氣工程學(xué)院，新疆 烏魯木齊 830047； 2. 大連理工大學(xué)控制科學(xué)與工程學(xué)院，遼寧 大連 116024)

1 引言

隨著網(wǎng)絡(luò)技術(shù)和遠(yuǎn)程傳輸?shù)陌l(fā)展，數(shù)據(jù)的量化變得尤為重要。系統(tǒng)輸出值的量化在數(shù)據(jù)處理中應(yīng)用廣泛，特別是在信號(hào)處理中。例如，網(wǎng)絡(luò)控制系統(tǒng)和傳感器網(wǎng)絡(luò)等。數(shù)據(jù)通常被量化以最小化通信資源的利用。量化的主要目的是為了減少信道中需要傳輸?shù)男畔⒖偭浚?jié)約通訊資源。但是經(jīng)過量化后的數(shù)據(jù)，所包含的系統(tǒng)信息會(huì)產(chǎn)生部分缺失，導(dǎo)致系統(tǒng)性能降低。缺失的程度由量化方式和量化層級(jí)決定。對(duì)于量化系統(tǒng)辨識(shí)，輸出信息的不準(zhǔn)確使得辨識(shí)變的更加困難。目前對(duì)量化線性系統(tǒng)辨識(shí)的研究主要有，王穎等利用分布式參數(shù)辨識(shí)的方法研究了線性定常離散時(shí)間量化系統(tǒng)的問題；Xiao等采用線性系統(tǒng)的遞歸估計(jì)和量化閾值的方法研究了具有量化輸出的線性系統(tǒng)辨識(shí)問題；Wang等學(xué)者提出了基于二次規(guī)劃的方法用于研究線性有限脈沖響應(yīng)量化系統(tǒng)。

工業(yè)中大多數(shù)系統(tǒng)都是非線性的，常用的非線性系統(tǒng)模型是Hammerstein模型。對(duì)于非線性模型辨識(shí)，文獻(xiàn)[11]利用輔助模型辨識(shí)原理對(duì)不可測(cè)變量進(jìn)行估計(jì)，并提出遞歸估計(jì)算法估計(jì)死區(qū)函數(shù)和模型參數(shù)；文獻(xiàn)[12]針對(duì)了Hammerstein有限脈沖響應(yīng)參數(shù)估計(jì)問題，提出了一種基于數(shù)據(jù)濾波的多新息擴(kuò)展隨機(jī)梯度算法；Wang等利用關(guān)鍵項(xiàng)分離原理和輔助模型多新息方法將系統(tǒng)輸出表示為參數(shù)的線性組合，研究了Hammerstein系統(tǒng)的辨識(shí)問題；文獻(xiàn)[14]采用一種改進(jìn)的多新息梯度算法來辨識(shí)帶有間隙的Wiener-Hammerstein系統(tǒng)；文獻(xiàn)[15]利用Wiener基函數(shù)解決非線性辨識(shí)問題。對(duì)于量化非線性系統(tǒng)，謝林柏等利用隨機(jī)重復(fù)性試驗(yàn)數(shù)據(jù)，提出基于輔助模型的多新息量化辨識(shí)方法；Guo Jin等學(xué)者研究了具有量化輸入和二值輸出觀測(cè)值Wiener系統(tǒng)的辨識(shí)問題。

一般量化非線性系統(tǒng)含有有色噪聲，關(guān)于量化系統(tǒng)的文獻(xiàn)基本都是離線方式完成的。本文提出了基于二次規(guī)劃的量化隨機(jī)非線性系統(tǒng)的在線辨識(shí)方法。主要特點(diǎn)：①對(duì)非線性量化系統(tǒng)進(jìn)行在線辨識(shí)；②利用二次規(guī)劃的KKT定理證明收斂性；③算法對(duì)噪聲抗干擾能力強(qiáng)。

2 問題提出

圖1 Hammerstein有限脈沖響應(yīng)量化系統(tǒng)

()和()可以描述為

()=++…+-

()=1+++…+-

(1)

其中，為后移算子，表示為()=(-1)。

一般，非線性部分(·)可以描述為

(2)

其中，，，…，為一組已知的基函數(shù)，，，…，為系數(shù)。

由式(1)和式(2)得Hammerstein有限脈沖響應(yīng)量化系統(tǒng)模型可表示為

(3)

()=()()

將模型(3)中()改寫為

(4)

=[，，…，]∈

=[，，…，]∈

(5)

且=[，，…，]∈。

(6)

因此，模型可以改寫為

(7)

給定量化輸出值()，輸入值()和量化規(guī)則[·]，目的是為了辨識(shí)未知參數(shù)，這里假設(shè)此量化系統(tǒng)的，，是已知的。

系統(tǒng)輸出量化的基本思想是將輸出信號(hào)在數(shù)學(xué)上劃分成有限個(gè)不重疊的區(qū)域，在每個(gè)區(qū)域上指定一個(gè)量化值。將量化規(guī)則按等距離分割的量化稱為均勻量化。例如，模數(shù)轉(zhuǎn)換器通常都是均勻量化器。量化過程如圖2所示。

圖2 均勻量化過程

圖2中信號(hào)量化值取相鄰兩個(gè)量化區(qū)間的中間值。實(shí)際輸出()經(jīng)過均勻量化器后變?yōu)榱炕敵?)。

本文采用標(biāo)量均勻量化器，系統(tǒng)的輸出值()為量化器的輸入值。對(duì)任意的>0表達(dá)式為

(8)

其中，量化參數(shù)ε為給定的任意整數(shù)。對(duì)于Hammstein有限脈沖響應(yīng)量化系統(tǒng)，通過分析可以看作是Hammerstein-Wiener系統(tǒng)。

3 二次規(guī)劃辨識(shí)

對(duì)于任何的量化輸出觀測(cè)值()和系統(tǒng)輸出()滿足

(())≤()≤(())

(9)

其中和是量化輸出()在量化規(guī)則[·]下所對(duì)應(yīng)的已知函數(shù)。當(dāng)量化器規(guī)則[·]按式(8)所示，則有

()-05≤()≤()+05

(10)

參數(shù)辨識(shí)的目的是盡可能的使()=()-的值小。故取性能指標(biāo)函數(shù)為

=min[()-]

(11)

當(dāng)輸出值為個(gè)時(shí)，式(11)可轉(zhuǎn)化為帶約束條件的二次規(guī)劃問題，即

(12)

其中=1，2，…，。

令

(13)

其中=1，2，…，。

針對(duì)式(12)中未知參數(shù)的估計(jì)，將式(12)轉(zhuǎn)化為標(biāo)準(zhǔn)的二次規(guī)劃形式如下

(14)

其中，為×的單位矩陣。()是由信息向量組成的矩陣，該矩陣由系統(tǒng)輸入()和噪聲輸入()來決定。定義()的上下界分別為()、()。

令

(15)

這樣對(duì)求原系統(tǒng)參數(shù)估計(jì)值的問題，就轉(zhuǎn)換成求如下二次規(guī)劃最優(yōu)解的問題。

s.t.()≤()≤()，=1，2，…，

(16)

為了更清晰的了解本文算法過程，現(xiàn)將整個(gè)算法總結(jié)如下

Step 2：計(jì)算()、()、()、()和()；

Step 3：化成標(biāo)準(zhǔn)的二次型形式(16)，求出最優(yōu)解；

Step 4： 如果=，為總的采樣次數(shù)，執(zhí)行Step 5；否則，=+1轉(zhuǎn)到Step 2；

4 二次規(guī)劃理論分析

在式(14)中()∈(++)×(++)，不難判斷()為半正定矩陣。因?yàn)?)矩陣的秩不完全都大于。因此式(16)中二次規(guī)劃問題是凸規(guī)劃問題，但并不是嚴(yán)格凸的，可能存在局部解。接下來，給出式(16)取得唯一解的條件。

假設(shè)矩陣()∈(+)×的列為滿秩。對(duì)其進(jìn)行分解

(17)

酉矩陣為[]，∈(+)×，∈(--)×，∈(+)×(+)為非奇異矩陣。

定理1：若矩陣()進(jìn)行分解后酉矩陣[]滿足如下條件：

1矩陣()∈(+)×為列滿秩。

2集合滿足：

3式(17)中的任意一列元素不全為零，任意一行元素也不全為零。

定理1證明過程與文獻(xiàn)[10]類似，此處略。下面給出定理2。

定理2：若對(duì)于Hammerstein有限脈沖響應(yīng)量化系統(tǒng)滿足如下條件：

1信息向量()滿足定理1的三個(gè)條件。

2誤差()和信息向量()是平穩(wěn)遍歷隨機(jī)過程，且信息向量()有界。

3滿足統(tǒng)計(jì)條件[()]=0，[()]<+∞，[()()]<+∞，[()()]=0，其中表示數(shù)學(xué)期望。

下面用類似于文獻(xiàn)[10]的方法證明定理2。

證：設(shè)為Hammerstein有限脈沖響應(yīng)量化系統(tǒng)的真實(shí)參數(shù)向量，則未經(jīng)量化的系統(tǒng)實(shí)際輸出為()。則式(7)可以變?yōu)?/p>

()=()+()

(18)

設(shè)式(13)中()和()為任意一個(gè)確定采樣次數(shù)下的參數(shù)向量，定義式(16)帶約束條件的拉格朗日函數(shù)如下

(19)

其中，()和()是=1，2，…，的拉格朗日乘子?？紤]拉格朗日乘子的特殊值

(20)

(21)

(22)

式(22)為()在≠時(shí)的集合，則有

(23)

根據(jù)定理2中的條件2，()有界，式(20)和式(21)，可以得到

(24)

因此

(25)

接下來討論的偏導(dǎo)數(shù)。根據(jù)式(18)、式(20)和式(21)，可得

(26)

假設(shè)條件2和條件3成立，則對(duì)于任意的有

(-)[()()](-)+()

(27)

對(duì)式(27)求關(guān)于的偏導(dǎo)

(28)

即

(29)

5 仿真實(shí)例

考慮如下系統(tǒng)

(30)

其中()為零均值單位方差的隨機(jī)信號(hào)序列。()為零均值和方差為01的高斯白噪聲序列。系統(tǒng)輸出()被量化器[·]量化，量化規(guī)則為式(8)。、為待辨識(shí)的參數(shù)。取=1。=[1 -2 05 -1 02 -04 05]，=[05]。假設(shè)待辨識(shí)參數(shù)的上下界分別取150、-150，則有-150≤、≤150。利用本文給出的方法來估計(jì)這些參數(shù)。

圖3 k=2000，σ2=0.1時(shí)參數(shù)估計(jì)結(jié)果圖

圖4 k=2000，σ2=0.1時(shí)跟蹤誤差圖

圖3和圖4分別是=2000，=01參數(shù)估計(jì)結(jié)果圖和跟蹤誤差圖。為了更直觀的反映辨識(shí)過程，在采樣次數(shù)分別取100、500、1000、2000時(shí)，各辨識(shí)參數(shù)的估計(jì)值和估計(jì)誤差記錄于表1中。

表1 不同采樣次數(shù)下的辨識(shí)效果

圖3、圖4和表1中k為采樣次數(shù)，δ為估計(jì)誤差。其中δ的計(jì)算方式如下

(31)

由圖3、圖4和表1可見，參數(shù)很快就收斂到真實(shí)值附近，且隨著采樣次數(shù)的增加，估計(jì)誤差不斷減少，更接近真實(shí)值。

定義噪信比為。對(duì)于此系統(tǒng)噪聲的方差與噪信比的對(duì)應(yīng)關(guān)系如表2所示

表2 不同噪聲方差與噪信比的對(duì)應(yīng)關(guān)系表

為了減少隨機(jī)性，在不同噪聲方差輸入下，分別做1000次獨(dú)立重復(fù)試驗(yàn)，統(tǒng)計(jì)其誤差特性。圖5到圖9分別是噪聲方差σ=0.1，0.5，2，5，8，k=2000時(shí)的統(tǒng)計(jì)結(jié)果。定義獨(dú)立重復(fù)實(shí)驗(yàn)估計(jì)誤差的分布范圍(EDR)與均值(AV)。不同噪聲方差對(duì)應(yīng)下的EDR和AV如表3所示。

圖5 σ2=0.1獨(dú)立實(shí)驗(yàn)的統(tǒng)計(jì)結(jié)果

圖6 σ2=0.5獨(dú)立實(shí)驗(yàn)的統(tǒng)計(jì)結(jié)果

表3 誤差分布范圍EDR和平均值A(chǔ)V

圖7 σ2=2獨(dú)立實(shí)驗(yàn)的統(tǒng)計(jì)結(jié)果

圖8 σ2=5獨(dú)立實(shí)驗(yàn)的統(tǒng)計(jì)結(jié)果

圖9 σ2=8獨(dú)立實(shí)驗(yàn)的統(tǒng)計(jì)結(jié)果

圖10 不同噪信比下獨(dú)立重復(fù)實(shí)驗(yàn)統(tǒng)計(jì)結(jié)果

圖5到圖9中數(shù)據(jù)越集中在左側(cè)0附近辨識(shí)效果越好。當(dāng)噪聲方差為0.1時(shí)，1000次獨(dú)立重復(fù)實(shí)驗(yàn)整個(gè)輸出誤差分布最靠近左側(cè)。

表3中獨(dú)立重復(fù)實(shí)驗(yàn)估計(jì)誤差的分布范圍與平均誤差隨輸入噪聲方差的增大而增大，當(dāng)噪聲方差為8時(shí)，統(tǒng)計(jì)的平均誤差為5.83%。圖10為不同噪信比下輸出誤差的分布特性。由觀察發(fā)現(xiàn)，在圖5到圖10和表3中，隨著噪信比的增大，雖然估計(jì)值誤差的分布范圍和平均值也在增大，但是在噪信比為77.1%時(shí)，仍能保證具有較好的準(zhǔn)確性，可見本文給出的方法對(duì)噪聲有一定的抗干擾能力。

為了說明本文所用方法的有效性，將其與文獻(xiàn)[19]的方法比較。文獻(xiàn)[19]采用了輔助模型的遞推最小二乘辨識(shí)方法。取=2000、=01，分別做1000次獨(dú)立重復(fù)試驗(yàn)，統(tǒng)計(jì)其辨識(shí)效果。各辨識(shí)參數(shù)和估計(jì)誤差分別取1000次實(shí)驗(yàn)的平均值和均方差，將統(tǒng)計(jì)結(jié)果記錄在表4中。

表4 不同算法統(tǒng)計(jì)結(jié)果

通過對(duì)比發(fā)現(xiàn)，有限脈沖響應(yīng)量化系統(tǒng)，若采用輔助模型的遞推最小二乘時(shí)辨識(shí)效果較差，特別是對(duì)含有色噪聲項(xiàng)的參數(shù)部分，偏差較大。而本文給出的方法不僅精度更高，而且在較小的采樣次數(shù)下就能達(dá)到較為滿意的估計(jì)結(jié)果。

6 結(jié)論

本文針對(duì)帶有色噪聲的非線性有限脈沖響應(yīng)量化系統(tǒng)的在線辨識(shí)問題，采用了一種基于二次規(guī)劃的方法。通過仿真實(shí)例，給出不同仿真步長(zhǎng)、不同噪聲方差輸入下的辨識(shí)結(jié)果和不同算法的對(duì)比實(shí)驗(yàn)，發(fā)現(xiàn)其具有收斂快、精度高和對(duì)噪聲抗干擾能力強(qiáng)的優(yōu)點(diǎn)。在實(shí)際的工程實(shí)踐中，存在著大量的非線性模型，采用的量化器也是不同的。對(duì)數(shù)量化器因其具有更符合實(shí)際工業(yè)過程和更好的反應(yīng)大小信號(hào)的量化方式而被提出，其量化間隔是非均勻的，且隨著輸入信號(hào)的增大，量化誤差也隨之增大。目前關(guān)于辨識(shí)中采用對(duì)數(shù)量化器的研究主要是線性系統(tǒng)的量化，而非線性系統(tǒng)的對(duì)數(shù)量化則是一個(gè)難點(diǎn)，對(duì)其研究仍然較少，這也是下一步要研究的方向。