多輸入動態(tài)調節(jié)系統(tǒng)的正交匹配追蹤迭代辨識算法

劉艷君，陶太洋，丁鋒

?

多輸入動態(tài)調節(jié)系統(tǒng)的正交匹配追蹤迭代辨識算法

劉艷君1, 2，陶太洋1, 3，丁鋒1, 2

(1. 江南大學物聯(lián)網(wǎng)工程學院，江蘇無錫，214122；2. 江南大學輕工過程先進控制教育部重點實驗室, 江蘇無錫，214122；3. 河南中光學集團有限公司，河南南陽，473000)

針對含有未知時滯的多輸入單輸出動態(tài)調節(jié)系統(tǒng)，基于過參數(shù)化后系統(tǒng)參數(shù)向量的稀疏特性，在有限測量數(shù)據(jù)下，將壓縮感知理論和遞階迭代思想相結合，提出一種正交匹配追蹤迭代辨識算法。該算法可以辨識多輸入動態(tài)調節(jié)系統(tǒng)的未知時滯、參數(shù)和部分階次。研究結果表明：與最小二乘迭代算法相比，該算法不需要大量的采樣數(shù)據(jù)，可以節(jié)約采樣成本，提高辨識效率。該算法能夠有效地估計這類系統(tǒng)的參數(shù)與時滯。

系統(tǒng)辨識；時滯與參數(shù)估計；壓縮感知；正交匹配追蹤；有限采樣

系統(tǒng)的參數(shù)估計在很多領域如系統(tǒng)辨識[1?3]、自適應控制[4?5]、信號處理[6?7]等得到廣泛應用。常規(guī)的參數(shù)估計算法如最小二乘類算法[8?9]、牛頓迭代算 法[10?11]、隨機梯度算法[12]等需要有充分的采樣數(shù)據(jù)才能保證其辨識性能。時滯現(xiàn)象在過程工業(yè)中普遍存在且對系統(tǒng)的控制精度有較大的影響，因此，系統(tǒng)的時滯估計也非常重要[13?15]。對于具有未知時滯的多輸入動態(tài)調節(jié)系統(tǒng)，系統(tǒng)參數(shù)化后將得到1個高維的參數(shù)向量，若采用常規(guī)辨識方法則需要大量的采樣數(shù)據(jù)，這將耗費大量的辨識成本, 而且當系統(tǒng)時滯較大時可能帶來較大的估計誤差。為此，本文作者將尋求一種在有限采樣數(shù)據(jù)下，能夠有效辨識這類系統(tǒng)時滯與參數(shù)的方法。通常用于控制的系統(tǒng)模型階次較低，參數(shù)化后的系統(tǒng)模型中僅有少量參數(shù)。對于含有未知時滯的系統(tǒng)，若不直接考慮時滯，則參數(shù)化后的系統(tǒng)模型可由一高維參數(shù)向量表示，但該參數(shù)向量中僅有少量的非零參數(shù)且位置未知，這樣的向量稱為稀疏向量，由稀疏向量表示的系統(tǒng)稱為稀疏系統(tǒng)[16]。壓縮感知理論表明: 在一定條件下，稀疏系統(tǒng)可在采樣數(shù)據(jù)量低于系統(tǒng)參數(shù)維數(shù)的情況下實現(xiàn)系統(tǒng)參數(shù)的估計[17?21]。DUMITRESCU等[22]提出一種正交最小二乘算法辨識線性稀疏系統(tǒng)；SANANDAJI等[16]針對含有未知時滯的多輸入單輸出ARX系統(tǒng)采用分塊正交匹配追蹤算法，在有限采樣數(shù)據(jù)下估計系統(tǒng)的參數(shù)和時滯；LIU等[23]針對白噪聲干擾且含有未知時滯的MISO-FIR模型采用閾值正交匹配追蹤算法，在有限的采樣數(shù)據(jù)下估計系統(tǒng)的參數(shù)和時滯。此外，1范數(shù)正則化算法[24]、梯度追蹤算法[25]等也相繼被提出，用于在有限采樣數(shù)據(jù)下辨識系統(tǒng)的參數(shù)和時滯。本文作者將遞階辨識原理和壓縮感知重構理論相結合，研究具有未知時滯的多輸入動態(tài)調節(jié)系統(tǒng)。

1 系統(tǒng)描述與問題提出

多輸入單輸出動態(tài)調節(jié)系統(tǒng)有如下表述形式[26]：

式中：()為系統(tǒng)輸出；u()和d分別為第個通道的輸入和時滯；()為零均值白噪聲；()，B()和()為單位后移算子?1的常系數(shù)多項式(?1()=(?1))，可表示為

其中：階次n和n已知，時滯d和輸入通道的階次n未知。假設當≤0時，()=0，u()=0，()=0。

定義系統(tǒng)的噪聲模型

其中：()為噪聲模型的輸出，是不可測的內部變量。

定義

(4)

；

；

；

；

；

；

其中：為輸入數(shù)據(jù)回歸長度，滿足＞＞；為含有個零元素的零塊。

系統(tǒng)模型(1)可寫為

(5)

當=1，2，…，時，可獲得組測量數(shù)據(jù)。定義

則辨識模型(5)可寫為如下形式：

(6)

若輸入信號持續(xù)激勵，則參數(shù)向量的估計值可由如下最小二乘迭代(LSI)算法得到[13, 27?28]：

；

；

其中：為與時間無關的迭代變量。上述算法要獲得良好的參數(shù)估計，采樣數(shù)據(jù)量需滿足＞＞。由于參數(shù)向量的維數(shù)很大，因此，LSI算法辨識系統(tǒng)(1)需要大量的采樣數(shù)據(jù)，將耗費較高的采樣成本。

由于參數(shù)向量具有稀疏特性，受壓縮感知重構理論啟發(fā)，對上述LSI算法加以改進，使得在有限采樣數(shù)據(jù)量下，可以有效地估計系統(tǒng)參數(shù)和時滯。

2 正交匹配追蹤迭代算法

辨識模型(6)中，參數(shù)向量為稀疏向量。由式(4)可知，參數(shù)向量的稀疏度為[29]

很明顯稀疏度＜＜。若輸入u()持續(xù)激勵，則根據(jù)壓縮感知理論，式(6)在有限采樣數(shù)據(jù)下的辨識問題即為如下最小零范數(shù)約束求解問題[21, 29]：

(7)

式中：為設定的允許誤差。

根據(jù)壓縮感知重構理論，在有限的采樣數(shù)據(jù)下，即當＜時，式(7)可以通過正交匹配追蹤(OMP)算法求解。由于中間變量?(?)未知，導致信息矩陣中含有許多未知項，使得OMP算法不能直接應用。為解決這一問題，借鑒上述LSI算法中的遞階迭代辨識思想：在第次迭代時,未知項?(?)用前一次迭代的估計值代替。換句話說，就是把OMP算法嵌套于迭代算法中。

在第次迭代時，定義

(9)

由式(10)可知：輸出向量可以表示為信息矩陣各列的線性組合加上白噪聲項的形式。由于參數(shù)向量的稀疏性，式(10)等號的右邊只有少量的非零項。OMP算法的主要思想就是將這些非零項逐個挑選出來，并對這些非零項參數(shù)進行估計。由于OMP算法每次只選出一個非零項，與LSI算法相比，OMP算法只需要較少的測量數(shù)據(jù)量。

在第次迭代時，將式(6)中的用代替，表示信息矩陣的第列。OMP算法是一種離線的迭代算法，令(為OMP算法的迭代變量)。在第次迭代中的第次OMP迭代，定義準則函數(shù)

(12)

由式(12)對求導并令其為0，可得

將回代入式(12)可得

(13)

(15)

(17)

為抑制噪聲對參數(shù)估計誤差的影響，本文通過設定1個很小的閾值H=對每次估計的進行濾波。令為中的第個參數(shù)，若，則令，濾波后的估計值記為，并由和更新殘差[23, 29]：

(19)

(21)

正交匹配追蹤迭代(OMPI)算法的具體實施步驟如下。

(22)

3 仿真例子

考慮含有時滯的五輸入單輸出動態(tài)調節(jié)系統(tǒng)：

輸入通道的時滯分別為1=9，2=23，4=29，5=17，取數(shù)據(jù)回歸長度=40。系統(tǒng)的參數(shù)向量為。系統(tǒng)參數(shù)向量的維數(shù)，稀疏度為。

仿真時，u()采用零均值單位方差不相關可測隨機信號，()采用方差為2的零均值白噪聲。取數(shù)據(jù)長度=150。當噪聲方差為2=0.102時，分別采用LSI算法和OMPI算法估計系統(tǒng)參數(shù)，并使用相同的閥值對LSI的參數(shù)估計值予以濾波，參數(shù)估計相對誤差隨迭代次數(shù)的變化曲線如圖1所示。另外，當噪聲方差分別為2=0.102和2=0.502時，采用OMPI算法估計該系統(tǒng)參數(shù)，估計誤差隨迭代次數(shù)的變化如圖2所示。

1—LSI；2—OMPI。

σ2：1—0.102；2—0.502。

當2=0.102時，OMPI算法得到的參數(shù)估計為

(23)

(24)

綜合圖1、圖2和式(23)、(24)有以下結論：

1) 該稀疏系統(tǒng)在有限采樣數(shù)據(jù)量下，OMPI算法的參數(shù)辨識精度明顯比LSI算法的高。

2) 當噪聲方差2=0.502時，OMPI算法的估計精度略低于2=0.102時的估計精度，且所需要的迭代次數(shù)也略多于2=0.102時的次數(shù)，說明OMPI算法適用于噪聲水平不太高的場合。

3) OMPI算法不僅能夠有效估計系統(tǒng)的參數(shù)，而且能有效地估計系統(tǒng)的未知時滯d以及部分階次。

4 結論

1) 研究具有未知時滯的多輸入單輸出動態(tài)調節(jié)模型的時滯估計和參數(shù)辨識問題。結合遞階迭代辨識思想和正交匹配追蹤算法，提出一種正交匹配追蹤迭代算法。

2) 該算法可以同時估計系統(tǒng)的參數(shù), 未知時滯以及系統(tǒng)中的部分階次。此外，該算法不需要大量的采樣數(shù)據(jù)，因而可以節(jié)約辨識實驗中采樣成本，提高了辨識效率。仿真結果證明該算法是有效的。

[1] S?DERSTR?M T. A generalized instrumental variable estimation method for errors-in-variables identification problems[J]. Automatica, 2011, 47(8): 1656?1666.

[2] DING Feng, DUAN Honghong. Two-stage parameter estimation algorithms for Box-Jenkins systems [J]. IET Signal Processing, 2013, 7(8): 646?654.

[3] DING Feng, LIU Ximei, CHEN Huibo, et al. Hierarchical gradient based and hierarchical least squares based iterative parameter identification for CARARMA systems [J]. Signal Processing, 2014, 97: 31?39.

[4] SHEN Yi, LIU Lijun, DOWELL E H. Adaptive fault-tolerant robust control for a linear system with adaptive fault identification[J]. IET Control Theory and Applications, 2013, 7(2): 246?252.

[5] KELOUWANI S, ADEGNON K, AGBOSSOU K, et al. Online system identification and adaptive control for PEM fuel cell maximum efficiency tracking[J]. IEEE Transactions on Energy Conversion, 2012, 27(3): 580?592.

[6] PHILLIP F. Pulse signal and source identification using fuzzy-neural techniques [J]. IEEE Aerospace and Electronic Systems Magazine, 2013, 28(1): 22?33.

[7] SHI Yang, FANG Huazhen. Kalman filter based identification for systems with randomly missing measurements in a network environment [J]. International Journal of Control, 2010, 83(3): 538?551.

[8] LIU Yanjun, DING Feng. Convergence properties of the least squares estimation algorithm for multivariable systems [J]. Applied Mathematical Modelling, 2013, 37(1/2): 476?483.

[9] LIU Yanjun, DING Feng, SHI Yang. Least squares estimation for a class of non-uniformly sampled systems based on the hierarchical identification principle [J]. Circuits, Systems and Signal Processing, 2012, 31(6): 1985?2000.

[10] DING Feng, MA Junxia, XIAO Yongsong. Newton iterative identification for a class of output nonlinear systems with moving average noises [J]. Nonlinear Dynamics, 2013, 74(1/2): 21?30.

[11] LI Junhong, DING Feng, HUA Liang. Maximum likelihood Newton recursive and the Newton iterative estimation algorithms for Hammerstein CARAR systems [J]. Nonlinear Dynamics, 2014, 75(1/2): 235?245.

[12] DING F, LIU Xingao, CHU Jian. Gradient-based and least-squares- based iterative algorithms for Hammerstein systems using the hierarchical identification principle [J]. IET Control Theory and Applications, 2013, 7(2): 176?184.

[13] 丁鋒. 系統(tǒng)辨識新論[M]. 北京: 科學出版社, 2013: 199?220. DING Feng. System identification-new theory and methods [M]. Beijing: Science Press, 2013: 199?220.

[14] 王貞, 吳斌. 基于最小二乘法的時滯實時在線估計方法[J]. 振動工程學報, 2009, 22(6): 625?631. WANG Zhen, WU Bin. A real-time approach to delay estimation based on the Least-Square algorithm [J]. Journal of Vibration Engineering, 2009, 22(6): 625?631.

[15] 王建宏, 王道波, 王志勝. 多個未知時延的MISO系統(tǒng)的遞推辨識[J]. 控制與決策, 2010, 25(1): 93?98. WANG Jianhong, WANG Daobo, WANG Zhisheng. Recursive identification of MISO systems with multiple unknown time delays [J]. Control and Decision, 2010, 25(1): 93?98.

[16] SANANDAJI B M, VINCENT T L, WAKIN M B, et al. Compressive system identification of LTI and LTV ARX models [C]//Proceedings of the 50th IEEE Conference on Decision and Control and European Control Conference (CDC-ECC). Orlando, Florida, USA, 2011: 791?798.

[17] DONOHO D L. Compressed sensing [J]. IEEE Transactions on Information Theory, 2006, 52(4): 1289?1306.

[18] CANDèS E J. Robust uncertainty principles: Extra signal reconstruction from highly frequency information [J]. IEEE Transactions on Information Theory, 2006, 52(2): 489?509.

[19] CANDèS E J, ROMBERG J R, TAO T. Stable signal recovery from incomplete and inaccurate measurements [J]. Communications on Pure and Applied Mathematics, 2006, 59(8): 1207?1223.

[20] CANDèS E J, WAKIN M B. An introduction to compressive sampling [J]. IEEE Signal Processing Magazine, 2008, 25(2): 21?30.

[21] TROPP J A. Greed is good: algorithmic results for sparse approximation [J]. IEEE Transactions on Information Theory, 2004, 50(10): 2231?2242.

[22] DUMITRESCU B, ONOSE A, HELIN P, et al. Greedy sparse RLS [J]. IEEE Transactions on Signal Processing, 2012, 60(5): 2194?2207.

[23] LIU Yanjun, TAO Taiyang. A CS recovery algorithm for model and time-delay identification of MISO-FIR systems [J]. Algorithms, 2015, 8(3): 743?753.

[24] TóTH R, SANANDAJI B M, POOLLA K, et al. Compressive system identification in the linear time-invariant framework [C]//Proceedings of the 50th IEEE Conference on Decision and Control and European Control Conference (CDC-ECC). Orlando, Florida, USA, 2011: 783?790.

[25] BLUMENSATH T, DAVIES M E. Gradient Pursuits [J]. IEEE Transactions on Signal Processing, 2008, 56(6): 2370?2382.

[26] 丁鋒. 系統(tǒng)辨識(2): 系統(tǒng)描述的基本模型[J]. 南京信息工程大學學報(自然科學版), 2011, 3(2): 97?117. DING Feng. System identification (Part B): basic models for system description [J]. Journal of Nanjing University of Information Science & Technology (Natural Science Edition), 2011, 3(2): 97?117.

[27] LI Xiangli, DING Ruifeng, ZHOU Lincheng. Least squares based iterative identification algorithm for Hammerstein nonlinear systems with non-uniform sampling [J]. International Journal of Computer Mathematics, 2013, 90(7): 1524?1534.

[28] WANG Dongqin, DING Feng. Least squares based and gradient based iterative identification for Wiener nonlinear systems [J]. Signal Processing, 2011, 91(5): 1182?1189.

[29] ELAD M. Sparse and redundant representions: From theory to applications in signal and image processing [M]. New York: Springer-Verlag, 2010: 20?62.

(編輯 陳愛華)

Parameter and time-delay estimation for MISO dynamic adjustment systems based on orthogonal matching pursuit iterative algorithm

LIU Yanjun1, 2, TAO Taiyang1, 3, DING Feng1, 2

(1. School of Internet of Things Engineering, Jiangnan University, Wuxi 214122, China;2. Key Laboratory of Advanced Process Control for Light Industry (Ministry of Education),Jiangnan University, Wuxi 214122, China;3. Henan Costar Group Company Limited, Nanyang 473000, China)

For multiple-input dynamic adjustment systems with unknown time delays, based on the characteristics of sparsity of the over parameterized parameter vector, and by combining the orthogonal matching pursuit algorithm with the hierarchical iterative idea, an orthogonal matching pursuit iterative (OMPI) identification algorithm was presented. This algorithm can estimate the parameters, time delays and some of the orders of the multiple-input dynamic adjustment systems with limited sampled data. The results show that the proposed method can effectively reduce the measuring cost, and improve the identification efficiency since it requires only a small number of sampled data compared to conventional identification methods such as the least square iterative (LSI) method. The proposed algorithm can effectively estimate the parameters and time delays of such sparse systems.

system identification; parameter and time delays estimation; compressed sensing; orthogonal matching pursuit algorithm; limited sampled data

10.11817/j.issn.1672?7207.2017.02.017

TP273

A

1672?7207(2017)02?0389?06

2016?04?05；

2016?07?25

國家自然科學基金資助項目(61304138)；江蘇省自然科學基金資助項目(BK20130163)(Project(61304138) supported by the National Natural Science Foundation of China; Project(BK20130163) supported by the Natural Science Foundation of Jiangsu Province, China)

劉艷君，博士，副教授，從事系統(tǒng)辨識、自適應控制等研究；E-mail：yanjunliu_1983@126.com