基于UD矩陣分解的模糊建模算法及收斂性分析

王 佳, 王宏偉, 顧 宏

(大連理工大學控制科學與工程學院,遼寧大連 116024)

0 引 言

實際過程中存在的大量非線性系統(tǒng),有時可以用線性模型描述,但這僅僅是一種近似或者只限于在某一范圍內(nèi)成立.一般來說,在整個操作域中用非線性模型才能對非線性過程給予適當?shù)拿枋?基于模糊集合的模糊模型,利用模糊推理規(guī)則描述復雜、病態(tài)、非線性系統(tǒng)是一種有效方法.模糊聚類是常用的模糊模型結(jié)構(gòu)確定方法,其中心思想是設定合理的聚類指標,根據(jù)該指標所確定的聚類中心可使模糊輸入空間達到優(yōu)化.模糊聚類法主要有模糊C均值方法及各種改進的模糊C均值方法[1～3].對于各種模糊聚類算法而言,需要解決以下幾個問題:(1)聚類規(guī)則數(shù)一般是預先給定的,不能說明規(guī)則數(shù)多少對于描述系統(tǒng)是最優(yōu)的;(2)聚類過程計算量較大,不適合于在線建模與控制;(3)聚類結(jié)果往往受初值等參數(shù)影響較大,容易陷入局部極小值點;(4)在基于模糊模型的建模過程中,如果聚類效果不好,則使各類之間存在線性相關(guān)性;(5)在工程實際應用中,噪聲和干擾的存在,以及變量之間的耦合,使輸入變量之間存在線性相關(guān)性[4、5].如何找到這些規(guī)則,化簡規(guī)則,壓縮模糊模型的輸入空間是模糊建模的關(guān)鍵問題.

本文提出一種可用于非線性系統(tǒng)模糊建模中結(jié)構(gòu)確定和參數(shù)估計的新方法.首先,通過GK模糊聚類確定模型結(jié)構(gòu).然后,通過目標函數(shù)與參數(shù)估計一起進行遞推計算,進而實現(xiàn)對模糊模型結(jié)構(gòu)簡化,刪除冗余規(guī)則,同時進行模型參數(shù)的估計,并證明提出算法的收斂性.最后,將M ackey-Glass混沌時間序列預測作為仿真實例,分別將本文的方法與其他文獻中提出的方法進行比較,以證明本文方法的有效性.

1 模糊模型結(jié)構(gòu)的確定

一個多輸入多輸出(M IMO)系統(tǒng)P(U,Y),U∈RM,Y∈Rq,可以分解成q個多輸入單輸出(MISO)系統(tǒng).這里僅討論M ISO系統(tǒng),形式如下:

其中 Ri表示第i條規(guī)則;Z是輸入向量,Z=(x1x2 …xM)TRM;Zi是第i條規(guī)則的中心向量,是第i條規(guī)則的隸屬度函數(shù),μi(k)表示第k個樣本在第i條規(guī)則里的隸屬度,滿足為總規(guī)則數(shù);θi是后件參數(shù).

模型(1)的整體輸出為

式中 :H=(φ1 φ2 … φc),φi=(μi(1)μi(2) … μi(N))T,i=1,2…,c,簡記為H=(μi(k))N×c, Ψ=(θ1 θ2 … θc)T.

根據(jù)最小二乘法有

其中y(k)表示第k次實際輸出,Y=(y(1)y(2) …y(k) …y(N))T.

2 模糊模型的簡化和數(shù)據(jù)壓縮

2.1 問題的提出

若用最小二乘法解式(3)超定方程求解模型的參數(shù),需要解決以下幾個問題:

(1)在工程實際應用中,噪聲和干擾的存在以及變量之間的耦合,使輸入變量之間存在線性相關(guān)性;

(2)在基于模糊模型的建模過程中,往往采用聚類的方法,但是如果聚類效果不好,易使各類之間存在線性相關(guān)性;

(3)為了提高建模精度而增加變量數(shù)量時,Ψ、H、Y的維數(shù)也相應增加,將涉及到如何降低在求解線性方程組時由于計算機有限字長而引起的計算誤差.計算誤差在建模中會引起建模精度下降.理論上收斂的算法在實際應用中可能會發(fā)散.

對于(1)、(2)兩個問題,會使HTH形成奇異矩陣,即使不是奇異矩陣,但由于HTH存在著近似為零的特征值, Ψ的估計變得不可信,因此必須對模糊模型進行簡化.對模糊模型(1)來說,它的參數(shù)向量總含有一些對建模貢獻非常小的元素,可以近似地認為其值為零.如果在辨識參數(shù)向量之前,確定出這些元素所在的位置,并將它們刪除,然后重構(gòu)模型(1),這樣既降低了式(1)的維數(shù),又有利于降低計算量和提高辨識精度,同樣也就解決了問題(3).

2.2 基于目標函數(shù)的模型結(jié)構(gòu)和參數(shù)確定

對于模糊模型(1)而言,如何確定規(guī)則數(shù),保留重要規(guī)則和刪除對建模貢獻小的規(guī)則,成為模糊建模的關(guān)鍵問題.為了解決這個問題,首先分別設定不同的規(guī)則數(shù)m(m

如果Jm小,表示擬合得好,設定的規(guī)則數(shù)比較合適;如果Jm大,說明擬合得不好,設定的規(guī)則數(shù)不符合待辨識系統(tǒng).一般地,目標函數(shù)的值總是隨階次的增大而減小,不過當設定的階等于或大于系統(tǒng)的真實階后,目標函數(shù)的值隨階次的增大而明顯下降,這就是所謂的“過擬合”.下面介紹基于目標函數(shù)的模型結(jié)構(gòu)與參數(shù)一體化確定方法.

對于模型(1),假設 φ1,φ2,…,φm已通過分析方法選入模型,現(xiàn)在考慮 φm+1,φm+2,…,φc的選入與剔除問題.

根據(jù)目標函數(shù)式(4),有

若將φm+1選入模型,則有

式中: θm+1(l+1)為待估計的參數(shù);φm+1=(μm+1(1) μm+1(2) … μm+1(N))T;l為模型的優(yōu)化次數(shù).

對矩陣HTmHm進行UD矩陣分解,則有

從而得出

另外,還有

由式(6)和(11)可得

此時目標函數(shù)為

上式可簡化為

對于事先選定的Jm in,若ΔJ≥Jm in則選入φm+1,否則剔除.

2.3 結(jié)構(gòu)和參數(shù)一體化在線辨識算法

將2.2的公式推導過程整理,得到遞推辨識方法如下:

Step 1 首先,采用GK模糊聚類算法確定μi(k)(i=1,2,…,c;k=1,2,…,N),則所有待選變量為 φi(i=1,2,…,c),φi=(μi(1) μi(2)… μi(N))T.

Step 2 在φi(i=1,2,…,c)中,根據(jù)經(jīng)驗選取其中某一個φi作為初始變量,并對模型中的有關(guān)參數(shù)進行辨識,當辨識步數(shù)足夠時,再進行模型辨識.

Step 3 利用式(12)分別求得 θm+1、 Ψm(l+1),由式(15)計算 ΔJ1.若 ΔJ1

Step 5 利用式(12)分別求得 θm+2(l+2)、Ψm+2(l+2),由式(15)計算 ΔJ2.若 ΔJ2

依此下去,若連續(xù)c次剔除所選量,則停止選擇,即可得到系統(tǒng)模型.

3 算法收斂性分析

定理1 對于模型(1)的辨識遞推算法,式(12)給出的參數(shù)估計值 Ψ是一致收斂的.

證明 若將 φm+1選入模型,考慮 Ψm(l+1)對真值的收斂性問題.

根據(jù)式(7)和(9)可得

另外,根據(jù)式(6),可得

這樣得到

根據(jù)式(12),可得

根據(jù)式(16)和(18),上式變?yōu)?/p>

令 Ψm為結(jié)構(gòu)中前m個參數(shù)的真值,那么真值 Ψm與參數(shù)估計值 Ψm的誤差為 Ψm(l)=Ψm-Ψm(l), Ψm(l+1)= Ψm- Ψm(l+1),這樣就有

假設系統(tǒng)的實際結(jié)構(gòu)為m+L,模型的真實參數(shù)為θi(i=1,2,…,m+L),這樣系統(tǒng)可以表示為

那么,式(20)變?yōu)?/p>

式(23)經(jīng)過整理有

其中m(l+1)為對于誤差 Ψm(l)的無關(guān)項.

下面討論差分方程(25)形如x(k+1)=A(k)x(k)的穩(wěn)定性問題.設矩陣特征值為λ,則下式成立:

其中X是非零的特征向量,進一步可得

易知Pm、Qm都是正定陣.

對于式(12)左邊是正定的,dm+1必須滿足dm+1>0,對所有非零向量X,式(27)兩邊的λ、1-λ必須同號,即可見矩陣的特征值λ一定是0<λ<1的,這意味著式(25)一定是穩(wěn)定的,即收斂性得證 .

4 仿真實例

本文將M ackey-Glass混沌時間序列預測作為仿真實例,以證明所提出方法的有效性.混沌時間序列可由時滯微分方程得到

Mackey-G lass系統(tǒng)預測的目的是根據(jù)t時刻以前的一組數(shù)據(jù)x(·),去預測x(t+Δt),其中 Δt為預測時間步幅.預測方法是令Δt為時滯參數(shù),取D個點 ,即{x(t-(D-1)Δt),…,x(t-Δt),x(t)}去預測將來時刻x(t+Δt).若n為整數(shù),仿真研究的任務是利用模糊模型構(gòu)造函數(shù).取τ=17,Δt=6,選1000對樣本數(shù)據(jù),即其中,前4個變量數(shù)據(jù)作為輸入,最后一個變量數(shù)據(jù)作為輸出.前500對數(shù)據(jù)當作訓練數(shù)據(jù),其余500對數(shù)據(jù)作為測試數(shù)據(jù)以驗證辨識模型的有效性.取30條模糊規(guī)則作為初始規(guī)則數(shù),針對上述已建立的含有30條模糊規(guī)則的系統(tǒng),取 ΔJ=0.1,最后經(jīng)過優(yōu)化后得到的規(guī)則數(shù)為16.

經(jīng)過規(guī)則優(yōu)化后,得到的模糊模型輸出和實際樣本的均方差為0.0052,圖1～4給出了仿真曲線.

文獻[6～10]針對上述混沌系統(tǒng)進行了建模研究,將本文方法與它們進行比較,可看出本文方法優(yōu)于文獻提出的方法,見表1.

(1)文獻[7]結(jié)果均方差為0.0016,小于本文方法的0.0052.但是,其方法參數(shù)為104個,遠大于本文方法中的16個.另外,文獻[7]運行計算時間需要20 min,而本文方法只需3m in.

(2)文獻[8～10]也分別提出了不同建模方法,但是在輸入變量個數(shù)、規(guī)則數(shù)和參數(shù)的數(shù)量綜合指標方面,本文方法明顯好于文獻[8～10]中的方法.

圖1 訓練數(shù)據(jù)的模糊模型輸出與實際輸出Fig.1 The fuzzy mode l output and the actua l output for training data

圖2 訓練數(shù)據(jù)誤差曲線Fig.2 The error curve of the training data

圖3 測試數(shù)據(jù)的模糊模型輸出與預測輸出Fig.3 The fuzzy model output and the forecast output for test data

圖4 測試數(shù)據(jù)誤差曲線Fig.4 Theerror curve o f the test data

表1 本文模型與其他模型的比較Tab.1 The comparison of the model in this paper and othermodels

5 結(jié) 語

針對模糊模型的結(jié)構(gòu)辨識和參數(shù)估計問題,提出了基于目標函數(shù)的建立非線性系統(tǒng)的模糊模型的方法.通過目標函數(shù)與參數(shù)估計一起進行遞推計算,實現(xiàn)了對模糊模型結(jié)構(gòu)簡化,刪除冗余規(guī)則,得到模型結(jié)構(gòu)的同時進行了模型參數(shù)的估計.結(jié)構(gòu)確定過程中采用了UD矩陣分解方法,大大降低了計算量.

[1]HAN M in,SUN Yan-nan,FAN Ying-nan.An imp roved fuzzy neural netw ork based on T-S model[J].Expert Systemswith App lications,2008,34(4):2905-2920

[2]DU H ai-ping,ZHANG Nong.Application of evo lving Takagi-Sugeno fuzzy model to non linear system identification[J].App lied Soft Com puting,2008,8(1):676-686

[3]潘天紅,李少遠.基于模糊聚類的PWA系統(tǒng)的模糊辨識[J].自動化學報,2007,33(3):327-330

[4]劉士榮.神經(jīng)模糊系統(tǒng)的若干問題研究[D].上海:華東理工大學,2000

[5]孫富春,劉華平,孫增圻.非線性系統(tǒng)神經(jīng)模糊自適應控制的問題與策略[J].清華大學學報(自然科學版),2003,43(4):470-474

[6]SCHURTER K C,ROSCHKE P N.Fuzzy modeling of amagnetorheological damper using ANFIS[C]//IEEE International Con ference on Fuzzy Systems.Piscataw ay:IEEE,2000:122-127

[7]K IM D,KIM C.Forecasting time series with genetic fuzzy p redictor ensemble[J].IEEE Transactions on Fuzzy Systems,1997,5(4):523-535

[8]KUKOLJD.Design of adap tive Takagi-Sugeno-Kang fuzzy models[J].App lied Soft Computing,2002,2(2):89-103

[9]DE SOUZA F J,VELLASCO M M R,PACHECO M A C.H ierachical neuro-fuzzy quad tree models[J].Fuzzy Sets and System s,2002,130(2):189-205

[10]WANG L X,M ENDEL JM.Generating fuzzy rules by learning from examp les[J].IEEE Transactions on System s,Man,and Cybernetics,1992,22(6):1414-1427