基于多新息理論的PID神經(jīng)網(wǎng)絡(luò)改進(jìn)算法

孫敏敏 秦品樂(lè)

（中北大學(xué)計(jì)算機(jī)與控制工程學(xué)院 山西 030051）

0 引言

文[1]將PID控制與神經(jīng)網(wǎng)絡(luò)結(jié)合，提出了PID神經(jīng)網(wǎng)絡(luò)，PID神經(jīng)網(wǎng)絡(luò)具有PID控制規(guī)律，與傳統(tǒng)的前向神經(jīng)網(wǎng)絡(luò)相比具有神經(jīng)元的輸入輸出呈現(xiàn)出動(dòng)態(tài)性，原因在于往神經(jīng)網(wǎng)絡(luò)中引入了比例（P）、積分（I）、微分（D）神經(jīng)元。PID神經(jīng)網(wǎng)絡(luò)同時(shí)具備傳統(tǒng)前向神經(jīng)網(wǎng)絡(luò)逼近任意非線性函數(shù)的特性，能夠進(jìn)行非線性，動(dòng)態(tài)復(fù)雜系統(tǒng)的辨識(shí)與控制。文[2]采用BP算法的批處理模式進(jìn)行神經(jīng)元網(wǎng)絡(luò)權(quán)值的調(diào)整，不便于系統(tǒng)實(shí)時(shí)辨識(shí)和控制，受文[3]的啟發(fā)，采用BP算法的在線模式進(jìn)行權(quán)重值的修正進(jìn)行系統(tǒng)辨識(shí)，這為本文將多新息辨識(shí)算法引入PID神經(jīng)網(wǎng)絡(luò)做了準(zhǔn)備。PID神經(jīng)網(wǎng)絡(luò)采用傳統(tǒng)的BP算法的批處理模式進(jìn)行權(quán)值的修正，從辨識(shí)的精度上考慮，批處理法擬合系統(tǒng)實(shí)際輸入輸出的效果優(yōu)于在線模式，但從實(shí)時(shí)辨識(shí)與控制角度考慮，在線模式優(yōu)于批處理法。在線模式對(duì)權(quán)值的修正值利用了系統(tǒng)當(dāng)前的輸入輸出數(shù)據(jù)，沒有利用歷史的輸入輸出數(shù)據(jù)，壞數(shù)據(jù)對(duì)網(wǎng)絡(luò)權(quán)值修正的影響大。丁鋒等人提出的多新息辨識(shí)方法利用當(dāng)前與歷史輸入輸出數(shù)據(jù)，能減小壞數(shù)據(jù)的影響，提高系統(tǒng)辨識(shí)的精度。受文[4]啟發(fā)，本文將多新息辨識(shí)方法引入PID神經(jīng)網(wǎng)絡(luò)，提出基于PID神經(jīng)網(wǎng)絡(luò)的多新息學(xué)習(xí)算法并給出了收斂性證明，仿真實(shí)例說(shuō)明能取得較好的效果。

1 PID神經(jīng)網(wǎng)絡(luò)多新息學(xué)習(xí)算法

考慮1+?pt到t時(shí)刻的p組輸入輸出數(shù)據(jù)，PID神經(jīng)網(wǎng)絡(luò)輸入層各節(jié)點(diǎn)的輸出向量為

輸出層節(jié)點(diǎn)的輸出向量為

理想輸出向量為

誤差函數(shù)變?yōu)?/p>

那么，PID神經(jīng)網(wǎng)絡(luò)的隱含層至輸出層權(quán)值修改式為

網(wǎng)絡(luò)的輸入層至隱含層權(quán)值修改式為

從而有隱含層至輸出層權(quán)值修改式為

輸出層至隱含層權(quán)值調(diào)整式為

2 仿真實(shí)例

為了說(shuō)明所提出的基于PID神經(jīng)網(wǎng)絡(luò)的多新息學(xué)習(xí)算法的有效性，在和PID神經(jīng)網(wǎng)絡(luò)采用的標(biāo)準(zhǔn)BP算法進(jìn)行比較時(shí)，采用文獻(xiàn)[7]中的例子。

例1.考慮下面方程描述的非線性動(dòng)態(tài)系統(tǒng)

其中)(ty為t時(shí)刻系統(tǒng)輸出，)(tu為t時(shí)刻系統(tǒng)輸入。

輸入函數(shù)為

網(wǎng)絡(luò)采用在線梯度法，每個(gè)學(xué)習(xí)回合采集200個(gè)樣本點(diǎn)進(jìn)行學(xué)習(xí)和訓(xùn)練，輸入層至隱含層權(quán)值矩陣的初始值為W(0)=[1,0.1,1;?1,?0.1,?1]，隱含層至輸出層權(quán)值向量的初始值為V(0)=(0.1,0.1,0.1)，其中y(t)為網(wǎng)絡(luò)理想輸出，d(t)為網(wǎng)絡(luò)實(shí)際輸出。取新息長(zhǎng)度p=2，學(xué)習(xí)率η=0.175，當(dāng)網(wǎng)絡(luò)學(xué)習(xí)和訓(xùn)練20步后，改進(jìn)算法與未改進(jìn)算法的辨識(shí)結(jié)果如圖1和圖2所示。

圖1 未改進(jìn)算法的辨識(shí)結(jié)果

圖2 改進(jìn)算法的辨識(shí)結(jié)果

3 結(jié)語(yǔ)

結(jié)合多新息辨識(shí)理論，推導(dǎo)出基于多新息理論的PID神經(jīng)網(wǎng)絡(luò)算法。仿真實(shí)例表明所提出的算法能有效估計(jì)參數(shù)，且具有較快的收斂速度。

[1]舒懷林.PID控制與神經(jīng)網(wǎng)絡(luò)的結(jié)合及PID神經(jīng)網(wǎng)絡(luò)非線性控制系統(tǒng)[M].第十九屆中國(guó)控制會(huì)議論文集（二），2000：228-332

[2]舒懷林.PID神經(jīng)元網(wǎng)絡(luò)及其控制系統(tǒng)[M].北京：國(guó)防工業(yè)出版社，2006：23-51

[3]許少云.BP學(xué)習(xí)算法的在線模式與批處理模式[M].1996年中國(guó)智能自動(dòng)化學(xué)術(shù)會(huì)議論文（上冊(cè)），1996

[4]劉英玉.一種基于前向神經(jīng)網(wǎng)絡(luò)的多新息隨機(jī)梯度算法[J].哈爾濱商業(yè)大學(xué)學(xué)報(bào)（自然科學(xué)版）2006，22（2）

[5]Feng Ding，Tongwen Chen.Performance analysis of multi-innovation gradient type identification methods.2009，43（1）：1-14

[6]郭雷.時(shí)變隨機(jī)系統(tǒng)-穩(wěn)定性、估計(jì)與控制.長(zhǎng)春：吉林科學(xué)技術(shù)出版社，1993

[7]舒懷林.PID神經(jīng)網(wǎng)絡(luò)及其非線性動(dòng)態(tài)系統(tǒng)辨識(shí)能力分析[J].自動(dòng)化與信息工程