三種RBF網(wǎng)絡(luò)函數(shù)逼近性能對(duì)比及應(yīng)用研究

伍 凱 ，賀正洪 ，張 晶 ，趙 敏

（1.空軍工程大學(xué)防空反導(dǎo)學(xué)院，西安 710051；2.空軍工程大學(xué)理學(xué)院，西安 710051；3.解放軍93424部隊(duì)，北京 102101）

0 引言

在工業(yè)控制實(shí)際中，許多被控對(duì)象的特性參數(shù)或結(jié)構(gòu)會(huì)因負(fù)荷等因素的變化而發(fā)生改變。如何進(jìn)行在線(xiàn)調(diào)整，使得控制系統(tǒng)具有快響應(yīng)、高穩(wěn)態(tài)等性能值得我們深入研究［1］。神經(jīng)網(wǎng)絡(luò)作為一種非線(xiàn)性統(tǒng)計(jì)數(shù)據(jù)建模工具，廣泛應(yīng)用于數(shù)據(jù)處理、參數(shù)優(yōu)化等領(lǐng)域。以高斯基函數(shù)為作用函數(shù)的RBF神經(jīng)網(wǎng)絡(luò)是一種局部逼近的3層前向網(wǎng)絡(luò)，其輸入層到隱層非線(xiàn)性關(guān)聯(lián)，隱層到輸出層線(xiàn)性關(guān)聯(lián)，與BP神經(jīng)網(wǎng)絡(luò)相比，能避免局部最優(yōu)并具有學(xué)習(xí)速度快的優(yōu)勢(shì)，適于實(shí)時(shí)控制的實(shí)現(xiàn)［2］。文獻(xiàn)［1，3］分別研究了基于兩種不同結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)的PID控制器設(shè)計(jì)問(wèn)題。

本文首先采用RBF、模糊RBF和模糊GA-RBF神經(jīng)網(wǎng)絡(luò)逼近非線(xiàn)性函數(shù)；通過(guò)仿真，對(duì)比分析了3種不同RBF神經(jīng)網(wǎng)絡(luò)在具體函數(shù)逼近問(wèn)題中的性能；在此基礎(chǔ)上，設(shè)計(jì)了一種基于模糊GA-RBF網(wǎng)絡(luò)的自校正模型，最后通過(guò)仿真驗(yàn)證了該模型的有效性。

1 三種RBF神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)分析

1.1 RBF神經(jīng)網(wǎng)絡(luò)分析

20世紀(jì)80年代末，J.Moody和C.Darken率先使用徑向基函數(shù)方法，提出了神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的新手段。作為一種前饋反向傳播網(wǎng)絡(luò)，RBF神經(jīng)網(wǎng)絡(luò)包含輸入層、徑向基隱層和線(xiàn)性輸出層。作為一種全局逼近的網(wǎng)絡(luò)結(jié)構(gòu)，與BP神經(jīng)網(wǎng)絡(luò)隱層使用Sigmoid函數(shù)值不同，RBF神經(jīng)網(wǎng)絡(luò)隱層采用高斯基函數(shù)為作用函數(shù)，其值在輸入空間有限范圍內(nèi)非零，任何函數(shù)都可以通過(guò)一組基函數(shù)的加權(quán)和來(lái)近似。在神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中，可以將隱層單元的輸出函數(shù)視作一組基函數(shù)，從而加權(quán)求和以逼進(jìn)目標(biāo)函數(shù)。圖1為多輸入單輸出的RBF網(wǎng)絡(luò)結(jié)構(gòu)圖［1］。

采用RBF網(wǎng)絡(luò)對(duì)目標(biāo)函數(shù)進(jìn)行逼近的基本結(jié)構(gòu)如圖2所示。

定義E（k）為RBF網(wǎng)絡(luò)逼近性能的度量：

采用梯度下降法，則輸出權(quán)值、節(jié)點(diǎn)基寬參數(shù)及節(jié)點(diǎn)中心矢量的迭代過(guò)程可表示如下：

其中，η 表示學(xué)習(xí)速率，α 為動(dòng)量因子 η∈［0，1］，α∈［0，1］。

1.2 模糊RBF神經(jīng)網(wǎng)絡(luò)分析

將常規(guī)的神經(jīng)網(wǎng)絡(luò)賦予模糊輸入信號(hào)和模糊權(quán)值，構(gòu)成模糊RBF神經(jīng)網(wǎng)絡(luò)，從而實(shí)現(xiàn)學(xué)習(xí)能力強(qiáng)的RBF神經(jīng)網(wǎng)絡(luò)與推理能力強(qiáng)的模糊系統(tǒng)的結(jié)合。圖3為模糊RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖，該網(wǎng)絡(luò)包括輸入層、模糊化層、模糊推理層和輸出層4部分。輸入層的各個(gè)節(jié)點(diǎn)直接與輸入量的各個(gè)分量相連接，從而將輸入量從輸入層傳到模糊化層，之后再通過(guò)與模糊推理層的連接完成模糊規(guī)則的匹配，在模糊推理層各個(gè)節(jié)點(diǎn)間實(shí)現(xiàn)模糊運(yùn)算。最后，將輸出層各個(gè)節(jié)點(diǎn)的加權(quán)和輸出［4］。

采用模糊RBF網(wǎng)絡(luò)對(duì)目標(biāo)函數(shù)進(jìn)行逼近的網(wǎng)絡(luò)結(jié)構(gòu)如圖4所示。

取式（3）為RBF網(wǎng)絡(luò)逼近性能的度量模糊RBF網(wǎng)絡(luò)的學(xué)習(xí)算法如下：

調(diào)整輸出層權(quán)值：

輸出層權(quán)值學(xué)習(xí)：

式中，η 表示學(xué)習(xí)速率，α 為動(dòng)量因子，η∈［0，1］，α∈［0，1］。

隸屬函數(shù)參數(shù)調(diào)整：

隸屬函數(shù)的參數(shù)學(xué)習(xí)過(guò)程：

1.3 基于遺傳算法的模糊RBF神經(jīng)網(wǎng)絡(luò)分析

通過(guò)聚類(lèi)方法確定模糊RBF神經(jīng)網(wǎng)絡(luò)基函數(shù)中心值時(shí)，網(wǎng)絡(luò)的泛化能力較差。采用梯度下降法的網(wǎng)絡(luò)訓(xùn)練結(jié)果穩(wěn)定性較差。采用遺傳算法可實(shí)現(xiàn)模糊RBF網(wǎng)絡(luò)參數(shù)的優(yōu)化。為提高網(wǎng)絡(luò)的泛化能力及穩(wěn)定性，文獻(xiàn)［5］中將模糊RBF神經(jīng)網(wǎng)絡(luò)待定參數(shù)看作染色體，利用遺傳算法解算參數(shù)的最優(yōu)或次優(yōu)解，將其結(jié)果作為模糊RBF神經(jīng)網(wǎng)絡(luò)參數(shù)的初值，采用梯度下降法動(dòng)態(tài)調(diào)整網(wǎng)絡(luò)各參數(shù)。

模糊RBF網(wǎng)絡(luò)的可調(diào)參數(shù)包括隱層節(jié)點(diǎn)的中心、寬度和輸出層權(quán)值。采用梯度下降法進(jìn)行網(wǎng)絡(luò)參數(shù)學(xué)習(xí)：

隱層節(jié)點(diǎn)的中心的更新公式如下所示：

基函數(shù)寬度的更新公式如下所示：

對(duì)輸出層節(jié)點(diǎn)與上一層各節(jié)點(diǎn)的權(quán)值W采用上式進(jìn)行調(diào)整：

為獲取滿(mǎn)意的逼近度，采用誤差的絕對(duì)值指標(biāo)作為參數(shù)選擇的最小目標(biāo)函數(shù)，即

式中，N為逼近的總步數(shù)，e（i）為第i步網(wǎng)絡(luò)的逼近誤差。

2 函數(shù)逼近性能對(duì)比分析

本文利用如下的非線(xiàn)性函數(shù)作為逼近對(duì)象：

輸入 u（k）選取為 u（k）=sin（10πt）函數(shù)，采樣時(shí)間為0.001 s。模糊RBF網(wǎng)絡(luò)結(jié)構(gòu)輸入層2-模糊化層25-模糊推理層25-輸出層1，網(wǎng)絡(luò)初始權(quán)值?。?1，1］之間的隨機(jī)數(shù)，中心矢量和高斯基寬向量的初值如下：

分別采用3種不同的RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)逼近非線(xiàn)性函數(shù)，仿真結(jié)果如圖5～圖8所示：

從圖5可知，3種RBF網(wǎng)絡(luò)結(jié)構(gòu)都能夠較好地逼近目標(biāo)函數(shù)。從圖6～圖7來(lái)看，模糊RBF與模糊GA-RBF網(wǎng)絡(luò)結(jié)構(gòu)較基本RBF網(wǎng)絡(luò)結(jié)構(gòu)而言中間層的學(xué)習(xí)效率更高，能夠在更短的時(shí)間內(nèi)，得到合適的權(quán)值參數(shù)，達(dá)到較小的逼近誤差。模糊GA-RBF運(yùn)用遺傳算法優(yōu)化的模糊RBF神經(jīng)網(wǎng)絡(luò)，動(dòng)態(tài)調(diào)整網(wǎng)絡(luò)參數(shù)，克服了遺傳算法局部尋優(yōu)能力的不足。模糊GA-RBF的邊緣效果最佳，RBF網(wǎng)絡(luò)的邊緣效果最差。同時(shí)，計(jì)算基本RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的敏感度Jacobian信息可知，對(duì)于逼近對(duì)象，基本RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的參數(shù)值調(diào)整能力在逐步下降。綜上，模糊GA-RBF網(wǎng)絡(luò)具有相對(duì)較強(qiáng)的函數(shù)逼近能力。在3種RBF網(wǎng)絡(luò)結(jié)構(gòu)分析對(duì)比的基礎(chǔ)上，設(shè)計(jì)基于模糊GA-RBF網(wǎng)絡(luò)的間接型自校正控制結(jié)構(gòu)。

3 基于模糊GA-RBF網(wǎng)絡(luò)的間接型自校正控制

間接型自校正控制是一種通過(guò)辨識(shí)器對(duì)系統(tǒng)未知參數(shù)進(jìn)行在線(xiàn)估計(jì)，用調(diào)節(jié)器實(shí)現(xiàn)參數(shù)自動(dòng)調(diào)整的自適應(yīng)及實(shí)時(shí)反饋控制技術(shù)［6］。將模糊RBF神經(jīng)網(wǎng)絡(luò)待定參數(shù)看作染色體，利用遺傳算法解算參數(shù)的最優(yōu)或次優(yōu)解，將其結(jié)果作為模糊RBF神經(jīng)網(wǎng)絡(luò)參數(shù)的初值，采用梯度下降法動(dòng)態(tài)調(diào)整網(wǎng)絡(luò)各參數(shù)，從而得到基于遺傳算法的模糊RBF網(wǎng)絡(luò)。將以高斯函數(shù)為隸屬度函數(shù)的RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)作為自校正控制器，利用遺傳算法動(dòng)態(tài)調(diào)整網(wǎng)絡(luò)的結(jié)構(gòu)和參數(shù)，構(gòu)成基于模糊GA-RBF神經(jīng)網(wǎng)絡(luò)的間接自校正控制系統(tǒng)［7］。

3.1 自校正控制算法

考慮被控對(duì)象：

其中u，y分別為對(duì)象的輸入、輸出，φ［］為非零函數(shù)。當(dāng)g［］，φ［］已知，自校正控制算法為：

當(dāng)g［］，φ［］未知時(shí)，使用經(jīng)神經(jīng)網(wǎng)絡(luò)辨識(shí)器在線(xiàn)訓(xùn)練得到的估計(jì)值 Ng［］，Nφ［］代替 g［］，φ［］。此時(shí)，自校正控制算法為：

3.2 模糊GA-RBF自校正控制算法

采用兩個(gè)模糊GA-RBF網(wǎng)絡(luò)分別實(shí)現(xiàn)未知項(xiàng)的辨識(shí)，辨識(shí)器結(jié)構(gòu)如下：

在模糊GA-RBF網(wǎng)絡(luò)結(jié)構(gòu)中，取輸入為y（k），模糊化層中采用高斯基函數(shù)作為隸屬函數(shù)，模糊推理層通過(guò)與模糊化層的連接來(lái)完成模糊規(guī)則的匹配，各個(gè)節(jié)點(diǎn)之間實(shí)現(xiàn)模糊運(yùn)算，每個(gè)節(jié)點(diǎn)有輸入信號(hào)的乘積為該節(jié)點(diǎn)的輸出。最后，在輸出層輸出節(jié)點(diǎn)所有輸入信號(hào)的加權(quán)和［8-9］。

網(wǎng)絡(luò)的權(quán)向量為：

兩個(gè)網(wǎng)絡(luò)輸出g［］，φ［］的估計(jì)值為：

其中，m表示神經(jīng)網(wǎng)絡(luò)模糊推理層的節(jié)點(diǎn)個(gè)數(shù)。

辨識(shí)后，對(duì)象的輸出為：

取下式作為神經(jīng)網(wǎng)絡(luò)調(diào)整的性能指標(biāo)：

綜上，模糊GA-RBF神經(jīng)網(wǎng)絡(luò)自校正控制系統(tǒng)的結(jié)構(gòu)如圖10所示。

4 仿真及實(shí)驗(yàn)驗(yàn)證

采用模糊GA-RBF神經(jīng)網(wǎng)絡(luò)自校正控制系統(tǒng)對(duì)以下被控對(duì)象進(jìn)行仿真驗(yàn)證：

取模糊GA-RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為輸入層1-模糊化層4-模糊推理層4-輸出層1，首先將模糊RBF神經(jīng)網(wǎng)絡(luò)權(quán)值、高斯基函數(shù)等待定參數(shù)看作染色體，通過(guò)遺傳算法解算最優(yōu)或次優(yōu)解，之后將其結(jié)果作為模糊RBF神經(jīng)網(wǎng)絡(luò)參數(shù)的初值，采用梯度下降法動(dòng)態(tài)調(diào)整網(wǎng)絡(luò)參數(shù)，仿真結(jié)果如下頁(yè)圖11～圖13所示。仿真結(jié)果驗(yàn)證了模糊GA-RBF神經(jīng)網(wǎng)絡(luò)應(yīng)用于自校正控制的可行性。

5 結(jié)論

在分析3種RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)特性及函數(shù)逼近能力的基礎(chǔ)上，仿真分析了3種結(jié)構(gòu)對(duì)一非線(xiàn)性函數(shù)對(duì)象的逼近效果。結(jié)果表明，3種RBF網(wǎng)絡(luò)結(jié)構(gòu)都能夠較好地逼近目標(biāo)函數(shù)，但模糊RBF與GA-RBF網(wǎng)絡(luò)結(jié)構(gòu)較基本RBF網(wǎng)絡(luò)結(jié)構(gòu)而言能夠在更短的時(shí)間內(nèi)，得到合適的權(quán)值參數(shù)，更早達(dá)到較小的逼近誤差范圍。在此基礎(chǔ)上，仿真驗(yàn)證了遺傳算法優(yōu)化的模糊RBF網(wǎng)絡(luò)能夠在自校正控制中取得較好的辨識(shí)效果，從而可以改善系統(tǒng)的控制效果。

參考文獻(xiàn)：

［1］于蒙，鄒志云，劉燕軍，等.基于對(duì)角回歸型神經(jīng)網(wǎng)絡(luò)的自適應(yīng)PID控制器設(shè)計(jì)［J］.計(jì)算機(jī)與應(yīng)用化學(xué)，2012，29（9）：1056-1059.

［2］周開(kāi)利，康耀紅.神經(jīng)網(wǎng)絡(luò)模型及其MATLAB仿真程序設(shè)計(jì)［M］.北京：清華大學(xué)出版社，2005.

［3］田一鳴，黃友銳，高志安，等.基于GA與CSA-RBF神經(jīng)網(wǎng)絡(luò)辨識(shí)的自適應(yīng)PID控制器［J］.系統(tǒng)仿真學(xué)報(bào)，2008，20（17）：4618-4621.

［4］梁久禎，何新貴.模糊推理神經(jīng)網(wǎng)絡(luò)的函數(shù)逼近能力［J］.系統(tǒng)工程與電子技術(shù)，2002，24（2）：99-102.

［5］段明秀.基于遺傳算法的模糊RBF神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)及應(yīng)用［J］.吉首大學(xué)學(xué)報(bào)（自然科學(xué)版）2010，31（1）：43-46.

［6］曲爾光，劉春艷，劉文軍.基于模糊神經(jīng)網(wǎng)絡(luò)的自整定控制系統(tǒng)的設(shè)計(jì)［J］.機(jī)床與液壓，2004（12）：368-370.

［7］劉坤.基于遺傳算法的間接自校正模糊神經(jīng)網(wǎng)絡(luò)控制［J］.組合機(jī)床與自動(dòng)化加工技術(shù)，2009，37（8）：76-78.

［8］楊建華，郎寶華.基于遺傳算法優(yōu)化的RBF網(wǎng)絡(luò)在自校正控制中的應(yīng)用研究［J］.延安大學(xué)學(xué)報(bào)（自然科學(xué)版），2009，28（3）：28-30.

［9］黎波，嚴(yán)駿，郭剛，等.基于DRNN神經(jīng)網(wǎng)絡(luò)的挖掘機(jī)伺服系統(tǒng)參數(shù)辨識(shí)［J］.解放軍理工大學(xué)學(xué)報(bào)（自然科學(xué)版），2013，14（1）：75-78.