基于改進(jìn)PSO和FCM的模糊辨識

劉楠，劉福才，孟愛文

（燕山大學(xué) 電氣工程學(xué)院，河北 秦皇島 066004）

系統(tǒng)的建模與辨識一直是人們研究的重點與難點，它的好壞直接影響著控制系統(tǒng)的性能。尤其對于現(xiàn)在控制系統(tǒng)越來越復(fù)雜，要求也越來越高，控制系統(tǒng)呈現(xiàn)出多變量、強(qiáng)耦合、非線性等特點，這就使得傳統(tǒng)的方法很難對這些系統(tǒng)進(jìn)行建模。模糊理論的產(chǎn)生為這些系統(tǒng)提供了新方法，現(xiàn)在已經(jīng)應(yīng)用于自動控制、電力系統(tǒng)和預(yù)測控制等領(lǐng)域。T-S模型是在模糊辨識方面應(yīng)用較廣的模型，它是由Takagi和Sugeno于1985年提出的一種模糊模型[1]。國內(nèi)外學(xué)者對此方法進(jìn)行了深入研究，主要研究的內(nèi)容有前提參數(shù)辨識、結(jié)論參數(shù)辨識、規(guī)則庫優(yōu)化、輸入變量選擇等。隨著人工智能技術(shù)的不斷發(fā)展，智能算法也越來越多地應(yīng)用到了T-S模型的優(yōu)化上。如文獻(xiàn)[2]采用模糊聚類優(yōu)化模型的前提結(jié)構(gòu)，并應(yīng)用遺傳算法(genetic algorithm, GA)對前提參數(shù)進(jìn)行了優(yōu)化，但是計算時間長，而且精度不是很高。文獻(xiàn)[3]采用菌群優(yōu)化算法(bacterial foraging optimization algorithm, BFO)優(yōu)化T-S模型前提參數(shù)，雖然辨識精度有提高，但是收斂速度還是太慢，耗時太長。文獻(xiàn)[4]采用粒子群算法(particle swarm optimization algorithm, PSO)和最小二乘算法提出一種模糊自適應(yīng)函數(shù)逼近器，由于標(biāo)準(zhǔn)粒子群算法本身的局限性而使辨識精度不高。

隨著模糊聚類理論的發(fā)展和成熟，已經(jīng)成功應(yīng)用到了很多的領(lǐng)域。目前，學(xué)者們已經(jīng)提出了很多模糊聚類算法，比較典型的有基于相似關(guān)系[5]和模糊關(guān)系[6]的方法、基于目標(biāo)函數(shù)的方法[7]、基于模糊圖論的最大支撐樹方法[8]等。其中研究最多的是基于目標(biāo)函數(shù)的模糊聚類方法。該方法主要思想就是求解一個帶約束的非線性規(guī)劃問題，得到數(shù)據(jù)集的模糊劃分和聚類結(jié)果。模糊C均值(fuzzy C-means, FCM)聚類算法是基于目標(biāo)函數(shù)聚類算法的一種，它的應(yīng)用也最為廣泛。FCM算法是由K均值聚類算法加入模糊因子改進(jìn)而來，內(nèi)平方誤差和(within-groups sum of squared error, WGSS)是聚類目標(biāo)函數(shù)的常見形式，1973年，Dunn擴(kuò)展了內(nèi)平方誤差和函數(shù)，提出了類內(nèi)加權(quán)平均誤差和函數(shù)作為目標(biāo)函數(shù)[9]。此后一年，Bezdek提出在目標(biāo)函數(shù)中引入了新的參數(shù) m ，把原先的類內(nèi)加權(quán)平均誤差和函數(shù)改進(jìn)為目標(biāo)函數(shù)的無限簇，從而形成了廣泛應(yīng)用的FCM聚類算法[10]。從此，F(xiàn)CM聚類算法蓬勃發(fā)展，已經(jīng)成為聚類算法中研究的熱點。

本文提出一種改進(jìn)的粒子群算法和模糊C均值聚類算法相結(jié)合的模糊辨識新方法。采用模糊C均值聚類算法對聚類中心進(jìn)行初步優(yōu)化，然后通過改進(jìn)粒子群算法的全局搜索能力優(yōu)化聚類中心。這樣既保持了模糊C均值聚類算法的優(yōu)點，又達(dá)到了對模型的全局優(yōu)化，顯著的提高了算法的辨識精度和效率。

1 PSO算法基本原理

Kennedy等于1995年提出了PSO算法[11]，它具有進(jìn)化計算和群智能的優(yōu)點，是一種啟發(fā)式全局優(yōu)化算法。與其他進(jìn)化算法類似，PSO算法也是通過個體間的協(xié)作與競爭，實現(xiàn)復(fù)雜問題的全局優(yōu)化。

PSO算法可以描述為：設(shè)粒子在 D 維空間搜索，粒子個數(shù)為 N 。 第 k個粒子所處的位置為向量Xk=(xk1,xk2,···,xkD)， 粒 子 的 飛 行 速 度 為Vk=(vk1,vk2,···,vkD)，每一個粒子都是所優(yōu)化問題的一個解，粒子通過不斷的改變自己的位置和速度找到新解。第 k個粒子到目前為止搜索到的最優(yōu)解Pk=(pk1,pk2,···,pkD)，整個群體經(jīng)歷過的最優(yōu)位置為Pg=(pg1,pg2,···,pgD)。每個粒子的速度和位置按照式(1)、式(2)進(jìn)行變化：

式中： r1,r2為 [0, 1]之間的隨機(jī)數(shù)； c1,c2為正常數(shù)，稱作加速因子；w為 慣性權(quán)重。每個粒子第 d維的速度和位置的變化范圍為 [- vd,max,vd,max]和 [- xd,max,xd,max]。粒子的最大速度 vd,max太大，可能會使得粒子飛過最好解； vd,max太小，會使得搜索速度太慢，而且容易陷入局部最優(yōu)解。慣性權(quán)重 w 可以很好地控制粒子的搜索范圍。 w 較大時，粒子進(jìn)行較大范圍的搜索； w 較小時，粒子進(jìn)行小范圍的挖掘。

2 搜索模式動態(tài)調(diào)整的PSO算法

改進(jìn)的PSO算法(SMPSO)分為兩種搜索模式：局部搜索模式和全局搜索模式。局部搜索模式就如同自然界中大部分動物覓食一樣，它在搜索到的疑似最優(yōu)位置周邊都會進(jìn)行更加細(xì)致地搜索，然后根據(jù)視覺、味覺、聽覺等因素更加準(zhǔn)確地判斷全局最優(yōu)解的位置。這樣既避免了種群過早的收斂，陷入局部最優(yōu)解，而且通過在疑似最優(yōu)位置四周的搜索，更容易找到全局最優(yōu)位置。在全局搜索模式時，粒子之間會協(xié)同合作，共享最優(yōu)位置信息，使整個種群向著全局最優(yōu)位置逼近，以更短的時間尋找到最終目標(biāo)。由于每代粒子都具有“自我”學(xué)習(xí)提高和向“他人”學(xué)習(xí)的優(yōu)點，從而能使種群在較少的迭代次數(shù)內(nèi)找到最優(yōu)解。

SMPSO算法首先要選擇粒子的數(shù)目 N ，每個粒子都有自己的位置、適應(yīng)度和處于局部搜索模式或者全局搜索模式的標(biāo)識值。粒子的位置根據(jù)求解的需要由 D 維向量表示，適應(yīng)度可由目標(biāo)函數(shù)的適當(dāng)變形得到，所處模式的標(biāo)識值可以用數(shù)字0和1表示。粒子的兩種模式分別代表著算法的不同進(jìn)程。在程序的運行中，一部分粒子執(zhí)行局部搜索模式，其余的粒子執(zhí)行全局搜索模式。它們各自的數(shù)量由搜索模式動態(tài)調(diào)整參數(shù) S M控制， S M表示處于全局搜索模式的粒子所占種群的比例，按照式(3)計算得到，其中 S Mmax和 S Mmin分別為 S M 的 最大值和最小值， D T為當(dāng)前的迭代的次數(shù)， M axDT 是 最大的迭代次數(shù)。隨著 D T的增加， S M 從 S Mmin線 性地增加到 S Mmax，這樣可以使得粒子群在開始時搜索能力比較強(qiáng)，而到后期隨著種群的最優(yōu)適應(yīng)度越來越好，增大 S M，有利于粒子群聚集到更好的位置，進(jìn)行更細(xì)致的搜索。

SMPSO算法整體進(jìn)程描述如下：

1) 選擇粒子群個體數(shù)為 N ；

2) 隨機(jī)初始化粒子的位置為 D 維向量，按照SM隨機(jī)分配粒子進(jìn)入局部搜索模式和全局搜索模式；

3) 根據(jù)適應(yīng)度函數(shù)計算每個粒子的適應(yīng)度值，選擇適應(yīng)度值最好的粒子為當(dāng)前的最優(yōu)解；

4) 根據(jù)粒子所處模式的標(biāo)識值，判斷粒子處于哪種搜索模式。如果粒子處于局部搜索模式，應(yīng)用局部搜索模式的程序；如果粒子處于全局搜索模式，應(yīng)用全局搜索模式的程序。具體步驟詳見 2.1和 2.2；

5) 按照 S M 重新分配粒子進(jìn)入局部搜索模式和全局搜索模式；

6) 如果程序滿足了終止條件，則終止程序；否則返回3)繼續(xù)執(zhí)行。

2.1 局部搜索模式

在此模式下，主要有兩個基本的要素：局部搜索次數(shù)(S N)，表示每個處于局部搜索模式的粒子迭代一次搜索的次數(shù)。粒子將按照之后描述的規(guī)則，從中選擇一個位置；局部搜索范圍(S R)，表示粒子局部搜索最大能抵達(dá)的范圍。局部搜索模式步驟如下：

1) 復(fù)制 S N份當(dāng)前粒子的位置；

2) 對于每個粒子的候選位置，按照式(4)更新粒子的候選位置。

式中： xid表 示粒子的第i個 候選位置在第 d維的位置， r and表示位于0～1之間的隨機(jī)數(shù)；

3) 計算所有候選位置的適應(yīng)度(F S)；

4) 計算所有候選位置和它本身被選擇的可能性。如果所有的 F S都相同，將所有候選位置的可選擇性設(shè)置為1；否則按照式(5)計算候選位置的可選擇性：

式中： Pi表 示候選位置的可選擇性， F Si表示候選位置的適應(yīng)度值， F Smax和 F Smin表示候選位置中最大適應(yīng)度值和最小適應(yīng)度值。如果求解目的是要找到最大適應(yīng)度值，則 F Sb=FSmin， 否則 F Sb=FSmax；

5) 根據(jù)候選位置和它本身的可選擇性 Pi，運用輪盤賭方法選擇粒子的下一個位置。每個候選位置和本身被選中的概率 Pi為

在局部搜索模式，采用了遺傳算法常用的輪盤賭選擇法，正是借鑒了“物競天擇，適者生存”的生物進(jìn)化理論，并且還保留了物種的多樣性，利用概率選擇的方法，選擇優(yōu)勝的個體，淘汰劣質(zhì)個體。

2.2 全局搜索模式

全局搜索模式對標(biāo)準(zhǔn)PSO進(jìn)行簡化處理，提高算法運行速度。粒子群按照式(7)、式(8)更新粒子的位置。式 中 ： Xk表 示第 k 個 粒子 的 位 置； Pkg表 示 第 k個 粒子的最佳搜尋位置； Pg表示粒子群經(jīng)歷的最好位置； Pk表 示第 k 個 粒子經(jīng)歷的最好位置；λ是0和1之間的一個常數(shù)；r是一個位于0和1之間的隨機(jī)數(shù)；c是一個正常數(shù)，稱作加速因子。

從式(7)和式(8)可以看出本文方法與標(biāo)準(zhǔn)粒子群算法的不同之處如下：

1) 本文方法省去了粒子的速度，由于本文加入了局部搜索模式，使得粒子在兩種模式之間切換，粒子的歷史速度對于粒子的影響并不是很大。只要控制好參數(shù) S M 和 S R，粒群體將不容易早熟，陷入局部最優(yōu)解。同時，省去速度參數(shù)，也避免了對粒子速度的限制，進(jìn)一步減少了算法的運行時間。

2) 種群的每個粒子對局部最優(yōu)解 Pk和全局最優(yōu)解 Pg的位置進(jìn)行判斷和權(quán)衡，找出最佳搜尋位置 Pkg，隨后對此最佳位置進(jìn)行跟蹤。從式(8)可以 看 出 最 佳 搜 尋 位 置 Pkg在 Pg和 Pk的 連 線 上 ，λ 越接近1， Pkg離 全局最優(yōu)解 Pg的 距離越近；λ越接近0， Pkg離 局部最優(yōu)解 Pk越近。

2.3 算法參數(shù)分析

本文算法不同于標(biāo)準(zhǔn)PSO算法的參數(shù)主要有 S N、 λ、 S Mmax、 S Mmin和 S R。對于不同的優(yōu)化問題參數(shù)選擇不同，本文按照優(yōu)化時間最短和優(yōu)化結(jié)果最優(yōu)原則，通過大量的仿真實驗，總結(jié)了參數(shù)的選取方法：

1) 搜尋個數(shù) S N選取的越大，耗時越多，但是相應(yīng)的優(yōu)化精度越高，一般選取3～5之間。

2) λ是控制最佳搜尋位置的參數(shù)，調(diào)節(jié)整體和局部的關(guān)系。針對參數(shù) λ 的選擇，本文采用了黃金分割點的位置 λ =0.618或 者 λ =0.382。黃金分割已經(jīng)在眾多領(lǐng)域取得了成功的應(yīng)用，例如在數(shù)學(xué)上具有廣泛應(yīng)用價值的優(yōu)選法，在股市上的應(yīng)用，在戰(zhàn)術(shù)布陣中的應(yīng)用等。黃金分割被認(rèn)為是建筑和藝術(shù)中最理想的比例，達(dá)到了局部與整體的辯證統(tǒng)一。

3) S M表示處于全局搜索模式的粒子所占種群的比例。 S M越大，全局搜索模式的粒子越多，算法收斂到最優(yōu)解的速度越快，但是容易早熟，陷入局部最優(yōu)解； S M越小，局部搜索模式的粒子越多，算法找到最優(yōu)解的速度太慢，耗時太多，所以一般情況下 S Mmax為 1， S Mmin為0.5。

4) 局部搜索范圍 S R越大，越有利于算法擺脫局部最優(yōu)解，加快算法找到全局最優(yōu)解，但是局部搜索能力比較弱； S R越小，局部搜索能力比較強(qiáng)，但是容易陷入局部最優(yōu)解。根據(jù)具體問題的取值范圍合理的選擇 S R的大小。

3 基于SMPSO和FCM的建模方法

3.1 T-S模糊模型

在1985年，Takagi等[1]提出了T-S模糊模型，第i條規(guī)則的形式為

式 中 ： i =1,2,···,c ； j =1,2,···,r； xj是 第 j 個 輸 入 ；是一個模糊集合；yi是 第i條 規(guī)則的輸出；是結(jié)論參數(shù)。

那么由各規(guī)則輸出 yi(i=1,2,···,c)的加權(quán)平均可求得系統(tǒng)的總輸出 y為

如果T-S模糊模型具有統(tǒng)一的前件結(jié)構(gòu)，參照文獻(xiàn)[12]的定義，T-S模糊模型的另一種表示方法如下：

式中： x =(x1,x2,···,xr)為輸入變量向量，這樣可以使得模糊規(guī)則數(shù)等于輸入變量的模糊集合數(shù)，明顯的減小了算法的復(fù)雜度。

代入 N 對輸入數(shù)據(jù)可得矩陣等式：

由式(12)可得模型輸出 Y 是 參數(shù)向量 P 的線性組合，采用遞推最小二乘法求取參數(shù) P，算法如下：

3.2 模糊C均值聚類算法

模糊C均值聚類算法是一種自動對樣本點進(jìn)行分類的方法，是當(dāng)前應(yīng)用較為廣泛的一種模糊聚類算法。聚類的目標(biāo)函數(shù) Jm(U,V)如式(15)，聚類的最終目的是求得目標(biāo)函數(shù) Jm(U,V)的極小值，具體實現(xiàn)步驟如下：

1) 設(shè)定聚類中心數(shù) c (2≤c≤n)，n為樣本個數(shù)，給聚類中心 V0賦初值，設(shè)定模糊權(quán)重指數(shù) m 、最大迭代次數(shù) Cmax和 停 止閾值 ε；

2) 根據(jù)聚類中心 Vr， 用式(16)計算第 r +1次迭代的隸屬度矩陣 Ur+1， 對于 ? i,k ， 如果，則有：

3) 根據(jù)隸屬度矩陣 Ur+1， 用式(17)計算第r+1次迭代的聚類中心 Vr+1：

4) 根據(jù)給定的閾值 ε，如果 Vr+1-Vr＜ ε或者迭代次數(shù)大于 Cmax，則停止迭代，最后一次的迭代結(jié)果就是隸屬度矩陣 U 和聚類中心 V ，否則令r=r+1，轉(zhuǎn)到 2)。

由以上算法步驟可以看出，整個迭代過程就是不斷優(yōu)化聚類中心和隸屬度矩陣的過程。Bezdek等對算法進(jìn)行了完善，并給出了收斂性說明[13-15]：模糊C均值聚類算法可以從任意給定的初始點開始收斂到目標(biāo)函數(shù) Jm(U,V)的局部極小點。

3.3 基于SMPSO和FCM的模糊辨識

模糊C均值聚類算法是一種局部搜索算法，容易陷入局部最優(yōu)解。為了解決這一問題，本文首先采用模糊C均值聚類算法對聚類中心進(jìn)行初步優(yōu)化，然后利用改進(jìn)粒子群算法的全局搜索能力優(yōu)化聚類中心。這樣既保持了模糊C均值聚類算法的優(yōu)點，又達(dá)到了對模型的全局優(yōu)化，顯著的提高了算法的辨識精度和效率。具體算法步驟如下：

1) 由辨識的目標(biāo)得到輸入輸出數(shù)據(jù)。

2) 采用模糊C均值聚類算法對聚類中心 V 進(jìn)行初步優(yōu)化，算法步驟詳見3.2。

3) 選擇輸入變量個數(shù)為 r，即聚類中心的維數(shù)為 r，那么粒子的位置表示為

式中： X 為 r ×c維向量，即粒子群優(yōu)化參數(shù)編碼。

4) 根據(jù)聚類中心 Vλ， 用式(19)計算第 λ +1次迭代的隸屬度矩陣 Uλ+1， 對于 ? i,k ， 如果，則有：

5) 采用遞推最小二乘法求取結(jié)論參數(shù) P ，用結(jié)論參數(shù) P 和輸入數(shù)據(jù)集計算模糊模型的輸出。SMPSO算法的適應(yīng)度函數(shù)如式(20)，根據(jù)適應(yīng)度函數(shù)算出每個個體的適應(yīng)度值，由式(3)～(8)更新個體位置。

式中： w 為建模均方誤差 M SE的比例因子。因為，一般建模均方誤差都很小，這樣對適應(yīng)度函數(shù)就起不到明顯的作用，所以加入比例因子 w ，可以調(diào)節(jié) Jm(U,V)和 M SE對適應(yīng)度函數(shù)的影響，從而達(dá)到更好的尋優(yōu)效果。

6) 如果程序滿足了終止條件，則終止程序；否則返回4)繼續(xù)執(zhí)行。

4 仿真研究

4.1 Box-Jenkins煤氣爐數(shù)據(jù)辨識

著名的Box等煤氣爐數(shù)據(jù)[16]已經(jīng)被許多學(xué)者用作檢驗辨識方法的標(biāo)準(zhǔn)試驗數(shù)據(jù)。輸入量u(k)是 流向煤氣爐的流量，輸出量 y( k)是出口二氧化碳的濃度。

這組數(shù)據(jù)有296對輸入輸出測量值，是一個SISO動態(tài)系統(tǒng)。本文選擇 r =2,c=6，輸入變量選擇 y (k-1)和 u (k-3)， 輸出量為 y( k)。改進(jìn)的粒子群算法的參數(shù)選擇如表1所示。辨識模型需要優(yōu)化的聚類中心的參數(shù)為 r c=12個；結(jié)論參數(shù)為(r+1)c=18個。仿真結(jié)果如圖1和圖2所示，與其他方法的對比結(jié)果如表2所示。

表1 SMPSO的參數(shù)設(shè)置Table1 Parameters setting of SMPSO

圖1 SMPSO模糊模型辨識結(jié)果Fig.1 Identification result of fuzzy model with SMPSO

圖2 SMPSO模糊模型辨識誤差Fig.2 Identification error of fuzzy model with SMPSO

表2 不同辨識方法下的MSETable2 MSE of different identification methods

由仿真結(jié)果可以看出，本文方法所用模糊規(guī)則數(shù)少，但是辨識精度高，是一種有效的辨識方法。

4.2 非線性動態(tài)系統(tǒng)

本節(jié)以式(25)的非線性動態(tài)系統(tǒng)為仿真對象，由 u (k)=sin(2kπ/100)產(chǎn)生輸入數(shù)據(jù)。選擇r=3,c=6 ， 輸入變量選擇 u (k)、 y (k)和 y (k-1)，輸出量為 y (k+1)， y (1)=0，訓(xùn)練數(shù)據(jù)500組。改進(jìn)的粒子群算法的參數(shù)選擇如表4所示。辨識模型需要優(yōu)化的聚類中心的參數(shù)為 r c=18個；結(jié)論參數(shù)為(r+1)c=24個。仿真結(jié)果如圖3和圖4所示，與其他方法的對比結(jié)果如表3所示。

圖3 SMPSO模糊模型辨識結(jié)果Fig.3 Identification result of fuzzy model with SMPSO

圖4 SMPSO模糊模型辨識誤差Fig.4 Identification error of fuzzy model with SMPSO

表3 不同辨識方法的仿真結(jié)果Table3 Simulation results of different identification methods

從仿真結(jié)果可以看出，本文方法不僅提高了辨識精度，而且大幅度的縮短了程序運行時間，驗證了本文方法有很高的效率。

5 結(jié)束語

本文將改進(jìn)的粒子群算法和模糊C均值聚類算法相結(jié)合，提出一種新的模糊辨識方法。首先采用模糊C均值聚類算法對聚類中心進(jìn)行初步優(yōu)化。然后對粒子群算法進(jìn)行了改進(jìn)，提出一種搜索模式動態(tài)調(diào)整的PSO算法，顯著提高了PSO算法處理復(fù)雜問題的全局優(yōu)化能力。并且將改進(jìn)的PSO算法運用到聚類中心的優(yōu)化中，有效的解決了FCM算法容易陷入局部最優(yōu)的問題，提高了模糊辨識的精度和效率。最后通過建模仿真，表明了本文方法的有效性和優(yōu)越性。