中心粒子群優(yōu)化算法

王 丹（遼寧理工學院，121000）

中心粒子群優(yōu)化算法

王 丹
（遼寧理工學院，121000）

在線性遞減權重粒子群優(yōu)化算法（LDWPSO）中提到了中心粒子這一概念，進而提出了中心粒子群優(yōu)化算法(中心PSO)。在線性遞減權重粒子群優(yōu)化算法中，中心粒子不像其它一般的粒子，中心粒子沒有明確的速度，并且被始終置于粒子群的中心。此外，在神經網絡訓練算法中比較中心粒子群優(yōu)化算法和線性遞減權重粒子群優(yōu)化算法，結果表明：中心粒子群優(yōu)化算法的性能優(yōu)于線性遞減權重粒子群優(yōu)化算法。

粒子群優(yōu)化算法；神經網絡；進化計算

0 引言

粒子群優(yōu)化算法是模仿鳥群和魚群的社會行為而出現(xiàn)的一種進化的計算技術，因為粒子群優(yōu)化算法在非線性函數(shù)優(yōu)化中具有較好的收斂性和很好的性能，得到了人們的極大關注。許多研究人員致力于用各種不同的方法和各種先進有趣的變量來改善他的性能。這些方法大致分如下幾類。

改進的方法是給粒子群算法的速度和位置方程中增加新的系數(shù)，并且這個系數(shù)要進行合理的挑選。Angeline指出基本粒子群算法局部搜索能力很低。為了克服這個缺點，Shi 和Eberhart提出了線性遞減權重粒子群算法，此算法把線性遞減慣性因子引入到基本粒子群算法的速度更新方程中。因為慣性因子有效的平衡了粒子群的全局和局部搜索能力，使得粒子群算法的性能得到了極大的改善。

粒子群算法的一個關鍵特色是區(qū)域內的粒子間的社會信息共享。因此人們提出各種不同的信息共享方式來改善該算法的性能。Kennedy研究了各種影響該算法性能的拓撲結構，并指出von Neumann拓撲結構性能更好。Suganthan提出了一個可變鄰域，在優(yōu)化的最初時期，鄰域是單個粒子自身的鄰域，隨這粒子代數(shù)的增長，鄰域逐漸延伸到所有的粒子。Mohai提出了一種動態(tài)適應鄰域，用這種鄰域動態(tài)適應鄰域可以隨意產生，直接構建原始值種群的拓撲結構，在種群運行過程中種群結構的邊緣可隨意從一個點移動到另一個點。Lovbjerg 等人將基本粒子群算法與分組飼養(yǎng)的觀點結合在一起。張和謝將微分演化算子引入到基本粒子群算法中。Krink和Lovbjerg將基本粒子群算法和遺傳算法結合在一起。

1 中心粒子群優(yōu)化算法

1.1 線性遞減權重粒子群算法

一個種群由N個在D維搜索空間中運動的粒子構成。第i個粒子在第t次迭代中的位置記為,速度記為，個體粒子所達到的個體極值點記為，群中所有粒子所達到的全局極值點記為。第i個例子在下一次迭代中的位置將由下列方程計算得到

1.2 中心粒子群優(yōu)化算法

中心離子群算法發(fā)展的動力來源于人們對種群行為的觀察。由方程（1）可知，粒子的速度由先前的速度和個體認知能力和社會認知能力決定。由于社會認知（方程的第三部分）是指所有粒子都被全局最優(yōu)吸引并且朝著它移動。而另外兩部分，先前的速度和個體認知能力相當于自制特性，使粒子保持他們自己的信息。因此，在搜索期間，所有的粒子都朝著全局最優(yōu)位置移動，但它們的位置常常不同又接近全局最優(yōu)位置。

論文中明確提出中心粒子在每次迭代中位于種群的中心。在粒子群中另外的N-1個例子在每次迭代中使用基本粒子群算法更新它們的位置，而中心粒子采用下列方程更新它的位置：

不像其它的粒子，中心粒子沒有速度，它除過粒子計算之外，像其他所有例子一樣參與所有的過程，例如適應值計算，競爭最好粒子等。此算法叫做中心粒子群優(yōu)化算法。中心粒子群算法的偽代碼定義如下：

開始粒子群算法

初始化（）；

T從1到 最大迭代次數(shù)

I從1到N-1

根據方程（更新位置）；

結束

更新中心離子的位置；

結束

結束粒子群優(yōu)化算法

正如上面提到的中心粒子具有潛在的有效解。如果中心粒子得結果僅僅是使它去尋找好的位置，它就不會極大的影響算法的性能。一個粒子太少是沒法與種群中的其它一般的粒子比較的。更重要的是中心粒子更有可能成為種群的社會極值。因此中心粒子能夠引導整個種群的未來的區(qū)域并且能夠加速收斂。

2 實驗

2.1 函數(shù)優(yōu)化

我們的實驗中要用到三個基準函數(shù)（都是最小化）第一個函數(shù)是Rosenbrock函數(shù)：

第二個函數(shù)是廣義Rosenbrock函數(shù)：

第三個函數(shù)是廣義Griewank函數(shù)：

在我們的實驗中對線性遞減權重粒子群算法和中心粒子去算法進行了比較。對這兩種算法制定相同的參數(shù)：慣性權重從0.9線性遞減到0.4；學習因子；等于；等于；每個方程用10，20，30的規(guī)模去檢測；相應的最大迭代次數(shù)被分別設為1000.1500和2000。為了檢測算法的可測量性，用四個種群（大小為N=20，40，80，160）對每個函數(shù)的不同維數(shù)進行檢測。中心粒子群算法包括一個中心粒子和N-1個普通粒子。在每個實驗中，對每個算法執(zhí)行100次。

2.2 神經網絡訓練

神經網絡訓練是一個復雜優(yōu)化問題。通常，目標是所有訓練模式的均方誤差?？勺円蜃影嘀睾推刂?。假設一個標準的網絡結構用D表示駛入單元，用M表示隱藏單元，用C表示輸出單元，可變因子的數(shù)目總之，神經網絡訓練是一個具有多個局部最小值的多空間優(yōu)化問題。

神經網絡訓練用 n份隨機劃分技術將數(shù)據劃分成大小相等的n份互斥數(shù)據。選出一組數(shù)據作為數(shù)據組，其他的組作為測試組。在我們的實驗中設定n為10.對人物分類采用S型轉移函數(shù)的三層前饋神經網絡 。對于神經網絡被設置為14個輸入 單元，5個隱藏單元，2個輸出單元，因此每個粒子的維數(shù)是87。對于糖尿病，神經網絡被設置為8個輸入單元，5個隱藏單元，2個輸出單元，因此每個粒子的維數(shù)是57。在上述實驗的函數(shù)優(yōu)化中，中心粒子群算法和線性遞減權重粒子群算法的所有參數(shù)除過之外，其他都是相同的。最大迭代次數(shù)被設置為1000，種群大小被設置為20.

3 結論

論文中我們提出了中心粒子群算法，而其中的中心粒子這一概念是從線性遞減權重粒子群算法中引進的。種群由普通的粒子組成，在每次迭代中中心粒子的位置隨著種群中心的改變而改變。在典型的粒子活動中，所有的粒子圍繞種群的中心擺動，并且逐漸趨于種群的中心。在運行過程中，中心粒子通常能獲得較好的位置而且變成全局最優(yōu)粒子，因此雖然中心粒子只有一個，它有更多的機會去引導種群的搜索并且極大的影響算法的性能。實驗結果表明中心粒子群算法的性能比線性遞減權重粒子群算法的性能要好。

[1] P.J.Angeline,Evolutionary optimization versus particle swarmoptimization:philosophy and performancedifferences,Lecture Notesin Computer Sc ience,vol.1447,Springer,Berlin,1998,pp.601-610.

[2] P.J.Angeline,Using selection to improve particle swarm optimization,Proceedings of the IEEE Conference on Evolutionary Computation,1998,pp. 84-89.

[3] R.Eberhart,Y.Shi,Comparing inertia weights and constrictionfactors in particle swarm optimization,Proceedings of the IEEE Conference on Evolutionary Computation,2000,pp.84-88.

[4] M.Clerc,J.Kennedy,The particle swarm-explosion, stability,andconvergence in a multidimensional complex space,IEEE Trans.Evol.Comput.6 (2002) 58-73.

[5] S.Baskar,P.Suganthan,A novel concurrent particle swarmoptimization,Proceedings of the Congress on Evolutionary Computation,2004,pp.792-796.

[6] C.Blake,C.J.Merz,UCI repository of machine learning databases,1998.

[7] S.C.Esquivel,C.A.Coello Coello,On the use of particle swarm optimization with multimodal functions,Proceedings of the Congress on Evolutionary Computation,2003,pp.1130-1136.

王丹，女，1981年11月，講師，所學專業(yè)：計算機科學與技術，現(xiàn)研究方向：計算機教學

Center particle swarm optimization algorithm

Wang Dan
（Liaoning Institute of Technology 121000）

The linear decreasing weight particle swarm optimization algorithm (LDWPSO) is mentioned in the concept of a center particle,and then puts forward center particle swarm optimization algorithm (PSO). The linear decreasing weight particle swarm optimization algorithm, unlike other general center particle particle, particle velocity center is not clear, and is always placed in the center of the particle swarm. In addition, the neural network training algorithm compared to particle swarm optimization algorithm and the linear decreasing weight particle swarm optimization algorithm, results show that: the performance is better than the linear optimization center particle swarm decreasing weight particle swarm optimization algorithm.

particle swarm optimization algorithm；neural network；evolutionary computation