諸云暉, 孫 俊
(江南大學(xué) 物聯(lián)網(wǎng)工程學(xué)院,江蘇 無錫 214122)
基于QPSO的模糊分類系統(tǒng)優(yōu)化設(shè)計*
諸云暉, 孫 俊
(江南大學(xué)物聯(lián)網(wǎng)工程學(xué)院,江蘇無錫214122)
提出了構(gòu)建模糊分類系統(tǒng)的有效方法。通過量子位選擇的方法對初始的模糊規(guī)則進(jìn)行優(yōu)化,減少種群規(guī)模、提高全局搜索能力,且可以大幅縮短訓(xùn)練時間,達(dá)到快速收斂、有效分類的目的。為了優(yōu)化模糊分類空間和減少模糊規(guī)則數(shù)目,提出了量子行為粒子群優(yōu)化(QPSO)算法,提高初始模糊分類系統(tǒng)的性能。實驗結(jié)果證明:優(yōu)化方法較之其他方法更有效率,準(zhǔn)確率更高。
模糊分類系統(tǒng); 模糊規(guī)則; 量子進(jìn)化; 量子行為粒子群優(yōu)化
模式分類是模式識別領(lǐng)域內(nèi)最重要的研究方向之一,作用是將每一個輸入量劃分到合適的分類集合中。模式分類包含了分類系統(tǒng)設(shè)計和分類系統(tǒng)應(yīng)用。在實際分類問題中,數(shù)據(jù)集往往包含了不確定性和噪聲干擾,可能導(dǎo)致離散的分類方法不能準(zhǔn)確地將數(shù)據(jù)分類到正確的集合當(dāng)中。模糊集合與模糊邏輯理論為更靈活地分析數(shù)據(jù)集數(shù)據(jù)提供了一種連續(xù)分類方法[1,2]。例如,利用模糊規(guī)則進(jìn)行分類系統(tǒng)設(shè)計被認(rèn)為是一種很好的分類方法。這種方法貼近于人類日常的知識表達(dá),所以可以用來設(shè)計出效率高、過程透明簡單、解釋性強(qiáng)的分類系統(tǒng)。在過去幾十年里,模糊分類方法廣泛地應(yīng)用于包括過程控制[3]、項目決策[4]、信號處理[5]在內(nèi)的各個研究和生產(chǎn)領(lǐng)域。
本文提出了一種新方法來改進(jìn)模糊分類系統(tǒng),即量子行為粒子群優(yōu)化(quantum-behaved particle swarm optimization,QPSO)算法[6]。作為PSO算法的變式算法,QPSO算法因其強(qiáng)大搜索能力解決了很多優(yōu)化問題。但對于多次應(yīng)用在連續(xù)搜索空間問題,QPSO不能直接應(yīng)用在一個由離散數(shù)據(jù)組成的優(yōu)化問題當(dāng)中。而模糊規(guī)則的優(yōu)化恰屬于離散問題。因此,文中將量子位[7]的概念結(jié)合到QPSO算法中,使之成為可以適用于離散問題的算法,并用此算法來改進(jìn)模糊分類規(guī)則。在這種算法中,每個個體粒子被編組成獨立的量子位。利用機(jī)器學(xué)習(xí)數(shù)據(jù)庫中的數(shù)據(jù)集對上述算法進(jìn)行了實驗測試,驗證了算法的有效性和準(zhǔn)確性。
量子計算,信息由一個量子位表示,其中,單個量子位值可以表示0或1或兩者的疊加。根據(jù)該信息的概率,疊加可能的狀態(tài)既可以是0也可以是1。量子狀態(tài)用波函數(shù)的希爾伯特空間構(gòu)建[8],定義如下
|Ψ〉=α|0〉+β|1〉
(1)
式中α和β為復(fù)數(shù),用來指定相應(yīng)狀態(tài)的概率振幅。|α|2給出了該量子位將在“0”狀態(tài)中找到的概率,|β|2給出了該量子位將在“1”狀態(tài)中發(fā)現(xiàn)的概率[9]。量子狀態(tài)的標(biāo)準(zhǔn)化要保證
|α|2+|β|2=1
(2)
PSO的應(yīng)用已經(jīng)擴(kuò)展到量子計算領(lǐng)域,稱為量子衍生粒子群優(yōu)化(quantum-inspired particle swarm optimization,QiPSO)算法。 QiPSO的主要思想是用量子角度θ更新粒子位置。在常規(guī)的PSO中速度更新方程被修改可以得到一個表示量子位新概率的新的量子角度
Δθn=w×Δθn-1+c1×rand()×(θgbestn-θn)+
c2×rand()×(θpbestn-θn)
(3)
在特征變量選擇中,每一個量子位用一個量子旋轉(zhuǎn)角度θ定義來表示一個特征。在這種情況下,量子坍縮態(tài)的“1”值表示特征被選擇,“0”值表示特征未被選擇。
在模糊分類系統(tǒng)中,初始化操作構(gòu)建了第一代種群粒子;確定輸入空間劃分基于隨機(jī)的個體方法;模糊規(guī)則的類別輸出標(biāo)號和置信度依賴于計算輸入空間中的訓(xùn)練數(shù)據(jù)。在接下來的每一次迭代計算過程中,QPSO算法劃分每個輸入空間并計算模糊規(guī)則的分類輸出標(biāo)號和置信度。
1)種群編碼
一般的模糊分類系統(tǒng)直接根據(jù)專家經(jīng)驗或者實踐經(jīng)驗構(gòu)建模糊規(guī)則,雖然保證了一定的合理性,但很難達(dá)到快速建立分類系統(tǒng)的目的,而且對于比較復(fù)雜的研究對象,構(gòu)建的分類系統(tǒng)會出現(xiàn)模糊規(guī)則較大冗余的情況。利用種群編碼再進(jìn)行量子選擇可以避免上述問題。
量子進(jìn)化算法中的每個種群個體包含了一個模糊分類系統(tǒng)中所有IF-THEN型模糊規(guī)則的前件,每個個體進(jìn)行二進(jìn)制編碼后,均包含了特征分量控制部分和模糊劃分控制部分,兩部分共同作用對于輸入數(shù)據(jù)的每個個體進(jìn)行輸入空間劃分。
2)設(shè)定適應(yīng)度函數(shù)
基于QiPSO和量子位表達(dá)的模糊分類系統(tǒng)的重點就是要尋找最優(yōu)的個體,盡可能提高分類系統(tǒng)的分類正確率,即最大的正確分類樣本的個數(shù);同時也要使得模糊分類模型中含有較少的模糊規(guī)則個數(shù)。設(shè)定的適應(yīng)度函數(shù)為
F(t)=w1×f1(t)+w2×Ns(t)+w3×Nr(t)
(4)
3)種群更新
在量子理論中,利用量子門變換矩陣來實現(xiàn)各個狀態(tài)之間的轉(zhuǎn)移,同時可以利用量子旋轉(zhuǎn)門的旋轉(zhuǎn)角度來完成染色體的變異過程,在變異的過程中可以產(chǎn)生新的個體,從而達(dá)到加快收斂的目的。在0/1編碼的問題中,利用式(5)來設(shè)計量子更新算子
(5)
采用QiPSO的方法對模糊分類系統(tǒng)進(jìn)行設(shè)計,具體設(shè)計步驟如下:
1)對種群相應(yīng)參數(shù)進(jìn)行初始化設(shè)置包括算法的迭代代數(shù)G,種群的個數(shù)PopSize,輸入變量位個數(shù)l,量子操作(量子旋轉(zhuǎn)門角度θ),重疊因子μ,適應(yīng)度函數(shù)參數(shù)w1,w2和w3。
2)令g=1,隨機(jī)產(chǎn)生第一代的初始種群個體。
3)令k=1,表示當(dāng)前種群的第k個個體。
4)根據(jù)第k個個體的二進(jìn)制編碼確定模糊規(guī)則的特征分量個數(shù)和模糊劃分個數(shù),從而確定模糊規(guī)則數(shù)目。
5)由訓(xùn)練數(shù)據(jù)確定每條模糊規(guī)則的隸屬度函數(shù),從而確定模糊分類系統(tǒng)模型的IF-THEN型模糊規(guī)則的前件內(nèi)容,即IF部分。
6)運用隸屬度函數(shù)對訓(xùn)練數(shù)據(jù)進(jìn)行相應(yīng)的計算得出輸出類別標(biāo)號及置信度,從而確定模糊分類系統(tǒng)模型的IF-THEN型模糊規(guī)則的后件內(nèi)容,即THEN部分。
7)記錄該模糊分類系統(tǒng)模型的模糊規(guī)則數(shù)目,并利用測試數(shù)據(jù)來檢驗所建立的模糊分類系統(tǒng)模型能正確進(jìn)行分類的數(shù)據(jù)個數(shù)。
8)根據(jù)適應(yīng)度函數(shù)計算出第k個個體的適應(yīng)度值。
9)令k=k+1,若k 10)令g=g+1,若g 11)利用量子操作(如量子旋轉(zhuǎn))來產(chǎn)生下一代的種群個體,然后跳至步驟(3)。 12)找出適應(yīng)度值最高的種群個體,由具有最大適應(yīng)度值的種群決定模糊規(guī)則庫確定最終模糊分類系統(tǒng)模型。 為了測試算法的性能,選取了UCI機(jī)器學(xué)習(xí)數(shù)據(jù)庫的3個數(shù)據(jù)集進(jìn)行實驗,分別為:1)比馬糖尿病數(shù)據(jù)集Pima。2)文檔頁面模塊數(shù)據(jù)集Blocks。3)心臟CT掃描圖像數(shù)據(jù)集Hearts。從分類精確度、模糊規(guī)則數(shù)目同分類運行時間等指標(biāo)入手,比較PSO的分類模型同其他算法優(yōu)化的分類模型之間的性能優(yōu)劣。 每個數(shù)據(jù)集都經(jīng)過遺傳算法(genetic algorithm,GA)、量子進(jìn)化算法(quantum evolution algorithm,QEA)、QPSO算法的性能測試,測試參數(shù)設(shè)置為:PopSize=200,G=81,RunningTimes=11。算法結(jié)果如表1所示。 表1 模糊分類性能綜合分析 從表1中可以看出:直接模糊分類系統(tǒng)建模的模型規(guī)則數(shù)據(jù)量比較大,初始模型的模糊規(guī)則數(shù)會隨著屬性個數(shù)的增加和輸入變量的增加呈現(xiàn)指數(shù)性的增加。雖然所建模型的優(yōu)點是精確性較高,但是解釋性差,系統(tǒng)規(guī)模巨大,不適合實際的工程運用。利用PSO算法和量子化表達(dá)建立的模糊分類模型是在直接模型建模的基礎(chǔ)上進(jìn)行的優(yōu)化過程,精簡了初始分類模型的結(jié)構(gòu),提高了系統(tǒng)的運行效率,也使得模型的解釋性得到提高。 本文重點研究了模糊分類系統(tǒng)的建模方法和實際工程的分類應(yīng)用,主要內(nèi)容包括量子化表達(dá)理論和群體智能算法在模糊分類系統(tǒng)中的具體應(yīng)用,并對不同數(shù)據(jù)庫進(jìn)行仿真分類模擬,比較分類結(jié)果。根據(jù)實驗結(jié)果分析出,利用量子化理論和PSO算法得出的模糊分類系統(tǒng)模型在保證分類精度的前提下,精簡了系統(tǒng)結(jié)構(gòu),降低了模糊規(guī)則庫規(guī)模,提高了分類模型的解釋性,有較高的實際應(yīng)用價值。 [1] Zadeh L A.Fuzzy logic[J].Computer,1988,21(4):83-93. [2] Zadeh L A.Fuzzy sets[J].Information and Control,1965,8(3):338-353. [3] 謝黎明,查富生,李國慧.快速運動過程中雙足機(jī)器人重心穩(wěn)定的自適應(yīng)模糊控制[J].機(jī)床與液壓,2004(9):65-67. [4] 趙振武,唐萬生.基于模糊模擬的風(fēng)險投資項目決策[J].模糊系統(tǒng)與數(shù)學(xué),2007,21(4):150-155. [5] 張國光.采用ZigBee和模糊PID控制的水聲信號采集系統(tǒng)[J].艦船電子工程,2015(9):156-159. [6] Sun J,Feng B,Xu W.Particle swarm optimization with particles having quantum behavior[C]∥2004 Congress on Evolutionary Computation,CEC2004,IEEE,2004:1571-1580. [7] Prince J D.Quantum computing:An Introduction[J].Journal of Electronic Resources in Medical Libraries,2014,11(3):155-158. [8] Han K H,Kim J H.Quantum-inspired evolutionary algorithm for a class of combinatorial optimization[J].IEEE Transactions on Evolutionary Computation,2002,6(6):580-593. [9] Han K H,Kim J H.Genetic quantum algorithm and its application to combinatorial optimization problem[C]∥Proceedings of 2000 Congress on Evolutionary Computation,IEEE,2000:1354-1360. OptimizationdesignoffuzzyclassifcationsystembasedonQPSO* ZHU Yun-hui, SUN Jun (SchoolofInternetofThingsEngineering,JiangnanUniversity,Wuxi214122,China) An effective method for construction of fuzzy classification system(FCS)is proposed.In FCS,the initial fuzzy rules are optimized with a quantum bit which has many unique advantages such as small population size,fast convergence,short training time and strong global search ability.After then,in order to accomplish the optimization for the fuzzy classification space and reduce number of fuzzy rules,quantum-behaved particle swarm optimization(QPSO)algorithm is proposed to improve characteristics of initial FCS.The experimental result demonstrates that this method is more efficient and accurate than other methods without QPSO. fuzzy classification system; fuzzy rules; quantum evolution; quantum-behaved particle swarm optimization(QPSO) 10.13873/J.1000—9787(2017)10—0089—03 2016—10—09 國家自然科學(xué)基金資助項目(61672263) TP 391.4 A 1000—9787(2017)10—0089—03 諸云暉(1991-),男,通訊作者,碩士研究生,主要研究方向為模式識別、模糊系統(tǒng),E—mail:cloudhow10211@126.com。2 實驗與分析
3 結(jié)束語