仿生智能優(yōu)化算法及其在盲源分離中的應(yīng)用

李著成，黃祥林

(中國傳媒大學(xué) 理工學(xué)部，北京 100024)

?

仿生智能優(yōu)化算法及其在盲源分離中的應(yīng)用

李著成，黃祥林

(中國傳媒大學(xué) 理工學(xué)部，北京 100024)

傳統(tǒng)盲源分離(Blind Source Separation，BSS)采用梯度方法對(duì)目標(biāo)函數(shù)進(jìn)行優(yōu)化來確定最優(yōu)解，但梯度算法無法解決收斂速度和穩(wěn)態(tài)精度兩者之間的矛盾，而且可能落入局部最優(yōu)。為了解決上述問題，仿生智能優(yōu)化算法逐漸被引入到BSS中，取得了傳統(tǒng)優(yōu)化算法無法比擬的優(yōu)良特性，為BSS問題優(yōu)化求解提供了一條全新的途徑。介紹了幾種仿生智能優(yōu)化算法，描述了BSS的基本概念和數(shù)學(xué)模型，最后對(duì)幾種仿生智能優(yōu)化算法在BSS的應(yīng)用情況進(jìn)行了總結(jié)。

仿生智能優(yōu)化算法；盲源分離；獨(dú)立分量分析

1 仿生智能優(yōu)化算法

仿生智能優(yōu)化算法源于自然界的生物現(xiàn)象，是人們對(duì)這些現(xiàn)象觀察和分析后得出的模擬算法。相對(duì)于傳統(tǒng)優(yōu)化方法，這類算法對(duì)解決復(fù)雜優(yōu)化問題通常具有效率較高并且能夠并行處理等優(yōu)點(diǎn)，對(duì)于解決非連續(xù)、多峰、甚至一些無法建立數(shù)學(xué)模型的優(yōu)化問題時(shí)取得了傳統(tǒng)優(yōu)化算法無法比擬的效果。因此，仿生智能優(yōu)化算法逐漸形成了現(xiàn)代優(yōu)化算法研究領(lǐng)域的熱點(diǎn)。

1.1 粒子群優(yōu)化算法

假設(shè)一群鳥在某個(gè)區(qū)域隨機(jī)搜尋食物，如果這個(gè)區(qū)域里只有一塊食物，那么找到食物的最簡單有效的策略就是搜尋目前距離食物最近的鳥的周圍區(qū)域。Kennedy和Eberhart[1]正是從這種現(xiàn)象得到啟示于1995年提出了粒子群優(yōu)化算法(Particle Swarm Optimization，PSO)，一種并行搜索的優(yōu)化算法。

在PSO中，這些鳥被稱為“粒子”(Particle)，搜索空間中每一只鳥的位置對(duì)應(yīng)于問題的可能解，每個(gè)粒子都有自己的位置和速度(決定飛行的方向和距離)，還有一個(gè)由被優(yōu)化函數(shù)決定的適應(yīng)度值。然后粒子們就追隨當(dāng)前的適應(yīng)度值高的粒子在解空間中搜索最優(yōu)解。在每次迭代中，粒子通過兩個(gè)極值來更新自己：一個(gè)為局部極值，就是粒子本身目前所找到的最優(yōu)解；另一個(gè)是全局極值，是整個(gè)種群目前的最優(yōu)解。PSO流程圖見圖1。

圖1 粒子群優(yōu)化算法流程圖

1.2 人工魚群優(yōu)化算法

2001年李曉磊等[2]提出的人工魚群算法采用了自下而上的尋優(yōu)模式(流程圖見圖2)，將自然界魚群的覓食行為細(xì)化為覓食、聚群和追尾，魚群個(gè)體通過這些行為實(shí)現(xiàn)局部尋優(yōu)，最終達(dá)到全局尋優(yōu)的目標(biāo)。算法僅需要比較目標(biāo)函數(shù)值，對(duì)算法各參數(shù)的依賴性不強(qiáng)，而且有一定的自適應(yīng)能力。不僅多條人工魚個(gè)體可以并行搜索，具有較好的全局尋優(yōu)能力，而且在平穩(wěn)環(huán)境中對(duì)于某些因素造成的極值點(diǎn)遷移，該算法具有快速跟蹤的能力。

圖2 人工魚群算法流程圖

1.3 蟻群優(yōu)化算法

眾所周知，螞蟻覓食是一種群體行為，每只螞蟻在尋找食物的過程中都會(huì)在它爬行過的路徑上分泌一種化學(xué)物質(zhì)，這種化學(xué)物質(zhì)被稱為信息素(Pheromone)。每條路徑上信息素的多少會(huì)影響螞蟻對(duì)路徑的選擇，信息素濃度越高的路徑被螞蟻選擇的可能性越大。整個(gè)蟻群就是通過這種信息素進(jìn)行相互協(xié)作和反饋，從而使其他路徑上的螞蟻都最終聚集到最短的那條路徑上。蟻群算法(Ant Colony Optimization，ACO)[3]由意大利學(xué)者Dorigo在1991年提出，它主要是模擬螞蟻的上述覓食行為，即尋到一條蟻巢至食物間最短路徑來尋找全局最優(yōu)解。

1.4 人工蜂群優(yōu)化算法

德國昆蟲學(xué)家Frisch研究發(fā)現(xiàn)蜜蜂以一種特殊的跳舞的方式來傳達(dá)蜜源的信息：采到花粉的蜜蜂，返回蜂巢后會(huì)跳一支圓圈舞蹈或“∞”字形舞蹈來指出蜜源的所在地(舞蹈的中軸線與地心引力的夾角表示蜜源方向和太陽方向的夾角)，舞蹈持續(xù)時(shí)間的長短表明到蜜源的距離遠(yuǎn)近?；谏鲜霭l(fā)現(xiàn)，Karaboga等[4]提出了人工蜂群算法(Artificial Bee Colony Algorithm，ABC)。在該算法中，蜂群由偵查蜂、引領(lǐng)蜂以及等候蜂組成：偵查蜂負(fù)責(zé)隨機(jī)尋找蜜源的任務(wù)；引領(lǐng)蜂負(fù)責(zé)到已找到的蜜源上采蜜的任務(wù)；跟隨蜂負(fù)責(zé)觀察引領(lǐng)蜂的舞蹈并決定選擇哪個(gè)蜜源。在ABC中，蜜源的位置代表了問題的一個(gè)可行解，引領(lǐng)蜂的數(shù)量等于蜜源的數(shù)量，因?yàn)槊恐灰I(lǐng)蜂僅能對(duì)應(yīng)一個(gè)蜜源。

人工蜂群的搜索活動(dòng)可概括如下：引領(lǐng)蜂對(duì)對(duì)應(yīng)的蜜源進(jìn)行一次鄰域搜索，選擇適應(yīng)度較高的蜜源；所有引領(lǐng)蜂完成搜索后，通過舞蹈與跟隨蜂進(jìn)行信息交流，跟隨蜂按照此信息以一定概率選擇蜜源，然后對(duì)鄰域進(jìn)行一次搜索，并通過比較保留較好的解；即當(dāng)解陷入局部時(shí)，引領(lǐng)蜂放棄目前的蜜源變?yōu)閭刹榉洳㈤_始搜索新的蜜源。

1.5 螢火蟲優(yōu)化算法

自然界，螢火蟲通過釋放一種稱之為熒光素的物質(zhì)來吸引伴侶或獵物，熒光素越高就越有吸引力，螢火蟲優(yōu)化算法(Glowworm Sworm Optimization，GSO)[5]的提出源于對(duì)這一現(xiàn)象的研究。該算法摒棄了螢火蟲發(fā)光的生物學(xué)意義，只利用其發(fā)光的特性來尋優(yōu)：螢火蟲個(gè)體在決策半徑內(nèi)尋找熒光素較高的個(gè)體組成鄰域，并向鄰域內(nèi)位置較優(yōu)的螢火蟲移動(dòng)，通過對(duì)上述行為的迭代計(jì)算最終尋找到螢火蟲群的最優(yōu)位置的。每只螢火蟲都有自己的決策域，決策域大小可以動(dòng)態(tài)改變：如果決策域內(nèi)的螢火蟲數(shù)目較少，可以適當(dāng)擴(kuò)大決策域；反之可以適當(dāng)縮小決策域。GSO流程圖見圖3。

圖3 螢火蟲優(yōu)化算法流程圖

1.6 細(xì)胞膜優(yōu)化算法

細(xì)胞膜是細(xì)胞表面具有物質(zhì)運(yùn)轉(zhuǎn)功能的一層薄膜，它對(duì)進(jìn)出細(xì)胞的物質(zhì)起過濾作用，以此保證細(xì)胞內(nèi)環(huán)境的穩(wěn)定，維持細(xì)胞各種活動(dòng)正常進(jìn)行。算法運(yùn)用到的生物學(xué)定義：脂溶性物質(zhì)由膜的高濃度側(cè)向低濃度側(cè)的擴(kuò)散稱為自由擴(kuò)散；非脂溶性物質(zhì)順濃度差進(jìn)行的跨膜擴(kuò)散稱為協(xié)助擴(kuò)散；離子或小分子物質(zhì)的逆濃度差的跨膜運(yùn)轉(zhuǎn)稱為主動(dòng)運(yùn)輸。

細(xì)胞膜算法(Cell Membrane Optimization，CMO)[6]基于上述細(xì)胞膜的特性及其物質(zhì)轉(zhuǎn)運(yùn)方式，把物質(zhì)劃分為高濃度物質(zhì)群和低濃度物質(zhì)群，高濃度物質(zhì)群又分為高濃度脂溶性物質(zhì)和高濃度非脂溶性物質(zhì)。在CMO算法中，一個(gè)物質(zhì)對(duì)應(yīng)優(yōu)化問題的一個(gè)解，若干個(gè)物質(zhì)構(gòu)成CMO優(yōu)化計(jì)算的一個(gè)種群。CMO流程圖見圖4。

圖4 細(xì)胞膜優(yōu)化算法流程圖

2 盲源分離

2.1 概述

通常情況下，諸如腦電圖、胎兒心電圖、雷達(dá)天線陣列信號(hào)、麥克風(fēng)采集到的聲音等都是由若干個(gè)信號(hào)混疊而成的混合信號(hào)，盲源分離指的是在沒有任何先驗(yàn)知識(shí)的情況下，僅僅從得到的多個(gè)混合信號(hào)提取或恢復(fù)源信號(hào)的一項(xiàng)信號(hào)處理技術(shù)。著名的“雞尾酒會(huì)”問題[7]就是一個(gè)典型的BSS的例子：在很多人的聚會(huì)上，充斥著如多人交談、音樂、酒杯撞擊等各種聲音，但是人們卻能夠容易清楚地識(shí)辨出感興趣的聲音。

BSS實(shí)際上是一個(gè)優(yōu)化求解問題，方法有很多，但目標(biāo)基本一致。通常的方法是首先針對(duì)源信號(hào)和信道模型進(jìn)行分析，對(duì)源信號(hào)的統(tǒng)計(jì)特性和混合過程做出合理假設(shè)，再構(gòu)建一個(gè)合適的目標(biāo)函數(shù)，最后尋找一個(gè)最佳的優(yōu)化算法來搜索目標(biāo)函數(shù)的極值點(diǎn)，以此實(shí)現(xiàn)源信號(hào)的盲分離。目標(biāo)函數(shù)決定了算法實(shí)現(xiàn)的可能性和實(shí)現(xiàn)途徑，優(yōu)化算法則決定了算法的收斂速度和精度等。

盲源分離已近成為現(xiàn)代信號(hào)處理領(lǐng)域的研究熱點(diǎn)，在數(shù)字通信、語音處理、圖像處理等領(lǐng)域具有非常重要的理論意義和廣泛的應(yīng)用價(jià)值。

2.2 數(shù)學(xué)模型

(1)

(2)

圖5 BSS實(shí)現(xiàn)過程

(3)

(4)

3 仿生智能優(yōu)化算法在BSS的應(yīng)用

(1)文獻(xiàn)[11]最早將粒子群算法引入BSS，并通過仿真實(shí)驗(yàn)1(兩個(gè)混合語言源信號(hào))和實(shí)驗(yàn)2(一個(gè)語言源信號(hào)和兩個(gè)高斯噪聲源信號(hào))證實(shí)了PSO-BSS的有效性。隨后文獻(xiàn)[12]提出了改進(jìn)的粒子群算法并將其應(yīng)用到BSS中，通過與固定步長方法和自適應(yīng)步長方法的比較實(shí)驗(yàn)證明(見圖6)，新算法實(shí)現(xiàn)了收斂速度快同時(shí)收斂精度高的雙重目標(biāo)。此后許多基于修正粒子群的BSS算法陸續(xù)被提出，推動(dòng)著盲分離技術(shù)不斷向前發(fā)展。

(2)文獻(xiàn)[13]將人工魚群算法引入到BSS中，提出了基于AFSA的BSS算法，該算法通過人工魚的覓食，聚群和追尾行為，更新人工魚的位置，最終得到全局最優(yōu)解即最佳分離矩陣。與粒子群算法相比，基于魚群算法的BSS全局收斂性更好，但不足之處是算法涉及參數(shù)較多，而且算法性能受參數(shù)的選取影響較大。文獻(xiàn)[14]利用混沌(Chaos)搜索的遍歷性和偽隨機(jī)性，提出了混沌人工魚群算法并將其應(yīng)用到獨(dú)立分量分析(ICA)問題中，提出了CAFSA_ICA算法，通過與FastICA對(duì)采集到腦電圖混合信號(hào)分離的對(duì)比實(shí)驗(yàn)，證實(shí)了新算法在收斂速度和精度兩方面都有明顯改善。

圖6 串音誤差對(duì)比圖[12]

(3)文獻(xiàn)[15]通過實(shí)驗(yàn)發(fā)現(xiàn)將人工蜂群優(yōu)化算法應(yīng)用到線性BSS中能夠有效避免算法陷入局部最優(yōu)解，和PSO算法在分離語言信號(hào)和圖像信號(hào)的對(duì)比實(shí)驗(yàn)證實(shí)新算法在分離數(shù)量上少于4個(gè)的源信號(hào)形成的混合信號(hào)時(shí)分離精度要優(yōu)于PSO，但收斂速度要比PSO慢些。文獻(xiàn)[16]將人工蜂群算法應(yīng)用到BSS中，提出一種兩階段蜂群尋優(yōu)算法，先全局搜索后局部搜索，相比已有方法，該方法在源信號(hào)為語音等弱稀疏信號(hào)或源信號(hào)個(gè)數(shù)較多時(shí)具有良好性能，魯棒性強(qiáng)、收斂精度高并且計(jì)算量小。

(4)文獻(xiàn)[17]的BSS目標(biāo)函數(shù)基于分離信號(hào)的互信息，將蟻群優(yōu)化算法引入到線性混合盲源的分離中，利用蟻群優(yōu)化算法全局能力強(qiáng)、正反饋、魯棒性強(qiáng)的特點(diǎn)，克服了傳統(tǒng)梯度優(yōu)化算法的不足，在分離低維盲信號(hào)方面取得了較好的效果，然而在分離高維盲信號(hào)方面該算法欠佳。文獻(xiàn)[18]采用增強(qiáng)的搜索策略，提出一種改進(jìn)的蟻群算法然后應(yīng)用到BSS中，利用基于峭度的非高斯最大化目標(biāo)函數(shù)，通過仿真驗(yàn)證了新算法較FastICA性能更高，有效地解決了電網(wǎng)頻率非固定值以及傳統(tǒng)蟻群算法易局部收斂和收斂速度慢等問題。

4 結(jié)論

盲源分離早先采用梯度法對(duì)目標(biāo)函數(shù)進(jìn)行尋優(yōu)，造成了收斂速度與分離精度之間的矛盾，算法收斂性能受步長和初始值影響較大，易陷入局部極值點(diǎn)。針對(duì)以上問題，近年來不斷有學(xué)者將一些智能仿生優(yōu)化算法引入到BSS，有效地克服了傳統(tǒng)BSS優(yōu)化算法的不足，顯示了其在未來廣闊的應(yīng)用前景。但目前這些仿生優(yōu)化算法在BSS的應(yīng)用還處于起始階段，理論系統(tǒng)還沒有形成，研究空白之處還較多，比如這些算法的應(yīng)用領(lǐng)域和應(yīng)用場合(穩(wěn)態(tài)或非穩(wěn)態(tài)、線性瞬時(shí)混合或卷積混合)、參數(shù)的選擇、彼此之間性能優(yōu)劣的比較等等，這都需要相關(guān)學(xué)者在未來深入研究。

[1]Kennedy J，Eberhart R.Particle swarm optimization[J].Proc of IEEE International Conference on Neural Networks，Perth，Australia：IEEE，1995，4：1942-1948.

[2]李曉磊，錢積新.人工魚群算法：自下而上的尋優(yōu)模式 [C].過程系統(tǒng)工程 2001 年會(huì)論文集，北京：中國石化出版社，2001.

[3]Dorigo M and Maniezzo V，Colorni A.The ant system：An autocatalytic optimizing process[R].Technical report，1991.

[4]Karaboga D.An Idea Based on Honey Bee Swarm for Numerical Optimization[R].TECHNICAL REPORT-TR06，Erciyes University，Engineering Faculty，Computer Engineering Department，2005.

[5]Krishnanand K N，Ghose D.Glowworm swarm based optimization algorithm for multimodal functions with collective robotics applications[J].Multiagent and Grid Systems，2006，2(3)：209-222.

[6]譚世恒，余衛(wèi)宇.一種新型的全局優(yōu)化算法——細(xì)胞膜優(yōu)化算法[J].計(jì)算機(jī)應(yīng)用研究，2011，28(2)：455-457.

[7]J Kulchandani，K J Dangarwala.Blind Source Separation via Independent Component Analysis：Algorithms and Applications[J].International Journal of Computer Science and Information Technologies，2014，5(5)：6739-6743.

[8]Bell A J，Sejnowski T J.An information-maximization approach to blind separation and blind deconvolution[J].Neural computation，1995，7(6)：1129-1159.

[9]Yang H H，Amari S.Adaptive online learning algorithms for blind separation：maximum entropy and minimum mutual information[J].Neural computation，1997，9(7)：1457-1482.

[10]Cardoso J F.Infomax and maximum likelihood for blind source separation[J].IEEE Signal processing letters，1997.

[11]Gao Y，Xie S.A blind source separation algorithm using particle swarm optimization[C].Proc of the IEEE 6th Circuits and Systems Symposium on Emerging Technologies：Frontiers of Mobile and Wireless Communication.IEEE，2004，1，297-300.

[12]Lin C L，Hsieh S T，Sun T Y.PSO-based learning rate adjustment for blind source separation[C].Proc of 2005 International Symposium on Intelligent Signal Processing and Communication Systems，IEEE，2005，181-184.

[13]劉俊豪.基于粒子群算法和魚群算法的盲源分離的研究[D].太原理工大學(xué)，2006.

[14]Huang L，Wang H.A new ICA method based on chaos artificial fish swarm algorithm[J].2013 Fourth International Conference on Intelligent Control and Information Processing(ICICIP).IEEE，2013，299-303.

[15]Mavaddaty S，Ebrahimzadeh A.A comparative study of bees colony algorithm for blind source separation[J].2012 20th Iranian Conference on Electrical Engineering(ICEE)，IEEE，2012，1172-1177.

[16]陳永強(qiáng)，王宏霞.一種強(qiáng)魯棒性的盲分離混合矩陣估計(jì)方法[J].電子與信息學(xué)報(bào)，2012(09)：2039-2044.

[17]Zhang N，Liu T.The application of ant colony optimization algorithm in linear-combination blind source separation problem[J].2nd International Congress on Image and Signal Processing，IEEE，2009，1-4.

[18]張立臣，金運(yùn)策，徐步權(quán).基于改進(jìn)蟻群算法的獨(dú)立分量諧波檢測方法[J].水電能源科學(xué)，2013(06)：218-221.

(責(zé)任編輯：宋金寶，昝小娜)

Bionic Intelligent Optimization Algorithm and Its Application to Blind Source Separation

LI Zhu-cheng，HUANG Xiang-lin

(Faculty of Science and Technology，Communication University of China，Beijing 100024，China)

Traditional blind source separation(BSS)uses gradient-based methods to optimize the objective function，but these approaches does not resolve the contradiction between convergence speed and steady-state error，and may fall into poor local optimum.To solve the above problems，bionic intelligent optimization algorithms have been gradually introduced to BSS.Experiments show that the performance of these algorithms is better than that of traditional optimization algorithms，and they provide useful insights for the developing of new learning algorithms for BSS problems.This paper first introduces several bionic intelligent optimization algorithms，then describes the basic concepts and mathematical model of BSS，finally summarizes the applications of several bionic intelligent optimization algorithms in BSS.

bionic intelligent optimization algorithm；blind source separation；independent component analysis

2016-07-05

李著成(1975-)，男(漢族)，山西人，中國傳媒大學(xué)博士研究生，E-mail：lizhucheng@cuc.edu.cn.

TN911.72

A

1673-4793(2016)06-0066-06