改進(jìn)粒子群優(yōu)化算法的高光譜波段選擇

張 劉， 葉 楠， 馬靈玲， 汪 琪， 呂雪瑩， 章家保*

1. 吉林大學(xué)儀器科學(xué)與電氣工程學(xué)院， 吉林 長(zhǎng)春 130061 2. 中國(guó)科學(xué)院空天信息創(chuàng)新研究院中國(guó)科學(xué)院定量遙感信息技術(shù)重點(diǎn)實(shí)驗(yàn)室， 北京 100094

引 言

由于高光譜數(shù)據(jù)量十分龐大， 受限于通信帶寬和處理速度， 往往無(wú)法實(shí)時(shí)傳輸處理全部數(shù)據(jù)。 對(duì)于有實(shí)時(shí)處理需求的任務(wù)， 高光譜載荷通常僅實(shí)時(shí)下傳數(shù)個(gè)譜段進(jìn)行快速處理。 因此， 如何選擇有代表性的譜段， 使得在選出的波段子集上能高精度地完成實(shí)時(shí)地物分類(lèi)和目標(biāo)檢測(cè)任務(wù)， 是高光譜遙感應(yīng)用中待解決的一大問(wèn)題[1-2]。

高光譜圖像波段選擇的機(jī)理可看成是一個(gè)非線(xiàn)性函數(shù)求解極值點(diǎn)問(wèn)題。 近年來(lái)， 許多優(yōu)化方法應(yīng)用到高光譜波段選擇上， 例如遺傳算法[3-4]、 差分算法[5]、 杜鵑搜索[6]、 蟻群算法[7]、 粒子群算法[8-9]等。 Clerc[10]將混合編碼差分算法與粒子群算法結(jié)合用于高光譜圖像降維。 王立國(guó)等[7]利用蟻群算法結(jié)合遺傳算法進(jìn)行高光譜波段選擇， 認(rèn)為是一種兼顧時(shí)間效率和精解效率的有效方法。

粒子群優(yōu)化算法是一種仿生自然現(xiàn)象的元啟發(fā)式算法， 具有結(jié)構(gòu)簡(jiǎn)單、 參數(shù)少易于操作、 搜索速度快的優(yōu)勢(shì)。 Ding[8]將粒子群算法應(yīng)用在高光譜波段選擇中， 但受限于傳統(tǒng)粒子群算法易陷入局部極值和早熟的問(wèn)題， 所選取的波段不是全局最佳值。 為了解決該問(wèn)題。 高鷹等[11]將模擬退火算法與PSO算法結(jié)合(SAPSO)， 通過(guò)模擬退火算法的“概率突跳特性”使傳統(tǒng)粒子群算法具有了跳出局部極值的能力， 但其產(chǎn)生新解的鄰域仍集中在局部區(qū)域內(nèi)， 降低了對(duì)新解的利用率， 同時(shí)在針對(duì)高維復(fù)雜函數(shù)全局尋優(yōu)時(shí)， SAPSO易出現(xiàn)早熟和穩(wěn)定性差的問(wèn)題[12]以致于無(wú)法尋找到全局最優(yōu)值。

針對(duì)傳統(tǒng)粒子群算法易陷入局部極值和穩(wěn)定性較差問(wèn)題， 提出了一種改進(jìn)粒子群優(yōu)化算法(MPSO)， 在利用模擬退火-粒子群算法中“概率突跳特性”的同時(shí)結(jié)合“淘汰機(jī)制”豐富種群的多樣性， 有望提高算法的全局搜索能力和穩(wěn)定性， 以更加精準(zhǔn)、 高效地檢索到高光譜有效波段。 充分考慮高光譜數(shù)據(jù)中不同地物的類(lèi)間距離構(gòu)建了優(yōu)化目標(biāo)函數(shù)， 采用改進(jìn)粒子群算法進(jìn)行全局尋優(yōu)， 以更精確的選取出波段組合。

1 改進(jìn)粒子群優(yōu)化算法

1.1 傳統(tǒng)粒子群優(yōu)化算法

種群由i個(gè)粒子組成， 每個(gè)粒子攜帶D維信息， 粒子當(dāng)前位置視為優(yōu)化問(wèn)題中的一個(gè)可行解， 粒子的移動(dòng)僅與位置和速度相關(guān)， 分別用xit和vit表示粒子的位置和速度

(1)

其中，Ld和Ud為粒子可行解范圍的上限和下限。

(2)

式(2)中，vmin和vmax為粒子搜索速度的上限和下限。

為獲取優(yōu)化的最佳解， 所有粒子需要不斷的進(jìn)行迭代以更新種群的位置和速度， 速度和位置的更新公式如式(3)和式(4)所示

(3)

(4)

通過(guò)粒子的速度更新公式可知， 在搜索過(guò)程中所有粒子僅向全局最優(yōu)值和自身歷史最佳值的方向步進(jìn)， 在迭代后期種群中的粒子趨向于同一位置， 粒子失去活躍度， 最終幾乎以“零速度”步進(jìn)， 算法的全局尋優(yōu)性能降低。

1.2 改進(jìn)粒子群優(yōu)化算法

為彌補(bǔ)傳統(tǒng)粒子群優(yōu)化算法的缺陷， 首先引入模擬退火中的“概率突跳特性”， 在尋優(yōu)過(guò)程中引入的隨機(jī)因素， 使算法具有跳出局部極值的能力。

由式(3)可知， 粒子在迭代的最初階段具有較大的速度， 在全局范圍內(nèi)進(jìn)行大面積搜索以確定最優(yōu)解的可能范圍， 在迭代后期粒子將在小鄰域范圍開(kāi)展深度搜索。 若每次迭代新解優(yōu)于當(dāng)前解， 則新解完全被接受， 反之， 以一定概率接受新解， 以Metropolis準(zhǔn)則定義解的接收程度， 由式(5)表示。

(5)

但是在迭代后期， 新解的范圍仍然集中在相鄰區(qū)域， 降低了算法對(duì)新解的利用率。

為解決此問(wèn)題， 引入了淘汰機(jī)制， 若種群搜索新解的范圍一直局限于某個(gè)區(qū)域內(nèi)， 則將此解淘汰， 選取其他粒子補(bǔ)充到種群中， 通過(guò)擴(kuò)大新解的搜索范圍保持種群的多樣性。 同時(shí)隨著解之間差異的縮小接受壞解的概率也隨之減小， 以種群中新解與當(dāng)前解之間的趨近程度作為評(píng)判標(biāo)準(zhǔn), 評(píng)判標(biāo)準(zhǔn)取經(jīng)驗(yàn)值1.00×10-9。 若種群新解與當(dāng)前解整體的趨近程度小于預(yù)設(shè)值時(shí)， 則淘汰新解并在種群中補(bǔ)充新粒子。 當(dāng)新解與當(dāng)前解之間的數(shù)值差異較大時(shí)， 保留新解的概率變大， 擴(kuò)大了搜索范圍， 進(jìn)而提升了算法的全局搜索性能。 其過(guò)程如圖1所示。

圖1 淘汰機(jī)制的過(guò)程

當(dāng)將粒子群算法應(yīng)用于高光譜波段選擇時(shí)， 每個(gè)粒子代表一種波段的組合數(shù)， 粒子的位置和速度則分別代表了波段的組合在種群中的可行解以及向下一個(gè)更優(yōu)的可行解時(shí)步進(jìn)的速度。

高光譜波段選擇及驗(yàn)證主要由三部分組成： (1)高光譜圖像數(shù)據(jù)處理模塊； (2)波段選擇優(yōu)化模塊； (3)地物分類(lèi)模塊。 具體流程為： 首先， 在高光譜三維圖像的全波段數(shù)據(jù)中隨機(jī)選出n個(gè)波段， 將三維圖像數(shù)據(jù)轉(zhuǎn)換為二維數(shù)據(jù)， 在n個(gè)波段中按一定比例隨機(jī)選取各類(lèi)地物數(shù)據(jù)作為波段選擇的仿真數(shù)據(jù)。 其次， 經(jīng)由優(yōu)化模塊進(jìn)行循環(huán)迭代， 得到高光譜最佳組合波段用于表征地物特征。 最后， 將篩選出來(lái)的波段組合傳輸?shù)降匚锓诸?lèi)模塊中， 利用已知的數(shù)據(jù)真實(shí)標(biāo)簽值來(lái)計(jì)算其分類(lèi)精度， 判定本波段選擇方法的有效性。 改進(jìn)粒子群的高光譜波段選取的算法流程如下：

輸入： 高光譜圖像X

輸出： 篩選出的波段組合數(shù)

開(kāi)始：

(1)設(shè)置初始參數(shù)： 函數(shù)上界UB， 函數(shù)下界LB， 種群大小PopSize， 微粒的維數(shù)Dim, 學(xué)習(xí)因子值C1， C2， R1， R2， 慣性權(quán)重初始值w_start， 慣性權(quán)重終值w_end， 粒子的最大速度vmax， 最大迭代次數(shù)MaxIter；

(2)產(chǎn)生初始種群；

(3)采用JM距離判斷初始最佳波段子集；

循環(huán)：

(4)重新計(jì)算目標(biāo)函數(shù)值；

(5)保留候選波段子集；

(6)更新粒子的速度和位置；

(7)以一定的概率接受壞解；

(8)如果新解與當(dāng)前解之間的趨近程度小于預(yù)設(shè)值， 淘汰新解并在種群中補(bǔ)充新粒子；

(9)得到當(dāng)前最佳波段子集；

(10)若不滿(mǎn)足預(yù)設(shè)收斂條件返回步驟(4)， 反之， 停止迭代；

(11)輸出高光譜圖像的最佳波段子集。

結(jié)束

2 實(shí)驗(yàn)部分

2.1 目標(biāo)函數(shù)的建立

為了提高分類(lèi)的準(zhǔn)確度， 構(gòu)建目標(biāo)函數(shù)應(yīng)考慮不同地物之間的類(lèi)間距離， 根據(jù)兩地物之間的均值以及協(xié)方差矩陣選擇以Jeffries-Matusita[13](JM)距離為目標(biāo)的優(yōu)化函數(shù)， 當(dāng)兩類(lèi)地物的JM距離值較大時(shí)， 則兩類(lèi)地物為同種地物的可能性越小， 當(dāng)兩類(lèi)地物的JM距離越小時(shí)， 則兩類(lèi)地物為同種地物的可能性越大， 即兩類(lèi)地物間的特征向量區(qū)別越小。

(6)

(7)

(8)

式中， meani， meanj和Ci，Cj分別代表高光譜數(shù)據(jù)中的第i類(lèi)和第j類(lèi)的數(shù)據(jù)均值和協(xié)方差矩陣，s為高光譜數(shù)據(jù)中的地物種類(lèi)。

將目標(biāo)函數(shù)設(shè)定為

(9)

2.2 數(shù)據(jù)描述

(1) 第一組高光譜數(shù)據(jù)場(chǎng)景是由美國(guó)加利福尼亞州圣地亞哥的機(jī)載可見(jiàn)/紅外成像光譜儀(AVIRIS)在印第安納州西北部的印度松測(cè)試點(diǎn)上收集到的數(shù)據(jù)， 場(chǎng)景由145×145像素和224個(gè)光譜通道組成， 涵蓋200～2 400 nm的光譜范圍。 去除吸水區(qū)域波段后， 選取200個(gè)波段用于實(shí)驗(yàn)， 由印度松(Indian Pines)的第10， 20， 30波段合成的高光譜彩色影像如圖2(a)所示。

(2) 第二組高光譜數(shù)據(jù)是由美國(guó)加利福尼亞州圣地亞哥的機(jī)載可見(jiàn)/紅外成像光譜儀(AVIRIS)在加利福尼亞州薩利納斯山谷測(cè)試點(diǎn)上收集到的數(shù)據(jù)， 由512×217個(gè)像素和224個(gè)光譜通道組成。 去除吸水區(qū)域波段后， 選取204個(gè)波段用于實(shí)驗(yàn)， 由薩利納斯(Salinas)的第10， 20， 30波段合成的高光譜彩色影像如圖2(b)所示。

圖2 高光譜彩色影像

2.3 仿真實(shí)驗(yàn)

采用Indian Pines和Salinas兩組標(biāo)準(zhǔn)數(shù)據(jù)開(kāi)展了改進(jìn)粒子群波段選擇方法的有效性驗(yàn)證， 所有實(shí)驗(yàn)平臺(tái)均以matlab2018a軟件在Windows10平臺(tái)上以Intel(R)Core(TM)1.8GHZ處理器8GRAM64位的電腦上運(yùn)行。 將改進(jìn)粒子群算法(MPSO)與傳統(tǒng)粒子群算法(SPSO)、 模擬退火—粒子群算法(SAPSO)和遺傳-粒子群算法[14](IEPSO)進(jìn)行了比較。

2.3.1 基于改進(jìn)粒子群波段選擇方法的穩(wěn)定性能仿真測(cè)試

為滿(mǎn)足目前載荷下傳波段大多數(shù)為3波段的需求， 利用兩組數(shù)據(jù)進(jìn)行實(shí)驗(yàn)， 以驗(yàn)證改進(jìn)粒子群算法的適應(yīng)性和穩(wěn)定性。 數(shù)據(jù)從Indian Pines場(chǎng)景中選擇Grass-pasture-mowed， Oats， Soybean-mintill， Wheat， Buildings-Grass-Trees-Drives五種地物、 Salinas場(chǎng)景中選擇Brocoli_green_weeds_2， Fallow_rough_plow， Stubble， Grapes_untrained， Corn_senesced_green_weeds五種地物。

為公平起見(jiàn)， 每種算法的仿真數(shù)據(jù)和測(cè)試數(shù)據(jù)均采用相同樣本， 分別隨機(jī)選取它們樣本數(shù)量的20%作為波段選擇仿真數(shù)據(jù)(訓(xùn)練數(shù)據(jù))， 其余80%的樣本數(shù)量作為后續(xù)分類(lèi)的測(cè)試數(shù)據(jù)。 全部運(yùn)行十次， 四種算法的目標(biāo)函數(shù)值迭代收斂圖如圖3所示。

圖3 四種算法目標(biāo)函數(shù)的收斂圖

由圖3可知， MPSO算法的迭代次數(shù)在50次內(nèi)即可停止收斂， 繼承了SPSO收斂速度快的優(yōu)點(diǎn)的， 保留了SAPSO算法的深度搜索能力的基礎(chǔ)上保證了種群的多樣性， 增強(qiáng)了全局尋優(yōu)能力。 MPSO算法在仿真實(shí)驗(yàn)中的收斂精度和收斂速度均高于其他三種算法， 篩選的高光譜的波段具有更高的分類(lèi)精度。

同時(shí)為了驗(yàn)證本算法的穩(wěn)定性， 分別計(jì)算了三種算法運(yùn)行十次的均值與方差， 如表1所示。

表1 四種算法的均值和方差值

由表1中的高光譜數(shù)據(jù)的仿真實(shí)驗(yàn)結(jié)果可知， MPSO算法均值在兩組數(shù)據(jù)中的分別可以達(dá)到13.840 9和14.130 0， 表明其尋優(yōu)能力優(yōu)于其他三種算法； 方差分別為1.477 8×10-4和0， 在四種算法中的方差值最小， 且在第二組數(shù)據(jù)中其方差值可以達(dá)到0值， 這就說(shuō)明了MPSO的穩(wěn)定性很高， 對(duì)比其他三種方法具有一定的優(yōu)勢(shì)。

2.3.2 基于改進(jìn)粒子群最佳波段選擇分類(lèi)精度仿真測(cè)試

為了驗(yàn)證基于改進(jìn)粒子群算法篩選出的波段子集的地物分類(lèi)精度和魯棒性， 采用相同的訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)， 采用支持向量機(jī)[15](SVM)將實(shí)驗(yàn)選出來(lái)的波段子集用于地物分類(lèi)， 同時(shí)SVM的徑向基函數(shù)作為支持向量機(jī)的核函數(shù)， 采用10倍交叉驗(yàn)證法選擇支持向量機(jī)的參數(shù)。 選取波段選擇中所用到的20%仿真數(shù)據(jù)作為訓(xùn)練樣本， 剩下的80%數(shù)據(jù)作為測(cè)試樣本。

四種方法篩選出的最佳波段子集以及在支持向量機(jī)分類(lèi)器中的性能指標(biāo)結(jié)果分別如表2和表3所示。

表2 四種算法選擇的波段

表3 數(shù)據(jù)分類(lèi)的性能指標(biāo)

通過(guò)對(duì)兩組高光譜數(shù)據(jù)仿真實(shí)驗(yàn)進(jìn)行分析， 根據(jù)不同的波段選擇方法， 分別獲取了不同的波段組合數(shù)的高光譜三波段數(shù)據(jù)圖像， 并對(duì)波段選擇后的圖像進(jìn)行了SVM的分類(lèi)， 并依次記錄了本算法與三個(gè)比較算法的OIF指數(shù)與Kappa系數(shù)。 從分類(lèi)精度來(lái)看， 本文提出的MPSO算法均優(yōu)于其他三種算法。

Indian Pines和Salinas兩組高光譜的數(shù)據(jù)分類(lèi)圖分別如圖4和圖5所示。

圖4 Indian Pines分類(lèi)圖

圖5 Salinas分類(lèi)圖

3 結(jié) 論

由于通信帶寬和處理速度的限制， 往往無(wú)法實(shí)時(shí)傳輸處理全部數(shù)據(jù)。 高光譜數(shù)據(jù)的各波段之間具有很強(qiáng)的相關(guān)性， 通過(guò)波段選擇算法對(duì)原始數(shù)據(jù)進(jìn)行降維， 在提高了時(shí)效性的同時(shí)也保證分類(lèi)精度。 從信息處理時(shí)效性的角度來(lái)看， 通過(guò)粒子群優(yōu)化算法來(lái)降低數(shù)據(jù)維數(shù)有很大的現(xiàn)實(shí)意義。 首先利用淘汰機(jī)制結(jié)合模擬退火-粒子群算法的突跳性?xún)?yōu)點(diǎn)增強(qiáng)了對(duì)目標(biāo)函數(shù)最優(yōu)值的探索能力， 同時(shí)大大的增加了算法的穩(wěn)定性能， 通過(guò)對(duì)JM距離的評(píng)判， 隨后對(duì)篩選出的波段組子集進(jìn)行分類(lèi)； 通過(guò)與其他物種算法的對(duì)比， 顯示出本算法的有效性。 實(shí)驗(yàn)結(jié)果表明基于改進(jìn)粒子群算法的高光譜波段選擇方法不僅能滿(mǎn)足光譜波段下傳能力， 且對(duì)特定目標(biāo)實(shí)現(xiàn)了高精度分類(lèi)要求， 對(duì)于高光譜圖像的目標(biāo)識(shí)別和地物分類(lèi)具有一定的借鑒意義。 后期將進(jìn)一步研究目標(biāo)函數(shù)以及分類(lèi)器的優(yōu)化設(shè)計(jì)， 提高數(shù)據(jù)的分類(lèi)精度。