基于粒子群優(yōu)化的最小二乘支持向量機(jī)圖像分割研究

劉衛(wèi)華+++劉小賢

摘 要：圖像分割時(shí)，傳統(tǒng)分類方法直接在圖像上操作，會(huì)出現(xiàn)的數(shù)據(jù)高維特性表現(xiàn)差，分類效果差等問(wèn)題，提出將最小二乘支持向量機(jī)（Least Squares Support Vector Machines，LS-SVM）應(yīng)用于圖像分割，并利用粒子群算法對(duì)其參數(shù)進(jìn)行優(yōu)化。通過(guò)對(duì)經(jīng)典的二分類與多分類問(wèn)題的測(cè)試及彩色實(shí)物圖像分割實(shí)驗(yàn)，結(jié)果表明，LS-SVM能綜合使用圖像多種特征，能夠準(zhǔn)確實(shí)現(xiàn)對(duì)圖像感興趣區(qū)域的分割，且分割速度比一般的支持向量機(jī)提高很多。

關(guān)鍵詞：最小二乘支持向量機(jī)；彩色圖像；圖像分割；參數(shù)優(yōu)化

引言

支持向量機(jī)（Support Vector Machine， SVM）作為一種新的分類方法[1]已經(jīng)應(yīng)用于圖像分割和圖像分類。本文以彩色圖像分割為例， 對(duì)比研究了幾種支持向量機(jī)在圖像分割時(shí)的精確度和訓(xùn)練時(shí)間。

1 最小二乘支持向量機(jī)

最小二乘支持向量機(jī)（Least Squares Support Vector Machines，LS-SVM）[3]是標(biāo)準(zhǔn)支持向量機(jī)的一種變形，利用等式約束代替不等式約束，將求解二次規(guī)劃問(wèn)題轉(zhuǎn)化為求解一個(gè)線性方程組[4]，大大的簡(jiǎn)化了問(wèn)題的復(fù)雜性，使得訓(xùn)練速度得以提高。

1.1 最小二乘支持向量機(jī)分類

LS-SVM算法的數(shù)學(xué)表達(dá)式如下：設(shè)有如下訓(xùn)練樣本集D={（xi，yi）}，i=1，...，N，xi∈Rn，yi∈R，輸入數(shù)據(jù)用xi表示，輸出類別標(biāo)識(shí)用yi表示。LS-SVM在原空間中的分類問(wèn)題可以表述為解式1和式2：

因此，式1的分類問(wèn)題通過(guò)解式5的線性方程獲得，而不是解決二次規(guī)劃問(wèn)題。核函數(shù)可以采用多項(xiàng)式核函數(shù)、徑向基核函數(shù)等。求解上述情況，于是可以得到?jīng)Q策函數(shù)如式7所示：

1.2 稀疏最小二乘支持向量機(jī)

最小二乘支持向量機(jī)雖然在一定程度上提高了訓(xùn)練速度，但同時(shí)卻喪失了解的稀疏性，比利時(shí)學(xué)者suyken 給出了一種剪枝思想用來(lái)解決這個(gè)問(wèn)題：這種方法的主要思想是在LS-SVM訓(xùn)練后，根據(jù)|？琢i|的大小對(duì)樣本點(diǎn)進(jìn)行降序排列，去除掉|？琢i|值較小的樣本點(diǎn)，用其余的樣本點(diǎn)重新訓(xùn)練，從而達(dá)到提升算法稀疏性的目的，此方法獲得了更快的訓(xùn)練速度與測(cè)試速度[2]。

2 驗(yàn)證實(shí)例及結(jié)果分析

我們的實(shí)驗(yàn)運(yùn)行在DELL個(gè)人計(jì)算機(jī)上，使用英特爾Core i3 M 330@2.13GHz處理器，2GB內(nèi)存，Windows7的操作系統(tǒng)，在MATLAB R2007b環(huán)境下實(shí)現(xiàn)。

SVM進(jìn)行圖像分割[5]是對(duì)圖像中的每一個(gè)象素點(diǎn)都進(jìn)行分類來(lái)實(shí)現(xiàn)的。首先選擇代表不同類別的象素點(diǎn)，提取特征，生成訓(xùn)練集[6]；然后選取合適的參數(shù)求得支持向量；再逐一提取每個(gè)象素點(diǎn)的特征， 產(chǎn)生樣本待分類樣本集，利用式（7）將每個(gè)象素點(diǎn)歸到不同的類[7]，完成對(duì)圖像的分割。

本實(shí)驗(yàn)選用的是一張彩色圖像——番茄葉片，通過(guò)研究葉片的病變來(lái)觀察番茄的生長(zhǎng)情況，所以我們感興趣的是圖中的番茄葉片，用SVM對(duì)圖片進(jìn)行分割，提取出葉片為后續(xù)的研究做基礎(chǔ)。本實(shí)驗(yàn)選取RBF-kernel核函數(shù)對(duì)番茄葉片圖進(jìn)行實(shí)驗(yàn)，并利用粒子群算法對(duì)其超參數(shù)進(jìn)行優(yōu)化。實(shí)驗(yàn)數(shù)據(jù)結(jié)果如表1所示，由表中數(shù)據(jù)可看出經(jīng)過(guò)pso算法優(yōu)化后的SPARSELSSVM分割精確度最高，時(shí)間最短，速度最快。從下圖中可以很清楚的看到實(shí)驗(yàn)的可視化效果。

3 結(jié)束語(yǔ)

本文利用最小二乘支持向量機(jī)對(duì)圖像分割進(jìn)行了測(cè)試與分析，通過(guò)結(jié)果對(duì)比可以看出，在所有方法中，選用RBF-kernel的SPARSELSSVM分類結(jié)果較好，且速度最快。同時(shí)用實(shí)驗(yàn)證明了選擇不同方法進(jìn)行SVM參數(shù)優(yōu)化后，得到的分類結(jié)果也大有不同。使用SVM默認(rèn)參數(shù)得到的分類準(zhǔn)確率較低，而PSO算法能夠?yàn)镾VM找到更加合適的核參數(shù)，使得圖像分割的精確度有了顯著提高。

參考文獻(xiàn)

[1]張學(xué)工.關(guān)于統(tǒng)計(jì)學(xué)習(xí)理論與支持向量機(jī)[J].自動(dòng)化學(xué)報(bào)，2000，26（1）：32-42.

[2]劉衛(wèi)華.最小二乘支持向量機(jī)在分類中的應(yīng)用研究[D].蘭州：蘭州交通大學(xué)，2013：9-43.

[3]朱家元，陳開(kāi)陶，張恒喜.最小二乘支持向量機(jī)算法研究[J].計(jì)算機(jī)科學(xué)，2003，30（7）：157-159.

[4]Xue Zhidong， Li Lijun， Li Zhongyi， et al. Segmentation of the Cryosection Images of Virtual Human Dataset Using SVM and Watersheds. International Journal of Advances in Systems Science and Applications，2006，6（1）：67-74.

[5]Pabitra Mitra， B. Uma Shankar， Sankar K.Pal. Segmentation of Multispectral Remote Sensing Images Using Active Support Vector Machines. Pattern Recongnition Letters， 2004， 25：1067- 1074.

[6]REYNA RA， CATTEONM. Segmenting Images with Support Vector Machines[A]. IEEE International Conference on Image Processing[C].2000，820-823.

[7]崔清亮.多核學(xué)習(xí)方法在分類問(wèn)題中的應(yīng)用研究[D].蘭州：蘭州交通大學(xué)，2014：32-39.