選擇分塊SVM電容層析成像改進(jìn)方法

李巖，袁小花，劉精松，柳培新，鄭潔瓊，張迪

哈爾濱理工大學(xué) 計算機(jī)學(xué)院，哈爾濱 150080

選擇分塊SVM電容層析成像改進(jìn)方法

李巖，袁小花，劉精松，柳培新，鄭潔瓊，張迪

哈爾濱理工大學(xué) 計算機(jī)學(xué)院，哈爾濱 150080

1 引言

電容層析成像（ECT）技術(shù)是20世紀(jì)80年代后期形成和發(fā)展起來的，具有非侵入，結(jié)構(gòu)簡單，成本低，響應(yīng)速度快，安全性能好和適用范圍廣等優(yōu)點[1]。但由于受到獨立電容測量值少，系統(tǒng)敏感場的“軟場”特性及待解問題的非線性等因素的限制，給ECT系統(tǒng)圖像重建算法的求解過程帶來了一定的困難[2]，距離工業(yè)應(yīng)用的要求比較遠(yuǎn)，因此研究良好的圖像重建算法重要而迫切。支持向量機(jī)（SVM）作為機(jī)器學(xué)習(xí)的一個熱點領(lǐng)域，由于它的可靠性和良好的推廣能力，以及在多層次前饋神經(jīng)網(wǎng)絡(luò)領(lǐng)域被證明的優(yōu)異性能，得到廣泛的應(yīng)用，也為ECT系統(tǒng)的圖像重建提供了有力手段[3]。但目前在SVM的應(yīng)用中還存在一些問題，如對不同的應(yīng)用問題核函數(shù)參數(shù)的選擇較難，對較復(fù)雜問題其分類精度不是很高以及對大規(guī)模分類問題訓(xùn)練時間長等。本文針對SVM在圖像重建的大規(guī)模樣本問題中訓(xùn)練時間長以及精度低的問題，提出了選擇分塊的SVM算法[4-6]應(yīng)用到電容層析成像。如果樣本數(shù)小到一定數(shù)據(jù)矩陣行的閾值，直接用SVM分類器；如果樣本數(shù)超過數(shù)據(jù)矩陣行的閾值，則用CSSVM算法，針對一小塊，從大樣本中選擇最適合這一小塊的小樣本組合，訓(xùn)練得到最佳模型。算法將大樣本問題轉(zhuǎn)變成小樣本分類問題，降低了問題難度，使預(yù)測時間短，精度高。實驗結(jié)果表明，CSSVM算法比單獨使用SVM算法在重建圖像時，具有更高的分類準(zhǔn)確率和更短的成像時間。

2 基于SVM的圖像重建原理

2.1 ECT系統(tǒng)傳感器數(shù)學(xué)模型及電容求解

電容傳感器的結(jié)構(gòu)是在管道周圍均勻排列12個電容極板，形成傳感器陣列[7-9]。管道中流體流動狀態(tài)的變化會引起電容傳感器不同極板間的電容值的改變，所以要通過測量不同極板間的電容值，按照一定的成像算法就可以得到管道界面的流體流動情況。

對于任意兩極板間的電容，用下式表示：

式中，Cij為電極i和j之間的內(nèi)容值；ε(x，y)為介電常數(shù)分布函數(shù)，測量敏感區(qū)分布函數(shù)為Sij[(x，y)，ε(x，y)]。

2.2 支持向量機(jī)

ECT系統(tǒng)求解的樣本集矩陣的列由66個電容值和66個敏感度值構(gòu)成，它是一個非線性訓(xùn)練集。通過一個非線性映射，把樣本空間映射到高維特征空間，在特征空間中應(yīng)用線性支持向量機(jī)方法，解決樣本空間的高度非線性分類問題。在高維特征空間構(gòu)造一個最優(yōu)分類超平面[10]。

非線性原問題表示為：

?(xi)表示將樣本xi從輸入空間映射到高維特征空間；ω和b為待定的超平面參數(shù)，分別表示權(quán)值向量和偏置向量；c＞0為對于分類樣本的懲罰參數(shù)；ξi為解決非線性不可分情況引入的松弛變量[11-13]。式（2）可以轉(zhuǎn)化為對偶問題：

其中g(shù)為gamma核函數(shù)參數(shù)，g＞0為正數(shù)。代入式（3）求得最優(yōu)超平面參數(shù)ω，偏置向量b0和Lagrange乘子a*。

最后SVM的判別決策函數(shù)為：

其中，t_label為成像單元的決策結(jié)果；xi為通過有限元軟件計算得到的訓(xùn)練集數(shù)據(jù)（即ECT電容值和敏感度值），其值在訓(xùn)練前已被歸一化。通過式（3）求得lagrange乘子和最優(yōu)分類超平面的偏置向量b0，yi∈(-1，+1)為訓(xùn)練樣本標(biāo)簽。通過式（4）求得徑向基核函數(shù)k(xi，x)。

3 CSSVM算法的實現(xiàn)

3.1 數(shù)據(jù)預(yù)處理

本文實驗中樣本數(shù)據(jù)的指數(shù)取值范圍為[1.0E－13，1.0E－4]，為提高實驗訓(xùn)練及預(yù)測精度，將數(shù)據(jù)值歸一化。

設(shè)數(shù)據(jù)矩陣為{x1，x2，…，xl}T，屬性個數(shù)為q，則，建立映射f：

3.2 CSSVM算法實現(xiàn)

CSSVM算法規(guī)定，SVM算法處理的最大矩陣為200× 132矩陣，即矩陣行數(shù)閾值為200。

步驟1首先根據(jù)管道流體的不同流型選擇典型樣本數(shù)據(jù)。

（1）若將管道截面剖分為4個扇形單元，單元編號為1、2、3、4，4個單元水油分布組合為16種。對于1單元為水，其組合為1，12，13，14，123，124，134，1234，去掉通過單元旋轉(zhuǎn)可以得到的重復(fù)樣本14，134，124；對于1單元為油，其組合為2，3，4，23，24，34，234，全油，去掉通過單元旋轉(zhuǎn)可以得到的重復(fù)樣本3，4，34。實驗選擇的最小樣本數(shù)為10，但實驗中樣本數(shù)選為16。

（2）若將管道截面剖分為r個扇形單元，其中r為8和16，并給每個單元編號。管道截面r個單元水油分布組合為2r，即可以有2r個樣本，去掉通過單元旋轉(zhuǎn)可以得到的重復(fù)樣本，實驗選擇的樣本個數(shù)為：

（3）如果管道按32剖分，即將管道截面分成8個扇形，去掉重復(fù)樣本有34×2種組合，每個扇形再分成4份，共有16種組合，所以實驗選擇的樣本個數(shù)為：

將上述的樣本構(gòu)造L×132的訓(xùn)練樣本矩陣，其中L為樣本個數(shù)或矩陣行數(shù)。

步驟2如果L≤200，轉(zhuǎn)入步驟4。

步驟3如果L＞200，對模型分塊并且標(biāo)號，設(shè)初始成像單元號r=1，最大成像單元號為P，對每一個成像單元r，將它映射到可旋轉(zhuǎn)重復(fù)的最小單元rmin，從原始L×132的樣本矩陣中取出rmin單元標(biāo)簽為1的所有組合樣本數(shù)m，再從其余里取出rmin單元標(biāo)簽為0的m個樣本，重新組合成P個2m×132的訓(xùn)練數(shù)據(jù)矩陣。轉(zhuǎn)入步驟4。

步驟4判斷所有成像單元是否處理完畢。如果r＞P，訓(xùn)練結(jié)束，轉(zhuǎn)入預(yù)測步驟6；否則用SVM算法訓(xùn)練訓(xùn)練樣本集，選擇懲罰參數(shù)c和核函數(shù)g。由式（4）徑向基核函數(shù)公式將樣本空間映射到高維特征空間，再代入公式（3）得到原問題最優(yōu)解a*和b0，訓(xùn)練結(jié)束得到最佳訓(xùn)練模型。

步驟5r=r+1，轉(zhuǎn)入步驟4。

步驟6將P個單元的訓(xùn)練模型代入式（5），并預(yù)測所有單元的結(jié)果，得到由P個值組成的一維向量，再重建圖像。把式（5）預(yù)測得到的單元結(jié)果再分別代入式（8），得到單元的預(yù)測誤差。

第r個單元的預(yù)測誤差A(yù)r定義為：

其中，r為1，2，…，P，yi∈{-1，+1}為第i個樣本的實際值，Zi∈{-1，+1}為第i個樣本的預(yù)測值。圖像成像平均誤差為：

4 實驗結(jié)果及分析

實驗采用ANSYS10.0軟件，建立12電極傳感器模型，模型剖分如圖1所示。管道截面4均分時，由于僅有16組樣本，保留重復(fù)樣本。根據(jù)式（1），采用ANSYS的CMATRIX宏和ADPL語言編程求解出16組樣本，每組樣本有66個電容值[16]。管道16均分時，按公式（7）理論應(yīng)求解4 099組非重復(fù)樣本，但實驗抽取求解了1 120組樣本；32均分時實驗求解了1 088組樣本。

圖1 ECT剖分圖

本文做了3組實驗。一組是將管道4均分，用SVM算法重建圖像；第二組將管道16均分，用SVM算法訓(xùn)練重建圖像和用CSSVM算法重建圖像；第三組是將管道分成32均等分，應(yīng)用CSSVM算法重建圖像。

對管道內(nèi)4均分時，訓(xùn)練數(shù)據(jù)矩陣為16×132，屬于小樣本訓(xùn)練，調(diào)整參數(shù)值直到訓(xùn)練精度達(dá)到最高100%；預(yù)測時間平均為0.050 8 s。

對管道內(nèi)16均分時，訓(xùn)練數(shù)據(jù)矩陣為1 120×132，預(yù)測結(jié)果如表1所示。

表1 16均分管道SVM算法誤差與時間

從表1可知16均分管道，將實驗求解的數(shù)據(jù)直接用SVM算法，重建圖像準(zhǔn)確率低，耗時很大。再細(xì)分管道時，實驗數(shù)據(jù)矩陣更龐大，占用內(nèi)存更多。

16均分管道用CSSVM算法，針對一個單元選擇數(shù)據(jù)矩陣138×132，調(diào)整單個的懲罰參數(shù)c和核參數(shù)g，直到誤差達(dá)到最低。

實驗結(jié)果如表2所示，對每一個成像單元選擇樣本組。

從表2可以看出，每個單元對應(yīng)的最佳參數(shù)是不一樣的；計算每個單元誤差，得到平均誤差為0.053 0。

將管道流體32均分并且標(biāo)號，用CSSVM算法，針對每個單元選擇164×132的訓(xùn)練數(shù)據(jù)矩陣，然后對數(shù)據(jù)預(yù)處理。參數(shù)的變化對訓(xùn)練矩陣的訓(xùn)練誤差影響，如2號單元訓(xùn)練核函數(shù)參數(shù)g的選擇與訓(xùn)練結(jié)果，見表3，訓(xùn)練誤差是將訓(xùn)練集作為預(yù)測集預(yù)測得到的誤差。

表2 16均分管道單元預(yù)測結(jié)果

表3 核參數(shù)g對單元訓(xùn)練結(jié)果影響

針對2號單元的數(shù)據(jù)矩陣，核參數(shù)對其訓(xùn)練精度的影響，如圖2所示。

2號單元訓(xùn)練精度隨核參數(shù)g的增大而增加，但精度達(dá)到0.97時就穩(wěn)定了，不再上升。實驗選擇使精度達(dá)到穩(wěn)定的最小核參數(shù)g=0.14。

當(dāng)均分為16單元或32單元時，對每個單元采用的核參數(shù)g進(jìn)行訓(xùn)練，選擇使精度達(dá)到最高的最小核參數(shù)值，得到如圖3所示的單元對應(yīng)最優(yōu)核參數(shù)曲線圖。

將管道截面平均分為4單元、16單元、32單元，再根據(jù)預(yù)測數(shù)組重建圖像，結(jié)果如表4所示。

圖2 g參數(shù)對精度的影響

圖3 單元對應(yīng)的核參數(shù)曲線圖

表4 重建圖像

從實驗數(shù)據(jù)可以得出，對管道4均分時，樣本數(shù)少，樣本數(shù)據(jù)矩陣規(guī)模小，直接用SVM分類器分類，重建圖像快，精度高。如果對管道細(xì)分，將管道分成16份或32份時，采用CSSVM算法重建圖像精度高，速度快。由上述實驗推廣到管道再細(xì)分情況，如管道64均分、192均分，采用CSSVM算法重建圖像，能收到很好的效果。

5 結(jié)論

針對SVM在處理具有樣本集規(guī)模大的ECT系統(tǒng)數(shù)據(jù)時，精度較低，訓(xùn)練時間較長的問題，采用CSSVM圖像重建算法。將大規(guī)模數(shù)據(jù)矩陣，有選擇地抽取塊，降低了問題難度，并選擇訓(xùn)練精度達(dá)到穩(wěn)定的最優(yōu)核參數(shù)。使用CSSVM算法重建圖像準(zhǔn)確率比單純使用SVM算法有一定程度的提高，并且在大規(guī)模問題上，預(yù)測時間也減短很多。在今后的工作中，將引入硬件FPGA，用硬件實現(xiàn)圖像重建的更高精度和更短時間。

[1]Neumayer M，Zang H，Watzenig D.Current reconstruction algorithms in electrical capacitance tomography[J].Lecture Notes in Electrical Engineering，2011，83：65-106.

[2]Fang W，Cumberbatch E.Matrix properties of data from electrical capacitance tomography[J].Journal of Engineering Mathematics，2005，51（2）：127-146.

[3]Tuia D，Mu?oz-Marí J，Kanevski M.Structured output SVM for remote sensing image classification[J].Journal of Signal Processing Systems，2010，35：213-235.

[4]吳翔，譚李，陸文凱，等.提高超大規(guī)模SVM訓(xùn)練計算速度的研究[J].模式識別與人工智能，2003，16（1）：46-49.

[5]Li Y，Qian Y.Intrusion detection based on support vector machine divided up by clusters[C]//Proceedings of the International Conference on Computational Intelligence and Industrial Application，2010，3：284-286.

[6]陳蓉，宋俊德.基于SVM分塊回歸分析的話務(wù)量預(yù)測模型[J].計算機(jī)應(yīng)用，2008，28（9）：2230-2232.

[7]Lei J，Liu S.An image reconstruction algorithm based on the regularizedminimaxestimationforelectricalcapacitance tomography[J].Journal of Mathematical Imaging and Vision，2011，39（3）：269-291.

[8]Walavalkar L.Support vector learning for gender classification using audio and visual cues[J].International Journal of Pattern Recognition and Artificial Intelligence，2003，17（3）：417-439.

[9]郭紅星，余勝生，周敬利，等.12電極電容層析成象系統(tǒng)電容敏感場的仿真計算[J].系統(tǒng)仿真學(xué)報，2000，12（2）：172-174.

[10]Tatsumi K，Kawachi R，Hayashida K.Multiobjective multiclass soft-Margin support vector machine and its solving technique based on Benson’s method[C]//Proceedings of the 6thInternationalConferenceonModelingDecisionsfor Artifical Intelligence，2009，5861：360-371.

[11]楊俊麗，劉田福.基于支持向量機(jī)的中國地鼠分類特征基因選取[J].計算機(jī)應(yīng)用，2011，31（2）：584-586.

[12]王晶，衛(wèi)金茂.一種改進(jìn)的支持向量機(jī)及其在癌癥診斷中的應(yīng)用[J].計算機(jī)應(yīng)用，2006，26（2）：508-511.

[13]李蓉，葉世偉，史忠植.SVM-KNN分類器——一種提高SVM分類精度的新方法[J].電子學(xué)報，2002，30（5）：745-748.

[14]Vanschoenwinkel B，Manderick B.Appropriate kernel functions forsupportvectormachinelearningwithsequencesof symbolic data[C]//Proceedings of the 1st International Conference on Deterministic and Statistical Methods in Machine Learning.Berlin，Heidelberg：Springer-Verlag，2005：256-280.

[15]Kohram M，Noor M.Composite kernels for support vector classification of hyper-spectrctral data[C]//Proceedings of the 7th Mexican International Conference on Artifical Intelligence，2008，5317：360-370.

[16]朱艷丹.電容層析成像系統(tǒng)傳感器場域分析與計算[D].哈爾濱：哈爾濱理工大學(xué)，2011：8-14.

LI Yan,YUAN Xiaohua,LIU Jingsong,LIU Peixin,ZHENG Jieqiong,ZHANG Di

College of Computer Science and Technology,Harbin University of Science and Technology,Harbin 150080,China

According to Support Vector Machine（SVM）has low training speed and low accuracy to deal with large scale data in Electrical Capacitance Tomography（ECT）system,a new algorithm that combined SVM with the Choice and Segmentation（CS）is presented and it comes into being a new classifier.Data in ECT system composes a data matrix which is fixed matrix column componented of sixty-six capacitance values and sixty-six sensitivity,the samples as its rows.It divides block selectively from large scale samples for one imaging unit.The numerical experiments show that the mixed algorithm can not only improve the accuracy compared to sole SVM,but also shorten time in imaging.

Support Vector Machine（SVM）;Choice and Segmentation（CS）;Electrical Capacitance Tomography（ECT）;data preprocessing;image reconstruction

針對SVM在處理具有樣本集規(guī)模大的ECT系統(tǒng)數(shù)據(jù)時，存在ECT圖像重建的成像精度不高和速度慢的問題，采用了選擇分塊支持向量機(jī)CSSVM算法。將ECT系統(tǒng)樣本數(shù)據(jù)構(gòu)成列數(shù)固定的樣本矩陣，每個樣本作為樣本矩陣的行，66個電容值和66個敏感度值作為矩陣的列。該算法將大樣本矩陣按照某一成像單元進(jìn)行選擇性分塊，并形成多個小樣本矩陣，再分別采用SVM算法進(jìn)行訓(xùn)練和預(yù)測，將各個成像單元組合成像。數(shù)值實驗證明，使用CSSVM新算法比單獨使用SVM算法重建圖像具有更高的分類準(zhǔn)確率和更短的成像時間。

支持向量機(jī)；選擇分塊；電容層析成像；數(shù)據(jù)預(yù)處理；圖像重建

A

TP391.4

10.3778/j.issn.1002-8331.1111-0144

LI Yan,YUAN Xiaohua,LIU Jingsong,et al.Improved method of electrical capacitance tomography based on SVM algorithm of choice and segmentation.Computer Engineering and Applications,2013,49（13）：110-113.

國家自然科學(xué)基金（No.60572135）；黑龍江省自然科學(xué)基金（No.F200505）；黑龍江省教育廳基金（No.12521100）；研究生創(chuàng)新基金（No.HLGYCX2011-015）。

李巖（1966—），男，教授，研究生導(dǎo)師，主要研究方向：多相流檢測，嵌入式系統(tǒng)，儀器儀表與計算機(jī)控制等；袁小花（1988—），女，碩士研究生。E-mail：yuanxiaohua2010@163.com

2011-11-14

2012-03-14

1002-8331（2013）13-0110-04

CNKI出版日期：2012-05-09http://www.cnki.net/kcms/detail/11.2127.TP.20120509.0845.002.html