基于魯棒正則化極限學(xué)習(xí)機(jī)的電容層析成像圖像重建

張立峰,戴 力

(華北電力大學(xué) 自動(dòng)化系,河北保定071003)

1 引 言

電容層析成像(electrical capacitance tomography,ECT)技術(shù)是新型的多相流可視化測(cè)量技術(shù),具有無(wú)輻射、非侵入及實(shí)時(shí)性好等優(yōu)點(diǎn)[1～5]。ECT圖像重建算法可分為非迭代類(lèi)及迭代類(lèi)算法。非迭代類(lèi)算法包括LBP算法、Tikhonov算法等,這類(lèi)算法成像速度快,在一定程度上可以滿(mǎn)足實(shí)時(shí)性的要求,但是算法精度不高；迭代類(lèi)算法中最具代表性的是Landweber算法,這類(lèi)算法的成像質(zhì)量較高,但耗時(shí)較長(zhǎng)且具有半收斂性。隨著機(jī)器學(xué)習(xí)的發(fā)展,2004年Huang G B提出了極限學(xué)習(xí)機(jī)(extreme learning machine,ELM)[6,7],該網(wǎng)絡(luò)具有易于實(shí)現(xiàn)、訓(xùn)練速度快等優(yōu)點(diǎn)[8]。文獻(xiàn)[9]將ELM應(yīng)用于ECT圖像重建[9],取得了一定的效果,但重建圖像仍可進(jìn)一步提升。Chen K等[10]于2017年提出了基于迭代重加權(quán)最小二乘法(iterative reweighted least squares,IRLS)的魯棒正則化ELM,并將其應(yīng)用于回歸問(wèn)題,取得了良好的效果。

為進(jìn)一步提升基于ELM算法的ECT圖像重建質(zhì)量,本文將基于IRLS的魯棒正則化ELM(robust regularized extreme learning machine,RELM)用于ECT圖像重建,下文簡(jiǎn)稱(chēng)RELM-IRLS算法,并與傳統(tǒng)的Landweber迭代算法及ELM算法進(jìn)行比較分析,仿真與靜態(tài)實(shí)驗(yàn)結(jié)果均表明所提出的基于l2-norm正則化的RELM-IRLS算法可較好地實(shí)現(xiàn)ECT圖像重建。

2 ECT基本原理

2.1 ECT系統(tǒng)構(gòu)成及工作原理

ECT系統(tǒng)一般由3部分組成：1) 電容傳感器陣列;2) 數(shù)據(jù)采集單元;3) 圖像重建、控制和顯示的計(jì)算機(jī)系統(tǒng)[8]。ECT系統(tǒng)如圖1所示。

圖1 ECT系統(tǒng)結(jié)構(gòu)圖Fig.1 Structure diagram of ECT system

由電容傳感器陣列獲取被測(cè)對(duì)象的信息,然后由數(shù)據(jù)采集單元進(jìn)行信號(hào)處理并送往計(jì)算機(jī),計(jì)算機(jī)根據(jù)一定的圖像重建算法,重建出被測(cè)對(duì)象某一截面的圖像[11]。傳感器由均勻分布在管壁的n個(gè)電極組成,可獲得n(n-1)/2個(gè)獨(dú)立電容測(cè)量值。

2.2 ECT系統(tǒng)圖像重建

ECT圖像重建是根據(jù)電容值來(lái)獲取介電常數(shù)分布。非迭代類(lèi)算法中的典型算法為線(xiàn)性反投影算法[13](linear back-projection algorithm,LBP),如式(1)所示：

G=STC

(1)

式中:G為重建圖像灰度矩陣;C為測(cè)量電容向量;S為靈敏度矩陣。

迭代類(lèi)算法由于精度較高而得到了廣泛的使用,但其重建速度較慢。常用的迭代類(lèi)算法為L(zhǎng)andweber迭代算法,如式(2)所示[14～16]：

(2)

式中:Gk為第k步迭代的圖像灰度矩陣;G0為迭代初值,取GLBP,由LBP算法得到;αk為第k步的迭代因子，迭代因子αk根據(jù)經(jīng)驗(yàn)選取,本文選取αk為1.5。同時(shí),本文將Landweber算法的迭代次數(shù)固定為200次。

3 基于RELM-IRLS的ECT圖像重建

3.1 ELM算法原理

在回歸問(wèn)題中,對(duì)于一組給定的訓(xùn)練數(shù)據(jù)S={(x(i),y(i)),i=1,…,N}?Rd×R,Rd×R表示d×1維的實(shí)數(shù)域空間，d表示xi是d維向量。定義隱層節(jié)點(diǎn)數(shù)為L(zhǎng),單隱層前饋網(wǎng)絡(luò)(SLFNs)的ELM數(shù)學(xué)模型如式(3)所示：

(3)

式中:h(x)=[h1(x),h2(x),…,hL(x)];β=[β1,β2,…,βL]T;βi為連接輸出層和第i個(gè)隱層節(jié)點(diǎn)的權(quán)重；hi(x)為激活函數(shù),可選為徑向基函數(shù)或Sigmoid函數(shù)等。ELM極小化的目標(biāo)損失函數(shù)如式(4)所示：

(4)

其中:H=[h(x(1))T,h(x(2))T,…,h(x(N))T]T；Y=[y(1),y(2),…,y(N)]T。

則優(yōu)化問(wèn)題的解如式(5)所示：

(5)

3.2 RELM-IRLS算法原理

基于l2-norm正則化的RELM-IRLS方法的目標(biāo)函數(shù)如式(6)所示：

(6)

(7)

Bisquare損失函數(shù)的梯度函數(shù)ψ(z)和權(quán)值函數(shù)w(z)分別為：

(8)

(9)

式(6)所示的問(wèn)題可以通過(guò)IRLS進(jìn)行優(yōu)化。每次IRLS迭代相當(dāng)于求解1個(gè)加權(quán)最小二乘問(wèn)題。權(quán)重取決于最后1次迭代的殘差。對(duì)于Bisquare損失函數(shù),目標(biāo)函數(shù)式(6)不是凸的,IRLS收斂于局部最小值。

基于KKT理論,等式(6)等價(jià)于求解以下的對(duì)偶優(yōu)化問(wèn)題：

(10)

式中拉格朗日乘子α(i)對(duì)應(yīng)于第i個(gè)樣本。

利用IRLS方法可以求解式(10)的極小化問(wèn)題,令式(10)的一階導(dǎo)數(shù)等于0,可得：

(11)

式中w(·)為魯棒損失函數(shù)的權(quán)值函數(shù)。輸出權(quán)值β的解如式(12)所示:

(12)

第2步,計(jì)算隱層輸出矩陣H；

第4步,

第5步,ζt=y(i)-h(x(i))βt；σ=σMAR/0.674 5；

第7步,t=t+1；

第8步,若βt收斂或t>tmax，則停止迭代；否則返回第4步。

在RELM-IRLS算法中,需選擇4個(gè)參數(shù),即L,C,k,tmax。由于該方法收斂速度快,學(xué)習(xí)過(guò)程在20次迭代內(nèi)收斂,故選取最大迭代次數(shù)tmax=20。C和k通過(guò)交叉驗(yàn)證選擇。k從kdef×{2,1,0.7,0.3,0.1}中來(lái)選擇,其中kdef是Bisquare函數(shù)的默認(rèn)值4.685。

通過(guò)交叉驗(yàn)證，本文選取隱層節(jié)點(diǎn)數(shù)L=900，C=2-4，k=2。L∈{100,200,…,2 900,3 000}；C∈{2-10,2-9,…,230};k∈kdef×{2,1,0.7,0.3,0.1}。

4 實(shí)驗(yàn)結(jié)果及分析

4.1 仿真實(shí)驗(yàn)

4.1.1 仿真條件及步驟

仿真條件為：intel(R) Core(TM) i5-6300HQ CPU,4G內(nèi)存電腦。采用基于Matlab的ECT有限元仿真軟件進(jìn)行仿真,仿真對(duì)象為油/氣兩相流,油和氣的相對(duì)介電常數(shù)分別設(shè)為3和1。將成像區(qū)域剖分12層,共剖分為1 728個(gè)三角形單元,如圖2所示。

圖2 剖分網(wǎng)格Fig.2 Mesh grid

利用RELM-IRLS算法進(jìn)行圖像重建,并與ELM算法、Landweber算法進(jìn)行比較。RELM-IRLS算法步驟如下：

1) 樣本生成。選取單泡、兩泡、三泡、層流、環(huán)流5種典型油/氣兩相流流型進(jìn)行仿真。隨機(jī)生成5種流型的樣本各1 000個(gè)；

2) 網(wǎng)絡(luò)訓(xùn)練。將每種流型的800個(gè)樣本作為訓(xùn)練集,100個(gè)樣本作為驗(yàn)證集,100個(gè)樣本作為測(cè)試集。將4 000個(gè)訓(xùn)練樣本的測(cè)量電容值作為RELM-IRLS網(wǎng)絡(luò)的輸入,將介電常數(shù)分布作為RELM-IRLS網(wǎng)絡(luò)的輸出。通過(guò)更改相關(guān)網(wǎng)絡(luò)參數(shù)訓(xùn)練多個(gè)RELM-IRLS網(wǎng)絡(luò)；

3) 通過(guò)交叉驗(yàn)證的方法,依據(jù)驗(yàn)證集樣本的平均相對(duì)誤差選取RELM-IRLS的最優(yōu)參數(shù)；

4) 根據(jù)選取的參數(shù)完成RELM-IRLS網(wǎng)絡(luò)的訓(xùn)練；

5) 利用RELM-IRLS算法進(jìn)行測(cè)試集的圖像重建。

對(duì)于ELM網(wǎng)絡(luò),需要選取的參數(shù)為隱層節(jié)點(diǎn)數(shù),依據(jù)RELM-IRLS網(wǎng)絡(luò)選取最優(yōu)參數(shù)的方法,選取ELM網(wǎng)絡(luò)的隱層節(jié)點(diǎn)數(shù)為500。

為定量比較RELM-IRLS算法、ELM算法及Landweber算法的重建圖像質(zhì)量,本文采用圖像相對(duì)誤差作為評(píng)價(jià)指標(biāo),其定義為[17,18]：

(13)

式中:g和g*分別為原始流型及重建圖像的灰度矩陣。

4.1.2 重建圖像分析

某組測(cè)試樣本的圖像重建結(jié)果,如圖3所示。

圖3 測(cè)試樣本的重建圖像Fig.3 Reconstructed images of test samples

由圖3可以看出,對(duì)于測(cè)試樣本中的多泡流型及環(huán)流(測(cè)試流型b～g),Landweber迭代算法所得重建圖像出現(xiàn)嚴(yán)重失真,對(duì)于層流及日出流型(測(cè)試流型h～i),重建圖像誤差較大；ELM算法相較于Landweber迭代算法,重建圖像質(zhì)量得到明顯提升,能較好地重建物體分布,多泡之間區(qū)分度尚可,但仍存在偽影,對(duì)測(cè)試流型h～i,重建圖像的誤差較明顯；而對(duì)于RELM-IRLS算法來(lái)說(shuō),其重建圖像總體質(zhì)量均優(yōu)于前兩種算法,重建圖像偽影較少、形狀保真度較好、邊緣輪廓清晰,能較好地區(qū)分多個(gè)氣泡。計(jì)算圖3中重建圖像的圖像相對(duì)誤差ER,如表1所示。由表1可見(jiàn),RELM-IRLS算法的圖像相對(duì)誤差均低于ELM算法及Landweber迭代算法,與圖2中更優(yōu)的重建圖像相吻合。

同時(shí),計(jì)算圖3中3種算法的圖像重建算法運(yùn)行時(shí)間,如表2所示。由表2可見(jiàn),ELM及RELM-IRLS算法的運(yùn)行時(shí)間明顯小于Landweber迭代算法,其時(shí)間相差2個(gè)數(shù)量級(jí),而ELM及RELM-IRLS算法的運(yùn)行時(shí)間處于同一數(shù)量級(jí),二者相差不大,可滿(mǎn)足實(shí)時(shí)成像要求。

表1 測(cè)試樣本ERTab.1 ER of test samples

4.1.3 測(cè)試集重建圖像平均誤差分析

圖3為某組測(cè)試樣本的重建結(jié)果,對(duì)測(cè)試集進(jìn)行圖像重建,分別計(jì)算得到各流型對(duì)應(yīng)測(cè)試樣本的平均誤差,如表3所示。

表2 算法運(yùn)行時(shí)間Tab.2 Running time of algorithms s

表3 測(cè)試集平均誤差Tab.3 Average error of test set

由表3可以看出,RELM-IRLS算法與ELM算法相比,對(duì)于各種測(cè)試流型,測(cè)試樣本的平均重建圖像相對(duì)誤差及總體平均誤差均更小,反映了其較好的泛化性能。

4.2 靜態(tài)實(shí)驗(yàn)

靜態(tài)實(shí)驗(yàn)采用華北電力大學(xué)先進(jìn)測(cè)量實(shí)驗(yàn)室的ECT系統(tǒng)進(jìn)行了靜態(tài)實(shí)驗(yàn),ECT實(shí)驗(yàn)系統(tǒng)如圖4所示。采用有機(jī)玻璃棒、塑料顆粒模擬油相,進(jìn)行相應(yīng)油/氣兩相流靜態(tài)模擬實(shí)驗(yàn),2種算法的重建圖像如圖5所示。

圖4 ECT實(shí)驗(yàn)系統(tǒng)Fig.4 ECT experimental system

圖5 靜態(tài)實(shí)驗(yàn)重建圖像Fig.5 Reconstructed images of static experiments

由圖5可以看出,對(duì)于真實(shí)分布中的兩棒、三棒及五棒分布為多物體分布,且中心區(qū)域存在物體分布,Landweber迭代算法出現(xiàn)嚴(yán)重失真,無(wú)法重建中間物體,對(duì)于中心區(qū)域無(wú)物體分布的四棒分布流型,Landweber迭代算法重建圖像呈現(xiàn)多物體之間互相粘連,偽影較大,對(duì)于環(huán)流分布,Landweber迭代算法重建誤差大；ELM算法重建結(jié)果相較于Landweber迭代算法,有明顯提升,但仍存在偽影較大,物體之間存在粘連；而基于RELM-IRLS算法的重建圖像相比前兩者質(zhì)量最優(yōu),多物體間輪廓分明,形狀保真度高，且四棒及五棒分布在之前網(wǎng)絡(luò)訓(xùn)練中并未訓(xùn)練過(guò),RELM-IRLS算法仍得到了較高質(zhì)量的成像結(jié)果,充分表明了該算法良好的泛化性能。

5 結(jié) 論

本文提出了基于IRLS的魯棒正則化ELM算法,并將其用于ECT圖像重建。RELM-IRLS網(wǎng)絡(luò)采用Bisquare函數(shù)作為損失函數(shù),用于增強(qiáng)魯棒性,采用l2-norm正則化項(xiàng)用于避免過(guò)擬合。利用IRLS對(duì)具有魯棒損失函數(shù)和正則項(xiàng)的目標(biāo)函數(shù)進(jìn)行優(yōu)化。仿真及靜態(tài)均取得了較好的重建效果,比經(jīng)典ELM網(wǎng)絡(luò)具有更好的泛化能力,且成像質(zhì)量?jī)?yōu)于Landweber迭代算法,具有較好的應(yīng)用前景。