基于級(jí)聯(lián)視覺(jué)Transformer與多尺度特征融合的燃燒場(chǎng)溫度層析成像

司菁菁 王曉莉 程銀波 劉 暢

①(燕山大學(xué)信息科學(xué)與工程學(xué)院 秦皇島 066004)

②(河北農(nóng)業(yè)大學(xué)海洋學(xué)院 秦皇島 066003)

③(愛(ài)丁堡大學(xué)工程學(xué)院 愛(ài)丁堡 EH93JL)

④(河北省信息傳輸與信號(hào)處理重點(diǎn)實(shí)驗(yàn)室 秦皇島 066004)

1 引言

可調(diào)諧二極管激光吸收光譜(Tunab le D iode Laser Absorption Spectroscopy,TDLAS)[1]作為一種重要的非侵入式光譜檢測(cè)技術(shù)，具有靈敏度高、抗干擾能力強(qiáng)、響應(yīng)速度快等優(yōu)勢(shì)?？烧{(diào)諧二極管激光吸收光譜層析成像(Tunab le D iode Laser Absorption Tomography,TDLAT)技術(shù)[2]將TDLAS與計(jì)算機(jī)層析成像(Com pu ted Tom og raphy,CT)技術(shù)相結(jié)合，能夠根據(jù)多光路投影數(shù)據(jù)重建燃燒場(chǎng)氣體參數(shù)的2維分布圖像。燃燒場(chǎng)氣體溫度分布與燃燒效率、污染物的產(chǎn)生等具有極強(qiáng)的相關(guān)性?；赥DLAT技術(shù)的瞬變?nèi)紵龍?chǎng)2維氣體溫度分布重建已成為燃燒檢測(cè)領(lǐng)域的一個(gè)重要研究方向[3]。

經(jīng)典的TDLAT溫度重建算法主要包括代數(shù)重建技術(shù)(A lgebraic Reconstruction Technique,ART)、同時(shí)迭代重建技術(shù)(Simultaneous Iterative Reconstruction Technique,SIRT)、Landweber迭代法[4]等。然而，這些計(jì)算層析成像算法通常計(jì)算復(fù)雜度較高、耗時(shí)較長(zhǎng)；當(dāng)可獲得的測(cè)量數(shù)據(jù)較少時(shí)，重建圖像精度較低且存在明顯偽影；在工業(yè)應(yīng)用中具有一定局限性。

近年來(lái)，隨著深度學(xué)習(xí)[5]的蓬勃發(fā)展，學(xué)者基于神經(jīng)網(wǎng)絡(luò)著手研究數(shù)據(jù)驅(qū)動(dòng)下的TDLAT溫度重建算法。代表算法主要包括基于卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network,CNN)[6]、基于改進(jìn)CNN[7]的燃燒場(chǎng)感興趣區(qū)域(Region of Interest,RoI)溫度重建算法，基于偽逆CNN(Pseudo Inversed CNN,PI-CNN)[8]、基于殘差網(wǎng)絡(luò)(Residual Network,ResNet)[9]的完整燃燒場(chǎng)層次化溫度重建算法等。這些算法利用適當(dāng)?shù)臄?shù)據(jù)集，學(xué)習(xí)測(cè)量數(shù)據(jù)到燃燒場(chǎng)溫度分布的映射關(guān)系；對(duì)TDLAT測(cè)量數(shù)據(jù)數(shù)量的需求明顯低于計(jì)算層析成像算法，且重建速度明顯高于計(jì)算層析成像算法。這些算法主要利用卷積算子提取TDLAT測(cè)量數(shù)據(jù)的相關(guān)性。然而，卷積算子較擅長(zhǎng)提取局部特征，在捕捉長(zhǎng)程相關(guān)性和全局特征方面具有局限性。若能夠有效提取并融合TDLAT測(cè)量數(shù)據(jù)中由局部到全局的多尺度相關(guān)特征，則有望進(jìn)一步提高溫度圖像的重建質(zhì)量。

自注意力機(jī)制擅長(zhǎng)捕獲上下文語(yǔ)義間的全局交互信息。近幾年，利用自注意力機(jī)制建立全局依賴關(guān)系實(shí)現(xiàn)特征提取的T ransform er模型[10]受到了學(xué)者的廣泛關(guān)注，并在自然語(yǔ)言處理領(lǐng)域具有出色表現(xiàn)。2020年，Dosovitskiy等人[11]將T ransform er引入計(jì)算機(jī)視覺(jué)領(lǐng)域，提出了視覺(jué)T ransform er(Vision T ransform er,ViT)，在圖像分類任務(wù)中獲得了優(yōu)于CNN的性能。

本文將ViT與多尺度特征融合引入TDLAT領(lǐng)域，提出基于級(jí)聯(lián)ViT與多尺度特征融合的溫度層析成像網(wǎng)絡(luò)(based on Hierarchical ViT and M ulti-scale Featuresm erging tem perature tomography netw ork,HVTM Fnet)。該網(wǎng)絡(luò)利用級(jí)聯(lián)V iT提取TDLAT測(cè)量數(shù)據(jù)中的局部-全局相關(guān)特征，并融合多尺度特征實(shí)現(xiàn)整個(gè)燃燒場(chǎng)測(cè)量區(qū)域的層次化溫度分布重建。仿真實(shí)驗(yàn)與實(shí)際TDLAT系統(tǒng)實(shí)驗(yàn)均表明，HVTM Fnet具有優(yōu)于現(xiàn)有的基于CNN與基于ResNet的溫度層析成像方案的重建性能。

2 TDLAT的理論基礎(chǔ)

根據(jù)Beer-Lam bert定律，當(dāng)一束頻率為v的激光束穿過(guò)燃燒場(chǎng)中的吸收介質(zhì)時(shí)，路徑積分吸收值A(chǔ) v可以表示為

其中，L為光路長(zhǎng)度，P為待測(cè)區(qū)域的氣體壓強(qiáng)，S v(T)為 與溫度相關(guān)的吸收譜線強(qiáng)度，T(l),X(l)與a v(l)分別表示光路上l位置處的氣體溫度、濃度與局部吸收密度。若將燃燒場(chǎng)測(cè)量區(qū)域離散為J個(gè)均勻網(wǎng)格，并設(shè)每個(gè)網(wǎng)格內(nèi)的氣體參數(shù)是均勻的，則式(1)可以轉(zhuǎn)換成如式(2)的離散形式

其中，A v,n為頻率v下第n條激光束(n=1,2,...,N)的路徑積分吸收值，Ln,j為第n條激光束穿過(guò)第j個(gè)網(wǎng)格的路徑長(zhǎng)度(j=1,2,...,J)，N為激光束數(shù)，J為離散網(wǎng)格數(shù)。頻率v下第j個(gè)網(wǎng)格的氣體吸收密度av,j可以表示為

其中，T j和Xj分別表示第j個(gè)網(wǎng)格的氣體溫度與濃度。若令A(yù) v=[A v,n]∈RN×1表示路徑積分吸收值向量，L=[L n,j]∈RN×J表示弦長(zhǎng)矩陣，T=[T j]∈RJ×1,X=[X j]∈RJ×1和a v=[a v,j]∈RJ×1分別表示氣體溫度、濃度和吸收密度向量，則A v可以表示為如式(4)的矩陣運(yùn)算形式

其中，⊙表示對(duì)應(yīng)元素相乘。

3 層次化離散模型

為了能夠在完整描述整個(gè)測(cè)量區(qū)域溫度分布狀態(tài)的同時(shí)，重點(diǎn)實(shí)現(xiàn)燃燒場(chǎng)RoI內(nèi)溫度分布的高空間分辨率重建，本文采用層次化離散模型[9]對(duì)Ro I與非RoI背景區(qū)域(Background,Bg)進(jìn)行不同密度的離散。圖1以本文在實(shí)驗(yàn)中采用的實(shí)際TDLAT系統(tǒng)的八邊形測(cè)量區(qū)域?yàn)槔?，描述了本文采用的層次化離散模型。

圖1 層次化離散模型示例

圖2 HVTMFnet模型

設(shè)將RoI與Bg分別離散為JRoI個(gè)高密度網(wǎng)格和JBg個(gè)低密度網(wǎng)格。在層次化離散模型下，路徑積分吸收值向量Av可以表示為

4 基于級(jí)聯(lián)V iT與多尺度特征融合的燃燒場(chǎng)溫度分布層析成像方案

4.1 HVTM Fnet的構(gòu)建

4.2 實(shí)驗(yàn)?zāi)Ｐ?/h3>

本文在實(shí)驗(yàn)中采用的TDLAT系統(tǒng)的激光光路布置方式如圖3所示。32路激光束分別布置在0°,45°,90°和135°4個(gè)角度上(Nangle=4)，每個(gè)角度上等間隔布置8路平行激光束(Nline=8)。在實(shí)驗(yàn)中，選擇水蒸氣(H2O)作為碳?xì)浠衔锶紵龍?chǎng)中的吸收介質(zhì)，并為其選擇頻率分別為v1=7185.60 cm-1和v2=7444.36 cm-1的 兩條吸收譜線(w=2)。該TDLAT系統(tǒng)的測(cè)量區(qū)域是一個(gè)邊長(zhǎng)為14.4 cm的八邊形。實(shí)驗(yàn)中，取中心位置處邊長(zhǎng)為14.4 cm的正方形區(qū)域?yàn)镽o I，以Ro I外的其他區(qū)域?yàn)锽g。以尺寸為0.36 cm×0.36 cm的細(xì)網(wǎng)格對(duì)Ro I進(jìn)行高密度離散，JRoI=1 600；以尺寸為1.44 cm×1.44 cm的粗網(wǎng)格對(duì)Bg進(jìn)行低密度離散，JBg=364；整個(gè)測(cè)量區(qū)域的網(wǎng)格數(shù)J=JRoI+JBg=1 964。

圖4 6種重建模型的誤差值比較

本文在實(shí)驗(yàn)中構(gòu)建M=2的HVTMFnet，根據(jù)TDLAT系統(tǒng)在頻率v1和v2下測(cè)量到的路徑積分吸收值向量A v1∈R32×1和A v2∈R32×1，重建層次化溫度分布向量T?∈R1964×1，進(jìn)而生成八邊形測(cè)量空間的溫度分布圖像。HVTM Fnet中階段1(即m=1)和階段2(即m=2)的具體參數(shù)設(shè)置如表1所示。連接多尺度特征向量q0,q1,q2，利用兩個(gè)神經(jīng)元數(shù)量分別為1 024和1 964的全連接層實(shí)現(xiàn)融合，利用高斯誤差線性單元(Gaussian E rror Linear Unit,GELU)作為激活函數(shù)。

表1 實(shí)驗(yàn)中HVTMFnet模型的參數(shù)設(shè)置

5 實(shí)驗(yàn)結(jié)果與分析

5.1 數(shù)據(jù)集的建立

本文依據(jù)文獻(xiàn)[1,6,8,9,13]中對(duì)層流火焰橫截面氣體參數(shù)分布模型的假設(shè)，采用隨機(jī)混合高斯模型模擬燃燒場(chǎng)的多模態(tài)溫度與氣體濃度分布。具有相關(guān)性的溫度分布T(x,y)和濃度分布X(x,y)分別如式(12)和式(13)所示

其中，(x,y)表示空間位置坐標(biāo)，d和D分別表示高斯分布的序號(hào)和總數(shù)。(μx,d,μy,d)和σd分別表示第d個(gè)高斯分布的均值和標(biāo)準(zhǔn)差，用于調(diào)整峰值的位置與覆蓋范圍；u d和vd用于調(diào)節(jié)第d個(gè)高斯分布在溫度分布和濃度分布中的峰值幅度，βd用于調(diào)節(jié)第d個(gè)高斯分布的權(quán)重。Tmin和Xmin表示溫度分布與濃度分布的最小值。在本文實(shí)驗(yàn)中，這些參數(shù)的具體設(shè)置如表2所示，其中U (a,b)表 示在區(qū)間[a,b]上的均勻分布。

表2 實(shí)驗(yàn)中采用的數(shù)據(jù)集參數(shù)設(shè)置

需要說(shuō)明的是，本文基于隨機(jī)混合高斯模型模擬層流場(chǎng)的參數(shù)分布，主要是為了簡(jiǎn)化方案驗(yàn)證的仿真實(shí)驗(yàn)，并便于與現(xiàn)有的在相同模型下進(jìn)行驗(yàn)證的TDLAT溫度重建網(wǎng)絡(luò)進(jìn)行性能比較。若將本文方案應(yīng)用于更復(fù)雜的湍流場(chǎng)溫度分布重建，則需要利用計(jì)算流體力學(xué)仿真[14]等工具，建立更符合具體情況的數(shù)據(jù)集，并對(duì)網(wǎng)絡(luò)進(jìn)行重新訓(xùn)練。

5.2 HVTMFnet的訓(xùn)練與測(cè)試

隨機(jī)選取數(shù)據(jù)集中的10 000個(gè)樣本構(gòu)成訓(xùn)練集，以剩余的900個(gè)樣本構(gòu)成測(cè)試集。采用無(wú)噪聲的訓(xùn)練集訓(xùn)練網(wǎng)絡(luò)。為了模擬實(shí)際燃燒場(chǎng)中的測(cè)量值，采用如式(14)所示的方式在測(cè)試樣本的測(cè)量值向量A v中引入加性白噪聲，從而在不同測(cè)量值信噪比(Signal to Noise Ratio,SNR)下進(jìn)行測(cè)試

5.3 仿真實(shí)驗(yàn)結(jié)果與分析

接下來(lái)，比較H-CNN,HTT-ResNet,PI-CNN和HVTMFnet 4種網(wǎng)絡(luò)模型重建的溫度圖像質(zhì)量。圖5和圖6分別展示了4種網(wǎng)絡(luò)模型為代表性單峰火焰樣本和雙峰火焰樣本重建的溫度分布圖像與殘差圖像。由圖5(b)—圖5(e)可見(jiàn)，與H-CNN相比，HTT-ResNet,PI-CNN和HVTMFnet重建的單峰火焰輪廓與原始樣本更接近。由圖6(b)—圖6(e)可見(jiàn)，與H-CNN,HTT-ResNet和PI-CNN相比，HVTM Fnet重建圖像中兩個(gè)火焰峰值的定位更準(zhǔn)確、火焰輪廓與原始樣本更接近。由圖5(f)—圖5(i)和圖6(f)—圖6(i)可見(jiàn)，與H-CNN,HTT-ResNet和PI-CNN相比，HVTMFnet的重建圖像與原始樣本之間的殘差最小。

圖5 4種網(wǎng)絡(luò)模型對(duì)代表性單峰樣本的重建圖像及殘差圖像

圖6 4種網(wǎng)絡(luò)模型對(duì)代表性雙峰樣本的重建圖像及殘差圖像

最后，表3比較了H-CNN, HTT-ResNet, PI-CNN和HVTMFnet 4種網(wǎng)絡(luò)模型的訓(xùn)練時(shí)間與測(cè)試集中平均每幀圖像的重建時(shí)間。由表3可見(jiàn)，與H-CNN,HTT-ResNet和PI-CNN相比，HVTM Fnet的訓(xùn)練時(shí)間較長(zhǎng)。這主要是因?yàn)镠VTM Fnet中為獲得更高的圖像重建質(zhì)量而構(gòu)建的多尺度特征融合模型更為復(fù)雜。在重建時(shí)間方面，HVTM Fnet可以在0.00783 m s完成一幀圖像的重建，與HTT-ResNet基本相當(dāng)，且明顯低于PI-CNN。

表3 4種網(wǎng)絡(luò)模型訓(xùn)練時(shí)間及重建時(shí)間的對(duì)比

5.4 實(shí)際測(cè)量數(shù)據(jù)實(shí)驗(yàn)結(jié)果分析

利用實(shí)驗(yàn)室搭建的TDLAT實(shí)驗(yàn)系統(tǒng)獲得的實(shí)際測(cè)量數(shù)據(jù)，進(jìn)行溫度分布重建實(shí)驗(yàn)，進(jìn)一步驗(yàn)證HVTMFnet模型的性能。TDLAT實(shí)驗(yàn)系統(tǒng)的32路激光束的布置如圖3所示。根據(jù)實(shí)驗(yàn)系統(tǒng)在頻率v1和v2下測(cè)量到的路徑積分吸收值向量A v1∈R32×1和A v2∈R32×1，分別利用H-CNN,HTT-ResNet,PI-CNN和HVTMFnet重建整個(gè)測(cè)量空間的層次化溫度分布圖像。圖7和圖8分別展示了4種網(wǎng)絡(luò)模型為代表性真實(shí)單峰火焰燃燒場(chǎng)與雙峰火焰燃燒場(chǎng)重建的層次化溫度分布圖像。由圖7和圖8可見(jiàn)，與H-CNN,HTT-ResNet,PI-CNN相比，HVTMFnet的重建圖像中火焰的空間定位更準(zhǔn)確，火焰形狀更規(guī)則，背景區(qū)域中的偽影更少，能夠更準(zhǔn)確地反映燃燒場(chǎng)的真實(shí)狀態(tài)。

圖7 4種網(wǎng)絡(luò)模型對(duì)代表性真實(shí)單峰火焰燃燒場(chǎng)的重建圖像

圖8 4種網(wǎng)絡(luò)模型對(duì)代表性真實(shí)雙峰火焰燃燒場(chǎng)的重建圖像

在如圖7(a)所示的單峰火焰燃燒場(chǎng)中，熱電偶在2 cm高度上測(cè)得的溫度最高值為1 093 K。在H-CNN,HTT-ResNet,PI-CNN和HVTMFnet為該高度橫截面重建的溫度分布圖像中，溫度峰值分別為829 K,890 K,917 K和949 K?？梢?jiàn)，HVTMFnet重建的溫度峰值與熱電偶的實(shí)際測(cè)量值更接近。

6 結(jié)束語(yǔ)

本文將V iT與多尺度特征融合引入TDLAT領(lǐng)域，研究有限數(shù)量測(cè)量數(shù)據(jù)與整個(gè)測(cè)量空間溫度分布的非線性映射，提出基于級(jí)聯(lián)ViT與多尺度特征融合的燃燒場(chǎng)溫度層析成像網(wǎng)絡(luò)HVTM Fnet。HVTMFnet提取并融合TDLAT測(cè)量數(shù)據(jù)的局部-全局相關(guān)特征，實(shí)現(xiàn)整個(gè)燃燒場(chǎng)測(cè)量空間的層次化溫度分布重建。仿真實(shí)驗(yàn)表明，在信噪比25～50 dB的范圍內(nèi)，與現(xiàn)有的基于神經(jīng)網(wǎng)絡(luò)的溫度重建模型H-CNN,HTT-ResNet和PI-CNN相比，HVTMFnet的歸一化重建誤差分別降低了49.2%～72.1%, 20.9%～60.1%和16.8%～37.5%；相對(duì)峰值距離誤差分別降低了53.8%～85.6%,4.8%～48.4%和8.8%～38.2%；相對(duì)峰值幅度誤差分別降低了45.7%～59.9%,4.0%～25.1%和8.3%～24.5%。利用實(shí)際TDLAT系統(tǒng)測(cè)量數(shù)據(jù)的重建實(shí)驗(yàn)表明，HVTM Fnet重建的溫度分布圖像能夠更準(zhǔn)確地反映燃燒場(chǎng)的真實(shí)狀態(tài)。