基于遷移學(xué)習(xí)的水平管氣液兩相流型智能識(shí)別

梁法春， 陳 婧， 冉云麒， 高繼峰

（1.中國石油大學(xué)（華東）儲(chǔ)運(yùn)與建筑工程學(xué)院，山東青島266580；2.中原石油工程設(shè)計(jì)有限公司，河南濮陽457001）

0 引 言

氣液兩相流廣泛存在于石油、化工、能源、動(dòng)力等多個(gè)工業(yè)領(lǐng)域［1-2］。隨著氣液流速的不同，管路會(huì)呈現(xiàn)分層流、波浪流、段塞流、環(huán)狀流等多種流動(dòng)形態(tài)，即流型［3］。流型是表征氣液兩相流動(dòng)最重要參數(shù)之一，研究多相流動(dòng)規(guī)律和機(jī)理，建立預(yù)測模型以及對(duì)氣液兩相流動(dòng)過程進(jìn)行設(shè)計(jì)、監(jiān)測和控制都依賴于對(duì)其流型的準(zhǔn)確識(shí)別［4］。當(dāng)前流型識(shí)別方法主要有肉眼觀察法、波動(dòng)分析法以及層析成像法等。人通過透明管壁觀察來識(shí)別流型最為簡單，也是確定流型的主要方式［5］。但流型識(shí)別結(jié)果依賴人的主觀判斷，不同識(shí)別主體辨別結(jié)果可能有較大差異。對(duì)于高速氣液兩相流動(dòng)，人類肉眼難以準(zhǔn)確分辨氣液界面，從而增加了識(shí)別難度。層析成像法通過測量管內(nèi)氣液三維分布來判斷流型，具有可視化、非侵入等優(yōu)點(diǎn)［6-8］。但層析成像法往往采用大量傳感器構(gòu)建測量陳列，測量系統(tǒng)復(fù)雜，并需要圖像重建計(jì)算，從而影響顯示和測量的實(shí)時(shí)性。部分成像法還要求被檢測管道為不導(dǎo)電的絕緣材料，感測元件需布置在管道內(nèi)壁，難以直接應(yīng)用于已建氣液兩相流系統(tǒng)。波動(dòng)分析法主要通過對(duì)壓力、差壓、持液率等信號(hào)的波動(dòng)特征提取來間接識(shí)別流型，提取的特征參數(shù)通常有功率譜密度、標(biāo)準(zhǔn)偏差、斜度、多尺度熵、分型維數(shù)等［9-13］。特征提取往往具有一定的主觀性，很難全面反映流型特征。近年來，深度神經(jīng)網(wǎng)絡(luò)迅猛發(fā)展，其優(yōu)點(diǎn)是無需人為提取特征，已在人臉識(shí)別、物品分類、設(shè)備故障診斷等場景獲得巨大成功［14-16］。

一些學(xué)者探索將深度學(xué)習(xí)應(yīng)用到兩相流型識(shí)別中，取得了較好的效果［17］。神經(jīng)網(wǎng)絡(luò)在流型識(shí)別應(yīng)用潛力巨大，但傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)需要大量的訓(xùn)練樣本。本文探索將遷移學(xué)習(xí)應(yīng)用于流型識(shí)別，采用高速攝像儀記錄流型照片，在訓(xùn)練好的卷積神經(jīng)網(wǎng)絡(luò)AlexNet的基礎(chǔ)上，應(yīng)用少量標(biāo)記好的流型圖片成功實(shí)現(xiàn)遷移學(xué)習(xí)訓(xùn)練。

1 AlexNet卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

AlexNet是Hinton和Alex Krizhevsky開發(fā)的卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network，CNN）模型，可實(shí)現(xiàn)1 000多種常見物品的分類［18］。該模型在物品識(shí)別方面效果突出，曾獲2012年度ImageNet圖像識(shí)別大賽冠軍。如圖1所示為AlexNet基本架構(gòu)，包括1個(gè)輸入層，5個(gè)卷積層和2個(gè)全連接層和1個(gè)輸出層。輸入層接收RGB彩色圖像（227×227×3）。卷積層是卷積神經(jīng)網(wǎng)絡(luò)的關(guān)鍵組成部分，其作用是進(jìn)行特征提取。卷積層內(nèi)通常包含卷積、激活、歸一化、池化等操作，從而得到越來越復(fù)雜的特征圖。全連接層的作用在于分類，兩個(gè)全連接層的kernel都為4 096，最后輸出層擁有1 000個(gè)神經(jīng)元，代表AlexNet能夠預(yù)測1 000多種分類物品。AlexNet網(wǎng)絡(luò)激活層采用了ReLU激活函數(shù)替代常規(guī)的Sigmoid和tanh函數(shù)，以提高收斂速度并克服較深網(wǎng)絡(luò)導(dǎo)致的梯度爆炸問題，同時(shí)采用Dropout操作隨機(jī)失活部分神經(jīng)元來防止模型過擬合。

圖1 AxleNet網(wǎng)絡(luò)結(jié)構(gòu)

2 流型識(shí)別遷移神經(jīng)網(wǎng)絡(luò)構(gòu)建

遷移學(xué)習(xí)（Transfer learning）是將用從一個(gè)環(huán)境中學(xué)到的知識(shí)來用于新環(huán)境。本文保留AlexNet網(wǎng)絡(luò)已經(jīng)訓(xùn)練好的權(quán)值參數(shù)，在此基礎(chǔ)上應(yīng)用新的流型數(shù)據(jù)集進(jìn)行遷移學(xué)習(xí)訓(xùn)練。AlexNet原始訓(xùn)練數(shù)據(jù)集采用ImageNet 2012分類數(shù)據(jù)集，該數(shù)據(jù)集有1 000個(gè)類別，包含120萬張訓(xùn)練圖像，5萬張驗(yàn)證圖像和10萬張測試圖像［18］。

圖2所示為用于流型識(shí)別的遷移網(wǎng)絡(luò)模型結(jié)構(gòu)。將在ImageNet數(shù)據(jù)集上訓(xùn)練好的AlexNet模型參數(shù)遷移到新的數(shù)據(jù)集上進(jìn)行訓(xùn)練，保留前5個(gè)卷積層和相應(yīng)池化層以及2個(gè)全連接層的參數(shù)，其他參數(shù)采用隨機(jī)初始化。修改最后一層（分類層），設(shè)置其神經(jīng)元個(gè)數(shù)為3，分別代表波浪流、環(huán)狀流、段塞流三類典型流型。分類層運(yùn)用Softmax函數(shù)作為分類器計(jì)算訓(xùn)練樣本中的正確標(biāo)簽的對(duì)數(shù)概率平均值，從而實(shí)現(xiàn)流型識(shí)別，其表達(dá)式為：

圖2 流型識(shí)別遷移神經(jīng)網(wǎng)絡(luò)

式中：xi表示分類器的第i個(gè)輸入；c為識(shí)別的氣液兩相流流型種類，對(duì)于本流型辨識(shí)任務(wù)取值為3；yi為分類器的第i個(gè)輸出。

定義損失函數(shù)為

在網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練中，首先將前向傳播得到的預(yù)測值與樣本標(biāo)簽值進(jìn)行比較，從而獲得損失函數(shù)E，然后通過誤差反向傳播算法不斷修正權(quán)值使得損失函數(shù)不斷降低，直至收斂。

3 氣液兩相流型樣本采集

為獲得網(wǎng)絡(luò)訓(xùn)練所需的數(shù)據(jù)集，在氣液兩相流實(shí)驗(yàn)環(huán)道上開展了流型圖像采集實(shí)驗(yàn)。實(shí)驗(yàn)工作介質(zhì)為空氣和水，圖3所示為流型測量實(shí)驗(yàn)環(huán)道示意圖。來自壓縮機(jī)的空氣首先進(jìn)入氣體緩沖罐，以減少壓力波動(dòng)，氣相流量由橫河旋渦流量計(jì)測量后進(jìn)入氣液混合器。來自水箱的液體經(jīng)離心泵增壓后，進(jìn)入單相液體管路，采用艾默生質(zhì)量流量計(jì)測量流量后進(jìn)入氣液混合器，與氣相混合。測試段直徑40 mm，距離混合器出口180倍管徑，以保障流動(dòng)充分發(fā)展。測試段采用透明有機(jī)玻璃制成，以便觀察和記錄流型。流型圖像采集采用美國NAC公司生產(chǎn)制造的MEMRECAM HX-7

圖3 氣液兩相流流型采集實(shí)驗(yàn)系統(tǒng)

高速攝像儀，最高可拍攝8 500幀/s高清圖像。

管道結(jié)構(gòu)和氣液流體性質(zhì)確定后，氣液兩相流流型主要取決于氣液相流量。采用氣體旁通管線和氣體調(diào)節(jié)閥控制氣相流量，采用液體回流閥和液體調(diào)節(jié)閥控制液相流量，以實(shí)現(xiàn)不同流型。實(shí)驗(yàn)氣相折算速度范圍為3.0～18.0 m/s，液相折算速度范圍為0.01～0.20 m/s。出現(xiàn)的流型為波浪流、段塞流以及環(huán)狀流。

本文實(shí)驗(yàn)中對(duì)攝像頭采集的視頻按照一定采樣間隔進(jìn)行圖片截取，從而獲得圖片數(shù)據(jù)集，然后對(duì)圖片數(shù)據(jù)集進(jìn)行篩選，選取特征明確、圖像清晰的數(shù)據(jù)進(jìn)行人工分類標(biāo)注（見圖4）。對(duì)于標(biāo)注的每個(gè)類別中的數(shù)據(jù)采用無放回隨機(jī)采樣的方法選取20%的圖片數(shù)據(jù)作為驗(yàn)證集。實(shí)驗(yàn)采集了分層流、段塞流、環(huán)狀流各120幅典型圖片，其中96幅圖用于網(wǎng)絡(luò)訓(xùn)練，另24張用于網(wǎng)絡(luò)預(yù)測效果驗(yàn)證。

圖4 典型流型訓(xùn)練樣本

4 網(wǎng)絡(luò)訓(xùn)練與誤差分析

將訓(xùn)練樣本和驗(yàn)證樣本輸入構(gòu)建的遷移神經(jīng)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)，采用單個(gè)GPU來加速網(wǎng)絡(luò)訓(xùn)練。設(shè)置學(xué)習(xí)率為0.000 1，Dropout值為0.5。采用重疊的最大池化層避免平均池化層的模糊化的效果，步長小于池化核的尺寸，使得池化輸出層之間有重疊和覆蓋進(jìn)而提升了提取特征的豐富性。采用LRN（Local Response Normalization）局部響應(yīng)歸一化，對(duì)局部神經(jīng)元的活動(dòng)創(chuàng)建了競爭機(jī)制，使得其中響應(yīng)比較大的值變得更大，并抑制反饋較小的神經(jīng)元，從而增強(qiáng)了預(yù)測網(wǎng)絡(luò)的泛化能力。

如圖5訓(xùn)練誤差曲線，可以看出經(jīng)過50步訓(xùn)練后模型的準(zhǔn)確率達(dá)到98.0%左右，在隨后訓(xùn)練中，預(yù)測精度在98.0%附近徘徊，顯示該模型訓(xùn)練已經(jīng)達(dá)到較好的準(zhǔn)確度，為防止過擬合，在250步時(shí)停止訓(xùn)練。

圖5 學(xué)習(xí)訓(xùn)練過程曲線

各組流型采用24個(gè)樣本進(jìn)行驗(yàn)證，結(jié)果如圖6所示。分層流和環(huán)狀流均能正確識(shí)別，而對(duì)于段塞流，24個(gè)測試流型中，有一個(gè)誤識(shí)別為分層流，流型識(shí)別精度和預(yù)測精度為98.6%。圖6顯示了真實(shí)流型圖片和相應(yīng)的識(shí)別概率，可見遷移神經(jīng)網(wǎng)絡(luò)在已訓(xùn)練網(wǎng)絡(luò)基礎(chǔ)上，通過少量樣本學(xué)習(xí)即可正確識(shí)別流型。

圖6 流型分類效果

卷積神經(jīng)網(wǎng)絡(luò)主要通過局部感受野、權(quán)值共享、降采樣這3種方法來實(shí)現(xiàn)對(duì)視覺皮層分層處理機(jī)制的模擬，相比于傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)，卷積神經(jīng)網(wǎng)絡(luò)具有超強(qiáng)的特征抽取能力［19］。Matthew等［20］通過反卷積對(duì)卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行可視化研究，發(fā)現(xiàn)第1卷積層主要提取邊緣、拐角、顏色等低層次的圖像特征。在此，對(duì)第1卷積層所提取的流型特征進(jìn)行可視化顯示和分析。通過對(duì)輸入圖像（227×227×3），采用96個(gè)11×11卷積核進(jìn)行卷積操作，得到96副大小為55×55圖像，見圖7。各幅圖像分別反映氣、液兩相在管道內(nèi)的分布特征。例如，第2幅圖像主要提取了氣液界面特征。對(duì)于分層流，能明顯看到水平的氣液分界面（見圖7（a））；對(duì)于段塞流，當(dāng)液塞來臨時(shí)持液率增加，氣液界面線上傾直至接近上管壁（見圖7（b））。而對(duì)于水平管環(huán)狀流，在重力作用下液膜主要在管道底部流動(dòng)，氣液界面產(chǎn)生較大的界面波，氣液界面難以出現(xiàn)光滑的直線或曲線（見圖7（c））。流型本質(zhì)即為氣液相分布，通過對(duì)卷積后的數(shù)據(jù)進(jìn)行圖像化顯示表明，遷移學(xué)習(xí)后的卷積神經(jīng)網(wǎng)絡(luò)能夠?qū)崿F(xiàn)氣液兩相流本質(zhì)特征抓取和表征。

圖7 第1卷積層提取的流型特征

5 結(jié) 論

在氣液兩相流實(shí)驗(yàn)環(huán)道上開展實(shí)驗(yàn)，采集了波浪流、環(huán)狀流、段塞流典型圖片，采用AlexNet卷積神經(jīng)網(wǎng)絡(luò)，通過遷移學(xué)習(xí)成功實(shí)現(xiàn)氣液兩相流流型識(shí)別。主要結(jié)論如下：

（1）采集的氣液圖片是氣液流型最客觀、最豐富的信息載體，直接將流型圖片RGB三維數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)輸入，無需特征提取，解決了常規(guī)波動(dòng)分析流型識(shí)別方法中特征提取難、提取信息不完全等問題。

（2）采用遷移學(xué)習(xí)方法，在前期訓(xùn)練收斂好的AlexNet的基礎(chǔ)上，不改變收斂權(quán)值，通過更改輸出層，采用少量樣本訓(xùn)練即可獲得理想的流型識(shí)別效果。測試表明，在3種流型訓(xùn)練樣本均為96時(shí)，流型識(shí)別率可達(dá)98.6%，通過增加過渡流型樣本，有利于進(jìn)一步提高流型識(shí)別準(zhǔn)確率。

（3）通過對(duì)卷積神經(jīng)網(wǎng)絡(luò)所提取特征進(jìn)行圖像化顯示表明，第1卷積層蘊(yùn)含豐富氣液界面信息，能夠?qū)庖簝上嗔鞅举|(zhì)進(jìn)行提取和表征。

（4）當(dāng)前實(shí)驗(yàn)條件下，只對(duì)分層流、段塞流、環(huán)狀流3種流型進(jìn)行了識(shí)別，將來需要進(jìn)一步擴(kuò)大流型范圍，提高神經(jīng)網(wǎng)絡(luò)的泛化能力。