“硬”邊界低階導(dǎo)數(shù)型物理信息神經(jīng)網(wǎng)絡(luò):一種流動(dòng)求解器

流體的流動(dòng)在自然界和工業(yè)過(guò)程中無(wú)處不在,精確模擬流體流動(dòng)過(guò)程對(duì)航空航天

、建筑環(huán)境

、能源電力

和生物醫(yī)學(xué)工程

等領(lǐng)域有重要意義。流體流動(dòng)問(wèn)題的傳統(tǒng)數(shù)值模擬通常使用有限差分法、有限容積法或有限元法等方法以離散的形式求解Navier-Stokes(N-S)方程,此即計(jì)算流體動(dòng)力學(xué)(computational fluid dynamics,CFD)方法。對(duì)于在復(fù)雜幾何結(jié)構(gòu)中的流動(dòng)和湍流問(wèn)題,CFD方法計(jì)算過(guò)程繁瑣,并且在使用過(guò)程中對(duì)計(jì)算區(qū)域的網(wǎng)格劃分也消耗巨大的計(jì)算資源。此外,對(duì)于病態(tài)問(wèn)題和反演問(wèn)題的求解,CFD方法也存在一定的困難。

近年來(lái)隨著計(jì)算機(jī)技術(shù)和人工智能的發(fā)展,深度神經(jīng)網(wǎng)絡(luò)以其強(qiáng)大的復(fù)雜非線性系統(tǒng)建模能力在計(jì)算流體動(dòng)力學(xué)領(lǐng)域引起廣泛關(guān)注

。深度神經(jīng)網(wǎng)絡(luò)在求解流動(dòng)問(wèn)題時(shí)只需事先獲取部分流場(chǎng)數(shù)據(jù),然后就可以快速實(shí)現(xiàn)對(duì)整個(gè)計(jì)算區(qū)域內(nèi)流場(chǎng)的精準(zhǔn)預(yù)測(cè)。Jin等利用CFD數(shù)據(jù)集訓(xùn)練了一個(gè)可以精確預(yù)測(cè)不同雷諾數(shù)下圓柱繞流流場(chǎng)的卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network,CNN)模型

。謝晨月等基于高馬赫數(shù)的可壓縮湍流直接數(shù)值模擬數(shù)據(jù)訓(xùn)練了一個(gè)用于對(duì)強(qiáng)可壓縮湍流進(jìn)行大渦模擬的空間人工神經(jīng)網(wǎng)絡(luò)模型(space artificial neural network,SANN)

;模擬結(jié)果表明,SANN模型展現(xiàn)了優(yōu)異的預(yù)測(cè)性能,突破了梯度模型、待定系數(shù)梯度模型和反卷積模型的局限性,此外,Kim等建立了一個(gè)通過(guò)輸入壁面切應(yīng)力等壁面信息就可以實(shí)現(xiàn)對(duì)湍流通道局部熱通量進(jìn)行精確預(yù)測(cè)的CNN模型

。以上研究表明,CNN、SANN等深度神經(jīng)網(wǎng)絡(luò)模型的優(yōu)勢(shì)在于非線性預(yù)測(cè)能力強(qiáng)、無(wú)需劃分網(wǎng)格、訓(xùn)練速度快,但是深度神經(jīng)網(wǎng)絡(luò)在使用過(guò)程中需要事先獲取大量的標(biāo)簽數(shù)據(jù)用于訓(xùn)練網(wǎng)絡(luò),而在實(shí)際應(yīng)用過(guò)程中獲取標(biāo)簽數(shù)據(jù)往往十分困難。

Raissi等于2017年首次提出了一種名為物理信息神經(jīng)網(wǎng)絡(luò)(physics informed neural network,PINN)的新型神經(jīng)網(wǎng)絡(luò)框架,該框架通過(guò)將控制方程嵌入到傳統(tǒng)神經(jīng)網(wǎng)絡(luò)中,使其成為一種懂物理的神經(jīng)網(wǎng)絡(luò)。研究表明,PINN具有極強(qiáng)的求解/識(shí)別偏微分方程的能力

。PINN也可用于流體動(dòng)力學(xué)問(wèn)題的數(shù)值模擬,通過(guò)給定控制方程和相應(yīng)的初始及邊界條件即可獲得方程的數(shù)值結(jié)果;且在求解過(guò)程中只需從區(qū)域內(nèi)抽取一定數(shù)量的殘差點(diǎn),而無(wú)需對(duì)計(jì)算區(qū)域進(jìn)行網(wǎng)格劃分。Jin等基于N-S方程和渦量方程,建立了可用于預(yù)測(cè)流場(chǎng)的速度壓力PINN模型和渦量速度PINN模型

。侯龍鋒等發(fā)現(xiàn)利用

-epsilon雷諾平均N-S方程構(gòu)建的PINN框架可實(shí)現(xiàn)對(duì)湍流流動(dòng)的數(shù)值模擬

。Cai等應(yīng)用PINN求解了一些CFD方法不易解決的病態(tài)流動(dòng)和傳熱問(wèn)題

,此外,Cai等利用PINN求解反演問(wèn)題的能力提出了一種基于實(shí)驗(yàn)溫度數(shù)據(jù)預(yù)測(cè)整個(gè)計(jì)算區(qū)域流場(chǎng)和溫度場(chǎng)的PINN模型,這有望為實(shí)驗(yàn)流體動(dòng)力學(xué)提供新的發(fā)展方向

。然而,與CNN、SANN等深度神經(jīng)網(wǎng)絡(luò)模型相比,PINN的劣勢(shì)在于其訓(xùn)練過(guò)程通常需要花費(fèi)大量時(shí)間。因此,如何加速PINN的訓(xùn)練過(guò)程成為PINN應(yīng)用道路上亟待解決的問(wèn)題。Sun等將邊界條件以一種“硬”方式編碼到PINN中,提出了“硬”邊界物理信息神經(jīng)網(wǎng)絡(luò)(“hard”boundary PINN,HPINN)框架;結(jié)果表明,HPINN可以有效加速PINN的訓(xùn)練過(guò)程,并可在一定程度上提高計(jì)算精度

。Zhu等利用赫維賽德函數(shù)對(duì)PINN施加“硬”邊界條件,也可實(shí)現(xiàn)對(duì)PINN訓(xùn)練過(guò)程的加速

。Rao等提出了一種用于模擬不可壓縮層流流動(dòng)的混合變量物理信息神經(jīng)網(wǎng)絡(luò),通過(guò)將流函數(shù)作為神經(jīng)網(wǎng)絡(luò)的輸出,該網(wǎng)絡(luò)自動(dòng)滿足連續(xù)性方程,因此可在一定程度上加速網(wǎng)絡(luò)的訓(xùn)練過(guò)程

。

常規(guī)雙心鉆頭普遍存在擴(kuò)孔鉆進(jìn)效率低、擴(kuò)孔能力差、擴(kuò)孔后井徑不規(guī)則、扭矩波動(dòng)幅度大、橫向不平衡力幅值大等問(wèn)題，難以適應(yīng)深井定向隨鉆擴(kuò)孔鉆進(jìn)[3-5]。其中，常規(guī)雙心鉆頭的總體橫向不平衡力常常超過(guò)鉆頭軸向力的20%[2,6-7]，在鉆井過(guò)程中會(huì)導(dǎo)致鉆頭領(lǐng)眼段切削齒磨損嚴(yán)重不均勻，而個(gè)別切削齒的提前失效會(huì)影響鉆頭的徑向布齒，降低鉆頭的切削效率，致使鉆頭領(lǐng)眼段切削齒的壽命提前終結(jié)。因此，需增強(qiáng)鉆頭的穩(wěn)定性以提高鉆頭的鉆進(jìn)效率。本文將對(duì)定向隨鉆擴(kuò)孔PDC鉆頭結(jié)構(gòu)優(yōu)化設(shè)計(jì)展開(kāi)相關(guān)研究，以提高其穩(wěn)定性。

上述研究主要是通過(guò)減少PINN損失函數(shù)的損失項(xiàng)數(shù)實(shí)現(xiàn)對(duì)PINN訓(xùn)練過(guò)程的加速,這種方式的加速效果有限。本研究另辟蹊徑,從控制方程入手,將N-S方程轉(zhuǎn)換成低階導(dǎo)數(shù)形式,轉(zhuǎn)換后N-S方程構(gòu)建的PINN的損失函數(shù)形式簡(jiǎn)單,易于優(yōu)化;在此基礎(chǔ)上,進(jìn)一步對(duì)PINN施加“硬”邊界條件。因此,新的PINN結(jié)合了兩種方式的優(yōu)點(diǎn),其訓(xùn)練過(guò)程被大幅加速。本文以求解變截面管道內(nèi)的流動(dòng)問(wèn)題為例,討論所提出的PINN相較于傳統(tǒng)HPINN的訓(xùn)練加速性能以及模擬的精確性。

1 控制方程和神經(jīng)網(wǎng)絡(luò)框架構(gòu)建

1.1 控制方程

二維穩(wěn)態(tài)不可壓縮層流流動(dòng)由下列連續(xù)性方程和N-S方程控制

(1)

(2)

傳統(tǒng)的通過(guò)徑向振動(dòng)信號(hào)診斷轉(zhuǎn)軸裂紋的方法中，最有效的就是監(jiān)測(cè)對(duì)比轉(zhuǎn)子過(guò)1/2、1/3等臨界轉(zhuǎn)速時(shí)的1、2、3倍頻信號(hào)幅值改變程度和觀察對(duì)比轉(zhuǎn)子臨界轉(zhuǎn)速的改變量，也就是軸裂紋的徑向振動(dòng)信號(hào)特征，只有在機(jī)組啟停機(jī)轉(zhuǎn)子升降速時(shí)才有明顯的表現(xiàn)，但是石化等流程企業(yè)中運(yùn)行的大型機(jī)組，通常運(yùn)行周期多在一年以上，中途不會(huì)為了檢查轉(zhuǎn)子裂紋而做停機(jī)升降速試驗(yàn)，這樣對(duì)企業(yè)來(lái)說(shuō)少則是幾百萬(wàn)元、多則是數(shù)千萬(wàn)元的損失，而轉(zhuǎn)子軸的裂紋從生成到擴(kuò)展斷裂，時(shí)間就短得多，因此就需要有一個(gè)新的方法，在轉(zhuǎn)速變化不大的正常運(yùn)轉(zhuǎn)中，監(jiān)測(cè)診斷轉(zhuǎn)子軸裂紋的生成與擴(kuò)展。

1.3 統(tǒng)計(jì)學(xué)分析 本研究所有數(shù)據(jù)均采用統(tǒng)計(jì)學(xué)軟件SPSS 21.0進(jìn)行分析，計(jì)量資料采用進(jìn)行描述，行t檢驗(yàn)；計(jì)數(shù)資料借助率(%)來(lái)描述，行χ2檢驗(yàn)。生存曲線評(píng)估采用Kaplan-Meier法，組間比較采用Log-rank法。P<0.05差異有統(tǒng)計(jì)學(xué)意義。

1.2 HPINN框架

PINN框架主要由一個(gè)全連接神經(jīng)網(wǎng)絡(luò)(fully connected neural network,FCNN)和一個(gè)殘差網(wǎng)絡(luò)構(gòu)成。FCNN用于近似N-S方程的解,即FCNN的輸入為空間變量(

,

),輸出為(

,

,

)。殘差網(wǎng)絡(luò)用于計(jì)算控制方程殘差。在構(gòu)建殘差網(wǎng)絡(luò)時(shí),需要計(jì)算FCNN的輸出變量關(guān)于輸入變量的偏導(dǎo)數(shù),這可由自動(dòng)微分技術(shù)實(shí)現(xiàn)

。FCNN的激活函數(shù)采用tanh函數(shù),權(quán)重

和偏置

采用Xavier方式進(jìn)行初始化

。優(yōu)化策略為先采用自適應(yīng)矩估計(jì)(adaptive moment estimation,Adam)算法進(jìn)行一定步數(shù)的優(yōu)化

,隨后采用局部極小化(limited-memory BFGS-Bound,L-BFGS-B)算法進(jìn)行更精細(xì)的優(yōu)化

。在計(jì)算過(guò)程中,通過(guò)兩種優(yōu)化算法不斷對(duì)PINN的損失函數(shù)進(jìn)行優(yōu)化,從而更新權(quán)重

和偏置

,以使PINN可以精準(zhǔn)地預(yù)測(cè)N-S方程的解。當(dāng)損失函數(shù)被優(yōu)化到一個(gè)極小值時(shí),此時(shí)的PINN便可以精準(zhǔn)預(yù)測(cè)N-S方程的解。

(3)

其中

(4)

(5)

1)不同微物理參數(shù)化方案的選擇對(duì)降水預(yù)報(bào)有一定的影響,通過(guò)對(duì)這12次個(gè)例的統(tǒng)計(jì)評(píng)估,發(fā)現(xiàn)在這些個(gè)例中對(duì)小雨和暴雨預(yù)報(bào)較好,而中雨和大雨預(yù)報(bào)較差。對(duì)于24 h累積降水,8種方案都可預(yù)報(bào)出雨帶的大致位置以及強(qiáng)降水中心,但是預(yù)報(bào)的強(qiáng)降水中心強(qiáng)度偏大,并且普遍存在小雨空?qǐng)?bào)的問(wèn)題。綜合RMSE、ACC和TS評(píng)分的結(jié)果發(fā)現(xiàn),對(duì)于24 h累積降水,CAM5.1方案較優(yōu),Morrison 2-mom方案次之,NSSL 2-mom方案最差。對(duì)于3 h、6 h累積降水,同樣可以發(fā)現(xiàn)CAM5.1方案較優(yōu),并且當(dāng)預(yù)報(bào)時(shí)效為12 h和36 h時(shí),模式預(yù)報(bào)的效果較好。

上述這種將邊界條件以數(shù)據(jù)誤差的形式添加到損失函數(shù)中,構(gòu)建有約束優(yōu)化損失函數(shù)的方式稱之為“軟”邊界條件。以這種“軟”方式構(gòu)建的損失函數(shù)進(jìn)行訓(xùn)練主要有兩種弊端。一是該損失函數(shù)中

的大小會(huì)對(duì)PINN的預(yù)測(cè)性能產(chǎn)生嚴(yán)重影響。若

較小則會(huì)導(dǎo)致PINN預(yù)測(cè)結(jié)果可以很好地滿足控制方程,但是卻不能精確滿足邊界條件,致使計(jì)算結(jié)果不準(zhǔn)確,反之亦然;而通常懲罰系數(shù)的選擇只能依靠經(jīng)驗(yàn)和反復(fù)嘗試。二是在求解具有復(fù)雜幾何結(jié)構(gòu)的問(wèn)題時(shí),特別是邊界發(fā)生突變的問(wèn)題時(shí),“軟”方式不能精準(zhǔn)施加邊界條件,PINN在計(jì)算時(shí)難以預(yù)測(cè)邊界的形狀規(guī)律,導(dǎo)致最終的計(jì)算誤差較大。

為規(guī)避以上兩種弊端,本研究采用“硬”邊界條件進(jìn)行計(jì)算。“硬”邊界條件是通過(guò)利用邊界條件和距離函數(shù)強(qiáng)制使PINN滿足相應(yīng)的邊界條件?！坝病边吔鏟INN的輸出變量可由下列公式表示

在罐區(qū)設(shè)置緊急切斷閥、構(gòu)建安全聯(lián)鎖保護(hù)系統(tǒng)對(duì)于維護(hù)罐區(qū)安全生產(chǎn)，保護(hù)人員生命及財(cái)產(chǎn)安全等具有十分重要的意義，設(shè)計(jì)人員應(yīng)做好緊急切斷閥的選型及安全聯(lián)鎖保護(hù)設(shè)計(jì)等工作，并在應(yīng)用過(guò)程中通過(guò)不斷地探討與改進(jìn)，使其應(yīng)用更加合理化、規(guī)范化，充分發(fā)揮其在罐區(qū)安全保護(hù)方面的積極作用。

=

[1-

(

,

)]+

(

,

)

(6)

=

[1-

(

,

)]+

(

,

)

(7)

=

[1-

(

,

)]+

(

,

)

(8)

式中:

、

和

為“硬”邊界PINN的輸出變量;

、

和

為FCNN的直接輸出變量;

、

和

為給定的第一類邊界條件;

(

,

)為與點(diǎn)(

,

)到邊界的距離有關(guān)的連續(xù)光滑函數(shù),當(dāng)點(diǎn)(

,

)在邊界上時(shí)

(

,

)=0,當(dāng)點(diǎn)(

,

)遠(yuǎn)離邊界時(shí)

(

,

)≠0,且越遠(yuǎn)離邊界其值也越大。

以這種“硬”方式施加邊界條件可以實(shí)現(xiàn)PINN對(duì)邊界上值的零誤差預(yù)測(cè),因此相較于“軟”邊界可以有效提升計(jì)算精度。與此同時(shí),“硬”邊界PINN的損失函數(shù)無(wú)需邊界條件損失,因此可在一定程度上加速訓(xùn)練過(guò)程。用于求解二維穩(wěn)態(tài)不可壓縮層流流動(dòng)問(wèn)題的“硬”邊界物理信息神經(jīng)網(wǎng)絡(luò)框架如圖1所示,其損失函數(shù)如下式所示

首先，德育教師要變知識(shí)的灌輸者為學(xué)習(xí)的引導(dǎo)者，增強(qiáng)學(xué)生的主體意識(shí)，通過(guò)討論式教學(xué)、情景式教學(xué)、案例教學(xué)等方式構(gòu)建新型課堂教學(xué)模式，加強(qiáng)與學(xué)生的互動(dòng)和合作，鼓勵(lì)學(xué)生獨(dú)立思考、勇于創(chuàng)新，引導(dǎo)學(xué)生自我教育、自我管理，自覺(jué)將優(yōu)秀傳統(tǒng)文化蘊(yùn)含的道德理念內(nèi)化到自己的行動(dòng)中。其次，德育教師要不斷探索師生關(guān)系，尊重學(xué)生情感和人格，給予學(xué)生充分的信任、寬容、理解與支持，善于發(fā)掘?qū)W生的“閃光點(diǎn)”，因材施教，幫助學(xué)生樹(shù)立自尊、自信、自強(qiáng)、自立、自律的主體觀念，使學(xué)生更加積極主動(dòng)地參與到傳統(tǒng)文化教學(xué)中。

(9)

2.2.1 數(shù)值模擬的精確性研究

(10)

1.3 HLPINN框架

(11)

(12)

(13)

式中:

為柯西應(yīng)力張量。

式中:

=1 m/s,可保證流動(dòng)為層流。出口壓力為0,壁面無(wú)滑移。用于施加速度和壓力邊界條件的距離函數(shù)可分別表示如下

以求解二維穩(wěn)態(tài)不可壓縮層流問(wèn)題為例,HLPINN的輸入變量仍是空間變量(

,

),輸出變量則變?yōu)?

,

,

,

)。與HPINN相同,HLPINN的損失函數(shù)也只包含控制方程損失,只是控制方程變成了低階導(dǎo)數(shù)的形式。HLPINN的激活函數(shù)、初始化方法和優(yōu)化策略均與HPINN保持一致。用于求解二維穩(wěn)態(tài)不可壓縮層流問(wèn)題的“硬”邊界低階導(dǎo)數(shù)型物理信息神經(jīng)網(wǎng)絡(luò)框架示意圖如圖2所示。本文雖只以二維穩(wěn)態(tài)流動(dòng)問(wèn)題為例建立HLPINN框架,但是該框架也可非常方便地拓展用于解決更為復(fù)雜的問(wèn)題。例如對(duì)于三維非穩(wěn)態(tài)流動(dòng)問(wèn)題來(lái)說(shuō),FCNN輸入變量為時(shí)空變量(

,

,

,

),輸出變量需增加

方向的速度和相應(yīng)的應(yīng)力分量,然后將三維非穩(wěn)態(tài)問(wèn)題的控制方程嵌入殘差網(wǎng)絡(luò)。最后,將初始條件以數(shù)據(jù)誤差的形式添加到損失函數(shù)中即可完成構(gòu)建求解三維非穩(wěn)態(tài)流動(dòng)問(wèn)題的HLPINN框架。

2 結(jié)果與討論

變截面管道(截面擴(kuò)張和收縮)在工業(yè)生產(chǎn)過(guò)程中應(yīng)用廣泛,例如工業(yè)輸送管道及管道的閥門(mén)連接處;在生物醫(yī)學(xué)工程領(lǐng)域也很普遍,例如狹窄的血管和患有動(dòng)脈瘤的血管?；谏疃葘W(xué)習(xí)框架TensorFlow,本文應(yīng)用所提出的HLPINN和HPINN框架對(duì)變截面管道內(nèi)的流動(dòng)進(jìn)行數(shù)值模擬,以探究?jī)煞N框架求解流動(dòng)問(wèn)題的有效性,并比較HLPINN相對(duì)于HPINN對(duì)神經(jīng)網(wǎng)絡(luò)訓(xùn)練加速的能力。

為比較HLPINN和HPINN數(shù)值模擬的精確性,本研究采用HLPINN和HPINN求得的解與CFD方法求得解的相對(duì)誤差

進(jìn)行比較,其計(jì)算公式如下

(14)

本文變截面管道的截面半徑可由下式表示

=

±

(2π

)

-12

e

-(-)2

(15)

式中:截面擴(kuò)張時(shí)±取正號(hào),反之取負(fù)號(hào);

為管道入口半徑,固定為0.1 m;

為與截面變化程度有關(guān)的參數(shù),其值越大則截面越寬或越窄,固定為0.005 m

;

為截面變化峰值點(diǎn)的位置,固定為0.5 m;

為影響截面變化陡度的參數(shù),固定為0.1 m。

2.1 截面擴(kuò)張管道內(nèi)的流動(dòng)

2.1.1 數(shù)值模擬的精確性研究

本節(jié)應(yīng)用HLPINN和HPINN對(duì)截面擴(kuò)張管道的流動(dòng)問(wèn)題進(jìn)行求解。管道長(zhǎng)度為1 m,截面半徑由式(15)表示。流體的密度

=1 kg/m

,運(yùn)動(dòng)黏度

=0.01 m

/s,管道入口處施加拋物線型速度邊界條件,具體可由下式描述

(16)

變換形式后,控制方程導(dǎo)數(shù)項(xiàng)的最高階數(shù)由二階降為一階。利用式(11)、(12)和(13)構(gòu)建的PINN,由于其損失函數(shù)只包含一階導(dǎo)數(shù),訓(xùn)練過(guò)程中的反向傳播過(guò)程被加速,因此可以大幅節(jié)省訓(xùn)練時(shí)間。同時(shí),邊界條件也采用“硬”方式施加。這種新型PINN框架稱之為“硬”邊界低階導(dǎo)數(shù)型物理信息神經(jīng)網(wǎng)絡(luò)框架(“hard”boundary low-order derivative PINN,HLPINN)。

旅游業(yè)是一個(gè)綜合性產(chǎn)業(yè)，涉及餐飲、住宿、交通、游覽、購(gòu)物和娛樂(lè)等諸多領(lǐng)域，需要相關(guān)行業(yè)的支持與配合，同時(shí)也離不開(kāi)冰雪制造業(yè)、冰雪教育和科研等領(lǐng)域的支持。

=10

(

-

)

(17)

=-

+1

從PCK的提出到PCKg及TPCs的演變來(lái)看，關(guān)于PCK的研究體現(xiàn)出以下兩個(gè)特點(diǎn)：一是研究者的知識(shí)觀發(fā)生了轉(zhuǎn)變，由靜態(tài)的知識(shí)觀轉(zhuǎn)向動(dòng)態(tài)建構(gòu)的知識(shí)觀；二是PCK不斷豐富完善，其內(nèi)涵更加強(qiáng)調(diào)了在PCK形成與發(fā)展中個(gè)人的意義，特別強(qiáng)調(diào)教師的教學(xué)建構(gòu)及在這一過(guò)程中的反思.

(18)

由式(17)和(18)可見(jiàn),

僅在入口和壁面處函數(shù)值為0,滿足施加速度邊界條件的要求。

僅在出口處函數(shù)值為0,滿足施加壓力邊界條件的要求。

首先研究不同神經(jīng)網(wǎng)絡(luò)大小(隱藏層數(shù)×每層神經(jīng)元數(shù))對(duì)HLPINN和HPINN模擬精確性的影響,以期找到表現(xiàn)最佳的神經(jīng)網(wǎng)絡(luò)。計(jì)算過(guò)程中采用拉丁超立方抽樣方法從計(jì)算區(qū)域內(nèi)抽取

=5 904個(gè)殘差點(diǎn),并對(duì)壁面附近加密。優(yōu)化策略為先采用學(xué)習(xí)率為0.001的Adam算法進(jìn)行30 000步計(jì)算,緊接著采用L-BFGS-B算法進(jìn)行5 000步計(jì)算。所有訓(xùn)練均在同一計(jì)算平臺(tái)(NVIDIA GeForce GTX 1660 GPU,Windows 10 Pro)上完成,每個(gè)算例進(jìn)行3次重復(fù)計(jì)算。截面擴(kuò)張工況下不同大小的HLPINN和HPINN預(yù)測(cè)的

方向速度

的相對(duì)誤差

如表1所示。

由表1可知,所選12種不同大小的HPINN均能精確模擬截面擴(kuò)張管道內(nèi)的

方向速度

,并且將相對(duì)誤差

控制在0.29%左右。相比之下,HLPINN的誤差比HPINN的略大,但是也保持在同一數(shù)量級(jí)。在所有算例中,HLPINN的最大誤差僅為1.11%,表明其能精確模擬管道內(nèi)的速度分布。HLPINN大小為8×100時(shí)的誤差最小,下文選用8×100的HLPINN和HPINN的計(jì)算結(jié)果做進(jìn)一步討論。

圖3(a)、3(b)和3(c)分別為CFD、HLPINN和HPINN模擬得到的流場(chǎng)情況。由圖3可見(jiàn),HLPINN和HPINN對(duì)流場(chǎng)的模擬結(jié)果與CFD結(jié)果高度一致。這說(shuō)明兩種框架均能精確模擬管道內(nèi)流場(chǎng)情況。

圖4(a)和4(b)分別給出了由HLPINN、HPINN和CFD預(yù)測(cè)的截面

=0.5 m處的

、

方向速度曲線和沿通道中心線(

=0 m)的壓力分布。曲線表明兩種框架均可精確模擬截面擴(kuò)張?zhí)幜黧w的

、

方向速度分布以及管道內(nèi)的非線性壓降。

2.1.2 HLPINN的加速性能研究

為深入研究HLPINN的訓(xùn)練加速效果,對(duì)比了不同大小HLPINN和HPINN完成訓(xùn)練所需的時(shí)間。物理模型及邊界條件、殘差點(diǎn)數(shù),優(yōu)化策略與2.1.1小節(jié)中的相同。截面擴(kuò)張工況下不同大小HLPINN和HPINN的訓(xùn)練時(shí)間如圖5所示。

由圖5可見(jiàn),隨著神經(jīng)網(wǎng)絡(luò)增大,兩種框架的訓(xùn)練時(shí)間均隨之增加。這是由于當(dāng)神經(jīng)網(wǎng)絡(luò)增大時(shí),其訓(xùn)練所需計(jì)算的參數(shù)增多導(dǎo)致的。另外,對(duì)比曲線可以發(fā)現(xiàn),HLPINN的訓(xùn)練時(shí)間比同等大小的HPINN明顯大幅縮短,這說(shuō)明HLPINN對(duì)訓(xùn)練過(guò)程的加速效果極佳。具體來(lái)看,當(dāng)神經(jīng)網(wǎng)絡(luò)大小分別為6×50、6×60、6×70、6×80、6×90和6×100時(shí),HLPINN的訓(xùn)練時(shí)間比HPINN分別減少了68.39%、68.24%、66.19%、65.63%、65.97%和63.72%,平均減少了66.36%。同樣,當(dāng)神經(jīng)網(wǎng)絡(luò)大小分別為8×50、8×60、8×70、8×80、8×90和8×100時(shí),訓(xùn)練時(shí)間分別減少了67.23%、66.71%、65.00%、64.73%、63.89%和62.43%,平均減少了65.00%。

為進(jìn)一步研究HLPINN加速效果對(duì)優(yōu)化算法的依賴性,比較了Adam和L-BFGS-B兩種優(yōu)化算法的平均計(jì)算速度,如圖6所示。由圖6可見(jiàn),基于先前同樣的原因,兩種算法的計(jì)算速度均隨神經(jīng)網(wǎng)絡(luò)的增大而降低。對(duì)比曲線可以明顯發(fā)現(xiàn),兩種算法對(duì)HLPINN的計(jì)算速度比同等大小的HPINN要快很多。這說(shuō)明HLPINN對(duì)兩種算法均有明顯的加速效果。具體來(lái)看,當(dāng)隱藏層數(shù)為6時(shí),Adam算法對(duì)HLPINN的計(jì)算速度較其對(duì)HPINN的計(jì)算速度分別提高了232.14%、231.13%、209.45%、205.27%、210.61%和187.96%,平均提高了212.76%;L-BFGS-B算法對(duì)HLPINN的計(jì)算速度較其對(duì)HPINN的計(jì)算速度分別提高了110.55%、108.63%、104.37%、98.72%、91.85%和96.23%,平均提高了101.72%。類似地,當(dāng)隱藏層數(shù)為8時(shí),Adam算法對(duì)HLPINN的計(jì)算速度較其對(duì)HPINN的計(jì)算速度平均提高了200.89%;L-BFGS-B算法對(duì)HLPINN的計(jì)算速度較其對(duì)HPINN的計(jì)算速度平均提高了98.41%。可見(jiàn),HLPINN的加速效果明顯依賴于優(yōu)化算法,即Adam算法的加速幅度明顯高于L-BFGS-B算法。然而,對(duì)于相同大小的同種神經(jīng)網(wǎng)絡(luò),L-BFGS-B算法的計(jì)算速度卻比Adam算法快,因此在制定優(yōu)化策略時(shí)可以適當(dāng)減少Adam的迭代步數(shù),并相應(yīng)增加L-BFGS-B的迭代步數(shù)以減少訓(xùn)練時(shí)間。

表2測(cè)試了6個(gè)節(jié)點(diǎn)在以上3種情況下系統(tǒng)測(cè)得數(shù)據(jù)與實(shí)測(cè)數(shù)據(jù)比較，數(shù)據(jù)誤差小于5%，表明系統(tǒng)能夠較準(zhǔn)確采集到環(huán)境數(shù)據(jù)，能夠滿足一般的檢測(cè)需求。

2.2 截面收縮管道內(nèi)的流動(dòng)

其中

本節(jié)應(yīng)用HLPINN和HPINN對(duì)截面收縮管道內(nèi)的流動(dòng)問(wèn)題進(jìn)行求解。管道長(zhǎng)度為1 m,截面半徑由式(15)表示。流體的物性和管道的邊界條件與2.1.1節(jié)中相同。用于施加速度和壓力邊界條件的

、

與式(17)、(18)相同。

同樣,首先研究不同神經(jīng)網(wǎng)絡(luò)大小對(duì)HLPINN和HPINN模擬精確性的影響。殘差點(diǎn)數(shù)

=5 700,優(yōu)化策略仍為二段式優(yōu)化,只是L-BFGS-B算法的計(jì)算步數(shù)調(diào)整為8 000。截面收縮工況下不同大小HLPINN和HPINN預(yù)測(cè)的速度

的相對(duì)誤差

如表2所示。

由表2可知,截面收縮工況下所選12種不同大小的HPINN均能將速度

的相對(duì)誤差

控制在0.27%左右。HLPINN的計(jì)算精度雖然比HPINN的低,但是已經(jīng)可以滿足大部分實(shí)際需求。最佳的網(wǎng)絡(luò)大小仍為8×100。

圖7(a)、7(b)和7(c)分別為CFD、HLPINN和HPINN對(duì)管道內(nèi)流場(chǎng)的模擬情況。速度、壓力云圖表明兩種神經(jīng)網(wǎng)絡(luò)框架均能精確模擬截面收縮管道內(nèi)的流場(chǎng)情況。

圖8(a)和8(b)分別給出了由HLPINN、HPINN、CFD預(yù)測(cè)的截面

=0.5 m處的

、

方向速度曲線和沿通道中心線(

=0 m)的壓力分布。可見(jiàn),由于截面收縮處流動(dòng)非線性增強(qiáng),且

方向速度本身數(shù)值較小,HLPINN對(duì)截面收縮處

方向速度的預(yù)測(cè)結(jié)果與CFD和HPINN結(jié)果相比有些許偏差,但是其對(duì)截面收縮處

方向速度分布以及管道沿程非線性壓降的預(yù)測(cè)結(jié)果極為準(zhǔn)確。

表1為太極拳鍛煉過(guò)程中老人下肢左右側(cè)骨骼肌IEMG狀況。描述方法采用均值±標(biāo)準(zhǔn)差的方式。分別進(jìn)行組內(nèi)左右側(cè)骨骼肌IEMG對(duì)比，分析方法為配對(duì)樣本T檢驗(yàn)。結(jié)果表明，對(duì)照組左右側(cè)脛骨前肌(P=0.045﹤0.05)、股外側(cè)肌(P=0.016﹤0.05)差異顯著，實(shí)驗(yàn)組股內(nèi)側(cè)肌(P=0.048﹤0.05)、股外側(cè)肌(P=0.009﹤0.05)、臀大肌(P=0.049﹤0.05)差異顯著。

在實(shí)驗(yàn)結(jié)束后,采取SPSS19.0統(tǒng)計(jì)學(xué)軟件對(duì)相關(guān)實(shí)驗(yàn)資料進(jìn)行分析和處理,計(jì)量資料使用標(biāo)準(zhǔn)差(±s)標(biāo)示,實(shí)行t值檢驗(yàn),計(jì)數(shù)資料使用百分率(%)標(biāo)示,實(shí)行卡方檢驗(yàn),在P<0.05時(shí)組間差異具有統(tǒng)計(jì)學(xué)意義。

截面收縮工況下,Adam和L-BFGS-B兩種優(yōu)化算法對(duì)HLPINN和HPINN的平均計(jì)算速度分別如圖10(a)和10(b)所示。由圖10可見(jiàn),HLPINN加速效果仍顯著依賴于算法的種類。當(dāng)隱藏層數(shù)為6時(shí),Adam算法對(duì)HLPINN的計(jì)算速度較其對(duì)HPINN的計(jì)算速度平均提高了204.09%;L-BFGS-B算法對(duì)HLPINN的計(jì)算速度較其對(duì)HPINN的計(jì)算速度平均提高了96.31%。當(dāng)隱藏層數(shù)為8時(shí),Adam算法的計(jì)算速度平均提高了195.29%;L-BFGS-B算法的計(jì)算速度平均提高了79.84%。

=1 000

(

-

)

由圖9可見(jiàn),HLPINN在截面收縮工況下同樣可以加速訓(xùn)練過(guò)程。當(dāng)隱藏層數(shù)為6時(shí),HLPINN的訓(xùn)練時(shí)間比HPINN平均減少了64.29%。當(dāng)隱藏層數(shù)為8時(shí),訓(xùn)練時(shí)間平均減少了63.22%。

2.2.2 HLPINN的加速性能研究

2.3 距離函數(shù)對(duì)HLPINN的影響

為探究施加“硬”邊界條件時(shí),距離函數(shù)特性對(duì)HLPINN求解流動(dòng)問(wèn)題的影響,本節(jié)對(duì)比了幾種不同速度邊界條件距離函數(shù)得到的速度

的相對(duì)誤差

、訓(xùn)練時(shí)間及計(jì)算速度。選取的距離函數(shù)如下

=10

(

-

)

(19)

截面收縮工況下不同神經(jīng)網(wǎng)絡(luò)大小HLPINN和HPINN的訓(xùn)練時(shí)間對(duì)比如圖9所示。物理模型及邊界條件、殘差點(diǎn)數(shù)、優(yōu)化策略與2.2.1節(jié)中的相同。

(20)

=0.1

(

-

)

(21)

=10 000

(

-

)

我的文學(xué)作品中不乏苦難，因?yàn)檫@些東西在我的記憶里太深刻了，我不可能忘掉，它們就是我的生活，甚至是我的生活的全部。但是，在給孩子看的作品里面，我始終要給他們亮光，而不是讓他們看到一望無(wú)際的黑暗。即使寫(xiě)黑暗，我一定要讓他們看到亮光，而且還要讓他們預(yù)感到前面還有更大的亮光。我寫(xiě)苦難沒(méi)讓一個(gè)孩子悲觀失望、心灰意冷，他們只會(huì)在感動(dòng)中變得昂揚(yáng)，從今天來(lái)看，我的這種嘗試是成功的。

(22)

=0.01

(

-

)

在此情境中，教師以學(xué)生現(xiàn)實(shí)生活中的熟悉的小動(dòng)物為原型展開(kāi)圖形對(duì)稱的學(xué)習(xí)研究，這樣的學(xué)習(xí)對(duì)學(xué)生來(lái)說(shuō)是有意義的，學(xué)生是樂(lè)于接受的。

(23)

=min(

,

-|

|)

(24)

(25)

上述距離函數(shù)中,函數(shù)

～

形式與

相似,只是函數(shù)值域被擴(kuò)大或縮小。

的值域與

相近,但是不如

平滑。

則為一種極端情況,函數(shù)在邊界上時(shí)值為0,反之則為1。利用上述距離函數(shù)施加速度邊界條件求得的截面擴(kuò)張和收縮管道內(nèi)的流體速度

的相對(duì)誤差

以及相應(yīng)的訓(xùn)練時(shí)間和計(jì)算速度如表3所示。在訓(xùn)練過(guò)程中,物理模型及邊界條件、殘差點(diǎn)數(shù)、優(yōu)化策略分別與2.1.1和2.2.1小節(jié)中的保持一致,選用的HLPINN大小均為8×100。

分析表3可知,對(duì)于截面擴(kuò)張和收縮兩種工況,用

和

施加邊界條件求得的誤差比

的略大;用

和

施加邊界條件求得的誤差比

和

的更大,這說(shuō)明當(dāng)函數(shù)形式相似時(shí),函數(shù)的值域?qū)τ?jì)算誤差有很大的影響。

的誤差比

的略大,這主要是因?yàn)楹瘮?shù)

不如

平緩。若用

施加邊界條件則無(wú)法順利求解,這主要是因?yàn)?/p>

不連續(xù)。另外,對(duì)比

～

的訓(xùn)練時(shí)間和計(jì)算速度可以發(fā)現(xiàn),距離函數(shù)對(duì)訓(xùn)練時(shí)間和計(jì)算速度影響甚微。截面擴(kuò)張工況下

和截面收縮工況下

、

的訓(xùn)練時(shí)間短是由于訓(xùn)練發(fā)生病態(tài),損失函數(shù)無(wú)法繼續(xù)下降,L-BFGS-B算法自動(dòng)停止計(jì)算導(dǎo)致的。

3 結(jié) 論

本文基于HPINN提出了用于求解穩(wěn)態(tài)不可壓縮層流流動(dòng)問(wèn)題的HLPINN。利用HLPINN和HPINN對(duì)截面變化管道內(nèi)的流動(dòng)進(jìn)行了數(shù)值模擬,并系統(tǒng)比較了兩者的訓(xùn)練時(shí)間、計(jì)算速度和計(jì)算精度,得到如下結(jié)論。

(1)HLPINN和HPINN均能精確模擬截面擴(kuò)張和收縮管道內(nèi)的流場(chǎng)分布,但是HLPINN的整體計(jì)算精度略低于HPINN。對(duì)于截面擴(kuò)張工況,HPINN和HLPINN預(yù)測(cè)速度

的相對(duì)誤差

分別低至0.29%和0.53%;對(duì)于截面收縮工況,HPINN和HLPINN預(yù)測(cè)速度

的相對(duì)誤差

分別低至0.27%和0.41%。

(2)HLPINN相較于HPINN可以加速訓(xùn)練過(guò)程,減少訓(xùn)練時(shí)間。對(duì)于截面擴(kuò)張和收縮兩種工況,HLPINN的訓(xùn)練時(shí)間相較于同等大小的HPINN減少超60%。HLPINN可對(duì)兩種優(yōu)化算法實(shí)現(xiàn)不同程度的加速,對(duì)于Adam算法可以提速超過(guò)200%,對(duì)于L-BFGS-B算法則可提速90%左右。

(3)施加“硬”邊界條件的距離函數(shù)的形式和值域?qū)τ?jì)算誤差影響很大。研究發(fā)現(xiàn),距離函數(shù)必須是連續(xù)光滑函數(shù)且值域需在合理范圍內(nèi),但是距離函數(shù)對(duì)訓(xùn)練時(shí)間及計(jì)算速度的影響甚微。

除了流體力學(xué)(動(dòng)量傳遞)問(wèn)題,HLPINN還有望用于求解熱量及質(zhì)量傳遞問(wèn)題。

:

[1] 吳立明,王雷,劉小民,等.仿海鷗翼型動(dòng)靜態(tài)氣動(dòng)特性的數(shù)值模擬 [J].西安交通大學(xué)學(xué)報(bào),2020,54(12):88-97.

WU Liming,WANG Lei,LIU Xiaomin,et al.Numerical simulation on the static and dynamic aerodynamic characteristics of bionic seagull airfoil [J].Journal of Xi’an Jiaotong University,2020,54(12):88-97.

[2] 韓馨儀,趙松松,劉斌,等.分體式空調(diào)室內(nèi)氣流組織CFD仿真優(yōu)化 [J].制冷與空調(diào),2021,21(11):41-45.

HAN Xinyi,ZHAO Songsong,LIU Bin,et al.CFD simulation optimization of indoor air distribution in split air conditioner [J].Refrigeration and Air-Conditioning,2021,21(11):41-45.

[3] 樊樺,吳東垠.煙氣擋板流動(dòng)特性的數(shù)值模擬 [J].西安交通大學(xué)學(xué)報(bào),2021,55(2):93-99.

FAN Hua,WU Dongyin.Numerical simulation of the flow characteristics of a flue gas damper [J].Journal of Xi’an Jiaotong University,2021,55(2):93-99.

[4] 胡其會(huì),張鳴遠(yuǎn),李景銀,等.軸流式血泵水動(dòng)力特性和生物相容性的數(shù)值模擬 [J].西安交通大學(xué)學(xué)報(bào),2011,45(8):118-122.

HU Qihui,ZHANG Mingyuan,LI Jingyin,et al.Numerical simulation for hydrodynamics and biocompatibility in an axial blood pump [J].Journal of Xi’an Jiaotong University,2011,45(8):118-122.

[5] TRIPATHY R K,BILIONIS I.Deep UQ:learning deep neural network surrogate models for high dimensional uncertainty quantification [J].Journal of Computational Physics,2018,375:565-588.

[6] ZHU Yinhao,ZABARAS N.Bayesian deep convolutional encoder-decoder networks for surrogate modeling and uncertainty quantification [J].Journal of Computational Physics,2018,366:415-447.

[7] JIN Xiaowei,CHENG Peng,CHEN Wenli,et al.Prediction model of velocity field around circular cylinder over various Reynolds numbers by fusion convolutional neural networks based on pressure on the cylinder [J].Physics of Fluids,2018,30(4):047105.

[8] 謝晨月,王建春,萬(wàn)敏平,等.基于人工神經(jīng)網(wǎng)絡(luò)的可壓縮湍流大渦模擬模型 [J].航空學(xué)報(bào),2021,42(9):145-160.

XIE Chenyue,WANG Jianchun,WAN Minping,et al.Artificial neural network model for large-eddy simulation of compressible turbulence [J].Acta Aeronautica et Astronautica Sinica,2021,42(9):145-160.

[9] KIM J,LEE C.Prediction of turbulent heat transfer using convolutional neural networks [J].Journal of Fluid Mechanics,2020,882:A18.

[10] RAISSI M,PERDIKARIS P,KARNIADAKIS G E.Physics informed deep learning:part I data-driven solutions of nonlinear partial differential equations [EB/OL].[2022-03-13].https:∥doi.org/10.48550/arXiv.1711.10561.

[11] RAISSI M,PERDIKARIS P,KARNIADAKIS G E.Physics-informed neural networks:a deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations [J].Journal of Computational Physics,2019,378:686-707.

[12] JIN Xiaowei,CAI Shengze,LI Hui,et al.NSFnets (Navier-Stokes flow nets):physics-informed neural networks for the incompressible Navier-Stokes equations [J].Journal of Computational Physics,2021,426:109951.

[13] 侯龍鋒,朱兵,張偉.基于PINN神經(jīng)網(wǎng)絡(luò)算法的低雷諾數(shù)下槽道流模擬方法 [C]∥第三十一屆全國(guó)水動(dòng)力學(xué)研討會(huì)論文集:上冊(cè).北京:法律出版社,2020:1037-1044.

[14] CAI Shengze,WANG Zhicheng,WANG Sifan,et al.Physics-informed neural networks for heat transfer problems [J].Journal of Heat Transfer,2021,143(6):060801.

[15] CAI Shengze,WANG Zhicheng,FUEST F,et al.Flow over an espresso cup:inferring 3-D velocity and pressure fields from tomographic background oriented Schlieren via physics-informed neural networks [J].Journal of Fluid Mechanics,2021,915:A102.

[16] SUN Luning,GAO Han,PAN Shaowu,et al.Surrogate modeling for fluid flows based on physics-constrained deep learning without simulation data [J].Computer Methods in Applied Mechanics and Engineering,2020,361:112732.

[17] BERG J,NYSTR?M K.A unified deep artificial neural network approach to partial differential equations in complex geometries [J].Neurocomputing,2018,317:28-41.

[18] 陸至彬,瞿景輝,劉樺,等.基于物理信息神經(jīng)網(wǎng)絡(luò)的傳熱過(guò)程物理場(chǎng)代理模型的構(gòu)建 [J].化工學(xué)報(bào),2021,72(3):1496-1503.

LU Zhibin,QU Jinghui,LIU Hua,et al.Surrogate modeling for physical fields of heat transfer processes based on physics-informed neural network [J].CIESC Journal,2021,72(3):1496-1503.

[19] ZHU Qiming,LIU Zeliang,YAN Jinhui.Machine learning for metal additive manufacturing:predicting temperature and melt pool fluid dynamics using physics-informed neural networks [J].Computational Mechanics,2021,67(2):619-635.

[20] RAO Chengping,SUN Hao,LIU Yang.Physics-informed deep learning for incompressible laminar flows [J].Theoretical and Applied Mechanics Letters,2020,10(3):207-212.

[21] LAUBSCHER R,ROUSSEAU P.Application of a mixed variable physics-informed neural network to solve the incompressible steady-state and transient mass,momentum,and energy conservation equations for flow over in-line heated tubes [J].Applied Soft Computing,2022,114:108050.

[22] BAYDIN A G,PEARLMUTTER B A,RADUL A A,et al.Automatic differentiation in machine learning:a survey [J].Journal of Machine Learning Research,2018,18(153):1-43.

[23] GLOROT X,BENGIO Y.Understanding the difficulty of training deep feedforward neural networks [C]∥Proceedings of the Thirteenth International Conference on Artificial Intelligence and Statistics.Chia Laguna Resort,Sardinia,Italy:PMLR,2010:249-256.

[24] KINGMA D P,BA J.Adam:a method for stochastic optimization [EB/OL].[2022-03-13].https:∥doi.org/10.48550/arXiv.1412.6980.