基于融合RBF-PSO-AE算法的混凝土力學(xué)性能預(yù)測(cè)

黃晨亮, 郭力群, 呂陽陽, 劉 暢

(1. 駐馬店市科源建設(shè)工程質(zhì)量檢測(cè)有限公司, 河南 駐馬店 463000; 2. 華僑大學(xué), 福建 泉州 362021;3. 河南工業(yè)大學(xué),河南 鄭州 450001; 4. 河南省地巖工程科技有限公司,河南 鄭州 450001)

1 引 言

混凝土是大量使用在道路交通和工民建筑等土建領(lǐng)域不可或缺的材料,因此對(duì)混凝土自身特性的精準(zhǔn)把握起到了至關(guān)重要的作用。目前混凝土材料力學(xué)性能評(píng)估研究已成為廣泛關(guān)注的熱點(diǎn)和難點(diǎn)問題。混凝土材料的力學(xué)性能和穩(wěn)定性受到多種因素的影響,因而難以深入準(zhǔn)確預(yù)測(cè)混凝土力學(xué)性能。其力學(xué)性能預(yù)測(cè)通常采用概率統(tǒng)計(jì)[1]、多因素耦合[2]、神經(jīng)網(wǎng)絡(luò)[3]、相關(guān)向量機(jī)[4]等計(jì)算方法,這些方法有計(jì)算能力強(qiáng)、擬合效果好等優(yōu)點(diǎn)。循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network, RNN)推動(dòng)了深度學(xué)習(xí)在參數(shù)預(yù)測(cè)領(lǐng)域的發(fā)展,但是其梯度消失與梯度爆炸等問題伴隨著網(wǎng)絡(luò)深度加深而出現(xiàn)。在RNN的基礎(chǔ)上,文獻(xiàn)[5]提出長(zhǎng)短期記憶(long short-term memory, LSTM),解決了梯度消失與梯度爆炸問題,但無法很好解決捕捉長(zhǎng)期數(shù)據(jù)特征的問題。Li等[6,7]將Transformer網(wǎng)絡(luò)成功運(yùn)用到參數(shù)預(yù)測(cè)當(dāng)中,不僅有效克服了傳統(tǒng)RNN的梯度消失和梯度爆炸問題,并且增強(qiáng)了數(shù)據(jù)相關(guān)信息的關(guān)注,使得預(yù)測(cè)結(jié)果更加準(zhǔn)確,但其自注意力機(jī)制仍存在對(duì)局部信息不敏感的問題,須優(yōu)化潛在信息。盡管這些方法預(yù)測(cè)應(yīng)用取得了可觀的效果,但提取隱藏特征的能力有限,導(dǎo)致收斂速度慢或者易陷入局部極大值,均出現(xiàn)泛化能力弱,魯棒性差,以及訓(xùn)練過程復(fù)雜耗時(shí)久等問題。

本文提出了一種融合徑向基函數(shù)(radial basis function, RBF)、粒子群優(yōu)化算法(particle swarm optimization, PSO)和自編碼器(autoencoder, AE)的預(yù)測(cè)優(yōu)化算法(RBF-PSO-AE)。該算法是在改進(jìn)RBF-PSO的基礎(chǔ)上,增加無監(jiān)督學(xué)習(xí)自編碼器模型,實(shí)現(xiàn)數(shù)據(jù)降維。采用無監(jiān)督模型也大大提升了模型的泛化能力和魯棒性,從而實(shí)現(xiàn)對(duì)混凝土力學(xué)性能的精確預(yù)測(cè)。

2 混凝土力學(xué)性能模型

混凝土力學(xué)性能最重要的指標(biāo)是混凝土斷裂參數(shù),是混凝土材料耐壓能力的體現(xiàn)[8]。不同溫度下的混凝土斷裂能模型公式,是由斷裂試件置于不同溫度下斷裂實(shí)驗(yàn)得到的,混凝土的應(yīng)力強(qiáng)度因子為:

(1)

式中:D為混凝土試件厚度;h為混凝土試件有效的高度;Fs為水平壓力;a為裂縫長(zhǎng)度。

(2)

式中:h0為引伸計(jì)刀口薄鋼板的厚度;E為混凝土彈性模量參數(shù);Lc為臨界裂縫口位移距離。

斷裂能GF是單位面積內(nèi)裂縫擴(kuò)展所需平均能量,GF計(jì)算如式(3)所示:

(3)

式中:W為裂縫擴(kuò)展外荷載所做功,等于包圍面積;a0為初始縫長(zhǎng)。

3 改進(jìn)預(yù)測(cè)算法

3.1 RBF神經(jīng)網(wǎng)絡(luò)

RBF神經(jīng)網(wǎng)絡(luò)是經(jīng)典前向神經(jīng)網(wǎng)絡(luò)[9],具有可以擬合非線性連續(xù)函數(shù)的良好性能,其模型結(jié)構(gòu)如圖1所示,包含輸入層(X1～Xn),隱含層(C1～Cm)及輸出層(Y)。其網(wǎng)絡(luò)特點(diǎn)在于將隱含層節(jié)點(diǎn)激活函數(shù)定為徑向基函數(shù),具有收斂速度快、擬合精度高以及網(wǎng)絡(luò)結(jié)構(gòu)簡(jiǎn)單等優(yōu)點(diǎn)[10]。

圖1 RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)Fig.1 RBF neural network structure

如圖1所示的RBF結(jié)構(gòu)中,隱含層結(jié)構(gòu)中激活函數(shù)通常采用徑向基函數(shù):

(4)

式中:xn為第n個(gè)輸入?yún)?shù);cm為高斯函數(shù)的中心;σ為高斯函數(shù)的方差;‖xn-cm‖為對(duì)輸入樣本以及方差進(jìn)行二范數(shù)計(jì)算,最終得到RBF神經(jīng)網(wǎng)絡(luò)結(jié)果y:

(5)

式中wij為權(quán)值系數(shù),i=1,2,3…,n。

3.2 PSO算法

粒子群優(yōu)化算法源自鳥群捕食行為的啟發(fā),利用群體智能建立簡(jiǎn)化的模型—PSO算法模型。該算法獲得巡檢目標(biāo)過程中去全局問題最優(yōu)化的解法策略是優(yōu)先搜索距離最近的區(qū)域,利用多個(gè)個(gè)體之間的協(xié)作,來實(shí)現(xiàn)信息共享,最終實(shí)現(xiàn)群體進(jìn)化[11～13]。假設(shè)現(xiàn)存N個(gè)粒子(1個(gè)粒子群),在M維空間中對(duì)1個(gè)粒子群進(jìn)行最優(yōu)化解法查找,同時(shí)對(duì)每個(gè)粒子賦予“位置”與“速度”信息。

(6)

(7)

式中:Xi為粒子i的位置信息,Vi為粒子i的速度信息,i=1,2,…,N。

通過粒子間的對(duì)于位置與速度的持續(xù)迭代和不斷優(yōu)化,經(jīng)過計(jì)算即可獲得滿足當(dāng)前所有條件下全局最優(yōu)解。定義M維空間中任意1個(gè)粒子運(yùn)動(dòng)過程,受到粒子群整體出現(xiàn)過的最佳位置gbest和粒子自身出現(xiàn)過的最佳位置pbest的影響,則粒子i的第d維速度與位移更新公式為:

(8)

(9)

圖2 PSO算法流程圖Fig.2 Flow chart of PSO algorithm

3.3 AE模型

自編碼器(AE)提出的目的是解決復(fù)雜高維計(jì)算,主要包含編碼器以及解碼器。另外作為1種無監(jiān)督的學(xué)習(xí)方式,將輸入數(shù)據(jù)本身作為監(jiān)督,利用反向傳播方法,使得目標(biāo)值于輸入值之間的存在聯(lián)系,對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行指導(dǎo),使其嘗試著學(xué)習(xí)1個(gè)映射關(guān)系。自編碼器網(wǎng)絡(luò)中,編碼器可以表示為h=f(x),其作用是把高維輸入x編碼成為低維的隱變量h,使神經(jīng)網(wǎng)絡(luò)可以高效的學(xué)習(xí)到最有用的信息特征[14～16]。解碼器可以表示為r=g(h),其作用是將經(jīng)過神經(jīng)網(wǎng)絡(luò)中的隱變量h還原至初始維度,使其輸出r恢復(fù)至與輸入x維度相似。

3.4 融合RBF-PSO-AE的改進(jìn)模型

3.4.1 RBF-AE算法融合

自動(dòng)編碼器是無監(jiān)督學(xué)習(xí)模式,因此在訓(xùn)練前不需要用有標(biāo)簽的數(shù)據(jù)進(jìn)行訓(xùn)練。自動(dòng)編碼器經(jīng)過訓(xùn)練可以將輸入復(fù)制到輸出,進(jìn)而將自編碼器的結(jié)構(gòu)與RBF相融合,使RBF的輸入數(shù)據(jù)同樣被用于輸出,即輸出Y=X。作為融合自編碼器的RBF-AE網(wǎng)絡(luò),其結(jié)構(gòu)如圖3所示。

圖3 RBF-AE網(wǎng)絡(luò)結(jié)構(gòu)圖Fig.3 RBF-AE network structure diagram

圖3中,若該網(wǎng)絡(luò)結(jié)構(gòu)中n>L,L為目標(biāo)維度,則RBF-AE實(shí)現(xiàn)維度壓縮,將高維度數(shù)據(jù)映射成低維度特征表達(dá);若n=L,RBF-AE實(shí)現(xiàn)等維度的特征表達(dá);若n

RBF-AE算法模型使用的損失函數(shù)為交叉熵?fù)p失函數(shù)。相較于二次損失函數(shù),交叉熵?fù)p失函數(shù)在梯度更新中可以避免對(duì)激活函數(shù)求導(dǎo),從而擺脫了激活函數(shù)的限制,實(shí)現(xiàn)了真正的誤差越大,梯度越大,能加快收斂,縮短訓(xùn)練時(shí)間,交叉熵為:

(10)

3.4.2 改進(jìn)的融合RBF-PSO-AE算法

若混凝土斷裂參數(shù)預(yù)測(cè)樣本的數(shù)量過小,則擬合數(shù)據(jù)過程可能不可導(dǎo),所以難以應(yīng)用梯度下降方法優(yōu)化。而RBF網(wǎng)絡(luò)中高斯核函數(shù)常常被選擇作為徑向基函數(shù),高斯過程求最優(yōu)解,參數(shù)求解本身不可導(dǎo),所以不存在梯度,但可以能用蒙特卡洛求解方法。類似于隨機(jī)求解問題,方向和時(shí)間的不確定是力學(xué)預(yù)測(cè)場(chǎng)景2大關(guān)鍵問題。針對(duì)混凝土力學(xué)參數(shù)預(yù)測(cè),粒子群優(yōu)化方法通過生成有限數(shù)量的粒子群,在占用少量計(jì)算資源條件下,可持續(xù)調(diào)整優(yōu)化RBF的最佳權(quán)值參數(shù)矩陣,其過程如圖4所示。

鑒于RBF-PSO-AE算法出色的性能,將改進(jìn)RBF-PSO-AE算法應(yīng)用于混凝土力學(xué)性能預(yù)測(cè)中,最終的RBF-PSO-AE優(yōu)化算法模型預(yù)測(cè)流程如圖5所示。

圖4 PSO-RBF優(yōu)化過程Fig.4 PSO-RBF optimization process

圖5 融合RBF-PSO-AE的預(yù)測(cè)模型流程Fig.5 Prediction model process integrating RBF-PSO-AE

4 預(yù)測(cè)實(shí)例分析

4.1 研究數(shù)據(jù)

本文研究了溫度為40℃時(shí),預(yù)測(cè)不同的混凝土齡期,其斷裂能、失穩(wěn)韌度和起裂韌度等混凝土性能數(shù)據(jù),并對(duì)比多種單一算法模型對(duì)原始數(shù)據(jù)擬合的效果,從而對(duì)算法預(yù)測(cè)效果進(jìn)行評(píng)估。力學(xué)參數(shù)部分?jǐn)?shù)據(jù)如表1所示,圖6所示為60組參數(shù)的數(shù)據(jù)分布。

表140℃時(shí)混凝土各齡期斷裂參數(shù)Tab.1 Concrete parameters of at different day at 40 ℃

圖6 力學(xué)參數(shù)的數(shù)據(jù)分布Fig.6 Data distribution of mechanical parameters

4.2 預(yù)測(cè)分析

4.2.1 預(yù)測(cè)步驟

實(shí)驗(yàn)采用3種算法來構(gòu)建預(yù)測(cè)模型對(duì)數(shù)據(jù)進(jìn)行分析,分別是最小二乘方法(LEASTSQ),RBF方法,以及改進(jìn)的RBF-PSO-AE方法。將60組數(shù)據(jù)進(jìn)行劃分,隨機(jī)抽取50組數(shù)據(jù)進(jìn)行訓(xùn)練,剩下10組數(shù)據(jù)打亂順序,然后再作為測(cè)試樣本進(jìn)行預(yù)測(cè)。

4.2.2 預(yù)測(cè)結(jié)果分析

為便于分析比較,對(duì)斷裂能、失穩(wěn)韌度、起裂韌度等3個(gè)混凝土力學(xué)參數(shù),分別運(yùn)用LEASTSQ、RBF、改進(jìn)的PSO-RBF-AE等3種算法進(jìn)行預(yù)測(cè),預(yù)測(cè)結(jié)果分別如圖7所示。

圖7 力學(xué)性能預(yù)測(cè)結(jié)果Fig.7 Prediction results of mechanical properties

由圖7可以看出,在預(yù)測(cè)精度方面,3種預(yù)測(cè)算法平均預(yù)測(cè)精確度由高到低排序?yàn)镽BF-PSO-AE、RBF、LEASTSQ。誤差分析分別采用均方誤差(MSE)、平均絕對(duì)值誤差(MAE)和平均絕對(duì)誤差(AAE)三種誤差來進(jìn)行分析,斷裂能預(yù)測(cè)的各項(xiàng)誤差對(duì)比如表2所示。

表2誤差對(duì)比Tab.2 Error comparison (%)

在誤差分析時(shí)采用典型的均方根誤差進(jìn)行分析,以斷裂能預(yù)測(cè)為例,最小二乘法預(yù)測(cè)的均方根誤差達(dá)到了74.67%,誤差最大。而采用RBF構(gòu)建的預(yù)測(cè)模型,精度有了極大的提升,均方根誤差僅為14.61%,準(zhǔn)確度達(dá)到了85%以上。表現(xiàn)最佳的是采用RBF-PSO-AE優(yōu)化算法構(gòu)建的模型,該模型預(yù)測(cè)結(jié)果誤差僅為0.006%,是3種算法中精度最高的預(yù)測(cè)模型,且穩(wěn)定性最高。

5 結(jié) 論

1) 本文針對(duì)混凝土材料力學(xué)特性精確預(yù)測(cè)問題展開研究,對(duì)比評(píng)估RBF-PSO-AE融合預(yù)測(cè)模型與單一預(yù)測(cè)算法之間的效果差異。在同一個(gè)樣本數(shù)據(jù),分別運(yùn)用LEASTSQ、RBF、RBF-PSO-AE三種算法對(duì)混凝土的斷裂能、失穩(wěn)韌度、起裂韌度等進(jìn)行預(yù)測(cè)。

2) 實(shí)驗(yàn)結(jié)果表明, 所提出的RBF-PSO-AE融合模型的混凝土力學(xué)性能預(yù)測(cè)精確度達(dá)至99%以上。在不同參數(shù)下,RBF-PSO-AE融合預(yù)測(cè)模型將均方根誤差降低到0.006%左右,證明了加入無監(jiān)督學(xué)習(xí)的自編碼器模型后,融合預(yù)測(cè)模型的泛化能力大大提升。

3) 與RBF和LEASTSQ等單一預(yù)測(cè)算法對(duì)比,發(fā)現(xiàn)RBF-PSO-AE融合預(yù)測(cè)模型在混凝土力學(xué)性能預(yù)測(cè)的良好表現(xiàn),為實(shí)際工程應(yīng)用提供了有效的理論依據(jù)。未來將針對(duì)該算法模型進(jìn)行從規(guī)律可解釋方面進(jìn)行相關(guān)研究,并針對(duì)混凝土更多性能參數(shù)進(jìn)行可靠的精確預(yù)測(cè)。