基于深層循環(huán)神經(jīng)網(wǎng)絡(luò)的高速公路瀝青路面健康狀況預(yù)測模型

張志斌

(廣東盛翔交通工程檢測有限公司，廣州 510000)

目前中國高速公路路網(wǎng)建設(shè)速度已放緩，隨著設(shè)計使用年限的到來，大規(guī)模路網(wǎng)開始進入養(yǎng)護維修階段，對高速公路的路面使用性能進行準確預(yù)測不僅是制定合理養(yǎng)護策劃及處置措施的前提，還是提高路用性能、延長道路使用壽命、改善道路經(jīng)濟效益的關(guān)鍵[1-2]。近年來，很多學者針對道路技術(shù)狀況預(yù)測進行了系統(tǒng)研究。楊博等[3]建立了道路性能預(yù)測指標，并基于參數(shù)自跟蹤的路面使用性能預(yù)測模型，以準確分析瀝青路面性能發(fā)展過程；蘇衛(wèi)國等[4]從力學機理出發(fā)，建立了瀝青路面性能衰變的預(yù)測模型，可指導(dǎo)預(yù)防性養(yǎng)護方案決策研究；于曉賀等[5]為確定合理的瀝青路面養(yǎng)護時機和養(yǎng)護方式，通過優(yōu)化灰色預(yù)測模型并依賴初始值的問題，建立了修正灰色預(yù)測模型，并結(jié)合漢十高速公路養(yǎng)護數(shù)據(jù)進行了試驗驗證；林利聰[6]采用灰色預(yù)測法、灰色馬爾可夫預(yù)測法對路面性能指標進行預(yù)測，以合理確定預(yù)防性養(yǎng)護修復(fù)的時機；嚴世濤等[7]分析了雙參數(shù)取值對應(yīng)的養(yǎng)護模式，并結(jié)合灰色理論，建立了路面性能衰變預(yù)測模型；張麗娟等[8]提出了基于K最鄰近非參數(shù)回歸的道路路面性能預(yù)測方法。以上這些傳統(tǒng)的路面性能預(yù)測需對具體路段進行具體分析，不適用于大數(shù)據(jù)時代下的高效道路養(yǎng)護需求。

隨著人工神經(jīng)網(wǎng)絡(luò)等現(xiàn)代化AI技術(shù)的成熟，一些學者開始將神經(jīng)網(wǎng)絡(luò)引入道路性能預(yù)測中，謝峰[9]使用BP神經(jīng)網(wǎng)絡(luò)建立了路面狀況指數(shù)(PCI)、結(jié)構(gòu)強度指數(shù)(PSSI)、行駛質(zhì)量指數(shù)(RQI)、抗滑性能指數(shù)(SRI)等4個路面性能評價指標的預(yù)測模型；王笑風等[10]基于循環(huán)神經(jīng)網(wǎng)絡(luò)單元(LSTM)對道路性能預(yù)測的參數(shù)進行了優(yōu)化研究，但使用LSTM網(wǎng)絡(luò)較淺，并未對循環(huán)神經(jīng)網(wǎng)絡(luò)單元進行深入的應(yīng)用分析。

綜上所述，神經(jīng)網(wǎng)絡(luò)算法的出現(xiàn)促進了大數(shù)據(jù)公路養(yǎng)護管理的發(fā)展，但目前在該領(lǐng)域應(yīng)用較窄，無法解決神經(jīng)網(wǎng)絡(luò)泛化性能差的關(guān)鍵問題，使得基于神經(jīng)網(wǎng)絡(luò)的養(yǎng)護方案決策遲遲得不到充分的推廣與運用。

本文基于循環(huán)神經(jīng)網(wǎng)絡(luò)單元，構(gòu)建了深層循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的高速公路瀝青路面的健康狀況預(yù)測模型，比較了不同循環(huán)神經(jīng)網(wǎng)絡(luò)單元的應(yīng)用效果，針對循環(huán)神經(jīng)網(wǎng)絡(luò)工程實用的限制進行了分析，并以廣西省某高速公路養(yǎng)護數(shù)據(jù)為例進行工程應(yīng)用分析，短期預(yù)測精度高達97%。

1 瀝青路面健康狀況評定標準

高速公路瀝青路面的健康狀況多采用道路的抗滑、車轍、破損、平整性等指標進行表征，并通過加權(quán)求和得到路面技術(shù)狀況指數(shù)PQI(Pavement Quality Index)，作為衡量瀝青路面健康狀況的依據(jù)，以PQI評分劃分為“優(yōu)、良、中、次、差”級次，結(jié)合養(yǎng)護資金，確定路段養(yǎng)護方案的適宜等級，即大修、中修、小修、預(yù)防性養(yǎng)護和無需養(yǎng)護[11-13]。在養(yǎng)護等級確定后，再結(jié)合PQI的分項指標情況，細化道路養(yǎng)護方案的處治措施，因此，實現(xiàn)道路各項評價指標的準確預(yù)測是對道路健康狀況進行準確判斷以及合理制定具體養(yǎng)護方案的關(guān)鍵。

在《公路技術(shù)狀況評定標準》(JTG 5210—2018)中，新增了衡量路面跳車狀況的指標PBI以及衡量路面磨耗情況的指標PWI，更新后的PQI按公式(1)計算。

PQI=0.35PCI+ 0.30RQI+ 0.15RDI+ 0.10PBI+ 0.10SRI( 或PWI)

(1)

式中：PCI表示路面損壞狀況指數(shù)；RQI表示路面行駛質(zhì)量指數(shù)；RDI表示路面車轍狀況指數(shù)；SRI表示路面抗滑性能指數(shù)。其中抗滑與磨耗二取一進行PQI計算。

2 深層人工神經(jīng)網(wǎng)絡(luò)

基于人工神經(jīng)網(wǎng)絡(luò)ANN (Artificial Neural Network)的路面檢測指標預(yù)測是一種穩(wěn)定、快速、可靠的現(xiàn)代人工智能算法。ANN網(wǎng)絡(luò)分為輸入層、隱藏層與輸出層，輸入層為離散、獨立的影響因素變量“x”，輸出層為待求的值“y”，ANN網(wǎng)絡(luò)的目的即建立輸入與輸出之間的映射關(guān)系，這種映射關(guān)系是無法顯示表達的復(fù)雜非線性映射，如式(2)表述。

(y1,y2…yj)=f(x1,x2…xi)

(2)

ANN網(wǎng)絡(luò)通過隱藏層來建立映射關(guān)系，網(wǎng)絡(luò)所能表征映射的非線性程度與復(fù)雜度由隱藏層所含神經(jīng)元的個數(shù)和激活函數(shù)決定，神經(jīng)元的參數(shù)包括權(quán)重w與偏置b，一個隱藏層所包含的可供訓(xùn)練的網(wǎng)絡(luò)參數(shù)數(shù)量為(i+1)×n個，其中i為上一層的神經(jīng)元數(shù)量，n為該隱藏層的神經(jīng)元數(shù)量。信號從上一層向下一層傳遞時按照公式(3)計算。

Hn=g(Hn+bn)

(3)

式中：Hn為隱藏層第n個神經(jīng)元；g(x)為激活函數(shù)，常用來為網(wǎng)絡(luò)添加非線性的激活函數(shù)有“Tanh”、“ReLU”和“Sigmoid”等，如式(4)所示。

(4)

圖1 人工神經(jīng)網(wǎng)絡(luò)工作流程Fig.1 Process of artificial neural network

深層人工神經(jīng)網(wǎng)絡(luò)DANN(DeepArtificial Neural Network)是在ANN的基礎(chǔ)上不斷添加隱藏層數(shù)量和隱藏層神經(jīng)元的個數(shù)，增大網(wǎng)絡(luò)的參數(shù)數(shù)量級來實現(xiàn)對更深度、更復(fù)雜的映射關(guān)系的挖掘。DANN網(wǎng)絡(luò)所面臨的問題是隨著隱藏層數(shù)量的增大，誤差傳播的梯度消散及過擬合問題。因此，DANN網(wǎng)絡(luò)常伴隨著歸一化操作和Dropout操作。

采用DANN進行道路健康狀況預(yù)測時，根據(jù)養(yǎng)護監(jiān)測的實際情況，監(jiān)測間隔通常為1年，因此將多年的養(yǎng)護監(jiān)測數(shù)據(jù)進行整理，輸入數(shù)據(jù)x為[PCIt,RQIt,RDIt,SRIt]，輸出數(shù)據(jù)y的真值為[PCIt+1,RQIt+1,RDIt+1,SRIt+1]，即前后2年的各項檢測指標。為進一步提高DANN模型擬合的泛化能力，輸入數(shù)據(jù)x通常會增加路齡、結(jié)構(gòu)、交通荷載及溫度等因素。

3 深層循環(huán)神經(jīng)網(wǎng)絡(luò)

DANN網(wǎng)絡(luò)通常的訓(xùn)練樣本數(shù)據(jù)為前后2年的道路健康狀況監(jiān)測數(shù)據(jù)，無法在網(wǎng)絡(luò)中考慮道路多年的技術(shù)狀況變化情況。為了充分對道路的養(yǎng)護歷史進行數(shù)據(jù)挖掘，本文提出將循環(huán)神經(jīng)網(wǎng)絡(luò)RNN[14-15](RecurrentNeural Network)結(jié)構(gòu)引入道路健康狀況預(yù)測中，構(gòu)建深層循環(huán)神經(jīng)網(wǎng)絡(luò)，以進一步提高預(yù)測精度。

RNN網(wǎng)絡(luò)的輸入是一個時間序列，在一個RNN神經(jīng)元內(nèi)存在一個與輸入的時間序列Xt長度相等的傳遞結(jié)構(gòu)Ht，每個隱藏單元接受的輸入除了它自身對應(yīng)時刻的x輸入外，還有上一時刻隱藏單元的輸出，如式(5)所示。

Ht=f(U·Xt+W·Ht-1)

Ot=g(V·Ht)

(5)

式中：U，W和V是可訓(xùn)練的權(quán)重；f(x)和g(x)是激活函數(shù)(可相同)。

RNN神經(jīng)元可以控制輸出序列的長度，根據(jù)需求，可選擇不進行Ot的輸出，得到最后一個隱藏單元Ht的輸出，也可將每個隱藏單元對應(yīng)的Ot輸出序列作為下一層網(wǎng)絡(luò)的輸入值。根據(jù)道路健康狀況的預(yù)測需求，通常選擇根據(jù)前n年的檢測指標對第n+1年的指標進行預(yù)測，因此通常不輸出Ot序列，在經(jīng)過一層RNN層后拼接全連接層，即后接一個DANN網(wǎng)絡(luò)，構(gòu)成深度循環(huán)神經(jīng)網(wǎng)絡(luò)DRNN(Deep Recurrent Neural Network)。當然，如果選擇使用多層RNN層增加對時間序列規(guī)律的擬合，多層RNN層之間需要輸出Ot序列進行連接。

簡單RNN單元中的隱藏層與普通ANN網(wǎng)絡(luò)的隱藏層相同，只進行簡單的乘法和加法運算即輸出至下一隱藏單元，但當輸入序列過長時，簡單RNN單元在傳遞前信號的過程中會使早期的序列信息不斷稀釋，造成信息的丟失和反向傳播過程中的梯度彌散。為了解決RNN網(wǎng)絡(luò)的長期記憶和反向傳播中的梯度等問題，有學者在簡單RNN單元的基礎(chǔ)上提出了長短期記憶網(wǎng)絡(luò)LSTM (Long Short-Term Memory networks)，在一個隱藏單元內(nèi)部添加了“遺忘門”“輸入門”和“輸出門”的復(fù)雜結(jié)構(gòu)，實現(xiàn)在序列傳遞的同時不斷增強對早期序列的記憶。但是LSTM網(wǎng)絡(luò)的參數(shù)過多，受到計算能力的限制，在LSTM的基礎(chǔ)上進行了簡化，提出了與LSTM計算性能相似，但減少了大量計算參數(shù)的門控循環(huán)單元網(wǎng)絡(luò)GRU(Gate Recurrent Unit)。3種網(wǎng)絡(luò)的計算流程如圖2所示。

(a) 簡單RNN單元

在使用RNN網(wǎng)絡(luò)進行道路健康狀況預(yù)測時需要注意的是，輸入序列x必須是未經(jīng)過養(yǎng)護的自然衰減下的連續(xù)檢測指標序列。道路養(yǎng)護工作會改變原本的路段特征，1次養(yǎng)護后，路段應(yīng)被視為一個新的開始進行記錄，因此道路養(yǎng)護時間序列必須是未經(jīng)過養(yǎng)護修復(fù)的單調(diào)遞減的指標序列，但在實際的養(yǎng)護工程中，連續(xù)數(shù)年不進行養(yǎng)護工作(包括預(yù)防性養(yǎng)護)路段的數(shù)據(jù)量較少，因此需對歷史監(jiān)測數(shù)據(jù)進行預(yù)處理方式，在數(shù)據(jù)的質(zhì)量與數(shù)量之間進行平衡。本文推薦輸入時間序列的長度在6年～10年之間。在6年～10年的養(yǎng)護歷史中挑選未經(jīng)過養(yǎng)護或僅進行過1次養(yǎng)護的路段數(shù)據(jù)，借鑒M J FANG等[16]的研究工作，將1次養(yǎng)護帶來的曲線突變點視為噪聲數(shù)據(jù)，通過小波去噪對時間序列進行重構(gòu)，將得到6年～10年的單調(diào)遞減時間序列作為訓(xùn)練數(shù)據(jù)集的輸入數(shù)據(jù)訓(xùn)練RNN網(wǎng)絡(luò)。

4 案例分析

以廣西省某高速公路養(yǎng)護數(shù)據(jù)為例，使用10年的養(yǎng)護監(jiān)測數(shù)據(jù)制作訓(xùn)練集，以前9年的道路各指標時間序列作為訓(xùn)練樣本，預(yù)測第10年的健康狀況，并同實際檢測的健康狀況進行對比分析及計算訓(xùn)練的精度。分別訓(xùn)練3種不同單元的RNN神經(jīng)網(wǎng)絡(luò)(簡單RNN單元、LSTM單元和GRU單元)，訓(xùn)練集數(shù)據(jù)參數(shù)如表1所示。

表1 RNN網(wǎng)絡(luò)養(yǎng)護樣本數(shù)據(jù)Table 1 RNN network maintenance sample data

同時，訓(xùn)練ANN模型作為控制組進行對比試驗，ANN模型的訓(xùn)練集參數(shù)如表2所示。

表2 ANN網(wǎng)絡(luò)養(yǎng)護樣本數(shù)據(jù)Table 2 ANN network maintenance sample data

使用Tensorflow 2.0框架構(gòu)建ANN網(wǎng)絡(luò)和3種不同單元的RNN網(wǎng)絡(luò)，為了保持一致性，4種網(wǎng)絡(luò)結(jié)構(gòu)均搭建為深度神經(jīng)網(wǎng)絡(luò)，具有相同的層數(shù)與相同的過擬合等網(wǎng)絡(luò)優(yōu)化方式，4種網(wǎng)絡(luò)的訓(xùn)練參數(shù)如表3所示，具體網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示。

表3 4種網(wǎng)絡(luò)訓(xùn)練參數(shù)Table 3 Training parameters of four networks

圖3 ANN網(wǎng)絡(luò)和3種不同單元RNN網(wǎng)絡(luò)的具體結(jié)構(gòu)Fig.3 Specific structure of ANN network and three different unit RNN networks

(a) ANN

由圖4可見，RNN網(wǎng)絡(luò)的精度均優(yōu)于ANN網(wǎng)絡(luò)。ANN網(wǎng)絡(luò)、SimpleRNN單元、LSTM單元、GRU單元的擬合精度分別為85%、92%、95%、97%。試驗表明，RNN單元結(jié)合了多年歷史信息，能有效提高基于神經(jīng)網(wǎng)絡(luò)的道路健康狀況預(yù)測算法的精度。

5 結(jié)論

1) 循環(huán)神經(jīng)網(wǎng)絡(luò)可擬合道路多年檢測歷史，通過對時間序列數(shù)據(jù)進行數(shù)據(jù)挖掘得到更深層次的映射關(guān)系，使用循環(huán)神經(jīng)網(wǎng)絡(luò)RNN替代傳統(tǒng)全連接神經(jīng)網(wǎng)絡(luò)ANN進行預(yù)測，精度可提升7%以上。

2) 使用門控循環(huán)單元GRU的循環(huán)神經(jīng)網(wǎng)絡(luò)的預(yù)測效果最優(yōu)，在短期預(yù)測試驗中，GRU單元網(wǎng)絡(luò)的預(yù)測精度可高達97%，高于使用SimpleRNN單元和LSTM單元的循環(huán)網(wǎng)絡(luò)。

3) 基于循環(huán)神經(jīng)網(wǎng)絡(luò)的道路健康狀況預(yù)測對訓(xùn)練數(shù)據(jù)的質(zhì)量要求很高，時間序列較短會導(dǎo)致預(yù)測精度不佳。養(yǎng)護工程中，由于很難獲取多年未進行養(yǎng)護維修的路段數(shù)據(jù)，因此對現(xiàn)有數(shù)據(jù)進行預(yù)處理就尤為重要。本文借鑒已有研究，采用小波去噪的方式進行時間序列預(yù)處理，在進一步研究中，需對數(shù)據(jù)預(yù)處理方式進行進一步深入探討，以提高預(yù)測模型的實用性。