基于小波變換和GRU神經(jīng)網(wǎng)絡(luò)的系泊纜力預(yù)測

宋旭東，王雪,伊衛(wèi)國

(大連交通大學(xué) 軟件學(xué)院，遼寧 大連 116028)*

近幾年隨著海上運輸業(yè)的迅猛發(fā)展，船舶建造噸位不斷變大，停泊大型船舶的開放式碼頭數(shù)量隨之持續(xù)性增長，伴隨而來船舶?？看a頭時斷纜事故發(fā)生幾率增高.開放式碼頭船舶系纜力受到多方面因素(風(fēng)、浪、流等)的影響，僅靠人為經(jīng)驗判斷船舶系泊安全以避免斷纜事故的發(fā)生是極不可靠的，因此對船舶纜繩進行受力情況分析，預(yù)測下一階段纜繩纜力值是否在纜繩可承受范圍內(nèi)是保障生產(chǎn)安全不能缺少的一個環(huán)節(jié).考慮到船舶?？繒r纜繩受力曲線非線性顯著的特點，在本文中選用小波變換對纜力值數(shù)據(jù)進行處理后再使用GRU神經(jīng)網(wǎng)絡(luò)通過以往數(shù)據(jù)進行下一時間段數(shù)據(jù)的預(yù)測.

將小波變換用于處理非線性顯著的數(shù)據(jù)這種情況在許多領(lǐng)域已得到了廣泛應(yīng)用.文獻[1]中使用小波變換進行數(shù)據(jù)處理后提取特征值放入BP神經(jīng)網(wǎng)絡(luò)中進行船舶分類的工作.文獻[2]中將小波變換應(yīng)用于圖像處理技術(shù)，將圖片進行三層分解后的高頻系數(shù)作為輸入值錄入到CNN神經(jīng)網(wǎng)絡(luò)中進行處理，處理后的數(shù)值通過小波重構(gòu)最終得解，該模型對圖片的降噪明顯好于先前提出的各類模型.文獻[3-4]均采用RNN(Recurrent Neural Networks,循環(huán)神經(jīng)網(wǎng)絡(luò))中的LSTM(Long Short Term Memory,長短期記憶網(wǎng)絡(luò))進行預(yù)測.

在文獻[5]中提出了包含GRU(Gated Recurrent Unit，基于門控循環(huán)單元的網(wǎng)絡(luò))等多種神經(jīng)網(wǎng)絡(luò)結(jié)合的算法用于時間序列的預(yù)測，文獻[6]中使用特定電子系統(tǒng)對原始數(shù)據(jù)進行處理后放入GRU神經(jīng)網(wǎng)絡(luò)進行了學(xué)習(xí)績效預(yù)測.

文獻[7]通過BP神經(jīng)網(wǎng)絡(luò)設(shè)計船舶系泊方式的最優(yōu)方案.文獻[8-9]對船舶在多因素影響下運動姿態(tài)進行了預(yù)測.文獻[10]中對船舶?？看a頭的系泊纜力在不同條件因素下纜繩受力做了實時監(jiān)控，在系泊作業(yè)中隨著船舶載重的變化以及人為操作等實際因素進行分析，將得到的實測數(shù)據(jù)進行了多方面的分解分析對比，得出了船舶?？繒r哪些位置上的纜繩受力變化區(qū)間較大等一系列結(jié)論.

1 小波變換和循環(huán)神經(jīng)網(wǎng)絡(luò)

1.1 小波變換

小波變換常用于信號分析和圖像處理，是一種由傅里葉變換演變來的可以同時提供信號在時域和頻域中的信息的一種新的變換分析方法.

(1)

a,b∈R;a>0，其中a、b分別為ψ(t)的伸縮因子和平移因子.由此可知ψa,b(t)是由母小波ψ(t)經(jīng)過伸縮平移變換后得到的函數(shù).對于任意函數(shù)f(t)∈L2(R)的連續(xù)小波變換可表示為：

(2)

1.2 循環(huán)神經(jīng)網(wǎng)絡(luò)

RNN相較于其余的神經(jīng)網(wǎng)絡(luò)它像人一樣具有記憶功能，與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)(CNN)不同的是，RNN可以利用“序列信息”.在結(jié)構(gòu)上表現(xiàn)為，隱藏層的輸入不但像普通神經(jīng)網(wǎng)絡(luò)一樣包括上一層的輸出，還包含上一時刻隱藏層的輸出，即隱藏層節(jié)點之間也是具有連接的，從而完成了對前面信息的記憶，并使之影響當(dāng)前的輸出.

圖1為RNN循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖，其中x為輸入序列，o為輸出序列，L是損失用以衡量每個o與相應(yīng)的訓(xùn)練目標(biāo)y的距離，h代表當(dāng)前隱藏狀態(tài).輸入到隱藏的連接、隱藏到隱藏的循環(huán)鏈接、隱藏到輸出的連接分別由權(quán)重矩陣U、W、V參數(shù)化.不過傳統(tǒng)的RNN在訓(xùn)練長期依賴(long-termdependencies)的時候會遇到很多困難，最常見的就是梯度消失(vanish gradient) 問題.為解決該問題提出了門控RNN(Gated RNN).

2 預(yù)測模型設(shè)計

2.1 模型設(shè)計

由于船舶系纜力序列的非平穩(wěn)性，直接對纜力序列進行預(yù)測勢必會影響預(yù)測精度.為提高預(yù)測準(zhǔn)確性本模型中先運用Daubechies小波對系纜力序列作預(yù)處理，得到處理后的細(xì)節(jié)序列；將得到的細(xì)節(jié)序列放入循環(huán)神經(jīng)網(wǎng)絡(luò)GRU中分別進行網(wǎng)絡(luò)訓(xùn)練，再將GRU訓(xùn)練后得到的各序列進行小波重構(gòu)疊加獲得船舶系纜力序列穩(wěn)定的模擬預(yù)測模型,如圖2所示.預(yù)測模型和具體的預(yù)測步驟如下：

Step1：對原始纜力數(shù)據(jù)進行分解，分解層數(shù)為n，得到與之對應(yīng)的n條細(xì)節(jié)序列分別為d1，d2，d3，……，dn.

Step2：將得到的細(xì)節(jié)序列d1，d2，d3，……，dn分別放入GRU神經(jīng)網(wǎng)絡(luò)中進行預(yù)測，得到與之相應(yīng)的預(yù)測結(jié)果的D1，D2，D3，……，Dn.

Step3：將得到的預(yù)測結(jié)果D1，D2，D3，……，Dn經(jīng)過小波重構(gòu)得到最終的預(yù)測數(shù)據(jù)f(t)，小波重構(gòu)數(shù)學(xué)表達(dá)式為：

(3)

小波重構(gòu)需要滿足容許條件：

(4)

2.2 Daubechies(dbN)小波

同傅里葉函數(shù)不同，小波函數(shù)不是唯一的，根據(jù)母函數(shù)的不同，小波變換的結(jié)果也不盡相同.本文中選用了Daubechies小波(dbN緊支集正交小波).而沒有選用與其極為相似的 Symlets小波(symN近似對稱的緊支集正交小波).

dbN和symN中N是小波的階數(shù)，小波函數(shù)ψa,b(t)和尺度函數(shù)(基本小波)φ(t)的支撐區(qū)為2N-1，ψa,b(t)的消失矩為N.N越大消失矩階數(shù)越大，消失矩越高光滑性就越好，頻域的局部化能力就越強，頻帶劃分效果越好，弊端在于N越大會使時域的緊支撐性減弱，計算量增加，實時性變差.symN小波相較于dbN小波，處理一些數(shù)據(jù)時具有更好的對稱性，能夠在一定程度上減少對信號進行分析和重構(gòu)時的相位失真.

2.3 GRU循環(huán)神經(jīng)網(wǎng)絡(luò)

在實際應(yīng)用中最有效的門控RNN分別是LSTM和GRU.LSTM改進了普通RNN的隱藏層，經(jīng)過3個不同的門即遺忘門、輸入門和輸出門來結(jié)合前面的狀態(tài)、當(dāng)前的輸入和當(dāng)前的記憶，然后使用了不同的函數(shù)來計算隱藏層的狀態(tài).GRU保留了LSTM構(gòu)架中真正需要的部分更新門zt(LSTM中遺忘門和輸入門的結(jié)合)，同時還設(shè)計了允許網(wǎng)絡(luò)動態(tài)控制時間尺度和不同單元的遺忘行為的重置門rt.

本文選擇使用GRU循環(huán)神經(jīng)網(wǎng)絡(luò)是因為它完善了LSTM所擁有的的功能的同時還簡化了構(gòu)架提高了運算速度.圖3中的各個部分滿足式子如下：

zt=σ(Wzxt+Uzht-1)

(5)

rt=σ(Wrxt+Urht-1)

(6)

(7)

(8)

更新門zt的作用是決定上一層隱藏層狀態(tài)ht-1中有多少信息傳遞到當(dāng)前隱藏狀態(tài)ht中，重置門rt決定上一時刻隱藏狀態(tài)的信息中有多少是需要被遺忘的.

3 預(yù)測方法與分析

3.1 實驗背景

船舶系纜力所受影響因素是多方面的，除了主要的影響因素風(fēng)、浪、流以外還受到纜繩材質(zhì)和系纜方式等方面影響.單個船舶的?？啃枰鄠€纜繩的共同作用，本實驗數(shù)據(jù)將采用纜繩初始受力較大，且方差值顯著的船舶首倒纜所受到的力進行預(yù)測.本實驗所用算法的編寫均在Eclipse開發(fā)平臺下使用Java語言實現(xiàn)，運行得到實驗數(shù)據(jù)后錄入Excel表格中進行對比.本文實驗中小波變換階數(shù)的選擇經(jīng)過多次更改算法對比結(jié)果最終確認(rèn)為4.因此通過小波變換我們會得到4條細(xì)節(jié)序列放入GRU中進行預(yù)測，預(yù)測數(shù)據(jù)在通過小波重構(gòu)最終得到.

將文獻[9]中實測得到的112條船舶系纜力數(shù)據(jù)分為兩組，前100條數(shù)據(jù)作為樣本數(shù)據(jù)，后12條數(shù)據(jù)作為測試集進行實驗，開始讀數(shù)時刻設(shè)為1，以此類推.每進行一次讀數(shù)的間隔時間為120s.圖4說明了本次模型預(yù)測中的112條真實數(shù)據(jù)曲線變化情況.

首先分別將數(shù)據(jù)通過Symlets小波和Daubechies小波進行處理后放入GRU神經(jīng)網(wǎng)絡(luò)中進行預(yù)測得到的結(jié)果進行對比，對比結(jié)果如圖5所示，從圖中可以看出相較于Symlets小波，Daubechies小波作為母函數(shù)處理數(shù)據(jù)后預(yù)測的效果更好，因此本預(yù)測模型中選用了Daubechies小波.

將原始系纜力數(shù)據(jù)通過Daubechies小波變換進行分解，分解得到的4條數(shù)據(jù)分別放入GRU神經(jīng)網(wǎng)絡(luò)中進行預(yù)測，最后將數(shù)據(jù)進行小波重構(gòu)得到最終的預(yù)測結(jié)果.將最終預(yù)測結(jié)果與真實的系泊纜力數(shù)據(jù)直接放入GRU神經(jīng)網(wǎng)絡(luò)中得到的結(jié)果進行比對，驗證預(yù)測模型的準(zhǔn)確性.實驗結(jié)果見圖6所示.

3.2 預(yù)測結(jié)果分析

從實驗得到的結(jié)果中可以清晰地看到，將數(shù)據(jù)直接使用GRU神經(jīng)網(wǎng)絡(luò)模型進行預(yù)測得到的數(shù)據(jù)與真實數(shù)據(jù)相比較變換曲線較為一致但不能忽略在某些時刻誤差過大的事實，在實際應(yīng)用中這種誤差存在的風(fēng)險不能被忽視.而本預(yù)測模型中經(jīng)過小波變換后的數(shù)據(jù)使用GRU神經(jīng)網(wǎng)絡(luò)模型進行預(yù)測得到的結(jié)果與真實數(shù)據(jù)相比整體上差值較小，應(yīng)用方面風(fēng)險較小，具有實際應(yīng)用的價值.

4 結(jié)論

本文提出了一種數(shù)據(jù)經(jīng)過小波變換處理后基于循環(huán)神經(jīng)網(wǎng)絡(luò)GRU的系纜力預(yù)測模型.受多方面因素影響系纜力數(shù)據(jù)的非線性特征顯著，將小波變換的思想融入到循環(huán)神經(jīng)網(wǎng)絡(luò)中能夠較為準(zhǔn)確地預(yù)測下一時刻數(shù)據(jù).相較于直接通過循環(huán)神經(jīng)網(wǎng)絡(luò)預(yù)測未經(jīng)處理的系纜力數(shù)據(jù)，本文提出的預(yù)測模型更為可取，可考慮應(yīng)用于工程實踐中去.

后續(xù)的工作將繼續(xù)研究該模型，通過該模型預(yù)測船舶所有纜繩的纜力，在本文實驗的基礎(chǔ)上添加仿真作業(yè)增大循環(huán)網(wǎng)絡(luò)錄入的數(shù)據(jù)量驗證大數(shù)據(jù)情況下該模型的準(zhǔn)確率，還將嘗試在Hadoop平臺上進行實驗.