基于PCA-MDBN模型的開都河年徑流預測

(新疆塔里木河流域管理局，新疆 庫爾勒 841000)

河川徑流預測對于水庫合理調度、農業(yè)防汛抗旱、區(qū)域水資源合理開發(fā)與優(yōu)化利用、區(qū)域社會經濟規(guī)劃的制定具有重要意義。目前，國內外學者常采用投影尋蹤回歸[1]、灰色理論[2]、神經網絡[3]、支持向量機、最小二乘支持向量機[4-5]等單項預測方法對降水、廢水治理、地下水等領域的參數進行預測。由于河川徑流變化影響因子眾多，且各因子之間相互關聯(lián)并呈現(xiàn)非線性變化，采用數學方法及傳統(tǒng)神經網絡很難精準預測，且在進行數據訓練時存在局部收斂和計算效率差的問題。

近年來，隨著數據量的增加及計算機性能的提高，基于深度信念網絡(deep belief network，DBN)通過構建非線性深層次的網絡結構，可提取數據高層特征并能準確擬合復雜函數，并且具有較強的數據預測能力和數據分類及識別能力。本文在前人研究的基礎上，基于粒子群算法(particle swarm optimization，PSO)優(yōu)化的多變量深度信念網絡(multi-variable deep belief network，MDBN)構建河川徑流預測模型，為其高精度預測奠定了良好基礎。

1 模型計算方法

1.1 深度信念網絡

1.1.1 深度信念網絡結構

深度信念網絡(deep belief network，DBN)是深度研究中應用較為廣泛的一種網絡結構，于2006年由Geoffery Hinton首次提出[6]。隨著數據量的增加和計算機性能的提高，DBN方法被廣泛應用于人工智能領域。一個典型的DBN結構相當于一個高度復雜的有向無環(huán)圖，可分解為多個受限玻爾茲曼機(restricted boltzmann machine，RBM)。RBM作為DBN的基本組成單元，主要由兩層神經元組成(其網絡結構見圖1)。其中，用于訓練數據輸入的可視層和特征提取的隱含層單元彼此之間互相連接，但同層內的神經元節(jié)點無連接，并且同層節(jié)點之間條件獨立，連接權重用矩陣W表示。當隱含層結點數量達到一定值時，可用此網絡模型表示任意離散分布。

圖1 RBM模型基本結構

1.1.2 深度信念網絡訓練與生成

DBN作為一種深度網絡結構，訓練過程主要包括無監(jiān)督的預訓練和有監(jiān)督的反向傳播網絡的微調兩個步驟。在無監(jiān)督預訓練階段，分別單獨訓練每層RBM網絡，為提取重要特征信息，以重構誤差函數為目標函數，使單元特征向量映射于不同特征空間，進而得到預訓練網絡初始權重。然后，在微調階段，利用反向傳播對整個網絡進行優(yōu)化。

1.2 粒子群算法

粒子群算法(particle swarm optimization，PSO)的基本思想源于對鳥類群體覓食行為研究，而提出的一種全局隨機搜索算法，目前，已經廣泛應用在約束優(yōu)化和多目標優(yōu)化等領域。在經典PSO算法中，每個優(yōu)化問題的解被類比為搜索空間中的一只鳥，將其稱之為“粒子”。每個粒子代表解空間中的一個候選解，有一個初始化速度和位置，由適應度函數計算粒子適應值。每個粒子的速度決定它們在解空間中搜索的方向和位置，且每個粒子都具有記憶功能，能夠記住搜索到的最佳位置。算法在每次迭代過程中，粒子會根據兩個極值：粒子本身當前找到的最優(yōu)解和目前整個粒子群找到的全局最優(yōu)解，來更新自己的速度和位置進行搜索，直至找到最優(yōu)解。

PSO優(yōu)化算法通過迭代搜索每個粒子的當前最優(yōu)解，并利用適應度值評價解的優(yōu)劣程度，從而確定全局最優(yōu)解。作為一種隨機搜索、并行優(yōu)化的算法，PSO算法具有簡單易行、魯棒性好、收斂速度快等優(yōu)點，能以較大概率找到全局最優(yōu)解。

2 河川徑流預測模型構建

預測模型構建步驟如下：

a.收集與年徑流變化相關的氣象信息，包括年降水量、年蒸發(fā)量、年均氣溫、年日照時數與年均風速等原始數據集，并對數據進行歸一化處理。

b.利用PCA(principal component analysis)方法分析年徑流量與氣象變量之間的相互作用關系，根據各個變量的貢獻率篩選年徑流量預測的主影響因子。

c.利用小波閾值降噪方法通過正交試驗確定各個變量的最佳小波降噪方案，對選取的主因子變量進行降噪，得到最終的輔助變量數據樣本，并劃分為訓練樣本集及測試樣本集。

d.構建MDBN模型，采用試驗方法對MDBN模型進行初始化設置，選擇最優(yōu)設置結果，包括隱含層節(jié)點以及隱含層層數等。

e.利用PSO優(yōu)化算法對構建好的MDBN網絡參數設定進行優(yōu)化，得到最優(yōu)迭代次數和學習率組合。

f.將最優(yōu)網絡參數設置組合帶入MDBN預測模型，得到最終的年徑流量預測模型，將測試樣本輸入優(yōu)化后的預測模型，計算徑流量預測結果。

2.1 關鍵影響因子篩選

評價一個變量因子是否為關鍵影響因子的標準是其提供信息的能力，PCA方法可以確定每個變量的貢獻率，進而對各個變量的作用關系進行評價，在保留原始數據主要特征前提下，對問題進行定量分析，減少輸入數據維度。因此，本文采用PCA方法計算相關系數矩陣，分析數據間的線性關系從而對數據進行篩選和壓縮，實現(xiàn)關鍵變量因子的選取。

2.2 數據降噪處理

由于徑流影響因素復雜，獲取的數據存在大量噪聲。消除數據噪聲是模型構建的重要基礎。傳統(tǒng)降噪方法，例如傅里葉變換等，只能描述信號在頻率域中的變化，無法分辨出信號在時間軸上的瞬時變化。而小波降噪法對信號具有自適應性，可以在去除噪聲的同時保留原始信號信息，具有優(yōu)越的局部化性能。

小波降噪法大致分為3類：小波閾值降噪方法、模極大值重構法、空域相關濾波法，其中小波閾值降噪方法實現(xiàn)簡單、計算量小、降噪效果良好，因此本文采用小波閾值降噪方法，實現(xiàn)模型輸入關鍵影響因子噪聲的去除，為預測模型構建提供良好的數據基礎。

2.3 MDBN模型構建

本文采用MDBN模型預測年徑流量，經過主成分分析篩選所得關鍵影響因子作為訓練樣本送入MDBN的可視層。當對徑流量進行預測時，MDBN網絡結構的隱藏層從高維復雜輸入數據提取相關特征，逐層激活強相關影響因子，將無關冗余信息弱化并抑制，使用非監(jiān)督貪婪逐層方法預訓練模型獲得初始權重，最后采用對比散度(contrastive divergence，CD)算法逐層訓練各個RBM。

3 研究區(qū)概況

開都河發(fā)源于新疆天山山脈中部的依連哈比爾尕山南坡，河源高山區(qū)終年積雪，有現(xiàn)代冰川840條。開都河流經和靜縣、焉耆回族自治縣和博湖縣后注入全國最大的內陸淡水湖——博斯騰湖，河流全長560km，多年平均徑流量為35.18億m3。

開都河流域深居歐亞大陸腹地，遠離海洋，呈現(xiàn)明顯的干旱大陸性氣候特征，流域多年平均降水量為47.3～75.0mm，集中于6—8月，多年平均蒸發(fā)量(20cm蒸發(fā)皿)1887～2777mm，夏季炎熱，冬季寒冷少雪，多年平均氣溫8.2℃，日照時數3105h。

本文以新疆開都河大山口水文站1956—2015年60年的實測資料為例，利用前述方法對河川年徑流量進行預測研究。

4 結果與分析

4.1 數據預處理

本文使用收集到的開都河大山口水文站1956—2015年60年徑流數據及相關氣象數據(包括年降水量、年蒸發(fā)量、年均氣溫、年日照時數與年均風速5個因素)，首先對其進行標準化和歸一化預處理，并利用PCA方法對5個氣象變量進行相關性分析，計算得到特征值與累計貢獻率(見表1)。

表1 年徑流量相關氣象變量特征值與累計貢獻率

由表1可知，前3個主成分的累積貢獻率達到93.8%(其對應的載荷矩陣見表2)。從載荷矩陣可以得出，年降水量對第1主成分貢獻大，年蒸發(fā)量對第2主成分貢獻大，年均氣溫對第3主成分貢獻大，年均風速對第4主成分貢獻大，年日照時數對第5主成分貢獻大。因此，最終選擇年降水量、年蒸發(fā)量、年均氣溫3個因子為年徑流量主要影響因子。

表2 年徑流量相關氣象變量載荷矩陣

完成關鍵影響因子篩選后，利用小波閾值降噪方法對經過標準化和歸一化處理后的3個氣象變量以及年徑流量數據進行降噪處理。由于小波基、閾值選取方法以及閾值量化函數的選取都對小波閾值降噪效果有明顯影響，但迄今沒有具體的最優(yōu)參數選擇方法。因此，本文采用正交試驗方法，選取最優(yōu)小波降噪方案對數據進行降噪(結果見表3)。

將1956—2015年的開都河徑流及氣象數據分為訓練集和測試集，其中1956—2005年數據用于訓練(共計50組)，2006—2015年數據用于模型性能測試(共計10組)。

表3 各變量最優(yōu)小波降噪方案及結果

由于MDBN網絡參數(隱含層節(jié)點數及隱含層層數)直接影響算法性能，當隱含層層數設置為4、8、12，隱含層節(jié)點個數設為100、250、500、1000時，均方根誤差RMSE達到極小值。然后，通過多次訓練效果驗證，得到訓練及微調時的最佳網絡參數：學習率為0.1，迭代次數為100。為了探索網絡結構參數對模型學習性能的影響，對隱含層層數與隱含層節(jié)點數進行兩兩組合，選取RMSE值最小的MDBN網絡結構設置。由表4可知，當隱含層層數為12，隱含層節(jié)點數為500時，網絡在測試集上的RMSE誤差達到最小，其值為0.01526。因此，得到MDBN最佳的網絡參數設置：輸入層節(jié)點數為3，輸出層的神經元數為1(年徑流量)，隱含層數為12，隱含層節(jié)點數為500，初始化學習率為0.1，初始化迭代次數為100。

表4 MDBN不同網絡參數下的RMSE值

為有效減少計算復雜性和提高預測性能，利用PSO優(yōu)化算法簡單易行、收斂速度快、設置參數少的優(yōu)點，將粒子群在MDBN的解空間追隨最優(yōu)粒子進行全局搜索，進而實現(xiàn)對MDBN網絡的優(yōu)化；并設定 PSO優(yōu)化算法初始種群規(guī)模為30，進化代數為20，最小訓練停止誤差為10-4，加速因子c1和c2均設置為1.5，學習率粒子的取值區(qū)間為[0，1]，迭代次數粒子的取值區(qū)間為[10，2000]。

4.2 結果分析

本文將PSO-MDBN與BP神經網絡(back propagation neural network, BPNN)預測方法進行了對比，誤差評價體系采用均方根誤差(root mean square error，RMSE)、平均相對百分比誤差(mean absolute percentage error，MAPE)與平均絕對誤差(mean absolute error，MAE)。

將訓練樣本集輸入已構建的PSO-MDBN網絡進行訓練，然后將測試樣本在已預訓練的網絡中進行比較分析，并與BPNN、DBN方法進行對比(PSO-MDBN、傳統(tǒng)DBN、BPNN方法在預測樣本的具體誤差值見表5)。

表5 不同模型對年徑流量的預測性能對比

從表5可知，BPNN對年徑流量預測的MAPE值為13.9%，未經PSO算法優(yōu)化的MDBN模型的 MAPE值為17.1%。然而，本文提出模型的MAPE值為6.2%，與2種傳統(tǒng)方法相比，其MAPE值分別降低了7.7%、10.9%。同時，PSO-MDBN方法的RMSE和MAE值也明顯小于其他2種方法的誤差值。

計算結果表明，本文的構建模型預測精度明顯優(yōu)于其他2種傳統(tǒng)方法，經過粒子群算法優(yōu)化的MDBN模型，其不僅提高了網絡收斂速度，同時也提高了模型預測精度。

5 結 論

針對因河川徑流復雜多變，導致傳統(tǒng)方法難以準確預測的問題，為提高預測精度，本文提出了一種基于PSO-MDBN的預測模型。為避免變量冗余導致計算效率下降的問題，利用 PCA和小波降噪方法進行數據相關性分析并選取關鍵因子參數作為模型輸入?；贒BN網絡構建多變量預測模型，并利用PSO算法尋找最優(yōu)網絡參數，進而提高模型預測精度及計算效率。研究結果表明，該模型實現(xiàn)了平均百分比誤差為6.2%的預測精度，與傳統(tǒng)BPNN、DBN方法進行比較，其MAPE值分別降低了7.7%、10.9%。良好的預測效果充分證明了基于PSO-MDBN的徑流預測模型的有效性和實用性，及解決復雜、非線性問題的預測能力。