利用人工智能神經(jīng)網(wǎng)絡預測廣州市 PM2.5 日濃度

李澤群 韋駿,2,3,?

1. 中山大學大氣科學學院, 珠海 519082; 2. 南方海洋科學與工程廣東省實驗室(珠海), 珠海 519082;3. 廣西大學海洋學院, 南寧 530004; ? 通信作者, E-mail: weijun5@mail.sysu.edu.cn

隨著工業(yè)化的日益發(fā)達, 過去被忽略的對人體有害的細小顆粒物(PM2.5)產(chǎn)生的危害逐漸引起社會關注。1997 年, 美國首次提出細顆粒物(PM2.5)的標準: 環(huán)境空氣中空氣動力學當量直徑小于等于 2.5微米的顆粒物。雖然 PM2.5在地球大氣中含量很少,但因其具有粒徑小、面積大、活性強、易附帶病毒和有害物質(zhì)、懸浮時間長和輸送距離遠等特點, 會給空氣質(zhì)量和人體健康帶來極大的危害。以 PM2.5為主的室外空氣污染關聯(lián)多種疾病, 包括與臭氧有關的慢性阻塞性肺病、與 PM2.5有關的急性下呼吸道疾病、腦血管病、缺血性心臟病和肺癌等, 每年導致全球超過 300 萬人過早死亡, 且該現(xiàn)象主要發(fā)生在亞洲地區(qū)[1], 中國每年由于 PM2.5污染導致的過早死亡人數(shù)在 165 萬至 219 萬之間[2]。

對 PM2.5的預測方法主要有統(tǒng)計模型、模式模擬(化學傳輸模型)以及深度學習模型等方法。Baker等[3]用非線性回歸模型對單來源的 PM2.5濃度進行預測; 周廣強等[4]基于 WRF-chem 模式進行華東區(qū)域 PM2.5濃度預報; 王茜等[5]基于 CMAQ 空氣質(zhì)量數(shù)值預報模式, 采用學習型線性回歸方法, 顯著地提高上海市 PM2.5預報的準確率。目前, 卷積神經(jīng)網(wǎng)絡、徑向基神經(jīng)網(wǎng)絡、支持向量機和粒子群優(yōu)化等深度學習方法已經(jīng)用于研究空氣質(zhì)量與多種氣象數(shù)據(jù)之間的非線性關系[6-9]。

華北地區(qū) PM2.5污染情況較為嚴重, 因此前人的研究多關注北京及周邊地區(qū)。珠三角地區(qū)也是受空氣污染危害較為嚴重的地區(qū), 2004—2013 年間,珠三角地區(qū)每年由 PM2.5污染導致的過早死亡人數(shù)在 3.3 萬至 4.5 萬之間[10]。鑒于上述背景, 本文聚焦于珠三角地區(qū) PM2.5濃度的預測, 通過對廣州市PM2.5濃度監(jiān)測數(shù)據(jù)進行處理, 利用差分整合移動平均自回歸模型、反向傳播神經(jīng)網(wǎng)絡和長短期記憶模型, 對廣州市 PM2.5濃度數(shù)據(jù)進行學習, 并結合EEMD 集合經(jīng)驗模態(tài)分解方法預測 PM2.5濃度值,力求找到最優(yōu)預報模型。

1 研究方法

1.1 集合經(jīng)驗模態(tài)分解方法

經(jīng)驗模態(tài)分解(empirical mode decomposition,EMD)是 Huang 等[11]提出的一種對非平穩(wěn)信號進行時頻分析的方法, 該方法依據(jù)自身時間尺度特征對信號進行分解, 與傅立葉分解和小波分解相比,EMD 方法理論上可以對任何數(shù)據(jù)進行分解, 既適用于對線性的穩(wěn)定信號的分析, 也適用于對非線性的不穩(wěn)定信號的分析, 并且對于平穩(wěn)信號, EMD 方法也可以比其他時頻分解方法更好地反映信號的物理意義。EMD 方法的實質(zhì)是通過特征時間尺度來識別信號中的所有震動模態(tài), 從高頻到低頻, 分解出一系列本征模函數(shù)(intrinsic mode function, IMF),原始信號是一系列 IMF 與剩余部分的疊加。

EMD 方法是將原始信號各尺度的分量從高頻到低頻不斷地進行提取, 能量最大的高頻分量代表原始信號的主要特征。由于數(shù)據(jù)的不連續(xù)性, 不同時間尺度的成分可能被分解到一個特征模態(tài)函數(shù)分量中, 或者同一時間尺度的成分會被分解到不同特征模態(tài)函數(shù)中, 因此原始信號分解出的 IMF 會包含不同頻率的分量, 這種現(xiàn)象稱為模態(tài)混疊。為解決模態(tài)混疊問題, Wu 等[12]提出集合經(jīng)驗模態(tài)分解方法(ensemble empirical mode decomposition, EEMD)。EEMD 方法通過在整個時頻空間添加白噪聲, 使不同尺度的信號自適應地映射到與背景白噪音相關的尺度上。由于白噪聲的均值為 0, 經(jīng)過多次平均后,加入原始信號的噪聲均值也為 0。

1.2 差分整合移動平均自回歸模型

博克思-詹金斯(Box-Jenkins)方法是一種較精準的對時間序列進行分析和預測的算法, 差分整合移動平均自回歸模型(autoregressive integrated moving average model, ARIMA (p,d,q))是該算法中一種常用的模型, 其中 AR 表示自回歸,p為自回歸項數(shù); MA 為滑動平均,q為滑動平均數(shù);d為使原始序列平穩(wěn)所需的差分次數(shù)。建立 ARIMA 模型的步驟如下。

1) 平穩(wěn)性檢驗和白噪聲檢驗。只有平穩(wěn)非白噪聲序列才能使用 ARIMA 模型進行分析預測。對于不平穩(wěn)的數(shù)據(jù), 則需要進行差分運算, 直至平穩(wěn)。從理論上講, 差分運算次數(shù)越多, 從時間序列提取的非平穩(wěn)信息越多。但是, 每次差分運算過程都會造成信息損失, 因此在實際應用中, 差分運算次數(shù)通常不超過兩次。

2) 模型定階, 即確定p和q的取值。定階原則可以采用 AIC 準則, 即赤池信息準則: 以模型的誤差服從獨立正態(tài)分布為條件, 通常表示為

其中,k是參數(shù)的數(shù)量,L是似然函數(shù)。AIC 鼓勵數(shù)據(jù)擬合的優(yōu)良性, 但避免出現(xiàn)過擬合, 所以需優(yōu)先考慮AIC 最小的模型。

3) 模型評估, 即對模型的噪聲序列進行獨立性檢驗, 若不通過, 則重新擬合模型, 直到模型通過白噪聲檢驗。由于 PM2.5濃度值具有較強的自相關性, 本文用 ARIMA 模型對 PM2.5的濃度值進行預測, 并與神經(jīng)網(wǎng)絡模型的預測結果進行對照。

1.3 神經(jīng)網(wǎng)絡

1) BP 神經(jīng)網(wǎng)絡(back propagation neural network,BP)。這是一種按照誤差反向傳播訓練的多層前饋網(wǎng)絡, 包括輸入層、隱藏層和輸出層, 其中隱藏層可以包括一層或多層神經(jīng)元。BP 算法包括前向傳播和誤差的反向傳播兩個過程。在前向傳播過程中, 神經(jīng)元通過“激活函數(shù)”處理產(chǎn)生輸出結果。若前向傳播的實際輸出與期望輸出不相符, 則進行誤差的反向傳播。誤差的反向傳播采用梯度下降法(其中梯度表示函數(shù)增加最快的方向), 因此沿著相反的方向可以更快地找到函數(shù)的最小值。反向傳播過程中, 輸出誤差通過隱藏層向輸入層逐層反傳,將誤差分攤給各個單元, 調(diào)整輸入節(jié)點與隱層節(jié)點的聯(lián)接強度以及隱層節(jié)點與輸出節(jié)點的聯(lián)接強度,并調(diào)整閾值, 確定與最小誤差對應的網(wǎng)絡參數(shù)。本文中 BP 神經(jīng)網(wǎng)絡選擇含兩個隱藏層的全連接神經(jīng)網(wǎng)絡, 第一層含 65 個神經(jīng)元, 第二層含 16 個神經(jīng)元, 激活函數(shù)為ReLU 函數(shù)。

2) 長短期記憶網(wǎng)絡(long short-term memory,LSTM)。循環(huán)神經(jīng)網(wǎng)絡(recurrent neural network,RNN)可以彌補傳統(tǒng)神經(jīng)網(wǎng)絡的缺陷, 通過保留先前時間點的信息來確保信息的連續(xù)性, 可以達到更好的預報效果。目前, RNN 在語音識別、機器翻譯和時間序列預報方面都取得顯著的效果。PM2.5的濃度序列存在時間上的自相關性, RNN 可以較好地利用這一特征, 對 PM2.5濃度進行預測。但是, RNN比較適合根據(jù)近處的信息來推測所需信息, 如果需要用到較遠處的信息, 則可能預測失敗。這一問題被稱為長依賴問題。為了解決該問題, Hochreiter 等[13]于 1997 年提出 LSTM 神經(jīng)網(wǎng)絡, 用于提取間隔時間較長的信息。LSTM 通過一種“門”結構來決定向輸入數(shù)據(jù)添加或刪除信息, 即通過忘記門、輸入門和輸出門來控制輸入數(shù)據(jù)包含的信息。

1.4 評估指標

本研究選取平均絕對誤差(mean absolute error, MAE)、均方根誤差(root mean squared error,RMSE)、Index of Agreement (IA)和解釋方差得分(explained variance score, Var)作為評價PM2.5濃度預報模型優(yōu)劣的指標, 計算公式如下:

其中,n為樣本數(shù),xi為觀測值,為預測值。

2 數(shù)據(jù)來源及預處理

本文所用數(shù)據(jù)來自中國空氣質(zhì)量歷史數(shù)據(jù)網(wǎng)站(http://beijingair.sinaapp.com)。選取廣州市 2015 年1 月 2 日至 2019 年 12 月 31 日逐小時 PM2.5數(shù)據(jù), 包括該網(wǎng)站中廣州市 12 個監(jiān)測站點(廣雅中學、市五中、天河職幼、廣東商學院、市 86 中、番禺中學、花都師范、市監(jiān)測站、九龍鎮(zhèn)鎮(zhèn)龍、麓湖、帽峰山森林公園和體育西)的監(jiān)測數(shù)據(jù), 并對各監(jiān)測站點數(shù)據(jù)求取平均值, 以此代表廣州市逐小時PM2.5濃度值。圖 1 為 2015 年初到 2019 年底廣州市PM2.5濃度的時間序列, 可以看出夏季 PM2.5濃度顯著低于冬春兩季。

圖1 廣州市PM2.5 濃度值時間序列(逐小時)Fig. 1 Time series of PM2.5 hourly concentration of Guangzhou city

我們對部分缺測數(shù)據(jù)進行樣條插值, 得到有效數(shù)據(jù), 并依次對廣州市 PM2.5濃度求取每 6, 12 和 24 h 的平均值, 選取 2015 年 1 月 2 日至 2018 年 12 月 31日的數(shù)據(jù)作為訓練集, 2019 年 1 月 1 日至 2019 年 12月 31 日的數(shù)據(jù)作為測試集。李建東等[14]的研究結果表明, 北京、上海和廣州等城市的 PM2.5濃度存在較明顯的“周末效應”, 即周末因人類活動減少導致污染物的排放量降低, PM2.5濃度值存在 7 天左右的顯著周期。因此, 本文用前 6 天的數(shù)據(jù)作為PM2.5濃度歷史數(shù)據(jù), 對第 7 天的 PM2.5濃度值進行預測。

3 實驗設計

1) EEMD 分解對神經(jīng)網(wǎng)絡預報結果的影響。本文對原始數(shù)據(jù)進行 EEMD 分解, 得到 10 個從高頻到低頻的模態(tài)函數(shù) IMF1～IMF10,r為趨勢項, 結果如圖 2 所示。EEMD 分解得到的各模態(tài)周期如表 1所示, IMF1 和 IMF2 的周期分別是 3.18 和 7.61 天,為日信號; IMF3 和 IMF4 的周期分別是 16.84 和33.06 天, 為月信號; IMF5 和 IMF6 的周期分別是69.19 和 140.38 天, 為季節(jié)信號; IMF7～IMF10 的周期分別是 268.71, 481.31, 912.5 和 1825 天, 為年信號。本文保留 IMF1 和 IMF2, 將 IMF3 與 IMF4 相加, IMF5 與 IMF6 相加, IMF7～IMF10 與趨勢相r相加, 形成 5 組新的時間序列, 如圖 3 所示。針對 5 組新的時間序列, 選取時間間隔為 24 h 的觀測數(shù)據(jù),用 BP 神經(jīng)網(wǎng)絡對分解得到的 5 組序列分別進行預測, 對預測結果求和, 得到 PM2.5日濃度預報值。

圖2 PM2.5 原始序列分解結果Fig. 2 PM2.5 original sequence decomposition results

圖3 5 組新時間序列Fig. 3 Five new time series

表1 PM2.5 各IMF 分量的平均周期Table 1 Mean period of each IMF component of PM2.5

2) 時間分辨率對不同模型預報結果的影響。本文分別對 6, 12 和 24 h 的觀測值進行平均, 選取未進行 EEMD 分解的初始數(shù)據(jù), 分別用 ARIMA 模型、BP 神經(jīng)網(wǎng)絡和 LSTM 神經(jīng)網(wǎng)絡對 2019 年 PM2.5濃度值進行預報, 探究傳統(tǒng)統(tǒng)計學模型與神經(jīng)網(wǎng)絡模型對預報效果的影響及不同神經(jīng)網(wǎng)絡對預報效果的影響。

4 結果分析

4.1 EEMD 分解處理對預報結果的影響

圖 4 展示模態(tài)分解前后的預測誤差, 可以看出,對于 BP 神經(jīng)網(wǎng)絡, 經(jīng) EEMD 分解處理后的預測結果具有更小的 MAE 和 RMSE 值以及更大的 IA 和Var 值, 說明 EEMD 模態(tài)分解可以提高 PM2.5濃度值的預報精度。

圖4 有無EEMD 分解時BP 神經(jīng)網(wǎng)絡的預報效果Fig. 4 Effect of EEMD on BP neural network

為了進一步探究 EEMD 分解對不同模態(tài)預報精度的提升情況, 本文對按周期分類的 5 組時間序列預報結果求取相對誤差, 結果如圖 5 所示?？梢钥闯? IMF1～IMF4 (高頻部分)預報結果的相對誤差遠大于低頻部分(周期為季和年), 其中 IMF1 的相對誤差最大, IMF5 和 IMF6 的相對誤差最小, 說明EEMD 分解對預報效果的提升集中于低頻部分。

圖5 EEMD 分解后 BP 神經(jīng)網(wǎng)絡各模態(tài)預報結果的相對誤差Fig. 5 Relative error of each mode of BP neural network after EEMD decomposition

本文僅對 EEMD 是否可以優(yōu)化預報效果進行簡要的探討。由于進行 EEMD 分解會極大地增加計算量, 加上本研究的主要目的是探究不同神經(jīng)網(wǎng)絡預報效果的優(yōu)劣以及相關參數(shù)(隱藏層層數(shù)、各層神經(jīng)元個數(shù)和激活函數(shù)等)對預報效果的影響,EEMD 模態(tài)分解的影響不是重點考慮因素, 所以后面不再對數(shù)據(jù)做 EEMD 分解處理。

4.2 時間分辨率及預報模型對預報結果的影響

對時間間隔分別為 6, 12 和 24 h, 未進行 EEMD分解的輸入數(shù)據(jù), ARIMA 模型、BP 神經(jīng)網(wǎng)絡和LSTM 神經(jīng)網(wǎng)絡的預報效果如表 2 所示?？梢钥闯?ARIMA 模型的預報結果符合時間精度越高, 預報效果越好這一規(guī)律, 體現(xiàn)為高時間精度的預報結果中 MAE 和 RMSE 值較低, IA 和 Var 值較高, 說明隨著輸入數(shù)據(jù)時間精度提高, 模型的擬合能力增強。

表2 ARIMA, BP 和LSTM 對不同時間間隔輸入數(shù)據(jù)的預報效果Table 2 Effect of ARIMA, BP, LSTM on different time interval

對于 BP 神經(jīng)網(wǎng)絡, 輸入數(shù)據(jù)時間間隔為 6 h 的預報效果優(yōu)于輸入數(shù)據(jù)時間間隔為 12 h 的預報效果, 具有更低的 MAE 和 RMSE 值以及更高的 IA 和Var 值; 輸入數(shù)據(jù)時間間隔為 24 h 的預報效果優(yōu)于輸入數(shù)據(jù)時間間隔為 12 h 的預報效果, 與輸入數(shù)據(jù)時間間隔為 6 h 的預報效果相近。

對于 LSTM 神經(jīng)網(wǎng)絡, 當輸入數(shù)據(jù)的時間精度從 12 h 提升到 6 h 時, 模型的預報效果有所改善; 當輸入數(shù)據(jù)的時間間隔為 24 h 時, 模型的預報效果顯著高于輸入數(shù)據(jù)時間間隔為 6 和 12 h 的預報效果。

對上述現(xiàn)象可能的解釋是, 雖然提高輸入數(shù)據(jù)的時間精度會提升模型的預報效果, 但本文選取的預報方式是基于 6 天的 PM2.5濃度數(shù)據(jù)預報第 7 天的 PM2.5濃度值, 因此當輸入數(shù)據(jù)的時間精度分別為 6, 12 和 24 h 時, 輸入數(shù)據(jù)量依次為 24, 12 和 6 個,即對于神經(jīng)網(wǎng)絡預報, 輸入層神經(jīng)元的個數(shù)依次為24, 12 和 6 個。當輸入數(shù)據(jù)的時間精度發(fā)生變化時,神經(jīng)網(wǎng)絡預報效果的提升或下降是模型復雜度與數(shù)據(jù)精度共同作用的結果, 即數(shù)據(jù)精度的提升可以提升預報效果, 但模型復雜度和數(shù)據(jù)量的增加會增加模型訓練的復雜度, 使預報效果變差。

對于 BP 及 LSTM 神經(jīng)網(wǎng)絡, 當輸入數(shù)據(jù)的時間精度從 24 h 提升至 12 h 時, 輸入層神經(jīng)元從 6 個增加至 12 個, 此時模型復雜度提升對預報結果的負面影響高于輸入數(shù)據(jù)時間精度提升對模型的優(yōu)化程度。當輸入數(shù)據(jù)的時間精度從 12 h 提升至 6 h 時,模型復雜度提升對預報效果的負面影響低于輸入數(shù)據(jù)時間精度提升對模型的優(yōu)化程度。

從表 2 可知, 當輸入數(shù)據(jù)的時間精度相同時,ARIMA 的預報效果顯著地優(yōu)于 BP 和 LSTM。原因是 PM2.5濃度數(shù)據(jù)的自相關性較強, 可以更好地適應自回歸模型。就神經(jīng)網(wǎng)絡的預報效果來說, LSTM的表現(xiàn)整體上略優(yōu)于 BP。

4.3 基于滾動預報的模型優(yōu)化方案

由于模型用到預報日前一天(t-1)的 PM2.5 濃度值, 因此當前的模型只能進行預報時效為 1 天的試驗。為了增加預報時效, 本文采用滾動預報方案對模型進行優(yōu)化, 并以 BP 神經(jīng)網(wǎng)絡不進行 EEMD 分解為例, 討論模型的預報效果。

以時間間隔為 24 h 的數(shù)據(jù)組為輸入, 用滾動預報的方式對逐日 PM2.5濃度值進行預報, 并與同樣以 24 h 時間間隔數(shù)據(jù)為輸入的初始預報模型的預報效果進行對比。為增加預報時效, 將t時刻的 PM2.5濃度預報值作為下一時刻的輸入數(shù)據(jù), 對t+n時刻的 PM2.5濃度進行連續(xù)滾動預報。

為消除輸入數(shù)據(jù)量增加導致模型復雜化后對預報效果的影響, 在將t時刻的數(shù)據(jù)加入訓練集時,剔除原訓練集中初始時刻的數(shù)據(jù)。例如, 若第一次訓練的輸入為t至t+n時刻的數(shù)據(jù), 則第二次訓練時加入t+n+1 時刻數(shù)據(jù), 同時剔除t時刻數(shù)據(jù), 對t+1至t+n+1 時刻的n+1 個數(shù)據(jù)進行訓練。

滾動預報模型的預報效果如表 3 所示。當神經(jīng)網(wǎng)絡復雜度相同時, 與輸入數(shù)據(jù)為 PM2.5逐日濃度值, 逐小時滾動預報 PM2.5濃度, 再求取 PM2.5日均值的預報方式相比, 滾動預報模型取得更高的 IA和 Var 值和更小的 RMSE 值, 但 MAE 值差別不大?？梢? 滾動預報的效果略有提升, 但需在每次預報后更新訓練集數(shù)據(jù), 使模型重新學習, 會極大地增加計算量, 但實現(xiàn)了對t+n時刻的 PM2.5濃度值進行連續(xù)滾動預報。

表3 BP 神經(jīng)網(wǎng)絡滾動預報效果Table 3 Effect of rolling forecast by BP

5 與相關研究中 PM2.5 預測效果對比

薛同來等[16]用 BP 神經(jīng)網(wǎng)絡對北京市 PM2.5濃度進行預測, 設置隱藏層神經(jīng)元個數(shù)為 6, 學習率為 0.1, 并對模型進行 2000 次訓練, 對預報效果進行評價, 得到 RMSE 值為 13.41。張立等[17]用混沌粒子群優(yōu)化算法(chaos particle swarm optimization,CPSO)對 BP 神經(jīng)網(wǎng)絡進行修正, 以 2017 年西安市PM2.5日均濃度數(shù)據(jù)為樣本建立預測模型, 預報結果的 RMSE 值為 21.3。蔣奇峰等[18]提出一種將量子粒子群(quantum particle swarm optimization, QPSO)算法與徑向基神經(jīng)網(wǎng)絡(radial basis function, RBF)算法相結合的預測模型, 并用隨機森林(random forest, RF)算法對 PM2.5濃度的影響因子進行篩選,采用 RF-QPSO-RBF 復合模型, 針對南京市某氣象基站的觀測數(shù)據(jù)對 PM2.5濃度進行預測, 預測結果的 RMSE 值為 7.869。

雖然本文與上述研究的區(qū)域和時段不同, 但本文預測結果的最佳 RMSE 值為 8.998，總體上與上述研究的預測水平相當。與上述研究相比, 本文進一步探討了 EEMD 模態(tài)分解對預測效果的影響, 證明通過 EEMD 分解處理可以提升預測效果。

6 結論

1) EEMD 分解可以提升神經(jīng)網(wǎng)絡對 PM2.5逐日濃度的預報效果, 且主要體現(xiàn)在低頻部分。

2) 提升輸入數(shù)據(jù)的時間精度, 可以提高模型的預報效果, 在 ARIMA 自回歸模型中體現(xiàn)得較為明顯。對于神經(jīng)網(wǎng)絡, 當用固定時長的 PM2.5濃度數(shù)據(jù)進行預報時, 時間精度的提升意味著數(shù)據(jù)量的大幅提升, 會使神經(jīng)網(wǎng)絡的結構變得復雜, 輸入層神經(jīng)元數(shù)大量增加, 由此帶來的系統(tǒng)誤差可能導致整體預報效果下降。因此, 在用神經(jīng)網(wǎng)絡進行 PM2.5濃度預報時, 要充分考慮模型復雜度對預報效果的影響。

3) ARIMA 自回歸模型的預報效果整體上優(yōu)于神經(jīng)網(wǎng)絡模型, 并且, 當輸入數(shù)據(jù)量發(fā)生改變時,ARIMA 模型的穩(wěn)定性較好。與 BP 神經(jīng)網(wǎng)絡相比,LSTM 神經(jīng)網(wǎng)絡對 PM2.5濃度的預報表現(xiàn)更好。

4) 由于模型使用前一天的 PM2.5作為輸入數(shù)據(jù),只能預報t+1 天的 PM2.5值。采用滾動預報的方式對模型進行優(yōu)化后, 能夠顯著地提升預報時效, 實現(xiàn)對t+n天的連續(xù)預報, 且預報誤差與后報結果相當。

BP 和 LSTM 神經(jīng)網(wǎng)絡的參數(shù)設置(如各層神經(jīng)元個數(shù)的選擇)會對預報效果產(chǎn)生影響, 本文未對此進行探討; 此外, 回歸分析的激活函數(shù)通常使用ReLU 和 tanh, 本文未對 tanh 作為激活函數(shù)的預報效果進行探討。這些問題有待后續(xù)工作中進一步完善。