變結(jié)構(gòu)遺傳最小二乘支持向量機(jī)法預(yù)測(cè)日用水量

陳 磊，石 也

(浙江工業(yè)大學(xué) 建筑工程學(xué)院，浙江 杭州 310014)

變結(jié)構(gòu)遺傳最小二乘支持向量機(jī)法預(yù)測(cè)日用水量

陳 磊，石 也

(浙江工業(yè)大學(xué) 建筑工程學(xué)院，浙江 杭州 310014)

為解決日用水量預(yù)測(cè)模型的動(dòng)態(tài)參數(shù)估計(jì)問(wèn)題，提出了基于變結(jié)構(gòu)遺傳最小二乘支持向量機(jī)的預(yù)測(cè)模型.以日用水量的主要影響因素和相關(guān)日用水量為輸入，利用遺傳算法對(duì)基于LSSVM的歷史日用水量模型參數(shù)進(jìn)行尋優(yōu)，獲得模型結(jié)構(gòu)參數(shù)序列；采用擴(kuò)展卡爾曼濾波器估計(jì)基于最小二乘支持向量機(jī)的預(yù)測(cè)日用水量模型參數(shù)，進(jìn)而預(yù)測(cè)下一日用水量.實(shí)例分析表明：提出的模型具有較高的預(yù)測(cè)精度，預(yù)測(cè)的最大絕對(duì)相對(duì)誤差僅為9.3%，平均絕對(duì)相對(duì)誤差為2.09%.

遺傳算法；最小二乘支持向量機(jī)；變結(jié)構(gòu)；擴(kuò)展卡爾曼濾波；日用水量

科學(xué)的管網(wǎng)調(diào)度能節(jié)省大量的供水能耗，全面提高管網(wǎng)的安全性和可靠性，但調(diào)度方案是否可行很大程度上取決于日用水量的預(yù)測(cè)精度.針對(duì)日用水量的非線性特征，學(xué)者們一般以預(yù)測(cè)日用水量的相關(guān)日用水量和主要影響因素為輸入，采用具有較強(qiáng)非線性映射能力的神經(jīng)網(wǎng)絡(luò)[1-2]和支持向量機(jī)[3-4]進(jìn)行預(yù)測(cè)，但他們都未提及預(yù)測(cè)前是否需要以及如何持續(xù)動(dòng)態(tài)更新模型參數(shù)的方法.BAI Yun等[5]提出根據(jù)歷史日用水量模型的參數(shù)，采用卡爾曼濾波法估計(jì)預(yù)測(cè)日用水量的模型參數(shù)，實(shí)現(xiàn)了日用水量模型參數(shù)的動(dòng)態(tài)更新.然而其采用交叉驗(yàn)證法確定歷史日用水量模型參數(shù)耗時(shí)較長(zhǎng)，獲得的優(yōu)化模型參數(shù)也很大程度上取決于模型參數(shù)區(qū)間以及參數(shù)網(wǎng)格的劃分，難以保證獲得較優(yōu)的模型參數(shù)，并且其模型輸入僅考慮日用水量歷史序列，當(dāng)日用水量變化較大時(shí)，采用更新參數(shù)的模型仍會(huì)出現(xiàn)較大的預(yù)測(cè)誤差.為此，模型的輸入增加了日用水量的主要影響因素，并利用具有較強(qiáng)全局尋優(yōu)能力的自適應(yīng)遺傳算法對(duì)歷史日用水量模型的參數(shù)組尋優(yōu)，得到較優(yōu)的參數(shù)組序列.根據(jù)參數(shù)組序列采用卡爾曼濾波法估計(jì)預(yù)測(cè)日模型的參數(shù)，實(shí)現(xiàn)預(yù)測(cè)日用水量的更高精度預(yù)測(cè).

1 遺傳最小二乘支持向量機(jī)(GA-LSSVM)模型

1.1 最小二乘支持向量機(jī)

最小二乘支持向量機(jī)[6](LSSVM)是對(duì)支持向量機(jī)[7](SVM)改進(jìn)的算法，它采用等式約束替代SVM的不等式約束，將SVM的二次規(guī)劃轉(zhuǎn)變?yōu)榫€性問(wèn)題，尋優(yōu)空間從SVM的三維降低到LSSVM的二維.與SVM相比，LSSVM具有更少的參數(shù)和更快的訓(xùn)練速度.

(1)

式中：ω為權(quán)矢量，ω∈Rnf；ei為誤差，ei∈R；γ為懲罰因子；φ(·)為核函數(shù)，φ(·):Rn→Rnf；b為偏置.

為求解最小值，可構(gòu)造函數(shù)式

(2)

式中αi為拉格朗日系數(shù).

根據(jù)KKT條件，對(duì)式(2)求偏導(dǎo)，即

(3)

消去ω和e后變?yōu)榫€性方程

(4)

式中：y=[y1,y2,…,yn]T,1v=[1,1,…,1]T，α=[α1,α2,…,αn]T；I為N×N的單位矩陣；Ωij=φ(xi)Tφ(xj)=K(xi,xj),i,j=1,2,…,N.

根據(jù)式(4)得到α和b，則LSSVM的估計(jì)函數(shù)為

(5)

式中徑向基核函數(shù)K(x,xi)=exp{-‖x-xi‖2/σ2}.

LSSVM一般采用網(wǎng)格交叉驗(yàn)證法來(lái)確定寬度系數(shù)σ和懲罰因子γ兩個(gè)參數(shù)，但該方法耗時(shí)長(zhǎng)，并且如何選擇參數(shù)范圍和劃分網(wǎng)格對(duì)結(jié)果影響較大.

1.2 遺傳算法優(yōu)化LSSVM參數(shù)

傳統(tǒng)遺傳算法(GA)簡(jiǎn)單實(shí)用，但是收斂速度較慢，采用隨個(gè)體適應(yīng)值自適應(yīng)調(diào)整交叉和變異概率，具有較強(qiáng)全局搜索能力的自適應(yīng)遺傳算法[8]來(lái)優(yōu)化LSSVM的參數(shù)σ,γ.

優(yōu)化步驟如下：

1)σ,γ的取值范圍：σ∈[0.01,50]，γ∈[0.01,50].兩參數(shù)采用12位二進(jìn)制編碼，遺傳算法的每個(gè)個(gè)體為24位.

2)根據(jù)個(gè)體的適應(yīng)值，利用輪盤賭法從父代選出相同數(shù)目的較優(yōu)個(gè)體.

3)自適應(yīng)交叉和變異.

采用兩位交叉，自適應(yīng)交叉概率計(jì)算表達(dá)式為

(6)

式中：f′為兩個(gè)體中較大的適應(yīng)值；favg為種群平均適應(yīng)值；fmax為種群最大適應(yīng)值.

變異方式為：對(duì)所有個(gè)體的每位二進(jìn)制編碼從0～1的范圍內(nèi)隨機(jī)產(chǎn)生一個(gè)數(shù)，若其大于個(gè)體的變異率，則編碼將從0變1或從1變0，否則不變.

自適應(yīng)變異概率計(jì)算方法為

(7)

式中f為變異個(gè)體的適應(yīng)值.

4)保留較優(yōu)個(gè)體.父代中一半適應(yīng)值較小的個(gè)體由子代中適應(yīng)值較大的個(gè)體替代.

2 擴(kuò)展卡爾曼濾波器(Extended kalman filter, EKF)

由于所建模型涉及非線性系統(tǒng)狀態(tài)及參數(shù)估計(jì)問(wèn)題，因此采用擴(kuò)展卡爾曼濾波器[9].該算法利用一個(gè)系統(tǒng)狀態(tài)方程和一個(gè)測(cè)量更新方程來(lái)描述線性動(dòng)態(tài)過(guò)程，形成一種遞推濾波.

系統(tǒng)的狀態(tài)方程和測(cè)量方程分別為

x(k)=f(x(k-1),u(k-1))+w(k-1)

(8)

y(k)=g(x(k))+v(k)

(9)

式中:u為控制矢量；x為狀態(tài)矢量；y為觀測(cè)矢量；w和v分別為過(guò)程噪聲和觀測(cè)噪聲，假設(shè)它們獨(dú)立，并分別服從正態(tài)分布的高斯白色噪聲w～N(0,Q),v～N(0,R)，則

E[w(k-1)]=0，E[v(k-1)]=0

(10)

過(guò)程噪聲Q和觀測(cè)噪聲R的方差分別為

E[w(k-1)wT(l-1)]=Q(k-1)

E[v(k-1)vT(l-1)]=R(k-1),k≠l

(11)

利用EKF計(jì)算模型參數(shù)，計(jì)算過(guò)程可分兩個(gè)階段：

1)預(yù)測(cè)階段

2)更新階段

3 變結(jié)構(gòu)遺傳最小二乘支持向量機(jī)模型(VSG-LSSVM模型)

由于隔年變化的日用水量具有很強(qiáng)的相似性，因此模型采用365 d的等維樣本長(zhǎng)度.采用等維的數(shù)據(jù)，以預(yù)測(cè)日用水量的主要影響因素(包括平均溫度、最低溫度、最高溫度、陰晴量、相對(duì)濕度及星期量)和高度相關(guān)日用水量為輸入，以預(yù)測(cè)日用水量為輸出，建立遺傳最小二乘支持向量機(jī)模型(GA-LSSVM模型).通過(guò)計(jì)算日用水量序列的自相關(guān)系數(shù)[10]，發(fā)現(xiàn)預(yù)測(cè)日與預(yù)測(cè)日前第7 d的日用水量高度相關(guān)，因此取預(yù)測(cè)日前第7 d的日用水量為輸入.

由于相同季節(jié)內(nèi)有相似的氣候和用水量情況，日用水量模型參數(shù)也存在相似性，因此EKF模型參數(shù)組序列取92組(1年中最大的季節(jié)天數(shù)).為了確定預(yù)測(cè)日用水量的模型參數(shù)，需先分別采用GA確定對(duì)預(yù)測(cè)日前92 d的日用水量進(jìn)行預(yù)測(cè)的92個(gè)模型參數(shù)，根據(jù)92個(gè)模型參數(shù)組利用擴(kuò)展卡爾曼濾波估計(jì)預(yù)測(cè)日模型參數(shù)，建立變結(jié)構(gòu)遺傳最小二乘支持向量機(jī)模型(VSG-LSSVM模型)，從而對(duì)預(yù)測(cè)日用水量進(jìn)行預(yù)測(cè).

建模和預(yù)測(cè)具體過(guò)程如下：

圖1 VSG-LSSVM建模Fig.1 Daily water consumption forecasting modeling based on VSG-LSSVM

2) 若t=1，模型參數(shù)組序列保持不變；否則，將最新獲得(t+455) d的日用水量數(shù)據(jù)加入到用于確定最新模型參數(shù)(σt+91,γt+91)的等維365組的訓(xùn)練樣本，拋棄該樣本中第(t+90) d的日用水量數(shù)據(jù)，以(t+91)～(t+455) d共365組數(shù)據(jù)構(gòu)建新的訓(xùn)練樣本，將該樣本5等分，利用自適應(yīng)遺傳算法對(duì)LSSVM的模型參數(shù)進(jìn)行尋優(yōu)(采用5折交叉驗(yàn)證來(lái)評(píng)價(jià)遺傳算法個(gè)體適應(yīng)函數(shù)值)，得到(σt+91,γt+91)，去掉原模型參數(shù)序列中的(σt-1,γt-1)，組成新的92組較優(yōu)參數(shù)(σt,γt)，(σt+1,γt+1)，…，(σt+91,γt+91).

5) 判斷t是否等于預(yù)測(cè)天數(shù)274：若是，轉(zhuǎn)步驟6)，若否，t=t+1，返回步驟2).

6) 程序結(jié)束.

實(shí)際日用水量與GA-LSSVM模型、VSG-LSSVM模型預(yù)測(cè)結(jié)果的對(duì)比見(jiàn)圖2.GA-LSSVM模型預(yù)測(cè)的最大絕對(duì)相對(duì)誤差為13.7%(第645 d)，VSG-LSSVM模型預(yù)測(cè)的最大絕對(duì)相對(duì)誤差為9.3%(第484 d).

圖2 實(shí)際日用水量和2種模型預(yù)測(cè)值對(duì)比Fig.2 Comparison of daily water consumption between real and two prediction models

表1 兩模型預(yù)測(cè)誤差分布對(duì)比

Table 1 The comparison of predicted relative error between two models

絕對(duì)相對(duì)誤差誤差所占比例/%GA?LSSVM模型VSG?LSSVM模型0～585．7795．995～1013．874．01>100．360

由圖2以及兩模型預(yù)測(cè)誤差的分布可知：VSG-LSSVM模型總體的預(yù)測(cè)精度明顯高于GA-LSSVM模型.在預(yù)測(cè)前期(457～486 d)，擴(kuò)展卡爾曼濾波參數(shù)需要根據(jù)模型參數(shù)組序列進(jìn)行調(diào)整，因此30 d中僅有7 d的VSG-LSSVM模型預(yù)測(cè)結(jié)果優(yōu)于GA-LSSVM模型.但在第487 d后，244 d中有165 d的VSG-LSSVM模型預(yù)測(cè)結(jié)果優(yōu)于GA-LSSVM模型，VSG-LSSVM模型的預(yù)測(cè)精度有顯著提高.

4 結(jié) 論

對(duì)傳統(tǒng)日用水量模型參數(shù)的預(yù)測(cè)方法進(jìn)行了改進(jìn)，提出了日用水量模型參數(shù)的動(dòng)態(tài)預(yù)測(cè)方法.利用具有較強(qiáng)全局搜索能力的自適應(yīng)遺傳算法對(duì)歷史日用水量的模型參數(shù)進(jìn)行尋優(yōu)，得到較優(yōu)的模型參數(shù)序列；根據(jù)序列采用具有較強(qiáng)非線性估計(jì)能力的卡爾曼濾波法推斷基于最小二乘支持向量機(jī)的預(yù)測(cè)模型參數(shù)，實(shí)現(xiàn)參數(shù)的精確估計(jì).實(shí)例分析結(jié)果表明：該模型預(yù)測(cè)的最大絕對(duì)相對(duì)誤差、平均絕對(duì)相對(duì)誤差以及預(yù)測(cè)誤差分布都較大程度優(yōu)于傳統(tǒng)基于遺傳最小支持向量機(jī)的預(yù)測(cè)模型，可用于長(zhǎng)期日用水量預(yù)測(cè).

[1] BABEL M S, SHINDE V R. Identifying prominent explanatory variables for water demand prediction using artificial neural networks: a case study of Bangkok [J]. Water resources management,2011,25(6):1653-1676.

[2] 袁一星，蘭宏娟，趙洪賓，等.城市用水量BP網(wǎng)絡(luò)預(yù)測(cè)模型[J].哈爾濱建筑大學(xué)學(xué)報(bào),2002,35(3):56-58.

[3] 王亮，張宏偉，牛志廣.支持向量機(jī)在城市用水量短期預(yù)測(cè)中的應(yīng)用[J].天津大學(xué)學(xué)報(bào)，2005，38(11)：1021-1025.

[4] 陳磊，余翔.遺傳最小二乘支持向量機(jī)法預(yù)測(cè)日用水量[J].節(jié)水灌溉，2012(8):4-7.

[5] BAI Yun, WANG Pu, LI Chuan, et al. Dynamic forecast of daily urban water consumption using a variable-structure support vector regression model[J]. Journal of water resource planning and management，2015，141(3):1-10.

[6] SUYKEN J A K, VAN G T, DE M B, et al. Least squares support vector machines[M]. Singapore: World Scientific，2002.

[7] 陳磊，董志勇.支持向量機(jī)在短期用水量預(yù)測(cè)中的應(yīng)用[J].浙江工業(yè)大學(xué)學(xué)報(bào)，2007，35(4)：448-451.

[8] 王小平，曹力明.遺傳算法-理論、應(yīng)用與軟件實(shí)現(xiàn)[M].西安：西安交通大學(xué)出版社，2002.

[9] ANDERSON B, MOORE J. Optimal filtering [M]. New Jersey: Prentice-Hall，1979.

[10] 丁晶,鄧育仁.隨機(jī)水文學(xué)[M].成都：成都科技大學(xué)出版社，1988.

Daily water demand forecasting method based on variable structure genetic least squares support vector machine

CHEN Lei, SHI Ye

(College of Civil Engineering and Architecture, Zhejiang University of Technology, Hangzhou 310014, China)

To dynamically estimate the parameters of daily water consumption model，a new variable-structure genetic least squares vector machine(LSSVM)-based model is proposed. The principal factors of daily water consumption and the correlative daily water consumption are used as the model inputs. With genetic algorithm, the parametersseries of LSSVM-based historical daily water consumption models aredetermined. With the series, Extended Kalman Filter(EKF) is applied to estimate the parameters of LSSVM-based next-day prediction modeland the next-day daily water consumption is forecasted. Case study shows that the proposed model has higher forecasting performance in term of a maximum absolute relative error of 9.3% and a mean absolute relative error of 2.09%.

genetic algorithm; least squares vector machine; variable structure; extended Kalman Filter; daily water consumption

(責(zé)任編輯：劉 巖)

2016-04-07

國(guó)家自然科學(xué)基金資助項(xiàng)目(50908165)；浙江省飲用水安全保障與城市水環(huán)境治理重點(diǎn)科技創(chuàng)新團(tuán)隊(duì)項(xiàng)目(2010R50037)

陳 磊(1977—)，男，浙江衢州人，副教授，博士，主要從事給水管網(wǎng)系統(tǒng)建模和優(yōu)化研究，E-mail：zj_chen_lei@sina.com.cn.

TU991.33

A

1006-4303(2017)01-0069-04