基于ELM的西部服務(wù)業(yè)增加值預(yù)測(cè)建模與仿真

韋艷玲（柳州職業(yè)技術(shù)學(xué)院電子信息工程系，柳州　545006）

基于ELM的西部服務(wù)業(yè)增加值預(yù)測(cè)建模與仿真

韋艷玲
（柳州職業(yè)技術(shù)學(xué)院電子信息工程系，柳州545006）

0　引言

服務(wù)業(yè)是西部地區(qū)經(jīng)濟(jì)轉(zhuǎn)型升級(jí)的主要方向和重要支撐。西部大開(kāi)發(fā)實(shí)施以來(lái)，西部服務(wù)業(yè)發(fā)展速度很快，但總的來(lái)看，絕對(duì)規(guī)模、相對(duì)規(guī)模都還仍然偏小。2013年，西部服務(wù)業(yè)的增加值為50,346.92億元，是2000年6,839.70億元的7.6倍，但2013年?yáng)|部服務(wù)業(yè)的增加值已達(dá)166,605.80億元，并且西部、東部服務(wù)業(yè)占GDP的比重分別是39.7%、47.3%，西部與東部相比差距非常明顯。為了更好地了解西部的現(xiàn)時(shí)經(jīng)濟(jì)形勢(shì)和服務(wù)業(yè)發(fā)展趨勢(shì)，建立一種可以準(zhǔn)確、快速地預(yù)測(cè)西部服務(wù)業(yè)增加值的模型不僅必要，也具有重要現(xiàn)實(shí)意義。

傳統(tǒng)的預(yù)測(cè)方法通常強(qiáng)調(diào)預(yù)測(cè)因子和預(yù)測(cè)結(jié)果之間的線(xiàn)性關(guān)系。服務(wù)業(yè)相關(guān)的預(yù)測(cè)受眾多因素的影響，而且這些影響是非線(xiàn)性的、不確定的、模糊的，所以用傳統(tǒng)預(yù)測(cè)方法進(jìn)行預(yù)測(cè)通常效果不理想，而應(yīng)探索運(yùn)用數(shù)據(jù)挖掘技術(shù)的新的預(yù)測(cè)方法。國(guó)內(nèi)運(yùn)用數(shù)據(jù)挖掘技術(shù)在經(jīng)濟(jì)預(yù)測(cè)方面的研究起步較晚，而在服務(wù)業(yè)相關(guān)的預(yù)測(cè)研究方面文獻(xiàn)尤其較少。人工神經(jīng)網(wǎng)絡(luò)擅長(zhǎng)處理復(fù)雜的、非線(xiàn)性數(shù)據(jù)，有強(qiáng)大的學(xué)習(xí)、記憶和歸納能力[1-2]，預(yù)測(cè)效果優(yōu)于其他傳統(tǒng)方法[3-4]。 近年來(lái)，已有學(xué)者把神經(jīng)網(wǎng)絡(luò)等數(shù)據(jù)挖掘技術(shù)應(yīng)用于服務(wù)業(yè)增加值預(yù)測(cè)，都取得了較好結(jié)果，如匡后權(quán)1、李戰(zhàn)江、呂一清等預(yù)測(cè)各地的服務(wù)業(yè)增加值和發(fā)展趨勢(shì)[5-7]。但是，神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)也很明顯，如易陷入局部最優(yōu)、速度慢等。ELM(極限學(xué)習(xí)機(jī))是新加坡南洋理工大學(xué)黃廣斌教授提出的一種快速的新型單隱層前饋神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法[8]，與單純的神經(jīng)網(wǎng)絡(luò)方法相比，有簡(jiǎn)單（前者只需設(shè)置網(wǎng)絡(luò)的隱層節(jié)點(diǎn)個(gè)數(shù)，后者則設(shè)置大量的網(wǎng)絡(luò)訓(xùn)練參數(shù)）、有效（前者具有最優(yōu)解唯一性，后者則易陷入局部最優(yōu)）、學(xué)習(xí)速度快（后者相對(duì)較慢）等明顯優(yōu)點(diǎn)。近年來(lái),ELM在很多行業(yè)的預(yù)測(cè)應(yīng)用都取得了成功[9-11]，同樣也適合服務(wù)業(yè)增加值預(yù)測(cè)。

預(yù)測(cè)服務(wù)業(yè)增加值的數(shù)據(jù)挖掘預(yù)測(cè)方法中文獻(xiàn)[5] 的BP神經(jīng)網(wǎng)絡(luò)算法是較為有效的代表性方法，對(duì)服務(wù)業(yè)增加值預(yù)測(cè)精度較高，但由于神經(jīng)網(wǎng)絡(luò)固有的缺陷，預(yù)測(cè)精度還可以進(jìn)一步提高。本文采用ELM預(yù)測(cè)服務(wù)業(yè)增加值，并與文獻(xiàn)[5]在預(yù)測(cè)精度和運(yùn)行時(shí)間上進(jìn)行比較。

神經(jīng)網(wǎng)絡(luò)降維可降低復(fù)雜性，提高預(yù)測(cè)的精度和性能。影響服務(wù)業(yè)增加值的眾多因素有復(fù)雜的非線(xiàn)性關(guān)系，數(shù)據(jù)信息多有重疊相關(guān)，要得到預(yù)期好結(jié)果，需要把原始指標(biāo)變?yōu)椴幌嚓P(guān)的指標(biāo)。所以，本文首先把西部服務(wù)業(yè)指標(biāo)降維，利用主成分分析法得到少量互不相關(guān)的綜合指標(biāo)，獲取ELM進(jìn)行訓(xùn)練和預(yù)測(cè)的相關(guān)數(shù)據(jù)，再進(jìn)行ELM預(yù)測(cè)。本文旨在為預(yù)測(cè)西部服務(wù)業(yè)增加值提供一種更為準(zhǔn)確、有效的新方法。

2　ELM基本原理

設(shè)有N個(gè)訓(xùn)練樣本 （xi，yi），xi、yi為輸入樣本與輸出樣本，其中xi＝［xi1，xi2，…，xin］∈Rn，yi＝［yi1，yi2，…，yim］∈Rm；又設(shè)隱含層有s個(gè)節(jié)點(diǎn)，輸入節(jié)點(diǎn)與第個(gè)隱節(jié)點(diǎn)之間的連接權(quán)值為 ωi＝［ωi1，ωi2，…，ωin］T，第i個(gè)隱節(jié)點(diǎn)與輸出節(jié)點(diǎn)之間的連接權(quán)值為βi＝[βi1，βi2，…，βim]T，bi是第i個(gè)隱層節(jié)點(diǎn)的閾值，oj是第j個(gè)樣本的輸出值；設(shè)激勵(lì)函數(shù)f（x）無(wú)限可微［11］：

如果網(wǎng)絡(luò)0誤差逼近N個(gè)訓(xùn)練樣本，即：

則有：

則其最小二乘解為：其中H＋即H的Moore-Penrose廣義逆。

3　實(shí)例仿真

為了更好地與文獻(xiàn)[5]中的算法相比較，本文與文獻(xiàn)[5]一樣采用1978~2005年服務(wù)業(yè)相關(guān)數(shù)據(jù)作為ELM學(xué)習(xí)樣本，2006~2007數(shù)據(jù)作為預(yù)測(cè)樣本。

3.1指標(biāo)選擇

影響服務(wù)業(yè)增加值的因素很多，基于對(duì)因素的科學(xué)性、代表性及數(shù)據(jù)易得性綜合考查，則選取5個(gè)服務(wù)業(yè)發(fā)展實(shí)力的因素[5]，包含4個(gè)規(guī)模指標(biāo)：GDP（x1）、服務(wù)業(yè)就業(yè)人口（x3）、工業(yè)總產(chǎn)值（x4）、居民總?cè)丝冢▁5）反映服務(wù)業(yè)的總規(guī)模；包含1個(gè)結(jié)構(gòu)指標(biāo)：以城鎮(zhèn)化水平（x2）反映城鄉(xiāng)結(jié)構(gòu)和城鎮(zhèn)化程度。最新的統(tǒng)計(jì)年鑒常常因統(tǒng)計(jì)標(biāo)準(zhǔn)調(diào)整、增補(bǔ)漏統(tǒng)等原因而對(duì)以往年份的數(shù)據(jù)進(jìn)行一些修訂，故文獻(xiàn)[5]的相關(guān)數(shù)據(jù)與現(xiàn)有統(tǒng)計(jì)年鑒的相關(guān)數(shù)據(jù)略有不同。本文仍采用文獻(xiàn)[5]的相關(guān)數(shù)據(jù)作為數(shù)據(jù)來(lái)源，目的是便于與文獻(xiàn)[5]的算法作對(duì)比。

3.2數(shù)據(jù)預(yù)處理

首先原始數(shù)據(jù)用標(biāo)準(zhǔn)化處理，然后由主成分分析得到第一主成分和第二個(gè)主成分的特征值均大于1，第一主成分的方差貢獻(xiàn)率與第二個(gè)主成分的方差貢獻(xiàn)率之和為88%，選擇第一和第二個(gè)主成分，其余不用。Y1 和Y2分別代表第一、第二主成分，其線(xiàn)性表達(dá)如下。

Y1=0.951x1-0.060x2+0.956x3+0.932x4+0.789x5（4）

Y2=0.168x1+0.961x2+0.001x3+0.164x4-0.325x5（5）

主成分和西部服務(wù)業(yè)增加值歸一化數(shù)據(jù)如表1所示。

表1　主成分和西部服務(wù)業(yè)增加值歸一化數(shù)據(jù)

3.3仿真過(guò)程

采用ELM預(yù)測(cè)2006年和2007年的西部服務(wù)業(yè)增加值。以1978年到2005年共28年的數(shù)據(jù)作為ELM的訓(xùn)練數(shù)據(jù)，2006年和2007年的數(shù)據(jù)作為ELM的測(cè)試數(shù)據(jù)。隱層神經(jīng)元的激活函數(shù)的選擇可以考查三個(gè)激活函數(shù)“sig”、“sin”、“hardlim”，在試驗(yàn)中，后兩種激活函數(shù)得到的預(yù)測(cè)誤差很大，故排除后兩種激活函數(shù)，僅選擇“sig”激活函數(shù)。隱層神經(jīng)元個(gè)數(shù)影響預(yù)測(cè)結(jié)果，隨著隱層神經(jīng)元個(gè)數(shù)增大，會(huì)出現(xiàn)預(yù)測(cè)準(zhǔn)確性下滑現(xiàn)象，故選用隱層神經(jīng)元個(gè)數(shù)不宜過(guò)大，以不大于訓(xùn)練個(gè)數(shù)為宜。在實(shí)驗(yàn)仿真中，經(jīng)過(guò)多次反復(fù)選擇，當(dāng)選擇隱層神經(jīng)元個(gè)數(shù)為4、隱層神經(jīng)元的激活函數(shù)為“sig”函數(shù)時(shí)，預(yù)測(cè)效果較好，且模型性能較好。仿真過(guò)程如下。

（1）確定隱層神經(jīng)元個(gè)數(shù)為4，輸入權(quán)值與閾值的設(shè)置是隨機(jī)的。

（2）選擇激活函數(shù)為“sig”;計(jì)算隱層輸出矩陣。

（3）得到隱層與輸出層的最優(yōu)連接權(quán)值。

4　仿真結(jié)果及分析

本文算法（下稱(chēng)算法1）預(yù)測(cè)模擬結(jié)果與西部服務(wù)業(yè)增加值真實(shí)值（下稱(chēng)目標(biāo)值，模擬結(jié)果及目標(biāo)值均為歸一化后的值）的對(duì)比如圖1所示。算法1與文獻(xiàn)［5］的算法（下稱(chēng)算法2）的目標(biāo)值及模擬結(jié)果對(duì)應(yīng)如表2所示。在8 GB內(nèi)存、3.0 GHz Intel處理器、MATLAB 2011版本相同運(yùn)行條件下實(shí)驗(yàn)，兩種算法預(yù)測(cè)實(shí)時(shí)性比較:算法1運(yùn)行預(yù)測(cè)模型時(shí)間0.11秒，算法2為35 分26秒，算法1運(yùn)行速度明顯快很多。

使用文獻(xiàn)5的基于主成分BP神經(jīng)網(wǎng)絡(luò)算法（下稱(chēng)算法2），在同等條件下進(jìn)行訓(xùn)練。從表2來(lái)看，算法1的相對(duì)誤差最小為0.295%，最大為1.170%，而算法2的相對(duì)誤差最小為0.611%，最大為1.340%，算法1的預(yù)測(cè)結(jié)果明顯優(yōu)于算法2。

當(dāng)算法2網(wǎng)絡(luò)訓(xùn)練達(dá)3000步和6000步時(shí)，mse分別達(dá)到0.01和 0.008，當(dāng)6000步時(shí)基本收斂，運(yùn)行時(shí)間較長(zhǎng)[5]。從預(yù)測(cè)實(shí)時(shí)性來(lái)看，算法1優(yōu)于算法2。

從圖1上看，算法1中的均方誤差mse為7.1391e -005，遠(yuǎn)比算法2中的mse=0.008小，說(shuō)明本文的預(yù)測(cè)模型描述實(shí)驗(yàn)數(shù)據(jù)比算法2的預(yù)測(cè)模型性能好；算法1中的決定系數(shù)R=1，也說(shuō)明本文的預(yù)測(cè)模型的性能很好。

表2　目標(biāo)值與模擬結(jié)果對(duì)應(yīng)

5　結(jié)語(yǔ)

服務(wù)業(yè)發(fā)展關(guān)系到國(guó)民經(jīng)濟(jì)的穩(wěn)定和持續(xù)發(fā)展，產(chǎn)業(yè)結(jié)構(gòu)升級(jí)也需要服務(wù)業(yè)的支撐。本文的預(yù)測(cè)模型結(jié)合了主成分分析對(duì)樣本進(jìn)行去噪及ELM學(xué)習(xí)速度快、泛化性好的優(yōu)點(diǎn)，能夠提升西部服務(wù)業(yè)增加值預(yù)測(cè)的精度和實(shí)時(shí)性，使政策制定者對(duì)西部經(jīng)濟(jì)有比較明確的預(yù)期，有利于制定針對(duì)性政策解決西部服務(wù)業(yè)發(fā)展滯后的問(wèn)題。該模型也適用于其他經(jīng)濟(jì)預(yù)測(cè)，應(yīng)用前景看好。

[1]Funahashi K.On the Approximate Realization of Continuous Mappings By Neural Networks[J].Neural Networks，1989，2（3）:183-192.

[2]Tai-Yue Wang，Shih-Chien Chien.Forecasting Innovation Performance Via Neural Networks-A Case of Taiwanese Manufacturing Industry[J].Technovation，2006，26:635-643.

[3]Sahoo G B，Ray C.Flow Forecasting for A Hawaii Stream Using Rating Curves and Neural Networks[J].Journal of Hydrology，2006，317:63-80.

[4]Sahoo G B，Ray C.Flow Forecasting for A Hawaii Stream Using Rating Curves and Neural Networks[J].Journal of Hydrology，2006，317:63-80.

[5]匡后權(quán)，吉松濤，曾武佳.基于主成分BP神經(jīng)網(wǎng)絡(luò)的西部服務(wù)業(yè)產(chǎn)值預(yù)測(cè)[J].統(tǒng)計(jì)與決策，2011，（11）：100-101.［5］李戰(zhàn)江,吳公華.基于BP神經(jīng)網(wǎng)絡(luò)的內(nèi)蒙古第三產(chǎn)業(yè)增加值預(yù)測(cè)模型[J].內(nèi)蒙古農(nóng)業(yè)大學(xué)學(xué)報(bào)：自然科學(xué)版,2009,30(04)：255-258.

[6]李戰(zhàn)江，吳公華.基于BP神經(jīng)網(wǎng)絡(luò)的內(nèi)蒙古第三產(chǎn)業(yè)增加值預(yù)測(cè)模型[J].內(nèi)蒙古農(nóng)業(yè)大學(xué)學(xué)報(bào)：自然科學(xué)版，2009，30（04）：255-258.

[6]李戰(zhàn)江，吳公華.基于BP神經(jīng)網(wǎng)絡(luò)的內(nèi)蒙古第三產(chǎn)業(yè)增加值預(yù)測(cè)模型[J].內(nèi)蒙古農(nóng)業(yè)大學(xué)學(xué)報(bào)：自然科學(xué)版，2009，30（04）：255-258.呂一清.基于灰色神經(jīng)網(wǎng)絡(luò)的第三產(chǎn)業(yè)發(fā)展趨勢(shì)的預(yù)測(cè)模型[J].統(tǒng)計(jì)與決策，2011，（04）：157-159.

[7]呂一清.基于灰色神經(jīng)網(wǎng)絡(luò)的第三產(chǎn)業(yè)發(fā)展趨勢(shì)的預(yù)測(cè)模型[J].統(tǒng)計(jì)與決策，2011，（04）：157-159.Huang G B，Zhu Q Y，SIEW C K.Extreme Learning Machine:Theory and Applications[J].Neurocomputing，2006，70:489－501.

[8]Huang G B，Zhu Q Y，SIEW C K.Extreme Learning Machine:Theory and Applications[J].Neurocomputing，2006，70:489－501.

[9]孫淼，陳濤濤，于洋等.極限學(xué)習(xí)機(jī)在洪澇災(zāi)害預(yù)測(cè)中的應(yīng)用[J].沈陽(yáng)農(nóng)業(yè)大學(xué)學(xué)報(bào)，2014，45（02）:245-248.

[10]王偉，楊輝華，劉振丙等.基于極限學(xué)習(xí)機(jī)的短期電力負(fù)荷預(yù)測(cè)[J].計(jì)算機(jī)仿真，2014，31（04）:137-141.

[11]潘華賢，程國(guó)建，蔡磊.極限學(xué)習(xí)機(jī)與支持向量機(jī)在儲(chǔ)層滲透率預(yù)測(cè)中的對(duì)比研究[J].計(jì)算機(jī)工程與科學(xué)，2010,32（02）:131-134.

Added Value of the Service Industry in Western China;Principal Component Analysis;Extreme Learning Machine;Forecast

Modeling and Simulation about Forecast on the Added Value of the Service Industry in Western China Based on Extreme Learning Machine Method

WEI Yan-ling
（Department of Electronic and Information Engineering,Liuzhou Vocational&Technical College,Liuzhou 545006）

1007-1423（2016）07-0053-04

10.3969/j.issn.1007-1423.2016.07.012

韋艷玲（1970-），女，廣西羅城人，副教授，碩士,研究方向?yàn)閿?shù)據(jù)挖掘、區(qū)域經(jīng)濟(jì)

2015-01-15

2016-02-25

1文獻(xiàn)[5]文中的西部服務(wù)業(yè)產(chǎn)值實(shí)際為服務(wù)業(yè)增加值，GDP產(chǎn)值應(yīng)為GDP。

科學(xué)、準(zhǔn)確地預(yù)測(cè)西部服務(wù)業(yè)發(fā)展趨勢(shì)具有重要現(xiàn)實(shí)意義。采用連續(xù)30年的西部服務(wù)業(yè)增加值相關(guān)統(tǒng)計(jì)數(shù)據(jù)，在利用主成分分析法預(yù)處理后，基于ELM(極限學(xué)習(xí)機(jī))建模，用于西部服務(wù)業(yè)增加值的預(yù)測(cè)仿真，并與BP神經(jīng)網(wǎng)絡(luò)在預(yù)測(cè)精度和運(yùn)行時(shí)間上進(jìn)行比較。結(jié)果表明，所提出的模型綜合主成分分析和ELM的優(yōu)點(diǎn)，預(yù)測(cè)精度較高，泛化性較好，能夠提升西部服務(wù)業(yè)增加值預(yù)測(cè)的精度和實(shí)時(shí)性，使政策制定者更好地了解西部服務(wù)業(yè)的當(dāng)前形勢(shì)和發(fā)展趨勢(shì)，對(duì)西部經(jīng)濟(jì)有較明確的預(yù)期，也可以較好地應(yīng)用于其他經(jīng)濟(jì)預(yù)測(cè)。

西部服務(wù)業(yè)增加值；主成分分析；ELM（極限學(xué)習(xí)機(jī)）；預(yù)測(cè)

廣西壯族自治區(qū)教育廳科研課題（No.LX2014532）、廣西哲學(xué)社會(huì)科學(xué)規(guī)劃2013年度研究課題（No.13FJL006）

Develops a simulation model using the 30-years'relevant statistical data of the added value of the service industry in Western China based on Extreme Learning Machine.This model forecasts the added value of the service industry in Western China and compares the BP neural network in accuracy and run-time.The simulation model combines the advantages of the Principal Component Analysis and Extreme Learning Machine.The results of simulation experiments show that this model has better forecast accuracy and generalization. This method can be also applied to forecast the relevant economic fields.