基于Stacking集成模型的電網(wǎng)輸電工程造價(jià)預(yù)測(cè)研究

袁兆祥，張血琴，郭裕鈞，尹彩琴，寧曉雁

（1.國(guó)網(wǎng)經(jīng)濟(jì)技術(shù)研究院有限公司，北京 102200；2.西南交通大學(xué)，四川 成都 611731）

0 引言

輸電工程是電力工程建設(shè)的重要組成部分，對(duì)其進(jìn)行準(zhǔn)確的造價(jià)預(yù)測(cè)可以有效地推動(dòng)項(xiàng)目評(píng)估、預(yù)算審核以及施工等方面工作［1］。電網(wǎng)公司對(duì)于輸電工程造價(jià)一般采用傳統(tǒng)的統(tǒng)計(jì)學(xué)方法如定額計(jì)算法、經(jīng)驗(yàn)值估算法等［2］。考慮到輸電工程的造價(jià)呈現(xiàn)復(fù)雜多變的特征，傳統(tǒng)的預(yù)測(cè)方法在很多方面具有一定的局限性，采用準(zhǔn)確度高的預(yù)測(cè)工具是十分必要的。目前關(guān)于輸電工程的造價(jià)預(yù)測(cè)研究主要圍繞人工智能算法，諸如支持向量機(jī)［3］、BP 神經(jīng)網(wǎng)絡(luò)［4-6］、灰色關(guān)聯(lián)理論以及聚類(lèi)分析［7-8］等。武漢大學(xué)［9］通過(guò)識(shí)別影響特高壓輸電線路工程造價(jià)的主要因素，采用因子分析法選取了5 個(gè)因子作為輸入、工程單位造價(jià)作為輸出，構(gòu)建了基于神經(jīng)網(wǎng)絡(luò)的造價(jià)預(yù)測(cè)模型，并證實(shí)了預(yù)測(cè)模型對(duì)特高壓輸電線路的造假預(yù)測(cè)具有較高的準(zhǔn)確性與可行性。盡管上述算法在某種程度上達(dá)到了所預(yù)想的效果，但有些算法還存在缺陷。如BP 神經(jīng)網(wǎng)絡(luò)模型易陷入局部極小值，且對(duì)初始權(quán)值較敏感、收斂速度慢；而灰色模型僅適用于小樣本且對(duì)樣本規(guī)律要求嚴(yán)格［10］。

因此，很多學(xué)者致力于多種算法的融合研究。相較于單一的預(yù)測(cè)算法，融合算法能夠規(guī)避單一算法的局限性，揚(yáng)長(zhǎng)避短，提高預(yù)測(cè)精度。楊凱等人［11］考慮的BP 神經(jīng)網(wǎng)絡(luò)容易陷入局部極小的問(wèn)題，提出了GA-BP神經(jīng)網(wǎng)絡(luò)的造價(jià)預(yù)測(cè)模型。周景宏等人［12］提出一種果蠅算法優(yōu)化小波神經(jīng)網(wǎng)絡(luò)參數(shù)，并與其他方法進(jìn)行對(duì)比，結(jié)果表明混合算法的預(yù)測(cè)精度優(yōu)于單一算法。王勝毅等人［13］通過(guò)討論K-Means 聚類(lèi)、層次聚類(lèi)以及模糊聚類(lèi)三種聚類(lèi)方式的特點(diǎn)，將其用于提升神經(jīng)網(wǎng)絡(luò)和支持向量機(jī)的預(yù)測(cè)精度，基于上述模型提出一種輸電線路工程造價(jià)的綜合智能預(yù)測(cè)方法，結(jié)果表明層次聚類(lèi)用于降低神經(jīng)網(wǎng)絡(luò)算法誤差效果最好，而模糊聚類(lèi)用于降低支持向量機(jī)算法誤差效果最好。

基于現(xiàn)有的多算法融合研究，針對(duì)單一的算法在進(jìn)行造價(jià)預(yù)測(cè)時(shí)存在泛化性能差的缺陷，提出將支持向量機(jī)（Support Vector Machine，SVM）、反向傳播（Back Propagation，BP）神經(jīng)網(wǎng)絡(luò)、隨機(jī)森林（Random Forest，RF）以及K-近鄰算法（K-Nearest Neighbor，KNN）多個(gè)學(xué)習(xí)器相融合，建立基于Stacking 集成模型的輸電工程造價(jià)預(yù)測(cè)模型。文章首先分析輸電工程造價(jià)建設(shè)的影響因素，選取典型的10 個(gè)特征量作為模型的輸入數(shù)據(jù)，并依據(jù)Stacking 集成模型的訓(xùn)練流程，建立輸電工程造價(jià)預(yù)測(cè)模型，對(duì)電網(wǎng)輸電工程進(jìn)行造價(jià)分析，結(jié)果證明該集成模型具有較好的泛化性能和較高的預(yù)測(cè)精度，能夠準(zhǔn)確地預(yù)測(cè)線路的造價(jià)水平，可為輸電工程的造價(jià)預(yù)測(cè)研究提供參考。

1 影響因素分析

影響輸電工程建設(shè)的因素多種多樣，且各個(gè)影響因素均具有非線性與不確定性［14］，這就加大了對(duì)其進(jìn)行造價(jià)管理的難度。通過(guò)對(duì)輸電工程造價(jià)影響因素的深入分析與研究，對(duì)關(guān)鍵因素重點(diǎn)把控，有利于提高工程造價(jià)預(yù)測(cè)的快速性和準(zhǔn)確性，實(shí)現(xiàn)對(duì)輸電工程造價(jià)管理的優(yōu)化把控［15］。

輸電線路的工程造價(jià)受到自然因素、市場(chǎng)環(huán)境因素以及工程因素的綜合影響，具體的影響因素見(jiàn)表1。隨著海拔高度的增加以及電壓等級(jí)的升高，對(duì)技術(shù)、材料以及施工的要求也更加嚴(yán)苛，由此導(dǎo)致了造價(jià)成本的提高。不同材料的市場(chǎng)價(jià)格也會(huì)影響造價(jià)水平。由于線路周邊環(huán)境復(fù)雜多變，沿線地形、地質(zhì)、氣候條件并非由單一特征構(gòu)成，故造價(jià)成本也相差甚遠(yuǎn)。溫度、風(fēng)速、濕度亦會(huì)影響線路造價(jià)，且很可能引發(fā)線路的安全問(wèn)題，若想預(yù)防安全隱患，勢(shì)必要提高工程造價(jià)成本。

表1 工程造價(jià)影響因素

2 算法原理

2.1 Stacking簡(jiǎn)介

Stacking 算法是一種集成學(xué)習(xí)的算法，通過(guò)將不同的分類(lèi)算法進(jìn)行融合以使其比組成它的基分類(lèi)算法具有更高的準(zhǔn)確率和更強(qiáng)的泛化性能［16］。如圖1所示，Stacking 集成學(xué)習(xí)的基本原理是將基學(xué)習(xí)器的輸出結(jié)果作為下一層學(xué)習(xí)器的輸入特征，以此實(shí)現(xiàn)模型的堆疊，依次類(lèi)推，最后一層模型的輸出結(jié)果即為該算法的最終分類(lèi)預(yù)測(cè)結(jié)果［17-18］。李陽(yáng)等人［19］將該集成算法用于預(yù)測(cè)電廠NOx的排放量，取得了較高的預(yù)測(cè)精度。

圖1 基于Stacking的集成學(xué)習(xí)

2.2 基分類(lèi)器的選擇

綜合考慮自然、市場(chǎng)環(huán)境、工程三方面的因素，選取SVM、BP 神經(jīng)網(wǎng)絡(luò)、KNN、RF 的4 個(gè)機(jī)器學(xué)習(xí)算法進(jìn)行Stacking融合模型的訓(xùn)練。

支持向量機(jī)在小樣本學(xué)習(xí)方面具有較好的“魯棒性”和泛化性能［20］，該算法進(jìn)行模型訓(xùn)練的思想是求解能夠正確劃分訓(xùn)練數(shù)據(jù)集以及幾何間隔最大的分離超平面。算法性能的優(yōu)劣主要取決于核函數(shù)的選取。

BP 神經(jīng)網(wǎng)絡(luò)被廣泛地用于各個(gè)領(lǐng)域的預(yù)測(cè)問(wèn)題［21-23］。標(biāo)準(zhǔn)的BP 算法包括前向傳播與后向傳播兩個(gè)階段，如果最終未能得到預(yù)想的輸出值，可通過(guò)誤差進(jìn)一步調(diào)節(jié)各層的閾值與權(quán)值，直至達(dá)到理想結(jié)果才結(jié)束算法，因此該算法具有高度的自適應(yīng)能力。BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)模型如圖2所示。

圖2 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)模型

KNN 算法其結(jié)果與離其最近的K個(gè)數(shù)據(jù)有關(guān)，是經(jīng)典的有監(jiān)督學(xué)習(xí)算法之一［24-26］。KNN 最大的優(yōu)點(diǎn)在于原理簡(jiǎn)潔、易于理解與上手且預(yù)測(cè)精度高。KNN 算法的原理相當(dāng)簡(jiǎn)單，即當(dāng)預(yù)測(cè)某個(gè)值x時(shí)，依據(jù)與它距離最近的K個(gè)點(diǎn)的所屬類(lèi)別來(lái)判斷x的歸屬，核心在于選擇K值與計(jì)算距離。K值的選取有個(gè)臨界值，當(dāng)?shù)扔谂R界值時(shí)，準(zhǔn)確率較高，繼續(xù)增大或減小都會(huì)使算法的錯(cuò)誤率提高。KNN算法常用歐式距離來(lái)衡量近鄰關(guān)系［27］，以多維空間為例，給定兩個(gè)n維樣本xi=［xi1，xi2，....，xin］和xj=［xj1，xj2，....，xjn］，歐氏距離計(jì)算式為

RF 算法具有預(yù)測(cè)精度高、泛化能力可控、收斂速度快等優(yōu)點(diǎn)［28］。該算法主要是采取有放回的抽樣方式構(gòu)建互不相關(guān)的多棵決策樹(shù)，以此涵蓋所有決策的可能性，從而使得少數(shù)優(yōu)秀的決策樹(shù)輸出一個(gè)很好的預(yù)測(cè)結(jié)果［29］。隨機(jī)森林在處理樣本數(shù)據(jù)的高維特征時(shí)無(wú)須進(jìn)行降維處理便可評(píng)估各個(gè)特征在分類(lèi)問(wèn)題上的重要性，不僅對(duì)于缺省值問(wèn)題有很好的預(yù)測(cè)效果，還能在數(shù)據(jù)集較大時(shí)保持有效運(yùn)行，不足之處在于，可能會(huì)因?yàn)橛休^多相似的決策樹(shù)而掩蓋了真實(shí)的結(jié)果，影響模型最終的預(yù)測(cè)精度。

3 基于Stacking集成的造價(jià)預(yù)測(cè)方法

3.1 樣本數(shù)據(jù)

選取樣本來(lái)自某地區(qū)電網(wǎng)220 kV輸電工程的實(shí)際造價(jià)數(shù)據(jù)，共計(jì)148組，部分樣本數(shù)據(jù)如表2所示。選取80%的樣本數(shù)據(jù)進(jìn)行模型訓(xùn)練，其余數(shù)據(jù)用于測(cè)試，以檢驗(yàn)?zāi)Ｐ皖A(yù)測(cè)的準(zhǔn)確率。

表2 部分輸電工程樣本數(shù)據(jù)采集表

樣本數(shù)據(jù)中既包含定性指標(biāo)也包含定量指標(biāo)，定量指標(biāo)中將長(zhǎng)度單位統(tǒng)一為m，價(jià)格單位統(tǒng)一為萬(wàn)元；定性指標(biāo)則需要對(duì)不同取值進(jìn)行賦值處理。由于樣本數(shù)據(jù)的數(shù)量級(jí)與量綱不同造成數(shù)據(jù)之間的差異較大，直接用于模型訓(xùn)練可能會(huì)影響預(yù)測(cè)精度，故需要提前對(duì)數(shù)據(jù)進(jìn)行預(yù)處理操作，以提高數(shù)據(jù)之間的可比性。常規(guī)處理便是采用歸一化的方法將結(jié)果映射至［0，1］區(qū)間，采用的歸一化式為

式中：x'為歸一化處理后的數(shù)據(jù)值；x為輸入數(shù)據(jù)值；xmax為輸入數(shù)據(jù)中的最大值；xmin為輸入數(shù)據(jù)中的最小值。

3.2 特征提取

參照電氣、技術(shù)等相關(guān)技術(shù)指標(biāo)［30］，并綜合考慮諸多影響因素對(duì)造價(jià)費(fèi)用的貢獻(xiàn)度，選取表3 中的10個(gè)特征量作為輸入變量，單位造價(jià)作為輸出變量，所選的10個(gè)特征量足以反映輸電工程的造價(jià)水平。

表3 特征變量

對(duì)部分特征數(shù)據(jù)進(jìn)行賦值處理，賦值原則如下：

1）回路數(shù)1、2、3、4 分別代表單回路、雙回路、三回路與四回路。如果一條線路包含回路類(lèi)別不唯一，則須依據(jù)不同回路數(shù)占總線路的比例采取加權(quán)平均法進(jìn)行取值。

2）地質(zhì)特征1～8 分別代表松軟土、普通土、堅(jiān)土、沙礫堅(jiān)土、軟石、次堅(jiān)石、堅(jiān)石、特堅(jiān)石。如果一條線路地質(zhì)條件具有多樣性，則須依據(jù)不同地質(zhì)所占比例采取加權(quán)平均法進(jìn)行取值。

3）地形特征1～6 分別代表平原、丘陵、山地、高原、平地、河網(wǎng)。如果一條線路包含多種地形，則須依據(jù)不同地形所占比例采取加權(quán)平均法進(jìn)行取值。

3.3 集成學(xué)習(xí)模型的建立

基學(xué)習(xí)器是Stacking 集成學(xué)習(xí)模型最重要的部分，其選取原則遵循“優(yōu)且互異”，即要選取學(xué)習(xí)性能好且互相之間盡量有差異的基學(xué)習(xí)器。文章提出的分別以KNN、SVM 以及BP 神經(jīng)網(wǎng)絡(luò)作為基分類(lèi)器，利用Stacking集成學(xué)習(xí)進(jìn)行融合，所建立的集成學(xué)習(xí)模型如圖3 所示?；赟tacking 集成學(xué)習(xí)建立的輸電工程造價(jià)預(yù)測(cè)模型屬于動(dòng)態(tài)模型，任意時(shí)刻的預(yù)測(cè)結(jié)果與前一時(shí)刻的預(yù)測(cè)值和特征量相關(guān)。首先將樣本數(shù)據(jù)劃分為訓(xùn)練集與測(cè)試集，利用KNN、SVM以及BP 神經(jīng)網(wǎng)絡(luò)進(jìn)行基學(xué)習(xí)器的訓(xùn)練，最后輸入元學(xué)習(xí)器中，并用測(cè)試集進(jìn)行驗(yàn)證，輸出最終的預(yù)測(cè)結(jié)果。

圖3 Stacking集成學(xué)習(xí)模型架構(gòu)

4 結(jié)果分析

基于文章選取的電壓等級(jí)、回路數(shù)、導(dǎo)線價(jià)格、塔材價(jià)格、桿塔價(jià)格、地質(zhì)、地形、平均風(fēng)速、平均溫度、平均濕度10個(gè)特征量，以SVM、BP神經(jīng)網(wǎng)絡(luò)以及KNN 算法為基分類(lèi)器，建立基于Stacking 的集成學(xué)習(xí)的輸電工程造價(jià)預(yù)測(cè)模型，并利用MATLAB 軟件進(jìn)行機(jī)器學(xué)習(xí)模型的建立與訓(xùn)練，圖4、圖5 分別給出基分類(lèi)器與集成學(xué)習(xí)模型的預(yù)測(cè)結(jié)果。

圖4 基分類(lèi)器造價(jià)預(yù)測(cè)對(duì)比

圖5 Stacking預(yù)測(cè)結(jié)果

由圖4 可知，BP 神經(jīng)網(wǎng)絡(luò)、SVM 以及KNN 各單一學(xué)習(xí)器用于造價(jià)預(yù)測(cè)的準(zhǔn)確性互有差異，且隨著樣本的變化各學(xué)習(xí)器的預(yù)測(cè)情況隨之波動(dòng)。圖5 中Stacking 集成學(xué)習(xí)模型在樣本一定時(shí)，預(yù)測(cè)值與真實(shí)值所差無(wú)幾。對(duì)比圖4 與圖5 可知，Stacking 集成模型可彌補(bǔ)單一學(xué)習(xí)器的差異性，具有更好的泛化性能與預(yù)測(cè)精度。

為驗(yàn)證文中所提基于Stacking 的集成模型用于造價(jià)預(yù)測(cè)的優(yōu)越性，將最大相對(duì)誤差、均方誤差（Mean Square Error，MSE）以及均方根誤差（Root Mean Squared Error，RMSE）作為評(píng)估指標(biāo)來(lái)衡量各個(gè)模型的造價(jià)預(yù)測(cè)結(jié)果，其表達(dá)式為：

式中：yi為實(shí)際值；pi為預(yù)測(cè)值；n為樣本數(shù)。

單一學(xué)習(xí)器和Stacking 集成學(xué)習(xí)模型的評(píng)價(jià)指標(biāo)對(duì)比如表4所示。由表4可知，集成模型的最大相對(duì)誤差、MSE 以及RMSE 均明顯低于其余的基學(xué)習(xí)器，由此也驗(yàn)證了所提集成學(xué)習(xí)模型的預(yù)測(cè)精度以及泛化能力優(yōu)于單一學(xué)習(xí)器的論述，即基學(xué)習(xí)器的預(yù)測(cè)效果一般，性能較差，而Stacking 集成模型預(yù)測(cè)的誤差值較小，具有較好的泛化性能。表5 給出了其中10 個(gè)樣本的預(yù)測(cè)結(jié)果，由表5 可知，Stacking 集成學(xué)習(xí)模型進(jìn)行造價(jià)預(yù)測(cè)的相對(duì)誤差可控制在較小范圍內(nèi)，具有比單一學(xué)習(xí)器更強(qiáng)的穩(wěn)定性與準(zhǔn)確性。綜合表4 與表5 的結(jié)果可知，利用基于Stacking 的集成學(xué)習(xí)模型進(jìn)行輸電線路的造價(jià)預(yù)測(cè)，相較于單一的學(xué)習(xí)器，具有較高的預(yù)測(cè)精度以及泛化能力，后續(xù)可通過(guò)實(shí)驗(yàn)研究將其應(yīng)用于輸電工程的造價(jià)預(yù)測(cè)場(chǎng)景，實(shí)現(xiàn)對(duì)輸電工程造價(jià)的精準(zhǔn)預(yù)測(cè)。

表4 各分類(lèi)器預(yù)測(cè)結(jié)果

表5 部分樣本預(yù)測(cè)結(jié)果

5 結(jié)語(yǔ)

針對(duì)輸電工程造價(jià)難以精確預(yù)測(cè)的問(wèn)題，提出了一種基于Stacking 集成模型的輸電工程造價(jià)預(yù)測(cè)方法，并以某地區(qū)電網(wǎng)輸電工程的造價(jià)數(shù)據(jù)進(jìn)行實(shí)例分析。

選取SVM、BP 神經(jīng)網(wǎng)絡(luò)、KNN 多個(gè)機(jī)器學(xué)習(xí)算法作為基學(xué)習(xí)器，建立基于Stacking集成學(xué)習(xí)的輸電工程造價(jià)預(yù)測(cè)模型，以此實(shí)現(xiàn)對(duì)工程造價(jià)的精準(zhǔn)預(yù)測(cè)。

相較于單一的學(xué)習(xí)器，Stacking 集成學(xué)習(xí)模型的預(yù)測(cè)效果更佳。針對(duì)輸電工程造價(jià)預(yù)測(cè)的實(shí)例展開(kāi)研究，其模型預(yù)測(cè)的最大相對(duì)誤差僅為4.94%，均方誤差為1.23%以及均方根誤差只有1.11%；Stacking模型在預(yù)測(cè)樣本時(shí)可以將其相對(duì)誤差控制在±0.5%左右。該集成模型充分融合了基學(xué)習(xí)器的優(yōu)勢(shì)與差異，通過(guò)放大各個(gè)基學(xué)習(xí)器的優(yōu)勢(shì)并彌補(bǔ)其模型的不足之處，實(shí)現(xiàn)“揚(yáng)長(zhǎng)避短”的功能，能夠有效地提高模型的泛化能力與預(yù)測(cè)精度，可用于實(shí)際輸電工程的造價(jià)評(píng)估工作中。