基于INGARCH的電力企業(yè)話務(wù)流量預(yù)測

楊 坤，翟洪婷，孫麗麗，張延童，李 亮

（國網(wǎng)山東省電力公司信息通信公司，山東 濟(jì)南 250001）

0 引言

隨著電網(wǎng)企業(yè)規(guī)模的不斷擴大，電力專網(wǎng)內(nèi)部的電話業(yè)務(wù)不斷拓展，用戶數(shù)量持續(xù)增加。受到當(dāng)下國際政治、經(jīng)濟(jì)形勢不斷變化的影響，電力調(diào)度電話和行政電話等用于電力企業(yè)內(nèi)部生產(chǎn)、辦公的話務(wù)流量急劇增加。話務(wù)流量的快速增長使得話務(wù)流量的分析和預(yù)測建模變得比以往任何時候都重要。為了快速、準(zhǔn)確和安全地進(jìn)行電網(wǎng)調(diào)度指揮通信，方便快捷地提供辦公聯(lián)絡(luò)，需要更準(zhǔn)確的話務(wù)流量預(yù)測模型，預(yù)測范圍包括行政交換網(wǎng)、調(diào)度交換網(wǎng)、調(diào)度數(shù)據(jù)網(wǎng)等。

話務(wù)流量的發(fā)生過程可以看作是一個隨時間變化的隨機過程，其預(yù)測模型應(yīng)該能夠捕捉到流量的特征規(guī)律。過去十幾年內(nèi)，科研人員對互聯(lián)網(wǎng)的流量特征進(jìn)行了大量分析研究［1-2］，文獻(xiàn)［1］提出基于訓(xùn)練的模型設(shè)計、經(jīng)驗評估和行為分析，從而來預(yù)測單個鏈路的吞吐量。通過對不同鏈路的實際網(wǎng)絡(luò)流量進(jìn)行實驗，從誤差的角度研究了訓(xùn)練集、延遲、數(shù)據(jù)力度等參數(shù)對預(yù)測性能的影響。文獻(xiàn)［2］認(rèn)為流量分析和預(yù)測是確保數(shù)據(jù)安全可靠和穩(wěn)定性的重要方法，并對現(xiàn)有的網(wǎng)絡(luò)分析技術(shù)和各種線性、非線性模型進(jìn)行分析和組合。文獻(xiàn)［3］最先提出骨干網(wǎng)中的數(shù)據(jù)包到達(dá)過程具有泊松分布特征。此后，有很多研究證明，在各類大型網(wǎng)絡(luò)中的數(shù)據(jù)包到達(dá)過程符合泊松分布，如文獻(xiàn)［4］研究了互聯(lián)網(wǎng)流量特征，通過使用泊松點過程和時間序列的數(shù)學(xué)原理，證明在無擁塞的互聯(lián)網(wǎng)中，數(shù)據(jù)包的到達(dá)過程趨于泊松過程，而時間序列則趨于獨立。文獻(xiàn)［5］研究了物聯(lián)網(wǎng)中的周期性流量特征，并將其與泊松過程進(jìn)行比較。研究表明，泊松過程的準(zhǔn)確性和適用性隨著性能指標(biāo)的變化有很大誤差，因此需要建立更復(fù)雜的流量模型。文獻(xiàn)［6］在IEEE802.11 無線局域網(wǎng)中使用數(shù)據(jù)包泊松到達(dá)理論，提出一種基站周期性O(shè)N/OFF模型來更準(zhǔn)確計算基站吞吐量，從而提高流量分析精準(zhǔn)度和準(zhǔn)確性。文獻(xiàn)［7］使用泊松點過程模型和隨機幾何數(shù)學(xué)工具，在考慮同層干擾和跨層干擾的前提下，分析了異構(gòu)蜂窩網(wǎng)絡(luò)下行性能，為后續(xù)研究提供理論依據(jù)。

預(yù)測模型可分為線性模型、非線性模型、混合模型和分解模型［2］。傳統(tǒng)的時間序列模型中，自回歸移動平均模型（Auto -Regressive and Moving Average Model，ARMA）和自回歸移動平均模型（Autoregressive Integrated Moving Average Model，ARIMA）是線性模型，廣義自回歸條件異方差模型（Generalized Auto-Regressive Conditional Hetero-skedasticity，GARCH）和整數(shù)值廣義自回歸條件異方差模型（Integer GARCH，INGARCH）是非線性模型。時間序列模型和人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Network，ANN）的發(fā)展已經(jīng)從線性時間序列［8］發(fā)展到混合模型［9］，甚至發(fā)展到神經(jīng)網(wǎng)絡(luò)（Neural Network，NN）模型［10］?；旌夏Ｐ褪菍⒕€性模型和非線性模型進(jìn)行了組合，如ARIMA+GARCH 的組合等。神經(jīng)網(wǎng)絡(luò)模型是非線性模型，如卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks，CNNs）和長短期記憶遞歸神經(jīng)網(wǎng)絡(luò)（Long Short-term Memory Recurrent Neural Network，LSTM RNN）。在模型分解過程中，時間序列被分解為四個分量：趨勢、周期性、季節(jié)性和不規(guī)則成分。此外，時間預(yù)測方法還包括隱馬爾可夫鏈［11］、熵分析［12］、高斯過程回歸［13］、指數(shù)平滑法［14］等幾種分析方法。

近年來神經(jīng)網(wǎng)絡(luò)模型［15］受到了科研人員的廣泛關(guān)注，其優(yōu)點是具有較高的精度和能夠處理復(fù)雜模型的能力；缺點是黑箱性，即很難確定數(shù)據(jù)流中的直接因果關(guān)系。為了克服神經(jīng)網(wǎng)絡(luò)的這些缺點，被稱為“學(xué)會學(xué)習(xí)”的元學(xué)習(xí)（Meta-learning）方法越來越被科研人員關(guān)注。元學(xué)習(xí)是為網(wǎng)絡(luò)模型設(shè)計的，它可以通過少量的訓(xùn)練樣本快速學(xué)習(xí)新技能或適應(yīng)新環(huán)境［16］。

時間序列建模的優(yōu)點在于，當(dāng)缺乏底層數(shù)據(jù)信息時，可以將預(yù)測變量與其他解釋變量聯(lián)系起來。特別是非線性統(tǒng)計模型可以在數(shù)據(jù)較少的情況下表現(xiàn)出很高的預(yù)測精度。此外，文獻(xiàn)［17］對數(shù)據(jù)的長相關(guān)性進(jìn)行了理論和應(yīng)用研究，發(fā)現(xiàn)GARCH 模型可以用來捕獲數(shù)據(jù)的長相關(guān)性。文獻(xiàn)［18］詳細(xì)地解釋了長相關(guān)性與時間序列模型的階數(shù)關(guān)系，將時間序列由分形維度D和赫斯特參數(shù)H進(jìn)行表征，其中分形維度D用于度量時間序列的粗糙度，赫斯特參數(shù)H用于度量時間序列長相關(guān)性。同時該文獻(xiàn)提出一種基于柯西相關(guān)模型的統(tǒng)計模型，該模型是一種新的冪律相關(guān)模型，具有局部和全局行為解耦的特點。文獻(xiàn)［19］使用元學(xué)習(xí)方法對時間序列進(jìn)行分析，提出了這一種通過分層方式分別對局部和全局趨勢進(jìn)行學(xué)習(xí)、用于降低時間序列噪聲的元學(xué)習(xí)算法，并與傳統(tǒng)的時間序列人工神經(jīng)網(wǎng)絡(luò)方法進(jìn)行結(jié)合，來提高對時間序列的趨勢預(yù)測效果。同時，對于無法分解的時間序列，采用移動平均方法創(chuàng)建元信息來指導(dǎo)學(xué)習(xí)過程的方法，仍然優(yōu)于傳統(tǒng)方法。文獻(xiàn)［20］提出一種整數(shù)值自回歸分?jǐn)?shù)積分移動平均（Integer-valued Auto Regressive Fractionally Integrated Moving Average，INARFIMA）模型，給出了模型的數(shù)學(xué)原理，然后通過該整值模型，分析和預(yù)測了金融市場股票交易數(shù)量。在文獻(xiàn)［21］中，給出了INGRACH 模型的存在條件，討論了參數(shù)的極大似然估計問題。INGARCH 是經(jīng)典的GARCH 模型的改進(jìn)，其參數(shù)同樣遵循泊松過程，尤其是在所有參數(shù)都為1的情況下，INGRACH過程是一個標(biāo)準(zhǔn)的自回歸移動平均過程。

隨著時間序列模型的不斷發(fā)展，可用于流量預(yù)測的模型也在不斷豐富，人們對互聯(lián)網(wǎng)流量預(yù)測逐漸成熟，但是對特定專用網(wǎng)絡(luò)，如電力專網(wǎng)內(nèi)的電力企業(yè)話務(wù)流量預(yù)測卻較少。在目前對已有的網(wǎng)絡(luò)拓?fù)淞髁磕Ｐ脱芯恐校瑪?shù)據(jù)包的分組到達(dá)都呈現(xiàn)泊松過程。電力通信網(wǎng)作為專用網(wǎng)絡(luò)，話務(wù)數(shù)據(jù)包的到達(dá)過程也可以視為泊松到達(dá)過程。另外，在各種模型中，需要找到一種能夠更準(zhǔn)確地捕捉電力企業(yè)話務(wù)流量特征并進(jìn)行更準(zhǔn)確預(yù)測的模型。為了更好地對電力企業(yè)話務(wù)流量進(jìn)行預(yù)測，在本研究中，引入INGARCH 作為話務(wù)流量預(yù)測模型。通過對INGARCH 過程參數(shù)的估計和對未來泊松過程參數(shù)的預(yù)測，建立了預(yù)測模型。采用經(jīng)典條件極大似然估計（Conditional Maximum Likelihood Estimation，CMLE）擬合算法來估計INGARCH 過程的參數(shù)，然后采用“預(yù)處理、訓(xùn)練、預(yù)測和更新”4 個步驟來預(yù)測泊松參數(shù)，從而得到電力企業(yè)話務(wù)預(yù)測模型。采用山東電力工作日內(nèi)的話務(wù)流量數(shù)據(jù)作為實驗數(shù)據(jù)，將INGARCH 與ARIMA、GARCH、LSTM 等三種不同典型模型的性能進(jìn)行比較，得到話務(wù)數(shù)據(jù)提前預(yù)測的最佳訓(xùn)練比例并對各模型的預(yù)測性能進(jìn)行對比分析。

1 網(wǎng)絡(luò)流量預(yù)測模型

1.1 INGARCH（p，q）過程和條件極大似然估計

設(shè)｛Xt｝t∈Z為一個整數(shù)值序列，F(xiàn)t是由｛Xt｝t∈Z生成的σ域，即｛Xs：s≤t｝。則INGARCH（p，q）過程定義如下：

1）定義1。｛Xt｝t∈Z過程滿足以下條件：

式中：w為大于零的常數(shù)；α和β均為大于零的常數(shù)序列；p和q為不小于1 的整數(shù)值。λt為整數(shù)值序列｛Xt｝t∈Z在t時刻的均值。

對于特定的泊松INGARCH模型，根據(jù)條件泊松分布的性質(zhì)，方差一般等于均值。根據(jù)文獻(xiàn)［21］，如果INGARCH是靜止的，則

2）定義2。定義E(Xt+n|Ft)為Xt在t時刻的第n步預(yù)測值，即Xt+n在Ft域內(nèi)的條件期望。

設(shè)定最優(yōu)的w、α、β組合為θopt={w，αi，βj}，則λt可以表示為λ(θopt，F(xiàn)t)。為得到最優(yōu)θopt，使用文獻(xiàn)［21］和文獻(xiàn)［22］中提到的條件極大似然CMLE 擬合估計方法，預(yù)測話務(wù)流量相當(dāng)于估計參數(shù)的最大化條件似然函數(shù)（Conditional Likelihood Function，CLF）。在對實際工作的數(shù)據(jù)進(jìn)行預(yù)測過程中，要獲得，初始值必須是已知的。因此，CLF 就變成

其對數(shù)似然函數(shù)可以表示為

1.2 話務(wù)預(yù)測INGARCH過程

在時間序列預(yù)測的INGARCH 模型中，兩個常量p和q需要通過自相關(guān)函數(shù)（Auto Correlation Function，ACF）和偏自相關(guān)函數(shù)（Partial Auto Correlation Function，PACF）［21］得到。但是，由于我們研究的核心是該模型對話務(wù)流量的適應(yīng)性，考慮話務(wù)流量更依賴于短期時間內(nèi)的發(fā)生情況，因此，在INGARCH 模型中參考文獻(xiàn)［22］建模的方法，將p和q均設(shè)置成“1”。則由式（2）得到

1.3 預(yù)測過程

1）數(shù)據(jù)預(yù)處理。

4）更新。

將N1逐漸增加到N，并逐一重復(fù)執(zhí)行步驟2）和步驟3）。

2 性能指標(biāo)

為衡量各方案的準(zhǔn)確性，使用兩種指標(biāo)來衡量個模型方案的性能：歸一化平均絕對誤差（Normalized Mean Absolute Error，NMAE）NMAE和歸一化平均平方誤差（Normalized Mean Squared Error，NMSE）NMSE。其定義分別為：

3 仿真實驗

3.1 數(shù)據(jù)處理

參考文獻(xiàn)［22］中的仿真參數(shù)，設(shè)定ARIMA（p，d，q）和GARCH（p，d，q）模 型 中 的d=1，（p，q）=（5，1）。對GARCH，同樣使用條件極大似然擬合估計方法進(jìn)行處理。對于LSTM，由于網(wǎng)絡(luò)由輸入層、包含LSTM 塊的隱藏層、以及進(jìn)行預(yù)測的輸出層組成，參考文獻(xiàn)［23］中的數(shù)據(jù)設(shè)定，最終在實驗中選擇了3個輸入層和6個包含LSTM塊的隱藏層。

3.2 實驗結(jié)果

為確定訓(xùn)練集和測試集的最佳比例，對不同訓(xùn)練比例進(jìn)行了比較，以便提前對各方案性能進(jìn)行度量，選擇出最優(yōu)訓(xùn)練比例。圖1 比較了各方案的性能指標(biāo)隨著不同訓(xùn)練比例的變化，其中圖1（a）比較了不同方案的歸一化平均絕對誤差隨訓(xùn)練比例的變化情況，圖1（b）比較了不同方案的歸一化平均平方誤差隨訓(xùn)練比例的變化情況。從圖1（a）中可以看出，隨著訓(xùn)練比例的變化，GARCH 方案和LSTM 方案的歸一化平均絕對誤差先降低后上升，INGARCH 方案和ARIMA 方案變化幅度較小，隨訓(xùn)練比例變化基本保持不變。從圖1（b）中可以看出，隨著訓(xùn)練比例的變化，GARCH 方案的歸一化平均平方誤差在訓(xùn)練比例為0.2 至0.3 時變化不大，但在訓(xùn)練比例在0.4 至0.6時迅速降低。ARIMA 方案的歸一化平均平方誤差隨訓(xùn)練比例變化而出現(xiàn)小幅度波動，而INGARCH 方案則基本保持不變。當(dāng)訓(xùn)練比例r約為0.6時，各方案的歸一化平均絕對誤差和歸一化平均平方誤差接近最小，各方案性能趨于最佳值。同時，隨著訓(xùn)練比例變化，INGARCH 方案的性能一直最佳，這是由于INGARCH 的預(yù)測程序中包含了更新過程。在此基礎(chǔ)上，為了更好地對各方案預(yù)測效果進(jìn)行分析，在后續(xù)實驗中將以訓(xùn)練比例為0.6的條件下，對各方案的預(yù)測性能進(jìn)行對比。

圖1 各方案性能指標(biāo)隨訓(xùn)練比例的變化

圖2 為山東電力話務(wù)真實數(shù)據(jù)與INGARCH 提前1 步預(yù)測的對比，其中橫坐標(biāo)軸代表某天工作時刻08：00—20：00，縱軸代表山東電力話務(wù)中繼占用愛爾蘭指數(shù)。藍(lán)色曲線表示真實的話務(wù)數(shù)據(jù)指數(shù)，紅色曲線代表INGARCH 方案訓(xùn)練比例r為0.6 時的提前1 步預(yù)測。從圖中可以看到，山東電力話務(wù)數(shù)據(jù)在每天08：00—13：00 和13：00—18：00 呈現(xiàn)雙波峰形狀，可以用兩個泊松函數(shù)進(jìn)行擬合，從而驗證了電力話務(wù)數(shù)據(jù)呈現(xiàn)泊松過程的假設(shè)。同時可以看到，使用INGARCH 方案進(jìn)行提前1 步預(yù)測的效果非常好，僅在少量時間點（如08：30 左右）出現(xiàn)預(yù)測誤差較大情況。經(jīng)過計算得到，INGARCH提前1步預(yù)測的歸一化平均絕對誤差為0.011，歸一化平均平方誤差為0.00012，預(yù)測效果非常好。

圖2 真實數(shù)據(jù)與INGARCH提前1步預(yù)測對比

圖3 給出了真實數(shù)據(jù)與各方案在提前4 步預(yù)測的結(jié)果對比，真實數(shù)據(jù)使用的是山東電力某日15：00—18：00 話務(wù)中繼占用愛爾蘭指數(shù)。圖3（a）為INGARCH 方案的提前4 步預(yù)測結(jié)果與真實數(shù)據(jù)對比，從圖中可以看到，該方案預(yù)測值相比真實值存在一定的延時，預(yù)測值晚于真實數(shù)據(jù)，但整體趨勢預(yù)測相對準(zhǔn)確。圖3（b）為GARCH 方案提前4 步預(yù)測結(jié)果與真實數(shù)據(jù)對比，從圖中可以看到，該方案預(yù)測值明顯高于真實數(shù)據(jù)，且該方案預(yù)測值較為平穩(wěn)，因此對數(shù)據(jù)波動性的感知較差，無法感知話務(wù)中繼占用的波動性。圖3（c）為ARIMA 方案提前4 步預(yù)測結(jié)果與真實數(shù)據(jù)對比，可以看得該方案的預(yù)測值接近于真實數(shù)據(jù)的平均值，且與GARCH 方案一樣，該方案預(yù)測值較為平穩(wěn)，對數(shù)據(jù)波動性的感知較差。圖3（d）給出了LSTM 方案提前4 步預(yù)測結(jié)果與真實數(shù)據(jù)對比，可以看得該方案的預(yù)測值遠(yuǎn)小于真實數(shù)據(jù)，但該方案對數(shù)據(jù)波動性感知較好，預(yù)測結(jié)果與真實數(shù)據(jù)波動一致，整體趨勢相對準(zhǔn)確。通過圖3 對各方案預(yù)測能力的對比我們發(fā)現(xiàn)，INGARCH 方案對真實數(shù)據(jù)的提前4 步預(yù)測結(jié)果比其他方案預(yù)測準(zhǔn)確性高，同時對數(shù)據(jù)波動性敏感，預(yù)測效果較好。因此，將INGARCH 方案作為電力話務(wù)流量預(yù)測模型是可行的。

圖3 真實數(shù)據(jù)與各方案提前4步預(yù)測對比

4 結(jié)語

引入整數(shù)值廣義自回歸條件異方差（INGARCH）模型作為電力系統(tǒng)話務(wù)流量時間序列預(yù)測模型，詳細(xì)介紹了模型定義和預(yù)測方法的數(shù)學(xué)原理，然后通過四步法對未來過程的泊松參數(shù)進(jìn)行預(yù)測。采用山東電力工作日內(nèi)的話務(wù)流量數(shù)據(jù)作為實驗數(shù)據(jù)，并將INGARCH 與ARIMA、GARCH、LSTM RNN 三種不同模型的性能進(jìn)行比較。結(jié)果表明，泊松假設(shè)在電力系統(tǒng)話務(wù)數(shù)據(jù)中仍然有效，INGARCH 方法的提前1步預(yù)測效果非常優(yōu)秀且提前4 步預(yù)測效果明顯優(yōu)于其他三種典型模型，因此，INGARCH 模型能夠很好地對電力企業(yè)未來話務(wù)量進(jìn)行預(yù)測。未來，將把該模型用于實際的電力話務(wù)流向分析平臺中，并積極對該模型進(jìn)行優(yōu)化改進(jìn)，持續(xù)提高模型預(yù)測準(zhǔn)確性。