基于長短期記憶網(wǎng)絡(luò)的智能用電數(shù)據(jù)甄別方法

羅慧，劉梅招，周鈺山，張宸，潘文文，劉陽，衛(wèi)志農(nóng)

(1. 國網(wǎng)江蘇省電力有限公司運(yùn)營監(jiān)測(控)中心，江蘇 南京 211100；2. 河海大學(xué) 能源與電氣學(xué)院，江蘇 南京 210098)

隨著計算機(jī)、通信、傳感器技術(shù)在電網(wǎng)中的廣泛應(yīng)用，配電網(wǎng)運(yùn)營監(jiān)測業(yè)務(wù)的不斷推進(jìn)以及大量監(jiān)測計量裝置的安裝部署，電力系統(tǒng)在實(shí)際運(yùn)行過程中產(chǎn)生海量的電流、電壓及有功功率等時間序列數(shù)據(jù)，這些時間序列有著明顯的時序性特征，隨著時間的變化而變化，且彼此之間相互關(guān)聯(lián)。時間序列數(shù)據(jù)中包含了豐富的電力用戶用電行為信息和特征，從而為電力系統(tǒng)用戶負(fù)荷預(yù)測、計劃停電管理、電氣設(shè)備檢修、優(yōu)化調(diào)度、合理應(yīng)對大用戶電力負(fù)荷變化對電網(wǎng)造成破壞性沖擊、控制電網(wǎng)穩(wěn)定、經(jīng)濟(jì)高效運(yùn)行等工作的建模與預(yù)測工作提供科學(xué)的數(shù)據(jù)基礎(chǔ)與指導(dǎo)依據(jù)，實(shí)現(xiàn)電網(wǎng)企業(yè)為電力用戶提供個性化可靠供電服務(wù)。對這些數(shù)據(jù)的有效挖掘應(yīng)用，能夠進(jìn)一步促進(jìn)配電變壓器臺區(qū)的安全經(jīng)濟(jì)運(yùn)行，同時這也是目前配電網(wǎng)所面臨的一大挑戰(zhàn)。

然而，在時間序列中經(jīng)常出現(xiàn)與其他數(shù)據(jù)相比數(shù)值波動有著明顯差異的觀測點(diǎn)，也就是異常點(diǎn)。異常點(diǎn)破壞了電力系統(tǒng)正常運(yùn)行時電流、電壓和功率的變化規(guī)律與特征，在用這些異常甚至錯誤的數(shù)據(jù)進(jìn)行其他相關(guān)業(yè)務(wù)建模與分析工作時，容易增加模型的復(fù)雜度或者降低模型的有效性，有時還會導(dǎo)致錯誤的結(jié)論。因此，有必要對時間序列中存在的異常數(shù)據(jù)進(jìn)行檢測與甄別，進(jìn)一步采用相關(guān)數(shù)據(jù)挖掘方法對這些數(shù)據(jù)進(jìn)行剔除或者再分析，從而提高數(shù)據(jù)的準(zhǔn)確性及可利用價值，為開展用戶負(fù)荷預(yù)測等其他重要業(yè)務(wù)提供科學(xué)、合理、可靠的數(shù)據(jù)保障[1-3]。

在此背景下，對異常點(diǎn)的檢測可有效發(fā)現(xiàn)電表采集數(shù)據(jù)中的潛在問題，異常點(diǎn)檢測作為一項(xiàng)數(shù)據(jù)挖掘手段，在智能用電系統(tǒng)中起到了非常重要的作用。異常數(shù)據(jù)檢測可以及時發(fā)現(xiàn)用電數(shù)據(jù)時間序列中的異常點(diǎn)，恢復(fù)電力系統(tǒng)正常運(yùn)行時電流、電壓和功率的變化規(guī)律與特征，提高數(shù)據(jù)質(zhì)量，并對故障電表及時進(jìn)行檢測和維修。

時間序列異常點(diǎn)檢測作為一個相對成熟的研究領(lǐng)域，到目前為止已經(jīng)出現(xiàn)了諸多方法，通常情況下可以分為無監(jiān)督和有監(jiān)督2種類型。其中，無監(jiān)督檢測方法主要有聚類方法，在文獻(xiàn)[4-9]中距離聚類、密度聚類、模糊聚類等算法被提出用于尋找離群的數(shù)據(jù)點(diǎn)，以實(shí)現(xiàn)異常值檢測。此類算法直觀簡單，但是對極值和噪聲較為敏感，且模型屬性構(gòu)建不明確，難以設(shè)定各屬性的變化范圍。此外，頻域譜分析法[10]、滑動窗口分析法[11]和時間序列法[12]等方法也被提出用于提升檢測準(zhǔn)確度。另一方面，有監(jiān)督檢測方法旨在于建立預(yù)測模型學(xué)習(xí)歷史時間序列的分布規(guī)律，在此基礎(chǔ)上判斷下一時刻點(diǎn)是否屬于合理范圍內(nèi)[13]。人工神經(jīng)網(wǎng)絡(luò)(artificial neural network,ANN)模型基于大量數(shù)據(jù)對網(wǎng)絡(luò)參數(shù)進(jìn)行訓(xùn)練，能夠擬合任意復(fù)雜非線性函數(shù)映射，因此是最常用的有監(jiān)督預(yù)測模型[14]。此外，在文獻(xiàn)[15-16]中，支持向量機(jī)(support vector machine,SVM)被提出用于異常點(diǎn)檢測，其基于結(jié)構(gòu)風(fēng)險最小化原則訓(xùn)練模型超參數(shù)，對小樣本仍然具有良好的泛化能力，但其超參數(shù)范圍不易選取，運(yùn)行效率低。文獻(xiàn)[17]對機(jī)場噪聲時間序列降維并符號化，對時間序列進(jìn)行度量并根據(jù)度量結(jié)果利用k近鄰孤立因子進(jìn)行異常檢測，實(shí)現(xiàn)機(jī)場噪聲單監(jiān)測點(diǎn)時間序列異常檢測，該方法減少了數(shù)據(jù)量并提高了計算速度。文獻(xiàn)[18]為檢測出正弦時間序列中的高斯噪聲，對自回歸模型進(jìn)行改進(jìn)，提出基于距離和距離因子遞推最小二乘的聯(lián)合異常值檢測算法，但該模型運(yùn)算復(fù)雜度高，實(shí)用性不強(qiáng)。文獻(xiàn)[5]。提出基于邊緣化后驗(yàn)比檢驗(yàn)的異常值在線監(jiān)測方法，并使用兩窗口降低了算法的復(fù)雜度，適用于處理大量數(shù)據(jù)場景，但在參數(shù)設(shè)置上存在一定的困難。文獻(xiàn)[19]將離散小波變換應(yīng)用于異常點(diǎn)檢測，取得了較好的結(jié)果。文獻(xiàn)[20]為避免混淆突變點(diǎn)與異常點(diǎn)，結(jié)合線性濾波器和非線性濾波器，采用局部線性尺度近似法對異常點(diǎn)進(jìn)行檢測。文獻(xiàn)[21]將通信網(wǎng)絡(luò)核心性能指標(biāo)時間序列分解成周期分量、趨勢分量、隨機(jī)誤差分量及突發(fā)分量，對不同分量完成特征提取后進(jìn)行異常點(diǎn)檢測，對檢測大量長期數(shù)據(jù)效率較高[22-23]。文獻(xiàn)[24]中提出了一種基于負(fù)荷預(yù)測與關(guān)聯(lián)規(guī)則修正的不良數(shù)據(jù)辨識方法，該方法能夠在克服殘差污染和殘差淹沒現(xiàn)象的前提下準(zhǔn)確辨識出全部的不良數(shù)據(jù)。此外，卡爾曼濾波方法也經(jīng)常被用于異常數(shù)據(jù)辨識[25]。

上述這些方法均基于統(tǒng)計學(xué)原理，認(rèn)為異常點(diǎn)在模型訓(xùn)練過程中表現(xiàn)為其擬合值遠(yuǎn)遠(yuǎn)偏離真實(shí)值[19]。在此思想指導(dǎo)下，利用偏差的異常值檢測方法，通過已知數(shù)據(jù)建立數(shù)學(xué)模型，然后依據(jù)擬合數(shù)據(jù)和真實(shí)值間誤差與設(shè)定閾值的大小關(guān)系來判斷該數(shù)據(jù)是否異常，其假設(shè)條件是擬合殘差服從均值為零的高斯分布[15]。然而，這些傳統(tǒng)方法諸如ANN、SVM等，均難于在大數(shù)據(jù)樣本上進(jìn)行訓(xùn)練，因而其檢測精度通常難以保證。因此，本文提出了一種基于深度學(xué)習(xí)的新型預(yù)測模型，即長短期記憶(long short-term memory,LSTM)網(wǎng)絡(luò)模型，能夠更好地學(xué)習(xí)數(shù)據(jù)之間的時序關(guān)系，減少數(shù)據(jù)序列的擬合誤差。本文主要貢獻(xiàn)在于：提出一種基于深度學(xué)習(xí)的LSTM網(wǎng)絡(luò)模型用于異常數(shù)據(jù)甄別，克服傳統(tǒng)機(jī)器學(xué)習(xí)方法在大數(shù)據(jù)樣本上性能不足的問題，進(jìn)一步提升檢測準(zhǔn)確性。為充分驗(yàn)證本文提出方法的可靠性和準(zhǔn)確性，分別選取人工添加噪聲的時間序列和實(shí)際工程故障的時間序列樣本進(jìn)行測試，在無故障情況下為異常檢測提供了一種可靠有效的檢測依據(jù)。

1 電力系統(tǒng)用電數(shù)據(jù)特性

用戶用電信息采集系統(tǒng)是用電領(lǐng)域最基礎(chǔ)的、也是十分重要的系統(tǒng)[26-28]。該系統(tǒng)通過對配電臺區(qū)變壓器和終端用戶的用電數(shù)據(jù)采集和分析，完成用電監(jiān)控、推行階梯定價、線損分析、負(fù)荷管理等業(yè)務(wù)，最終達(dá)到自動抄表、用電檢查、錯峰用電、負(fù)荷預(yù)測和節(jié)約用電成本等目的。實(shí)時數(shù)據(jù)采集內(nèi)容主要有各相位電流、電壓、有功功率、無功功率和抄表電量。其中，前4項(xiàng)每15 min測量一次(每日產(chǎn)生96個數(shù)據(jù)點(diǎn))，抄表電量每日測量一次。在搜集到的實(shí)際用電采集數(shù)據(jù)中，主要存在數(shù)據(jù)斷點(diǎn)和異常點(diǎn)的問題。

用電異常數(shù)據(jù)是指在用電數(shù)據(jù)時間序列中經(jīng)常出現(xiàn)與其他數(shù)據(jù)變化規(guī)律有明顯差異的觀測點(diǎn)。這些異常點(diǎn)破壞了電力系統(tǒng)正常運(yùn)行時電流、電壓和功率的變化規(guī)律與特征，影響了數(shù)據(jù)質(zhì)量。其出現(xiàn)的主要原因有：讀取、記錄及計算時產(chǎn)生的錯誤；數(shù)據(jù)庫合并重構(gòu)時發(fā)生錯誤；特殊事件導(dǎo)致的畸變數(shù)據(jù)；由于計量裝置故障導(dǎo)致量測數(shù)據(jù)出現(xiàn)明顯誤差。異常點(diǎn)的存在導(dǎo)致數(shù)據(jù)質(zhì)量降低，嚴(yán)重影響建模過程與分析結(jié)果，不利于配電變壓器臺區(qū)監(jiān)測正常工作的開展。通常，電網(wǎng)公司運(yùn)營監(jiān)測中心采用限定數(shù)據(jù)區(qū)間、異常事件上報和分析電壓、電流、功率數(shù)據(jù)間的物理關(guān)系等方式篩選異常數(shù)據(jù)，并制定異常數(shù)據(jù)甄別規(guī)則對海量數(shù)據(jù)進(jìn)行清洗。但這些手段不能有效區(qū)分計量異常導(dǎo)致測量誤差變化而形成的異常點(diǎn)。針對這一種情況，本文采用LSTM網(wǎng)絡(luò)擬合原始數(shù)據(jù)，結(jié)合偏差理論判斷誤差是否超出閾值，從而實(shí)現(xiàn)電流、電壓及功率序列中異常數(shù)據(jù)的精確檢測。

2 用電曲線異常數(shù)據(jù)甄別方法

本文采用LSTM網(wǎng)絡(luò)模型用于電力系統(tǒng)中的用電曲線異常數(shù)據(jù)甄別，該模型屬于深層循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network,RNN)的一種，能夠循環(huán)歷史時間序列并學(xué)習(xí)曲線分布規(guī)律。該模型被廣泛運(yùn)用于新能源預(yù)測和電力系統(tǒng)電曲線擬合，包括電壓、電流和功率等[29]。當(dāng)實(shí)際用電曲線發(fā)生異常時，擬合數(shù)據(jù)與真實(shí)數(shù)據(jù)存在較大誤差，可以通過設(shè)定閾值進(jìn)行甄別。該異常數(shù)據(jù)甄別模型結(jié)構(gòu)如圖1所示。

圖1 基于深層RNN的異常數(shù)據(jù)甄別模型Fig.1 An anomaly data discrimination model based on deep RNN

2.1 LSTM網(wǎng)絡(luò)模型

LSTM網(wǎng)絡(luò)模型是深層RNN的改進(jìn)，通過在隱含層增加新的單元狀態(tài)進(jìn)行信息的傳遞，重新設(shè)計了計算節(jié)點(diǎn)，實(shí)現(xiàn)對遠(yuǎn)距離信息的有效控制，較好解決了梯度消失與梯度爆炸問題[30]。

RNN是由輸入層、隱含層及輸出層組成的全連接神經(jīng)網(wǎng)絡(luò)[31]，圖2所示為RNN結(jié)構(gòu)展開示意圖。其中：x為連接輸入層的輸入向量；U為輸入層與隱含層的權(quán)重矩陣；h為隱含層輸出，當(dāng)前時刻(t時刻)輸出ht由隱含層輸入經(jīng)權(quán)重矩陣和激活函數(shù)作用得到；V為隱含層與輸出層的權(quán)重矩陣。由此可得當(dāng)前時刻的輸出

ot=g(Vht).

(1)

式中g(shù)(·)為輸出層激活函數(shù)。

圖2 RNN結(jié)構(gòu)展開示意圖Fig.2 Schematic diagram of unfolding RNN structure

RNN隱含層輸入值在當(dāng)前時刻包括2個部分：①t時刻輸入xt經(jīng)U作用后的值；②前一時刻t-1隱含層的輸出ht-1并經(jīng)權(quán)重矩陣W作用后的值。其中，權(quán)重矩陣W為前一時刻隱含層與當(dāng)前時刻隱含層間的連接權(quán)重。因此，當(dāng)前時刻隱含層輸出

ht=k(Uxt+Wht-1).

(2)

式中k(·)為隱含層激活函數(shù)。

從圖2中結(jié)構(gòu)可以看出，RNN展開后時序關(guān)系復(fù)雜，較長的網(wǎng)絡(luò)連接也使得模型的信息傳遞逐漸減少，進(jìn)而導(dǎo)致梯度消失問題。為了解決這一問題，LSTM網(wǎng)絡(luò)使用記憶單元狀態(tài)c存儲歷史記憶，代替RNN的連接，提升了模型的可靠性[32-33]。LSTM網(wǎng)絡(luò)包括記憶單元、“輸入門”“遺忘門”和“輸出門”，其結(jié)構(gòu)如圖3所示。

(a)“遺忘門”結(jié)構(gòu)

(b)“輸入門”結(jié)構(gòu)

(c)當(dāng)前輸入單元狀態(tài)

(d)當(dāng)前時刻單元狀態(tài)

(e)“輸出門”計算

(f)LSTM網(wǎng)絡(luò)完整結(jié)構(gòu)圖3 LSTM網(wǎng)絡(luò)結(jié)構(gòu)Fig.3 Network structure of LSTM

LSTM網(wǎng)絡(luò)模型在t時刻含有3個輸入：當(dāng)前時刻網(wǎng)絡(luò)的外部輸入xt；前一時刻LSTM網(wǎng)絡(luò)隱含層輸出值ht-1；前一時刻單元狀態(tài)ct-1。LSTM網(wǎng)絡(luò)在t時刻含有2個輸出：當(dāng)前時刻LSTM網(wǎng)絡(luò)輸出值ht和當(dāng)前時刻單元狀態(tài)ct。

LSTM網(wǎng)絡(luò)模型通過3個控制開關(guān)實(shí)現(xiàn)對單元狀態(tài)c的有效控制：“遺忘門”實(shí)現(xiàn)對前一時刻長期狀態(tài)ct-1的控制，決定前一時刻單元狀態(tài)ct-1保留到當(dāng)前時刻ct的程度；“輸入門”實(shí)現(xiàn)對當(dāng)前時刻輸入信息的控制，決定當(dāng)前時刻網(wǎng)絡(luò)輸入xt保存到單元狀態(tài)ct的程度；“輸出門”實(shí)現(xiàn)對當(dāng)前時刻長期狀態(tài)ct的控制，確定當(dāng)前時刻單元狀態(tài)ct傳遞到LSTM網(wǎng)絡(luò)當(dāng)前輸出值ht的信息量[34-35]。根據(jù)圖3，可以得到如下各“門”結(jié)構(gòu)的具體計算式[32]：

a)當(dāng)前時刻“遺忘門”

ft=σf(Wf[ht-1,xt]+bf).

(3)

式中：Wf為“遺忘門”權(quán)重矩陣；[ht-1,xt]表示將2個向量拼接；bf為“遺忘門”偏置項(xiàng)；σf(·)為“遺忘門”激活函數(shù)。

b)當(dāng)前時刻“輸入門”

it=σi(Wi[ht-1,xt]+bi).

(4)

式中：Wi為“輸入門”權(quán)重矩陣；bi為“輸入門”偏置項(xiàng)；σi(·)為“輸入門”激活函數(shù)。

c)當(dāng)前輸入的單元狀態(tài)c′由前一時刻LSTM網(wǎng)絡(luò)輸出ht-1及當(dāng)前時刻輸入xt計算，計算式為

(5)

d)當(dāng)前時刻單元狀態(tài)

(6)

式中符號。表示按元素乘。此時，LSTM網(wǎng)絡(luò)將當(dāng)前記憶ct′和長期記憶ct-1相結(jié)合，形成新單元狀態(tài)ct。

e)當(dāng)前時刻“輸出門”ot受到長期記憶對當(dāng)前輸出的影響，計算式為

ot=σo(Wo[ht-1,xt]+bo).

(7)

式中：Wo為“輸出門”權(quán)重矩陣；bo為“輸出門”偏置項(xiàng)；σo(·)為“輸出門”激活函數(shù)。

f)LSTM網(wǎng)絡(luò)最終輸出由“輸出門”和單元狀態(tài)共同確定的，計算式為

ht=ot。tanh(ct).

(8)

2.2 異常數(shù)據(jù)甄別具體流程

通過建立智能分析模型，可以實(shí)現(xiàn)對異常數(shù)據(jù)的甄別，進(jìn)而提升監(jiān)測數(shù)據(jù)的質(zhì)量。本文使用LSTM網(wǎng)絡(luò)模型進(jìn)行異常數(shù)據(jù)甄別，流程如圖4所示。

圖4 基于LSTM網(wǎng)絡(luò)的異常數(shù)據(jù)甄別流程Fig.4 Flowchart of anomaly data discrimination based on LSTM network

圖4展示的異常數(shù)據(jù)甄別的具體步驟為：

a)獲取歷史電流、電壓、功率數(shù)據(jù)曲線，以歷史一定長度的點(diǎn)為一組時間序列，作為訓(xùn)練樣本特征；該序列下一個時間點(diǎn)的數(shù)值作為樣本的標(biāo)簽。

b)按照上述要求，將電流、電壓、功率的時間序列進(jìn)行滾動抽樣，構(gòu)成模型的學(xué)習(xí)樣本庫。

c)設(shè)定LSTM網(wǎng)絡(luò)模型結(jié)構(gòu)，包括LSTM網(wǎng)絡(luò)層的個數(shù)和層節(jié)點(diǎn)數(shù)，模型梯度下降算法、迭代次數(shù)及目標(biāo)函數(shù)等。

d)訓(xùn)練模型，并預(yù)測電流、電壓、電壓時間序列值，得到目標(biāo)模擬序列。

e)將模擬序列和真實(shí)的時間序列相減，比較各點(diǎn)的誤差絕對值，檢查精度是否滿足要求。

f)使用訓(xùn)練好的模型模擬目標(biāo)電表的用電曲線，將模擬曲線與實(shí)際曲線進(jìn)行比較，誤差大于閾值的點(diǎn)為異常點(diǎn)。

3 算例分析

本部分基于正常運(yùn)行計量裝置的用電數(shù)據(jù)，使用原型聚類法、密度聚類法、概率密度法、LSTM網(wǎng)絡(luò)模型4種方法進(jìn)行測試，檢驗(yàn)異常數(shù)據(jù)甄別精度。本研究中的故障時間序列包括人工添加噪聲的時間序列和實(shí)際運(yùn)行工況下的故障時間序列，通過對故障時間序列進(jìn)行異常點(diǎn)甄別，對選出的異常點(diǎn)進(jìn)行分析。

3.1 人工異常數(shù)據(jù)構(gòu)造

已知某編號電表連續(xù)23 d的A相功率、電壓、電流曲線。分別在A相功率、電壓、電流曲線中加入噪聲，生成100個人為異常點(diǎn)，異常點(diǎn)的位置為第1 000點(diǎn)至2 000點(diǎn)，每10點(diǎn)添加一個噪聲點(diǎn)。以電壓為例，在電壓曲線中添加噪聲為符合正態(tài)分布的均值為0，方差為0.5 V2的隨機(jī)數(shù)列。含噪聲電壓曲線與原始正常電壓曲線對比如圖5所示。

圖5 電壓曲線添加噪聲前后對比Fig.5 Comparison of voltage curves before and after adding noises

3.2 異常數(shù)據(jù)甄別模型建立與仿真

本研究中，分別采用原型聚類法、密度聚類法、概率密度法、傳統(tǒng)神經(jīng)網(wǎng)絡(luò)法和LSTM算法進(jìn)行異常點(diǎn)甄別，對各類方法進(jìn)行參數(shù)設(shè)置，見表1。

表1 LSTM網(wǎng)絡(luò)模型結(jié)構(gòu)及參數(shù)
Tab.1 Structure and parameters of LSTM network model

模型層模型超參數(shù)訓(xùn)練參數(shù)個數(shù)輸入層輸入個數(shù):96LSTM網(wǎng)絡(luò)層節(jié)點(diǎn)數(shù):8;激活函數(shù):tanh320全連接層節(jié)點(diǎn)數(shù):4;激活函數(shù):sigmoid36全連接層(輸出層)節(jié)點(diǎn)數(shù):1;激活函數(shù):sigmoid5

a)聚類方法參數(shù)。原型聚類法中聚類類別設(shè)置為3，異常值點(diǎn)判斷準(zhǔn)則閾值設(shè)置為5，聚類最大循環(huán)次數(shù)為500，距離函數(shù)采用歐式距離。將電壓實(shí)際值、電壓變化值作為聚類屬性。密度聚類模型中最大距離設(shè)置為0.5，樣本點(diǎn)歸一化范圍為(0,4)，每一類別的最少樣本個數(shù)為5，距離函數(shù)為歐式距離。概率密度模型采用ksdensity函數(shù)擬合電壓變化率時間序列的概率分布，獲得概率密度函數(shù)，結(jié)合其概率密度函數(shù)，獲得電壓變化率出現(xiàn)某一值時的概率。

b)傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型參數(shù)。該神經(jīng)網(wǎng)絡(luò)模型為一個典型的單隱層神經(jīng)網(wǎng)絡(luò)，屬于淺層網(wǎng)絡(luò)模型，其中包含輸入層(96×1序列輸入)、隱含層(8節(jié)點(diǎn))和輸出層(1節(jié)點(diǎn))。模型優(yōu)化選擇標(biāo)準(zhǔn)梯度下降算法，迭代次數(shù)400次，目標(biāo)函數(shù)為模型輸出值與真實(shí)值的均方誤差。模型使用最近歷史96點(diǎn)的數(shù)據(jù)預(yù)測下一時刻的電流值(采樣間隔15 min)。

c)LSTM網(wǎng)絡(luò)模型參數(shù)設(shè)置為4層RNN輸入層、1層LSTM網(wǎng)絡(luò)層、1層全連接隱含層、1層全連接輸出層，見表1。與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型一致，使用最近歷史96點(diǎn)的數(shù)據(jù)預(yù)測下一時刻的電流值(采樣間隔15 min)。模型優(yōu)化為帶動量的隨機(jī)梯度下降算法，迭代次數(shù)為400，訓(xùn)練樣本中驗(yàn)證集所占比率為5%。目標(biāo)函數(shù)為模型輸出值與真實(shí)值的均方誤差。具體模型結(jié)構(gòu)見表1。

確定模型參數(shù)并建立模型后，使用未添加噪聲信號的時間序列建立訓(xùn)練樣本庫，訓(xùn)練LSTM網(wǎng)絡(luò)模型并學(xué)習(xí)曲線的變化規(guī)律。訓(xùn)練完畢后，使用LSTM網(wǎng)絡(luò)模型滾動預(yù)測獲得模擬電壓曲線，將模擬電壓結(jié)果與噪聲電壓相比較，如圖6所示?？梢钥闯?，模擬電壓曲線較平穩(wěn)地反映出了實(shí)際電壓的變化趨勢和規(guī)律，與噪聲電壓相比，部分異常噪聲點(diǎn)的誤差十分明顯。

圖6 使用LSTM網(wǎng)絡(luò)模型模擬電壓曲線Fig.6 Simulated voltage curves by using LSTM network model

其中，為了甄別誤差較大的異常點(diǎn)，設(shè)置篩選異常點(diǎn)的閾值為電壓歷史數(shù)據(jù)變化幅度的5%，即1.12 V。當(dāng)模擬電壓與噪聲電壓之間的差的絕對值大于閾值，則該點(diǎn)電壓判定為異常值。選用正確率和誤判率作為指標(biāo)，即

(9)

式中：kac、ker分別為檢測正確率、誤判率；Nb為異常點(diǎn)個數(shù)；NT為正確判定的異常點(diǎn)數(shù)；NF為判斷錯誤的點(diǎn)數(shù)。

通過改變噪聲大小，進(jìn)行多次檢測試驗(yàn)，可以得到檢測結(jié)果見表2。

表2 異常點(diǎn)檢測結(jié)果
Tab.2 Detection results of anomaly data

類型噪聲方差LSTM網(wǎng)絡(luò)kac/%ker/%傳統(tǒng)神經(jīng)網(wǎng)絡(luò)kac/%ker/%電壓0.5 V285.0022.7352.0056.75電壓0.75 V278.0017.0259.0056.05電流0.01 A280.0023.0859.0049.03電流0.05 A282.0029.9165.0047.19功率0.01 kW257.0032.1474.0032.87功率0.05 kW274.0026.7377.0030.63平均76.0025.2764.3345.42類型原型聚類kac/%ker/%密度聚類kac/%ker/%概率密度kac/%ker/%電壓55.0055.6545.0043.0477.0037.90電壓58.0055.3855.0051.7564.0052.24電流60.0048.7257.0051.2867.0054.42電流66.0045.4560.0050.8271.0046.21功率77.0031.8671.0029.7073.0039.67功率78.0029.7377.0022.2278.0030.36平均65.6744.4760.83 41.4771.6743.47

從該比較結(jié)果可以看出，在不同的聚類方法中，原型聚類法檢測出來的異常點(diǎn)個數(shù)較多，因此其誤檢率最高；密度聚類法不能有效檢測出異常點(diǎn)，其檢測正確率最低；概率密度法較為靈敏，可以檢測出大部分存在異常的點(diǎn)，但仍有較大的誤判可能性。對于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型，其檢測原理是直接將歷史數(shù)據(jù)輸入，進(jìn)而對下一時刻的電表數(shù)據(jù)點(diǎn)進(jìn)行簡單預(yù)測，無法考慮數(shù)據(jù)直接的相關(guān)性，其可行性較差。根據(jù)表2的檢測結(jié)果，傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的檢測正確率與原型聚類方法相近，稍高于密度聚類法；而其誤檢率極高，甚至超過原型聚類方法的誤檢率。這是由于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)僅做了簡單預(yù)測，沒有考慮電表數(shù)據(jù)之間的相關(guān)性。而本文提出的LSTM檢測法，其中所用模型既建立了歷史電表數(shù)據(jù)與未來時刻電表數(shù)據(jù)的映射關(guān)系，又同時考慮了電表數(shù)據(jù)點(diǎn)之間的相關(guān)性。從比較結(jié)果可以看出，本文所提方法平均檢測正確率最高，達(dá)到76%；且同時具有最低誤檢測可能性，誤檢率僅25.27%。

3.3 異常數(shù)據(jù)甄別精度對比測試

為了驗(yàn)證異常點(diǎn)LSTM檢測法在實(shí)際用電曲線序列中的效果，取故障電表A從2017-04-08日至2017-06-08日共計5 952點(diǎn)A相電壓值序列。通過滾動抽樣連續(xù)96點(diǎn)序列構(gòu)建學(xué)習(xí)樣本庫，樣本標(biāo)簽為序列下一點(diǎn)電壓值，據(jù)此獲得訓(xùn)練樣本。使用該訓(xùn)練樣本訓(xùn)練LSTM網(wǎng)絡(luò)模型，并選取測試集樣本評估模型性能。

在測試集樣本中，使用LSTM算法對2017-06-09日第1至96點(diǎn)電壓值進(jìn)行模擬，比較模擬值與實(shí)際值。實(shí)際故障電表A電壓如圖7所示，在第33點(diǎn)至64點(diǎn)處電壓與其余點(diǎn)電壓相比明顯偏小，且經(jīng)過突變后電壓恢復(fù)正常范圍。確定第33點(diǎn)至64點(diǎn)為異常點(diǎn)，異常原因?qū)儆陔妷浩?，異常點(diǎn)甄別有效。

圖7 實(shí)際故障電表A電壓(2017-06-09)Fig.7 Voltage series of actual faulty meter A

取故障電表B從2017-04-03日至2017-06-03日共計5 856點(diǎn)A相電壓值序列，使用LSTM算法對2017-06-04日第1至96點(diǎn)電壓值進(jìn)行模擬，比較模擬值與實(shí)際值。從圖8所示的實(shí)際故障電表B電壓值可以看出，在第72、74、76點(diǎn)處電壓與其余點(diǎn)電壓相比明顯偏大，最高達(dá)到274.8 V，屬于曲線的明顯毛刺，且隨后電壓經(jīng)過突變恢復(fù)正常。將其判定為異常點(diǎn)，異常原因?qū)儆陔妷寒惓８?、電壓突變，異常點(diǎn)甄別有效。

圖8 實(shí)際故障電表B電壓(2017-06-04)Fig.8 Voltage series of actual faulty meter B

同理，實(shí)際故障電表的電流和功率異常點(diǎn)也可以通過LSTM網(wǎng)絡(luò)模型的模擬得出，其中電流和功率異常點(diǎn)檢測結(jié)果如圖9所示?？梢钥闯?，在故障電表的測試集樣本中，第22、34、55及60點(diǎn)處存在異常點(diǎn)，其模擬值與實(shí)際值的誤差超過閾值，實(shí)際反映出的異常原因?yàn)殡娏骰蚬β实漠惓Ｍ蛔?，與模型甄別結(jié)果一致。

圖9 實(shí)際故障電表電流和功率(2017-05-02)Fig.9 Current and power series of actual faulty meter

本文研究的算例數(shù)據(jù)主要來源于電網(wǎng)配電變壓器臺區(qū)的專用變壓器數(shù)據(jù)。特別是對于居民用電負(fù)荷，雖然其用電數(shù)據(jù)波動較大，但是由于其具有較為明顯的日相關(guān)性和日周期性規(guī)律，LSTM網(wǎng)絡(luò)模型能夠?qū)W習(xí)這種特性并提升預(yù)測精度，進(jìn)而能夠有效挖掘出特定的異常點(diǎn)。此外，由于LSTM網(wǎng)絡(luò)模型同時建立了歷史數(shù)據(jù)與待預(yù)測數(shù)據(jù)的映射關(guān)系和歷史數(shù)據(jù)之間的映射關(guān)系，克服了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)預(yù)測精度差的問題，成功地將預(yù)測方法和深度學(xué)習(xí)技術(shù)引入了異常數(shù)據(jù)甄別領(lǐng)域，并提升了異常檢測的準(zhǔn)確性。

通過本研究中算例分析，無論是人工添加噪聲的異常曲線或是實(shí)際運(yùn)行故障的異常曲線，在保證有足夠量歷史訓(xùn)練樣本的前提下，本文所提出的基于LSTM網(wǎng)絡(luò)的甄別方法都能夠有效檢測。此外該研究結(jié)果同時表明，在實(shí)際運(yùn)行工況中若無故障曲線，可以通過人為添加噪聲點(diǎn)構(gòu)造異常曲線，以此試驗(yàn)異常數(shù)據(jù)甄別方法的準(zhǔn)確性和可靠性。因此，本文提出的方法作為一種基于深度學(xué)習(xí)的異常甄別手段，進(jìn)一步提升了異常檢測的準(zhǔn)確性和靠性，能夠有效地指導(dǎo)電力系統(tǒng)的運(yùn)行檢修人員，進(jìn)而及時對異常電表進(jìn)行排查維護(hù)。

4 結(jié)束語

本文結(jié)合當(dāng)下人工智能和深度學(xué)習(xí)領(lǐng)域研究熱點(diǎn)，對用電異常數(shù)據(jù)甄別開展了如下研究：

a)獲取計量裝置歷史電壓數(shù)據(jù)曲線，以連續(xù)96點(diǎn)數(shù)據(jù)為一組時間序列，采用滾動抽樣作為訓(xùn)練樣本特征。樣本標(biāo)簽設(shè)置為每一組時間序列下一個時間點(diǎn)數(shù)據(jù)值，構(gòu)建學(xué)習(xí)樣本庫。同時，分別測試了人工添加噪聲的時間序列和實(shí)際運(yùn)行工況下的故障時間序列，充分驗(yàn)證了本文所提出方法的優(yōu)越性。在智能電網(wǎng)大數(shù)據(jù)發(fā)展背景下，因電表數(shù)據(jù)采集和存儲技術(shù)的不斷提升，可獲得大量的歷史訓(xùn)練數(shù)據(jù)樣本，為基于深度學(xué)習(xí)方法的異常數(shù)據(jù)甄別手段提供了可靠的保證。

b)提出了一種基于新型深層神經(jīng)網(wǎng)絡(luò)模型的異常數(shù)據(jù)甄別方法，即LSTM網(wǎng)絡(luò)模型。該模型能夠同時建立歷史數(shù)據(jù)與待預(yù)測數(shù)據(jù)的映射關(guān)系和歷史數(shù)據(jù)之間的映射關(guān)系，對目標(biāo)計量裝置的歷史用電曲線進(jìn)行有效擬合，進(jìn)而獲取更為準(zhǔn)確的電力系統(tǒng)模擬序列。通過設(shè)定閾值并將模擬序列和真實(shí)序列進(jìn)行比較，成功地將預(yù)測方法用于判斷篩選異常點(diǎn)。

c)比較了所提出的LSTM檢測方法和原型聚類法、密度聚類法、概率密度法和傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型在異常數(shù)據(jù)中的檢測正確率。比較結(jié)果顯示，本文提出的模型能夠?qū)v史序列數(shù)據(jù)進(jìn)行深層特征挖掘，并學(xué)習(xí)歷史序列中的時序規(guī)律，克服了傳統(tǒng)機(jī)器學(xué)習(xí)預(yù)測方法在異常檢測上的不足，異常甄別準(zhǔn)確率明顯提升。該方法適用于配電變壓器臺區(qū)下的專用變壓器用電數(shù)據(jù)和居民用電數(shù)據(jù)，能夠有效地指導(dǎo)電力系統(tǒng)的運(yùn)行檢修人員，進(jìn)而及時對異常電表進(jìn)行排查維護(hù)，保證了電力系統(tǒng)的長期穩(wěn)定可靠運(yùn)行。