基于隨機森林的用電行為分析

陳晶晶, 李紅嬌, 許 智

(上海電力學(xué)院 計算機科學(xué)與技術(shù)學(xué)院,上海 200090)

基于隨機森林的用電行為分析

陳晶晶, 李紅嬌, 許 智

(上海電力學(xué)院 計算機科學(xué)與技術(shù)學(xué)院,上海 200090)

長期以來竊電問題一直困擾著電力企業(yè),它不僅損害了供電企業(yè)的合法權(quán)益,擾亂了正常的供用電秩序,而且給安全用電帶來了威脅.通過機器學(xué)習(xí)算法,對電力用電數(shù)據(jù)進行分析處理,可以預(yù)測用戶是否存在竊電行為.基于電力數(shù)據(jù)中用戶用電量提取相關(guān)特征,結(jié)合隨機森林算法,提出了一種預(yù)測用戶是否具有竊電行為的方法.對比多組實驗數(shù)據(jù),調(diào)節(jié)特征數(shù)量以及算法參數(shù),以提高預(yù)測準確率和預(yù)測速度.

隨機森林; 分類; 竊電用戶; 機器學(xué)習(xí)

用戶竊電行為會對企業(yè)的經(jīng)濟效益及社會的穩(wěn)定發(fā)展等帶來不良影響.首先,非正常線損會影響供電部門的正常盈利,容易造成企業(yè)虧損現(xiàn)象,同時用戶的竊電行為會影響正常的市場經(jīng)濟秩序,全國每年因竊電造成的損失高達200多億元[1];其次,用戶竊電會影響周圍用戶用電,而且私自亂接線,會有引發(fā)觸電或者火災(zāi)等安全隱患,嚴重影響社會穩(wěn)定秩序.

傳統(tǒng)的竊電方法有很多,如改變電表結(jié)構(gòu)、電線私拉亂接、無表用電等.目前,使用干擾器,讓電表慢轉(zhuǎn)、停轉(zhuǎn)甚至反轉(zhuǎn)成為主要的竊電方式.但是無論竊電方式如何變化,原理萬變不離其宗,就是影響電能計量裝置的正常計數(shù).電能計量裝置主要由電流互感器、電壓互感器、端子盒、二次接線、電能表以及電能專用計量箱組成,主要的功能就是計量用戶在單位時間內(nèi)消耗的有功電能和無功電能等[2].目前,電力企業(yè)在反竊電技術(shù)上存在一定的局限,僅憑線損率的計算來估計竊電用戶,只有當線損率大于15%時,才能肯定該用戶為竊電用戶[3].近年來,越來越多的人將機器學(xué)習(xí)與電力數(shù)據(jù)相結(jié)合來提取特征,挖掘出竊電用戶行為.文獻[4]認為,電力用戶數(shù)據(jù)的不斷增加,用電數(shù)據(jù)特征數(shù)目也會隨之增加,導(dǎo)致用電特征數(shù)據(jù)連續(xù)化,如果用傳統(tǒng)的CURE算法進行數(shù)據(jù)挖掘,就需要對電力大數(shù)據(jù)進行離散化,其計算量大、耗時長,且容易丟失重要的特征信息,故提出了一種利用信息熵原則分析法提取特征值的方法,以提高預(yù)測的準確度.文獻[5]利用日用電量、用戶最大線損率、用表類型、所在臺區(qū)線損、三相不平衡率、微機掃描情況、功率因數(shù)及合同容量比作為反竊電模型的單項指標,結(jié)合人工神經(jīng)網(wǎng)絡(luò)分析竊電行為,但其只涉及某一個用戶竊電可疑性的大小,并沒有對整個用戶樣本預(yù)測準確率進行分析.文獻[6]提出根據(jù)某段時間周期內(nèi)用戶的用電量總體變化趨勢來評測用戶竊電的可能性,但是并沒有結(jié)合機器學(xué)習(xí),在效率上不夠高效.

本文根據(jù)某電力公司提供的電力數(shù)據(jù),利用用戶的日用電量數(shù)據(jù)進行分析,并沒有加入線損率、用表類型等屬性,這樣可以減少訓(xùn)練的數(shù)據(jù)量,加快數(shù)據(jù)預(yù)處理以及后續(xù)預(yù)測的速度.根據(jù)用戶的日用電量,提取特征分析,隨后結(jié)合隨機森林算法,預(yù)測竊電用戶,并分析結(jié)果.

1 經(jīng)典機器學(xué)習(xí)算法介紹

從電力大數(shù)據(jù)中挖掘出竊電用戶和正常用戶,是一個二分類的問題.因此,利用機器學(xué)習(xí)中的分類算法對電力數(shù)據(jù)進行分析.機器學(xué)習(xí)的分類算法常見的有支持向量機(SVM)算法,K-近鄰算法,決策樹算法等.但這些算法并不都是適合電力大數(shù)據(jù)的二分類.

1.1 支持向量機算法

該算法的核心思想是,尋找一個非線性映射,通過該映射把樣本數(shù)據(jù)映射到高維的特征空間中.利用的估計函數(shù)為:

f(X)=ωφ(X)+b

(1)

式中:ω——權(quán)值大小;φ(X)——映射函數(shù);b——偏置.

根據(jù)統(tǒng)計學(xué)理論,支持向量機通過極小化目標函數(shù)確定回歸函數(shù)[7].但支持向量機算法設(shè)計的初衷是對小樣本數(shù)據(jù)進行訓(xùn)練,并不適合電力竊電用戶行為的挖掘,究其原因,在于該算法會導(dǎo)致訓(xùn)練時間長,且極消耗電腦內(nèi)存,故該算法不適合大數(shù)據(jù)下竊電用戶的挖掘.

1.2 K-近鄰算法

該算法是1968年由Cover和Hart提出的.其基本原理是從大樣本空間中,對一個待分類的數(shù)據(jù)對象從訓(xùn)練數(shù)據(jù)集中找出與之最相近的K個點,取出其中眾數(shù)最多的類別作為待測數(shù)據(jù)點的分類類別.此算法適用于樣本分布均勻的數(shù)據(jù).但在電力數(shù)據(jù)中,竊電用戶數(shù)據(jù)相對于正常用電用戶的數(shù)據(jù)較小,存在樣本分布不平衡的特點,且此算法結(jié)果的理解性不高,所以也不適合電力竊電用戶的挖掘.

1.3 決策樹算法

20世紀70年代,FRIEDMAN J提出將決策樹算法運用到分類問題的研究中.決策樹是一個樹狀結(jié)構(gòu),它是通過一個特征屬性對樣本進行分類,其每個非葉子節(jié)點表示一個特征屬性上的測試,每個分支代表這個特征屬性的輸出.使用決策樹進行決策是從根節(jié)點開始,根據(jù)決策樹的分支,對待測數(shù)據(jù)的對應(yīng)特征屬性進行分類,直至葉子節(jié)點,得出分類結(jié)果.20世紀70年代末,QUINLAN J R開發(fā)出決策樹ID3算法,提出了利用信息輪中的信息增益作為決策樹屬性拆分節(jié)點的判斷依據(jù)[8].1984年,BRIMAN L和FRIEDMAN J重新整理決策樹算法,得出了分類回歸樹(CART)算法.1993年,QUINLAN J R在ID3的基礎(chǔ)上提出了C4.5算法,用Gini不純度代替信息增益作為決策樹屬性拆分節(jié)點的選擇[9].決策樹算法具有輸出結(jié)果易于理解、對中間值缺失值不敏感的優(yōu)點,適合電力數(shù)據(jù)挖掘的要求[10].

但是單獨的決策樹會存在過擬合的風(fēng)險.BREIMAN L于2001年提出了隨機森林(randomforests)算法,它是一種組合多個樹分類器進行分類的算法,避免產(chǎn)生過擬合的風(fēng)險.

1.4 隨機森林算法

隨機森林算法通過重采樣(bootstrap)方法,從樣本里有放回地重復(fù)抽取n個樣本生成新的樣本,然后重復(fù)以上步驟,生成m個決策樹,這些決策樹之間是獨立的,新分類的分類結(jié)果是根據(jù)分類樹投票多少來決定的[11].

假設(shè)給定一系列分類樹:h1(x),h2(x),h3(x),…,hk(x),根據(jù)輸入變量(X,Y)定義余量函數(shù)(margin function)為:

mg(X,Y)=avgkI(hk(X)=Y)-

maxZ≠YavgkI(hk(X)=Z)

(2)

式中:X——輸入特征變量的集合;Y——輸入變量的正確標簽集合;Z——預(yù)測錯誤的標簽集合;I(·)——示性函數(shù),前一項是代表將變量X正確分類的平均分類器數(shù),后一項是將變量X錯誤分類最多的平均分類器數(shù).

余量函數(shù)用來度量隨機森林算法對輸入變量X產(chǎn)生的誤差.余量函數(shù)可以用于定義隨機森林的預(yù)測誤差,即:

E=PX,Y(mg(X,Y)<0)

(3)

定理隨著隨機森林分類器的數(shù)目增加,E幾乎處處收斂于:

mg(X,Y)=PX,Y[Pθ(h(X)=Y)-

maxZ≠YPθ(h(X)=Z)<0]

(4)

從該定理可以看出,隨機森林的預(yù)測誤差會收斂到泛化誤差,這說明隨機森林在理論上是不會發(fā)生過擬合現(xiàn)象的.

隨機森林算法流程如下:

(1) 從樣本空間有放回地隨機采樣選出n個樣本;

(2) 從所有提取出的特征中隨機選擇k個特征,對選出的樣本利用這些特征建立決策樹;

(3) 重復(fù)前兩步m次,則生成m棵決策樹,即形成了隨機森林;

(4) 對于測試數(shù)據(jù),經(jīng)過每棵決策樹進行決策,然后通過投票決定分到哪一類.

從上述分析可以看出,隨機森林具有如下5個優(yōu)點:一是經(jīng)過理論推斷,該算法有效地避免了過擬合;二是每一棵樹都是隨機選擇部分樣本和部分特征,使得算法具有很好的抗噪能力,穩(wěn)定性好;三是可以并行計算;四是可以處理高維數(shù)據(jù),并且不需要自己選擇特征,算法通過投票決策;五是實現(xiàn)比較簡單,易于理解.

因此,本文決定結(jié)合隨機森林算法,對電力數(shù)據(jù)進行竊電用戶和正常用戶的二分類.

2 基于隨機森林算法的用電數(shù)據(jù)分析

2.1 數(shù)據(jù)格式

智能電表數(shù)據(jù)有很多維,如用電量、無功功率、電壓、電流等,如果把這些數(shù)據(jù)都放入算法里,內(nèi)存消耗極大且運行速率很差,甚至還會形成“維數(shù)災(zāi)難”.

本文只是利用用戶的日用電量作為指標.利用某電力公司提供的數(shù)據(jù)集,數(shù)據(jù)大小為6.54 G,屬性有用戶的ID,當天電表數(shù),前天電表數(shù),當天用電量,日期,竊電標志等.

表1是某電網(wǎng)公司經(jīng)過處理后得到的電表數(shù)據(jù).表1中,ID代表的是用戶名(已處理過了);Date代表日期時間;KWH_TD代表的是當天的電表讀數(shù);KWH_YSD代表的是前一天的電表讀數(shù);KWH代表的是當天的用電量;Label為該用戶的標簽,“1”表示該用戶為竊電用戶,“0”表示該用戶是正常用戶,“Nan”代表缺失值.

表1 電表數(shù)據(jù)

由表1可知,每個用戶有很多天連續(xù)的數(shù)據(jù),但是每一個用戶的數(shù)據(jù)量不等;部分用戶數(shù)據(jù)存在缺失情況;這些數(shù)據(jù)后面都有竊電用戶的標示,方便之后對數(shù)據(jù)進行測試.

2.2 特征提取

用電數(shù)據(jù)預(yù)處理的特征提取流程如圖1所示.

圖1 用電數(shù)據(jù)特征提取流程

2.2.1 提取含零百分數(shù)特征

根據(jù)用戶電表數(shù)據(jù)分析可知:

(1) 某用戶每天的用電量都為零,幾乎可以判斷該用戶為竊電用戶;

(2) 某用戶存在連續(xù)用電量都為零,但不是全為零,該用戶為竊電用戶的可能性極高;

(3) 某用戶用電量為零,斷斷續(xù)續(xù),該用戶也有可能是竊電用戶.

當然也會存在一些用戶長時間不在家的可能性,但這種可能性比較小.因為每個用戶的數(shù)據(jù)量是不一樣,所以不能提取含零的數(shù)據(jù)個數(shù),而是提取含零百分數(shù)特征,避免特征的不公平性.

(5)

式中:PZeroi——含零百分數(shù);Xj——第i個用戶有j個包含零的數(shù)據(jù);

Xi——第i個用戶總的數(shù)據(jù)量.

2.2.2 提取含缺失值百分數(shù)特征

根據(jù)用戶電表數(shù)據(jù)分析可知:

(1) 某用戶電表讀數(shù)在電網(wǎng)中心不顯示,說明電表出現(xiàn)問題,該用戶為竊電用戶的可能性很大;

(2) 某用戶電表讀數(shù)經(jīng)常不顯示,但是會有幾天讀數(shù),該用戶存在竊電嫌疑.

當然,數(shù)據(jù)存在缺失值也有可能是電網(wǎng)中心存在“丟包”現(xiàn)象,導(dǎo)致數(shù)據(jù)缺失,但一般這種情況很少發(fā)生.因此,當某用戶電表讀數(shù)丟失,很有可能是用戶故意干擾電表計數(shù)以及上傳,故可以提取缺失值百分數(shù)特征.

(6)

式中:PNani——缺失值的百分數(shù);Xj——第i個用戶存在j個缺失值的數(shù)據(jù).

2.2.3 提取方差特征

方差主要體現(xiàn)數(shù)據(jù)的波動情況.某用戶用電量總是會發(fā)生忽高忽低,出現(xiàn)大幅度的波動現(xiàn)象,則該用戶竊電的可能性很大.

(7)

2.2.4 提取平均值特征

平均值代表用戶的用電水平,如果一個用戶用電量低于一個水平,如用電量平均只有0.1 kWh,則該用戶竊電的可能性極大.

(8)

式中:Ai——用戶的用電量平均值;Xik——第i個用戶第k天的用電量;k——用戶數(shù)據(jù)量的大小.

2.3 實驗過程

2.3.1 實驗環(huán)境配置

電腦配置如下:惠普Envy13-d025tu,內(nèi)存為8 G,顯卡為HD520,處理器為酷睿i5-6200,主頻為2.3 GHz.本文選擇python工具處理用電數(shù)據(jù),使用的是python2.7版本,該軟件集成了numpy,pandas,sklearn機器學(xué)習(xí)包等數(shù)據(jù)分析所需要的包,方便用戶分析數(shù)據(jù),同時還擁有Spyder集成開發(fā)環(huán)境,類似于Matlab界面,模仿了Matlab的“工作空間”功能,可以很方便地觀察和修改數(shù)組的值.

2.3.2 參數(shù)介紹

由于電力用電數(shù)據(jù)達6.54 G,直接讀入內(nèi)存,會影響電腦運行速度,甚至?xí)?dǎo)致電腦進程崩潰.python里的pandas模塊下read_csv函數(shù)很好地解決了這一問題.chunksize參數(shù)設(shè)置為200 000,進行每次200 000個數(shù)據(jù)迭代,將訓(xùn)練數(shù)據(jù)讀取進來,分片式處理用戶用電數(shù)據(jù).數(shù)據(jù)預(yù)處理后得到用戶用電特征數(shù)據(jù)僅3.01 MB,即將“大數(shù)據(jù)”轉(zhuǎn)化成“小數(shù)據(jù)”,有利于下一步隨機森林預(yù)測.將數(shù)據(jù)分為訓(xùn)練集和測試集,訓(xùn)練集有44 219 條記錄,測試集有9 956條記錄.

Sklearn中隨機森林算法的參數(shù)有很多個,常用的參數(shù)如表2所示.

表2 隨機森林分類器參數(shù)

2.3.3 基于不同特征的實驗結(jié)果

將n_estimators設(shè)置為600,max_features設(shè)置為3,criterion設(shè)置為gini,n_jobs設(shè)置為-1,輸入訓(xùn)練集44 219行數(shù)據(jù),測試數(shù)據(jù)9 956行數(shù)據(jù),得出的結(jié)果如表3所示.

表3 4個特征的測試數(shù)據(jù)

其中準確率Accuracy定義為:

(9)

式中,Pt,Nt,Nf,Pf分別表示竊電用戶準確預(yù)測的人數(shù),正常用戶準確預(yù)測的人數(shù),正常用戶預(yù)測錯誤的人數(shù),竊電用戶預(yù)測錯誤的人數(shù).

實驗結(jié)果顯示:隨機森林建立600棵樹,訓(xùn)練44 219記錄,到對9 956條數(shù)據(jù)進行預(yù)測,只需要40 s,處理速度很快,且預(yù)測的準確率達86.5%.方差占權(quán)值很大,說明竊電用戶嫌疑最大的可能就是用電量波動性很大的用戶,而缺失值的權(quán)值很小,說明發(fā)生用戶用電量數(shù)據(jù)缺失,并不能完全代表該用戶是竊電用戶.

移除缺失值特征,保留算法參數(shù)不變,得出的實驗結(jié)果如表4所示.

表4 3個特征測試數(shù)據(jù)

由表4可以看出,運行時間不變,準確率下降了一點,同時單一用戶數(shù)據(jù)含零權(quán)值的權(quán)值比重下降很多,說明含零百分比權(quán)重存在,但相對于方差和均值的重要性要弱一點.

移除單一用戶數(shù)據(jù)含零權(quán)值特征,將max_fatures改為2,得出的實驗結(jié)果如表5所示.

表5 2個特征的測試數(shù)據(jù)

綜合表3,表4,表5可以看出,當提取的4個特征全部放入隨機森林決策樹中時,準確率會有所提高.

2.3.4 基于隨機森林模型不同參數(shù)的測試

不同參數(shù)測試數(shù)據(jù)如表6所示.

表6 不同參數(shù)測試數(shù)據(jù)

從表6可以看出,決策樹數(shù)量越大,運行時間越長,但準確率并不隨著n_estimators越大而變得越準;entropy比gini運行速度更快一點,同時準確率也提高了不少.

2.3.5 實驗結(jié)果分析

綜合上述實驗發(fā)現(xiàn),當決策樹大小為300,判斷依據(jù)為信息熵entropy,以及最大特征數(shù)為3時,運行速度和準確都會提升,準確率基本維持在0.865 5.但該實驗還存在一些不足之處:如每個用戶的數(shù)據(jù)量不同,會導(dǎo)致提取特征的公平性有所缺失,因為用戶在每一個季度里的用電量是有明顯差異的,這會影響方差這一特征.因此,可以對每個用戶進行一個星期的均值特征提取,分析其波動情況,進一步提高預(yù)測準確率.

此外根據(jù)以上實驗數(shù)據(jù)發(fā)現(xiàn),本文所提出的4個特征值方差的重要性最高,即:如果一個用戶每天用電量變化幅度大,很可能就是竊電用戶;缺失值百分數(shù)的重要性最低,即:電表出現(xiàn)故障以及人為破壞電表的行為較少.

3 結(jié) 語

面對智能電網(wǎng)的不斷發(fā)展,電力數(shù)據(jù)暴增不可避免,通過單一提取用電量這一維數(shù)據(jù),可以大大減小數(shù)據(jù)量,加快數(shù)據(jù)處理速度,同時通過隨機森林的并行處理,可以快速準確地挖掘出竊電用戶.

[1] 周文婷,顧楠,王濤,等.基于數(shù)據(jù)挖掘算法的用戶竊電嫌疑分析[J].河南科技,2015(10):1 767-1 772.

[2] 丁曉.用電檢查與反竊電智能信息平臺的設(shè)計與應(yīng)用[J].電力需求側(cè)管理,2012(3):49-52.

[3] 柴鵬飛,陳國棟.數(shù)據(jù)分析在反竊電中的應(yīng)用[J].河南電力,2013(2):61-64.

[4] 郭崇,王征,紀建偉,等.電力用戶數(shù)據(jù)中用電特征數(shù)據(jù)挖掘模型仿真[J].計算機仿真,2016(5):447-450.

[5] 曹崢,楊鏡非.BP神經(jīng)網(wǎng)絡(luò)在反竊電系統(tǒng)中的研究與應(yīng)用[J].水電能源科學(xué),2011(9):199-202.

[6] 楊小銘,花永冬,黃淳驛,等.低壓臺區(qū)用戶的防竊電的趨勢嫌疑度分析方法研究[J].電器與能效管理技術(shù),2016(10):28-36.

[7] 李瑾,劉金朋.采用支持向量機和模擬退火算法的中長期負荷預(yù)測方法[J].中國電機工程學(xué)報,2011(16):63-66.

[8] QUNLAN J R.Induction of decision tree[J].Machine Learning,1986(1):81-106.

[9] HASTIE T,TIBSHIRANI R,FRIEDMAN J.統(tǒng)計學(xué)習(xí)基礎(chǔ)——數(shù)據(jù)挖掘、推理與預(yù)測[M].范明,柴玉梅,等,譯.北京:電子工業(yè)出版社,2004:40-44.

[10] 馮少榮.決策樹算法的研究與改進[J].廈門大學(xué)學(xué)報(自然科學(xué)版),2007(4):496-500.

[11] 方匡南,吳見彬,朱建平,等.隨機森林方法研究綜述[J].統(tǒng)計與信息論壇,2011(3):32-38.

(編輯 胡小萍)

AnalysisofPowerConsumptionBehaviorBasedonRandomForest

CHENJingjing,LIHongjiao,XUZhi

(SchoolofComputerScienceandTechnology,ShanghaiUniversityofElectricPower,Shanghai200090,China)

For a long time,the problem of electricity stealing has been plaguing power enterprises.It not only detriments the legitimate rights and interests of power enterprises,disturbs the normal order of the power supply,but also causes the electrical safety threat.The data of electrical power with machine learning algorithms is analyzed,which can predict the existence of users stealing power behavior.Based on feature extraction of electricity consumption in power data,and by using the random forests algorithm,a method of predicting the existence of users stealing power behavior is proposed.By comparing multiple sets of experimental data,the parameters of the algorithm are adjusted to improve the accuracy of forecasting.

random forests; classify; stealing users; machine learning

10.3969/j.issn.1006-4729.2017.04.005

2017-03-09

陳晶晶(1993-),男,在讀碩士,江蘇鹽城人.主要研究方向為電力信息技術(shù)專業(yè).E-mail:757167127@qq.com.

國家自然科學(xué)基金(61403247);上海市信息安全綜合管理技術(shù)研究重點實驗室開放課題(AGK2015005);上海市科學(xué)技術(shù)委員會地方能力建設(shè)項目(15110500700).

TP18;TP301.6;TM715

A

1006-4729(2017)04-0331-06