殷浩然,苗世洪,韓 佶,王子欣,毛萬登,牛榮澤
(1. 強(qiáng)電磁工程與新技術(shù)國家重點(diǎn)實(shí)驗(yàn)室(華中科技大學(xué)),湖北省武漢市 430074;2. 電力安全與高效湖北省重點(diǎn)實(shí)驗(yàn)室(華中科技大學(xué)電氣與電子工程學(xué)院),湖北省武漢市 430074;3. 國網(wǎng)河南省電力公司電力科學(xué)研究院,河南省鄭州市 450052)
當(dāng)前,能源革命和數(shù)字革命正在深度融合,為適應(yīng)能源互聯(lián)和“30·60 目標(biāo)”要求,配電網(wǎng)不斷融入先進(jìn)的傳感測量、保護(hù)控制和數(shù)據(jù)通信等技術(shù),正逐步由傳統(tǒng)的電力網(wǎng)轉(zhuǎn)變?yōu)殡娏W(wǎng)和通信網(wǎng)高度耦合的配電物聯(lián)網(wǎng)[1]。當(dāng)電力網(wǎng)出現(xiàn)異常狀態(tài)時,可能會引起通信網(wǎng)絡(luò)擁塞,降低通信網(wǎng)絡(luò)性能,進(jìn)一步導(dǎo)致電力網(wǎng)故障擴(kuò)大;當(dāng)通信網(wǎng)出現(xiàn)通信中斷、數(shù)據(jù)異常等異常狀態(tài)時,可能會引起電力網(wǎng)智能終端誤動或拒動,造成電力網(wǎng)故障。因此,為全面、準(zhǔn)確地辨識配電物聯(lián)網(wǎng)異動源的類型和位置,需充分考慮電力網(wǎng)和通信網(wǎng)的交互影響,綜合分析電力網(wǎng)和通信網(wǎng)的異動信息,以實(shí)現(xiàn)電力網(wǎng)和通信網(wǎng)異常類型和位置的統(tǒng)一辨識。
針對配電物聯(lián)網(wǎng),當(dāng)前研究主要從通信網(wǎng)流量特征分析及建模、配電網(wǎng)信息物理系統(tǒng)仿真平臺構(gòu)建和通信網(wǎng)異常流量檢測等方面開展,針對電力網(wǎng)和通信網(wǎng)異常辨識的研究較少。文獻(xiàn)[2]分析了配電網(wǎng)的信息架構(gòu),為電力網(wǎng)與通信網(wǎng)的交互分析奠定了基礎(chǔ);文獻(xiàn)[3-5]分析了配電通信業(yè)務(wù)特點(diǎn)和數(shù)據(jù)流量的自相似特征,文獻(xiàn)[6-8]分析了電力網(wǎng)和通信網(wǎng)出現(xiàn)異常時通信流量的特征,并建立了相應(yīng)的信源模型;在上述研究的基礎(chǔ)上,文獻(xiàn)[9-13]提出了基于通信流量差分序列方差、小波分解能量值、時頻混合特征的通信網(wǎng)異常辨識方法。然而,上述研究主要針對通信網(wǎng)異常開展,未考慮通信網(wǎng)異常對電力網(wǎng)造成的影響。文獻(xiàn)[14]指出需要對電力網(wǎng)故障和通信節(jié)點(diǎn)故障進(jìn)行統(tǒng)一辨識,并提出了基于多維尺度分析和局部異常因子的配電網(wǎng)故障辨識方法,但該方法僅考慮了電力網(wǎng)或通信網(wǎng)故障后最終反映到電氣量的特征,難以準(zhǔn)確辨識通信網(wǎng)的異常狀態(tài)。綜上,現(xiàn)有研究多單獨(dú)針對電力網(wǎng)或通信網(wǎng)開展,較少考慮電力網(wǎng)和通信網(wǎng)的交互影響,難以實(shí)現(xiàn)配電物聯(lián)網(wǎng)異常的統(tǒng)一辨識。
深度學(xué)習(xí)由數(shù)據(jù)驅(qū)動構(gòu)建深層神經(jīng)網(wǎng)絡(luò),可自動提取輸入數(shù)據(jù)特征并進(jìn)行歸納分類[15]。近年來有學(xué)者將卷積神經(jīng)網(wǎng)絡(luò)(CNN)算法應(yīng)用于輸電線路故障選相[16]、區(qū)內(nèi)外故障判別[17]、故障定位[18]和輸電網(wǎng)故障線路判定[19]等問題。然而,上述研究均基于二維卷積神經(jīng)網(wǎng)絡(luò)(2D-CNN)開展,當(dāng)原始樣本數(shù)據(jù)較為復(fù)雜時,直接由時序數(shù)據(jù)排列形成的二維樣本往往難以滿足要求,需要利用復(fù)雜的預(yù)處理方法將電氣量時序數(shù)據(jù)構(gòu)建成二維圖形[19-21],最終效果也依賴于數(shù)據(jù)預(yù)處理過程,限制了CNN 在時序數(shù)據(jù)特征提取方面的應(yīng)用。文獻(xiàn)[22]在2D-CNN的基礎(chǔ)上引入時間維度,提出了三維卷積神經(jīng)網(wǎng)絡(luò)(3D-CNN),并被應(yīng)用于視頻檢測[23]和三維圖像辨識[24]等問題,取得了良好效果,但還未被應(yīng)用于電力領(lǐng)域。
因此,本文提出一種配電物聯(lián)網(wǎng)異常辨識方法,利用3D-CNN 提取電氣量、通信量與配電物聯(lián)網(wǎng)異常狀態(tài)之間的映射關(guān)系,實(shí)現(xiàn)了配電物聯(lián)網(wǎng)異常類型和異動源位置的統(tǒng)一辨識,并通過仿真數(shù)據(jù)驗(yàn)證了本文方法的有效性。
配電物聯(lián)網(wǎng)的分層結(jié)構(gòu)如圖1 所示,由于電力網(wǎng)與通信網(wǎng)的深度耦合,二者之間的交互作用易使故障范圍擴(kuò)大,給電力網(wǎng)與通信網(wǎng)的統(tǒng)一異常辨識增加了難度。
圖1 配電物聯(lián)網(wǎng)電力網(wǎng)和通信網(wǎng)耦合關(guān)系Fig.1 Coupling relation between power grid and communication network in distribution Internet of Things
1)電力網(wǎng)異常
電力網(wǎng)通過配電終端與通信網(wǎng)進(jìn)行信息交互,當(dāng)電力網(wǎng)正常運(yùn)行時,通信網(wǎng)數(shù)據(jù)流包含配電終端周期性上傳的采樣值報文、量測值和狀態(tài)信息組成的周期性數(shù)據(jù)流,以及由開關(guān)操作命令、跳閘命令等外部事件驅(qū)動的隨機(jī)性數(shù)據(jù)流;當(dāng)電力網(wǎng)出現(xiàn)短路故障等異常狀態(tài)時,配電終端需彼此發(fā)送跳閘信號,間隔層設(shè)備需上傳保護(hù)動作信息和開關(guān)變位信息,產(chǎn)生突發(fā)性數(shù)據(jù)流。因此,當(dāng)電力網(wǎng)出現(xiàn)異常狀態(tài)時,通信網(wǎng)數(shù)據(jù)流量突發(fā)性上升,可能引起通信延遲甚至網(wǎng)絡(luò)擁塞,造成停電范圍擴(kuò)大。
2)通信網(wǎng)異常
相較于輸電通信網(wǎng),配電通信網(wǎng)建設(shè)相對落后,部分通信業(yè)務(wù)需要由公網(wǎng)承擔(dān),這增加了配電通信網(wǎng)的可靠性風(fēng)險[4]。當(dāng)某條通信鏈路發(fā)生故障時,會導(dǎo)致主站喪失對相應(yīng)終端的感知和控制能力,無法及時對配電網(wǎng)故障進(jìn)行處理;當(dāng)通信網(wǎng)遭受數(shù)據(jù)侵入攻擊等信息安全事件時,可能導(dǎo)致傳輸錯誤、虛假信息,進(jìn)一步造成智能終端的拒動或誤動。
1)周期性數(shù)據(jù)流
周期性數(shù)據(jù)流由配電終端周期性上傳的采樣值報文、量測值和狀態(tài)信息構(gòu)成,屬于時間驅(qū)動型數(shù)據(jù)流,可用周期性間隔、恒定長度的周期性報文來模擬,其數(shù)學(xué)模型如式(1)所示。
式中:Fp為周期性數(shù)據(jù)流量;L為報文長度;P為數(shù)據(jù)流間隔周期;T為端對端時延;D為允許的最大時延,且滿足T≤D。
2)隨機(jī)性數(shù)據(jù)流
隨機(jī)性數(shù)據(jù)流主要包含開關(guān)操作、跳閘命令、保護(hù)功能連鎖和保護(hù)定值修改、事件記錄查看、錄波數(shù)據(jù)傳輸?shù)龋瑢儆谕獠渴录?qū)動型數(shù)據(jù)流,由故障等外部事件觸發(fā),可以用Poisson 過程來近似[3]。
設(shè)N(t)表示t時刻的報文總數(shù),λ表示報文平均到達(dá)速率,則在[s,s+t]時間段內(nèi)到達(dá)k個報文的概率滿足式(2)。
報文到達(dá)時間間隔服從參數(shù)為1/λ的負(fù)指數(shù)分布,其分布密度函數(shù)式(3)所示。
3)突發(fā)性數(shù)據(jù)流
突發(fā)性數(shù)據(jù)流主要包含故障情況下間隔層設(shè)備上傳的保護(hù)動作信息、開關(guān)變位信息,以及事件順序記錄信號,具有自相似性,可以用服從廣義Pareto 分布的On/Off 數(shù)據(jù)源模擬其數(shù)據(jù)流[4],Pareto 分布函數(shù)如式(4)所示。
式中:μ為位置參數(shù);δ為尺度參數(shù)。
基于數(shù)據(jù)驅(qū)動的深度學(xué)習(xí)模型需要利用大量樣本數(shù)據(jù)進(jìn)行訓(xùn)練,以獲取樣本特征信息與配電物聯(lián)網(wǎng)異常狀態(tài)之間的映射關(guān)系,而實(shí)際配電網(wǎng)異常數(shù)據(jù)難以滿足訓(xùn)練要求。因此,需構(gòu)建配電物聯(lián)網(wǎng)仿真模型。
配電物聯(lián)網(wǎng)屬于典型的信息物理系統(tǒng),單一的電氣仿真無法準(zhǔn)確描述通信系統(tǒng)特征,目前學(xué)者多采用混合仿真方案構(gòu)建其仿真模型,即基于通信仿真平臺和電氣仿真平臺分別建立通信模型和電氣模型,再實(shí)現(xiàn)二者的信息交互[25-27]?;谏鲜鏊枷?,本文分別在Simulink 和OPNET 仿真平臺中構(gòu)建了IEEE 33 節(jié)點(diǎn)網(wǎng)絡(luò)的電力網(wǎng)和通信網(wǎng)仿真模型,其拓?fù)浣Y(jié)構(gòu)如附錄A 圖A1 所示?;谖墨I(xiàn)[28]提出的Simulink 和OPNET 聯(lián)合仿真架構(gòu),通過二者提供的外部接口實(shí)現(xiàn)二者的信息交互和時間同步,從而模擬配電物聯(lián)網(wǎng)出現(xiàn)異常時電力網(wǎng)與通信網(wǎng)之間的交互影響,原理框圖見附錄A 圖A2,其中Fp、Fr和Fb分別表示周期性數(shù)據(jù)流、隨機(jī)性數(shù)據(jù)流和突發(fā)性數(shù)據(jù)流。
配電物聯(lián)網(wǎng)各節(jié)點(diǎn)電氣量和通信流量的時序動態(tài)變化可以反映系統(tǒng)的運(yùn)行狀態(tài),當(dāng)電力網(wǎng)或通信網(wǎng)出現(xiàn)異常狀態(tài)時,整個系統(tǒng)的電氣量與通信流量存在由正常狀態(tài)到異常狀態(tài)的動態(tài)過程,本文通過提取該動態(tài)過程的特征信息,以實(shí)現(xiàn)對配電物聯(lián)網(wǎng)的異常類型辨識和定位。
3D-CNN 的輸入樣本為x×y×t的三維矩陣,可以看作由t幀x×y的畫面組成。受文獻(xiàn)[21]提出的二維畫面構(gòu)建方法啟發(fā),可以將每個時刻的配電物聯(lián)網(wǎng)運(yùn)行狀態(tài)視為一幀x×y的畫面,因此通過t幀畫面堆疊即可反映配電物聯(lián)網(wǎng)在時間段(t0,t0+t)內(nèi)運(yùn)行狀態(tài)的動態(tài)過程。如圖2 所示,首先,采集配電物聯(lián)網(wǎng)各節(jié)點(diǎn)的電氣量和終端通信流量時序數(shù)據(jù),在分別歸一化后對齊電氣量和通信流量的時間標(biāo)度;其次,針對每個時刻的采樣值,將每個節(jié)點(diǎn)的電氣量和通信流量組合為一個特征子像素,將所有節(jié)點(diǎn)對應(yīng)的特征子像素按照拓?fù)涔?jié)點(diǎn)編號順序排列形成x×y的特征幀畫面;最后,將(t0,t0+t)內(nèi)的特征幀畫面進(jìn)行堆疊,即可構(gòu)成面向3D-CNN 的立方樣本矩陣Cxyt。
圖2 面向3D-CNN 的立方樣本矩陣構(gòu)建過程Fig.2 Construction process of cubic sample matrix for 3D-CNN
為了提取配電物聯(lián)網(wǎng)運(yùn)行狀態(tài)的動態(tài)變化過程,需要同時捕獲立方樣本矩陣3 個維度的信息,因此本文基于3D-CNN 構(gòu)建了三維特征提取網(wǎng)絡(luò),如圖3 所示。
圖3 三維特征提取網(wǎng)絡(luò)與層級softmax 分類器Fig.3 Three-dimensional feature extraction network and hierarchical softmax classifier
首先,當(dāng)判定系統(tǒng)出現(xiàn)異常狀態(tài)時,截取階數(shù)為x×y×t的立方樣本矩陣作為網(wǎng)絡(luò)輸入,利用多個三維卷積核(階數(shù)為kx1×ky1×kt1)對輸入的立方樣本矩陣從3 個維度進(jìn)行滑步卷積計算,如式(5)所示,獲得多個三維特征體(階數(shù)為mx×my×mt),三維特征體的階數(shù)滿足式(6),每個三維特征體均記錄著輸入樣本不同區(qū)域的高維特征。
式中:l為網(wǎng)絡(luò)層序號;為第l層網(wǎng)絡(luò)輸出的三維特征體矩陣;為第l層網(wǎng)絡(luò)的輸入矩陣,也是第l-1 層網(wǎng)絡(luò)的輸出;?表示滑步卷積運(yùn)算過程;和b(l)分別為第l層的三維卷積核和偏置量;f(x)為ReLU 激活函數(shù);和分別為第l層和第l-1層三維特征體的階數(shù);kxyt為三維卷積核的階數(shù);p和s均為網(wǎng)絡(luò)訓(xùn)練時設(shè)置的結(jié)構(gòu)參數(shù),分別表示對輸入矩陣的填補(bǔ)值和卷積運(yùn)算的跨步值。
隨后,在每個三維特征體后連接池化核(階數(shù)為kx2×ky2×kt2),對特征體進(jìn)行降分辨率采樣,進(jìn)一步得到二次特征矩陣(階數(shù)為sx×sy×sz)。本文采用最大值池化方法,如式(7)所示,即輸出池化核連接的域中的最大值。通過池化操作可以對高維特征進(jìn)行二次提取,并使網(wǎng)絡(luò)具有空間不變性[29],增強(qiáng)網(wǎng)絡(luò)的泛化能力。
式中:Ksub為池化核矩陣;fmax(·)為取最大值函數(shù)。
特征提取網(wǎng)絡(luò)由若干組“卷積-池化”結(jié)構(gòu)組成,深度越深,特征空間的維度越高,網(wǎng)絡(luò)的學(xué)習(xí)能力也越強(qiáng),但同時會增大網(wǎng)絡(luò)的計算復(fù)雜度和過擬合可能性,因此網(wǎng)絡(luò)深度應(yīng)結(jié)合實(shí)際問題確定。
最后,在特征提取網(wǎng)絡(luò)末端加入全連接網(wǎng)絡(luò),與前一層的所有神經(jīng)元相連接,整合由“卷積-池化”結(jié)構(gòu)提取的高維特征,用于后續(xù)的異常類型辨識及定位。同時,在全連接層加入Dropout[30]環(huán)節(jié),以降低模型發(fā)生過擬合的可能性,提高泛化能力。
為實(shí)現(xiàn)對特征的辨識,通常利用softmax 分類器對網(wǎng)絡(luò)的輸出結(jié)果進(jìn)行分類。傳統(tǒng)的softmax 屬于單層分類器,通過選擇全連接層輸出向量中最大元素,得到深度學(xué)習(xí)模型的分類結(jié)果,因此僅能針對單一問題進(jìn)行分類。為利用一個神經(jīng)網(wǎng)絡(luò)統(tǒng)一辨識配電物聯(lián)網(wǎng)異常類型和異動源位置,本文提出層級softmax 分類器,針對全連接層輸出向量,利用第一層級計算樣本屬于不同異常類型的概率,進(jìn)一步利用第二層級計算樣本異動源位于不同位置的概率,最后輸出兩層的綜合判斷結(jié)果。
三維特征提取網(wǎng)絡(luò)的監(jiān)督學(xué)習(xí)訓(xùn)練過程通過小批量梯度下降算法(SGDM)進(jìn)行,包含網(wǎng)絡(luò)初始化、前向傳播、反向傳播3 個步驟。
1)網(wǎng)絡(luò)初始化:訓(xùn)練前,按式(8)對三維卷積核和池化核參數(shù)進(jìn)行隨機(jī)初始化,從而使網(wǎng)絡(luò)獲得學(xué)習(xí)能力。
式中:kijl為三維卷積核或池化核中的元素;rand {·}表示取隨機(jī)數(shù)運(yùn)算。
2)前向傳播:每次以一組立方樣本矩陣Cxyt作為輸入,按照式(9),逐層經(jīng)過三維卷積運(yùn)算、池化運(yùn)算、全連接網(wǎng)絡(luò)運(yùn)算3 個環(huán)節(jié),得到輸出向量O,表示網(wǎng)絡(luò)判定該組輸入樣本對應(yīng)的異常類型和異動源位置。
式中:fC(·)表示三維卷積運(yùn)算過程;fS(·)表示池化過程;fF(·)表示全連接網(wǎng)絡(luò)運(yùn)算。
3)反向傳播:通過比較網(wǎng)絡(luò)輸出與訓(xùn)練數(shù)據(jù)標(biāo)簽之間的誤差,并按式(10)反向傳播至池化層和卷積層,向降低誤差的方向調(diào)整核參數(shù)。
式中:kxyt0和kxyt1分別為調(diào)整前后的核參數(shù);Bp(·)表示小批量梯度反向傳播的運(yùn)算過程;E12為網(wǎng)絡(luò)輸出與數(shù)據(jù)標(biāo)簽之間的誤差,通常表示為二者的方差;α為網(wǎng)絡(luò)的學(xué)習(xí)率,用于設(shè)定反向傳播過程的調(diào)整幅度。
訓(xùn)練過程基于SGDM 算法,將訓(xùn)練樣本分批輸入三維特征提取網(wǎng)絡(luò),進(jìn)行多次前向傳播與反向傳播過程。由于每批輸入樣本的梯度具有一定的隨機(jī)性,從而使模型在訓(xùn)練過程中更易跳出局部最優(yōu)點(diǎn)。隨著核參數(shù)隨訓(xùn)練過程的逐步調(diào)整,即可使網(wǎng)絡(luò)具備將輸入樣本映射到配電物聯(lián)網(wǎng)異常類型和異動源位置的能力。同時,為避免網(wǎng)絡(luò)優(yōu)化過程中的參數(shù)過擬合問題,本文在訓(xùn)練集生成過程中盡可能覆蓋配電物聯(lián)網(wǎng)的運(yùn)行場景,以使模型學(xué)習(xí)的規(guī)則和理想規(guī)則趨于一致[31],從而避免網(wǎng)絡(luò)參數(shù)過擬合問題。
深度學(xué)習(xí)算法運(yùn)算過程較為復(fù)雜,運(yùn)算時長難以滿足對配電網(wǎng)異常狀態(tài)的實(shí)時辨識。因此,本文用式(11)所示的異常度衡量每個特征幀相較于配電物聯(lián)網(wǎng)額定運(yùn)行狀態(tài)下特征幀的差異程度,當(dāng)異常度大于特定閾值時調(diào)用深度學(xué)習(xí)異常辨識算法,從而降低工程應(yīng)用時對服務(wù)器的算力要求。
式中:ΔD為當(dāng)前時刻特征幀的異常度;aij為當(dāng)前時刻特征幀第i行第j列的元素值;bij為電壓和負(fù)荷在正常范圍波動時特征幀第i行第j列元素的平均值;nij為額定運(yùn)行狀態(tài)下特征幀第i行第j列的元素值;X、Y分別為特征幀的行數(shù)和列數(shù)。
理論上,ΔD可以利用數(shù)學(xué)計算方法得到精確結(jié)果。但是,考慮到配電物聯(lián)網(wǎng)中異常場景的復(fù)雜性、通信流量變化的差異性,實(shí)際中難以通過理論計算得到該閾值。因此,本文利用仿真的方式覆蓋了異常場景中各個數(shù)據(jù)的取值范圍,通過試驗(yàn)的方式確定ΔD的取值。根據(jù)大量仿真結(jié)果,當(dāng)ΔD≥1.1時認(rèn)為配電物聯(lián)網(wǎng)出現(xiàn)異常狀態(tài)。
實(shí)際工程中的故障數(shù)據(jù)由于數(shù)量少、質(zhì)量低、標(biāo)簽不全,很難滿足深度學(xué)習(xí)的訓(xùn)練要求,本文考慮配電物聯(lián)網(wǎng)實(shí)際運(yùn)行特點(diǎn),利用1.3 節(jié)所述的IEEE 33節(jié)點(diǎn)配電物聯(lián)網(wǎng)仿真模型生成數(shù)量充足的典型樣本,用于異常辨識模型的訓(xùn)練。
配電物聯(lián)網(wǎng)運(yùn)行過程中,其電壓、負(fù)荷、異常位置、異常類型等均可能分布在一定范圍內(nèi),理論上有無窮種運(yùn)行場景。本文首先對上述可變參數(shù)取有限個典型值,見附錄A 表A1,對參數(shù)典型值進(jìn)行遍歷構(gòu)成22 400 個故障場景;隨后采集故障前后共0.1 s各節(jié)點(diǎn)對應(yīng)的配電終端通信流量、節(jié)點(diǎn)電壓、支路電流時序數(shù)據(jù),并記錄故障標(biāo)簽,生成典型參數(shù)數(shù)據(jù)集;最后,基于2.1 節(jié)所述方法,將每個節(jié)點(diǎn)對應(yīng)的支路電流、通信流量和每條干線的末端電壓時序數(shù)據(jù)構(gòu)建為17×17×50 的立方樣本矩陣,共生成22 400 組典型樣本數(shù)據(jù)集?;诘湫蜆颖緮?shù)據(jù)集對深度學(xué)習(xí)模型進(jìn)行訓(xùn)練,可以使模型通過學(xué)習(xí)得到異常辨識的規(guī)則,從而具備應(yīng)對相似“新樣本”的泛化能力,當(dāng)配電物聯(lián)網(wǎng)運(yùn)行場景與上述典型場景相近時,模型依然有效。
目前,神經(jīng)網(wǎng)絡(luò)層數(shù)的確定并沒有普適性方法,需要根據(jù)所解決的問題特點(diǎn)進(jìn)行試驗(yàn)。由于本文中的樣本立方矩陣由采集的電氣量和通信量構(gòu)成,其樣本特征與像素取值復(fù)雜度不高,利用深度較淺的網(wǎng)絡(luò)即可得到高精度的故障辨識結(jié)果。因此,本文基于復(fù)雜度適中的LeNet-5 網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計了深度學(xué)習(xí)網(wǎng)絡(luò),故障辨識模型中的特征提取網(wǎng)絡(luò)主體結(jié)構(gòu)采用“卷積層Ⅰ-池化層Ⅰ-卷積層Ⅱ-池化層Ⅱ”,在此基礎(chǔ)上需根據(jù)模型的訓(xùn)練效果調(diào)整結(jié)構(gòu)參數(shù)和超參數(shù),以生成效果較好、訓(xùn)練速度較快的異常辨識模型。網(wǎng)絡(luò)的結(jié)構(gòu)參數(shù)和超參數(shù)如表1 所示。
表1 特征提取網(wǎng)絡(luò)的結(jié)構(gòu)參數(shù)和超參數(shù)Table 1 Structure parameters and hyperparameters of feature extraction network
本文采取由結(jié)構(gòu)參數(shù)到超參數(shù)的分步調(diào)整步驟,具體如下。
1)將超參數(shù)設(shè)置為典型值,如附錄A 表A2 所示。根據(jù)輸入立方樣本矩陣的階數(shù)確定結(jié)構(gòu)參數(shù)的可選值,構(gòu)建結(jié)構(gòu)參數(shù)不同的多個特征提取網(wǎng)絡(luò),并利用典型樣本集對所有模型進(jìn)行訓(xùn)練和驗(yàn)證,記錄各組結(jié)構(gòu)參數(shù)下模型的準(zhǔn)確率和訓(xùn)練時間,如附錄A 圖A3 所示。根據(jù)不同結(jié)構(gòu)參數(shù)下模型的準(zhǔn)確率和訓(xùn)練時間,確定特征提取網(wǎng)絡(luò)的結(jié)構(gòu)參數(shù)。附錄A 圖A3 中net1~net20 表示不同結(jié)構(gòu)參數(shù)下的特征提取網(wǎng)絡(luò),具體結(jié)構(gòu)參數(shù)見附錄A 表A3,其中下標(biāo)Ⅰ、Ⅱ分別對應(yīng)層Ⅰ、層Ⅱ。由該結(jié)果可知,net10、net12 和net17 準(zhǔn)確率較高且訓(xùn)練時間較短,其網(wǎng)絡(luò)結(jié)構(gòu)較適合配電物聯(lián)網(wǎng)異常辨識問題。
2)針對net10、net12 和net17,進(jìn)一步利用控制變量法分別調(diào)整各超參數(shù)取值,記錄不同超參數(shù)下模型的準(zhǔn)確率和訓(xùn)練時間,附錄A 圖A4 和表A4 展示了net10、net12 和net17 在改變單一超參數(shù)時準(zhǔn)確率的分布情況。結(jié)果表明:Ba與準(zhǔn)確率呈非線性關(guān)系,其值增大有助于減小訓(xùn)練時間;α對準(zhǔn)確率和訓(xùn)練時間影響不大;β增大有助于提高準(zhǔn)確率,但增大到一定程度后對準(zhǔn)確率提升的效果較小,而與訓(xùn)練時間基本成正比;Dp增大對準(zhǔn)確率有小幅提升作用,且對訓(xùn)練時間影響不大。
根據(jù)上述測試結(jié)果,綜合考慮準(zhǔn)確率和訓(xùn)練時間,確定異常辨識模型的結(jié)構(gòu)參數(shù)和超參數(shù)如表2所示。將訓(xùn)練好的模型保存后,后續(xù)測試可直接調(diào)用模型進(jìn)行異常辨識和定位,無需重復(fù)訓(xùn)練。
表2 異常辨識模型結(jié)構(gòu)參數(shù)及超參數(shù)Table 2 Structure parameters and hyperparameters of anomaly identification model
調(diào)整配電物聯(lián)網(wǎng)交互仿真模型的參數(shù)形成不同于訓(xùn)練樣本的35 種參數(shù)組合,同時考慮32 種異常位置和4 種異常類型,共生成35×32×4=4 480 組故障數(shù)據(jù),構(gòu)成測試樣本集。以其中一組故障數(shù)據(jù)為例,當(dāng)電力網(wǎng)節(jié)點(diǎn)13 和14 之間的線路L14發(fā)生AB相接地短路故障時,附錄A 圖A5 展示了故障前后節(jié)點(diǎn)13 處的電氣量和智能終端通信流量變化情況,在-50~0 ms 時,電力網(wǎng)正常運(yùn)行,只觸發(fā)周期性數(shù)據(jù)流,在0~50 ms 時,電力網(wǎng)出現(xiàn)短路故障,會觸發(fā)相應(yīng)通信線路的隨機(jī)數(shù)據(jù)流和突發(fā)數(shù)據(jù)流。在交互仿真模型中,不同的異常類型會觸發(fā)OPNET 中異常節(jié)點(diǎn)相應(yīng)類型的數(shù)據(jù)流,從而產(chǎn)生不同特征的通信流量。
圖4 全連接層輸出結(jié)果Fig.4 Output results of full connection layer
圖4 表明,訓(xùn)練好的異常辨識模型能以較高的可靠性對輸入樣本對應(yīng)的異常類型和異動源位置進(jìn)行準(zhǔn)確辨識。對于圖4 所示結(jié)果,層級softmax 分類器輸出的綜合判斷結(jié)果為“A-14”,即輸入樣本表明配電物聯(lián)網(wǎng)異常類型為短路故障,且故障位置位于線路L14,辨識結(jié)果與實(shí)際異常類型和異動源位置一致。
將4 種異常類型共計4 480 組測試樣本均按上述過程依次輸入訓(xùn)練好的異常辨識模型進(jìn)行測試,共耗時40.86 ms,辨識結(jié)果如附錄A 圖A6 所示。由附錄A 圖A6 可見,測試樣本的異常類型均識別正確,其中A、B、D 這3 類異常的異動源位置均識別準(zhǔn)確,C 類異常中有59 組樣本的異動源位置識別錯誤,具體見附錄A 表A5,異動源位置準(zhǔn)確率為98.68%。結(jié)合附錄A 圖A1 所示拓?fù)浣Y(jié)構(gòu)進(jìn)行了分析,對于59 組異動源位置錯誤樣本,模型識別結(jié)果均與真實(shí)異動源位置相鄰,其主要原因在于相鄰位置發(fā)生異常狀態(tài)時在立方樣本矩陣中的特征極為相似。
為測試電氣量和通信流量數(shù)據(jù)分別對模型訓(xùn)練效果的影響,針對同樣的3D-CNN 網(wǎng)絡(luò)結(jié)構(gòu),分別利用電氣量數(shù)據(jù)、通信流量數(shù)據(jù)、電氣量和通信流量統(tǒng)一數(shù)據(jù)對模型進(jìn)行訓(xùn)練和測試,3 組數(shù)據(jù)集對應(yīng)的特征子像素如附錄A 圖A7 所示。
圖5 展示了3 組數(shù)據(jù)集訓(xùn)練過程的損失值和準(zhǔn)確率,3 組數(shù)據(jù)集訓(xùn)練過程的損失值均接近0,表明模型已經(jīng)對訓(xùn)練數(shù)據(jù)進(jìn)行了充分的擬合;當(dāng)僅利用電氣量數(shù)據(jù)訓(xùn)練模型時,訓(xùn)練集和驗(yàn)證集的準(zhǔn)確率趨勢相同,但增大到約90%時無法繼續(xù)提高;當(dāng)僅利用通信流量數(shù)據(jù)訓(xùn)練模型時,訓(xùn)練集準(zhǔn)確率約為50%,但驗(yàn)證集準(zhǔn)確率達(dá)到100%,說明模型出現(xiàn)了過擬合,說明單獨(dú)利用通信流量判斷異常類型和位置的可學(xué)習(xí)性較差。
將4 480 組測試集數(shù)據(jù)輸入上述3 個訓(xùn)練后的網(wǎng)絡(luò),全連接層的輸出可視化后如附錄A 圖A8 所示。結(jié)果表明,僅利用電氣量數(shù)據(jù)訓(xùn)練的網(wǎng)絡(luò)無法區(qū)分部分區(qū)域發(fā)生的異常類型A 和異常類型B,其綜合準(zhǔn)確率為89.67%;僅利用通信流量數(shù)據(jù)訓(xùn)練的網(wǎng)絡(luò)會將異常類型C 和異常類型D 完全混淆,部分異常類型B 也會定位錯誤,其綜合準(zhǔn)確率為50.00%;利用電氣量和通信流量綜合數(shù)據(jù)訓(xùn)練的網(wǎng)絡(luò)可以準(zhǔn)確判別4 種異常類型,且定位準(zhǔn)確率很高,其綜合準(zhǔn)確率為98.68%。
上述結(jié)果表明,由于配電物聯(lián)網(wǎng)出現(xiàn)異常狀態(tài)時電力網(wǎng)與通信網(wǎng)存在交互影響,僅電氣量數(shù)據(jù)或通信流量數(shù)據(jù)隱含的特征信息難以全面反映異常類型和位置,需要綜合提取異常后的電氣量和通信流量數(shù)據(jù)以準(zhǔn)確辨識異常類型和位置。
為測試針對時序數(shù)據(jù)時3D-CNN 相較于2D-CNN 的優(yōu)勢,基于文獻(xiàn)[16]中的二維矩陣直接排列構(gòu)建方法,首先對節(jié)點(diǎn)的電氣量和對應(yīng)通信鏈路的通信流量時序數(shù)據(jù)進(jìn)行與2.1 節(jié)相同的歸一化和間隔采樣過程,形成離散時間序列;然后,按照線路編號依次對上述時間序列進(jìn)行排列,從而形成二維樣本矩陣,構(gòu)建過程如附錄A 圖A9 所示。
附錄A 圖A10 展示了基于2D-CNN 的異常辨識模型訓(xùn)練過程的損失值和準(zhǔn)確率,相較于圖5(c)中的3D-CNN 訓(xùn)練過程,訓(xùn)練集和驗(yàn)證集的損失值隨著訓(xùn)練過程無明顯下降,且正確率較低。上述結(jié)果表明,基于直接排列形成的二維矩陣訓(xùn)練的2D-CNN 模型難以適用于配電物聯(lián)網(wǎng)異常類型辨識及定位問題。
圖5 基于單數(shù)據(jù)源和統(tǒng)一數(shù)據(jù)源的模型訓(xùn)練過程Fig.5 Model training process based on single data source and unified data source
從2D-CNN 和3D-CNN 的訓(xùn)練效果對比可以看出,若不采取經(jīng)過設(shè)計的樣本矩陣,2D-CNN 難以應(yīng)對較為復(fù)雜的時序數(shù)據(jù)特征提取和分類問題。當(dāng)均采用直接排列或堆疊方法構(gòu)建樣本矩陣時,3D-CNN 在提取時序數(shù)據(jù)特征方面具有較大優(yōu)勢。
由于配電物聯(lián)網(wǎng)中電力網(wǎng)與通信網(wǎng)高度耦合,二者在出現(xiàn)異常時會產(chǎn)生交互影響,單獨(dú)采用電力網(wǎng)或通信網(wǎng)的異動信息難以全面、準(zhǔn)確地進(jìn)行異常類型和位置的判斷。針對上述問題,本文引入了3D-CNN 綜合提取電力網(wǎng)和通信網(wǎng)的時序異動信息,實(shí)現(xiàn)了配電物聯(lián)網(wǎng)異常類型和位置的統(tǒng)一判定。通過理論和算例分析結(jié)果可以得出如下結(jié)論:
1)配電物聯(lián)網(wǎng)出現(xiàn)異常時,由于電力網(wǎng)和通信網(wǎng)都存在異動信息,單獨(dú)采用電力網(wǎng)或通信網(wǎng)異動信息時難以區(qū)分不同的異常類型,準(zhǔn)確率較低;
2)3D-CNN 在數(shù)據(jù)預(yù)處理階段無需復(fù)雜的數(shù)學(xué)計算方法,通過對時序數(shù)據(jù)的依次堆疊即可形成效果較好的立方樣本矩陣,其異常類型辨識及定位效果優(yōu)于使用直接排列二維矩陣的2D-CNN;
3)本文構(gòu)建的立方樣本矩陣可以反映配電物聯(lián)網(wǎng)異常前后的動態(tài)過程,利用3D-CNN 提取立方樣本矩陣中隱含的異動信息,可以實(shí)現(xiàn)對電力網(wǎng)短路故障、通信中斷故障、通信數(shù)據(jù)異常引起的保護(hù)誤動和拒動等幾種異常的準(zhǔn)確分類和定位。
多種傳感監(jiān)測裝置的引入為配電網(wǎng)的態(tài)勢感知提供了數(shù)據(jù)基礎(chǔ),在本文構(gòu)建的立方樣本矩陣的基礎(chǔ)上,融入更多類型的傳感監(jiān)測數(shù)據(jù),實(shí)現(xiàn)配電網(wǎng)的精確運(yùn)行態(tài)勢感知,是后續(xù)研究的方向之一。
附錄見本刊網(wǎng)絡(luò)版(http://www.aeps-info.com/aeps/ch/index.aspx),掃英文摘要后二維碼可以閱讀網(wǎng)絡(luò)全文。