基于改進生成對抗網(wǎng)絡(luò)的虛假數(shù)據(jù)注入攻擊檢測方法

夏云舒,王勇,周林,樊汝森

(1.上海電力大學計算機科學與技術(shù)學院,上海市 200120；2.國網(wǎng)上海電力公司青浦供電公司，上海市 201799)

0 引 言

隨著智能電網(wǎng)建設(shè)的不斷推進，傳統(tǒng)電力系統(tǒng)與信息控制設(shè)備及通信傳感網(wǎng)絡(luò)深度融合,形成電力信息物理系統(tǒng) (cyber physical system,CPS)。新型能源互聯(lián)網(wǎng)含有高比例的分布式新能源，是一個大型的電力CPS，能更有效地發(fā)揮信息融合帶來的優(yōu)勢，但也更容易遭受網(wǎng)絡(luò)攻擊[1]。網(wǎng)絡(luò)攻擊不僅會破壞信息系統(tǒng)的正常功能，還可能傳導至物理系統(tǒng)，威脅電力系統(tǒng)的安全運行[2]。虛假數(shù)據(jù)注入攻擊(false data injection attack,FDIA)是一種破壞電網(wǎng)信息完整性的網(wǎng)絡(luò)攻擊，它通過篡改電網(wǎng)量測數(shù)據(jù)，引起電網(wǎng)誤動或拒動，是對電力系統(tǒng)威脅程度較高的攻擊方式之一[3]。因此，研究如何提高FDIA檢測率對于能源互聯(lián)網(wǎng)安全運行有重要意義。

傳統(tǒng)的FDIA檢測方法主要基于狀態(tài)估計。文獻[4]使用自適應(yīng)卡爾曼濾波對系統(tǒng)內(nèi)部狀態(tài)和噪聲作出估計；文獻[5]在掌握電網(wǎng)局部信息的情況下，針對單節(jié)點與多節(jié)點攻擊場景提出一種基于非線性狀態(tài)估計的模型；文獻[6]提出了一種基于節(jié)點時間相關(guān)性的短期狀態(tài)預(yù)測方法，通過計算實際得到的量測量與預(yù)測得到的量測量的一致性判斷是否發(fā)生攻擊。

隨著能源互聯(lián)網(wǎng)的建設(shè)與發(fā)展，量測數(shù)據(jù)的規(guī)模日益增長，傳統(tǒng)FDIA檢測方法逐漸難以應(yīng)對。近年來，基于人工智能的FDIA 檢測方法被提出，如支持向量回歸[7]、卷積神經(jīng)網(wǎng)絡(luò)[8]、長短期記憶(long short-term memory,LSTM)網(wǎng)絡(luò)[9]等。這類方法不需要預(yù)先獲取電力系統(tǒng)的模型參數(shù)信息，有強大的計算能力，能夠快速、大規(guī)模地檢測攻擊。然而，基于人工智能的FDIA檢測方法存在嚴重的數(shù)據(jù)不平衡問題。由于FDIA發(fā)生的頻率低，目前在真實電網(wǎng)中還沒有捕獲FDIA的實例[10]，直接在不平衡的數(shù)據(jù)集上訓練得到的算法性能較差[11]，很可能造成誤判。

目前解決數(shù)據(jù)不平衡問題的方法主要基于算法層面和數(shù)據(jù)層面[12]。前者對傳統(tǒng)分類算法進行改進以提高算法對少數(shù)類樣本的識別能力，如集成學習法、代價敏感法；后者通過數(shù)據(jù)欠采樣、過采樣等技術(shù)調(diào)整樣本數(shù)據(jù)的分布。少類樣本合成過采樣技術(shù)(synthetic minority oversampling technique,SMOTE)通過線性插值在2個少數(shù)類樣本間合成新的樣本[13]，是一種經(jīng)典的數(shù)據(jù)過采樣方法。但在面臨不同類型的不平衡數(shù)據(jù)(如大數(shù)據(jù)、流數(shù)據(jù)、高維數(shù)據(jù)、數(shù)值型標簽數(shù)據(jù))時SMOTE方法還存在一些缺陷[14]。

生成對抗網(wǎng)絡(luò)(generative adversarial network,GAN)能夠?qū)W習復(fù)雜數(shù)據(jù)的概率分布并生成人工樣本[15-16]，已被應(yīng)用于生成電網(wǎng)中不同類型的數(shù)據(jù)。文獻[17]使用WGAN(Wasserstein GAN)生成電網(wǎng)量測數(shù)據(jù)，解決由于數(shù)據(jù)敏感，研究者難以獲取真實可信數(shù)據(jù)的問題；文獻[18]通過訓練GAN生成FDIA攻擊數(shù)據(jù)，達到在電力市場中獲得經(jīng)濟利益的目的；文獻[19]使用cGAN(conditional GAN)構(gòu)建能夠逃過電網(wǎng)不良數(shù)據(jù)檢測機制的FDIA；文獻[20]訓練GAN學習電網(wǎng)正常運行場景下的量測數(shù)據(jù)分布，以恢復(fù)FDIA下電力CPS數(shù)據(jù)的完整性。

鑒于以上分析，若能訓練GAN生成高質(zhì)量的正常量測數(shù)據(jù)與FDIA攻擊數(shù)據(jù)，對于解決電力CPS缺少真實數(shù)據(jù)、數(shù)據(jù)不平衡導致攻擊檢測率低等問題具有多重意義。為此，本文首先考慮GAN訓練不穩(wěn)定、模式崩塌等問題對生成數(shù)據(jù)質(zhì)量的影響，設(shè)計結(jié)構(gòu)更穩(wěn)定的CTGAN(conditional tabular GAN)；其次，考慮接入分布式能源后能源互聯(lián)網(wǎng)各量測數(shù)據(jù)間的相互影響，使用Copula函數(shù)構(gòu)建電力系統(tǒng)狀態(tài)變量間的空間相關(guān)性；然后，使用改進的GAN對FDIA數(shù)據(jù)過采樣，提出基于極端隨機樹(extremely randomized trees,ET)的FDIA檢測模型，解決數(shù)據(jù)不平衡問題。此外，構(gòu)建數(shù)據(jù)有效性指標，基于多個分類器的性能評估生成數(shù)據(jù)所包含的有效信息。最后，通過對比實驗對所提方法進行驗證。

1 相關(guān)技術(shù)原理

1.1 原始生成對抗網(wǎng)絡(luò)

原始生成對抗網(wǎng)絡(luò)由兩個互相博弈的神經(jīng)網(wǎng)絡(luò)組成，分別為生成器(generator,G)與判別器(discriminator,D)。生成器負責生成新數(shù)據(jù)，判別器負責判斷生成數(shù)據(jù)的好壞。在這個零和博弈的過程中，判別器旨在分辨真實數(shù)據(jù)與生成數(shù)據(jù)，生成器旨在生成足夠真實的數(shù)據(jù)，使判別器無法準確分辨數(shù)據(jù)的真假，這2個網(wǎng)絡(luò)同時訓練，直到達到納什平衡。GAN的目標函數(shù)如式(1)所示：

(1)

1.2 改進的生成對抗網(wǎng)絡(luò)

原始GAN在設(shè)計之初主要用于生成圖像樣本，圖像的像素值近似服從高斯分布。然而，許多表格類數(shù)據(jù)(tabular data)不服從高斯分布且存在多模態(tài)，直接使用原始GAN會遇到梯度消失、模式崩塌、不收斂等問題。為了增強原始GAN學習表格類數(shù)據(jù)的能力，并捕捉數(shù)據(jù)間的相關(guān)性，CopulaGAN將CTGAN與Copula函數(shù)結(jié)合[21-22]，使用高斯Copula函數(shù)學習數(shù)據(jù)的概率分布，描述隨機變量間的關(guān)聯(lián)，并改進了原始GAN的網(wǎng)絡(luò)結(jié)構(gòu)和學習步驟。

Copula函數(shù)可用于描述隨機變量間的非線性相關(guān)性，近年來受到廣泛關(guān)注[23]。設(shè)電網(wǎng)量測數(shù)據(jù)中n維隨機變量x=(x1,x2,…,xn)，其中xk(k=1,2,…,n)的邊緣分布函數(shù)為F(xk)，令uk=F(uk)，故uk為服從[0,1]間均勻分布的隨機變量，則聯(lián)合概率分布函數(shù)H(x)與Copula分布函數(shù)C(u)(u=(u1,u2,…,un))之間的關(guān)系如式(2)所示：

H(x)=H(x1,x2,…,xn)=C(u1,u2,…,un)=C(u)

(2)

對式(2)求導可得到對應(yīng)的聯(lián)合概率密度函數(shù)，如式(3)所示：

(3)

式中：f(x1,x2,…,xn)為聯(lián)合概率密度分布；c(u)為n維Copula密度函數(shù)，表示相關(guān)性結(jié)構(gòu)；f(xk)為xk的邊緣概率密度函數(shù)。

1.3 極端隨機樹算法

隨機森林(random forest，RF)是一種基于Bagging理論的集成學習算法，它不容易陷入過擬合，對噪聲和異常值有較好的容忍性，對高維數(shù)據(jù)分類問題有良好的可擴展性和并行性[24]。

極端隨機樹是在隨機森林的基礎(chǔ)上改進得到的，具有更強的隨機性[25]。在構(gòu)成決策樹時，它使用所有的訓練樣本，保證了訓練樣本的利用率；在劃分節(jié)點時，它對分裂閾值設(shè)置進一步的隨機，保證每顆決策樹間的結(jié)構(gòu)差異，減少過擬合。因此，使用極端隨機樹算法構(gòu)建攻擊檢測分類器能夠提高少數(shù)類樣本的利用率，提升模型的泛化能力。

2 基于CopulaGAN的FDIA檢測模型

基于CopulaGAN的FDIA檢測框架如圖1所示，由CopulaGAN模型訓練、FDIA攻擊檢測、模型評估3部分組成。首先，通過CopulaGAN生成器與判別器的對抗訓練，得到能夠同時生成正常量測數(shù)據(jù)與攻擊數(shù)據(jù)的數(shù)據(jù)增強模型；然后，使用該模型對FDIA數(shù)據(jù)過采樣，得到平衡的攻擊檢測數(shù)據(jù)集，并使用極端隨機樹分類器進行攻擊檢測；最后，使用數(shù)據(jù)增強模型生成相同數(shù)目的正常量測數(shù)據(jù)與攻擊數(shù)據(jù)，得到一個平衡的數(shù)據(jù)集。以該數(shù)據(jù)集為訓練集，原始數(shù)據(jù)集為測試集構(gòu)建多個分類器，利用分類器在測試集上的性能指標評估CopulaGAN模型生成數(shù)據(jù)的有效性。

圖1 基于CopulaGAN的FDIA檢測框架Fig.1 Structure of FDIA detection based on CopulaGAN method

2.1 CopulaGAN模型訓練

步驟1：數(shù)據(jù)預(yù)處理。能源互聯(lián)網(wǎng)作為一個整體，其中各量測值之間相互影響。采用單一GAN難以采集不同數(shù)據(jù)樣本間的聯(lián)系，生成的訓練數(shù)據(jù)與實際電網(wǎng)數(shù)據(jù)具有較大差別。因此，通過對原始樣本中的隨機變量進行概率積分變換，使變換后的樣本在服從高斯分布的基礎(chǔ)上，仍保持數(shù)據(jù)間的相關(guān)性，根據(jù)變換后的樣本生成接近真實電網(wǎng)的數(shù)據(jù)，使訓練過程更加精確，具體步驟如下：

1)將原始電力CPS量測數(shù)據(jù)集分為訓練集和測試集。

2)使用高斯Copula函數(shù)學習數(shù)據(jù)的概率分布，描述訓練集中的n維隨機變量間的關(guān)聯(lián)關(guān)系并轉(zhuǎn)換數(shù)據(jù)。

3)對轉(zhuǎn)換后的數(shù)據(jù)進行歸一化。對于離散值，使用獨熱編碼處理；對于連續(xù)值，具體轉(zhuǎn)換策略如下：

(1)使用變分高斯混合模型估計隨機變量的模態(tài)個數(shù)，擬合得到高斯混合分布；

(2)計算數(shù)據(jù)在每個模態(tài)中的概率，得出概率密度函數(shù)；

(3)由給定的概率密度函數(shù)采樣得到模態(tài)，并用此模態(tài)對數(shù)據(jù)進行歸一化處理。

步驟2：GAN結(jié)構(gòu)設(shè)計。首先，為了確保訓練過程穩(wěn)定、收斂快速，引入WGAN-GP(Wasserstein GAN with gradient penalty)[26]中梯度懲罰的概念，把Lipchitz限制作為一個正則項加到Wasserstein損失上，如式(4)所示：

(4)

其次，為了捕獲數(shù)據(jù)之間所有可能的關(guān)聯(lián)關(guān)系，使用全連接網(wǎng)絡(luò)。對于生成器，使用批標準化(batch normalization)和ReLU激活函數(shù)，標量值由tanh函數(shù)激活，離散值由softmax函數(shù)激活；判別器中，在每個隱藏層上使用leaky ReLU函數(shù)和dropout方法。此外，使用Adam優(yōu)化器，設(shè)置生成器與判別器的學習率衰減率，衰減率為10-6。并采用打包生成對抗網(wǎng)絡(luò)(packing GAN,PacGAN)[27]的方法，在將樣本傳遞給判別器之前，將同一類別的n個樣本(本文選取n=10)打包，使得判別器能夠同時看見多個樣本，從一定程度上防止模式崩塌。

步驟3：調(diào)整超參數(shù)。本文使用基于高斯Copula過程的貝葉斯優(yōu)化方法[28]尋找GAN模型的最優(yōu)超參數(shù)，設(shè)計相似性分數(shù)A為優(yōu)化目標。貝葉斯優(yōu)化在選擇參數(shù)時考慮了選擇的方向問題，可以縮短尋優(yōu)時間，減少尋優(yōu)過程的盲目性，基于Copula過程的貝葉斯優(yōu)化方法把邊緣參數(shù)變量變換為均勻分布參數(shù)變量，無需考慮參數(shù)的邊緣分布，簡化參數(shù)尋優(yōu)過程。具體步驟如下：

1)對判別器和生成器進行交替對抗訓練。

2)每訓練得到一個模型，就生成一個包含相同數(shù)目正常運行數(shù)據(jù)和FDIA數(shù)據(jù)的數(shù)據(jù)集，并對該數(shù)據(jù)集進行反歸一化處理。

3)使用K-S檢驗(Kolmogorov-Smirnov test)和KL散度(Kullback-Leibler divergence,KLD)計算數(shù)據(jù)集與訓練集之間數(shù)據(jù)的相似性，得到相似性分數(shù)A。

4)以相似性分數(shù)A為目標，尋找模型的超參數(shù)。GAN生成的數(shù)據(jù)與原數(shù)據(jù)越接近，A越接近于1，以得分最高時獲得的超參數(shù)作為CopulaGAN模型的最優(yōu)超參數(shù)。

2.2 FDIA攻擊檢測

CopulaGAN模型捕捉樣本間的關(guān)聯(lián)性，生成大量攻擊樣本，使極端隨機樹分類器在提升少數(shù)類樣本訓練精度的同時選取更全面的特征來尋找全局最優(yōu)的分裂屬性，增強分類效果。具體步驟如下：

步驟1：數(shù)據(jù)過采樣。使用CopulaGAN模型對訓練集的FDIA數(shù)據(jù)過采樣，得到平衡的訓練集，用于攻擊檢測分類器的訓練。

步驟2：構(gòu)建極端隨機樹分類器。

1)基于CART決策樹算法生成基分類器，隨機有放回地從攻擊檢測數(shù)據(jù)集中抽取所有樣本，作為基分類器的訓練集。

2)隨機地從訓練集所有特征中選取m個特征，作為待選擇特征庫。以基尼指數(shù)或信息增益熵選擇最優(yōu)屬性進行分裂，且分裂過程不剪枝，對分裂產(chǎn)生的子集進行進一步分裂直到生成一顆決策樹。

3)重復(fù)2)，得到由多顆決策樹集成的極端隨機樹。

4)使用極端隨機樹識別測試集的量測數(shù)據(jù)是否被篡改。

步驟3：分類效果評價。使用混淆矩陣呈現(xiàn)分類器的預(yù)測結(jié)果，二分類算法檢測FDIA得到的混淆矩陣如表1所示。

表1 二分類混淆矩陣Table 1 Confusion matrix for binary classification

算法性能的評估指標可通過混淆矩陣計算，如準確率(ηAccuracy)、查準率(ηPrecision)、查全率(ηRecall)以及查準率與查全率的調(diào)和平均值F1值(ηF1)：

(5)

(6)

(7)

(8)

在檢測FDIA時，相比于將正常運行樣本預(yù)測為FDIA樣本的誤判情況，將FDIA樣本預(yù)測為正常運行樣本的漏檢情況會導致更加嚴重的后果。因此，在預(yù)測結(jié)果準確率較高的情況下，算法的查全率越高，檢測效果越好。

2.3 數(shù)據(jù)增強模型評估

CopulaGAN模型能夠生成大量的正常運行量測數(shù)據(jù)和FDIA數(shù)據(jù)，通過調(diào)整模型的超參數(shù)可以確保模型生成的數(shù)據(jù)與原始數(shù)據(jù)相似，并以相似性分數(shù)A表示。然而，生成的數(shù)據(jù)不僅需要與原始數(shù)據(jù)有較高的相似性，還需要提供有效信息，使得分類器充分學習樣本的特征，提高分類器的性能。

因此，本文設(shè)計數(shù)據(jù)有效性指標評估CopulaGAN模型生成數(shù)據(jù)的有效性，生成數(shù)據(jù)包含越多的有效信息，分類器的性能越好，具體步驟如下：

1)假設(shè)訓練集中正常運行量測數(shù)據(jù)的樣本數(shù)為q，使用CopulaGAN模型分別生成q個正常運行數(shù)據(jù)樣本和q個FDIA數(shù)據(jù)樣本作為模型評估的訓練集。

2)使用多種經(jīng)典機器學習算法構(gòu)建多個攻擊檢測分類器，在訓練集上訓練，在原始測試集上測試。

3)以分類器的準確率、F1值為指標評估CopulaGAN模型生成數(shù)據(jù)所包含的有效信息。

3 算例分析

3.1 數(shù)據(jù)集描述

本文使用的數(shù)據(jù)集來源于密西西比州立大學和美國橡樹嶺國家實驗室[29]，包含6類不同程度FDIA攻擊場景(場景0至5)、1類電力系統(tǒng)正常運行場景(場景6)。攻擊者通過改變參數(shù)值(如電流、電壓、序列分量等)模擬有效故障，使操作員誤判電力系統(tǒng)的運行情況并誤操作。算例選取這7類場景作為FDIA檢測數(shù)據(jù)集，每條樣本中包含4個同步相量量測單元(phasor measurement unit,PMU)量測得到的三相電壓幅值、電壓相角、電流幅值、電流相角。為保持數(shù)據(jù)分布的一致性、減少過擬合，按照6∶2∶2的比例使用分層采樣法將數(shù)據(jù)集劃分為訓練集、驗證集和測試集。表2記錄了訓練集中各類場景的具體情況。實驗在Python3.8環(huán)境下完成。

表2 訓練集中各類場景的具體描述Table 2 Description of the training set

3.2 數(shù)據(jù)增強模型訓練與評估

使用基于高斯Copula過程的貝葉斯優(yōu)化方法尋找GAN模型的最優(yōu)超參數(shù)，以相似性分數(shù)A為優(yōu)化目標，訓練50輪，超參數(shù)優(yōu)化結(jié)果如表3所示。

表3 模型超參數(shù)優(yōu)化結(jié)果Table 3 Hyperparameters of the model

使用GAN模型分別生成7類場景的數(shù)據(jù)各3 524條，得到用于模型評估的平衡數(shù)據(jù)集，該數(shù)據(jù)集的相似性分數(shù)A如表4所示。

表4 生成數(shù)據(jù)的相似性分數(shù)Table 4 Similarity score of synthetic data

由表4可見，調(diào)參后，模型生成的正常運行數(shù)據(jù)得分均在0.85以上，F(xiàn)DIA數(shù)據(jù)得分均在0.88以上。由此可見，GAN可以作為一種數(shù)據(jù)增強方法，生成大量與原始數(shù)據(jù)相似的量測數(shù)據(jù)。

為了評估GAN數(shù)據(jù)增強模型，分別基于ET、RF、XGBoost集成學習算法在模型評估數(shù)據(jù)集上訓練多個分類器，根據(jù)分類器在原始測試集上的準確率、F1值指標評估合成數(shù)據(jù)的有效性，結(jié)果如圖2所示。

圖2 生成數(shù)據(jù)的有效性評估Fig.2 Effectiveness evaluation of synthetic data

由圖2可見，調(diào)參后的CopulaGAN提高了每個分類器的性能，這說明GAN模型生成的數(shù)據(jù)能夠在分類器訓練時提供有效信息，且CopulaGAN對算法性能的提升效果略高于CTGAN。

3.3 FDIA檢測結(jié)果對比

在原始數(shù)據(jù)集上使用ET算法構(gòu)建攻擊檢測分類器，與Adaboost、K鄰近算法(k-nearest neighbors，KNN)、RF、XGBoost進行對比，算法的準確率如表5所示。

表5 各種算法在原始數(shù)據(jù)集上的準確率Table 5 Accuracy of algorithms on original dataset

由表5可見，ET算法的準確率達到93%，遠高于其他機器學習算法，這是因為在訓練的過程中ET算法充分使用了所有的訓練樣本，且在劃分節(jié)點時保證了每顆決策樹間的結(jié)構(gòu)差異，提高了分類性能。

對FDIA攻擊數(shù)據(jù)進行過采樣得到平衡的訓練集后，將編號為0至5的6類不同程度的FDIA重新編號為1，編號為6的正常運行數(shù)據(jù)重新編號為0，如圖3所示，得到FDIA檢測的混淆矩陣。

圖3 FDIA檢測混淆矩陣Fig.3 Confusion matrix of FDIA detection

分別使用調(diào)參后的GAN模型、隨機過采樣法(random over-sampling,ROS)、SMOTE方法對原始數(shù)據(jù)集中的FDIA攻擊數(shù)據(jù)進行過采樣得到平衡的訓練集，使用ET算法構(gòu)建攻擊檢測分類器，得到的準確率、查全率如表6所示。

由表6可見，相對于其他數(shù)據(jù)過采樣方法，CopulaGAN模型提高了ET算法的準確率、查全率，減少了FDIA漏檢的次數(shù)。本文提出的基于CopulaGAN-ET的檢測方法對FDIA的檢測率達到98.95%。

表6 各數(shù)據(jù)過采樣方法下ET算法的性能Table 6 Performance of ET algorithm with diffrent oversampling methods

4 結(jié) 論

針對新型能源互聯(lián)網(wǎng)中FDIA攻擊檢測的數(shù)據(jù)不平衡問題，本文提出一種基于改進生成對抗網(wǎng)絡(luò)和極端隨機樹算法的攻擊檢測方法。在電力系統(tǒng)攻擊數(shù)據(jù)集上進行實驗，得到以下結(jié)論：

1)CopulaGAN模型能夠合成質(zhì)量較高的電力CPS正常量測數(shù)據(jù)與攻擊數(shù)據(jù)，解決了現(xiàn)實中電力量測數(shù)據(jù)不足的問題。

2)相較于KNN、Adaboost、隨機森林等經(jīng)典機器學習算法，ET算法能夠減少攻擊檢測分類器誤判攻擊的情況，有效提高FDIA檢測的準確率。

3)相較于隨機過采樣、SMOTE方法，本文數(shù)據(jù)增強方法能夠提高FDIA檢測率，減少漏檢事件的發(fā)生。

4)使用GAN時通常不需要定義規(guī)則或約束，便于推廣應(yīng)用于合成電力CPS中各種類型的數(shù)據(jù)。

未來，除了進一步提升GAN生成數(shù)據(jù)的精度，還可以研究GAN在新型能源互聯(lián)網(wǎng)的數(shù)據(jù)隱私保護、數(shù)據(jù)壓縮中的應(yīng)用。