基于深度集成學(xué)習(xí)的類極度不均衡數(shù)據(jù)信用欺詐檢測算法

劉 穎 楊 軻

1(吉林財(cái)經(jīng)大學(xué)管理科學(xué)與信息工程學(xué)院 長春 130117) 2(吉林財(cái)經(jīng)大學(xué)稅務(wù)學(xué)院 長春 130117)

(lyaihua1995@163.com)

經(jīng)濟(jì)全球化背景下，金融衍生品的加速膨脹導(dǎo)致市場波動加劇、信用欺詐行為不斷出現(xiàn).信用欺詐識別是通過挖掘征信數(shù)據(jù)中蘊(yùn)含的客觀規(guī)律而對申請人信用等級進(jìn)行劃分，其本質(zhì)屬于二分類問題.然而，在構(gòu)建信用分類模型時，信用樣本的涌現(xiàn)性使得少數(shù)類樣本點(diǎn)很少，即在獲取大量的實(shí)際樣本中，真正存在欺詐行為的樣本點(diǎn)遠(yuǎn)少于非欺詐行為樣本點(diǎn).在處理這種樣本不均衡信用欺詐數(shù)據(jù)時，錯誤識別一個信用差的客戶往往要比誤分一個信用好的客戶給企業(yè)造成的損失大.因此，提升模型對不平衡數(shù)據(jù)的分類效果成為信用欺詐識別領(lǐng)域的研究重點(diǎn).

目前，解決類不均衡問題的相關(guān)研究主要集中于重采樣方法和集成算法2方面.重采樣方法包括欠采樣和過采樣2種.其中過采樣方法以合成少數(shù)類技術(shù)(synthetic minority oversampling technique, SMOTE)[1]為主要代表，并在所選樣本近鄰之間插入數(shù)據(jù)以實(shí)現(xiàn)類均衡.雖然歷經(jīng)數(shù)十年該方法已經(jīng)發(fā)展成為解決類不均衡問題的經(jīng)典方法，但SMOTE的算法仍然存在其自身的缺陷.Nguyen等人[2]在2009年以支持向量機(jī)(support vector machine, SVM)處理類不均衡數(shù)據(jù)為例，實(shí)驗(yàn)指出當(dāng)分類樣本重疊時，通過SMOTE隨機(jī)采樣可實(shí)現(xiàn)SVM分類器在重疊區(qū)域的無偏估計(jì).然而如果少數(shù)類樣本距離理想邊界相對較遠(yuǎn)或者有效樣本過少，便很難利用SMOTE隨機(jī)插值法擴(kuò)張少數(shù)樣本.也就是說，當(dāng)理想樣本數(shù)量較少，或者樣本存在一定數(shù)量的噪聲、離群點(diǎn)時，SMOTE方法在某種程度上會放大無效樣本的影響，進(jìn)而降低分類精度.針對這一問題，學(xué)者們提出其他改進(jìn)SMOTE方法，如BorderlineSMOTE[3]，KMeansSMOTE[4]，Generative Adversarial Networks[5].

為了減少訓(xùn)練集不完善對分類性能的影響，學(xué)者們也提出集成方法處理類不均衡問題.Chen等人[6]提出對隨機(jī)森林(random forest, RF)分類器進(jìn)行樣本再平衡，在RF每次迭代的過程中，對不同類別樣本的采樣數(shù)量加以控制：分別從少數(shù)類和多數(shù)類樣本中有放回地抽取一定數(shù)量的樣本.Liu等人[7]提出Easy Ensemble算法，綜合運(yùn)用欠采樣和AdaBoost算法解決欠采樣方法丟失多數(shù)類樣本有效信息的不足.具體而言，將多數(shù)類樣本分成若干個與少數(shù)類樣本集相同大小的子集，對每一個多數(shù)類樣本的子集，將其與少數(shù)類樣本合并后訓(xùn)練基分類器，最后利用AdaBoost算法集成.此外，Seiffert等人[8]提出RUSBoost算法，在AdaBoost的每次迭代過程中，隨機(jī)抽取與少數(shù)類樣本數(shù)量相同的多數(shù)類樣本訓(xùn)練迭代分類器，綜合運(yùn)用隨機(jī)欠采樣和AdaBoost來處理類不均衡問題.Sun等人[9]構(gòu)建一種裝袋法(bagging)集成，即在類不均衡數(shù)據(jù)集中抽取若干均衡數(shù)據(jù)子集得到基分類器，最終通過集成規(guī)則預(yù)測輸出訓(xùn)練結(jié)果.Díez-Pastor等人[10]研究隨機(jī)均衡集成，利用特定分類器考慮受試者工作特征曲線(receiver operator characteristic curve, ROC)上不同的執(zhí)行點(diǎn)，輸出更大的曲線下面積(area under curve, AUC)值.夏利宇等人[11]提出迭代重抽樣集成模型，在欠抽樣的迭代中不斷優(yōu)化模型對于多數(shù)類和少數(shù)類樣本的傾斜，并通過我國征信數(shù)據(jù)證明了該模型可以顯著降低金融機(jī)構(gòu)的違約風(fēng)險.

大數(shù)據(jù)時代的金融改革背景下，半結(jié)構(gòu)、非結(jié)構(gòu)化數(shù)據(jù)大量涌現(xiàn)，深度學(xué)習(xí)作為一種端到端的數(shù)據(jù)驅(qū)動方法，越來越多的被學(xué)者應(yīng)用于信用欺詐識別[12].Sohony等人[13]采用綜合隨機(jī)森林和神經(jīng)網(wǎng)絡(luò)集成算法處理類不均衡問題.Kazemi等人[14]提出使用深度自動編碼器從交易數(shù)據(jù)樣本中提取合適特征，并基于這些特征使用Softmax網(wǎng)絡(luò)識別樣本類別.Roy等人[15]使用云計(jì)算環(huán)境分析證明了神經(jīng)網(wǎng)絡(luò)及其拓?fù)浣Y(jié)構(gòu)在處理信用欺詐問題中的顯著表現(xiàn).Luo等人[16]利用深度信念神經(jīng)網(wǎng)絡(luò)(deep belief neural network, DBN)建立信用評估模型對信用違約互換(credit default swaps, CDS)數(shù)據(jù)進(jìn)行評估，并將其表現(xiàn)與邏輯回歸(logistic regression, LR)、多層感知器(multilayer perceptron, MLP)、SVM等傳統(tǒng)機(jī)器學(xué)習(xí)算法比較，證實(shí)了DBN擁有最為優(yōu)異的AUC值.Kim等人[17]基于韓國信用卡公司的實(shí)際數(shù)據(jù)，使用冠軍-挑戰(zhàn)者測試(champion-challenger)框架分別構(gòu)建和比較Bagging集成算法和前饋神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)模型，實(shí)驗(yàn)表明前饋神經(jīng)網(wǎng)絡(luò)算法的復(fù)雜神經(jīng)元更適合處理高維、復(fù)雜的信用欺詐數(shù)據(jù).

上述方法均能在一定程度上解決不平衡數(shù)據(jù)分類問題，但仍然存在兩大不足：1)評估指標(biāo)體系不完善.多數(shù)文獻(xiàn)仍然基于總體分類準(zhǔn)確率為目標(biāo)，必然導(dǎo)致過度關(guān)注信用好的多數(shù)類樣本，忽視信用差的少數(shù)類樣本.2)較少考慮類極度不均衡問題.部分顯示所處理類不均衡數(shù)據(jù)比例(少數(shù)類樣本與多數(shù)類樣本比值)通常不超過1∶10，而在現(xiàn)實(shí)的信用欺詐檢測中，樣本比例往往會達(dá)到1∶50，甚至更高.在這種類極度不均衡情況下，算法的設(shè)計(jì)和測試將面臨極大挑戰(zhàn).本文提出一種基于深度信念神經(jīng)網(wǎng)絡(luò)集成的類極度不均衡信用欺詐算法.一方面提出雙向聯(lián)合采樣法抽取樣本，融合欠采樣和過采樣方法平衡數(shù)據(jù)集.同時，為了克服SVM在處理極度不均衡數(shù)據(jù)分類超平面偏移問題，將SVM結(jié)合RF生成基分類器簇，利用DBN集成輸出.另一方面，提出成本-效益指數(shù)，以量化的成本收入改善評價性能.最后，論文以真實(shí)發(fā)生的歐洲信用卡欺詐數(shù)據(jù)進(jìn)行測試，并與傳統(tǒng)機(jī)器學(xué)習(xí)算法和類不均衡經(jīng)典算法進(jìn)行性能對比.

1 相關(guān)工作

1.1 支持向量機(jī)(SVM)

SVM[18]于20世紀(jì)60年代提出，主要任務(wù)是在處理二分類問題中尋求最優(yōu)超平面.考慮一個有m個樣本的n維樣本集{(X1,y1),(X2,y2),…,(Xm,ym)}，其中，第i個樣本的特征為Xi=(x1,x2,…,xn)，第i個樣本的類標(biāo)簽為yi∈{0,1}，超平面定義為

W·X+b=0，

(1)

其中,W=(w1,w2,…,wn)，X=(x1,x2,…,xn).對于超平面?yi=1,W·Xi+b>0；?yi=-1,W·Xi+b<0，即?i,yi(W·Xi+b)≥1，SVM的二分類問題轉(zhuǎn)化為規(guī)劃求解問題，即

(2)

使用拉格朗日公式可得決策邊界：

(3)

其中，l表示支持向量個數(shù)，Xi為支持向量點(diǎn)的特征向量，yi為支持向量點(diǎn)的類標(biāo)記，X為輸入實(shí)例的特征向量，αi和b0為訓(xùn)練模型得到的參數(shù)，αi為拉格朗日乘數(shù).

最后，SVM對目標(biāo)樣本的分類識別公式為

f(X)=sgn(decision(X)).

(4)

對于線性不可分的數(shù)據(jù)集，通過非線性變換將其轉(zhuǎn)換為高維空間中的線性分類問題，以核函數(shù)K(x,z)代替兩實(shí)例之間的內(nèi)積即可得到非線性求解公式：

(5)

SVM常用核函數(shù)包括徑向基函數(shù)(radial basis function, RBF)、二項(xiàng)式核函數(shù)(binomial kernel function, BKF)，本文在求解過程中使用RBF核函數(shù).

1.2 SVM處理非均衡數(shù)據(jù)性能分析

SVM作為一種經(jīng)典的模式識別方法，具有泛化能力強(qiáng)、結(jié)構(gòu)簡單、易解決高維和小樣本數(shù)據(jù)優(yōu)勢.通常SVM分類算法基于正負(fù)類樣本數(shù)量大致相同的假設(shè)，因此樣本不均衡可能造成SVM算法分類超平面發(fā)生偏移.為了比較非均衡數(shù)據(jù)對SVM分類器的影響，論文以美國加州大學(xué)爾灣分校開發(fā)的蘑菇數(shù)據(jù)集(UCI mushroom)[19]作為實(shí)驗(yàn)樣本，其總數(shù)為8 124，包括6 093個訓(xùn)練樣本、2 031個測試樣本、22個特征維數(shù).為了更好地可視化，利用主成分分析(principal component analysis, PCA)降至2維.對訓(xùn)練樣本進(jìn)行抽取，分別構(gòu)建1∶4，1∶40，1∶100的非均衡樣本集合.實(shí)驗(yàn)選擇SVM、基于過采樣的SMOTE平衡樣本的SMOTE_SVM及基于隨機(jī)欠采樣(random under sampling, RUS)的RUS_SVM這3種模型測試比較，結(jié)果如表1所示:

Table 1 Experiment Description of SVM with Imbalanced Data

實(shí)驗(yàn)表明，當(dāng)樣本出現(xiàn)不均衡現(xiàn)象時，重采樣方法某種程度上會提高分類精度，但對于樣本出現(xiàn)極度不均衡現(xiàn)象時表現(xiàn)效果不佳.

Fig. 1 Framework for DBN ensembled algorithm圖1 DBN深度集成算法框架

2 本文方法

本節(jié)首先給出深度信念神經(jīng)網(wǎng)絡(luò)集成框架，然后介紹雙向聯(lián)合采樣法及DBN深度集成算法，表2列出了本文后續(xù)內(nèi)容使用的一些符號定義.

Table 2 Description of Symbols表2 符號描述

Continued (Table 2)

2.1 算法整體框架與流程

DBN集成算法分為3個階段實(shí)現(xiàn)：1)數(shù)據(jù)劃分，主要利用雙向聯(lián)合采樣法平衡訓(xùn)練子集；2)訓(xùn)練基分類器，為了解決SVM在處理數(shù)據(jù)極度不均衡時超平面偏移問題，綜合SVM和RF雙重分類器構(gòu)建基分類器集；3)DBN深度集成.算法整體框架與流程如圖1所示:

2.2 算法詳細(xì)步驟

階段1.數(shù)據(jù)劃分.首先，在控制采樣比例的前提下對訓(xùn)練集中多數(shù)類樣本和少數(shù)類樣本進(jìn)行隨機(jī)欠采樣，然后，針對訓(xùn)練子集執(zhí)行SMOTE過采樣.確定該訓(xùn)練子集中支持向量及其近鄰數(shù)量，若其近鄰數(shù)量較少，采取外推方式合成新樣本，若其近鄰數(shù)量較多，采取插值方式合成新樣本.迭代上述采樣過程，直至訓(xùn)練出與本文設(shè)計(jì)的SVM分類器相同數(shù)量的訓(xùn)練子集.

算法1.joint_sampling().

① forc∈[1,num_svm]

② 由Tr提取Trmaj,Trmin；

③ 確保L∶S<10∶1，且S>60；

在Trmaj中隨機(jī)抽取L個樣本，在Trmin中隨機(jī)抽取S個樣本組成Trunder；

⑤ 由Trunder訓(xùn)練SVM分類器，得到Sv+；

⑥ 在Sv+中平均分配T，得到amount；

⑨ 由Trunder確定m個近鄰；

階段2.訓(xùn)練基分類器.首先，由算法1采樣得到的訓(xùn)練子集訓(xùn)練SVM分類器得到SVM基分類器簇.針對每個SVM基分類器，都從訓(xùn)練集中不放回抽取一定數(shù)量的樣本構(gòu)成評估集，共采集若干個互不重疊的評估集，并以該SVM基分類器對這些評估集進(jìn)行預(yù)測，生成未能正確分類樣本集Failure，以其為新的訓(xùn)練集訓(xùn)練RF基分類器，最后組合SVM和RF基分類器簇構(gòu)成本文的基分類器集合.

本算法涉及的局部變量：num_eva表示每個SVM基分類器設(shè)置的評估集數(shù)量，num_sample_in_eva表示每個評估集采集的樣本數(shù)量，num_sample_for_rf表示訓(xùn)練RF基分類器時從指定樣本中分別抽取多數(shù)類和少數(shù)類樣本的數(shù)量，Svm表示訓(xùn)練的支持向量基分類器簇.Rf表示訓(xùn)練的隨機(jī)森林基分類器簇.具體算法如下：

算法2.base_clf_training().

① forc∈[1,num_svm]

② 由Trsc訓(xùn)練SVM分類器；

③ end for

④ forsvm∈Svm

⑤ fork∈[1,num_eva]

⑥ 從Tr中采集num_sample_in_eva個樣本構(gòu)成Evasvmk；

⑦ 使用svm對Evasvmk進(jìn)行預(yù)測，輸出

Predictsvmk；

⑧ 在Evasvmk中篩選出Predictsvmk錯誤預(yù)測的子集放入Failure；

⑨ end for

⑩ end for

階段3.深度集成算法.首先從訓(xùn)練集中抽取一個樣本集;然后針對每個樣本都由基分類器集合中的每個基分類器預(yù)測其結(jié)果，從而形成以樣本為行向量、各分類器預(yù)測結(jié)果及樣本真實(shí)標(biāo)簽為列向量的訓(xùn)練集.以該訓(xùn)練集訓(xùn)練DBN集成模型，并對測試集完成預(yù)測輸出，具體算法如算法3、算法4：

算法3.DBN_ensemble_training().

① forc∈[1,num_clf]

② 由Clfc預(yù)測E得到Eic；

③ end for

④ 由矩陣(Ei,E(N+1))訓(xùn)練深度信念神經(jīng)網(wǎng)絡(luò).

算法4.DBN_ensemble_predict().

① forc∈[1,num_clf]

② 由Clfc預(yù)測T得到Applicantc；

③ end for

④ 由深度信念神經(jīng)網(wǎng)絡(luò)預(yù)測Applicant輸出Output.

3 實(shí)驗(yàn)與結(jié)果

3.1 數(shù)據(jù)描述

本文實(shí)驗(yàn)數(shù)據(jù)選取源訊科技(Worldline)公司和布魯塞爾自由大學(xué)機(jī)器學(xué)習(xí)研究小組共同開發(fā)和維護(hù)、經(jīng)由Kaggle平臺發(fā)布的信用卡欺詐數(shù)據(jù)[20-26].數(shù)據(jù)集表征了2013年9月歐洲信用卡持卡人發(fā)生的部分交易及其相關(guān)信息.實(shí)驗(yàn)數(shù)據(jù)集(詳見表3)共有21 693個樣本，28個特征向量經(jīng)由PCA進(jìn)行了預(yù)處理.樣本類別由0和1表示，其中0表示信用好樣本(又稱負(fù)類樣本)且為多數(shù)類，1表示欺詐樣本(又稱正類樣本)且為少數(shù)類樣本.少數(shù)類樣本356個，多數(shù)類樣本21 337個，不平衡比例達(dá)到1∶60，達(dá)到類極度不均衡比例.

Table 3 Description of Experiment Data表3 實(shí)驗(yàn)數(shù)據(jù)描述

3.2 評價指標(biāo)

通常，處理類不均衡學(xué)習(xí)算法可經(jīng)由ROC曲線下面積AUC來評估其效果[7,16].但當(dāng)負(fù)類樣本與正類樣本數(shù)量差異較大時，ROC的AUC難以顯著區(qū)分分類器性能.在混淆矩陣中，TN表示被正確識別的負(fù)類樣本，F(xiàn)P表示被錯誤識別的負(fù)類樣本，F(xiàn)N表示被錯誤識別的正類樣本，TP表示被正確識別的正類樣本，其中，真正類率TPR=TP(TP+FN)，真負(fù)類率TNR=TN(FP+TN)，假正類率FPR=FP(FP+TN)，假負(fù)類率FNR=FN(TP+FN).在負(fù)類極多、正類極少的情形下，假正類率FPR的分母過大，即使其分子有顯著變化，也很難被明顯地體現(xiàn)在FPR數(shù)值及其最終對應(yīng)曲線上.同時，單純考慮混淆矩陣各數(shù)值的絕對指標(biāo)和相對指標(biāo)會潛在地忽略信用欺詐的現(xiàn)實(shí)情境.鑒于此，Yu等人[27]提出成本-效益指數(shù)(revenue cost index,RCI)，但該指數(shù)強(qiáng)調(diào)現(xiàn)實(shí)成本而忽視機(jī)會成本，本文在此基礎(chǔ)上完善該評價指標(biāo)對機(jī)會成本的考慮.指標(biāo)做3個假設(shè)：1)信用卡供應(yīng)商因某筆交易產(chǎn)生一個FP而承擔(dān)的顯隱性成本之和為該筆交易數(shù)額的資金在一個記賬期內(nèi)所產(chǎn)生的利息；2)欺詐行為人實(shí)施欺詐行為后不會被抓獲；3)一個記賬期內(nèi)的利息為10%.

成本-效益評估指標(biāo)RCI構(gòu)建公式為

(6)

其中，分子表示期望收益，分母用于將指標(biāo)數(shù)值歸一；樣本類不均衡比例(imbalance ratio,IR)為樣本的不均衡程度，它為樣本中多數(shù)類樣本的數(shù)量與少數(shù)類樣本數(shù)量的比值.

3.3 實(shí)驗(yàn)結(jié)果

本節(jié)為了比較所提DBN集成算法的性能，與類不均衡經(jīng)典算法Balanced Random Forest[6]，Easy Ensemble[7]，Rus Boost[8]，SMOTE_SVM[2]，及常用機(jī)器學(xué)習(xí)算法Random Forest[28]，SVM[18]，MLP進(jìn)行對比，分別實(shí)現(xiàn)基于不同算法和不同樣本比例的分類結(jié)果.

3.3.1 基于不同算法的實(shí)驗(yàn)結(jié)果

在第1階段的雙向聯(lián)合采樣法中，設(shè)定參數(shù)S=100，L=900，N=900，k=5，m=10；在第2階段的基分類器訓(xùn)練中，設(shè)定參數(shù)num_svm=100，num_rf=20，num_eva=10，num_sample_in_eva=1 000，num_sample_for_rf=200.本實(shí)驗(yàn)進(jìn)行20次隨機(jī)實(shí)驗(yàn)，最終輸出8個分類器的RCI均值，實(shí)驗(yàn)結(jié)果如表4所示.

Table 4 Comparation among Credit Fraud Detection Machine Learning Algorithms表4 信用欺詐檢測機(jī)器學(xué)習(xí)算法比較 %

從表4不難發(fā)現(xiàn)，在本文設(shè)定的成本-效益指數(shù)下，DBN深度集成算法產(chǎn)生了最好的效果，RCI達(dá)到95.19%，高于傳統(tǒng)Random Forest的94.75%，SVM的92.80%，MLP的90.93%三種算法.綜合來看，DBN深度集成算法在RCI指標(biāo)上較其他算法的平均值高出3個百分點(diǎn).同時，圖2顯示各個分類器的綜合混淆矩陣，包括20次實(shí)驗(yàn)TN，TP，F(xiàn)N，F(xiàn)P的平均值.類不均衡算法實(shí)現(xiàn)了最高的TP值，但TN較低，削弱了成本-效益的綜合表現(xiàn).DBN集成算法優(yōu)勢是能夠在較高TNR值的情況下提高TPR的值，進(jìn)而獲得較高的RCI值.

Fig. 2 Confusion matrix summary for 8 algorithms圖2 8種算法在本次實(shí)驗(yàn)中的混淆矩陣比較

3.3.2 基于不均衡樣本比例實(shí)驗(yàn)結(jié)果

為了比較所提算法在樣本不均衡比例下的性能變化，本節(jié)固定少數(shù)類樣本數(shù)量，調(diào)整多數(shù)類樣本獲得樣本比例1∶5至1∶55共計(jì)11組測試數(shù)據(jù)集，分別比較8種算法的RCI指標(biāo)，結(jié)果如圖3所示.在類不均衡比例較低時，DBN深度集成算法的RCI指標(biāo)并不能顯著高于其他算法；但隨著類不均衡比例不斷提高，尤其當(dāng)類不均衡比例超過20進(jìn)入類極度不均衡狀態(tài)之后，DBN深度集成算法的RCI表現(xiàn)優(yōu)于其他算法.

Fig. 3 Comparison of algorithms for different sample proportions圖3 不同樣本比例算法比較

4 結(jié) 論

樣本分布極度不均衡是影響信用欺詐評估的主要因素.本文提出一種深度信念神經(jīng)網(wǎng)絡(luò)集成算法來解決類極度不均衡問題.一方面，提出雙向聯(lián)合采樣法平衡樣本集，為了克服單一SVM分類器處理不平衡數(shù)據(jù)表現(xiàn)的超平面偏移問題，融合RF分類器構(gòu)建基分類器簇，利用DBN學(xué)習(xí)增強(qiáng)對多維伯努利數(shù)據(jù)的特征識別能力，從而更好地處理信用欺詐檢測不均衡數(shù)據(jù)的極端情形.另一方面，鑒于傳統(tǒng)的精度評價指標(biāo)對信用欺詐風(fēng)險評價形成較大制約，本文綜合考慮正負(fù)類樣本對數(shù)據(jù)使用者成本和效益的不同影響，提出成本-效益評估指標(biāo)評價算法性能.通過對比實(shí)驗(yàn)發(fā)現(xiàn)在樣本類極度不均衡情況下所提算法優(yōu)于傳統(tǒng)機(jī)器學(xué)習(xí)算法和一般類不均衡數(shù)據(jù)處理方法.

未來的工作包含2個方向：1)進(jìn)一步結(jié)合行業(yè)的實(shí)際特點(diǎn)建立更加全面的計(jì)算成本效益指標(biāo)數(shù)學(xué)模型；2)探索本文提出算法的參數(shù)優(yōu)化策略.