基于集成模型的個人信用風險評估研究

李思瑤

摘要：隨著金融科技的快速發(fā)展，機器學習在大數(shù)據(jù)風控領(lǐng)域的應(yīng)用也越來越成熟，尤其在在線信貸中被廣泛應(yīng)用。本文從消費金融行業(yè)的實際業(yè)務(wù)出發(fā)，提出了一套基于多源數(shù)據(jù)的子模型框架系統(tǒng)，該系統(tǒng)可以根據(jù)不同的數(shù)據(jù)維度獨立建立，再將模型進行自由組合。研究表明，基于多源數(shù)據(jù)的子模型系統(tǒng)的評分有效性比單個機器學習評分模型更好。

關(guān)鍵詞：風險管理?? 信用評分? 機器學習

一、引言

如今風險管理部門已經(jīng)成為諸多企業(yè)中的重要職能部門之一，為實現(xiàn)企業(yè)的經(jīng)營目標提供有力保障。隨著互聯(lián)網(wǎng)的迅猛發(fā)展，大數(shù)據(jù)、數(shù)據(jù)挖掘和機器學習等新興技術(shù)開始出現(xiàn)并在企業(yè)的經(jīng)營決策過程中得到應(yīng)用。

大數(shù)據(jù)：作為一項新興技術(shù)，目前在IT界較為認可的定義是：在可承受的時間范圍內(nèi)，無法用傳統(tǒng)數(shù)據(jù)庫軟件工具進行分析利用的數(shù)據(jù)集。

（一）大數(shù)據(jù)在風險管理中的應(yīng)用

最早應(yīng)用大數(shù)據(jù)風險管理的正是風險管理出現(xiàn)最早的保險業(yè)。保險業(yè)工作人員利用客戶的銀行系統(tǒng)征信數(shù)據(jù)和在互聯(lián)網(wǎng)上產(chǎn)生的涉及人際關(guān)系、歷史消費行為、身份特征等方面的數(shù)據(jù)，通過大數(shù)據(jù)“畫像”技術(shù)，對用戶進行全面的定位，據(jù)此來預測用戶的履約能力進而降低信貸風險。

大數(shù)據(jù)技術(shù)成功應(yīng)用的案例很多，比如CanadianTire公司曾做過的一次將消費者行為和信用風險相掛鉤的突破性調(diào)查。通過詳細分析消費者在多家店鋪使用本公司所發(fā)行信用卡消費的情況，CanadianTire公司發(fā)現(xiàn)延遲交付、信用卡違約都是可以預測的，辦法就是通過研究人們購買的商品種類、品牌以及所光顧的酒吧類型。結(jié)果證明，這種預測比傳統(tǒng)的行業(yè)預測方法更為精準。金融業(yè)工作人員可以利用大數(shù)據(jù)的優(yōu)勢，通過將多樣化的數(shù)據(jù)集引入計算，提高對風險的防范意識并降低風險。

（二）機器學習

機器學習技術(shù)并不是剛剛起步，而是隨著電子計算機的出現(xiàn)而出現(xiàn)的一種技術(shù)。互聯(lián)網(wǎng)的普及讓機器學習以大數(shù)據(jù)應(yīng)用技術(shù)的全新面目呈現(xiàn)出勃勃生機。簡言之，機器學習就是通過各種算法對海量的歷史數(shù)據(jù)進行有監(jiān)督或無監(jiān)督的學習分析，總結(jié)規(guī)律，并利用分析結(jié)果對未來數(shù)據(jù)進行預測的一種技術(shù)。機器學習目前有很多應(yīng)用方向，包括風險識別、模式識別、圖像識別、智能決策等。

二、模型簡介

（一）XGBoost算法

XGBoost的目標函數(shù)由兩部分構(gòu)成：一部分用來衡量預測分數(shù)和真實分數(shù)的差距，另一部分則是正則化項。正則化項同樣包含兩部分：一部分用于控制葉子結(jié)點的個數(shù)，另一部分用于避免葉子節(jié)點的分數(shù)過大，防止過擬合。XGBoost還提出了兩種防止過擬合的方法：Shrinkage and Column Subsampling。Shrinkage方法就是在每次迭代中對樹的每個葉子結(jié)點的分數(shù)乘上一個縮減權(quán)重η，這可以使得每一棵樹的影響力不會太大，留下更大的空間給后面生成的樹去優(yōu)化模型。Column Subsampling類似于隨機森林中的選取部分特征進行建樹。其可分為兩種，一種是按層隨機采樣，在對同一層內(nèi)每個結(jié)點分裂之前，先隨機選擇一部分特征，然后只需要遍歷這部分的特征，來確定最優(yōu)的分割點。另一種是隨機選擇特征，則建樹前隨機選擇一部分特征然后分裂就只遍歷這些特征。一般情況下前者效果更好。當樣本的第i個特征值缺失時，無法利用該特征進行劃分時，XGBoost的處理思路是將該樣本分別劃分到左結(jié)點和右結(jié)點，分別計算增益，劃分到增益大的一邊。

（二）LightGBM

lightGBM主要有以下特點：基于Histogram的決策樹算法、帶深度限制的Leaf-wise的葉子生長策略、直方圖做差加速、直接支持類別特征（CategoricalFeature）、Cache命中率優(yōu)化、基于直方圖的稀疏特征優(yōu)化、多線程優(yōu)化。Leaf-wise的方法是從當前所有葉節(jié)點中尋找信息增益最多的方向進行分裂，這樣的設(shè)計比Leaf-wise方法的預測精度更高而誤差更小。而且為了防止過擬合，LightGBM在分裂的時候?qū)ψ畲笊疃纫策M行了限制。

三、集成模型框架設(shè)計

傳統(tǒng)銀行評分卡使用的變量較少，一般10個左右的強信息變量，包含三種類型：基本信息、個人信用和貸款人社會關(guān)系。與傳統(tǒng)銀行信用卡業(yè)務(wù)相比，在線信貸由于大多為模型自動決策，而基于傳統(tǒng)評分卡模型的建模方法數(shù)據(jù)維度較少，在互聯(lián)網(wǎng)時代下少數(shù)的幾個維度很難對借款用戶進行精準畫像。因此，為了彌補評分卡模型中的信息缺失，將各種維度的數(shù)據(jù)分別訓練為子模型，再進行融合為最終模型是一種更好的解決方案。

為了提高網(wǎng)絡(luò)借貸中的信用風險評估，本文提出一種集成模型框架，基本思想是：首先，根據(jù)不同場景、不同客戶群的不同數(shù)據(jù)，將數(shù)據(jù)分組后分別訓練子評分模型;然后根據(jù)訓練好的模型輸出的結(jié)果作為輸入變量進行重新建模，得到最終的信用評估結(jié)果。本文中選用根據(jù)消費金融公司主要數(shù)據(jù)源進行分析建模，包括：多頭借貸、高風險特征、運營商信息、銀行卡信息、第三方信用評分、人行征信報告。先將數(shù)據(jù)源按照這6種維度分別進行子模型訓練，再把訓練得到的6個子模型輸出結(jié)果整合成一個6列矩陣（將每個子模型的預測結(jié)果轉(zhuǎn)換為具體分數(shù)），再重新利用機器學習融合成新的模型評分。

在該案例中，集成模型框架根據(jù)不同的數(shù)據(jù)來源，構(gòu)建了6個機器學習子評分模型，子模型的數(shù)量和選用的算法都可以自由選擇，而且隨著數(shù)據(jù)源的豐富還可以不斷的增加子模型的數(shù)量。雖然各子模型都能較好的預測用戶的信用風險，但集成模型的預測準確率更高，并且預測效果也更穩(wěn)定。當面對不同的借貸場景或不同的客群時，模型可用的數(shù)據(jù)也不同。這時，先將數(shù)據(jù)根據(jù)來源或客群分組，然后自由選擇入模數(shù)據(jù)，自由選擇模型算法，自由組合入框架的子模型，可以大大提高數(shù)據(jù)的使用效率且節(jié)約數(shù)據(jù)采購成本。

四、實證分析

實驗數(shù)據(jù)為2018年1～9月11996筆小額在線貸款數(shù)據(jù)，壞樣本定義為歷史逾期最長天數(shù)不低于90天的客戶，標記為1;好樣本定義為沒有逾期記錄且已經(jīng)有完整的借款表現(xiàn)期的客戶，標記為0。其中壞樣本共2999個，占比25%，好樣本共8997個，占比75%，Odds=3，表5為本次實驗數(shù)據(jù)的基本情況。

首先，本實驗將6個子模型所包含的全部超過100個變量全部作為輸入，預測違約概率。為了找到分類效果最佳的模型，本文嘗試了GBDT、Adaboost、RandomForest、LightGBM、XGBoost多種機器學習方法，根據(jù)AUC、KS、準確率等評價指標挑選出最佳模型，對比結(jié)果見表1。

實驗中，數(shù)據(jù)集按4：1的比例拆分為訓練集和測試集，表2展示的是各模型在測試集上的表現(xiàn)。可知，在測試集上表現(xiàn)最佳的是LightGBM模型。與其他模型相比，其準確率、AUC、KS的數(shù)值都較大，說明該模型區(qū)分能力更高。

為了驗證組合模型思想模型的有效性，我們對6個子模型分別訓練，并對預測有效性做了分別統(tǒng)計，又將6個子模型的預測概率轉(zhuǎn)化為具體評分，再把6個評分作為最終的模型輸入變量，重新再利用進行機器學習進行建模，6個子模型的結(jié)果如表2所示。

從表2可以看出，6個機器學習評分模型中，風險行為數(shù)據(jù)與某第三方信用評分模型的預測效果最好，這也說明網(wǎng)絡(luò)借貸業(yè)務(wù)往往面臨較高的信用風險。最后，將6個子模型的預測結(jié)果作為輸入變量融合成一個集成機器學習模型，對比結(jié)果見表3。

從表3的試驗對比可以看出，將子模型的預測結(jié)果作為輸入重新構(gòu)建的機器學習模型，可以獲得比直接進行全變量輸入更好的預測精度，其中最優(yōu)算法LightGBM的預測KS值從65.45上升到了66.28，且其他算法的預測精度也有了一定的提升。

表4展示了在LightGBM模型下測試集樣本的通過率和誤放率的情況。模型在預設(shè)概率為0.45～0.50的條件下（即只有當某個客戶被預測為壞人的概率大于0.45時才通過篩選），KS0.663，通過率最高可達67.40%，而其對應(yīng)的誤放率很低，為6.70%。這說明通過LightGBM模型篩選的客群能夠保證較高的質(zhì)量。

五、結(jié)論

本文通過嘗試GBDT、Adboost、RandomForest、LightGBM、XGBoost多種機器學習方法，根據(jù)多種評價指標篩選對比，得出如下結(jié)論：

第一，對大數(shù)據(jù)而言，機器學習方法能夠更好地探索數(shù)據(jù)的內(nèi)在結(jié)構(gòu)，形成的分類模型也更加精準。在本文嘗試的幾種機器學習方法中，XGBoost、LightGBM模型的分類效果最好。

第二，基于多源數(shù)據(jù)的子模型框架可以根據(jù)不同的數(shù)據(jù)維度獨立建模，每個子模型可以用不同的方法進行訓練，且訓練的好的子模型也可以進行自由的組合。本研究只是簡單的將子模型再重新進行了一次利用LightGBM算法的重新組合就獲得了比直接進行全變量建模方式。實際上，子模型還能通過傳統(tǒng)評分卡建模的方式構(gòu)建評分卡模型，使得機器學習算法也能獲得很好的解釋效果，或者利用決策樹方法，將子模型構(gòu)建為一個基于決策樹方法的策略集也是一個非常有價值的研究方向。

參考文獻：

[1]Chen T，He T，Benesty M . xgboost： Extreme Gradient Boosting[J]. 2016.

[2]Jerome H. Friedman. Greedy Function Approximation： A Gradient Boosting Machine[J]. The Annals of Statistics，2001，29（5）：1189-1232.

[3]王春峰，萬海暉，張維.《商業(yè)銀行信用風險評估及其實證研究》[J].《管理科學學報》，1998第1期.

[4]李旭升，郭春香，郭耀煌.《擴展的樹增強樸素貝葉斯網(wǎng)絡(luò)信用評估模型》[J].《系統(tǒng)工程理論與實踐》，2008年第6期.

[5]涂艷，王翔宇.基于機器學習的P2P網(wǎng)絡(luò)借貸違約風險預警研究——來自“拍拍貸”的借貸交易證據(jù)[J].統(tǒng)計與信息論壇，2018，33（6）：75-82.

作者系蘭州財經(jīng)大學金融學院2019級碩士研究生