基于機器學習的信貸逾期檢測模型研究＊

侯浩鑫，趙志紅

（北京理工大學珠海學院，廣東 珠海 519088）

1 引言

隨著互聯(lián)網(wǎng)金融行業(yè)的興起，銀行和貸款機構通過互聯(lián)網(wǎng)為有貸款需求的客戶提供線上金融服務。在帶來更好服務體驗的同時，也存在著諸多信用風險問題，急需建立信貸風險檢測模型提高風控水平。根據(jù)信貸客戶還款的具體情況，將客戶分為正常和逾期兩種類型。以三個月的時間作為觀察窗口，還款連續(xù)逾期三個月的，判定為逾期客戶；其余正常還款情況的，為正?？蛻?。通過采用機器學習和統(tǒng)計方法得出的信用檢測模型，能夠較為準確地預測個人未來的信用表現(xiàn)，估計每筆信貸是否逾期，方便銀行提前預知可能存在的風險。

現(xiàn)代治理理論與實踐表明，多元主體的有效協(xié)作配合，是推進國家治理現(xiàn)代化的有效路徑。在一定意義上可以說，社會組織發(fā)展與治理現(xiàn)代化之間的關系，是檢驗國家治理現(xiàn)代化深度、廣度、力度和效力的重要標志。

2 數(shù)據(jù)預處理

分析來自某貸款機構的歷史業(yè)務數(shù)據(jù)，包含貸款基本表、報告主表、貸款記錄、貸記卡記錄、信用提示、未銷戶貸記卡和未結清貸款信息匯總、逾期信息匯總、查詢記錄匯總、信貸審批查詢記錄明細、貸款特殊交易、透支記錄、詐騙記錄等12個數(shù)據(jù)集，涉及3萬名客戶和100多個特征，數(shù)據(jù)預處理較復雜，需盡量減少信息損失。

為了獲得更好的訓練數(shù)據(jù)特征，通過特征工程將原始數(shù)據(jù)轉(zhuǎn)換成模型訓練數(shù)據(jù)，使得機器學習模型逼近這個上限，提高模型性能。主要運用了特征構建和特征選擇。例如針對“數(shù)據(jù)集：信貸審批查詢記錄明細表”，利用日期函數(shù)計算查詢間隔月份數(shù)，通過總查詢次數(shù)除以查詢間隔月份數(shù)構建出新屬性“月查詢次數(shù)”。

通訊模塊電路中S1為撥碼開關,當碼位為00時為固定周期傳輸,即每隔2 min采集一次數(shù)據(jù)并傳輸。當碼位選擇01時為變周期數(shù)據(jù)傳輸。微控制器檢測當前周期環(huán)境數(shù)據(jù)后,與上一周期數(shù)據(jù)進行對比,如果差值小于設定閥值,則當前周期不發(fā)送數(shù)據(jù)。如果超過設定閥值,則將變化的參數(shù)發(fā)送到路由節(jié)點。上位機如果未收到本周期某一節(jié)點數(shù)據(jù),則默認當前周期該節(jié)點環(huán)境參數(shù)未有大的改變,使用上一周期檢測值為本周期環(huán)境參數(shù)值,減少數(shù)據(jù)傳輸過程中的能耗。檢測器器變周期數(shù)據(jù)傳輸機制工作流程圖如圖5所示。

通過特征分箱離散化連續(xù)變量，同時將離散變量合并成少狀態(tài)。經(jīng)特征分箱后的數(shù)據(jù)，具有更易于模型快速迭代和降低模型過擬合風險等優(yōu)勢。

四種模型的AUC值均低于0.8，預測準確性不是很高，離想要檢測逾期客戶的目標還有一定差距。其中表現(xiàn)較好的模型為邏輯斯蒂和BP神經(jīng)網(wǎng)絡，AUC值為0.71。

表1 特征選擇結果

基于“smbinning”包對各特征進行最優(yōu)分段，通過分段結果對數(shù)據(jù)進行封閉性分箱和轉(zhuǎn)換，如特征“信用使用年限”的分段結果如表4所示。

表2 訓練集和測試集數(shù)據(jù)概況

3 初步建立逾期檢測模型

將“xgboost”函數(shù)的目標設為邏輯斯蒂模型，由于邏輯斯蒂為廣義線性模型，表達能力有限，而特征分箱后每個變量有了權重，即引入了非線性到模型中，顯著提升了模型的表達能力和擬合效果。

表3 四種模型結果對比

在彈體打擊巖石條件下，彈靶間形成應力波并向地下傳播，在沖擊波或接近于沖擊波的短應力波中，巖石介質(zhì)壓縮行為是在受限條件下發(fā)生的[7]，從物理力學本質(zhì)上講，巖石介質(zhì)的變形狀態(tài)可以用剛性壁圓筒中的單軸壓縮描述。設沿圓筒的軸向應力σr為垂直于彈靶接觸面的法向應力；沿圓筒的徑向應力σθ為平行于彈靶接觸面的切向應力。由于應變僅發(fā)生在軸向，因此，這時，體積應變ε約等于軸向應變εr，徑向應變εθ約為0。

隨著全球信息技術主導的技術革命不斷加快，人類社會正在逐漸步入信息社會。隨著信息化、大數(shù)據(jù)等技術不斷深入，在信息化時代背景和思維模式下，建立固定資產(chǎn)信息化管理平臺對高校固定資產(chǎn)進行管理，不斷提高固定資產(chǎn)管理效率，深入優(yōu)化固定資產(chǎn)管理手段，是高校固定資產(chǎn)管理的發(fā)展目標和趨勢。

4 特征分箱

例如針對“數(shù)據(jù)集：貸款記錄”，由ID將貸款狀態(tài)拆分成“呆賬、結清和正常”三類屬性的數(shù)據(jù)。最終從100多個指標中初步構建了42個特征。接著，利用R語言“informationvalue”函數(shù)計算各定性指標的IV值，選擇有高預測性能的前兩個顯著特征“工資”和“教育”；再通過廣義交叉驗證法得到10個顯著性指標，主要包括信用狀況、償還歷史和逾期行為3個維度的指標，結合Boruta算法得出變量對逾期狀態(tài)影響的顯著性，根據(jù)變量間相關性圖和現(xiàn)實意義，篩選出“信用使用年限”和“貸款賬戶數(shù)”；最終，經(jīng)過定性指標和定量指標的篩選，從42個初選特征中選擇了重要程度前14的特征。特征選擇結果如表1所示。

(3) 采用場變量法模擬漿液初凝及硬化過程：①漿液注漿階段，認為其有內(nèi)壓，其彈性模量取1 MPa；②漿液硬化階段，經(jīng)過10 h 漿液凝固后，其彈性模量取50 MPa[5]。

處理完缺失值后，采用無放回隨機抽樣方式，將總體以7∶3的比例拆分成訓練集和測試集，數(shù)據(jù)基本情況如表2所示。

表4 “信用使用年限”分段結果

5 逾期檢測模型探索和優(yōu)化

5.1 基于XGBoost的集成學習模型

前面幾種機器學習模型的預測精度相對不高，嘗試基于XGBoost算法的集成學習模型以提高預測模型的精度。同時，將分別對原數(shù)據(jù)和特征分箱變換后的數(shù)據(jù)進行預測，以觀察特征分箱是否提升了模型的表達能力和擬合度。XGBoost模型結果如表5所示。

表5 XGBoost模型結果

通過R語言“xgboost”函數(shù)建立模型，經(jīng)參數(shù)調(diào)試后對原數(shù)據(jù)進行預測，得到預測準確率為84.5%，召回率為37%，AUC值為0.72。

對特征分箱后數(shù)據(jù)進行預測，預測準確率為91.2%，召回率為52.7%，AUC值為0.82。

分別通過“gbm”函數(shù)建立決策樹逾期檢測模型（GBDT）、“glm”函數(shù)建立邏輯斯蒂回歸模型，并通過逐步回歸剔除非顯著變量、“nnet”包所得BP神經(jīng)網(wǎng)絡模型、“randomForest”函數(shù)建立隨機森林逾期檢測模型，結果如表3所示。

5.2 基于CooK距離的多元模型

通過統(tǒng)計學方法分析得到離群點，觀察離群點與逾期客戶是否有顯著的關系。一般如果觀測樣本的Cook距離比平均距離大4倍，則該數(shù)據(jù)點被判定為離群點。通過Cook平均距離的4和24倍分別進行離群值檢測，其中顯著離群點和全部離群點如圖1所示。

圖1 異常值檢測

經(jīng)匹配樣本號發(fā)現(xiàn)，基于Cook距離的多元模型檢測法所得出的離群點基本為逾期客戶，該模型表現(xiàn)出了較高的檢測準確率和召回率。當Cook距離為4倍時，99.3%的逾期客戶被檢測出來，而此時模型的準確率仍非常高，為96.7%。具體如表6所示。

表6 基于Cook距離的多元模型

6 結論

進行分析的目的是檢測出可能存在逾期行為的客戶，基于這個業(yè)務背景，主要從模型的準確率、召回率和AUC值來評價模型的優(yōu)劣。

四種機器學習模型的AUC值均低于0.8，預測準確性不是很高。模型優(yōu)化上，通過XGBoost集成學習模型對原數(shù)據(jù)和分箱后數(shù)據(jù)分別建立模型，AUC分別提高到0.72和0.82，說明集成學習模型和特征分箱均有優(yōu)勢，且經(jīng)特征分箱后的XGBoost模型預測準確率達到91.2%，召回率達到51.7%，模型有很好的預測效果。

模型探索上，由于逾期客戶均在數(shù)據(jù)的某些特征取值上較為極端，故通過統(tǒng)計學方法，基于Cook距離的多元模型檢測出來的離群點，與逾期客戶有著顯著的關系。當Cook距離為4倍時，99.3%的逾期客戶被檢測出來，而此時模型的準確率仍非常高，為96.7%，該模型表現(xiàn)出了非常高的分類效果。