基于多層感知器神經(jīng)網(wǎng)絡(luò)的小微企業(yè)信貸風(fēng)險研究

周駟華 汪素南

摘要：文章以多層感知器神經(jīng)網(wǎng)絡(luò)算法為基礎(chǔ)，對某小貸公司的小微企業(yè)信貸數(shù)據(jù)庫中的信貸記錄進(jìn)行了信貸評估，并將該結(jié)果與決策向量機(jī)、線性判別、二次判別和邏輯回歸等數(shù)據(jù)挖掘方法進(jìn)行了比較。分析結(jié)果表明，從總體上看，多重感知器神經(jīng)網(wǎng)絡(luò)算法優(yōu)于傳統(tǒng)的基于參數(shù)的分類方法，即多層感知器神經(jīng)網(wǎng)絡(luò)算法擁有相對較高的ROC曲線下面積和較低的預(yù)期錯誤分類成本。更進(jìn)一步，在研究所采用的4種MLP算法中，基于BFGS Quasi-Newton訓(xùn)練算法的MLP表現(xiàn)最為出色，可以作為金融機(jī)構(gòu)進(jìn)行小微信貸風(fēng)險評估的輔助決策模型。

關(guān)鍵詞：多層感知器神經(jīng)網(wǎng)絡(luò)；小微企業(yè)；信貸評估；數(shù)據(jù)挖掘；輔助決策模型

一、 引言

根據(jù)《全國小型微型企業(yè)發(fā)展情況報告》（2014），截至2013年末，全國各類企業(yè)總數(shù)為1，527.84萬戶。其中，小微企業(yè)1，169.87萬戶，占企業(yè)總數(shù)的76.57%。如將4，436.29萬戶個體工商戶納入統(tǒng)計范圍，小微企業(yè)所占比重達(dá)到94.15%。我國的小微企業(yè)創(chuàng)造GDP價值占總量的60%，納稅占總量的50%，完成了65%的發(fā)明專利和80%以上的新產(chǎn)品開發(fā)。然而，根據(jù)《中國小微企業(yè)白皮書》顯示，目前我國小微企業(yè)融資缺口高達(dá)22萬億元，超過55%小微金融信貸需求未能獲得有效支持。

如何有效地評估小微企業(yè)的信貸風(fēng)險，對學(xué)界和業(yè)界都是一個挑戰(zhàn)。根據(jù)Blanco等[7]的建議，采用自動信用評分系統(tǒng)能夠加快信貸審批速度，降低貸前分析成本并減少人為因素對信貸審批的影響。因此，從理論上研究小微企業(yè)信用風(fēng)險預(yù)警體系，調(diào)整商業(yè)銀行對小微企業(yè)的風(fēng)險評價模式，構(gòu)建專門的小微企業(yè)信用風(fēng)險預(yù)警模型，是解決小微企業(yè)融資難問題的一個重要途徑。

進(jìn)入20世紀(jì)90年代，基于數(shù)據(jù)挖掘的信用風(fēng)險評價方法大幅度提高了預(yù)測的精度，以人工神經(jīng)網(wǎng)絡(luò)（ANNs）為代表的非參數(shù)分析方法已廣泛應(yīng)用于企業(yè)財務(wù)危機(jī)預(yù)警分析。ANNs信用風(fēng)險模型以其較強的逼近非線性函數(shù)的優(yōu)勢從眾多方法脫穎而出，其對歷史數(shù)據(jù)的模擬仿真和預(yù)測能力也顯示了獨特的優(yōu)勢。然而，由于ANNs自身的限制和理論上的不完善，單一利用ANNs來評估信用風(fēng)險的效果往往不理想，且信用風(fēng)險評估是一個綜合因素作用的過程，而多層感知器（MLP）神經(jīng)網(wǎng)絡(luò)所追求的目的就是基于多因素評估結(jié)果的最優(yōu)決策。為了突破傳統(tǒng)ANNs的局限，本文引入MLP對小微企業(yè)的信用風(fēng)險進(jìn)行評估研究，并將結(jié)果和傳統(tǒng)的線性判別（LDA），二次判別分析法（QDA）和邏輯回歸（LR）進(jìn)行比較。

二、 文獻(xiàn)綜述

小微企業(yè)信貸風(fēng)險評估主要包括兩個方面：（1）對新申請者做出判斷；（2）貸后違約預(yù)測。以往，學(xué)界研發(fā)了大量的方法和模型加速信貸決策的過程。如線性判別分析和邏輯回歸是兩類最常用的用于構(gòu)造信貸風(fēng)險評估模型的線性統(tǒng)計工具。然而，有學(xué)者指出，在現(xiàn)實環(huán)境下，由于LDA所依賴的兩個假設(shè)，即輸入變量服從多元正態(tài)分布，違約和非違約樣本的色散矩陣或方差-協(xié)方差矩陣相等通常得不到滿足，因而精度欠佳。

ANNs的出現(xiàn)有效地彌補了傳統(tǒng)方法的不足。由于ANNs具備在復(fù)雜環(huán)境下利用大量不確定信息對研究群體進(jìn)行分類的能力，因而近年來被廣泛應(yīng)用于對復(fù)雜過程的估計和預(yù)判。神經(jīng)網(wǎng)絡(luò)也稱人工神經(jīng)網(wǎng)，是近年來信用評估領(lǐng)域的熱點方法，作為一門新興的信息處理科學(xué)，ANNs對人腦若干基本特征進(jìn)行抽象和模擬，以人的大腦工作模式為基礎(chǔ)，研究自適應(yīng)及非程序信息處理方法。ANNs的優(yōu)點是對數(shù)據(jù)的分布要求不嚴(yán)格，也不要求詳細(xì)表述自變量與因變量之間的函數(shù)關(guān)系，能有效解決非正態(tài)分布、非線性信用評估問題。但神經(jīng)網(wǎng)絡(luò)也有自身的缺點，即為了獲得最優(yōu)的網(wǎng)路而導(dǎo)致訓(xùn)練時間過長和難以辨別輸入變量的相對重要性。

在ANNs方法中，多層感知器（MLP）神經(jīng)網(wǎng)絡(luò)因其出色的性能而被應(yīng)用于風(fēng)險評估領(lǐng)域。Werbos創(chuàng)立的反向傳播算法已被廣泛應(yīng)用于MLP。MPANN（Memetic pareto artificial neural networks）通過多目標(biāo)進(jìn)化算法和以梯度為基礎(chǔ)的局部搜索對BP算法進(jìn)行優(yōu)化。

對神經(jīng)網(wǎng)絡(luò)的改進(jìn)包括改變訓(xùn)練的比率和測試數(shù)據(jù)庫，隱藏階段的數(shù)目和訓(xùn)練循環(huán)等。Khashman通過對德國數(shù)據(jù)集進(jìn)行研究，通過9種學(xué)習(xí)方案對不同的訓(xùn)練/驗證比數(shù)據(jù)進(jìn)行了研究。結(jié)果發(fā)現(xiàn)，用400個例子做訓(xùn)練并用600個例子總驗證的學(xué)習(xí)方案表現(xiàn)最佳，總準(zhǔn)確率達(dá)83.6%。情感神經(jīng)網(wǎng)絡(luò)是一類改進(jìn)的BP學(xué)習(xí)算法，它通過兩個額外的情感參數(shù)——焦慮和自信對情感權(quán)重進(jìn)行更新。通過將情感神經(jīng)網(wǎng)絡(luò)和傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)進(jìn)行對比，Khashman發(fā)現(xiàn)傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)和情感神經(jīng)網(wǎng)絡(luò)都有效，但情感神經(jīng)網(wǎng)絡(luò)在速度和準(zhǔn)確率方面更勝一籌。另一種改善MLP的方法是人工突出可塑性MLP，其在某種分類僅有少數(shù)幾種可用模式或當(dāng)小概率時間包含的信息對成功應(yīng)用至關(guān)重要時特別有效。通過運用可塑MLP，Marcano-Cedeno等在德國數(shù)據(jù)集上獲得了84.67%的準(zhǔn)確率，在澳大利亞數(shù)據(jù)集上獲得了92.75%的準(zhǔn)確率。

三、 實證研究

1. 數(shù)據(jù)集。本文使用某小貸公司小微信貸數(shù)據(jù)庫中的信息，數(shù)據(jù)的時間跨度從2010年至2014年。其中包含以下幾類信息：

（1）小微企業(yè)法人或?qū)嶋H控制人的個人信息；

（2）小微企業(yè)經(jīng)濟(jì)和財務(wù)比率數(shù)據(jù)；

（3）小微企業(yè)當(dāng)前信貸數(shù)據(jù)；

（4）宏觀經(jīng)濟(jì)數(shù)據(jù)。

經(jīng)過初篩并剔除異常記錄，共獲得5 434個小微企業(yè)樣本。根據(jù)某絕大多數(shù)金融機(jī)構(gòu)的定義，貸款逾期超過15天即算貸款違約。其中4 766個小微企業(yè)未發(fā)生貸款違約，占比為87.85%，剩余668個小微企業(yè)都存在不同程度的貸款違約，占比為12.15%。為了對分類模型（LDA、QDA、LP、SVM和MLP）進(jìn)行有效對比，本文將數(shù)據(jù)集隨機(jī)分為兩個不相交的子集，其中75%的樣本作為訓(xùn)練子集，25%的樣本作為測試子集。測試子集總計包含1 359個小微企業(yè)樣本（13.23%的小微企業(yè)發(fā)生貸款違約，86.77%的小微企業(yè)未發(fā)生貸款違約）。每一個模型都采用10次交叉檢驗。采用交叉檢驗的優(yōu)點在于信貸模型能夠最大限度地包含可用數(shù)據(jù)（75%的樣本）。

2. 數(shù)據(jù)描述。小微企業(yè)信貸風(fēng)險評估的首要工作是構(gòu)建一個適合小微企業(yè)特點的信用風(fēng)險評估指標(biāo)體系。結(jié)合我國的具體國情，參照沈軍彩和徐繼紅，Blanco等，Mittal等的指標(biāo)設(shè)置，本文選擇9個財務(wù)指標(biāo)，16個非財務(wù)指標(biāo)和5個宏觀經(jīng)濟(jì)指標(biāo)（見表1）。本次研究特色之一是指標(biāo)體系包含了影響小微企業(yè)信貸履約情況定性指標(biāo)。之所以選擇這些指標(biāo)，主要有以下考慮：（1）Schreiner認(rèn)為，相比大中型企業(yè)，由于小微企業(yè)自身的原因，無法全面量化運營數(shù)據(jù)。因此，部分信貸數(shù)據(jù)以定性和非正式形式記錄；（2）Blanco等的研究表明，在信貸風(fēng)險評估模型中加入定性指標(biāo)，有助于提高模型的預(yù)測能力。此外，由于借款人的履約能力與宏觀經(jīng)濟(jì)狀況存在密切聯(lián)系，因此在信貸風(fēng)險評估模型中加入宏觀經(jīng)濟(jì)變量能夠增強模型的解釋和預(yù)測能力。因變量方面，采用二進(jìn)制變量，0=沒有違約，1=產(chǎn)生違約。

3. 研究方法和實驗設(shè)計。國內(nèi)外關(guān)于ANNs在信貸風(fēng)險評估中的應(yīng)用類型包括模式神經(jīng)網(wǎng)絡(luò)、概率神經(jīng)網(wǎng)絡(luò)、擴(kuò)展學(xué)習(xí)向量器和多層感知器（MLP）等。其中，MLP是在商業(yè)領(lǐng)域應(yīng)用最為廣泛的一類ANNs模型。根據(jù)相關(guān)研究，本文采用三層感知器（圖1），其中輸出層為單個違約概率判別節(jié)點。這一值由邏輯神經(jīng)元激活函數(shù)g（u）=eu/（eu+1）獲得。以H代表隱蔽層的規(guī)模，{vih，i=0，1，2，…，p，h=1，2，…，H}作為p個輸入和第一層之間突觸權(quán)重，{wh，h=0，1，2，…，H}作為連接隱藏節(jié)點和輸出節(jié)點之間的突觸權(quán)重。由此，當(dāng)輸入向量為（x1，…，xp）時，ANNs的輸出結(jié)果為：

y=g（w0+whg（v0h+vihxj））（1）

輸出的結(jié)果即為根據(jù)輸入?yún)?shù)獲得的違約概率。通過將y與閾值進(jìn)行比較（如0.5），就能對申請企業(yè)的貸款違約進(jìn)行預(yù)判，如y>0.5則表明，申請人貸款違約的概率較大。

在輸入數(shù)據(jù)之前，本文首先通過線性回歸模型對變量進(jìn)行篩選，選擇具有統(tǒng)計顯著性的變量作為輸入?yún)?shù)（p≤0.05），且預(yù)測變量都線性分布在[-1，1]之間。Matlab和R作為工具，對MLP和其他算法進(jìn)行分析。

R的神經(jīng)網(wǎng)絡(luò)工具箱具備對擬牛頓法（Quasi-Newton）算法運用BFGS過程分析單隱蔽層ANNs的功能。參考Blanco等的方法，令W=（W1，…，WM）為網(wǎng)絡(luò)的M個相關(guān)系數(shù)矩陣，令yi（i=1，…，n）為違約標(biāo)識，1代表違約，0代表沒有違約，同時，為了避免過度擬合，特引入衰減項λ。對于分類問題，合理的誤差函數(shù)就是熵的條件最大化標(biāo)準(zhǔn)。因此，可得如下函數(shù)：

（yilnyi+（1-yi）ln（1-yi））+λ（W2i）（2）

在R中部署MLP模型需要指定兩個參數(shù)：隱蔽層的規(guī)模（H）和衰減項λ，因此，需通過10次交叉驗證搜索隱蔽層（H）和格點{1，2，…，20}×{0，0.01，0.05，0.1，0.2，…，1.5}。Matlab包含的神經(jīng)網(wǎng)絡(luò)工具箱，也能對MLP模型進(jìn)行求解。有6種常用的算法可以用作訓(xùn)練規(guī)則，分別是Gradient descent、Gradient descent with momentum、BFGS Quasi-Newton、Levenberg-Marquardt、Scaled conjugate gradient和Resilient back-propagation。這6種算法的基本思想都是使誤差平方和最小：

（yi-yi）2（3）

在判別準(zhǔn)則方面，本文采用ROC曲線下面積（AUC）、測試準(zhǔn)確率、I類錯誤率、II類錯誤率和預(yù)期錯誤分類成本（EMC）。其中，AUC是反映連續(xù)變量敏感性和特異性的綜合性指標(biāo)，它用構(gòu)圖法揭示敏感性和特異性的相互關(guān)系并通過連續(xù)變量設(shè)定出多個不同的臨界值，從而計算出一系列敏感性和特異性，再以敏感性為縱坐標(biāo)、（1-特異性）為橫坐標(biāo)，曲線下面積越大，診斷準(zhǔn)確性越高。EMC的定義如下：

EMC=C21P21π1+C12P12π2（4）

其中，π1和π2分別是優(yōu)質(zhì)與不良的信貸群體的先驗概率，P21和P12分別是I類錯誤和II類錯誤的概率。其中，P21是優(yōu)質(zhì)信貸群體被誤判為不良信貸群體的概率，P12則是不良信貸群體被誤判為優(yōu)質(zhì)信貸群體的概率。π1和π2是優(yōu)質(zhì)信貸群體和不良信貸群體的比例。

為比較MLP與其他模型的有效性，本文將MLP模型與傳統(tǒng)的LDA、QDA、SVM和LR進(jìn)行比較。其中，SVM采用徑向基核函數(shù)（RBF）。在MLP參數(shù)設(shè)置方面，設(shè)定學(xué)習(xí)精度ε=0.000 1，最大訓(xùn)練次數(shù)為1 000，根據(jù)Kolmogorov定理設(shè)置隱含層節(jié)點數(shù)65。在LDA和QDA參數(shù)設(shè)置方面，最小化10次交叉驗證的誤差門檻值為0.35。在LR參數(shù)設(shè)置方面，最小化10次交叉驗證的誤差門檻值為0.58。在SVM參數(shù)設(shè)置方面，需要指定懲罰系數(shù)-c與核參數(shù)-γ，通過對RBG徑向基核函數(shù)的最優(yōu)參數(shù)篩選，確定c=512，γ=0.008 563作為建立模型的基本參數(shù)，構(gòu)造SVM分類評估模型。

4. 對比分析。表2總結(jié)了MLP的6種訓(xùn)練算法、SVM、LDA、QDA、LR的測試結(jié)果。從中可以看出，基于BFGS Quasi-Newton訓(xùn)練算法的MLP獲得最高的AUC（0.961），最高的測試準(zhǔn)確率（88.54%），最低的II類錯誤率（16.43%）和最低的EMC（0.432）。I類錯誤率最低（3.66%）的是基于Scaled conjugate gradient訓(xùn)練算法的MLP，但與之相伴的是最高的II類錯誤率（22.54%）。從圖2（各模型的AUC值和EMC值）的分布可以看出，基于BFGS Quasi-Newton 訓(xùn)練算法的MLP效果最佳，位于圖2的右下部，該算法3層感知器結(jié)構(gòu)，由20個輸入節(jié)點、3個隱藏借點和1個輸出節(jié)點構(gòu)成，采用10次交叉驗證，衰減項λ=0.2?；贐FGS Quasi-Newton 訓(xùn)練算法的MLP之所以能夠取得最高AUC值和最低EMC值，是引入了二階訓(xùn)練算法的緣故。根據(jù)本文使用的樣本數(shù)據(jù)，二階訓(xùn)練算法的效果比傳統(tǒng)的梯度下降（Gradient descendent）算法更有效，這一結(jié)果與之前的一些研究結(jié)果相吻合。此外，傳統(tǒng)的方法，如LDA、QDA和LR無論在AUC值還是EMC值方面，都明顯弱于MLP二階訓(xùn)練方法，如BFGS Quasi-Newton、Levenberg-Marquardt、Scaled conjugate gradient和Resilient back-propagation等。在參數(shù)模型方面，LDA和QDA的AUC值都明顯低于LR（0.937），這一結(jié)果與West和Lee等的結(jié)論相一致，即LR優(yōu)于LDA和QDA。然而，本次研究的所有參數(shù)模型中，LDA擁有最高的測試準(zhǔn)確率（86.49%），QDA擁有最低的EMC（0.515）。因此，很難對本次研究的三個參數(shù)模型，LR、LDA和QDA的優(yōu)劣做出評判，同樣，采用I類錯誤率和II類錯誤率也很難做出明顯的評價。

從總體看，非參數(shù)模型不僅擁有較高的AUC和較低的錯誤分類成本。此外，盡管存在黑箱屬性等，但在小微企業(yè)信貸風(fēng)險評估方面，MLP仍不失為一種較為優(yōu)良的方法。正如West指出的，對金融機(jī)構(gòu)而言，即使提高1%的預(yù)測精度，也能帶來數(shù)億的利潤。就測試準(zhǔn)確率而言，最優(yōu)的MLP算法與其他算法的差別從0.72（Levenberg-Marquardt）到3.31（QDA）。因此，部署基于MLP的神經(jīng)網(wǎng)絡(luò)算法的確能夠顯著降低小微信貸的損失。再者，采用諸如ANNs等非參數(shù)方法，還能帶來管理方面額優(yōu)勢，如更符合Basel II的內(nèi)部評級法所規(guī)定的資本充足率要求等。

四、 結(jié)論

本文構(gòu)建了一個包含企業(yè)財務(wù)指標(biāo)，非財務(wù)指標(biāo)和宏觀經(jīng)濟(jì)指標(biāo)的小微信貸評價指標(biāo)體系。通過對某小貸公司小微數(shù)據(jù)庫內(nèi)的樣本進(jìn)行測試，本文對4種MLP神經(jīng)網(wǎng)絡(luò)算法、1種決策向量機(jī)和3種傳統(tǒng)的基于參數(shù)的分類方法進(jìn)行了分析。實證結(jié)果表明，MLP從總體上優(yōu)于傳統(tǒng)的基于參數(shù)的分類方法，在4種MLP算法中，基于BFGS Quasi-Newton訓(xùn)練算法的MLP表現(xiàn)最為出色，可以推薦企業(yè)使用。此外，本文將企業(yè)的信貸評價指標(biāo)作為模型的學(xué)習(xí)樣本，進(jìn)行評估推理知識學(xué)習(xí)，具有一定的動態(tài)特性，金融機(jī)構(gòu)在實際使用過程中，可以酌情增刪指標(biāo)，以提高模型的預(yù)測精度。最后，正如李曉峰和徐玖平所言，ANNs使用非線性函數(shù)更貼近復(fù)雜的非線性動態(tài)經(jīng)濟(jì)系統(tǒng)，擺脫了古典經(jīng)濟(jì)學(xué)賴以生存的線性分析工具，能夠更為準(zhǔn)確地反映企業(yè)的信息，故比傳統(tǒng)方法具有更大的優(yōu)勢，這為企業(yè)信用的綜合評估提供了可行的途徑。

參考文獻(xiàn)：

[1] 國家工商總局全國小型微型企業(yè)發(fā)展報告課題組. 全國小型微型企業(yè)發(fā)展情況報告（摘要）[N].中國工商報，2014-03-29.

[2] 郭文偉，陳澤鵬，鐘明.基于MLP神經(jīng)網(wǎng)絡(luò)構(gòu)建小企業(yè)信用風(fēng)險預(yù)警模型[J].財會月刊，2013，（6）：22- 26.

[3] 胡海青，張瑯，張道宏.供應(yīng)鏈金融視角下的中小企業(yè)信用風(fēng)險評估研究——基于SVM與BP神經(jīng)網(wǎng)絡(luò)的比較研究[J].管理評論，2012，24（11）：70-80.

[4] 宿玉海，彭雷，郭勝川.基于BP神經(jīng)網(wǎng)絡(luò)的商業(yè)銀行信用風(fēng)險模型改進(jìn)探究[J].山東財政學(xué)院學(xué)報，2012，118（2）：12-19.

[5] 高尚.支持向量機(jī)及其個人信用評估[M].西安：西安電子科技大學(xué)出版社，2013.

[6] 沈軍彩，徐繼紅.神經(jīng)網(wǎng)絡(luò)的企業(yè)信用風(fēng)險評估應(yīng)用研究[J].計算機(jī)仿真，2012，29（3）：254-257.

[7] 李曉峰，徐玖平.商業(yè)銀行客戶信用綜合評估的BP神經(jīng)網(wǎng)絡(luò)模型的建立[J].軟科學(xué)，2010，24（2）：110-113.

作者簡介：周駟華（1978-），男，漢族，上海市人，浦發(fā)銀行博士后科研工作站、復(fù)旦大學(xué)工商管理博士后流動站博士后，研究方向為小微企業(yè)金融服務(wù)、供應(yīng)鏈金融；汪素南（1966-），男，漢族，浙江省金華市人，上海浦東發(fā)展銀行零售業(yè)務(wù)總監(jiān)，博士后科研工作站導(dǎo)師，研究方向為零售銀行金融服務(wù)。

收稿日期：2015-07-11。