Hybrid-隨機(jī)森林財(cái)務(wù)危機(jī)預(yù)警模型研究

張俊涵

（上海工程技術(shù)大學(xué)數(shù)理與統(tǒng)計(jì)學(xué)院，上海 201620）

0 引言

隨著經(jīng)濟(jì)全球化，世界各地的經(jīng)濟(jì)聯(lián)系愈發(fā)緊密，市場競爭也愈發(fā)激烈，增加了企業(yè)陷入財(cái)務(wù)困境的可能性，而遭遇財(cái)務(wù)困境會使利益相關(guān)者蒙受損失，嚴(yán)重情況下會破壞市場環(huán)境。企業(yè)如果能夠建立一個長期有效的財(cái)務(wù)預(yù)警機(jī)制，使財(cái)務(wù)狀況剛出現(xiàn)危機(jī)時就能被及時發(fā)現(xiàn)，隨后采取相關(guān)舉措以避免財(cái)務(wù)危機(jī)，就能夠在激烈競爭的市場中生存壯大。因此，利用上市公司公開的財(cái)務(wù)數(shù)據(jù)建立財(cái)務(wù)危機(jī)預(yù)警模型，對上市公司及其利益相關(guān)者預(yù)警非常重要。

財(cái)務(wù)危機(jī)預(yù)警相關(guān)研究有：Kim 等［1］利用bagging 和boosting 方法構(gòu)建財(cái)務(wù)危機(jī)預(yù)警模型，實(shí)驗(yàn)結(jié)果表明，集成學(xué)習(xí)方法的預(yù)測能力要優(yōu)于單一模型；溫重偉［2］利用3 種不同的核函數(shù)構(gòu)建支持向量機(jī)財(cái)務(wù)危機(jī)預(yù)警模型，實(shí)驗(yàn)結(jié)果表明，RBF 核函數(shù)的效果最佳，同時還構(gòu)建了BP 神經(jīng)網(wǎng)絡(luò)財(cái)務(wù)危機(jī)預(yù)警模型并與之對比，結(jié)果證明，雖然在訓(xùn)練集上神經(jīng)網(wǎng)絡(luò)表現(xiàn)較好，但在測試集上支持向量機(jī)的表現(xiàn)遠(yuǎn)好于BP 神經(jīng)網(wǎng)絡(luò)模型；陳志君［3］以中國通信行業(yè)為研究對象，選取3 家被特別處理的公司（ST）和16 家財(cái)務(wù)正常的公司為研究樣本，選取21 個財(cái)務(wù)指標(biāo)利用KMO 檢驗(yàn)和相關(guān)性檢驗(yàn)進(jìn)行篩選，最終得到6 個財(cái)務(wù)指標(biāo)，利用邏輯回歸算法構(gòu)建財(cái)務(wù)危機(jī)預(yù)警模型，整體準(zhǔn)確率達(dá)到79%；黃衍［4］將BP 神經(jīng)網(wǎng)絡(luò)、隨機(jī)森林、SVM 支持向量機(jī)這3 種模型的分類性能進(jìn)行比較，結(jié)果證明隨機(jī)森林性能最好；孟杰［5］通過隨機(jī)森林算法建立財(cái)務(wù)危機(jī)預(yù)警模型，與邏輯回歸、SVM支持向量機(jī)模型、CART 分類樹模型和神經(jīng)網(wǎng)絡(luò)模型的預(yù)測結(jié)果進(jìn)行對比，結(jié)果表明隨機(jī)森林模型預(yù)測精度更高；連曉麗［6］利用隨機(jī)森林算法與Lasso-邏輯回歸算法分別建立財(cái)務(wù)危機(jī)預(yù)警模型，實(shí)驗(yàn)結(jié)果表明，隨機(jī)森林預(yù)測能力更勝一籌；游甜［7］將支持向量機(jī)與BP_Adaboost、KNN 模型相對比，結(jié)果證明支持向量機(jī)預(yù)測效果更佳；吳睛宇［8］通過主成分分析對初選指標(biāo)進(jìn)行降維，然后利用神經(jīng)網(wǎng)絡(luò)構(gòu)建財(cái)務(wù)危機(jī)預(yù)警模型，對上市公司財(cái)務(wù)狀況的預(yù)測效果良好；周廷煒［9］利用網(wǎng)格尋優(yōu)算法與支持向量機(jī) 相結(jié)合對上市公司財(cái)務(wù)狀況進(jìn)行預(yù)測；鄧旭東等［10］分別建 立邏輯回歸財(cái)務(wù)危機(jī)預(yù)警模型與Z-score 模型，實(shí)驗(yàn)表明邏輯回歸模型的預(yù)測正確率要高于Z-score 模型；張培榮［11］利用 因子分析對特征指標(biāo)進(jìn)行約簡，然后利用Xgboost 與Logistic 分別建立財(cái)務(wù)危機(jī)預(yù)警模型，實(shí)驗(yàn)結(jié)果表明，通過Xgboost 算法建立的財(cái)務(wù)預(yù)警模型預(yù)測效果更好；范雍禎［12］分別構(gòu)建PCA-Cox 模型和BP_Adaboost 模型，實(shí)驗(yàn)結(jié)果表明，BP_Adaboost 模型的綜合正確率優(yōu)于PCA-Cox 模型；石先兵［13］利用主成分分析方法對指標(biāo)進(jìn)行降維，得到4 個主成分因子，將這4 個主成分因子代入支持向量機(jī)模型中，實(shí)驗(yàn)表明通過主成分分析與支持向量機(jī)結(jié)合的模型具有良好的預(yù)測能力；Xu 等［14］在指標(biāo)體系中引入非財(cái)務(wù)指標(biāo)，通過因子分析進(jìn)行降維，通過邏輯回歸算法分析構(gòu)建金融危機(jī)預(yù)警模型，實(shí)驗(yàn)結(jié)果證明，因子分析與邏輯回歸結(jié)合構(gòu)建的模型具有較高的預(yù)測正確率；李嘉東［15］利用隨機(jī)森林構(gòu)建財(cái)務(wù)危機(jī)預(yù)警模型，然后分別構(gòu)建支持向量機(jī)模型、判別分析模型以及Logistic 模型進(jìn)行對比分析，實(shí)證結(jié)果表明，隨機(jī)森林構(gòu)建的財(cái)務(wù)預(yù)警模型性能要優(yōu)于其它3 個模型。

以上文獻(xiàn)都是直接對比分類器性能的優(yōu)劣從而確定模型，但是對指標(biāo)篩選的關(guān)注較少。本文將3 種不同特征指標(biāo)篩選方法分別與隨機(jī)森林算法相結(jié)合，得到3 個不同財(cái)務(wù)危機(jī)預(yù)警模型，通過對比這3 個模型的優(yōu)劣得到與隨機(jī)森林算法結(jié)合的最優(yōu)特征選擇算法，最后將該模型與決策樹模型、邏輯回歸模型進(jìn)行對比研究。

1 隨機(jī)森林

隨機(jī)森林是Bagging 的一個擴(kuò)展變體。隨機(jī)森林正如其名，是由許多棵決策樹組成，同時在決策樹模型訓(xùn)練過程中加入隨機(jī)屬性。

隨機(jī)森林是樹結(jié)構(gòu)的分類器，由多個決策樹集合構(gòu)成。Θk是獨(dú)立同分布的隨機(jī)向量，當(dāng)輸入變量X 確定時，每個元決策樹h（x，Θk）都會擁有投票權(quán)，通過選取得出最優(yōu)的分類結(jié)果。

隨機(jī)森林可以分成隨機(jī)分類森林與隨機(jī)回歸森林這兩種類型。隨機(jī)分類森林應(yīng)用更加普遍。隨機(jī)分類森林最終得到的結(jié)果通過簡單多數(shù)投票法得到，公式如下：

h(xm)代表第N 個最終樣本的組合分類器結(jié)果，其中，I()是示性函數(shù)，Y 代表輸出變量，hi是單個決策樹模型。

2 數(shù)據(jù)準(zhǔn)備

2.1 樣本來源

本文將證監(jiān)會特殊處理帶有ST 或ST*帽子的上市公司判定為遭遇了財(cái)務(wù)困境的公司。樣本選取A 股市場2016 年、2017 年、2018 年3 年被證監(jiān)會特殊處理的上市公司，從國泰安數(shù)據(jù)庫中查詢到共計(jì)69 家上市公司，將其作為財(cái)務(wù)危機(jī)樣本。2016 年有11 家被特殊處理的上市公司，2017 年有22 家被特殊處理的上市公司，2018 年被特殊處理的上市公司有36 家。

財(cái)務(wù)預(yù)警研究關(guān)于樣本選取的方法主要有3 種：①采取配對抽樣的方式進(jìn)行選取，選取行業(yè)相同、規(guī)模相近的正常公司進(jìn)行1∶1 配對；②一般用于非平衡數(shù)據(jù)，利用重抽樣方法擴(kuò)大ST企業(yè)的數(shù)量；③適當(dāng)擴(kuò)大配對比例，一般選取1∶3 的比例，然后隨機(jī)抽取，不考慮行業(yè)與規(guī)模。

上述3 種方法各有千秋，本文研究的是不同特征指標(biāo)篩選方法選取重要特征的能力，而不同行業(yè)企業(yè)的重要指標(biāo)可能會略有不同，且規(guī)模不同會對財(cái)務(wù)指標(biāo)造成影響，因此本文選擇第1 種方法，即選取行業(yè)相同，規(guī)模相近的正常企業(yè)進(jìn)行一比一配對。

關(guān)于數(shù)據(jù)的選取，公司被特殊處理的當(dāng)年認(rèn)定為T 年，選擇該公司T-3 年數(shù)據(jù)。因?yàn)樽C監(jiān)會是通過T-1 年的財(cái)務(wù)數(shù)據(jù)判斷該公司是否被ST，所以用T-1 年的數(shù)據(jù)進(jìn)行預(yù)測無法起到預(yù)測作用，而且上市公司連續(xù)兩年出現(xiàn)虧損會被標(biāo)記為ST*，因 此本文將采用T-3 年的數(shù)據(jù)進(jìn)行預(yù)測。

2013 年抽取11 家正常公司，2014 年抽取22 家正常公司，2015 年抽取36 家正常公司，共計(jì)69 家正常公司。

2.2 數(shù)據(jù)篩選原則

有些上市公司在部分特征指標(biāo)上存在數(shù)據(jù)缺失情況，對于有數(shù)據(jù)缺失的公司，如果該公司是正常公司，以行業(yè)相同規(guī)模相近為前提，盡可能選取數(shù)據(jù)較為完整的上市公司，如果該公司是被特別處理的公司（ST），由于財(cái)務(wù)危機(jī)的公司數(shù)量較少，那么對于缺失的數(shù)據(jù)就以該指標(biāo)的平均值進(jìn)行填充。最終得到138 個樣本作為本文實(shí)驗(yàn)數(shù)據(jù)。

2.3 特征指標(biāo)初選

特征指標(biāo)的科學(xué)性是一個模型能夠良好運(yùn)行的首要條件，所以本文在前人基礎(chǔ)上進(jìn)行指標(biāo)的初步選擇，選取原則如下：在以往相關(guān)的文章中出現(xiàn)頻率較高且該指標(biāo)較顯著，能夠較好解釋財(cái)務(wù)危機(jī)。初選特征指標(biāo)如表1 所示。

2.4 數(shù)據(jù)處理

利用Python 計(jì)算出每個初選特征的各類指標(biāo)：最大值、最小值、平均值、四分之一分位數(shù)、二分之一分位數(shù)、四分之三分位數(shù)，然后根據(jù)這些指標(biāo)找出數(shù)據(jù)中的異常值，將異常值用上邊緣的值進(jìn)行替代。

Table 1 Summary of primary indicators表1 初選指標(biāo)匯總

3 特征篩選

各個財(cái)務(wù)指標(biāo)之間一般具有相關(guān)性。由于初選的指標(biāo)較多，可能很多指標(biāo)并不能很好地解釋財(cái)務(wù)危機(jī)現(xiàn)象，所以要進(jìn)行特征篩選。

本文采取Shuffle、Embedd、Hybrid 這3 種特征選擇方法對初選指標(biāo)體系進(jìn)行篩選。

3.1 基于Shuffle 的特征選取

Shuffle 的特征篩選原理是基于AUC 指標(biāo)進(jìn)行篩選。Shuffle 利用控制變量法，通過控制所有特征指標(biāo)對應(yīng)的數(shù)據(jù)保持不變，選取其中一個特征指標(biāo)，將該列的所有數(shù)據(jù)打亂后隨機(jī)排序，然后查看AUC 是否變化，如果變化就認(rèn)為該指標(biāo)重要，保留該指標(biāo)；反之，如果AUC 沒有變化則去除該指標(biāo)?；赟huffle 選取出的特征指標(biāo)如表2 所示。

Table 2 Characteristics of Shuffle screening表2 Shuffle 篩選的特征指標(biāo)

3.2 基于Embedd 的特征選取

Embedd 特征提取原理主要是根據(jù)OOB（Out of Bag）原則。如果某個特征是重要的，那么在此特征的數(shù)據(jù)分布式中引入一定的噪聲，僅對此特征變化之后的數(shù)據(jù)進(jìn)行RF訓(xùn)練，則模型性能會有較大變化（較明顯地變差）；反之，如果某個特征不重要，重新訓(xùn)練后的模型性能變化不會太大。基于Embedd 算法得到的特征指標(biāo)如表3 所示。

3.3 基于Hybrid 的特征選取

Hybrid 算法進(jìn)行特征篩選原理主要是基于AUC 進(jìn)行選取，逐個添加指標(biāo)后觀察AUC 是否變化，如果AUC 發(fā)生變化，則說明這個指標(biāo)是重要的，予以選?。环粗?，如果AUC 沒有發(fā)生變化則說明這個指標(biāo)不重要，予以剔除?；贖ybrid 算法篩選的特征指標(biāo)如表4 所示。

Table 3 Characteristic indicators selected by Embedd表3 Embedd 選取的特征指標(biāo)

Table 4 Characteristic indicators selected by Hybrid表4 Hybrid 選取的特征指標(biāo)

4 模型性能評估

對于分類模型的性能評估一般用混淆矩陣進(jìn)行考察，以本文正常公司以及ST 公司為例，混淆矩陣可以將其分為4 類：

TP：將ST 公司判斷為ST 公司

TN：將正常公司判斷為正常公司

FP：將正常公司判斷為ST 公司

FN：將ST 公司判斷為正常公司

通過混淆矩陣計(jì)算出這4 個類別的所有數(shù)目，這樣就可輕松得出模型分類的準(zhǔn)確率。

準(zhǔn)確率=正確預(yù)測的數(shù)目/總數(shù)

誤分類率=錯誤預(yù)測的數(shù)目/總數(shù)

正例覆蓋率=正確預(yù)測的ST 數(shù)目/實(shí)際ST 數(shù)目

正例命中率=正確預(yù)測的ST 數(shù)目/預(yù)測ST 數(shù)目

負(fù)例的覆蓋率=正確預(yù)測的非ST 數(shù)目/實(shí)際非ST 數(shù)目

負(fù)例命中率=正確預(yù)測的非ST 數(shù)目/預(yù)測非ST 數(shù)目

企業(yè)利益相關(guān)者最重視的指標(biāo)是正例命中率與正例覆蓋率。正例覆蓋率指預(yù)測到的ST 公司占實(shí)際被ST 公司的比例；正例命中率指被ST 企業(yè)的管理者發(fā)現(xiàn)財(cái)務(wù)預(yù)警時，采取合適的措施能使多大比例的企業(yè)擺脫財(cái)務(wù)危機(jī)。

4.1 基于Shuffle 的隨機(jī)森林

本文隨機(jī)抽取50% 的樣本作為訓(xùn)練集，50%作為測試集，通過測試集的結(jié)果對模型性能進(jìn)行評價，測試集的ROC曲線如圖1所示。

從圖1 和表5 可以看出，正例命中率為81.82%，正例覆蓋率為72.97%，整體正確率為76.81%，AUC 為0.8666。如果根據(jù)測試集結(jié)果對這些被預(yù)測為ST 的企業(yè)提前3 年進(jìn)行預(yù)警，那么這些企業(yè)通過采取正確措施將有81.82%可以逃離被ST 的命運(yùn)。

Fig.1 ROC curve based on Shuffle test set圖1 基于Shuffle 測試集的ROC 曲線

Table 5 Random forest confusion matrix based on Shuffle表5 基于Shuffle 的隨機(jī)森林混淆矩陣

4.2 基于Embedd 的隨機(jī)森林

重復(fù)以上步驟，得到的ROC 曲線如圖2 所示。從圖2和表6 可以看出，根據(jù)測試集結(jié)果，如果對被預(yù)測為ST 的企業(yè)提前3 年給予預(yù)警信號，采取正確措施的企業(yè)將有84.85%可以逃離被ST 的命運(yùn)。

Fig.2 ROC curve based on Embedd test set圖2 基于Embedd 測試集ROC 曲線

Table 6 Random forest confusion matrix based on Embedd表6 基于Embedd 的隨機(jī)森林混淆矩陣

4.3 基于Hybrid 的隨機(jī)森林

將數(shù)據(jù)代入Hybrid 模型得到ROC 曲線如圖3 所示。從圖3 和表7 可以看出，根據(jù)測試集的結(jié)果，如果對被預(yù)測為ST 的企業(yè)提前3 年給予預(yù)警信號，這些企業(yè)采取正確措施將有91.18%可以逃離被ST 的命運(yùn)。

Fig.3 ROC curve based on Hybrid test set圖3 基于Hybrid 測試集ROC 曲線

Table 7 Random forest confusion matrix based on Hybrid表7 基于Hybrid 的隨機(jī)森林混淆矩陣

4.4 三種特征選取方法比較

由表8 可以看出，Hybrid-隨機(jī)森林模型的正例命中率、正例覆蓋率、整體正確率以及AUC 均明顯高于Shuffle-隨機(jī)森林模型與Embedd-隨機(jī)森林模型。Hybrid-隨機(jī)森林模型明顯要比其他兩個模型的分類性能優(yōu)越。

Table 8 Comparison of accuracy rate表8 正確率對比 （%）

因此得出結(jié)論：Hybrid 相比Shuffle 和Embedd 更能選取到顯著特征，能幫助投資者更好地避免踩雷，幫助企業(yè)管理者更早發(fā)現(xiàn)企業(yè)的問題。

4.5 基于決策樹構(gòu)建財(cái)務(wù)危機(jī)預(yù)警模型

在Hybrid 建立特征指標(biāo)體系基礎(chǔ)上，利用該特征指標(biāo)體系建模，得到基于Hybrid 的決策樹模型。由表9 得知，TP 為27，TN 為26，F(xiàn)P 為6，F(xiàn)N 為10，其結(jié)果與Shuffle-隨機(jī)森林模型相同，通過計(jì)算可知測試集正例命中率為81.82%，正例覆蓋率為72.97%，整體正確率為76.81%。

Table 9 Confusion matrix of decision tree model表9 決策樹模型的混淆矩陣

4.6 基于邏輯回歸構(gòu)建財(cái)務(wù)危機(jī)預(yù)警模型

在利用Hybrid 特征選擇算法得到的特征指標(biāo)體系基礎(chǔ)上，利用邏輯回歸構(gòu)建預(yù)警模型。

如表10 所示，TP 為20，TN 為22，F(xiàn)P 為13，F(xiàn)N 為14。通過計(jì)算可知，測試集的正例命中率為60.61%，正例覆蓋率為58.82%，整體正確率為60.87%。

Table 10 Confusion matrix of logistic regression model表10 邏輯回歸模型的混淆矩陣

5 結(jié)語

A 股上市公司的財(cái)務(wù)報(bào)表中有較多的財(cái)務(wù)指標(biāo)，而且各個不同的指標(biāo)之間具有相互關(guān)聯(lián)的特點(diǎn)。本文運(yùn)用Shuffle征擇算法、Embedd特征選擇算法、Hybrid特征選擇算法，對初選的特征指標(biāo)體系進(jìn)行進(jìn)一步的篩選，得到了三個特征指標(biāo)體系并利用隨機(jī)森林算法分別進(jìn)行建模，得到三個財(cái)務(wù)危機(jī)預(yù)警模型，實(shí)驗(yàn)表明，Hybrid 與隨機(jī)森林結(jié)合構(gòu)建的財(cái)務(wù)預(yù)警模型效果較為優(yōu)良，然后在Hybrid 建立的特征指標(biāo)體系的基礎(chǔ)上利用決策樹算法與邏輯回歸算法構(gòu)建財(cái)務(wù)危機(jī)預(yù)警模型，實(shí)驗(yàn)表明，隨機(jī)森林算法構(gòu)建的財(cái)務(wù)危機(jī)預(yù)警模型效果更佳。

Hybrid-隨機(jī)森林預(yù)警模型可以為上市公司進(jìn)行準(zhǔn)確預(yù)警，便于上市公司管理者提前制定防范風(fēng)險的戰(zhàn)略措施。投資者可對Hybrid 所約簡得到的六個財(cái)務(wù)指標(biāo)重點(diǎn)關(guān)注，且可利用有限的公開財(cái)務(wù)數(shù)據(jù)進(jìn)行預(yù)測，具有一定的實(shí)際應(yīng)用價值。

本文仍存在不足之處，如在開始進(jìn)行特征指標(biāo)篩選時是基于前人研究結(jié)果與經(jīng)驗(yàn)初選特征指標(biāo)體系，沒有選入的指標(biāo)不代表該指標(biāo)對財(cái)務(wù)危機(jī)沒有反應(yīng)，但又不能將所有指標(biāo)納入選擇范圍，因?yàn)檫^多的變量會對建模分析結(jié)果造成影響。未來研究要考慮行業(yè)特性，構(gòu)架一個全面的特征指標(biāo)初選體系。