基于ROSE和C5.0算法的打鼾者OSAHS初篩模型

杜國棟，呂云輝，馬 磊，相 艷，邵黨國，雷 強(qiáng)，胡 蓉

1.昆明理工大學(xué) 信息工程與自動化學(xué)院，昆明 650500

2.云南省第一人民醫(yī)院 呼吸科，昆明 650032

1 引言

阻塞性睡眠呼吸暫停低通氣綜合征（Obstructive Sleep Apnea Hypopnea Syndrome，OSAHS）以睡眠期緊隨打鼾后發(fā)生的反復(fù)呼吸暫停、低通氣及間歇性低氧為特征[1]，流行病學(xué)調(diào)查結(jié)果顯示，中國人群OSAHS的發(fā)病率約為4%[2]。多導(dǎo)睡眠檢測儀（Polysomnography，PSG）診斷是目前OSAHS確診的金標(biāo)準(zhǔn)，但由于檢測費(fèi)用過高，給患者帶來的經(jīng)濟(jì)負(fù)擔(dān)過重，因此使用簡單的初篩方法變得越來越重要。

為解決上述問題，國內(nèi)外學(xué)者進(jìn)行了不同的實(shí)驗(yàn)研究。Peruvemba等[3]使用頸圍對打鼾者進(jìn)行OSAHS篩查，結(jié)果表明該模型篩查效果較好。Lisa等[4]通過回顧性研究發(fā)現(xiàn)頸圍和腰圍是預(yù)測OSAHS的重要指標(biāo)，但是這些測量學(xué)參數(shù)不足以預(yù)測病情嚴(yán)重程度。潘鳳錦等[5]對廣西地區(qū)中年打鼾者使用頸圍、BMI、Epworth嗜睡量表評分三個(gè)參數(shù)組合進(jìn)行OSAHS患者篩查，結(jié)果表明在廣西地區(qū)使用三參數(shù)對OSAHS患者進(jìn)行篩查具有較高的診斷價(jià)值。Karamanli[6]等使用性別、年齡、BMI等參數(shù)基于人工神經(jīng)網(wǎng)絡(luò)構(gòu)建了OSAHS診斷的預(yù)測模型，模型的預(yù)測精度較好。因此建立一套由常見癥狀、問卷調(diào)查結(jié)果和測量指標(biāo)結(jié)合的OSAHS預(yù)測模型是目前研究的重點(diǎn)[7]。

本文主要是從機(jī)器學(xué)習(xí)的方法學(xué)角度尋找通過人體測量學(xué)指標(biāo)篩查打鼾者患OSAHS的標(biāo)準(zhǔn)，但由于醫(yī)療信息系統(tǒng)中保存的大部分為OSAHS患者的數(shù)據(jù)，使用分類預(yù)測方法雖然模型的總體準(zhǔn)確率較高，但是對于少類樣本的預(yù)測正確率極低，這種模型并不能提供任何有效信息。這是由于目前大部分的分類算法都是運(yùn)用與假定不同類的樣本比例是均衡的數(shù)據(jù)集，對于不均衡數(shù)據(jù)集需要進(jìn)行數(shù)據(jù)的重構(gòu)，然后再使用分類算法。因此本文首先采用ROSE算法對醫(yī)療信息系統(tǒng)中的數(shù)據(jù)進(jìn)行平衡操作，然后對預(yù)處理后的數(shù)據(jù)使用C5.0算法進(jìn)行建模。實(shí)驗(yàn)結(jié)果證明，使用ROSE和C5.0算法構(gòu)建的模型可以有效地提高OSAHS患者的篩查效果。

2 基本概念及定義

2.1 不平衡數(shù)據(jù)處理算法

目前對不平衡數(shù)據(jù)的處理方法主要包括兩種，一種是從數(shù)據(jù)層面的重構(gòu)方法，另一種是算法層面的改進(jìn)方法，主要包括集成學(xué)習(xí)、代價(jià)敏感學(xué)習(xí)等方法[8]。本文主要從數(shù)據(jù)重構(gòu)的角度進(jìn)行不平衡數(shù)據(jù)的處理。

2.1.1 數(shù)據(jù)集的重構(gòu)方法

數(shù)據(jù)集的重構(gòu)方法主要集中實(shí)現(xiàn)數(shù)據(jù)的平衡，方法包括數(shù)據(jù)的過采樣、欠采樣和綜合采樣（過采樣與欠采樣結(jié)合）的方法[9]。

過采樣技術(shù)主要是通過增加少類樣本的數(shù)量，實(shí)現(xiàn)數(shù)據(jù)的平衡策略。欠采樣技術(shù)通過減少多類樣本的數(shù)量，實(shí)現(xiàn)多類樣本和少類樣本數(shù)量上的均衡。這兩種單純從某類樣本數(shù)量上采取的平衡措施，都沒有從根本上解決問題。對多類樣本欠采樣，可能存在盲目性，導(dǎo)致大部分有用信息的丟失；而對少類樣本的過采樣，給樣本增加新的信息，導(dǎo)致過擬合。綜合采樣是通過使用過采樣和欠采樣結(jié)合的方法，對少量樣本過采樣，同時(shí)對多類樣本欠采樣，實(shí)現(xiàn)數(shù)據(jù)的平衡。

2.1.2 人工數(shù)據(jù)集的合成方法

人工數(shù)據(jù)集的合成方法，簡單來說就是通過人工合成數(shù)據(jù)，而不是重復(fù)原始的觀測值，其本質(zhì)也是一種過采樣技術(shù)。

目前大部分對不平衡數(shù)據(jù)的研究都在尋找合適的解決方案，有部分軟件和程序可以專門處理不平衡數(shù)據(jù)，人工合成數(shù)據(jù)集。在R語言的工作環(huán)境下，DMwR包中的smote（）函數(shù)，通過少類樣本之間的插值合成新平衡數(shù)據(jù)集；caret包提供了downSample（）和upSample（）兩個(gè)函數(shù)通過隨機(jī)抽樣來處理不平衡數(shù)據(jù)；ROSE包基于ROSE算法提供了rose（）函數(shù)為二分類不平衡數(shù)據(jù)集問題提供標(biāo)準(zhǔn)和更精確的解決方案。

2.1.3 ROSE算法

ROSE是Random Over Sampling Examples的英文縮寫，即隨機(jī)過采樣技術(shù)。該算法是2014年Menardi和Torelli提出[10]，專門用來處理二分類不平衡數(shù)據(jù)問題，同時(shí)也提供了傳統(tǒng)的平衡措施如過采樣、欠采樣及過采樣及欠采樣結(jié)合的方法。ROSE算法的核心思想[11]是：假設(shè)有數(shù)據(jù)集Tn=(xi,yi),i=1,2,…,n，其中n為數(shù)據(jù)集的大小，xi為具有隨機(jī)概率密度函數(shù)f(x)的數(shù)據(jù)子集，yi為類標(biāo)簽代表少類樣本和多類樣本。合成樣本的步驟如

下：從數(shù)據(jù)集c中選擇y*=yj，使得yi=y*的概率為，從xi數(shù)據(jù)子集中選擇概率分布KHj的矩陣Hj中的樣本x*。然后基于平滑自助法和核方法，將樣本x*從低維特征空間映射到高維空間，在新的特征空間中選擇其相鄰的觀測值，通過條件核密度進(jìn)行估計(jì)合成新的樣本。重復(fù)執(zhí)行上述步驟m次，生成新的樣本集T*m，其樣本集大小為m。m的數(shù)值可以為原始樣本數(shù)據(jù)量n或其他數(shù)值。生成的效果如圖1所示。

圖1 ROSE算法的示意圖

Menardi等[10]在提出ROSE算法時(shí)，使用UCI數(shù)據(jù)集的20個(gè)不同的公共數(shù)據(jù)集對不平衡數(shù)據(jù)處理廣泛使用的SMOTE算法與ROSE算法進(jìn)行測試，比較兩者對不平衡數(shù)據(jù)處理的能力。為此本文也采用UCI數(shù)據(jù)集的Wine quality、Hypothyroid、Breast cancer、Cylinder bands和Credit screening這五個(gè)數(shù)據(jù)集進(jìn)行驗(yàn)證，如表1所示ROSE算法在不平衡數(shù)據(jù)處理能力上顯著優(yōu)于SMOTE算法，并且平衡后的數(shù)據(jù)比原數(shù)據(jù)對分類器的劃分效果有顯著提升。所以本文基于醫(yī)療信息系統(tǒng)的不平衡數(shù)據(jù)進(jìn)行OSAHS患者篩查模型構(gòu)建，選用ROSE算法進(jìn)行數(shù)據(jù)平衡。

表1 使用SMOTE和ROSE算法進(jìn)行平衡數(shù)據(jù)的AUC值對比

2.2 C5.0決策樹算法

決策樹的一個(gè)重要任務(wù)是為了從數(shù)據(jù)中發(fā)現(xiàn)所蘊(yùn)含的知識信息，因此決策樹可以使用不熟悉的數(shù)據(jù)集合，并從中提取出一系列規(guī)則。使用決策樹進(jìn)行診斷，其預(yù)測結(jié)果往往可以優(yōu)于當(dāng)前領(lǐng)域具有幾十年工作經(jīng)驗(yàn)的人類專家[12-13]。一個(gè)決策樹能夠方便地轉(zhuǎn)化為若干分類規(guī)則，可以根據(jù)分類規(guī)則直觀地對未知類別的樣本進(jìn)行預(yù)測。不同的決策樹采用的技術(shù)不同，但其基本思想都是通過將訓(xùn)練集劃分為較純的子集，以遞歸的方式建立決策樹。目前已經(jīng)有很多成熟而有效的決策樹學(xué)習(xí)算法，如ID3、C4.5、C5.0、CART、Random Forest等。C5.0算法是由澳大利亞悉尼大學(xué)Ross Quinlan教授為改進(jìn)之前的C4.5算法開發(fā)的新版本的決策樹算法。目前該算法已經(jīng)成為了生成決策樹的行業(yè)標(biāo)準(zhǔn)，因?yàn)樗m用于大多數(shù)類型的問題，而且可以直接使用。與其他的分類算法相比較，其建立的決策樹表現(xiàn)得與其他先進(jìn)的模型幾乎一樣，并且更容易理解和部署。

3 打鼾者OSAHS初篩模型的構(gòu)建

目前醫(yī)療信息系統(tǒng)收集的數(shù)據(jù)大部分為就診的患者數(shù)據(jù)，僅存有少部分的疑似患者。如果僅對這種不平衡數(shù)據(jù)進(jìn)行劃分決策樹，雖然得到的模型的準(zhǔn)確率極高，但是這種忽略其他類的數(shù)據(jù)對一類數(shù)據(jù)預(yù)測得到的結(jié)果會產(chǎn)生較大的偏倚。針對這一問題，可以通過使用ROSE算法對不平衡數(shù)據(jù)進(jìn)行平衡，然后再進(jìn)行構(gòu)建初篩模型。

3.1 數(shù)據(jù)預(yù)處理

3.1.1 異常值處理

醫(yī)學(xué)數(shù)據(jù)在收集的過程中，很容易會出現(xiàn)誤填，如將患者的性別用0和1表示，在數(shù)據(jù)錄入時(shí)輸入其他的數(shù)值，會使得最后的分析結(jié)果出現(xiàn)較大的誤差。目前常用的處理方法包括利用中值、均數(shù)填充或者刪除該條記錄[14]。由于本文采用的數(shù)據(jù)集數(shù)據(jù)較大，因此采用通過繪制箱線圖，尋找到異常值，然后直接刪除含有異常值的數(shù)據(jù)記錄。

3.1.2 缺失值處理

數(shù)據(jù)存在缺失值是個(gè)非常棘手的問題，有很多文獻(xiàn)[15-16]都致力于解決這個(gè)問題。收集到的數(shù)據(jù)都是耗費(fèi)人力財(cái)力收集的，刪掉或者重新獲取都是不可取的，必須采用一些方法解決。因此本文采用多重插補(bǔ)的方法對數(shù)據(jù)集中少量的樣本數(shù)據(jù)進(jìn)行填充，但是這種插補(bǔ)方法與實(shí)際值之間還是存在一定的誤差。

使用如下命令，進(jìn)行缺失值的插補(bǔ)：

其中hyper為醫(yī)療信息系統(tǒng)中的患者的相關(guān)數(shù)據(jù)；imp為包含m個(gè)插補(bǔ)數(shù)據(jù)集的列表對象，m默認(rèn)為5；analysis是一個(gè)表達(dá)式對象，用來設(shè)定應(yīng)用于m個(gè)對插補(bǔ)數(shù)據(jù)集的統(tǒng)計(jì)分析方法；fit為包含m個(gè)單獨(dú)統(tǒng)計(jì)分析結(jié)果的列表對象；pooled是一個(gè)包含m個(gè)統(tǒng)計(jì)分析平均結(jié)果的列表變量。

3.2 不平衡數(shù)據(jù)的處理

R語言ROSE（Random Over Sampling Example）包提供了ROSE（）函數(shù)可以幫助人們基于采樣和平滑自助法人工合成樣本，可以對原數(shù)據(jù)更好的估計(jì)。如果沒有安裝ROSE包，需要使用install.packages（）命令添加。

使用如下的命令，進(jìn)行不平衡數(shù)據(jù)的處理：

其中hyper為醫(yī)療信息系統(tǒng)中的患者的相關(guān)數(shù)據(jù)，OSAHS為標(biāo)識打鼾者是否診斷患病。通過人工合成樣本生成的數(shù)據(jù)量與原始數(shù)據(jù)集數(shù)據(jù)量相等。

3.3 分類器的構(gòu)建

3.3.1 樣本的分配策略

無監(jiān)督的分類，將所有的樣本都作為評估樣本；而有監(jiān)督的分類，將樣本分成訓(xùn)練樣本和測試樣本。針對有監(jiān)督樣本的分類，樣本的分配又分為復(fù)用策略（訓(xùn)練樣本數(shù)=測試樣本數(shù)），分離策略（將樣本分為兩組相互獨(dú)立的兩組，一組作為訓(xùn)練樣本，另一組作為評估樣本），還有一種方法是留一法，即選擇一個(gè)樣本作為評估樣本，其他數(shù)據(jù)作為訓(xùn)練樣本。其中復(fù)用策略是一種最好的分配策略，可以獲得分類器的誤差下界，分離策略則是最差的方法，因?yàn)槠溆?xùn)練樣本較少，訓(xùn)練樣本和評估樣本的相關(guān)性最低，可以得到誤差上界。雖然效果最差，但是本文仍采用分離策略，使用66%的樣本訓(xùn)練數(shù)據(jù)，剩余數(shù)據(jù)作為測試數(shù)據(jù)評估分類器的性能。

使用如下命令，創(chuàng)建隨機(jī)的訓(xùn)練數(shù)據(jù)集和測試數(shù)據(jù)集：

其中，data為原始數(shù)據(jù)集；runif（n）生成n個(gè)隨機(jī)數(shù)的列表，n為記錄的個(gè)數(shù)；order（）函數(shù)返回一個(gè)數(shù)值向量，記錄了隨機(jī)數(shù)在原來序列的位置，根據(jù)位置信息篩選數(shù)據(jù)框中的行，保存在data_rand數(shù)據(jù)框內(nèi)。train為訓(xùn)練數(shù)據(jù)集，test為測試數(shù)據(jù)集。

3.3.2 決策樹模型構(gòu)建

本文采用R語言的C50程序包實(shí)現(xiàn)C5.0算法訓(xùn)練決策樹模型，其中C5.0（）函數(shù)創(chuàng)建決策樹對象。如果還沒有安裝C50包，使用install.packages（）命令添加。

使用如下命令，構(gòu)建C5.0決策樹模型：

其中screening_model表示最后得到的篩查模型，train表示訓(xùn)練數(shù)據(jù)集，OSASH表示是否患病。

3.4 模型性能的評估

傳統(tǒng)分類器學(xué)習(xí)算法大多數(shù)假定類別分布均衡，其性能評估方法一般采用總的識別率。對于非均衡數(shù)據(jù)，采用經(jīng)典學(xué)習(xí)算法的總識別率作為評估標(biāo)準(zhǔn)會導(dǎo)致少類樣本的識別率偏低，不能很好地反映分類器的性能。比較常用的非均衡數(shù)據(jù)分類算法的評估標(biāo)準(zhǔn)有準(zhǔn)確率（Precision），召回率（Recall），G-mean，F(xiàn)-measure和ROC曲線下面積（Area Under the Curve，AUC）等[17-20]。本文采用十則交叉驗(yàn)證的AUC值來衡量不平衡數(shù)據(jù)的分類效果的變化。

4 實(shí)驗(yàn)驗(yàn)證

4.1 實(shí)驗(yàn)數(shù)據(jù)集

本文所采用的數(shù)據(jù)集來自于2006年至2012年在云南省第一人民醫(yī)院（昆明理工大學(xué)附屬昆華醫(yī)院）呼吸科就診的3 055例打鼾者的人體測量學(xué)數(shù)據(jù)，根據(jù)PSG診斷結(jié)果分為打鼾者（3.53%）和OSAHS（96.47%）患者兩類。兩類數(shù)據(jù)的具體參數(shù)指標(biāo)如表2所示。

表2 數(shù)據(jù)集描述

4.2 實(shí)驗(yàn)結(jié)果及分析

分別對使用ROSE算法平衡前后的數(shù)據(jù)使用C5.0算法進(jìn)行訓(xùn)練和測試。實(shí)驗(yàn)前后十則交叉驗(yàn)證的分類精評價(jià)指標(biāo)如表3所示，從中可以看出采用ROSE方法平衡數(shù)據(jù)后篩查模型的預(yù)測結(jié)果較為理想，AUC值由0.505顯著提高到0.722，并且該模型具有更高的分類正確率。得到的篩查模型如圖2所示。

表3 實(shí)驗(yàn)前后評價(jià)指標(biāo)

圖2 ROSE和C5.0構(gòu)建的OSAHS初篩模型

由實(shí)驗(yàn)最后得到的初篩模型，可以得到?jīng)Q策樹生成的相應(yīng)決策規(guī)則，使用這些規(guī)則對打鼾患者進(jìn)行OSAHS初篩后，仍需要后續(xù)配合多導(dǎo)睡眠儀進(jìn)行確診。本文得到的初篩模型與其他研究[3-6]的結(jié)果比較，使用的預(yù)測參數(shù)更加全面，建立的篩查模型更加細(xì)化。

5 結(jié)束語

OSAHS是一種與睡眠相關(guān)的呼吸疾病，主要表現(xiàn)為睡眠打鼾并伴有呼吸暫停，可導(dǎo)致白天嗜睡及心腦血管等并發(fā)癥，嚴(yán)重的影響患者的生活質(zhì)量和壽命。目前雖然PSG診斷是OSAHS確診的金標(biāo)準(zhǔn)，但由于價(jià)格昂貴，因此亟需建立一種簡單的測量方法進(jìn)行疑似患者的篩查。本文在臨床醫(yī)學(xué)研究的基礎(chǔ)上，提出了基于人體測量學(xué)指標(biāo)數(shù)據(jù)，采用ROSE和C5.0算法構(gòu)建篩查模型。經(jīng)實(shí)驗(yàn)驗(yàn)證，使用本文的方法進(jìn)行初篩較為合理。同時(shí)本文基于真實(shí)數(shù)據(jù)研究和預(yù)測，模型預(yù)測精度較高，泛化能力較強(qiáng)。

雖然本文所提出的決策樹模型總體分類正確率較高，但是基于現(xiàn)有的醫(yī)療信息數(shù)據(jù)庫進(jìn)行的機(jī)器學(xué)習(xí)研究，可能受到數(shù)據(jù)質(zhì)量的限制，為了更進(jìn)一步提高診斷結(jié)果的敏感性，還需要在下一步實(shí)驗(yàn)中結(jié)合流行病學(xué)研究繼續(xù)探索。

[1]莫曉云，劉建紅，謝宇萍，等.阻塞性睡眠呼吸暫停低通氣綜合征合并高血壓的特點(diǎn)及危險(xiǎn)因素[J].中華醫(yī)學(xué)雜志，2016，96（8）：605-609.

[2]Liu J，Wei C，Huang L，et al.Prevalence of signs and symptoms suggestive of obstructive sleep apnea syndrome in Guangxi，China[J].Sleep and Breathing，2014，18（2）：375-382.

[3]Peruvemba H，Thazhepurayil R，Ponneduthamkuzhi J，et al.Clinical prediction of Obstructive Sleep Apnea（OSA）in a tertiary care setting[J].Journal of Clinical and Diagnostic Research，2012，6（5）：835-838.

[4]Prochnow L，Zimmermann S，Penzel T.Predictors of obstructive sleep apnea：Anthropometric measurements and their significance[J].Somnologie，2016（20）：113-118.

[5]潘鳳錦，劉建紅，謝宇萍，等.廣西地區(qū)中年打鼾者簡單三參數(shù)篩查OSAHS的多中心研究[J].中華醫(yī)學(xué)雜志，2015，95（2）：100-105.

[6]Karamanli H，Yalcinoz T，Yalcinoz M A，et al.A prediction model based on artificial neural networks for the diagnosis of obstructive sleep apnea.[J].Sleep&Breathing，2015（20）：509-514.

[7]王鈺彧，關(guān)建，殷善開.阻塞性睡眠呼吸暫停低通氣綜合征的篩查診斷研究進(jìn)展[J].臨床耳鼻咽喉頭頸外科雜志，2016（6）：505-509.

[8]歐陽源遊.基于混合采樣的非平衡數(shù)據(jù)集分類研究[D].重慶：重慶大學(xué)，2014.

[9]閆欣.綜合過采樣和欠采樣的不平衡數(shù)據(jù)集的學(xué)習(xí)研究[D].長春：東北電力大學(xué)，2016.

[10]Menardi G，Torelli N.Training and assessing classification ruleswith imbalanced data[J].Data Mining &Knowledge Discovery，2014，28（1）：92-122.

[11]Lunardon N，Menardi G，Torelli N.ROSE：A package for binary imbalanced learning[J].R Journal，2014，6（1）：79-89.

[12]陳紹煒，王聰，趙帥.決策樹算法在電路故障診斷中的應(yīng)用[J].計(jì)算機(jī)工程與應(yīng)用，2013，49（12）：233-236.

[13]范庚，馬登武，張繼軍，等.基于決策樹和相關(guān)向量機(jī)的智能故障診斷方法[J].計(jì)算機(jī)工程與應(yīng)用，2013，49（14）：267-270.

[14]李靜.含異常值的抽樣調(diào)查數(shù)據(jù)估計(jì)方法比較研究[D].北京：中國人民大學(xué)，2011.

[15]馬福民，劉濤濤，徐安平.基于模糊加權(quán)相似度量的粗糙集數(shù)據(jù)補(bǔ)齊方法[J].計(jì)算機(jī)工程與應(yīng)用，2016，52（9）：60-66.

[16]張松蘭，王鵬，徐子偉.基于統(tǒng)計(jì)相關(guān)的缺失值數(shù)據(jù)處理研究[J].統(tǒng)計(jì)與決策，2016（12）：13-16.

[17]王超學(xué)，張濤，馬春森.改進(jìn)SVM-KNN的不平衡數(shù)據(jù)分類[J].計(jì)算機(jī)工程與應(yīng)用，2016，52（4）：51-55.

[18]陳斌，蘇一丹，黃山.基于KM-SMOTE和隨機(jī)森林的不平衡數(shù)據(jù)分類[J].計(jì)算機(jī)技術(shù)與發(fā)展，2015（9）：17-21.

[19]張銀蜂，郭華平，職為梅，等.一種面向不平衡數(shù)據(jù)分類的組合剪枝方法[J].計(jì)算機(jī)工程，2014，40（6）：157-161.

[20]Xie Y，Liu Y，F(xiàn)u Q.Imbalanced data sets classification based on SVM for sand-dust storm warning[J].Discrete Dynamics in Nature and Society，2015，2015（2）：1-8.