基于SVM的腫瘤特征基因提取與基因表達(dá)數(shù)據(jù)分析

譚　云，于　彬，王琦然，王學(xué)敏，李　珊，邱文瑩

(1.青島職業(yè)技術(shù)學(xué)院 生物與化工學(xué)院，青島　266555；2.青島科技大學(xué) 數(shù)理學(xué)院，青島　266061)

?

基于SVM的腫瘤特征基因提取與基因表達(dá)數(shù)據(jù)分析

譚云1，于彬2，王琦然2，王學(xué)敏2，李珊2，邱文瑩2

(1.青島職業(yè)技術(shù)學(xué)院 生物與化工學(xué)院，青島266555；2.青島科技大學(xué) 數(shù)理學(xué)院，青島266061)

摘要：提出一種基于支持向量機(jī)的腫瘤基因表達(dá)譜數(shù)據(jù)挖掘方法。首先采用信噪比方法對(duì)白血病、結(jié)腸癌、肺癌數(shù)據(jù)提取特征基因，生成特征基因子集。然后通過(guò)支持向量機(jī)分類(lèi)模型對(duì)特征基因子集進(jìn)行機(jī)器學(xué)習(xí)訓(xùn)練分類(lèi)。實(shí)驗(yàn)結(jié)果表明：急性白血病、結(jié)腸癌只需4個(gè)特征基因，均獲得100%的10折交叉驗(yàn)證分類(lèi)準(zhǔn)確率。最后為了有效地排除噪聲基因進(jìn)而挑選出精確度更高的分類(lèi)特征基因，采用多尺度小波閾值法對(duì)肺癌數(shù)據(jù)進(jìn)行降噪處理，降噪后僅需5個(gè)特征基因獲得96.61%的分類(lèi)準(zhǔn)確率。

關(guān)鍵詞：基因表達(dá)譜；腫瘤分類(lèi)；特征基因；信噪比；支持向量機(jī)

DNA微陣列技術(shù)的出現(xiàn)和發(fā)展使腫瘤在分子水平上的研究獲得巨大飛躍。研究腫瘤基因表達(dá)譜，選取特征基因是從生物信息學(xué)角度出發(fā)以尋找腫瘤特異基因，在分子水平上準(zhǔn)確利用基因表達(dá)圖譜進(jìn)行腫瘤亞型識(shí)別，對(duì)腫瘤的早期診斷和治療具有重要的實(shí)際意義[1-3]。如何對(duì)腫瘤基因表達(dá)譜進(jìn)行有效分析、挖掘和發(fā)現(xiàn)蘊(yùn)含的重要信息，已成為近年來(lái)生物信息學(xué)與系統(tǒng)生物學(xué)研究的熱點(diǎn)。

自1999年Golub等[4]首次在白血病基因表達(dá)譜數(shù)據(jù)上進(jìn)行基因識(shí)別和腫瘤分類(lèi)以來(lái)，研究者提出多種腫瘤數(shù)據(jù)挖掘方法。主要有：聚類(lèi)分析[5]、主成分分析 (PCA)[6]、獨(dú)立分量分析 (ICA)[7]、k-近鄰 (k-NN)[8]、非負(fù)矩陣分解 (NMF)[9]、自組織映射 (SOM)[10]、支持向量機(jī) (SVM)[11-13]、人工神經(jīng)網(wǎng)絡(luò) (ANN)[14]、概率神經(jīng)網(wǎng)絡(luò) (PNN)[3]、貝葉斯[15]等經(jīng)典常用的分類(lèi)方法。實(shí)驗(yàn)表明：分類(lèi)器的性能對(duì)于腫瘤的分類(lèi)結(jié)果至關(guān)重要。近年來(lái)，基于高效的機(jī)器學(xué)習(xí)方法SVM是該領(lǐng)域最常使用的分類(lèi)器，對(duì)于超高維、小樣本特點(diǎn)的腫瘤基因表達(dá)譜數(shù)據(jù)集具有良好的分類(lèi)效果[16-18]。

本文從腫瘤基因表達(dá)譜數(shù)據(jù)中挖掘有效信息作為分類(lèi)依據(jù)，研究特征基因的選取問(wèn)題。采用信噪比方法對(duì)急性白血病、結(jié)腸癌、肺癌基因表達(dá)譜數(shù)據(jù)提取特征基因，利用SVM對(duì)3類(lèi)腫瘤基因樣本數(shù)據(jù)進(jìn)行訓(xùn)練建立腫瘤分類(lèi)模型。實(shí)驗(yàn)表明：只需4個(gè)特征基因急性白血病、結(jié)腸癌均獲得100%的10折交叉驗(yàn)證分類(lèi)準(zhǔn)確率。最后采用多尺度小波閾值法對(duì)肺癌基因表達(dá)譜數(shù)據(jù)進(jìn)行降噪處理，降噪后只需5個(gè)特征基因以96.61%精確度識(shí)別肺癌。

1材料與方法

1.1實(shí)驗(yàn)數(shù)據(jù)

使用3類(lèi)腫瘤數(shù)據(jù)集：Leukemia、Colon Cancer及Lung Cancer。數(shù)據(jù)來(lái)自哈佛-麻省理工的博德研究所網(wǎng)站http://www.broadinstitute.org/cgi-bin/cancer/datasets.cgi及普林斯頓大學(xué)網(wǎng)站http://genomics-pubs.princeton.edu/oncology/。

Leukemia數(shù)據(jù)集由Golub等收集[4]。它含有72個(gè)急性白血病個(gè)樣本，每個(gè)樣本含7 129個(gè)基因。其中，47個(gè)樣本為ALL (急性淋巴白血病)，25個(gè)為AML (急性髓細(xì)胞白血病)。選取38個(gè)樣本作為訓(xùn)練集 (27個(gè)ALL，11個(gè)AML)，34個(gè)樣本作為測(cè)試集 (20個(gè)ALL，14個(gè)AML)。

Colon Cancer數(shù)據(jù)集由Alon等收集[19]。它含有62個(gè)樣本，每個(gè)樣本含2 000個(gè)基因。其中，40個(gè)樣本為結(jié)腸癌，22個(gè)為正常組織。隨機(jī)選取48個(gè)樣本為訓(xùn)練集 (30個(gè)結(jié)腸癌，18個(gè)正常組織)，14個(gè)樣本為測(cè)試集 (10個(gè)結(jié)腸癌，4個(gè)正常組織)。

Lung Cancer數(shù)據(jù)集由Beer等收集[20]。它含有86個(gè)樣本，每個(gè)樣本含7 129個(gè)基因。其中，24個(gè)樣本為肺癌，62個(gè)為正常組織。隨機(jī)選取58個(gè)樣本為訓(xùn)練集 (16個(gè)肺癌，42個(gè)正常組織)，28個(gè)樣本為測(cè)試集 (8個(gè)肺癌，20個(gè)正常組織)。

1.2方法

1.2.1信噪比方法

對(duì)于腫瘤樣本兩類(lèi)別分類(lèi)問(wèn)題，信噪比是有效的特征選擇方法[4]。公式如下：

其中，u+(j)和u-(j)分別是+1類(lèi)和-1類(lèi)樣本第j個(gè)基因的平均值。類(lèi)似的，σ+(j)和σ-(j)分別是+1類(lèi)和-1類(lèi)樣本第j個(gè)基因的標(biāo)準(zhǔn)差。

1.2.2支持向量機(jī)

SVM是由Vapnik等[21]提出的一種新機(jī)器學(xué)習(xí)方法，它以統(tǒng)計(jì)學(xué)習(xí)理論為基礎(chǔ)，基于結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則，在數(shù)據(jù)小樣本條件下具有較好的推廣能力。近年來(lái)， SVM方法已經(jīng)成功運(yùn)用到腫瘤基因表達(dá)譜樣本數(shù)據(jù)的挖掘分析之中[12-13]。

支持向量機(jī)的具體求解過(guò)程如下：

1) 設(shè)已知樣本訓(xùn)練集：

其中：xi∈X=Rn;yi∈Y={-1,+1}(i=1,2,…,n);xi為特征向量。

2) 選取適當(dāng)?shù)暮撕瘮?shù)K(xi,xj)，參數(shù)C，求解優(yōu)化問(wèn)題：

3) 選取α*的正分量，計(jì)算樣本分類(lèi)閾值：

4) 構(gòu)造最優(yōu)判別函數(shù)：

實(shí)驗(yàn)采用了Chang等[22]開(kāi)發(fā)的軟件包LIBSVM，該軟件可通過(guò)網(wǎng)址http://www.csie.ntu.etu.tw/～cjlin/libsvm/下載。由于腫瘤樣本集非線性的特點(diǎn)，采用基于RBF的SVM分類(lèi)器對(duì)腫瘤樣本進(jìn)行分類(lèi)。RBF核函數(shù)形式為K(xi,xj)=exp(-γ‖xi-xj‖2)。仿真實(shí)驗(yàn)環(huán)境：Intel(R) Core(TM) i7-4510 CPU @ 2.00GHZ 2.60GHZ 8.00GB的內(nèi)存，MATLAB R2014a編程實(shí)現(xiàn)。

2結(jié)果與討論

本文首先采用信噪比方法對(duì)3類(lèi)腫瘤微陣列數(shù)據(jù)提取特征基因，然后對(duì)提取出的特征基因子集進(jìn)行歸一化，最后以徑向基支持向量機(jī)作為分類(lèi)器，利用訓(xùn)練集進(jìn)行K-折交叉驗(yàn)證，對(duì)樣本測(cè)試集進(jìn)行基因表達(dá)譜數(shù)據(jù)識(shí)別，得到3類(lèi)腫瘤樣本Leukemia、Colon Tumor及Lung Tumor的分類(lèi)精度。經(jīng)過(guò)多次數(shù)值實(shí)驗(yàn)，發(fā)現(xiàn)白血病數(shù)據(jù)集提取特征基因最少時(shí)僅需要4個(gè) (如表1所示)，結(jié)腸癌基因表達(dá)譜數(shù)據(jù)集提取征基因最少時(shí)僅需要4個(gè) (如表2所示)，肺癌數(shù)據(jù)集提取征基因最少時(shí)僅需要5個(gè) (如表3所示)，3類(lèi)腫瘤樣本能獲得較高的分類(lèi)精度。

表1　急性白血病特征基因及其生物屬性描述

表2　結(jié)腸癌特征基因及其生物屬性描述

表3　肺癌特征基因及其生物屬性描述

在參數(shù)選取方面，利用基于SVM腫瘤基因表達(dá)譜數(shù)據(jù)分類(lèi)模型，結(jié)合K-折交叉驗(yàn)證方法，使用LIBSVM軟件包中的SVMcgForClass函數(shù)對(duì)參數(shù)進(jìn)行自動(dòng)化最優(yōu)選取。在不同折數(shù)選取的最優(yōu)參數(shù)下，急性白血病、結(jié)腸癌、肺癌3種癌癥的測(cè)試集分類(lèi)準(zhǔn)確率如表4所示。

表4　3種癌癥分類(lèi)準(zhǔn)確率　%

從表4可以看到：使用不同折數(shù)選取的最優(yōu)參數(shù)，對(duì)提高癌癥分類(lèi)的準(zhǔn)確率具有較大影響。急性白血病的分類(lèi)在4，5，7，8，10折下均達(dá)到100%；結(jié)腸癌的分類(lèi)在4，5，7，8，10折下均達(dá)到100%；肺癌的分類(lèi)精度在3，5折下達(dá)到較高的分類(lèi)精度83.05%。這說(shuō)明本文提出的方法在K-折交叉驗(yàn)證下，參數(shù)自動(dòng)化最優(yōu)選取對(duì)提高腫瘤的分類(lèi)準(zhǔn)確率具有較大的幫助。

針對(duì)肺癌數(shù)據(jù)集的分類(lèi)精度不太理想，猜測(cè)可能由于基因表達(dá)譜中存在噪聲，有的噪聲強(qiáng)度甚至較大，對(duì)含有噪聲的基因表達(dá)譜提取特征基因時(shí)會(huì)產(chǎn)生偏差。本研究使用多尺度小波閾值法進(jìn)行降噪，采用了常用的Daubechies (dbN) 小波系作為母小波，并且在5個(gè)不同尺度水平下進(jìn)行小波重構(gòu)。分別采用penalty閾值、Birge-Massart閾值、缺省閾值對(duì)樣本數(shù)據(jù)進(jìn)行降噪。通過(guò)對(duì)肺癌訓(xùn)練集中數(shù)據(jù)的分析，結(jié)果表明：penalty閾值函數(shù)的均方根最大，誤差最小，分解層數(shù)為4時(shí)消噪效果最好，采用db4為最佳小波基。將降噪后的微陣列數(shù)據(jù)采用信噪比方法提取特征基因，最終得到最少時(shí)5個(gè)特征基因，此時(shí)肺癌測(cè)試集在3，4，5，7，8，10折下均達(dá)到96.61%的分類(lèi)精確度。降噪后提取的特征基因以及其生物屬性描述如表5所示。

表5　肺癌降噪后提取的特征基因

通過(guò)對(duì)3類(lèi)腫瘤基因表達(dá)譜的研究，可以發(fā)現(xiàn)3類(lèi)數(shù)據(jù)在10折交叉驗(yàn)證的情況下均達(dá)到了最優(yōu)分類(lèi)效果，以下研究都采用10折交叉驗(yàn)證選取最優(yōu)參數(shù)。3種腫瘤樣本在10折交叉驗(yàn)證下的分類(lèi)準(zhǔn)確率及相應(yīng)參數(shù)如表6所示。

表6　3種腫瘤的分類(lèi)準(zhǔn)確率及相應(yīng)參數(shù)

以結(jié)腸癌為例，該數(shù)據(jù)是一個(gè)較難分析的數(shù)據(jù)集，分別提取了1,2,3,…,10個(gè)特征基因做分類(lèi)研究，研究結(jié)果如表7所示。根據(jù)不同特征基因個(gè)數(shù)繪制了分類(lèi)準(zhǔn)確率的折線圖，如圖1所示。從表7和圖1中可以看出：當(dāng)提取4，6，7，8，10個(gè)特征基因時(shí)，測(cè)試集樣本的10折交叉驗(yàn)證分類(lèi)準(zhǔn)確率均達(dá)到100%。

圖1　結(jié)腸癌的分類(lèi)準(zhǔn)確率

在3種不同腫瘤提取出的特征基因中，對(duì)每類(lèi)腫瘤隨機(jī)選取3個(gè)特征基因繪制三維散點(diǎn)圖。圖2繪制了急性白血病從特征基因中抽取3基因子集{X95735，M84526，M23197}的三維散點(diǎn)圖。圖3繪制了結(jié)腸癌從特征基因中抽取3基因子集{R87126，R36977，H08393}的三維散點(diǎn)圖。圖4繪制了肺癌從特征基因中抽取3基因子集{U22816，X04706_s，L43631}的三維散點(diǎn)圖。可以看出：圖2、3、4中3類(lèi)腫瘤的樣本劃分邊界都比較清晰，說(shuō)明該方法提取的特征基因可以將腫瘤較好地區(qū)分開(kāi)。

表7　結(jié)腸癌選取不同特征基因的分類(lèi)準(zhǔn)確率

圖3　結(jié)腸癌的3個(gè)基因{R87126，R36977，

圖4　肺癌數(shù)據(jù)集的3個(gè)基因{U22816，X04706_s，

為便于比較，本文列出了急性白血病、結(jié)腸癌、肺癌3類(lèi)腫瘤樣本集采取不同的特征基因提取方法及不同分類(lèi)器的實(shí)驗(yàn)結(jié)果，這些都是目前腫瘤分類(lèi)問(wèn)題研究中獲得的非常好的實(shí)驗(yàn)結(jié)果，如表8所示。通過(guò)比較，可以發(fā)現(xiàn)本文提出的方法對(duì)兩類(lèi)腫瘤樣本的分類(lèi)準(zhǔn)確率均達(dá)到較高的水平，相對(duì)其他方法實(shí)現(xiàn)該方法以最少的特征基因數(shù)目達(dá)到最高的分類(lèi)準(zhǔn)確率。說(shuō)明使用RBF核函數(shù)的支持向量機(jī)作為分類(lèi)器，采用最優(yōu)參數(shù)選擇方法能顯著提高樣本的分類(lèi)準(zhǔn)確率。

表8　3類(lèi)腫瘤數(shù)據(jù)集的不同分類(lèi)方法獲得的分類(lèi)結(jié)果比較

3結(jié)束語(yǔ)

腫瘤大數(shù)據(jù)可以使人們深入了解疾病的病因和結(jié)局，為精準(zhǔn)醫(yī)學(xué)尋找更好的藥物靶點(diǎn)，并且提高疾病的早期預(yù)測(cè)和預(yù)防能力。本文提出一種基于支持向量機(jī)的腫瘤基因樣本分類(lèi)模型，針對(duì)3類(lèi)腫瘤基因樣本數(shù)據(jù)集具有樣本小、維數(shù)高、非線性等特點(diǎn)，利用信噪比和小波降噪等方法對(duì)基因表達(dá)譜進(jìn)行降維，提取特征基因子集，運(yùn)用基于RBF核函數(shù)的支持向量機(jī)作為分類(lèi)器。實(shí)驗(yàn)結(jié)果表明：3類(lèi)腫瘤樣本均獲得了較高的分類(lèi)精確度。不過(guò)本文提出的方法適于腫瘤基因表達(dá)樣本數(shù)據(jù)的兩類(lèi)別分類(lèi)，如何利用基于統(tǒng)計(jì)學(xué)習(xí)理論的支持向量機(jī)及貝葉斯統(tǒng)計(jì)方法建立腫瘤多類(lèi)別分類(lèi)模型，并且融入臨床生物學(xué)信息是下一步的研究方向。

參考文獻(xiàn)：

[1]NGUYEN D V,ROCKE D M.Tumor classification by partial least squares using microarray expression data [J].Bioinformatics,2002,18(1):39-50.

[2]YU B,ZHANG Y.The analysis of colon cancer gene expression profiles and the extraction of informative genes [J].J Comput Theor Nanosci,2013,10(5):1097-1103.

[3]WANG S L,LI X L,ZHANG S W,et al.Tumor classification by combining PNN classifier ensemble with neighborhood rough set based gene reduction [J].Computers in Biology and Medicine,2010,40:179-189.

[4]GOLUB T R,SLONIM D K,TAMAYO P,et al.Molecular classification of cancer:class discovery and class prediction by gene expression monitoring [J].Science,1999,5439 (286):531-537.

[5]ZHANG H P,YU C Y,SINGER B,et al.Recursive partitioning for tumor classification with gene expression microarray data [J].Proc.Natl Acad.Sci.,USA,2001,98:6730-6735.

[6]PINTO DA COSTA J F,ALONSO H,ROQUE L.A weighted principal component analysis and its application to gene expression data [J].IEEE/ACM Transactions on Computational Biology and Bioinformatics,2011,8(1):246-252.

[7]HUANG D S,ZHENG C H.Independent component analysis based penalized discriminant method for tumor classification using gene expression data [J].Bioinformatics,2006,22(15):1855-1862.

[8]CHENG X P,CAI H M,ZHANG Y,et al.Optimal combination of feature selection and classification via local hyperplane based learning strategy [J].BMC Bioinformatics,2015,16:219.

[9]ZHENG C H,HUANG D S,ZHANG L,et al.Tumor clustering using non-negative matrix factorizatiowith gene selection [J].IEEE Transactionson Information Technology in Biomedicine,2009,13(4):599-607.

[10]TORONEN P,KOLEHMAINEN M,WONG G,et al.Analysis of gene expression data using self-organizing maps [J].FEBS Letter,1999,451:142-146.

[11]FUREY T S,CRISTIANINI N,DUFFY N,et al.Support vector machine classification and validation of cancer tissue samples using microarray expression data [J].Bioinformatics,2000,16(10):906-914.

[12]PENG S,XU Q,LING X B,et al.Molecular classification of cancer types from microarray data using the combination of genetic algorithms and support vector machines [J].FEBS Letter,2003,555(2):358-362.

[13]YU B,ZHANG Y,ZHAO L K.Cancer classification by a hybrid method using microarray gene expression data [J].J.Comput.Theor.Nanosci.,2015,12(10):3194-3200.

[14]KHAN J,WEI J S,RINGNER M,et al.Classification and diagnostic prediction of cancers using gene expression profiling and artificial neural networks [J].Nature Medicine,2001,7:673-679.

[15]WANG Y,MAKEDON F,FORD J C,et al.Hykgene:a hybrid approach for selecting marker genes for phenotype classification using microarray gene expression data [J].Bioinformatics,2005,21(8):1530-1537.

[16]YU B,LI S,LIU H J.A hybrid gene selection method for tumor classification based on genetic algorithm and support vector machine [J].J.Comput.Theor.Nanosci.,2015,12(11):4730-4735.

[17]SUN S,PENG Q,SHAKOOR A.A kernel-based multivariate feature selection method for microarray data classification [J].PLoS ONE,2014,9(7):e102541.

[18]SHI P,RAY S,ZHU Q F,et al.Top scoring pairs for feature selection in machine learning and applications to cancer outcome prediction [J].BMC Bioinformatics,2011,12:375.

[19]ALON U,BARKAI N,NOTTERMAN D A,et al.Broad patterns of gene expression revealed by clustering analysis of tumor and normal colon tissues probed by oligonucleotide arrays [J].Proc.Natl.Acad.Sci.USA,1999,96:6745-6750.

[20]BEER D G,KARDIA S L R,HUANG C C,et al.Gene expression profile predicts survival of patients with lung adenocarcinoma [J].Nature Medicine,2002,8:816-824.

[21]VAPNIK V N.The nature of statistical learning theory [M].New York:Springer-Verlag New York Inc,1995.

[22]CHANG C C,LIN C J.LIBSVM:a library for support vector machines [J].ACM Transactions on Intelligent Systems and Technology,2011; 2(3):1-27.

[23]ANTONIADIS A,LAMBERT-LACROIX S,LEBLANC F.Effective dimension reduction methods for tumor classification using gene expression data [J].Bioinformatics,2003,19(5):563-570.

(責(zé)任編輯何杰玲)

Extraction of Cancer Informative Genes and Gene Expression Data Analysis Based on Support Vector Machine

TAN Yun1, YU Bin2, WANG Qi-ran2, WANG Xue-min2, LI Shan2, QIU Wen-ying2

(1.School of Biological & Chemical Engineering, Qingdao Technical College,Qingdao 266555, China; 2.College of Mathematics & Physics,Qingdao University of Science & Technology, Qingdao 266061, China)

Abstract:This paper put forward cancer gene expression profile data mining methods based on support vector machine (SVM). Firstly, informative genes were extracted from leukemia, colon cancer and lung cancer data by signal-to-noise ratio method, thus generating informative genes subsets. Then informative genes subsets were classified by machine learning and training through support vector machine (SVM) classification model. The experimental results show that only four informative genes are needed for acute leukemia and colon cancer to get 100% classification accuracy by 10 fold cross-validation. Finally, multi-scale wavelet threshold denoising method was established to reduce the noise of the data in lung cancer gene expression profiles for getting higher classification accuracy. After noise reduction, only five informative genes are needed to get 96.61% classification accuracy.

Key words:gene expression profile; cancer classification; informative gene; signal to noise ratio; support vector machine

收稿日期：2016-02-24

基金項(xiàng)目：國(guó)家自然科學(xué)基金資助項(xiàng)目(41204115); 山東省自然科學(xué)基金資助項(xiàng)目(ZR2013AM007, ZR2014FL021); 山東省高等學(xué)?？萍加?jì)劃項(xiàng)目(J13LI54)

作者簡(jiǎn)介：譚云(1979—)，女，講師，主要從事生物信息學(xué)的研究；通訊作者 于彬(1976—)，男，副教授，碩士生導(dǎo)師，主要從事生物信息學(xué)、系統(tǒng)生物學(xué)及計(jì)算智能的研究。

doi:10.3969/j.issn.1674-8425(z).2016.06.017

中圖分類(lèi)號(hào)：Q811.4

文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：1674-8425(2016)06-0102-07

引用格式：譚云，于彬，王琦然，等.基于SVM的腫瘤特征基因提取與基因表達(dá)數(shù)據(jù)分析[J].重慶理工大學(xué)學(xué)報(bào)(自然科學(xué))，2016(6):102-108.

Citation format：TAN Yun, YU Bin, WANG Qi-ran,et al.Extraction of Cancer Informative Genes and Gene Expression Data Analysis Based on Support Vector Machine[J].Journal of Chongqing University of Technology(Natural Science)，2016(6):102-108.