基于LASSO回歸和多層感知的癌組織RNA-Seq數(shù)據(jù)分類算法研究

顏瀅 李文敬 李松釗

摘要：目的：為了解決癌癥基因RNA-Seq（RNA-Sequencing，轉(zhuǎn)錄組測序技術(shù)）技術(shù)每次測序過程產(chǎn)生海量高分辨率、高維、高冗余的數(shù)據(jù)，給基因表達(dá)數(shù)據(jù)分類帶來困難的問題。方法：提出了一種基于LASSO（Least Absolute Shrinkage and Selection Operator，LASSO）回歸和多層感知的癌組織RNA-Seq數(shù)據(jù)分類算法。首先，從TCGA數(shù)據(jù)庫獲取十個(gè)疾病的基因數(shù)據(jù)集并對原始RNA-Seq的基因表達(dá)譜基因數(shù)據(jù)進(jìn)行數(shù)據(jù)清洗和標(biāo)準(zhǔn)化處理，去除重復(fù)的基因，選取表達(dá)量最大的基因并將數(shù)據(jù)做標(biāo)準(zhǔn)化處理。其次，采用LASSO回歸的方法對處理后的數(shù)據(jù)進(jìn)行降維和特征提取，獲得與疾病標(biāo)簽最相關(guān)的特征基因集。最后，運(yùn)用多層感知器神經(jīng)網(wǎng)絡(luò)（Multilayer Perceptron，MLP）模型對特征基因進(jìn)行學(xué)習(xí)和訓(xùn)練，實(shí)現(xiàn)有效地識別和分類。實(shí)驗(yàn)結(jié)果：實(shí)驗(yàn)表明，該算法在10種癌細(xì)胞基因測試數(shù)據(jù)集中分類總準(zhǔn)確率達(dá)到99.8%，高于LASSO-CNN分類模型的總準(zhǔn)確率98.9%和LASSO-BP神經(jīng)網(wǎng)絡(luò)分類模型的總準(zhǔn)確率99.4%。結(jié)論：該算法克服了轉(zhuǎn)錄組測序數(shù)據(jù)量大、特征多、數(shù)據(jù)差異大的缺陷，是一種有效的癌癥基因表達(dá)測序分類新算法。

關(guān)鍵詞：RNA-Seq;LASSO回歸;特征提取;多層感知器神經(jīng)網(wǎng)絡(luò);基因表達(dá);TCGA數(shù)據(jù)庫

中圖分類號：TP3? ? ? ? 文獻(xiàn)標(biāo)識碼：A

文章編號：1009-3044（2022）19-0091-03

轉(zhuǎn)錄組測序技術(shù)（RNA Sequencing，轉(zhuǎn)錄組測序技術(shù)）能夠?qū)ι锏霓D(zhuǎn)錄本進(jìn)行檢測，確定哪些變異在癌癥樣本中有表達(dá)，通過分析基因表達(dá)差異識別出變異基因或癌癥基因，在腫瘤疾病的診斷和治療起著重要作用，具有重要的科學(xué)意義與應(yīng)用價(jià)值。但是，轉(zhuǎn)錄組測序技術(shù)可以在一次實(shí)驗(yàn)中獲取大規(guī)模的基因表達(dá)譜數(shù)據(jù)[1]，若要在海量的信息中識別疾病相關(guān)基因，使RNA-Seq技術(shù)在腫瘤疾病的診斷和治療中發(fā)揮重要作用，則要引用特征選取和機(jī)器學(xué)習(xí)的方法。為研究高效率、高準(zhǔn)確率的基因分類算法，本文提出一種基于LASSO回歸和多層感知的癌組織RNA-Seq數(shù)據(jù)分類算法，在一次對癌癥樣本RNA-Seq測序后，可直接將結(jié)果進(jìn)行識別、預(yù)測、分類。

為了解決高維基因數(shù)據(jù)的特征篩選和分類問題，1996年Robert Tibshirani[2]提出的LASSO回歸算法為基因特征數(shù)據(jù)的提取提供了技術(shù)支持，并逐漸應(yīng)用到生物信息學(xué)領(lǐng)域。對于基因數(shù)據(jù)的特征篩選和分類問題，張靖等人[3]提出一種基于迭代Lasso的信息基因選擇方法，采用改進(jìn)的Lasso方法進(jìn)行冗余基因的剔除以獲得基因數(shù)量少且分類能力較強(qiáng)的信息基因子集，并使用支持向量機(jī)（SVM）、K近鄰（KNN）、決策樹C4. 5和隨機(jī)森林Random Forest4種分類器進(jìn)行分類。張靖、張玉紅等人[4]提出K-split Lasso特征選擇方法，其基本思想是將數(shù)據(jù)集平均劃分為K份，分別使用Lasso方法對每份進(jìn)行特征選擇，而后將選擇出來的每份特征子集合并，重新進(jìn)行特征選擇，得到最終的特征基因，最后采用支持向量機(jī)進(jìn)行分類。Ma[5]等人結(jié)合K-means和Lasso方法對基因表達(dá)譜數(shù)據(jù)進(jìn)行特征選擇和預(yù)測模型構(gòu)建，取得了較好的效果。

1本文算法原理

1.1 LASSO回歸原理

在樣本基因數(shù)據(jù)中引入的特征太多，主成分分析法選擇將一些原始數(shù)據(jù)丟失[6]，而這些數(shù)據(jù)可能含有對樣本差異的重要信息，這就會對區(qū)分樣本類別的結(jié)果產(chǎn)生影響。采用LASSO回歸（Least Absolute Shrinkage And Selection Operator）更適用于處理一次RNA-Seq技術(shù)測序所產(chǎn)生的數(shù)據(jù)，LASSO回歸通過參數(shù)縮減擬合廣義線性模型的同時(shí)進(jìn)行變量篩選，從而達(dá)到降維和選取特征基因的目的[7]。這個(gè)方法能夠保留原有的基因特征屬性，選取關(guān)鍵特征，可直接用于特征建模分析。

以提取多種癌癥組織樣本特征為例：給定[n]個(gè)疾病樣本[{（X1，Y1），…，（Xn，Yn）}]，自變量[X=（x1，x2，…，xn）T∈Rm*n]為基因數(shù)據(jù)矩陣，[xn∈Rm]為m維數(shù)據(jù)樣本，包含m個(gè)特征，響應(yīng)變量[Y=（y1，y2，…，yn）T∈Rn]，[Y]為疾病標(biāo)簽，自變量[X]對響應(yīng)變量[Y]進(jìn)行線性回歸，約束[λ=（λ1，λ2，…λt）]不超過閾值[e]。

設(shè)本實(shí)驗(yàn)?zāi)繕?biāo)函數(shù)為：

LASSO回歸優(yōu)化目標(biāo)是令代價(jià)函數(shù)（cost function，或稱為損失函數(shù)，lost function）最小，

[min L（λ）=12nj=1n（yj-λTxj）2+μj=1t|λj|subjecttoj=1t|λj|≤e]（1）

n為樣本個(gè)數(shù)，[μ]為正則化參數(shù)，[t]為參數(shù)個(gè)數(shù)。隨著[μ]的增大，各變量的系數(shù)逐漸趨于零。

1.2 多層感知器

多層感知器（Muti-Layer Perception，MLP）是一種前饋式人工神經(jīng)網(wǎng)絡(luò)，是目前最成熟的人工神經(jīng)網(wǎng)絡(luò)之一。它由三層結(jié)構(gòu)組成，分別是：輸入層、隱藏層和輸出層。MLP神經(jīng)網(wǎng)絡(luò)能學(xué)習(xí)和存儲大量輸入-輸出模式的映射關(guān)系，被廣泛應(yīng)用于圖像，自然語言處理，生物信息領(lǐng)域識別、預(yù)測、分類[8]。

2 多層感知的癌組織RNA-Seq數(shù)據(jù)分類算法的構(gòu)建

2.1 獲取數(shù)據(jù)集與基于R語言的數(shù)據(jù)處理

2.1.1 數(shù)據(jù)集的獲取與數(shù)據(jù)預(yù)處理

本次實(shí)驗(yàn)樣本基因數(shù)據(jù)來源于TCGA數(shù)據(jù)庫，TCGA是關(guān)于癌癥方面的最大的公共數(shù)據(jù)集[9]，為研究腫瘤學(xué)的人們提供了便捷的數(shù)據(jù)獲取平臺。本實(shí)驗(yàn)使用3782個(gè)樣本進(jìn)行建模，每個(gè)疾病樣本包含25190個(gè)基因，原始數(shù)據(jù)無法直接用于模型訓(xùn)練，因此要進(jìn)一步對數(shù)據(jù)進(jìn)行處理。

從數(shù)據(jù)庫獲取到的基因數(shù)據(jù)集為COUNT矩陣，將COUNT矩陣導(dǎo)入R，把基因ID轉(zhuǎn)換為Gene symbol，去除重復(fù)的基因，選取表達(dá)量最大的基因，這些基因?qū)⒂糜谧鰯?shù)據(jù)標(biāo)準(zhǔn)化。

2.1.2 數(shù)據(jù)編碼：One-Hot

本實(shí)驗(yàn)序列的標(biāo)簽將采用One-Hot的方法進(jìn)行編碼。用LIHC、STAD、BRCA、DLBC、ESCA、GBM、OV、PAAD、LUAD、UCEC這10種癌癥基因數(shù)據(jù)進(jìn)行分類，并將患病樣本所對應(yīng)的疾病作標(biāo)簽。

2.1.3 數(shù)據(jù)標(biāo)準(zhǔn)化

數(shù)據(jù)標(biāo)準(zhǔn)化的目的主要是消除測序數(shù)據(jù)的技術(shù)偏差[10]，各個(gè)樣本基因數(shù)據(jù)間的測序深度和基因長度處于相同的水平，從而使我們得到具有生物學(xué)意義的基因表達(dá)量變化。本實(shí)驗(yàn)則采用了文獻(xiàn)[11]的方法，使用基于R語言的voom函數(shù)對RNA-Seq基因數(shù)據(jù)標(biāo)準(zhǔn)化處理。

2.2 基于LASSO回歸的降維及特征提取的實(shí)現(xiàn)

LASSO回歸的核心思想是將不相關(guān)的特征系數(shù)變?yōu)榱悖瑥亩Y選出含有特征基因變量。具體實(shí)現(xiàn)如下：

（1）構(gòu)造一個(gè)從200的-5次方到200的2次方的等比數(shù)列，這個(gè)等比數(shù)列的長度是200個(gè)元素，[λ]即這200個(gè)元素中不同的值。

（2）給定一個(gè)變量alphas，用于進(jìn)行交叉驗(yàn)證的正則化參數(shù)。令alpha=[λ]，采用十折交叉驗(yàn)證的方法找出最佳的alpha值，迭代1000次。

（3）調(diào)用最佳正則化參數(shù)下建立的模型系數(shù)，輸出相關(guān)系數(shù)不為零的特征。

（4）記錄相關(guān)系數(shù)不為零的特征，用于構(gòu)造新的數(shù)據(jù)集。

（5）劃分?jǐn)?shù)據(jù)集，設(shè)定一個(gè)隨機(jī)種子，在任意帶有隨機(jī)性的類或函數(shù)里作為參數(shù)來控制隨機(jī)模式，得到新的數(shù)據(jù)集按7：3的比例劃分，得到比例為7：3的訓(xùn)練集與測試集。

本實(shí)驗(yàn)從25190個(gè)基因中提取到與標(biāo)簽最相關(guān)的1414個(gè)特征基因及其表達(dá)量這些數(shù)據(jù)將用于模型訓(xùn)練。

2.3 模型訓(xùn)練

參數(shù)設(shè)置：實(shí)驗(yàn)中MLP神經(jīng)網(wǎng)絡(luò)的激活函數(shù)設(shè)置為relu函數(shù)，隱藏層設(shè)為3層，每一層隱藏層的神經(jīng)元設(shè)置為500，第一層隱藏層的學(xué)習(xí)率設(shè)置為0.1，第二、第三層的隱藏層學(xué)習(xí)率設(shè)置為0.2。

實(shí)驗(yàn)環(huán)境：Intel CPU 3.20 GHz處理器，8 GB內(nèi)存的PC機(jī)，Windows 10操作系統(tǒng)，PyCharm 2020.3.3開發(fā)環(huán)境。

①信息前向傳播

設(shè)[ol]=[（ol1，ol2，....，oln）T]為第[l]層的輸出，[l]=（1，2，3，4，5），n=（1，2，...，500）

當(dāng)[l]=1時(shí)，

[oli]=[xi]? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? （2）

當(dāng)[l]≥2時(shí)，

[ol=Wl*ol-1+bl]? ? ? ? ? ? ? ? ? ? ? ?（3）

當(dāng)[l]=5時(shí)，此時(shí)為輸出層：使用多分類函數(shù)softmax計(jì)算得到輸出層的輸出：

[y=exp（o4）n=1500exp（o4n）]? ? ? ? ? ? ? ? ? ? ? ? ? ? ? [（4）]

隱藏層間的激活函數(shù)relu：

relu[（x）=max（0，x）]? ? ? ? ? ? ? ? ? ? ? ? ? ?（5）

②信息反向傳播

設(shè)代價(jià)函數(shù)（cost function）為[E]，N為訓(xùn)練樣本個(gè)數(shù)：

[Etotal=12Ni=11||yi-xi||2]? ? ? ? ? ? ? ? ? ? ?[（6）]

優(yōu)化目標(biāo)為確定W（權(quán)值）和b（偏置）使得損失函數(shù)[E]最小，采用梯度下降法更新參數(shù)的公式為：

[Wl=Wl-δNi=1N?EiWl]? ? ? ? ? ? ? ? ? ? ? ? ?[（7）]

[bl=bl-δNi=1N?Eibl]? ? ? ? ? ? ? ? ? ? ? ? ? ? ? [（8）]

式中：[δ]為學(xué)習(xí)速率，取值范圍（0，1]。

3 實(shí)驗(yàn)結(jié)果與分析

本文采用BP網(wǎng)絡(luò)、CNN網(wǎng)絡(luò)做對比實(shí)驗(yàn)用于驗(yàn)證本文算法的優(yōu)勢。

3.1 實(shí)驗(yàn)結(jié)果

3.2 實(shí)驗(yàn)結(jié)果分析

分別構(gòu)建基于MLP、BP和CNN的分類模型，得到RNA-Seq基因樣本在3種模型下的識別準(zhǔn)確率如表1所示。根據(jù)表1得知，在MLP模型中，準(zhǔn)確率為99.8%，分類效果較為理想;在BP模型中，準(zhǔn)確率為99.4%;在CNN模型中，準(zhǔn)確率為98.8%，分類效果相對較差。根據(jù)上述的分類結(jié)果可知，MLP模型能夠使用多類別基因數(shù)據(jù)識別方式對RNA-Seq數(shù)據(jù)樣本進(jìn)行有效區(qū)分，且效果最佳。

4 結(jié)束語

本文提出了一種基于LASSO回歸和MLP模型構(gòu)建對多種癌組織樣本RNA-Seq基因序列的分類算法，本算法增加了訓(xùn)練樣本數(shù)量，與其他神經(jīng)網(wǎng)絡(luò)的分類方法相比具有較好的分類效果，且優(yōu)于文獻(xiàn)[9]的分類算法準(zhǔn)確99.3%。在LASSO回歸算法的基礎(chǔ)下，提取出樣本特征，為多層感知器提供了輸入數(shù)據(jù)，增加了模型分類的準(zhǔn)確率和進(jìn)一步提高了泛化能力?；贚ASSO回歸的多層感知器模型的識別的準(zhǔn)確率為99.8%，符合多種癌癥RNA-Seq基因序列的分類需求，同時(shí)也為其他基因數(shù)據(jù)分類方法提供借鑒。

參考文獻(xiàn)：

[1] DERISI JL， IYER VR， BROWN PO. Exploring the metabolic and genetic control of gene expression on a genomic scale[J]. Science， 1997， 278（5338）： 680-686.

[2] Tibshirani R. Regression shrinkage and selection via the lasso [J]. J Royal StatSocSer B Methodol， 1996， 58（1）： 267-288.

[3] 張靖， 胡學(xué)鋼， 李培培， 等. 基于迭代Lasso的腫瘤分類信息基因選擇方法研究 [J]. 模式識別與人工智能， 2014，27（1）： 49-59.

[4] 張靖， 胡學(xué)鋼， 張玉紅， 等. K-split Lasso： 有效的腫瘤特征基因選擇方法 [J]. 計(jì)算機(jī)科學(xué)與探索， 2012， 6（12）： 1136-1143.

[5] MA SG， SONG X， HUANG J. Supervised group Lasso with applications to microarray data analysis [J].BMC Bioinform， 2007， 8： 60.

[6] 紀(jì)榮芳. 主成分分析法中數(shù)據(jù)處理方法的改進(jìn)[J].山東科技大學(xué)學(xué)報(bào)（自然科學(xué)版）， 2007，26（5）： 95-98.

[7] 王福友，白冰，徐平峰.基于SIS的基因表達(dá)數(shù)據(jù)分析[J].長春工業(yè)大學(xué)學(xué)報(bào)， 2017， 38（5）： 417-420.

[8] 張馳，郭媛，黎明.人工神經(jīng)網(wǎng)絡(luò)模型發(fā)展及應(yīng)用綜述[J].計(jì)算機(jī)工程與應(yīng)用，2021，57（11）：57-69.

[9] 蔣文妍.基于RNA-Seq數(shù)據(jù)的癌癥標(biāo)志物研究[D].天津：天津工業(yè)大學(xué)，2020.

[10] Conesa A，Madrigal P，Tarazona S，et al.Erratumto：a survey of best practices for RNA-Seq data analysis[J].Genome Biology，2016，17（1）：181.

[11] YANG YH， DUDOIT S， LUU P， et al. Normalization for cDNAmicroarray data： a robust composite method addressing single and multiple slide systematic variation [J].Nucleic Acids Res，2002， 30（4）： 15.

收稿日期：2022-03-20

基金項(xiàng)目：國家自然科學(xué)基金（61866006）

作者簡介：顏瀅（1997—），女，廣西靈山人，碩士，主要研究方向?yàn)樯镄畔⒂?jì)算、智能計(jì)算;李文敬（1964—），男，廣西南寧人，教授，主要研究方向?yàn)椴⑿杏?jì)算、智能計(jì)算;李松釗（1994—），男，廣西靈山人，碩士，主要研究方向?yàn)橹悄苡?jì)算。