• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于集成學(xué)習(xí)的肺癌存活性預(yù)測(cè)分析

    2022-01-04 15:05:02李秀芹李琳張慢麗
    軟件工程 2022年1期
    關(guān)鍵詞:集成學(xué)習(xí)隨機(jī)森林

    李秀芹 李琳 張慢麗

    摘? 要:在我國,惡性腫瘤死亡率最高的就是肺癌。為了提高肺癌存活性預(yù)測(cè)的準(zhǔn)確性,本研究以隨機(jī)森林(Random Forest)、LightGBM(Light Gradient Boosting Machine)和CatBoost(Categorical Boosting)三種算法為基模型,通過線性回歸集成融合構(gòu)建RF-LGC肺癌存活性預(yù)測(cè)模型,運(yùn)用分層十折交叉驗(yàn)證方法進(jìn)行仿真實(shí)驗(yàn)。實(shí)驗(yàn)結(jié)果顯示,RF-LGC組合模型的預(yù)測(cè)精度達(dá)到了98.0242%,比單一的基模型提高了0.2%;敏感性達(dá)到了89.3957%,比單一的基模型提高了3%;特異性達(dá)到了78.4848%,比單一的基模型提高了1%。因此,該集成融合模型是一種精確、方便的肺癌存活性預(yù)測(cè)模型。

    關(guān)鍵詞:集成學(xué)習(xí);隨機(jī)森林;十折交叉驗(yàn)證;癌癥預(yù)后

    中圖分類號(hào):TP311? ? ?文獻(xiàn)標(biāo)識(shí)碼:A

    文章編號(hào):2096-1472(2022)-01-41-06

    Abstract: In China, lung cancer has the highest mortality rates among all of the malignant tumors. In order to improve the accuracy of lung cancer survival prediction, this paper proposes to use linear regression integration and fusion to build a lung cancer survival prediction model RF-LGC, which is based on three algorithms — Random Forest, LightGBM (Light Gradient Boosting Machine) and CatBoost (Categorical Boosting). Simulation experiments are carried out by using the hierarchical ten-fold cross-validation method. Experimental results show that the prediction accuracy of the RF-LGC combined model reaches 98.0242%, which is 0.2% higher than that of a single-based model; the sensitivity has reached 89.3957%, which is 3% higher than the single-based model; the specificity has reached 78.4848%, which is 1% higher than the single-based model. Therefore, the integrated fusion model is an accurate and convenient lung cancer survival prediction model.

    Keywords: ensemble learning; random forest; ten-fold cross validation; cancer prognosis

    1? ?引言(Introduction)

    2021年最新的癌癥死亡率調(diào)查顯示,男性和女性前十大癌癥死亡率中肺癌均占第一位,約為22%。另外,在確診五年后,肺癌的生存率只有15%,因此生存分析在醫(yī)學(xué)研究中是最常見的課題之一。為了預(yù)測(cè)癌癥的存活性,一些相關(guān)變量被用來表明考慮因素,如死亡或疾病的復(fù)發(fā)是否已經(jīng)在特定的時(shí)間內(nèi)發(fā)生[1]。預(yù)測(cè)模型必須估計(jì)病人在診斷后是否能存活一段特定的時(shí)間[2]。癌癥存活性預(yù)測(cè)是一項(xiàng)非常重要的工作,疾病預(yù)后準(zhǔn)確性越高,醫(yī)療方面的決策就會(huì)越精準(zhǔn),進(jìn)而也會(huì)提高治療效果和效率。所以,提高癌癥存活性預(yù)測(cè)的準(zhǔn)確性非常重要。

    醫(yī)院大部分使用統(tǒng)計(jì)學(xué)方法對(duì)數(shù)據(jù)進(jìn)行回顧性分析,但對(duì)癌癥預(yù)后的研究很少?,F(xiàn)今機(jī)器學(xué)習(xí)技術(shù)的快速發(fā)展使得前瞻性的疾病預(yù)測(cè)成為可能,一些大數(shù)據(jù)算法在醫(yī)療領(lǐng)域有了很好的應(yīng)用,如隨機(jī)森林[3-4]、人工神經(jīng)網(wǎng)絡(luò)[5-6]和支持向量機(jī)[7-8]等。王月等人利用最大最小爬山算法預(yù)測(cè)了五年后肺癌患者的生存情況[9];王宇燕等人運(yùn)用遺傳算法改進(jìn)隨機(jī)森林,構(gòu)建GA-RF模型預(yù)測(cè)直腸癌的存活性[1];譚鈺潔等人利用LASSO回歸分析來建立Ⅳ期乳腺癌的生存預(yù)測(cè)模型[10];殷子博基于決策樹算法構(gòu)建癌癥合成基因組的預(yù)后相關(guān)模型[11]。

    機(jī)器學(xué)習(xí)在醫(yī)療大數(shù)據(jù)研究方向上通常都是基于單一預(yù)測(cè)模型算法進(jìn)行優(yōu)化改進(jìn)的,運(yùn)行時(shí)間較長,泛化性差,很難達(dá)到理想的預(yù)測(cè)精度。本文運(yùn)用集成融合思想,將好而不同的集成算法進(jìn)行組合,融合單一基模型的優(yōu)點(diǎn),通過混合模型來彌補(bǔ)單一預(yù)測(cè)模型的驅(qū)動(dòng)性不足。基于此,本研究以隨機(jī)森林、LightGBM和CatBoost三種算法為基模型,提出構(gòu)建集成學(xué)習(xí)融合RF-LGC模型來預(yù)測(cè)肺癌患者的存活性。

    2? 肺癌預(yù)測(cè)模型RF-LGC的構(gòu)建(Construction of lung cancer prediction model RF-LGC)

    2.1? ?數(shù)據(jù)來源及變量選擇

    本實(shí)驗(yàn)所使用的數(shù)據(jù)是來自美國SEER(The Surveillance,Epidemiology,and End Results)數(shù)據(jù)庫中的肺癌數(shù)據(jù),它收錄了美國各個(gè)州幾十年來的癌癥病例相關(guān)信息,并且被認(rèn)為是全世界相關(guān)癌癥機(jī)構(gòu)的質(zhì)量標(biāo)準(zhǔn)[12]。每個(gè)文件有149 個(gè)屬性,每個(gè)屬性記錄都與特定的癌癥發(fā)病率有關(guān)。本實(shí)驗(yàn)在了解肺癌的相關(guān)資料,進(jìn)行SEER數(shù)據(jù)庫的初始預(yù)處理和數(shù)據(jù)清洗后,在數(shù)據(jù)集中選取了23 個(gè)屬性,如表1所示。

    對(duì)于肺癌存活性預(yù)測(cè),以五年后生存情況作為評(píng)價(jià)指標(biāo),選擇患者術(shù)后生存情況為結(jié)果變量,即若患者生存狀況為“survive”則記錄為1,生存狀況為“dead”記錄為0。

    2.2? ? 隨機(jī)森林模型分析

    隨機(jī)森林屬于Bagging算法,它通過Bootstrap(自助法)進(jìn)行重采樣,具有模型隨機(jī)性強(qiáng)、不易過擬合、抗噪性強(qiáng)等優(yōu)點(diǎn)。此外,它呈樹形結(jié)構(gòu),模型可解釋度高,能夠執(zhí)行回歸和分類任務(wù)[13],同時(shí)它也是一種數(shù)據(jù)降維手段。該算法可定義如下:

    (1)預(yù)設(shè)模型的超參數(shù),設(shè)置決策樹的個(gè)數(shù)、樹的節(jié)點(diǎn)層數(shù)。

    (2)對(duì)訓(xùn)練集隨機(jī)采樣生成決策樹,然后進(jìn)行訓(xùn)練,在決策樹選擇特征時(shí),應(yīng)選擇基尼指數(shù)增益值最大的特征,作為該節(jié)點(diǎn)分裂條件,如式(1)所示:

    (3)輸入測(cè)試樣本到每個(gè)樹中,再將每個(gè)樹的結(jié)構(gòu)進(jìn)行整合。對(duì)于分類問題,按多棵樹分類器投票決定最終分類結(jié)果;對(duì)于回歸問題,由多棵樹預(yù)測(cè)值的均值決定最終預(yù)測(cè)結(jié)果。

    2.3? ?LightGBM模型分析

    LightGBM屬于Boosting算法,是一種提升算法模型,它是一個(gè)實(shí)現(xiàn)GBDT(Gradient Boosting Decision Tree)算法的框架。GBDT屬于決策樹的加法模型,如式(2)所示:

    其中,表示決策樹的參數(shù),表示決策樹;是決策樹的個(gè)數(shù),依據(jù)算法地向前分布,第步可以表示為式(3):

    設(shè)是第 個(gè)樣本的真實(shí)值,是其預(yù)測(cè)值,則損失函數(shù)可以表示為式(4):

    利用式(5)損失函數(shù)極小化得到參數(shù):

    通過多次迭代,回歸樹更新得到最終模型。LightGBM通過部分樣本計(jì)算信息增益,降低了每次拆分增益的成本;并且內(nèi)置特征降維技術(shù),降低內(nèi)存使用,處理困難樣本能力強(qiáng);使用葉子節(jié)點(diǎn)直方圖進(jìn)一步加速計(jì)算;LightGBM支持高效并行,降低并行學(xué)習(xí)的通信成本。

    2.4? ?CatBoost模型分析

    CatBoost是一種基于對(duì)稱決策樹為基學(xué)習(xí)器,實(shí)現(xiàn)參數(shù)較少、支持類別型變量和高準(zhǔn)確性的機(jī)器學(xué)習(xí)框架,使用了組合類別特征,豐富了特征維度;采用排序提升的方法對(duì)抗訓(xùn)練集中的噪聲點(diǎn),從而避免梯度估計(jì)的偏差,它將樣本的二進(jìn)制特征存儲(chǔ)在向量中,葉子節(jié)點(diǎn)中的值存儲(chǔ)在的向量中[14]。對(duì)于樣本,建立二進(jìn)制向量,如式(6)所示:

    其中,是樣本上的特征的值,是二進(jìn)制特征的數(shù)目。構(gòu)建向量是以數(shù)據(jù)并行方式,使得速度高達(dá)三倍。

    2.5? ?RF-LGC肺癌存活性預(yù)測(cè)模型的構(gòu)建

    本文引入了集成學(xué)習(xí)法,集成學(xué)習(xí)不是一個(gè)特定的模型,而是一種思想,它結(jié)合了一組簡單的基本模型的優(yōu)點(diǎn),從而構(gòu)建一個(gè)相對(duì)更強(qiáng)大的模型。Bagging算法和Boosting算法是集成算法的兩大類,兩者存在異質(zhì)性,好而不同的算法融合集成起來會(huì)有更好的預(yù)測(cè)效果。Bagging算法的代表隨機(jī)森林簡單穩(wěn)定,具有高維運(yùn)行數(shù)據(jù)的能力,抗噪性強(qiáng),不易過擬合,但并不具備處理困難樣本的能力。Boosting算法的代表LightGBM是一種新型提升算法,可以并行計(jì)算優(yōu)化,但它屬于迭代算法,使得模型偏差比較低,對(duì)噪點(diǎn)較為敏感。CatBoost算法具有魯棒性,可以處理類別型、數(shù)值型特征,但對(duì)于類別型特征的處理需要大量的內(nèi)存和時(shí)間。本文綜合三者優(yōu)缺點(diǎn),使彼此相輔相成,另外使用stacking的結(jié)合策略構(gòu)建RF-LGC模型,充分發(fā)揮每一個(gè)學(xué)習(xí)器的優(yōu)點(diǎn),防止過擬合,而且不用過多地調(diào)參數(shù),能夠有效預(yù)測(cè)肺癌存活性。

    本文融合構(gòu)建的RF-LGC肺癌存活性預(yù)測(cè)模型如圖1所示,過程采用分層十折交叉驗(yàn)證,進(jìn)行stacking的結(jié)合策略。

    (1)基于訓(xùn)練集訓(xùn)練模型。將90%的訓(xùn)練集分別輸入隨機(jī)森林、LightGBM和CatBoost三個(gè)基模型中,在訓(xùn)練模型LightGBM模型構(gòu)建過程中,目標(biāo)函數(shù)采用的是binary,評(píng)價(jià)函數(shù)采用的是AUC,目的是可以根據(jù)需要對(duì)評(píng)價(jià)函數(shù)作調(diào)整,設(shè)定一個(gè)或者多個(gè)評(píng)價(jià)函數(shù);CatBoost中eval_metrics參數(shù)設(shè)定為AUC;隨機(jī)森林模型采用Random Forest Classifier類構(gòu)造函數(shù),并運(yùn)用Predict_proba(X)預(yù)測(cè)函數(shù),同樣也采用AUC來計(jì)算訓(xùn)練后的模型某一指定指標(biāo)在每一輪迭代中的表現(xiàn),得到訓(xùn)練集學(xué)習(xí)結(jié)果預(yù)測(cè)矩陣。

    (2)將剩余10%的測(cè)試集,利用分層十折交叉驗(yàn)證,先基于三個(gè)基模型訓(xùn)練出的模型進(jìn)行測(cè)試,得到測(cè)試預(yù)測(cè)結(jié)果矩陣。

    (3)同樣采用分層十折交叉驗(yàn)證,將步驟(1)訓(xùn)練集預(yù)測(cè)結(jié)果作為新的訓(xùn)練集樣本輸入線性回歸模型進(jìn)行訓(xùn)練,得到最終的訓(xùn)練集預(yù)測(cè)結(jié)果;將步驟(2)測(cè)試集預(yù)測(cè)結(jié)果作為新的測(cè)試集樣本輸入線性回歸模型進(jìn)行測(cè)試,得到最終預(yù)測(cè)結(jié)果。

    基于本文的線性回歸模型,調(diào)用了LinearRegression包,采用最小二乘法線性回歸,通過最小化誤差的平方和尋找數(shù)據(jù)的最佳函數(shù)匹配,我們可以通過殘差之和最小化實(shí)現(xiàn)最佳擬合,也就是說模型預(yù)測(cè)的值與訓(xùn)練集的數(shù)據(jù)最接近,如式(7)所示:

    最終,在實(shí)現(xiàn)最佳擬合過程中,利用AUC值來證明模型的可靠性,實(shí)驗(yàn)結(jié)果如表2所示,集成融合模型達(dá)到AUC最高,具有可行性。

    3? 存活性預(yù)測(cè)實(shí)驗(yàn)分析(Experimental analysis of survival prediction)

    3.1? ?分類性能評(píng)價(jià)標(biāo)準(zhǔn)

    評(píng)估一個(gè)預(yù)測(cè)模型,需要用合適的衡量手段,對(duì)于本文所研究的醫(yī)療診斷預(yù)測(cè)領(lǐng)域,選用的指標(biāo)為敏感性[15]、特異性[16]和準(zhǔn)確性[17],另外使用了分層十折交叉驗(yàn)證[18]進(jìn)行模型準(zhǔn)確性測(cè)試。其中,敏感性評(píng)價(jià)患者被查出患病的可能性,如式(8)所示;特異性是對(duì)陰性者被正確排除患病可能性的評(píng)價(jià),如式(9)所示;而準(zhǔn)確性是由特異性和敏感性一起決定的,從整體角度來判斷預(yù)測(cè)是否準(zhǔn)確。

    其中,TP代表真正類[19],F(xiàn)P代表假正類,TN代表真負(fù)類,F(xiàn)N代表假負(fù)類。以上三個(gè)評(píng)價(jià)指標(biāo)都是越大越好。分層十折交叉驗(yàn)證是估計(jì)分類方法精度的一種方法,目的是測(cè)試所采用分類方法的泛化能力[20],解決數(shù)據(jù)不平衡性。分層十折交叉驗(yàn)證是把全部數(shù)據(jù)集分成基本一致的十個(gè)子集,然后對(duì)模型進(jìn)行十次訓(xùn)練、測(cè)試。每次使用九個(gè)不同的子集來訓(xùn)練模型,剩下的一個(gè)作為測(cè)試集。之后將十次計(jì)算的正確率取均值作為本方法的估計(jì)精度值。分層十折交叉驗(yàn)證的正確率公式如式(10)所示:

    其中,是第 折計(jì)算得到的正確率。通過分層十折交叉驗(yàn)證計(jì)算得到的正確率,可以知道模型在整體上的性能情況,另外通過計(jì)算其平均值和標(biāo)準(zhǔn)差,比較不同模型的穩(wěn)定性。

    3.2? ?實(shí)驗(yàn)結(jié)果與分析

    本實(shí)驗(yàn)為了驗(yàn)證提出的集成模型具有更好的存活性預(yù)測(cè)性能,將集成融合RF-LGC模型分別與單一的隨機(jī)森林、LightGBM和CatBoost模型進(jìn)行對(duì)比。表3是對(duì)肺癌數(shù)據(jù)分類的實(shí)驗(yàn)結(jié)果,包括四種模型在肺癌數(shù)據(jù)集上進(jìn)行分層十折交叉驗(yàn)證運(yùn)算得到的各項(xiàng)指標(biāo)、標(biāo)準(zhǔn)差和均值。

    從表3中可以看到,隨機(jī)森林、LightGBM、CatBoost和集成模型RF-LGC這四種模型敏感性的均值分別是0.863338、0.872936、0.898075、0.893957,特異性的均值分別是0.774608、0.790723、0.780762、0.784848,準(zhǔn)確性的均值分別是0.978158、0.979854、0.980033、0.980242,可以看出這三個(gè)指標(biāo)在模型中的均值屬集成模型RF-LGC最高,次之是CatBoost;四種模型的敏感性標(biāo)準(zhǔn)差分別是0.020570、0.020015、0.025285、0.023157,特異性標(biāo)準(zhǔn)差分別是0.024972、0.017865、0.024759、0.017315,準(zhǔn)確性標(biāo)準(zhǔn)差分別是0.002559、0.002003、0.002390、0.001904,可以看出這三個(gè)指標(biāo)在模型中的標(biāo)準(zhǔn)差屬集成模型RF-LGC最低,次之是CatBoost。

    為了更直觀地展示集成模型RF-LGC的優(yōu)越性,我們以圖形的方式對(duì)實(shí)驗(yàn)結(jié)果進(jìn)行展示。圖2以折線圖來展示這四種模型在分層十折交叉驗(yàn)證中的敏感性值,圖3和圖4分別是特異性和準(zhǔn)確性折線圖。從圖2中可以看出,由于正類樣本在驗(yàn)證中分布不均,敏感性的值變化較大,CatBoost和集成模型RF-LGC優(yōu)劣難分,二者在整體上都要優(yōu)于LightGBM,次之是隨機(jī)森林。從圖3中可以看出,集成RF-LGC模型的波動(dòng)與LightGBM、CatBoost大致相似,LightGBM的特異性優(yōu)于RF-LGC模型,RF-LGC模型的特異性優(yōu)于CatBoost。隨機(jī)森林波動(dòng)過大,其穩(wěn)定性相對(duì)于其三個(gè)模型較差。從圖4中可以看出,在準(zhǔn)確性上可以排序?yàn)椋杭赡P蚏F-LGC優(yōu)于CatBoost,CatBoost優(yōu)于LightGBM,LightGBM優(yōu)于隨機(jī)森林。從以上分析結(jié)果可以看出,本研究所提出的集成模型得到的三個(gè)指標(biāo)的均值都大于各個(gè)基模型,而標(biāo)準(zhǔn)差也都更小,證明了該模型的泛化能力更強(qiáng)。

    本研究所構(gòu)建的集成融合模型不僅準(zhǔn)確性最高,而且表現(xiàn)出了更好的穩(wěn)定性和泛化性,敏感性和特異性均值分別達(dá)到了0.893957和0.784848,這兩者也共同為準(zhǔn)確性提供了較高的均值,達(dá)到了0.980242,因此本研究提出的模型能夠達(dá)到較好的預(yù)測(cè)結(jié)果,能夠有效地協(xié)助醫(yī)療領(lǐng)域做出相應(yīng)的決策。

    4? ?結(jié)論(Conclusion)

    本文提出了一種肺癌存活性預(yù)測(cè)的集成融合模型。該模型基于集成學(xué)習(xí)兩大類不同的機(jī)器學(xué)習(xí)技術(shù),充分發(fā)揮各個(gè)模型的優(yōu)點(diǎn),能夠捕獲數(shù)據(jù)中的復(fù)雜模式,高效而簡潔,再利用線性回歸來融合構(gòu)建模型,增強(qiáng)了各個(gè)基模型的穩(wěn)定性。本文使用了真實(shí)的肺癌數(shù)據(jù),且結(jié)果表明所提出的集成模型能夠達(dá)到理想的預(yù)測(cè)精度,穩(wěn)定性和泛化能力都較強(qiáng),因此能夠推廣到醫(yī)療領(lǐng)域?yàn)榘┌Y病人預(yù)后預(yù)測(cè)提供決策,以彌補(bǔ)傳統(tǒng)經(jīng)驗(yàn)預(yù)測(cè)帶來的不足,降低醫(yī)療成本,對(duì)癌癥的治療和預(yù)測(cè)都具有很大的現(xiàn)實(shí)意義。

    參考文獻(xiàn)(References)

    [1] 王宇燕,王杜娟,王延章,等.改進(jìn)隨機(jī)森林的集成分類方法預(yù)測(cè)結(jié)直腸癌存活性[J].管理科學(xué),2017,30(1):95-106.

    [2] 郭占芳,張紅武,楊如意,等.益氣復(fù)脈對(duì)中晚期肺癌患者免疫功能和生存質(zhì)量的影響[J].中國現(xiàn)代醫(yī)學(xué)雜志,2017,27(6):88-92.

    [3] CHEN H, LIN Z, WU H G, et al. Diagnosis of colorectal cancer by near-infrared optical fiber spectroscopy and random forest[J]. Spectrochimica Acta Part A: Molecular and Biomolecular Spectroscopy, 2015, 135A:185-191.

    [4] AZAR A T, ELSHAZLY H I, HASSANIEN A E, et al. A random forest classifier for lymph diseases[J]. Computer Methods and Programs in Biomedicine, 2014, 113(2):465-473.

    [5] DEVI M A, RAVI S, VAISHNAVI J, et al. Classification of cervical cancer using artificial neural networks[J]. Procedia Computer Science, 2016, 89:465-472.

    [6] LIN D, ATHANASIOS V V, TANG Y, et al. Neural networks for computer-aided diagnosis in medicine: A review[J]. Neurocomputing, 2016, 216(5):700-708.

    [7] 趙巒嘯,劉金水,姚云霞,等.基于隨機(jī)森林算法的陸相沉積烴源巖定量地震刻畫:以東海盆地長江坳陷為例[J].地球物理學(xué)報(bào),2021,64(2):700-715.

    [8] AZAR A T, EI-SAID S A. Performance analysis of support vector machines classifiers in breast cancer mammography recongnition[J]. Neural Computing and Applications, 2014, 24(5):1163-1177.

    [9] 王月,趙茂先.基于最大最小爬山算法的肺癌預(yù)后模型[J].山東科技大學(xué)學(xué)報(bào)(自然科學(xué)版),2020,39(2):105-110.

    [10] 譚鈺潔,何子凡,余運(yùn)芳,等.首診Ⅳ期乳腺癌生存預(yù)測(cè)模型建立并驗(yàn)證:一項(xiàng)基于機(jī)器算法的研究[J].嶺南現(xiàn)代臨床外科,2020,20(3):273-279.

    [11] 殷子博.基于決策樹算法的癌癥合成致死基因組合的預(yù)測(cè)及預(yù)后分析[D].南京:南京郵電大學(xué),2020.

    [12] DELEN D, WALKER G, KADAM A. Predicting breast cancer survivability: A comparison of three data mining methods[J]. Artificial Intelligence in Medicine, 2005, 34(2):113-127.

    [13] 邱少明,楊雯升,杜秀麗,等.優(yōu)化隨機(jī)森林模型的網(wǎng)絡(luò)故障預(yù)測(cè)[J].計(jì)算機(jī)應(yīng)用與軟件,2021,38(2):103-109,170.

    [14] 蘇慶,林華智,黃劍鋒,等.結(jié)合CNN和Catboost算法的惡意安卓應(yīng)用檢測(cè)模型[J].計(jì)算機(jī)工程與應(yīng)用,2021,57(15):140-146.

    [15] 陳志君,朱振闖,孫仕軍,等.Stacking集成模型模擬膜下滴灌玉米逐日蒸散量和作物系數(shù)[J].農(nóng)業(yè)工程學(xué)報(bào),2021,37(5):95-104.

    [16] 扈文秀,蘇振興,楊櫟.基于隨機(jī)森林方法的投資者概念關(guān)注對(duì)概念指數(shù)收益預(yù)測(cè)及交易策略的研究[J].預(yù)測(cè),2021,40(1):60-66.

    [17] 李昆明,厲文婕.基于利用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行Stacking模型融合算法的電力非節(jié)假日負(fù)荷預(yù)測(cè)研究[J].軟件,2019,40(9):176-181.

    [18] 吳彤,李勇,葛瑩,等.利用Stacking集成學(xué)習(xí)估算柑橘葉片氮含量[J].農(nóng)業(yè)工程學(xué)報(bào),2021,37(13):163-171.

    [19] MOLINA-MAYO C, HERNNDEZ-BORGES J, BORGES-MIQUEL T M, et al. Determination of pesticides in wine using micellar electrokinetic chromatography with UV detection and sample stacking[J]. Journal of Chromatography A, 2007, 1150(1/2):348-355.

    [20] 耿琪深,王豐華,金霄.基于Gammatone濾波器倒譜系數(shù)與鯨魚算法優(yōu)化隨機(jī)森林的干式變壓器機(jī)械故障聲音診斷[J].電力自動(dòng)化設(shè)備,2020,40(8):191-196,224.

    作者簡介:

    李秀芹(1967-),女,博士,教授.研究領(lǐng)域:計(jì)算機(jī)網(wǎng)絡(luò),數(shù)據(jù)庫與信息處理.

    李? ?琳(1995-),女,碩士生.研究領(lǐng)域:數(shù)據(jù)挖掘.

    張慢麗(1994-),女,碩士生.研究領(lǐng)域:數(shù)據(jù)挖掘.

    猜你喜歡
    集成學(xué)習(xí)隨機(jī)森林
    基于局部有效性的選擇性決策樹集成
    基于集成學(xué)習(xí)的高送轉(zhuǎn)股票研究
    基于稀疏編碼器與集成學(xué)習(xí)的文本分類
    基于屬性權(quán)重的Bagging回歸算法研究
    隨機(jī)森林在棉蚜蟲害等級(jí)預(yù)測(cè)中的應(yīng)用
    基于二次隨機(jī)森林的不平衡數(shù)據(jù)分類算法
    軟件(2016年7期)2017-02-07 15:54:01
    拱壩變形監(jiān)測(cè)預(yù)報(bào)的隨機(jī)森林模型及應(yīng)用
    基于隨機(jī)森林算法的飛機(jī)發(fā)動(dòng)機(jī)故障診斷方法的研究
    基于改進(jìn)的LogitBoost算法的垃圾網(wǎng)頁檢測(cè)研究
    科技視界(2015年27期)2015-10-08 11:01:28
    基于隨機(jī)森林算法的B2B客戶分級(jí)系統(tǒng)的設(shè)計(jì)
    黄色 视频免费看| 麻豆一二三区av精品| 亚洲最大成人中文| 国产精品久久久久久亚洲av鲁大| 久久精品国产亚洲av香蕉五月| 国产精品精品国产色婷婷| 欧美日韩福利视频一区二区| 国产精品电影一区二区三区| 国产一区二区三区视频了| 男女做爰动态图高潮gif福利片| 黄频高清免费视频| 狂野欧美激情性xxxx| 亚洲国产欧美网| 麻豆成人av在线观看| 国产精品久久久av美女十八| 精品免费久久久久久久清纯| 在线看三级毛片| 国产1区2区3区精品| 国产一级毛片七仙女欲春2| 国产精品久久久久久精品电影| 两个人视频免费观看高清| 最近最新免费中文字幕在线| 亚洲五月天丁香| 欧美中文日本在线观看视频| 国产黄a三级三级三级人| 欧美在线黄色| 999精品在线视频| 我的老师免费观看完整版| 国产精品久久久久久久电影 | 久久午夜亚洲精品久久| 99在线视频只有这里精品首页| 精品第一国产精品| 丰满人妻熟妇乱又伦精品不卡| 黄色a级毛片大全视频| 99国产精品99久久久久| 色在线成人网| 国产一区二区三区在线臀色熟女| 97超级碰碰碰精品色视频在线观看| 真人做人爱边吃奶动态| 一进一出抽搐gif免费好疼| 88av欧美| 狂野欧美白嫩少妇大欣赏| 窝窝影院91人妻| 我的老师免费观看完整版| www.999成人在线观看| 18禁裸乳无遮挡免费网站照片| 国产av一区在线观看免费| 国产乱人伦免费视频| 男人舔女人下体高潮全视频| 最近最新免费中文字幕在线| 两个人看的免费小视频| 老熟妇仑乱视频hdxx| 日韩三级视频一区二区三区| av片东京热男人的天堂| 超碰成人久久| 美女午夜性视频免费| 一夜夜www| 久久精品国产99精品国产亚洲性色| 国产精品亚洲美女久久久| 国产野战对白在线观看| 久久亚洲真实| 一级毛片女人18水好多| 午夜福利在线在线| 最近最新中文字幕大全免费视频| 欧美中文综合在线视频| 999精品在线视频| АⅤ资源中文在线天堂| 精品一区二区三区四区五区乱码| 天天一区二区日本电影三级| 国产一区二区在线观看日韩 | 色噜噜av男人的天堂激情| 欧美成人性av电影在线观看| 久久午夜综合久久蜜桃| 悠悠久久av| 麻豆国产97在线/欧美 | 天天躁夜夜躁狠狠躁躁| 免费观看人在逋| 欧美丝袜亚洲另类 | 2021天堂中文幕一二区在线观| 丝袜美腿诱惑在线| 午夜成年电影在线免费观看| 亚洲中文字幕一区二区三区有码在线看 | 国产视频一区二区在线看| 久久中文看片网| 国产精华一区二区三区| 精品久久久久久久人妻蜜臀av| 国产三级中文精品| 亚洲aⅴ乱码一区二区在线播放 | avwww免费| 叶爱在线成人免费视频播放| 欧美中文综合在线视频| 手机成人av网站| 日本免费一区二区三区高清不卡| 亚洲欧美精品综合一区二区三区| 日韩国内少妇激情av| 女人爽到高潮嗷嗷叫在线视频| 国产精品亚洲美女久久久| 欧美精品亚洲一区二区| 日本免费一区二区三区高清不卡| 中文字幕人成人乱码亚洲影| 中文字幕人妻丝袜一区二区| 国产黄色小视频在线观看| 国产成人影院久久av| 久久久久国内视频| 欧美色欧美亚洲另类二区| 国产久久久一区二区三区| 麻豆一二三区av精品| 国产乱人伦免费视频| 一区二区三区高清视频在线| 国产一区在线观看成人免费| www.999成人在线观看| 两个人视频免费观看高清| 美女 人体艺术 gogo| 国产在线精品亚洲第一网站| 两个人的视频大全免费| or卡值多少钱| 91麻豆av在线| 麻豆久久精品国产亚洲av| 色综合站精品国产| 成年免费大片在线观看| 亚洲国产精品合色在线| 在线永久观看黄色视频| 亚洲色图 男人天堂 中文字幕| 窝窝影院91人妻| 最好的美女福利视频网| 亚洲精品久久国产高清桃花| 一级毛片高清免费大全| 五月伊人婷婷丁香| 制服诱惑二区| 黑人操中国人逼视频| av国产免费在线观看| 久久天躁狠狠躁夜夜2o2o| 九色国产91popny在线| 人妻夜夜爽99麻豆av| 最近视频中文字幕2019在线8| 久久久久久亚洲精品国产蜜桃av| 全区人妻精品视频| 国产精品精品国产色婷婷| 成人亚洲精品av一区二区| 一边摸一边做爽爽视频免费| 国产精品爽爽va在线观看网站| 久久精品国产99精品国产亚洲性色| 777久久人妻少妇嫩草av网站| 免费在线观看完整版高清| 99久久国产精品久久久| 亚洲午夜理论影院| 午夜免费观看网址| 亚洲欧美激情综合另类| 国产视频一区二区在线看| 国产精品九九99| 最新在线观看一区二区三区| 成人特级黄色片久久久久久久| 国产av不卡久久| 两人在一起打扑克的视频| 亚洲午夜精品一区,二区,三区| 亚洲,欧美精品.| 可以在线观看的亚洲视频| 国产成+人综合+亚洲专区| 他把我摸到了高潮在线观看| av福利片在线| 亚洲午夜精品一区,二区,三区| 国产成年人精品一区二区| 免费在线观看黄色视频的| 一本大道久久a久久精品| 国产av一区二区精品久久| 亚洲一卡2卡3卡4卡5卡精品中文| 又黄又粗又硬又大视频| 哪里可以看免费的av片| 99热这里只有精品一区 | 亚洲精品在线观看二区| 久久久久九九精品影院| 99热这里只有是精品50| 波多野结衣高清无吗| 亚洲av熟女| 精品国产乱子伦一区二区三区| 人人妻人人澡欧美一区二区| 久久九九热精品免费| 好看av亚洲va欧美ⅴa在| 国产精品久久久人人做人人爽| 别揉我奶头~嗯~啊~动态视频| 成人永久免费在线观看视频| 亚洲精品美女久久久久99蜜臀| 久久久精品国产亚洲av高清涩受| 精品少妇一区二区三区视频日本电影| 国产伦人伦偷精品视频| 成人一区二区视频在线观看| 亚洲 国产 在线| av在线天堂中文字幕| 国产精品久久电影中文字幕| 国产一区二区三区视频了| 久久久久久久午夜电影| 亚洲avbb在线观看| 午夜福利在线在线| 1024手机看黄色片| 亚洲va日本ⅴa欧美va伊人久久| 亚洲,欧美精品.| 国产区一区二久久| 一区二区三区高清视频在线| 又大又爽又粗| 欧美 亚洲 国产 日韩一| 免费电影在线观看免费观看| 在线看三级毛片| 一边摸一边做爽爽视频免费| 在线观看美女被高潮喷水网站 | 国产真人三级小视频在线观看| 亚洲欧美日韩高清专用| av免费在线观看网站| 亚洲国产欧美人成| 亚洲人成网站高清观看| 国产野战对白在线观看| 免费在线观看黄色视频的| 国产乱人伦免费视频| 欧美日韩中文字幕国产精品一区二区三区| 日韩欧美国产在线观看| 日韩 欧美 亚洲 中文字幕| 亚洲色图 男人天堂 中文字幕| 两性午夜刺激爽爽歪歪视频在线观看 | 首页视频小说图片口味搜索| 999久久久国产精品视频| 大型av网站在线播放| 成人一区二区视频在线观看| 国产精品,欧美在线| 国产亚洲欧美98| 亚洲中文字幕日韩| 一个人观看的视频www高清免费观看 | 欧美一级a爱片免费观看看 | 一级毛片高清免费大全| 亚洲熟妇中文字幕五十中出| 久久久久国产一级毛片高清牌| 国产伦一二天堂av在线观看| 亚洲熟妇中文字幕五十中出| www.精华液| 999久久久国产精品视频| 最近最新免费中文字幕在线| 在线十欧美十亚洲十日本专区| 天堂√8在线中文| 一卡2卡三卡四卡精品乱码亚洲| 一区二区三区高清视频在线| 一级片免费观看大全| 精品高清国产在线一区| 国产精品一区二区三区四区久久| 人妻久久中文字幕网| 少妇粗大呻吟视频| 俺也久久电影网| 国产熟女xx| 99精品欧美一区二区三区四区| 国产v大片淫在线免费观看| 久久久久久九九精品二区国产 | 午夜福利高清视频| 桃红色精品国产亚洲av| 国语自产精品视频在线第100页| 亚洲狠狠婷婷综合久久图片| 男女那种视频在线观看| 久久精品aⅴ一区二区三区四区| 老司机午夜十八禁免费视频| 一区二区三区高清视频在线| 欧美黑人巨大hd| 国产熟女xx| 长腿黑丝高跟| 男女那种视频在线观看| 国产精品香港三级国产av潘金莲| 国产精品亚洲av一区麻豆| 老汉色∧v一级毛片| 久久亚洲真实| 亚洲一区中文字幕在线| 免费看美女性在线毛片视频| 9191精品国产免费久久| 国产精品九九99| 成人18禁高潮啪啪吃奶动态图| 亚洲成人中文字幕在线播放| 性欧美人与动物交配| 日韩免费av在线播放| 99riav亚洲国产免费| 国产精品乱码一区二三区的特点| 色综合站精品国产| 国产精品野战在线观看| 国产欧美日韩精品亚洲av| 高清在线国产一区| 啦啦啦免费观看视频1| 久久性视频一级片| 亚洲男人的天堂狠狠| АⅤ资源中文在线天堂| 黄色片一级片一级黄色片| 成人精品一区二区免费| 免费看a级黄色片| 叶爱在线成人免费视频播放| 在线看三级毛片| 欧美 亚洲 国产 日韩一| avwww免费| 国产高清有码在线观看视频 | 波多野结衣巨乳人妻| 午夜福利在线在线| 亚洲av成人av| 久久这里只有精品19| 老司机深夜福利视频在线观看| 在线视频色国产色| 最近最新中文字幕大全免费视频| 日韩欧美在线二视频| 亚洲 欧美 日韩 在线 免费| 十八禁网站免费在线| 亚洲五月天丁香| 蜜桃久久精品国产亚洲av| 亚洲自偷自拍图片 自拍| 最好的美女福利视频网| 91成年电影在线观看| 在线观看日韩欧美| 成人欧美大片| 日韩欧美 国产精品| 色综合站精品国产| 午夜老司机福利片| 国内精品一区二区在线观看| 亚洲成人中文字幕在线播放| 夜夜爽天天搞| 国产精品永久免费网站| 亚洲国产高清在线一区二区三| 亚洲国产欧美人成| 久久这里只有精品19| 无限看片的www在线观看| 五月伊人婷婷丁香| 俺也久久电影网| 国产熟女xx| 90打野战视频偷拍视频| 色综合婷婷激情| 亚洲熟妇熟女久久| 久久热在线av| 日韩欧美一区二区三区在线观看| 午夜成年电影在线免费观看| 黄色女人牲交| 天堂影院成人在线观看| 宅男免费午夜| 男女那种视频在线观看| www.999成人在线观看| 久久热在线av| 亚洲熟妇中文字幕五十中出| 欧美最黄视频在线播放免费| 亚洲精品国产精品久久久不卡| 黑人欧美特级aaaaaa片| 99精品欧美一区二区三区四区| 中文在线观看免费www的网站 | 国产成人av激情在线播放| 国产蜜桃级精品一区二区三区| 国产激情久久老熟女| www日本黄色视频网| 性欧美人与动物交配| 人人妻人人澡欧美一区二区| 国产精品亚洲av一区麻豆| 免费看a级黄色片| 久久久久性生活片| 精品久久久久久,| 成人国语在线视频| 国产一区在线观看成人免费| 亚洲av电影不卡..在线观看| 国产主播在线观看一区二区| www.熟女人妻精品国产| 18禁国产床啪视频网站| 高潮久久久久久久久久久不卡| 深夜精品福利| 啦啦啦韩国在线观看视频| 国产精品一区二区三区四区久久| 可以在线观看毛片的网站| АⅤ资源中文在线天堂| 亚洲av中文字字幕乱码综合| 国产精品自产拍在线观看55亚洲| 久久精品亚洲精品国产色婷小说| 国产高清有码在线观看视频 | 亚洲性夜色夜夜综合| 亚洲成av人片在线播放无| a级毛片a级免费在线| 在线国产一区二区在线| 露出奶头的视频| 色综合婷婷激情| 成在线人永久免费视频| 不卡av一区二区三区| 欧美成人性av电影在线观看| 国产精品99久久99久久久不卡| 免费搜索国产男女视频| 久久香蕉精品热| 国产亚洲av嫩草精品影院| 午夜两性在线视频| 一本一本综合久久| 国产爱豆传媒在线观看 | 男女下面进入的视频免费午夜| 成熟少妇高潮喷水视频| 国产欧美日韩一区二区三| 正在播放国产对白刺激| 国产成年人精品一区二区| 高潮久久久久久久久久久不卡| 天堂√8在线中文| 黄色毛片三级朝国网站| 欧美日韩亚洲综合一区二区三区_| 91在线观看av| 大型av网站在线播放| 国产黄片美女视频| 久久久久九九精品影院| 一进一出抽搐gif免费好疼| 可以在线观看的亚洲视频| 国产三级中文精品| 久久草成人影院| 国产精品香港三级国产av潘金莲| 又粗又爽又猛毛片免费看| 老司机午夜十八禁免费视频| 日韩成人在线观看一区二区三区| 婷婷丁香在线五月| 国产免费av片在线观看野外av| 久久午夜综合久久蜜桃| 麻豆国产97在线/欧美 | 久久久久久国产a免费观看| 波多野结衣巨乳人妻| 成在线人永久免费视频| 亚洲一区中文字幕在线| 麻豆av在线久日| 久久精品91蜜桃| 别揉我奶头~嗯~啊~动态视频| 嫩草影视91久久| 亚洲欧美激情综合另类| 国产又色又爽无遮挡免费看| 日韩欧美国产在线观看| 亚洲精品粉嫩美女一区| 高潮久久久久久久久久久不卡| 久久香蕉国产精品| 久久久久免费精品人妻一区二区| 亚洲av熟女| 日本成人三级电影网站| 亚洲一卡2卡3卡4卡5卡精品中文| 99国产极品粉嫩在线观看| 狂野欧美激情性xxxx| 久久亚洲精品不卡| 91老司机精品| 一个人免费在线观看的高清视频| 欧美日韩瑟瑟在线播放| 国产成人影院久久av| 老汉色∧v一级毛片| 午夜老司机福利片| 国产真人三级小视频在线观看| 国产精品永久免费网站| 变态另类丝袜制服| 亚洲专区字幕在线| 亚洲国产欧美一区二区综合| 身体一侧抽搐| 夜夜夜夜夜久久久久| 免费电影在线观看免费观看| 毛片女人毛片| 久久国产精品影院| 国内毛片毛片毛片毛片毛片| 一级毛片高清免费大全| 日本精品一区二区三区蜜桃| 国产久久久一区二区三区| 亚洲国产精品999在线| 99久久国产精品久久久| 悠悠久久av| 毛片女人毛片| 国产乱人伦免费视频| 18禁美女被吸乳视频| 亚洲成av人片在线播放无| 麻豆国产97在线/欧美 | 国产av在哪里看| 亚洲av电影不卡..在线观看| 欧美黑人欧美精品刺激| 中文资源天堂在线| 中亚洲国语对白在线视频| 欧美日韩黄片免| 精品无人区乱码1区二区| 18禁黄网站禁片免费观看直播| 美女扒开内裤让男人捅视频| 一二三四社区在线视频社区8| 亚洲成av人片在线播放无| 最近最新中文字幕大全免费视频| 久久精品91蜜桃| 精品无人区乱码1区二区| 中文字幕人成人乱码亚洲影| 精品一区二区三区av网在线观看| 国产精品精品国产色婷婷| 老司机在亚洲福利影院| 一级作爱视频免费观看| 亚洲欧美日韩无卡精品| 久久午夜综合久久蜜桃| 国产一区二区三区在线臀色熟女| 亚洲av五月六月丁香网| 香蕉国产在线看| 国产男靠女视频免费网站| 美女扒开内裤让男人捅视频| 国产欧美日韩精品亚洲av| 一本综合久久免费| a在线观看视频网站| 91字幕亚洲| 色av中文字幕| 天堂√8在线中文| 成人永久免费在线观看视频| a在线观看视频网站| 此物有八面人人有两片| 日韩欧美在线二视频| 亚洲精品美女久久av网站| 男男h啪啪无遮挡| 搡老妇女老女人老熟妇| 熟女电影av网| av片东京热男人的天堂| 91麻豆精品激情在线观看国产| 亚洲 欧美一区二区三区| 男女之事视频高清在线观看| 午夜两性在线视频| 两人在一起打扑克的视频| 国产精品久久久久久精品电影| 久久 成人 亚洲| 两个人视频免费观看高清| 国产午夜福利久久久久久| 夜夜夜夜夜久久久久| 香蕉av资源在线| 黄色毛片三级朝国网站| cao死你这个sao货| 国产爱豆传媒在线观看 | 一a级毛片在线观看| 亚洲在线自拍视频| 亚洲国产欧美人成| 欧美日韩精品网址| 男人的好看免费观看在线视频 | 法律面前人人平等表现在哪些方面| 1024香蕉在线观看| 久久久久免费精品人妻一区二区| 18禁裸乳无遮挡免费网站照片| 久久欧美精品欧美久久欧美| 欧洲精品卡2卡3卡4卡5卡区| 视频区欧美日本亚洲| 欧美激情久久久久久爽电影| 别揉我奶头~嗯~啊~动态视频| av国产免费在线观看| 精品国产乱子伦一区二区三区| 一夜夜www| 麻豆久久精品国产亚洲av| 久久久久国产一级毛片高清牌| 中文字幕人妻丝袜一区二区| 不卡av一区二区三区| 久久午夜亚洲精品久久| 五月伊人婷婷丁香| 国产精品电影一区二区三区| 亚洲黑人精品在线| www.自偷自拍.com| www.熟女人妻精品国产| 欧美性猛交╳xxx乱大交人| 麻豆成人av在线观看| 免费在线观看亚洲国产| 亚洲成人国产一区在线观看| 国产午夜精品论理片| 久久性视频一级片| 村上凉子中文字幕在线| 日本在线视频免费播放| 听说在线观看完整版免费高清| 在线观看66精品国产| 午夜精品在线福利| 国产不卡一卡二| 久久久久久久久免费视频了| 一个人免费在线观看的高清视频| 欧美日韩精品网址| 99久久国产精品久久久| 午夜免费观看网址| 一本大道久久a久久精品| 亚洲欧美日韩高清专用| 色噜噜av男人的天堂激情| 脱女人内裤的视频| 一级片免费观看大全| 最近最新中文字幕大全电影3| 成在线人永久免费视频| 精品一区二区三区视频在线观看免费| 中出人妻视频一区二区| 亚洲精品国产精品久久久不卡| 欧美精品亚洲一区二区| xxxwww97欧美| 国产高清视频在线观看网站| 757午夜福利合集在线观看| 可以在线观看的亚洲视频| 国内揄拍国产精品人妻在线| 国产精品野战在线观看| 国模一区二区三区四区视频 | 性色av乱码一区二区三区2| 老汉色∧v一级毛片| 国产精品久久电影中文字幕| 中文字幕熟女人妻在线| 一区二区三区激情视频| 欧美中文日本在线观看视频| 国产黄a三级三级三级人| 一二三四在线观看免费中文在| 亚洲成a人片在线一区二区| 一a级毛片在线观看| 亚洲人成网站高清观看| 久久久久久国产a免费观看| 搡老熟女国产l中国老女人| 性色av乱码一区二区三区2| 亚洲一区中文字幕在线| 国产精品 国内视频| 一区二区三区激情视频| 欧美人与性动交α欧美精品济南到| 老熟妇仑乱视频hdxx| 久久久国产成人精品二区| 在线观看一区二区三区| 正在播放国产对白刺激| 亚洲av成人av| 搡老熟女国产l中国老女人| 人成视频在线观看免费观看| 夜夜看夜夜爽夜夜摸| 女警被强在线播放| 成人三级黄色视频| 欧美另类亚洲清纯唯美| 精品国产美女av久久久久小说| 看免费av毛片| 在线观看美女被高潮喷水网站 | 成年版毛片免费区| 欧美成狂野欧美在线观看| av天堂在线播放| 法律面前人人平等表现在哪些方面| 88av欧美| 欧美高清成人免费视频www| 亚洲一码二码三码区别大吗| 夜夜看夜夜爽夜夜摸| 老司机午夜福利在线观看视频| 欧美日韩中文字幕国产精品一区二区三区| 亚洲熟女毛片儿|