• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于XGBoost的磁盤故障預(yù)測及其特征分析

    2021-12-17 02:02:52劉鑫滕飛
    關(guān)鍵詞:機器學(xué)習(xí)

    劉鑫 滕飛

    摘 要:目前處于大數(shù)據(jù)的時代,磁盤作為常見存儲數(shù)據(jù)的途徑之一,一旦出現(xiàn)磁盤故障問題,可能會導(dǎo)致大規(guī)模的數(shù)據(jù)丟失,造成嚴(yán)重后果,對此,本文以大型云儲存Backblaze公司真實的記錄數(shù)據(jù)為研究對象,首先,對原始數(shù)據(jù)進行數(shù)據(jù)處理,對缺失數(shù)據(jù)進行填補,其次,使用閾值法、Lasso特征選擇對數(shù)據(jù)降維,然后,將篩選后的數(shù)據(jù)使用XGBoost模型訓(xùn)練,并與典型的機器學(xué)習(xí)算法中的LightGBM、Random Forest、SVR、Extra Tree Regression、Adaboost、GBR等11種主流機器學(xué)習(xí)模型進行實驗對比,結(jié)果表明本文在RMSE、MAE、三種性能指標(biāo)上均優(yōu)于對比模型,最后,利用SHAP模型增強對模型的可解釋性,對比三種算法XGBoost、Random Forest和SHAP對磁盤故障的影響程度,為云存儲企業(yè)減少損失并提高效率提供了參考。

    關(guān)鍵詞:機器學(xué)習(xí);磁盤故障預(yù)測;XGBoost模型;SHAP值

    中圖分類號:TP391? 文獻標(biāo)識碼:A? 文章編號:1673-260X(2021)11-0012-07

    引言

    隨著互聯(lián)網(wǎng)的高速發(fā)展,磁盤故障預(yù)測在業(yè)界可謂是經(jīng)久不衰的熱門話題,百度、騰訊、阿里,及國外的IBM都做過磁盤故障預(yù)測的研究[1,2]。大型企業(yè)之間的貿(mào)易往來會出現(xiàn)大量數(shù)據(jù),對于大數(shù)據(jù)流客戶用戶來說,磁盤的穩(wěn)定性影響著數(shù)據(jù)的安全性,對于這一問題,本文使用強大的機器學(xué)習(xí)算法對磁盤故障進行預(yù)測,探究哪些因素影響磁盤故障,在磁盤出故障前更換新的磁盤,提前備份數(shù)據(jù),保證了用戶的信息安全和數(shù)據(jù)安全。

    本文從以下兩個方面重點研究:

    (1)基于XGBoost模型建立磁盤故障預(yù)測模型,并且從三個指標(biāo)RMSE、MAE、R2上和其他機器學(xué)習(xí)主流模型進行對比,證明本文提出的模型具有良好的適用性。

    (2)構(gòu)建磁盤故障預(yù)測模型的基礎(chǔ)上,本文基于 SHAP模型探究磁盤故障的主要影響因素,為磁盤預(yù)測提供決策參考。

    1 相關(guān)研究

    隨著對數(shù)據(jù)存儲安全性的意識加強,磁盤又是數(shù)據(jù)存儲最常見的工具之一,國內(nèi)外的學(xué)者對磁盤故障預(yù)測的關(guān)注也逐漸加強,其中,利用磁盤檢測系統(tǒng)數(shù)據(jù),利用統(tǒng)計學(xué)和機器學(xué)習(xí)等方法來建立模型,主要的故障預(yù)測模型包括統(tǒng)計學(xué)方法貝葉斯模型、支持向量機、神經(jīng)網(wǎng)絡(luò)、集成算法等。早期Hamerly和Elkan(2001)[3]運用統(tǒng)計學(xué)中貝葉斯方法在昆騰廠商的磁盤進行試驗,得到56%的檢測率和0.82%的誤報率。Pang(2016)[4]構(gòu)建貝葉斯網(wǎng)絡(luò),結(jié)果發(fā)現(xiàn)對正常硬盤和故障硬盤預(yù)測的平均準(zhǔn)確率分別為99.13%和75.3%。Murray(2003)[5,6]等用統(tǒng)計學(xué)方法進行實驗,最終,使用MI-NB方法可以獲得50%的檢測率和0%的誤報率。宋云華(2014)[7,8]提出過采樣的COG-OS框架,提高故障預(yù)測的查全率,但在故障硬盤的預(yù)測精度和正常硬盤的預(yù)測性能上較差。

    基于神經(jīng)網(wǎng)絡(luò)的方法相關(guān)研究有:ZHU BP(2013)[9]構(gòu)建反向傳播神經(jīng)網(wǎng)絡(luò)模型來預(yù)測硬盤故障,在保證較低虛警率的條件下取得了95%的召回率。賈潤瑩等人(2014)[10],利用Adaboost算法將BP神經(jīng)網(wǎng)絡(luò)組合,提高預(yù)測的準(zhǔn)確率,降低預(yù)測的誤報率。Xu等人(2016)[11]采用遞歸神經(jīng)網(wǎng)絡(luò)建立模型,在真實數(shù)據(jù)中心的數(shù)據(jù)集上預(yù)測發(fā)現(xiàn)準(zhǔn)確率升高和假陽性率降低。Lima等人(2017)[12]提出磁盤故障長期預(yù)測的遞歸神經(jīng)網(wǎng)絡(luò)變異型算法LSTM,該算法在短期預(yù)測中可以與傳統(tǒng)遞歸神經(jīng)網(wǎng)絡(luò)算法取得相似的結(jié)果,顯著改善了長期預(yù)測。康艷龍(2019)[13]提出了兩種長短期記憶神經(jīng)網(wǎng)絡(luò),對于兩個數(shù)據(jù)集分別進行LSTM_SMART的硬盤故障預(yù)測模型,F(xiàn)DR分別為為94.6%和91.8%,F(xiàn)AR為0.2%和0.18%。

    基于決策樹算法:董勇,蔣艷凰(2015)[14],運用機器學(xué)習(xí)中支持向量機,反向神經(jīng)網(wǎng)絡(luò),決策樹的方法,發(fā)現(xiàn)決策樹預(yù)測效果最好,支持向量機的誤報率最低達到0.05%。王剛(2017)[15]團隊與百度公司合作,將決策樹算法用作主要的預(yù)測算法。在決策樹模型中進行訓(xùn)練后,他們的最優(yōu)結(jié)果為誤報率1%,誤報率為0.7%。

    基于集成算法的方法相關(guān)研究有:賈潤瑩,李靜(2014)[16]也提出基于Adaboost和遺傳算法的硬盤故障預(yù)測模型,隨著發(fā)現(xiàn)分類器越多,準(zhǔn)確率在90%-96%之間變動,誤報率在區(qū)間0.3%-0.6%之間變動。AUSSEL. N(2017)[17]選擇能夠處理不均衡數(shù)據(jù)集的在隨機森林,支持向量機和梯度提升樹等機器學(xué)習(xí)方法在Backblaze中1年的數(shù)據(jù)集上進行實驗,雖然可以達到較高的精確度,但召回率最高只有67%。張廷雷(2019)[18],使用改進隨機森林算法進行預(yù)測,發(fā)現(xiàn)在時空的復(fù)雜度上預(yù)測效果比傳統(tǒng)的隨機森林預(yù)測磁盤故障效果好,準(zhǔn)確度為99.33%,F(xiàn)1的值也達到95.71%李新鵬(2020)[19]等人對不平衡磁盤故障數(shù)據(jù)進行改進,提出改進的bagging-GBDT算法,并對未來數(shù)據(jù)進行預(yù)測。

    以上研究中,可見隨著對磁盤故障問題的關(guān)注增多,大部分學(xué)者也從傳統(tǒng)的統(tǒng)計學(xué)方法逐漸轉(zhuǎn)變使用各種機器學(xué)習(xí)中的方法來解決磁盤故障問題,本文重點使用機器學(xué)習(xí)中集成算法尤其是基于XGBoost算法建立了磁盤故障預(yù)測模型,驗證了本文模型的性能優(yōu)越性。其次,文獻中雖然使用了機器學(xué)習(xí)中算法預(yù)測,可是缺乏模型的可解釋性,所以本文基于SHAP模型對磁盤故障的主要影響因素進行了分析,為磁盤預(yù)測提供決策參考。

    2 模型與方法

    2.1 問題分析

    原始數(shù)據(jù)進行數(shù)據(jù)清洗,如缺失值填補、降維處理之后,將樣本輸入到XGBoost模型中進行計算,XGBoost算法核心思想是根據(jù)特征分裂來生長一棵樹,并不斷地添加樹,每次添加一個樹,其實是去擬合上次預(yù)測的殘差從而得到新函數(shù),它是GBDT算法的改進算法,可自動調(diào)用CPU進行多線程并行計算,而且可以得到更好的精度,傳統(tǒng)的GBDT算法只是一階導(dǎo)數(shù),而XGBoost算法是對損失函數(shù)做二階泰勒公式展開,整體函數(shù)分為兩個部分:損失函數(shù)和正則項,并求解最優(yōu)解,目的是避免過擬合,步驟如下:

    2.2 模型解釋

    Lundberg和Lee[20](2017)提出SHAP模型,SHAP值來源于博弈論中的Shapley值,當(dāng)數(shù)據(jù)量充足的情況下,通過XGBoost模型可以提高磁盤故障預(yù)測模型的準(zhǔn)確度,并且利用SHAP值,可用來對構(gòu)建的XGBoost模型做出強有力的分析提供幫助。

    3 特征工程及特征選擇

    3.1 數(shù)據(jù)來源

    本文研究數(shù)據(jù)來源Backblaze公司2019年第一季度的公開數(shù)據(jù)[21],Backblaze每日會對磁盤數(shù)據(jù)進行監(jiān)測,保證數(shù)據(jù)的安全性,本文會使用2019第一季度的數(shù)據(jù)進行分析,選取20825個磁盤數(shù)據(jù)進行數(shù)據(jù)處理,Backblaze數(shù)據(jù)是每日數(shù)據(jù),數(shù)據(jù)包括磁盤的序列號,型號,容量,故障類型和對于每天在Backblaze數(shù)據(jù)中心的基本驅(qū)動器信息以及該驅(qū)動器報告的SMART統(tǒng)計數(shù)據(jù)。

    3.2 特征工程

    3.2.1 選取數(shù)據(jù)集

    對Backblaze公司2019年第一季度每日監(jiān)測的數(shù)據(jù)進行篩選,首先,選取Backblaze公司發(fā)布報告中提到故障率最高的磁盤ST4000DM000作為研究對象,其次,對于每日監(jiān)測數(shù)據(jù),可以看出,只有當(dāng)磁盤發(fā)生故障時,此時標(biāo)簽failure為1,其他時刻都認(rèn)為是正常運轉(zhuǎn)的,但是,在記錄數(shù)據(jù)那一刻,其實該磁盤已經(jīng)發(fā)生故障,所以,為了保證磁盤的真實性,將前7天的標(biāo)簽改成1,目的是為了減少磁盤因故障沒及時備份數(shù)據(jù)所造成的損失。并且,將每日磁盤的全部smart值作為研究對象,減少數(shù)據(jù)的損失。

    3.2.2 降維

    對于驅(qū)動器報告的SMART統(tǒng)計數(shù)據(jù),數(shù)據(jù)特征有65個特征,但大部分的特征值為空值,對磁盤故障的預(yù)測沒有任何幫助,反而,會增加對磁盤故障預(yù)測的故障率,所以,首先,刪除對標(biāo)簽沒有任何幫助的序列號,時間等信息,其次,刪除全部都為空值的列,最后,采用閾值法對數(shù)據(jù)進行降維,將空值比例大于80%的列刪除,特征減少到25個特征,大大減少了數(shù)據(jù)的復(fù)雜度。

    3.2.3 缺失值填補及熱力圖

    對于初步選取的數(shù)據(jù)進行數(shù)據(jù)處理,查看數(shù)據(jù)缺失情況,發(fā)現(xiàn)數(shù)據(jù)缺失值較少,占整體數(shù)據(jù)的8%,本文選擇用0填補缺失值。目標(biāo)變量(“failure”)與smart屬性187有很強的相關(guān)性,下圖是部分屬性對目標(biāo)變量的影響,顏色越深,數(shù)值越大,說明對目標(biāo)變量產(chǎn)生較大的影響。

    3.2.4 平衡數(shù)據(jù)集

    根據(jù)上步預(yù)處理數(shù)據(jù)可以看出,數(shù)據(jù)中大量都是正常的磁盤,很少會出現(xiàn)故障的磁盤,現(xiàn)實生活中也可以很好理解這一點,畢竟,磁盤出故障的事件還是小概率事件。對于數(shù)據(jù)集是完全不平衡數(shù)據(jù),對磁盤故障預(yù)測模型產(chǎn)生較大的影響,本文采用過采樣的方式平衡數(shù)據(jù)集,增加少數(shù)類的比例,得到新樣本中故障磁盤和正常磁盤的百分比分別為40%和60%,減少因數(shù)據(jù)不平衡對模型的影響。

    3.2.5 特征選擇

    Lasso方法特征選擇中,發(fā)現(xiàn)參數(shù)?姿越大,參數(shù)的解越少,選出的影響特征也越少。本文采用交叉驗證法對RMSE進行計算,找出RMSE的極小值點,從而找出參數(shù)?姿的值。最終選取17個重點影響磁盤故障的特征。

    4 實踐結(jié)果與討論

    4.1 算法評價指標(biāo)及超參數(shù)配置

    本文以RMSE(均方根誤差)、MAE(平均絕對誤差)、R2(擬合優(yōu)度)為預(yù)測模型的評價函數(shù),其中,前練個指標(biāo)值越小,表明預(yù)測精度越好,R2數(shù)值越大,表明模型預(yù)測效果越好。其計算公式為:

    4.2 與其他主流機器學(xué)習(xí)對比

    本文重點放在和其他主流機器學(xué)習(xí)進行對比,突出XGBoost對磁盤故障預(yù)測的優(yōu)越性,本文對比機器學(xué)習(xí)中11種主流算法,表3是11種算法在三個指標(biāo)上的對比結(jié)果,以XGBoost算法為例,將特征工程處理完的數(shù)據(jù)劃分訓(xùn)練集和測試集,訓(xùn)練集占70%,測試集占30%,不同的算法在訓(xùn)練集上建立相應(yīng)的模型,最后在測試集中預(yù)測,結(jié)果如下表。

    從上表中可以看出:XGBoost效果最佳,RMSE為0.07,MAE為0.019,R2為0.88,SVR效果最差,RMSE為0.188,MAE為0.128,R2為0.123。其中RMSE指標(biāo)上,XGBoost與其他11種機器學(xué)習(xí)算法結(jié)果差距較小,在MAE指標(biāo)上,XGBoost與其他11種算法的差距也較小,在R2指標(biāo)上,XGBoost的值可以達到0.88,而SVR的值只有0.123,其他算法的差距很明顯,但集成算法的擬合優(yōu)度的效果更好。XGBoost算法在這三個指標(biāo)上的結(jié)果都優(yōu)于其他算法,預(yù)測效果也最好,基于非線性Neural Network,XGBoost算法比線性回歸、決策樹以及k鄰近回歸預(yù)測效果好,進一步說明磁盤故障數(shù)據(jù)是一個多種因素決定的復(fù)雜的問題,諸多因素共同決定磁盤故障問題,所以使用非線性關(guān)系預(yù)測會得到更好的結(jié)果,同時也會增加模型的復(fù)雜度,基于集成算法的模型相比其他若分類器強大很多,所以結(jié)果很明顯的好,XGBoost和Catboost效果卓越,同時也說明XGBoost模型在進行磁盤故障預(yù)測模型中的提供了準(zhǔn)確預(yù)測的參考,在使用此方法上進行磁盤故障預(yù)測模型推廣泛化上有一定的優(yōu)勢。

    4.3 模型超參數(shù)調(diào)優(yōu)及學(xué)習(xí)曲線對比

    XGBoost模型中的超參數(shù)共計有23個,模型超參數(shù)調(diào)優(yōu)使用網(wǎng)格搜索找出最佳的參數(shù)結(jié)果,并使用r2_score為判斷標(biāo)準(zhǔn),將特征工程數(shù)據(jù)清洗后的數(shù)據(jù)輸入到XGBoost模型中,使用這些參數(shù),得到更好的預(yù)測效果,以下五個參數(shù)為主要調(diào)整的參數(shù),搜索區(qū)間和調(diào)優(yōu)結(jié)果如表4所示。

    圖3所示為XGBoost典型的4中機器學(xué)習(xí)算法的學(xué)習(xí)曲線對比結(jié)果,其中圖3(a-d)分別表示XGBoost、LightGBM、隨機森林以及SVR的學(xué)習(xí)曲線。圖3中可以看到4種算法在樣本達到8000后,模型分?jǐn)?shù)增長速度逐漸變緩,測試集與交叉驗證集性能存在較大差距,其中隨機森林,LightGBM和SVR在樣本量增加時,測試集效果甚至出現(xiàn)分?jǐn)?shù)下降的現(xiàn)象。當(dāng)樣本數(shù)量在8000時,最好的擬合效果是0.88,XGBoost模型的分?jǐn)?shù)很快接近0.8,當(dāng)樣本數(shù)量繼續(xù)增加時,交叉驗證集上XGBoost模型的增速也逐漸變緩。另外,隨機森林,LightGBM兩者隨著樣本量的增加,出現(xiàn)了過擬合現(xiàn)象,造成的原因可能是樣本噪音干擾過大,使得算法將部分噪音認(rèn)為是特征從而擾亂了預(yù)設(shè)的分類規(guī)則,或是模型過于復(fù)雜。

    4.4 SHAP模型特征分析

    根據(jù)圖4的SHAP特征分析圖,發(fā)現(xiàn)smart_187, smart_197,smart_7,smart_5對模型有顯著的影響,其中smart_187,smart_197,smart_5對模型有正向影響,smart_7對模型有負(fù)向影響,具體而言,smart_187, smart_197,smart_5的SHAP值越大,說明磁盤越容易發(fā)生故障,當(dāng)這些值出現(xiàn)較大的波動變化時因提前備份數(shù)據(jù)更換磁盤,以免造成損失。

    經(jīng)過XGBoost,RandomForest,SHAP特征重要性對比后訓(xùn)練后,不難發(fā)現(xiàn),根據(jù)不同算法得出影響磁盤故障的因素不同,但是對于以下7個屬性中,smart_197,smart_184,smart_187,smart_198,smart_5,smart_241,smart_7,在三種算法的重要程度中,smart_197,smart_187特征重要性的值都比較高,說明磁盤故障中,這些因素對磁盤故障的影響越大。

    5 結(jié)論

    隨著大數(shù)據(jù)、云計算、云存儲等新興科技的發(fā)展,使得海量數(shù)據(jù)存儲的需求越來越大,磁盤作為常見的存儲工具之一,對磁盤故障影響因素的研究也逐漸增多,利用機器學(xué)習(xí)對模型預(yù)測的研究較少,并且也缺乏模型的可解釋性。所以,本文以Backblaze公司2019年第一季度每日監(jiān)測的數(shù)據(jù)進行數(shù)據(jù)處理,使用閾值法、Lasso特征選擇對數(shù)據(jù)降維,然后,將篩選后的數(shù)據(jù)使用XGBoost模型訓(xùn)練,并與典型的機器學(xué)習(xí)算法中11種主流機器學(xué)習(xí)模型進行對比,結(jié)果表明本文在RMSE、MAE、 三種性能指標(biāo)上均優(yōu)于其他模型,最后,利用SHAP模型增強對模型的可解釋性,對比三種算法XGBoost、Random Forest和SHAP值對磁盤故障的影響程度大小進行分析,結(jié)果發(fā)現(xiàn)smart_187,smart_197都占特征重要性的前三,說明磁盤故障影響因素都報告不可糾正錯誤和等候重定的扇區(qū)計數(shù)兩個特征對目標(biāo)變量有很大的影響。

    參考文獻:

    〔1〕Vishwanath K V, Nagappan N. Characterizing cloud computing hardware reliability [A]. // Proceedings of the 1st ACM symposium on Cloud computing [C],US: ACM, 2010: 193-204.

    〔2〕Lifeline Data Centers. What Data Center Downtime Costs [EB/OL]. [2019-05-10]. https://lifelinedatacenters. com/ data-center/data-center-downtime-costs/.

    〔3〕Hamerly G, Elkan C. Bayesian approaches to failure prediction for disk drives. in: Proceedings of the Eighteenth International Conference on Machine Learning. San Francisco, CA, USA: Morgan Kaufimann, 2001. 202-209.

    〔4〕Pang S, Jia Y, Stones R, et al. A combined Bayesian network method for predicting drive failure times from S.M.A.R.T. attributes[J. 2016 International Joint Conference on NeuralNetworks (IICNN), 2016: 4850-4856.

    〔5〕Murray J F, Hughes G F, Kreutz-Delgado K. Hard drive failure prediction using non-parametric statistical methods. in: ICANN. 2003.

    〔6〕Murray J F, Hughes G F, Kreutz-Delgado K. Machine Learning Methods for Predicting Failures in Hard Drives: A Multiple-Instance Application. in: International Conference on Robotics and Automation. San Diego. CA. USA: Mach. Learn. Res,2005. 783-816.

    〔7〕宋云華,柏文陽,周琦,基于COG-OS框架利用S.M.A.R.T.預(yù)測云計算平臺的硬盤故障[J].計算機應(yīng)用,2014,34(01):31-35+188.

    〔8〕宋云華基于S.M.A.R.T.預(yù)測故障磁盤的研究[D].南京大學(xué),2014.

    〔9〕ZHU BP, WANG G, LIU XG, et al. Proactive Drive Failure Prediction for Large Scale Storage Systems[C]// . Proceedings of the 2013 IEEE Symposium on Mass Storage Systems and Technologies. Washington: IEEE Computer Society, 2013: 6558427.

    〔10〕賈潤瑩,李靜,王剛,等.基于Adaboost和遺傳算法的硬盤故障預(yù)測模型優(yōu)化及選擇[J].計算機研究與發(fā)展,2014,51(S1):148-154.

    〔11〕Xu C. Wang G, Liu X, et al. Health status assessment and failure prediction for hard drives with recurrent neural networks[J]. IEEE Transactions on Computers, 2016, 65(11): 3502-3508.

    〔12〕Lima F DD S, Amaral G M R, Leite LG D M, et al. Predicting Failures in Hard Drives with LSTM Networks[J]. 2017 Brazilian Conference on Intelligent Systems (BRACIS), 2017: 222-227.

    〔13〕康艷龍.基于深度學(xué)習(xí)的硬盤故障預(yù)測技術(shù)研究[D].西安電子科技大學(xué),2019.

    〔14〕董勇,蔣艷凰,盧宇彤,周恩強.面向磁盤故障預(yù)測的機器學(xué)習(xí)方法比較[J].計算機工程與科學(xué),2015,37(12):2200-2207.

    〔15〕Li J, Stones R J, Wang G, et al. Hard drive failure prediction using Decision Trees. in: 2014 44th Annual IEEE/IFIP International Conference on Dependable Systems and Networks. Atlanta, GA, USA: IEEE, 2017. 164:55-65.

    〔16〕賈潤瑩,李靜,王剛,等.基于Adaboost和遺傳算法的硬盤故障預(yù)測模型優(yōu)化及選擇[J].計算機研究與發(fā)展,2014,51(S1):148-154.

    〔17〕AUSSEL. N, JAULIN S, GANDON G, et al. Predictive Models of Hard Drive Failures Based on Operational Data[C]// Proceedings of the 2017 16th IEEE International Conference on Machine Learning and Applications. Piscataway: IEEE,2017: 619-625.

    〔18〕張廷雷.基于改進隨機森林的硬盤故障預(yù)測方法研究[D].鄭州大學(xué),2019.

    〔19〕李新鵬,高欣,何楊,閻博,孫漢旭,李軍良,徐建航,劉震宇,龐博.不平衡數(shù)據(jù)集下基于自適應(yīng)加權(quán)Bagging-GBDT算法的磁盤故障預(yù)測模型[J].微電子學(xué)與計算機,2020,37(03):14-19.

    〔20〕Lundberg S M, Lee S I. A unified approach to interpreting model predictions[C]// Advances in neural information processing systems. 2017:4765-4774.

    〔21〕Backblaze. Hard Drive Data and Stats. [DS/OL]. [2019-06-05]. https://www. backblaze. com/b2/hard-drive-test-data.html.

    猜你喜歡
    機器學(xué)習(xí)
    基于詞典與機器學(xué)習(xí)的中文微博情感分析
    基于機器學(xué)習(xí)的圖像特征提取技術(shù)在圖像版權(quán)保護中的應(yīng)用
    基于網(wǎng)絡(luò)搜索數(shù)據(jù)的平遙旅游客流量預(yù)測分析
    時代金融(2016年27期)2016-11-25 17:51:36
    前綴字母為特征在維吾爾語文本情感分類中的研究
    下一代廣播電視網(wǎng)中“人工智能”的應(yīng)用
    活力(2016年8期)2016-11-12 17:30:08
    基于支持向量機的金融數(shù)據(jù)分析研究
    基于Spark的大數(shù)據(jù)計算模型
    基于樸素貝葉斯算法的垃圾短信智能識別系統(tǒng)
    基于圖的半監(jiān)督學(xué)習(xí)方法綜述
    機器學(xué)習(xí)理論在高中自主學(xué)習(xí)中的應(yīng)用
    午夜免费观看性视频| 成年动漫av网址| 日韩电影二区| 91成年电影在线观看| 日本a在线网址| 别揉我奶头~嗯~啊~动态视频 | 新久久久久国产一级毛片| 国产免费av片在线观看野外av| 美女高潮到喷水免费观看| 视频在线观看一区二区三区| √禁漫天堂资源中文www| 午夜91福利影院| 亚洲精品国产区一区二| 日韩电影二区| 在线永久观看黄色视频| 国产欧美日韩精品亚洲av| 视频区欧美日本亚洲| 日韩三级视频一区二区三区| 免费高清在线观看日韩| 国产一区二区激情短视频 | 十分钟在线观看高清视频www| 91麻豆av在线| 亚洲精品国产色婷婷电影| 91老司机精品| 少妇猛男粗大的猛烈进出视频| 91国产中文字幕| 亚洲精品中文字幕一二三四区 | 国产欧美日韩综合在线一区二区| 黄色a级毛片大全视频| 夫妻午夜视频| 999久久久精品免费观看国产| 一二三四在线观看免费中文在| 黑人操中国人逼视频| 亚洲中文日韩欧美视频| 成年人午夜在线观看视频| 老司机亚洲免费影院| 精品福利观看| 麻豆乱淫一区二区| 天天躁夜夜躁狠狠躁躁| 久久久国产欧美日韩av| 欧美97在线视频| 男人添女人高潮全过程视频| 蜜桃在线观看..| 国产欧美亚洲国产| 天天添夜夜摸| 日韩人妻精品一区2区三区| 国产熟女午夜一区二区三区| 亚洲一卡2卡3卡4卡5卡精品中文| 精品久久久久久电影网| 男女国产视频网站| 精品高清国产在线一区| 老熟妇乱子伦视频在线观看 | 妹子高潮喷水视频| 女人被躁到高潮嗷嗷叫费观| 国产在线观看jvid| 成年人免费黄色播放视频| 伊人亚洲综合成人网| 青草久久国产| 日本vs欧美在线观看视频| √禁漫天堂资源中文www| 国产1区2区3区精品| 夜夜骑夜夜射夜夜干| 久久国产亚洲av麻豆专区| 两性午夜刺激爽爽歪歪视频在线观看 | 亚洲av日韩在线播放| 国产精品偷伦视频观看了| 亚洲成国产人片在线观看| av电影中文网址| 女人被躁到高潮嗷嗷叫费观| 欧美日本中文国产一区发布| 桃花免费在线播放| 欧美乱码精品一区二区三区| 国产亚洲av片在线观看秒播厂| 大陆偷拍与自拍| 成人国产av品久久久| 日韩中文字幕欧美一区二区| 十八禁网站免费在线| 如日韩欧美国产精品一区二区三区| 色视频在线一区二区三区| 婷婷成人精品国产| 俄罗斯特黄特色一大片| 亚洲成国产人片在线观看| 欧美国产精品va在线观看不卡| 日本欧美视频一区| 汤姆久久久久久久影院中文字幕| 美女福利国产在线| 亚洲欧美色中文字幕在线| 两人在一起打扑克的视频| 我的亚洲天堂| 黑人巨大精品欧美一区二区蜜桃| 少妇裸体淫交视频免费看高清 | 黑人巨大精品欧美一区二区蜜桃| 叶爱在线成人免费视频播放| 2018国产大陆天天弄谢| 免费在线观看影片大全网站| 国产av精品麻豆| 欧美黄色淫秽网站| 97精品久久久久久久久久精品| 亚洲视频免费观看视频| 青草久久国产| av电影中文网址| 久久国产精品男人的天堂亚洲| 精品福利永久在线观看| 精品一区二区三区av网在线观看 | 精品亚洲成a人片在线观看| 香蕉丝袜av| 久久久久国产一级毛片高清牌| 岛国在线观看网站| 久久中文看片网| 麻豆国产av国片精品| 精品少妇内射三级| 在线观看免费视频网站a站| 老鸭窝网址在线观看| 国产精品一区二区在线不卡| 亚洲全国av大片| 久久国产精品大桥未久av| 成人国产av品久久久| 97在线人人人人妻| 男女边摸边吃奶| 久久国产精品人妻蜜桃| 免费在线观看影片大全网站| 成年美女黄网站色视频大全免费| 正在播放国产对白刺激| 丝袜在线中文字幕| 免费观看av网站的网址| 久久国产精品人妻蜜桃| 丁香六月天网| 久久久久国内视频| 免费一级毛片在线播放高清视频 | 中文字幕人妻丝袜制服| 国产高清国产精品国产三级| 成年av动漫网址| 中文字幕人妻丝袜制服| 黄色a级毛片大全视频| 久久人人97超碰香蕉20202| 91av网站免费观看| 青青草视频在线视频观看| 国产深夜福利视频在线观看| 午夜福利在线观看吧| 久久综合国产亚洲精品| 精品人妻一区二区三区麻豆| 久久精品成人免费网站| 精品卡一卡二卡四卡免费| tube8黄色片| 色精品久久人妻99蜜桃| 国产精品一区二区免费欧美 | 免费久久久久久久精品成人欧美视频| 亚洲精品国产av蜜桃| 国产伦人伦偷精品视频| 亚洲精品久久午夜乱码| 美女午夜性视频免费| 丝袜人妻中文字幕| 久久久久久久精品精品| 日本欧美视频一区| 日韩有码中文字幕| 老司机亚洲免费影院| 精品乱码久久久久久99久播| 免费不卡黄色视频| 亚洲国产精品成人久久小说| 国产三级黄色录像| 久久久精品94久久精品| 日韩欧美国产一区二区入口| 99国产精品一区二区蜜桃av | 国产亚洲午夜精品一区二区久久| 欧美+亚洲+日韩+国产| 免费观看av网站的网址| 成人18禁高潮啪啪吃奶动态图| 自线自在国产av| 国产成人精品久久二区二区91| 国产一区二区 视频在线| 午夜精品国产一区二区电影| 中国美女看黄片| 国产1区2区3区精品| 美女午夜性视频免费| 亚洲美女黄色视频免费看| 中文字幕高清在线视频| 18禁国产床啪视频网站| 最新在线观看一区二区三区| 黄网站色视频无遮挡免费观看| 国产一区二区激情短视频 | 99re6热这里在线精品视频| 日韩制服骚丝袜av| 97精品久久久久久久久久精品| 国产三级黄色录像| www.精华液| 国产精品久久久久久精品古装| 一个人免费在线观看的高清视频 | 免费黄频网站在线观看国产| 99香蕉大伊视频| 免费在线观看视频国产中文字幕亚洲 | 操美女的视频在线观看| 麻豆乱淫一区二区| 国产成人精品久久二区二区91| 我的亚洲天堂| 美女中出高潮动态图| 成人手机av| 亚洲专区字幕在线| 亚洲精品美女久久av网站| 大码成人一级视频| 一区二区三区激情视频| 99re6热这里在线精品视频| 青草久久国产| 法律面前人人平等表现在哪些方面 | 91成人精品电影| 一级片免费观看大全| 啦啦啦视频在线资源免费观看| 免费少妇av软件| 欧美精品一区二区免费开放| 美国免费a级毛片| av视频免费观看在线观看| 美女主播在线视频| 男人爽女人下面视频在线观看| 亚洲久久久国产精品| 日本vs欧美在线观看视频| 欧美成人午夜精品| 大型av网站在线播放| 亚洲精品久久午夜乱码| 国产一卡二卡三卡精品| 久久这里只有精品19| 国产视频一区二区在线看| 国产精品一区二区在线观看99| 欧美中文综合在线视频| 成人av一区二区三区在线看 | 免费在线观看影片大全网站| 不卡一级毛片| 满18在线观看网站| 久久99热这里只频精品6学生| 日韩 欧美 亚洲 中文字幕| 亚洲熟女精品中文字幕| 亚洲专区国产一区二区| 男女免费视频国产| 9191精品国产免费久久| 欧美激情极品国产一区二区三区| 欧美国产精品一级二级三级| 国产又爽黄色视频| 亚洲国产av影院在线观看| 国产精品国产三级国产专区5o| 国产av精品麻豆| 青青草视频在线视频观看| 欧美在线黄色| 欧美日韩福利视频一区二区| 国产精品99久久99久久久不卡| 亚洲av电影在线进入| 男女国产视频网站| 成年动漫av网址| 99热国产这里只有精品6| 王馨瑶露胸无遮挡在线观看| 久久国产精品男人的天堂亚洲| 在线看a的网站| 2018国产大陆天天弄谢| 在线观看舔阴道视频| 91成人精品电影| 亚洲国产精品一区二区三区在线| 法律面前人人平等表现在哪些方面 | 国产精品久久久人人做人人爽| 最新的欧美精品一区二区| 亚洲国产精品一区三区| 亚洲国产成人一精品久久久| 午夜福利在线免费观看网站| 日韩中文字幕视频在线看片| 国产精品熟女久久久久浪| 精品视频人人做人人爽| 国产色视频综合| 我要看黄色一级片免费的| www.av在线官网国产| 欧美国产精品一级二级三级| av在线老鸭窝| 日韩制服骚丝袜av| 成年av动漫网址| 久久精品亚洲av国产电影网| 水蜜桃什么品种好| 亚洲国产精品一区二区三区在线| 精品高清国产在线一区| 黄色视频不卡| 免费在线观看日本一区| 日韩欧美一区二区三区在线观看 | 男女下面插进去视频免费观看| 黄色毛片三级朝国网站| 日本精品一区二区三区蜜桃| av一本久久久久| 一个人免费看片子| 日本vs欧美在线观看视频| 飞空精品影院首页| 国产黄频视频在线观看| 国产精品久久久久久精品电影小说| 国产精品自产拍在线观看55亚洲 | 91大片在线观看| 国产日韩欧美在线精品| 日本wwww免费看| 男人舔女人的私密视频| h视频一区二区三区| 免费人妻精品一区二区三区视频| 精品国内亚洲2022精品成人 | 在线观看免费午夜福利视频| 91九色精品人成在线观看| 日韩 欧美 亚洲 中文字幕| 国产黄色免费在线视频| 久久久久久亚洲精品国产蜜桃av| 成人免费观看视频高清| 亚洲第一欧美日韩一区二区三区 | 97人妻天天添夜夜摸| 99精国产麻豆久久婷婷| 日日摸夜夜添夜夜添小说| 另类亚洲欧美激情| 成人三级做爰电影| 亚洲欧美色中文字幕在线| 国产国语露脸激情在线看| 建设人人有责人人尽责人人享有的| 亚洲七黄色美女视频| 午夜91福利影院| 大香蕉久久网| 免费av中文字幕在线| 国产亚洲一区二区精品| 老汉色av国产亚洲站长工具| av超薄肉色丝袜交足视频| 黑人欧美特级aaaaaa片| 日韩制服丝袜自拍偷拍| 狠狠狠狠99中文字幕| 搡老乐熟女国产| 好男人电影高清在线观看| 亚洲国产精品一区二区三区在线| 国产精品欧美亚洲77777| 每晚都被弄得嗷嗷叫到高潮| 国内毛片毛片毛片毛片毛片| 久久久精品94久久精品| 亚洲全国av大片| 母亲3免费完整高清在线观看| 免费在线观看视频国产中文字幕亚洲 | 国产成人精品无人区| 国产高清视频在线播放一区 | 欧美精品人与动牲交sv欧美| 国产精品一区二区在线不卡| 成人av一区二区三区在线看 | 男女高潮啪啪啪动态图| 亚洲国产欧美日韩在线播放| 精品免费久久久久久久清纯 | 黑丝袜美女国产一区| 精品欧美一区二区三区在线| 日韩一区二区三区影片| 91成年电影在线观看| 久久久精品94久久精品| 自线自在国产av| 久久免费观看电影| 国产99久久九九免费精品| 国产日韩欧美在线精品| 国产av又大| 99国产精品一区二区三区| 精品国产乱码久久久久久男人| 国产成人精品久久二区二区免费| 亚洲av电影在线进入| 男男h啪啪无遮挡| av有码第一页| 99九九在线精品视频| 国产在线免费精品| 人人澡人人妻人| 欧美老熟妇乱子伦牲交| 人人澡人人妻人| 99精品欧美一区二区三区四区| 亚洲精品国产色婷婷电影| 欧美变态另类bdsm刘玥| 国产一区二区 视频在线| a级片在线免费高清观看视频| 欧美精品av麻豆av| 亚洲第一青青草原| 免费在线观看日本一区| 久久久国产精品麻豆| 黄色毛片三级朝国网站| 成在线人永久免费视频| 亚洲av片天天在线观看| 黄色视频,在线免费观看| 精品少妇内射三级| 大陆偷拍与自拍| 99久久综合免费| 亚洲精品国产精品久久久不卡| 亚洲精品久久午夜乱码| 久久精品人人爽人人爽视色| 美国免费a级毛片| 国产精品.久久久| 国产99久久九九免费精品| 亚洲精品粉嫩美女一区| av在线播放精品| av有码第一页| netflix在线观看网站| 视频区欧美日本亚洲| 大片免费播放器 马上看| 成人免费观看视频高清| 99久久99久久久精品蜜桃| 亚洲国产日韩一区二区| 国产免费视频播放在线视频| 免费高清在线观看日韩| 亚洲va日本ⅴa欧美va伊人久久 | 亚洲欧美一区二区三区久久| 成年美女黄网站色视频大全免费| 免费在线观看视频国产中文字幕亚洲 | 久久综合国产亚洲精品| 亚洲精品国产精品久久久不卡| av国产精品久久久久影院| 久久久水蜜桃国产精品网| 国产1区2区3区精品| 久久女婷五月综合色啪小说| av电影中文网址| 日本a在线网址| 老熟妇乱子伦视频在线观看 | 欧美国产精品va在线观看不卡| 男女下面插进去视频免费观看| 午夜激情av网站| 国产黄色免费在线视频| 每晚都被弄得嗷嗷叫到高潮| 色婷婷av一区二区三区视频| 国产在线观看jvid| 高清在线国产一区| 老汉色av国产亚洲站长工具| 我的亚洲天堂| 国产精品久久久人人做人人爽| 在线看a的网站| 99国产精品一区二区蜜桃av | 国产真人三级小视频在线观看| 国产黄频视频在线观看| 免费在线观看视频国产中文字幕亚洲 | 国产黄频视频在线观看| 亚洲午夜精品一区,二区,三区| 久久精品人人爽人人爽视色| 久久综合国产亚洲精品| 在线观看免费视频网站a站| 国产97色在线日韩免费| 少妇粗大呻吟视频| 中亚洲国语对白在线视频| 天天躁日日躁夜夜躁夜夜| 国产欧美亚洲国产| 国产精品一区二区在线不卡| 日韩,欧美,国产一区二区三区| 丝袜美足系列| 大型av网站在线播放| 侵犯人妻中文字幕一二三四区| 成人手机av| 亚洲精品国产av蜜桃| 操美女的视频在线观看| 欧美黑人精品巨大| 黑人欧美特级aaaaaa片| 亚洲av电影在线进入| 不卡av一区二区三区| 国产精品久久久久久人妻精品电影 | 黄色 视频免费看| 国产麻豆69| 免费黄频网站在线观看国产| 男人爽女人下面视频在线观看| 91麻豆精品激情在线观看国产 | 亚洲专区字幕在线| 国产三级黄色录像| 久久久久久久精品精品| 宅男免费午夜| 国产片内射在线| 国产xxxxx性猛交| 国产成人免费观看mmmm| 久久人人97超碰香蕉20202| 国产欧美日韩一区二区精品| www.自偷自拍.com| 久久久久国产一级毛片高清牌| 欧美变态另类bdsm刘玥| 一级毛片精品| 中文字幕人妻丝袜制服| 久久久久国产精品人妻一区二区| 国产一区二区三区av在线| 乱人伦中国视频| 久久久久国产一级毛片高清牌| 国产精品国产av在线观看| 国产99久久九九免费精品| 国产av精品麻豆| 水蜜桃什么品种好| 亚洲人成电影免费在线| 啦啦啦免费观看视频1| 久久午夜综合久久蜜桃| 人人妻人人澡人人爽人人夜夜| 免费日韩欧美在线观看| 国产黄频视频在线观看| 极品少妇高潮喷水抽搐| 精品一区在线观看国产| 国产在线免费精品| 国产老妇伦熟女老妇高清| 久久性视频一级片| 999精品在线视频| 久久久国产成人免费| 欧美 日韩 精品 国产| 免费高清在线观看视频在线观看| 老熟妇乱子伦视频在线观看 | av一本久久久久| 午夜福利乱码中文字幕| 亚洲国产欧美在线一区| tube8黄色片| 天堂俺去俺来也www色官网| 最近最新免费中文字幕在线| 色老头精品视频在线观看| 在线看a的网站| 色婷婷久久久亚洲欧美| 精品免费久久久久久久清纯 | 国产国语露脸激情在线看| 久久久久久人人人人人| 成人黄色视频免费在线看| 成人av一区二区三区在线看 | 国产高清视频在线播放一区 | 午夜视频精品福利| 久久香蕉激情| 久久久久久久大尺度免费视频| 久9热在线精品视频| 成人av一区二区三区在线看 | 成年av动漫网址| 亚洲人成电影免费在线| 老熟妇仑乱视频hdxx| 波多野结衣一区麻豆| 999久久久精品免费观看国产| 日本av免费视频播放| 久久久精品区二区三区| 制服诱惑二区| 女人被躁到高潮嗷嗷叫费观| 在线观看免费午夜福利视频| 亚洲全国av大片| 日本wwww免费看| videos熟女内射| 国产成人免费观看mmmm| 一个人免费看片子| 国产欧美日韩综合在线一区二区| 婷婷丁香在线五月| 啦啦啦免费观看视频1| 高清av免费在线| 在线观看一区二区三区激情| 首页视频小说图片口味搜索| 国产深夜福利视频在线观看| 国产国语露脸激情在线看| 国产高清视频在线播放一区 | 欧美国产精品va在线观看不卡| 成年美女黄网站色视频大全免费| 超碰成人久久| cao死你这个sao货| 精品福利观看| 视频在线观看一区二区三区| 黑人巨大精品欧美一区二区mp4| 十八禁人妻一区二区| 激情视频va一区二区三区| 国产熟女午夜一区二区三区| 日韩电影二区| 午夜福利视频精品| 久久精品成人免费网站| videos熟女内射| 亚洲情色 制服丝袜| 日韩欧美免费精品| 蜜桃国产av成人99| 国产亚洲欧美精品永久| 日韩三级视频一区二区三区| 精品福利观看| 精品久久久久久电影网| 黄片小视频在线播放| 又黄又粗又硬又大视频| 中文欧美无线码| 啦啦啦免费观看视频1| 国产av国产精品国产| 99国产精品一区二区蜜桃av | 啦啦啦啦在线视频资源| 精品欧美一区二区三区在线| 岛国毛片在线播放| 一级a爱视频在线免费观看| 国产成人av教育| 国产欧美日韩一区二区三 | 国产亚洲欧美在线一区二区| 国产精品一区二区精品视频观看| 视频区图区小说| 91麻豆精品激情在线观看国产 | 如日韩欧美国产精品一区二区三区| 搡老岳熟女国产| 丁香六月欧美| 视频在线观看一区二区三区| 精品亚洲成国产av| xxxhd国产人妻xxx| 亚洲欧美精品自产自拍| 狠狠精品人妻久久久久久综合| 丰满人妻熟妇乱又伦精品不卡| 老司机影院毛片| 热re99久久精品国产66热6| 成人三级做爰电影| 午夜福利免费观看在线| 国产精品一二三区在线看| 自拍欧美九色日韩亚洲蝌蚪91| av有码第一页| 麻豆乱淫一区二区| 91麻豆av在线| 午夜福利免费观看在线| 韩国高清视频一区二区三区| 亚洲综合色网址| 国产成人精品在线电影| 亚洲熟女毛片儿| 色综合欧美亚洲国产小说| 色94色欧美一区二区| 国产精品一区二区精品视频观看| 青草久久国产| 日韩欧美国产一区二区入口| 这个男人来自地球电影免费观看| 多毛熟女@视频| 亚洲成人国产一区在线观看| 色视频在线一区二区三区| videosex国产| 久久精品国产综合久久久| 黄频高清免费视频| 97精品久久久久久久久久精品| 欧美人与性动交α欧美精品济南到| 亚洲少妇的诱惑av| 大片电影免费在线观看免费| 蜜桃在线观看..| 99国产精品99久久久久| 亚洲国产精品一区二区三区在线| 精品少妇一区二区三区视频日本电影| 中文字幕人妻熟女乱码| 天天躁狠狠躁夜夜躁狠狠躁| 制服人妻中文乱码| 一个人免费在线观看的高清视频 | 精品亚洲乱码少妇综合久久| 亚洲国产中文字幕在线视频|