數(shù)據(jù)流概念漂移分類和挖掘研究綜述

趙峰

摘 要：基于數(shù)據(jù)流概念漂移技術(shù)在機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘領(lǐng)域的重要性，文章首先闡述了數(shù)據(jù)流漂移概念的概念，接著綜述了近年來數(shù)據(jù)流概念漂移處理方法的發(fā)展趨勢，最后概括了數(shù)據(jù)流概念漂移挖掘和分類研究的現(xiàn)狀。

關(guān)鍵詞：概念漂移；數(shù)據(jù)流；數(shù)據(jù)挖掘

引言

數(shù)據(jù)流概念漂移的研究在機(jī)器學(xué)習(xí)和數(shù)據(jù)挖掘領(lǐng)域的重要性與日俱增， 并在處理途徑方面取得了一定的成果，從2000年開始，數(shù)據(jù)流概念漂移分類研究進(jìn)入了快速發(fā)展期，研究人員開始考慮更加接近實(shí)際狀況的數(shù)據(jù)流概念漂移。從近年機(jī)器學(xué)習(xí)與數(shù)據(jù)挖掘領(lǐng)域的一些國際權(quán)威期刊和國際頂級會議上發(fā)表的論文來看，數(shù)據(jù)流概念漂移挖掘和分類研究正日益成為學(xué)術(shù)界關(guān)注的焦點(diǎn)，對數(shù)據(jù)流概念漂移的研究已經(jīng)開始與轉(zhuǎn)移學(xué)習(xí)、進(jìn)化計(jì)算、特征選擇、聚類、時(shí)間復(fù)雜度分析、社會計(jì)算等結(jié)合起來。因此，從趨勢上來講，已有各種模式分類的理論和算法都可與概念漂移相結(jié)合而引出更多新的研究問題。

1 數(shù)據(jù)流概念漂移的概念及處理方式

某些文本的類別特征往往對它內(nèi)部所包含的一些“隱性內(nèi)容”具有很大的依賴性，這種現(xiàn)象通常被稱為概念漂移。隨著時(shí)間的向前推移，其中的這些隱性特征不斷發(fā)生著細(xì)小隱蔽的變化，這些變化事先不易預(yù)知，事后也不易覺察，但是，當(dāng)積累到一定程度時(shí)，卻會導(dǎo)致整個(gè)目標(biāo)概念發(fā)生變化。Schlimmer（1986）對概念漂移做出定義，認(rèn)為其是環(huán)境的隱藏性變化而導(dǎo)致目標(biāo)概念發(fā)生變化的過程。許多真實(shí)學(xué)習(xí)任務(wù)的數(shù)據(jù)都是從某一特定的擴(kuò)展時(shí)間段之內(nèi)收集的，隨著時(shí)間的推移，背景環(huán)境發(fā)生變化不僅會導(dǎo)致目標(biāo)概念本身發(fā)生變化，還會引起數(shù)據(jù)集的分布發(fā)生變化。Lidmer（1993）把環(huán)境的隱藏性變化導(dǎo)致目標(biāo)概念發(fā)生變化的過程稱為真實(shí)概念漂移，把環(huán)境變化導(dǎo)致數(shù)據(jù)集分布發(fā)生變化的過程稱為虛擬概念漂移，這兩者可以同時(shí)發(fā)生，也可以只有虛擬概念漂移發(fā)生。

數(shù)據(jù)流中的概念流可以通過以下三種方式進(jìn)行處理：基于窗口的方法、基于重量的方法以及集成分類。基于窗口的方法是通過選擇一個(gè)固定的或動態(tài)的滑動窗口構(gòu)建一個(gè)分類模型，在分類精度的基礎(chǔ)上調(diào)整窗口的大小（Lee，2009）。在以重量為基礎(chǔ)的方法上，每個(gè)訓(xùn)練實(shí)例被分配一個(gè)權(quán)重。最流行的演變技術(shù)來處理概念漂移的數(shù)據(jù)流是使用集成分類（分類器的組合），幾個(gè)輸出分類器的組合是用來確定最終的分類，這通常被稱為融合規(guī)則。另外，在每個(gè)時(shí)間點(diǎn)的個(gè)體輸出分類器上分配權(quán)重，權(quán)重通常為一個(gè)歷史表現(xiàn)函數(shù)，通過使用交叉驗(yàn)證過去或估計(jì)的函數(shù)。

2 數(shù)據(jù)流概念漂移挖掘研究現(xiàn)狀

為了從大量來自真實(shí)世界的復(fù)雜數(shù)據(jù)中提取最有用的信息和知識，在過去十年，各種數(shù)據(jù)挖掘算法已經(jīng)被提出和發(fā)展。Masud等（2011）建議在真正的標(biāo)記新類型的實(shí)例之前應(yīng)使用分類器來檢測新的類別。為了確定每個(gè)個(gè)體是否屬于某一新類型，其分類模型有時(shí)需要收集更多的測試實(shí)例來發(fā)現(xiàn)數(shù)據(jù)之間的異同。Polikar（2011）也推出了可以漸進(jìn)式學(xué)習(xí)流的分類器集合體，并命名為學(xué)習(xí)+NSE方法，通過當(dāng)前和過去的環(huán)境動態(tài)加權(quán)多數(shù)表決技術(shù)結(jié)合這些分類可以調(diào)整各個(gè)分類時(shí)間的準(zhǔn)確率。Song（2010）提出了一種基于關(guān)聯(lián)規(guī)則的關(guān)聯(lián)分類算法的數(shù)據(jù)流，其工作宗旨是發(fā)現(xiàn)各項(xiàng)集之間的關(guān)系，并從輸入的數(shù)據(jù)集中提取一套完整的頻繁模式。

Surace（2008）應(yīng)用了人體免疫系統(tǒng)拓寬的一般特性集和時(shí)間序列異常檢測，其中系統(tǒng)或結(jié)構(gòu)的正常狀態(tài)可能會改變。Tsai（2007）提出了一個(gè)新的挖掘樹規(guī)則概念流，被稱為CDR-樹的規(guī)則挖掘數(shù)據(jù)流的概念。CDR-樹能有效地提取決策中的每個(gè)數(shù)據(jù)塊的分類模型。Haggett（2005）提出了包括神經(jīng)探測器與動態(tài)預(yù)測編碼為特定應(yīng)用程序的屬性提取系統(tǒng)，它在各種情況下都勝過專家的方法。Maloof（2003）針對使用動態(tài)加權(quán)多數(shù)性能變化問題，提出了一個(gè)為創(chuàng)建動態(tài)流概念和刪除加權(quán)的集成方法，其通過培訓(xùn)網(wǎng)上學(xué)習(xí)者的綜合能力以及基于所述集合的全局性能添加或移除的能力。

3 數(shù)據(jù)流概念漂移分類研究現(xiàn)狀

在數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)領(lǐng)域中的數(shù)據(jù)流分析和挖掘是一項(xiàng)具有挑戰(zhàn)性的研究，它最近受到許多計(jì)算智能研究人員的關(guān)注（Holmes，2012）。數(shù)據(jù)流分類是提取知識和連續(xù)數(shù)據(jù)點(diǎn)信息的方法（Read，2010）。在數(shù)據(jù)流中的數(shù)據(jù)是隨著時(shí)間的推移所產(chǎn)生的，并且不能由任何預(yù)先定義的順序來控制。一個(gè)數(shù)據(jù)流與傳統(tǒng)的靜態(tài)數(shù)據(jù)或數(shù)據(jù)庫相比有非常多元化的特點(diǎn)，包括：動態(tài)、無限、高維、有序、不重復(fù)、高速和時(shí)變（Zliobaite，2009年）。大多數(shù)現(xiàn)有的數(shù)據(jù)挖掘技術(shù)不能檢測及在數(shù)據(jù)流環(huán)境中進(jìn)行分類（Qin，2007），因而現(xiàn)有的挖掘模型會將這些分類新實(shí)例與類標(biāo)簽弄錯(cuò)（Biswas，2004）。因此，這樣的數(shù)據(jù)流分類需要不斷更新和再培訓(xùn)通過在線數(shù)據(jù)流中標(biāo)記新來的數(shù)據(jù)。

新類型檢測數(shù)據(jù)流概念漂移是必需的，因?yàn)槟繕?biāo)類的統(tǒng)計(jì)特性在不可預(yù)見的方式隨時(shí)間而改變，并且必須是任何實(shí)際的數(shù)據(jù)流分類技術(shù)的一個(gè)組成部分。目前，主要有兩種數(shù)據(jù)流的分類方法：單一型號的增量分類和基于分類的集成模型。單一模式分類技術(shù)逐步更新為新數(shù)據(jù)的單一分類器，以應(yīng)付數(shù)據(jù)流的演變；同時(shí)，一種綜合的方法是使用組合或一組分類器，相比升級一個(gè)單獨(dú)的模型，構(gòu)建整體模型會更有效。比起單一模式分類技術(shù)其也有較高的分類正確率，這拓展了以前在數(shù)據(jù)流概念漂移中的新類型檢測的處理方法（Farid，2012）。

4 結(jié)束語

數(shù)據(jù)流概念漂移是數(shù)據(jù)分類過程中最棘手的問題，當(dāng)前不少學(xué)者對該問題提出了許多算法和集成分類器方法，尤其是近年來的相關(guān)研究，使其成為當(dāng)前數(shù)據(jù)挖掘領(lǐng)域研究的熱點(diǎn)和前沿問題，文章對該問題的研究現(xiàn)狀進(jìn)行了綜述和評價(jià)。

參考文獻(xiàn)

[1]張杰，孫曰瑤.基于AdaBoost組合算法的衍生金融工具風(fēng)險(xiǎn)預(yù)測[J].統(tǒng)計(jì)與決策，2012，7（7）：42-44.

[2]張杰，張婭萍.高校青年自組織文化認(rèn)同研究[J].知識經(jīng)濟(jì)，2012，1（1）：165.endprint