• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    VFDT算法基于Storm平臺(tái)的實(shí)現(xiàn)方案

    2016-03-01 09:00:22張發(fā)揚(yáng)李玲娟
    關(guān)鍵詞:訓(xùn)練樣本決策樹分類

    張發(fā)揚(yáng),李玲娟,陳 煜

    (南京郵電大學(xué)計(jì)算機(jī)學(xué)院,江蘇南京 210003)

    VFDT算法基于Storm平臺(tái)的實(shí)現(xiàn)方案

    張發(fā)揚(yáng),李玲娟,陳 煜

    (南京郵電大學(xué)計(jì)算機(jī)學(xué)院,江蘇南京 210003)

    以提升流數(shù)據(jù)的分類效率為目標(biāo),研究如何在流數(shù)據(jù)處理平臺(tái)Storm上實(shí)現(xiàn)快速?zèng)Q策樹算法-VFDT。設(shè)計(jì)了VFDT基于Storm的分布式并行化實(shí)現(xiàn)方案,將VFDT算法分為建樹、分類和評(píng)價(jià)共三個(gè)模塊,建樹模塊負(fù)責(zé)決策樹的初始化和增量建樹,分類模塊負(fù)責(zé)對(duì)待分類樣本進(jìn)行分類標(biāo)記,評(píng)價(jià)模塊負(fù)責(zé)用已標(biāo)記的樣本對(duì)VFDT決策樹進(jìn)行評(píng)價(jià)。通過(guò)正確設(shè)計(jì)Storm拓?fù)渲械腟pout/Bolt實(shí)現(xiàn)各模塊的功能,通過(guò)為分類Bolt設(shè)定多個(gè)Task來(lái)實(shí)現(xiàn)分類模塊的并行化;用內(nèi)存數(shù)據(jù)庫(kù)Redis實(shí)現(xiàn)三個(gè)模塊的有效銜接和決策樹的保存;用消息中間件Kafka來(lái)提高算法對(duì)流數(shù)據(jù)突增的容忍度?;谠摲桨傅腣FDT算法實(shí)現(xiàn)與測(cè)試結(jié)果表明:在Storm集群環(huán)境下的VFDT算法分類效率相對(duì)于單機(jī)環(huán)境有顯著提高,而且合理設(shè)定分類Bolt的Task數(shù)可使分類效率進(jìn)一步提高。

    流數(shù)據(jù);快速?zèng)Q策樹算法;分布式;并行化;Storm

    0 引言

    20世紀(jì)末,為適應(yīng)網(wǎng)絡(luò)監(jiān)控、入侵檢測(cè)、情報(bào)分析、商業(yè)交易管理和分析等應(yīng)用的要求,數(shù)據(jù)流技術(shù)應(yīng)運(yùn)而生[1]。數(shù)據(jù)流中的數(shù)據(jù)(即流數(shù)據(jù))是有序的、連續(xù)的且不斷變化的,甚至是無(wú)限的[2],不能像傳統(tǒng)的靜態(tài)數(shù)據(jù)一樣將其存儲(chǔ)在硬盤或者內(nèi)存之中,即再次處理這些數(shù)據(jù)的代價(jià)將非常昂貴。

    流數(shù)據(jù)挖掘是指從快速、大量、連續(xù)的數(shù)據(jù)流中挖掘出有價(jià)值的信息。數(shù)據(jù)流具有快速、連續(xù)、大量的特點(diǎn),傳統(tǒng)數(shù)據(jù)挖掘(Data Mining,DM)算法難以對(duì)流數(shù)據(jù)進(jìn)行有效的挖掘。對(duì)于流數(shù)據(jù),它的搜集和挖掘過(guò)程必須同時(shí)進(jìn)行,且必須以最快的速度從不斷到來(lái)的數(shù)據(jù)中挖掘出用戶所需要的信息。傳統(tǒng)的靜態(tài)數(shù)據(jù)挖掘通常能滿足數(shù)據(jù)分析處理的精確性要求,但是,對(duì)流數(shù)據(jù)而言,由于數(shù)據(jù)收集的時(shí)間和處理速度有限,因此得到的挖掘模型是近似結(jié)果。流數(shù)據(jù)挖掘結(jié)果的近似性是其不同于傳統(tǒng)數(shù)據(jù)挖掘的一個(gè)重要特點(diǎn)。

    分類挖掘是數(shù)據(jù)挖掘的主要任務(wù)之一,決策樹算法是分類挖掘的一類主流算法。VFDT(Very Fast Decision Tree)算法[3]是經(jīng)典的流分類算法之一。VFDT在假設(shè)數(shù)據(jù)流不發(fā)生概念漂移的情況下對(duì)持續(xù)不斷的數(shù)據(jù)流進(jìn)行增量學(xué)習(xí),能夠很好地適應(yīng)流數(shù)據(jù)的分類。VFDT算法可以使每條訓(xùn)練樣本的處理花費(fèi)恒定的內(nèi)存和時(shí)間,因此可以有效解決時(shí)間和內(nèi)存的限制問(wèn)題。該算法通過(guò)最初的少量樣本生成隨時(shí)可用的分類器,并可隨著訓(xùn)練樣本的到來(lái),對(duì)原有分類器進(jìn)行增量更新,不斷優(yōu)化原始決策樹,即VFDT算法以增量的形式,通過(guò)不斷地將葉子節(jié)點(diǎn)替換為決策節(jié)點(diǎn)而生成決策樹。

    與傳統(tǒng)的靜態(tài)大數(shù)據(jù)處理平臺(tái)Hadoop[4]不同,Storm是開源的流數(shù)據(jù)處理框架[5],能夠高效可靠地處理源源不斷的數(shù)據(jù)流。流挖掘算法運(yùn)行于數(shù)據(jù)流處理平臺(tái)是充分發(fā)揮算法效力的前提。為此,文中研究如何將VFDT算法部署到Storm平臺(tái)上進(jìn)行分布式并行化實(shí)現(xiàn),以提高VFDT算法對(duì)流數(shù)據(jù)的分類效率。

    1 VFDT算法分析

    VFDT算法是通過(guò)對(duì)Hoeffding樹改進(jìn)而實(shí)現(xiàn)的。Hoeffding樹是通過(guò)不斷地將葉子節(jié)點(diǎn)轉(zhuǎn)換為內(nèi)部節(jié)點(diǎn)而生成的,其中每個(gè)葉節(jié)點(diǎn)都存有關(guān)于屬性值的統(tǒng)計(jì)信息,這些統(tǒng)計(jì)信息用于計(jì)算屬性的信息增益。當(dāng)數(shù)據(jù)流中一個(gè)新的樣本到來(lái)后,該樣本沿著決策樹從上到下遍歷,樹的每個(gè)內(nèi)部節(jié)點(diǎn)都對(duì)其進(jìn)行劃分測(cè)試,根據(jù)不同的屬性取值,樣本進(jìn)入不同的分枝,最終到達(dá)樹的葉節(jié)點(diǎn)。當(dāng)數(shù)據(jù)到達(dá)葉節(jié)點(diǎn)后,更新該葉節(jié)點(diǎn)上的統(tǒng)計(jì)信息。如果統(tǒng)計(jì)信息的計(jì)算結(jié)果滿足節(jié)點(diǎn)分裂條件,則該葉節(jié)點(diǎn)變?yōu)閮?nèi)部節(jié)點(diǎn),并產(chǎn)生基于該內(nèi)部節(jié)點(diǎn)的子女葉節(jié)點(diǎn)。子女葉節(jié)點(diǎn)的個(gè)數(shù)取決于新的內(nèi)部節(jié)點(diǎn)的屬性的可能取值數(shù)目。

    VFDT算法采用信息熵或者Gini指標(biāo)作為選擇分裂屬性的標(biāo)準(zhǔn),以Hoeffding不等式作為判定節(jié)點(diǎn)分裂的條件。選擇Hoeffding不等式作為節(jié)點(diǎn)分裂條件的目的是確定葉子節(jié)點(diǎn)變?yōu)閮?nèi)部節(jié)點(diǎn)所需要的樣本數(shù)目,以達(dá)到使用盡量少的樣本建立準(zhǔn)確率較高的決策樹的目的。

    以t作時(shí)間戳,xt表示t時(shí)刻到達(dá)的數(shù)據(jù)向量,數(shù)據(jù)流可表示為{…,xt-1,xt,xt+1,…}[6]。VFDT算法的有關(guān)定義如下:

    (1)信息增益[7]:葉子節(jié)點(diǎn)l中存儲(chǔ)訓(xùn)練樣本集D的統(tǒng)計(jì)信息,則對(duì)于樣本集D分類所需的期望信息為Info(D)=-pilog2(pi)。其中,pi是樣本集D中任意一條樣本屬于類Ci的概率,pi= Ci,D/D,m是類別屬性的取值個(gè)數(shù)。對(duì)于葉子節(jié)點(diǎn)可能的分裂屬性A,設(shè)A有v個(gè)取值,則利用屬性A對(duì)樣本集D進(jìn)行劃分的期望信息為InfoA(D)=-,屬性A的信息增益為Gain(A)=Info(D)-InfoA(D)。

    (2)Hoeffding邊界[8-9]:對(duì)一個(gè)真值隨機(jī)變量r∈R,設(shè)對(duì) r取了 n個(gè)獨(dú)立的觀察值,平均值為 r-,其Hoeffding約束以1-δ的概率保證變量r的真實(shí)值與觀察值r-之差小于ε,即:P(r≥r--ε)=1-δ。其中,ε,r代表信息增益,R的取值范圍是log2#Classes(Classes是類別屬性取值的數(shù)量)。

    (3)主動(dòng)分裂系數(shù)τ[10]:τ的作用在于當(dāng)幾個(gè)屬性的信息增益值G幾乎相等時(shí),可能需要更多的樣本來(lái)決定出葉子節(jié)點(diǎn)的決策屬性,通過(guò)設(shè)定τ值來(lái)主動(dòng)選擇屬性并實(shí)現(xiàn)葉子節(jié)點(diǎn)分裂。當(dāng)滿足ΔG<ε<τ時(shí),選擇ΔG中信息增益最大或者次大的屬性作為該葉子節(jié)點(diǎn)的決策屬性。

    VFDT算法的建樹流程如圖1所示。

    概括地說(shuō),一條訓(xùn)練樣本是一個(gè)Tuple,即一條流,樣本中各屬性的元素與初始化階段抽取的屬性信息保持一致,通過(guò)分析流的非類別屬性與類別屬性的關(guān)系建立一棵決策樹。增量建樹過(guò)程就是不斷將葉子節(jié)點(diǎn)轉(zhuǎn)化為內(nèi)部節(jié)點(diǎn)的過(guò)程,其中每個(gè)葉子節(jié)點(diǎn)都將保存有關(guān)節(jié)點(diǎn)分裂的統(tǒng)計(jì)信息。當(dāng)一個(gè)訓(xùn)練樣本到達(dá)之后,從根節(jié)點(diǎn)開始,根據(jù)該節(jié)點(diǎn)的屬性取值進(jìn)入不同的分支,以此過(guò)程進(jìn)行遞歸直至到達(dá)葉子節(jié)點(diǎn)。到達(dá)葉節(jié)點(diǎn)之后將對(duì)葉子節(jié)點(diǎn)的統(tǒng)計(jì)信息進(jìn)行更新,當(dāng)統(tǒng)計(jì)值滿足計(jì)算的閾值時(shí)將觸發(fā)計(jì)算各可能屬性的信息增益以及Hoeffding邊界值,若滿足節(jié)點(diǎn)分裂的條件,則將該葉子節(jié)點(diǎn)轉(zhuǎn)化為內(nèi)部節(jié)點(diǎn),并根據(jù)決策屬性的取值產(chǎn)生新的葉子節(jié)點(diǎn)。

    2 Storm平臺(tái)

    Apache Storm是由Twitter公司開源的分布式實(shí)時(shí)計(jì)算系統(tǒng)。與Hadoop的批處理相比,Storm具有更好的實(shí)時(shí)性、可拓展性和容錯(cuò)性,能有效地處理流數(shù)據(jù),被廣泛用于實(shí)時(shí)分析、在線機(jī)器學(xué)習(xí)等場(chǎng)景[11]。

    圖1 VFDT算法的建樹流程

    在Storm內(nèi)部,數(shù)據(jù)流是由拓?fù)?Topology)來(lái)處理的。拓?fù)浒琒pout、數(shù)據(jù)源以及Bolt[12]。Bolt是拓?fù)涞囊粋€(gè)重要實(shí)體,負(fù)責(zé)數(shù)據(jù)流動(dòng)轉(zhuǎn)換,比如計(jì)算、過(guò)濾、聚合以及機(jī)器學(xué)習(xí)等。一個(gè)拓?fù)淇梢杂幸粋€(gè)或者多個(gè)Bolt實(shí)現(xiàn)數(shù)據(jù)流的復(fù)雜流轉(zhuǎn)。

    Storm集群的基本架構(gòu)如圖2所示,主要包括兩種節(jié)點(diǎn):主節(jié)點(diǎn)Nimbus(Master Node)以及工作節(jié)點(diǎn)Supervisor(Worker Node)。其中,Nimbus既負(fù)責(zé)將代碼分發(fā)到不同的工作節(jié)點(diǎn),又負(fù)責(zé)監(jiān)控集群。在每個(gè)工作節(jié)點(diǎn)上都會(huì)運(yùn)行一個(gè)Supervisor,負(fù)責(zé)監(jiān)聽Nimbus分配給該節(jié)點(diǎn)的工作[13]。每個(gè)Worker進(jìn)程執(zhí)行一個(gè)具體的Topology,Worker中的執(zhí)行線程為Executor,每個(gè)Executor中又包含一個(gè)或者多個(gè)Task,Task為Storm的最小處理單元。一個(gè)運(yùn)行中的Topology是由運(yùn)行在一臺(tái)或者多臺(tái)工作節(jié)點(diǎn)上的Worker來(lái)完成具體的業(yè)務(wù)操作。Nimbus與Supervisor之間的通信由Zookeeper來(lái)完成。

    圖2 Storm集群的基本架構(gòu)

    3 VFDT算法基于Storm的實(shí)現(xiàn)方案設(shè)計(jì)

    文中設(shè)計(jì)的VFDT基于Storm的分布式并行化實(shí)現(xiàn)方案,將VFDT算法分為建樹、分類和評(píng)價(jià)共三個(gè)模塊,建樹模塊負(fù)責(zé)決策樹的初始化和增量建樹,分類模塊負(fù)責(zé)對(duì)待分類樣本進(jìn)行分類標(biāo)記,評(píng)價(jià)模塊負(fù)責(zé)用已標(biāo)記樣本對(duì)VFDT決策樹進(jìn)行評(píng)價(jià)。各模塊都有相應(yīng)的Topology,如圖3所示。三個(gè)模塊之間通過(guò)內(nèi)存數(shù)據(jù)庫(kù)Redis[14]實(shí)現(xiàn)銜接,從而形成一個(gè)整體的計(jì)算框架,Redis也用于決策樹的保存;消息中間件Kafka[15]用來(lái)提高算法對(duì)流數(shù)據(jù)突增情況的容忍度。

    圖中的TraData表示外部數(shù)據(jù)源,為建樹模塊提供訓(xùn)練樣本;Dspout1作為建樹拓?fù)涞臄?shù)據(jù)源從TraData中拉取數(shù)據(jù)并傳遞給其他數(shù)據(jù)處理Bolt;DataPro Bolt主要工作是對(duì)訓(xùn)練樣本進(jìn)行初始化,并將其轉(zhuǎn)換成算法所需要的類;VFDT Bolt接收樣本,并利用訓(xùn)練樣本進(jìn)行決策樹的增量建立;VFDTPrint Bolt接收增量建立的決策樹,并將決策樹進(jìn)行序列化存儲(chǔ)到Redis數(shù)據(jù)庫(kù)中;ClaData表示外部數(shù)據(jù)源,為分類模塊提供待分類樣本;Kafka是消息中間件,訂閱ClaData中的樣本,同時(shí)供分類模塊進(jìn)行消費(fèi);KafkaSpout作為分類拓?fù)涞臄?shù)據(jù)源,接收Kafka中的待分類樣本,并將樣本進(jìn)行分發(fā);Tree Spout1表示拓?fù)涞臎Q策樹數(shù)據(jù)源,從Redis中實(shí)時(shí)獲取決策樹并進(jìn)行分發(fā);Classification Bolt將利用Tree Spout1傳遞到?jīng)Q策樹對(duì)待分類樣本進(jìn)行分類; InstPrint Bolt主要是對(duì)標(biāo)記好的樣本進(jìn)行存儲(chǔ);EvaData表示外部數(shù)據(jù)源,為評(píng)價(jià)模塊提供評(píng)價(jià)樣本;Tree Spout2的功能與Tree Spout1一致;Evaluation Bolt利用EvaData對(duì)Tree Spout2中的決策樹進(jìn)行評(píng)價(jià);ResPrint Bolt將對(duì)評(píng)價(jià)結(jié)果進(jìn)行存儲(chǔ)。

    (1)建樹模塊。

    如前所述,建樹模塊主要負(fù)責(zé)決策樹的初始化以及決策樹的增量建立。初始化的過(guò)程主要包括數(shù)據(jù)集屬性信息的抽取以及根節(jié)點(diǎn)的建立。決策樹的增量建立過(guò)程包括讀入訓(xùn)練樣本集和基于圖1所示的流程建立決策樹。如圖3所示,DSpout1作為訓(xùn)練樣本的數(shù)據(jù)源,不斷向負(fù)責(zé)數(shù)據(jù)預(yù)處理的DataPro Bolt發(fā)送訓(xùn)練樣本,DataPro Bolt將訓(xùn)練樣本處理成算法需要的類,并將其傳遞到負(fù)責(zé)建樹的VFDT Bolt中,VFDT Bolt將調(diào)用VFDT插入樣本的方法實(shí)現(xiàn)決策樹的動(dòng)態(tài)更新,最后將VFDT決策樹傳遞到VFDTPrint Bolt中實(shí)現(xiàn)決策樹的序列化并存儲(chǔ)到Redis中。

    (2)分類模塊。

    分類模塊的主要功能是完成對(duì)待分類樣本的標(biāo)記工作??紤]到待分類樣本數(shù)量大且源源不斷地到來(lái),當(dāng)數(shù)據(jù)源突然增加時(shí),有可能導(dǎo)致算法在Storm上并發(fā)度不足而引起異常,文中使用了消息中間件Kafka做數(shù)據(jù)暫存區(qū)。Kakfa具有高性能、高拓展性、分布式及持久性,當(dāng)數(shù)據(jù)源突然增加時(shí)可以將部分?jǐn)?shù)據(jù)持久化至硬盤中去,不至于造成數(shù)據(jù)的丟失[15]。為保證分類模塊的拓?fù)淠軌虮3州^高的數(shù)據(jù)吞吐量,文中將該模塊中的數(shù)據(jù)預(yù)處理DataPro Bolt以及對(duì)待分類樣本進(jìn)行分類的Classification Bolt的Task都設(shè)置為多個(gè),以提高處理的并發(fā)度。

    如圖3所示,DataPro Bolt使用Shuffle Grouping(隨機(jī)分組)的流分組方式從KafkaSpout中拉取數(shù)據(jù),使得該Bolt的多個(gè)Tasks中的每個(gè)Task處理的樣本數(shù)目大致相同。Classification Bolt同樣采用Shuffle Grouping的方式使該Bolt中每個(gè)Task能夠平均處理數(shù)據(jù)。為了使該Bolt中的每個(gè)Task可以取到相同的決策樹,這部分還采用All Grouping(廣播分組)方式從負(fù)責(zé)由Redis內(nèi)存數(shù)據(jù)庫(kù)中實(shí)時(shí)獲取 VFDT決策樹的 Tree Spout1中拉取決策樹。最后對(duì)Classification Bolt中標(biāo)記過(guò)的待分類樣本采用Global Grouping(全局分組)的方式發(fā)送到InstancePrint Bolt中。

    其中,Classification Bolt中利用決策樹VFDTTree對(duì)待分類樣本 ClaData進(jìn)行分類的偽代碼如算法1所示。

    (3)評(píng)價(jià)模塊。

    評(píng)價(jià)模塊的主要功能是利用已標(biāo)記的評(píng)價(jià)樣本實(shí)現(xiàn)對(duì)實(shí)時(shí)傳遞過(guò)來(lái)的VFDT決策樹的評(píng)價(jià)。為了保證評(píng)價(jià)樣本的實(shí)時(shí)性,文中采用滑動(dòng)窗口的方式保存最新的評(píng)價(jià)數(shù)據(jù),每隔一秒觸發(fā)一次評(píng)價(jià),并將評(píng)價(jià)結(jié)果傳輸至ResultPrint Bolt中。

    如圖3所示,Dspout2作為評(píng)價(jià)樣本的數(shù)據(jù)源,向DataPro Bolt發(fā)送數(shù)據(jù),經(jīng)過(guò)DataPro Bolt處理后發(fā)送到負(fù)責(zé)評(píng)價(jià)的Evaluation Bolt中,在Evaluation Bolt中維持一個(gè)固定大小的滑動(dòng)窗口,用于存儲(chǔ)最近的N條評(píng)價(jià)數(shù)據(jù)。每當(dāng)Evaluation Bolt從Tree Spout2中拉取最新的決策樹后,都利用窗口中的樣本對(duì)決策樹進(jìn)行一次評(píng)價(jià),并將評(píng)價(jià)結(jié)果發(fā)送到ResPrint Bolt中,實(shí)現(xiàn)結(jié)果的存儲(chǔ)。

    4 VFDT算法基于Storm的實(shí)現(xiàn)與性能測(cè)試

    文中分別在單機(jī)和集群環(huán)境下,用Java進(jìn)行了VFDT算法的實(shí)現(xiàn),算法運(yùn)行環(huán)境是:

    集群硬件環(huán)境:1個(gè)Nimbus節(jié)點(diǎn),2個(gè)Supervisor節(jié)點(diǎn)。

    集群軟件環(huán)境:操作系統(tǒng)為Centos6.4、JRE1.7.0_ 13、Zookeeper-3.4.6、Storm0.9.1、Kafka2.8.1、redis-2.4.5。

    單機(jī)環(huán)境:eclipse_4.5.0、JRE1.7.0_13、Windows7、2.13 GHz、4 GB內(nèi)存。

    目的是借助流處理平臺(tái)提高VFDT算法的效率。為了驗(yàn)證所設(shè)計(jì)的VFDT算法基于Storm的實(shí)現(xiàn)方案的可行性和有效性,分別測(cè)試了單機(jī)與集群環(huán)境下,基于Storm的VFDT算法分類模塊的吞吐量與分類Bolt (Classification Bolt)的Task線程數(shù)(即并行度)的關(guān)系,以及相同的Task線程數(shù)下數(shù)據(jù)處理時(shí)間與數(shù)據(jù)量的關(guān)系。

    測(cè)試使用的數(shù)據(jù)集是KDD CUP的Nursery數(shù)據(jù)集,屬性個(gè)數(shù)是8,類別屬性取值個(gè)數(shù)是5,基本訓(xùn)練樣本數(shù)量是12 400,通過(guò)復(fù)制得到所需量的分類樣本。

    (1)吞吐量測(cè)試。

    實(shí)驗(yàn)通過(guò)復(fù)制Nursery得到大規(guī)模的分類樣本。單機(jī)與集群環(huán)境下,VFDT分類模塊對(duì)應(yīng)于不同分類線程(Task)數(shù)的吞吐量如圖4所示。

    可以看出,單機(jī)環(huán)境下,Task數(shù)為8時(shí),吞吐量達(dá)到最大,為35 106.7條/s,當(dāng)線程繼續(xù)增加,吞吐量呈現(xiàn)下降趨勢(shì)。集群環(huán)境下,Task數(shù)為8時(shí),吞吐量達(dá)到最大,為88 007.5條/s,當(dāng)線程繼續(xù)增加,吞吐量略呈下降趨勢(shì)。

    (2)數(shù)據(jù)處理時(shí)間測(cè)試。

    圖5對(duì)比了當(dāng)單機(jī)和集群環(huán)境下 Classification Bolt的Task數(shù)為8時(shí),不同數(shù)據(jù)量所需的處理時(shí)間。單機(jī)環(huán)境下,隨著數(shù)據(jù)量的增加,處理時(shí)長(zhǎng)急劇增加;而集群環(huán)境下,隨著數(shù)據(jù)量的增加,處理時(shí)長(zhǎng)緩慢增加。

    (3)測(cè)試結(jié)果分析。

    由圖4以及圖5可以看出,基于 Storm集群的VFDT算法在處理規(guī)模較大的流式數(shù)據(jù)時(shí),吞吐量?jī)?yōu)勢(shì)明顯,對(duì)數(shù)據(jù)量的增加具有較高的承受力。這是由于Storm是將Topology的各個(gè)組件(Spout/Bolt)分配到不同的Executor中,并在多個(gè)Worker中執(zhí)行的。由圖4還可以看出,合理設(shè)定分類Bolt的Task數(shù)可以最大限度發(fā)揮Storm的并行處理能力。

    5 結(jié)束語(yǔ)

    文中將經(jīng)典的流數(shù)據(jù)分類挖掘算法-VFDT部署于流數(shù)據(jù)處理平臺(tái)Storm上,以實(shí)現(xiàn)對(duì)流數(shù)據(jù)的分布式并行化分類。所設(shè)計(jì)的VFDT算法基于Storm的實(shí)現(xiàn)方案按算法功能劃分出建樹模塊、分類模塊和評(píng)價(jià)模塊,其中的分類模塊以并行化方式運(yùn)作;通過(guò)合理配置Storm拓?fù)浜褪褂肦edis與Kafka提高了實(shí)現(xiàn)方案的完整性和可行性?;谠摲桨傅腣FDT算法實(shí)現(xiàn)與性能測(cè)試結(jié)果說(shuō)明了方案的正確性和有效性,也說(shuō)明了基于Storm的VFDT算法對(duì)大規(guī)模流數(shù)據(jù)有良好的適應(yīng)能力。

    [1] 史金成,胡學(xué)鋼.數(shù)據(jù)流挖掘研究[J].計(jì)算機(jī)技術(shù)與發(fā)展,2007,17(11):11-14.

    [2] 顧 偉.分布式流數(shù)據(jù)實(shí)時(shí)計(jì)算框架的研究和開發(fā)[D].杭州:浙江理工大學(xué),2013.

    [3] Gama J,Rocha R,Medas P.Accurate decision trees for mining high-speed data streams[C]//Proceedings of the ninth ACM SIGKDD international conference on knowledge discovery and data mining.[s.l.]:ACM,2003:523-528.

    [4] White T.Hadoop:the definitive guide[M].[s.l.]:O’Reilly Media,Inc.,2012.

    [5] The Apache Foundation.Storm official website[EB/OL]. [2014-04-08].http://storm-project.net.

    [6] Raahemi B,Zhong W,Liu J.Peer-to-peer traffic identification by mining IP layer data streams using concept-adapting very fast decision tree[C]//Proc of 20th IEEE international conference on tools with artificial intelligence.[s.l.]:IEEE,2008:525-532.

    [7] Maron O,Moore A W.Hoeffding races:accelerating model selection search for classification and function approximation [J].Advances in Neural Information Processing Systems,1993,6(1):59-66.

    [8] 王 濤,李舟軍,胡小華,等.一種高效的數(shù)據(jù)流挖掘增量模糊決策樹分類算法[J].計(jì)算機(jī)學(xué)報(bào),2007,30(8):1244-1250.

    [9] Littlestone N.Learning quickly when irrelevant attributes abound:a new linear-threshold algorithm[J].Machine Learning,1988,2(4):285-318.

    [10]蔣良孝,蔡之華,劉 釗.一種基于信息增益的分類規(guī)則挖掘算法[J].中南大學(xué)學(xué)報(bào):自然科學(xué)版,2003,34(z1):69-71.

    [11]Github Inc.Storm Wiki[EB/OL].[2013-12-07].https:// github.com/nathanmarz/storm/wiki.

    [12]Marz N.Storm:distributed and fault-tolerant real time computation[EB/OL].[2011-10-21].https://www.infoq.com/ presentations/Storm-Introduction.

    [13]Petkov V,Gerndt M.Integrating parallel application development with performance analysis in periscope[C]//Proc of IPDPSW.[s.l.]:IEEE,2010:1-8.

    [14]曾泉?jiǎng)?基于Redis的分布式消息服務(wù)的設(shè)計(jì)與實(shí)現(xiàn)[D].北京:北京郵電大學(xué),2014.

    [15]Kreps J,Narkhede N,Rao J.Kafka:a distributed messaging system for log processing[C]//Proceedings of the NetDB. Athens,Greece:[s.n.],2011:1-7.

    Implementation Scheme of VFDT Algorithm on Storm Platform

    ZHANG Fa-yang,LI Ling-juan,CHEN Yu
    (School of Computer,Nanjing University of Posts and Telecommunications,Nanjing 210003,China)

    In order to improve the classification efficiency of the stream data,studies how to implement VFDT algorithm on Storm,a stream data processing platform.A scheme of distributed parallel implementing of VFDT algorithm based on Storm platform is designed. The VFDT algorithm is divided into three modules including building tree module,classification module and evaluation module.The building tree module is responsible for the initializing and incremental building of decision tree,and the classification module for classifying the samples,and the evaluation module for evaluating the VFDT decision tree using the labeled samples.The functions of each module are realized by correctly designing the Spout/Bolt of Storm Topology,and the parallelization of the classification module is implemented by deploying multiple tasks for Classification Bolt.The memory database Redis is used to realize the effective connection of the three modules and the preservation of the decision tree.The message middleware Kafka is used to improve the tolerance of burst stream data.The results of implementing and testing VFDT algorithm based on the proposed scheme show that the classification efficiency of VFDT algorithm under the Storm cluster environment is significantly improved compared with that under the single machine environment,and the classification efficiency can be further improved by reasonably setting the task number in Classification Bolt.

    stream data;Very Fast Decision Tree(VFDT);distribution;parallelization;Storm

    TP311

    A

    1673-629X(2016)09-0192-05

    10.3969/j.issn.1673-629X.2016.09.043

    2015-11-13

    2016-03-03< class="emphasis_bold">網(wǎng)絡(luò)出版時(shí)間:

    時(shí)間:2016-08-23

    國(guó)家自然科學(xué)基金資助項(xiàng)目(61302158,61571238);中興通訊產(chǎn)學(xué)研項(xiàng)目

    張發(fā)揚(yáng)(1990-),男,碩士研究生,CCF會(huì)員,研究方向?yàn)榱鲾?shù)據(jù)挖掘;李玲娟,教授,CCF會(huì)員,研究方向?yàn)閿?shù)據(jù)挖掘、信息安全、分布式計(jì)算。

    http://www.cnki.net/kcms/detail/61.1450.TP.20160823.1359.044.html

    猜你喜歡
    訓(xùn)練樣本決策樹分類
    分類算一算
    人工智能
    一種針對(duì)不均衡數(shù)據(jù)集的SVM決策樹算法
    分類討論求坐標(biāo)
    決策樹和隨機(jī)森林方法在管理決策中的應(yīng)用
    電子制作(2018年16期)2018-09-26 03:27:06
    數(shù)據(jù)分析中的分類討論
    教你一招:數(shù)的分類
    寬帶光譜成像系統(tǒng)最優(yōu)訓(xùn)練樣本選擇方法研究
    融合原始樣本和虛擬樣本的人臉識(shí)別算法
    基于稀疏重構(gòu)的機(jī)載雷達(dá)訓(xùn)練樣本挑選方法
    高清黄色对白视频在线免费看| 久久精品国产综合久久久| 老熟妇乱子伦视频在线观看| 超碰97精品在线观看| 亚洲 国产 在线| 怎么达到女性高潮| 99精品久久久久人妻精品| 一进一出抽搐动态| 欧美一级毛片孕妇| 国产高清国产精品国产三级| 亚洲av片天天在线观看| 又黄又粗又硬又大视频| 九色亚洲精品在线播放| 国产成人欧美| 12—13女人毛片做爰片一| 午夜免费成人在线视频| 啦啦啦免费观看视频1| 精品一品国产午夜福利视频| 亚洲熟妇中文字幕五十中出 | 久久性视频一级片| 麻豆国产av国片精品| x7x7x7水蜜桃| 在线av久久热| 日韩欧美在线二视频| 窝窝影院91人妻| 水蜜桃什么品种好| 亚洲激情在线av| 欧美成人性av电影在线观看| 法律面前人人平等表现在哪些方面| 中文字幕精品免费在线观看视频| 国产真人三级小视频在线观看| 99国产综合亚洲精品| 亚洲人成伊人成综合网2020| 又黄又粗又硬又大视频| 国产高清激情床上av| 久久99一区二区三区| 国产精品亚洲av一区麻豆| 欧美乱码精品一区二区三区| 亚洲精品在线观看二区| 国产亚洲精品久久久久5区| 亚洲少妇的诱惑av| 桃色一区二区三区在线观看| 欧美日韩一级在线毛片| 女人被狂操c到高潮| 国产片内射在线| 在线观看免费高清a一片| 99国产精品一区二区三区| 天堂俺去俺来也www色官网| 亚洲av成人不卡在线观看播放网| 国产不卡一卡二| 少妇被粗大的猛进出69影院| 欧美激情 高清一区二区三区| 午夜福利在线免费观看网站| 1024视频免费在线观看| 免费不卡黄色视频| 中文字幕精品免费在线观看视频| 两个人免费观看高清视频| 免费人成视频x8x8入口观看| 成人影院久久| 九色亚洲精品在线播放| 宅男免费午夜| a在线观看视频网站| 最近最新中文字幕大全电影3 | bbb黄色大片| 黄色毛片三级朝国网站| 欧美日本亚洲视频在线播放| 一夜夜www| 国产单亲对白刺激| 国产精品免费视频内射| 国产黄a三级三级三级人| 国产熟女午夜一区二区三区| 热re99久久国产66热| 亚洲全国av大片| 女生性感内裤真人,穿戴方法视频| 久久香蕉激情| 亚洲欧美一区二区三区久久| av在线播放免费不卡| av网站免费在线观看视频| 午夜成年电影在线免费观看| 亚洲精品一卡2卡三卡4卡5卡| 亚洲激情在线av| 桃红色精品国产亚洲av| 国产99久久九九免费精品| 国产欧美日韩一区二区三区在线| 极品教师在线免费播放| 国产精品亚洲av一区麻豆| 欧美精品啪啪一区二区三区| 在线永久观看黄色视频| 中文欧美无线码| 黄色a级毛片大全视频| 999精品在线视频| 女生性感内裤真人,穿戴方法视频| 无人区码免费观看不卡| 一本综合久久免费| 日韩欧美一区二区三区在线观看| 波多野结衣一区麻豆| 午夜免费鲁丝| 国产精品综合久久久久久久免费 | 久久久精品欧美日韩精品| 国产精品秋霞免费鲁丝片| 亚洲中文日韩欧美视频| 99re在线观看精品视频| 午夜福利在线观看吧| 正在播放国产对白刺激| 久久久久久人人人人人| 日韩三级视频一区二区三区| 欧美黄色淫秽网站| 97人妻天天添夜夜摸| 亚洲视频免费观看视频| 一进一出抽搐动态| 老熟妇乱子伦视频在线观看| 国产午夜精品久久久久久| 国产成人一区二区三区免费视频网站| 中文字幕精品免费在线观看视频| 80岁老熟妇乱子伦牲交| 国产极品粉嫩免费观看在线| 色婷婷久久久亚洲欧美| 亚洲第一青青草原| 人成视频在线观看免费观看| 一级a爱片免费观看的视频| 色老头精品视频在线观看| 欧美精品啪啪一区二区三区| 国产精品综合久久久久久久免费 | 亚洲中文字幕日韩| videosex国产| 婷婷丁香在线五月| 精品一区二区三区视频在线观看免费 | 国内毛片毛片毛片毛片毛片| 日韩欧美在线二视频| 动漫黄色视频在线观看| av在线天堂中文字幕 | 亚洲精品在线观看二区| 1024视频免费在线观看| 99久久99久久久精品蜜桃| 久久久国产欧美日韩av| 18禁裸乳无遮挡免费网站照片 | 一级,二级,三级黄色视频| 国产欧美日韩一区二区精品| 色综合欧美亚洲国产小说| 亚洲av片天天在线观看| 欧美亚洲日本最大视频资源| 精品一区二区三卡| 久久久久国内视频| 亚洲国产欧美网| 美女午夜性视频免费| 麻豆av在线久日| 亚洲在线自拍视频| 女人高潮潮喷娇喘18禁视频| 亚洲一码二码三码区别大吗| 黄色怎么调成土黄色| 久久人人97超碰香蕉20202| 丝袜美腿诱惑在线| 欧美久久黑人一区二区| www.自偷自拍.com| 亚洲国产欧美一区二区综合| 国产激情欧美一区二区| av在线播放免费不卡| 久久九九热精品免费| 免费在线观看日本一区| avwww免费| 成年人黄色毛片网站| 亚洲av成人一区二区三| 在线观看免费视频网站a站| 国产精华一区二区三区| 十八禁网站免费在线| 欧美av亚洲av综合av国产av| 不卡av一区二区三区| 久久久久国产精品人妻aⅴ院| 成人国产一区最新在线观看| 国产免费av片在线观看野外av| 18禁美女被吸乳视频| 性少妇av在线| 国产99久久九九免费精品| 成人特级黄色片久久久久久久| avwww免费| 69av精品久久久久久| 国产97色在线日韩免费| 日日摸夜夜添夜夜添小说| 在线观看免费视频日本深夜| 一区二区日韩欧美中文字幕| 精品国产乱码久久久久久男人| x7x7x7水蜜桃| 国产熟女xx| 97碰自拍视频| 午夜福利在线免费观看网站| 日韩欧美免费精品| 欧美大码av| 天天躁夜夜躁狠狠躁躁| 亚洲aⅴ乱码一区二区在线播放 | 免费高清视频大片| 校园春色视频在线观看| 老熟妇仑乱视频hdxx| 最近最新中文字幕大全免费视频| 美女福利国产在线| 国产精品免费一区二区三区在线| 国产区一区二久久| 国产精品亚洲一级av第二区| 免费高清在线观看日韩| 久久热在线av| 亚洲片人在线观看| 99久久精品国产亚洲精品| 国产精品98久久久久久宅男小说| 久久中文字幕人妻熟女| 99精品在免费线老司机午夜| 欧美午夜高清在线| www国产在线视频色| 夜夜看夜夜爽夜夜摸 | 脱女人内裤的视频| 婷婷六月久久综合丁香| 操美女的视频在线观看| 欧美亚洲日本最大视频资源| 亚洲一码二码三码区别大吗| 亚洲午夜理论影院| 国产精品一区二区三区四区久久 | 亚洲一码二码三码区别大吗| 亚洲午夜理论影院| 天堂动漫精品| 大码成人一级视频| 欧美一区二区精品小视频在线| 男女下面插进去视频免费观看| 人妻丰满熟妇av一区二区三区| 天天影视国产精品| 美女 人体艺术 gogo| 超碰成人久久| 一a级毛片在线观看| 搡老熟女国产l中国老女人| 搡老熟女国产l中国老女人| 自线自在国产av| 91精品三级在线观看| 日本vs欧美在线观看视频| 中文字幕精品免费在线观看视频| 男女午夜视频在线观看| 亚洲精品久久成人aⅴ小说| 国产免费现黄频在线看| 中文欧美无线码| 午夜免费鲁丝| 国产av一区二区精品久久| 性少妇av在线| 大型黄色视频在线免费观看| 一区二区三区精品91| 国产成+人综合+亚洲专区| 日韩欧美三级三区| 成人18禁在线播放| 天天影视国产精品| 夜夜夜夜夜久久久久| 精品国产亚洲在线| 电影成人av| 精品久久久精品久久久| 色综合站精品国产| 国产aⅴ精品一区二区三区波| 国产av在哪里看| 国产精华一区二区三区| 久热爱精品视频在线9| 国产精品av久久久久免费| 久久国产精品人妻蜜桃| 一区福利在线观看| 大码成人一级视频| 久久人人精品亚洲av| 久久久国产成人免费| 9热在线视频观看99| 90打野战视频偷拍视频| 久久国产精品人妻蜜桃| 日韩欧美一区二区三区在线观看| 欧美一级毛片孕妇| 久久久久亚洲av毛片大全| 两性夫妻黄色片| 曰老女人黄片| 性色av乱码一区二区三区2| 脱女人内裤的视频| 中文字幕人妻丝袜一区二区| 欧美另类亚洲清纯唯美| 精品人妻1区二区| 国产av又大| 成年版毛片免费区| 极品教师在线免费播放| 在线国产一区二区在线| 亚洲精品一二三| av网站在线播放免费| 乱人伦中国视频| 一区二区三区精品91| 老熟妇乱子伦视频在线观看| 亚洲av熟女| 丝袜美足系列| 欧美激情极品国产一区二区三区| 精品一区二区三区av网在线观看| 免费av毛片视频| 久久久国产成人精品二区 | tocl精华| 亚洲中文字幕日韩| www.www免费av| 日韩精品中文字幕看吧| 免费女性裸体啪啪无遮挡网站| 久久青草综合色| 亚洲精品一二三| 熟女少妇亚洲综合色aaa.| 国产三级在线视频| 精品无人区乱码1区二区| 国产99白浆流出| 母亲3免费完整高清在线观看| 91在线观看av| 天天添夜夜摸| 色综合婷婷激情| 在线天堂中文资源库| 久久久久精品国产欧美久久久| 国产xxxxx性猛交| x7x7x7水蜜桃| 亚洲精品在线观看二区| 免费在线观看亚洲国产| 亚洲精品在线观看二区| 精品久久久久久电影网| 亚洲av成人不卡在线观看播放网| 热99re8久久精品国产| 国产成人欧美| 欧美人与性动交α欧美精品济南到| 国产精品亚洲一级av第二区| 又大又爽又粗| 日韩视频一区二区在线观看| 欧美大码av| 日韩欧美国产一区二区入口| 日韩欧美一区视频在线观看| 亚洲成人精品中文字幕电影 | 欧美乱妇无乱码| 99国产精品99久久久久| 天天躁狠狠躁夜夜躁狠狠躁| 视频在线观看一区二区三区| 可以在线观看毛片的网站| 亚洲第一av免费看| 91国产中文字幕| 男男h啪啪无遮挡| 亚洲自拍偷在线| 又大又爽又粗| www.熟女人妻精品国产| 免费在线观看视频国产中文字幕亚洲| 久热这里只有精品99| 叶爱在线成人免费视频播放| 中文字幕色久视频| 国产99白浆流出| 黑丝袜美女国产一区| 夜夜躁狠狠躁天天躁| 精品国产美女av久久久久小说| www.精华液| 久久国产精品男人的天堂亚洲| 日本vs欧美在线观看视频| 韩国精品一区二区三区| 一级作爱视频免费观看| 91字幕亚洲| 欧美人与性动交α欧美精品济南到| 精品一区二区三区视频在线观看免费 | 一级片'在线观看视频| 亚洲欧美日韩无卡精品| 中文字幕色久视频| 国产不卡一卡二| 自拍欧美九色日韩亚洲蝌蚪91| 国产成人系列免费观看| 精品欧美一区二区三区在线| 日韩精品免费视频一区二区三区| 国产精品永久免费网站| 亚洲激情在线av| 亚洲精品国产色婷婷电影| 黄色女人牲交| 国产av一区在线观看免费| 一区二区日韩欧美中文字幕| 久久久久精品国产欧美久久久| 国产蜜桃级精品一区二区三区| 亚洲国产中文字幕在线视频| 国产精品久久久人人做人人爽| 午夜成年电影在线免费观看| 久久天堂一区二区三区四区| 人人澡人人妻人| 欧美黑人欧美精品刺激| 一级毛片精品| videosex国产| 成人永久免费在线观看视频| 一夜夜www| 免费日韩欧美在线观看| 日韩av在线大香蕉| av免费在线观看网站| 一个人观看的视频www高清免费观看 | 99久久99久久久精品蜜桃| 亚洲av电影在线进入| 美女福利国产在线| 久久人妻福利社区极品人妻图片| 超碰成人久久| 亚洲国产欧美一区二区综合| 夜夜看夜夜爽夜夜摸 | 九色亚洲精品在线播放| 男人的好看免费观看在线视频 | 97超级碰碰碰精品色视频在线观看| 国产av在哪里看| 久久久久久亚洲精品国产蜜桃av| 亚洲国产毛片av蜜桃av| 校园春色视频在线观看| 午夜免费观看网址| 一级毛片女人18水好多| 女生性感内裤真人,穿戴方法视频| 黄色毛片三级朝国网站| 99国产综合亚洲精品| 午夜日韩欧美国产| 两个人免费观看高清视频| 欧美激情极品国产一区二区三区| 午夜福利在线免费观看网站| 午夜久久久在线观看| 99久久人妻综合| 欧美成狂野欧美在线观看| 午夜激情av网站| 极品教师在线免费播放| 色尼玛亚洲综合影院| 日韩欧美国产一区二区入口| 欧美日韩一级在线毛片| av天堂在线播放| 久久久国产成人精品二区 | 老司机午夜十八禁免费视频| 亚洲自拍偷在线| 欧美成人免费av一区二区三区| 国产又色又爽无遮挡免费看| 成人影院久久| 在线天堂中文资源库| 91精品国产国语对白视频| 成在线人永久免费视频| 老司机亚洲免费影院| 日韩av在线大香蕉| 成人特级黄色片久久久久久久| 99在线视频只有这里精品首页| 亚洲 国产 在线| 两人在一起打扑克的视频| 一级a爱片免费观看的视频| 亚洲国产中文字幕在线视频| 深夜精品福利| 一级毛片高清免费大全| 性色av乱码一区二区三区2| 手机成人av网站| 最近最新免费中文字幕在线| 久久婷婷成人综合色麻豆| 视频区图区小说| 亚洲成人免费av在线播放| 一级片'在线观看视频| 新久久久久国产一级毛片| 制服诱惑二区| 国产精品一区二区精品视频观看| 黄色视频,在线免费观看| 精品国内亚洲2022精品成人| 国产91精品成人一区二区三区| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲精品一区av在线观看| 99热国产这里只有精品6| 亚洲欧美激情在线| 国产精品av久久久久免费| xxxhd国产人妻xxx| 18禁国产床啪视频网站| 久久久久国产一级毛片高清牌| 伊人久久大香线蕉亚洲五| 欧美成狂野欧美在线观看| 变态另类成人亚洲欧美熟女 | 亚洲aⅴ乱码一区二区在线播放 | 精品久久蜜臀av无| 国产av在哪里看| 亚洲欧美精品综合久久99| 国产精品国产av在线观看| 人妻丰满熟妇av一区二区三区| 成人亚洲精品一区在线观看| 一级毛片精品| 亚洲第一青青草原| 色综合欧美亚洲国产小说| 亚洲伊人色综图| 免费在线观看黄色视频的| 亚洲 欧美 日韩 在线 免费| 欧美日韩亚洲国产一区二区在线观看| 新久久久久国产一级毛片| 免费在线观看黄色视频的| 超碰97精品在线观看| 久久亚洲真实| 欧美乱色亚洲激情| 欧美日韩中文字幕国产精品一区二区三区 | 久久久水蜜桃国产精品网| 国产精品一区二区免费欧美| 久热这里只有精品99| 亚洲精品国产一区二区精华液| 村上凉子中文字幕在线| av福利片在线| 少妇粗大呻吟视频| 国产精品成人在线| 少妇 在线观看| 日韩人妻精品一区2区三区| 激情在线观看视频在线高清| 久久中文字幕一级| 国产成人精品久久二区二区免费| 天堂√8在线中文| 精品国产乱子伦一区二区三区| 欧美日韩中文字幕国产精品一区二区三区 | 久久青草综合色| 亚洲九九香蕉| 久热爱精品视频在线9| 中文字幕人妻熟女乱码| 久久国产乱子伦精品免费另类| 在线播放国产精品三级| 国产一区二区激情短视频| 热99国产精品久久久久久7| 男人的好看免费观看在线视频 | 欧洲精品卡2卡3卡4卡5卡区| 亚洲精品美女久久久久99蜜臀| 精品久久久精品久久久| 又大又爽又粗| 久久久久亚洲av毛片大全| 欧美中文综合在线视频| 国产一区二区三区综合在线观看| 欧美 亚洲 国产 日韩一| 男人的好看免费观看在线视频 | 男女高潮啪啪啪动态图| 亚洲av日韩精品久久久久久密| 亚洲一区中文字幕在线| tocl精华| 在线观看一区二区三区激情| 黄色a级毛片大全视频| 久久人妻福利社区极品人妻图片| 亚洲熟女毛片儿| 日本vs欧美在线观看视频| 在线永久观看黄色视频| 亚洲av片天天在线观看| 麻豆av在线久日| 欧美+亚洲+日韩+国产| 午夜久久久在线观看| 欧美激情极品国产一区二区三区| 国产精品国产高清国产av| 成年人黄色毛片网站| 亚洲自拍偷在线| 两个人看的免费小视频| 免费观看人在逋| 国产亚洲精品久久久久久毛片| 美女 人体艺术 gogo| 两个人免费观看高清视频| 91精品国产国语对白视频| 精品福利永久在线观看| 纯流量卡能插随身wifi吗| 自拍欧美九色日韩亚洲蝌蚪91| www.999成人在线观看| 久久精品亚洲精品国产色婷小说| 国产色视频综合| 亚洲欧美日韩无卡精品| 午夜免费鲁丝| 亚洲av熟女| 99久久久亚洲精品蜜臀av| 老司机福利观看| 亚洲精品美女久久久久99蜜臀| 国产精品乱码一区二三区的特点 | 亚洲色图综合在线观看| 人成视频在线观看免费观看| 纯流量卡能插随身wifi吗| 午夜久久久在线观看| videosex国产| 侵犯人妻中文字幕一二三四区| 热99re8久久精品国产| 国产免费av片在线观看野外av| 色综合婷婷激情| 视频在线观看一区二区三区| 最好的美女福利视频网| 9色porny在线观看| а√天堂www在线а√下载| 色哟哟哟哟哟哟| 成熟少妇高潮喷水视频| 国产精品日韩av在线免费观看 | 在线永久观看黄色视频| 91九色精品人成在线观看| a在线观看视频网站| 亚洲成人精品中文字幕电影 | 国产蜜桃级精品一区二区三区| 亚洲av成人一区二区三| 男人的好看免费观看在线视频 | 黑人欧美特级aaaaaa片| 日本免费a在线| 不卡一级毛片| 熟女少妇亚洲综合色aaa.| 久久久国产精品麻豆| 久久国产精品影院| 在线av久久热| 久久久水蜜桃国产精品网| 国产乱人伦免费视频| 老司机午夜十八禁免费视频| 99热只有精品国产| 欧美人与性动交α欧美软件| 久久香蕉激情| 黄色女人牲交| 成人永久免费在线观看视频| 国产av又大| 在线观看免费视频网站a站| 亚洲午夜理论影院| 国产色视频综合| 巨乳人妻的诱惑在线观看| 久久青草综合色| 色精品久久人妻99蜜桃| 亚洲美女黄片视频| 亚洲 欧美一区二区三区| 夜夜爽天天搞| 欧美日本亚洲视频在线播放| 怎么达到女性高潮| 亚洲五月天丁香| 日本五十路高清| 精品久久久久久久久久免费视频 | 亚洲国产欧美网| 男人的好看免费观看在线视频 | 亚洲精品久久午夜乱码| 日韩av在线大香蕉| 女人高潮潮喷娇喘18禁视频| 精品国产乱子伦一区二区三区| 交换朋友夫妻互换小说| 亚洲av成人不卡在线观看播放网| 久久热在线av| 交换朋友夫妻互换小说| 亚洲伊人色综图| 亚洲在线自拍视频| 母亲3免费完整高清在线观看| 女人高潮潮喷娇喘18禁视频| 精品国产乱子伦一区二区三区| a级毛片在线看网站| 日韩成人在线观看一区二区三区| 丁香六月欧美|