• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    VFDT算法基于Storm平臺(tái)的實(shí)現(xiàn)方案

    2016-03-01 09:00:22張發(fā)揚(yáng)李玲娟
    關(guān)鍵詞:訓(xùn)練樣本決策樹分類

    張發(fā)揚(yáng),李玲娟,陳 煜

    (南京郵電大學(xué)計(jì)算機(jī)學(xué)院,江蘇南京 210003)

    VFDT算法基于Storm平臺(tái)的實(shí)現(xiàn)方案

    張發(fā)揚(yáng),李玲娟,陳 煜

    (南京郵電大學(xué)計(jì)算機(jī)學(xué)院,江蘇南京 210003)

    以提升流數(shù)據(jù)的分類效率為目標(biāo),研究如何在流數(shù)據(jù)處理平臺(tái)Storm上實(shí)現(xiàn)快速?zèng)Q策樹算法-VFDT。設(shè)計(jì)了VFDT基于Storm的分布式并行化實(shí)現(xiàn)方案,將VFDT算法分為建樹、分類和評(píng)價(jià)共三個(gè)模塊,建樹模塊負(fù)責(zé)決策樹的初始化和增量建樹,分類模塊負(fù)責(zé)對(duì)待分類樣本進(jìn)行分類標(biāo)記,評(píng)價(jià)模塊負(fù)責(zé)用已標(biāo)記的樣本對(duì)VFDT決策樹進(jìn)行評(píng)價(jià)。通過(guò)正確設(shè)計(jì)Storm拓?fù)渲械腟pout/Bolt實(shí)現(xiàn)各模塊的功能,通過(guò)為分類Bolt設(shè)定多個(gè)Task來(lái)實(shí)現(xiàn)分類模塊的并行化;用內(nèi)存數(shù)據(jù)庫(kù)Redis實(shí)現(xiàn)三個(gè)模塊的有效銜接和決策樹的保存;用消息中間件Kafka來(lái)提高算法對(duì)流數(shù)據(jù)突增的容忍度?;谠摲桨傅腣FDT算法實(shí)現(xiàn)與測(cè)試結(jié)果表明:在Storm集群環(huán)境下的VFDT算法分類效率相對(duì)于單機(jī)環(huán)境有顯著提高,而且合理設(shè)定分類Bolt的Task數(shù)可使分類效率進(jìn)一步提高。

    流數(shù)據(jù);快速?zèng)Q策樹算法;分布式;并行化;Storm

    0 引言

    20世紀(jì)末,為適應(yīng)網(wǎng)絡(luò)監(jiān)控、入侵檢測(cè)、情報(bào)分析、商業(yè)交易管理和分析等應(yīng)用的要求,數(shù)據(jù)流技術(shù)應(yīng)運(yùn)而生[1]。數(shù)據(jù)流中的數(shù)據(jù)(即流數(shù)據(jù))是有序的、連續(xù)的且不斷變化的,甚至是無(wú)限的[2],不能像傳統(tǒng)的靜態(tài)數(shù)據(jù)一樣將其存儲(chǔ)在硬盤或者內(nèi)存之中,即再次處理這些數(shù)據(jù)的代價(jià)將非常昂貴。

    流數(shù)據(jù)挖掘是指從快速、大量、連續(xù)的數(shù)據(jù)流中挖掘出有價(jià)值的信息。數(shù)據(jù)流具有快速、連續(xù)、大量的特點(diǎn),傳統(tǒng)數(shù)據(jù)挖掘(Data Mining,DM)算法難以對(duì)流數(shù)據(jù)進(jìn)行有效的挖掘。對(duì)于流數(shù)據(jù),它的搜集和挖掘過(guò)程必須同時(shí)進(jìn)行,且必須以最快的速度從不斷到來(lái)的數(shù)據(jù)中挖掘出用戶所需要的信息。傳統(tǒng)的靜態(tài)數(shù)據(jù)挖掘通常能滿足數(shù)據(jù)分析處理的精確性要求,但是,對(duì)流數(shù)據(jù)而言,由于數(shù)據(jù)收集的時(shí)間和處理速度有限,因此得到的挖掘模型是近似結(jié)果。流數(shù)據(jù)挖掘結(jié)果的近似性是其不同于傳統(tǒng)數(shù)據(jù)挖掘的一個(gè)重要特點(diǎn)。

    分類挖掘是數(shù)據(jù)挖掘的主要任務(wù)之一,決策樹算法是分類挖掘的一類主流算法。VFDT(Very Fast Decision Tree)算法[3]是經(jīng)典的流分類算法之一。VFDT在假設(shè)數(shù)據(jù)流不發(fā)生概念漂移的情況下對(duì)持續(xù)不斷的數(shù)據(jù)流進(jìn)行增量學(xué)習(xí),能夠很好地適應(yīng)流數(shù)據(jù)的分類。VFDT算法可以使每條訓(xùn)練樣本的處理花費(fèi)恒定的內(nèi)存和時(shí)間,因此可以有效解決時(shí)間和內(nèi)存的限制問(wèn)題。該算法通過(guò)最初的少量樣本生成隨時(shí)可用的分類器,并可隨著訓(xùn)練樣本的到來(lái),對(duì)原有分類器進(jìn)行增量更新,不斷優(yōu)化原始決策樹,即VFDT算法以增量的形式,通過(guò)不斷地將葉子節(jié)點(diǎn)替換為決策節(jié)點(diǎn)而生成決策樹。

    與傳統(tǒng)的靜態(tài)大數(shù)據(jù)處理平臺(tái)Hadoop[4]不同,Storm是開源的流數(shù)據(jù)處理框架[5],能夠高效可靠地處理源源不斷的數(shù)據(jù)流。流挖掘算法運(yùn)行于數(shù)據(jù)流處理平臺(tái)是充分發(fā)揮算法效力的前提。為此,文中研究如何將VFDT算法部署到Storm平臺(tái)上進(jìn)行分布式并行化實(shí)現(xiàn),以提高VFDT算法對(duì)流數(shù)據(jù)的分類效率。

    1 VFDT算法分析

    VFDT算法是通過(guò)對(duì)Hoeffding樹改進(jìn)而實(shí)現(xiàn)的。Hoeffding樹是通過(guò)不斷地將葉子節(jié)點(diǎn)轉(zhuǎn)換為內(nèi)部節(jié)點(diǎn)而生成的,其中每個(gè)葉節(jié)點(diǎn)都存有關(guān)于屬性值的統(tǒng)計(jì)信息,這些統(tǒng)計(jì)信息用于計(jì)算屬性的信息增益。當(dāng)數(shù)據(jù)流中一個(gè)新的樣本到來(lái)后,該樣本沿著決策樹從上到下遍歷,樹的每個(gè)內(nèi)部節(jié)點(diǎn)都對(duì)其進(jìn)行劃分測(cè)試,根據(jù)不同的屬性取值,樣本進(jìn)入不同的分枝,最終到達(dá)樹的葉節(jié)點(diǎn)。當(dāng)數(shù)據(jù)到達(dá)葉節(jié)點(diǎn)后,更新該葉節(jié)點(diǎn)上的統(tǒng)計(jì)信息。如果統(tǒng)計(jì)信息的計(jì)算結(jié)果滿足節(jié)點(diǎn)分裂條件,則該葉節(jié)點(diǎn)變?yōu)閮?nèi)部節(jié)點(diǎn),并產(chǎn)生基于該內(nèi)部節(jié)點(diǎn)的子女葉節(jié)點(diǎn)。子女葉節(jié)點(diǎn)的個(gè)數(shù)取決于新的內(nèi)部節(jié)點(diǎn)的屬性的可能取值數(shù)目。

    VFDT算法采用信息熵或者Gini指標(biāo)作為選擇分裂屬性的標(biāo)準(zhǔn),以Hoeffding不等式作為判定節(jié)點(diǎn)分裂的條件。選擇Hoeffding不等式作為節(jié)點(diǎn)分裂條件的目的是確定葉子節(jié)點(diǎn)變?yōu)閮?nèi)部節(jié)點(diǎn)所需要的樣本數(shù)目,以達(dá)到使用盡量少的樣本建立準(zhǔn)確率較高的決策樹的目的。

    以t作時(shí)間戳,xt表示t時(shí)刻到達(dá)的數(shù)據(jù)向量,數(shù)據(jù)流可表示為{…,xt-1,xt,xt+1,…}[6]。VFDT算法的有關(guān)定義如下:

    (1)信息增益[7]:葉子節(jié)點(diǎn)l中存儲(chǔ)訓(xùn)練樣本集D的統(tǒng)計(jì)信息,則對(duì)于樣本集D分類所需的期望信息為Info(D)=-pilog2(pi)。其中,pi是樣本集D中任意一條樣本屬于類Ci的概率,pi= Ci,D/D,m是類別屬性的取值個(gè)數(shù)。對(duì)于葉子節(jié)點(diǎn)可能的分裂屬性A,設(shè)A有v個(gè)取值,則利用屬性A對(duì)樣本集D進(jìn)行劃分的期望信息為InfoA(D)=-,屬性A的信息增益為Gain(A)=Info(D)-InfoA(D)。

    (2)Hoeffding邊界[8-9]:對(duì)一個(gè)真值隨機(jī)變量r∈R,設(shè)對(duì) r取了 n個(gè)獨(dú)立的觀察值,平均值為 r-,其Hoeffding約束以1-δ的概率保證變量r的真實(shí)值與觀察值r-之差小于ε,即:P(r≥r--ε)=1-δ。其中,ε,r代表信息增益,R的取值范圍是log2#Classes(Classes是類別屬性取值的數(shù)量)。

    (3)主動(dòng)分裂系數(shù)τ[10]:τ的作用在于當(dāng)幾個(gè)屬性的信息增益值G幾乎相等時(shí),可能需要更多的樣本來(lái)決定出葉子節(jié)點(diǎn)的決策屬性,通過(guò)設(shè)定τ值來(lái)主動(dòng)選擇屬性并實(shí)現(xiàn)葉子節(jié)點(diǎn)分裂。當(dāng)滿足ΔG<ε<τ時(shí),選擇ΔG中信息增益最大或者次大的屬性作為該葉子節(jié)點(diǎn)的決策屬性。

    VFDT算法的建樹流程如圖1所示。

    概括地說(shuō),一條訓(xùn)練樣本是一個(gè)Tuple,即一條流,樣本中各屬性的元素與初始化階段抽取的屬性信息保持一致,通過(guò)分析流的非類別屬性與類別屬性的關(guān)系建立一棵決策樹。增量建樹過(guò)程就是不斷將葉子節(jié)點(diǎn)轉(zhuǎn)化為內(nèi)部節(jié)點(diǎn)的過(guò)程,其中每個(gè)葉子節(jié)點(diǎn)都將保存有關(guān)節(jié)點(diǎn)分裂的統(tǒng)計(jì)信息。當(dāng)一個(gè)訓(xùn)練樣本到達(dá)之后,從根節(jié)點(diǎn)開始,根據(jù)該節(jié)點(diǎn)的屬性取值進(jìn)入不同的分支,以此過(guò)程進(jìn)行遞歸直至到達(dá)葉子節(jié)點(diǎn)。到達(dá)葉節(jié)點(diǎn)之后將對(duì)葉子節(jié)點(diǎn)的統(tǒng)計(jì)信息進(jìn)行更新,當(dāng)統(tǒng)計(jì)值滿足計(jì)算的閾值時(shí)將觸發(fā)計(jì)算各可能屬性的信息增益以及Hoeffding邊界值,若滿足節(jié)點(diǎn)分裂的條件,則將該葉子節(jié)點(diǎn)轉(zhuǎn)化為內(nèi)部節(jié)點(diǎn),并根據(jù)決策屬性的取值產(chǎn)生新的葉子節(jié)點(diǎn)。

    2 Storm平臺(tái)

    Apache Storm是由Twitter公司開源的分布式實(shí)時(shí)計(jì)算系統(tǒng)。與Hadoop的批處理相比,Storm具有更好的實(shí)時(shí)性、可拓展性和容錯(cuò)性,能有效地處理流數(shù)據(jù),被廣泛用于實(shí)時(shí)分析、在線機(jī)器學(xué)習(xí)等場(chǎng)景[11]。

    圖1 VFDT算法的建樹流程

    在Storm內(nèi)部,數(shù)據(jù)流是由拓?fù)?Topology)來(lái)處理的。拓?fù)浒琒pout、數(shù)據(jù)源以及Bolt[12]。Bolt是拓?fù)涞囊粋€(gè)重要實(shí)體,負(fù)責(zé)數(shù)據(jù)流動(dòng)轉(zhuǎn)換,比如計(jì)算、過(guò)濾、聚合以及機(jī)器學(xué)習(xí)等。一個(gè)拓?fù)淇梢杂幸粋€(gè)或者多個(gè)Bolt實(shí)現(xiàn)數(shù)據(jù)流的復(fù)雜流轉(zhuǎn)。

    Storm集群的基本架構(gòu)如圖2所示,主要包括兩種節(jié)點(diǎn):主節(jié)點(diǎn)Nimbus(Master Node)以及工作節(jié)點(diǎn)Supervisor(Worker Node)。其中,Nimbus既負(fù)責(zé)將代碼分發(fā)到不同的工作節(jié)點(diǎn),又負(fù)責(zé)監(jiān)控集群。在每個(gè)工作節(jié)點(diǎn)上都會(huì)運(yùn)行一個(gè)Supervisor,負(fù)責(zé)監(jiān)聽Nimbus分配給該節(jié)點(diǎn)的工作[13]。每個(gè)Worker進(jìn)程執(zhí)行一個(gè)具體的Topology,Worker中的執(zhí)行線程為Executor,每個(gè)Executor中又包含一個(gè)或者多個(gè)Task,Task為Storm的最小處理單元。一個(gè)運(yùn)行中的Topology是由運(yùn)行在一臺(tái)或者多臺(tái)工作節(jié)點(diǎn)上的Worker來(lái)完成具體的業(yè)務(wù)操作。Nimbus與Supervisor之間的通信由Zookeeper來(lái)完成。

    圖2 Storm集群的基本架構(gòu)

    3 VFDT算法基于Storm的實(shí)現(xiàn)方案設(shè)計(jì)

    文中設(shè)計(jì)的VFDT基于Storm的分布式并行化實(shí)現(xiàn)方案,將VFDT算法分為建樹、分類和評(píng)價(jià)共三個(gè)模塊,建樹模塊負(fù)責(zé)決策樹的初始化和增量建樹,分類模塊負(fù)責(zé)對(duì)待分類樣本進(jìn)行分類標(biāo)記,評(píng)價(jià)模塊負(fù)責(zé)用已標(biāo)記樣本對(duì)VFDT決策樹進(jìn)行評(píng)價(jià)。各模塊都有相應(yīng)的Topology,如圖3所示。三個(gè)模塊之間通過(guò)內(nèi)存數(shù)據(jù)庫(kù)Redis[14]實(shí)現(xiàn)銜接,從而形成一個(gè)整體的計(jì)算框架,Redis也用于決策樹的保存;消息中間件Kafka[15]用來(lái)提高算法對(duì)流數(shù)據(jù)突增情況的容忍度。

    圖中的TraData表示外部數(shù)據(jù)源,為建樹模塊提供訓(xùn)練樣本;Dspout1作為建樹拓?fù)涞臄?shù)據(jù)源從TraData中拉取數(shù)據(jù)并傳遞給其他數(shù)據(jù)處理Bolt;DataPro Bolt主要工作是對(duì)訓(xùn)練樣本進(jìn)行初始化,并將其轉(zhuǎn)換成算法所需要的類;VFDT Bolt接收樣本,并利用訓(xùn)練樣本進(jìn)行決策樹的增量建立;VFDTPrint Bolt接收增量建立的決策樹,并將決策樹進(jìn)行序列化存儲(chǔ)到Redis數(shù)據(jù)庫(kù)中;ClaData表示外部數(shù)據(jù)源,為分類模塊提供待分類樣本;Kafka是消息中間件,訂閱ClaData中的樣本,同時(shí)供分類模塊進(jìn)行消費(fèi);KafkaSpout作為分類拓?fù)涞臄?shù)據(jù)源,接收Kafka中的待分類樣本,并將樣本進(jìn)行分發(fā);Tree Spout1表示拓?fù)涞臎Q策樹數(shù)據(jù)源,從Redis中實(shí)時(shí)獲取決策樹并進(jìn)行分發(fā);Classification Bolt將利用Tree Spout1傳遞到?jīng)Q策樹對(duì)待分類樣本進(jìn)行分類; InstPrint Bolt主要是對(duì)標(biāo)記好的樣本進(jìn)行存儲(chǔ);EvaData表示外部數(shù)據(jù)源,為評(píng)價(jià)模塊提供評(píng)價(jià)樣本;Tree Spout2的功能與Tree Spout1一致;Evaluation Bolt利用EvaData對(duì)Tree Spout2中的決策樹進(jìn)行評(píng)價(jià);ResPrint Bolt將對(duì)評(píng)價(jià)結(jié)果進(jìn)行存儲(chǔ)。

    (1)建樹模塊。

    如前所述,建樹模塊主要負(fù)責(zé)決策樹的初始化以及決策樹的增量建立。初始化的過(guò)程主要包括數(shù)據(jù)集屬性信息的抽取以及根節(jié)點(diǎn)的建立。決策樹的增量建立過(guò)程包括讀入訓(xùn)練樣本集和基于圖1所示的流程建立決策樹。如圖3所示,DSpout1作為訓(xùn)練樣本的數(shù)據(jù)源,不斷向負(fù)責(zé)數(shù)據(jù)預(yù)處理的DataPro Bolt發(fā)送訓(xùn)練樣本,DataPro Bolt將訓(xùn)練樣本處理成算法需要的類,并將其傳遞到負(fù)責(zé)建樹的VFDT Bolt中,VFDT Bolt將調(diào)用VFDT插入樣本的方法實(shí)現(xiàn)決策樹的動(dòng)態(tài)更新,最后將VFDT決策樹傳遞到VFDTPrint Bolt中實(shí)現(xiàn)決策樹的序列化并存儲(chǔ)到Redis中。

    (2)分類模塊。

    分類模塊的主要功能是完成對(duì)待分類樣本的標(biāo)記工作??紤]到待分類樣本數(shù)量大且源源不斷地到來(lái),當(dāng)數(shù)據(jù)源突然增加時(shí),有可能導(dǎo)致算法在Storm上并發(fā)度不足而引起異常,文中使用了消息中間件Kafka做數(shù)據(jù)暫存區(qū)。Kakfa具有高性能、高拓展性、分布式及持久性,當(dāng)數(shù)據(jù)源突然增加時(shí)可以將部分?jǐn)?shù)據(jù)持久化至硬盤中去,不至于造成數(shù)據(jù)的丟失[15]。為保證分類模塊的拓?fù)淠軌虮3州^高的數(shù)據(jù)吞吐量,文中將該模塊中的數(shù)據(jù)預(yù)處理DataPro Bolt以及對(duì)待分類樣本進(jìn)行分類的Classification Bolt的Task都設(shè)置為多個(gè),以提高處理的并發(fā)度。

    如圖3所示,DataPro Bolt使用Shuffle Grouping(隨機(jī)分組)的流分組方式從KafkaSpout中拉取數(shù)據(jù),使得該Bolt的多個(gè)Tasks中的每個(gè)Task處理的樣本數(shù)目大致相同。Classification Bolt同樣采用Shuffle Grouping的方式使該Bolt中每個(gè)Task能夠平均處理數(shù)據(jù)。為了使該Bolt中的每個(gè)Task可以取到相同的決策樹,這部分還采用All Grouping(廣播分組)方式從負(fù)責(zé)由Redis內(nèi)存數(shù)據(jù)庫(kù)中實(shí)時(shí)獲取 VFDT決策樹的 Tree Spout1中拉取決策樹。最后對(duì)Classification Bolt中標(biāo)記過(guò)的待分類樣本采用Global Grouping(全局分組)的方式發(fā)送到InstancePrint Bolt中。

    其中,Classification Bolt中利用決策樹VFDTTree對(duì)待分類樣本 ClaData進(jìn)行分類的偽代碼如算法1所示。

    (3)評(píng)價(jià)模塊。

    評(píng)價(jià)模塊的主要功能是利用已標(biāo)記的評(píng)價(jià)樣本實(shí)現(xiàn)對(duì)實(shí)時(shí)傳遞過(guò)來(lái)的VFDT決策樹的評(píng)價(jià)。為了保證評(píng)價(jià)樣本的實(shí)時(shí)性,文中采用滑動(dòng)窗口的方式保存最新的評(píng)價(jià)數(shù)據(jù),每隔一秒觸發(fā)一次評(píng)價(jià),并將評(píng)價(jià)結(jié)果傳輸至ResultPrint Bolt中。

    如圖3所示,Dspout2作為評(píng)價(jià)樣本的數(shù)據(jù)源,向DataPro Bolt發(fā)送數(shù)據(jù),經(jīng)過(guò)DataPro Bolt處理后發(fā)送到負(fù)責(zé)評(píng)價(jià)的Evaluation Bolt中,在Evaluation Bolt中維持一個(gè)固定大小的滑動(dòng)窗口,用于存儲(chǔ)最近的N條評(píng)價(jià)數(shù)據(jù)。每當(dāng)Evaluation Bolt從Tree Spout2中拉取最新的決策樹后,都利用窗口中的樣本對(duì)決策樹進(jìn)行一次評(píng)價(jià),并將評(píng)價(jià)結(jié)果發(fā)送到ResPrint Bolt中,實(shí)現(xiàn)結(jié)果的存儲(chǔ)。

    4 VFDT算法基于Storm的實(shí)現(xiàn)與性能測(cè)試

    文中分別在單機(jī)和集群環(huán)境下,用Java進(jìn)行了VFDT算法的實(shí)現(xiàn),算法運(yùn)行環(huán)境是:

    集群硬件環(huán)境:1個(gè)Nimbus節(jié)點(diǎn),2個(gè)Supervisor節(jié)點(diǎn)。

    集群軟件環(huán)境:操作系統(tǒng)為Centos6.4、JRE1.7.0_ 13、Zookeeper-3.4.6、Storm0.9.1、Kafka2.8.1、redis-2.4.5。

    單機(jī)環(huán)境:eclipse_4.5.0、JRE1.7.0_13、Windows7、2.13 GHz、4 GB內(nèi)存。

    目的是借助流處理平臺(tái)提高VFDT算法的效率。為了驗(yàn)證所設(shè)計(jì)的VFDT算法基于Storm的實(shí)現(xiàn)方案的可行性和有效性,分別測(cè)試了單機(jī)與集群環(huán)境下,基于Storm的VFDT算法分類模塊的吞吐量與分類Bolt (Classification Bolt)的Task線程數(shù)(即并行度)的關(guān)系,以及相同的Task線程數(shù)下數(shù)據(jù)處理時(shí)間與數(shù)據(jù)量的關(guān)系。

    測(cè)試使用的數(shù)據(jù)集是KDD CUP的Nursery數(shù)據(jù)集,屬性個(gè)數(shù)是8,類別屬性取值個(gè)數(shù)是5,基本訓(xùn)練樣本數(shù)量是12 400,通過(guò)復(fù)制得到所需量的分類樣本。

    (1)吞吐量測(cè)試。

    實(shí)驗(yàn)通過(guò)復(fù)制Nursery得到大規(guī)模的分類樣本。單機(jī)與集群環(huán)境下,VFDT分類模塊對(duì)應(yīng)于不同分類線程(Task)數(shù)的吞吐量如圖4所示。

    可以看出,單機(jī)環(huán)境下,Task數(shù)為8時(shí),吞吐量達(dá)到最大,為35 106.7條/s,當(dāng)線程繼續(xù)增加,吞吐量呈現(xiàn)下降趨勢(shì)。集群環(huán)境下,Task數(shù)為8時(shí),吞吐量達(dá)到最大,為88 007.5條/s,當(dāng)線程繼續(xù)增加,吞吐量略呈下降趨勢(shì)。

    (2)數(shù)據(jù)處理時(shí)間測(cè)試。

    圖5對(duì)比了當(dāng)單機(jī)和集群環(huán)境下 Classification Bolt的Task數(shù)為8時(shí),不同數(shù)據(jù)量所需的處理時(shí)間。單機(jī)環(huán)境下,隨著數(shù)據(jù)量的增加,處理時(shí)長(zhǎng)急劇增加;而集群環(huán)境下,隨著數(shù)據(jù)量的增加,處理時(shí)長(zhǎng)緩慢增加。

    (3)測(cè)試結(jié)果分析。

    由圖4以及圖5可以看出,基于 Storm集群的VFDT算法在處理規(guī)模較大的流式數(shù)據(jù)時(shí),吞吐量?jī)?yōu)勢(shì)明顯,對(duì)數(shù)據(jù)量的增加具有較高的承受力。這是由于Storm是將Topology的各個(gè)組件(Spout/Bolt)分配到不同的Executor中,并在多個(gè)Worker中執(zhí)行的。由圖4還可以看出,合理設(shè)定分類Bolt的Task數(shù)可以最大限度發(fā)揮Storm的并行處理能力。

    5 結(jié)束語(yǔ)

    文中將經(jīng)典的流數(shù)據(jù)分類挖掘算法-VFDT部署于流數(shù)據(jù)處理平臺(tái)Storm上,以實(shí)現(xiàn)對(duì)流數(shù)據(jù)的分布式并行化分類。所設(shè)計(jì)的VFDT算法基于Storm的實(shí)現(xiàn)方案按算法功能劃分出建樹模塊、分類模塊和評(píng)價(jià)模塊,其中的分類模塊以并行化方式運(yùn)作;通過(guò)合理配置Storm拓?fù)浜褪褂肦edis與Kafka提高了實(shí)現(xiàn)方案的完整性和可行性?;谠摲桨傅腣FDT算法實(shí)現(xiàn)與性能測(cè)試結(jié)果說(shuō)明了方案的正確性和有效性,也說(shuō)明了基于Storm的VFDT算法對(duì)大規(guī)模流數(shù)據(jù)有良好的適應(yīng)能力。

    [1] 史金成,胡學(xué)鋼.數(shù)據(jù)流挖掘研究[J].計(jì)算機(jī)技術(shù)與發(fā)展,2007,17(11):11-14.

    [2] 顧 偉.分布式流數(shù)據(jù)實(shí)時(shí)計(jì)算框架的研究和開發(fā)[D].杭州:浙江理工大學(xué),2013.

    [3] Gama J,Rocha R,Medas P.Accurate decision trees for mining high-speed data streams[C]//Proceedings of the ninth ACM SIGKDD international conference on knowledge discovery and data mining.[s.l.]:ACM,2003:523-528.

    [4] White T.Hadoop:the definitive guide[M].[s.l.]:O’Reilly Media,Inc.,2012.

    [5] The Apache Foundation.Storm official website[EB/OL]. [2014-04-08].http://storm-project.net.

    [6] Raahemi B,Zhong W,Liu J.Peer-to-peer traffic identification by mining IP layer data streams using concept-adapting very fast decision tree[C]//Proc of 20th IEEE international conference on tools with artificial intelligence.[s.l.]:IEEE,2008:525-532.

    [7] Maron O,Moore A W.Hoeffding races:accelerating model selection search for classification and function approximation [J].Advances in Neural Information Processing Systems,1993,6(1):59-66.

    [8] 王 濤,李舟軍,胡小華,等.一種高效的數(shù)據(jù)流挖掘增量模糊決策樹分類算法[J].計(jì)算機(jī)學(xué)報(bào),2007,30(8):1244-1250.

    [9] Littlestone N.Learning quickly when irrelevant attributes abound:a new linear-threshold algorithm[J].Machine Learning,1988,2(4):285-318.

    [10]蔣良孝,蔡之華,劉 釗.一種基于信息增益的分類規(guī)則挖掘算法[J].中南大學(xué)學(xué)報(bào):自然科學(xué)版,2003,34(z1):69-71.

    [11]Github Inc.Storm Wiki[EB/OL].[2013-12-07].https:// github.com/nathanmarz/storm/wiki.

    [12]Marz N.Storm:distributed and fault-tolerant real time computation[EB/OL].[2011-10-21].https://www.infoq.com/ presentations/Storm-Introduction.

    [13]Petkov V,Gerndt M.Integrating parallel application development with performance analysis in periscope[C]//Proc of IPDPSW.[s.l.]:IEEE,2010:1-8.

    [14]曾泉?jiǎng)?基于Redis的分布式消息服務(wù)的設(shè)計(jì)與實(shí)現(xiàn)[D].北京:北京郵電大學(xué),2014.

    [15]Kreps J,Narkhede N,Rao J.Kafka:a distributed messaging system for log processing[C]//Proceedings of the NetDB. Athens,Greece:[s.n.],2011:1-7.

    Implementation Scheme of VFDT Algorithm on Storm Platform

    ZHANG Fa-yang,LI Ling-juan,CHEN Yu
    (School of Computer,Nanjing University of Posts and Telecommunications,Nanjing 210003,China)

    In order to improve the classification efficiency of the stream data,studies how to implement VFDT algorithm on Storm,a stream data processing platform.A scheme of distributed parallel implementing of VFDT algorithm based on Storm platform is designed. The VFDT algorithm is divided into three modules including building tree module,classification module and evaluation module.The building tree module is responsible for the initializing and incremental building of decision tree,and the classification module for classifying the samples,and the evaluation module for evaluating the VFDT decision tree using the labeled samples.The functions of each module are realized by correctly designing the Spout/Bolt of Storm Topology,and the parallelization of the classification module is implemented by deploying multiple tasks for Classification Bolt.The memory database Redis is used to realize the effective connection of the three modules and the preservation of the decision tree.The message middleware Kafka is used to improve the tolerance of burst stream data.The results of implementing and testing VFDT algorithm based on the proposed scheme show that the classification efficiency of VFDT algorithm under the Storm cluster environment is significantly improved compared with that under the single machine environment,and the classification efficiency can be further improved by reasonably setting the task number in Classification Bolt.

    stream data;Very Fast Decision Tree(VFDT);distribution;parallelization;Storm

    TP311

    A

    1673-629X(2016)09-0192-05

    10.3969/j.issn.1673-629X.2016.09.043

    2015-11-13

    2016-03-03< class="emphasis_bold">網(wǎng)絡(luò)出版時(shí)間:

    時(shí)間:2016-08-23

    國(guó)家自然科學(xué)基金資助項(xiàng)目(61302158,61571238);中興通訊產(chǎn)學(xué)研項(xiàng)目

    張發(fā)揚(yáng)(1990-),男,碩士研究生,CCF會(huì)員,研究方向?yàn)榱鲾?shù)據(jù)挖掘;李玲娟,教授,CCF會(huì)員,研究方向?yàn)閿?shù)據(jù)挖掘、信息安全、分布式計(jì)算。

    http://www.cnki.net/kcms/detail/61.1450.TP.20160823.1359.044.html

    猜你喜歡
    訓(xùn)練樣本決策樹分類
    分類算一算
    人工智能
    一種針對(duì)不均衡數(shù)據(jù)集的SVM決策樹算法
    分類討論求坐標(biāo)
    決策樹和隨機(jī)森林方法在管理決策中的應(yīng)用
    電子制作(2018年16期)2018-09-26 03:27:06
    數(shù)據(jù)分析中的分類討論
    教你一招:數(shù)的分類
    寬帶光譜成像系統(tǒng)最優(yōu)訓(xùn)練樣本選擇方法研究
    融合原始樣本和虛擬樣本的人臉識(shí)別算法
    基于稀疏重構(gòu)的機(jī)載雷達(dá)訓(xùn)練樣本挑選方法
    天天躁日日操中文字幕| 国产真实伦视频高清在线观看| 国产欧美日韩精品一区二区| 99热这里只有是精品50| 精品视频人人做人人爽| 亚洲美女搞黄在线观看| 久久精品国产亚洲av天美| 日韩一区二区三区影片| 亚洲aⅴ乱码一区二区在线播放| 各种免费的搞黄视频| 亚洲熟女精品中文字幕| 亚洲精品aⅴ在线观看| 肉色欧美久久久久久久蜜桃| 91精品一卡2卡3卡4卡| 国产午夜精品一二区理论片| 精品人妻一区二区三区麻豆| 亚洲成人一二三区av| 春色校园在线视频观看| 亚洲熟女精品中文字幕| 少妇精品久久久久久久| 一级片'在线观看视频| 国产成人a区在线观看| 九九爱精品视频在线观看| 一本久久精品| 99九九线精品视频在线观看视频| 一级毛片 在线播放| 精品国产乱码久久久久久小说| 国产成人午夜福利电影在线观看| 99热这里只有精品一区| 久久久久久久大尺度免费视频| 日本黄色片子视频| av国产久精品久网站免费入址| 国产成人免费观看mmmm| www.色视频.com| 免费不卡的大黄色大毛片视频在线观看| 日韩制服骚丝袜av| 18禁裸乳无遮挡动漫免费视频| 99久久精品热视频| 国产成人免费观看mmmm| 亚洲av欧美aⅴ国产| 日韩欧美 国产精品| 亚洲成色77777| 国产av一区二区精品久久 | 国产无遮挡羞羞视频在线观看| 国产 精品1| 秋霞在线观看毛片| 日韩亚洲欧美综合| 熟女人妻精品中文字幕| 超碰97精品在线观看| 97在线人人人人妻| 日韩欧美一区视频在线观看 | 欧美精品亚洲一区二区| 久久综合国产亚洲精品| 中国三级夫妇交换| 成人黄色视频免费在线看| 99热网站在线观看| 亚洲国产欧美人成| 观看美女的网站| 大香蕉97超碰在线| 国产亚洲一区二区精品| 高清在线视频一区二区三区| 老师上课跳d突然被开到最大视频| 涩涩av久久男人的天堂| 欧美成人午夜免费资源| 最近的中文字幕免费完整| 最近手机中文字幕大全| 春色校园在线视频观看| 亚洲四区av| 国产视频内射| 久久久久性生活片| 91精品国产九色| 免费黄频网站在线观看国产| 91狼人影院| 国产av精品麻豆| av.在线天堂| 亚洲最大成人中文| 久久久久国产网址| 内射极品少妇av片p| 看免费成人av毛片| 人人妻人人爽人人添夜夜欢视频 | 18禁动态无遮挡网站| 免费少妇av软件| 色综合色国产| 全区人妻精品视频| 国产一区二区三区综合在线观看 | 久久精品夜色国产| 最近2019中文字幕mv第一页| 成年美女黄网站色视频大全免费 | 性色avwww在线观看| 麻豆精品久久久久久蜜桃| 久久精品国产亚洲av天美| 亚洲精品一区蜜桃| 联通29元200g的流量卡| 女性生殖器流出的白浆| 成年美女黄网站色视频大全免费 | 精品久久久久久久久av| 日日啪夜夜撸| 黄片无遮挡物在线观看| 亚洲天堂av无毛| 一级片'在线观看视频| 亚洲成人手机| 一本一本综合久久| 色视频www国产| 国产v大片淫在线免费观看| 丰满少妇做爰视频| 欧美成人a在线观看| 嫩草影院入口| 午夜激情福利司机影院| 久热久热在线精品观看| 国产精品麻豆人妻色哟哟久久| 国产精品久久久久久久久免| 国产爽快片一区二区三区| 在线观看人妻少妇| 亚洲精品一区蜜桃| 观看免费一级毛片| 亚洲av成人精品一区久久| 黄色欧美视频在线观看| 18+在线观看网站| 看十八女毛片水多多多| 欧美精品一区二区大全| 精品一区二区免费观看| a级毛片免费高清观看在线播放| 久久久久国产精品人妻一区二区| 亚洲精品一二三| 久久99精品国语久久久| 男男h啪啪无遮挡| 国产亚洲av片在线观看秒播厂| 亚洲欧美精品自产自拍| 观看美女的网站| 亚洲精品乱码久久久v下载方式| 免费观看av网站的网址| 黑人猛操日本美女一级片| 秋霞在线观看毛片| 亚洲经典国产精华液单| 精品久久久久久久久av| 中文字幕亚洲精品专区| 高清黄色对白视频在线免费看 | 久久午夜福利片| 精品久久久噜噜| freevideosex欧美| 久久国产亚洲av麻豆专区| 丝瓜视频免费看黄片| 久久久久久久久久人人人人人人| 高清av免费在线| 欧美丝袜亚洲另类| 亚洲国产日韩一区二区| 又粗又硬又长又爽又黄的视频| 人妻系列 视频| 九草在线视频观看| 九色成人免费人妻av| 国产美女午夜福利| 亚洲国产毛片av蜜桃av| 亚洲经典国产精华液单| 国产精品av视频在线免费观看| 久久人人爽av亚洲精品天堂 | 精品酒店卫生间| 永久免费av网站大全| 亚洲国产av新网站| 欧美zozozo另类| 涩涩av久久男人的天堂| 街头女战士在线观看网站| 女人十人毛片免费观看3o分钟| 最近最新中文字幕大全电影3| 天堂中文最新版在线下载| 在线观看三级黄色| 一区二区三区四区激情视频| 老司机影院成人| 国产久久久一区二区三区| 免费看不卡的av| 我的老师免费观看完整版| 国产精品秋霞免费鲁丝片| 国产精品爽爽va在线观看网站| 久久久久网色| 丝瓜视频免费看黄片| 国产毛片在线视频| 最近最新中文字幕免费大全7| 少妇人妻精品综合一区二区| 三级经典国产精品| 国产高清国产精品国产三级 | 亚洲自偷自拍三级| 中文字幕亚洲精品专区| 这个男人来自地球电影免费观看 | 18禁在线播放成人免费| 中文字幕人妻熟人妻熟丝袜美| 天天躁夜夜躁狠狠久久av| 亚洲,一卡二卡三卡| 国产成人a区在线观看| 街头女战士在线观看网站| 一区二区三区乱码不卡18| 午夜视频国产福利| 精品久久久久久电影网| 在线免费观看不下载黄p国产| 九草在线视频观看| 国产亚洲最大av| 亚洲不卡免费看| 国产高潮美女av| 久久久久久久精品精品| 赤兔流量卡办理| 男女下面进入的视频免费午夜| 在现免费观看毛片| 久久久久久久久久久免费av| 舔av片在线| 中文在线观看免费www的网站| 蜜臀久久99精品久久宅男| 美女内射精品一级片tv| 精品少妇黑人巨大在线播放| 中文精品一卡2卡3卡4更新| 久久99热6这里只有精品| 男女边吃奶边做爰视频| 国产精品久久久久久久久免| 在线观看av片永久免费下载| 日韩中字成人| 黄色怎么调成土黄色| 中文字幕免费在线视频6| 人妻夜夜爽99麻豆av| 久久久久久久精品精品| 男人添女人高潮全过程视频| 日韩不卡一区二区三区视频在线| 天堂俺去俺来也www色官网| 国产精品久久久久久久电影| 久久97久久精品| 日韩一区二区视频免费看| 日韩精品有码人妻一区| 欧美xxxx黑人xx丫x性爽| 久久久久久久大尺度免费视频| 18禁在线无遮挡免费观看视频| 日韩免费高清中文字幕av| 欧美成人精品欧美一级黄| 久久久久久久久久成人| av网站免费在线观看视频| 日本vs欧美在线观看视频 | 国产精品女同一区二区软件| 成人一区二区视频在线观看| 国产成人精品婷婷| 成人一区二区视频在线观看| 精品久久久噜噜| av专区在线播放| 蜜桃在线观看..| 丝袜喷水一区| 国产在线男女| 亚洲久久久国产精品| 岛国毛片在线播放| 涩涩av久久男人的天堂| 久久韩国三级中文字幕| 天堂中文最新版在线下载| 亚洲人成网站在线播| 精品人妻视频免费看| 久久久欧美国产精品| 久久97久久精品| 午夜免费鲁丝| 国产av国产精品国产| 欧美性感艳星| 久久久久人妻精品一区果冻| 久久久久久久精品精品| 久久青草综合色| 国产成人a∨麻豆精品| 午夜老司机福利剧场| 亚洲人与动物交配视频| 直男gayav资源| 高清在线视频一区二区三区| 直男gayav资源| av在线老鸭窝| 男女无遮挡免费网站观看| 大陆偷拍与自拍| 午夜福利视频精品| 嫩草影院入口| 日韩欧美精品免费久久| 六月丁香七月| 亚洲综合精品二区| 国产精品熟女久久久久浪| 最近手机中文字幕大全| 乱系列少妇在线播放| 亚洲av不卡在线观看| 中文在线观看免费www的网站| 99热这里只有是精品50| 中文资源天堂在线| 成人亚洲欧美一区二区av| 91久久精品电影网| 观看av在线不卡| 免费不卡的大黄色大毛片视频在线观看| 亚洲国产欧美人成| 欧美zozozo另类| 在线 av 中文字幕| 欧美另类一区| 黑人猛操日本美女一级片| 高清不卡的av网站| 人妻少妇偷人精品九色| 中文字幕制服av| 夜夜爽夜夜爽视频| 另类亚洲欧美激情| xxx大片免费视频| 老司机影院毛片| 日韩免费高清中文字幕av| 99久国产av精品国产电影| 亚洲人成网站在线播| 老司机影院毛片| 国产成人91sexporn| 久久精品夜色国产| 国产精品一区二区三区四区免费观看| 亚洲精品乱久久久久久| 99热全是精品| 久久av网站| 亚洲精品自拍成人| 国产亚洲午夜精品一区二区久久| 欧美xxxx性猛交bbbb| 中文资源天堂在线| 日韩中字成人| 性色avwww在线观看| 大又大粗又爽又黄少妇毛片口| 欧美日韩在线观看h| 麻豆成人午夜福利视频| 午夜福利网站1000一区二区三区| 国产精品久久久久成人av| 欧美激情极品国产一区二区三区 | 国产成人免费无遮挡视频| 91精品国产九色| 永久网站在线| 毛片女人毛片| 国产熟女欧美一区二区| 欧美日韩国产mv在线观看视频 | 插阴视频在线观看视频| 黑丝袜美女国产一区| 最近中文字幕高清免费大全6| 男人添女人高潮全过程视频| 久久99蜜桃精品久久| 亚洲色图综合在线观看| 纯流量卡能插随身wifi吗| 99久久精品一区二区三区| 黑丝袜美女国产一区| 国产成人免费观看mmmm| 久久久久性生活片| 男人添女人高潮全过程视频| 成人亚洲欧美一区二区av| 丰满人妻一区二区三区视频av| 99热6这里只有精品| 亚洲国产精品999| 国产午夜精品久久久久久一区二区三区| 久久久国产一区二区| h日本视频在线播放| 亚洲天堂av无毛| 丰满少妇做爰视频| 国产成人a区在线观看| 久久热精品热| 天堂8中文在线网| av黄色大香蕉| 纵有疾风起免费观看全集完整版| 日韩中文字幕视频在线看片 | 人人妻人人爽人人添夜夜欢视频 | 熟女电影av网| 丰满乱子伦码专区| 亚洲精品456在线播放app| 九九在线视频观看精品| 成人国产av品久久久| 精品少妇久久久久久888优播| 麻豆精品久久久久久蜜桃| 国产黄片美女视频| 亚州av有码| 国产精品国产三级国产专区5o| 黄色日韩在线| 嫩草影院入口| 国产男女超爽视频在线观看| 久久韩国三级中文字幕| 国产av精品麻豆| 国产免费一区二区三区四区乱码| 欧美区成人在线视频| 18禁裸乳无遮挡免费网站照片| av天堂中文字幕网| 亚洲精品国产av成人精品| 一级毛片黄色毛片免费观看视频| 色婷婷久久久亚洲欧美| 交换朋友夫妻互换小说| 国产美女午夜福利| 久久久午夜欧美精品| 亚洲精品成人av观看孕妇| 亚洲精品自拍成人| 啦啦啦啦在线视频资源| 五月伊人婷婷丁香| 国产爽快片一区二区三区| 视频区图区小说| 九九爱精品视频在线观看| 亚洲欧洲国产日韩| 国产91av在线免费观看| 日韩制服骚丝袜av| 丝袜喷水一区| 有码 亚洲区| h视频一区二区三区| 男女边吃奶边做爰视频| 久久毛片免费看一区二区三区| 免费av中文字幕在线| 亚洲av中文字字幕乱码综合| 少妇丰满av| 国产成人aa在线观看| av天堂中文字幕网| 激情 狠狠 欧美| 日韩视频在线欧美| 精品人妻视频免费看| 国产精品久久久久久精品电影小说 | 成年人午夜在线观看视频| 欧美高清成人免费视频www| 一区在线观看完整版| 久久久色成人| 黄色一级大片看看| 免费大片18禁| 99国产精品免费福利视频| 久久久久久久精品精品| 女性生殖器流出的白浆| 亚洲va在线va天堂va国产| 亚洲欧美精品自产自拍| 亚洲欧美一区二区三区国产| 久久女婷五月综合色啪小说| 久久99蜜桃精品久久| 搡女人真爽免费视频火全软件| 97精品久久久久久久久久精品| 色综合色国产| 免费av中文字幕在线| 丝袜喷水一区| 久久精品久久久久久噜噜老黄| 日韩免费高清中文字幕av| 另类亚洲欧美激情| 欧美bdsm另类| 最近的中文字幕免费完整| 黄色一级大片看看| av一本久久久久| 又爽又黄a免费视频| 亚洲美女黄色视频免费看| 日韩亚洲欧美综合| 九草在线视频观看| 久久影院123| 日韩电影二区| 18禁在线播放成人免费| 十八禁网站网址无遮挡 | 色婷婷久久久亚洲欧美| 汤姆久久久久久久影院中文字幕| 18禁动态无遮挡网站| 久久久成人免费电影| 最近最新中文字幕大全电影3| 一级片'在线观看视频| av视频免费观看在线观看| 偷拍熟女少妇极品色| 国产探花极品一区二区| 亚洲成人手机| 永久网站在线| 免费黄色在线免费观看| 国产免费一级a男人的天堂| 色哟哟·www| 欧美少妇被猛烈插入视频| 久久久久久人妻| 日韩av不卡免费在线播放| 免费观看的影片在线观看| 国产精品一区二区三区四区免费观看| 国产视频首页在线观看| 亚洲av成人精品一区久久| 男女下面进入的视频免费午夜| a级毛色黄片| 欧美精品人与动牲交sv欧美| 国产精品久久久久成人av| 成人亚洲精品一区在线观看 | 精品久久久精品久久久| 亚洲性久久影院| a级毛片免费高清观看在线播放| 亚洲av在线观看美女高潮| 少妇人妻一区二区三区视频| 中文乱码字字幕精品一区二区三区| 国产高清不卡午夜福利| 啦啦啦视频在线资源免费观看| 尾随美女入室| 国产精品欧美亚洲77777| 久久久a久久爽久久v久久| 男人狂女人下面高潮的视频| 欧美成人精品欧美一级黄| 中文字幕av成人在线电影| 国内精品宾馆在线| 99精国产麻豆久久婷婷| 亚洲成人手机| 大香蕉久久网| 国产黄片视频在线免费观看| 中文资源天堂在线| 亚洲精品国产成人久久av| 男女无遮挡免费网站观看| 国产一区亚洲一区在线观看| 中文在线观看免费www的网站| 亚洲av成人精品一二三区| 亚洲av不卡在线观看| 亚洲熟女精品中文字幕| 一级黄片播放器| 国产爱豆传媒在线观看| 五月天丁香电影| 制服丝袜香蕉在线| 中文字幕精品免费在线观看视频 | 日本与韩国留学比较| 在线免费观看不下载黄p国产| 欧美精品人与动牲交sv欧美| 亚洲精品日本国产第一区| 99精国产麻豆久久婷婷| 久久韩国三级中文字幕| 日本黄色日本黄色录像| 视频中文字幕在线观看| 18+在线观看网站| 夫妻午夜视频| 青春草视频在线免费观看| 日韩中文字幕视频在线看片 | 色吧在线观看| 国产大屁股一区二区在线视频| 国产精品av视频在线免费观看| 中文字幕免费在线视频6| 婷婷色综合大香蕉| 少妇精品久久久久久久| 久久久久人妻精品一区果冻| 大陆偷拍与自拍| 少妇 在线观看| 免费播放大片免费观看视频在线观看| 美女中出高潮动态图| 久久人人爽av亚洲精品天堂 | 最近2019中文字幕mv第一页| 精品国产乱码久久久久久小说| 亚洲第一av免费看| 观看美女的网站| 你懂的网址亚洲精品在线观看| 欧美xxxx性猛交bbbb| 看非洲黑人一级黄片| 联通29元200g的流量卡| 啦啦啦中文免费视频观看日本| 国产成人精品久久久久久| 亚洲av综合色区一区| 十分钟在线观看高清视频www | 性高湖久久久久久久久免费观看| 下体分泌物呈黄色| 欧美bdsm另类| 最近最新中文字幕大全电影3| av又黄又爽大尺度在线免费看| 久久国产精品男人的天堂亚洲 | 久久午夜福利片| 最近中文字幕2019免费版| 午夜福利影视在线免费观看| 免费观看av网站的网址| 一本一本综合久久| 亚洲精品aⅴ在线观看| 18禁动态无遮挡网站| 2018国产大陆天天弄谢| 看免费成人av毛片| av女优亚洲男人天堂| 一区在线观看完整版| 大又大粗又爽又黄少妇毛片口| 亚洲欧美日韩卡通动漫| 精品人妻偷拍中文字幕| 纯流量卡能插随身wifi吗| 有码 亚洲区| 国产黄片美女视频| 99热全是精品| 国产精品国产三级国产av玫瑰| 人人妻人人爽人人添夜夜欢视频 | 天堂俺去俺来也www色官网| av免费在线看不卡| 中文资源天堂在线| 国内精品宾馆在线| 精品国产乱码久久久久久小说| 在线观看免费视频网站a站| av卡一久久| 一个人看视频在线观看www免费| 一本久久精品| 欧美日韩视频精品一区| 一级毛片aaaaaa免费看小| av卡一久久| 午夜福利在线在线| 国产高清三级在线| 少妇裸体淫交视频免费看高清| 欧美xxⅹ黑人| 亚洲av不卡在线观看| 国国产精品蜜臀av免费| 波野结衣二区三区在线| 三级国产精品片| 国产精品国产三级国产av玫瑰| 十八禁网站网址无遮挡 | 80岁老熟妇乱子伦牲交| 好男人视频免费观看在线| 国产精品国产三级专区第一集| 免费黄频网站在线观看国产| 免费观看性生交大片5| 在线观看av片永久免费下载| 97在线人人人人妻| 久久人人爽av亚洲精品天堂 | 免费看日本二区| 大片电影免费在线观看免费| 久久女婷五月综合色啪小说| 下体分泌物呈黄色| 亚洲美女黄色视频免费看| 老熟女久久久| www.色视频.com| 成年女人在线观看亚洲视频| 激情 狠狠 欧美| 亚洲av二区三区四区| 在线免费十八禁| 成人国产麻豆网| 亚洲国产精品999| 国产老妇伦熟女老妇高清| 国产精品av视频在线免费观看| 尾随美女入室| 麻豆成人午夜福利视频| 久久99热这里只有精品18| 伦精品一区二区三区| 国产精品一区www在线观看| 日日撸夜夜添| 久久久久国产网址| 一级黄片播放器| 一区二区av电影网| 精品久久久噜噜| 一级二级三级毛片免费看| 亚洲中文av在线| 国模一区二区三区四区视频| 1000部很黄的大片| 成人二区视频| 亚洲国产精品专区欧美| 久久婷婷青草| 日本爱情动作片www.在线观看| 色网站视频免费|