• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    一種多云環(huán)境的資源及應(yīng)用監(jiān)控方法SEPQMS

    2017-08-07 08:21:59朱華旻周振吉吳禮發(fā)王海波
    關(guān)鍵詞:發(fā)布者多云代理

    朱華旻, 周振吉, 吳禮發(fā), 王海波

    (1.解放軍理工大學(xué) 指揮信息系統(tǒng)學(xué)院 江蘇 南京 210007;2.牡丹江醫(yī)學(xué)院 教育技術(shù)與信息中心 黑龍江 牡丹江 157011)

    一種多云環(huán)境的資源及應(yīng)用監(jiān)控方法SEPQMS

    朱華旻1, 周振吉1, 吳禮發(fā)1, 王海波2

    (1.解放軍理工大學(xué) 指揮信息系統(tǒng)學(xué)院 江蘇 南京 210007;2.牡丹江醫(yī)學(xué)院 教育技術(shù)與信息中心 黑龍江 牡丹江 157011)

    資源及應(yīng)用監(jiān)控是云資源規(guī)劃調(diào)度、彈性提供、服務(wù)質(zhì)量評價等的前提.基于多云監(jiān)控需求,提出了一種可擴展、適應(yīng)資源彈性、平臺獨立并提供傳輸質(zhì)量控制的多云監(jiān)控方法.采用以插件方式安裝指標(biāo)探測器的監(jiān)控代理,實施對資源及應(yīng)用相關(guān)指標(biāo)的收集.遵循對象管理組織的數(shù)據(jù)分發(fā)服務(wù)標(biāo)準(zhǔn)規(guī)范,設(shè)計了多云環(huán)境的發(fā)布/訂閱式監(jiān)控數(shù)據(jù)分發(fā)模型框架.原型系統(tǒng)實驗表明:本方法只引入了較小的監(jiān)控開銷,能夠跨平臺實施彈性的多云監(jiān)控,按需訂制監(jiān)控指標(biāo),動態(tài)部署和自治管理監(jiān)控代理適應(yīng)監(jiān)控資源增減和遷移,并能按需控制監(jiān)控數(shù)據(jù)傳輸質(zhì)量.

    多云監(jiān)控; 發(fā)布/訂閱模式; 擴展性; 彈性適應(yīng); 服務(wù)質(zhì)量

    0 引言

    云監(jiān)控是對云對象狀態(tài)和表現(xiàn)的指標(biāo)持續(xù)系統(tǒng)地收集、分析和評價[1],是有效管理云資源及應(yīng)用的前提,按監(jiān)控視角可分為面向提供商的監(jiān)控和面向用戶的監(jiān)控,按監(jiān)控對象層級可分為物理層監(jiān)控和虛擬層監(jiān)控,虛擬層又可分為基礎(chǔ)設(shè)施層、平臺層、應(yīng)用層[2].云資源規(guī)模龐大、動態(tài)性強、監(jiān)控視角和對象層級多樣,使云監(jiān)控面臨嚴(yán)峻挑戰(zhàn).特別在由經(jīng)紀(jì)人按需組合多個提供商資源的多云環(huán)境,云監(jiān)控需同時服務(wù)于經(jīng)紀(jì)人和各租戶,跨提供商獲取相關(guān)監(jiān)控指標(biāo),面臨跨域、跨平臺、跨網(wǎng)絡(luò)等諸多挑戰(zhàn).

    目前,工業(yè)界已經(jīng)有了提供商專用的監(jiān)控服務(wù)[3-4]和獨立的云監(jiān)控服務(wù)[5-7].學(xué)術(shù)界提出了不少云監(jiān)控方法[1, 8-11],但這些方法大多針對單云環(huán)境設(shè)計.部分學(xué)者展開了多云監(jiān)控研究,例如Dastjerdi等[12]選擇提供商專用監(jiān)控服務(wù)或獨立云監(jiān)控服務(wù)進(jìn)行多云監(jiān)控,但這些外部監(jiān)控未必能提供所需指標(biāo),也將引入更多指標(biāo)時延.Tovarňák等[1]提出了適用單云和多云的事件驅(qū)動監(jiān)控模型,基于收集指標(biāo)生成簡單事件,由各事件處理代理分別對簡單事件進(jìn)行關(guān)聯(lián),產(chǎn)生多種復(fù)雜事件供訂閱,僅考慮了租戶監(jiān)控需求.Kertész等[13]提出了一個基于分布式經(jīng)紀(jì)人的多云協(xié)作框架,使用一個輕量級云指標(biāo)監(jiān)控服務(wù),方法僅適用于文中提出的多云框架.Smit 等[14]提出了一個多云應(yīng)用級監(jiān)控框架,指標(biāo)被推送到系列流處理器產(chǎn)生監(jiān)控數(shù)據(jù)流,數(shù)據(jù)流被傳輸?shù)酱鎯σ妗⑼ǜ嬉婧途酆弦嫣幚懋a(chǎn)生高級指標(biāo),框架僅服務(wù)于租戶并完全使用第三方監(jiān)控服務(wù).文獻(xiàn)[11]基于OMG DDS中間件設(shè)計了多云監(jiān)控框架,在被監(jiān)控VM相同位置物理機實例化一個發(fā)布者,利用libvirt庫訪問物理機獲取VM指標(biāo),需要獲取物理機訪問權(quán)限,因此框架具有較大局限.總之,現(xiàn)有方法或者不能訂制指標(biāo)、或者不能滿足多方監(jiān)控需求、或者僅適用特定多云平臺、或者并非專為多云設(shè)計,不能較好滿足多云監(jiān)控需求.本文基于多云監(jiān)控需求分析,提出了一種可擴展、自適應(yīng)資源彈性、平臺獨立并提供傳輸服務(wù)質(zhì)量(QoS)支持的多云監(jiān)控方法SEPQMS(scalable, elastic-adaptive, platform-independent and QoS-enabled monitoring solution).主要工作及貢獻(xiàn)如下:1) 使用監(jiān)控代理實施對云資源及應(yīng)用監(jiān)控指標(biāo)的收集和推送,實現(xiàn)了監(jiān)控指標(biāo)的靈活訂制和監(jiān)控裝置的動態(tài)部署.2) 基于對象管理組織(OMG)的實時應(yīng)用數(shù)據(jù)分發(fā)服務(wù)(DDS)標(biāo)準(zhǔn)規(guī)范OMG DDS[15],提出了多云監(jiān)控方法SEPQMS的主體框架.3) 選擇基于自適應(yīng)通信環(huán)境(adaptive communication environment, ACE)[16]、ACE對象請求代理(the ACE ORB, TAO)[16]和Open DDS中間件,實現(xiàn)了SEPQMS的原型.

    1 多云環(huán)境的資源及應(yīng)用監(jiān)控需求

    多云環(huán)境與單云環(huán)境在結(jié)構(gòu)及運行管理上的差異,使多云監(jiān)控具有許多獨特的需求特征.監(jiān)控主體及其指標(biāo)需求:監(jiān)控主體包括經(jīng)紀(jì)人和租戶,經(jīng)紀(jì)人需監(jiān)控掌握多云資源分布、資源類型數(shù)量細(xì)節(jié)及資源使用信息,以便實施費用管理和彈性提供資源等;租戶需監(jiān)控部署組件及依賴資源相關(guān)指標(biāo),掌握組件性能表現(xiàn)并推斷其根源.監(jiān)控指標(biāo)傳輸QoS需求:來自不同提供商資源及部署組件的監(jiān)控指標(biāo),需利用公網(wǎng)傳輸,傳輸QoS控制是需考慮的問題.同時滿足多方需求的統(tǒng)一監(jiān)控體系:若分別為經(jīng)紀(jì)人、租戶獨立構(gòu)建監(jiān)控系統(tǒng),將產(chǎn)生許多重疊監(jiān)控設(shè)施,而租戶和經(jīng)紀(jì)人監(jiān)控的資源對象是重疊的,建設(shè)統(tǒng)一的監(jiān)控體系是合理選擇,將大大減小建設(shè)開銷、降低維護(hù)難度.平臺無關(guān)性:多云監(jiān)控涉及多個提供商資源,很可能使用不同虛擬系統(tǒng), VM支持的操作系統(tǒng)往往也不同,這要求多云監(jiān)控體系必須滿足平臺無關(guān)性、安全性、可擴展性.彈性適應(yīng)和自治能力:需安全隔離各租戶監(jiān)控數(shù)據(jù)流,具備良好擴展性,能適應(yīng)或大或小的應(yīng)用和資源規(guī)模,并能夠按需訂制監(jiān)控指標(biāo),另外,還需具備較好彈性適應(yīng)性,自動適應(yīng)監(jiān)控對象動態(tài)增減,且應(yīng)具備較強自治性,減少系統(tǒng)維護(hù)管理任務(wù).

    2 多云監(jiān)控方法SEPQMS

    2.1 OMG DDS概述

    OMG發(fā)布的分布式實時應(yīng)用數(shù)據(jù)分發(fā)服務(wù)標(biāo)準(zhǔn)OMG DDS[15](簡稱DDS),已被廣泛接受采用.對于分布式應(yīng)用,面向消息的數(shù)據(jù)分發(fā)模型,特別是發(fā)布/訂閱模型,與C/S模式相比,提供了更好的性能和靈活性.DDS正是以數(shù)據(jù)為中心,使用發(fā)布/訂閱模型的數(shù)據(jù)分發(fā)標(biāo)準(zhǔn),支持傳輸QoS控制.DDS結(jié)構(gòu)包含核心層,即發(fā)布/訂閱層(DCPS)和可選的數(shù)據(jù)本地重構(gòu)層(DLRL).DCPS模型主要實體有:數(shù)據(jù)域,是數(shù)據(jù)流分隔范圍,僅限同一域內(nèi)實體間才可相互通信;主題,發(fā)布者和訂閱者通過主題通告發(fā)布和接收信息,主題使用唯一名稱和數(shù)據(jù)類型,可附加QoS約束控制分發(fā);發(fā)布者,管理所屬數(shù)據(jù)寫入器,負(fù)責(zé)發(fā)布主題,按QoS約束建立數(shù)據(jù)通信通道;訂閱者,管理所屬數(shù)據(jù)讀取器,負(fù)責(zé)發(fā)布訂閱主題,接收主題數(shù)據(jù)并轉(zhuǎn)發(fā);數(shù)據(jù)寫入器,唯一對應(yīng)一個發(fā)布主題,主題樣本生成時,它通過發(fā)布者將數(shù)據(jù)傳輸給訂閱者;數(shù)據(jù)讀取器,唯一對應(yīng)一個訂閱主題,當(dāng)訂閱者獲得主題數(shù)據(jù)后,將其轉(zhuǎn)發(fā)給相應(yīng)數(shù)據(jù)讀取器.

    2.2 SEPQMS監(jiān)控方法設(shè)計原則

    1) 采用DDS發(fā)布/訂閱模型.多云資源及應(yīng)用組件數(shù)量多、動態(tài)性強、布局分散, DDS模型能夠適應(yīng)發(fā)布者和接收者的動態(tài)變化以及較大規(guī)模監(jiān)控布局,可提供傳輸質(zhì)量支持滿足如實時性、完整性等需求.已有的一些高質(zhì)量開源DDS標(biāo)準(zhǔn)中間件,能夠簡化系統(tǒng)實現(xiàn),增強穩(wěn)定性和可靠性.2) 冗余設(shè)計的集中式主題注冊匹配模式.分布式主題注冊匹配模式全局廣播主題信息,通信信道的不充分可靠,很可能造成部分節(jié)點信息不完整,主題廣播還會增加網(wǎng)絡(luò)流量.集中式模式使用綁定固定IP的注冊匹配服務(wù)器,發(fā)布者、訂閱者主動提交主題注冊,服務(wù)器執(zhí)行注冊和匹配并返回結(jié)果,能保證信息完整并減少流量開銷,性能瓶頸、單點故障可通過服務(wù)器冗余設(shè)計等方法解決.3) 用插件式監(jiān)控代理收集指標(biāo).安裝監(jiān)控代理是廣泛采用的指標(biāo)收集方式[2, 8-9,17],監(jiān)控代理以插件方式容納、管理數(shù)個指標(biāo)探測器(Probe),可動態(tài)部署,按需安裝和配置Probe并處理和推送收集的指標(biāo).Probe實施指標(biāo)收集,內(nèi)置通用功能并對外提供可自定義擴展的抽象接口.4) 監(jiān)控數(shù)據(jù)安全隔離和發(fā)布者、訂閱者的部署.將各租戶的應(yīng)用、資源及相關(guān)實體劃分到單獨DCPS數(shù)據(jù)域,保證租戶應(yīng)用安全.發(fā)布者、訂閱者是框架核心實體,如果讓一個發(fā)布者管理太多監(jiān)控代理,將承受過大通信及處理壓力,而部署太多發(fā)布者必導(dǎo)致系統(tǒng)出現(xiàn)過多節(jié)點和大量連接需要維護(hù).權(quán)衡考量,以應(yīng)用組件為單位部署發(fā)布者,而訂閱實體類型相對較少,以應(yīng)用為單位部署訂閱者即可.

    2.3 SEPQMS監(jiān)控方法的主體框架結(jié)構(gòu)

    1) 概述.SEPQMS多云監(jiān)控方法主體框架如圖1所示.主要包含注冊匹配服務(wù)器Cen_ Reg_ Match_ Server、訂閱者Subscriber、發(fā)布應(yīng)用PublishApp、監(jiān)控代理Mon_Agent等設(shè)施.PublishApp與Mon_Agent部署結(jié)構(gòu)如圖2所示.在第三方BROKER中,部署冗余設(shè)計的注冊匹配服務(wù)器,為每個應(yīng)用部署一個Subscriber,分配一個數(shù)據(jù)域dom,實例化應(yīng)用管理、資源彈性、費用管理3個訂閱實體.為每個應(yīng)用組件部署一個PublishApp,當(dāng)組件部署于多個VM時,PublishApp部署于負(fù)載平衡器,否則部署在組件相同VM中.PublishApp包含發(fā)布者Publisher、監(jiān)控代理管理Mon_Admin和監(jiān)控指標(biāo)管理Metrics_Admin組件.

    圖1 SEPQMS的主體框架結(jié)構(gòu)

    圖2 發(fā)布應(yīng)用與監(jiān)控代理部署結(jié)構(gòu)圖

    2) 發(fā)布/訂閱主題注冊匹配及監(jiān)控數(shù)據(jù)分發(fā)流程.如時序圖3所示.新發(fā)布者和訂閱者主動向服務(wù)器提交主題注冊請求.服務(wù)器收到請求后分別在發(fā)布主題表和訂閱主題表加入新主題;對新發(fā)布主題遍歷訂閱主題表進(jìn)行匹配,對新訂閱主題遍歷發(fā)布主題表進(jìn)行匹配,然后返回注冊匹配結(jié)果.

    圖3 發(fā)布/訂閱主題注冊匹配及監(jiān)控數(shù)據(jù)分發(fā)流程

    發(fā)布應(yīng)用收到主題匹配結(jié)果,首先更新本地訂閱主題表,然后按照訂閱主題及附加QoS需求,由監(jiān)控指標(biāo)管理組件定義指標(biāo)訂閱規(guī)則,生成監(jiān)控代理配置調(diào)整參數(shù),例如監(jiān)控代理ID、指標(biāo)類型、更新周期等,監(jiān)控代理管理組件根據(jù)配置參數(shù)配置調(diào)整監(jiān)控代理.監(jiān)控代理按照更新的監(jiān)控配置,配置調(diào)用Probe執(zhí)行指標(biāo)收集,然后匯集Probe監(jiān)控指標(biāo)進(jìn)行結(jié)構(gòu)處理后向發(fā)布應(yīng)用推送,指標(biāo)管理組件對推送的指標(biāo),按主題指標(biāo)訂閱規(guī)則進(jìn)行過濾、聚合等生成主題樣本,提交給數(shù)據(jù)寫入器,數(shù)據(jù)寫入器通過發(fā)布者與訂閱者連接通信傳輸主題數(shù)據(jù),訂閱者接收發(fā)布者的主題數(shù)據(jù)并轉(zhuǎn)發(fā)給訂閱實體.

    3) 主題數(shù)據(jù)模型及指標(biāo)訂閱規(guī)則語言.按DDS規(guī)范使用主題及數(shù)據(jù)類型管理監(jiān)控數(shù)據(jù),根據(jù)VM和應(yīng)用組件相關(guān)指標(biāo),定義了常用指標(biāo)數(shù)據(jù)類型,例如VM的CPU、內(nèi)存、網(wǎng)絡(luò)、磁盤使用信息等,如表1所示.

    表1 常用的VM監(jiān)控指標(biāo)類型及主題規(guī)劃

    發(fā)布應(yīng)用需根據(jù)訂閱主題配置監(jiān)控代理實施指標(biāo)收集,為此定義了一種指標(biāo)訂閱規(guī)則語言,將訂閱主題高級指標(biāo)與監(jiān)控指標(biāo)及其監(jiān)控代理進(jìn)行關(guān)聯(lián).例如數(shù)據(jù)類型為CPUInfo的主題包含avg_cpuUtil等高級指標(biāo),avg_cpuUtil等于組件各VM的 CPU平均利用率,用三元組{Filter, Members, Period}描述指標(biāo)訂閱規(guī)則.用Filter將高級指標(biāo)映射為一套低級指標(biāo),可組合使用算術(shù)運算符號(+、-、*、/等)和組函數(shù)(AVG、SUM、MIN、MAX等),對低級指標(biāo)進(jìn)行過濾聚合;用Members指定相關(guān)監(jiān)控代理ID;用Period指定指標(biāo)收集聚合周期.使用BNF格式[18-19]描述了訂閱規(guī)則語言.

    4) 兩級心跳監(jiān)控機制.使用兩級心跳監(jiān)控對監(jiān)控節(jié)點實施?;罟芾?,采用被動心跳監(jiān)控以減小開銷,即由發(fā)布應(yīng)用和訂閱者主動向服務(wù)器周期發(fā)送心跳包,而監(jiān)控代理也周期地向?qū)?yīng)發(fā)布應(yīng)用發(fā)送心跳包.服務(wù)器持續(xù)收到心跳包則維護(hù)節(jié)點狀態(tài)為UP,若連續(xù)未收到心跳包達(dá)指定最大次數(shù),即認(rèn)為該節(jié)點失效,將狀態(tài)置為DEAD.為自動感知節(jié)點位置遷移,在心跳包中嵌入了節(jié)點地址信息.

    3 基于ACE、TAO、OpenDDS中間件實現(xiàn)原型

    圖4 SEPQMS原型的分層結(jié)構(gòu)圖Fig.4 Layered structure diagram of SEPQMS prototype

    SEPQMS原型軟件分層結(jié)構(gòu)如圖4所示.操作系統(tǒng)之上依次是開源中間件ACE、TAO和OpenDDS[16],及最上層的發(fā)布應(yīng)用、訂閱應(yīng)用、注冊匹配應(yīng)用.底層ACE屏蔽了OS差異,向TAO、OpenDDS和應(yīng)用程序提供通信功能接口.TAO是CORBA標(biāo)準(zhǔn)中間件,它使用ACE提供的組件和框架構(gòu)建了對象請求代理(ORB),具有很高性能和可靠性,原型采用TAO實現(xiàn)發(fā)布者和訂閱者的主題注冊服務(wù).OpenDDS是Object Computing公司遵循DDS標(biāo)準(zhǔn)的開源中間件,實現(xiàn)了DDS DCPS核心層及QoS控制,使用ACE和TAO提供的框架和接口,提供“可插拔傳輸層”實現(xiàn)監(jiān)控數(shù)據(jù)傳輸.基于OpenDDS實現(xiàn)了監(jiān)控數(shù)據(jù)發(fā)布/訂閱功能層,并與原型其他組件如監(jiān)控代理等實現(xiàn)對接.

    1) 監(jiān)控代理與指標(biāo)探測器:使用Java代理開發(fā)平臺JADE開發(fā)監(jiān)控代理,結(jié)構(gòu)如圖5所示.它部署啟動后,發(fā)布應(yīng)用連接器立即向發(fā)布應(yīng)用請求連接,隨后發(fā)送其ID、IP、收集指標(biāo)等元數(shù)據(jù)并等待監(jiān)控指令.發(fā)布應(yīng)用根據(jù)匹配的訂閱主題,生成相應(yīng)的監(jiān)控配置參數(shù)發(fā)送給相關(guān)監(jiān)控代理,而后Probe控制器完成監(jiān)控配置并啟動相關(guān)Probe測量.Probe收集指標(biāo)送至指標(biāo)隊列,之后由監(jiān)控代理封裝為消息,陸續(xù)推送給發(fā)布代理.

    2) 發(fā)布應(yīng)用和訂閱應(yīng)用.發(fā)布應(yīng)用包含監(jiān)控代理管理、監(jiān)控指標(biāo)管理和OpenDDS發(fā)布者、數(shù)據(jù)寫入器等組件.監(jiān)控代理管理組件管理所屬監(jiān)控代理,處理其連接請求和心跳包、對監(jiān)控代理進(jìn)行參數(shù)配置等.指標(biāo)管理組件負(fù)責(zé)對匹配主題實施指標(biāo)訂閱,獲得監(jiān)控配置參數(shù),并在收到監(jiān)控指標(biāo)后按訂閱規(guī)則將其映射為高級指標(biāo),生成主題樣本提交給數(shù)據(jù)寫入器,后者通過發(fā)布者與訂閱者建立通信,按主題QoS約束將數(shù)據(jù)傳送給訂閱者,訂閱者接收主題數(shù)據(jù)并轉(zhuǎn)發(fā)給相應(yīng)數(shù)據(jù)讀取器保存.

    4 實驗及分析

    為了對SEPQMS的功能以及主要特性進(jìn)行檢驗和評價,選擇在幾個公有云部署如下代表性應(yīng)用,搭建真實多云環(huán)境.Cassandra DB[20],是一個NoSQL分布式存儲系統(tǒng),采用無中心架構(gòu),客戶端讀寫數(shù)據(jù)時,系統(tǒng)隨機調(diào)度訪問任一節(jié)點并同步節(jié)點數(shù)據(jù),施加較大負(fù)載時簇節(jié)點CPU利用率增加,這里基于CPU使用率決策資源升級.YCSB[21]是由Yahoo針對NoSQL系統(tǒng)開發(fā)的性能測試框架,能產(chǎn)生6種不同負(fù)載,利用YCSB產(chǎn)生對Cassandra的負(fù)載,任選部署YCSB的A、C、E這3種負(fù)載.

    圖5 監(jiān)控代理結(jié)構(gòu)圖

    選擇在3個公有云安排如下:分別部署10個VM,8個部署Cassandra數(shù)據(jù)庫,2個部署YCSB客戶端,3個云分別部署YCSB的A、C、E負(fù)載,使用規(guī)格不一、操作系統(tǒng)各異的VM.具體如下:在Amazon新加坡數(shù)據(jù)中心,部署10個m1.small(使用CentOS)EC2實例,實施YCSB A負(fù)載;在Rackspace香港數(shù)據(jù)中心,部署10個General1-2實例(使用Debian),實施 YCSB C負(fù)載;在Linode新加坡數(shù)據(jù)中心,部署10個Linode2GB實例(使用Ubuntu),實施YCSB E負(fù)載;選擇Cassandra簇和YCSB客戶端的任一VM部署發(fā)布應(yīng)用;部署在YCSB VM的監(jiān)控代理安裝VM及YCSB應(yīng)用相關(guān)Probe,部署在Cassandra VM的監(jiān)控代理,安裝VM及Cassandra應(yīng)用相關(guān)Probe.在本地一臺服務(wù)器(聯(lián)想i7、Intel 4核處理器、8 GB內(nèi)存)實例化2個VM,分別部署主題注冊匹配服務(wù)器和訂閱應(yīng)用.開發(fā)了幾個Probes分別對如表1所示常用15個VM指標(biāo),以及Cassandra讀寫延遲、YCSB吞吐量和延遲指標(biāo)進(jìn)行測量.

    4.1 檢驗SEPQMS對監(jiān)控資源彈性的適應(yīng)能力

    3個云中監(jiān)控設(shè)施對資源彈性適應(yīng)過程完全相似,因此只在一個云中進(jìn)行實驗.在Amazon的10個VM的2個VM部署Cassandra簇,2個部署YCSB,生成不斷增大負(fù)載,導(dǎo)致Cassandra VM的CPU使用率不斷增大,設(shè)定當(dāng)簇CPU平均使用率達(dá)75%,即新添1個VM加入Cassandra簇,Cassandra為應(yīng)付逐漸加大的負(fù)載,動態(tài)添加更多節(jié)點,直到8個VM全部添加.監(jiān)控代理隨新添加VM一同部署,訂閱應(yīng)用對YCSB和Cassandra組件的CPU_Info、Memory_Info、YCSBInfo、CassandraInfo等主題進(jìn)行訂閱.監(jiān)控代理一經(jīng)部署初始化后,即與其發(fā)布應(yīng)用連接,接受參數(shù)配置,隨后開始指標(biāo)收集和推送.實驗顯示SEPQMS能夠較好滿足應(yīng)用資源彈性提供環(huán)境的監(jiān)控需求.

    4.2 實施多云部署,進(jìn)行跨平臺性、監(jiān)控擴展能力及QoS支持能力、監(jiān)控開銷的檢驗評價

    圖6 主要監(jiān)控實體CPU及內(nèi)存使用率分布Fig.6 CPU and memory usage distribution of monitoring entities

    在3個云分別部署YCSB負(fù)載A、C、E,各云均包含YCSB和Cassandra組件,將3個云中的6個組件均劃分到同一個租戶監(jiān)控數(shù)據(jù)域,實例化一個訂閱實體對6個組件的VM及應(yīng)用指標(biāo)主題進(jìn)行訂閱.每個云開始時初始化2個YCSB VM和1個Cassandra VM,然后每10分鐘從剩下的7個VM中任選一個初始化加入到Cassandra簇,直到所有Cassandra VM全部初始化并開始收集.為評價監(jiān)控框架擴展能力,考慮訂閱實體作為監(jiān)控數(shù)據(jù)匯集點,隨VM規(guī)模升級,將承受越來越大的處理壓力,特別測量了訂閱實體的archiving時間,即處理及保存監(jiān)控數(shù)據(jù)的平均時間.升級多云應(yīng)用拓?fù)溆?個VM到30個VM時,觀察到archiving平均時間從20 ms上升到40 ms,呈現(xiàn)很緩慢的上升.另外,實驗中觀察到Y(jié)CSB和Cassandra節(jié)點VM監(jiān)控代理,以及發(fā)布應(yīng)用、訂閱應(yīng)用的CPU和內(nèi)存使用率分布如圖6所示.YCSB節(jié)點監(jiān)控代理CPU及內(nèi)存最大使用率分別是0.7%、2.0%,Cassandra的該值分別為0.3%、1.6%,發(fā)布應(yīng)用的該值分別為1%、2.5%,訂閱應(yīng)用的該值分別為1.5%和3.5%,可以看出,監(jiān)控設(shè)施的資源開銷還是比較小的.此外,3個云中VM均采用不同操作系統(tǒng),SEPQMS有效實現(xiàn)了跨平臺監(jiān)控.實驗中還對訂閱主題附加了不同的更新周期、最大數(shù)據(jù)延遲、傳輸協(xié)議配置等QoS選項,實驗表明SEPQMS有效實現(xiàn)了對傳輸QoS的控制.

    5 結(jié)論

    本文在深入分析多云資源及應(yīng)用監(jiān)控需求基礎(chǔ)上,提出了一種可擴展、能適應(yīng)資源彈性、與平臺無關(guān)、并支持傳輸QoS控制的多云監(jiān)控方法SEPQMS,實現(xiàn)了系統(tǒng)原型,搭建真實多云環(huán)境,部署SEPQMS原型進(jìn)行了實驗,驗證了SEPQMS的功能及擴展性、平臺無關(guān)性、彈性適應(yīng)性及自治性等主要屬性.對監(jiān)控設(shè)施開銷的分析表明,引入SEPQMS對多云應(yīng)用環(huán)境的影響很小.

    [3] AMAZON. Amazon cloudwatch[DS/OL].[2016-09-08].http://aws.amazon.com/cn/cloudwatch/.

    [4] MICROSOFT. Microsoft azure[DS/OL].[2016-09-08].https://azure.microsoft.com/en-in/marketplace/partners/paraleap/azurewatch/.

    [5] VMWARE. VRealize hyperic[DS/OL].[2016-09-08].http://www.cloudstatus.com/.

    [6] MONITIS. All-in-one application monitoring platform[DS/OL].[2016-09-08].http://www.monitis.com/.

    [7] LOGIC MONITOR. Monitor on-premise,cloud and hybrid datacenters from a single platform[DS/OL].[2016-09-08].http://www.logicmonitor.com/.

    [8] AVERSA R, TASQUIER L,VENTICINQUE S. Agents based monitoring of heterogeneous cloud infrastructures [C]//Proceedings of the 10th International Conference on Ubiquitous Intelligence and Computing, and the 10th International Conference on Autonomic and Trusted Computing(UIC/ATC). Vietri sul Mare, 2013: 527-532.

    [9] TRIHINAS D, PALLIS G, DIKAIAKOS M D. JCatascopia: monitoring elastically adaptive applications in the cloud [C]//Proceedings of the 14th IEEE/ACM International Symposium on Cluster, Cloud and Grid Computing. Chicago,2014: 226-235.

    [10]LEITNER P, INZINGER C, HUMMER W, et al. Application-level performance monitoring of cloud services based on the complex event processing paradigm [C]//Proceedings of the 5th IEEE International Conference on Service-Oriented Computing and Applications. Taipei, 2012: 1-8.

    [11]AN K, PRADHAN S, CAGLAR F, et al. A publish/subscribe middleware for dependable and real-time resource monitoring in the cloud [C]// Proceedings of the Workshop on Secure and Dependable Middleware for Cloud Monitoring and Management. New York, 2012: 3.

    [12]DASTJERDI A V, TABATABAEI S G H, BUYYA R. A dependency-aware ontology-based approach for deploying service level agreement monitoring services in Cloud [J]. Software practice & experience, 2012, 42(4): 501-518.

    [13]KERTéSZ A, KECSKEMETI G, ORIOL M, et al. Enhancing federated cloud management with an integrated service monitoring approach [J]. Journal of grid computing, 2013, 11(4): 699-720.

    [14]SMIT M, SIMMONS B, LITOIU M. Distributed, application-level monitoring for heterogeneous clouds using stream processing [J]. Future generation computer systems, 2013, 29(8): 2103-2114.

    [15]OMG. Data distribution service[DS/OL].[2016-09-08].http://www.omg.org/spec/DDS/.

    [16]WASHINGTON UNIVERSITY. Computer science and engineering[DS/OL].[2016-09-08].http://www.cs.wustl.edu/.

    [17]KATSAROS G, KOUSIOURIS G, GOGOUVITIS S V, et al. A self-adaptive hierarchical monitoring mechanism for clouds [J]. Journal of systems and software, 2012, 85(5): 1029-1041.

    [18]楊明輝, 郭肇德. 基于擴展的 BNF 文法的通用語法分析算法[J]. 軟件學(xué)報, 1992, 3(3): 24-32.

    [19]蔡宏果, 元昌安, 羅錦光, 等.基于server session約束的序列模式增長挖掘研究[J].鄭州大學(xué)學(xué)報(理學(xué)版), 2010, 42(1): 24-28.

    [20]LAKSHMAN A, MALIK P. Cassandra:a decentralized structured storage system [J]. ACM SIGOPS operating systems review, 2010, 44(2): 35-40.

    [21]ABUBAKAR Y, ADEYI T, AUTA I G. Performance evaluation of No SQL systems using YCSB in a resource austere environment [J]. Performance evaluation, 2014, 7(8):23-27.

    (責(zé)任編輯:王海科)

    An SEPQMS Approach to Monitoring Resource and Application for Multi-Cloud

    ZHU Huamin1, ZHOU Zhenji1, WU Lifa1, WANG Haibo2

    (1.InstituteofCommandInformationSystem,PLAUniversityofScienceandTechnology,Nanjing210007,China; 2.CenterofEducationalTechnologyandInformation,MudanjiangMedicalUniversity,Mudanjiang157011,China)

    The monitoring of resources and applications was the prerequisite in resource planning, resource scheduling, elastic provision, and service quality evaluation in cloud computing. Based on the demand in multi-cloud monitoring, a scalable, elastic-adaptive, platform-independent and QoS-enabled monitoring solution (SEPQMS) was proposed. A monitoring-agent-based method was used to collect monitoring metrics, by which metric probes could be installed in a plug-in manner. Also, a monitoring data distribution architecture was devised based on the publish/subscribe model according to the specification of object management group data distribution service (OMG DDS). Finally, a prototype of SEPQMS was developed to test. The result showed that SEPQMS could monitor multi-clouds of various sizes in a platform-independent way,and monitoring metrics could be customized as needed. It was also proved that SEPQMS could adapt to the elasticity and migration of cloud resources,and could control the quality of monitoring data transmission. Moreover, SEPQMS had low runtime footprint.

    multi-cloud monitoring; publish/subscribe model; scalability; elastic-adaptive; quality of service

    2016-11-10

    江蘇省自然科學(xué)基金項目(BK20131069).

    朱華旻(1978—),男,四川遂寧人,博士研究生,主要從事網(wǎng)絡(luò)應(yīng)用研究,E-mail: 58656046@qq.com; 通信作者:吳禮發(fā)(1968—),男,湖北黃岡人,教授,主要從事網(wǎng)絡(luò)與信息安全研究,E-mail: wulifa@vip.163.com.

    TP393.09

    A

    1671-6841(2017)03-0045-07

    10.13705/j.issn.1671-6841.2016317

    猜你喜歡
    發(fā)布者多云代理
    向日葵·成長·禮物
    代理圣誕老人
    代理手金寶 生意特別好
    基于NDN的高效發(fā)布/訂閱系統(tǒng)設(shè)計與實現(xiàn)
    家有蟈蟈
    何氏“十全大補粥”
    廣告發(fā)布者的著作權(quán)審查義務(wù)問題研究
    復(fù)仇代理烏龜君
    加權(quán)映射匹配方法的站內(nèi)搜索引擎設(shè)計
    我和小苗們共成長(二)
    日日爽夜夜爽网站| 免费电影在线观看免费观看| cao死你这个sao货| 亚洲精品久久国产高清桃花| 色播亚洲综合网| 亚洲性夜色夜夜综合| 亚洲av第一区精品v没综合| 欧美zozozo另类| 免费搜索国产男女视频| 亚洲精品中文字幕一二三四区| 亚洲熟妇中文字幕五十中出| 岛国视频午夜一区免费看| 草草在线视频免费看| 亚洲,欧美精品.| 成人三级黄色视频| 日韩欧美国产在线观看| 91麻豆av在线| 午夜免费激情av| 国产成人精品无人区| 俄罗斯特黄特色一大片| 国产一区二区三区在线臀色熟女| 亚洲av成人av| 久久婷婷人人爽人人干人人爱| 美女午夜性视频免费| 在线永久观看黄色视频| 欧美性猛交黑人性爽| 狠狠狠狠99中文字幕| 亚洲精品久久国产高清桃花| 亚洲成人久久爱视频| 欧美另类亚洲清纯唯美| 波多野结衣巨乳人妻| 亚洲精品一卡2卡三卡4卡5卡| 此物有八面人人有两片| www.999成人在线观看| 90打野战视频偷拍视频| 国产欧美日韩一区二区精品| 丰满人妻熟妇乱又伦精品不卡| 中文字幕久久专区| 国产精品一区二区免费欧美| 久久久久久久久免费视频了| 久久精品亚洲精品国产色婷小说| 国产高清视频在线播放一区| 99re在线观看精品视频| 90打野战视频偷拍视频| 久久性视频一级片| 一本精品99久久精品77| 国产精品乱码一区二三区的特点| 18禁观看日本| 亚洲国产欧洲综合997久久, | 成人三级做爰电影| 淫妇啪啪啪对白视频| 男男h啪啪无遮挡| 一边摸一边做爽爽视频免费| 两个人免费观看高清视频| 亚洲九九香蕉| 久久久精品国产亚洲av高清涩受| 两个人看的免费小视频| 美国免费a级毛片| 欧美三级亚洲精品| 免费av毛片视频| 亚洲欧美一区二区三区黑人| 国产精品亚洲av一区麻豆| 免费在线观看日本一区| 亚洲国产精品合色在线| 亚洲成人精品中文字幕电影| 俄罗斯特黄特色一大片| 老司机午夜十八禁免费视频| 国产精品野战在线观看| 一区二区三区高清视频在线| 老汉色av国产亚洲站长工具| 久9热在线精品视频| 国产片内射在线| 看黄色毛片网站| 一级毛片高清免费大全| 麻豆久久精品国产亚洲av| 少妇被粗大的猛进出69影院| a级毛片在线看网站| 欧美丝袜亚洲另类 | 婷婷精品国产亚洲av在线| 免费av毛片视频| 亚洲七黄色美女视频| 三级毛片av免费| 黄片播放在线免费| 亚洲熟女毛片儿| 精品久久久久久,| 亚洲一区二区三区色噜噜| 欧美不卡视频在线免费观看 | 最近最新中文字幕大全免费视频| 听说在线观看完整版免费高清| 久久中文字幕人妻熟女| 搡老妇女老女人老熟妇| 国产高清有码在线观看视频 | 亚洲精品av麻豆狂野| 国产亚洲精品综合一区在线观看 | 日本 欧美在线| 岛国视频午夜一区免费看| 亚洲av电影在线进入| 在线观看日韩欧美| 亚洲 欧美一区二区三区| 成人国产综合亚洲| 丁香欧美五月| 国产成人精品久久二区二区91| 免费在线观看亚洲国产| 国产aⅴ精品一区二区三区波| 国产精品乱码一区二三区的特点| 巨乳人妻的诱惑在线观看| 亚洲无线在线观看| 久久性视频一级片| 特大巨黑吊av在线直播 | 1024香蕉在线观看| 欧美黑人巨大hd| 午夜福利成人在线免费观看| 女人爽到高潮嗷嗷叫在线视频| 身体一侧抽搐| 亚洲精品美女久久av网站| 这个男人来自地球电影免费观看| 精品久久久久久久久久久久久 | 日本免费一区二区三区高清不卡| 国产精品爽爽va在线观看网站 | 亚洲中文日韩欧美视频| 久久精品人妻少妇| 哪里可以看免费的av片| 亚洲精品久久国产高清桃花| 亚洲avbb在线观看| 欧美乱色亚洲激情| av免费在线观看网站| 悠悠久久av| 一级a爱片免费观看的视频| 亚洲av日韩精品久久久久久密| 精品国产乱码久久久久久男人| 一本一本综合久久| 午夜免费激情av| tocl精华| 非洲黑人性xxxx精品又粗又长| 免费在线观看黄色视频的| 两性夫妻黄色片| 精品熟女少妇八av免费久了| 精品熟女少妇八av免费久了| 首页视频小说图片口味搜索| www.精华液| 男女那种视频在线观看| 久久热在线av| 亚洲国产欧美网| 欧美不卡视频在线免费观看 | 精品日产1卡2卡| 好看av亚洲va欧美ⅴa在| 日韩欧美国产一区二区入口| 国产精品自产拍在线观看55亚洲| x7x7x7水蜜桃| 久久精品国产综合久久久| 人人妻人人澡欧美一区二区| 亚洲精品中文字幕一二三四区| 少妇的丰满在线观看| 色播在线永久视频| 99国产极品粉嫩在线观看| 久久久精品欧美日韩精品| 日韩一卡2卡3卡4卡2021年| 免费在线观看日本一区| 嫩草影视91久久| 制服丝袜大香蕉在线| 亚洲一区高清亚洲精品| 亚洲自偷自拍图片 自拍| 婷婷精品国产亚洲av在线| 久久中文字幕一级| 亚洲avbb在线观看| 精品国产亚洲在线| 亚洲久久久国产精品| 热99re8久久精品国产| 久久精品国产综合久久久| 精华霜和精华液先用哪个| 嫁个100分男人电影在线观看| 亚洲av中文字字幕乱码综合 | 精品免费久久久久久久清纯| 国产久久久一区二区三区| 777久久人妻少妇嫩草av网站| 国内揄拍国产精品人妻在线 | 一本精品99久久精品77| 国产爱豆传媒在线观看 | 99riav亚洲国产免费| 国内精品久久久久久久电影| xxxwww97欧美| 成人亚洲精品av一区二区| 精品日产1卡2卡| 久久精品亚洲精品国产色婷小说| 欧美日韩黄片免| 婷婷六月久久综合丁香| 亚洲av电影在线进入| 99精品久久久久人妻精品| x7x7x7水蜜桃| 欧美另类亚洲清纯唯美| 亚洲中文日韩欧美视频| 熟女电影av网| 日韩 欧美 亚洲 中文字幕| 亚洲中文av在线| 久久亚洲真实| 精品熟女少妇八av免费久了| 国产97色在线日韩免费| 久久国产精品人妻蜜桃| 国产精品一区二区免费欧美| 精品国产国语对白av| 色哟哟哟哟哟哟| 2021天堂中文幕一二区在线观 | 色av中文字幕| 国产激情偷乱视频一区二区| 亚洲一区二区三区不卡视频| 国产午夜福利久久久久久| 国产精品久久久av美女十八| 国产三级黄色录像| 黄频高清免费视频| 日本a在线网址| 国内精品久久久久久久电影| 久久久久久国产a免费观看| 亚洲国产欧美一区二区综合| 1024手机看黄色片| 欧美成人免费av一区二区三区| 国产精品亚洲美女久久久| 国内少妇人妻偷人精品xxx网站 | 欧美黑人精品巨大| 国产黄a三级三级三级人| 免费高清在线观看日韩| 黄频高清免费视频| 国产高清有码在线观看视频 | 搡老熟女国产l中国老女人| 不卡一级毛片| av中文乱码字幕在线| 欧美黑人精品巨大| 99热只有精品国产| 免费人成视频x8x8入口观看| 老司机午夜福利在线观看视频| 人人澡人人妻人| 757午夜福利合集在线观看| 午夜视频精品福利| 免费电影在线观看免费观看| 变态另类丝袜制服| 啪啪无遮挡十八禁网站| 欧美成狂野欧美在线观看| 一本精品99久久精品77| 看黄色毛片网站| 欧美不卡视频在线免费观看 | 激情在线观看视频在线高清| 嫩草影视91久久| 国产在线观看jvid| 在线观看一区二区三区| 免费电影在线观看免费观看| 最近最新中文字幕大全免费视频| av福利片在线| 成人国语在线视频| 日日爽夜夜爽网站| 亚洲精品在线美女| 欧美午夜高清在线| 丝袜美腿诱惑在线| 最近在线观看免费完整版| 国产成人一区二区三区免费视频网站| 9191精品国产免费久久| 女同久久另类99精品国产91| 成年版毛片免费区| 亚洲 国产 在线| 波多野结衣高清作品| 国产精品久久久久久人妻精品电影| 很黄的视频免费| 亚洲精品国产一区二区精华液| 我的亚洲天堂| 精品一区二区三区视频在线观看免费| 91成年电影在线观看| 免费人成视频x8x8入口观看| 中文字幕最新亚洲高清| 12—13女人毛片做爰片一| 国产亚洲精品久久久久5区| 午夜久久久在线观看| 一边摸一边做爽爽视频免费| 国产精品,欧美在线| 久久亚洲真实| 成人三级做爰电影| 老熟妇乱子伦视频在线观看| 天天躁狠狠躁夜夜躁狠狠躁| 亚洲中文av在线| 69av精品久久久久久| 女人被狂操c到高潮| 亚洲自偷自拍图片 自拍| 日韩精品中文字幕看吧| 自线自在国产av| 国产一卡二卡三卡精品| 99riav亚洲国产免费| 久久人妻av系列| 岛国在线观看网站| 男人舔女人的私密视频| 久久久国产精品麻豆| 亚洲欧美激情综合另类| 亚洲一区中文字幕在线| 免费在线观看完整版高清| av在线播放免费不卡| 制服丝袜大香蕉在线| 校园春色视频在线观看| 久久 成人 亚洲| 国产成人欧美| 国产又色又爽无遮挡免费看| 亚洲一码二码三码区别大吗| 成人三级做爰电影| 亚洲国产精品合色在线| 悠悠久久av| 亚洲 国产 在线| 亚洲男人天堂网一区| 中亚洲国语对白在线视频| 成熟少妇高潮喷水视频| 亚洲va日本ⅴa欧美va伊人久久| 亚洲 国产 在线| 在线免费观看的www视频| 亚洲av第一区精品v没综合| 精品午夜福利视频在线观看一区| 久久精品亚洲精品国产色婷小说| 此物有八面人人有两片| 一进一出好大好爽视频| 亚洲av熟女| 国产熟女午夜一区二区三区| 亚洲av五月六月丁香网| 成人国产一区最新在线观看| 亚洲精品美女久久久久99蜜臀| 国产亚洲av嫩草精品影院| 欧美另类亚洲清纯唯美| 亚洲欧美精品综合一区二区三区| 久久亚洲精品不卡| 久久婷婷人人爽人人干人人爱| or卡值多少钱| 18禁裸乳无遮挡免费网站照片 | 国产精品一区二区三区四区久久 | 免费人成视频x8x8入口观看| av福利片在线| 久久国产亚洲av麻豆专区| 麻豆久久精品国产亚洲av| 男女床上黄色一级片免费看| 欧美色视频一区免费| 日韩大尺度精品在线看网址| 久久国产精品影院| 波多野结衣av一区二区av| 制服丝袜大香蕉在线| 欧美中文日本在线观看视频| 女人爽到高潮嗷嗷叫在线视频| 动漫黄色视频在线观看| 老汉色av国产亚洲站长工具| 这个男人来自地球电影免费观看| 狂野欧美激情性xxxx| 久久草成人影院| 精品福利观看| 巨乳人妻的诱惑在线观看| 听说在线观看完整版免费高清| 男人的好看免费观看在线视频 | 国产不卡一卡二| 午夜福利在线观看吧| 午夜福利成人在线免费观看| 美国免费a级毛片| 在线视频色国产色| 亚洲九九香蕉| 欧美中文日本在线观看视频| 熟妇人妻久久中文字幕3abv| 亚洲真实伦在线观看| 大型av网站在线播放| 法律面前人人平等表现在哪些方面| 看黄色毛片网站| www.自偷自拍.com| 亚洲人成77777在线视频| 国产真实乱freesex| 成年免费大片在线观看| 欧美性长视频在线观看| 亚洲国产毛片av蜜桃av| 亚洲欧美一区二区三区黑人| 亚洲第一电影网av| 国产高清视频在线播放一区| a级毛片a级免费在线| 99在线视频只有这里精品首页| 久久国产亚洲av麻豆专区| 亚洲精品在线观看二区| 午夜免费观看网址| 久久久久九九精品影院| 国产成人av激情在线播放| 自线自在国产av| 久久久久久久久久黄片| 亚洲人成电影免费在线| 男男h啪啪无遮挡| 亚洲一区中文字幕在线| 国产免费av片在线观看野外av| 国产av又大| 在线国产一区二区在线| 自线自在国产av| 亚洲欧美一区二区三区黑人| 国产成人一区二区三区免费视频网站| 色老头精品视频在线观看| 国产精品免费一区二区三区在线| 一二三四社区在线视频社区8| 99精品久久久久人妻精品| 免费一级毛片在线播放高清视频| 日韩欧美国产一区二区入口| 精品国产乱码久久久久久男人| 可以免费在线观看a视频的电影网站| 中文字幕高清在线视频| 久久婷婷成人综合色麻豆| 在线观看一区二区三区| 老鸭窝网址在线观看| 日本一本二区三区精品| 黑人巨大精品欧美一区二区mp4| 午夜福利高清视频| 黄色视频,在线免费观看| 好男人在线观看高清免费视频 | aaaaa片日本免费| www日本在线高清视频| 日韩精品青青久久久久久| 欧美黄色片欧美黄色片| 久久久精品国产亚洲av高清涩受| 亚洲va日本ⅴa欧美va伊人久久| 巨乳人妻的诱惑在线观看| 一二三四社区在线视频社区8| 日韩av在线大香蕉| 啦啦啦观看免费观看视频高清| 女同久久另类99精品国产91| 此物有八面人人有两片| 亚洲熟女毛片儿| 黄色视频,在线免费观看| 最近最新中文字幕大全电影3 | 美女午夜性视频免费| 国产色视频综合| 好看av亚洲va欧美ⅴa在| 免费av毛片视频| x7x7x7水蜜桃| 国产99白浆流出| 国产伦人伦偷精品视频| 国产精品一区二区免费欧美| 日本五十路高清| 给我免费播放毛片高清在线观看| 超碰成人久久| 波多野结衣高清作品| 亚洲国产中文字幕在线视频| 在线观看www视频免费| 久久人妻福利社区极品人妻图片| 亚洲在线自拍视频| 巨乳人妻的诱惑在线观看| 精品欧美国产一区二区三| 色婷婷久久久亚洲欧美| 日本精品一区二区三区蜜桃| 亚洲欧美激情综合另类| 国产黄片美女视频| 精品久久久久久久毛片微露脸| 国产麻豆成人av免费视频| 久热爱精品视频在线9| 女性生殖器流出的白浆| 国内久久婷婷六月综合欲色啪| 国产精品久久久久久亚洲av鲁大| 一区二区三区精品91| 又黄又爽又免费观看的视频| 久久久精品欧美日韩精品| 亚洲黑人精品在线| 看免费av毛片| 亚洲久久久国产精品| 天堂影院成人在线观看| 两个人免费观看高清视频| 久久久久久久精品吃奶| 精品国产乱子伦一区二区三区| 亚洲欧美日韩无卡精品| 麻豆国产av国片精品| 成年版毛片免费区| 免费高清视频大片| 97超级碰碰碰精品色视频在线观看| 老司机靠b影院| 亚洲aⅴ乱码一区二区在线播放 | 色综合欧美亚洲国产小说| 日韩免费av在线播放| 91国产中文字幕| 婷婷精品国产亚洲av| 免费看美女性在线毛片视频| 成人18禁高潮啪啪吃奶动态图| 亚洲美女黄片视频| 色精品久久人妻99蜜桃| 免费在线观看视频国产中文字幕亚洲| 变态另类丝袜制服| 精品久久久久久成人av| 少妇 在线观看| 国内毛片毛片毛片毛片毛片| 久久 成人 亚洲| 亚洲第一青青草原| 国产精品久久电影中文字幕| 亚洲成人精品中文字幕电影| 国产成人av教育| 一级a爱视频在线免费观看| 色综合站精品国产| 我的亚洲天堂| 黄色女人牲交| 国产成人欧美在线观看| 老司机靠b影院| 国产亚洲av嫩草精品影院| 欧美不卡视频在线免费观看 | 性色av乱码一区二区三区2| 日日夜夜操网爽| 国产精品久久久久久精品电影 | 亚洲国产精品999在线| 一进一出抽搐动态| 精品国产超薄肉色丝袜足j| 老鸭窝网址在线观看| 韩国av一区二区三区四区| 淫秽高清视频在线观看| 99热6这里只有精品| 亚洲人成网站在线播放欧美日韩| 欧美黑人巨大hd| 国语自产精品视频在线第100页| 人成视频在线观看免费观看| 搞女人的毛片| 叶爱在线成人免费视频播放| 久久久久免费精品人妻一区二区 | 成人国语在线视频| 亚洲精品一区av在线观看| 夜夜夜夜夜久久久久| 亚洲 国产 在线| 国产成人av教育| 亚洲成人久久性| 久久午夜亚洲精品久久| 白带黄色成豆腐渣| 午夜亚洲福利在线播放| 老司机深夜福利视频在线观看| 国产精品日韩av在线免费观看| 久久青草综合色| 亚洲精品美女久久久久99蜜臀| 免费在线观看日本一区| 美女高潮喷水抽搐中文字幕| 一本精品99久久精品77| 少妇被粗大的猛进出69影院| 法律面前人人平等表现在哪些方面| 亚洲真实伦在线观看| 久久久国产成人精品二区| 色在线成人网| 国产亚洲欧美98| 日韩精品青青久久久久久| 在线观看日韩欧美| 人人妻,人人澡人人爽秒播| 国产极品粉嫩免费观看在线| 午夜视频精品福利| 久久午夜亚洲精品久久| 亚洲一区二区三区色噜噜| 久久香蕉激情| 午夜免费成人在线视频| 很黄的视频免费| 国产野战对白在线观看| 99久久精品国产亚洲精品| 女人高潮潮喷娇喘18禁视频| 麻豆av在线久日| 在线观看舔阴道视频| 一夜夜www| 国产又黄又爽又无遮挡在线| 此物有八面人人有两片| 国产av又大| 悠悠久久av| 很黄的视频免费| 欧美av亚洲av综合av国产av| 国产精品久久电影中文字幕| 国产又爽黄色视频| 桃色一区二区三区在线观看| 久久国产精品男人的天堂亚洲| 成年免费大片在线观看| 一区福利在线观看| 免费看日本二区| 亚洲国产看品久久| 久久伊人香网站| 丁香欧美五月| 正在播放国产对白刺激| 亚洲精品粉嫩美女一区| 中文资源天堂在线| 久久中文字幕人妻熟女| 亚洲va日本ⅴa欧美va伊人久久| 亚洲aⅴ乱码一区二区在线播放 | 亚洲专区中文字幕在线| 老司机午夜十八禁免费视频| 国产一区在线观看成人免费| 伦理电影免费视频| 亚洲精品美女久久久久99蜜臀| 色播在线永久视频| 两个人视频免费观看高清| 女同久久另类99精品国产91| 在线观看日韩欧美| 国产男靠女视频免费网站| 国产成人av教育| 亚洲全国av大片| 国产国语露脸激情在线看| 日本五十路高清| 欧美另类亚洲清纯唯美| 美女高潮喷水抽搐中文字幕| 可以在线观看毛片的网站| 国产三级黄色录像| 久久精品亚洲精品国产色婷小说| 免费人成视频x8x8入口观看| 999久久久精品免费观看国产| 日韩有码中文字幕| 麻豆久久精品国产亚洲av| 国产成人av教育| 精品国产一区二区三区四区第35| 欧美一级毛片孕妇| 色综合亚洲欧美另类图片| 成人欧美大片| 久久人妻福利社区极品人妻图片| 岛国在线观看网站| 嫁个100分男人电影在线观看| 亚洲 国产 在线| 特大巨黑吊av在线直播 | 欧洲精品卡2卡3卡4卡5卡区| 久久中文看片网| 看片在线看免费视频| 叶爱在线成人免费视频播放| 又紧又爽又黄一区二区| 黄色片一级片一级黄色片| 美女午夜性视频免费| 欧美久久黑人一区二区| 女性生殖器流出的白浆| 两性午夜刺激爽爽歪歪视频在线观看 | 国产1区2区3区精品| 少妇裸体淫交视频免费看高清 | 国产成年人精品一区二区| 人人妻人人看人人澡| 69av精品久久久久久| 国产一级毛片七仙女欲春2 | 午夜视频精品福利|