• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    一種新的物理主機(jī)資源利用閾值邊界管理策略

    2020-10-23 06:37:40宋宇翔徐勝超
    數(shù)據(jù)采集與處理 2020年5期
    關(guān)鍵詞:能量消耗管理策略數(shù)據(jù)中心

    宋宇翔,徐勝超

    (1.廣東培正學(xué)院數(shù)據(jù)科學(xué)與計(jì)算機(jī)學(xué)院,廣州,510830;2.北部灣大學(xué)電子與信息工程學(xué)院,欽州,535011)

    引 言

    虛擬機(jī)遷移是近年來(lái)大規(guī)模節(jié)能綠色云數(shù)據(jù)中心構(gòu)造的關(guān)鍵技術(shù)[1-3],虛擬機(jī)遷移過(guò)程中不可避免地涉及到物理主機(jī)的資源閾值邊界[4],目前Cloudsim 工具包中提到的幾種物理資源閾值管理辦法往往局限在物理主機(jī)狀態(tài)檢測(cè)階段;已經(jīng)有很多算法對(duì)物理資源的利用率進(jìn)行優(yōu)化[5],比如溫度感知算法[6-7]、穩(wěn)定匹配算法[8]、虛擬機(jī)關(guān)聯(lián)性算法[9]以及貪心算法[10]等,但它們局限在虛擬機(jī)選擇或放置階段,缺乏主動(dòng)性、自適應(yīng)性。物理主機(jī)資源閾值邊界管理策略可以分為主動(dòng)法和被動(dòng)法,其中被動(dòng)的方法意味著在物理主機(jī)的資源已經(jīng)超過(guò)閾值邊界之后再采取動(dòng)作;主動(dòng)的方法是指通過(guò)觀察資源使用的樣本數(shù)據(jù)在前一階段的利用率情況,提前預(yù)測(cè)出可能出現(xiàn)狀態(tài)異常的物理主機(jī),接著進(jìn)行虛擬機(jī)遷移的后續(xù)步驟。已有的物理主機(jī)資源閾值管理策略大多采用靜態(tài)資源使用率閾值邊界來(lái)確定主機(jī)是超負(fù)載或者低負(fù)載,其資源邊界考慮的維度因素也比較單一;其針對(duì)的云客戶端也不是自適應(yīng)的,以被動(dòng)的方式檢測(cè)為主。因?yàn)槲锢碇鳈C(jī)資源狀態(tài)是隨著時(shí)間和應(yīng)用程序的訪問(wèn)而不斷動(dòng)態(tài)變化的,這對(duì)物理主機(jī)資源閾值管理提出了新的要求。本文提出了一種新的物理主機(jī)資源利用閾值邊界管理策略(Physical resource host utilization thresholds management strategy, RUT-MS)。該策略是一種自適應(yīng)的、動(dòng)態(tài)的物理資源閾值邊界管理方法,它采用時(shí)間序列和迭代權(quán)重線性回歸方法預(yù)測(cè)出物理主機(jī)在未來(lái)的一段時(shí)間內(nèi)的資源使用率情況來(lái)確定其閾值邊界,是一種主動(dòng)檢測(cè)策略,同時(shí)考慮的物理資源包括處理器、內(nèi)存、網(wǎng)絡(luò)帶寬等多個(gè)維度。RUT-MS 在整個(gè)虛擬機(jī)遷移過(guò)程中都有運(yùn)用到,通過(guò)對(duì)超負(fù)載物理主機(jī)和低負(fù)載物理主機(jī)的物理資源利用效率閾值進(jìn)行反復(fù)判斷,使整個(gè)云數(shù)據(jù)中心的物理資源利用效率進(jìn)一步提高。

    RUT-MS 物理資源利用閾值管理策略通過(guò)Cloudsim 來(lái)實(shí)現(xiàn)和仿真,結(jié)果表明在RUT-MS 技術(shù)之上形成的虛擬機(jī)遷移策略比其他常見的虛擬機(jī)遷移策略可以更好地節(jié)省云數(shù)據(jù)中心的能量消耗,節(jié)約了云服務(wù)提供商的企業(yè)成本,可以為其他企業(yè)構(gòu)造節(jié)能大數(shù)據(jù)中心作為參考。

    1 物理資源閾值管理策略

    云數(shù)據(jù)中心的物理資源閾值管理最主要目標(biāo)是提高資源利用效率,在空閑的情況下應(yīng)該關(guān)閉物理主機(jī),在超負(fù)載的情況下應(yīng)該遷移其上運(yùn)行的虛擬機(jī)。

    文獻(xiàn)[6]采用一種物理主機(jī)處理器溫度閾值邊界遷移方法,建立了物理主機(jī)的處理器溫度閾值管理模型,實(shí)驗(yàn)結(jié)果驗(yàn)證了該閾值管理策略各個(gè)性能指標(biāo)上的優(yōu)點(diǎn)。它的不足是把物理資源閾值管理維度限制在處理器利用率的單一因素[5],對(duì)其他的磁盤空間與內(nèi)存等閾值管理沒(méi)有考慮。

    文獻(xiàn)[11]提出了云數(shù)據(jù)中心考慮資源使用閾值邊界的物理資源閾值管理辦法,在工作負(fù)載高于或者低于設(shè)置的閾值上界與閾值下界時(shí),完成虛擬機(jī)遷移, 文中指出它比Cloudsim 中已有的策略等性能都要優(yōu)秀,它是一種固定靜態(tài)的閾值管理辦法,但是隨著資源的不斷變化,需要提出動(dòng)態(tài)的閾值管理辦法來(lái)動(dòng)態(tài)提高資源利用效率。

    文獻(xiàn)[12]提出一個(gè)自適應(yīng)的物理主機(jī)資源三閾值管理辦法,把物理主機(jī)根據(jù)資源使用閾值劃分為小負(fù)載、輕負(fù)載、中負(fù)載和高負(fù)載4 個(gè)狀態(tài),采用k-means 算法來(lái)管理這些閾值,實(shí)驗(yàn)結(jié)果表明該物理資源閾值管理辦法可以減少云數(shù)據(jù)中心的能量消耗,但它沒(méi)有考慮虛擬機(jī)放置階段的閾值管理,對(duì)虛擬機(jī)遷移的整個(gè)過(guò)程而言,物理資源利用效率的提高不明顯。

    文獻(xiàn)[13]采用一個(gè)局部代理來(lái)完成物理資源閾值管理,把物理主機(jī)劃分為超負(fù)載、低負(fù)載、正常狀態(tài)和預(yù)高負(fù)載4 個(gè)狀態(tài),采用LiRCUP 方法[14]來(lái)預(yù)測(cè)超負(fù)載的物理主機(jī),避免SLA(Service level agreement)違規(guī)率,測(cè)試結(jié)果表明它比Cloudsim 中已有的檢測(cè)方法性能有提升,它考慮的資源維度也只限制在處理器和內(nèi)存等因素,需要繼續(xù)擴(kuò)展到網(wǎng)絡(luò)帶寬閾值管理等多個(gè)維度的因素。

    近年來(lái)也有大量的采用新型算法進(jìn)行優(yōu)化的物理資源閾值管理的文獻(xiàn),例如基于最鄰近算法資源閾值預(yù)測(cè)管理[5]、貪心算法[10]以及虛擬機(jī)關(guān)聯(lián)性[9]等。這些文獻(xiàn)在研究思路、測(cè)試指標(biāo)等方面大部分都參考了Cloudsim 項(xiàng)目,它們發(fā)展到有內(nèi)存閾值管理、網(wǎng)絡(luò)帶寬閾值管理和網(wǎng)絡(luò)接口閾值管理,在節(jié)省能量消耗方面都有很大的提高,對(duì)企業(yè)節(jié)能云數(shù)據(jù)中心研究都有很好的參考價(jià)值。

    2 RUT-MS 工作背景與相關(guān)術(shù)語(yǔ)

    2.1 RUT-MS 軟件支撐環(huán)境

    RUT-MS 物理資源閾值管理策略依托于Cloudsim 工具包,Cloudsim 中涉及到虛擬機(jī)遷移的部分主要由3 個(gè)模塊組成:全局代理(Global broker)、本地代理(Local broker)、虛擬機(jī)管理器(Virtual machine manager),如圖1 所示。

    圖1 RUT-MS 物理資源閾值管理的工作場(chǎng)景Fig.1 Working mechanism of RUT-MS

    由圖1 可見,每個(gè)物理主機(jī)上都運(yùn)行有一個(gè)本地代理,RUT-MS 物理資源閾值管理策略的實(shí)現(xiàn)主要在此模塊中完成。這個(gè)工作場(chǎng)景在文獻(xiàn)[4]中有描述。

    2.2 RUT-MS 資源閾值管理的工作流程

    考慮到RUT-MS 既依賴于Cloudsim 工具包的軟件環(huán)境,也有自己的特點(diǎn),為了管理好整個(gè)虛擬機(jī)遷移過(guò)程,RUT-MS 把Cloudsim 中虛擬機(jī)遷移的步驟由3 個(gè)擴(kuò)展到5 個(gè)[4]。RUT-MS 把虛擬機(jī)遷移過(guò)程進(jìn)一步劃分為超負(fù)載主機(jī)檢測(cè)、虛擬機(jī)選擇、虛擬機(jī)放置第1 階段、低負(fù)載主機(jī)檢測(cè)和虛擬機(jī)放置第2階段,工作流程具體包括下面5 個(gè)步驟,這樣處理的好處是把物理資源的閾值邊界可能出現(xiàn)異常的情況都考慮到,同時(shí)為虛擬機(jī)選擇和放置過(guò)程做參考,從而間接地進(jìn)一步提高資源使用效率。圖2給出了RUT-MS 物理資源閾值管理策略的工作流程。

    圖2 RUT-MS 物理資源閾值管理策略工作流程Fig.2 The working flow of RUT-MS

    步驟1基于RUT-MS,周期性的檢測(cè)云數(shù)據(jù)中心的超負(fù)載物理主機(jī),形成超負(fù)載物理主機(jī)列表。

    步驟2針對(duì)超負(fù)載物理主機(jī)列表,基于已有的最小能量消耗選擇算法完成虛擬機(jī)選擇,形成侯選遷移虛擬機(jī)列表selectedVMList。

    步驟3針對(duì)超負(fù)載物理主機(jī)中的侯選遷移的大量虛擬機(jī),基于RUT-MS 物理資源閾值管理策略完成虛擬機(jī)的放置第1 階段。

    步驟4基于RUT-MS,周期性的檢測(cè)云數(shù)據(jù)中心的低負(fù)載物理主機(jī),形成低負(fù)載物理主機(jī)列表。

    步驟5低負(fù)載物理主機(jī)中的侯選遷移的大量虛擬機(jī),基于RUT-MS 物理資源閾值管理策略完成虛擬機(jī)的放置第2 階段。

    重復(fù)上述步驟1~5,設(shè)置1 個(gè)周期(通常是1 周),達(dá)到該時(shí)間段就結(jié)束。

    本文的RUT-MS 在第1 階段物理主機(jī)狀態(tài)檢測(cè)過(guò)程中,根據(jù)下述的Algorithm 1 和Algorithm 2 進(jìn)行閾值管理,在第2 階段基于Algorithm 3 和Algorithm 4 完成虛擬機(jī)選擇,而在第3 階段虛擬機(jī)放置中,RUT-MS 繼續(xù)提出新型的物理閾值管理辦法,通過(guò)Algorithm 5~7 來(lái)優(yōu)化虛擬機(jī)放置。

    3 RUT-MS 算法

    3.1 RUT-MS 管理策略

    RUT-MS 物理資源閾值管理策略把云數(shù)據(jù)中心的物理主機(jī)按照工作狀態(tài)劃分為4 類:超負(fù)載(Over-loaded)、高負(fù)載(Under-pressure)、正常狀態(tài)(Normal)和低負(fù)載狀態(tài)(Under-loaded)。這樣其對(duì)應(yīng)的物理資源的閾值邊界為:閾值上邊界Upper-thredholds、資源當(dāng)前閾值Util-prediction 和閾值下邊界Lower-thredholds。RUT-MS 在每個(gè)階段都要明確Upper-thredholds,Util-prediction,Lower-thredholds 三個(gè)變量的情況,這些物理資源閾值都是動(dòng)態(tài)調(diào)整的,由物理主機(jī)的具體情況所決定,而不是設(shè)置為固定值。

    當(dāng)RUT-MS 策略啟動(dòng)后,周期性地檢測(cè)物理主機(jī)的處理器資源、內(nèi)存資源、網(wǎng)絡(luò)帶寬資源的使用情況,并盡量使其在合適的閾值范圍內(nèi)。如果有某個(gè)物理主機(jī)的資源使用情況不在合理的范圍內(nèi),它將被列入侯選遷移物理主機(jī)列表或者關(guān)閉進(jìn)入睡眠狀態(tài)。

    3.2 超負(fù)載物理主機(jī)檢測(cè)階段

    回歸是統(tǒng)計(jì)學(xué)中的一種量化數(shù)據(jù)分析方法,它可以預(yù)測(cè)數(shù)據(jù)的下一階段的值,回歸方法被廣泛使用在數(shù)據(jù)預(yù)測(cè)領(lǐng)域[15]。RUT-MS 算法采用了單一權(quán)值線性回歸來(lái)預(yù)測(cè)物理主機(jī)的資源使用效率情況。

    式中:Y 為受依賴的變量;X 為獨(dú)立的變量;β0和β1為回歸系數(shù),它們來(lái)自于最小二乘法技術(shù)[16],即

    基于式(4),相鄰區(qū)域權(quán)重的定義為

    式中xi和xn為變量x 最近的第i 個(gè)觀察值。RUT-MS 在這個(gè)階段采用k 次迭代來(lái)檢測(cè)物理主機(jī)資源使用效率變量(Host utilization)的k 個(gè)將來(lái)預(yù)測(cè)值,對(duì)于n 個(gè)數(shù)據(jù)變量,回歸的函數(shù)定義為

    RUT-MS 策略在超負(fù)載檢測(cè)階段定義了2 個(gè)閾值邊界,Upper-thredholds 和Util-prediction。對(duì)于一個(gè)給定的k 值,如果資源使用的下一次迭代(i=1)預(yù)測(cè)值超過(guò)了它的整體提供能力的100%,那么該物理主機(jī)將被標(biāo)識(shí)為超負(fù)載物理主機(jī)(Over-loaded),此時(shí)物理主機(jī)的資源使用邊界為Upper-thredholds。如果RUT-MS 策略檢測(cè)到將來(lái)的多次迭代預(yù)測(cè)值(i=2~k)超過(guò)了它整體提供能力的100%,該物理主機(jī)將標(biāo)識(shí)為高負(fù)載物理主機(jī)(Under-pressure),y^的資源使用邊界即為Util-prediction,在這個(gè)情況下物理主機(jī)不會(huì)容納新的虛擬機(jī)。Algorithm 1 和Algorithm 2 給出了RUT-MS 算法在第1 階段的偽代碼。

    Algorithm 1 RUT-MS algorithm first phase Input: host utilization

    Output: utilPrediction

    (1) for i=1 to n do

    (2)xi←i; yi←utilHistory(i);

    (3)wi←calculate using Eq.(5);

    (4)xi←xi× wi; yi←yi× wi;

    (5) end for

    (6)calculate β0, using Eq.(2);

    (7)calculate β1, using Eq.(3);

    (8)utilPrediction = β0+ β1× currentUtil( h );//線性回歸預(yù)測(cè)資源的使用閾值情況

    (9)upperThreshold = utilPrediction;

    (10)update x, y and w;

    (11)update β0and β1;

    (12)for i=2 to k do

    (13)KPredictionUtil( i )= β0+ β1× utilPrediction ;//通過(guò)k 次迭代預(yù)測(cè)可能的閾值邊界

    (14)utilPrediction = KPredictionUtil( i );

    (15) end for

    (16)return utilPrediction;

    將算法Algorithm 1 的輸出作為算法Algorithm 2 的輸入,就可以完成超負(fù)載物理主機(jī)的檢測(cè)。

    Algorithm 2 Overloaded host detection algorithm

    Input:host

    Output: overloadedList

    (1)UTC ←CPU.upperThreshold;

    (2)PUC ←CPU.utilprediction;

    (3)UTM ←Memory.upperThreshold;

    (4)PUM ←Memory.utilprediction;

    (5)UTB ←BW.upperThreshold;

    (6)PUB ←BW.utilprediction;

    (7)if ((PUC or PUM or PUB )≥1 ) then//低負(fù)載物理主機(jī)判斷

    (8)underPressureList ←host;

    (9)Host will not accept new VM;

    (10)else

    (11) if ((UTC or UTM or UTB)≥1) then //高負(fù)載物理主機(jī)判斷

    (12)overloadedList ←host;

    (13)end if

    (14)end if

    (15)return overloadedList

    3.3 虛擬機(jī)選擇階段

    RUT-MS 物理資源閾值管理運(yùn)用在虛擬機(jī)選擇階段,采用的是最小能量消耗策略(Maximum power reduction policy, MPR)。最小能量消耗策略MPR 目的是選擇一個(gè)虛擬機(jī)之后,盡可能最大程度地降低物理主機(jī)的能量消耗,相反地,如果選擇其上運(yùn)行的其他虛擬機(jī)來(lái)遷移肯定達(dá)不到這個(gè)效果。假設(shè)物理主機(jī)i 上有j 個(gè)虛擬機(jī)的集合VMj,MPR 策略試圖發(fā)現(xiàn)式(7)中的虛擬機(jī)V 并選擇之。

    式中:ui表示物理主機(jī)i 的資源利用率;Tup物理資源的上限閾值,u( v )表示物理主機(jī)分配給虛擬機(jī)v 的CPU 可用CPU 利用率;P| u( v ) |表示物理主機(jī)i 上面運(yùn)行的虛擬機(jī)v 所產(chǎn)生的能量消耗。MPR 策略的算法偽代碼如下。

    Algorithm 3 Maximum power reduction

    (1)for each VM in hostVMlist do

    (2)selectedVM=NULL;

    (3)maxPower = MIN;//定義最大能量消耗變量

    (4)power=power(host , VM);

    (5)if power >maxpower then

    (6)selectedVM =VM;

    (7)selectedVMlist= selectedVM;

    (8)maxpower=power;

    (9)end if

    (10)end for

    虛擬機(jī)選擇策略整個(gè)過(guò)程的偽代碼見Algorithm 4。從代碼中可以看出,RUT-MS 在這個(gè)階段主要是對(duì)Upper-Thredholds 資源閾值的判斷。

    Algorithm 4 VM selection algorithm

    Input: overloadedList, hostVMlist

    Output: selectedVMList

    (1)for each host in overloadedList do

    (2)for each VM in hostVMlist do

    (3)selectedVM=NULL;

    (4)Maximum power reduction function;//計(jì)算虛擬機(jī)的能量消耗

    (5)selectedVMlist= selectedVM;

    (6)end for

    (7)currentCPUutil= currentCPUutil- selectedVMCPUutil

    (8)currentRAMutil= currentRAMutil- selectedVMRAMutil

    (9)currentBWutil= currentBWutil- selectedVMBWutil

    (10)if((currentCPUutil<upperThreshold) &&

    (currentRAMutil<upperThreshold) &&

    (currentBWutil<upperThreshold)) then

    (11)break; else

    (12)hostVMlist = hostVMlist -selectedVM;

    (13)go to line 2;

    (14)end if

    (15)end for

    (16)return selectedVMList

    3.4 虛擬機(jī)放置第1 階段

    在虛擬機(jī)放置階段,RUT-MS 有兩個(gè)步驟要完成:(1)放置從超負(fù)載主機(jī)(Overloadedlist)列表中侯選遷移的虛擬機(jī);(2)放置從低負(fù)載主機(jī)(Underloadedlist)列表中侯選遷移的虛擬機(jī)。

    RUT-MS 遍歷正常狀態(tài)的物理主機(jī)列表(Normallist),找到足夠CPU、內(nèi)存及網(wǎng)絡(luò)帶寬的主機(jī)安排給新虛擬機(jī),而且在虛擬機(jī)放置之后不會(huì)使其負(fù)載過(guò)大。每個(gè)主機(jī)設(shè)計(jì)一個(gè)Mark 值,即有

    最后通過(guò)判斷,具有最小Mark 值的正常主機(jī)就容納新的虛擬機(jī)。如果正常狀態(tài)的物理主機(jī)不具備容納新虛擬機(jī)的條件,那么RUT-MS 將遍歷低負(fù)載狀態(tài)的物理主機(jī)(Underloadedlist),從新計(jì)算物理主機(jī)的Mark 值,如果這些主機(jī)列表里也沒(méi)有滿足容納新虛擬機(jī)的條件,則需要重新開啟一個(gè)新的物理主機(jī),過(guò)程如算法Algorithm 5 所示。

    Algorithm 5 VM Placement (First phase)

    Input: hostList, selectedVMlist

    Output: allocation of VMs

    (1)selectedVMlist.sortDecreasing( );

    (2)for each h in hostList do

    (3)if (lowrthreshold <currentUtil <util-Prediction) then normalHostList ←host;

    (4)else if (currentUtil <lowrthreshold)

    (5)underloadedhostList ←host;

    (6)end if

    (7)end for

    (8)for each VM in selectedVMlist do

    (9)minMark ←MAX; selectedHost ←null;

    (10)for each h in normalHost do

    (11)estimate utilAfterPlacement;

    (12)if (utilAfterPlacement <upperthreshold) then

    (13)estimate Mark by Eq.(8);

    (14) if (Mark <minMark) then //最小Mark 值的正常主機(jī)就容納新的虛擬機(jī)

    (15)selectedHost ←host; selectedHostlist ←selectedHost; minMark ←Mark;

    (16)end if

    (17)end for

    3.5 低負(fù)載物理主機(jī)檢測(cè)階段

    低負(fù)載物理主機(jī)檢測(cè)主要是要確定自適應(yīng)低閾值Lower-thredholds。RUT-MS 通過(guò)物理資源比較低的四分位值來(lái)完成判斷。將該四分位值指定為資源使用閾值下邊界Lower-thresholds,所以Tlow=u((n+1)/4),這里u 表示物理主機(jī)資源使用的利用率,n 表示數(shù)值在數(shù)據(jù)集中的編號(hào),( n + 1 )/4 表示u 的下標(biāo)。只要物理資源的處理器CPU、內(nèi)存RAM 和網(wǎng)絡(luò)帶寬BW 的利用率低于Tlow,則該主機(jī)將處理低負(fù)載狀態(tài)(Under-loaded),根據(jù)向量的平方根式(9),式(10)可以用來(lái)計(jì)算不同維度對(duì)變量的影響,然后可以對(duì)Util 完成升序排列。

    在低負(fù)載物理主機(jī)檢測(cè)中,RUT-MS 算法維護(hù)著一個(gè)低負(fù)載物理主機(jī)列表,首先檢測(cè)這些機(jī)器上的虛擬機(jī)是否可以遷移到其他的物理節(jié)點(diǎn),對(duì)于一個(gè)可以容納虛擬機(jī)的物理主機(jī),必須具有3 個(gè)條件:(1)處理高負(fù)載狀態(tài);(2)有足夠的物理資源滿足虛擬機(jī)的要求;(3)在容納虛擬機(jī)后,它不能變成超負(fù)載狀態(tài)。具體的算法描述如Algorithm 6 所示。

    Algorithm 6 Under loading host detection

    Input: hostList,hostVMlist

    Output:VMmigrationList

    (1)for each h in hostList do

    (2)if (( h.utilCPU)<Tlow( CPU )) && (( h.utilRAM)<Tlow( RAM ))&& (( h.utilBW)<Tlow( BW )) then

    (3)underloadingList ←h; //處于低負(fù)載狀態(tài)

    (4)end for

    (5)for each h in underloadingList do

    (7)Util = utilCPU + utilRAM + utilBW //計(jì)算均方根

    (8)underloadingList.sortIncreasingUtil( );

    (9)end for

    (10)for each h in underloadingList do

    (11)for each VM in hostVMlist( ) do

    (12)for each host in hostList do

    (13)if( host ?underPressureList) then

    (14)if ((host has enough CPU, RAM and BW) && ( Not overloaded after VM migration) ) then

    (15)VMmigrationList ←h.VM;

    (16)hVMlist←hVMlist- h.VM;

    (17)end if end if

    (18)end for end for end for

    3.6 虛擬機(jī)放置第2 階段

    檢測(cè)低負(fù)載物理主機(jī)列表的時(shí)候,低負(fù)載物理主機(jī)被進(jìn)一步劃分為接受虛擬機(jī)列表和非接受虛擬機(jī)列表物理主機(jī)。RUT-MS 試圖把那些非接受虛擬機(jī)列表的物理主機(jī)切換到睡眠或者關(guān)閉狀態(tài),減少了虛擬機(jī)遷移次數(shù)。

    首先遍歷接受虛擬機(jī)列表,如果沒(méi)有滿足條件的物理主機(jī),繼續(xù)遍歷非接受虛擬機(jī)列表,如果還是沒(méi)有滿足容納新虛擬機(jī)的物理主機(jī),系統(tǒng)必須重新啟動(dòng)一臺(tái)物理主機(jī),過(guò)程如算法Algorithm 7 所示。

    Algorithm 7 VM Placement (Second phase)

    Input: hostList, selectedVMlist

    Output: allocation of VMs

    (1)if (host admitted any VM in the first phase) then

    (2)receivedVMlist←host; else otherHostslist ←host;

    (3)end if end if end for

    (4)for each VM in selectedVMlist do

    (5)minMark ←MAX; selectedHost ←null;

    (6)for each host in normalHost do

    (7)estimate Utilafterplacement;

    (8)if (Utilafterplacement <upperthreshold) then

    (9)estimate Mark by Eq.(8);

    (10)if (Mark <minMark) then

    (11)selectedHost ←host;

    (12)selectedHostlist ←selectedHost;

    (13)minMark ←Mark;

    (14)end if end if

    (15)end for end for

    (16)return selectedhostlist ;

    4 RUT-MS 仿真實(shí)驗(yàn)與性能分析

    4.1 仿真環(huán)境配置

    因?yàn)镽UT-MS 物理資源閾值的管理策略運(yùn)用在虛擬機(jī)遷移過(guò)程中,所以進(jìn)行RUT-MS 實(shí)驗(yàn)分析必須構(gòu)造Cloudsim3.0 云數(shù)據(jù)中心的虛擬機(jī)遷移場(chǎng)景,同時(shí)依據(jù)圖1 中的運(yùn)行場(chǎng)景,在Cloudsim 中實(shí)現(xiàn)基于Java 語(yǔ)言的局部代理、全局代理和虛擬機(jī)管理器。

    云數(shù)據(jù)中心的能量消耗模型及測(cè)試指標(biāo)都參考了最常見的CoMon project,它是由Planetlab 實(shí)驗(yàn)室開發(fā)的一個(gè)項(xiàng)目[17]。在CoMon 項(xiàng)目中設(shè)置的云數(shù)據(jù)中心主要由兩類物理服務(wù)器組成,物理服務(wù)器總數(shù)為800 個(gè),物理服務(wù)器配置如表1 所示。

    表1 云數(shù)據(jù)中心物理服務(wù)器配置Table 1 Physical host configuration of cloud data center

    在線性回歸中設(shè)置觀察近1 h 的物理主機(jī)資源使用率數(shù)據(jù),這種設(shè)置意味著循環(huán)迭代的次數(shù)為12次及虛擬機(jī)的遷移每5 min 運(yùn)行1 次,一共運(yùn)行24 h,每次統(tǒng)計(jì)1 天內(nèi)的能量消耗,在1 周內(nèi)重復(fù)運(yùn)行5次,1 周內(nèi)每天虛擬機(jī)請(qǐng)求的個(gè)數(shù)見表2, 不同虛擬機(jī)的類型與粒度配置見表3。

    表2 RUT-MS 物理資源閾值的管理策略實(shí)驗(yàn)環(huán)境Table 2 Experimental environments of RUT-MS

    表3 虛擬機(jī)類型配置Table 3 Experimental environments on virtual machine type of RUT-MS

    4.2 評(píng)測(cè)標(biāo)準(zhǔn)與比較對(duì)象

    由于RUT-MS 物理資源閾值的管理策略評(píng)價(jià)的主要指標(biāo)有4 個(gè): (1)云數(shù)據(jù)中心的總體能量消耗;(2)虛擬機(jī)遷移次數(shù);(3)平均SLA 違規(guī)分析;(4)能量與SLA 違規(guī)的聯(lián)合指標(biāo)。

    根據(jù)虛擬機(jī)遷移3 個(gè)階段的步驟,Cloudsim 中比較好的辦法是LRR(Local regression robust)策略為物理主機(jī)狀態(tài)檢測(cè),結(jié)合MMT 策略完成虛擬機(jī)選擇,再結(jié)合遞減裝箱方法(Best-fit-decreasing CPP,BFD)完成虛擬機(jī)放置,稱之為L(zhǎng)RR-MMT-BFD 策略,它應(yīng)該作為首要比較對(duì)象。LRR 方法是一種自適應(yīng)的主機(jī)利用效率閾值檢測(cè)辦法,它通過(guò)檢測(cè)一個(gè)物理主機(jī)的最近j 個(gè)處理器的使用效率值作為評(píng)價(jià)方法,在本實(shí)驗(yàn)中設(shè)j=10。MMT 選擇一個(gè)在最短時(shí)間內(nèi)能夠完成遷移的虛擬機(jī)作為侯選遷移對(duì)象,形成侯選遷移虛擬機(jī)列表。 BFD 是遞減裝箱方法,它按照處理器的使用效率以遞減的方式排序,然后依次完成虛擬機(jī)放置,它是一種無(wú)優(yōu)化的普通放置方法。

    本文還將RUT-MS 與近年來(lái)的其他物理資源閾值管理辦法進(jìn)行了比較,例如LiRCUP 閾值檢測(cè)方法[14]、ATEA 閾值檢測(cè)方法[12]以及在虛擬機(jī)放置階段優(yōu)化的智能算法,例如基于穩(wěn)定匹配[8]、基于虛擬機(jī)關(guān)聯(lián)性[9]和基于螢火蟲群優(yōu)化的算法[18],并且分析這些物理資源閾值管理辦法對(duì)云數(shù)據(jù)中心的性能改變情況。綜上所述,本實(shí)驗(yàn)涉及到的虛擬機(jī)遷移模式如表4 所示,包括RUT-MS,LRR-MMT-BFD,LiRCUP,ATEA,Stable-Matching,Correlation-Based 和GSO-VMM 共7 個(gè)虛擬機(jī)遷移模式。

    表4 RUT-MS 物理資源利用閾值邊界管理性能比較對(duì)象Table 4 Different kinds of compared objects of RUT-MS

    4.3 仿真結(jié)果與性能分析

    4.3.1 云數(shù)據(jù)中心總體能量消耗

    Cloudsim 模擬器仿真的云數(shù)據(jù)中心1 周之內(nèi)得到的總體能量消耗如圖3 所示。從圖3 可以看出,RUT-MS 遷移模型比Cloudsim 中的LRR-MMT-BFD 遷移策略在總體能量消耗上要節(jié)約20%~25%,比Stable-Matching 策略、Correlation-Based 策略和GSO-VMM 策略的能量消耗也要低,雖然周一到周五之間的數(shù)據(jù)有一定的波動(dòng),但是整體趨勢(shì)是RUT-MS 物理資源閾值管理策略性能最優(yōu)。分析原因是RUT-MS 能夠每次回歸檢測(cè)到狀態(tài)異常的超負(fù)載物理主機(jī),而且在最后虛擬機(jī)放置階段后,還可以檢測(cè)到低負(fù)載的物理主機(jī),將它們轉(zhuǎn)入睡眠狀態(tài)。

    4.3.2 虛擬機(jī)遷移次數(shù)

    圖3 各類虛擬機(jī)遷移策略的總能量消耗比較Fig.3 Experimental results on total energy consumption in different kinds of virtual machine migration model

    圖4 顯示了云數(shù)據(jù)中心的各個(gè)遷移模型總體的虛擬機(jī)遷移次數(shù)。大部分研究都認(rèn)為虛擬機(jī)次數(shù)越少,表示云數(shù)據(jù)中心性能比較好[5]。從圖中可以看出在1 周的5 天之內(nèi)RUT-MS 的虛擬機(jī)遷移次數(shù)都低于LRR-MMT-BFD 策略;而Stable-Matching 策略、Correlation-Based 遷移策略、GSO-VMM 策略、LiRCUP 策略和ATEA 策略則處理性能均為中等水平。分析原因是LRR-MMT-BFD 增加了超負(fù)載或低負(fù)載的物理主機(jī)的數(shù)量,這樣很容易出現(xiàn)虛擬機(jī)遷移的現(xiàn)象,結(jié)論是增加虛擬機(jī)遷移也間接地增加了物理主機(jī)的能量消耗,因?yàn)樘摂M機(jī)遷移過(guò)程也要消耗物理主機(jī)的CPU 資源,而RUT-MS 管理策略則與LRR-MMT-BFD 正好相反,RUT-MS 都是基于對(duì)物理主機(jī)資源使用效率的估計(jì)策略,它不會(huì)增加低負(fù)載主機(jī)數(shù)量。另外Stable-Matching策略、Correlation-Based 策略以及GSO-VMM 策略的優(yōu)化主要在虛擬機(jī)放置階段,基本沒(méi)有減少虛擬機(jī)遷移次數(shù),要想減少虛擬機(jī)遷移次數(shù),必須在物理主機(jī)狀態(tài)檢測(cè)、虛擬機(jī)選擇階段完成優(yōu)化。

    4.3.3 SLA 違規(guī)率分析

    從圖5 可以看出,周一到周五RUT-MS 的SLA 違規(guī)率比LRR-MMT-BFD 遷移策略要低,原因是RUT-MS 的虛擬機(jī)遷移次數(shù)比較少,它可以避免物理主機(jī)出現(xiàn)100% 的CPU 利用率的機(jī)會(huì),SLA 違規(guī)比率自然會(huì)降低。 Stable-Matching 策略、Correlation-Based策略和GSO-VMM 策略在虛擬機(jī)放置階段都采用另外的優(yōu)化算法,這樣整個(gè)云數(shù)據(jù)中心的SLA 違規(guī)率自然會(huì)比LRR-MMT-BFD 遷移策略要低。LiRCUP 策略和ATEA 策略則處于性能中等水平,比Cloudsim 的原始遷移策略要SLA 違規(guī)率低。

    4.3.4 能量與SLA 違規(guī)的聯(lián)合指標(biāo)ESV[4]

    ESV 指標(biāo)是體現(xiàn)云服務(wù)提供商的高服務(wù)質(zhì)量、低SLA 違規(guī)比率和總體能量消耗平衡的指標(biāo),即

    式中E為能量消耗指標(biāo)。 從圖6 中的結(jié)果可以看到,RUT-MS 遷移策略的ESV 也要低于LRR-MMT-BFD 遷移策略。結(jié)果表明在各個(gè)階段過(guò)程中智能算法優(yōu)化對(duì)云數(shù)據(jù)中心的物理資源利用效率提高的重要性。LiRCUP 策略、ATEA 策略、Stable-matching 策略和Correlation-Based 策略是2016年和2017 年提出的虛擬機(jī)放置改進(jìn)算法,自然比2012 年的LRR-MMT-BFD 遷移策略性能優(yōu)秀。RUT-MS 最重要的目的是降低能量消耗,而GSO-VMM 策略主要面向降低SLA 違規(guī)率,所以它們的ESV 聯(lián)合指標(biāo)在某些條件下也優(yōu)于RUT-MS 管理策略。

    圖4 各類虛擬機(jī)遷移策略的虛擬機(jī)遷移次數(shù)Fig.4 Experimental results on number of migration in different kinds of virtual machine migration model

    圖5 各類虛擬機(jī)遷移策略的SLA 違規(guī)率比較Fig.5 Experimental results on SLA violation in different kinds of virtual machine migration mode

    圖6 各類虛擬機(jī)遷移的SLA 與能量消耗聯(lián)合指標(biāo)ESVFig.6 Experimental results on ESV in different kinds of virtual machine migration model

    5 結(jié)束語(yǔ)

    本文提出了一種新的物理主機(jī)資源利用閾值邊界管理策略RUT-MS,動(dòng)態(tài)設(shè)置物理資源的邊界Upper-thredholds 值、Util-prediction 值和Lower-thredholds 值。RUT-MS 的閾值邊界具有自適應(yīng)性和動(dòng)態(tài)性特點(diǎn),并且在虛擬機(jī)遷移過(guò)程5 個(gè)階段都有算法進(jìn)行閾值邊界的優(yōu)化。實(shí)驗(yàn)表明RUT-MS 比常見的虛擬機(jī)遷移策略在總體能量消耗、虛擬機(jī)遷移次數(shù)上有明顯優(yōu)勢(shì),SLA 違規(guī)比率、ESV 等指標(biāo)只有少量的增加,RUT-MS 物理資源利用閾值邊界管理策略的每個(gè)階段還可以進(jìn)一步細(xì)分與優(yōu)化,可以繼續(xù)提高系統(tǒng)性能。

    猜你喜歡
    能量消耗管理策略數(shù)據(jù)中心
    太極拳連續(xù)“云手”運(yùn)動(dòng)強(qiáng)度及其能量消耗探究
    酒泉云計(jì)算大數(shù)據(jù)中心
    房建工程招標(biāo)組織與合同管理策略
    中年女性間歇習(xí)練太極拳的強(qiáng)度、能量消耗與間歇恢復(fù)探究分析
    論減稅降費(fèi)背景下的企業(yè)財(cái)務(wù)管理策略
    建筑工程管理策略探討
    建筑施工安全管理策略的應(yīng)用探索
    沒(méi)別的可吃
    民航綠色云數(shù)據(jù)中心PUE控制
    基于云計(jì)算的交通運(yùn)輸數(shù)據(jù)中心實(shí)現(xiàn)與應(yīng)用
    亚洲av第一区精品v没综合| 舔av片在线| 亚洲高清免费不卡视频| 如何舔出高潮| 看免费成人av毛片| 亚洲成人中文字幕在线播放| 国产精品一区二区三区四区久久| 亚洲国产精品成人久久小说 | 搞女人的毛片| 亚洲精品在线观看二区| 国产一区二区在线av高清观看| 97热精品久久久久久| 亚洲欧美精品综合久久99| 中文资源天堂在线| 不卡一级毛片| 国产成人福利小说| 日韩亚洲欧美综合| 午夜精品国产一区二区电影 | 中文亚洲av片在线观看爽| 看非洲黑人一级黄片| 超碰av人人做人人爽久久| 亚洲人与动物交配视频| 人妻丰满熟妇av一区二区三区| 在线a可以看的网站| 人人妻人人澡欧美一区二区| 舔av片在线| 熟女人妻精品中文字幕| 日韩大尺度精品在线看网址| 成人av一区二区三区在线看| 91久久精品国产一区二区三区| 一区二区三区免费毛片| 亚洲av不卡在线观看| 欧美绝顶高潮抽搐喷水| 一a级毛片在线观看| 亚洲av第一区精品v没综合| 欧美3d第一页| 成人高潮视频无遮挡免费网站| 久久人人精品亚洲av| or卡值多少钱| 中出人妻视频一区二区| 熟妇人妻久久中文字幕3abv| 色噜噜av男人的天堂激情| 亚洲av第一区精品v没综合| 久久久国产成人精品二区| 搡老熟女国产l中国老女人| 波多野结衣高清无吗| 精品久久久久久久久av| 亚洲欧美中文字幕日韩二区| 18+在线观看网站| 成人毛片a级毛片在线播放| 国产精品一及| 性色avwww在线观看| 老师上课跳d突然被开到最大视频| 三级男女做爰猛烈吃奶摸视频| 久久精品国产自在天天线| 69人妻影院| 如何舔出高潮| 久久鲁丝午夜福利片| 亚洲精品日韩av片在线观看| 18禁在线播放成人免费| 夜夜夜夜夜久久久久| 国产精品不卡视频一区二区| 国产乱人视频| 精品乱码久久久久久99久播| 俺也久久电影网| 国内久久婷婷六月综合欲色啪| .国产精品久久| 九九久久精品国产亚洲av麻豆| 免费搜索国产男女视频| 欧美另类亚洲清纯唯美| 欧美激情久久久久久爽电影| 国产一区二区三区av在线 | 亚洲精品456在线播放app| 欧美日韩国产亚洲二区| 欧美日本亚洲视频在线播放| 露出奶头的视频| 久久精品国产亚洲网站| 免费av观看视频| 日韩精品青青久久久久久| 欧美性猛交黑人性爽| 精品无人区乱码1区二区| 免费av观看视频| 亚洲美女黄片视频| 综合色丁香网| 男人狂女人下面高潮的视频| 搞女人的毛片| 久久精品国产自在天天线| 久久韩国三级中文字幕| 欧洲精品卡2卡3卡4卡5卡区| 欧美不卡视频在线免费观看| 日本 av在线| 亚洲五月天丁香| 久久久久久久久久久丰满| 日本成人三级电影网站| 一a级毛片在线观看| 18禁在线无遮挡免费观看视频 | 五月玫瑰六月丁香| 男人的好看免费观看在线视频| 日韩欧美国产在线观看| 精品福利观看| 国产精品一及| 好男人在线观看高清免费视频| 国产成人a区在线观看| 成年女人看的毛片在线观看| 国产精品一区二区三区四区久久| 乱系列少妇在线播放| 国产精品人妻久久久久久| 欧美日韩在线观看h| 一夜夜www| 一卡2卡三卡四卡精品乱码亚洲| 网址你懂的国产日韩在线| 一进一出好大好爽视频| 18禁裸乳无遮挡免费网站照片| av在线老鸭窝| 寂寞人妻少妇视频99o| 久久久久久国产a免费观看| 亚洲成a人片在线一区二区| 亚洲七黄色美女视频| 九九爱精品视频在线观看| 欧美成人精品欧美一级黄| 久久久久免费精品人妻一区二区| 97人妻精品一区二区三区麻豆| 日韩成人av中文字幕在线观看 | 丰满人妻一区二区三区视频av| 国内精品宾馆在线| 99精品在免费线老司机午夜| av天堂在线播放| 亚洲av美国av| 人人妻人人澡欧美一区二区| 欧美3d第一页| 国产中年淑女户外野战色| 午夜a级毛片| 99热网站在线观看| 嫩草影院精品99| videossex国产| 简卡轻食公司| 亚洲第一电影网av| 亚洲av中文字字幕乱码综合| 少妇熟女aⅴ在线视频| 波多野结衣高清无吗| 亚洲内射少妇av| 亚洲七黄色美女视频| 51国产日韩欧美| 国产又黄又爽又无遮挡在线| 中文资源天堂在线| 日本黄色视频三级网站网址| 美女大奶头视频| 听说在线观看完整版免费高清| 美女cb高潮喷水在线观看| 天堂影院成人在线观看| 婷婷精品国产亚洲av| 精品人妻视频免费看| 午夜亚洲福利在线播放| 美女 人体艺术 gogo| 国产精品人妻久久久久久| 日韩人妻高清精品专区| 五月玫瑰六月丁香| 熟女人妻精品中文字幕| 久久久欧美国产精品| 久久久午夜欧美精品| 深爱激情五月婷婷| 麻豆成人午夜福利视频| 淫妇啪啪啪对白视频| 寂寞人妻少妇视频99o| 99在线人妻在线中文字幕| 精品欧美国产一区二区三| 精品久久久久久久久久免费视频| 国产极品精品免费视频能看的| 久久久久久久久久黄片| 亚洲欧美清纯卡通| 成人综合一区亚洲| 国内少妇人妻偷人精品xxx网站| 九九热线精品视视频播放| 秋霞在线观看毛片| 国产在线男女| 亚洲精品一区av在线观看| 欧美一区二区亚洲| 特大巨黑吊av在线直播| 国语自产精品视频在线第100页| 99久久中文字幕三级久久日本| 日本一二三区视频观看| 日韩大尺度精品在线看网址| 91久久精品电影网| 舔av片在线| 欧美3d第一页| 亚洲国产精品合色在线| 婷婷六月久久综合丁香| 最近手机中文字幕大全| 联通29元200g的流量卡| 久久欧美精品欧美久久欧美| 国产一区二区三区在线臀色熟女| 国产亚洲欧美98| 内射极品少妇av片p| 国产不卡一卡二| 一区二区三区免费毛片| 真实男女啪啪啪动态图| 日韩欧美 国产精品| 国产一区二区三区在线臀色熟女| 国产精品一二三区在线看| 少妇的逼水好多| 又粗又爽又猛毛片免费看| 国产精品三级大全| 久久久色成人| 亚洲在线自拍视频| 波野结衣二区三区在线| 久久这里只有精品中国| 午夜激情欧美在线| 国产色婷婷99| 成年女人看的毛片在线观看| 日韩欧美三级三区| 精品欧美国产一区二区三| 亚洲丝袜综合中文字幕| ponron亚洲| 久久久精品94久久精品| 精品无人区乱码1区二区| 日日摸夜夜添夜夜添小说| 大型黄色视频在线免费观看| 亚洲性夜色夜夜综合| 精品无人区乱码1区二区| 亚洲无线观看免费| 亚洲欧美日韩无卡精品| 男女之事视频高清在线观看| 日本撒尿小便嘘嘘汇集6| 欧美高清成人免费视频www| 久久精品人妻少妇| 成年女人永久免费观看视频| 一进一出抽搐动态| 国产精品人妻久久久久久| 午夜影院日韩av| 成人午夜高清在线视频| 一卡2卡三卡四卡精品乱码亚洲| 国产精品一区二区三区四区免费观看 | 国内精品美女久久久久久| 久久久久久久久久黄片| 国产真实乱freesex| 欧美潮喷喷水| 嫩草影视91久久| 淫秽高清视频在线观看| 人妻少妇偷人精品九色| 久久久久久久久中文| 神马国产精品三级电影在线观看| 热99在线观看视频| 亚洲高清免费不卡视频| 亚洲美女搞黄在线观看 | 91久久精品国产一区二区成人| 中文字幕免费在线视频6| 三级男女做爰猛烈吃奶摸视频| 日韩欧美三级三区| 日韩欧美精品免费久久| 国产成人a区在线观看| 不卡视频在线观看欧美| 欧美日韩精品成人综合77777| 亚洲av熟女| 精品99又大又爽又粗少妇毛片| 在线国产一区二区在线| 中文亚洲av片在线观看爽| 免费高清视频大片| 老司机影院成人| 大又大粗又爽又黄少妇毛片口| 中文字幕av成人在线电影| 五月玫瑰六月丁香| 国产片特级美女逼逼视频| 人妻丰满熟妇av一区二区三区| 你懂的网址亚洲精品在线观看 | 久久精品国产亚洲网站| 亚洲天堂国产精品一区在线| 成人二区视频| 天天一区二区日本电影三级| 两个人的视频大全免费| 亚洲熟妇中文字幕五十中出| 可以在线观看的亚洲视频| 一个人看视频在线观看www免费| 三级国产精品欧美在线观看| 少妇丰满av| 亚洲五月天丁香| 国产色婷婷99| 可以在线观看毛片的网站| 永久网站在线| 国产欧美日韩精品亚洲av| 亚洲成人久久爱视频| 亚洲中文日韩欧美视频| 美女免费视频网站| 亚洲va在线va天堂va国产| 亚洲不卡免费看| 在线国产一区二区在线| 一级黄色大片毛片| h日本视频在线播放| 国语自产精品视频在线第100页| 欧美最新免费一区二区三区| 中国美白少妇内射xxxbb| 两个人的视频大全免费| 九九久久精品国产亚洲av麻豆| 搡老岳熟女国产| 99热只有精品国产| 日韩成人av中文字幕在线观看 | 日韩欧美在线乱码| 久久久久国产网址| 亚洲第一区二区三区不卡| 日本熟妇午夜| 网址你懂的国产日韩在线| 在线观看66精品国产| 久久久久国产精品人妻aⅴ院| 国产精品国产高清国产av| 少妇的逼水好多| 午夜福利在线观看免费完整高清在 | 亚洲美女黄片视频| 一区福利在线观看| 欧美三级亚洲精品| av专区在线播放| 人妻制服诱惑在线中文字幕| 一级毛片aaaaaa免费看小| 成人综合一区亚洲| 欧美人与善性xxx| 免费观看的影片在线观看| 欧美成人一区二区免费高清观看| 久久久久九九精品影院| 亚洲精品日韩在线中文字幕 | 美女被艹到高潮喷水动态| 欧美日本视频| 黄色日韩在线| 91久久精品电影网| 男女下面进入的视频免费午夜| 日本与韩国留学比较| 国产精品一及| 午夜老司机福利剧场| 亚洲美女搞黄在线观看 | 中国国产av一级| 少妇人妻精品综合一区二区 | 在现免费观看毛片| 丝袜喷水一区| 在线天堂最新版资源| 久久久久久伊人网av| 一区二区三区免费毛片| 一本精品99久久精品77| 国产高清不卡午夜福利| 免费av毛片视频| 18禁在线无遮挡免费观看视频 | 美女大奶头视频| 一夜夜www| 色av中文字幕| 老熟妇乱子伦视频在线观看| 最新中文字幕久久久久| 丝袜美腿在线中文| 欧美色欧美亚洲另类二区| av在线亚洲专区| 深夜a级毛片| 天美传媒精品一区二区| 久久久国产成人精品二区| 日本熟妇午夜| 男人舔女人下体高潮全视频| 日韩av在线大香蕉| 99久国产av精品| 亚洲欧美日韩东京热| 国产一区二区在线观看日韩| 国产高清有码在线观看视频| 久久草成人影院| 国产精品一区二区三区四区免费观看 | 国产国拍精品亚洲av在线观看| 最近在线观看免费完整版| 欧美潮喷喷水| 波多野结衣高清无吗| 99九九线精品视频在线观看视频| 欧美丝袜亚洲另类| 免费一级毛片在线播放高清视频| 午夜福利高清视频| 一级毛片电影观看 | 性欧美人与动物交配| 国产伦一二天堂av在线观看| 91av网一区二区| 99国产精品一区二区蜜桃av| 蜜桃久久精品国产亚洲av| 一个人看视频在线观看www免费| 精品久久久久久久久亚洲| 国产精品久久久久久av不卡| 精品久久久久久久久久久久久| 免费观看在线日韩| 99在线人妻在线中文字幕| 国产精品美女特级片免费视频播放器| 成人亚洲精品av一区二区| 久久久久国产网址| 99久久精品热视频| 久久午夜福利片| 天堂影院成人在线观看| 亚洲av二区三区四区| 久久久久久伊人网av| 国产亚洲精品久久久com| 国产精品野战在线观看| 亚洲av中文av极速乱| 亚洲性夜色夜夜综合| 极品教师在线视频| 色综合色国产| 国产私拍福利视频在线观看| 亚洲精品国产av成人精品 | 久久久成人免费电影| 日本一二三区视频观看| 日韩一区二区视频免费看| 男人舔奶头视频| 欧美性感艳星| 女的被弄到高潮叫床怎么办| 小说图片视频综合网站| 床上黄色一级片| 97超级碰碰碰精品色视频在线观看| 国产探花极品一区二区| 精品一区二区免费观看| 日本欧美国产在线视频| av专区在线播放| 亚洲乱码一区二区免费版| 色播亚洲综合网| 国产成人a区在线观看| 久久久午夜欧美精品| 国产精华一区二区三区| 一个人看视频在线观看www免费| 久久精品影院6| 久久精品国产鲁丝片午夜精品| 日本五十路高清| 岛国在线免费视频观看| 中文字幕av在线有码专区| 亚洲综合色惰| 给我免费播放毛片高清在线观看| 亚洲性久久影院| 一区福利在线观看| 亚洲成a人片在线一区二区| 欧美三级亚洲精品| 日日干狠狠操夜夜爽| 成人一区二区视频在线观看| 色噜噜av男人的天堂激情| 久99久视频精品免费| 一个人看的www免费观看视频| 国产精品三级大全| 99久久成人亚洲精品观看| 神马国产精品三级电影在线观看| 性色avwww在线观看| 内射极品少妇av片p| 99在线人妻在线中文字幕| 女人被狂操c到高潮| 高清午夜精品一区二区三区 | 久久人人爽人人爽人人片va| 久久久久性生活片| 欧美不卡视频在线免费观看| 91麻豆精品激情在线观看国产| 国产黄色视频一区二区在线观看 | 亚洲第一电影网av| 我的老师免费观看完整版| 国产精品爽爽va在线观看网站| 亚洲av不卡在线观看| 在线播放无遮挡| 免费电影在线观看免费观看| 久久精品夜色国产| 天天一区二区日本电影三级| 五月玫瑰六月丁香| 99久国产av精品| 人妻夜夜爽99麻豆av| 亚洲七黄色美女视频| 99热精品在线国产| 国产不卡一卡二| 别揉我奶头~嗯~啊~动态视频| 日韩国内少妇激情av| 深夜精品福利| 性欧美人与动物交配| 国产男靠女视频免费网站| 中国美女看黄片| 欧美激情久久久久久爽电影| 成人漫画全彩无遮挡| 免费一级毛片在线播放高清视频| 99在线视频只有这里精品首页| 日韩一区二区视频免费看| 婷婷六月久久综合丁香| aaaaa片日本免费| 久久精品91蜜桃| 日韩成人av中文字幕在线观看 | 国产伦精品一区二区三区视频9| 午夜激情福利司机影院| 国产熟女欧美一区二区| 91在线精品国自产拍蜜月| 亚洲国产日韩欧美精品在线观看| 久久久久久大精品| 精品国内亚洲2022精品成人| 亚洲av成人av| 国产在视频线在精品| 日本五十路高清| 最近手机中文字幕大全| 内射极品少妇av片p| 哪里可以看免费的av片| 内地一区二区视频在线| 天天躁夜夜躁狠狠久久av| 精品久久久久久久末码| 中国美白少妇内射xxxbb| 免费不卡的大黄色大毛片视频在线观看 | 亚洲熟妇熟女久久| 亚洲不卡免费看| 亚洲真实伦在线观看| 亚洲va在线va天堂va国产| 久久精品国产亚洲av涩爱 | 香蕉av资源在线| 在线看三级毛片| 国产午夜福利久久久久久| 嫩草影院精品99| 淫妇啪啪啪对白视频| 最新中文字幕久久久久| 久久精品国产亚洲网站| 国产成人精品久久久久久| 69人妻影院| 午夜日韩欧美国产| 久久久久久久久久黄片| 校园春色视频在线观看| 99国产极品粉嫩在线观看| 亚洲va在线va天堂va国产| 亚洲最大成人中文| 露出奶头的视频| 成人美女网站在线观看视频| 国内揄拍国产精品人妻在线| 在线看三级毛片| 日韩欧美 国产精品| 国产成人影院久久av| 黄色配什么色好看| 最近视频中文字幕2019在线8| av黄色大香蕉| 看非洲黑人一级黄片| 久久久久性生活片| 12—13女人毛片做爰片一| 日韩高清综合在线| 91狼人影院| 久久久久久久午夜电影| 老女人水多毛片| 3wmmmm亚洲av在线观看| 麻豆精品久久久久久蜜桃| 两个人的视频大全免费| 最近的中文字幕免费完整| 免费看a级黄色片| 欧美中文日本在线观看视频| 无遮挡黄片免费观看| 免费在线观看成人毛片| 欧美日韩在线观看h| 欧美高清性xxxxhd video| 国产精品av视频在线免费观看| 九九爱精品视频在线观看| 成人国产麻豆网| 精品久久久久久久久久久久久| 丰满人妻一区二区三区视频av| 亚洲在线观看片| 国产一区二区亚洲精品在线观看| 97超碰精品成人国产| 久久综合国产亚洲精品| 黄色配什么色好看| 97热精品久久久久久| 99久久久亚洲精品蜜臀av| 久久精品国产亚洲网站| 国产老妇女一区| 99久久精品国产国产毛片| 国内少妇人妻偷人精品xxx网站| 桃色一区二区三区在线观看| eeuss影院久久| 99久久成人亚洲精品观看| 波多野结衣高清作品| 午夜免费男女啪啪视频观看 | 一个人看视频在线观看www免费| 亚洲精品影视一区二区三区av| 永久网站在线| 少妇人妻精品综合一区二区 | 男女啪啪激烈高潮av片| 干丝袜人妻中文字幕| 99热只有精品国产| 中文字幕免费在线视频6| 色噜噜av男人的天堂激情| 亚洲国产精品国产精品| 免费高清视频大片| 日日摸夜夜添夜夜添av毛片| 免费人成视频x8x8入口观看| 国产极品精品免费视频能看的| 少妇人妻精品综合一区二区 | 此物有八面人人有两片| 蜜桃亚洲精品一区二区三区| 99热网站在线观看| a级一级毛片免费在线观看| 国产黄色小视频在线观看| 日本成人三级电影网站| 成人av在线播放网站| 国产真实伦视频高清在线观看| 别揉我奶头 嗯啊视频| 久久精品影院6| 亚洲,欧美,日韩| 一级毛片我不卡| 欧美+亚洲+日韩+国产| 色av中文字幕| 天堂动漫精品| 欧美日本视频| 一夜夜www| 亚洲电影在线观看av| 在线看三级毛片| 久久99热这里只有精品18| 国产av麻豆久久久久久久| 搡老妇女老女人老熟妇| 久久久欧美国产精品| 国产黄色小视频在线观看| 你懂的网址亚洲精品在线观看 | 国产爱豆传媒在线观看| 男人狂女人下面高潮的视频| 在线观看一区二区三区| 精品久久久久久成人av| 一区福利在线观看| 久久久精品大字幕| 午夜亚洲福利在线播放| 亚洲国产高清在线一区二区三| 久久人人爽人人片av| 国产不卡一卡二| 免费观看精品视频网站| 嫩草影院新地址| 亚洲欧美精品自产自拍| 又爽又黄无遮挡网站| av免费在线看不卡| 亚洲中文日韩欧美视频| 六月丁香七月| 欧美+亚洲+日韩+国产| 亚洲美女搞黄在线观看 | 国产精品人妻久久久久久|