• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    云數(shù)據(jù)中心基于負(fù)載預(yù)測(cè)的物理主機(jī)狀態(tài)檢測(cè)策略

    2021-12-21 11:18:18楊柳青
    關(guān)鍵詞:能量消耗利用率數(shù)據(jù)中心

    楊柳青,王 沖

    (1.玉林師范學(xué)院 教育技術(shù)中心,廣西 玉林 537000; 2.桂林電子科技大學(xué) 商學(xué)院, 廣西 桂林 541004)

    0 引 言

    虛擬機(jī)遷移是構(gòu)造綠色節(jié)能云數(shù)據(jù)中心的關(guān)鍵技術(shù)[1-2]。虛擬機(jī)遷移的過(guò)程非常復(fù)雜,目前以Cloudsim云模擬器工具包為代表的大部分文獻(xiàn)將其劃分為物理主機(jī)狀態(tài)檢測(cè)、虛擬機(jī)選擇和虛擬機(jī)放置3個(gè)步驟[3],每個(gè)步驟都可以采用算法或者策略進(jìn)行優(yōu)化。

    物理主機(jī)狀態(tài)檢測(cè)是通過(guò)監(jiān)視云數(shù)據(jù)中心的所有物理主機(jī)的資源使用狀態(tài),采用一定的算法或者策略,把那些運(yùn)行異常(超負(fù)載或低負(fù)載)的物理節(jié)點(diǎn)選擇出來(lái),形成候選遷移物理主機(jī)列表。

    在接下來(lái)的虛擬機(jī)選擇中,也要從異常的物理主機(jī)上選擇出合適的虛擬機(jī),形成候選遷移虛擬機(jī)列表。通過(guò)虛擬機(jī)放置策略,將虛擬機(jī)選擇階段中選擇出來(lái)的虛擬機(jī)列表按照一定的算法重新放置到云數(shù)據(jù)中心其他正常狀態(tài)下的物理節(jié)點(diǎn)上,從而保證整個(gè)云數(shù)據(jù)中心的負(fù)載均衡和節(jié)省能量消耗。

    物理主機(jī)狀態(tài)檢測(cè)可以通過(guò)物理資源使用邊界閾值管理算法等進(jìn)行優(yōu)化[4-5];虛擬機(jī)選擇可以通過(guò)虛擬機(jī)尺寸與粒度、虛擬機(jī)遷移時(shí)間長(zhǎng)短等算法進(jìn)行優(yōu)化[6-7];有些文獻(xiàn)把虛擬機(jī)放置稱為多目標(biāo)優(yōu)化問(wèn)題或者裝箱問(wèn)題[8],該過(guò)程也有很多智能算法進(jìn)行優(yōu)化,例如螢火蟲(chóng)群優(yōu)化算法[9]、遺傳算法[10]、強(qiáng)化學(xué)習(xí)算法[11]、花授粉算法[12]、蟻群算法[13]等。上面的這些算法和這3個(gè)步驟還可以組合起來(lái)使用,但是最終評(píng)價(jià)標(biāo)準(zhǔn)是虛擬機(jī)遷移后的云數(shù)據(jù)中心的節(jié)能效果、物理資源利用實(shí)際效果和服務(wù)等級(jí)協(xié)議(service level agreement, SLA)違規(guī)效果等指標(biāo)。

    本文重點(diǎn)研究物理主機(jī)狀態(tài)檢測(cè),在Cloudsim工具包中也稱為物理資源閾值管理策略,這種資源閾值管理策略可以分為主動(dòng)法和被動(dòng)法,其中被動(dòng)法意味著在物理主機(jī)的資源已經(jīng)超過(guò)閾值邊界之后再采取動(dòng)作;主動(dòng)法是指通過(guò)觀察資源使用的樣本數(shù)據(jù)在前一階段的利用率情況,提前預(yù)測(cè)出可能出現(xiàn)狀態(tài)的物理主機(jī),接著進(jìn)行虛擬機(jī)遷移的后續(xù)步驟。

    目前已有的物理主機(jī)狀態(tài)檢測(cè)方法大多采用靜態(tài)資源使用率閾值邊界來(lái)確定主機(jī)是超負(fù)載或者低負(fù)載,其資源邊界考慮的維度因素也比較單一, 其針對(duì)的云客戶端也不是自適應(yīng)的,以被動(dòng)的方式檢測(cè)為主。因?yàn)槲锢碇鳈C(jī)資源狀態(tài)是一種隨著時(shí)間和應(yīng)用程序的訪問(wèn)而不斷動(dòng)態(tài)變化的,這對(duì)主機(jī)異常狀態(tài)檢測(cè)方法提出了新的要求。為此,本文提出了基于負(fù)載預(yù)測(cè)物理主機(jī)狀態(tài)檢測(cè)方法 (load prediction based physical host status detection, LP-PHSD)。本文的LP-PHSD是一種自適應(yīng)的、動(dòng)態(tài)的物理主機(jī)檢測(cè)方法,采用時(shí)間序列和二次指數(shù)平滑法預(yù)測(cè)物理主機(jī)在未來(lái)一段時(shí)間內(nèi)的資源使用率情況,確定其閾值邊界,是一種主動(dòng)檢測(cè)策略。LP-PHSD檢測(cè)策略配合后續(xù)虛擬機(jī)選擇階段和虛擬機(jī)放置階段的其他優(yōu)化方法,就構(gòu)成了一個(gè)完整的新型虛擬機(jī)遷移模型。

    LP-PHSD物理主機(jī)狀態(tài)檢測(cè)策略通過(guò)Cloudsim來(lái)實(shí)現(xiàn)和仿真,仿真結(jié)果表明,通過(guò)LP-PHSD優(yōu)化策略形成新的虛擬機(jī)遷移模型之后,每周內(nèi)總體能量消耗節(jié)約20%~30%,虛擬機(jī)遷移次數(shù)減少,云服務(wù)質(zhì)量明顯提高。

    1 LP-PHSD工作背景與相關(guān)術(shù)語(yǔ)

    1.1 LP-PHSD的依托環(huán)境

    LP-PHSD物理主機(jī)狀態(tài)檢測(cè)策略依托了Cloudsim模擬器工具包,其中涉及Cloudsim中的相關(guān)模塊主要包括:全局代理、本地代理、虛擬機(jī)管理器等[3]。

    一個(gè)云客戶端向云數(shù)據(jù)中心的全局代理請(qǐng)求虛擬機(jī),該全局代理將虛擬機(jī)分派到具體的可用的物理主機(jī)上執(zhí)行。圖1顯示了LP-PHSD物理主機(jī)狀態(tài)檢測(cè)的工作模塊。在Cloudsim中每個(gè)物理主機(jī)上都運(yùn)行有一個(gè)本地代理,他監(jiān)視物理主機(jī)的軟硬件資源,LP-PHSD物理主機(jī)狀態(tài)檢測(cè)策略的實(shí)現(xiàn)代碼主要在本地代理模塊中完成。本地代理根據(jù)物理主機(jī)處理器的利用率情況把其劃分為3類:Pnormal,Pover與Punder,即正常主機(jī),超負(fù)載主機(jī)與低負(fù)載主機(jī)。一般CPU的利用率低于或者高于一個(gè)閾值邊界都處于Pover或Punder狀態(tài),其他的為正常狀態(tài)Pnormal。利用率閾值邊界具體取值多少可以通過(guò)各類閾值管理策略來(lái)測(cè)試、調(diào)整。虛擬機(jī)管理器用來(lái)配合本地代理具體完成虛擬機(jī)遷移的啟動(dòng)與關(guān)閉,這個(gè)工作場(chǎng)景在很多文獻(xiàn)都有描述[3]。

    1.2 LP-PHSD的相關(guān)術(shù)語(yǔ)

    1.2.1 云數(shù)據(jù)中心的能量消耗模型

    云數(shù)據(jù)中心主要由大量堆積在一起的物理主機(jī)組成,所以其能量消耗主要由物理主機(jī)的所有部件的能量消耗組成。文獻(xiàn)[14]中認(rèn)為一臺(tái)物理服務(wù)器所消耗的能量百分比大約為:CPU占41%,內(nèi)存占18%,磁盤占7%,PCI插槽占23%,主板占12%?;谶@個(gè)思路,LP-PHSD策略中設(shè)計(jì)的物理主機(jī)的能量消耗數(shù)學(xué)模型為

    E(Ucpu)=Eidle+(Emax-Eidle)Ucpu

    (1)

    (2)

    E(Umem)=Eidle+(Emax-Eidle)Umem

    (3)

    E(Udisk)=Eidle+(Emax-Eidle)Udisk

    (4)

    E(Ubw)=Eidle+(Emax-Eidle)Ubw

    (5)

    Ehost=E(Ucpu)+E(Umem)+E(Udisk)+E(Ubw)

    (6)

    (1)—(6)式中:Ucpu(t),Umem(t),Udisk(t),Ubw(t)分別表示物理主機(jī)在mipsi時(shí)刻的CPU使用率,內(nèi)存使用率,磁盤使用率,網(wǎng)絡(luò)帶寬使用率,0%≤Ucpu(t),Umem(t),Udisk(t),Ubw(t)≤100%;Eidle表示物理主機(jī)CPU、內(nèi)存、磁盤空間、網(wǎng)絡(luò)帶寬在空閑時(shí)的能量消耗,即Ucpu(t)=0%,Umem(t)=0%,Udisk(t)=0%,Ubw(t)=0%時(shí)的能量消耗;Emax表示物理主機(jī)在滿負(fù)載時(shí)的能量消耗,即Ucpu(t)=100%,Umem(t)=100%,Udisk(t)=100%,Ubw(t)=100%時(shí)的能量消耗;mipsi,c是第i個(gè)虛擬機(jī)VMi的第c個(gè)處理單元的MIPS請(qǐng)求情況;MIPSj,c是第j個(gè)物理主機(jī)Mj的第c個(gè)處理單元的整體的MIPS計(jì)算能力;pei表示虛擬機(jī)VMi的處理單元的數(shù)量;PEj表示物理主機(jī)Mj的處理單元的數(shù)量;rj(t)表示分配到物理主機(jī)Mj的虛擬機(jī)的索引集合。

    圖1 LP-PHSD物理主機(jī)狀態(tài)檢測(cè)策略實(shí)現(xiàn)模塊Fig.1 Implementation modules of LP-PHSD

    一臺(tái)虛擬機(jī)請(qǐng)求的MIPS數(shù)量是隨著應(yīng)用程序的變化而變化的,所以物理主機(jī)的資源使用率也應(yīng)該是隨著應(yīng)用程序的變化而變化。因此,統(tǒng)計(jì)物理服務(wù)器的能量消耗必須在一定的時(shí)間段內(nèi),這樣根據(jù)(1)式可以演化為

    Ehost(t)=E(Ucpu(t))+E(Umem(t))+

    E(Udisk(t))+E(Ubw(t))

    (7)

    第j個(gè)物理主機(jī)在[t0,t1]時(shí)間段的總體能量消耗Ehost可以表示為

    (8)

    整個(gè)云數(shù)據(jù)中心的能量消耗為

    (9)

    1.2.2SLA違規(guī)在線時(shí)間

    當(dāng)一個(gè)云客戶端提交作業(yè)到云計(jì)算平臺(tái)的時(shí)候,資源缺少就會(huì)出現(xiàn)SLA違規(guī),在虛擬機(jī)分配過(guò)程中,一個(gè)重要性能指標(biāo)就是每個(gè)物理主機(jī)的SLA違規(guī)在線時(shí)間(SLA violation time per active host, SLATAH),SLATAH體現(xiàn)了物理主機(jī)具有高服務(wù)質(zhì)量的在線時(shí)間情況,可以表示為

    (10)

    (10)式中:Tsj是物理主機(jī)CPU利用率達(dá)到100%的時(shí)間;Taj是物理主機(jī)處于在線活躍狀態(tài)的時(shí)間;M為云數(shù)據(jù)中心的主機(jī)數(shù)量。

    1.2.3 虛擬機(jī)遷移后的性能降低

    Cloudsim中采用了2個(gè)指標(biāo)來(lái)評(píng)價(jià)云數(shù)據(jù)中心的SLA違規(guī)。一是SLATAH指標(biāo);另一個(gè)是虛擬機(jī)遷移后的性能降低(performance degradation due to migrations, PDM)指標(biāo)。(10) 式描述了單活動(dòng)主機(jī)SLA違規(guī)時(shí)間。PDM指標(biāo)可以表示為

    (11)

    (11)式中:Cdi是虛擬機(jī)VMi遷移導(dǎo)致的性能下降的估計(jì)值;Cri是請(qǐng)求虛擬機(jī)VMi的整個(gè)時(shí)間段內(nèi)總的CPU MIPS計(jì)算能力;N為云數(shù)據(jù)中心的虛擬機(jī)數(shù)量。

    1.2.4 能量與SLA違規(guī)的聯(lián)合指標(biāo)

    SLA的違規(guī)率的計(jì)算通過(guò) (10) 式和 (11) 式相乘得到,即

    SLAViolation=SLATAH·PDM

    (12)

    最后能量消耗和SLA違規(guī)這2個(gè)指標(biāo)往往是互相沖突的,如果SLA違規(guī)比率過(guò)高,表明云數(shù)據(jù)中心提供服務(wù)出現(xiàn)異常,這樣企業(yè)將會(huì)失去商業(yè)利潤(rùn)。如果使用過(guò)多的IT物理資源來(lái)保證QoS,這樣能量消耗就會(huì)增加,間接提高了企業(yè)的成本。能量與SLA違規(guī)的聯(lián)合指標(biāo)(ESV)是體現(xiàn)云服務(wù)提供商的高服務(wù)質(zhì)量、低SLA違規(guī)比率和總體能量消耗平衡的指標(biāo),表示為

    ESV=Etotal·SLAViolation

    (13)

    1.3 LP-PHSD的工作機(jī)制

    虛擬機(jī)的遷移是一臺(tái)虛擬機(jī)從源物理主機(jī)遷移到目標(biāo)物理主機(jī)的過(guò)程,LP-PHSD在工作的時(shí)候,通過(guò)負(fù)載預(yù)測(cè)的方式,首先可以判斷源物理主機(jī)是否處于異常,是否需要啟動(dòng)虛擬機(jī)遷移;同時(shí),還可以判斷目標(biāo)物理主機(jī)是否處于異常狀態(tài),這樣可以保證不會(huì)因?yàn)樘摂M機(jī)遷移而導(dǎo)致超負(fù)載。通過(guò)LP-PHSD工作機(jī)制優(yōu)化后的虛擬機(jī)遷移具體包括下面5個(gè)步驟。

    步驟1基于LP-PHSD,進(jìn)行源物理主機(jī)狀態(tài)檢測(cè),形成候選遷移物理主機(jī)列表;

    步驟2基于LP-PHSD,進(jìn)行目標(biāo)物理主機(jī)狀態(tài)檢測(cè),形成候選遷移物理主機(jī)列表;

    步驟3針對(duì)候選遷移物理主機(jī)列表上的虛擬機(jī)完成虛擬機(jī)選擇,形成候選遷移虛擬機(jī)列表;

    步驟4針對(duì)候選虛擬機(jī)列表中的大量虛擬機(jī),基于遞減裝箱算法(best-fit-decreasing bin packing problem,BFD),優(yōu)化完成虛擬機(jī)的重新放置;

    步驟5重復(fù)上述步驟1至步驟4,直到指定的時(shí)間周期結(jié)束,或者所有物理主機(jī)都是正常狀態(tài)后停止。

    本文的LP-PHSD物理主機(jī)狀態(tài)檢測(cè)方法適應(yīng)于近年來(lái)云客戶端的復(fù)雜應(yīng)用需求,資源邊界的確定具有自適應(yīng)性、動(dòng)態(tài)性,這與Cloudsim工具包中的各個(gè)物理主機(jī)檢測(cè)方法明顯不一樣。圖2顯示了LP-PHSD物理主機(jī)狀態(tài)檢測(cè)的工作流程。

    圖2 基于LP-PHSD優(yōu)化后的虛擬機(jī)遷移過(guò)程Fig.2 Virtual machine migration model after LP-PHSD optimized

    2 二次指數(shù)平滑負(fù)載預(yù)測(cè)

    由于虛擬機(jī)遷移通過(guò)把超負(fù)載Pover或者低負(fù)載Punder物理主機(jī)上的虛擬機(jī)遷移出去,使云數(shù)據(jù)中心的所有物理主機(jī)基本都處于正常狀態(tài)Pnormal,保證云數(shù)據(jù)中心的能量消耗最小,同時(shí)物理資源的利用效率也最高。虛擬機(jī)遷移是有一定的通信開(kāi)銷和額外消耗的,所以虛擬機(jī)遷移是一個(gè)比較嚴(yán)格的行為,否則將會(huì)導(dǎo)致更加壞的性能。

    LP-PHSD算法提出基于時(shí)間序列的二次指數(shù)平滑先預(yù)測(cè)出未來(lái)時(shí)間段物理主機(jī)的狀態(tài)情況,再?zèng)Q定是否采取虛擬機(jī)遷移動(dòng)作。時(shí)間序列預(yù)測(cè)是根據(jù)變量之前的歷史數(shù)據(jù)來(lái)預(yù)測(cè)將來(lái)值的模型。

    二次指數(shù)平滑預(yù)測(cè)是加權(quán)平均移動(dòng)法的一種特殊類型,給平均移動(dòng)中所有歷史觀察值都賦予一個(gè)平均權(quán)重。有時(shí)候也給某些最近的觀察值一些特殊的重要權(quán)重,原因是比較老的樣本數(shù)據(jù)和最近的樣本數(shù)據(jù)對(duì)預(yù)測(cè)值的影響是不一樣的。最簡(jiǎn)單的一次指數(shù)平滑技術(shù)可以表示為

    st=α·xt-1+(1-α)·st-1

    (14)

    (14)式中:α是平滑因子,是一種權(quán)重變量,α的取值范圍為0<α<1;平滑統(tǒng)計(jì)變量st是之前歷史觀察數(shù)據(jù)xt-1和st-1的簡(jiǎn)單平均權(quán)重值。

    在LP-PHSD中,{x1,x2,x3,…,xt-1}表示物理主機(jī)CPU利用率的最近一個(gè)時(shí)間間隔t的歷史數(shù)據(jù)。{s1,s2,s3,…,st-1}是相對(duì)應(yīng)的CPU利用率的預(yù)測(cè)值。從這些樣本觀察值和預(yù)測(cè)值可以得到平均方差(mean square error, MSE)為

    (15)

    為了找到物理主機(jī)的CPU利用率在t時(shí)刻的預(yù)測(cè)值,必須尋找到最優(yōu)的α。 變量α應(yīng)該可以使最小的平均方差,就是MSE最小,這里可以使用嘗試錯(cuò)誤法來(lái)尋找最佳的α值。

    當(dāng)數(shù)據(jù)中有某種趨勢(shì)的時(shí)候,簡(jiǎn)單的一次指數(shù)平滑預(yù)測(cè)并不能完成很好的預(yù)測(cè)。為了處理這種不好的狀態(tài),本文提出了二次指數(shù)平滑預(yù)測(cè)。這和一次指數(shù)平滑比較類似,只是在每個(gè)階段中有2個(gè)組件Level和Trend需要更新。

    Level是數(shù)據(jù)的平滑估計(jì)值,Trend是在每個(gè)時(shí)間區(qū)域結(jié)束階段平滑估計(jì)值的平均增長(zhǎng),二次指數(shù)平滑預(yù)測(cè)表達(dá)式為

    st=αxt+(1-α)(st-1+bt-1),(0<α<1)

    (16)

    bt=γ(st-st-1)+(1-γ)bt-1,(0<γ<1)

    (17)

    (16)—(17)式中:γ是趨勢(shì)平滑因子,實(shí)際是一種權(quán)重變量,γ的取值范圍為0<γ<1;{st},{xt}與一次指數(shù)平滑技術(shù)中的變量含義相同;{bt}是趨勢(shì)變量在時(shí)刻t的最好估計(jì)值。算法的輸出為Pt+m,這里m>0,那么變量x在t+m時(shí)間段的估計(jì)值為

    Pt+m=st+mbt

    (18)

    變量st和bt的初始值的選擇有很多方法,一般情況下選擇s1=x1,有3種情況可以設(shè)置b1,分別為

    b1=y2-y1

    (19)

    (20)

    (21)

    現(xiàn)在最重要的問(wèn)題是預(yù)測(cè)結(jié)果如何實(shí)際影響到虛擬機(jī)遷移,最終影響云數(shù)據(jù)中心的性能。LP-PHSD中主要用來(lái)對(duì)源物理主機(jī)和目標(biāo)物理主機(jī)的遷移決策。一個(gè)遷移行為是否執(zhí)行主要看物理主機(jī)當(dāng)前與預(yù)測(cè)的CPU利用率情況。LP-PHSD算法的性能并不直接依賴于預(yù)測(cè)的精確度,而是依賴于物理主機(jī)狀態(tài)檢測(cè)中的決策精確度。表1為通過(guò)簡(jiǎn)單一次指數(shù)平滑和二次指數(shù)平滑預(yù)測(cè)后的CPU利用率比較情況。

    表1 CPU利用率實(shí)際值與預(yù)測(cè)值的比較

    從表1可以看出,簡(jiǎn)單一次指數(shù)平滑預(yù)測(cè)的方差為1.076%,而二次指數(shù)平滑預(yù)測(cè)的方差只有0.039%,顯然預(yù)測(cè)精度更好。本文這里沒(méi)有使用三次指數(shù)平滑預(yù)測(cè),因?yàn)槿沃笖?shù)平滑考慮的時(shí)間因素更加多,CPU的利用率變化比較頻繁,所以只選擇了一個(gè)短期的預(yù)測(cè)技術(shù)。由于物理主機(jī)的狀態(tài)是一個(gè)動(dòng)態(tài)的云計(jì)算環(huán)境,采用預(yù)測(cè)的方式是不合理的,由于LP-PHSD算法的效率并不直接依賴于預(yù)測(cè)的精確度,只是對(duì)遷移動(dòng)作做一個(gè)判斷,虛擬機(jī)遷移動(dòng)作最終應(yīng)該是由資源的動(dòng)態(tài)閾值邊界來(lái)判斷的。所以LP-PHSD算法還結(jié)合了另外一個(gè)資源動(dòng)態(tài)閾值邊界方法:絕對(duì)中位差檢閾值管理策略(median absolute deviation,MAD), MAD也是Cloudsim工具包中的一種方法。

    3 LP-PHSD算法描述

    3.1 源物理主機(jī)狀態(tài)檢測(cè)

    LP-PHSD針對(duì)物理主機(jī)狀態(tài)檢測(cè)分為2個(gè)部分:①虛擬機(jī)遷移的源物理主機(jī)檢測(cè);②目標(biāo)物理主機(jī)檢測(cè)。所以,LP-PHSD中提出2個(gè)算法,除了采用二次指數(shù)平滑預(yù)測(cè)算法外,主要還利用貪心模式的效率閾值邊界遷移策略,這種貪心模式在很多虛擬機(jī)遷移模式中都使用,例如溫度感知遷移策略[5]。針對(duì)源物理主機(jī)的狀態(tài)檢測(cè)算法如算法1。

    算法1 源物理主機(jī)的狀態(tài)檢測(cè)

    Input: host

    Output: migration decision (true/false)

    1. flag = false

    2. utilization =totalRequestedMips/h.getTotalMips()//通過(guò)底層API獲取當(dāng)前物理主機(jī)的資源利用效率。

    3. data[] = h.getUtilizationHistory()

    4. upperThreshold = 1-s* MAD//絕對(duì)中位差檢閾值管理邊界策略

    5. if (utilization > upperThreshold) then

    6. flag = true

    7. if (data.length < 10 or flag == false) then

    8. return flag

    9. currentOverUtilizedHosts.add(h)

    10. future_utilization = getHostFutureLoad(data) //利用二次指數(shù)平滑法預(yù)測(cè)

    11. if (future_utilization > upperThreshold) then

    12. flag = true

    13. else

    14. flag = false

    15. if (flag == true) then

    16. overUtilizedHosts.add(h)

    17. return flag

    算法1將物理主機(jī)作為輸入,把是否后續(xù)遷移動(dòng)作作為算法的輸出。

    該算法主要是基于動(dòng)態(tài)的資源使用閾值上邊界,在該策略中,物理主機(jī)在超過(guò)資源使用閾值上邊界時(shí),被認(rèn)為是超負(fù)載的狀態(tài),上邊界的確定是通過(guò)Cloudsim中的絕對(duì)中位差閾值管理策略,該閾值是隨物理主機(jī)負(fù)載的變化而變化。與傳統(tǒng)方法類似,LP-PHSD中首先將上邊界與物理主機(jī)當(dāng)前CPU的利用率做比較,如果物理主機(jī)處于正常狀態(tài),虛擬機(jī)遷移后續(xù)步驟不會(huì)啟動(dòng),云數(shù)據(jù)中心將不會(huì)有改變。

    如果發(fā)現(xiàn)物理主機(jī)處于超負(fù)載狀態(tài),那么將完成基于時(shí)間序列的二次指數(shù)平滑CPU利用效率預(yù)測(cè),為了準(zhǔn)確預(yù)測(cè)出物理主機(jī)CPU利用率的值,必須獲得更多的歷史CPU利用率數(shù)據(jù)。根據(jù)數(shù)據(jù)的長(zhǎng)度分別為5,10,15,20進(jìn)行實(shí)驗(yàn),發(fā)現(xiàn)物理主機(jī)狀態(tài)檢測(cè)的最佳長(zhǎng)度是10,就是以最近10個(gè)數(shù)據(jù)點(diǎn)的CPU利用率作為歷史數(shù)據(jù)。LP-PHSD算法的性能在數(shù)據(jù)長(zhǎng)度為10或者12的時(shí)候基本類似。

    如果預(yù)測(cè)后的CPU利用率超過(guò)了CPU資源的閾值邊界上限,物理主機(jī)將被加入到超負(fù)載物理主機(jī)列表并將進(jìn)入圖2所示的后續(xù)虛擬機(jī)選擇和虛擬機(jī)放置流程,否則虛擬機(jī)遷移過(guò)程將不會(huì)繼續(xù),這樣可以使得物理主機(jī)的SLA違規(guī)率在短時(shí)間內(nèi)降低。

    源物理主機(jī)檢測(cè)算法不能檢測(cè)出當(dāng)前不超負(fù)載但是將在后續(xù)某個(gè)時(shí)間會(huì)超負(fù)載的物理主機(jī),而且該算法不能排除目標(biāo)物理主機(jī)的異常情形。即如果一臺(tái)物理主機(jī)作為目標(biāo)物理主機(jī)被遷移,那么他的負(fù)載情況也需要進(jìn)行判斷,LP-PHSD算法還針對(duì)目標(biāo)物理主機(jī)的狀態(tài)檢測(cè)進(jìn)行了判斷。

    3.2 目標(biāo)物理主機(jī)狀態(tài)檢測(cè)

    LP-PHSD算法的針對(duì)目標(biāo)物理主機(jī)狀態(tài)檢測(cè)如算法2。

    算法2 目標(biāo)物理主機(jī)狀態(tài)檢測(cè)

    Input: host

    Output: migration decision (true/false)

    1.flagP = flagF = false

    2.utilization =totalRequestedMips/h.getTotalMips()//通過(guò)底層API獲取當(dāng)前物理主機(jī)的資源利用效率

    3. data[] = h.getUtilizationHistory()

    4. upperThreshold = 1-s* MAD//絕對(duì)中位差檢閾值管理邊界策略

    5. if (utilization > upperThreshold) then

    6. flagP = true

    7. if (data.length < 10) then

    8. if (flagP == true)

    9. overUtilizedHosts.add(h)

    10. return flagP

    11. future_utilization = getHostFutureLoad(data) //利用二次指數(shù)平滑法預(yù)測(cè)

    12. if (future_utilization > upperThreshold) then

    13. flagF = true

    14. else flagF = false

    15. if (flagF == false and flagP == true) then

    16. currentOverUtilizedHosts.add(h);

    17. if (flagF == true and flagP == false) then

    18. predictedOverUtilizedHosts.add(h);

    19. if (flagF == true and flagP == true) then

    20. overUtilizedHosts.add(h)

    21. return true

    22. else

    23. return false

    目標(biāo)物理主機(jī)狀態(tài)檢測(cè)的判斷與源目標(biāo)主機(jī)的判斷比較類似,所以本節(jié)主要討論2個(gè)算法不同的地方。目標(biāo)主機(jī)檢測(cè)不考慮當(dāng)前的狀態(tài),只考慮CPU利用率的將來(lái)預(yù)測(cè)值。設(shè)計(jì)了2個(gè)狀態(tài)flagP和flagF。flagP表示當(dāng)前的利用率,flagF表示將來(lái)的預(yù)測(cè)值,需要判斷3種情況。

    1)當(dāng)前值是超負(fù)載,預(yù)測(cè)值無(wú)超負(fù)載。在這種情況下物理主機(jī)必須加入超負(fù)載物理主機(jī)列表overutilizedList,但是不必繼續(xù)進(jìn)行虛擬機(jī)遷移。

    2)當(dāng)前值無(wú)超負(fù)載,預(yù)測(cè)值超負(fù)載。在這種情況下物理主機(jī)必須加入預(yù)測(cè)超負(fù)載物理主機(jī)列表predictedoverutilizedList,但是不必繼續(xù)進(jìn)行虛擬機(jī)遷移。

    3)當(dāng)前值超負(fù)載,預(yù)測(cè)值也超負(fù)載。在這種情況下物理主機(jī)必須加入超負(fù)載物理主機(jī)列表overutilizedList,同時(shí)進(jìn)行虛擬機(jī)遷移后續(xù)的虛擬機(jī)選擇、虛擬機(jī)放置步驟。

    算法 2可以很容判斷目標(biāo)物理主機(jī)的狀態(tài),這樣超負(fù)載物理主機(jī)和預(yù)測(cè)超負(fù)載物理主機(jī)都被排除到目標(biāo)物理主機(jī)之外,不僅如此,該算法還可以判斷出CPU最小利用率的物理主機(jī),同時(shí)減少算法1中不必要的虛擬機(jī)遷移。

    算法2中還可以修改1個(gè)預(yù)測(cè)值到n個(gè)預(yù)測(cè)值,如果在這n個(gè)預(yù)測(cè)值中有k個(gè)超過(guò)了閾值邊界,將啟動(dòng)虛擬機(jī)遷移的后續(xù)步驟,而且變量n和k的值可以調(diào)整。在算法2中設(shè)n=5,k=4。

    一般而言,如果n的值越大,那么預(yù)測(cè)值的精度就越高。目標(biāo)物理主機(jī)狀態(tài)判斷完后,將進(jìn)入后續(xù)的虛擬機(jī)選擇和放置策略。遞減裝箱算法將按照當(dāng)前CPU的利用率降序排列,然后每個(gè)虛擬機(jī)都依次放置到正常狀態(tài)的物理主機(jī)之上,保證物理主機(jī)能量消耗盡量最小。根據(jù)LP-PHSD算法,虛擬機(jī)遷移過(guò)程依賴物理主機(jī)的當(dāng)前負(fù)載及將來(lái)的預(yù)測(cè)負(fù)載。在云平臺(tái)運(yùn)行大工作量任務(wù)的時(shí)候,CPU的利用率往往超過(guò)閾值邊界,這時(shí)沒(méi)有合適的目標(biāo)物理主機(jī)進(jìn)行遷移,此時(shí)虛擬機(jī)遷移將不會(huì)發(fā)生,此時(shí)云數(shù)據(jù)中心會(huì)導(dǎo)致SLA違規(guī),云客戶端的響應(yīng)時(shí)間急劇增加,如果這個(gè)時(shí)候從睡眠狀態(tài)的物理主機(jī)重新開(kāi)啟就可以避免SLA違規(guī)。

    4 LP-PHSD實(shí)驗(yàn)與性能分析

    4.1 實(shí)驗(yàn)環(huán)境的構(gòu)造

    因?yàn)長(zhǎng)P-PHSD基于負(fù)載預(yù)測(cè)的物理主機(jī)狀態(tài)檢測(cè)算法是在虛擬機(jī)遷移過(guò)程中運(yùn)用的,所以進(jìn)行LP-PHSD實(shí)驗(yàn)分析,必須構(gòu)造云數(shù)據(jù)中心的虛擬機(jī)遷移場(chǎng)景,本文參考Cloudsim3.0工具包,依據(jù)圖1中的功能模塊,實(shí)現(xiàn)了基于Java語(yǔ)言的局部代理,根據(jù)算法1在該代理中進(jìn)行了基于二次指數(shù)平滑負(fù)載預(yù)測(cè)的物理主機(jī)狀態(tài)檢測(cè)優(yōu)化的代碼實(shí)現(xiàn)。

    由于LP-PHSD依托于Cloudsim云平臺(tái)工具,在虛擬機(jī)選擇和虛擬機(jī)放置過(guò)程都采用Cloudsim中默認(rèn)的優(yōu)化策略:最短時(shí)間虛擬機(jī)選擇策略(minimum migration time,MMT)和遞減裝箱虛擬機(jī)放置算法,最終形成一個(gè)優(yōu)化的虛擬機(jī)遷移模型LP-PHSD-MMT-BFD。

    云數(shù)據(jù)中心的能量消耗模型及測(cè)試指標(biāo)都參考了最常見(jiàn)的CoMon project,這是由planetlab實(shí)驗(yàn)室開(kāi)發(fā)的一個(gè)項(xiàng)目[15],也是目前很常見(jiàn)的Benchmark項(xiàng)目。物理服務(wù)器配置如表2,虛擬機(jī)的請(qǐng)求個(gè)數(shù)與運(yùn)行時(shí)間如表3。

    表2 云數(shù)據(jù)中心物理服務(wù)器硬件配置

    表3 LP-PHSD物理主機(jī)狀態(tài)檢測(cè)策略測(cè)試環(huán)境

    4.2 實(shí)驗(yàn)性能指標(biāo)

    由于LP-PHSD物理主機(jī)狀態(tài)檢測(cè)算法依托于Cloudsim項(xiàng)目,為此LP-PHSD評(píng)價(jià)的主要指標(biāo)有4個(gè):①云數(shù)據(jù)中心的總體能量消耗;②虛擬機(jī)遷移次數(shù);③SLA違規(guī)比率;④能量消耗及SLA違規(guī)聯(lián)合指標(biāo),這4個(gè)指標(biāo)可以體現(xiàn)與能量消耗相關(guān)的虛擬機(jī)遷移策略的性能好壞。

    本文還與近年來(lái)其他物理資源閾值管理辦法進(jìn)行了比較,例如ATEA檢測(cè)方法[4]、AEEVC[16]檢測(cè)方法、穩(wěn)定匹配虛擬機(jī)遷移[17]、虛擬機(jī)關(guān)聯(lián)性虛擬機(jī)遷移[18]、蟻群優(yōu)化的虛擬機(jī)遷移[19]、螢火蟲(chóng)群優(yōu)化的虛擬機(jī)遷移[9]等,分析這些物理主機(jī)狀態(tài)檢測(cè)對(duì)云數(shù)據(jù)中心的性能改變情況。綜上所述,本實(shí)驗(yàn)涉及的虛擬機(jī)遷移模式比較對(duì)象如表4。

    表4 LP-PHSD物理主機(jī)狀態(tài)檢測(cè)性能比較對(duì)象

    本文虛擬機(jī)遷移比較算法包括LP-PHSD-MMT-BFD,LRR-MMT-BFD,AEEVC,ATEA,Stable-Matching,Correlation-Based,ACS-VMM,GSO-VMM共8種模式。

    4.3 實(shí)驗(yàn)結(jié)果與性能分析

    4.3.1 云數(shù)據(jù)中心總體能量消耗

    各個(gè)虛擬機(jī)遷移模型一周之內(nèi)每天24小時(shí)內(nèi)的總體能量消耗如表5。從表5可以看出,有了基于負(fù)載預(yù)測(cè)的LP-PHSD物理主機(jī)狀態(tài)檢測(cè)算法后,LP-PHSD-MMT-BFD遷移模型比Cloudsim中的LRR-MMT-BFD遷移策略在總體能量消耗上要節(jié)約25%~30%,比Stable-Matching策略、Correlation-Based策略、GSO-VMM策略、和ACS-VMM策略的能量消耗也更低,雖然周一到周五之間的數(shù)據(jù)有一定的波動(dòng),但是整體趨勢(shì)是LP-PHSD-MMT-BFD遷移策略最節(jié)省云數(shù)據(jù)中心的能量消耗。分析原因是LP-PHSD 中物理主機(jī)CPU利用率使用閾值邊界是動(dòng)態(tài)調(diào)整的,大部分情況下都可以判斷出源物理主機(jī)和目標(biāo)物理主機(jī)在合適的時(shí)候啟動(dòng)虛擬機(jī)遷移的后續(xù)步驟,能量消耗自然減少,而且LP-PHSD-MMT-BFD中設(shè)計(jì)的能量消耗模型考慮的資源維度更加齊全,比單純一維資源更準(zhǔn)確。

    表5 云數(shù)據(jù)中心總體能量消耗性能比較

    4.3.2 虛擬機(jī)遷移次數(shù)

    表6所示為一周內(nèi)幾種算法的云數(shù)據(jù)中心虛擬機(jī)遷移次數(shù)比較,由表6可知,LP-PHSD-MMT-BFD的虛擬機(jī)遷移次數(shù)都低于LRR-MMT-BFD策略、Stable-Matching策略、Correlation-Based遷移策略、GSO-VMM策略、ACS-VMM策略;而AEEVC策略和ATEA策略遷移次數(shù)則處于中等水平。

    表6 云數(shù)據(jù)中心虛擬機(jī)遷移次數(shù)比較

    LRR-MMT-BFD很容易增加超負(fù)載或低負(fù)載的物理主機(jī)數(shù)量,增加的虛擬機(jī)遷移間接增加了物理主機(jī)的能量消耗,因?yàn)樘摂M機(jī)遷移過(guò)程也要消耗物理主機(jī)的CPU資源及額外通信開(kāi)銷,而LP-PHSD-MMT-BFD檢測(cè)策略則與LRR-MMT-BFD正好相反,LP-PHSD中都是基于對(duì)物理主機(jī)資源使用效率的預(yù)測(cè)值策略。另外Stable-Matching策略、Correlation-Based策略和ACS-VMM策略的優(yōu)化主要在虛擬機(jī)放置階段,很難降低虛擬機(jī)遷移次數(shù),要減少虛擬機(jī)遷移次數(shù),必須在虛擬機(jī)選擇階段與物理主機(jī)狀態(tài)檢測(cè)階段完成優(yōu)化。

    4.3.3 SLA違規(guī)率分析

    表7為各類虛擬機(jī)遷移策略的SLA違規(guī)率比較,從表7可以看出,周一到周五,LP-PHSD-MMT-BFD遷移策略的SLA違規(guī)率比LRR-MMT-BFD遷移策略要低,原因是LP-PHSD-MMT-BFD周期性完成超負(fù)載物理主機(jī)檢測(cè),可以避免物理主機(jī)出現(xiàn)100%的CPU利用率機(jī)會(huì),從 (12) 式可以得到SLA違規(guī)比率會(huì)降低。Stable-Matching策略、Correlation-Based策略和ACS-VMM策略在虛擬機(jī)放置階段都采用另外的優(yōu)化算法,這樣整個(gè)云數(shù)據(jù)中心的SLA違規(guī)率自然會(huì)比LRR-MMT-BFD遷移策略要低,他們的SLA違規(guī)率在某些時(shí)候還優(yōu)于LP-PHSD-MMT-BFD策略,AEEVC策略和ATEA策略則處于性能中等水平。GSO-VMM策略和本文的模型在SLA違規(guī)率上性能基本相同,比Cloudsim的原始遷移策略SLA違規(guī)率更低。

    表7 各類虛擬機(jī)遷移策略的SLA違規(guī)率比較

    4.3.4 能量與SLA違規(guī)的聯(lián)合指標(biāo)ESV

    表8為各類虛擬機(jī)遷移的ESV聯(lián)合指標(biāo),從表8可以看到,LP-PHSD-MMT-BFD遷移策略的ESV也要低于LRR-MMT-BFD遷移策略。這表明了在第1階段物理主機(jī)狀態(tài)檢測(cè)過(guò)程中,算法優(yōu)化對(duì)云數(shù)據(jù)中心的物理資源利用效率提高的重要性。AEEVC策略、ATEA策略、Stable-Matching策略、Correlation-Based策略和ACS-VMM策略是2016至2018年提出的虛擬機(jī)遷移優(yōu)化算法,他們?cè)谔摂M機(jī)遷移的各個(gè)階段都有優(yōu)化,比2012年的LRR-MMT-BFD遷移策略性能優(yōu)秀,而且蟻群優(yōu)化虛擬機(jī)遷移策略的ESV甚至超過(guò)了LP-PHSD-MMT-BFD策略。

    表8 各類虛擬機(jī)遷移的聯(lián)合指標(biāo)ESV

    5 結(jié) 論

    本文提出了基于負(fù)載預(yù)測(cè)的物理主機(jī)狀態(tài)檢測(cè)方法LP-PHSD,這是一種主動(dòng)檢測(cè)方法,采用基于時(shí)間序列的二次指數(shù)平滑法來(lái)預(yù)測(cè)物理主機(jī)在未來(lái)一段時(shí)間內(nèi)的CPU資源使用率情況,同時(shí),結(jié)合絕對(duì)中位差方法確定資源的動(dòng)態(tài)閾值邊界,通過(guò)源主機(jī)和目標(biāo)主機(jī)2個(gè)檢測(cè)算法來(lái)確定虛擬機(jī)遷移的時(shí)刻。實(shí)驗(yàn)結(jié)果表明,經(jīng)過(guò)LP-PHSD優(yōu)化過(guò)的虛擬機(jī)遷移策略LP-PHSD-MMT-BFD大部分情況下比常見(jiàn)的其他虛擬機(jī)遷移模式有更低的能量消耗和更少的虛擬機(jī)遷移次數(shù),服務(wù)質(zhì)量明顯提高。LP-PHSD物理主機(jī)狀態(tài)檢測(cè)策略可以為其他云服務(wù)器提供商構(gòu)造節(jié)能綠色云數(shù)據(jù)中心提供支持。

    猜你喜歡
    能量消耗利用率數(shù)據(jù)中心
    太極拳連續(xù)“云手”運(yùn)動(dòng)強(qiáng)度及其能量消耗探究
    酒泉云計(jì)算大數(shù)據(jù)中心
    中年女性間歇習(xí)練太極拳的強(qiáng)度、能量消耗與間歇恢復(fù)探究分析
    沒(méi)別的可吃
    化肥利用率穩(wěn)步增長(zhǎng)
    做好農(nóng)村土地流轉(zhuǎn) 提高土地利用率
    民航綠色云數(shù)據(jù)中心PUE控制
    淺議如何提高涉煙信息的利用率
    板材利用率提高之研究
    基于云計(jì)算的交通運(yùn)輸數(shù)據(jù)中心實(shí)現(xiàn)與應(yīng)用
    琪琪午夜伦伦电影理论片6080| 欧美中文日本在线观看视频| 久久久久久人人人人人| 琪琪午夜伦伦电影理论片6080| 日本成人三级电影网站| 国产成人av教育| 精品国产一区二区三区四区第35| 热99re8久久精品国产| 黄色毛片三级朝国网站| 无限看片的www在线观看| www.自偷自拍.com| 嫩草影视91久久| 欧美性长视频在线观看| 久久婷婷成人综合色麻豆| 一个人免费在线观看的高清视频| 国产在线精品亚洲第一网站| 国产精品二区激情视频| 欧美 亚洲 国产 日韩一| 国产成人精品久久二区二区91| 欧美在线黄色| 国产午夜福利久久久久久| av电影中文网址| 色综合婷婷激情| 一区二区三区国产精品乱码| 国产亚洲精品一区二区www| 91在线观看av| 制服诱惑二区| 国产精品98久久久久久宅男小说| 国产精品,欧美在线| 男女那种视频在线观看| 国产精品免费一区二区三区在线| 九色国产91popny在线| 亚洲国产精品999在线| 黄色成人免费大全| 国产1区2区3区精品| 天堂影院成人在线观看| 国产97色在线日韩免费| 久久精品91无色码中文字幕| 久久久国产精品麻豆| 久久精品国产清高在天天线| 无遮挡黄片免费观看| 午夜视频精品福利| 午夜视频精品福利| 婷婷六月久久综合丁香| 一级a爱片免费观看的视频| 成人国产综合亚洲| 亚洲av美国av| 岛国视频午夜一区免费看| 亚洲avbb在线观看| 国内精品久久久久精免费| 久久久国产成人免费| 2021天堂中文幕一二区在线观 | 天天一区二区日本电影三级| 中文字幕高清在线视频| 日韩欧美国产在线观看| 欧美中文综合在线视频| 亚洲成a人片在线一区二区| 夜夜爽天天搞| 日韩欧美免费精品| 亚洲精品粉嫩美女一区| 99精品欧美一区二区三区四区| 久热这里只有精品99| 亚洲国产欧洲综合997久久, | 国产精品久久久久久人妻精品电影| 99精品欧美一区二区三区四区| 一夜夜www| 国产色视频综合| 特大巨黑吊av在线直播 | 亚洲国产高清在线一区二区三 | 欧美在线一区亚洲| 欧美日韩精品网址| 香蕉国产在线看| 999久久久国产精品视频| 日本一区二区免费在线视频| 老司机在亚洲福利影院| 欧洲精品卡2卡3卡4卡5卡区| 中出人妻视频一区二区| 亚洲精品中文字幕一二三四区| 长腿黑丝高跟| 久久99热这里只有精品18| 99re在线观看精品视频| 国产亚洲精品第一综合不卡| 老熟妇仑乱视频hdxx| 国产爱豆传媒在线观看 | 国产黄a三级三级三级人| 黄色视频,在线免费观看| av超薄肉色丝袜交足视频| 丝袜人妻中文字幕| 久久人人精品亚洲av| 悠悠久久av| 18禁黄网站禁片免费观看直播| 长腿黑丝高跟| 桃色一区二区三区在线观看| 国产麻豆成人av免费视频| 亚洲熟妇中文字幕五十中出| 亚洲在线自拍视频| 国产精品九九99| 国产免费男女视频| 免费在线观看黄色视频的| 女同久久另类99精品国产91| 欧美最黄视频在线播放免费| 免费在线观看成人毛片| 国产成人一区二区三区免费视频网站| tocl精华| 90打野战视频偷拍视频| www.999成人在线观看| 黄片小视频在线播放| 国产欧美日韩一区二区三| 草草在线视频免费看| 国产主播在线观看一区二区| 久久国产精品男人的天堂亚洲| 日韩 欧美 亚洲 中文字幕| 一二三四社区在线视频社区8| 中国美女看黄片| 久久久久久亚洲精品国产蜜桃av| 久久久久国产一级毛片高清牌| 欧美一级a爱片免费观看看 | 国产在线精品亚洲第一网站| 色综合婷婷激情| 亚洲成人久久性| 18禁黄网站禁片免费观看直播| 国产亚洲精品第一综合不卡| www.www免费av| 国产v大片淫在线免费观看| 久久 成人 亚洲| 女同久久另类99精品国产91| 婷婷精品国产亚洲av在线| 天堂√8在线中文| 亚洲精华国产精华精| 精品久久蜜臀av无| 搡老熟女国产l中国老女人| 女同久久另类99精品国产91| 亚洲精品久久成人aⅴ小说| 欧美激情极品国产一区二区三区| 一区二区三区精品91| 久久九九热精品免费| 国产亚洲av嫩草精品影院| 国产成人影院久久av| 亚洲精华国产精华精| 欧美日韩亚洲综合一区二区三区_| 久久久精品欧美日韩精品| 精品免费久久久久久久清纯| 69av精品久久久久久| 国产色视频综合| 精品熟女少妇八av免费久了| 中文字幕人妻熟女乱码| 99久久国产精品久久久| 国产97色在线日韩免费| 在线观看免费午夜福利视频| 午夜福利在线观看吧| 又大又爽又粗| 久久这里只有精品19| www日本在线高清视频| 人人妻人人澡欧美一区二区| 欧美日韩亚洲综合一区二区三区_| 老司机福利观看| 丁香六月欧美| 国产一区二区三区视频了| 国产精品,欧美在线| 嫁个100分男人电影在线观看| 最新在线观看一区二区三区| 成人18禁高潮啪啪吃奶动态图| 国产乱人伦免费视频| 午夜福利18| 在线天堂中文资源库| 日本一区二区免费在线视频| 日日摸夜夜添夜夜添小说| 最好的美女福利视频网| 亚洲精品中文字幕一二三四区| 日韩一卡2卡3卡4卡2021年| 精品欧美一区二区三区在线| 亚洲午夜精品一区,二区,三区| 一本大道久久a久久精品| 高清在线国产一区| 麻豆一二三区av精品| 级片在线观看| 国产av一区在线观看免费| 欧美最黄视频在线播放免费| 黑人操中国人逼视频| 岛国在线观看网站| 欧美成人午夜精品| 男人舔女人的私密视频| 色在线成人网| 免费在线观看完整版高清| 亚洲中文av在线| 欧美在线一区亚洲| 青草久久国产| 国产视频内射| 精品久久蜜臀av无| 日本一本二区三区精品| 久久久久国产精品人妻aⅴ院| 国产精品久久久久久精品电影 | 精品第一国产精品| 白带黄色成豆腐渣| 久久久久久久午夜电影| 日韩大码丰满熟妇| 日韩欧美国产一区二区入口| 国产av一区二区精品久久| 禁无遮挡网站| 两个人看的免费小视频| 亚洲一区中文字幕在线| 中文字幕人成人乱码亚洲影| 免费女性裸体啪啪无遮挡网站| 特大巨黑吊av在线直播 | 美女大奶头视频| 91麻豆精品激情在线观看国产| 亚洲自拍偷在线| 国产精品久久久av美女十八| 国产成人欧美| 久久香蕉精品热| 国产三级在线视频| 日韩成人在线观看一区二区三区| 亚洲国产毛片av蜜桃av| 他把我摸到了高潮在线观看| 久久久精品欧美日韩精品| 成人午夜高清在线视频 | 香蕉国产在线看| 日韩有码中文字幕| 成人亚洲精品av一区二区| 久久久久国产精品人妻aⅴ院| ponron亚洲| 国产精品香港三级国产av潘金莲| 日韩欧美免费精品| 91麻豆av在线| 悠悠久久av| 美女高潮到喷水免费观看| 国产麻豆成人av免费视频| 亚洲av片天天在线观看| 久热这里只有精品99| 男人的好看免费观看在线视频 | 午夜久久久久精精品| 婷婷精品国产亚洲av| 黄色女人牲交| 亚洲aⅴ乱码一区二区在线播放 | 中文字幕精品免费在线观看视频| 国产亚洲精品第一综合不卡| 色播亚洲综合网| 精品久久久久久成人av| 91九色精品人成在线观看| 国产成人系列免费观看| 亚洲七黄色美女视频| 老司机福利观看| 日韩国内少妇激情av| www.999成人在线观看| 欧美zozozo另类| 老鸭窝网址在线观看| www.熟女人妻精品国产| 一二三四在线观看免费中文在| 丰满的人妻完整版| 国产欧美日韩一区二区精品| 国产乱人伦免费视频| 色综合亚洲欧美另类图片| 亚洲五月婷婷丁香| 亚洲av成人一区二区三| 亚洲精品久久成人aⅴ小说| 免费在线观看黄色视频的| 欧美日本视频| 一区二区日韩欧美中文字幕| 国内精品久久久久久久电影| 两性午夜刺激爽爽歪歪视频在线观看 | 十分钟在线观看高清视频www| 一区二区三区国产精品乱码| 女同久久另类99精品国产91| 18禁美女被吸乳视频| 91麻豆av在线| 美女国产高潮福利片在线看| 亚洲精品国产精品久久久不卡| 人人妻人人澡人人看| 国产亚洲av高清不卡| 久久精品影院6| 免费在线观看亚洲国产| 日韩国内少妇激情av| 国产av不卡久久| 美女 人体艺术 gogo| 国产精品亚洲美女久久久| 女人高潮潮喷娇喘18禁视频| 日韩高清综合在线| 免费观看精品视频网站| 久久欧美精品欧美久久欧美| 18禁裸乳无遮挡免费网站照片 | 夜夜看夜夜爽夜夜摸| 亚洲激情在线av| 日本免费a在线| 午夜久久久久精精品| 国产精品综合久久久久久久免费| 精品久久久久久久毛片微露脸| 亚洲第一欧美日韩一区二区三区| 在线观看66精品国产| 88av欧美| 久99久视频精品免费| 国产成人精品久久二区二区免费| 久热这里只有精品99| 1024手机看黄色片| 男男h啪啪无遮挡| 亚洲美女黄片视频| 一个人观看的视频www高清免费观看 | 一本一本综合久久| 成人精品一区二区免费| 国产又色又爽无遮挡免费看| 久久久国产成人免费| 精品无人区乱码1区二区| 中文在线观看免费www的网站 | 极品教师在线免费播放| 给我免费播放毛片高清在线观看| x7x7x7水蜜桃| 两人在一起打扑克的视频| 日本三级黄在线观看| 亚洲av片天天在线观看| 动漫黄色视频在线观看| 18禁观看日本| 久久婷婷人人爽人人干人人爱| 国产亚洲精品久久久久5区| 99久久99久久久精品蜜桃| 国产精品1区2区在线观看.| 可以免费在线观看a视频的电影网站| 国产国语露脸激情在线看| 国产在线精品亚洲第一网站| 韩国av一区二区三区四区| 一二三四在线观看免费中文在| 日韩免费av在线播放| 999精品在线视频| 欧美av亚洲av综合av国产av| 巨乳人妻的诱惑在线观看| 美女国产高潮福利片在线看| 每晚都被弄得嗷嗷叫到高潮| 天天躁狠狠躁夜夜躁狠狠躁| 国产精品,欧美在线| 免费人成视频x8x8入口观看| x7x7x7水蜜桃| 午夜免费鲁丝| 最新在线观看一区二区三区| 欧美激情高清一区二区三区| 欧美日韩一级在线毛片| 狂野欧美激情性xxxx| 国产精品 欧美亚洲| 精品久久久久久久人妻蜜臀av| 精品国产亚洲在线| 国产精品免费一区二区三区在线| 99久久无色码亚洲精品果冻| 欧美黄色淫秽网站| 精品国产国语对白av| 久久久久国产精品人妻aⅴ院| 伊人久久大香线蕉亚洲五| www.999成人在线观看| 成人免费观看视频高清| 久久午夜亚洲精品久久| 久久热在线av| 一二三四在线观看免费中文在| 18禁黄网站禁片免费观看直播| 亚洲欧美一区二区三区黑人| 国产国语露脸激情在线看| 99精品在免费线老司机午夜| 精品一区二区三区视频在线观看免费| 国产精品久久久久久精品电影 | av欧美777| a级毛片a级免费在线| 满18在线观看网站| 午夜精品在线福利| 精品第一国产精品| 国产精品免费视频内射| 色哟哟哟哟哟哟| 黄片小视频在线播放| 欧美在线一区亚洲| 国产v大片淫在线免费观看| 亚洲最大成人中文| 亚洲五月色婷婷综合| 欧美在线黄色| 国产一区二区三区在线臀色熟女| 最近在线观看免费完整版| 午夜成年电影在线免费观看| 在线观看舔阴道视频| 国产一区二区三区视频了| 亚洲九九香蕉| 精品一区二区三区av网在线观看| 精品久久久久久,| 亚洲精华国产精华精| 黄片播放在线免费| 香蕉丝袜av| 特大巨黑吊av在线直播 | 亚洲国产毛片av蜜桃av| 国产精品亚洲av一区麻豆| 男女午夜视频在线观看| 香蕉国产在线看| 精品国产亚洲在线| 好男人在线观看高清免费视频 | bbb黄色大片| 亚洲成人久久性| 最近在线观看免费完整版| 每晚都被弄得嗷嗷叫到高潮| 日本一区二区免费在线视频| 午夜福利在线在线| 亚洲一区高清亚洲精品| 欧美在线黄色| 欧洲精品卡2卡3卡4卡5卡区| 免费av毛片视频| 欧美国产日韩亚洲一区| 香蕉av资源在线| 国产精品永久免费网站| 色综合亚洲欧美另类图片| 亚洲人成伊人成综合网2020| 精品少妇一区二区三区视频日本电影| 18禁裸乳无遮挡免费网站照片 | 美女国产高潮福利片在线看| 露出奶头的视频| 日韩欧美国产在线观看| 精品久久久久久,| 大香蕉久久成人网| 国产精品亚洲美女久久久| 一区福利在线观看| 国内精品久久久久久久电影| 午夜免费鲁丝| 99re在线观看精品视频| x7x7x7水蜜桃| 午夜影院日韩av| 国产av又大| 亚洲午夜精品一区,二区,三区| 色综合站精品国产| 欧美日韩亚洲国产一区二区在线观看| 久久婷婷成人综合色麻豆| 欧美在线一区亚洲| 国产在线精品亚洲第一网站| 波多野结衣高清作品| 亚洲国产精品久久男人天堂| 欧美激情 高清一区二区三区| 精品日产1卡2卡| 久久精品人妻少妇| av片东京热男人的天堂| 欧美三级亚洲精品| 国产av不卡久久| 成人欧美大片| 一区二区日韩欧美中文字幕| 一级作爱视频免费观看| 成人国产一区最新在线观看| 99在线视频只有这里精品首页| 国产熟女xx| 男女之事视频高清在线观看| 男男h啪啪无遮挡| 宅男免费午夜| 白带黄色成豆腐渣| 日韩av在线大香蕉| 亚洲精品在线美女| 51午夜福利影视在线观看| 亚洲欧美精品综合一区二区三区| 国产黄色小视频在线观看| 50天的宝宝边吃奶边哭怎么回事| 亚洲国产看品久久| 国产av一区在线观看免费| 人人妻人人澡欧美一区二区| 久久天躁狠狠躁夜夜2o2o| 久久国产亚洲av麻豆专区| 亚洲片人在线观看| 制服人妻中文乱码| 国产主播在线观看一区二区| 久99久视频精品免费| 精品高清国产在线一区| 国产97色在线日韩免费| 亚洲国产中文字幕在线视频| 色av中文字幕| 久久久久久久久中文| 久久久久亚洲av毛片大全| videosex国产| 一本一本综合久久| 日日爽夜夜爽网站| 日本五十路高清| 午夜福利18| 亚洲精品粉嫩美女一区| 最近最新免费中文字幕在线| 久久性视频一级片| 国产又黄又爽又无遮挡在线| 欧美成人午夜精品| 午夜免费成人在线视频| 久久久久久国产a免费观看| 女警被强在线播放| 精品一区二区三区av网在线观看| 欧美三级亚洲精品| 深夜精品福利| 可以在线观看的亚洲视频| 又黄又爽又免费观看的视频| 亚洲精品美女久久av网站| 亚洲欧美精品综合久久99| 欧美日本亚洲视频在线播放| 日本一区二区免费在线视频| 成人av一区二区三区在线看| 国产精品久久视频播放| 欧美精品啪啪一区二区三区| 日韩欧美免费精品| 亚洲专区字幕在线| 免费观看人在逋| 成人精品一区二区免费| 亚洲,欧美精品.| 欧美一级毛片孕妇| 亚洲美女黄片视频| 草草在线视频免费看| 欧美黑人精品巨大| 亚洲一区高清亚洲精品| 久久久久亚洲av毛片大全| 日韩av在线大香蕉| 熟妇人妻久久中文字幕3abv| 哪里可以看免费的av片| 91老司机精品| 两个人免费观看高清视频| 国产区一区二久久| 亚洲精品在线观看二区| 99久久国产精品久久久| 国产精品综合久久久久久久免费| 久久午夜亚洲精品久久| 国产亚洲精品久久久久久毛片| 国产熟女午夜一区二区三区| 亚洲精品在线美女| aaaaa片日本免费| 日韩精品青青久久久久久| 日本一区二区免费在线视频| 天天躁夜夜躁狠狠躁躁| 嫁个100分男人电影在线观看| 成人永久免费在线观看视频| 大型黄色视频在线免费观看| 久久香蕉国产精品| 亚洲国产精品999在线| 男女视频在线观看网站免费 | 婷婷精品国产亚洲av在线| 亚洲av电影在线进入| 日韩高清综合在线| 最近最新中文字幕大全电影3 | 日韩大码丰满熟妇| 成人三级做爰电影| 欧美+亚洲+日韩+国产| 夜夜爽天天搞| 黑人操中国人逼视频| 亚洲美女黄片视频| 夜夜爽天天搞| 法律面前人人平等表现在哪些方面| 男人舔女人的私密视频| 琪琪午夜伦伦电影理论片6080| 三级毛片av免费| 一级毛片高清免费大全| 国产男靠女视频免费网站| videosex国产| 国产麻豆成人av免费视频| 老汉色∧v一级毛片| 三级毛片av免费| 午夜福利高清视频| 99riav亚洲国产免费| √禁漫天堂资源中文www| 午夜a级毛片| 欧美大码av| 亚洲成a人片在线一区二区| 久久人妻av系列| 嫩草影视91久久| 内地一区二区视频在线| 草草在线视频免费看| 亚洲在线观看片| 一个人免费在线观看电影| av.在线天堂| 欧美xxxx性猛交bbbb| 亚洲美女视频黄频| 国产亚洲精品av在线| 亚洲婷婷狠狠爱综合网| 22中文网久久字幕| 一卡2卡三卡四卡精品乱码亚洲| 国产精品一区二区三区四区久久| 国产又黄又爽又无遮挡在线| 99九九线精品视频在线观看视频| 永久网站在线| 久久久国产成人精品二区| 免费电影在线观看免费观看| 联通29元200g的流量卡| 亚洲av第一区精品v没综合| 99久久久亚洲精品蜜臀av| 国产69精品久久久久777片| 97超视频在线观看视频| 欧美人与善性xxx| 男人和女人高潮做爰伦理| 亚洲欧美日韩无卡精品| 黄色欧美视频在线观看| 男女视频在线观看网站免费| 亚洲激情五月婷婷啪啪| av黄色大香蕉| 男女之事视频高清在线观看| 国产极品精品免费视频能看的| 欧美丝袜亚洲另类| 亚洲美女视频黄频| av在线亚洲专区| 午夜免费激情av| 国产精品福利在线免费观看| 国产综合懂色| 国产黄色小视频在线观看| 亚洲第一区二区三区不卡| 成人鲁丝片一二三区免费| 国产精品一区二区三区四区久久| 免费无遮挡裸体视频| 国产中年淑女户外野战色| 精品一区二区免费观看| av在线亚洲专区| 亚洲欧美中文字幕日韩二区| 18禁黄网站禁片免费观看直播| 国内精品久久久久精免费| 综合色丁香网| 成人av一区二区三区在线看| 99久久成人亚洲精品观看| 久久久精品欧美日韩精品| 久久精品91蜜桃| 亚洲久久久久久中文字幕| 欧美一区二区国产精品久久精品| 欧美日韩综合久久久久久| 极品教师在线视频| 久久久久久国产a免费观看| 成年版毛片免费区| 久久精品国产亚洲网站| 亚洲国产欧洲综合997久久,| 伦理电影大哥的女人| 国产真实乱freesex| 久久99热这里只有精品18| 一个人看视频在线观看www免费| 成人性生交大片免费视频hd| 亚洲欧美成人综合另类久久久 |