• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于共享資源量的動(dòng)態(tài)多資源公平分配策略

    2016-12-01 05:29:59張瀟璐劉曦李偉東張學(xué)杰
    通信學(xué)報(bào) 2016年7期
    關(guān)鍵詞:資源分配公平性份額

    張瀟璐,劉曦,李偉東,張學(xué)杰

    (云南大學(xué)信息學(xué)院,云南 昆明 650091)

    基于共享資源量的動(dòng)態(tài)多資源公平分配策略

    張瀟璐,劉曦,李偉東,張學(xué)杰

    (云南大學(xué)信息學(xué)院,云南 昆明 650091)

    針對(duì)云計(jì)算共享系統(tǒng)中多資源分配問(wèn)題,提出一種基于共享資源量的動(dòng)態(tài)多資源公平分配策略。該策略根據(jù)不同用戶(hù)資源需求和共享資源量建立一個(gè)線性規(guī)劃模型,同時(shí)證明該模型滿(mǎn)足公平分配的4個(gè)重要屬性:動(dòng)態(tài)帕累托最優(yōu)、激勵(lì)共享、動(dòng)態(tài)無(wú)嫉妒性和防止策略性操作,而且給出一種改進(jìn)的動(dòng)態(tài)多資源公平分配算法來(lái)提高算法運(yùn)行效率。實(shí)驗(yàn)結(jié)果表明,所提動(dòng)態(tài)多資源公平分配策略能夠在滿(mǎn)足任務(wù)資源需求的同時(shí),盡可能保證公平分配下最大化占優(yōu)資源份額,并且改進(jìn)的分配算法能夠有效地提高資源的分配效率。

    云計(jì)算;多資源公平分配;占優(yōu)資源;共享資源量

    1 引言

    云計(jì)算共享系統(tǒng)通過(guò)虛擬化技術(shù)將多種計(jì)算資源進(jìn)行整合,實(shí)現(xiàn)資源的共享功能,為資源的統(tǒng)一管理和調(diào)度提供技術(shù)保證和條件。對(duì)云共享系統(tǒng)而言,資源分配調(diào)度是一個(gè)至關(guān)重要的組件。云共享系統(tǒng)根據(jù)當(dāng)前各個(gè)虛擬機(jī)節(jié)點(diǎn)的資源需求,對(duì)資源進(jìn)行合理分配,使虛擬機(jī)節(jié)點(diǎn)能夠有足夠的資源完成計(jì)算任務(wù)并保證用戶(hù)之間公平有效地共享資源。因此,如何有效地將有限資源分配給各虛擬機(jī)節(jié)點(diǎn),使云共享系統(tǒng)滿(mǎn)足任務(wù)資源需求的同時(shí)兼顧資源分配的公平和效率是需要解決的關(guān)鍵問(wèn)題。

    目前,很多工作對(duì)資源公平分配問(wèn)題進(jìn)行了深入而廣泛的研究。最常用的分配策略是最大最小公平模型(max-min fairness)[1],最早用于控制網(wǎng)絡(luò)流量,以實(shí)現(xiàn)公平分配網(wǎng)絡(luò)帶寬。最大最小公平模型的基本思想是使資源分配的最小分配量盡可能最大化,防止任何網(wǎng)絡(luò)流被“餓死”,同時(shí)在一定程度上盡可能增加每個(gè)流的速率。最大最小公平模型被認(rèn)為是一種很好權(quán)衡公平性和有效性的自由分配策略,由此衍生出的大量算法被應(yīng)用于各種資源分配上,包括網(wǎng)絡(luò)帶寬、CPU、內(nèi)存等,但這些公平分配的研究主要集中在單一資源類(lèi)型。

    在云共享系統(tǒng)中,每個(gè)虛擬機(jī)節(jié)點(diǎn)的資源都是多維的,加上用戶(hù)任務(wù)資源需求的多樣性,相對(duì)于單一資源的分配,多資源類(lèi)型的分配更難做到完全的公平性。另外,用戶(hù)為了得到更多資源,可能通過(guò)需求欺騙、惡意占用等手段破壞資源分配的公平性,因此,多資源的公平合理分配顯得尤為重要。已有的多資源公平分配研究成果中,DRF(DRF,dominant resource fairness)機(jī)制[2]被廣泛應(yīng)用到Hadoop Yarn[3]和Mesos[4]系統(tǒng)中。DRF計(jì)算每個(gè)用戶(hù)每種資源的分配數(shù)量與資源總量的比值,所有比值中的最大值為該用戶(hù)的占優(yōu)資源份額(dominant share),與其相對(duì)應(yīng)的資源為該用戶(hù)的占優(yōu)資源(dominant resource)。DRF機(jī)制的基本思想是最大化所有用戶(hù)占優(yōu)資源份額中的最小者,從而將多資源分配問(wèn)題轉(zhuǎn)化為單資源分配問(wèn)題。該機(jī)制擴(kuò)展了最大最小公平模型,使其能夠在多種不同資源并存情況下保證分配的公平性。然而,DRF機(jī)制的提出是基于每個(gè)用戶(hù)對(duì)資源池共享相同資源量的假設(shè),在實(shí)際情況中,每個(gè)用戶(hù)對(duì)資源的共享量可能不同,且共享量多的用戶(hù)希望得到更多的資源。因此,文獻(xiàn)[2]又提出加權(quán)DRF機(jī)制(weighted DRF),該機(jī)制對(duì)每個(gè)用戶(hù)都關(guān)聯(lián)一個(gè)共享資源量(權(quán)值向量),最大化用戶(hù)得到的占優(yōu)資源份額與其共享資源量的比值中最小值來(lái)實(shí)現(xiàn)資源的公平分配。如果所有用戶(hù)的共享資源量相同,則加權(quán)DRF機(jī)制轉(zhuǎn)換為DRF機(jī)制。

    加權(quán) DRF機(jī)制解決基于不同共享資源量的公平分配問(wèn)題,但在實(shí)際云共享系統(tǒng)中,用戶(hù)會(huì)在不同的時(shí)刻進(jìn)入系統(tǒng),用戶(hù)帶來(lái)的共享資源量使系統(tǒng)中可分配的資源總量發(fā)生動(dòng)態(tài)變化,資源分配機(jī)制應(yīng)該根據(jù)用戶(hù)資源需求對(duì)資源分配情況進(jìn)行重新調(diào)整,確保盡可能公平分配,而靜態(tài)分配機(jī)制無(wú)法解決由用戶(hù)動(dòng)態(tài)性帶來(lái)的資源分配公平性和效率問(wèn)題。文獻(xiàn)[5]針對(duì)資源分配的動(dòng)態(tài)性做出較大改進(jìn),允許用戶(hù)隨時(shí)進(jìn)入系統(tǒng)但不離開(kāi)的情形,然而研究者也是基于用戶(hù)進(jìn)入云共享系統(tǒng)時(shí)帶來(lái)相同資源份額的假設(shè),并未考慮實(shí)際用戶(hù)對(duì)資源共享的差異性所帶來(lái)的公平性問(wèn)題,并且在資源分配過(guò)程中采用注水(water filling)算法[5],該算法的運(yùn)行時(shí)間復(fù)雜度是關(guān)于輸入長(zhǎng)度的偽多項(xiàng)式函數(shù),操作性和用戶(hù)資源需求與資源公平分配適應(yīng)性比較差,從而導(dǎo)致比較低的資源分配效率。

    針對(duì)上述問(wèn)題,本文對(duì)動(dòng)態(tài)情形下,用戶(hù)的資源需求以及用戶(hù)動(dòng)態(tài)進(jìn)入系統(tǒng)時(shí)所共享資源量的差異性帶來(lái)的公平性和資源利用率問(wèn)題做進(jìn)一步綜合考慮,面向云共享系統(tǒng),提出基于共享資源量的動(dòng)態(tài)多資源公平分配策略(DMFA-SRQ, dynamic multi-resources fair allocation based on shared resource quantity)。該策略基于用戶(hù)資源需求和共享資源量,重新定義動(dòng)態(tài)情形下占優(yōu)資源份額,給出一個(gè)線性規(guī)劃模型,在滿(mǎn)足用戶(hù)資源需求同時(shí),盡可能實(shí)現(xiàn)占優(yōu)資源的最大公平性分配,并且證明該模型滿(mǎn)足公平分配的4個(gè)重要屬性:動(dòng)態(tài)帕累托最優(yōu)(DPO, dynamic Pareto optimality)、激勵(lì)共享(SI,sharing incentive)、動(dòng)態(tài)無(wú)嫉妒性(DEF, dynamic envy freeness)和防止策略性操作(SP, strategy proofness);提出改進(jìn)的動(dòng)態(tài)多資源公平分配算法使算法運(yùn)行時(shí)間復(fù)雜度減小到Ο ( n2logn)(n為系統(tǒng)中用戶(hù)數(shù))。理論和實(shí)驗(yàn)表明,本文提出的方法解決了動(dòng)態(tài)情形下基于不同共享資源量的多資源公平分配問(wèn)題,且有效提高了算法的運(yùn)行效率。

    2 相關(guān)工作

    近年來(lái),研究者們提出了各種各樣有關(guān)公平性的資源分配算法。在單一資源類(lèi)型的公平分配研究中,文獻(xiàn)[6~9]研究 CPU時(shí)間、鏈路帶寬資源的公平分配策略,利用“max-min fairness”思想,最大化每個(gè)用戶(hù)分配到的最小資源,保證多數(shù)用戶(hù)的資源需求得到滿(mǎn)足,實(shí)現(xiàn)公平性分配。文獻(xiàn)[10,11]研究在2個(gè)用戶(hù)利益之間尋求資源分配平衡機(jī)制,提出“proportional fairness”方法;Zukerman等[12]提出針對(duì)單一資源在公平和效率之間進(jìn)行折中的效用評(píng)估算法;Lan等[13]基于公平分配理論屬性,提出一種資源分配機(jī)制,并為公平性的度量提供了準(zhǔn)則。

    在多資源公平分配研究中,Ghodsi等[2]最早系統(tǒng)地研究云計(jì)算系統(tǒng)中多資源公平分配問(wèn)題,基于用戶(hù)相同共享資源量的假設(shè),提出一種DRF機(jī)制。該機(jī)制顯示出諸多令人滿(mǎn)意的公平屬性,吸引了大量研究者的關(guān)注,并得到了廣泛推廣。Dolev等[14]提出基于瓶頸資源的公平分配(BBF, bottleneck based fairness)算法,并證明BBF滿(mǎn)足激勵(lì)共享和無(wú)嫉妒性2種公平屬性;Gutman等[15]考慮DRF在多個(gè)效用模型下的通用性,并且能夠在多項(xiàng)式時(shí)間內(nèi)解決BBF公平分配問(wèn)題;Bhattacharya[16]重新定義 DRF以此來(lái)支持多層次資源分配;Wang等[17]提出改進(jìn) DRF機(jī)制,使其能夠適用于異構(gòu)云計(jì)算環(huán)境;Joe-Wong等[18]推廣 DRF,量化并使其成為一個(gè)一體化的框架,以權(quán)衡分配公平和分配效率;Psomans等[19]研究在多個(gè)計(jì)算節(jié)點(diǎn)上對(duì)離散任務(wù)的多資源公平分配方法;Parks等[20]用多種方法擴(kuò)展DRF機(jī)制,適用于某些資源的零需求、不可劃分任務(wù)和不同權(quán)重等情形。

    以上工作都是基于系統(tǒng)中所有用戶(hù)資源需求的靜態(tài)分配,與目前云共享系統(tǒng)中用戶(hù)隨時(shí)進(jìn)入和退出的動(dòng)態(tài)性有本質(zhì)的不同,而且資源分配過(guò)程中并沒(méi)有考慮到歷史分配信息。在動(dòng)態(tài)情形下,Zeldes等[21]提出基于資源瓶頸和全局屬性的在線公平分配機(jī)制;文獻(xiàn)[22,23]分別在靜態(tài)和動(dòng)態(tài)情形下研究基于用戶(hù)有限任務(wù)請(qǐng)求數(shù)量的多資源公平分配機(jī)制,但未解決在用戶(hù)動(dòng)態(tài)進(jìn)入云共享系統(tǒng)時(shí)用戶(hù)資源請(qǐng)求和共享資源量的差異性對(duì)多資源公平分配的影響。Kash等[5]雖提出基于用戶(hù)相同共享資源量的多資源公平分配策略DDRF,但這種策略并沒(méi)有考慮用戶(hù)共享資源量的差異性所帶來(lái)的實(shí)際資源分配的公平性和效率問(wèn)題。

    綜上,雖然目前很多工作在多資源公平分配問(wèn)題上取得了一定進(jìn)展,但對(duì)用戶(hù)動(dòng)態(tài)性以及資源需求和共享資源量差異性帶來(lái)的分配公平性和資源利用率問(wèn)題缺乏進(jìn)一步考慮,因此,本文引入一種基于共享資源量的動(dòng)態(tài)多資源公平分配策略DMFA-SRQ,給出一個(gè)線性規(guī)劃分配模型,并提出一種改進(jìn)的動(dòng)態(tài)多資源公平分配算法。

    3 問(wèn)題描述及相關(guān)定義

    在云共享系統(tǒng)中,用戶(hù)請(qǐng)求是由具有不同資源配置的虛擬機(jī)進(jìn)行響應(yīng),為方便以下討論,這里做個(gè)假定:用戶(hù)任務(wù)的資源請(qǐng)求可認(rèn)為是虛擬機(jī)資源請(qǐng)求,用戶(hù)任務(wù)的資源分配過(guò)程即虛擬機(jī)資源部署過(guò)程。

    假定云共享系統(tǒng)中資源池包含m種硬件資源,如CPU、內(nèi)存、磁盤(pán)、網(wǎng)絡(luò)帶寬等。令 R = {1,2,…,m}表示資源種類(lèi)集合, U= {1,2,…, n}表示用戶(hù)集合。用戶(hù)i的資源需求向量為 Di=(Di1,… , Dim),其中,Dij表示用戶(hù)i的任務(wù)對(duì)資源j的需求量占整個(gè)資源池中資源j總量的比例,且 Dij> 0。對(duì)Di做歸一化

    令 wi表示用戶(hù)i對(duì)資源池中每種資源的共享資源量,且當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),k ∈ {1,… ,n},令 xik表示用戶(hù)i分配得到的占優(yōu)資源份額數(shù),即可執(zhí)行的任務(wù)數(shù)。定義用戶(hù)i的占優(yōu)資源份額(dominant share)為

    根據(jù)占優(yōu)資源定義,上式可簡(jiǎn)化為

    在動(dòng)態(tài)情形下,假定用戶(hù)在不同時(shí)刻順序到達(dá),即用戶(hù)k在用戶(hù)k?1之后到達(dá),且用戶(hù)(i>k)的資源需求di>k未知。用戶(hù)進(jìn)入系統(tǒng)后不會(huì)離開(kāi),并且每個(gè)用戶(hù)任務(wù)所需資源量不會(huì)隨時(shí)間發(fā)生改變。當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),得到一個(gè)動(dòng)態(tài)多資源公平分配方案Ak=(Ak,… ,,… ,), 其 中 ,= (,…,

    在資源j上分配得到的資源數(shù)量,滿(mǎn)足以下公式

    并且對(duì)任意用戶(hù)i, i≤k? 1,k≥2,其分配結(jié)果是一個(gè)不可逆過(guò)程,即≥。對(duì)所有用戶(hù)i, 給定一個(gè)分配 Ak,則在虛擬機(jī)上被調(diào)度執(zhí)行的最大

    ij任務(wù)數(shù)按如下公式計(jì)算

    i + ij對(duì)任意資源 j, j∈R,若存在這樣一個(gè)y,使=d y成立,則稱(chēng) Ak為無(wú)浪費(fèi)分配方案。ij ij

    本文設(shè)計(jì)一種動(dòng)態(tài)情形下無(wú)浪費(fèi)資源分配方案:基于共享資源量的動(dòng)態(tài)多資源公平分配策略(DMFA-SRQ),目標(biāo)是當(dāng)系統(tǒng)中存在k個(gè)用戶(hù)時(shí),最大化占優(yōu)資源份額kM ,從而得到最大化的占優(yōu)資源份額數(shù),并且盡可能保證資源分配的公平性。因此,DMFA-SRQ策略可形式化為

    該線性規(guī)劃模型中第一個(gè)約束條件是盡可能保證占優(yōu)資源的公平分配,同時(shí),共享資源量越多的用戶(hù)分配得到的占優(yōu)資源份額數(shù)就越多。另外,還給出在多資源分配過(guò)程中其他2個(gè)約束條件,即當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),對(duì)任意用戶(hù)分配得到的占優(yōu)資源份額數(shù)不小于系統(tǒng)中有k?1個(gè)用戶(hù)時(shí)的分配情況,滿(mǎn)足分配的不可逆性;當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),系統(tǒng)可以分配的資源量最多為

    圖1舉例說(shuō)明DMFA-SRQ策略的資源分配情況。假設(shè)系統(tǒng)中共有3個(gè)用戶(hù),分別順序進(jìn)入系統(tǒng)。每個(gè)用戶(hù)的資源需求向量和共享資源量分別為當(dāng)系統(tǒng)中只有用戶(hù)1時(shí),分配得到的占優(yōu)資源份額;當(dāng)系統(tǒng)中

    在靜態(tài)分配情形下,根據(jù)文獻(xiàn)[15,21]以及式(4)的線性規(guī)劃方程組,可通過(guò)式(5)求得靜態(tài)最優(yōu)解

    接下來(lái)提出一種快速算法 DMFA-SRQ以解決動(dòng)態(tài)分配情形下kM 最大化問(wèn)題。

    4 DMFA-SRQ策略的公平性分析

    無(wú)論是在云共享系統(tǒng)[2,19],還是在經(jīng)濟(jì)學(xué)[24,25]中,資源分配的效率和公平性被廣泛認(rèn)為是最重要的屬性,也是衡量一個(gè)公平分配機(jī)制優(yōu)劣的判斷標(biāo)準(zhǔn)。文獻(xiàn)[5]引入在動(dòng)態(tài)情形下多資源公平分配機(jī)制所滿(mǎn)足的4個(gè)重要屬性:動(dòng)態(tài)帕累托最優(yōu)、激勵(lì)共享、動(dòng)態(tài)無(wú)嫉妒性、防止策略性操作。本文在此基礎(chǔ)上,針對(duì)動(dòng)態(tài)情形下用戶(hù)資源需求以及用戶(hù)共享資源量的差異所提出的公平分配機(jī)制應(yīng)滿(mǎn)足的4個(gè)重要屬性做進(jìn)一步討論。

    1) 動(dòng)態(tài)帕累托最優(yōu)

    對(duì)于所有用戶(hù)的可行分配方案 Ak,其中任意一個(gè)用戶(hù)i的資源分配方案,有() >()成立, 那么將存在一個(gè)用戶(hù)h,使 N () <()成立。

    h

    2) 激勵(lì)共享

    如果一種動(dòng)態(tài)公平分配機(jī)制系統(tǒng)中有k個(gè)用戶(hù)時(shí),對(duì)任意用戶(hù)i,i∈U ,i≤k,有 N (Ak)≥ N( w )

    i i i i成立,則認(rèn)為該機(jī)制滿(mǎn)足SI屬性。

    3) 動(dòng)態(tài)無(wú)嫉妒性

    在動(dòng)態(tài)公平分配機(jī)制中,如果用戶(hù)i嫉妒用戶(hù)h,i, h∈U,說(shuō)明用戶(hù)h是在用戶(hù)i之前進(jìn)入系統(tǒng),并且自用戶(hù)i進(jìn)入系統(tǒng)之后用戶(hù)h未再被分配資源,則該機(jī)制滿(mǎn)足DEF屬性。即當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),如果成立,則有h

    4) 防止策略性操作

    用戶(hù)不能通過(guò)謊報(bào)資源需求來(lái)提高自己的占優(yōu)資源份額,此屬性滿(mǎn)足需求不可欺騙性。令為用戶(hù)i謊報(bào)虛假資源di,而其他用戶(hù)都提交真實(shí)資源需求情況下得到的分配方案,則有i≤k成立。

    圖1 DMFA-SRQ策略的資源分配結(jié)果

    DPO屬性表明當(dāng)用戶(hù)資源分配已經(jīng)達(dá)到飽和時(shí),它可能在影響其他用戶(hù)分配的前提下,增加自己的占優(yōu)資源份額數(shù)。SI屬性確保用戶(hù)最終分配得到的占優(yōu)資源份額數(shù)不少于用戶(hù)帶來(lái)的共享資源量,并且用戶(hù)帶來(lái)的共享資源量越多,分配到的資源就越多。DEF屬性說(shuō)明如果一種動(dòng)態(tài)分配機(jī)制是有嫉妒性的,則用戶(hù)會(huì)嫉妒比其早進(jìn)入系統(tǒng)且分配到較多占優(yōu)資源份額的用戶(hù)。SP屬性規(guī)定用戶(hù)不能通過(guò)謊報(bào)自己的需求來(lái)獲得更多額外資源。

    引理1 當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),k ∈{1,…, n},對(duì)用戶(hù)i,i∈U ,i≤k,=max{Mkw, xk?1}。

    i i

    證明 考慮系統(tǒng)中有k個(gè)用戶(hù)時(shí),根據(jù)式(4)中前 2個(gè) 約束 條 件≥Mkw, xk≥ xk?1,得 到i i i

    證明 利用數(shù)學(xué)歸納法證明。當(dāng)i>k,h>k時(shí),== 0。假設(shè)當(dāng)系統(tǒng)中有k?1個(gè)用戶(hù)存在時(shí), k ∈ {h, … , n},不等式成立。當(dāng)系統(tǒng)中存在k個(gè)用戶(hù)時(shí),根據(jù)引理1及得出即證畢。

    h則有根據(jù)h

    從引理1可以看出,對(duì)系統(tǒng)中每個(gè)用戶(hù)而言,不同資源需求的用戶(hù)根據(jù) DMFA-SRQ策略分配得到的占優(yōu)資源份額隨著更多用戶(hù)在不同時(shí)刻進(jìn)入系統(tǒng)后呈現(xiàn)單調(diào)非遞減性。引理2表明用戶(hù)得到的占優(yōu)資源份額隨著用戶(hù)進(jìn)入系統(tǒng)的先后順序呈現(xiàn)單調(diào)非遞增性。引理3則表示當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),如果用戶(hù)h的占優(yōu)資源份額大于用戶(hù)i,說(shuō)明用戶(hù)h比用戶(hù)i更早進(jìn)入系統(tǒng),且自用戶(hù)i進(jìn)入系統(tǒng)后,用戶(hù)h未被再分配資源,因此,用戶(hù)i會(huì)嫉妒用戶(hù)h,這與動(dòng)態(tài)無(wú)嫉妒屬性(DEF)所描述的含義相同。下面根據(jù)以上的引理,驗(yàn)證 DMFA-SRQ策略滿(mǎn)足4個(gè)重要屬性:動(dòng)態(tài)帕累托最優(yōu)、激勵(lì)共享、動(dòng)態(tài)無(wú)嫉妒性、防止策略性操作。

    定理1 當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),k ∈{1,…, n},DMFA-SRQ策略滿(mǎn)足DPO屬性。

    證明 當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),至少存在一種資源 j(j∈R)和一個(gè)最優(yōu)解 Mk,使式(4)中第3個(gè)約束條件成立。否則,如果存在一個(gè)不滿(mǎn)足分配方案的用戶(hù)i,在不影響其他用戶(hù)分配情況下,提高自己分配到的占優(yōu)資源份額數(shù),即增加一個(gè)很小的量+ε,ε>0,使 Mk值也相應(yīng)增加,與 Mk是問(wèn)題最優(yōu)解相矛盾,因此,DMFA-SRQ滿(mǎn)足DPO屬性。

    定理2 當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),k ∈{1,…, n},DMFA-SRQ策略滿(mǎn)足SI屬性。

    證明 考慮系統(tǒng)中只有一個(gè)用戶(hù)時(shí),根據(jù)式(4)中第1個(gè)約束條件,有=w1,M1=1,則可以得到≥ M1w ≥ w。接下來(lái),利用數(shù)學(xué)歸納法證明

    1 1當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí), k ∈ {2,…, n},對(duì)任意用戶(hù)i,i∈U ,i≤k,則有)≥wi),即≥wi。

    定理3 當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),k ∈{1,…, n},DMFA-SRQ策略滿(mǎn)足DEF屬性。

    證明 當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),如果對(duì)任意用戶(hù)i, h≤k,用戶(hù)i嫉妒用戶(hù)h,即根據(jù)引理 3,則有由上述不等式可以推出否則,得出以下不等式

    其中,j*為用戶(hù)i的占優(yōu)資源,由式(6)可知用戶(hù)i得到比用戶(hù)h更多的占優(yōu)資源份額,與條件矛盾。因此,由及引理3可以推出DMFA- SRQ滿(mǎn)足DEF屬性。證畢。

    接下來(lái),證明DMFA-SRQ策略滿(mǎn)足SP屬性,首先,給出引理 4。當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),k ∈ {1,… , n},假設(shè)用戶(hù)i,i∈U,謊報(bào)不真實(shí)的資源需求向量,則至少存在一個(gè)用戶(hù)t,t∈ {i, … ,k},自加入系統(tǒng)之后使用戶(hù)i獲得比較多的優(yōu)勢(shì)份額數(shù)量。此時(shí),對(duì)任意其他真實(shí)需求用戶(hù)h,在不真實(shí)資源需求環(huán)境下分配得到的占優(yōu)資源份額數(shù)表示為,h≤k,同時(shí), M?k為求解線性規(guī)劃方程式(4)得到的最優(yōu)解。

    證明 考慮以下2種情況。

    定理4 當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),k ∈{1,… ,n},DMFA-SRQ策略滿(mǎn)足SP屬性。

    證明 利用反證法證明。當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),用戶(hù)i謊報(bào)不真實(shí)資源需求,當(dāng)?shù)趖個(gè)用戶(hù)進(jìn)入系統(tǒng)時(shí),用戶(hù)i分配得到較多的優(yōu)勢(shì)份額數(shù),則存在一種資源j,j∈R,使分配滿(mǎn)足動(dòng)態(tài)帕累托最優(yōu)性質(zhì),并根據(jù)引理4可以推出以下不等式

    不等式(7)與式(4)中第3個(gè)約束條件相矛盾,因此,DMFA-SRQ滿(mǎn)足SP屬性。證畢。

    5 DMFA-SRQ算法

    Water filling算法[5]是一種在動(dòng)態(tài)情形下實(shí)現(xiàn)資源最大最小化公平分配的經(jīng)典算法,但代價(jià)是算法運(yùn)行時(shí)間過(guò)長(zhǎng)。本文基于第3節(jié)中提出的線性規(guī)劃模型,設(shè)計(jì)了一個(gè)更為快速的Ο ( n2logn)多項(xiàng)式時(shí)間復(fù)雜度算法,即用基于共享資源量的動(dòng)態(tài)多資源公平分配算法改進(jìn)求解最優(yōu)分配方案的算法運(yùn)行效率問(wèn)題。

    該算法基于本文定義的最大化 Mk以及約束條件,尋找一個(gè)用戶(hù)τ對(duì)應(yīng)的vτ,使如果> vτ成立, 則否則從而確定,并最終得到該算法主要思想如下。

    1) 當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),對(duì)k?1個(gè) xik?1值進(jìn)行非遞增排序(i

    3) 根據(jù)式(4)線性規(guī)劃方程組中前2個(gè)約束條件以及引理 1,當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),每個(gè)用戶(hù)i被分配執(zhí)行的任務(wù)數(shù)為,即從而最終得到用戶(hù)i在資源 j上的分配方案。DMFA-SRQ算法的操作過(guò)程如算法1所示。

    算法1 DMFA-SRQ算法

    1) 輸入:Demanddi,1≤i≤k

    4)k←2;

    7)

    8) else, do

    10)

    12)

    14) goto 10);

    15) else, do

    17) goto 10);

    18) end if;

    19) end while;

    21)

    24)k ←k+1;

    25) end while

    當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),本文提出的DMFA-SRQ 算法利用二分法思想確定vτ,并得到和最終分配方案(,… ,xk),算法的運(yùn)行時(shí)間取k決于求解vτ值的迭代次數(shù),因此,該算法的時(shí)間復(fù)雜度為Ο ( klogk)。當(dāng)系統(tǒng)中共有n個(gè)用戶(hù)時(shí),整體算法運(yùn)行時(shí)間為

    6 實(shí)驗(yàn)評(píng)估

    實(shí)驗(yàn)將采用Google 集群中真實(shí)計(jì)算任務(wù)負(fù)載數(shù)據(jù)集[26]中500個(gè)任務(wù)類(lèi)型文件中的143 601 184個(gè)任務(wù)運(yùn)行所需的CPU和Memory資源作為本文實(shí)驗(yàn)中用戶(hù)資源請(qǐng)求。實(shí)驗(yàn)從該數(shù)據(jù)集中隨機(jī)選取20、100、500個(gè)用戶(hù),對(duì)每個(gè)用戶(hù)的資源需求向量<CPU,Memory>進(jìn)行歸一化處理,并隨機(jī)設(shè)置每個(gè)用戶(hù)的共享資源量wi,使其滿(mǎn)足其中,100、500個(gè)用戶(hù)的資源需求分布如圖 2所示。本文對(duì)所提DMFA-SRQ算法與加權(quán)DRF算法進(jìn)行仿真模擬,實(shí)現(xiàn)2種算法的資源分配,并基于最小占優(yōu)資源份額、占優(yōu)資源份額數(shù)和、資源利用率3個(gè)最大化目標(biāo)分別在不同用戶(hù)數(shù)下各執(zhí)行1 000次取均值得到2種算法的實(shí)驗(yàn)結(jié)果,以此來(lái)評(píng)估 DMFA- SRQ算法性能。

    圖2 用戶(hù)資源需求分布

    圖3和圖4分別給出了在100個(gè)、500個(gè)用戶(hù)下,用戶(hù)共享資源量對(duì)用戶(hù)資源分配的影響。實(shí)驗(yàn)設(shè)置用戶(hù)隨機(jī)動(dòng)態(tài)進(jìn)入系統(tǒng)并隨機(jī)設(shè)置其共享資源量 wi,滿(mǎn)足

    采樣點(diǎn)均勻選取其中 20個(gè)用戶(hù)分配得到的占優(yōu)資源份額數(shù),并對(duì)wi進(jìn)行升序排列。從圖3和圖4中可以看出,用戶(hù)共享資源量與占優(yōu)資源份額數(shù)呈現(xiàn)單調(diào)非遞減性,即用戶(hù)共享資源量 wi越多,其分配得到的占優(yōu)資源份額數(shù)就越多。該實(shí)驗(yàn)結(jié)果表明,DMFA-SRQ算法保證資源分配的公平性,并且共享資源量越多的用戶(hù),分配得到的資源也越多。

    圖3 100個(gè)用戶(hù)下占優(yōu)資源份額數(shù)基于wi的變化

    圖4 500個(gè)用戶(hù)下占優(yōu)資源份額數(shù)基于wi的變化

    DMFA-SRQ算法目標(biāo)是在盡可能保持公平分配情況下,最大化占優(yōu)資源份額,因此,為進(jìn)一步驗(yàn)證所提出的 DMFA-SRQ算法能夠保證資源分配的公平性和分配效率,本文基于最小占優(yōu)資源份額、占優(yōu)資源份額數(shù)和、資源利用率3個(gè)最大化目標(biāo)與靜態(tài)情形下加權(quán) DRF算法進(jìn)行對(duì)比分析。

    1) 最小占優(yōu)資源份額最大化

    i驗(yàn)分配結(jié)果如圖5所示。

    圖5 最小占優(yōu)資源份額

    從圖5中可以看出,動(dòng)態(tài)情形下DMFA-SRQ算法得到的占優(yōu)資源份額低于靜態(tài)情形下加權(quán)DRF算法得到的結(jié)果,這主要是因?yàn)閯?dòng)態(tài)情形下用戶(hù)資源需求未知,分配過(guò)程中無(wú)法比較所有用戶(hù)的最小占優(yōu)資源份額,而且動(dòng)態(tài)分配需要滿(mǎn)足分配的不可逆性條件。通過(guò)實(shí)驗(yàn)結(jié)果也可以看出,基于不同共享資源量的 DMFA-SRQ分配算法在不違背公平性原則的情況下,實(shí)現(xiàn)動(dòng)態(tài)情形下最小占優(yōu)資源份額最大化分配目標(biāo),也進(jìn)一步驗(yàn)證了該算法滿(mǎn)足SI屬性。

    2) 占優(yōu)資源份額數(shù)和最大化

    在經(jīng)濟(jì)學(xué)中,占優(yōu)資源份額數(shù)和是衡量策略效率的一個(gè)重要指標(biāo)[5]。當(dāng)系統(tǒng)中有k個(gè)用戶(hù)時(shí),給出占優(yōu)資源份額數(shù)和的定義為圖 6 給出DMFA-SRQ算法與加權(quán)DRF算法的占優(yōu)資源份額數(shù)和的對(duì)比。

    圖6 占優(yōu)資源份額數(shù)和

    從圖6中可以看出,動(dòng)態(tài)情形下的DMFA-SRQ算法分配得到的占優(yōu)資源份額數(shù)和與靜態(tài)加權(quán)DRF算法結(jié)果相接近,說(shuō)明 DMFA-SRQ算法在滿(mǎn)足式(4)線性規(guī)劃方程組中的約束條件下,能夠?qū)崿F(xiàn)動(dòng)態(tài)情形下所有用戶(hù)占優(yōu)資源份額最大化分配目標(biāo)。

    3) 資源利用率最大化

    在云共享系統(tǒng)中,資源利用率是衡量分配策略效率的重要標(biāo)準(zhǔn)之一[14]。因此,本文測(cè)試DMFA-SRQ算法下的CPU和Memory資源利用率,并與加權(quán)DRF算法進(jìn)行比較。圖7和圖8分別給出了2種算法的CPU和Memory資源利用率結(jié)果。

    從圖7和圖8中2種算法資源利用率的對(duì)比可以看出,DMFA-SRQ算法下的資源利用率值與靜態(tài)情形下的加權(quán) DRF算法結(jié)果相接近,且用戶(hù)數(shù)越多,2種算法的資源利用率越接近。實(shí)驗(yàn)結(jié)果驗(yàn)證本文所提算法的資源利用率并沒(méi)有因?yàn)閯?dòng)態(tài)情形下用戶(hù)資源需求未知以及資源共享總量的差異而有所降低,說(shuō)明該策略既保證資源分配的公平性,又兼顧到分配效率。

    圖7 CPU資源利用率

    圖8 Memory資源利用率

    7 結(jié)束語(yǔ)

    本文針對(duì)云計(jì)算共享系統(tǒng)中虛擬化資源分配的公平性問(wèn)題,基于用戶(hù)資源需求和共享資源量,提出基于共享資源量的動(dòng)態(tài)多資源公平分配策略。該策略建立一個(gè)線性規(guī)劃模型來(lái)實(shí)現(xiàn)對(duì)占優(yōu)資源的盡可能公平分配,并證明該模型滿(mǎn)足公平分配的4個(gè)重要屬性:動(dòng)態(tài)帕累托最優(yōu)、激勵(lì)共享、動(dòng)態(tài)無(wú)嫉妒性、防止策略性操作,此外,本文還提出基于共享資源量的動(dòng)態(tài)多資源公平分配算法來(lái)改進(jìn)算法運(yùn)行效率。而且,本文所提出的策略和算法不僅可以應(yīng)用于云共享系統(tǒng)資源的動(dòng)態(tài)分配,也適用于WLAN和WSN等領(lǐng)域的網(wǎng)絡(luò)帶寬分配。最后,實(shí)驗(yàn)基于最小占優(yōu)資源份額、占優(yōu)資源份額數(shù)和、資源利用率最大化目標(biāo)與加權(quán) DRF算法進(jìn)行比較,進(jìn)一步表明本文所提DMFA-SRQ策略能夠有效地保證動(dòng)態(tài)情形下多用戶(hù)多資源分配的公平性和資源利用率。但由于云計(jì)算環(huán)境的異構(gòu)性以及資源分布在多服務(wù)器等復(fù)雜情況,還可能面臨更為復(fù)雜的多資源分配問(wèn)題,因此,對(duì)異構(gòu)環(huán)境下的動(dòng)態(tài)多用戶(hù)多資源公平分配問(wèn)題將是下一步的研究工作。

    [1] Max-min fairness[EB/OL]. http://en.wikipedia.org/wiki/Max-min_fairness.

    [2] GHODSI A, ZAHARIA M, HINDMAN B, et al. Dominant resource fairness: fair allocation of multiple resource types[C]//The 8th USENIX Conference on Networked Systems Design and Implementation. c2011: 24.

    [3] Hadoop[EB/OL]. http://hadoop.apache.org/.

    [4] Mesos[EB/OL]. http://mesos.apache.org/.

    [5] KASH I, PROCACCIA A D, SHAH N. No agent left behind: dynamic fair division of multiple resources[J]. Journal of Artificial Intelligence Research, 2013(1): 351-358.

    [6] JAIN R, CHARNY A, CLARK D. Congestion control with explicit rate indication[C]// 1995 IEEE International Conference on Communications.c1995: 1954-1963.

    [7] GOYAL P, VIN H M, CHEN H. Start-time fair queueing: a scheduling algorithm for integrated services packet switching networks[C]//ACM Sigcomm Computer Communication Review. c1996: 157-168.

    [8] STOICA I, SHENKER S, ZHANG H. Core-stateless fair queueing:achieving approximately fair bandwidth allocations in high speed networks[C]//The ACM Sigcom. c1998: 118-130.

    [9] CAPRITA B, CHAN W C, NIEH J, et al. Group ratio round-robin: O(1)proportional share scheduling for uniprocessor and multiprocessor systems[C]//Usenix Technical Conference. c2005: 337-352.

    [10] KELLY F. Charging and rate control for elastic traffic[J]. European Transactions on Telecommunications, 1997, 8(1):33-37.

    [11] MASSOULIE L, ROBERTS J. Bandwidth sharing: objectives and algorithms[C]//18th Joint Conference of the IEEE Computer and Communications Societies(INFOCOM '99). New York. c1999: 1395-1403.

    [12] ZUKERMAN M, TAN L, WANG H, et al. Efficiency-fairness tradeoff in telecommunications networks [J]. IEEE Communications Letters,2005, 9(7):643 - 645.

    [13] LAN B T, KAO D, CHIANG M, et al. An axiomatic theory of fairness in network resource allocation[C]//IEEE Infocom. c2010: 1-9.

    [14] DOLEV D, FEITELSON D G, HALPERN J Y, et al. No justified complaints: on fair sharing of multiple resources[C]//The 3rd Innovations in Theoretical Computer Science Conference. c2012: 68-75.

    [15] GUTMAN A, NISAN A. Fair allocation without trade[C]//The 11th International Conference on Autonomous Agents and Multiagent Systems. c2012: 719-728.

    [16] BHATTACHARYA A A, CULLER D, FRIEDMAN E, et al. Hierarchical scheduling for diverse datacenter workloads[C]//The 4th Symposium on Cloud Computing (SOCC’13). c2013:1-15.

    [17] WANG W, LIANG B, LI B. Multi-resource fair allocation in heterogeneous cloud computing systems[J]. Parallel and Distributed Systems,2015, 26(10): 2822-2835.

    [18] JOE-WONG C, SEN S, LAN T, et al. Multiresource allocation: fairness-efficiency tradeoffs in a unifying framework[J]. IEEE/ACM Transactions on Networking, 2013, 21(6): 1785-1798.

    [19] PSOMAS C A, SCHWARTZ J. Beyond beyond dominant resource fairness: Indivisible resource allocation in clusters[R]. Technology Report, Berkeley, 2013.

    [20] PARKES D C, PROCACCIA A D, SHAH N. Beyond dominant resource fairness: extensions, limitations, and indivisibilities[J]. ACM Transactions on Economics and Computation, 2015, 3(1).

    [21] ZELDES Y, G.FEITELSON D. On-line fair allocations based on bottlenecks and global priorities[C]//The 4th ACM/SPEC International Conference on Performance Engineering. c2013: 229-240.

    [22] LI W D, LIU X, ZHANG X L, et al. Multi-resource fair allocation with bounded number of tasks in cloud computing systems[J]. Eprint Arxiv, 2014.

    [23] LI W, LIU X, ZHANG X, et al. Dynamic fair allocation of multiple resources with bounded number of tasks in cloud computing systems[J]. Multiagent and Grid Systems, 2016, 11(4): 245-257.

    [24] BARBANEL J B, BRAMS S J. Two-person cake-cutting: the optimal number of cuts[J]. Mathematical Inteuigencer, 2011, 36(3): 23-35.

    [25] LI J, XUE J. Egalitarian division under leontief preferences [J]. Economic Theory, 2013, 54(3): 597-622.

    [26] WILES J, REISS C. Google cluster data 2011_2[EB/OL]. https://code.google.com/p/googleclusterdata/.

    Dynamic fair allocation of multi-resources based on shared resource quantity

    ZHANG Xiao-lu, LIU Xi, LI Wei-dong, ZHANG Xue-jie
    (School of Information Science and Engineering, Yunnan University, Kunming 650091, China)

    A dynamic fair allocation of multi-resources was proposed based on shared resource quantity for multi-resoures allocation problem in cloud shared computing system. Firstly, a linear programming model was given based on resource requirements and quantity of shared resource and this model was further proved which satisfies four fairness properties such as DPO, SI, DEF and SP. Secondly, an improved dynamic multi-resources fair allocation algorithm was introduced for the allocation efficiency. Finally, theoretical analysis and experiments demonstrate that this strategy can satisfy the demands as well as maximize the dominant share on the base of approaching fairness and the improved algorithm increases the allocation efficiency in the dynamic system.

    cloud computing, multi-resources fairness allocation, dominant share, shared resource quantity

    s: The National Natural Science Foundation of China (No.61170222, No.11301466), Scientific Research Foundation of Yunnan Provincial Department of Education (No.2015J007), Natural Science Foundation of Yunnan Province (No.2013FB010)

    TP301

    A

    10.11959/j.issn.1000-436x.2016144

    2015-11-19;

    2016-04-20

    國(guó)家自然科學(xué)基金資助項(xiàng)目(No.61170222, No.11301466);云南省教育廳科學(xué)研究基金資助項(xiàng)目(No.2015J007);云南省科技廳應(yīng)用基礎(chǔ)研究面上基金資助項(xiàng)目(No.2013FB010)

    張瀟璐(1983-),女,山東淄博人,云南大學(xué)博士生,主要研究方向?yàn)橘Y源分配調(diào)度、云計(jì)算能耗、大數(shù)據(jù)處理。

    劉曦(1987-),男,云南昆明人,云南大學(xué)博士生,主要研究方向?yàn)橹悄芩惴ā①Y源分配調(diào)度、大數(shù)據(jù)處理。

    李偉東(1981-),男,河南鄭州人,博士,云南大學(xué)副教授,主要研究方向?yàn)榻M合優(yōu)化算法、復(fù)雜性分析、分布式計(jì)算。

    張學(xué)杰(1965-),男,云南昆明人,云南大學(xué)教授、博士生導(dǎo)師,主要研究方向?yàn)楦咝阅苡?jì)算、云計(jì)算、大數(shù)據(jù)、分布式計(jì)算。

    猜你喜歡
    資源分配公平性份額
    2024年主動(dòng)權(quán)益類(lèi)基金收益率、規(guī)模前50名
    新研究揭示新冠疫情對(duì)資源分配的影響 精讀
    一種基于價(jià)格競(jìng)爭(zhēng)的D2D通信資源分配算法
    一種提高TCP與UDP數(shù)據(jù)流公平性的擁塞控制機(jī)制
    公平性問(wèn)題例談
    關(guān)于公平性的思考
    OFDMA系統(tǒng)中容量最大化的資源分配算法
    華東理工大學(xué)學(xué)報(bào)(自然科學(xué)版)(2014年1期)2014-02-27 13:48:36
    分級(jí)基金的折算機(jī)制研究
    競(jìng)爭(zhēng)性要素收入份額下降機(jī)理分析——壟斷租金對(duì)競(jìng)爭(zhēng)性要素收入份額的侵害
    亚洲精品乱久久久久久| 色吧在线观看| 免费av不卡在线播放| 日韩一区二区视频免费看| 亚洲国产精品国产精品| 亚洲国产最新在线播放| 一区二区av电影网| 成年人免费黄色播放视频| 日韩一区二区三区影片| 人人澡人人妻人| 国产 一区精品| 亚洲中文av在线| 97在线人人人人妻| 99久久综合免费| 只有这里有精品99| 亚洲精品美女久久av网站| 天天躁夜夜躁狠狠躁躁| av在线播放精品| 永久网站在线| 黑丝袜美女国产一区| 久久精品国产亚洲av涩爱| 久久亚洲国产成人精品v| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 老司机影院毛片| 国产精品久久久久久精品古装| 黑人猛操日本美女一级片| 桃花免费在线播放| 五月伊人婷婷丁香| 久久久久精品久久久久真实原创| 亚洲欧洲国产日韩| 五月开心婷婷网| 国产精品.久久久| 久久女婷五月综合色啪小说| av在线老鸭窝| 丰满饥渴人妻一区二区三| 国产日韩欧美视频二区| 侵犯人妻中文字幕一二三四区| 一二三四在线观看免费中文在 | 大码成人一级视频| 免费人妻精品一区二区三区视频| 女性生殖器流出的白浆| 国产高清三级在线| 咕卡用的链子| 亚洲欧美清纯卡通| 日韩 亚洲 欧美在线| 国产亚洲一区二区精品| 飞空精品影院首页| 亚洲精品一区蜜桃| 日韩视频在线欧美| 精品一品国产午夜福利视频| 熟女av电影| 亚洲性久久影院| 欧美日韩综合久久久久久| 亚洲欧美一区二区三区黑人 | 久久久久精品性色| 亚洲精品第二区| 一本大道久久a久久精品| 亚洲精品国产av成人精品| 久久久久精品性色| 天堂8中文在线网| 国产片内射在线| 高清不卡的av网站| 国产免费视频播放在线视频| 最近最新中文字幕免费大全7| 久久久精品94久久精品| 色视频在线一区二区三区| 国产精品久久久久久av不卡| 日韩av免费高清视频| 日韩三级伦理在线观看| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲精品色激情综合| 久久久久视频综合| 两性夫妻黄色片 | 亚洲av免费高清在线观看| 97在线视频观看| 国产成人91sexporn| av播播在线观看一区| 亚洲一码二码三码区别大吗| 一区二区日韩欧美中文字幕 | 中文字幕另类日韩欧美亚洲嫩草| 国产黄色免费在线视频| 99香蕉大伊视频| 一级毛片 在线播放| 中文精品一卡2卡3卡4更新| www.熟女人妻精品国产 | 看免费成人av毛片| 高清黄色对白视频在线免费看| 欧美精品一区二区免费开放| 最近最新中文字幕免费大全7| 黑人高潮一二区| 天天躁夜夜躁狠狠久久av| 22中文网久久字幕| 亚洲欧洲国产日韩| 有码 亚洲区| 咕卡用的链子| 欧美成人午夜精品| 日日啪夜夜爽| 亚洲精品一二三| 国产男女超爽视频在线观看| 日韩欧美一区视频在线观看| 日本91视频免费播放| av在线app专区| 韩国高清视频一区二区三区| 亚洲国产色片| 天堂俺去俺来也www色官网| 久久99热6这里只有精品| 三上悠亚av全集在线观看| 午夜影院在线不卡| 97在线人人人人妻| 亚洲精品456在线播放app| 久久久久网色| 黄色怎么调成土黄色| 国产片内射在线| 一边亲一边摸免费视频| 99热网站在线观看| 日本av免费视频播放| 久久免费观看电影| 日本黄大片高清| 国产av精品麻豆| 国产白丝娇喘喷水9色精品| 国产成人精品在线电影| 国产日韩欧美在线精品| 热99久久久久精品小说推荐| 亚洲国产精品一区二区三区在线| 久久久亚洲精品成人影院| 久久这里只有精品19| 又粗又硬又长又爽又黄的视频| 国产av国产精品国产| 国产片特级美女逼逼视频| 国产亚洲一区二区精品| 国产亚洲av片在线观看秒播厂| 国产又色又爽无遮挡免| 成人二区视频| 午夜激情av网站| 欧美丝袜亚洲另类| 久久久久久久亚洲中文字幕| 久久久国产精品麻豆| 亚洲精品,欧美精品| 亚洲成国产人片在线观看| 久久精品久久精品一区二区三区| 欧美国产精品va在线观看不卡| 制服人妻中文乱码| 美女内射精品一级片tv| 国产日韩欧美视频二区| 国产又爽黄色视频| 又黄又爽又刺激的免费视频.| kizo精华| 亚洲精品乱码久久久久久按摩| 国产成人91sexporn| 男男h啪啪无遮挡| 日韩一区二区三区影片| 日韩视频在线欧美| 香蕉丝袜av| 如日韩欧美国产精品一区二区三区| www.熟女人妻精品国产 | 国产精品嫩草影院av在线观看| 又黄又粗又硬又大视频| 国产精品女同一区二区软件| av播播在线观看一区| 亚洲激情五月婷婷啪啪| 亚洲精品aⅴ在线观看| 国产精品一国产av| 国产欧美日韩综合在线一区二区| 日韩不卡一区二区三区视频在线| 十分钟在线观看高清视频www| av天堂久久9| 一本大道久久a久久精品| 婷婷成人精品国产| 久久久精品免费免费高清| 成人亚洲精品一区在线观看| 午夜福利网站1000一区二区三区| 人人妻人人澡人人看| 韩国av在线不卡| 国产精品国产三级国产专区5o| av在线老鸭窝| 日韩熟女老妇一区二区性免费视频| 人成视频在线观看免费观看| 欧美日韩视频精品一区| 国产精品人妻久久久影院| 国产片内射在线| 人妻人人澡人人爽人人| 国产精品一二三区在线看| 久热久热在线精品观看| tube8黄色片| 欧美激情国产日韩精品一区| 国产成人精品无人区| 精品国产乱码久久久久久小说| 男女国产视频网站| 啦啦啦视频在线资源免费观看| 男男h啪啪无遮挡| 性色avwww在线观看| 一区二区三区四区激情视频| 国产1区2区3区精品| 午夜91福利影院| 亚洲精品国产av成人精品| 五月天丁香电影| 九色亚洲精品在线播放| 秋霞在线观看毛片| 妹子高潮喷水视频| 久久久精品区二区三区| 久热久热在线精品观看| 亚洲美女搞黄在线观看| 午夜福利视频在线观看免费| 免费黄频网站在线观看国产| 夜夜爽夜夜爽视频| 国产精品久久久久久久电影| 亚洲av成人精品一二三区| 高清不卡的av网站| 欧美成人午夜精品| 成人午夜精彩视频在线观看| a级毛片在线看网站| 国产精品三级大全| 婷婷色综合www| tube8黄色片| 老司机影院毛片| 草草在线视频免费看| 免费观看无遮挡的男女| 春色校园在线视频观看| 亚洲国产精品成人久久小说| 久久精品国产a三级三级三级| 国产探花极品一区二区| 日本与韩国留学比较| 中国国产av一级| 久久人人爽人人片av| 国产午夜精品一二区理论片| 亚洲精品视频女| 精品久久蜜臀av无| 激情五月婷婷亚洲| 老司机亚洲免费影院| 国产乱人偷精品视频| 亚洲国产日韩一区二区| 肉色欧美久久久久久久蜜桃| 一区在线观看完整版| 777米奇影视久久| 日韩欧美精品免费久久| 成人二区视频| 久久精品国产亚洲av涩爱| 91aial.com中文字幕在线观看| 成人影院久久| 麻豆精品久久久久久蜜桃| h视频一区二区三区| 91精品三级在线观看| 美女脱内裤让男人舔精品视频| 亚洲av欧美aⅴ国产| 国产精品一国产av| 桃花免费在线播放| 啦啦啦在线观看免费高清www| 黑人欧美特级aaaaaa片| av卡一久久| 国产精品熟女久久久久浪| 咕卡用的链子| 99热全是精品| 乱人伦中国视频| 成年动漫av网址| 色网站视频免费| 中文字幕人妻丝袜制服| 日本wwww免费看| 视频中文字幕在线观看| 国产精品一二三区在线看| 久久精品熟女亚洲av麻豆精品| 成人毛片60女人毛片免费| 国产精品三级大全| 国产 精品1| 国产免费又黄又爽又色| 午夜福利在线观看免费完整高清在| 久久久久精品久久久久真实原创| 日日爽夜夜爽网站| 亚洲国产成人一精品久久久| 丁香六月天网| 国产精品人妻久久久久久| 亚洲av日韩在线播放| 我的女老师完整版在线观看| 中文字幕av电影在线播放| 中文乱码字字幕精品一区二区三区| 国产高清三级在线| 免费观看在线日韩| 精品久久蜜臀av无| 国语对白做爰xxxⅹ性视频网站| 欧美 日韩 精品 国产| 人妻一区二区av| av有码第一页| 女性生殖器流出的白浆| 亚洲色图 男人天堂 中文字幕 | 91午夜精品亚洲一区二区三区| 色吧在线观看| 国语对白做爰xxxⅹ性视频网站| 一本久久精品| 国产色爽女视频免费观看| 赤兔流量卡办理| 26uuu在线亚洲综合色| 91精品国产国语对白视频| 亚洲欧美中文字幕日韩二区| 中文字幕免费在线视频6| 日本欧美视频一区| 不卡视频在线观看欧美| 中文天堂在线官网| 国产一区二区在线观看av| 成人影院久久| 大香蕉97超碰在线| 韩国av在线不卡| 在线观看一区二区三区激情| 看免费成人av毛片| 日韩av在线免费看完整版不卡| www.色视频.com| 国产综合精华液| 97人妻天天添夜夜摸| 国产亚洲精品第一综合不卡 | 亚洲成国产人片在线观看| 人人妻人人添人人爽欧美一区卜| 欧美国产精品va在线观看不卡| 亚洲成人一二三区av| 精品人妻在线不人妻| 一级毛片黄色毛片免费观看视频| 哪个播放器可以免费观看大片| av天堂久久9| 51国产日韩欧美| av在线老鸭窝| 国产女主播在线喷水免费视频网站| 欧美另类一区| 99热6这里只有精品| 色5月婷婷丁香| 看非洲黑人一级黄片| 嫩草影院入口| 少妇精品久久久久久久| 亚洲一码二码三码区别大吗| 免费av中文字幕在线| 欧美成人午夜精品| 成年人免费黄色播放视频| 99久久中文字幕三级久久日本| 亚洲欧美日韩卡通动漫| 中文字幕制服av| 欧美最新免费一区二区三区| 亚洲av福利一区| 韩国av在线不卡| 久久鲁丝午夜福利片| 桃花免费在线播放| 国产老妇伦熟女老妇高清| 精品亚洲成国产av| 夫妻性生交免费视频一级片| 最黄视频免费看| 国产亚洲最大av| 亚洲国产色片| 国产亚洲一区二区精品| videosex国产| 日韩中文字幕视频在线看片| 国产成人aa在线观看| kizo精华| 国产极品天堂在线| 精品久久国产蜜桃| 高清欧美精品videossex| 久久精品国产a三级三级三级| 国产毛片在线视频| 丝袜人妻中文字幕| 97在线视频观看| 欧美日韩av久久| 国产成人精品一,二区| 人体艺术视频欧美日本| 99热国产这里只有精品6| 精品少妇久久久久久888优播| 亚洲精品成人av观看孕妇| 午夜福利乱码中文字幕| 满18在线观看网站| 日韩中文字幕视频在线看片| 国产成人a∨麻豆精品| 日日啪夜夜爽| 久久国产精品大桥未久av| 精品国产一区二区久久| 久久精品国产综合久久久 | 中文欧美无线码| 一区二区三区乱码不卡18| 精品一区二区三卡| 国产熟女午夜一区二区三区| 国语对白做爰xxxⅹ性视频网站| 日韩欧美一区视频在线观看| 最新的欧美精品一区二区| 亚洲高清免费不卡视频| 精品一区二区三卡| 久久久亚洲精品成人影院| 国产1区2区3区精品| 久久这里有精品视频免费| 国产极品天堂在线| 国产高清国产精品国产三级| 亚洲精品456在线播放app| 亚洲欧美精品自产自拍| 黄色怎么调成土黄色| 国产亚洲av片在线观看秒播厂| 蜜臀久久99精品久久宅男| 丰满少妇做爰视频| 国产精品人妻久久久久久| 久久这里只有精品19| 亚洲五月色婷婷综合| 久久久久久久久久成人| 欧美日韩精品成人综合77777| 99九九在线精品视频| 亚洲精品久久成人aⅴ小说| 少妇被粗大猛烈的视频| 亚洲欧美清纯卡通| 亚洲精品一二三| 欧美bdsm另类| 麻豆精品久久久久久蜜桃| 最近中文字幕2019免费版| 久久午夜综合久久蜜桃| 国产亚洲一区二区精品| 久久久久久久久久久免费av| 亚洲欧洲日产国产| 国产成人欧美| 成人毛片a级毛片在线播放| 观看美女的网站| 午夜福利乱码中文字幕| 国产欧美日韩综合在线一区二区| 九色亚洲精品在线播放| 黑丝袜美女国产一区| av一本久久久久| 免费看av在线观看网站| 国产在线免费精品| 亚洲av男天堂| 免费日韩欧美在线观看| 久久婷婷青草| 免费人妻精品一区二区三区视频| 国产成人精品一,二区| 久久99一区二区三区| 又粗又硬又长又爽又黄的视频| 国产精品99久久99久久久不卡 | 日韩中字成人| 99久久精品国产国产毛片| 不卡视频在线观看欧美| 又粗又硬又长又爽又黄的视频| 女人被躁到高潮嗷嗷叫费观| 久久久久久久久久久久大奶| 丝袜美足系列| 色5月婷婷丁香| 高清av免费在线| 日韩制服丝袜自拍偷拍| 欧美日韩成人在线一区二区| 国产精品嫩草影院av在线观看| 久久鲁丝午夜福利片| 久久ye,这里只有精品| 精品亚洲成a人片在线观看| 观看av在线不卡| 少妇 在线观看| 人成视频在线观看免费观看| 美女内射精品一级片tv| 中国美白少妇内射xxxbb| 观看av在线不卡| 99久久精品国产国产毛片| 精品酒店卫生间| 久久影院123| 激情视频va一区二区三区| 亚洲av日韩在线播放| 高清不卡的av网站| 久久亚洲国产成人精品v| 777米奇影视久久| 亚洲精品一区蜜桃| 黄片无遮挡物在线观看| av不卡在线播放| 成年女人在线观看亚洲视频| 成人国产麻豆网| 欧美丝袜亚洲另类| 天天操日日干夜夜撸| 春色校园在线视频观看| 成人免费观看视频高清| 一级a做视频免费观看| 晚上一个人看的免费电影| 成人毛片a级毛片在线播放| 少妇猛男粗大的猛烈进出视频| 欧美变态另类bdsm刘玥| 99热网站在线观看| 亚洲精品中文字幕在线视频| 99精国产麻豆久久婷婷| 校园人妻丝袜中文字幕| 久久狼人影院| 大香蕉久久成人网| 高清黄色对白视频在线免费看| 多毛熟女@视频| 成人综合一区亚洲| av片东京热男人的天堂| 中文字幕制服av| 国产免费福利视频在线观看| 91精品国产国语对白视频| 中国美白少妇内射xxxbb| 亚洲内射少妇av| 新久久久久国产一级毛片| 美女主播在线视频| 国产日韩欧美视频二区| 纵有疾风起免费观看全集完整版| 卡戴珊不雅视频在线播放| 国产毛片在线视频| 91久久精品国产一区二区三区| h视频一区二区三区| 日韩中文字幕视频在线看片| 香蕉精品网在线| 亚洲精品乱码久久久久久按摩| 婷婷色综合www| 波野结衣二区三区在线| 亚洲 欧美一区二区三区| 97超碰精品成人国产| 国产精品免费大片| 国产精品久久久av美女十八| 亚洲国产av新网站| 18禁动态无遮挡网站| 日韩av在线免费看完整版不卡| 咕卡用的链子| 精品人妻熟女毛片av久久网站| av一本久久久久| 美女中出高潮动态图| 日韩三级伦理在线观看| 久久久久久久大尺度免费视频| 男女啪啪激烈高潮av片| 9191精品国产免费久久| 亚洲国产日韩一区二区| 国产精品女同一区二区软件| 热99久久久久精品小说推荐| 欧美精品国产亚洲| 国产乱人偷精品视频| 精品国产乱码久久久久久小说| 丰满饥渴人妻一区二区三| 欧美精品一区二区大全| 久久97久久精品| 欧美变态另类bdsm刘玥| 十分钟在线观看高清视频www| 亚洲av综合色区一区| 纵有疾风起免费观看全集完整版| 91精品国产国语对白视频| kizo精华| 在线观看三级黄色| 精品99又大又爽又粗少妇毛片| 婷婷色麻豆天堂久久| 亚洲av免费高清在线观看| 伦理电影大哥的女人| 在线观看国产h片| 青春草视频在线免费观看| 国产成人91sexporn| 久久久久久久大尺度免费视频| 91午夜精品亚洲一区二区三区| 大香蕉97超碰在线| 天堂中文最新版在线下载| 春色校园在线视频观看| 精品酒店卫生间| 丝袜美足系列| 亚洲经典国产精华液单| 久久午夜福利片| 国产av精品麻豆| 久久精品国产综合久久久 | 欧美另类一区| 一区二区日韩欧美中文字幕 | 亚洲精品日本国产第一区| 免费观看在线日韩| 亚洲四区av| 在线看a的网站| av女优亚洲男人天堂| 交换朋友夫妻互换小说| 女性被躁到高潮视频| 边亲边吃奶的免费视频| 97人妻天天添夜夜摸| 天天躁夜夜躁狠狠久久av| 色婷婷久久久亚洲欧美| 国产精品久久久久久久电影| 国产免费一区二区三区四区乱码| 免费高清在线观看日韩| 大片免费播放器 马上看| 久久久久久久久久人人人人人人| 男男h啪啪无遮挡| 日韩电影二区| 有码 亚洲区| 国产av一区二区精品久久| 亚洲精品国产色婷婷电影| 午夜福利乱码中文字幕| 亚洲内射少妇av| 成人综合一区亚洲| 色哟哟·www| 国产不卡av网站在线观看| 亚洲精品国产色婷婷电影| 亚洲性久久影院| 久久97久久精品| 久久鲁丝午夜福利片| 综合色丁香网| 免费在线观看完整版高清| 欧美性感艳星| 免费看光身美女| 大片免费播放器 马上看| 国产有黄有色有爽视频| 99久国产av精品国产电影| 男女下面插进去视频免费观看 | 精品国产露脸久久av麻豆| 国产精品久久久久成人av| 欧美精品人与动牲交sv欧美| 亚洲欧美中文字幕日韩二区| 成人毛片60女人毛片免费| www日本在线高清视频| 久久人妻熟女aⅴ| 中文字幕精品免费在线观看视频 | 国产综合精华液| 深夜精品福利| 国产精品女同一区二区软件| 熟女av电影| 人人澡人人妻人| 亚洲成av片中文字幕在线观看 | 中文天堂在线官网| 欧美日韩av久久| a级毛片在线看网站| 狂野欧美激情性bbbbbb| 一级,二级,三级黄色视频| 曰老女人黄片| 22中文网久久字幕| 欧美xxxx性猛交bbbb| 午夜日本视频在线| 人妻系列 视频| 两性夫妻黄色片 | 国产av一区二区精品久久| 免费av中文字幕在线| 18+在线观看网站| 成人18禁高潮啪啪吃奶动态图| 在线精品无人区一区二区三| 91在线精品国自产拍蜜月| 亚洲国产日韩一区二区|