• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    云環(huán)境下基于Agent協(xié)商的宿主機(jī)容錯(cuò)策略

    2017-03-01 04:26:10張凱旋顧春華
    關(guān)鍵詞:故障策略信息

    張凱旋 顧春華 萬 峰

    (華東理工大學(xué)信息科學(xué)與工程學(xué)院 上海 200237)

    云環(huán)境下基于Agent協(xié)商的宿主機(jī)容錯(cuò)策略

    張凱旋 顧春華 萬 峰

    (華東理工大學(xué)信息科學(xué)與工程學(xué)院 上海 200237)

    云計(jì)算平臺(tái)中大量使用了廉價(jià)的設(shè)備,使得宿主機(jī)出現(xiàn)故障概率大大增加。針對(duì)因宿主機(jī)故障而導(dǎo)致的虛擬機(jī)實(shí)例失效問題,提出一種宿主機(jī)容錯(cuò)策略。通過對(duì)宿主機(jī)集群分組和對(duì)宿主機(jī)進(jìn)行Agent建模,在每個(gè)小組內(nèi)利用Agent協(xié)商來快速重建虛擬機(jī)實(shí)例。仿真實(shí)驗(yàn)表明,所提出的策略能夠自動(dòng)重建失效的虛擬機(jī)實(shí)例,提出的容錯(cuò)策略在耗時(shí)上小于其他策略。

    云環(huán)境 宿主機(jī) Agent協(xié)商 容錯(cuò)

    0 引 言

    隨著互聯(lián)網(wǎng)和云計(jì)算的不斷發(fā)展,云計(jì)算平臺(tái)作為基礎(chǔ)服務(wù)變得越來越流行?,F(xiàn)在的云計(jì)算平臺(tái),其底層是基于虛擬化技術(shù)實(shí)現(xiàn)的[1]。云計(jì)算平臺(tái)最典型的實(shí)現(xiàn)是在大量的的物理機(jī)構(gòu)成的集群上運(yùn)行虛擬機(jī),通過虛擬機(jī)向用戶提供服務(wù)。在云計(jì)算平臺(tái)中,稱這種物理機(jī)為宿主機(jī),虛擬機(jī)為客戶機(jī)或者實(shí)例。

    作為衡量云計(jì)算平臺(tái)服務(wù)質(zhì)量的重要標(biāo)準(zhǔn),云計(jì)算平臺(tái)的高可用性越來越得到重視[2]。云計(jì)算平臺(tái)的高可用性是指虛擬機(jī)實(shí)例正常運(yùn)行的時(shí)間占虛擬機(jī)實(shí)例總時(shí)間的百分比。云計(jì)算平臺(tái)的最大優(yōu)勢是大量使用了廉價(jià)的標(biāo)準(zhǔn)計(jì)算機(jī),而這種普通的計(jì)算機(jī)和專用服務(wù)器相比,出現(xiàn)故障的概率則大大增加。當(dāng)宿主機(jī)出現(xiàn)故障,宿主機(jī)上運(yùn)行的虛擬機(jī)實(shí)例便會(huì)失效,從而造成租用該虛擬機(jī)實(shí)例的用戶服務(wù)中斷。當(dāng)宿主機(jī)出現(xiàn)斷電、硬件損壞等故障時(shí),對(duì)宿主機(jī)上運(yùn)行的虛擬機(jī)進(jìn)行恢復(fù)重建才能恢復(fù)云計(jì)算平臺(tái)的服務(wù)。因此,云計(jì)算平臺(tái)需要有一定的容錯(cuò)能力,才能保證云計(jì)算服務(wù)的高可用性。

    1 相關(guān)研究

    云計(jì)算平臺(tái)的出現(xiàn)的錯(cuò)誤分布在三個(gè)層面:應(yīng)用層、虛擬機(jī)層和宿主機(jī)層[3]。其中應(yīng)用層面,是指應(yīng)用程序在運(yùn)行過程中出現(xiàn)的錯(cuò)誤,例如Web服務(wù)器數(shù)據(jù)庫服務(wù)故障。虛擬機(jī)層面是指某一些虛擬機(jī)出現(xiàn)故障,如虛擬機(jī)網(wǎng)絡(luò)中斷等。而宿主機(jī)層面的錯(cuò)誤是指宿主機(jī)出現(xiàn)硬件故障。在應(yīng)用層容錯(cuò)方面,傳統(tǒng)的容錯(cuò)方案能夠滿足需求,如通過Web服務(wù)器集群和反向代理技術(shù)實(shí)現(xiàn)對(duì)Web服務(wù)器的容錯(cuò)。因此,目前在云計(jì)算平臺(tái)的容錯(cuò)方面研究的重點(diǎn)在于虛擬機(jī)層面的容錯(cuò)和宿主機(jī)層面的容錯(cuò),而本文研究的是宿主機(jī)層面的容錯(cuò)策略。

    在宿主機(jī)層的容錯(cuò)方面,Wang等提出了一種主備份的容錯(cuò)調(diào)度策略用于對(duì)宿主機(jī)的錯(cuò)誤容忍[4]。這種策略使用了主從宿主機(jī)結(jié)構(gòu),當(dāng)宿主機(jī)出現(xiàn)故障,啟用備用的宿主機(jī),這種策略需要設(shè)置多個(gè)宿主機(jī)作為備份宿主機(jī),對(duì)宿主機(jī)資源浪費(fèi)比較嚴(yán)重。Nogueira等將宿主機(jī)故障問題描述為一個(gè)拜占庭故障模型[5],提出了一種副本組的策略,使得對(duì)于有2m+1個(gè)宿主機(jī)集群,最多可以容忍m個(gè)宿主機(jī)出現(xiàn)錯(cuò)誤。這種策略改進(jìn)了傳統(tǒng)的拜占庭故障模型,提高了容忍錯(cuò)誤的數(shù)量。但是,由于它的決策在全局中進(jìn)行迭代,當(dāng)集群規(guī)模比較大的時(shí)候,這種策略在效率上會(huì)變得很慢。

    很多云計(jì)算廠商將宿主機(jī)的錯(cuò)誤當(dāng)作虛擬機(jī)錯(cuò)誤來處理[6-7],其做法是,通過實(shí)時(shí)監(jiān)測所有的虛擬機(jī),并對(duì)虛擬機(jī)進(jìn)行周期性快照。監(jiān)控程序一旦檢測到虛擬機(jī)出現(xiàn)問題,則從最近的一次快照重新新建一個(gè)虛擬機(jī)取代失效的虛擬機(jī)。這種策略由于要定期做快照,保存快照增大了存儲(chǔ)資源的開銷。

    在宿主機(jī)容錯(cuò)方面存在著資源開銷大、效率低的問題。針對(duì)這些問題,本文提出了一種基于Agent協(xié)商的宿主機(jī)容錯(cuò)策略,在不額外使用宿主機(jī)的前提下,能夠快速自動(dòng)重建因宿主機(jī)故障而失效的虛擬機(jī),提高了云計(jì)算平臺(tái)的容錯(cuò)性。下文將介紹這種基于多Agent協(xié)商的容錯(cuò)策略。

    2 多Agent容錯(cuò)模型

    把宿主機(jī)看作Agent,利用Agent的自治性、協(xié)商來處理Agent故障[8]。

    2.1 系統(tǒng)架構(gòu)

    在云計(jì)算平臺(tái)中,宿主機(jī)的數(shù)量成千上萬,因此Agent的數(shù)量也成千上萬。如果把整個(gè)集群中的Agent視為一個(gè)多Agent系統(tǒng),則對(duì)于規(guī)模較大的多Agent系統(tǒng),其用于通信的系統(tǒng)開銷也很大,并且Agent之間的協(xié)商時(shí)間開銷也很大。為了避免因多Agent系統(tǒng)規(guī)模太大造成的策略的收斂速度慢的問題,把集群中宿主機(jī)劃分成規(guī)模較小的組,每個(gè)組內(nèi)有5到10個(gè)宿主機(jī)。每個(gè)組內(nèi)的宿主機(jī)構(gòu)成了規(guī)模較小的多Agent系統(tǒng),組內(nèi)的Agent之間通過交互來互相彼此狀態(tài)信息。當(dāng)某個(gè)宿主機(jī)出現(xiàn)故障時(shí),即Agent失效時(shí),同一個(gè)組內(nèi)的其他活動(dòng)的Agent通過協(xié)作來處理失效Agent上正在運(yùn)行的任務(wù),即重建失效的虛擬機(jī)。由于故障處理策略作用在組內(nèi),從而加快了決策的收斂速度。圖1是多Agent系統(tǒng)的分組模型,其中Agent在邏輯上被分到一個(gè)個(gè)的組內(nèi)。

    圖1 多Agent的分組模型

    同一個(gè)組內(nèi)的Agent構(gòu)成了一個(gè)規(guī)模較小的多Agent系統(tǒng),它們形成了一種聯(lián)盟。它們之間通過周期性的信息更新,來獲取組內(nèi)成員Agent的任務(wù)信息和狀態(tài)信息。假設(shè)某時(shí)刻t某個(gè)Agent失效,則其他Agent檢測到該Agent失效后,由于失效Agent的狀態(tài)信息和任務(wù)信息在其他Agent上留有副本,因此,其余Agent通過協(xié)商來共同處理失效Agent正在處理的任務(wù)。如圖2所示。

    圖2 組內(nèi)Agent通過協(xié)商處理任務(wù)

    2.2 Agent結(jié)構(gòu)

    按問題求解能力劃分,Agent分為三種類型[9],即反應(yīng)型Agent,能響應(yīng)環(huán)境的變化或來自其他Agent的消息;慎思型Agent,能夠針對(duì)意圖和信念進(jìn)行推理,建立行為計(jì)劃,并執(zhí)行這些計(jì)劃;社會(huì)型Agent,除具有慎思型Agent的能力外,還具有關(guān)于其他主體的明確模型[10]。本文的Agent代表了宿主機(jī),則CPU利用率、內(nèi)存利用率等是Agent本身能夠感知的信息,且這些信息隨著外部環(huán)境如負(fù)載的變化而變化。Agent除了能感知自身的信息之外,還通過其他Agent交互獲取其它Agent的狀態(tài)、任務(wù)信息,例如運(yùn)行的虛擬機(jī)實(shí)例的個(gè)數(shù)、類型、虛擬機(jī)的配置信息等。慎思型的Agent其會(huì)維護(hù)一個(gè)內(nèi)部可識(shí)別的世界模型,該模型描述了自身可感知的信息和外界環(huán)境信息。而當(dāng)環(huán)境發(fā)生變化,Agent根據(jù)預(yù)設(shè)的目標(biāo)作出不同的反應(yīng)。本文的Agent需要維護(hù)自身和其他Agent的狀態(tài),當(dāng)外部環(huán)境改變即發(fā)現(xiàn)有Agent失效,就會(huì)做出反應(yīng)。因此,慎思型Agent的結(jié)構(gòu)最適合構(gòu)造本文的Agent。如圖3所示。

    圖3 慎思型Agent的結(jié)構(gòu)

    2.3 Agent世界模型

    Agent的世界模型(WM,World Model)是Agent內(nèi)部可識(shí)別的狀態(tài),是對(duì)外部環(huán)境和自身信息經(jīng)過加工、推理而建立的世界狀態(tài)[10]。Agent通過與其他Agent交互來獲取外部環(huán)境信息,通過自身的感知來獲取自身信息。虛擬化軟件啟動(dòng)虛擬機(jī)的流程如下:虛擬機(jī)化軟件根據(jù)用戶指定的虛擬機(jī)配額生成一個(gè)xml文件,該文件描述了虛擬機(jī)的配置情況。接下來,虛擬機(jī)化軟件會(huì)根據(jù)上面生成的xml文件啟動(dòng)虛擬機(jī)。虛擬機(jī)化軟件則根據(jù)鏡像文件和配置文件在計(jì)算節(jié)點(diǎn)啟動(dòng)虛擬機(jī)。通過分析虛擬化軟件啟動(dòng)虛擬機(jī)的流程可知,啟動(dòng)一個(gè)虛擬機(jī)所必需的輸入條件是基礎(chǔ)鏡像和配置文件。其中基礎(chǔ)鏡像是虛擬機(jī)操作系統(tǒng)的鏡像,配置文件指定了虛擬機(jī)的核數(shù)、內(nèi)存大小、硬盤大小、網(wǎng)卡設(shè)備等信息。用戶在虛擬機(jī)的過程中,會(huì)產(chǎn)生用戶數(shù)據(jù),如用戶存放的文件等。一般地,用戶數(shù)據(jù)會(huì)單獨(dú)保存在云硬盤上,而云硬盤由塊服務(wù)提供,通過遠(yuǎn)程掛載的方式掛載在虛擬機(jī)上。

    Agent的世界模型由Agent自身周期性的進(jìn)行更新。世界模型的信息按照信息變化的頻率可以劃分為靜態(tài)信息和動(dòng)態(tài)信息。靜態(tài)數(shù)據(jù)是指Agent在初始化后,不經(jīng)常改變的數(shù)據(jù),如CPU核數(shù)、內(nèi)存總大小、鏡像文件、虛擬機(jī)配置文件等。動(dòng)態(tài)信息是指在Agent正?;顒?dòng)時(shí),會(huì)時(shí)刻發(fā)生改變的數(shù)據(jù),如CPU利用率、內(nèi)存利用率、組內(nèi)其他Agent運(yùn)行的虛擬機(jī)信息和緩存的鏡像信息等。靜態(tài)信息的更新周期較長,相反的,動(dòng)態(tài)信息的更新周期則要短。Agent的世界模型用一個(gè)二元組表示,其中StaticInfo表示靜態(tài)信息,DynamicInfo表示動(dòng)態(tài)信息。

    WM=

    (1)

    為了簡化描述,靜態(tài)信息用一個(gè)三元組表示。其中CPUtotle表示總的CPU核數(shù),MEMORYtotle表示總的內(nèi)存總大小,Disktotle表示總的硬盤總?cè)萘俊?/p>

    StaticInfo=

    (2)

    動(dòng)態(tài)信息用一個(gè)五元組表示,分別表示宿主機(jī)的CPU剩余核數(shù)、內(nèi)存剩余大小、硬盤剩余容量、所運(yùn)行的虛擬機(jī)信息、緩存的鏡像信息、Agent所在的分組信息。

    DynamicInfo=

    (3)

    所運(yùn)行的虛擬機(jī)信息是Agent上所有運(yùn)行的虛擬機(jī)的摘要信息,每一個(gè)虛擬機(jī)的摘要信息為虛擬機(jī)的id和鏡像id。虛擬機(jī)的id是由虛擬化軟件在啟動(dòng)虛擬機(jī)虛擬機(jī)時(shí)分配的一個(gè)唯一的id,Agent用虛擬機(jī)的id作為該虛擬機(jī)配置文件的文件名保存到自身的文件系統(tǒng)中。

    (4)

    (5)

    分組信息用一個(gè)三元組表示,其中MemberList是Agent所在組的其他Agent的集合。IsMaster表示Agent自身是不是管理Agent。

    GroupInfo=

    (6)

    成員列表MemberList用一個(gè)二元組集合表示,其中Agentm表示組內(nèi)第m個(gè)成員,Addressm表示Agentm的通信地址。

    MemberList={|m∈[0,n]}

    (7)

    Agent在初始化后,從分組信息中獲知和它同一個(gè)組的其他Agent的通信地址,接下來Agent會(huì)周期性的更新自己的世界狀態(tài)。為了在啟動(dòng)虛擬機(jī)時(shí),節(jié)省鏡像從鏡像服務(wù)器傳輸?shù)紸gent的時(shí)間,Agent主動(dòng)的將從已經(jīng)緩存的鏡像文件平均的分發(fā)到組內(nèi)其他Agent。因此,針對(duì)鏡像文件,Agent采取的更新策略是主動(dòng)的將自己的鏡像文件平均的推到組內(nèi)其他Agent上。而鏡像的描述信息以及其他摘要信息的更新采用拉的模式。

    3 改進(jìn)的合同網(wǎng)協(xié)商模型

    Agent周期性地更新自身世界模型時(shí),如果存在無響應(yīng)的Agent,則認(rèn)為該Agent失效了。當(dāng)檢測到Agent失效時(shí),同一組內(nèi)的其他活動(dòng)的Agent就會(huì)通過協(xié)商來協(xié)助失效Agent重建正在運(yùn)行的虛擬機(jī)。Agent協(xié)商中經(jīng)典的協(xié)調(diào)策略是由RandallDevis等提出的合同網(wǎng)協(xié)議,合同網(wǎng)協(xié)議是為了解決Agent之間的任務(wù)分配而進(jìn)行的一種合約協(xié)商過程[10]。

    3.1Agent的協(xié)商過程

    合同網(wǎng)協(xié)議中的Agent有兩種類型[11],一種是管理Agent(MA,MasterAgent),另一種是執(zhí)行Agent(EA,ExecuteAgent)。MA是協(xié)商過程的組織者,EA是執(zhí)行任務(wù)的工作Agent。MA組織協(xié)商的過程如下:①M(fèi)A向所有的EA發(fā)布任務(wù);②EA收到任務(wù)信息后,根據(jù)任務(wù)要求和自己的能力,計(jì)算自己能夠完成的任務(wù),并提交標(biāo)書給MA進(jìn)行競標(biāo);③MA選擇一個(gè)或多個(gè)EA進(jìn)行作為最終的中標(biāo)者,并與競標(biāo)者簽訂問題求解合同;④MA負(fù)責(zé)監(jiān)視整個(gè)任務(wù)的執(zhí)行,EA將求解的結(jié)果提交給MA;⑤MA整合最終的處理結(jié)果。

    3.2MA的選舉

    傳統(tǒng)的合同網(wǎng)模型會(huì)指定某個(gè)Agent充當(dāng)一種角色,而實(shí)際上每個(gè)Agent都有可能失效,如果MA自身失效,則會(huì)導(dǎo)致Agent之間因缺少組織者而無法協(xié)商。為了避免這個(gè)問題,本文的MA由所有Agent選舉產(chǎn)生,并且Agent可以充當(dāng)多個(gè)角色,即Agent可以同時(shí)具備兩個(gè)角色。初始化時(shí),每一個(gè)Agent都是EA,第一個(gè)檢測到存在失效的Agent,首先將失效Agent和當(dāng)時(shí)的時(shí)間戳記錄下來,然后將帶時(shí)間戳的失效消息告知到組內(nèi)其他Agent,并選舉自己為MA。當(dāng)收到超過一半的Agent同意后則,把自己標(biāo)記為Agent。如圖4所示。

    圖4 Group內(nèi)的不同角色的Agent

    在這個(gè)過程中,為了避免多個(gè)Agent競爭MA,規(guī)定每個(gè)Agent在一次失效中只能投一次票。Agent投票之前,Agent分兩種情況來決定是否選舉自己為MA:① 如果它還沒有檢測到有失效Agent,就收到失效通知信息,說明自己不是第一個(gè)發(fā)現(xiàn)存在失效Agent。那么它將發(fā)送一個(gè)探測包給失效Agent,來確認(rèn)Agent是否真的失效。確認(rèn)后,則發(fā)送確認(rèn)信息給發(fā)布失效通知的Agent,并且同意其成為MA;② 如果它自己也探測到有失效Agent并且自己沒來得及發(fā)出通告,則它就不再發(fā)出通告,避免多個(gè)Agent爭奪MA,接下來它按照①的方式繼續(xù)處理。Agent在發(fā)出選舉自己為在收到超過半數(shù)的投票后,把自己標(biāo)記為MA,并告知其他Agent自己成為MA。

    3.3 任務(wù)模型

    當(dāng)MA選舉成功后,由MA生成和發(fā)布任務(wù)。由前面的分析可知,該任務(wù)就是重建失效Agent上所運(yùn)行的n個(gè)虛擬機(jī)。根據(jù)重建虛擬機(jī)所需的必要條件,任務(wù)的內(nèi)容可以用一個(gè)待重建的虛擬機(jī)列表來表示。由于每個(gè)Agent的世界模型中都能保存了組內(nèi)其他任意一個(gè)Agent運(yùn)行虛擬機(jī)的摘要信息。因此,當(dāng)故障出現(xiàn)時(shí),其他活動(dòng)Agent都可能具備失效Agent的完整信息。由于每個(gè)Agent更新世界狀態(tài)并不是同步的,所以并不能保證每個(gè)Agent在某一時(shí)刻對(duì)同一個(gè)對(duì)象的認(rèn)知和描述都是一樣的。為了獲得失效Agent在失效的時(shí)刻最準(zhǔn)確的信息,MA需要向所有活動(dòng)EA詢問誰的信息是最新的。EA將自己最近一次更新世界狀態(tài)的時(shí)間戳發(fā)送給MA,MA對(duì)比所有EA發(fā)來的時(shí)間戳,就能確定最準(zhǔn)確的信息在哪里。MA確定了最準(zhǔn)確的信息之后制作任務(wù)清單,任務(wù)清單用一個(gè)二元組表示:

    Task=

    (8)

    其中Agentadd表示失效的Agent的地址,InfoAgentadd描述了要失效的Agent在失效時(shí)的最準(zhǔn)確的狀態(tài)信息所在的Agent地址。

    3.4MA組織協(xié)商

    MA在制作完任務(wù)清單后,將清單發(fā)送給所有的EA。EA收到MA發(fā)來的任務(wù)清單后,根據(jù)任務(wù)清單中的描述,從指定的Agent那里獲得失效Agent失效時(shí)的虛擬機(jī)信息VMInfo。EA按照約定的存儲(chǔ)方式,根據(jù)VMInfo提供的信息可以推算出要恢復(fù)的虛擬機(jī)所需的鏡像以及配置文件。

    EA獲取到虛擬機(jī)的信息后,根據(jù)自身當(dāng)前的負(fù)載和已經(jīng)保存的信息來評(píng)估自己恢復(fù)每一個(gè)VM所耗費(fèi)的時(shí)間,并制作標(biāo)書發(fā)送給MA,標(biāo)書用一個(gè)五元組表示,它描述了該Agent能夠?qū)χ亟恳粋€(gè)VM所耗費(fèi)的時(shí)間:

    VMBid=

    (9)

    其中Agentadd表示該Agent的地址,VMid表示VM的id,Tschedule表示啟動(dòng)這個(gè)虛擬機(jī)的調(diào)度耗時(shí),TtransImage表示傳輸鏡像耗時(shí),Tlaunch表示加載虛擬機(jī)耗時(shí)。

    MA根據(jù)每個(gè)EA的提交的標(biāo)書,求出最優(yōu)的解。為了提高云計(jì)算服務(wù)的高可用性,就要盡量縮短恢復(fù)故障的時(shí)間,即MA求解的目標(biāo)是使得在最短的時(shí)間內(nèi)完成任務(wù)。從單個(gè)Agent來看,重建一個(gè)虛擬機(jī)的耗時(shí)包括三個(gè)方面:一是調(diào)度耗時(shí),二是鏡像傳輸耗時(shí),三是啟動(dòng)耗時(shí)。其中一包含了控制器轉(zhuǎn)發(fā)請(qǐng)求時(shí)間和選擇合適的宿主機(jī)時(shí)間。這部分耗時(shí)對(duì)于Agent協(xié)商這種模型是不需要控制轉(zhuǎn)發(fā),也不需要去遍歷所有的宿主機(jī)節(jié)點(diǎn)。針對(duì)第二點(diǎn),Agent協(xié)商模型中每個(gè)Agent都會(huì)緩存其他Agent的信息,這其中包含啟動(dòng)鏡像的配置文件和鏡像文件,因此傳生成配置文件的時(shí)間為0,啟動(dòng)已經(jīng)緩存過鏡像的虛擬機(jī)鏡像傳輸?shù)暮臅r(shí)為0。針對(duì)第三點(diǎn),通過實(shí)踐可知,大多數(shù)的虛擬機(jī)化技術(shù)啟動(dòng)一個(gè)虛擬機(jī)的耗時(shí)很少且恒定。雖然Agent協(xié)商模型會(huì)帶來額外的協(xié)商時(shí)間開銷,但是由于組內(nèi)的Agent數(shù)目有限,且合同網(wǎng)協(xié)議處理一個(gè)任務(wù)是一次協(xié)商,而不是多次協(xié)商。因此,Agent協(xié)商耗時(shí)相對(duì)于其節(jié)約的調(diào)度耗時(shí)和鏡像傳輸耗時(shí)要小得多,因此通過理論分析,Agent協(xié)商模型能減小故障恢復(fù)的時(shí)間。

    而另一方面,要重建的虛擬機(jī)可能不止一個(gè),MA在分配任務(wù)時(shí),讓EA盡可能并行地去處理任務(wù),從而縮短任務(wù)處理的時(shí)間。在啟動(dòng)虛擬機(jī)時(shí),鏡像傳輸是最耗時(shí)的一個(gè)環(huán)節(jié),因此首先將虛擬機(jī)分配給那些不需要傳輸鏡像的Agent。如果任務(wù)沒有分配完成,再將剩下的虛擬機(jī)平均地分配到每個(gè)Agent上,算法保證了每個(gè)EA獲取到任務(wù)量是相等的,下面給出該算法的偽代碼。

    算法1 任務(wù)分配算法

    輸入數(shù)據(jù):標(biāo)書列表BidList,要重建的虛擬機(jī)列表VMList。

    結(jié)果:任務(wù)分配結(jié)果Result。

    0 int Average= VMList.size() / BidList.size();

    //每個(gè)Agent平均獲得的任務(wù)數(shù)目

    1 /*首先嘗試將任務(wù)分配給不需要傳輸鏡像的Agent*/

    1 for ( vmi:VMList ){

    2 for ( bidj:BidList ){

    3 currentAgent = bidj.agent();

    //當(dāng)前報(bào)價(jià)的Agent

    4 if( bidj.T_transImage = = 0 )

    //已經(jīng)緩存該鏡像

    5 if( currentAgent.acceptVm < Average)

    //小于平均值

    6 Result.add(vmi,currentAgent);

    //將vmi分配給currentAgent

    7 currentAgent.acceptVm += 1;

    8 break;

    9 else

    //當(dāng)前Agent已經(jīng)獲得的任務(wù)書達(dá)到期望值

    10 continue;

    //嘗試分配給下一個(gè)Agent

    11 }

    12 }

    13 /*一輪分配后,如果還存在未分配的任務(wù),則平均分配給每個(gè)Agent*/

    14 if( Result.size() < VMList.size() ){

    15 List UnallocateVMList;

    //沒有分配出去的VM

    16 for( bidj:BidList ){

    17 currentAgent = bidj.agent();

    18 while(currentAgent.acceptVm < Average){

    19 vm = UnallocateVMList.take();//分配一個(gè)VM

    20 Result.add(vm,currentAgent);

    21 currentAgent.acceptVm += 1;

    22 }

    23 }

    24 }

    該任務(wù)分配算法,使得整個(gè)任務(wù)平均分?jǐn)傇诿總€(gè)EA上,并且盡可能優(yōu)先考慮最優(yōu)分配。最后MA將計(jì)算出來的最終中標(biāo)結(jié)果發(fā)送個(gè)每一個(gè)EA,中標(biāo)結(jié)果中包含了整個(gè)中標(biāo)結(jié)果。EA收到中標(biāo)結(jié)果后,向MA發(fā)送一個(gè)確認(rèn)回復(fù),表示接收任務(wù),即簽訂了合同,并開始執(zhí)行任務(wù)。EA執(zhí)行任務(wù)結(jié)束后將執(zhí)行結(jié)果發(fā)送給MA。MA確定協(xié)商結(jié)果后,將去掉自己的MA角色,并告知其他Agent,任務(wù)處理結(jié)束,系統(tǒng)恢復(fù)正常。

    4 仿真實(shí)驗(yàn)

    FIPA是Agent領(lǐng)域制定Agent之間互操作標(biāo)準(zhǔn)的國際組織[12],本文采用JADE進(jìn)行仿真實(shí)驗(yàn)室。JADE是一個(gè)完全由Java語言實(shí)現(xiàn)的Agent開發(fā)框架,它通過中間件的方式實(shí)現(xiàn)符合FIPA規(guī)范的多Agent系統(tǒng),并支持通過一組圖形工具支持調(diào)試和部署[13]。

    4.1 實(shí)驗(yàn)設(shè)計(jì)

    以O(shè)penStack云計(jì)算架構(gòu)作為實(shí)驗(yàn)的參考架構(gòu),OpenStack是一個(gè)由NASA和Rackspace合作并發(fā)起的開源云計(jì)算管理平臺(tái)[14]。OpenStack啟動(dòng)虛擬機(jī)的流程為:控制節(jié)點(diǎn)接收請(qǐng)求,啟用調(diào)度器,調(diào)度器根據(jù)各個(gè)宿主機(jī)的負(fù)載和資源使用情況,在所有的宿主機(jī)集群中選擇合適的宿主機(jī),并將任務(wù)發(fā)送給計(jì)算節(jié)點(diǎn)的計(jì)算服務(wù)。計(jì)算節(jié)點(diǎn)首先從鏡像服務(wù)器請(qǐng)求鏡像,再調(diào)用底層虛擬機(jī)化軟件啟動(dòng)虛擬機(jī)。

    為了便于仿真實(shí)驗(yàn),定義一些預(yù)設(shè)前置條件:① 宿主機(jī)是同構(gòu)的且物理資源是足夠大的;② 網(wǎng)絡(luò)傳輸?shù)淖畲笏俣葹?000 MB/s,且傳輸鏡像時(shí)以網(wǎng)絡(luò)最大速度傳輸;③ 設(shè)定5種規(guī)格的鏡像文件;④ 以鏡像的最低配置要求啟動(dòng)虛擬機(jī);⑤ 假設(shè)Agent失效時(shí),Agent之間已經(jīng)完成了數(shù)據(jù)的同步。如表1所示。

    表1 預(yù)設(shè)的鏡像文件列表

    現(xiàn)有的調(diào)度策略都是全局類調(diào)度策略,因此設(shè)計(jì)兩個(gè)實(shí)驗(yàn)做對(duì)比:全局調(diào)度類的策略和本文基于組內(nèi)Agent協(xié)商的策略。兩個(gè)實(shí)驗(yàn)啟動(dòng)虛擬機(jī)流程都是模擬OpenStack啟動(dòng)虛擬機(jī)的流程,兩個(gè)實(shí)驗(yàn)假設(shè)都是一個(gè)宿主機(jī)出現(xiàn)故障,針對(duì)兩個(gè)實(shí)驗(yàn)分別構(gòu)造20組實(shí)驗(yàn),故障宿主機(jī)上運(yùn)行的虛擬機(jī)個(gè)數(shù)從1到20個(gè)。當(dāng)虛擬機(jī)個(gè)數(shù)小于等于鏡像種類時(shí)虛擬機(jī)使用不同的鏡像,當(dāng)虛擬機(jī)個(gè)數(shù)大于鏡像種類時(shí),隨機(jī)選擇一個(gè)鏡像。本文策略的實(shí)驗(yàn)構(gòu)造一個(gè)Agent Group,當(dāng)Agent之間完成數(shù)據(jù)同步后,通過JADE的GUI界面隨機(jī)殺死一個(gè)Agent,輸出中間的協(xié)商過程,并統(tǒng)計(jì)協(xié)商耗時(shí)、重建虛擬機(jī)耗時(shí)等。

    4.2 結(jié)果分析

    1) Agent協(xié)商效率分析

    本文使用CNP作為協(xié)商的協(xié)議,由于本文改進(jìn)了傳統(tǒng)的CNP協(xié)議,增加了管理Agent選舉的過程,使得整個(gè)協(xié)商過程的耗時(shí)會(huì)增加。為了減少選舉管理Agent的耗時(shí),本文通過規(guī)定每個(gè)Agent在一次選舉中只能投一次票、投票前的分析等原則使得選舉在一輪即可得到結(jié)果。實(shí)驗(yàn)表明,選舉過程對(duì)協(xié)商過程的協(xié)商效率影響很小,只有在參與協(xié)商的Agent數(shù)目非常多的時(shí)候才會(huì)有明顯的影響。實(shí)際上,參與協(xié)商的Agent處于同一個(gè)組內(nèi),而每個(gè)組的Agent數(shù)量又是比較小的。所以,增加了選舉過程的CNP協(xié)議在效率上是可以接受的。如圖5所示。

    圖5 改進(jìn)的CNP協(xié)商和經(jīng)典的耗時(shí)對(duì)比

    2) 恢復(fù)故障的耗時(shí)分析

    從實(shí)驗(yàn)結(jié)果可以看出,隨著虛擬機(jī)個(gè)數(shù)的增加,兩種策略的耗時(shí)都在增加,但在一定的范圍內(nèi)本文策略的耗時(shí)是小于全局調(diào)度策略的耗時(shí)。如圖6所示。

    圖6 重建虛擬機(jī)耗時(shí)隨著失效Agent運(yùn)行的虛擬機(jī)個(gè)數(shù)的變化曲線

    這是因?yàn)锳gent已經(jīng)緩存了數(shù)據(jù),在重建虛擬機(jī)時(shí)候,不需要傳輸鏡像和重新生成虛擬機(jī)的配置文件,并且任務(wù)分配算法又保證了每個(gè)Agent的任務(wù)是相同的,因此極大提高了處理任務(wù)的并行度。全局調(diào)度的算法在失效Agent運(yùn)行的虛擬機(jī)個(gè)數(shù)達(dá)到鏡像種類個(gè)數(shù)相等的時(shí)候,由于OpenStack在短時(shí)間內(nèi)會(huì)緩存鏡像,所以會(huì)存在一個(gè)拐點(diǎn)。在實(shí)際的云計(jì)算環(huán)境中,一個(gè)宿主機(jī)上運(yùn)行的虛擬機(jī)實(shí)例個(gè)數(shù)是有限個(gè)的且數(shù)目在幾十個(gè)之內(nèi)。因此,本文的策略在實(shí)際的環(huán)境中是有效的。

    5 結(jié) 語

    從仿真實(shí)驗(yàn)可以得出,提出的基于Agent協(xié)商的容錯(cuò)策略是可行的。它具備以下的優(yōu)點(diǎn):① 不額外增加宿主機(jī),減小了資源浪費(fèi);② 容錯(cuò)機(jī)制作用在Agent組內(nèi),策略收斂速度較全局調(diào)度策略快。

    [1] 林利, 石文昌. 構(gòu)建云計(jì)算平臺(tái)的開源軟件綜述[J]. 計(jì)算機(jī)科學(xué), 2012, 39(11):1-7,28.

    [2] 陳康, 鄭緯民. 云計(jì)算:系統(tǒng)實(shí)例與研究現(xiàn)狀[J]. 軟件學(xué)報(bào), 2009, 20(5):1337-1348.

    [3] Tchana A, Broto L, Hagimont D. Approaches to cloud computing fault tolerance[C]//Computer, Information and Telecommunication Systems (CITS), 2012 International Conference on. IEEE, 2012:1-6.

    [4] Wang J, Zhu X, Bao W. Real-Time Fault-Tolerant Scheduling Based on Primary-Backup Approach in Virtualized Clouds[C]// High Performance Computing and Communications & 2013 IEEE International Conference on Embedded and Ubiquitous Computing (HPCC_EUC), 2013 IEEE 10th International Conference on. IEEE, 2013:1127-1134.

    [5] Nogueira R, Araujo F, Barbosa R. CloudBFT: Elastic Byzantine Fault Tolerance[C]//2014 IEEE 20th Pacific Rim International Symposium on Dependable Computing (PRDC). IEEE Computer Society, 2014:180-189.

    [6] Microsoft. Windows azure: Microsoft's cloud services platform[EB/OL]. http://www.microsoft.com/windowsazure/.

    [7] Bakshi K. Cisco cloud computing-data center strategy, architecture, and solutions point of view white paper for U.S. public sector[EB/OL]. http://www.cisco.com/web/strategy/docs/gov/CiscoCloudComputing WP.pdf.

    [8] 黃楠, 劉斌. 多Agent技術(shù)綜述[J]. 微處理機(jī), 2010, 31(2):1-4.

    [9] 黃關(guān)山, 徐冬梅. Agent的理論與結(jié)構(gòu)模型分析[J]. 微型機(jī)與應(yīng)用, 2004(2):6.

    [10] 徐燕妮. 基于合同網(wǎng)協(xié)議的多Agent協(xié)作技術(shù)研究[D]. 青島:山東科技大學(xué), 2006.

    [11] 宋海剛, 陳學(xué)廣. FIPA合同網(wǎng)協(xié)議的一種改進(jìn)方案[J]. 華中科技大學(xué)學(xué)報(bào)(自然科學(xué)版), 2004, 32(7):31-33.

    [12] FIPA. Welcome to FIPA[OL]. http://www.fipa.org/.

    [13] JADE. Introduction to Jade[EB/OL]. http://jade.tilab.com/documentation/tutorials-guides/introduction-to-jade/.

    [14] OpenStack. Document for Mitaka[EB/OL]. http://docs.openstack.org.

    FAULT TOLERANCE STRATEGY BASED ON AGENT NEGOTIATION IN A CLOUD ENVIRONMENT

    Zhang Kaixuan Gu Chunhua Wan Feng

    (CollegeofInformationScienceandEngineering,EastChinaUniversityofScienceandTechnology,Shanghai200237,China)

    In the cloud computing platform,a large number of low-cost devices are used,which greatly increases the failure probability of host computers.To deal the problem of virtual machine instance failure caused by host failure,a kind of fault tolerant strategy of host is proposed.The virtual machines are rebuilt in each group using Agent negotiation by clustering,grouping and Agent modeling the host computers.The simulation experiment shows that the proposed method is able to rebuild the disabled virtual machine instances automatically,and take less time than other strategies.

    Cloud Host Agent negotiation Fault tolerance

    2015-10-12。張凱旋,碩士生,主研領(lǐng)域:云計(jì)算方向。顧春華,教授。萬峰,高工。

    TP3

    A

    10.3969/j.issn.1000-386x.2017.01.005

    猜你喜歡
    故障策略信息
    例談未知角三角函數(shù)值的求解策略
    故障一點(diǎn)通
    我說你做講策略
    高中數(shù)學(xué)復(fù)習(xí)的具體策略
    訂閱信息
    中華手工(2017年2期)2017-06-06 23:00:31
    奔馳R320車ABS、ESP故障燈異常點(diǎn)亮
    故障一點(diǎn)通
    江淮車故障3例
    展會(huì)信息
    Passage Four
    午夜久久久在线观看| 99国产精品一区二区蜜桃av| 国产精品,欧美在线| 国产精品免费一区二区三区在线| 精品久久久久久,| 免费av毛片视频| 国产精品一区二区三区四区久久 | 国产亚洲欧美在线一区二区| 精品乱码久久久久久99久播| 90打野战视频偷拍视频| av视频在线观看入口| a级毛片在线看网站| 女性生殖器流出的白浆| 亚洲无线在线观看| 女生性感内裤真人,穿戴方法视频| www日本黄色视频网| 999久久久精品免费观看国产| 免费在线观看影片大全网站| 男女午夜视频在线观看| 国产野战对白在线观看| 最好的美女福利视频网| 一进一出好大好爽视频| 欧美黄色片欧美黄色片| 国产av在哪里看| 精品不卡国产一区二区三区| 亚洲色图av天堂| 国产乱人伦免费视频| 久久久久国产精品人妻aⅴ院| 国产精品乱码一区二三区的特点| 日日夜夜操网爽| 国产成人啪精品午夜网站| 好男人在线观看高清免费视频 | 亚洲精品av麻豆狂野| 91麻豆av在线| 色综合欧美亚洲国产小说| 无人区码免费观看不卡| 午夜精品久久久久久毛片777| 99国产精品一区二区蜜桃av| 色综合站精品国产| 亚洲精品粉嫩美女一区| 黄片小视频在线播放| 男女下面进入的视频免费午夜 | 中文字幕人妻丝袜一区二区| 深夜精品福利| 欧美黄色片欧美黄色片| 变态另类丝袜制服| 琪琪午夜伦伦电影理论片6080| 少妇被粗大的猛进出69影院| 男女做爰动态图高潮gif福利片| 少妇被粗大的猛进出69影院| 亚洲精品美女久久av网站| 日韩欧美免费精品| 又大又爽又粗| 午夜老司机福利片| 午夜福利成人在线免费观看| 国产高清videossex| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲中文字幕日韩| 欧美精品啪啪一区二区三区| 精品不卡国产一区二区三区| 久久久久亚洲av毛片大全| 国产精品香港三级国产av潘金莲| 天堂√8在线中文| 最近最新中文字幕大全免费视频| 久久久久国内视频| 国内精品久久久久久久电影| 女人被狂操c到高潮| 熟女少妇亚洲综合色aaa.| 国产成人啪精品午夜网站| 99国产精品一区二区三区| 亚洲 欧美一区二区三区| 亚洲av五月六月丁香网| 国产精品99久久99久久久不卡| 少妇粗大呻吟视频| 国产又爽黄色视频| 亚洲精品美女久久久久99蜜臀| 欧美成人性av电影在线观看| 国产极品粉嫩免费观看在线| x7x7x7水蜜桃| 亚洲成国产人片在线观看| 午夜老司机福利片| 午夜久久久在线观看| 亚洲av中文字字幕乱码综合 | 欧美在线黄色| 天堂√8在线中文| 露出奶头的视频| 国产精品精品国产色婷婷| 在线观看午夜福利视频| 精品熟女少妇八av免费久了| 日本一区二区免费在线视频| 亚洲av电影不卡..在线观看| 国产99久久九九免费精品| 老司机深夜福利视频在线观看| 老司机在亚洲福利影院| 国产精品1区2区在线观看.| 黄色成人免费大全| 国产熟女午夜一区二区三区| 色综合站精品国产| tocl精华| 最新在线观看一区二区三区| 中文字幕久久专区| 老司机深夜福利视频在线观看| 亚洲成人久久性| 精华霜和精华液先用哪个| 亚洲中文字幕一区二区三区有码在线看 | 日韩有码中文字幕| 国产单亲对白刺激| 级片在线观看| 日日夜夜操网爽| 婷婷亚洲欧美| 一区二区三区高清视频在线| 亚洲国产看品久久| 国产一区二区在线av高清观看| 国产亚洲精品久久久久5区| 亚洲人成电影免费在线| 国产日本99.免费观看| 级片在线观看| 日韩国内少妇激情av| 麻豆久久精品国产亚洲av| 久久久久久九九精品二区国产 | 国产亚洲精品第一综合不卡| 午夜两性在线视频| 国产乱人伦免费视频| 国产黄片美女视频| 女同久久另类99精品国产91| 亚洲精品国产区一区二| 日韩欧美国产一区二区入口| 久热这里只有精品99| 哪里可以看免费的av片| 亚洲av熟女| 黄色片一级片一级黄色片| 我的亚洲天堂| 国产视频一区二区在线看| www日本黄色视频网| 黑丝袜美女国产一区| 在线观看免费午夜福利视频| 国产aⅴ精品一区二区三区波| 亚洲国产精品合色在线| 午夜激情av网站| 老熟妇仑乱视频hdxx| 午夜福利一区二区在线看| 一个人免费在线观看的高清视频| 别揉我奶头~嗯~啊~动态视频| 黑人欧美特级aaaaaa片| 变态另类成人亚洲欧美熟女| 久久国产精品男人的天堂亚洲| 变态另类丝袜制服| 99riav亚洲国产免费| 女警被强在线播放| 美女扒开内裤让男人捅视频| 成人亚洲精品av一区二区| 亚洲专区字幕在线| 亚洲中文字幕日韩| 一区二区三区高清视频在线| 欧美+亚洲+日韩+国产| 免费av毛片视频| 日本免费a在线| 精品熟女少妇八av免费久了| 两个人看的免费小视频| 欧美日韩精品网址| 搡老岳熟女国产| 精品久久久久久久毛片微露脸| 国产熟女午夜一区二区三区| 欧美大码av| 老熟妇乱子伦视频在线观看| 色在线成人网| 国产一区二区三区在线臀色熟女| av福利片在线| 黄片播放在线免费| 脱女人内裤的视频| 国产男靠女视频免费网站| 69av精品久久久久久| xxx96com| 一进一出抽搐gif免费好疼| 老汉色av国产亚洲站长工具| 成人午夜高清在线视频 | 欧美zozozo另类| 精品熟女少妇八av免费久了| 女人爽到高潮嗷嗷叫在线视频| 在线观看一区二区三区| 中文字幕人妻熟女乱码| 日本熟妇午夜| 亚洲精品国产精品久久久不卡| 成人国语在线视频| 久久婷婷成人综合色麻豆| 日本免费a在线| 国产亚洲欧美精品永久| 国产99久久九九免费精品| 中文字幕精品免费在线观看视频| 国产亚洲精品av在线| 日韩欧美 国产精品| 国产精品久久久av美女十八| 国产精品一区二区三区四区久久 | www.熟女人妻精品国产| 两性午夜刺激爽爽歪歪视频在线观看 | 精品国内亚洲2022精品成人| 国语自产精品视频在线第100页| 欧美成人午夜精品| 日本在线视频免费播放| 侵犯人妻中文字幕一二三四区| 久久99热这里只有精品18| 桃红色精品国产亚洲av| 久久久久久久久免费视频了| 婷婷精品国产亚洲av| 成人三级黄色视频| 亚洲精品粉嫩美女一区| 国产真实乱freesex| 丁香六月欧美| 天天躁夜夜躁狠狠躁躁| 久久久久久大精品| 国产国语露脸激情在线看| 国产精品电影一区二区三区| 一进一出抽搐gif免费好疼| 国产精品九九99| 真人一进一出gif抽搐免费| 欧美成人免费av一区二区三区| 黄片播放在线免费| 久久香蕉精品热| 美女高潮喷水抽搐中文字幕| 69av精品久久久久久| 麻豆av在线久日| 精品一区二区三区av网在线观看| 国产精品1区2区在线观看.| 国产欧美日韩精品亚洲av| 人妻久久中文字幕网| 国产成人欧美| 99久久无色码亚洲精品果冻| 熟妇人妻久久中文字幕3abv| 国产精品九九99| 国产成人啪精品午夜网站| www.自偷自拍.com| 亚洲精华国产精华精| 色综合婷婷激情| 欧美午夜高清在线| 国产单亲对白刺激| 久久久久亚洲av毛片大全| 午夜免费激情av| av电影中文网址| 欧美黄色片欧美黄色片| 亚洲国产精品久久男人天堂| 亚洲第一av免费看| aaaaa片日本免费| 亚洲精品在线美女| 欧美黑人巨大hd| 精品国产国语对白av| 久久天堂一区二区三区四区| 91麻豆av在线| 国产亚洲精品第一综合不卡| 国产成人av教育| 熟女电影av网| 中亚洲国语对白在线视频| 看黄色毛片网站| 国产91精品成人一区二区三区| 日韩一卡2卡3卡4卡2021年| 久久精品91蜜桃| 黄频高清免费视频| 中文字幕高清在线视频| 在线天堂中文资源库| 亚洲精品国产一区二区精华液| 97碰自拍视频| 国产成人影院久久av| av电影中文网址| 亚洲精品美女久久av网站| svipshipincom国产片| 欧美日本亚洲视频在线播放| 亚洲成人久久爱视频| 国产精品亚洲一级av第二区| 国产精品 国内视频| av电影中文网址| 国产av不卡久久| 在线播放国产精品三级| www日本黄色视频网| 国产成人一区二区三区免费视频网站| 亚洲精品国产区一区二| 久久精品91无色码中文字幕| 岛国在线观看网站| 日韩欧美免费精品| 女人爽到高潮嗷嗷叫在线视频| 哪里可以看免费的av片| 欧美一级a爱片免费观看看 | 色综合站精品国产| 成人一区二区视频在线观看| 亚洲国产欧洲综合997久久, | 老汉色av国产亚洲站长工具| 黑人欧美特级aaaaaa片| 亚洲成人国产一区在线观看| 日本三级黄在线观看| 欧美日本亚洲视频在线播放| 在线观看日韩欧美| 动漫黄色视频在线观看| 亚洲五月婷婷丁香| 熟女电影av网| www.www免费av| 亚洲一区中文字幕在线| 叶爱在线成人免费视频播放| 在线观看舔阴道视频| 国产黄a三级三级三级人| 国内久久婷婷六月综合欲色啪| 亚洲国产精品999在线| 一进一出抽搐动态| 少妇粗大呻吟视频| 国产精华一区二区三区| 亚洲国产高清在线一区二区三 | 亚洲一区二区三区不卡视频| 成在线人永久免费视频| 亚洲av片天天在线观看| 精品久久久久久久毛片微露脸| 中文字幕久久专区| 国产av不卡久久| 两个人看的免费小视频| 黄片小视频在线播放| 午夜成年电影在线免费观看| av在线播放免费不卡| 成人国语在线视频| 在线视频色国产色| 久久草成人影院| 亚洲真实伦在线观看| 18禁黄网站禁片午夜丰满| 亚洲精品国产区一区二| 好男人在线观看高清免费视频 | 久久这里只有精品19| 日韩欧美 国产精品| 成人手机av| 在线观看免费视频日本深夜| 国产精品久久视频播放| 手机成人av网站| 18禁美女被吸乳视频| 9191精品国产免费久久| 男人舔女人下体高潮全视频| 欧美色欧美亚洲另类二区| 天天躁夜夜躁狠狠躁躁| 黄色片一级片一级黄色片| 亚洲成人久久性| 亚洲成av人片免费观看| 女同久久另类99精品国产91| 高清毛片免费观看视频网站| 夜夜看夜夜爽夜夜摸| 亚洲aⅴ乱码一区二区在线播放 | 婷婷六月久久综合丁香| 日本三级黄在线观看| 精品国产一区二区三区四区第35| 国产亚洲欧美精品永久| 国产99白浆流出| 国产一区二区在线av高清观看| 国产亚洲精品第一综合不卡| 黑丝袜美女国产一区| 狂野欧美激情性xxxx| 亚洲人成网站在线播放欧美日韩| 中文字幕人妻丝袜一区二区| 中文字幕精品亚洲无线码一区 | 国产一区二区三区视频了| 亚洲av电影在线进入| 精品久久久久久成人av| 18禁观看日本| 色播亚洲综合网| 一级毛片精品| 少妇被粗大的猛进出69影院| 午夜激情福利司机影院| 国语自产精品视频在线第100页| 女性生殖器流出的白浆| 久久伊人香网站| 好男人电影高清在线观看| 亚洲黑人精品在线| 一级毛片高清免费大全| 一区二区日韩欧美中文字幕| 热99re8久久精品国产| 亚洲人成网站在线播放欧美日韩| 国产精品av久久久久免费| 亚洲天堂国产精品一区在线| 久久国产乱子伦精品免费另类| 99riav亚洲国产免费| av电影中文网址| 亚洲精品美女久久久久99蜜臀| 成人亚洲精品av一区二区| 午夜视频精品福利| 久久人妻福利社区极品人妻图片| 女警被强在线播放| 国产伦在线观看视频一区| 男女下面进入的视频免费午夜 | 国产精品野战在线观看| 一级a爱片免费观看的视频| 在线观看午夜福利视频| 久久久久免费精品人妻一区二区 | 麻豆国产av国片精品| 熟妇人妻久久中文字幕3abv| 十八禁网站免费在线| 亚洲第一欧美日韩一区二区三区| 每晚都被弄得嗷嗷叫到高潮| 一个人观看的视频www高清免费观看 | 看免费av毛片| 久久婷婷人人爽人人干人人爱| bbb黄色大片| 午夜激情av网站| 欧美日韩亚洲综合一区二区三区_| 91老司机精品| 2021天堂中文幕一二区在线观 | 天堂影院成人在线观看| 亚洲精品国产区一区二| 在线天堂中文资源库| 午夜福利在线观看吧| 男男h啪啪无遮挡| 在线视频色国产色| 国产真实乱freesex| 黄色成人免费大全| 亚洲九九香蕉| 窝窝影院91人妻| 香蕉av资源在线| 首页视频小说图片口味搜索| 日韩欧美 国产精品| 一级片免费观看大全| 热re99久久国产66热| 在线免费观看的www视频| 女人被狂操c到高潮| 日本免费一区二区三区高清不卡| 99riav亚洲国产免费| 757午夜福利合集在线观看| 久久久国产精品麻豆| 欧美久久黑人一区二区| av欧美777| 国产区一区二久久| 丁香欧美五月| 天堂影院成人在线观看| 99在线人妻在线中文字幕| 一区二区三区国产精品乱码| 国产精品精品国产色婷婷| 老司机深夜福利视频在线观看| 人成视频在线观看免费观看| 一区二区三区激情视频| 中文字幕人妻熟女乱码| 亚洲美女黄片视频| 日本三级黄在线观看| 香蕉av资源在线| 日韩大尺度精品在线看网址| 国产精品九九99| 啦啦啦观看免费观看视频高清| 国产蜜桃级精品一区二区三区| 午夜老司机福利片| 欧美精品亚洲一区二区| 叶爱在线成人免费视频播放| 午夜福利成人在线免费观看| www.自偷自拍.com| 午夜福利在线观看吧| 99国产精品一区二区三区| 亚洲av电影在线进入| 精品国产乱子伦一区二区三区| 两个人免费观看高清视频| 少妇的丰满在线观看| 男人舔女人的私密视频| 禁无遮挡网站| 精品少妇一区二区三区视频日本电影| 满18在线观看网站| 欧美乱色亚洲激情| 亚洲av电影在线进入| 欧美一级a爱片免费观看看 | 一级a爱视频在线免费观看| 天堂√8在线中文| 色尼玛亚洲综合影院| 天天躁狠狠躁夜夜躁狠狠躁| 国产熟女午夜一区二区三区| 国产亚洲av高清不卡| cao死你这个sao货| 黑人操中国人逼视频| 在线天堂中文资源库| 夜夜躁狠狠躁天天躁| 91麻豆精品激情在线观看国产| 亚洲av电影不卡..在线观看| 色在线成人网| 免费在线观看亚洲国产| 亚洲全国av大片| 亚洲一卡2卡3卡4卡5卡精品中文| 麻豆成人av在线观看| cao死你这个sao货| 亚洲专区字幕在线| 黄色视频,在线免费观看| 黄色视频,在线免费观看| 窝窝影院91人妻| 免费高清视频大片| 久久人妻av系列| 日韩精品免费视频一区二区三区| 99久久综合精品五月天人人| 国产精品久久久av美女十八| 97超级碰碰碰精品色视频在线观看| 亚洲精品在线观看二区| 美女 人体艺术 gogo| 国内少妇人妻偷人精品xxx网站 | 搡老岳熟女国产| av片东京热男人的天堂| 动漫黄色视频在线观看| 色播亚洲综合网| 热re99久久国产66热| 十八禁网站免费在线| 制服人妻中文乱码| 99re在线观看精品视频| 亚洲欧美激情综合另类| 亚洲国产高清在线一区二区三 | 日韩一卡2卡3卡4卡2021年| 久久婷婷成人综合色麻豆| 夜夜爽天天搞| 两性午夜刺激爽爽歪歪视频在线观看 | 成熟少妇高潮喷水视频| 可以在线观看毛片的网站| 精品国产美女av久久久久小说| 成熟少妇高潮喷水视频| 久久狼人影院| 久久久国产成人精品二区| 天天躁狠狠躁夜夜躁狠狠躁| 成年女人毛片免费观看观看9| 精品电影一区二区在线| 国产精华一区二区三区| 免费无遮挡裸体视频| 亚洲一码二码三码区别大吗| 国产精品乱码一区二三区的特点| 叶爱在线成人免费视频播放| 久久国产亚洲av麻豆专区| 琪琪午夜伦伦电影理论片6080| 精品国产国语对白av| 两个人视频免费观看高清| 亚洲一区中文字幕在线| 夜夜爽天天搞| 侵犯人妻中文字幕一二三四区| 一边摸一边抽搐一进一小说| 久热爱精品视频在线9| 丝袜人妻中文字幕| 亚洲三区欧美一区| 嫩草影视91久久| e午夜精品久久久久久久| 亚洲男人的天堂狠狠| 欧美成人免费av一区二区三区| 波多野结衣巨乳人妻| 精品乱码久久久久久99久播| 久久午夜综合久久蜜桃| 丰满的人妻完整版| 黄色丝袜av网址大全| www日本黄色视频网| 午夜激情福利司机影院| 精品久久久久久,| 久久精品国产99精品国产亚洲性色| 国产真人三级小视频在线观看| 国产亚洲欧美精品永久| 亚洲精品久久成人aⅴ小说| 夜夜夜夜夜久久久久| 国产野战对白在线观看| 精品午夜福利视频在线观看一区| 日韩 欧美 亚洲 中文字幕| www.999成人在线观看| 亚洲第一欧美日韩一区二区三区| 男人舔女人下体高潮全视频| 法律面前人人平等表现在哪些方面| 国产高清激情床上av| 一本精品99久久精品77| 天堂√8在线中文| 精品高清国产在线一区| 日韩视频一区二区在线观看| 中文字幕精品免费在线观看视频| 国产黄色小视频在线观看| 国产精品一区二区免费欧美| 亚洲国产欧洲综合997久久, | 色婷婷久久久亚洲欧美| 亚洲国产精品成人综合色| 国产精品99久久99久久久不卡| 日本 欧美在线| 成人特级黄色片久久久久久久| 一区二区三区精品91| 欧美亚洲日本最大视频资源| 十八禁网站免费在线| 最近在线观看免费完整版| 老司机在亚洲福利影院| 国产黄色小视频在线观看| 欧美乱色亚洲激情| 国产三级黄色录像| 日日夜夜操网爽| 亚洲精品美女久久av网站| 久久午夜综合久久蜜桃| 香蕉av资源在线| 午夜成年电影在线免费观看| 欧美黑人精品巨大| 老司机福利观看| av欧美777| 高清在线国产一区| 久久天堂一区二区三区四区| 亚洲欧美精品综合久久99| 一进一出抽搐gif免费好疼| 久久久久国内视频| 国产精品免费视频内射| 亚洲国产精品成人综合色| 超碰成人久久| 欧美日韩乱码在线| 国产成人精品久久二区二区免费| 一进一出好大好爽视频| 日本在线视频免费播放| 久久久久亚洲av毛片大全| 精品欧美国产一区二区三| 成人av一区二区三区在线看| 国产熟女午夜一区二区三区| 黄色 视频免费看| 后天国语完整版免费观看| 亚洲中文字幕一区二区三区有码在线看 | 免费搜索国产男女视频| 激情在线观看视频在线高清| 18禁美女被吸乳视频| 日本熟妇午夜| 亚洲欧美一区二区三区黑人| 亚洲自偷自拍图片 自拍| 国产成人精品久久二区二区91| 亚洲va日本ⅴa欧美va伊人久久| 国产黄色小视频在线观看| 欧美不卡视频在线免费观看 | 精品国产乱码久久久久久男人| 国产亚洲精品一区二区www| 叶爱在线成人免费视频播放| 搞女人的毛片| 免费搜索国产男女视频| 精品少妇一区二区三区视频日本电影| 中国美女看黄片| 久久久久国产精品人妻aⅴ院|