• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    跨云環(huán)境下任務(wù)調(diào)度綜述

    2023-06-07 03:40:40唐續(xù)豪劉發(fā)貴陳維明何鳳文
    關(guān)鍵詞:任務(wù)調(diào)度異構(gòu)使用者

    唐續(xù)豪 劉發(fā)貴, 王 彬 李 超 蔣 俊 唐 泉 陳維明 何鳳文

    1 (華南理工大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 廣州 510006)

    2 (鵬城實(shí)驗(yàn)室 廣東 深圳 518000)

    3 (國(guó)家稅務(wù)總局廣東省稅務(wù)局 廣州 510627)

    云計(jì)算作為國(guó)家“新基建”中重要的新技術(shù)基礎(chǔ)設(shè)施,為5G、物聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)等領(lǐng)域的發(fā)展提供了重要的支持.目前,云計(jì)算已經(jīng)廣泛應(yīng)用于不同領(lǐng)域,為云服務(wù)使用者提供數(shù)據(jù)處理、大規(guī)模數(shù)據(jù)存儲(chǔ)相關(guān)服務(wù).云服務(wù)使用者可以根據(jù)自身需求選擇不同的部署模式,如有可用資源多、按計(jì)算使用量付費(fèi)的需求則可選擇公有云作為部署模式;如有安全性高的需求則可選擇私有云作為部署模式,這些彼此沒(méi)有關(guān)聯(lián)的單一公有云或私有云構(gòu)成了單云環(huán)境.近年來(lái)由于云計(jì)算技術(shù)的快速發(fā)展,政府機(jī)關(guān)、企業(yè)、機(jī)構(gòu)、個(gè)人用戶等不同類別的云服務(wù)使用者在應(yīng)用過(guò)程中形成了不同的技術(shù)路線,累積了大量不同架構(gòu)、不同品牌的網(wǎng)絡(luò)、計(jì)算、存儲(chǔ)設(shè)備及多種應(yīng)用和虛擬化環(huán)境[1],這些不同種類的硬件資源、異構(gòu)的虛擬化系統(tǒng)使得云環(huán)境日趨復(fù)雜,而單云環(huán)境已無(wú)法滿足云服務(wù)使用者日益增長(zhǎng)的計(jì)算需求和服務(wù)需求.同時(shí),數(shù)據(jù)量的不斷增加和云服務(wù)應(yīng)用場(chǎng)景的多元化讓單云環(huán)境還面臨著3 個(gè)方面的挑戰(zhàn):

    1)單云環(huán)境資源利用率有限,應(yīng)對(duì)突發(fā)業(yè)務(wù)成本較高.云服務(wù)使用者在業(yè)務(wù)高峰時(shí)往往需要比平時(shí)高幾倍甚至數(shù)十倍的資源,在單云環(huán)境中如按照峰值需求配置云資源,則會(huì)導(dǎo)致資源利用率低,為了保證服務(wù)質(zhì)量,云服務(wù)提供者的成本會(huì)增加,而這部分成本最終將轉(zhuǎn)嫁給云服務(wù)使用者,使得業(yè)務(wù)成本增加.同時(shí),單云環(huán)境無(wú)法擁有云服務(wù)供應(yīng)商的議價(jià)權(quán),無(wú)法結(jié)合多個(gè)云服務(wù)供應(yīng)商提供的資源價(jià)格來(lái)制定更加合理的經(jīng)濟(jì)策略,優(yōu)化使用成本.

    2)單云環(huán)境無(wú)法解決供應(yīng)商鎖定問(wèn)題,阻礙業(yè)務(wù)發(fā)展.單一云服務(wù)供應(yīng)商可能會(huì)因監(jiān)管、法律、政治等因素中斷服務(wù),導(dǎo)致供應(yīng)商鎖定,這會(huì)使云服務(wù)使用者在業(yè)務(wù)發(fā)展中面臨極大風(fēng)險(xiǎn).

    3)單云環(huán)境中云服務(wù)的可靠性無(wú)法得到保證.如果將所有數(shù)據(jù)都放在同一云平臺(tái)上,出現(xiàn)宕機(jī)或數(shù)據(jù)丟失事故將對(duì)云服務(wù),使用者的業(yè)務(wù)造成巨大損失,云服務(wù)的可靠性無(wú)法得到保證.

    這些問(wèn)題的存在都會(huì)導(dǎo)致云服務(wù)使用者無(wú)法統(tǒng)一管理云資源,制約了云服務(wù)使用者對(duì)于云資源的有效利用.為了集成云服務(wù),統(tǒng)一管理云資源,有效地解決單云環(huán)境所面臨的各種問(wèn)題,跨云環(huán)境應(yīng)運(yùn)而生,跨云環(huán)境包括混合云(hybrid cloud)[2-3]、聯(lián)盟云(federated cloud)[4]和多云(multi-cloud)[5].據(jù)全球著名市場(chǎng)研究公司IDC(international data corporation)預(yù)測(cè),到2024 年,90%的全球1 000 強(qiáng)企業(yè)將建立跨云管理的戰(zhàn)略,云計(jì)算環(huán)境正在經(jīng)歷從單云到跨云的轉(zhuǎn)變[6].

    云計(jì)算中的關(guān)鍵研究問(wèn)題之一是任務(wù)調(diào)度,它根據(jù)任務(wù)的各種需求及資源的實(shí)際情況采用適當(dāng)?shù)牟呗詫⒉煌娜蝿?wù)分配到云內(nèi)最佳的資源上執(zhí)行[7].其中需要綜合考慮任務(wù)的執(zhí)行時(shí)間、完成時(shí)間、資源利用率、可靠性、成本、網(wǎng)絡(luò)吞吐量、可伸縮性能、能耗等優(yōu)化參數(shù)及相關(guān)評(píng)價(jià)指標(biāo)[8].由于跨云環(huán)境中資源呈現(xiàn)復(fù)雜性、異構(gòu)性,這使得統(tǒng)一管理并有效利用跨云資源的難度大大增加[9-10].因此,為了實(shí)現(xiàn)跨云資源的高效利用,如何合理調(diào)度用戶任務(wù)并將其分配到最佳的跨云資源上執(zhí)行,成為了跨云環(huán)境中需要解決的重要問(wèn)題.同時(shí),如何提高任務(wù)調(diào)度的效率,使其更好地適應(yīng)跨云環(huán)境,滿足日益增長(zhǎng)的云計(jì)算能力與對(duì)各類云服務(wù)的需求,也成為目前云計(jì)算平臺(tái)研究領(lǐng)域急需解決的瓶頸問(wèn)題.

    近年來(lái),跨云環(huán)境的不斷推廣應(yīng)用使得國(guó)內(nèi)外出現(xiàn)了研究跨云環(huán)境下任務(wù)調(diào)度算法的高質(zhì)量論文.由于跨云環(huán)境的分類界定較為模糊,相關(guān)研究的側(cè)重不一,導(dǎo)致此類研究的綜述性論文較為缺乏、研究較為滯后.目前,已有的綜述論文大多只對(duì)單云環(huán)境下任務(wù)調(diào)度算法進(jìn)行了總結(jié)分析,尚未針對(duì)跨云環(huán)境下任務(wù)調(diào)度算法研究展開綜述.因此,本文根據(jù)國(guó)內(nèi)外研究現(xiàn)狀,結(jié)合跨云環(huán)境的相關(guān)資料和特點(diǎn)對(duì)其進(jìn)行梳理,同時(shí)選取代表性論文對(duì)跨云環(huán)境下任務(wù)調(diào)度算法進(jìn)行總結(jié)、分析,最后探討了跨云環(huán)境下任務(wù)調(diào)度算法研究中的不足和未來(lái)的研究趨勢(shì),為跨云環(huán)境的分類、跨云環(huán)境下任務(wù)調(diào)度的進(jìn)一步研究提供了參考.

    1 跨云環(huán)境下任務(wù)調(diào)度概述

    本節(jié)主要介紹跨云環(huán)境及任務(wù)調(diào)度算法的分類.由于跨云環(huán)境中部分概念及其場(chǎng)景無(wú)精確定義,本節(jié)重點(diǎn)梳理其中的關(guān)系,力求全面,以供讀者理解.

    1.1 跨云環(huán)境分類

    跨云環(huán)境一般分為2 類:一類是聯(lián)盟云環(huán)境,另一類是多云環(huán)境[11].如圖1(a)所示,聯(lián)盟云環(huán)境是指一組云服務(wù)供應(yīng)商彼此愿意互連其基礎(chǔ)設(shè)施以實(shí)現(xiàn)資源共享;多云環(huán)境是指云服務(wù)使用者可以使用多個(gè)獨(dú)立的云,如圖1(b)所示,其中云服務(wù)供應(yīng)商彼此之間并不互連且不共享其基礎(chǔ)設(shè)施[12].近年來(lái),混合云作為新的云架構(gòu)體系已成為云計(jì)算領(lǐng)域研究的熱點(diǎn),根據(jù)美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)(national institute of standards and technology,NIST)研究院的定義,混合云是由2 個(gè)或2 個(gè)以上的云(公有云、私有云或社區(qū)云)組成的,它們各自獨(dú)立但通過(guò)標(biāo)準(zhǔn)化技術(shù)或?qū)S屑夹g(shù)綁定在一起,實(shí)現(xiàn)了跨云之間數(shù)據(jù)和應(yīng)用程序的可移植性[13].因此,作為獨(dú)立的云架構(gòu)體系,混合云也屬于多云環(huán)境.

    Fig.1 Inter-cloud environment comparison diagram圖1 跨云環(huán)境對(duì)比圖

    在跨云環(huán)境中,通常使用代理(broker)來(lái)實(shí)現(xiàn)任務(wù)的調(diào)度及部署.如圖2 所示,代理作為獨(dú)立的第三方,將跨云環(huán)境中所有的云資源虛擬化形成一個(gè)統(tǒng)一的虛擬資源池,在該資源池中代理分別與各個(gè)獨(dú)立的云進(jìn)行通信,但對(duì)于云服務(wù)使用者來(lái)說(shuō)代理屏蔽了資源、通信等方面的異構(gòu)性,只向云服務(wù)使用者提供統(tǒng)一資源池的資源目錄及通信接口,并將任務(wù)分配給統(tǒng)一資源池中合適的資源執(zhí)行,實(shí)現(xiàn)跨云資源的有效利用.

    Fig.2 Schematic diagram of task scheduling in inter-cloud environment圖2 跨云環(huán)境下任務(wù)調(diào)度示意圖

    聯(lián)盟云環(huán)境大都以政府或?qū)W術(shù)組織為主發(fā)起,是政府內(nèi)部用云或?qū)W術(shù)組織擁有的私有云之間的合作[14].聯(lián)盟云環(huán)境更多地強(qiáng)調(diào)合作、共享的重要性,通常是通過(guò)部署和管理多個(gè)云計(jì)算服務(wù)來(lái)匹配云服務(wù)使用者的業(yè)務(wù)需求,通過(guò)聚合多個(gè)云平臺(tái)來(lái)合作完成同一個(gè)目標(biāo)任務(wù)[15].聯(lián)盟云環(huán)境中代理會(huì)收集并不斷更新環(huán)境中各個(gè)云的資源狀態(tài)信息,之后根據(jù)云服務(wù)使用者的服務(wù)級(jí)別協(xié)議(service level agreement,SLA)將任務(wù)分配到聯(lián)盟云環(huán)境中可用資源的虛擬機(jī)上,來(lái)實(shí)現(xiàn)資源利用率、可靠性、成本等相關(guān)性能的最優(yōu)化.聯(lián)盟云環(huán)境的提出,實(shí)現(xiàn)了多個(gè)云計(jì)算節(jié)點(diǎn)的互聯(lián),提出了互操作協(xié)議標(biāo)準(zhǔn)、共享資源、相關(guān)數(shù)據(jù)管理等一些基于聯(lián)盟云環(huán)境下的云服務(wù)管理方法,解決了部分單云環(huán)境下所遇到的問(wèn)題.但由于聯(lián)盟云需要共享資源的特殊性,導(dǎo)致其應(yīng)用范圍較小,難以推廣使用,其資源的異構(gòu)性也會(huì)引起整個(gè)聯(lián)盟云環(huán)境的不穩(wěn)定.綜合來(lái)看,聯(lián)盟云為解決單云環(huán)境下所面臨的部分問(wèn)題提出了有參考價(jià)值的方案,但其中還存在一些尚待研究和解決的問(wèn)題,同時(shí)聯(lián)盟云需要共享資源的特殊性使其無(wú)法避免法律合規(guī)等相關(guān)問(wèn)題,這也大大制約了聯(lián)盟云的推廣.

    多云環(huán)境目前并無(wú)精確的定義,在學(xué)術(shù)界和工業(yè)界一般意義上的多云環(huán)境是指由多個(gè)不同的(infrastructure as a service, IaaS)基礎(chǔ)設(shè)施即服務(wù)提供商組成的新環(huán)境,這些云服務(wù)供應(yīng)商相互獨(dú)立,同時(shí)向云服務(wù)使用者提供不同價(jià)格、不同性能的虛擬機(jī)以滿足其需求[5].而混合云一般認(rèn)為是公有云和私有云的混合,但云混合的形態(tài)有多種,根據(jù)NIST 的定義,混合云的形態(tài)應(yīng)該包括公有云之間的混合、私有云之間的混合、公有云和私有云的混合.Gartner 公司曾經(jīng)將混合云定義為混合的IT 架構(gòu),在現(xiàn)實(shí)應(yīng)用中也存在大量傳統(tǒng)IT 設(shè)施和公有云混合的情況,所以混合云的形態(tài)也應(yīng)該包括傳統(tǒng)IT 與公有云的混合.因此,如圖3 所示混合云的形態(tài)可以總結(jié)為4 種:

    Fig.3 The whole classification of inter-cloud environment圖3 跨云環(huán)境整體分類

    1)公有云之間的混合

    公有云之間的混合還存在同構(gòu)公有云混合和異構(gòu)公有云混合的情況,同構(gòu)公有云的混合一般是指相同云服務(wù)提供商的云平臺(tái)在不同地域之間的混合;異構(gòu)公有云的混合是指不同云服務(wù)提供商的混合,也就是目前學(xué)術(shù)界和工業(yè)界一般意義上的多云,而在應(yīng)用中則是將多個(gè)異構(gòu)公有云統(tǒng)一納管,實(shí)現(xiàn)云資源的統(tǒng)一管理,但此處的多云是為了區(qū)別混合云中公有云和私有云的混合類型.目前,異構(gòu)公有云的混合是研究的熱點(diǎn),市場(chǎng)上也有很多工具來(lái)幫助云服務(wù)使用者同時(shí)部署管理多個(gè)異構(gòu)公有云,如HashiCorp提供的Terraform 就是較為流行的一種部署工具,它通過(guò)抽象化基礎(chǔ)架構(gòu)模型來(lái)屏蔽各個(gè)云之間IaaS 的具體差別[16].

    2)私有云之間的混合

    私有云之間的混合一般是企業(yè)或組織內(nèi)部的IT架構(gòu),為了降低運(yùn)營(yíng)成本通常都是采用同一種私有云進(jìn)行連接,當(dāng)然也會(huì)存在異構(gòu)的私有云的混合,但這種混合并不是研究和應(yīng)用的主流,如OpenStack 和VMware 可以進(jìn)行混合,但并無(wú)太大意義甚至有可能增加運(yùn)營(yíng)成本.

    3)公有云和私有云之間的混合

    公有云與私有云的混合是一般意義上的混合云,它是目前工業(yè)界市場(chǎng)的主流選擇,同時(shí)學(xué)術(shù)界對(duì)于跨云環(huán)境的研究也大多集中于此.這種形態(tài)的混合云能夠同時(shí)兼顧公有云和私有云的優(yōu)點(diǎn),給云服務(wù)使用者帶來(lái)更好的體驗(yàn).公有云與私有云的混合依然存在同構(gòu)和異構(gòu)之分,同構(gòu)是指2 個(gè)或多個(gè)云采用同一個(gè)技術(shù)架構(gòu)(開源架構(gòu)或同一廠家的平臺(tái));異構(gòu)是指公、私有云混合的技術(shù)架構(gòu)不同.目前,研究和應(yīng)用以同構(gòu)混合云為主.

    4)公有云和傳統(tǒng)IT 的混合

    這種混合一般需要盡可能地屏蔽公有云和傳統(tǒng)IT 之間的差異,以公有云為主適配傳統(tǒng)IT,進(jìn)而達(dá)到對(duì)資源的有效利用.

    綜合來(lái)看,跨云環(huán)境的主體是多云環(huán)境,而多云環(huán)境又重點(diǎn)關(guān)注異構(gòu)公有云的混合和公有云、私有云的混合.因此,多云環(huán)境可以理解為一種融合的IT架構(gòu),區(qū)別于單云環(huán)境,在這種環(huán)境下云服務(wù)使用者可以將獨(dú)立的云資源盡可能地連接起來(lái),實(shí)現(xiàn)應(yīng)用的編排、管理,最終達(dá)到資源高效利用的目的,其中混合云的各種形態(tài)都屬于多云環(huán)境.

    學(xué)術(shù)界從很早之前就對(duì)多云環(huán)境展開相關(guān)研究,2014 年國(guó)際上出現(xiàn)了以研究多云環(huán)境下任務(wù)調(diào)度、資源管理等問(wèn)題的研討會(huì),命名為Cross Cloud[17].2017 年國(guó)內(nèi)的國(guó)防科技大學(xué)王懷民院士[18]首次提出云際計(jì)算概念,它以云服務(wù)提供者之間開放協(xié)作為基礎(chǔ),通過(guò)融合多方云資源,實(shí)現(xiàn)“服務(wù)無(wú)邊界、云間有協(xié)作、資源易共享、價(jià)值可轉(zhuǎn)換”的新一代云計(jì)算模式,其參考架構(gòu)國(guó)家標(biāo)準(zhǔn)也已經(jīng)進(jìn)入批準(zhǔn)階段[19],同時(shí)云際計(jì)算連續(xù)多年依托國(guó)內(nèi)外知名會(huì)議在線下展開研討,在2020 年由國(guó)防科技大學(xué)主導(dǎo),正式成為IEEE 云際計(jì)算國(guó)際會(huì)議.

    隨著數(shù)據(jù)量的不斷增大,對(duì)算力的需求會(huì)越來(lái)越高,對(duì)計(jì)算性能的要求會(huì)逐漸提升,計(jì)算成本會(huì)隨之增加,云環(huán)境也會(huì)日趨復(fù)雜.這種趨勢(shì)下跨云環(huán)境會(huì)成為越來(lái)越多云服務(wù)使用者的必然選擇,而更加復(fù)雜的跨云環(huán)境將會(huì)不可避免地遇到新的問(wèn)題.

    1.2 主要任務(wù)調(diào)度算法

    跨云環(huán)境下的任務(wù)調(diào)度算法是指根據(jù)當(dāng)前任務(wù)具體情況并結(jié)合環(huán)境中的所有資源,將任務(wù)分配到跨云環(huán)境中最優(yōu)資源上執(zhí)行的過(guò)程,任務(wù)調(diào)度算法本質(zhì)上是一個(gè)NP 難題[20].

    跨云環(huán)境中的任務(wù)調(diào)度算法通常可以根據(jù)任務(wù)的類型將任務(wù)調(diào)度算法分為2 類:

    1)獨(dú)立任務(wù)調(diào)度.獨(dú)立任務(wù)彼此之間沒(méi)有關(guān)聯(lián)關(guān)系,調(diào)度優(yōu)化的目標(biāo)通常是為了達(dá)到整個(gè)系統(tǒng)性能的最佳狀態(tài)或根據(jù)用戶的需求完成特定的調(diào)度優(yōu)化,最終將任務(wù)分配到跨云環(huán)境中的指定虛擬機(jī)即可[21].

    2)工作流任務(wù)調(diào)度.工作流任務(wù)存在執(zhí)行順序,通常是所有前驅(qū)節(jié)點(diǎn)任務(wù)執(zhí)行完畢后,當(dāng)前任務(wù)才可以開始執(zhí)行,常用有向無(wú)環(huán)圖(directed acyclic graph,DAG)表示工作流任務(wù),其中“節(jié)點(diǎn)”表示任務(wù)需要的計(jì)算過(guò)程,“邊”表示任務(wù)間的數(shù)據(jù)通信[22-23].在跨云環(huán)境中,如何調(diào)度和分配多個(gè)具有依賴關(guān)系的任務(wù),為每個(gè)具有依賴關(guān)系的任務(wù)在跨云環(huán)境中找到合適的云平臺(tái)資源、降低資源使用成本、減少任務(wù)執(zhí)行時(shí)間是工作流任務(wù)調(diào)度優(yōu)化的重點(diǎn)目標(biāo).

    對(duì)于跨云環(huán)境中的任務(wù)調(diào)度算法,目前已有的研究多數(shù)是以單云環(huán)境下任務(wù)調(diào)度算法為參考,根據(jù)特定目標(biāo)對(duì)其進(jìn)行改進(jìn)和優(yōu)化[24-25],以滿足跨云環(huán)境的需求.表1 總結(jié)了單云環(huán)境下常見(jiàn)的任務(wù)調(diào)度算法,傳統(tǒng)調(diào)度算法包括先來(lái)先服務(wù)(first come first served, FCFS)、Min-Min[26]、Max-Min[27]、最小完成時(shí)間(minimum completion time, MCT)、最小執(zhí)行時(shí)間(minimum execution time, MET)、循環(huán)調(diào)度(round robin, RR)等,這類算法的思想較為簡(jiǎn)單,通常是為了直接實(shí)現(xiàn)某種目標(biāo)而制定,算法整體易于實(shí)現(xiàn),復(fù)雜度較低同時(shí)具有較強(qiáng)的實(shí)用性,現(xiàn)在多為云仿真平臺(tái)的默認(rèn)任務(wù)調(diào)度算法.但這些算法大都存在較大的局限性,并且性能不高,往往在實(shí)際的云環(huán)境中無(wú)法直接運(yùn)用.蟻群優(yōu)化(ant colony optimization, ACO)[28-29]算法、粒子群優(yōu)化(particle swarm optimization, PSO)算法[30-32]、遺傳(genetic algorithm, GA)算法[33-35]、模擬退火(simulated annealing, SA)算法[36-37]、禁忌搜索(tabu search,TS)算法[38]等一般是模擬生物覓食方式或自然界中的物理現(xiàn)象,通過(guò)不斷地迭代優(yōu)化最終獲得較好的調(diào)度結(jié)果,同時(shí)這類算法也已經(jīng)在單云環(huán)境中獲得了符合調(diào)度目標(biāo)的較好的調(diào)度方案.但這類算法的參數(shù)及相關(guān)閾值的設(shè)定較為復(fù)雜,存在求解時(shí)間過(guò)長(zhǎng)、算法復(fù)雜度較高等問(wèn)題.

    Table 1 Common Task Scheduling Algorithms in Single Cloud Environment表1 單云環(huán)境下常見(jiàn)的任務(wù)調(diào)度算法

    在跨云環(huán)境中,由于資源具有異構(gòu)性且資源池中其他用戶的行為未知,任務(wù)會(huì)呈現(xiàn)較大的隨機(jī)性,同時(shí)任務(wù)的類型、數(shù)量等方面也會(huì)不斷地變化,更加復(fù)雜的環(huán)境下,任務(wù)調(diào)度會(huì)遇到新的問(wèn)題和挑戰(zhàn).

    2 聯(lián)盟云環(huán)境下的任務(wù)調(diào)度算法

    聯(lián)盟云環(huán)境通常是指云服務(wù)供應(yīng)商彼此愿意互連其基礎(chǔ)設(shè)施以實(shí)現(xiàn)資源共享,通過(guò)管理多個(gè)云計(jì)算服務(wù)來(lái)滿足云服務(wù)使用者的需求.聯(lián)盟云支持若干個(gè)獨(dú)立云平臺(tái)合作完成同一個(gè)目標(biāo)任務(wù)[39].

    文獻(xiàn)[40]設(shè)計(jì)了CometCloud 聯(lián)盟云架構(gòu),該聯(lián)盟云架構(gòu)部署在3 所不同地域高校的服務(wù)器上,以成本最小化設(shè)計(jì)了調(diào)度策略并用2 個(gè)實(shí)際應(yīng)用任務(wù)進(jìn)行測(cè)試.同時(shí),利用實(shí)驗(yàn)評(píng)估了處理相同任務(wù)量情況下單云環(huán)境及聯(lián)盟云環(huán)境的性能,實(shí)驗(yàn)結(jié)果表明,在任務(wù)完成時(shí)間和成本優(yōu)化方面,聯(lián)盟云優(yōu)勢(shì)會(huì)更為明顯.文獻(xiàn)[41]針對(duì)聯(lián)盟云環(huán)境構(gòu)建了一種基于博弈論的調(diào)度方案,該方案以成本為導(dǎo)向,向納什均衡[42]解靠攏,給代理賦予了系統(tǒng)組件所需的自治程度,并加入了自組織、彈性等全局屬性.實(shí)驗(yàn)結(jié)果表明,這種調(diào)度方案在面對(duì)大量任務(wù)的情況下可提供更好的伸縮性.文獻(xiàn)[43]提出了一種基于負(fù)載均衡的蟻群優(yōu)化(load balancing ant colony optimization, LBACO)算法,也被稱為ACOsched 算法,通過(guò)在聯(lián)盟中尋找最優(yōu)的云資源來(lái)執(zhí)行任務(wù),從而實(shí)現(xiàn)任務(wù)的高效分配.實(shí)驗(yàn)結(jié)果表明,ACOsched 算法在聯(lián)盟云中的任務(wù)完成時(shí)間有了較為明顯的縮減.由于聯(lián)盟云需要共享資源的特殊性使其無(wú)法避免法律合規(guī)等相關(guān)問(wèn)題,同時(shí)較為復(fù)雜的環(huán)境也制約了聯(lián)盟云的推廣,因此除了政府及學(xué)術(shù)組織外少有用戶去使用聯(lián)盟云,這也導(dǎo)致了相關(guān)研究論文較少.

    表2 總結(jié)對(duì)比了聯(lián)盟云環(huán)境下的任務(wù)調(diào)度算法.現(xiàn)有的聯(lián)盟云環(huán)境下任務(wù)調(diào)度算法,大部分會(huì)優(yōu)先根據(jù)實(shí)際應(yīng)用場(chǎng)景自定義聯(lián)盟云架構(gòu),如文獻(xiàn)[40]中針對(duì)不同地域的服務(wù)器設(shè)計(jì)了聯(lián)盟云架構(gòu),將該場(chǎng)景下的任務(wù)調(diào)度形式化為成本和最大完成時(shí)間的多目標(biāo)優(yōu)化問(wèn)題,同時(shí)將多個(gè)云計(jì)算節(jié)點(diǎn)互聯(lián),并通過(guò)成本決策函數(shù)的計(jì)算結(jié)果,確定何時(shí)將任務(wù)分配至聯(lián)盟云中不同的節(jié)點(diǎn),優(yōu)化了任務(wù)調(diào)度的求解過(guò)程.文獻(xiàn)[40-43]等大都以成本、最大完成時(shí)間為首要優(yōu)化目標(biāo),將不同場(chǎng)景中的調(diào)度形式化為單目標(biāo)或多目標(biāo)優(yōu)化問(wèn)題,以單云環(huán)境下任務(wù)調(diào)度算法為參考,根據(jù)特定目標(biāo)需求對(duì)算法進(jìn)行改進(jìn)和優(yōu)化[43],實(shí)現(xiàn)在聯(lián)盟云環(huán)境下任務(wù)的高效分配.但這些研究并不會(huì)只考慮單一的任務(wù)調(diào)度問(wèn)題,同時(shí)會(huì)提出聯(lián)盟云環(huán)境下相關(guān)資源管理、數(shù)據(jù)安全、隱私保護(hù)、互操作協(xié)議標(biāo)準(zhǔn)等服務(wù)管理方法,最終實(shí)現(xiàn)跨云資源的高效利用[44-45].綜合來(lái)看,目前聯(lián)盟云環(huán)境下的任務(wù)調(diào)度研究還不充分,對(duì)于共享資源的接口標(biāo)準(zhǔn)、異構(gòu)資源的統(tǒng)一管理等問(wèn)題還需要深入探討和解決.

    Table 2 Comparison of Task Scheduling Algorithms in Federated Cloud Environment表2 聯(lián)盟云環(huán)境下任務(wù)調(diào)度算法對(duì)比

    3 多云環(huán)境下的任務(wù)調(diào)度算法

    3.1 異構(gòu)公有云環(huán)境下的任務(wù)調(diào)度算法

    異構(gòu)公有云環(huán)境是由多個(gè)不同的IaaS 云服務(wù)供應(yīng)商組成,該環(huán)境下各個(gè)云服務(wù)供應(yīng)商相互獨(dú)立且互不通信,云服務(wù)使用者需要通過(guò)不同的API 將云資源整合或者根據(jù)需求構(gòu)建新的架構(gòu)統(tǒng)一管理云資源.異構(gòu)公有云環(huán)境主要有4 個(gè)方面的優(yōu)勢(shì):

    1)避免供應(yīng)商鎖定.統(tǒng)一管理多個(gè)不同的IaaS云服務(wù)供應(yīng)商使得云服務(wù)使用者擁有多個(gè)選擇,避免因某一個(gè)供應(yīng)商鎖定而中斷服務(wù).

    2)多元化的地理位置.目前,業(yè)界較為領(lǐng)先的云服務(wù)供應(yīng)商已在全球不同,范圍內(nèi)部署建立了數(shù)據(jù)中心.但由于不同國(guó)家、地域的法律規(guī)定要求不同,使得云服務(wù)供應(yīng)商無(wú)法在所有區(qū)域建立相同的數(shù)據(jù)中心,因此異構(gòu)公有云環(huán)境可以融合多個(gè)地域的云服務(wù)提供商,為云服務(wù)使用者提供性能良好且合規(guī)的服務(wù).

    3)受外界影響因素較小.近年來(lái),云服務(wù)中斷事件頻發(fā),單云環(huán)境易受到此類影響,而使用不同云服務(wù)提供商的資源能夠很好地規(guī)避此類情況,同時(shí)可以防止因監(jiān)管或法律因素引起的服務(wù)停止,也能在不同地域備份數(shù)據(jù)保證數(shù)據(jù)的完整性和安全性.

    4)成本降低.云服務(wù)使用者可以根據(jù)自身需求,結(jié)合各個(gè)云服務(wù)供應(yīng)商提供的資源價(jià)格來(lái)制定更加靈活的經(jīng)濟(jì)策略,在滿足自身需求的同時(shí)降低使用成本.

    文獻(xiàn)[46]提出了一種基于成本最優(yōu)的二進(jìn)制整數(shù)規(guī)劃算法(binary integer program, BIP),該算法以最小化公有云的成本為基礎(chǔ),通過(guò)二進(jìn)制整數(shù)規(guī)劃選取成本最優(yōu)的資源進(jìn)行分配,為異構(gòu)公有云環(huán)境中的任務(wù)調(diào)度提供了易于實(shí)現(xiàn)的方案.實(shí)驗(yàn)結(jié)果表明,該算法在成本最小化、可行性和可伸縮性方面都表現(xiàn)得非常好.文獻(xiàn)[47]針對(duì)異構(gòu)公有云環(huán)境下的任務(wù)調(diào)度問(wèn)題,提出了一種基于遺傳算法的任務(wù)調(diào)度算法,該算法采用適應(yīng)度函數(shù)求導(dǎo)和變異的思想,最終以任務(wù)完成時(shí)間來(lái)評(píng)估算法的整體性能.文獻(xiàn)[48]提出了一種基于異構(gòu)公有云環(huán)境的局部關(guān)鍵路徑算法,該算法在異構(gòu)公有云環(huán)境下為任務(wù)調(diào)度過(guò)程中部分關(guān)鍵路徑分配子截止時(shí)間,從而最大限度地降低工作流任務(wù)的總執(zhí)行成本.文獻(xiàn)[49]提出了一種改進(jìn)的遺傳算法,其目的是為當(dāng)前任務(wù)在異構(gòu)公有云環(huán)境下找到合適的云資源配置.通過(guò)考慮各個(gè)云服務(wù)提供商在價(jià)格和功能上的不同,以滿足云服務(wù)使用者和應(yīng)用程序的需求.文獻(xiàn)[50]構(gòu)建了一種基于地理位置分布的異構(gòu)公有云環(huán)境服務(wù)組合模型,同時(shí)提出了一種具有改進(jìn)交叉和變異算子的遺傳算法,用于QoS 服務(wù)組合(響應(yīng)時(shí)間、成本、可靠性),允許用戶根據(jù)自己的偏好選擇最優(yōu)組合方案.文獻(xiàn)[51]提出了一種新的云代理方法,該方法基于調(diào)度預(yù)測(cè)模型,該模型能預(yù)測(cè)異構(gòu)公有云環(huán)境中的最低價(jià)格,最終為云服務(wù)使用者提供資源的最佳部署建議.文獻(xiàn)[52]提出了一種基于異構(gòu)云環(huán)境下的資源優(yōu)化機(jī)制,在此機(jī)制上又提出了2 種在線動(dòng)態(tài)資源分配算法,算法根據(jù)實(shí)際任務(wù)執(zhí)行的更新信息來(lái)動(dòng)態(tài)調(diào)整資源分配.實(shí)驗(yàn)結(jié)果表明,所提算法的任務(wù)完成時(shí)間和能耗都有了明顯的減少.文獻(xiàn)[53]提出了一種異構(gòu)公有云環(huán)境下的多目標(biāo)任務(wù)調(diào)度算法.實(shí)驗(yàn)結(jié)果表明,該算法在最大完成時(shí)間、總成本和云資源平均利用率等性能指標(biāo)上表現(xiàn)較好,同時(shí)也實(shí)現(xiàn)了最大完成時(shí)間和成本之間的平衡.文獻(xiàn)[54]提出了一種基于異構(gòu)公有云環(huán)境下多目標(biāo)科學(xué)工作流調(diào)度算法,該算法在滿足可靠性約束的前提下,使工作流的最大完成時(shí)間和成本最小化.該算法基于粒子群優(yōu)化算法(PSO),考慮了任務(wù)執(zhí)行位置和數(shù)據(jù)傳輸順序.文獻(xiàn)[55]設(shè)計(jì)了一種基于異構(gòu)公有云環(huán)境的工作流調(diào)度架構(gòu),該架構(gòu)包括了應(yīng)用隊(duì)列、可靠性分析、任務(wù)執(zhí)行成本估算、計(jì)劃與調(diào)度、多云系統(tǒng)互聯(lián)等模塊,并設(shè)計(jì)了工作流調(diào)度算法,目的是為了提高應(yīng)用程序的執(zhí)行可靠性并降低其成本.實(shí)驗(yàn)表明,在該架構(gòu)下的工作流調(diào)度算法在成本和可靠性方面優(yōu)于現(xiàn)有算法.文獻(xiàn)[56]構(gòu)建了一個(gè)多目標(biāo)分布式調(diào)度模型,該模型包括總時(shí)間、成本、云吞吐量、能耗、資源利用率和負(fù)載均衡6 個(gè)目標(biāo).在該模型中又提出了一種基于正弦函數(shù)的多目標(biāo)智能算法來(lái)解決任務(wù)調(diào)度問(wèn)題,該算法考慮了種群多樣性策略在種群中的變化趨勢(shì)與正弦函數(shù)相似.實(shí)驗(yàn)結(jié)果表明,該算法具有良好的調(diào)度效率,提高了系統(tǒng)的安全性,同時(shí)該工作為解決物聯(lián)網(wǎng)中數(shù)據(jù)處理的難題提供了一種新的思路.文獻(xiàn)[57]設(shè)計(jì)了一種新的基于軟件定義的工作流代理,該代理能夠用于跨多個(gè)軟件定義的異構(gòu)數(shù)據(jù)中心部署工業(yè)工作流任務(wù),同時(shí)自動(dòng)化任務(wù)發(fā)放、數(shù)據(jù)發(fā)放和資源發(fā)放.同時(shí)提出了一種基于遺傳算法的自適應(yīng)工業(yè)工作流調(diào)度算法,該算法能夠利用多種軟件定義的云數(shù)據(jù)中心資源.實(shí)驗(yàn)結(jié)果表明,該算法既提高了綠色能源利用率,又降低了成本.文獻(xiàn)[58]提出了一種基于預(yù)算約束的異構(gòu)多云環(huán)境動(dòng)態(tài)任務(wù)調(diào)度算法,該算法分別提出了2 個(gè)版本,第2 版在第1 版的基礎(chǔ)上對(duì)算法進(jìn)行了優(yōu)化和改進(jìn).實(shí)驗(yàn)結(jié)果表明,算法的第2 版優(yōu)于第1 版,同時(shí)也從最大完工時(shí)間的角度證明了算法的有效性.

    表3 對(duì)異構(gòu)公有云環(huán)境中的任務(wù)調(diào)度算法進(jìn)行了總結(jié),可以看出大部分的算法都是依托代理或自行設(shè)計(jì)的架構(gòu),以最大完成時(shí)間和成本為主要優(yōu)化目標(biāo),將不同場(chǎng)景中的調(diào)度建模為單目標(biāo)或多目標(biāo)優(yōu)化問(wèn)題來(lái)進(jìn)行求解.由于異構(gòu)公有云的特殊性,成本會(huì)成為任務(wù)調(diào)度過(guò)程中首要考慮的因素,因此存在部分研究將成本優(yōu)化作為算法的重點(diǎn),通過(guò)改進(jìn)單云環(huán)境下任務(wù)調(diào)度算法來(lái)適配異構(gòu)公有云環(huán)境,雖然此方法解決了部分特定場(chǎng)景下的任務(wù)調(diào)度問(wèn)題,但忽略了任務(wù)調(diào)度的其他評(píng)價(jià)指標(biāo),未能實(shí)現(xiàn)任務(wù)的高效分配.近年來(lái)的研究如文獻(xiàn)[55]為異構(gòu)公有云環(huán)境下的任務(wù)調(diào)度提供了更有價(jià)值的參考,文獻(xiàn)[55]中提出的架構(gòu)已經(jīng)最大限度地接近了實(shí)際的云環(huán)境,為解決異構(gòu)公有云環(huán)境下的任務(wù)調(diào)度問(wèn)題提供了較為新穎的解決思路;文獻(xiàn)[56]中基本囊括了異構(gòu)公有云環(huán)境下任務(wù)調(diào)度的主要性能評(píng)價(jià)指標(biāo),優(yōu)化目標(biāo)全面,整個(gè)系統(tǒng)可靠性強(qiáng),為該問(wèn)題的研究提供了更加全面的參考;文獻(xiàn)[59-62]研究了異構(gòu)公有云環(huán)境下的資源調(diào)度等相關(guān)問(wèn)題,通過(guò)文獻(xiàn)[55-56, 59-62]可以發(fā)現(xiàn)資源調(diào)度和任務(wù)調(diào)度密不可分,在新環(huán)境下資源調(diào)度問(wèn)題的有效解決也會(huì)給任務(wù)調(diào)度研究提供新的思路.

    Table 3 Comparison of Task Scheduling Algorithms in Heterogeneous Public Cloud Environment表3 異構(gòu)公有云環(huán)境下任務(wù)調(diào)度算法對(duì)比

    由于異構(gòu)公有云的表述過(guò)于復(fù)雜,一般研究中都不會(huì)刻意區(qū)分,只是將其稱作“多云”環(huán)境.而“多云”的界定較為模糊,且相關(guān)研究的側(cè)重不一導(dǎo)致此類研究與實(shí)際環(huán)境差距較大.近年來(lái)公有云的快速發(fā)展使得異構(gòu)公有云環(huán)境正在不斷成為云服務(wù)使用者的最新選擇,但不難發(fā)現(xiàn)目前在該環(huán)境下的調(diào)度問(wèn)題研究還存在不少困難有待解決.

    3.2 公有云、私有云混合環(huán)境下的任務(wù)調(diào)度算法

    公有云、私有云混合環(huán)境是目前市場(chǎng)的主流選擇,學(xué)術(shù)界的諸多跨云任務(wù)調(diào)度研究都以此環(huán)境為主,該環(huán)境能同時(shí)兼顧公有云和私有云的優(yōu)點(diǎn),實(shí)現(xiàn)難度相對(duì)較小.公有云、私有云混合環(huán)境主要有3 個(gè)方面的優(yōu)勢(shì):

    1)數(shù)據(jù)安全.公有云、私有云混合環(huán)境可以利用公有云多地域的特點(diǎn),為數(shù)據(jù)提供跨多地域的數(shù)據(jù)備份,同時(shí)可以利用私有云獨(dú)有的數(shù)據(jù)安全性為數(shù)據(jù)提供最為可靠的保障.

    2)彈性擴(kuò)展.公有云環(huán)境的算力較高,可以有效解決私有云在特殊情況下瞬時(shí)算力不足的情況,給云服務(wù)使用者提供了更好的服務(wù)保障.

    3)成本降低.公有云的接入降低了云服務(wù)使用者購(gòu)買IT 的成本,同時(shí)云服務(wù)使用者可以根據(jù)需求和公有云的資源價(jià)格將任務(wù)選擇分配到公有云還是私有云上,實(shí)現(xiàn)了成本的有效降低.

    文獻(xiàn)[63]提出了一種混合云環(huán)境下截止時(shí)間約束的任務(wù)調(diào)度算法,該算法將最早截止時(shí)間優(yōu)先算法進(jìn)行改進(jìn)優(yōu)化,算法考慮了計(jì)算和數(shù)據(jù)傳輸成本,以及網(wǎng)絡(luò)帶寬限制.實(shí)驗(yàn)結(jié)果表明,該算法能夠很好地適合于規(guī)模較大的混合云環(huán)境.文獻(xiàn)[64]提出了一種混合云優(yōu)化成本調(diào)度算法,該算法先將工作流調(diào)度到私有云上,估算工作流完成時(shí)間,之后從公有云租用合適的資源并將其聚合到私有云,以便在截止時(shí)間內(nèi)提供足夠的處理能力來(lái)執(zhí)行工作流.如果超過(guò)截止時(shí)間,則選擇優(yōu)先級(jí)最高的任務(wù)調(diào)度到能夠確保工作流在截止時(shí)間之前完成的、且價(jià)格最低的公有云上.文獻(xiàn)[65]提出了一種基于任務(wù)級(jí)別的調(diào)度算法,該算法能夠按級(jí)別在公有云上尋找最佳資源以節(jié)省成本,并在截止時(shí)間內(nèi)能完成工作流任務(wù)的執(zhí)行.算法中還提出了一種工作流的子截止時(shí)間的概念,即工作流中單個(gè)任務(wù)的截止時(shí)間.文獻(xiàn)[66]提出了2 種兼顧最大完成時(shí)間和成本的混合云工作流調(diào)度算法.首先提出了一種單目標(biāo)工作流調(diào)度算法,解決在截止時(shí)間約束下最小化執(zhí)行成本的單目標(biāo)優(yōu)化問(wèn)題.然后又提出了一種多目標(biāo)工作流調(diào)度算法,同時(shí)解決最小化執(zhí)行成本和最大完成時(shí)間的多目標(biāo)優(yōu)化問(wèn)題.實(shí)驗(yàn)結(jié)果表明,該算法可以更好地實(shí)現(xiàn)成本和完成時(shí)間的權(quán)衡.文獻(xiàn)[67]提出了一種啟發(fā)式的任務(wù)調(diào)度算法,該算法以任務(wù)調(diào)度的安全性和截止時(shí)間作為約束,優(yōu)化了任務(wù)完成數(shù)量和成本.該算法一方面優(yōu)先分配消耗公共云資源最大的任務(wù),將其分配給本地集群中處理能力最強(qiáng)的服務(wù)器;另一方面如果在本地資源不足的情況時(shí),租用性價(jià)比較高的新虛擬機(jī)來(lái)解決該問(wèn)題.實(shí)驗(yàn)結(jié)果表明,在未到達(dá)截止時(shí)間前,該算法的性能較好.文獻(xiàn)[68]提出了一種時(shí)間任務(wù)調(diào)度算法,該算法基于綠色數(shù)據(jù)中心和公有云構(gòu)成的混合云環(huán)境,在延遲約束下對(duì)任務(wù)進(jìn)行調(diào)度.綠色數(shù)據(jù)中心的電能是由太陽(yáng)能、風(fēng)能等綠色能源提供,隨著時(shí)間的變化,數(shù)據(jù)中心會(huì)產(chǎn)生收益.實(shí)驗(yàn)結(jié)果表明,對(duì)比已有的多種算法,該算法能夠獲得更大的利潤(rùn),同時(shí)也能很好地適應(yīng)綠色數(shù)據(jù)中心和公有云構(gòu)成的混合云環(huán)境.文獻(xiàn)[69]提出了一種基于遺傳算法的單目標(biāo)任務(wù)調(diào)度算法,該算法在交叉、選擇和控制調(diào)節(jié)參數(shù)方面進(jìn)行了改進(jìn).文獻(xiàn)[69]在單目標(biāo)任務(wù)調(diào)度算法的基礎(chǔ)上又提出了一種改進(jìn)的多目標(biāo)調(diào)度算法,該算法結(jié)合了NSGA-Ⅱ算法中基于帕累托最優(yōu)的快速排序的方法.實(shí)驗(yàn)結(jié)果表明,這2 種算法都能在混合云環(huán)境下有效提升任務(wù)調(diào)度的性能.

    表4 對(duì)文獻(xiàn)[63-69]中公有云、私有云混合環(huán)境下的任務(wù)調(diào)度算法進(jìn)行了對(duì)比總結(jié),可以看出與聯(lián)盟云環(huán)境及異構(gòu)公有云環(huán)境下的任務(wù)調(diào)度算法相同,公有云、私有云混合環(huán)境下大部分的算法都是以單云環(huán)境下任務(wù)調(diào)度算法為參考,根據(jù)應(yīng)用場(chǎng)景中的不同需求將調(diào)度問(wèn)題抽象成為單目標(biāo)或多目標(biāo)優(yōu)化問(wèn)題并結(jié)合實(shí)際環(huán)境對(duì)參考算法進(jìn)行改進(jìn)和優(yōu)化.公有云、私有云混合環(huán)境在實(shí)際應(yīng)用中較為廣泛,成本是該環(huán)境下任務(wù)調(diào)度需要考慮的首要因素,現(xiàn)有的研究中大部分算法都以成本作為優(yōu)化目標(biāo)對(duì)任務(wù)調(diào)度進(jìn)行求解.但在實(shí)際應(yīng)用中,私有云上的資源大都是安全性需求較高的內(nèi)部資源,任務(wù)調(diào)度過(guò)程中更應(yīng)該關(guān)注云服務(wù)使用者對(duì)于安全性的需求,同時(shí)環(huán)境中的其他影響因素如能耗、資源利用率、可靠性、負(fù)載均衡等性能指標(biāo)也應(yīng)當(dāng)考慮在內(nèi)并進(jìn)行深入的研究和討論.

    Table 4 Comparison of Task Scheduling Algorithms in Public Cloud and Private Cloud Hybrid Environment表4 公有云、私有云混合環(huán)境下任務(wù)調(diào)度算法對(duì)比

    4 總結(jié)與展望

    目前,針對(duì)單云環(huán)境下的任務(wù)調(diào)度算法研究較為充分,不少國(guó)內(nèi)外學(xué)者已經(jīng)提出了性能較好的調(diào)度算法并在真實(shí)的云環(huán)境中得到了驗(yàn)證.但由于單云環(huán)境存在架構(gòu)瓶頸、資源上限、易被供應(yīng)商鎖定等問(wèn)題,現(xiàn)已無(wú)法滿足龐大的數(shù)據(jù)量及日益增長(zhǎng)的服務(wù)需求.跨云環(huán)境的提出有效地解決了這些問(wèn)題,目前國(guó)內(nèi)外學(xué)者針對(duì)跨云環(huán)境從跨云資源管理架構(gòu)、跨云資源調(diào)度、跨云任務(wù)調(diào)度等方面已經(jīng)開展了多年的討論研究并取得了一定的進(jìn)展,但跨云環(huán)境是對(duì)云計(jì)算資源的重組和聚合,資源在跨云環(huán)境中呈現(xiàn)了異構(gòu)性、分散性、復(fù)雜性和多樣性的特點(diǎn),這使得任務(wù)調(diào)度的難度大大增加,部分特定場(chǎng)景的需求仍然得不到滿足,跨云環(huán)境下的任務(wù)調(diào)度算法還需要不斷進(jìn)行深入地研究.

    本文以跨云環(huán)境為出發(fā)點(diǎn)介紹了跨云環(huán)境的不同分類,在此分類下對(duì)任務(wù)調(diào)度算法進(jìn)行了整理分析,通過(guò)梳理觀察得出3 個(gè)方面的建議:

    1)現(xiàn)有任務(wù)調(diào)度算法未能有效考慮跨云架構(gòu)的特點(diǎn),普適性不強(qiáng).跨云環(huán)境下的任務(wù)調(diào)度算法研究目前主要集中于異構(gòu)公有云環(huán)境及公有云、私有云混合的環(huán)境,其中公有云、私有云混合的環(huán)境是目前市場(chǎng)的主流選擇.由于跨云環(huán)境較為復(fù)雜,現(xiàn)有的研究大部分是根據(jù)具體需求將多種云資源合并,在此基礎(chǔ)上考慮任務(wù)調(diào)度,而從構(gòu)建跨云架構(gòu)角度出發(fā)考慮任務(wù)調(diào)度問(wèn)題的研究很少,這導(dǎo)致任務(wù)調(diào)度算法僅能在特定的環(huán)境中運(yùn)行,雖有一定的參考價(jià)值但普適性不強(qiáng).

    未來(lái)研究中,可以從構(gòu)建普適性較強(qiáng)的跨云架構(gòu)角度出發(fā),以更好的擴(kuò)展性將更多的云資源甚至邊緣資源整合[70-71],以統(tǒng)一的API 屏蔽底層基礎(chǔ)設(shè)施的差異,并在此基礎(chǔ)上提出更為有效的任務(wù)調(diào)度算法.

    2)現(xiàn)有任務(wù)調(diào)度算法以改進(jìn)單云環(huán)境下任務(wù)調(diào)度算法為主,創(chuàng)新性不足.跨云環(huán)境下任務(wù)調(diào)度算法研究正在不斷深入,現(xiàn)有的研究多數(shù)是以單云環(huán)境下任務(wù)調(diào)度算法作為參考,再結(jié)合跨云環(huán)境中新的需求進(jìn)行改進(jìn)、優(yōu)化,雖然能夠解決部分問(wèn)題但這些算法在跨云環(huán)境中并不能全部適用,無(wú)法與其他算法進(jìn)行對(duì)比,缺少一定的針對(duì)性和創(chuàng)新性.

    未來(lái)研究中,可以針對(duì)跨云環(huán)境的特點(diǎn),結(jié)合未在跨云環(huán)境中使用過(guò)的強(qiáng)化學(xué)習(xí)、模糊排序等算法,提出更新穎、更高效、更實(shí)用的跨云環(huán)境下任務(wù)調(diào)度算法.

    3)現(xiàn)有任務(wù)調(diào)度算法優(yōu)化目標(biāo)較少且評(píng)價(jià)指標(biāo)不完善,無(wú)法準(zhǔn)確評(píng)估算法性能.現(xiàn)有的跨云環(huán)境下任務(wù)調(diào)度算法多是以成本及最大完成時(shí)間作為優(yōu)化目標(biāo),雖然在跨云環(huán)境中取得了一定的效果,但未考慮環(huán)境中諸如可靠性、能耗等其他因素,優(yōu)化目標(biāo)過(guò)于單一且缺少多維度評(píng)價(jià)指標(biāo).

    未來(lái)研究中,可結(jié)合實(shí)際應(yīng)用環(huán)境,將任務(wù)的執(zhí)行時(shí)間、完成時(shí)間、資源利用率、可靠性、成本、網(wǎng)絡(luò)吞吐量、可伸縮性能、能耗等優(yōu)化參數(shù)考慮在內(nèi),增加對(duì)應(yīng)優(yōu)化目標(biāo),更加全面地考慮環(huán)境中影響算法性能的因素,提出跨云環(huán)境下任務(wù)調(diào)度算法的多維度評(píng)價(jià)指標(biāo),更加全面地驗(yàn)證算法的性能,保證任務(wù)調(diào)度算法的高效性.

    隨著國(guó)家新基建政策的實(shí)施,云計(jì)算基礎(chǔ)設(shè)施將得到更加有力地發(fā)展和支持,云計(jì)算與邊緣計(jì)算、物聯(lián)網(wǎng)等新興技術(shù)的深度融合,將使跨云環(huán)境成為更多云服務(wù)使用者的選擇,研究和提出更具實(shí)用性的跨云環(huán)境下任務(wù)調(diào)度算法更貼近解決現(xiàn)實(shí)問(wèn)題.未來(lái)跨云環(huán)境會(huì)愈加復(fù)雜,跨云環(huán)境下任務(wù)調(diào)度算法將會(huì)迎來(lái)更多的挑戰(zhàn).

    作者貢獻(xiàn)聲明:唐續(xù)豪撰寫論文;劉發(fā)貴提出了撰寫方面的建議;王彬?qū)φ撐倪M(jìn)行了修改,并負(fù)責(zé)部分文獻(xiàn)的整理分類;李超對(duì)論文進(jìn)行了修改及審閱校對(duì);蔣俊對(duì)論文的總體架構(gòu)提出了意見(jiàn),并對(duì)論文進(jìn)行了審閱校對(duì);唐泉對(duì)論文進(jìn)行了修改及審閱校對(duì);陳維明和何鳳文對(duì)論文進(jìn)行了審閱校對(duì)并提供了實(shí)際參考案例.

    猜你喜歡
    任務(wù)調(diào)度異構(gòu)使用者
    “法定許可”情況下使用者是否需要付費(fèi)
    試論同課異構(gòu)之“同”與“異”
    基于改進(jìn)NSGA-Ⅱ算法的協(xié)同制造任務(wù)調(diào)度研究
    基于時(shí)間負(fù)載均衡蟻群算法的云任務(wù)調(diào)度優(yōu)化
    新型拼插休閑椅,讓人與人的距離更近
    好日子(2018年5期)2018-05-30 16:24:04
    overlay SDN實(shí)現(xiàn)異構(gòu)兼容的關(guān)鍵技術(shù)
    抓拍神器
    LTE異構(gòu)網(wǎng)技術(shù)與組網(wǎng)研究
    云計(jì)算環(huán)境中任務(wù)調(diào)度策略
    云計(jì)算中基于進(jìn)化算法的任務(wù)調(diào)度策略
    国产熟女欧美一区二区| 最近中文字幕2019免费版| 中文字幕制服av| 国产精品久久久久成人av| √禁漫天堂资源中文www| 两性夫妻黄色片 | 九草在线视频观看| 国产日韩欧美亚洲二区| 9热在线视频观看99| 免费大片18禁| 少妇的逼好多水| 久久久久久伊人网av| 国产精品偷伦视频观看了| 亚洲欧美一区二区三区黑人 | 老女人水多毛片| 天堂俺去俺来也www色官网| 国产1区2区3区精品| 美女国产视频在线观看| 日本午夜av视频| 永久网站在线| 久久久久精品人妻al黑| 国产日韩欧美在线精品| 女的被弄到高潮叫床怎么办| 日日摸夜夜添夜夜爱| 免费久久久久久久精品成人欧美视频 | 亚洲精品456在线播放app| 久久99热这里只频精品6学生| 亚洲国产av影院在线观看| 男女边摸边吃奶| 成年美女黄网站色视频大全免费| 亚洲成av片中文字幕在线观看 | 97在线视频观看| 中文天堂在线官网| 九草在线视频观看| 久久久精品免费免费高清| 国产成人欧美| 亚洲综合精品二区| 国产精品女同一区二区软件| av又黄又爽大尺度在线免费看| 久久精品久久久久久噜噜老黄| 汤姆久久久久久久影院中文字幕| 亚洲一码二码三码区别大吗| 欧美日韩综合久久久久久| 一区二区日韩欧美中文字幕 | 国产淫语在线视频| 黑人巨大精品欧美一区二区蜜桃 | 亚洲av电影在线进入| 精品人妻熟女毛片av久久网站| av在线老鸭窝| 精品亚洲乱码少妇综合久久| 免费看av在线观看网站| 97人妻天天添夜夜摸| 色婷婷久久久亚洲欧美| 丰满少妇做爰视频| 国产精品久久久久久av不卡| 国产免费视频播放在线视频| 中文字幕精品免费在线观看视频 | 久久久久久久大尺度免费视频| 日韩免费高清中文字幕av| 国产精品女同一区二区软件| 中文字幕最新亚洲高清| 多毛熟女@视频| 国产男人的电影天堂91| 国产成人91sexporn| 免费播放大片免费观看视频在线观看| 亚洲av中文av极速乱| 亚洲欧美精品自产自拍| 久久精品人人爽人人爽视色| 亚洲精华国产精华液的使用体验| 国产淫语在线视频| 成年动漫av网址| 超色免费av| 全区人妻精品视频| 香蕉丝袜av| 亚洲欧美一区二区三区黑人 | 国产日韩欧美在线精品| 亚洲伊人色综图| 亚洲精品456在线播放app| 欧美丝袜亚洲另类| 国产片特级美女逼逼视频| 日本欧美国产在线视频| 精品卡一卡二卡四卡免费| 中文字幕av电影在线播放| 欧美性感艳星| 777米奇影视久久| 中文字幕制服av| 国产精品久久久久久久久免| 亚洲伊人色综图| a级片在线免费高清观看视频| 亚洲,一卡二卡三卡| 欧美精品av麻豆av| 国产精品欧美亚洲77777| 国产高清国产精品国产三级| 久久久国产一区二区| 久久久久视频综合| www.色视频.com| 最新中文字幕久久久久| 精品国产乱码久久久久久小说| 免费观看a级毛片全部| 午夜日本视频在线| 亚洲av欧美aⅴ国产| 满18在线观看网站| 日本免费在线观看一区| 90打野战视频偷拍视频| 成人亚洲精品一区在线观看| 人人妻人人爽人人添夜夜欢视频| kizo精华| 秋霞伦理黄片| 两个人免费观看高清视频| 亚洲国产看品久久| 亚洲国产看品久久| 日韩成人伦理影院| 欧美人与善性xxx| 宅男免费午夜| 欧美变态另类bdsm刘玥| 国产色婷婷99| 国产精品久久久av美女十八| 精品一区二区三卡| 巨乳人妻的诱惑在线观看| 国产高清三级在线| 国产色婷婷99| 亚洲精品一二三| 精品人妻熟女毛片av久久网站| av视频免费观看在线观看| 中国美白少妇内射xxxbb| 日韩欧美一区视频在线观看| 青春草视频在线免费观看| 久久这里有精品视频免费| 日韩一区二区视频免费看| 另类亚洲欧美激情| 久久av网站| 看十八女毛片水多多多| 欧美日韩一区二区视频在线观看视频在线| 精品国产一区二区三区久久久樱花| 最近最新中文字幕大全免费视频 | 一级毛片黄色毛片免费观看视频| 大陆偷拍与自拍| 国产高清不卡午夜福利| 久久久国产精品麻豆| 看十八女毛片水多多多| 亚洲av日韩在线播放| 日韩,欧美,国产一区二区三区| 国产免费视频播放在线视频| 最近2019中文字幕mv第一页| 少妇猛男粗大的猛烈进出视频| 最后的刺客免费高清国语| 啦啦啦视频在线资源免费观看| 精品卡一卡二卡四卡免费| av女优亚洲男人天堂| 久久国内精品自在自线图片| 高清欧美精品videossex| 国产精品久久久久成人av| videos熟女内射| 亚洲少妇的诱惑av| 亚洲伊人色综图| 十八禁高潮呻吟视频| av线在线观看网站| 丝袜喷水一区| 日韩一区二区视频免费看| 看免费成人av毛片| 亚洲精品美女久久av网站| 十八禁网站网址无遮挡| 精品人妻熟女毛片av久久网站| 午夜福利,免费看| 亚洲久久久国产精品| 人人妻人人爽人人添夜夜欢视频| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 搡女人真爽免费视频火全软件| 国产 一区精品| 大香蕉久久网| a级毛色黄片| 中文字幕制服av| 丁香六月天网| 丝袜喷水一区| 热99久久久久精品小说推荐| 捣出白浆h1v1| 午夜福利在线观看免费完整高清在| 街头女战士在线观看网站| 又大又黄又爽视频免费| 一级毛片 在线播放| √禁漫天堂资源中文www| 久久综合国产亚洲精品| 免费观看无遮挡的男女| 99久国产av精品国产电影| 亚洲五月色婷婷综合| 国产亚洲一区二区精品| 国产爽快片一区二区三区| 男女午夜视频在线观看 | 蜜臀久久99精品久久宅男| 日韩中字成人| 久久这里只有精品19| 免费不卡的大黄色大毛片视频在线观看| 亚洲av福利一区| 成人18禁高潮啪啪吃奶动态图| 99久久综合免费| 亚洲精品日本国产第一区| 在线观看www视频免费| 男人舔女人的私密视频| 又黄又爽又刺激的免费视频.| 国产成人午夜福利电影在线观看| 免费大片黄手机在线观看| 中文天堂在线官网| 欧美人与性动交α欧美精品济南到 | 亚洲 欧美一区二区三区| 国产亚洲欧美精品永久| av又黄又爽大尺度在线免费看| 成人国产av品久久久| 成年人免费黄色播放视频| 国产精品不卡视频一区二区| 久久女婷五月综合色啪小说| 91午夜精品亚洲一区二区三区| 国产欧美日韩综合在线一区二区| 成人国产av品久久久| 精品国产一区二区久久| 亚洲内射少妇av| 午夜福利影视在线免费观看| 青春草国产在线视频| 男人舔女人的私密视频| 在线观看人妻少妇| a级片在线免费高清观看视频| 亚洲精品美女久久av网站| 国产熟女欧美一区二区| 69精品国产乱码久久久| av免费在线看不卡| 色视频在线一区二区三区| 性色avwww在线观看| 久久99热6这里只有精品| 伊人久久国产一区二区| 另类亚洲欧美激情| 亚洲精品aⅴ在线观看| 少妇被粗大猛烈的视频| 一本—道久久a久久精品蜜桃钙片| 欧美国产精品一级二级三级| 久久韩国三级中文字幕| 人人妻人人澡人人看| 欧美bdsm另类| 亚洲综合色网址| 丰满迷人的少妇在线观看| 国语对白做爰xxxⅹ性视频网站| 欧美日韩av久久| 日日啪夜夜爽| 80岁老熟妇乱子伦牲交| 亚洲第一区二区三区不卡| 国产精品无大码| 激情五月婷婷亚洲| 2021少妇久久久久久久久久久| 亚洲精品456在线播放app| 久久精品熟女亚洲av麻豆精品| 伦理电影大哥的女人| 男女啪啪激烈高潮av片| av免费在线看不卡| 啦啦啦视频在线资源免费观看| 国产精品一区www在线观看| 国产日韩欧美亚洲二区| 亚洲,欧美,日韩| 2022亚洲国产成人精品| 国产精品欧美亚洲77777| av卡一久久| 国产精品国产三级国产专区5o| tube8黄色片| 亚洲中文av在线| 寂寞人妻少妇视频99o| 亚洲av.av天堂| 视频中文字幕在线观看| 欧美国产精品va在线观看不卡| 国产无遮挡羞羞视频在线观看| 丝袜喷水一区| 老司机影院毛片| 久久久久久伊人网av| 亚洲色图综合在线观看| 亚洲人与动物交配视频| 精品99又大又爽又粗少妇毛片| 自线自在国产av| 国产成人精品在线电影| 欧美人与性动交α欧美精品济南到 | 香蕉精品网在线| 亚洲人成网站在线观看播放| 边亲边吃奶的免费视频| 日韩大片免费观看网站| 卡戴珊不雅视频在线播放| 国产精品久久久久久久久免| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 少妇人妻精品综合一区二区| 亚洲少妇的诱惑av| 亚洲在久久综合| 久久99蜜桃精品久久| 精品久久国产蜜桃| 国产免费一区二区三区四区乱码| 国产69精品久久久久777片| 亚洲,欧美精品.| 汤姆久久久久久久影院中文字幕| 国产视频首页在线观看| 亚洲人与动物交配视频| 日韩欧美一区视频在线观看| 久久久久久久久久久久大奶| 精品午夜福利在线看| 亚洲高清免费不卡视频| 精品99又大又爽又粗少妇毛片| www.av在线官网国产| 日韩中字成人| 国产1区2区3区精品| 99热全是精品| 精品一区二区三卡| 国产精品 国内视频| 中文字幕最新亚洲高清| 欧美成人午夜精品| 97超碰精品成人国产| freevideosex欧美| 男女高潮啪啪啪动态图| 在线免费观看不下载黄p国产| 成人综合一区亚洲| 中文天堂在线官网| 在线观看三级黄色| 国产 精品1| 午夜福利乱码中文字幕| 美女大奶头黄色视频| 国产亚洲欧美精品永久| 欧美日韩av久久| 国产xxxxx性猛交| 中文字幕人妻丝袜制服| av福利片在线| 最近中文字幕高清免费大全6| 久热久热在线精品观看| 欧美人与善性xxx| 久久99精品国语久久久| 久久久久人妻精品一区果冻| 久久久久网色| tube8黄色片| 大话2 男鬼变身卡| av免费在线看不卡| 婷婷色综合www| 在线观看人妻少妇| 亚洲欧美一区二区三区黑人 | 国产精品秋霞免费鲁丝片| 日韩av免费高清视频| 男女国产视频网站| 色婷婷久久久亚洲欧美| 99久久人妻综合| 久久久久国产网址| 久久久国产精品麻豆| 天天躁夜夜躁狠狠久久av| 亚洲美女黄色视频免费看| 成人国产av品久久久| 精品午夜福利在线看| 国产高清不卡午夜福利| 精品国产一区二区三区久久久樱花| 最黄视频免费看| 五月天丁香电影| av黄色大香蕉| 成人亚洲欧美一区二区av| 亚洲av男天堂| 熟女人妻精品中文字幕| 国产成人一区二区在线| 成人国产麻豆网| 9191精品国产免费久久| 国产在线一区二区三区精| 最近最新中文字幕大全免费视频 | 亚洲国产精品成人久久小说| 久久毛片免费看一区二区三区| 如日韩欧美国产精品一区二区三区| 啦啦啦中文免费视频观看日本| 老女人水多毛片| 久久99精品国语久久久| 一边摸一边做爽爽视频免费| 汤姆久久久久久久影院中文字幕| 国产69精品久久久久777片| 美女大奶头黄色视频| 亚洲国产色片| 亚洲av日韩在线播放| 亚洲欧美清纯卡通| 满18在线观看网站| 亚洲欧美一区二区三区国产| 亚洲激情五月婷婷啪啪| 99热6这里只有精品| 久久免费观看电影| 一级黄片播放器| 精品人妻偷拍中文字幕| 亚洲欧美一区二区三区国产| 国产黄色免费在线视频| 黄色视频在线播放观看不卡| 男女边摸边吃奶| av女优亚洲男人天堂| 久久99一区二区三区| 美国免费a级毛片| 久久女婷五月综合色啪小说| 久久午夜福利片| 国产成人精品在线电影| 丰满少妇做爰视频| 精品国产露脸久久av麻豆| 久久99热这里只频精品6学生| 宅男免费午夜| 成人影院久久| 久久毛片免费看一区二区三区| 午夜激情久久久久久久| 精品一品国产午夜福利视频| √禁漫天堂资源中文www| 久久这里有精品视频免费| 日韩av免费高清视频| 国产淫语在线视频| av一本久久久久| 国产成人午夜福利电影在线观看| 9色porny在线观看| 亚洲精品美女久久av网站| av在线播放精品| 黄色一级大片看看| 精品国产国语对白av| 人人妻人人澡人人爽人人夜夜| 99久久综合免费| 国产男女超爽视频在线观看| 精品久久久精品久久久| 亚洲欧美精品自产自拍| 男人爽女人下面视频在线观看| 母亲3免费完整高清在线观看 | 蜜桃国产av成人99| 国产精品秋霞免费鲁丝片| 新久久久久国产一级毛片| 成人国产av品久久久| 久久精品夜色国产| 寂寞人妻少妇视频99o| 国产精品一区www在线观看| 亚洲av中文av极速乱| 一二三四在线观看免费中文在 | 久久久久精品性色| 黑丝袜美女国产一区| 国语对白做爰xxxⅹ性视频网站| 久久人妻熟女aⅴ| 免费日韩欧美在线观看| videosex国产| 国产亚洲精品久久久com| 大话2 男鬼变身卡| 9191精品国产免费久久| 熟女电影av网| 下体分泌物呈黄色| 91aial.com中文字幕在线观看| 国产欧美日韩一区二区三区在线| 99久久中文字幕三级久久日本| 精品一区二区三卡| 久久热在线av| 国产成人精品福利久久| 欧美人与性动交α欧美软件 | 18禁动态无遮挡网站| 国产一区二区在线观看av| 欧美精品高潮呻吟av久久| 九色成人免费人妻av| 宅男免费午夜| 国产成人免费无遮挡视频| 九九在线视频观看精品| 国产精品久久久久久精品电影小说| 丝袜人妻中文字幕| 精品99又大又爽又粗少妇毛片| 一级毛片 在线播放| 丝袜人妻中文字幕| 99热全是精品| 亚洲欧美成人综合另类久久久| av在线老鸭窝| 国产精品一区二区在线不卡| 欧美激情极品国产一区二区三区 | 18在线观看网站| 晚上一个人看的免费电影| av片东京热男人的天堂| 人妻 亚洲 视频| 亚洲国产精品一区三区| 国产免费现黄频在线看| 亚洲国产精品成人久久小说| 亚洲色图 男人天堂 中文字幕 | 一区二区三区精品91| 狠狠精品人妻久久久久久综合| 成人国语在线视频| 国产精品人妻久久久久久| 亚洲精品av麻豆狂野| 最近中文字幕2019免费版| 9热在线视频观看99| 国产精品成人在线| 国产日韩欧美亚洲二区| 久久久精品94久久精品| 国产成人精品福利久久| 好男人视频免费观看在线| 最近中文字幕2019免费版| 97人妻天天添夜夜摸| 欧美日韩视频精品一区| 丝袜喷水一区| 丰满迷人的少妇在线观看| 色94色欧美一区二区| 99久国产av精品国产电影| av在线观看视频网站免费| 日韩制服丝袜自拍偷拍| 国产成人精品婷婷| 免费看光身美女| 国产在视频线精品| 国产极品天堂在线| 国产乱人偷精品视频| 日韩av免费高清视频| 99国产精品免费福利视频| 一本久久精品| 欧美日韩成人在线一区二区| 妹子高潮喷水视频| av播播在线观看一区| 亚洲美女搞黄在线观看| 国产精品三级大全| 国产一区二区激情短视频 | 午夜影院在线不卡| 久久综合国产亚洲精品| 国产有黄有色有爽视频| 99热这里只有是精品在线观看| 精品久久久久久电影网| 亚洲人成网站在线观看播放| 国产精品免费大片| 捣出白浆h1v1| 在线 av 中文字幕| 欧美日韩精品成人综合77777| 午夜影院在线不卡| 午夜免费鲁丝| 亚洲国产精品一区二区三区在线| 国产一级毛片在线| 777米奇影视久久| 亚洲精品美女久久久久99蜜臀 | 日本av免费视频播放| 精品亚洲成国产av| 久久综合国产亚洲精品| 肉色欧美久久久久久久蜜桃| 热re99久久精品国产66热6| 99久久中文字幕三级久久日本| 亚洲精品一二三| 欧美日韩国产mv在线观看视频| 亚洲精品视频女| 免费黄网站久久成人精品| 色哟哟·www| 亚洲中文av在线| a 毛片基地| 日韩精品有码人妻一区| 两个人免费观看高清视频| 午夜福利视频精品| 亚洲精品乱码久久久久久按摩| 国产欧美日韩一区二区三区在线| 免费久久久久久久精品成人欧美视频 | 亚洲精品日韩在线中文字幕| 99久久人妻综合| 中文字幕最新亚洲高清| 香蕉丝袜av| 国产无遮挡羞羞视频在线观看| 黑人高潮一二区| 久久久久精品人妻al黑| 成年人午夜在线观看视频| 亚洲熟女精品中文字幕| 久久狼人影院| 午夜福利视频精品| 婷婷色麻豆天堂久久| 亚洲国产精品国产精品| 精品第一国产精品| 欧美xxⅹ黑人| 中文字幕亚洲精品专区| 欧美少妇被猛烈插入视频| 国产男女超爽视频在线观看| 国产精品一二三区在线看| 免费不卡的大黄色大毛片视频在线观看| 高清视频免费观看一区二区| 五月天丁香电影| 99热国产这里只有精品6| 午夜视频国产福利| 天美传媒精品一区二区| 纵有疾风起免费观看全集完整版| 久久久久久人妻| 97在线视频观看| 九草在线视频观看| 欧美精品亚洲一区二区| 美女国产视频在线观看| 久久久久久久久久成人| 在现免费观看毛片| 国产一区二区在线观看日韩| av视频免费观看在线观看| 精品久久久精品久久久| 亚洲色图 男人天堂 中文字幕 | 七月丁香在线播放| 99国产精品免费福利视频| 精品一区二区三区视频在线| 久久久久精品久久久久真实原创| 热99久久久久精品小说推荐| 又黄又粗又硬又大视频| 哪个播放器可以免费观看大片| 男人添女人高潮全过程视频| 大片免费播放器 马上看| 在线观看免费日韩欧美大片| 欧美精品高潮呻吟av久久| 日日爽夜夜爽网站| 18在线观看网站| 在线观看一区二区三区激情| 国产成人免费无遮挡视频| freevideosex欧美| 欧美精品高潮呻吟av久久| 久久97久久精品| 亚洲精品自拍成人| 久久久久久久亚洲中文字幕| 国产成人免费无遮挡视频| 亚洲精品久久久久久婷婷小说| av在线老鸭窝| 91在线精品国自产拍蜜月| 亚洲精品自拍成人| 丝袜喷水一区| 国产1区2区3区精品| 日产精品乱码卡一卡2卡三| 国产xxxxx性猛交| 大片免费播放器 马上看| 亚洲美女黄色视频免费看| 午夜福利乱码中文字幕| 一区二区三区乱码不卡18| 国产熟女午夜一区二区三区| 亚洲精品久久成人aⅴ小说| 人妻人人澡人人爽人人| 最黄视频免费看| 亚洲精品一二三| 国产片特级美女逼逼视频| 色婷婷av一区二区三区视频| 捣出白浆h1v1| 麻豆乱淫一区二区| 啦啦啦在线观看免费高清www|