• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    一種基于端口聚合流量的Coflow調(diào)度機(jī)制*

    2018-07-26 02:19:30莫李思
    通信技術(shù) 2018年7期
    關(guān)鍵詞:隊(duì)列報(bào)文端口

    黃 鴻,莫李思,孫 罡

    (1.電子科技大學(xué),信息與通信工程學(xué)院,四川 成都 611731;2.中國電子科技集團(tuán)第三十研究所,四川 成都 610041)

    0 引 言

    Coflow被定義為一組具有共同性能目標(biāo)的協(xié)同數(shù)據(jù)流量的集合,通常是指同一項(xiàng)并行計(jì)算應(yīng)用在通信階段產(chǎn)生協(xié)同數(shù)據(jù)流的集合[1]。集合中每條單獨(dú)流量被稱為這個(gè)Coflow的一條子流。Coflow的完成時(shí)間取決于其中子流傳輸完成時(shí)間的最大值[2]。由于Coflow的傳輸完成時(shí)間上具有協(xié)同性,傳統(tǒng)的網(wǎng)絡(luò)流調(diào)度相關(guān)手段不能很好地適用于Coflow,因此需要對(duì)適用于Coflow的流量調(diào)度方案進(jìn)行研究,以便優(yōu)化Coflow的傳輸完成時(shí)間,從而提高數(shù)據(jù)中心對(duì)并行計(jì)算應(yīng)用的處理能力[3-4]。近年來,數(shù)據(jù)中心Coflow完成時(shí)間的優(yōu)化問題吸引了廣大研究者關(guān)注?;贑oflow相關(guān)信息的可知性,這方面的研究可以進(jìn)一步被分為兩類——先驗(yàn)知識(shí)已知的調(diào)度機(jī)制[5-7]和先驗(yàn)知識(shí)未知的調(diào)度機(jī)制[8-10]。先驗(yàn)知識(shí)已知的調(diào)度機(jī)制,指決策時(shí)能夠獲知完整的Coflow特征,包括Coflow中子流的數(shù)量、各子流的大小以及持續(xù)時(shí)間等。先驗(yàn)知識(shí)未知的調(diào)度機(jī)制,指決策時(shí)不能夠獲知完整的Coflow特征,或者完全不能知道Coflow的任何特征信息。

    上述兩個(gè)不同的研究場(chǎng)景中,先驗(yàn)知識(shí)已知的調(diào)度機(jī)制由于擁有充足的信息,其思路通常是以最小化平均Coflow完成時(shí)間為目標(biāo)函數(shù),根據(jù)網(wǎng)絡(luò)拓?fù)洹⒕W(wǎng)絡(luò)容量以及業(yè)務(wù)需求建立約束條件,建立最優(yōu)化問題模型。這種場(chǎng)景下的調(diào)度方案一般會(huì)得到較為詳細(xì)的調(diào)度策略,包括Coflow每條子流的路由指定和在對(duì)應(yīng)路徑上的帶寬分配,優(yōu)化效果較好。但是,該場(chǎng)景下的Coflow調(diào)度機(jī)制通常需要假設(shè)主機(jī)功能足夠強(qiáng)大,能夠提供完整的Coflow信息。這通常是不實(shí)際的,不適用于實(shí)際數(shù)據(jù)中心網(wǎng)絡(luò)環(huán)境[11-13]。本文是基于先驗(yàn)知識(shí)未知場(chǎng)景,以最小化平均Coflow完成時(shí)間為目標(biāo)的Coflow調(diào)度機(jī)制研究。由于無法知道Coflow中每條子流的大小,通常先驗(yàn)知識(shí)未知的Coflow調(diào)度機(jī)制不會(huì)給出明確的路由和帶寬分配方案,而是按照一定策略給Coflow制定優(yōu)先級(jí),并依據(jù)Coflow的優(yōu)先級(jí)給不同Coflow分配帶寬。其中,關(guān)鍵技術(shù)是如何為Coflow制定優(yōu)先級(jí)。以Aalo[8]為代表,現(xiàn)有方案多以Coflow大小作為Coflow優(yōu)先級(jí)的制定標(biāo)準(zhǔn),缺乏一定的合理性。同時(shí),現(xiàn)有方案為Coflow制定優(yōu)先級(jí)時(shí)需要對(duì)Coflow大小進(jìn)行估計(jì),但采用的估計(jì)方法通常過于粗糙。

    針對(duì)以上問題,本文提出了一種基于端口聚合流量的Coflow調(diào)度機(jī)制(Coflow Scheduling based on Port Aggregate Traffic,CSPAT)。首先改進(jìn)Coflow大小的估計(jì)方式,統(tǒng)計(jì)Coflow中每條子流的相關(guān)統(tǒng)計(jì)量,據(jù)此給出Coflow中每條子流的大小估計(jì),再依據(jù)各端口子流的聚合情況,得到各端口Coflow聚合流量大小的估計(jì)值。然后,改進(jìn)Coflow優(yōu)先級(jí)制定方式,以Coflow端口最大聚合流量大小作為Coflow優(yōu)先級(jí)劃分依據(jù)。同時(shí),改進(jìn)現(xiàn)有方案中優(yōu)先級(jí)閾值的設(shè)置方式,改善有效優(yōu)先級(jí)數(shù)量退化的問題。仿真結(jié)果顯示,本文提出的Coflow調(diào)度機(jī)制相較Aalo能有效提高平均Coflow完成時(shí)間的優(yōu)化效果。

    1 CSPAT調(diào)度機(jī)制核心思想

    CSPAT的主要思想是端設(shè)備統(tǒng)計(jì)各Coflow當(dāng)前大小,并根據(jù)Coflow中各子流的到達(dá)速率預(yù)測(cè)即將到達(dá)的子流大小,從而估計(jì)各端系統(tǒng)Coflow的大小,將估計(jì)結(jié)果周期性上報(bào)給控制器??刂破鞲鶕?jù)上報(bào)的結(jié)果,得到各Coflow的端口聚合流量的大小,再根據(jù)端口聚合流量的閾值設(shè)置,得到Coflow對(duì)應(yīng)的優(yōu)先級(jí)隊(duì)列,并下發(fā)優(yōu)先級(jí)隊(duì)列對(duì)應(yīng)關(guān)系到各端設(shè)備。端設(shè)備根據(jù)對(duì)應(yīng)關(guān)系將Coflow放置到對(duì)應(yīng)優(yōu)先級(jí)隊(duì)列中。不同優(yōu)先級(jí)隊(duì)列之間按照WFQ調(diào)度策略進(jìn)行調(diào)度,同一優(yōu)先級(jí)隊(duì)列中的不同Coflow按照FIFO策略進(jìn)行調(diào)度,同一優(yōu)先級(jí)隊(duì)列中同一Coflow的不同子流之間按照max-min策略進(jìn)行帶寬分配。

    CSPAT調(diào)度機(jī)制基于的網(wǎng)絡(luò)抽象模型,如圖1所示。整個(gè)數(shù)據(jù)中心交換網(wǎng)絡(luò)被抽象為一個(gè)無阻交換機(jī),調(diào)度發(fā)生在整個(gè)抽象無阻交換機(jī)的輸入端口上。

    圖1 CSPAT調(diào)度機(jī)制的網(wǎng)絡(luò)抽象模型

    基于這種抽象的網(wǎng)絡(luò)結(jié)構(gòu),CSPAT的調(diào)度框架主要由與輸入端口相連的主機(jī)以及執(zhí)行調(diào)度算法的控制器所構(gòu)成。圖2給出了主機(jī)與控制器之間信息交互方式的示意。主機(jī)向控制器上報(bào)的Coflow大小估計(jì)值信息會(huì)沿著直線箭頭方向,從邊緣交換機(jī)接入數(shù)據(jù)平面網(wǎng)絡(luò),通過數(shù)據(jù)平面網(wǎng)絡(luò)傳輸?shù)脚c控制器直連的邊緣交換機(jī),最后遞交給控制器。而控制器下發(fā)的Coflow優(yōu)先級(jí)對(duì)應(yīng)關(guān)系信息會(huì)沿著虛線箭頭所示反向通路,發(fā)送到各主機(jī)處。

    主機(jī)側(cè)執(zhí)行本地或者全局的調(diào)度策略。如何選擇取決于主機(jī)是否收到從控制器下發(fā)的關(guān)于Coflow的調(diào)度策略。若控制器沒有下發(fā)關(guān)于某個(gè)Coflow的調(diào)度策略,則對(duì)該Coflow執(zhí)行本地調(diào)度策略;否則,根據(jù)控制器下發(fā)的Coflow優(yōu)先級(jí)信息進(jìn)行調(diào)度。同時(shí),主機(jī)側(cè)需要周期性上報(bào)對(duì)應(yīng)輸入端口的Coflow大小估計(jì)值,以便控制器能及時(shí)感知Coflow的大小估計(jì)值的變化,從而制定符合當(dāng)前負(fù)載情況下的調(diào)度策略。

    圖2 CSPAT調(diào)度機(jī)制中主機(jī)與控制器的交互

    控制器側(cè)則周期性地整合各入端口上報(bào)的Coflow大小估計(jì)值,計(jì)算各Coflow的端口聚合流量大小,再根據(jù)端口聚合流量的大小和優(yōu)先級(jí)閾值,對(duì)各Coflow進(jìn)行優(yōu)先級(jí)劃分,并把劃分結(jié)果下發(fā)給各入端口。主機(jī)側(cè)根據(jù)Coflow對(duì)應(yīng)的優(yōu)先級(jí),將Coflow放到對(duì)應(yīng)的優(yōu)先級(jí)隊(duì)列中。不同優(yōu)先級(jí)隊(duì)列之間利用WFQ策略進(jìn)行調(diào)度。Coflow端口聚合流量的物理意義是指Coflow在數(shù)據(jù)中心網(wǎng)絡(luò)入端口和出端口處的最大聚合流量大小,其中聚合流量是指Coflow在該端口所有子流的總和。以上只是簡(jiǎn)單介紹了主機(jī)側(cè)以及控制器側(cè)執(zhí)行的基本邏輯,詳細(xì)的算法描述將在第2節(jié)進(jìn)行介紹。

    2 CSPAT調(diào)度機(jī)制算法流程

    正如第1節(jié)所述,CSPAT調(diào)度框架是通過主機(jī)側(cè)與控制器側(cè)的相互配合完成的。主機(jī)側(cè)和控制器側(cè)設(shè)有同步的周期,它們各自在自己的周期里執(zhí)行各自的算法邏輯。下面將分別對(duì)主機(jī)側(cè)和控制器側(cè)所執(zhí)行的算法邏輯進(jìn)行詳細(xì)介紹。為了方便算法的描述,先引入一些相關(guān)參數(shù)的說明,如表1所示。

    表1 算法相關(guān)參數(shù)說明

    表1所示的相關(guān)參數(shù)之間存在一些計(jì)算關(guān)系,在算法流程中會(huì)用到式(1)~式(4)所示的計(jì)算。

    2.1 主機(jī)側(cè)算法流程

    主機(jī)負(fù)責(zé)本側(cè)端口的Coflow大小估計(jì)和Coflow調(diào)度。在自己的周期內(nèi),它需要同時(shí)執(zhí)行兩套算法邏輯。一是對(duì)Coflow相關(guān)信息進(jìn)行統(tǒng)計(jì),并基于這些信息對(duì)本側(cè)Coflow大小進(jìn)行估計(jì),然后周期性上報(bào)Coflow大小估計(jì)值給控制器,本文將這部分邏輯稱為“主機(jī)側(cè)Coflow大小估計(jì)算法”。二是執(zhí)行本地或者全局的調(diào)度策略,如何選擇取決于主機(jī)是否收到從控制器下發(fā)的關(guān)于Coflow的調(diào)度策略,若控制器沒有下發(fā)關(guān)于某個(gè)Coflow的調(diào)度策略,則對(duì)該Coflow執(zhí)行本地調(diào)度策略,否則根據(jù)控制器下發(fā)的Coflow優(yōu)先級(jí)信息進(jìn)行調(diào)度,本文將這部分邏輯稱為“主機(jī)側(cè)Coflow調(diào)度算法”。

    圖3為“主機(jī)側(cè)Coflow子流大小估計(jì)算法”流程圖。算法實(shí)現(xiàn)的功能是對(duì)主機(jī)本地的Coflow中每條子流的大小做估計(jì)。其中,主機(jī)側(cè)本地Coflow中每條流的大小估計(jì)通過式(1)實(shí)現(xiàn)。公式采用了三個(gè)統(tǒng)計(jì)量的累加值作為流大小的估計(jì)值。總的來說,流大小的估計(jì)值是由兩個(gè)已知統(tǒng)計(jì)量以及一個(gè)估計(jì)值之和構(gòu)成。三個(gè)統(tǒng)計(jì)量都是動(dòng)態(tài)變化的,其中描述的是流在傳輸隊(duì)列中的累計(jì)大小,構(gòu)成了該流已產(chǎn)生但還未被傳輸?shù)牟糠郑芊从吵隽鞯竭_(dá)以及流傳輸速率的差距;描述的是流已經(jīng)傳輸完成的大小,是單調(diào)不減的,構(gòu)成了該流完成傳輸?shù)牟糠?;a_ periodin,c描述的是根據(jù)該流的到達(dá)情況,預(yù)測(cè)下一周期該流即將到達(dá)的流量大小。這個(gè)假設(shè)是基于Coflow中各流的到達(dá)速率可能不同,但每條流自身的速率是均勻的,因此用上一周期到達(dá)的流量作為下一周期到達(dá)流量的一個(gè)估計(jì)。又因?yàn)樘崆邦A(yù)測(cè)了下一個(gè)周期可能到達(dá)的流量大小,可以在一定程度上平滑控制算法下發(fā)策略的延遲造成策略與場(chǎng)景不匹配的情況。另外,算法是周期性執(zhí)行的,如果沒有到仿真結(jié)束時(shí)間,算法會(huì)一直持續(xù)周期性運(yùn)行。

    圖3 主機(jī)側(cè)Coflow大小估計(jì)算法流程

    “主機(jī)側(cè)Coflow調(diào)度算法”包含并行的三個(gè)環(huán)節(jié):數(shù)據(jù)報(bào)文進(jìn)入傳輸隊(duì)列的處理邏輯(數(shù)據(jù)報(bào)文入隊(duì)邏輯)、數(shù)據(jù)報(bào)文離開傳輸隊(duì)列的處理邏輯(數(shù)據(jù)報(bào)文出隊(duì)邏輯)和控制器報(bào)文處理邏輯。圖4~圖6分別是這三個(gè)環(huán)節(jié)的處理邏輯流程圖。

    首先對(duì)數(shù)據(jù)報(bào)文入隊(duì)邏輯進(jìn)行說明。為了便于動(dòng)態(tài)調(diào)整Coflow的優(yōu)先級(jí),Coflow報(bào)文入隊(duì)時(shí)首先不會(huì)進(jìn)入到物理傳輸隊(duì)列中。本方案在設(shè)計(jì)中采用了一個(gè)虛擬隊(duì)列,按照Coflow編號(hào)分類來存儲(chǔ)這些到達(dá)的Coflow報(bào)文。這個(gè)虛擬隊(duì)列即圖4中提到的“與Coflow編號(hào)對(duì)應(yīng)的存儲(chǔ)隊(duì)列”。入隊(duì)邏輯對(duì)到達(dá)的Coflow報(bào)文的處理分兩種情況:若某個(gè)報(bào)文所屬Coflow已經(jīng)在之前到達(dá)過虛擬隊(duì)列,則該報(bào)文直接放入對(duì)應(yīng)Coflow編號(hào)的存儲(chǔ)隊(duì)列;若該報(bào)文所屬Coflow是新到達(dá)的(圖中用“沒有該Coflow記錄”來表征這種情況),則將該Coflow編號(hào)按照到達(dá)時(shí)間順序,加入到“Coflow優(yōu)先級(jí)map”的最高優(yōu)先級(jí)對(duì)應(yīng)集合,即圖中所說的“更新Coflow優(yōu)先級(jí)map”。這里對(duì)“Coflow優(yōu)先級(jí)map”進(jìn)行說明。這個(gè)結(jié)構(gòu)需要用一個(gè)map來實(shí)現(xiàn),其key值為按照Coflow的端口聚合流量劃分的優(yōu)先級(jí),而每個(gè)key對(duì)應(yīng)的value是經(jīng)控制器計(jì)算具有同一個(gè)優(yōu)先級(jí)的Coflow編號(hào)的集合。這個(gè)集合是有序的,會(huì)按照Coflow到達(dá)的先后順序進(jìn)行排序,這就是圖4中存儲(chǔ)Coflow到達(dá)時(shí)間的原因。這部分邏輯在每次產(chǎn)生報(bào)文即將進(jìn)入傳輸隊(duì)列時(shí)被觸發(fā)。

    圖4 數(shù)據(jù)報(bào)文入隊(duì)邏輯

    圖5的數(shù)據(jù)報(bào)文出隊(duì)邏輯則比較簡(jiǎn)單,主要是通過WFQ調(diào)度策略獲得本輪應(yīng)該被傳輸?shù)腃oflow編號(hào),然后通過編號(hào)找到對(duì)應(yīng)的Coflow存儲(chǔ)隊(duì)列,對(duì)該Coflow存儲(chǔ)隊(duì)列中的報(bào)文進(jìn)行傳輸。其中,WFQ策略是根據(jù)優(yōu)先級(jí)對(duì)應(yīng)權(quán)重,實(shí)現(xiàn)不同優(yōu)先級(jí)隊(duì)列中的流量按照權(quán)重公平分配帶寬的一種隊(duì)列調(diào)度方法,具體的原理如文獻(xiàn)[14]所述。這部分邏輯將在前一個(gè)報(bào)文傳輸完成后和有新報(bào)文入隊(duì)時(shí)被觸發(fā)。

    圖5 數(shù)據(jù)報(bào)文出隊(duì)邏輯

    圖6 所示的控制器報(bào)文處理邏輯,在主機(jī)端接收到從控制器發(fā)來的報(bào)文時(shí)被觸發(fā),主要用于更新上面提到的“Coflow優(yōu)先級(jí)map”。由于對(duì)Coflow的端口聚合流量的估計(jì)會(huì)隨時(shí)間變化,經(jīng)控制器算法的計(jì)算,Coflow的優(yōu)先級(jí)也有可能發(fā)生改變。這部分邏輯用于讓主機(jī)適應(yīng)動(dòng)態(tài)的Coflow優(yōu)先級(jí)對(duì)Coflow進(jìn)行調(diào)度。

    2.2 控制器側(cè)算法流程

    控制器負(fù)責(zé)在自己的周期內(nèi)整合各主機(jī)上報(bào)的Coflow大小估計(jì)值,計(jì)算每個(gè)Coflow的端口聚合流量大小,再根據(jù)端口聚合流量的大小和優(yōu)先級(jí)閾值,對(duì)各Coflow進(jìn)行優(yōu)先級(jí)劃分,并把劃分結(jié)果下發(fā)給各主機(jī),供主機(jī)執(zhí)行“主機(jī)側(cè)Coflow調(diào)度算法”使用。本研究中將這部分邏輯稱為“Coflow優(yōu)先級(jí)制定算法”。

    圖7即為“Coflow優(yōu)先級(jí)制定算法”流程圖。在算法執(zhí)行周期內(nèi),控制器會(huì)不斷接收來自各主機(jī)上報(bào)的本地Coflow子流大小估計(jì)值,并對(duì)其進(jìn)行存儲(chǔ)。到了控制器算法周期時(shí),根據(jù)這些存儲(chǔ)的數(shù)據(jù)計(jì)算每個(gè)Coflow對(duì)應(yīng)的端口聚合流量的大小。有了各Coflow的端口聚合流量的大小,再根據(jù)端口聚合流量?jī)?yōu)先級(jí)閾值,可以得到各Coflow的優(yōu)先級(jí)。Coflow優(yōu)先級(jí)的計(jì)算每隔一定周期觸發(fā)執(zhí)行一次,如果沒有到仿真結(jié)束時(shí)間,算法會(huì)一直持續(xù)周期性運(yùn)行。

    圖6 控制器報(bào)文處理邏輯

    圖7 Coflow優(yōu)先級(jí)制定算法

    這里對(duì)算法中使用的端口聚合流量?jī)?yōu)先級(jí)閾值進(jìn)行說明。為了避免傳統(tǒng)的閾值設(shè)置方式中采用絕對(duì)數(shù)值導(dǎo)致有效優(yōu)先級(jí)數(shù)量退化的情況,本文將閾值設(shè)置成一組從小到大、取值范圍在(0,1)的數(shù)值。若該閾值共包含k個(gè)數(shù)值,設(shè)這些數(shù)值分別為{d1,d2,…,dk},則該組數(shù)值能將端口聚合流量可能的取值范圍分為k+1個(gè)區(qū)間,分別為{[0,d1],[d1,d2],…[dk,1]},k的取值是人為指定的。各區(qū)間對(duì)應(yīng)的下限數(shù)值越小,則該區(qū)間對(duì)應(yīng)的優(yōu)先級(jí)越高,對(duì)應(yīng)權(quán)重越大。設(shè)Coflow總數(shù)為N,則Coflow端口最大聚合流量大小按從小到大的順序排序后,排序在0到d1×N的Coflow對(duì)應(yīng)最高優(yōu)先級(jí),排序在d×N到d2×N的Coflow對(duì)應(yīng)第二優(yōu)先級(jí),以此類推。這樣的優(yōu)先級(jí)閾值設(shè)置方式,可以盡可能讓Coflow分布在不同的優(yōu)先級(jí)中,避免Coflow全部集中在某一優(yōu)先級(jí)中導(dǎo)致有效優(yōu)先級(jí)數(shù)量退化的問題。

    3 算法仿真及性能分析

    CSPAT調(diào)度機(jī)制中存在幾個(gè)環(huán)節(jié),可能對(duì)整個(gè)調(diào)度機(jī)制的性能產(chǎn)生影響,包括控制器算法周期和閾值的設(shè)置。分別對(duì)這些環(huán)節(jié)進(jìn)行仿真實(shí)驗(yàn),說明采樣周期和閾值設(shè)置對(duì)CSPAT調(diào)度機(jī)制性能帶來的影響,最后綜合考察CSPAT調(diào)度機(jī)制相較文獻(xiàn)[8]提出的Aalo調(diào)度機(jī)制的性能優(yōu)勢(shì)。仿真采用的是一個(gè)包含132個(gè)主機(jī)節(jié)點(diǎn)的2層CLOS交換網(wǎng)絡(luò),如圖8所示。以下仿真均基于該網(wǎng)絡(luò)拓?fù)洹?/p>

    圖8 仿真拓?fù)?/p>

    3.1 控制算法周期對(duì)CSPAT性能的影響

    為了縮短仿真時(shí)間,仿真中注入了5個(gè)Coflow,18條流,共計(jì)30 647個(gè)TCP報(bào)文進(jìn)行仿真。主機(jī)直連鏈路帶寬為1 Gb/s。選取了0.1 ms到1 s內(nèi)的12個(gè)不同周期取值,記錄在不同控制算法周期下Coflow的平均完成時(shí)間,仿真結(jié)果如圖9所示(橫坐標(biāo)采用對(duì)數(shù)坐標(biāo))。從仿真結(jié)果看,控制算法周期過小以及過大都會(huì)使Coflow平均完成時(shí)間增加,嚴(yán)重影響CSPAT調(diào)度機(jī)制的性能。算法周期是否選擇合適,要考慮幾個(gè)方面的因素:(1)周期不能大于仿真時(shí)間,且在仿真時(shí)間內(nèi)周期也不宜過大,以至于在一次仿真中不能進(jìn)行有效次數(shù)的調(diào)度;(2)周期不宜過小,以至于網(wǎng)絡(luò)場(chǎng)景波動(dòng)大.以上一個(gè)較短周期數(shù)據(jù)做出的決策,可能不會(huì)適用于策略下發(fā)時(shí)的場(chǎng)景。

    如圖9所示,算法周期取值在1 ms、2 ms、5 ms時(shí),能在選取的所有周期中得到最好的優(yōu)化效果。本文的仿真中考慮到通信開銷,會(huì)將周期選定為5 ms。

    圖9 不同控制算法周期下的Coflow完成時(shí)間統(tǒng)計(jì)

    3.2 優(yōu)先級(jí)閾值設(shè)置對(duì)CSPAT性能的影響

    CSPAT調(diào)度機(jī)制依據(jù)優(yōu)先級(jí)閾值為不同Coflow制定優(yōu)先級(jí),并依據(jù)優(yōu)先級(jí)進(jìn)行調(diào)度.因此,優(yōu)先級(jí)閾值設(shè)置對(duì)調(diào)度機(jī)制性能有著重要影響。優(yōu)先級(jí)閾值設(shè)置包括優(yōu)先級(jí)數(shù)量和優(yōu)先級(jí)閾值區(qū)間兩個(gè)方面。但是,同時(shí)考慮這兩個(gè)方面的協(xié)同作用會(huì)導(dǎo)致問題求解難度過大。為了簡(jiǎn)化該問題的分析,得到可行的優(yōu)先級(jí)閾值設(shè)置方案,本文使得優(yōu)先級(jí)閾值的數(shù)量恒定,僅討論優(yōu)先級(jí)閾值區(qū)間設(shè)置對(duì)調(diào)度機(jī)制性能的影響。根據(jù)Aalo調(diào)度機(jī)制的優(yōu)先級(jí)閾值設(shè)置方式,當(dāng)優(yōu)先級(jí)閾值數(shù)量大于等于5時(shí),能取得不錯(cuò)的效果。而考慮到過多的優(yōu)先級(jí)閾值數(shù)量會(huì)增加計(jì)算復(fù)雜度,本文將優(yōu)先級(jí)閾值數(shù)量恒定為5,并分別對(duì)表2所示的5種不同的優(yōu)先級(jí)閾值區(qū)間取值方式進(jìn)行性能測(cè)試,測(cè)試結(jié)果如圖10所示。

    表2 CSPAT優(yōu)先級(jí)閾值區(qū)間取值類型

    如表2所示,測(cè)試中A類型的特點(diǎn)是盡可能使得每個(gè)區(qū)間對(duì)應(yīng)優(yōu)先級(jí)包含的Coflow數(shù)量相同;B類型和C類型的特點(diǎn)都是使得高優(yōu)先級(jí)包含的Coflow數(shù)量相較于低優(yōu)先級(jí)更多,區(qū)別是B類型和C類型在高優(yōu)先級(jí)到低優(yōu)先級(jí)包含的Coflow數(shù)量遞減比例上有所不同。

    圖10 不同優(yōu)先級(jí)閾值設(shè)置下的調(diào)度機(jī)制性能對(duì)比

    從圖10可以看出,B類型閾值取值方式是最優(yōu)的,而A類型這種平均的區(qū)間劃分方式雖在平均Coflow完成時(shí)間的優(yōu)化效果上不及B類型,但差距不是很大。相比之下,C類型則會(huì)對(duì)平均Coflow完成時(shí)間的優(yōu)化造成較大影響??紤]到遞減比例設(shè)置不當(dāng)會(huì)明顯有損性能,之后的仿真都采用A類型所代表的優(yōu)先級(jí)閾值設(shè)置方式。

    3.3 CSPAT性能對(duì)比分析

    本節(jié)將對(duì)CSPAT與現(xiàn)有其他兩種Coflow調(diào)度機(jī)制Aalo以及MCS進(jìn)行性能對(duì)比。

    在合適的控制算法周期和優(yōu)先級(jí)閾值的設(shè)置下,采用在Facebook數(shù)據(jù)源中隨機(jī)采樣的方法生成多組流量數(shù)據(jù)進(jìn)行仿真,測(cè)試在真實(shí)流量環(huán)境下CSPAT、Aalo以及MCS各自的性能表現(xiàn)。圖11是在不同Coflow規(guī)模下,CSPAT、Aalo以及MCS調(diào)度機(jī)制的仿真結(jié)果。其中,平均Coflow完成時(shí)間以CSPAT的結(jié)果為標(biāo)準(zhǔn)進(jìn)行了歸一化處理。

    圖11 不同調(diào)度機(jī)制的平均Coflow完成時(shí)間統(tǒng)計(jì)

    從圖11可以看出,在服從Facebook數(shù)據(jù)源分布生成隨機(jī)的仿真數(shù)據(jù)時(shí),CSPAT能夠取得優(yōu)于Aalo的優(yōu)化效果,相較Aalo能夠減少3%的Coflow平均完成時(shí)間。而相較MCS調(diào)度機(jī)制,則性能提升不大,在1.5%左右。最好情況下,CSPAT相較于MCS有2%左右的性能提升。CSPAT能夠有效提高平均Coflow完成時(shí)間的優(yōu)化效果。

    4 結(jié) 語

    本文提出了一種基于端口聚合流量的Coflow隊(duì)列調(diào)度機(jī)制CSPAT。它是基于SDN框架的調(diào)度方案,主要思想是端設(shè)備統(tǒng)計(jì)各Coflow當(dāng)前大小,并根據(jù)Coflow中各子流的到達(dá)速率預(yù)測(cè)即將到達(dá)的子流大小,從而估計(jì)各端系統(tǒng)Coflow的大小,并將估計(jì)結(jié)果周期性上報(bào)給控制器??刂破鞲鶕?jù)上報(bào)的結(jié)果,得到各Coflow的端口聚合流量的大小,然后根據(jù)端口聚合流量的閾值設(shè)置,得到Coflow對(duì)應(yīng)的優(yōu)先級(jí)隊(duì)列,并下發(fā)優(yōu)先級(jí)隊(duì)列對(duì)應(yīng)關(guān)系到各端設(shè)備。端設(shè)備根據(jù)對(duì)應(yīng)關(guān)系,在不同優(yōu)先級(jí)的Coflow之間按照WFQ調(diào)度策略進(jìn)行調(diào)度。同一優(yōu)先級(jí)隊(duì)列中的不同Coflow按照FIFO策略進(jìn)行調(diào)度,同一優(yōu)先級(jí)隊(duì)列中,同一Coflow的不同子流之間按照max-min策略進(jìn)行帶寬分配。

    此外,本文對(duì)該機(jī)制中的部分參數(shù)設(shè)置進(jìn)行了仿真分析,得到了效果較好的周期和隊(duì)列閾值設(shè)置方法,并在合適的參數(shù)設(shè)置下,與Aalo調(diào)度機(jī)制進(jìn)行了性能對(duì)比。結(jié)果顯示,在Facebook數(shù)據(jù)源場(chǎng)景下,CSPAT調(diào)度機(jī)制在“最小化平均Coflow完成時(shí)間”上,相較Aalo有3%左右的性能提升。可見,CSPAT在不引入較大通信開銷的基礎(chǔ)上,能夠有效減小并行計(jì)算應(yīng)用通信階段的Coflow平均完成時(shí)間。

    猜你喜歡
    隊(duì)列報(bào)文端口
    基于J1939 協(xié)議多包報(bào)文的時(shí)序研究及應(yīng)用
    汽車電器(2022年9期)2022-11-07 02:16:24
    一種端口故障的解決方案
    CTCS-2級(jí)報(bào)文數(shù)據(jù)管理需求分析和實(shí)現(xiàn)
    隊(duì)列里的小秘密
    基于多隊(duì)列切換的SDN擁塞控制*
    軟件(2020年3期)2020-04-20 00:58:44
    淺析反駁類報(bào)文要點(diǎn)
    中國外匯(2019年11期)2019-08-27 02:06:30
    在隊(duì)列里
    端口阻塞與優(yōu)先級(jí)
    豐田加速駛?cè)胱詣?dòng)駕駛隊(duì)列
    ATS與列車通信報(bào)文分析
    亚洲av电影不卡..在线观看| 精品人妻视频免费看| 国产蜜桃级精品一区二区三区| 99九九线精品视频在线观看视频| 国产淫片久久久久久久久| 国产精品久久久久久久久免| 级片在线观看| 免费无遮挡裸体视频| 麻豆久久精品国产亚洲av| 久久精品国产亚洲av香蕉五月| 国产精品日韩av在线免费观看| 男人的好看免费观看在线视频| 欧美成人免费av一区二区三区| 人人妻人人看人人澡| 99视频精品全部免费 在线| 美女免费视频网站| 亚洲欧美日韩卡通动漫| 欧美色视频一区免费| 免费人成视频x8x8入口观看| 午夜免费男女啪啪视频观看 | 日本一本二区三区精品| 国产综合懂色| 中文在线观看免费www的网站| 丝袜喷水一区| 精品久久久久久久人妻蜜臀av| 在线国产一区二区在线| 国产精品99久久久久久久久| 婷婷亚洲欧美| 精品福利观看| 高清午夜精品一区二区三区 | 亚洲激情五月婷婷啪啪| 搡女人真爽免费视频火全软件 | 美女cb高潮喷水在线观看| 精品久久久久久成人av| 伦精品一区二区三区| 亚洲激情五月婷婷啪啪| 日韩欧美免费精品| 午夜福利成人在线免费观看| 成年版毛片免费区| 亚洲av.av天堂| 国产高清有码在线观看视频| 欧美中文日本在线观看视频| 国产毛片a区久久久久| 国产 一区精品| 我要看日韩黄色一级片| 久久久国产成人精品二区| 国产精品人妻久久久久久| 久久久久久九九精品二区国产| 国产精品人妻久久久影院| 在线观看午夜福利视频| 色尼玛亚洲综合影院| 少妇高潮的动态图| 香蕉av资源在线| 欧美xxxx黑人xx丫x性爽| 欧美另类亚洲清纯唯美| 国内精品一区二区在线观看| 久久精品国产亚洲av香蕉五月| 亚洲aⅴ乱码一区二区在线播放| 免费看日本二区| 成人永久免费在线观看视频| 男人舔女人下体高潮全视频| 亚洲高清免费不卡视频| 国产av一区在线观看免费| 亚洲色图av天堂| 少妇丰满av| 日本免费a在线| 日本一二三区视频观看| 麻豆精品久久久久久蜜桃| 亚洲精华国产精华液的使用体验 | 成人特级av手机在线观看| 乱系列少妇在线播放| 真实男女啪啪啪动态图| 日韩欧美 国产精品| 国产亚洲91精品色在线| 51国产日韩欧美| 联通29元200g的流量卡| 我的老师免费观看完整版| 日韩三级伦理在线观看| 欧美xxxx性猛交bbbb| 日日摸夜夜添夜夜添小说| 日韩欧美 国产精品| 精品久久国产蜜桃| 欧美3d第一页| 亚洲欧美日韩东京热| 少妇人妻一区二区三区视频| 久久韩国三级中文字幕| 丝袜喷水一区| 日韩一本色道免费dvd| 色哟哟·www| 午夜激情欧美在线| 婷婷亚洲欧美| 久久中文看片网| 国产亚洲精品久久久com| 久久久a久久爽久久v久久| 99视频精品全部免费 在线| 在线免费观看的www视频| 亚洲高清免费不卡视频| 中文字幕久久专区| 国产精品福利在线免费观看| 少妇裸体淫交视频免费看高清| 久久精品国产99精品国产亚洲性色| 精品少妇黑人巨大在线播放 | 22中文网久久字幕| 久久久久久国产a免费观看| 中文字幕精品亚洲无线码一区| 午夜免费男女啪啪视频观看 | 国产乱人偷精品视频| 插逼视频在线观看| 色哟哟·www| 少妇熟女欧美另类| 亚洲最大成人中文| 久久中文看片网| 欧美色视频一区免费| a级一级毛片免费在线观看| 嫩草影视91久久| 国产精品女同一区二区软件| 国产精品永久免费网站| 九九在线视频观看精品| 成人特级av手机在线观看| 亚洲成a人片在线一区二区| 免费av观看视频| 国产av在哪里看| 一个人免费在线观看电影| 亚洲av电影不卡..在线观看| 色哟哟哟哟哟哟| 精品久久国产蜜桃| 中文字幕免费在线视频6| 亚洲专区国产一区二区| 国产国拍精品亚洲av在线观看| 男人和女人高潮做爰伦理| 99精品在免费线老司机午夜| 亚洲精品日韩在线中文字幕 | 91精品国产九色| 网址你懂的国产日韩在线| 久久久久久久久大av| 国产亚洲精品久久久com| 日韩一区二区视频免费看| 亚洲激情五月婷婷啪啪| 嫩草影院入口| 又黄又爽又刺激的免费视频.| 久久精品国产亚洲av涩爱 | 伦精品一区二区三区| 国产熟女欧美一区二区| 神马国产精品三级电影在线观看| 91麻豆精品激情在线观看国产| 亚洲av一区综合| 在线免费十八禁| 色尼玛亚洲综合影院| 欧美绝顶高潮抽搐喷水| 成人毛片a级毛片在线播放| 日日撸夜夜添| 校园人妻丝袜中文字幕| 久久精品夜色国产| 午夜精品一区二区三区免费看| 免费av不卡在线播放| 五月伊人婷婷丁香| 少妇猛男粗大的猛烈进出视频 | 色尼玛亚洲综合影院| 亚洲欧美精品自产自拍| 少妇裸体淫交视频免费看高清| 欧洲精品卡2卡3卡4卡5卡区| 嫩草影视91久久| 91在线精品国自产拍蜜月| 精品久久久久久久久久久久久| 亚洲中文字幕一区二区三区有码在线看| 国产精品三级大全| 极品教师在线视频| 1000部很黄的大片| 久久6这里有精品| 一本精品99久久精品77| 久久久午夜欧美精品| 最近中文字幕高清免费大全6| av黄色大香蕉| 日韩一本色道免费dvd| av在线播放精品| 丝袜喷水一区| 18禁黄网站禁片免费观看直播| 俺也久久电影网| 99精品在免费线老司机午夜| 国产高清激情床上av| 99在线视频只有这里精品首页| 中国美白少妇内射xxxbb| 久久亚洲精品不卡| 非洲黑人性xxxx精品又粗又长| 国产成人freesex在线 | 欧美激情国产日韩精品一区| 国产精品国产三级国产av玫瑰| 少妇人妻精品综合一区二区 | 全区人妻精品视频| 一级毛片久久久久久久久女| 青春草视频在线免费观看| 国产精品福利在线免费观看| 欧美色视频一区免费| 搞女人的毛片| 国产成年人精品一区二区| 亚洲最大成人手机在线| 天堂网av新在线| 最好的美女福利视频网| 国内精品宾馆在线| 91在线观看av| 天堂√8在线中文| 欧美3d第一页| 久久久久久九九精品二区国产| av在线播放精品| 国内精品久久久久精免费| 日本与韩国留学比较| 国产精品久久视频播放| 此物有八面人人有两片| 男插女下体视频免费在线播放| 看黄色毛片网站| 最新中文字幕久久久久| 麻豆精品久久久久久蜜桃| 欧美区成人在线视频| 舔av片在线| 欧美国产日韩亚洲一区| 日韩欧美精品v在线| 国产精品久久久久久av不卡| 成人永久免费在线观看视频| 国国产精品蜜臀av免费| 观看免费一级毛片| 看非洲黑人一级黄片| 国产片特级美女逼逼视频| 伊人久久精品亚洲午夜| 黑人高潮一二区| 老司机午夜福利在线观看视频| 亚洲电影在线观看av| 我要搜黄色片| 天堂网av新在线| 一级a爱片免费观看的视频| 亚洲四区av| 欧美高清成人免费视频www| 亚洲综合色惰| 一卡2卡三卡四卡精品乱码亚洲| 人妻夜夜爽99麻豆av| 日韩av在线大香蕉| 日日摸夜夜添夜夜添av毛片| 国产黄a三级三级三级人| 老司机福利观看| 永久网站在线| 99国产精品一区二区蜜桃av| 国产精品不卡视频一区二区| 99在线人妻在线中文字幕| 晚上一个人看的免费电影| 人妻夜夜爽99麻豆av| 69av精品久久久久久| 国产在线男女| 国产男人的电影天堂91| 乱码一卡2卡4卡精品| 深夜a级毛片| 给我免费播放毛片高清在线观看| 国产白丝娇喘喷水9色精品| 成人特级av手机在线观看| av黄色大香蕉| 一a级毛片在线观看| 狂野欧美白嫩少妇大欣赏| 三级男女做爰猛烈吃奶摸视频| a级毛片a级免费在线| 尤物成人国产欧美一区二区三区| 黄片wwwwww| 三级毛片av免费| 亚洲国产高清在线一区二区三| 男女之事视频高清在线观看| 国产亚洲精品综合一区在线观看| 女生性感内裤真人,穿戴方法视频| 亚洲国产精品国产精品| 日韩中字成人| 在线免费观看不下载黄p国产| av福利片在线观看| 卡戴珊不雅视频在线播放| 看黄色毛片网站| 免费不卡的大黄色大毛片视频在线观看 | 在线免费十八禁| 亚洲av二区三区四区| 听说在线观看完整版免费高清| 久久久a久久爽久久v久久| 五月伊人婷婷丁香| 国产精品伦人一区二区| 天天躁夜夜躁狠狠久久av| 一本久久中文字幕| 变态另类成人亚洲欧美熟女| 99久久无色码亚洲精品果冻| 日韩精品中文字幕看吧| 亚洲七黄色美女视频| 久久久久久久久中文| 国产精品免费一区二区三区在线| 国内久久婷婷六月综合欲色啪| 亚洲精品在线观看二区| 美女cb高潮喷水在线观看| 联通29元200g的流量卡| 97碰自拍视频| 色哟哟·www| 一级黄片播放器| 国产精品电影一区二区三区| 久久欧美精品欧美久久欧美| 天美传媒精品一区二区| 亚洲国产精品久久男人天堂| 日本-黄色视频高清免费观看| 色综合站精品国产| 欧美中文日本在线观看视频| 99视频精品全部免费 在线| 色哟哟·www| 成年女人毛片免费观看观看9| 网址你懂的国产日韩在线| 亚洲av免费在线观看| 中文字幕精品亚洲无线码一区| 国产精品国产高清国产av| 亚州av有码| 秋霞在线观看毛片| 婷婷亚洲欧美| 少妇的逼好多水| 干丝袜人妻中文字幕| 欧美区成人在线视频| 国产一区二区在线av高清观看| 免费观看的影片在线观看| 亚洲美女视频黄频| 久久6这里有精品| 国产色婷婷99| 97人妻精品一区二区三区麻豆| 国产成人a∨麻豆精品| 国产激情偷乱视频一区二区| 少妇被粗大猛烈的视频| 六月丁香七月| 成人美女网站在线观看视频| av中文乱码字幕在线| 狠狠狠狠99中文字幕| 国产乱人偷精品视频| 国产乱人视频| 欧美性感艳星| 99热这里只有精品一区| 亚洲电影在线观看av| 中文字幕熟女人妻在线| 成年女人毛片免费观看观看9| 在线天堂最新版资源| 亚洲最大成人av| 91精品国产九色| 国产一级毛片七仙女欲春2| 乱人视频在线观看| 亚洲不卡免费看| 在线观看av片永久免费下载| 狠狠狠狠99中文字幕| 国内精品久久久久精免费| 国产真实伦视频高清在线观看| 欧美成人一区二区免费高清观看| 看黄色毛片网站| 日日撸夜夜添| 女人被狂操c到高潮| av.在线天堂| 亚洲精品国产成人久久av| 免费黄网站久久成人精品| 久久人妻av系列| 亚洲婷婷狠狠爱综合网| 91精品国产九色| 一级黄色大片毛片| 免费看美女性在线毛片视频| 精品一区二区三区av网在线观看| 亚洲自拍偷在线| 超碰av人人做人人爽久久| 亚洲国产精品国产精品| 国产免费一级a男人的天堂| 少妇猛男粗大的猛烈进出视频 | 国产精品国产高清国产av| 一级a爱片免费观看的视频| 嫩草影院入口| 蜜桃久久精品国产亚洲av| 在线播放无遮挡| 永久网站在线| 亚洲精品国产成人久久av| 亚洲av不卡在线观看| 成人av在线播放网站| 国产久久久一区二区三区| 国产精品1区2区在线观看.| 深夜a级毛片| 亚洲经典国产精华液单| 久久亚洲精品不卡| 国产亚洲av嫩草精品影院| 久久精品国产亚洲av天美| 又黄又爽又免费观看的视频| eeuss影院久久| 亚洲国产精品成人综合色| 99热这里只有是精品50| 亚洲中文日韩欧美视频| 日韩大尺度精品在线看网址| 国产精品久久久久久亚洲av鲁大| 搞女人的毛片| 人人妻人人澡欧美一区二区| 亚洲最大成人av| 老司机午夜福利在线观看视频| 中文字幕av在线有码专区| 久久精品91蜜桃| 听说在线观看完整版免费高清| 简卡轻食公司| 亚洲人成网站在线观看播放| 国产一区二区三区av在线 | 嫩草影视91久久| 欧美成人a在线观看| 午夜福利成人在线免费观看| 亚洲,欧美,日韩| 国产成人精品久久久久久| 日本a在线网址| 亚洲欧美日韩高清在线视频| 搡老岳熟女国产| 最近在线观看免费完整版| 黄色配什么色好看| a级毛片a级免费在线| 亚洲精品乱码久久久v下载方式| 精品人妻偷拍中文字幕| 六月丁香七月| 欧美+日韩+精品| 露出奶头的视频| 人妻丰满熟妇av一区二区三区| 日韩欧美三级三区| 尤物成人国产欧美一区二区三区| 男女下面进入的视频免费午夜| 少妇的逼好多水| 日本撒尿小便嘘嘘汇集6| 天天一区二区日本电影三级| 日本 av在线| 精品久久久久久久末码| 青春草视频在线免费观看| 少妇丰满av| 夜夜夜夜夜久久久久| 国产精品综合久久久久久久免费| 国产精品爽爽va在线观看网站| 国产一区二区在线av高清观看| 一级av片app| 波野结衣二区三区在线| 国产免费男女视频| 国产高清激情床上av| 午夜爱爱视频在线播放| 精品福利观看| 亚洲18禁久久av| 特大巨黑吊av在线直播| 国产高清不卡午夜福利| 校园人妻丝袜中文字幕| 亚洲在线自拍视频| 国产精品久久久久久亚洲av鲁大| 日韩av在线大香蕉| 联通29元200g的流量卡| 99热只有精品国产| 麻豆av噜噜一区二区三区| 亚洲精品一卡2卡三卡4卡5卡| 成人特级av手机在线观看| 色av中文字幕| 亚洲欧美日韩无卡精品| 熟女人妻精品中文字幕| 精品不卡国产一区二区三区| 欧美成人a在线观看| 天堂av国产一区二区熟女人妻| 美女黄网站色视频| 日本三级黄在线观看| 国产高潮美女av| 亚洲欧美日韩高清专用| 搞女人的毛片| 国产精品女同一区二区软件| 在线播放无遮挡| 精品久久久久久久久av| 日韩欧美国产在线观看| 国产真实伦视频高清在线观看| 桃色一区二区三区在线观看| 成年女人看的毛片在线观看| 成人午夜高清在线视频| ponron亚洲| avwww免费| 亚洲精品456在线播放app| 日本色播在线视频| 极品教师在线视频| 村上凉子中文字幕在线| 久久国内精品自在自线图片| 精品不卡国产一区二区三区| 夜夜爽天天搞| 国产成人freesex在线 | 国产乱人偷精品视频| 五月伊人婷婷丁香| 久久精品国产99精品国产亚洲性色| 日韩人妻高清精品专区| 1024手机看黄色片| 国产亚洲精品久久久com| 欧美激情国产日韩精品一区| a级毛片a级免费在线| 日韩大尺度精品在线看网址| 国产精品一及| 亚洲精品乱码久久久v下载方式| 亚洲精品日韩av片在线观看| 久久久久性生活片| 日本黄色视频三级网站网址| 18禁在线无遮挡免费观看视频 | 国产高清有码在线观看视频| 亚洲无线观看免费| a级毛片免费高清观看在线播放| 成人综合一区亚洲| av免费在线看不卡| 精品人妻一区二区三区麻豆 | 日韩欧美精品免费久久| 婷婷亚洲欧美| 欧美激情在线99| 欧美+日韩+精品| 女人十人毛片免费观看3o分钟| 成年女人看的毛片在线观看| 最新在线观看一区二区三区| 色吧在线观看| 日韩成人伦理影院| 一级毛片我不卡| 嫩草影视91久久| 成年av动漫网址| 99在线人妻在线中文字幕| 欧美绝顶高潮抽搐喷水| 禁无遮挡网站| 国产精品无大码| 国产aⅴ精品一区二区三区波| 97在线视频观看| 少妇高潮的动态图| 久99久视频精品免费| eeuss影院久久| 啦啦啦观看免费观看视频高清| 欧美日韩乱码在线| 永久网站在线| 中出人妻视频一区二区| 免费高清视频大片| 黄色配什么色好看| 成人性生交大片免费视频hd| 午夜a级毛片| 欧美潮喷喷水| 国产高清有码在线观看视频| 两个人的视频大全免费| 中出人妻视频一区二区| 久久人人爽人人爽人人片va| 国产探花极品一区二区| 日韩亚洲欧美综合| 少妇被粗大猛烈的视频| 国产av麻豆久久久久久久| 亚洲aⅴ乱码一区二区在线播放| 亚洲成人久久性| 成熟少妇高潮喷水视频| 天堂√8在线中文| 人妻制服诱惑在线中文字幕| 亚洲欧美日韩高清专用| 国产一区二区在线观看日韩| 日韩一区二区视频免费看| 丝袜美腿在线中文| 成人毛片a级毛片在线播放| 校园春色视频在线观看| 久久精品综合一区二区三区| 人人妻人人澡人人爽人人夜夜 | 午夜福利在线观看免费完整高清在 | 午夜激情福利司机影院| 国产精品av视频在线免费观看| 成人精品一区二区免费| 久久天躁狠狠躁夜夜2o2o| 欧美+亚洲+日韩+国产| 色尼玛亚洲综合影院| 国产精品爽爽va在线观看网站| 亚洲成人av在线免费| 欧美色欧美亚洲另类二区| 丰满人妻一区二区三区视频av| 国产午夜精品论理片| 久久九九热精品免费| 欧美日韩在线观看h| 国产高清三级在线| av在线播放精品| 一进一出抽搐gif免费好疼| 免费黄网站久久成人精品| 欧美性猛交黑人性爽| 国产老妇女一区| 干丝袜人妻中文字幕| 免费高清视频大片| 精品福利观看| 国产淫片久久久久久久久| 最好的美女福利视频网| 欧美极品一区二区三区四区| 亚洲国产精品合色在线| 国产高清激情床上av| 中文字幕人妻熟人妻熟丝袜美| 九色成人免费人妻av| 国产精品亚洲美女久久久| 亚洲内射少妇av| 国产色爽女视频免费观看| 国产国拍精品亚洲av在线观看| 日韩大尺度精品在线看网址| 亚洲av免费在线观看| 精品久久久久久久人妻蜜臀av| 亚洲性夜色夜夜综合| 欧美人与善性xxx| av卡一久久| 久久精品91蜜桃| 少妇人妻精品综合一区二区 | 成人永久免费在线观看视频| 一个人观看的视频www高清免费观看| 日本成人三级电影网站| 久久久国产成人免费| 日本五十路高清| 晚上一个人看的免费电影| 色综合亚洲欧美另类图片| 免费观看精品视频网站| 国产精品女同一区二区软件| 成年版毛片免费区| 日本欧美国产在线视频| 人人妻,人人澡人人爽秒播| 亚洲欧美精品综合久久99| www.色视频.com| 欧美潮喷喷水| 日本免费a在线| 在线观看66精品国产| 一本一本综合久久| 亚洲精品一区av在线观看| 亚洲av不卡在线观看| 亚洲一级一片aⅴ在线观看| 日日摸夜夜添夜夜添小说| 免费看a级黄色片| 观看美女的网站| 色综合色国产| 99riav亚洲国产免费| 久久久久久九九精品二区国产| 国产亚洲欧美98| 日本 av在线| 99热这里只有是精品50|