• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于可編程網(wǎng)絡(luò)的算力調(diào)度機(jī)制研究

    2021-11-28 00:58李銘軒曹暢楊建軍
    中興通訊技術(shù) 2021年3期

    李銘軒 曹暢 楊建軍

    摘要:結(jié)合最新的可編程網(wǎng)絡(luò)技術(shù),提出了算力資源調(diào)度技術(shù),并介紹了技術(shù)架構(gòu)和算力調(diào)度機(jī)制。在算力資源調(diào)度技術(shù)架構(gòu)的基礎(chǔ)上,進(jìn)一步提出了整體平臺(tái)功能架構(gòu)和編程架構(gòu)。基于可編程網(wǎng)絡(luò)的算力資源調(diào)度技術(shù)解決了目前算力調(diào)度過(guò)程中無(wú)法實(shí)現(xiàn)的網(wǎng)絡(luò)參數(shù)問(wèn)題,從而能夠更好地實(shí)現(xiàn)網(wǎng)絡(luò)和算力的融合。

    關(guān)鍵詞:可編程網(wǎng)絡(luò);云原生;P4;無(wú)服務(wù)

    Abstract: Combined with the latest programmable network technology, the computing power resource scheduling technology is proposed, and the overall technical architecture and computing power scheduling mechanism are introduced. Based on the technical architecture of computing power resource scheduling, the overall platform functional architecture and programming architecture are further proposed. The computing power scheduling mechanism based on the programmable network solves the current bottleneck of network parameters that cannot be achieved in the current computing power scheduling process, which can better achieve the integration of network and computing power.

    Keywords: programmable network; cloud native; P4; serverless

    軟件定義網(wǎng)絡(luò)(SDN)通過(guò)網(wǎng)絡(luò)控制邏輯(控制平面)與轉(zhuǎn)發(fā)流量(數(shù)據(jù)平面)的分離,將傳統(tǒng)封閉的網(wǎng)絡(luò)體系解耦為數(shù)據(jù)平面、控制平面和應(yīng)用平面,簡(jiǎn)化策略實(shí)施和網(wǎng)絡(luò)配置[1]。 2008年,以斯坦福大學(xué)Nick MCKEOWN教授為首的研究團(tuán)隊(duì)提出了OpenFlow以及SDN技術(shù)。自此,SDN技術(shù)獲得了業(yè)界的高度關(guān)注,一系列相關(guān)應(yīng)用被提出,極大地促進(jìn)了網(wǎng)絡(luò)創(chuàng)新發(fā)展。2014年,在SDN基礎(chǔ)上,研究者又提出了可變成數(shù)據(jù)平臺(tái)技術(shù),將網(wǎng)絡(luò)編程能力擴(kuò)展到數(shù)據(jù)平面,進(jìn)一步開(kāi)放了網(wǎng)絡(luò)設(shè)備的可編程能力[2]。

    在從原有的虛擬化技術(shù)向云原生技術(shù)的演進(jìn)過(guò)程中,傳統(tǒng)的算力資源調(diào)度技術(shù)往往基于網(wǎng)絡(luò)互通,并通過(guò)集群自身的調(diào)度策略來(lái)實(shí)現(xiàn)算力的動(dòng)態(tài)調(diào)度和應(yīng)用分配。在這一過(guò)程中,固化的組網(wǎng)方式已經(jīng)無(wú)法滿(mǎn)足業(yè)務(wù)需求,網(wǎng)絡(luò)編排能力已成為算力調(diào)度能力的制約因素。文章中,我們著重研究基于可編程網(wǎng)絡(luò)的算力調(diào)度機(jī)制,以期能夠?qū)⒖删幊叹W(wǎng)絡(luò)的最大優(yōu)勢(shì)應(yīng)用于傳統(tǒng)的算力調(diào)度機(jī)制中。

    1 可編程網(wǎng)絡(luò)介紹

    現(xiàn)有的網(wǎng)絡(luò)技術(shù)尤其是SDN技術(shù)的發(fā)展,使得傳統(tǒng)網(wǎng)絡(luò)轉(zhuǎn)發(fā)設(shè)備能夠從固化在芯片上的轉(zhuǎn)發(fā)機(jī)制向基于通用芯片承載的轉(zhuǎn)發(fā)機(jī)制轉(zhuǎn)變,同時(shí)也可以為SDN的實(shí)現(xiàn)帶來(lái)可能性[3]?,F(xiàn)有的以SDN為代表的可編程網(wǎng)絡(luò)實(shí)現(xiàn)技術(shù),主要是基于可編程的網(wǎng)絡(luò)協(xié)議和轉(zhuǎn)發(fā)控制協(xié)議:應(yīng)用平面的網(wǎng)絡(luò)應(yīng)用通過(guò)控制平面的控制器向底層的數(shù)據(jù)平面SDN數(shù)據(jù)轉(zhuǎn)發(fā)設(shè)備下發(fā)路由協(xié)議和轉(zhuǎn)發(fā)策略,從而實(shí)現(xiàn)網(wǎng)絡(luò)轉(zhuǎn)發(fā)機(jī)制[4]。SDN網(wǎng)絡(luò)架構(gòu)如圖1所示。

    基于上述SDN網(wǎng)絡(luò)架構(gòu),網(wǎng)絡(luò)應(yīng)用通過(guò)控制器對(duì)SDN路由器的轉(zhuǎn)發(fā)機(jī)制進(jìn)行控制。數(shù)據(jù)報(bào)文從源端服務(wù)器,經(jīng)SDN路由器,發(fā)送至目的端服務(wù)器。在此過(guò)程中,網(wǎng)絡(luò)應(yīng)用程序可以通過(guò)控制器來(lái)選擇不同的轉(zhuǎn)發(fā)路徑,進(jìn)行數(shù)據(jù)轉(zhuǎn)發(fā)鏈路的路由。在整個(gè)網(wǎng)絡(luò)架構(gòu)中,為了實(shí)現(xiàn)兩層解耦,可以通過(guò)南向接口對(duì)底層數(shù)據(jù)平面的轉(zhuǎn)發(fā)功能進(jìn)行封裝,實(shí)現(xiàn)控制器和路由器之間的對(duì)接;再通過(guò)北向接口對(duì)SDN控制能力進(jìn)行封裝,對(duì)上層應(yīng)用提供統(tǒng)一的能力開(kāi)放。網(wǎng)絡(luò)應(yīng)用則通過(guò)調(diào)用北向接口來(lái)實(shí)現(xiàn)對(duì)控制器的調(diào)用和控制[5]。

    1.1 可編程網(wǎng)絡(luò)技術(shù)架構(gòu)

    SDN的可編程網(wǎng)絡(luò)技術(shù)架構(gòu),可以實(shí)現(xiàn)SDN路由器的流量轉(zhuǎn)發(fā)策略控制和軟件定義設(shè)定。在數(shù)據(jù)轉(zhuǎn)發(fā)平臺(tái),現(xiàn)有技術(shù)從原有的基于OpenFlow協(xié)議相關(guān)的數(shù)據(jù)轉(zhuǎn)發(fā),逐漸演進(jìn)到與協(xié)議無(wú)關(guān)的面向高級(jí)編程的數(shù)據(jù)轉(zhuǎn)發(fā)平面。可編程網(wǎng)絡(luò)技術(shù)通過(guò)代碼級(jí)的自定義網(wǎng)絡(luò)數(shù)據(jù)平面來(lái)實(shí)現(xiàn)可編程能力,同時(shí)還可以實(shí)現(xiàn)數(shù)據(jù)轉(zhuǎn)發(fā)控制和策略[6],具體實(shí)現(xiàn)流程如圖2所示。

    根據(jù)交換機(jī)的配置,傳統(tǒng)的可編程網(wǎng)絡(luò)數(shù)據(jù)轉(zhuǎn)發(fā)對(duì)解析表和控制流進(jìn)行編程,并且將解析表下發(fā)至數(shù)據(jù)轉(zhuǎn)發(fā)平臺(tái)的解析器中,再通過(guò)控制流編程將動(dòng)作匹配配置下發(fā)至數(shù)據(jù)轉(zhuǎn)發(fā)平臺(tái)的動(dòng)作匹配表中[7]。

    數(shù)據(jù)流在輸入時(shí),首先經(jīng)過(guò)解析器進(jìn)行報(bào)文解析,并通過(guò)Ingress負(fù)載均衡器進(jìn)行轉(zhuǎn)發(fā)設(shè)置,以實(shí)現(xiàn)動(dòng)作匹配配置,然后進(jìn)入轉(zhuǎn)發(fā)的隊(duì)列和存儲(chǔ)中等待;數(shù)據(jù)流從隊(duì)列中出棧時(shí),先通過(guò)對(duì)應(yīng)的Engress反向負(fù)載均衡器的解析,再進(jìn)行報(bào)文輸出,從而實(shí)現(xiàn)了完整的數(shù)據(jù)平面數(shù)據(jù)轉(zhuǎn)發(fā)機(jī)制[8]。

    1.2 控制面/用戶(hù)面分離實(shí)現(xiàn)機(jī)制

    傳統(tǒng)的SDN技術(shù)通過(guò)控制面和數(shù)據(jù)面的分離,實(shí)現(xiàn)網(wǎng)絡(luò)數(shù)據(jù)流轉(zhuǎn)發(fā)和控制策略制定之間的分離,也為基于可編程網(wǎng)絡(luò)的算力調(diào)度提供了可能。

    從上述的技術(shù)架構(gòu)可以看出,現(xiàn)有的SDN技術(shù)實(shí)現(xiàn)了兩層解耦:一方面,將控制器集中于上層控制面,實(shí)現(xiàn)對(duì)SDN路由器或數(shù)據(jù)轉(zhuǎn)發(fā)設(shè)備的統(tǒng)一管理;另一方面,使數(shù)據(jù)平面的SDN路由器和轉(zhuǎn)發(fā)設(shè)備脫離了傳統(tǒng)模式(固化在設(shè)備內(nèi)),并使得轉(zhuǎn)發(fā)功能和轉(zhuǎn)發(fā)規(guī)則通過(guò)南北向接口開(kāi)放至上層控制器和網(wǎng)絡(luò)應(yīng)用。這種控制面/用戶(hù)面分離機(jī)制,為網(wǎng)絡(luò)可編程的進(jìn)一步實(shí)現(xiàn)提供了可能。

    2 算力調(diào)度機(jī)制

    隨著云計(jì)算技術(shù)的不斷發(fā)展,基礎(chǔ)設(shè)施領(lǐng)域已有越來(lái)越多的企業(yè)采用云計(jì)算作為統(tǒng)一資源的管理方式。隨著云資源池規(guī)模的不斷擴(kuò)大,算力節(jié)點(diǎn)的調(diào)度主要采用分布式的方式;而傳統(tǒng)的基于云計(jì)算或云原生的算力資源調(diào)度是以虛擬化技術(shù)和進(jìn)程共享技術(shù)來(lái)實(shí)現(xiàn)的[9]?;贠penStack或Kubernetes的算力資源調(diào)度將算力節(jié)點(diǎn)的空閑度作為算力調(diào)度策略的主要評(píng)判依據(jù)。本文中,我們以Kubernetes的資源調(diào)度組件Scheduler為例,重點(diǎn)闡述云原生的算力調(diào)度機(jī)制。

    Scheduler是Kubernetes的核心組件,負(fù)責(zé)為用戶(hù)聲明的Pod資源選擇合適的算力節(jié)點(diǎn),同時(shí)保證集群資源的最大化利用,其任務(wù)資源調(diào)度流程如圖3所示。

    現(xiàn)有的Kubernetes資源調(diào)度機(jī)制根據(jù)用戶(hù)的請(qǐng)求,從資源管理器中獲取資源信息,并且根據(jù)具體的調(diào)度策略將任務(wù)調(diào)度至具體的算力節(jié)點(diǎn)上。

    在網(wǎng)絡(luò)可達(dá)的情況下,現(xiàn)有Kubernetes算力節(jié)點(diǎn)運(yùn)行狀態(tài)監(jiān)測(cè)控制主要通過(guò)算力節(jié)點(diǎn)代理監(jiān)測(cè)的方式來(lái)實(shí)現(xiàn)。通過(guò)采集和上傳算力節(jié)點(diǎn)上的中央處理器(CPU)、存儲(chǔ)、內(nèi)存等信息,并將這些信息上傳至資源管理器,再經(jīng)資源調(diào)度器進(jìn)行策略調(diào)度[10],從而將任務(wù)調(diào)度至指定的算力節(jié)點(diǎn)上。這種算力資源調(diào)度機(jī)制雖然能夠解決分布式環(huán)境中、算力資源非均衡情況下的算力動(dòng)態(tài)調(diào)度問(wèn)題,但必須基于網(wǎng)絡(luò)可達(dá)的情況。該機(jī)制并沒(méi)有考慮到網(wǎng)絡(luò)質(zhì)量、算力節(jié)點(diǎn)的連接,以及傳輸過(guò)程中的網(wǎng)絡(luò)情況。隨著分布式計(jì)算,尤其是大數(shù)據(jù)等多集群甚至是跨數(shù)據(jù)中心協(xié)同處理的發(fā)展,網(wǎng)絡(luò)的數(shù)據(jù)傳輸質(zhì)量往往會(huì)成為影響上層用戶(hù)體驗(yàn)的關(guān)鍵因素,同時(shí)也會(huì)成為跨數(shù)據(jù)中心算力調(diào)度和集群高效協(xié)同的制約因素。傳統(tǒng)的算力調(diào)度機(jī)制僅實(shí)現(xiàn)了計(jì)算資源在非均衡狀態(tài)下的動(dòng)態(tài)調(diào)度,卻未考慮網(wǎng)絡(luò)的服務(wù)質(zhì)量(QoS)或體驗(yàn)質(zhì)量(QoE)。在算網(wǎng)融合應(yīng)用快速發(fā)展的趨勢(shì)下,傳統(tǒng)的算力調(diào)度方式已無(wú)法滿(mǎn)足當(dāng)前需求。

    SDN技術(shù),尤其是可編程網(wǎng)絡(luò)技術(shù)的發(fā)展,促使網(wǎng)絡(luò)能力進(jìn)一步開(kāi)放、可編程化,并使傳統(tǒng)算力調(diào)度機(jī)制能夠更好地融合網(wǎng)絡(luò)因素。本文中,我們通過(guò)算力和網(wǎng)絡(luò)協(xié)同的方式來(lái)實(shí)現(xiàn)算力最優(yōu)化調(diào)度,極大地發(fā)揮了網(wǎng)絡(luò)在數(shù)據(jù)傳輸和轉(zhuǎn)發(fā)方面的優(yōu)勢(shì)。

    3 基于可編程網(wǎng)絡(luò)的算力調(diào)度方案

    基于網(wǎng)絡(luò)的可編程、可控制等能力,并結(jié)合算力節(jié)點(diǎn)空閑度和計(jì)算能力等因素,基于可編程網(wǎng)絡(luò)的算力調(diào)度機(jī)制能夠在網(wǎng)絡(luò)路由和路徑選擇方面實(shí)現(xiàn)算力調(diào)度。本文中,我們研究了通過(guò)編排調(diào)度方式來(lái)實(shí)現(xiàn)算力服務(wù)的編排和管理,以及可編程網(wǎng)絡(luò)能力的開(kāi)放。

    3.1 整體網(wǎng)絡(luò)架構(gòu)

    基于可編程網(wǎng)絡(luò)的管控分離能力,本文在Kubernetes原有調(diào)度方式基礎(chǔ)上,進(jìn)一步研究了基于可編程網(wǎng)絡(luò)的算力調(diào)度機(jī)制。其中,網(wǎng)絡(luò)拓?fù)洳捎脭?shù)據(jù)控制面和數(shù)據(jù)轉(zhuǎn)發(fā)面分離模式,容器計(jì)算集群承載具體的算力分配和容器承載,控制集群和可編程網(wǎng)絡(luò)的數(shù)據(jù)控制面對(duì)接以實(shí)現(xiàn)網(wǎng)絡(luò)控制?;诳删幊叹W(wǎng)絡(luò)的技術(shù)架構(gòu)如圖4所示。

    基于可編程網(wǎng)絡(luò)的算力調(diào)度架構(gòu),面向分布式集群通過(guò)容器控制集群,向數(shù)據(jù)控制面下達(dá)網(wǎng)絡(luò)控制指令;通過(guò)控制器,向數(shù)據(jù)轉(zhuǎn)發(fā)面的轉(zhuǎn)發(fā)設(shè)備發(fā)送數(shù)據(jù)轉(zhuǎn)發(fā)策略和數(shù)據(jù)路由表等網(wǎng)絡(luò)轉(zhuǎn)發(fā)協(xié)議;通過(guò)數(shù)據(jù)轉(zhuǎn)發(fā)面接入的計(jì)算集群,實(shí)現(xiàn)算力節(jié)點(diǎn)的調(diào)度和容器承載?;诳删幊叹W(wǎng)絡(luò)架構(gòu)的數(shù)據(jù)轉(zhuǎn)發(fā),可以改變?cè)腥萜髻Y源僅能在overlay的數(shù)據(jù)中心內(nèi)調(diào)度的情況,實(shí)現(xiàn)基于underlay的跨數(shù)據(jù)中心的算力資源調(diào)度[11]。

    在每一個(gè)算力節(jié)點(diǎn)上,該架構(gòu)采用傳統(tǒng)的master/agent模式來(lái)代理、發(fā)布算力節(jié)點(diǎn)的計(jì)算、存儲(chǔ)和應(yīng)用輸入輸出(IO)等情況,并嘗試將這些情況反饋至控制集群中服務(wù)器的調(diào)度器,從而實(shí)現(xiàn)集群內(nèi)算力節(jié)點(diǎn)的統(tǒng)一管理。網(wǎng)絡(luò)QoS、QoE以及轉(zhuǎn)發(fā)設(shè)備等狀態(tài),通過(guò)數(shù)據(jù)轉(zhuǎn)發(fā)平臺(tái)上傳至控制平面,然后被統(tǒng)一管理。在整個(gè)算力資源編排調(diào)度的過(guò)程中,容器控制集群為用戶(hù)和開(kāi)發(fā)者提供了統(tǒng)一入口,并通過(guò)統(tǒng)一配置腳本、開(kāi)發(fā)變成方式,來(lái)實(shí)現(xiàn)面向服務(wù)的算力和網(wǎng)絡(luò)的統(tǒng)一編排和調(diào)度,從而實(shí)現(xiàn)面向服務(wù)的基于可編程網(wǎng)絡(luò)的算力調(diào)度。

    3.2 算力調(diào)度機(jī)制

    在算力調(diào)度方面,Kuberenetes云原生平臺(tái)提供服務(wù)編排調(diào)度能力,集成網(wǎng)絡(luò)編排能力和計(jì)算服務(wù)編排能力,并通過(guò)Knative實(shí)現(xiàn)統(tǒng)一的應(yīng)用能力封裝和消息隊(duì)列。整體算力調(diào)度層為上層門(mén)戶(hù)提供應(yīng)用程序編程接口(API)網(wǎng)關(guān),也為上層應(yīng)用提供統(tǒng)一的API。這可以開(kāi)放可編程網(wǎng)絡(luò)的算力能力,屏蔽底層網(wǎng)絡(luò)和算力的差異性,并且可以為開(kāi)發(fā)者和用戶(hù)提供統(tǒng)一門(mén)戶(hù),進(jìn)一步降低了可編程網(wǎng)絡(luò)算力調(diào)度的開(kāi)發(fā)門(mén)檻。算力調(diào)度平臺(tái)具體的架構(gòu)如圖5所示。

    整體算力調(diào)度機(jī)制由Kubernetes實(shí)現(xiàn)統(tǒng)一的算力網(wǎng)絡(luò)資源調(diào)度。其中,根據(jù)資源服務(wù)對(duì)象的不同,Kubernetes調(diào)度能力可以分為兩個(gè)方面:一方面是以基礎(chǔ)設(shè)施平臺(tái)即服務(wù)(i-PaaS)能力為主,實(shí)現(xiàn)對(duì)底層基礎(chǔ)設(shè)施算力資源的調(diào)度,借助控制平面的對(duì)接來(lái)實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)數(shù)據(jù)面的調(diào)度和管理,通過(guò)對(duì)接不同的Kuberentes云原生集群實(shí)現(xiàn)對(duì)底層云原生集群的調(diào)度管理;另一方面是以應(yīng)用層PaaS(A-PaaS)能力為主,實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)編排和計(jì)算服務(wù)編排的服務(wù)能力管理。面向上層的能力調(diào)度主要包含網(wǎng)絡(luò)編排和服務(wù)編排兩個(gè)方面。

    (1)網(wǎng)絡(luò)編排

    網(wǎng)絡(luò)編排主要是指,對(duì)底層的網(wǎng)絡(luò)服務(wù)編排能力進(jìn)行硬件資源的抽象和能力的建模,并通過(guò)服務(wù)編排來(lái)實(shí)現(xiàn)網(wǎng)絡(luò)控制。本文中,我們提出基于 SDN的寬帶接入(SEBA)容器化架構(gòu),以實(shí)現(xiàn)SDN網(wǎng)絡(luò)訪(fǎng)問(wèn)。SEBA的核心組件主要包括開(kāi)放網(wǎng)絡(luò)操作系統(tǒng)(ONOS)、Kafka、VOLTHA、XOS。

    ONOS:實(shí)現(xiàn)SDN網(wǎng)絡(luò)操作系統(tǒng),對(duì)網(wǎng)絡(luò)服務(wù)編排實(shí)現(xiàn)統(tǒng)一的資源調(diào)度和管理。

    Kafka:實(shí)現(xiàn)REST的消息隊(duì)列管理,并通過(guò)上層的服務(wù)能力對(duì)底層硬件的訪(fǎng)問(wèn)請(qǐng)求消息進(jìn)行統(tǒng)一管理。

    VOLTHA:實(shí)現(xiàn)底層網(wǎng)絡(luò)接入設(shè)備和轉(zhuǎn)發(fā)設(shè)備的硬件資源抽象,從而使用和訪(fǎng)問(wèn)上層的網(wǎng)絡(luò)功能。

    XOS:實(shí)現(xiàn)網(wǎng)絡(luò)功能虛擬化和服務(wù)化,并可以基于SDN控制器的可編程能力實(shí)現(xiàn)網(wǎng)絡(luò)控制和功能軟件定義能力。

    (2)服務(wù)編排

    服務(wù)編排可以實(shí)現(xiàn)對(duì)PaaS和軟件即服務(wù)(SaaS)能力的容器化調(diào)度。由于云原生具有服務(wù)化和微服務(wù)化的能力,因此在實(shí)現(xiàn)算力調(diào)度的過(guò)程中,基于不同的應(yīng)用場(chǎng)景,我們提出了3個(gè)方面的服務(wù)能力。

    計(jì)算能力集:集成目前云原生統(tǒng)一的計(jì)算型能力庫(kù),包括Spark、Hadoop、Hive、Flink等。

    數(shù)據(jù)庫(kù):采用傳統(tǒng)的數(shù)據(jù)庫(kù)服務(wù)能力,為上層的應(yīng)用和業(yè)務(wù)場(chǎng)景提供一鍵部署式的云原生數(shù)據(jù)庫(kù),包括Mysql、MangoDB等。

    人工智能:包括面向人工智能場(chǎng)景的推理和訓(xùn)練,以及對(duì)硬件加速有特定需求的算力調(diào)度能力。

    這些服務(wù)能力統(tǒng)一由Kubernetes來(lái)實(shí)現(xiàn)編排。通過(guò)Kubernetes的調(diào)度擴(kuò)展接口和平臺(tái)內(nèi)部調(diào)度器對(duì)接,從而能夠?qū)崿F(xiàn)PaaS和SaaS服務(wù)的容器化調(diào)度。

    通過(guò)Knative來(lái)完成統(tǒng)一服務(wù)能力的封裝和打包,通過(guò)Knative的API網(wǎng)關(guān)提供統(tǒng)一的網(wǎng)絡(luò)和算力調(diào)度接口,并通過(guò)統(tǒng)一的門(mén)戶(hù)對(duì)外開(kāi)放,開(kāi)發(fā)者可以根據(jù)網(wǎng)絡(luò)和算力調(diào)度能力進(jìn)行網(wǎng)絡(luò)編程。這樣可以進(jìn)一步融合底層網(wǎng)絡(luò)和算力,實(shí)現(xiàn)基于可編程網(wǎng)絡(luò)的算力調(diào)度。同時(shí),用戶(hù)也可以更加關(guān)注上層業(yè)務(wù)邏輯和業(yè)務(wù)流程。

    3.3 可編程網(wǎng)絡(luò)編排機(jī)制

    構(gòu)建在傳統(tǒng)SDN架構(gòu)上的可編程網(wǎng)絡(luò)算力調(diào)度機(jī)制,不僅實(shí)現(xiàn)了網(wǎng)絡(luò)控制面和用戶(hù)面的分離,還實(shí)現(xiàn)了基于云原生統(tǒng)一Kubernetes平臺(tái)的服務(wù)編排調(diào)度能力。在可編程網(wǎng)絡(luò)服務(wù)編排能力方面,隨著網(wǎng)絡(luò)轉(zhuǎn)發(fā)設(shè)備的普及,基于P4的網(wǎng)絡(luò)可編程能力實(shí)現(xiàn)了網(wǎng)絡(luò)的可編程。另外,網(wǎng)絡(luò)組件本身也可以進(jìn)行容器化,并可以調(diào)度到具備P4功能的白盒交換機(jī)上?;谌萜骰目删幊叹W(wǎng)絡(luò)編排架構(gòu)如圖6所示。

    依據(jù)上述可編程網(wǎng)絡(luò)算力編排技術(shù)架構(gòu),P4交換機(jī)集成了專(zhuān)門(mén)針對(duì)P4的運(yùn)行時(shí)(Runtime)。在通用計(jì)算節(jié)點(diǎn)上,運(yùn)行時(shí)集成了運(yùn)行應(yīng)用程序的鏡像。在整個(gè)技術(shù)架構(gòu)中,面向上層的網(wǎng)絡(luò)功能和應(yīng)用程序提供了統(tǒng)一的容器封裝能力,用于打包和封裝容器鏡像。其中,在網(wǎng)絡(luò)功能容器化封裝的過(guò)程中,P4編譯器專(zhuān)門(mén)用于服務(wù)網(wǎng)絡(luò)功能程序,即將網(wǎng)絡(luò)功能程序編譯成可在P4交換機(jī)上運(yùn)行的可執(zhí)行程序后,再進(jìn)行容器化封裝。Kubernetes平臺(tái)實(shí)現(xiàn)了P4交換機(jī)和通用計(jì)算節(jié)點(diǎn)的算力資源調(diào)度和服務(wù)編排。根據(jù)網(wǎng)絡(luò)功能和應(yīng)用程序的不同,Kubernetes平臺(tái)分別將網(wǎng)絡(luò)功能調(diào)度到P4交換機(jī)上運(yùn)行,將應(yīng)用程序調(diào)度到通用計(jì)算節(jié)點(diǎn)上運(yùn)行[12]。面向上層開(kāi)發(fā)者則提供統(tǒng)一的開(kāi)發(fā)平臺(tái)、API、網(wǎng)絡(luò)可編程能力和應(yīng)用程序開(kāi)發(fā)能力,從而實(shí)現(xiàn)可編程網(wǎng)絡(luò)和應(yīng)用程序。這樣一來(lái),基于可編程網(wǎng)絡(luò)的算力調(diào)度技術(shù)在代碼開(kāi)發(fā)階段就能夠進(jìn)行融合開(kāi)發(fā),滿(mǎn)足目前越來(lái)越多的算網(wǎng)融合場(chǎng)景下的應(yīng)用程序開(kāi)發(fā)需求。

    4 結(jié)束語(yǔ)

    異構(gòu)算力網(wǎng)絡(luò)是下一代云網(wǎng)融合2.0的發(fā)展趨勢(shì)?;诳删幊叹W(wǎng)絡(luò)的算力調(diào)度機(jī)制,能夠在網(wǎng)絡(luò)可編程的基礎(chǔ)上,實(shí)現(xiàn)傳統(tǒng)算力調(diào)度無(wú)法實(shí)現(xiàn)的基于網(wǎng)絡(luò)的算力調(diào)度方式。該機(jī)制可以根據(jù)網(wǎng)絡(luò)情況進(jìn)行算力調(diào)度,也可以基于算力調(diào)度需求進(jìn)行網(wǎng)絡(luò)適配和可編程,從而真正實(shí)現(xiàn)云網(wǎng)融合[13-15]。本文中,我們所提出的基于可編程網(wǎng)絡(luò)的算力調(diào)度技術(shù),是基于云原生技術(shù)來(lái)實(shí)現(xiàn)算力網(wǎng)絡(luò)的融合調(diào)度。傳統(tǒng)的云原生調(diào)度僅能基于overlay網(wǎng)絡(luò)實(shí)現(xiàn)算力調(diào)度,而該技術(shù)則可以實(shí)現(xiàn)基于underlay網(wǎng)絡(luò)的算力調(diào)度和服務(wù)編排能力。該技術(shù)還可以提供業(yè)務(wù)感知的網(wǎng)絡(luò)編排能力,從而能為后續(xù)的網(wǎng)絡(luò)感知業(yè)務(wù)提供新的研究思路和發(fā)展方向。

    致謝

    本研究得到中國(guó)聯(lián)通研究院李建飛高級(jí)工程師的幫助,同時(shí)也得到了中國(guó)聯(lián)通研究院首席科學(xué)家唐雄燕的指導(dǎo),謹(jǐn)致謝意!

    參考文獻(xiàn)

    [1] 耿俊杰, 顏金堯. 基于可編程數(shù)據(jù)平面的網(wǎng)絡(luò)體系架構(gòu)綜述 [J].中國(guó)傳媒大學(xué)學(xué)報(bào)(自然科學(xué)版), 2019, 26(5): 38-43

    [2] 左志斌, 常朝穩(wěn), 祝現(xiàn)威.一種基于數(shù)據(jù)平面可編程的軟件定義網(wǎng)絡(luò)報(bào)文轉(zhuǎn)發(fā)驗(yàn)證機(jī)制 [J]. 電子與信息學(xué)報(bào), 2020, 42(5): 1110-1117

    [3] 李銘軒, 邢鑫, 王本忠. 面向電信運(yùn)營(yíng)商的容器云SDN云網(wǎng)一體化方案研究 [J].信息通信技術(shù), 2019, 13(2):7-12+25

    [4] 房秉毅, 張?jiān)朴拢?陳清金, 等. 云計(jì)算網(wǎng)絡(luò)虛擬化技術(shù) [J]. 信息通信技術(shù), 2011, 5(1): 50-53

    [5] 程瑩, 張?jiān)朴? SDN應(yīng)用及北向接口技術(shù)研究 [J].信息通信技術(shù), 2014, 8(1):36-39

    [6] 林耘森簫, 畢軍, 周禹, 等. 基于P4的可編程數(shù)據(jù)平面研究及其應(yīng)用 [J]. 計(jì)算機(jī)學(xué)報(bào), 2019, 42(11): 2539-2560

    [7] 衣曉玉, 秦斌, 吳文斐, 等. 基于P4交換機(jī)的MAP卸載技術(shù)設(shè)計(jì)與實(shí)現(xiàn) [J]. 深圳大學(xué)學(xué)報(bào)(理工版), 2020, 37(S1): 112-117

    [8] WANG S, WU J, YANG W, et al. Novel architectures and security solutions of programmable software-defined networking: a comprehensive survey [J]. Frontiers of information technology & electronic engineering, 2018, 19(12): 1500-1521

    [9] 李銘軒, 曹暢, 唐雄燕, 等. 面向算力網(wǎng)絡(luò)的邊緣資源調(diào)度解決方案研究 [J]. 數(shù)據(jù)與計(jì)算發(fā)展前沿, 2020, 2(4): 80-91

    [10] 劉暢, 毋濤, 徐雷. 基于無(wú)服務(wù)器架構(gòu)的邊緣AI計(jì)算平臺(tái) [J]. 信息通信技術(shù), 2018, 12(5): 45-49

    [11] 何濤, 曹暢, 唐雄燕, 等. 面向6G需求的算力網(wǎng)絡(luò)技術(shù) [J]. 移動(dòng)通信, 2020, 44(6): 131-135

    [12] 李銘軒, 魏進(jìn)武, 張?jiān)朴? 面向電信運(yùn)營(yíng)商的IT資源微服務(wù)化方案 [J]. 信息通信技術(shù), 2017, 11(2): 48-55

    [13] 彭新玉.基于軟件定義的可虛擬化未來(lái)網(wǎng)絡(luò)關(guān)鍵技術(shù)研究及產(chǎn)業(yè)化 [J]. 電子世界, 2020(9): 5-6

    [14] SIVARAMAN A, MASON T, PANDA A, et al. Network architecture in the age of programmability [J]. ACM SIGCOMM computer communication review, 2020, 50(1): 38-44

    [15] VULETIC P, BOSAK B, DIMOLIANIS M, et al. Localization of network service performance degradation in multi-tenant networks [J]. Computer networks, 2020, 168: 107050

    作者簡(jiǎn)介

    李銘軒,中國(guó)聯(lián)合網(wǎng)絡(luò)通信有限公司研究院高級(jí)工程師、IEEE高級(jí)會(huì)員、中國(guó)電子學(xué)會(huì)高級(jí)會(huì)員;主要研究方向?yàn)榇髷?shù)據(jù)技術(shù)、云計(jì)算技術(shù)、業(yè)務(wù)平臺(tái)技術(shù)和IT支撐系統(tǒng)技術(shù);已發(fā)表論文20余篇,授權(quán)專(zhuān)利10余項(xiàng)。

    曹暢,中國(guó)聯(lián)合網(wǎng)絡(luò)通信有限公司研究院未來(lái)網(wǎng)絡(luò)研究部高級(jí)專(zhuān)家、智能云網(wǎng)技術(shù)研究室主任;主要研究方向?yàn)镮P網(wǎng)寬帶通信、SDN/NFV、新一代網(wǎng)絡(luò)編排技術(shù)等。

    楊建軍,中國(guó)聯(lián)合網(wǎng)絡(luò)通信公司研究院未來(lái)網(wǎng)絡(luò)研究部高級(jí)工程師,主要研究方向?yàn)殚_(kāi)放網(wǎng)絡(luò)、未來(lái)網(wǎng)絡(luò)、SDN/NFV、開(kāi)放硬件、網(wǎng)絡(luò)開(kāi)源軟件等;獲得授權(quán)專(zhuān)利20余項(xiàng)。

    亚洲av福利一区| 视频区图区小说| 中文字幕免费在线视频6| 成人毛片60女人毛片免费| 一级毛片aaaaaa免费看小| 久久人人爽人人片av| 青春草亚洲视频在线观看| 男女无遮挡免费网站观看| 偷拍熟女少妇极品色| 亚洲欧美日韩东京热| 亚洲欧美一区二区三区国产| 丰满迷人的少妇在线观看| 一个人看视频在线观看www免费| 欧美 日韩 精品 国产| 热re99久久国产66热| 搡老乐熟女国产| 高清午夜精品一区二区三区| 狂野欧美白嫩少妇大欣赏| 最新中文字幕久久久久| 中文字幕制服av| 少妇的逼好多水| 国产欧美亚洲国产| 国产无遮挡羞羞视频在线观看| 少妇裸体淫交视频免费看高清| 国产极品天堂在线| 亚洲电影在线观看av| 中文字幕人妻熟人妻熟丝袜美| 国产精品久久久久久av不卡| 99精国产麻豆久久婷婷| 久久婷婷青草| 美女视频免费永久观看网站| 亚洲四区av| 最新中文字幕久久久久| 波野结衣二区三区在线| 国产精品一区www在线观看| 五月玫瑰六月丁香| 欧美日韩视频精品一区| 中文天堂在线官网| 黄色日韩在线| 国产精品99久久99久久久不卡 | av播播在线观看一区| 成年女人在线观看亚洲视频| 亚洲成人手机| 国产高清不卡午夜福利| 极品少妇高潮喷水抽搐| 欧美日韩av久久| 国产精品久久久久久av不卡| 亚洲情色 制服丝袜| 日韩不卡一区二区三区视频在线| 亚洲第一av免费看| 最近手机中文字幕大全| 久久久久久伊人网av| 麻豆成人av视频| 国产精品久久久久久精品古装| 啦啦啦在线观看免费高清www| .国产精品久久| 中国美白少妇内射xxxbb| 青春草视频在线免费观看| 欧美3d第一页| 菩萨蛮人人尽说江南好唐韦庄| 中文在线观看免费www的网站| 少妇猛男粗大的猛烈进出视频| 日产精品乱码卡一卡2卡三| a级片在线免费高清观看视频| 国产中年淑女户外野战色| 少妇猛男粗大的猛烈进出视频| 97超视频在线观看视频| 3wmmmm亚洲av在线观看| 国产有黄有色有爽视频| 十八禁高潮呻吟视频 | 国产视频首页在线观看| 免费久久久久久久精品成人欧美视频 | 男人爽女人下面视频在线观看| 午夜日本视频在线| 欧美变态另类bdsm刘玥| a级毛色黄片| 久久 成人 亚洲| 日本与韩国留学比较| h日本视频在线播放| h视频一区二区三区| 蜜桃久久精品国产亚洲av| 99热全是精品| 在线观看免费高清a一片| 草草在线视频免费看| 黑丝袜美女国产一区| 黄色欧美视频在线观看| videossex国产| 中文在线观看免费www的网站| 久久 成人 亚洲| 亚洲av电影在线观看一区二区三区| 欧美bdsm另类| 亚洲欧美精品自产自拍| 伦理电影大哥的女人| 国产成人午夜福利电影在线观看| 99热6这里只有精品| 午夜免费鲁丝| 成人漫画全彩无遮挡| 狂野欧美激情性xxxx在线观看| 一本—道久久a久久精品蜜桃钙片| 边亲边吃奶的免费视频| 日韩一本色道免费dvd| 久久久亚洲精品成人影院| 欧美区成人在线视频| 美女中出高潮动态图| 香蕉精品网在线| 韩国av在线不卡| 亚洲一级一片aⅴ在线观看| 国产极品天堂在线| 国产免费福利视频在线观看| 欧美日韩一区二区视频在线观看视频在线| 国产精品一区二区三区四区免费观看| 亚洲欧美成人精品一区二区| 18+在线观看网站| 国产91av在线免费观看| 国产精品嫩草影院av在线观看| 99九九线精品视频在线观看视频| 极品人妻少妇av视频| 99精国产麻豆久久婷婷| 伦理电影大哥的女人| 国产男女超爽视频在线观看| 少妇高潮的动态图| av专区在线播放| 秋霞伦理黄片| 中文在线观看免费www的网站| 国产在线一区二区三区精| 青春草国产在线视频| 精品国产国语对白av| 五月玫瑰六月丁香| 日本与韩国留学比较| 日本免费在线观看一区| 又爽又黄a免费视频| 国产成人aa在线观看| 久久97久久精品| 中文字幕av电影在线播放| 久久国产亚洲av麻豆专区| 美女福利国产在线| 国产精品人妻久久久影院| 亚洲天堂av无毛| 精品熟女少妇av免费看| h日本视频在线播放| 18+在线观看网站| 在线观看www视频免费| 欧美 亚洲 国产 日韩一| 精品卡一卡二卡四卡免费| 久久国产亚洲av麻豆专区| 久久国产亚洲av麻豆专区| 亚洲,一卡二卡三卡| 久久久久人妻精品一区果冻| 久久久久视频综合| 久久久亚洲精品成人影院| 久久久久久久久久久免费av| 国产探花极品一区二区| 伊人久久国产一区二区| 免费黄色在线免费观看| 热re99久久精品国产66热6| 国产69精品久久久久777片| 亚洲精品第二区| av女优亚洲男人天堂| 18禁在线无遮挡免费观看视频| 日日撸夜夜添| 亚洲精品久久久久久婷婷小说| 午夜视频国产福利| 国产深夜福利视频在线观看| 妹子高潮喷水视频| 亚洲不卡免费看| 纯流量卡能插随身wifi吗| 亚洲精品一区蜜桃| 乱人伦中国视频| 免费黄网站久久成人精品| 下体分泌物呈黄色| 一级毛片我不卡| av在线播放精品| 最近中文字幕高清免费大全6| 国产亚洲91精品色在线| 色吧在线观看| 久久久久视频综合| 夫妻午夜视频| 在线观看美女被高潮喷水网站| 啦啦啦在线观看免费高清www| 少妇人妻久久综合中文| 日韩av在线免费看完整版不卡| 亚洲经典国产精华液单| 欧美激情极品国产一区二区三区 | 交换朋友夫妻互换小说| 边亲边吃奶的免费视频| 黄片无遮挡物在线观看| 国产欧美日韩综合在线一区二区 | 国产极品粉嫩免费观看在线 | 国国产精品蜜臀av免费| 观看美女的网站| 成人18禁高潮啪啪吃奶动态图 | 视频区图区小说| 免费不卡的大黄色大毛片视频在线观看| 亚洲精品久久久久久婷婷小说| 国产免费福利视频在线观看| 肉色欧美久久久久久久蜜桃| 婷婷色麻豆天堂久久| 如日韩欧美国产精品一区二区三区 | 国产高清国产精品国产三级| av又黄又爽大尺度在线免费看| 国产极品粉嫩免费观看在线 | 少妇熟女欧美另类| 天堂俺去俺来也www色官网| 亚洲精品中文字幕在线视频 | 国产无遮挡羞羞视频在线观看| 亚洲欧美日韩另类电影网站| 国产无遮挡羞羞视频在线观看| 亚洲国产精品国产精品| 极品教师在线视频| 在线亚洲精品国产二区图片欧美 | 一区二区三区乱码不卡18| 啦啦啦中文免费视频观看日本| 久久久久人妻精品一区果冻| 在线观看国产h片| 日日爽夜夜爽网站| 一本大道久久a久久精品| a 毛片基地| 香蕉精品网在线| 精品一区二区三卡| 日日摸夜夜添夜夜添av毛片| 高清视频免费观看一区二区| 高清视频免费观看一区二区| 99re6热这里在线精品视频| 99re6热这里在线精品视频| 久久女婷五月综合色啪小说| 国产精品久久久久久久电影| 三级经典国产精品| 少妇的逼水好多| 99久久精品一区二区三区| 国产白丝娇喘喷水9色精品| 国产永久视频网站| 精品国产乱码久久久久久小说| 七月丁香在线播放| 国产亚洲午夜精品一区二区久久| 爱豆传媒免费全集在线观看| 一本—道久久a久久精品蜜桃钙片| 免费观看a级毛片全部| 国产伦精品一区二区三区视频9| 九九久久精品国产亚洲av麻豆| 99久久中文字幕三级久久日本| 我的女老师完整版在线观看| 亚洲欧美成人综合另类久久久| 色婷婷av一区二区三区视频| 国产欧美另类精品又又久久亚洲欧美| 成人影院久久| 一本—道久久a久久精品蜜桃钙片| 自拍欧美九色日韩亚洲蝌蚪91 | 一区二区三区四区激情视频| 一区二区三区乱码不卡18| 最近的中文字幕免费完整| 亚洲国产成人一精品久久久| 丝瓜视频免费看黄片| 男女无遮挡免费网站观看| 黄色一级大片看看| 欧美激情极品国产一区二区三区 | 午夜福利影视在线免费观看| 国产黄色视频一区二区在线观看| 99热6这里只有精品| 亚洲成人一二三区av| 韩国高清视频一区二区三区| 色视频www国产| 久久精品久久久久久久性| 久久精品国产鲁丝片午夜精品| 免费人成在线观看视频色| 熟女av电影| 亚洲经典国产精华液单| 纵有疾风起免费观看全集完整版| 22中文网久久字幕| 69精品国产乱码久久久| 高清av免费在线| 亚洲色图综合在线观看| 成年人午夜在线观看视频| 亚洲人与动物交配视频| 一本久久精品| 人妻系列 视频| 久久久久久人妻| 涩涩av久久男人的天堂| 欧美老熟妇乱子伦牲交| 国产探花极品一区二区| 成年人免费黄色播放视频 | av天堂中文字幕网| 天堂中文最新版在线下载| 搡女人真爽免费视频火全软件| 中国国产av一级| 国产精品一二三区在线看| 精品亚洲成a人片在线观看| 亚洲人成网站在线观看播放| 人妻一区二区av| 在线天堂最新版资源| 看免费成人av毛片| 女性生殖器流出的白浆| 高清黄色对白视频在线免费看 | 国模一区二区三区四区视频| 乱系列少妇在线播放| 中文字幕制服av| 人人妻人人爽人人添夜夜欢视频 | 国产 一区精品| 大片电影免费在线观看免费| 丰满乱子伦码专区| 嫩草影院新地址| av国产久精品久网站免费入址| 亚洲欧美清纯卡通| 久久久久精品性色| av黄色大香蕉| a级片在线免费高清观看视频| 欧美激情极品国产一区二区三区 | 久久人人爽人人爽人人片va| 国产高清有码在线观看视频| 午夜激情福利司机影院| 亚洲第一av免费看| 黑丝袜美女国产一区| 欧美精品一区二区免费开放| 极品人妻少妇av视频| 国产综合精华液| 五月天丁香电影| 中文字幕制服av| 免费看不卡的av| 肉色欧美久久久久久久蜜桃| 久久精品国产自在天天线| 成人国产av品久久久| 国产亚洲一区二区精品| 97在线人人人人妻| 久久精品国产鲁丝片午夜精品| 成年女人在线观看亚洲视频| 午夜福利,免费看| 看免费成人av毛片| 天天躁夜夜躁狠狠久久av| 婷婷色综合大香蕉| 亚洲自偷自拍三级| 国产av国产精品国产| 国产精品国产三级国产专区5o| 内地一区二区视频在线| 亚洲在久久综合| 这个男人来自地球电影免费观看 | 色婷婷久久久亚洲欧美| 极品教师在线视频| 亚洲国产毛片av蜜桃av| 黄色一级大片看看| 精品人妻偷拍中文字幕| 中国三级夫妇交换| 91在线精品国自产拍蜜月| 王馨瑶露胸无遮挡在线观看| 久久久久网色| 精品亚洲乱码少妇综合久久| 国产av码专区亚洲av| 少妇丰满av| 青青草视频在线视频观看| av不卡在线播放| 极品少妇高潮喷水抽搐| 国产精品一区二区在线观看99| 男女免费视频国产| 搡女人真爽免费视频火全软件| 少妇的逼好多水| 毛片一级片免费看久久久久| 国产精品99久久99久久久不卡 | 久久鲁丝午夜福利片| 亚洲精品日韩在线中文字幕| 夫妻午夜视频| 中文字幕精品免费在线观看视频 | 在线看a的网站| 日日撸夜夜添| 一区二区三区四区激情视频| 另类精品久久| 国产毛片在线视频| 亚洲一区二区三区欧美精品| 日本wwww免费看| 日韩av不卡免费在线播放| 日日撸夜夜添| 夜夜骑夜夜射夜夜干| 中文在线观看免费www的网站| 国产在线免费精品| 欧美bdsm另类| 校园人妻丝袜中文字幕| 国产黄色视频一区二区在线观看| 嘟嘟电影网在线观看| 80岁老熟妇乱子伦牲交| 精品人妻熟女毛片av久久网站| 大话2 男鬼变身卡| 18禁裸乳无遮挡动漫免费视频| 日日摸夜夜添夜夜爱| 国产精品久久久久久久久免| 成年人免费黄色播放视频 | 99热国产这里只有精品6| 高清av免费在线| 亚洲国产色片| 欧美3d第一页| 国产成人午夜福利电影在线观看| 欧美成人精品欧美一级黄| 99国产精品免费福利视频| 免费观看a级毛片全部| 日日爽夜夜爽网站| av黄色大香蕉| 亚洲国产日韩一区二区| 亚洲第一区二区三区不卡| 亚洲av男天堂| 一本大道久久a久久精品| av黄色大香蕉| 久久久久国产网址| 国产一区二区三区av在线| av在线播放精品| 熟妇人妻不卡中文字幕| av福利片在线观看| av福利片在线| 高清不卡的av网站| 久久国产精品男人的天堂亚洲 | 大片电影免费在线观看免费| 国产片特级美女逼逼视频| 成人美女网站在线观看视频| av福利片在线观看| av播播在线观看一区| 久久综合国产亚洲精品| 精品人妻熟女av久视频| 亚洲丝袜综合中文字幕| 这个男人来自地球电影免费观看 | 亚洲欧美中文字幕日韩二区| 国产精品麻豆人妻色哟哟久久| 亚洲av二区三区四区| 国内揄拍国产精品人妻在线| 一级毛片我不卡| 赤兔流量卡办理| 精品人妻偷拍中文字幕| 97在线视频观看| 亚洲成人一二三区av| 在线精品无人区一区二区三| 国产精品福利在线免费观看| 少妇裸体淫交视频免费看高清| 麻豆精品久久久久久蜜桃| 内射极品少妇av片p| 一区二区三区精品91| 免费观看性生交大片5| 国产爽快片一区二区三区| 欧美日本中文国产一区发布| 精品久久久久久电影网| 国产精品久久久久成人av| 久久精品熟女亚洲av麻豆精品| 久久久久久久久久久久大奶| 欧美性感艳星| 晚上一个人看的免费电影| 看免费成人av毛片| 亚洲一级一片aⅴ在线观看| 国产黄色视频一区二区在线观看| 久久这里有精品视频免费| 一级av片app| 嘟嘟电影网在线观看| 免费看光身美女| 性色av一级| 国产亚洲一区二区精品| 亚洲av二区三区四区| 国产国拍精品亚洲av在线观看| 国产精品99久久99久久久不卡 | av播播在线观看一区| 久久6这里有精品| 99热这里只有精品一区| 精品人妻熟女毛片av久久网站| 汤姆久久久久久久影院中文字幕| 午夜久久久在线观看| 啦啦啦啦在线视频资源| 最新的欧美精品一区二区| 日日爽夜夜爽网站| 精品亚洲乱码少妇综合久久| 肉色欧美久久久久久久蜜桃| 国产精品欧美亚洲77777| 男人狂女人下面高潮的视频| 高清视频免费观看一区二区| 欧美日韩视频精品一区| 亚洲国产最新在线播放| 国产精品不卡视频一区二区| 日本vs欧美在线观看视频 | 97在线人人人人妻| 中文资源天堂在线| 久久99精品国语久久久| 卡戴珊不雅视频在线播放| 日本91视频免费播放| 亚洲精品亚洲一区二区| 久久久久人妻精品一区果冻| 美女视频免费永久观看网站| 国产伦在线观看视频一区| 国产熟女午夜一区二区三区 | 爱豆传媒免费全集在线观看| 青春草国产在线视频| 午夜福利在线观看免费完整高清在| 久久久精品94久久精品| 日日啪夜夜爽| 日韩欧美 国产精品| 有码 亚洲区| 麻豆成人午夜福利视频| 高清视频免费观看一区二区| 国产欧美另类精品又又久久亚洲欧美| a级毛色黄片| 国产有黄有色有爽视频| 91久久精品国产一区二区成人| 久久精品国产鲁丝片午夜精品| 中文字幕人妻丝袜制服| 激情五月婷婷亚洲| 国产精品久久久久久久久免| 国产成人精品久久久久久| 少妇裸体淫交视频免费看高清| 亚洲精品一二三| 22中文网久久字幕| 一区二区三区乱码不卡18| 亚洲,欧美,日韩| 桃花免费在线播放| 亚洲av综合色区一区| 22中文网久久字幕| 久久国产亚洲av麻豆专区| 中文字幕久久专区| 国产精品福利在线免费观看| 高清欧美精品videossex| 国产亚洲av片在线观看秒播厂| 99视频精品全部免费 在线| 国产视频首页在线观看| av线在线观看网站| 欧美精品人与动牲交sv欧美| 免费观看无遮挡的男女| 精品视频人人做人人爽| 国产欧美日韩综合在线一区二区 | 欧美丝袜亚洲另类| 美女大奶头黄色视频| 国模一区二区三区四区视频| 97超碰精品成人国产| 久久久久视频综合| 热re99久久精品国产66热6| 色94色欧美一区二区| 青春草亚洲视频在线观看| 亚洲精品一区蜜桃| 自拍偷自拍亚洲精品老妇| 日日摸夜夜添夜夜爱| 精品一品国产午夜福利视频| 国产成人91sexporn| 最近2019中文字幕mv第一页| 免费大片黄手机在线观看| 777米奇影视久久| 久久久久久久大尺度免费视频| 麻豆成人av视频| 免费av中文字幕在线| 乱码一卡2卡4卡精品| 亚洲精品日韩av片在线观看| 乱系列少妇在线播放| 大话2 男鬼变身卡| 夜夜骑夜夜射夜夜干| 女人久久www免费人成看片| 最近中文字幕高清免费大全6| 精品亚洲成国产av| 深夜a级毛片| 18禁在线无遮挡免费观看视频| 赤兔流量卡办理| 亚洲欧美成人综合另类久久久| 简卡轻食公司| 免费看光身美女| 国产成人91sexporn| 色视频在线一区二区三区| 亚洲三级黄色毛片| 草草在线视频免费看| 成年av动漫网址| 亚洲天堂av无毛| 久久精品久久久久久久性| 欧美日韩视频精品一区| 国产视频内射| 汤姆久久久久久久影院中文字幕| av不卡在线播放| 一级毛片黄色毛片免费观看视频| 国产免费视频播放在线视频| 亚洲精华国产精华液的使用体验| 97超视频在线观看视频| 超碰97精品在线观看| 亚洲精品自拍成人| 熟女人妻精品中文字幕| 插逼视频在线观看| 六月丁香七月| 国产欧美亚洲国产| 我要看日韩黄色一级片| 欧美成人午夜免费资源| 午夜av观看不卡| 人妻系列 视频| 五月伊人婷婷丁香| 嘟嘟电影网在线观看| av免费观看日本| 美女视频免费永久观看网站| 如日韩欧美国产精品一区二区三区 | 在线亚洲精品国产二区图片欧美 | 国产成人精品无人区| 高清欧美精品videossex| 大陆偷拍与自拍| 六月丁香七月| 在线精品无人区一区二区三| 久久午夜综合久久蜜桃| a级一级毛片免费在线观看| 免费不卡的大黄色大毛片视频在线观看| 极品教师在线视频| 蜜臀久久99精品久久宅男| 国产乱来视频区| 国产极品天堂在线| 色视频www国产| 在线观看av片永久免费下载| 男人和女人高潮做爰伦理| 久久国产精品大桥未久av | 国产色婷婷99| 亚洲精品乱久久久久久| 99热这里只有是精品50| 免费不卡的大黄色大毛片视频在线观看| 亚洲不卡免费看| 久久精品国产自在天天线| 久久人人爽人人片av| 亚洲精品日韩在线中文字幕| 最近2019中文字幕mv第一页| 男女啪啪激烈高潮av片| 欧美精品亚洲一区二区| 中文字幕人妻丝袜制服| 日本欧美国产在线视频| 大话2 男鬼变身卡| 在线 av 中文字幕| 男女免费视频国产| 乱系列少妇在线播放| 日韩av在线免费看完整版不卡| 乱系列少妇在线播放|