• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于可編程網(wǎng)絡(luò)的算力調(diào)度機(jī)制研究

    2021-11-28 00:58李銘軒曹暢楊建軍
    中興通訊技術(shù) 2021年3期

    李銘軒 曹暢 楊建軍

    摘要:結(jié)合最新的可編程網(wǎng)絡(luò)技術(shù),提出了算力資源調(diào)度技術(shù),并介紹了技術(shù)架構(gòu)和算力調(diào)度機(jī)制。在算力資源調(diào)度技術(shù)架構(gòu)的基礎(chǔ)上,進(jìn)一步提出了整體平臺(tái)功能架構(gòu)和編程架構(gòu)。基于可編程網(wǎng)絡(luò)的算力資源調(diào)度技術(shù)解決了目前算力調(diào)度過(guò)程中無(wú)法實(shí)現(xiàn)的網(wǎng)絡(luò)參數(shù)問(wèn)題,從而能夠更好地實(shí)現(xiàn)網(wǎng)絡(luò)和算力的融合。

    關(guān)鍵詞:可編程網(wǎng)絡(luò);云原生;P4;無(wú)服務(wù)

    Abstract: Combined with the latest programmable network technology, the computing power resource scheduling technology is proposed, and the overall technical architecture and computing power scheduling mechanism are introduced. Based on the technical architecture of computing power resource scheduling, the overall platform functional architecture and programming architecture are further proposed. The computing power scheduling mechanism based on the programmable network solves the current bottleneck of network parameters that cannot be achieved in the current computing power scheduling process, which can better achieve the integration of network and computing power.

    Keywords: programmable network; cloud native; P4; serverless

    軟件定義網(wǎng)絡(luò)(SDN)通過(guò)網(wǎng)絡(luò)控制邏輯(控制平面)與轉(zhuǎn)發(fā)流量(數(shù)據(jù)平面)的分離,將傳統(tǒng)封閉的網(wǎng)絡(luò)體系解耦為數(shù)據(jù)平面、控制平面和應(yīng)用平面,簡(jiǎn)化策略實(shí)施和網(wǎng)絡(luò)配置[1]。 2008年,以斯坦福大學(xué)Nick MCKEOWN教授為首的研究團(tuán)隊(duì)提出了OpenFlow以及SDN技術(shù)。自此,SDN技術(shù)獲得了業(yè)界的高度關(guān)注,一系列相關(guān)應(yīng)用被提出,極大地促進(jìn)了網(wǎng)絡(luò)創(chuàng)新發(fā)展。2014年,在SDN基礎(chǔ)上,研究者又提出了可變成數(shù)據(jù)平臺(tái)技術(shù),將網(wǎng)絡(luò)編程能力擴(kuò)展到數(shù)據(jù)平面,進(jìn)一步開(kāi)放了網(wǎng)絡(luò)設(shè)備的可編程能力[2]。

    在從原有的虛擬化技術(shù)向云原生技術(shù)的演進(jìn)過(guò)程中,傳統(tǒng)的算力資源調(diào)度技術(shù)往往基于網(wǎng)絡(luò)互通,并通過(guò)集群自身的調(diào)度策略來(lái)實(shí)現(xiàn)算力的動(dòng)態(tài)調(diào)度和應(yīng)用分配。在這一過(guò)程中,固化的組網(wǎng)方式已經(jīng)無(wú)法滿(mǎn)足業(yè)務(wù)需求,網(wǎng)絡(luò)編排能力已成為算力調(diào)度能力的制約因素。文章中,我們著重研究基于可編程網(wǎng)絡(luò)的算力調(diào)度機(jī)制,以期能夠?qū)⒖删幊叹W(wǎng)絡(luò)的最大優(yōu)勢(shì)應(yīng)用于傳統(tǒng)的算力調(diào)度機(jī)制中。

    1 可編程網(wǎng)絡(luò)介紹

    現(xiàn)有的網(wǎng)絡(luò)技術(shù)尤其是SDN技術(shù)的發(fā)展,使得傳統(tǒng)網(wǎng)絡(luò)轉(zhuǎn)發(fā)設(shè)備能夠從固化在芯片上的轉(zhuǎn)發(fā)機(jī)制向基于通用芯片承載的轉(zhuǎn)發(fā)機(jī)制轉(zhuǎn)變,同時(shí)也可以為SDN的實(shí)現(xiàn)帶來(lái)可能性[3]?,F(xiàn)有的以SDN為代表的可編程網(wǎng)絡(luò)實(shí)現(xiàn)技術(shù),主要是基于可編程的網(wǎng)絡(luò)協(xié)議和轉(zhuǎn)發(fā)控制協(xié)議:應(yīng)用平面的網(wǎng)絡(luò)應(yīng)用通過(guò)控制平面的控制器向底層的數(shù)據(jù)平面SDN數(shù)據(jù)轉(zhuǎn)發(fā)設(shè)備下發(fā)路由協(xié)議和轉(zhuǎn)發(fā)策略,從而實(shí)現(xiàn)網(wǎng)絡(luò)轉(zhuǎn)發(fā)機(jī)制[4]。SDN網(wǎng)絡(luò)架構(gòu)如圖1所示。

    基于上述SDN網(wǎng)絡(luò)架構(gòu),網(wǎng)絡(luò)應(yīng)用通過(guò)控制器對(duì)SDN路由器的轉(zhuǎn)發(fā)機(jī)制進(jìn)行控制。數(shù)據(jù)報(bào)文從源端服務(wù)器,經(jīng)SDN路由器,發(fā)送至目的端服務(wù)器。在此過(guò)程中,網(wǎng)絡(luò)應(yīng)用程序可以通過(guò)控制器來(lái)選擇不同的轉(zhuǎn)發(fā)路徑,進(jìn)行數(shù)據(jù)轉(zhuǎn)發(fā)鏈路的路由。在整個(gè)網(wǎng)絡(luò)架構(gòu)中,為了實(shí)現(xiàn)兩層解耦,可以通過(guò)南向接口對(duì)底層數(shù)據(jù)平面的轉(zhuǎn)發(fā)功能進(jìn)行封裝,實(shí)現(xiàn)控制器和路由器之間的對(duì)接;再通過(guò)北向接口對(duì)SDN控制能力進(jìn)行封裝,對(duì)上層應(yīng)用提供統(tǒng)一的能力開(kāi)放。網(wǎng)絡(luò)應(yīng)用則通過(guò)調(diào)用北向接口來(lái)實(shí)現(xiàn)對(duì)控制器的調(diào)用和控制[5]。

    1.1 可編程網(wǎng)絡(luò)技術(shù)架構(gòu)

    SDN的可編程網(wǎng)絡(luò)技術(shù)架構(gòu),可以實(shí)現(xiàn)SDN路由器的流量轉(zhuǎn)發(fā)策略控制和軟件定義設(shè)定。在數(shù)據(jù)轉(zhuǎn)發(fā)平臺(tái),現(xiàn)有技術(shù)從原有的基于OpenFlow協(xié)議相關(guān)的數(shù)據(jù)轉(zhuǎn)發(fā),逐漸演進(jìn)到與協(xié)議無(wú)關(guān)的面向高級(jí)編程的數(shù)據(jù)轉(zhuǎn)發(fā)平面。可編程網(wǎng)絡(luò)技術(shù)通過(guò)代碼級(jí)的自定義網(wǎng)絡(luò)數(shù)據(jù)平面來(lái)實(shí)現(xiàn)可編程能力,同時(shí)還可以實(shí)現(xiàn)數(shù)據(jù)轉(zhuǎn)發(fā)控制和策略[6],具體實(shí)現(xiàn)流程如圖2所示。

    根據(jù)交換機(jī)的配置,傳統(tǒng)的可編程網(wǎng)絡(luò)數(shù)據(jù)轉(zhuǎn)發(fā)對(duì)解析表和控制流進(jìn)行編程,并且將解析表下發(fā)至數(shù)據(jù)轉(zhuǎn)發(fā)平臺(tái)的解析器中,再通過(guò)控制流編程將動(dòng)作匹配配置下發(fā)至數(shù)據(jù)轉(zhuǎn)發(fā)平臺(tái)的動(dòng)作匹配表中[7]。

    數(shù)據(jù)流在輸入時(shí),首先經(jīng)過(guò)解析器進(jìn)行報(bào)文解析,并通過(guò)Ingress負(fù)載均衡器進(jìn)行轉(zhuǎn)發(fā)設(shè)置,以實(shí)現(xiàn)動(dòng)作匹配配置,然后進(jìn)入轉(zhuǎn)發(fā)的隊(duì)列和存儲(chǔ)中等待;數(shù)據(jù)流從隊(duì)列中出棧時(shí),先通過(guò)對(duì)應(yīng)的Engress反向負(fù)載均衡器的解析,再進(jìn)行報(bào)文輸出,從而實(shí)現(xiàn)了完整的數(shù)據(jù)平面數(shù)據(jù)轉(zhuǎn)發(fā)機(jī)制[8]。

    1.2 控制面/用戶(hù)面分離實(shí)現(xiàn)機(jī)制

    傳統(tǒng)的SDN技術(shù)通過(guò)控制面和數(shù)據(jù)面的分離,實(shí)現(xiàn)網(wǎng)絡(luò)數(shù)據(jù)流轉(zhuǎn)發(fā)和控制策略制定之間的分離,也為基于可編程網(wǎng)絡(luò)的算力調(diào)度提供了可能。

    從上述的技術(shù)架構(gòu)可以看出,現(xiàn)有的SDN技術(shù)實(shí)現(xiàn)了兩層解耦:一方面,將控制器集中于上層控制面,實(shí)現(xiàn)對(duì)SDN路由器或數(shù)據(jù)轉(zhuǎn)發(fā)設(shè)備的統(tǒng)一管理;另一方面,使數(shù)據(jù)平面的SDN路由器和轉(zhuǎn)發(fā)設(shè)備脫離了傳統(tǒng)模式(固化在設(shè)備內(nèi)),并使得轉(zhuǎn)發(fā)功能和轉(zhuǎn)發(fā)規(guī)則通過(guò)南北向接口開(kāi)放至上層控制器和網(wǎng)絡(luò)應(yīng)用。這種控制面/用戶(hù)面分離機(jī)制,為網(wǎng)絡(luò)可編程的進(jìn)一步實(shí)現(xiàn)提供了可能。

    2 算力調(diào)度機(jī)制

    隨著云計(jì)算技術(shù)的不斷發(fā)展,基礎(chǔ)設(shè)施領(lǐng)域已有越來(lái)越多的企業(yè)采用云計(jì)算作為統(tǒng)一資源的管理方式。隨著云資源池規(guī)模的不斷擴(kuò)大,算力節(jié)點(diǎn)的調(diào)度主要采用分布式的方式;而傳統(tǒng)的基于云計(jì)算或云原生的算力資源調(diào)度是以虛擬化技術(shù)和進(jìn)程共享技術(shù)來(lái)實(shí)現(xiàn)的[9]?;贠penStack或Kubernetes的算力資源調(diào)度將算力節(jié)點(diǎn)的空閑度作為算力調(diào)度策略的主要評(píng)判依據(jù)。本文中,我們以Kubernetes的資源調(diào)度組件Scheduler為例,重點(diǎn)闡述云原生的算力調(diào)度機(jī)制。

    Scheduler是Kubernetes的核心組件,負(fù)責(zé)為用戶(hù)聲明的Pod資源選擇合適的算力節(jié)點(diǎn),同時(shí)保證集群資源的最大化利用,其任務(wù)資源調(diào)度流程如圖3所示。

    現(xiàn)有的Kubernetes資源調(diào)度機(jī)制根據(jù)用戶(hù)的請(qǐng)求,從資源管理器中獲取資源信息,并且根據(jù)具體的調(diào)度策略將任務(wù)調(diào)度至具體的算力節(jié)點(diǎn)上。

    在網(wǎng)絡(luò)可達(dá)的情況下,現(xiàn)有Kubernetes算力節(jié)點(diǎn)運(yùn)行狀態(tài)監(jiān)測(cè)控制主要通過(guò)算力節(jié)點(diǎn)代理監(jiān)測(cè)的方式來(lái)實(shí)現(xiàn)。通過(guò)采集和上傳算力節(jié)點(diǎn)上的中央處理器(CPU)、存儲(chǔ)、內(nèi)存等信息,并將這些信息上傳至資源管理器,再經(jīng)資源調(diào)度器進(jìn)行策略調(diào)度[10],從而將任務(wù)調(diào)度至指定的算力節(jié)點(diǎn)上。這種算力資源調(diào)度機(jī)制雖然能夠解決分布式環(huán)境中、算力資源非均衡情況下的算力動(dòng)態(tài)調(diào)度問(wèn)題,但必須基于網(wǎng)絡(luò)可達(dá)的情況。該機(jī)制并沒(méi)有考慮到網(wǎng)絡(luò)質(zhì)量、算力節(jié)點(diǎn)的連接,以及傳輸過(guò)程中的網(wǎng)絡(luò)情況。隨著分布式計(jì)算,尤其是大數(shù)據(jù)等多集群甚至是跨數(shù)據(jù)中心協(xié)同處理的發(fā)展,網(wǎng)絡(luò)的數(shù)據(jù)傳輸質(zhì)量往往會(huì)成為影響上層用戶(hù)體驗(yàn)的關(guān)鍵因素,同時(shí)也會(huì)成為跨數(shù)據(jù)中心算力調(diào)度和集群高效協(xié)同的制約因素。傳統(tǒng)的算力調(diào)度機(jī)制僅實(shí)現(xiàn)了計(jì)算資源在非均衡狀態(tài)下的動(dòng)態(tài)調(diào)度,卻未考慮網(wǎng)絡(luò)的服務(wù)質(zhì)量(QoS)或體驗(yàn)質(zhì)量(QoE)。在算網(wǎng)融合應(yīng)用快速發(fā)展的趨勢(shì)下,傳統(tǒng)的算力調(diào)度方式已無(wú)法滿(mǎn)足當(dāng)前需求。

    SDN技術(shù),尤其是可編程網(wǎng)絡(luò)技術(shù)的發(fā)展,促使網(wǎng)絡(luò)能力進(jìn)一步開(kāi)放、可編程化,并使傳統(tǒng)算力調(diào)度機(jī)制能夠更好地融合網(wǎng)絡(luò)因素。本文中,我們通過(guò)算力和網(wǎng)絡(luò)協(xié)同的方式來(lái)實(shí)現(xiàn)算力最優(yōu)化調(diào)度,極大地發(fā)揮了網(wǎng)絡(luò)在數(shù)據(jù)傳輸和轉(zhuǎn)發(fā)方面的優(yōu)勢(shì)。

    3 基于可編程網(wǎng)絡(luò)的算力調(diào)度方案

    基于網(wǎng)絡(luò)的可編程、可控制等能力,并結(jié)合算力節(jié)點(diǎn)空閑度和計(jì)算能力等因素,基于可編程網(wǎng)絡(luò)的算力調(diào)度機(jī)制能夠在網(wǎng)絡(luò)路由和路徑選擇方面實(shí)現(xiàn)算力調(diào)度。本文中,我們研究了通過(guò)編排調(diào)度方式來(lái)實(shí)現(xiàn)算力服務(wù)的編排和管理,以及可編程網(wǎng)絡(luò)能力的開(kāi)放。

    3.1 整體網(wǎng)絡(luò)架構(gòu)

    基于可編程網(wǎng)絡(luò)的管控分離能力,本文在Kubernetes原有調(diào)度方式基礎(chǔ)上,進(jìn)一步研究了基于可編程網(wǎng)絡(luò)的算力調(diào)度機(jī)制。其中,網(wǎng)絡(luò)拓?fù)洳捎脭?shù)據(jù)控制面和數(shù)據(jù)轉(zhuǎn)發(fā)面分離模式,容器計(jì)算集群承載具體的算力分配和容器承載,控制集群和可編程網(wǎng)絡(luò)的數(shù)據(jù)控制面對(duì)接以實(shí)現(xiàn)網(wǎng)絡(luò)控制?;诳删幊叹W(wǎng)絡(luò)的技術(shù)架構(gòu)如圖4所示。

    基于可編程網(wǎng)絡(luò)的算力調(diào)度架構(gòu),面向分布式集群通過(guò)容器控制集群,向數(shù)據(jù)控制面下達(dá)網(wǎng)絡(luò)控制指令;通過(guò)控制器,向數(shù)據(jù)轉(zhuǎn)發(fā)面的轉(zhuǎn)發(fā)設(shè)備發(fā)送數(shù)據(jù)轉(zhuǎn)發(fā)策略和數(shù)據(jù)路由表等網(wǎng)絡(luò)轉(zhuǎn)發(fā)協(xié)議;通過(guò)數(shù)據(jù)轉(zhuǎn)發(fā)面接入的計(jì)算集群,實(shí)現(xiàn)算力節(jié)點(diǎn)的調(diào)度和容器承載?;诳删幊叹W(wǎng)絡(luò)架構(gòu)的數(shù)據(jù)轉(zhuǎn)發(fā),可以改變?cè)腥萜髻Y源僅能在overlay的數(shù)據(jù)中心內(nèi)調(diào)度的情況,實(shí)現(xiàn)基于underlay的跨數(shù)據(jù)中心的算力資源調(diào)度[11]。

    在每一個(gè)算力節(jié)點(diǎn)上,該架構(gòu)采用傳統(tǒng)的master/agent模式來(lái)代理、發(fā)布算力節(jié)點(diǎn)的計(jì)算、存儲(chǔ)和應(yīng)用輸入輸出(IO)等情況,并嘗試將這些情況反饋至控制集群中服務(wù)器的調(diào)度器,從而實(shí)現(xiàn)集群內(nèi)算力節(jié)點(diǎn)的統(tǒng)一管理。網(wǎng)絡(luò)QoS、QoE以及轉(zhuǎn)發(fā)設(shè)備等狀態(tài),通過(guò)數(shù)據(jù)轉(zhuǎn)發(fā)平臺(tái)上傳至控制平面,然后被統(tǒng)一管理。在整個(gè)算力資源編排調(diào)度的過(guò)程中,容器控制集群為用戶(hù)和開(kāi)發(fā)者提供了統(tǒng)一入口,并通過(guò)統(tǒng)一配置腳本、開(kāi)發(fā)變成方式,來(lái)實(shí)現(xiàn)面向服務(wù)的算力和網(wǎng)絡(luò)的統(tǒng)一編排和調(diào)度,從而實(shí)現(xiàn)面向服務(wù)的基于可編程網(wǎng)絡(luò)的算力調(diào)度。

    3.2 算力調(diào)度機(jī)制

    在算力調(diào)度方面,Kuberenetes云原生平臺(tái)提供服務(wù)編排調(diào)度能力,集成網(wǎng)絡(luò)編排能力和計(jì)算服務(wù)編排能力,并通過(guò)Knative實(shí)現(xiàn)統(tǒng)一的應(yīng)用能力封裝和消息隊(duì)列。整體算力調(diào)度層為上層門(mén)戶(hù)提供應(yīng)用程序編程接口(API)網(wǎng)關(guān),也為上層應(yīng)用提供統(tǒng)一的API。這可以開(kāi)放可編程網(wǎng)絡(luò)的算力能力,屏蔽底層網(wǎng)絡(luò)和算力的差異性,并且可以為開(kāi)發(fā)者和用戶(hù)提供統(tǒng)一門(mén)戶(hù),進(jìn)一步降低了可編程網(wǎng)絡(luò)算力調(diào)度的開(kāi)發(fā)門(mén)檻。算力調(diào)度平臺(tái)具體的架構(gòu)如圖5所示。

    整體算力調(diào)度機(jī)制由Kubernetes實(shí)現(xiàn)統(tǒng)一的算力網(wǎng)絡(luò)資源調(diào)度。其中,根據(jù)資源服務(wù)對(duì)象的不同,Kubernetes調(diào)度能力可以分為兩個(gè)方面:一方面是以基礎(chǔ)設(shè)施平臺(tái)即服務(wù)(i-PaaS)能力為主,實(shí)現(xiàn)對(duì)底層基礎(chǔ)設(shè)施算力資源的調(diào)度,借助控制平面的對(duì)接來(lái)實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)數(shù)據(jù)面的調(diào)度和管理,通過(guò)對(duì)接不同的Kuberentes云原生集群實(shí)現(xiàn)對(duì)底層云原生集群的調(diào)度管理;另一方面是以應(yīng)用層PaaS(A-PaaS)能力為主,實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)編排和計(jì)算服務(wù)編排的服務(wù)能力管理。面向上層的能力調(diào)度主要包含網(wǎng)絡(luò)編排和服務(wù)編排兩個(gè)方面。

    (1)網(wǎng)絡(luò)編排

    網(wǎng)絡(luò)編排主要是指,對(duì)底層的網(wǎng)絡(luò)服務(wù)編排能力進(jìn)行硬件資源的抽象和能力的建模,并通過(guò)服務(wù)編排來(lái)實(shí)現(xiàn)網(wǎng)絡(luò)控制。本文中,我們提出基于 SDN的寬帶接入(SEBA)容器化架構(gòu),以實(shí)現(xiàn)SDN網(wǎng)絡(luò)訪(fǎng)問(wèn)。SEBA的核心組件主要包括開(kāi)放網(wǎng)絡(luò)操作系統(tǒng)(ONOS)、Kafka、VOLTHA、XOS。

    ONOS:實(shí)現(xiàn)SDN網(wǎng)絡(luò)操作系統(tǒng),對(duì)網(wǎng)絡(luò)服務(wù)編排實(shí)現(xiàn)統(tǒng)一的資源調(diào)度和管理。

    Kafka:實(shí)現(xiàn)REST的消息隊(duì)列管理,并通過(guò)上層的服務(wù)能力對(duì)底層硬件的訪(fǎng)問(wèn)請(qǐng)求消息進(jìn)行統(tǒng)一管理。

    VOLTHA:實(shí)現(xiàn)底層網(wǎng)絡(luò)接入設(shè)備和轉(zhuǎn)發(fā)設(shè)備的硬件資源抽象,從而使用和訪(fǎng)問(wèn)上層的網(wǎng)絡(luò)功能。

    XOS:實(shí)現(xiàn)網(wǎng)絡(luò)功能虛擬化和服務(wù)化,并可以基于SDN控制器的可編程能力實(shí)現(xiàn)網(wǎng)絡(luò)控制和功能軟件定義能力。

    (2)服務(wù)編排

    服務(wù)編排可以實(shí)現(xiàn)對(duì)PaaS和軟件即服務(wù)(SaaS)能力的容器化調(diào)度。由于云原生具有服務(wù)化和微服務(wù)化的能力,因此在實(shí)現(xiàn)算力調(diào)度的過(guò)程中,基于不同的應(yīng)用場(chǎng)景,我們提出了3個(gè)方面的服務(wù)能力。

    計(jì)算能力集:集成目前云原生統(tǒng)一的計(jì)算型能力庫(kù),包括Spark、Hadoop、Hive、Flink等。

    數(shù)據(jù)庫(kù):采用傳統(tǒng)的數(shù)據(jù)庫(kù)服務(wù)能力,為上層的應(yīng)用和業(yè)務(wù)場(chǎng)景提供一鍵部署式的云原生數(shù)據(jù)庫(kù),包括Mysql、MangoDB等。

    人工智能:包括面向人工智能場(chǎng)景的推理和訓(xùn)練,以及對(duì)硬件加速有特定需求的算力調(diào)度能力。

    這些服務(wù)能力統(tǒng)一由Kubernetes來(lái)實(shí)現(xiàn)編排。通過(guò)Kubernetes的調(diào)度擴(kuò)展接口和平臺(tái)內(nèi)部調(diào)度器對(duì)接,從而能夠?qū)崿F(xiàn)PaaS和SaaS服務(wù)的容器化調(diào)度。

    通過(guò)Knative來(lái)完成統(tǒng)一服務(wù)能力的封裝和打包,通過(guò)Knative的API網(wǎng)關(guān)提供統(tǒng)一的網(wǎng)絡(luò)和算力調(diào)度接口,并通過(guò)統(tǒng)一的門(mén)戶(hù)對(duì)外開(kāi)放,開(kāi)發(fā)者可以根據(jù)網(wǎng)絡(luò)和算力調(diào)度能力進(jìn)行網(wǎng)絡(luò)編程。這樣可以進(jìn)一步融合底層網(wǎng)絡(luò)和算力,實(shí)現(xiàn)基于可編程網(wǎng)絡(luò)的算力調(diào)度。同時(shí),用戶(hù)也可以更加關(guān)注上層業(yè)務(wù)邏輯和業(yè)務(wù)流程。

    3.3 可編程網(wǎng)絡(luò)編排機(jī)制

    構(gòu)建在傳統(tǒng)SDN架構(gòu)上的可編程網(wǎng)絡(luò)算力調(diào)度機(jī)制,不僅實(shí)現(xiàn)了網(wǎng)絡(luò)控制面和用戶(hù)面的分離,還實(shí)現(xiàn)了基于云原生統(tǒng)一Kubernetes平臺(tái)的服務(wù)編排調(diào)度能力。在可編程網(wǎng)絡(luò)服務(wù)編排能力方面,隨著網(wǎng)絡(luò)轉(zhuǎn)發(fā)設(shè)備的普及,基于P4的網(wǎng)絡(luò)可編程能力實(shí)現(xiàn)了網(wǎng)絡(luò)的可編程。另外,網(wǎng)絡(luò)組件本身也可以進(jìn)行容器化,并可以調(diào)度到具備P4功能的白盒交換機(jī)上?;谌萜骰目删幊叹W(wǎng)絡(luò)編排架構(gòu)如圖6所示。

    依據(jù)上述可編程網(wǎng)絡(luò)算力編排技術(shù)架構(gòu),P4交換機(jī)集成了專(zhuān)門(mén)針對(duì)P4的運(yùn)行時(shí)(Runtime)。在通用計(jì)算節(jié)點(diǎn)上,運(yùn)行時(shí)集成了運(yùn)行應(yīng)用程序的鏡像。在整個(gè)技術(shù)架構(gòu)中,面向上層的網(wǎng)絡(luò)功能和應(yīng)用程序提供了統(tǒng)一的容器封裝能力,用于打包和封裝容器鏡像。其中,在網(wǎng)絡(luò)功能容器化封裝的過(guò)程中,P4編譯器專(zhuān)門(mén)用于服務(wù)網(wǎng)絡(luò)功能程序,即將網(wǎng)絡(luò)功能程序編譯成可在P4交換機(jī)上運(yùn)行的可執(zhí)行程序后,再進(jìn)行容器化封裝。Kubernetes平臺(tái)實(shí)現(xiàn)了P4交換機(jī)和通用計(jì)算節(jié)點(diǎn)的算力資源調(diào)度和服務(wù)編排。根據(jù)網(wǎng)絡(luò)功能和應(yīng)用程序的不同,Kubernetes平臺(tái)分別將網(wǎng)絡(luò)功能調(diào)度到P4交換機(jī)上運(yùn)行,將應(yīng)用程序調(diào)度到通用計(jì)算節(jié)點(diǎn)上運(yùn)行[12]。面向上層開(kāi)發(fā)者則提供統(tǒng)一的開(kāi)發(fā)平臺(tái)、API、網(wǎng)絡(luò)可編程能力和應(yīng)用程序開(kāi)發(fā)能力,從而實(shí)現(xiàn)可編程網(wǎng)絡(luò)和應(yīng)用程序。這樣一來(lái),基于可編程網(wǎng)絡(luò)的算力調(diào)度技術(shù)在代碼開(kāi)發(fā)階段就能夠進(jìn)行融合開(kāi)發(fā),滿(mǎn)足目前越來(lái)越多的算網(wǎng)融合場(chǎng)景下的應(yīng)用程序開(kāi)發(fā)需求。

    4 結(jié)束語(yǔ)

    異構(gòu)算力網(wǎng)絡(luò)是下一代云網(wǎng)融合2.0的發(fā)展趨勢(shì)?;诳删幊叹W(wǎng)絡(luò)的算力調(diào)度機(jī)制,能夠在網(wǎng)絡(luò)可編程的基礎(chǔ)上,實(shí)現(xiàn)傳統(tǒng)算力調(diào)度無(wú)法實(shí)現(xiàn)的基于網(wǎng)絡(luò)的算力調(diào)度方式。該機(jī)制可以根據(jù)網(wǎng)絡(luò)情況進(jìn)行算力調(diào)度,也可以基于算力調(diào)度需求進(jìn)行網(wǎng)絡(luò)適配和可編程,從而真正實(shí)現(xiàn)云網(wǎng)融合[13-15]。本文中,我們所提出的基于可編程網(wǎng)絡(luò)的算力調(diào)度技術(shù),是基于云原生技術(shù)來(lái)實(shí)現(xiàn)算力網(wǎng)絡(luò)的融合調(diào)度。傳統(tǒng)的云原生調(diào)度僅能基于overlay網(wǎng)絡(luò)實(shí)現(xiàn)算力調(diào)度,而該技術(shù)則可以實(shí)現(xiàn)基于underlay網(wǎng)絡(luò)的算力調(diào)度和服務(wù)編排能力。該技術(shù)還可以提供業(yè)務(wù)感知的網(wǎng)絡(luò)編排能力,從而能為后續(xù)的網(wǎng)絡(luò)感知業(yè)務(wù)提供新的研究思路和發(fā)展方向。

    致謝

    本研究得到中國(guó)聯(lián)通研究院李建飛高級(jí)工程師的幫助,同時(shí)也得到了中國(guó)聯(lián)通研究院首席科學(xué)家唐雄燕的指導(dǎo),謹(jǐn)致謝意!

    參考文獻(xiàn)

    [1] 耿俊杰, 顏金堯. 基于可編程數(shù)據(jù)平面的網(wǎng)絡(luò)體系架構(gòu)綜述 [J].中國(guó)傳媒大學(xué)學(xué)報(bào)(自然科學(xué)版), 2019, 26(5): 38-43

    [2] 左志斌, 常朝穩(wěn), 祝現(xiàn)威.一種基于數(shù)據(jù)平面可編程的軟件定義網(wǎng)絡(luò)報(bào)文轉(zhuǎn)發(fā)驗(yàn)證機(jī)制 [J]. 電子與信息學(xué)報(bào), 2020, 42(5): 1110-1117

    [3] 李銘軒, 邢鑫, 王本忠. 面向電信運(yùn)營(yíng)商的容器云SDN云網(wǎng)一體化方案研究 [J].信息通信技術(shù), 2019, 13(2):7-12+25

    [4] 房秉毅, 張?jiān)朴拢?陳清金, 等. 云計(jì)算網(wǎng)絡(luò)虛擬化技術(shù) [J]. 信息通信技術(shù), 2011, 5(1): 50-53

    [5] 程瑩, 張?jiān)朴? SDN應(yīng)用及北向接口技術(shù)研究 [J].信息通信技術(shù), 2014, 8(1):36-39

    [6] 林耘森簫, 畢軍, 周禹, 等. 基于P4的可編程數(shù)據(jù)平面研究及其應(yīng)用 [J]. 計(jì)算機(jī)學(xué)報(bào), 2019, 42(11): 2539-2560

    [7] 衣曉玉, 秦斌, 吳文斐, 等. 基于P4交換機(jī)的MAP卸載技術(shù)設(shè)計(jì)與實(shí)現(xiàn) [J]. 深圳大學(xué)學(xué)報(bào)(理工版), 2020, 37(S1): 112-117

    [8] WANG S, WU J, YANG W, et al. Novel architectures and security solutions of programmable software-defined networking: a comprehensive survey [J]. Frontiers of information technology & electronic engineering, 2018, 19(12): 1500-1521

    [9] 李銘軒, 曹暢, 唐雄燕, 等. 面向算力網(wǎng)絡(luò)的邊緣資源調(diào)度解決方案研究 [J]. 數(shù)據(jù)與計(jì)算發(fā)展前沿, 2020, 2(4): 80-91

    [10] 劉暢, 毋濤, 徐雷. 基于無(wú)服務(wù)器架構(gòu)的邊緣AI計(jì)算平臺(tái) [J]. 信息通信技術(shù), 2018, 12(5): 45-49

    [11] 何濤, 曹暢, 唐雄燕, 等. 面向6G需求的算力網(wǎng)絡(luò)技術(shù) [J]. 移動(dòng)通信, 2020, 44(6): 131-135

    [12] 李銘軒, 魏進(jìn)武, 張?jiān)朴? 面向電信運(yùn)營(yíng)商的IT資源微服務(wù)化方案 [J]. 信息通信技術(shù), 2017, 11(2): 48-55

    [13] 彭新玉.基于軟件定義的可虛擬化未來(lái)網(wǎng)絡(luò)關(guān)鍵技術(shù)研究及產(chǎn)業(yè)化 [J]. 電子世界, 2020(9): 5-6

    [14] SIVARAMAN A, MASON T, PANDA A, et al. Network architecture in the age of programmability [J]. ACM SIGCOMM computer communication review, 2020, 50(1): 38-44

    [15] VULETIC P, BOSAK B, DIMOLIANIS M, et al. Localization of network service performance degradation in multi-tenant networks [J]. Computer networks, 2020, 168: 107050

    作者簡(jiǎn)介

    李銘軒,中國(guó)聯(lián)合網(wǎng)絡(luò)通信有限公司研究院高級(jí)工程師、IEEE高級(jí)會(huì)員、中國(guó)電子學(xué)會(huì)高級(jí)會(huì)員;主要研究方向?yàn)榇髷?shù)據(jù)技術(shù)、云計(jì)算技術(shù)、業(yè)務(wù)平臺(tái)技術(shù)和IT支撐系統(tǒng)技術(shù);已發(fā)表論文20余篇,授權(quán)專(zhuān)利10余項(xiàng)。

    曹暢,中國(guó)聯(lián)合網(wǎng)絡(luò)通信有限公司研究院未來(lái)網(wǎng)絡(luò)研究部高級(jí)專(zhuān)家、智能云網(wǎng)技術(shù)研究室主任;主要研究方向?yàn)镮P網(wǎng)寬帶通信、SDN/NFV、新一代網(wǎng)絡(luò)編排技術(shù)等。

    楊建軍,中國(guó)聯(lián)合網(wǎng)絡(luò)通信公司研究院未來(lái)網(wǎng)絡(luò)研究部高級(jí)工程師,主要研究方向?yàn)殚_(kāi)放網(wǎng)絡(luò)、未來(lái)網(wǎng)絡(luò)、SDN/NFV、開(kāi)放硬件、網(wǎng)絡(luò)開(kāi)源軟件等;獲得授權(quán)專(zhuān)利20余項(xiàng)。

    校园人妻丝袜中文字幕| 啦啦啦视频在线资源免费观看| 国国产精品蜜臀av免费| 精品人妻熟女av久视频| 妹子高潮喷水视频| 亚洲人成网站在线观看播放| 插逼视频在线观看| 最黄视频免费看| 日韩中字成人| 亚洲,一卡二卡三卡| 国精品久久久久久国模美| 97在线视频观看| 高清在线视频一区二区三区| 国产亚洲一区二区精品| 国内精品宾馆在线| 国产黄色视频一区二区在线观看| 色视频www国产| 欧美成人午夜免费资源| 欧美精品高潮呻吟av久久| 成人美女网站在线观看视频| 国产av一区二区精品久久| 日日摸夜夜添夜夜添av毛片| 精品酒店卫生间| 免费观看av网站的网址| freevideosex欧美| 99热国产这里只有精品6| 亚洲欧美成人综合另类久久久| 青春草亚洲视频在线观看| 大香蕉97超碰在线| 成人综合一区亚洲| 欧美精品一区二区大全| 日韩强制内射视频| 热re99久久精品国产66热6| 久久久精品免费免费高清| 天堂中文最新版在线下载| 国产一区二区在线观看av| 啦啦啦中文免费视频观看日本| 在线观看www视频免费| 亚洲av在线观看美女高潮| 欧美变态另类bdsm刘玥| 亚洲精品亚洲一区二区| 久久人人爽av亚洲精品天堂| 欧美成人精品欧美一级黄| 中国美白少妇内射xxxbb| a级毛片在线看网站| 大陆偷拍与自拍| 国产精品无大码| 成人18禁高潮啪啪吃奶动态图 | 亚洲国产av新网站| 国产成人免费无遮挡视频| 麻豆精品久久久久久蜜桃| 99久久精品一区二区三区| 在线看a的网站| 中国三级夫妇交换| 亚洲欧美清纯卡通| 97在线人人人人妻| 欧美三级亚洲精品| 午夜激情久久久久久久| 精品一区二区三区视频在线| kizo精华| 一区在线观看完整版| 亚洲情色 制服丝袜| 少妇 在线观看| h视频一区二区三区| 久久久久久久久久久久大奶| 久久ye,这里只有精品| 亚洲av日韩在线播放| 一区二区三区免费毛片| tube8黄色片| 欧美日韩综合久久久久久| 成人黄色视频免费在线看| 日韩av在线免费看完整版不卡| 久久久久网色| 午夜91福利影院| 人人妻人人添人人爽欧美一区卜| 色视频在线一区二区三区| 一区二区三区四区激情视频| 人妻人人澡人人爽人人| 国产美女午夜福利| 亚洲av不卡在线观看| 少妇精品久久久久久久| 日韩成人伦理影院| 国产av精品麻豆| freevideosex欧美| 少妇人妻 视频| 激情五月婷婷亚洲| 美女福利国产在线| 最近的中文字幕免费完整| 欧美一级a爱片免费观看看| 日本-黄色视频高清免费观看| 精品一区二区免费观看| 国产精品久久久久久精品电影小说| 亚洲三级黄色毛片| 亚洲精品乱码久久久久久按摩| 国产高清国产精品国产三级| 国产日韩欧美视频二区| 国产伦理片在线播放av一区| 国产一区二区在线观看日韩| 六月丁香七月| av在线app专区| 人体艺术视频欧美日本| 国产亚洲91精品色在线| 麻豆精品久久久久久蜜桃| 欧美人与善性xxx| 国产真实伦视频高清在线观看| 一级毛片久久久久久久久女| av在线app专区| 成年美女黄网站色视频大全免费 | av一本久久久久| 丰满少妇做爰视频| 两个人的视频大全免费| 黑丝袜美女国产一区| 久久人妻熟女aⅴ| 天堂中文最新版在线下载| 国产亚洲5aaaaa淫片| 街头女战士在线观看网站| 精品一区二区免费观看| 啦啦啦在线观看免费高清www| 97在线视频观看| 国产一区二区三区综合在线观看 | 日韩一本色道免费dvd| 边亲边吃奶的免费视频| 26uuu在线亚洲综合色| 久久人人爽人人爽人人片va| 亚洲婷婷狠狠爱综合网| 人妻系列 视频| 丝袜喷水一区| 伊人久久精品亚洲午夜| 国产永久视频网站| av福利片在线| 91久久精品国产一区二区三区| 能在线免费看毛片的网站| 一级黄片播放器| 久久久国产欧美日韩av| 国产免费福利视频在线观看| 偷拍熟女少妇极品色| 亚洲av不卡在线观看| 国产av精品麻豆| 亚洲国产欧美在线一区| 欧美xxxx性猛交bbbb| 日韩成人伦理影院| 亚洲av男天堂| 五月天丁香电影| av视频免费观看在线观看| 国产成人精品婷婷| 一级片'在线观看视频| 免费观看在线日韩| 91aial.com中文字幕在线观看| 久久久久久久久大av| 久久99热这里只频精品6学生| 亚洲欧美中文字幕日韩二区| 在线观看人妻少妇| 成人亚洲精品一区在线观看| 久久99蜜桃精品久久| 青春草亚洲视频在线观看| 51国产日韩欧美| 中文字幕亚洲精品专区| 日日摸夜夜添夜夜添av毛片| 人体艺术视频欧美日本| 亚洲欧美精品专区久久| 色婷婷av一区二区三区视频| 99九九线精品视频在线观看视频| 99久国产av精品国产电影| 久久精品国产亚洲av天美| 欧美老熟妇乱子伦牲交| 人妻夜夜爽99麻豆av| 亚洲国产精品专区欧美| 91在线精品国自产拍蜜月| 亚洲国产精品成人久久小说| 中文字幕亚洲精品专区| 亚洲国产精品999| 成年美女黄网站色视频大全免费 | 91久久精品国产一区二区三区| 欧美3d第一页| 三级国产精品欧美在线观看| 亚洲,一卡二卡三卡| 精品亚洲成国产av| 久久免费观看电影| 精品卡一卡二卡四卡免费| 精品久久久噜噜| 久久精品夜色国产| .国产精品久久| 中国三级夫妇交换| 免费看日本二区| 国产熟女欧美一区二区| 搡老乐熟女国产| 午夜精品国产一区二区电影| 久久久久久久久久久久大奶| av国产精品久久久久影院| 少妇精品久久久久久久| 日本午夜av视频| 精品久久久精品久久久| 亚洲久久久国产精品| 99热网站在线观看| 丰满饥渴人妻一区二区三| 精品酒店卫生间| 在线观看三级黄色| 国产欧美日韩一区二区三区在线 | 啦啦啦在线观看免费高清www| 丰满饥渴人妻一区二区三| 国产男女超爽视频在线观看| 激情五月婷婷亚洲| 国产深夜福利视频在线观看| 午夜日本视频在线| av国产久精品久网站免费入址| 久久婷婷青草| 在线观看免费日韩欧美大片 | 久久精品国产亚洲网站| 成年美女黄网站色视频大全免费 | 国产69精品久久久久777片| av福利片在线观看| 久久综合国产亚洲精品| 欧美 日韩 精品 国产| 久久人妻熟女aⅴ| 在线观看国产h片| 国产亚洲av片在线观看秒播厂| 最新的欧美精品一区二区| 嫩草影院入口| 国产伦精品一区二区三区四那| 日韩中字成人| 黄色视频在线播放观看不卡| 国产毛片在线视频| 精品久久国产蜜桃| 亚洲av不卡在线观看| 我的老师免费观看完整版| 天美传媒精品一区二区| 大又大粗又爽又黄少妇毛片口| 黄片无遮挡物在线观看| 国产淫片久久久久久久久| 内射极品少妇av片p| 爱豆传媒免费全集在线观看| 美女视频免费永久观看网站| a级毛片在线看网站| 国产成人a∨麻豆精品| 在线观看免费视频网站a站| 看非洲黑人一级黄片| 日韩免费高清中文字幕av| 18+在线观看网站| 99热网站在线观看| 亚洲av不卡在线观看| 伦理电影大哥的女人| 边亲边吃奶的免费视频| 国产毛片在线视频| h日本视频在线播放| 日韩人妻高清精品专区| 菩萨蛮人人尽说江南好唐韦庄| 久久99热这里只频精品6学生| 韩国av在线不卡| 黄色欧美视频在线观看| 国产精品久久久久久久电影| 十分钟在线观看高清视频www | 国产乱来视频区| 久久亚洲国产成人精品v| 亚洲真实伦在线观看| 中国国产av一级| 免费看av在线观看网站| 亚洲性久久影院| 欧美日韩综合久久久久久| 精华霜和精华液先用哪个| 天美传媒精品一区二区| 国产精品蜜桃在线观看| 人人妻人人看人人澡| 男人舔奶头视频| av卡一久久| 建设人人有责人人尽责人人享有的| 99国产精品免费福利视频| 久久久久视频综合| 纯流量卡能插随身wifi吗| 天天操日日干夜夜撸| 国产精品久久久久久av不卡| 久久鲁丝午夜福利片| 日韩av免费高清视频| 美女视频免费永久观看网站| 亚洲精品视频女| 一区二区三区乱码不卡18| 国产精品99久久久久久久久| 午夜久久久在线观看| 中文字幕亚洲精品专区| 国产精品成人在线| 少妇人妻精品综合一区二区| 大话2 男鬼变身卡| 一区二区三区乱码不卡18| 内射极品少妇av片p| 国国产精品蜜臀av免费| 久久国产精品男人的天堂亚洲 | 久久久亚洲精品成人影院| 一本久久精品| 十八禁网站网址无遮挡 | 免费大片黄手机在线观看| 日韩av免费高清视频| 高清在线视频一区二区三区| 久久久久精品久久久久真实原创| 中文字幕制服av| 最新的欧美精品一区二区| 大香蕉97超碰在线| 国产高清不卡午夜福利| 91久久精品国产一区二区成人| 久久婷婷青草| 又粗又硬又长又爽又黄的视频| 久久精品国产亚洲av天美| 黄片无遮挡物在线观看| 日韩一区二区三区影片| 亚洲av欧美aⅴ国产| 一本大道久久a久久精品| 大香蕉久久网| 校园人妻丝袜中文字幕| 国产伦理片在线播放av一区| 亚洲欧洲精品一区二区精品久久久 | 亚洲美女黄色视频免费看| 99久国产av精品国产电影| 久久久国产精品麻豆| 在线观看美女被高潮喷水网站| 在线观看一区二区三区激情| 日日撸夜夜添| 内地一区二区视频在线| 一区在线观看完整版| 免费在线观看成人毛片| 国产精品一区二区性色av| 好男人视频免费观看在线| 一个人看视频在线观看www免费| 久久久精品94久久精品| 久热这里只有精品99| 我的女老师完整版在线观看| 国产亚洲av片在线观看秒播厂| 欧美bdsm另类| 久久久久久久大尺度免费视频| 男的添女的下面高潮视频| 春色校园在线视频观看| 亚洲精品国产色婷婷电影| 一级爰片在线观看| av又黄又爽大尺度在线免费看| 亚洲国产精品国产精品| 99久久精品热视频| 欧美 日韩 精品 国产| 蜜臀久久99精品久久宅男| 亚洲国产精品成人久久小说| 亚洲电影在线观看av| 18禁在线无遮挡免费观看视频| 国产欧美日韩精品一区二区| 又粗又硬又长又爽又黄的视频| 又黄又爽又刺激的免费视频.| 人人妻人人澡人人看| 另类精品久久| 欧美日韩视频精品一区| 免费在线观看成人毛片| 日产精品乱码卡一卡2卡三| 丝袜脚勾引网站| 欧美xxⅹ黑人| av女优亚洲男人天堂| 肉色欧美久久久久久久蜜桃| 精品久久久精品久久久| 天堂中文最新版在线下载| 最后的刺客免费高清国语| 国产在线免费精品| 在线观看免费高清a一片| 国产探花极品一区二区| 91在线精品国自产拍蜜月| 国产探花极品一区二区| av国产精品久久久久影院| 国产毛片在线视频| 国产高清有码在线观看视频| 亚洲国产精品999| 久久影院123| 另类亚洲欧美激情| 国国产精品蜜臀av免费| a级片在线免费高清观看视频| 一边亲一边摸免费视频| 日韩电影二区| √禁漫天堂资源中文www| 99久久精品一区二区三区| 国产亚洲91精品色在线| 国产淫语在线视频| 国国产精品蜜臀av免费| 中文资源天堂在线| 美女xxoo啪啪120秒动态图| 亚洲人成网站在线观看播放| 久久综合国产亚洲精品| 伦精品一区二区三区| 9色porny在线观看| 免费大片黄手机在线观看| av国产精品久久久久影院| 国产在线视频一区二区| 亚洲成人手机| 国产男女超爽视频在线观看| 亚洲va在线va天堂va国产| 欧美日韩一区二区视频在线观看视频在线| 国语对白做爰xxxⅹ性视频网站| 欧美区成人在线视频| 日韩欧美精品免费久久| 欧美三级亚洲精品| 国产淫片久久久久久久久| 国产免费一级a男人的天堂| 亚洲精品日本国产第一区| 成年美女黄网站色视频大全免费 | 观看免费一级毛片| av又黄又爽大尺度在线免费看| 欧美97在线视频| 国产成人精品婷婷| 久久这里有精品视频免费| 国产亚洲午夜精品一区二区久久| 欧美老熟妇乱子伦牲交| 天美传媒精品一区二区| 人人妻人人澡人人爽人人夜夜| 91久久精品国产一区二区成人| 久久女婷五月综合色啪小说| 亚洲va在线va天堂va国产| 国产精品久久久久久久电影| a 毛片基地| a级毛片在线看网站| 欧美xxxx性猛交bbbb| freevideosex欧美| 国产精品久久久久久精品古装| 午夜av观看不卡| 国产精品久久久久久精品古装| av福利片在线| 又爽又黄a免费视频| 草草在线视频免费看| av在线app专区| 桃花免费在线播放| 国产日韩欧美在线精品| 又粗又硬又长又爽又黄的视频| 99热这里只有是精品50| 午夜激情久久久久久久| 人人妻人人看人人澡| 天堂8中文在线网| 日韩,欧美,国产一区二区三区| 久久 成人 亚洲| 久久国产精品大桥未久av | 久久热精品热| 国产 精品1| 只有这里有精品99| 麻豆精品久久久久久蜜桃| 欧美日韩在线观看h| 纯流量卡能插随身wifi吗| 亚洲av成人精品一二三区| 久久精品国产鲁丝片午夜精品| 一级毛片 在线播放| 青春草视频在线免费观看| 黑人猛操日本美女一级片| 另类亚洲欧美激情| 偷拍熟女少妇极品色| 免费大片黄手机在线观看| 精品少妇内射三级| 九九在线视频观看精品| 成人无遮挡网站| 久久久久国产网址| 一区二区三区免费毛片| 免费观看av网站的网址| 国产中年淑女户外野战色| 日本av免费视频播放| 18禁动态无遮挡网站| 日日撸夜夜添| 一级毛片aaaaaa免费看小| 亚洲精品国产色婷婷电影| 国产成人freesex在线| 热re99久久国产66热| 夜夜看夜夜爽夜夜摸| 国产美女午夜福利| 亚洲熟女精品中文字幕| 又爽又黄a免费视频| 自拍欧美九色日韩亚洲蝌蚪91 | 777米奇影视久久| 成人美女网站在线观看视频| 亚洲精品国产色婷婷电影| 欧美人与善性xxx| 亚洲婷婷狠狠爱综合网| 我的老师免费观看完整版| 少妇熟女欧美另类| 少妇人妻 视频| 久久久久久久亚洲中文字幕| 久久久精品94久久精品| 精品酒店卫生间| 亚洲欧美清纯卡通| 亚洲激情五月婷婷啪啪| 欧美日韩亚洲高清精品| 美女国产视频在线观看| 成年女人在线观看亚洲视频| 嫩草影院新地址| 亚洲av二区三区四区| 久久国内精品自在自线图片| 日韩人妻高清精品专区| 中文字幕亚洲精品专区| 黑人高潮一二区| 人人妻人人看人人澡| 91久久精品国产一区二区成人| 欧美日韩一区二区视频在线观看视频在线| 欧美xxxx性猛交bbbb| 亚洲天堂av无毛| 又爽又黄a免费视频| 97在线视频观看| 不卡视频在线观看欧美| 亚洲精品国产av成人精品| 一级,二级,三级黄色视频| 91精品国产九色| 日日撸夜夜添| 蜜桃在线观看..| 91久久精品国产一区二区成人| 男女免费视频国产| 啦啦啦啦在线视频资源| 99热网站在线观看| 午夜免费男女啪啪视频观看| 一二三四中文在线观看免费高清| 日本-黄色视频高清免费观看| a级毛色黄片| 亚洲美女视频黄频| 一级毛片aaaaaa免费看小| 最近中文字幕高清免费大全6| 人体艺术视频欧美日本| 午夜激情福利司机影院| 国产一区二区在线观看av| 男女无遮挡免费网站观看| 人人澡人人妻人| 美女脱内裤让男人舔精品视频| 日韩 亚洲 欧美在线| 美女主播在线视频| 国产色婷婷99| 久久综合国产亚洲精品| 亚洲成色77777| 日韩 亚洲 欧美在线| 精品久久久久久久久亚洲| 日日啪夜夜爽| 噜噜噜噜噜久久久久久91| 大香蕉久久网| 美女cb高潮喷水在线观看| 亚洲av欧美aⅴ国产| 国产一级毛片在线| 亚洲自偷自拍三级| 内射极品少妇av片p| 99久国产av精品国产电影| 午夜av观看不卡| 观看免费一级毛片| 在线观看国产h片| 国产男女超爽视频在线观看| 99热全是精品| 色婷婷av一区二区三区视频| 国产在线男女| 丰满少妇做爰视频| 汤姆久久久久久久影院中文字幕| 中文在线观看免费www的网站| 777米奇影视久久| 亚洲,欧美,日韩| 国内精品宾馆在线| 亚洲熟女精品中文字幕| 中文在线观看免费www的网站| 成人漫画全彩无遮挡| 欧美最新免费一区二区三区| 亚洲精品成人av观看孕妇| 亚洲欧美成人综合另类久久久| 亚洲三级黄色毛片| 在线观看免费高清a一片| 91久久精品电影网| 精品99又大又爽又粗少妇毛片| 日本vs欧美在线观看视频 | 日日爽夜夜爽网站| 91久久精品电影网| 精品99又大又爽又粗少妇毛片| 欧美国产精品一级二级三级 | 大香蕉97超碰在线| 国产一区二区三区av在线| 欧美一级a爱片免费观看看| 精品少妇久久久久久888优播| 纵有疾风起免费观看全集完整版| 特大巨黑吊av在线直播| 国产国拍精品亚洲av在线观看| 成年人免费黄色播放视频 | 九九在线视频观看精品| 建设人人有责人人尽责人人享有的| 国产成人免费观看mmmm| 国产精品不卡视频一区二区| 婷婷色综合www| 街头女战士在线观看网站| 国产色婷婷99| 免费观看无遮挡的男女| 欧美精品人与动牲交sv欧美| 99热这里只有精品一区| 一级毛片电影观看| 色网站视频免费| 免费看av在线观看网站| 九色成人免费人妻av| 成人免费观看视频高清| 免费黄色在线免费观看| 99久久精品热视频| 中国美白少妇内射xxxbb| 男人和女人高潮做爰伦理| 久久国产乱子免费精品| 精品久久久噜噜| 午夜免费鲁丝| 国产女主播在线喷水免费视频网站| 国产91av在线免费观看| 中国国产av一级| 欧美三级亚洲精品| 国产91av在线免费观看| 国产亚洲最大av| 欧美区成人在线视频| 久热久热在线精品观看| 精品久久久久久久久av| 久久久国产精品麻豆| 日本黄色片子视频| av又黄又爽大尺度在线免费看| 国产精品.久久久| 一级黄片播放器| 免费不卡的大黄色大毛片视频在线观看| 人妻制服诱惑在线中文字幕| 亚洲欧美一区二区三区国产| 一本—道久久a久久精品蜜桃钙片| 人人妻人人爽人人添夜夜欢视频 | 最近中文字幕2019免费版| 欧美3d第一页| 2018国产大陆天天弄谢| 国产精品.久久久| 韩国高清视频一区二区三区| 久久久久视频综合| 看十八女毛片水多多多| 99热这里只有是精品在线观看| 777米奇影视久久|