• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    CPN:一種計算/網(wǎng)絡(luò)資源聯(lián)合優(yōu)化方案探討

    2020-12-02 06:06:48雷波趙倩穎
    關(guān)鍵詞:算力網(wǎng)絡(luò)資源時延

    雷波,趙倩穎

    中國電信股份有限公司研究院,北京 102209

    引 言

    AlphaGo 與世界頂級圍棋高手李世石進行AI 圍棋對決,AlphaGo 大比分獲勝,成為了第一個擊敗人類職業(yè)圍棋選手、第一個戰(zhàn)勝圍棋世界冠軍的人工智能機器人;人體基因測序由最初的數(shù)年縮短到現(xiàn)在的幾天,更有組織宣布人體全基因測序有望只需1000 美元在1 天時間內(nèi)完成;天氣預(yù)報從最初對未來一天的天氣預(yù)測,發(fā)展到現(xiàn)在可以對未來一周甚至更長時間的預(yù)測;宇宙的觀測距離從220 萬光年發(fā)展到現(xiàn)在的137 億光年。人工智能憑借什么戰(zhàn)勝了人類?人類對未知世界的反應(yīng)為何能越來越迅速、精準(zhǔn)?答案是海量數(shù)據(jù)背后的超級算力。AI 通過算力訓(xùn)練龐大的數(shù)據(jù),并通過神經(jīng)網(wǎng)絡(luò)不斷學(xué)習(xí)成長,最終獲得技能,戰(zhàn)勝人類選手;天氣預(yù)報通過算力分析氣象站、衛(wèi)星等終端收集上來的數(shù)據(jù),對各種天氣系統(tǒng)的位置和強度進行預(yù)測??梢哉f:算力改變世界,算力驅(qū)動未來。

    隨著芯片技術(shù)的發(fā)展,算力價格日益下降,已經(jīng)不再是數(shù)年前昂貴的奢侈品。小到個人手機、個人計算機,大到超級計算機、數(shù)據(jù)中心,算力存在于我們生活的各個角落。但另一方面,隨著算力的普及,算力的利用率卻在大幅下降。有數(shù)據(jù)表明各類算力終端的利用率甚至低于15%。大量算力的浪費,無論是對于一個家庭還是一個企業(yè)來說都是一種經(jīng)濟上的損失。在此背景下,亟需在算力提供方與算力消費者之間搭建一個橋梁,讓閑置的算力可以通過網(wǎng)絡(luò)進行交易,即不僅是傳統(tǒng)的云計算平臺,新興的邊緣計算平臺,甚至企業(yè)閑置的服務(wù)器,個人電腦都可以為其它用戶提供算力,從而減少資源的浪費,提高企業(yè)、個人的經(jīng)濟效益。然而,如何將匹配的算力傳遞給用戶成為了難點,其需要對計算資源和網(wǎng)絡(luò)資源進行綜合評估,以期在成本與效益之間找到最優(yōu)化的解決方案。

    在集中化的云計算時代,云網(wǎng)一體成為計算網(wǎng)絡(luò)資源聯(lián)合優(yōu)化的重要解決方案,比如利用軟件定義網(wǎng)絡(luò)/網(wǎng)絡(luò)功能虛擬化(Software Defined Network/ Network Function Virtualization,SDN/NFV)技術(shù)將應(yīng)用、云計算、網(wǎng)絡(luò)及用戶聯(lián)通起來,提供一個“云、網(wǎng)、邊、端”的完整、靈活、可擴展的云網(wǎng)一體化服務(wù)。網(wǎng)絡(luò)將按照云的要求提供網(wǎng)絡(luò)資源(網(wǎng)絡(luò)即服務(wù)),而云則根據(jù)應(yīng)用的需要調(diào)用網(wǎng)絡(luò)資源。然而,隨著5G 的規(guī)模建設(shè)與邊緣計算的興起,前期的云網(wǎng)一體方案面臨了新的挑戰(zhàn)。比如隨各類計算節(jié)點的下沉,算力將遍布整個網(wǎng)絡(luò),業(yè)務(wù)對算力的需求也逐漸呈現(xiàn)出多樣化、多變化的特征。因此,如何結(jié)合網(wǎng)絡(luò)對算力資源進行調(diào)度、充分利用,對整個網(wǎng)絡(luò)進行算網(wǎng)一體化的改造,是本文關(guān)注的主要問題[1]。

    針對前文所述背景,本文面向計算資源與網(wǎng)絡(luò)資源聯(lián)合優(yōu)化的問題,提出了一種算力網(wǎng)絡(luò)的解決方案,這是在5G、AI 時代的新型資源整合方案,它將屬于不同所有方的計算資源通過網(wǎng)絡(luò)有機整合起來,并按照用戶業(yè)務(wù)的不同需求提供最優(yōu)的資源服務(wù)與網(wǎng)絡(luò)連接,從而實現(xiàn)全網(wǎng)性的資源優(yōu)化調(diào)度部署。

    1 相關(guān)工作

    近年來,各領(lǐng)域的專家、學(xué)者都在關(guān)注計算與網(wǎng)絡(luò)的聯(lián)合優(yōu)化問題,也在此方向進行了深入的研究。

    Qingxia Chen 等人提出了一種新穎的融合架構(gòu)-軟件定義網(wǎng)絡(luò)、緩存和計算(Software-Defined Networking, Caching, and Computing,SDN-NCC)[2]。它支持動態(tài)編排網(wǎng)絡(luò),緩存和計算資源,以有效滿足不同應(yīng)用程序的需求并提高端到端系統(tǒng)性能。該架構(gòu)中業(yè)務(wù)的需求被解析為計算需求和緩存需求,而對網(wǎng)絡(luò)的考慮,則體現(xiàn)在基于SDN 技術(shù)的網(wǎng)絡(luò)可編程中。

    Younghwa Kim 等人為更好解決在實際應(yīng)用中用戶業(yè)務(wù)需求的實現(xiàn)和管控問題,提出了一種基于SDN 編排器的智能數(shù)據(jù)中心互聯(lián)(Data Center Interconnection, DCI)技術(shù)[3],其可以通過傳輸網(wǎng)連接分布式云網(wǎng)絡(luò)。文章詳細(xì)介紹了包括需求、結(jié)構(gòu)、實施和測試床在內(nèi)的整體研發(fā)步驟并討論了該項技術(shù)的下一步優(yōu)化工作。

    Ying He 等人提出了一個可以實現(xiàn)網(wǎng)絡(luò),緩存和計算資源的動態(tài)編排,以提高下一代車載網(wǎng)性能的集成框架??蚣苤袑①Y源分配策略表述為一個聯(lián)合優(yōu)化問題,該框架考慮了網(wǎng)絡(luò)、緩存和計算三種資源[4]。

    以上關(guān)于計算網(wǎng)絡(luò)聯(lián)合優(yōu)化問題的研究成果[2-4],均是優(yōu)先考慮計算資源,再考慮網(wǎng)絡(luò)資源。在多級算力并存的今天,這樣的方法容易造成網(wǎng)絡(luò)資源的浪費,也會造成優(yōu)質(zhì)計算資源的浪費。

    除學(xué)術(shù)界外,各大運營商、廠商也在該領(lǐng)域提出了自己的看法和解決方案。當(dāng)下關(guān)于計算與網(wǎng)絡(luò)的聯(lián)合優(yōu)化問題最著名的方案是云網(wǎng)融合。云網(wǎng)融合通過一個橫跨云管和網(wǎng)管的超級協(xié)同編排系統(tǒng),對云中的各種資源和網(wǎng)絡(luò)資源進行協(xié)同調(diào)度,以實現(xiàn)計算資源和網(wǎng)絡(luò)資源的完美結(jié)合,但是該方案目前正處于一個相對簡單的初級階段,超級協(xié)同編排系統(tǒng)的建設(shè)和運營也相對復(fù)雜[5]。

    2019年11月,中國聯(lián)通發(fā)布了《中國聯(lián)通算力網(wǎng)絡(luò)白皮書》[6],同月中國移動發(fā)布了《算力感知網(wǎng)絡(luò)技術(shù)白皮書》[7],兩本白皮書中均介紹了基于分布式網(wǎng)絡(luò)的計算網(wǎng)絡(luò)融合新架構(gòu)—計算優(yōu)先網(wǎng)絡(luò)(Compute First Network,CFN),該架構(gòu)將計算能力和網(wǎng)絡(luò)狀態(tài)信息作為路由信息發(fā)布到網(wǎng)絡(luò),并路由到相應(yīng)的計算節(jié)點,來實現(xiàn)計算和網(wǎng)絡(luò)的聯(lián)合優(yōu)化。該分布式方案具有很好的擴展性,但實現(xiàn)復(fù)雜,需要對現(xiàn)有的網(wǎng)絡(luò)設(shè)備進行升級。

    在我們的前期工作中,提出了一個針對計算網(wǎng)絡(luò)融合問題的算力網(wǎng)絡(luò)管理編排系統(tǒng)[8],該編排管理系統(tǒng)利用集中式的思想對計算信息和網(wǎng)絡(luò)信息進行分發(fā)和收集。該方案在實現(xiàn)上相對簡單,但是其可擴展性受系統(tǒng)性能影響,隨著業(yè)務(wù)量的增加會產(chǎn)生瓶頸。

    基于各領(lǐng)域的研究經(jīng)驗、成果以及生產(chǎn)實踐經(jīng)歷,作者在文中給出了一種新的算力網(wǎng)絡(luò)的實驗驗證平臺,該平臺利用集中式和分布式聯(lián)合的方案通過網(wǎng)絡(luò)分發(fā)服務(wù)節(jié)點的算力、存儲、算法等資源信息,并可結(jié)合網(wǎng)絡(luò)信息(如帶寬、時延等),針對用戶的不同類型需求,提供最佳的資源分配及網(wǎng)絡(luò)連接方案,從而實現(xiàn)整網(wǎng)資源的最優(yōu)化使用。

    2 CPN 概述

    算力網(wǎng)絡(luò)是一種通過網(wǎng)絡(luò)分發(fā)服務(wù)節(jié)點的算力信息、存儲信息、算法信息等,結(jié)合網(wǎng)絡(luò)信息(如路徑、時延等),針對用戶需求,提供最佳的資源分配及網(wǎng)絡(luò)連接,并實現(xiàn)整網(wǎng)資源的最優(yōu)化使用的解決方案。

    算力網(wǎng)絡(luò)需要從兩個層面來解決計算網(wǎng)絡(luò)資源聯(lián)合優(yōu)化調(diào)度的問題。首先是資源關(guān)聯(lián)問題,根據(jù)用戶的訴求將算力資源、網(wǎng)絡(luò)資源等進行有機的整合,以滿足用戶多樣化的需求;其次是資源交易問題,使用戶能夠根據(jù)自己對業(yè)務(wù)的要求以及能夠承擔(dān)的成本,在交易平臺上購買最適合的算力資源與網(wǎng)絡(luò)資源。針對第一方面,算力網(wǎng)絡(luò)所倡導(dǎo)的解決思路是利用網(wǎng)絡(luò)控制面來分發(fā)資源信息。由于網(wǎng)絡(luò)控制面可分為集中式和分布式兩種方案,因此算力網(wǎng)絡(luò)在資源調(diào)度方面也有兩種方案,如集中式的算力網(wǎng)絡(luò)管理編排系統(tǒng)和分布式的算力路由層方案。針對第二方面,算力網(wǎng)絡(luò)希望能夠建立類似于電力交易平臺的算力交易平臺,在算力提供方與算力消費者之間建立橋梁,為消費者提供一站式的服務(wù),而他們不用進行費時費力的一對一的談判與交易,同時完成算力資源與網(wǎng)絡(luò)資源的購買。

    針對第一方面的問題,我們設(shè)計并構(gòu)建了算力網(wǎng)絡(luò)管理編排平臺,如圖 1[8]所示,其可以支持集中式資源調(diào)度或分布式資源調(diào)度方案。集中式方案實現(xiàn)簡單,可以在已有的SDN/NFV 編排控制平臺上擴展實現(xiàn),但集中式方案在擴展性上會出現(xiàn)瓶頸,尤其是在業(yè)務(wù)狀態(tài)頻繁變化時,集中式的管理系統(tǒng)難以對算力資源進行精細(xì)地監(jiān)控和分配;分布式方案實現(xiàn)復(fù)雜,需要對現(xiàn)有的網(wǎng)絡(luò)設(shè)備進行升級,但是其具有很好的擴展性。因此本文將重點結(jié)合集中式和分布式兩種方案的優(yōu)勢提出一種新型混合式方案:既能利用分布式路由協(xié)議分發(fā)資源信息,又能通過基于SDN/NFV 的集中式算力網(wǎng)絡(luò)管理編排平臺集中調(diào)度網(wǎng)絡(luò)資源、計算資源等。

    算力網(wǎng)絡(luò)管理編排平臺負(fù)責(zé)對這些資源進行管理和編排,既要實現(xiàn)根據(jù)業(yè)務(wù)需求的動態(tài)算力調(diào)整,又要實現(xiàn)對各個層面資源的有機協(xié)調(diào),主要模塊功能如下:

    圖1 算力網(wǎng)絡(luò)管理編排平臺架構(gòu)圖Fig.1 CPN management platform architecture

    (1)需求解析模塊。分析用戶業(yè)務(wù)需求,將用戶業(yè)務(wù)需求轉(zhuǎn)化為算力資源需求,根據(jù)算力需求劃分業(yè)務(wù)等級,以確定業(yè)務(wù)的部署位置、所需資源大小等信息。

    (2)算法選擇模塊。根據(jù)用戶的業(yè)務(wù)類型和需求解析模塊的結(jié)果,在賦能平臺中為用戶選擇合適的部署算法,確定用戶業(yè)務(wù)部署的規(guī)格。

    (3)應(yīng)用部署模塊。根據(jù)算法選擇模塊的結(jié)果,將用戶業(yè)務(wù)部署到指定的算力節(jié)點中。

    (4)算力調(diào)度模塊。管理核心云和邊緣云的算力資源,根據(jù)業(yè)務(wù)需求為用戶分配相應(yīng)的計算、存儲、網(wǎng)絡(luò)資源,并根據(jù)策略對業(yè)務(wù)部署位置、業(yè)務(wù)算力進行彈性調(diào)整。

    (5)網(wǎng)絡(luò)調(diào)度模塊。管理用戶、邊緣云、核心云的網(wǎng)絡(luò),在用戶業(yè)務(wù)部署或調(diào)整之后,配置用戶到業(yè)務(wù)處理節(jié)點之間的網(wǎng)絡(luò),將用戶流量路由到處理節(jié)點。

    在上述功能模塊中,部分功能可以借助現(xiàn)有的技術(shù)進行實現(xiàn),如:算法選擇模塊使用大數(shù)據(jù)分析技術(shù);應(yīng)用部署模塊借助邊緣計算平臺(Multi-access Edge Computing Platform, MEP);算力調(diào)度模塊使用NFV 編排器(NFV Orchestrator, NFVO);網(wǎng)絡(luò)調(diào)度模塊使用SDN 控制器等。需求分析模塊則需要根據(jù)服務(wù)的用戶類型進行設(shè)計,形成標(biāo)準(zhǔn)化的模板,用戶根據(jù)自身業(yè)務(wù)規(guī)模提出不同的需求,算力網(wǎng)絡(luò)管理編排系統(tǒng)將業(yè)務(wù)需求轉(zhuǎn)化為具體的算力資源調(diào)度方案,并為用戶分配合適的基礎(chǔ)資源。

    針對第二方面的問題,我們設(shè)計了算力交易平臺。算力交易平臺可以與圖 1 中的算力網(wǎng)絡(luò)管理編排系統(tǒng)進行對接,且與算力消費方、算力提供方之間建立通信,如圖2 所示。

    算力網(wǎng)絡(luò)交易平臺負(fù)責(zé)資源信息的整合與報價、執(zhí)行算力網(wǎng)絡(luò)交易流程以及提供資源消費賬單與資源占用賬單。

    算力網(wǎng)絡(luò)管理平臺和算力交易平臺共同構(gòu)成了本文的實驗驗證平臺-算力網(wǎng)絡(luò)平臺(CPN 平臺)。

    圖2 算力交易平臺Fig.2 Computing power transaction platform

    2.1 資源信息收集與分發(fā)

    在傳統(tǒng)解決方案中,不同類型資源信息分發(fā)是通過互相獨立且差異很大的體系,比如算力資源信息一般會通過集中式的管控平臺(如云管平臺)來收集,用戶需要依靠這些平臺才能獲取各個算力池的空閑算力信息,而網(wǎng)絡(luò)資源信息則是通過網(wǎng)絡(luò)控制面來分發(fā),用戶可以在接入點獲取全網(wǎng)的路由信息,并按一定的策略來獲得有保障或者盡力而為的傳送通道。顯然由于各類資源信息的獨立性,導(dǎo)致在進行聯(lián)合優(yōu)化時,如何將不同類型的資源關(guān)聯(lián)起來,并保持實時或者準(zhǔn)實時更新,成為一大難題。

    因此,算力網(wǎng)絡(luò)采用將算力資源等信息通過網(wǎng)絡(luò)控制面進行轉(zhuǎn)發(fā)的方式,來實現(xiàn)計算資源與網(wǎng)絡(luò)資源的有機結(jié)合,便于用戶調(diào)用最適合的資源,同時也能夠讓運營方從全局的角度來實現(xiàn)資源的優(yōu)化和統(tǒng)一調(diào)度。

    由于網(wǎng)絡(luò)控制面可分為分布式和集中式兩種方案,因此算力網(wǎng)絡(luò)在資源調(diào)度方面也有兩種方案,如集中式的算力網(wǎng)絡(luò)管理編排系統(tǒng)和分布式的算力路由層方案。本文通過分布式的方案來實現(xiàn)算力資源的分發(fā)。該方案通過在如邊界網(wǎng)關(guān)協(xié)議(Border Gateway Protocol, BGP)等的IP 路由協(xié)議中增加相應(yīng)的字段,讓算力資源信息可以在BGP 鄰居之間傳遞,并在傳遞算力資源信息的同時,利用Telemetry 等協(xié)議,測量出本節(jié)點到算力節(jié)點之間的時延信息。路由協(xié)議中新增字段如圖3 所示。

    圖3 路由協(xié)議中新增字段示例Fig.3 Extended fields in routing protocol

    分布式路由分發(fā)示例如圖4 所示。

    第一步,算力節(jié)點C1 將自己的空閑的算力資源信息發(fā)送給路由節(jié)點R4,在R4 上記錄了到C1 的信息:{C1,I1,T4},其中I1 是R4 去往C1 的端口,T4 包括兩部分:一是C1 到R4 的傳輸時延,二是R4 的節(jié)點處理時延Δt。

    第二步,R4 將C1 節(jié)點的算力信息擴散給路由節(jié)點R5,這樣R5 收到了R4 發(fā)送過來的算力信息后,生成相應(yīng)的算力路由表項:{C1,R4,T5},其中記錄去往C1 需要經(jīng)過R4,其時延是T5,而T5 可以根據(jù)R4 發(fā)送過來的T4,加上T45:R4 到R5 的傳輸時延,以及R5 的節(jié)點處理時延Δt 所得,也可以利用Telemetry 協(xié)議重新進行測量。

    同理,網(wǎng)絡(luò)中的各節(jié)點都可以根據(jù)以上流程,得到本節(jié)點到本域內(nèi)所有算力節(jié)點的算力資源信息,以及對應(yīng)的路由表項。

    2.2 資源視圖與交易流程

    用戶首先在算力交易平臺發(fā)起申請,包括對算力資源大小的需求,以及對時延的要求等。算力交易平臺在收到用戶交易申請后,會先向算力網(wǎng)絡(luò)管理編排系統(tǒng)查詢相關(guān)的算力資源信息和網(wǎng)絡(luò)資源信息。如果有必要,也可以由算力網(wǎng)絡(luò)管理編排平臺發(fā)起端到端的時延測量流程,以獲得更為精準(zhǔn)的時延信息。

    第一步:由算力網(wǎng)絡(luò)消費者提出業(yè)務(wù)訴求,比如站點位置、算力資源需求大小、連接服務(wù)要求等。

    圖4 分布式路由分發(fā)示例Fig.4 Distributed routing distribution instance

    第二步:算力網(wǎng)絡(luò)交易平臺根據(jù)算力網(wǎng)絡(luò)消費者的訴求,生成算力網(wǎng)絡(luò)資源視圖,以算力網(wǎng)絡(luò)消費者為中心,將可能的算力資源池、相關(guān)的網(wǎng)絡(luò)連接資源等整合在一張視圖中,甚至包括相關(guān)資源消費組合的套餐報價。

    第三步:算力網(wǎng)絡(luò)消費者根據(jù)算力網(wǎng)絡(luò)資源視圖選擇最適合自己的套餐服務(wù),當(dāng)然也可以自行訂制選擇相應(yīng)的資源,然后在算力交易平臺上簽訂交易合約。

    第四步:算力交易平臺根據(jù)交易合約,通過算力網(wǎng)絡(luò)管理編排系統(tǒng)調(diào)度算力資源、建立網(wǎng)絡(luò)連接等,并更新相應(yīng)的空閑資源信息。

    第五步:算力交易平臺將持續(xù)跟蹤資源占用情況,直到由交易合約制定的交易結(jié)束時間,算力交易平臺終止服務(wù),釋放算力資源與網(wǎng)絡(luò)資源。

    算力交易平臺還可以借助區(qū)塊鏈等新興技術(shù),實現(xiàn)分布式的賬本、匿名交易等新功能。

    2.3 算力資源與網(wǎng)絡(luò)資源聯(lián)合調(diào)度

    算力消費者在算力交易平臺完成交易后,算力交易平臺將交易結(jié)果發(fā)送給算力網(wǎng)絡(luò)編排管理系統(tǒng)。由算力網(wǎng)絡(luò)編排管理平臺根據(jù)交易結(jié)果,分別對每個用戶建立網(wǎng)絡(luò)連接,并分配相應(yīng)的算力資源,更新算力資源和網(wǎng)絡(luò)資源信息。

    3 相關(guān)技術(shù)發(fā)展介紹

    3.1 算力資源評估與度量

    算力,顧名思義就是計算能力。想要根據(jù)用戶對算力的需求為其提供服務(wù),首先需要將算力像電力一樣進行量化,根據(jù)統(tǒng)一的標(biāo)準(zhǔn),評估每一個資源池現(xiàn)有的算力大小,和用戶對算力的需求大小。有了統(tǒng)一的標(biāo)準(zhǔn),才能明確資源現(xiàn)狀和用戶需求,算力才能夠進行交易。而目前,算力按照應(yīng)用場景有不同的衡量單位,用于比特幣的每秒哈希運算次數(shù)(H/S),用于AI 和圖形處理的每秒浮點運算次數(shù)(FLOP/S),智能社會對算力的訴求主要是浮點運算能力,專用AI 芯片如華為昇騰910 采用7nm 工藝,半精度FP16 算力達256TFLOPS,低功耗的12nm 芯片昇騰310 半精度FP16 算力也達到了8 TFLOPS。過去5年, 隨著深度學(xué)習(xí)算法的演進,AI 訓(xùn)練對算力的需求增加了30 萬倍,一些互聯(lián)網(wǎng)廠家已經(jīng)將算力作為服務(wù)提供給用戶,從1 FP 32 TFLOPS 或8 FP 16 TFLOPS 到4 FP 32 TFLOPS 或32 FP16 TFLOPS的AI 推理加速服務(wù),簡單的語音語義識別或單流視頻分析 8 FP16 TFLOPS 即可滿足,復(fù)雜的推薦引擎或者風(fēng)險檢測則需要32 FP16 TFLOPS[6]。

    目前算力資源評估與度量還處于積極研究的階段,已經(jīng)在CCSA 等標(biāo)準(zhǔn)組織中設(shè)立相關(guān)研究課題。當(dāng)前的初步設(shè)想是,將算力池視為黑盒,根據(jù)以往收集的同類型算力池以及實驗室測試情況,利用深度學(xué)習(xí)算法,評估和量化該算力池針對主要的AI 算法所能提供的算力資源大小。

    3.2 精準(zhǔn)網(wǎng)絡(luò)時延測量

    在算力網(wǎng)絡(luò)中,網(wǎng)絡(luò)時延和算力大小是為用戶選擇合適資源池的兩個重要指標(biāo)。精準(zhǔn)的網(wǎng)絡(luò)時延測量則是所有工作的前提。目前Telemetry 技術(shù)能夠提供精準(zhǔn)網(wǎng)絡(luò)時延測量。

    Telemetry 是一項遠程的從物理設(shè)備或虛擬設(shè)備上高速采集數(shù)據(jù)的技術(shù),設(shè)備通過推模式主動向采集器上輸送設(shè)備數(shù)據(jù)信息,提供更實時、更高速的數(shù)據(jù)采集功能。與傳統(tǒng)的簡單網(wǎng)絡(luò)管理協(xié)議(Simple Network Management Protocol,SNMP)的Trap 和SYSLOG( 系統(tǒng)日志) 采用的推模式相比,Telemetry 推送的數(shù)據(jù)范圍更廣,不但包括告警及事件,還可以采集類似接口流量等的監(jiān)控數(shù)據(jù),Telemetry 對網(wǎng)絡(luò)監(jiān)測控制效率的提升有著至關(guān)重要的作用。

    由于Telemetry 能夠提供網(wǎng)絡(luò)的精確測量,常常被用在生產(chǎn)中的自動控制技術(shù)上,用來實現(xiàn)遠程監(jiān)控的自動控制方案。在計算和網(wǎng)絡(luò)聯(lián)合優(yōu)化的場景中,通過Telemetry 技術(shù)可以加強基礎(chǔ)數(shù)據(jù)采集,實現(xiàn)計算和網(wǎng)絡(luò)的智能感知,作為計算網(wǎng)絡(luò)資源可視、智能化的基礎(chǔ)。

    目前Telemetry 技術(shù)尚處于標(biāo)準(zhǔn)化階段。

    3.3 網(wǎng)絡(luò)調(diào)度(SDN 與NFV)

    在確定了用戶業(yè)務(wù)的部署位置后,需要在相應(yīng)的算力池中為用戶劃分資源并在用戶和資源節(jié)點之間建立通路,從而為用戶提供滿足需求的服務(wù)?;赟DN/NFV 的統(tǒng)一編排、自動管控的架構(gòu),能夠很好地解決算力網(wǎng)絡(luò)中網(wǎng)絡(luò)調(diào)度的問題。

    SDN 是一種新型網(wǎng)絡(luò)架構(gòu),它將控制平面和轉(zhuǎn)發(fā)平面解耦,通過軟件編程的形式集中控制網(wǎng)絡(luò),具有開放性、可編程的特點[9]??稍谟脩魳I(yè)務(wù)部署或調(diào)整之后,配置用戶到業(yè)務(wù)處理節(jié)點之間的網(wǎng)絡(luò),將用戶流量路由到處理節(jié)點。

    NFV 利用虛擬化技術(shù),將傳統(tǒng)電信設(shè)備功能,分割成幾個功能區(qū)塊,分別以軟件方式實現(xiàn),不再局限于硬件架構(gòu),實現(xiàn)網(wǎng)絡(luò)功能和硬件設(shè)備解耦。NFV 在2012年開始逐步制訂相關(guān)國際標(biāo)準(zhǔn)規(guī)范,目前已進入了第四階段,開始注重NFV 商用落地的研究[1,10]。可利用NFV 技術(shù)創(chuàng)建虛擬寬帶接入服務(wù)器(virtual Broadband Remote Access Server,vBRAS)、虛擬用戶 終端設(shè)備(virtual Customer Premise Equipment,vCPE)等虛擬網(wǎng)關(guān),使用戶能夠訪問資源節(jié)點。

    SDN/NFV 目前在產(chǎn)業(yè)界受到熱烈的追捧,運營商和通信服務(wù)提供商都加大相關(guān)方向的部署力度希望能夠發(fā)揮SDN/NFV 的優(yōu)勢,幫助新服務(wù)快速部署,實現(xiàn)高度的網(wǎng)絡(luò)自動化和動態(tài)重新,降低運營成本。

    4 CPN 應(yīng)用示例

    在前述的算力網(wǎng)絡(luò)體系的基礎(chǔ)上,本小節(jié)將根據(jù)一個典型的網(wǎng)絡(luò)場景來詳細(xì)描述,如何通過CPN平臺進行算力資源、網(wǎng)絡(luò)資源的聯(lián)合優(yōu)化調(diào)度工作。場景示意如圖5 所示。

    在本場景中,一共有三類算力資源節(jié)點。

    圖5 典型場景示例Fig.5 Typical scenario instance

    表 1 算力與網(wǎng)絡(luò)資源信息表Table 1 Computing power and network resource information table

    (1)第一類是云計算節(jié)點,如本例中的C1。此類節(jié)點所能提供的算力資源非常的多,對于單一用戶而言,可以認(rèn)為接近是無限量供應(yīng)的,但云計算節(jié)點一般集中部署在電力資源充裕、遠離城區(qū)的位置,因此從網(wǎng)絡(luò)角度來看,云計算節(jié)點到用戶的時延是很難控制與保障的。

    (2)第二類是城域計算節(jié)點,如本例中的C2。此類節(jié)點能夠提供一定規(guī)模的算力資源,與用戶也在同一個城域網(wǎng)范疇內(nèi),網(wǎng)絡(luò)連接的質(zhì)量和時延也相對容易保障一些。但時延指標(biāo)仍受到一定的限制,不能提供極低的時延。

    (3)第三類是邊緣計算節(jié)點,如本例中的C3。此類節(jié)點靠近用戶設(shè)立,時延可以非常低,且不容易被其他用戶所干擾,網(wǎng)絡(luò)連接的質(zhì)量可以得到有效的保障。但受限于機房條件,能夠提供的算力資源非常有限,最好能分配給高價值用戶使用。

    第一步:資源信息分發(fā)與收集

    各算力節(jié)點將空閑算力通過路由協(xié)議進行分發(fā),因此R1 可以得到所有計算節(jié)點的算力資源信息、網(wǎng)絡(luò)節(jié)點之間的網(wǎng)絡(luò)拓?fù)湫畔⒁约熬W(wǎng)絡(luò)時延信息等,如表1 所示。

    第二步:算力交易

    用戶根據(jù)收到的算力網(wǎng)絡(luò)路由表,考慮到其業(yè)務(wù)需求,自主選擇合適的算力節(jié)點,并向CPN 平臺發(fā)出申請,完成算力交易流程。

    如用戶希望計算的時延越低越好,而對價格因素不敏感,則可以選擇計算節(jié)點C3。

    如用戶考慮到其對時延要求一般,但希望數(shù)據(jù)不出城,即無需負(fù)擔(dān)長途專線費用,則可以選擇計算節(jié)點C2。

    如用戶對業(yè)務(wù)擴展性要求很高,希望能夠靈活提供算力大小,同時還希望能夠有較高數(shù)據(jù)安全性,具有獨立的網(wǎng)絡(luò)地址空間,但對時延沒有特別要求。則可以選擇計算節(jié)點C3。

    第三步:資源調(diào)度

    當(dāng)用戶在CPN 平臺完成交易后,CPN 平臺將根據(jù)用戶的選擇,建立相應(yīng)的網(wǎng)絡(luò)連接,并分配相應(yīng)的算力資源,更新算力資源和網(wǎng)絡(luò)資源信息。

    如圖5 紅線所示,若用戶選擇計算節(jié)點C1,則CPN 先在C1 上部署虛擬化的軟件定義廣域網(wǎng)(Software Define Wide Area Network,SD-WAN)網(wǎng)關(guān),如vCPE, 即在R1 與C1 之間建立SD-WAN 專線,然后再分配C1 的算力資源給用戶,并更新算力資源表項。

    5 展望與下一步工作

    本文提出了一種計算網(wǎng)絡(luò)資源聯(lián)合優(yōu)化調(diào)度方案-算力網(wǎng)絡(luò)。本文在介紹CPN 平臺的整體架構(gòu)的同時,針對資源關(guān)聯(lián)問題介紹了資源信息的收集分發(fā)流程,針對資源交易問題,介紹了算力的交易流程,提供算力網(wǎng)絡(luò)可長期發(fā)展的生態(tài)環(huán)境。此外,文章在最后還提供了CPN 應(yīng)用的整體示例,展示了CPN平臺如何進行算力資源、網(wǎng)絡(luò)資源的聯(lián)合優(yōu)化調(diào)度工作。算力網(wǎng)絡(luò)可結(jié)合網(wǎng)絡(luò)信息(如帶寬、時延等),針對用戶的不同類型需求,提供最佳的資源分配及網(wǎng)絡(luò)連接,從而實現(xiàn)整網(wǎng)資源的最優(yōu)化使用的解決方案。在下一步的工作中,我們還將對算力網(wǎng)絡(luò)中所涉及的各個功能模塊進行細(xì)化,包括如何對算力資源進行評估與度量,如何進行精準(zhǔn)的網(wǎng)絡(luò)時延測量,和如何對網(wǎng)絡(luò)中的業(yè)務(wù)進行調(diào)度,從而將算力網(wǎng)絡(luò)打造成一個集算力資源選擇,算力資源調(diào)度,算力資源交易為一體的全方位的算力生態(tài)環(huán)境。

    利益沖突聲明

    所有作者聲明不存在利益沖突關(guān)系。

    猜你喜歡
    算力網(wǎng)絡(luò)資源時延
    多方求解智能時代算力挑戰(zhàn)
    新華月報(2024年7期)2024-04-08 02:10:56
    這個第二不一般
    都市人(2023年11期)2024-01-12 05:55:06
    衛(wèi)星通信在算力網(wǎng)絡(luò)中的應(yīng)用研究
    中國電信董事長柯瑞文:算力成為數(shù)字經(jīng)濟的主要生產(chǎn)力
    基于GCC-nearest時延估計的室內(nèi)聲源定位
    電子制作(2019年23期)2019-02-23 13:21:12
    基于改進二次相關(guān)算法的TDOA時延估計
    FRFT在水聲信道時延頻移聯(lián)合估計中的應(yīng)用
    基于分段CEEMD降噪的時延估計研究
    網(wǎng)絡(luò)資源在高中班級管理中的運用
    談網(wǎng)絡(luò)資源在大學(xué)計算機教學(xué)中的應(yīng)用
    久久久精品区二区三区| 欧美日韩成人在线一区二区| 欧美丝袜亚洲另类 | 免费不卡黄色视频| 一级毛片高清免费大全| 人人妻人人澡人人爽人人夜夜| 欧美激情高清一区二区三区| 精品无人区乱码1区二区| 精品国内亚洲2022精品成人 | 精品国产一区二区三区久久久樱花| 久久香蕉激情| 热re99久久国产66热| 国产亚洲av高清不卡| 久久狼人影院| 久久久久久久久久久久大奶| 伦理电影免费视频| 国产视频一区二区在线看| 日韩精品免费视频一区二区三区| 69av精品久久久久久| 人人妻人人澡人人看| 怎么达到女性高潮| 天天躁夜夜躁狠狠躁躁| 久久久国产精品麻豆| 国产欧美日韩一区二区精品| 免费一级毛片在线播放高清视频 | 欧美性长视频在线观看| avwww免费| 亚洲欧美一区二区三区黑人| 国产男女内射视频| 又黄又爽又免费观看的视频| 一区二区日韩欧美中文字幕| 久久久久国内视频| 最新美女视频免费是黄的| 激情在线观看视频在线高清 | 在线播放国产精品三级| 老司机在亚洲福利影院| 1024香蕉在线观看| 一区二区三区精品91| 伦理电影免费视频| 一区二区三区激情视频| 天堂动漫精品| 一区在线观看完整版| 高潮久久久久久久久久久不卡| 久久久久久免费高清国产稀缺| 1024香蕉在线观看| 欧美日韩一级在线毛片| 色播在线永久视频| 国产日韩欧美亚洲二区| 亚洲欧美一区二区三区黑人| 高清在线国产一区| 又黄又爽又免费观看的视频| 人人妻人人爽人人添夜夜欢视频| 午夜精品久久久久久毛片777| 高潮久久久久久久久久久不卡| 超碰97精品在线观看| 国产精品免费一区二区三区在线 | www日本在线高清视频| 色在线成人网| 国产男女超爽视频在线观看| 久久久久国产一级毛片高清牌| 咕卡用的链子| 国产一区在线观看成人免费| 久久精品91无色码中文字幕| 淫妇啪啪啪对白视频| 一级a爱视频在线免费观看| 国产真人三级小视频在线观看| 精品免费久久久久久久清纯 | 精品乱码久久久久久99久播| 男人操女人黄网站| 真人做人爱边吃奶动态| av中文乱码字幕在线| 90打野战视频偷拍视频| 最新在线观看一区二区三区| 757午夜福利合集在线观看| 亚洲全国av大片| 嫩草影视91久久| 精品亚洲成国产av| 精品国产一区二区三区四区第35| 久久精品国产亚洲av香蕉五月 | av天堂久久9| 在线观看舔阴道视频| 丰满饥渴人妻一区二区三| 久久久国产欧美日韩av| 久久中文看片网| 极品教师在线免费播放| 国产成人影院久久av| 国产亚洲欧美98| 久久午夜综合久久蜜桃| 国产在视频线精品| 国产欧美日韩一区二区三区在线| 日韩欧美免费精品| 成人18禁在线播放| 午夜视频精品福利| 国产一区二区三区在线臀色熟女 | 国产在视频线精品| 亚洲精品久久成人aⅴ小说| 1024视频免费在线观看| 午夜免费鲁丝| 色在线成人网| 又大又爽又粗| 一级毛片精品| 精品视频人人做人人爽| 后天国语完整版免费观看| 黄色毛片三级朝国网站| 欧美精品高潮呻吟av久久| 高清黄色对白视频在线免费看| 国产男女内射视频| 亚洲国产欧美日韩在线播放| 久久人妻福利社区极品人妻图片| 高清在线国产一区| 日韩制服丝袜自拍偷拍| 天天操日日干夜夜撸| 高清在线国产一区| 欧美+亚洲+日韩+国产| 叶爱在线成人免费视频播放| 欧美国产精品一级二级三级| 999精品在线视频| 丰满的人妻完整版| 99国产综合亚洲精品| 亚洲免费av在线视频| 岛国在线观看网站| 亚洲精品美女久久久久99蜜臀| 中文字幕人妻熟女乱码| 91在线观看av| 精品国产美女av久久久久小说| 国产精品成人在线| 精品国产国语对白av| 日本欧美视频一区| 18禁裸乳无遮挡免费网站照片 | 少妇被粗大的猛进出69影院| 男人的好看免费观看在线视频 | 天天躁夜夜躁狠狠躁躁| 国产精品久久久久久人妻精品电影| 国产片内射在线| 国产精品久久久久久精品古装| 日韩熟女老妇一区二区性免费视频| 首页视频小说图片口味搜索| 9热在线视频观看99| 久久中文看片网| 日本一区二区免费在线视频| 国产精品99久久99久久久不卡| 亚洲av美国av| 少妇的丰满在线观看| 九色亚洲精品在线播放| 亚洲精品粉嫩美女一区| av网站在线播放免费| 在线观看66精品国产| 亚洲精品美女久久av网站| 老司机午夜十八禁免费视频| 侵犯人妻中文字幕一二三四区| 99re6热这里在线精品视频| 18禁黄网站禁片午夜丰满| 国产成+人综合+亚洲专区| 午夜福利乱码中文字幕| 女警被强在线播放| 久久国产精品影院| 俄罗斯特黄特色一大片| 法律面前人人平等表现在哪些方面| 身体一侧抽搐| 叶爱在线成人免费视频播放| 黄色a级毛片大全视频| www.自偷自拍.com| 十八禁人妻一区二区| 免费一级毛片在线播放高清视频 | 亚洲伊人色综图| 亚洲国产精品一区二区三区在线| 日日摸夜夜添夜夜添小说| 无遮挡黄片免费观看| 1024视频免费在线观看| 午夜91福利影院| 人妻 亚洲 视频| 欧美成狂野欧美在线观看| 在线国产一区二区在线| 人妻 亚洲 视频| 免费在线观看黄色视频的| 无限看片的www在线观看| 亚洲视频免费观看视频| 欧美黄色淫秽网站| 亚洲中文字幕日韩| 精品免费久久久久久久清纯 | 亚洲性夜色夜夜综合| 少妇猛男粗大的猛烈进出视频| 欧美精品高潮呻吟av久久| 18禁裸乳无遮挡免费网站照片 | 老汉色av国产亚洲站长工具| 国产精品久久电影中文字幕 | 精品国产乱码久久久久久男人| 高清av免费在线| 天堂俺去俺来也www色官网| 另类亚洲欧美激情| 久9热在线精品视频| 天天躁日日躁夜夜躁夜夜| 久久久精品免费免费高清| 久久精品亚洲av国产电影网| 国产成人精品久久二区二区免费| 日韩精品免费视频一区二区三区| 高清毛片免费观看视频网站 | 少妇猛男粗大的猛烈进出视频| 巨乳人妻的诱惑在线观看| 在线观看免费日韩欧美大片| 午夜福利影视在线免费观看| 日韩欧美三级三区| 精品久久蜜臀av无| 手机成人av网站| 日本五十路高清| 久久天堂一区二区三区四区| 亚洲av电影在线进入| 视频在线观看一区二区三区| 老司机福利观看| 一本综合久久免费| 十八禁高潮呻吟视频| 亚洲中文av在线| 99久久国产精品久久久| 在线观看免费高清a一片| 12—13女人毛片做爰片一| 午夜福利,免费看| 欧美日韩成人在线一区二区| 正在播放国产对白刺激| 亚洲五月色婷婷综合| 两个人免费观看高清视频| 久久精品成人免费网站| 最新美女视频免费是黄的| 欧美日韩黄片免| 国产精品九九99| 国产成人欧美在线观看 | 最新的欧美精品一区二区| 天天躁日日躁夜夜躁夜夜| 99热只有精品国产| 美女扒开内裤让男人捅视频| 亚洲美女黄片视频| 欧美日韩福利视频一区二区| 曰老女人黄片| 性色av乱码一区二区三区2| 人人妻人人添人人爽欧美一区卜| 热99久久久久精品小说推荐| 最新在线观看一区二区三区| 好男人电影高清在线观看| 最近最新免费中文字幕在线| 欧美国产精品va在线观看不卡| 99re6热这里在线精品视频| 成人三级做爰电影| 久久国产乱子伦精品免费另类| 亚洲熟女精品中文字幕| 亚洲熟女毛片儿| 免费女性裸体啪啪无遮挡网站| 久久青草综合色| 国产淫语在线视频| 女人被狂操c到高潮| 亚洲欧美激情在线| 久久人妻福利社区极品人妻图片| 美女福利国产在线| 久久天堂一区二区三区四区| 国产成人啪精品午夜网站| 99久久人妻综合| 国产精品自产拍在线观看55亚洲 | 国产成人精品久久二区二区91| 亚洲性夜色夜夜综合| 久久精品国产99精品国产亚洲性色 | www.熟女人妻精品国产| 久久国产精品影院| 国产亚洲欧美在线一区二区| 欧美日韩亚洲国产一区二区在线观看 | 丝袜在线中文字幕| 19禁男女啪啪无遮挡网站| 免费观看a级毛片全部| 搡老熟女国产l中国老女人| 国产在线观看jvid| 成人手机av| 美女福利国产在线| 久久精品熟女亚洲av麻豆精品| 中文字幕人妻熟女乱码| 亚洲午夜理论影院| 国产精品影院久久| 日本a在线网址| 国产激情久久老熟女| 国产精品亚洲一级av第二区| 亚洲熟妇中文字幕五十中出 | 午夜久久久在线观看| 高清av免费在线| 在线观看免费视频日本深夜| 久久久水蜜桃国产精品网| 欧美人与性动交α欧美精品济南到| 久久午夜综合久久蜜桃| 12—13女人毛片做爰片一| 国产欧美日韩精品亚洲av| 在线观看免费午夜福利视频| 99久久99久久久精品蜜桃| 国产又爽黄色视频| 国产黄色免费在线视频| 欧美最黄视频在线播放免费 | 一二三四在线观看免费中文在| 日韩欧美一区二区三区在线观看 | 日日爽夜夜爽网站| 免费黄频网站在线观看国产| 最近最新免费中文字幕在线| 一级毛片女人18水好多| videos熟女内射| 免费看十八禁软件| 99久久精品国产亚洲精品| 亚洲在线自拍视频| av国产精品久久久久影院| 高清欧美精品videossex| 在线观看免费视频网站a站| 99精国产麻豆久久婷婷| 99热网站在线观看| 国产乱人伦免费视频| 国产一区在线观看成人免费| 1024视频免费在线观看| 人人妻人人添人人爽欧美一区卜| 亚洲av成人不卡在线观看播放网| 90打野战视频偷拍视频| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲欧美日韩另类电影网站| 亚洲精品美女久久av网站| 首页视频小说图片口味搜索| 午夜两性在线视频| 久久国产精品大桥未久av| 欧美日韩亚洲国产一区二区在线观看 | netflix在线观看网站| 国产精品香港三级国产av潘金莲| 国产av又大| 一本大道久久a久久精品| 国产精品久久久人人做人人爽| 欧美成狂野欧美在线观看| 王馨瑶露胸无遮挡在线观看| 久久久久久免费高清国产稀缺| 免费在线观看影片大全网站| 亚洲第一av免费看| 99国产精品一区二区蜜桃av | 亚洲成人手机| 极品少妇高潮喷水抽搐| 国产精品自产拍在线观看55亚洲 | 国产又色又爽无遮挡免费看| 亚洲色图av天堂| 精品国产一区二区三区四区第35| 国产av又大| 不卡av一区二区三区| 亚洲av美国av| 国产单亲对白刺激| 999久久久精品免费观看国产| 大陆偷拍与自拍| 中文字幕最新亚洲高清| www.自偷自拍.com| 中国美女看黄片| 亚洲av片天天在线观看| 国产欧美日韩一区二区三| 精品一区二区三区四区五区乱码| 国产乱人伦免费视频| 成人免费观看视频高清| 夫妻午夜视频| 韩国精品一区二区三区| a级毛片在线看网站| 亚洲av片天天在线观看| 亚洲成人国产一区在线观看| 欧美丝袜亚洲另类 | 免费少妇av软件| 99热国产这里只有精品6| 黄色成人免费大全| 国产男女超爽视频在线观看| 精品久久蜜臀av无| 欧美日韩黄片免| 极品教师在线免费播放| 久久人妻av系列| www日本在线高清视频| 欧美激情久久久久久爽电影 | 欧美最黄视频在线播放免费 | 丰满饥渴人妻一区二区三| 亚洲国产欧美一区二区综合| 丁香六月欧美| 国产日韩欧美亚洲二区| tocl精华| 女人爽到高潮嗷嗷叫在线视频| 人妻 亚洲 视频| 操出白浆在线播放| 日本撒尿小便嘘嘘汇集6| 精品欧美一区二区三区在线| 国产精品98久久久久久宅男小说| 国产一区二区三区在线臀色熟女 | 在线观看免费午夜福利视频| netflix在线观看网站| 国产在线观看jvid| 免费看十八禁软件| 美女福利国产在线| 欧美老熟妇乱子伦牲交| 亚洲精品乱久久久久久| 妹子高潮喷水视频| 狠狠狠狠99中文字幕| 在线国产一区二区在线| 一本一本久久a久久精品综合妖精| 自拍欧美九色日韩亚洲蝌蚪91| 一进一出抽搐gif免费好疼 | 一区在线观看完整版| 国产乱人伦免费视频| 黑丝袜美女国产一区| 精品久久久久久久久久免费视频 | 91字幕亚洲| 日韩大码丰满熟妇| 国产亚洲精品一区二区www | 一级毛片高清免费大全| 岛国毛片在线播放| 黑人操中国人逼视频| 国内毛片毛片毛片毛片毛片| 曰老女人黄片| 一区二区三区精品91| 国产精品久久久久久精品古装| 99精品久久久久人妻精品| 天天躁夜夜躁狠狠躁躁| 首页视频小说图片口味搜索| 久久精品aⅴ一区二区三区四区| 在线播放国产精品三级| 国产欧美日韩精品亚洲av| 国产1区2区3区精品| 国产精品自产拍在线观看55亚洲 | 一边摸一边抽搐一进一小说 | 在线av久久热| 人妻 亚洲 视频| 最近最新中文字幕大全电影3 | 午夜久久久在线观看| 国产精品国产av在线观看| 国产精品一区二区免费欧美| 国产一区二区激情短视频| 9191精品国产免费久久| 亚洲七黄色美女视频| 九色亚洲精品在线播放| 成人黄色视频免费在线看| 老熟妇仑乱视频hdxx| 日本wwww免费看| 久久人人97超碰香蕉20202| 国产av又大| 亚洲熟女精品中文字幕| 午夜日韩欧美国产| 亚洲,欧美精品.| 十分钟在线观看高清视频www| 视频在线观看一区二区三区| 久久国产精品人妻蜜桃| 亚洲熟妇熟女久久| 韩国av一区二区三区四区| 免费女性裸体啪啪无遮挡网站| 精品福利观看| 欧美色视频一区免费| 亚洲av成人不卡在线观看播放网| 色综合欧美亚洲国产小说| 一区福利在线观看| 欧美国产精品一级二级三级| 国产欧美日韩精品亚洲av| 亚洲午夜理论影院| 高清黄色对白视频在线免费看| 又紧又爽又黄一区二区| 日韩有码中文字幕| 国产在线观看jvid| 久久午夜综合久久蜜桃| 亚洲av日韩精品久久久久久密| 美国免费a级毛片| 夜夜爽天天搞| 飞空精品影院首页| 国产成人欧美在线观看 | 久久这里只有精品19| 国产成人系列免费观看| 制服人妻中文乱码| 国产一区二区激情短视频| 一本大道久久a久久精品| 夜夜爽天天搞| 美女视频免费永久观看网站| 欧美丝袜亚洲另类 | 欧美 亚洲 国产 日韩一| 极品少妇高潮喷水抽搐| 老汉色av国产亚洲站长工具| 成人18禁高潮啪啪吃奶动态图| 国产不卡av网站在线观看| 国产片内射在线| 午夜福利乱码中文字幕| www.熟女人妻精品国产| 少妇被粗大的猛进出69影院| 亚洲精品国产一区二区精华液| 精品久久久久久,| 久久久久视频综合| 精品一区二区三卡| 法律面前人人平等表现在哪些方面| 精品人妻在线不人妻| 成人18禁高潮啪啪吃奶动态图| 国产精品二区激情视频| 国产1区2区3区精品| 亚洲av日韩精品久久久久久密| 国产99久久九九免费精品| 亚洲一区中文字幕在线| 国产精品免费一区二区三区在线 | 亚洲一区二区三区不卡视频| 露出奶头的视频| 黄色丝袜av网址大全| 欧美 亚洲 国产 日韩一| 91成年电影在线观看| 香蕉久久夜色| 亚洲一码二码三码区别大吗| 国产精品1区2区在线观看. | 老司机午夜福利在线观看视频| 美女午夜性视频免费| 校园春色视频在线观看| 午夜福利乱码中文字幕| 国内久久婷婷六月综合欲色啪| avwww免费| 熟女少妇亚洲综合色aaa.| avwww免费| 最新美女视频免费是黄的| 天堂√8在线中文| 一区二区三区国产精品乱码| 亚洲av日韩精品久久久久久密| 咕卡用的链子| 免费观看人在逋| 9热在线视频观看99| 黄片大片在线免费观看| 免费在线观看影片大全网站| 免费不卡黄色视频| 99re在线观看精品视频| 国产精品久久电影中文字幕 | 久久久精品国产亚洲av高清涩受| 99国产极品粉嫩在线观看| 久久久久视频综合| 亚洲片人在线观看| 欧美一级毛片孕妇| 国产亚洲精品第一综合不卡| 国产精品亚洲av一区麻豆| tube8黄色片| 国产精品免费大片| 国产不卡av网站在线观看| 淫妇啪啪啪对白视频| av有码第一页| 午夜日韩欧美国产| 久久中文字幕人妻熟女| 又黄又粗又硬又大视频| а√天堂www在线а√下载 | 中文字幕人妻丝袜制服| 热99国产精品久久久久久7| 亚洲av日韩在线播放| 国产精品99久久99久久久不卡| 亚洲一区二区三区欧美精品| 国产亚洲av高清不卡| 国产色视频综合| 中文字幕制服av| 亚洲欧美激情综合另类| 国产精品久久久av美女十八| 狂野欧美激情性xxxx| 久久精品aⅴ一区二区三区四区| 欧美精品av麻豆av| 99精品欧美一区二区三区四区| 国产精品电影一区二区三区 | 王馨瑶露胸无遮挡在线观看| 日韩欧美免费精品| 美女国产高潮福利片在线看| 亚洲精品自拍成人| 国产99白浆流出| 国产精品美女特级片免费视频播放器 | 大香蕉久久成人网| 欧美av亚洲av综合av国产av| 久久青草综合色| 啪啪无遮挡十八禁网站| www.自偷自拍.com| 久久午夜综合久久蜜桃| 黄频高清免费视频| 久久久久久人人人人人| 色尼玛亚洲综合影院| 日韩视频一区二区在线观看| 日本黄色视频三级网站网址 | 午夜福利,免费看| 亚洲va日本ⅴa欧美va伊人久久| 午夜精品久久久久久毛片777| 精品视频人人做人人爽| 色综合婷婷激情| 桃红色精品国产亚洲av| 一级a爱片免费观看的视频| 窝窝影院91人妻| 久久天躁狠狠躁夜夜2o2o| 婷婷精品国产亚洲av在线 | 亚洲片人在线观看| 人人澡人人妻人| 国产成人精品无人区| 伊人久久大香线蕉亚洲五| 老司机午夜福利在线观看视频| 在线永久观看黄色视频| 欧美日韩亚洲国产一区二区在线观看 | 一二三四社区在线视频社区8| 亚洲欧美一区二区三区久久| 免费人成视频x8x8入口观看| 亚洲精品国产区一区二| 夜夜夜夜夜久久久久| 一进一出好大好爽视频| 一区二区三区国产精品乱码| 国产成人精品久久二区二区91| 激情视频va一区二区三区| 精品久久久久久电影网| 日韩欧美一区视频在线观看| www.熟女人妻精品国产| 99精品欧美一区二区三区四区| 咕卡用的链子| 久久精品成人免费网站| 国产深夜福利视频在线观看| 亚洲精品国产一区二区精华液| 精品乱码久久久久久99久播| 精品高清国产在线一区| 欧美精品人与动牲交sv欧美| 每晚都被弄得嗷嗷叫到高潮| 欧美黄色淫秽网站| av视频免费观看在线观看| 精品国内亚洲2022精品成人 | 久久久久精品国产欧美久久久| 极品教师在线免费播放| 老司机亚洲免费影院| 桃红色精品国产亚洲av| 丝瓜视频免费看黄片| 中文字幕色久视频| 午夜免费观看网址| 亚洲 欧美一区二区三区| 狠狠婷婷综合久久久久久88av| 又紧又爽又黄一区二区| 国产精品美女特级片免费视频播放器 | 19禁男女啪啪无遮挡网站|