• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于網(wǎng)卡虛擬化的高性能容器網(wǎng)絡(luò)設(shè)計(jì)

    2022-07-14 13:11:36臧迪楊志剛王晶姚治成張偉功
    計(jì)算機(jī)工程 2022年7期
    關(guān)鍵詞:長(zhǎng)鏈網(wǎng)卡虛擬化

    臧迪,楊志剛,王晶,姚治成,張偉功

    (1.首都師范大學(xué)信息工程學(xué)院,北京 100048;2.中國(guó)科學(xué)院計(jì)算技術(shù)研究所先進(jìn)計(jì)算機(jī)系統(tǒng)研究中心,北京 100080;3.首都師范大學(xué)高可靠嵌入式系統(tǒng)技術(shù)北京市工程中心,北京 100048)

    0 概述

    云計(jì)算具有資源利用率高、靈活和部署便利等特點(diǎn),因此,越來(lái)越多的企業(yè)逐漸從傳統(tǒng)模式過(guò)渡到云計(jì)算模式。然而,云計(jì)算需要數(shù)據(jù)中心做支撐,當(dāng)數(shù)據(jù)包通過(guò)互聯(lián)網(wǎng)到達(dá)數(shù)據(jù)中心時(shí),數(shù)據(jù)中心會(huì)采用防火墻、深度報(bào)文檢測(cè)、入侵檢測(cè)、網(wǎng)絡(luò)地址轉(zhuǎn)換等[1]技術(shù)對(duì)數(shù)據(jù)包進(jìn)行處理。網(wǎng)絡(luò)中間件與Web 業(yè)務(wù)緊密耦合,能夠滿(mǎn)足運(yùn)營(yíng)商電信級(jí)的業(yè)務(wù)要求。隨著云平臺(tái)規(guī)模的不斷擴(kuò)大,專(zhuān)用中間件的部署需求不斷增加,導(dǎo)致傳統(tǒng)軟硬一體化的封閉式結(jié)構(gòu)功能單一、不靈活、價(jià)格昂貴的缺點(diǎn)逐漸顯現(xiàn)。然而,軟件定義網(wǎng)絡(luò)(Software Define Network,SDN)結(jié)合軟硬解耦原理對(duì)網(wǎng)絡(luò)功能進(jìn)行虛擬化。這種網(wǎng)絡(luò)功能虛擬化(Network Function Virtualization,NFV)使得網(wǎng)絡(luò)架構(gòu)更靈活、功能更豐富、價(jià)格更低廉,推動(dòng)云計(jì)算平臺(tái)的發(fā)展,加快了容器技術(shù)、虛擬交換機(jī)技術(shù)和網(wǎng)卡虛擬化技術(shù)的成熟和推廣。

    NFV 技術(shù)實(shí)現(xiàn)了軟硬件解耦,并且具有靈活的網(wǎng)絡(luò)部署和動(dòng)態(tài)擴(kuò)展的特點(diǎn)。傳統(tǒng)的NFV 平臺(tái)主要依靠虛擬機(jī)技術(shù),基于虛擬機(jī)的NFV 架構(gòu)能夠?qū)⒖臻g資源隔離,具有較優(yōu)的靈活性和按需分配性,但是虛擬機(jī)帶來(lái)的資源消耗較大[2]。例如,在NFV 開(kāi)放平臺(tái)(OPNFV)[3]框架下,使用OpenStack 虛擬機(jī)技術(shù)與OpenDaylight 構(gòu)建虛擬化基礎(chǔ)設(shè)施管理器,產(chǎn)生的資源消耗較大。

    容器技術(shù)是一種基于內(nèi)核命名空間的資源隔離技術(shù),近年來(lái),作為下一代虛擬化技術(shù)進(jìn)入快速普及階段。由于容器技術(shù)沒(méi)有硬件損失,因此具有接近裸機(jī)的性能。此外,容器技術(shù)的啟動(dòng)速度可以達(dá)到毫秒級(jí),因此在資源利用率和靈活部署方面有很大優(yōu)勢(shì)。采用容器技術(shù)構(gòu)建虛擬網(wǎng)絡(luò)功能能夠有效解決資源開(kāi)銷(xiāo)大的問(wèn)題[4-5]?;谌萜骷夹g(shù)構(gòu)建虛擬網(wǎng)絡(luò)功能通常采用Linux 自帶的橋接模式、overlay網(wǎng)絡(luò)或者虛擬交換機(jī)部署[6-7]。這種模式雖然可以實(shí)現(xiàn)流量轉(zhuǎn)發(fā),但是在跨主機(jī)情況下,流量經(jīng)過(guò)網(wǎng)卡需要兩次轉(zhuǎn)發(fā),導(dǎo)致延遲敏感型應(yīng)用產(chǎn)生較大的性能損失,并且CPU 的負(fù)載較大,導(dǎo)致帶寬下降。

    本文提出目標(biāo)感知的容器網(wǎng)絡(luò)用于NFV 長(zhǎng)鏈場(chǎng)景。結(jié)合硬件虛擬化技術(shù)和軟件模擬技術(shù)判斷流量的目的地址,尋找最優(yōu)的流量轉(zhuǎn)發(fā)路徑,優(yōu)化NFV場(chǎng)景下經(jīng)過(guò)每個(gè)業(yè)務(wù)節(jié)點(diǎn)的網(wǎng)絡(luò)延遲和吞吐量,同時(shí)利用基于腳本程序的自動(dòng)化部署模塊對(duì)每個(gè)節(jié)點(diǎn)業(yè)務(wù)進(jìn)行配置,便于用戶(hù)對(duì)網(wǎng)絡(luò)進(jìn)行管理和修改。

    1 相關(guān)工作

    在NFV 部署中,NFV 服務(wù)鏈的優(yōu)化技術(shù)和網(wǎng)絡(luò)I/O 虛擬化技術(shù)是影響網(wǎng)絡(luò)性能最直接的因素。

    在NFV 服務(wù)鏈的優(yōu)化技術(shù)方面,文獻(xiàn)[8]將整條服務(wù)鏈的網(wǎng)絡(luò)功能拆分成若干個(gè)子模塊,消除原有服務(wù)鏈中的冗余模塊,加快服務(wù)鏈的處理速度。文獻(xiàn)[9]通過(guò)拷貝、合并等方式對(duì)原有的串行處理且無(wú)依賴(lài)關(guān)系的網(wǎng)絡(luò)功能進(jìn)行并行化包處理,優(yōu)化整條服務(wù)鏈的延遲和吞吐量性能。文獻(xiàn)[10]提出IETF(Internet Engineering Task Force),在云數(shù)據(jù)中心通過(guò)優(yōu)化虛擬網(wǎng)絡(luò)功能的調(diào)度完成時(shí)間來(lái)減少延遲。

    現(xiàn)有的網(wǎng)絡(luò)I/O 虛擬化技術(shù)分為單根I/O 虛擬化(Single Root I/O Virtualization,SR-IOV)技術(shù)、軟件模擬虛擬化技術(shù)和網(wǎng)卡直通技術(shù)。SR-IOV 技術(shù)是由PCI-SIG 制定的輸入輸出虛擬化標(biāo)準(zhǔn)[11],通過(guò)直接I/O 技術(shù)減少額外包復(fù)制帶來(lái)的性能損失,達(dá)到接近主機(jī)的性能。文獻(xiàn)[12]提出在標(biāo)準(zhǔn)X86 服務(wù)器上使用SR-IOV 技術(shù)部署虛擬化網(wǎng)絡(luò)功能,以達(dá)到提高吞吐量的目的。基于軟件模擬的網(wǎng)絡(luò)I/O 虛擬化技術(shù)又稱(chēng)虛擬交換機(jī)技術(shù)。虛擬交換機(jī)技術(shù)的工作原理與物理交換機(jī)類(lèi)似,其兩端分別連接著物理網(wǎng)卡和多塊虛擬網(wǎng)卡,同時(shí)虛擬交換機(jī)內(nèi)部會(huì)維護(hù)一張映射表,根據(jù)MAC 地址尋找對(duì)應(yīng)的虛擬機(jī)鏈路進(jìn)而完成數(shù)據(jù)轉(zhuǎn)發(fā)。文獻(xiàn)[13]提出一種虛擬交換機(jī)開(kāi)源軟件OpenVSwitch。文獻(xiàn)[14]對(duì)NFV 場(chǎng)景下虛擬交換機(jī)的性能進(jìn)行評(píng)估與分析。網(wǎng)卡直通技術(shù)使用硬件輔助虛擬化技術(shù),將宿主機(jī)中的物理PCI 設(shè)備直接分配給客戶(hù)機(jī)使用,客戶(hù)機(jī)以獨(dú)占方式訪(fǎng)問(wèn)該宿主機(jī)的PCI/PCI-E 設(shè)備[15]。文獻(xiàn)[16]對(duì)X86 的網(wǎng)卡直通技術(shù)進(jìn)行分析,指出物理網(wǎng)卡直通更容易受到“拒絕攻擊”,從而影響每個(gè)服務(wù)器的性能。由于網(wǎng)卡直通技術(shù)只能被一個(gè)虛擬機(jī)獨(dú)享,安全性也存在隱患,因此逐漸被單根虛擬化技術(shù)和軟件模擬虛擬化技術(shù)所取代。

    單根I/O 虛擬化技術(shù)和軟件模擬虛擬化技術(shù)已成為主流技術(shù),為容器提供網(wǎng)橋的功能。但是單根I/O虛擬化技術(shù)在主機(jī)內(nèi)部傳輸方面比軟件模擬虛擬化技術(shù)性能差,而單根虛擬化技術(shù)在跨主機(jī)的性能要優(yōu)于軟件模擬虛擬化技術(shù)。在NFV 長(zhǎng)鏈的場(chǎng)景下,需要同時(shí)采用主機(jī)內(nèi)部的傳輸和主機(jī)外部的傳輸,使用單一某種技術(shù)難以滿(mǎn)足NFV 長(zhǎng)鏈場(chǎng)景的需求。針對(duì)上述問(wèn)題,本文提出一種目標(biāo)感知的容器網(wǎng)絡(luò),通過(guò)優(yōu)化SR-IOV 技術(shù)在NFV 場(chǎng)景下的性能,降低NFV 場(chǎng)景下網(wǎng)絡(luò)的延遲并且提高網(wǎng)絡(luò)吞吐量。

    2 目標(biāo)感知的容器網(wǎng)絡(luò)

    目標(biāo)感知的容器網(wǎng)絡(luò)設(shè)計(jì)方案主要是對(duì)硬件虛擬化進(jìn)行改進(jìn)。傳統(tǒng)的SR-IOV[17]技術(shù)是通過(guò)驅(qū)動(dòng)把單一的物理網(wǎng)卡虛擬出獨(dú)立的虛擬網(wǎng)卡,并通過(guò)驅(qū)動(dòng)將網(wǎng)卡劃分為多個(gè)地址段。SR-IOV 技術(shù)主要有虛擬功能(Virtualization Function,VF)和物理功能(Physical Function,PF)。SR-IOV 技術(shù)原理示意圖如圖1 所示。

    圖1 SR-IOV 技術(shù)原理示意圖Fig.1 Schematic diagram of SR-IOV technology principle

    SR-IOV 技術(shù)主要分為3 層,最底層是支持SR-IOV 技術(shù)的硬件網(wǎng)卡,中間層是操作系統(tǒng)內(nèi)核,最上層是提供某種服務(wù)的容器。SR-IOV 技術(shù)的原理是網(wǎng)卡通過(guò)SR-IOV 技術(shù)虛擬出多個(gè)虛擬功能,虛擬出的VF 可以跨過(guò)操作系統(tǒng)內(nèi)核直接分配給提供某種服務(wù)的容器,但是在NFV 級(jí)聯(lián)的場(chǎng)景下,單獨(dú)使用SR-IOV 技術(shù)會(huì)導(dǎo)致其性能下降,因此針對(duì)NFV場(chǎng)景,本文設(shè)計(jì)目標(biāo)感知的容器網(wǎng)絡(luò)。

    在NFV 場(chǎng)景下需要將各容器相互級(jí)聯(lián),但是對(duì)于圖1 的設(shè)計(jì),單獨(dú)使用SR-IOV 技術(shù)的網(wǎng)絡(luò)性能會(huì)出現(xiàn)瓶頸。因此,為解決SR-IOV 技術(shù)在NFV 場(chǎng)景下的性能瓶頸問(wèn)題,本文提出目標(biāo)感知的容器網(wǎng)絡(luò),其結(jié)構(gòu)如圖2 所示。

    圖2 目標(biāo)感知的容器網(wǎng)絡(luò)結(jié)構(gòu)Fig.2 Structure of container network for target perception

    該網(wǎng)絡(luò)結(jié)構(gòu)的最頂層是使用容器技術(shù)把每個(gè)NFV 獨(dú)立應(yīng)用分別放在不同的容器中,使得容器之間的應(yīng)用相互隔離,如果需要某種應(yīng)用,可以直接使用特定功能的容器鏡像,以便于維護(hù),例如容器應(yīng)用支持防火墻、深度包檢測(cè)、網(wǎng)絡(luò)地址轉(zhuǎn)換和負(fù)載均衡等功能。本文網(wǎng)絡(luò)利用SR-IOV 技術(shù)跨過(guò)操作系統(tǒng)內(nèi)核,通過(guò)軟交換實(shí)現(xiàn)容器與容器之間的交互,因此在網(wǎng)卡流量發(fā)送到主機(jī)時(shí)需要判斷流量發(fā)送位置。當(dāng)網(wǎng)卡跨過(guò)操作系統(tǒng)內(nèi)核到容器的網(wǎng)絡(luò)中間件時(shí),目標(biāo)感知的容器網(wǎng)絡(luò)通過(guò)轉(zhuǎn)發(fā)模塊判斷目標(biāo)的目的地址,通過(guò)目的地址判斷網(wǎng)絡(luò)流量的方向,之后提交給最頂層。

    2.1 轉(zhuǎn)發(fā)模塊

    目標(biāo)感知的容器網(wǎng)絡(luò)結(jié)合網(wǎng)絡(luò)地址轉(zhuǎn)換(NAT)和OpenFlow[18-19]對(duì)轉(zhuǎn)發(fā)模塊進(jìn)行設(shè)計(jì),主要依據(jù)軟件虛擬技術(shù)實(shí)現(xiàn)流量轉(zhuǎn)發(fā)。OpenVSwitch 是目前主流的軟件模擬技術(shù),它提供OpenFlow 協(xié)議并且OpenVSwitch 的轉(zhuǎn)發(fā)性能比Linux 下的網(wǎng)橋模式較優(yōu)。因此,轉(zhuǎn)發(fā)模塊使用基于NAT 和OpenVSwitch的網(wǎng)絡(luò)設(shè)計(jì)實(shí)現(xiàn)流量的轉(zhuǎn)發(fā)。當(dāng)前轉(zhuǎn)發(fā)分為單根虛擬化的虛擬網(wǎng)卡和OpenVSwitch 的虛擬網(wǎng)卡2 個(gè)方向。流量轉(zhuǎn)發(fā)會(huì)判斷發(fā)送的目的地址是否在NFV長(zhǎng)鏈中,如果在NFV 長(zhǎng)鏈中,轉(zhuǎn)發(fā)模塊將流量提交到上層并對(duì)數(shù)據(jù)包進(jìn)行處理,例如深度包檢測(cè)或者負(fù)載均衡等服務(wù),如果不在NFV 長(zhǎng)鏈中,轉(zhuǎn)發(fā)模塊就會(huì)丟棄該流量。轉(zhuǎn)發(fā)模塊還可以根據(jù)用戶(hù)輸入的OpenFlow 語(yǔ)法更改路徑,使用戶(hù)調(diào)整轉(zhuǎn)發(fā)路徑,實(shí)現(xiàn)靈活轉(zhuǎn)發(fā),即可以對(duì)容器的流量進(jìn)行靈活規(guī)劃。

    2.2 自動(dòng)化部署模塊

    本文網(wǎng)絡(luò)在原有的基礎(chǔ)上增加了軟件交換技術(shù)和轉(zhuǎn)發(fā)模塊配置,因此提高了部署的復(fù)雜性。為便于部署,本文使用基于腳本程序的自動(dòng)化部署方案,無(wú)需手動(dòng)干預(yù),并且對(duì)每個(gè)節(jié)點(diǎn)業(yè)務(wù)進(jìn)行配置。配置包括整體網(wǎng)絡(luò)框架配置、轉(zhuǎn)發(fā)模塊配置、網(wǎng)絡(luò)中間件設(shè)計(jì)以及服務(wù)節(jié)點(diǎn)設(shè)計(jì)。自動(dòng)化部署序列圖如圖3 所示。

    圖3 自動(dòng)化部署序列圖Fig.3 Sequence diagram of automatic deployment

    自動(dòng)化部署模塊主要分為3 個(gè)部分:1)部署選擇,主要是配置容器環(huán)境以及虛擬交換機(jī)和單根虛擬化;2)部署的環(huán)境配置,當(dāng)用戶(hù)啟動(dòng)自動(dòng)化部署模塊時(shí),自動(dòng)化部署會(huì)讓用戶(hù)選擇自動(dòng)化部署模式,進(jìn)而選擇中間件,例如容器提供的服務(wù)(防火墻服務(wù)、深度包檢測(cè)服務(wù)、負(fù)載均衡服務(wù)、網(wǎng)頁(yè)服務(wù)以及無(wú)服務(wù)等);3)對(duì)轉(zhuǎn)發(fā)模塊進(jìn)行配置,轉(zhuǎn)發(fā)模塊分為使用網(wǎng)絡(luò)地址轉(zhuǎn)換和使用OpenFlow 協(xié)議自定義轉(zhuǎn)換。轉(zhuǎn)發(fā)模塊配置完成之后,整體網(wǎng)絡(luò)實(shí)現(xiàn)自動(dòng)化部署。

    自動(dòng)化部署模塊的整體架構(gòu)如圖4 所示。從圖4 可以看出,最底層使用SR-IOV 技術(shù)生成虛擬網(wǎng)卡,應(yīng)用層使用Docker 容器技術(shù),系統(tǒng)內(nèi)核層中的軟交換使用OpenVSwitch。自動(dòng)化部署模塊能夠自動(dòng)配置轉(zhuǎn)發(fā)模塊規(guī)則以及整體的網(wǎng)絡(luò)拓?fù)洹?/p>

    圖4 自動(dòng)化部署模塊的整體架構(gòu)Fig.4 Overall architecture of automatic deployment module

    3 實(shí)驗(yàn)與結(jié)果分析

    3.1 實(shí)驗(yàn)環(huán)境與配置

    本文使用兩個(gè)測(cè)試工具,分別是對(duì)網(wǎng)絡(luò)性能進(jìn)行測(cè)試的Netperf[20]和對(duì)請(qǐng)求數(shù)進(jìn)行測(cè)試的Apache Benchmark,測(cè)試的內(nèi)容為長(zhǎng)鏈NFV 的網(wǎng)絡(luò)延遲帶寬和每秒請(qǐng)求數(shù)。

    Web 服務(wù)器軟件Apache2 網(wǎng)頁(yè)應(yīng)用和Haproxy[21]負(fù)載均衡應(yīng)用主要是用于測(cè)試負(fù)載。Haproxy 具有較高的可用性和負(fù)載均衡能力,適用于負(fù)載大的Web 站點(diǎn)。

    本文選擇Docker容器[22-23],在容器中運(yùn)行Netperf 網(wǎng)絡(luò)性能評(píng)測(cè)工具,主要針對(duì)TCP 或UDP 的傳輸,針對(duì)不同應(yīng)用進(jìn)行不同模式的網(wǎng)絡(luò)性能測(cè)試。軟件虛擬化使用開(kāi)源OpenVSwitch,硬件虛擬化使用SR-IOV 技術(shù)。本文實(shí)驗(yàn)的硬件環(huán)境采用型號(hào)Intel E5620 X2 和主頻2.4 GHz 的CPU,內(nèi)存16 GB,內(nèi)存頻率1 333 MHz,型號(hào)82599 和帶寬為10 Gb/s的網(wǎng)卡。

    本文實(shí)驗(yàn)的基本環(huán)境是使用2 臺(tái)服務(wù)器。每臺(tái)服務(wù)器有2 個(gè)主頻2.4 GHz 的E 5620 處理器,使用Intel 82599 網(wǎng)卡,選擇Centos 系統(tǒng)。

    3.2 實(shí)驗(yàn)設(shè)計(jì)

    本文配置了SR-IOV 和OpenVSwitch 的實(shí)驗(yàn)環(huán)境,并在容器中運(yùn)行Netperf 應(yīng)用、防火墻、Apache2網(wǎng)頁(yè)和Haproxy 負(fù)載均衡應(yīng)用。目標(biāo)感知的容器網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)如圖5 所示。

    圖5 目標(biāo)感知的容器網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)Fig.5 Topology structure of container network for target perception

    在NFV 長(zhǎng)鏈下,如果外部請(qǐng)求需要訪(fǎng)問(wèn)Apache2 網(wǎng)頁(yè),經(jīng)過(guò)NAT、Haproxy、防火墻等一系列長(zhǎng)鏈服務(wù)才能夠請(qǐng)求成功。在這種情景下,如果單獨(dú)使用SR-IOV 會(huì)存在一定的不足,但是目標(biāo)感知的容器網(wǎng)絡(luò)可以解決這個(gè)問(wèn)題。

    當(dāng)外部只訪(fǎng)問(wèn)NFV 長(zhǎng)鏈中的某一個(gè)應(yīng)用時(shí),本文網(wǎng)絡(luò)能夠解決OpenVSwitch 經(jīng)過(guò)操作系統(tǒng)內(nèi)核后性能降低的問(wèn)題。

    本文網(wǎng)絡(luò)主要使用內(nèi)網(wǎng)轉(zhuǎn)發(fā)技術(shù),在容器中增加兩個(gè)網(wǎng)卡,外部提供訪(fǎng)問(wèn)的網(wǎng)卡使用SR-IOV 網(wǎng)卡,內(nèi)部使用OpenVSwitch 網(wǎng)卡,通過(guò)內(nèi)網(wǎng)轉(zhuǎn)發(fā)將OpenVSwitch 網(wǎng)卡相連接。從圖5 可以看出,當(dāng)外部訪(fǎng)問(wèn)時(shí),在整個(gè)長(zhǎng)鏈NFV 的請(qǐng)求中選擇一條最優(yōu)的路徑。當(dāng)外部請(qǐng)求NFV 長(zhǎng)鏈中的某一項(xiàng)服務(wù)時(shí),可以抽象為圖5 的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu),這種情況通常出現(xiàn)在排查網(wǎng)絡(luò)故障和內(nèi)部數(shù)據(jù)維護(hù)的時(shí)候。

    3.3 實(shí)驗(yàn)結(jié)果

    首先搭建SR-IOV 與OpenVSwitch 的環(huán)境,分別在SR-IOV 和OpenVSwitch 環(huán)境下部署不同應(yīng)用,使用Netperf 和Apache Benchmark 壓力測(cè)試工具進(jìn)行精確測(cè)試并分析SR-IOV 的性能;然后部署SR-IOV與OpenVSwitch 混合策略,與未優(yōu)化前的數(shù)據(jù)進(jìn)行對(duì)比,在NFV 長(zhǎng)鏈下,對(duì)目標(biāo)感知容器網(wǎng)絡(luò)技術(shù)與單獨(dú)的SR-IOV 與OpenVSwitch 技術(shù)的性能進(jìn)行對(duì)比。

    在對(duì)外提供服務(wù)的場(chǎng)景中,網(wǎng)絡(luò)需要訪(fǎng)問(wèn)NFV長(zhǎng)鏈中的所有節(jié)點(diǎn),以保證服務(wù)的安全性和完整性。

    3.3.1 延遲測(cè)試

    本文使用Netperf 測(cè)試工具分別測(cè)試SR-IOV 網(wǎng)絡(luò)、OpenVSwitch 網(wǎng)絡(luò)和本文網(wǎng)絡(luò)的延遲。每個(gè)實(shí)驗(yàn)測(cè)試次數(shù)為10 次,最終結(jié)果為10 次的平均值,測(cè)試結(jié)果如圖6 所示。

    圖6 NFV 長(zhǎng)鏈下不同網(wǎng)絡(luò)的Netperf 延遲測(cè)試結(jié)果對(duì)比Fig.6 Netperf delay test results comparison among different networks in NFV long chain

    從圖6 可以看出,在NFV 長(zhǎng)鏈下,單獨(dú)使用SR-IOV 技術(shù)的網(wǎng)絡(luò)延遲為 9.745 ms,使 用OpenVSwitch 技術(shù)的網(wǎng)絡(luò)延遲為7.406 ms,使用本文技術(shù)得到的網(wǎng)絡(luò)延遲為7.637 ms。因此,本文網(wǎng)絡(luò)性能比單獨(dú)的SR-IOV 性能提高21.6%。在NFV 長(zhǎng)鏈的應(yīng)用場(chǎng)景中,OpenVSwitch 技術(shù)的延遲最優(yōu),本文網(wǎng)絡(luò)與OpenVSwitch 持平。

    3.3.2 NFV 長(zhǎng)鏈下每秒請(qǐng)求數(shù)測(cè)試

    本文在NFV 長(zhǎng)鏈應(yīng)用場(chǎng)景下,使用Apache Benchmark 對(duì)SR-IOV、OpenVSwitch 和本文網(wǎng)絡(luò)進(jìn)行請(qǐng)求數(shù)測(cè)試,測(cè)試結(jié)果如圖7 所示。

    圖7 不同網(wǎng)絡(luò)的每秒請(qǐng)求數(shù)測(cè)試結(jié)果Fig.7 Test results of requests per second for different networks

    從圖7 可以看出,在Apache Benchmark 的負(fù)載下,當(dāng)本文訪(fǎng)問(wèn)NFV 長(zhǎng)鏈服務(wù)時(shí),其請(qǐng)求數(shù)是每秒12 718 個(gè),OpenVSwitch 網(wǎng)絡(luò)的每秒請(qǐng)求數(shù)12 812 個(gè),SR-IOV 網(wǎng)絡(luò)的每秒請(qǐng)求數(shù)10 310 個(gè)。在NFV 長(zhǎng)鏈的應(yīng)用場(chǎng)景下,SR-IOV 的每秒請(qǐng)求數(shù)是最差的,本文網(wǎng)絡(luò)的每秒請(qǐng)求數(shù)與OpenVSwitch 持平,本文網(wǎng)絡(luò)比SR-IOV 性能提高了23.35%。

    3.3.3 某一項(xiàng)服務(wù)延遲測(cè)試

    在Netperf 負(fù)載下,不同網(wǎng)絡(luò)訪(fǎng)問(wèn)NFV 長(zhǎng)鏈中某一項(xiàng)服務(wù)的延遲對(duì)比如圖8 所示。

    圖8 不同網(wǎng)絡(luò)訪(fǎng)問(wèn)NFV 長(zhǎng)鏈某一項(xiàng)服務(wù)的延遲對(duì)比Fig.8 Comparison of delay of accessing a service in NFV long chain by different networks

    從圖8 可以看出,當(dāng)訪(fǎng)問(wèn)NFV 長(zhǎng)鏈某一項(xiàng)服務(wù)時(shí),SR-IOV 的延遲為1 983 μs,OpenVSwitch 的延遲為2 312 μs,本文網(wǎng)絡(luò)的延遲為1 964 μs。因此,當(dāng)訪(fǎng)問(wèn)單獨(dú)服務(wù)時(shí),OpenVSwitch 的性能最差,本文網(wǎng)絡(luò)的性能與SR-IOV 的性能持平。

    3.3.4 某一項(xiàng)服務(wù)的請(qǐng)求數(shù)測(cè)試

    本文實(shí)驗(yàn)對(duì)NFV 長(zhǎng)鏈中單獨(dú)Apache2 服務(wù)進(jìn)行請(qǐng)求數(shù)測(cè)試,測(cè)試結(jié)果如圖9 所示。

    圖9 不同網(wǎng)絡(luò)的Apache2 服務(wù)請(qǐng)求數(shù)Fig.9 The number of Apache2 service requests of different networks

    從圖9 可以看出,在Apache Benchmark 負(fù)載下,本文網(wǎng)絡(luò)訪(fǎng)問(wèn)單獨(dú)服務(wù)的請(qǐng)求數(shù)是每秒50 937 個(gè),OpenVSwitch 的每秒請(qǐng)求數(shù)是45 068 個(gè),SR-IOV 的每秒請(qǐng)求數(shù)是50 132 個(gè)。本文在訪(fǎng)問(wèn)單獨(dú)服務(wù)時(shí)與SR-IOV 的結(jié)果持平。

    綜上可知,本文網(wǎng)絡(luò)在長(zhǎng)鏈NFV 下的性能優(yōu)于單獨(dú)使用SR-IOV 和OpenVSwitch 的性能,并且綜合OpenVSwitch 和SR-IOV 的優(yōu)點(diǎn)。在長(zhǎng)鏈NFV 中,本文網(wǎng)絡(luò)比SR-IOV 的性能提高約20%,在直通訪(fǎng)問(wèn)時(shí),本文網(wǎng)絡(luò)比軟件模擬網(wǎng)絡(luò)性能提高15%。

    4 結(jié)束語(yǔ)

    針對(duì)網(wǎng)絡(luò)功能虛擬化場(chǎng)景下網(wǎng)絡(luò)I/O 性能瓶頸,本文設(shè)計(jì)一種目標(biāo)感知的高性能容器網(wǎng)絡(luò),通過(guò)轉(zhuǎn)發(fā)模塊和基于腳本程序的自動(dòng)化部署模塊,尋找最優(yōu)的流量轉(zhuǎn)發(fā)路徑,并對(duì)每個(gè)節(jié)點(diǎn)進(jìn)行業(yè)務(wù)配置,實(shí)現(xiàn)容器網(wǎng)絡(luò)流量的靈活轉(zhuǎn)發(fā),便于用戶(hù)對(duì)網(wǎng)絡(luò)進(jìn)行管理和修改。實(shí)驗(yàn)結(jié)果表明,本文設(shè)計(jì)的容器網(wǎng)絡(luò)能夠有效提高NFV 長(zhǎng)鏈場(chǎng)景下的網(wǎng)絡(luò)性能,為解決數(shù)據(jù)中心網(wǎng)絡(luò)I/O 虛擬化問(wèn)題提供新思路。下一步將在單根I/O 虛擬化技術(shù)的基礎(chǔ)上增加OpenFlow 流量轉(zhuǎn)發(fā)規(guī)則,以提高平臺(tái)流量轉(zhuǎn)發(fā)的效率。

    猜你喜歡
    長(zhǎng)鏈網(wǎng)卡虛擬化
    在DDS 中間件上實(shí)現(xiàn)雙冗余網(wǎng)卡切換的方法
    長(zhǎng)鏈非編碼RNA APTR、HEIH、FAS-ASA1、FAM83H-AS1、DICER1-AS1、PR-lncRNA在肺癌中的表達(dá)
    基于OpenStack虛擬化網(wǎng)絡(luò)管理平臺(tái)的設(shè)計(jì)與實(shí)現(xiàn)
    電子制作(2019年10期)2019-06-17 11:45:10
    Server 2016網(wǎng)卡組合模式
    對(duì)基于Docker的虛擬化技術(shù)的幾點(diǎn)探討
    電子制作(2018年14期)2018-08-21 01:38:20
    虛擬化技術(shù)在計(jì)算機(jī)技術(shù)創(chuàng)造中的應(yīng)用
    存儲(chǔ)虛擬化還有優(yōu)勢(shì)嗎?
    長(zhǎng)鏈磷腈衍生物的制備及其在聚丙烯中的阻燃應(yīng)用
    挑戰(zhàn)Killer網(wǎng)卡Realtek網(wǎng)游專(zhuān)用Dragon網(wǎng)卡
    長(zhǎng)鏈非編碼RNA與腫瘤的相關(guān)研究進(jìn)展
    or卡值多少钱| 美女被艹到高潮喷水动态| 亚洲欧美中文字幕日韩二区| 91在线精品国自产拍蜜月| 国产精品一区二区三区四区久久| 亚洲成人精品中文字幕电影| 亚洲第一区二区三区不卡| 夜夜爽夜夜爽视频| av黄色大香蕉| 狠狠精品人妻久久久久久综合| 国产黄色视频一区二区在线观看| 婷婷色综合www| 一区二区三区四区激情视频| 有码 亚洲区| 国产精品国产三级国产av玫瑰| eeuss影院久久| 汤姆久久久久久久影院中文字幕 | 国产精品日韩av在线免费观看| 精品一区二区免费观看| 黄片无遮挡物在线观看| 免费观看在线日韩| 少妇高潮的动态图| 中文资源天堂在线| 小蜜桃在线观看免费完整版高清| 成人综合一区亚洲| 免费黄网站久久成人精品| 韩国av在线不卡| 在线 av 中文字幕| 天天躁日日操中文字幕| 超碰av人人做人人爽久久| 国产黄a三级三级三级人| 免费av毛片视频| 久久精品久久久久久噜噜老黄| 神马国产精品三级电影在线观看| 九九在线视频观看精品| 欧美激情久久久久久爽电影| 91狼人影院| 国产精品爽爽va在线观看网站| 99热网站在线观看| 久久精品国产自在天天线| 国产一区二区三区av在线| 边亲边吃奶的免费视频| 寂寞人妻少妇视频99o| 高清午夜精品一区二区三区| 国产白丝娇喘喷水9色精品| 人妻一区二区av| kizo精华| 欧美日本视频| 免费人成在线观看视频色| 午夜久久久久精精品| 欧美 日韩 精品 国产| 秋霞在线观看毛片| 欧美xxxx性猛交bbbb| 狂野欧美白嫩少妇大欣赏| 2021少妇久久久久久久久久久| 好男人视频免费观看在线| 午夜福利视频精品| 91精品伊人久久大香线蕉| 日韩av在线大香蕉| 在线观看美女被高潮喷水网站| 国产av不卡久久| 日韩三级伦理在线观看| 精品午夜福利在线看| 国产成人精品婷婷| 国产精品人妻久久久影院| 国产成人福利小说| 国产av不卡久久| 亚洲国产欧美人成| 丰满乱子伦码专区| 我要看日韩黄色一级片| 搡老乐熟女国产| 乱人视频在线观看| 久久久精品欧美日韩精品| 国产精品爽爽va在线观看网站| 精品久久久精品久久久| 校园人妻丝袜中文字幕| 国产国拍精品亚洲av在线观看| 亚洲色图av天堂| 日韩,欧美,国产一区二区三区| 91在线精品国自产拍蜜月| 日韩av在线大香蕉| av国产免费在线观看| 亚洲欧美一区二区三区黑人 | 日日摸夜夜添夜夜爱| 日韩强制内射视频| 亚洲av电影在线观看一区二区三区 | 韩国av在线不卡| 亚洲成人一二三区av| 国产亚洲一区二区精品| 一级av片app| 国产精品伦人一区二区| 久久久久久久国产电影| 亚洲国产成人一精品久久久| 欧美极品一区二区三区四区| 99热这里只有精品一区| 一级av片app| 蜜桃亚洲精品一区二区三区| 蜜桃久久精品国产亚洲av| 高清毛片免费看| 天堂影院成人在线观看| 真实男女啪啪啪动态图| 99热这里只有是精品50| 美女xxoo啪啪120秒动态图| 欧美精品国产亚洲| 国产亚洲91精品色在线| 天堂√8在线中文| 97在线视频观看| 淫秽高清视频在线观看| 成人漫画全彩无遮挡| 久久综合国产亚洲精品| 亚洲av一区综合| 一夜夜www| 一夜夜www| 97热精品久久久久久| 在线 av 中文字幕| 国产麻豆成人av免费视频| 亚洲人与动物交配视频| 亚洲精品成人av观看孕妇| 成人二区视频| 九九爱精品视频在线观看| 亚洲天堂国产精品一区在线| 国产亚洲av片在线观看秒播厂 | 免费无遮挡裸体视频| 精品酒店卫生间| 国产精品.久久久| 久久久久久久久久久免费av| 欧美最新免费一区二区三区| 精品国产一区二区三区久久久樱花 | 免费观看精品视频网站| 欧美97在线视频| 欧美高清成人免费视频www| 麻豆成人av视频| 久久久久久久久久人人人人人人| 国产av码专区亚洲av| 欧美三级亚洲精品| 精品一区二区三区人妻视频| 日韩精品青青久久久久久| 亚洲欧美日韩无卡精品| 亚洲国产av新网站| 免费不卡的大黄色大毛片视频在线观看 | 九色成人免费人妻av| 国产精品女同一区二区软件| 久久午夜福利片| 国产人妻一区二区三区在| 97精品久久久久久久久久精品| 色视频www国产| 亚洲精品456在线播放app| 九九爱精品视频在线观看| 高清在线视频一区二区三区| 黄色欧美视频在线观看| a级一级毛片免费在线观看| 内射极品少妇av片p| 你懂的网址亚洲精品在线观看| av天堂中文字幕网| 精品人妻偷拍中文字幕| 免费观看a级毛片全部| av免费在线看不卡| 91久久精品国产一区二区三区| 一夜夜www| 好男人视频免费观看在线| 国产淫片久久久久久久久| 亚洲人与动物交配视频| 91精品国产九色| 国产在视频线在精品| 三级经典国产精品| 久久精品人妻少妇| 中文欧美无线码| 国产精品国产三级国产av玫瑰| 亚洲国产欧美人成| 欧美zozozo另类| 国产在视频线精品| 亚洲欧美一区二区三区国产| 亚洲成人一二三区av| 中文字幕亚洲精品专区| 国产淫语在线视频| 国产伦一二天堂av在线观看| 国产黄片美女视频| 91午夜精品亚洲一区二区三区| 日韩欧美精品v在线| 男女下面进入的视频免费午夜| 国产一区亚洲一区在线观看| 欧美另类一区| 女人十人毛片免费观看3o分钟| 国模一区二区三区四区视频| 亚洲精品成人av观看孕妇| 亚洲不卡免费看| 精品久久久久久久人妻蜜臀av| 99re6热这里在线精品视频| av.在线天堂| 亚洲真实伦在线观看| 亚洲av男天堂| 青春草亚洲视频在线观看| 亚洲高清免费不卡视频| 18禁在线无遮挡免费观看视频| 少妇裸体淫交视频免费看高清| 精品午夜福利在线看| 国产一区二区在线观看日韩| av网站免费在线观看视频 | 日韩电影二区| 熟妇人妻不卡中文字幕| 国产精品伦人一区二区| 国产黄色视频一区二区在线观看| 亚洲av在线观看美女高潮| 国语对白做爰xxxⅹ性视频网站| 嫩草影院精品99| 国产成人91sexporn| 午夜日本视频在线| 国产午夜福利久久久久久| 国产伦在线观看视频一区| 成年女人在线观看亚洲视频 | 亚洲av福利一区| 久久精品人妻少妇| 成人国产麻豆网| 国产成人福利小说| 一二三四中文在线观看免费高清| 久99久视频精品免费| 中文字幕制服av| 高清在线视频一区二区三区| 国产伦在线观看视频一区| 成人亚洲欧美一区二区av| 街头女战士在线观看网站| 欧美精品国产亚洲| 国精品久久久久久国模美| 麻豆乱淫一区二区| 中文在线观看免费www的网站| 国产精品99久久久久久久久| 亚洲精品aⅴ在线观看| 精品久久久久久电影网| 久久精品久久精品一区二区三区| 精品人妻熟女av久视频| 亚洲国产精品国产精品| 99re6热这里在线精品视频| 国产女主播在线喷水免费视频网站 | 男女边摸边吃奶| 久久精品夜夜夜夜夜久久蜜豆| av在线天堂中文字幕| 亚洲综合精品二区| 色视频www国产| 联通29元200g的流量卡| 免费无遮挡裸体视频| 国产极品天堂在线| 国产亚洲午夜精品一区二区久久 | 国产综合精华液| 在现免费观看毛片| 欧美成人午夜免费资源| 中文字幕久久专区| 人人妻人人澡人人爽人人夜夜 | 色吧在线观看| 欧美zozozo另类| 久99久视频精品免费| 国产久久久一区二区三区| 免费av观看视频| 你懂的网址亚洲精品在线观看| 亚洲自拍偷在线| 亚洲av成人av| 亚洲欧美日韩卡通动漫| 狂野欧美白嫩少妇大欣赏| av在线老鸭窝| 人妻制服诱惑在线中文字幕| 边亲边吃奶的免费视频| 97超视频在线观看视频| 美女内射精品一级片tv| 国产单亲对白刺激| 小蜜桃在线观看免费完整版高清| 成人亚洲欧美一区二区av| 2022亚洲国产成人精品| 亚洲综合色惰| 视频中文字幕在线观看| 秋霞在线观看毛片| 国产伦理片在线播放av一区| 高清午夜精品一区二区三区| 国产成人91sexporn| 青青草视频在线视频观看| 亚洲精品国产av成人精品| 国产91av在线免费观看| 成人午夜精彩视频在线观看| 欧美区成人在线视频| 国产精品福利在线免费观看| 国产亚洲午夜精品一区二区久久 | 国产高清国产精品国产三级 | 欧美+日韩+精品| 看黄色毛片网站| 久久久精品免费免费高清| 亚洲精品乱码久久久v下载方式| 又爽又黄无遮挡网站| 国产精品美女特级片免费视频播放器| 亚洲va在线va天堂va国产| 综合色丁香网| 国产精品女同一区二区软件| 国产成人91sexporn| 日韩欧美三级三区| 国产亚洲91精品色在线| 美女黄网站色视频| 美女黄网站色视频| 国产精品一区二区三区四区久久| 久久人人爽人人爽人人片va| 亚洲av成人av| 91久久精品国产一区二区三区| 婷婷色综合www| 亚洲国产精品国产精品| 伊人久久精品亚洲午夜| 日韩一本色道免费dvd| 亚洲内射少妇av| 禁无遮挡网站| 午夜久久久久精精品| 国产精品一区二区三区四区免费观看| 2022亚洲国产成人精品| 亚洲av不卡在线观看| 99久久精品一区二区三区| 欧美精品一区二区大全| 一级毛片 在线播放| 六月丁香七月| 午夜福利成人在线免费观看| 亚洲无线观看免费| 自拍偷自拍亚洲精品老妇| 最近视频中文字幕2019在线8| 国产精品嫩草影院av在线观看| 老女人水多毛片| 久久久久久久久久人人人人人人| 少妇丰满av| 欧美成人一区二区免费高清观看| 欧美 日韩 精品 国产| 91狼人影院| 国产三级在线视频| 成人特级av手机在线观看| 日韩亚洲欧美综合| videos熟女内射| 国产熟女欧美一区二区| 久久这里只有精品中国| 国产av国产精品国产| 精品久久久久久成人av| 亚洲国产日韩欧美精品在线观看| 国产乱人视频| 亚洲内射少妇av| 午夜精品在线福利| 国产成人精品一,二区| 免费无遮挡裸体视频| 热99在线观看视频| 性插视频无遮挡在线免费观看| 嘟嘟电影网在线观看| 欧美激情国产日韩精品一区| 麻豆久久精品国产亚洲av| 亚洲av.av天堂| 女人十人毛片免费观看3o分钟| 免费看日本二区| 看免费成人av毛片| 亚洲精品成人久久久久久| 国产视频首页在线观看| 在线免费十八禁| 亚洲在线观看片| 在线观看av片永久免费下载| 午夜激情久久久久久久| 久久久色成人| 乱码一卡2卡4卡精品| 全区人妻精品视频| 国产精品av视频在线免费观看| 嫩草影院入口| 午夜福利成人在线免费观看| 岛国毛片在线播放| 精品久久久久久电影网| 亚洲精品国产av成人精品| 精品国内亚洲2022精品成人| 男的添女的下面高潮视频| 亚洲自偷自拍三级| 国产老妇伦熟女老妇高清| 午夜视频国产福利| 国产永久视频网站| 男女国产视频网站| 国产视频内射| 亚洲av中文字字幕乱码综合| 日韩精品青青久久久久久| 一级二级三级毛片免费看| 99久国产av精品| 一个人看的www免费观看视频| 高清日韩中文字幕在线| 国产精品嫩草影院av在线观看| 亚洲天堂国产精品一区在线| 边亲边吃奶的免费视频| 精品久久国产蜜桃| 天堂俺去俺来也www色官网 | 亚洲成人av在线免费| 高清日韩中文字幕在线| 亚洲欧美一区二区三区国产| 国产又色又爽无遮挡免| 亚洲精品乱码久久久久久按摩| 色哟哟·www| 午夜激情欧美在线| 国产伦在线观看视频一区| 亚洲精品成人久久久久久| 亚洲欧美清纯卡通| 亚洲国产日韩欧美精品在线观看| 精华霜和精华液先用哪个| 亚洲国产最新在线播放| 又爽又黄a免费视频| 欧美日韩一区二区视频在线观看视频在线 | 久久久久网色| 秋霞伦理黄片| 亚洲精品,欧美精品| 亚洲欧美日韩卡通动漫| 国产久久久一区二区三区| 天堂中文最新版在线下载 | 日本黄大片高清| 狂野欧美激情性xxxx在线观看| 成年免费大片在线观看| 久久鲁丝午夜福利片| 亚洲精品成人久久久久久| 能在线免费看毛片的网站| 亚洲美女搞黄在线观看| 身体一侧抽搐| 日本av手机在线免费观看| 婷婷色av中文字幕| 看十八女毛片水多多多| 久久久久久伊人网av| 亚洲国产色片| 人妻一区二区av| 热99在线观看视频| 日本欧美国产在线视频| 国产在线男女| 国产精品国产三级专区第一集| 久久久久久国产a免费观看| 久久久久九九精品影院| 男女视频在线观看网站免费| 春色校园在线视频观看| 少妇猛男粗大的猛烈进出视频 | 国产免费福利视频在线观看| 日本熟妇午夜| 成人毛片a级毛片在线播放| 国产成人福利小说| 蜜桃亚洲精品一区二区三区| 老司机影院毛片| 午夜激情久久久久久久| 久久99热6这里只有精品| 黄色日韩在线| 有码 亚洲区| 久热久热在线精品观看| 韩国av在线不卡| 亚洲成色77777| 97在线视频观看| 欧美成人午夜免费资源| 国产精品综合久久久久久久免费| 亚洲av一区综合| 男女那种视频在线观看| 日韩一本色道免费dvd| 美女内射精品一级片tv| 国产欧美日韩精品一区二区| 日本色播在线视频| 国产淫片久久久久久久久| 日韩,欧美,国产一区二区三区| 国产一区亚洲一区在线观看| 蜜桃亚洲精品一区二区三区| 精品熟女少妇av免费看| 午夜亚洲福利在线播放| 国产色爽女视频免费观看| 亚洲精品亚洲一区二区| 美女内射精品一级片tv| 国产又色又爽无遮挡免| 久久精品久久久久久噜噜老黄| 水蜜桃什么品种好| 免费无遮挡裸体视频| 日韩av免费高清视频| 国产精品蜜桃在线观看| 在线观看av片永久免费下载| 人体艺术视频欧美日本| 色视频www国产| 黄色日韩在线| 国产视频首页在线观看| 日日啪夜夜爽| 国产三级在线视频| 欧美成人a在线观看| 国产伦精品一区二区三区四那| 日本wwww免费看| 乱系列少妇在线播放| 熟妇人妻久久中文字幕3abv| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 国产午夜精品久久久久久一区二区三区| 欧美xxxx黑人xx丫x性爽| 麻豆成人av视频| 午夜激情久久久久久久| 亚洲国产成人一精品久久久| 亚洲激情五月婷婷啪啪| videossex国产| 亚洲国产日韩欧美精品在线观看| 99久久中文字幕三级久久日本| 亚洲人与动物交配视频| 白带黄色成豆腐渣| 丰满乱子伦码专区| 亚洲一区高清亚洲精品| 精品熟女少妇av免费看| 最近中文字幕高清免费大全6| 国产探花在线观看一区二区| eeuss影院久久| 午夜爱爱视频在线播放| 国产午夜福利久久久久久| 国产黄色小视频在线观看| 精品人妻一区二区三区麻豆| 免费观看在线日韩| 国产精品爽爽va在线观看网站| 又爽又黄a免费视频| 亚洲国产精品sss在线观看| 高清欧美精品videossex| 九草在线视频观看| 噜噜噜噜噜久久久久久91| 国产精品一二三区在线看| 国产精品一区二区在线观看99 | 一区二区三区免费毛片| 中文资源天堂在线| 欧美bdsm另类| 久久人人爽人人片av| 夜夜看夜夜爽夜夜摸| 综合色丁香网| 国产色婷婷99| 男女下面进入的视频免费午夜| 国产精品美女特级片免费视频播放器| 免费无遮挡裸体视频| 乱人视频在线观看| 国产成人a区在线观看| 少妇人妻一区二区三区视频| 精品欧美国产一区二区三| 国产白丝娇喘喷水9色精品| 嫩草影院精品99| 免费黄频网站在线观看国产| 日本色播在线视频| 99热6这里只有精品| 精品熟女少妇av免费看| 91久久精品国产一区二区成人| 一级毛片aaaaaa免费看小| 婷婷六月久久综合丁香| 亚洲一区高清亚洲精品| 国产爱豆传媒在线观看| 18禁在线无遮挡免费观看视频| 中国美白少妇内射xxxbb| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 看非洲黑人一级黄片| 国产麻豆成人av免费视频| 日本免费在线观看一区| 男女视频在线观看网站免费| 久久久久免费精品人妻一区二区| av一本久久久久| 久久精品熟女亚洲av麻豆精品 | 久久午夜福利片| 99re6热这里在线精品视频| 亚洲内射少妇av| 真实男女啪啪啪动态图| 色吧在线观看| 九九爱精品视频在线观看| 91aial.com中文字幕在线观看| 非洲黑人性xxxx精品又粗又长| 国产精品一区二区性色av| 亚洲综合精品二区| 插逼视频在线观看| 欧美成人a在线观看| 特级一级黄色大片| 乱人视频在线观看| 亚洲av中文字字幕乱码综合| 色综合站精品国产| 亚洲三级黄色毛片| 亚洲av福利一区| 国产成人a区在线观看| 久久久久久伊人网av| 亚洲图色成人| 亚洲欧洲日产国产| 亚洲av成人精品一区久久| 亚州av有码| 久久久久久久亚洲中文字幕| 免费av毛片视频| 国产乱人偷精品视频| 日韩制服骚丝袜av| 亚洲精品一区蜜桃| 热99在线观看视频| 午夜福利成人在线免费观看| 看非洲黑人一级黄片| 久热久热在线精品观看| 91aial.com中文字幕在线观看| 色视频www国产| 亚洲乱码一区二区免费版| 婷婷色av中文字幕| 国产真实伦视频高清在线观看| 久久精品国产亚洲网站| 在线观看av片永久免费下载| 国产精品美女特级片免费视频播放器| 永久免费av网站大全| 在线免费十八禁| 男的添女的下面高潮视频| 精品久久久精品久久久| 三级男女做爰猛烈吃奶摸视频| 亚洲精品影视一区二区三区av| 亚洲av二区三区四区| 国产高清有码在线观看视频| 人妻制服诱惑在线中文字幕| 免费大片18禁| 久久久久免费精品人妻一区二区| 欧美性感艳星| 成人一区二区视频在线观看| 国产国拍精品亚洲av在线观看| 99热这里只有是精品50| 久久久国产一区二区| 青春草视频在线免费观看| 2018国产大陆天天弄谢| 天堂av国产一区二区熟女人妻| 国产av不卡久久| 欧美潮喷喷水| 亚洲最大成人av| 熟妇人妻久久中文字幕3abv| 搡老妇女老女人老熟妇| 国产成人精品福利久久| 丰满少妇做爰视频| 老司机影院毛片| 国模一区二区三区四区视频| 插逼视频在线观看| 一本一本综合久久| 国产永久视频网站| 成人鲁丝片一二三区免费| 免费播放大片免费观看视频在线观看| 精品人妻一区二区三区麻豆| 亚洲国产精品专区欧美|