• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    NFV數(shù)據(jù)平面的網(wǎng)絡(luò)性能優(yōu)化技術(shù)

    2017-05-22 07:02:45黃昱愷耿金坤令瑞林李丹
    電信科學(xué) 2017年4期
    關(guān)鍵詞:輪詢客戶機(jī)網(wǎng)卡

    黃昱愷,耿金坤,令瑞林,李丹

    (清華大學(xué),北京 100084)

    NFV數(shù)據(jù)平面的網(wǎng)絡(luò)性能優(yōu)化技術(shù)

    黃昱愷,耿金坤,令瑞林,李丹

    (清華大學(xué),北京 100084)

    近年來(lái),NFV因?yàn)槠洳渴痨`活、成本低廉等優(yōu)良特性,受到了學(xué)術(shù)界與工業(yè)界的廣泛關(guān)注。然而,性能問(wèn)題在NFV發(fā)展過(guò)程中變得愈加明顯,逐漸成為制約NFV技術(shù)進(jìn)步的主要瓶頸。針對(duì)影響NFV數(shù)據(jù)平面網(wǎng)絡(luò)性能的主要因素進(jìn)行了歸納概述,分析了NFV的性能瓶頸所在,并在此基礎(chǔ)上進(jìn)一步歸納了相應(yīng)的優(yōu)化方法。最后,簡(jiǎn)要介紹了當(dāng)前比較成熟的兩種系統(tǒng)架構(gòu),能夠顯著提升NFV數(shù)據(jù)平面的網(wǎng)絡(luò)性能。

    NFV;性能優(yōu)化;系統(tǒng)架構(gòu)

    1 引言

    在過(guò)去的很長(zhǎng)一段時(shí)間里,電信運(yùn)營(yíng)商每新增一項(xiàng)網(wǎng)絡(luò)服務(wù)都需要采購(gòu)大量的專用設(shè)備,另一方面,設(shè)備提供商也需要投入大量的人員進(jìn)行設(shè)計(jì)研發(fā)。從開(kāi)始規(guī)劃到最后的部署,不僅周期漫長(zhǎng),而且造價(jià)昂貴??紤]到這些因素,運(yùn)營(yíng)商開(kāi)始尋求成本低廉、部署靈活的新型解決方案[1]。網(wǎng)絡(luò)功能虛擬化(network function virtualization, NFV)正是在這種需求背景下產(chǎn)生的。2012年10月,ETSI(European Telecommunications Standards Institute,歐洲電信標(biāo)準(zhǔn)化協(xié)會(huì))發(fā)布 NFV白皮書(shū),其最終目標(biāo)是通過(guò)軟件定義網(wǎng)絡(luò)功能,實(shí)現(xiàn)網(wǎng)絡(luò)功能的靈活部署。網(wǎng)絡(luò)功能虛擬化可以實(shí)現(xiàn)軟硬件的解耦,運(yùn)營(yíng)商只需購(gòu)置通用硬件設(shè)備,甚至可以采用云計(jì)算的采購(gòu)模式部署新型的網(wǎng)絡(luò)服務(wù)。更重要的是,由于網(wǎng)絡(luò)功能軟件化,網(wǎng)絡(luò)功能可以輕松地遷移與擴(kuò)展。然而,NFV同樣面臨著諸多挑戰(zhàn)[2],性能問(wèn)題成為制約 NFV技術(shù)發(fā)展的主要瓶頸,大量工作圍繞如何提高NFV數(shù)據(jù)平面的網(wǎng)絡(luò)性能而展開(kāi),力圖通過(guò)NFV數(shù)據(jù)平面的優(yōu)化以實(shí)現(xiàn)接近硬件設(shè)備的性能。

    本文首先總結(jié)了影響NFV數(shù)據(jù)平面網(wǎng)絡(luò)性能的主要因素,包括網(wǎng)卡中斷、內(nèi)存復(fù)制、系統(tǒng)調(diào)用、鎖的爭(zhēng)奪、上下文切換、文件系統(tǒng)、緩存未命中等開(kāi)銷,并針對(duì)這些開(kāi)銷歸納總結(jié)了主流的優(yōu)化方法,最后介紹了兩種可供參考的NFV架構(gòu)設(shè)計(jì),并簡(jiǎn)要分析了兩種架構(gòu)的優(yōu)缺點(diǎn)。

    2 影響NFV網(wǎng)絡(luò)性能的因素

    NFV應(yīng)用的性能很大程度上取決于網(wǎng)絡(luò) I/O的性能,而數(shù)據(jù)分組從到達(dá)網(wǎng)卡到應(yīng)用處理需要經(jīng)歷多個(gè)階段。數(shù)據(jù)分組處理的流程如圖1所示。

    圖1 數(shù)據(jù)分組處理的流程

    圖1展示了在傳統(tǒng)NFV解決方案中數(shù)據(jù)分組處理的流程,當(dāng)數(shù)據(jù)分組到達(dá)網(wǎng)卡后,通過(guò)DMA(direct memory access)復(fù)制到宿主機(jī)的內(nèi)存空間并觸發(fā)中斷,宿主機(jī)協(xié)議棧處理完數(shù)據(jù)分組后交由虛擬交換機(jī)處理,隨后數(shù)據(jù)由虛擬交換機(jī)遞交至上層客戶機(jī),經(jīng)由虛擬網(wǎng)卡,客戶機(jī)內(nèi)核協(xié)議棧最后到達(dá)提供網(wǎng)絡(luò)功能的應(yīng)用程序。顯然,上述過(guò)程存在著諸多開(kāi)銷,具體來(lái)講可以分為以下幾類。

    2.1 網(wǎng)卡中斷開(kāi)銷

    輪詢與中斷是操作系統(tǒng)與外設(shè)進(jìn)行 I/O通信的兩種主要方式。一般情況下,網(wǎng)絡(luò)中數(shù)據(jù)分組的到來(lái)具有不可預(yù)測(cè)性[3]。若采用輪詢模式對(duì)數(shù)據(jù)分組進(jìn)行持續(xù)監(jiān)聽(tīng),會(huì)造成很高的CPU占用率,進(jìn)而影響系統(tǒng)其他進(jìn)程的運(yùn)行效率,故主流操作系統(tǒng)都采用中斷來(lái)處理網(wǎng)絡(luò)的請(qǐng)求。中斷處理方式在低速網(wǎng)絡(luò)I/O場(chǎng)景下非常有效[4],然而隨著高速網(wǎng)絡(luò)接口等技術(shù)的迅速發(fā)展,10 Gbit/s、40 Gbit/s甚至100 Gbit/s的網(wǎng)絡(luò)端口已經(jīng)出現(xiàn)。隨著網(wǎng)絡(luò)I/O速率的不斷上升,網(wǎng)卡面對(duì)大量高速數(shù)據(jù)分組引發(fā)頻繁的中斷,中斷引起的上下文切換開(kāi)銷將變得不可忽視,造成較高的時(shí)延[5],并引起吞吐量下降。

    2.2 內(nèi)存復(fù)制開(kāi)銷

    提供服務(wù)的應(yīng)用進(jìn)程運(yùn)行在用戶空間,而通常情況下,操作系統(tǒng)首先將到來(lái)的數(shù)據(jù)分組讀取到內(nèi)核空間,為了使上層應(yīng)用能夠?qū)邮盏降臄?shù)據(jù)進(jìn)行相應(yīng)處理,需要將內(nèi)核將數(shù)據(jù)從內(nèi)核空間復(fù)制到用戶空間;而對(duì)于應(yīng)用進(jìn)程產(chǎn)生的數(shù)據(jù),也需要由用戶空間復(fù)制到內(nèi)核空間,最后由網(wǎng)卡發(fā)出。操作系統(tǒng)在處理數(shù)據(jù)過(guò)程中往往需要進(jìn)行多次復(fù)制操作,嚴(yán)重影響了高速網(wǎng)絡(luò)服務(wù)的性能[6,7]。

    2.3 鎖開(kāi)銷

    當(dāng)多個(gè)線程或進(jìn)程需要對(duì)某一共享資源進(jìn)行操作時(shí),往往需要通過(guò)鎖機(jī)制來(lái)保證數(shù)據(jù)的一致性和同步性,而加鎖帶來(lái)的開(kāi)銷會(huì)顯著降低數(shù)據(jù)處理的性能[3]。具體來(lái)說(shuō),鎖機(jī)制造成的開(kāi)銷主要有兩方面:一方面,線程在為共享資源上鎖或者去鎖的過(guò)程中通常需要耗時(shí)幾十納秒[8];另一方面,在競(jìng)爭(zhēng)鎖的過(guò)程中,等待線程在阻塞過(guò)程中無(wú)法進(jìn)行有效的數(shù)據(jù)處理和計(jì)算,從而降低了整個(gè)系統(tǒng)的并發(fā)性能[9]。無(wú)論是宿主機(jī)還是客戶機(jī)的內(nèi)核協(xié)議棧中,都存在大量的共享資源,這也制約著整個(gè)系統(tǒng)的可擴(kuò)展性。

    2.4 上下文切換開(kāi)銷

    NFV的擴(kuò)展需要多核并行化的支持,然而在該場(chǎng)景下,數(shù)據(jù)平面需要進(jìn)行資源的分配調(diào)度,調(diào)度過(guò)程中涉及多種類型的上下文切換,在網(wǎng)卡中斷、系統(tǒng)調(diào)用、進(jìn)程調(diào)度與跨核資源訪問(wèn)等上下文切換過(guò)程中,操作系統(tǒng)均需要保存當(dāng)前狀態(tài)[10-14],而這一類的切換開(kāi)銷往往相當(dāng)昂貴,嚴(yán)重影響系統(tǒng)性能。

    2.5 文件系統(tǒng)管理開(kāi)銷

    socket(套接字)作為網(wǎng)絡(luò)通信過(guò)程中的基本操作單位,在NFV數(shù)據(jù)平面中同樣扮演重要的角色。本質(zhì)上說(shuō),socket也是一種文件抽象。Linux為了實(shí)現(xiàn)統(tǒng)一文件管理,通過(guò)虛擬文件系統(tǒng)(virtual file system,VFS)為套接字綁定了一系列對(duì)應(yīng)的數(shù)據(jù)結(jié)構(gòu)如inode、dentry等。通常情況下,這些重量級(jí)的數(shù)據(jù)結(jié)構(gòu)對(duì)于套接字本身的功能來(lái)說(shuō)是不必要的[15]。而在NFV的應(yīng)用場(chǎng)景下,往往需要對(duì)socket進(jìn)行頻繁的分配和釋放,因而操作系統(tǒng)在管理這些數(shù)據(jù)結(jié)構(gòu)的過(guò)程中會(huì)引起較大的性能開(kāi)銷[10]。

    2.6 緩存未命中開(kāi)銷

    緩存是一種能夠有效提高系統(tǒng)性能的方式,然而由于設(shè)計(jì)的不合理造成頻繁的緩存未命中,則會(huì)嚴(yán)重削弱 NFV數(shù)據(jù)平面的性能。以 Intel XEON 5500為例,在L3緩存命中與緩存未命中條件下的數(shù)據(jù)操作耗時(shí)相差數(shù)倍[16]。如果在系統(tǒng)設(shè)計(jì)中沒(méi)有考慮到這一點(diǎn),存在頻繁的跨核調(diào)用,由此帶來(lái)的緩存未命中會(huì)造成嚴(yán)重的數(shù)據(jù)讀寫(xiě)時(shí)延,從而降低系統(tǒng)整體性能[3]。

    3 NFV數(shù)據(jù)平面性能優(yōu)化技術(shù)

    綜合第2節(jié)中的分析可以看到,NFV數(shù)據(jù)平面操作過(guò)程中的開(kāi)銷類型復(fù)雜多樣且彼此之間相互關(guān)聯(lián)。針對(duì)第2節(jié)中的性能開(kāi)銷因素,目前主要的優(yōu)化方法可歸納見(jiàn)表1。

    表1 性能開(kāi)銷及優(yōu)化方法

    3.1 輪詢?nèi)〈袛?/p>

    作為 I/O通信的另一種方式,輪詢不存在中斷所固有的開(kāi)銷。以網(wǎng)卡接收分組為例,在輪詢模式下,系統(tǒng)會(huì)在初始化時(shí)屏蔽收發(fā)分組中斷,并使用一個(gè)線程或進(jìn)程不斷檢測(cè)收取分組描述符里的收取分組成功標(biāo)志是否被網(wǎng)卡置位,以此來(lái)判斷是否有數(shù)據(jù)分組,整個(gè)收取過(guò)程沒(méi)有發(fā)生上下文切換,因此也就避免了相應(yīng)的開(kāi)銷。在高速網(wǎng)絡(luò)I/O下,輪詢帶來(lái)的性能提升是非常顯著的。根據(jù)PLVison公司的相關(guān)實(shí)驗(yàn),基于中斷方式的網(wǎng)絡(luò)吞吐速率與基于輪詢處理方式的網(wǎng)絡(luò)吞吐速率相差近20倍。

    然而需要注意的是,輪詢并不一定總是優(yōu)于中斷。確切地說(shuō),只有當(dāng)I/O速率接近CPU速率時(shí),中斷的開(kāi)銷變得不可忽略,輪詢模式的優(yōu)勢(shì)才能體現(xiàn);相反,如果數(shù)據(jù)吞吐率很低,中斷能有更好的CPU利用率,此時(shí)不宜采用中斷模式。基于以上分析,針對(duì)網(wǎng)絡(luò)流量抖動(dòng)較大的場(chǎng)景,可以選用中斷與輪詢的混合模式,即:在流量小時(shí)使用中斷模式,當(dāng)遇到大流量時(shí)切換為輪詢模式。目前Linux內(nèi)核(NAPI)與DPDK(data plane development kit,數(shù)據(jù)平面開(kāi)發(fā)工作集)都支持這種混合中斷輪詢模式。

    3.2 零復(fù)制技術(shù)

    零復(fù)制技術(shù)主要用以避免CPU將數(shù)據(jù)從一個(gè)內(nèi)存區(qū)域復(fù)制到另一個(gè)內(nèi)存區(qū)域帶來(lái)的開(kāi)銷。在NFV數(shù)據(jù)平面操作的場(chǎng)景下,零復(fù)制指的是除網(wǎng)卡將數(shù)據(jù)DMA復(fù)制進(jìn)內(nèi)存外(非CPU參與),從數(shù)據(jù)分組接收到應(yīng)用程序處理數(shù)據(jù)分組,整個(gè)過(guò)程中不存在數(shù)據(jù)復(fù)制。零復(fù)制技術(shù)對(duì)于高速網(wǎng)絡(luò)而言是十分必要的。在高速網(wǎng)絡(luò)環(huán)境下,網(wǎng)絡(luò)I/O性能接近甚至超過(guò)CPU的處理能力,過(guò)于頻繁的數(shù)據(jù)復(fù)制幾乎會(huì)耗盡CPU所有的計(jì)算資源,從而使得CPU成為性能瓶頸。同時(shí),數(shù)據(jù)從內(nèi)核空間進(jìn)入應(yīng)用程序所處的用戶空間,該過(guò)程中引發(fā)的上下文切換開(kāi)銷同樣不可忽略。DPDK、Netmap、PF-ring等高性能數(shù)據(jù)分組處理框架都運(yùn)用了零復(fù)制技術(shù),可以實(shí)現(xiàn)在通用平臺(tái)下高效的網(wǎng)絡(luò)處理。

    3.3 高效虛擬化技術(shù)

    目前在NFV領(lǐng)域常用的高效虛擬化技術(shù)大致可以歸為以下兩類。

    (1)基于硬件的虛擬化技術(shù)

    I/O透?jìng)髋c SR-IOV是兩種經(jīng)典的虛擬化技術(shù)。I/O透?jìng)?,指的是將物理網(wǎng)卡直接分配給客戶機(jī)使用。這種由硬件支持的技術(shù)可以達(dá)到接近宿主機(jī)的性能。不過(guò)由于PCIe設(shè)備有限,PCI-SIG提出并制定了一套虛擬化規(guī)范——SR-IOV,即單根I/O虛擬化。通過(guò)SR-IOV,可以使一塊物理網(wǎng)卡提供多個(gè)虛擬功能(VF),而每個(gè)VF都可以直接分配給客戶機(jī)使用。通過(guò)SR-IOV解決了PCIe設(shè)備有限的問(wèn)題,不過(guò)與透?jìng)饕粯樱琒R-IOV無(wú)法做到實(shí)時(shí)遷移,并且支持的VF仍有上限。

    (2)半虛擬化技術(shù)

    半虛擬化(paravirtualization),區(qū)別于完全虛擬化,無(wú)需對(duì)硬件做完全的模擬,而是通過(guò)客戶機(jī)的前端驅(qū)動(dòng)與宿主機(jī)的后端驅(qū)動(dòng)一同配合完成通信,而客戶機(jī)操作系統(tǒng)能夠感知自己處在虛擬化環(huán)境,故稱半虛擬化。由于半虛擬化擁有前后端驅(qū)動(dòng),不會(huì)造成VM-exit,所以半虛擬化擁有更高的性能。主流虛擬化平臺(tái) KVM 就使用了Virtio作為半虛擬化的驅(qū)動(dòng),半虛擬化比起SR-IOV的優(yōu)勢(shì)在于支持熱遷移,并且可以與主流vSwitch對(duì)接。相比之下SR-IOV只支持二層連接,因此半虛擬化技術(shù)具有更好的靈活性。

    3.4 網(wǎng)絡(luò)協(xié)議棧優(yōu)化

    由于現(xiàn)有網(wǎng)絡(luò)功能如代理、IDS、負(fù)載均衡等都依賴于協(xié)議棧對(duì)到來(lái)數(shù)據(jù)分組進(jìn)行拆封解析,短時(shí)間內(nèi)構(gòu)建完全脫離協(xié)議棧的網(wǎng)絡(luò)功能是不現(xiàn)實(shí)的,而協(xié)議棧的處理性能在小分組、高并發(fā)的場(chǎng)景下并不理想[15]。因此,眾多工作將重點(diǎn)落在了優(yōu)化協(xié)議棧上。如前所述,內(nèi)核協(xié)議棧除了中斷開(kāi)銷和內(nèi)存復(fù)制開(kāi)銷之外,還有鎖、系統(tǒng)調(diào)用、文件系統(tǒng)、跨核等一系列開(kāi)銷,這些開(kāi)銷均嚴(yán)重制約了協(xié)議棧的可擴(kuò)展性,使得協(xié)議棧成為性能瓶頸。

    減少鎖開(kāi)銷和跨核開(kāi)銷,目前的主要解決方案是將共享的數(shù)據(jù)結(jié)構(gòu)分區(qū)與連接本地化,即設(shè)法將同一個(gè)流的所有數(shù)據(jù)分組交由同一個(gè)CPU核處理,從而避免了不同核對(duì)于同一資源的競(jìng)爭(zhēng),進(jìn)而也就避免了加鎖的開(kāi)銷。同時(shí),在同一個(gè)CPU核處理同一條流也可以提升緩存的命中率,避免跨核的開(kāi)銷。Affinity-Accept、Megapipe以及Linux的So_Reuseport均實(shí)現(xiàn)了被動(dòng)連接的本地化,通過(guò)拆分監(jiān)聽(tīng)散列表,實(shí)現(xiàn)了從3次握手到連接建立均在同一個(gè)核上進(jìn)行。Fastsocket[15]則更進(jìn)一步,通過(guò)控制主動(dòng)連接的源端口,并配合網(wǎng)卡的Flow Director功能,實(shí)現(xiàn)了主動(dòng)連接的本地化。

    減少系統(tǒng)調(diào)用開(kāi)銷,目前的解決方案可以分為兩種:一種方案是直接將協(xié)議棧移動(dòng)到應(yīng)用層實(shí)現(xiàn),避免昂貴的上下文切換開(kāi)銷,如mTCP、lwIP等方案;另一種方案則是采用批處理的思想,批量調(diào)用系統(tǒng)調(diào)用以平攤開(kāi)銷,MegaPipe、FlexSC、VOS均使用批量系統(tǒng)調(diào)用來(lái)減小開(kāi)銷。

    減少文件系統(tǒng)開(kāi)銷,目前的解決方案也可分為兩種:一種方案為自定義輕量級(jí)的 socket,一些優(yōu)化方案如mTCP、lwIP等,選擇直接繞過(guò)VFS,在用戶態(tài)重新定義實(shí)現(xiàn)socket結(jié)構(gòu)體,另外一些優(yōu)化方案如MegaPipe等,雖然在內(nèi)核實(shí)現(xiàn),但也通過(guò)自定義API避免了原有VFS的文件操作;另一種方案則是繼承VFS的socket實(shí)現(xiàn),但是簡(jiǎn)化掉inode與dentry的初始化與銷毀過(guò)程,拋棄其中的鎖。這是因?yàn)閷?duì)于socket而言,inode與dentry是完全無(wú)用的。此類方案的代表性工作是Fastsocket。相比前一種方案,該方案的優(yōu)點(diǎn)在于能夠完全兼容傳統(tǒng) socket,降低NFV應(yīng)用的移植難度。

    4 NFV性能綜合提升方案

    綜合以上分析可以看出,NFV數(shù)據(jù)平面中的性能開(kāi)銷類型多樣,且相互關(guān)聯(lián)。因此,現(xiàn)有的比較成熟的解決方案往往需要結(jié)合多種優(yōu)化技術(shù),從而實(shí)現(xiàn)性能的顯著提升。針對(duì)NFV的特殊場(chǎng)景,存在兩種高性能的網(wǎng)絡(luò)數(shù)據(jù)分組 I/O體系架構(gòu)。NFV數(shù)據(jù)平面架構(gòu)設(shè)計(jì)如圖2所示。

    圖2 NFV數(shù)據(jù)平面架構(gòu)設(shè)計(jì)

    如圖2(a)所示為第一種架構(gòu),使用SR-IOV或者PCIe穿透技術(shù)直接將物理設(shè)備或者虛擬功能分配給客戶機(jī),在客戶機(jī)內(nèi)部署成熟的協(xié)議棧優(yōu)化方案(如Fastsocket),或者基于DPDK重構(gòu)一個(gè)新型的應(yīng)用層協(xié)議棧。這種架構(gòu)的優(yōu)點(diǎn)在于實(shí)現(xiàn)簡(jiǎn)單,幾乎不需要修改現(xiàn)有網(wǎng)絡(luò)功能的程序就能實(shí)現(xiàn)整體性能的提升;然而缺點(diǎn)也十分明顯:由于SR-IOV的本身缺陷,使得業(yè)務(wù)鏈缺乏靈活性,不同虛擬機(jī)之間只能通過(guò)二層路由進(jìn)行通信,且不支持熱遷移,這與NFV的思想是相悖的。因此該方案更適合業(yè)務(wù)鏈簡(jiǎn)單、功能單一并希望盡量不修改應(yīng)用程序的場(chǎng)景。

    如圖 2(b)所示為第二種架構(gòu),客戶機(jī)使用半虛擬化網(wǎng)卡,并與宿主機(jī)里的 vSwitch相連,由vSwitch控制業(yè)務(wù)鏈,而vSwitch和半虛擬化的前后端均可使用DPDK優(yōu)化,可以采用輪詢?nèi)〈袛?、零?fù)制等技術(shù)實(shí)現(xiàn)性能的大幅提升。NetVM[3]是采用此架構(gòu)實(shí)現(xiàn)的典型代表方案。在NetVM的解決方案中,通過(guò)在客戶機(jī)與宿主機(jī)之間進(jìn)行內(nèi)存共享,從而實(shí)現(xiàn)了全程零復(fù)制。具體地,NetVM在宿主機(jī)里使用DPDK輪詢收取分組并放入共享的大頁(yè)內(nèi)存,在客戶機(jī)內(nèi)使用前端驅(qū)動(dòng)映射地址空間并模擬PCI設(shè)備。客戶機(jī)內(nèi)的應(yīng)用程序可以通過(guò) NetVM 提供的接口直接訪問(wèn)共享內(nèi)存的數(shù)據(jù)分組,并指定數(shù)據(jù)分組接下來(lái)的流向。NetVM通過(guò)這一整套機(jī)制,消除了宿主機(jī)與客戶機(jī)、客戶機(jī)與客戶機(jī)交互過(guò)程中的內(nèi)存復(fù)制開(kāi)銷,故可以提供極高的性能。盡管第二種架構(gòu)的部署靈活、性能優(yōu)秀,但是架構(gòu)實(shí)現(xiàn)復(fù)雜,應(yīng)用程序往往需要根據(jù)半虛擬化前端驅(qū)動(dòng)做出修改,甚至需要直接處理裸分組,應(yīng)用的代價(jià)遠(yuǎn)高于第一種方案。

    5 結(jié)束語(yǔ)

    本文分析并總結(jié)了影響NFV數(shù)據(jù)平面處理性能的主要因素,具體包括網(wǎng)卡中斷開(kāi)銷、內(nèi)存分組開(kāi)銷、鎖開(kāi)銷、上下文切換開(kāi)銷、文件系統(tǒng)管理開(kāi)銷以及緩存未命中開(kāi)銷等。在充分分析以上開(kāi)銷成因的基礎(chǔ)上,進(jìn)一步歸納總結(jié)了相應(yīng)的性能優(yōu)化方案。最后介紹了兩個(gè)可供參考的系統(tǒng)架構(gòu),并簡(jiǎn)要分析了兩種架構(gòu)的優(yōu)點(diǎn)與缺點(diǎn)。未來(lái)NFV性能優(yōu)化將主要側(cè)重兩個(gè)方面。一方面,隨著容器技術(shù)的日益成熟,基于容器的輕量級(jí)NFV優(yōu)化方案將被廣泛關(guān)注,并逐漸取代基于虛擬機(jī)的傳統(tǒng)NFV方案,從而對(duì)系統(tǒng)資源實(shí)現(xiàn)更加高效靈活的利用;另一方面,通用性的NFV應(yīng)用平臺(tái)將成為主要研究方向,今后工作應(yīng)重點(diǎn)考慮如何兼顧高性能與通用性,簡(jiǎn)化NFV應(yīng)用的移植過(guò)程,實(shí)現(xiàn)應(yīng)用與平臺(tái)的無(wú)縫對(duì)接。

    [1] 李晨, 段曉東, 陳煒, 等. SDN和NFV的思考與實(shí)踐[J]. 電信科學(xué), 2014, 30(8): 23-27. LI C, DUAN X D, CHEN W, et al. Thoughts and practices about SDN and NFV [J]. Telecommunications Science, 2014, 30(8): 23-27.

    [2] 趙慧玲, 史凡. SDN/NFV的發(fā)展與挑戰(zhàn)[J]. 電信科學(xué), 2014, 30(8): 13-18. ZHAO H L,SHI F. Development and challenge of SDN/NFV[J]. Telecommunications Science, 2014, 30(8): 13-18.

    [3] HWANG J, RAMAKRISHNAN K K, WOOD T. NetVM: high performance and flexible networking using virtualization on commodity platforms[J]. IEEE Transactions on Network and Service Management, 2015, 12(1): 34-47.

    [4] FIGURE E. Eliminating receive livelock in an interrupt-driven kernel[J]. ACM Transactions on Computer Systems, 1997, 15(3): 217-252.

    [5] YANG J, MINTURN D B, HADY F. When poll is better than interrupt[C]//FAST, February 14?17, 2012, San Jose, CA, USA. New York: ACM Press, 2012: 3.

    [6] WU W, CRAWFORD M, BOWDEN M. The performance analysis of Linux networking-packet receiving[J]. Computer Communications, 2007, 30(5): 1044-1057.

    [7] KOH Y, PU C, BHATIA S, et al. Efficient packet processing in user-level Oses: a study of UML[C]//The 31th IEEE Conference on Local Computer Networks, November 14?16, 2006, Sydney, Australia. New Jersey: IEEE Press, 2006: 63-70.

    [8] DEAN J. Designs, lessons and advice from building large distributed systems[J]. Keynote from LADIS, 2009(1).

    [9] DINIZ P C, RINARD M C. Lock coarsening: eliminating lock overhead in automatically parallelized object-based programs[J]. Journal of Parallel and Distributed Computing, 1998, 49(2): 218-244.

    [10] BOYD-WICKIZER S, CLEMENTS A T, MAO Y, et al. An analysis of Linux scalability to many cores[C]//Usenix Symposium on Operating Systems Design & Implementation, October 4?6, 2010, Vancouver, BC, Canada. New York: ACM Press, 2010: 86-93.

    [11] KAMRUZZAMAN M, SWANSON S, TULLSEN D M. Inter-core prefetching for multicore processors using migrating helper threads[J]. ACM SIGPLAN Notices, 2011, 46(3): 393-404.

    [12] KAZEMPOUR V, KAMALI A, FEDOROVA A. AASH: an asymmetry-aware scheduler for hypervisors[J]. ACM SIGPLAN Notices, 2010, 45(7): 85-96.

    [13] VAHDAT A, YOCUM K, WALSH K, et al. Scalability and accuracy in a large-scale network emulator[J]. ACM SIGOPS Operating Systems Review, 2002, 36(SI): 271-284.

    [14] EMMERICH P, RAUMER D, WOHLFART F, et al. Performance characteristics of virtual switching[C]// 2014 IEEE 3rd International Conference on Cloud Networking (CloudNet), October 8?10, 2014, Luxembourg. New Jersey: IEEE Press, 2014: 120-125.

    [15] LIN X, CHEN Y, LI X, et al. Scalable kernel TCP design and implementation for short-lived connections[C]//International Conference on Architectural Support for Programming Languages & Operating Systems, April 2?6, 2016, Atlanta, Georgia, USA. New York: ACM Press, 2016: 339-352.

    [16] LEVINTHAL D. Performance analysis guide for intel core i7 processor and intel XEON 5500 processors[J]. Intel Performance Analysis Guide, 2009(30): 18.

    黃昱愷(1992?),男,清華大學(xué)碩士生,主要研究方向?yàn)檐浖x網(wǎng)絡(luò)、網(wǎng)絡(luò)功能虛擬化、高性能網(wǎng)絡(luò)協(xié)議棧設(shè)計(jì)與實(shí)現(xiàn)。

    耿金坤(1994?),男,清華大學(xué)碩士生,主要研究方向?yàn)楦咝阅芫W(wǎng)絡(luò)協(xié)議棧的設(shè)計(jì)與實(shí)現(xiàn)、數(shù)據(jù)中心帶寬資源分配方案的設(shè)計(jì)與實(shí)現(xiàn)。

    令瑞林(1992?),男,清華大學(xué)碩士生,主要研究方向?yàn)閿?shù)據(jù)中心網(wǎng)絡(luò)、網(wǎng)絡(luò)安全與網(wǎng)絡(luò)性能優(yōu)化技術(shù)等。

    李丹(1981?),男,清華大學(xué)計(jì)算機(jī)系特別研究員、博士生導(dǎo)師,主要從事網(wǎng)絡(luò)體系結(jié)構(gòu)、網(wǎng)絡(luò)協(xié)議與網(wǎng)絡(luò)系統(tǒng)的研究工作。擔(dān)任國(guó)家“973”計(jì)劃(青年科學(xué)家專題)項(xiàng)目“軟件定義的云數(shù)據(jù)中心網(wǎng)絡(luò)基礎(chǔ)理論與關(guān)鍵技術(shù)”首席科學(xué)家,獲得2014年清華大學(xué)“學(xué)術(shù)新人獎(jiǎng)”,獲得2015年國(guó)家優(yōu)秀青年科學(xué)基金資助。主持或參加國(guó)家科研項(xiàng)目10多項(xiàng),曾擔(dān)任國(guó)際學(xué)術(shù)期刊IEEE Transactions on Computer編委(2013-2015年)。《電信科學(xué)》雜志編委。發(fā)表論文50多篇,論文被引用2 000多次,獲得國(guó)內(nèi)外專利20多項(xiàng)。

    Performance optimization solutions for NFV data plane

    HUANG Yukai, GENG Jinkun, LING Ruilin, LI Dan
    Tsinghua University, Beijing 100084, China

    In recent years, network function virtualization (NFV) is arousing concern widely from both academia and industry due to its flexible deployment and low cost. However, the performance bottleneck becomes increasingly distinctive and hinders the progress of NFV technology. The major factors were studied which could seriously affect the performance of NFV data plane. Firstly, an analysis was conducted on the causes for various kinds of performance overheads. Then, the optimization solutions were summarized to mitigate these overheads. Finally, a brief introduction was made on two types of architecture, which could significantly improve the performance of NFV data plane.

    network function virtualization, performance optimization, system architecture

    TP393

    A

    10.11959/j.issn.1000?0801. 2017088

    2017?01?13;

    2017?03?27

    猜你喜歡
    輪詢客戶機(jī)網(wǎng)卡
    Reducing the global cancer burden with gastrointestinal screening: China’s 30 years practice
    在DDS 中間件上實(shí)現(xiàn)雙冗余網(wǎng)卡切換的方法
    基于等概率的ASON業(yè)務(wù)授權(quán)設(shè)計(jì)?
    Server 2016網(wǎng)卡組合模式
    依托站點(diǎn)狀態(tài)的兩級(jí)輪詢控制系統(tǒng)時(shí)延特性分析
    利用時(shí)間輪詢方式操作DDR3實(shí)現(xiàn)多模式下數(shù)據(jù)重排
    挑戰(zhàn)Killer網(wǎng)卡Realtek網(wǎng)游專用Dragon網(wǎng)卡
    瘦客戶機(jī):安全與便捷的選擇
    數(shù)據(jù)鏈輪詢多網(wǎng)優(yōu)化設(shè)計(jì)方法研究*
    基于Web數(shù)據(jù)提高訪問(wèn)速度的方法
    飞空精品影院首页| 男人操女人黄网站| 国产亚洲av片在线观看秒播厂| www日本在线高清视频| 亚洲欧洲日产国产| 男人操女人黄网站| 少妇被粗大猛烈的视频| 亚洲欧美精品自产自拍| av有码第一页| 不卡视频在线观看欧美| 欧美97在线视频| 久久精品国产a三级三级三级| 美女国产高潮福利片在线看| 精品卡一卡二卡四卡免费| 久久久久久久精品精品| 亚洲伊人久久精品综合| 国产精品无大码| 2022亚洲国产成人精品| 国产av精品麻豆| av线在线观看网站| 又黄又粗又硬又大视频| 午夜免费鲁丝| www.精华液| 国产成人免费观看mmmm| 交换朋友夫妻互换小说| www.av在线官网国产| 欧美老熟妇乱子伦牲交| 亚洲欧美成人精品一区二区| 日本欧美视频一区| 老熟女久久久| 青春草国产在线视频| 欧美日韩av久久| av在线播放精品| 亚洲内射少妇av| xxx大片免费视频| 亚洲av男天堂| 免费观看a级毛片全部| 亚洲第一区二区三区不卡| 亚洲中文av在线| 少妇被粗大的猛进出69影院| 丝瓜视频免费看黄片| 亚洲欧美日韩另类电影网站| videossex国产| 国产精品女同一区二区软件| 成年女人毛片免费观看观看9 | 又黄又粗又硬又大视频| 黄色怎么调成土黄色| 亚洲欧洲日产国产| 成年女人毛片免费观看观看9 | 少妇猛男粗大的猛烈进出视频| 色婷婷av一区二区三区视频| 欧美日韩一级在线毛片| 国产极品天堂在线| 国产熟女欧美一区二区| 99国产精品免费福利视频| 日韩,欧美,国产一区二区三区| 免费看不卡的av| av在线app专区| 飞空精品影院首页| 国产精品99久久99久久久不卡 | 国产一区亚洲一区在线观看| 国产国语露脸激情在线看| 亚洲av国产av综合av卡| 一级,二级,三级黄色视频| 亚洲欧美精品自产自拍| 色网站视频免费| 国产欧美亚洲国产| 少妇的逼水好多| 美女午夜性视频免费| 午夜精品国产一区二区电影| 秋霞在线观看毛片| 女性被躁到高潮视频| 五月天丁香电影| 最近手机中文字幕大全| 国产成人a∨麻豆精品| 国产1区2区3区精品| 国产成人精品婷婷| 18禁裸乳无遮挡动漫免费视频| 国产成人欧美| 高清欧美精品videossex| 亚洲欧美一区二区三区久久| 青春草亚洲视频在线观看| 国产成人精品婷婷| 国产成人91sexporn| 一级毛片 在线播放| 色婷婷av一区二区三区视频| 亚洲av男天堂| 国产欧美日韩综合在线一区二区| 黄片无遮挡物在线观看| 午夜日本视频在线| 亚洲精品自拍成人| 亚洲精品aⅴ在线观看| 国产av精品麻豆| 九草在线视频观看| 欧美+日韩+精品| 宅男免费午夜| 欧美+日韩+精品| 99re6热这里在线精品视频| 宅男免费午夜| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 丁香六月天网| 亚洲三区欧美一区| 侵犯人妻中文字幕一二三四区| 久久久久精品性色| 欧美精品亚洲一区二区| 曰老女人黄片| 五月天丁香电影| 97精品久久久久久久久久精品| 一二三四在线观看免费中文在| 丝袜脚勾引网站| 丝袜脚勾引网站| 最近的中文字幕免费完整| 国产成人aa在线观看| 国产 精品1| 久久久久网色| 一级a爱视频在线免费观看| 少妇人妻精品综合一区二区| a 毛片基地| 国产黄色视频一区二区在线观看| 国产精品熟女久久久久浪| 久久午夜福利片| 久久 成人 亚洲| 美女福利国产在线| 国产精品久久久久成人av| 一二三四在线观看免费中文在| 一区二区三区激情视频| 香蕉精品网在线| 欧美成人精品欧美一级黄| 中文字幕制服av| 精品人妻一区二区三区麻豆| 涩涩av久久男人的天堂| 国产精品久久久av美女十八| 国产一区有黄有色的免费视频| 18+在线观看网站| 日韩在线高清观看一区二区三区| 国产伦理片在线播放av一区| 精品少妇黑人巨大在线播放| 国产在线免费精品| 久久久国产精品麻豆| 国产有黄有色有爽视频| 天天操日日干夜夜撸| 日韩一本色道免费dvd| 街头女战士在线观看网站| 欧美精品一区二区免费开放| 黄色一级大片看看| 宅男免费午夜| 日日啪夜夜爽| 欧美变态另类bdsm刘玥| 免费黄频网站在线观看国产| 高清在线视频一区二区三区| 久久久a久久爽久久v久久| 久久久精品免费免费高清| 亚洲精华国产精华液的使用体验| 久久亚洲国产成人精品v| 99国产精品免费福利视频| 久久久久国产网址| 精品国产露脸久久av麻豆| 久久人妻熟女aⅴ| 这个男人来自地球电影免费观看 | 黑丝袜美女国产一区| 久久免费观看电影| 中文欧美无线码| 男人操女人黄网站| 最黄视频免费看| 亚洲伊人久久精品综合| 爱豆传媒免费全集在线观看| 亚洲欧洲日产国产| 亚洲国产精品一区三区| 嫩草影院入口| 秋霞在线观看毛片| 国产色婷婷99| 99国产综合亚洲精品| 亚洲熟女精品中文字幕| 中文字幕最新亚洲高清| 大片电影免费在线观看免费| 亚洲综合精品二区| 男人舔女人的私密视频| 国产成人一区二区在线| 香蕉精品网在线| 亚洲国产毛片av蜜桃av| 女人久久www免费人成看片| 色94色欧美一区二区| 国产一区二区三区av在线| 久久人人爽av亚洲精品天堂| 国产免费又黄又爽又色| 又大又黄又爽视频免费| 久久人人爽人人片av| 亚洲中文av在线| 高清av免费在线| 亚洲av综合色区一区| 99国产综合亚洲精品| 国产亚洲最大av| 婷婷色av中文字幕| 天天操日日干夜夜撸| 精品少妇久久久久久888优播| 久久久a久久爽久久v久久| av在线观看视频网站免费| 丝袜美足系列| 99re6热这里在线精品视频| 国产精品亚洲av一区麻豆 | 亚洲国产毛片av蜜桃av| 国产精品一国产av| 亚洲av免费高清在线观看| 欧美+日韩+精品| 久久久久视频综合| 在线观看www视频免费| 女人久久www免费人成看片| 免费久久久久久久精品成人欧美视频| 精品亚洲乱码少妇综合久久| 欧美人与性动交α欧美精品济南到 | 国产成人免费无遮挡视频| 美女午夜性视频免费| 亚洲天堂av无毛| 国产精品久久久久成人av| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 国产日韩欧美视频二区| 熟女电影av网| 国产1区2区3区精品| 久久精品aⅴ一区二区三区四区 | 欧美日韩亚洲高清精品| 久久免费观看电影| av不卡在线播放| 欧美人与善性xxx| 一本色道久久久久久精品综合| 国产乱来视频区| 国产有黄有色有爽视频| 卡戴珊不雅视频在线播放| 天天影视国产精品| 国产成人91sexporn| 天堂俺去俺来也www色官网| 免费观看av网站的网址| 亚洲婷婷狠狠爱综合网| 看免费成人av毛片| 9色porny在线观看| 少妇的逼水好多| 日本vs欧美在线观看视频| 三级国产精品片| 亚洲第一区二区三区不卡| 91在线精品国自产拍蜜月| h视频一区二区三区| 久久久久精品久久久久真实原创| 久久精品久久久久久久性| 国产成人精品久久久久久| 91在线精品国自产拍蜜月| 日韩一区二区视频免费看| 免费在线观看黄色视频的| 一二三四在线观看免费中文在| 大陆偷拍与自拍| 亚洲情色 制服丝袜| 亚洲国产毛片av蜜桃av| 美女国产视频在线观看| 国产欧美日韩一区二区三区在线| 欧美日韩成人在线一区二区| 欧美精品亚洲一区二区| 大话2 男鬼变身卡| 午夜老司机福利剧场| 国产精品二区激情视频| 中国国产av一级| 久久国产精品男人的天堂亚洲| 欧美bdsm另类| 国产精品久久久久久精品古装| 亚洲一码二码三码区别大吗| 高清不卡的av网站| 国产探花极品一区二区| 在线观看国产h片| 日本欧美视频一区| 日本vs欧美在线观看视频| 超碰97精品在线观看| 亚洲精品aⅴ在线观看| av国产久精品久网站免费入址| 高清视频免费观看一区二区| 黑人猛操日本美女一级片| 男女午夜视频在线观看| 亚洲欧美成人综合另类久久久| 狂野欧美激情性bbbbbb| 欧美日韩一区二区视频在线观看视频在线| 久久午夜福利片| 精品人妻熟女毛片av久久网站| 欧美少妇被猛烈插入视频| 国产亚洲av片在线观看秒播厂| 中文字幕人妻熟女乱码| 黄色 视频免费看| 电影成人av| 一区二区三区乱码不卡18| 久久久久精品人妻al黑| 在线观看美女被高潮喷水网站| 久久精品熟女亚洲av麻豆精品| 七月丁香在线播放| 伊人久久国产一区二区| 久久这里只有精品19| 老司机影院成人| 尾随美女入室| av福利片在线| 丰满少妇做爰视频| 国产日韩欧美在线精品| 天天躁夜夜躁狠狠久久av| 我的亚洲天堂| 欧美成人午夜免费资源| 天堂中文最新版在线下载| 国产精品欧美亚洲77777| 国产无遮挡羞羞视频在线观看| 色94色欧美一区二区| 日本猛色少妇xxxxx猛交久久| 丰满饥渴人妻一区二区三| 亚洲av电影在线进入| 亚洲内射少妇av| 香蕉精品网在线| 中文字幕人妻丝袜制服| 成人漫画全彩无遮挡| 亚洲精品一区蜜桃| 国产女主播在线喷水免费视频网站| 国产日韩一区二区三区精品不卡| 老熟女久久久| av网站免费在线观看视频| 日韩成人av中文字幕在线观看| 91成人精品电影| 美女主播在线视频| 狂野欧美激情性bbbbbb| 亚洲精品美女久久av网站| 一级毛片电影观看| 80岁老熟妇乱子伦牲交| 丰满乱子伦码专区| 少妇被粗大的猛进出69影院| 国产片内射在线| 久久这里有精品视频免费| 一本色道久久久久久精品综合| 黑人巨大精品欧美一区二区蜜桃| 少妇人妻 视频| 老汉色∧v一级毛片| 最新的欧美精品一区二区| 黄色视频在线播放观看不卡| 老鸭窝网址在线观看| av不卡在线播放| 香蕉丝袜av| 精品少妇内射三级| 人人妻人人澡人人爽人人夜夜| 亚洲 欧美一区二区三区| 欧美+日韩+精品| 精品第一国产精品| 国产女主播在线喷水免费视频网站| 久久国内精品自在自线图片| 熟女电影av网| 99久国产av精品国产电影| 叶爱在线成人免费视频播放| 国产免费一区二区三区四区乱码| 久久久久久久久久人人人人人人| 国语对白做爰xxxⅹ性视频网站| 成人亚洲精品一区在线观看| 嫩草影院入口| 熟女电影av网| 国产精品嫩草影院av在线观看| 熟女电影av网| 色婷婷久久久亚洲欧美| 国产成人精品久久久久久| 99久久精品国产国产毛片| 色网站视频免费| 9191精品国产免费久久| 你懂的网址亚洲精品在线观看| 午夜老司机福利剧场| 黑丝袜美女国产一区| 久久午夜福利片| 欧美最新免费一区二区三区| 一本久久精品| 寂寞人妻少妇视频99o| 又黄又粗又硬又大视频| 国产福利在线免费观看视频| 亚洲国产精品成人久久小说| 亚洲精品自拍成人| 啦啦啦啦在线视频资源| 最黄视频免费看| 欧美成人精品欧美一级黄| 欧美人与性动交α欧美精品济南到 | 亚洲人成网站在线观看播放| 9色porny在线观看| 成年人免费黄色播放视频| 亚洲精品av麻豆狂野| 国产成人精品福利久久| 午夜91福利影院| 99精国产麻豆久久婷婷| 亚洲av免费高清在线观看| 大话2 男鬼变身卡| 国产黄色视频一区二区在线观看| 免费人妻精品一区二区三区视频| 美女视频免费永久观看网站| 欧美bdsm另类| 男女午夜视频在线观看| 啦啦啦在线观看免费高清www| 精品国产一区二区三区四区第35| 一级毛片电影观看| 亚洲,欧美,日韩| 人人妻人人添人人爽欧美一区卜| 女人久久www免费人成看片| 热re99久久国产66热| 国产免费现黄频在线看| 中文字幕精品免费在线观看视频| 寂寞人妻少妇视频99o| 男人爽女人下面视频在线观看| 人成视频在线观看免费观看| 国产日韩欧美视频二区| 观看av在线不卡| 成年av动漫网址| 亚洲欧美成人综合另类久久久| 亚洲精品一区蜜桃| 亚洲av福利一区| 美女中出高潮动态图| 午夜久久久在线观看| 欧美变态另类bdsm刘玥| 午夜免费鲁丝| 久久久国产精品麻豆| 亚洲欧美一区二区三区久久| 最近最新中文字幕大全免费视频 | 精品久久久精品久久久| 午夜福利网站1000一区二区三区| 韩国av在线不卡| 汤姆久久久久久久影院中文字幕| 老汉色∧v一级毛片| 日韩精品有码人妻一区| 少妇精品久久久久久久| 黑人猛操日本美女一级片| 1024香蕉在线观看| 亚洲,一卡二卡三卡| 波野结衣二区三区在线| 我要看黄色一级片免费的| 亚洲精品aⅴ在线观看| 侵犯人妻中文字幕一二三四区| 在线观看免费日韩欧美大片| 男人舔女人的私密视频| 各种免费的搞黄视频| 精品一品国产午夜福利视频| 黄片播放在线免费| 国产成人精品在线电影| 国产老妇伦熟女老妇高清| 亚洲激情五月婷婷啪啪| 亚洲国产欧美日韩在线播放| 日本wwww免费看| 亚洲国产毛片av蜜桃av| 欧美精品av麻豆av| 国产一区二区三区综合在线观看| 精品国产国语对白av| 大话2 男鬼变身卡| 国产精品国产三级国产专区5o| 免费观看a级毛片全部| 99久久人妻综合| 色婷婷av一区二区三区视频| 一区福利在线观看| 天美传媒精品一区二区| 久久国产精品大桥未久av| 欧美人与性动交α欧美软件| 精品人妻偷拍中文字幕| 亚洲国产欧美日韩在线播放| 十分钟在线观看高清视频www| 精品国产一区二区三区四区第35| 免费观看无遮挡的男女| 色网站视频免费| av女优亚洲男人天堂| 日产精品乱码卡一卡2卡三| 国产成人欧美| 亚洲一级一片aⅴ在线观看| 在线观看免费视频网站a站| 美女xxoo啪啪120秒动态图| 黄色配什么色好看| 日韩免费高清中文字幕av| 电影成人av| 亚洲欧美一区二区三区国产| 日本色播在线视频| 波多野结衣av一区二区av| 欧美中文综合在线视频| 不卡视频在线观看欧美| 美女xxoo啪啪120秒动态图| 亚洲欧美成人精品一区二区| 夫妻午夜视频| 国产精品久久久av美女十八| 人人妻人人澡人人看| 国产精品一二三区在线看| a级毛片在线看网站| 不卡av一区二区三区| 最近中文字幕2019免费版| 一二三四中文在线观看免费高清| 亚洲男人天堂网一区| 亚洲欧洲精品一区二区精品久久久 | 最近中文字幕高清免费大全6| 午夜福利,免费看| 国产亚洲最大av| 赤兔流量卡办理| 国产精品欧美亚洲77777| 日本欧美视频一区| 日本vs欧美在线观看视频| 午夜精品国产一区二区电影| av在线观看视频网站免费| 人妻少妇偷人精品九色| 亚洲欧美一区二区三区黑人 | 波野结衣二区三区在线| 久久韩国三级中文字幕| 久久久久久久久久久免费av| 毛片一级片免费看久久久久| 黄色配什么色好看| 啦啦啦在线免费观看视频4| 另类亚洲欧美激情| www.精华液| 日韩精品免费视频一区二区三区| 国产精品人妻久久久影院| 波多野结衣av一区二区av| 亚洲av男天堂| 亚洲av在线观看美女高潮| 日本av免费视频播放| 一二三四在线观看免费中文在| 美女高潮到喷水免费观看| 欧美少妇被猛烈插入视频| 欧美97在线视频| 国产男人的电影天堂91| 午夜影院在线不卡| 中文字幕色久视频| 在线观看人妻少妇| 各种免费的搞黄视频| 波多野结衣av一区二区av| 极品人妻少妇av视频| 九九爱精品视频在线观看| 精品国产乱码久久久久久小说| 精品国产超薄肉色丝袜足j| 女性生殖器流出的白浆| 夫妻午夜视频| 欧美97在线视频| 18禁裸乳无遮挡动漫免费视频| 日日啪夜夜爽| 成人国产麻豆网| 女的被弄到高潮叫床怎么办| 91国产中文字幕| 少妇熟女欧美另类| 久久久久久久久免费视频了| 天天躁狠狠躁夜夜躁狠狠躁| 日本vs欧美在线观看视频| 自线自在国产av| 国产国语露脸激情在线看| 欧美亚洲日本最大视频资源| 在线观看免费日韩欧美大片| 日韩一区二区三区影片| 亚洲av欧美aⅴ国产| 一本大道久久a久久精品| 夫妻性生交免费视频一级片| 日日爽夜夜爽网站| 久久亚洲国产成人精品v| 国产精品欧美亚洲77777| 久久精品熟女亚洲av麻豆精品| 18禁裸乳无遮挡动漫免费视频| 精品亚洲乱码少妇综合久久| 国产精品秋霞免费鲁丝片| 亚洲成人一二三区av| 日产精品乱码卡一卡2卡三| 水蜜桃什么品种好| 最近最新中文字幕大全免费视频 | 99re6热这里在线精品视频| 黑人欧美特级aaaaaa片| av视频免费观看在线观看| 亚洲精品国产一区二区精华液| 久久久久久久亚洲中文字幕| 色吧在线观看| 午夜影院在线不卡| 国产精品人妻久久久影院| 久久国产精品男人的天堂亚洲| 日韩中文字幕视频在线看片| av在线老鸭窝| 日韩大片免费观看网站| 欧美av亚洲av综合av国产av | 国产成人91sexporn| 午夜福利视频在线观看免费| 十分钟在线观看高清视频www| 国产一区有黄有色的免费视频| 色哟哟·www| 久久精品国产亚洲av涩爱| av国产精品久久久久影院| 熟女电影av网| 久久精品夜色国产| 亚洲av欧美aⅴ国产| 曰老女人黄片| 欧美精品一区二区大全| 亚洲国产精品成人久久小说| av网站免费在线观看视频| 欧美精品亚洲一区二区| 大话2 男鬼变身卡| 老司机影院成人| 欧美精品一区二区大全| 九色亚洲精品在线播放| 日韩av在线免费看完整版不卡| 一二三四在线观看免费中文在| 亚洲激情五月婷婷啪啪| 青春草国产在线视频| 国产国语露脸激情在线看| 久久久a久久爽久久v久久| 大码成人一级视频| 美女中出高潮动态图| 成人影院久久| 伦精品一区二区三区| 性色avwww在线观看| 如日韩欧美国产精品一区二区三区| 日韩电影二区| 亚洲欧美一区二区三区久久| 国产精品一国产av| 午夜免费观看性视频| 一区二区三区乱码不卡18| av免费观看日本| 另类亚洲欧美激情| 不卡av一区二区三区| 国产国语露脸激情在线看| a级片在线免费高清观看视频| 婷婷色综合www| 国产极品粉嫩免费观看在线| 欧美老熟妇乱子伦牲交| 女性被躁到高潮视频| 亚洲伊人久久精品综合| 久久精品国产亚洲av涩爱| 国产精品99久久99久久久不卡 | 国产精品久久久久久av不卡| 久久99精品国语久久久| 国产精品香港三级国产av潘金莲 | 啦啦啦在线免费观看视频4|