• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    運(yùn)營(yíng)商業(yè)務(wù)系統(tǒng)數(shù)據(jù)模型及SSD性能評(píng)估技術(shù)

    2020-06-08 15:39:51吳家隱李先緒
    移動(dòng)通信 2020年5期
    關(guān)鍵詞:數(shù)據(jù)模型

    吳家隱 李先緒

    【摘? 要】5G時(shí)代帶來(lái)了海量的數(shù)據(jù)存儲(chǔ)需求,硬盤的IO(Input/Output)性能可能構(gòu)成其主要瓶頸。從運(yùn)營(yíng)商核心系統(tǒng)的性能報(bào)告出發(fā),根據(jù)業(yè)務(wù)系統(tǒng)的特點(diǎn)提取數(shù)據(jù)模型,并以PCIe SSD為例,構(gòu)建了固態(tài)硬盤性能評(píng)估方案,從而得出貼近生產(chǎn)環(huán)境、具有實(shí)際指導(dǎo)意義的SSD性能參數(shù),為IT系統(tǒng)設(shè)計(jì)和優(yōu)化提供依據(jù),保障核心業(yè)務(wù)系統(tǒng)的部署。

    【關(guān)鍵詞】數(shù)據(jù)模型;固態(tài)硬盤;性能評(píng)估

    The 5G era has brought the requirements of massive data storage and thus the IO (Input/Output) performance of the hard disk might become the main bottleneck. Starting from the performance report of the operator's core system, the data model is extracted according to the characteristics of service systems. Taking PCIe SSD as an example, this paper constructs the performance evaluation solution of the solid-state drive, and thus obtains the SSD performance parameters which are close to the production environment and have practical guiding significance. This paper provides the basis for the design and optimization of the IT system and ensures the deployment of the core business system

    data model, solid-state drives, performance evaluation

    0? ?引言

    隨著5G時(shí)代的來(lái)臨,人工智能[1]、物聯(lián)網(wǎng)[2]、低延時(shí)高可靠應(yīng)用[3]以及大規(guī)模電子商務(wù)計(jì)算等業(yè)務(wù)將得到快速發(fā)展,從而帶來(lái)了海量數(shù)據(jù)存儲(chǔ)與處理需求。數(shù)據(jù)的飛速增長(zhǎng),對(duì)存儲(chǔ)設(shè)備的性能要求越來(lái)越高,傳統(tǒng)的機(jī)械硬盤已經(jīng)難以達(dá)到性能要求。

    固態(tài)硬盤(SSD, Solid State Drive)的出現(xiàn),使單硬盤的性能提高了幾個(gè)數(shù)量級(jí),大大改善了CPU和IO的性能差距。隨著半導(dǎo)體工藝的發(fā)展,尤其是3D NAND工藝的成熟[4],固態(tài)硬盤使用成本大幅度下降。早期的SSD采用SATA(串行ATA, Serial ATA)接口,在使用時(shí),需要將數(shù)據(jù)從SATA SSD中讀取到主機(jī)內(nèi)存,再由內(nèi)存提供給CPU計(jì)算使用。在CPU計(jì)算完成后,數(shù)據(jù)又要經(jīng)過(guò)內(nèi)存再寫入SSD中,數(shù)據(jù)傳輸路徑較長(zhǎng)。SATA/SAS接口協(xié)議是為傳統(tǒng)HDD而設(shè)計(jì),不適合低延時(shí)的SSD,已經(jīng)成為影響SSD硬盤的性能瓶頸。PCIe SSD可以直接通過(guò)總線與CPU相連,節(jié)省了內(nèi)存調(diào)用的過(guò)程。同時(shí),PCEe SSD還可以結(jié)合為SSD重新設(shè)計(jì)的NVMe傳輸協(xié)議[5],有利于發(fā)揮SSD的性能優(yōu)勢(shì)。因此,PCIe SSD擁有更高的帶寬和更高效的傳輸協(xié)議,在企業(yè)級(jí)市場(chǎng)中的市場(chǎng)份額日益增長(zhǎng)。PCIe SSD的提供商包括英特爾(Intel)、昱科(HGST)、寶存(Shannon)、華為、憶恒創(chuàng)源(Memblaze)等多個(gè)品牌[6],性能各異。

    在運(yùn)營(yíng)商的5G建設(shè)過(guò)程,業(yè)務(wù)系統(tǒng)要面對(duì)高并發(fā)、大性能的需求,對(duì)于存儲(chǔ)的性能要求非常高。因此,在業(yè)務(wù)系統(tǒng)的規(guī)劃、建設(shè)及優(yōu)化階段,就必須充分考慮到存儲(chǔ)乃至硬盤的性能對(duì)業(yè)務(wù)系統(tǒng)的影響,這就需要對(duì)硬盤進(jìn)行詳盡的性能評(píng)估。傳統(tǒng)的硬盤性能評(píng)估工具包括iometer[7-8]、FIO[9-10]等,但如果不充分考慮業(yè)務(wù)系統(tǒng)的實(shí)際情況進(jìn)行科學(xué)合理的方案設(shè)計(jì),直接通過(guò)這些評(píng)測(cè)工具進(jìn)行測(cè)試,所得到的測(cè)試結(jié)果往往與業(yè)務(wù)系統(tǒng)的實(shí)際情況相差甚遠(yuǎn),從而影響到了業(yè)務(wù)系統(tǒng)規(guī)劃的準(zhǔn)確性。因此,亟需研究運(yùn)營(yíng)商業(yè)務(wù)系統(tǒng)的數(shù)據(jù)模型,并針對(duì)運(yùn)營(yíng)商業(yè)務(wù)系統(tǒng)的實(shí)際情況制定科學(xué)、合理的SSD性能評(píng)估方案,從而能夠得到對(duì)生產(chǎn)具有指導(dǎo)意義的SSD性能參數(shù),為IT系統(tǒng)設(shè)計(jì)和優(yōu)化提供依據(jù)。

    1? ? 數(shù)據(jù)模型

    1.1? 性能指標(biāo)

    數(shù)據(jù)庫(kù)是運(yùn)營(yíng)商業(yè)務(wù)系統(tǒng)的核心系統(tǒng),其處理能力對(duì)業(yè)務(wù)系統(tǒng)是否能夠應(yīng)對(duì)高并發(fā)訪問(wèn)起到至關(guān)重要的作用。一旦數(shù)據(jù)庫(kù)遇到訪問(wèn)峰值,承載數(shù)據(jù)庫(kù)的硬盤的IO可能成為系統(tǒng)的主要瓶頸。SSD的性能指標(biāo)主要包括:

    (1)IOPS

    IOPS(Input/Output Operations Per Second,每秒輸入輸出操作數(shù))是硬盤性能的重要指標(biāo),是指一秒內(nèi)磁盤能夠處理的IO請(qǐng)求數(shù)量。對(duì)于隨機(jī)讀寫頻繁的系統(tǒng),IOPS是主要性能指標(biāo)。磁盤另一個(gè)重要參數(shù)是數(shù)據(jù)吞吐量,數(shù)據(jù)吞吐量為磁盤中每秒鐘IO的流量,其值等于IOPS和數(shù)據(jù)塊大小的乘積,主要用于衡量大量連續(xù)讀寫的應(yīng)用。

    (2)延時(shí)

    延時(shí)是接收到服務(wù)請(qǐng)求到返回一個(gè)指令所消耗的時(shí)間,訪問(wèn)延遲增大時(shí),業(yè)務(wù)系統(tǒng)也會(huì)有相應(yīng)的延遲。固態(tài)硬盤的延時(shí)包括讀延時(shí)和寫延時(shí)。SSD的延時(shí)又會(huì)傳導(dǎo)到數(shù)據(jù)庫(kù),引起數(shù)據(jù)庫(kù)的延時(shí),也是SSD的重要衡量指標(biāo)。

    (3)QoS

    QoS(Quality of Service,服務(wù)質(zhì)量)可以分析一段時(shí)間內(nèi)的延時(shí)表現(xiàn),可以用一定的數(shù)據(jù)讀寫下延遲不大于指定時(shí)間的方式來(lái)表示[9]。QoS體現(xiàn)的是一定數(shù)據(jù)模型下的延時(shí)要求,對(duì)數(shù)據(jù)庫(kù)有重要意義。

    1.2? 數(shù)據(jù)庫(kù)報(bào)告分析

    表1為某運(yùn)營(yíng)商實(shí)際業(yè)務(wù)系統(tǒng)中,核心數(shù)據(jù)庫(kù)Oracle的AWR報(bào)告(Automatic Workload Repository,自動(dòng)負(fù)載信息庫(kù))中,排名前5的前臺(tái)等待事件(Top 5 Timed Foreground Events)。AWR是Oracle提供的性能監(jiān)控及分析工具,能夠生成某個(gè)時(shí)間段內(nèi)系統(tǒng)資源使用報(bào)告,從而為系統(tǒng)調(diào)優(yōu)提供依據(jù)。該系統(tǒng)為交易類型業(yè)務(wù),采用全閃存陣列。從圖1中可以看到在應(yīng)用層面調(diào)優(yōu)后,整個(gè)系統(tǒng)最大的瓶頸一般會(huì)落到IO層面。表1中的等待事件Log file sync與日志寫相關(guān)的,Db file sequential read事件與索引相關(guān)讀相關(guān)。日志寫相關(guān)的等待時(shí)間占到DB整體等待時(shí)間的65.44%,所以寫IO的時(shí)延至關(guān)重要。

    表2為上述AWR報(bào)告中,按等待時(shí)間從大到小排列的前四個(gè)后臺(tái)等待事件。從表2中可以看到,在大并發(fā)壓力下,即使用全閃存陣列寫延時(shí)也可能到達(dá)ms級(jí)別。其中,Log file parallel write即為L(zhǎng)og file sync等待事件中和IO相關(guān)的部分。如果可以降低Log file parallel write的延時(shí),則數(shù)據(jù)庫(kù)等待IO的時(shí)間會(huì)大大降低,CPU的IO wait會(huì)大大降低,從而提高業(yè)務(wù)性能和CPU利用率。

    因此,如果在SSD上部署數(shù)據(jù)庫(kù)等應(yīng)用,大并發(fā)混合讀寫壓力下,低寫延時(shí)對(duì)數(shù)據(jù)庫(kù)整體性能至關(guān)重要。

    1.3? SSD延時(shí)特點(diǎn)

    實(shí)際業(yè)務(wù)系統(tǒng)中,SSD讀性能一般不會(huì)成為瓶頸,這是由于SSD讀IOPS遠(yuǎn)高于寫IOPS,其在單位時(shí)間內(nèi)可以響應(yīng)更多并發(fā)IO請(qǐng)求。而在實(shí)際應(yīng)用中,SSD寫延時(shí)會(huì)影響到數(shù)據(jù)庫(kù)性能。對(duì)于數(shù)據(jù)庫(kù)、文件系統(tǒng)、分布式文件系統(tǒng)等,其日志文件寫入一般為順序?qū)懟虿l(fā)順序?qū)?。但是,由于業(yè)務(wù)層還混合了其他讀寫操作,到SSD層面IO會(huì)變?yōu)榇蟛l(fā)的隨機(jī)讀寫。由于數(shù)據(jù)相關(guān)性要求,一些上層應(yīng)用的IO完成必須在日志文件完成寫入之后,故日志文件寫入對(duì)延時(shí)要求又比較高。因此,綜合以上情況,在大并發(fā)情況下,需要重點(diǎn)關(guān)注SSD寫延時(shí)。

    對(duì)閃存介質(zhì)來(lái)講,SSD的寫延時(shí)要普遍優(yōu)于讀延時(shí)。SSD讀的過(guò)程中描述如下:數(shù)據(jù)需要從NAND里面讀出;NAND讀取過(guò)程中,需要對(duì)字線加電壓偏執(zhí),從位線通過(guò)感測(cè)放大器來(lái)讀取結(jié)果,僅這個(gè)過(guò)程一般需要約60μs。SSD寫過(guò)程描述如下:寫數(shù)據(jù)先到達(dá)DRAM(NVMe SSD)或者SRAM(Host-Based SSD),隨即返回寫完成,寫延時(shí)較短,SSD內(nèi)部負(fù)責(zé)數(shù)據(jù)將寫入到NAND顆粒中。

    在SSD可承受的壓力范圍內(nèi)(即在一定IOPS范圍內(nèi)),SSD延時(shí)比較平穩(wěn),當(dāng)壓力增大到一定值后,雖然IOPS還會(huì)有增加,但是延時(shí)卻會(huì)呈指數(shù)上升。在SSD測(cè)試過(guò)程中,對(duì)延時(shí)進(jìn)行合理的限定是有必要的:尤其對(duì)寫延時(shí)而言,在SSD可承受的IOPS范圍內(nèi),寫延時(shí)保持很低水平,當(dāng)壓力繼續(xù)增大,延時(shí)則會(huì)大幅增加到毫秒以上。

    1.4? 數(shù)據(jù)模型

    數(shù)據(jù)庫(kù)的數(shù)據(jù)塊大小主要為4K或8K。在對(duì)核心長(zhǎng)期監(jiān)測(cè)中發(fā)現(xiàn),數(shù)據(jù)庫(kù)的數(shù)據(jù)讀寫類型主要是70%的隨機(jī)讀和30%的隨機(jī)寫。為了貼近生產(chǎn)環(huán)境,運(yùn)營(yíng)商的核心系統(tǒng)數(shù)據(jù)塊設(shè)置為4K,讀寫比例為70%的隨機(jī)讀和30%的隨機(jī)寫。

    考慮到SSD本身的讀寫延時(shí)情況和核心系統(tǒng)對(duì)SSD的延時(shí)需求,為保障核心系統(tǒng)性能,將SSD的QoS條件設(shè)定為:在70%隨機(jī)讀30%隨機(jī)寫的4K的條件下,SSD讀延時(shí)不超過(guò)1 000 μs,寫延時(shí)不超過(guò)200 μs。

    1.5? 指標(biāo)建議值

    綜上所述,由于運(yùn)營(yíng)商核心數(shù)據(jù)庫(kù)主要為4K或8K的數(shù)據(jù)塊,且讀寫類型為隨機(jī)讀寫頻繁,因此,將IOPS定義為主要性能指標(biāo),可以使性能指標(biāo)貼近生產(chǎn)實(shí)際需要。同時(shí),考慮到實(shí)際生產(chǎn)環(huán)境的時(shí)延要求,該性能指標(biāo)還必須是在滿足QoS指標(biāo)的條件下測(cè)得的IOPS值。

    2? ? 評(píng)估方法

    2.1? 主要工具

    本文通過(guò)開源軟件FIO和nmon進(jìn)行SSD性能評(píng)估。

    FIO是一款開源I/O性能測(cè)試工具,廣泛應(yīng)用于企業(yè)級(jí)SSD、HDD以及磁盤陣列性能測(cè)試中。支持主流的操作系統(tǒng)平臺(tái),如Windows Server及常用的Linux發(fā)行版,可以直接編譯或移植到各種操作系統(tǒng)中運(yùn)行。該軟件支持多進(jìn)程,隊(duì)列深度指定,磁盤塊大小指定如4 KB,存儲(chǔ)引擎指定如libaio,測(cè)試日志記錄等功能。如果將多組fio測(cè)試命令依次寫入測(cè)試腳本,則可先覆蓋存儲(chǔ)設(shè)備全部LBA 數(shù)遍,然后連續(xù)獲取高工作負(fù)載情況下存儲(chǔ)設(shè)備的性能指標(biāo)。用戶可根據(jù)最終日志輸出結(jié)果制成可視化圖表。FIO主要參數(shù)包括:

    Blocksize:數(shù)據(jù)塊大小。

    rw:負(fù)載類型,主要包括raed(順序讀)、write(順序?qū)懀?、randrw(隨機(jī)讀寫)。

    size:每次IO請(qǐng)求要讀寫的數(shù)據(jù)量。

    ioengine:I/O引擎,windows下可使用windowsaio,Linux可使用libaio、sync、psync等。

    iodepth:I/O深度,每次提交的I/O請(qǐng)求個(gè)數(shù)。iodepth開始增加時(shí),IOPS及帶寬也相應(yīng)增加。但iodepth增大到一定程度時(shí),IOPS和帶寬增加緩慢甚至保持不變,但延時(shí)將大幅度上升,這是因?yàn)樾枰ㄙM(fèi)更多的時(shí)間等待請(qǐng)求IO數(shù)量達(dá)到iodepth數(shù)值后才發(fā)出IO請(qǐng)求。隊(duì)列深度的大小設(shè)置將影響IOPS、延時(shí)和QoS的測(cè)量。

    numjobs:本次任務(wù)克隆的數(shù)量(線程/進(jìn)程執(zhí)行相同的任務(wù))。這個(gè)參數(shù)具體要根據(jù)SSD和服務(wù)器的性能來(lái)確定,目標(biāo)是使服務(wù)器能達(dá)到滿載。

    nmon是一款Linux性能監(jiān)測(cè)工具,可以收集CPU利用率、內(nèi)存使用量、磁盤IO、網(wǎng)絡(luò)IO、進(jìn)程信息等。mmon消耗的系統(tǒng)資源很少。nmon用于記錄測(cè)試過(guò)程中CPU、內(nèi)存等系統(tǒng)資源的占用率、硬盤IOPS。

    2.2? 硬件環(huán)境

    測(cè)試主機(jī)配置為:

    CPU:Intel XEON E7-8870v3系列18核2.1GHz主頻;

    內(nèi)存:512 GB;

    操作系統(tǒng):RedHat 6.5(X64);

    SSD為3.2T MLC PCIe2.0 SSD卡。

    性能強(qiáng)勁的硬件平臺(tái),可以保障性能測(cè)試過(guò)程中,系統(tǒng)資源產(chǎn)生使SSD處于極限工作下的負(fù)載。

    2.3? 性能優(yōu)化

    要充分發(fā)揮SSD卡的性能,還需要考慮CPU進(jìn)程優(yōu)化、4K對(duì)齊及文件系統(tǒng)等影響因素。

    使用單進(jìn)程(單一作業(yè))測(cè)試時(shí),即使使用很深的隊(duì)列,仍然可能有性能瓶頸。對(duì)于高性能存儲(chǔ)產(chǎn)品,在使用較深的隊(duì)列例如32/64測(cè)試時(shí),建議嘗試4~8個(gè)以上進(jìn)程。如果使用隊(duì)列深度為1,塊大小為4 KB,則讀測(cè)試進(jìn)程數(shù)量應(yīng)達(dá)到256~512個(gè),寫測(cè)試進(jìn)程最高應(yīng)測(cè)到128個(gè)。單CPU核心因?yàn)樾阅芟拗疲凑詹煌念l率,最高大約可以達(dá)到100k~200k的IOPS。只有使用合適的進(jìn)程數(shù)量、隊(duì)列深度、塊大小的組合進(jìn)行測(cè)試,才能達(dá)到比較理想的數(shù)值。這同樣適用于實(shí)際應(yīng)用程序的調(diào)優(yōu)。

    由于SSD讀寫的最小單元為頁(yè),頁(yè)大小一般為4K或8K。SSD不能像機(jī)械硬盤那樣對(duì)要寫入的單元進(jìn)行覆蓋寫入,而是在寫入數(shù)據(jù)前,先擦除要寫入單元的數(shù)據(jù)再寫入。擦除時(shí)最好的單位是塊,塊可以由多個(gè)頁(yè)組成。4K對(duì)齊可以讓操作系統(tǒng)最小分配單元和SSD的最小單元對(duì)應(yīng),這樣可以使SSD性能的優(yōu)化。

    SSD上新建分區(qū)并格式化文件系統(tǒng)的情況下,不同的文件系統(tǒng)及參數(shù)設(shè)定影響到SSD性能的發(fā)揮。在生產(chǎn)環(huán)境下,讀寫頻繁的核心數(shù)據(jù)庫(kù)如Oracle數(shù)據(jù)庫(kù),會(huì)直接讀寫裸設(shè)備。作為承載核心業(yè)務(wù)數(shù)據(jù)的SSD來(lái)說(shuō),裸設(shè)備能夠充分發(fā)揮SSD的性能。為了排除文件系統(tǒng)對(duì)測(cè)試的干擾,在測(cè)試中采用FIO對(duì)分區(qū)格式化的SSD裸盤進(jìn)行讀寫。

    2.4? 評(píng)估步驟

    對(duì)SSD的性能評(píng)估過(guò)程主要包括清空SSD、預(yù)熱和啟動(dòng)性能測(cè)試等步驟。

    (1)清空SSD

    使用安全擦除工具將SSD完整擦除一遍,清空測(cè)試盤,使回到全新盤的狀態(tài),并靜置10分鐘,保證所有測(cè)試從同一個(gè)點(diǎn)開始,降低因?yàn)镾SD上已有數(shù)據(jù)隨機(jī)度不一致引起的測(cè)試誤差。

    (2)預(yù)熱使用FIO對(duì)SSD全盤順序?qū)憹M兩遍

    開啟讀寫測(cè)試,順序填充完全空白的SSD兩遍,保證全部SSD空間包括Over Provsioning超額提供的空間均填充數(shù)據(jù)。全部數(shù)據(jù)塊(LBA)都必須全盤順序填充數(shù)據(jù)兩次,如果不是順序填充,順序讀寫測(cè)試則不是真正的順序讀寫,因?yàn)檫B續(xù)塊有大有小。要么SSD里沒(méi)有數(shù)據(jù),要么垃圾回收機(jī)制沒(méi)有工作在最高強(qiáng)度下。如果不填充,則可能導(dǎo)致讀寫性能非常高,得到的數(shù)據(jù)不是正常工作負(fù)載下的持續(xù)性能數(shù)值。

    2)數(shù)據(jù)讀取

    通過(guò)mon_analyse解析nmon輸出的文件文件,生成分析報(bào)表。

    3? ?結(jié)果分析

    從FIO結(jié)果中可以看到,SSD樣品在測(cè)試過(guò)程中的平均讀時(shí)延為403.89 μs,寫時(shí)延為67.67 μs,滿足測(cè)試中規(guī)定的QoS要求。通過(guò)nmon結(jié)果可知,整個(gè)測(cè)試周期中,測(cè)試主機(jī)CPU占用率約為2.8%,內(nèi)存占用率約為1.94%,SSD卡對(duì)主機(jī)的資源占用率極低,主機(jī)資源不會(huì)造成測(cè)試的性能瓶頸。

    從圖1中可以看到,在啟動(dòng)測(cè)試到第41分鐘的第I階段內(nèi),由于前一階段的SSD在順序?qū)懞螅瑪?shù)據(jù)塊的空間連續(xù),隨機(jī)讀和隨機(jī)寫的IOPS均比正常使用時(shí)偏高。從第41分鐘到2小時(shí)40分鐘的第II階段,由于SSD上的存儲(chǔ)空間已寫滿,垃圾回收機(jī)制啟動(dòng)。SSD每次寫操作時(shí),需要寫入的存儲(chǔ)空間單位為Page,而且只能寫入到空白的Page中。在存儲(chǔ)空間已滿的情況下,就必須先進(jìn)行一次擦除操作,而擦除操作的單元為Block(1Block由256個(gè)Page組成)。SSD寫入數(shù)據(jù)的時(shí)候的步驟包括:

    (1)將Block中的除要寫入page外的其他數(shù)據(jù)塊寫入SSD的預(yù)留空間(OP, Over-Provisioning);

    (2)擦除要寫入Page所在Block的全部數(shù)據(jù);

    (3)將要寫入Page的數(shù)據(jù)和OP中的數(shù)據(jù)塊寫入Block。

    因此,一個(gè)寫入操作引起的是整個(gè)Block的擦除和寫入,即一次寫入請(qǐng)求,最終落到硬盤上是放大多倍的寫入操作。在極端情況下,甚至出現(xiàn)寫入4 KB的數(shù)據(jù),實(shí)際寫入?yún)s為512 KB,達(dá)到128倍的寫放大。垃圾回收的TRIM指令將要寫入Page的數(shù)據(jù)塊標(biāo)注為無(wú)效,在寫入OP時(shí),只將有效的Page數(shù)據(jù)塊而不將其他數(shù)據(jù)塊中無(wú)效的數(shù)據(jù)塊寫入OP。TRIM指令可以降低寫放大,使SSD具有更高的吞吐率。啟動(dòng)垃圾回收時(shí),由于持續(xù)的IO讀寫請(qǐng)求和垃圾回收啟動(dòng)的雙重影響,產(chǎn)生了資源沖突,因此引起讀寫性能迅速下降。隨后,隨著垃圾回收機(jī)制的啟動(dòng)進(jìn)展,資源沖突逐漸緩解,IOPS性能值繼續(xù)抬升。在垃圾回收機(jī)制穩(wěn)定運(yùn)行后,SSD性能進(jìn)入第III階段。由于SSD中的存儲(chǔ)空間均已寫滿,該盤的垃圾回收機(jī)制已經(jīng)移動(dòng)運(yùn)行,并且盤上的數(shù)據(jù)隨機(jī)度足夠,SSD的IO性能進(jìn)入穩(wěn)態(tài)。

    在實(shí)際生產(chǎn)環(huán)境中,運(yùn)營(yíng)商業(yè)務(wù)系統(tǒng)在部署上線后,在經(jīng)歷全盤讀寫后的數(shù)小時(shí)后,也將進(jìn)入第III階段的穩(wěn)態(tài)。計(jì)算第III階段穩(wěn)態(tài)下的IOPS值,可以得到該SSD在70%隨機(jī)讀30%隨機(jī)寫的4K的負(fù)載下的性能值為:207 977 io/s。通過(guò)本方案所評(píng)估的性能指標(biāo),其數(shù)據(jù)模型、測(cè)試過(guò)程和指標(biāo)選取貼近生產(chǎn)需求,因此,測(cè)試中所評(píng)估的SSD性能與在實(shí)際生產(chǎn)環(huán)境中可能達(dá)到的IOPS一致。因此,運(yùn)營(yíng)商可以根據(jù)性能評(píng)估結(jié)果,選擇能達(dá)到業(yè)務(wù)系統(tǒng)性能規(guī)劃要求的SSD。

    性能測(cè)試如圖1所示:

    4? ?結(jié)束語(yǔ)

    至此,本文根據(jù)電信運(yùn)營(yíng)商業(yè)務(wù)系統(tǒng)的實(shí)際需求,分析AWR報(bào)告,提煉了運(yùn)營(yíng)商業(yè)務(wù)系統(tǒng)數(shù)據(jù)模型。在這基礎(chǔ)上,構(gòu)建了固態(tài)硬盤性能評(píng)估方案,以FIO和nmon為測(cè)試工具,搭建硬件環(huán)境,分析了SSD的優(yōu)化因素,并對(duì)評(píng)估步驟進(jìn)行了詳細(xì)描述。本文還分析了測(cè)試結(jié)果,對(duì)測(cè)試中的三個(gè)階段進(jìn)行了描述。本文所提供的評(píng)估方法不僅可以用于PCIe SSD,也同樣適用于SATA/SAS/NVMe等類型SSD的性能測(cè)試。通過(guò)本文的測(cè)試方案貼近生產(chǎn)環(huán)境需要,所提出的SSD性能評(píng)估方法所測(cè)得的SSD性能與生產(chǎn)環(huán)境下相近,從而可以為5G時(shí)代的運(yùn)營(yíng)商業(yè)務(wù)系統(tǒng)規(guī)劃設(shè)計(jì)、優(yōu)化提供依據(jù),有力地保障了核心業(yè)務(wù)系統(tǒng)的部署。

    參考文獻(xiàn):

    [1]? ? 張丹. 引領(lǐng)AI時(shí)代的監(jiān)控存儲(chǔ)方案[J]. 中國(guó)公共安全, 2018(6): 148-149.

    [2]? ? 李鑫,孫蓉,劉景偉. 分布式存儲(chǔ)系統(tǒng)中容錯(cuò)技術(shù)綜述[J]. 無(wú)線電通信技術(shù), 2019(5): 463-475.

    [3]? ? 肖堯. 面向5G低時(shí)延高可靠車載業(yè)務(wù)的計(jì)算卸載策略研究[D]. 西安: 西安電子科技大學(xué), 2019.

    [4]? ? 張衛(wèi). 存儲(chǔ)器技術(shù)的新進(jìn)展[J]. 集成電路應(yīng)用, 2020? ? (3):10-12.

    [5]? ? ?彭振翼. 固態(tài)存儲(chǔ)系統(tǒng)PCIe接口的設(shè)計(jì)方法與實(shí)現(xiàn)[D].? 武漢: 華中科技大學(xué), 2013.

    [6]? ? 潤(rùn)冬,劉芳,肖儂,等. PCIe SSD I/O棧設(shè)計(jì)與原型系統(tǒng)研究[J]. 計(jì)算機(jī)研究與發(fā)展, 2015(S2): 124-130.

    [7]? ? 馬娜,朱立谷,陳志杰,等. 磁盤陣列性能測(cè)試工具研究[J]. 計(jì)算機(jī)工程與應(yīng)用, 2010(36): 74-78.

    [8]? ? 常寶升. 基于IP-SAN的存儲(chǔ)虛擬化系統(tǒng)研究[D]. 哈爾濱: 哈爾濱工程大學(xué), 2008.

    [9]? ? 趙雷. 塊設(shè)備自動(dòng)化測(cè)試系統(tǒng)的設(shè)計(jì)及優(yōu)化[D]. 北京: 中國(guó)科學(xué)院大學(xué), 2017.

    [10]? ?趙夢(mèng)茹. 移動(dòng)終端Linux存儲(chǔ)IO性能分析與優(yōu)化[D]. 西安: 西安電子科技大學(xué), 2014.

    猜你喜歡
    數(shù)據(jù)模型
    基于Pro/E 的發(fā)射裝置設(shè)計(jì)數(shù)據(jù)快速轉(zhuǎn)化方法
    面板數(shù)據(jù)模型截面相關(guān)檢驗(yàn)方法綜述
    人民幣匯率波動(dòng)對(duì)張家界入境旅游的影響——基于主要客源國(guó)面板數(shù)據(jù)模型的分析
    加熱爐爐內(nèi)跟蹤數(shù)據(jù)模型優(yōu)化
    財(cái)政支出效率與產(chǎn)業(yè)結(jié)構(gòu):要素積累與流動(dòng)——基于DEA 和省級(jí)面板數(shù)據(jù)模型的實(shí)證研究
    基于PowerDesigner的家庭財(cái)務(wù)管理系統(tǒng)的數(shù)據(jù)庫(kù)設(shè)計(jì)
    經(jīng)濟(jì)全球化對(duì)我國(guó)勞動(dòng)收入份額影響機(jī)制研究——基于面板數(shù)據(jù)模型
    環(huán)境規(guī)制、行業(yè)異質(zhì)性與區(qū)域產(chǎn)業(yè)集聚——基于省際動(dòng)態(tài)面板數(shù)據(jù)模型的GMM方法
    基于分位數(shù)回歸的電力負(fù)荷特性預(yù)測(cè)面板數(shù)據(jù)模型
    面向集成管理的出版原圖數(shù)據(jù)模型
    亚洲 欧美一区二区三区| 99久久国产精品久久久| 久久久久久人人人人人| 日本wwww免费看| 国产av精品麻豆| 免费黄频网站在线观看国产| 999精品在线视频| 麻豆av在线久日| 下体分泌物呈黄色| 国精品久久久久久国模美| 99精品欧美一区二区三区四区| 亚洲欧美日韩另类电影网站| 亚洲欧美激情综合另类| 亚洲黑人精品在线| 国产高清激情床上av| 手机成人av网站| 免费在线观看日本一区| 青草久久国产| 新久久久久国产一级毛片| 又紧又爽又黄一区二区| 不卡av一区二区三区| xxx96com| 欧美日韩中文字幕国产精品一区二区三区 | 91大片在线观看| 欧美精品人与动牲交sv欧美| 午夜福利视频在线观看免费| 激情视频va一区二区三区| 侵犯人妻中文字幕一二三四区| 一本大道久久a久久精品| 亚洲色图综合在线观看| 欧美日韩瑟瑟在线播放| 一进一出抽搐动态| 麻豆国产av国片精品| 精品乱码久久久久久99久播| av中文乱码字幕在线| 国产免费男女视频| 制服人妻中文乱码| 久久久精品国产亚洲av高清涩受| 久久久久久久久久久久大奶| 一本一本久久a久久精品综合妖精| 777久久人妻少妇嫩草av网站| 高清欧美精品videossex| 国产人伦9x9x在线观看| 视频在线观看一区二区三区| 久久久水蜜桃国产精品网| 精品亚洲成a人片在线观看| 国产乱人伦免费视频| 国产精品电影一区二区三区 | 国产精品久久久久成人av| 成人18禁在线播放| 日韩人妻精品一区2区三区| 好男人电影高清在线观看| 每晚都被弄得嗷嗷叫到高潮| 成人特级黄色片久久久久久久| 久久久精品国产亚洲av高清涩受| 国产精品久久视频播放| 国产精品久久久人人做人人爽| 成年动漫av网址| 午夜精品国产一区二区电影| 欧美不卡视频在线免费观看 | 亚洲国产欧美日韩在线播放| 欧美丝袜亚洲另类 | 欧美成狂野欧美在线观看| 他把我摸到了高潮在线观看| 女人被躁到高潮嗷嗷叫费观| 午夜视频精品福利| 丰满饥渴人妻一区二区三| 岛国在线观看网站| 中亚洲国语对白在线视频| 国产精品久久久人人做人人爽| 国产精品久久久人人做人人爽| 人妻 亚洲 视频| 一级a爱视频在线免费观看| videosex国产| 国产精品1区2区在线观看. | a级毛片黄视频| 99久久99久久久精品蜜桃| 日本vs欧美在线观看视频| 日韩一卡2卡3卡4卡2021年| 亚洲精华国产精华精| 午夜福利免费观看在线| 成年动漫av网址| 国产精品影院久久| 亚洲色图综合在线观看| 欧美国产精品一级二级三级| 国产精品免费大片| 美女 人体艺术 gogo| 一区二区三区激情视频| xxxhd国产人妻xxx| 欧美中文综合在线视频| 成人国语在线视频| 欧美日韩福利视频一区二区| 免费人成视频x8x8入口观看| 精品福利永久在线观看| 黄色视频,在线免费观看| 日本欧美视频一区| 久久亚洲精品不卡| av在线播放免费不卡| 国产成人欧美| 精品福利观看| 精品一区二区三区四区五区乱码| 男人的好看免费观看在线视频 | 老司机影院毛片| 中文字幕人妻丝袜一区二区| 人妻一区二区av| 免费在线观看视频国产中文字幕亚洲| 黑人欧美特级aaaaaa片| www.熟女人妻精品国产| 午夜老司机福利片| 亚洲精品自拍成人| 中文字幕另类日韩欧美亚洲嫩草| 久久天堂一区二区三区四区| 变态另类成人亚洲欧美熟女 | 亚洲精品国产精品久久久不卡| 丝袜在线中文字幕| 91在线观看av| 国产免费男女视频| 色老头精品视频在线观看| 美国免费a级毛片| 午夜久久久在线观看| 美女 人体艺术 gogo| 欧美日韩福利视频一区二区| 一区二区三区精品91| 天天操日日干夜夜撸| 天天躁狠狠躁夜夜躁狠狠躁| 亚洲九九香蕉| 久久久国产精品麻豆| 国产成人欧美| 国产视频一区二区在线看| 两性午夜刺激爽爽歪歪视频在线观看 | 国产色视频综合| a级毛片在线看网站| 精品国产一区二区三区久久久樱花| 亚洲第一青青草原| www.自偷自拍.com| 欧美乱色亚洲激情| 精品熟女少妇八av免费久了| 国产精品一区二区在线观看99| 国产精品久久久人人做人人爽| 少妇被粗大的猛进出69影院| 日韩欧美一区视频在线观看| 国产欧美日韩一区二区三| 国产欧美日韩一区二区三| 亚洲精品粉嫩美女一区| 久久精品人人爽人人爽视色| 日本a在线网址| 亚洲av日韩在线播放| 精品一品国产午夜福利视频| 两性午夜刺激爽爽歪歪视频在线观看 | 国产精品久久久久成人av| 91老司机精品| 久久婷婷成人综合色麻豆| 国产在线一区二区三区精| 欧美乱色亚洲激情| 中文字幕精品免费在线观看视频| 手机成人av网站| 麻豆成人av在线观看| 岛国在线观看网站| 亚洲av片天天在线观看| 久久青草综合色| 人人妻人人添人人爽欧美一区卜| 色精品久久人妻99蜜桃| 丝袜人妻中文字幕| 免费观看人在逋| а√天堂www在线а√下载 | 欧美日韩亚洲国产一区二区在线观看 | 一二三四在线观看免费中文在| 久久精品国产综合久久久| 欧美大码av| 老司机午夜福利在线观看视频| e午夜精品久久久久久久| 极品人妻少妇av视频| 99久久国产精品久久久| 国产成人av教育| 亚洲熟女精品中文字幕| av超薄肉色丝袜交足视频| 亚洲一码二码三码区别大吗| 国产一区二区三区在线臀色熟女 | 大型黄色视频在线免费观看| 一边摸一边做爽爽视频免费| 日韩中文字幕欧美一区二区| 一本大道久久a久久精品| 久热爱精品视频在线9| 婷婷精品国产亚洲av在线 | 午夜亚洲福利在线播放| 成在线人永久免费视频| 日韩大码丰满熟妇| 性少妇av在线| 夫妻午夜视频| 老司机福利观看| 国产单亲对白刺激| 性少妇av在线| 色婷婷av一区二区三区视频| 国产日韩一区二区三区精品不卡| av电影中文网址| 在线观看66精品国产| 在线观看66精品国产| 欧美亚洲日本最大视频资源| 亚洲专区中文字幕在线| 女人被躁到高潮嗷嗷叫费观| 极品少妇高潮喷水抽搐| 人妻 亚洲 视频| 美女高潮到喷水免费观看| 国产免费现黄频在线看| 国产xxxxx性猛交| 久久精品熟女亚洲av麻豆精品| 亚洲男人天堂网一区| 大陆偷拍与自拍| 99国产精品一区二区蜜桃av | 精品久久蜜臀av无| 777米奇影视久久| 亚洲国产中文字幕在线视频| 久久久久久久久免费视频了| 日日爽夜夜爽网站| 久久精品国产综合久久久| 欧美国产精品va在线观看不卡| 中文字幕av电影在线播放| 高清欧美精品videossex| 国产精品乱码一区二三区的特点 | 他把我摸到了高潮在线观看| 国产精品免费一区二区三区在线 | 男女免费视频国产| 欧美在线一区亚洲| 丝袜人妻中文字幕| 国产国语露脸激情在线看| 首页视频小说图片口味搜索| 久久精品国产99精品国产亚洲性色 | 日本欧美视频一区| 欧美午夜高清在线| 黑丝袜美女国产一区| 久久久久久久精品吃奶| 国产精品国产高清国产av | av视频免费观看在线观看| 一本一本久久a久久精品综合妖精| 欧美激情高清一区二区三区| 国产av又大| 免费在线观看黄色视频的| 91麻豆av在线| 中文字幕av电影在线播放| 欧美精品啪啪一区二区三区| 国产亚洲一区二区精品| 精品视频人人做人人爽| av有码第一页| 中国美女看黄片| 国产单亲对白刺激| 中文字幕人妻熟女乱码| 18禁美女被吸乳视频| 国产精品九九99| 午夜福利,免费看| 国产精品自产拍在线观看55亚洲 | 人人妻人人添人人爽欧美一区卜| 国产精品99久久99久久久不卡| 丰满饥渴人妻一区二区三| 日本欧美视频一区| avwww免费| 亚洲视频免费观看视频| 少妇被粗大的猛进出69影院| 久久狼人影院| 国内毛片毛片毛片毛片毛片| 一级作爱视频免费观看| 婷婷丁香在线五月| 国产aⅴ精品一区二区三区波| 国产1区2区3区精品| 不卡av一区二区三区| 亚洲中文字幕日韩| 精品人妻1区二区| 国产高清激情床上av| 99精品欧美一区二区三区四区| 丝袜美腿诱惑在线| 欧美日韩成人在线一区二区| 国产成人一区二区三区免费视频网站| 亚洲一区二区三区不卡视频| 黑人操中国人逼视频| netflix在线观看网站| 国产片内射在线| 欧美 亚洲 国产 日韩一| 久久精品国产a三级三级三级| 亚洲一卡2卡3卡4卡5卡精品中文| 十八禁人妻一区二区| 人人妻,人人澡人人爽秒播| 99re在线观看精品视频| 亚洲久久久国产精品| 五月开心婷婷网| 欧美日韩视频精品一区| 可以免费在线观看a视频的电影网站| 亚洲综合色网址| 国产精品永久免费网站| 亚洲 欧美一区二区三区| 一本大道久久a久久精品| 999久久久精品免费观看国产| 黑人巨大精品欧美一区二区蜜桃| avwww免费| 精品福利观看| 黄色a级毛片大全视频| 精品少妇久久久久久888优播| 欧美乱码精品一区二区三区| 国产亚洲av高清不卡| 嫩草影视91久久| 亚洲av日韩精品久久久久久密| 麻豆国产av国片精品| 热re99久久国产66热| 纯流量卡能插随身wifi吗| 丰满的人妻完整版| 在线天堂中文资源库| 亚洲一区二区三区欧美精品| 国产精品永久免费网站| 一二三四在线观看免费中文在| 国产亚洲精品第一综合不卡| 午夜福利在线免费观看网站| 中国美女看黄片| 99久久国产精品久久久| 亚洲人成电影观看| 精品欧美一区二区三区在线| av国产精品久久久久影院| 999久久久国产精品视频| 色在线成人网| 天天操日日干夜夜撸| 热99re8久久精品国产| 成人精品一区二区免费| 看片在线看免费视频| 大型黄色视频在线免费观看| 亚洲伊人色综图| 精品乱码久久久久久99久播| 成年人黄色毛片网站| 首页视频小说图片口味搜索| 亚洲欧美一区二区三区久久| 国产男靠女视频免费网站| 免费高清在线观看日韩| 19禁男女啪啪无遮挡网站| 亚洲精华国产精华精| 黑人猛操日本美女一级片| 欧美不卡视频在线免费观看 | 女性生殖器流出的白浆| 亚洲av第一区精品v没综合| 欧美人与性动交α欧美精品济南到| 久久精品国产99精品国产亚洲性色 | 国产熟女午夜一区二区三区| 成年女人毛片免费观看观看9 | 少妇粗大呻吟视频| 热99久久久久精品小说推荐| 露出奶头的视频| 欧美日韩成人在线一区二区| 婷婷丁香在线五月| 色播在线永久视频| 丝袜在线中文字幕| 18禁国产床啪视频网站| 一夜夜www| 在线av久久热| 韩国av一区二区三区四区| 人人妻,人人澡人人爽秒播| 国产一区二区激情短视频| 久久亚洲真实| 91麻豆av在线| 色综合婷婷激情| 男女午夜视频在线观看| 国产一区二区激情短视频| 如日韩欧美国产精品一区二区三区| 窝窝影院91人妻| 国产亚洲一区二区精品| 日韩欧美一区二区三区在线观看 | 国产成人免费观看mmmm| 精品第一国产精品| 天天躁夜夜躁狠狠躁躁| 亚洲av成人av| 高清黄色对白视频在线免费看| 中文欧美无线码| 国产麻豆69| 热re99久久国产66热| 丝瓜视频免费看黄片| 国产成人精品在线电影| 免费在线观看完整版高清| 午夜福利在线观看吧| 高清在线国产一区| 色综合婷婷激情| 国产深夜福利视频在线观看| 久久香蕉国产精品| 99热国产这里只有精品6| 国产在线精品亚洲第一网站| 老熟妇仑乱视频hdxx| 亚洲性夜色夜夜综合| 国产国语露脸激情在线看| 免费一级毛片在线播放高清视频 | 人妻一区二区av| 满18在线观看网站| 美女 人体艺术 gogo| 黄色毛片三级朝国网站| 91成人精品电影| 国产男女超爽视频在线观看| 欧美在线一区亚洲| 老司机福利观看| xxxhd国产人妻xxx| 成年人午夜在线观看视频| 国产深夜福利视频在线观看| videosex国产| 99热国产这里只有精品6| 精品一区二区三区av网在线观看| av免费在线观看网站| 亚洲中文字幕日韩| 亚洲精品美女久久av网站| tocl精华| 狂野欧美激情性xxxx| 欧美性长视频在线观看| 在线视频色国产色| 高清黄色对白视频在线免费看| 亚洲第一欧美日韩一区二区三区| 国产成+人综合+亚洲专区| 国产亚洲精品第一综合不卡| 成在线人永久免费视频| 国产亚洲欧美98| 免费在线观看视频国产中文字幕亚洲| 日本五十路高清| 亚洲性夜色夜夜综合| 日韩一卡2卡3卡4卡2021年| 午夜福利影视在线免费观看| 在线观看一区二区三区激情| 51午夜福利影视在线观看| 可以免费在线观看a视频的电影网站| 高清欧美精品videossex| 精品国产一区二区三区四区第35| 国产成人精品久久二区二区91| 午夜成年电影在线免费观看| 国产精品一区二区精品视频观看| 国产欧美日韩一区二区三| 大香蕉久久成人网| 日日摸夜夜添夜夜添小说| 自线自在国产av| 欧美激情高清一区二区三区| 久久久久久亚洲精品国产蜜桃av| 99国产精品一区二区三区| 国产主播在线观看一区二区| 久久精品亚洲av国产电影网| 国产精品电影一区二区三区 | 一边摸一边做爽爽视频免费| 啦啦啦 在线观看视频| 亚洲欧美激情综合另类| 国产精品久久久久成人av| av中文乱码字幕在线| 欧美在线一区亚洲| 丰满迷人的少妇在线观看| 亚洲伊人色综图| 亚洲一码二码三码区别大吗| 国产97色在线日韩免费| 无限看片的www在线观看| 欧美黑人精品巨大| 欧美亚洲 丝袜 人妻 在线| 精品卡一卡二卡四卡免费| 久久久久久久久久久久大奶| 18禁黄网站禁片午夜丰满| 免费日韩欧美在线观看| 宅男免费午夜| 久久香蕉激情| 在线观看舔阴道视频| 国产免费av片在线观看野外av| 国产精品美女特级片免费视频播放器 | 中国美女看黄片| 日日爽夜夜爽网站| 久久国产乱子伦精品免费另类| 超色免费av| 欧美 亚洲 国产 日韩一| 天堂动漫精品| 午夜成年电影在线免费观看| 国产在线一区二区三区精| 久久中文字幕一级| 搡老乐熟女国产| 国产野战对白在线观看| 亚洲精品自拍成人| 91在线观看av| 日韩欧美三级三区| 老司机午夜福利在线观看视频| 超碰97精品在线观看| 亚洲七黄色美女视频| 精品一区二区三区av网在线观看| 亚洲国产毛片av蜜桃av| 后天国语完整版免费观看| 不卡av一区二区三区| 亚洲精品国产精品久久久不卡| 老司机福利观看| 美女视频免费永久观看网站| 精品久久久久久久毛片微露脸| 正在播放国产对白刺激| 纯流量卡能插随身wifi吗| 天天操日日干夜夜撸| 黄片播放在线免费| 午夜影院日韩av| 男人操女人黄网站| 十八禁网站免费在线| 精品国产一区二区久久| 亚洲精品一卡2卡三卡4卡5卡| 国产精品.久久久| 亚洲第一欧美日韩一区二区三区| 亚洲中文字幕日韩| 欧美激情高清一区二区三区| 久久人妻av系列| 国产在线一区二区三区精| 亚洲精华国产精华精| 免费在线观看日本一区| 99国产极品粉嫩在线观看| 国产伦人伦偷精品视频| 丰满迷人的少妇在线观看| 中文字幕制服av| 免费在线观看影片大全网站| 丰满饥渴人妻一区二区三| 国产野战对白在线观看| 黄频高清免费视频| 国产区一区二久久| 中文字幕制服av| 国产精品久久视频播放| 国产成人精品久久二区二区免费| 精品一区二区三区视频在线观看免费 | 国产精品.久久久| 在线av久久热| 国产99白浆流出| 国产成人影院久久av| 黄片播放在线免费| ponron亚洲| 狠狠狠狠99中文字幕| 成人精品一区二区免费| 国产淫语在线视频| 国产精华一区二区三区| 欧美国产精品一级二级三级| 亚洲 国产 在线| 久久亚洲真实| 丁香六月欧美| 999久久久国产精品视频| 99国产精品一区二区蜜桃av | 12—13女人毛片做爰片一| 大型av网站在线播放| 亚洲精品久久午夜乱码| 亚洲 国产 在线| 久久人妻熟女aⅴ| 亚洲欧美日韩高清在线视频| 美女午夜性视频免费| 亚洲人成电影免费在线| 久久久精品区二区三区| 国产成人精品久久二区二区91| 成人永久免费在线观看视频| 欧美黑人欧美精品刺激| 国产精品永久免费网站| av天堂在线播放| 欧美精品一区二区免费开放| 欧美日韩瑟瑟在线播放| 欧美日本中文国产一区发布| 久久热在线av| 在线视频色国产色| 久久这里只有精品19| 久热爱精品视频在线9| 交换朋友夫妻互换小说| 香蕉久久夜色| 久久天堂一区二区三区四区| 男人操女人黄网站| 国产99白浆流出| 一区二区日韩欧美中文字幕| 色婷婷av一区二区三区视频| 侵犯人妻中文字幕一二三四区| 免费女性裸体啪啪无遮挡网站| 精品少妇久久久久久888优播| 午夜福利欧美成人| 久久香蕉激情| 97人妻天天添夜夜摸| 在线免费观看的www视频| 欧美另类亚洲清纯唯美| 999久久久精品免费观看国产| 一级片免费观看大全| 亚洲精品av麻豆狂野| 亚洲片人在线观看| 久久午夜亚洲精品久久| 在线观看免费视频日本深夜| 叶爱在线成人免费视频播放| 欧美最黄视频在线播放免费 | 久久ye,这里只有精品| 国产深夜福利视频在线观看| 在线观看免费日韩欧美大片| www日本在线高清视频| 欧美激情极品国产一区二区三区| 久久午夜综合久久蜜桃| 天天影视国产精品| tocl精华| 一二三四在线观看免费中文在| 免费女性裸体啪啪无遮挡网站| 亚洲在线自拍视频| 久热这里只有精品99| 精品国产一区二区久久| 纯流量卡能插随身wifi吗| 亚洲国产欧美一区二区综合| 色播在线永久视频| 亚洲片人在线观看| 自拍欧美九色日韩亚洲蝌蚪91| 中文字幕制服av| 在线观看免费日韩欧美大片| 一二三四在线观看免费中文在| 黄色视频,在线免费观看| av国产精品久久久久影院| 中文字幕人妻丝袜一区二区| 高清av免费在线| av中文乱码字幕在线| 青草久久国产| 久久国产精品影院| 高清黄色对白视频在线免费看| 免费一级毛片在线播放高清视频 | 涩涩av久久男人的天堂| 黄片大片在线免费观看| 成年人午夜在线观看视频| 他把我摸到了高潮在线观看| 高清在线国产一区| tube8黄色片| 十分钟在线观看高清视频www| 乱人伦中国视频| 嫁个100分男人电影在线观看| av不卡在线播放| 免费高清在线观看日韩| 午夜免费鲁丝| 深夜精品福利| 亚洲精品av麻豆狂野| 在线免费观看的www视频| www.熟女人妻精品国产|