• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    運(yùn)營(yíng)商業(yè)務(wù)系統(tǒng)數(shù)據(jù)模型及SSD性能評(píng)估技術(shù)

    2020-06-08 15:39:51吳家隱李先緒
    移動(dòng)通信 2020年5期
    關(guān)鍵詞:數(shù)據(jù)模型

    吳家隱 李先緒

    【摘? 要】5G時(shí)代帶來(lái)了海量的數(shù)據(jù)存儲(chǔ)需求,硬盤的IO(Input/Output)性能可能構(gòu)成其主要瓶頸。從運(yùn)營(yíng)商核心系統(tǒng)的性能報(bào)告出發(fā),根據(jù)業(yè)務(wù)系統(tǒng)的特點(diǎn)提取數(shù)據(jù)模型,并以PCIe SSD為例,構(gòu)建了固態(tài)硬盤性能評(píng)估方案,從而得出貼近生產(chǎn)環(huán)境、具有實(shí)際指導(dǎo)意義的SSD性能參數(shù),為IT系統(tǒng)設(shè)計(jì)和優(yōu)化提供依據(jù),保障核心業(yè)務(wù)系統(tǒng)的部署。

    【關(guān)鍵詞】數(shù)據(jù)模型;固態(tài)硬盤;性能評(píng)估

    The 5G era has brought the requirements of massive data storage and thus the IO (Input/Output) performance of the hard disk might become the main bottleneck. Starting from the performance report of the operator's core system, the data model is extracted according to the characteristics of service systems. Taking PCIe SSD as an example, this paper constructs the performance evaluation solution of the solid-state drive, and thus obtains the SSD performance parameters which are close to the production environment and have practical guiding significance. This paper provides the basis for the design and optimization of the IT system and ensures the deployment of the core business system

    data model, solid-state drives, performance evaluation

    0? ?引言

    隨著5G時(shí)代的來(lái)臨,人工智能[1]、物聯(lián)網(wǎng)[2]、低延時(shí)高可靠應(yīng)用[3]以及大規(guī)模電子商務(wù)計(jì)算等業(yè)務(wù)將得到快速發(fā)展,從而帶來(lái)了海量數(shù)據(jù)存儲(chǔ)與處理需求。數(shù)據(jù)的飛速增長(zhǎng),對(duì)存儲(chǔ)設(shè)備的性能要求越來(lái)越高,傳統(tǒng)的機(jī)械硬盤已經(jīng)難以達(dá)到性能要求。

    固態(tài)硬盤(SSD, Solid State Drive)的出現(xiàn),使單硬盤的性能提高了幾個(gè)數(shù)量級(jí),大大改善了CPU和IO的性能差距。隨著半導(dǎo)體工藝的發(fā)展,尤其是3D NAND工藝的成熟[4],固態(tài)硬盤使用成本大幅度下降。早期的SSD采用SATA(串行ATA, Serial ATA)接口,在使用時(shí),需要將數(shù)據(jù)從SATA SSD中讀取到主機(jī)內(nèi)存,再由內(nèi)存提供給CPU計(jì)算使用。在CPU計(jì)算完成后,數(shù)據(jù)又要經(jīng)過(guò)內(nèi)存再寫入SSD中,數(shù)據(jù)傳輸路徑較長(zhǎng)。SATA/SAS接口協(xié)議是為傳統(tǒng)HDD而設(shè)計(jì),不適合低延時(shí)的SSD,已經(jīng)成為影響SSD硬盤的性能瓶頸。PCIe SSD可以直接通過(guò)總線與CPU相連,節(jié)省了內(nèi)存調(diào)用的過(guò)程。同時(shí),PCEe SSD還可以結(jié)合為SSD重新設(shè)計(jì)的NVMe傳輸協(xié)議[5],有利于發(fā)揮SSD的性能優(yōu)勢(shì)。因此,PCIe SSD擁有更高的帶寬和更高效的傳輸協(xié)議,在企業(yè)級(jí)市場(chǎng)中的市場(chǎng)份額日益增長(zhǎng)。PCIe SSD的提供商包括英特爾(Intel)、昱科(HGST)、寶存(Shannon)、華為、憶恒創(chuàng)源(Memblaze)等多個(gè)品牌[6],性能各異。

    在運(yùn)營(yíng)商的5G建設(shè)過(guò)程,業(yè)務(wù)系統(tǒng)要面對(duì)高并發(fā)、大性能的需求,對(duì)于存儲(chǔ)的性能要求非常高。因此,在業(yè)務(wù)系統(tǒng)的規(guī)劃、建設(shè)及優(yōu)化階段,就必須充分考慮到存儲(chǔ)乃至硬盤的性能對(duì)業(yè)務(wù)系統(tǒng)的影響,這就需要對(duì)硬盤進(jìn)行詳盡的性能評(píng)估。傳統(tǒng)的硬盤性能評(píng)估工具包括iometer[7-8]、FIO[9-10]等,但如果不充分考慮業(yè)務(wù)系統(tǒng)的實(shí)際情況進(jìn)行科學(xué)合理的方案設(shè)計(jì),直接通過(guò)這些評(píng)測(cè)工具進(jìn)行測(cè)試,所得到的測(cè)試結(jié)果往往與業(yè)務(wù)系統(tǒng)的實(shí)際情況相差甚遠(yuǎn),從而影響到了業(yè)務(wù)系統(tǒng)規(guī)劃的準(zhǔn)確性。因此,亟需研究運(yùn)營(yíng)商業(yè)務(wù)系統(tǒng)的數(shù)據(jù)模型,并針對(duì)運(yùn)營(yíng)商業(yè)務(wù)系統(tǒng)的實(shí)際情況制定科學(xué)、合理的SSD性能評(píng)估方案,從而能夠得到對(duì)生產(chǎn)具有指導(dǎo)意義的SSD性能參數(shù),為IT系統(tǒng)設(shè)計(jì)和優(yōu)化提供依據(jù)。

    1? ? 數(shù)據(jù)模型

    1.1? 性能指標(biāo)

    數(shù)據(jù)庫(kù)是運(yùn)營(yíng)商業(yè)務(wù)系統(tǒng)的核心系統(tǒng),其處理能力對(duì)業(yè)務(wù)系統(tǒng)是否能夠應(yīng)對(duì)高并發(fā)訪問(wèn)起到至關(guān)重要的作用。一旦數(shù)據(jù)庫(kù)遇到訪問(wèn)峰值,承載數(shù)據(jù)庫(kù)的硬盤的IO可能成為系統(tǒng)的主要瓶頸。SSD的性能指標(biāo)主要包括:

    (1)IOPS

    IOPS(Input/Output Operations Per Second,每秒輸入輸出操作數(shù))是硬盤性能的重要指標(biāo),是指一秒內(nèi)磁盤能夠處理的IO請(qǐng)求數(shù)量。對(duì)于隨機(jī)讀寫頻繁的系統(tǒng),IOPS是主要性能指標(biāo)。磁盤另一個(gè)重要參數(shù)是數(shù)據(jù)吞吐量,數(shù)據(jù)吞吐量為磁盤中每秒鐘IO的流量,其值等于IOPS和數(shù)據(jù)塊大小的乘積,主要用于衡量大量連續(xù)讀寫的應(yīng)用。

    (2)延時(shí)

    延時(shí)是接收到服務(wù)請(qǐng)求到返回一個(gè)指令所消耗的時(shí)間,訪問(wèn)延遲增大時(shí),業(yè)務(wù)系統(tǒng)也會(huì)有相應(yīng)的延遲。固態(tài)硬盤的延時(shí)包括讀延時(shí)和寫延時(shí)。SSD的延時(shí)又會(huì)傳導(dǎo)到數(shù)據(jù)庫(kù),引起數(shù)據(jù)庫(kù)的延時(shí),也是SSD的重要衡量指標(biāo)。

    (3)QoS

    QoS(Quality of Service,服務(wù)質(zhì)量)可以分析一段時(shí)間內(nèi)的延時(shí)表現(xiàn),可以用一定的數(shù)據(jù)讀寫下延遲不大于指定時(shí)間的方式來(lái)表示[9]。QoS體現(xiàn)的是一定數(shù)據(jù)模型下的延時(shí)要求,對(duì)數(shù)據(jù)庫(kù)有重要意義。

    1.2? 數(shù)據(jù)庫(kù)報(bào)告分析

    表1為某運(yùn)營(yíng)商實(shí)際業(yè)務(wù)系統(tǒng)中,核心數(shù)據(jù)庫(kù)Oracle的AWR報(bào)告(Automatic Workload Repository,自動(dòng)負(fù)載信息庫(kù))中,排名前5的前臺(tái)等待事件(Top 5 Timed Foreground Events)。AWR是Oracle提供的性能監(jiān)控及分析工具,能夠生成某個(gè)時(shí)間段內(nèi)系統(tǒng)資源使用報(bào)告,從而為系統(tǒng)調(diào)優(yōu)提供依據(jù)。該系統(tǒng)為交易類型業(yè)務(wù),采用全閃存陣列。從圖1中可以看到在應(yīng)用層面調(diào)優(yōu)后,整個(gè)系統(tǒng)最大的瓶頸一般會(huì)落到IO層面。表1中的等待事件Log file sync與日志寫相關(guān)的,Db file sequential read事件與索引相關(guān)讀相關(guān)。日志寫相關(guān)的等待時(shí)間占到DB整體等待時(shí)間的65.44%,所以寫IO的時(shí)延至關(guān)重要。

    表2為上述AWR報(bào)告中,按等待時(shí)間從大到小排列的前四個(gè)后臺(tái)等待事件。從表2中可以看到,在大并發(fā)壓力下,即使用全閃存陣列寫延時(shí)也可能到達(dá)ms級(jí)別。其中,Log file parallel write即為L(zhǎng)og file sync等待事件中和IO相關(guān)的部分。如果可以降低Log file parallel write的延時(shí),則數(shù)據(jù)庫(kù)等待IO的時(shí)間會(huì)大大降低,CPU的IO wait會(huì)大大降低,從而提高業(yè)務(wù)性能和CPU利用率。

    因此,如果在SSD上部署數(shù)據(jù)庫(kù)等應(yīng)用,大并發(fā)混合讀寫壓力下,低寫延時(shí)對(duì)數(shù)據(jù)庫(kù)整體性能至關(guān)重要。

    1.3? SSD延時(shí)特點(diǎn)

    實(shí)際業(yè)務(wù)系統(tǒng)中,SSD讀性能一般不會(huì)成為瓶頸,這是由于SSD讀IOPS遠(yuǎn)高于寫IOPS,其在單位時(shí)間內(nèi)可以響應(yīng)更多并發(fā)IO請(qǐng)求。而在實(shí)際應(yīng)用中,SSD寫延時(shí)會(huì)影響到數(shù)據(jù)庫(kù)性能。對(duì)于數(shù)據(jù)庫(kù)、文件系統(tǒng)、分布式文件系統(tǒng)等,其日志文件寫入一般為順序?qū)懟虿l(fā)順序?qū)?。但是,由于業(yè)務(wù)層還混合了其他讀寫操作,到SSD層面IO會(huì)變?yōu)榇蟛l(fā)的隨機(jī)讀寫。由于數(shù)據(jù)相關(guān)性要求,一些上層應(yīng)用的IO完成必須在日志文件完成寫入之后,故日志文件寫入對(duì)延時(shí)要求又比較高。因此,綜合以上情況,在大并發(fā)情況下,需要重點(diǎn)關(guān)注SSD寫延時(shí)。

    對(duì)閃存介質(zhì)來(lái)講,SSD的寫延時(shí)要普遍優(yōu)于讀延時(shí)。SSD讀的過(guò)程中描述如下:數(shù)據(jù)需要從NAND里面讀出;NAND讀取過(guò)程中,需要對(duì)字線加電壓偏執(zhí),從位線通過(guò)感測(cè)放大器來(lái)讀取結(jié)果,僅這個(gè)過(guò)程一般需要約60μs。SSD寫過(guò)程描述如下:寫數(shù)據(jù)先到達(dá)DRAM(NVMe SSD)或者SRAM(Host-Based SSD),隨即返回寫完成,寫延時(shí)較短,SSD內(nèi)部負(fù)責(zé)數(shù)據(jù)將寫入到NAND顆粒中。

    在SSD可承受的壓力范圍內(nèi)(即在一定IOPS范圍內(nèi)),SSD延時(shí)比較平穩(wěn),當(dāng)壓力增大到一定值后,雖然IOPS還會(huì)有增加,但是延時(shí)卻會(huì)呈指數(shù)上升。在SSD測(cè)試過(guò)程中,對(duì)延時(shí)進(jìn)行合理的限定是有必要的:尤其對(duì)寫延時(shí)而言,在SSD可承受的IOPS范圍內(nèi),寫延時(shí)保持很低水平,當(dāng)壓力繼續(xù)增大,延時(shí)則會(huì)大幅增加到毫秒以上。

    1.4? 數(shù)據(jù)模型

    數(shù)據(jù)庫(kù)的數(shù)據(jù)塊大小主要為4K或8K。在對(duì)核心長(zhǎng)期監(jiān)測(cè)中發(fā)現(xiàn),數(shù)據(jù)庫(kù)的數(shù)據(jù)讀寫類型主要是70%的隨機(jī)讀和30%的隨機(jī)寫。為了貼近生產(chǎn)環(huán)境,運(yùn)營(yíng)商的核心系統(tǒng)數(shù)據(jù)塊設(shè)置為4K,讀寫比例為70%的隨機(jī)讀和30%的隨機(jī)寫。

    考慮到SSD本身的讀寫延時(shí)情況和核心系統(tǒng)對(duì)SSD的延時(shí)需求,為保障核心系統(tǒng)性能,將SSD的QoS條件設(shè)定為:在70%隨機(jī)讀30%隨機(jī)寫的4K的條件下,SSD讀延時(shí)不超過(guò)1 000 μs,寫延時(shí)不超過(guò)200 μs。

    1.5? 指標(biāo)建議值

    綜上所述,由于運(yùn)營(yíng)商核心數(shù)據(jù)庫(kù)主要為4K或8K的數(shù)據(jù)塊,且讀寫類型為隨機(jī)讀寫頻繁,因此,將IOPS定義為主要性能指標(biāo),可以使性能指標(biāo)貼近生產(chǎn)實(shí)際需要。同時(shí),考慮到實(shí)際生產(chǎn)環(huán)境的時(shí)延要求,該性能指標(biāo)還必須是在滿足QoS指標(biāo)的條件下測(cè)得的IOPS值。

    2? ? 評(píng)估方法

    2.1? 主要工具

    本文通過(guò)開源軟件FIO和nmon進(jìn)行SSD性能評(píng)估。

    FIO是一款開源I/O性能測(cè)試工具,廣泛應(yīng)用于企業(yè)級(jí)SSD、HDD以及磁盤陣列性能測(cè)試中。支持主流的操作系統(tǒng)平臺(tái),如Windows Server及常用的Linux發(fā)行版,可以直接編譯或移植到各種操作系統(tǒng)中運(yùn)行。該軟件支持多進(jìn)程,隊(duì)列深度指定,磁盤塊大小指定如4 KB,存儲(chǔ)引擎指定如libaio,測(cè)試日志記錄等功能。如果將多組fio測(cè)試命令依次寫入測(cè)試腳本,則可先覆蓋存儲(chǔ)設(shè)備全部LBA 數(shù)遍,然后連續(xù)獲取高工作負(fù)載情況下存儲(chǔ)設(shè)備的性能指標(biāo)。用戶可根據(jù)最終日志輸出結(jié)果制成可視化圖表。FIO主要參數(shù)包括:

    Blocksize:數(shù)據(jù)塊大小。

    rw:負(fù)載類型,主要包括raed(順序讀)、write(順序?qū)懀?、randrw(隨機(jī)讀寫)。

    size:每次IO請(qǐng)求要讀寫的數(shù)據(jù)量。

    ioengine:I/O引擎,windows下可使用windowsaio,Linux可使用libaio、sync、psync等。

    iodepth:I/O深度,每次提交的I/O請(qǐng)求個(gè)數(shù)。iodepth開始增加時(shí),IOPS及帶寬也相應(yīng)增加。但iodepth增大到一定程度時(shí),IOPS和帶寬增加緩慢甚至保持不變,但延時(shí)將大幅度上升,這是因?yàn)樾枰ㄙM(fèi)更多的時(shí)間等待請(qǐng)求IO數(shù)量達(dá)到iodepth數(shù)值后才發(fā)出IO請(qǐng)求。隊(duì)列深度的大小設(shè)置將影響IOPS、延時(shí)和QoS的測(cè)量。

    numjobs:本次任務(wù)克隆的數(shù)量(線程/進(jìn)程執(zhí)行相同的任務(wù))。這個(gè)參數(shù)具體要根據(jù)SSD和服務(wù)器的性能來(lái)確定,目標(biāo)是使服務(wù)器能達(dá)到滿載。

    nmon是一款Linux性能監(jiān)測(cè)工具,可以收集CPU利用率、內(nèi)存使用量、磁盤IO、網(wǎng)絡(luò)IO、進(jìn)程信息等。mmon消耗的系統(tǒng)資源很少。nmon用于記錄測(cè)試過(guò)程中CPU、內(nèi)存等系統(tǒng)資源的占用率、硬盤IOPS。

    2.2? 硬件環(huán)境

    測(cè)試主機(jī)配置為:

    CPU:Intel XEON E7-8870v3系列18核2.1GHz主頻;

    內(nèi)存:512 GB;

    操作系統(tǒng):RedHat 6.5(X64);

    SSD為3.2T MLC PCIe2.0 SSD卡。

    性能強(qiáng)勁的硬件平臺(tái),可以保障性能測(cè)試過(guò)程中,系統(tǒng)資源產(chǎn)生使SSD處于極限工作下的負(fù)載。

    2.3? 性能優(yōu)化

    要充分發(fā)揮SSD卡的性能,還需要考慮CPU進(jìn)程優(yōu)化、4K對(duì)齊及文件系統(tǒng)等影響因素。

    使用單進(jìn)程(單一作業(yè))測(cè)試時(shí),即使使用很深的隊(duì)列,仍然可能有性能瓶頸。對(duì)于高性能存儲(chǔ)產(chǎn)品,在使用較深的隊(duì)列例如32/64測(cè)試時(shí),建議嘗試4~8個(gè)以上進(jìn)程。如果使用隊(duì)列深度為1,塊大小為4 KB,則讀測(cè)試進(jìn)程數(shù)量應(yīng)達(dá)到256~512個(gè),寫測(cè)試進(jìn)程最高應(yīng)測(cè)到128個(gè)。單CPU核心因?yàn)樾阅芟拗疲凑詹煌念l率,最高大約可以達(dá)到100k~200k的IOPS。只有使用合適的進(jìn)程數(shù)量、隊(duì)列深度、塊大小的組合進(jìn)行測(cè)試,才能達(dá)到比較理想的數(shù)值。這同樣適用于實(shí)際應(yīng)用程序的調(diào)優(yōu)。

    由于SSD讀寫的最小單元為頁(yè),頁(yè)大小一般為4K或8K。SSD不能像機(jī)械硬盤那樣對(duì)要寫入的單元進(jìn)行覆蓋寫入,而是在寫入數(shù)據(jù)前,先擦除要寫入單元的數(shù)據(jù)再寫入。擦除時(shí)最好的單位是塊,塊可以由多個(gè)頁(yè)組成。4K對(duì)齊可以讓操作系統(tǒng)最小分配單元和SSD的最小單元對(duì)應(yīng),這樣可以使SSD性能的優(yōu)化。

    SSD上新建分區(qū)并格式化文件系統(tǒng)的情況下,不同的文件系統(tǒng)及參數(shù)設(shè)定影響到SSD性能的發(fā)揮。在生產(chǎn)環(huán)境下,讀寫頻繁的核心數(shù)據(jù)庫(kù)如Oracle數(shù)據(jù)庫(kù),會(huì)直接讀寫裸設(shè)備。作為承載核心業(yè)務(wù)數(shù)據(jù)的SSD來(lái)說(shuō),裸設(shè)備能夠充分發(fā)揮SSD的性能。為了排除文件系統(tǒng)對(duì)測(cè)試的干擾,在測(cè)試中采用FIO對(duì)分區(qū)格式化的SSD裸盤進(jìn)行讀寫。

    2.4? 評(píng)估步驟

    對(duì)SSD的性能評(píng)估過(guò)程主要包括清空SSD、預(yù)熱和啟動(dòng)性能測(cè)試等步驟。

    (1)清空SSD

    使用安全擦除工具將SSD完整擦除一遍,清空測(cè)試盤,使回到全新盤的狀態(tài),并靜置10分鐘,保證所有測(cè)試從同一個(gè)點(diǎn)開始,降低因?yàn)镾SD上已有數(shù)據(jù)隨機(jī)度不一致引起的測(cè)試誤差。

    (2)預(yù)熱使用FIO對(duì)SSD全盤順序?qū)憹M兩遍

    開啟讀寫測(cè)試,順序填充完全空白的SSD兩遍,保證全部SSD空間包括Over Provsioning超額提供的空間均填充數(shù)據(jù)。全部數(shù)據(jù)塊(LBA)都必須全盤順序填充數(shù)據(jù)兩次,如果不是順序填充,順序讀寫測(cè)試則不是真正的順序讀寫,因?yàn)檫B續(xù)塊有大有小。要么SSD里沒(méi)有數(shù)據(jù),要么垃圾回收機(jī)制沒(méi)有工作在最高強(qiáng)度下。如果不填充,則可能導(dǎo)致讀寫性能非常高,得到的數(shù)據(jù)不是正常工作負(fù)載下的持續(xù)性能數(shù)值。

    2)數(shù)據(jù)讀取

    通過(guò)mon_analyse解析nmon輸出的文件文件,生成分析報(bào)表。

    3? ?結(jié)果分析

    從FIO結(jié)果中可以看到,SSD樣品在測(cè)試過(guò)程中的平均讀時(shí)延為403.89 μs,寫時(shí)延為67.67 μs,滿足測(cè)試中規(guī)定的QoS要求。通過(guò)nmon結(jié)果可知,整個(gè)測(cè)試周期中,測(cè)試主機(jī)CPU占用率約為2.8%,內(nèi)存占用率約為1.94%,SSD卡對(duì)主機(jī)的資源占用率極低,主機(jī)資源不會(huì)造成測(cè)試的性能瓶頸。

    從圖1中可以看到,在啟動(dòng)測(cè)試到第41分鐘的第I階段內(nèi),由于前一階段的SSD在順序?qū)懞螅瑪?shù)據(jù)塊的空間連續(xù),隨機(jī)讀和隨機(jī)寫的IOPS均比正常使用時(shí)偏高。從第41分鐘到2小時(shí)40分鐘的第II階段,由于SSD上的存儲(chǔ)空間已寫滿,垃圾回收機(jī)制啟動(dòng)。SSD每次寫操作時(shí),需要寫入的存儲(chǔ)空間單位為Page,而且只能寫入到空白的Page中。在存儲(chǔ)空間已滿的情況下,就必須先進(jìn)行一次擦除操作,而擦除操作的單元為Block(1Block由256個(gè)Page組成)。SSD寫入數(shù)據(jù)的時(shí)候的步驟包括:

    (1)將Block中的除要寫入page外的其他數(shù)據(jù)塊寫入SSD的預(yù)留空間(OP, Over-Provisioning);

    (2)擦除要寫入Page所在Block的全部數(shù)據(jù);

    (3)將要寫入Page的數(shù)據(jù)和OP中的數(shù)據(jù)塊寫入Block。

    因此,一個(gè)寫入操作引起的是整個(gè)Block的擦除和寫入,即一次寫入請(qǐng)求,最終落到硬盤上是放大多倍的寫入操作。在極端情況下,甚至出現(xiàn)寫入4 KB的數(shù)據(jù),實(shí)際寫入?yún)s為512 KB,達(dá)到128倍的寫放大。垃圾回收的TRIM指令將要寫入Page的數(shù)據(jù)塊標(biāo)注為無(wú)效,在寫入OP時(shí),只將有效的Page數(shù)據(jù)塊而不將其他數(shù)據(jù)塊中無(wú)效的數(shù)據(jù)塊寫入OP。TRIM指令可以降低寫放大,使SSD具有更高的吞吐率。啟動(dòng)垃圾回收時(shí),由于持續(xù)的IO讀寫請(qǐng)求和垃圾回收啟動(dòng)的雙重影響,產(chǎn)生了資源沖突,因此引起讀寫性能迅速下降。隨后,隨著垃圾回收機(jī)制的啟動(dòng)進(jìn)展,資源沖突逐漸緩解,IOPS性能值繼續(xù)抬升。在垃圾回收機(jī)制穩(wěn)定運(yùn)行后,SSD性能進(jìn)入第III階段。由于SSD中的存儲(chǔ)空間均已寫滿,該盤的垃圾回收機(jī)制已經(jīng)移動(dòng)運(yùn)行,并且盤上的數(shù)據(jù)隨機(jī)度足夠,SSD的IO性能進(jìn)入穩(wěn)態(tài)。

    在實(shí)際生產(chǎn)環(huán)境中,運(yùn)營(yíng)商業(yè)務(wù)系統(tǒng)在部署上線后,在經(jīng)歷全盤讀寫后的數(shù)小時(shí)后,也將進(jìn)入第III階段的穩(wěn)態(tài)。計(jì)算第III階段穩(wěn)態(tài)下的IOPS值,可以得到該SSD在70%隨機(jī)讀30%隨機(jī)寫的4K的負(fù)載下的性能值為:207 977 io/s。通過(guò)本方案所評(píng)估的性能指標(biāo),其數(shù)據(jù)模型、測(cè)試過(guò)程和指標(biāo)選取貼近生產(chǎn)需求,因此,測(cè)試中所評(píng)估的SSD性能與在實(shí)際生產(chǎn)環(huán)境中可能達(dá)到的IOPS一致。因此,運(yùn)營(yíng)商可以根據(jù)性能評(píng)估結(jié)果,選擇能達(dá)到業(yè)務(wù)系統(tǒng)性能規(guī)劃要求的SSD。

    性能測(cè)試如圖1所示:

    4? ?結(jié)束語(yǔ)

    至此,本文根據(jù)電信運(yùn)營(yíng)商業(yè)務(wù)系統(tǒng)的實(shí)際需求,分析AWR報(bào)告,提煉了運(yùn)營(yíng)商業(yè)務(wù)系統(tǒng)數(shù)據(jù)模型。在這基礎(chǔ)上,構(gòu)建了固態(tài)硬盤性能評(píng)估方案,以FIO和nmon為測(cè)試工具,搭建硬件環(huán)境,分析了SSD的優(yōu)化因素,并對(duì)評(píng)估步驟進(jìn)行了詳細(xì)描述。本文還分析了測(cè)試結(jié)果,對(duì)測(cè)試中的三個(gè)階段進(jìn)行了描述。本文所提供的評(píng)估方法不僅可以用于PCIe SSD,也同樣適用于SATA/SAS/NVMe等類型SSD的性能測(cè)試。通過(guò)本文的測(cè)試方案貼近生產(chǎn)環(huán)境需要,所提出的SSD性能評(píng)估方法所測(cè)得的SSD性能與生產(chǎn)環(huán)境下相近,從而可以為5G時(shí)代的運(yùn)營(yíng)商業(yè)務(wù)系統(tǒng)規(guī)劃設(shè)計(jì)、優(yōu)化提供依據(jù),有力地保障了核心業(yè)務(wù)系統(tǒng)的部署。

    參考文獻(xiàn):

    [1]? ? 張丹. 引領(lǐng)AI時(shí)代的監(jiān)控存儲(chǔ)方案[J]. 中國(guó)公共安全, 2018(6): 148-149.

    [2]? ? 李鑫,孫蓉,劉景偉. 分布式存儲(chǔ)系統(tǒng)中容錯(cuò)技術(shù)綜述[J]. 無(wú)線電通信技術(shù), 2019(5): 463-475.

    [3]? ? 肖堯. 面向5G低時(shí)延高可靠車載業(yè)務(wù)的計(jì)算卸載策略研究[D]. 西安: 西安電子科技大學(xué), 2019.

    [4]? ? 張衛(wèi). 存儲(chǔ)器技術(shù)的新進(jìn)展[J]. 集成電路應(yīng)用, 2020? ? (3):10-12.

    [5]? ? ?彭振翼. 固態(tài)存儲(chǔ)系統(tǒng)PCIe接口的設(shè)計(jì)方法與實(shí)現(xiàn)[D].? 武漢: 華中科技大學(xué), 2013.

    [6]? ? 潤(rùn)冬,劉芳,肖儂,等. PCIe SSD I/O棧設(shè)計(jì)與原型系統(tǒng)研究[J]. 計(jì)算機(jī)研究與發(fā)展, 2015(S2): 124-130.

    [7]? ? 馬娜,朱立谷,陳志杰,等. 磁盤陣列性能測(cè)試工具研究[J]. 計(jì)算機(jī)工程與應(yīng)用, 2010(36): 74-78.

    [8]? ? 常寶升. 基于IP-SAN的存儲(chǔ)虛擬化系統(tǒng)研究[D]. 哈爾濱: 哈爾濱工程大學(xué), 2008.

    [9]? ? 趙雷. 塊設(shè)備自動(dòng)化測(cè)試系統(tǒng)的設(shè)計(jì)及優(yōu)化[D]. 北京: 中國(guó)科學(xué)院大學(xué), 2017.

    [10]? ?趙夢(mèng)茹. 移動(dòng)終端Linux存儲(chǔ)IO性能分析與優(yōu)化[D]. 西安: 西安電子科技大學(xué), 2014.

    猜你喜歡
    數(shù)據(jù)模型
    基于Pro/E 的發(fā)射裝置設(shè)計(jì)數(shù)據(jù)快速轉(zhuǎn)化方法
    面板數(shù)據(jù)模型截面相關(guān)檢驗(yàn)方法綜述
    人民幣匯率波動(dòng)對(duì)張家界入境旅游的影響——基于主要客源國(guó)面板數(shù)據(jù)模型的分析
    加熱爐爐內(nèi)跟蹤數(shù)據(jù)模型優(yōu)化
    財(cái)政支出效率與產(chǎn)業(yè)結(jié)構(gòu):要素積累與流動(dòng)——基于DEA 和省級(jí)面板數(shù)據(jù)模型的實(shí)證研究
    基于PowerDesigner的家庭財(cái)務(wù)管理系統(tǒng)的數(shù)據(jù)庫(kù)設(shè)計(jì)
    經(jīng)濟(jì)全球化對(duì)我國(guó)勞動(dòng)收入份額影響機(jī)制研究——基于面板數(shù)據(jù)模型
    環(huán)境規(guī)制、行業(yè)異質(zhì)性與區(qū)域產(chǎn)業(yè)集聚——基于省際動(dòng)態(tài)面板數(shù)據(jù)模型的GMM方法
    基于分位數(shù)回歸的電力負(fù)荷特性預(yù)測(cè)面板數(shù)據(jù)模型
    面向集成管理的出版原圖數(shù)據(jù)模型
    久久久久网色| 夜夜夜夜夜久久久久| 人人妻,人人澡人人爽秒播| 久久香蕉激情| 蜜桃国产av成人99| 桃红色精品国产亚洲av| 久久国产精品影院| 国产日韩一区二区三区精品不卡| av天堂久久9| 一进一出抽搐动态| 51午夜福利影视在线观看| 成年动漫av网址| 中文字幕制服av| 各种免费的搞黄视频| 久久亚洲精品不卡| 久久热在线av| 亚洲精品粉嫩美女一区| 99国产精品99久久久久| 亚洲av电影在线进入| 日韩免费高清中文字幕av| 亚洲欧美一区二区三区黑人| 在线十欧美十亚洲十日本专区| 久久久久久久久免费视频了| 国产一区二区在线观看av| 亚洲精品中文字幕一二三四区 | 国产成+人综合+亚洲专区| 丰满迷人的少妇在线观看| 在线天堂中文资源库| 国产免费一区二区三区四区乱码| 国产伦人伦偷精品视频| 一级a爱视频在线免费观看| 欧美精品一区二区免费开放| 女人被躁到高潮嗷嗷叫费观| 欧美人与性动交α欧美精品济南到| 国产精品秋霞免费鲁丝片| 亚洲天堂av无毛| 极品人妻少妇av视频| 国产真人三级小视频在线观看| 黑人猛操日本美女一级片| 美女高潮喷水抽搐中文字幕| 一级毛片精品| 肉色欧美久久久久久久蜜桃| 老司机在亚洲福利影院| 青草久久国产| 好男人电影高清在线观看| 成人国产av品久久久| 一区二区三区四区激情视频| 国产男女超爽视频在线观看| 亚洲一区中文字幕在线| 两性夫妻黄色片| 日韩制服丝袜自拍偷拍| 亚洲第一欧美日韩一区二区三区 | 两个人看的免费小视频| av有码第一页| 色婷婷久久久亚洲欧美| 超色免费av| 精品人妻一区二区三区麻豆| 夫妻午夜视频| 国产三级黄色录像| 一边摸一边抽搐一进一出视频| 国产精品成人在线| 精品人妻1区二区| 多毛熟女@视频| 国产亚洲欧美在线一区二区| 色婷婷久久久亚洲欧美| 欧美日韩视频精品一区| 精品亚洲成国产av| 正在播放国产对白刺激| 91成年电影在线观看| a 毛片基地| 99香蕉大伊视频| 天天影视国产精品| 50天的宝宝边吃奶边哭怎么回事| 国产av精品麻豆| 亚洲专区国产一区二区| 日本一区二区免费在线视频| 午夜影院在线不卡| 黄色a级毛片大全视频| 狠狠婷婷综合久久久久久88av| 午夜两性在线视频| 日本撒尿小便嘘嘘汇集6| 少妇被粗大的猛进出69影院| 色播在线永久视频| 色精品久久人妻99蜜桃| 欧美+亚洲+日韩+国产| 免费av中文字幕在线| 五月开心婷婷网| 日韩 亚洲 欧美在线| 99久久国产精品久久久| 国产免费av片在线观看野外av| 国产成人免费无遮挡视频| 最近最新免费中文字幕在线| 精品人妻一区二区三区麻豆| 黑人欧美特级aaaaaa片| 黄频高清免费视频| 丝袜在线中文字幕| 日本猛色少妇xxxxx猛交久久| 成人免费观看视频高清| 少妇 在线观看| 久久久久久亚洲精品国产蜜桃av| 亚洲国产精品999| 99国产精品一区二区三区| 99精品久久久久人妻精品| 日本欧美视频一区| 91精品国产国语对白视频| 亚洲全国av大片| 涩涩av久久男人的天堂| 黄网站色视频无遮挡免费观看| 又黄又粗又硬又大视频| 日日摸夜夜添夜夜添小说| 亚洲精品国产色婷婷电影| 亚洲精华国产精华精| 日本欧美视频一区| 亚洲专区字幕在线| 久久精品久久久久久噜噜老黄| 亚洲成人国产一区在线观看| a级毛片黄视频| 国产精品亚洲av一区麻豆| 亚洲av美国av| 免费日韩欧美在线观看| 精品国产乱码久久久久久小说| 在线观看免费午夜福利视频| 午夜久久久在线观看| 在线观看免费高清a一片| 亚洲欧美精品综合一区二区三区| 女人高潮潮喷娇喘18禁视频| 久久av网站| 天天操日日干夜夜撸| 99香蕉大伊视频| 中国国产av一级| 我要看黄色一级片免费的| 国产无遮挡羞羞视频在线观看| videos熟女内射| 99国产精品免费福利视频| 亚洲国产精品一区二区三区在线| 国产av又大| 精品国产乱码久久久久久小说| 久久九九热精品免费| 亚洲国产av新网站| 制服诱惑二区| 一进一出抽搐动态| 久久久久久亚洲精品国产蜜桃av| 国产成人啪精品午夜网站| 色播在线永久视频| 成人av一区二区三区在线看 | 黑人猛操日本美女一级片| 免费日韩欧美在线观看| 精品一区二区三卡| 51午夜福利影视在线观看| bbb黄色大片| 日日夜夜操网爽| 建设人人有责人人尽责人人享有的| 国产欧美日韩一区二区三 | 亚洲欧洲精品一区二区精品久久久| 一级黄色大片毛片| a级片在线免费高清观看视频| 亚洲精品日韩在线中文字幕| 高清在线国产一区| 桃花免费在线播放| 久久国产亚洲av麻豆专区| 在线亚洲精品国产二区图片欧美| 亚洲精品一二三| 久久九九热精品免费| 亚洲欧美日韩高清在线视频 | 涩涩av久久男人的天堂| 国内毛片毛片毛片毛片毛片| 亚洲国产av影院在线观看| 国产免费视频播放在线视频| 国产一级毛片在线| 中文字幕人妻丝袜一区二区| 欧美亚洲 丝袜 人妻 在线| 欧美精品av麻豆av| 在线 av 中文字幕| 午夜免费成人在线视频| 大香蕉久久网| 免费观看a级毛片全部| 国产片内射在线| av不卡在线播放| 久久久久久久大尺度免费视频| 精品乱码久久久久久99久播| 桃红色精品国产亚洲av| 最新在线观看一区二区三区| 午夜91福利影院| 99久久人妻综合| 国产成人精品在线电影| 91国产中文字幕| 国产男人的电影天堂91| 亚洲欧美精品综合一区二区三区| 少妇被粗大的猛进出69影院| 性色av乱码一区二区三区2| 三级毛片av免费| 脱女人内裤的视频| 国产精品一区二区精品视频观看| 日本91视频免费播放| 免费观看人在逋| 99热国产这里只有精品6| 亚洲欧美日韩高清在线视频 | 亚洲专区字幕在线| 人人妻,人人澡人人爽秒播| 亚洲精品粉嫩美女一区| 如日韩欧美国产精品一区二区三区| 色综合欧美亚洲国产小说| 在线观看舔阴道视频| 99久久人妻综合| 国产精品一区二区在线观看99| 久久久精品国产亚洲av高清涩受| 国产成人a∨麻豆精品| 亚洲精品国产av蜜桃| 国产欧美日韩精品亚洲av| 国产av又大| 亚洲精品久久午夜乱码| 欧美亚洲日本最大视频资源| 人妻一区二区av| 日韩大码丰满熟妇| 成人18禁高潮啪啪吃奶动态图| 老汉色∧v一级毛片| 777米奇影视久久| 激情视频va一区二区三区| 亚洲九九香蕉| 精品国内亚洲2022精品成人 | 国产亚洲精品一区二区www | 亚洲视频免费观看视频| 色综合欧美亚洲国产小说| 少妇粗大呻吟视频| 亚洲精品久久久久久婷婷小说| 91九色精品人成在线观看| 国产91精品成人一区二区三区 | av电影中文网址| 在线观看人妻少妇| 亚洲av日韩在线播放| 两性午夜刺激爽爽歪歪视频在线观看 | 欧美午夜高清在线| 中文欧美无线码| 国产人伦9x9x在线观看| 在线观看www视频免费| 亚洲久久久国产精品| 中文欧美无线码| 久久99热这里只频精品6学生| 妹子高潮喷水视频| 深夜精品福利| 在线观看免费午夜福利视频| 亚洲中文日韩欧美视频| 老熟女久久久| 国产一区二区三区综合在线观看| 一本—道久久a久久精品蜜桃钙片| 亚洲一区中文字幕在线| 国产一卡二卡三卡精品| 国产成人影院久久av| 亚洲成国产人片在线观看| av电影中文网址| tube8黄色片| 在线天堂中文资源库| av片东京热男人的天堂| 国产在视频线精品| av视频免费观看在线观看| 国产色视频综合| 国产一区二区 视频在线| 动漫黄色视频在线观看| 亚洲国产日韩一区二区| 中文欧美无线码| 欧美国产精品va在线观看不卡| 啦啦啦免费观看视频1| 久久久久久久久久久久大奶| 精品一区在线观看国产| 蜜桃国产av成人99| 亚洲精品粉嫩美女一区| 夜夜夜夜夜久久久久| 脱女人内裤的视频| 在线观看免费视频网站a站| 在线看a的网站| 9色porny在线观看| 国产在线一区二区三区精| 国产成人精品无人区| 欧美中文综合在线视频| 欧美精品啪啪一区二区三区 | 日韩熟女老妇一区二区性免费视频| 国产黄频视频在线观看| 久久ye,这里只有精品| 成人国产一区最新在线观看| 亚洲av欧美aⅴ国产| 国产精品一区二区免费欧美 | 操出白浆在线播放| 99国产精品99久久久久| 久久精品熟女亚洲av麻豆精品| cao死你这个sao货| 午夜免费鲁丝| 欧美亚洲日本最大视频资源| 国产欧美日韩精品亚洲av| 99热网站在线观看| 性色av一级| 亚洲国产日韩一区二区| 国产男人的电影天堂91| 日韩 亚洲 欧美在线| 国产三级黄色录像| 亚洲精品国产色婷婷电影| 超碰97精品在线观看| 老司机影院毛片| 久久这里只有精品19| 国产成人免费无遮挡视频| 亚洲少妇的诱惑av| 叶爱在线成人免费视频播放| 热99re8久久精品国产| 国产精品久久久久成人av| 巨乳人妻的诱惑在线观看| 最近最新免费中文字幕在线| 丰满迷人的少妇在线观看| 每晚都被弄得嗷嗷叫到高潮| 国产不卡av网站在线观看| 久久九九热精品免费| 久久精品国产综合久久久| 免费黄频网站在线观看国产| 中亚洲国语对白在线视频| 一级毛片女人18水好多| 精品人妻一区二区三区麻豆| 亚洲av欧美aⅴ国产| 日本av手机在线免费观看| 亚洲精品一区蜜桃| 伊人亚洲综合成人网| 国产精品一区二区免费欧美 | 别揉我奶头~嗯~啊~动态视频 | 19禁男女啪啪无遮挡网站| av又黄又爽大尺度在线免费看| 亚洲成人免费电影在线观看| 亚洲欧美精品自产自拍| 欧美精品啪啪一区二区三区 | 91精品伊人久久大香线蕉| 老汉色av国产亚洲站长工具| 色视频在线一区二区三区| 18禁国产床啪视频网站| 亚洲国产精品一区三区| 人妻一区二区av| 91大片在线观看| 国产精品国产av在线观看| 国产男人的电影天堂91| avwww免费| 老司机福利观看| 精品亚洲成国产av| 欧美黄色淫秽网站| 国产日韩欧美在线精品| 精品欧美一区二区三区在线| 精品一区二区三卡| √禁漫天堂资源中文www| 国产真人三级小视频在线观看| 18禁裸乳无遮挡动漫免费视频| 黑人巨大精品欧美一区二区蜜桃| 性少妇av在线| 涩涩av久久男人的天堂| 老司机午夜福利在线观看视频 | 韩国精品一区二区三区| 久久香蕉激情| 日韩制服丝袜自拍偷拍| 久久久久久久国产电影| 亚洲一卡2卡3卡4卡5卡精品中文| 成人av一区二区三区在线看 | 精品亚洲成a人片在线观看| 亚洲国产av影院在线观看| 三上悠亚av全集在线观看| 亚洲色图 男人天堂 中文字幕| 老司机在亚洲福利影院| 母亲3免费完整高清在线观看| 国产亚洲精品一区二区www | 18禁国产床啪视频网站| 91老司机精品| 亚洲精品国产精品久久久不卡| 亚洲色图综合在线观看| 十八禁网站网址无遮挡| 国产1区2区3区精品| 国产亚洲欧美在线一区二区| 精品国产国语对白av| 天天添夜夜摸| 亚洲精品国产av成人精品| 女性生殖器流出的白浆| 精品卡一卡二卡四卡免费| 国产欧美亚洲国产| 日日爽夜夜爽网站| 国产男女超爽视频在线观看| 咕卡用的链子| 亚洲九九香蕉| 亚洲一区中文字幕在线| av超薄肉色丝袜交足视频| 下体分泌物呈黄色| 色精品久久人妻99蜜桃| 国产视频一区二区在线看| 亚洲一区二区三区欧美精品| 曰老女人黄片| 伊人亚洲综合成人网| a级毛片黄视频| 欧美日韩亚洲综合一区二区三区_| 午夜福利影视在线免费观看| 精品国产一区二区三区久久久樱花| 精品高清国产在线一区| 国产av精品麻豆| 搡老熟女国产l中国老女人| 黄色视频,在线免费观看| 午夜91福利影院| 日韩欧美免费精品| 99久久99久久久精品蜜桃| 国产精品.久久久| 国产免费视频播放在线视频| 亚洲人成77777在线视频| 亚洲中文日韩欧美视频| 国产伦人伦偷精品视频| 国产精品一区二区精品视频观看| 久久性视频一级片| 三上悠亚av全集在线观看| 国产成人一区二区三区免费视频网站| 丝袜喷水一区| 亚洲avbb在线观看| 欧美午夜高清在线| 亚洲 欧美一区二区三区| 大香蕉久久网| 午夜福利影视在线免费观看| 男女免费视频国产| 99久久综合免费| 黄片小视频在线播放| 天堂8中文在线网| 高清视频免费观看一区二区| 少妇猛男粗大的猛烈进出视频| 亚洲精品美女久久av网站| 多毛熟女@视频| 久久久国产欧美日韩av| 美女扒开内裤让男人捅视频| h视频一区二区三区| 99久久精品国产亚洲精品| 免费在线观看影片大全网站| 性少妇av在线| 成年动漫av网址| av天堂久久9| 十八禁网站网址无遮挡| 久久精品国产综合久久久| 精品免费久久久久久久清纯 | 大片免费播放器 马上看| 黑丝袜美女国产一区| 国产精品熟女久久久久浪| 日韩人妻精品一区2区三区| 亚洲欧美日韩另类电影网站| 如日韩欧美国产精品一区二区三区| 狠狠精品人妻久久久久久综合| av片东京热男人的天堂| 久久亚洲精品不卡| 午夜免费鲁丝| 99国产综合亚洲精品| 不卡av一区二区三区| 在线看a的网站| 亚洲精品第二区| 一区在线观看完整版| 国产精品影院久久| 美女扒开内裤让男人捅视频| 高清视频免费观看一区二区| 精品卡一卡二卡四卡免费| 久久精品国产亚洲av高清一级| 一二三四在线观看免费中文在| 国产色视频综合| 欧美+亚洲+日韩+国产| 国产成人欧美在线观看 | 精品亚洲成a人片在线观看| 久久久国产一区二区| 国产精品久久久人人做人人爽| 黑人欧美特级aaaaaa片| 亚洲人成77777在线视频| 免费观看a级毛片全部| 中文字幕制服av| 久久久久久亚洲精品国产蜜桃av| 精品人妻在线不人妻| 青青草视频在线视频观看| 性高湖久久久久久久久免费观看| 在线十欧美十亚洲十日本专区| 久久精品成人免费网站| 久久久久久久大尺度免费视频| 桃花免费在线播放| 久久毛片免费看一区二区三区| av在线播放精品| 91av网站免费观看| 久久人人爽人人片av| 成人黄色视频免费在线看| 黑人巨大精品欧美一区二区蜜桃| 高清av免费在线| 亚洲第一青青草原| 9191精品国产免费久久| 老鸭窝网址在线观看| 精品国产超薄肉色丝袜足j| 久久久精品国产亚洲av高清涩受| 精品视频人人做人人爽| 50天的宝宝边吃奶边哭怎么回事| 99精国产麻豆久久婷婷| 一级黄色大片毛片| 亚洲欧美成人综合另类久久久| 啦啦啦免费观看视频1| 久久国产精品人妻蜜桃| 久久久国产精品麻豆| 国产老妇伦熟女老妇高清| 成人手机av| 亚洲av成人不卡在线观看播放网 | 午夜福利,免费看| 亚洲国产欧美网| 精品福利永久在线观看| 蜜桃国产av成人99| 成年女人毛片免费观看观看9 | 热re99久久精品国产66热6| 极品人妻少妇av视频| 日韩欧美一区视频在线观看| av国产精品久久久久影院| 免费观看av网站的网址| 久久久精品区二区三区| 最新在线观看一区二区三区| 宅男免费午夜| 91九色精品人成在线观看| 亚洲激情五月婷婷啪啪| 欧美+亚洲+日韩+国产| 美女扒开内裤让男人捅视频| 啦啦啦 在线观看视频| 无限看片的www在线观看| 超色免费av| 亚洲少妇的诱惑av| 久久午夜综合久久蜜桃| 黄色视频,在线免费观看| 久热爱精品视频在线9| 国产欧美日韩综合在线一区二区| 日韩视频在线欧美| 亚洲 欧美一区二区三区| 亚洲七黄色美女视频| 欧美日韩黄片免| 操美女的视频在线观看| 国产一卡二卡三卡精品| 精品久久久精品久久久| 最近最新免费中文字幕在线| 欧美+亚洲+日韩+国产| 亚洲欧洲日产国产| 成人免费观看视频高清| 狂野欧美激情性bbbbbb| 日本wwww免费看| 他把我摸到了高潮在线观看 | 丁香六月天网| 亚洲情色 制服丝袜| 久久人妻福利社区极品人妻图片| 国产亚洲av高清不卡| 日本撒尿小便嘘嘘汇集6| 亚洲视频免费观看视频| 搡老熟女国产l中国老女人| 免费高清在线观看视频在线观看| 国产野战对白在线观看| 人人澡人人妻人| 香蕉丝袜av| 999久久久精品免费观看国产| 亚洲成国产人片在线观看| 婷婷色av中文字幕| 可以免费在线观看a视频的电影网站| 99精品欧美一区二区三区四区| 又黄又粗又硬又大视频| 欧美日韩视频精品一区| 亚洲国产看品久久| av国产精品久久久久影院| 欧美日本中文国产一区发布| 美女国产高潮福利片在线看| 操出白浆在线播放| 国产精品久久久人人做人人爽| 9191精品国产免费久久| 国产黄频视频在线观看| 免费少妇av软件| 免费在线观看日本一区| av网站免费在线观看视频| 纯流量卡能插随身wifi吗| 欧美日韩亚洲国产一区二区在线观看 | 色视频在线一区二区三区| 久久精品国产亚洲av高清一级| 日韩中文字幕欧美一区二区| 可以免费在线观看a视频的电影网站| www.999成人在线观看| 成年人午夜在线观看视频| 在线观看免费午夜福利视频| 两个人免费观看高清视频| 99久久99久久久精品蜜桃| 欧美日韩成人在线一区二区| 在线观看一区二区三区激情| 啦啦啦在线免费观看视频4| 亚洲国产欧美一区二区综合| 嫩草影视91久久| 成人18禁高潮啪啪吃奶动态图| 黄频高清免费视频| 老熟妇仑乱视频hdxx| www.精华液| 黄色视频,在线免费观看| 国产无遮挡羞羞视频在线观看| 亚洲综合色网址| 岛国毛片在线播放| 亚洲五月色婷婷综合| 首页视频小说图片口味搜索| 欧美日本中文国产一区发布| av免费在线观看网站| av片东京热男人的天堂| 亚洲精品美女久久久久99蜜臀| 9热在线视频观看99| 日本vs欧美在线观看视频| 中文字幕人妻丝袜一区二区| 下体分泌物呈黄色| 两人在一起打扑克的视频| 一二三四社区在线视频社区8| 黄色视频在线播放观看不卡| 亚洲国产av影院在线观看| 人人妻人人爽人人添夜夜欢视频| 成年人午夜在线观看视频| 亚洲国产av新网站| 日本精品一区二区三区蜜桃| a 毛片基地| 国产97色在线日韩免费| 国产一区二区三区综合在线观看| av免费在线观看网站| 首页视频小说图片口味搜索| 岛国毛片在线播放| 亚洲欧美激情在线| 久久久国产一区二区| 亚洲性夜色夜夜综合| 免费在线观看影片大全网站| av一本久久久久| 狠狠狠狠99中文字幕|