• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    面向QEMU的分布式塊存儲系統(tǒng)的設(shè)計與實現(xiàn)

    2016-11-09 08:22:00張滬濱李小勇
    微型電腦應(yīng)用 2016年4期
    關(guān)鍵詞:版本號快照客戶機

    張滬濱,李小勇

    ?

    面向QEMU的分布式塊存儲系統(tǒng)的設(shè)計與實現(xiàn)

    張滬濱,李小勇

    計算系統(tǒng)虛擬化是當前的主流趨勢,然而為虛擬機磁盤提供存儲的現(xiàn)有后端系統(tǒng)常直接沿襲分布式文件系統(tǒng)的設(shè)計,導(dǎo)致一系列虛擬磁盤I/O場景下不必要的開銷。提出的COMET系統(tǒng),是一個面向QEMU的分布式塊存儲系統(tǒng)。它基于Proactor模式,針對虛擬磁盤I/O特性揚棄文件系統(tǒng)的語義并在數(shù)據(jù)讀寫與一致性等方面采用精簡合理的設(shè)計,盡可能縮短I/O路徑,在具備線性擴展能力、高可用性的同時,實現(xiàn)了寫時復(fù)制的磁盤快照和寫時復(fù)制的磁盤克隆等創(chuàng)新功能。測試數(shù)據(jù)表明,COMET在部分I/O場景下?lián)碛凶阋枣敲滥酥脸匠墒扉_源系統(tǒng)的性能。

    QEMU;塊存儲;分布式;快照;克隆

    0 引言

    虛擬化是云環(huán)境下服務(wù)器聚合和彈性資源管理的關(guān)鍵使能技術(shù)。近年來,諸如PLE、EPT、SR-IOV等新一代硬件加速技術(shù)的成功應(yīng)用和改進[1]使虛擬機對CPU、內(nèi)存、網(wǎng)卡的訪問效率足以匹敵相同硬件環(huán)境下的物理機;而虛擬機磁盤I/O的性能,雖然借由virtio半虛擬化驅(qū)動[2]等技術(shù)在前端進行了大量優(yōu)化,但仍隨后端存儲具體實現(xiàn)的不同,呈現(xiàn)出巨大的靈活性與提升空間。

    目前,虛擬塊設(shè)備(VBDs)是為虛擬機提供塊存儲的主流解決方案[3,4]。該方案中,將虛擬磁盤作為一個抽象的文件存儲在DAS、SAN、NAS或提供塊設(shè)備接口的分布式文件系統(tǒng)中。然而,DAS不易擴展,SAN的性能依賴于高價的Fibre-Channel協(xié)議專用硬件且擴展性有限,NAS缺乏高可用配置容易形成單點故障且后期的擴展成本高,它們都無法滿足云規(guī)模的IaaS服務(wù)場景。分布式文件系統(tǒng)的根本設(shè)計目的是面向文件,而非面向虛擬磁盤文件,使用分布式文件系統(tǒng)存儲虛擬磁盤文件并提供塊設(shè)備接口雖然充分利用了分布式文件系統(tǒng)本身的可擴展性、高可用性等優(yōu)點,但也同時強制引入文件系統(tǒng)的諸多復(fù)雜語義,導(dǎo)致了虛擬磁盤I/O場景下的不必要開銷。例如,一般分布式文件系統(tǒng)中,用戶位于云運營商管轄范圍之外。對于多用戶共享同一文件的場景,必須統(tǒng)一使用鎖或租約等同步機制;對于多用戶各自獨占文件的場景,必須結(jié)合元數(shù)據(jù)進行相應(yīng)的訪問控制機制;對于一致性場景,也必須在站在多用戶的角度進行復(fù)雜設(shè)計實現(xiàn)而產(chǎn)生較大的開銷……在虛擬磁盤I/O場景下,虛擬磁盤的直接用戶是位于云運營商管轄范圍之內(nèi)的虛擬機,每個虛擬機對自身的磁盤獨占使用,互不干擾,相對于分布式文件系統(tǒng),在提供的語義、鎖機制、元數(shù)據(jù)管理、一致性等諸多方面都能夠得到巨大的簡化。

    基于此,本論文提出并實現(xiàn)專用于為IaaS虛擬機提供塊存儲的COMET分布式塊存儲系統(tǒng)。它提供針對虛擬磁盤I/O場景的最小化語義,避免了不必要的性能損耗。它基于無中心架構(gòu),不會出現(xiàn)單點故障并且具備線性擴展能力。它采取雙副本和強一致性,為高可用性提供保障。此外,COMET實現(xiàn)了寫時復(fù)制的磁盤快照和寫時復(fù)制的磁盤克隆等創(chuàng)新功能。

    本論文其余部分組織如下:第1部分闡述近年來為虛擬機提供后端磁盤存儲的相關(guān)研究,第2部分詳述系統(tǒng)設(shè)計,第3部分進行性能測試與對比,第4部分為總結(jié)和展望。

    1 相關(guān)工作

    論文MOBBS: A Multi-tier Block Storage Systemfor Virtual Machines using Object-based Storage[5]使用HDD和SSD的混合介質(zhì)為虛擬機提供后端存儲,并提出了Hybrid Pool技術(shù)對不同介質(zhì)的設(shè)備進行有效利用。

    論文PIOD: A Parallel I/O Dispatch Model Based on Lustre File System for Virtual Machine Storage[6]基于Lustre并行分布式文件系統(tǒng),通過OST_Queue技術(shù)將I/O請求按照對應(yīng)物理磁盤位置分批提交,減少磁頭抖動提高性能。

    開源分布式文件系統(tǒng)Ceph[7]通過librbd為虛擬機提供塊存儲,后者導(dǎo)出了創(chuàng)建卷、克隆卷、創(chuàng)建快照、快照回滾、讀寫數(shù)據(jù)等一系列API。然而,Ceph在塊存儲方面表現(xiàn)出的擴展速度慢、集群不穩(wěn)定等現(xiàn)象常被人們所詬病。

    開源分布式對象存儲系統(tǒng)Sheepdog以輕量級的代碼為虛擬機提供塊存儲。Sheepdog采用多副本模式,以Zookeeper或corosync進行管理集群,也支持日志和糾刪碼。

    開源系統(tǒng)OpenStack與Cinder結(jié)合使用可以達到提供塊存儲的目的[8],其中,OpenStack是存儲資源的提供者,而Cinder是分布式塊存儲的API框架,Cinder主要與OpenStack中的Nova交互,通過軟件定義方式,向上層提供塊存儲視圖。

    Amazon是虛擬機IaaS云服務(wù)的首要運營商之一,其中虛擬機后端存儲由Amazon EBS提供。Amazon EBS 主要提供兩種虛擬磁盤卷:能夠激增至數(shù)百IOPS的標準卷和支持4000IOPS的預(yù)配置IOPS卷,并允許對虛擬磁盤卷隨時進行創(chuàng)建、刪除、遷移、快照等操作。Amazon EBS憑借其強大的彈性服務(wù)成為業(yè)界翹楚,然而其技術(shù)細節(jié)并無公開資料供檢索。

    2 系統(tǒng)設(shè)計與實現(xiàn)

    2.1 總體架構(gòu)

    COMET主要涉及3個層次,如圖1所示:

    圖1 系統(tǒng)架構(gòu)總圖

    虛擬機集群、服務(wù)器集群和物理磁盤群,服務(wù)器集群和物理磁盤群構(gòu)成COMET分布式塊存儲系統(tǒng)的主體,每個服務(wù)器掛載不定量的多個物理磁盤。圖1給出了包含虛擬機集群在內(nèi)的系統(tǒng)架構(gòu)總圖。

    虛擬磁盤在COMET中以4M分割,每個4M塊稱為一個Chunk,每個Chunk作為服務(wù)器上的一個文件存儲于物理磁盤中,多個Chunk散布于不同的物理磁盤乃至不同服務(wù)器上,對同一虛擬磁盤的讀寫可以通過多個底層物理磁盤的協(xié)作來提高效率。

    出于可用性考慮,服務(wù)器集群由兩個隔離域組成,該兩域位于不同機房,以降低同時掉電等事故的概率。每個隔離域中包含多臺服務(wù)器,支持服務(wù)器的動態(tài)加入和移出。每個Chunk有兩個副本,分別位于隔離域A和隔離域B中,雙副本和隔離域?qū)蛻魴C透明而對QEMU不透明,這里通過改進的一致性哈希算法實現(xiàn)Chunk的定位。COMET采取去中心架構(gòu),徹底避免了單點故障,具備線性擴展能力。

    2.2 QEMU端I/O設(shè)計

    本論文選用了支持KVM[9]與virtio的高性能開源Hypervisor QEMU[10]作為客戶機與物理機的中間層。為構(gòu)建完整的I/O路徑,必須成功建立自客戶機應(yīng)用層到COMET后端存儲的I/O回路。這一步的關(guān)鍵是,在貫穿客戶機與宿主機的復(fù)雜I/O棧中,確定合適的層次將接收到的I/O指令移接至COMET存儲,并在成功執(zhí)行指令后將I/O數(shù)據(jù)或完成狀態(tài)回送至該層。為性能計,必須保證總I/O路徑盡可能短。

    用宿主機本地磁盤為客戶機虛擬磁盤存下的I/O路徑圖,如圖2所示:

    圖2 I/O路徑示例圖

    其中只畫出I/O指令的下發(fā)路線,I/O數(shù)據(jù)或狀態(tài)的回送路線與之互逆。啟用virtio時,位于客戶機操作系統(tǒng)的virtio前端和QEMU中的virtio后端里應(yīng)外合,自客戶機用戶空間下達的讀寫指令傳送到塊設(shè)備驅(qū)動層時被virtio前端截獲,經(jīng)由virtio-ring環(huán)形緩沖區(qū)傳至virtio后端,進而抵達QEMU中的I/O仿真層。圖2場景下,I/O仿真層代碼通過相應(yīng)系統(tǒng)調(diào)用讀寫位于宿主機本地磁盤上為客戶機磁盤提供存儲的文件,最終讀寫物理磁盤。不啟用virtio時,客戶機I/O指令到達塊設(shè)備驅(qū)動層后,繼續(xù)向客戶機視角下的底層磁盤設(shè)備傳送,進而被宿主機KVM模塊的I/O陷入子模塊截獲,通過共享內(nèi)存頁的方式輸送給QEMU中的I/O仿真層,后續(xù)過程與啟用virtio的情形相同。對比知,virtio的存在,繞過了傳統(tǒng)的KVM的I/O陷入方式,不僅減少了CPU通過VM entry、VM exit在根模式與非根模式之間切換的次數(shù)[11],而且減少了宿主機在用戶空間和內(nèi)核空間切換的次數(shù),極大地提高了效率。

    基于此,在客戶機的內(nèi)部的I/O棧里進行I/O指令的接收和I/O路徑的移接相當于放棄了virtio對虛擬機I/O的優(yōu)化效應(yīng),并不合理;而在宿主機的內(nèi)核I/O棧里這樣做則會導(dǎo)致I/O路徑過長,同樣不合理。COMET最終采用的方案為:在距離virtio后端最近的I/O仿真層實現(xiàn)并添加新的代碼塊,將接收到的I/O指令解析后提交給后端的分布式存儲,并根據(jù)后端存儲返回的I/O數(shù)據(jù)或狀態(tài)在該層提交給QEMU,構(gòu)成I/O回路。

    2.3 數(shù)據(jù)一致性

    分布式文件系統(tǒng)中,對一致性的實現(xiàn)必須考慮位于多個物理節(jié)點的多個用戶共享同一文件情形下的多副本一致性,其實現(xiàn)往往需要借助Paxos[12]等成熟協(xié)議。而虛擬磁盤I/O場景下,同一虛擬磁盤的唯一用戶為位于同一物理節(jié)點上的客戶機,使問題得到了巨大簡化。COMET針對虛擬磁盤I/O場景實現(xiàn)了雙副本的強一致性。

    COMET為每一個Chunk維護一個版本號信息,QEMU端維護著對應(yīng)虛擬磁盤全部Chunk的版本信息(以1TB虛擬磁盤為例,占用內(nèi)存空間為1M)。讀操作不改變版本號,寫操作使版本號增1,無論讀寫,COMET在回執(zhí)中攜帶相應(yīng)Chunk的版本號以供QEMU端對照。對于寫操作,QEMU端等待兩個副本所在服務(wù)器都回執(zhí)寫成功后才向客戶機報告寫成功(故障導(dǎo)致超時的情形下允許以單個副本的寫成功標識成功),同時更新本地維護的Chunk版本號;對于首次讀操作,QEMU端向兩個副本分別索要版本號,若一致,則任選其一拉取數(shù)據(jù);若不一致,則觸發(fā)修復(fù)事件,先使用高版本Chunk覆蓋低版本Chunk,再讀出數(shù)據(jù)。對于后續(xù)讀操作,QEMU任選一個副本進行交互。

    為說明故障場景下的強一致性,不妨假設(shè)客戶機A在對某Chunk進行讀寫,Chunk的兩個副本為甲和乙。一個典型的過流程為:

    ① A首次讀Chunk②乙所在服務(wù)器宕機③ A無法與乙所在服務(wù)器建立連接,轉(zhuǎn)而與甲副本交互④ A寫甲副本,甲副本版本號更新,A更新自己維護的對應(yīng)Chunk的版本號⑤ 乙所在服務(wù)器重啟⑥ A讀到乙副本,發(fā)現(xiàn)返回的版本號與維護的Chunk版本號不同,觸發(fā)修復(fù)事件⑦乙副本被修復(fù)⑧A讀到最新數(shù)據(jù)⑨后續(xù)讀寫注:若第⑥步未發(fā)生,則COMET后臺修復(fù)進程會對低版本乙進行發(fā)現(xiàn),仍觸發(fā)修復(fù),之后A再讀乙將直接得到新版本的數(shù)據(jù)。

    在分布式文件系統(tǒng)中,則無法采用該方法,這是因為,分布式文件系統(tǒng)中多用戶位于多個物理節(jié)點,即便令其在本地維護Chunk的版本號,在文件共享情形下,所維護的版本號無法及時更新,從而在不同用戶間產(chǎn)生分歧。以位于不同物理節(jié)點的用戶A、B讀同一Chunk的甲、乙副本為例,一個可能的流程為:

    ① A首次讀Chunk②B首次讀Chunk③乙所在服務(wù)器宕機④ A無法與乙所在服務(wù)器建立連接,轉(zhuǎn)而與甲副本交互⑤ A寫甲副本,甲副本版本號更新,A更新自己維護的對應(yīng)Chunk的版本號,B不知道A對Chunk進行了寫操作,未更新本地維護的Chunk的版本號⑥乙所在服務(wù)器重啟⑦ B讀到乙副本,發(fā)現(xiàn)返回的版本號與維護的Chunk版本號相同,認為讀操作成功,從而B讀到舊數(shù)據(jù),強一致性被破壞

    可見,COMET強一致性的實現(xiàn)是針對虛擬磁盤I/O場景的精簡實現(xiàn),該實現(xiàn)避免了分布式文件系統(tǒng)中強一致性對應(yīng)的復(fù)雜設(shè)計所帶來的開銷,提高了性能。

    2.4 快照與克隆

    COMET系統(tǒng)實現(xiàn)寫時復(fù)制的磁盤快照和寫時復(fù)制的磁盤克隆的創(chuàng)新功能。COMET中一個Chunk在讀、寫、快照等混合請求下的事件時序圖,如圖3所示:

    圖3 快照時序圖

    COMET中,所有客戶機的虛擬磁盤都基于一個事先建立好的根磁盤快照,稱為S0。建立一個虛擬機的過程即將該虛擬機的物理存儲導(dǎo)向S0,除此之外不需要做任何事情。對S0的首次寫會導(dǎo)致創(chuàng)建真正的客戶機Chunk,稱為C。數(shù)據(jù)寫入C而不影響S0。后續(xù)讀寫都在C上執(zhí)行。

    COMET結(jié)合時間戳(實際上是以時間戳為主體結(jié)合遞增數(shù)字字串的可區(qū)分字符串)來輔助快照的管理。對于拍攝快照請求,系統(tǒng)只是記錄請求時間戳,在后續(xù)發(fā)生寫操作時,才真正創(chuàng)建快照Chunk并維護其Chunk時間戳。圖3中t1時刻由寫操作觸發(fā)所創(chuàng)建的St1,同時作為S1和S2的快照Chunk。對于讀請求,直接在當前Chunk執(zhí)行。對于寫請求,需結(jié)合時間戳檢查之前是否有未處理的快照請求(即該請求并無與之對應(yīng)的新建快照Chunk),若存在,則新建快照Chunk,否則直接寫入。對于快照讀取請求,若存在未處理的快照請求,則保存當前Chunk為快照Chunk,否則自所讀取快照的請求時間戳向后,定位至最近的快照Chunk,同時清理當前Chunk。對于快照刪除請求,若存在未處理的快照請求,則保存當前Chunk為快照Chunk,以圖3中刪除S1為例,繼而,先找到位于S1請求時間戳之后的最近快照Chunk St1,再自St1向前回溯至最近的快照Chunk(這里為S0),若兩個快照Chunk之間除待刪除快照外還存在其他快照(這里為S2),則只刪除S1的維護信息,不刪除快照Chunk;若兩個快照Chunk之間只有待刪除快照且其對應(yīng)快照Chunk不是當前Chunk,則真正刪除快照Chunk。COMET根據(jù)時間戳找尋快照Chunk的過程中是以快照鏈為外沿進行的。舉例而言,在圖3基礎(chǔ)上,若先讀取快照S1再經(jīng)歷讀寫并產(chǎn)生快照S4,雖然全局范圍內(nèi),自S4請求時間戳向前的最近快照Chunk為St2,然而St2(對于S3)和S4分屬不同的快照鏈,故對COMET而言,S4請求時間戳之前的最近快照為位于S4快照鏈上的St1。

    基于該實現(xiàn),克隆客戶機類相當于為當前Chunk拍攝快照,而舊客戶機和新客戶機成為該快照下的兩個分支,由于磁盤快照本身幾乎不消耗時間,故而磁盤克隆也可以瞬時完成。

    3 讀寫性能測試

    3.1 測試環(huán)境

    硬件方面,本測試使用3臺配有Intel(R) Xeon(R) CPU E5506系列4核處理器、16G內(nèi)存、7200轉(zhuǎn)1TB SATA盤的服務(wù)器。服務(wù)器之間使用Intel X520-SR1 10Gbps網(wǎng)卡、高速網(wǎng)線、DELL N4032萬兆以太網(wǎng)交換機互連。其中,服務(wù)器A作虛擬機節(jié)點,服務(wù)器B、C除引導(dǎo)盤外分別掛載八塊磁盤,用作后端存儲節(jié)點。

    軟件方面,3臺服務(wù)器均安裝基于Linux-2.6.32內(nèi)核的CentOS6.6,A上采用針對COMET添加了I/O仿真層代碼的qemu-2.3.0作Hypervisor,并啟用kvm和kvm-intel模塊,為虛擬機分配4GB內(nèi)存。

    3.2測試方案

    本論文分別測試基于COMET與成熟開源分布式對象存儲系統(tǒng)Sheepdog的前端虛擬機I/O性能并進行對比,其中COMET和Sheepdog均采用雙副本。具體測試涵蓋 {1~512線程} × {4K~4M讀寫塊} × {順序讀寫, 隨機讀寫} 的全部情形。測試工具為Fio,測試方法為在虛擬機上安裝Fio并執(zhí)行語句:

    順序讀寫:fio -name=… -numjobs=… -bs=… -rw=read/write -size=… -direct=0-ioengine=sync -runtime=…

    隨機讀寫:fio-name=… -numjobs=… -bs=…-rw=randread/randwrite -size=… -direct=1 -ioengine=libaio -iodepth=8 -runtime=…

    3.3 主要結(jié)果

    限于篇幅,這里選用較有代表性的128KB塊大小多線程順序讀寫和4KB塊大小多線程隨機讀寫的測試數(shù)據(jù)進行闡述。COMET和Sheepdog的性能對比如圖4所示:

    圖4 多線程讀寫性能對比

    其中,COMET順序讀性能比Sheepdog略高,隨機讀性能高出Sheepdog較多,隨機寫性能明顯高于Sheepdog且比Sheepdog穩(wěn)定,這不僅得益于針對性的設(shè)計,也得益于系統(tǒng)內(nèi)部高并發(fā)架構(gòu)的實現(xiàn)與異步IO的成功使用。

    對于順序?qū)懀珻OMET在多于16線程的情形下明顯低于Sheepdog。這是因為Sheepdog在其QEMU端驅(qū)動和后端存儲之間維護了寫緩存,該緩存的命中減少了交付后端的寫請求個數(shù)從而提高性能。COMET尚未實現(xiàn)緩存機制,然而考慮到寫緩存會降低系統(tǒng)可靠性,擬只實現(xiàn)讀緩存。

    4 總結(jié)

    COMET系統(tǒng)的創(chuàng)新性在于:1)針對虛擬磁盤I/O場景揚棄了文件系統(tǒng)的語義,在數(shù)據(jù)讀寫和一致性等方面采用了精簡合理的設(shè)計;2)實現(xiàn)了寫時復(fù)制的磁盤快照和寫時復(fù)制的磁盤克隆等創(chuàng)新功能。

    COMET的不足在于尚未實現(xiàn)緩存機制(為可靠性計,擬只實現(xiàn)讀緩存),性能上仍存在優(yōu)化空間。就業(yè)界現(xiàn)狀而言,除內(nèi)存緩存外,使用大容量SSD的為分布式系統(tǒng)提供緩存也已成為技術(shù)熱點。在后續(xù)工作中,COMET系統(tǒng)將構(gòu)建基于內(nèi)存與SSD的多層讀緩存,力求性能上的進一步階躍。

    參考文獻:

    [1] Dong Y, Zheng Z, Zhang X, et al. Improving virtualization performance and scalability with advanced hardware accelerations[C]//Workload Characterization (IISWC), 2010 IEEE International Symposium on. IEEE, 2010: 1-10.

    [2] Russell R. virtio: towards a de-facto standard for virtual I/O devices[J]. ACM SIGOPS Operating Systems Review, 2008, 42(5): 95-103.

    [3] Tarasov V, Hildebrand D, Kuenning G, et al. Virtual machine workloads: the case for new benchmarks for NAS[C]//FAST. 2013: 307-320.

    [4] Tarasov V, Jain D, Hildebrand D, et al. Improving I/O performance using virtual disk introspection[C]//Proceedings of the 5th USENIX conference on Hot Topics in Storage and File Systems. USENIX Association, 2013: 11-11.

    [5] Ma S, Chen H, Lu H, et al. MOBBS: A Multi-tier Block Storage Systemfor Virtual Machines usingObject-based Storage[C]//High Performance andCommunications (HPCC), 16th International Conference on. IEEE, 2014: 272-275.

    [6] Lei Z, Zhou Z, Hu B, et al. PIOD: A Parallel I/O Dispatch Model Based on Lustre File System for Virtual Machine Storage[C]//Cloud and Service Computing (CSC), 2013 International Conference on. IEEE, 2013: 30-35.

    [7] Weil S A, Brandt S A, Miller E L, et al. Ceph: A scalable, high-performance distributed file system[C]//Proceedings of the 7th symposium on Operating systems design and implementation. USENIX Association, 2006: 307-320.

    [8] Rosado T, Bernardino J. An overview of openstack architecture[C]//Proceedings of the 18th International Database Engineering & Applications Symposium. ACM, 2014: 366-367.

    [9] Ali S. Virtualization with KVM[M]//Practical Linux Infrastructure. Apress, 2015: 53-80.

    [10] Huynh K, Hajnoczi S. KVM/QEMU storage stack performance discussion[C]//Linux Plumbers Conference. 2010.

    [11] Uhlig R, Neiger G, Rodgers D, et al. Intel virtualization technology[J]. Computer, 2005, 38(5): 48-56.

    [12] Zhao W. Fast Paxos Made Easy: Theory and Implementation[J]. International Journal of Distributed Systems and Technologies (IJDST), 2015, 6(1): 15-33.

    Design and Implementation of Distributed Block Storage for QEMU

    Zhang Hubin, Li Xiaoyong

    (College of Information Security, Shanghai Jiaotong University, Shanghai 200240, China)

    Virtualization of computing system has become a main trend. However,currentbackend storage implementationsfor virtual machine disks usuallyreference directly from distributed file system, resulting in a series of unnecessary overhead in virtual disk I/O scenarios.The COMET system presented by this paper is a distributed block storage systems for QEMU. Based on Proactor mode, COMET abandons the semantics of the file system, takes reasonable design in data access as well as consistency and maintains a minized I/O path for virtual disk I/O scenarios. Withlinear scalability, high availability, COMET implemented innovative features such as write-on-copy disk snapshot and write-on-copyclone.Results show that COMET has a performance comparable to or even betterthan mature open source systems in certain I/O scenarios.

    QEMU; Block Storage; Distributed System;Snapshot; Clone

    1007-757X(2016)04-0054-04

    TP311

    A

    (2015.09.06)

    張滬濱(1990-),男,上海交通大學(xué),信息安全工程學(xué)院,碩士,研究方向:操作系統(tǒng)、網(wǎng)絡(luò)、存儲、分布式,上海,200240

    李小勇(1972-),男,上海交通大學(xué),信息安全工程學(xué)院,副教授、博士,研究方向:操作系統(tǒng)、網(wǎng)絡(luò)、存儲、分布式,上海,200240

    猜你喜歡
    版本號快照客戶機
    Reducing the global cancer burden with gastrointestinal screening: China’s 30 years practice
    EMC存儲快照功能分析
    天津科技(2022年5期)2022-05-31 02:18:08
    認識vSphere安裝程序
    創(chuàng)建磁盤組備份快照
    深入淺出 全面獲知系統(tǒng)版本號
    數(shù)據(jù)恢復(fù)的快照策略
    一張“快照”搞定人體安檢
    多種方法查看系統(tǒng)版本號
    電腦迷(2014年8期)2014-04-29 08:53:03
    電子商務(wù)的數(shù)據(jù)陳舊性檢查的設(shè)計與實現(xiàn)
    瘦客戶機:安全與便捷的選擇
    天堂√8在线中文| 国产精品久久电影中文字幕| 淫妇啪啪啪对白视频| 搞女人的毛片| 日本五十路高清| 精品乱码久久久久久99久播| 久久久久久久久久久久大奶| 亚洲第一欧美日韩一区二区三区| 国产成+人综合+亚洲专区| 精品电影一区二区在线| 久久久久久久午夜电影| 宅男免费午夜| 电影成人av| 精品欧美一区二区三区在线| 又黄又爽又免费观看的视频| 亚洲成人精品中文字幕电影| 日本a在线网址| 性少妇av在线| 日韩国内少妇激情av| 神马国产精品三级电影在线观看 | 亚洲 欧美 日韩 在线 免费| 人人妻人人爽人人添夜夜欢视频| 桃红色精品国产亚洲av| 看免费av毛片| 伊人久久大香线蕉亚洲五| 亚洲熟妇中文字幕五十中出| 国产精品美女特级片免费视频播放器 | 伊人久久大香线蕉亚洲五| 国产精品二区激情视频| 99精品久久久久人妻精品| 久久久久久久久免费视频了| 一区二区三区高清视频在线| 亚洲无线在线观看| 久久香蕉激情| 少妇的丰满在线观看| 国产麻豆69| 中文字幕最新亚洲高清| 国产精品野战在线观看| 精品久久久久久久人妻蜜臀av | 人人妻人人澡欧美一区二区 | 大型av网站在线播放| 亚洲九九香蕉| 啪啪无遮挡十八禁网站| 制服诱惑二区| av片东京热男人的天堂| 国产精品 欧美亚洲| 久久 成人 亚洲| 日韩国内少妇激情av| 黄网站色视频无遮挡免费观看| 日本免费一区二区三区高清不卡 | 老司机福利观看| 窝窝影院91人妻| 色老头精品视频在线观看| 精品电影一区二区在线| 在线观看免费视频网站a站| 女生性感内裤真人,穿戴方法视频| 天天躁狠狠躁夜夜躁狠狠躁| 国产精品野战在线观看| 一级黄色大片毛片| 伊人久久大香线蕉亚洲五| 日韩欧美一区二区三区在线观看| 免费看美女性在线毛片视频| 国产av又大| 色尼玛亚洲综合影院| 麻豆国产av国片精品| 欧美人与性动交α欧美精品济南到| 操美女的视频在线观看| 脱女人内裤的视频| 岛国在线观看网站| 久久精品91蜜桃| 妹子高潮喷水视频| 韩国精品一区二区三区| 精品一品国产午夜福利视频| АⅤ资源中文在线天堂| 国产精品精品国产色婷婷| 又大又爽又粗| 极品人妻少妇av视频| 国产av一区在线观看免费| 精品高清国产在线一区| 少妇 在线观看| 久久久久亚洲av毛片大全| 久久国产精品男人的天堂亚洲| 91av网站免费观看| 免费在线观看日本一区| 亚洲av第一区精品v没综合| 真人做人爱边吃奶动态| 中文字幕高清在线视频| 免费在线观看视频国产中文字幕亚洲| 欧美 亚洲 国产 日韩一| 成年版毛片免费区| 久久久久国产精品人妻aⅴ院| 国产高清视频在线播放一区| avwww免费| 国产欧美日韩精品亚洲av| 高清黄色对白视频在线免费看| 国产麻豆成人av免费视频| 伦理电影免费视频| 美国免费a级毛片| 老汉色∧v一级毛片| 男人舔女人下体高潮全视频| 一个人免费在线观看的高清视频| a在线观看视频网站| 成熟少妇高潮喷水视频| 国产精品电影一区二区三区| 老熟妇乱子伦视频在线观看| 日韩精品青青久久久久久| 他把我摸到了高潮在线观看| 午夜福利视频1000在线观看 | 午夜福利18| 国产高清有码在线观看视频 | 免费女性裸体啪啪无遮挡网站| 女人被狂操c到高潮| 无限看片的www在线观看| 日韩 欧美 亚洲 中文字幕| 久久精品91无色码中文字幕| 午夜免费鲁丝| 亚洲国产精品999在线| 久久久久久久精品吃奶| 正在播放国产对白刺激| 91字幕亚洲| 少妇裸体淫交视频免费看高清 | 男女下面插进去视频免费观看| 精品日产1卡2卡| av免费在线观看网站| 久久精品国产清高在天天线| 久99久视频精品免费| 国产亚洲精品av在线| 亚洲自拍偷在线| 最近最新中文字幕大全免费视频| 黄色a级毛片大全视频| 国产午夜福利久久久久久| 黄色视频不卡| 亚洲成国产人片在线观看| 欧美国产精品va在线观看不卡| 男女做爰动态图高潮gif福利片 | 亚洲熟女毛片儿| 深夜精品福利| 欧美黄色淫秽网站| 美女国产高潮福利片在线看| 变态另类丝袜制服| 亚洲av电影不卡..在线观看| 久久久久久人人人人人| 久久人妻福利社区极品人妻图片| 国产精品一区二区免费欧美| 人人妻,人人澡人人爽秒播| 日本免费a在线| 日本在线视频免费播放| 国产高清视频在线播放一区| 国产精品久久久久久人妻精品电影| 国内久久婷婷六月综合欲色啪| 久久精品91蜜桃| 久久久久久久午夜电影| 亚洲第一电影网av| 久久欧美精品欧美久久欧美| 国产精品久久视频播放| 99国产精品99久久久久| 两个人免费观看高清视频| 波多野结衣一区麻豆| 欧美乱码精品一区二区三区| 亚洲成人国产一区在线观看| 成人国语在线视频| 妹子高潮喷水视频| 亚洲aⅴ乱码一区二区在线播放 | 9色porny在线观看| 搡老岳熟女国产| 男人的好看免费观看在线视频 | 精品久久久久久久久久免费视频| 天天躁夜夜躁狠狠躁躁| av超薄肉色丝袜交足视频| 黄片播放在线免费| 亚洲伊人色综图| 12—13女人毛片做爰片一| 免费高清在线观看日韩| 国产精品一区二区在线不卡| 日韩成人在线观看一区二区三区| 国产av又大| 搞女人的毛片| av有码第一页| 亚洲精品国产色婷婷电影| 一区二区三区高清视频在线| av视频在线观看入口| 亚洲天堂国产精品一区在线| 亚洲欧美日韩无卡精品| 久9热在线精品视频| 熟妇人妻久久中文字幕3abv| 免费高清视频大片| 日本三级黄在线观看| 老司机靠b影院| 欧美日韩亚洲综合一区二区三区_| 亚洲第一电影网av| 日韩成人在线观看一区二区三区| 成年人黄色毛片网站| 欧美日本视频| 一二三四社区在线视频社区8| 久久久国产成人精品二区| 一级黄色大片毛片| 性色av乱码一区二区三区2| 久久午夜综合久久蜜桃| 国产在线观看jvid| 午夜老司机福利片| 亚洲中文字幕一区二区三区有码在线看 | 精品欧美国产一区二区三| 国产亚洲精品一区二区www| 午夜免费观看网址| 欧美一级毛片孕妇| 伊人久久大香线蕉亚洲五| 日韩欧美免费精品| 黄色a级毛片大全视频| 日韩成人在线观看一区二区三区| 一进一出抽搐动态| 亚洲中文字幕日韩| 欧美成人性av电影在线观看| 精品高清国产在线一区| 亚洲成av片中文字幕在线观看| av片东京热男人的天堂| 亚洲精品中文字幕在线视频| 性色av乱码一区二区三区2| 我的亚洲天堂| 亚洲国产看品久久| 精品一区二区三区四区五区乱码| 国产视频一区二区在线看| 嫩草影院精品99| 久久久久精品国产欧美久久久| 亚洲成人久久性| 两个人视频免费观看高清| 国产高清videossex| 黑人巨大精品欧美一区二区mp4| 国产亚洲精品第一综合不卡| 人人妻人人爽人人添夜夜欢视频| 欧美日韩中文字幕国产精品一区二区三区 | 亚洲精品美女久久av网站| 国产成人影院久久av| 久久影院123| 999久久久精品免费观看国产| 中文字幕人妻丝袜一区二区| 嫁个100分男人电影在线观看| 久久国产精品人妻蜜桃| 亚洲国产高清在线一区二区三 | 亚洲欧美日韩无卡精品| 最近最新中文字幕大全免费视频| 免费久久久久久久精品成人欧美视频| 亚洲国产精品合色在线| 亚洲片人在线观看| 一级,二级,三级黄色视频| 国产日韩一区二区三区精品不卡| 成人av一区二区三区在线看| 欧美日韩中文字幕国产精品一区二区三区 | 亚洲精品国产色婷婷电影| 亚洲精品一区av在线观看| 久久九九热精品免费| 欧美日韩瑟瑟在线播放| 黑丝袜美女国产一区| 国产aⅴ精品一区二区三区波| 午夜影院日韩av| 欧美人与性动交α欧美精品济南到| 97人妻天天添夜夜摸| 久久久国产精品麻豆| 在线播放国产精品三级| avwww免费| 操美女的视频在线观看| 自线自在国产av| 黄片大片在线免费观看| 侵犯人妻中文字幕一二三四区| 欧美激情高清一区二区三区| netflix在线观看网站| 男女床上黄色一级片免费看| 级片在线观看| 国产蜜桃级精品一区二区三区| 97超级碰碰碰精品色视频在线观看| 妹子高潮喷水视频| 一边摸一边抽搐一进一小说| 国产熟女xx| 两个人免费观看高清视频| 日韩三级视频一区二区三区| 亚洲精品国产区一区二| 亚洲成人国产一区在线观看| 一区二区三区精品91| 日日爽夜夜爽网站| 日韩精品青青久久久久久| 99re在线观看精品视频| 男女下面插进去视频免费观看| 午夜福利成人在线免费观看| 手机成人av网站| 黄色女人牲交| 欧美在线一区亚洲| www国产在线视频色| 国产免费男女视频| 日本欧美视频一区| 国产成人精品久久二区二区91| 精品久久蜜臀av无| 美女国产高潮福利片在线看| 国产精品久久久av美女十八| 人成视频在线观看免费观看| 亚洲 国产 在线| 久久中文字幕一级| 午夜成年电影在线免费观看| 国产午夜福利久久久久久| 久久香蕉国产精品| 国产麻豆成人av免费视频| 色综合婷婷激情| 国产亚洲av高清不卡| 国产不卡一卡二| 久久香蕉国产精品| 给我免费播放毛片高清在线观看| 校园春色视频在线观看| 午夜福利影视在线免费观看| 身体一侧抽搐| 99热只有精品国产| av福利片在线| 免费在线观看视频国产中文字幕亚洲| 久久精品aⅴ一区二区三区四区| 青草久久国产| 久久久久久亚洲精品国产蜜桃av| 亚洲精品一卡2卡三卡4卡5卡| 亚洲久久久国产精品| 两人在一起打扑克的视频| 在线观看66精品国产| 国产一区二区激情短视频| 亚洲第一欧美日韩一区二区三区| 欧美亚洲日本最大视频资源| 亚洲精品中文字幕一二三四区| 中文字幕最新亚洲高清| 少妇粗大呻吟视频| 国产精品精品国产色婷婷| 中出人妻视频一区二区| 美女国产高潮福利片在线看| 精品人妻在线不人妻| 啪啪无遮挡十八禁网站| 国产亚洲欧美精品永久| 国语自产精品视频在线第100页| 欧美在线黄色| 久久久久久久久久久久大奶| 日日爽夜夜爽网站| 国产午夜福利久久久久久| 天堂动漫精品| 一级作爱视频免费观看| 一本大道久久a久久精品| 国产亚洲欧美精品永久| 欧美 亚洲 国产 日韩一| 99国产精品免费福利视频| 亚洲一区高清亚洲精品| 曰老女人黄片| 久热这里只有精品99| 欧美成人性av电影在线观看| 亚洲人成电影免费在线| 一区二区三区国产精品乱码| 男女午夜视频在线观看| 母亲3免费完整高清在线观看| 亚洲成a人片在线一区二区| 又黄又爽又免费观看的视频| 男女下面进入的视频免费午夜 | 欧美日韩精品网址| 91精品三级在线观看| 极品人妻少妇av视频| 一级a爱视频在线免费观看| 国产一区二区激情短视频| 成熟少妇高潮喷水视频| 亚洲专区中文字幕在线| 国产高清有码在线观看视频 | 欧美激情 高清一区二区三区| 欧美黄色淫秽网站| 亚洲中文字幕一区二区三区有码在线看 | 黑丝袜美女国产一区| 久久人人爽av亚洲精品天堂| 亚洲欧美日韩无卡精品| 国产欧美日韩一区二区精品| 国产精品乱码一区二三区的特点 | 久久久久久久久免费视频了| 亚洲成人久久性| 黄色视频,在线免费观看| 日韩一卡2卡3卡4卡2021年| 久久精品亚洲精品国产色婷小说| 亚洲国产精品sss在线观看| 中亚洲国语对白在线视频| 亚洲色图综合在线观看| 国产不卡一卡二| 在线观看免费日韩欧美大片| 午夜免费鲁丝| 国产真人三级小视频在线观看| 久久久久国内视频| 亚洲国产欧美网| 国产私拍福利视频在线观看| x7x7x7水蜜桃| 在线观看免费视频日本深夜| or卡值多少钱| 91老司机精品| 日韩欧美一区视频在线观看| 免费在线观看亚洲国产| 妹子高潮喷水视频| 夜夜爽天天搞| 91在线观看av| 日本精品一区二区三区蜜桃| 精品日产1卡2卡| 97碰自拍视频| 桃红色精品国产亚洲av| 欧美绝顶高潮抽搐喷水| 国产三级黄色录像| 国产精品永久免费网站| 亚洲国产精品sss在线观看| 在线观看免费午夜福利视频| 精品福利观看| 免费看美女性在线毛片视频| 99精品在免费线老司机午夜| 国产av一区二区精品久久| 国产成人一区二区三区免费视频网站| 亚洲午夜精品一区,二区,三区| 欧美激情 高清一区二区三区| 好男人在线观看高清免费视频 | 在线观看日韩欧美| 亚洲精品一卡2卡三卡4卡5卡| 国产成年人精品一区二区| 精品午夜福利视频在线观看一区| 国产精品一区二区精品视频观看| 99热只有精品国产| 欧美中文综合在线视频| 亚洲 国产 在线| 一区二区三区精品91| 国产精品乱码一区二三区的特点 | 看免费av毛片| 欧美午夜高清在线| 熟女少妇亚洲综合色aaa.| 免费看a级黄色片| 欧美日韩一级在线毛片| 黄色成人免费大全| 18禁美女被吸乳视频| 精品高清国产在线一区| 亚洲av成人av| 午夜久久久久精精品| 色在线成人网| 麻豆国产av国片精品| 99久久99久久久精品蜜桃| 亚洲熟妇中文字幕五十中出| 91老司机精品| 亚洲va日本ⅴa欧美va伊人久久| 国产精品九九99| av天堂久久9| 男女下面进入的视频免费午夜 | 最近最新中文字幕大全免费视频| 日日爽夜夜爽网站| 亚洲视频免费观看视频| 国产精品秋霞免费鲁丝片| 在线观看www视频免费| 狠狠狠狠99中文字幕| 国产精品一区二区在线不卡| 午夜免费成人在线视频| 国产亚洲av嫩草精品影院| 欧美绝顶高潮抽搐喷水| 亚洲久久久国产精品| 亚洲av电影不卡..在线观看| 午夜免费成人在线视频| 操出白浆在线播放| 亚洲一区二区三区色噜噜| 国产亚洲av嫩草精品影院| 亚洲欧美日韩另类电影网站| 亚洲国产欧美一区二区综合| 757午夜福利合集在线观看| 国产精品亚洲一级av第二区| 变态另类丝袜制服| 亚洲欧美日韩高清在线视频| 日韩成人在线观看一区二区三区| 真人一进一出gif抽搐免费| 精品高清国产在线一区| 免费高清视频大片| 日本精品一区二区三区蜜桃| 欧美中文综合在线视频| 91成人精品电影| 精品一区二区三区四区五区乱码| 国产精品综合久久久久久久免费 | 午夜福利成人在线免费观看| 巨乳人妻的诱惑在线观看| 女人精品久久久久毛片| 97碰自拍视频| 国产极品粉嫩免费观看在线| 精品国产超薄肉色丝袜足j| 午夜福利视频1000在线观看 | 色精品久久人妻99蜜桃| 欧美精品啪啪一区二区三区| 性色av乱码一区二区三区2| 免费一级毛片在线播放高清视频 | 久久人人爽av亚洲精品天堂| 男人舔女人下体高潮全视频| 中出人妻视频一区二区| 亚洲美女黄片视频| 性欧美人与动物交配| 自线自在国产av| 欧美色视频一区免费| 妹子高潮喷水视频| 色播亚洲综合网| 熟妇人妻久久中文字幕3abv| 性色av乱码一区二区三区2| 激情在线观看视频在线高清| 欧美在线一区亚洲| 国产精品一区二区精品视频观看| 色精品久久人妻99蜜桃| 亚洲五月色婷婷综合| 国产精品 国内视频| 777久久人妻少妇嫩草av网站| 国产成人精品无人区| 美女国产高潮福利片在线看| 欧美成人性av电影在线观看| 99国产精品一区二区三区| 午夜亚洲福利在线播放| 99国产精品一区二区三区| 欧美成人性av电影在线观看| 女性被躁到高潮视频| 亚洲av第一区精品v没综合| 超碰成人久久| 亚洲av第一区精品v没综合| 99国产精品一区二区三区| 大陆偷拍与自拍| 亚洲国产欧美网| 亚洲性夜色夜夜综合| 美国免费a级毛片| 91av网站免费观看| 亚洲自偷自拍图片 自拍| 18禁美女被吸乳视频| 国产亚洲精品一区二区www| 黄频高清免费视频| 少妇熟女aⅴ在线视频| 18禁美女被吸乳视频| 色老头精品视频在线观看| 夜夜爽天天搞| 一级黄色大片毛片| 18禁裸乳无遮挡免费网站照片 | 国产精品永久免费网站| 1024香蕉在线观看| 人人澡人人妻人| 久久天堂一区二区三区四区| 一区二区三区国产精品乱码| 日本 欧美在线| 久久久久久人人人人人| 亚洲精品国产一区二区精华液| 99精品欧美一区二区三区四区| 久久精品亚洲精品国产色婷小说| 青草久久国产| 午夜福利18| 久久人人爽av亚洲精品天堂| 欧美日韩亚洲综合一区二区三区_| 国产亚洲精品久久久久久毛片| 国产欧美日韩综合在线一区二区| 国产不卡一卡二| 日日摸夜夜添夜夜添小说| 国产成人精品久久二区二区91| 国产一级毛片七仙女欲春2 | 一级毛片高清免费大全| 亚洲精华国产精华精| 亚洲av成人不卡在线观看播放网| 色尼玛亚洲综合影院| or卡值多少钱| 黄网站色视频无遮挡免费观看| 久久久久久亚洲精品国产蜜桃av| 黄片小视频在线播放| 99国产精品99久久久久| 中国美女看黄片| 亚洲精品一区av在线观看| 亚洲国产精品久久男人天堂| 欧美老熟妇乱子伦牲交| 91老司机精品| 视频区欧美日本亚洲| 熟妇人妻久久中文字幕3abv| 俄罗斯特黄特色一大片| 后天国语完整版免费观看| 亚洲精品国产区一区二| 国产国语露脸激情在线看| 亚洲伊人色综图| 狂野欧美激情性xxxx| 99re在线观看精品视频| 正在播放国产对白刺激| 中文字幕人妻丝袜一区二区| 精品久久久久久久人妻蜜臀av | 桃红色精品国产亚洲av| 老司机靠b影院| 很黄的视频免费| 97人妻精品一区二区三区麻豆 | 国产精品 国内视频| 国产亚洲av高清不卡| 中文字幕人妻熟女乱码| 国产精品影院久久| 校园春色视频在线观看| 欧美激情 高清一区二区三区| 一级毛片精品| 91av网站免费观看| 国产精品98久久久久久宅男小说| 久久久久九九精品影院| 国产成人欧美| 很黄的视频免费| 久久狼人影院| 欧美久久黑人一区二区| videosex国产| 又黄又爽又免费观看的视频| 黄片大片在线免费观看| 男人舔女人的私密视频| 老司机午夜福利在线观看视频| 国产欧美日韩一区二区三| 我的亚洲天堂| 99国产综合亚洲精品| 老熟妇乱子伦视频在线观看| 亚洲色图 男人天堂 中文字幕| 国产av在哪里看| 日本三级黄在线观看| 91精品三级在线观看| 久久精品亚洲精品国产色婷小说| 别揉我奶头~嗯~啊~动态视频| 国产免费av片在线观看野外av| 成人永久免费在线观看视频| 别揉我奶头~嗯~啊~动态视频| 丰满的人妻完整版| 国产熟女xx| 精品熟女少妇八av免费久了| 久久精品国产清高在天天线| 又黄又粗又硬又大视频| 女警被强在线播放| 亚洲av美国av| 欧美不卡视频在线免费观看 | 国产欧美日韩综合在线一区二区|