面向兩級(jí)數(shù)據(jù)中心的軟件定義存儲(chǔ)研究

中國(guó)聯(lián)通研究院 北京 100032

引言

隨著云計(jì)算應(yīng)用模式的普及，互聯(lián)網(wǎng)技術(shù)的快速發(fā)展，大數(shù)據(jù)時(shí)代數(shù)據(jù)呈爆炸性增長(zhǎng)，傳統(tǒng)的存儲(chǔ)系統(tǒng)越來(lái)越難以滿足企業(yè)IT系統(tǒng)在統(tǒng)一管理、差異化等級(jí)服務(wù)、擴(kuò)展性、安全性等方面的需求。在云計(jì)算環(huán)境下，大量的數(shù)據(jù)集中存儲(chǔ)在若干數(shù)據(jù)中心，隨著數(shù)據(jù)的規(guī)模不斷擴(kuò)大，數(shù)據(jù)存取的瓶頸變得更加嚴(yán)重。為提高數(shù)據(jù)存取速度，海量數(shù)據(jù)被分布存儲(chǔ)到不同節(jié)點(diǎn)以支持并行存取，通過(guò)把大量節(jié)點(diǎn)和網(wǎng)絡(luò)設(shè)備連接在一起，然后以數(shù)據(jù)中心為基礎(chǔ)向用戶提供各種層次的服務(wù)，如存儲(chǔ)服務(wù)、基礎(chǔ)設(shè)施服務(wù)、平臺(tái)服務(wù)和軟件服務(wù)等。但由于不同存儲(chǔ)廠商的存儲(chǔ)設(shè)備和解決方案不同，軟硬件緊耦合、管理接口不統(tǒng)一等，造成現(xiàn)有的存儲(chǔ)系統(tǒng)缺乏靈活性，只能進(jìn)行有限度擴(kuò)展，無(wú)法滿足用戶對(duì)數(shù)據(jù)存儲(chǔ)快速增長(zhǎng)的需求；同時(shí)，底層不同廠商的存儲(chǔ)設(shè)備無(wú)法形成統(tǒng)一、可調(diào)度的存儲(chǔ)資源池，存儲(chǔ)系統(tǒng)的管理成本開銷會(huì)日益龐大。為打破傳統(tǒng)存儲(chǔ)系統(tǒng)軟硬件緊耦合所造成的割裂狀況， 軟件定義存儲(chǔ) (Software De fi ned Storage, SDS)應(yīng)運(yùn)而生。SDS的概念最早由VMware在2012年的VMworld上提出，作為VMware軟件定義數(shù)據(jù)中心五大組成部分 (計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)、管理和安全)中的一項(xiàng)，逐漸進(jìn)入人們的視野。 隨后，EMC公司在當(dāng)年的EMCworld發(fā)布大會(huì)上發(fā)布了SDS戰(zhàn)略，引發(fā)了業(yè)界對(duì)EMC這一策略以及SDS的大討論，SDS迅速成為存儲(chǔ)業(yè)界的研究熱點(diǎn)[1]。

1 存儲(chǔ)技術(shù)面臨的挑戰(zhàn)

數(shù)據(jù)中心面臨數(shù)據(jù)爆發(fā)帶來(lái)的各種挑戰(zhàn)，而作為數(shù)據(jù)存儲(chǔ)和交換的承載實(shí)體，存儲(chǔ)設(shè)備首當(dāng)其沖。1)彈性擴(kuò)展能力提升據(jù)數(shù)據(jù)統(tǒng)計(jì)預(yù)測(cè)，未來(lái)企業(yè)數(shù)據(jù)中心內(nèi)管理的數(shù)據(jù)量將以每年增加50%。數(shù)據(jù)的爆發(fā)式增長(zhǎng)，迫切需要數(shù)據(jù)中心的存儲(chǔ)能力大大提升。但在提高存儲(chǔ)容量的同時(shí)，也要保證業(yè)務(wù)應(yīng)用的連續(xù)性和性能需求，這就要求存儲(chǔ)資源具備良好的彈性擴(kuò)展能力，消除單節(jié)點(diǎn)的存儲(chǔ)能力瓶頸， 保持無(wú)線的節(jié)點(diǎn)擴(kuò)展性。2)異構(gòu)存儲(chǔ)資源整合當(dāng)前數(shù)據(jù)中心存在大量來(lái)自不同廠商的異構(gòu)存儲(chǔ)設(shè)備，例如SAN、NAS等。這些設(shè)備上的存儲(chǔ)空間大多是孤立的，不能形成統(tǒng)一的存儲(chǔ)資源池，也無(wú)法統(tǒng)一管理，造成了一定程度的資源浪費(fèi)和運(yùn)營(yíng)管理復(fù)雜性。如何有效整合各類異構(gòu)存儲(chǔ)資源，形成統(tǒng)一的資源池供應(yīng)用調(diào)用，是當(dāng)前數(shù)據(jù)中心面臨的一大問(wèn)題。3)智能化資源管理隨著業(yè)務(wù)需求的發(fā)展，需要數(shù)據(jù)中心的存儲(chǔ)資源能夠根據(jù)需求快速靈活地自動(dòng)和動(dòng)態(tài)分配，實(shí)現(xiàn)智能化的存儲(chǔ)資源管理。4)差異化服務(wù)等級(jí)由于數(shù)據(jù)存儲(chǔ)選擇LUN時(shí)并不考慮每個(gè)應(yīng)用的性能和可用性要求，因此，難以在存儲(chǔ)方面保證不同應(yīng)用的服務(wù)等級(jí)，以確保重要業(yè)務(wù)的存儲(chǔ)性能[1-2]。

2 軟件定義存儲(chǔ)定義

軟件定義存儲(chǔ)是一種數(shù)據(jù)存儲(chǔ)方式，通過(guò)標(biāo)準(zhǔn)化、抽象化(虛擬化)等將原來(lái)高度耦合的一體化硬件解耦，并以API的方式建立虛擬化軟件層，把存儲(chǔ)應(yīng)用程序與物理的數(shù)據(jù)存儲(chǔ)基礎(chǔ)設(shè)施分離，自動(dòng)進(jìn)行硬件資源的部署、 優(yōu)化和管理，將各類存儲(chǔ)資源進(jìn)行抽象化和池化，可以靈活配置存儲(chǔ)資源，實(shí)現(xiàn)應(yīng)用按需求(如容量、性能、QoS、SLA等)自動(dòng)使用存儲(chǔ)，為應(yīng)用提供服務(wù)。通過(guò)軟件定義可管理來(lái)自不同廠商的所有物理和虛擬存儲(chǔ)資源，可以在不增加任何工作量的情況下進(jìn)行縱向擴(kuò)展(Scale-Up)或橫向擴(kuò)展(Scale-Out)，并按需進(jìn)行自動(dòng)配置，輕松地將所有資源池化，并通過(guò)一個(gè)友好的用戶界面(UI)提供給應(yīng)用。軟件定義存儲(chǔ)應(yīng)具有以下特征。

1)自動(dòng)化簡(jiǎn)管理支持異構(gòu)存儲(chǔ)設(shè)備快速接入和統(tǒng)一管理，對(duì)異構(gòu)存儲(chǔ)池中的所有資源實(shí)施一致的策略，對(duì)存儲(chǔ)的使用像為每個(gè)應(yīng)用或虛擬機(jī)指定容量、性能和可用性要求那樣簡(jiǎn)單。最大限度地利用底層存儲(chǔ)資源，同時(shí)，將管理開銷降至最低，降低維護(hù)存儲(chǔ)架構(gòu)的成本。

2)標(biāo)準(zhǔn)接口對(duì)外提供豐富的數(shù)據(jù)接口，如文件系統(tǒng)接口(NFS、CIFS 等)、塊接口(iSCSI、FC 等)、對(duì)象接口(S3、 SWIFT 等)；對(duì)內(nèi)提供標(biāo)準(zhǔn)的應(yīng)用管理接口進(jìn)行存儲(chǔ)配置，無(wú)需人工干預(yù)，滿足應(yīng)用和客戶所需的存儲(chǔ)資源。

3)存儲(chǔ)虛擬化存儲(chǔ)虛擬化可以聚合異構(gòu)存儲(chǔ)資源到一個(gè)共享的存儲(chǔ)池，對(duì)所有存儲(chǔ)設(shè)備中的存儲(chǔ)容量進(jìn)行充分利用，實(shí)現(xiàn)數(shù)據(jù)跨異構(gòu)孤島，數(shù)據(jù)無(wú)縫遷移，方便管理。

4)擴(kuò)展性在不中斷業(yè)務(wù)應(yīng)用的情況下可提供可靠性和性能的無(wú)縫擴(kuò)展；對(duì)資源池可進(jìn)行縱向擴(kuò)展或橫向擴(kuò)展。

5)硬件無(wú)關(guān)軟件定義存儲(chǔ)允許運(yùn)行在通用的硬件設(shè)備上，用戶不必采用特定廠商的存儲(chǔ)硬件[2]。

3 軟件定義存儲(chǔ)架構(gòu)

3.1 系統(tǒng)需求

1)跨數(shù)據(jù)中心統(tǒng)一管理隨著數(shù)據(jù)增長(zhǎng)，存儲(chǔ)規(guī)模越來(lái)越大，當(dāng)存儲(chǔ)容量達(dá)到EB、ZB級(jí)后很難在一個(gè)數(shù)據(jù)中心內(nèi)組織資源管理，需要跨數(shù)據(jù)中心進(jìn)行數(shù)據(jù)存儲(chǔ)服務(wù)，并支持跨域訪問(wèn)、容災(zāi)備份、異地雙活等能力。

2)面向業(yè)務(wù)的管理策略傳統(tǒng)存儲(chǔ)系統(tǒng)存儲(chǔ)資源與業(yè)務(wù)獨(dú)立，新的存儲(chǔ)系統(tǒng)需要針對(duì)業(yè)務(wù)進(jìn)行專業(yè)化的策略管理，如根據(jù)業(yè)務(wù)的變化彈性配額、根據(jù)業(yè)務(wù)量的變化彈性存儲(chǔ)性能擴(kuò)展等；提供對(duì)租戶和業(yè)務(wù)的隔離以及以用戶為單位、以業(yè)務(wù)為單位、以存儲(chǔ)容器為單位的數(shù)據(jù)隔離。

3) 智能調(diào)度和自動(dòng)負(fù)載均衡新的數(shù)據(jù)中心存儲(chǔ)系統(tǒng)的存儲(chǔ)節(jié)點(diǎn)規(guī)模從幾萬(wàn)到幾十萬(wàn)個(gè)，對(duì)超大規(guī)模的數(shù)據(jù)請(qǐng)求和節(jié)點(diǎn)數(shù)，應(yīng)進(jìn)行高效的負(fù)載均衡，充分發(fā)揮空閑節(jié)點(diǎn)保障存儲(chǔ)服務(wù)質(zhì)量，提高系統(tǒng)運(yùn)行效能；并根據(jù)存儲(chǔ)設(shè)備性能(如容量、類型、性能等)為業(yè)務(wù)選擇合適的存儲(chǔ)資源，對(duì)業(yè)務(wù)進(jìn)行SLA的多層次自動(dòng)負(fù)載均衡和調(diào)度功能。

4)彈性擴(kuò)展當(dāng)需要調(diào)整存儲(chǔ)資源池時(shí)，可在業(yè)務(wù)不中斷或盡量減少對(duì)業(yè)務(wù)影響的情況下對(duì)存儲(chǔ)資源池進(jìn)行增加或減少存儲(chǔ)設(shè)備[3]。

3.2 參考架構(gòu)設(shè)計(jì)

綜合兩級(jí)數(shù)據(jù)中心特點(diǎn)，結(jié)合軟件定義存儲(chǔ)的特征，需要著重考慮軟硬件解耦、靈活存儲(chǔ)管理配置策略、智能的存儲(chǔ)能力以及存儲(chǔ)資源擴(kuò)展性等因素，軟件定義存儲(chǔ)的技術(shù)架構(gòu)如圖 1 所示。

圖1 軟件定義存儲(chǔ)技術(shù)架構(gòu)

軟件定義存儲(chǔ)系統(tǒng)主要分為4個(gè)邏輯層，即訪問(wèn)層、軟件定義存儲(chǔ)層、適配層和存儲(chǔ)資源池。每一層扮演著不同的角色，功能也有所不同。1)訪問(wèn)層主要包括管理接口和數(shù)據(jù)接口，管理接口主要提供與管理門戶、計(jì)量計(jì)費(fèi)相關(guān)的接口；而數(shù)據(jù)接口則通過(guò)協(xié)議轉(zhuǎn)換的方式為外部應(yīng)用提供豐富的數(shù)據(jù)接口，如塊存儲(chǔ)接口、對(duì)象存儲(chǔ)接口、文件存儲(chǔ)接口、HDFS 接口等。2)軟件定義存儲(chǔ)層對(duì)底層存儲(chǔ)資源統(tǒng)一管理和池化，基于存儲(chǔ)設(shè)備的性能、應(yīng)用需求性能、可靠性等指標(biāo)進(jìn)行相關(guān)策略配置，為不同的應(yīng)用分配適合的存儲(chǔ)資源，實(shí)現(xiàn)存儲(chǔ)資源的按需供給以及彈性調(diào)整；同時(shí)，通過(guò)軟件定義可以實(shí)現(xiàn)快照、數(shù)據(jù)復(fù)制、壓縮加密等功能。3)適配層主要通過(guò)中間件提供多種訪問(wèn)接口實(shí)現(xiàn)對(duì)底層異構(gòu)存儲(chǔ)系統(tǒng)或設(shè)備的訪問(wèn)或管理。4)存儲(chǔ)資源池中包含業(yè)界主流的存儲(chǔ)類型：分布式存儲(chǔ)、SAN存儲(chǔ)、NAS存儲(chǔ)或?qū)ο蟠鎯?chǔ)，由軟件定義存儲(chǔ)層進(jìn)行統(tǒng)一管理和調(diào)度，為外部的應(yīng)用提供存儲(chǔ)服務(wù)[4-5]。軟件定義存儲(chǔ)邏輯架構(gòu)如圖2所示。

圖2 軟件定義存儲(chǔ)邏輯架構(gòu)

4 軟件定義存儲(chǔ)技術(shù)分析

當(dāng)前軟件定義存儲(chǔ)技術(shù)還處于快速發(fā)展的初期，各大存儲(chǔ)設(shè)備廠商紛紛對(duì)外發(fā)布具有軟件定義概念的存儲(chǔ)產(chǎn)品，但各家對(duì)軟件定義存儲(chǔ)理解不同， 國(guó)際上尚未形成統(tǒng)一的標(biāo)準(zhǔn)規(guī)范，所以，各家產(chǎn)品形態(tài)也不盡相同。通過(guò)業(yè)界典型的軟件定義存儲(chǔ)產(chǎn)品技術(shù)，可以進(jìn)一步明確軟件定義存儲(chǔ)的技術(shù)形態(tài)，剖析技術(shù)未來(lái)的發(fā)展路線。

4.1 VMware Virtual SAN(VSAN)

VMware VSAN是專為虛擬機(jī)設(shè)計(jì)的軟件定義存儲(chǔ)技術(shù)，與VMware的服務(wù)器虛擬化技術(shù)和虛擬機(jī)環(huán)境管理程序緊密結(jié)合在一起。VSAN運(yùn)行在標(biāo)準(zhǔn)x86服務(wù)器上的直連存儲(chǔ)，利用服務(wù)器本地SSD硬盤作為緩存，提供性能，同時(shí)結(jié)合使用本地HDD硬盤來(lái)為虛擬機(jī)提供分布式數(shù)據(jù)存儲(chǔ)容量，而不需要使用任何特殊的硬件。 VSAN是分布式的服務(wù)器集群，基于對(duì)象的分布式體系結(jié)構(gòu)把虛擬機(jī)數(shù)據(jù)文件打散放在多個(gè)主機(jī)上，可以有效地避免任何單點(diǎn)故障帶來(lái)的影響。在網(wǎng)絡(luò)功能的支持下，VSAN可以將存儲(chǔ)空間延展到最多32個(gè)節(jié)點(diǎn)。由于VSAN技術(shù)采用服務(wù)器的本地磁盤提供存儲(chǔ)容量，且不需要特殊的硬件支持，在性能大致相當(dāng)?shù)那闆r下，相對(duì)傳統(tǒng)的專用存儲(chǔ)設(shè)備，可以大大降低成本；可以利用VSAN技術(shù)充分利舊原有的服務(wù)器，使服務(wù)器本地存儲(chǔ)充分發(fā)揮作用。VSAN的工作模式也很好地契合大數(shù)據(jù)Hadoop處理架構(gòu)，但VSAN是專為VMware虛擬機(jī)設(shè)計(jì)的存儲(chǔ)技術(shù)，與VMware虛擬化環(huán)境緊密結(jié)合，只用于VMware的網(wǎng)絡(luò)建設(shè)，這大大限制了VSAN技術(shù)的應(yīng)用范圍[6]。

4.2 EMC ViPR

EMC的ViPR作為最早冠以軟件定義存儲(chǔ)名號(hào)的產(chǎn)品，是一種將存儲(chǔ)轉(zhuǎn)變?yōu)橐粋€(gè)可擴(kuò)展開放平臺(tái)的純軟件解決方案。ViPR使用單個(gè)平臺(tái)進(jìn)行存儲(chǔ)的集中化和自動(dòng)化管理，并可以跨越混合存儲(chǔ)類型和不同廠商的磁陣來(lái)交付存儲(chǔ)服務(wù)。在ViPR架構(gòu)中，控制平面與數(shù)據(jù)平面分離，兩者可以一起使用，或者客戶通過(guò)基于策略的自動(dòng)化，只使用控制平臺(tái)管理存儲(chǔ)陣列的底層智能。ViPR控制器將底層的存儲(chǔ)基礎(chǔ)架構(gòu)完全虛擬化，采用自動(dòng)化的方式進(jìn)行存儲(chǔ)資源的管理和調(diào)用。其中，配置和遷移之類的通用存儲(chǔ)管理功能已經(jīng)抽象出來(lái)，這樣，不同的存儲(chǔ)陣列可以作為單一的池化資源，以完全相同的方式進(jìn)行統(tǒng)一管理。這些存儲(chǔ)池一旦建立，將由多個(gè)應(yīng)用劃分使用。應(yīng)用程序可以根據(jù)存儲(chǔ)服務(wù)目錄，配置最適合其需求的存儲(chǔ)資源。ViPR數(shù)據(jù)服務(wù)提供兼容Amazon S3和OpenStack Swift的REST API和 HDFS訪問(wèn)方法，基于這些API編寫的應(yīng)用軟件應(yīng)用可以直接運(yùn)行。ViPR數(shù)據(jù)服務(wù)支持EMC的陣列，同時(shí)也支持第三方陣列和商品化存儲(chǔ)硬件。業(yè)務(wù)應(yīng)用可以基于實(shí)際負(fù)載，確定合適的性能、服務(wù)質(zhì)量和成本特性[7]。

4.3 HP Virtual Storage Appliance(VSA)

VSA是一種純軟件的存儲(chǔ)解決方案，既可以安裝在物理服務(wù)器上，也可以用于虛擬化環(huán)境。VSA部署在通用的x86服務(wù)器上，對(duì)硬件沒(méi)有特定要求，通過(guò)HBA或者RAID卡以直通模式連接本地服務(wù)器硬盤，或者連接外部存儲(chǔ)設(shè)備(如DAS或者SAN)。在虛擬化環(huán)境中，VSA可以管理由Hypervisor創(chuàng)建的虛擬硬盤，將這些存儲(chǔ)資源整合為一個(gè)統(tǒng)一的資源池進(jìn)行管理。在VSA部署的x86服務(wù)器構(gòu)成的集群中，每臺(tái)服務(wù)器上都會(huì)有一個(gè)VSA控制器用于數(shù)據(jù)管理和提供高級(jí)存儲(chǔ)功能，如自動(dòng)精簡(jiǎn)配置、自動(dòng)分層存儲(chǔ)以及快照等，實(shí)現(xiàn)自動(dòng)化的存儲(chǔ)資源配置和調(diào)度。另一方面，利用基于RAID的數(shù)據(jù)保護(hù)技術(shù)將多個(gè)VSA聚合形成集群從而實(shí)現(xiàn)分散物理存儲(chǔ)資源的整合，以軟件定義的方式為集群提供可擴(kuò)展性和可靠性。VSA實(shí)現(xiàn)存儲(chǔ)資源控制平面和數(shù)據(jù)平面的軟件功能，通過(guò)解除數(shù)據(jù)平面的軟件功能與具體的物理硬件的耦合來(lái)實(shí)現(xiàn)控制平面和數(shù)據(jù)平面都不依賴特定的硬件。這樣，VSA可以使用現(xiàn)有通用服務(wù)器、DAS及SAN存儲(chǔ)硬件，實(shí)現(xiàn)存儲(chǔ)資源的整合和統(tǒng)一調(diào)度。

5 結(jié)語(yǔ)

盡管軟件定義存儲(chǔ)技術(shù)還處于初期階段，各廠商具體實(shí)現(xiàn)方式也不同，但從技術(shù)發(fā)展演進(jìn)的角度來(lái)看，總體發(fā)展卻都大致統(tǒng)一[8]。 首先，軟件定義存儲(chǔ)技術(shù)要實(shí)現(xiàn)異構(gòu)存儲(chǔ)的統(tǒng)一管理，對(duì)外提供統(tǒng)一的存儲(chǔ)資源池。其次，對(duì)底層存儲(chǔ)資源實(shí)現(xiàn)監(jiān)控管理，提供統(tǒng)一存儲(chǔ)服務(wù)的應(yīng)用接口，實(shí)現(xiàn)完全開放的存儲(chǔ)資源管理和調(diào)度平臺(tái)。最后，實(shí)現(xiàn)向業(yè)務(wù)應(yīng)用提供按需供給的彈性擴(kuò)展服務(wù)模式，實(shí)現(xiàn)存儲(chǔ)服務(wù)的自動(dòng)化管理，滿足業(yè)務(wù)應(yīng)用對(duì)存儲(chǔ)彈性擴(kuò)展和智能調(diào)整的需求。

通過(guò)軟件定義的存儲(chǔ)，可以動(dòng)態(tài)滿足應(yīng)用的存儲(chǔ)需求，應(yīng)用的存儲(chǔ)負(fù)載可隨著業(yè)務(wù)量的變化而底層存儲(chǔ)實(shí)時(shí)調(diào)整存儲(chǔ)工作負(fù)載，滿足客戶的SLA，簡(jiǎn)化自動(dòng)化管理流程，并確保服務(wù)始終在線，并降低運(yùn)維成本。

參考文獻(xiàn)

[1] 劉園,王峰,楊明川.面向大數(shù)據(jù)的分布式存儲(chǔ)技術(shù)研究[J].電信技術(shù),2015(6):33-36

[2] 詹明非.軟件定義存儲(chǔ)技術(shù)及其應(yīng)用研究[J].電信技術(shù),2014(12):30-32

[3] 孫振正,龔靖,段勇,等.面向下一代數(shù)據(jù)中心的軟件定義存儲(chǔ)技術(shù)研究[J].研究與開發(fā),2014(1):39-43

[4] 許寧寧.云平臺(tái)中軟件定義存儲(chǔ)資源[J].通信設(shè)計(jì)與應(yīng)用,2015(11):117-118

[5] 王意潔,孫偉東,周松,等.云計(jì)算環(huán)境下的分布存儲(chǔ)關(guān)鍵技術(shù)[J].軟件學(xué)報(bào),2012(4):962-986

[6] VMware推新VMware VSAN對(duì)軟件定義存儲(chǔ)進(jìn)行了擴(kuò)展[EB/OL].[2016-02-20].http://www.d1net.com/storage/solution/233736.html

[7] EMC發(fā)布全新軟件定義存儲(chǔ)平臺(tái)ViPR[EB/OL].[2016-02-20].http://storage.chinabyte.com/146/12608146.shtml

[8] 陳杰.大數(shù)據(jù)場(chǎng)景下的云存儲(chǔ)技術(shù)與應(yīng)用[J].中興通訊技術(shù),2012(6):47-51