基于云存儲(chǔ)技術(shù)的存儲(chǔ)架構(gòu)模型

員建廈

（中國(guó)電子科技集團(tuán)公司第五十四研究所河北石家莊050081）

1引言

隨著信息技術(shù)特別是網(wǎng)絡(luò)技術(shù)的迅速發(fā)展，計(jì)算機(jī)所處理的數(shù)據(jù)量正以前所未有的爆炸性趨勢(shì)急劇增長(zhǎng)，數(shù)據(jù)存儲(chǔ)逐漸成為制約系統(tǒng)發(fā)展的關(guān)鍵問(wèn)題。如何對(duì)快速增長(zhǎng)的海量數(shù)據(jù)進(jìn)行安全、高效、低成本的存儲(chǔ)、管理和使用已成為目前存儲(chǔ)系統(tǒng)面臨的巨大挑戰(zhàn)。越來(lái)越多的企業(yè)開(kāi)始將數(shù)據(jù)存儲(chǔ)分離出來(lái)作為獨(dú)立的項(xiàng)目進(jìn)行管理。云存儲(chǔ)（cloud storage）的高可靠性、高通用性、高擴(kuò)展性、大容量的特點(diǎn)，以傳統(tǒng)數(shù)據(jù)中心無(wú)法比擬的優(yōu)勢(shì)，正在成為企業(yè)實(shí)現(xiàn)提高效率、降低成本的重要選擇。

云存儲(chǔ)作為一種新形態(tài)存儲(chǔ)系統(tǒng)，以其在大容量、易管理、高可擴(kuò)展和按需服務(wù)等方面的優(yōu)勢(shì)而受到學(xué)術(shù)界和產(chǎn)業(yè)界的重視，被普遍認(rèn)為是應(yīng)對(duì)未來(lái)存儲(chǔ)系統(tǒng)所面臨挑戰(zhàn)的一種有效方法。云存儲(chǔ)是一種基于Internet的大規(guī)?！凹小笔酱鎯?chǔ)系統(tǒng)，其存儲(chǔ)系統(tǒng)是由地理上廣泛分布的各種不同類型的存儲(chǔ)設(shè)備構(gòu)成，由專門的存儲(chǔ)服務(wù)供應(yīng)商(StoragService Provider，SSP)管理。云存儲(chǔ)以數(shù)據(jù)存儲(chǔ)服務(wù)的形式提供給用戶，簡(jiǎn)化了用戶的部署和使用成本，使得能夠按需地、綠地的存儲(chǔ)。

目前云存儲(chǔ)系統(tǒng)大都以文件備份的形式提供數(shù)據(jù)存儲(chǔ)服務(wù)。盡管后端的云存儲(chǔ)系統(tǒng)提供了巨大的存儲(chǔ)空間，但隨著文件和所需存儲(chǔ)數(shù)據(jù)的增多，前端客戶端的存儲(chǔ)空間會(huì)越來(lái)越小，性能也會(huì)隨之下降。文中提出了一種面向云存儲(chǔ)的存儲(chǔ)架構(gòu)，在該存儲(chǔ)架構(gòu)中既解決了存儲(chǔ)數(shù)據(jù)量和數(shù)據(jù)讀寫性能的問(wèn)題，又可以通過(guò)容量的不斷擴(kuò)展提高讀寫的性能。

2云存儲(chǔ)技術(shù)

2.1云存儲(chǔ)技術(shù)特點(diǎn)

云計(jì)算是一種以數(shù)據(jù)為中心的服務(wù)密集型計(jì)算，而云存儲(chǔ)是云計(jì)算的底層數(shù)據(jù)支持環(huán)境，為云計(jì)算提供高可用、高可靠、運(yùn)營(yíng)成本低的數(shù)據(jù)存儲(chǔ)服務(wù)。目前，云存儲(chǔ)服務(wù)分為個(gè)人級(jí)應(yīng)用和企業(yè)級(jí)應(yīng)用。企業(yè)級(jí)的云存儲(chǔ)服務(wù)主要用于空間租賃、遠(yuǎn)程數(shù)據(jù)容災(zāi)和視頻監(jiān)控存儲(chǔ)支持。云存儲(chǔ)服務(wù)沿用傳統(tǒng)的集群技術(shù)、網(wǎng)絡(luò)計(jì)算和分布式存儲(chǔ)技術(shù)，將網(wǎng)絡(luò)中大量低廉的計(jì)算設(shè)備進(jìn)行有機(jī)集成，避免了盲目擴(kuò)張濫建。

云存儲(chǔ)服務(wù)具有高可靠性、高通用性、高擴(kuò)展性及大容量存儲(chǔ)等特點(diǎn)，因此進(jìn)行云存儲(chǔ)服務(wù)系統(tǒng)的研究不僅緊跟技術(shù)發(fā)展的趨勢(shì)，而且具有較高的應(yīng)用價(jià)值。系統(tǒng)對(duì)存儲(chǔ)容量的需求也日益增加，系統(tǒng)的數(shù)據(jù)量動(dòng)輒TB級(jí)甚至PB級(jí)。同時(shí)，存儲(chǔ)設(shè)備（磁盤陣列）容量的增長(zhǎng)和存儲(chǔ)設(shè)備成本的降低也使海量存儲(chǔ)客觀上成為可能，但是保存的數(shù)據(jù)量大了以后，需要處理的數(shù)據(jù)量也增大了，系統(tǒng)對(duì)高性能事務(wù)處理的需求也不斷提高，此時(shí)傳統(tǒng)的存儲(chǔ)方式已經(jīng)成為訪問(wèn)性能的“瓶頸”，對(duì)這些海量數(shù)據(jù)的存儲(chǔ)和高效訪問(wèn)是一個(gè)迫切需要解決的問(wèn)題。云存儲(chǔ)還具有如下的特點(diǎn)，超強(qiáng)的可擴(kuò)展性、不受具體地理位置所限、基于商業(yè)組件、按照使用收費(fèi)（如每G收15 cent）、可跨不同應(yīng)用等。

云存儲(chǔ)對(duì)使用者來(lái)講，不是指某一個(gè)具體的設(shè)備，而是指一個(gè)由許許多多個(gè)存儲(chǔ)設(shè)備和服務(wù)器所構(gòu)成的集合體。使用者使用云存儲(chǔ)，并不是使用某一個(gè)存儲(chǔ)設(shè)備，而是使用云存儲(chǔ)系統(tǒng)帶來(lái)的數(shù)據(jù)訪問(wèn)服務(wù)。云存儲(chǔ)的核心是應(yīng)用軟件與存儲(chǔ)設(shè)備相結(jié)合，通過(guò)應(yīng)用軟件來(lái)實(shí)現(xiàn)存儲(chǔ)設(shè)備向存儲(chǔ)服務(wù)的轉(zhuǎn)變[1]。

2.2云存儲(chǔ)和云計(jì)算的關(guān)系

云存儲(chǔ)是在云計(jì)算（cloud computing）概念上延伸和發(fā)展出來(lái)的一個(gè)新的概念，因此要了解云存儲(chǔ)首先要了解云計(jì)算。云計(jì)算是一種基于網(wǎng)絡(luò)的超級(jí)計(jì)算模式，在遠(yuǎn)程的數(shù)據(jù)中心里，成千上萬(wàn)臺(tái)電腦和服務(wù)器連接成一片電腦云。因此，云計(jì)算可以讓你體驗(yàn)每秒萬(wàn)億次的運(yùn)算能力，擁有這么強(qiáng)大的計(jì)算能力可以模擬核爆炸、預(yù)測(cè)氣候變化和市場(chǎng)發(fā)展趨勢(shì)。用戶通過(guò)電腦、筆記本、手機(jī)等方式接入數(shù)據(jù)中心，按自己的需求進(jìn)行運(yùn)算。隨著云計(jì)算概念的逐步深入，人們開(kāi)始為海量信息尋找一個(gè)新的安身之處—云存儲(chǔ)[2]。

云存儲(chǔ)從出現(xiàn)就得到了廣泛的關(guān)注和支持。云存儲(chǔ)的概念與云計(jì)算類似，它是指通過(guò)集群應(yīng)用、網(wǎng)格技術(shù)或分布式文件系統(tǒng)等功能，將網(wǎng)絡(luò)中大量各種不同類型的存儲(chǔ)設(shè)備通過(guò)應(yīng)用軟件集合起來(lái)協(xié)同工作，共同對(duì)外提供數(shù)據(jù)存儲(chǔ)和業(yè)務(wù)訪問(wèn)功能的一個(gè)系統(tǒng)[3]。云存儲(chǔ)的興起使得整個(gè)IT界處于一個(gè)重大的變革期，從以設(shè)備應(yīng)用程序?yàn)橹行霓D(zhuǎn)向以信息為中心，而這一轉(zhuǎn)變還將引發(fā)一系列的變革，并影響到技術(shù)和業(yè)務(wù)模式兩個(gè)層面。云存儲(chǔ)的最大特點(diǎn)是海量、高性能、高訪問(wèn)量以及低成本，而其帶來(lái)的最大變革是：提供商逐漸從銷售工具轉(zhuǎn)向根據(jù)工具的實(shí)際使用收費(fèi)，也就是從賣產(chǎn)品轉(zhuǎn)向了賣服務(wù)。因此，可以說(shuō)云存儲(chǔ)不是存儲(chǔ)而是服務(wù)。

云計(jì)算是分布式處理（Distributed Computing）、并行處理（Parallel Computing）和網(wǎng)格計(jì)算（Grid Computing）的發(fā)展，是透過(guò)網(wǎng)絡(luò)將龐大的計(jì)算處理程序自動(dòng)分拆成無(wú)數(shù)個(gè)較小的子程序，再交由多臺(tái)服務(wù)器所組成的龐大系統(tǒng)計(jì)算分析之后將處理結(jié)果回傳給用戶。云計(jì)算技術(shù)可以讓網(wǎng)絡(luò)服務(wù)提供者在極短時(shí)間，例如數(shù)秒之內(nèi)處理數(shù)以千萬(wàn)計(jì)甚至億計(jì)的信息，達(dá)到和“超級(jí)計(jì)算機(jī)”同樣強(qiáng)大的網(wǎng)絡(luò)服務(wù)。云計(jì)算系統(tǒng)的建設(shè)目標(biāo)是將運(yùn)行在PC上或單個(gè)服務(wù)器上的、獨(dú)立的、個(gè)人化的運(yùn)算遷移到一個(gè)數(shù)量龐大服務(wù)器“云”中，由這個(gè)云系統(tǒng)來(lái)負(fù)責(zé)處理用戶的請(qǐng)求，并輸出結(jié)果，它是一個(gè)以數(shù)據(jù)運(yùn)算和處理為核心的系統(tǒng)。

云存儲(chǔ)是在云計(jì)算概念上延伸和發(fā)展出來(lái)的一個(gè)新的概念。當(dāng)云計(jì)算系統(tǒng)運(yùn)算和處理的核心是大量數(shù)據(jù)的存儲(chǔ)和管理時(shí)，云計(jì)算系統(tǒng)中就需要配置大量的存儲(chǔ)設(shè)備，那么云計(jì)算系統(tǒng)就轉(zhuǎn)變成為一個(gè)云存儲(chǔ)系統(tǒng)，所以云存儲(chǔ)是一個(gè)以數(shù)據(jù)存儲(chǔ)和管理為核心的云計(jì)算系統(tǒng)。從架構(gòu)模型來(lái)看，云存儲(chǔ)系統(tǒng)比云計(jì)算系統(tǒng)多了一個(gè)存儲(chǔ)層，同時(shí)，在基礎(chǔ)管理也多了很多與數(shù)據(jù)管理和數(shù)據(jù)安全有關(guān)的功能。

2.3云存儲(chǔ)的層次模型

與傳統(tǒng)的存儲(chǔ)設(shè)備相比，云存儲(chǔ)不僅僅是一個(gè)硬件，還是一個(gè)網(wǎng)絡(luò)設(shè)備、存儲(chǔ)設(shè)備、服務(wù)器、應(yīng)用軟件、公用訪問(wèn)接口、接入網(wǎng)、和客戶端程序等多個(gè)部分組成的復(fù)雜系統(tǒng)。各部分以存儲(chǔ)設(shè)備為核心，通過(guò)應(yīng)用軟件來(lái)對(duì)外提供數(shù)據(jù)存儲(chǔ)和業(yè)務(wù)訪問(wèn)服務(wù)。云存儲(chǔ)系統(tǒng)的結(jié)構(gòu)模型由4層組成。

①存儲(chǔ)層：存儲(chǔ)層是云存儲(chǔ)最基礎(chǔ)的部分。存儲(chǔ)設(shè)備可以是光纖通道存儲(chǔ)設(shè)備，也可以是其他的存儲(chǔ)設(shè)備。云存儲(chǔ)中的存儲(chǔ)設(shè)備往往數(shù)量龐大且分布在不同地域，彼此之間通過(guò)廣域網(wǎng)、互聯(lián)網(wǎng)或者光纖通道網(wǎng)絡(luò)連接在一起。存儲(chǔ)設(shè)備之上是一個(gè)統(tǒng)一存儲(chǔ)設(shè)備管理系統(tǒng)，可以實(shí)現(xiàn)存儲(chǔ)設(shè)備的邏輯虛擬化管理、多鏈路冗余管理，以及硬件設(shè)備的狀態(tài)監(jiān)控和故障維護(hù)；

②基礎(chǔ)管理層：基礎(chǔ)管理層是云存儲(chǔ)最核心的部分，也是云存儲(chǔ)中最難以實(shí)現(xiàn)的部分?；A(chǔ)管理層通過(guò)集群、分布式文件系統(tǒng)和網(wǎng)格計(jì)算等技術(shù)，實(shí)現(xiàn)云存儲(chǔ)中多個(gè)存儲(chǔ)設(shè)備之間的協(xié)同工作，使多個(gè)存儲(chǔ)設(shè)備可以對(duì)外提供同一種服務(wù)，并提供更大更強(qiáng)更好的數(shù)據(jù)訪問(wèn)性能。CDN內(nèi)容分發(fā)系統(tǒng)和數(shù)據(jù)加密技術(shù)保證云存儲(chǔ)中的數(shù)據(jù)不會(huì)被未授權(quán)的用戶所訪問(wèn)，同時(shí)，通過(guò)各種數(shù)據(jù)備份和容災(zāi)技術(shù)措施可以保證云存儲(chǔ)中的數(shù)據(jù)不會(huì)丟失，保證云存儲(chǔ)自身的安全和穩(wěn)定；

③應(yīng)用接口層：應(yīng)用接口層是云存儲(chǔ)最靈活多變的部分。不同的云存儲(chǔ)運(yùn)營(yíng)單位可以根據(jù)實(shí)際業(yè)務(wù)類型，開(kāi)發(fā)不同的應(yīng)用服務(wù)接口，提供不同的應(yīng)用服務(wù)。比如視頻監(jiān)控應(yīng)用平臺(tái)、網(wǎng)絡(luò)硬盤應(yīng)用平臺(tái)和遠(yuǎn)程數(shù)據(jù)備份應(yīng)用平臺(tái)等；

④訪問(wèn)層：基于的云存儲(chǔ)服務(wù)系統(tǒng)研究任何一個(gè)授權(quán)用戶都可以通過(guò)標(biāo)準(zhǔn)的公用應(yīng)用接口來(lái)登錄云存儲(chǔ)系統(tǒng)，享受云存儲(chǔ)服務(wù)。云存儲(chǔ)運(yùn)營(yíng)服務(wù)商不同，云存儲(chǔ)提供的訪問(wèn)類型和訪問(wèn)手段也不同。

3基于云存儲(chǔ)的存儲(chǔ)模型

3.1數(shù)據(jù)存儲(chǔ)結(jié)構(gòu)模型

通過(guò)分布式文件系統(tǒng)構(gòu)成一個(gè)完整的集群存儲(chǔ)解決方案。在一個(gè)分布式存儲(chǔ)系統(tǒng)中，為了確保檢索最快，讀寫性能最優(yōu)，元數(shù)據(jù)節(jié)點(diǎn)將所有對(duì)象按照某一算法分別存放到所有對(duì)象存儲(chǔ)節(jié)點(diǎn)上，提高了存儲(chǔ)設(shè)備的存儲(chǔ)速度，同時(shí)提高了利用率，有效地降低了成本。分布式文件系統(tǒng)是指文件系統(tǒng)管理的物理存儲(chǔ)資源不一定直接連接在本地節(jié)點(diǎn)上，而是通過(guò)計(jì)算機(jī)網(wǎng)絡(luò)與節(jié)點(diǎn)相連，它在整個(gè)分布式體系架構(gòu)中處于最基礎(chǔ)的地位[4]。

分布式存儲(chǔ)的技術(shù)優(yōu)勢(shì)主要體現(xiàn)在以下幾個(gè)方面[5]：

①?gòu)?qiáng)大的數(shù)據(jù)冗余性：更加靈活的冗余方式，N+1，N+2，N+3，強(qiáng)于傳統(tǒng)的 RAID5、RAID6，為用戶的數(shù)據(jù)存儲(chǔ)提供更大的安全保障；

圖1海量數(shù)據(jù)存儲(chǔ)模型

②更高的讀寫高性能：獨(dú)特的算法和軟件實(shí)現(xiàn)，保證系統(tǒng)磁盤并行讀取速度的最大化，提供更高的性能體驗(yàn)，實(shí)現(xiàn)更快的訪問(wèn)速度；

③效率極高的數(shù)據(jù)恢復(fù)能力：分布式RAID數(shù)據(jù)重構(gòu)完成后拷回原來(lái)槽位更換后的磁盤，而是智能地在整個(gè)系統(tǒng)中選擇空閑空間來(lái)存儲(chǔ)校驗(yàn)后的切片文件，效率比傳統(tǒng)的RAID方式的重構(gòu)回拷方式更優(yōu)。為了實(shí)現(xiàn)海量數(shù)據(jù)的存儲(chǔ)而設(shè)計(jì)的存儲(chǔ)模型，如圖1所示。

云存儲(chǔ)通過(guò)內(nèi)部交換模塊提供GE或10GE端口與用戶環(huán)境的IP網(wǎng)絡(luò)連接，數(shù)據(jù)導(dǎo)入、應(yīng)用服務(wù)器集群安裝CSS客戶端軟件，數(shù)據(jù)導(dǎo)入服務(wù)器、應(yīng)用業(yè)務(wù)服務(wù)器直接通過(guò)CSS客戶端軟件完成對(duì)CSS云存儲(chǔ)系統(tǒng)中的數(shù)據(jù)內(nèi)容和存儲(chǔ)資源訪問(wèn)。

云存儲(chǔ)將文件切分為一定大小的數(shù)據(jù)對(duì)象，利用大量節(jié)點(diǎn)分布式并行處理數(shù)據(jù)對(duì)象的讀寫操作，在節(jié)點(diǎn)間將一個(gè)數(shù)據(jù)對(duì)象存儲(chǔ)多份（可配置）從而保證系統(tǒng)可靠性和性能，并兼顧方案可維護(hù)性、可管理性及綠色節(jié)能等特性，提升方案性價(jià)比，幫助用戶降低TCO。針對(duì)文件數(shù)據(jù)特點(diǎn)，采用多級(jí)可靠性技術(shù)，包括：節(jié)點(diǎn)內(nèi)Raid、跨節(jié)點(diǎn)冗余等適合的數(shù)據(jù)保護(hù)措施，保護(hù)用戶數(shù)據(jù)安全。

3.2存儲(chǔ)架構(gòu)特點(diǎn)

以上存儲(chǔ)架構(gòu)的特點(diǎn)如下：

⑴可靠性

在每個(gè)存儲(chǔ)節(jié)點(diǎn)中，首先對(duì)文件進(jìn)行條帶化，生成多個(gè)數(shù)據(jù)塊，并計(jì)算若干個(gè)校驗(yàn)塊。所有的數(shù)據(jù)塊和校驗(yàn)塊分別存放在不同存儲(chǔ)節(jié)點(diǎn)上。當(dāng)系統(tǒng)中有1個(gè)節(jié)點(diǎn)出現(xiàn)故障,系統(tǒng)依然可以正常對(duì)外提供讀寫服務(wù)，不會(huì)發(fā)生服務(wù)中斷的情況。系統(tǒng)在提供正常的讀寫服務(wù)的同時(shí)，自動(dòng)在后臺(tái)進(jìn)行數(shù)據(jù)重構(gòu)，將故障節(jié)點(diǎn)上的數(shù)據(jù)重構(gòu)到其他節(jié)點(diǎn)上，數(shù)據(jù)恢復(fù)示意如圖2所示。

圖2發(fā)生故障時(shí)的數(shù)據(jù)恢復(fù)

由于采用了節(jié)點(diǎn)間的數(shù)據(jù)保護(hù)技術(shù)，云存儲(chǔ)系統(tǒng)具有較高故障耐受度。在一個(gè)云存儲(chǔ)資源池(組)內(nèi)可以同時(shí)故障2個(gè)節(jié)點(diǎn)而不會(huì)造成數(shù)據(jù)不可訪問(wèn)。任何一個(gè)硬盤組內(nèi)，可以同時(shí)故障2個(gè)硬盤而不會(huì)造成數(shù)據(jù)不可訪問(wèn)，所以整個(gè)存儲(chǔ)資源組內(nèi)，最少可以容忍任意2塊數(shù)據(jù)盤同時(shí)故障。

⑵高性能

負(fù)載可以均勻下發(fā)到每個(gè)存儲(chǔ)節(jié)點(diǎn)的每個(gè)硬盤，充分發(fā)揮域內(nèi)節(jié)點(diǎn)與硬盤的并行處理能力。在云存儲(chǔ)內(nèi)部，用戶的文件被分為多個(gè)對(duì)象，隸屬于同一個(gè)文件的各個(gè)對(duì)象被根據(jù)負(fù)載狀況，分配到不同的存儲(chǔ)節(jié)點(diǎn)上，因而可以提供高性能的讀寫。

⑶可擴(kuò)展性

云存儲(chǔ)系統(tǒng)可提供基于節(jié)點(diǎn)的擴(kuò)容，對(duì)上層提供透明的存儲(chǔ)服務(wù)，屏蔽底層的硬件差異，使得云存儲(chǔ)系統(tǒng)擴(kuò)容對(duì)業(yè)務(wù)完全透明。云存儲(chǔ)系統(tǒng)支持按性能進(jìn)行擴(kuò)容[6]。由于采用非對(duì)稱分布式架構(gòu)，可以很好地支持讀寫性能的線性擴(kuò)展,每增加一個(gè)節(jié)點(diǎn)，系統(tǒng)將增加一定數(shù)量的讀寫帶寬和并發(fā)訪問(wèn)能力。

4結(jié)束語(yǔ)

由于采用了云存儲(chǔ)架構(gòu)模型，有效地提高了系統(tǒng)存儲(chǔ)系統(tǒng)的可靠性、高性能以及可擴(kuò)展性。在這種架構(gòu)下，可以提供高效的數(shù)據(jù)一致性和數(shù)據(jù)私密性，具有較強(qiáng)的數(shù)據(jù)容錯(cuò)和容災(zāi)能力，數(shù)據(jù)的訪問(wèn)性能可以通過(guò)容量和性能的同步擴(kuò)展而不斷提高，從而很好地實(shí)現(xiàn)對(duì)系統(tǒng)中其他軟件的數(shù)據(jù)存儲(chǔ)服務(wù)和讀取服務(wù)。

[1]吳擎雯等.一種云存儲(chǔ)系統(tǒng)數(shù)據(jù)持久存儲(chǔ)機(jī)制[J].計(jì)算機(jī)與數(shù)字工程,2012(4)：72-74

[2]王慶波等.云計(jì)算寶典技術(shù)與實(shí)踐[M].北京:電子工業(yè)出版社，2011.

[3]謝華成，陳向東.面向云存儲(chǔ)的非結(jié)構(gòu)化數(shù)據(jù)存取[J].計(jì)算機(jī)應(yīng)用，2012,32(7):1924-1928.

[4]胡文波等.分布式存儲(chǔ)方案的設(shè)計(jì)與研究[J].計(jì)算機(jī)技術(shù)與發(fā)展，2010(4):65-68.

[5]宋均,祝林.基于云計(jì)算的海量數(shù)據(jù)處理平臺(tái)設(shè)計(jì)與實(shí)現(xiàn)[J].電訊技術(shù),2012，52(4):566-570.

[6]劉志軍等.云存儲(chǔ)環(huán)境下數(shù)據(jù)庫(kù)系統(tǒng)的構(gòu)建[J].信息技術(shù)應(yīng)用研究，2012(2)：14-15.