大數(shù)據(jù)容災(zāi)備份技術(shù)挑戰(zhàn)和增量備份解決方案

羅圣美，李 明，葉郁文

1. 中興通訊股份有限公司 南京 210012；2. 清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系 北京 100084

大數(shù)據(jù)容災(zāi)備份技術(shù)挑戰(zhàn)和增量備份解決方案

羅圣美1，2，李 明1，葉郁文1

1. 中興通訊股份有限公司 南京 210012；2. 清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系 北京 100084

大數(shù)據(jù)已成為當(dāng)前社會(huì)各界關(guān)注的焦點(diǎn)，是當(dāng)前世界各國新一輪的科技競(jìng)爭(zhēng)和綜合國力較量的重點(diǎn)，必須做好大數(shù)據(jù)的容災(zāi)備份工作。為此，在分析大數(shù)據(jù)容災(zāi)備份現(xiàn)狀的基礎(chǔ)上，結(jié)合行業(yè)對(duì)大數(shù)據(jù)容災(zāi)備份需求，討論了幾種典型的技術(shù)解決方案及其優(yōu)缺點(diǎn)，提出了一種基于HDFS的增量數(shù)據(jù)備份恢復(fù)方案，具備分鐘級(jí)RPO的系統(tǒng)遠(yuǎn)程備份特性，可以較好地解決目前大數(shù)據(jù)容災(zāi)備份項(xiàng)目建設(shè)規(guī)劃面臨的實(shí)際需求。

大數(shù)據(jù)；備份；恢復(fù)；業(yè)務(wù)連續(xù)性

1 引言

隨著移動(dòng)互聯(lián)網(wǎng)信息技術(shù)的演進(jìn)和社會(huì)的發(fā)展，人類在生產(chǎn)和生活中會(huì)產(chǎn)生更多、更復(fù)雜的數(shù)據(jù)。據(jù) IDC 報(bào)告顯示，2020 年全球企業(yè)數(shù)據(jù)總量將從目前的 1.2 ZB 增加到35 ZB。從一般意義上講，這種量級(jí)和復(fù)雜度的數(shù)據(jù)，業(yè)界稱為大數(shù)據(jù)。大數(shù)據(jù)是人類社會(huì)重要的信息資產(chǎn)，在科技發(fā)展和生活生產(chǎn)中起到非常重要的作用，已成為當(dāng)前社會(huì)各界關(guān)注的焦點(diǎn)，是當(dāng)前世界各國新一輪的科技競(jìng)爭(zhēng)和綜合國力較量的重要體現(xiàn)。

近些年來颶風(fēng)、地震、海嘯、火災(zāi)等自然災(zāi)害頻發(fā)，電腦病毒泛濫、黑客攻擊猖獗等日益嚴(yán)重的互聯(lián)網(wǎng)危機(jī)，已讓無數(shù)企業(yè)遭受了數(shù)據(jù)丟失所帶來的沉重打擊。多個(gè)研究機(jī)構(gòu)提供的數(shù)據(jù)表明，公司數(shù)據(jù)丟失將對(duì)公司帶來嚴(yán)重影響，甚至導(dǎo)致公司倒閉。來自IDC的統(tǒng)計(jì)數(shù)據(jù)顯示，1990-2000年發(fā)生災(zāi)難導(dǎo)致數(shù)據(jù)丟失的公司生存下來的僅有16%，美國明尼蘇達(dá)大學(xué)研究報(bào)告顯示，發(fā)生數(shù)據(jù)丟失的公司如果無法快速恢復(fù)數(shù)據(jù)，近3/4的公司業(yè)務(wù)將停頓，近2/5的公司將倒閉[1]。

由此可見，數(shù)據(jù)是企業(yè)最寶貴的資產(chǎn)，是企業(yè)生存的基礎(chǔ)，也是企業(yè)核心競(jìng)爭(zhēng)力的重要組成部分，一旦丟失，其產(chǎn)生的后果可能是災(zāi)難性的，甚至?xí)l(fā)社會(huì)性問題，所以大數(shù)據(jù)的安全、備份和容災(zāi)就顯得尤為重要。

2 大數(shù)據(jù)容災(zāi)備份

2.1 容災(zāi)備份現(xiàn)狀

容災(zāi)備份系統(tǒng)的目的在于保證系統(tǒng)數(shù)據(jù)可靠和服務(wù)的在線性，即當(dāng)主用系統(tǒng)發(fā)生故障時(shí)，仍能提供數(shù)據(jù)和服務(wù)，保證系統(tǒng)業(yè)務(wù)不受影響。

災(zāi)備領(lǐng)域國際和國內(nèi)都制定了相關(guān)標(biāo)準(zhǔn)，國際標(biāo)準(zhǔn)中SHARE78具有較大影響力，針對(duì)災(zāi)難恢復(fù)定義了Tier-0至Tier6/7共7個(gè)層次。

我國的國家標(biāo)準(zhǔn)GB20988-2007-T《信息安全技術(shù)信息系統(tǒng)災(zāi)難恢復(fù)規(guī)范》對(duì)容災(zāi)備份進(jìn)行了標(biāo)準(zhǔn)化[2]，與SHARE78的7個(gè)層次具備對(duì)應(yīng)關(guān)系，并進(jìn)一步細(xì)化了具體要求。

在設(shè)計(jì)容災(zāi)系統(tǒng)時(shí)，容災(zāi)要達(dá)到什么樣的目標(biāo)和層次，需要用一些定量的指標(biāo)來衡量，這就是災(zāi)難恢復(fù)能力指標(biāo)，具體介紹如下。

RTO（recovery time object，恢復(fù)時(shí)間目標(biāo)）：指信息系統(tǒng)從災(zāi)難狀態(tài)恢復(fù)到可運(yùn)行狀態(tài)所需要的時(shí)間，用來衡量容災(zāi)系統(tǒng)的業(yè)務(wù)恢復(fù)能力。

RPO（recovery point time，恢復(fù)點(diǎn)時(shí)間）：指業(yè)務(wù)系統(tǒng)所允許的在災(zāi)難過程中的最大數(shù)據(jù)量丟失，用來衡量容災(zāi)系統(tǒng)的數(shù)據(jù)冗余備份能力。

NRO（network recovery object，網(wǎng)絡(luò)恢復(fù)時(shí)間目標(biāo)）：指在災(zāi)難發(fā)生后網(wǎng)絡(luò)恢復(fù)或切換到災(zāi)備中心的時(shí)間，通常網(wǎng)絡(luò)要先于應(yīng)用恢復(fù)才有意義，但應(yīng)用恢復(fù)后才能提供業(yè)務(wù)訪問。

某行業(yè)災(zāi)難恢復(fù)等級(jí)對(duì)應(yīng)的能力指標(biāo)見表1。

數(shù)據(jù)的備份策略一般分為全量備份（full backup）、差異備份（differential backup）和增量備份（incremental backup）。

全量備份：間隔一段時(shí)間就對(duì)整個(gè)系統(tǒng)進(jìn)行全面?zhèn)浞?，包括系統(tǒng)和數(shù)據(jù)。

差異備份：針對(duì)前一次完全備份后發(fā)生變化的所有信息進(jìn)行備份。

增量備份：針對(duì)前一次備份后所有發(fā)生變化的信息進(jìn)行備份，增量備份方式備份的數(shù)據(jù)量最小，但恢復(fù)時(shí)要利用全備份的數(shù)據(jù)，并疊加以前的增量備份，數(shù)據(jù)恢復(fù)時(shí)間也最長(zhǎng)。

無論哪種備份策略，在一個(gè)備份周期內(nèi)都首先要進(jìn)行一次完全備份，然后再選擇進(jìn)行增量備份或者累計(jì)備份。通常在數(shù)據(jù)更新不太頻繁且數(shù)據(jù)量不太大的情況下，可以選用累計(jì)備份的方式。若數(shù)據(jù)量更新很頻繁，更新量又很大，那么備份周期后幾次的累計(jì)備份數(shù)據(jù)量就很大，這時(shí)使用累計(jì)備份就不太經(jīng)濟(jì)，可以考慮增量備份或者增量備份和累計(jì)備份相結(jié)合的方式，也可以考慮縮短備份周期。

表1 RTO/RPO與災(zāi)難恢復(fù)能力等級(jí)的關(guān)系[2]

備份系統(tǒng)結(jié)構(gòu)一般包括DAS-base備份、LAN-base備份、LAN-free備份和Server-free備份，如圖1所示。

（1）DAS-base備份是利用服務(wù)器自帶的磁帶機(jī)或備份硬盤手工進(jìn)行數(shù)據(jù)備份。優(yōu)點(diǎn)是維護(hù)簡(jiǎn)單，數(shù)據(jù)傳輸速度快；缺點(diǎn)是可管理的存儲(chǔ)設(shè)備較少，對(duì)大數(shù)據(jù)量備份場(chǎng)景或者實(shí)時(shí)數(shù)據(jù)備份場(chǎng)景不適用。

（2）LAN-base備份是專門使用一臺(tái)服務(wù)器作為備份管理服務(wù)器，通過備份管理服務(wù)器實(shí)施系統(tǒng)的專用備份操作。優(yōu)點(diǎn)是投資經(jīng)濟(jì)、磁帶庫共享、集中備份管理；缺點(diǎn)是網(wǎng)絡(luò)傳輸壓力大，對(duì)備份數(shù)據(jù)量大/備份頻率高的場(chǎng)景不適用。

圖1 常見備份系統(tǒng)架構(gòu)

（3）LAN-free備份是將備份設(shè)備連接到SAN（storage area network，存儲(chǔ)區(qū)域網(wǎng)絡(luò)）上，數(shù)據(jù)無須通過局域網(wǎng)而直接進(jìn)行備份，局域網(wǎng)只承擔(dān)各服務(wù)器之間的通信任務(wù)，實(shí)現(xiàn)了控制流與數(shù)據(jù)流分離。優(yōu)點(diǎn)是數(shù)據(jù)備份統(tǒng)一管理、備份速度快、網(wǎng)絡(luò)傳輸壓力小、磁帶庫資源共享；缺點(diǎn)是恢復(fù)操作繁瑣、實(shí)施復(fù)雜、投資較高，不適用于少量文件備份場(chǎng)景。

（4）Server-free備份不需要在服務(wù)器中緩存數(shù)據(jù)，顯著減少對(duì)主機(jī)CPU占用，采用NDMP（網(wǎng)絡(luò)數(shù)據(jù)管理協(xié)議）應(yīng)用是實(shí)現(xiàn)方式之一。優(yōu)點(diǎn)是數(shù)據(jù)備份和恢復(fù)時(shí)間短、網(wǎng)絡(luò)傳輸壓力小、便于統(tǒng)一管理和備份資源共享，但由于需要特定的備份應(yīng)用軟件進(jìn)行管理，需要考慮廠商的兼容性問題，實(shí)施起來比較復(fù)雜，成本也較高。

2.2 大數(shù)據(jù)容災(zāi)備份特征與挑戰(zhàn)

大數(shù)據(jù)同過去的海量數(shù)據(jù)有所區(qū)別，其4V特征（volume、variety、value、velocity）體現(xiàn)了量大、多樣、密度低、速度快的特點(diǎn)，采用磁帶復(fù)制方式不現(xiàn)實(shí)。

傳統(tǒng)備份產(chǎn)品不適用于大數(shù)據(jù)領(lǐng)域。傳統(tǒng)備份產(chǎn)品大多基于主機(jī)、網(wǎng)絡(luò)或者磁陣，都是單機(jī)備份系統(tǒng)，而云存儲(chǔ)現(xiàn)有的數(shù)據(jù)多副本和EC技術(shù)應(yīng)用都只能保證單數(shù)據(jù)中心內(nèi)的數(shù)據(jù)可靠性，不提供數(shù)據(jù)備份能力。

HDFS的數(shù)據(jù)節(jié)點(diǎn)（DataNode）采用多副本、糾刪碼（erasure coding，EC）等高可用（high availability，HA）技術(shù)，可以提供數(shù)據(jù)高可靠性。HDFS的主從和單個(gè)元數(shù)據(jù)節(jié)點(diǎn)（NameNode）設(shè)計(jì)方式使得元數(shù)據(jù)節(jié)點(diǎn)成為單點(diǎn)故障，HDFS的HA發(fā)展經(jīng)歷了3個(gè)過程。

（1）借助分布式塊復(fù)制設(shè)備（distributed replicated block device，DRBD）、心跳服務(wù)（heartbeat）HA組件實(shí)現(xiàn)主備切換。使用DRBD實(shí)現(xiàn)兩臺(tái)物理機(jī)器之間塊設(shè)備的同步，即通過網(wǎng)絡(luò)實(shí)現(xiàn)raid1，輔以heartbeat HA實(shí)現(xiàn)兩臺(tái)機(jī)器動(dòng)態(tài)角色切換，對(duì)外使用虛擬IP地址來統(tǒng)一配置。

（2）主元數(shù)據(jù)節(jié)點(diǎn)（Primary NameNode）與備元數(shù)據(jù)節(jié)點(diǎn)（Standby NameNode）之間通過網(wǎng)絡(luò)文件系統(tǒng)（network file system，NFS）來共享FsEdits、FsImage文件，這樣主備NameNode之間就擁有了一致的目錄樹和block信息。DataNode向兩個(gè)NameNode上報(bào)塊信息，輔以虛擬IP地址，可以較好地達(dá)到主備NameNode快速熱切換的目的。

（3）基于Paxos算法實(shí)現(xiàn)的HDFS HA方案。基本原理是用2N+1臺(tái)JournalNode存儲(chǔ)EditLog，每次寫數(shù)據(jù)操作有大多數(shù)（≥N+1）返回成功時(shí)，即認(rèn)為該次寫成功，數(shù)據(jù)不會(huì)丟失。

雖然基于HDFS的大數(shù)據(jù)系統(tǒng)解決了HA問題，但是異地備份和容災(zāi)仍存在問題。所以，需要有一種容量更大、安全性更高、數(shù)據(jù)存儲(chǔ)及恢復(fù)更快的容災(zāi)備份解決方案來滿足實(shí)際應(yīng)用需求。

2.3 大數(shù)據(jù)容災(zāi)備份解決方案

系統(tǒng)容災(zāi)備份是一項(xiàng)系統(tǒng)工程，一般要從災(zāi)備中心基礎(chǔ)設(shè)施、數(shù)據(jù)備份系統(tǒng)、備用數(shù)據(jù)處理系統(tǒng)、備用網(wǎng)絡(luò)系統(tǒng)、災(zāi)難恢復(fù)預(yù)案、運(yùn)維管理能力以及技術(shù)支持能力7個(gè)要素進(jìn)行統(tǒng)籌考慮。

本文主要從數(shù)據(jù)備份系統(tǒng)以及備用數(shù)據(jù)處理系統(tǒng)角度描述一種可行的災(zāi)備方案，該容災(zāi)備份方案是基于HDFS的增量數(shù)據(jù)備份恢復(fù)方案，是具備分鐘級(jí)RPO的HDFS遠(yuǎn)程備份系統(tǒng)，提供數(shù)據(jù)一致性備份以及高效備份恢復(fù)機(jī)制，如圖2所示。

為了實(shí)現(xiàn)大數(shù)據(jù)的增量備份與恢復(fù)，系統(tǒng)可配置備份服務(wù)器地址和備份時(shí)間間隔，可在任意時(shí)刻輸入備份命令開始進(jìn)行備份，并可在指定的時(shí)間間隔進(jìn)行快速增量備份，數(shù)據(jù)塊備份過程中能夠通過重復(fù)數(shù)據(jù)刪除減少網(wǎng)絡(luò)傳輸，支持對(duì)任意版本的數(shù)據(jù)快速恢復(fù)，可以指定目錄備份，并支持多源端備份。

大數(shù)據(jù)容災(zāi)備份總體架構(gòu)如圖3所示。

HDFS上存儲(chǔ)的數(shù)據(jù)包括元數(shù)據(jù)和業(yè)務(wù)數(shù)據(jù)，分別存儲(chǔ)在NameNode和DataNode上。為實(shí)現(xiàn)基于HDFS的增量備份與恢復(fù)，生產(chǎn)系統(tǒng)即源端的NameNode和DataNode需要針對(duì)備份與恢復(fù)進(jìn)行改造。詳細(xì)結(jié)構(gòu)如圖4所示。

NameNode包括對(duì)元數(shù)據(jù)的內(nèi)容檢測(cè)、備份存儲(chǔ)、備份過濾、備份傳輸以及備份恢復(fù)。

DataNode負(fù)責(zé)發(fā)送和接收要備份/恢復(fù)的塊數(shù)據(jù)，DataNode包括如下模塊。

● 備份傳輸：根據(jù)NameNode指令將塊數(shù)據(jù)傳送到備份服務(wù)器。

● 備份刪冗：計(jì)算塊數(shù)據(jù)的散列值。

● 傳輸加密：對(duì)需要傳輸?shù)臄?shù)據(jù)進(jìn)行加密，加密算法為DES算法。

圖2 基于HDFS的遠(yuǎn)程容災(zāi)備份系統(tǒng)

圖3 大數(shù)據(jù)容災(zāi)備份總體架構(gòu)

● 備份恢復(fù)：從備份端恢復(fù)數(shù)據(jù)。

備份端對(duì)備份數(shù)據(jù)進(jìn)行刪冗處理，減少傳輸過程的數(shù)據(jù)量，提升備份性能，傳輸前進(jìn)行數(shù)據(jù)加密，保證數(shù)據(jù)傳輸安全。備份端模塊架構(gòu)如圖5所示。

備份服務(wù)器模塊組成功能如下。

● 備份接收：接收源端發(fā)送的備份數(shù)據(jù)。

● 傳輸解密：對(duì)備份數(shù)據(jù)進(jìn)行DES解密。

● 備份刪冗：建立備份端塊數(shù)據(jù)散列池，并比對(duì)源端發(fā)送的散列值是否存在于此散列值，若是，指示源端不必發(fā)送數(shù)據(jù)。

● 版本管理：對(duì)源端的多次備份區(qū)分不同版本號(hào)，并加以時(shí)間戳標(biāo)志。

● 備份存儲(chǔ)：將備份歷史數(shù)據(jù)存入文件系統(tǒng)。

● 合成備份：合成最新備份版本。

● 備份恢復(fù)：向恢復(fù)端發(fā)送指定版本的元數(shù)據(jù)和數(shù)據(jù)。

備份數(shù)據(jù)傳輸前，傳輸刪冗大幅降低冗余備份數(shù)據(jù)傳輸量，DataNode切分?jǐn)?shù)據(jù)塊并計(jì)算每個(gè)塊的散列值，備份端保存歷史散列池。同時(shí)，采用數(shù)據(jù)加密保證數(shù)據(jù)傳輸安全。詳細(xì)流程實(shí)現(xiàn)如圖6所示。

圖4 源端模塊組成

圖5 備份端模塊組成

3 結(jié)束語

圖6 數(shù)據(jù)備份流程

在大數(shù)據(jù)時(shí)代，數(shù)據(jù)是企業(yè)最重要的資產(chǎn)，確保數(shù)據(jù)在環(huán)境異常情況下的可靠性和可用性是目前技術(shù)研究和產(chǎn)業(yè)應(yīng)用的重點(diǎn)方向。本文通過大數(shù)據(jù)容災(zāi)備份現(xiàn)狀分析，結(jié)合行業(yè)對(duì)大數(shù)據(jù)容災(zāi)備份需求，討論了幾種典型的技術(shù)解決方案及其優(yōu)缺點(diǎn)，提出了一種基于HDFS的增量數(shù)據(jù)備份恢復(fù)方案，具備分鐘級(jí)RPO的系統(tǒng)遠(yuǎn)程備份特性，可以較好地解決目前大數(shù)據(jù)容災(zāi)備份項(xiàng)目建設(shè)規(guī)劃面臨的實(shí)際需求。隨著大數(shù)據(jù)技術(shù)的發(fā)展以及應(yīng)用需求的不斷變化，對(duì)大數(shù)據(jù)容災(zāi)備份的方案也會(huì)提出更高的要求，需要持續(xù)性地針對(duì)業(yè)務(wù)需求、應(yīng)用場(chǎng)景和運(yùn)維成本進(jìn)行針對(duì)性的設(shè)計(jì)和實(shí)現(xiàn)。

[1] 姚文斌, 伍淳華. 中國災(zāi)備標(biāo)準(zhǔn)和產(chǎn)業(yè)發(fā)展現(xiàn)狀. 中興通訊技術(shù), 2010, 16(5) Yao W B, Wu C H. Development of standards and industry of disaster backup and recovery in China. ZTE Communications, 2010, 16(5)

[2] GBT 20988-2007. 信息安全技術(shù)信息系統(tǒng)災(zāi)難恢復(fù)規(guī)范, 2007 GBT 20988-2007. Information Security Technology Disaster Recovery Specifications for Information Systems, 2007

羅圣美，男，中興通訊股份有限公司首席架構(gòu)師，目前主要從事云計(jì)算和大數(shù)據(jù)技術(shù)研究工作。擔(dān)任2項(xiàng)“863”計(jì)劃和國家科技重大專項(xiàng)課題組長(zhǎng)，榮獲省部級(jí)科學(xué)技術(shù)進(jìn)步獎(jiǎng)勵(lì)3項(xiàng)，擁有20多項(xiàng)發(fā)明專利，并在國內(nèi)外核心期刊發(fā)表30多篇學(xué)術(shù)論文。

李明，男，中興通訊股份有限公司產(chǎn)品經(jīng)理，目前主要從事云存儲(chǔ)、大數(shù)據(jù)和分布式數(shù)據(jù)庫的研究和管理工作。參加1項(xiàng)國家科技重大項(xiàng)目，申請(qǐng)發(fā)明專利5項(xiàng)，在多媒體應(yīng)用和大數(shù)據(jù)領(lǐng)域發(fā)表論文2篇。

葉郁文，男，中興通訊股份有限公司產(chǎn)品規(guī)劃部長(zhǎng)。目前主要從事大數(shù)據(jù)存儲(chǔ)和應(yīng)用研究，榮獲國家科技發(fā)明獎(jiǎng)1項(xiàng)，參與2項(xiàng)國家科技重大專項(xiàng)課題研究，申請(qǐng)發(fā)明專利8項(xiàng)，發(fā)表論文4篇。

Luo S M, Li M, Ye Y W. Challenge and solution of big data backup and recovery. Big Data Research, 2015033

Challenge and Solution of Big Data Backup and Recovery

Luo Shengmei1,2, Li Ming1, Ye Yuwen1

1. ZTE Corporation, Nanjing 210012, China;

2. Department of Computer Science and Technology, Tsinghua University, Beijing 100084, China

Big data has become the focus of the social attention, it will raise a new competition in science and technology and comprehensive national strength, especially in the disaster recovery and backup data. Therefore, based on the analysis of the current industrial status and the requirements about big data disaster recovery and backup, the advantage and disadvantage of several typical technology solutions were discussed, then a better incremental backup data recovery solution was proposed. This solution can support minute RPO, and meet current requirements about the disaster recovery and backup data.

big data, backup, recovery, service continuity

10.11959/j.issn.2096-0271.2015033

2015-08-24

國家科技重大專項(xiàng)基金資助項(xiàng)目（No.2013ZX03002004）

Foundation Item:The National Science and Technology Major Project (No.2013ZX03002004)

羅圣美, 李明, 葉郁文. 大數(shù)據(jù)容災(zāi)備份技術(shù)挑戰(zhàn)和增量備份解決方案. 大數(shù)據(jù), 2015033