梁明珠 云京濤 鄒曉杰 王洪業(yè) 袁滿(mǎn)
(華錄光存儲(chǔ)研究院(大連)有限公司,遼寧大連 116023)
進(jìn)入信息化、數(shù)字化時(shí)代后,各企業(yè)、數(shù)據(jù)中心的存儲(chǔ)數(shù)據(jù)量呈爆炸式增長(zhǎng),IDC預(yù)測(cè)2025年全球數(shù)據(jù)總量將增長(zhǎng)到175ZB(1ZB=1024EB、1EB=1024PB、1PB=1024TB、1TB=1024GB),中國(guó)產(chǎn)生的數(shù)據(jù)量將達(dá)到48.6ZB,占全球數(shù)據(jù)總量的27.8%,位于全球第一。
由于傳統(tǒng)的數(shù)據(jù)存儲(chǔ)介質(zhì)存在高耗電量、高運(yùn)維成本、低安全性等問(wèn)題,藍(lán)光光盤(pán)這種物理存儲(chǔ)方式的存儲(chǔ)介質(zhì)已經(jīng)逐步被業(yè)界認(rèn)可,并獲得了迅猛的發(fā)展及應(yīng)用。
數(shù)據(jù)是新時(shí)代的石油,數(shù)據(jù)即資產(chǎn),因此不管使用哪種存儲(chǔ)介質(zhì),都需要進(jìn)行異地或多副本備份,以避免由于單點(diǎn)故障導(dǎo)致的數(shù)據(jù)丟失。目前金融、保險(xiǎn)、檔案等各行業(yè)都在推進(jìn)兩地甚至多地的災(zāi)備中心建設(shè),各地的數(shù)據(jù)要求實(shí)時(shí)同步,且要求在某地系統(tǒng)癱瘓后可以實(shí)時(shí)切換到備份系統(tǒng),以確保不影響上層應(yīng)用的數(shù)據(jù)調(diào)閱,不影響正常的業(yè)務(wù)操作。
根據(jù)銀監(jiān)會(huì)、發(fā)改委、科技部、工信部聯(lián)合下發(fā)的《關(guān)于應(yīng)用安全可控信息技術(shù)加強(qiáng)銀行業(yè)網(wǎng)絡(luò)安全和信息化建設(shè)的指導(dǎo)意見(jiàn)》,在涉及客戶(hù)敏感數(shù)據(jù)的信息處理環(huán)節(jié),應(yīng)優(yōu)先使用安全可靠、風(fēng)險(xiǎn)可控的信息技術(shù)和服務(wù),要重點(diǎn)在網(wǎng)絡(luò)設(shè)備、存儲(chǔ)、中低端服務(wù)器、信息安全、運(yùn)維服務(wù)、文字處理軟件等領(lǐng)域積極推進(jìn),在操作系統(tǒng)、數(shù)據(jù)庫(kù)等領(lǐng)域要加大探索和嘗試力度[1]。
藍(lán)光光盤(pán)由于其物理特性,決定了其不受電磁干擾等外界因素影響,可確保數(shù)據(jù)安全,但若發(fā)生光盤(pán)讀取設(shè)備故障、管理服務(wù)器系統(tǒng)宕機(jī)或者機(jī)房電力系統(tǒng)受損等不可抗力,數(shù)據(jù)無(wú)法被實(shí)時(shí)讀取,影響正常業(yè)務(wù)使用,此時(shí)就需要切換至異地備份系統(tǒng)。此外,若遭受地震、洪水、火災(zāi)等自然災(zāi)害,也可最大限度的確保數(shù)據(jù)安全性。
基于以上背景,開(kāi)發(fā)此新型存儲(chǔ)系統(tǒng),提供一種低成本、高可靠性、高時(shí)效性的數(shù)據(jù)存儲(chǔ)系統(tǒng),在藍(lán)光光盤(pán)的物理性安全基礎(chǔ)之上,進(jìn)行了異地雙副本的邏輯安全,確保數(shù)據(jù)實(shí)時(shí)安全、可用。
藍(lán)光光盤(pán)作為新一代的存儲(chǔ)技術(shù),與DVD技術(shù)相比有了突破性的技術(shù)進(jìn)步,是完全迭代的新產(chǎn)品。藍(lán)光光盤(pán)利用波長(zhǎng)較短的藍(lán)色激光讀取和寫(xiě)入數(shù)據(jù),并因此而得名,采用“無(wú)機(jī)金屬相變”技術(shù)進(jìn)行數(shù)據(jù)記錄,通過(guò)激光照射金屬記錄層,實(shí)現(xiàn)金相改變而實(shí)現(xiàn)數(shù)據(jù)的記錄,由于金相狀態(tài)不可逆,其穩(wěn)定性較磁性存儲(chǔ)得到極大提升,可確保記錄后的數(shù)據(jù)不會(huì)因電磁干擾而被篡改。藍(lán)光光盤(pán)與讀寫(xiě)光頭不接觸,無(wú)磨損,記錄信息不會(huì)因反復(fù)讀取二產(chǎn)生衰減,極大提高數(shù)據(jù)安全性與可靠性,藍(lán)光光盤(pán)結(jié)構(gòu)與原理如圖1所示。
圖1 藍(lán)光光盤(pán)結(jié)構(gòu)與原理
光盤(pán)存儲(chǔ)由于特有的長(zhǎng)壽命、安全可靠、低成本等優(yōu)點(diǎn),從20世紀(jì)60年代開(kāi)始一經(jīng)發(fā)展就迅速流行,但隨著數(shù)據(jù)量增加,傳統(tǒng)DVD光盤(pán)(容量4.7GB)已無(wú)法滿(mǎn)足數(shù)據(jù)存儲(chǔ)需求,藍(lán)光光盤(pán)(Blu-ray Disc)由于存儲(chǔ)容量大、讀取速度快、穩(wěn)定性更高等優(yōu)點(diǎn),已經(jīng)成為企業(yè)級(jí)光盤(pán)存儲(chǔ)的主流。藍(lán)光存儲(chǔ)以藍(lán)光光盤(pán)作為存儲(chǔ)介質(zhì),企業(yè)級(jí)的藍(lán)光存儲(chǔ)設(shè)備主要是藍(lán)光光盤(pán)庫(kù),包括:藍(lán)光光盤(pán),藍(lán)光光驅(qū)、機(jī)械手等部件,最新藍(lán)光光盤(pán)技術(shù)可確保數(shù)據(jù)安全存儲(chǔ)50~100年。此外,存儲(chǔ)耗電量極低,介質(zhì)離線(xiàn)管理對(duì)環(huán)境無(wú)特殊要求,可大幅降低數(shù)據(jù)保存成本。
本系統(tǒng)由數(shù)據(jù)實(shí)時(shí)同步系統(tǒng)(Model A)、基于藍(lán)光技術(shù)的主存儲(chǔ)系統(tǒng)(Model B)、基于藍(lán)光技術(shù)的異地存儲(chǔ)系統(tǒng)(Model C)3部分組成,3部分使用光纖(FC)或?qū)>W(wǎng)連接,Model B、Model C的硬件系統(tǒng)、軟件系統(tǒng)完全一致,包括管理服務(wù)器(文件系統(tǒng)、緩存、數(shù)據(jù)庫(kù)等)和藍(lán)光存儲(chǔ)設(shè)備(機(jī)械手、藍(lán)光光驅(qū)、藍(lán)光光盤(pán)等)兩部分,兩部分之間使用SAS/FC連接,藍(lán)光存儲(chǔ)設(shè)備管理軟件部署于管理服務(wù)器中,系統(tǒng)架構(gòu)如圖2所示。Model B、Model C可部署于不同物理地點(diǎn),Model A可部署于Model B、Model C任意一處或單獨(dú)部署于第三地點(diǎn)。
圖2 基于藍(lán)光存儲(chǔ)技術(shù)的異地實(shí)時(shí)備份系統(tǒng)架構(gòu)圖
文獻(xiàn)[2]設(shè)計(jì)的是銀聯(lián)數(shù)據(jù)的異地災(zāi)難備份系統(tǒng)。銀聯(lián)數(shù)據(jù)發(fā)卡系統(tǒng)的災(zāi)備系統(tǒng)采用兩地兩中心模式,通過(guò)數(shù)據(jù)庫(kù)異步復(fù)制技術(shù)建立異地災(zāi)備系統(tǒng)[2]。本系統(tǒng)應(yīng)用場(chǎng)景與文獻(xiàn)[2]設(shè)計(jì)的類(lèi)似,確保在災(zāi)難發(fā)生的情況下,最大限度保護(hù)數(shù)據(jù)資產(chǎn),確保系統(tǒng)業(yè)務(wù)的連續(xù)性。
Model A對(duì)Model B、Model C的文件系統(tǒng)中的數(shù)據(jù)實(shí)時(shí)監(jiān)測(cè),同時(shí)對(duì)藍(lán)光存儲(chǔ)設(shè)備進(jìn)行健康狀態(tài)實(shí)時(shí)監(jiān)測(cè),若其中一處發(fā)生數(shù)據(jù)增加、刪除、修改,且藍(lán)光存儲(chǔ)設(shè)備運(yùn)行正常,則立刻將其同步至另一處藍(lán)光光盤(pán)中,確保數(shù)據(jù)實(shí)時(shí)同步,若藍(lán)光存儲(chǔ)設(shè)備運(yùn)行異常,則將數(shù)據(jù)暫時(shí)保存在Model B、Model C的緩存中。
Model A對(duì)兩地文件進(jìn)行數(shù)據(jù)庫(kù)狀態(tài)管理,即使同步過(guò)程中出現(xiàn)斷電、宕機(jī)等異常情況,在系統(tǒng)恢復(fù)正常后,可自動(dòng)實(shí)施同步操作,避免數(shù)據(jù)丟失風(fēng)險(xiǎn)。
Mode B、Model C為基于藍(lán)光技術(shù)的數(shù)據(jù)存儲(chǔ)系統(tǒng),該系統(tǒng)中包管理服務(wù)器(藍(lán)光光盤(pán)存儲(chǔ)系統(tǒng)的文件系統(tǒng)、緩存、數(shù)據(jù)庫(kù)等),以及藍(lán)光藍(lán)光存儲(chǔ)設(shè)備(包括機(jī)械手、藍(lán)光光驅(qū)、藍(lán)光光盤(pán)等)。文件系統(tǒng)可對(duì)外提供NAS服務(wù),使光盤(pán)存儲(chǔ)系統(tǒng)操作簡(jiǎn)潔,類(lèi)似于普通硬盤(pán)使用。若文件系統(tǒng)中有新增或修改的數(shù)據(jù),則該數(shù)據(jù)會(huì)自動(dòng)流向存儲(chǔ)系統(tǒng)的緩存中,并刻錄至藍(lán)光光盤(pán)中。由于藍(lán)光光盤(pán)采用的是激光燒制的物理記錄方式,可確保數(shù)據(jù)的絕對(duì)安全。存儲(chǔ)系統(tǒng)中,數(shù)據(jù)庫(kù)記錄了藍(lán)光光盤(pán)、文件系統(tǒng)以及緩存中的文件狀態(tài)、文件位置信息、文件元數(shù)據(jù)信息等,便于快速、準(zhǔn)確的查找、下載所需的文件。
Mode A為本系統(tǒng)的核心部分,分為5個(gè)模塊:數(shù)據(jù)狀態(tài)監(jiān)測(cè)模塊、狀態(tài)變化數(shù)據(jù)列表模塊、光盤(pán)庫(kù)狀態(tài)檢查模塊、SMC/MMC管理模塊和數(shù)據(jù)同步模塊。
數(shù)據(jù)狀態(tài)監(jiān)測(cè)模塊對(duì)藍(lán)光光盤(pán)存儲(chǔ)系統(tǒng)中的文件系統(tǒng)部分進(jìn)行實(shí)時(shí)監(jiān)測(cè),以判斷文件系統(tǒng)中數(shù)據(jù)是否發(fā)生變化,包括文件新增、文件刪除、文件修改等。狀態(tài)變化數(shù)據(jù)列表模塊對(duì)發(fā)生狀態(tài)變化的數(shù)據(jù)進(jìn)行信息收集,形成文件列表,包括全路徑信息、MD5信息、文件大小等屬性信息。數(shù)據(jù)同步模塊根據(jù)數(shù)據(jù)列表,對(duì)Model B、Model C兩套系統(tǒng)中的數(shù)據(jù)進(jìn)行同步操作,同步采用增量方式,可選擇進(jìn)行單向同步(Model B→Model C)或雙向同步(Model B←→Model C)。在數(shù)據(jù)同步完成后,數(shù)據(jù)庫(kù)管理模塊對(duì)Model B、Model C系統(tǒng)中數(shù)據(jù)進(jìn)行數(shù)據(jù)庫(kù)信息同步,確保數(shù)據(jù)狀態(tài)完全一致。
數(shù)據(jù)上傳客戶(hù)端向Model B進(jìn)行數(shù)據(jù)上傳或修改操作后,該操作會(huì)使Model B的文件系統(tǒng)狀態(tài)發(fā)生變化,該變化會(huì)實(shí)時(shí)被Model A監(jiān)測(cè)到,Model A會(huì)在數(shù)據(jù)上傳完成后(以單個(gè)文件為單位),立刻將變化的數(shù)據(jù)列表生成。
光盤(pán)庫(kù)狀態(tài)檢查模塊會(huì)對(duì)藍(lán)光存儲(chǔ)設(shè)備進(jìn)行健康狀態(tài)檢查,通過(guò)SNMP方式獲取光盤(pán)庫(kù)錯(cuò)誤碼、警告碼,確認(rèn)是否存在硬件故障;通過(guò)調(diào)用API接口函數(shù),確認(rèn)藍(lán)光光盤(pán)存儲(chǔ)系統(tǒng)的文件系統(tǒng)、緩存、數(shù)據(jù)庫(kù)返回值正常,無(wú)類(lèi)似緩存滿(mǎn)、文件系統(tǒng)無(wú)法掛載等異常情況。若存在異常情況,可向系統(tǒng)管理員發(fā)出警告通知。
SMC(機(jī)械手控制指令)和MMC(光驅(qū)控制指令)管理模塊負(fù)責(zé)控制藍(lán)光存儲(chǔ)設(shè)備機(jī)械手及光驅(qū)動(dòng)作,以執(zhí)行藍(lán)光光盤(pán)加載、交換、刻錄等操作,同時(shí)通過(guò)API接口函數(shù)與藍(lán)光光盤(pán)存儲(chǔ)系統(tǒng)的數(shù)據(jù)庫(kù)進(jìn)行交互,以記錄文件與藍(lán)光碟片的對(duì)應(yīng)關(guān)系。
數(shù)據(jù)同步模塊根據(jù)光盤(pán)庫(kù)狀態(tài)檢查模塊返回的藍(lán)光存儲(chǔ)設(shè)備健康狀態(tài)進(jìn)行數(shù)據(jù)同步。若藍(lán)光存儲(chǔ)設(shè)備軟、硬件均正常,則將狀態(tài)變化數(shù)據(jù)列表中的文件在Model B、Model C間進(jìn)行同步,同時(shí)向藍(lán)光存儲(chǔ)設(shè)備發(fā)表數(shù)據(jù)刻錄指令(將數(shù)據(jù)刻錄至藍(lán)光光盤(pán)中);若藍(lán)光存儲(chǔ)設(shè)備硬件或軟件存在異常,則僅將狀態(tài)變化數(shù)據(jù)列表中的文件在Model B、Model C間的緩存中進(jìn)行同步,待藍(lán)光存儲(chǔ)設(shè)備恢復(fù)正常后再發(fā)布數(shù)據(jù)刻錄指令。
考慮到實(shí)時(shí)監(jiān)測(cè)可能會(huì)對(duì)系統(tǒng)內(nèi)存、傳輸速度造成影響,本系統(tǒng)支持實(shí)時(shí)監(jiān)測(cè)、定時(shí)監(jiān)測(cè)2種模式。實(shí)時(shí)監(jiān)測(cè)模式下,只要有任何數(shù)據(jù)變化立刻進(jìn)行同步,確保Model B、Model C數(shù)據(jù)實(shí)時(shí)一致;定時(shí)監(jiān)測(cè)模式下,可手動(dòng)或設(shè)置定時(shí)任務(wù),任務(wù)開(kāi)啟后進(jìn)行同步操作,Model B、Model C數(shù)據(jù)存在一定時(shí)間差,僅在任務(wù)執(zhí)行完成后完全一致。
對(duì)于已經(jīng)保存至Model B、Model C中,并已經(jīng)刻錄至藍(lán)光光盤(pán)中的數(shù)據(jù),若需要進(jìn)行調(diào)閱,可通過(guò)網(wǎng)絡(luò)共享方式直接方案Model B或Model C的文件系統(tǒng)即可,由于兩套系統(tǒng)完全相同,即使某套系統(tǒng)由于硬件故障或自然災(zāi)害無(wú)法使用,也可實(shí)時(shí)切換至另一套系統(tǒng),實(shí)現(xiàn)異地實(shí)時(shí)災(zāi)備,確保數(shù)據(jù)高可用性。
為提高生產(chǎn)環(huán)境數(shù)據(jù)備份及恢復(fù)效率,確保數(shù)據(jù)高效可用,本系統(tǒng)中主存儲(chǔ)系統(tǒng)(Model B)使用Copy Data Management(簡(jiǎn)稱(chēng)CDM)技術(shù)進(jìn)行數(shù)據(jù)備份。
CDM是始于美國(guó)的一項(xiàng)新興數(shù)據(jù)管理技術(shù),近年來(lái)得到了快速的發(fā)展,國(guó)內(nèi)一般翻譯為:副本數(shù)據(jù)管理、復(fù)制數(shù)據(jù)管理、拷貝數(shù)據(jù)管理等。經(jīng)過(guò)幾年時(shí)間,中國(guó)國(guó)內(nèi)對(duì)CDM的認(rèn)知和實(shí)際的技術(shù)發(fā)展基本和美國(guó)處于同一水平線(xiàn)上,呈現(xiàn)方式和發(fā)展路徑略有不同,中國(guó)在某些方面也形成了一些獨(dú)特優(yōu)勢(shì)。隨著國(guó)內(nèi)各行各業(yè)對(duì)CDM認(rèn)知的深入,CDM逐漸顯性化。
CDM技術(shù)能夠滿(mǎn)足大規(guī)模數(shù)據(jù)業(yè)務(wù)需求,實(shí)現(xiàn)分鐘級(jí)數(shù)據(jù)恢復(fù),且具備實(shí)時(shí)增量數(shù)據(jù)備份功能。通過(guò)CDM技術(shù)備份的數(shù)據(jù)格式為初始格式,該數(shù)據(jù)能夠直接掛載到目標(biāo)服務(wù)器,實(shí)現(xiàn)數(shù)據(jù)快速恢復(fù),不受數(shù)據(jù)數(shù)量規(guī)模影響[3]。
CDM技術(shù)自誕生至今,已經(jīng)從單純的備份應(yīng)用方向,發(fā)展成為數(shù)據(jù)運(yùn)維、數(shù)據(jù)管理、數(shù)據(jù)服務(wù)、數(shù)據(jù)戰(zhàn)略等數(shù)據(jù)全生命周期管理的重要?jiǎng)?chuàng)新技術(shù)支撐,CDM有機(jī)會(huì)成為企業(yè)數(shù)據(jù)管理底座。
全球“數(shù)字經(jīng)濟(jì)”蓬勃發(fā)展,數(shù)據(jù)成為關(guān)鍵生產(chǎn)要素,并上升到國(guó)家層面給以關(guān)注。本系統(tǒng)使用藍(lán)光光盤(pán)作為存儲(chǔ)介質(zhì),可確保數(shù)據(jù)存儲(chǔ)安全性,大幅降低數(shù)據(jù)存儲(chǔ)成本。以先進(jìn)的CDM備份技術(shù)為上層應(yīng)用,提高數(shù)據(jù)備份及恢復(fù)效率。通過(guò)對(duì)藍(lán)光存儲(chǔ)系統(tǒng)的監(jiān)測(cè),直接對(duì)機(jī)械手、光驅(qū)進(jìn)行操作,制定數(shù)據(jù)同步策略,最大化保證數(shù)據(jù)安全性。針對(duì)異地災(zāi)備應(yīng)用場(chǎng)景,提供高效率、低成本、高穩(wěn)定性、易操作性的存儲(chǔ)解決方案。