(山東省廣播電視監(jiān)測中心,濟南 250014)
摘 要:本文首先介紹了我省廣播電視監(jiān)測數(shù)據(jù)存儲中心的項目背景,然后就存儲技術(shù)發(fā)展、方案選型設(shè)計及具體應(yīng)用實施做了闡述,最后總結(jié)了項目的實施效果和應(yīng)用前景。
關(guān)鍵詞:廣播監(jiān)測;IDC;監(jiān)測網(wǎng)絡(luò)
0 引言
隨著廣播電視事業(yè)的全面發(fā)展,廣電安全工作日益受到重視。借助高新技術(shù)手段,建立起數(shù)字化、網(wǎng)絡(luò)化、智能化、快速有效的廣電監(jiān)測反應(yīng)機制,有效保障人民群眾的收聽收看權(quán)益,對建設(shè)功能完備的數(shù)據(jù)存儲系統(tǒng)提出了挑戰(zhàn)。針對我省廣電監(jiān)測省、市、縣三級貫通的發(fā)展趨勢,設(shè)計建設(shè)技術(shù)先進、穩(wěn)定可靠的監(jiān)測數(shù)據(jù)存儲中心(IDC:Internet Data Center),為全省17市(地)廣播電視監(jiān)測視/音頻數(shù)據(jù)全天候海量并發(fā)寫入、多用戶并發(fā)查詢等實際需求提供技術(shù)支撐,成為當(dāng)務(wù)之急。
1 存儲技術(shù)的發(fā)展與比較
1.1 存儲技術(shù)的發(fā)展
網(wǎng)絡(luò)化的數(shù)據(jù)存儲技術(shù)發(fā)展至今,大致分為直接外掛存儲(DAS:Direct Attached Storage)、網(wǎng)絡(luò)附加存儲(NAS:Network Attached Storage)、存儲區(qū)域網(wǎng)絡(luò)(SAN:Storage Area Network)三個階段。
直接外掛存儲(DAS):各存儲單元通常以SCSI(Small Computer System Interface 小型計算機系統(tǒng)接口)接口,通過電纜實現(xiàn)服務(wù)器和設(shè)備的互聯(lián)。網(wǎng)絡(luò)內(nèi)的數(shù)據(jù)讀?。↖/O)操作,直面存儲單元。
網(wǎng)絡(luò)附加存儲(NAS):磁盤柜集成了處理器和操作系統(tǒng),網(wǎng)絡(luò)內(nèi)的數(shù)據(jù)讀取(I/O)經(jīng)由系統(tǒng)內(nèi)的TCP/IP網(wǎng)絡(luò),通過文件存取協(xié)議實現(xiàn)。
存儲區(qū)域網(wǎng)絡(luò)(SAN):存儲體系里的各存儲單元,通常由以光纖通道(Fibre Channel)的獨享底層網(wǎng)絡(luò)實現(xiàn)RAID陣列連接互聯(lián),服務(wù)器和訪問端的訪問以SCSI命令而非TCP/IP,優(yōu)勢是高帶寬、“塊級”(block level)數(shù)據(jù)處理。
1.2 存儲技術(shù)的比較
直接外掛存儲(DAS):存儲設(shè)備和服務(wù)器直接互連,服務(wù)器需要獨立的磁盤陣列,且數(shù)據(jù)冗余保護和I/O吞吐能力較強。
網(wǎng)絡(luò)附加存儲(NAS):可將小型、分布的數(shù)據(jù)整合為大型的數(shù)據(jù)中心,實現(xiàn)了存儲設(shè)備與服務(wù)器分離,從而釋放帶寬、提高性能、集中管理數(shù)據(jù),有效降低了成本。
NAS與DAS比較:通俗理解,DAS可以理解為本地磁盤;NAS可以理解成網(wǎng)上鄰居。NAS一般用于網(wǎng)絡(luò)文件服務(wù),在大文件傳輸速率方面優(yōu)勢明顯,通過網(wǎng)絡(luò)交換機訪問方便,容易被多臺服務(wù)器共享使用。DAS僅能直接連接少量服務(wù)器,屬于經(jīng)濟型型的存儲方案,速度尚可,比較適用于中小企業(yè)環(huán)小型存儲網(wǎng)絡(luò)環(huán)境的一般數(shù)據(jù)庫存儲要求。
存儲區(qū)域網(wǎng)絡(luò)(SAN):SAN的底層傳輸網(wǎng)絡(luò)是光纖通道,與外部TCP/IP網(wǎng)絡(luò)物理隔離,專有的存儲區(qū)域網(wǎng)絡(luò), IP+SAN的實際架構(gòu)模式,實現(xiàn)了基于TCP/IP網(wǎng)絡(luò)、SCSI協(xié)議傳輸?shù)脑O(shè)備互聯(lián),各磁盤陣列和服務(wù)器之間,采用的是伸縮式的網(wǎng)絡(luò)拓撲互聯(lián),任意節(jié)點之間數(shù)據(jù)路由自由,且數(shù)據(jù)存儲區(qū)域相對獨立。該系統(tǒng)實現(xiàn)了多種操作系統(tǒng)下標準化光傳輸協(xié)議體系下的跨平臺數(shù)據(jù)共享、優(yōu)化、容量以及RAID規(guī)劃。
SAN和NAS:SAN以高帶寬、高速率實現(xiàn)數(shù)據(jù)的塊狀傳輸,實現(xiàn)了統(tǒng)一平臺下的諸如數(shù)據(jù)庫規(guī)劃、集中存取、管理備份等的靈活部署,且服務(wù)器訪問數(shù)據(jù)時不占用LAN的資源;NAS結(jié)構(gòu)的服務(wù)器需要和文件服務(wù)器交互實現(xiàn)請求響應(yīng),因此更適合辦公環(huán)境下文件級別的小文件客戶需求的共享與應(yīng)用,SAN存儲系統(tǒng)更適合數(shù)據(jù)的集中管理和備份。
2 數(shù)據(jù)存儲中心(IDC)方案設(shè)計
2.1 方案選型
如用DAS方式,同時對存儲資源進行I/O操作,就要為各模塊的設(shè)備提供獨立連接的磁盤陣列,成本過高,存儲容量的靈活擴展及規(guī)劃有局限,且各模塊直接無法數(shù)據(jù)共享。
NAS的優(yōu)點是易操作、容量大且性價比高,但數(shù)據(jù)通信的響應(yīng)速率受制于網(wǎng)絡(luò)提供的帶寬資源。本系統(tǒng)設(shè)計容量可達240TB以上,該型存儲系統(tǒng),提供如此海量的存儲的基礎(chǔ)是設(shè)備規(guī)模龐大,容易造成實施成本過高且不易維護。
SAN的優(yōu)點是穩(wěn)定可靠、容量大、高速率,基于光速的存儲網(wǎng)絡(luò)體系,響應(yīng)了廣電監(jiān)測視/音頻數(shù)據(jù)全天候并發(fā)寫入、多用戶并發(fā)查詢等的實際要求。
SAN服務(wù)器訪問數(shù)據(jù)時,不占用存儲系統(tǒng)外的帶寬資源,實現(xiàn)了存儲系統(tǒng)對TCP/IP網(wǎng)絡(luò)的物理隔離。
SAN存儲體系,可實現(xiàn)統(tǒng)一平臺下的存儲資源部署、動態(tài)監(jiān)管等。
因此,我們選擇SAN來規(guī)劃存儲系統(tǒng)。一個SAN存儲架構(gòu)的、可擴展的基礎(chǔ)存儲系統(tǒng),輔以必要的存儲安全管理方案,通過冗余鏈路完成數(shù)據(jù)的備份和容災(zāi)管理,提供快速恢復(fù)和容災(zāi)機制。
2.2 方案要求
數(shù)據(jù)存儲中心(IDC),由核心服務(wù)器及存儲系統(tǒng)夠成。核心存儲系統(tǒng),由存儲服務(wù)器和磁盤陣列柜成,可實現(xiàn)對全省監(jiān)測數(shù)據(jù)的災(zāi)備存儲。具備容災(zāi)鏈路措施,保證在斷電及災(zāi)備情況下,數(shù)據(jù)存儲安全,設(shè)計要求(如圖1)如下:
前提要求:覆蓋全省的廣電監(jiān)測系統(tǒng)網(wǎng)絡(luò),采集工作站眾多,系統(tǒng)要滿足視/音頻數(shù)據(jù)流的并發(fā)連續(xù)寫入、多用戶并發(fā)查詢的要求。
安全可靠:在數(shù)據(jù)存儲中心(IDC)的各個環(huán)節(jié),尤其是關(guān)鍵部件,需具備容錯特性或備件策略,允許設(shè)備熱拔插;設(shè)備的通用部件(磁盤、服務(wù)器及板卡等),要求技術(shù)成熟、性能穩(wěn)定,售后服務(wù)好。
容量要求:全省17市(地)的視/音頻數(shù)據(jù),要循環(huán)存儲30天,同時滿足永久性數(shù)據(jù)的存儲要求,存儲系統(tǒng)設(shè)計裸容量可達到240T。可用熱擴展方式,在存在容量擴展要求時實現(xiàn)容量的平滑擴展。
易于維護:要求系統(tǒng)支持遠程管理,對綜合存儲系統(tǒng)的各個設(shè)備單元,實現(xiàn)日常運行實時監(jiān)控,以及故障的自我診斷、隔離、排除。
性價比高:數(shù)據(jù)的安全策略,要符合廣電監(jiān)測對象主要為視/音頻信號的特點,在滿足監(jiān)測級別的數(shù)據(jù)安全及備份要求的前提下,又要避免特殊行業(yè)對存儲數(shù)據(jù)苛刻性的要求,以免投資浪費。
3 技術(shù)應(yīng)用與硬件配置
監(jiān)測數(shù)據(jù)存儲中心(IDC)(如圖2),具備可靠、易擴展、易于管理等特點。提高存儲空間穩(wěn)定可靠性的同時,實現(xiàn)統(tǒng)一管理、靈活擴展和豐富的數(shù)據(jù)管理功能,以滿足監(jiān)測存儲系統(tǒng)對節(jié)目持續(xù)錄制和超大容量存儲的需求。利用系統(tǒng)內(nèi)置的RAID保護技術(shù)、熱備盤保護技術(shù)、數(shù)據(jù)寫CACHE操作鏡像保護(雙控制器)、斷電CACHE數(shù)據(jù)保護技術(shù)(通過電池來實現(xiàn))等保障數(shù)據(jù)安全。
3.1 技術(shù)應(yīng)用
采用IP+SAN的架構(gòu):Fiber Channel(光纖通道),采集工作站將視/音頻信號采集、壓縮、編碼、封裝成為適合于TCP/IP網(wǎng)絡(luò)傳輸?shù)臄?shù)據(jù)流,傳輸?shù)酱鎯Ψ?wù)器,最終以符合FC-SCSI(Fiber Channel-Small Computer System Interface 光纖通道-小型計算機系統(tǒng)專用接口)協(xié)議的數(shù)據(jù)包,分別接入IP+SAN架構(gòu)的存儲網(wǎng)絡(luò)。
存儲接入擴展(1-N):可實現(xiàn)靈活的不同操作系統(tǒng)下的數(shù)據(jù)存儲系統(tǒng)的接入。
數(shù)據(jù)遠程容災(zāi)設(shè)備:通過遠程容災(zāi)鏈路,實現(xiàn)本地數(shù)據(jù)在異地存儲設(shè)備上的容災(zāi)備份。
存儲服務(wù)器雙機容錯:采用雙機容錯的集群工作模式,切換由集群管理系統(tǒng)實現(xiàn),同時提供數(shù)據(jù)遠程容災(zāi)鏈路及設(shè)備。
光纖通道的動態(tài)管理:SAN網(wǎng)絡(luò)中,每臺設(shè)備有兩條等價開銷的光纖鏈路,以均衡負載方式提高SAN網(wǎng)絡(luò)的處理能力及可靠性。
磁盤陣列規(guī)劃: 磁盤陣列組以RAID5(5D+1P)級別提高磁盤利用率,讀寫速率及數(shù)據(jù)恢復(fù)時間適中;主磁盤陣列實現(xiàn)了全局熱備份磁盤(Hot Spare Disk)自動熱備份,故障磁盤熱拔插(Hot Swap)。
3.2 硬件配置
存儲架構(gòu): IP+SAN存儲系統(tǒng),F(xiàn)iber Channel,支持iSCSI協(xié)議;
磁盤驅(qū)動:支持SAS、SATA磁盤混插,支持熱拔插及在線維護;
擴展容量:最大支持磁盤數(shù)≥336,考慮系統(tǒng)全天候24小時視/音頻并發(fā)寫入,及對新媒體的監(jiān)測擴展性需求,系統(tǒng)設(shè)計容量可擴展至240T以上;
存儲控制器: 64位雙核處理器,雙控制器。
控制器緩存:標配緩存≥16GB,最大緩存≥32GB;支持寫緩存鏡像,寫緩存支持斷電保護≥100小時。
后端磁盤通道:后端帶寬≥72Gb;控制器上每個SAS磁盤通道的帶寬12Gb,SAS磁盤通道數(shù)≥6;每磁盤柜支持2個SAS通路,支持故障切換;
前端主機通道:控制器主機接口≥16,支持斷口捆綁,可組建SAN;
主機連接:SAN存儲環(huán)境中,最大主機連接數(shù)≥256;帶寬≥1440Mb/s;
可靠性:支持RAID0、RAID1、RAID5、RAID10;冗余設(shè)備在故障時,保證自動切換。保證單一部件故障,不影響整個系統(tǒng)的正常運行;
操作系統(tǒng)兼容性: Windows、Solaris、HP-UX、AIX、Linux,etc;
數(shù)據(jù)管理和保護:支持數(shù)據(jù)鏡像,可為數(shù)據(jù)卷加完全一致的鏡像卷;鏡像卷可與源鏡像卷分離,用于測試、備份;支持通過IP網(wǎng)絡(luò)容災(zāi)鏈路,將指定數(shù)據(jù)卷上發(fā)生變化的數(shù)據(jù),傳輸?shù)饺轂?zāi)/備份中心的磁盤上,實現(xiàn)遠程容災(zāi)。
系統(tǒng)管理軟件:提供完整的系統(tǒng)管理軟件,支持集中式GUI監(jiān)控、性能分析,支持SNMP;支持性能監(jiān)測和報告的軟件以及多路徑軟件;安全訪問控制軟件;環(huán)境監(jiān)測、故障預(yù)測和報警功能;支持事件報告的方式。
4 總結(jié)
全光纖通道(Fiber Channel)、IP+SAN存儲架構(gòu)的廣電監(jiān)測數(shù)據(jù)存儲中心(IDC),以全省SDH(Synchronous Digital Hierarchy 同步數(shù)字系列)廣電專屬網(wǎng)為底層傳輸網(wǎng)絡(luò),建成以來,讀取速度快、運行安全穩(wěn)定,易于維護和擴展,實用性與先進性兼具,滿足了基于全省17市(地)廣播電視監(jiān)測視/音頻數(shù)據(jù)全天候海量并發(fā)寫入、多用戶并發(fā)查詢的網(wǎng)絡(luò)化監(jiān)測需求,與互聯(lián)網(wǎng)視/音頻監(jiān)測系統(tǒng)等多個監(jiān)測系統(tǒng)的擴展性融合良好。
參考文獻:
[1]張偉.發(fā)展中的廣播電視監(jiān)測業(yè)務(wù)[M].中國廣播技術(shù)發(fā)展論壇,2003(10):30-35.
[2]王建剛.數(shù)字存儲技術(shù)在衛(wèi)星廣播電視監(jiān)測中的應(yīng)用[M].廣播與電視技術(shù),2005(09):99-102.
[3]IEEE Standard Test Access Port and Boundary-Scan Architecture,IEEE Standard 1149.1,2001.
[4]董燕.中央監(jiān)測資源集成平臺的軟件架構(gòu)設(shè)計思路[M].廣播與電視技術(shù),2007(11):105-108.