王國輝
(鄭州廣播電視臺,河南 鄭州 450018)
隨著廣播電臺對數(shù)字音頻網(wǎng)絡的依賴性越來越強,數(shù)據(jù)已經(jīng)成為業(yè)務的核心。隨著音頻數(shù)據(jù)量的不斷增長,當達到數(shù)十TB時,數(shù)據(jù)備份和恢復操作對服務器硬件的依賴和影響就越來越大。另外,普通存儲陣列容量的擴展,會造成業(yè)務系統(tǒng)的停機,對于要求7×24小時服務的關(guān)鍵網(wǎng)絡系統(tǒng)來說,降低了整個系統(tǒng)的高可用性。
各類業(yè)務的全面網(wǎng)絡化使得數(shù)據(jù)規(guī)模越來越大,相關(guān)的數(shù)據(jù)流占用了過多的資源,選擇合適的系統(tǒng)架構(gòu)具有非常重要的意義[1]。鄭州廣播電視臺自2003年開始構(gòu)建數(shù)字音頻網(wǎng)絡系統(tǒng),歷經(jīng)了DAS,NAS,SAN等多種架構(gòu)。媒體融合的快速發(fā)展對廣播技術(shù)系統(tǒng)提出了新的更高的要求,這些傳統(tǒng)的技術(shù)架構(gòu)已經(jīng)不能滿足廣播業(yè)務快速發(fā)展的需求。廣播和互聯(lián)網(wǎng)的融合越來越緊密,媒體融合的主戰(zhàn)場已經(jīng)到了互聯(lián)網(wǎng),這就要求廣播的技術(shù)平臺具有高效、靈活、安全等特性,以高可用音頻服務器為中心,為音頻編輯站、音頻管理站和音頻播出站提供查詢、播出及儲存等服務。電臺開展業(yè)務的技術(shù)架構(gòu),由原有的物理方式轉(zhuǎn)向虛擬化平臺,但是普通的虛擬化架構(gòu)成本較高,不利于廣播中心的推廣使用。為進一步降低數(shù)據(jù)中心的復雜性并提升擴張能力,鄭州廣播電視臺采用了VMware超融合架構(gòu)解決方案,較好地滿足了廣播電臺業(yè)務發(fā)展的技術(shù)需求。
服務器虛擬化即將服務器物理資源抽象成邏輯資源,使一臺服務器變成幾臺甚至上百臺相互隔離的虛擬服務器或者將多臺服務器虛擬成一臺服務器,不再受限于物理上的界限,使CPU、內(nèi)存、磁盤、I/O等硬件部分能夠根據(jù)實際情況合理調(diào)配資源,充分整合資源、利用資源、集約化管理。這就是服務器虛擬化的意義。
VMware超融合架構(gòu)是VMware公司根據(jù)廣播電視臺的特點,基于服務器虛擬化和分布式存儲技術(shù),將計算、存儲和網(wǎng)絡集成于X86服務器之中,為電視臺提供硬件與軟件一體、產(chǎn)品與服務一體的超融合存儲[2]。它不僅構(gòu)建了一個隨需擴展的數(shù)據(jù)存儲中心,還整合了數(shù)據(jù)庫、域控、安全及備份等功能模塊,并進行統(tǒng)一管理,大幅度降低規(guī)劃難度,提升效率,節(jié)省成本[3]。該架構(gòu)主要有5個方面的特點。
(1)高擴展性。架構(gòu)采用領(lǐng)先的分布式存儲系統(tǒng),支持500個以上的存儲網(wǎng)關(guān)線性擴展,單一文件系統(tǒng)容量可擴展至32 PB;每個系統(tǒng)節(jié)點可以單獨擴容、分布實施,充分利用之前的硬件設備,系統(tǒng)彈性好。
(2)高可用性。通過硬盤冗余、數(shù)據(jù)冗余等安全技術(shù),提高了系統(tǒng)整體可用性,保證了業(yè)務連續(xù)性。
(3)可靠高效的數(shù)據(jù)保護技術(shù)。系統(tǒng)采用數(shù)據(jù)冗余技術(shù)且使用分布式存儲,如果出現(xiàn)故障,能夠迅速恢復業(yè)務,充分保證數(shù)據(jù)安全。
(4)統(tǒng)一協(xié)議存儲。存儲網(wǎng)關(guān)本身融合有文件服務器,支持NFS、FTP、SMB等標準網(wǎng)絡協(xié)議[4]。
(5)易管理。通過虛擬化軟件,能夠根據(jù)具體業(yè)務的需求變化,及時對硬件資源統(tǒng)一分配管理,方便快捷,易于維護。
鄭州廣播電視臺廣播中心之前歷經(jīng)了DAS,NAS,SAN等多種架構(gòu),采用服務器+磁盤陣列的方式提供存儲服務。在日常使用中,假如磁盤陣列或服務器宕機,會造成業(yè)務長時間中斷,數(shù)據(jù)恢復困難,同時也給安全播出帶來了巨大的挑戰(zhàn)。作為省級的廣播臺,隨著媒體融合的不斷發(fā)展,鄭州廣播電視臺對業(yè)務系統(tǒng)的快速改變上線應用的要求也越來越高。因此,對整個廣播業(yè)務系統(tǒng)架構(gòu)的設計,既要滿足目前的使用需要,又要能夠靈活調(diào)整、彈性擴容,為多業(yè)務的并行運行保駕護航。
在系統(tǒng)整體升級更新后,鄭州廣播電視臺廣播自動化播出系統(tǒng)采用VMware超融合技術(shù)。本次方案的服務器部分由于采用了虛擬化技術(shù),支持動態(tài)擴容,包括計算資源(CPU)、緩存(memory)、存儲(硬盤、陣列)等的動態(tài)添加;支持應用服務器的CPU、內(nèi)存、存儲資源“按需分配”、動態(tài)調(diào)整。后續(xù)業(yè)務有增加的情況下,可以直接在現(xiàn)有平臺上添加一個“應用服務器”即可,不需另外單獨購買硬件服務器。整體架構(gòu)及網(wǎng)絡拓撲分別如圖1和圖2所示。下面詳細敘述具體實現(xiàn)。
圖1 超融合整體架構(gòu)
圖2 鄭州廣播電視臺基本網(wǎng)絡拓撲圖
為保證生產(chǎn)環(huán)境的正常運行以及在特殊情況下業(yè)務的連續(xù)性,關(guān)鍵業(yè)務服務器一般要求至少有2臺,為“主+備”狀態(tài)。特殊情況如硬件故障、掉電、其他原因引起的宕機等,在主業(yè)務服務器不能正常提供服務的情況下,要求備服務器能夠盡快接管業(yè)務,保證系統(tǒng)的正常運行。
關(guān)鍵業(yè)務服務器包含制作服務器2臺,廣告服務器2臺,媒資服務器2臺。
由于存儲部分涉及制作、廣告、媒資的視音頻的存儲,要求存儲容量越大越好。存儲部分具體分為制作網(wǎng)存儲,廣告網(wǎng)存儲以及媒資網(wǎng)存儲。
業(yè)務服務器、工作站等需要以FTP、CIFS等方式讀寫文件,因此還需要提供FTP服務器、SMB服務器等,提供標準的FTP、CIFS訪問服務。根據(jù)實際情況,制作網(wǎng)、廣告網(wǎng)及媒資網(wǎng)均需配置FTP服務器和SMB服務器。
具體架構(gòu)是:采用2臺高性能物理服務器EDI-9000熱備,通過“虛擬化技術(shù)”虛擬出6臺應用服務器,采用基于Web的界面對存儲設備進行配置管理。系統(tǒng)配置工作簡單明了,流程清晰。系統(tǒng)能夠提供遠程告警。存儲部分,同時采用最先進的分布式存儲技術(shù),將2臺物理服務器上的所有大容量硬盤管理起來,形成統(tǒng)一存儲池。擴容后新增存儲物理容量48 TB,數(shù)據(jù)經(jīng)過多極冗余,分布式備份存儲,提高安全性,多個副本同時在線。強大的備份恢復機制,確保數(shù)據(jù)的安全,對廣播業(yè)務至關(guān)重要。對于廣播電臺高可用性的要求,VMware硬件層基于RAID技術(shù),組建RAID5+1后,有效容量約40 TB,軟件層基于SDS文件系統(tǒng)、文件多副本技術(shù)冗余后,實際可用容量約20 TB,這是一個高可用性、易擴展的系統(tǒng)。鄭州廣播電視臺采用這種架構(gòu),有利于系統(tǒng)的縱向及橫向擴展,前期投資建設時系統(tǒng)可部署得比較小,根據(jù)后期業(yè)務的發(fā)展和系統(tǒng)資源使用情況,可以非常方便地在線擴容,數(shù)據(jù)無需離線,保障了系統(tǒng)的正常使用。
基于算法的快速定位技術(shù),系統(tǒng)能夠迅速查找定位問題數(shù)據(jù),從根本上解決元數(shù)據(jù)管理這一難題,從而獲得近乎無限規(guī)模的線性高擴展性,同時也大幅提高了系統(tǒng)性能和可靠性。集群中任何節(jié)點,只需要相對路徑和文件名就可以對數(shù)據(jù)進行快速定位和讀寫,無元數(shù)據(jù)交互過程,文件定位可以獨立并行化進行。系統(tǒng)配置了8個千兆網(wǎng)口,實際帶寬可達400 MB·s-1以上。原有存儲可作為“備存儲”來使用,通過EDI-9000超融合存儲的“備份模塊”自動同步主存儲數(shù)據(jù),原有的系統(tǒng)作為二級備份。采用超融合架構(gòu)以后,使用簡單的統(tǒng)一資源管理,改變了傳統(tǒng)的IT運維模式,配置管理變得簡單,降低了技術(shù)人員的勞動強度,提高了工作效率。更重要的是能及時響應快速變化的業(yè)務需求,新的應用可以快速部署到超融合系統(tǒng)中。
鄭州廣播電視臺建設的這套系統(tǒng),支持Windows、Linux環(huán)境下提供高穩(wěn)定性、可靠性數(shù)據(jù)存儲能力,特別適合電臺音視頻文件系統(tǒng)的傳輸存儲。以前系統(tǒng)的瓶頸在于多種系統(tǒng)間文件系統(tǒng)不一致,多種傳輸協(xié)議資料存儲協(xié)議共存相互轉(zhuǎn)換,降低了系統(tǒng)整體的性能。而VMware超融合架構(gòu)所使用的是存儲設備自己的文件系統(tǒng)、TCP/IP over GbE數(shù)據(jù)傳輸協(xié)議,統(tǒng)一了協(xié)議標準,提高了數(shù)據(jù)存取效率。存儲網(wǎng)絡和用戶網(wǎng)絡可采用10 GbE聚合,保證素材讀寫流暢,不卡頓、不丟幀。存儲素材量巨大、多人協(xié)同制作時,單個節(jié)點可以提供1 GB或更高的讀寫帶寬,能夠保證帶寬需求。這有利于對電臺媒資庫進行大容量音頻數(shù)據(jù)資料調(diào)取使用時,可以跳過客戶機的文件系統(tǒng)進行存取,降低了服務器磁盤塊(Block)I/O的存取壓力[5]。
采用超融合架構(gòu)后,客戶端主機的中央處理器只用處理應用業(yè)務系統(tǒng),脫離了文件系統(tǒng)和硬件系統(tǒng),簡化了數(shù)據(jù)流程,縮短了數(shù)據(jù)程序流程的執(zhí)行時間。同時,采用超融合系統(tǒng)架構(gòu),硬件層面通過集群管理,軟件層面通過多副本、分布式存儲,消除了系統(tǒng)的單點故障,單個設備出問題不影響業(yè)務的正常開展[6]。這對于廣播電臺的播出、審聽等實時音頻流的應用非常有利,提升了客戶端音頻上傳、下載、審聽等使用場景的體驗感,提高了工作的效率。
本方案中,對于數(shù)據(jù)存儲,有如下安全保護策略。
(1)使用集群和多副本冗余保護模式,用戶根據(jù)應用業(yè)務類型綜合考慮來選擇配置模式,從而可以實現(xiàn)數(shù)據(jù)高可靠和存儲服務持續(xù)化。
(2)集群節(jié)點故障后,正常節(jié)點將自動接管故障節(jié)點的連接,保證業(yè)務不中斷,并通過系統(tǒng)修復策略管制,可確保節(jié)點故障對業(yè)務性能無影響。單塊硬盤出現(xiàn)故障時,系統(tǒng)監(jiān)測到故障盤后,熱備硬盤自動替換并開始恢復數(shù)據(jù)。
(3)集群之間可實現(xiàn)自動或手動負載均衡,保證各個節(jié)點容量與性能基本一致。系統(tǒng)可實現(xiàn)不停機的在線擴展,大大縮減或消除計劃內(nèi)的停機時間。
(4)多副本技術(shù)可以以正常數(shù)據(jù)為源數(shù)據(jù),復制并恢復丟失或損壞的數(shù)據(jù)副本;糾刪碼保護技術(shù)可以通過存儲的冗余數(shù)據(jù)信息來重建丟失或損壞的數(shù)據(jù),進一步加強對數(shù)據(jù)的保護。
(5)系統(tǒng)設計以負載均衡模式工作,如果某個設備故障,其他節(jié)點自動接管,保證業(yè)務的連續(xù)性。此過程中,數(shù)據(jù)存取正常,客戶端感受不到任何變化。
(6)可以對用戶或用戶組設置存儲容量配額,調(diào)整靈活,管理方便。
這些安全保護策略,確保了電臺最重要的數(shù)據(jù)資源的安全可靠,提高了系統(tǒng)整體的可用性。
在廣播業(yè)務快速發(fā)展的當下,基于IT技術(shù)發(fā)展而來的“超融合技術(shù)”,滿足了鄭州廣播電視臺不斷發(fā)展的業(yè)務需求,通過計算、存儲虛擬化技術(shù)和管理,降低了系統(tǒng)復雜度,使得技術(shù)維護人員能夠方便地管理。通過圖形化管理工具,能夠圖形化直觀顯示計算、存儲、網(wǎng)絡等資源配置,簡化了技術(shù)操作流程,降低了維護復雜度,提升了工作效率,同時也節(jié)約了系統(tǒng)軟硬件成本,能夠推動媒體融合業(yè)務的快速發(fā)展。