基于異地雙活的95598跨庫數(shù)據(jù)集成系統(tǒng)設(shè)計

吳杏平，李子乾，李 瑋，王 雷

(國家電網(wǎng)公司客戶服務(wù)中心，天津 300000)

0 引 言

近年來，在云計算、大數(shù)據(jù)等新興技術(shù)不斷涌現(xiàn)的新形勢下，傳統(tǒng)的單數(shù)據(jù)中心已經(jīng)無法滿足日益增長的數(shù)據(jù)需求[1-2]，信息系統(tǒng)壓力日益增大，尤其具有高可用、高性能、持續(xù)可靠等要求的重要信息系統(tǒng)所面臨的挑戰(zhàn)很大。因此越來越多的行業(yè)開始建立多數(shù)據(jù)中心的運行模式，來確保信息系統(tǒng)的安全、穩(wěn)定和高效運行[3-4]。

國家電網(wǎng)客戶服務(wù)中心95598的供電服務(wù)面向千家萬戶，對社會的影響大，故其服務(wù)要求極高，是公司形象展示的重要窗口?？蛻舴?wù)中心作為國家電網(wǎng)公司的窗口部門，其信息系統(tǒng)的安全性、可靠性將直接關(guān)系到國家電網(wǎng)公司的社會形象，其中尤為重要的是95598核心業(yè)務(wù)系統(tǒng)的業(yè)務(wù)連續(xù)性保障體系建設(shè)。結(jié)合客服中心應(yīng)用特點，以及業(yè)界多種應(yīng)用雙/多活的成熟經(jīng)驗和先進案例，將異地雙活模式應(yīng)用于95598客服系統(tǒng)。建設(shè)客服中心95598異地雙活核心業(yè)務(wù)災(zāi)備系統(tǒng)，將最大限度降低核心業(yè)務(wù)系統(tǒng)的單點異常對整體業(yè)務(wù)功能連續(xù)性的影響；災(zāi)備系統(tǒng)建成后，兩個數(shù)據(jù)中心將分別對各省市遠(yuǎn)程用戶提供訪問服務(wù)；在災(zāi)難發(fā)生時，可將故障中心的用戶訪問流量全部轉(zhuǎn)發(fā)到另一個數(shù)據(jù)中心處理。而遠(yuǎn)距離異地雙活的難點在于如何將以省為單元的異地營銷數(shù)據(jù)集成，儲存到總部的公共庫，以滿足兩個中心數(shù)據(jù)一致性的要求[5]。

基于95598異地雙活災(zāi)備模型，設(shè)計了一個跨庫數(shù)據(jù)集成系統(tǒng)。該系統(tǒng)由數(shù)據(jù)復(fù)制、數(shù)據(jù)集成和數(shù)據(jù)提供三部分構(gòu)成，完成了各省(市)異地營銷數(shù)據(jù)到總部系統(tǒng)公共庫的集成，并有效保證了雙活中心數(shù)據(jù)的一致性，滿足了異地雙活的需要。

1 異地雙活數(shù)據(jù)集成系統(tǒng)設(shè)計

雙活數(shù)據(jù)中心的搭建要求建立兩個數(shù)據(jù)中心[6-7]，二者能夠?qū)崿F(xiàn)數(shù)據(jù)的互通和互備，其中一個數(shù)據(jù)中心作為主數(shù)據(jù)中心，另一個數(shù)據(jù)中心作為備份數(shù)據(jù)中心，主數(shù)據(jù)中心可以調(diào)用備份數(shù)據(jù)中心數(shù)據(jù)為用戶提供應(yīng)用。當(dāng)主數(shù)據(jù)中心出現(xiàn)故障時，備份數(shù)據(jù)中心可作為主數(shù)據(jù)中心應(yīng)用，并且能夠通過數(shù)據(jù)通道，將主數(shù)據(jù)中心存儲的數(shù)據(jù)調(diào)用到備份數(shù)據(jù)中心進行應(yīng)用。數(shù)據(jù)的調(diào)用要保證即時性、流暢性、無障礙，數(shù)據(jù)中心的轉(zhuǎn)換不會給用戶應(yīng)用數(shù)據(jù)中心平臺造成影響，并且要保證數(shù)據(jù)接口的安全，防止數(shù)據(jù)被竊取或者掉包。

1.1 需求分析

(1)整合27省(市)電力公司客戶數(shù)據(jù)，構(gòu)建公司級客戶檔案統(tǒng)一視圖，以支撐3.6億客戶信息的快速檢索和無差異查詢。

(2)無論客服中心核心業(yè)務(wù)系統(tǒng)是從生產(chǎn)環(huán)境切換到災(zāi)備環(huán)境還是從災(zāi)備環(huán)境切換到生產(chǎn)環(huán)境，數(shù)據(jù)都不能出現(xiàn)混亂或丟失(例如有重復(fù)數(shù)據(jù)或是邏輯上不一致的數(shù)據(jù))。

(3)恢復(fù)點目標(biāo)RPO<2分鐘，恢復(fù)時間目標(biāo)RTO<30分鐘。根據(jù)系統(tǒng)的組成，針對災(zāi)備數(shù)據(jù)，災(zāi)備系統(tǒng)具有2個重要的指標(biāo)，即恢復(fù)點目標(biāo)(recovery point object，RPO)和恢復(fù)時間目標(biāo)(recovery time object，RTO)。RPO是指業(yè)務(wù)系統(tǒng)所允許的災(zāi)難過程中的最大數(shù)據(jù)丟失量；RTO是將信息系統(tǒng)“從災(zāi)難造成的故障或癱瘓狀態(tài)恢復(fù)到可正常運行狀態(tài)，并將其支持的業(yè)務(wù)功能從災(zāi)難造成的不正常狀態(tài)恢復(fù)到可接受狀態(tài)”所需時間，由備份數(shù)據(jù)恢復(fù)到可用狀態(tài)所需時間、數(shù)據(jù)處理系統(tǒng)切換時間、備用網(wǎng)絡(luò)切換時間等組成。RPO與RTO越小，災(zāi)備數(shù)據(jù)的狀態(tài)越好，表示系統(tǒng)的可用性越高。

(4)數(shù)據(jù)一致性、完整性保障，同時實現(xiàn)關(guān)鍵業(yè)務(wù)數(shù)據(jù)本地保護。

1.2 系統(tǒng)設(shè)計

異地雙活環(huán)境下跨庫數(shù)據(jù)集成系統(tǒng)面向使用頻度高，引用密度高，數(shù)據(jù)及時性要求高，變化緩慢，重復(fù)使用度高的信息。例如客戶檔案信息、客戶電源及接入信息、客戶計量信息等，在總部建立集中統(tǒng)一的存貯，不但可以避免頻繁通過遠(yuǎn)程網(wǎng)絡(luò)訪問省(市)系統(tǒng)，而且可以有效提高總部系統(tǒng)處理效率。

數(shù)據(jù)集成范圍包括客戶檔案、電費管理、業(yè)務(wù)費用、電量電費計算結(jié)果數(shù)據(jù)等業(yè)務(wù)分類。整合這些數(shù)據(jù)，構(gòu)建公司級客戶檔案統(tǒng)一數(shù)據(jù)模型，如圖1所示。

圖1 統(tǒng)一數(shù)據(jù)模型

其數(shù)據(jù)統(tǒng)一模型由組織域、客戶域、服務(wù)域、電網(wǎng)域、營銷設(shè)備域、支撐域和公共數(shù)據(jù)等七個數(shù)據(jù)域組成。為滿足客戶服務(wù)中心各業(yè)務(wù)應(yīng)用的數(shù)據(jù)集成需求，27個省(市)的營銷數(shù)據(jù)分別通過數(shù)據(jù)復(fù)制工具復(fù)制到基礎(chǔ)支撐平臺對應(yīng)的27個查詢庫，數(shù)據(jù)實時同步更新?；A(chǔ)支撐平臺按業(yè)務(wù)類型將查詢庫中的數(shù)據(jù)進行整合，存儲到公共庫以提供統(tǒng)一數(shù)據(jù)服務(wù)?；?5598的特點及數(shù)據(jù)集成需求，設(shè)計并構(gòu)建的異地雙活環(huán)境下跨庫數(shù)據(jù)集成系統(tǒng)如圖2所示。

圖2 數(shù)據(jù)集成系統(tǒng)

異地雙活環(huán)境下跨庫數(shù)據(jù)集成系統(tǒng)由數(shù)據(jù)復(fù)制、數(shù)據(jù)集成和數(shù)據(jù)提供三個模塊構(gòu)成，數(shù)據(jù)復(fù)制通過復(fù)制軟件將省(市)公司系統(tǒng)檔案等變化緩慢且復(fù)用度高的數(shù)據(jù)分別復(fù)制到總部對應(yīng)省(市)公司的查詢庫。數(shù)據(jù)集成是由各省市獨立的查詢數(shù)據(jù)庫集成為公共數(shù)據(jù)庫的過程，依靠ETL軟件完成。數(shù)據(jù)提供則是以統(tǒng)一接口統(tǒng)一對外提供服務(wù)。

2 數(shù)據(jù)復(fù)制

數(shù)據(jù)復(fù)制通過數(shù)據(jù)復(fù)制軟件將省(市)公司系統(tǒng)檔案等變化緩慢且復(fù)用度高的應(yīng)用庫數(shù)據(jù)，以電力通信網(wǎng)為媒介，分別復(fù)制到總部對應(yīng)省(市)公司的查詢庫。

異地雙活選擇復(fù)制方式時需要對各自的系統(tǒng)進行IO讀寫實現(xiàn)復(fù)制，不能獨占文件，要求可以與應(yīng)用的服務(wù)并存，以滿足雙活災(zāi)備的要求。同時，由于異地數(shù)據(jù)傳輸距離較長，如果采用同步方式進行數(shù)據(jù)復(fù)制，那么就會造成系統(tǒng)的業(yè)務(wù)操作延時過長，導(dǎo)致系統(tǒng)性能和服務(wù)能力下降。綜合考慮各種復(fù)制方式的特征，如表1所示，所以必須選擇應(yīng)用層異步復(fù)制的方式，文中選擇應(yīng)用層異步邏輯復(fù)制方法中的OGG(oracle golden gate)[8-9]復(fù)制方法。同時，為了解決系統(tǒng)的數(shù)據(jù)復(fù)制和業(yè)務(wù)操作同時更新同一條數(shù)據(jù)而造成沖突的問題，需要對數(shù)據(jù)進行邏輯隔離，即：雙活兩端同時寫入操作的數(shù)據(jù)必須保證不同。對于公共數(shù)據(jù)限制用戶在單邊維護操作，防止發(fā)生沖突。采用邏輯隔離的策略，例如不同的單位或者不同模塊的數(shù)據(jù)，可讓雙活系統(tǒng)兩端操作的數(shù)據(jù)完全無關(guān)。通過對用戶按區(qū)域進行劃分的隔離方式可以滿足這一要求。對復(fù)制過程描述如下。

表1 復(fù)制方式及特征

2.1 源端、目的端數(shù)據(jù)域

數(shù)據(jù)集成將省(市)營銷庫的核心基礎(chǔ)數(shù)據(jù)，如用電客戶繳費賬戶、賬戶信息、歷史用電數(shù)據(jù)等分別復(fù)制到支撐平臺相應(yīng)的查詢庫中。源端的數(shù)據(jù)域包括：組織域、客戶域、服務(wù)域、電網(wǎng)域、營銷設(shè)備域、支撐域、公共數(shù)據(jù)。目標(biāo)端的數(shù)據(jù)域與源端保持一致。

2.2 復(fù)制過程

復(fù)制過程如圖3所示。

圖3 復(fù)制過程

步驟1：按客服中心查詢庫標(biāo)準(zhǔn)數(shù)據(jù)模型構(gòu)建數(shù)據(jù)準(zhǔn)備區(qū)；

步驟2：將營銷數(shù)據(jù)轉(zhuǎn)換并實時同步到數(shù)據(jù)準(zhǔn)備區(qū)；

步驟3：開通省(市)營銷防火墻數(shù)據(jù)復(fù)制相關(guān)端口；

步驟4：開通客服中心測試設(shè)備區(qū)防火墻數(shù)據(jù)復(fù)制相關(guān)端口；

步驟5：利用數(shù)據(jù)準(zhǔn)備區(qū)數(shù)據(jù)庫導(dǎo)出的dmp文件初始化查詢庫，并啟動OGG數(shù)據(jù)復(fù)制進程。

2.3 復(fù)制策略

復(fù)制策略描述如下：

步驟1：利用捕捉進程(capture process)在源系統(tǒng)端讀取Online Redo Log或Archive Log，解析之后對數(shù)據(jù)的增、刪、改等變化進行提取，將提取的相關(guān)信息以GoldenGate TDM自定義的中間格式存儲于隊列文件；

步驟2：將隊列文件通過TCP/IP傳送進程傳送到目標(biāo)系統(tǒng)。利用捕捉進程捕捉log中的數(shù)據(jù)變化，再讀取、傳送到目標(biāo)系統(tǒng)后的檢查點，并記錄該檢查點的位置。檢查點是捕捉進程終止后恢復(fù)的起始點，避免了進程從頭開始造成的資源浪費；

步驟3：目標(biāo)系統(tǒng)接受數(shù)據(jù)變化并緩存到Golden-Gate TDM的臨時存儲隊列當(dāng)中，等待投遞進程讀取數(shù)據(jù)；

步驟4：GoldenGate投遞進程讀取數(shù)據(jù)變化并創(chuàng)建對應(yīng)的SQL語句。這一過程通過數(shù)據(jù)庫的本地接口執(zhí)行，數(shù)據(jù)提交數(shù)據(jù)庫成功后檢查點自動更新為已完成復(fù)制的位置，復(fù)制過程至此結(jié)束。

數(shù)據(jù)庫成功后更新自己的檢查點，記錄已經(jīng)完成復(fù)制的位置，數(shù)據(jù)的復(fù)制過程最終完成。

3 數(shù)據(jù)集成

數(shù)據(jù)集成是利用ETL工具，將27個查詢庫向災(zāi)備中心公共庫的數(shù)據(jù)整合過程。ETL是數(shù)據(jù)抽取、轉(zhuǎn)換和裝載(extraction，transformation，loading)的英文簡稱[10]。ETL數(shù)據(jù)集成過程可以分為三步：數(shù)據(jù)抽取、轉(zhuǎn)換和清洗、加載[11]。其中，數(shù)據(jù)轉(zhuǎn)換與清洗在95598異地雙活災(zāi)備系統(tǒng)中并未涉及。

數(shù)據(jù)抽取就是從數(shù)據(jù)源的數(shù)據(jù)項中抽取數(shù)據(jù)，主要工作包括確認(rèn)數(shù)據(jù)的來源和確認(rèn)合理的數(shù)據(jù)抽取技術(shù)。數(shù)據(jù)抽取可以分為數(shù)據(jù)全量抽取和數(shù)據(jù)增量抽取。全量抽取類似于數(shù)據(jù)遷移或數(shù)據(jù)復(fù)制，它將數(shù)據(jù)源中的全部表項數(shù)據(jù)都抽取出來，加工轉(zhuǎn)換后加載到數(shù)據(jù)庫中。增量抽取主要指在全量抽取的基礎(chǔ)上，按需對新增或修改等變化的數(shù)據(jù)進行抽取。根據(jù)95598異地雙活系統(tǒng)的特點，該方法選擇全量抽取方式。

數(shù)據(jù)加載是ETL過程的最終環(huán)節(jié)，是將數(shù)據(jù)從數(shù)據(jù)臨時表或文件中加載到指定數(shù)據(jù)倉庫中的過程。裝載數(shù)據(jù)的最佳方法取決于所執(zhí)行操作的類型以及加載的數(shù)據(jù)量。一般來說有兩種裝載方式：直接SQL語句操作或采用關(guān)系數(shù)據(jù)庫特有的裝載工具批量裝載。此外，為了提高加載效率，也可以采用多程序并行處理方式。

4 一致性校驗

應(yīng)用層異步復(fù)制將系統(tǒng)中不同的數(shù)據(jù)采用各自的復(fù)制策略進行復(fù)制。Mongodb日志數(shù)據(jù)、Oracle關(guān)系型數(shù)據(jù)和非結(jié)構(gòu)化數(shù)據(jù)等多種數(shù)據(jù)的獨立異步復(fù)制存在時間差異，這將會導(dǎo)致系統(tǒng)數(shù)據(jù)不一致的問題，需要采用有針對性的策略解決系統(tǒng)數(shù)據(jù)一致性問題[12-14]。

目前情況下，業(yè)界針對OGG的數(shù)據(jù)一致性校驗方法[15-16]一般有基于業(yè)務(wù)邏輯的數(shù)據(jù)一致性校驗、忽略時間延遲直接進行數(shù)據(jù)一致性校驗和基于Golden Gate Veridata的數(shù)據(jù)一致性校驗三種方式。

4.1 基于業(yè)務(wù)邏輯的數(shù)據(jù)一致性校驗方法

這種方法需要業(yè)務(wù)系統(tǒng)的運維或者開發(fā)人員配置，根據(jù)業(yè)務(wù)邏輯，查詢到一到多個表生成靜態(tài)的結(jié)果集，然后再比較靜態(tài)結(jié)果的數(shù)據(jù)一致性。比較方法如下：

步驟1：簡單地通過聚合函數(shù)、記錄數(shù)等確認(rèn)；

步驟2：通過minus運算確認(rèn)；

步驟3：通過表記錄哈希值總和以及記錄數(shù)記錄；

步驟4：通過Golden Gate Veridata進行校驗。

該方法的瓶頸在于靜態(tài)結(jié)果集的生成，需要應(yīng)用人員進行配合，實際操作中容易出現(xiàn)責(zé)任不清晰等管理問題。

4.2 忽略時間延遲直接進行數(shù)據(jù)一致性校驗方法

這種方法簡單地確認(rèn)OGG運行狀態(tài)正常以及不存在大的時間延遲后，直接進行數(shù)據(jù)一致性校驗，校驗方法如下：

步驟1：通過minus對比，然后分析差異記錄；

步驟2：簡單地通過聚合函數(shù)、記錄數(shù)等確認(rèn)。

該方法存在如下瓶頸：很容易出現(xiàn)由于時間延遲而導(dǎo)致的差異，差異記錄需進一步判斷，以確定同步是否存在異常；需要進行2次minus操作校驗，性能消耗較大，通常僅能用于校驗數(shù)據(jù)量較小的表；要求創(chuàng)建數(shù)據(jù)庫dblink，部分生產(chǎn)環(huán)境管理規(guī)范不允許。

4.3 基于Golden Gate Veridata的數(shù)據(jù)一致性校驗方法

OGG是Oracle官方的數(shù)據(jù)一致性校驗工具，這種工具自動對初次校驗記錄不一致的表進行二次校驗。直接利用Golden Gate Veridata進行校驗則是Oracle官方的一種說法，這種方法的瓶頸在于：①對于初次對比后發(fā)現(xiàn)的不一致記錄，采用再次校驗單條記錄一致性的方法進行，如果單條記錄在校驗期間多次變更，則僅能識別為變化中的數(shù)據(jù)；②校驗的精度較細(xì)，但為此付出了較大的資源消耗及時間；③無主鍵或者唯一鍵的表校驗效率低下，且消耗大量的臨時表空間或者文件系統(tǒng)目錄。

基于此，文中采用的數(shù)據(jù)一致性校驗方法的步驟如下：

步驟1：暫停Oracle數(shù)據(jù)庫復(fù)制進程，使得Oracle數(shù)據(jù)庫提交所有事務(wù)；

步驟2：獲取源端數(shù)據(jù)庫的時間戳信息SCN；

步驟3：查詢目標(biāo)端數(shù)據(jù)庫并獲取當(dāng)前時間戳信息SCN后，重啟暫停的Oracle數(shù)據(jù)庫復(fù)制進程，恢復(fù)Oracle數(shù)據(jù)庫同步；

步驟4：在源端數(shù)據(jù)庫與目標(biāo)端數(shù)據(jù)庫的時間戳信息SCN相一致的情況下，再對對應(yīng)表做數(shù)據(jù)一致性校驗。

該方法在獲取匹配的時間戳信息之后再進行數(shù)據(jù)一致性校驗，從而能夠順利處理變更頻繁的記錄，不依賴任何業(yè)務(wù)邏輯與主鍵，且校驗速率更快，配置簡單易用。

5 結(jié)束語

為了保證數(shù)字資源的可靠應(yīng)用，搭建95598客服系統(tǒng)異地雙活中心具有良好的可行性。文中基于客服中心的應(yīng)用特點，以及業(yè)界多種應(yīng)用雙/多活的成熟經(jīng)驗和先進案例，設(shè)計了一種異地雙活環(huán)境下跨庫數(shù)據(jù)集成方法。通過數(shù)據(jù)復(fù)制、數(shù)據(jù)集成及數(shù)據(jù)的一致性校驗，設(shè)計的數(shù)據(jù)集成方法實現(xiàn)了南北中心各省查詢庫到公共庫的集成，滿足了兩個中心數(shù)據(jù)一致性的要求，提升了數(shù)據(jù)中心數(shù)據(jù)應(yīng)用的連續(xù)性、可靠性，降低了災(zāi)難風(fēng)險，提高了設(shè)備利用效率，具有良好的實用性。