配用電云平臺(tái)分布式實(shí)時(shí)數(shù)據(jù)處理技術(shù)研究

，

(1.東方電子股份有限公司，山東 煙臺(tái) 264000；2.北京師范大學(xué)-香港浸會(huì)大學(xué)聯(lián)合國(guó)際學(xué)院，廣東 珠海 519087)

0 引言

隨著電網(wǎng)規(guī)模不斷擴(kuò)大以及“大運(yùn)行”體系日趨完善，電網(wǎng)數(shù)據(jù)體量和采集范圍變的越來越大[1-2]。同時(shí)數(shù)據(jù)處理方式也發(fā)生了變化，從各級(jí)調(diào)度分級(jí)處理逐漸向集中處理發(fā)展，這樣勢(shì)必導(dǎo)致調(diào)度平臺(tái)的數(shù)據(jù)量、計(jì)算量不斷增加。新形勢(shì)、新問題對(duì)配用電平臺(tái)的處理能力、服務(wù)能力、可靠性、穩(wěn)定性、擴(kuò)展性提出了更高的要求。各種集中式配用電云平臺(tái)的數(shù)據(jù)規(guī)?；具_(dá)到了千萬級(jí)，因此實(shí)時(shí)數(shù)據(jù)庫(kù)的處理效率和存儲(chǔ)容量面臨新的挑戰(zhàn)和機(jī)遇[3-5]。

總體來說，集中式實(shí)時(shí)數(shù)據(jù)庫(kù)大多采用單節(jié)點(diǎn)或者雙節(jié)點(diǎn)的形式實(shí)現(xiàn)數(shù)據(jù)實(shí)時(shí)存儲(chǔ)；數(shù)據(jù)處理則選用串行處理模式；數(shù)據(jù)訪問服務(wù)基本上都是通過單節(jié)點(diǎn)實(shí)現(xiàn)，往往無法兼顧數(shù)據(jù)處理效率和存儲(chǔ)規(guī)模這2個(gè)關(guān)鍵方面，所以需要引入一種新的數(shù)據(jù)存儲(chǔ)和訪問技術(shù)來克服目前集中式實(shí)時(shí)數(shù)據(jù)庫(kù)所面臨的困難[6-7]。

根據(jù)國(guó)內(nèi)外研究現(xiàn)狀可以發(fā)現(xiàn)，分布式處理技術(shù)的應(yīng)用還是比較廣泛的。所謂分布式處理技術(shù)，就是將若干計(jì)算機(jī)互相連接，單臺(tái)計(jì)算機(jī)也可以獨(dú)立工作，協(xié)調(diào)各計(jì)算機(jī)同時(shí)對(duì)數(shù)據(jù)進(jìn)行處理。另外，分布式處理技術(shù)也是某些領(lǐng)域的關(guān)鍵后臺(tái)技術(shù)，如云計(jì)算和集群計(jì)算等[8-10]。

1 集群分布式實(shí)時(shí)數(shù)據(jù)庫(kù)

1.1 概念

電網(wǎng)調(diào)控云平臺(tái)數(shù)據(jù)庫(kù)是一種實(shí)時(shí)專用數(shù)據(jù)庫(kù)，其主要面向電網(wǎng)數(shù)據(jù)采集、分析以及實(shí)時(shí)監(jiān)控，應(yīng)該具有吞吐量大、實(shí)時(shí)性高和可靠性強(qiáng)等特點(diǎn)?，F(xiàn)在使用較多的數(shù)據(jù)庫(kù)架構(gòu)為雙機(jī)集中存儲(chǔ)模式，所有數(shù)據(jù)節(jié)點(diǎn)均會(huì)存儲(chǔ)全部數(shù)據(jù)。雙機(jī)主備方式能夠確保數(shù)據(jù)可靠性，其中主機(jī)負(fù)責(zé)處理數(shù)據(jù)訪問事件，備機(jī)只有在主機(jī)故障時(shí)才會(huì)處理數(shù)據(jù)訪問事件。

與集中式實(shí)時(shí)數(shù)據(jù)庫(kù)相比，分布式實(shí)時(shí)數(shù)據(jù)庫(kù)可將數(shù)據(jù)分布儲(chǔ)存在多個(gè)數(shù)據(jù)節(jié)點(diǎn)中，可有效緩解單臺(tái)計(jì)算機(jī)的數(shù)據(jù)處理壓力。另外，多臺(tái)計(jì)算機(jī)并行處理，不僅可以提高數(shù)據(jù)處理效率，而且大大提高了系統(tǒng)的穩(wěn)定性?；诜植际浇Y(jié)構(gòu)，通過增加節(jié)點(diǎn)可快速提高存儲(chǔ)空間和處理速度，系統(tǒng)擴(kuò)展性比較好。

1.2 分布式SCADA系統(tǒng)

目前，在電網(wǎng)云計(jì)算平臺(tái)中，SCADA系統(tǒng)使用比較廣泛，但是傳統(tǒng)SCADA系統(tǒng)依舊存在實(shí)時(shí)性不高、吞吐能力欠缺和可擴(kuò)展性稍差等問題。為解決此問題，文中提出了一種新型分布式SCADA系統(tǒng)，進(jìn)一步提高數(shù)據(jù)的整體處理效率和處理容量，其結(jié)構(gòu)如圖1所示。

圖1 新型分布式SCADA系統(tǒng)

新的分布式SCADA系統(tǒng)中各可將所采集數(shù)據(jù)“分片”并編號(hào)；然后，將“分片”數(shù)據(jù)平均分配到各服務(wù)器同時(shí)處理；如果需要進(jìn)一步擴(kuò)大系統(tǒng)數(shù)據(jù)規(guī)模，可以增加SCADA系統(tǒng)服務(wù)器數(shù)量。

與傳統(tǒng)SCADA系統(tǒng)相比，新型分布式SCADA系統(tǒng)可以減輕單個(gè)服務(wù)器的處理壓力，提高數(shù)據(jù)處理能力，進(jìn)而提高系統(tǒng)響應(yīng)速度；其可擴(kuò)展性則能夠提升整個(gè)系統(tǒng)的吞吐量。另外，系統(tǒng)會(huì)預(yù)留一臺(tái)服務(wù)器用于備份所有數(shù)據(jù)，這樣就確保了系統(tǒng)的可靠性。

1.3 分布式SCADA系統(tǒng)體系架構(gòu)

整體上，上述分布式SCADA系統(tǒng)架構(gòu)包括4個(gè)層級(jí)，如圖2所示。

圖2 分布式SCADA系統(tǒng)架構(gòu)

a.第1層,基礎(chǔ)設(shè)施。它主要包括操作系統(tǒng)、服務(wù)器(CPU、內(nèi)存等)、網(wǎng)絡(luò)設(shè)備和存儲(chǔ)設(shè)備。這些是整個(gè)系統(tǒng)正常運(yùn)行的基礎(chǔ)。

b.第2層,分布式資源和任務(wù)處理。其中分布式資源管理可分為節(jié)點(diǎn)狀態(tài)管理和資源狀態(tài)管理等，主要負(fù)責(zé)監(jiān)控服務(wù)器節(jié)點(diǎn)的在線/離線狀態(tài)及其硬件資源使用情況。任務(wù)處理則包括分布式任務(wù)負(fù)載均衡和分布式任務(wù)故障冗余等，通過分析節(jié)點(diǎn)、資源的使用狀態(tài)，合理分配計(jì)算任務(wù)，確保任務(wù)能夠平均地分?jǐn)偟礁饔?jì)算節(jié)點(diǎn)。另外，還具有任務(wù)故障冗余管理功能，確保系統(tǒng)可靠性。

c.第3層,分布式實(shí)時(shí)數(shù)據(jù)處理。這一層主要包括實(shí)時(shí)數(shù)據(jù)劃分與存儲(chǔ)、分布式數(shù)據(jù)定位、分布式數(shù)據(jù)冗余與互訪問、分布式數(shù)據(jù)透明訪問等，該層可以為整個(gè)系統(tǒng)提供數(shù)據(jù)支持。另外，冗余互備部分可確保節(jié)點(diǎn)發(fā)生故障時(shí)，仍可正常訪問實(shí)時(shí)數(shù)據(jù)。

d.第4層,分布式數(shù)據(jù)處理。該層具有分布式公式計(jì)算、分布式拓?fù)溆?jì)算、分布式數(shù)據(jù)采集、遙測(cè)/遙信數(shù)據(jù)處理等功能。分布式任務(wù)管理可實(shí)現(xiàn)多機(jī)任務(wù)調(diào)度，將原本單機(jī)運(yùn)行的SCADA功能分不到多臺(tái)機(jī)器上進(jìn)行處理，以提高整個(gè)系統(tǒng)的性能。

2 關(guān)鍵技術(shù)分析

2.1 分布式并行SCADA處理

對(duì)于大多數(shù)調(diào)度控制系統(tǒng)而言，SCADA數(shù)據(jù)處理模塊均為一主多備的形式，即只有主節(jié)點(diǎn)實(shí)時(shí)處理數(shù)據(jù)，其余節(jié)點(diǎn)基本處于備用狀態(tài)。一旦SCADA主節(jié)點(diǎn)發(fā)生故障，系統(tǒng)會(huì)自動(dòng)選擇一個(gè)SCADA備用設(shè)備作為主節(jié)點(diǎn)繼續(xù)進(jìn)行數(shù)據(jù)處理工作。很明顯，僅僅主節(jié)點(diǎn)進(jìn)行數(shù)據(jù)處理會(huì)面臨諸多性能瓶頸，想要解決此問題只能通過提升節(jié)點(diǎn)設(shè)備硬件性能來解決。另外，僅僅提升主節(jié)點(diǎn)硬件處理能力是不夠的，還需要提升備用節(jié)點(diǎn)性能，造成更多的計(jì)算資源閑置。

相對(duì)而言，云計(jì)算系統(tǒng)具有非常好的彈性，可以通過增加節(jié)點(diǎn)達(dá)到海量數(shù)據(jù)存儲(chǔ)和處理的需求，而且是在水平方向增加節(jié)點(diǎn)。如前所述，新的分布式SCADA系統(tǒng)還可以實(shí)現(xiàn)水平處理節(jié)點(diǎn)的增減，充分利用云計(jì)算的靈活性,這樣就可以克服數(shù)據(jù)處理技術(shù)瓶頸，滿足未來數(shù)據(jù)規(guī)模不斷提升的需求，以滿足整個(gè)系統(tǒng)的中長(zhǎng)期發(fā)展。

2.2 分布式實(shí)時(shí)數(shù)據(jù)庫(kù)

在實(shí)際監(jiān)控系統(tǒng)中，普遍使用數(shù)據(jù)庫(kù)來保存實(shí)時(shí)數(shù)據(jù)，這樣就可以提升系統(tǒng)的實(shí)時(shí)性能。但是，目前數(shù)據(jù)庫(kù)大多采用內(nèi)存庫(kù)，利用內(nèi)存芯片的高速訪問機(jī)制來獲取優(yōu)良性能。各應(yīng)用模塊可以定義自己數(shù)據(jù)庫(kù)并分布在不同節(jié)點(diǎn)上，但是實(shí)時(shí)庫(kù)無法跨節(jié)點(diǎn)分布，其容量大小勢(shì)必受單節(jié)點(diǎn)內(nèi)存限制。

云平臺(tái)的彈性優(yōu)勢(shì)以及分布式并行SCADA系統(tǒng)的水平擴(kuò)展能力，使系統(tǒng)實(shí)時(shí)數(shù)據(jù)處理能力大幅度提升。如果采用單個(gè)應(yīng)用的實(shí)時(shí)數(shù)據(jù)庫(kù)就會(huì)限制SCADA系統(tǒng)性能的發(fā)揮，因?yàn)樵摂?shù)據(jù)庫(kù)不能跨數(shù)據(jù)庫(kù)進(jìn)行節(jié)點(diǎn)分布。為解決此問題，可采用前文所述分布式實(shí)時(shí)數(shù)據(jù)庫(kù)，將數(shù)據(jù)庫(kù)分布到多個(gè)節(jié)點(diǎn)上，以滿足整個(gè)系統(tǒng)的伸縮性需求。

2.3 彈性事件隊(duì)列

在云平臺(tái)的系統(tǒng)中，需要實(shí)時(shí)感知各類突發(fā)事件，根據(jù)事件信息快速響應(yīng)，構(gòu)建事件驅(qū)動(dòng)的敏捷系統(tǒng)。實(shí)時(shí)數(shù)據(jù)庫(kù)除保存數(shù)據(jù)外，還需要一種機(jī)制來支撐相關(guān)信息的存儲(chǔ)、發(fā)布和訂閱等。當(dāng)前，事件服務(wù)機(jī)制普遍采用隊(duì)列方式，該方式同樣使用集中處理模式，水平擴(kuò)展能力差。一旦數(shù)據(jù)規(guī)模擴(kuò)大或者事件信息增多，該事件服務(wù)機(jī)制同樣會(huì)限制系統(tǒng)性能。所以，需要充分利用云計(jì)算彈性優(yōu)勢(shì)，設(shè)計(jì)一種支持水平擴(kuò)展的彈性事件隊(duì)列。

2.4 彈性應(yīng)用框架

當(dāng)實(shí)時(shí)數(shù)據(jù)分布式并行SCADA處理機(jī)制，數(shù)據(jù)存儲(chǔ)入庫(kù)，彈性事件隊(duì)列準(zhǔn)備就緒后，系統(tǒng)肯定會(huì)面對(duì)如何高效地分析、計(jì)算問題。云計(jì)算技術(shù)中，廣泛采用分布式計(jì)算模式來充分發(fā)揮彈性優(yōu)勢(shì)，從而可以處理更大規(guī)模的數(shù)據(jù)，并提升計(jì)算分析的效率。但現(xiàn)有調(diào)度控制系統(tǒng)中，高級(jí)應(yīng)用的分析處理模式依然是通過主備冗余的應(yīng)用服務(wù)器，進(jìn)行集中的分析計(jì)算。如前所述，這種處理模式無法適應(yīng)云計(jì)算的彈性特征，不能充分發(fā)揮分布式計(jì)算的優(yōu)勢(shì)來提高應(yīng)用分析處理效率。

如果分布式實(shí)時(shí)數(shù)據(jù)庫(kù)、分布式并行SCADA系統(tǒng)、靈活的事件隊(duì)列都已就位，如何解決高速分析計(jì)算問題就顯得尤為重要。因此，為了保證海量數(shù)據(jù)的分析和處理效率，需要建立一個(gè)基于分布式存儲(chǔ)和計(jì)算的應(yīng)用分析框架，并采用并行處理來提高不同應(yīng)用的分析和處理效率。

3 實(shí)例分析

為驗(yàn)證所述實(shí)時(shí)數(shù)據(jù)處理系統(tǒng)的可行性和有效性，文中進(jìn)行了相關(guān)示例分析。首先，搭建了包含10臺(tái)SCADA服務(wù)器的測(cè)試環(huán)境，服務(wù)器采用8核CPU，主頻可以達(dá)到3.2 GHz，內(nèi)存為64 GB，在配置方面低于主流大型調(diào)控系統(tǒng)常用服務(wù)器配置要求。

測(cè)試點(diǎn)包括1 000個(gè)廠站、20萬個(gè)遙測(cè)點(diǎn)以及30萬個(gè)遙信點(diǎn)，實(shí)時(shí)測(cè)試分布式SCADA系統(tǒng)的遙信數(shù)據(jù)處理能力。

測(cè)試結(jié)果表明，與傳統(tǒng)實(shí)時(shí)數(shù)據(jù)處理系統(tǒng)相比，分布式SCADA系統(tǒng)的數(shù)據(jù)處理吞吐率可以達(dá)到58 000個(gè)/s，而傳統(tǒng)數(shù)據(jù)處理系統(tǒng)的吞吐率只有7 000個(gè)/s，性能提升約8.3倍。如果節(jié)點(diǎn)數(shù)繼續(xù)增加，系統(tǒng)的數(shù)據(jù)處理能力會(huì)進(jìn)一步提升，具備比較好的擴(kuò)展性。

4 結(jié)束語(yǔ)

以配用電云平臺(tái)分布式實(shí)時(shí)數(shù)據(jù)處理為研究對(duì)象，重點(diǎn)論述了分布式實(shí)時(shí)數(shù)據(jù)庫(kù)和新型分布式SCADA系統(tǒng)的架構(gòu)。綜合考慮云平臺(tái)的計(jì)算彈性優(yōu)勢(shì)，論述了集中關(guān)鍵技術(shù)。除實(shí)時(shí)數(shù)據(jù)庫(kù)、SCADA系統(tǒng)外，還包括彈性事件隊(duì)列和彈性應(yīng)用框架等。所述實(shí)時(shí)數(shù)據(jù)處理技術(shù)對(duì)配電網(wǎng)大數(shù)據(jù)分析、計(jì)算具有一定的借鑒意義。