基于PaaS 技術(shù)的大數(shù)據(jù)云化平臺(tái)分析

符曉洪，柳羿，何寬政，張升平，曾麒杰

（深圳供電局有限公司，廣東 深圳 518000）

在當(dāng)前通信技術(shù)的發(fā)展中，已經(jīng)確定了“大數(shù)據(jù)、超細(xì)分、微營(yíng)銷”發(fā)展方向，基本建構(gòu)了跨域數(shù)據(jù)融合和能力共享的大數(shù)據(jù)集中平臺(tái)，在云化ETL 基礎(chǔ)上完成數(shù)據(jù)采集、計(jì)算以及處理，建構(gòu)相應(yīng)的數(shù)據(jù)采集以及處理平臺(tái)，以此實(shí)現(xiàn)對(duì)數(shù)據(jù)的統(tǒng)一運(yùn)維管理。在業(yè)務(wù)發(fā)展進(jìn)程中，業(yè)務(wù)量在逐漸加大，也促進(jìn)了平臺(tái)接入相關(guān)數(shù)據(jù)量的增長(zhǎng)，大數(shù)據(jù)平臺(tái)中也出現(xiàn)了電商、政企客戶等數(shù)據(jù)。數(shù)據(jù)量的激增，對(duì)于大數(shù)據(jù)平臺(tái)的運(yùn)營(yíng)支撐工作提出了較大挑戰(zhàn)，需要注重提升系統(tǒng)的資源計(jì)算、數(shù)據(jù)資源分析以及數(shù)據(jù)挖掘能力，實(shí)現(xiàn)數(shù)據(jù)的使用和管理效率。在此需求下，則需要進(jìn)一步建構(gòu)一體化架構(gòu)，以滿足一體化運(yùn)營(yíng)發(fā)展的要求。PaaS 技術(shù)下的大數(shù)據(jù)云化平臺(tái)建構(gòu)，能夠有效滿足運(yùn)營(yíng)商業(yè)務(wù)發(fā)展的相關(guān)技術(shù)需求[1-3]。

1 系統(tǒng)架構(gòu)

在大數(shù)據(jù)技術(shù)和PaaS 理念的應(yīng)用下，完成大數(shù)據(jù)PaaS 平臺(tái)的建構(gòu)，以實(shí)現(xiàn)資源和大數(shù)據(jù)服務(wù)價(jià)值的充分應(yīng)用。針對(duì)大數(shù)據(jù)采集、存儲(chǔ)以及處理等實(shí)現(xiàn)工具服務(wù)化，具備大數(shù)據(jù)平臺(tái)服務(wù)功能。在大數(shù)據(jù)組件下，為廣大用戶建構(gòu)個(gè)性化的大數(shù)據(jù)分析平臺(tái)，以降低企業(yè)大數(shù)據(jù)的部署成本。

大數(shù)據(jù)PaaS 平臺(tái)系統(tǒng)框架詳情見圖1。

圖1 大數(shù)據(jù)PaaS 平臺(tái)系統(tǒng)框架

2 主要技術(shù)實(shí)現(xiàn)

2.1 能力集成

在開放平臺(tái)建構(gòu)中，能力集成是核心組成部分，可以將其分成工具和組件、標(biāo)簽庫(kù)產(chǎn)品、數(shù)據(jù)服務(wù)以及數(shù)據(jù)處理框架和容器服務(wù)4 個(gè)模塊。在平臺(tái)中可以為廣大用戶提供元數(shù)據(jù)、安全管理、建模以及數(shù)據(jù)質(zhì)量等相關(guān)工具和服務(wù)。統(tǒng)一日志服務(wù)則是在平臺(tái)上完成一站式集中日志收集以及分析服務(wù)，有助于提高平臺(tái)運(yùn)行和維護(hù)工作效率。同時(shí)在統(tǒng)一日志管理服務(wù)基礎(chǔ)上，可以完成平臺(tái)相應(yīng)監(jiān)控系統(tǒng)的建構(gòu)。在統(tǒng)一日志的應(yīng)用下，實(shí)現(xiàn)對(duì)不同資源運(yùn)行狀態(tài)、不同公共服務(wù)狀態(tài)和租戶相應(yīng)自我部署狀態(tài)實(shí)施分析，從而建構(gòu)相應(yīng)的診斷結(jié)果。數(shù)據(jù)服務(wù)主要為兩種，分別是：數(shù)據(jù)資產(chǎn)管理，重點(diǎn)是針對(duì)固定網(wǎng)絡(luò)、用戶數(shù)據(jù)及賬單、關(guān)系圈信息、在線行為日志等相關(guān)的數(shù)據(jù)結(jié)構(gòu)管理；數(shù)據(jù)采集服務(wù)，則是針對(duì)租戶訂閱以及采集樣本數(shù)據(jù)所提供的相關(guān)服務(wù)過(guò)程。在數(shù)據(jù)服務(wù)過(guò)程中，能夠通過(guò)多個(gè)樣本獲取相應(yīng)的規(guī)則，例如定制用戶組、用戶組關(guān)聯(lián)關(guān)系以及連續(xù)賬戶期等，在平臺(tái)的運(yùn)行中即可以實(shí)現(xiàn)對(duì)適配數(shù)據(jù)的自助獲取。標(biāo)簽庫(kù)產(chǎn)品，主要分為3 種，具體標(biāo)簽產(chǎn)品及其分類見表1。

表1 標(biāo)簽產(chǎn)品及其分類

2.2 多應(yīng)用類型的分層調(diào)度

大數(shù)據(jù)業(yè)務(wù)系統(tǒng)完整化設(shè)計(jì)中，主要包括有多種應(yīng)用形態(tài)，不但要存在有MapReduce 作業(yè)等的框架類應(yīng)用，也需要存在有營(yíng)銷門戶等普通交易類應(yīng)用。對(duì)于以上兩種類型應(yīng)用同時(shí)實(shí)施管理以及調(diào)度，作為研究重點(diǎn)，在該研究中提供了兩種解決方案[4]。

2.2.1 獨(dú)立調(diào)度方式

針對(duì)不同類型應(yīng)用采用相應(yīng)的資源調(diào)度器，彼此之間為相互獨(dú)立關(guān)系。Hadoop 集群針對(duì)自身資源采用YARN 實(shí)施管理以及調(diào)度，對(duì)框架類應(yīng)用提供支持；PaaS 專門設(shè)置將Kubernetes 作為核心的調(diào)度器，針對(duì)普通應(yīng)用通過(guò)管理虛擬機(jī)、容器等資源實(shí)施支持[5]。

2.2.2 兩層調(diào)度方式

這一方式則需要先疊加兩種類型應(yīng)用的資源調(diào)度器，不但可以實(shí)現(xiàn)資源共享，同時(shí)也能夠針對(duì)應(yīng)用實(shí)現(xiàn)統(tǒng)一管理。對(duì)于不同租戶間的資源則可以顯著提升共享程度，在這一需求下則需要應(yīng)用多層資源調(diào)度方式。例如，Kubernetes 可以是統(tǒng)一的一層資源調(diào)度器，YARN/Mesos 可以是大數(shù)據(jù)應(yīng)用下的兩層資源調(diào)度器，詳情見圖2。

圖2 兩層調(diào)度技術(shù)方案數(shù)據(jù)類應(yīng)用

2.3 多租戶及其資源調(diào)度管理

多租戶概念最早出現(xiàn)在軟件領(lǐng)域，即為一個(gè)軟件實(shí)例可以對(duì)多個(gè)用戶架構(gòu)提供服務(wù)，其中的各個(gè)用戶即為一個(gè)租戶。如果是多租戶可以建構(gòu)資源高度共享模式，在顯著提升資源利用率基礎(chǔ)上，也有助于降低資源成本。

2.3.1 租戶權(quán)限管理

針對(duì)租戶資源級(jí)以及數(shù)據(jù)集設(shè)置相應(yīng)的權(quán)限，以此實(shí)現(xiàn)管理；針對(duì)多租戶開放能力權(quán)限管理，主要是對(duì)數(shù)據(jù)開放、工具開放以及資源開放實(shí)施管控，以能夠提升租戶訪問(wèn)資源以及數(shù)據(jù)等的安全性。其租戶權(quán)限管理界面見圖3。

圖3 租戶權(quán)限管理界面

2.3.2 租戶資源調(diào)度管理

在租戶資源管理中，主要是實(shí)現(xiàn)資源分配、數(shù)據(jù)隔離以及對(duì)安全問(wèn)題實(shí)施控制。作業(yè)調(diào)度則是針對(duì)租戶作業(yè)優(yōu)先級(jí)以及業(yè)務(wù)優(yōu)先級(jí)實(shí)施控制。如果在大數(shù)據(jù)平臺(tái)多租戶以及多系統(tǒng)并存下，實(shí)現(xiàn)作業(yè)的統(tǒng)一調(diào)度，有助于顯著提升系統(tǒng)運(yùn)行效率以及資源有效利用率。統(tǒng)一調(diào)度需要實(shí)現(xiàn)對(duì)集群內(nèi)所有資源的管控，計(jì)算資源以及存儲(chǔ)資源均包含其中。統(tǒng)一調(diào)度是實(shí)現(xiàn)對(duì)各種作業(yè)的調(diào)度，其中主要包括數(shù)據(jù)采集、數(shù)據(jù)交互以及數(shù)據(jù)處理等，同時(shí)對(duì)于跨系統(tǒng)作業(yè)依賴以及調(diào)度也具有支持作用，可以有效控制作業(yè)優(yōu)先級(jí)以及并發(fā)，另外也能夠?qū)梢暬O(jiān)控以及管理功能提供支持作用。

Hadoop 平臺(tái)下的大數(shù)據(jù)多租戶實(shí)現(xiàn)中，則是在租戶方式下實(shí)現(xiàn)對(duì)Hadoop 組件YARN、組件Thrift 以及組件HDFS 的調(diào)用，從而通過(guò)多租戶資源的自動(dòng)分配管理，實(shí)現(xiàn)相應(yīng)管控。第一，定義最小分配資源、資源單位以及共享資源，并提供相應(yīng)的API；結(jié)合Hadoop 的API 則可以實(shí)現(xiàn)PaaS 管控平臺(tái)的資源信息查詢以及分配功能。第二，提供數(shù)據(jù)共享以及安全管控，針對(duì)Hadoop 應(yīng)用的忙閑時(shí)間能夠?qū)崿F(xiàn)相應(yīng)的資源復(fù)用，數(shù)據(jù)保存有且僅有一份；租戶間的數(shù)據(jù)需要實(shí)施隔離，禁止出現(xiàn)非法跨系統(tǒng)互訪。第三，資源優(yōu)先級(jí)控制，結(jié)合租戶的優(yōu)先級(jí)，實(shí)現(xiàn)對(duì)相應(yīng)資源容量的分配。第四，業(yè)務(wù)優(yōu)先級(jí)保護(hù)，統(tǒng)計(jì)分析型離線業(yè)務(wù)優(yōu)先級(jí)和清單查詢型實(shí)時(shí)業(yè)務(wù)相比明顯偏低[6-9]。

2.4 全局優(yōu)化的YARN調(diào)度技術(shù)

在本次系統(tǒng)建構(gòu)中，提供了全局的YARN 調(diào)度技術(shù)，不但提出相應(yīng)的算法，也提出了任務(wù)調(diào)度以及資源利用率等提升策略。在全局優(yōu)化調(diào)度器的應(yīng)用中，內(nèi)部建構(gòu)的調(diào)度機(jī)制和開源調(diào)度具有差異化，本次的調(diào)度流程是從作業(yè)到資源的正向匹配，在對(duì)調(diào)度線程實(shí)施轉(zhuǎn)換的過(guò)程中，可以實(shí)時(shí)查看作業(yè)過(guò)程，結(jié)合全局作業(yè)以及資源實(shí)際情況匹配相應(yīng)的任務(wù)，各調(diào)度作業(yè)過(guò)程中均具備有全局資源視圖，在此過(guò)程中有助于顯著提升調(diào)度精度，其中全局優(yōu)化調(diào)度如圖4 所示[10-11]。全局調(diào)度器中引入了專門的調(diào)度線程，把調(diào)度同心跳剝離開，可以有效防范超大規(guī)模集群中的系統(tǒng)心跳風(fēng)暴問(wèn)題。和開源調(diào)度器相比，優(yōu)化后的調(diào)度器顯著提升了系統(tǒng)運(yùn)行中的利用率、吞吐量以及數(shù)據(jù)親和性等[12-14]。

圖4 全局優(yōu)化任務(wù)調(diào)度

3 實(shí)踐檢驗(yàn)分析

針對(duì)建構(gòu)完成的基于PaaS 大數(shù)據(jù)云化平臺(tái)，實(shí)施連續(xù)6 個(gè)月的應(yīng)用實(shí)踐，實(shí)際應(yīng)用中云化大數(shù)據(jù)PaaS 平臺(tái)主要業(yè)務(wù)為暢游業(yè)務(wù)，以此對(duì)建構(gòu)平臺(tái)的應(yīng)用性能實(shí)施檢驗(yàn)分析。通過(guò)實(shí)踐驗(yàn)證，基于PaaS的大數(shù)據(jù)云化平臺(tái)在應(yīng)用中，能夠針對(duì)多租戶提供統(tǒng)一全網(wǎng)數(shù)據(jù)資源；數(shù)據(jù)開發(fā)過(guò)程中，有助于提高了數(shù)據(jù)開發(fā)效率，縮短應(yīng)用上線周期；平臺(tái)所具備的彈性擴(kuò)展能力，也能夠通過(guò)資源應(yīng)用實(shí)現(xiàn)業(yè)務(wù)突發(fā)。平臺(tái)的硬件資源準(zhǔn)備時(shí)間、數(shù)據(jù)準(zhǔn)備時(shí)間等方面的應(yīng)用效果見表2。從表中可以看出，建構(gòu)完成的PaaS 大數(shù)據(jù)云化平臺(tái)和傳統(tǒng)大數(shù)據(jù)平臺(tái)應(yīng)用相比，具有顯著優(yōu)勢(shì)[15-18]。

表2 開發(fā)模式對(duì)比

4 結(jié)論

通過(guò)以上分析得出以下結(jié)論：

1）基于PaaS 建構(gòu)的大數(shù)據(jù)云化平臺(tái)，能夠提供，實(shí)現(xiàn)能力集成、多應(yīng)用類型的分層調(diào)度、多租戶及其資源調(diào)度管理以及全局優(yōu)化的YARN 調(diào)度技術(shù)，滿足移動(dòng)通信多業(yè)務(wù)和多用戶運(yùn)行需求；

2）基于PaaS 建構(gòu)的大數(shù)據(jù)云化平臺(tái)和傳統(tǒng)大數(shù)據(jù)模式相比，在硬件資源準(zhǔn)備時(shí)間、數(shù)據(jù)準(zhǔn)備時(shí)間等方面具有顯著優(yōu)勢(shì)。