基于PaaS技術(shù)的大數(shù)據(jù)云化平臺實踐

徐海勇，黃巖

?

基于PaaS技術(shù)的大數(shù)據(jù)云化平臺實踐

徐海勇，黃巖

（中國移動通信集團有限公司，北京 100032）

大數(shù)據(jù)平臺作為數(shù)據(jù)存儲、處理和服務(wù)的基礎(chǔ)平臺，需支撐內(nèi)部和外部多種大數(shù)據(jù)應(yīng)用的開發(fā)及運行。提出一種把PaaS（platform as a service，平臺即服務(wù)）技術(shù)應(yīng)用到大數(shù)據(jù)平臺的方案，詳細(xì)描述了大數(shù)據(jù)PaaS云化平臺的架構(gòu)體系以及分層調(diào)度、多租戶管理、Hadoop任務(wù)全局調(diào)度等關(guān)鍵技術(shù)方案。實踐證明，該平臺可以顯著提高大數(shù)據(jù)應(yīng)用的開發(fā)效率，實現(xiàn)應(yīng)用快速部署上線；同時，其良好的彈性伸縮能力可以有效地提高大數(shù)據(jù)應(yīng)用系統(tǒng)資源的使用效率。

大數(shù)據(jù)；PaaS；Hadoop；YARN調(diào)度器；云服務(wù)

1 引言

中國移動作為全球規(guī)模最大的運營商，擁有9億戶移動用戶資源，其用戶使用通信服務(wù)的過程中產(chǎn)生的海量數(shù)據(jù)，如用戶profile、通信話單、網(wǎng)絡(luò)信令、上網(wǎng)行為等，形成了寶貴的大數(shù)據(jù)資產(chǎn)。利用大數(shù)據(jù)技術(shù)挖掘海量數(shù)據(jù)背后隱藏的規(guī)律，可以有效地改善用戶業(yè)務(wù)質(zhì)量，優(yōu)化運營效率，促進(jìn)產(chǎn)品創(chuàng)新，發(fā)揮巨大價值。隨著數(shù)據(jù)規(guī)模的急速增長，大數(shù)據(jù)平臺規(guī)模的逐漸擴大，應(yīng)用需求日趨強烈，如何協(xié)同多家應(yīng)用開發(fā)者在集中、安全、可靠的平臺上開發(fā)自己的應(yīng)用，成為關(guān)注的焦點。目前，面臨以下挑戰(zhàn)。

首先，中國移動傳統(tǒng)的大數(shù)據(jù)平臺為總部—省級二級架構(gòu)，數(shù)據(jù)呈現(xiàn)分散狀態(tài)，而全網(wǎng)類應(yīng)用如金融客戶需要信用評估服務(wù)、政府部門需要全國人口統(tǒng)計服務(wù)等，都需要全網(wǎng)數(shù)據(jù)的支撐；其次，大數(shù)據(jù)應(yīng)用上線時間長且重復(fù)開發(fā)，對于特定場景的大數(shù)據(jù)應(yīng)用，如位置應(yīng)用、精準(zhǔn)營銷應(yīng)用、信用評估應(yīng)用等，缺乏統(tǒng)一業(yè)務(wù)開發(fā)平臺，導(dǎo)致存在各省份公司重復(fù)開發(fā)、重復(fù)運維的情況，浪費了投資，且技術(shù)力量分散，難以聚焦形成精品大數(shù)據(jù)應(yīng)用；最后，現(xiàn)網(wǎng)中多個煙囪式的數(shù)據(jù)分析平臺存在數(shù)據(jù)和資源相互隔離、無法共享的問題，當(dāng)突發(fā)數(shù)據(jù)處理任務(wù)時，即使其他平臺有大量閑置資源，也無法調(diào)配資源，造成業(yè)務(wù)阻塞。

隨著企業(yè)IT架構(gòu)向云化轉(zhuǎn)型，IT資源逐步由共享資源池取代，同時應(yīng)用的開發(fā)迭代周期從年變成周，需要給開發(fā)人員和管理人員提供支撐服務(wù)，這些需求引發(fā)了近年來PaaS（platform as a service）[1,2]技術(shù)的蓬勃發(fā)展。谷歌（Google）基于自己的Borg[3]平臺推出開源Kubernetes[4]，為容器化Docker[5]的應(yīng)用提供資源調(diào)度、部署運行、服務(wù)發(fā)現(xiàn)、擴容縮容等整套功能，實現(xiàn)大規(guī)模CloudNative[6]應(yīng)用的集中管理。隨著大數(shù)據(jù)技術(shù)應(yīng)用廣泛和日趨成熟，開源軟件在資源和任務(wù)調(diào)度、多租戶管理、自動運維等方面已經(jīng)取得眾多成果，如Hadoop[7]2.0重構(gòu)MapReduce框架，以YARN[8]作為通用的資源調(diào)度層，支持MapReduce、Spark、Storm、MPI[9-11]等更多編程框架，實現(xiàn)了不同類型的數(shù)據(jù)處理任務(wù)共享底層集群資源。

本文提出了一種大數(shù)據(jù)平臺云化解決方案：基于PaaS的理念和技術(shù)實現(xiàn)大數(shù)據(jù)平臺云化服務(wù)，將大數(shù)據(jù)平臺的數(shù)據(jù)采集、分析、處理及展現(xiàn)能力作為PaaS能力對外開放。同時，面向大數(shù)據(jù)業(yè)務(wù)開發(fā)者，提供開發(fā)環(huán)境和作業(yè)執(zhí)行環(huán)境，使開發(fā)者可以使用PaaS中各種資源、開發(fā)工具、軟件中間件等能力，PaaS的彈性伸縮及大數(shù)據(jù)平臺處理能力的結(jié)合，實現(xiàn)資源效率和開發(fā)效率最大化的目標(biāo)。

2 大數(shù)據(jù)PaaS平臺定位與架構(gòu)

2.1 功能定位

基于PaaS技術(shù)的大數(shù)據(jù)云化平臺功能涵蓋集中數(shù)據(jù)平臺、應(yīng)用開發(fā)平臺、數(shù)據(jù)服務(wù)平臺三大功能，具體如下。

? ? 集中數(shù)據(jù)平臺，匯聚中國移動網(wǎng)絡(luò)域（O域）、業(yè)務(wù)支撐域（B域）、管理域（M域）、專業(yè)公司及外部引入數(shù)據(jù)，定義統(tǒng)一的數(shù)據(jù)模型，形成數(shù)據(jù)的匯聚及全網(wǎng)服務(wù)。

? ? 應(yīng)用開發(fā)平臺，提供數(shù)據(jù)分析常用的開發(fā)工具、軟件中間件、任務(wù)部署工具等開發(fā)環(huán)境，業(yè)務(wù)開發(fā)者在平臺上在線選擇所需的開發(fā)環(huán)境資源，開發(fā)自己的大數(shù)據(jù)作業(yè)和應(yīng)用。支持多個開發(fā)團隊并行開發(fā)，并支持開發(fā)成員之間開發(fā)協(xié)同。

? ? 數(shù)據(jù)服務(wù)平臺，為業(yè)務(wù)單位和合作伙伴的數(shù)據(jù)分析作業(yè)、大數(shù)據(jù)應(yīng)用提供運行執(zhí)行環(huán)境。從資源池中分配計算、存儲和網(wǎng)絡(luò)等資源，作業(yè)執(zhí)行完畢時，資源重新回收到資源池，形成資源共享，租戶在大數(shù)據(jù)云化平臺上可以直接對外提供數(shù)據(jù)應(yīng)用及服務(wù)。

2.2 整體架構(gòu)

基于PaaS的大數(shù)據(jù)云化平臺包括四層一域，整體架構(gòu)如圖1所示。

?? IaaS（infrastructure as a service，基礎(chǔ)設(shè)施即服務(wù)）層，采用 OpenStack架構(gòu)，統(tǒng)一接入VMware、Fusionsphere等主流廠商的Hypervisor虛擬化軟件，統(tǒng)一管理CPU、內(nèi)存、存儲、網(wǎng)絡(luò)等IT基礎(chǔ)設(shè)施資源。以O(shè)penStack標(biāo)準(zhǔn)化接口，向PaaS層提供IaaS基礎(chǔ)資源。

圖1 基于PaaS的大數(shù)據(jù)云化平臺基礎(chǔ)架構(gòu)

? ?? PaaS層，負(fù)責(zé)應(yīng)用和服務(wù)生命周期管理、資源調(diào)度、多租戶管理、軟件倉庫等PaaS公共能力，為平臺開發(fā)者調(diào)用訪問。

? ?? Hadoop存儲和計算資源池層，數(shù)據(jù)分布式存儲和分布式計算的核心執(zhí)行引擎，以Hadoop為核心，包括Hadoop協(xié)議族中HDFS、MapReduce、Spark、HBase、Kafka、Flume等組件。

? ?? 大數(shù)據(jù)服務(wù)層，將基礎(chǔ)資源、大數(shù)據(jù)開發(fā)工具、數(shù)據(jù)資產(chǎn)等封裝成服務(wù)，供平臺開發(fā)者使用。同時，對PaaS平臺管理服務(wù)的上架、發(fā)布和狀態(tài)監(jiān)控，對平臺開發(fā)者提供使用平臺服務(wù)能力的統(tǒng)一入口。

? ? 統(tǒng)一運維域，負(fù)責(zé)整個平臺運維，包括應(yīng)用和服務(wù)的部署、彈性伸縮、故障告警監(jiān)測等，為平臺運維人員提供運維工具和管理工具，同時將運維能力開放給平臺租戶，使租戶可以管理自己的應(yīng)用、服務(wù)和資源。

2.3 業(yè)務(wù)流程

開發(fā)者使用大數(shù)據(jù)PaaS平臺，主要包括資源申請及應(yīng)用開發(fā)兩個主要步驟，具體如下。

（1）資源申請流程

開發(fā)者首先注冊成為平臺租戶，然后創(chuàng)建開發(fā)項目；再為項目申請Hadoop資源、各種大數(shù)據(jù)分析工具服務(wù)。所需的資源申請批準(zhǔn)后，業(yè)務(wù)單位即可進(jìn)入大數(shù)據(jù)開發(fā)。申請流程如圖2所示。

圖2 資源申請流程

開發(fā)者在平臺的服務(wù)市場中選擇所需的資源和服務(wù)界面，如圖3所示。

（2）大數(shù)據(jù)應(yīng)用開發(fā)流程

業(yè)務(wù)單位開發(fā)人員獲得所需資源后，進(jìn)入應(yīng)用開發(fā)階段。開發(fā)者需要經(jīng)過公共數(shù)據(jù)資源申請、數(shù)據(jù)模型定義、其他私有數(shù)據(jù)上傳、數(shù)據(jù)處理邏輯集成開發(fā)及分析、最終形成數(shù)據(jù)應(yīng)用。開放數(shù)據(jù)訪問API或者形成SaaS類應(yīng)用展示結(jié)果等幾大基本過程，具體如圖4所示。

大數(shù)據(jù)集成開發(fā)環(huán)境支持圖形化開發(fā)，如圖5所示。

圖3 開發(fā)者資源申請界面

圖4 開發(fā)者應(yīng)用開發(fā)流程

圖5 開發(fā)者應(yīng)用開發(fā)界面

3 關(guān)鍵技術(shù)

基于PaaS平臺的大數(shù)據(jù)云化平臺，提供了統(tǒng)一的數(shù)據(jù)存儲、開發(fā)環(huán)境、應(yīng)用部署對外服務(wù)等基本能力，其關(guān)鍵技術(shù)包括多應(yīng)用類型的分層調(diào)度、基于IAM（identity and access management，統(tǒng)一身份認(rèn)證服務(wù)）的多租戶管理以及全局優(yōu)化的YARN調(diào)度技術(shù)。

3.1 多應(yīng)用類型的分層調(diào)度

一個完整的大數(shù)據(jù)業(yè)務(wù)系統(tǒng)包含多種應(yīng)用形態(tài)：既有框架類的應(yīng)用，如MapReduce作業(yè)；也有普通的交易類應(yīng)用，如營銷門戶等。如何同時管理和調(diào)度這兩類的應(yīng)用，成為研究焦點，本文實現(xiàn)了兩種方案。

一種是獨立調(diào)度，即對不同類型的應(yīng)用提供不同的資源調(diào)度器，資源調(diào)度器之間相互獨立。Hadoop集群使用YARN管理調(diào)度自己的資源，支持框架類應(yīng)用；PaaS另外部署以Kubernetes為核心的調(diào)度器，管理虛擬機、容器等資源支持普通應(yīng)用，獨立調(diào)度技術(shù)方案如圖6所示。

另一種為兩層調(diào)度方式，即將兩種類型應(yīng)用的資源調(diào)度器疊加起來，從而實現(xiàn)資源共享的目的，同時也實現(xiàn)應(yīng)用的統(tǒng)一管理。需要進(jìn)一步提升租戶間的資源共享程度，就需要采取多層資源調(diào)度的方式。比如，以Kubernetes作為統(tǒng)一的1層資源調(diào)度器，以YARN/Mesos作為針對大數(shù)據(jù)應(yīng)用的兩層資源調(diào)度器，如圖7所示。

圖6 獨立調(diào)度技術(shù)方案

圖7 兩層調(diào)度技術(shù)方案

3.2 基于IAM的多租戶管理

當(dāng)大數(shù)據(jù)云化平臺把各種能力以云服務(wù)方式對外提供時，存在兩種典型的云服務(wù)形態(tài)——邏輯多租和物理多租。

? ? 邏輯多租服務(wù)：所有租戶應(yīng)用共享同一個服務(wù)實例，租戶共享服務(wù)實例以及實例中的數(shù)據(jù)、計算能力和存儲。

? ? 物理多租服務(wù)：每個租戶申請一套獨立的服務(wù)實例，租戶間不共享服務(wù)實例。

在邏輯多租的場景下，存在對租戶的多層級多域管理的需求。為了能夠?qū)崿F(xiàn)租戶可以創(chuàng)建自己獨立管理的應(yīng)用（物理多租場景），又能夠在集團租戶的空間內(nèi)創(chuàng)建應(yīng)用（邏輯多租場景），參考OpenStack Keystone[11]架構(gòu)實現(xiàn)了IAM。

基于IAM的能力，同一個租戶可以在不同的租戶空間中創(chuàng)建應(yīng)用（項目），并對自己創(chuàng)建的應(yīng)用進(jìn)行管理，并接受租戶空間管理員的統(tǒng)一管理，如圖8所示。

圖8 基于IAM的多租戶管理模型

以上多租戶管理方案在對外服務(wù)時，解決了租戶對公共數(shù)據(jù)的訪問問題，租戶可在管理者租戶創(chuàng)建的域中創(chuàng)建自己的項目來訪問管理者租戶中的數(shù)據(jù)資源，同時租戶也可以選擇創(chuàng)建自己的域，建立自己的大數(shù)據(jù)平臺。

3.3 全局優(yōu)化的YARN調(diào)度技術(shù)

開源的Hadoop YARN系統(tǒng)中目前包括兩大類調(diào)度器：公平調(diào)度器（fair scheduler）和容量調(diào)度器（capacity scheduler），開源的調(diào)度器都是基于計算節(jié)點心跳驅(qū)動的資源反向匹配作業(yè)的調(diào)度機制，每個計算節(jié)點定期發(fā)送心跳來通知YARN的資源管理器（resource manager）自身的節(jié)點狀態(tài)并同時啟動調(diào)度器，為這個節(jié)點分配作業(yè)。這種調(diào)度機制把調(diào)度的周期同心跳結(jié)合在一起，當(dāng)集群規(guī)模增大時，會遇到系統(tǒng)擴展性以及調(diào)度性能瓶頸。另外，因為采用了資源反向匹配作業(yè)的調(diào)度機制，開源調(diào)度器在調(diào)度精度上也有局限性，例如計算正向數(shù)據(jù)分配準(zhǔn)確性低，系統(tǒng)也無法支持基于負(fù)載的調(diào)度策略等，其主要原因是調(diào)度器在選擇作業(yè)時，缺乏全局的資源視圖，很難做到最優(yōu)選擇。

本文提出了一種全局的YARN調(diào)度算法以優(yōu)化任務(wù)調(diào)度、提高調(diào)度性能、系統(tǒng)資源利用率和大規(guī)模集群擴展程度。全局優(yōu)化的調(diào)度器內(nèi)部采用了與開源不同的調(diào)度機制，其調(diào)度流程采用了從作業(yè)到資源的正向匹配方法，通過轉(zhuǎn)有調(diào)度線程，查看所有待處理作業(yè)，通過對全局作業(yè)和資源的了解匹配合適的任務(wù)，這樣每個調(diào)度的作業(yè)都有全局的資源視圖，可以很大程度地提高調(diào)度的精度，對比流程如圖9所示。

圖9 全局任務(wù)調(diào)度與開源任務(wù)調(diào)度流程

同時，全局調(diào)度器引入了專門的調(diào)度線程，把調(diào)度同心跳剝離開，避免了在超大規(guī)模集群時容易出現(xiàn)的系統(tǒng)心跳風(fēng)暴問題。相比開源調(diào)度器，優(yōu)化的調(diào)度器在系統(tǒng)吞吐量、利用率、數(shù)據(jù)親和性等方面都有很大提升。

全局調(diào)度器和開源調(diào)度器功能對比見表1。

表1 開源調(diào)度器與全局調(diào)度器優(yōu)勢對比

4 基于PaaS大數(shù)據(jù)云化平臺的應(yīng)用實踐

4.1 平臺建設(shè)及部署

基于上述的整體架構(gòu)及關(guān)鍵技術(shù)，中國移動進(jìn)行了基于PaaS的大數(shù)據(jù)云化平臺的建設(shè)實踐。在數(shù)據(jù)層面實現(xiàn)了各省B、O、M三域數(shù)據(jù)整合，構(gòu)建了中國移動公共的數(shù)據(jù)資產(chǎn)模型。基礎(chǔ)能力層面實現(xiàn)了Hadoop服務(wù)、公共數(shù)據(jù)資產(chǎn)服務(wù)、數(shù)據(jù)治理服務(wù)、數(shù)據(jù)集成服務(wù)、統(tǒng)一調(diào)度服務(wù)、數(shù)據(jù)探索服務(wù)、數(shù)據(jù)API開發(fā)服務(wù)和數(shù)據(jù)挖掘服務(wù)等，以供省級公司和專業(yè)公司申請使用。平臺共部署集群規(guī)模上百節(jié)點，存儲數(shù)據(jù)量數(shù)十PB，由租戶開發(fā)大數(shù)據(jù)應(yīng)用，支撐了應(yīng)用的快速迭代開發(fā)及上線。

4.2 平臺應(yīng)用及效果

經(jīng)過為期半年的應(yīng)用實踐，目前基于云化的大數(shù)據(jù)PaaS平臺主要承載了信用分應(yīng)用和暢游業(yè)務(wù)兩大業(yè)務(wù)應(yīng)用，初步驗證了大數(shù)據(jù)PaaS平臺的能力。

信用分應(yīng)用通過對移動用戶的身份特征、消費能力、人脈關(guān)系、信用歷史、行為偏好這5個維度客觀地呈現(xiàn)個人的信用價值。通過信用分應(yīng)用可以優(yōu)化移動內(nèi)部服務(wù)，并擴展外部合作。信用分應(yīng)用覆蓋11億用戶和200多個脫敏標(biāo)簽數(shù)據(jù)，共包含12個月的數(shù)據(jù)周期。該應(yīng)用僅通過4周就在PaaS平臺上完成了需求分析、數(shù)據(jù)導(dǎo)入、9輪建模評估、6輪聯(lián)調(diào)測試和上線試商用，上線后，信用分應(yīng)用于2017年8月底開始試商用，到同年10月底累計訪問量已經(jīng)超過8億次。9?11月信用分查詢次數(shù)增長趨勢如圖10所示。

圖10 信用分查詢次數(shù)增長趨勢

在組織的iPhone購機活動、“雙十一”、開發(fā)者大會等市場營銷活動中，基于PaaS的大數(shù)據(jù)平臺利用資源的彈性擴展能力，有效支撐了活動過程中用戶訪問量的激增。后續(xù)將支撐多渠道信用購機、國際漫游信用免押金等多種場景。

暢游業(yè)務(wù)主要通過分析國際漫游用戶的通話和流量，利用機器學(xué)習(xí)識別沉默用戶，開展國際漫游精準(zhǔn)營銷。暢游應(yīng)用基面向北京、上海等4省市300萬國際漫游移動用戶，基于用戶信息、國際漫游用戶訪問信息、漫游通話交往圈信息等公共數(shù)據(jù)資產(chǎn)，租戶僅3周就完成了業(yè)務(wù)的需求分析、數(shù)據(jù)導(dǎo)入、模型開發(fā)、界面開發(fā)和上線發(fā)布。暢游業(yè)務(wù)實現(xiàn)了國際漫游沉默用戶分析等應(yīng)用，充分利用營銷資源進(jìn)行沉默客戶激活。暢游業(yè)務(wù)的展示界面如圖11所示。

圖11 暢游業(yè)務(wù)系統(tǒng)展示

4.3 應(yīng)用實踐總結(jié)

基于PaaS的大數(shù)據(jù)云化平臺的應(yīng)用效果表明，該平臺可以有效地為多租戶提供統(tǒng)一的全網(wǎng)數(shù)據(jù)資源；在大數(shù)據(jù)開發(fā)過程中提升了開發(fā)效率，縮短了應(yīng)用的上線周期；彈性擴展能力可以有效地利用資源支撐業(yè)務(wù)突發(fā)。表2 從硬件資源準(zhǔn)備時間、開發(fā)工具準(zhǔn)備時間、數(shù)據(jù)準(zhǔn)備時間、應(yīng)用部署時間及資源利用率幾大方面，分析了基于PaaS的大數(shù)據(jù)云化平臺與傳統(tǒng)大數(shù)據(jù)平臺的差異。

表2 開發(fā)模式優(yōu)勢對比

5 結(jié)束語

本文提出了一種基于PaaS技術(shù)的大數(shù)據(jù)云化平臺方案，分析了中國移動大數(shù)據(jù)應(yīng)用中的問題和挑戰(zhàn)，給出了大數(shù)據(jù)PaaS平臺的系統(tǒng)框架。針對租戶模型、服務(wù)接入、資源調(diào)度、彈性伸縮等關(guān)鍵環(huán)節(jié)，給出了技術(shù)解決方案?；谠撈脚_，實現(xiàn)了多個開發(fā)單位的應(yīng)用開發(fā)和應(yīng)用部署上線，同時業(yè)務(wù)單位在平臺實際開展了開發(fā)和應(yīng)用部署，證明該方案達(dá)到了預(yù)期效果。

在今后的工作中，在應(yīng)用設(shè)計中結(jié)合微服務(wù)松耦合、上線敏捷、應(yīng)用彈性的優(yōu)勢，在PaaS能力方面構(gòu)建深度學(xué)習(xí)框架及機器學(xué)習(xí)能力等成為研究的重點。未來中國移動會著力于打造良好的大數(shù)據(jù)生態(tài)圈，吸引更多的合作伙伴基于該平臺構(gòu)建百花齊放的應(yīng)用。

[1] Gartner. Platform as a service(PaaS)[EB/OL].（2014-04-28）[2017-11-28]. https://www.gartner.com/it-glossary/platform-as- a-service-paas/.

[2] 齊磊, 張海峰, 張?zhí)祢? 等. 基于容器技術(shù)的PaaS云平臺方案[J]. 電信科學(xué), 2017, 33(4): 177-182.

QI L, ZHANG H F, ZHANGT X, et al. PaaS cloud platform based on container technology[J]. Telecommunications Science, 2017, 33(4): 177-182.

[3] VERMA A, PEDROSA L, KORUPOLU M, et al. Large-scale cluster management at Google with Borg[C]//10th European Conference on Computer Systems, April 21-24, 2015, Bordeaux, France. New York: ACM Press, 2015: 18.

[4] 張基, 李大中, 張呈宇, 等. DC/OS關(guān)鍵技術(shù)與應(yīng)用場景[J]. 電信科學(xué), 2016, 32(12): 13-19.

ZHANG J, LI D Z, ZHANG C Y, et al. Key technologies and application scenario of DC/OS[J]. Telecommunications Science, 2016, 32(12): 13-19.

[5] BERNSTEIN D. Containers and cloud: from LXC to Docker to Kubernetes[J]. IEEE Cloud Computing, 2015, 1(3): 81-84.

[6] BALALAIE A, HEYDARNOORI A, JAMSHIDI P. Microservices Architecture enables DevOps: migration to a cloud-native architecture[J]. IEEE Software , 2016 , 33 (3): 42-52.

[7] 王峰, 雷葆華. Hadoop分布式文件系統(tǒng)的模型分析[J]. 電信科學(xué), 2010, 26(12): 95-99.

WANG F, LEI B H. Modeling and analysis of Hadoop distributed file system[J]. Telecommunications Science, 2010, 26(12): 95-99.

[8] KONAR M. Apache Hadoop YARN: yet another resource negotiator[C]//ACM Symposium on Cloud Computing, Oct 1-3, 2013, Santa Clara, CA, USA. New York: ACM Press, 2013: 5.

[9] LU X, LIANG F, WANG B, et al. DataMPI: Extending MPI to Hadoop-like big data computing[C]//International Parallel and Distributed Processing Symposium, May 19-23, 2014, Phoenix, Arizona, USA. Piscataway: IEEE Press, 2014: 829-838.

[10] 鄭文武, 李先緒, 黃執(zhí)勤. 云計算中的并行計算技術(shù)分析[J]. 電信科學(xué), 2012, 27(12): 31-38.

ZHENG W W, LI X X, HUANG Z Q. Technolical analysis of parallel computing in cloud computing[J]. Telecommunications Science, 2012, 27(12): 31-38.

[11] 李小寧, 李磊, 金連文, 等. 基于OpenStack構(gòu)建私有云計算平臺[J]. 電信科學(xué), 2012, 27(9): 1-8.

LI X N, LI L, JIN L W, et al. Constructing a private cloud computing platform based on OpenStack[J]. Telecommunications Science, 2012, 27(9): 1-8.

Applications of a big data platform based on PaaS

XU Haiyong, HUANG Yan

China Mobile Communications Groups Co., Ltd., Beijing 100032, China

As a platform of data storage, processing, and service, big data platform needs to support internal and external various big data applications. A solution applied PaaS technology to the big data platform was proposed. Details of the key technical solutions such as the architecture of PaaS cloud computing platform, hierarchical scheduling scheme, multi-tenant management and global scheduling of Hadoop tasks were described. It was proved that the platform could remarkably improve big data application development efficiency and help application deployment fast. In the meantime, good elastic scaling capability can effectively improve big data application system resource utilization.

big data, PaaS, Hadoop, YARN scheduler, cloud service

TP311

A

10.11959/j.issn.1000?0801.2018043

2017?11?15；

2017?12?01

徐海勇（1970?），男，中國移動通信集團有限公司業(yè)務(wù)支撐系統(tǒng)部總經(jīng)理、高級工程師，主要研究方向為移動通信、互聯(lián)網(wǎng)、大數(shù)據(jù)。

黃巖（1976?），男，中國移動通信集團有限公司業(yè)務(wù)支撐系統(tǒng)部信息管理處經(jīng)理、高級工程師，主要研究方向為大數(shù)據(jù)、能力開放。