ECS業(yè)務(wù)監(jiān)測(cè)系統(tǒng)的快速構(gòu)建

查顯洋 牛連強(qiáng) 喻輝

Abstract： An electronic channel system has broad and complex business scope， and needs the corresponding business monitoring system as a support to detect the states of the hardware and software systems， servers and all kinds of business， and realizes user interaction and business processing. Focused on the demands of China Unicom ECS business monitoring， a scheme to develop business monitoring system by means of open source search engine， plug-ins and J2EE architecture quickly is proposed in this paper. Furthermore， a visual payment and recharge business monitoring system is developed to implement comprehensive monitoring， business system and log monitoring. The system is easy to deploy and operate， which can provide a beneficial case reference for similar system construction.

引言

電子渠道系統(tǒng)（Electronic Channel System，ECS）是一種電子商務(wù)系統(tǒng)，業(yè)務(wù)寬泛、復(fù)雜。例如，中國(guó)聯(lián)通ECS包括了網(wǎng)上營(yíng)業(yè)廳、手機(jī)營(yíng)業(yè)廳、短信營(yíng)業(yè)廳、自助服務(wù)終端和mini營(yíng)業(yè)廳5大類(lèi)電子渠道，各類(lèi)電子營(yíng)業(yè)廳營(yíng)業(yè)額累計(jì)超過(guò)550億元，電子渠道服務(wù)量占全渠道服務(wù)量的比例已經(jīng)超過(guò)51%，已逐步成為銷(xiāo)售服務(wù)的主渠道[1]。龐大的交易量給服務(wù)器帶來(lái)了不小的壓力，且系統(tǒng)的軟、硬件均處于急速、不斷的更新?lián)Q代中，對(duì)系統(tǒng)的狀態(tài)進(jìn)行自動(dòng)化綜合監(jiān)測(cè)成為保證其正常運(yùn)行的重要手段，且檢測(cè)系統(tǒng)本身也需要滿足系統(tǒng)升級(jí)所帶來(lái)的變化。

ECS業(yè)務(wù)檢測(cè)系統(tǒng)是為了實(shí)時(shí)檢測(cè)ECS系統(tǒng)的業(yè)務(wù)狀況，以實(shí)現(xiàn)運(yùn)維平臺(tái)的統(tǒng)一管理的Web系統(tǒng)，其目的是使運(yùn)維人員實(shí)時(shí)掌握服務(wù)器性能、運(yùn)行狀態(tài)以及ECS業(yè)務(wù)的狀況，能夠?qū)Τ霈F(xiàn)的異常進(jìn)行快速處理，從而降低因?yàn)榉?wù)器等異常所帶來(lái)的風(fēng)險(xiǎn)，保證系統(tǒng)的安全運(yùn)營(yíng)[2]。

存在一些針對(duì)不同要求開(kāi)發(fā)的監(jiān)測(cè)系統(tǒng)或管理系統(tǒng)，大多可以基本滿足在不同位置和不同時(shí)間段，對(duì)服務(wù)器的性能和運(yùn)行狀態(tài)進(jìn)行實(shí)時(shí)檢測(cè)的基本需求[3]，但各公司自行開(kāi)發(fā)的監(jiān)測(cè)系統(tǒng)存在著平臺(tái)之間缺少統(tǒng)一、規(guī)范的監(jiān)測(cè)指標(biāo)體系、并且缺失用戶要求的應(yīng)用性能監(jiān)測(cè)和分析能力、同時(shí)在應(yīng)用中也不能開(kāi)展端到端的性能檢測(cè)、分析和故障定位處理等問(wèn)題[4]。因此，需要研究快速和有針對(duì)性的開(kāi)發(fā)方法，依據(jù)特定ECS開(kāi)發(fā)和定制符合自身軟、硬件和業(yè)務(wù)需求的相應(yīng)監(jiān)測(cè)系統(tǒng)。

本文結(jié)合中國(guó)聯(lián)通ECS的業(yè)務(wù)監(jiān)測(cè)需求，科學(xué)選擇了有效的框架、插件及構(gòu)建方法，設(shè)計(jì)提出了一套容易部署、便于操作、適用于各種業(yè)務(wù)數(shù)據(jù)監(jiān)測(cè)需求的服務(wù)器管理系統(tǒng)，實(shí)現(xiàn)了運(yùn)維的自動(dòng)化和規(guī)范化。

1系統(tǒng)框架與工作流程

1.1業(yè)務(wù)分析

目前，中國(guó)聯(lián)通ECS業(yè)務(wù)較多，如交費(fèi)充值、積分兌換和話費(fèi)查詢等，其核心是交費(fèi)充值業(yè)務(wù)，也涉及購(gòu)卡、充值、直充、寬帶躉交、存費(fèi)送費(fèi)、郵寄發(fā)票等事宜在內(nèi)，可面向普通用戶和代理商，覆蓋網(wǎng)廳、手廳、短廳、自助終端、mini廳、IVR等渠道，支持網(wǎng)銀、支付寶、微信等多種支付方式。本文主要對(duì)交費(fèi)充值業(yè)務(wù)進(jìn)行全方位、多角度的監(jiān)測(cè)。圖1就闡釋說(shuō)明了系統(tǒng)的設(shè)計(jì)功能結(jié)構(gòu)。

每部分均在檢測(cè)、分析或統(tǒng)計(jì)相關(guān)的數(shù)據(jù)的基礎(chǔ)上以適當(dāng)方式進(jìn)行可視化。其中，訂單金額部分展示實(shí)時(shí)訂單數(shù)量和金額；告警部分展示超過(guò)閾值的告警項(xiàng)，包括節(jié)點(diǎn)異常、各系統(tǒng)的調(diào)用量和異常返回碼等；主機(jī)部分展示各系統(tǒng)主機(jī)的總量、當(dāng)前數(shù)量、丟失數(shù)量、異常數(shù)量及異常主機(jī)日志；節(jié)點(diǎn)部分展示各系統(tǒng)的節(jié)點(diǎn)總量、當(dāng)前量丟失量和異常量；端口部分主要展示監(jiān)測(cè)各端口的連接速度；交費(fèi)結(jié)果以圖表方式展示用戶調(diào)用電渠系統(tǒng)交費(fèi)成功與否的標(biāo)志量；接口部分以地圖形式展示全國(guó)的交費(fèi)一卡充接口成功率，并支持對(duì)各省的點(diǎn)擊細(xì)節(jié)展示—熱點(diǎn)交互；錯(cuò)誤部分以扇形圖、折線圖等展示統(tǒng)計(jì)后的手廳和網(wǎng)廳的各種錯(cuò)誤數(shù)量；日志部分展示各業(yè)務(wù)系統(tǒng)服務(wù)器日志（如Nginx服務(wù)器日志），包括調(diào)用量、異常、5 min調(diào)用量、5 min異常返回碼及5 min異常IP等參數(shù)。

1.2解決方案

1.2.1系統(tǒng)架構(gòu)

系統(tǒng)研發(fā)中采用B/S架構(gòu)，將數(shù)據(jù)采集和監(jiān)測(cè)可視化劃分為2個(gè)層次。在數(shù)據(jù)采集層，通過(guò)ElasticSearch（簡(jiǎn)記為ES）檢索各業(yè)務(wù)系統(tǒng)數(shù)據(jù)，再利用Elastic-job定時(shí)任務(wù)定期將檢索結(jié)果存入數(shù)據(jù)庫(kù)。監(jiān)測(cè)可視化層從數(shù)據(jù)庫(kù)讀取數(shù)據(jù)，應(yīng)用Echarts插件對(duì)數(shù)據(jù)進(jìn)行可視化展示。圖2就設(shè)計(jì)繪制了系統(tǒng)的業(yè)務(wù)邏輯。

圖2中，各部分的功能設(shè)計(jì)可闡釋解析如下。

數(shù)據(jù)存儲(chǔ)選取了Oracle數(shù)據(jù)庫(kù)，用于存儲(chǔ)業(yè)務(wù)系統(tǒng)以及經(jīng)過(guò)計(jì)算服務(wù)器（Calculating Server）處理后的各類(lèi)數(shù)據(jù)、日志信息、配置信息和監(jiān)測(cè)數(shù)據(jù)備份等。

數(shù)據(jù)采集層由Elastic-job和ES組成。搜索服務(wù)器ES主要對(duì)各業(yè)務(wù)系統(tǒng)數(shù)據(jù)庫(kù)進(jìn)行檢索和分析，分布式定時(shí)任務(wù)框架Elastic-job通過(guò)配置時(shí)間定期將ES的檢索結(jié)果寫(xiě)入監(jiān)測(cè)層數(shù)據(jù)庫(kù)。

監(jiān)測(cè)層讀取、分析、統(tǒng)計(jì)信息，利用可視化層以Web頁(yè)面形式呈現(xiàn)結(jié)果，有助于對(duì)服務(wù)器的各項(xiàng)數(shù)據(jù)指標(biāo)的分析監(jiān)測(cè)及用戶交互。

1.2.2開(kāi)發(fā)技術(shù)

系統(tǒng)的基本模型采用Java語(yǔ)言進(jìn)行研發(fā)，整體架構(gòu)為SSM框架，項(xiàng)目以前、后端分離方式設(shè)計(jì)部署。前端采用百度的Echarts插件作為可視化工具，做到了數(shù)據(jù)與視圖分離，從而使得整個(gè)項(xiàng)目易于維護(hù)。數(shù)據(jù)采集層則依賴ES和Elastic-job組合方法來(lái)滿足功能需要。

2數(shù)據(jù)檢索與實(shí)時(shí)更新

ECS業(yè)務(wù)監(jiān)測(cè)系統(tǒng)的核心是對(duì)數(shù)據(jù)的統(tǒng)計(jì)及分析，聯(lián)通每天的業(yè)務(wù)量可達(dá)500萬(wàn)筆左右，數(shù)據(jù)量則可高達(dá)2千萬(wàn)條，實(shí)現(xiàn)對(duì)巨大數(shù)據(jù)量的有效檢索和及時(shí)更新十分關(guān)鍵。

2.1數(shù)據(jù)檢索

2.1.1數(shù)據(jù)導(dǎo)入

數(shù)據(jù)檢索是以開(kāi)源搜索引擎ES為基礎(chǔ)的，需要先將聯(lián)通業(yè)務(wù)數(shù)據(jù)從ECS數(shù)據(jù)庫(kù)導(dǎo)入到ES并排序或建立索引。

ES可以導(dǎo)入各種格式的數(shù)據(jù)，包括文本、關(guān)系型數(shù)據(jù)庫(kù)和非關(guān)系型數(shù)據(jù)庫(kù)（如MongoDB）中的數(shù)據(jù)。ES支持2種導(dǎo)入方式。其一是利用程序查詢出數(shù)據(jù)，再用ES的建立索引API進(jìn)行導(dǎo)入。因?yàn)閿?shù)據(jù)庫(kù)中的資源數(shù)據(jù)時(shí)常變化，本文采用更為一般的River導(dǎo)入方式，以便能容易地通過(guò)定義時(shí)間戳將變化增量更新到索引中，操作較前種方式更為簡(jiǎn)單[5]。

2.1.2搜索結(jié)果的排序優(yōu)化

在ES中，各屬性的默認(rèn)權(quán)重相同，都為1.0，這會(huì)導(dǎo)致搜索詞出現(xiàn)在文檔的各個(gè)位置的重要度相同。但是在實(shí)際應(yīng)用中，關(guān)鍵詞出現(xiàn)在標(biāo)題和內(nèi)容中的重要度存在差異，需要對(duì)ES排序進(jìn)行優(yōu)化[6]。

對(duì)于常見(jiàn)的交費(fèi)訂單，一般都會(huì)包含交費(fèi)金額、交費(fèi)類(lèi)型、訂單ID等信息，而能索引性標(biāo)識(shí)該信息的屬性就是訂單ID和交費(fèi)類(lèi)型，其次是交費(fèi)號(hào)碼、交費(fèi)金額和其它信息。為此，可以對(duì)重要屬性賦予更大的權(quán)值，使搜索詞出現(xiàn)在這些位置時(shí)得分更高，在結(jié)果中的排序也將更加靠前，方便用戶輕松找到所需資源[7]。以下即是對(duì)現(xiàn)有數(shù)據(jù)分析后得到的屬性重要性排序及賦予的初始權(quán)值：

訂單ID（4.0）=交費(fèi)類(lèi)型（4.0）>交費(fèi)號(hào)碼（3.3）>交費(fèi)金額（3.0）>交費(fèi)時(shí)間（2.5）=用戶ID（2.0）=用戶姓名（2.0）>省份（1.5）=地市（1.5）>其它屬性（1.0）

在運(yùn)行階段，系統(tǒng)還要根據(jù)用戶的反饋實(shí)時(shí)調(diào)整各屬性的權(quán)值。

2.1.3查詢結(jié)果高亮

利用搜索引擎按關(guān)鍵字檢索得到的數(shù)據(jù)量非常龐大。為了幫助用戶在大量搜索結(jié)果中快速找到需要的信息，系統(tǒng)采用了高亮標(biāo)注匹配的關(guān)鍵字的方法展示搜索結(jié)果，這是很多搜索引擎中的常用方法[4]。

4結(jié)束語(yǔ)

對(duì)于軟硬件環(huán)境不斷更新?lián)Q代、業(yè)務(wù)也在逐漸擴(kuò)張和變化的ECS系統(tǒng)，其業(yè)務(wù)監(jiān)測(cè)系統(tǒng)既要與系統(tǒng)的環(huán)境、要求和業(yè)務(wù)相適應(yīng)，還要在實(shí)時(shí)性、交互性和功能性等多方面綜合展示效能優(yōu)勢(shì)。本文設(shè)計(jì)提出的方案是以開(kāi)源搜索引擎、插件為基礎(chǔ)，可實(shí)現(xiàn)監(jiān)測(cè)系統(tǒng)的快速構(gòu)建，不僅能有效地滿足功能性要求，且系統(tǒng)造價(jià)低，部署簡(jiǎn)捷，具有良好的數(shù)據(jù)展示能力和用戶體驗(yàn)，是開(kāi)發(fā)類(lèi)似系統(tǒng)的可行方法。

參考文獻(xiàn)

[1] 楊軍. 中國(guó)聯(lián)通全面成本管理案例研究[D]. 南寧： 廣西大學(xué)，2014.

[2] 萇偉鵬. 數(shù)據(jù)監(jiān)控系統(tǒng)的需求分析及技術(shù)實(shí)現(xiàn)[J]. 數(shù)字技術(shù)與應(yīng)用， 2013（2）：1.

[3] 孫慧穎. 服務(wù)器監(jiān)控系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn) [D]. 北京： 北京交通大學(xué)，2017.

[4] SRIVASTAVA R K， GREFF K， SCHMIDHUBER J. Highway networks[J]. arXiv preprint arXiv：1505.00387， 2015.

[5] 肖運(yùn)文. 基于ElasticSearch的教育資源推薦系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn) [D]. 北京： 北京工業(yè)大學(xué)， 2016.

[6] 曾亞飛. 基于ElasticSearch的分布式智能搜索引擎的研究與實(shí)現(xiàn)[D]. 重慶： 重慶大學(xué)， 2016.

[7] 張高偉. 基于ElasticSearch的分布式視頻垂直搜索引擎的設(shè)計(jì)與實(shí)現(xiàn)[D]. 哈爾濱：哈爾濱工業(yè)大學(xué)，2014.

[8] 張鵬，白朝旭，王錕，等. 基于Quartz的集團(tuán)化調(diào)度任務(wù)分布部署研究[J]. 現(xiàn)代電子技術(shù)， 2014， 37（2）： 80-83.

[9] 段曉東. 基于JSP的水資源監(jiān)測(cè)系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn) [D]. 呼和浩特： 內(nèi)蒙古農(nóng)業(yè)大學(xué)， 2017.