氣象數(shù)據(jù)全鏈路監(jiān)控系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)

吳貴義，賈寧遠(yuǎn)，張志堅(jiān)，黃華棟

（廣州市突發(fā)事件預(yù)警信息發(fā)布中心，廣東廣州 511430）

近年來隨著氣象業(yè)務(wù)不斷發(fā)展，各種氣象產(chǎn)品不斷增加，氣象數(shù)據(jù)存在數(shù)據(jù)量大、傳輸時(shí)效要求高、種類繁多、格式各異、交互應(yīng)用頻繁等特點(diǎn)，日積月累之下氣象部門的數(shù)據(jù)傳輸及應(yīng)用脈絡(luò)錯(cuò)綜復(fù)雜，一旦數(shù)據(jù)出現(xiàn)未及時(shí)更新的情況，業(yè)務(wù)人員經(jīng)常要對(duì)不同的數(shù)據(jù)生成環(huán)節(jié)逐一排查，在此過程中可能需要登錄多個(gè)不同的服務(wù)器、檢查多個(gè)文件夾或不同的數(shù)據(jù)庫表去定位異常，效率非常低下［1-2］。氣象數(shù)據(jù)監(jiān)控已在眾多單位開展研究應(yīng)用，國內(nèi)氣象工作者提出了許多監(jiān)控的方法［3-5］，陳榮等［6］研究了對(duì)地面氣象觀測(cè)業(yè)務(wù)的監(jiān)控方案，其研究重點(diǎn)在于對(duì)報(bào)文資料的監(jiān)控；金圣宇［7］等重點(diǎn)介紹了全流程監(jiān)控的技術(shù)方案，但未提出具體實(shí)現(xiàn)的方法。本研究提出了全鏈路氣象數(shù)據(jù)監(jiān)控系統(tǒng)的設(shè)計(jì)思路，能夠根據(jù)氣象數(shù)據(jù)傳輸和存儲(chǔ)特性，通過不同的訪問方式，快速定位數(shù)據(jù)更新異常的具體節(jié)點(diǎn)，并對(duì)該系統(tǒng)所采用的數(shù)據(jù)多樣性特征校驗(yàn)和時(shí)效性校驗(yàn)結(jié)合的監(jiān)控原理、數(shù)據(jù)鏈路構(gòu)建功能的實(shí)現(xiàn)過程做進(jìn)一步的介紹。

1 氣象數(shù)據(jù)特點(diǎn)

氣象數(shù)據(jù)大致上分為結(jié)構(gòu)化和非結(jié)構(gòu)化兩種類型［8］，通常通過TCP、SMB、FTP、HTTP等方式進(jìn)行傳輸，數(shù)據(jù)在更新、命名規(guī)則、資料傳輸方面均有一定規(guī)律特性。例如雷達(dá)圖、云圖等以圖片格式存放的氣象產(chǎn)品，一般都是按照年月日時(shí)分秒（如yyyyMMddhhmmss.png）的規(guī)則命名，更新頻率為每6 min更新一次；自動(dòng)站資料存放在數(shù)據(jù)庫中，每5 min更新一次；廣州短時(shí)預(yù)報(bào)產(chǎn)品，每一小時(shí)更新一次報(bào)文。各類業(yè)務(wù)系統(tǒng)在應(yīng)用氣象數(shù)據(jù)時(shí)，由于受到開發(fā)環(huán)境或技術(shù)要求的限制，經(jīng)常會(huì)針對(duì)特定系統(tǒng)建立專屬的應(yīng)用數(shù)據(jù)庫，因此同一種氣象資料從生成、加工到應(yīng)用會(huì)形成不同的數(shù)據(jù)鏈。

2 設(shè)計(jì)與實(shí)現(xiàn)

氣象數(shù)據(jù)鏈?zhǔn)菙?shù)據(jù)從生成到具體應(yīng)用過程中，資料傳輸處理所形成的數(shù)據(jù)脈絡(luò)。本研究介紹的全鏈路氣象數(shù)據(jù)監(jiān)控系統(tǒng)，其功能主要是結(jié)合氣象數(shù)據(jù)的特征，通過系統(tǒng)后臺(tái)對(duì)數(shù)據(jù)進(jìn)行配置形成數(shù)據(jù)塊，再利用可視化技術(shù)將數(shù)據(jù)塊串聯(lián)形成數(shù)據(jù)鏈進(jìn)行監(jiān)控，系統(tǒng)總體設(shè)計(jì)示意圖如圖1所示。

圖1 系統(tǒng)總體設(shè)計(jì)示意圖

該系統(tǒng)主要由兩大功能模塊組成，一是單節(jié)點(diǎn)數(shù)據(jù)標(biāo)識(shí)模塊，通過建立數(shù)據(jù)監(jiān)控算法規(guī)則，對(duì)節(jié)點(diǎn)數(shù)據(jù)的多樣性和時(shí)效性特征進(jìn)行判斷，判斷該節(jié)點(diǎn)中存放數(shù)據(jù)的服務(wù)器IP地址、數(shù)據(jù)存儲(chǔ)方式、數(shù)據(jù)格式、傳輸方式以及更新規(guī)律等，實(shí)現(xiàn)對(duì)數(shù)據(jù)的標(biāo)識(shí)；二是數(shù)據(jù)鏈監(jiān)控模塊，采用WEB框架，利用jQuery組件庫實(shí)現(xiàn)拖拽、SVG圖形繪畫等技術(shù)，將分散的數(shù)據(jù)節(jié)點(diǎn)進(jìn)行連接，并通過線程池技術(shù)實(shí)現(xiàn)對(duì)數(shù)據(jù)鏈的并發(fā)判斷監(jiān)控。

2.1 單節(jié)點(diǎn)數(shù)據(jù)標(biāo)識(shí)模塊設(shè)計(jì)

1）數(shù)據(jù)多樣性校驗(yàn)設(shè)計(jì)。

監(jiān)控氣象數(shù)據(jù)首先需獲得該數(shù)據(jù)的格式、存儲(chǔ)方式和訪問方式。對(duì)于大部分結(jié)構(gòu)化和非結(jié)構(gòu)化氣象數(shù)據(jù)而言，主要存放方式有數(shù)據(jù)庫和文件形式存放兩種，傳輸和訪問方式主要是利用TCP、SMB、SSH、FTP、HTTP等協(xié)議。其中氣象部門常用的Oracel、SQL Server、Mysql等數(shù)據(jù)庫數(shù)據(jù)通過TCP協(xié)議訪問；文件共享常利用SMB協(xié)議訪問；SSH協(xié)議多用于Linux操作系統(tǒng)的文件數(shù)據(jù)訪問；FTP協(xié)議用于FTP服務(wù)的文件數(shù)據(jù)訪問；HTTP協(xié)議實(shí)現(xiàn)web接口數(shù)據(jù)訪問，如目前常用的廣東省氣象局IDEA數(shù)據(jù)接口平臺(tái)［9］。

針對(duì)結(jié)構(gòu)化與非結(jié)構(gòu)化的數(shù)據(jù)采用不同的訪問規(guī)則，其中來自數(shù)據(jù)庫的數(shù)據(jù)屬于結(jié)構(gòu)化數(shù)據(jù)，這類數(shù)據(jù)規(guī)范清晰，可針對(duì)數(shù)據(jù)生成時(shí)間、每次數(shù)據(jù)入庫固定的行數(shù)進(jìn)行有效監(jiān)控。而以文件格式存儲(chǔ)的非結(jié)構(gòu)化數(shù)據(jù)，數(shù)據(jù)內(nèi)容多樣復(fù)雜，可針對(duì)文件修改時(shí)間、文件命名規(guī)則、文件大小進(jìn)行監(jiān)控分析，通過HTTP接口獲取的數(shù)據(jù)則可以利用讀取接口返回值的情況來判斷，如空值規(guī)則、404錯(cuò)誤規(guī)則等。數(shù)據(jù)多樣性校驗(yàn)規(guī)則如表1所示。

2）數(shù)據(jù)時(shí)效性校驗(yàn)設(shè)計(jì)。

在日常業(yè)務(wù)應(yīng)用中如果數(shù)據(jù)更新不及時(shí)，則可認(rèn)為數(shù)據(jù)更新異常，數(shù)據(jù)時(shí)效性作為氣象數(shù)據(jù)按時(shí)更新的重要指標(biāo)參數(shù)，需具備判斷不同更新規(guī)律的方式，氣象產(chǎn)品以更新頻率的規(guī)律來分類，可以分為實(shí)時(shí)更新的數(shù)據(jù)、周期性定時(shí)更新的數(shù)據(jù)、區(qū)間定時(shí)更新的數(shù)據(jù)。其中實(shí)時(shí)更新的數(shù)據(jù)是指數(shù)據(jù)實(shí)時(shí)產(chǎn)生，沒有固定更新的時(shí)間和頻次，如氣象預(yù)警信息；周期性定時(shí)數(shù)據(jù)指數(shù)據(jù)按照一定時(shí)間周期定時(shí)產(chǎn)生，即每隔一段時(shí)間產(chǎn)生新的數(shù)據(jù)，如每5 min更新一次的自動(dòng)站實(shí)況數(shù)據(jù)、每6 min更新一次的雷達(dá)圖；區(qū)間定時(shí)數(shù)據(jù)指數(shù)據(jù)在指定時(shí)間段定時(shí)產(chǎn)生，如每小時(shí)更新一次短時(shí)預(yù)報(bào)（只要求每小時(shí)內(nèi)更新一次，但不要求在具體時(shí)間點(diǎn)更新）。

在數(shù)據(jù)時(shí)效性判定算法中首先要判斷數(shù)據(jù)類型，實(shí)時(shí)類型數(shù)據(jù)通過直接加載數(shù)據(jù)連接驅(qū)動(dòng)獲取實(shí)時(shí)氣象數(shù)據(jù)；周期定時(shí)類型數(shù)據(jù)首先計(jì)算數(shù)據(jù)參數(shù)的時(shí)間格式，一般數(shù)據(jù)時(shí)間參數(shù)分為秒、分、時(shí)3種類型，再通過當(dāng)前時(shí)間減去數(shù)據(jù)時(shí)效，計(jì)算得到最小的有效時(shí)間effecttime，最后從最小時(shí)間到當(dāng)前時(shí)間循環(huán)遍歷有效時(shí)間的數(shù)據(jù)是否存在，如果存在表明數(shù)據(jù)正常，否則更新異常；區(qū)間定時(shí)類型數(shù)據(jù)首先通過當(dāng)前時(shí)間減去數(shù)據(jù)延遲獲取數(shù)據(jù)有效時(shí)間，然后計(jì)算數(shù)據(jù)有效時(shí)間所在的數(shù)據(jù)區(qū)間范圍，如果小于最小區(qū)間，則取前一天的最大區(qū)間作為最終有效時(shí)間，否則取有效時(shí)間所在的區(qū)間作為最終有效時(shí)間。算法流程如圖2所示。

圖2 數(shù)據(jù)時(shí)效性判定算法流程示意圖

2.2 數(shù)據(jù)鏈監(jiān)控模塊實(shí)現(xiàn)

通過2.1節(jié)的設(shè)計(jì)實(shí)現(xiàn)了對(duì)單點(diǎn)數(shù)據(jù)特性的標(biāo)記工作，再通過監(jiān)控系統(tǒng)后臺(tái)進(jìn)行配置，將相關(guān)的數(shù)據(jù)節(jié)點(diǎn)串聯(lián)，從而形成對(duì)數(shù)據(jù)鏈的監(jiān)控。

系統(tǒng)在數(shù)據(jù)流后臺(tái)配置中引入jQuery組件拖拽技術(shù)［10］、SVG圖形繪畫技術(shù)［11］來解決監(jiān)控流程配置的問題［12］。用戶可以按照具體數(shù)據(jù)的實(shí)際情況，先在后臺(tái)定義多個(gè)數(shù)據(jù)節(jié)點(diǎn)，并配置各節(jié)點(diǎn)的監(jiān)控信息，再利用拖拽控件將所創(chuàng)建數(shù)據(jù)節(jié)點(diǎn)關(guān)聯(lián)起來，以此形成一條具體的數(shù)據(jù)鏈。 數(shù)據(jù)鏈包括數(shù)據(jù)的流程類型、流程名稱、數(shù)據(jù)周期、數(shù)據(jù)分類、狀態(tài)等流程屬性，其中流程類型分為定時(shí)和隨時(shí)兩類，數(shù)據(jù)周期支持單個(gè)周期定時(shí)數(shù)據(jù)，時(shí)間單位為分鐘和HH：mm格式的區(qū)間定時(shí)數(shù)據(jù)，多個(gè)區(qū)間用半角逗號(hào)隔開。流程節(jié)點(diǎn)包括TCP、SMB、FTP、HTTP、SSH 5類，通過拖拽的方式將左邊菜單的節(jié)點(diǎn)添加到流程編輯框中，然后雙擊對(duì)應(yīng)的節(jié)點(diǎn)，在節(jié)點(diǎn)屬性對(duì)話框中輸入相應(yīng)的節(jié)點(diǎn)屬性，最后用線條將各個(gè)節(jié)點(diǎn)前后相連形成數(shù)據(jù)流。

數(shù)據(jù)監(jiān)控程序執(zhí)行過程中，引入了Quartz開源框架［12］，實(shí)現(xiàn)多數(shù)據(jù)流程的并發(fā)執(zhí)行，同時(shí)針對(duì)每個(gè)數(shù)據(jù)流程實(shí)現(xiàn)遞歸索引，依次檢索每個(gè)數(shù)據(jù)節(jié)點(diǎn)的數(shù)據(jù)狀態(tài)。數(shù)據(jù)監(jiān)控程序?yàn)楸苊鈱?duì)系統(tǒng)資源和內(nèi)存的過度使用，默認(rèn)創(chuàng)建擁有10個(gè)線程的線程池，即最多有10個(gè)數(shù)據(jù)流同時(shí)被執(zhí)行。監(jiān)控程序首先將所有數(shù)據(jù)流添加到Jobs隊(duì)列中，當(dāng)線程池中存在空閑線程時(shí)，則將Jobs隊(duì)列中的工作任務(wù)提交到線程池中執(zhí)行。全鏈路監(jiān)控時(shí)首先從數(shù)據(jù)流首節(jié)點(diǎn)開始檢查數(shù)據(jù)正常情況，然后遞歸檢查各個(gè)后綴節(jié)點(diǎn)正常情況，當(dāng)檢查發(fā)現(xiàn)某節(jié)點(diǎn)的服務(wù)連接或數(shù)據(jù)狀態(tài)異常時(shí)，則數(shù)據(jù)流監(jiān)控結(jié)束，其他后綴節(jié)點(diǎn)或還未檢查到的節(jié)點(diǎn)均標(biāo)注為數(shù)據(jù)異常，若所有節(jié)點(diǎn)均檢查完畢且數(shù)據(jù)正常，則認(rèn)為該數(shù)據(jù)鏈路正常。數(shù)據(jù)流節(jié)點(diǎn)監(jiān)控流程如圖3所示。

圖3 數(shù)據(jù)流節(jié)點(diǎn)監(jiān)控流程示意圖

氣象數(shù)據(jù)全鏈路監(jiān)控系統(tǒng)的應(yīng)用界面如圖4所示。

3 監(jiān)控系統(tǒng)性能測(cè)試及應(yīng)用效果

3.1 性能測(cè)試

該系統(tǒng)在實(shí)際運(yùn)行中會(huì)產(chǎn)生多條數(shù)據(jù)鏈的并行監(jiān)控，多線程并發(fā)能力關(guān)系到系統(tǒng)的穩(wěn)定性，因此多線程并發(fā)的性能測(cè)試顯得十分重要。項(xiàng)目采用了GroboUtils開源工具包編寫基于Junit多線程的并行測(cè)試用例，模擬將300組數(shù)據(jù)鏈（每組數(shù)據(jù)鏈的節(jié)點(diǎn)為3個(gè)）加載到任務(wù)隊(duì)列中，并針對(duì)數(shù)據(jù)流的響應(yīng)時(shí)間和執(zhí)行時(shí)間、數(shù)據(jù)節(jié)點(diǎn)的啟動(dòng)時(shí)間和執(zhí)行時(shí)間和故障節(jié)點(diǎn)發(fā)現(xiàn)時(shí)間等指標(biāo)進(jìn)行了測(cè)試。測(cè)試結(jié)果顯示在300多組數(shù)據(jù)鏈并發(fā)監(jiān)控的狀態(tài)下，各類主要指標(biāo)達(dá)到了預(yù)期效果，滿足實(shí)際應(yīng)用的需求，性能測(cè)試指標(biāo)：數(shù)據(jù)流響應(yīng)時(shí)間1.6 s、數(shù)據(jù)流執(zhí)行時(shí)間56 s；數(shù)據(jù)節(jié)點(diǎn)啟動(dòng)時(shí)間20 s；數(shù)據(jù)節(jié)點(diǎn)執(zhí)行時(shí)間12.3 s；故障節(jié)點(diǎn)發(fā)現(xiàn)時(shí)間33 s。

3.2 應(yīng)用效果

用戶利用該系統(tǒng)對(duì)每個(gè)數(shù)據(jù)節(jié)點(diǎn)進(jìn)行監(jiān)控配置之后，還能夠?qū)?shù)據(jù)的監(jiān)控鏈路按照業(yè)務(wù)范疇進(jìn)行歸類，形成專屬于某個(gè)具體業(yè)務(wù)的監(jiān)控。該系統(tǒng)能夠滿足多種常用氣象產(chǎn)品的監(jiān)控需求，目前該系統(tǒng)主要應(yīng)用在廣州天氣網(wǎng)、廣州氣象數(shù)據(jù)共享網(wǎng)的資料監(jiān)控中，持續(xù)為包括環(huán)保、應(yīng)急、教育等15個(gè)部門提供數(shù)據(jù)保障服務(wù)，工作人員多次通過該系統(tǒng)快速定位異常數(shù)據(jù)節(jié)點(diǎn)，極大提高了數(shù)據(jù)維護(hù)的效率。

該系統(tǒng)能夠快速定位氣象數(shù)據(jù)更新異常的節(jié)點(diǎn)，極大縮短工作人員維護(hù)數(shù)據(jù)的時(shí)間，數(shù)據(jù)可通過后臺(tái)進(jìn)行配置，適合多種業(yè)務(wù)系統(tǒng)數(shù)據(jù)的集中監(jiān)控，具有一定的推廣意義。該系統(tǒng)在告警方面仍存在不足，無法向數(shù)據(jù)維護(hù)人員主動(dòng)推送告警信息，后續(xù)將開發(fā)多渠道告警的功能，用戶可按照數(shù)據(jù)的重要性劃分告警等級(jí)，通過電話、微信、短信等不同渠道進(jìn)行告警，進(jìn)一步提高數(shù)據(jù)保障的及時(shí)性。