彭慧 孫士學
摘要:在某大型煉化生產(chǎn)企業(yè)中,數(shù)據(jù)可以看作是一種新的石油,從原料進廠、調(diào)度排產(chǎn)、生產(chǎn)運行、儲運銷售各個環(huán)節(jié)、各個專業(yè)都會產(chǎn)生大量的數(shù)據(jù)信息,我們被這些數(shù)據(jù)資源包圍,對數(shù)據(jù)的重視程度與日俱增,對數(shù)據(jù)進行一站式整合、挖掘、分析、可視化的需求日益迫切。這里數(shù)據(jù)可視化不僅僅是統(tǒng)計圖表的堆砌,還是借助于圖形的方式展示事物原理、規(guī)律、邏輯的一種方法。目前數(shù)據(jù)可視化主要通過編程和非編程兩類工具實現(xiàn),本文著重講述利用數(shù)據(jù)分析軟件實現(xiàn)數(shù)據(jù)可視化,并在煉化生產(chǎn)企業(yè)中應用,通過ODS技術(shù)集成多個業(yè)務系統(tǒng)的數(shù)據(jù),對煉化生產(chǎn)過程進行管控分析,提升企業(yè)生產(chǎn)決策水平。
關鍵詞:數(shù)據(jù)可視化;數(shù)據(jù)分析;數(shù)據(jù)集成;ODS
中圖分類號:TP311? ? ? 文獻標識碼:A
文章編號:1009-3044(2021)04-0232-02
企業(yè)信息化程度越高,越能夠為企業(yè)管理層作出有效決策而提供必需的數(shù)據(jù)依據(jù)和關鍵信息。某大型煉化生產(chǎn)企業(yè)統(tǒng)建了APS、ERP、CRM、MES、LIMS等業(yè)務信息系統(tǒng)及專業(yè)系統(tǒng),都聚集了大量產(chǎn)品生產(chǎn)銷售一線業(yè)務數(shù)據(jù),如何有效利用這些數(shù)據(jù),透過這些數(shù)據(jù)來發(fā)現(xiàn)產(chǎn)品在生產(chǎn)、銷售、儲運等過程中存在的問題,及時調(diào)整生產(chǎn)計劃、銷售策略、應急措施等,那么對數(shù)據(jù)進行一站式整合、挖掘、分析、可視化的需求便日益迫切。
當數(shù)據(jù)以直觀的可視化的圖形形式展示在企業(yè)管理者面前時,首先更便于管理者理解自己的企業(yè),能夠更直觀地洞悉數(shù)據(jù)背后隱藏的信息,助力企業(yè)的數(shù)字化轉(zhuǎn)型,將數(shù)據(jù)轉(zhuǎn)化為知識和決策依據(jù);其次若借助大數(shù)據(jù)的統(tǒng)計資料和分析會為管理者獲取人力所無法統(tǒng)計資料,通過數(shù)據(jù)挖掘得出更有價值的數(shù)據(jù),協(xié)助煉化企業(yè)優(yōu)化生產(chǎn)。所以實現(xiàn)企業(yè)各業(yè)務系統(tǒng)、各類專業(yè)系統(tǒng)數(shù)據(jù)的可視化便是要利用各種視覺元素,通過可視的、交互的方式將數(shù)據(jù)中所蘊含的信息的趨勢、異常和模式展現(xiàn)出來,以提升企業(yè)決策效率和工作效率。
1 研究背景和意義
在煉化生產(chǎn)企業(yè)中已實現(xiàn)了各類報表,這些傳統(tǒng)的報表固然已經(jīng)很好地發(fā)揮了它的作用,然而單一維度的數(shù)據(jù)只能反映事物的一個局部表象,將更多維度的數(shù)據(jù)收集起來,使它們之間產(chǎn)生對比、映照的多種可能,我們就需要對這些已經(jīng)處理過的數(shù)據(jù)再一次進行整合、分析、挖掘,通過可視化來增加信息的接收量,使企業(yè)決策者能夠更深刻地理解那些數(shù)據(jù)所代表的深層次含義。
根據(jù)該煉化生產(chǎn)企業(yè)實際業(yè)務需求,通過數(shù)據(jù)可視化,實現(xiàn)企業(yè)從原油的采購、原油運輸、原材料進廠、原油及汽煤柴調(diào)合、生產(chǎn)計劃、生產(chǎn)調(diào)度、生產(chǎn)運行、儲運、銷售出廠等生產(chǎn)過程的信息整合并進行大屏展示。結(jié)合經(jīng)營效益分析、技經(jīng)指標、安全環(huán)保監(jiān)控、設備運行、能耗管理、工藝技術(shù)、工藝流程等專業(yè)數(shù)據(jù),對煉化生產(chǎn)過程進行管控分析,在全面地認識數(shù)據(jù)的過程中,利用數(shù)據(jù)分析軟件實現(xiàn)跨系統(tǒng)平臺數(shù)據(jù)綜合分析展示,以提升企業(yè)決策水平。
2 數(shù)據(jù)可視化技術(shù)
2.1 數(shù)據(jù)可視化基本思想
數(shù)據(jù)可視化是關于數(shù)據(jù)視覺表現(xiàn)形式的科學技術(shù)研究,是技術(shù)上較為高級的技術(shù)方法,允許利用圖形、圖像處理、計算機視覺以及用戶界面,通過表達、建模以及對立體、表面、屬性以及動畫的顯示,對數(shù)據(jù)加以可視化解釋。它與信息圖形、信息可視化、科學可視化以及統(tǒng)計圖形密切相關,成為研究數(shù)據(jù)表示、數(shù)據(jù)處理、決策分析等一系列問題的綜合技術(shù),具有高效、直觀、標準、豐富的特點。
簡單說數(shù)據(jù)可視化是通過直觀地傳達關鍵的方面與特征,從而實現(xiàn)對于相當稀疏而又復雜的數(shù)據(jù)集的深入洞察。其基本思想就是將數(shù)據(jù)庫中每一個數(shù)據(jù)項作為單個單元元素表示,大量的數(shù)據(jù)集構(gòu)成數(shù)據(jù)圖像,同時將數(shù)據(jù)的各個屬性值以多維數(shù)據(jù)的形式表示,可以從不同的維度觀察數(shù)據(jù),從而對數(shù)據(jù)進行更深入的觀察和分析。數(shù)據(jù)和人之間的交互環(huán)節(jié),是數(shù)據(jù)可視化的主要著力點。其中分為兩個業(yè)務方向:一是數(shù)據(jù)展示和呈現(xiàn),使大家明白數(shù)據(jù)的含義;二是針對大家可能提出的問題做相關數(shù)據(jù)分析。因此,數(shù)據(jù)展示和數(shù)據(jù)分析是數(shù)據(jù)可視化的兩個核心切入點。
2.2 數(shù)據(jù)可視化分析流程
數(shù)據(jù)可視化內(nèi)容分成三大部分:采集、處理、分析,其中最重要的則是分析部分,可視化主要流程如下:確定分析業(yè)務內(nèi)容——集成業(yè)務數(shù)據(jù)——數(shù)據(jù)ETL處理——數(shù)據(jù)分析——可視化呈現(xiàn)。
(1)確定分析業(yè)務內(nèi)容:明確所要表達的業(yè)務范圍、業(yè)務目標,將目標指標化,數(shù)據(jù)化。
(2)集成業(yè)務數(shù)據(jù):結(jié)合企業(yè)的信息化建設特點,可能很多數(shù)據(jù)都是分散的,異構(gòu)的,需要設計將數(shù)據(jù)集成到統(tǒng)一的數(shù)據(jù)倉庫中或者大數(shù)據(jù)平臺中。
(3)數(shù)據(jù)ETL處理:數(shù)據(jù)連接、抽取轉(zhuǎn)換和流程調(diào)度是關鍵的步驟,對于結(jié)構(gòu)化的數(shù)據(jù)在清洗時主要應用SQL語句過濾或者存儲過程處理等。
(4)數(shù)據(jù)分析:前期的準備都是為完成數(shù)據(jù)分析,對數(shù)據(jù)基于實際應用場景進行科學全面的多維度、多層次的分析。
(5)可視化呈現(xiàn):利用可視化工具對組織好的數(shù)據(jù)進行不同緯度的直觀的展示。
3 煉化生產(chǎn)企業(yè)數(shù)據(jù)可視化應用
3.1 利用ODS技術(shù)實現(xiàn)數(shù)據(jù)集成
數(shù)據(jù)處理時數(shù)據(jù)可視化的重要步驟,根據(jù)業(yè)務的實際需要,先將業(yè)務數(shù)據(jù)類型進行ODS主題劃分,并在主題劃分基礎上進行ODS指標分析,主要包括關鍵技經(jīng)指標、計劃完成率、負荷率、達標率、平穩(wěn)率、合格率、自控率等。
ODS的架構(gòu)設計主要從連續(xù)性、一致性、開放性和穩(wěn)定性等幾個方面進行考慮,這里以MES數(shù)據(jù)為核心,建立ODS數(shù)據(jù)庫,將各分散系統(tǒng)的數(shù)據(jù)都集成到該ODS中,按照一定的算法對數(shù)據(jù)進行二次處理,并制定了相應的數(shù)據(jù)抽取策略,確保數(shù)據(jù)在一段時間范圍內(nèi)在原表修改的情況下依然保持一致。例如,在MES系統(tǒng)中的裝置公用工程數(shù)據(jù),生產(chǎn)操作或工藝技術(shù)人員會不定時地進行調(diào)整修正,在管理人員審核通過后,之前抽取的能耗數(shù)據(jù)就要發(fā)生相應的改變,ODS的設計要充分考慮到各種業(yè)務場景,制定合理的數(shù)據(jù)更新策略。同時,ODS的數(shù)據(jù)抽取加載工具要具有開放性,便于擴展集成所需的其他業(yè)務系統(tǒng)數(shù)據(jù)。
3.2 數(shù)據(jù)可視化實現(xiàn)方法和步驟
在可視化頁面開發(fā)前先明確業(yè)務需求,進行需求分析,確認業(yè)務范圍、適用范圍;確認相關業(yè)務所涉及的數(shù)據(jù)庫系統(tǒng),這里以MES數(shù)據(jù)為核心,建立ODS數(shù)據(jù)庫,將各分散系統(tǒng)的數(shù)據(jù)都集成到該ODS中,按照一定的算法對數(shù)據(jù)進行二次處理,并充分考慮各種業(yè)務場景,制定合理的數(shù)據(jù)更新策略,確保數(shù)據(jù)質(zhì)量;整理所需要用到的背景、圖片等素材。
利用數(shù)據(jù)分析軟件開發(fā)可視化頁面,重點把握布局排版,避免指標堆砌,分清主次;定義數(shù)據(jù)集應用于模板設計的數(shù)據(jù)展現(xiàn)集合;選定好適合的圖表類型,合理配色、線條邊框點綴、動畫效果。
3.3 數(shù)據(jù)可視化應用
該煉化生產(chǎn)企業(yè)實現(xiàn)的煉化生產(chǎn)技術(shù)分析功能是數(shù)據(jù)可視化的具體應用,其主要分為三種模式:參觀模式、生產(chǎn)模式、應急模式。
(1)參觀模式:用于外來人員參觀訪問使用,一般做大屏幕應用,主要設計公司簡介、生產(chǎn)經(jīng)營、主要生產(chǎn)流程3個展示對象。
(2)生產(chǎn)模式:用于對公司日常生產(chǎn)的管理和分析,從煉油生產(chǎn)、化工生產(chǎn)、化工銷售三條業(yè)務主線設計展示對象,提供工藝技術(shù)、質(zhì)量、設備、能耗等專業(yè)系統(tǒng)信息,支持下鉆,致力于企業(yè)營運決策的改善,是本方案的設計重點。
(3)應急模式:用于處理突發(fā)事件的場景。
這三種模式以生產(chǎn)模式為核心,生產(chǎn)模式展示界面分一個總體和兩個維度設計,一個總體是生產(chǎn)經(jīng)營,總體展示分析公司效益和技經(jīng)指標;兩個維度分別是產(chǎn)銷存供應鏈和專業(yè)管理。產(chǎn)銷存供應鏈,包括總貌圖和原料、加工和產(chǎn)品三大類業(yè)務,涵蓋三條業(yè)務主線;6個專業(yè)管理包括化驗、安全、環(huán)保、設備、工藝,能耗等業(yè)務,主要依靠專業(yè)系統(tǒng)連接實現(xiàn)。
這些可視化的頁面均支持數(shù)據(jù)鉆取、分屏展示、組件聯(lián)動等功能,除了實現(xiàn)了綜合展示外,還可以繼續(xù)進行挖掘分析,即基于圖表的“二次分析”,對數(shù)據(jù)的深層次挖掘。
4 結(jié)論
煉化生產(chǎn)技術(shù)分析功能作為數(shù)據(jù)可視化在煉化生產(chǎn)企業(yè)的應用只是其中的一小部分,通過對產(chǎn)銷存供應鏈三條業(yè)務主線數(shù)據(jù)及質(zhì)量、工藝、設備、能耗、安全環(huán)保等專業(yè)數(shù)據(jù)的綜合分析展示,使管理者能夠全方位、多維度地掌握各業(yè)務運行狀況,及時發(fā)現(xiàn)生產(chǎn)、銷售、儲運等各環(huán)節(jié)出現(xiàn)的問題或者盡量避免問題的出現(xiàn),并在第一時間做出應對。它既是對各業(yè)務報表的有力補充,又是管理者輔助決策的依據(jù),比業(yè)務報表更加直觀全面,達到了對煉化生產(chǎn)過程進行管控分析、提升決策效率和工作效率的目的。
今后數(shù)據(jù)可視化將會應用的更加廣泛,它的應用將改變管理者理解數(shù)據(jù)含義的思維習慣,全方位、多維度地將不直觀的數(shù)據(jù)現(xiàn)象轉(zhuǎn)化為可見的圖形符號,將錯綜復雜、看起來沒法解釋和關聯(lián)的數(shù)據(jù),建立起聯(lián)系和關聯(lián),發(fā)現(xiàn)規(guī)律和特征,實現(xiàn)數(shù)據(jù)自我解釋、讓數(shù)據(jù)說話,以獲得更有商業(yè)價值的洞見與價值,提升企業(yè)的決策效率和水平。
參考文獻:
[1] 任磊,杜一,馬帥,等.大數(shù)據(jù)可視分析綜述[J].軟件學報,2014,25(9):1909-1936.
[2] 陳為.數(shù)據(jù)可視化[M].2版.北京:電子工業(yè)出版社,2019.
[3] 代雙鳳,董繼陽,薛健.科學計算中大數(shù)據(jù)可視化分析與應用[J].工程研究-跨學科視野中的工程,2014,6(3):275-281.
[4] 左圓圓,王媛媛,蔣珊珊,等.數(shù)據(jù)可視化分析綜述[J].科技與創(chuàng)新,2019(11):82-83.
[5] 張開法.混合現(xiàn)實技術(shù)在大數(shù)據(jù)可視化中的應用[J].電腦編程技巧與維護,2019(4):84-86.
[6] 郭瑋.大數(shù)據(jù)背景下統(tǒng)計數(shù)據(jù)可視化研究[J].內(nèi)蒙古統(tǒng)計,2017(6):23-27.
[7] 周建功.數(shù)據(jù)可視化技術(shù)在政務大數(shù)據(jù)中的應用研究[J].電腦知識與技術(shù),2018,14(18):273-274.
[8] 李公立,劉佃興,黃仲元.數(shù)據(jù)可視化技術(shù)現(xiàn)狀與發(fā)展研究[J].山西建筑,2018,44(19):257-258.
[9] 應毅,劉定一,任凱.基于大數(shù)據(jù)技術(shù)的輿情分析與決策支持系統(tǒng)架構(gòu)研究[J].圖書情報導刊,2017(9):32-36.
【通聯(lián)編輯:光文玲】