謝 歡 胡建農(nóng) 張雨驊
隨著各主要城市數(shù)字電視平移完成,廣電運(yùn)營(yíng)商將進(jìn)入全面的視頻和數(shù)據(jù)業(yè)務(wù)運(yùn)營(yíng)階段,隨著各種數(shù)據(jù)的積累,運(yùn)營(yíng)商的各種經(jīng)營(yíng)活動(dòng)將逐步向精細(xì)化邁進(jìn),未來對(duì)各種信息數(shù)據(jù)的分析和挖掘?qū)椭\(yùn)營(yíng)商創(chuàng)造更多的價(jià)值,本文對(duì)重慶有線服務(wù)營(yíng)銷分析系統(tǒng)的建設(shè)進(jìn)行了分析和探討,對(duì)各種應(yīng)用和技術(shù)進(jìn)行介紹。
背景
三網(wǎng)融合的大背景下,未來廣電同電信運(yùn)營(yíng)商同質(zhì)化競(jìng)爭(zhēng)不可避免。同時(shí)隨著整體平移在主要城市地區(qū)的完成以及各種雙向業(yè)務(wù)的開展,廣電運(yùn)營(yíng)商的戰(zhàn)略必然從業(yè)務(wù)和網(wǎng)絡(luò)建設(shè)為主向兼顧業(yè)務(wù)運(yùn)營(yíng)的方向轉(zhuǎn)型。未來的競(jìng)爭(zhēng),將考驗(yàn)廣電運(yùn)營(yíng)商采集數(shù)據(jù)和分析數(shù)據(jù)的能力。這種數(shù)據(jù)庫(kù)營(yíng)銷必然搭建在企業(yè)內(nèi)部各個(gè)環(huán)節(jié)和外部市場(chǎng)等方面的數(shù)據(jù)基礎(chǔ)上,從而挖潛出客戶的各種消費(fèi)行為,更好的服務(wù)于市場(chǎng),應(yīng)對(duì)競(jìng)爭(zhēng)。為了充分的發(fā)揮lT系統(tǒng)對(duì)企業(yè)經(jīng)營(yíng)的輔助決策作用,把數(shù)據(jù)轉(zhuǎn)化為生產(chǎn)力,對(duì)廣電運(yùn)營(yíng)商而言實(shí)施服務(wù)營(yíng)銷分析系統(tǒng)的建設(shè)刻不容緩。
系統(tǒng)功能及架構(gòu)
通過服務(wù)營(yíng)銷分析系統(tǒng)的建設(shè)將融合運(yùn)營(yíng)商各部門的主要業(yè)務(wù)報(bào)表,并統(tǒng)籌的梳理和組織這些報(bào)表。同時(shí)重點(diǎn)保障展現(xiàn)統(tǒng)一和數(shù)據(jù)統(tǒng)一的原則。報(bào)表根據(jù)業(yè)務(wù)需求不同,分為固定報(bào)表和自定義報(bào)表。自定義報(bào)表根據(jù)各部門具體業(yè)務(wù)需求靈活定制。
各種報(bào)表可以按照部門進(jìn)行分類如:市場(chǎng)部報(bào)表、節(jié)目集成部報(bào)表、計(jì)財(cái)部報(bào)表、客戶服務(wù)部、各分公司報(bào)表等等;
按照統(tǒng)計(jì)周期進(jìn)行分類,根據(jù)具體需求分為日?qǐng)?bào)、周報(bào)、旬報(bào)、月報(bào)、季報(bào)和年報(bào);
按照業(yè)務(wù)進(jìn)行分類包括:服務(wù)營(yíng)銷類、客戶用戶類、產(chǎn)品優(yōu)惠類、經(jīng)營(yíng)收入類、合作伙伴及渠道結(jié)算類、業(yè)務(wù)資源類、各種KPI考核類等等;
每層報(bào)表,按照角色進(jìn)行分類,配置相關(guān)訪問權(quán)限,從框架上落實(shí)不同部門角色可訪問操作不同的報(bào)表,同級(jí)別不同角色可以訪問查看同張報(bào)表的不同數(shù)據(jù)內(nèi)容。
服務(wù)營(yíng)銷系統(tǒng)的建設(shè)將從時(shí)間上擴(kuò)充滿足廣電運(yùn)營(yíng)商各業(yè)務(wù)部門不斷發(fā)展的報(bào)表需求,并在數(shù)據(jù)源積累上逐步擴(kuò)大報(bào)表的業(yè)務(wù)覆蓋范圍,另外,通過服務(wù)營(yíng)銷分析系統(tǒng)的建設(shè)將強(qiáng)化廣電運(yùn)營(yíng)商指標(biāo)庫(kù)建設(shè),豐富指標(biāo)內(nèi)容,滿足各業(yè)務(wù)部門對(duì)各項(xiàng)指標(biāo)數(shù)據(jù)靈活查詢的需求,從而逐步建立統(tǒng)一的廣電運(yùn)營(yíng)商企業(yè)級(jí)的服務(wù)營(yíng)銷分析中心。
服務(wù)營(yíng)銷分析系統(tǒng)對(duì)各信息系統(tǒng)(包括業(yè)務(wù)支撐系統(tǒng)、運(yùn)營(yíng)支撐系統(tǒng)和管理支撐系統(tǒng))的元數(shù)據(jù)進(jìn)行抽取、轉(zhuǎn)換和加載到數(shù)據(jù)倉(cāng)庫(kù)中,通過圖形化的分析工具展現(xiàn)給使用人員各種分析報(bào)表。根據(jù)運(yùn)營(yíng)商各單位對(duì)某些主題的具體需求可以嘗試建立部門,地級(jí)縣市(對(duì)于省集中廣電運(yùn)營(yíng)商)數(shù)據(jù)集市,這樣在一定程度上可以緩解訪問數(shù)據(jù)倉(cāng)庫(kù)的瓶頸,同時(shí)滿足各業(yè)務(wù)單位的多樣和靈活性的需求。
關(guān)鍵技術(shù)及應(yīng)用實(shí)現(xiàn)
1、數(shù)據(jù)采集方式
服務(wù)營(yíng)銷分析系統(tǒng)與各業(yè)務(wù)生產(chǎn)系統(tǒng)的接口主要有兩種方式:包括文件方式和庫(kù)表鏈接。
1)文件方式
從各業(yè)務(wù)生成系統(tǒng)中將數(shù)據(jù)通過FTP文件傳輸進(jìn)行預(yù)處理和格式檢查后生成目標(biāo)文件。
2)庫(kù)表連接
根據(jù)具體接口服務(wù)單元的定義,其他業(yè)務(wù)生產(chǎn)系統(tǒng)和服務(wù)營(yíng)銷經(jīng)營(yíng)分析系統(tǒng)分別定義為數(shù)據(jù)服務(wù)方和數(shù)據(jù)訪問方。服務(wù)方與訪問方之間的通訊是基于各自數(shù)據(jù)庫(kù)的連接服務(wù)。系統(tǒng)之間的接口數(shù)據(jù)由數(shù)據(jù)庫(kù)的連接服務(wù)來實(shí)現(xiàn),可以實(shí)現(xiàn)大數(shù)據(jù)量的批量傳輸。其中數(shù)據(jù)庫(kù)表的信息交互方式,技術(shù)較為方便,且開發(fā)成本較低,或其變更維護(hù)角快。其通信過程包括三種:
●主動(dòng)讀取。服務(wù)方負(fù)載不大,定時(shí)開放數(shù)據(jù)表的訪問權(quán)限,由訪問方主動(dòng)發(fā)起會(huì)話,讀取數(shù)據(jù),寫入本地。
一主動(dòng)寫入。訪問方的負(fù)載不大,定時(shí)開放數(shù)據(jù)表的寫權(quán)限,由服務(wù)方主動(dòng)發(fā)起會(huì)話,將數(shù)據(jù)寫入。這種方式要承擔(dān)開放數(shù)據(jù)庫(kù)寫權(quán)限的風(fēng)險(xiǎn)。
●中間表。服務(wù)方和訪問方,兩方都不能承載直連的事務(wù),由服務(wù)方將數(shù)據(jù)寫入中間表,訪問方則讀取中間表。
2、ETL技術(shù)
ETL主要包括:數(shù)據(jù)的抽取(Extraction)、清洗(CIeaning)、轉(zhuǎn)換
(Transformation)、集成(Integration)和裝載(Loading)。其功能是把數(shù)據(jù)從各種存儲(chǔ)方式中拿出來,對(duì)數(shù)據(jù)進(jìn)行檢驗(yàn)和整理,確保數(shù)據(jù)倉(cāng)庫(kù)中數(shù)據(jù)的一致性,還要對(duì)部分?jǐn)?shù)據(jù)進(jìn)行聚集操作,提供數(shù)據(jù)倉(cāng)庫(kù)的查詢和分析速度。這些完整的、一致的、細(xì)節(jié)的和綜合的數(shù)據(jù)才可以進(jìn)入數(shù)據(jù)倉(cāng)庫(kù)。并根據(jù)數(shù)據(jù)倉(cāng)庫(kù)的設(shè)計(jì)要求,對(duì)數(shù)據(jù)進(jìn)行重新的組織和加工,轉(zhuǎn)換成數(shù)據(jù)倉(cāng)庫(kù)的數(shù)據(jù)庫(kù)結(jié)構(gòu)和內(nèi)部形式并加載到數(shù)據(jù)倉(cāng)庫(kù)中。ETL主要包括以下步驟:
1)數(shù)據(jù)的抽取和清洗
數(shù)據(jù)抽取是指將所需要的數(shù)據(jù)按一定格式從數(shù)據(jù)源中提取的過程。數(shù)據(jù)清洗包括對(duì)同步填寫空缺的值,平滑噪聲數(shù)據(jù)、識(shí)別、刪除孤立點(diǎn),并解決不一致來“清洗”數(shù)據(jù)。
2)數(shù)據(jù)的轉(zhuǎn)換
數(shù)據(jù)轉(zhuǎn)換是將不同來源的數(shù)據(jù),在類型、格式、編碼規(guī)則等方面進(jìn)行統(tǒng)一、集成、規(guī)范化。為企業(yè)的分析、查詢工作提供統(tǒng)一、一致、集成的數(shù)據(jù)。根據(jù)實(shí)際情況,數(shù)據(jù)轉(zhuǎn)換可以在以下幾個(gè)環(huán)節(jié)中具體實(shí)現(xiàn):
在抽取過程中進(jìn)行數(shù)據(jù)處理;
●使用異步數(shù)據(jù)加載,以文件的方式處理;
在數(shù)據(jù)加載過程中進(jìn)行數(shù)據(jù)處理;
進(jìn)入數(shù)據(jù)倉(cāng)庫(kù)以后再進(jìn)行數(shù)據(jù)處理。
3)數(shù)據(jù)的集成:
將多個(gè)數(shù)據(jù)源中的數(shù)據(jù)結(jié)合起來存放在一致的數(shù)據(jù)存儲(chǔ)中。他涉及到實(shí)體識(shí)別問題、冗余檢測(cè)問題以及數(shù)據(jù)值沖突的檢測(cè)和處理等各種問題。如地域維度,在GIS數(shù)據(jù)庫(kù)和在業(yè)務(wù)支撐數(shù)據(jù)庫(kù)中就存在編碼和值都不一致的情況。
4)數(shù)據(jù)的裝載
經(jīng)過轉(zhuǎn)換的數(shù)據(jù)已經(jīng)是按照數(shù)據(jù)倉(cāng)庫(kù)物理目標(biāo)結(jié)構(gòu)規(guī)范后的數(shù)據(jù),裝載過程是把這些數(shù)據(jù)導(dǎo)入數(shù)據(jù)倉(cāng)庫(kù),裝載過程可以與轉(zhuǎn)換過程同時(shí)完成,邊轉(zhuǎn)換邊裝載;也可以將轉(zhuǎn)換后的數(shù)據(jù)存入數(shù)據(jù)緩存池(可以是文本文件、二進(jìn)制文件或數(shù)據(jù)庫(kù)表形式),再利用特定的工具完成裝載過程。
數(shù)據(jù)的追加策略根據(jù)數(shù)據(jù)的抽取策略以及業(yè)務(wù)規(guī)則確定,
般有以下三種類型:直接追加、全部覆蓋、更新追加。
直接追加:是指每次加載日寸直接將數(shù)據(jù)追加到目的表中。
全部覆蓋:對(duì)于抽取數(shù)據(jù)本身已包括了數(shù)據(jù)的當(dāng)前和所有歷史狀況,采用全部覆蓋方式。
更新追加:對(duì)于需要連續(xù)記錄業(yè)務(wù)的狀態(tài)變化,用當(dāng)前的最新狀態(tài)同歷史狀態(tài)數(shù)據(jù)進(jìn)行比對(duì)的情況采用更新追加的方式。
3、數(shù)據(jù)質(zhì)量保證
服務(wù)經(jīng)營(yíng)分析系統(tǒng)是幫助廠電運(yùn)營(yíng)商各業(yè)務(wù)單位和領(lǐng)導(dǎo)層進(jìn)行市場(chǎng)營(yíng)銷分析和決策的重要工具,數(shù)據(jù)的質(zhì)量問題很大部分上決定了生成數(shù)據(jù)的真實(shí)性、一致性、完整性和準(zhǔn)確性。
出現(xiàn)數(shù)據(jù)質(zhì)量問題的原因是多方面的,要保證服務(wù)經(jīng)營(yíng)分析系統(tǒng)的數(shù)據(jù)質(zhì)量,在對(duì)服務(wù)營(yíng)銷分析系統(tǒng)進(jìn)行優(yōu)化的時(shí)候需要對(duì)各業(yè)務(wù)生產(chǎn)系統(tǒng)進(jìn)行同步的完善。在系統(tǒng)建設(shè)過程中,需要由運(yùn)營(yíng)商牽頭成立業(yè)務(wù)生產(chǎn)系統(tǒng)廠家和服務(wù)營(yíng)銷系統(tǒng)廠家商組成的數(shù)據(jù)質(zhì)量保障小組,負(fù)責(zé)協(xié)調(diào)跨系統(tǒng)間質(zhì)量問題的評(píng)估和解決。實(shí)施質(zhì)量保障措施的前提是不影響業(yè)務(wù)生產(chǎn)系統(tǒng)和經(jīng)營(yíng)分析系統(tǒng)的正常運(yùn)營(yíng)。既要考慮措施的有效性和對(duì)系統(tǒng)執(zhí)行效率的影響又要能有效的保證數(shù)據(jù)質(zhì)量。
4、操作型數(shù)據(jù)存儲(chǔ)(ODS)
數(shù)據(jù)倉(cāng)庫(kù)概念的提出把數(shù)據(jù)處理劃分為了操作型處理和分析型處理兩種不同類型,從而建立起了DB-DW的兩層體系結(jié)構(gòu)。但是隨著廣電雙向業(yè)務(wù)的大規(guī)模開展和對(duì)運(yùn)維服務(wù)的不斷提升,運(yùn)營(yíng)商對(duì)數(shù)據(jù)的實(shí)時(shí)監(jiān)控和實(shí)時(shí)業(yè)務(wù)的需求將逐步增加,因此建議在實(shí)施過程中前期可采用DB-DW的兩層體系結(jié)構(gòu),未來隨著業(yè)務(wù)的發(fā)展,逐步向DB-ODS-DW的三層體系結(jié)構(gòu)演進(jìn)。
展望
“三分技術(shù)、七分管理、十二分?jǐn)?shù)據(jù)”,從企業(yè)信息化戰(zhàn)略發(fā)展角度來看,還可借服務(wù)營(yíng)銷分析系統(tǒng)的建設(shè)為契機(jī)全面清理廣電運(yùn)營(yíng)商長(zhǎng)期積壓的各種信息數(shù)據(jù)不完善和不準(zhǔn)確的問題。通過建立統(tǒng)一的服務(wù)營(yíng)銷分析中心輔助廠電運(yùn)營(yíng)商對(duì)客戶市場(chǎng)細(xì)分進(jìn)行研究和分析,從而有針對(duì)性的開展?fàn)I銷活動(dòng),為企業(yè)帶來更高的價(jià)值,提升服務(wù)質(zhì)量,為全面的競(jìng)爭(zhēng)提供數(shù)據(jù)支撐和保障工作。