基于流形學(xué)習(xí)的客戶價(jià)值分析研究

吳興蛟+吳晟+周海河+劉光榕

摘 要：為了解決數(shù)據(jù)高維、海量導(dǎo)致聚類算法處理效果不佳的問題，提出將流形學(xué)習(xí)理論引入客戶關(guān)系管理進(jìn)行聚類研究。為了較好的分析客戶價(jià)值，在Kmeans聚類的基礎(chǔ)上引入流形學(xué)習(xí)理論?？蛻魞r(jià)值分析一般包含數(shù)據(jù)的抽取、探索以及預(yù)處理、模型建立幾個(gè)步驟。在模型建立過程中一般采用Kmeans聚類實(shí)現(xiàn)。使用流形學(xué)習(xí)的譜聚類來替代Kmeans聚類。使用泰迪杯數(shù)據(jù)挖掘大賽中的數(shù)據(jù)進(jìn)行試驗(yàn)，通過實(shí)驗(yàn)的雷達(dá)圖可以看出，譜聚類與Kmeans聚類具有相似的分類構(gòu)成。同時(shí)對(duì)于分類后的數(shù)據(jù)進(jìn)行規(guī)約并繪制散點(diǎn)圖，比較后發(fā)現(xiàn)，譜聚類后的數(shù)據(jù)類間相似度比Kmeans高，表明將流形學(xué)習(xí)方法引入客戶價(jià)值分析，對(duì)于聚類穩(wěn)定性有一定改善。

關(guān)鍵詞：客戶關(guān)系管理；流形學(xué)習(xí)；Kmeans聚類；雷達(dá)圖；客戶價(jià)值分析

DOIDOI：10.11907/rjdk.172314

中圖分類號(hào)：TP319

文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1672-7800（2018）002-0136-04

0 引言

客戶管理通常通過構(gòu)建客戶關(guān)系管理系統(tǒng)進(jìn)行維護(hù)[1]?？蛻絷P(guān)系管理一般用來進(jìn)行客戶與企業(yè)的關(guān)系維持，企業(yè)與客戶的供需推廣。使用客戶關(guān)系管理可以預(yù)防用戶流失，也是一種衡量用戶服務(wù)程度的科學(xué)有效方式。在大數(shù)據(jù)背景下，隨著數(shù)據(jù)挖掘技術(shù)的成熟，使用有效的挖掘手段，從有價(jià)值的客戶中尋找高價(jià)值客戶群成為一種降低企業(yè)成本，實(shí)現(xiàn)高效益的有效手段。數(shù)據(jù)挖掘關(guān)鍵技術(shù)是聚類算法，一般采用kmeans算法進(jìn)行客戶群聚類，但現(xiàn)行的kmeans聚類對(duì)于高維、海量數(shù)據(jù)聚類有一定缺陷。

為了改善這一缺點(diǎn)，本文將流形學(xué)習(xí)引入，替代之前的Kmeans聚類，從而實(shí)現(xiàn)在高維海量數(shù)據(jù)下對(duì)客戶進(jìn)行聚類。聚類算法研究有基于層次、基于分割、基于密度、基于網(wǎng)格和基于模型五個(gè)方面[2-4]。引入流形學(xué)習(xí)不僅解決了高維數(shù)據(jù)處理的難題，也極大簡(jiǎn)化了非線性數(shù)據(jù)的處理。

引入流形學(xué)習(xí)對(duì)客戶關(guān)系進(jìn)行分析與研究，是一種新的改善聚類算法的嘗試，也是一種運(yùn)用流形學(xué)習(xí)算法的新方式。

1 相關(guān)理論

1.1 客戶群體聚類分析

企業(yè)用戶數(shù)據(jù)源或數(shù)據(jù)庫中存有的那些用戶消費(fèi)數(shù)據(jù)是一種無形財(cái)富，按用戶的不同屬性（年齡、性別、收入、交易特點(diǎn)）細(xì)分為不同群體的過程就是所謂的客戶群體聚類。一般來說，對(duì)那些業(yè)務(wù)產(chǎn)品以及業(yè)務(wù)需求相似的一類群體，會(huì)分為同一個(gè)群組用戶。換言之，不同的群體之間具有不同的特點(diǎn)，通過客戶細(xì)分，企業(yè)就能將繁雜的人員進(jìn)行匯總，將用戶群體分為固定的幾類。公司決策層就能制定不同的營(yíng)銷策略以實(shí)現(xiàn)高回報(bào)的營(yíng)銷推廣。相關(guān)研究如陳鳳潔[5]運(yùn)用聚類技術(shù)建立了客戶細(xì)分模型，對(duì)電信行業(yè)客戶細(xì)分進(jìn)行了實(shí)例驗(yàn)證及研究。一種多因素分析（MFA）的多準(zhǔn)則聚類技術(shù)被Abascal等[6]運(yùn)用于某電信公司的客戶細(xì)分模型構(gòu)建。

使用Clementine[7]、SPSS等數(shù)據(jù)挖掘軟件進(jìn)行管理較多。根據(jù)產(chǎn)生的模型或數(shù)據(jù)建立合理的用戶細(xì)分預(yù)測(cè)模型[8]，利用數(shù)據(jù)挖掘聚類技術(shù)進(jìn)行應(yīng)用推廣[9]。

1.2 流形學(xué)習(xí)

流形聚類是解決高維大數(shù)據(jù)問題的算法，近幾年不斷被優(yōu)化，已日漸完善，算法有ISOMAP、LLE[10]、拉普拉斯算子特征映射（Laplacian eigenmaps）[11]、最大方差展開（MVU）[12-14]、局部切空間分析（LTSA）[15-16]等。其中比較典型的是譜聚類算法，譜聚類就是使用樣本間的相似度進(jìn)行樣本分組的一種方式。

譜聚類[17-18]步驟：①計(jì)算每個(gè)數(shù)據(jù)節(jié)點(diǎn)與其余數(shù)據(jù)節(jié)點(diǎn)的相關(guān)系數(shù)，構(gòu)建相似度矩陣；②將相似度矩陣進(jìn)行拉普拉斯矩陣構(gòu)建，然后將構(gòu)建的矩陣歸一化；③生成最大的k個(gè)特征值和對(duì)應(yīng)的特征向量；④將特征向量使用Kmeans方法聚類。

2 模型建立

對(duì)客戶關(guān)系進(jìn)行聚類分析的步驟如圖1所示。

2.1 數(shù)據(jù)抽取

抽取一定時(shí)間段內(nèi)的數(shù)據(jù)作為分析觀測(cè)窗口。

2.2 數(shù)據(jù)探索及預(yù)處理

對(duì)抽取數(shù)據(jù)的缺失值分析與異常值分析，得出數(shù)據(jù)規(guī)律及數(shù)據(jù)異常值的過程稱為數(shù)據(jù)探索。數(shù)據(jù)清洗、數(shù)據(jù)規(guī)約、數(shù)據(jù)變換為其主要過程。

對(duì)不符合邏輯的值、空值或者異常值進(jìn)行清除，是數(shù)據(jù)清洗的必須步驟。對(duì)于不相干數(shù)據(jù)、冗余數(shù)據(jù)乃至弱相關(guān)數(shù)據(jù)的篩選屬于屬性規(guī)約工作。不同的數(shù)據(jù)有不同的問題，使用數(shù)據(jù)變換將數(shù)據(jù)轉(zhuǎn)變?yōu)樾枰臄?shù)據(jù)樣式才能作為挖掘模型的數(shù)據(jù)源。一般采用的變換方式是在指標(biāo)范圍內(nèi)進(jìn)行數(shù)據(jù)標(biāo)準(zhǔn)化，那些跨越數(shù)量級(jí)較大的數(shù)據(jù)容易出現(xiàn)峰值誤差，難以用圖示描述，為消除取值范圍內(nèi)的數(shù)據(jù)差異則采用數(shù)據(jù)標(biāo)準(zhǔn)化。假設(shè)一組長(zhǎng)度為N的數(shù)據(jù)x，其平均值為u，使用式（1）進(jìn)行數(shù)據(jù)標(biāo)準(zhǔn)化：

2.3 模型建立

模型采用譜聚類算法替代kmeans算法對(duì)數(shù)據(jù)集進(jìn)行聚類。

譜聚類算法必須先進(jìn)行相似矩陣構(gòu)建，將不同維數(shù)或不同構(gòu)型的數(shù)據(jù)進(jìn)行處理，得到新的n階方陣。在此一般采用矩陣的特征值或結(jié)合矩陣的使用特性構(gòu)建新的方陣。

譜圖理論作為譜聚類方法的基礎(chǔ)方法[19]，其基本思想是構(gòu)建一個(gè)樣本作為定點(diǎn)，樣本間相似度作為帶權(quán)邊的圖，從而將樣本的聚類問題巧妙轉(zhuǎn)化為圖的分割問題，將問題變成尋找組成邊權(quán)重較低，同時(shí)組內(nèi)邊權(quán)重較高的圖分割的一種方法。與傳統(tǒng)的聚類相比，該方法不受聚類形狀的約束，能在任何幾何形狀上進(jìn)行聚類，同時(shí)能收斂于全局，得到全局最優(yōu)解[20]?？筛鶕?jù)式（2）構(gòu)造聚類相似矩陣。

（5）計(jì)算矩陣L的歸一化矩陣E的k個(gè)最大特征值及對(duì)應(yīng)的特征向量，形成一個(gè)N×K的特征矩陣，記為Q。

（6）使用Kmeans聚類處理特征矩陣Q，處理后就會(huì)獲得一個(gè)N維向量C。這個(gè)向量對(duì)應(yīng)的舉證W就是最終的聚類結(jié)果。endprint

3 實(shí)例驗(yàn)證

采用泰迪杯數(shù)據(jù)挖掘大賽航空公司客戶數(shù)據(jù)，實(shí)驗(yàn)數(shù)據(jù)量為6 000條。使用識(shí)別客戶價(jià)值的RFM模型[21]，指標(biāo)是最近消費(fèi)時(shí)間間隔、消費(fèi)頻率、消費(fèi)金額。采用張良均MATLAB數(shù)據(jù)分析與挖掘?qū)崙?zhàn)[22]一書中的LRFMC模型，并與書中的Kmeans聚類結(jié)果作對(duì)比。在原文基礎(chǔ)上增加日期差轉(zhuǎn)化為月份方法，以及繪制雷達(dá)圖方法。其中日期差轉(zhuǎn)化為月份得到：

3.1 數(shù)據(jù)抽取

抽取的數(shù)據(jù)包含會(huì)員卡號(hào)、入會(huì)時(shí)間、性別、年齡、會(huì)員卡等級(jí)、工作城市、工作省份、工作國(guó)家、觀測(cè)窗口結(jié)束時(shí)間、觀測(cè)窗口乘機(jī)積分、飛行公里數(shù)、飛行次數(shù)、飛行時(shí)間、乘機(jī)時(shí)間間隔、平均折扣等44個(gè)屬性。

3.2 數(shù)據(jù)探索分析

主要是數(shù)據(jù)缺失值及異常值的探索，分析數(shù)據(jù)的空值及個(gè)別數(shù)量為0的無效值。

3.3 數(shù)據(jù)預(yù)處理

探索后的數(shù)據(jù)主要出現(xiàn)兩個(gè)不合格記錄，一個(gè)是票價(jià)為空的記錄，另一個(gè)是飛行公里數(shù)大于0而票價(jià)為0的記錄。

根據(jù)LRFMC模型規(guī)定，使用會(huì)員入會(huì)時(shí)間距離觀測(cè)窗口結(jié)束月份L，客戶最后一次乘坐飛機(jī)距離觀測(cè)窗口月份R，在觀測(cè)窗口內(nèi)乘坐飛機(jī)次數(shù)F，在觀測(cè)窗口內(nèi)累計(jì)飛行里程M，在觀測(cè)窗口內(nèi)對(duì)應(yīng)折扣系數(shù)平均值C進(jìn)行分析。由此取其中6列作為原始數(shù)據(jù)。其中除L為式（6）計(jì)算所得，其余均為數(shù)據(jù)給出。

得到的數(shù)據(jù)由于最大值與最小值相差甚遠(yuǎn)，所以采用式（1）進(jìn)行規(guī)約，得到ZL，ZR，ZF，ZM，ZC。

3.4 模型構(gòu)建

基于規(guī)約后，對(duì)數(shù)據(jù)進(jìn)行Kmeans聚類以及譜聚類。

3.5 模型對(duì)比

聚類中心結(jié)果見表1。

將以上聚類中心在雷達(dá)圖上描繪，得到如圖2的直觀圖例。

可以得到表2的Kmeans聚類雷達(dá)圖極值。

從圖3可以得到表3、表4。

4 實(shí)驗(yàn)結(jié)果與分析

將聚類后的聚類標(biāo)簽代入原數(shù)據(jù)，得到一組帶聚類標(biāo)簽的數(shù)據(jù)。使用式（7）進(jìn)行數(shù)據(jù)的歸一化，求和后得到一個(gè)表征數(shù)，根據(jù)表征數(shù)進(jìn)行繪圖。

采用Excel繪圖，每次類別結(jié)束后插入一個(gè)固定值-12作為聚類區(qū)分值。分別繪制Kmeans聚類散點(diǎn)圖（見圖4）及譜聚類散點(diǎn)圖（見圖5），從繪制出的散點(diǎn)圖可以看出聚類的穩(wěn)定性。

Kmeans聚類結(jié)果第1類為1-1 808；第2類為1 810-2 496；第3類為2 498-3 669；第4類為3 671-3 980；第5類為3 982-6 000。

譜聚類結(jié)果第1類為1-1 638；第2類為1 640-2 299；第3類為2 301-4 967；第4類為4 969-5 755；第5類為5 757-6 000。

對(duì)比兩個(gè)聚類散點(diǎn)圖可以看出，譜聚類得出的聚類結(jié)果單獨(dú)的點(diǎn)比較少，類間關(guān)系較為緊密，類間間隔較為明顯。

5 結(jié)語

海量、高維數(shù)據(jù)的處理成為難點(diǎn)。海量數(shù)據(jù)的產(chǎn)生對(duì)傳統(tǒng)的處理算法提出了新要求。改進(jìn)算法可從算法替換以及改進(jìn)設(shè)備兩方面入手。

將流形學(xué)習(xí)理論引入客戶關(guān)系管理，從聚類的雷達(dá)圖得到評(píng)判依據(jù)，聚類效果無太大差別。從相同類別間的關(guān)系來看，譜聚類形成的聚類類別之間的差異性更低，這樣能得到較好結(jié)果，說明將流形學(xué)習(xí)運(yùn)用到客戶關(guān)系管理可行。

參考文獻(xiàn)：

[1] 呂廷杰，尹濤，王琦.客戶關(guān)系管理與主題分析[M].北京：人民郵電出版社，2002.

[2] 張偉，劉勇國(guó)，彭軍，等.數(shù)據(jù)挖掘發(fā)展研究[J].計(jì)算機(jī)科學(xué)，2001（7）：79-94.

[3] 張紅云，劉向東，段曉東，等.數(shù)據(jù)挖掘中聚類算法比較研究[J].計(jì)算機(jī)應(yīng)用與軟件，2003（2）：5-77.

[4] 楊小兵.聚類分析中若干關(guān)鍵技術(shù)的研究[D].杭州：浙江大學(xué)，2005.

[5] 陳鳳潔.電信客戶細(xì)分方法及應(yīng)用[J].科技和產(chǎn)業(yè)，2005，5（11）：10-12.

[6] E ABASCAL， I GARCIA LAUTRE， F MANOR.Data mining in a bicriteria clustering problem[J]. European Journal of Operational Research，2005（3）：1-12.

[7] XIANG M， SHI WR， JIANG CJ， et al. Energy efficient clustering algorithm for maximizing lifetime of wireless sensor networks[J]. AEU-Intl Journal of Electronic and Communication，2010，64（4）：289-298.

[8] O YOUNIS， S FAHMY. HEED： a hybrid_id， energy-efficient distributed clustering approach for ad hoc sensor networks[J]. IEEE Transaction on Mobile Computing，2004，3（4）：366-379.

[9] DUHAM M H. Data mining introductory and advanced topics[M].Pearson Education，2003.

[10] L K SAUL， S T ROWEIS.Think globally， fit locally： unsupervised learning of low dimensional manifold [J]. Journal of Machine Learning Research，2003（4）：119-155.endprint

[11] M BELKIN， P NIYOGI. Laplacian eigenmaps for dimensionality reduction and data representation [J]. Neural Computation，2003，15（6）：1373-1396.

[12] K Q WEINBERGER， L K SAUL. Unsupervised learning of image manifolds by semidefinite programming[C]. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition （CVPR-04）， vol.2， Washington D.C.，2004：988-995.

[13] K Q WEINBERGER， L K SAUL. An introduction to nonlinear dimensionality reduction by maximum variance unfolding[C]. In Proceedings of the Twenty First National Conference on Artificial Intelligence （AAAI-06）， Boston，MA，2006.

[14] K Q WEINBERGER， L K SAUL. Unsupervised learning of image manifolds by semidefinite programming [J]. International Journal of Computer Vision，2006，70（1）：77-90.

[15] Z Y ZHANG， H Y ZHA.Principal manifolds and nonlinear dimensionality reduction via tangent space alignment[J]. SIAM Journal of Scientific Computing，2004，26（1）：313-338.

[16] 張振躍，查宏遠(yuǎn).線性低秩逼近與非線性降維[J].中國(guó)科學(xué)：A輯數(shù)學(xué)，2005，35（3）：372-285.

[17] R VIDAL. Subspace clustering[J]. IEEE Signal Processing Magazine，2011，28（2）：52-68.

[18] J SHI， J MALIK.Normalized cuts and image segmentation[J]. IEEE Transactions Pattern Analysis Machine Intelligence，2000，22（8）：888-905.

[19] 王勇.基于流形學(xué)習(xí)的聚類與聚類方法及其應(yīng)用研究[D].長(zhǎng)沙：國(guó)防科學(xué)技術(shù)大學(xué)，2011.

[20] Y WANG， Y JIANG， Y WU， et al. Spectral clustering on multiple manifolds[J]. IEEE Transactions on Neural Networks，2012，2（7）：1149-1161.

[21] 羅亮生，張文欣.基于常旅客數(shù)據(jù)庫的航空公司客戶細(xì)分方法研究[J].現(xiàn)代商業(yè)，2008（23）：54-55.

[22] 張良均，楊坦，肖剛，等.MATLAB數(shù)據(jù)分析與挖掘?qū)崙?zhàn)[M].北京：機(jī)械工業(yè)出版社，2015：167-168.endprint