融入景點(diǎn)標(biāo)簽的矩陣分解個(gè)性化推薦

張 鑫，許璐璐

（1.山東科技大學(xué)測(cè)繪與空間信息學(xué)院，山東青島 266590；2.煙臺(tái)市鈺豐地質(zhì)技術(shù)服務(wù)有限公司，山東煙臺(tái) 264010）

0 引言

近年來(lái)，互聯(lián)網(wǎng)旅游業(yè)呈現(xiàn)爆炸式增長(zhǎng)，給人們的生活帶來(lái)了巨大影響。在線旅游評(píng)論數(shù)據(jù)作為一種反饋機(jī)制，為用戶決策提供了重要依據(jù)。然而，海量的旅游景點(diǎn)在為用戶提供更多選擇的同時(shí)，出現(xiàn)了信息過(guò)載問(wèn)題。景點(diǎn)推薦是解決當(dāng)前問(wèn)題的有效方法，其基本思想是通過(guò)景點(diǎn)及用戶信息，自動(dòng)為用戶推薦其感興趣的旅游景點(diǎn)，從而達(dá)到景點(diǎn)個(gè)性化推薦。

1 相關(guān)工作

協(xié)同過(guò)濾（Collaborative Filtering，CF）是目前使用最為廣泛的推薦技術(shù)［1-2］，主要是利用用戶相似性［3-4］或物品相似性［5-6］預(yù)測(cè)目標(biāo)用戶對(duì)物品的評(píng)分值?，F(xiàn)有基于協(xié)同過(guò)濾的景點(diǎn)推薦方法主要是基于用戶的協(xié)同過(guò)濾［7-9］（Userbased Collaborative Filtering，UBCF），即通過(guò)用戶的相似用戶對(duì)景點(diǎn)的評(píng)分值預(yù)測(cè)目標(biāo)用戶的景點(diǎn)評(píng)分值，從而對(duì)目標(biāo)用戶進(jìn)行景點(diǎn)推薦。最初，研究者利用景點(diǎn)評(píng)分、瀏覽時(shí)間、打卡次數(shù)等數(shù)據(jù)計(jì)算用戶之間的相似度［10-12］，從而預(yù)測(cè)用戶對(duì)景點(diǎn)的評(píng)分值，該方法有效利用了用戶間的關(guān)聯(lián)進(jìn)行景點(diǎn)推薦，但由于景點(diǎn)評(píng)論數(shù)據(jù)比較稀疏，因此計(jì)算精度不高。隨后，許多學(xué)者對(duì)UBCF 方法進(jìn)行了改進(jìn)。Huang 等［8］在計(jì)算相似度時(shí)加入季節(jié)因素，從時(shí)間和景點(diǎn)兩個(gè)維度分析用戶的旅游歷史，從而為用戶進(jìn)行景點(diǎn)推薦；Zhu 等［13］將景點(diǎn)的位置標(biāo)簽引入用戶相似度計(jì)算，充分考慮了位置信息對(duì)用戶進(jìn)行景點(diǎn)選擇的影響；陳氫等［14］、Xu 等［15］在為用戶進(jìn)行景點(diǎn)推薦的同時(shí)引入景點(diǎn)位置、旅游季節(jié)和天氣因素，充分挖掘了景點(diǎn)的時(shí)間和空間信息；李雅美等［16］綜合考慮景點(diǎn)的區(qū)域、時(shí)間、主題、類型特征，為景點(diǎn)構(gòu)建標(biāo)簽，并利用用戶對(duì)標(biāo)簽的評(píng)分值計(jì)算用戶間的相似度，從而利用相似用戶對(duì)目標(biāo)用戶進(jìn)行景點(diǎn)推薦。以上方法均是對(duì)用戶相似度計(jì)算進(jìn)行改進(jìn)，通過(guò)對(duì)景點(diǎn)進(jìn)行更加細(xì)粒度的分析，從而綜合考慮影響用戶相似度的各種因素，加強(qiáng)了各景點(diǎn)間的關(guān)聯(lián)，并在一定程度上緩解了數(shù)據(jù)稀疏對(duì)結(jié)果的影響，但僅采用用戶對(duì)景點(diǎn)的評(píng)分不足以表達(dá)用戶對(duì)景點(diǎn)標(biāo)簽的喜愛(ài)程度，忽略了用戶、標(biāo)簽、景點(diǎn)之間的關(guān)聯(lián)。

近年來(lái)，基于模型的協(xié)同過(guò)濾算法——矩陣分解［17-19］（Matrix Factorization，MF）推薦技術(shù)成為研究重點(diǎn)，它通過(guò)對(duì)用戶特征矩陣及物品特征矩陣的預(yù)測(cè)計(jì)算用戶對(duì)物品的評(píng)分。傳統(tǒng)基于矩陣分解的推薦算法通常引入大量未知參數(shù)進(jìn)行物品特征描述［20-21］，無(wú)法真實(shí)反映物品特征，且容易出現(xiàn)過(guò)擬合現(xiàn)象，Ma 等［22］、Luo 等［23］通過(guò)引入電影類別標(biāo)簽探究用戶、項(xiàng)目、標(biāo)簽之間的關(guān)聯(lián)，并采用矩陣分解為用戶進(jìn)行推薦，取得了較好效果；宋威等［24］、方冰等［25］在電影類別的基礎(chǔ)上加入用戶標(biāo)注標(biāo)簽，進(jìn)一步反映了物品的真實(shí)特征。然而，現(xiàn)有基于矩陣分解的景點(diǎn)推薦均采用傳統(tǒng)的隱式矩陣表達(dá)項(xiàng)目潛在特征，Yong 等［26］在使用傳統(tǒng)矩陣分解模型進(jìn)行景點(diǎn)推薦的同時(shí)，加入時(shí)間和旅游成本特征，從而為用戶進(jìn)行更好的推薦；李廣麗等［27］在傳統(tǒng)矩陣分解的基礎(chǔ)上，結(jié)合出游季節(jié)、出游方式、興趣類別等景點(diǎn)特征計(jì)算用戶興趣偏好，從而采用混合推薦方式為用戶進(jìn)行景點(diǎn)推薦。以上方法均在傳統(tǒng)的矩陣分解推薦模型基礎(chǔ)上加入結(jié)合景點(diǎn)特征的推薦結(jié)果為用戶進(jìn)行景點(diǎn)推薦，考慮到了景點(diǎn)的部分特征，但在采用矩陣分解時(shí)仍采用隱式矩陣表達(dá)景點(diǎn)特征，并未真正對(duì)景點(diǎn)特征進(jìn)行挖掘，推薦結(jié)果缺乏可解釋性。

針對(duì)上述問(wèn)題，本文構(gòu)建了景點(diǎn)標(biāo)簽，將景點(diǎn)標(biāo)簽引入矩陣分解推薦算法，結(jié)合用戶—景點(diǎn)矩陣及景點(diǎn)—標(biāo)簽矩陣預(yù)測(cè)用戶在景點(diǎn)標(biāo)簽層面的評(píng)分值，從而預(yù)測(cè)用戶對(duì)未評(píng)分景點(diǎn)的評(píng)分值，緩解了傳統(tǒng)協(xié)同過(guò)濾算法的數(shù)據(jù)稀疏問(wèn)題，提高了算法預(yù)測(cè)精度，同時(shí)使矩陣分解推薦算法的潛在特征更加具體，增強(qiáng)了算法的可解釋性，為景點(diǎn)推薦提供了有力支撐。

2 研究方法

2.1 景點(diǎn)標(biāo)簽抽取

定義用戶集合為U={u1,u2,...,um}，景點(diǎn)集合為V={v1,v2,...,vn}，景點(diǎn)標(biāo)簽集合為L(zhǎng)={l1,l2,...,lk}。景點(diǎn)標(biāo)簽是連接用戶與景點(diǎn)的重要節(jié)點(diǎn)，是對(duì)景點(diǎn)細(xì)粒度特征的挖掘，它能夠?qū)⒂脩簟包c(diǎn)之間的二元關(guān)系（見(jiàn)圖1（a））轉(zhuǎn)換為用戶—標(biāo)簽—景點(diǎn)之間的三元關(guān)系（見(jiàn)圖1（b））。

Fig.1 User-attraction/user-tag-attraction relationship圖1 用戶—景點(diǎn)/用戶—標(biāo)簽—景點(diǎn)關(guān)系

由圖1（b）可以看出，景點(diǎn)標(biāo)簽與景點(diǎn)之間是多對(duì)多的關(guān)系，為提取它們之間的關(guān)聯(lián)，首先需要對(duì)景點(diǎn)評(píng)論文本進(jìn)行特征詞提取，通過(guò)特征詞與景點(diǎn)標(biāo)簽之間的關(guān)系判斷景點(diǎn)與景點(diǎn)標(biāo)簽之間是否能夠建立連接，從而進(jìn)行景點(diǎn)標(biāo)簽抽取。

（1）特征詞提取。在旅游網(wǎng)站中，用戶往往通過(guò)文字評(píng)論表達(dá)對(duì)景點(diǎn)某些特征的喜好。因此，在海量的景點(diǎn)評(píng)論數(shù)據(jù)中存在大量表達(dá)景點(diǎn)細(xì)節(jié)特征的關(guān)鍵詞。本文采用TF-IDF 算法［28-29］計(jì)算各景點(diǎn)評(píng)論數(shù)據(jù)中關(guān)鍵詞的權(quán)重，TF-IDF 代表詞頻和逆文檔頻率。詞頻（Term Frequency，TF）是指關(guān)鍵詞在文檔中出現(xiàn)的頻率，計(jì)算公式如式（1）所示。

其中，w為關(guān)鍵詞，Di為景點(diǎn)評(píng)論文本，count(w)表示關(guān)鍵詞w在文檔Di中出現(xiàn)的次數(shù)，|Di|表示Di中的總詞數(shù)。

逆文檔頻率（Inverse Document Frequency，IDF）指關(guān)鍵詞的普遍程度，計(jì)算公式如式（2）所示。

其中，N表示總文檔數(shù)，Di表示含有w的總文檔數(shù)。

文檔Di中關(guān)鍵詞w的權(quán)重計(jì)算如式（3）所示。

在完成關(guān)鍵詞權(quán)重計(jì)算的基礎(chǔ)上，本文按照關(guān)鍵詞權(quán)重進(jìn)行降序排序，并提取前2k（k表示景點(diǎn)標(biāo)簽的數(shù)量）個(gè)關(guān)鍵詞作為景點(diǎn)的特征詞。

（2）景點(diǎn)標(biāo)簽抽取。在景點(diǎn)特征詞提取完成后，遍歷景點(diǎn)特征詞及景點(diǎn)標(biāo)簽特征詞表，若特征詞包含或包含在某個(gè)景點(diǎn)標(biāo)簽的特征詞表字符串中，則認(rèn)為景點(diǎn)具有該標(biāo)簽，否則景點(diǎn)不具有該標(biāo)簽。

2.2 矩陣分解個(gè)性化推薦

本文首先通過(guò)景點(diǎn)標(biāo)簽抽取構(gòu)建景點(diǎn)標(biāo)簽矩陣，然后利用景點(diǎn)標(biāo)簽矩陣以及用戶景點(diǎn)矩陣預(yù)測(cè)用戶對(duì)標(biāo)簽的評(píng)分值，最終結(jié)合景點(diǎn)對(duì)標(biāo)簽的隸屬度計(jì)算用戶對(duì)未評(píng)分景點(diǎn)的評(píng)分值。具體推薦過(guò)程如下：

（1）用戶— 景點(diǎn)矩陣。對(duì)于用戶集合U={u1,u2,…,um}中的任意用戶ui，依據(jù)ui的歷史旅游景點(diǎn)及景點(diǎn)評(píng)分?jǐn)?shù)據(jù)，構(gòu)建用戶—景點(diǎn)向量ri(ri1,ri2,…,rin)，其中rij的取值如式（4）所示。

其中，n為景點(diǎn)個(gè)數(shù)，f表示用戶ui去景點(diǎn)vj的次數(shù)，siwj表示用戶ui第w次對(duì)景點(diǎn)vj評(píng)分值。對(duì)全體用戶集合U={u1,u2,…,um}，分別采用式（4）計(jì)算用戶—景點(diǎn)向量，從而得到用戶—景點(diǎn)矩陣R={r1,r2,…,rm}。

（2）景點(diǎn)— 標(biāo)簽矩陣。對(duì)于景點(diǎn)集合V={v1,v2,…,vn}中的任意景點(diǎn)vi，構(gòu)建景點(diǎn)—標(biāo)簽向量qj{qj1,qj2,…,qjk}，其中qij的取值如式（5）所示。

其中，k為景點(diǎn)標(biāo)簽個(gè)數(shù)，qjw表示景點(diǎn)vj對(duì)應(yīng)標(biāo)簽lw的值。對(duì)全體景點(diǎn)集合V={v1,v2,…,vn}，分別采用式（5）計(jì)算景點(diǎn)—標(biāo)簽向量，從而得到景點(diǎn)—標(biāo)簽矩陣Q={q1,q2,…,qn}。

（3）用戶—標(biāo)簽矩陣。在用戶—景點(diǎn)矩陣R 以及景點(diǎn)—標(biāo)簽矩陣Q 計(jì)算完成的基礎(chǔ)上，本文采用含有正則項(xiàng)的矩陣分解模型計(jì)算用戶對(duì)于景點(diǎn)標(biāo)簽的喜愛(ài)程度。如上所述，景點(diǎn)標(biāo)簽是對(duì)景點(diǎn)特征的細(xì)粒度描述，每個(gè)景點(diǎn)都有對(duì)應(yīng)的景點(diǎn)—標(biāo)簽向量qj{qj1,qj2,…,qjk}。為此，依據(jù)用戶評(píng)分及景點(diǎn)— 標(biāo)簽向量學(xué)習(xí)用戶— 標(biāo)簽向量pi{pi1,pi2,…,pik}，從而得到用戶對(duì)景點(diǎn)標(biāo)簽的喜愛(ài)程度。具體流程如下所示。

初始化用戶—標(biāo)簽矩陣：首先，采用隨機(jī)初始化方式初始化用戶—標(biāo)簽矩陣P，利用初始化后的P與QT（景點(diǎn)—標(biāo)簽矩陣Q的轉(zhuǎn)置）的乘積預(yù)測(cè)用戶評(píng)分矩陣R?，如式（6）所示。

計(jì)算損失函數(shù)：由式（3）得到用戶ui對(duì)景點(diǎn)vj的預(yù)測(cè)評(píng)分為=pi*qjT，假設(shè)用戶實(shí)際評(píng)分為rij，為計(jì)算預(yù)測(cè)值與真實(shí)值之間的誤差，引入損失函數(shù)eij2，如式（7）所示。

其中，λ(||pi||2+||qj||2)為避免過(guò)擬合加入的正則化項(xiàng)；λ為常數(shù)，稱作正則化參數(shù)。

更新用戶—標(biāo)簽矩陣：沿著梯度下降方向更新pu，如式（8）所示。

其中，α為步長(zhǎng)，pi'為更新后的用戶—標(biāo)簽矩陣。

迭代：循環(huán)計(jì)算eij2并更新pi，直到eij2小于設(shè)定的某個(gè)閾值或迭代次數(shù)達(dá)到最大閾值，從而得到訓(xùn)練后的pi。

（4）景點(diǎn)個(gè)性化推薦。根據(jù)訓(xùn)練得到的用戶—標(biāo)簽矩陣能夠得到用戶對(duì)景點(diǎn)標(biāo)簽的喜愛(ài)程度，結(jié)合景點(diǎn)對(duì)標(biāo)簽的隸屬度，即可得到用戶對(duì)景點(diǎn)的評(píng)分值，從而將評(píng)分值高的景點(diǎn)推薦給用戶。

3 實(shí)驗(yàn)及結(jié)果分析

3.1 景點(diǎn)標(biāo)簽構(gòu)建

本文結(jié)合Beerli 等［30］、高靜等［31］、李雅美等［16］對(duì)旅游景點(diǎn)特征的描述，構(gòu)建了包含景點(diǎn)活動(dòng)、旅游對(duì)象、旅游季節(jié)、門票類型、人文風(fēng)俗、旅游場(chǎng)所、購(gòu)物等七大因素下的66 種景點(diǎn)標(biāo)簽，其結(jié)構(gòu)如圖2 所示。

景點(diǎn)標(biāo)簽是對(duì)景點(diǎn)特征的總結(jié)，每個(gè)景點(diǎn)標(biāo)簽都對(duì)應(yīng)了多個(gè)特征詞，本文通過(guò)人工標(biāo)注方式為景點(diǎn)標(biāo)簽添加了相應(yīng)的特征詞，構(gòu)建了景點(diǎn)標(biāo)簽特征詞表，以人文風(fēng)俗為例，各標(biāo)簽的特征詞如圖3 所示。

3.2 實(shí)驗(yàn)數(shù)據(jù)及預(yù)處理

本文將攜程旅行網(wǎng)（www.ctrip.com）上青島市排名前100 的旅游景點(diǎn)作為研究對(duì)象，獲取了2010-2018 年的景點(diǎn)評(píng)論數(shù)據(jù)和網(wǎng)站上公布的用戶景點(diǎn)評(píng)論數(shù)據(jù)，共49 338條。在攜程網(wǎng)上采集到的數(shù)據(jù)存在數(shù)據(jù)缺失、重復(fù)評(píng)論等情況，因此需要對(duì)采集的數(shù)據(jù)進(jìn)行清洗，刪除以下幾種類型的評(píng)論數(shù)據(jù)：①多個(gè)重復(fù)語(yǔ)句組成的評(píng)論；②同一用戶在一周之內(nèi)多次對(duì)單個(gè)景點(diǎn)的評(píng)論；③謾罵或辱罵等不符合法律規(guī)定的評(píng)論；④由無(wú)效字符或特殊表情符號(hào)構(gòu)成的評(píng)論；⑤同一用戶對(duì)多個(gè)景點(diǎn)使用同一個(gè)文本的評(píng)論；⑥非中文表達(dá)的評(píng)論，如英文、韓文；⑦幾乎全部由一個(gè)字或某幾個(gè)字組成的單條評(píng)論，如“棒！?。。。?！”。

Fig.2 Attractions label structure圖2 景點(diǎn)標(biāo)簽結(jié)構(gòu)

Fig.3 Examples of characteristic words in humanities圖3 人文風(fēng)俗特征詞示例

經(jīng)過(guò)數(shù)據(jù)清洗后留下的景點(diǎn)評(píng)論數(shù)據(jù)共48 588 條。為了避免冷啟動(dòng)問(wèn)題，去除評(píng)論數(shù)小于8 的用戶，共得到559 個(gè)用戶的10 408 條評(píng)論數(shù)據(jù)。

3.3 評(píng)價(jià)指標(biāo)

本文使用平均絕對(duì)誤差（Mean Absolute error，MAE）和均方根誤差（Root Mean Square Error，RMSE）作為評(píng)價(jià)標(biāo)準(zhǔn)，如式（9）、式（10）所示。

其中，N表示測(cè)試集中的總評(píng)分記錄。由式（9）、式（10）可以看出，MAE 和RMSE 越小，表示預(yù)測(cè)評(píng)分與真實(shí)評(píng)分之間的差距越小，即推薦精度越高。

3.4 參數(shù)校正

融入景點(diǎn)標(biāo)簽的矩陣分解個(gè)性化推薦算法中需要確定的參數(shù)有步長(zhǎng)α和正則化參數(shù)λ。為確定算法的最優(yōu)參數(shù)，本文采用控制變量法得到最終參數(shù)組合。

在本文實(shí)驗(yàn)過(guò)程中，首先利用經(jīng)驗(yàn)將步長(zhǎng)α設(shè)置為0.01，觀察正則化參數(shù)λ對(duì)實(shí)驗(yàn)結(jié)果的影響。本文首先通過(guò)實(shí)驗(yàn)確定λ的大致取值范圍，然后通過(guò)不斷細(xì)化的方式確定λ的最終取值，最終結(jié)果如表1 所示。

Table 1 MAE and RMSE under different values of λ表1 λ 不同取值下的MAE 與RMSE

由表1 可知，當(dāng)λ=0.002 時(shí)，MAE 和RMSE 的平均值最小，故在實(shí)驗(yàn)中λ取0.002。

在確定了λ的取值后，為了選取合適的α取值，繼續(xù)觀察α不同取值下對(duì)實(shí)驗(yàn)結(jié)果的影響，最終結(jié)果如表2 所示。

Table 2 MAE and RMSE under different values of α表2 α 不同取值下的MAE 與RMSE

由表2 可知，當(dāng)α=0.01 時(shí)，MAE 和RMSE 的平均值最小。因此，融入景點(diǎn)標(biāo)簽的矩陣分解個(gè)性化推薦算法α、λ的最優(yōu)取值組合為{0.01,0.002} 。

3.5 結(jié)果對(duì)比及分析

矩陣分解是基于模型的協(xié)同過(guò)濾算法，為驗(yàn)證本文所提出算法的性能，本文選擇以下方法進(jìn)行景點(diǎn)推薦結(jié)果比較。

算法1 基于用戶的協(xié)同過(guò)濾景點(diǎn)推薦：該算法首先利用用戶的歷史旅游數(shù)據(jù)得到用戶對(duì)景點(diǎn)的評(píng)分值，然后利用用戶對(duì)景點(diǎn)的評(píng)分值計(jì)算各用戶之間的相似度，最終通過(guò)相似用戶對(duì)景點(diǎn)的評(píng)分值預(yù)測(cè)目標(biāo)用戶對(duì)景點(diǎn)的評(píng)分值，從而完成景點(diǎn)推薦。

算法2 基于標(biāo)簽的協(xié)同過(guò)濾景點(diǎn)推薦：該算法為景點(diǎn)構(gòu)建了景點(diǎn)標(biāo)簽，利用用戶對(duì)景點(diǎn)的評(píng)分值計(jì)算用戶對(duì)標(biāo)簽的評(píng)分值，然后利用用戶對(duì)標(biāo)簽的評(píng)分值計(jì)算用戶之間的相似度，最終利用相似用戶對(duì)景點(diǎn)的評(píng)分值預(yù)測(cè)目標(biāo)用戶對(duì)景點(diǎn)的評(píng)分值，從而完成景點(diǎn)推薦。

算法3 融入景點(diǎn)標(biāo)簽的矩陣分解個(gè)性化推薦：本文方法。

Fig.4 Comparison of experimental results圖4 實(shí)驗(yàn)結(jié)果對(duì)比

由圖4 實(shí)驗(yàn)結(jié)果對(duì)比可以看出，相比于算法1，算法2的MAE 和RMSE 分別下降了3.84%和3.26%。這表明構(gòu)建的景點(diǎn)標(biāo)簽?zāi)軌蚋訙?zhǔn)確地描述景點(diǎn)特征，一定程度上緩解了傳統(tǒng)協(xié)同過(guò)濾算法的數(shù)據(jù)稀疏性問(wèn)題。相比于算法1，算法3 的MAE 和RMSE 分別下降了68.28%和61.23%；相比于算法2，算法3 的MAE 和RMSE 分別下降了67.02%和59.93%。這表明相比于僅采用景點(diǎn)評(píng)分計(jì)算用戶對(duì)景點(diǎn)標(biāo)簽的評(píng)分值，矩陣分解算法能夠更加準(zhǔn)確地描述用戶對(duì)景點(diǎn)標(biāo)簽的喜愛(ài)程度，本文提出的算法在預(yù)測(cè)用戶對(duì)景點(diǎn)評(píng)分方面性能更優(yōu)。

4 結(jié)語(yǔ)

本文將景點(diǎn)標(biāo)簽引入矩陣分解推薦算法，在推薦過(guò)程中充分考慮景點(diǎn)的實(shí)際特征，能夠更加準(zhǔn)確地反映用戶對(duì)景點(diǎn)特征的喜愛(ài)程度，從而結(jié)合景點(diǎn)特征對(duì)用戶進(jìn)行景點(diǎn)推薦。實(shí)驗(yàn)結(jié)果表明，本文方法在預(yù)測(cè)用戶景點(diǎn)評(píng)分時(shí)明顯優(yōu)于其他算法，能夠進(jìn)一步提高景點(diǎn)推薦算法的性能，從而為用戶推薦更加符合其愛(ài)好的景點(diǎn)。

同時(shí)，融合景點(diǎn)標(biāo)簽的矩陣分解個(gè)性化推薦方法研究還需進(jìn)一步提高，可以加入景點(diǎn)標(biāo)簽的自動(dòng)化構(gòu)建，使景點(diǎn)標(biāo)簽更加準(zhǔn)確，從而提高算法計(jì)算精度。