基于深度學(xué)習(xí)的多元信息嵌入推薦模型

王 駿 虞 歌

(杭州師范大學(xué)信息科學(xué)與工程學(xué)院 浙江 杭州 311121)

0 引 言

在推薦算法中，協(xié)同過濾算法是使用最廣泛的推薦算法，傳統(tǒng)協(xié)同過濾算法分為基于用戶的協(xié)同過濾算法和基于內(nèi)容的協(xié)同過濾算法[1]。前者計(jì)算用戶相似度，后者計(jì)算物品相似度，主要推薦思想是“人以群分，物以類聚”。在深度學(xué)習(xí)方法興起后，融合神經(jīng)網(wǎng)絡(luò)的矩陣分解法利用神經(jīng)網(wǎng)絡(luò)強(qiáng)大的擬合隱含關(guān)系的能力，來進(jìn)行預(yù)測物品評分。

谷歌在2016年推出Wide&Deep網(wǎng)絡(luò)[2]，在特征嵌入層之上加入多層感知機(jī)(Multi-Layer Perceptron,MLP)使得模型泛化能力更強(qiáng)。2017年He等[3]進(jìn)一步提出一種多層感知機(jī)與廣義矩陣分解結(jié)合的神經(jīng)協(xié)同過濾模型(Neural Collaborative Filtering,NCF)，既擁有矩陣分解的特征交互，又能通過多層感知機(jī)提取高階特征信息，使模型的推薦能力得到更大提升。從信息挖掘角度分析，該模型充分挖掘了隱含關(guān)系，可從大數(shù)據(jù)角度分析，從稀疏度高達(dá)90%的評分表訓(xùn)練出命中率和歸一化折扣累積增益[4]都不錯(cuò)的神經(jīng)網(wǎng)絡(luò)模型，但在廣泛的適用性上仍然存在不足，想滿足個(gè)性化的需求，還需要利用更多有用信息。因此，多元化信息融合研究是推薦系統(tǒng)熱門研究方向[5]。

本文在研究了已有推薦模型的基礎(chǔ)上，結(jié)合Movie Lens數(shù)據(jù)集的信息類型采用不同的算法提取所有已知信息，提出并實(shí)現(xiàn)一種改進(jìn)的神經(jīng)協(xié)同過濾推薦模型，根據(jù)信息來源的有效性來配置推薦系統(tǒng)[6]。以MovieLens數(shù)據(jù)集作為研究對象，數(shù)據(jù)集包含性別、年齡、職業(yè)和電影名等信息。通過嵌入層全部嵌入所有信息，研究分析多元信息對神經(jīng)網(wǎng)絡(luò)產(chǎn)生的作用，最后進(jìn)行評分預(yù)測。從MovieLens-100k和MovieLens-1m數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果表明，通過所有信息全部嵌入的方式，本文模型不僅學(xué)習(xí)到更多信息，而且表現(xiàn)也比神經(jīng)協(xié)同過濾模型更出色。

1 神經(jīng)協(xié)同過濾模型

NCF模型中，輸入層上面是嵌入層,它是一個(gè)全連接層，將來自輸入層的稀疏表示映射為稠密向量[3]。NCF算法對用戶和項(xiàng)目建模(用戶ID和項(xiàng)目ID兩個(gè)輸入)，需要通過GMF和MLP兩個(gè)路線，把它們各自的運(yùn)算得到的信息連接起來。GMF使用了一個(gè)線性內(nèi)核來模擬潛在的特征交互；MLP使用非線性內(nèi)核從數(shù)據(jù)中學(xué)習(xí)高階特征交互信息[7]。

NCF模型結(jié)構(gòu)如圖1所示。

圖1 NCF模型結(jié)構(gòu)

2 改進(jìn)的神經(jīng)協(xié)同過濾模型

本文提出了混合多元信息的神經(jīng)協(xié)同過濾模型M-NCF。M-NCF模型在NCF模型基礎(chǔ)上使用更多嵌入層來嵌入不同的信息，其結(jié)構(gòu)如圖2所示。

圖2 改進(jìn)的M-NCF模型結(jié)構(gòu)

2.1 嵌入層

輸入層上面是嵌入層，它是一個(gè)全連接層，用于將數(shù)據(jù)映射為特征向量。Movielens電影數(shù)據(jù)集中，對個(gè)性化推薦有影響的電影信息包含電影ID、電影類型(Category)、電影名(Title)，用戶信息包含用戶ID、性別(Gender)、年齡(Age)、職業(yè)(Job)，通過嵌入層全部嵌入成特征向量。其中，電影名使用文本卷積網(wǎng)絡(luò)處理，對電影名嵌入向量進(jìn)行卷積和池化操作，拼接得到電影名特征向量,計(jì)算過程如下[8]：

假設(shè)句子單詞長度為n，每個(gè)句子可以表示為n個(gè)單詞組成形式：

x1：n=x1⊕x2⊕…⊕xn

(1)

假設(shè)卷積核w大小為h×k，其中h為文本卷積滑動(dòng)窗口大小，k為嵌入維度，卷積核在句子x上卷積操作得到句子特征向量ci(i∈n)：

ci=f(w·xi:i+h-1+b)

(2)

式中：b為偏置值；函數(shù)f(·)為非線性函數(shù)。

多個(gè)卷積核卷積后，生成的句子特征向量再接著進(jìn)行最大池化操作，產(chǎn)生的多個(gè)新向量拼接成一個(gè)新的特征向量：

ci=[max(c1),max(c2),…,max(cn-h+1)]

(3)

最后通過全連接層輸出高階隱信息向量，這可以看作是提取出文本信息：

S=f(wn…(f(w1x+b1))+…+bn)

(4)

此外，年齡、性別、職業(yè)和電影類型映射成對應(yīng)數(shù)字，電影ID和用戶ID經(jīng)過評分時(shí)間排序后再進(jìn)入嵌入層。

2.2 多層感知機(jī)層(MLP層)

如圖2所示，MLP層將電影ID向量、用戶ID向量拼接成新的向量進(jìn)入MLP層，經(jīng)過多層感知機(jī)產(chǎn)生高階特征信息。

假設(shè)m和n分別表示訓(xùn)練集用戶和電影的數(shù)量，數(shù)據(jù)集內(nèi)的任一用戶u∈m和任一電影i∈n，嵌入維度為k，P∈Rm×k和Q∈Rn×k分別表示用戶特征矩陣和物品特征矩陣，MLP層高階特征信息表達(dá)式表示為：

(5)

2.3 廣義矩陣分解層(GMF層)

在原來算法中，電影隱表示與用戶隱表示只是進(jìn)行簡單特征交互獲得低階特征信息。改進(jìn)算法中，電影隱表示是所有電影信息嵌入向量的拼接向量，用戶隱表示是所有用戶信息嵌入向量的拼接向量。廣義矩陣分解層向量交互過程表達(dá)式為：

Xu=[u,u′]

(6)

Xi=[i,i′]

(7)

pu=f(WuXu+bu)

(8)

qi=f(WiXi+bi)

(9)

φui=pu⊙qi

(10)

式中：u、i為任一用戶向量和電影向量；u′、i′為用戶信息向量和電影信息向量；Xu、Xi為用戶拼接向量和電影拼接向量；pu和qi分別表示用戶隱表示和電影隱表示，通過pu和qi的矩陣乘法得到評分信息φui。

2.4 循環(huán)神經(jīng)網(wǎng)絡(luò)層(RNN層)

傳統(tǒng)的推薦對用戶偏好進(jìn)行全局預(yù)測，實(shí)際上默認(rèn)用戶愛好是靜止不變的，但其實(shí)它們都是隨時(shí)間變化的，往往近期的行為對下一部電影有參考價(jià)值。循環(huán)神經(jīng)網(wǎng)絡(luò)對時(shí)間序列信息循環(huán)計(jì)算可以挖掘上下文關(guān)系，常被使用在自然語言處理中，通過構(gòu)造用戶狀態(tài)和電影狀態(tài)進(jìn)行自回歸計(jì)算，把循環(huán)神經(jīng)網(wǎng)絡(luò)引入到推薦系統(tǒng)對行為分析的應(yīng)用中。本文使用的循環(huán)神經(jīng)網(wǎng)絡(luò)是GRU模型[9]。

用戶評分預(yù)測表示如圖3[10]所示，圖中uut、mit是不同時(shí)間的用戶RNN狀態(tài)和電影RNN狀態(tài)。

圖3 根據(jù)時(shí)序狀態(tài)預(yù)測電影評分

t時(shí)刻用戶狀態(tài)和電影評分預(yù)測下一時(shí)刻用戶潛在狀態(tài)、t時(shí)刻電影狀態(tài)和電影評分預(yù)測下一時(shí)刻電影狀態(tài)表達(dá)式分別表示為：

uu,t+1=g(uut,{rui|t})

(11)

mi,t+1=h(mit,{rui|t})

(12)

基于用戶評分行為預(yù)測評分問題表示為：

rui=f(uut,mit)

(13)

式中：輸出rui表示用戶u在時(shí)刻t對電影i的評分；uut、mit是t時(shí)刻的用戶狀態(tài)和電影狀態(tài)。

2.5 輸出層

來自MLP層、GMF層和RNN層的輸出在輸出層按合適的比例拼接成新的向量，然后通過全連接層輸出預(yù)測值，計(jì)算式表示為：

(14)

式中：hT是比例，MLP層、GMF層和RNN層的輸出按照合適比例組合成混合信息向量；W、b是全連接層權(quán)重和偏置值。

本文采用的代價(jià)函數(shù)為逐點(diǎn)損失類型的函數(shù)，在模型優(yōu)化時(shí)，為了防止訓(xùn)練出現(xiàn)過擬合現(xiàn)象，同時(shí)提高模型的泛化能力，使用L2正則化項(xiàng)，損失函數(shù)計(jì)算式為：

(15)

3 實(shí) 驗(yàn)

3.1 數(shù)據(jù)集

MovieLens-100k數(shù)據(jù)集里面包括u.data、u.info、u.item、u.genre、u.user、u.occupation等文件，其中u.data文件包含943個(gè)用戶對于1 682部電影的100 000個(gè)評分(分值為[1,5]之間的整數(shù))；每個(gè)用戶至少評分20部電影；u.user文件包含用戶的人口統(tǒng)計(jì)信息(年齡，性別，職業(yè)，郵編)；u.item文件包括電影名，電影ID，發(fā)布日期，IMDB電影網(wǎng)對應(yīng)電影主頁網(wǎng)址，所屬的電影類型(恐怖、犯罪、喜劇等)。

MovieLens-1m數(shù)據(jù)集含有來自6 040名用戶對3 706部電影的100萬條評分?jǐn)?shù)據(jù)，分為三個(gè)表：評分表、用戶信息表和電影信息表。

3.2 實(shí)驗(yàn)平臺

使用聯(lián)想筆記本電腦，內(nèi)存為8 GB，CPU為Intel酷睿i53230M；操作系統(tǒng)是Windows 10，使用PyCharm開發(fā)工具，使用Python版本是3.6，Tensorflow版本為1.10.0。

3.3 模型參數(shù)設(shè)置

本文在MovieLens-100k和MovieLens-1m數(shù)據(jù)集上研究新算法的推薦能力，將數(shù)據(jù)集中80%的數(shù)據(jù)劃為訓(xùn)練集，20%數(shù)據(jù)劃為測試集。訓(xùn)練50個(gè)輪次(epoch)，每次訓(xùn)練數(shù)據(jù)量(batch size)為256，嵌入維度為32，優(yōu)化器使用Adam[11]優(yōu)化器。

嵌入層將用戶ID、電影ID和21個(gè)職業(yè)類型映射為對應(yīng)的數(shù)字向量，18種電影類型映射為18位二進(jìn)制列表，屬于某類型則置1，否則置0；用戶年齡劃為7個(gè)年齡區(qū)間，分別映射為7個(gè)數(shù)字；性別映射為0或者1；電影名首先轉(zhuǎn)成等長數(shù)字列表，長度是15，然后文本卷積滑動(dòng)窗口在等長數(shù)字列表上進(jìn)行卷積操作，分別滑動(dòng)2、3、4、5個(gè)單詞，卷積核數(shù)量為8，嵌入維度為32，最后經(jīng)過一次最大池化操作得到一個(gè)長向量。

多層感知機(jī)層各層神經(jīng)元數(shù)量為[8,16,32,64]，激活函數(shù)是ReLU函數(shù)，每層參數(shù)初始化為均值為0、標(biāo)準(zhǔn)差為0.01的隨機(jī)正態(tài)分布，增加L2正則項(xiàng)來減小模型過擬合的風(fēng)險(xiǎn)，各層神經(jīng)元后還要接一層丟棄層[12]，丟棄率為0.2。

循環(huán)神經(jīng)網(wǎng)絡(luò)層隱層神經(jīng)元數(shù)量是128，經(jīng)過循環(huán)神經(jīng)網(wǎng)絡(luò)處理后，用戶向量和電影向量還要經(jīng)過64個(gè)神經(jīng)元的全連接層映射為新的向量。輸出層的全連接神經(jīng)網(wǎng)絡(luò)增加L2正則項(xiàng)來減小模型過擬合的風(fēng)險(xiǎn)。

3.4 評價(jià)指標(biāo)

均方差誤差MSE是常見的推薦系統(tǒng)評價(jià)指標(biāo)[13]，本文使用MSE對實(shí)驗(yàn)評分預(yù)測做評價(jià)，MSE越小，表示模型越好。MSE的計(jì)算式為：

(16)

3.5 不同信息對推薦的影響

更多隱藏層數(shù)能夠加強(qiáng)神經(jīng)網(wǎng)絡(luò)提取信息能力，在合適范圍內(nèi)增加層數(shù)提升模型性能，但是超出范圍會導(dǎo)致過擬合，導(dǎo)致神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)能力降低；不同的用戶信息或電影信息對推薦結(jié)果影響不同，對電影推薦毫不相關(guān)的信息甚至?xí)ι窠?jīng)網(wǎng)絡(luò)更新起到噪音作用。

本文在MLP層選用[16,32,64,128]的各層神經(jīng)元數(shù)量與GMF層用戶信息和電影信息一一搭配探索影響因素，如表1和表2所示，表3考察循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)與各層神經(jīng)元影響，其中：MLP- 0為不啟用MLP層目的是設(shè)置空白對照，只啟用GMF層。所用數(shù)據(jù)集同為MovieLens-100k，訓(xùn)練50輪，取穩(wěn)定在某范圍內(nèi)震蕩的MSE平均值作評價(jià)指標(biāo)，實(shí)驗(yàn)數(shù)據(jù)有±0.05的誤差。

表1 不同用戶信息與各層神經(jīng)元

表2 不同電影信息與各層神經(jīng)元

表3 RNN與各層神經(jīng)元

可以看出，多層感知機(jī)對各因素影響并不相同，有些隨著網(wǎng)絡(luò)層數(shù)增加反而MSE在下降，在沒有MLP層的情況下，多數(shù)情況算法表現(xiàn)都不理想，說明多層感知機(jī)能夠?qū)W習(xí)到有用信息，在噪聲比較多的情況下擬合真實(shí)情況；電影信息中的電影類型和用戶信息中的性別對推薦影響最大，職業(yè)、年齡和電影名對推薦結(jié)果影響較??；循環(huán)神經(jīng)網(wǎng)絡(luò)在[8,16,32]和[8,16,32,64]的多層感知機(jī)結(jié)構(gòu)中表現(xiàn)出色，而且總體表現(xiàn)比利用電影信息和用戶信息的算法好，可能有些電影信息和用戶信息與個(gè)性化推薦無關(guān)成了噪聲，進(jìn)而影響了算法準(zhǔn)確率。

3.6 新舊模型對比

圖4-圖7為訓(xùn)練50輪，學(xué)習(xí)率為0.000 01，NCF和M-NCF在數(shù)據(jù)集MovieLens-100k和MovieLens-1m的MSE表現(xiàn)。

圖4 NCF在MovieLens-100k數(shù)據(jù)集的表現(xiàn)

圖5 M-NCF在MovieLens-100k數(shù)據(jù)集的表現(xiàn)

圖6 NCF在MovieLens-1m數(shù)據(jù)集的表現(xiàn)

圖7 M-NCF在MovieLens-1m數(shù)據(jù)集的表現(xiàn)

可以看出，經(jīng)多次實(shí)驗(yàn)驗(yàn)證，M-NCF的均方誤差都穩(wěn)定地比NCF小，可以認(rèn)為，接收更多輔助信息并沒有給神經(jīng)網(wǎng)絡(luò)帶來太多噪聲。M-NCF能根據(jù)信息擬合出接近實(shí)際的數(shù)據(jù)。

3.7 不同模型對比

為了驗(yàn)證新算法的泛化能力、穩(wěn)定性和準(zhǔn)確性，以及各個(gè)結(jié)構(gòu)對M-NCF的推薦影響作用。本文設(shè)置多個(gè)實(shí)驗(yàn)組在MovieLens-100k和MovieLens-1m數(shù)據(jù)集進(jìn)行對比實(shí)驗(yàn)。

選取了原算法神經(jīng)協(xié)同過濾算法(NCF)、電影數(shù)據(jù)集信息全嵌入算法(M-NCF)、在廣義矩陣分解(GMF)層只嵌入電影信息的NCF算法(NCF-I)、在廣義矩陣分解(GMF)層只嵌入用戶信息的NCF算法(NCF-U)、結(jié)合循環(huán)神經(jīng)網(wǎng)絡(luò)的NCF算法(NCF-RNN)進(jìn)行對比。

各算法主要的參數(shù)設(shè)置和神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)基本相同，訓(xùn)練50輪，學(xué)習(xí)率0.000 01，取不同算法在MovieLens-100k(ML100k)和MovieLens-1m(ML1m)數(shù)據(jù)集中算法訓(xùn)練收斂后穩(wěn)定在某范圍內(nèi)震蕩的平均值作評價(jià)指標(biāo)，實(shí)驗(yàn)數(shù)據(jù)有±0.05的實(shí)驗(yàn)誤差，如表4所示。

表4 不同模型的MSE比較

可以看出，在MovieLens-100k和MovieLens-1m數(shù)據(jù)集各算法表現(xiàn)都比NCF好，說明增加了輔助信息的預(yù)測比只分析單一評分信息的預(yù)測更準(zhǔn)確；多次實(shí)驗(yàn)表明，M-NCF算法比NCF算法的均方誤差?。浑娪靶畔⒈扔脩魝€(gè)人信息對個(gè)性化推薦影響稍微重要一點(diǎn)；NCF-RNN算法基于用戶行為作出的預(yù)測在MovieLens-100k表現(xiàn)比M-NCF還要好。綜上，M-NCF比實(shí)驗(yàn)對比組其他算法性能更好，信息更多元化。

4 結(jié) 語

本文提出基于神經(jīng)協(xié)同過濾算法改進(jìn)的M-NCF算法，相比原來的算法簡單地挖掘評分表的評分信息，結(jié)合低階特征交互信息和高階特征信息，改進(jìn)算法融合了多元電影數(shù)據(jù)集信息，結(jié)合了循環(huán)神經(jīng)網(wǎng)絡(luò)預(yù)測用戶行為的優(yōu)點(diǎn)，對于端到端的推薦技術(shù)也有參考價(jià)值。從信息多元化來說，拓寬了推薦算法挖掘信息的廣度，從準(zhǔn)確度來看，表現(xiàn)也比原來的神經(jīng)協(xié)同過濾算法好，而且不再是簡單的神經(jīng)網(wǎng)絡(luò)堆砌。通過對比實(shí)驗(yàn)可見循環(huán)神經(jīng)網(wǎng)絡(luò)和多元化信息的確增加了神經(jīng)協(xié)同過濾算法的學(xué)習(xí)能力。

對于循環(huán)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)用戶行為問題，應(yīng)該還有更優(yōu)化的解決方法。因?yàn)樵谕粫r(shí)間段的電影觀看行為往往是最有參考價(jià)值的，所以時(shí)間分段是用戶行為學(xué)習(xí)更好的提升方法。

今后的研究會關(guān)注深度學(xué)習(xí)在多元信息融合方向的更多應(yīng)用，比如注意力機(jī)制[14]在用戶興趣偏好上的應(yīng)用、融合圖卷積與神經(jīng)協(xié)同過濾[15]的推薦算法等。