一種基于異質(zhì)信息網(wǎng)絡(luò)的多維度語義融合推薦算法研究

甘 宏,王華武

(1.廣州南方學(xué)院商學(xué)院, 510970,廣州;2.江西新余國科科技股份有限公司,338034,江西,新余)

1 問題提出

在算法推薦中,數(shù)據(jù)集可能包含了許多異質(zhì)信息,而異質(zhì)信息又隱含豐富的語義關(guān)系。如何有效建模多源異質(zhì)信息及如何有效利用其中豐富的語義關(guān)系是現(xiàn)有的推薦算法急需解決的2個(gè)問題。

異質(zhì)信息網(wǎng)絡(luò)是由多種類型的節(jié)點(diǎn)和邊組成的復(fù)雜網(wǎng)絡(luò),是一種通用的融合多源異質(zhì)數(shù)據(jù)的方法[1]。而異質(zhì)信息網(wǎng)絡(luò)[2]的推薦模型為上述問題提供了有效的解決途徑。采用異質(zhì)信息網(wǎng)絡(luò)對(duì)推薦系統(tǒng)內(nèi)的交互進(jìn)行建模,可保留推薦系統(tǒng)中的實(shí)體和關(guān)系,又可以高效地整合各種屬性和輔助信息?；诋愘|(zhì)信息網(wǎng)絡(luò)的推薦模型在提取語義結(jié)構(gòu)、融合語義信息等方面具有顯著優(yōu)勢(shì)[3]。現(xiàn)有的許多方法都使用元路徑結(jié)構(gòu)對(duì)異質(zhì)信息網(wǎng)絡(luò)內(nèi)的多元關(guān)系進(jìn)行顯式約束,但在元路徑設(shè)計(jì)、元路徑聚合模式及損失函數(shù)設(shè)計(jì)上仍有很大的改進(jìn)空間。

圖神經(jīng)網(wǎng)絡(luò)使用圖結(jié)構(gòu)來表示輸入的神經(jīng)網(wǎng)絡(luò),并通過相鄰節(jié)點(diǎn)之間的消息傳遞來捕捉圖中的交互關(guān)系,核心目標(biāo)是學(xué)習(xí)圖中各節(jié)點(diǎn)的特征表示。與此同時(shí),深度學(xué)習(xí)領(lǐng)域的圖神經(jīng)網(wǎng)絡(luò)(GNN)受到了研究者的廣泛關(guān)注。圖神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)與異質(zhì)圖的思想十分適應(yīng),在提取和聚合語義信息上具有顯著的優(yōu)勢(shì),于是逐漸成為實(shí)踐中的熱門選擇?？傮w而言,異質(zhì)圖神經(jīng)網(wǎng)絡(luò)在推薦任務(wù)上表現(xiàn)出優(yōu)越的性能。然而,目前基于圖神經(jīng)網(wǎng)絡(luò)的推薦模型普遍存在鄰域信息聚合過程中發(fā)生信息損失的問題,在異質(zhì)圖模型中,由于多源異質(zhì)信息存在屬性維度上的差異,會(huì)導(dǎo)致更大程度的信息損失[4]。

本文提出了一種基于異質(zhì)信息網(wǎng)絡(luò)的多尺度語義融合系統(tǒng)推薦模型。首先,使用異質(zhì)圖和元路徑來建模推薦中的復(fù)雜語義結(jié)構(gòu)。然后,將元路徑引導(dǎo)下的鄰域劃分為多個(gè)鄰居組,利用鄰居組之間的多層交互獲取多尺度語義信息。最后,使用兩階段的關(guān)系注意力來指導(dǎo)多尺度語義融合。

2 相關(guān)技術(shù)

2.1 基于異質(zhì)信息網(wǎng)絡(luò)的推薦模型

基于異構(gòu)網(wǎng)絡(luò)節(jié)點(diǎn)(HERec)[5]采用隨機(jī)游走的策略,利用元路徑結(jié)構(gòu)生成對(duì)象序列以學(xué)習(xí)對(duì)象的嵌入表示,最后,將其與矩陣分解框架相結(jié)合以進(jìn)行商品推薦;異構(gòu)信息網(wǎng)絡(luò)(LGRec)[6]使用共同的注意力機(jī)制對(duì)用戶和物品之間的直接交互信息進(jìn)行建模,并利用元路徑提取的間接交互信息預(yù)測(cè)交互概率,最終實(shí)現(xiàn)了對(duì)排序推薦任務(wù)的改進(jìn);NeuACF[7]使用深度神經(jīng)網(wǎng)絡(luò)計(jì)算不同元路徑下的相似性矩陣,其中每個(gè)相似性矩陣代表用戶在某個(gè)方面的偏好,全面地考慮了用戶在各個(gè)方面的興趣,然后使用多層感知機(jī)學(xué)習(xí)用戶和商品方面的特征,并使用注意力機(jī)制來融合這些特征以得到最終的表示。元路徑(HueRec)[8]假設(shè)在不同元路徑約束下用戶或商品具有共同的語義特征,因此,可以使用全部的元路徑來學(xué)習(xí)用戶和商品的統(tǒng)一表示。GNewsRec模型[9]針對(duì)新聞推薦任務(wù)利用不同的關(guān)系矩陣對(duì)不同的交互類型進(jìn)行建模,通過完整的用戶行為歷史捕獲用戶的長期興趣,并設(shè)計(jì)融合注意力的 LSTM 模型以建模用戶的短期興趣,最終融合長短期興趣輔助推薦。Comb-K模型[10]是一種利用異質(zhì)圖卷積網(wǎng)絡(luò)和異質(zhì)圖池化網(wǎng)絡(luò)的組合優(yōu)化模型用于促銷推薦任務(wù),該模型考慮了所有用戶群體的偏好并進(jìn)行用戶聚類,同時(shí)在商品的選品和展示方案上尋求最佳組合;HGSRec模型[11]通過三方異構(gòu)圖神經(jīng)網(wǎng)絡(luò)來表示用戶和物品的多重特征,然后利用注意機(jī)制捕獲潛在的三方交互關(guān)系并對(duì)特征進(jìn)行動(dòng)態(tài)融合,最后模型通過三元組結(jié)構(gòu)刻畫了分享行為的非對(duì)稱影響,成功將異質(zhì)圖應(yīng)用于分享推薦任務(wù)。現(xiàn)有方法都使用元路徑結(jié)構(gòu)對(duì)異質(zhì)信息網(wǎng)絡(luò)內(nèi)的多元關(guān)系進(jìn)行顯式約束,但目前在元路徑設(shè)計(jì)、元路徑聚合模式及損失函數(shù)設(shè)計(jì)上仍有很大的改進(jìn)空間。

2.2 語義信息的提取和融合

MCRec算法[12]是從每條元路徑中基于優(yōu)先級(jí)采樣策略提取高質(zhì)量的實(shí)例作為背景信息,隨后使用共同注意力機(jī)制進(jìn)行有機(jī)的交互融合,最終有效地利用基于元路徑的豐富背景信息提升了 top-N 推薦任務(wù)的推薦效果。HAN(Heterogeneous Graph Attention Network)模型[13]首次將注意力機(jī)制引入到異質(zhì)圖領(lǐng)域,提出基于層次注意力的異質(zhì)圖神經(jīng)網(wǎng)絡(luò)模型,對(duì)推薦系統(tǒng)中不同類型的節(jié)點(diǎn)和關(guān)系進(jìn)行差異化的考慮,為不同節(jié)點(diǎn)及關(guān)系學(xué)習(xí)影響力權(quán)重,進(jìn)而有所偏重地融合更重要的信息。HetGNN模型[14]是將不同類型的鄰居節(jié)點(diǎn)分別進(jìn)行聚類處理,為不同種類的異質(zhì)信息專門設(shè)計(jì)編碼方式以盡可能地保留其中的異質(zhì)信息,然后再進(jìn)行特征融合。SIAN(Social Influence Attentive Neural Network)模型[15]提出了一種關(guān)注社交影響的神經(jīng)網(wǎng)絡(luò),使用注意力特征聚合器來學(xué)習(xí)不同層面上朋友和商品的節(jié)點(diǎn)表征,并提出了一個(gè)社會(huì)影響耦合器以一種專注的方式捕獲朋友推薦圈的影響力,最終成功應(yīng)用于社交分享增強(qiáng)的推薦任務(wù);NIRec模型[16]率先將數(shù)據(jù)損失現(xiàn)象正式總結(jié)為“過早總結(jié)”問題并進(jìn)行針對(duì)性研究,并在雙層聚合層之前額外引入一個(gè)交互式信息提取層以捕獲潛在的交互信息;SDCN(Structural Deep Clustering Network)[17]聚焦于深度聚類問題,利用自編碼器和圖卷積網(wǎng)絡(luò)雙通道學(xué)習(xí)樣本表示,并設(shè)計(jì)對(duì)偶自監(jiān)督機(jī)制實(shí)現(xiàn)樣本信息和結(jié)構(gòu)信息的有機(jī)融合,有效緩解了圖卷積過程中的過平滑問題?，F(xiàn)有方法大多是利用注意力機(jī)制,盡可能在聚合時(shí)提升重要信息的占比,降低信息損失,在語義信息的提取、聚合模式及聚合前的交互增強(qiáng)方面還有很大的研究空間。

3 模型的研究與實(shí)現(xiàn)

本節(jié)提出了基于異質(zhì)信息網(wǎng)絡(luò)的多尺度語義融合推薦模型。首先針對(duì)推薦場(chǎng)景構(gòu)建異質(zhì)圖,通過設(shè)計(jì)合理的元路徑獲取異質(zhì)圖在特定關(guān)系下的語義結(jié)構(gòu)以針對(duì)性提取特定語義信息。然后,將元路徑引導(dǎo)下的鄰域劃分為多個(gè)鄰居組,利用鄰居組之間的多層交互獲取多尺度語義信息。最后,使用兩階段的關(guān)系注意力來指導(dǎo)多尺度語義融合。

3.1 模型的數(shù)學(xué)建模

為了能有效地解決建模多源異質(zhì)數(shù)據(jù)并充分提取利用其中的豐富語義信息這個(gè)難點(diǎn)問題,本節(jié)首先針對(duì)Movielens數(shù)據(jù)集下的電影推薦場(chǎng)景和Amazon數(shù)據(jù)集下的商品推薦場(chǎng)景構(gòu)建異質(zhì)圖G= {V,E,φ,φ},其中V代表推薦場(chǎng)景中不同類型的實(shí)體集合,在圖中以節(jié)點(diǎn)的形式表示;E代表不同類型的交互關(guān)系集合,在圖中以鏈接節(jié)點(diǎn)的邊表示;函數(shù)φ:V→A維護(hù)了節(jié)點(diǎn)v∈V到實(shí)體類型集合A的映射關(guān)系,保證了每一個(gè)節(jié)點(diǎn)都能被歸屬為某個(gè)實(shí)體類型;函數(shù)φ:E→R維護(hù)了邊e∈E到關(guān)系類型集合R的映射關(guān)系,保證了每一條邊都能被歸屬為某個(gè)關(guān)系類型。

構(gòu)建具體的異質(zhì)圖模型,如圖1所示,本節(jié)針對(duì)電影推薦場(chǎng)景中關(guān)鍵實(shí)體和交互關(guān)系進(jìn)行建模,抽取出了觀影者(User)、電影(Movie)、主題類別(Topic)和職業(yè)(Occupation)4種主要實(shí)體類型,以及觀看關(guān)系(User-Movie)、主題歸屬關(guān)系(Movie-Topic)、相關(guān)關(guān)系(Movie-Movie)和職業(yè)歸屬關(guān)系(User-Occupation)4種主要交互類型。

圖1 異質(zhì)圖模型的構(gòu)建

而類似的,本節(jié)針對(duì)商品推薦場(chǎng)景也進(jìn)行了實(shí)體和關(guān)系的抽取與建模,抽取出了消費(fèi)者(User)、商品(Item)、品牌(Brand)、目錄類別(Category)和評(píng)價(jià)(view)5種主要實(shí)體類型,以及購買關(guān)系(User-Item)、品牌歸屬關(guān)系(Item-Brand)、目錄類別歸屬關(guān)系(Item-Category)和評(píng)論關(guān)系(Item-View)4種主要交互類型。

具體而言,如圖2所示,本節(jié)利用在電影推薦場(chǎng)景下的先驗(yàn)知識(shí)進(jìn)行元路徑結(jié)構(gòu)的精心設(shè)計(jì),通過組合基本交互定義了共同觀影(UMUM)、相關(guān)電影(UMMM)、共同主題(UMTM)、職業(yè)共同觀影興趣(UOUM)4條元路徑以刻畫4種對(duì)提升推薦結(jié)果最有幫助的關(guān)鍵語義結(jié)構(gòu)。類似的,本節(jié)針對(duì)商品推薦場(chǎng)景也進(jìn)行了合理的元路徑結(jié)構(gòu)設(shè)計(jì),定義了共同購買(UIUI)、共同目錄類別(UICI)、共同品牌(UIBI)、共同評(píng)價(jià)(UIVI)4條元路徑,有效建模了4種關(guān)鍵的高階語義信息。

圖2 元路徑結(jié)構(gòu)設(shè)計(jì)

在對(duì)于每條給定的元路徑設(shè)計(jì)中,目標(biāo)節(jié)點(diǎn)都存在一組基于元路徑引導(dǎo)的鄰居節(jié)點(diǎn),在元路徑結(jié)構(gòu)約束下進(jìn)行鄰域信息的聚合,有效地揭示了異質(zhì)信息網(wǎng)絡(luò)中不同的語義結(jié)構(gòu)信息。本節(jié)設(shè)計(jì)的元路徑結(jié)構(gòu)不僅貼合相應(yīng)推薦場(chǎng)景需求,精準(zhǔn)提取了關(guān)鍵交互信息,并以元路徑的顯示結(jié)構(gòu)有效保留了高階語義知識(shí)。

至此本節(jié)實(shí)現(xiàn)了復(fù)雜推薦場(chǎng)景下對(duì)多源異質(zhì)數(shù)據(jù)的類型約束,對(duì)異質(zhì)信息進(jìn)行了有效建模,實(shí)現(xiàn)了以結(jié)構(gòu)化的形式探索異質(zhì)信息中的語義結(jié)構(gòu)和復(fù)雜交互關(guān)系。

3.2 模型的整體框架

模型的整體框架由2個(gè)主要模塊組成,如圖3所示。多尺度語義提取模塊首先根據(jù)游走距離將鄰居節(jié)點(diǎn)劃分為不同的鄰居組,然后將節(jié)點(diǎn)之間的交互關(guān)系擴(kuò)展為節(jié)點(diǎn)鄰居組之間的交互關(guān)系,通過不同層級(jí)鄰居組之間的交互結(jié)構(gòu)提取了多尺度的語義信息。多尺度語義聚合模塊通過細(xì)粒度的鄰域?qū)哟巫⒁饬﹃P(guān)注鄰域節(jié)點(diǎn)層面和多層鄰居組層面的影響力差異,有效引導(dǎo)鄰域交互信息聚合,進(jìn)而實(shí)現(xiàn)了多尺度語義的融合。最終,模型給出推薦任務(wù)的預(yù)測(cè)結(jié)果。整體框架通過多層鄰域交互的方式提取多尺度語義信息,在形成最終表示前充分利用鄰域信息增強(qiáng)了節(jié)點(diǎn)之間的交互,一定程度上緩解了聚合過程中的信息損失,改進(jìn)了推薦結(jié)果。

圖3 模型的整體框架

3.3 多尺度語義提取模塊

(1)

隨后本模塊基于劃分的鄰居組進(jìn)行多尺度語義信息提取,通過劃分多層次的鄰居組實(shí)現(xiàn)了將鄰域交互的范圍擴(kuò)展到節(jié)點(diǎn)鄰域之間,通過不同層級(jí)鄰居組之間的交互可以提取到不同尺度的語義信息。具體如公式(2)所示,通過不同層級(jí)鄰居組之間的交互 [H[Nρ(i),Nρ(j)]l來抽取不同尺度的語義信息,其中⊙代表卷積操作。

[H[Nρ(i),Nρ(j)]l=H[Nρ(i)]l⊙H[Nρ(j)]l

(2)

3.4 多尺度語義聚合模塊

(3)

(4)

(5)

(6)

(7)

4 實(shí)驗(yàn)結(jié)果與分析

4.1 實(shí)驗(yàn)設(shè)置

4.1.1 數(shù)據(jù)集 實(shí)驗(yàn)選擇了2個(gè)推薦場(chǎng)景下的相關(guān)數(shù)據(jù)集,分別為Movielens電影數(shù)據(jù)集[18]和Amazon電子商務(wù)數(shù)據(jù)集。Movielens數(shù)據(jù)集來源于網(wǎng)站(https://grouplens.org/datasets/movielens/),是一個(gè)電影推薦任務(wù)中常用的電影評(píng)分?jǐn)?shù)據(jù)集,有多種大小的分類數(shù)據(jù)集可以使用。數(shù)據(jù)集中包含電影標(biāo)簽、 電影題目和電影類型等電影屬性信息,也包括觀影者職業(yè)、年齡等用戶信息,還包括觀影者 對(duì)電影的評(píng)分、評(píng)論時(shí)間等交互信息。

Amazon 數(shù)據(jù)集來源于網(wǎng)站(http://jmcauley.ucsd.edu/data/amazon/),是一個(gè)商品推薦任務(wù)的經(jīng)典數(shù)據(jù)集,根據(jù)商品分類可分為圖書、電子、影視等子數(shù)據(jù)集,每個(gè)子數(shù)據(jù)集內(nèi)包含商品名稱、價(jià)格、品牌等商品屬性信息和用戶評(píng)分記錄數(shù)據(jù)。

4.1.2 評(píng)估指標(biāo) 實(shí)驗(yàn)在點(diǎn)擊率預(yù)測(cè)(CTR)任務(wù)上采用ACC和AUC評(píng)價(jià)模型。ACC描述了推薦結(jié)果的準(zhǔn)確率,是廣泛應(yīng)用于二分類任務(wù)的評(píng)價(jià)指標(biāo)。ACC表示了預(yù)測(cè)正確的樣本占所有樣本的比例,其中預(yù)測(cè)正確的可能有正樣本也可能有負(fù)樣本。AUC被定義為ROC曲線下的面積,是衡量模型優(yōu)劣的一種指標(biāo)。ROC曲線全稱受試者工作特征曲線,曲線的橫坐標(biāo)是假正類率 FPR,縱坐標(biāo)是真正類率 TPR,能夠綜合地檢驗(yàn)?zāi)Ｐ蜏?zhǔn)確性。但ROC曲線的表示不夠直觀,因此,提出AUC來對(duì)ROC曲線的表示進(jìn)行總結(jié)。作為一個(gè)數(shù)值,AUC越大說明分類效果越好,表示預(yù)測(cè)的正例排在負(fù)例前面的概率。

4.1.3 實(shí)施細(xì)節(jié) 節(jié)點(diǎn)的嵌入維度設(shè)置為128,多尺度語義提取的上限設(shè)置為在5跳范圍內(nèi)的鄰居組交互,每個(gè)節(jié)點(diǎn)基于每條元路徑的鄰居采樣數(shù)設(shè)置為16。數(shù)據(jù)集的劃分方法為訓(xùn)練集：驗(yàn)證集：測(cè)試集=6：2：2。

4.2 與基線方法的對(duì)比實(shí)驗(yàn)

實(shí)驗(yàn)在數(shù)據(jù)集 Movielens 和 Amazon 上與多個(gè)最先進(jìn)的模型進(jìn)行比較,以評(píng)估所提出模型的有效性。對(duì)比模型的選擇如下所示:

1) NeuMF[19]是一種基于深度神經(jīng)網(wǎng)絡(luò)的推薦算法,結(jié)合了傳統(tǒng)矩陣分解技術(shù)和多層感知機(jī)制,可以同時(shí)提取低階和高階的語義特征。

2) HetGNN[14]是一種基于圖結(jié)構(gòu)的異質(zhì)圖模型,將不同類型的鄰居節(jié)點(diǎn)分別進(jìn)行聚類處理,為不同種類的異質(zhì)信息專門設(shè)計(jì)編碼方式以盡可能地保留其中的異質(zhì)信息,然后再進(jìn)行特征融合。

3) HAN[13]是一種基于元路徑的異質(zhì)圖模型,提出基于層次注意力的異質(zhì)圖神經(jīng)網(wǎng)絡(luò)模型,對(duì)推薦系統(tǒng)中不同類型的節(jié)點(diǎn)和關(guān)系進(jìn)行差異化的評(píng)估,有所偏重地融合更重要的信息。

4) MCRec[12]是一種基于元路徑的異質(zhì)圖模型,從每條元路徑中基于優(yōu)先級(jí)采樣策略提取高質(zhì)量的實(shí)例作為背景信息,隨后使用共同注意力機(jī)制進(jìn)行有機(jī)的交互融合,最終有效地利用基于元路徑的豐富背景信息實(shí)現(xiàn)低階和高階特征的交互融合。

5) IPE(評(píng)估系統(tǒng))[19]是一種基于元路徑的異質(zhì)圖模型,提出了一種新穎的交互式路徑來捕獲元路徑之間豐富的交互信息,以模擬查詢對(duì)象與目標(biāo)對(duì)象之間的多個(gè)路徑之間的相互依賴性。

6) TANHIN[20]是一種基于元路徑的異質(zhì)圖模型,設(shè)計(jì)了一個(gè)結(jié)合源域和目標(biāo)域的跨域模型學(xué)習(xí)對(duì)象和物品的表示。

結(jié)果如表1所示,與之前所有工作相比,本文所提出的模型在2個(gè)數(shù)據(jù)集的所有評(píng)估指標(biāo)上都取得了更好的性能,說明本文提出的模型能夠充分利用鄰居組多層交互提取多尺度語義信息,同時(shí)實(shí)現(xiàn)了多尺度語義信息的高效融合,進(jìn)而豐富了節(jié)點(diǎn)信息表示的強(qiáng)度,有效緩解了聚合過程中的信息損失,提升了推薦效果。

表1 2個(gè)數(shù)據(jù)集上有效性評(píng)估的對(duì)比實(shí)驗(yàn)

4.3 消融實(shí)驗(yàn)

首先,實(shí)驗(yàn)在數(shù)據(jù)集上對(duì)3種模型變體進(jìn)行比較,驗(yàn)證本文模型中各個(gè)模塊的有效性。在原有模型MSFRec的基礎(chǔ)上,MSFRec-Extract將基于鄰域交互的多尺度語義提取模塊替換為基于相同元路徑結(jié)構(gòu)的公共鄰域提取方法;MSFRec-Fusionn將多尺度語義聚合模塊中的節(jié)點(diǎn)級(jí)注意力去除,為各節(jié)點(diǎn)賦予相同的注意力權(quán)重;MSFRec-Fusions將多尺度語義聚合模塊中的元路徑類型級(jí)注意力去除,為各元路徑賦予相同的注意力權(quán)重。實(shí)驗(yàn)結(jié)果如表2 所示,本章提出的各模塊均為提升模型性能提供了有效貢獻(xiàn)。其中,多尺度語義提取模塊有效地提取了異質(zhì)信息網(wǎng)絡(luò)中的多尺度語義信息,豐富了節(jié)點(diǎn)表示。多尺度語義聚合模塊通過兩階段的細(xì)粒度注意力機(jī)制同時(shí)關(guān)注了節(jié)點(diǎn)級(jí)別和元路徑級(jí)別下語義信息影響力的細(xì)微差異。

表2 驗(yàn)證模塊有效性的消融實(shí)驗(yàn)

然后,實(shí)驗(yàn)通過在2個(gè)數(shù)據(jù)集上逐步增加多尺度語義提取模塊中的元路徑種類來評(píng)估本文設(shè)計(jì)的元路徑結(jié)構(gòu)的有效性,評(píng)估指標(biāo)為AUC。實(shí)驗(yàn)結(jié)果如表3和表4所示,可以看出,本文設(shè)計(jì)的元路徑結(jié)構(gòu)精準(zhǔn)建模了多源異質(zhì)信息間豐富多樣的交互關(guān)系,針對(duì)性地提取、聚合了特定的語義信息,有效地捕獲了關(guān)鍵信息輔助推薦。進(jìn)一步分析可以看出,元路徑之間的貢獻(xiàn)度存在明顯差異,在Movielens數(shù)據(jù)集中UMTM路徑顯著提升了推薦結(jié)果,說明在電影推薦任務(wù)中共同主題所代表的語義關(guān)系最為重要;在Amazon數(shù)據(jù)集中UIVI路徑顯著提升了推薦結(jié)果,說明在商品推薦任務(wù)中共同評(píng)價(jià)關(guān)系是最為重要的交互關(guān)系。

表3 驗(yàn)證 Movielens與Amazon數(shù)據(jù)集上元路徑有效性的消融實(shí)驗(yàn)

表4 驗(yàn)證 Amazon 數(shù)據(jù)集上元路徑結(jié)構(gòu)有效性的消融實(shí)驗(yàn)

最后,實(shí)驗(yàn)在數(shù)據(jù)集上進(jìn)行消融實(shí)驗(yàn)測(cè)試不同的多尺度語義提取上限對(duì)模型產(chǎn)生的影響,評(píng)估標(biāo)準(zhǔn)為AUC值,對(duì)比模型的設(shè)置如下所示。

N-hop Neighbors:通過控制鄰居組劃分中最遠(yuǎn)鄰居的距離調(diào)整鄰域多層交互所涉及的范圍,進(jìn)而限制多尺度語義提取的尺度上限,N-hop代表鄰居組劃分的最遠(yuǎn)跳數(shù)為N。

實(shí)驗(yàn)結(jié)果如表5所示,可以看出,隨著多尺度語義上限的提升,模型的整體性能先上升后下降。進(jìn)一步分析原因可能是隨著語義尺度上限提升,鄰域交互范圍得到擴(kuò)大,可以更全面地學(xué)習(xí)到多層交互信息。當(dāng)鄰域范圍擴(kuò)展在一定限度內(nèi)時(shí),這些信息對(duì)最終性能提升有所助益。然而,隨著多語義尺度上限不斷提升,這種擴(kuò)展逐漸達(dá)到了效益邊界,擴(kuò)展超過一定限度則可能會(huì)包含更多噪聲,對(duì)最終預(yù)測(cè)反而不利。

表5 驗(yàn)證提升多尺度語義上限影響的消融實(shí)驗(yàn)

5 結(jié)論

當(dāng)前,推薦算法大多對(duì)多源異質(zhì)信息的利用不足,在元路徑的結(jié)構(gòu)設(shè)計(jì)和語義信息的高效聚合上存在許多改進(jìn)空間。同時(shí)在鄰域信息聚合過程中發(fā)生信息損失的問題,而在異質(zhì)圖模型使用過程中,由于多源異質(zhì)信息存在屬性維度上的差異,信息損失問題造成的影響被進(jìn)一步放大。因此,提出了一種基于異質(zhì)信息網(wǎng)絡(luò)的多尺度語義融合推薦模型,首先,針對(duì)推薦場(chǎng)景構(gòu)建異質(zhì)圖,通過設(shè)計(jì)合理的元路徑獲取異質(zhì)圖在特定關(guān)系下的語義結(jié)構(gòu)以針對(duì)性提取特定語義信息。然后,基于元路徑搜索節(jié)點(diǎn)的鄰居節(jié)點(diǎn),根據(jù)到節(jié)點(diǎn)的距離將鄰居節(jié)點(diǎn)劃分為不同的鄰居組,進(jìn)而成功地將節(jié)點(diǎn)之間的交互擴(kuò)展為了鄰居組之間的交互。通過利用鄰居組之間的多層交互關(guān)系提取出了多尺度的語義信息。最后,使用兩階段、細(xì)粒度的關(guān)系注意力關(guān)注了多尺度語義之間的細(xì)微差別,進(jìn)而指導(dǎo)了多尺度語義信息高效融合。實(shí)驗(yàn)結(jié)果證明,文中提出的推薦模型能夠在形成最終表示前充分利用鄰域信息增強(qiáng)節(jié)點(diǎn)之間的交互,在一定程度上抵抗了鄰域信息聚合過程中的信息損失,改進(jìn)了推薦結(jié)果。