感知信息的反事實特征增強社交推薦

周 明

（安徽理工大學計算機科學與工程學院，淮南 232001）

0 引言

推薦系統(tǒng)在很多場景已經(jīng)得到了廣泛的應(yīng)用，并且通過非常多的關(guān)鍵詞匯向用戶提供更加個性化的項目。對于高效的推薦系統(tǒng)來說，其關(guān)鍵核心就是通過用戶的歷史交互行為來預(yù)測下一階段用戶可能感興趣的項目。伴隨著對比學習在推薦系統(tǒng)領(lǐng)域的成功，基于對比學習社交推薦模型——旨在構(gòu)建一種通過對比學習［1］的反事實交互特征和觀測交互特征來增強用戶表征的框架，也取得一定的進展。通常而言，現(xiàn)代化社交推薦系統(tǒng)［2］采用兩個主要組件來預(yù)測用戶偏好：用戶和項目嵌入學習，接下來是用戶-項目交互建模。那么在ciao 和epinions 兩個數(shù)據(jù)集中用戶對于以往交互項目的評級便至關(guān)重要。

社交推薦考慮推薦用戶感興趣的內(nèi)容，即用戶關(guān)系鏈中的推薦內(nèi)容。近年來，F(xiàn)an 等［3］研究了項目特征之間的相關(guān)性，將用戶特征空間和項目特征空間抽象為兩個圖網(wǎng)絡(luò)，以提高社會化推薦的準確率。Wu 等［4］提出了一種項目關(guān)系圖神經(jīng)網(wǎng)絡(luò)，用于同時發(fā)現(xiàn)多個復(fù)雜關(guān)系，并為無法直接獲得的項目或用戶信息提供解決方案。Salamat 等［5］將社交網(wǎng)絡(luò)建模為異質(zhì)圖，并采用圖神經(jīng)網(wǎng)絡(luò)和注意力機制來聚集來自所有來源的信息，并建立用戶-用戶、項目-項目和用戶-項目關(guān)系。關(guān)于關(guān)系，在實體之間還存在更高階的關(guān)系。許多研究已經(jīng)考慮整合知識圖和用戶-項目圖來捕捉這些高階關(guān)系。鑒于圖神經(jīng)網(wǎng)絡(luò)［6］的力量，它們被納入了本文的框架。

基于對比學習的自監(jiān)督學習，在計算機視覺和自然語言處理等領(lǐng)域取得了杰出的成績。對比學習的核心技術(shù)是在嵌入空間中將“正”樣本盡可能地拉一起，并盡可能放大“負”樣本之間的距離。例如，Gao等［7］考慮社區(qū)結(jié)構(gòu)并設(shè)計BiGI來識別二分圖的全局性質(zhì)，最終提出了一種基于雙塔DNN的對比SSL模型。該算法旨在利用項目屬性改進基于協(xié)同過濾的推薦。

1 研究框架

設(shè)U={u1,u2,…,un}和V={v1,v2,…,vm}分別表示用戶和項目的集合，其中n和m分別為用戶和項目的數(shù)量。L∈Lx×y表示用戶-項目的交互圖。用戶對相應(yīng)項目給出的評分值用eij來表示。如果用戶不對項目進行評分或者兩者沒有互動，eij= 0。一般來說，矩陣L是稀疏的。將用戶社交圖定義為PU=(U,QU)，其中QU被用作連接用戶的邊集。

圖1說明了總體架構(gòu)，它由兩個主要模塊組成：①審閱感知模塊：基于圖形輸入將評級合并到用戶偏好建模中；②圖形對比學習模塊：引入對比從兩個方面提高推薦性能，用戶/項目嵌入學習和交互建模。

圖1 本模型框架

2 模型構(gòu)造

2.1 用戶/項目建模

對于用戶建模，目的是學習用戶的潛在因素偏向。在這一節(jié)中，本文說明了如何從項目聚合中對用戶的潛在因素偏差進行建模，而用戶ui的潛在因素偏差是由兩部分組成的，一部分是從相關(guān)項目聚合得到的，另一部分是從社會聚合得到的。為了從數(shù)學上得到用戶ui的潛在因素偏差，我們使用以下函數(shù)：

其中：σ是非線性激活函數(shù)的集合，w和b表示權(quán)重和偏差。

與項目聚合類似，用戶建模的目的是學習用戶ui對相應(yīng)項目vj的潛在因素偏差，并將其表示為Hjv：

接下來，我們定義表示Gα和Gβ：

其中：Gα是用戶和項目之間的意見意識互動的集合；Gβ是一個評級感知的互動表示。然后用Ru表示多層感知器，作為嵌入rij和意見嵌入mj的組合。

2.2 對比學習模塊

基于之前的對比學習用于圖數(shù)據(jù)學習的工作中，本文將對比學習用于用戶表征增強模塊中。具體來說分以下兩個步驟（如圖2所示）。

圖2 反事實示意圖

圖3 在Ciao數(shù)據(jù)集上的表現(xiàn)

圖4 在Epinions數(shù)據(jù)集上的表現(xiàn)

步驟一：首先對原始交互特征，依據(jù)目標項目識別出可缺少的概念、不可或缺的概念。然后對其進行反事實轉(zhuǎn)化。替換原始行為特征中可缺少的概念的特征作為反事實特征的正樣本，替換原始行為特征中不可缺少的概念的特征作為反事實特征的負樣本。

步驟二：在獲得反事實特征的正負樣本后，分別對原始行為交互特征與反事實特征正負樣本進行對比學習，以及目標項目與事實特征正負樣本進行對比學習。

這個過程可以表述如下：

其中：u1是輸入用戶；u2是從U*U↑中采樣的負用戶。

2.3 評分預(yù)測

在得到潛在的因素偏差Hu，Hv組成，分別代表用戶和物品。最后使用多層感知器來獲得的偏好評級:

2.4 模型優(yōu)化

我們從評級預(yù)測的角度來評估我們提出的模型。假設(shè)α是數(shù)據(jù)集中的所有評分的集合，α={(i,j):eij≠0} 。目標函數(shù)：

其中，eij是用戶ui對物品vj的基礎(chǔ)真實評價。

3 實驗與結(jié)果分析

3.1 數(shù)據(jù)集介紹

我們將模型分別放在Ciao 和Epinions 數(shù)據(jù)集上進行評估，這兩個數(shù)據(jù)集都取自流行的社交網(wǎng)站，都包含了用戶、項目、評級和社交關(guān)系等組成部分，每個社交數(shù)據(jù)項包括“追隨者數(shù)據(jù)指數(shù)”和“追隨者指數(shù)”。

表1 數(shù)據(jù)集信息

3.2 評價指標

在比較本模型與其他模型的評分預(yù)測性能時，我們使用兩個指標來評估推薦算法的預(yù)測準確性，即MAE和RMSE。

我們使用Python 3.8、PyTorch 1.7和Cuda 11作為算法構(gòu)建的環(huán)境。對于每個數(shù)據(jù)集的參數(shù)設(shè)置，用80%作為學習參數(shù)的訓(xùn)練集，用10%作為優(yōu)化的驗證集，最后用10%作為測試集。對于嵌入大小，我們測試了［8，16，32，64，128，256］的值，而學習率在［0.0005，0.001，0.005，0.01，0.05，0.1］之間。

3.3 與基線模型比較

SVD：是一個經(jīng)典的矩陣分解模型，它通過用戶和項目潛在因素的內(nèi)積來估計評分。

NCF：使用神經(jīng)網(wǎng)絡(luò)來預(yù)測基于用戶和項目自由嵌入的評級。

DeepSoR：基于深度神經(jīng)網(wǎng)絡(luò)并結(jié)合矩陣分解方法來獲得用戶項的表示。

GraphRec：第一次將圖神經(jīng)網(wǎng)絡(luò)和社交網(wǎng)絡(luò)結(jié)合起來，分別表示用戶和項目的潛在表示。

通過數(shù)據(jù)對比可知，Epinions數(shù)據(jù)集比Ciao數(shù)據(jù)集有更多的用戶項目互動，而且用戶對特定項目的興趣往往會隨著時間而波動。因此，像DeepSoR 這樣僅僅利用評級信息的模型在Ciao 數(shù)據(jù)集上的表現(xiàn)稍好，但像Graphrec 這樣利用數(shù)據(jù)集中的社會關(guān)系的模型在Epinions數(shù)據(jù)集上的表現(xiàn)稍好。相對而言，本文的方法優(yōu)于以前的推薦模型，因為它結(jié)合了社會數(shù)據(jù)并更廣泛地利用了數(shù)據(jù)本身的全局特征。同時本文加入的對比學習可以更好地增強用戶表征，更精確地降低推薦誤差。

4 結(jié)語

為了更好地利用用戶-項目二分圖的獨特結(jié)構(gòu)和評分特征，同時利用評級信息增強用戶/項目嵌入和用戶-項目交互建模，一個基于圖的用戶偏好建模和評分預(yù)測的對比學習框架。具體來說，我們設(shè)計了一個新的評分感知圖學習模塊，以更有效地將評論信息整合到用戶和項目嵌入學習中。在這個組件中，評級用于調(diào)整相應(yīng)鄰居和評論本身的影響。此外，還開發(fā)了一個額外的比較學習模塊來調(diào)整模型，以更好地建模節(jié)點嵌入和交互。最后，在推薦的兩個基準數(shù)據(jù)集上進行了大量實驗，驗證了模型的優(yōu)越性和有效性。未來，我們將使用更先進的評論嵌入方法來實現(xiàn)更好的評論表示，并設(shè)計更好的融合和對齊方法來對評論和用戶（項目）之間的復(fù)雜交互進行建模。