• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    圖神經(jīng)網(wǎng)絡(luò)推薦系統(tǒng)綜述

    2022-10-16 05:50:44吳靜謝輝姜火文
    計算機與生活 2022年10期
    關(guān)鍵詞:用戶信息方法

    吳靜,謝輝,姜火文

    江西科技師范大學(xué) 數(shù)學(xué)與計算機科學(xué)學(xué)院,南昌330038

    隨著大數(shù)據(jù)時代的到來,數(shù)據(jù)結(jié)構(gòu)更加復(fù)雜,圖神經(jīng)網(wǎng)絡(luò)推薦系統(tǒng)是用來處理非歐式數(shù)據(jù)并以此來提升推薦系統(tǒng)準確度的方法。現(xiàn)實生活中形成的社交網(wǎng)絡(luò)、知識圖譜等都存在大量的非歐式數(shù)據(jù),圖神經(jīng)網(wǎng)絡(luò)(graph neural network,GNN)推薦系統(tǒng)(recommendation system,RS)能達到傳統(tǒng)推薦系統(tǒng)所無法達到的效果。尤其在項目與項目、用戶與用戶、用戶與項目以及顯性或隱性信息之間的處理上,GNN 推薦系統(tǒng)能夠借助非歐式數(shù)據(jù),使得推薦結(jié)果高質(zhì)量化。推薦系統(tǒng)目前的主要挑戰(zhàn)是如何從用戶-物品交互以及輔助信息中學(xué)習(xí)有效的嵌入信息。其大部分的信息本質(zhì)上都是圖結(jié)構(gòu),而GNN 在表示學(xué)習(xí)方面具有先天優(yōu)勢。隨著深度學(xué)習(xí)的發(fā)展,作為常見的深度學(xué)習(xí)模型GNN,其應(yīng)用于推薦系統(tǒng)方向的研究與日俱增,在推薦方向的應(yīng)用將成為發(fā)展的必然趨勢?;贕NN 推薦系統(tǒng)問題的相關(guān)研究正受到人們的廣泛關(guān)注和研究。以往的GNN 推薦方向的綜述從GNN 模型的圖結(jié)構(gòu)、個人或群體等角度上進行總結(jié)歸納,本文最大的創(chuàng)新點在于從方法、問題兩個角度切入分析,在近些年來圖神經(jīng)網(wǎng)絡(luò)的相關(guān)研究進行整理的基礎(chǔ)上,對圖神經(jīng)網(wǎng)絡(luò)推薦系統(tǒng)進行深入研究,從兩個角度來分析總結(jié)基于GNN 推薦系統(tǒng)的最新研究進展,提出GNN 推薦系統(tǒng)當前存在的問題并討論未來的主要研究方向。

    1 推薦系統(tǒng)

    推薦系統(tǒng)的核心是通過用戶的歷史行為、興趣偏好或者人口統(tǒng)計學(xué)特征來得到某種推薦算法,該算法能產(chǎn)生用戶感興趣的項目列表,而該項目列表使得排在前面的物品展示給用戶。正因為互聯(lián)網(wǎng)的發(fā)展,推薦系統(tǒng)已經(jīng)成為互聯(lián)網(wǎng)產(chǎn)品的標配,而推薦系統(tǒng)的主要目標是發(fā)現(xiàn)并建立用戶與信息之間的通道。從用戶角度來看,推薦系統(tǒng)就是幫助用戶找到他們所需要的信息,例如喜歡的物品或服務(wù),還會幫助用戶做出決策,并且發(fā)現(xiàn)用戶可能感興趣的潛在信息;從信息角度來看,推薦系統(tǒng)可以將特定的信息提供給特定的用戶,以此來提供個性化的服務(wù),提高用戶信任度和粘性,為商家增加營收。根據(jù)推薦算法所用數(shù)據(jù)的不同分為基于內(nèi)容的推薦、協(xié)同過濾的推薦以及混合的推薦。如圖1 所示為推薦系統(tǒng)基本分類。

    圖1 推薦系統(tǒng)分類Fig.1 Recommendation system classification

    基于協(xié)同過濾的推薦系統(tǒng)是基于用戶-項目的歷史交互記錄產(chǎn)生推薦,可以是顯性反饋(評分、喜歡/不喜歡),也可以是隱性反饋(瀏覽、點擊);基于內(nèi)容的推薦主要是根據(jù)用戶和項目的特征信息來進行推薦;混合方法推薦則結(jié)合了以上兩種不同的推薦方法,即可同時建模靜態(tài)特征與動態(tài)交互。在基于協(xié)同過濾的推薦系統(tǒng)上,圖神經(jīng)網(wǎng)絡(luò)屬于基于圖的模型。

    2 圖神經(jīng)網(wǎng)絡(luò)推薦系統(tǒng)方法

    圖神經(jīng)網(wǎng)絡(luò)借鑒了卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)網(wǎng)絡(luò)和深度自編碼器的思想,目的是為了擴展現(xiàn)有神經(jīng)網(wǎng)絡(luò),定義和設(shè)計用于處理圖形結(jié)構(gòu)數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。盡管在提取歐氏空間數(shù)據(jù)的特征方面,傳統(tǒng)方法取得了巨大的成功,但圖神經(jīng)網(wǎng)絡(luò)既可以利用圖來反映對象之間的復(fù)雜關(guān)系,還可以對非歐氏空間生成的數(shù)據(jù)進行特征提取和表示。它在學(xué)習(xí)圖形結(jié)構(gòu)數(shù)據(jù)方面表現(xiàn)出了更強大的功能。正因為GNN在圖學(xué)習(xí)上的優(yōu)越性能,它被廣泛運用于推薦系統(tǒng)。除此之外,它也被應(yīng)用到許多領(lǐng)域,如文本分類、自然語言處理、疾病預(yù)測、特征關(guān)系提取等。

    對于推薦系統(tǒng)來說,一般推薦系統(tǒng)包括三個階段,分別是匹配、排序和再排序。圖神經(jīng)網(wǎng)絡(luò)的原理主要是:首先構(gòu)建圖結(jié)構(gòu)模型來反映實體和實體之間的關(guān)系;再利用特定的方法對節(jié)點進行描述并得到包含最終的鄰居節(jié)點信息和拓撲結(jié)構(gòu)特點狀態(tài)的節(jié)點,該節(jié)點已經(jīng)進行了不斷的更新迭代;最后將通過某種特定的方式輸出這些節(jié)點的表示形式,并獲得所需要的信息。而對于GNN 推薦系統(tǒng)來說,其主要階段和圖神經(jīng)網(wǎng)絡(luò)過程接近,一般只分為四步:(1)根據(jù)實體相互關(guān)系建立GNN 模型;(2)決定GNN模型的信息傳播與更新方法;(3)提取出更新后的節(jié)點特征;(4)選取算法實現(xiàn)推薦。本文基于圖神經(jīng)網(wǎng)絡(luò)推薦系統(tǒng)的方法主要分成了五大類。圖2 表示了GNN 推薦系統(tǒng)主要的五大分類。

    圖2 GNN 推薦系統(tǒng)分類Fig.2 Taxonomy of graph neural network-based recommendation system

    2.1 圖卷積網(wǎng)絡(luò)推薦系統(tǒng)

    圖卷積網(wǎng)絡(luò)(graph convolution networks,GCN)是將卷積運算從傳統(tǒng)數(shù)據(jù)推廣到了圖數(shù)據(jù),如圖3所示。

    圖3 圖卷積原理圖Fig.3 Principle diagram of graph convolution networks

    該圖是使用深度為2 的卷積模型。左邊是一個小的輸入圖示例,右邊為兩層神經(jīng)網(wǎng)絡(luò)。該網(wǎng)絡(luò)使用節(jié)點及其鄰域()(節(jié)點、、)來計算節(jié)點的值。

    在基于圖卷積神經(jīng)網(wǎng)絡(luò)推薦系統(tǒng)的算法中,一部分算法并不會直接使用GCN 方法,而是將GCN 與圖嵌入融合在一起,從而提升了整個模型的效率。事實上,GCN 與其他四類也進行了融合,創(chuàng)造了許多成果。在最近的文獻研究里,更多的是處理大規(guī)模的數(shù)據(jù)。文獻[11]提出了一種基于高效的隨機游走方法來構(gòu)建卷積模型,并設(shè)計了一個新穎的訓(xùn)練策略來改善模型的魯棒性和收斂性。其在基于圖卷積架構(gòu)的推薦系統(tǒng)上,能解決數(shù)億級別用戶的Web 推薦任務(wù),但不足之處在于不能解決其他大規(guī)模的圖表示學(xué)習(xí)問題。對于處理大規(guī)模數(shù)據(jù)的計算和內(nèi)存問題上,Chen等提出了一種基于混合內(nèi)存計算(computation-in-memory,CIM)結(jié)構(gòu)的圖卷積網(wǎng)絡(luò)的有效分配方法。該方法還解決了圖卷積網(wǎng)絡(luò)在應(yīng)用中的不規(guī)則數(shù)據(jù)的訪問問題。CIM 結(jié)構(gòu)上優(yōu)化了GCN 的任務(wù)分配,為GCN 推薦系統(tǒng)上數(shù)據(jù)處理提供了一個解決方案。同樣地,對于處理和訓(xùn)練復(fù)雜的大規(guī)模異構(gòu)圖數(shù)據(jù)上,Tran等則開發(fā)了一個基于GCN 原理的新的框架——HeteGraph(graph learning in recommender systems via graph convolutional networks)。其通過一種抽樣技術(shù)和一個圖卷積運算來學(xué)習(xí)高質(zhì)量圖的節(jié)點嵌入。這個與傳統(tǒng)的GCN 不同,后者需要一個完整的圖鄰接矩陣來進行嵌入學(xué)習(xí),而該框架是設(shè)計了兩個模型來評估推薦系統(tǒng)任務(wù),即項目評級預(yù)測和多樣化項目推薦。該方法主要是應(yīng)用于大規(guī)模異構(gòu)圖數(shù)據(jù)的推薦問題,但僅適用于兩個實體,即用戶和項目。進一步來說,Shafqat等將用戶-項目點擊交互作為概率分布,并使用該值度量節(jié)點之間的相似度。該方法采用了兩個不同節(jié)點之間的相似性度量來事先對鄰居進行采樣。這種方法簡化了GCN 模型的鄰居抽樣任務(wù),提高了訓(xùn)練效率,降低了復(fù)雜度和計算時間,但需要形成會話圖,并不適應(yīng)于所有推薦系統(tǒng)場景。對于異構(gòu)圖數(shù)據(jù),不同于Tran等方法,Yin等提出的基于異構(gòu)信息網(wǎng)絡(luò)的高效推薦算法是利用圖卷積神經(jīng)網(wǎng)絡(luò)自動學(xué)習(xí)節(jié)點信息的特點,提取異構(gòu)信息,并融合異構(gòu)信息的計算策略和評分信息融合策略解決節(jié)點評分問題,通過更新節(jié)點,減小了訓(xùn)練規(guī)模,提高了計算效率。除了數(shù)據(jù)量的問題,關(guān)于可解釋性上,同樣地利用了用戶和項目兩個實體,Chen等將知識圖(knowledge graph,KG)引入到推薦系統(tǒng)來提高可解釋性。他們提出了一種基于KG 的交互式規(guī)則引導(dǎo)推薦(interactive rules-guided recommender,IR-Rec)框架,主要是從增強的KG 中提取用戶-項目之間交互的多條路徑,再從潛在動機角度將這些路徑歸納出一些公共行為規(guī)則,通過這些規(guī)則來確定推薦的潛在原因。根據(jù)用戶、項目和規(guī)則設(shè)計了圖卷積網(wǎng)絡(luò)等不同神經(jīng)網(wǎng)絡(luò)來學(xué)習(xí)嵌入表示。Bonet等給出了一種時間協(xié)同過濾(temporal collaborative filtering,TCF)方法,利用GNN 學(xué)習(xí)用戶和項目表示,并利用遞歸神經(jīng)網(wǎng)絡(luò)建模。該方法為了解決數(shù)據(jù)稀疏性,使用每段時間累積的數(shù)據(jù)來訓(xùn)練GNN,提高了推薦系統(tǒng)的性能,但其側(cè)重于提高推薦的準確度,忽視了推薦系統(tǒng)的可解釋性,且無法應(yīng)對數(shù)據(jù)樣本量稀少的情況。

    2.2 圖注意力網(wǎng)絡(luò)推薦系統(tǒng)

    圖注意力網(wǎng)絡(luò)(graph attention network,GAT)是一種基于空間的圖卷積網(wǎng)絡(luò),它在聚合特征信息時,將注意力機制用于確定節(jié)點鄰域權(quán)重。它能夠放大數(shù)據(jù)中最重要部分的影響并且能夠自適應(yīng)地學(xué)習(xí)鄰居節(jié)點權(quán)重。但是,計算成本和內(nèi)存消耗會隨著每對鄰居之間的注意權(quán)重的計算而迅速增加。這也是基于GAT 推薦系統(tǒng)的難題。

    基于GAT 推薦系統(tǒng)的研究比較豐富。社交關(guān)系是GAT 應(yīng)用的主要因素。Song等提出了用于在線社區(qū)基于會話的社交推薦的動態(tài)圖注意力神經(jīng)網(wǎng)絡(luò)(dynamic-graph-attention neural network)模型。同樣地,Jiang 等人也認為社會關(guān)系能優(yōu)化推薦系統(tǒng),由此將社會信息融入到圖卷積網(wǎng)絡(luò)中的嵌入鄰域聚類中,利用用戶-項目交互圖和社會關(guān)系圖來捕捉用戶的項目品味和用戶朋友之間的關(guān)系。他們設(shè)計了一種新的框架——注意力社會推薦系統(tǒng)(attentional social recommendation system,ASR),通過兩個注意力機制分別研究節(jié)點的鄰居權(quán)重以及交互圖和社交圖之間的語義貢獻,并利用分層圖注意力卷積網(wǎng)絡(luò)使SAR 能自適應(yīng)地探索更高階的交互和社會鄰居,以構(gòu)建更好的嵌入表示。但是,ASR 設(shè)置了兩個注意力機制而使模型更加復(fù)雜,往后需要有效、合理地簡化GAT。在社會關(guān)系的另一方面,對于利用社會信息解決傳統(tǒng)協(xié)同過濾中的數(shù)據(jù)稀疏性和冷啟動問題,Wu等提出了能夠?qū)W習(xí)二重社交影響的對偶圖注意力網(wǎng)絡(luò)(dual graph attention networks for modeling multifaceted social effects in recommender systems,DANSER),它包括兩個對偶的圖注意力網(wǎng)絡(luò),以學(xué)習(xí)推薦系統(tǒng)中社會效應(yīng)的深層表征,利用了特定用戶的注意力權(quán)重和通過動態(tài)并能夠感知上下文的注意力權(quán)重來建模。不同于大多數(shù)的模型,它并沒有假設(shè)好友的社會影響是固定靜態(tài)的。而在上述文獻中,文獻[18,20]都有考慮到用戶的動態(tài)性,而文獻[19]僅僅利用了其他信息來關(guān)聯(lián)一些隱性信息。實際上,許多社會研究和實踐案例表明,人們的消費行為和社會行為不是孤立的,而是相互關(guān)聯(lián)的。一些隱性信息也值得挖掘。Xiao等基于圖神經(jīng)網(wǎng)絡(luò)、注意機制和互補模型,創(chuàng)造出了一種新的框架——MutualRec(joint friend and item recommendations with mutualistic attentional graph neural networks),用于聯(lián)合建模社交網(wǎng)絡(luò)中的用戶偏好和社交交互。這種框架使用了空間和頻譜注意力神經(jīng)網(wǎng)絡(luò)層來獲取用戶的偏好特征和社交特征,再通過互補模型中的關(guān)注層將兩個特征融合在一起,同時解決了社交推薦和鏈路預(yù)測任務(wù)。該模型具有一定局限性,可以結(jié)合知識圖來推薦,進而更好地使前兩層緩解數(shù)據(jù)稀疏性。而Dang等首次提出了一種將知識圖和知識表示引入到Web服務(wù)推薦中的深層知識感知方法,并提出了一種深度知識感知的Web 服務(wù)推薦框架(deep knowledge-aware approach for Web service recommendation,DKWSR)。該框架還加入了注意力機制來模擬當前候選項目的標簽對組合項目表示的影響。這解決了因用戶調(diào)用有限數(shù)量的服務(wù)而導(dǎo)致的數(shù)據(jù)稀疏性和冷啟動問題,并提高了推薦結(jié)果的可解釋性。Li等為解決數(shù)據(jù)稀疏和冷啟動的問題,利用圖的邊信息創(chuàng)造出了一個名為GSIRec(graph side information for recommendation)的深層端到端推薦框架。其利用了圖注意力神經(jīng)網(wǎng)絡(luò)來增強推薦。Salamat等通過將社會網(wǎng)絡(luò)建模為一個異質(zhì)圖,利用帶注意力機制的GNN 智能聚合來自所有來源的信息,并提出了一種新的基于圖的推薦系統(tǒng)Hetero-GraphRe(heterogeneous graph-based neural networks for social recommendations)。該系統(tǒng)提高了模型的可解釋性,但未考慮社交網(wǎng)絡(luò)的動態(tài)行為。以上的文獻方法都能有效解決數(shù)據(jù)稀疏和冷啟動問題,但由于文獻[24]需要獲取了大量的信息,那么如何進行高效的數(shù)據(jù)篩選從而捕獲有用的信息也是一個大的挑戰(zhàn)。眾所周知,KG 能有效地緩解數(shù)據(jù)稀疏性,但基于KG 的推薦系統(tǒng)不能自動捕獲實體對推薦的長期依賴關(guān)系,Sang等提出了一種雙通道神經(jīng)交互方法——知識圖增強神經(jīng)協(xié)同過濾殘差遞歸網(wǎng)絡(luò)(knowledge graph enhanced neural collaborative filtering with residual recurrent network,KGNCF-RRN)。該方法能捕捉豐富的語義信息,還能捕捉用戶與項目之間復(fù)雜的隱含關(guān)系,用于推薦。這也為捕獲隱性信息提供了方法。

    2.3 圖自動編碼器推薦系統(tǒng)

    圖自動編碼器(graph autoencoders)是一類圖嵌入方法,典型的用法是利用多層感知機作為編碼器來獲取節(jié)點嵌入。其目的是利用神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)將圖的頂點表示為低維向量。Kipf 與Welling 在2016 年提出了基于圖的(變分)自編碼器——VGAE(variational graph auto-encoder)。自此開始,圖自編碼器在很多領(lǐng)域都派上了用場,例如腦電路圖、多視圖、社交網(wǎng)絡(luò)等。

    在隱式關(guān)系上,文獻[29-32]各自提出了模型,但區(qū)別在于一個是捕捉圖結(jié)構(gòu)下的隱式信任關(guān)系,另一個是捕獲隱式數(shù)據(jù)之間的關(guān)系。Zheng等提出了一種基于變分自動編碼器(variational auto-encoder,VAE)的隱式信任關(guān)系感知社交推薦模型(implicit trust relation-aware model,ITRA)。ITRA 采用注意模塊將加權(quán)信任嵌入信息反饋到繼承的非線性VAE 結(jié)構(gòu)中。模型可以通過重建一個包含間接關(guān)鍵意見領(lǐng)袖和鄰居顯性聯(lián)系的隱式高階交互的非二進制鄰接社交矩陣進行推薦。而典型的模型通常將用戶信任關(guān)系描述為從社交圖中導(dǎo)出的二進制鄰接矩陣,基本上只包含鄰域交互,然后用相同的值對不同個體的信任值進行編碼。這種方法無法捕捉隱藏在圖結(jié)構(gòu)下的隱式高階關(guān)系,因此忽略了間接因素的影響。而Yao等提出了相關(guān)瓦瑟斯坦自動編碼器(correlated Wasserstein autoencoders,CWAEs)模型,通過無向無環(huán)圖來表示數(shù)據(jù),利用現(xiàn)實世界數(shù)據(jù)通常相互關(guān)聯(lián)的特點,以提高推薦性能。更進一步地,Deng等提出了一種混合的HybridGNN-SR(combining unsupervised and supervised graph learning for session-based recommendation)模型,將無監(jiān)督圖學(xué)習(xí)和有監(jiān)督圖學(xué)習(xí)相結(jié)合,從圖的角度來表示會話中的項目轉(zhuǎn)換模式以此捕捉節(jié)點特征的圖形結(jié)構(gòu)數(shù)據(jù)。具體說,在無監(jiān)督學(xué)習(xí)部分,提出將變分圖自動編碼器和互信息相結(jié)合來表示會話圖中的節(jié)點;在監(jiān)督學(xué)習(xí)部分,使用一種路由算法來提取會話中較高概念特征進行推薦。這種算法考慮了會話中的項目之間依賴關(guān)系。文獻[32]則是開發(fā)了一種考慮用戶偏好的監(jiān)督多變量自動編碼器(supervised multivariational autoencoder considering user preference,SMVAE-UP),可以提取內(nèi)容特征之間的關(guān)系,從而獲得偏好感知的多通道特征。這樣可以從大量帖子中為每個用戶個性化推薦帖子,但是該訓(xùn)練時間具有局限性,使用了Intel Core i77800X,NVIDIA Quadro GV100和32 GB RAM的計算機,所有用戶訓(xùn)練SMVAE(supervised multi-variational auto-encoder)的總時間為33.5 h。如何更高效、更簡潔地處理大數(shù)據(jù),從而挖掘隱式關(guān)系,是需要考慮的問題。

    2.4 圖生成網(wǎng)絡(luò)推薦系統(tǒng)

    圖生成網(wǎng)絡(luò)(graph generative networks)是給定一組觀察到的圖的情況下生成新的圖。圖生成網(wǎng)絡(luò)的方法都是基于特定領(lǐng)域,例如:分子圖生成、自然語言處理等。一些方法是將生成過程看作交替生成節(jié)點和邊,另一些方法是利用生成對抗訓(xùn)練。在最近的研究中,圖生成網(wǎng)絡(luò)正在被深度學(xué)習(xí)徹底改變,其應(yīng)用廣泛,尤其是藥物中的分子生成等方面。而在推薦系統(tǒng)的生成圖上,新節(jié)點連通性與現(xiàn)有圖的冷啟動問題一直存在。例如用戶屬性,如性別、教育等存在著大部分缺失信息,使得個性化推薦任務(wù)遇到一定問題。Zhou等提出一種基于對抗性VAE 的屬性推斷模型(infer-AVAE)。該模型將多層感知器和GNN 結(jié)合,學(xué)習(xí)正負潛在表示,還將引入互信息約束作為解碼器的正則化器,以更好地利用表示中的輔助信息并生成不受觀察限制的輸出表示,但其還是會出現(xiàn)過擬合和過度平滑問題。對稀疏性數(shù)據(jù),很容易產(chǎn)生過擬合現(xiàn)象。盡管在學(xué)習(xí)圖表示和圖生成方面出現(xiàn)了一些新的文獻,但是由于學(xué)習(xí)過程嚴重依賴于拓撲特征,從而導(dǎo)致大多數(shù)的圖表示和圖生成方法大都不能處理孤立的新節(jié)點。在這方面,Xu等提出了一個統(tǒng)一的生成圖卷積網(wǎng)絡(luò)模型,該模型通過對觀察到的圖形數(shù)據(jù)構(gòu)造的圖生成序列進行采樣,自適應(yīng)地學(xué)習(xí)生成模型框架中所有節(jié)點的節(jié)點表示。此模型是將圖表示學(xué)習(xí)和圖卷積網(wǎng)絡(luò)結(jié)合到一個順序生成模型,該方法在增長圖的鏈接預(yù)測上優(yōu)于其他方法。然而,因為計算復(fù)雜性取決于完整圖的大小,可伸縮性仍然是一個主要問題。大多數(shù)研究還會結(jié)合對抗神經(jīng)網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)構(gòu)成圖生成對抗神經(jīng)網(wǎng)絡(luò)。例如,Wu等提出了一種新的基于圖卷積的生成先令攻擊(graph convolutionbased generative shilling attack,GOAT),部署了一個生成性對抗網(wǎng)絡(luò)(generative adversarial network,GAN),其生成器還結(jié)合了一種圖卷積結(jié)構(gòu)。該方法是為了探索推薦系統(tǒng)的穩(wěn)定性,進而提出了先令攻擊模型。此推薦方法只適用于對基于評論等內(nèi)容的推薦。同樣是結(jié)合對抗神經(jīng)網(wǎng)絡(luò),Zhang等提出了一種新的全局仿射和局部特定生成對抗網(wǎng)絡(luò)(globalaffine and local-specific generative adversarial network,GALS-GAN),用于顯式構(gòu)造全局語義布局和學(xué)習(xí)不同的實例級特征,解決了合成細粒度紋理和小規(guī)模實例的困難??梢?,圖生成網(wǎng)絡(luò)推薦系統(tǒng)開始和卷積神經(jīng)網(wǎng)絡(luò)或?qū)股窠?jīng)網(wǎng)絡(luò)進行了一定程度的融合。受到深度學(xué)習(xí)和強化學(xué)習(xí)最新進展的啟發(fā),有些人開始利用圖的深度生成模型結(jié)合注意力機制來生成模型。不過,這些推薦系統(tǒng)僅僅是想生成有用且有效的信息,并沒有考慮到興趣會隨時間變化,當圖變大時,對長序列建模就變得困難了,而且這些方法都不能擴展到大的圖,其性能還有待提升。

    2.5 圖時空網(wǎng)絡(luò)推薦系統(tǒng)

    圖時空網(wǎng)絡(luò)(graph spatial-temporal networks)同時捕捉時空圖的時空相關(guān)性,它利用時空圖來建模。時空圖具有全局圖結(jié)構(gòu),每個節(jié)點的輸入隨時間變化。圖時空網(wǎng)絡(luò)的目標可以是預(yù)測未來的節(jié)點值或標簽,或者預(yù)測時空圖標簽。它常用于交通流量預(yù)測方面。最近的研究常結(jié)合深度學(xué)習(xí)使用時空圖卷積網(wǎng)絡(luò)(spatial-temporal graph convolution networks,ST-GCN)來提取空間和時間維度上的特征。例如Park等設(shè)計的生成性對抗網(wǎng)絡(luò)框架,它從一組帶有樣式標簽但未配對的運動剪輯中學(xué)習(xí)風(fēng)格特征,以支持多個樣式域之間的映射,而以往多采用單一維度,例如利用時間軸來提取數(shù)據(jù)風(fēng)格特征,無法表現(xiàn)空間動態(tài)的運動。雖然該文獻中的框架能提取空間和時間兩個維度的特征,但其對隨機噪音十分敏感,適合少量已經(jīng)標好明確樣式標簽的數(shù)據(jù)。對于涉及時間動態(tài)和屬性交互上,一般算法通過時間線分割不同的時間窗口,但不適用于有交互行為的數(shù)據(jù),還不能完全處理異構(gòu)節(jié)點數(shù)據(jù)。Zhang等提出了一個新的框架TigeCMN(temporal interaction graph embedding via coupled memory neural networks),從一個序列的時間相互作用中學(xué)習(xí)節(jié)點表示。該框架也可以結(jié)合機器學(xué)習(xí)任務(wù),適用性廣,但僅僅考慮了二部圖,未擴展到多部異構(gòu)圖而且訓(xùn)練過程中提取數(shù)據(jù)是均勻抽樣,其實用性較差,具有很大的改進空間。楊珍等提出了該方向的專利,通過建模時序信息的GCN,再分配給周圍鄰居的時序注意力權(quán)重來探索時序信息,提高了推薦系統(tǒng)的性能。但該方法只能用于購物商品推薦,具有一定的局限性。與傳統(tǒng)推薦任務(wù)不同,由于POI(point-of-interest)推薦具有個性化、空間感知和時間依賴性,圖時空網(wǎng)絡(luò)推薦系統(tǒng)常應(yīng)用于POI 推薦。已有文獻嘗試對空間和時間特征建模,但大多存在以下兩大局限性:一方面,在空間上現(xiàn)有作品只考慮了用戶和POI 的距離或者POI-POI 距離,不能發(fā)現(xiàn)用戶區(qū)域周期偏好;另一方面,在時間上大多數(shù)文獻將用戶和時間視為兩個獨立的因素,沒有發(fā)現(xiàn)不同用戶可能在不同的時間偏愛相同的POI。Han等對此提出了多個利用用戶區(qū)域周期模型和用戶POI 周期模型的評分函數(shù),還開發(fā)了一個時間平滑策略來緩解數(shù)據(jù)稀疏性問題,但未能考慮到時空序列節(jié)點之間的上下文信息。

    總體而言,在以上五類基于圖神經(jīng)網(wǎng)絡(luò)推薦系統(tǒng)研究中,如表1 所示,圖卷積與圖注意力神經(jīng)網(wǎng)絡(luò)依舊是熱點,GCN 能夠和其他四類進行嵌入獲得新的方法。而圖自動編碼器很適合發(fā)現(xiàn)并處理隱式數(shù)據(jù),圖生成神經(jīng)網(wǎng)絡(luò)會利用對抗神經(jīng)網(wǎng)絡(luò)成為對抗生成網(wǎng)絡(luò),還會結(jié)合知識圖譜增強數(shù)據(jù),減少節(jié)點數(shù)據(jù)稀疏。而圖時空網(wǎng)絡(luò)推薦系統(tǒng)場景基本上是POI任務(wù)推薦,由于數(shù)據(jù)量大,會結(jié)合注意力網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)建模。單獨采用圖生成網(wǎng)絡(luò)推薦系統(tǒng)和圖時空網(wǎng)絡(luò)推薦系統(tǒng)文獻較少。一方面是計算內(nèi)存和速度限制了該方向的研究進展;另一方面是圖生成網(wǎng)絡(luò)對于新節(jié)點只有節(jié)點屬性可用,圖時空網(wǎng)絡(luò)中的時空圖涉及到空間和時間問題。不過,這也表示了該研究處于研究階段初期。圖生成網(wǎng)絡(luò)推薦系統(tǒng)和圖時空網(wǎng)絡(luò)推薦系統(tǒng)存在巨大繼續(xù)研究的空間。

    表1 GNN 推薦系統(tǒng)各類別的對比Table 1 Classes comparison of graph neural network in recommendation system

    3 GNN 推薦系統(tǒng)問題

    由于存在該領(lǐng)域的研究成果不單單屬于以上分類,而且從圖神經(jīng)網(wǎng)絡(luò)角度來看,圖卷積神經(jīng)網(wǎng)絡(luò)常與其他四類結(jié)合來促進推薦系統(tǒng)領(lǐng)域發(fā)展,另一方面,推薦系統(tǒng)中的圖神經(jīng)網(wǎng)絡(luò)開始融合社交網(wǎng)絡(luò)和知識圖譜。雖然Xiang 等在文獻[44]已經(jīng)歸納出了問題類別,但基于圖神經(jīng)網(wǎng)絡(luò)的推薦系統(tǒng)的范圍非常龐大,有些算法和應(yīng)用很難明確歸納到某一類。而對于有些分類來說,同一分類的問題可以針對不同類型的算法和應(yīng)用。這里,按照推薦系統(tǒng)一般的場景來劃分,把問題分為六類:序列推薦問題、社交推薦問題、跨域推薦問題、多行為推薦問題、捆綁推薦問題以及基于會話的推薦問題。

    3.1 序列推薦問題

    在真實場景中,通常會使用所有數(shù)據(jù)來訓(xùn)練模型,但這樣會遺漏用戶表示中的用戶序列行為信息。在最近的研究中,Yang等通過添加一個標簽推薦函數(shù)建立一個順序推薦模型。Gu等將項目圖嵌入和上下文建模結(jié)合到推薦系統(tǒng)任務(wù)中去。而

    Tao等提出了一種新的序貫推薦方法,從隱式用戶交互歷史中學(xué)習(xí)項目趨勢信息,并將項目趨勢信息合并到后續(xù)的項目推薦任務(wù)中,利用了門控圖神經(jīng)網(wǎng)絡(luò)對項目趨勢表征建模來提高項目的表征能力。這些提出的方法都提高了推薦系統(tǒng)的性能,但文獻[46-47]都是利用歷史信息且都采用了注意力機制,只是前者使用的是會話序列信息,后者使用的是用戶交互歷史。對于隱式信息,Wang等引入知識圖,利用用戶的隱式偏好表示,整合了遞歸神經(jīng)網(wǎng)絡(luò)和注意力機制,以捕捉用戶興趣的演變和序列中不同項目之間的關(guān)系。

    3.2 社交推薦問題

    社交推薦主要是利用信任或親密的人所感興趣的東西,即用戶關(guān)系鏈中的推薦內(nèi)容,進而對用戶進行推薦。近些年,在提高社交推薦的精確度上,Guo等關(guān)注到了項目特征之間的相關(guān)性,將用戶特征空間和項目特征空間抽象為兩個圖形網(wǎng)絡(luò)。Liu等提出了項目關(guān)系圖神經(jīng)網(wǎng)絡(luò),用于同時發(fā)現(xiàn)多個復(fù)雜關(guān)系,而且對于不能直接獲取的項目或者用戶信息提供了解決方案。而Salamat等通過將社會網(wǎng)絡(luò)建模為一個異質(zhì)圖,利用帶注意力機制的GNN 智能聚合來自所有來源的信息,建立用戶與用戶、項目與項目、用戶與項目之間的關(guān)系。在關(guān)系方面,實體之間還存在著高階的關(guān)系,為了捕獲這些高階的關(guān)系,很多文獻考慮將知識圖譜和用戶-項目圖進行融合。又因為知識圖譜有多重類型的邊,所以需要使用注意力機制來聚集來自鄰居的信息。在用戶信息整合上,一些工作假設(shè)用戶具有靜態(tài)的表示,再利用GNN 來學(xué)習(xí)項目表示;另外的一些工作則將用戶作為知識圖譜中一種輸入數(shù)據(jù)來學(xué)習(xí)。例如Wang等對融合后的知識圖譜進行嵌入表示,使用注意力機制和遞歸神經(jīng)傳播鄰居節(jié)點的嵌入表示來更新當前節(jié)點的表示。這些關(guān)系在一定程度上解決了圖神經(jīng)網(wǎng)絡(luò)推薦系統(tǒng)數(shù)據(jù)的稀疏性問題。

    3.3 跨域推薦問題

    跨域推薦一般利用原本的數(shù)據(jù)集來對單個目標進行推薦,有的還考慮到用戶與物品之間的雙向潛在關(guān)系和潛在信息。Yang等將知識圖與排序?qū)W習(xí)、神經(jīng)網(wǎng)絡(luò)相結(jié)合來構(gòu)建模型,提出了基于知識圖的貝葉斯個性化推薦模型和基于知識圖的神經(jīng)網(wǎng)絡(luò)推薦模型,可以通過捕獲高階關(guān)系來解決個性化問題。文獻[56]引入了一種新的耦合圖張量分解模型。當單邊的信息以項目-項目相關(guān)矩陣或圖形的形式出現(xiàn)時,它能解釋與圖相關(guān)的邊信息。Ouyang等利用相關(guān)域的互補信息來緩解稀疏性,實現(xiàn)了基于學(xué)習(xí)應(yīng)用嵌入的跨域應(yīng)用推薦,可以為用戶找到符合自己興趣的應(yīng)用程序。對于個性化新聞推薦,Sheu等提出了一種基于上下文感知的圖嵌入方法,用于新聞的推薦。為了充分利用結(jié)構(gòu)和特征信息,Liang等提出了一種新的異構(gòu)圖神經(jīng)網(wǎng)絡(luò)框架——HGNRec(heterogeneous graph neural network framework)。Ma等提出了一個基于圖的行為感知網(wǎng)絡(luò)。由于應(yīng)用場景不一樣,所需信息的量也不同,而知識圖譜所捕獲的信息量巨大,故文獻[55]的推薦模型的運行也較其他場景更復(fù)雜。其中文獻[58-60]都是適用于新聞推薦應(yīng)用,但目標不一樣,文獻[58]強調(diào)新聞個性化,而文獻[60]則重在多樣化。Wang等將標準的圖卷積網(wǎng)絡(luò)引入推薦中,它利用用戶-物品交互圖來傳播嵌入特征表示:

    He等則簡化了該公式:

    上述研究表明模型的簡單性帶來了更高的性能。Amar針對推薦系統(tǒng)問題提出了一種基于SVD(singular value decomposition)的簡單方法的基準測試,以理解進一步簡化建模方法是否可以改善性能指標。Liu等采用兩個GNN 來處理每個用戶/物品的Embedding,其中一個處理偏好,另一個處理相似性。這個帶有兩個圖的模型將GNN 和協(xié)同過濾方法進行了融合,使推薦系統(tǒng)達到了更高的精確度。

    3.4 多行為推薦問題

    在現(xiàn)實中,用戶行為不僅僅是單個類型的用戶與商品的行為數(shù)據(jù),還有復(fù)雜的交互關(guān)系類型數(shù)據(jù),例如:加購、點擊、購買、收藏等。Xia等提出了一種基于圖形神經(jīng)網(wǎng)絡(luò)的多行為增強推薦框架,該框架在基于圖形的消息傳遞體系結(jié)構(gòu)下,顯式地建模不同類型的用戶-項目交互之間的依賴關(guān)系。它還設(shè)計了一個關(guān)系聚合網(wǎng)絡(luò)來模擬交互異構(gòu)性,并遞歸地在相鄰節(jié)點之間通過用戶-項目交互圖進行嵌入傳播。它采用了異構(gòu)圖來構(gòu)建依賴關(guān)系,而在交互的時間序列上,Yu等用一種基于圖神經(jīng)網(wǎng)絡(luò)的混合模型對多行為交互序列進行特征層次的深層表示,從而實現(xiàn)基于會話的推薦。在具體的互動式新聞推薦上,Ma等同時考慮了六種不同類型的行為以及用戶對新聞多樣性的需求。他們分別從不同角度來解決用戶的多行為問題,但方法各有千秋,用戶的多行為問題依舊是一個挑戰(zhàn)。

    3.5 捆綁推薦問題

    捆綁推薦經(jīng)常使用在場景推薦中,由于用戶不僅僅與單個物品進行交互,他們希望一次性得到自己想要的產(chǎn)品。那么,怎樣才能使用戶獲得所需的一系列物品,這是一個問題。在法律推薦方面,Yang等構(gòu)造了一個HLIN(heterogeneous legal information network)網(wǎng)絡(luò),它包含了文本信息和各種節(jié)點。其基本思想是融合來自多個異構(gòu)圖的交互特征以改進圖節(jié)點的表示學(xué)習(xí),例如user-item 二部圖和social關(guān)系網(wǎng)絡(luò)圖。Zhang等認為這是第一次將metapath 與social relation 表征結(jié)合起來的工作。草藥推薦方面,Yuan等將注意機制引入綜合癥狀誘導(dǎo)過程模型。此外,它還引入了中醫(yī)知識圖譜,以豐富輸入語料庫,提高表示學(xué)習(xí)的質(zhì)量。在減輕客戶服務(wù)壓力方面:Liu等通過圖形神經(jīng)網(wǎng)絡(luò)對一組靈活的服裝項目進行建模;Chen等采用時空圖進行了動態(tài)預(yù)測,動態(tài)地提供最優(yōu)的自行車站布局;Yang等添加了一個標簽推薦函數(shù),通過點擊標簽快速捕獲用戶的問題意圖。在舞蹈音樂推薦方面:Gong等提出了一種基于舞蹈運動分析的深度音樂推薦算法,實現(xiàn)了一種新的音樂推薦方法,可以學(xué)習(xí)動作和音樂之間的對應(yīng)關(guān)系。針對開發(fā)人員所需的API(application programming interface)問題,Ling等提出了一種新的API 使用推薦方法GAPI(graph neural network based collaborative filtering for API usage recommendation);Zhang等提出了基于圖卷積網(wǎng)絡(luò)的語義變分圖自動編碼器,這是一種端到端的方法。對于課程推薦,Zhu等將網(wǎng)絡(luò)結(jié)構(gòu)化特征與圖形神經(jīng)網(wǎng)絡(luò)和用戶交互活動相結(jié)合,采用張量分解技術(shù),提出了一種混合推薦模型??梢?,圖神經(jīng)網(wǎng)絡(luò)推薦系統(tǒng)的實用場景豐富。場景動態(tài)性是考慮的重點,時空圖和動態(tài)圖將是研究的主要問題。

    3.6 會話推薦問題

    在會話推薦系統(tǒng)中,系統(tǒng)通過自然語言和用戶進行動態(tài)交互,識別出用戶的偏好,進而進行物品推薦。一般的靜態(tài)模型缺乏用戶的實時反饋和顯式指導(dǎo),目前研究的會話推薦系統(tǒng)正解決這方面的問題。在基于匿名會話預(yù)測用戶操作上,Zheng等提出了一種雙通道圖轉(zhuǎn)換網(wǎng)絡(luò)的方法,用于模擬目標會話和鄰居會話之間的項轉(zhuǎn)換。基于多行為的會話推薦預(yù)測下一個項目上,Yu等提出了一種基于圖神經(jīng)網(wǎng)絡(luò)的混合模型GNNH。與其他模型相比,該模型通過特征級別表征學(xué)習(xí)發(fā)現(xiàn)多行為轉(zhuǎn)換模式的潛力,能夠?qū)Χ嘈袨榻换バ蛄羞M行特征層次的深層表示,從而實現(xiàn)基于會話的推薦。對于會話興趣動態(tài)問題上,Gu等提出了一種將項目圖嵌入和上下文建模結(jié)合到推薦任務(wù)中的方法。它是基于所有歷史會話序列構(gòu)造的有向圖,利用圖神經(jīng)網(wǎng)絡(luò)捕捉項目之間豐富的局部依賴關(guān)系。并采用會話級注意機制,根據(jù)目標用戶的當前興趣獲得每個好友的表示。它還對目標用戶的歷史會話興趣應(yīng)用最大池,了解其長期興趣的動態(tài)性。基于會話推薦的技術(shù)上,Huang等提出了一個具有多級轉(zhuǎn)換動力學(xué)(multi-level transition dynamics,MTD)的多任務(wù)學(xué)習(xí)框架,該框架能夠以自動和分層的方式聯(lián)合學(xué)習(xí)會話內(nèi)和會話間的項目轉(zhuǎn)換動力學(xué),從而捕捉了復(fù)雜的過渡動態(tài)信息,這種過渡動態(tài)表現(xiàn)為時序和多級相互依賴的關(guān)系結(jié)構(gòu)。

    這六種分類方法是從問題角度出發(fā)的分類。如表2 所示,在這六大分類中不難發(fā)現(xiàn),信息質(zhì)量與數(shù)量是一個很大的影響因素,為了得到更多的有用信息,會采用隱式信息或者高階信息。序列推薦方面也可以適量結(jié)合該方面的其他信息來提升推薦準確性。而跨域推薦中模型改進上的簡化也值得探究。那么數(shù)據(jù)是否也需要簡化呢?隨著個性化和用戶多行為化,個性化推薦和多樣化推薦的平衡如何維持?這也有待研究。

    表2 問題相似性歸納分析Table 2 Inductive analysis of problem similarity

    4 GNN 推薦系統(tǒng)研究難點及未來研究方向

    隨著在線信息的爆炸式增長,人們提出了眾多推薦方法,推薦系統(tǒng)取得了一定的研究進展。尤其是圖神經(jīng)網(wǎng)絡(luò),已有的研究進展和現(xiàn)今計算內(nèi)存和速度的提升為圖數(shù)據(jù)分析鋪平了道路,對基于圖神經(jīng)網(wǎng)絡(luò)的推薦系統(tǒng)研究提供了強有力的幫助。圖神經(jīng)網(wǎng)絡(luò)作為一種有效的圖數(shù)據(jù)深度表示學(xué)習(xí)技術(shù),其研究已經(jīng)成功地探索了推薦系統(tǒng)方面的多種任務(wù),并證明了其有效性。以往圖神經(jīng)網(wǎng)絡(luò)對推薦的研究角度是GNN 模型的圖結(jié)構(gòu)、個人或群體等,大多集中在無向圖的結(jié)構(gòu)或用戶數(shù)量分類上,忽略了GNN 本身模型分類和問題本身。本文由方法、問題兩個角度對圖神經(jīng)網(wǎng)絡(luò)推薦系統(tǒng)進行了研究、分析,對比了方法中每小類的優(yōu)點和局限性,概括了問題中的難點。以下是一些存在研究難點的未來研究方向。

    4.1 數(shù)據(jù)稀疏性和冷啟動

    推薦系統(tǒng)應(yīng)用中,用戶行為數(shù)據(jù)稀少與用戶或者項目的數(shù)量不足導(dǎo)致推薦系統(tǒng)長期存在稀疏性和冷啟動問題,跨領(lǐng)域推薦方法及輔助信息的嵌入等方法應(yīng)運而生。而對于圖神經(jīng)網(wǎng)絡(luò)方面,隨著知識表示學(xué)習(xí)和知識路徑推理等關(guān)鍵知識圖技術(shù)的出現(xiàn),利用知識圖譜輔助推薦將面臨諸多挑戰(zhàn),也是一個重要的研究熱點。文獻[79]提出了協(xié)同知識增強的推薦方法,通過構(gòu)建的交互圖中項目之間的聯(lián)系和知識圖中實體之間的連通性來學(xué)習(xí)用戶和項目的表示。除了將知識圖譜與推薦系統(tǒng)結(jié)合起來,現(xiàn)實世界中還有許多其他外部結(jié)構(gòu)信息可以幫助推薦,例如社交網(wǎng)絡(luò)中的社會關(guān)系信息等。Guo等就提出了一種基于異構(gòu)多關(guān)系圖融合的信任推薦方法。它同時考慮用戶的社會信任關(guān)系和項目相關(guān)知識,這為解決數(shù)據(jù)稀疏性和冷啟動問題提供了更多的可能。特別是圖卷積網(wǎng)絡(luò),其與其他方法的結(jié)合使得這一研究方向得到了進一步的發(fā)展。但是,單獨運用圖生成網(wǎng)絡(luò)和圖時空網(wǎng)絡(luò)在推薦系統(tǒng)上比較少,最近這方面的研究漸漸多起來了,這將是未來尤其注意的方向,而圖生成網(wǎng)絡(luò)推薦系統(tǒng)方面的獨立節(jié)點和其數(shù)據(jù)稀疏性導(dǎo)致模型易過擬合問題將是研究的重難點。

    4.2 用戶動態(tài)興趣

    知識圖譜不僅包含各種數(shù)據(jù)類型(例如,像用戶和項目這樣的節(jié)點類型,以及像不同的行為類型這樣的邊類型),通常還有不同的和不確定的興趣。在多行為用戶和個性化推薦上,許多文獻對用戶動態(tài)興趣問題提供了一些模型以及方法。Isufi等發(fā)展了一個從最近鄰和最遠鄰圖學(xué)習(xí)聯(lián)合卷積表示的模型,以建立一個新的準確性-多樣性權(quán)衡推薦系統(tǒng)。但大多數(shù)都是基于用戶數(shù)據(jù)的補充上,如何解決與用戶意圖相關(guān)的嵌入問題,如何自適應(yīng)地為每個用戶設(shè)置不同的興趣數(shù),如何為多向量表示設(shè)計一個有效的傳播模式等,需要進一步研究。因此,如何表現(xiàn)用戶的多重和不確定的興趣是一個值得探索的方向。

    4.3 動態(tài)圖與異構(gòu)圖

    在現(xiàn)實世界的推薦系統(tǒng)中,不僅用戶興趣是動態(tài)的,而且用戶和項目之間的關(guān)系也隨著時間的推移而發(fā)生變化。為了確保推薦的精確度,系統(tǒng)需要時常更新信息。從圖的角度來看,不斷更新的信息帶來的是動態(tài)圖而不是靜態(tài)圖。而動態(tài)圖形則帶來了變化的結(jié)構(gòu)。在實際應(yīng)用中,如何針對動態(tài)圖設(shè)計相應(yīng)的GNN 框架是一個有趣的前瞻性研究課題?,F(xiàn)有的推薦研究很少關(guān)注動態(tài)圖,而且基于時空圖神經(jīng)網(wǎng)絡(luò)的研究也很少,動態(tài)圖在推薦中是一個很大程度上未被探索的領(lǐng)域,值得進一步研究。在推薦系統(tǒng)處理復(fù)雜、屬性豐富、基于上下文的交互信息的性能上,現(xiàn)有的基于GCN 的方法大多集中于同構(gòu)圖環(huán)境下的任務(wù)求解,沒有考慮異構(gòu)圖環(huán)境。傳統(tǒng)的GCN 方法需要一個完整的圖鄰接矩陣來進行嵌入學(xué)習(xí),這種為圖中的每個節(jié)點生成鄰居節(jié)點的遞歸方法使得訓(xùn)練一個深度大的GCNN 模型更具挑戰(zhàn)性。由于處理復(fù)雜的計算和訓(xùn)練大規(guī)模數(shù)據(jù)集,再加上模型邊界的過度測量,這在很大程度上阻礙了推薦系統(tǒng)框架的應(yīng)用,還需要進行深入的研究。

    4.4 大數(shù)據(jù)與數(shù)據(jù)噪音

    在推薦系統(tǒng)中,隨著時間累計,數(shù)據(jù)越來越多,數(shù)據(jù)量過大將會帶來更多的數(shù)據(jù)噪音。目前的主要挑戰(zhàn)是從用戶-物品交互以及輔助信息中學(xué)習(xí)有用的信息。而處理復(fù)雜的計算和訓(xùn)練大規(guī)模數(shù)據(jù)集也是一個挑戰(zhàn)?,F(xiàn)有的基于圖神經(jīng)網(wǎng)絡(luò)的方法利用用戶與項目之間的高階連通性來獲得滿意的性能,但是這些方法的訓(xùn)練效率較低,容易引入信息傳播的偏差。此外,由于觀測的交互信息極其稀疏,應(yīng)用的貝葉斯個性化排序損失不足以為訓(xùn)練提供監(jiān)督信號。為了解決上述問題,Pan等提出了有效圖協(xié)同過濾方法。但不同的領(lǐng)域包含各種不同的圖數(shù)據(jù),節(jié)點和連邊關(guān)系也各有不同,如何結(jié)合領(lǐng)域中有用的知識對給定的圖數(shù)據(jù)利用圖卷積神經(jīng)網(wǎng)絡(luò)進行建模是圖卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用的關(guān)鍵問題。如果數(shù)據(jù)全部運用上,隨之而來的是過平滑問題,而且推薦的準確度會降低。因此,如何在基于GNN 的推薦中為每個用戶或項目自適應(yīng)地選擇合適的接收信息的范圍也是一個值得研究的問題。數(shù)據(jù)作為推薦系統(tǒng)最重要的部分,如何解決推薦的多樣性和個性化的問題。這也將是未來研究的主要問題。

    總而言之,在現(xiàn)有研究的基礎(chǔ)上,GNN 推薦系統(tǒng)的難點大致上與數(shù)據(jù)、動態(tài)問題有關(guān)。從數(shù)據(jù)量來看,存在由于數(shù)據(jù)過少而導(dǎo)致的數(shù)據(jù)稀疏性和冷啟動問題,也存在數(shù)據(jù)過多時的數(shù)據(jù)篩選和數(shù)據(jù)噪音問題。從動態(tài)性來看,存在著用戶的動態(tài)興趣嵌入問題和動態(tài)、異構(gòu)圖的模型構(gòu)建問題。這些難點也是未來研究的方向。

    猜你喜歡
    用戶信息方法
    訂閱信息
    中華手工(2017年2期)2017-06-06 23:00:31
    關(guān)注用戶
    商用汽車(2016年11期)2016-12-19 01:20:16
    可能是方法不對
    關(guān)注用戶
    商用汽車(2016年6期)2016-06-29 09:18:54
    關(guān)注用戶
    商用汽車(2016年4期)2016-05-09 01:23:12
    用對方法才能瘦
    Coco薇(2016年2期)2016-03-22 02:42:52
    四大方法 教你不再“坐以待病”!
    Coco薇(2015年1期)2015-08-13 02:47:34
    捕魚
    如何獲取一億海外用戶
    展會信息
    中外會展(2014年4期)2014-11-27 07:46:46
    高清毛片免费看| 丰满少妇做爰视频| 亚洲欧美成人综合另类久久久| 人体艺术视频欧美日本| 精品不卡国产一区二区三区| 国产毛片a区久久久久| 亚洲不卡免费看| 日韩亚洲欧美综合| 有码 亚洲区| 亚洲乱码一区二区免费版| 高清视频免费观看一区二区 | 国产高清不卡午夜福利| 国产综合懂色| 国产片特级美女逼逼视频| 一级毛片电影观看| 一级二级三级毛片免费看| 日日摸夜夜添夜夜添av毛片| 一级毛片我不卡| 亚洲自拍偷在线| 波多野结衣巨乳人妻| 国产老妇伦熟女老妇高清| av又黄又爽大尺度在线免费看| 人人妻人人澡人人爽人人夜夜 | 好男人在线观看高清免费视频| 国产一区二区三区av在线| 国产午夜精品一二区理论片| 99久国产av精品国产电影| 国产探花极品一区二区| 毛片女人毛片| 国产精品av视频在线免费观看| 久久鲁丝午夜福利片| 99热全是精品| 2018国产大陆天天弄谢| 人人妻人人澡人人爽人人夜夜 | 少妇丰满av| 国产探花在线观看一区二区| 禁无遮挡网站| 淫秽高清视频在线观看| 国产一区二区在线观看日韩| 插逼视频在线观看| 中文字幕久久专区| 亚洲精品456在线播放app| 欧美成人一区二区免费高清观看| 国产成人精品婷婷| 亚洲成人中文字幕在线播放| 伦理电影大哥的女人| 观看免费一级毛片| 一区二区三区免费毛片| 床上黄色一级片| 国产熟女欧美一区二区| 亚洲人成网站在线播| 一级二级三级毛片免费看| 免费观看在线日韩| 亚洲国产精品国产精品| 搡老妇女老女人老熟妇| 日韩av在线免费看完整版不卡| 十八禁国产超污无遮挡网站| 午夜福利视频精品| 亚洲精品日韩在线中文字幕| 18+在线观看网站| 成年人午夜在线观看视频 | 亚洲精品影视一区二区三区av| av在线蜜桃| 国产成人freesex在线| 少妇猛男粗大的猛烈进出视频 | 伊人久久国产一区二区| 国产精品一及| 精品熟女少妇av免费看| 色尼玛亚洲综合影院| av卡一久久| 亚洲综合色惰| 亚洲经典国产精华液单| av线在线观看网站| 欧美激情在线99| 免费观看a级毛片全部| 女人久久www免费人成看片| 久久久久久久国产电影| 一区二区三区免费毛片| 国产精品国产三级国产av玫瑰| h日本视频在线播放| 别揉我奶头 嗯啊视频| 卡戴珊不雅视频在线播放| 亚洲精品久久久久久婷婷小说| 亚洲三级黄色毛片| 国产黄色小视频在线观看| 日本与韩国留学比较| 成人高潮视频无遮挡免费网站| 青春草国产在线视频| 色哟哟·www| 人体艺术视频欧美日本| 国产人妻一区二区三区在| 欧美精品一区二区大全| videos熟女内射| 天天躁日日操中文字幕| 亚洲精品久久久久久婷婷小说| 丝袜喷水一区| 97热精品久久久久久| 亚洲成人中文字幕在线播放| 国产午夜精品论理片| 中文乱码字字幕精品一区二区三区 | 亚洲高清免费不卡视频| 精品久久久久久电影网| 内射极品少妇av片p| 亚洲国产精品成人久久小说| 日日撸夜夜添| 久久精品国产亚洲av涩爱| 亚洲精品国产成人久久av| 中文字幕久久专区| av国产久精品久网站免费入址| 免费高清在线观看视频在线观看| 秋霞伦理黄片| 午夜福利视频1000在线观看| 日韩精品有码人妻一区| 国产一区二区三区综合在线观看 | 国模一区二区三区四区视频| 亚洲av国产av综合av卡| 天堂av国产一区二区熟女人妻| 午夜精品在线福利| 日韩三级伦理在线观看| 色综合色国产| 色尼玛亚洲综合影院| 欧美xxxx黑人xx丫x性爽| 欧美日韩一区二区视频在线观看视频在线 | 老司机影院成人| 精品久久国产蜜桃| 午夜日本视频在线| 欧美+日韩+精品| 亚洲美女搞黄在线观看| av一本久久久久| 亚洲成人精品中文字幕电影| 精品久久久久久久人妻蜜臀av| 亚洲欧美清纯卡通| 亚洲av成人av| 亚洲精品,欧美精品| 少妇熟女aⅴ在线视频| 性色avwww在线观看| 日韩精品有码人妻一区| 国产午夜福利久久久久久| 亚洲av中文字字幕乱码综合| 91精品国产九色| av国产久精品久网站免费入址| 777米奇影视久久| 国产成人91sexporn| 国产黄频视频在线观看| 啦啦啦韩国在线观看视频| 三级国产精品片| 深爱激情五月婷婷| 久久99蜜桃精品久久| 国产精品1区2区在线观看.| 久久精品国产亚洲网站| 日日摸夜夜添夜夜爱| 777米奇影视久久| 美女大奶头视频| 欧美一级a爱片免费观看看| 又爽又黄无遮挡网站| 美女内射精品一级片tv| 国产成人福利小说| 日本与韩国留学比较| 中国美白少妇内射xxxbb| 极品少妇高潮喷水抽搐| 国产午夜精品久久久久久一区二区三区| 欧美高清成人免费视频www| 18禁动态无遮挡网站| 国内精品宾馆在线| 啦啦啦中文免费视频观看日本| 亚洲真实伦在线观看| 国产av码专区亚洲av| 日韩电影二区| 中文字幕亚洲精品专区| 日本爱情动作片www.在线观看| 汤姆久久久久久久影院中文字幕 | 国产 一区 欧美 日韩| 午夜福利视频精品| 丰满乱子伦码专区| 五月伊人婷婷丁香| 三级经典国产精品| 精品久久久久久久人妻蜜臀av| 成人鲁丝片一二三区免费| 毛片一级片免费看久久久久| 成人毛片a级毛片在线播放| 日韩在线高清观看一区二区三区| 精品99又大又爽又粗少妇毛片| 日本爱情动作片www.在线观看| 亚洲国产欧美在线一区| 久久精品国产自在天天线| 国产乱人视频| 九草在线视频观看| 国产又色又爽无遮挡免| 精品久久久久久久久久久久久| 熟女人妻精品中文字幕| 丰满少妇做爰视频| 噜噜噜噜噜久久久久久91| 少妇人妻一区二区三区视频| 亚洲成人av在线免费| 国产伦理片在线播放av一区| 嘟嘟电影网在线观看| 国产黄色视频一区二区在线观看| 好男人视频免费观看在线| 亚洲欧洲日产国产| 亚洲av成人精品一二三区| 国产黄频视频在线观看| 亚洲精品aⅴ在线观看| 日本一本二区三区精品| 成年av动漫网址| 51国产日韩欧美| 91精品伊人久久大香线蕉| 搡老妇女老女人老熟妇| 蜜臀久久99精品久久宅男| 国产在视频线在精品| 日韩一区二区三区影片| 在线 av 中文字幕| 搡老乐熟女国产| 天堂√8在线中文| 国产成人免费观看mmmm| 看非洲黑人一级黄片| 边亲边吃奶的免费视频| 女人久久www免费人成看片| 亚洲在线自拍视频| 特大巨黑吊av在线直播| 最近2019中文字幕mv第一页| 国产av国产精品国产| 精品一区二区免费观看| 亚洲av中文av极速乱| 国产一级毛片七仙女欲春2| 国产免费又黄又爽又色| 免费黄网站久久成人精品| 少妇熟女欧美另类| 一区二区三区乱码不卡18| 一个人免费在线观看电影| 亚洲美女视频黄频| 亚洲精品自拍成人| 国产精品久久久久久久电影| 少妇高潮的动态图| 99热这里只有精品一区| 插阴视频在线观看视频| 免费观看无遮挡的男女| 国产视频首页在线观看| 爱豆传媒免费全集在线观看| 亚洲国产精品sss在线观看| 国产精品99久久久久久久久| 国产淫语在线视频| 亚洲国产成人一精品久久久| 水蜜桃什么品种好| 国产精品爽爽va在线观看网站| 色哟哟·www| 国产 亚洲一区二区三区 | 国产精品一区二区在线观看99 | 91狼人影院| 中文字幕亚洲精品专区| 国产精品一二三区在线看| 国产美女午夜福利| 欧美日韩国产mv在线观看视频 | 丰满人妻一区二区三区视频av| 日韩欧美精品v在线| 成人毛片a级毛片在线播放| 一个人看的www免费观看视频| 十八禁网站网址无遮挡 | 国产亚洲91精品色在线| 精品久久久久久电影网| 亚洲av成人精品一二三区| 天天躁夜夜躁狠狠久久av| 亚洲第一区二区三区不卡| 一个人看的www免费观看视频| 伦理电影大哥的女人| 免费无遮挡裸体视频| 国产白丝娇喘喷水9色精品| 免费看光身美女| 亚洲欧美一区二区三区国产| 2021少妇久久久久久久久久久| 国产成人精品婷婷| 欧美精品国产亚洲| 国产国拍精品亚洲av在线观看| 亚洲自偷自拍三级| 亚洲激情五月婷婷啪啪| 午夜福利高清视频| 国产成人精品久久久久久| 熟女电影av网| 夜夜看夜夜爽夜夜摸| 成年版毛片免费区| 国产精品一区二区在线观看99 | 免费av毛片视频| 国精品久久久久久国模美| 精品欧美国产一区二区三| 国产淫片久久久久久久久| 日本一二三区视频观看| 男女国产视频网站| 久久久久久久久大av| 亚洲一级一片aⅴ在线观看| 亚洲av免费在线观看| 久久久成人免费电影| av免费在线看不卡| 精品国产三级普通话版| 国产一区二区在线观看日韩| 亚洲国产精品sss在线观看| 五月伊人婷婷丁香| 久久国产乱子免费精品| 久久久久精品久久久久真实原创| 亚洲怡红院男人天堂| 亚洲av成人精品一二三区| 欧美日韩精品成人综合77777| 亚洲精品,欧美精品| 精华霜和精华液先用哪个| 亚洲国产精品sss在线观看| 少妇丰满av| 免费播放大片免费观看视频在线观看| 国产三级在线视频| 亚洲熟女精品中文字幕| 久久久久久久久久人人人人人人| 女人久久www免费人成看片| 最近中文字幕2019免费版| 亚洲成色77777| 成人毛片60女人毛片免费| 日韩精品青青久久久久久| 国产精品国产三级专区第一集| 日本色播在线视频| 国产男女超爽视频在线观看| 国产黄片美女视频| 精品国产露脸久久av麻豆 | 特大巨黑吊av在线直播| 建设人人有责人人尽责人人享有的 | 久久99热6这里只有精品| 欧美 日韩 精品 国产| 国产精品一二三区在线看| 女人被狂操c到高潮| 精品99又大又爽又粗少妇毛片| 午夜久久久久精精品| 国产色爽女视频免费观看| 成人美女网站在线观看视频| 青春草视频在线免费观看| 国产伦精品一区二区三区四那| 国产亚洲精品av在线| 免费看光身美女| 高清午夜精品一区二区三区| 国产免费一级a男人的天堂| 日韩av不卡免费在线播放| 777米奇影视久久| 国产毛片a区久久久久| 国产三级在线视频| 欧美另类一区| 好男人在线观看高清免费视频| 亚洲国产精品国产精品| 国内精品一区二区在线观看| 2021天堂中文幕一二区在线观| 又粗又硬又长又爽又黄的视频| 欧美xxxx黑人xx丫x性爽| 日本一二三区视频观看| 亚洲欧美中文字幕日韩二区| 国产精品伦人一区二区| 老女人水多毛片| 精品人妻一区二区三区麻豆| 国产成人精品一,二区| 国产精品人妻久久久久久| 久久久久久久久久久免费av| 免费观看av网站的网址| 亚洲激情五月婷婷啪啪| 免费观看a级毛片全部| 欧美日韩在线观看h| 国产黄频视频在线观看| 婷婷六月久久综合丁香| 有码 亚洲区| 大片免费播放器 马上看| av女优亚洲男人天堂| 免费看av在线观看网站| 99热6这里只有精品| 国产黄色视频一区二区在线观看| 色综合站精品国产| 国产成人精品婷婷| 少妇丰满av| 亚洲熟女精品中文字幕| 高清日韩中文字幕在线| 一区二区三区四区激情视频| 亚洲综合精品二区| 亚洲美女搞黄在线观看| 天堂av国产一区二区熟女人妻| 国产毛片a区久久久久| 高清视频免费观看一区二区 | 久久99热这里只有精品18| 婷婷色麻豆天堂久久| 亚洲伊人久久精品综合| 日本午夜av视频| 美女国产视频在线观看| 亚洲熟女精品中文字幕| 最近中文字幕高清免费大全6| 国产一区二区亚洲精品在线观看| 欧美日韩视频高清一区二区三区二| 一区二区三区四区激情视频| 国产成人aa在线观看| 精品久久久精品久久久| 日本黄色片子视频| 高清在线视频一区二区三区| 亚洲成人一二三区av| 日日啪夜夜爽| 波多野结衣巨乳人妻| 看免费成人av毛片| 两个人的视频大全免费| 亚洲成人精品中文字幕电影| 亚洲一级一片aⅴ在线观看| 最近视频中文字幕2019在线8| 最近手机中文字幕大全| 蜜桃亚洲精品一区二区三区| 天堂网av新在线| www.av在线官网国产| 1000部很黄的大片| 国产黄色免费在线视频| 97超视频在线观看视频| 国产免费视频播放在线视频 | 在现免费观看毛片| 麻豆精品久久久久久蜜桃| 国产片特级美女逼逼视频| 国产91av在线免费观看| 欧美 日韩 精品 国产| 成人欧美大片| 波野结衣二区三区在线| 亚洲欧美精品专区久久| 一边亲一边摸免费视频| 国产高清有码在线观看视频| 精品欧美国产一区二区三| 久久久色成人| 18禁动态无遮挡网站| 真实男女啪啪啪动态图| 伦理电影大哥的女人| 午夜福利在线在线| 午夜激情久久久久久久| 搡老妇女老女人老熟妇| 99久国产av精品国产电影| 国产精品一二三区在线看| 最近最新中文字幕大全电影3| 肉色欧美久久久久久久蜜桃 | 好男人视频免费观看在线| 干丝袜人妻中文字幕| 亚洲av中文字字幕乱码综合| av.在线天堂| 婷婷六月久久综合丁香| 日本爱情动作片www.在线观看| 午夜老司机福利剧场| 欧美成人精品欧美一级黄| 欧美极品一区二区三区四区| 国产亚洲精品av在线| 日本-黄色视频高清免费观看| 哪个播放器可以免费观看大片| 国产高清国产精品国产三级 | 777米奇影视久久| 18禁裸乳无遮挡免费网站照片| 久久草成人影院| 人人妻人人看人人澡| 免费观看a级毛片全部| 国产 一区精品| 美女内射精品一级片tv| 免费观看精品视频网站| freevideosex欧美| 啦啦啦中文免费视频观看日本| 日韩欧美精品v在线| 乱人视频在线观看| 蜜桃亚洲精品一区二区三区| 色网站视频免费| 精品久久国产蜜桃| 蜜桃亚洲精品一区二区三区| 人体艺术视频欧美日本| 久久久久久久午夜电影| 欧美成人精品欧美一级黄| 夜夜看夜夜爽夜夜摸| 精品一区在线观看国产| 欧美极品一区二区三区四区| 丰满乱子伦码专区| 免费看日本二区| 日本免费在线观看一区| 国产女主播在线喷水免费视频网站 | 亚洲熟妇中文字幕五十中出| 国产精品一二三区在线看| 亚洲成色77777| 亚洲天堂国产精品一区在线| 国产永久视频网站| 久久精品久久精品一区二区三区| 国产亚洲av片在线观看秒播厂 | 最近最新中文字幕免费大全7| 最近的中文字幕免费完整| 99久久九九国产精品国产免费| xxx大片免费视频| 免费看av在线观看网站| 你懂的网址亚洲精品在线观看| 亚洲精品国产成人久久av| 内地一区二区视频在线| 久久久久久九九精品二区国产| 欧美zozozo另类| 欧美潮喷喷水| 国内揄拍国产精品人妻在线| 国产成人aa在线观看| 久久久久久久久久久免费av| 亚洲欧洲日产国产| 亚洲美女搞黄在线观看| 男女边摸边吃奶| 一区二区三区免费毛片| kizo精华| 丰满人妻一区二区三区视频av| 精品99又大又爽又粗少妇毛片| 亚洲自拍偷在线| 青春草国产在线视频| 永久网站在线| 一区二区三区乱码不卡18| 中文资源天堂在线| 黑人高潮一二区| 欧美成人精品欧美一级黄| 边亲边吃奶的免费视频| 午夜福利视频精品| kizo精华| 国产一区亚洲一区在线观看| 蜜桃亚洲精品一区二区三区| 日韩欧美 国产精品| 69av精品久久久久久| 小蜜桃在线观看免费完整版高清| 亚洲国产av新网站| 久久人人爽人人片av| 国产精品久久久久久久电影| 国产黄色小视频在线观看| 青春草视频在线免费观看| 亚洲欧洲国产日韩| 午夜激情福利司机影院| 高清午夜精品一区二区三区| 国产黄片视频在线免费观看| 联通29元200g的流量卡| 久久这里只有精品中国| 国产精品一二三区在线看| 国产成人精品久久久久久| 欧美zozozo另类| 91精品一卡2卡3卡4卡| av又黄又爽大尺度在线免费看| 极品教师在线视频| 亚洲av中文av极速乱| 禁无遮挡网站| 久久久久久久久久久免费av| 18禁在线播放成人免费| 成人欧美大片| av免费在线看不卡| 亚洲av电影不卡..在线观看| 精品人妻偷拍中文字幕| 国模一区二区三区四区视频| 日韩国内少妇激情av| 国国产精品蜜臀av免费| 观看免费一级毛片| 久久精品国产自在天天线| 青春草国产在线视频| 国产精品综合久久久久久久免费| 日韩欧美精品免费久久| 黄色配什么色好看| 深爱激情五月婷婷| 国产激情偷乱视频一区二区| 97超视频在线观看视频| 欧美高清性xxxxhd video| av播播在线观看一区| 日韩 亚洲 欧美在线| 白带黄色成豆腐渣| 偷拍熟女少妇极品色| 亚洲av中文字字幕乱码综合| 亚洲精品乱久久久久久| 欧美丝袜亚洲另类| 肉色欧美久久久久久久蜜桃 | 日本免费a在线| 波多野结衣巨乳人妻| 午夜激情久久久久久久| 国产 一区 欧美 日韩| 亚洲av中文av极速乱| 好男人在线观看高清免费视频| 色网站视频免费| 久久久久久久午夜电影| 精品久久久噜噜| 菩萨蛮人人尽说江南好唐韦庄| 国产精品伦人一区二区| 国产黄频视频在线观看| 非洲黑人性xxxx精品又粗又长| 国产精品综合久久久久久久免费| 99久久精品国产国产毛片| 最近中文字幕2019免费版| 久久韩国三级中文字幕| 欧美激情久久久久久爽电影| 一个人免费在线观看电影| 91精品一卡2卡3卡4卡| 激情五月婷婷亚洲| 日韩一区二区视频免费看| 高清av免费在线| 中文字幕久久专区| 精品午夜福利在线看| 又黄又爽又刺激的免费视频.| 日本wwww免费看| 国产久久久一区二区三区| 日韩伦理黄色片| 午夜精品国产一区二区电影 | 国产在线男女| 一边亲一边摸免费视频| 日韩视频在线欧美| 777米奇影视久久| 天堂网av新在线| 精品午夜福利在线看| 国产成人精品一,二区| 国产一区亚洲一区在线观看| 真实男女啪啪啪动态图| 亚洲精品乱久久久久久| 又黄又爽又刺激的免费视频.| 高清日韩中文字幕在线| 午夜久久久久精精品| 国产成人免费观看mmmm| 国产大屁股一区二区在线视频| 婷婷六月久久综合丁香| 高清在线视频一区二区三区| www.色视频.com| 在线观看人妻少妇| 亚洲自偷自拍三级| 国产淫语在线视频| 男女边吃奶边做爰视频| 秋霞伦理黄片| av一本久久久久| 久久亚洲国产成人精品v| 乱人视频在线观看| 熟妇人妻久久中文字幕3abv| 啦啦啦中文免费视频观看日本| 岛国毛片在线播放|