• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于知識(shí)圖譜的推薦算法研究綜述

    2023-01-13 11:57:02羅承天
    關(guān)鍵詞:圖譜實(shí)體算法

    羅承天,葉 霞

    火箭軍工程大學(xué) 作戰(zhàn)保障學(xué)院,西安 710025

    當(dāng)今互聯(lián)網(wǎng)承載著各種信息資源,其數(shù)據(jù)量呈指數(shù)級(jí)增長。面對(duì)海量的互聯(lián)網(wǎng)資源,用戶在獲取信息便利性的同時(shí),難以快速準(zhǔn)確地選擇出感興趣的內(nèi)容。推薦系統(tǒng)作為解決“信息過載”問題的有效方法[1],已經(jīng)受到大量研究者的關(guān)注和研究,并在各個(gè)領(lǐng)域得到廣泛應(yīng)用,形成了眾多相關(guān)成果。比如電影推薦[2]、新聞推薦[3]和商品推薦[4]等。

    推薦算法作為推薦系統(tǒng)的核心,目標(biāo)是通過學(xué)習(xí)用戶信息和用戶行為,建模用戶的興趣偏好。其主要可以被分為三類[1]:基于內(nèi)容的推薦方法、基于協(xié)同過濾的推薦方法和混合推薦方法。其中,基于內(nèi)容的推薦是選擇出與用戶偏好項(xiàng)目特征相似的項(xiàng)目[5]。協(xié)同過濾利用相似用戶之間具有相似興趣偏好的特點(diǎn),來發(fā)現(xiàn)用戶對(duì)項(xiàng)目的潛在偏好,優(yōu)點(diǎn)是不需要對(duì)項(xiàng)目進(jìn)行復(fù)雜的特征提取[6-7]。協(xié)同過濾僅需要利用用戶的歷史評(píng)分?jǐn)?shù)據(jù),因此簡單有效。但是,也存在數(shù)據(jù)的稀疏問題和冷啟動(dòng)問題[7]。且推薦算法對(duì)捕捉用戶興趣變化的需求已經(jīng)超出了傳統(tǒng)推薦算法的能力。為此,研究者提出混合算法,結(jié)合如用戶社交網(wǎng)絡(luò)信息[8-9]和項(xiàng)目屬性[10-11]等輔助信息來解決以上問題。

    近年來,將知識(shí)圖譜作為輔助信息引入到推薦算法逐漸成為了研究熱點(diǎn)。知識(shí)圖譜中節(jié)點(diǎn)表示實(shí)體,有向邊表示實(shí)體之間的關(guān)系,包含了用戶和項(xiàng)目的信息和關(guān)聯(lián)關(guān)系,可以更好地捕獲用戶偏好。如圖1所示的推薦示例中,向用戶推薦了電影《尖峰時(shí)刻》和《功夫》。這是因?yàn)橛脩粝矚g的電影和推薦的電影具有相同的體裁和主演。通過知識(shí)圖譜,項(xiàng)目和用戶以不同的潛在關(guān)系關(guān)聯(lián)起來,在有助于提高推薦的準(zhǔn)確性的同時(shí),也為推薦結(jié)果提供了更多的可解釋性[12]。目前,學(xué)術(shù)界與工業(yè)界的研究人員構(gòu)建了各種結(jié)構(gòu)化的知識(shí)圖譜,例如DBpedia[13]、YAGO[14]和Google’s KG[15]等。這使推薦算法連接知識(shí)圖譜中的實(shí)體和關(guān)系變得更加便利。

    圖1 基于知識(shí)圖譜的推薦示例Fig.1 Recommendation example based on knowledge graph

    本文旨在對(duì)基于知識(shí)圖譜的推薦算法進(jìn)行全面的總結(jié)。通過查閱分析相關(guān)文獻(xiàn),從應(yīng)用知識(shí)圖譜的三種方式:基于嵌入的方法、基于路徑的方法和基于傳播的方法展開介紹。此外,對(duì)引入了知識(shí)圖譜的推薦應(yīng)用場(chǎng)景,包括電影、音樂、書籍、新聞和商品,進(jìn)行分析討論,并收集了常見的數(shù)據(jù)集。除推薦的精確性外,基于知識(shí)圖譜的推薦算法還具有良好的可解釋性。本文也將討論不同的算法如何利用知識(shí)圖譜進(jìn)行可解釋的推薦。

    1 研究背景

    本章主要介紹知識(shí)圖譜和推薦算法相關(guān)背景知識(shí)。

    1.1 推薦算法

    推薦系統(tǒng)解決在“信息過載”情況下,用戶如何高效獲得感興趣項(xiàng)目的信息的問題。如電影[16]、新聞[3]、商品[17]、興趣點(diǎn)(point of interest,POI)[18]、試題[19]、音樂[20]、應(yīng)用程序[21]等等。推薦系統(tǒng)主要分為數(shù)據(jù)部分和模型部分。推薦算法作為推薦系統(tǒng)的核心,主要解決如何學(xué)習(xí)用戶和項(xiàng)目的表示及評(píng)分函數(shù)的問題,即模型算法如何訓(xùn)練和預(yù)測(cè),并達(dá)到更好的推薦效果。推薦算法要處理的問題可以形式化地定義為[1]:給定所有用戶(user)的集合U,所有項(xiàng)目(item)的集合I,在特定場(chǎng)景C(context)下。構(gòu)建一個(gè)評(píng)分函數(shù)f(U,I,C),預(yù)測(cè)用戶對(duì)特定候選項(xiàng)目的偏好程度,即:

    再根據(jù)偏好程度對(duì)候選項(xiàng)目進(jìn)行排序,生成推薦列表。根據(jù)推薦問題的定義,可以得到抽象的推薦系統(tǒng)邏輯框架,如圖2所示,在此基礎(chǔ)上,對(duì)個(gè)模塊進(jìn)行細(xì)化和擴(kuò)展,才產(chǎn)生了推薦系統(tǒng)的整個(gè)技術(shù)體系。

    圖2 推薦系統(tǒng)邏輯框架Fig.2 Logic framework of recommended system

    1.2 知識(shí)圖譜

    知識(shí)圖譜(knowledge graph,KG)最初是Google用于增強(qiáng)其搜索引擎功能的知識(shí)庫[15]。本質(zhì)上,知識(shí)圖譜是一種揭示實(shí)體之間關(guān)系的語義網(wǎng)絡(luò),可以對(duì)現(xiàn)實(shí)世界的事物及其相互關(guān)系進(jìn)行形式化地描述[22]。三元組是知識(shí)圖譜的一種通用表示方式,可以定義為G=(E,R,S)。其中E={e1,e2,…}表示知識(shí)圖譜中所有實(shí)體的集合;R={r1,r2,…}表示知識(shí)圖譜中所有關(guān)系的集合;S={(h,r,t)}表示三元組的集合,單個(gè)三元組由頭實(shí)體h、關(guān)系r和尾實(shí)體t構(gòu)成。例如(Beijing,capital_of,China)表示北京是中國的首都這一事實(shí)。知識(shí)圖譜是一種具有多種類型節(jié)點(diǎn)和邊的異構(gòu)圖,所以知識(shí)圖譜中的三元組不僅可以用于理解知識(shí)實(shí)體之間的關(guān)系,也可以存儲(chǔ)知識(shí)實(shí)體的屬性。

    知識(shí)圖譜中包含的實(shí)體之間豐富的語義關(guān)聯(lián),可為推薦算法提供了潛在的輔助信息來源。引入知識(shí)圖譜可以讓推薦算法有以下特點(diǎn):

    (1)精確性。知識(shí)圖譜為實(shí)體引入了更多的語義關(guān)系,可以深層次地發(fā)現(xiàn)用戶興趣。

    (2)多樣性。知識(shí)圖譜提供了實(shí)體間不同的關(guān)系連接模式,有利于挖掘高階的連接關(guān)系。

    (3)可解釋性。知識(shí)圖譜可以連接用戶的歷史行為信息和推薦結(jié)果,給出推薦的原因,從而增強(qiáng)用戶對(duì)推薦結(jié)果的接受度。

    1.3 推薦算法的可解釋性

    可解釋推薦是指解釋推薦理由問題的推薦算法,在向用戶提供推薦結(jié)果的同時(shí),還提供解釋以闡明推薦的原因[23]。這樣有助于提高推薦算法的多樣性、有效性和準(zhǔn)確性,有利于用戶理解并采納推薦結(jié)果[24-25]。

    早期的推薦多數(shù)是基于內(nèi)容的推薦或基于協(xié)同過濾的推薦,基于內(nèi)容的推薦方法通過對(duì)用戶或者項(xiàng)目的屬性信息進(jìn)行建模,是基于特征的直觀解釋。而協(xié)同過濾方法得通過用戶的顯性反饋或隱性反饋體現(xiàn)解釋。項(xiàng)目協(xié)同過濾的解釋更直觀,因?yàn)橛脩羰煜に跋矚g的項(xiàng)目,用戶更易于理解。用戶協(xié)同過濾的解釋可能不那么有說服力,因?yàn)槟繕?biāo)用戶可能對(duì)其他“相似”的用戶一無所知,這可能會(huì)降低解釋的可信度。

    傳統(tǒng)的推薦算法所生成的推薦解釋往往只局限于以項(xiàng)目為媒介、以用戶為媒介或者以特征為媒介中的某一種,而對(duì)這三類媒介之間的關(guān)聯(lián)挖掘得還不夠。知識(shí)圖譜作為擁有知識(shí)表示能力的結(jié)構(gòu)化知識(shí)庫,包含了關(guān)于用戶和項(xiàng)目的豐富信息,有助于提供有關(guān)推薦項(xiàng)目的知情解釋[26]。通過探索知識(shí)圖譜內(nèi)實(shí)體的連通性,反映了用戶和項(xiàng)目之間的潛在關(guān)系。知識(shí)圖譜上用戶到推薦項(xiàng)目的連接路徑給予了推薦算法推理和解釋的能力。以圖1中為例,因?yàn)橛脩粝矚g喜劇類體裁的電影,連接到推薦項(xiàng)目的路徑如下示例:

    (小明,喜歡,大話西游)∧(大話西游,體裁,喜劇片)∧(大話西游,演員,周星馳)?(小明,喜歡,功夫)

    這種連通性有助于通過綜合路徑信息捕捉到潛在的用戶與項(xiàng)目交互的可能。顯然,推理挖掘了路徑關(guān)系中的用戶意圖,提供了推薦結(jié)果的解釋。文獻(xiàn)[12]提出一個(gè)端到端的框架RippleNet,將知識(shí)圖譜融入到推薦算法中。RippleNet以用戶的歷史興趣項(xiàng)目為種子,然后沿著知識(shí)圖譜的連接不斷地向外擴(kuò)散到其他的項(xiàng)目,進(jìn)行偏好傳播,最后形成用戶對(duì)候選項(xiàng)目的偏好分布。該分布可用于預(yù)測(cè)用戶最終的偏好分?jǐn)?shù),還可以通過在知識(shí)圖譜上查找來自用戶和推薦項(xiàng)目間的路徑來提供解釋。文獻(xiàn)[27]提出了一種新的知識(shí)感知路徑循環(huán)網(wǎng)絡(luò)模型KPRN,不僅通過組合實(shí)體和關(guān)系的語義來生成路徑表示,而且通過利用路徑中的順序依賴項(xiàng),對(duì)路徑進(jìn)行有效推理,進(jìn)而推斷用戶項(xiàng)目的交互。該模型通過權(quán)重池操作來區(qū)分不同路徑的權(quán)重,使模型具有一定程度的可解釋性。

    2 基于知識(shí)圖譜的推薦算法

    引入了知識(shí)圖譜的輔助信息,推薦算法可以學(xué)習(xí)用戶和項(xiàng)目間的潛在連通關(guān)系,從而可以更準(zhǔn)確地捕獲用戶偏好,提高推薦效果。本章介紹了基于知識(shí)圖譜的推薦算法相關(guān)的研究,根據(jù)應(yīng)用知識(shí)圖譜的不同形式,可分為三類:基于嵌入的方法、基于路徑的方法和基于傳播的方法。此外,如表1所示[3,12,16,20,27-55],將近年來的相關(guān)文獻(xiàn)進(jìn)行了匯總。

    表1 文獻(xiàn)匯總Table 1 Literature summary

    2.1 基于嵌入的推薦方法

    基于嵌入的方法使用知識(shí)圖譜中的信息來豐富用戶或項(xiàng)目的表示,通過知識(shí)圖譜嵌入將知識(shí)圖譜中的實(shí)體和關(guān)系表征為低維向量,保留了知識(shí)圖譜原有的結(jié)構(gòu)。知識(shí)圖譜嵌入的方法主要是基于平移距離模型進(jìn)行特征表示的。

    平移距離模型利用基于距離的評(píng)分函數(shù),通過兩個(gè)實(shí)體之間的距離對(duì)事實(shí)的合理性進(jìn)行度量。主要包括TransE[56]、TransH[57]、TransR[58]、TransD[59]和TranSparse[60]等。其基本原理是將每個(gè)三元組的頭實(shí)體、尾實(shí)體和關(guān)系嵌入到向量h、t和r中,使之滿足h+r≈t??梢杂靡粋€(gè)評(píng)估函數(shù)計(jì)算三元組的真實(shí)性,這個(gè)函數(shù)被定義為在L1范數(shù)或L2范數(shù)約束下h+r和t之間的距離。其數(shù)學(xué)表達(dá)式如下:

    目標(biāo)是要使得有關(guān)系的實(shí)體之間的距離盡可能小,而不相關(guān)的實(shí)體之間的距離盡可能大。

    通過Trans系列的嵌入方法學(xué)習(xí)得到知識(shí)圖譜中實(shí)體和關(guān)系的表示,可以用來補(bǔ)充用戶和項(xiàng)目的表示。Zhang等[28]提出CKE模型,在協(xié)同過濾框架中聚合了各種類型的輔助信息。通過TransR算法提取結(jié)構(gòu)化項(xiàng)目知識(shí)(由項(xiàng)目、關(guān)系及項(xiàng)目屬性組成的知識(shí)圖譜)的特征向量xj,自動(dòng)編碼器提取文本知識(shí)的特征向量zt,j和視覺知識(shí)的特征向量zv,j,聚合從用戶項(xiàng)目交互矩陣中提取的偏移向量ηj得到項(xiàng)目向量vj的最終表示:

    最后偏好分?jǐn)?shù)通過用戶向量ui和項(xiàng)目向量vj內(nèi)積就可獲得,并根據(jù)以下排名標(biāo)準(zhǔn)給出用戶ui的最終項(xiàng)目推薦:

    實(shí)驗(yàn)表明,加入結(jié)構(gòu)化的知識(shí)是可以提高推薦性能的。

    Wang等[3]提出了一種將知識(shí)圖譜表示引入到新聞推薦中的深度知識(shí)感知網(wǎng)絡(luò)DKN。該模型利用Kim CNN[61]從新聞標(biāo)題中提取實(shí)體,并進(jìn)行實(shí)體鏈接,通過TransD將從原始知識(shí)圖譜中提取的實(shí)體的關(guān)系鏈接子圖構(gòu)建特征向量,還使用實(shí)體的近鄰實(shí)體提取實(shí)體的上下文信息。最后使用多通道和單詞實(shí)體對(duì)齊的知識(shí)感知卷積神經(jīng)網(wǎng)絡(luò)KCNN,將單詞語義和實(shí)體信息結(jié)合起來,生成知識(shí)感知的嵌入向量。此外,該模型設(shè)計(jì)了一個(gè)注意力模塊捕捉用戶對(duì)新聞的動(dòng)態(tài)偏好,得到歷史記錄對(duì)用戶的影響權(quán)重。最后,通過全連接層得到用戶點(diǎn)擊候選新聞的概率。Huang等[16]提出了一個(gè)帶有鍵值對(duì)記憶網(wǎng)絡(luò)(KV-MN)的循環(huán)神經(jīng)網(wǎng)絡(luò)模型KSR,其中GRU網(wǎng)絡(luò)用于捕獲序列化的用戶偏好,而鍵值對(duì)記憶網(wǎng)絡(luò)利用TransE學(xué)習(xí)知識(shí)庫信息捕獲屬性級(jí)的偏好,通過這種方式可以捕獲細(xì)粒度的用戶偏好。該模型解決了循環(huán)神經(jīng)網(wǎng)絡(luò)捕獲屬性級(jí)或特征級(jí)用戶偏好能力有限和可解釋性差的問題。

    以上方法僅使用項(xiàng)目及其屬性信息構(gòu)成的項(xiàng)目圖集成到推薦方法中,當(dāng)將用戶和項(xiàng)目的交互數(shù)據(jù)與知識(shí)圖譜一起構(gòu)建用戶項(xiàng)目圖時(shí),需進(jìn)一步考慮用戶項(xiàng)目圖中邊的關(guān)系來計(jì)算偏好分?jǐn)?shù)。Zhang等[28]提出了CFKG模型,構(gòu)建了一個(gè)包括用戶行為和項(xiàng)目信息的用戶項(xiàng)目知識(shí)圖譜。在這個(gè)用戶項(xiàng)目圖中用戶行為(如購買、收藏)被視為實(shí)體之間的關(guān)系,為了學(xué)習(xí)實(shí)體和關(guān)系在圖中的嵌入向量,該模型定義了一個(gè)距離函數(shù)d(·),根據(jù)給定的關(guān)系度量兩個(gè)實(shí)體之間的距離。最后通過計(jì)算用戶節(jié)點(diǎn)ui和項(xiàng)目節(jié)點(diǎn)vj在關(guān)系“購買”rbuy上的距離,即d(ui+rbuy,vj),對(duì)項(xiàng)目排序,從而生成推薦列表。

    除此之外,另一種趨勢(shì)是聯(lián)合一些知識(shí)圖譜相關(guān)基本任務(wù)進(jìn)行多任務(wù)學(xué)習(xí)和聯(lián)合推薦。Cao等[30]提出的KTUP模型在將知識(shí)圖譜用于推薦算法時(shí),考慮到知識(shí)圖譜的不完整性,聯(lián)合學(xué)習(xí)推薦和知識(shí)圖譜補(bǔ)全。該方法提出TUP(translation-based user preference)模型聯(lián)合知識(shí)圖譜學(xué)習(xí),并利用用戶和項(xiàng)目之間的多重隱性關(guān)系,揭示用戶的偏好。提出KTUP(knowledgeenhanced TUP)將TUP和TransH進(jìn)行聯(lián)合學(xué)習(xí),通過轉(zhuǎn)移實(shí)體知識(shí)和關(guān)系來增強(qiáng)項(xiàng)目和偏好建模。該模型的總體目標(biāo)函數(shù)如下:

    其中Lp是推薦的損失函數(shù);LKG是知識(shí)圖譜相關(guān)任務(wù)的損失函數(shù);λ是平衡兩個(gè)任務(wù)的超參數(shù)。Wang等[20]提出的MKR模型,將推薦和知識(shí)圖譜特征學(xué)習(xí)視為兩個(gè)分離但是相關(guān)的任務(wù),進(jìn)行交替式的學(xué)習(xí)。推薦部分的輸入是用戶和項(xiàng)目的特征表示,輸出為預(yù)估點(diǎn)擊率。知識(shí)圖譜特征學(xué)習(xí)部分的輸入為三元組的頭節(jié)點(diǎn)和關(guān)系,輸出為預(yù)測(cè)的尾節(jié)點(diǎn)。同時(shí)這兩個(gè)部分通過交叉壓縮單元共享信息,彌補(bǔ)自身的信息稀疏性的不足。該模型完整的損失函數(shù)如下:

    其中LRS是推薦的損失函數(shù);LKG是知識(shí)圖譜相關(guān)任務(wù)的損失函數(shù);LREG是正則項(xiàng),防止過擬合。

    基于嵌入的推薦方法通過構(gòu)建具有多種類型的用戶和項(xiàng)目輔助信息的知識(shí)圖譜,豐富項(xiàng)目的表示和對(duì)用戶的偏好建模,在知識(shí)圖譜中的實(shí)體和關(guān)系學(xué)習(xí)低維特征向量的同時(shí)保留了知識(shí)圖譜中原有的結(jié)構(gòu)和語義信息,獲得了更好的推薦。缺點(diǎn)是忽略了由路徑連接的實(shí)體之間的語義關(guān)聯(lián)。

    2.2 基于路徑的推薦方法

    基于路徑的方法通過構(gòu)建用戶項(xiàng)目圖并利用圖中實(shí)體的連接關(guān)系,學(xué)習(xí)用戶到項(xiàng)目的路徑之間的連接相似性進(jìn)行推薦。這種方法主要的挑戰(zhàn)是如何設(shè)計(jì)合理的路徑以及如何為實(shí)體間的連接關(guān)系建模。

    一些推薦方法將知識(shí)圖譜視為一個(gè)異構(gòu)信息網(wǎng)絡(luò),然后利用圖中的元結(jié)構(gòu),直接計(jì)算路徑的連接相似性來進(jìn)行推薦。基于元結(jié)構(gòu)的相似性可以作為用戶和項(xiàng)目表示的約束,也可以用于預(yù)測(cè)用戶對(duì)交互歷史中相似用戶或相似項(xiàng)目的興趣。為了測(cè)量圖中實(shí)體之間的連接相似性,通常使用PathSim[62]方法表示:

    其中,p(x,y)是一條實(shí)體x到實(shí)體y的路徑。Yu等[63]提出的Hete-MF方法提取不同的元路徑并計(jì)算每個(gè)路徑中的項(xiàng)目相似度,將正則化與矩陣分解方法相結(jié)合,獲得更好的推薦。Luo等[64]提出的Hete-CF同時(shí)將用戶間相似度、實(shí)體間相似度和用戶與實(shí)體間的相似度一起正則化,提高了推薦效果。為了克服元路徑表示能力有限的問題,Zhao等[36]用元圖替換元路徑提出了FMG方法捕獲圖中更豐富的語義,然后使用矩陣分解為每個(gè)元圖中用戶和項(xiàng)目學(xué)習(xí)隱向量。

    上述基于元結(jié)構(gòu)的方法存在依賴手動(dòng)構(gòu)造元結(jié)構(gòu)的問題,元路徑或元圖的選擇需要領(lǐng)域知識(shí),并且對(duì)于不同的知識(shí)圖譜,元結(jié)構(gòu)的構(gòu)造可能不同。因此,一些方法直接對(duì)知識(shí)圖譜中的用戶與項(xiàng)目之間的語義路徑進(jìn)行挖掘,學(xué)習(xí)路徑的顯式嵌入來生成推薦。

    Sun等[37]提出了一種循環(huán)知識(shí)圖譜嵌入方法RKGE,該方法通過循環(huán)神經(jīng)網(wǎng)絡(luò)自動(dòng)挖掘用戶和項(xiàng)目之間的路徑關(guān)系,而無需手動(dòng)定義元結(jié)構(gòu)。循環(huán)神經(jīng)網(wǎng)絡(luò)能夠?qū)Σ煌L度的序列進(jìn)行建模,不僅可以對(duì)實(shí)體語義進(jìn)行學(xué)習(xí),還能對(duì)整個(gè)路徑序列進(jìn)行學(xué)習(xí),從而為實(shí)體和實(shí)體關(guān)系的表示提供統(tǒng)一的學(xué)習(xí)方法。具體來說,RKGE首先枚舉用戶ui到項(xiàng)目vj的所有路徑P(ui,vj),記作:

    其中,s表示的不同實(shí)體對(duì)之間的路徑數(shù)。這些路徑在序列長度約束下以不同的語義關(guān)系連接ui和vj,以避免引入較遠(yuǎn)鄰居,失去語義意義。然后將路徑輸入到一批循環(huán)網(wǎng)絡(luò)對(duì)其進(jìn)行編碼,得到每條路徑的嵌入表示hp,每條路徑由一個(gè)循環(huán)網(wǎng)絡(luò)建模,且每個(gè)神經(jīng)網(wǎng)絡(luò)共享參數(shù)以避免過擬合。最后通過池化操作區(qū)分不同路徑對(duì)于描述用戶對(duì)項(xiàng)目偏好的重要性,得到ui和vj之間關(guān)聯(lián)的最終表示:

    經(jīng)過池化層之后采用全連接層生成推薦。RKGE首次采用循環(huán)網(wǎng)絡(luò)來學(xué)習(xí)知識(shí)圖譜中實(shí)體和路徑的語義,可以從不同角度對(duì)推薦進(jìn)行解釋。

    類似地,Wang等[27]提出了知識(shí)感知路徑循環(huán)網(wǎng)絡(luò)模型KPRN。該模型通過實(shí)體嵌入和關(guān)系嵌入來構(gòu)造合格的路徑序列,使用LSTM網(wǎng)絡(luò)對(duì)路徑進(jìn)行編碼。此外,還根據(jù)每條路徑計(jì)算的預(yù)測(cè)分?jǐn)?shù)使用平均方式聚合進(jìn)行池化操作,區(qū)分不同路徑對(duì)預(yù)測(cè)的貢獻(xiàn),起到注意機(jī)制的作用。因此,該模型可以為每個(gè)項(xiàng)目提供精確的關(guān)系路徑級(jí)解釋。RKGE模型和KPRN模型在前期路徑的提取工作中通過限制路徑的長度來限制路徑的數(shù)量,這有助于減少計(jì)算量和忽略過長路徑的噪聲。

    Xian等[38]提出的PGPR模型,是一種策略引導(dǎo)路徑推理的方式,并首次在知識(shí)圖譜中運(yùn)用強(qiáng)化學(xué)習(xí)的方法來完成推薦任務(wù)。該模型將推薦問題描述為一個(gè)馬爾可夫決策過程,用以找到連接用戶項(xiàng)目對(duì)之間的合理路徑,利用強(qiáng)化學(xué)習(xí)方法,訓(xùn)練一個(gè)智能體(agent)在圖中進(jìn)行多步路徑推理以發(fā)現(xiàn)用戶感興趣的項(xiàng)目。PGPR模型還設(shè)計(jì)了軟獎(jiǎng)勵(lì)策略、用戶條件行為修剪策略和策略引導(dǎo)圖搜索算法保證模型的高效性和多樣性,以及對(duì)推薦的推理路徑進(jìn)行有效采樣。Wang等[41]提出的基于知識(shí)圖譜的意圖網(wǎng)絡(luò)KGIN,為每個(gè)意圖建模為知識(shí)圖譜中關(guān)系的組合,以獲得更好的建模能力和可解釋性。此外,該方法設(shè)計(jì)了一種新的信息聚合方案,遞歸地集成遠(yuǎn)程連接的關(guān)系路徑。KGIN通過識(shí)別有影響的意圖和關(guān)系路徑,為預(yù)測(cè)提供了可解釋性。

    基于路徑的方法利用知識(shí)圖譜的網(wǎng)絡(luò)結(jié)構(gòu),利用路徑連接來豐富實(shí)體的表示,依賴實(shí)體連接關(guān)系進(jìn)行推薦。使用元結(jié)構(gòu)的推薦方法連接模式?jīng)]有顯式建模,這使得很難了解用戶項(xiàng)目對(duì)和連接模式之間的相互影響。因此,直接學(xué)習(xí)連接用戶和項(xiàng)目間的顯著路徑的嵌入向量對(duì)用戶和項(xiàng)目的關(guān)系建模,可以解決依賴元結(jié)構(gòu)構(gòu)造的問題?;诼窂降姆椒ㄔ谔岣咄扑]效果的同時(shí)具有良好的可解釋性。

    2.3 基于傳播的推薦方法

    為了充分利用知識(shí)圖譜中的信息進(jìn)行更好地推薦,基于傳播的推薦方法整合了實(shí)體和關(guān)系的語義表示以及連接信息。基于傳播的推薦方法是基于嵌入傳播的思想,聚合知識(shí)圖譜中多跳鄰居節(jié)點(diǎn)的嵌入來深化實(shí)體表示。然后,獲得用戶和項(xiàng)目的豐富表示,并預(yù)測(cè)用戶的偏好。

    2.3.1 用戶或項(xiàng)目表示的細(xì)化

    Wang等[12]提出的RippleNet模型引入偏好傳播的概念,不斷自動(dòng)地發(fā)現(xiàn)用戶的潛在的層級(jí)興趣。該模型抽取用戶節(jié)點(diǎn)相連的N-hop實(shí)體節(jié)點(diǎn),并利用這些鄰居實(shí)體節(jié)點(diǎn)的嵌入表示更新用戶的嵌入表示,最后通過用戶向量和項(xiàng)目向量的內(nèi)積去預(yù)測(cè)推薦結(jié)果。在給定知識(shí)圖譜G和交互矩陣Y的情況下,用戶u的k-hop相關(guān)實(shí)體集定義如下:

    其中ε0u=Vu={v|yuv=1}為用戶歷史點(diǎn)擊記錄,也即是種子集合。用戶u的k-hop波紋集定義為以εk-1u中節(jié)點(diǎn)為頭節(jié)點(diǎn)的三元組:

    在RippleNet中,項(xiàng)目的表示可以通過嵌入層直接得到,并計(jì)算給定用戶u的1-hop波紋集S1u中的每個(gè)三元組與項(xiàng)目嵌入向量的歸一化相關(guān)性,相關(guān)性計(jì)算公式如下:

    然后加權(quán)聚合所有尾節(jié)點(diǎn)的嵌入向量,得到用戶u的歷史偏好關(guān)于v的一階響應(yīng),表示用戶偏好經(jīng)過第一輪傳播后的結(jié)果:

    重復(fù)上述過程,就是不斷向外層傳播用戶偏好的過程。最終融合它的所有階數(shù)的響應(yīng)計(jì)算用戶u關(guān)于項(xiàng)目v的特征:

    最后的偏好預(yù)測(cè)計(jì)算如下:

    其中,σ(·)是一個(gè)sigmoid函數(shù)。通過這種方式,Ripple-Net模型沿著知識(shí)圖譜中的路徑傳播用戶對(duì)歷史興趣的偏好。

    類似于RippleNet模型的偏好傳播機(jī)制,Tang等[46]提出AKUPM模型,它根據(jù)用戶的點(diǎn)擊歷史來建模用戶。AKUPM首先通過TransR得到用戶歷史行為信息中關(guān)聯(lián)實(shí)體的嵌入表示,在每個(gè)傳播過程中,該模型通過自注意力層學(xué)習(xí)實(shí)體之間的關(guān)系,并學(xué)習(xí)實(shí)體在涉及不同的關(guān)系時(shí)表現(xiàn)出不同的特征。最后,再通過注意力機(jī)制聚合不同階數(shù)的鄰域嵌入以獲得最終的用戶表示。Li等[65]提出的RCoLM模型以AKUPM為主干,聯(lián)合訓(xùn)練知識(shí)圖譜補(bǔ)全任務(wù)和推薦任務(wù),捕捉到兩項(xiàng)任務(wù)的互補(bǔ)信息,以促進(jìn)兩項(xiàng)任務(wù)的相互增強(qiáng)。

    該類模型雖然通過偏好傳播的方式提高了推薦效果,但是存在忽視關(guān)系重要性、帶來計(jì)算負(fù)擔(dān)和冗余的問題。Wang等[44]提出的KGCN模型結(jié)合知識(shí)圖譜和圖卷積神經(jīng)網(wǎng)絡(luò),能很好地捕捉局部鄰域信息和考慮鄰居節(jié)點(diǎn)權(quán)重以實(shí)現(xiàn)推薦。該模型通過對(duì)知識(shí)圖譜中候選項(xiàng)目的鄰居節(jié)點(diǎn)進(jìn)行采樣,然后對(duì)每個(gè)實(shí)體迭代地采樣鄰居節(jié)點(diǎn),利用鄰居節(jié)點(diǎn)信息的線性組合來刻畫結(jié)點(diǎn)v的鄰域信息:

    其中,N(v)表示和v直接相連的實(shí)體集合;πur表示用戶u與某個(gè)關(guān)系r的關(guān)系分?jǐn)?shù),可通過歸一化用戶關(guān)系分?jǐn)?shù)計(jì)算得到。為了防止不同實(shí)體N(v)大小產(chǎn)生的差異和提高計(jì)算效率,該模型為每個(gè)實(shí)體均勻地采樣固定大小的鄰居節(jié)點(diǎn)作為實(shí)體v的鄰域表示,且滿足:

    S(v)就是實(shí)體v的感受野,即對(duì)每一個(gè)結(jié)點(diǎn)v,只選取K個(gè)鄰居進(jìn)行計(jì)算。最后,將實(shí)體表示v與鄰域表示聚合得到最終的嵌入向量表示。

    然而,KGCN容易過度擬合,因?yàn)橛脩艚换?shù)據(jù)是整個(gè)模型的唯一數(shù)據(jù)來源。因此,在KGCN的基礎(chǔ)上,Wang等[66]又提出KGCN-LS模型,增加了標(biāo)簽平滑度正則項(xiàng),來對(duì)損失函數(shù)進(jìn)行約束。標(biāo)簽平滑度機(jī)制在計(jì)算用戶關(guān)系分?jǐn)?shù)時(shí)構(gòu)造交互標(biāo)簽。標(biāo)簽傳播模塊和偏好傳播模塊聯(lián)合訓(xùn)練,進(jìn)一步提高了推薦結(jié)果。

    這些方法以用戶或項(xiàng)目的知識(shí)圖譜為基礎(chǔ),同時(shí)利用實(shí)體嵌入和高階連接信息,但在傳播過程中只有用戶或項(xiàng)目的表示得到了更新優(yōu)化。

    2.3.2 協(xié)同用戶項(xiàng)目表示

    RippleNet模型及其擴(kuò)展側(cè)重于在項(xiàng)目知識(shí)圖譜上使用嵌入傳播機(jī)制,在基于用戶項(xiàng)目知識(shí)圖譜中嵌入傳播機(jī)制的探索中,Wang等[45]提出KGAT模型,引入?yún)f(xié)同知識(shí)圖譜的方法,將用戶和項(xiàng)目知識(shí)編碼為一個(gè)統(tǒng)一的關(guān)系圖G,通過嵌入傳播直接對(duì)用戶和項(xiàng)目之間的高階關(guān)系建模。該模型首先應(yīng)用TransR獲得實(shí)體的嵌入表示,遞歸地傳播來自實(shí)體鄰居節(jié)點(diǎn)的嵌入,增強(qiáng)當(dāng)前節(jié)點(diǎn)的嵌入。在信息傳播中,使用Nh={(h,r,t)|(h,r,t)∈G}表示以實(shí)體h為頭節(jié)點(diǎn)的三元組集合,則實(shí)體h鄰域的一階線性組合計(jì)算如下:

    其中π(h,r,t)控制三元組每次傳播的衰減因子,表示有多少信息從t經(jīng)過r傳向h。將實(shí)體和鄰域表示聚合就得到了實(shí)體的一階表示:

    進(jìn)一步聚合高階的鄰居傳播,在第l步中,實(shí)體h的l階表示為:

    經(jīng)過L層后,采用層聚合機(jī)制將每一階的表示連接成一個(gè)向量作為實(shí)體的最終表示:

    其中e(0)h表示實(shí)體初始表示;“||”表示連接操作。該模型不僅可以通過嵌入傳播來豐富初始嵌入,還可以通過調(diào)整L來增強(qiáng)傳播和控制規(guī)模。

    為了進(jìn)一步考慮項(xiàng)目側(cè)鄰居和用戶側(cè)鄰居之間的交互作用,Qu等[47]提出KNI模型,因?yàn)橛脩艉晚?xiàng)目共享交互模式,使得用戶嵌入和項(xiàng)目嵌入的細(xì)化過程不分離。Zhao等[48]提出的IntentGC模型利用圖中豐富的用戶相關(guān)行為獲得更好的推薦。為了提高效率,該模型將用戶項(xiàng)目圖拆分為用戶圖和項(xiàng)目圖,還設(shè)計(jì)了一個(gè)更快的圖卷積網(wǎng)絡(luò)來更新實(shí)體的高階表示。為了解決在傳播過程中引入不相關(guān)鄰居的問題,Sha等[51]提出的HAKG模型通過在用戶項(xiàng)目對(duì)的子圖中傳播信息來學(xué)習(xí)用戶和候選項(xiàng)目的增強(qiáng)表示。該模式首先使用TransR對(duì)圖中的實(shí)體嵌入進(jìn)行預(yù)訓(xùn)練,然后使用距離感知抽樣策略保留最短K條路徑構(gòu)建用戶項(xiàng)目對(duì)的高階子圖,接下來,該模型在子圖中通過基于注意的圖神經(jīng)網(wǎng)絡(luò)使用關(guān)系感知傳播來自鄰居的信息,以最終表示該用戶項(xiàng)目對(duì)。HAKG在子圖的構(gòu)造中過濾掉了圖中相關(guān)性較低的實(shí)體,便于挖掘高階用戶項(xiàng)關(guān)系進(jìn)行推薦,同時(shí)減少了計(jì)算開銷。

    上述方法主要關(guān)注于如何有效地編碼知識(shí)圖譜中知識(shí)的關(guān)聯(lián)關(guān)系,Wang等[50]提出的CKAN協(xié)同知識(shí)感知注意網(wǎng)絡(luò)模型通過協(xié)同信息與知識(shí)關(guān)聯(lián)組合一起細(xì)化用戶和項(xiàng)目的表示,突出了用戶項(xiàng)目交互中潛在的重要的協(xié)同信號(hào)。CKAN由異構(gòu)傳播層、知識(shí)感知注意嵌入層和預(yù)測(cè)層組成,在知識(shí)圖譜中嵌入傳播前先使用協(xié)同傳播策略顯式編碼兩種信息,即用戶由交互過的項(xiàng)目表示,項(xiàng)目由交互過的用戶表示,項(xiàng)目和用戶的表示分別如下:

    接下來在知識(shí)圖譜中沿鏈路傳播,可以得到初始實(shí)體集擴(kuò)展的三元組表示:

    然后使用知識(shí)感知的注意力嵌入方法進(jìn)行多跳傳播得到多層的用戶和項(xiàng)目表示。

    CKAN使用協(xié)同傳播豐富了用戶和項(xiàng)目的0-hop的嵌入表示,然而忽略多跳的波紋集中實(shí)體的關(guān)系和沒有區(qū)分不同波紋集的重要性。因此,Xu等[55]提出了協(xié)同知識(shí)感知圖注意網(wǎng)絡(luò)模型,使用知識(shí)感知圖注意網(wǎng)絡(luò)提取多跳波紋集中實(shí)體的拓?fù)溧徑Y(jié)構(gòu),然后學(xué)習(xí)高階實(shí)體表示,從而生成精細(xì)的ripple集嵌入。

    此外,為了在提供精確推薦的同時(shí)生成類人語義的解釋,Lyu等[54]提出的KEGNN模型將外部知識(shí)庫中的語義知識(shí)用于用戶、項(xiàng)目和用戶項(xiàng)目交互三方的表示學(xué)習(xí),并利用知識(shí)增強(qiáng)的語義嵌入來初始化所構(gòu)建用戶行為圖中的實(shí)體和關(guān)系。KEGNN設(shè)計(jì)了一個(gè)用戶行為學(xué)習(xí)和推理模塊,并利用GRU生成器和復(fù)制模式生成文本解釋,生成的解釋說明了用戶對(duì)評(píng)級(jí)商品的選擇和購買原因。

    通過協(xié)同表示用戶和項(xiàng)目能在更大程度上探索高階連接模式,但缺點(diǎn)是會(huì)帶來不相關(guān)的實(shí)體,這可能會(huì)誤導(dǎo)用戶在聚合過程中的興趣。

    基于傳播的推薦方法受益于知識(shí)圖譜的語義表示和路徑關(guān)聯(lián),利用嵌入傳播的思想來增強(qiáng)知識(shí)圖譜中具有多跳鄰居節(jié)點(diǎn)的用戶或項(xiàng)目的表示?;趥鞑サ耐扑]方法的傳播過程可以被視為在知識(shí)圖譜中發(fā)現(xiàn)用戶的偏好模式,這些方法結(jié)合了基于嵌入的方法和基于路徑的方法的優(yōu)勢(shì),兼具準(zhǔn)確性和可解釋性。

    2.4 小結(jié)

    基于嵌入的方法使用知識(shí)圖譜嵌入對(duì)知識(shí)圖譜進(jìn)行學(xué)習(xí),以獲得實(shí)體和關(guān)系的嵌入,并進(jìn)一步將其集成到推薦模型中。然而,在這種方法中實(shí)體間的語義關(guān)聯(lián)被忽略?;诼窂降姆椒ɡ糜脩繇?xiàng)目圖挖掘路徑連接相似性,通過預(yù)定義元結(jié)構(gòu)或自動(dòng)挖掘路徑連接關(guān)系?;诼窂降姆椒ㄟ€可以為用戶提供對(duì)結(jié)果的解釋。此外,稀疏數(shù)據(jù)集場(chǎng)景可能無法提供足夠的路徑來挖掘連接關(guān)系?;趥鞑サ姆椒葘?shí)現(xiàn)了對(duì)于知識(shí)圖譜結(jié)構(gòu)中路徑的連接關(guān)系的利用,又通過嵌入的思想學(xué)習(xí)實(shí)體和關(guān)系的特征表示,以充分利用雙方的信息。此外,基于傳播的推薦方法還具有解釋推薦過程的能力。表2簡要說明了三種類型方法的優(yōu)缺點(diǎn)。

    表2 三種類型方法的比較Table 2 Comparison of three types of methods

    3 實(shí)驗(yàn)數(shù)據(jù)集以及性能評(píng)價(jià)

    3.1 常用數(shù)據(jù)集

    知識(shí)圖譜所為提供給知識(shí)圖譜的額外信息,在提高推薦算法的同時(shí),可以自然地合并到不同應(yīng)用的推薦算法中。不同的場(chǎng)景下應(yīng)用數(shù)據(jù)集展示了知識(shí)圖譜作為輔助信息的有效性。本節(jié)簡要介紹不同數(shù)據(jù)集,并根據(jù)數(shù)據(jù)集對(duì)這些方法進(jìn)行分類,這有助于幫助研究人員尋找合適的數(shù)據(jù)集來測(cè)試他們的推薦方法。根據(jù)表3中總結(jié)的數(shù)據(jù)集對(duì)基于知識(shí)圖譜的推薦方法進(jìn)行分組。通常,這些數(shù)據(jù)集可以分為以下應(yīng)用場(chǎng)景:

    表3 應(yīng)用不同數(shù)據(jù)集的文獻(xiàn)Table 3 Literature using different datasets

    (1)電影。電影領(lǐng)域知識(shí)通過提取電影類型、演員和導(dǎo)演等很容易映射到外部知識(shí)庫。最常用的數(shù)據(jù)集是從MovieLens網(wǎng)站收集的MovieLens數(shù)據(jù)集,包括MovieLens-100K、MovieLens-1M和MovieLens-20這三個(gè)不同評(píng)級(jí)數(shù)量的數(shù)據(jù)集,其中包含了包括電影屬性、用戶信息、用戶打分?jǐn)?shù)據(jù)和標(biāo)簽數(shù)據(jù)等內(nèi)容。通常在MovieLens上通過DBpedia知識(shí)圖譜進(jìn)行匹配以豐富實(shí)體表示。除了MovieLens數(shù)據(jù)集,還有從中國豆瓣電影網(wǎng)上收集的DoubanMovie,通過與中文百科知識(shí)圖譜匹配維護(hù)電影標(biāo)簽。在電影數(shù)據(jù)中,知識(shí)圖譜上關(guān)于電影的特征信息能有效地提升推薦效果。

    (2)書籍。類似于電影場(chǎng)景,書籍的外部知識(shí)也非常豐富。通常使用的公共可用數(shù)據(jù)集是Book-Crossing和Amazon-Book,它們都包含用戶信息、書籍屬性和用戶評(píng)分信息。Amazon-Book還多了與用戶購買行為相關(guān)的信息。此外,一些方法還采用Intent Book和DBbook2014等數(shù)據(jù)集。

    (3)音樂。音樂推薦也是場(chǎng)景的推薦任務(wù)。Last.FM是最流行的音樂推薦數(shù)據(jù)集,該數(shù)據(jù)集包含來自于Last.FM在線音樂網(wǎng)站的用戶信息、音樂屬性和用戶收聽記錄。另一個(gè)流行的數(shù)據(jù)集KKBox發(fā)布于WSDM挑戰(zhàn)賽,該數(shù)據(jù)集包含音樂描述和收聽記錄,規(guī)模相對(duì)較為稀疏。

    (4)商品。電商網(wǎng)站的內(nèi)容展示高度依賴商品的推薦結(jié)果。但與其他場(chǎng)景相比,商品推薦領(lǐng)域的數(shù)據(jù)集非常大且稀疏。其主要的研究數(shù)據(jù)是從電商網(wǎng)站Amazon和Taobao上收集的,包含了用戶和商品的各類屬性信息以及用戶交互、評(píng)論和購買等各種行為信息。

    (5)新聞。新聞推薦具有時(shí)效性和內(nèi)容高度濃縮,且依賴于文本信息,因此具有一定的挑戰(zhàn)性。在應(yīng)用知識(shí)圖譜到新聞的推薦場(chǎng)景中時(shí),需要先提取內(nèi)容中的實(shí)體,并映射到知識(shí)圖譜。最受歡迎的數(shù)據(jù)集是Bing-News,其中包含用戶點(diǎn)擊信息和新聞內(nèi)容特征等,通常使用一些通用型知識(shí)圖譜如Wikidata和Microsoft Satori進(jìn)行實(shí)體關(guān)聯(lián)。

    3.2 性能對(duì)比

    通過在三個(gè)公開數(shù)據(jù)集MovieLens-20M、Book-Crossing和Last.FM上進(jìn)行的模擬實(shí)驗(yàn),選取了部分源碼公開的推薦方法并對(duì)其模型的預(yù)測(cè)性進(jìn)行評(píng)價(jià)。采用AUC和F1作為模型的性能評(píng)價(jià)指標(biāo),AUC的定義為ROC曲線下的面積,AUC越大,表明方法效果越好。F1分?jǐn)?shù)是精準(zhǔn)率(precision)與召回率(recall)的調(diào)和均值,取值范圍是從0到1,值越大表明方法越理想。如表4展示了不同算法在三個(gè)公開數(shù)據(jù)集上的性能表現(xiàn)。

    表4 不同算法的性能對(duì)比Table 4 Performance comparison of different methods

    在實(shí)驗(yàn)中,對(duì)于測(cè)試集中的每個(gè)用戶,將沒有與之交互的項(xiàng)目視為負(fù)項(xiàng)目,然后計(jì)算出用戶對(duì)除了在訓(xùn)練集中的正項(xiàng)目外的所有項(xiàng)目的偏好得分。此外,將數(shù)據(jù)集按照6∶2∶2的比例劃分為訓(xùn)練集、驗(yàn)證集和測(cè)試集。模擬了原模型的具體實(shí)驗(yàn)環(huán)境,如深度學(xué)習(xí)框架等。具體的實(shí)驗(yàn)超參數(shù)設(shè)置如下:

    在CKE中,三個(gè)數(shù)據(jù)集的嵌入維度分別設(shè)置為64、64和128。在KSR中,項(xiàng)目嵌入大小設(shè)置為256,網(wǎng)絡(luò)隱藏層大小設(shè)置為256,鍵向量和值向均設(shè)為50。在KGIN中,將嵌入維度固定為64,用戶的意圖數(shù)量固定為4,將聚合層的數(shù)量固定為3。在RippleNet中,嵌入維度d和傳播跳數(shù)H,對(duì)于MovieLens-20M,設(shè)置d=16和H=2;對(duì)于Last.FM和Book-Crossing,設(shè)置d=8和H=3。在KGCN中,對(duì)于MovieLens-20M,嵌入維度d為62,感受野深度H為2,鄰居采樣大小為4,而對(duì)于Last.FM和Book-Crossing,分別設(shè)置為d=16,H=1和K=8以及d=64,H=1和K=8。在KGAT中,將嵌入維度固定為64,模型的嵌入傳播層數(shù)設(shè)置為4。在CKAN中,對(duì)于MovieLens-20M嵌入維度設(shè)置為64,Last.FM和Book-Crossing中嵌入維度設(shè)置為128。對(duì)于知識(shí)傳播層數(shù)的深度L分別設(shè)置為1、3和2。在CKGAT中,嵌入維度設(shè)置為64,波紋集最大跳數(shù)L和相鄰實(shí)體數(shù)量K在MovieLens-20M中分別為2和4,在Last.FM設(shè)置L=3和K=3,對(duì)Book-Crossing設(shè)置L=2和K=4。其他參數(shù)與原始論文中報(bào)告的相同,或與代碼中的默認(rèn)值相同。

    4 研究展望

    在以上的討論中,基于知識(shí)圖譜的推薦算法展示了在精確性、多樣性和可解釋性方面的優(yōu)勢(shì),且應(yīng)用場(chǎng)景廣闊。本章將討論一些具有挑戰(zhàn)性的未來研究的問題:

    (1)動(dòng)態(tài)推薦

    知識(shí)圖譜包含著豐富的用戶行為信息和項(xiàng)目特征信息,但在用戶長期歷史行為中普遍存在隱式和嘈雜的偏好信號(hào),這無疑會(huì)降低用戶真實(shí)興趣的建模效果。且在類似新聞要求時(shí)效性的場(chǎng)景中,用戶的興趣偏好很容易轉(zhuǎn)移。因此與傳統(tǒng)的靜態(tài)推薦相比,捕獲用戶在發(fā)展過程中的動(dòng)態(tài)偏好并預(yù)測(cè)用戶的行為意圖,能更好地提高用戶體驗(yàn)。Zhang等[67]提出了一種用于基于會(huì)話的推薦的動(dòng)態(tài)和靜態(tài)偏好的圖神經(jīng)網(wǎng)絡(luò)模型DSGNN,綜合考慮了有向圖和無向圖捕獲的用戶意圖并通過門控網(wǎng)絡(luò)組合。聯(lián)合建模長短期興趣的解決方案能捕獲短期興趣的轉(zhuǎn)移和避免長期興趣的遺忘,但長期和短期興趣的劃分與整合仍然具有挑戰(zhàn)性。

    (2)跨領(lǐng)域推薦

    知識(shí)圖譜作為一種有效的輔助數(shù)據(jù)能解決冷啟動(dòng)問題,但這也僅適用于在單一領(lǐng)域已經(jīng)穩(wěn)定積累數(shù)據(jù)信息的推薦場(chǎng)景??珙I(lǐng)域推薦旨在從一個(gè)信息豐富的源領(lǐng)域向目標(biāo)領(lǐng)域遷移知識(shí)來緩解目標(biāo)領(lǐng)域的冷啟動(dòng)問題,能更好地使用數(shù)據(jù)充足的領(lǐng)域數(shù)據(jù)幫助數(shù)據(jù)不足的領(lǐng)域進(jìn)行更好的推薦。Liu等[68]提出的跨領(lǐng)域知識(shí)圖交叉嵌入方法通過分析同一領(lǐng)域項(xiàng)目之間的關(guān)聯(lián)以及不同領(lǐng)域項(xiàng)目之間的相互作用,研究了基于跨領(lǐng)域知識(shí)圖譜嵌入的多領(lǐng)域項(xiàng)目推薦。該方法借助包含豐富信息的知識(shí)圖譜,能有效地推薦多個(gè)領(lǐng)域的項(xiàng)目。但由于商業(yè)隱私政策,不同的領(lǐng)域不能完全共享數(shù)據(jù),跨域推薦在工業(yè)上的應(yīng)用還不成熟。

    (3)多模態(tài)知識(shí)圖譜推薦

    多模態(tài)知識(shí)圖譜在傳統(tǒng)知識(shí)圖譜的基礎(chǔ)上,引入不同模態(tài)的實(shí)體或?qū)嶓w屬性,同時(shí)也帶來了不同模態(tài)間的語義關(guān)聯(lián)。引入文本或視覺數(shù)據(jù)的多模態(tài)知識(shí)圖譜可以提供更多的輔助信息,從而解決數(shù)據(jù)稀疏和冷啟動(dòng)問題。Tao等[69]提出的多模態(tài)知識(shí)感知強(qiáng)化學(xué)習(xí)網(wǎng)絡(luò)MKRLN通過在多模態(tài)知識(shí)圖譜中提供實(shí)際路徑來關(guān)聯(lián)推薦和解釋性。該方法通過組合實(shí)體的結(jié)構(gòu)和視覺信息來生成路徑表示,但現(xiàn)有方法多將文本模態(tài)和視覺模態(tài)分別建模學(xué)習(xí),將多模態(tài)信息和實(shí)體信息直接拼接到一起作為新實(shí)體集成到推薦還存在一定的挑戰(zhàn)。

    5 結(jié)束語

    引入知識(shí)圖譜的推薦算法提高了推薦算法的精確性、多樣性和可解釋性,擁有傳統(tǒng)推薦算法所不具備的優(yōu)勢(shì)。本文調(diào)研了應(yīng)用知識(shí)圖譜的推薦算法的相關(guān)研究,回顧了知識(shí)圖譜和推薦算法的基本知識(shí),并簡要說明了推薦算法的可解釋性之后,總結(jié)了近年來基于知識(shí)圖譜的推薦算法的不同應(yīng)用方式。最后展望了該領(lǐng)域的潛在研究方向,希望能促進(jìn)該領(lǐng)域的發(fā)展。

    猜你喜歡
    圖譜實(shí)體算法
    繪一張成長圖譜
    前海自貿(mào)區(qū):金融服務(wù)實(shí)體
    中國外匯(2019年18期)2019-11-25 01:41:54
    基于MapReduce的改進(jìn)Eclat算法
    Travellng thg World Full—time for Rree
    進(jìn)位加法的兩種算法
    實(shí)體的可感部分與實(shí)體——兼論亞里士多德分析實(shí)體的兩種模式
    補(bǔ)腎強(qiáng)身片UPLC指紋圖譜
    中成藥(2017年3期)2017-05-17 06:09:01
    兩會(huì)進(jìn)行時(shí):緊扣實(shí)體經(jīng)濟(jì)“釘釘子”
    振興實(shí)體經(jīng)濟(jì)地方如何“釘釘子”
    主動(dòng)對(duì)接你思維的知識(shí)圖譜
    校园春色视频在线观看| 婷婷六月久久综合丁香| 九九在线视频观看精品| 又黄又爽又免费观看的视频| 欧美乱色亚洲激情| 日韩欧美在线乱码| 午夜视频国产福利| 夜夜躁狠狠躁天天躁| 国产高清三级在线| 欧美激情久久久久久爽电影| 最新中文字幕久久久久| 舔av片在线| 精品欧美国产一区二区三| 精品久久久久久久久久久久久| 成人高潮视频无遮挡免费网站| 国产av在哪里看| 一区福利在线观看| 精品国产三级普通话版| 免费看a级黄色片| 久久精品91蜜桃| 国语自产精品视频在线第100页| 亚洲av五月六月丁香网| 老司机深夜福利视频在线观看| 757午夜福利合集在线观看| 欧美绝顶高潮抽搐喷水| 搞女人的毛片| 亚洲色图av天堂| 欧美最新免费一区二区三区 | 三级国产精品欧美在线观看| 两个人的视频大全免费| 国产高潮美女av| 久久久久久久久久黄片| 禁无遮挡网站| 免费人成在线观看视频色| 亚洲第一区二区三区不卡| 亚洲激情在线av| 嫩草影院入口| 国产久久久一区二区三区| 757午夜福利合集在线观看| 深夜a级毛片| 欧美性猛交╳xxx乱大交人| 午夜激情欧美在线| 内射极品少妇av片p| 国产野战对白在线观看| 亚洲欧美日韩卡通动漫| 久久伊人香网站| 国产毛片a区久久久久| 久久国产乱子免费精品| 天天躁日日操中文字幕| 观看免费一级毛片| 午夜福利高清视频| 久久久久久大精品| 亚洲第一欧美日韩一区二区三区| 欧美绝顶高潮抽搐喷水| 亚洲精品日韩av片在线观看| 国产伦人伦偷精品视频| 精品99又大又爽又粗少妇毛片 | 91av网一区二区| 我要搜黄色片| 亚洲不卡免费看| .国产精品久久| 国产精品av视频在线免费观看| 狠狠狠狠99中文字幕| 久久精品国产99精品国产亚洲性色| 中文资源天堂在线| 久久精品国产自在天天线| 在线观看美女被高潮喷水网站 | 国产高潮美女av| 国产av不卡久久| 一级作爱视频免费观看| 中文字幕高清在线视频| 亚洲精品一区av在线观看| 国产精品精品国产色婷婷| xxxwww97欧美| 亚洲最大成人中文| 国产高清激情床上av| 亚洲精华国产精华精| 别揉我奶头 嗯啊视频| 黄色日韩在线| 99在线人妻在线中文字幕| 欧美日韩福利视频一区二区| 国产午夜精品论理片| 国产三级中文精品| 欧美zozozo另类| 欧洲精品卡2卡3卡4卡5卡区| 国产白丝娇喘喷水9色精品| 最新中文字幕久久久久| 1024手机看黄色片| 好看av亚洲va欧美ⅴa在| 亚洲美女黄片视频| 亚洲国产精品成人综合色| 99热这里只有精品一区| 91在线观看av| 国产av在哪里看| 观看美女的网站| 99久国产av精品| 老熟妇乱子伦视频在线观看| 欧美黄色片欧美黄色片| 少妇人妻精品综合一区二区 | www.999成人在线观看| 1024手机看黄色片| 欧美激情国产日韩精品一区| 国产乱人视频| 丰满的人妻完整版| 久久久精品欧美日韩精品| av女优亚洲男人天堂| 看片在线看免费视频| 此物有八面人人有两片| 一个人观看的视频www高清免费观看| 国产久久久一区二区三区| 久久香蕉精品热| 男女床上黄色一级片免费看| 国产日本99.免费观看| 国产精品亚洲美女久久久| 五月伊人婷婷丁香| 久久九九热精品免费| 高潮久久久久久久久久久不卡| 中文字幕av成人在线电影| 美女xxoo啪啪120秒动态图 | a级毛片a级免费在线| 成年免费大片在线观看| 亚洲欧美日韩东京热| 亚洲片人在线观看| 青草久久国产| 亚洲av中文字字幕乱码综合| www日本黄色视频网| 中亚洲国语对白在线视频| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 嫩草影院新地址| 亚洲av电影不卡..在线观看| 在线天堂最新版资源| 哪里可以看免费的av片| 很黄的视频免费| 免费看光身美女| 久久婷婷人人爽人人干人人爱| 日本一二三区视频观看| 18+在线观看网站| 亚洲精品日韩av片在线观看| 日本一二三区视频观看| 亚洲,欧美,日韩| 成人三级黄色视频| а√天堂www在线а√下载| 欧美xxxx性猛交bbbb| 一级av片app| 亚洲不卡免费看| 成人美女网站在线观看视频| 99久久99久久久精品蜜桃| 国产精品乱码一区二三区的特点| 亚洲一区二区三区色噜噜| 少妇丰满av| 亚洲18禁久久av| 亚洲七黄色美女视频| 在现免费观看毛片| 人妻久久中文字幕网| 窝窝影院91人妻| 欧美日韩综合久久久久久 | 色噜噜av男人的天堂激情| 国模一区二区三区四区视频| 99精品在免费线老司机午夜| 少妇丰满av| 午夜精品在线福利| 国产精品乱码一区二三区的特点| 国产av不卡久久| 欧美3d第一页| 日本成人三级电影网站| 亚洲最大成人av| 成熟少妇高潮喷水视频| 欧美一区二区精品小视频在线| 欧美性猛交╳xxx乱大交人| 免费黄网站久久成人精品 | 桃色一区二区三区在线观看| 亚洲精品一卡2卡三卡4卡5卡| 天堂动漫精品| 欧美极品一区二区三区四区| 成人国产一区最新在线观看| 久久亚洲真实| 窝窝影院91人妻| 美女免费视频网站| 成人性生交大片免费视频hd| 看十八女毛片水多多多| a级毛片免费高清观看在线播放| 成年女人毛片免费观看观看9| 女同久久另类99精品国产91| 少妇裸体淫交视频免费看高清| 中文字幕人妻熟人妻熟丝袜美| ponron亚洲| 日本a在线网址| 国产大屁股一区二区在线视频| 91字幕亚洲| 欧美成人性av电影在线观看| 赤兔流量卡办理| 男女下面进入的视频免费午夜| 男女之事视频高清在线观看| 桃红色精品国产亚洲av| 国产91精品成人一区二区三区| 深夜a级毛片| 欧美黑人欧美精品刺激| 日韩欧美精品免费久久 | 十八禁国产超污无遮挡网站| 欧美高清成人免费视频www| 国产精品98久久久久久宅男小说| 亚洲成人精品中文字幕电影| 亚洲精品国产成人久久av| 亚洲国产精品成人久久小说| 老女人水多毛片| 一个人看的www免费观看视频| 久久国产乱子免费精品| 综合色丁香网| 麻豆精品久久久久久蜜桃| 可以在线观看毛片的网站| 大话2 男鬼变身卡| 亚洲综合色惰| 69av精品久久久久久| 国产乱来视频区| 赤兔流量卡办理| 婷婷色麻豆天堂久久| 国产成人a∨麻豆精品| 成人午夜精彩视频在线观看| 亚州av有码| 亚洲成人一二三区av| 欧美最新免费一区二区三区| 日本av手机在线免费观看| 只有这里有精品99| 男人和女人高潮做爰伦理| 人妻一区二区av| 国产精品国产三级国产av玫瑰| 人妻系列 视频| 日本熟妇午夜| 搡老乐熟女国产| 中文字幕人妻熟人妻熟丝袜美| 日产精品乱码卡一卡2卡三| 欧美日韩视频高清一区二区三区二| 老师上课跳d突然被开到最大视频| 2021天堂中文幕一二区在线观| 能在线免费看毛片的网站| 尾随美女入室| 国产男女内射视频| 男女那种视频在线观看| 国产精品福利在线免费观看| 亚洲欧美一区二区三区国产| 国内精品美女久久久久久| 国产高清有码在线观看视频| 91精品一卡2卡3卡4卡| 免费不卡的大黄色大毛片视频在线观看| 秋霞在线观看毛片| 午夜福利高清视频| 在现免费观看毛片| 在线天堂最新版资源| 亚洲av一区综合| 成人综合一区亚洲| 一级毛片 在线播放| 超碰97精品在线观看| 你懂的网址亚洲精品在线观看| 91久久精品国产一区二区三区| 国产乱人偷精品视频| 国产黄频视频在线观看| 亚洲精品第二区| 熟女电影av网| 18禁在线无遮挡免费观看视频| 亚洲精品一二三| 亚洲自偷自拍三级| 99久久人妻综合| 2022亚洲国产成人精品| 国产成人aa在线观看| 国产高清不卡午夜福利| 最近中文字幕高清免费大全6| 男女无遮挡免费网站观看| 国产真实伦视频高清在线观看| 男男h啪啪无遮挡| 国产精品一二三区在线看| 亚洲精品国产成人久久av| 天堂俺去俺来也www色官网| 不卡视频在线观看欧美| 久久精品久久久久久噜噜老黄| 制服丝袜香蕉在线| 精品久久久久久久久亚洲| 国产成年人精品一区二区| 乱系列少妇在线播放| av专区在线播放| 欧美日韩在线观看h| 久久久精品94久久精品| 好男人在线观看高清免费视频| 老女人水多毛片| 成年版毛片免费区| 亚洲av.av天堂| 99热这里只有是精品在线观看| 亚洲在久久综合| 亚洲美女视频黄频| 欧美xxxx黑人xx丫x性爽| 女的被弄到高潮叫床怎么办| 插逼视频在线观看| 啦啦啦在线观看免费高清www| 春色校园在线视频观看| 高清毛片免费看| 天堂中文最新版在线下载 | 99久久中文字幕三级久久日本| 亚洲四区av| 国产毛片在线视频| 国产精品秋霞免费鲁丝片| 久久韩国三级中文字幕| 亚洲欧美一区二区三区国产| 成人欧美大片| 好男人在线观看高清免费视频| 国产老妇伦熟女老妇高清| 国产91av在线免费观看| 亚洲色图av天堂| 久久99热这里只有精品18| 六月丁香七月| 精品亚洲乱码少妇综合久久| 亚洲国产日韩一区二区| 日本午夜av视频| 精品久久久久久久末码| 国产一区有黄有色的免费视频| 中文字幕av成人在线电影| av福利片在线观看| 国产午夜精品久久久久久一区二区三区| 爱豆传媒免费全集在线观看| 国产视频内射| 成人欧美大片| 免费观看a级毛片全部| 嫩草影院入口| tube8黄色片| 熟女电影av网| 国产精品三级大全| 三级国产精品片| 人人妻人人澡人人爽人人夜夜| 成人特级av手机在线观看| 如何舔出高潮| 亚洲经典国产精华液单| 99久久精品热视频| 美女内射精品一级片tv| 一级爰片在线观看| 男女啪啪激烈高潮av片| 超碰av人人做人人爽久久| 久久精品国产a三级三级三级| 纵有疾风起免费观看全集完整版| 亚洲精品国产成人久久av| 亚洲成人一二三区av| 欧美日韩综合久久久久久| 一级a做视频免费观看| 国产亚洲一区二区精品| 亚洲经典国产精华液单| 国产精品三级大全| 午夜精品国产一区二区电影 | 免费高清在线观看视频在线观看| 久久99热这里只频精品6学生| 亚洲精品乱码久久久v下载方式| 人妻制服诱惑在线中文字幕| 免费黄网站久久成人精品| 伦理电影大哥的女人| 亚洲熟女精品中文字幕| 少妇 在线观看| 成人高潮视频无遮挡免费网站| 精品一区二区免费观看| 久久久精品94久久精品| 亚洲av电影在线观看一区二区三区 | 99九九线精品视频在线观看视频| 蜜桃久久精品国产亚洲av| 亚洲电影在线观看av| 亚洲av电影在线观看一区二区三区 | 在线精品无人区一区二区三 | av免费在线看不卡| 精华霜和精华液先用哪个| 久久久久久国产a免费观看| 亚洲精品成人av观看孕妇| 成人亚洲精品一区在线观看 | 在线看a的网站| 色哟哟·www| 女人被狂操c到高潮| 九草在线视频观看| 18禁裸乳无遮挡动漫免费视频 | 麻豆久久精品国产亚洲av| 国产综合精华液| 真实男女啪啪啪动态图| 久久久午夜欧美精品| 欧美激情在线99| 大又大粗又爽又黄少妇毛片口| 3wmmmm亚洲av在线观看| 国产精品熟女久久久久浪| 日韩,欧美,国产一区二区三区| 久久人人爽人人爽人人片va| 婷婷色av中文字幕| 精品熟女少妇av免费看| 欧美性猛交╳xxx乱大交人| 国产色爽女视频免费观看| 精华霜和精华液先用哪个| 国产精品嫩草影院av在线观看| 国产毛片a区久久久久| 一级a做视频免费观看| 中文字幕亚洲精品专区| 少妇丰满av| 欧美3d第一页| 91午夜精品亚洲一区二区三区| 亚洲欧美清纯卡通| 国产爱豆传媒在线观看| 国产视频内射| 黄片wwwwww| 精品99又大又爽又粗少妇毛片| 亚洲美女视频黄频| 亚洲人成网站高清观看| 欧美国产精品一级二级三级 | 亚洲三级黄色毛片| 欧美国产精品一级二级三级 | 国产淫语在线视频| 激情 狠狠 欧美| 免费人成在线观看视频色| www.色视频.com| 成人国产麻豆网| 精品一区二区免费观看| 在现免费观看毛片| 精品少妇黑人巨大在线播放| 亚洲自偷自拍三级| 嘟嘟电影网在线观看| 全区人妻精品视频| 免费观看性生交大片5| 精品久久久噜噜| 久久精品国产自在天天线| 亚洲国产精品成人久久小说| 国产高清不卡午夜福利| 午夜免费鲁丝| 成人欧美大片| 色吧在线观看| 亚洲国产成人一精品久久久| 亚洲精品乱码久久久久久按摩| 亚洲欧美清纯卡通| 精品酒店卫生间| 一级二级三级毛片免费看| 日韩一区二区视频免费看| 99热网站在线观看| 亚洲精品日韩在线中文字幕| 精品久久国产蜜桃| 在线免费观看不下载黄p国产| 国产成人freesex在线| 国产av不卡久久| 国产91av在线免费观看| 久久久午夜欧美精品| 国产精品嫩草影院av在线观看| 黄色日韩在线| 亚洲av电影在线观看一区二区三区 | av线在线观看网站| 国产精品福利在线免费观看| 亚洲人与动物交配视频| 永久网站在线| 一区二区三区免费毛片| 日本熟妇午夜| 成人漫画全彩无遮挡| 午夜免费观看性视频| 五月玫瑰六月丁香| 国产综合懂色| 久久99热这里只有精品18| 18禁动态无遮挡网站| 亚洲精品亚洲一区二区| 亚洲精品成人av观看孕妇| 免费观看a级毛片全部| 国产久久久一区二区三区| 国产欧美另类精品又又久久亚洲欧美| 免费看不卡的av| 男女国产视频网站| 欧美 日韩 精品 国产| 国产中年淑女户外野战色| 岛国毛片在线播放| 欧美一区二区亚洲| 美女被艹到高潮喷水动态| 黑人高潮一二区| 国产欧美日韩一区二区三区在线 | 又大又黄又爽视频免费| 国产精品99久久99久久久不卡 | 免费观看的影片在线观看| 国产白丝娇喘喷水9色精品| 高清欧美精品videossex| 青春草亚洲视频在线观看| 成人一区二区视频在线观看| 国产男人的电影天堂91| 国产淫语在线视频| 国产黄a三级三级三级人| 国产亚洲av片在线观看秒播厂| 美女主播在线视频| 免费看日本二区| 在线观看av片永久免费下载| 国内精品宾馆在线| 全区人妻精品视频| 精品久久久精品久久久| 国产精品一区二区三区四区免费观看| 日韩成人av中文字幕在线观看| 亚洲精华国产精华液的使用体验| 夫妻午夜视频| 成人欧美大片| 国产成人精品婷婷| 真实男女啪啪啪动态图| 七月丁香在线播放| 又爽又黄a免费视频| 免费av毛片视频| 国产久久久一区二区三区| 男女下面进入的视频免费午夜| 亚洲av不卡在线观看| 免费观看a级毛片全部| 香蕉精品网在线| 国产精品无大码| 日本黄色片子视频| 欧美亚洲 丝袜 人妻 在线| 欧美3d第一页| 中国三级夫妇交换| 国产伦理片在线播放av一区| 97热精品久久久久久| 天堂中文最新版在线下载 | 人妻少妇偷人精品九色| 日本一本二区三区精品| 国产成人91sexporn| 中文字幕亚洲精品专区| 精品国产乱码久久久久久小说| 人妻少妇偷人精品九色| 国产成人精品久久久久久| 嫩草影院新地址| 国产探花极品一区二区| 欧美国产精品一级二级三级 | 国国产精品蜜臀av免费| 久热这里只有精品99| 色哟哟·www| 看黄色毛片网站| 久久久精品欧美日韩精品| 18+在线观看网站| 中国国产av一级| 国产成人一区二区在线| 欧美一区二区亚洲| 人人妻人人爽人人添夜夜欢视频 | 久久精品熟女亚洲av麻豆精品| 麻豆国产97在线/欧美| 午夜视频国产福利| 丰满乱子伦码专区| 白带黄色成豆腐渣| 51国产日韩欧美| 日韩不卡一区二区三区视频在线| 人妻 亚洲 视频| 日日摸夜夜添夜夜爱| 欧美精品一区二区大全| 亚洲人成网站在线播| 国产国拍精品亚洲av在线观看| 国产成人freesex在线| 老司机影院成人| 欧美日韩精品成人综合77777| 男人添女人高潮全过程视频| 免费观看无遮挡的男女| 精品人妻偷拍中文字幕| 直男gayav资源| 激情五月婷婷亚洲| 久久女婷五月综合色啪小说 | 日本黄大片高清| 成人鲁丝片一二三区免费| 黑人高潮一二区| 久久久精品免费免费高清| 久久精品综合一区二区三区| 亚洲人成网站在线观看播放| 日韩制服骚丝袜av| 国产亚洲最大av| 国产精品人妻久久久久久| 精品久久国产蜜桃| 欧美变态另类bdsm刘玥| 欧美人与善性xxx| 久久ye,这里只有精品| 国产成人午夜福利电影在线观看| 成人漫画全彩无遮挡| 岛国毛片在线播放| 大片免费播放器 马上看| 国产老妇女一区| 一区二区三区乱码不卡18| 美女脱内裤让男人舔精品视频| 美女cb高潮喷水在线观看| 日韩欧美 国产精品| 狂野欧美白嫩少妇大欣赏| 国产精品福利在线免费观看| 女的被弄到高潮叫床怎么办| www.色视频.com| 大又大粗又爽又黄少妇毛片口| 欧美国产精品一级二级三级 | 一级毛片久久久久久久久女| 黄色一级大片看看| 能在线免费看毛片的网站| 国产精品一区二区性色av| 欧美xxxx性猛交bbbb| 97人妻精品一区二区三区麻豆| 亚洲人成网站在线播| 最近最新中文字幕免费大全7| 又黄又爽又刺激的免费视频.| 九色成人免费人妻av| 国产伦理片在线播放av一区| 精品少妇久久久久久888优播| 全区人妻精品视频| 特大巨黑吊av在线直播| 欧美少妇被猛烈插入视频| 国产熟女欧美一区二区| 香蕉精品网在线| 久久久久久久午夜电影| 国产熟女欧美一区二区| 特大巨黑吊av在线直播| av一本久久久久| 亚洲国产高清在线一区二区三| 极品教师在线视频| 欧美国产精品一级二级三级 | 国产成人精品福利久久| 99热6这里只有精品| 国产成年人精品一区二区| 99久久九九国产精品国产免费| 韩国av在线不卡| 亚洲av福利一区| 网址你懂的国产日韩在线| 免费在线观看成人毛片| 亚州av有码| 网址你懂的国产日韩在线| 国产亚洲一区二区精品| 国产男女内射视频| 美女脱内裤让男人舔精品视频| 欧美成人精品欧美一级黄| 久久久久久伊人网av| 99久久精品一区二区三区| 偷拍熟女少妇极品色|