• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    融合知識(shí)圖譜和評(píng)論文本的個(gè)性化推薦模型*

    2023-02-08 02:39:46鄒程輝李衛(wèi)疆
    關(guān)鍵詞:特征文本用戶(hù)

    鄒程輝,李衛(wèi)疆

    (1.昆明理工大學(xué)信息工程與自動(dòng)化學(xué)院,云南 昆明 650500;2.昆明理工大學(xué)云南省人工智能重點(diǎn)實(shí)驗(yàn)室,云南 昆明 650500)

    1 引言

    隨著信息化技術(shù)的飛速發(fā)展,世界正在經(jīng)歷新的“網(wǎng)絡(luò)化革命”,人們可以通過(guò)多種方式對(duì)互聯(lián)網(wǎng)進(jìn)行訪問(wèn),搜索和獲取自己所需要的信息。同時(shí),網(wǎng)絡(luò)信息呈“爆炸性”增長(zhǎng),用戶(hù)雖然能夠獲取到更為豐富的信息內(nèi)容,卻很難從信息的海洋中準(zhǔn)確及時(shí)地獲得符合自身需求的信息。因此,“信息過(guò)載”成為了急需解決的難題。

    目前推薦模型使用輔助信息進(jìn)行個(gè)性化推薦,輔助信息包括社交網(wǎng)絡(luò)、評(píng)論文本和知識(shí)圖譜等。評(píng)論文本能夠?yàn)橛脩?hù)和項(xiàng)目提供更豐富的信息。融合評(píng)論文本的推薦模型利用CNN(Convolutional Neural Network)[1,2]和注意力機(jī)制[3 - 5]提取文本中的特征并計(jì)算其權(quán)重。知識(shí)圖譜在多個(gè)領(lǐng)域的應(yīng)用都取得了良好的效果,如問(wèn)答系統(tǒng)、詞嵌入和文本分類(lèi)等。目前專(zhuān)業(yè)的知識(shí)圖譜數(shù)據(jù)庫(kù)有NELL、Microsoft Concept Graph[6]和Microsoft Satori 。

    本文提出了基于知識(shí)圖譜對(duì)用戶(hù)形象和用戶(hù)興趣建模的個(gè)性化推薦模型MKG-User,本文的貢獻(xiàn)總結(jié)為以下3點(diǎn):

    (1)使用不同類(lèi)型知識(shí)圖譜作為輔助信息,不同類(lèi)型的知識(shí)圖譜能夠從不同角度結(jié)合推薦模型中的數(shù)據(jù)信息進(jìn)行建模。

    (2)基于三元組知識(shí)圖譜和用戶(hù)的歷史興趣提出了權(quán)重異構(gòu)圖WHG(Weighted Heterogeneous Graph)。WHG是考慮到現(xiàn)實(shí)中關(guān)系的影響因子構(gòu)建的一種包含用戶(hù)興趣信息的網(wǎng)絡(luò)結(jié)構(gòu)圖。

    (3)聯(lián)合概念知識(shí)圖譜和評(píng)論文本,利用神經(jīng)網(wǎng)絡(luò)同時(shí)從概念詞和實(shí)體詞中提取用戶(hù)畫(huà)像特征和用戶(hù)的情感傾向特征,利用用戶(hù)評(píng)論文本構(gòu)建用戶(hù)的形象和情感。

    2 相關(guān)工作

    2.1 融合知識(shí)圖譜的推薦模型

    本節(jié)總結(jié)了幾種主要的融合知識(shí)圖譜推薦模型?;谇度胧降哪P偷年P(guān)鍵技術(shù)是KGE(Knowledge Graph Embedding)[7],將知識(shí)圖譜的實(shí)體和關(guān)系映射到低維的向量空間學(xué)習(xí)知識(shí)圖譜中的信息。微軟[8]提出了CKE(Collaborative Knowledge base Embedding),在協(xié)同過(guò)濾CF(Collaborative Filtering)的基礎(chǔ)上融合了3種輔助信息。Ai等人[9]提出了CFKG(Collaborative Filtering based on user-item Knowledge Graph)模型,該模型預(yù)定義了User-Item重新計(jì)算用戶(hù)和項(xiàng)目之間的距離。Wang等人[10]提出了MKR(Multi-task feature learning for Knowledge graph enhanced Recommendation)模型,利用推薦系統(tǒng)中的物品和知識(shí)圖譜中的實(shí)體存在重合的情況,提出了交叉式的推薦系統(tǒng)模型?;诼?lián)合式的模型兼具了嵌入式和路徑2種方式。Wang等人[11]提出了RippleNet模型,將用戶(hù)的歷史興趣作為種子在知識(shí)圖譜中擴(kuò)展用戶(hù)的興趣集合。Wang等人[12]提出了KGCN(Knowledge Graph Convolutional Networks for recommender systems)模型,利用圖卷積處理知識(shí)圖譜。

    2.2 融合評(píng)論文本的推薦模型

    評(píng)論文本作為輔助信息是推薦系統(tǒng)研究中的熱點(diǎn)。Kim等人[1]提出了ConvMF(Convolution Matrix Factorization)模型,將商品信息聚合為長(zhǎng)文本用于提取用戶(hù)特征,但是ConvMF僅考慮到了商品的評(píng)論文本,沒(méi)有考慮到用戶(hù)評(píng)論內(nèi)容。Zheng等人[2]提出了DeepCoNN(Deep Cooperative Neural Network)模型,該模型使用2個(gè)并行的CNN網(wǎng)絡(luò)分別從用戶(hù)評(píng)論和商品信息中提取隱含特征。DeepCoNN給后來(lái)的研究提供了很多啟示,其中Chin等人[4]提出了ANR(Aspect-based Neural Recommender)模型,從文本內(nèi)容的角度進(jìn)行建模?;陂L(zhǎng)文本的建模方法對(duì)于用戶(hù)特定領(lǐng)域的興趣效果不佳,因此提出了基于單評(píng)論的建模方法。Chen等人[5]提出了NARRE(Neural Attention rating Regression with Review-level Explanations)模型,針對(duì)不同的評(píng)論根據(jù)其重要性定義了review-level層,通過(guò)自注意力機(jī)制聚合用戶(hù)和商品在review-level層得到的結(jié)果進(jìn)行預(yù)測(cè)。Zhang等人[13]提出了EFM(Explicit Factor Model)模型,根據(jù)用戶(hù)對(duì)物品的評(píng)論,采用情感分析的方法,構(gòu)建了3個(gè)矩陣進(jìn)行預(yù)測(cè)。

    3 問(wèn)題定義

    本節(jié)主要介紹模型中用到的定義和數(shù)學(xué)符號(hào)。

    定義1y為預(yù)測(cè)1個(gè)用戶(hù)對(duì)1個(gè)項(xiàng)目的點(diǎn)擊概率值。

    定義3(用戶(hù)畫(huà)像特征) 利用概念知識(shí)圖譜中的概念詞和實(shí)體詞提取到用戶(hù)畫(huà)像特征。

    本文使用的數(shù)學(xué)符號(hào)如表1所示。

    Table 1 Symbol definition

    4 模型

    4.1 模型框架

    如圖1所示,融合知識(shí)圖譜和評(píng)論文本的個(gè)性化推薦模型由輸入層、嵌入層、特征提取網(wǎng)絡(luò)和決策層組成。輸入層是對(duì)用戶(hù)興趣和用戶(hù)畫(huà)像建模的基礎(chǔ),在輸入層輸入樣本數(shù)據(jù)和多類(lèi)型的知識(shí)圖譜;在嵌入層中,將輸入的數(shù)據(jù)轉(zhuǎn)化為向量表示,并將其作為特征提取網(wǎng)絡(luò)的輸入;特征提取網(wǎng)絡(luò)是模型的關(guān)鍵,在該層構(gòu)造興趣網(wǎng)絡(luò)和畫(huà)像網(wǎng)絡(luò),分別提取用戶(hù)興趣特征和帶有情感傾向的用戶(hù)畫(huà)像特征;決策層對(duì)用戶(hù)興趣特征和用戶(hù)畫(huà)像特征進(jìn)行處理得到用戶(hù)的表示,使用Sigmoid函數(shù)計(jì)算用戶(hù)點(diǎn)擊概率的預(yù)測(cè)值y。

    Figure 1 Framework of MKG-User model圖1 MKG-User模型框架

    4.2 輸入層和嵌入層

    4.2.1 WHG構(gòu)建

    如圖2所示,以電影“Forrest Gump”為起點(diǎn),在三元組知識(shí)圖譜上以多跳的方式擴(kuò)展用戶(hù)興趣項(xiàng)目,構(gòu)造了關(guān)于 “Forrest Gump”的權(quán)重異構(gòu)圖。

    Figure 2 WHG圖2 權(quán)重異構(gòu)圖

    受到Wang等人[12]和Cao等人[14]融合知識(shí)圖譜擴(kuò)展用戶(hù)興趣的啟發(fā),本文使用三元組知識(shí)圖譜構(gòu)造WHG,不僅考慮關(guān)系作為節(jié)點(diǎn)的連接,還考慮關(guān)系的連接性和每一條關(guān)系的權(quán)重。三元組知識(shí)圖譜由h,r和t構(gòu)成,根據(jù)h和r擴(kuò)展t。設(shè)Nl為δ中關(guān)系rl的數(shù)量,N為關(guān)系的種類(lèi),w_rl為關(guān)系rl的權(quán)重,其計(jì)算如式(1)所示:

    (1)

    通過(guò)知識(shí)圖譜和用戶(hù)的輸入樣本構(gòu)造WHG,具體過(guò)程如算法1所示

    算法1構(gòu)造WHG。

    輸入:用戶(hù)歷史興趣Vu、三元組知識(shí)圖譜δ(h,r,t)和計(jì)算的關(guān)系的權(quán)w_rl。

    輸出:權(quán)重異構(gòu)信息圖WHG,WHG由多跳的集合(?1,?2,?3,…,?k)構(gòu)成,其中k代表多跳的次數(shù)。

    Step1將用戶(hù)歷史興趣Vu送進(jìn)δ(h0,r0,t0),生成在知識(shí)圖譜中擴(kuò)展的種子h0,其中h0=Vu。

    Step2對(duì)h0,在知識(shí)圖譜中根據(jù)關(guān)系r0得到擴(kuò)展的節(jié)點(diǎn)t0。

    Step3得到h0在第1跳中所有的節(jié)點(diǎn)t0構(gòu)成第1跳的集合?1(h0,r0,t0)。

    Step4將第1跳擴(kuò)展的t0,作為下一跳的頭實(shí)體h1進(jìn)行第2跳擴(kuò)展t1,得到第2跳的集合?2。

    Step5重復(fù)操作Step 4,得到下一跳的集合?k。

    Step6經(jīng)過(guò)多次擴(kuò)展得到擴(kuò)展集合(?1,?2,?3,…,?k),根據(jù)在知識(shí)圖譜中得到的關(guān)系的權(quán)重w_rl對(duì)每一跳集合中的關(guān)系賦值 ,得到新的集合(?1,?2,?3,…,?k),其中?k的組成為(hk,w_rl_rk,tk)。

    Step7得到賦值后的異構(gòu)網(wǎng)絡(luò)圖WHG。

    Step8Return WHG。

    4.2.2 概念知識(shí)圖譜

    從用戶(hù)評(píng)論文本中提取實(shí)體詞的過(guò)程如式(2)所示:

    (2)

    其中,Ej代表1個(gè)用戶(hù)對(duì)1個(gè)項(xiàng)目的評(píng)論文本中實(shí)體詞集合,n為實(shí)體詞數(shù)量,Traverse(·)代表映射方法。

    根據(jù)實(shí)體詞得到與用戶(hù)有關(guān)概念的公式如式(3)所示:

    (3)

    4.2.3 嵌入層

    在輸入層得到WHG、評(píng)論文本以及概念詞和實(shí)體詞,其中評(píng)論文本和概念作為語(yǔ)句序列,為了保留句子的上下文關(guān)系,采用word2vec[15]技術(shù)預(yù)訓(xùn)練得到文本的詞向量字典。對(duì)輸入的文本內(nèi)容(Rev,En,Gn),根據(jù)詞向量字典得到向量表示,Rev由詞向量集合O={O1,O2,O3,…,On}構(gòu)成,Gn的所有概念詞向量表示集合為g={g1,g2,g3,…,gd},En的所有實(shí)體詞向量表示集合為e={e1,e2,e3,…,ed}。d為向量維度。同時(shí),為了體現(xiàn)出句子中實(shí)體詞的影響程度,對(duì)句向量中的實(shí)體詞利用自注意力機(jī)制來(lái)更新其權(quán)重,如式(4)所示:

    (4)

    評(píng)論文本由于句子長(zhǎng)度不同,為了保存句子的完整信息,以及方便模型處理文本,根據(jù)更新權(quán)重后的詞向量集合計(jì)算評(píng)論文本的句向量,如式(5)所示:

    (5)

    其中,senvec={sen1,sen2,…,send}為句向量表示,n為評(píng)論文本中詞的數(shù)量,對(duì)不屬于實(shí)體詞的單詞Att(Ej,O)=1。

    由于每條評(píng)論文本中的實(shí)體詞數(shù)量也不同,為了方便模型處理,同時(shí)不丟失概念詞和實(shí)體詞,本文分別取g和e的均值向量表示作為概念詞和實(shí)體記號(hào)的向量表示,如式(6)所示:

    (6)

    對(duì)輸入WHG中的三元組{hk,rk,tk}和輸入用戶(hù)初始感興趣的項(xiàng)目v,經(jīng)過(guò)embedding層轉(zhuǎn)換為詞向量表示,其中hk={h1,h2,h3,…,hd},rk={r1,r2,r3,…,rd},tk={t1,t2,t3,…,td},v={v1,v2,v3,…,vd}。

    4.3 特征提取網(wǎng)絡(luò)

    4.3.1 興趣網(wǎng)絡(luò)

    如圖3所示,興趣網(wǎng)絡(luò)由興趣注意力機(jī)制和全連接層組成。

    Figure 3 Interest network圖3 興趣網(wǎng)絡(luò)

    本文提出用于模擬用戶(hù)興趣偏好的興趣注意力機(jī)制。如圖4所示,根據(jù)構(gòu)造的WHG中的實(shí)體與關(guān)系,使用Softmax函數(shù)計(jì)算用戶(hù)的興趣偏好值。

    Figure 4 Interest attention mechanism圖4 興趣注意力機(jī)制

    根據(jù)WHG得到用戶(hù)過(guò)去的興趣Rh和擴(kuò)展的興趣Vt,如式(7)所示。根據(jù)Rh和Vt計(jì)算用戶(hù)的興趣偏好值,計(jì)算過(guò)程如式(8)所示:

    (7)

    Interestw=Sofmax{Deep[σ(Rh⊕Vt)]}

    (8)

    其中,Interestw為用戶(hù)興趣值,Deep[σ(Rh⊕Vt)]用于得到用戶(hù)的共享興趣特征,σ(·)為ReLU激活函數(shù)。

    通過(guò)興趣注意力機(jī)制對(duì)用戶(hù)在WHG中每一跳擴(kuò)展的實(shí)體添加了興趣偏好值Interestw,然后利用全連接層提取用戶(hù)的興趣特征{I1,I2,I3,…,Ik},Deep(hk,w_rl_rk,tk)代表利用全連接層提取1組三元組興趣特征。InterestI代表用戶(hù)興趣特征表示,k代表興趣特征的數(shù)量,用戶(hù)興趣特征的提取過(guò)程如式(9)所示:

    0

    (9)

    4.3.2 畫(huà)像網(wǎng)絡(luò)

    畫(huà)像網(wǎng)絡(luò)從評(píng)論文本、概念和實(shí)體詞中提取帶有情感傾向的畫(huà)像特征,在輸入層關(guān)聯(lián)概念知識(shí)圖譜得到評(píng)論文本中的實(shí)體詞向量e、概念向量g以及句向量{sen1,sen2,sen3,…,send}。如圖5所示,畫(huà)像網(wǎng)絡(luò)由畫(huà)像模塊和情感模塊組成,畫(huà)像模塊采用雙通道的深度ResNet(Deep Residual Network)[16]并行處理概念集合和實(shí)體詞集合,從中抽取用戶(hù)形象特征;情感模塊采用Bi-LSTM[17]計(jì)算評(píng)論文本中的情感傾向。

    Figure 5 Portrait network圖5 畫(huà)像網(wǎng)絡(luò)

    將概念向量經(jīng)過(guò)卷積操作壓縮特征,將概念向量g與卷積核ke進(jìn)行卷積運(yùn)算。壓縮過(guò)程為如式(10):

    xi=σ(g*ke+b)

    (10)

    其中,ke為卷積核,大小為7,步長(zhǎng)為2;*為卷積操作;b為偏置值。池化操作得到的向量輸入到ResNet,池化操作如式(11)所示:

    x=max(x1,x2,…,xi)

    (11)

    殘差單元的計(jì)算過(guò)程分為2步:卷積過(guò)程和恒等映射Im(Identity mapping),計(jì)算過(guò)程分別如式(12)和式(13)所示:

    (12)

    Im=σ[conv(x*ke+b)]

    (13)

    其中卷積核ke的大小分別為1,3和1,步長(zhǎng)為1,c為卷積過(guò)程的向量。

    殘差單元的最終輸出如式(14)所示:

    fg(c,Im)=add(c,Im)

    (14)

    (15)

    (16)

    如圖6所示,情感模塊由雙向長(zhǎng)短期記憶Bi-LSTM網(wǎng)絡(luò)和隱含層構(gòu)成,輸入為句向量senvec。LSTM單元有遺忘門(mén)、更新門(mén)和輸出門(mén)3種門(mén)控機(jī)制。

    Figure 6 Emotion module圖6 情感模塊

    (17)

    Saw=softmax{σ[deep(Sd)]}

    (18)

    將Saw與畫(huà)像特征相乘,得到帶有情感傾向的用戶(hù)畫(huà)像特征,計(jì)算公式如式(19)所示:

    (19)

    4.4 決策層

    通過(guò)特征提取網(wǎng)絡(luò)得到用戶(hù)的興趣特征和帶有情感傾向的用戶(hù)畫(huà)像特征,對(duì)2種特征進(jìn)行融合得到用戶(hù)的表示user·Pi,融合的過(guò)程見(jiàn)式(20)。通過(guò)全連接層來(lái)計(jì)算用戶(hù)表示和用戶(hù)初始感興趣的項(xiàng)目v之間的相似度,使用sigmoid函數(shù)計(jì)算預(yù)測(cè)概率y,如式(21)所示。

    user·Pi=InterestI·Userp

    (20)

    y=sigmoid{sum[user·Pi×deep(v)}

    (21)

    5 實(shí)驗(yàn)

    5.1 數(shù)據(jù)集

    本文選用Amazon數(shù)據(jù)集[18]進(jìn)行實(shí)驗(yàn)評(píng)估。該數(shù)據(jù)集包含了用戶(hù)對(duì)網(wǎng)站商品的評(píng)價(jià)信息和商品的元數(shù)據(jù),評(píng)分在1~5,數(shù)據(jù)的時(shí)間跨度為1995年6月到2013年3月。本文在Amazon數(shù)據(jù)集中選擇了電影、圖書(shū)和音樂(lè)3個(gè)領(lǐng)域的數(shù)據(jù)集。

    本文使用2種類(lèi)型的知識(shí)圖譜:(1)概念知識(shí)圖譜使用的是2016年微軟研究院發(fā)布的Microsoft Concept Knowledge Graphs,通過(guò)人類(lèi)意識(shí)常識(shí)概念進(jìn)行構(gòu)建,包含540萬(wàn)條概念和相關(guān)實(shí)體;(2)三元組知識(shí)圖譜,包括從Microsoft Satori抽取到的有關(guān)電影、圖書(shū)和音樂(lè)領(lǐng)域的實(shí)體和關(guān)系,其中電影三元組知識(shí)圖譜中有2 444類(lèi)有關(guān)電影的實(shí)體節(jié)點(diǎn),12種連接關(guān)系;圖書(shū)三元組知識(shí)圖譜中有14 966類(lèi)有關(guān)圖書(shū)的實(shí)體節(jié)點(diǎn),16種連接關(guān)系;音樂(lè)三元組知識(shí)圖譜中有3 845類(lèi)有關(guān)音樂(lè)的實(shí)體節(jié)點(diǎn),36種連接關(guān)系。

    表2展示了數(shù)據(jù)集關(guān)聯(lián)知識(shí)圖譜后的數(shù)據(jù)信息。可以看到,在三元組知識(shí)圖譜中經(jīng)過(guò)多跳擴(kuò)展用戶(hù)感興趣的項(xiàng)目的數(shù)量和種類(lèi)在逐漸增加,可用于解決推薦系統(tǒng)的數(shù)據(jù)稀疏問(wèn)題。

    Table 2 Multi-hop expansion on the triple knowledge graph

    本文隨機(jī)將數(shù)據(jù)集劃分為訓(xùn)練集(60%)、驗(yàn)證集(20%)和測(cè)試集(20%)。在實(shí)驗(yàn)數(shù)據(jù)集中評(píng)分為1到5,根據(jù)Amazon數(shù)據(jù)集評(píng)分的分布將閾值設(shè)置為4,保證正負(fù)樣本的分布均勻,以此將數(shù)據(jù)集劃分為正負(fù)樣本后用于構(gòu)建CTR模型。

    5.2 評(píng)價(jià)指標(biāo)

    本文選取AUC(Area Under the Curve)作為評(píng)價(jià)指標(biāo),如式(22)所示:

    (22)

    其中,M和F為正樣本和負(fù)樣本的數(shù)量;rankinsi表示第i條樣本的序號(hào);∑insi∈positiveclassrankinsi表示正樣本的序號(hào)加起來(lái)。

    其它評(píng)價(jià)指標(biāo)Precision、Recall和F1的計(jì)算如式(23)~式(25)所示:

    (23)

    (24)

    (25)

    其中,TP表示把正樣本成功預(yù)測(cè)為正的次數(shù);TN表示把負(fù)樣本成功預(yù)測(cè)為負(fù)的次數(shù);FP表示把負(fù)樣本錯(cuò)誤預(yù)測(cè)為正的次數(shù);FN表示把正樣本錯(cuò)誤預(yù)測(cè)為負(fù)的次數(shù)。

    5.3 Baseline模型

    為了評(píng)估MKG-User模型的性能,將其與以下比較優(yōu)秀的模型進(jìn)行對(duì)比:

    (1)DeepFM[19]。經(jīng)典的神經(jīng)網(wǎng)絡(luò)推薦模型,使用FM和MLP分別處理用戶(hù)的低維和高維特征。

    (2)CKE[8]。融合知識(shí)圖譜的經(jīng)典模型,通過(guò)KGE得到結(jié)構(gòu)類(lèi)型的知識(shí)圖的向量表示后進(jìn)行預(yù)測(cè)。

    (3)RippleNet[11]。 借鑒了水波擴(kuò)散的現(xiàn)象,基于用戶(hù)歷史興趣在知識(shí)圖譜中擴(kuò)展用戶(hù)的興趣,計(jì)算用戶(hù)點(diǎn)擊候選項(xiàng)目的概率。

    (4)MKR[10]。利用推薦系統(tǒng)中的用戶(hù)和項(xiàng)目能夠與三元組知識(shí)圖譜中的節(jié)點(diǎn)匹配,設(shè)計(jì)交互網(wǎng)絡(luò)將節(jié)點(diǎn)和用戶(hù)、項(xiàng)目進(jìn)行交互,進(jìn)行點(diǎn)擊率預(yù)測(cè)。

    (5)KGCN[12]。在知識(shí)圖譜中找到相關(guān)的實(shí)體節(jié)點(diǎn),對(duì)節(jié)點(diǎn)進(jìn)行聚合,然后利用圖卷積技術(shù)擴(kuò)展信息后用于點(diǎn)擊率預(yù)測(cè)。

    (6)ConvMF[1]。利用CNN從商品評(píng)論信息中提取商品的隱含特征,作為評(píng)分矩陣的額外信息,基于高斯分布進(jìn)行評(píng)分預(yù)測(cè)。

    (7)ANR[4]。從方面角度對(duì)長(zhǎng)文本進(jìn)行建模,然后用注意力計(jì)算方面的權(quán)重。

    (8)NARRE[5]。 NARRE考慮到評(píng)論文本的重要程度,提出了review-level來(lái)刻畫(huà)評(píng)論的權(quán)重,再利用注意力進(jìn)行最后的推薦預(yù)測(cè)。

    5.4 參數(shù)設(shè)置

    本文使用word2vec訓(xùn)練詞向量,維度(d)為300,窗口大小為3。損失函數(shù)是均方根誤差損失函數(shù),優(yōu)化器選擇的是Adam,學(xué)習(xí)率為0.01。如表3所示,為了達(dá)到最佳性能,對(duì)3個(gè)數(shù)據(jù)集中的參數(shù)進(jìn)行了微調(diào)。Hop-size為構(gòu)建權(quán)重異構(gòu)信息圖多跳次數(shù),Kg-size為擴(kuò)展異構(gòu)知識(shí)圖譜的大小,α和β為模型學(xué)習(xí)率,L2為正則化參數(shù)。進(jìn)行實(shí)驗(yàn)時(shí),選擇K值為10,32,64,100。

    Table 3 Parameters setting

    5.5 實(shí)驗(yàn)結(jié)果與分析

    實(shí)驗(yàn)?zāi)康氖球?yàn)證融合知識(shí)圖譜和評(píng)論文本對(duì)用戶(hù)興趣和用戶(hù)形象進(jìn)行建模能夠提升模型的性能,使用AUC、Precision和F1作為評(píng)價(jià)指標(biāo)。

    實(shí)驗(yàn)結(jié)果見(jiàn)表4。在AUC和Precision和F1上,本文提出的模型在數(shù)據(jù)集上都得到了最好結(jié)果。MKG-User模型的AUC分別達(dá)到了0.969,0.925和0.887,與Baseline中最好的結(jié)果相比分別提高了4.8%,18.8%和2.1%。本文模型與融合知識(shí)圖譜的模型相比,在電影數(shù)據(jù)集上,AUC提高了4.8%,Precision和F1分別提高了6.8%和6.9%;在圖書(shū)數(shù)據(jù)集上,AUC提高了19.6%,Precision和F1分別提高了3.8%和19.4%;在音樂(lè)數(shù)據(jù)集上,AUC提高6.8%,Precision和F1分別提高了0.1%和12.2%。本文模型與融合評(píng)論文本的模型在AUC、Precision和F1上相比,在電影數(shù)據(jù)集上分別提高了6.5%,9.0%和8.9%,在圖書(shū)數(shù)據(jù)集上分別提高了18.8%,7.8%和15.5%;在音樂(lè)數(shù)據(jù)集上,AUC提高了2.1%,Precision和F1分別提高了1.0%和6.3%。在不同數(shù)據(jù)集上與不同類(lèi)型模型進(jìn)行比較,驗(yàn)證了MKG-User使用評(píng)論文本和知識(shí)圖譜能夠提升推薦模型的性能,同時(shí)還說(shuō)明對(duì)用戶(hù)形象和用戶(hù)興趣進(jìn)行建模能夠提升推薦系統(tǒng)的效果。為了驗(yàn)證模型的穩(wěn)定性,MKG-User-avg是對(duì)10次實(shí)驗(yàn)結(jié)果取平均值。

    Table 4 Comparison of experimental results

    Figure 7 TopK experimental results on movie dataset圖7 電影數(shù)據(jù)集上的TopK實(shí)驗(yàn)結(jié)果

    Figure 8 TopK experimental results on book dataset圖8 圖書(shū)數(shù)據(jù)集上的TopK實(shí)驗(yàn)結(jié)果

    5.6 TopK實(shí)驗(yàn)結(jié)果與分析

    本節(jié)在Amazon的電影和圖書(shū)2個(gè)數(shù)據(jù)集上對(duì)模型進(jìn)行TopK實(shí)驗(yàn),評(píng)價(jià)指標(biāo)為Precision@K、Recall@K和F1@K。實(shí)驗(yàn)結(jié)果如圖7和圖8所示。

    從圖7和圖8可知,本文提出的模型達(dá)到了很好的效果。由于Precision和Recall側(cè)重點(diǎn)不同,評(píng)價(jià)性能的方面也不同。因此,本節(jié)還選擇F1評(píng)價(jià)指標(biāo),F(xiàn)1綜合了2種評(píng)價(jià)指標(biāo)。從3個(gè)指標(biāo)驗(yàn)證了本文模型達(dá)到了最好的效果,表明模型在TopK實(shí)驗(yàn)中有很好的性能,能為用戶(hù)提供更準(zhǔn)確的推薦。

    5.7 參數(shù)敏感性分析

    本文選擇Hop-size和Kg-size2個(gè)參數(shù)來(lái)評(píng)估其對(duì)模型性能的影響,在Amazon數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)驗(yàn)證。Hop-size是根據(jù)用戶(hù)的歷史興趣擴(kuò)展用戶(hù)興趣的跳數(shù),其大小代表擴(kuò)展用戶(hù)興趣的遠(yuǎn)近。Kg-size是在WHG中得到的用戶(hù)節(jié)點(diǎn)的數(shù)量,用于確定能夠得到多少用戶(hù)興趣特征。表5所示為Hop-size在1~4時(shí)AUC的實(shí)驗(yàn)結(jié)果。表6所示為Kg-size取8,16,32和64時(shí)對(duì)模型性能的影響。

    Table 5 Impact of Hop-size on the model

    Table 6 Impact of KG-size on the model

    5.8 興趣網(wǎng)絡(luò)的有效性

    本文還在電影數(shù)據(jù)集上驗(yàn)證了興趣網(wǎng)絡(luò)的有效性,表明在融合知識(shí)圖譜的推薦模型中關(guān)系的影響因素和用戶(hù)興趣偏好可以提高推薦模型的效果。

    實(shí)驗(yàn)結(jié)果如表7所示,MKG-User(knowledge graph)表示興趣網(wǎng)絡(luò)加入了WHG和興趣注意力機(jī)制。

    從表7可以看出,考慮關(guān)系的影響因素和用戶(hù)的興趣偏好后能夠增強(qiáng)推薦系統(tǒng)的性能。為了體現(xiàn)用戶(hù)興趣偏好的變化過(guò)程,對(duì)興趣注意力機(jī)制進(jìn)行可視化,如圖9所示。

    Table 7 Impact of WHG

    Figure 9 Visualization of attention mechanism 圖9 注意力機(jī)制可視化

    5.9 畫(huà)像網(wǎng)絡(luò)的有效性

    MKG-User(Portrait)在MKG-User(knowledge graph)中添加雙通道ResNet,融合評(píng)論文本和概念知識(shí)圖譜提取畫(huà)像特征。在電影數(shù)據(jù)集上與MKG-User(knowledge graph)進(jìn)行對(duì)比驗(yàn)證,實(shí)驗(yàn)結(jié)果如表8所示。

    Table 8 Effectiveness of the portrait network

    在畫(huà)像網(wǎng)絡(luò)中考慮評(píng)論文本中的情感傾向,添加了情感模塊,驗(yàn)證Bi-LSTM提取的情感傾向值的有效性。實(shí)驗(yàn)結(jié)果如表9所示。

    Table 9 Portrait network performance after adding emotional inclinations

    從表8和表9可知,利用評(píng)論文本和概念知識(shí)圖譜構(gòu)造帶有情感傾向的用戶(hù)畫(huà)像特征,根據(jù)得到的用戶(hù)畫(huà)像特征可解決推薦系統(tǒng)中的數(shù)據(jù)稀疏問(wèn)題,提高了推薦效果。

    6 結(jié)束語(yǔ)

    本文提出了MKG-User模型,利用用戶(hù)交互的項(xiàng)目結(jié)合三元組知識(shí)圖譜提取用戶(hù)的興趣特征,利用評(píng)論文本和概念知識(shí)圖譜提取用戶(hù)畫(huà)像特征,有效提升了推薦效果。同時(shí),本文提出了利用興趣注意力機(jī)制提取更符合用戶(hù)自身興趣的特征;采用雙通道ResNet和Bi-LSTM提取帶有情感傾向的用戶(hù)畫(huà)像特征。今后將在2個(gè)方面繼續(xù)開(kāi)展研究:(1)本文在構(gòu)建用戶(hù)畫(huà)像特征時(shí)沒(méi)有考慮用戶(hù)的統(tǒng)計(jì)信息,如何將用戶(hù)的統(tǒng)計(jì)信息融合到用戶(hù)畫(huà)像特征中是下一步要解決的問(wèn)題;(2)用戶(hù)的興趣是動(dòng)態(tài)變化的,如何考慮利用用戶(hù)興趣的變化來(lái)優(yōu)化推薦模型也是下一步工作之一。

    猜你喜歡
    特征文本用戶(hù)
    如何表達(dá)“特征”
    在808DA上文本顯示的改善
    不忠誠(chéng)的四個(gè)特征
    基于doc2vec和TF-IDF的相似文本識(shí)別
    電子制作(2018年18期)2018-11-14 01:48:06
    抓住特征巧觀察
    關(guān)注用戶(hù)
    關(guān)注用戶(hù)
    關(guān)注用戶(hù)
    文本之中·文本之外·文本之上——童話故事《坐井觀天》的教學(xué)隱喻
    如何獲取一億海外用戶(hù)
    久久久久久久久久久久大奶| 国产精品 国内视频| 精品乱码久久久久久99久播| 免费少妇av软件| 亚洲少妇的诱惑av| 女人高潮潮喷娇喘18禁视频| 国产精品久久久久久亚洲av鲁大| 12—13女人毛片做爰片一| 国产99白浆流出| 在线观看www视频免费| 一区二区三区激情视频| 国产精品99久久99久久久不卡| 韩国av一区二区三区四区| 黑人操中国人逼视频| 成人精品一区二区免费| 亚洲精品av麻豆狂野| 日日摸夜夜添夜夜添小说| 波多野结衣巨乳人妻| 一区二区三区国产精品乱码| 国产精品一区二区免费欧美| 国产精品 欧美亚洲| 欧洲精品卡2卡3卡4卡5卡区| 中文字幕色久视频| 热99re8久久精品国产| 欧美黄色淫秽网站| 最新在线观看一区二区三区| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲一区高清亚洲精品| 在线av久久热| 99久久精品国产亚洲精品| 国产熟女午夜一区二区三区| 午夜精品久久久久久毛片777| 中亚洲国语对白在线视频| 母亲3免费完整高清在线观看| 国产成人精品久久二区二区91| 欧美日韩乱码在线| 一夜夜www| 男女之事视频高清在线观看| 亚洲一码二码三码区别大吗| 国产伦人伦偷精品视频| 69av精品久久久久久| 大型av网站在线播放| 色播亚洲综合网| 日本免费a在线| 黄色视频,在线免费观看| 在线观看免费视频网站a站| 乱人伦中国视频| 无遮挡黄片免费观看| 亚洲精品在线观看二区| 亚洲精品国产区一区二| 亚洲人成网站在线播放欧美日韩| 岛国在线观看网站| 美女国产高潮福利片在线看| 欧美不卡视频在线免费观看 | 少妇熟女aⅴ在线视频| 亚洲一区二区三区不卡视频| 欧美精品啪啪一区二区三区| 亚洲av五月六月丁香网| 国产aⅴ精品一区二区三区波| 国产精品一区二区三区四区久久 | 日本免费a在线| 人妻久久中文字幕网| 国产成人一区二区三区免费视频网站| 制服诱惑二区| 黄色片一级片一级黄色片| 最新在线观看一区二区三区| 一卡2卡三卡四卡精品乱码亚洲| 欧洲精品卡2卡3卡4卡5卡区| 我的亚洲天堂| 国产亚洲精品综合一区在线观看 | 国产伦人伦偷精品视频| av超薄肉色丝袜交足视频| 好男人在线观看高清免费视频 | 国产精品美女特级片免费视频播放器 | 身体一侧抽搐| 女人被躁到高潮嗷嗷叫费观| 亚洲av成人不卡在线观看播放网| 丝袜在线中文字幕| 麻豆久久精品国产亚洲av| 俄罗斯特黄特色一大片| 欧美午夜高清在线| 欧美激情 高清一区二区三区| 88av欧美| 18禁国产床啪视频网站| 欧美黑人欧美精品刺激| av有码第一页| 精品国产乱码久久久久久男人| 99国产综合亚洲精品| 国产av一区二区精品久久| 色综合亚洲欧美另类图片| 色综合亚洲欧美另类图片| 国产三级黄色录像| 久久久国产精品麻豆| 99在线人妻在线中文字幕| 欧美日韩亚洲综合一区二区三区_| 免费女性裸体啪啪无遮挡网站| 搡老妇女老女人老熟妇| 久久精品91无色码中文字幕| 后天国语完整版免费观看| 美女 人体艺术 gogo| aaaaa片日本免费| 精品日产1卡2卡| 成人三级做爰电影| 国产日韩一区二区三区精品不卡| 成人欧美大片| 欧美性长视频在线观看| 亚洲最大成人中文| 精品少妇一区二区三区视频日本电影| 精品不卡国产一区二区三区| 亚洲成人久久性| 涩涩av久久男人的天堂| 日本欧美视频一区| 午夜福利一区二区在线看| 亚洲精品国产精品久久久不卡| 国产精品自产拍在线观看55亚洲| 日本a在线网址| 午夜精品在线福利| 国产成人一区二区三区免费视频网站| 色综合欧美亚洲国产小说| 高清在线国产一区| 黄色a级毛片大全视频| 国产免费男女视频| 97人妻天天添夜夜摸| 国产欧美日韩一区二区三区在线| 男女下面进入的视频免费午夜 | 亚洲欧美精品综合一区二区三区| 在线观看免费视频日本深夜| 午夜视频精品福利| 欧美在线黄色| 欧美老熟妇乱子伦牲交| 99国产综合亚洲精品| 在线观看午夜福利视频| 桃红色精品国产亚洲av| 欧美色欧美亚洲另类二区 | 色在线成人网| 亚洲,欧美精品.| 香蕉丝袜av| 一级片免费观看大全| 国产欧美日韩综合在线一区二区| 色av中文字幕| 真人做人爱边吃奶动态| 精品福利观看| 午夜福利高清视频| 久久婷婷人人爽人人干人人爱 | 精品第一国产精品| 亚洲 欧美一区二区三区| 成人国产综合亚洲| 久久久久久免费高清国产稀缺| 波多野结衣高清无吗| 久久精品aⅴ一区二区三区四区| 亚洲中文av在线| 这个男人来自地球电影免费观看| 精品免费久久久久久久清纯| 国产亚洲av嫩草精品影院| x7x7x7水蜜桃| 夜夜躁狠狠躁天天躁| 熟妇人妻久久中文字幕3abv| 妹子高潮喷水视频| 一a级毛片在线观看| 亚洲无线在线观看| 1024视频免费在线观看| aaaaa片日本免费| 日韩大尺度精品在线看网址 | 999久久久国产精品视频| 久热这里只有精品99| 成在线人永久免费视频| 久久精品成人免费网站| 性少妇av在线| 亚洲情色 制服丝袜| 又黄又爽又免费观看的视频| 18禁观看日本| 99热只有精品国产| 母亲3免费完整高清在线观看| 亚洲一区高清亚洲精品| 国产激情欧美一区二区| 搡老熟女国产l中国老女人| 亚洲中文字幕日韩| 在线观看一区二区三区| 欧美激情高清一区二区三区| www.www免费av| 久久精品国产99精品国产亚洲性色 | 婷婷丁香在线五月| 一级毛片女人18水好多| 国产男靠女视频免费网站| 日韩欧美一区视频在线观看| 19禁男女啪啪无遮挡网站| a级毛片在线看网站| 婷婷丁香在线五月| 久久精品亚洲精品国产色婷小说| 国产精品亚洲一级av第二区| 日本欧美视频一区| 国产精品自产拍在线观看55亚洲| 国产麻豆69| 精品高清国产在线一区| 无限看片的www在线观看| 无限看片的www在线观看| 亚洲精品中文字幕在线视频| 国产在线观看jvid| 久久精品人人爽人人爽视色| 亚洲精品久久国产高清桃花| 日韩一卡2卡3卡4卡2021年| 精品第一国产精品| 亚洲一区中文字幕在线| 嫩草影视91久久| 天堂动漫精品| 午夜福利在线观看吧| 婷婷丁香在线五月| av电影中文网址| 午夜福利高清视频| 国产主播在线观看一区二区| 免费高清在线观看日韩| 成人手机av| 色av中文字幕| 国产伦一二天堂av在线观看| 亚洲精品中文字幕在线视频| 午夜a级毛片| 丝袜美腿诱惑在线| 免费在线观看黄色视频的| 国产aⅴ精品一区二区三区波| 亚洲自偷自拍图片 自拍| 国产精品久久久久久亚洲av鲁大| 十八禁网站免费在线| a在线观看视频网站| 大码成人一级视频| 久久青草综合色| 国产精品99久久99久久久不卡| 成人三级黄色视频| 色综合站精品国产| 青草久久国产| 免费在线观看黄色视频的| 国产激情欧美一区二区| 久久久久久免费高清国产稀缺| 88av欧美| 欧美乱妇无乱码| 亚洲欧洲精品一区二区精品久久久| 亚洲色图av天堂| 日本 av在线| 亚洲精品中文字幕一二三四区| 国产单亲对白刺激| 精品国产国语对白av| 亚洲美女黄片视频| 女性生殖器流出的白浆| 香蕉国产在线看| 九色国产91popny在线| 亚洲av成人一区二区三| 亚洲国产欧美日韩在线播放| 国产精品久久久人人做人人爽| 久久久久久久久久久久大奶| 欧美另类亚洲清纯唯美| 又黄又粗又硬又大视频| 波多野结衣av一区二区av| 嫩草影院精品99| 欧美色视频一区免费| 50天的宝宝边吃奶边哭怎么回事| 一边摸一边做爽爽视频免费| 午夜免费观看网址| 日韩大码丰满熟妇| 精品午夜福利视频在线观看一区| 欧美日韩瑟瑟在线播放| 亚洲精品久久成人aⅴ小说| 精品免费久久久久久久清纯| 成熟少妇高潮喷水视频| 香蕉久久夜色| 成人三级黄色视频| 狠狠狠狠99中文字幕| 国产单亲对白刺激| 岛国在线观看网站| 欧美av亚洲av综合av国产av| 极品教师在线免费播放| 两人在一起打扑克的视频| 久久精品亚洲精品国产色婷小说| 精品人妻1区二区| 美女高潮到喷水免费观看| 一进一出抽搐动态| 久久国产亚洲av麻豆专区| 女人被躁到高潮嗷嗷叫费观| 91精品三级在线观看| 男人的好看免费观看在线视频 | 久久亚洲精品不卡| 国产av精品麻豆| e午夜精品久久久久久久| 一本综合久久免费| 亚洲伊人色综图| 欧美激情高清一区二区三区| 亚洲成国产人片在线观看| 搞女人的毛片| 丁香欧美五月| 男女之事视频高清在线观看| 欧美另类亚洲清纯唯美| 精品不卡国产一区二区三区| 欧美激情 高清一区二区三区| 男人的好看免费观看在线视频 | 亚洲无线在线观看| 十分钟在线观看高清视频www| 美国免费a级毛片| 精品久久久久久,| 久久亚洲真实| 操出白浆在线播放| 可以在线观看毛片的网站| 99国产极品粉嫩在线观看| 久久久久久国产a免费观看| 久久久国产成人精品二区| 亚洲专区国产一区二区| 中文字幕人妻丝袜一区二区| 久99久视频精品免费| 成人精品一区二区免费| 久久久国产欧美日韩av| 免费人成视频x8x8入口观看| 亚洲第一电影网av| 一区二区三区激情视频| 国产午夜精品久久久久久| 亚洲一区高清亚洲精品| 激情在线观看视频在线高清| 午夜免费观看网址| 99香蕉大伊视频| 搞女人的毛片| 黄色女人牲交| 一边摸一边抽搐一进一小说| 91大片在线观看| 妹子高潮喷水视频| 亚洲狠狠婷婷综合久久图片| 91麻豆av在线| 夜夜看夜夜爽夜夜摸| 淫秽高清视频在线观看| 大码成人一级视频| 精品不卡国产一区二区三区| 深夜精品福利| 欧美日韩福利视频一区二区| 好看av亚洲va欧美ⅴa在| av欧美777| 欧美人与性动交α欧美精品济南到| 国产精品电影一区二区三区| 人人妻,人人澡人人爽秒播| 国产成人精品久久二区二区91| www.熟女人妻精品国产| 身体一侧抽搐| 久久人妻福利社区极品人妻图片| 狂野欧美激情性xxxx| 国产精品免费视频内射| 岛国视频午夜一区免费看| 女警被强在线播放| 亚洲一区二区三区不卡视频| 国产在线观看jvid| 欧美成人一区二区免费高清观看 | 啦啦啦观看免费观看视频高清 | 好男人在线观看高清免费视频 | 好看av亚洲va欧美ⅴa在| 亚洲国产看品久久| 免费看十八禁软件| 久久 成人 亚洲| 亚洲精品久久成人aⅴ小说| 成人手机av| 色播在线永久视频| 久久亚洲精品不卡| 给我免费播放毛片高清在线观看| 亚洲精品av麻豆狂野| 亚洲国产精品sss在线观看| 日本 欧美在线| 久久国产亚洲av麻豆专区| 亚洲第一av免费看| 制服诱惑二区| 又黄又粗又硬又大视频| 99热只有精品国产| 人人妻人人澡人人看| 777久久人妻少妇嫩草av网站| 日韩三级视频一区二区三区| 91麻豆av在线| 丝袜在线中文字幕| 国产精品精品国产色婷婷| 欧美成人免费av一区二区三区| 老汉色∧v一级毛片| 男女之事视频高清在线观看| 色尼玛亚洲综合影院| 精品电影一区二区在线| 亚洲av第一区精品v没综合| 亚洲天堂国产精品一区在线| 亚洲全国av大片| 欧美在线一区亚洲| 欧美大码av| 久久人人97超碰香蕉20202| 高清黄色对白视频在线免费看| 国产aⅴ精品一区二区三区波| 国产精品久久久久久亚洲av鲁大| 亚洲国产欧美一区二区综合| 99精品在免费线老司机午夜| 波多野结衣av一区二区av| 久久久久九九精品影院| 欧美日本视频| 1024香蕉在线观看| 性少妇av在线| 亚洲中文字幕日韩| 亚洲性夜色夜夜综合| 久久伊人香网站| 少妇粗大呻吟视频| 国产成人精品久久二区二区91| 精品久久久久久久久久免费视频| 成人国产一区最新在线观看| 老鸭窝网址在线观看| 丁香六月欧美| 久久精品aⅴ一区二区三区四区| 免费在线观看黄色视频的| 国产精品国产高清国产av| 欧美日本中文国产一区发布| 熟女少妇亚洲综合色aaa.| 国产99白浆流出| 国内毛片毛片毛片毛片毛片| 国产精品一区二区在线不卡| 91成人精品电影| 久久性视频一级片| 亚洲va日本ⅴa欧美va伊人久久| 国产精品一区二区三区四区久久 | 国产精品久久久久久人妻精品电影| 50天的宝宝边吃奶边哭怎么回事| 在线视频色国产色| tocl精华| 亚洲最大成人中文| 久久久水蜜桃国产精品网| 亚洲av电影不卡..在线观看| 好男人电影高清在线观看| 视频在线观看一区二区三区| 久久精品国产综合久久久| 一进一出好大好爽视频| 免费在线观看亚洲国产| 中文亚洲av片在线观看爽| 黄色视频,在线免费观看| 午夜久久久久精精品| 色在线成人网| 亚洲色图 男人天堂 中文字幕| 好看av亚洲va欧美ⅴa在| 国产成年人精品一区二区| 色综合欧美亚洲国产小说| 国产成人欧美| 亚洲精品中文字幕一二三四区| 窝窝影院91人妻| 黄色女人牲交| 久久久久久亚洲精品国产蜜桃av| 亚洲熟女毛片儿| 日本a在线网址| 日日夜夜操网爽| 国产欧美日韩一区二区三| 午夜老司机福利片| 久久国产精品影院| 丝袜美腿诱惑在线| 国产在线精品亚洲第一网站| 国产成人系列免费观看| 在线观看日韩欧美| 亚洲中文字幕日韩| 亚洲一码二码三码区别大吗| 窝窝影院91人妻| 两个人免费观看高清视频| 免费在线观看亚洲国产| 国产99白浆流出| 免费人成视频x8x8入口观看| 精品一品国产午夜福利视频| 精品国产超薄肉色丝袜足j| 国产成人精品在线电影| 午夜免费鲁丝| 欧美午夜高清在线| 欧美日韩一级在线毛片| 亚洲色图av天堂| 欧美日韩中文字幕国产精品一区二区三区 | 99久久精品国产亚洲精品| 精品国产亚洲在线| 老鸭窝网址在线观看| 亚洲专区字幕在线| videosex国产| 精品国内亚洲2022精品成人| 色综合亚洲欧美另类图片| 国产单亲对白刺激| 男人舔女人的私密视频| 久久精品成人免费网站| 日韩精品中文字幕看吧| 免费看美女性在线毛片视频| 国产激情欧美一区二区| 亚洲激情在线av| 婷婷丁香在线五月| 91成人精品电影| 精品国产一区二区久久| 激情在线观看视频在线高清| 国产精品av久久久久免费| 99国产精品99久久久久| 91精品三级在线观看| 久久国产精品人妻蜜桃| 国产主播在线观看一区二区| 国产成人欧美在线观看| 91成人精品电影| 国产精品秋霞免费鲁丝片| 每晚都被弄得嗷嗷叫到高潮| 这个男人来自地球电影免费观看| 激情在线观看视频在线高清| 久久人妻熟女aⅴ| 搡老熟女国产l中国老女人| av有码第一页| 脱女人内裤的视频| 99热只有精品国产| 天堂影院成人在线观看| 国产不卡一卡二| 91麻豆av在线| 久久人人精品亚洲av| 无人区码免费观看不卡| 18禁观看日本| 一级作爱视频免费观看| 妹子高潮喷水视频| 久久久久九九精品影院| 国产精品一区二区精品视频观看| 久久人妻熟女aⅴ| 亚洲av片天天在线观看| www.999成人在线观看| av天堂久久9| 国产av一区二区精品久久| 亚洲欧美精品综合久久99| av中文乱码字幕在线| 久久久精品国产亚洲av高清涩受| 国产成人欧美| 波多野结衣一区麻豆| 九色亚洲精品在线播放| 老鸭窝网址在线观看| 两性午夜刺激爽爽歪歪视频在线观看 | 69精品国产乱码久久久| 亚洲中文字幕一区二区三区有码在线看 | 国产精品自产拍在线观看55亚洲| 久久国产亚洲av麻豆专区| 亚洲精品美女久久久久99蜜臀| 精品久久久久久久久久免费视频| 免费在线观看完整版高清| 亚洲天堂国产精品一区在线| 国产蜜桃级精品一区二区三区| 亚洲国产精品久久男人天堂| 国产不卡一卡二| 成人亚洲精品av一区二区| 国产一区在线观看成人免费| 欧美成人免费av一区二区三区| 亚洲成人精品中文字幕电影| 国产区一区二久久| 波多野结衣高清无吗| 中文字幕人妻熟女乱码| 国产高清视频在线播放一区| 国产熟女午夜一区二区三区| 国产99白浆流出| 亚洲色图 男人天堂 中文字幕| 亚洲精品在线美女| 给我免费播放毛片高清在线观看| 国产亚洲精品久久久久久毛片| 午夜福利视频1000在线观看 | 久久亚洲真实| 麻豆成人av在线观看| 在线观看免费日韩欧美大片| 国产99白浆流出| 久久久国产成人免费| 国产一级毛片七仙女欲春2 | 亚洲五月婷婷丁香| 午夜激情av网站| 久久天躁狠狠躁夜夜2o2o| 黑人巨大精品欧美一区二区mp4| 91国产中文字幕| 国产午夜福利久久久久久| 欧美人与性动交α欧美精品济南到| 不卡一级毛片| 中文字幕人妻熟女乱码| 久久人人97超碰香蕉20202| 午夜老司机福利片| 涩涩av久久男人的天堂| www国产在线视频色| 巨乳人妻的诱惑在线观看| www国产在线视频色| 久久狼人影院| 多毛熟女@视频| 国产蜜桃级精品一区二区三区| 天堂影院成人在线观看| 88av欧美| 日日爽夜夜爽网站| 女性生殖器流出的白浆| 国产亚洲精品av在线| 免费女性裸体啪啪无遮挡网站| 成人国产综合亚洲| 国产精品 国内视频| 亚洲熟女毛片儿| 99精品久久久久人妻精品| 婷婷精品国产亚洲av在线| 国产区一区二久久| 国产xxxxx性猛交| 国产精品久久电影中文字幕| 亚洲第一av免费看| 欧美另类亚洲清纯唯美| 色综合亚洲欧美另类图片| 久久久久久久久免费视频了| 老汉色av国产亚洲站长工具| 亚洲中文日韩欧美视频| 俄罗斯特黄特色一大片| 日韩精品中文字幕看吧| 又大又爽又粗| 亚洲国产欧美日韩在线播放| 三级毛片av免费| 国产精品久久久av美女十八| 成人亚洲精品av一区二区| 亚洲激情在线av| 国产激情欧美一区二区| 国产亚洲欧美在线一区二区| 国产亚洲精品一区二区www| 18禁美女被吸乳视频| 亚洲午夜精品一区,二区,三区| 一边摸一边抽搐一进一小说| 老汉色∧v一级毛片| 免费不卡黄色视频| 色在线成人网| 一卡2卡三卡四卡精品乱码亚洲| 国产私拍福利视频在线观看| 精品国内亚洲2022精品成人| 久久久国产精品麻豆| 两性午夜刺激爽爽歪歪视频在线观看 | 色综合欧美亚洲国产小说| 在线视频色国产色| 欧洲精品卡2卡3卡4卡5卡区| 18禁国产床啪视频网站| 国产精品野战在线观看|