• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于密文的去中心化興趣點(diǎn)推薦研究

    2021-11-15 11:49:04張亞男張益凡
    關(guān)鍵詞:個(gè)人興趣密文復(fù)雜度

    張亞男 劉 安 彭 佳 張益凡

    (蘇州大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院 江蘇 蘇州 215006)

    0 引 言

    隨著移動(dòng)設(shè)備的大量普及,全球定位系統(tǒng)(GPS)信息的獲取變得非常容易。工業(yè)界利用這些定位數(shù)據(jù)推動(dòng)基于位置的社交網(wǎng)絡(luò)(LBSNs)的發(fā)展。一些經(jīng)典的LBSNs網(wǎng)站如Foursquare和Gowalla鼓勵(lì)用戶分享所在位置的相關(guān)信息,從而收集豐富的用戶簽到數(shù)據(jù),并利用這些數(shù)據(jù)為用戶提供興趣點(diǎn)推薦服務(wù)。興趣點(diǎn)推薦旨在為用戶找到未被訪問和感興趣的地點(diǎn),它以其在面向服務(wù)領(lǐng)域的巨大商機(jī)吸引了眾多研究者的關(guān)注,尤其是在基于位置的服務(wù)領(lǐng)域。目前已有大量模型被創(chuàng)建用來學(xué)習(xí)用戶在選擇興趣點(diǎn)時(shí)的偏好[1-2]。

    Cheng等[3]和Yang等[4]提出的矩陣分解模型是最經(jīng)典的推薦模型,它根據(jù)用戶-興趣點(diǎn)交互矩陣學(xué)習(xí)用戶和興趣點(diǎn)的潛在因子向量,并利用向量的相似性推測(cè)用戶和興趣點(diǎn)的相關(guān)性。許多研究者通過結(jié)合一些輔助信息來改善矩陣分解推薦模型,如社會(huì)關(guān)系[5]、空間信息[6-7]、時(shí)間信息[8]、屬性信息[9]等。這些模型的成功證明了矩陣分解在推薦性能上的優(yōu)越性。然而,這些基于矩陣分解的算法在集中訓(xùn)練過程中有兩個(gè)主要缺點(diǎn):(1) 計(jì)算成本高。所有用戶的信息都被收集到特定的集中式服務(wù)器中,導(dǎo)致該服務(wù)器需要同時(shí)處理大量的簽到數(shù)據(jù),意味著服務(wù)器的計(jì)算能力必須滿足高要求。(2) 隱私風(fēng)險(xiǎn)大。不是每個(gè)人都想讓別人知道他做了什么,例如一個(gè)自卑的肥胖者不愿意把他經(jīng)常去健身房的消息告訴別人。因此,將用戶的私有數(shù)據(jù)提交給一個(gè)集中式服務(wù)器,向服務(wù)器公開他們的偏好,或者依賴服務(wù)器保護(hù)他們的數(shù)據(jù)不被泄露,這樣的行為可能不符合用戶的意愿。

    對(duì)于上述集中式服務(wù)器存在的計(jì)算壓力問題,最有效的方法是保持用戶數(shù)據(jù)的分散性,實(shí)現(xiàn)分布式推薦系統(tǒng)。這類模型[10-12]可以利用分布式設(shè)備來分擔(dān)集中服務(wù)器的計(jì)算任務(wù),從而解決傳統(tǒng)矩陣分解的集中計(jì)算問題。然而,分布式計(jì)算導(dǎo)致隱私風(fēng)險(xiǎn)問題也轉(zhuǎn)移到了各分布式服務(wù)器上,如果分布式服務(wù)器忽視信息保護(hù),用戶的隱私仍然可能泄露。在上述分布式模型中,Chen等[12]考慮了對(duì)用戶數(shù)據(jù)的保護(hù),該模型將每個(gè)用戶數(shù)據(jù)始終保持在自己的終端上,每個(gè)終端相當(dāng)于一個(gè)分布式服務(wù)器,訓(xùn)練推薦模型時(shí),各終端通過交互梯度來完成矩陣分解。雖然傳輸梯度看似保護(hù)了用戶的原始數(shù)據(jù),但這些梯度計(jì)算式包含了大量的隱私信息,模型無法保證他人不能根據(jù)梯度反推出這些信息。此外,梯度本身反映了用戶的一些信息,例如潛在因子的變化幅度,這些信息可能會(huì)被他人利用。該問題類似于發(fā)送一組特定數(shù)字的平均值,雖然保證了其他人不會(huì)知道這些數(shù)字,但依然泄露了這些數(shù)字的分布特征且可能被他人利用。

    針對(duì)上述集中式服務(wù)器存在的隱私風(fēng)險(xiǎn)問題,一些研究者提出使用加噪或加密策略來保護(hù)用戶隱私。加噪就是向數(shù)據(jù)中加入合適的噪聲讓數(shù)據(jù)變得有一定誤差但仍具有實(shí)驗(yàn)價(jià)值,而加密是通過加密密鑰讓明文變成密文且只有擁有解密密鑰的用戶才能從密文中獲取明文。Sweeney等[13]提出用k-匿名算法對(duì)所有收集數(shù)據(jù)加噪,Berlioz等[14]結(jié)合差分隱私算法引入拉普拉斯噪聲生成安全性更高的加噪數(shù)據(jù),Erkin等[15]利用同態(tài)加密機(jī)制設(shè)計(jì)基于密文的推薦算法。然而,加噪會(huì)造成數(shù)據(jù)的精度損失;而加密則因?yàn)槊芪挠?jì)算的復(fù)雜性造成巨大的計(jì)算開銷,特別是在集中式服務(wù)器上。

    基于上述研究在改進(jìn)傳統(tǒng)矩陣分解模型上的不足,本文提出了一種基于密文的去中心化矩陣分解模型,以較小的計(jì)算壓力實(shí)現(xiàn)隱私保護(hù)的興趣點(diǎn)推薦。如圖1所示,去中心化過程就是把用戶數(shù)據(jù)始終保持在各自的終端,每臺(tái)終端完成各自用戶的偏好學(xué)習(xí)。去中心化之后,為了加快各終端的計(jì)算速度,該模型定義了不同層次的朋友來表示用戶之間的興趣相似度,并采用隨機(jī)游走的方式選擇部分朋友進(jìn)行協(xié)同學(xué)習(xí)。同時(shí),為了保護(hù)用戶的隱私并保證不降低數(shù)據(jù)精度,該模型對(duì)所有用戶的交互數(shù)據(jù)進(jìn)行加密,并設(shè)計(jì)了一種基于密文的矩陣分解算法。Paillier加密具有同態(tài)加密的性質(zhì)因此被選作為本文模型的加密算法。在性能優(yōu)化方面,本文模型從“用戶是否可能訪問該興趣點(diǎn)”的角度為每個(gè)用戶設(shè)定了個(gè)人興趣點(diǎn)集合,從而改善加密算法時(shí)間性能。

    圖1 中心化及去中心化矩陣分解模型的數(shù)據(jù)分布

    綜上所述,本文的貢獻(xiàn)如下:(1) 提出將分布式系統(tǒng)與訓(xùn)練加密相結(jié)合的興趣點(diǎn)推薦研究。(2) 提出了有效的隱私保護(hù)推薦算法CDMF。通過第三方密鑰生成器提供的公鑰,CDMF的整個(gè)協(xié)同學(xué)習(xí)過程都在密文上進(jìn)行,保證用戶數(shù)據(jù)只被用戶自己所知。(3) CDMF通過定義每個(gè)用戶的個(gè)人興趣點(diǎn)集合來提高基于密文的去中心化推薦算法的性能。(4) 通過兩個(gè)真實(shí)數(shù)據(jù)集上的大量實(shí)驗(yàn)證明, CDMF模型在保護(hù)隱私的同時(shí),還比傳統(tǒng)矩陣分解模型有更高的精確率和召回率。

    1 相關(guān)工作

    1.1 基于矩陣分解的興趣點(diǎn)推薦

    矩陣分解[4,7,16]是通過將用戶-興趣點(diǎn)交互矩陣RM×N分解為兩個(gè)低維矩陣,即用戶潛在因子矩陣P和興趣點(diǎn)潛在因子矩陣Q,來學(xué)習(xí)用戶和興趣點(diǎn)的屬性。矩陣分解公式如下:

    RM×N=PM×K×QK×N

    (1)

    R中的元素rij表示用戶i在興趣點(diǎn)j上的簽到次數(shù),pik和qkj分別表示用戶i和興趣點(diǎn)j對(duì)第k(k∈[1,K])維屬性的偏好。為了獲得P和Q,矩陣分解使用最小二乘法優(yōu)化損失函數(shù):

    (2)

    式中:pi為用戶i的潛在因子;qj為興趣點(diǎn)j的潛在因子。另外,為了避免訓(xùn)練結(jié)果的過擬合,函數(shù)中加入了正則化參數(shù)λ和μ。

    許多研究人員致力于基于矩陣分解的興趣點(diǎn)推薦。Ye等[17]提出的模型證明了用戶越接近某個(gè)興趣點(diǎn),他們就越有可能在該點(diǎn)簽到,因此其提出在矩陣分解模型中加入地理影響來學(xué)習(xí)用戶偏好。Lian等[6]使用加權(quán)矩陣分解來加權(quán)用戶簽到信息:比起未簽到過的地點(diǎn),已簽到地點(diǎn)更能反映用戶的偏好,因此為其設(shè)置更高的權(quán)重。Zhao等[18]提出了一個(gè)多層次矩陣分解模型,該模型將加權(quán)矩陣分解和層次結(jié)構(gòu)結(jié)合起來,并將具有地理位置相關(guān)性的用戶和興趣點(diǎn)劃分在同一層。然而,由于它們都需要集中式服務(wù)器來收集用戶數(shù)據(jù),這些工作不可避免地存在計(jì)算壓力大和隱私泄露風(fēng)險(xiǎn)高問題。

    1.2 隱私保護(hù)推薦系統(tǒng)

    隱私安全是眾多推薦系統(tǒng)研究的熱點(diǎn)。隨著大數(shù)據(jù)時(shí)代到來,信息泄露越發(fā)嚴(yán)重,導(dǎo)致基于隱私保護(hù)的推薦被廣泛重視,其中對(duì)數(shù)據(jù)加噪或加密是保護(hù)隱私的主要方法。

    在一系列加噪方法中,差分隱私方法保密性極高,其噪聲服從拉普拉斯分布,已經(jīng)通過嚴(yán)格的數(shù)學(xué)推導(dǎo)證明其數(shù)據(jù)保護(hù)性。Balu等[19]提出了一個(gè)差分隱私矩陣分解模型,它使用一致的擾動(dòng)噪聲保護(hù)所有用戶的簽到數(shù)據(jù)。Meng等[20]指出為個(gè)人敏感及不敏感數(shù)據(jù)分配不同的噪聲,可保護(hù)用戶的隱私免受不可信朋友的攻擊。雖然這些方法保護(hù)了用戶的數(shù)據(jù),但是通過加噪改變數(shù)據(jù)會(huì)對(duì)推薦精度產(chǎn)生負(fù)面影響。

    在一系列加密方法中,同態(tài)加密是其中最高效最安全的一種。同態(tài)性表示對(duì)明文采用某種計(jì)算操作可以轉(zhuǎn)化為對(duì)密文采用其他種計(jì)算操作。所以在同態(tài)加密中,模型不需要解密數(shù)據(jù)也可以實(shí)現(xiàn)算法。Erkin等[15]提出了一種結(jié)合同態(tài)加密和數(shù)據(jù)打包技術(shù)的隱私保護(hù)推薦方法。Zheng等[21]結(jié)合保序加密技術(shù)來保護(hù)用戶發(fā)出請(qǐng)求的位置。雖然這些方法能夠保護(hù)數(shù)據(jù)且不影響推薦效果,但加密計(jì)算復(fù)雜性非常高。本文使用同態(tài)加密方法來保護(hù)用戶隱私,同時(shí)為了緩解加密帶來的計(jì)算壓力,改進(jìn)性地為用戶建立個(gè)人興趣點(diǎn)集合。

    2 預(yù)處理

    (3)

    式中:M和N分別是用戶總數(shù)和興趣點(diǎn)總數(shù)。

    2.1 朋 友

    如果兩個(gè)用戶i和j被判斷為相似的用戶即他們有相似的興趣點(diǎn)偏好,那么模型認(rèn)為這兩個(gè)用戶是朋友。友誼是可傳遞的,即如果用戶j和l也是朋友,那么用戶l就是用戶i的二級(jí)朋友,以此類推,用戶l的朋友就是用戶i的三級(jí)朋友。本文定義二級(jí)及以上的朋友都是間接朋友。

    在判斷相似用戶之前,首先觀察Foursquare數(shù)據(jù)集上的用戶-興趣點(diǎn)簽到數(shù)據(jù)。如圖2所示,實(shí)驗(yàn)隨機(jī)選取五個(gè)城市的用戶,統(tǒng)計(jì)這些用戶在當(dāng)前城市和其他城市簽到的次數(shù),其中:“市內(nèi)”標(biāo)簽表示本地用戶在本城市的簽到次數(shù),“市外”標(biāo)簽表示本地用戶在其他城市的簽到次數(shù)。

    圖2 五個(gè)不同城市的用戶簽到數(shù)據(jù)

    由此可知,用戶通?;钴S在所屬城市內(nèi),少數(shù)情況下會(huì)涉足其他城市。該發(fā)現(xiàn)表明:用戶的偏好受地理位置的影響很大,用戶之間距離越接近,他們的偏好可能越相似。因此,CDMF假定在同一個(gè)城市的用戶有相似的偏好,并且彼此是朋友。在訓(xùn)練CDMF時(shí),用戶只需與具有相似偏好的朋友或間接朋友進(jìn)行協(xié)同學(xué)習(xí)。

    設(shè)G=表示用戶鄰接圖,其中V是點(diǎn)集,表示所有用戶,E是邊集,每條邊(i,j)∈E(i,j∈V)表示用戶i和用戶j是朋友。在CDMF中,每個(gè)城市的用戶鄰接圖是一個(gè)獨(dú)立完全圖。

    2.2 隨機(jī)游走

    隨機(jī)游走是一個(gè)由連續(xù)隨機(jī)步組成的隨機(jī)過程。任意兩個(gè)連續(xù)隨機(jī)步之間的關(guān)系被定義為:

    (4)

    式中:si是服從任何隨機(jī)分布的隨機(jī)步。這表明下一狀態(tài)WC僅依賴于當(dāng)前狀態(tài)WC-1和從當(dāng)前狀態(tài)到下一狀態(tài)的隨機(jī)步SC[22]。

    (5)

    (6)

    為了避免無止境地選擇間接用戶,規(guī)定用戶只可以與第d(d≤D)級(jí)朋友交互數(shù)據(jù)。

    2.3 Paillier加密

    Paillier加密屬于公鑰加密。公鑰加密體系由公鑰Kpub、私鑰Kpri和Aead算法三部分組成。假設(shè)有這樣一個(gè)任務(wù),發(fā)送方需要向接收方發(fā)送數(shù)據(jù)且保證不暴露數(shù)據(jù)。為了達(dá)到這個(gè)目的,通常由接收方根據(jù)Aead算法生成Kpub和Kpri,并將Kpub發(fā)送給發(fā)送方。發(fā)送方使用Aead算法和公鑰Kpub加密數(shù)據(jù)并發(fā)送密文,接收方然后使用Aead算法和私鑰Kpri解密數(shù)據(jù),這樣可以保證數(shù)據(jù)安全。算法1簡(jiǎn)要介紹了Paillier加密的算法Aead,包括生成密鑰、加密和解密三個(gè)步驟。

    算法1Paillier公鑰加密

    密鑰生成:

    1.隨機(jī)選取兩個(gè)大素?cái)?shù)p和q,其中: gcd(pq,(p-1)(q-1))=1;

    2.n=pq,λ=lcm(p-1)(q-1);

    5.則公鑰為(n,g),密鑰為(λ,μ) ;

    加密:

    7.計(jì)算密文c=E(m,r)=gm·rnmodn2;

    解密:

    8.計(jì)算明文m=D(c)=L(cλmodn2)·μmodn。

    Paillier加密具有同態(tài)加密的加法同態(tài)性質(zhì)。同態(tài)加密滿足要求:在密文上操作f1運(yùn)算之后獲得的值等于在明文上操作f2運(yùn)算后的值的密文。Paillier加密的同態(tài)性質(zhì)如下:

    E(m1)·E(m2)=E(m1+m2)

    (7)

    (E(m1))n=E(n·m1)

    (8)

    式中:E(·)表示加密算法;m1和m2表示明文;n表示任意明文。

    由于Paillier算法可以將明文計(jì)算轉(zhuǎn)換為密文計(jì)算,具有絕對(duì)的安全性,因此本文選擇Paillier算法作為模型的加密算法。

    3 基于密文的去中心化興趣點(diǎn)推薦

    矩陣分解通過協(xié)同學(xué)習(xí)所有用戶的簽到數(shù)據(jù)來提取用戶屬性(潛在因子),用戶之間潛在因子的相似性反映了用戶偏好的相似性。因此,在去中心化模型中,單個(gè)用戶僅憑自身的簽到數(shù)據(jù)無法完成矩陣分解,用戶需要進(jìn)行必要的數(shù)據(jù)交互。考慮到只有相似用戶的偏好才能對(duì)用戶的選擇具有啟發(fā)作用,CDMF提出用戶只需要與具有相似偏好的朋友或者間接用戶交互數(shù)據(jù)。

    3.1 去中心化矩陣分解

    用戶潛在因子表示用戶的個(gè)人屬性,與其他用戶數(shù)據(jù)無關(guān)。興趣點(diǎn)潛在因子表示興趣點(diǎn)的屬性,是由所有用戶共同判定。換言之,對(duì)于每個(gè)用戶,他的用戶潛在因子不需要協(xié)同學(xué)習(xí),但興趣點(diǎn)潛在因子需要。通過細(xì)化興趣點(diǎn)的屬性判定者,模型將用戶i終端上興趣點(diǎn)j的潛在因子劃分為兩個(gè)部分:

    (9)

    基于式(2)所示的傳統(tǒng)矩陣分解的損失函數(shù),去中心化模型的損失函數(shù)為:

    (10)

    式中:α、β、γ是正則化參數(shù)。加入正則化可以防止訓(xùn)練過擬合。接下來,模型可以用梯度下降法更新每個(gè)變量:

    (11)

    (12)

    (13)

    3.2 基于密文的分布式矩陣分解

    為了保護(hù)傳輸數(shù)據(jù),CDMF在上述去中心化模型中引入了Paillier算法來加密公有梯度,并設(shè)計(jì)算法讓上述整個(gè)訓(xùn)練過程在密文上實(shí)現(xiàn)。

    在模型訓(xùn)練之前,本文需先定義Pailliar加密的同態(tài)乘法實(shí)現(xiàn)過程。假定用戶i想要根據(jù)密文E(A)和E(B)得到E(A·B),則:

    (1)i:生成兩個(gè)隨機(jī)數(shù)r1和r2;

    (2)i:E(A-r1)=E(A)·E(-r1),E(B-r2)=E(B)·E(-r2);

    (3)i:將E(A-r1),E(B-r2)發(fā)送給可信第三方;

    (4)V:私鑰解密E(A-r1),E(B-r2),獲取A-r1,B-r2;

    (5)V:計(jì)算密文E((A-r1)·(B-r2)),并發(fā)回給i。

    因此,用戶i可以得到:

    E(A·B)=E((A-r1)·(B-r2))·(E(A))r2·

    (E(B))r1·E(-r1·r2)

    (14)

    為了書寫方便,同態(tài)乘法被定義如下:

    E(A·B)=f(E(A),E(B),r1,r2)

    (15)

    以此類推,可以得到:

    E(A·B·C)=f(E(A·B),E(C),r1,r2)

    (16)

    結(jié)合Pailliar加密的同態(tài)性質(zhì)和間接實(shí)現(xiàn)的同態(tài)乘法,用戶可以利用本地?cái)?shù)據(jù)獲得梯度的密文如下:

    (17)

    (18)

    (19)

    獲取梯度密文后,用戶首先更新本地潛在因子,接下來隨機(jī)選擇D×H個(gè)朋友/間接朋友(在鄰接圖中共走D步,每步選H個(gè)朋友)發(fā)送公有梯度的密文,之后接收者更新他們的公有興趣點(diǎn)潛在因子。

    CDMF偽代碼如算法2所示。其中Si,i′是二元指示函數(shù),如果i和i′是朋友,Si,i′為1,否則為0。

    算法2CDMF模型算法

    輸入:用戶-興趣點(diǎn)交互矩陣R,正則化系數(shù)α、β、γ,學(xué)習(xí)率θ,最大朋友量H,隨機(jī)游走最大步長D,最大迭代次數(shù)T,密鑰長度Lp。

    輸出:每位用戶i的潛在因子密文E(pi),公有興趣點(diǎn)潛在因子密文E(Qi,public),私有興趣點(diǎn)潛在因子密文E(Qi,private)。

    1.假定每個(gè)用戶已經(jīng)獲得公鑰Kpub

    2.fori=1 toMdo

    3.初始化pi、Qi,public、Qi,private

    4.利用Kpub加密得到E(pi),E(Qi,public),E(Qi,private)

    5.fort=1 toTdo

    6.forrijinRdo

    16.returnE(pi)、E(Qi,public)、E(Qi,private)

    3.3 優(yōu)化時(shí)間性能

    圖2表明了用戶的簽到具有地理聚集性,用戶通常在他們的居住地和公司附近移動(dòng),意味著他們?cè)谠竭h(yuǎn)的興趣點(diǎn)簽到的概率越低。因此,CDMF提出為每個(gè)用戶建立個(gè)人興趣點(diǎn)集合。以用戶已有簽到點(diǎn)的中心作為用戶的地理長居地,那么他的個(gè)人興趣點(diǎn)集合是其長居地附近的前O個(gè)鄰近點(diǎn)。在模型訓(xùn)練過程中,只有當(dāng)興趣點(diǎn)屬于個(gè)人興趣點(diǎn)集合,用戶才會(huì)更新它的潛在因子,通過減少更新計(jì)算從而加速模型收斂。實(shí)驗(yàn)部分分析了O的大小設(shè)定。

    3.4 安全性分析

    直觀上來看,該模型安全的原因有兩方面:(1) 用戶沒有私鑰,所以用戶無法解密接收到的密文,Paillier密碼體系的安全性保證了用戶無法從密文中獲取任何隱私信息;(2) 可信第三方擁有私鑰,但是其接收到的數(shù)據(jù)是用戶用隨機(jī)數(shù)處理過的數(shù)據(jù)。因此,只要用戶不和第三方互通有無,隱私就不會(huì)被暴露。

    接下來,本文對(duì)模型訓(xùn)練的所有參與方進(jìn)行具體的安全性分析,包括每位用戶和可信第三方,考慮每個(gè)參與方是否能從接收的數(shù)據(jù)中獲取隱私信息。

    (1) 用戶。每次更新中,用戶得到公有梯度的密文?;赑aillier加密的語義安全性,除非用戶使用窮舉法對(duì)其進(jìn)行暴力破解,否則無法解密該梯度。然而由于計(jì)算量太大,窮舉法幾乎是不可能的。所以用戶方無法獲取隱私信息。

    (2) 可信第三方。第三方持有私鑰,在交互過程中,第三方接收的數(shù)據(jù)包括E(A-r1)、E(B-r2)。因此,盡管可以解密數(shù)據(jù),但未知且不斷變化的隨機(jī)數(shù)r1和r2使得第三方無法得到公有梯度A和B。

    基于以上討論,可以得出結(jié)論:模型在隱私保護(hù)方面是安全的。

    3.5 復(fù)雜度分析

    因?yàn)镃DMF是分布式模型,所以本文從計(jì)算時(shí)間復(fù)雜度和通信時(shí)間復(fù)雜度兩個(gè)方面來分析模型復(fù)雜度。在分析前,需要知道加密算法的時(shí)間復(fù)雜度與密鑰長度Lp密切相關(guān)。

    計(jì)算時(shí)間復(fù)雜度主要源于算法2中7-12行的梯度獲取與潛在因子更新。一次訓(xùn)練中,梯度獲取的時(shí)間復(fù)雜度是Lp×K,而潛在因子更新是(Lp×K)×min(D×|Ci|,D×H),其中K表示潛在因子維度,|Ci|表示用戶i所處城市的用戶數(shù)。因此,所有用戶迭代一輪的計(jì)算時(shí)間復(fù)雜度是|R|×(Lp×K)×min(D×|Ci|,D×H)??紤]到K、D、H非常小,所以計(jì)算時(shí)間復(fù)雜度基本與|R|×Lp成線性關(guān)系。采用個(gè)人興趣點(diǎn)集合可以通過減少潛在因子更新次數(shù)來提升模型的時(shí)間性能。

    通信時(shí)間復(fù)雜度取決于如下兩個(gè)部分:(1) 用戶之間的通信;(2) 用戶與可信第三方之間的通信。接下來本文以一輪迭代為單位分析這兩部分的通信時(shí)間復(fù)雜度。對(duì)于第一部分,用戶需要與min(D×|Ci|,D×H)位朋友交換梯度密文,每個(gè)梯度密文包含Lp×K個(gè)字節(jié)。因此,一輪迭代中用戶之間的通信時(shí)間復(fù)雜度是|R|×(Lp×K)×min(D×|Ci|,D×H)。對(duì)于第二部分,用戶需要將Lp×K字節(jié)的密文傳遞給可信第三方共21+2×min(D×|Ci|,D×H)次,因此用戶和可信第三方之間的通信時(shí)間復(fù)雜度為|R|×(Lp×K)×min(D×|Ci|,D×H)。總的來看,模型的通信時(shí)間復(fù)雜度為|R|×(Lp×K)×min(D×|Ci|,D×H),它與|R|×Lp也基本呈線性關(guān)系。

    根據(jù)上述分析,模型除了因密文長度所引起的必要時(shí)間復(fù)雜度外,沒有產(chǎn)生額外的時(shí)間復(fù)雜度代價(jià)。

    4 實(shí) 驗(yàn)

    本文主要通過一些對(duì)比實(shí)驗(yàn)來評(píng)估當(dāng)前模型的有效性,并分析部分參數(shù)的設(shè)定對(duì)模型效果的影響。此外該部分還研究了模型的時(shí)間性能,用以評(píng)估模型的有效性。

    4.1 數(shù)據(jù)集

    Foursquare和Gowalla是兩個(gè)經(jīng)典的基于位置的推薦模型數(shù)據(jù)集[23],它們收集于真實(shí)世界。本文利用這兩個(gè)數(shù)據(jù)集對(duì)模型進(jìn)行評(píng)估,首先從每個(gè)國家隨機(jī)選取兩個(gè)城市的簽到數(shù)據(jù),然后排除過于活躍/不活躍的用戶、興趣點(diǎn)。預(yù)處理之后數(shù)據(jù)集的相關(guān)信息如表1所示。實(shí)驗(yàn)按照9 ∶1的比例劃分訓(xùn)練集和測(cè)試集。

    表1 數(shù)據(jù)集

    4.2 評(píng)估指標(biāo)

    針對(duì)每個(gè)用戶,模型對(duì)其未參觀過的興趣點(diǎn)進(jìn)行評(píng)分,并根據(jù)評(píng)分對(duì)這些興趣點(diǎn)排序。模型的推薦性能體現(xiàn)在從排名前k位的興趣點(diǎn)中找到用戶測(cè)試集中興趣點(diǎn)的能力。在topk興趣點(diǎn)推薦[8,17]中,這種能力通??梢杂蓛蓚€(gè)廣泛使用的指標(biāo)來衡量,即精確率P@k和召回率R@k。前一個(gè)指標(biāo)反映了在topk推薦中用戶實(shí)際訪問了的比例,后一個(gè)指標(biāo)反映了用戶訪問過的興趣點(diǎn)出現(xiàn)在topk推薦中的比例。如果用Ri表示對(duì)用戶i的topk推薦興趣點(diǎn)集,用Vi表示i的已訪問興趣點(diǎn)集,評(píng)估指標(biāo)計(jì)算方法如下:

    (20)

    (21)

    4.3 比較方法

    本文評(píng)估了CDMF的性能,并將其與包括MF、BPR、DMF和CDMF的變體等方法進(jìn)行了比較。比較方法沒有選用近兩年的基于矩陣分解的先進(jìn)推薦方法,例如結(jié)合用戶社交信息[4]、屬性信息[9]或深度學(xué)習(xí)[24]的矩陣分解方法,因?yàn)檫@些方法都使用了除交互矩陣的額外信息或者附加工具作為輔助。考慮到把這些模型與本文方法進(jìn)行比較不夠公平,本文只選擇經(jīng)典模型如MF、BPR等進(jìn)行比較。幾種對(duì)比模型的介紹如下:

    MF[16]:矩陣分解模型。一種經(jīng)典的集中式方法,它將用戶-興趣點(diǎn)交互矩陣轉(zhuǎn)化為兩個(gè)潛在因子的乘積,并使用最小二乘法計(jì)算損失函數(shù)。

    BPR[25]:貝葉斯個(gè)性化排名模型。與傳統(tǒng)的矩陣分解相比,BPR也將用戶-興趣點(diǎn)交互矩陣分解為兩個(gè)潛在因子,但它的目的是減少成對(duì)排名的損失。

    DMF[12]:分布式矩陣分解模型。比起傳統(tǒng)的矩陣分解,它保持用戶數(shù)據(jù)在自身的客戶端,并通過在鄰居之間傳輸梯度以進(jìn)行潛在因子更新。

    LCDMF(Local CDMF):CDMF的變體。比起CDMF,該模型中用戶不再相互交互,只在自己的客戶端根據(jù)個(gè)人的簽到數(shù)據(jù)學(xué)習(xí)潛在因子。該特例會(huì)在正則化系數(shù)β很大時(shí)產(chǎn)生。

    GCDMF(Global CDMF):CDMF的另一個(gè)變體。比起CDMF,該模型中用戶不再保留私有興趣點(diǎn)潛在因子更新維度,它將整個(gè)興趣點(diǎn)潛在因子維度傳遞給朋友,保證每個(gè)人都會(huì)得到相似的興趣點(diǎn)潛在因子。該特例會(huì)在正則化系數(shù)γ很大時(shí)產(chǎn)生。

    4.4 超參數(shù)設(shè)定

    實(shí)驗(yàn)預(yù)設(shè)了一些參數(shù)來控制模型訓(xùn)練的復(fù)雜性:學(xué)習(xí)率θ=0.1;正則化系數(shù)α=β=γ=0.1;用戶的最大朋友數(shù)H=2,隨機(jī)游走的最大步長D=4,用于平衡模型計(jì)算量和推薦精確率。此外,實(shí)驗(yàn)還設(shè)置興趣點(diǎn)推薦數(shù)量k∈{5,10},潛在因子的維度K∈{5,10,15},后續(xù)實(shí)驗(yàn)結(jié)果會(huì)展示這些參數(shù)選擇不同值產(chǎn)生的影響。

    4.5 比較結(jié)果

    對(duì)于每一個(gè)模型,實(shí)驗(yàn)都試圖獲得它們的最佳效果用于比較。分布式模型DMF、CDMF及其變體獲取每個(gè)城市效果的平均值。表2展示了在不同數(shù)據(jù)集中不同方法的精確率和召回率。

    表2 各模型在不同數(shù)據(jù)集和潛在因子維度下的實(shí)驗(yàn)結(jié)果

    1) 當(dāng)潛在因子的維度K變大時(shí),所有模型的性能都有了改善。原因是K表示從興趣點(diǎn)中劃分出的屬性個(gè)數(shù),其越大,模型學(xué)到的屬性信息就越多。

    2) LCDMF的性能最差,因?yàn)槊總€(gè)用戶只能根據(jù)自己的簽到數(shù)據(jù)學(xué)習(xí)偏好。這個(gè)現(xiàn)象說明了協(xié)同學(xué)習(xí)在推薦中的重要性。

    3) BPR比MF表現(xiàn)更好,因?yàn)閭€(gè)性化排名比最小二乘法更適合推薦系統(tǒng)的損失計(jì)算,推薦需要的是相對(duì)排名不是絕對(duì)分值。實(shí)驗(yàn)表明,當(dāng)K=15時(shí),BPR甚至是效果最好的。由此可見,BPR對(duì)MF的改進(jìn)效果是明顯的。

    4) DMF的實(shí)驗(yàn)結(jié)果優(yōu)于MF,因?yàn)镈MF從個(gè)人和大眾的角度學(xué)習(xí)了興趣點(diǎn)潛在因子,獲得了更個(gè)性化的推薦模型。此外,因?yàn)槠鋮f(xié)同學(xué)習(xí)的主要對(duì)象是鄰居,避免了來自無關(guān)或負(fù)相關(guān)用戶的信息干擾。

    5) GCDMF的性能優(yōu)于MF。該模型與MF相似,都協(xié)同地學(xué)習(xí)了公有興趣點(diǎn)潛在因子。不同點(diǎn)在于,它通過引入朋友概念和個(gè)人興趣點(diǎn)集合概念提前剔除了一些噪聲數(shù)據(jù)。

    6) CDMF始終優(yōu)于DMF和GCDMF。與DMF相比,CDMF引入了個(gè)人興趣點(diǎn)集合。用戶具有很強(qiáng)的地理依賴性,所以對(duì)于用戶具有相似偏好程度的兩個(gè)興趣點(diǎn),雖然矩陣分解方法對(duì)它們打分相似,但距離用戶更近的那個(gè)興趣點(diǎn)其實(shí)對(duì)用戶的吸引力更高。這種情況下,引入個(gè)人興趣點(diǎn)集合排除距離較遠(yuǎn)的興趣點(diǎn),可以幫助用戶去除一些雖然感興趣但不會(huì)去的興趣點(diǎn)噪聲數(shù)據(jù)。與GCDMF相比,除了對(duì)興趣點(diǎn)的公有偏好外,用戶還在各自的客戶端提取了對(duì)興趣點(diǎn)的私有偏好,從而獲取了個(gè)性化興趣點(diǎn)潛在因子,促進(jìn)個(gè)性化偏好學(xué)習(xí)。

    4.6 參數(shù)分析

    不同的參數(shù)設(shè)定對(duì)模型有不同的影響。本節(jié)分析了兩個(gè)代表性的參數(shù)對(duì)模型的影響,分別為隨機(jī)游走最大步長D和最大迭代次數(shù)T。

    隨機(jī)游走最大步長D,決定了每次更新時(shí)用戶要與多少朋友進(jìn)行數(shù)據(jù)交互,D的大小直接影響模型的時(shí)間復(fù)雜度。此處設(shè)置潛在因子維度K=5并進(jìn)行實(shí)驗(yàn)。圖3展示了在Foursquare和Gowalla數(shù)據(jù)集上模型的精確率和召回率隨著D增加產(chǎn)生的變化。從結(jié)果來看,隨著D的增加,模型的精確率也在不斷提高,當(dāng)D超過3時(shí),精確率趨于穩(wěn)定,這意味著模型可以設(shè)置D=3或D=4,以獲得精確率和時(shí)間復(fù)雜度之間的平衡。

    圖3 隨機(jī)游走最大步長D對(duì)模型CDMF的影響

    最大迭代次數(shù)T,用于控制模型的訓(xùn)練次數(shù)。在Foursquare和Gowalla數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果如圖4所示??梢钥闯?,在模型收斂之前,T越大,模型損失越小,迭代了約175次后模型達(dá)到收斂,之后增加T模型損失基本不變。所以模型可以設(shè)置T≈180,降低模型時(shí)間復(fù)雜度。

    圖4 最大迭代次數(shù)T對(duì)模型CDMF的影響

    參數(shù)分析實(shí)驗(yàn)中,Gowalla數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果總是更好一些。這可能是因?yàn)檫x取的這部分Gowalla數(shù)據(jù)集具有更高的城市密度,導(dǎo)致用戶與興趣點(diǎn)之間的相關(guān)性更大,學(xué)習(xí)潛在因子也就更容易些。

    4.7 時(shí)間損失分析

    加密算法因?yàn)槠溆?jì)算復(fù)雜度太高,在許多應(yīng)用中受到限制。為了提高加密算法的時(shí)間性能,CDMF提出了個(gè)人興趣點(diǎn)集合,并在Foursquare數(shù)據(jù)集上進(jìn)行了時(shí)間性能測(cè)試,如圖5所示。

    (a) 時(shí)間損失 (b) 精確率圖5 個(gè)人興趣點(diǎn)集合對(duì)模型時(shí)間性能和精確率的影響

    如圖5(a)所示,實(shí)驗(yàn)提取了三個(gè)不同城市的用戶集,它們分別包含50、200和400個(gè)用戶,在這三個(gè)數(shù)據(jù)集上觀察模型的時(shí)間性能隨著個(gè)人興趣點(diǎn)集合增大產(chǎn)生的變化。橫坐標(biāo)表示個(gè)人興趣點(diǎn)集合的數(shù)量,縱坐標(biāo)表示每個(gè)用戶的收斂時(shí)間。實(shí)驗(yàn)表明,當(dāng)個(gè)人興趣點(diǎn)數(shù)大于200時(shí),用戶數(shù)越少,每個(gè)用戶需要的收斂時(shí)間就越多。原因是隨著用戶數(shù)量的減少,用戶的平均等待時(shí)間占總時(shí)間的比重增加。當(dāng)個(gè)人興趣點(diǎn)數(shù)小于200時(shí),用戶數(shù)幾乎不影響收斂速度。這是因?yàn)楫?dāng)個(gè)人興趣點(diǎn)數(shù)較少時(shí),梯度更新較快,使得用戶的等待時(shí)間足夠小。當(dāng)用戶數(shù)量保持不變時(shí),個(gè)人興趣點(diǎn)數(shù)越多,每個(gè)用戶的收斂時(shí)間就越長,說明縮小個(gè)人興趣點(diǎn)集合有助于加速模型收斂。

    圖5(b)顯示了個(gè)人興趣點(diǎn)數(shù)的設(shè)置對(duì)推薦精確率的影響。實(shí)驗(yàn)表明,隨著個(gè)人興趣點(diǎn)數(shù)量的增加,不同數(shù)據(jù)集的推薦精確率也隨之提高。但當(dāng)個(gè)人興趣點(diǎn)數(shù)超過300時(shí),推薦精確率開始下降。這是因?yàn)楫?dāng)個(gè)人興趣點(diǎn)集過小時(shí),許多用戶感興趣的興趣點(diǎn)可能會(huì)被錯(cuò)誤地排除掉,而過多時(shí)又會(huì)產(chǎn)生更多的噪聲。另外,隨著個(gè)人興趣點(diǎn)集合的減小,大城市的推薦精確率下降得比小城市快。這與不同城市擁有不同的興趣點(diǎn)密度有關(guān),興趣點(diǎn)密度越大的城市,相同的地理范圍內(nèi)興趣點(diǎn)數(shù)就越多。通常大城市比起小城市具有更高的興趣點(diǎn)密度,同等活動(dòng)范圍內(nèi)大城市的用戶可以到達(dá)更多的興趣點(diǎn),因此其個(gè)人興趣點(diǎn)集合應(yīng)該更大。這兩個(gè)實(shí)驗(yàn)表明,模型可以將個(gè)人興趣點(diǎn)集合長度設(shè)置在100到300之間以平衡模型精確性和時(shí)間性能。

    5 結(jié) 語

    本文提出了一種基于密文的去中心化矩陣分解推薦算法CDMF。為了將集中式服務(wù)器的計(jì)算壓力分散到每個(gè)用戶的終端,模型將用戶的數(shù)據(jù)保存在各自的終端,并使用隨機(jī)游走的方法選擇交互用戶。為了保護(hù)交互數(shù)據(jù),模型利用Paillier加密算法來加密數(shù)據(jù)。此外,CDMF還提出個(gè)人興趣點(diǎn)集合概念來加快收斂速度。在保證隱私的前提下,CDMF相比傳統(tǒng)矩陣分解其精確率和召回率分別提升約1百分點(diǎn)和9百分點(diǎn)。該模型還具有普遍適用性,在其他如網(wǎng)站服務(wù)、音樂等項(xiàng)目推薦中也適用,因?yàn)槟P椭皇蔷仃嚪纸夥椒ǖ淖凅w。

    猜你喜歡
    個(gè)人興趣密文復(fù)雜度
    一種針對(duì)格基后量子密碼的能量側(cè)信道分析框架
    一種支持動(dòng)態(tài)更新的可排名密文搜索方案
    基于模糊數(shù)學(xué)的通信網(wǎng)絡(luò)密文信息差錯(cuò)恢復(fù)
    2018年12月大學(xué)英語六級(jí)作文試題評(píng)析(四)
    英語世界(2019年7期)2019-09-10 07:22:44
    一種低復(fù)雜度的慣性/GNSS矢量深組合方法
    求圖上廣探樹的時(shí)間復(fù)雜度
    淺論英語學(xué)習(xí)動(dòng)機(jī)與自我認(rèn)同
    某雷達(dá)導(dǎo)51 頭中心控制軟件圈復(fù)雜度分析與改進(jìn)
    體育學(xué)習(xí)興趣研究新進(jìn)展
    出口技術(shù)復(fù)雜度研究回顧與評(píng)述
    18禁黄网站禁片午夜丰满| 国产主播在线观看一区二区| 黄色女人牲交| 免费观看人在逋| 国产三级在线视频| 男女午夜视频在线观看| 久久久久久人人人人人| 搞女人的毛片| 99久久国产精品久久久| 毛片女人毛片| 九九热线精品视视频播放| 午夜福利在线在线| 免费在线观看影片大全网站| 变态另类丝袜制服| 午夜精品在线福利| 日韩欧美国产在线观看| 日日摸夜夜添夜夜添小说| 两个人看的免费小视频| a在线观看视频网站| 一边摸一边抽搐一进一小说| 中文字幕人成人乱码亚洲影| 老熟妇仑乱视频hdxx| 亚洲电影在线观看av| 国产精品久久久久久久电影 | 夜夜躁狠狠躁天天躁| 两人在一起打扑克的视频| 日韩三级视频一区二区三区| 国产精品,欧美在线| 97超视频在线观看视频| 禁无遮挡网站| 国产精品电影一区二区三区| 亚洲 国产 在线| 99在线人妻在线中文字幕| 一本久久中文字幕| 久久久久国产一级毛片高清牌| 中文字幕最新亚洲高清| 99久国产av精品| 热99re8久久精品国产| 熟女人妻精品中文字幕| 99久久国产精品久久久| 91九色精品人成在线观看| 欧美+亚洲+日韩+国产| 一二三四社区在线视频社区8| a在线观看视频网站| 级片在线观看| 精品不卡国产一区二区三区| 此物有八面人人有两片| 男女午夜视频在线观看| 不卡一级毛片| 欧美日韩黄片免| 18禁观看日本| 美女免费视频网站| 一个人观看的视频www高清免费观看 | 最近最新中文字幕大全免费视频| 国产69精品久久久久777片 | 美女大奶头视频| 久久人人精品亚洲av| 又紧又爽又黄一区二区| 三级男女做爰猛烈吃奶摸视频| 久久久久久人人人人人| 国产精品女同一区二区软件 | 2021天堂中文幕一二区在线观| 久久久久久大精品| 黄片大片在线免费观看| 日韩有码中文字幕| 这个男人来自地球电影免费观看| 99riav亚洲国产免费| 后天国语完整版免费观看| 后天国语完整版免费观看| 男女那种视频在线观看| 亚洲国产高清在线一区二区三| 宅男免费午夜| 国产淫片久久久久久久久 | 日本 欧美在线| 免费观看的影片在线观看| 精品久久久久久久末码| 偷拍熟女少妇极品色| 制服丝袜大香蕉在线| 午夜福利在线观看吧| 色综合欧美亚洲国产小说| 日韩大尺度精品在线看网址| 真人做人爱边吃奶动态| 黄色丝袜av网址大全| svipshipincom国产片| 欧美另类亚洲清纯唯美| 欧美日韩亚洲国产一区二区在线观看| 美女 人体艺术 gogo| 性欧美人与动物交配| 国产精品99久久久久久久久| 国产精品影院久久| 欧美午夜高清在线| 五月玫瑰六月丁香| 久久久久精品久久久久真实原创| 亚洲成人中文字幕在线播放| 欧美日本亚洲视频在线播放| 午夜日本视频在线| 日产精品乱码卡一卡2卡三| 我的女老师完整版在线观看| 春色校园在线视频观看| 免费av观看视频| 一个人看的www免费观看视频| 久久久久久九九精品二区国产| 身体一侧抽搐| 三级经典国产精品| 国产精品不卡视频一区二区| 国产精品一区二区在线观看99 | 欧美高清性xxxxhd video| 亚洲精品国产av成人精品| 国内精品宾馆在线| 最后的刺客免费高清国语| 男插女下体视频免费在线播放| 国产精品嫩草影院av在线观看| 精品人妻熟女av久视频| 特大巨黑吊av在线直播| 亚洲图色成人| 一区二区三区高清视频在线| 激情 狠狠 欧美| 韩国高清视频一区二区三区| 成人欧美大片| 日本黄色视频三级网站网址| 成人三级黄色视频| 高清av免费在线| 久久99热这里只频精品6学生 | 最后的刺客免费高清国语| 少妇熟女欧美另类| 久久99热6这里只有精品| 晚上一个人看的免费电影| 直男gayav资源| 亚洲av成人精品一区久久| 成人毛片a级毛片在线播放| 国产精品爽爽va在线观看网站| 三级国产精品片| 国产精品一二三区在线看| 啦啦啦啦在线视频资源| 男人的好看免费观看在线视频| 18禁在线播放成人免费| 性色avwww在线观看| 99在线视频只有这里精品首页| 美女高潮的动态| 久久精品国产亚洲av天美| 国产精品不卡视频一区二区| 2021天堂中文幕一二区在线观| 亚洲av熟女| 亚洲美女搞黄在线观看| 国产午夜精品论理片| 美女脱内裤让男人舔精品视频| 欧美日韩综合久久久久久| 精品国产露脸久久av麻豆 | 久久久国产成人精品二区| 亚洲人成网站在线播| 亚洲人成网站高清观看| 亚洲精品aⅴ在线观看| 欧美性猛交╳xxx乱大交人| 欧美xxxx性猛交bbbb| 又黄又爽又刺激的免费视频.| 美女被艹到高潮喷水动态| 美女被艹到高潮喷水动态| 国产精品乱码一区二三区的特点| 国产老妇女一区| 国产免费福利视频在线观看| 2021天堂中文幕一二区在线观| 久久这里只有精品中国| 色哟哟·www| 秋霞在线观看毛片| 美女脱内裤让男人舔精品视频| 久久这里只有精品中国| 岛国在线免费视频观看| 午夜免费激情av| 简卡轻食公司| 成人av在线播放网站| 国产单亲对白刺激| 欧美另类亚洲清纯唯美| 国产 一区 欧美 日韩| 国产色婷婷99| 亚洲精品aⅴ在线观看| 菩萨蛮人人尽说江南好唐韦庄 | 在线免费观看不下载黄p国产| 亚洲国产精品国产精品| 99久久九九国产精品国产免费| 91av网一区二区| 国产精品女同一区二区软件| 久久精品国产99精品国产亚洲性色| 小蜜桃在线观看免费完整版高清| av.在线天堂| 国产女主播在线喷水免费视频网站 | 亚洲欧美一区二区三区国产| 99久久成人亚洲精品观看| 久久亚洲国产成人精品v| 精品国产露脸久久av麻豆 | 精品人妻偷拍中文字幕| 能在线免费看毛片的网站| 国产成人精品一,二区| 欧美日韩国产亚洲二区| 国内少妇人妻偷人精品xxx网站| 国产高清不卡午夜福利| 日本免费在线观看一区| 亚洲自拍偷在线| 五月玫瑰六月丁香| 亚洲婷婷狠狠爱综合网| 国产在线一区二区三区精 | 在线播放无遮挡| 国内精品一区二区在线观看| 色综合亚洲欧美另类图片| 亚洲综合精品二区| 国产淫语在线视频| 国产一级毛片七仙女欲春2| 男女边吃奶边做爰视频| 日韩亚洲欧美综合| 国产在线一区二区三区精 | 久久99蜜桃精品久久| 国产成年人精品一区二区| 精品久久久久久久末码| av线在线观看网站| 国产成人一区二区在线| 久久精品人妻少妇| 爱豆传媒免费全集在线观看| 卡戴珊不雅视频在线播放| 国产精品伦人一区二区| 亚洲丝袜综合中文字幕| 亚洲成色77777| 男人舔奶头视频| 亚洲国产欧洲综合997久久,| 日韩高清综合在线| 99热全是精品| 麻豆精品久久久久久蜜桃| 黄色一级大片看看| www日本黄色视频网| 午夜老司机福利剧场| 直男gayav资源| kizo精华| 亚洲国产精品sss在线观看| 亚洲欧美日韩卡通动漫| av黄色大香蕉| 国产高潮美女av| a级毛片免费高清观看在线播放| 成人二区视频| 国产精品一区二区三区四区免费观看| 99热网站在线观看| 在线免费十八禁| 91狼人影院| 看非洲黑人一级黄片| 好男人视频免费观看在线| 欧美高清性xxxxhd video| 精品酒店卫生间| 天天躁夜夜躁狠狠久久av| 九草在线视频观看| 久久国产乱子免费精品| 在线观看美女被高潮喷水网站| 51国产日韩欧美| 中文字幕久久专区| 国产老妇女一区| 欧美日韩精品成人综合77777| av在线天堂中文字幕| av国产久精品久网站免费入址| 乱码一卡2卡4卡精品| 黄色日韩在线| 亚洲成人精品中文字幕电影| 美女xxoo啪啪120秒动态图| 人妻少妇偷人精品九色| 亚洲电影在线观看av| 一区二区三区四区激情视频| 熟妇人妻久久中文字幕3abv| 激情 狠狠 欧美| 欧美97在线视频| 日韩制服骚丝袜av| 亚洲美女搞黄在线观看| 欧美bdsm另类| 特大巨黑吊av在线直播| 2022亚洲国产成人精品| 欧美xxxx性猛交bbbb| 欧美日韩综合久久久久久| 床上黄色一级片| 国产精品一二三区在线看| 高清视频免费观看一区二区 | 国产精品麻豆人妻色哟哟久久 | 欧美人与善性xxx| 久久久午夜欧美精品| 国产亚洲午夜精品一区二区久久 | 久久久亚洲精品成人影院| 成年女人永久免费观看视频| 亚洲在线自拍视频| 精品一区二区免费观看| 精品久久久久久成人av| 自拍偷自拍亚洲精品老妇| 国产精品久久视频播放| 精品久久久噜噜| 午夜福利高清视频| 亚洲av成人av| 免费大片18禁| 午夜免费激情av| 国产久久久一区二区三区| 国产精品久久久久久久电影| 久久久精品94久久精品| 可以在线观看毛片的网站| 国产精品一及| 国产在线一区二区三区精 | 午夜免费激情av| 久久亚洲国产成人精品v| 哪个播放器可以免费观看大片| 99国产精品一区二区蜜桃av| 三级毛片av免费| 黄色欧美视频在线观看| 纵有疾风起免费观看全集完整版 | 日韩欧美在线乱码| 亚洲精品自拍成人| 九九热线精品视视频播放| 久久久久性生活片| 岛国毛片在线播放| 青青草视频在线视频观看| 人人妻人人看人人澡| 久久人人爽人人爽人人片va| 中文字幕久久专区| 久久精品影院6| 最近最新中文字幕大全电影3| 亚洲精品成人久久久久久| 水蜜桃什么品种好| 岛国毛片在线播放| 亚洲一级一片aⅴ在线观看| 亚洲国产色片| 亚洲av不卡在线观看| 91狼人影院| 国产三级在线视频| 变态另类丝袜制服| 国产精品一区www在线观看| 两性午夜刺激爽爽歪歪视频在线观看| 日本wwww免费看| 亚洲国产精品成人久久小说| 在线播放无遮挡| 亚洲自拍偷在线| 国内少妇人妻偷人精品xxx网站| 床上黄色一级片| 男女那种视频在线观看| av又黄又爽大尺度在线免费看 | ponron亚洲| 1024手机看黄色片| 国产高潮美女av| 禁无遮挡网站| 一个人看视频在线观看www免费| 国产成人免费观看mmmm| 国产91av在线免费观看| 特级一级黄色大片| 日韩精品有码人妻一区| 一本久久精品| 精品久久久噜噜| 亚洲精品乱码久久久久久按摩| 我要看日韩黄色一级片| 亚洲综合精品二区| 国产 一区 欧美 日韩| 国内少妇人妻偷人精品xxx网站| 色哟哟·www| 午夜激情福利司机影院| 欧美+日韩+精品| 亚洲av电影在线观看一区二区三区 | 一区二区三区四区激情视频| 尾随美女入室| 国产成年人精品一区二区| 国产乱来视频区| 黄色日韩在线| 美女国产视频在线观看| 丝袜美腿在线中文| 亚洲精品一区蜜桃| 一区二区三区高清视频在线| 免费电影在线观看免费观看| 一边摸一边抽搐一进一小说| av在线老鸭窝| 午夜福利在线观看免费完整高清在| 日韩欧美三级三区| 国产精品久久久久久久久免| 男人舔女人下体高潮全视频| 99久久成人亚洲精品观看| 亚洲国产精品专区欧美| 国产成人精品一,二区| 精品午夜福利在线看| 精品久久久久久久久久久久久| 亚洲精品自拍成人| 国产成人a∨麻豆精品| 可以在线观看毛片的网站| 日本免费一区二区三区高清不卡| 国产成人免费观看mmmm| 男人和女人高潮做爰伦理| 亚洲丝袜综合中文字幕| 亚洲av中文av极速乱| 中文字幕熟女人妻在线| 亚洲精品456在线播放app| 波野结衣二区三区在线| 久久久久久国产a免费观看| 18禁动态无遮挡网站| 国产精品国产三级专区第一集| 国产精品嫩草影院av在线观看| 国产精品99久久久久久久久| 久久久久久久久大av| 日本欧美国产在线视频| 小蜜桃在线观看免费完整版高清| 2021天堂中文幕一二区在线观| 好男人视频免费观看在线| 国产免费又黄又爽又色| 久久欧美精品欧美久久欧美| 少妇裸体淫交视频免费看高清| 老司机福利观看| 你懂的网址亚洲精品在线观看 | av在线老鸭窝| 国产一区二区亚洲精品在线观看| 91狼人影院| 国产黄片视频在线免费观看| 一级毛片aaaaaa免费看小| 国产三级在线视频| 性色avwww在线观看| 亚洲经典国产精华液单| 性色avwww在线观看| 国产成人精品久久久久久| 亚洲欧美中文字幕日韩二区| 欧美又色又爽又黄视频| 国产精品蜜桃在线观看| 久久这里只有精品中国| 久久久精品大字幕| 国产高清国产精品国产三级 | 国产午夜福利久久久久久| 亚洲18禁久久av| 亚洲欧美日韩高清专用| 国产伦一二天堂av在线观看| 久久精品久久久久久噜噜老黄 | 网址你懂的国产日韩在线| 亚洲av福利一区| 嘟嘟电影网在线观看| 永久网站在线| 亚洲aⅴ乱码一区二区在线播放| 国产高清三级在线| 亚洲精品乱久久久久久| 国产成人a区在线观看| 久久久成人免费电影| 晚上一个人看的免费电影| 国内少妇人妻偷人精品xxx网站| 狠狠狠狠99中文字幕| 国产在视频线在精品| 日韩av在线免费看完整版不卡| 一二三四中文在线观看免费高清| 麻豆一二三区av精品| 日本wwww免费看| 99热全是精品| 午夜福利网站1000一区二区三区| 99久久精品国产国产毛片| 国产精品综合久久久久久久免费| 啦啦啦啦在线视频资源| 精品一区二区免费观看| 欧美潮喷喷水| 视频中文字幕在线观看| 在线a可以看的网站| 国产精华一区二区三区| 亚洲精品日韩在线中文字幕| 中文字幕制服av| 99久久中文字幕三级久久日本| 欧美潮喷喷水| 久久99热这里只频精品6学生 | 99热网站在线观看| 亚洲国产精品久久男人天堂| 欧美日韩在线观看h| 日本一二三区视频观看| 免费看光身美女| 国产av不卡久久| 老师上课跳d突然被开到最大视频| 国产成人精品婷婷| 亚洲av日韩在线播放| 99热全是精品| 搡女人真爽免费视频火全软件| 国产亚洲av片在线观看秒播厂 | 国产黄a三级三级三级人| 日韩成人伦理影院| 99久久无色码亚洲精品果冻| 1000部很黄的大片| 成人av在线播放网站| 国产精品永久免费网站| 日韩欧美精品v在线| 最近2019中文字幕mv第一页| 天堂中文最新版在线下载 | 免费看日本二区| 日产精品乱码卡一卡2卡三| 国模一区二区三区四区视频| 久久精品国产亚洲av涩爱| 变态另类丝袜制服| 国产亚洲av片在线观看秒播厂 | 国产探花极品一区二区| 成人漫画全彩无遮挡| 久久久欧美国产精品| 最近中文字幕高清免费大全6| 国产熟女欧美一区二区| 少妇熟女欧美另类| 亚洲怡红院男人天堂| av在线老鸭窝| 美女xxoo啪啪120秒动态图| 波野结衣二区三区在线| 水蜜桃什么品种好| 久久久亚洲精品成人影院| 1024手机看黄色片| 在线天堂最新版资源| 日韩高清综合在线| 网址你懂的国产日韩在线| 中国国产av一级| 大又大粗又爽又黄少妇毛片口| 久久99热这里只有精品18| 晚上一个人看的免费电影| 国产高潮美女av| 美女内射精品一级片tv| 国产精品国产高清国产av| 日韩成人av中文字幕在线观看| 久久亚洲国产成人精品v| 日韩强制内射视频| 成人午夜精彩视频在线观看| 激情 狠狠 欧美| 欧美不卡视频在线免费观看| 国产人妻一区二区三区在| 精品久久久久久久久亚洲| 日本一本二区三区精品| 最近视频中文字幕2019在线8| 欧美不卡视频在线免费观看| 久99久视频精品免费| 欧美日韩精品成人综合77777| 天堂网av新在线| 校园人妻丝袜中文字幕| 亚洲av日韩在线播放| 国产精品伦人一区二区| 亚洲av免费在线观看| 美女被艹到高潮喷水动态| 久久精品综合一区二区三区| 国产激情偷乱视频一区二区| 欧美精品国产亚洲| 国产成人aa在线观看| 国内精品美女久久久久久| videossex国产| 国产精品国产高清国产av| 一个人免费在线观看电影| 亚洲国产日韩欧美精品在线观看| 成年女人永久免费观看视频| 波多野结衣巨乳人妻| 日韩强制内射视频| 国产白丝娇喘喷水9色精品| 国产精品美女特级片免费视频播放器| 成人国产麻豆网| 赤兔流量卡办理| 久久午夜福利片| 成人毛片a级毛片在线播放| 亚洲国产成人一精品久久久| 国产黄a三级三级三级人| 伦理电影大哥的女人| 熟女人妻精品中文字幕| 久久99热这里只有精品18| 免费av观看视频| 久久久久九九精品影院| 少妇人妻一区二区三区视频| 国产精品麻豆人妻色哟哟久久 | 久久久久久久午夜电影| 国产成人精品一,二区| 日日撸夜夜添| 色尼玛亚洲综合影院| 色噜噜av男人的天堂激情| 成人二区视频| 99久久精品热视频| 亚洲人成网站高清观看| 爱豆传媒免费全集在线观看| 国产成人精品一,二区| 高清av免费在线| 国产免费又黄又爽又色| 亚洲精品色激情综合| 别揉我奶头 嗯啊视频| 亚洲av男天堂| 国产日韩欧美在线精品| 狂野欧美激情性xxxx在线观看| 精品不卡国产一区二区三区| 亚洲一区高清亚洲精品| 亚洲av成人av| h日本视频在线播放| 国产乱来视频区| 国产精品人妻久久久影院| 欧美激情久久久久久爽电影| 51国产日韩欧美| av免费在线看不卡| 欧美变态另类bdsm刘玥| 观看美女的网站| 黄色日韩在线| 国产在视频线精品| 成人毛片60女人毛片免费| 国产真实乱freesex| 午夜福利网站1000一区二区三区| 国产淫片久久久久久久久| 成人毛片a级毛片在线播放| 国产精品美女特级片免费视频播放器| 国产爱豆传媒在线观看| 久久久久性生活片| 久久国产乱子免费精品| 成人亚洲精品av一区二区| 黄片无遮挡物在线观看| 特大巨黑吊av在线直播| 在线观看一区二区三区| 别揉我奶头 嗯啊视频| 又粗又硬又长又爽又黄的视频| 亚洲成av人片在线播放无| 天天躁日日操中文字幕| 国产av在哪里看| 啦啦啦观看免费观看视频高清| 嫩草影院入口| av播播在线观看一区| 丝袜喷水一区| 91久久精品国产一区二区成人| 国产爱豆传媒在线观看| 99热这里只有精品一区| 国产高清国产精品国产三级 | 亚洲国产精品成人久久小说| 国产成人91sexporn| 国产成人一区二区在线| 国产精品一区www在线观看| 久久99热这里只有精品18| 国产激情偷乱视频一区二区| 女人十人毛片免费观看3o分钟| 人体艺术视频欧美日本| 欧美色视频一区免费| 又粗又爽又猛毛片免费看|