• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于本地化差分隱私的時序位置發(fā)布方案研究

    2022-11-09 07:15:18康海燕冀源蕊
    電子學(xué)報 2022年9期
    關(guān)鍵詞:時序敏感度差分

    康海燕,冀源蕊

    (北京信息科技大學(xué)信息管理學(xué)院信息安全系,北京 100192)

    1 引言

    隨著GPS定位技術(shù)和可穿戴設(shè)備的廣泛應(yīng)用,基于位置的服務(wù)(Location Based Service,LBS)可以提供諸如實時位置共享、路線導(dǎo)航和興趣點查詢等服務(wù),為人們的生活提供了便利.與此同時,這些移動設(shè)備不斷記錄著用戶的位置數(shù)據(jù),LBS服務(wù)通過收集并發(fā)布這些位置數(shù)據(jù)可以為數(shù)據(jù)分析提供基礎(chǔ)數(shù)據(jù),結(jié)合數(shù)據(jù)挖掘和機器學(xué)習(xí)等技術(shù)對位置軌跡大數(shù)據(jù)的分析,企業(yè)可以用挖掘有價值的商業(yè)信息,政府部門可以通過分析交通數(shù)據(jù)進行道路規(guī)劃[1],在COVID-19疫情防控背景下,政府部門可以通過對用戶位置數(shù)據(jù)的收集和分析實現(xiàn)接觸者追蹤和疫情傳播監(jiān)控[2].然而位置數(shù)據(jù)中包含大量個體的隱私信息,如果不加保護直接發(fā)布會造成大量用戶的隱私泄露,用戶對隱私問題的顧慮限制了其分享個人位置數(shù)據(jù)的意愿,阻礙了位置大數(shù)據(jù)的收集和分析工作,因此針對位置數(shù)據(jù)發(fā)布時的隱私保護研究具有必要性.

    最早用于解決位置數(shù)據(jù)隱私發(fā)布的方案是k-匿名技術(shù),如Gedik等[3]提出的匿名位置發(fā)布方法,通過對軌跡Ti在任意時刻采樣,使得在該時刻內(nèi),至少有k-1條軌跡在相應(yīng)的位置能和Ti泛化在同一區(qū)域內(nèi)然而k-匿名理論面臨的最大問題是,一旦攻擊者能力超過了預(yù)先的假設(shè),就能夠進一步區(qū)分等價類內(nèi)的不同記錄,實現(xiàn)去匿名化.由Dwork等[4]提出的差分隱私技術(shù)因其嚴格的數(shù)學(xué)定義備受青睞,是目前最受歡迎的隱私保護技術(shù),在隱私保護的數(shù)據(jù)分析與數(shù)據(jù)發(fā)布領(lǐng)域應(yīng)用廣泛[5].而在位置軌跡隱私發(fā)布背景下,基于差分隱私模型的研究同樣取得了許多成果[6~17].然而現(xiàn)有的差分隱私模型下位置軌跡發(fā)布的方案存在以下不足:(1)現(xiàn)有方案基于第三方LBS服務(wù)可信的前提假設(shè),對收集到的位置數(shù)據(jù)進行集中加噪處理后再發(fā)布,沒有考慮第三方服務(wù)器不可信的情況.(2)現(xiàn)有方案在隱私保護選擇上不夠靈活,只允許用戶根據(jù)單一的隱私預(yù)算決定隱私保護程度.(3)現(xiàn)有方案將軌跡發(fā)布看作一系列連續(xù)位置的發(fā)布,沒有考慮連續(xù)提交多個位置數(shù)據(jù)的情況下時序關(guān)聯(lián)對位置隱私發(fā)布的影響.

    為了解決以上問題,本文進行了深入研究,主要貢獻如下:(1)提出一種定制隱私策略位置擾動算法(Customized Privacy policy Location Perturbation algorithm,CPLP),允許用戶在本地對位置數(shù)據(jù)加噪后上傳給LBS服務(wù)器,通過定制隱私策略實現(xiàn)多隱私因子支持.(2)結(jié)合隱馬爾可夫模型提出一種時序關(guān)聯(lián)位置隱私發(fā)布算法(Temporal Relational Location Privacy publishing algorithm,TRLP),解決時序關(guān)聯(lián)對位置隱私發(fā)布的影響.(3)在GeoLife數(shù)據(jù)集和Gowalla數(shù)據(jù)集上通過大量的對比實驗驗證了該模型的可用性.

    2 研究現(xiàn)狀

    2.1 中心化差分隱私位置數(shù)據(jù)發(fā)布

    中心化差分隱私模型下的位置數(shù)據(jù)發(fā)布形式包括空間直方圖、地理位置熵和軌跡數(shù)據(jù)集.空間直方圖是位置軌跡發(fā)布的經(jīng)典形式,差分隱私模型通過對空間直方圖添加隨機噪聲,發(fā)布加噪后的直方圖來抵御攻擊者對于數(shù)據(jù)集中是否包含某用戶的推測攻擊.然而直接對構(gòu)成直方圖的每個網(wǎng)格單元添加噪聲導(dǎo)致查詢結(jié)果的誤差太大,為了提高任意范圍內(nèi)查詢結(jié)果的精度,通常采用四叉樹[9]對劃分后的網(wǎng)格提供索引服務(wù),樹中的每個節(jié)點代表本區(qū)域范圍內(nèi)的位置軌跡數(shù)目,由于該數(shù)目涉及用戶的位置隱私,通過對節(jié)點計數(shù)查詢添加噪聲實現(xiàn)差分隱私,在響應(yīng)用戶的計數(shù)查詢時,采用類似索引樹的查詢模式自上而下在四叉樹中搜索與該查詢節(jié)點匹配的節(jié)點集合,根據(jù)加噪后的節(jié)點計數(shù)結(jié)果進行回答.為了解決位置數(shù)據(jù)分布不均衡導(dǎo)致四叉樹中添加噪聲過大的問題,Hay等[10]提出一種基于k-叉平均樹的位置數(shù)據(jù)構(gòu)建方法,使得劃分后直方圖各個區(qū)間內(nèi)位置軌跡數(shù)目比較均衡,同時通過最優(yōu)線性無偏估計對其進行一致性修正,降低中間節(jié)點造成的查詢噪聲誤差.Zhang等[11]提出一種基于不完全四叉樹的位置發(fā)布方法PrivTree,通過對高維空間數(shù)據(jù)進行合理的劃分擺脫了加入噪聲時樹高的影響,并采用局部敏感度和近似誤差的方法降低噪聲誤差.為了解決軌跡中多個單元的子軌跡被重復(fù)計數(shù)導(dǎo)致大范圍內(nèi)軌跡聚集查詢誤差較大的問題,Xie等[12]提出了層次化模型(Euler Histograms Tree,EHT),通過降低子軌跡重復(fù)帶來的查詢誤差以支持矩形空間聚集查詢.除了直接發(fā)布位置軌跡的計數(shù)信息,位置相關(guān)統(tǒng)計信息還包括位置熵(Location Entropy,LE),位置熵以熵的形式衡量地理位置受用戶歡迎的程度,熵越大,說明該地理位置越受用戶歡迎.為了防止攻擊者根據(jù)發(fā)布的位置熵直方圖推測出某個用戶的位置隱私,To等[13]采用拉普拉斯機制對位置熵進行噪聲處理,注入噪聲的規(guī)模由全局敏感度決定,為了解決全局敏感度導(dǎo)致噪聲過大的問題,采用本地敏感度或平滑敏感度的方法代替全局敏感度.

    空間直方圖和位置熵的缺陷在于丟棄了用戶軌跡的時序信息,無法滿足數(shù)據(jù)使用者對序列進行深入分析的需求,而直接發(fā)布軌跡數(shù)據(jù)可以在最大程度上保留軌跡的時序特征.目前有基于樹重構(gòu)和軌跡聚類等多種差分隱私軌跡發(fā)布方法.如Chen等[14]提出一種基于前綴樹的軌跡差分隱私保護方法,通過構(gòu)造加噪前綴樹并為加噪前綴樹中每個節(jié)點計數(shù)添加噪聲實現(xiàn)差分隱私.霍崢等[15]在噪音樹的基礎(chǔ)上分別針對自由空間和路網(wǎng)空間提出了兩種差分隱私軌跡數(shù)據(jù)發(fā)布方法.基于聚類的軌跡發(fā)布方法[16]在位置精度高,候選位置集合規(guī)模大的情況下更適用.這種方法采用分階段處理的思想,將長度為的軌跡集處理分為個階段,在每個階段對所有位置進行聚類分組,使用聚類中心點代替該聚類中的真實位置點,通過在聚類中心點的隨機化和軌跡計數(shù)的隨機化過程中引入隨機化噪聲實現(xiàn)差分隱私,最后發(fā)布擾動后的數(shù)據(jù)集.如Zhao等[17]提出的差分隱私軌跡聚類算法TLDP(Trajectory Location Data Protection),通過將Laplace噪聲添加到軌跡計數(shù)中來抵抗連續(xù)查詢攻擊.

    2.2 本地化差分隱私研究現(xiàn)狀

    與傳統(tǒng)的差分隱私[4]技術(shù)相比,本地化差分隱私技術(shù)已經(jīng)成為一種更為健壯的隱私保護模型,與傳統(tǒng)的中心化差分隱私不同,該技術(shù)的核心思路是在本地給用戶數(shù)據(jù)添加滿足本地化差分隱私的擾動,將擾動后數(shù)據(jù)傳輸給第三方數(shù)據(jù)收集者,再通過一系列查詢操作得到有效的結(jié)果.本地化差分隱私的目標在于解決服務(wù)器不可信場景下數(shù)據(jù)的安全采集與分析問題.本地化差分隱私中常用的擾動機制是隨機響應(yīng),如楊高明等提出一種滿足本地化差分隱私約束的關(guān)聯(lián)屬性不變后隨機響應(yīng)擾動方法[18].除此以外還有壓縮機制Compression[19]和扭曲機制Distortion[20].這些擾動機制在頻數(shù)統(tǒng)計、均值估計和機器學(xué)習(xí)等學(xué)術(shù)領(lǐng)域有大量應(yīng)用[21].除了學(xué)術(shù)研究以外,本地化差分隱私在工業(yè)界也有所應(yīng)用,如蘋果公司將該技術(shù)應(yīng)用在操作系統(tǒng)ios 10上以隱私保護的方式收集用戶的統(tǒng)計數(shù)據(jù)[22],谷歌公司同樣使用該技術(shù)從Chrome瀏覽器上采集用戶的行為統(tǒng)計數(shù)據(jù)[23].

    3 背景知識

    3.1 位置數(shù)據(jù)建模

    本文使用兩種坐標系來表示用戶的位置點.一種是狀態(tài)坐標系,將原始地圖劃分成多個網(wǎng)格,使得每個網(wǎng)格單元表示用戶的一個位置狀態(tài).另一種是地圖坐標,通過二維經(jīng)緯度坐標點來表示用戶的位置.

    這兩種坐標系之間可以互相轉(zhuǎn)化,狀態(tài)坐標中每個網(wǎng)格單元的索引可以由經(jīng)緯度表示,從而對應(yīng)到地圖坐標上.如圖1所示,橫坐標表示向東方向數(shù)據(jù),縱坐標表示向北方向數(shù)據(jù),網(wǎng)格表示位置狀態(tài).

    圖1 狀態(tài)坐標系和地圖坐標轉(zhuǎn)化示意圖

    對于位置域S={s1,s2,…,sN},記si(1≤i≤N)代表圖上的第i個網(wǎng)格單元,該網(wǎng)格單元表示為一個單位向量,其中第i個元素為1,其余N-1個元素為0,用二維向量xt表示t時刻用戶在地圖坐標上的位置,xt[0]表示該位置點的經(jīng)度,xt[1]表示該位置點的維度,與t時刻用戶在狀態(tài)坐標上的真實位置互相對應(yīng),位置查詢f(s):s→R2表示網(wǎng)絡(luò)坐標中位置點到地圖坐標的映射,以圖1為例,設(shè)用戶位置域S={s1,s2,…,s56},若用戶在t時刻真實位置狀態(tài)為s10,則s10=[0,0,0,0,0,0,0,0,0,1,…,0],對應(yīng)地圖坐標xt=[3,5],即s10的維度坐標為3,經(jīng)度坐標為5,存在位置查詢f(s10)=[3,5].

    3.2 位置隱私攻擊

    在位置隱私發(fā)布的研究背景下,針對位置的隱私攻擊可視為根據(jù)發(fā)布的擾動位置推測出某時刻用戶真實位置的過程,本文采用隱馬爾可夫模型對該過程進行建模.每一時刻用戶的真實位置是不可觀測的,對應(yīng)隱馬爾可夫模型中的隱藏狀態(tài),經(jīng)過隱私保護處理(如4.2中的CPLP算法)后發(fā)布的位置數(shù)據(jù)可由攻擊者直接觀察得到,對應(yīng)隱馬爾可夫模型中的觀測狀態(tài),記矩陣M∈[0,1]N×N為用戶的位置狀態(tài)轉(zhuǎn)移矩陣,矩陣中的元素mij表示由位置狀態(tài)si轉(zhuǎn)移到位置狀態(tài)sj的概率大小,在后續(xù)隱私保護位置擾動算法設(shè)計中,假設(shè)矩陣M可根據(jù)用戶的歷史位置數(shù)據(jù)訓(xùn)練得到.在位置攻擊模型中,t時刻用戶的位置狀態(tài)可以通過概 率 分 布pt∈[0,1]1×N表 示,其 中代表t時刻用戶真實位置位于si的可能性大小,假設(shè)t時刻用戶以相同的概率分布于位置集合S={s1,s3,s4,s6}中,則此時用戶的位置概率分布表示為pt=[1/4,0,1/4,1/4,0,1/4,0,0,...,0].再使用和分別表示攻擊者觀察擾動輸出zt前后該時刻位置狀態(tài)的先驗概率和后驗概率.t時刻的先驗概率可以通過前一時刻t-1的后驗概率結(jié)合狀態(tài)轉(zhuǎn)移矩陣M計算得到,即后驗概率可根據(jù)式(1)中的貝葉斯公式計算,其中表示隱馬爾可夫模型的發(fā)射概率,即在給定真實位置概率分布的情況下輸出擾動位置為zt的概率.

    假設(shè)攻擊者掌握的背景知識包括隱馬爾可夫模型的狀態(tài)轉(zhuǎn)移矩陣和初始概率分布,則攻擊者可以推測出t時刻用戶可能出現(xiàn)的位置,表現(xiàn)為該時刻先驗概率大于0的位置,將這個區(qū)域定義為時序關(guān)聯(lián)域Ct,如定義1所示.

    定義1時序關(guān)聯(lián)域.時序關(guān)聯(lián)域Ct代表t時刻用戶所有可能出現(xiàn)的位置集合,即0,si∈S}.

    3.3 本地化差分隱私

    本地化差分隱私模型基于嚴格的數(shù)學(xué)背景,形式化定義如下所示.

    定義2ε-本地化差分隱私[21].給定n個用戶,每個用戶對應(yīng)一條記錄,對于隨機化算法A,其定義域為Dom(A),值域為Ran(A),若算法A在任意兩條記錄t和t'(t,t'∈Dom(A))上得到相同輸出結(jié)果(o(o?Ran(A)))的概率滿足Pr(A(t)=o)≤eεPr(A(t')=o),則稱算法A滿足ε-本地化差分隱私.

    本地化差分隱私技術(shù)通過控制任意兩條記錄輸出結(jié)果的相似性來確保算法的隱私性,即根據(jù)隨機化算法A的某個輸出結(jié)果無法推測出輸入數(shù)據(jù)為哪一條記錄,根據(jù)3.2節(jié)中位置隱私攻擊的描述,位置隱私發(fā)布的目標就是確保攻擊者不能根據(jù)已發(fā)布的擾動位置推測出某個時刻用戶的真實位置,也就是保證時序關(guān)聯(lián)域中任意兩個位置不能被攻擊者區(qū)分出來,基于此本文提出ε-不可區(qū)分性的定義,表示時序關(guān)聯(lián)域內(nèi)的差分隱私.

    定義3ε-不可區(qū)分性.對于時序關(guān)聯(lián)域中相鄰的兩個位置si和sj,在隨機化算法A的作用下,若對任意輸出o?Ran(A),存在Pr(A(si)=o)≤eεPr(A(sj)=o)成立,則稱隨機化算法A滿足不可區(qū)分性.

    定義3中參數(shù)ε非負,表示隱私保護的程度,該參數(shù)越小隱私保護的程度越高.由于定義2只是理論模型,而要實現(xiàn)具體的位置差分隱私則需要噪聲機制的介入,Laplace機制是實現(xiàn)差分隱私最常用的方法,該機制建立在l1-敏感度(l1-norm Sensitivity)的基礎(chǔ)上,相關(guān)定義如下:

    定義4l1-敏感度[4].對于查詢f(s):s→R2,l1-敏感度指f(x1)-f(x2)的最大l1范式值,如式(2),其中x1和x2是相鄰數(shù)據(jù)集中的兩個元素.

    定義5Laplace機制[4].對于查詢f(s):s→R2,查詢函數(shù)的敏感度為Δf,如果查詢算法A滿足式(3),則算法A具有ε-不可區(qū)分性,所添加的噪聲符合位置參數(shù)為0,尺度參數(shù)為Δf/ε的拉普拉斯分布.其中,敏感度Δf表示兩個相鄰位置查詢結(jié)果的最大l1范式值.

    位置隱私保護中另一種高效的擾動機制是Xiao等[24]提出的平面各向同性擾動機制(Planar Isotropic Mechanism,PIM),該機制基于計算幾何學(xué)[25]中凸包(Convex Hull)和各向同性位置(Isotropic Position)的定義構(gòu)造凸包敏感度,并基于K-機制[25]生成噪聲.

    定義6凸包[25](Convex Hull).對于給定集合X={x1,x1,…,xn},包含X中所有點的凸集稱作X的凸包,記作Conv(X),凸包可以用X中所有點的線性組合來構(gòu)造.

    定義7各向同性位置[25](Isotropic Position).若凸集K?Rd滿足式(4),則稱K位于各向同性位置上,式中LK表示每個單位向量的各向同性常數(shù).

    定義8凸包敏感度[24](Sensitivity Hull).對于位置s和查詢f(s):s→R2,凸包敏感度K是Δf的凸包,如式(5)所示,Δf表示時序關(guān)聯(lián)域中兩個位置點x1和x2的查詢差值.

    定義9K-機制[25](K-norm Mechanism).對于給定的查詢函數(shù)f(s):s→Rd以及凸包敏感度K,若任意擾動輸出z的概率分布滿足式(6),則稱其滿足K-機制,式中表示凸包敏感度,Γ()表示伽馬函數(shù),‖·‖K表示凸包敏感度的閔可夫斯基范數(shù).

    4 本地化差分隱私時序位置發(fā)布模型

    為了解決位置數(shù)據(jù)發(fā)布時存在的隱私泄露問題,本文設(shè)計了一種基于本地化差分隱私的時序位置發(fā)布模型,如圖2所示,模型主要思想為允許用戶在本地進行隱私策略的定制,根據(jù)定制的隱私策略對時序關(guān)聯(lián)的位置數(shù)據(jù)添加噪聲后發(fā)布,實現(xiàn)位置數(shù)據(jù)發(fā)布時的隱私保護.

    圖2 本地化差分隱私時序位置發(fā)布模型

    在用戶端,模型由兩個主要算法構(gòu)成,分別是基于定制隱私策略的位置擾動算法CPLP和基于隱馬爾可夫模型的時序關(guān)聯(lián)位置隱私發(fā)布算法TRLP.將經(jīng)過隱私保護處理后的時序位置進行發(fā)布,并上傳給LBS服務(wù)器,用于后續(xù)的位置大數(shù)據(jù)分析工作.

    4.1 定制隱私策略

    本文參考Blowfish Privacy[26]來設(shè)計位置隱私發(fā)布時的定制隱私策略.Blowfish Privacy是一種針對統(tǒng)計數(shù)據(jù)集的定制隱私保護方案,使用無向圖的節(jié)點表示需要保護的數(shù)據(jù)集,邊表示對兩個數(shù)據(jù)集提供不可區(qū)分性,用戶可以在本地通過定制無向圖來決定隱私保護程度,然而Blowfish Privacy并不能直接應(yīng)用在位置數(shù)據(jù)中,因此結(jié)合3.1中定義的位置網(wǎng)格坐標,將定制隱私引入位置數(shù)據(jù)的隱私保護發(fā)布中,提出隱私策略的定義,如定義9所示.

    定義10隱私策略.隱私策略表示為一個無向圖G=(S,ξ),其中S是無向圖的節(jié)點,代表網(wǎng)格坐標中需要保護的位置狀態(tài)點,ξ是無向圖的邊,代表為兩個節(jié)點提供ε-不可區(qū)分性.

    圖3展示了幾種不同的隱私策略,如圖3(a)表示一種寬松的隱私策略,圖中所有節(jié)點都沒有連線,表示可以直接發(fā)布用戶真實位置,不提供位置隱私保護(仍然需要提供匿名隱私保護),圖3(b)的隱私策略為區(qū)域內(nèi)部分位置點之間提供不可區(qū)分性,但不要求對圖中所有節(jié)點提供不可區(qū)分性.與圖3(b)相比,圖3(c)的隱私要求更為嚴格,需要保護所選區(qū)域內(nèi)所有位置點之間的隱私性,表現(xiàn)為一個全連接圖,這種隱私策略適用于對隱私需求很高的用戶.

    除了選擇圖3所示的隱私保護級別外,若用戶需要更嚴格的隱私策略,還可進一步通過定制隱私策略的粒度調(diào)整隱私保護級別,粒度代表所保護最小位置范圍.模型為用戶提供如圖4所示三種粒度的隱私策略,分別是PGk9,PGk16,PGk25,下標中的數(shù)字表示隱私策略的粒度,圖4中黑色邊框表示提供隱私保護的最小位置范圍,以PGk9為例,該隱私策略表示網(wǎng)格坐標中每9個網(wǎng)格單元(3×3)內(nèi)所有位置點彼此完全連接,即在該區(qū)域內(nèi)所有點之間都有連接路徑,是一個3×3的全連接圖,需要保證該區(qū)域內(nèi)所有位置點不可區(qū)分.

    圖3 定制隱私策略示意圖

    圖4 三種隱私策略粒度示意圖

    為了將定制隱私策略應(yīng)用到位置差分隱私中,本文結(jié)合定義1中的時序關(guān)聯(lián)域Ct,給出時序關(guān)聯(lián)域隱私策略的定義.定義11時序關(guān)聯(lián)域隱私策略.t時刻的時序關(guān)聯(lián)域隱私策略是隱私策略G在時序關(guān)聯(lián)域中Ct的子圖,只包含屬于時序關(guān)聯(lián)域Ct中的邊,即GC=(C,ξC),其中C?S且ξC?ξ.

    在傳統(tǒng)差分隱私定義中,相鄰數(shù)據(jù)集(neighboring databases)被定義為只相差一條記錄的兩個數(shù)據(jù)集,在定制隱私策略的背景下,引入相鄰節(jié)點的概念.

    定義12相鄰節(jié)點集合N(s).位置s的相鄰節(jié)點是指和s有公共邊連接的一系列節(jié)點集合,記作N(s),則有N(s)={s'|dG(s,s')=1,s'∈S},用dG(si,sj)表示隱私 策略上點si和sj之間的距離,該距離可通過兩點間最短路徑數(shù)計算.

    結(jié)合時序關(guān)聯(lián)域隱私策略,本文提出{ε,G}-位置差分隱私的定義,通過確保時序關(guān)聯(lián)域隱私策略中每一對相鄰節(jié)點的ε-不可區(qū)分性,使得攻擊者無法區(qū)分時序關(guān)聯(lián)域隱私策略中的相鄰位置點.

    定義13{ε,G}-位置差分隱私.給定一個隨機化算法A,對于時序關(guān)聯(lián)域隱私策略中所有相鄰節(jié)點s和s',若對于任意的輸出z?Ran(A),存在Pr(A(s)=z)≤eεPr(A(s')=z)成立,則認為s和s'滿足{ε,G}-位置差分隱私.

    引理1對于隨機化算法A,當且僅當時序關(guān)聯(lián)域隱私策略中任意兩個節(jié)點滿足ε-不可區(qū)分性時,算法A才滿足{ε,G}-位置差分隱私.

    4.2 定制隱私策略位置擾動算法

    在4.1節(jié)中,本文根據(jù)定制隱私策略對位置差分隱私模型進行了拓展,提出了{ε,G}-位置差分隱私,本節(jié)設(shè)計一種基于定制隱私策略的位置擾動算法CPLP,對單一時刻真實位置的查詢結(jié)果添加噪聲,生成擾動位置,在4.4.1節(jié)證明所提算法滿足{ε,G}-位置差分隱私.對位置數(shù)據(jù)的擾動可以看作以隱私保護的方式響應(yīng)查詢函數(shù),使得攻擊者無法根據(jù)擾動后的位置推測出用戶的真實位置,具體流程如算法1所示.

    算法1定制隱私策略位置擾動算法(CPLP)輸入:隱私預(yù)算ε,時序關(guān)聯(lián)隱私策略GC t,真實位置s輸出:擾動位置z 1. 根據(jù)定義12計算相鄰位置點集合NP(s):2. Δf G=[]3. FOR i IN range(len(Np(s)))4. FOR j IN range(i,len(Np(s)))5. Δf G.append(f(si)-f(sj))6. END FOR 7. END FOR 8. KI(GC t)=Conv(Δf G)9. 從K(GC t)中采樣得到(y1,y2,…,yl)10. 根據(jù)式(8)計算矩陣T 11. KI(G)=TK(G)12. 從KI(G)中采樣得到z″13. 從Γ(3,ε-1)中采樣得到r 14. z″=rT-1z″15. z'←f(s)+z″16. z←find_nearest_location(z')RETURN z

    首先是查詢函數(shù)敏感度的計算.傳統(tǒng)差分隱私中查詢函數(shù)的敏感度代表有無某條數(shù)據(jù)記錄對查詢結(jié)果的最大影響值,在本文定制隱私策略的背景下,查詢函數(shù)的敏感度代表查詢時序關(guān)聯(lián)隱私策略域中相鄰位置節(jié)點時查詢結(jié)果的最大變化值,在定制隱私策略背景下,查詢函數(shù)的的敏感度計算方法進行對應(yīng)算法1中步驟1~7,對于t時刻的位置狀態(tài)s,根據(jù)時序關(guān)聯(lián)域隱私策略,結(jié)合定義12計算當前時刻真實位置狀態(tài)在時序關(guān)聯(lián)域隱私策略中相鄰位置點的集合NP(s),用Δf G表示NP(s)中每兩個位置查詢差值結(jié)果的集合,計算公式如式(7)所示.

    其次將凸包敏感度應(yīng)用到定制隱私策略位置擾動的背景中.通過計算Δf G的凸包得到凸包可直觀理解為由集合X={x1,x1,…,xn}最外沿的所有點連接所組成的凸多邊形表示t時刻查詢函數(shù)的敏感度,記作隱私策略凸包敏感度,表現(xiàn)為一組二維坐標對.將平面各向同性擾動機制應(yīng)用到定制隱私策略位置擾動的過程對應(yīng)算法1中步驟8~11,對于所得的隱私策略凸包敏感度根據(jù)定義7將轉(zhuǎn)化為其各向同性位置從集合中均勻采樣得到y(tǒng)1,y2,…,yl,代入式(8)中計算矩陣可根據(jù)矩陣相乘得來,即在二維平面上一個凸包的各向同性位置可直觀理解為保持凸包原始方向不變,以凸包的各個頂點為坐標中心對凸包進行旋轉(zhuǎn)排列構(gòu)成的圖形.

    最后是擾動噪聲的生成過程.對應(yīng)算法1中步驟12~14,先從中均勻采樣得到z″,再從伽馬分布Γ(3,ε-1)中隨機產(chǎn)生變量r,此時得到噪聲z″=rz″,將得到的結(jié)果轉(zhuǎn)換回中得z″=T-1z″,這里的z″就是添加的噪聲大小,表現(xiàn)為一個二維向量.算法1中第15步表示對t時刻真實位置狀態(tài)的查詢結(jié)果添加噪聲,得z'=f(s)+z″.算 法1中 第16步 所 用 到 的 函 數(shù)find_nearest_location(z')表示在地圖坐標系中找到距離z'最近的真實位置z作為擾動輸出返回.記t時刻經(jīng)過算法1處理后所發(fā)布的擾動位置為zt,用Pr(zt|s*t=si)表示發(fā)布擾動位置zt的概率大小,根據(jù)定義8中的K-機制,使用式(9)計算.

    4.3 時序關(guān)聯(lián)位置隱私發(fā)布算法

    由于4.2節(jié)中所提的定制隱私策略位置擾動算法只能用于單一時刻的位置擾動,而在發(fā)布連續(xù)時刻的位置數(shù)據(jù)時,需要考慮時序關(guān)聯(lián)的影響,即發(fā)布歷史時刻的擾動位置對攻擊者預(yù)測下一時刻真實位置的影響,圖5展示了時序關(guān)聯(lián)位置隱私發(fā)布的過程.

    圖5 時序關(guān)聯(lián)位置隱私發(fā)布示意圖

    根據(jù)2.2節(jié)中描述的位置隱私攻擊模型,攻擊者掌握的背景知識包括用戶的歷史位置數(shù)據(jù)、用戶初始位置的概率分布p1,在此基礎(chǔ)上對攻擊者的背景知識做最大假設(shè),假設(shè)攻擊者的背景知識還包括定制隱私策略位置擾動算法CPLP,在這樣的情況下,攻擊者先驗知識(如時序關(guān)聯(lián)域)的計算可以看作隱馬爾可夫模型的推理問題(Inference Problem),即攻擊者試圖結(jié)合定制隱私策略位置擾動算法CPLP、當前時刻的馬爾可夫模型和當前時刻之前的所有擾動輸出推測出當前時刻的真實位置.為了抵御擁有強大背景知識的攻擊者對用戶位置的推測,本節(jié)設(shè)計了時序關(guān)聯(lián)位置隱私發(fā)布算法TRLP,具體流程如算法2所示.

    算法2時序關(guān)聯(lián)位置隱私發(fā)布算法(TRLP)輸入:隱私預(yù)算ε,時序關(guān)聯(lián)隱私策略G,狀態(tài)轉(zhuǎn)移矩陣M,前一時刻后驗概率p+t-1,當前時刻位置s*t輸出:每一時刻經(jīng)算法CPLP擾動后的位置1.p-t=p+t-1M 2.Ct←{si|p-t[i]>0}3.GC t←G∧Ct 4.zt←CPLP(ε,GC t,s*t)5.根據(jù)式(1)計算p+t 6.TRLP(ε,GC t,M,p+t,s*t)//遞歸調(diào)用本算法

    算法第1步計算當前時刻的先驗概率,每一時刻的先驗概率由前一時刻的后驗概率與馬爾可夫狀態(tài)轉(zhuǎn)移矩陣M相乘得來;第2步根據(jù)先驗概率計算t時刻的時序關(guān)聯(lián)域Ct,即攻擊者根據(jù)歷史發(fā)布的數(shù)據(jù)所推測出該時刻用戶的所有可能位置集合,第3步將此時的時序關(guān)聯(lián)域和用戶的定制隱私策略求交集得到時序關(guān)聯(lián)域隱私策略,第4步中將隱私預(yù)算、當前時刻的時序關(guān)聯(lián)域隱私策略和當前時刻真實位置狀態(tài)代入定制隱私策略位置擾動算法CPLP中,對此時的真實位置進行擾動得到zt,第5步中將擾動位置zt代入式(1)計算t時刻的后驗概率p+t,最后在第6步中將時序關(guān)聯(lián)域隱私策略、t時刻的后驗概率和t+1時刻的真實位置代入本算法,即遞歸調(diào)用,實現(xiàn)下一時刻擾動位置的發(fā)布.該算法的輸出為每一時刻經(jīng)算法CPLP擾動后的位置(算法2中第4步).

    4.4 算法分析

    本節(jié)分別從隱私安全性和時間復(fù)雜度兩方面對所提算法進行理論分析.

    4.4.1 算法隱私安全性分析

    首先證明單一時刻定制隱私策略位置擾動算法CPLP滿足{ε,G}-位置差分隱私,由于算法CPLP基于對攻擊者能力的最大假設(shè),因此證明算法CPLP滿足{ε,G}-位置差分隱私即可保證該時刻所發(fā)布位置的隱私性.

    定理1算法CPLP滿足{ε,G}-位置差分隱私.

    證明取?si,sj∈NP(s),對于同樣的擾動輸出z,其概率分布如下:

    比較兩個概率分布可得:

    根據(jù)三角不等式,有:

    因此可知對于時序關(guān)聯(lián)域隱私策略中任意兩個相鄰的位置點,算法CPLP滿足ε-不可區(qū)分性,根據(jù)引理1可知算法CPLP滿足{ε,G}-位置差分隱私.

    證畢.

    其次,分析連續(xù)時刻位置隱私發(fā)布算法TRLP的隱私安全性.根據(jù)差分隱私的序列組合性[4],記A1,…,AT為T個獨立的隨機化算法,分別表示每一時刻對真實位置的擾動處理,若分別A1,…,AT滿足{ε,G}-位置差分隱私,則其組合{A1,…,AT}滿足{Tε,G}-位置差分隱私,其中Tε表示所有時刻隱私預(yù)算的總和,即連續(xù)時刻的位置發(fā)布算法TRLP同樣滿足{ε,G}-位置差分隱私,因此根據(jù)連續(xù)時刻位置發(fā)布算法所得到的軌跡數(shù)據(jù)具有一定的隱私安全性.

    4.4.2 算法時間復(fù)雜度分析

    關(guān)于算法的時間復(fù)雜度,TRLP算法最耗時的地方在于計算每個時刻擾動輸出的位置點z,即CPLP算法的輸出,而在CPLP算法中,根據(jù)每個時刻的時序關(guān)聯(lián)域計算凸包敏感度耗時最大,記凸包的頂點個數(shù)為n,時序關(guān)聯(lián)域大小為h,則算法的時間復(fù)雜度表示為O(hlog(n)+n2log(h)).

    5 實驗與分析

    5.1 實驗數(shù)據(jù)與環(huán)境

    本文所使用的實驗平臺操作系統(tǒng)為Windows 10+64位,開發(fā)環(huán)境為Pycharm,編程語言為Python 3.8,CPU為Intel(R)Core(TM)i5-7300HQ,內(nèi)存為8 GB.實驗采用兩個數(shù)據(jù)集,分別是微軟亞洲研究院的Geo-Life數(shù)據(jù)集[27]和斯坦福大學(xué)復(fù)雜網(wǎng)絡(luò)分析平臺公開的真實數(shù)據(jù)集Gowalla數(shù)據(jù)集[28].GeoLife數(shù)據(jù)集記錄了從2007年4月到2012年8月182個用戶的軌跡數(shù)據(jù),包含一系列以時間為序的包含經(jīng)緯度、海拔等信息位置點信息,共計包含17621條軌跡.本文提取其中位于北京四環(huán)內(nèi)的軌跡數(shù)據(jù),將地圖分割成340×340 m2的網(wǎng)格單元,用于馬爾可夫狀態(tài)轉(zhuǎn)移矩陣M的訓(xùn)練.Gowalla數(shù)據(jù)集中包含196586名用戶20個月內(nèi)在6442890個位置上簽到的數(shù)據(jù),本文提取該數(shù)據(jù)集中所有位于洛杉磯的位置數(shù)據(jù),將地圖分割成370×370 m2的網(wǎng)格單元用于馬爾可夫狀態(tài)轉(zhuǎn)移矩陣M的訓(xùn)練.

    5.2 算法可用性度量指標

    為了評估本文所提位置隱私發(fā)布算法TRLP的可用性,在實驗中使用兩個度量指標.第一個度量指標是原始位置和擾動位置之間的歐幾里得距離Eeu,即原始位置和擾動位置之間的誤差,單位為m,該指標是位置隱私發(fā)布算法中通用一個的度量指標,Eeu值越小,即誤差越小,說明位置隱私發(fā)布算法的可用性越高.第二個度量指標是在位置數(shù)據(jù)集上運行k近鄰查詢的精度,分別在原始位置數(shù)據(jù)集和發(fā)布的擾動位置數(shù)據(jù)集上運行k近鄰查詢,假設(shè)在原始位置數(shù)據(jù)上運行近鄰查詢的結(jié)果為R,在擾動位置上運行k近鄰查詢結(jié)果為R',則k近鄰查詢的精度P計算方式如下:k近鄰查詢是位置數(shù)據(jù)發(fā)布后常用的一種數(shù)據(jù)分析方法,其目的是查找距離用戶最近的k個興趣點,對于不同的位置擾動算法,k近鄰查詢的精度越高,說明經(jīng)過位置隱私發(fā)布算法擾動后所得到的軌跡質(zhì)量越高.

    5.3 算法可用性實驗

    本節(jié)分別從兩個方面探究所提時序關(guān)聯(lián)位置隱私發(fā)布算法TRLP的可用性,一方面探究定制隱私策略的粒度和隱私預(yù)算對算法可用性的影響,另一方面探究發(fā)布時序位置數(shù)據(jù)時算法可用性的變化情況.

    首先探究定制隱私策略的粒度和隱私預(yù)算ε對算法TRLP可用性的影響.在Geolife數(shù)據(jù)集上選擇20個用戶150個時刻下的位置進行隱私發(fā)布,構(gòu)造不同粒度的隱私策略(PGk9,PGk16,PGk25),在這三種隱私策略上分別運行TRLP算法30次,以原始位置和擾動位置之間的歐幾里得距離Eeu作為算法可用性的度量標準,在ε分別取值0.3,0.5,0.7,1時返回Eeu的平均值,實驗結(jié)果如圖6所示.

    圖6 定制隱私策略粒度對算法可用性影響

    實驗結(jié)果分析如下:

    (1)隨著隱私預(yù)算的增加,算法TRLP的誤差逐漸減小,即可用性越高,說明算法TRLP的可用性隨著隱私預(yù)算的增加而增強.

    (2)在相同隱私預(yù)算的情況下,隱私策略的粒度越小,則算法TRLP的誤差越小,即算法TRLP的可用性越高,說明可以通過調(diào)整隱私策略的粒度來調(diào)整算法TRLP中隱私保護程度與可用性之間的平衡.

    (3)在不同隱私預(yù)算以及不同粒度的隱私策略下,算法TRLP的誤差范圍均在1 m內(nèi),說明算法TRLP具有較高的可用性.

    其次探究算法TRLP發(fā)布連續(xù)位置數(shù)據(jù)時可用性的變化情況.分別在Geolife和Gowalla兩個數(shù)據(jù)集上選擇20個用戶100個時刻的位置數(shù)據(jù),設(shè)置隱私預(yù)算ε=0.5,基于三種粒度的隱私策略運行時序關(guān)聯(lián)位置隱私發(fā)布算法TRLP,結(jié)果如圖7所示.

    圖7 時序關(guān)聯(lián)位置隱私發(fā)布

    實驗結(jié)果分析如下:

    (1)在Geolife和Gowalla兩個真實的位置數(shù)據(jù)集上運行時序關(guān)聯(lián)位置隱私發(fā)布算法TRLP時,隨著隱私策略粒度的減小,算法TRLP的誤差也隨之減小,即可用性逐漸增加.同樣說明算法TRLP可以通過調(diào)整隱私策略的粒度來調(diào)整隱私保護程度與可用性之間的平衡.

    (2)在Geolife和Gowalla兩個真實的位置數(shù)據(jù)集上運行時序關(guān)聯(lián)位置隱私發(fā)布算法TRLP時,在三種不同粒度的隱私策略下,連續(xù)時刻之間算法TRLP的誤差值變化幅度較小,且所有時刻誤差值均在1 m內(nèi),同樣說明算法TRLP可用性較高.

    (3)在三種不同粒度的隱私策略下,算法TRLP在Gowalla數(shù)據(jù)集上的誤差Eeu均小于Geolife數(shù)據(jù)集上的誤差Eeu,原因是與Geolife數(shù)據(jù)集相比,Gowalla數(shù)據(jù)集收集的用戶數(shù)據(jù)具有明顯的移動模式,所以訓(xùn)練的馬爾可夫狀態(tài)轉(zhuǎn)移矩陣M的準確性更高,因此算法TRLP在Gowalla數(shù)據(jù)集上運行的可用性更高.

    5.4 對比實驗

    本節(jié)以文獻[24]中的拉普拉斯方法作為基線算法,采用不同的度量指標對算法TRLP與基線算法的可用性進行比較.兩種算法主要的差別是計算敏感度的方式以及噪聲添加的方式不同,算法TRLP通過定制隱私策略的方法計算敏感度并添加滿足噪聲,基線算法僅通過計算l1-敏感度給位置數(shù)據(jù)添加噪聲.

    首先以原始位置和擾動后位置之間的歐幾里得距離Eeu作為度量指標,在Geolife數(shù)據(jù)集上選擇20個用戶150個時刻下的位置,基于隱私策略分別運行算法TRLP和基線算法,迭代次數(shù)為30次,ε分別取值0.3,0.5,0.7,1時,計算Eeu的平均值,實驗結(jié)果如圖8(a)所示.

    其次以k近鄰查詢的精度P作為度量指標,在Geolife數(shù)據(jù)集上選擇20個用戶150個時刻下的位置,設(shè)置隱私預(yù)算ε=0.5,基于隱私策略PGk9分別運行算法TRLP和基線算法,迭代次數(shù)為30次,在擾動前后的位置數(shù)據(jù)集上運行k近鄰查詢,根據(jù)5.2中的描述計算k近鄰查詢的精度P.在k∈[50,75,100,125,150]的情況下運行k近鄰查詢時算法TRLP和基線算法的精度如圖8(b)所示.

    最后比較算法TRLP與基線算法的時效性,同樣在Geolife數(shù)據(jù)集上選擇20個用戶150個時刻下的位置,基于隱私策略分別運行TRLP算法和基線算法,迭代次數(shù)為30次,返回不同隱私預(yù)算下兩種算法針對單個時刻運行所需時間的平均值,ε分別取值0.3,0.5,0.7,1時,實驗結(jié)果如圖8(c)所示.

    圖8 TRLP算法與基線算法對比

    實驗結(jié)果分析如下:

    (1)隨著隱私預(yù)算的增加,算法TRLP和基線算法的誤差均逐漸減小,說明算法TRLP和基線算法的可用性均隨著隱私預(yù)算的增加而增加,然而在同樣的隱私預(yù)算下,算法TRLP的誤差Eeu小于基線算法,即算法的可用更高,說明算法TRLP計算敏感度和添加噪聲的方式與基線算法相比冗余更少,即采用定制隱私策略進行敏感度的計算效果更好,因此算法TRLP可以在滿足位置差分隱私的同時保證更好的可用性.

    (2)基于不同的k值對兩種位置隱私發(fā)布算法擾動后的軌跡數(shù)據(jù)進行k近鄰查詢時,算法TRLP的精度P均高于基線算法,因此將經(jīng)過算法TRLP擾動后發(fā)布的軌跡數(shù)據(jù)用于k近鄰查詢時效果更好,說明經(jīng)過算法TRLP擾動后發(fā)布的軌跡數(shù)據(jù)質(zhì)量高于基線算法擾動后所發(fā)布的軌跡數(shù)據(jù)質(zhì)量.

    (3)在不同的隱私預(yù)算下,算法TRLP和基線算法針對單個時刻位置進行隱私發(fā)布所需要的時間都在2毫秒內(nèi),說明兩種算法都具有一定的實時性,但與基線算法相比,算法TRLP的運行時間較長,因為算法TRLP計算敏感度時需要根據(jù)每個時刻的時序關(guān)聯(lián)域計算凸包敏感度,這一步耗時較大.

    6 結(jié)束語

    本文提出了一種基于本地化差分隱私的時序位置發(fā)布模型,模型采用了靈活的位置隱私保護方案,即由用戶選擇系統(tǒng)已設(shè)定的多種隱私策略或定制隱私策略,在此基礎(chǔ)上設(shè)計了定制隱私策略位置擾動算法(CPLP),同時提出一種基于定制隱私策略的時序位置發(fā)布算法(TRLP),通過保證用戶發(fā)布位置的不可區(qū)分性從而保證用戶的位置隱私.在兩個真實的位置數(shù)據(jù)集上進行實驗,驗證了與基線相比,算法TRLP具有較好的可用性.今后的研究將考慮如下兩個方面:(1)與基線算法相比,算法TRLP的運行時間較長,因此后續(xù)工作中需要研究如何在保證算法TRLP可用性的前提下提高其運行速度,從而將算法TRLP擴展到實時位置服務(wù)中;(2)在設(shè)計定制隱私策略時沒有考慮用戶不同的移動模式(如交通方式),因此在后續(xù)工作中可以將用戶的移動模式引入定制隱私策略的設(shè)計,根據(jù)用戶不同移動模式為用戶提供更細粒度的隱私保護選擇.

    猜你喜歡
    時序敏感度差分
    時序坐標
    基于Sentinel-2時序NDVI的麥冬識別研究
    數(shù)列與差分
    全體外預(yù)應(yīng)力節(jié)段梁動力特性對于接縫的敏感度研究
    電視臺記者新聞敏感度培養(yǎng)策略
    新聞傳播(2018年10期)2018-08-16 02:10:16
    在京韓國留學(xué)生跨文化敏感度實證研究
    一種毫米波放大器時序直流電源的設(shè)計
    電子制作(2016年15期)2017-01-15 13:39:08
    基于差分隱私的大數(shù)據(jù)隱私保護
    Diodes高性能汽車霍爾效應(yīng)閉鎖提供多種敏感度選擇
    相對差分單項測距△DOR
    太空探索(2014年1期)2014-07-10 13:41:50
    身体一侧抽搐| 久久久精品欧美日韩精品| 午夜日本视频在线| 成人免费观看视频高清| 精品99又大又爽又粗少妇毛片| 能在线免费看毛片的网站| 国内精品美女久久久久久| 日韩在线高清观看一区二区三区| 久久精品国产亚洲网站| 搡老乐熟女国产| 国产精品成人在线| 人妻 亚洲 视频| 午夜爱爱视频在线播放| 夫妻午夜视频| 亚洲精品自拍成人| 人妻制服诱惑在线中文字幕| 亚洲av在线观看美女高潮| 免费观看的影片在线观看| 国产男人的电影天堂91| 国产精品国产三级专区第一集| 白带黄色成豆腐渣| 黄色欧美视频在线观看| 99热全是精品| av国产精品久久久久影院| 亚洲怡红院男人天堂| 在线天堂最新版资源| 一级毛片aaaaaa免费看小| 少妇熟女欧美另类| 国产免费视频播放在线视频| 一级片'在线观看视频| 免费看a级黄色片| 看十八女毛片水多多多| 日本一本二区三区精品| 亚洲欧美日韩另类电影网站 | 欧美+日韩+精品| 免费看av在线观看网站| 啦啦啦中文免费视频观看日本| 99热网站在线观看| 国产午夜福利久久久久久| 成年女人在线观看亚洲视频 | 欧美三级亚洲精品| 精品久久久久久久人妻蜜臀av| 国产一级毛片在线| 好男人视频免费观看在线| 亚洲欧洲日产国产| 国产精品偷伦视频观看了| 99久久九九国产精品国产免费| 欧美一级a爱片免费观看看| 三级国产精品片| 午夜福利视频精品| 一级毛片电影观看| 久久久久精品久久久久真实原创| 在线看a的网站| 亚洲欧美成人精品一区二区| av线在线观看网站| 国产成人aa在线观看| 少妇猛男粗大的猛烈进出视频 | 精品一区二区三区视频在线| 久久久久久国产a免费观看| 蜜臀久久99精品久久宅男| 国产一区二区三区综合在线观看 | 人妻少妇偷人精品九色| 亚洲av一区综合| 国产成人免费观看mmmm| 婷婷色麻豆天堂久久| 三级经典国产精品| 亚洲在线观看片| 韩国av在线不卡| 女人十人毛片免费观看3o分钟| 亚洲av男天堂| 亚洲精品,欧美精品| 一个人看的www免费观看视频| 亚洲av成人精品一区久久| 婷婷色av中文字幕| 大香蕉97超碰在线| 免费大片18禁| 国产精品人妻久久久影院| 街头女战士在线观看网站| 成人亚洲欧美一区二区av| 人人妻人人看人人澡| 亚洲国产精品国产精品| 久久久久国产精品人妻一区二区| 欧美激情在线99| 亚洲自偷自拍三级| 免费看a级黄色片| 午夜福利网站1000一区二区三区| 国产毛片在线视频| 男女无遮挡免费网站观看| 女的被弄到高潮叫床怎么办| 国产精品久久久久久精品电影小说 | 亚洲色图综合在线观看| 噜噜噜噜噜久久久久久91| 久久久成人免费电影| 久久久午夜欧美精品| 大陆偷拍与自拍| 国产午夜精品一二区理论片| 亚洲人成网站在线播| av女优亚洲男人天堂| 午夜老司机福利剧场| 久久久精品欧美日韩精品| 亚洲精品乱久久久久久| 久久精品人妻少妇| 伦理电影大哥的女人| 男人添女人高潮全过程视频| 国产精品久久久久久久久免| 色婷婷久久久亚洲欧美| 久久6这里有精品| 国产一区亚洲一区在线观看| 久久久久精品久久久久真实原创| 久久热精品热| 国产精品.久久久| 成人综合一区亚洲| 国产v大片淫在线免费观看| 精品一区二区三区视频在线| 最近手机中文字幕大全| 精品久久久久久久末码| 久久人人爽av亚洲精品天堂 | 亚洲av中文av极速乱| 美女脱内裤让男人舔精品视频| 亚洲国产精品999| 免费人成在线观看视频色| 99久久人妻综合| 又爽又黄无遮挡网站| 午夜爱爱视频在线播放| 日韩欧美精品免费久久| 亚洲av一区综合| 久久精品综合一区二区三区| 亚洲自偷自拍三级| 亚洲国产精品专区欧美| 精华霜和精华液先用哪个| 亚洲精品乱码久久久久久按摩| 一级毛片黄色毛片免费观看视频| 精品酒店卫生间| 亚洲无线观看免费| 80岁老熟妇乱子伦牲交| 国产高清三级在线| 高清毛片免费看| 成人亚洲精品av一区二区| 亚洲精品中文字幕在线视频 | 热re99久久精品国产66热6| 亚洲成人久久爱视频| 五月天丁香电影| 男插女下体视频免费在线播放| 美女内射精品一级片tv| 一区二区三区四区激情视频| 观看美女的网站| 国产精品女同一区二区软件| 看非洲黑人一级黄片| 亚洲欧美精品专区久久| 日日啪夜夜撸| 神马国产精品三级电影在线观看| 亚洲av欧美aⅴ国产| 大话2 男鬼变身卡| 高清视频免费观看一区二区| 国产91av在线免费观看| 如何舔出高潮| 久久久久网色| 综合色丁香网| 国产精品久久久久久精品电影| 亚洲av国产av综合av卡| 中文字幕av成人在线电影| 国产精品一区二区性色av| av.在线天堂| 九九在线视频观看精品| .国产精品久久| 免费av不卡在线播放| 一个人看的www免费观看视频| 精品酒店卫生间| 久久久久久久久久久免费av| 国产精品一区二区三区四区免费观看| 国产成人freesex在线| 91狼人影院| 99re6热这里在线精品视频| 亚洲精品一二三| kizo精华| 亚洲国产精品999| 日韩成人伦理影院| 国产成人午夜福利电影在线观看| 秋霞伦理黄片| 男人添女人高潮全过程视频| 99热这里只有是精品50| 成年av动漫网址| 欧美 日韩 精品 国产| 国产中年淑女户外野战色| 久久国内精品自在自线图片| 精品久久久久久久末码| av在线播放精品| 女人十人毛片免费观看3o分钟| 69人妻影院| 视频中文字幕在线观看| 黄色怎么调成土黄色| 久久影院123| 国产视频首页在线观看| 大片电影免费在线观看免费| 国产国拍精品亚洲av在线观看| av又黄又爽大尺度在线免费看| 99久久中文字幕三级久久日本| 我的女老师完整版在线观看| 欧美精品国产亚洲| 欧美性猛交╳xxx乱大交人| 欧美国产精品一级二级三级 | 建设人人有责人人尽责人人享有的 | 赤兔流量卡办理| 欧美高清成人免费视频www| 熟女av电影| 特级一级黄色大片| 特级一级黄色大片| 亚洲国产日韩一区二区| 久久久久久久久久成人| 免费大片黄手机在线观看| 国产白丝娇喘喷水9色精品| 老司机影院毛片| 日本免费在线观看一区| 中文天堂在线官网| 亚洲av中文av极速乱| 男女边摸边吃奶| 成人黄色视频免费在线看| 最新中文字幕久久久久| 丰满人妻一区二区三区视频av| 国产精品国产三级国产av玫瑰| 久久人人爽人人爽人人片va| 亚洲最大成人av| 免费观看性生交大片5| 亚洲aⅴ乱码一区二区在线播放| 97热精品久久久久久| 2021少妇久久久久久久久久久| 亚洲国产色片| 99热这里只有是精品在线观看| 国产精品伦人一区二区| 高清毛片免费看| 成人美女网站在线观看视频| 欧美变态另类bdsm刘玥| 久久久久久久久久成人| 成人亚洲精品一区在线观看 | 最后的刺客免费高清国语| 毛片女人毛片| 日韩 亚洲 欧美在线| 国产精品一二三区在线看| 婷婷色av中文字幕| 国产一级毛片在线| 中文字幕人妻熟人妻熟丝袜美| 亚洲av成人精品一区久久| 成人午夜精彩视频在线观看| 亚洲四区av| 国产人妻一区二区三区在| 麻豆精品久久久久久蜜桃| 国产v大片淫在线免费观看| 日日啪夜夜爽| 午夜精品一区二区三区免费看| 成人午夜精彩视频在线观看| 久久久久久久国产电影| tube8黄色片| 亚洲国产精品999| 国产高清不卡午夜福利| 久久热精品热| 精品国产乱码久久久久久小说| 日韩大片免费观看网站| 一级二级三级毛片免费看| 亚洲婷婷狠狠爱综合网| 好男人在线观看高清免费视频| 干丝袜人妻中文字幕| 中文在线观看免费www的网站| 亚洲人成网站在线观看播放| 99久久九九国产精品国产免费| 两个人的视频大全免费| 深夜a级毛片| 亚州av有码| 超碰av人人做人人爽久久| 精品久久久久久久末码| 狂野欧美白嫩少妇大欣赏| 亚洲精品中文字幕在线视频 | 日本一本二区三区精品| 人人妻人人看人人澡| 99re6热这里在线精品视频| 十八禁网站网址无遮挡 | 大片电影免费在线观看免费| 噜噜噜噜噜久久久久久91| 午夜福利视频精品| 久久人人爽人人片av| 国产成人精品一,二区| 伦精品一区二区三区| 精品熟女少妇av免费看| 日韩欧美精品v在线| 国产精品人妻久久久影院| 久久久久久久精品精品| 在线 av 中文字幕| 国产精品蜜桃在线观看| 国产免费又黄又爽又色| 亚洲欧美日韩东京热| 亚洲av欧美aⅴ国产| 少妇人妻 视频| 国产精品爽爽va在线观看网站| 性色avwww在线观看| 国产精品国产三级国产专区5o| 欧美高清性xxxxhd video| 国产成人精品一,二区| 中国美白少妇内射xxxbb| 老司机影院毛片| 汤姆久久久久久久影院中文字幕| 少妇人妻 视频| 男女边吃奶边做爰视频| 国精品久久久久久国模美| 中文乱码字字幕精品一区二区三区| 亚洲精品456在线播放app| 国产成人a区在线观看| 精品少妇黑人巨大在线播放| 纵有疾风起免费观看全集完整版| 国内揄拍国产精品人妻在线| 有码 亚洲区| 午夜福利视频精品| 亚洲欧美一区二区三区国产| 亚洲不卡免费看| 午夜视频国产福利| 老司机影院毛片| 亚洲真实伦在线观看| 日日撸夜夜添| 久久人人爽av亚洲精品天堂 | 男女国产视频网站| 一本久久精品| 国产视频内射| 国产大屁股一区二区在线视频| 国产伦理片在线播放av一区| 亚洲国产高清在线一区二区三| 中文欧美无线码| 亚洲国产欧美在线一区| 久久精品久久精品一区二区三区| 亚洲最大成人手机在线| 国产精品久久久久久精品古装| 97在线人人人人妻| 国产毛片在线视频| av在线蜜桃| 亚洲国产av新网站| 亚洲精品国产色婷婷电影| 久久6这里有精品| 亚洲精品第二区| 男女那种视频在线观看| 久久鲁丝午夜福利片| 91久久精品电影网| 日韩大片免费观看网站| 国产av国产精品国产| 亚洲精品第二区| 男女那种视频在线观看| 黄色一级大片看看| 欧美日韩视频精品一区| 亚洲欧洲日产国产| 欧美成人a在线观看| 久热久热在线精品观看| 日韩国内少妇激情av| 久久精品人妻少妇| 亚洲国产欧美在线一区| 日韩欧美精品免费久久| 晚上一个人看的免费电影| 亚洲性久久影院| 日韩av在线免费看完整版不卡| 国产片特级美女逼逼视频| 欧美高清性xxxxhd video| 搞女人的毛片| freevideosex欧美| 一级片'在线观看视频| 亚洲国产最新在线播放| 中文字幕制服av| 亚洲欧美成人精品一区二区| 成人毛片a级毛片在线播放| 中国三级夫妇交换| 18禁在线无遮挡免费观看视频| 亚洲精品456在线播放app| 在线播放无遮挡| 日韩一本色道免费dvd| 久久久国产一区二区| 毛片女人毛片| 老女人水多毛片| 国产高清不卡午夜福利| 亚洲欧美成人综合另类久久久| 精品少妇久久久久久888优播| 热re99久久精品国产66热6| 国产成人午夜福利电影在线观看| 久久久久久九九精品二区国产| 国产男人的电影天堂91| 好男人在线观看高清免费视频| 国产亚洲av片在线观看秒播厂| 免费av不卡在线播放| 欧美日韩精品成人综合77777| 亚洲av一区综合| 色视频www国产| 久久久欧美国产精品| 中文字幕av成人在线电影| 亚洲欧洲日产国产| 国产成人aa在线观看| 国产欧美日韩精品一区二区| 边亲边吃奶的免费视频| 国产av不卡久久| 国产人妻一区二区三区在| 欧美潮喷喷水| 欧美精品人与动牲交sv欧美| 有码 亚洲区| 最近2019中文字幕mv第一页| 成人午夜精彩视频在线观看| 日韩一本色道免费dvd| 精品一区在线观看国产| 一级黄片播放器| 亚洲国产精品999| 欧美日韩在线观看h| 嫩草影院新地址| 中文字幕亚洲精品专区| 白带黄色成豆腐渣| www.色视频.com| 高清欧美精品videossex| 国产精品麻豆人妻色哟哟久久| 午夜福利在线观看免费完整高清在| 五月玫瑰六月丁香| 国产精品久久久久久精品电影小说 | 一级片'在线观看视频| av女优亚洲男人天堂| 精品视频人人做人人爽| 人妻夜夜爽99麻豆av| 中文精品一卡2卡3卡4更新| 2021少妇久久久久久久久久久| 乱码一卡2卡4卡精品| 国产高清不卡午夜福利| 亚洲国产精品专区欧美| 能在线免费看毛片的网站| 久久精品国产a三级三级三级| 人体艺术视频欧美日本| 亚洲自偷自拍三级| 中文乱码字字幕精品一区二区三区| 一级毛片aaaaaa免费看小| 国产黄色免费在线视频| 深爱激情五月婷婷| 亚洲av在线观看美女高潮| 免费观看av网站的网址| 亚洲内射少妇av| 亚洲精品第二区| 高清视频免费观看一区二区| 亚洲精品成人久久久久久| 久久韩国三级中文字幕| 中文在线观看免费www的网站| 身体一侧抽搐| 国产视频首页在线观看| 啦啦啦啦在线视频资源| 成人亚洲精品一区在线观看 | 久久久精品免费免费高清| 婷婷色麻豆天堂久久| 色视频在线一区二区三区| 晚上一个人看的免费电影| h日本视频在线播放| 美女国产视频在线观看| 2021少妇久久久久久久久久久| 国产色婷婷99| 22中文网久久字幕| 啦啦啦中文免费视频观看日本| 91午夜精品亚洲一区二区三区| 97在线视频观看| 青春草视频在线免费观看| 高清日韩中文字幕在线| 成人鲁丝片一二三区免费| 午夜福利在线观看免费完整高清在| 黑人高潮一二区| 最近2019中文字幕mv第一页| 伦精品一区二区三区| 久久精品国产自在天天线| 最近手机中文字幕大全| 日韩欧美一区视频在线观看 | 欧美激情在线99| 国产色爽女视频免费观看| 天天躁夜夜躁狠狠久久av| 久久久久久久精品精品| 亚洲天堂国产精品一区在线| 欧美精品人与动牲交sv欧美| 久久99热这里只频精品6学生| 中文在线观看免费www的网站| 亚洲国产欧美在线一区| 狂野欧美激情性bbbbbb| 伊人久久精品亚洲午夜| 免费电影在线观看免费观看| 亚洲精品日本国产第一区| av在线亚洲专区| 免费av毛片视频| 午夜爱爱视频在线播放| 99re6热这里在线精品视频| 精品久久久久久电影网| 国产人妻一区二区三区在| 少妇的逼水好多| 久久精品国产自在天天线| 春色校园在线视频观看| 91精品一卡2卡3卡4卡| 视频区图区小说| 国产老妇伦熟女老妇高清| av在线亚洲专区| 国产成人免费观看mmmm| 国产美女午夜福利| 久久久久国产网址| 亚洲av福利一区| 婷婷色av中文字幕| 九九在线视频观看精品| 欧美另类一区| 午夜精品国产一区二区电影 | 午夜福利网站1000一区二区三区| 校园人妻丝袜中文字幕| 国产色婷婷99| 26uuu在线亚洲综合色| 国产淫片久久久久久久久| 国产淫语在线视频| 欧美xxⅹ黑人| 国产精品女同一区二区软件| 老女人水多毛片| 国产精品福利在线免费观看| 97在线视频观看| 亚洲成人久久爱视频| 黄色配什么色好看| 日韩欧美精品v在线| 亚洲精品久久午夜乱码| 99热这里只有是精品50| 久久久久久九九精品二区国产| 亚洲色图综合在线观看| 男女那种视频在线观看| 蜜臀久久99精品久久宅男| 久久午夜福利片| 亚洲人成网站在线观看播放| 亚洲欧美成人综合另类久久久| 男人爽女人下面视频在线观看| 欧美激情国产日韩精品一区| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 在线免费观看不下载黄p国产| 国产精品.久久久| 久久久久久久午夜电影| 亚洲图色成人| 亚洲av中文av极速乱| 最后的刺客免费高清国语| 尾随美女入室| 国产精品国产三级国产av玫瑰| 美女高潮的动态| 插逼视频在线观看| 国产精品精品国产色婷婷| 尤物成人国产欧美一区二区三区| 亚洲真实伦在线观看| 大香蕉97超碰在线| 国产欧美亚洲国产| 精品一区在线观看国产| 涩涩av久久男人的天堂| 日韩欧美精品v在线| 亚洲国产色片| 国产男女超爽视频在线观看| 青青草视频在线视频观看| 大又大粗又爽又黄少妇毛片口| 日韩不卡一区二区三区视频在线| 免费在线观看成人毛片| 夜夜看夜夜爽夜夜摸| 欧美激情在线99| 人人妻人人看人人澡| 国产精品一及| 晚上一个人看的免费电影| 亚洲激情五月婷婷啪啪| 高清欧美精品videossex| 九草在线视频观看| 搡老乐熟女国产| 联通29元200g的流量卡| 亚洲综合色惰| 国产精品伦人一区二区| 日韩av不卡免费在线播放| 久久午夜福利片| 99re6热这里在线精品视频| 舔av片在线| 男女无遮挡免费网站观看| 日日撸夜夜添| 中文字幕免费在线视频6| 亚洲真实伦在线观看| 男人爽女人下面视频在线观看| 久久久久久久久久人人人人人人| 少妇裸体淫交视频免费看高清| 国产伦精品一区二区三区四那| av免费在线看不卡| 18禁动态无遮挡网站| 亚洲精品乱码久久久久久按摩| 亚洲四区av| 99视频精品全部免费 在线| 国精品久久久久久国模美| 在线播放无遮挡| 国产成人福利小说| 久久久a久久爽久久v久久| 日韩精品有码人妻一区| 又爽又黄无遮挡网站| 久久久午夜欧美精品| 下体分泌物呈黄色| 午夜福利在线观看免费完整高清在| 毛片一级片免费看久久久久| 天天一区二区日本电影三级| 我要看日韩黄色一级片| 可以在线观看毛片的网站| 黑人高潮一二区| 国产日韩欧美亚洲二区| 少妇人妻 视频| 如何舔出高潮| 亚洲成人精品中文字幕电影| 少妇人妻精品综合一区二区| 纵有疾风起免费观看全集完整版| 18禁裸乳无遮挡免费网站照片| 五月开心婷婷网| 最近中文字幕高清免费大全6| 国产成人午夜福利电影在线观看| 国产一区亚洲一区在线观看| 高清在线视频一区二区三区| eeuss影院久久| 啦啦啦啦在线视频资源| 亚洲精品乱码久久久久久按摩| 国产精品熟女久久久久浪| 欧美日韩综合久久久久久| 精品少妇久久久久久888优播| 人妻一区二区av| 在线观看美女被高潮喷水网站| 一个人看的www免费观看视频| 少妇人妻久久综合中文| 午夜老司机福利剧场| 日韩国内少妇激情av| 69人妻影院| 国产精品一区二区三区四区免费观看|