• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于屬性隱私的統(tǒng)計查詢定價模型

    2024-10-14 00:00:00方嘉豪郭兵
    計算機應用研究 2024年10期

    摘 要:現有統(tǒng)計查詢定價模型沒有考慮查詢結果揭露數據集敏感屬性的問題,難以通過相應地補償數據提供方激勵共享,對此提出一種基于屬性隱私的定價模型。首先,基于提出的寬松近似Wasserstein機制(RAWM)計算查詢敏感度,直接計算輸出分布對距離的寬松上界以提高效率;然后,以約束屬性隱私損失為前提,根據查詢敏感度、噪聲方差、補償參數對數據提供方進行補償;最后,在補償之上運用成本加成法設計了多個無套利定價函數,可以針對單補償成本和多邊際成本等場景定價。實驗結果表明,查詢敏感度的計算時間從線性復雜度降低到了常數復雜度,在一億數據量下僅有0.52%的效用代價;定價模型能夠提供細粒度補償以激勵共享;設計的定價函數滿足無套利性。

    關鍵詞:數據定價;數據共享;屬性隱私;河豚魚隱私;無套利

    中圖分類號:TP301 文獻標志碼:A 文章編號:1001-3695(2024)10-014-2978-09

    doi:10.19734/j.issn.1001-3695.2024.02.0044

    Pricing statistical query based on attribute privacy

    Fang Jiahao, Guo Bing

    (College of Computer Science, Sichuan University, Chengdu 610065, China)

    Abstract:Current statistical query pricing models have not considered the problem that query results reveal sensitive attri-butes of datasets, making it difficult to incentivize sharing by compensating data providers accordingly. Therefore, this paper proposed a pricing model based on attribute privacy. Firstly, the model calculated query sensitivity based on the relaxed approximation Wasserstein mechanism (RAWM) proposed, improving efficiency by directly calculate the relaxed upper bound of output distribution pairs. Then, with bounding privacy loss, the model compensated data providers based on query sensitivity, noise variance and compensation parameters. Finally, by using cost-plus pricing on compensation, this paper designed several arbitrage-free pricing functions, which could be used in scenarios such as single compensation costs and multiple marginal costs. The experiment results show that the running time of calculating query sensitivity is reduced from linear complexity to constant complexity, with a utility cost of only 0.52% when data volume is 100 million. The pricing model provides fine-grained compensation to incentivize sharing. Pricing functions satisfy arbitrage freeness.

    Key words:data pricing; data sharing; attribute privacy; pufferfish privacy; arbitrage freeness

    0 引言

    數據共享是數字經濟的關鍵環(huán)節(jié)。如何讓社會各方積累的數據流通起來,打破數據孤島并盤活數據,是當今急需研究和解決的問題[1]。目前,國內外已經出現了如貴陽大數據交易所[2]、DAWEX[3]等數據交易中心和平臺。查詢交易市場可以避免直接交易原始數據[4]。統(tǒng)計查詢服務是最基本的數據服務形式,如直方圖查詢、數據立方查詢等[5~7]。

    數據定價是解決數據共享難題的重要基礎。數據質量是定價的重要參考因素。陳思瑩等人[8]綜合考慮了準確性、完整性、時效性、一致性四個數據質量維度,設計了定價函數。文獻[9]認為現有研究忽略了數據信息價值評估,用香農熵和非噪聲比設計了信息質量指標指導定價。這些基于數據質量的方法,都沒有考慮到數據共享對數據敏感屬性的揭露問題。

    基于模型貢獻衡量的定價也是重要的定價思路。劉珂[10]在預測任務中基于Shapley值將特定預測結果與平均預測結果之差作為定價依據。Wang等人[11]設計了考慮訓練數據貢獻順序的聯(lián)邦Shapley值以對訓練數據估值。Xu等人[12]將模型參數分布的信息熵減小量作為數據貢獻衡量和定價參考?;谀P拓暙I衡量的定價適用于明確的數據應用場景,能夠保證合作多方公平利益分配,不適合本文中應用場景不明確的統(tǒng)計查詢。

    此外,也有基于博弈論和拍賣理論設計定價機制的方法。盧玉等人[13]設計了考慮底價的數據密封拍賣機制對數據進行定價。涂輝招等人[14]設計了帶有平臺利潤約束的Stackelberg博弈機制以提升數據市場多方效用。Wang等人[15]將眾包數據蘊涵的個性化位置隱私作為激勵雙邊拍賣定價的參考。Li等人[16]在基于Stackelberg博弈的數據定價機制中平衡了隱私和公平。然而這些方法對于存在敏感屬性顧慮的場景難以指導賣家出價,導致多方博弈定價結果無法對賣家實現效用最大化。

    數據安全和隱私是數據共享中的重要問題,巫朝霞等人[17] 強調了醫(yī)療數據共享的安全性和隱私性?;陔[私補償的定價是數據定價的重要思路之一。Li等人[18]提出了由統(tǒng)計查詢和噪聲量共同確定價格的個人數據查詢市場,但是要求個人數據之間相互獨立,針對數據間存在關聯(lián)的情況,Niu等人[6]通過在補償函數中引入一個表征數據關聯(lián)度的量實現了更準確的補償和定價。Shen等人[19]基于差分隱私框架設計了個人數據銀行的查詢服務定價方法。Cai等人[20]通過量化屬性相關性實現更精準的高維個人數據定價。然而,這些方法只考慮了對個人隱私損失的補償,只適用于個人數據,沒有考慮針對更廣泛的屬性隱私損失對數據提供方進行補償和激勵。

    近年來,越來越多的研究提到一種新的隱私問題,即使是在數據集上提供非原始數據的數據服務,如統(tǒng)計查詢和機器學習服務,也會揭露數據集的全局屬性,這些全局屬性蘊涵著商業(yè)秘密、安全秘密、知識產權等敏感信息[21]。例如,互聯(lián)網視頻公司共享觀看數據統(tǒng)計查詢,會揭露其流量水平和盈利狀況[22];鐵路局提供某地區(qū)物理車輛的開行記錄統(tǒng)計查詢,會揭露車輛投用和維護狀態(tài)比例,導致戰(zhàn)時后勤運輸能力等敏感信息被推斷;語音識別軟件公司提供語音識別服務,攻擊者可以通過觀察特殊樣本輸出,反向推斷訓練集的特殊口音樣本比例,進而挖掘該公司模型領先市場的秘訣[23]。形式化描述敏感屬性保護問題的隱私理論框架被相應提出。針對差分隱私(DP)[24]只能衡量個人隱私保護問題的不足,Kifer等人[25]對DP進行推廣,提出了可以描述更多隱私保護場景的河豚魚隱私定義。Zhang等人[26]針對敏感屬性保護問題,基于河豚魚隱私提出了屬性隱私定義,將數據集統(tǒng)計特性和背后的分布參數作為需要保護的對象。然而,上述隱私定義只描述了敏感屬性保護問題,沒有解決揭露敏感屬性的數據定價問題。

    隱私定義只能從理論上描述隱私保護問題,而隨機化機制是保護隱私的具體方法。Song等人[27]以滿足河豚魚隱私要求為目標提出了通用但計算難的Wasserstein機制(WM)。Zhang等人[26]提出了滿足屬性隱私要求的馬爾可夫毯機制(MQM)。Chen等人[28]以河豚魚隱私為基礎針對敏感屬性保護問題定義提出了近似Wasserstein機制(AWM)和期望機制(EVM)。然而這些隨機化機制無法同時保證高效用和高效率,高效的EVM和MQM存在缺乏合理性或低效用的問題,而高效用的WM和AWM存在低效率或無法精確計算的問題,因此基于這些隨機化機制設計定價方法都存在缺陷。

    針對上面提到的問題,本文提出一種基于屬性隱私的統(tǒng)計查詢定價模型。首先,提出滿足屬性隱私要求的隨機化機制RAWM,并基于RAWM計算查詢敏感度,在計算分布距離時直接高效計算寬松上界;然后,綜合查詢敏感度、噪聲方差、補償參數設計了補償函數;最后,給出了設計無套利定價函數的方法,在補償之上使用成本加成法針對多個場景設計了無套利定價函數。

    本文的主要工作如下:

    a)首次考慮了包含敏感屬性揭露問題的數據統(tǒng)計查詢定價問題,提出了相應的補償方法和定價方法。

    b)首次提出了隨機化機制RAWM,并基于RAWM計算RAWD敏感度作為查詢敏感度,以極小效用代價提高了效率。

    c)在真實數據集上對本文定價模型進行了實驗。實驗結果表明:在一億數據量下,本文的查詢敏感度算法僅以0.52%的效用代價將計算時間從線性復雜度降低到了常數復雜度;模型能夠提供細粒度補償以激勵共享;套利攻擊均未成功,驗證了定價函數的無套利性。

    1 相關技術基礎

    1.1 屬性隱私

    屬性隱私[26]是用于保護數據集敏感屬性的嚴格隱私定義。屬性隱私是河豚魚隱私的一個實例,而河豚魚隱私是差分隱私的一個推廣[25]。河豚魚隱私由三個部分組成:一個數據提供方想要保護的潛在秘密集合S,一個數據提供方希望他人無法判別的秘密對集合SP=S×S,以及一類代表了攻擊方對數據D生成方式的可能信念的分布集合Θ。通過對河豚魚隱私定義的三個部分進行實例化,就可以得到屬性隱私定義。

    定義1 (,δ)-屬性隱私[26]。讓(Dj1,…,Djm), j∈[n]表示一條從一組隨機變量X=(Xj1,…,Xjm)中獨立同分布采樣得到的m維記錄,其中n是數據集記錄數,Xi描述了Di服從的邊緣分布。從每個隨機變量Xi選取出一個分布參數i,i進一步被看做是隨機變量Φi的一個實現,其中Φi的取值范圍表示為Ψi。全體Φi構成m維隨機變量Φ=(Φ1,…,Φm),屬性間的關聯(lián)由Φ服從的聯(lián)合分布描述,其中Φ∈AC,AC表示可能的m維隨機變量的集合。SC[m]表示數據集D敏感屬性列的下標集合。給定下面的三元組(S,SP,Θ):

    a)秘密集合:S={sia:=1[Φ i=a]:a∈ΨiS,ΨiSΨi,i∈SC} 。

    b)秘密對集合:SP={(sia,sib)∈S×S,i∈SC}。

    c) 數據分布集合:

    Θ是D所有可能數據分布θ的集合。對于每一個可能的m維隨機變量Φ∈AC,Θ中都有一個對應的數據分布θΦ∈Θ代表著D總體服從的分布。

    一個隨機化機制Euclid Math OneMAp被稱為是滿足(,δ)-屬性隱私的,當其對于任意(sa,sb)∈SP,任意θ∈Θ,都滿足

    P(Euclid Math OneMAp(D)=O|sa,θ)≤exp()·P(Euclid Math OneMAp(D)=O|sb,θ)+δ

    其中:是隱私預算;δ是近似概率。

    為了方便表示秘密集合S和秘密對集合SP專屬于敏感屬性下標i∈SC的子集,本文接下來用Si表示S專屬于i的子集:Si={sia:=1[Φ i=a]:a∈ΨiS,ΨiSΨi},用SPi表示SP專屬于i的子集:SPi={(sia,sib)∈Si×Si}。

    1.2 近似Wasserstein機制

    WM是第一個可以滿足河豚魚隱私定義的通用隨機化機制,需要計算查詢輸出分布對fa、 fb的∞-Wasserstein距離,計算過程可以看作尋找使得概率最大轉移代價最小的聯(lián)合分布[27]。但是當fa、 fb的支撐集范圍很大,卻只由極少概率質量決定最大轉移代價,WM計算的∞-Wasserstein距離便會偏大,導致添加過多的拉普拉斯噪聲,查詢效用過差。對此,相較于WM,近似Wasserstein機制(AWM)[28]在計算∞-Wasserstein距離時忽略聯(lián)合分布支撐集上至多δ概率質量,以規(guī)避極小部分概率質量的影響,只需要添加適量的噪聲即可實現河豚魚隱私保證。AWM計算出來的距離被稱為δ-近似Wasserstein距離,嚴格定義如下:

    定義2 δ-近似Wasserstein距離[28]。讓fa、 fb表示一對定義在Euclid ExtraaBp上的概率分布,Γ(fa, fb)表示所有以fa、 fb為邊緣分布的聯(lián)合分布集合。對于一個聯(lián)合分布γ∈Γ(fa, fb),讓Rsupp(γ)表示一個概率值不低于1-δ的支撐集子集,則fa、 fb之間的δ-近似Wasserstein距離被定義為

    Wδ(fa, fb)=infγ∈Γ(fa,fb),Rsupp(γ)max(t,s)∈R|t-s|

    如圖1所示,對于圖中兩個分布,∞-Wasserstein距離為97,而忽略掉概率轉移中代價為97的0.001質量后,剩下部分的最壞轉移代價僅為1,也就是說δ-近似Wasserstein距離為1,意味著WM添加的噪聲是AWM所添加噪聲的97倍。AWM雖然無法計算δ-近似Wasserstein距離的精確解析解,但提供了一種忽略聯(lián)合分布支撐集子集上少量概率的近似計算思路。

    AWM遍歷河豚魚隱私框架中所有秘密對(sa,sb)∈SP和數據分布θ∈Θ的組合,計算每一個組合條件下數據分布對的δ-近似Wasserstein距離,找出最大值,并結合隱私預算對查詢結果添加一個拉普拉斯噪聲,滿足河豚魚隱私要求。用Lap(λ)表示一個位置參數為0,尺度參數為λ的拉普拉斯分布。用fa、 fb分別表示F(X)|sa,θ和F(X)|sb,θ服從的分布。

    定理1 近似Wasserstein機制:

    Euclid Math OneMAp(D)=F(D)+Lapsup(sa,sb)∈SP,θ∈ΘWδ(fa, fb))(1)

    滿足(,δ)-河豚魚隱私[28]。

    1.3 無套利性

    在定價理論中,定價函數的無套利性是一個重要的性質,尤其是對于數據定價[5]。因為與許多傳統(tǒng)商品不同的是,以統(tǒng)計查詢?yōu)榇淼臄祿站哂懈迂S富的多樣性,更容易發(fā)生套利現象,被買家惡意利用。套利現象描述的是這樣一種行為:一個狡猾的買家想要購買查詢A,同時他也注意到他也可以通過購買B和C并組合查詢結果得到A的結果。如果B和C的價格之和低于A的價格,那么該買家一定會選擇購買B和C,而不會購買A。一個合理的定價函數應該是無套利的,以避免發(fā)生套利行為。用符號Q=(F,v)表示一個統(tǒng)計查詢服務,其中v為拉普拉斯噪聲方差。潛在的套利關系可以由查詢確定性關系的符號Euclid ExtraaAp表示,例如在上面的例子中,假設服務的噪聲方差都為0.1,通過組合查詢B和C的結果,可以在不購買A的前提下推斷出查詢A的結果,則該關系可以表示為{(B,0.1),(C,0.1)}Euclid ExtraaAp(A,0.1)。

    定義3 查詢確定性[6,18]。查詢確定性是定義在一個查詢服務多重集合Q={Q1,…,Qt}={(F1,v1),…,(Ft,vt)}和一個統(tǒng)計查詢服務Q=(F,v)之間的一種關系。Q確定Q,用符號表示為QEuclid ExtraaApQ,并且該關系需要滿足以下性質:

    a)加性,{(F1,v1),…,(Ft,vt)}Euclid ExtraaAp(∑tk=1Fk,∑tk=1vk);

    b)標量乘性,c∈Euclid ExtraaBp,(F,v)Euclid ExtraaAp(cF,c2v);

    c)松弛性,v≥v′,(F,v′)Euclid ExtraaAp(F,v);

    d)傳遞性,若Q1Euclid ExtraaApQ1,…,QtEuclid ExtraaApQt且{Q1,…,Qt}Euclid ExtraaApQ,

    則∪tk=1QkEuclid ExtraaApQ。

    查詢確定性還有一種更加凝練的表述方式:{(F1,v1),…,

    (Ft,vt)}Euclid ExtraaAp(F,v),當且僅當存在c1,…,ct使得

    c1F1+…+ctFt=F和c21v1+…+c2tvt≤v成立?;诓樵兇_定性的表述,可以對無套利性進行嚴格定義,用符號π(Q)表示查詢服務Q的價格。

    定義4 無套利性[6,18]。一個定價函數π(·)被稱作是無套利的,或者說滿足無套利性的,如果對t≥1,只要有{Q1,…,Qt}Euclid ExtraaApQ,那么就有π(Q)≤∑tk=1π(Qk)。

    2 定價模型

    本文定價模型所面向的市場模型為中心化數據市場模型,或者說為中心化數據共享模型。如圖2所示,市場中有數據提供方、數據管理方和數據需求方三類角色。數據提供方為擁有屬性敏感數據集的組織,如企業(yè)和政府等。數據管理方為一個可信的第三方管理者或組織內部的數據部門,例如不同政府部門的數據交由大數據中心進行匯聚和托管,企業(yè)內部每個部門將數據交由負責開發(fā)數據中臺的數據部門進行統(tǒng)一管理。數據需求方可以是對統(tǒng)計查詢有需求的外部個人或組織,或者是公司內部各部門、集團內部各方。

    如圖3所示,在該中心化數據市場模型基礎上,數據提供方使用本文定價模型,定價模型包含查詢敏感度算法、補償方法和定價方法三個部分。在查詢敏感度算法中,數據管理方基于本文RAWM,高效地計算RAWD敏感度作為查詢敏感度。在補償方法中,數據管理方以約束屬性隱私損失為依據,根據查詢敏感度等因素,對數據提供方進行補償;在定價方法中,數據管理方基于補償進行成本加成,針對多種場景使用不同的無套利定價函數對統(tǒng)計查詢定價。

    2.1 模型假設

    對于一個特定的數據提供方,其數據集表示為D=[D1,…,Dm],Di表示數據集在完成特征預處理后的第i列。原始數據集中的每一列可以通過特征編碼或特征離散化分解為多列。預處理后的數據集有m列,SC[m]表示敏感屬性列的下標集合。數據集有n行,每行記錄(Dj1,…,Djm), j∈[n]都是獨立同分布的。數據管理方在獲取到數據集D后對數據分布進行學習,使用屬性隱私框架進行建模,并根據數據提供方的要求在D上對外提供統(tǒng)計查詢服務,記查詢函數為F。為了控制查詢結果對敏感屬性的揭露程度,數據管理方在查詢結果中加入方差為v的隨機噪聲。因此,查詢服務Q可以表示為二元組Q=(F,v),添加噪聲所用的隨機化機制表示為Euclid Math OneMAp。由于屬性隱私定義中包含一個近似概率參數δ,數據市場的各方還約定δ為一個確定的微小值(如δ=0.001)。數據管理方最終返回給數據需求方的查詢結果為Euclid Math OneMAp(D)而不是F(D)。相應地,數據管理方對數據需求方收取一定的費用,查詢服務的價格表示為π(Q)=π(F,v)。此外,因為查詢服務揭露了數據提供方希望保護的敏感屬性,數據管理方還需要給予數據提供方ρ(Q)=ρ(F,v)的補償。

    數據管理方在使用屬性隱私框架進行建模時,需要作一定的假設,因為在沒有假設的前提下就使用隱私定義會導致幾乎零效用的查詢服務[25]。所作的假設代表了攻擊者對數據生成方式的信念。既然對數據分布作非常全面的假設非常不實用,數據管理方合理地約束攻擊者對數據分布的不確定性,每個數據列上的不確定性體現為無法確定該列分布參數的取值。對于數值列,不確定性體現在分布均值參數上(如正態(tài)分布的μ參數);對于布爾值列,不確定性體現在伯努利分布的p參數上。在對數據集作了如上的假設后,數據管理方進行建模。此外,數據管理方和數據需求方掌握的數據集知識不對等,因為數據集D對數據管理方是可見的,所以查詢結果對數據管理方表現為F(D)。然而,數據集由于不可見性而對數據需求方表現為X,查詢結果也相應地對數據需求方表現為F(X)。

    數據管理方向數據需求方提供了多種統(tǒng)計查詢,如直方圖查詢、數據立方查詢和均值查詢。所有的統(tǒng)計查詢最終都可以歸為求平均和求和兩類。例如,比例查詢可以看作對服從伯努利分布的數據作了平均查詢,計數查詢可以看作對服從伯努利分布的數據作了求和查詢,直方圖查詢可以看作一組計數查詢查詢結果組成的向量。類似地,各種復合的統(tǒng)計查詢最終都可以分解成最基本的求平均或求和查詢。因此,本文接下來只討論求平均和求和兩種基本的統(tǒng)計查詢。兩種查詢的表達式不同,但是都可以使用中心極限定理求出查詢輸出的近似正態(tài)分布,使Xi,i∈[m]表示進行統(tǒng)計查詢的數據列隨機變量,用μ和σ2表示Xi的期望和方差,即E(Xi)=μ和Var(Xi)=σ2。那么,求平均查詢可以表示為F(X)=1n∑nj=1Xji~N(μ,σ2n),而求和查詢可以表示為F(X)=∑nj=1Xji~N(nμ,nσ2)。

    2.2 查詢敏感度算法

    查詢敏感度是一個反映統(tǒng)計查詢和數據敏感屬性關聯(lián)程度的量,查詢敏感度越大,代表該查詢對敏感屬性的揭露程度越高。嚴格的查詢敏感度定義應該以滿足屬性隱私要求的隨機化機制為依據:對于越敏感的查詢,該隨機化對其添加的噪聲越大,說明可以從噪聲大小中誘導出一個用于反映敏感程度的量,進而定義查詢敏感度。例如,WM計算的最大∞-Wasserstein距離,AWM計算的最大δ-近似Wasserstein距離,這些量與噪聲尺度參數呈正比,可以用于定義查詢敏感度。然而計算∞-Wasserstein距離或δ-近似Wasserstein距離的時間復雜度是O(n),多數情況下數據量n較大。這意味著雖然可以基于WM或AWM定義查詢敏感度,但是會導致敏感度計算成本過高。

    對此,本節(jié)結合統(tǒng)計查詢輸出分布的近似正態(tài)特征,提出能夠滿足(,δ)-屬性隱私的寬松近似Wasserstein機制(RAWM),并基于RAWM提出RAWD敏感度算法,將RAWD敏感度作為查詢敏感度,為后續(xù)補償與定價奠定基礎。RAWM需要計算查詢輸出分布對的δ-寬松近似Wasserstein距離(δ-RAWD),下面結合統(tǒng)計查詢輸出分布對的近似正態(tài)特點,正式定義δ-RAWD。

    定義5 δ-寬松近似Wasserstein距離(δ-RAWD)。對于統(tǒng)計查詢F,給定(sia,sib)∈SP和θ∈Θ,用fa~N(μa,σ2a)和fb~N(μb,σ2b)分別表示F(X)|sia,θ和F(X)|sib,θ近似服從的正態(tài)分布。給定近似概率δ,用ppf表示標準正態(tài)分布的百分點函數(percent point function, 累積分布函數的逆函數),記d=ppf(1-δ/4),則fa與fb之間的δ-寬松近似Wasserstein距離定義為

    Wδ(fa,fb)=|μa-μb|+dσa+dσb(2)

    如圖4所示,給定兩個正態(tài)分布fa、 fb,計算δ-RAWD相當于先忽略掉每個正態(tài)分布左右支撐集上的各δ/4概率質量,也即忽略掉每個正態(tài)分布的δ/2概率質量,fa剩下的支撐集子集為R′a=[μa-dσa,μa+dσa],fb剩下的支撐集子集為R′b=[μb-dσb,μb+dσb],由正態(tài)分布性質可得P(faR′a)=δ/2和P(fbR′b)=δ/2。根據布爾不等式,任意以fa、 fb為邊緣分布的聯(lián)合分布γ都滿足P(γR′a×R′b)≤δ,這相當于忽略了fa、 fb之間至多δ的概率質量映射。δ-RAWD直接選定一個次優(yōu)聯(lián)合分布γ′,但是不計算γ′所代表概率質量轉移過程的距離,而是計算R′a、R′b邊界的最大距離|μa-μb|+dσa+dσb,作為最大轉移距離的一個寬松上界,避免了時間復雜度為O(n)的∞-Wasserstein距離計算。δ-RAWD以此解決了數據量大時∞-Wasserstein距離或δ-近似Wasserstein距離計算成本高的問題。

    對于每個敏感屬性下標i∈SC,RAWM遍歷所有秘密對(sia,sib)∈SP和數據分布θ∈Θ的組合,計算每一個組合條件下數據分布對fa、 fb的δ-RAWD,找出最大值,并結合隱私預算對查詢結果添加一個拉普拉斯噪聲。

    定理2 寬松近似Wasserstein機制(RAWM):

    Euclid Math OneMAp(D)=F(D)+Lapmaxi∈SCsup(sia,sib)∈SPi,θ∈ΘWδ(fa,fb)(3)

    滿足(,δ)-屬性隱私。

    證明 考慮任意敏感屬性下標i∈SA,任意秘密對(sia,sib)∈SP和數據分布θ∈Θ,用fa~N(μa,σ2a)和fb~N(μb,σ2b)分別表示F(X)|sia,θ和F(X)|sib,θ近似服從的正態(tài)分布,記W=maxi∈SAsup(sia,sib)∈SPi,θ∈ΘWδ(fa, fb)。

    記d=ppf(1-δ/4)。RAWM對fa選取支撐集子集R′a=[μa-dσa,μa+dσa],對fb選取支撐集子集R′b=[μb-dσb,μb+dσb],根據正態(tài)分布的性質可以得到P(faR′a)=δ/2和P(fbR′b)=δ/2。記R′=R′a×R′b,結合定義5中Wδ(fa,fb)的表達式有

    sup(t,s)∈R′|t-s|≤

    |μa-μb|+dσa+dσb=Wδ(fa,fb)≤

    maxi∈SAsup(siyZbPEuWrnqWX4h7RY/1b0Q==a,sib)∈SPi,θ∈ΘWδ(fa,fb)=W(4)

    任意選取一個聯(lián)合分布γ′∈Γ(fa,fb),根據布爾不等式有P(γR′a×R′b)≤δ,即

    (t,s)R′γ′(t,s)dtds≤δ(5)

    接著,對于任意滿足P(Euclid Math OneMAp(X)∈O)≥δ的ORange(Euclid Math OneMAp),有

    P(Euclid Math OneMAp(X)∈O|sia,θ)=P(F(X)+Z∈O|sia,θ)=

    ∫t P(F(X)=t|sia,θ)P(Z+t∈O)dt=

    ∫t ∫s γ′(t,s)P(Z+t∈O)dsdt=

    (t,s)∈Rγ′(t,s)P(Z+t∈O)dsdt+(t,s)Rγ′(t,s)P(Z+t∈O)dsdt(6)

    由差分隱私的拉普拉斯機制可得,當所添加噪聲Z=Lap(W/ε),對于任意滿足|t-s|≤W的(t,s)∈R′有

    P(Z+t∈O)≤exp()P(Z+s∈O)(7)

    然后,對于式(6)中的兩項進行約束,對于第一項,結合式(4)和(7),有

    (t,s)∈Rγ′(t,s)P(Z+t∈O)dsdt≤

    exp()(t,s)∈Rγ′(t,s)P(Z+s∈O)dtds(8)

    對于第二項,結合式(5),有

    (t,s)Rγ(t,s)P(Z+t∈O)dsdt≤

    (t,s)Rγ(t,s)dsdt≤δ(9)

    最后,將式(8)(9)代入到式(6),有

    P(Euclid Math OneMAp(X)∈O|sia,θ)≤

    exp()(t,s)∈Rγ′(t,s)P(Z+s∈O)dtds+δ=

    exp()∫s P(F(X)=s|sib,θ)P(Z+s∈O)ds+δ=

    exp()P(F(X)+Z∈O|sib,θ)+δ=

    exp()P(Euclid Math OneMAp(X)∈O|sib,θ)+δ(10)

    證畢。

    定理2證明了RAWM是滿足屬性隱私要求的,因此可以基于RAWM定義RAWD敏感度,本文定價模型將其作為查詢敏感度。下面對RAWD敏感度進行正式定義。

    定義6 RAWD敏感度。對于敏感屬性下標i∈SC和查詢函數F,給定θ∈Θ和(sia,sib)∈SPi,用fa和fb分別表示F(X)|sia,θ和F(X)|sib,θ近似服從的正態(tài)分布。給定近似概率δ,則查詢F在下標為i的敏感屬性上的RAWD敏感度為

    Wδi(F)=sup(sia,sib)∈SPi,θ∈ΘWδ(fa,fb)(11)

    RAWD敏感度相當于在全部專屬于敏感屬性下標i∈SC的組合條件下,其中的最大δ-RAWD,表示查詢F在該敏感屬性上的敏感程度。算法1給出了計算RAWD敏感度的具體步驟:對于目標屬性下標為k的統(tǒng)計查詢F,算法遍歷所有屬于i的秘密對(sia,sib)∈SPi和數據分布θ∈Θ,在每一個迭代中,首先計算目標列Xk的條件期望和條件方差,然后根據F的類型和表達式(已在2.1節(jié)中分析)確定F(Xk)的條件期望和條件方差,得到近似正態(tài)的查詢輸出分布對fa、 fb,最后計算fa、 fb之間的δ-RAWD,如果是已計算的最大值就保存下來。遍歷結束后,返回找到的最大δ-RAWD。

    算法1 RAWD敏感度

    輸入:數據量n;敏感屬性下標i∈SC;目標屬性下標為k的統(tǒng)計查詢F;屬性隱私框架(S,SP,Θ);近似概率δ。

    輸出:RAWD敏感度Wδi(F)。

    1 maxDist←0.0;

    2 for all (sia,sib)∈SPi,θ∈Θ: // 遍歷所有條件組合

    3 // 計算目標列的條件期望和條件方差

    4 μka←E(Xk|Φi=a);σ2ka←Var(Xk|Φi=a);

    5 μkb←E(Xk|Φi=b);σ2kb←Var(Xk|Φi=b);

    6 // 根據查詢類型和查詢表達式得到輸出分布對

    7 if F屬于求平均類查詢:

    8 μa←μka;σ2a←σ2ka/n;σ2a←σ2ka/n;σ2b←σ2kb/n

    9 else if F屬于求平均類查詢:

    10 μa←nμka;σ2a←nσ2ka;μb←nμkb;σ2b←nσ2kb;

    11 fa←N(μa,σ2a);fb←N(μb,σ2b);

    12 // 計算最大的δ-RAWD并保存

    13 dist←Wδ(fa,fb);

    14 if dist>maxDist:

    15 maxDist←dist;

    16 return maxDist

    接下來分析算法1的時間復雜度。記(sia,sib)∈SPi和θ∈Θ的組合數量為,由于算法13行計算δ-RAWD的時間復雜度為O(1),所以算法1的時間復雜度為O(),與數據量無關。如果基于WM或AWM,將算法13行處替換為計算∞-Wasserstein距離或計算δ-近似Wasserstein距離,那么整個算法的時間復雜度就會變?yōu)榕c數據量相關的O(n)。因此,相較于基于WM或AWM的敏感度算法,本文的RAWD敏感度算法更高效。

    2.3 補償方法

    數據提供方因為敏感屬性被揭露而期望得到補償,揭露的程度由2.2節(jié)計算的查詢敏感度和噪聲方差共同決定。查詢敏感度越高,說明統(tǒng)計查詢與敏感屬性的關聯(lián)越強。噪聲方差越大,說明查詢結果被擾動的程度越高,敏感屬性被保護得更好。由此可以得出,當敏感度越高,或者當噪聲方差越小,加噪統(tǒng)計查詢結果對敏感屬性的揭露程度越高。因此,對數據提供方的補償應該與查詢敏感度呈正相關,而和噪聲方差呈負相關,以實現更好的激勵效果。

    接下來從屬性隱私框架的角度,給出一個使用查詢敏感度和噪聲方差計算的屬性隱私損失上界,作為后續(xù)設計補償函數的理論依據。

    定義7 δ-屬性隱私損失。對于每個i∈SC,隨機化機制Euclid Math OneMAp在敏感屬性i上造成的δ-屬性隱私損失定義為

    εδi(Euclid Math OneMAp)=sup(sia,sib)∈SPi,θ∈Θ,ORange(Euclid Math OneMAp)logP(Euclid Math OneMAp(X)∈O|sia,θ)-δP(Euclid Math OneMAp(X)∈O|sib,θ)(12)

    其中:輸出集合O滿足P(Euclid Math OneMAp(X)∈O|sia,θ)≥δ。

    定理3 給定統(tǒng)計查詢F,噪聲方差v,敏感屬性下標i∈SC。對于隨機化機制Euclid Math OneMAp(X)=F(X)+Lap(v/2),定義7中Euclid Math OneMAp在i上造成的δ-屬性隱私損失被上界Wδi(F)/v/2約束:

    δi(Euclid Math OneMAp)≤Wδi(F)v/2(13)

    證明 從屬性隱私框架(S,SP,Θ)中,從秘密集合S和秘密對集合S中選取屬于i的子集,生成屬性隱私框架(Si,SPi,Θ)。給定一個隱私預算,由定理2和定義6可得,按如下方式對查詢結果F(X)添加噪聲:

    F(X)+LapWδi(F)(14)

    可以滿足(,δ)-屬性隱私,即對于任意秘密對(sa,sb)∈SP,任意數據分布θ∈Θ,都滿足

    P(Euclid Math OneMAp(D)=O|sa,θ)≤exp(),P(Euclid Math OneMAp(D)=O|sb,θ)+δ(15)

    當不給定,而是給定方差v時,由拉普拉斯分布性質可得

    =Wδi(F)v/2(16)

    將式(10)代入式(9),不等式變換后可得

    P(Euclid Math OneMAp(D)=O|sa,θ)-δP(Euclid Math OneMAp(D)=O|sb,θ)≤expWδi(F)v/2(17)

    式(10)對于任意(sia,sib)∈SPi和θ∈Θ都滿足,因此與結論等價。

    證畢。

    定理3給出了屬性隱私損失上界Wδi(F)/v/2,該量與查詢敏感度正相關,與噪聲方差負相關,符合本節(jié)開頭的分析,是一個能夠表征統(tǒng)計查詢服務對敏感屬性揭露程度的量,后面將基于該量設計補償函數。除了查詢敏感度和噪聲方差兩個因素以外,不同的敏感屬性的重要程度也不同,有的敏感屬性對數據提供方而言非常重要,而有的不太重要。對此,補償函數還需要引入可以由數據提供方根據需要自由設置的補償參數,以在不同重要程度的敏感屬性上取得不同的補償。

    數據提供方為數據集中的每個敏感屬性i∈SC設置兩個補償參數αi、βi。當一個統(tǒng)計查詢服務Q=(F,v)請求到來時,數據提供方因Q而在敏感屬性i上應得的補償ρi(Q)為

    ρi(Q)=αitanh(βiWδi(F)v/2)(18)

    數據管理方對于每個敏感屬性i∈SC,都按式(18)計算應得補償,然后對每個敏感屬性上的應得補償求和,得到總補償值ρ(Q),在該服務完成交易后,數據管理方就要按照該約定補償值,對數據提供方進行補償??傃a償值ρ(Q)公式為

    ρ(Q)=∑i∈SCρi(Q)(19)

    補償ρi(Q)的表達式中使用了一個tanh函數,是為了對補償值進行約束,確保補償函數的有界性。如果不進行約束,那么當方差v為零時,會計算出無窮大的補償值,即使限制v不為零,當v接近零時,也會計算出非常大的補償值,這些結果是不合理的。另外,ρi(Q)的表達式使用了兩個補償參數αi和βi,這兩個補償參數都反映了敏感屬性的重要程度,但具體作用不同:αi越大,數據提供方在敏感屬性i上應得的補償上限越大;βi越大,應得補償隨揭露程度提高而接近上限值αi的速率就越大。圖5展示了在不同補償參數組合下,補償函數ρi(Q)的圖像,其中橫軸為表征揭露程度的量Wδi(F)/v/2。

    2.4 定價方法

    2.3節(jié)描述了如何對數據提供方進行補償,以激勵數據提供方共享數據。每經歷一次統(tǒng)計查詢服務,就要對數據提供方進行一次補償,因此該補償是統(tǒng)計查詢服務的邊際成本之一。本文定價模型需要確保數據管理方在邊際成本之外可以獲得一定的收益,以對數據管理方同樣形成一定激勵。定價除了保證收益外,還必須滿足1.3節(jié)中介紹的無套利性。

    接下來,本節(jié)對統(tǒng)計查詢服務的無套利性質進行更細致的分析,證明幾個用于構造無套利定價函數的命題,然后針對多個可能的場景,應用這些命題設計出不同的無套利定價函數。

    考察一個在數據集X上計算的復雜統(tǒng)計函數F,根據2.1節(jié)中的假設,F可以被分解成最基本的求平均查詢和求和查詢。于是在X上的所有最基本最小的查詢可以看作是一個向量組(F′1,…,F′T),T>0,F可以表示為F=w1F′1+…+wTF′T形式的線性組合,其中wk∈Euclid ExtraaBp。換句話說,這個基本向量組在Euclid ExtraaBp上張成了一個向量空間V=span(F′1,…,F′T),F可以看作是V中的一個向量。例如,在醫(yī)院病例數據集上查詢A疾病或B疾病的比例,相當于查詢A疾病比例加上B疾病比例,這里的“A疾病比例”和“B疾病比例”就是最基本最小的查詢,是基本向量組里的2個向量。在數學中有一類名為半范數的函數,它們的性質與無套利定價函數所需要滿足的性質相近。一個定義在V上的半范數是滿足下列條件的實值函數g:V→Euclid ExtraaBp。

    a)次可加性:g(F1+F2)≤g(F1)+g(F2),F1,F2∈V;

    b)正齊次性:g(cF)=|c|g(F),F∈V和c∈Euclid ExtraaBp;

    c)非負性:g(F)≥0,F∈V。

    定理4 定義6中的RAWD敏感度Wδi(F)是一個定義在統(tǒng)計查詢向量空間V上的半范數。

    證明 要證明Wδi(F)是一個半范數,需要分別證明非負性,正齊次性,次可加性。

    對于非負性,明顯可以由定義6中Wδi(F)的表達式得到。

    對于正齊次性作以下表示:對任意(sia,sib)∈SP和θ∈Θ,用N(μa,σ2a)、N(μb,σ2b)、N(cμa,c2σ2a)、N(cμb,c2σ2b)分別表示F(X)|sia,θ、F(X)|sib,θ、cF(X)|sia,θ、cF(X)|sib,θ近似服從的正態(tài)分布。那么正齊次性可由期望和方差的性質推出:

    Wδi(cF)=sup(sia,sib)∈SPi,θ∈Θ{|cμa-cμb|+d|c|σa+d|c|σb}=

    |c|×sup(sia,sib)∈SP,θ∈Θ{|μa-μb|+dσa+dσb}=

    |c|×Wδi(F)(20)

    對于次可加性作以下表示:對任意(sia,sib)∈SP和θ∈Θ,用N(μ1a,σ21a)、N(μ1b,σ21b)、N(μ2a,σ22a)、N(μ2b,σ22b)、N(μ1a+μ2a,σ21a+σ22a)、N(μ1b+μ2b,σ21b+σ22b)分別表示F1(X)|sia,θ、F1(X)|sib,θ、F2(X)|sia,θ、F2(X)|sib,θ、F1(X)+F2(X)|sia,θ、F1(X)+F2(X)|sib,θ近似服從的正態(tài)分布,可進行如下推導:

    Wδi(F1+F2)=

    sup(sia,sib)∈SP,θ∈Θ{|(μ1a+μ2a)-(μ1b+μ2b)|+dσ21a+σ22a+

    dσ21b+σ22b}=sup(sia,sib)∈SP,θ∈Θ{|μ1a-μ1b+μ2a-μ2b|+dσ21a+σ22a+

    dσ21b+σ22b}≤

    sup(sia,sib)∈SP,θ∈Θ{|μ1a-μ1b|+|μ2a-μ2b|+dσ1a+dσ2a+

    dσ1b+dσ2b}≤sup(sia,sib)∈SP,θ∈Θ{|μ1a-μ1b|+dσ1a+dσ1b}+

    sup(sia,sib)∈SP,θ∈Θ{|μ2a-μ2b|+dσ2a+dσ2b}=

    Wδi(F1)+Wδi(F2)(21)

    其中:第一個等式由統(tǒng)計查詢函數的可加性得到;第二個等式由期望和方差的性質得到;第一個不等式由絕對值和平方根的次可加性得到,第二個不等式由上確界(sup)的性質得到。

    證畢。

    定理5 如果g是一個半范數,那么定價函數g2(F)/v滿足無套利性。

    證明 根據定義3描述的查詢確定性,下面的查詢確定性關系成立:{(F1,v1),…,(Ft,vt)}Euclid ExtraaAp(F,v),當且僅當存在c1,…,ct使得c1F1+…+ctFt=F和c21v1+…+c2tvt≤v。對于一個查詢確定性關系{(F1,v1),…,(Ft,vt)}Euclid ExtraaAp(F,v),可推出

    ∑tk=1π(Fk,vk)=∑kg2(Fk)vk=(∑kg2(Fk)vk)(∑kc2kvk)∑kc2kvk≥

    (∑k|ck|g(Fk))2∑kc2kvk=(∑kg(ckFk))2∑kc2kvk≥

    g2(F)v=π(F,v)(22)

    其中:第一個不等式由柯西不等式得到,第二個不等式由半范數性質得到。

    證畢。

    定理4證明了本文RAWD敏感度是一個半范數,可以用于設計無套利定價函數。定理5給出了無套利定價函數的一個最簡單的形式g2(F)/v。接下來,定理6將展示如何利用滿足非遞減性和次可加性的函數合成更多無套利定價函數。然后,通過應用定理6,推論1將給出一些真實滿足非遞減性和次可加性的函數。對于任意x,y∈Euclid ExtraaBpt,函數h:(Euclid ExtraaBp+)t→Euclid ExtraaBp+滿足非遞減性,如果x≤y蘊涵h(huán)(x)≤h(y);h滿足次可加性,如果h(x+y)≤h(x)+h(y)。

    定理6 給定一系列無套利定價函數π1,…πs,s≥1。讓h:(Euclid ExtraaBp+)t→Euclid ExtraaBp+表示一個滿足非遞減性和次可加性的函數,那么使用h合成的定價函數π(Q)=h(π1(Q),…,πs(Q))也是無套利的。

    證明 考慮查詢確定性關系{Q1,…,Qt}→Q,其中t≥1,可以推出

    π(Q)=h(π1(Q),…,πs(Q))≤h(∑tk=1π1(Qk),…,∑tk=1πs(Qk))≤

    ∑tk=1h(π1(Qk),…,πs(Qk))=∑tk=1π(Qk)(23)

    其中:第一個不等式由π1,…,πs的無套利性和h的非遞減性得到,第二個不等式由h的次可加性得到。

    證畢。

    推論1 給定一系列無套利定價函數π1,…,πt,t≥1。那么下面列出的定價函數也是無套利的。

    a)線性組合:c1π1(Q)+…+ctπt(Q),c1,…,ct≥0;

    b)冪函數:πc1(Q),0<c≤1;

    c)有界函數:tanh(π1(Q)),sigmoid(π1(Q)),arctan(π1(Q)),π1(Q)π21(Q)+1。

    證明 可以驗證上面列出的函數都滿足非遞減性和次可加性。根據定理6,可以推出上述結論。證畢。

    本文定價模型采用成本加成定價法,因為補償是邊際成本之一,所以定價函數需要依賴2.3節(jié)中的補償函數ρ(Q)。定理7證明了補償函數ρ(Q)滿足無套利性,可以用于設計更多無套利定價函數。

    定理7 補償函數:

    ρ(Q)=∑i∈SCαitanhβiWδi(F)v/2(24)

    滿足無套利性。

    證明 根據定理4和5,可得到(Wδi(F))2/v滿足無套利性。然后,根據推論1,可以按順序依次證明下列定價函數滿足無套利性:

    Wδi(F)v/2 (使用線性組合和冪函數)

    tanhβiWδi(F)v/2 (使用線性組合和tanh函數)

    ∑i∈SCαitanhβiWδi(F)v/2 (使用線性組合)(25)

    下面針對幾個不同的現實場景,應用本節(jié)給出的幾個命題設計無套利定價函數。首先考慮一個最基本的場景,統(tǒng)計查詢結果是一維的,并且補償是唯一的邊際成本因素,那么可以在補償ρ(Q)之上乘以一個不小于1的系數來確保收益。用η表示一個非負的收益率,那么該場景下的定價函數為

    π(Q)=(1+η)ρ(Q)=

    (1+η)∑i∈SCαitanhβiWδi(F)v/2(26)

    由推論1和定理7,該定價函數相當于在無套利的補償函數上復合了線性組合函數,所以也滿足無套利性。

    接著考慮查詢結果多維的場景,例如數據需求方請求的是一個完整的直方圖查詢,直方圖內包括了多個取值的計數,該直方圖查詢可以表示為一個查詢包F={F1,…,Ft},該次統(tǒng)計查詢服務可以看作t個基本統(tǒng)計查詢服務的集合Q={(F1,v),…,(Ft,v)},那么此時的邊際成本就是t個基本服務的補償之和,該場景下的定價函數為

    π(Q)=(1+η)∑tk=1ρ(Fk,v)=

    (1+η)∑tk=1∑i∈SCαitanhβiWδi(Fk)v/2(27)

    由推論1和定理7,該定價函數也相當于在無套利的補償函數上復合了線性組合函數,所以也滿足無套利性。

    然后,考慮補償是唯一邊際成本,但有其他統(tǒng)計查詢價值因素(如精確度、一致性等)的場景,用∑sk=1wkfactork(Q)表示加權綜合了其他價值因素的無套利定價函數,用c∈(0,1]表示冪函數參數(冪函數用于價格折扣),該場景下定價函數為

    π(Q)=(1+η)ρ(Q)+(∑sk=1wkfactork(Q))c(28)

    由推論1和定理7,該定價函數相當于在無套利定價函數上進一步復合冪函數和線性組合函數,所以也滿足無套利性。

    最后,考慮有多個邊際成本因素的場景,將其他滿足無套利性的邊際成本函數表示為cost1(Q),…,costs(Q),該場景下定價函數為

    π(Q)=(1+η)(ρ(Q)+∑sk=1costk(Q))(29)

    由推論1和定理7,該定價函數相當于在無套利定價函數上多次復合了線性組合函數,所以也滿足無套利性?,F實中更常見的一種情況是,數據管理方根據生產中每一次查詢的平均消耗,設置一個固定邊際成本,該情況是上述多邊際成本場景的特殊場景,即只有一個取值固定的cost1(Q)。固定取值成本函數是無套利的,因此定價函數也是無套利的。

    3 實驗結果與分析

    a)實驗環(huán)境。定價模型的實現代碼使用Python 3.8.13編寫,其中計算敏感度的部分使用Java 8編寫。所有的實驗都運行在一臺擁有2.8 GHz Intel CoreTM i7-7700HQ處理器和16 GB內存的物理機上。

    b)數據集和分布建模。實驗采用真實的UCI公開數據集Adult[29]。該數據集包含了來自不同國家的48 842條人口普查數據,擁有年齡、婚姻狀態(tài)和是否高收入等數據列。實驗假設二值型和種類型數據列上的屬性是服從伯努利分布的,而數值型數據列上的屬性服從連續(xù)分布(如正態(tài)分布)。接著,實驗使用一個多元正態(tài)分布對這些分布的均值參數關聯(lián)進行建模。為了學習該多元正態(tài)分布,將數據集按照不同的國家劃分成多個子集,求出每個子集的均值參數,然后將每個子集作為一個樣本對多元正態(tài)分布進行估計。在該前提下,算法1復雜度中的取值為1。

    c)查詢服務和屬性設置。數據市場各方約定近似概率為δ=0.001。數據提供方設置了兩個敏感屬性:一是收入超過50 k的人口比例,二是在民營企業(yè)工作的人口比例。數據管理方提供數據提供方允許的各類統(tǒng)計查詢。表1列出了不同數據列上提供的基本統(tǒng)計查詢類型,在其之上有更多衍生的統(tǒng)計查詢,不在表格中一一列出。

    3.1 效率與效用平衡

    本節(jié)評估在2.2節(jié)中基于RAWM計算的RAWD敏感度,從效率和效用兩個角度評估。效率即計算時間,而效用是隨機化機制向查詢中添加噪聲后的查詢準確程度,在隨機化機制滿足隱私框架要求的前提下,隨機化機制的效用越高,說明添加噪聲的大小對查詢敏感程度衡量得越緊,效果更好,也意味著基于該隨機化機制計算的查詢敏感度效果更好。評估效用采用的指標是1-F(X)-Euclid Math OneMAp(X)F(X)+Euclid Math OneMAp(X)[6],其中,F(X)表示真實查詢結果,Euclid Math OneMAp(X)表示經隨機化機制擾動后的查詢結果。

    實驗對比的方法有AWM[28]、WM[27]、EVM[28]、MQM[26]。其中主要對比的方法是AWM,相較于AWM,RAWM(RAWD敏感度)計算時間大大減少,但是添加了更多的噪聲,因此會使查詢服務的效用略有下降,也就是說RAWD敏感度會比基于AWM的敏感度效果略差。實驗在不同的參數配置下模擬了約1 500 000個查詢服務,記錄下每個服務效用和定價時間,繪制結果與各參數之間的關系圖并觀察。在參數中,數據量n范圍為{103,104,105,106,107,108},隱私預算范圍為{10-6,10-5,10-4,10-3,10-2,10-1,100,101,102,103},近似概率δ范圍為{10-6,10-5,10-4,10-3,10-2}。AWM計算定義2中的δ-近似Wasserstein距離意味著需要找到最優(yōu)的聯(lián)合分布γ和支撐集子集R組合,但是,目前沒有可用的解析解或算法能尋找出該最優(yōu)組合[28]。雖然AWM難以準確計算,但是其計算時間不低于WM,其效用在EVM和WM之間[28]。因此,實驗計算WM和EVM作為AWM的時間和效用邊界,并在圖6中將WM的時間作為AWM的時間下界,在圖7、8中用一片區(qū)域表示AWM的效用范圍,使用最壞情況下的效用差距(即AWM效用上界和RAWM效用的差距)作為本文RAWM的效用代價。圖6展示了敏感度計算時間與數據量n之間的關系。圖7展示了當n=103時效用與隱私預算之間的關系。圖8展示了當=10-1時效用與數據量n之間的關系。圖9展示了當=10-1時效用與近似概率δ之間的關系。

    從圖6可以得出,相較于基于AWM或WM的方法,本文RAWD敏感度將時間復雜度從Ω(n)降低到了O(1)。基于EVM的方法也是O(1)復雜度,但是EVM無法滿足屬性隱私要求,缺乏合理性。基于MQM的也是O(1)復雜度。

    從圖7可以觀察到,當n=103時,在=10-1處,不同方法的效用差距是最明顯的,實驗中當n取其他值時,同樣也是在=10-1處差距最大(由于篇幅限制不全部展示)。因此,圖8和9都在固定=10-1的基礎上對比效用。圖7的=10-1處對應了圖8的n=103處。

    從圖8可以得出,MQM效用太低,RAWD效用低于EVM、AWM、WM三個方法。然而隨著數據量n變大, EVM、AWM、WM三個方法與RAWD之間的效用差距越來越小,特別地,當n=108時,RAWD和AWM的效用差距不超過0.52%。說明在大數據量下,RAWD也能取得很好的效用。

    從圖9可以得出,RAWD的效用會隨著近似概率δ的增加而略微增加,影響不大,因此本文定價模型對δ取固定值。

    綜上,EVM缺乏合理性,MQM時間復雜度也為O(1)但效用過差,因此都不如本文的RAWD敏感度。對于AWM和WM,RAWD效用略差但大大減小了計算時間,因為多數情況下數據量n是一個比較大的值,所以本文RAWD敏感度將定價模型中查詢敏感度的計算時間復雜度從Ω(n)降低到了O(1),僅僅付出了很低的效用代價。

    3.2 細粒度補償

    本節(jié)評估在2.3節(jié)中設計的補償函數。評估方式為在一個數據列上模擬同方差的多個服務,觀察補償值分布是否分散,是否能夠區(qū)分不同服務對敏感屬性的不同揭露程度。選取的數據列包括age、education-num、hours-per-week、marital-status。服務方差統(tǒng)一為0.01。兩個敏感屬性的補償參數都為αi=5,βi=1,所以補償的取值范圍為[0,10]。在不同數據列上模擬統(tǒng)計查詢服務的補償分布如圖10所示。

    觀察圖10可以發(fā)現,在每個數據列上模擬統(tǒng)計查詢服務的補償分布在區(qū)間的不同部分中,可以區(qū)分一個數據列上統(tǒng)計查詢服務對敏感屬性的不同揭露程度,并且不同數據列上的總體補償水平也有不同,例如education-num列上的補償比age列上的補償總體要高,這是因為education-num列和敏感屬性(收入超過50 k的人口比例,在民營企業(yè)工作的人口比例)之間的關聯(lián)更大,相應地,education-num列上的查詢比age列上的查詢對敏感屬性揭露程度更高。以上分析說明,本文設計的補償函數能夠對數據提供方進行細粒度補償,合理反映統(tǒng)計查詢服務對敏感屬性的揭露程度,形成更好的激勵效果。

    3.3 無套利性

    本節(jié)評估在2.4節(jié)中設計的無套利定價函數。評估無套利性使用的指標為套利攻擊成本∑tk=1π(Qk)和目標查詢價格π(Q)的累積比例[6]。當攻擊成本和目標價格的比率小于1時,稱為一次成功的套利攻擊。累積比例曲線上的一個點代表攻擊成本和目標價格比例小于該點的套利攻擊比例,也就是說,累積比例曲線在點1處的值代表了成功套利攻擊的比例。實驗模擬了兩種套利攻擊,分別為查詢攻擊和套利攻擊。查詢套利攻擊可表示為{(F1,v/t),…,(Ft,v/t)}Euclid ExtraaAp(F,v);方差套利攻擊可表示為{(F,tv)1,…,(F,tv)t}Euclid ExtraaAp(F,v)。實驗模擬了約40 000次套利攻擊,查詢套利攻擊的參數t取值范圍為{2,3,4,5},方差套利攻擊的參數t取值范圍為{2,10,25,50}。圖11展示了查詢套利攻擊的累積比例曲線。圖12展示了方差套利攻擊的累積比例曲線。

    觀察圖11、12可以發(fā)現,累積比例曲線在成本比例為1時都為0%。這說明沒有任何攻擊的成本比例小于1,所有的套利攻擊都沒有成功,驗證了定價函數的無套利性。此外,隨著參數t的增加,累積比例曲線呈現右移的趨勢,這與直覺一致,因為參數t也代表了套利攻擊的查詢個數,查詢個數更多會導致攻擊成本比例更高。

    4 結束語

    本文針對現有統(tǒng)計查詢定價模型沒有考慮查詢結果揭露數據集敏感屬性的問題,提出了基于屬性隱私的統(tǒng)計查詢定價模型。模型提出了RAWM,基于RAWM提出RAWD敏感度作為查詢敏感度,可以在常數時間復雜度內計算,使用查詢敏感度、噪聲方差、補償參數綜合地計算補償,針對多個場景,在補償之上使用成本加成定價法設計了多個無套利定價函數。在公開數據集上進行了實驗,實驗結果表明,模型中的查詢敏感度算法很好地實現了效用和效率的平衡,模型能夠提供細粒度補償以更好地激勵共享,模型設計的定價函數滿足無套利性。

    但是,本文定價模型仍有不足。例如只能對統(tǒng)計查詢服務進行定價,無法衡量機器學習服務對數據集敏感屬性的揭露;只能將數據集的分布參數視為敏感屬性,沒有考慮當敏感屬性是數據集的復雜特征表達式時該如何定價。

    參考文獻:

    [1]江東, 袁野, 張小偉, 等. 數據定價與交易研究綜述[J]. 軟件學報, 2023, 34(3): 1396-1424. (Jiang Dong, Yuan Ye, Zhang Xiao-wei,et al. A survey on data pricing and trading research[J]. Journal of Software, 2023, 34(3): 1396-1424.)

    [2]DAWEX. Global big data exchange[EB/OL]. (2024-04-03). https://www.gzdex.com.cn/.

    [3]DAWEX. Sell, buy and share data[EB/OL]. (2024-04-03). https://www. dawex.com/en/.

    [4]Zhang Mengxiao, Beltrán F, Liu Jiamou. A survey of data pricing for data marketplaces[J]. IEEE Trans on Big Data, 2023, 9(4): 1038-1056.

    [5]Koutris P, Upadhyaya P, Balazinska M,et al. query-based data pricing[J]. Journal of the ACM, 2015, 62(5): 1-44.

    [6]Niu Chaoyue, Zheng Zhenzhe, Wu Fan,et al. ERATO: trading noisy aggregate statistics over private correlated data[J]. IEEE Trans on Knowledge & Data Engineering, 2021, 33(3): 975-990.

    [7]He Zaobo, Cai Zhipeng. Trading aggregate statistics over private Internet of Things data[J]. IEEE Trans on Computers, 2024, 73(2): 394-407.

    [8]陳思瑩, 張丹, 丁小歐, 等. 基于數據質量的公平數據定價[J]. 大數據, 2024, 10(2): 54-67. (Chen Siying, Zhang Dan, Ding Xiaoou,et al. Fair data pricing based on data quality[J]. Big Data Research, 2024, 10(2): 54-67.)

    [9]Yu Mingkai, Wang Jianxiao, Yan Jie,et al. Pricing information in smart grids: a quality-based data valuation paradigm[J]. IEEE Trans on Smart Grid, 2022, 13(5): 3735-3747.

    [10]劉珂. 基于Shapley值的冷鏈物流檢測信息特征組合定價研究[D]. 重慶: 重慶郵電大學, 2022. (Liu Ke. Shapley value-based pricing for feature combination of detection information in cold chain logistics[D]. Chongqing: Chongqing University of Posts and Telecommunications, 2022.)

    [11]Wang Tianhao, Rausch J, Zhang Ce,et al. A principled approach to data valuation for federated learning[M]// Yang Qiang, Fan Lixin, Yu Han. Federated learning: privacy and incentive. Cham: Springer International Publishing, 2020: 153-167.

    [12]Xu Anran, Zheng Zhenzhe, Li Qinya,et al. VAP: online data valuation and pricing for machine learning models in mobile health[J]. IEEE Trans on Mobile Computing, 2024, 23(5): 5966-5983.

    [13]盧玉, 王靜宇, 劉立新, 等. 拍賣機制驅動的數據激勵共享方案[J]. 計算機科學與探索,2024,18(8):2203-2220. (Lu Yu, Wang Jingyu, Liu Lixin,et al. Auction mechanism driven data incentive sharing solution[J]. Journal of Frontiers of Computer Science and Technology, 2024,18(8):2203-2220.)

    [14]涂輝招, 劉建泉, 遇澤洋, 等. 基于改進型Stackelberg博弈的自動駕駛測試數據定價模型[J]. 同濟大學學報: 自然科學版, 2023, 51(11): 1735-1744. (Tu Huizhao, Liu Jianquan, Yu Ze-yang,et al. Pricing model of autonomous vehicle testing data based on evolved Stackelberg game[J]. Journal of Tongji University: Natural Science, 2023, 51(11): 1735-1744.)

    [15]Wang Jiandong, Liu Hao, Dong Xuewen,et al. Personalized location privacy trading in double auction for mobile crowdsensing[J]. IEEE Internet of Things Journal, 2022, 10(10): 8971-8983.

    [16]Li Chuang, He Aoli, Wen Yanhua,et al. Optimal trading mechanism based on differential privacy protection and Stackelberg game in big data market[J]. IEEE Trans on Services Computing, 2023, 16(5): 3550-3563.

    [17]巫朝霞, 唐靖蕾, 苗志偉. 云環(huán)境下支持多授權機構的醫(yī)療數據安全共享方案[J]. 計算機應用研究, 2023, 40(12): 3800-3804. (Wu Chaoxia, Tang Jinglei, Miao Zhiwei. Medical data secure sharing scheme supporting multi-authority in cloud environment[J]. Application Research of Computers, 2023, 40(12): 3800-3804.)

    [18]Li Chao, Li D Y, Miklau G,et al. A theory of pricing private data[J]. Communications of the ACM, 2017, 60(12): 79-86.

    [19]Shen Yuncheng, Guo Bing, Shen Yan,et al. Personal big data pricing method based on differential privacy[J]. Computers & Security, 2022, 113: 102529.

    [20]Cai Hui, Yang Yuanyuan, Fan Weibei,et al. Towards correlated data trading for high-dimensional private data[J]. IEEE Trans on Parallel and Distributed Systems, 2023, 34(3): 1047-1059.

    [21]董愷, 蔣馳昊, 李想, 等. 基于代理訓練集的屬性推理攻擊防御方法[J]. 計算機學報, 2024, 47(4): 907-923. (Dong Kai, Jiang Chihao, Li Xiang,et al. Defending against property inference attacks based on agent training datasets[J]. Chinese Journal of Compu-ters, 2024, 47(4): 907-923.)

    [22]Manousis A, Shah H, Milner H,et al. The shape of view: an alert system for video viewership anomalies[C]// Proc of the 21st ACM Internet Measurement Conference. New York: ACM Press, 2021: 245-260.

    [23]Ateniese G, Mancini L V, Spognardi A,et al. Hacking smart machines with smarter ones: how to extract meaningful data from machine learning classifiers[J]. International Journal of Security and Networks, 2015, 10(3): 137-150.

    [24]Dwork C, Roth A. The algorithmic foundations of differential privacy[J]. Foundations and Trends in Theoretical Computer Science, 2014, 9(3-4): 211-407.

    [25]Kifer D, Machanavajjhala A. Pufferfish: a framework for mathematical privacy definitions[J]. ACM Trans on Database Systems, 2014, 39(1): 1-36.

    [26]Zhang Wanrong, Ohrimenko O, Cummings R. Attribute privacy: framework and mechanisms[C]// Proc of ACM Conference on Fairness, Accountability, and Transparency. New York: ACM Press, 2022: 757-766.

    [27]Song Shuang, Wang Yizhen, Chaudhuri K. Pufferfish privacy mechanisms for correlated data[C]// Proc of ACM International Conference on Management of Data. New York: ACM Press, 2017: 1291-1306.

    [28]Chen M, Ohrimenko O. Protecting global properties of datasets with distribution privacy mechanisms[C]// Proc of the 26th International Conference on Artificial Intelligence and Statistics. [S.l.]: PMLR, 2023: 7472-7491.

    [29]Becker B, Kohavi R. Adult[DB/OL]. (1996-04-30). https://archive.ics.uci.edu/dataset/2/adult.

    男人狂女人下面高潮的视频| 亚洲人成网站高清观看| 欧美成人免费av一区二区三区| 日韩有码中文字幕| 亚洲人与动物交配视频| 狂野欧美白嫩少妇大欣赏| 国产人妻一区二区三区在| 国产精华一区二区三区| 18禁黄网站禁片午夜丰满| 国产色爽女视频免费观看| 搡老熟女国产l中国老女人| 成人av一区二区三区在线看| 免费高清视频大片| 18禁裸乳无遮挡免费网站照片| 人妻久久中文字幕网| 波多野结衣巨乳人妻| 成人特级黄色片久久久久久久| 亚洲国产精品999在线| 中文字幕av成人在线电影| 亚洲国产精品sss在线观看| eeuss影院久久| 国产高清激情床上av| 热99re8久久精品国产| 老女人水多毛片| 九色国产91popny在线| 国内精品久久久久精免费| 欧美一级a爱片免费观看看| 观看免费一级毛片| 成人精品一区二区免费| .国产精品久久| 午夜福利在线在线| 亚洲av美国av| 久久亚洲真实| xxxwww97欧美| 99热这里只有是精品在线观看 | 亚州av有码| 一个人免费在线观看的高清视频| 乱人视频在线观看| 免费看美女性在线毛片视频| 亚洲国产欧美人成| 黄片小视频在线播放| 十八禁网站免费在线| 欧美一区二区国产精品久久精品| 黄色视频,在线免费观看| 一夜夜www| 99国产精品一区二区蜜桃av| 一边摸一边抽搐一进一小说| 麻豆成人午夜福利视频| 国产精品亚洲av一区麻豆| 人妻久久中文字幕网| 日韩欧美国产在线观看| 欧美最黄视频在线播放免费| 欧美激情国产日韩精品一区| 日韩欧美 国产精品| www日本黄色视频网| 亚洲av美国av| 深夜精品福利| 哪里可以看免费的av片| 欧美xxxx黑人xx丫x性爽| 麻豆成人午夜福利视频| xxxwww97欧美| 悠悠久久av| 老熟妇仑乱视频hdxx| 在线观看av片永久免费下载| 免费看a级黄色片| 草草在线视频免费看| 久久这里只有精品中国| 日韩成人在线观看一区二区三区| 99国产极品粉嫩在线观看| 婷婷色综合大香蕉| 他把我摸到了高潮在线观看| 色哟哟·www| 亚洲av一区综合| 亚洲七黄色美女视频| 中国美女看黄片| 国产真实乱freesex| 又爽又黄无遮挡网站| av黄色大香蕉| 赤兔流量卡办理| 国产精品一区二区三区四区免费观看 | www日本黄色视频网| 男女床上黄色一级片免费看| 天美传媒精品一区二区| 一进一出抽搐动态| 午夜激情欧美在线| 天堂网av新在线| 身体一侧抽搐| 精品久久久久久久久av| 最新在线观看一区二区三区| 亚洲av二区三区四区| 久久久成人免费电影| 久久天躁狠狠躁夜夜2o2o| 尤物成人国产欧美一区二区三区| 成年女人看的毛片在线观看| 午夜福利免费观看在线| 性欧美人与动物交配| 两性午夜刺激爽爽歪歪视频在线观看| 国产免费av片在线观看野外av| 欧美成人性av电影在线观看| 国产aⅴ精品一区二区三区波| 永久网站在线| 亚洲性夜色夜夜综合| 成人鲁丝片一二三区免费| 国产免费男女视频| 欧美午夜高清在线| 1024手机看黄色片| 国产在线男女| 国产一区二区在线观看日韩| 桃红色精品国产亚洲av| 国产精品人妻久久久久久| 国产男靠女视频免费网站| 制服丝袜大香蕉在线| 特大巨黑吊av在线直播| 午夜福利在线观看免费完整高清在 | 99热6这里只有精品| netflix在线观看网站| 日韩成人在线观看一区二区三区| 俺也久久电影网| 亚洲在线自拍视频| 日韩欧美精品v在线| 狠狠狠狠99中文字幕| 色尼玛亚洲综合影院| 久久精品91蜜桃| 99在线人妻在线中文字幕| 精品人妻熟女av久视频| 国产精品乱码一区二三区的特点| 热99在线观看视频| 国产真实乱freesex| 亚洲午夜理论影院| 黄色女人牲交| 无人区码免费观看不卡| 国产白丝娇喘喷水9色精品| 久久久久久久久大av| 好男人在线观看高清免费视频| 成年免费大片在线观看| 久久久久久久久久成人| 亚洲,欧美精品.| 一级作爱视频免费观看| 色5月婷婷丁香| 国产视频一区二区在线看| av在线观看视频网站免费| 免费电影在线观看免费观看| 国产精品爽爽va在线观看网站| 97热精品久久久久久| 亚洲欧美激情综合另类| a级一级毛片免费在线观看| 免费av不卡在线播放| 男人舔奶头视频| 丰满的人妻完整版| 中亚洲国语对白在线视频| 免费在线观看成人毛片| av专区在线播放| 亚洲经典国产精华液单 | 午夜激情福利司机影院| 日日夜夜操网爽| 免费av不卡在线播放| 午夜福利18| 亚洲av成人av| 亚洲最大成人手机在线| 欧美高清性xxxxhd video| 免费看光身美女| 久久精品国产清高在天天线| 欧美黄色淫秽网站| 精品一区二区三区人妻视频| 久久久久久久精品吃奶| 午夜视频国产福利| 精华霜和精华液先用哪个| 久久久久国内视频| 国产成+人综合+亚洲专区| 九九久久精品国产亚洲av麻豆| 久久久色成人| 日日摸夜夜添夜夜添av毛片 | 性插视频无遮挡在线免费观看| 99热这里只有是精品50| 国产一区二区在线观看日韩| 少妇人妻精品综合一区二区 | 综合色av麻豆| 别揉我奶头 嗯啊视频| 成人av一区二区三区在线看| 日本a在线网址| 真实男女啪啪啪动态图| av国产免费在线观看| 国产精华一区二区三区| 婷婷亚洲欧美| 舔av片在线| 直男gayav资源| 久久精品人妻少妇| 久久久久九九精品影院| 亚洲最大成人中文| 一个人免费在线观看的高清视频| 男女那种视频在线观看| 亚洲精品日韩av片在线观看| 日本一二三区视频观看| 在线播放无遮挡| 免费av毛片视频| bbb黄色大片| 成人高潮视频无遮挡免费网站| 深夜精品福利| 欧美另类亚洲清纯唯美| 波多野结衣高清无吗| 欧美成人a在线观看| 免费人成在线观看视频色| www日本黄色视频网| 亚洲欧美日韩高清专用| 婷婷亚洲欧美| 国产三级黄色录像| 校园春色视频在线观看| 国产三级中文精品| 最后的刺客免费高清国语| 小蜜桃在线观看免费完整版高清| 亚洲精品色激情综合| 欧美丝袜亚洲另类 | 99久久精品热视频| 成年女人毛片免费观看观看9| 精品国产亚洲在线| 制服丝袜大香蕉在线| 亚洲在线观看片| 97人妻精品一区二区三区麻豆| 久久性视频一级片| 免费无遮挡裸体视频| 国产亚洲欧美在线一区二区| av在线老鸭窝| 婷婷色综合大香蕉| 欧美日韩福利视频一区二区| 日韩中文字幕欧美一区二区| 老鸭窝网址在线观看| av专区在线播放| 国产精品av视频在线免费观看| 午夜激情欧美在线| 人妻夜夜爽99麻豆av| 成人午夜高清在线视频| 在线播放无遮挡| 国产精品免费一区二区三区在线| 中文字幕免费在线视频6| 一区二区三区高清视频在线| 在线观看午夜福利视频| 伦理电影大哥的女人| 男人舔女人下体高潮全视频| 国产精品久久视频播放| 久久久久久久久久成人| 90打野战视频偷拍视频| 高潮久久久久久久久久久不卡| 精品一区二区三区人妻视频| 久久久精品欧美日韩精品| 午夜久久久久精精品| 小说图片视频综合网站| 精品久久久久久久久av| 日本三级黄在线观看| 神马国产精品三级电影在线观看| 久久久国产成人免费| 伦理电影大哥的女人| 亚洲无线在线观看| 脱女人内裤的视频| 精品乱码久久久久久99久播| 亚洲美女搞黄在线观看 | 午夜福利在线观看免费完整高清在 | 久久久精品大字幕| 色综合亚洲欧美另类图片| aaaaa片日本免费| .国产精品久久| 国内毛片毛片毛片毛片毛片| 看片在线看免费视频| 亚洲美女视频黄频| 特大巨黑吊av在线直播| 色在线成人网| 美女 人体艺术 gogo| 小说图片视频综合网站| 天天躁日日操中文字幕| 欧美日韩瑟瑟在线播放| 深爱激情五月婷婷| 天堂av国产一区二区熟女人妻| 九九久久精品国产亚洲av麻豆| 色视频www国产| 免费在线观看影片大全网站| 桃红色精品国产亚洲av| 又紧又爽又黄一区二区| 99国产精品一区二区蜜桃av| 伊人久久精品亚洲午夜| 偷拍熟女少妇极品色| 亚洲在线观看片| 国产精品av视频在线免费观看| 美女高潮的动态| 国产爱豆传媒在线观看| 欧美在线一区亚洲| 伊人久久精品亚洲午夜| 偷拍熟女少妇极品色| 窝窝影院91人妻| 宅男免费午夜| 一本精品99久久精品77| 日本 av在线| 日本黄色片子视频| av天堂在线播放| 国产精品嫩草影院av在线观看 | 国产一级毛片七仙女欲春2| 国产精品久久久久久人妻精品电影| 国产又黄又爽又无遮挡在线| 色噜噜av男人的天堂激情| 97超级碰碰碰精品色视频在线观看| 日本黄大片高清| 性插视频无遮挡在线免费观看| 欧美+日韩+精品| 色综合站精品国产| 亚洲av中文字字幕乱码综合| 国产国拍精品亚洲av在线观看| 国内久久婷婷六月综合欲色啪| 国产真实伦视频高清在线观看 | 色综合婷婷激情| 国产精品一区二区三区四区久久| 九色国产91popny在线| 国产主播在线观看一区二区| 免费黄网站久久成人精品 | 一本精品99久久精品77| 香蕉av资源在线| 校园春色视频在线观看| 一a级毛片在线观看| 桃色一区二区三区在线观看| 欧美日本亚洲视频在线播放| 两人在一起打扑克的视频| 成人毛片a级毛片在线播放| 禁无遮挡网站| 永久网站在线| 欧美色视频一区免费| 欧美日韩综合久久久久久 | 欧美乱妇无乱码| 在线观看免费视频日本深夜| 国产成人影院久久av| 白带黄色成豆腐渣| 啪啪无遮挡十八禁网站| 亚洲经典国产精华液单 | 国产一级毛片七仙女欲春2| 一区二区三区免费毛片| 老熟妇乱子伦视频在线观看| 日韩av在线大香蕉| 黄色一级大片看看| 欧美激情在线99| 99国产精品一区二区三区| 欧美性猛交╳xxx乱大交人| 国产精品野战在线观看| 国产精品日韩av在线免费观看| 高潮久久久久久久久久久不卡| 97超视频在线观看视频| 亚洲在线观看片| 欧美黄色片欧美黄色片| 夜夜躁狠狠躁天天躁| 久久中文看片网| 级片在线观看| 99热只有精品国产| 亚洲在线自拍视频| 99在线人妻在线中文字幕| 欧美一级a爱片免费观看看| 丰满人妻一区二区三区视频av| 国内久久婷婷六月综合欲色啪| 精品国产三级普通话版| 久久伊人香网站| 男人舔女人下体高潮全视频| 国产久久久一区二区三区| 一a级毛片在线观看| 国产v大片淫在线免费观看| 日本与韩国留学比较| 亚洲人成伊人成综合网2020| 2021天堂中文幕一二区在线观| 三级毛片av免费| 91字幕亚洲| 能在线免费观看的黄片| 又粗又爽又猛毛片免费看| 国产精品美女特级片免费视频播放器| 日韩欧美国产一区二区入口| 99精品久久久久人妻精品| 身体一侧抽搐| 精品熟女少妇八av免费久了| 波多野结衣高清无吗| 精品无人区乱码1区二区| 91午夜精品亚洲一区二区三区 | 久久久久久久久中文| 成人特级av手机在线观看| 窝窝影院91人妻| 麻豆国产97在线/欧美| 99热精品在线国产| 色综合站精品国产| 91狼人影院| 免费大片18禁| 国产精品国产高清国产av| 欧美在线一区亚洲| 精品不卡国产一区二区三区| 国产亚洲av嫩草精品影院| 熟女电影av网| 麻豆国产av国片精品| 国产免费一级a男人的天堂| 久久久色成人| 好男人电影高清在线观看| 美女 人体艺术 gogo| 亚洲精品在线观看二区| 美女高潮的动态| 少妇人妻一区二区三区视频| 色综合欧美亚洲国产小说| 亚洲成人中文字幕在线播放| 日本三级黄在线观看| 免费av毛片视频| 老女人水多毛片| 日本精品一区二区三区蜜桃| av专区在线播放| 九九热线精品视视频播放| 18+在线观看网站| 99国产综合亚洲精品| 国产伦一二天堂av在线观看| 国产高清有码在线观看视频| 欧美最新免费一区二区三区 | 少妇熟女aⅴ在线视频| 91久久精品国产一区二区成人| 国语自产精品视频在线第100页| 欧美xxxx黑人xx丫x性爽| 亚洲成人免费电影在线观看| 成人性生交大片免费视频hd| 99国产极品粉嫩在线观看| 最新在线观看一区二区三区| 男女下面进入的视频免费午夜| 日本三级黄在线观看| 国产欧美日韩一区二区三| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 男人狂女人下面高潮的视频| 亚洲美女视频黄频| 久久久精品大字幕| 亚洲av电影在线进入| 特级一级黄色大片| 久久亚洲真实| 日本黄大片高清| 日韩 亚洲 欧美在线| 国产精品影院久久| 成熟少妇高潮喷水视频| 国产精品一及| 国产精品电影一区二区三区| 听说在线观看完整版免费高清| 亚洲一区二区三区不卡视频| 日韩av在线大香蕉| 动漫黄色视频在线观看| 精品人妻熟女av久视频| 日韩欧美精品v在线| 99热这里只有精品一区| 亚洲精品色激情综合| 国产欧美日韩精品一区二区| 亚洲av一区综合| 亚洲av五月六月丁香网| 嫁个100分男人电影在线观看| av在线蜜桃| 日韩有码中文字幕| 久久国产乱子免费精品| 精品人妻一区二区三区麻豆 | 12—13女人毛片做爰片一| 少妇人妻精品综合一区二区 | 亚洲人成电影免费在线| 自拍偷自拍亚洲精品老妇| 色综合欧美亚洲国产小说| 丰满的人妻完整版| 可以在线观看毛片的网站| 久久久精品欧美日韩精品| 国产精品乱码一区二三区的特点| 一区二区三区免费毛片| 成人毛片a级毛片在线播放| 亚洲成a人片在线一区二区| 五月伊人婷婷丁香| 十八禁国产超污无遮挡网站| 亚洲国产欧美人成| 国产精品乱码一区二三区的特点| 高清毛片免费观看视频网站| 午夜福利高清视频| 成人鲁丝片一二三区免费| 精品国产三级普通话版| 日韩欧美一区二区三区在线观看| 熟女人妻精品中文字幕| 美女大奶头视频| 黄色丝袜av网址大全| АⅤ资源中文在线天堂| 国产伦一二天堂av在线观看| 欧美成人性av电影在线观看| 日本黄色视频三级网站网址| 免费在线观看亚洲国产| 国产主播在线观看一区二区| 国产探花在线观看一区二区| 琪琪午夜伦伦电影理论片6080| 熟妇人妻久久中文字幕3abv| 一边摸一边抽搐一进一小说| 大型黄色视频在线免费观看| 亚洲欧美精品综合久久99| av欧美777| 高潮久久久久久久久久久不卡| 最近视频中文字幕2019在线8| 一个人看视频在线观看www免费| 噜噜噜噜噜久久久久久91| 99久久精品一区二区三区| 深爱激情五月婷婷| 亚洲人成网站在线播放欧美日韩| 美女 人体艺术 gogo| 一a级毛片在线观看| 精品一区二区三区av网在线观看| 美女xxoo啪啪120秒动态图 | 国产真实乱freesex| 亚洲欧美日韩无卡精品| 又爽又黄a免费视频| 亚洲精品粉嫩美女一区| 又黄又爽又免费观看的视频| 久久久色成人| 亚洲精品日韩av片在线观看| 国产成人a区在线观看| 最近视频中文字幕2019在线8| 亚洲av二区三区四区| 精品熟女少妇八av免费久了| 久久精品国产自在天天线| 精品久久久久久久久久免费视频| 美女xxoo啪啪120秒动态图 | 国产中年淑女户外野战色| 日韩中字成人| 免费在线观看日本一区| 51午夜福利影视在线观看| 欧美三级亚洲精品| 性欧美人与动物交配| 国产精品一及| 色5月婷婷丁香| 日韩高清综合在线| 99国产极品粉嫩在线观看| 国产精品永久免费网站| 亚洲av日韩精品久久久久久密| 欧美不卡视频在线免费观看| 久99久视频精品免费| 欧美bdsm另类| 国产欧美日韩精品一区二区| 色播亚洲综合网| 老熟妇仑乱视频hdxx| 亚洲av电影不卡..在线观看| 九色成人免费人妻av| 亚洲欧美日韩东京热| 国产精品嫩草影院av在线观看 | 亚洲,欧美精品.| 亚洲一区二区三区不卡视频| 国产精华一区二区三区| 国产真实伦视频高清在线观看 | 精品一区二区三区人妻视频| 亚洲欧美精品综合久久99| 国产欧美日韩精品亚洲av| 少妇熟女aⅴ在线视频| 麻豆国产av国片精品| 婷婷色综合大香蕉| 美女被艹到高潮喷水动态| 欧美zozozo另类| 91久久精品电影网| 老司机福利观看| 亚洲精品粉嫩美女一区| 国语自产精品视频在线第100页| 一进一出抽搐动态| 国产蜜桃级精品一区二区三区| 在线国产一区二区在线| 欧美成人一区二区免费高清观看| 国产三级中文精品| 乱码一卡2卡4卡精品| 99国产综合亚洲精品| 亚洲 欧美 日韩 在线 免费| 又爽又黄无遮挡网站| 亚洲国产欧洲综合997久久,| 久久久久国产精品人妻aⅴ院| 精品熟女少妇八av免费久了| 国产精品av视频在线免费观看| 色综合婷婷激情| 18禁裸乳无遮挡免费网站照片| 国产三级在线视频| 又黄又爽又刺激的免费视频.| 一个人免费在线观看电影| 三级国产精品欧美在线观看| 亚洲av电影不卡..在线观看| 欧美日韩中文字幕国产精品一区二区三区| 久久国产精品影院| 国产69精品久久久久777片| 亚洲精品色激情综合| 757午夜福利合集在线观看| 简卡轻食公司| 久久久成人免费电影| 亚洲无线观看免费| 午夜精品在线福利| avwww免费| 9191精品国产免费久久| 国产亚洲av嫩草精品影院| 亚洲精品成人久久久久久| 丁香六月欧美| www.www免费av| 亚洲成人精品中文字幕电影| 怎么达到女性高潮| 一个人观看的视频www高清免费观看| 又粗又爽又猛毛片免费看| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 国产成人a区在线观看| 久久6这里有精品| 亚洲av成人不卡在线观看播放网| 中文在线观看免费www的网站| 一个人免费在线观看电影| 国产高潮美女av| 99久久成人亚洲精品观看| 日韩欧美免费精品| 一进一出抽搐gif免费好疼| 日韩欧美在线二视频| 亚洲性夜色夜夜综合| 国产精品一区二区性色av| 免费黄网站久久成人精品 | 久久国产精品影院| 欧美中文日本在线观看视频| 哪里可以看免费的av片| 一级黄色大片毛片| 日本黄色片子视频| 精品久久久久久久久av| 欧美区成人在线视频| 99久国产av精品| 午夜福利免费观看在线| 成年女人看的毛片在线观看| 精品99又大又爽又粗少妇毛片 | 两人在一起打扑克的视频| АⅤ资源中文在线天堂| 一级黄色大片毛片| 91麻豆av在线|