• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    數(shù)據(jù)信托:一種可能的數(shù)據(jù)治理框架

    2022-12-26 13:37:23蔡秉坤王昱瑾
    關(guān)鍵詞:主體

    蔡秉坤,王昱瑾

    (蘭州大學(xué) 法學(xué)院,甘肅 蘭州 730000)

    歷經(jīng)農(nóng)業(yè)文明、工業(yè)文明、信息文明的人類社會(huì)正邁向“數(shù)字文明”。被喻為“新時(shí)代石油”的數(shù)據(jù)提高了人類認(rèn)識(shí)規(guī)律、掌握規(guī)律的能力,數(shù)據(jù)的利用價(jià)值得以彰顯,經(jīng)濟(jì)及商業(yè)價(jià)值被不斷挖掘。如何在數(shù)據(jù)利用與發(fā)展進(jìn)程中避免數(shù)據(jù)濫用,保護(hù)數(shù)據(jù)主體隱私,減少數(shù)據(jù)操縱、數(shù)據(jù)歧視等問(wèn)題,亟待法律予以回應(yīng)。被譽(yù)為“2021年十大突破性技術(shù)”之一的數(shù)據(jù)信托或?yàn)榻鉀Q數(shù)據(jù)治理問(wèn)題的一種可行框架。

    一、“全景敞視監(jiān)獄”視角下的數(shù)據(jù)主體

    大數(shù)據(jù)時(shí)代背景下數(shù)據(jù)主體(data subject)與數(shù)據(jù)控制者(data controller)之間的關(guān)系可被具象化為邊沁所構(gòu)想的全景敞視監(jiān)獄(panopticon)。數(shù)據(jù)主體似乎生活在精制而殘酷的“無(wú)形囚室”中,數(shù)據(jù)控制者則處于環(huán)形建筑中心的“瞭望臺(tái)”上。從數(shù)據(jù)控制者的視角來(lái)看,數(shù)據(jù)主體被一覽無(wú)余。從數(shù)據(jù)主體的視角來(lái)看,“監(jiān)視”是可見(jiàn)但未可知的。數(shù)據(jù)主體與數(shù)據(jù)控制者間呈現(xiàn)出信息不對(duì)稱與權(quán)力不均衡的緊張關(guān)系,隨之而來(lái)的是數(shù)據(jù)主體的隱私問(wèn)題、數(shù)據(jù)操控與數(shù)據(jù)歧視等。

    (一)隱私問(wèn)題

    數(shù)字時(shí)代的諸多服務(wù)以數(shù)據(jù)主體讓渡個(gè)人數(shù)據(jù)為對(duì)價(jià),個(gè)人數(shù)據(jù)似乎成為數(shù)據(jù)主體維持社會(huì)生活與交往的“通行證”,數(shù)據(jù)主體如若拒絕提供個(gè)人數(shù)據(jù)將在數(shù)字時(shí)代舉步維艱。數(shù)據(jù)主體或基于對(duì)數(shù)據(jù)控制者的信任,或由于“算法黑箱”,或出于“決策厭惡”而多選擇一鍵同意數(shù)據(jù)控制者所提供的隱私條款。上述種種在一定程度上導(dǎo)致數(shù)據(jù)主體非自愿地失去對(duì)個(gè)人數(shù)據(jù)的控制,這體現(xiàn)了數(shù)據(jù)主體與數(shù)據(jù)控制者之間的權(quán)力勢(shì)差與數(shù)據(jù)主體的脆弱性,而脆弱性將會(huì)進(jìn)一步引致依附性,使得數(shù)據(jù)主體的話語(yǔ)權(quán)缺失。此外,處于社交關(guān)系網(wǎng)絡(luò)格點(diǎn)的每個(gè)人都有隱私被侵害之虞,如部分?jǐn)?shù)據(jù)主體通過(guò)讓渡個(gè)人數(shù)據(jù)換取利益或便利,其讓渡的個(gè)人數(shù)據(jù)中可能包含通訊錄等可以反映社交關(guān)系的信息,使得第三方數(shù)據(jù)主體的隱私被間接侵害。換言之,社會(huì)關(guān)系網(wǎng)絡(luò)中的每個(gè)人都存在隱私被窺探的風(fēng)險(xiǎn)。數(shù)據(jù)控制者收集并利用個(gè)人數(shù)據(jù)的商業(yè)模式成為當(dāng)前數(shù)字時(shí)代的默認(rèn)設(shè)定,置身數(shù)字文明不斷向前發(fā)展的歷史進(jìn)程中,有必要重新審視隱私問(wèn)題這一歷久彌新的議題。

    (二)數(shù)據(jù)操縱

    個(gè)人數(shù)據(jù)不僅是對(duì)數(shù)據(jù)主體過(guò)去行為軌跡的客觀記錄,更是對(duì)數(shù)據(jù)主體思維邏輯的分析預(yù)判。數(shù)據(jù)控制者擁有海量數(shù)據(jù)使其操縱數(shù)據(jù)主體成為可能,數(shù)據(jù)操縱即數(shù)據(jù)控制者通過(guò)選擇性信息展示等諸多手段,在數(shù)據(jù)主體不自知的情形下作出符合數(shù)據(jù)控制者利益的個(gè)人決策。具言之,數(shù)據(jù)控制者通過(guò)計(jì)算后的、精準(zhǔn)的和有選擇的信息推送,為數(shù)據(jù)主體編織了牢固的“信息繭房”,身處其中的數(shù)據(jù)主體所接受到的信息是被數(shù)據(jù)控制者精心修飾后的表達(dá)。在信息繭房和錨定效應(yīng)等影響下,數(shù)據(jù)主體容易在數(shù)據(jù)控制者的操縱和影響下作出決策。

    這種操縱能力有著多面體現(xiàn),如“消費(fèi)操縱”“政治操縱”“輿論操縱”。有學(xué)者指出“數(shù)據(jù)畫(huà)像使得定向廣告無(wú)比精準(zhǔn)地在特定時(shí)間和場(chǎng)景達(dá)到目標(biāo)客戶,誘發(fā)沖動(dòng)消費(fèi)……不啻是一種消費(fèi)操縱”。[1]Facebook也曾通過(guò)操縱用戶影響選舉,而這種操縱產(chǎn)生的影響不僅僅局限于Facebook的用戶。呈指數(shù)級(jí)增長(zhǎng)的數(shù)據(jù)使數(shù)據(jù)控制者的操縱能力愈發(fā)增強(qiáng),數(shù)據(jù)操縱的影響不斷滲透、危險(xiǎn)不斷蔓延,成為影響社會(huì)穩(wěn)定的危險(xiǎn)因素??梢哉f(shuō),數(shù)據(jù)控制者不是在反映而是在塑造某種社會(huì)規(guī)范。

    (三)數(shù)據(jù)歧視

    布萊恩.諾德(Brian Nord)調(diào)查分析了罪犯再次犯罪風(fēng)險(xiǎn)預(yù)測(cè)軟件COMPAS,發(fā)現(xiàn)被標(biāo)記為較高風(fēng)險(xiǎn)的黑人是白人的兩倍。一位黑人軟件開(kāi)發(fā)員聲稱谷歌將他和朋友的照片貼上大猩猩的標(biāo)簽。黑人女孩、拉丁女孩、亞洲女孩等搜索詞與色情信息相關(guān)聯(lián),而白人女孩或白人男孩卻沒(méi)有。谷歌解決這一問(wèn)題的辦法是刪去相關(guān)詞條。[2]英國(guó)政府?dāng)?shù)據(jù)倫理與創(chuàng)新中心發(fā)表《關(guān)于算法決策偏差的審查報(bào)告》中指出在刑事司法、金融服務(wù)、招聘和地方政府管理中,相關(guān)人員日愈依賴算法作出決策。例如在金融服務(wù)中,數(shù)據(jù)分析是信貸決策作出的重要參考?!蛾P(guān)于社會(huì)信用和不聯(lián)網(wǎng)的權(quán)利》一文中也指出信貸服務(wù)中歧視與偏見(jiàn)的存在。大數(shù)據(jù)殺熟現(xiàn)象也是數(shù)據(jù)歧視的表征之一。[3]敏感的個(gè)人數(shù)據(jù)被用于作出不公平的推斷,邊緣化受偏見(jiàn)群體,加劇社會(huì)不平等。

    將數(shù)據(jù)主體與數(shù)據(jù)控制者類比為全景敞視監(jiān)獄構(gòu)想中的獄卒與囚犯是為了便于理解二者之間不對(duì)等關(guān)系及其危害。數(shù)據(jù)主體與數(shù)據(jù)控制者間存在嚴(yán)重的知識(shí)和信息不對(duì)稱,位于瞭望臺(tái)上的數(shù)據(jù)控制者能夠輕易監(jiān)視數(shù)據(jù)主體,面對(duì)數(shù)據(jù)控制者的監(jiān)視,數(shù)據(jù)主體卻對(duì)其之甚少,缺乏“反監(jiān)視”能力,缺少話語(yǔ)權(quán)表達(dá)途徑。數(shù)據(jù)控制者借助監(jiān)視而來(lái)的數(shù)據(jù)構(gòu)建數(shù)據(jù)主體的特征、身份及關(guān)聯(lián),勾勒出數(shù)據(jù)主體在諸如求職、信貸和消費(fèi)能力等方面的畫(huà)像,為數(shù)據(jù)控制者操縱、歧視行為提供便利,不斷累積的數(shù)據(jù)將進(jìn)一步影響著數(shù)據(jù)主體的未來(lái)機(jī)會(huì)并塑造其脆弱性。瞭望臺(tái)上可見(jiàn)但未可知的監(jiān)視影響并改變囚犯的行為,使其自我審查、自我約束,數(shù)據(jù)控制者的監(jiān)視、歧視與操縱也會(huì)在某種程度上影響著數(shù)據(jù)主體的行為,加劇二者間的權(quán)力不均衡。“全景敞視監(jiān)獄圖景”雖是具象化比喻,但也在某種程度上折射出數(shù)字時(shí)代無(wú)奈且殘酷的現(xiàn)實(shí),數(shù)據(jù)主體的脆弱性、依附性愈發(fā)凸顯,當(dāng)數(shù)據(jù)控制者將數(shù)據(jù)利用轉(zhuǎn)向數(shù)據(jù)濫用無(wú)異于為數(shù)據(jù)主體筑起一道權(quán)力結(jié)構(gòu)異化的“環(huán)形監(jiān)獄”,處于數(shù)據(jù)控制者監(jiān)視下的數(shù)據(jù)主體,變得“可透明、可預(yù)判、可標(biāo)簽、可操控”。

    二、數(shù)據(jù)信托理論引介

    科技具有向善和呈惡的雙重面向,缺少行之有效的治理之治便如水庫(kù)沒(méi)有能夠起到調(diào)解作用的閘門(mén),泛濫的數(shù)據(jù)洪流裹挾著隱私泄露、數(shù)據(jù)操控、數(shù)據(jù)歧視等問(wèn)題而來(lái)。被譽(yù)為“2021年十大突破性技術(shù)之一”的數(shù)據(jù)信托(data trusts)恰如能夠靈活對(duì)水庫(kù)蓄水量予以調(diào)節(jié)的閘門(mén),破解數(shù)據(jù)保護(hù)與利用的平衡難題,扭轉(zhuǎn)數(shù)據(jù)治理失控局面。

    (一)數(shù)據(jù)信托的發(fā)展嬗變

    數(shù)據(jù)信托理論可溯至1996年肯尼斯·勞頓(Kenneth Laudon)《市場(chǎng)和隱私》一文,為加強(qiáng)數(shù)據(jù)主體對(duì)其個(gè)人信息的控制力并使數(shù)據(jù)主體獲得公平報(bào)酬,肯尼斯·勞頓探索建立個(gè)人信息交易機(jī)制和國(guó)家信息市場(chǎng)。數(shù)據(jù)主體將其信息資產(chǎn)交由地方銀行在國(guó)家信息交易所進(jìn)行交易,由數(shù)據(jù)主體支付信息處理費(fèi)。信息受托人(information fiduciaries)或代理人同地方銀行一樣,數(shù)據(jù)主體的信息由信息受托人或代理人代為交易并收取一定比例費(fèi)用。[4]2012年杰瑞·康(Jerry Kang)等人在《自我監(jiān)控隱私》一文中提議,引入隱私數(shù)據(jù)保護(hù)者(Privacy Data Guardian)作為數(shù)據(jù)主體和數(shù)據(jù)利用者的中介,數(shù)據(jù)主體將個(gè)人數(shù)據(jù)傳至由隱私數(shù)據(jù)保護(hù)者維護(hù)的個(gè)人數(shù)據(jù)庫(kù)中,隱私數(shù)據(jù)保護(hù)者對(duì)數(shù)據(jù)主體負(fù)有注意義務(wù)、保密義務(wù)以及忠誠(chéng)義務(wù)三項(xiàng)受托責(zé)任。[5]杰克·巴爾金(Jack M. Balkin)自2014年起于一系列文章中主張將收集、分析、使用、銷售和散布個(gè)人信息的在線服務(wù)提供商等視為信息受托人,[6]承擔(dān)信義義務(wù),以紓解用戶與在線服務(wù)提供商之間的緊張關(guān)系,并建議通過(guò)稅收減免等激勵(lì)措施使在線服務(wù)提供商承擔(dān)信義義務(wù)。巴爾金關(guān)于信息受托人的論斷一經(jīng)提出便引起廣泛關(guān)注,支持者有之,懷疑者亦有之。納巴布金(Ariel Dobkin)完善了巴爾金的數(shù)據(jù)信托理論,將在線服務(wù)提供商承擔(dān)信義義務(wù)的對(duì)象擴(kuò)至數(shù)據(jù)主體,并明確了信義義務(wù)的內(nèi)容。[7]勞倫斯(Neil Lawrence)提出自下而上的數(shù)據(jù)信托(bottm-up data tursts),數(shù)據(jù)主體將數(shù)據(jù)交由信托機(jī)構(gòu)管理,以改善數(shù)據(jù)共享中數(shù)據(jù)主體話語(yǔ)權(quán)缺失問(wèn)題。[8]杰利邁亞(Lau Jeremiah)等人分析了數(shù)據(jù)作為信托財(cái)產(chǎn)的適格性,探索公益和私益混合信托模式。[9]朗姆(Kimberly Rhum)回應(yīng)了對(duì)數(shù)據(jù)信托理論的懷疑觀點(diǎn),提議通過(guò)聯(lián)邦立法科以數(shù)據(jù)控制者信義義務(wù),并指出數(shù)據(jù)控制者承擔(dān)信義義務(wù)將促進(jìn)數(shù)字時(shí)代的選舉誠(chéng)信。[10]

    巴爾金數(shù)據(jù)信托理論提出后,我國(guó)學(xué)者便展開(kāi)相關(guān)研究。信托義務(wù)能夠使互聯(lián)網(wǎng)公司技術(shù)權(quán)力與法律責(zé)任相匹配。[11]122-137以理性人為理論預(yù)設(shè)的現(xiàn)行法律規(guī)范使得數(shù)據(jù)主體面臨信息決策和安全感困境,導(dǎo)致數(shù)據(jù)主體與數(shù)據(jù)控制者間呈權(quán)力失衡、緊張對(duì)立關(guān)系,提議在信賴?yán)砟顦?gòu)建下引入信義義務(wù)。[12]轉(zhuǎn)換“用戶賦權(quán)-企業(yè)擔(dān)責(zé)”單向路徑思路,企業(yè)成為用戶的受托人以達(dá)雙贏目的。[13]數(shù)據(jù)信托相較傳統(tǒng)賦權(quán)模式在隱私保護(hù)、數(shù)據(jù)主體維權(quán)與救濟(jì)等方面具有比較優(yōu)勢(shì)。[14]針對(duì)“監(jiān)視資本主義”和“科技封建主義”對(duì)用戶的剝削以及傳統(tǒng)賦權(quán)模式的失靈,以自下而上集體自治的信托模式應(yīng)對(duì)企業(yè)與用戶之間的不對(duì)等關(guān)系。[15]64-76數(shù)據(jù)主體作為委托人以其數(shù)據(jù)資產(chǎn)設(shè)立信托,實(shí)現(xiàn)信托受益權(quán)的轉(zhuǎn)讓,受托人對(duì)數(shù)據(jù)資產(chǎn)進(jìn)行管理,并向社會(huì)投資者分配信托利益。[16]探索建立具有公信力的數(shù)據(jù)托管平臺(tái)代理客戶管理其數(shù)據(jù)。[17]

    數(shù)據(jù)信托實(shí)踐探索同理論探究幾近同步開(kāi)展,英國(guó)政府發(fā)布的《發(fā)展人工智能產(chǎn)業(yè)發(fā)展報(bào)告》建議利用數(shù)據(jù)信托模式構(gòu)建數(shù)據(jù)治理框架,并將數(shù)據(jù)信托定義為“提供獨(dú)立的第三方數(shù)據(jù)管理的法律結(jié)構(gòu)”。[18]Alphabet的子公司步道實(shí)驗(yàn)室(SiedwalkLabs)與多倫多海濱公司(Waterfront Toronto)合作的智慧社區(qū)項(xiàng)目中提議將收集到的數(shù)據(jù)交由信托基金管理,并將該信托定義為“數(shù)據(jù)運(yùn)用與管理以及數(shù)字化基礎(chǔ)設(shè)施的范式,該等范式為社會(huì)及個(gè)體的福祉而同意并控制數(shù)據(jù)的歸集與使用?!盵19]美國(guó)特拉華州法院在Evertt V.Stste案中利用信托法原理保護(hù)用戶敏感信息免受侵害。[20]印度《個(gè)人數(shù)據(jù)保護(hù)法案草案》引入受托人概念,將數(shù)據(jù)受托人定義為“單獨(dú)或者與他人一起決定處理個(gè)人數(shù)據(jù)之目的和方式的任何人,包括邦、公司、法律實(shí)體或個(gè)人?!盵21]英國(guó)開(kāi)放數(shù)據(jù)研究所(ODI)報(bào)告認(rèn)為數(shù)據(jù)信托的基本目的是為了解決數(shù)據(jù)共享可能引致的問(wèn)題,將數(shù)據(jù)信托定義為“提供獨(dú)立的、受信任的數(shù)據(jù)管理權(quán)的法律結(jié)構(gòu)”。數(shù)據(jù)倫理和創(chuàng)新中心稱將同行業(yè)一起促進(jìn)數(shù)據(jù)信托落地作為其目標(biāo)之一。[22]我國(guó)中航信托率先探索并發(fā)行首單規(guī)模3000萬(wàn)元的數(shù)據(jù)信托產(chǎn)品。[23]

    由此,數(shù)據(jù)信托存在兩種不同的界定,第一種界定將目光聚焦于數(shù)據(jù)主體與數(shù)據(jù)控制者之間特殊的信賴關(guān)系,將數(shù)據(jù)控制者視為信息受托人,強(qiáng)調(diào)數(shù)據(jù)控制者的信義義務(wù),旨在解決數(shù)據(jù)主體與數(shù)據(jù)控制者之間的緊張關(guān)系。如前述巴爾金的數(shù)據(jù)信托理論;第二種界定重點(diǎn)在于設(shè)立受信的數(shù)據(jù)信托受托人,意在挖掘數(shù)據(jù)的價(jià)值,實(shí)現(xiàn)數(shù)據(jù)的共享與利用,如杰瑞·康所建議的隱私數(shù)據(jù)保護(hù)者以及和中航信托的有益探索與嘗試。

    (二)數(shù)據(jù)信托理論剖釋

    本部分主要圍繞巴爾金的數(shù)據(jù)信托理論,從信賴關(guān)系、信義義務(wù)的產(chǎn)生、復(fù)合權(quán)屬結(jié)構(gòu)等角度逐一剖析、類比,對(duì)信托機(jī)制同數(shù)據(jù)主體與數(shù)據(jù)控制者間的契合性加以分析、闡釋。

    首先,信賴是信托的邏輯起點(diǎn)和信托成立之必要前提,數(shù)據(jù)主體與數(shù)據(jù)控制者間亦存在信賴關(guān)系。數(shù)據(jù)控制者總是標(biāo)榜自己的可信度,使得數(shù)據(jù)主體相信數(shù)據(jù)由其控制是安全的?!靶刨囀侵敢蛐湃尾⒁蕾囁硕敢鈱⒆约旱拇嗳跣员┞督o他人的心態(tài)”,[12]具有脆弱性和依附性的數(shù)據(jù)主體任由數(shù)據(jù)控制者收集其個(gè)人數(shù)據(jù)的動(dòng)因之一是對(duì)數(shù)據(jù)控制者不會(huì)濫用其數(shù)據(jù),不會(huì)對(duì)其隱私等構(gòu)成威脅,內(nèi)含數(shù)據(jù)主體的信任和合理期待。在這種權(quán)力不平衡、知識(shí)與信息不對(duì)稱以及弱勢(shì)一方無(wú)法有效監(jiān)督或控制強(qiáng)勢(shì)一方所造成數(shù)據(jù)主體的脆弱性和依賴性的情境下,應(yīng)當(dāng)將二者間的關(guān)系視為一種信賴關(guān)系。

    其次,信托制度基于委托人的弱勢(shì)地位設(shè)計(jì)出較為嚴(yán)格的信義義務(wù),以對(duì)抗委托人與受托人間的信息不對(duì)稱。“數(shù)據(jù)控制者十分了解數(shù)據(jù)主體,反之,數(shù)據(jù)主體卻對(duì)數(shù)據(jù)控制者知之甚少,在數(shù)據(jù)控制者面前,數(shù)據(jù)主體顯得尤為脆弱且必須相信數(shù)據(jù)控制者不會(huì)為了自己的目的背叛或者操縱數(shù)據(jù)主體”。[24]數(shù)據(jù)控制者信義義務(wù)源自數(shù)據(jù)收集及利用的不透明性以及數(shù)據(jù)主體的依賴性和脆弱性,處于弱勢(shì)地位的數(shù)據(jù)主體由于信息不對(duì)稱和知識(shí)的缺乏無(wú)法有效監(jiān)督數(shù)據(jù)控制者和預(yù)估風(fēng)險(xiǎn),對(duì)數(shù)據(jù)控制者科以信義義務(wù)能夠?qū)箶?shù)據(jù)控制者利己和機(jī)會(huì)主義,避免數(shù)據(jù)控制者濫用數(shù)據(jù),損害數(shù)據(jù)主體的利益。

    最后,信托的權(quán)屬結(jié)構(gòu)復(fù)雜同數(shù)據(jù)相契合。委托人為信托財(cái)產(chǎn)的名義所有人,受托人為信托財(cái)產(chǎn)的實(shí)際控制人,而“數(shù)據(jù)主體的所有權(quán)由于其對(duì)數(shù)據(jù)控制力的徹底喪失而淪為一種名義所有權(quán),這種名義與實(shí)質(zhì)所有權(quán)分離的雙重所有權(quán)架構(gòu)與信托的權(quán)利配置結(jié)構(gòu)如出一轍。”[14]此外,數(shù)據(jù)具有動(dòng)態(tài)性,數(shù)據(jù)控制者利用海量的價(jià)值密度低的個(gè)人數(shù)據(jù)產(chǎn)生出衍生數(shù)據(jù),同管理信托財(cái)產(chǎn)以實(shí)現(xiàn)其保值增值的受托人角色相似。

    (三)數(shù)據(jù)信托的比較優(yōu)勢(shì)

    “告知-同意”模式在數(shù)字時(shí)代被置于虛位,一是由于繁多且冗長(zhǎng)的隱私條款會(huì)消耗過(guò)多的時(shí)間成本和精力,數(shù)據(jù)主體往往出于決策厭惡而選擇一鍵同意;二是數(shù)據(jù)主體的有限理性同“告知-同意”模式以數(shù)據(jù)主體是理性人的立論前提相左。數(shù)據(jù)主體缺乏數(shù)據(jù)收集、使用和披露所帶來(lái)的風(fēng)險(xiǎn)評(píng)估能力,即使閱讀了隱私條款,他們也難以知曉何種數(shù)據(jù)被收集以及數(shù)據(jù)如何被利用,亦無(wú)法輕易推斷出不同種類的數(shù)據(jù)結(jié)合將會(huì)得出怎樣的預(yù)測(cè)、推斷結(jié)果;三是數(shù)據(jù)主體拒絕隱私條款即意味著不能接受服務(wù),而被迫同意;四是隱私條款由數(shù)據(jù)控制者一方提供,為實(shí)現(xiàn)自身利益,數(shù)據(jù)控制者往往會(huì)降低隱私條款的可讀性、易理解性,偏離“告知-同意”模式的初衷。

    合同說(shuō)囿于合同相對(duì)性原則而顯露弊端,難以對(duì)合同外第三人追究責(zé)任。此外,當(dāng)數(shù)據(jù)控制者擁有越來(lái)越強(qiáng)大的算法和越來(lái)越多的數(shù)據(jù),即意味著其擁有更強(qiáng)的控制力。如前文所述,隱私問(wèn)題、數(shù)據(jù)操縱與數(shù)據(jù)歧視等并不僅針對(duì)特定的、享受數(shù)據(jù)控制者服務(wù)的數(shù)據(jù)主體而發(fā)生,數(shù)據(jù)濫用的影響具有擴(kuò)散性而影響到公共利益,數(shù)據(jù)信托理論認(rèn)為不能僅依賴特定數(shù)據(jù)主體與數(shù)據(jù)控制者之間的關(guān)系來(lái)避免數(shù)據(jù)濫用,而是應(yīng)當(dāng)將視角擴(kuò)至拷問(wèn)數(shù)據(jù)控制者在數(shù)據(jù)收集、分析、使用等過(guò)程中,對(duì)公眾應(yīng)當(dāng)負(fù)有那些責(zé)任和義務(wù),即將對(duì)特定數(shù)據(jù)主體的義務(wù)轉(zhuǎn)向至對(duì)公眾的誠(chéng)信和公平競(jìng)爭(zhēng)上來(lái)。

    數(shù)據(jù)信托相較上述路徑探索具有比較優(yōu)勢(shì)。數(shù)據(jù)信托模式下數(shù)據(jù)控制者對(duì)數(shù)據(jù)主體承擔(dān)信義義務(wù),要求其不能以有損數(shù)據(jù)主體利益之方式行事,在數(shù)據(jù)主體的合理預(yù)期內(nèi)收集數(shù)據(jù),并以最大的誠(chéng)意謹(jǐn)慎處理數(shù)據(jù),為規(guī)范數(shù)據(jù)操縱和數(shù)據(jù)歧視行為提供依據(jù),能夠最大限度地使數(shù)據(jù)主體免受數(shù)據(jù)濫用侵害。數(shù)據(jù)信托框架還要求數(shù)據(jù)控制者對(duì)其他主體利用相關(guān)數(shù)據(jù)具有審查義務(wù),且數(shù)據(jù)信托的受托人包括數(shù)據(jù)控制者以及共享或交易數(shù)據(jù)的第三方,祛除合同說(shuō)中第三方濫用數(shù)據(jù)的弊端。此外,在基于信任的隱私保護(hù)框架下,違背信任的行為本身即可被視為可訴行為,損害的量化或證明問(wèn)題將因此而迎刃而解。由數(shù)據(jù)受托人承擔(dān)舉證責(zé)任,不僅化解了數(shù)據(jù)主體的舉證證明難題,也提高了數(shù)據(jù)濫用和數(shù)據(jù)泄露的成本,使得數(shù)據(jù)控制者加大對(duì)數(shù)據(jù)的保護(hù)力度,激勵(lì)信息控制者將目光放在對(duì)長(zhǎng)期信賴關(guān)系的維護(hù)上,實(shí)現(xiàn)了激勵(lì)數(shù)據(jù)控制者以“公眾為本位”的長(zhǎng)遠(yuǎn)目標(biāo),重塑數(shù)據(jù)利用與保護(hù)格局。[25]最后,數(shù)據(jù)泄露不僅會(huì)損害數(shù)據(jù)主體的利益,也會(huì)損害數(shù)據(jù)控制者的利益,可由數(shù)據(jù)控制者提起訴訟,降低數(shù)據(jù)主體的維權(quán)成本。

    三、另一種聲音:數(shù)據(jù)信托的懷疑

    對(duì)數(shù)據(jù)信托的懷疑發(fā)聲于對(duì)該理論一片支持聲中,對(duì)數(shù)據(jù)信托理論的究問(wèn)主要圍繞前文所述第一種數(shù)據(jù)信托理論展開(kāi)。質(zhì)疑者并未否定數(shù)據(jù)信托理論的借鑒與啟發(fā)意義,但指出該理論亦存在矛盾缺陷及含混不清之處,繼而質(zhì)疑數(shù)據(jù)信托并非為數(shù)據(jù)濫用的破解之道和數(shù)據(jù)治理的萬(wàn)能良藥。

    (一)利益沖突問(wèn)題

    數(shù)據(jù)信托引致的利益沖突包含三個(gè)層面的表達(dá),一是數(shù)據(jù)主體與數(shù)據(jù)控制者的股東間的利益沖突導(dǎo)致數(shù)據(jù)控制者信義義務(wù)之“分裂”;二是雙邊市場(chǎng)沖突;三是數(shù)據(jù)保護(hù)與數(shù)據(jù)利用的沖突。首先,數(shù)據(jù)主體與股東間的利益沖突使數(shù)據(jù)控制者進(jìn)退維谷。例如,作為數(shù)據(jù)控制者的社交平臺(tái)通過(guò)數(shù)據(jù)主體對(duì)平臺(tái)的成癮性和依賴性獲利,激勵(lì)性構(gòu)造和商業(yè)模式的驅(qū)動(dòng)下平臺(tái)會(huì)刻意制造這種成癮性,而如若對(duì)平臺(tái)科以信義義務(wù),其不得以有損數(shù)據(jù)主體利益之方式行事,不應(yīng)刻意制造成癮性與依賴性,這與平臺(tái)的商業(yè)模式相背,與股東利益相左。對(duì)數(shù)據(jù)主體承擔(dān)信義義務(wù)將要求數(shù)據(jù)控制者改變現(xiàn)有商業(yè)模式,將數(shù)據(jù)主體利益置于首位。[26]497-541在實(shí)踐中的可行性也不強(qiáng),因?yàn)檫@種商業(yè)模式已深深嵌入現(xiàn)代社會(huì)中。其次,雙邊市場(chǎng)沖突在公共社交平臺(tái)盈利模式中尤甚,公共社交平臺(tái)同時(shí)面對(duì)數(shù)據(jù)主體和利用數(shù)據(jù)投放定向廣告的廣告商。數(shù)據(jù)控制者同時(shí)向數(shù)據(jù)主體和廣告商服務(wù),難以保證數(shù)據(jù)主體利益的最大化。最后,數(shù)據(jù)控制者承擔(dān)信義義務(wù)加重?cái)?shù)據(jù)控制者負(fù)擔(dān),遏制數(shù)據(jù)利用,阻礙數(shù)據(jù)產(chǎn)業(yè)發(fā)展。

    (二)信義義務(wù)的泛化與迷思

    近年來(lái)理論研究似有信托蔓延(fiduciary creep)之風(fēng),塞繆爾·布雷(Samuel Bray)和保羅·米勒(Paul Miller)批判了將信義義務(wù)施加于各種行為者的趨勢(shì)。[27]有學(xué)者認(rèn)為數(shù)據(jù)主體以個(gè)人數(shù)據(jù)為對(duì)價(jià)獲得產(chǎn)品使用權(quán)是一種利益交換,“其本質(zhì)是買(mǎi)賣(mài)合同關(guān)系,一般不產(chǎn)生信義的高度義務(wù)”。[28]將數(shù)據(jù)控制者同醫(yī)生進(jìn)行類比也并不恰當(dāng),數(shù)據(jù)主體相較患者脆弱性更強(qiáng),患者明晰同醫(yī)生形成醫(yī)患關(guān)系,而數(shù)據(jù)主體并不知曉自己置于何種關(guān)系之中,醫(yī)生與患者并不存在數(shù)據(jù)主體與控制者間的直接利益沖突,且醫(yī)生提供的服務(wù)與患者提供的信息大致成比例,而數(shù)據(jù)主體盡可能收集遠(yuǎn)超其服務(wù)所必需數(shù)據(jù)。[26]此外,數(shù)據(jù)信托理論關(guān)于數(shù)據(jù)信托受托人的范圍語(yǔ)焉不詳,數(shù)據(jù)控制者信義義務(wù)的引入可能導(dǎo)致信義義務(wù)泛化,消解信義義務(wù)的意義與價(jià)值。數(shù)據(jù)控制者信義義務(wù)泛化源自個(gè)人數(shù)據(jù)被記錄、收集的頻繁性與廣泛性。大數(shù)據(jù)時(shí)代從聽(tīng)歌軟件、線上點(diǎn)菜程序、出行軟件、社交軟件到購(gòu)物平臺(tái),數(shù)據(jù)主體的衣食住行的方方面面都存在數(shù)據(jù)被收集、利用的可能,每一個(gè)具有記錄、收集數(shù)據(jù)功能的主體都有可能被科以信義義務(wù)。此外,相同的數(shù)據(jù)可能被多個(gè)數(shù)據(jù)控制者所收集、利用加之信義義務(wù)的蔓延趨勢(shì)導(dǎo)致數(shù)據(jù)主體陷入難以確定數(shù)據(jù)濫用者的維權(quán)困境。[29]

    (三)數(shù)據(jù)作為信托財(cái)產(chǎn)的質(zhì)疑

    懷疑者從不同角度對(duì)數(shù)據(jù)作為信托財(cái)產(chǎn)的合理性與適應(yīng)性進(jìn)行拷問(wèn)。首先,質(zhì)疑數(shù)據(jù)主體對(duì)個(gè)人數(shù)據(jù)享有財(cái)產(chǎn)權(quán)或者財(cái)產(chǎn)權(quán)益的合理性。一是海量化、碎片化、價(jià)值密度低的個(gè)人數(shù)據(jù)不具有稀缺性以及使用價(jià)值和轉(zhuǎn)讓價(jià)值;二是數(shù)據(jù)呈指數(shù)級(jí)增長(zhǎng)的動(dòng)態(tài)變化不具有確定性且難以滿足信托財(cái)產(chǎn)的確定性要求;三是數(shù)據(jù)主體享有財(cái)產(chǎn)權(quán)或權(quán)益限制了數(shù)據(jù)流通;四是個(gè)人數(shù)據(jù)具有人身依附性和不可讓與性。其次,從作為信托制度的核心與靈魂之所在的信托財(cái)產(chǎn)的獨(dú)立性和靈活性以及信托財(cái)產(chǎn)管理規(guī)定質(zhì)疑數(shù)據(jù)視為信托財(cái)產(chǎn)的適應(yīng)性。一是“分別管理、分別記賬”的信托財(cái)產(chǎn)管理要求阻礙了數(shù)據(jù)價(jià)值的實(shí)現(xiàn);二是信托財(cái)產(chǎn)的彈性使得由數(shù)據(jù)控制者加工、分析而得衍生數(shù)據(jù)被劃入信托財(cái)產(chǎn)范疇,難以對(duì)數(shù)據(jù)控制者利用數(shù)據(jù)及數(shù)據(jù)產(chǎn)業(yè)發(fā)展形成正向激勵(lì)。

    四、數(shù)據(jù)信托理論完善思忖

    對(duì)數(shù)據(jù)信托理論的審視與懷疑為理論之熱帶來(lái)冷思考,使得我們重省數(shù)據(jù)信托的理論邏輯與適用。本文認(rèn)為數(shù)據(jù)信托理論并不必然導(dǎo)致無(wú)可調(diào)和的利益沖突,阻礙數(shù)據(jù)的利用和流通。

    (一)利益沖突問(wèn)題重省

    首先,“沖突”并非數(shù)據(jù)主體與股東抑或廣告商之間利益關(guān)系的精確表達(dá),即雙方之間并不處于利益的對(duì)立面,如精準(zhǔn)的定向廣告服務(wù)使得數(shù)據(jù)主體節(jié)省時(shí)間成本,享受數(shù)字時(shí)代的便捷。針對(duì)數(shù)據(jù)主體與股東的利益分裂,巴爾金認(rèn)為這種利益分裂觀點(diǎn)存在邏輯謬誤,數(shù)據(jù)濫用危害從數(shù)據(jù)主體的私益擴(kuò)張至公共利益,某種程度上對(duì)數(shù)據(jù)的濫用好比對(duì)環(huán)境的污染,將股東利益置于與數(shù)據(jù)主體利益之上而肆意濫用數(shù)據(jù),恰如為了股東利益而將污染物排放至河流中是違法的。[30]1183-1234因此,利益沖突問(wèn)題的產(chǎn)生不在于廣告商是否利用數(shù)據(jù),而在于其如何利用數(shù)據(jù),解決利益沖突問(wèn)題的關(guān)鍵是避免數(shù)據(jù)濫用。其次,“信賴?yán)碚摗笔抢娣制绲恼澈蟿??!靶刨嚒辈粌H是關(guān)系的反映,也是關(guān)系的重塑。雖然數(shù)據(jù)控制者的成本有所增加,但數(shù)據(jù)主體信賴增強(qiáng)會(huì)“產(chǎn)生更高質(zhì)量的數(shù)據(jù),而不是停留在娛樂(lè)和消費(fèi)過(guò)程中的有限信息”[15]。數(shù)據(jù)信托模式能夠促進(jìn)數(shù)據(jù)的流通與共享,數(shù)據(jù)控制者收集到更多的個(gè)人數(shù)據(jù),不僅能獲得其中的商業(yè)價(jià)值,也能使數(shù)據(jù)主體享受到數(shù)據(jù)控制者日臻完善的服務(wù)??傊?,數(shù)據(jù)信托理論與數(shù)據(jù)利用業(yè)務(wù)模式并非是邏輯的不一致,只是需要禁止業(yè)務(wù)模式中的剝削性行為,而非剝削性服務(wù)和產(chǎn)品不會(huì)被禁止。對(duì)數(shù)據(jù)控制者科以信義義務(wù)并不必然導(dǎo)致利益沖突,也并不必然阻礙數(shù)據(jù)利用進(jìn)程,破壞數(shù)據(jù)流通秩序。

    (二)數(shù)據(jù)信托財(cái)產(chǎn)問(wèn)題

    數(shù)據(jù)是否為財(cái)產(chǎn)本就極具爭(zhēng)議。由于數(shù)據(jù)的易復(fù)制性、非競(jìng)爭(zhēng)性和非排他性以及個(gè)人數(shù)據(jù)的低價(jià)值密度使得數(shù)據(jù)成為財(cái)產(chǎn)具有理論障礙,但是也有學(xué)者認(rèn)為“數(shù)據(jù)有價(jià),數(shù)據(jù)作為一項(xiàng)重要財(cái)產(chǎn),在信息社會(huì)流通和交易一場(chǎng)頻繁,逐步發(fā)展成為主要的社會(huì)基礎(chǔ)資源?!盵31]爭(zhēng)議的根源在于數(shù)據(jù)的使用價(jià)值和自身價(jià)值的不一致性,數(shù)據(jù)主體的個(gè)人數(shù)據(jù)價(jià)值密度低,但是海量數(shù)據(jù)匯集帶來(lái)巨大的經(jīng)濟(jì)和商業(yè)價(jià)值,這體現(xiàn)出數(shù)據(jù)的可交易性與數(shù)據(jù)本身價(jià)值的分離。米歇爾斯(Michels)將數(shù)據(jù)分為三個(gè)層次即物理層、內(nèi)容層、虛擬層,分別對(duì)應(yīng)儲(chǔ)存數(shù)據(jù)的物理介質(zhì)、數(shù)據(jù)所反映的信息內(nèi)容、訪問(wèn)或者操作數(shù)據(jù)的能力。[32]無(wú)論是從物理層、內(nèi)容層還是虛擬層均能反映出主體的控制力和排他性權(quán)利,體現(xiàn)了數(shù)據(jù)的財(cái)產(chǎn)屬性。此外,“數(shù)據(jù)的財(cái)產(chǎn)性體現(xiàn)為數(shù)據(jù)主體的數(shù)據(jù)權(quán)利和數(shù)據(jù)控制者的控制權(quán)而非數(shù)據(jù)本身……將信托標(biāo)的確定為數(shù)據(jù)權(quán)利,畢竟數(shù)據(jù)的財(cái)產(chǎn)價(jià)值主要來(lái)自于對(duì)數(shù)據(jù)的控制,包括對(duì)數(shù)據(jù)的處理和加工等而非數(shù)據(jù)本身”。[14]

    (三)受托人及其信義義務(wù)重述

    巴爾金認(rèn)為數(shù)據(jù)信托受托人與傳統(tǒng)受托人并不完全相同。一是數(shù)據(jù)主體享受數(shù)據(jù)控制者所提供服務(wù)的對(duì)價(jià)是數(shù)據(jù)控制者利用數(shù)據(jù)變現(xiàn),因此其利用數(shù)據(jù)獲利的行為并不違反信義義務(wù);二是許多如檢索網(wǎng)站和社交媒體平臺(tái)的商業(yè)和盈利模式?jīng)Q定了其希望數(shù)據(jù)主體更多地提供數(shù)據(jù);三是人們數(shù)據(jù)控制者履行信義義務(wù)的期待要小于傳統(tǒng)受托人。因此,數(shù)據(jù)控制者所承擔(dān)的信義義務(wù)的范圍要窄。數(shù)據(jù)控制者的信義義務(wù)產(chǎn)生于特殊的信賴關(guān)系,以及其中所內(nèi)含的脆弱性、依附性以及權(quán)力勢(shì)差,信義義務(wù)的承擔(dān)取決于關(guān)系的性質(zhì)、信任的合理性以及數(shù)據(jù)控制者濫用、操縱及越權(quán)的潛在危險(xiǎn),應(yīng)將數(shù)據(jù)控制者視為特殊目的的信息受托人,所承擔(dān)的信義義務(wù)應(yīng)與數(shù)據(jù)控制者業(yè)務(wù)性質(zhì)及公眾的合理期待相對(duì)應(yīng)。[6]

    巴爾金進(jìn)一步指出雖然數(shù)據(jù)控制者信義義務(wù)的承擔(dān)需要考慮到其業(yè)務(wù)性質(zhì)以及數(shù)據(jù)主體的合理期待,但是最基本的是數(shù)據(jù)控制者不能像騙子一樣行事,即誘使數(shù)據(jù)主體對(duì)其產(chǎn)生信賴,卻以背信的方式濫用數(shù)據(jù),損害數(shù)據(jù)主體的利益。因此,數(shù)據(jù)控制者對(duì)數(shù)據(jù)主體負(fù)有保密義務(wù)、注意義務(wù)和忠誠(chéng)義務(wù)三種。具言之,數(shù)據(jù)控制者不應(yīng)自稱保護(hù)數(shù)據(jù)安全并尊重隱私卻操縱、歧視數(shù)據(jù)主體,確保共享或交易數(shù)據(jù)的第三方同樣值得信賴,當(dāng)?shù)谌揭餐獬袚?dān)信義義務(wù)方可允許數(shù)據(jù)的流通、共享,如若第三方違反,數(shù)據(jù)控制者需采取措施取回?cái)?shù)據(jù)。在劍橋分析公司丑聞中,F(xiàn)acebook作為數(shù)據(jù)控制者未盡信義義務(wù)體現(xiàn)為沒(méi)有對(duì)數(shù)據(jù)訪問(wèn)主體和訪問(wèn)目的進(jìn)行適當(dāng)限制,沒(méi)有對(duì)第三方進(jìn)行審查以防其過(guò)度干預(yù)和操縱,沒(méi)有追回?cái)?shù)據(jù)。[24]

    本文以數(shù)據(jù)主體的“合理期待”作為判斷標(biāo)準(zhǔn),認(rèn)為數(shù)據(jù)控制者的信義義務(wù)可具體概括為五個(gè)方面即不違反隱私條款、不操縱、不歧視、充分告知以及數(shù)據(jù)共享與流通時(shí)對(duì)第三方的審查義務(wù)。第一,數(shù)據(jù)控制者不能違反其提供的隱私條款中的承諾,如數(shù)據(jù)控制者應(yīng)在隱私條款中列明數(shù)據(jù)收集的范圍,則數(shù)據(jù)的收集僅限于提供服務(wù)及提高服務(wù)質(zhì)量之必需而不能過(guò)度收集。第二,對(duì)不操縱的合理期待意味著數(shù)據(jù)控制者利用數(shù)據(jù)的方式不能干擾數(shù)據(jù)主體自我決策的自由以及為了實(shí)現(xiàn)自己的利益而有損數(shù)據(jù)主體的福利??梢砸远ㄏ驈V告為例理解數(shù)據(jù)主體對(duì)不操縱的合理期待,廣告的存在就是為了影響消費(fèi)者是否購(gòu)買(mǎi)以及購(gòu)買(mǎi)何種商品的決策,判斷操縱性的關(guān)鍵是在于廣告是否具有掠奪性。定向廣告可區(qū)分情景廣告與行為廣告兩種,情景廣告如訪問(wèn)課程學(xué)習(xí)網(wǎng)站,網(wǎng)站頁(yè)面下方推送相關(guān)課程書(shū)籍的購(gòu)買(mǎi)鏈接,而行為廣告是需要通過(guò)數(shù)據(jù)收集與分析,針對(duì)數(shù)據(jù)主體的興趣、偏好及心理等特征有針對(duì)性地推送廣告。[30]前者廣告與特定的網(wǎng)站內(nèi)容進(jìn)行合理關(guān)聯(lián),廣告推送具有被動(dòng)性和非掠奪性,并不違反信義義務(wù)。而后者是主動(dòng)地與特定數(shù)據(jù)主體相關(guān)聯(lián),判斷后者是否具有掠奪性在于其是否具有隱蔽性和誘導(dǎo)性,如數(shù)據(jù)控制者收集到某數(shù)據(jù)主體的身高和體重?cái)?shù)據(jù)且發(fā)現(xiàn)該數(shù)據(jù)主體曾瀏覽過(guò)減肥產(chǎn)品但瀏覽的時(shí)間和頻率并不高,由此刻畫(huà)出該數(shù)據(jù)主體有減肥或者說(shuō)購(gòu)買(mǎi)減肥產(chǎn)品的想法或需求,但并不強(qiáng)烈。于是數(shù)據(jù)控制者為了實(shí)現(xiàn)推銷減肥產(chǎn)品之目的,針對(duì)性地推文刻意制造容貌焦慮使數(shù)據(jù)主體陷入為其設(shè)計(jì)的消費(fèi)陷阱中而不自知。不操縱意味著可以允許數(shù)據(jù)主體接觸到非掠奪性廣告,但應(yīng)排除數(shù)據(jù)主體接觸到掠奪性廣告的可能。[24]第三,不歧視要求數(shù)據(jù)控制者不對(duì)特定數(shù)據(jù)主體在服務(wù)、價(jià)格或未來(lái)機(jī)會(huì)等方面進(jìn)行不合理的差別對(duì)待。合理的差別對(duì)待如對(duì)老人、兒童或殘疾人等實(shí)行價(jià)格優(yōu)惠,對(duì)會(huì)員與非會(huì)員的服務(wù)差別,這并不會(huì)有違數(shù)據(jù)主體的合理期待,因?yàn)椴顒e對(duì)待的原因正當(dāng)且公開(kāi)透明的。不合理的差別對(duì)待如大數(shù)據(jù)殺熟,如Uber公司基于女性在天黑后乘車(chē)比步行的可能性更大而在夜間向女性收取更高的乘車(chē)費(fèi)用。[7]第四,告知義務(wù)意味著數(shù)據(jù)控制者需以簡(jiǎn)明、易理解的方式使數(shù)據(jù)主體了解到數(shù)據(jù)收集利用的范圍以及可能存在的風(fēng)險(xiǎn),正如公共場(chǎng)所安裝監(jiān)控?cái)z像頭通常會(huì)有“已進(jìn)入監(jiān)控區(qū)域”的提示。第五,數(shù)據(jù)控制者所承擔(dān)的信義義務(wù)應(yīng)與其業(yè)務(wù)性質(zhì)及公眾的合理期待相對(duì)應(yīng)、數(shù)據(jù)價(jià)值實(shí)現(xiàn)方式之一是共享與交流以及數(shù)據(jù)的動(dòng)態(tài)性共同決定數(shù)據(jù)控制者在數(shù)據(jù)共享與流通時(shí)對(duì)第三方負(fù)有審查義務(wù)。

    猜你喜歡
    主體
    一起多個(gè)違法主體和多種違法行為案件引發(fā)的思考
    論碳審計(jì)主體
    論自然人破產(chǎn)法的適用主體
    從“我”到“仲肯”——阿來(lái)小說(shuō)中敘述主體的轉(zhuǎn)變
    如何讓群眾成為鄉(xiāng)村振興的主體?
    何謂“主體間性”
    技術(shù)創(chuàng)新體系的5個(gè)主體
    中醫(yī)文獻(xiàn)是中醫(yī)寶庫(kù)的主體
    關(guān)于遺產(chǎn)保護(hù)主體的思考
    懷舊風(fēng)勁吹,80、90后成懷舊消費(fèi)主體
    金色年華(2016年13期)2016-02-28 01:43:27
    狂野欧美激情性xxxx在线观看| 男人爽女人下面视频在线观看| 交换朋友夫妻互换小说| 深夜精品福利| 久久精品国产亚洲av涩爱| h视频一区二区三区| 丁香六月天网| 亚洲欧美清纯卡通| 欧美日韩国产mv在线观看视频| 成人国语在线视频| 久久久久久久久久人人人人人人| 亚洲精品美女久久久久99蜜臀 | 成人影院久久| 26uuu在线亚洲综合色| 成人黄色视频免费在线看| 国产黄频视频在线观看| 亚洲av国产av综合av卡| freevideosex欧美| 欧美xxⅹ黑人| 国产高清三级在线| 亚洲欧美中文字幕日韩二区| 日本爱情动作片www.在线观看| 最新中文字幕久久久久| 免费人妻精品一区二区三区视频| 大香蕉久久成人网| 欧美日韩成人在线一区二区| 哪个播放器可以免费观看大片| 伊人亚洲综合成人网| 91精品三级在线观看| 欧美日本中文国产一区发布| 国产成人一区二区在线| 伊人久久国产一区二区| 999精品在线视频| 久久人人97超碰香蕉20202| 亚洲图色成人| 久久久a久久爽久久v久久| 少妇精品久久久久久久| 国产日韩欧美视频二区| 亚洲av福利一区| 哪个播放器可以免费观看大片| 亚洲天堂av无毛| 欧美日韩视频精品一区| 美女中出高潮动态图| 国产 精品1| 91精品伊人久久大香线蕉| 久久午夜综合久久蜜桃| 久久久久久伊人网av| 亚洲天堂av无毛| 成人黄色视频免费在线看| 欧美日韩综合久久久久久| 日韩精品免费视频一区二区三区 | videos熟女内射| 秋霞在线观看毛片| videossex国产| 久久影院123| 中国国产av一级| 99热网站在线观看| 亚洲av成人精品一二三区| 精品第一国产精品| 91精品三级在线观看| 国产色爽女视频免费观看| 精品人妻一区二区三区麻豆| 国产亚洲精品第一综合不卡 | 亚洲色图 男人天堂 中文字幕 | 美女xxoo啪啪120秒动态图| 日韩三级伦理在线观看| 桃花免费在线播放| 国产精品欧美亚洲77777| 国产精品女同一区二区软件| 欧美xxⅹ黑人| 女的被弄到高潮叫床怎么办| 国产精品99久久99久久久不卡 | 免费高清在线观看日韩| 国产福利在线免费观看视频| 永久免费av网站大全| 亚洲精品久久成人aⅴ小说| 久久久国产欧美日韩av| 超碰97精品在线观看| 丰满饥渴人妻一区二区三| 九九爱精品视频在线观看| 日本欧美视频一区| 人人妻人人爽人人添夜夜欢视频| 成人免费观看视频高清| 黑丝袜美女国产一区| 高清视频免费观看一区二区| 国产探花极品一区二区| 熟女电影av网| 久久国产精品大桥未久av| 少妇的逼水好多| 国产在线免费精品| 人成视频在线观看免费观看| 亚洲美女黄色视频免费看| 亚洲欧洲国产日韩| 日韩制服骚丝袜av| 久久ye,这里只有精品| 国产欧美日韩综合在线一区二区| 国产精品国产三级专区第一集| 国产麻豆69| 色哟哟·www| 亚洲精品av麻豆狂野| 亚洲欧洲日产国产| 亚洲精品乱久久久久久| 亚洲国产av新网站| 69精品国产乱码久久久| 2022亚洲国产成人精品| 日韩av不卡免费在线播放| 国产女主播在线喷水免费视频网站| 全区人妻精品视频| 国产福利在线免费观看视频| 欧美日韩精品成人综合77777| 亚洲美女黄色视频免费看| 国产福利在线免费观看视频| 国产精品一区二区在线观看99| 精品人妻熟女毛片av久久网站| 男人添女人高潮全过程视频| av黄色大香蕉| 中文字幕制服av| 久久精品久久久久久久性| 亚洲国产色片| 中文字幕精品免费在线观看视频 | 国产亚洲av片在线观看秒播厂| 内地一区二区视频在线| 久久99热6这里只有精品| 热99国产精品久久久久久7| 咕卡用的链子| 久久韩国三级中文字幕| 亚洲情色 制服丝袜| 人人澡人人妻人| 久久久久人妻精品一区果冻| 色视频在线一区二区三区| av国产久精品久网站免费入址| www日本在线高清视频| 91精品伊人久久大香线蕉| 久久青草综合色| 91在线精品国自产拍蜜月| 国精品久久久久久国模美| 国产精品久久久久久精品电影小说| 亚洲成人一二三区av| 午夜影院在线不卡| 国产午夜精品一二区理论片| av视频免费观看在线观看| 国产一区二区三区综合在线观看 | 一本—道久久a久久精品蜜桃钙片| 美女xxoo啪啪120秒动态图| 久久午夜福利片| 亚洲高清免费不卡视频| 热re99久久国产66热| av在线播放精品| 久久 成人 亚洲| 制服人妻中文乱码| 日日撸夜夜添| 日韩伦理黄色片| 91aial.com中文字幕在线观看| 日本午夜av视频| 欧美精品av麻豆av| 老司机影院成人| 国产成人aa在线观看| 男人爽女人下面视频在线观看| 下体分泌物呈黄色| 在线免费观看不下载黄p国产| 亚洲av综合色区一区| 丁香六月天网| 少妇高潮的动态图| 亚洲av欧美aⅴ国产| 精品一区二区免费观看| 黄片播放在线免费| 下体分泌物呈黄色| 国产精品久久久久久久久免| 亚洲少妇的诱惑av| 亚洲成av片中文字幕在线观看 | 飞空精品影院首页| 国产色爽女视频免费观看| 日韩成人伦理影院| 制服丝袜香蕉在线| www.色视频.com| 啦啦啦中文免费视频观看日本| 美女内射精品一级片tv| 夜夜骑夜夜射夜夜干| 久久 成人 亚洲| av国产精品久久久久影院| 欧美 亚洲 国产 日韩一| 三上悠亚av全集在线观看| 亚洲少妇的诱惑av| 国产精品久久久久久久久免| 女性被躁到高潮视频| 免费黄色在线免费观看| 亚洲国产欧美日韩在线播放| 内地一区二区视频在线| 精品亚洲成a人片在线观看| 精品国产一区二区三区四区第35| 考比视频在线观看| 亚洲国产日韩一区二区| 午夜日本视频在线| 欧美日韩成人在线一区二区| 亚洲精华国产精华液的使用体验| 亚洲少妇的诱惑av| 久久狼人影院| 国产成人午夜福利电影在线观看| 亚洲,欧美,日韩| 日本黄色日本黄色录像| 亚洲成av片中文字幕在线观看 | 国产老妇伦熟女老妇高清| 少妇 在线观看| 啦啦啦啦在线视频资源| 精品亚洲成国产av| 国产精品人妻久久久久久| 黄色配什么色好看| 久久99一区二区三区| 少妇被粗大猛烈的视频| 一级a做视频免费观看| 亚洲高清免费不卡视频| 人人澡人人妻人| 成人影院久久| 日本av手机在线免费观看| www日本在线高清视频| 久久精品国产鲁丝片午夜精品| 久久亚洲国产成人精品v| 狠狠婷婷综合久久久久久88av| 日本与韩国留学比较| 亚洲国产精品专区欧美| 久久久精品94久久精品| 日本欧美国产在线视频| 十八禁高潮呻吟视频| 成人亚洲精品一区在线观看| 欧美bdsm另类| 亚洲情色 制服丝袜| 色婷婷久久久亚洲欧美| 热re99久久精品国产66热6| 自线自在国产av| 久久这里有精品视频免费| 日本黄大片高清| 少妇人妻 视频| 国产国拍精品亚洲av在线观看| 国内精品宾馆在线| 国产又爽黄色视频| 午夜福利在线观看免费完整高清在| 久久久久久伊人网av| 亚洲 欧美一区二区三区| 成人无遮挡网站| 午夜福利影视在线免费观看| 九色亚洲精品在线播放| 乱人伦中国视频| 欧美激情国产日韩精品一区| 汤姆久久久久久久影院中文字幕| 日韩av免费高清视频| 在线 av 中文字幕| 国产又爽黄色视频| 你懂的网址亚洲精品在线观看| 成人综合一区亚洲| 不卡视频在线观看欧美| 亚洲国产精品一区二区三区在线| 中国三级夫妇交换| av卡一久久| 精品人妻一区二区三区麻豆| 亚洲美女搞黄在线观看| 亚洲国产日韩一区二区| 久久99精品国语久久久| 一级片'在线观看视频| 老司机亚洲免费影院| 国产免费又黄又爽又色| 国产有黄有色有爽视频| 久久免费观看电影| 婷婷色麻豆天堂久久| 国产精品秋霞免费鲁丝片| 久久99热这里只频精品6学生| 亚洲精品456在线播放app| 高清视频免费观看一区二区| 国产精品成人在线| 综合色丁香网| videossex国产| 国产成人aa在线观看| 黑人巨大精品欧美一区二区蜜桃 | 视频在线观看一区二区三区| 女人精品久久久久毛片| 天堂8中文在线网| 在线 av 中文字幕| 久久精品国产亚洲av天美| 久久久精品免费免费高清| 99国产综合亚洲精品| av福利片在线| 亚洲婷婷狠狠爱综合网| 国产无遮挡羞羞视频在线观看| 免费黄频网站在线观看国产| 久久久久久久久久成人| 高清黄色对白视频在线免费看| 中文字幕人妻熟女乱码| 欧美另类一区| 亚洲综合精品二区| 丝袜在线中文字幕| 人妻 亚洲 视频| 九九在线视频观看精品| 男人操女人黄网站| √禁漫天堂资源中文www| 少妇猛男粗大的猛烈进出视频| 九色亚洲精品在线播放| 涩涩av久久男人的天堂| 日韩在线高清观看一区二区三区| 日本免费在线观看一区| 美女主播在线视频| 亚洲欧洲精品一区二区精品久久久 | 国产永久视频网站| 色婷婷av一区二区三区视频| 免费久久久久久久精品成人欧美视频 | 成人国产麻豆网| 男男h啪啪无遮挡| 亚洲av在线观看美女高潮| 赤兔流量卡办理| 亚洲精品aⅴ在线观看| 亚洲综合色网址| a级毛片黄视频| 欧美激情 高清一区二区三区| 日本av免费视频播放| 91精品伊人久久大香线蕉| videos熟女内射| 亚洲成人av在线免费| 制服诱惑二区| 一级片'在线观看视频| 咕卡用的链子| 韩国精品一区二区三区 | 亚洲精品国产色婷婷电影| 三级国产精品片| 少妇高潮的动态图| xxx大片免费视频| 秋霞在线观看毛片| 久久av网站| 纵有疾风起免费观看全集完整版| 亚洲精品,欧美精品| 在线观看三级黄色| 99九九在线精品视频| 国产爽快片一区二区三区| 亚洲中文av在线| 七月丁香在线播放| 久久久久网色| 欧美变态另类bdsm刘玥| 日本av免费视频播放| 国产免费视频播放在线视频| 晚上一个人看的免费电影| 尾随美女入室| 日韩中字成人| 国产亚洲精品久久久com| 伊人久久国产一区二区| 女性生殖器流出的白浆| 视频区图区小说| 国内精品宾馆在线| 国产精品人妻久久久久久| 欧美人与性动交α欧美精品济南到 | 国产一区有黄有色的免费视频| 伦理电影大哥的女人| 国产av码专区亚洲av| 亚洲美女视频黄频| 狂野欧美激情性xxxx在线观看| 韩国高清视频一区二区三区| 亚洲精华国产精华液的使用体验| 日韩中字成人| 日日摸夜夜添夜夜爱| 欧美3d第一页| 99re6热这里在线精品视频| 亚洲国产av新网站| 校园人妻丝袜中文字幕| 在线亚洲精品国产二区图片欧美| 久久久精品免费免费高清| 老熟女久久久| 九九在线视频观看精品| 黑人欧美特级aaaaaa片| av在线老鸭窝| 波多野结衣一区麻豆| 欧美 亚洲 国产 日韩一| 久久av网站| 国产欧美另类精品又又久久亚洲欧美| 超碰97精品在线观看| 国产福利在线免费观看视频| 国产av国产精品国产| 久久精品熟女亚洲av麻豆精品| 视频区图区小说| 欧美成人午夜精品| 亚洲第一区二区三区不卡| 人人妻人人添人人爽欧美一区卜| 国产色婷婷99| 26uuu在线亚洲综合色| 侵犯人妻中文字幕一二三四区| 九九在线视频观看精品| 视频中文字幕在线观看| 男女无遮挡免费网站观看| 亚洲av成人精品一二三区| 欧美成人午夜精品| 狠狠婷婷综合久久久久久88av| 久久青草综合色| 国产av一区二区精品久久| 久久这里只有精品19| 99热全是精品| 天堂中文最新版在线下载| 日日摸夜夜添夜夜爱| 国产精品人妻久久久久久| 免费不卡的大黄色大毛片视频在线观看| 香蕉精品网在线| 成人毛片a级毛片在线播放| 嫩草影院入口| 欧美人与善性xxx| 一级片'在线观看视频| 韩国精品一区二区三区 | 国产精品久久久久久av不卡| 亚洲精华国产精华液的使用体验| 亚洲精品乱久久久久久| 精品99又大又爽又粗少妇毛片| 国产极品天堂在线| 在现免费观看毛片| 成人亚洲精品一区在线观看| 成人18禁高潮啪啪吃奶动态图| 在线观看人妻少妇| 看非洲黑人一级黄片| 最近2019中文字幕mv第一页| 另类亚洲欧美激情| 欧美国产精品一级二级三级| tube8黄色片| 久久精品国产自在天天线| 国产黄色视频一区二区在线观看| 免费av不卡在线播放| 成人18禁高潮啪啪吃奶动态图| 国产一区有黄有色的免费视频| 国产一区二区在线观看日韩| 久久久久国产精品人妻一区二区| 九九在线视频观看精品| av在线播放精品| 国产不卡av网站在线观看| 自拍欧美九色日韩亚洲蝌蚪91| 欧美成人精品欧美一级黄| 亚洲精品乱码久久久久久按摩| 性色avwww在线观看| 国产成人一区二区在线| 国产精品人妻久久久影院| 国产乱人偷精品视频| 欧美精品一区二区免费开放| 最近2019中文字幕mv第一页| 天堂中文最新版在线下载| 一二三四中文在线观看免费高清| av视频免费观看在线观看| av免费在线看不卡| 晚上一个人看的免费电影| 如日韩欧美国产精品一区二区三区| 亚洲五月色婷婷综合| 美女脱内裤让男人舔精品视频| 综合色丁香网| 国产xxxxx性猛交| 精品一区二区三区四区五区乱码 | 久久久久国产精品人妻一区二区| 中文字幕人妻丝袜制服| 国产成人免费无遮挡视频| 欧美+日韩+精品| 精品一区在线观看国产| 又黄又爽又刺激的免费视频.| 婷婷色麻豆天堂久久| 女性被躁到高潮视频| 国产av精品麻豆| 国产成人免费无遮挡视频| 深夜精品福利| 男女国产视频网站| 精品一区二区三卡| 国产精品国产三级专区第一集| 午夜激情av网站| 亚洲av欧美aⅴ国产| 婷婷色综合www| 人人妻人人澡人人爽人人夜夜| 亚洲欧美日韩卡通动漫| 国产精品国产av在线观看| 爱豆传媒免费全集在线观看| 免费看av在线观看网站| 亚洲一区二区三区欧美精品| 国产精品久久久久成人av| 99精国产麻豆久久婷婷| 久久97久久精品| 十八禁网站网址无遮挡| 欧美精品国产亚洲| 午夜福利视频在线观看免费| 99香蕉大伊视频| av女优亚洲男人天堂| 欧美日韩综合久久久久久| 亚洲欧美日韩卡通动漫| 少妇被粗大的猛进出69影院 | 夜夜骑夜夜射夜夜干| www.av在线官网国产| 青青草视频在线视频观看| 蜜桃在线观看..| 国产亚洲最大av| a级片在线免费高清观看视频| 激情五月婷婷亚洲| 蜜桃在线观看..| 欧美另类一区| 男女无遮挡免费网站观看| 我的女老师完整版在线观看| 久久久久久人妻| 国产国语露脸激情在线看| 免费黄网站久久成人精品| 日本午夜av视频| 国产精品久久久久久久久免| 免费在线观看黄色视频的| 黑人巨大精品欧美一区二区蜜桃 | 精品亚洲乱码少妇综合久久| 人人妻人人澡人人看| 午夜精品国产一区二区电影| 人人妻人人澡人人看| av线在线观看网站| 菩萨蛮人人尽说江南好唐韦庄| 亚洲精品一区蜜桃| 少妇的丰满在线观看| 国产淫语在线视频| 欧美国产精品一级二级三级| 亚洲精品久久成人aⅴ小说| 国产激情久久老熟女| 亚洲国产看品久久| 色哟哟·www| 80岁老熟妇乱子伦牲交| 亚洲内射少妇av| 美女视频免费永久观看网站| 黑丝袜美女国产一区| 在线观看免费高清a一片| 人妻 亚洲 视频| 中文字幕人妻熟女乱码| 中文字幕亚洲精品专区| 精品国产一区二区久久| 亚洲图色成人| 日韩中文字幕视频在线看片| 亚洲少妇的诱惑av| 久久久久视频综合| 丝瓜视频免费看黄片| 草草在线视频免费看| 国产亚洲av片在线观看秒播厂| 亚洲av福利一区| 人妻 亚洲 视频| 久久综合国产亚洲精品| 欧美老熟妇乱子伦牲交| 美女xxoo啪啪120秒动态图| 国产成人午夜福利电影在线观看| 国产精品欧美亚洲77777| 日韩一区二区视频免费看| 色哟哟·www| 亚洲人成网站在线观看播放| 成人18禁高潮啪啪吃奶动态图| 国产午夜精品一二区理论片| 国产亚洲午夜精品一区二区久久| 久久精品熟女亚洲av麻豆精品| 一边亲一边摸免费视频| 亚洲精品久久成人aⅴ小说| 少妇的逼好多水| 一区二区日韩欧美中文字幕 | 王馨瑶露胸无遮挡在线观看| 欧美激情国产日韩精品一区| 人人妻人人添人人爽欧美一区卜| 免费在线观看完整版高清| 欧美日韩视频高清一区二区三区二| 亚洲,欧美,日韩| 最近中文字幕高清免费大全6| 久久久久精品人妻al黑| av国产精品久久久久影院| 国产在线视频一区二区| 看免费av毛片| 黄色一级大片看看| 卡戴珊不雅视频在线播放| 欧美激情极品国产一区二区三区 | 欧美激情 高清一区二区三区| 成人影院久久| 午夜福利,免费看| 看免费av毛片| 国产在线免费精品| 热re99久久国产66热| 免费高清在线观看日韩| 精品久久久精品久久久| 人体艺术视频欧美日本| 夜夜骑夜夜射夜夜干| 满18在线观看网站| 亚洲人与动物交配视频| 亚洲精品自拍成人| 最近2019中文字幕mv第一页| 日韩av在线免费看完整版不卡| 人妻少妇偷人精品九色| 男女边摸边吃奶| 三级国产精品片| 美女主播在线视频| 国产深夜福利视频在线观看| 桃花免费在线播放| 国产亚洲av片在线观看秒播厂| 国国产精品蜜臀av免费| 伦精品一区二区三区| 大片免费播放器 马上看| 国产免费福利视频在线观看| 少妇人妻精品综合一区二区| 日韩中字成人| 老女人水多毛片| 少妇的逼好多水| 国产成人一区二区在线| 精品卡一卡二卡四卡免费| 成人毛片60女人毛片免费| 黄网站色视频无遮挡免费观看| 日本色播在线视频| 国产在线一区二区三区精| 各种免费的搞黄视频| 少妇被粗大的猛进出69影院 | 久久久国产一区二区| 国产又色又爽无遮挡免| xxxhd国产人妻xxx| 亚洲人成77777在线视频| 在线 av 中文字幕| 亚洲精品乱码久久久久久按摩| 在线观看www视频免费| 免费播放大片免费观看视频在线观看| 亚洲国产精品国产精品| 午夜激情久久久久久久| 国产不卡av网站在线观看| 青春草亚洲视频在线观看| 亚洲性久久影院| 中文字幕av电影在线播放| 国产免费现黄频在线看| 国产在视频线精品| 精品人妻偷拍中文字幕| 成人二区视频| 精品久久久久久电影网|