• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    從個人控制與產(chǎn)品規(guī)制到合作治理
    ——論個人信息保護(hù)的模式轉(zhuǎn)變

    2023-01-03 13:17:25
    華東政法大學(xué)學(xué)報 2022年2期
    關(guān)鍵詞:數(shù)據(jù)保護(hù)信息處理規(guī)制

    李 芊

    一、問題的提出

    2021 年11 月1 日,《個人信息保護(hù)法》開始實施。該法明確了個人信息的范圍、個人信息主體的權(quán)利、信息處理者的義務(wù)及責(zé)任分配、主管部門的責(zé)任等內(nèi)容,構(gòu)建了個人信息保護(hù)制度的基本框架。個人信息保護(hù)模式要溯源到公平信息實踐(Fair Information Practices,簡稱“FIP”)。20 世紀(jì)70 年代,美國衛(wèi)生、教育和福利部門中的一個咨詢委員會關(guān)注到美國政府大量處理個人信息的行為,提出了以公平信息實踐五項原則來應(yīng)對個人信息處理與運(yùn)用中的不合理行為。該報告指出:“基于檔案保存中的互惠觀念,保護(hù)個人隱私需要檔案保存者遵守公平信息實踐中的基本原則?!薄?〕See U.S. Department of Health Education and Welfare, Records, Computers, and the Rights of Citizens Report of the Secretary’s Advisory Committee on Automated Personal Data Systems, The MIT Press, 1973.到了1977 年,公平信息實踐進(jìn)一步發(fā)展出了公開、個人訪問、個人參與、收集限制、使用限制、披露限制、信息管理、問責(zé)等原則,〔2〕參見丁曉東:《論個人信息法律保護(hù)的思想淵源與基本原理——基于“公平信息實踐”的分析》,載《現(xiàn)代法學(xué)》2019 年第3 期,第97-98 頁。初步確立了個人信息保護(hù)制度的基本框架,并逐漸發(fā)展成了現(xiàn)代信息隱私法的基礎(chǔ)?!?〕See Woodrow Hartzog, “The Inadequate, Invaluable Fair Information Practices”, 76 Maryland Law Review 952, 953-954 (2017).

    在以公平實踐為基礎(chǔ)的個人信息保護(hù)框架中,個人控制模式占據(jù)了重要地位。然而,一些國家、地區(qū)的個人控制要求不斷異化,異化后的個人控制模式難以應(yīng)對層出不窮的問題。本文從個人控制的限度出發(fā),并結(jié)合產(chǎn)品規(guī)制這一替代方案的優(yōu)點與不足,對個人信息保護(hù)模式進(jìn)行重構(gòu)性分析。本文首先指出個人控制模式的不足與危機(jī),并指出產(chǎn)品規(guī)制這一替代性模式。其次,本文指出,產(chǎn)品規(guī)制雖然可以緩解個人控制的絕對化實踐方式,但在實施過程中也面臨若干問題:自身的正當(dāng)性解釋力不足;自身體系不完整、救濟(jì)方式不明確;完全忽視了個人控制模式的可能優(yōu)點。最后,為解決上述問題,本文引入合作治理的概念,試圖結(jié)合個人控制與產(chǎn)品規(guī)制的優(yōu)點,整合個人信息保護(hù)中的制度工具,從而為解決個人信息保護(hù)提供更為整全性的方案。

    二、個人控制模式的危機(jī)

    (一)個人控制模式的內(nèi)容與異化

    在公平信息實踐原則的具體化實踐中,最關(guān)鍵的內(nèi)容是賦予主體“隱私自我管理”的權(quán)利,這是個人信息保護(hù)立法與實踐的基本范式和方法。〔4〕See Paul M. Schwartz, “Privacy and Democracy in Cyberspace”, 52 Vanderbilt Law Review 1609,1659(1999).隱私的自我管理理論也可稱為“個人控制”,是指個人能夠知曉、管理、選擇個人信息的內(nèi)容以及流向的能力。其主要依賴兩方面的機(jī)制得以實現(xiàn):賦權(quán)機(jī)制與同意機(jī)制。賦權(quán)機(jī)制并非賦予個人信息處理者與信息主體對等的權(quán)利義務(wù),而是將權(quán)利的天平傾向個人信息主體。同意機(jī)制則以“告知—同意”為核心,要求信息處理者在處理個人信息時應(yīng)當(dāng)事先充分告知,經(jīng)個人同意方能獲取個人信息,而且個人有權(quán)撤回同意。另外,信息處理者在信息變更時需要重新取得個人的同意。

    在實踐中,以賦權(quán)機(jī)制及“告知—同意”為核心的同意機(jī)制逐漸成為個人控制模式中最主要的保護(hù)工具。然而,隨著這種模式的不斷發(fā)展與演化,“告知—同意”幾乎成了個人信息保護(hù)的最重要工具。這種過度強(qiáng)調(diào)個人控制重要性的方式使得個人信息保護(hù)模式逐漸走向單一化與形式化,忽視了現(xiàn)實因素、風(fēng)險控制和綜合治理等問題。

    當(dāng)然,為了更好地實現(xiàn)控制效果,同意機(jī)制進(jìn)行了一系列的優(yōu)化。例如,信息處理者在獲取同意時,可能會強(qiáng)制用戶閱讀隱私政策,或者突出告知用戶重點條款等,這可能在一定程度上改善了真實同意率低的現(xiàn)象。但是這些做法依舊沒有從根本上解決個人控制模式的內(nèi)在缺陷,并不能達(dá)到最初預(yù)想的效果。面對日新月異的新技術(shù)與新問題,絕對化的個人控制框架已經(jīng)出現(xiàn)了適用局限,難以承擔(dān)起整個個人信息保護(hù)的重任。

    (二)個人控制模式實施的主要限度

    個人控制模式之所以被廣泛運(yùn)用,原因在于這一模式的簡便易行與對企業(yè)的友好性。以歐盟《一般數(shù)據(jù)保護(hù)條例》(以下簡稱“GDPR”)為例,其頒布在世界范圍內(nèi)影響巨大,〔5〕See Paul M. Schwartz, “Global Data Privacy: The EU Way”, 94 New York University Law Review 771, 771 (2019).相對于其他保護(hù)模式,個人控制模式更易于理解與掌握,也因此常常被模仿與移植。〔6〕See Ari Ezra Waldman, “Privacy Law’ s False Promise”, 97 Washington University Law Review 773,795(2020).企業(yè)可以通過出具隱私政策的方式較為便利地獲取個人信息,保持自身透明度。〔7〕See Anupam Chander, Margot E. Kaminski&William McGeveran, “Catalyzing Privacy Law”, 105 Minnesota Law Review 1733,1740 (2021).但正如后文將要指出,這種形式化的借鑒其實是對歐盟GDPR 的片面化理解,忽視了GDPR 作為完整的個人信息保護(hù)系統(tǒng)的存在。〔8〕See Jacob Victor, “The EU General Data Protection Regulation: Toward a Property Regime for Protecting Data Privacy”, 123 Yale Law Journal 513, 518-519 (2013).同時,過于形式化與表面化的借鑒導(dǎo)致一些國家忽視了各自的差異,在實踐上保持無差別模仿實施。〔9〕See Kenneth A. Bamberger & Deirdre K. Mulligan, “Privacy on the Books and on the Ground”, 63 Stanford Law Review 247,247 (2010).這些因素使得個人控制模式大行其道,逐漸上升為隱私保護(hù)的替代方式并受到了很多批評?!?0〕See Elizabeth Edenberg & Meg Leta Jones, “Analyzing the Legal Roots and Moral Core of Digital Consent”, 21 New Media& Society 1804, 1804 (2019); Woodrow Hartzog & Neil Richards, “Privacy’ s Trust Gap”,126 Yale Law Journal 908, 1180(2017); Neil Richards & Woodrow Hartzog, “Taking Trust Seriously in Privacy Law”, 19 Stanford Technology Law Review 431, 431(2016); Daniel J.Solove, “Privacy Self-Management and the Consent Dilemma”,126 Harvard Law Review 1880,1880(2013).具體來講,個人控制模式在實踐中存在如下多方面問題。

    一是同意機(jī)制的局限。個人控制的僵化或者過度使用(特別是對于同意機(jī)制的過度推崇)可能帶來危險。同意機(jī)制會給大眾帶來一種錯覺——對信息的控制可以替代隱私保護(hù)本身。〔11〕See Michael Zimmer, Mark Zuckerberg’ s Theory of Privacy, Washington Post, 2014.正如索洛夫教授所說,這種看法看似合理,實際上卻是以“控制”的概念偷換了“隱私”或個人信息保護(hù)概念。數(shù)據(jù)與個人信息具有時間上的延展性與風(fēng)險上的聚合性,而“告知—同意”只強(qiáng)調(diào)在某一時刻讓個體對信息進(jìn)行控制。在此種情形下,個人往往很難預(yù)判個人信息被收集后的去向,以及某一個人信息和其他信息聚合所產(chǎn)生的效應(yīng)?!?2〕See Neil Richards & Woodrow Hartzog, “The Pathologies of Digital Consent”, 96 Washington University Law Review 1461,1461 (2019).正如行為主義經(jīng)濟(jì)學(xué)的研究指出的,個人往往容易忽視那些非即時性、非重大性的風(fēng)險。〔13〕See Christine Jolls, Cass R. Sunstein & Richard Thaler, “A Behavioral Approach to Law and Economics”, 50 Stanford Law Review 1471,1477(1998).另外,信息主體常常容易受信息處理者的操控。很多實證研究指出,企業(yè)等信息處理者為了自己的利益,常常能夠營造讓個人輕易同意的環(huán)境。〔14〕See Daniel Schwarcz, “Beyond Disclosure: The Case for Banning Contingent Commissions”, 25 Yale Law& Policy Review 289, 314-315 (2007).總而言之,上述個人控制模式中的種種因素結(jié)合,常常導(dǎo)致個體無法理性地做選擇,阻礙了同意與控制發(fā)揮預(yù)期的效果。〔15〕See Neil Richards & Woodrow Hartzog, “A Duty of Loyalty for Privacy Law”, 99 Washington University Law Review 42-73 (forthcoming 2021); Alessandro Acquisti, Laura Brandimarte & George Loewenstein, “Privacy and Human Behavior in the Age of Information”, 347 Science 509, 509 (2015).沿著“告知—同意”絕對化的路徑,個人信息保護(hù)可能會越來越形式化,逐漸滑向“形式備案制”,阻礙了其實質(zhì)性保護(hù)。

    二是權(quán)利救濟(jì)執(zhí)行不足。有觀點認(rèn)為,通過個人信息賦權(quán)可以更好地實現(xiàn)保護(hù)目的,〔16〕See Salome Viljoen, “Democratic Data: A Relational Theory of Data Governance”, 131Yale Law Journal 370, 573 (2021).但這些權(quán)利卻可能成為紙面上的權(quán)利,很難進(jìn)行救濟(jì)。個人信息保護(hù)的權(quán)利損害也存在維權(quán)難度大、損害證明難、損害不確定等眾多問題?!?7〕See Daniel J. Solove & Danielle Keats Citron, “Risk and Anxiety: A Theory of Data-Breach Harms”, 96 Texas Law Review 737,737 (2018); Julie E. Cohen, “Information Privacy Litigation as Bellwether for Institutional Change”, 66 DePaul L. Rev. 535 (2017).面對較高的司法救濟(jì)成本,當(dāng)事人常常選擇放棄積極維權(quán),被動地承受侵害結(jié)果;或者即使提起訴訟,也難以贏得訴訟或者獲得有效賠償。因此,法律雖然形式上對個人進(jìn)行信息賦權(quán),但實際上卻將風(fēng)險留給了用戶。如果用戶沒有謹(jǐn)慎關(guān)注并加強(qiáng)自我防范,那就很有可能承擔(dān)信息泄露的風(fēng)險與不利后果。〔18〕See Julie E. Cohen, “Examined Lives: Informational Privacy and the Subject as Object”, 52 Stanford Law Review 1373, 1423-1425 (2000).

    三是信任與社會關(guān)系維護(hù)的局限。以“告知—同意”為核心的個人控制模式的另一重要價值是實現(xiàn)企業(yè)對個人信息的合理利用,建構(gòu)企業(yè)等信息處理者與個人之間的和諧關(guān)系?!?9〕See William McGeveran, “Riending the Privacy Regulators”, 58 Arizona Law Review 959, 973-974 (2016).但是現(xiàn)實是,由于個人信息處理者與個人信息主體之間總是呈現(xiàn)出持續(xù)的不平等關(guān)系,個人信息主體在信息處理者面前可能會面臨長期的不安全感與不信任。〔20〕參見丁曉東:《個人信息權(quán)利的反思與重塑——論個人信息保護(hù)的適用前提與法益基礎(chǔ)》,載《中外法學(xué)》2020 年第2 期。正是基于二者信息能力的巨大差距,有學(xué)者指出,無論是人格權(quán)保護(hù)還是財產(chǎn)權(quán)保護(hù),如果僅僅采取個人控制模式或個人主義的立場,很難從根源上解決這種持續(xù)不平等的關(guān)系?!?1〕See Salome Viljoen, “Democratic Data: A Relational Theory of Data Governance”, 131Yale Law Journal 573, 573 (2021).過多的信息披露與個人控制,不但無法解決信息處理者與個人之間的信任危機(jī),反而給個體帶來信息過載的問題。〔22〕See Omri Ben-Shahar & Carl E. Schneider, “The Failure of Mandated Disclosure”, 159 University of Pennsylvania Law Review 647, 647 (2011).

    三、產(chǎn)品規(guī)制對個人控制模式的改進(jìn)及局限

    (一)產(chǎn)品規(guī)制理論產(chǎn)生的背景

    個人控制的異化在某種層面挑戰(zhàn)了傳統(tǒng)的契約思維與個人權(quán)利本位思維。智能技術(shù)的發(fā)展、產(chǎn)業(yè)的集中與壟斷,使得賦權(quán)的預(yù)防風(fēng)險效果并不如其在工業(yè)社會中那么明顯。另外,大數(shù)據(jù)時代給個人信息保護(hù)帶來了新的挑戰(zhàn)。由于網(wǎng)絡(luò)空間的信息流通具有公共性,信息本身具有交叉與聚合的特征,個人信息保護(hù)的問題不再是一個純私人化的問題,而帶有一定公共屬性。同時,科技與平臺的崛起正在以知識的壓倒性優(yōu)勢影響著物理與虛擬世界中的“權(quán)力”分配,人們的行為方式和生活方式都在信息化、數(shù)字化過程中被不斷重建?!?3〕參見馬長山:《邁向數(shù)字社會的法律》,法律出版社2021 年版,第275-277 頁。政策制定者開始嘗試在個人信息保護(hù)領(lǐng)域轉(zhuǎn)變思維:既然個體難以對個人信息流通的風(fēng)險進(jìn)行有效預(yù)判,那就應(yīng)當(dāng)從強(qiáng)化信息處理者責(zé)任的角度出發(fā),增強(qiáng)信息處理者的責(zé)任、加強(qiáng)風(fēng)險防范措施與強(qiáng)化個人主體的合理預(yù)期建設(shè),以此補(bǔ)充執(zhí)行力不足的個人控制?!?4〕See Omri Ben-Shahar & Carl E. Schneider, “The Failure of Mandated Disclosure”, 159 University of Pennsylvania Law Review 647, 743 (2011).

    不同于個人控制模式,產(chǎn)品規(guī)制思路提倡從產(chǎn)品出發(fā),以技術(shù)設(shè)計來實現(xiàn)隱私保護(hù)的功能。20世紀(jì)末,勞倫斯?萊斯格(Lawrence Lessig)教授提出,規(guī)制科技的方法除了法律,還包括準(zhǔn)則、市場以及代碼架構(gòu)?!?5〕See Lawrence Lessig, Code: And Other Laws of Cyberspace, Version 2.0, Basic Books, 2006.代碼理論的提出打破了傳統(tǒng),揭示了網(wǎng)絡(luò)世界不再由單一的法律進(jìn)行規(guī)制,而是轉(zhuǎn)向各種規(guī)制要素的組合。同時,隨著網(wǎng)絡(luò)技術(shù)與互聯(lián)網(wǎng)的廣泛應(yīng)用,學(xué)界開始出現(xiàn)了一種新的個人信息保護(hù)思路——Privacy by Design(簡稱“PbD”)。這一理論最初是由加拿大渥太華信息與隱私委員會前主席安? 卡沃基安(Ann Cavoukian)提出。安?卡沃基安認(rèn)為PbD 的核心是:第一,積極預(yù)防風(fēng)險,從產(chǎn)品源頭融入價值與設(shè)計導(dǎo)向,以事后救濟(jì)相輔助;第二,產(chǎn)品默認(rèn)設(shè)置保護(hù)用戶個人信息,用戶無須消耗多余精力;第三,實現(xiàn)正和而非零和博弈,提倡價值主導(dǎo)、利益共存的理念。安?卡沃基安強(qiáng)調(diào)隱私設(shè)計為核心的法律框架,認(rèn)為企業(yè)可以通過更好的設(shè)計實現(xiàn)個人信息保護(hù),同時也能為產(chǎn)品自身創(chuàng)造市場競爭優(yōu)勢?!?6〕參見鄭志峰:《通過設(shè)計的個人信息》,載《華東政法大學(xué)學(xué)報》2018 年第6 期,第53-54 頁。至此,以價值為導(dǎo)向、以技術(shù)設(shè)計為手段的產(chǎn)品規(guī)制理論研究快速發(fā)展。2009年,在西班牙馬德里召開的第31 屆數(shù)據(jù)保護(hù)和隱私委員會國際會議專門成立了一個有關(guān)PbD 的工作小組。2010 年10 月,第32 屆數(shù)據(jù)保護(hù)和隱私專員國際大會(ICDPPC)一致通過《隱私設(shè)計方案》,明確將隱私設(shè)計理論作為未來個人信息保護(hù)關(guān)鍵部分,鼓勵各國數(shù)據(jù)保護(hù)機(jī)構(gòu)和隱私機(jī)構(gòu)踐行該理論。

    產(chǎn)品規(guī)制不僅是一種理論設(shè)想,也是一種制度實踐。以歐盟GDPR 為例,它要求有信息處理行為的企業(yè)能夠遵守數(shù)據(jù)處理原則并提供相關(guān)證明?!?7〕歐盟在《一般數(shù)據(jù)條例》原則部分規(guī)定了處理個人數(shù)據(jù)時的原則與控制者的責(zé)任。參見《一般數(shù)據(jù)保護(hù)條例》 第5條第2款。GDPR 在“控制者的責(zé)任”部分明確規(guī)定了“通過設(shè)計的數(shù)據(jù)保護(hù)”,要求控制者“應(yīng)當(dāng)”在決定處理方式時采取合適的技術(shù)措施。這就意味著,隱私技術(shù)設(shè)計不再僅僅是一項倡議,而上升為一項法律規(guī)定?!?8〕See Ira Rubinstein & Nathan Good, “The Trouble with Article 25 (and How to Fix It): The Future of Data Protection by Design and Default”, 10 International Data Privacy Law 37 (2020).換句話說,控制者有義務(wù)通過產(chǎn)品設(shè)計來進(jìn)行數(shù)據(jù)保護(hù),如果設(shè)計的部分存在不合法行為,那么執(zhí)法者與監(jiān)督者可以對其進(jìn)行問責(zé)。但同時,GDPR 的規(guī)定非常簡潔,在執(zhí)行上依賴歐洲數(shù)據(jù)保護(hù)委員會(EDPB)的《行動指南》加以解釋與實施。〔29〕歐洲數(shù)據(jù)保護(hù)委員會(EDPB)2020 年10 月20 日發(fā)布的《關(guān)于第25 條有關(guān)設(shè)計和默認(rèn)數(shù)據(jù)保護(hù)的指南4/2019》。See EDPB, “Guidelines 4/2019 on Article 25 Data Protection by Design and by Default”, https://edpb.europa.eu/sites/default/files/files/file1/edpb_guidelines_201904_dataprotection_by_design_and_by_default_v2.0_en.pdf., accessed September 2, 2021.在美國,產(chǎn)品規(guī)制模式也同樣具有較強(qiáng)影響力。在2010 年和2012 年的網(wǎng)絡(luò)安全報告中,美國聯(lián)邦貿(mào)易委員會(FTC)大幅擴(kuò)展公平信息實踐原則的內(nèi)容,并闡述了PbD 的概念與內(nèi)容。報告還提出公司應(yīng)“將實質(zhì)性隱私保護(hù)納入其業(yè)務(wù)實踐,例如數(shù)據(jù)安全、合理的收集限制、良好的保留和處置實踐以及數(shù)據(jù)準(zhǔn)確性”?!?0〕Stuart L. Pardau & Blake Edwards, “The FTC, the Unfairness Doctrine, and Privacy by Design: New Legal Frontiers in Cybersecurity”, 12 J. Bus. & Tech. L. 227 (2017).這四項規(guī)定也成了美國產(chǎn)品規(guī)制中最重要的原則。

    (二)產(chǎn)品規(guī)制可能產(chǎn)生的風(fēng)險與局限

    產(chǎn)品規(guī)制思路可以彌補(bǔ)個人控制模式的不足,在實踐中較為靈活,但它在理論與實踐領(lǐng)域也面臨一些挑戰(zhàn)與難題。

    第一,產(chǎn)品規(guī)制的正當(dāng)性解釋力不足。在大數(shù)據(jù)與信息時代,技術(shù)設(shè)計看似是私人選擇,但實際已經(jīng)成為公共問題,技術(shù)決策會對社會產(chǎn)生深刻的影響?!?1〕See Lucas D. Introna & Helen Nissenbaum, “Shaping the Web: Why the Politics of Search Engines Matters”,16 Info. Soc’y 169-185 (2000).因此,對社會有深刻影響的技術(shù)不應(yīng)該被私人化,而應(yīng)作為公共決策的一部分?!?2〕See Trevor J. Pinch & Wiebe E. Bijker,“ The Social Construction of Facts and Artefacts: Or How the Sociology of Science and the Sociology of Technology Might Benefit Each Other”,14 Social Studies of Science 400( 1984); Kenneth A. Bamberger & Deirdre K.Mulligan,“ Privacy on the Books and on the Ground”, 63 Stanford Law Review 247, 287-289( 2011).代碼技術(shù)的存在已經(jīng)對現(xiàn)有法律體系發(fā)出了挑戰(zhàn),甚至在某種程度上已經(jīng)在網(wǎng)絡(luò)世界充當(dāng)了“法律”的作用,而制定技術(shù)標(biāo)準(zhǔn)的機(jī)構(gòu)在一定程度上類似于立法機(jī)構(gòu)?!?3〕See Nick Doty & Deirdre K. Mulligan,“ Internet Multistakeholder Processes and Techno-Policy Standards: Initial Reflections on Privacy at the World Wide Web Consortium”, 11 J. Telecomm. & High Tech. L. 135, 157( 2013).當(dāng)一個被價值引導(dǎo)的新設(shè)計成為新的標(biāo)準(zhǔn)時,應(yīng)當(dāng)受到公眾參與、審議、公開、問責(zé)等程序的保護(hù)?!?4〕See Karen Yeung,“ The Forms and Limits of Choice Architecture as a Tool of Government”, 38 Law & Policy 186, 195( 2016).從這個層面上來說,如果我們不能為技術(shù)設(shè)計制定適當(dāng)?shù)囊?guī)則,在缺乏公眾參與程序時就做出決策,那么可能會犧牲規(guī)則的正當(dāng)性與重要的社會價值?!?5〕See Jack M. Balkin,“ Information Fiduciaries and the First Amendment”, 49 UC Davis Law Review 1183( 2016).因此,重要的技術(shù)設(shè)計需要不同利益相關(guān)者的共同參與,并以有意義的方式滲透到設(shè)計和政策的所有階段?!?6〕See Kenneth A. Bamberger & Deirdre K. Mulligan,“ Privacy on the Books and on the Ground”, 63 Stanford Law Review 247,287-289( 2011).

    第二,產(chǎn)品治理框架與體系不夠清晰。理論上,產(chǎn)品規(guī)制雖然在某些領(lǐng)域已經(jīng)立法,但仍缺乏配套的制度與體系。在實踐中,產(chǎn)品規(guī)制在運(yùn)行過程中由于相對靈活,在準(zhǔn)確性與安定性方面相對欠缺。此外,產(chǎn)品規(guī)制無法完全替代個人控制的作用。產(chǎn)品規(guī)制主要用于彌補(bǔ)個人控制模式的不足,但實踐中的產(chǎn)品規(guī)制與個人控制銜接較差,需要進(jìn)一步協(xié)調(diào)。另外,產(chǎn)品規(guī)制的救濟(jì)方式也較為模糊,以產(chǎn)品設(shè)計理論看待隱私與個人信息保護(hù),必須要明確救濟(jì)方式才能實現(xiàn)保護(hù)的目的。著名隱私學(xué)家伍德羅?哈佐格(Woodrow Hartzog)基于產(chǎn)品規(guī)制理論設(shè)計了一幅隱私保護(hù)實踐藍(lán)圖,他提到產(chǎn)品規(guī)制的對象包括欺詐設(shè)計、濫用設(shè)計和危險設(shè)計?!?7〕See Woodrow Hartzog, Privacy’s Blueprint: The Battle to Control the Design of New Technologies, Harvard University Press,2018, pp. 133-156.通常而言,啟動相關(guān)救濟(jì)途徑的方式為提起產(chǎn)品侵權(quán)之訴。但是,隱私產(chǎn)品侵權(quán)這種新型損害與傳統(tǒng)的形式存在差別,隱私產(chǎn)品侵權(quán)一般表現(xiàn)為一種微型、無形、大規(guī)模的風(fēng)險與損害?!?8〕See Danielle Keats Citron,“ Reservoirs of Danger: The Evolution of Public and Private Law at the Dawn of the Information Age”, 80 Southern California Law Review 241( 2007).傳統(tǒng)的司法實踐無法識別出這些“新型損害”,這就導(dǎo)致產(chǎn)品規(guī)制的救濟(jì)途徑十分模糊?!?9〕See Julie E. Cohen,“ Information Privacy Litigation as Bellwether for Institutional Change”, 66 DePaul L. Rev.( 2017).也有學(xué)者提出可以參考環(huán)境保護(hù)與消費者保護(hù)中的公益訴訟制度,但是在實踐方面也不夠清晰明了?!?0〕See Dempsey James et al.,“ Breaking the Privacy Gridlock: A Broader Look at Remedies”, https://ssrn.com/abstract=3839711.,accessed May 20, 2021.

    第三,強(qiáng)制規(guī)制與企業(yè)自治之間難以平衡。產(chǎn)品規(guī)制模式主張重視隱私產(chǎn)品的源頭設(shè)計,這在實踐中伴生著風(fēng)險:當(dāng)監(jiān)管力量不足時,企業(yè)會不受管控,侵占規(guī)制領(lǐng)域并過度分享國家的權(quán)力;而當(dāng)監(jiān)管過于強(qiáng)勢時,企業(yè)與平臺自身的創(chuàng)新性發(fā)展就會受到限制。歐盟通過GDPR 為產(chǎn)品設(shè)計設(shè)立了底線。歐盟要求信息控制者要以有效的、符合原則的方式部署設(shè)計,并且他們要能夠證明其已經(jīng)實施了用于保護(hù)數(shù)據(jù)主體權(quán)利與數(shù)據(jù)安全的專門措施。同時,這種證明必須是具體的、有明確依據(jù)的?!?1〕具體表現(xiàn)為,技術(shù)的目的必須能夠作用于特定的場景之中,如處理的范圍、目的等。除此之外,企業(yè)還需要通過具體明確的報告來證明他們設(shè)計的有效性,如報告能夠說明經(jīng)過設(shè)計之后,用戶投訴減少了或者個人信息主體能夠更方便實現(xiàn)權(quán)利等。另外,企業(yè)還可以通過專家評估、績效評估等來證明設(shè)計的有效性。而美國主要通過消費者保護(hù)進(jìn)行兜底,只要不損害消費者利益的設(shè)計都是可以允許的,設(shè)計監(jiān)管門檻比較低。兩者各有側(cè)重,前者比較注重合法性與社會秩序,后者更看重自由交易與公共利益。

    綜上,產(chǎn)品規(guī)制模式的實踐可以彌補(bǔ)個人控制模式的短板,平衡個人信息保護(hù)與數(shù)據(jù)流通兩個重要方面,因而煥發(fā)出強(qiáng)大的生命力。相比單純的“個人控制”模式,產(chǎn)品規(guī)制模式的引入可以起到更好的風(fēng)險預(yù)防作用,其風(fēng)險防控與事前保護(hù)思維對于規(guī)制復(fù)雜精密的、以科學(xué)技術(shù)為背景的信息技術(shù)行業(yè)具有重要意義。同時,產(chǎn)品規(guī)制開始嘗試以規(guī)制重要隱私設(shè)計的方式來承擔(dān)個人權(quán)利保護(hù)的部分功能。當(dāng)然,其局限性也非常明顯。如上所述,產(chǎn)品規(guī)制的正當(dāng)性問題并沒有得到解決;產(chǎn)品規(guī)制與個人控制協(xié)調(diào)不足、產(chǎn)品規(guī)制的救濟(jì)方式模糊不清;在產(chǎn)品規(guī)制模式下,強(qiáng)制監(jiān)管與企業(yè)自治之間的矛盾也未得到緩解。

    四、基于合作治理的個人信息保護(hù)

    (一)合作治理模式的引入

    為了解決個人控制模式與產(chǎn)品規(guī)制模式的不足,同時整合二者的優(yōu)點,可以引入合作治理的概念。合作治理可以追溯到20 世紀(jì)50 年代,〔42〕See Orly Lobel, “The Renew Deal: The Fall of Regulation and the Rise of Governance in Contemporary Legal Thought”, 89 Minn. L. Rev. 342,342-344(2004); Neil Gunningham & Joseph Rees, “Industry Self-Regulation: An Institutional Perspective”, 19 Law &Policy 363, 363-366 (1997).這一治理模式提倡正式制度與非正式制度共同作用,提倡協(xié)商,而非強(qiáng)制管制。在合作治理中,政府的職能除了命令與控制,還包括與其他部門的聯(lián)合行動。與此同時,20 世紀(jì)末,世界銀行及其他相關(guān)組織在發(fā)展非政府組織和民間治理力量時提出了合作治理,即不同利益參與者合作互補(bǔ)的治理模式,以實現(xiàn)社會效益的最大化。在學(xué)術(shù)層面,朱迪?弗里曼(Jody Freeman)等教授對合作治理進(jìn)行了梳理,特別對環(huán)境法領(lǐng)域的合作治理進(jìn)行了深入研究?!?3〕參見 [美]朱迪?弗里曼:《合作治理與新行政法》,畢洪海、陳標(biāo)沖譯,商務(wù)印書館2010 年版。近年來,一些學(xué)者也開始聚焦個人信息領(lǐng)域的合作治理經(jīng)驗,將其與環(huán)境保護(hù)中的合作治理經(jīng)驗進(jìn)行參照和比較?!?4〕See Dennis D. Hirsch, “Going Dutch? Collaborative Dutch Privacy Regulation and the Lessons it Holds for U.S. Privacy Law”, 2013 Mich. St. L. Rev. 83,96(2013); Dennis D. Hirsch, “Protecting the Inner Environment: What Privacy Regulation Can Learn from Environmental Law”,41Georgia Law Review 1(2006); Dennis D. Hirsch, “The Law and Policy of Online Privacy: Regulation, Self-Regulation, or Co-Regulation?”, 34 Seattle University Law Review 439 (2011).

    以歐盟的數(shù)據(jù)保護(hù)為例,GDPR 在一定程度上踐行了公私之間的合作治理。GDPR 主要由兩部分制度組成:個人控制制度與企業(yè)問責(zé)制度。一方面,GDPR 在個人控制部分規(guī)定了信息處理的合法性基礎(chǔ)與基本權(quán)利,如訪問權(quán)、更正權(quán)、刪除權(quán)(即“被遺忘權(quán)”)、數(shù)據(jù)攜帶權(quán)、反對權(quán)以及與自動決策有關(guān)的權(quán)利。另一方面,GDPR 給企業(yè)規(guī)定了重要的義務(wù)與責(zé)任,旨在指導(dǎo)企業(yè)合規(guī)標(biāo)準(zhǔn),推動企業(yè)做出基于權(quán)利保護(hù)的決策與風(fēng)險評估。〔45〕例如數(shù)據(jù)保護(hù)機(jī)構(gòu)(DPA)有權(quán)命令公司提供給他們執(zhí)行任務(wù)所需的任何信息,并進(jìn)行數(shù)據(jù)保護(hù)審計。在企業(yè)進(jìn)行數(shù)據(jù)處理(可能對自然人的權(quán)利和自由造成高風(fēng)險)時必須進(jìn)行數(shù)據(jù)保護(hù)影響評估。對于高風(fēng)險數(shù)據(jù)處理活動,公司必須與監(jiān)管機(jī)構(gòu)分享影響評估結(jié)果并咨詢監(jiān)管機(jī)構(gòu)。因此,歐盟GDPR 非常注重通過細(xì)化企業(yè)的義務(wù)去影響該企業(yè)的合規(guī)習(xí)慣,進(jìn)而把數(shù)據(jù)保護(hù)融入企業(yè)文化之中。GDPR 立法看似把重心全部放到了個人控制之上,但實際上強(qiáng)調(diào)內(nèi)部協(xié)調(diào)工作,即“立法者通過影響公司合規(guī)的內(nèi)容與過程,圍繞數(shù)據(jù)保護(hù)的權(quán)利與價值重新確定實踐與保護(hù)的優(yōu)先次序”?!?6〕Margot E. Kaminski, “Binary Governance: Lessons from the GDPR’ s Approach to Algorithmic Accountability”, 92 Southern California Law Review 1529, 1585 (2019).另外,GDPR 通過助推公司“在企業(yè)系統(tǒng)層面承擔(dān)責(zé)任,把有意義的信息反饋給監(jiān)管者,助力于新的權(quán)利形成”?!?7〕Margot E. Kaminski & Gianclaudio Malgieri, “Algorithmic Impact Assessments Under the GDPR: Producing Multi-Layered Explanations” ,11 Int’l Data Priv. L. 125 (2021).總之,歐盟GDPR 試圖以“內(nèi)部治理”來推動“外部治理”的實現(xiàn),進(jìn)一步影響歐洲甚至全球的隱私技術(shù)發(fā)展與社會組織的基礎(chǔ)設(shè)施建設(shè)。

    從歐盟的例子看,合作治理理念提倡兼容并包、軟硬搭配,整個過程是協(xié)商有序的,而非控制僵硬的?!?8〕參見羅豪才、宋功德:《認(rèn)真對待軟法——公域軟法的一般理論及其中國實踐》,載《中國法學(xué)》2006 年第2 期。合作治理呈現(xiàn)以下特點:第一,“以解決問題為導(dǎo)向”,要求擁有知識的各方利益主體共享信息,共同圍繞相關(guān)問題的設(shè)計、實施與解決進(jìn)行審議;〔49〕參見 [美]朱迪?弗里曼:《合作治理與新行政法》,畢洪海、陳標(biāo)沖譯,商務(wù)印書館2010 年版。第二,受到影響的不同利益集團(tuán)共同參與到不同階段的決定當(dāng)中,在過程中實現(xiàn)民主價值;第三,主導(dǎo)者能夠通過連續(xù)監(jiān)控與評估,及時得到實施過程中的反饋;第四,提倡豐富監(jiān)督和實施方式,包括自我規(guī)制與披露、社會監(jiān)督和第三方鑒定等。行政機(jī)關(guān)可以充當(dāng)監(jiān)督者或協(xié)調(diào)者,并在必要的時候提供技術(shù)資源、資金扶持等。

    以數(shù)據(jù)治理思路來整合個人信息保護(hù)框架,既能強(qiáng)化產(chǎn)品規(guī)制的正當(dāng)性,又能處理好不同制度之間的銜接?!?0〕See Mike Ananny & Kate Crawford, “Seeing Without Knowing: Limitations of the Transparency Ideal and Its Application to Algorithmic Accountability”, 20 New Media & Society 973, 983-984 (2018); Maayan Perel & Niva Elkin-Koren, “Accountability in Algorithmic Copyright Enforcement”, 19 Stan. Tech. L. Rev. 473,529-531(2016); Margot E. Kaminski, “Binary Governance: Lessons from the GDPR’ s Approach to Algorithmic Accountability” , 92 Southern California Law Review 1529 (2019); Lobel Orly, “Be Renew Deal: Be Fall of Regulation and the Rise of Governance in Contemporary Legal Thought”, 89 Minnesota Law Review 342, 663 (2004).在合作治理中,個人控制與產(chǎn)品規(guī)制并非水火不容,而是體現(xiàn)為不同的治理思路。前者從個人權(quán)利出發(fā),注重個人信息保護(hù)的合法性與人格尊嚴(yán)。后者從產(chǎn)品出發(fā),更關(guān)注企業(yè)責(zé)任與社會利益。換一個角度說,合作治理的目的不是對個人控制與產(chǎn)品規(guī)制的純粹批判與取代,相反,合作治理更注重兩者優(yōu)點的結(jié)合,是一種思路與方法論上的整合與改進(jìn)。本文嘗試提出以合作治理來分析個人信息保護(hù)領(lǐng)域的不同制度、方法與工具,并以這種思路對個人信息保護(hù)框架重新進(jìn)行梳理與整合。

    (二)個人控制的程序性再生

    上文指出,如果法律制度僅依靠在個人權(quán)利層面通過解決偶然損害的方式保護(hù)個人信息,不僅難以解決當(dāng)下問題,還會導(dǎo)致問題不斷惡化?!?1〕See Bart van der Sloot & Sascha van Schendel, “Procedural Law for the Data-driven Society”, 30 Information & Communications Technology Law. 304, 304-306(2021).但需要強(qiáng)調(diào),這并不代表個人控制沒有任何價值。個人控制不僅可以作為實體性價值存在,更能以程序性價值助力于個人信息保護(hù)。

    以數(shù)據(jù)治理效果而言,個人控制的程序價值體現(xiàn)在:第一,以程序約束信息處理者。平臺企業(yè)與信息處理者的“超級權(quán)力”可以實現(xiàn)特定領(lǐng)域內(nèi)的規(guī)則制定與社會資源分配。為了防止“權(quán)力的濫用”,平臺算法與處理信息的行為需要受到審查與監(jiān)督,而個人控制可以在程序上為其提供約束?!?2〕參見陳景輝:《算法的法律性質(zhì):言論、商業(yè)秘密還是正當(dāng)程序?》,載《比較法研究》2020 年第2 期,第129-130 頁。第二,以程序保護(hù)個人信息主體。當(dāng)處理個人信息的行為有法律規(guī)定的正當(dāng)程序做背書時,信息處理者的行為更具有正當(dāng)性與確定性。這也有助于緩解個人信息主體對處理者的敵對情緒,促進(jìn)數(shù)據(jù)良性流通。第三,以程序優(yōu)化執(zhí)行。相比于實體的法,程序之法能夠被不斷細(xì)化執(zhí)行、合理分配職能。所以從某種程度上來說,把個人信息保護(hù)法理解為 “程序的法”而不是“實體的法”更具有現(xiàn)實的保護(hù)意義?!?3〕See Chris Jay Hoofnagle et al.,“ The European Union General Data Protection Regulation: What it is and What it Means”, 28 Info. & Commc’ns Tech. L. 65, 67(2019).

    以個人信息主體而言,個人控制的程序性價值在于能夠增加主體預(yù)期,方便他們基于權(quán)利類型化與同意機(jī)制中的具體程序步驟直接向信息處理者主張權(quán)利,這在一定程度上減輕了繁重的司法負(fù)擔(dān)。同時,個人也可以通過自行投訴或者依賴非官方組織投訴的方式向監(jiān)管者反饋,監(jiān)管者基于反饋展開對不合法信息收集行為的調(diào)查?!?4〕See Omri Ben-Shahar & Lior Jacob Strahilevitz,“ Contracting Over Privacy: Introduction”,43 Journal of Legal Studies 1, 1-11(2016).

    就個人信息處理者而言,這種方式可以通過強(qiáng)化個人信息處理者的責(zé)任,實現(xiàn)個人信息保護(hù)。因為“只有將責(zé)任倫理嵌入數(shù)據(jù)收集、流通與處理的每一個環(huán)節(jié),以此倒逼算法治理,通過個人數(shù)據(jù)實現(xiàn)算法治理才能真正起到實效”?!?5〕丁曉東:《論算法的法律規(guī)制》,載《中國社會科學(xué)》2020 年第12 期,第156 頁。在治理過程中,除了政府規(guī)定的嚴(yán)格責(zé)任,個人信息立法也應(yīng)該同時關(guān)注協(xié)同治理的規(guī)則。在這個過程中,政府與企業(yè)可以通過持續(xù)的風(fēng)險評估來保護(hù)個人權(quán)益,這比單純的個人控制模式更具有靈活性。〔56〕See Claudia Quelle,“ The‘ Risk Revolution’ in EU Data Protection Law: We Can’t Have Our Cake and Eat It, Too”, R Leenes et al. eds., Data Protection and Privacy: The Age of Intelligent Machines, Hart Publishing, Forthcoming,https://ssrn.com/abstract=3000382.,accessed January 15, 2022.

    (三)以關(guān)系建構(gòu)作為合作治理的核心

    在個人控制時代,個人權(quán)利本位觀念深入人心,隱私保護(hù)與個人信息被普遍認(rèn)為是一個有關(guān)權(quán)利保護(hù)的問題。但是,個人信息權(quán)利本質(zhì)上是一種關(guān)系性權(quán)利。早在1989 年,耶魯大學(xué)法學(xué)院前院長羅伯特?波斯特(Robert Post)就在書中討論了有關(guān)隱私屬性的相關(guān)問題。他認(rèn)為,雖然隱私權(quán)表面呈現(xiàn)的是個人權(quán)利的樣態(tài),但是本質(zhì)上卻是社會群體所承認(rèn)的特定的社會規(guī)范與文明規(guī)則,具有一定的社會關(guān)系屬性。〔57〕See Robert C. Post,“ The Social Foundations of Privacy: Community and the Self in the Common Law Tort”, 77 California Law Review 957( 1989).海倫?尼森鮑姆(Helen Nissenbaum)進(jìn)一步提出,隱私的保護(hù)是由社會規(guī)范與環(huán)境所決定的,要在不同場景之下實現(xiàn)差別式保護(hù)。〔58〕See Nissenbaum, Privacy in Context: Technology, Policy, and the Integrity of Social Life, Stanford University Press, 2009;Salome Viljoen,“ Democratic Data: A Relational Theory of Data Governance”, 131 Yale Law Journal 573( 2021).朱莉?科恩(Julie Cohen)也指出,隱私應(yīng)該盡量脫離自由主義的概念,在社會建構(gòu)中不斷完善?!?9〕See Julie E. Cohen, Between Truth and Power: the Legal Constructions of Informational Capitalism, Oxford University Press,2019.越來越多的學(xué)者開始認(rèn)同隱私保護(hù)與個人信息保護(hù)應(yīng)該放在一個動態(tài)、溝通的環(huán)境之中,而非靜態(tài)、孤立與絕對化之中。

    此外,關(guān)于信義義務(wù)的研究也與合作治理具有內(nèi)在邏輯的一致性?!?0〕See Ariel Dobkin,“ Information Fiduciaries in Practice: Data Privacy and User Expectations”, 33 Berkeley Technology Law Journal 1, 10-12( 2018).耶魯大學(xué)法學(xué)院的杰克?巴爾金(Jack Balkin)教授曾提出信息信托(Information Fiduciaries)的概念,信息處理者作為信息受托人應(yīng)當(dāng)承擔(dān)忠誠義務(wù)和謹(jǐn)慎義務(wù)?!?1〕See Lina M. Khan & David E. Pozen,“ A Skeptical View of Information Fiduciaries”,133 Harv. L. Rev. 487, 498-499( 2019).他認(rèn)為,主體之間信任關(guān)系的建設(shè)可以挽回個人對于平臺的信任,同時增強(qiáng)平臺的社會責(zé)任感。紐約大學(xué)法學(xué)院的阿里?瓦爾德曼(Ari Ezra Waldman)教授也認(rèn)為,構(gòu)建在信任基礎(chǔ)之上的隱私觀更能恰當(dāng)?shù)貫樾畔㈦[私劃定邊界?!?2〕See Neil Richards & Woodrow Hartzog, “Taking Trust Seriously in Privacy Law”, 19 Stanford Technology Law Review 431,431-472 (2016); Ari Ezra Waldman, “Privacy as Trust: Sharing Personal Information in a Networked World”, 69 University of Miami Law Review 559, 560-590 (2015).伍德羅?哈佐格(Woodrow Hartzog)與尼爾?理查德(Neil Richards)教授更是在信任關(guān)系之上建立了一套完整的信息隱私保護(hù)藍(lán)圖?!?3〕See Woodrow Hartzog, Privacy’s Blueprint: The Battle to Control the Design of New Technologies, Harvard University Press,2018, pp.100-102.

    在實踐中,信任與信托理論在實踐中也影響廣泛。例如2021 年5 月18 日,紐約參議院消費者保護(hù)委員會通過的《紐約隱私法案》(NYPA)闡述了“數(shù)據(jù)受托人”的概念與細(xì)則。〔64〕這一草案具體規(guī)定了信息控制者作為數(shù)據(jù)受托人不應(yīng)以傷害消費者的方式使用消費者的個人信息,即不可以損害消費者的身體、經(jīng)濟(jì)、心理或聲譽(yù)利益的方式使用消費者的個人信息。相比《加利福尼亞消費者隱私法案》(CCPA)和《弗吉尼亞消費者數(shù)據(jù)保護(hù)法案》(VCDPA),《紐約隱私法案》創(chuàng)造了一種較為不同的信息隱私法。這部草案由紐約州參議員凱文?托馬斯(Kevin Thomas)提出,來源:https://legislation.nysenate.gov/pdf/bills/2019/S5642.,2021 年10 月20 日訪問。除了立法上的新動向,國會同臉書創(chuàng)始人扎克伯格約談時多次提及了巴爾金的信息信托理論。經(jīng)過多次約談與聽證會后,兩方開始試圖達(dá)成共識——基于信任關(guān)系的考慮,臉書應(yīng)當(dāng)對用戶的隱私利益負(fù)責(zé)?!?5〕See Nathan Heller, “We May Own Our Data, But Facebook Has a Duty to Protect It”, https://www.newyorker.com/tech/annalsof-technology/we-may-own-our-data-but-facebook-has-a-duty-to-protect-it., accessed September 28, 2021.由此可見,美國開始在個人信息保護(hù)領(lǐng)域嘗試運(yùn)用信息信托保護(hù)消費者的利益,開始注重維護(hù)個人信息主體與信息處理者之間的信任關(guān)系。在我國,我國立法者在《個人信息保護(hù)法(草案)》中曾經(jīng)一度引進(jìn)信息信托理論,但由于這一理論過于學(xué)術(shù)沒有保留。但從終稿來看,《個人信息保護(hù)法》還是在個人信息處理原則部分加入了“誠信”這一原則,保留了信任與信息信托理論的核心理念。

    (四)不同問責(zé)機(jī)制的合作協(xié)調(diào)

    傳統(tǒng)觀點認(rèn)為,監(jiān)管者只有依賴強(qiáng)制性規(guī)范才能更好地保護(hù)個人信息。但是如果政府能協(xié)調(diào)處理好政府強(qiáng)制規(guī)制與企業(yè)自我規(guī)制之間的關(guān)系,就能為個人信息保護(hù)提供另一替代性的問責(zé)與監(jiān)管方案?,F(xiàn)代理性政府的構(gòu)建既需要強(qiáng)制力與遠(yuǎn)見,也需要外部專家知識與問責(zé)機(jī)制。在實踐中,政府面對新技術(shù)常常無法做非常準(zhǔn)確的風(fēng)險與收益研判,只能采取謙抑姿態(tài)和審慎包容的策略。因此,涉及技術(shù)的立法與司法常常需要走一條“先了解技術(shù),然后才立規(guī)”的路徑?!?6〕參見馬長山:《數(shù)字社會的治理邏輯及其法治化展開》,載《法律科學(xué)(西北政法大學(xué)學(xué)報)》2020 年第5 期,第12 頁。在這個意義上,合作治理提供了一種可以理性實現(xiàn)目標(biāo)的可能途徑。一方面,合作治理可以為政府提供具有權(quán)威性的剛性治理方式,〔67〕See Maayan Perel & Niva Elkin-Koren, “Accountability in Algorithmic Copyright Enforcement”, 19 Stan. Tech. L. Rev. 473,529-531 (2016).例如政府的執(zhí)法機(jī)構(gòu)與完整問責(zé)制實施。〔68〕See Margot E. Kaminski,“ Binary Governance: Lessons from the GDPR’s Approach to Algorithmic Accountability”, 92 Southern California Law Review 1529( 2019).另一方面,政府可以通過與企業(yè)持續(xù)對話保持專業(yè)知識的敏銳度。例如,政府通過與企業(yè)協(xié)商的內(nèi)部程序和評估手段來減輕個人信息處理時的風(fēng)險,決定企業(yè)“什么時候必須要遵守個人信息相關(guān)權(quán)利,什么時候可以合法地援引例外情況等”。〔69〕Margot E. Kaminski & Gianclaudio Malgieri,“ Algorithmic Impact Assessments Under the GDPR: Producing Multi-Layered Explanations”, 11 International Data Privacy Law 125( 2021).

    總之,構(gòu)建一套完整的責(zé)任機(jī)制可以實現(xiàn)權(quán)威性與靈活性之間的協(xié)調(diào)與平衡。問責(zé)機(jī)制需要貫徹于規(guī)則制定、實施與執(zhí)行三個階段,并在這三個階段上隨時反饋與持續(xù)對話。〔70〕See Daniel Schwarcz,“ Redesigning Consumer Dispute Resolution: A Case Study of the British and American Approaches to Insurance Claims Conflict”, 83 Tulane Law Review 735, 770-779( 2009).多元責(zé)任機(jī)制的設(shè)計可以實現(xiàn)不同監(jiān)督階段的相互反饋,確保個人信息流通與算法決策最終可以受到中立的、非各方利益群體的有效問責(zé)與監(jiān)督?!?1〕See Maayan Perel & Niva Elkin-Koren,“ Accountability in Algorithmic Copyright Enforcement”, 19 Stan. Tech. L. Rev. 473,529-531( 2016).

    然而為了達(dá)到個人信息治理的目的,政府除了建立嚴(yán)格的責(zé)任制之外,還可以成為“助推官”,〔72〕參見[ 美]理查德?塞勒、卡斯?桑斯坦,《助推:如何做出有關(guān)健康、財富與快樂的最佳決策》,劉寧譯,中信出版社2018年版。積極倡導(dǎo)企業(yè)發(fā)展以用戶為中心的技術(shù)和隱私設(shè)計,使個人信息處理者能夠承擔(dān)更多的社會責(zé)任?!?3〕See Matthew Harding,“ Trust and Fiduciary Law”, 33 Oxford Journal of Legal Studies 81, 83( 2013).在合作治理中,政府不僅承擔(dān)著裁判者的作用,還承擔(dān)著協(xié)調(diào)者與物質(zhì)提供者的職能,助推各方利益群體積極參與到個人信息保護(hù)中。

    在合作治理模式下,個人信息保護(hù)中的不同模式都可以發(fā)揮其作用。就個人控制模式而言,由于個人控制在合作治理模式下并非絕對性權(quán)利,而是成為一種助推企業(yè)自我規(guī)制、督促政府規(guī)制的模式,因此很多個人控制模式都能重新發(fā)揮作用。例如,以上文提到的“告知—同意”為例,個人信息的隱私政策可以有效激發(fā)企業(yè)建立內(nèi)部合規(guī)制度,促使企業(yè)內(nèi)部的各個部門重視個人信息保護(hù),發(fā)展出協(xié)調(diào)一致的企業(yè)內(nèi)控機(jī)制。而對于社會與政府而言,它們也可以通過隱私政策而對企業(yè)進(jìn)行監(jiān)督與執(zhí)法。

    就產(chǎn)品規(guī)制模式而言,這一模式強(qiáng)調(diào)突出設(shè)計的作用,企業(yè)除了要遵守保護(hù)的最低標(biāo)準(zhǔn),還可以發(fā)展和踐行設(shè)計的理念。在管理層面上,企業(yè)可以針對特定行業(yè)和產(chǎn)品實施特定設(shè)計,并對風(fēng)險與成本進(jìn)行把控。加強(qiáng)企業(yè)的自我規(guī)制不僅有助于優(yōu)化產(chǎn)品質(zhì)量與設(shè)計,還能發(fā)展差異化的自我規(guī)制,增強(qiáng)企業(yè)的競爭力。合作治理模式提倡不同利益集團(tuán)的充分參與,參與的方式多體現(xiàn)在預(yù)防與監(jiān)管之上。信息處理者可以通過數(shù)據(jù)保護(hù)官、審計與影響報告的方式協(xié)同責(zé)任部門對相關(guān)問題進(jìn)行有效探討,同時向責(zé)任部門說明情況。相比于之前的方式,這種方式更能應(yīng)對個人信息保護(hù)的復(fù)雜環(huán)境,緩解當(dāng)局專業(yè)人才不足的現(xiàn)象。

    此外,第三方“守門人”也可以成為合作治理的重要力量。在個人信息保護(hù)中,第三方執(zhí)行公司(enforcer-firm)逐漸崛起,成為合作治理的重要工具。決策者與監(jiān)管者開始依賴非官方公司作為控制產(chǎn)品準(zhǔn)入市場的“守門人”?!?4〕例如:Facebook 和谷歌以及聯(lián)想等大型科技公司已經(jīng)基于FTC 發(fā)布的第三方監(jiān)管命令做出了政策調(diào)整,特別是Facebook。See Facebook Platform Policy, Facebook, https://developers.facebook.com/terms/dfc_platform_terms/., accessed December 29,2021.在美國,監(jiān)管主要包括監(jiān)督模式(supervision/monitoring model)與調(diào)查模式(investigation model),無論哪種模式,都需要依賴第三方的協(xié)助達(dá)成公私合作?!?5〕具體而言,監(jiān)督模式的主要內(nèi)容包括:政府監(jiān)督員可以持續(xù)(通常是每天)觀察與監(jiān)督被監(jiān)管實體,可以在投訴和調(diào)查之外采取各種行動。人事方面,他們通常會采用機(jī)構(gòu)內(nèi)或者外聘的專業(yè)人員進(jìn)行監(jiān)督。不同于監(jiān)管模式,調(diào)查模式主要依賴于外部投訴或者對不正當(dāng)行為的懷疑。合作模式的目的是讓雙方把精力集中在解決問題、糾正錯誤之上,而不是為了懲罰。無論審計還是企業(yè)合規(guī),政府通過與其合作從產(chǎn)品規(guī)劃階段開始干預(yù),進(jìn)一步影響受監(jiān)督的組織改善內(nèi)部管理。政府監(jiān)督員的任務(wù)從書面審查轉(zhuǎn)移到協(xié)助與確保企業(yè)內(nèi)部合規(guī)部門和第三方守門人按要求完成工作,換句話說,被監(jiān)管企業(yè)的合規(guī)團(tuán)隊與外部第三方公司逐漸成了政府監(jiān)督的代理人?!?6〕See Dempsey James et al., “Breaking the Privacy Gridlock: A Broader Look at Remedies”, https://ssrn.com/abstract=3839711.,accessed December 25, 2021.這些非正式監(jiān)督方式中有很多可供細(xì)化與實施的工具,例如:專家監(jiān)督、影響評估監(jiān)督、審計監(jiān)督、數(shù)據(jù)保護(hù)官(DPO)監(jiān)督等等。〔77〕See Mike Ananny & Kate Crawford, “Seeing Without Knowing: Limitations of the Transparency Ideal and Its Application to Algorithmic Accountability”, 20 New Media & Society 973, 983-984 (2018).

    五、結(jié)語

    近年來,個人信息保護(hù)已經(jīng)成為全球性難題。傳統(tǒng)的個人控制框架不僅不能有效應(yīng)對目前出現(xiàn)的種種困境,也難以應(yīng)對未來呼之欲出的新形勢、新問題,其保護(hù)模式亟須轉(zhuǎn)變。作為個人控制模式的替代,產(chǎn)品規(guī)制模式初露鋒芒,但是其存在的問題亦非常明顯。綜合而言,個人控制從法律個人主義出發(fā),產(chǎn)品規(guī)制從規(guī)制對象出發(fā);兩者并非平行競爭關(guān)系,只是規(guī)制思路不同,所以在實踐效果上各有優(yōu)劣。本文提出的合作治理思路致力于協(xié)調(diào)個人控制與產(chǎn)品規(guī)制。一方面,個人控制的程序性價值再生不僅能夠維護(hù)個人隱私與尊嚴(yán),還能夠為產(chǎn)品規(guī)制與政府規(guī)制提供正當(dāng)性基礎(chǔ)與可具體執(zhí)行的步驟。另一方面,監(jiān)管者、信息處理者與第三方“守門人”以持續(xù)對話的方式展開治理,這一個人信息保護(hù)模式有利于優(yōu)化平臺管理、促進(jìn)科技創(chuàng)新、維護(hù)社會關(guān)系等。

    從規(guī)范層面來看,信息保護(hù)框架可以在不同機(jī)制之間建立連接,形成一套完整的個人信息保護(hù)方法。我國初步形成的個人信息保護(hù)框架涵蓋的范圍包括《民法典》 中的個人信息權(quán)利或權(quán)益內(nèi)容、《個人信息保護(hù)法》中個人信息的范圍、個人信息處理過程的原則與規(guī)則、個人信息主體的權(quán)利、個人信息處理者的義務(wù)以及相關(guān)職責(zé)部門的職責(zé)等,這為合作治理奠定了基礎(chǔ)。從宏觀層面上看,個人信息保護(hù)的合作治理也非常契合我國的國家治理能力與社會治理現(xiàn)代化的要求。一方面,我國作為后發(fā)的現(xiàn)代化國家,在社會治理上也出現(xiàn)了很多自上而下、觀念先于實踐的建構(gòu)型治理模式?!?8〕參見張龔:《軟法與常態(tài)化的國家治理》,載《中外法學(xué)》2016 年第2 期,第321-322 頁。另一方面,我國執(zhí)政黨具有很強(qiáng)的組織動員能力和社會整合能力。整體的治理觀可以整合碎片化的、沖突的部門權(quán)力,引導(dǎo)國家與社會走向高效協(xié)作的共同治理道路?!?9〕參見黃文藝:《中國政法體制的規(guī)范性原理》,載《法學(xué)研究》2020 年第4 期,第18 頁??偠灾?,借鑒與引入合作治理模式有助于完善我國個人信息保護(hù)制度實施,進(jìn)一步實現(xiàn)數(shù)據(jù)領(lǐng)域的良法善治。

    猜你喜歡
    數(shù)據(jù)保護(hù)信息處理規(guī)制
    東營市智能信息處理實驗室
    基于Revit和Dynamo的施工BIM信息處理
    主動退市規(guī)制的德國經(jīng)驗與啟示
    地震烈度信息處理平臺研究
    CTCS-3級列控系統(tǒng)RBC與ATP結(jié)合部異常信息處理
    保護(hù)與規(guī)制:關(guān)于文學(xué)的刑法
    刑法論叢(2018年4期)2018-05-21 00:44:30
    TPP生物藥品數(shù)據(jù)保護(hù)條款研究
    論《反不正當(dāng)競爭法》的規(guī)制范疇
    法治研究(2016年4期)2016-12-01 03:41:40
    歐盟數(shù)據(jù)保護(hù)立法改革之發(fā)展趨勢分析
    歐盟《一般數(shù)據(jù)保護(hù)條例》新規(guī)則評析
    噜噜噜噜噜久久久久久91| 久久精品国产自在天天线| 麻豆成人av视频| 国产在线男女| 可以在线观看毛片的网站| 免费人成在线观看视频色| 免费人成在线观看视频色| 国产免费男女视频| 亚洲国产精品合色在线| 岛国毛片在线播放| 亚洲成人av在线免费| 亚洲久久久久久中文字幕| 能在线免费看毛片的网站| 大型黄色视频在线免费观看| 少妇的逼水好多| 国产精品一二三区在线看| 男女边吃奶边做爰视频| 亚洲经典国产精华液单| 亚洲精品456在线播放app| 久久6这里有精品| 一区二区三区免费毛片| 97热精品久久久久久| 天美传媒精品一区二区| 亚洲av成人av| 精品国产三级普通话版| 亚洲精品久久久久久婷婷小说 | 久久久久久久久久久丰满| 欧美丝袜亚洲另类| 夜夜夜夜夜久久久久| 91精品国产九色| 男人狂女人下面高潮的视频| 少妇熟女欧美另类| 狂野欧美白嫩少妇大欣赏| 亚洲国产色片| 欧美色欧美亚洲另类二区| 国产v大片淫在线免费观看| 午夜视频国产福利| 日韩av不卡免费在线播放| 国产精品,欧美在线| 欧美zozozo另类| 桃色一区二区三区在线观看| 国产伦一二天堂av在线观看| 精品久久久久久久久亚洲| 男女边吃奶边做爰视频| 色视频www国产| 久久亚洲国产成人精品v| 国产三级中文精品| 校园人妻丝袜中文字幕| 别揉我奶头 嗯啊视频| 国产毛片a区久久久久| 黄片wwwwww| 青青草视频在线视频观看| 桃色一区二区三区在线观看| 99久久九九国产精品国产免费| 婷婷色综合大香蕉| 一级毛片我不卡| 级片在线观看| 永久网站在线| 久久久精品94久久精品| 久久久国产成人精品二区| 欧美+日韩+精品| 国产 一区精品| 少妇裸体淫交视频免费看高清| 人妻少妇偷人精品九色| 又爽又黄a免费视频| 亚洲欧美成人精品一区二区| 国产精品久久久久久久电影| 中文字幕av成人在线电影| 男女做爰动态图高潮gif福利片| 九色成人免费人妻av| 岛国在线免费视频观看| 精品一区二区三区视频在线| 深夜a级毛片| 亚洲国产精品sss在线观看| 亚洲精品粉嫩美女一区| 日本黄色片子视频| 男女做爰动态图高潮gif福利片| 色哟哟·www| 午夜爱爱视频在线播放| 丝袜喷水一区| 麻豆成人av视频| 白带黄色成豆腐渣| 韩国av在线不卡| 国产精品美女特级片免费视频播放器| 精品99又大又爽又粗少妇毛片| 国产精品野战在线观看| 亚洲欧美日韩高清在线视频| 国产午夜精品一二区理论片| 中文资源天堂在线| 国产白丝娇喘喷水9色精品| 日产精品乱码卡一卡2卡三| 亚洲乱码一区二区免费版| 成人无遮挡网站| 色尼玛亚洲综合影院| 中文字幕免费在线视频6| 一本精品99久久精品77| 不卡视频在线观看欧美| 男的添女的下面高潮视频| 日韩欧美三级三区| 男女视频在线观看网站免费| 少妇熟女欧美另类| 国产成人午夜福利电影在线观看| 日韩一本色道免费dvd| 亚洲内射少妇av| 久久午夜亚洲精品久久| 免费在线观看成人毛片| 天堂av国产一区二区熟女人妻| 在线观看免费视频日本深夜| 91久久精品电影网| 日日撸夜夜添| 美女xxoo啪啪120秒动态图| 久久久久九九精品影院| 久99久视频精品免费| 亚洲国产色片| 国产精品久久久久久久久免| 又黄又爽又刺激的免费视频.| 亚洲性久久影院| 大型黄色视频在线免费观看| av在线播放精品| 国产久久久一区二区三区| 插逼视频在线观看| 99九九线精品视频在线观看视频| 亚洲图色成人| 日韩人妻高清精品专区| 卡戴珊不雅视频在线播放| 尤物成人国产欧美一区二区三区| 91久久精品电影网| 欧美在线一区亚洲| 亚洲丝袜综合中文字幕| av国产免费在线观看| 亚洲五月天丁香| 亚洲人成网站高清观看| 国产精品无大码| 国产精品久久久久久av不卡| 99精品在免费线老司机午夜| 3wmmmm亚洲av在线观看| av女优亚洲男人天堂| 日韩在线高清观看一区二区三区| 日韩中字成人| 国产淫片久久久久久久久| 91精品一卡2卡3卡4卡| 色噜噜av男人的天堂激情| 插阴视频在线观看视频| 中文资源天堂在线| 亚洲av免费在线观看| 三级毛片av免费| 国产成人freesex在线| 久久久成人免费电影| 麻豆成人午夜福利视频| 老熟妇乱子伦视频在线观看| 亚洲内射少妇av| 女人被狂操c到高潮| 亚洲av二区三区四区| 国产亚洲91精品色在线| 亚洲精品国产av成人精品| 亚洲一区高清亚洲精品| 精品久久久久久久久久免费视频| 国产伦精品一区二区三区四那| 岛国毛片在线播放| 大型黄色视频在线免费观看| 久久久久久伊人网av| 91在线精品国自产拍蜜月| 性欧美人与动物交配| 国产在线精品亚洲第一网站| 伊人久久精品亚洲午夜| 日本成人三级电影网站| 日本五十路高清| 黑人高潮一二区| 国模一区二区三区四区视频| 日韩在线高清观看一区二区三区| 国产精品,欧美在线| 午夜激情欧美在线| 国产熟女欧美一区二区| 日本av手机在线免费观看| 国产乱人偷精品视频| 91久久精品电影网| av视频在线观看入口| 国产高清三级在线| 久久精品久久久久久噜噜老黄 | 中国美女看黄片| 国产欧美日韩精品一区二区| 欧美bdsm另类| 精品无人区乱码1区二区| 黄色一级大片看看| 91久久精品国产一区二区三区| 中文字幕免费在线视频6| 日本-黄色视频高清免费观看| 欧美性猛交╳xxx乱大交人| 久久久久久久久久久丰满| 日韩一本色道免费dvd| 色播亚洲综合网| 日韩大尺度精品在线看网址| 日韩精品有码人妻一区| 99热全是精品| 夜夜看夜夜爽夜夜摸| 最近视频中文字幕2019在线8| 亚洲精品乱码久久久v下载方式| 日韩欧美 国产精品| 日韩成人av中文字幕在线观看| 久久久久久久久久久丰满| 成人毛片a级毛片在线播放| 搡老妇女老女人老熟妇| 久久这里有精品视频免费| 五月伊人婷婷丁香| 午夜激情福利司机影院| 全区人妻精品视频| 69av精品久久久久久| 日韩一区二区三区影片| 国产成人freesex在线| 国产成人91sexporn| 久久精品夜色国产| av.在线天堂| 激情 狠狠 欧美| 中文在线观看免费www的网站| 此物有八面人人有两片| 毛片女人毛片| 99久久九九国产精品国产免费| 亚洲精品粉嫩美女一区| 99久久人妻综合| 中文字幕av成人在线电影| 天天躁日日操中文字幕| 国产亚洲精品av在线| 亚洲av男天堂| 一卡2卡三卡四卡精品乱码亚洲| 国产免费一级a男人的天堂| 国产黄色小视频在线观看| 亚洲在线自拍视频| 中文字幕av成人在线电影| 国产伦精品一区二区三区视频9| 久久久久国产网址| 欧美一区二区精品小视频在线| 精品久久国产蜜桃| 秋霞在线观看毛片| 色5月婷婷丁香| 精品国产三级普通话版| 欧美成人a在线观看| 蜜桃久久精品国产亚洲av| 国产探花极品一区二区| 日日啪夜夜撸| 成年女人永久免费观看视频| 熟女人妻精品中文字幕| 免费观看精品视频网站| 国产免费一级a男人的天堂| 亚洲精品色激情综合| 美女 人体艺术 gogo| 在线观看66精品国产| 免费看美女性在线毛片视频| 久久这里有精品视频免费| 菩萨蛮人人尽说江南好唐韦庄 | 简卡轻食公司| 国产一级毛片七仙女欲春2| 欧美在线一区亚洲| 伊人久久精品亚洲午夜| 欧美一区二区亚洲| 日韩大尺度精品在线看网址| 亚洲一级一片aⅴ在线观看| 啦啦啦啦在线视频资源| 亚洲激情五月婷婷啪啪| 午夜爱爱视频在线播放| 色哟哟哟哟哟哟| 性插视频无遮挡在线免费观看| 日日摸夜夜添夜夜添av毛片| 色哟哟·www| 乱码一卡2卡4卡精品| 亚洲国产精品sss在线观看| 亚洲成人久久爱视频| 国产老妇女一区| 嫩草影院新地址| 成人一区二区视频在线观看| 日韩三级伦理在线观看| 又爽又黄a免费视频| 日本色播在线视频| 国产亚洲欧美98| 91久久精品电影网| 国产片特级美女逼逼视频| 国语自产精品视频在线第100页| 听说在线观看完整版免费高清| 男女那种视频在线观看| 丰满的人妻完整版| 国产91av在线免费观看| 欧美bdsm另类| 亚洲av不卡在线观看| 2022亚洲国产成人精品| 亚洲人与动物交配视频| 91久久精品电影网| 亚洲国产色片| 国产极品精品免费视频能看的| av卡一久久| 尾随美女入室| 乱人视频在线观看| 国产午夜精品一二区理论片| 国产精品日韩av在线免费观看| 国产在线精品亚洲第一网站| 97超视频在线观看视频| 一本精品99久久精品77| 免费av毛片视频| 欧美成人精品欧美一级黄| 久久欧美精品欧美久久欧美| 国产精品一区www在线观看| 成人特级黄色片久久久久久久| 亚洲国产精品成人综合色| 亚洲,欧美,日韩| 久久精品综合一区二区三区| 99热精品在线国产| 九色成人免费人妻av| 丝袜喷水一区| 亚洲av免费在线观看| 精品日产1卡2卡| 成人毛片60女人毛片免费| 国国产精品蜜臀av免费| 国产麻豆成人av免费视频| 免费人成在线观看视频色| 22中文网久久字幕| 综合色丁香网| 高清在线视频一区二区三区 | 亚洲在久久综合| 高清日韩中文字幕在线| 99久久成人亚洲精品观看| 国产不卡一卡二| 婷婷色av中文字幕| 亚洲国产精品sss在线观看| 99热全是精品| av在线观看视频网站免费| 国产美女午夜福利| 日韩av不卡免费在线播放| 亚洲av免费高清在线观看| 变态另类成人亚洲欧美熟女| 国产黄色小视频在线观看| 国内精品久久久久精免费| 最好的美女福利视频网| 久久6这里有精品| 小蜜桃在线观看免费完整版高清| 久久精品夜夜夜夜夜久久蜜豆| 亚洲成人久久爱视频| 日韩国内少妇激情av| 国产乱人视频| 日日干狠狠操夜夜爽| 免费人成在线观看视频色| 日韩制服骚丝袜av| 欧美xxxx性猛交bbbb| 欧美最新免费一区二区三区| 菩萨蛮人人尽说江南好唐韦庄 | 国产亚洲av嫩草精品影院| 亚洲最大成人中文| 日韩欧美三级三区| 如何舔出高潮| 寂寞人妻少妇视频99o| 青青草视频在线视频观看| 精品久久久噜噜| 男女做爰动态图高潮gif福利片| 日韩 亚洲 欧美在线| av福利片在线观看| 久久久精品94久久精品| 中文字幕人妻熟人妻熟丝袜美| 久久久午夜欧美精品| 美女内射精品一级片tv| 国产乱人偷精品视频| 成年女人看的毛片在线观看| 日韩强制内射视频| 亚洲国产精品国产精品| 国产免费一级a男人的天堂| 日韩强制内射视频| 一卡2卡三卡四卡精品乱码亚洲| 麻豆成人午夜福利视频| 久久久久免费精品人妻一区二区| 久久综合国产亚洲精品| 国产精品乱码一区二三区的特点| 国产黄片视频在线免费观看| 白带黄色成豆腐渣| 午夜老司机福利剧场| h日本视频在线播放| 亚洲国产精品成人综合色| 少妇高潮的动态图| 国模一区二区三区四区视频| 免费观看在线日韩| 简卡轻食公司| 久久热精品热| 成年免费大片在线观看| 亚洲自拍偷在线| 久久99热6这里只有精品| av在线观看视频网站免费| 99热这里只有是精品在线观看| 国产精品久久久久久亚洲av鲁大| 欧美3d第一页| 婷婷色综合大香蕉| 久久精品国产鲁丝片午夜精品| 丰满的人妻完整版| 亚洲在线观看片| 国产av不卡久久| 国内精品久久久久精免费| 长腿黑丝高跟| 国产精品野战在线观看| 成人漫画全彩无遮挡| 中文资源天堂在线| 一区二区三区四区激情视频 | 久久久久九九精品影院| 国产女主播在线喷水免费视频网站 | 一个人看的www免费观看视频| 亚洲高清免费不卡视频| 国产午夜福利久久久久久| 1024手机看黄色片| 男人舔奶头视频| 麻豆av噜噜一区二区三区| 哪个播放器可以免费观看大片| 如何舔出高潮| 免费av毛片视频| 男女那种视频在线观看| 国产一区二区亚洲精品在线观看| 国产成人一区二区在线| 色播亚洲综合网| 亚洲成人av在线免费| 美女cb高潮喷水在线观看| 亚洲中文字幕一区二区三区有码在线看| 日韩亚洲欧美综合| 2022亚洲国产成人精品| 欧美成人免费av一区二区三区| 看非洲黑人一级黄片| 日本在线视频免费播放| 波多野结衣高清作品| 可以在线观看毛片的网站| 色综合站精品国产| 亚洲,欧美,日韩| 丝袜美腿在线中文| 国产精品久久久久久久电影| 简卡轻食公司| 日韩欧美精品v在线| 一卡2卡三卡四卡精品乱码亚洲| 精品一区二区免费观看| 亚洲在线自拍视频| 亚洲最大成人av| 不卡视频在线观看欧美| 国模一区二区三区四区视频| 亚洲成人久久性| 欧美xxxx性猛交bbbb| 亚洲乱码一区二区免费版| 日本黄色片子视频| 草草在线视频免费看| 一本精品99久久精品77| 国产一区二区亚洲精品在线观看| 搞女人的毛片| 中国美女看黄片| 三级国产精品欧美在线观看| a级毛色黄片| 看非洲黑人一级黄片| 精品人妻一区二区三区麻豆| 少妇的逼好多水| 中文资源天堂在线| 成人午夜高清在线视频| 高清午夜精品一区二区三区 | 免费观看a级毛片全部| 久久99热6这里只有精品| 国内少妇人妻偷人精品xxx网站| 国产片特级美女逼逼视频| 日产精品乱码卡一卡2卡三| 国产精品美女特级片免费视频播放器| 两个人的视频大全免费| 久久6这里有精品| 日日啪夜夜撸| 日韩 亚洲 欧美在线| 你懂的网址亚洲精品在线观看 | 男女边吃奶边做爰视频| 久久久久久久亚洲中文字幕| 亚洲av男天堂| 久久99热6这里只有精品| 99久久久亚洲精品蜜臀av| 毛片女人毛片| 女同久久另类99精品国产91| 99在线视频只有这里精品首页| av在线观看视频网站免费| 99热这里只有精品一区| av又黄又爽大尺度在线免费看 | 少妇高潮的动态图| 精品欧美国产一区二区三| av天堂在线播放| 国产91av在线免费观看| 国产av不卡久久| 成人永久免费在线观看视频| 午夜福利在线观看吧| 悠悠久久av| 美女高潮的动态| 色综合亚洲欧美另类图片| 成人欧美大片| 亚洲欧美日韩卡通动漫| av在线蜜桃| 久久久色成人| 亚洲国产高清在线一区二区三| 午夜老司机福利剧场| 日韩,欧美,国产一区二区三区 | 69av精品久久久久久| 看免费成人av毛片| 69人妻影院| 赤兔流量卡办理| 91久久精品国产一区二区三区| 成人午夜精彩视频在线观看| av免费在线看不卡| 内地一区二区视频在线| www日本黄色视频网| 91精品国产九色| 少妇人妻一区二区三区视频| 麻豆精品久久久久久蜜桃| av在线观看视频网站免费| 99热这里只有是精品在线观看| 人人妻人人澡欧美一区二区| 中文字幕精品亚洲无线码一区| 男人舔女人下体高潮全视频| 成人综合一区亚洲| 日本免费a在线| 夜夜看夜夜爽夜夜摸| 日韩一区二区三区影片| 国产精品久久久久久精品电影| 波多野结衣巨乳人妻| а√天堂www在线а√下载| 欧美日韩一区二区视频在线观看视频在线 | 天堂网av新在线| 成人漫画全彩无遮挡| 成人亚洲欧美一区二区av| 精品人妻熟女av久视频| 在线观看一区二区三区| 日韩一区二区视频免费看| 两个人视频免费观看高清| 精品一区二区三区人妻视频| 免费看日本二区| 亚洲自偷自拍三级| 亚洲在久久综合| 国内精品宾馆在线| 日本色播在线视频| 亚洲欧美日韩高清在线视频| 91在线精品国自产拍蜜月| 国产精品一区二区性色av| 蜜桃亚洲精品一区二区三区| 久久人人爽人人爽人人片va| 日韩国内少妇激情av| 男人和女人高潮做爰伦理| 美女大奶头视频| 国产日韩欧美在线精品| а√天堂www在线а√下载| av在线蜜桃| 欧美成人免费av一区二区三区| 国产成人精品婷婷| 99久久九九国产精品国产免费| 人妻少妇偷人精品九色| 久久这里只有精品中国| 日韩欧美在线乱码| 午夜老司机福利剧场| 最好的美女福利视频网| 99久久无色码亚洲精品果冻| 亚洲成人久久性| 午夜精品国产一区二区电影 | 成人美女网站在线观看视频| 嫩草影院新地址| 午夜福利在线观看免费完整高清在 | 亚洲中文字幕一区二区三区有码在线看| 亚洲一区高清亚洲精品| 免费不卡的大黄色大毛片视频在线观看 | 国产精品一二三区在线看| 丰满人妻一区二区三区视频av| 中文资源天堂在线| 毛片女人毛片| 黄片wwwwww| 亚洲丝袜综合中文字幕| 美女内射精品一级片tv| 免费看a级黄色片| 国产在线精品亚洲第一网站| а√天堂www在线а√下载| 12—13女人毛片做爰片一| 一卡2卡三卡四卡精品乱码亚洲| 色哟哟·www| 三级男女做爰猛烈吃奶摸视频| 免费在线观看成人毛片| 国产蜜桃级精品一区二区三区| 久久亚洲国产成人精品v| 一本久久精品| 18禁黄网站禁片免费观看直播| 一级毛片aaaaaa免费看小| 国产精品久久久久久av不卡| 国产av在哪里看| 成人美女网站在线观看视频| 日日摸夜夜添夜夜爱| 日韩精品青青久久久久久| 国产又黄又爽又无遮挡在线| 日本爱情动作片www.在线观看| 亚洲真实伦在线观看| 一级黄片播放器| 国产一区二区三区av在线 | 亚洲无线观看免费| videossex国产| 此物有八面人人有两片| 久久精品国产亚洲av天美| 国产一区亚洲一区在线观看| 亚洲av熟女| 国产午夜福利久久久久久| 国产成人aa在线观看| 蜜臀久久99精品久久宅男| 国产精品久久电影中文字幕| 亚洲欧美日韩无卡精品| 少妇猛男粗大的猛烈进出视频 | 久久久久久久久久黄片| 日韩在线高清观看一区二区三区| av在线天堂中文字幕| 九草在线视频观看| 一本久久精品| 久久久久久九九精品二区国产| 国产单亲对白刺激| 久久婷婷人人爽人人干人人爱| 久久久久久久亚洲中文字幕| 久久久久久大精品| 黄色配什么色好看| 给我免费播放毛片高清在线观看| 午夜福利高清视频| 性欧美人与动物交配| 国产成人91sexporn| 天堂av国产一区二区熟女人妻| 亚洲aⅴ乱码一区二区在线播放| 日本-黄色视频高清免费观看| 欧美色欧美亚洲另类二区|