• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    個(gè)人信息治理的科技之維

    2021-11-05 13:14:57許可
    東方法學(xué) 2021年5期
    關(guān)鍵詞:個(gè)人信息保護(hù)法

    內(nèi)容摘要:在個(gè)人信息保護(hù)法出臺的背景下,重新構(gòu)想科技與法律之間的關(guān)系,可謂總體回應(yīng)數(shù)字時(shí)代個(gè)人信息危機(jī)的重要一環(huán)。作為國家、企業(yè)、個(gè)人三方權(quán)益匯聚之地,個(gè)人信息研究必須超越傳統(tǒng)的“規(guī)制—權(quán)利”思維,邁向國家法律、信息科技、市場競爭和社群規(guī)范的個(gè)人信息治理體系。在諸多系統(tǒng)中,信息科技居于優(yōu)位。一方面,它以“合規(guī)科技”的面貌,憑借“經(jīng)設(shè)計(jì)的治理理念”,將國家法律的原則和規(guī)則轉(zhuǎn)化為個(gè)人信息生命全周期的科技保護(hù);另一方面,它以“賦能科技”的面貌,通過降低法律執(zhí)行成本、當(dāng)事人交易成本,甚至改變法律的“假定條件”,賦能各利益相關(guān)方。為此,法律應(yīng)合理解釋個(gè)人信息“匿名化”構(gòu)成要素,認(rèn)可“去標(biāo)識化信息”的法律意義,從而使信息科技與法律彼此協(xié)調(diào),共建激勵(lì)相容的個(gè)人信息治理體系。

    關(guān)鍵詞:個(gè)人信息治理 個(gè)人信息保護(hù)法 治理科技 合規(guī)科技 賦能科技 匿名化

    中圖分類號:DF529文獻(xiàn)標(biāo)識碼:A文章編號:1674-4039-(2021)05-0057-68

    經(jīng)過近20年的醞釀,個(gè)人信息保護(hù)法終于在2021年8月20日審議通過?!? 〕個(gè)人信息保護(hù)法外引域外立法智慧,內(nèi)接本土實(shí)務(wù)經(jīng)驗(yàn),從憲法第38條“中華人民共和國公民的人格尊嚴(yán)不受侵犯”的“個(gè)人尊嚴(yán)條款”出發(fā),熔民法典“個(gè)人信息權(quán)益”的私權(quán)保護(hù)與“個(gè)人信息處理”的公法監(jiān)管于一爐,統(tǒng)合私主體和公權(quán)力機(jī)關(guān)的義務(wù)與責(zé)任,兼顧個(gè)人信息保護(hù)與利用,奠定了我國網(wǎng)絡(luò)社會和數(shù)字經(jīng)濟(jì)的法律之基。不過,徒法不足以自行,如何建立激勵(lì)相容的制度框架,實(shí)現(xiàn)個(gè)人信息保護(hù)法第1條所宣示的立法目標(biāo),仍有待更深入和更細(xì)致地研究?!? 〕筆者從法律與科技的雙重視角出發(fā),重新構(gòu)想數(shù)字時(shí)代科技與個(gè)人信息保護(hù)法之間的關(guān)系,探索兩者相輔相成的個(gè)人信息治理之道。

    一、信息科技與個(gè)人信息治理的一般框架

    信息科技和個(gè)人信息的糾葛由來已久。長期以來,信息科技都被看作個(gè)人信息權(quán)益的“破壞者”。但事實(shí)上,在個(gè)人信息治理的架構(gòu)下,一旦將信息科技和治理相結(jié)合,就能轉(zhuǎn)為個(gè)人信息“治理科技”,成為個(gè)人信息保護(hù)中“優(yōu)位者”。

    (一)信息科技:個(gè)人信息權(quán)益的“破壞者”

    回顧歷史,個(gè)人信息保護(hù)法的演進(jìn)始終與信息科技的發(fā)展密不可分。19世紀(jì)末,電報(bào)通信、便攜式照相機(jī)等新興技術(shù)引發(fā)了人們對隱私的憂慮。當(dāng)傳統(tǒng)熟人社會的私密信息經(jīng)由便捷的信息傳播途徑進(jìn)入大眾傳媒、公眾評論的陌生人語境,普通法的“保密原則”便不敷適用, 〔3 〕一種保衛(wèi)私生活的對世權(quán)利——隱私權(quán)就此誕生?!? 〕隨著20世紀(jì)60年代大型計(jì)算機(jī)和中心化數(shù)據(jù)庫的出現(xiàn),個(gè)人信息的收集、存儲和使用方式被徹底改變。1973年,美國健康、教育和福利部(HEW)在《記錄、計(jì)算機(jī)和公民權(quán)利》報(bào)告中指出:個(gè)人必須越來越多地將自己的信息提供給大型的、相對匿名的機(jī)構(gòu),由陌生人處理和使用。有時(shí),個(gè)人甚至不知道有這樣一個(gè)組織保存著關(guān)于他的記錄,他往往看不到這些記錄,更不用說質(zhì)疑其準(zhǔn)確性、控制其傳播或質(zhì)疑其使用?!? 〕該報(bào)告所催生的“公平信息實(shí)踐準(zhǔn)則”,構(gòu)成了全球個(gè)人信息保護(hù)的思想淵源與基本框架。〔6 〕在計(jì)算機(jī)日益普及的背景下,德國于1977年制定防止數(shù)據(jù)處理過程中濫用數(shù)據(jù)法,歐洲委員會于1981年通過個(gè)人數(shù)據(jù)自動(dòng)化處理保護(hù)公約(“108號公約”)。從“隱私”到個(gè)人信息/數(shù)據(jù)的范式轉(zhuǎn)變,可謂“山川異域,風(fēng)月同天”。20世紀(jì)90年代,互聯(lián)網(wǎng)技術(shù)成為全球信息和通信的核心媒介,電子商務(wù)、電子政務(wù)、搜索引擎、互聯(lián)網(wǎng)廣告蓬勃興起,個(gè)人信息處理者從之前的政府機(jī)構(gòu)逐漸向企業(yè)延伸,處理目的也從行政管理轉(zhuǎn)向了商業(yè)活動(dòng)。1995年,歐盟議會與理事會制定關(guān)于涉及個(gè)人數(shù)據(jù)處理的保護(hù)以及數(shù)據(jù)自由流通的第95/46/EC號指令(以下簡稱《數(shù)據(jù)保護(hù)指令》),開啟了個(gè)人信息保護(hù)的2.0時(shí)代。

    21世紀(jì)以來,大規(guī)模應(yīng)用的電子監(jiān)控、web3.0的人機(jī)互動(dòng)、移動(dòng)互聯(lián)網(wǎng)的實(shí)時(shí)在線、穿戴式的嵌入裝置,連同大數(shù)據(jù)、人工智能、物聯(lián)網(wǎng)、云計(jì)算、區(qū)塊鏈等新一代信息科技,使得世界的人、事、物都在加速數(shù)字化,這不僅給個(gè)人信息保護(hù)帶來嚴(yán)峻挑戰(zhàn),也重塑了個(gè)人信息保護(hù)制度。2010年,歐洲委員會關(guān)于數(shù)據(jù)保護(hù)和隱私的第3號決議洞見到了這一歷史性變化,并指出,信息科技令觀察、存儲和分析大多數(shù)日常活動(dòng)成為可能,而且比之前更加容易、迅速、隱蔽,除非有完善的數(shù)據(jù)保護(hù)標(biāo)準(zhǔn),否則必將損害人的基本自由。作為制度回應(yīng),從2010年到2019年間,共有62個(gè)國家起草了新的個(gè)人信息保護(hù)法。到21世紀(jì)20年代末,將會有超過200個(gè)國家或地區(qū)擁有個(gè)人信息保護(hù)法?!? 〕

    從“監(jiān)控國家”到“監(jiān)控資本主義”,與工業(yè)時(shí)代對科技的樂觀想象不同,當(dāng)代人眼中的信息科技往往是陰暗和危險(xiǎn)的。這種將科技視為對隱私和個(gè)人信息權(quán)益威脅的觀念,迫使立法者不得不擁抱變化,通過法律和監(jiān)管的不斷迭代,為個(gè)人提供與時(shí)俱進(jìn)的保護(hù),我國個(gè)人信息保護(hù)法正是這歷史潮流中的浪花一朵。然而,信息科技是否只有一面?

    (二)信息科技:個(gè)人信息保護(hù)的“優(yōu)位者”

    信息科技并不可怕。正如聯(lián)合國數(shù)字技術(shù)的影響報(bào)告所言,通過增強(qiáng)連通性、金融包容性、獲得貿(mào)易和公共服務(wù)的機(jī)會,信息科技可以加速實(shí)現(xiàn)17項(xiàng)人類可持續(xù)發(fā)展目標(biāo)中的每一項(xiàng),從而幫助世界變得更公平、更和平、更公正。但毋庸諱言,信息科技的確引發(fā)了越來越多的個(gè)人信息風(fēng)險(xiǎn)。從風(fēng)險(xiǎn)治理的角度觀察,在復(fù)雜和不確定的環(huán)境中試圖通過權(quán)利賦予或行為規(guī)制的單一方式來化解因信息科技引發(fā)的個(gè)人信息風(fēng)險(xiǎn),可能事倍功半。因而,需要重新構(gòu)想信息科技與個(gè)人信息保護(hù)的關(guān)系,綜合所有可用的方法、策略和工具,建立一個(gè)協(xié)調(diào)風(fēng)險(xiǎn)治理中各種要素和參與者的“個(gè)人信息治理”和“個(gè)人信息保護(hù)系統(tǒng)”,這遠(yuǎn)比個(gè)人信息權(quán)益更重要。〔8 〕

    在本文中,筆者將“個(gè)人信息治理”界定為政府、企業(yè)、公民、行業(yè)協(xié)會、技術(shù)社群等各利益相關(guān)方圍繞“個(gè)人信息”所開展活動(dòng)的程序、結(jié)構(gòu)和決策結(jié)果。在治理主體上,它是一種公私合作且持續(xù)互動(dòng)的組織形式;在治理工具上,它將國家法律、信息科技、市場競爭和社群規(guī)范均囊括其中; 〔9 〕在治理目標(biāo)上,它將信息主體的個(gè)人信息權(quán)益保護(hù)和信息處理者的個(gè)人信息利用作為并行的二元目標(biāo)。信息科技在個(gè)人信息治理中的積極作用,首先源自信息科技作為通用技術(shù)的兼容性,從而可以服務(wù)于截然不同的目標(biāo)?!?0 〕更重要的是,個(gè)人信息從收集到刪除的整個(gè)生命周期,都必須依托信息基礎(chǔ)設(shè)施以及經(jīng)編程的指令、代碼與算法。就此而言,信息科技構(gòu)成了個(gè)人信息的微觀架構(gòu),對個(gè)人信息處理活動(dòng)發(fā)揮著實(shí)質(zhì)上的規(guī)制作用。網(wǎng)絡(luò)空間中發(fā)生的任何事件和行為都是“0”和“1”的集合體,涉及個(gè)人信息的任何行為只有遵循相應(yīng)的信息科技規(guī)則才能得以表現(xiàn),否則只能成為沒有任何意義的“亂碼”。信息科技在網(wǎng)絡(luò)空間中的主宰性, 〔11 〕使其有可能擺脫刻板的“破壞者”印象,成為推動(dòng)個(gè)人信息善治的重要力量。

    盡管“個(gè)人信息治理”為信息科技的引入提供了制度空間,但卻沒有充分闡明它與其他治理工具的關(guān)系。對此,“個(gè)人信息保護(hù)系統(tǒng)”理論進(jìn)一步將“信息科技”置于個(gè)人信息保護(hù)的優(yōu)先地位。就像“風(fēng)險(xiǎn)社會是現(xiàn)代性的自反性后果”這一經(jīng)典命題所揭示,用以防控科技風(fēng)險(xiǎn)的法律有時(shí)恰恰是風(fēng)險(xiǎn)生產(chǎn)的誘因。因此,與其外在于信息科技去消弭其風(fēng)險(xiǎn),毋寧反求諸己,尋找信息科技的自我規(guī)制之道。在復(fù)雜理論看來,信息科技是一個(gè)有機(jī)生命。一方面,它是自我組織的,可以通過某些簡單規(guī)則自行聚集起來;另一方面,它是自我創(chuàng)生性的,能夠依據(jù)所面臨問題自行調(diào)適與迭代。〔12 〕縱觀過往,當(dāng)一個(gè)新的技術(shù)進(jìn)入社會,它會召喚出新的組織、經(jīng)濟(jì)和社會模式,這反過來會引發(fā)新的問題,新問題的解決又要訴諸更新的技術(shù),這就是“信息科技的演進(jìn)”。在“問題與解決—挑戰(zhàn)與回應(yīng)”的邏輯下,因技術(shù)進(jìn)步帶來的個(gè)人信息風(fēng)險(xiǎn),亦可以通過技術(shù)進(jìn)步來化解,此即“解鈴還須系鈴人”之真義。在系統(tǒng)論的關(guān)照下,國家法律、信息科技、市場競爭和社群規(guī)范屬于不同的子系統(tǒng),奉行不同的二值符碼,而風(fēng)險(xiǎn)的發(fā)生,根本上是由于功能系統(tǒng)之間缺乏共振,一種系統(tǒng)的運(yùn)作無法在另一種系統(tǒng)中造成預(yù)期的影響?!?3 〕面對“科技系統(tǒng)”與“社會系統(tǒng)”的沖突,“風(fēng)險(xiǎn)預(yù)防原則”成為法律系統(tǒng)的可能選擇,“風(fēng)險(xiǎn)預(yù)防原則”一方面承認(rèn)法律對風(fēng)險(xiǎn)的“無知”,另一方面卻又利用國家權(quán)威予以問責(zé)。故只有科技可能危及生命權(quán)、健康權(quán)、國家安全等重大法益,造成大規(guī)模災(zāi)難性后果時(shí),才有適用余地,該原則苛刻的前提條件令其難以用于個(gè)人信息保護(hù),這不但由于個(gè)人信息權(quán)益并非上述絕對性人身權(quán),而且因?yàn)閭€(gè)人信息處理有助于包括個(gè)人在內(nèi)的社會福祉提升,而禁止改善人們處境本身就是一種傷害。法律系統(tǒng)直接介入的困難要求我們在“個(gè)人信息保護(hù)系統(tǒng)”中,確立“科技解決方案”和“如果還能用就不必修補(bǔ)”的基本原則?!?4 〕

    (三)治理科技:信息科技與個(gè)人信息治理的耦合

    作為Govern和Technology的合成詞,“治理科技”(GovernTech)將“科技”和“治理”有機(jī)結(jié)合,通過將創(chuàng)新性技術(shù)應(yīng)用到現(xiàn)有治理過程中,達(dá)成更有效的風(fēng)險(xiǎn)識別、風(fēng)險(xiǎn)衡量和風(fēng)險(xiǎn)治理要求。有別于常見的“監(jiān)管科技”(RegTech), 〔15 〕“治理科技”以“數(shù)字治理”為基,以“整體治理”和“網(wǎng)絡(luò)治理”為面向,重塑敏捷性和適應(yīng)性的治理?!?6 〕

    治理科技是整體性治理,即以信息科技為依托,以民眾需求為導(dǎo)向,以協(xié)調(diào)、整合、責(zé)任為治理機(jī)制,對治理層級、功能、公私部門關(guān)系及信息系統(tǒng)等碎片化問題進(jìn)行有機(jī)協(xié)調(diào)與整合,不斷從分散走向集中、從部分走向整體,為民眾提供無縫隙且非分離的整體型服務(wù)的政府治理圖式?!?7 〕從此出發(fā),治理科技主張通過數(shù)據(jù)共享、內(nèi)部信息系統(tǒng)互操作推動(dòng)逆部門化和逆碎片化, 〔18 〕拆除不同職能部門、不同地區(qū)之間的藩籬,踐行“一致性執(zhí)法”和“一站式監(jiān)管”。我國個(gè)人信息保護(hù)法第六章中“履行個(gè)人信息保護(hù)職責(zé)的機(jī)關(guān)”紛繁蕪雜,既包括國家網(wǎng)信辦、工信部、市場監(jiān)管總局、公安部等中央職權(quán)機(jī)構(gòu),也包括中國人民銀行、銀保監(jiān)會、衛(wèi)健委等行業(yè)主管部門,還指向了縣級以上各個(gè)地方政府。面對個(gè)人信息監(jiān)管“九龍治水”、政出多門的痼疾,中央層面應(yīng)強(qiáng)化國家網(wǎng)信部門協(xié)同能力,在統(tǒng)籌協(xié)調(diào)具體規(guī)則和標(biāo)準(zhǔn)制定的基礎(chǔ)上,借鑒“歐盟數(shù)據(jù)保護(hù)委員會”(EDPB)的經(jīng)驗(yàn),利用指南、建議、意見等政策工具,監(jiān)督其他機(jī)關(guān)依法行使個(gè)人信息保護(hù)職權(quán),確保執(zhí)法環(huán)節(jié)中法規(guī)的統(tǒng)一適用,必要時(shí)可開展聯(lián)合調(diào)查和執(zhí)法。〔19 〕地方層面應(yīng)依循個(gè)人信息保護(hù)跨地域、在線化特性,從分散管轄轉(zhuǎn)向集中管轄,由被監(jiān)管對象主要營業(yè)地的地方政府承擔(dān)主體責(zé)任、享有監(jiān)管主導(dǎo)權(quán),以簡化政府流程并提升科學(xué)決策能力?!?0 〕

    治理科技是“網(wǎng)絡(luò)治理”,即以信息科技為紐帶,政府發(fā)揮領(lǐng)導(dǎo)組織作用、各利益相關(guān)方共同參與的穩(wěn)定性多組織治理圖式?!?1 〕作為橫跨多系統(tǒng)的網(wǎng)絡(luò)化結(jié)構(gòu),治理科技從“社群標(biāo)準(zhǔn)”開始,經(jīng)由市場認(rèn)證,達(dá)致政府認(rèn)可,由此建立“標(biāo)準(zhǔn)—認(rèn)證—認(rèn)可”三位一體治理?!?2 〕與法律規(guī)則功能一致的技術(shù)性標(biāo)準(zhǔn)立基于制定主體之間的協(xié)商一致性,在適用中兼容公和私、一體和差異,從而與“多中心”網(wǎng)絡(luò)治理思路合若符契。為此,先有行業(yè)組織倡導(dǎo)、推廣技術(shù)標(biāo)準(zhǔn),以此作為企業(yè)合規(guī)基線,然后借助第三方認(rèn)證機(jī)構(gòu)加以落實(shí),最后通過監(jiān)管機(jī)構(gòu)的法律認(rèn)可,確保其權(quán)威性和可執(zhí)行性。我國數(shù)據(jù)安全法第9、10、17、18條便體現(xiàn)了上述思路,確立了以政府部門、行業(yè)組織、科研機(jī)構(gòu)、企業(yè)、個(gè)人為主體,以技術(shù)、標(biāo)準(zhǔn)、認(rèn)證為要素的數(shù)據(jù)安全治理體系。與之相比,個(gè)人信息保護(hù)法固然包含標(biāo)準(zhǔn)、認(rèn)證的表述,但缺乏對個(gè)人信息保護(hù)技術(shù)作用的支持和肯定。同時(shí),其將個(gè)人信息保護(hù)標(biāo)準(zhǔn)制定權(quán)限于國家網(wǎng)信部門,忽略了行業(yè)組織形成行為規(guī)范和團(tuán)體標(biāo)準(zhǔn)的價(jià)值與功能,這些不足尚待后續(xù)填補(bǔ)。

    在治理科技的架構(gòu)下,“信息科技優(yōu)位”一體兩面:一面以“合規(guī)科技”的面貌成為落實(shí)法律規(guī)制的高效工具,一面以“賦能科技”的面貌成為補(bǔ)充或取代法律規(guī)制的最佳實(shí)踐。

    二、合規(guī)科技:經(jīng)設(shè)計(jì)的個(gè)人信息治理

    將國家法律化為信息科技是“合規(guī)科技”的重要功能。不過,有別于“法律代碼化”的路徑,本文將科技和法律均納入“經(jīng)設(shè)計(jì)的個(gè)人信息治理”框架,通過治理價(jià)值與原則統(tǒng)合兩者,并借此對我國個(gè)人信息保護(hù)法進(jìn)行再闡釋。

    (一)從“法律代碼化”到“經(jīng)設(shè)計(jì)的治理”

    令行禁止是立法者的永恒追求。馬克斯·韋伯曾設(shè)想一種令法律自動(dòng)運(yùn)行的司法機(jī)器,堪稱形式主義法治的完美形式。〔23 〕事實(shí)上,這一暢想只有憑借信息科技的助力才能成為現(xiàn)實(shí)。1983年,龔祥瑞教授與時(shí)任北京大學(xué)法律系講師的李克強(qiáng)在《法律工作的計(jì)算機(jī)化》一文中指出:“一場計(jì)算機(jī)化運(yùn)動(dòng)正在逐步遍及幾乎所有的行業(yè)。法律工作的實(shí)踐性很強(qiáng),它所涉及的大量的資料和情報(bào)都可以由電子計(jì)算機(jī)進(jìn)行數(shù)據(jù)處理,無疑具有運(yùn)用計(jì)算機(jī)技術(shù)的現(xiàn)實(shí)可能性?!?〔24 〕受益于計(jì)算機(jī)技術(shù)的突飛猛進(jìn),“計(jì)算法律學(xué)”自20世紀(jì)70年代起浮出水面,其旨在將法律表達(dá)為刑事化的計(jì)算機(jī)語言,用以理解法律文本和法律推理。近年來,在大數(shù)據(jù)、區(qū)塊鏈、人工智能、認(rèn)知計(jì)算的推動(dòng)下,計(jì)算法律學(xué)迅速迭代?!?5 〕新一代計(jì)算法律學(xué)以“法律就是代碼”為中心,將代碼作為直接執(zhí)行規(guī)則的手段。

    法律代碼化并非沒有瑕疵,其在技術(shù)上和理念上均面臨重大挑戰(zhàn)。在技術(shù)層面,將模糊的法律“濕規(guī)則”轉(zhuǎn)換為精確的技術(shù)“干規(guī)則”,必然以喪失法律靈活性或無縫隙性為代價(jià)。而要克服代碼局限性,就要使用動(dòng)態(tài)的、具有適應(yīng)性的程序,利用機(jī)器學(xué)習(xí)(ML)訓(xùn)練、驗(yàn)證和測試,觸發(fā)出原有規(guī)則的新解釋。然而,這一技術(shù)努力不但無法完全消除代碼“堅(jiān)守歷史、凍結(jié)未來”的窒礙,還會陷入算法黑箱和歧視的困境?!?6 〕不僅如此,實(shí)踐中的智能合約和智能規(guī)制并不“智能”,它們依賴于人類外部提供的信息,并存在誤判和漏洞?!?7 〕在理念層面上,代碼化法律或可滿足“如果……那么”的條件式綱要,卻無法滿足“為了……而”的目的性綱要, 〔28 〕這使之難以從規(guī)范目的出發(fā)解釋和適用規(guī)則,在根本上削弱了法律決定的正當(dāng)性基礎(chǔ)。不惟如是,通過代碼的規(guī)制還規(guī)避了公法上的權(quán)力制衡和私法上的權(quán)利保障,由此遭至損及公平、透明度以及正當(dāng)程序缺失的批評。

    如欲改進(jìn)“法律代碼化”,就要重新思考法律和信息科技的關(guān)系,摒棄將法律“翻譯”成代碼的做法,轉(zhuǎn)而將法律看作治理環(huán)境下的要素之一, 〔29 〕其可以獨(dú)自也可以通過技術(shù)發(fā)揮作用。但無論如何,它都要體察和回應(yīng)信息基礎(chǔ)設(shè)施及代碼對法律的影響,并經(jīng)由“設(shè)計(jì)”嵌入被數(shù)據(jù)和算法驅(qū)動(dòng)的環(huán)境之中。這里的“設(shè)計(jì)”意指在治理原則和法治原則下,各利益相關(guān)方共同進(jìn)行的制造、構(gòu)建、組裝治理環(huán)境的建設(shè)性工作,一種融技術(shù)、標(biāo)準(zhǔn)、程序、制度于一體并指向未來的社會籌劃?!?0 〕這一“經(jīng)設(shè)計(jì)的治理”觀念所強(qiáng)調(diào)的不是遵從代碼,相反,其應(yīng)確保在治理架構(gòu)應(yīng)包含法律保護(hù),以防止偏見、侵犯隱私、不可理解的決定、不可靠的評估和違反司法公正的情形。〔31 〕

    (二)經(jīng)設(shè)計(jì)的個(gè)人信息治理:原則與實(shí)踐

    將“經(jīng)設(shè)計(jì)的治理”運(yùn)用于個(gè)人信息治理之中,鑄就了“經(jīng)設(shè)計(jì)的個(gè)人信息治理”制度,其包含如下原則與實(shí)踐:

    1.將個(gè)人信息保護(hù)價(jià)值融于設(shè)計(jì)

    一如“經(jīng)設(shè)計(jì)的治理”“經(jīng)設(shè)計(jì)的個(gè)人信息治理”并非對法律規(guī)則的生硬轉(zhuǎn)譯,而是延續(xù)“價(jià)值導(dǎo)向設(shè)計(jì)”思想, 〔32 〕在整個(gè)設(shè)計(jì)中以原則性的、綜合性的方式考量如下基本價(jià)值: 〔33 〕

    “公平”是個(gè)人信息保護(hù)的首要價(jià)值,要求處理者不得對個(gè)體造成不合理的損害、非法歧視或誤導(dǎo),其關(guān)鍵設(shè)計(jì)和默認(rèn)元素包括:(1)自治:信息主體應(yīng)被授予高度自治以決定其個(gè)人信息的處理目的、范圍和方式。(2)互動(dòng):信息主體能夠就其權(quán)利與處理者溝通并行使。(3)期望:處理應(yīng)符合信息主體的合理期望。(4)非歧視:處理者不得不公平地歧視信息主體。(5)非掠奪:處理者不應(yīng)利用信息主體的需求或弱點(diǎn)處理信息。(6)消費(fèi)者選擇:處理者不應(yīng)以不公平的方式鎖定用戶。(7)風(fēng)險(xiǎn)不得轉(zhuǎn)移:處理者不應(yīng)將其風(fēng)險(xiǎn)轉(zhuǎn)移給信息主體。(8)不得欺詐:信息和選項(xiàng)應(yīng)以客觀、中立的方式提供,避免任何欺騙性或操縱性的語言或設(shè)計(jì)。(9)道德:處理者應(yīng)考慮對個(gè)人權(quán)利和尊嚴(yán)的更廣泛影響。(10)真實(shí):處理者應(yīng)該按照其聲明行事。(11)人為干預(yù):處理者必須納入合格的人為干預(yù),以揭示機(jī)器偏見。(12)公平算法:定期評估算法是否符合目的并適時(shí)調(diào)整以確保處理的公平性。

    “透明”是個(gè)人信息保護(hù)的形式價(jià)值,消息處理者必須清楚披露他們?nèi)绾问占?、使用和共享個(gè)人信息的活動(dòng)信息,其關(guān)鍵設(shè)計(jì)和默認(rèn)元素包括:(1)清晰:應(yīng)使用簡潔明了的語言。(2)語義:對聽眾而言,交流應(yīng)該有明確意義。(3)可訪問性:信息應(yīng)易于訪問。(4)語境:信息應(yīng)在相應(yīng)時(shí)間以適當(dāng)?shù)男问教峁?。?)相關(guān)性:信息應(yīng)該與特定信息主體相關(guān)。(6)易于理解:信息主體能夠合理理解對其個(gè)人信息處理的期待,特別是當(dāng)數(shù)據(jù)主體是兒童或其他弱勢群體。(7)多渠道:信息應(yīng)該通過不同渠道提供,而不僅僅是文本,以增加信息有效到達(dá)信息主體的可能性。(8)分層:信息應(yīng)當(dāng)適當(dāng)分層,以解決“信息完整性”與“信息可理解性”之間的緊張。

    “合法”是個(gè)人信息保護(hù)的底線價(jià)值,處理者應(yīng)確保處理具有合法性基礎(chǔ),其關(guān)鍵設(shè)計(jì)和默認(rèn)元素包括:(1)區(qū)分:用于各個(gè)處理活動(dòng)的法律依據(jù)應(yīng)有所區(qū)分。(2)特定目的:適當(dāng)?shù)姆梢罁?jù)必須與特定處理目的相關(guān)聯(lián)。(3)必要性:就處理目的而言,處理必須是必要且無條件的。(4)自主:消息主體應(yīng)在法律依據(jù)的框架內(nèi)控制個(gè)人信息。(5)獲得同意:同意必須自愿、具體、知情和明確。應(yīng)特別考慮兒童和青年的能力提供知情同意。(6)同意撤回:在同意是法律依據(jù)的情況下,應(yīng)確保撤回同意的便利。(7)預(yù)先確定:應(yīng)在處理發(fā)生之前確立合法性基礎(chǔ)。(8)停止:如果法律依據(jù)不再適用,處理應(yīng)相應(yīng)停止。(9)調(diào)整:若處理的法律依據(jù)發(fā)生有效變化,則處理必須根據(jù)新的合法性基礎(chǔ)予以調(diào)整。

    在公平、透明、合法等價(jià)值外,“經(jīng)設(shè)計(jì)的個(gè)人信息治理”還要遵循“以人為本”(HCD)的設(shè)計(jì)原則。HCD主張將“人”放在任何系統(tǒng)的中心,從人們的需求、興趣和能力出發(fā),通過直接與人們接觸來評估和理解人類,以提供可用和易于理解的產(chǎn)品和服務(wù)?!?4 〕HCD本質(zhì)上是法學(xué)、信息科學(xué)、心理學(xué)、認(rèn)知科學(xué)、人類學(xué)、人機(jī)交互的跨學(xué)科實(shí)踐。因此,個(gè)人信息保護(hù)治理的設(shè)計(jì)者應(yīng)盡可能廣泛,以涵蓋用戶體驗(yàn)設(shè)計(jì)師、視覺設(shè)計(jì)師、交互設(shè)計(jì)師和信息設(shè)計(jì)師等,從而保證將用戶的需求和限制置于任何設(shè)計(jì)的最前沿。

    2.將個(gè)人信息保護(hù)作為主動(dòng)設(shè)計(jì)

    “主動(dòng)而非被動(dòng),預(yù)防而非補(bǔ)救”是“經(jīng)設(shè)計(jì)隱私”的核心思想。經(jīng)設(shè)計(jì)的個(gè)人消息治理同樣倡導(dǎo)在可避免的情況下,防患已未然,而不是坐視個(gè)人信息的風(fēng)險(xiǎn)不斷攀升。為此,其主張,處理者應(yīng)尊重信息主體的基本權(quán)利,并且實(shí)施適當(dāng)?shù)拇胧┖捅U洗胧?,處理者從產(chǎn)品或服務(wù)開發(fā)前期開始就應(yīng)保障合規(guī)團(tuán)隊(duì)與開發(fā)、設(shè)計(jì)團(tuán)隊(duì)相互合作,在設(shè)計(jì)伊始即考量產(chǎn)品、服務(wù)涉及的個(gè)人信息保護(hù)問題。處理者應(yīng)當(dāng)在能達(dá)到相同效果的各種作法之中,將較能保護(hù)個(gè)人信息的做法列為預(yù)設(shè)機(jī)制,使之在各種業(yè)務(wù)實(shí)踐和IT信息系統(tǒng)中,得以受到系統(tǒng)的“自動(dòng)”保護(hù)。換言之,處理者應(yīng)當(dāng)建置一個(gè)用戶友好型環(huán)境,即便用戶沒有特地采取自我保護(hù)的行為,其個(gè)人信息權(quán)益亦不致受到侵害。例如,蘋果的iOS14隱私新規(guī)要求App開發(fā)者需要通過“應(yīng)用追蹤透明框架”獲得用戶同意,才能使用設(shè)備IDFA(蘋果廣告標(biāo)識符)對用戶進(jìn)行廣告追蹤。這一修改相當(dāng)于將“默示同意、明示退出”機(jī)制更改為“明示同意”機(jī)制。與此相較,之前Do not Track(DNT)隱私規(guī)則要求在網(wǎng)絡(luò)瀏覽器中設(shè)置 DNT,即在其對網(wǎng)頁的請求中添加一小段代碼:DNT=1,只有在用戶主動(dòng)選擇開啟DNT后,網(wǎng)站才不能在設(shè)備上放置或閱讀廣告的Cookie?!?5 〕處理者應(yīng)在事前設(shè)想可能的不利情況,并加以積極應(yīng)對,而不是在個(gè)人信息侵害成為既成事實(shí)后,才討論責(zé)任歸屬與賠償方案。

    3. 將個(gè)人信息保護(hù)嵌入全生命周期

    為進(jìn)一步落實(shí)主動(dòng)設(shè)計(jì)理念,“經(jīng)設(shè)計(jì)的個(gè)人信息治理”要求將“個(gè)人信息保護(hù)”作為治理環(huán)境的核心要素,成為產(chǎn)品、服務(wù)、管理流程中不可或缺的組成部分。為此,個(gè)人信息保護(hù)應(yīng)當(dāng)是一連串的行動(dòng),從信息收集、存儲、傳輸,到信息分析、加工,再到信息向第三方提供和最終刪除,所有處理活動(dòng)都應(yīng)事先有完整規(guī)劃,將保護(hù)延伸到個(gè)人信息整個(gè)生命周期,從而實(shí)現(xiàn)端對端的安全。

    信息科技在個(gè)人信息全生命周期保護(hù)中發(fā)揮著重要作用。在信息收集環(huán)節(jié),為滿足合法正當(dāng)、目的明確、最小必要、公開透明的要求,數(shù)據(jù)溯源、數(shù)據(jù)標(biāo)注、數(shù)據(jù)可視化、數(shù)據(jù)安全分級標(biāo)記等成為可用技術(shù)。在信息存儲環(huán)節(jié),為信息安全目的,可采取信息源加密、透明存儲加密技術(shù),為兼顧個(gè)人信息存儲時(shí)的數(shù)據(jù)可用性,采用數(shù)據(jù)災(zāi)備、糾錯(cuò)編碼等數(shù)據(jù)容錯(cuò)技術(shù)對信息密度高、訪問頻次高的數(shù)據(jù)進(jìn)行存儲保護(hù)和可靠訪問。在信息傳輸環(huán)節(jié),為保障保密性、完整性和可信任性,宜使用散列加密、對稱加密、非對稱加密等加密傳輸技術(shù),為驗(yàn)證信息傳輸人的身份,還需要使用數(shù)字證書技術(shù)。在個(gè)人信息使用環(huán)節(jié),為防范違法使用、未經(jīng)授權(quán)提供、信息泄露等問題,常采用數(shù)據(jù)訪問控制、監(jiān)控審計(jì)、共享審查等技術(shù)。在個(gè)人信息刪除環(huán)節(jié),除消磁法、粉碎法等硬銷毀的方法外,將無意義、無規(guī)律的信息反復(fù)多次覆蓋硬盤上原先的存儲數(shù)據(jù),從而無法恢復(fù)原始數(shù)據(jù)的“數(shù)據(jù)覆寫”是典型的技術(shù)形式。

    (三)個(gè)人信息保護(hù)法的再闡釋

    盡管我國個(gè)人信息保護(hù)法并未明確“經(jīng)設(shè)計(jì)的個(gè)人信息治理”,但第51條規(guī)定在比較法上源自歐盟數(shù)據(jù)保護(hù)指令第17條第1款“成員國應(yīng)當(dāng)規(guī)定數(shù)據(jù)控制者必須采取適當(dāng)?shù)募夹g(shù)措施和組織措施來保護(hù)個(gè)人數(shù)據(jù)以防止它們被意外或非法毀滅或意外遺失、變更、未經(jīng)許可披露或訪問”以及GDPR第25條第1款“考慮到行業(yè)最新水平、實(shí)施成本及處理的性質(zhì)、范圍、目的和內(nèi)容以及處理給自然人的權(quán)利與自由造成的影響,數(shù)據(jù)控制者應(yīng)當(dāng)在決定數(shù)據(jù)處理方式以及進(jìn)行處理時(shí)以有效的方式采取適當(dāng)?shù)慕M織和技術(shù)措施,并實(shí)施必要的保障措施以符合本條例要求,保護(hù)數(shù)據(jù)主體權(quán)利”,可作類似解釋。質(zhì)言之,在第51條的規(guī)范目的上,可以從狹義的“個(gè)人信息安全”拓展到“個(gè)人信息權(quán)益和價(jià)值”;在第51條的時(shí)空范圍上,可以覆蓋系統(tǒng)、服務(wù)、產(chǎn)品的設(shè)計(jì)階段以及全生命周期;在第51條的義務(wù)要求上,可以將“必要措施”界定為技術(shù)手段、組織形式等所有治理要素。

    一旦將“經(jīng)設(shè)計(jì)的個(gè)人信息治理”引入,就可以更深入地理解個(gè)人信息保護(hù)法。首先,“經(jīng)設(shè)計(jì)的個(gè)人信息治理”彌合了個(gè)人信息保護(hù)法可能的邏輯斷裂。梳理個(gè)人信息保護(hù)法,容易發(fā)現(xiàn)其第二、三章為“個(gè)人信息全生命周期規(guī)制”,第四、五章則為“權(quán)利—義務(wù)規(guī)范結(jié)構(gòu)”,前者側(cè)重于精細(xì)化的事先管控,后者側(cè)重于靈活性的事后調(diào)整。但另一方面,前者可能因未知科技引致的環(huán)境變化而無從應(yīng)付,后者也可能因規(guī)范過于抽象而戕害了確定性。對此,“經(jīng)設(shè)計(jì)的個(gè)人信息治理”將“信息主體權(quán)利”注入到個(gè)人信息全生命周期之中,充實(shí)告知、同意、保存、使用、自動(dòng)化決策和境外傳輸?shù)忍幚硪?guī)則,細(xì)化“信息處理者義務(wù)”,有效平衡了法律的可預(yù)期性與適應(yīng)性。其次,“經(jīng)設(shè)計(jì)的個(gè)人信息治理”有助于從主動(dòng)設(shè)計(jì)的角度把握第55條的“個(gè)人信息保護(hù)影響評估”,將之視為協(xié)助處理者提前識別、界定、最小化系統(tǒng)可能風(fēng)險(xiǎn)的工具。〔36 〕更重要的是,保護(hù)影響評估本質(zhì)是“個(gè)人信息安全工程”的一部分,只有在信息科技的工程實(shí)踐中才能把握其流程。最后,“經(jīng)設(shè)計(jì)的個(gè)人信息治理”為第54、64條“合規(guī)審計(jì)”的搭建指明了方向。作為對處理者履責(zé)情況的鑒證和監(jiān)督, 〔37 〕個(gè)人信息處理的合規(guī)審計(jì)有賴于匯聚海量數(shù)據(jù)的審計(jì)平臺,收集、分析IT資源中設(shè)備和應(yīng)用的日志,開展即時(shí)跟蹤、持續(xù)監(jiān)控和適時(shí)報(bào)警。未來,可應(yīng)用流程自動(dòng)化機(jī)器人(RPA),整合不同系統(tǒng)數(shù)據(jù),將重復(fù)的作業(yè)程序自動(dòng)化,并定期與監(jiān)管機(jī)關(guān)共享,達(dá)成視覺化、互動(dòng)式的精準(zhǔn)合規(guī),以解決監(jiān)管機(jī)關(guān)的信息不對稱問題。

    三、賦能科技:平衡個(gè)人信息保護(hù)與利用

    如果說“合規(guī)科技”意在強(qiáng)化國家法律監(jiān)管,那么“賦能科技”就是通過隱私增強(qiáng)技術(shù)為信息主體和處理者積極賦能,實(shí)現(xiàn)個(gè)人信息保護(hù)與合理利用的平衡。但是,科技并不能直接生成權(quán)利,我國個(gè)人信息保護(hù)法是否以及如何接納賦能科技,則是問題的關(guān)鍵。

    (一)從“代碼即法律”到“賦能科技”

    科技并非中立。早在20世紀(jì)80年代,人們就已認(rèn)識到信息科技內(nèi)在的政治性,因?yàn)槠淠軌虼侔l(fā)、支持、強(qiáng)制、抑制或排除特定行為?!?8 〕質(zhì)言之,鑒于科技本身就帶有使用者如何行動(dòng)的說明書,其使用過程就是影響用戶知覺和行為的過程。隨著Joel Reidenberg“信息法制”和Lawrence Lessig“代碼即法律”的提出, 〔39 〕代碼因所具有“大規(guī)模定義和塑造行為模式”能力,逐漸被視為網(wǎng)絡(luò)時(shí)代的法律。2008年以來,助推理論為之提供了行為經(jīng)濟(jì)學(xué)的依據(jù)。根據(jù)該理論,信息科技不是采用理性說服方式來改變?nèi)说膽B(tài)度,而是通過“選擇架構(gòu)”中非理性、無意識的要素使人們趨向于預(yù)期方向?!?0 〕在收集信息、制定目標(biāo)和改變行為的三個(gè)階段中,大數(shù)據(jù)分析、算法決策指導(dǎo)技術(shù),挖掘和顯著化數(shù)據(jù)項(xiàng)之間相關(guān)性,以此引導(dǎo)人的注意力并作出最終決定,這種基于信息科技、動(dòng)態(tài)化且普遍有效的助推,被稱為“超助推”?!?1 〕晚近,利用區(qū)塊鏈生成的代碼,令人們?nèi)我膺x擇和實(shí)施自定規(guī)則,創(chuàng)制習(xí)慣法體系變得更加簡易可行,“鏈之以法”成為代碼應(yīng)用的新領(lǐng)域?!?2 〕

    然而,代碼畢竟不是真正的法律。首先,代碼是自動(dòng)執(zhí)行的規(guī)則,其依賴于行為人的自覺或不自覺地實(shí)際遵守,就此而言,代碼僅有社會學(xué)上的有效性,而缺乏法律和倫理上的有效性?!?3 〕其次,代碼并非自給自足,正如法治背后是法律人之治一樣,代碼背后是代碼作者——“碼農(nóng)”之治,無論他們是否意識到,在設(shè)計(jì)階段其價(jià)值就鐫刻到了最終的產(chǎn)品上,而這可能危及了法治的民主根基。最后,代碼可能與法律相互沖突,參與者可以借此“乘間伺隙”,故意剝奪法律權(quán)利、規(guī)避法律義務(wù)。〔44 〕正因如此,Lessig在2006年指出,“代碼即法律”的真實(shí)含義是代碼類似于法律,并不意味著“代碼=法律”,就像飛機(jī)的構(gòu)造不是法律一樣?!?5 〕故而,如欲發(fā)揮信息科技的優(yōu)位作用,就必須回歸“個(gè)人信息治理”, 將法律價(jià)值融入其中,使之成為法律相輔相成的“賦能科技”。

    所謂“賦能科技”,意即提升一方或多方治理主體的權(quán)利或能力,進(jìn)而提升治理總體績效的科技?!?6 〕較諸“合規(guī)科技”,賦能科技具有如下特征:(1)合規(guī)科技以個(gè)人信息保護(hù)為目標(biāo);賦能科技則以個(gè)人信息保護(hù)與利用平衡為導(dǎo)向,通過“正和雙贏”而非“零和博弈”的方式,破除虛假二分法的假象。(2)合規(guī)科技主要面向監(jiān)管者,強(qiáng)化監(jiān)管的有效性和高效性;賦能科技則主要面向信息主體和處理者,回應(yīng)各方關(guān)切。(3)合規(guī)科技是法律最佳的仆人,必須嚴(yán)格服從法律原則和規(guī)則;賦能科技則是法律最佳的搭檔,通過降低法律執(zhí)行成本補(bǔ)充法律,或者通過降低當(dāng)事人之間的交易成本替代法律,甚至改變規(guī)范的“假定條件”而使之不再必要。

    (二)個(gè)人信息治理中賦能科技的實(shí)踐

    賦能科技可追溯至20世紀(jì)70年代,當(dāng)時(shí)為應(yīng)對信息科技對隱私的挑戰(zhàn),“隱私增強(qiáng)技術(shù)”(PET)應(yīng)運(yùn)而生,最初其專注于身份保護(hù)以及在不喪失系統(tǒng)功能的情形下最小化信息收集與處理。隨著時(shí)間推移,加密工具、隱私保護(hù)分析技術(shù)、數(shù)據(jù)管理工具等技術(shù)相繼涌現(xiàn), 〔47 〕并進(jìn)一步發(fā)展為“軟PET”和“硬PET”?!?8 〕“軟PET”旨在幫助個(gè)體就其與處理者共享個(gè)人信息與否,作出更好的決策,包括cookie管理工具、隱私儀表板、“人工智能衛(wèi)士”等,后者如識別個(gè)人信息濫用并予以反制的“人工智能審查員”,或者代表個(gè)人隱私偏好的“人工智能代理人”?!?9 〕“硬PET”旨在利用復(fù)雜技術(shù)降低錯(cuò)誤信任第三方的風(fēng)險(xiǎn),蓬勃興起的“隱私計(jì)算”正是其典型?!半[私計(jì)算”試圖在不提供原始數(shù)據(jù)的前提下,分析計(jì)算數(shù)據(jù),實(shí)現(xiàn)個(gè)人信息流通與融合過程中的“可用不可見”。依技術(shù)原理的差異,它可劃分為如下三類:

    其一,明文算法增強(qiáng)技術(shù)。該技術(shù)利用明文數(shù)據(jù)變換保護(hù)原始數(shù)據(jù),包括但不限于數(shù)據(jù)脫敏、差分隱私和聯(lián)邦學(xué)習(xí)。其中,“數(shù)據(jù)脫敏”通過一定規(guī)則對信息進(jìn)行變形、屏蔽或仿真處理,消除其在原始環(huán)境中的敏感信息;“差分隱私”采取增加噪音等統(tǒng)計(jì)學(xué)方法轉(zhuǎn)化并隱藏原始數(shù)據(jù);“聯(lián)邦學(xué)習(xí)”系一種分布式機(jī)器學(xué)習(xí)方法,其將原始數(shù)據(jù)轉(zhuǎn)化為中間參數(shù),以便讓多個(gè)互不信任的參與方通過梯度或參數(shù)交換協(xié)同訓(xùn)練模型,而不交換原始數(shù)據(jù)。其二,基于硬件的可信執(zhí)行環(huán)境。該技術(shù)立足于硬件機(jī)制的物理隔離,在計(jì)算過程中,數(shù)據(jù)以加密形式進(jìn)入執(zhí)行環(huán)境,只有經(jīng)授權(quán)的應(yīng)用程序才能予以解密,確保敏感數(shù)據(jù)在可信環(huán)境中存儲和處理。其三,基于密碼學(xué)的隱私計(jì)算技術(shù)。該技術(shù)利用安全算法和協(xié)議,將數(shù)據(jù)加密轉(zhuǎn)化后對外提供,任意一方都無法接觸到他方的明文數(shù)據(jù),多方安全計(jì)算(Multi-party Computation,MPC)是其重要代表。

    MPC理論首先由圖靈獎(jiǎng)獲得者姚期智教授在1982年“百萬富翁問題”中提出:兩個(gè)爭強(qiáng)好勝的富翁Alice和Bob在街頭相遇,如何既不暴露各自財(cái)富又能比較出誰更富有?對此,MPC允許互不信任的多個(gè)數(shù)據(jù)持有者各自輸入數(shù)據(jù),輸出計(jì)算結(jié)果,并保證任何一方均無法得到除應(yīng)得的計(jì)算結(jié)果之外的其他任何信息。MPC可廣泛用于:(1)數(shù)據(jù)可信交換。MPC為不同機(jī)構(gòu)之間構(gòu)建協(xié)同計(jì)算網(wǎng)絡(luò)中的信息索引、查詢、交換和數(shù)據(jù)跟蹤的統(tǒng)一標(biāo)準(zhǔn),實(shí)現(xiàn)機(jī)構(gòu)間數(shù)據(jù)的可信互聯(lián)互通。(2)數(shù)據(jù)安全查詢。MPC一方面保證查詢方僅得到經(jīng)授權(quán)的查詢結(jié)果,對數(shù)據(jù)庫其他記錄信息不可知;另一方面,數(shù)據(jù)庫擁有方亦不知曉查詢方具體的查詢請求。(3)聯(lián)合數(shù)據(jù)分析。傳統(tǒng)的數(shù)據(jù)分析經(jīng)MPC改進(jìn)后,能夠在敏感信息不出安全域的前提下完成多方數(shù)據(jù)源協(xié)同分析計(jì)算,發(fā)掘新的數(shù)據(jù)價(jià)值。

    (三)個(gè)人信息保護(hù)法的再反思

    依循“個(gè)人信息保護(hù)系統(tǒng)”的邏輯,“科技系統(tǒng)”與“法律系統(tǒng)”彼此區(qū)隔。賦能科技如欲產(chǎn)生補(bǔ)充、替代或懸置法律的效果,就必須經(jīng)由盧曼意義上的“法律反思”,使法律對科技保持認(rèn)知開放,進(jìn)而將其轉(zhuǎn)譯為法律規(guī)范。因?yàn)椤爸挥蟹赡軌蚋淖兎?,只有在法律系統(tǒng)的范圍內(nèi),才能把法律規(guī)范的變化理解為法律的改變”?!?0 〕職是之故,我國個(gè)人信息保護(hù)法如何在自主性的基礎(chǔ)上吸納賦能科技,就成為肯綮所在。

    個(gè)人信息保護(hù)法與賦能科技有關(guān)的條款見于“附則”中“去標(biāo)識化”和“匿名化”規(guī)定。其中,對于“個(gè)人信息經(jīng)過處理無法識別特定自然人且不能復(fù)原”的匿名化信息,個(gè)人信息保護(hù)法第4條將其排除在“個(gè)人信息”以外,因此不受該法的調(diào)整。對于“經(jīng)過處理,在不借助額外信息的情況下無法識別特定自然人”的去標(biāo)識化信息,個(gè)人信息保護(hù)法第51條第3項(xiàng)將其與“加密信息”并列,作為一種采取安全技術(shù)措施的個(gè)人信息,并未另外規(guī)定其法律后果。要之,個(gè)人信息保護(hù)法延續(xù)網(wǎng)絡(luò)安全法第42條和民法典第1038條的思路,形成了“個(gè)人信息—保護(hù)”和“匿名化信息—不保護(hù)”的二元格局?!?1 〕據(jù)此觀察,賦能科技只有滿足“匿名化”條件,才具有法律意義。然則,何為“匿名化”?

    根據(jù)個(gè)人信息保護(hù)法的界定,匿名化的結(jié)果是“無法識別特定自然人”。其“識別”與否應(yīng)從“識別主體”和“識別方式”兩方面綜合判斷, 〔52 〕意即“誰依何種方法進(jìn)行識別”。就識別主體論之,有客觀主義和主觀主義分野,前者放寬至“全世界任何一人”,后者限于一定范圍內(nèi)的主體。歐盟GDPR持前一立場,而英國則持后一觀點(diǎn)。在Department of Health v. Information Commissioner一案中, 〔53 〕法院堅(jiān)持“主觀主義”判斷,使用歸謬法指出:假使個(gè)人信息持有者保留原始資料,將會使經(jīng)處理的信息成為個(gè)人信息,那么將導(dǎo)致非?;闹嚨慕Y(jié)果——凡公開任何的統(tǒng)計(jì)數(shù)據(jù),都會構(gòu)成披露個(gè)人信息,只要原始信息未被刪除。事實(shí)上,我國司法實(shí)踐亦采取了相對主義標(biāo)準(zhǔn)。在“安徽美錦信息科技有限公司與淘寶(中國)軟件有限公司不正當(dāng)糾紛案”中, 〔54 〕雙方就淘寶抓取并出售的用戶瀏覽和交易信息以及在其基礎(chǔ)上推測出的用戶性別、職業(yè)、區(qū)域、偏好信息的定性和保護(hù)產(chǎn)生了爭議,法院最終認(rèn)定:“生意參謀”數(shù)據(jù)產(chǎn)品所使用的用戶信息經(jīng)過“匿名化脫敏處理后已無法識別特定個(gè)人且不能復(fù)原”,公開其數(shù)據(jù)內(nèi)容,對信息提供者不會產(chǎn)生不利影響。顯然,這里“匿名化”只是對“生意參謀”的使用者而言,而非淘寶公司,因其并未徹底刪除相關(guān)個(gè)人信息。

    另外,個(gè)人信息經(jīng)匿名化后“不能復(fù)原”。所謂“不能復(fù)原”,意即“無法重新識別出特定自然人”,而不是“相關(guān)信息不可還原”。〔55 〕與前文“識別”的判斷類似,重新識別的主體亦不是“全世界任何一人”,其識別方式亦限于“合理可能的手段”。這是因?yàn)?,從時(shí)間維度和技術(shù)語境看,永久的、不可逆的識別是不可能的,因?yàn)橐蕾嚰夹g(shù)實(shí)現(xiàn)的匿名化,理論上仍然可為技術(shù)所破解與還原?!?6 〕但這決不意味著,匿名化是個(gè)“破碎的承諾”。實(shí)際上,匿名化以風(fēng)險(xiǎn)最小化,而不是零風(fēng)險(xiǎn)為目標(biāo),只要風(fēng)險(xiǎn)在特定場景內(nèi)持續(xù)控制在可接受的范圍內(nèi),匿名化就完成了其使命?!?7 〕為了化解功能主義匿名化的剩余風(fēng)險(xiǎn), 〔58 〕處理者不應(yīng)依賴“發(fā)布后遺忘”的策略,而必須承擔(dān)持續(xù)性的個(gè)人信息保護(hù)義務(wù),根據(jù)技術(shù)發(fā)展和情況變化定期評估是否存在新的風(fēng)險(xiǎn)。對于已確定風(fēng)險(xiǎn),應(yīng)注意評估已采取的措施是否充分,并適時(shí)調(diào)整。此外,如處理者將匿名化信息提供給第三方,則后者負(fù)有禁止再識別的法定義務(wù)與合同義務(wù),處理者應(yīng)監(jiān)督其該義務(wù)的履行,其因怠監(jiān)督導(dǎo)致信息主體受損,應(yīng)與第三方共同承擔(dān)責(zé)任。

    總之,個(gè)人信息識別和匿名化是一體兩面,在信息科技迭代下均呈現(xiàn)出相對化和流動(dòng)化態(tài)勢,因而其均無整齊劃一的絕對答案,必須基于風(fēng)險(xiǎn)進(jìn)路,在認(rèn)知能力、技術(shù)條件和治理環(huán)境的約束作出適當(dāng)?shù)姆山忉尅榇?,個(gè)人信息保護(hù)法的“匿名化”在識別主體上采主觀主義解釋,在識別方式采“合理可能”解釋。由此可得如下規(guī)則:(1)在信息處理者內(nèi)部使用之時(shí)的匿名化,應(yīng)達(dá)到“其自身無法采取合理可能方式識別或后續(xù)重新識別特定自然人”的標(biāo)準(zhǔn)。(2)在信息處理者向社會公開個(gè)人信息之時(shí)的匿名化,應(yīng)達(dá)到“社會一般人在不借助之前既有知識,無法采取合理可能方式識別或后續(xù)重新識別特定自然人”的標(biāo)準(zhǔn)。(3)信息處理者向第三方提供個(gè)人信息之時(shí)的匿名化,應(yīng)達(dá)到“第三方無法采取合理可能方式識別或后續(xù)重新識別特定自然人”之標(biāo)準(zhǔn),以避免信息提供者和接受者共謀,規(guī)避個(gè)人信息保護(hù)義務(wù)。

    賦能科技能否落入匿名化處理的范圍?回答可能因情況而異。就軟PET和基于硬件的可信執(zhí)行環(huán)境而言,其主要強(qiáng)化了個(gè)人信息主體和處理者的控制權(quán);明文算法增強(qiáng)技術(shù)則是包羅萬象的框架性概念,包括了數(shù)據(jù)抽樣、確定性加密、信息壓制、抽象化、隨機(jī)化、數(shù)據(jù)合成等一系列技術(shù),其中的差分隱私、K 匿名、L多樣性、數(shù)據(jù)聚合等已被納入歐盟第29條工作組“關(guān)于匿名化技術(shù)的意見”之中。而以密碼學(xué)為基礎(chǔ)的多方安全計(jì)算,其既取決于加密算法的強(qiáng)度、加密密鑰的長度和密鑰管理的安全性,更取決于各方所得到的計(jì)算結(jié)果是否能夠重新識別特定自然人。賦能科技法律效果為何的判斷,不應(yīng)糾結(jié)于技術(shù)細(xì)節(jié),而要回到“匿名化”的法律標(biāo)準(zhǔn)之上。倘若如此,一個(gè)問題油然而生:如果有些賦能科技沒有實(shí)現(xiàn)“匿名化”但達(dá)到“去標(biāo)識化”,則是否具有法律意義?

    在比較法上,各國多對“個(gè)人信息”和“匿名信息”之間的狀態(tài)作出專門規(guī)定。根據(jù)歐盟GDPR第6條、第89條,處理“假名化個(gè)人數(shù)據(jù)”的,可以適當(dāng)放松“處理目的限定”的要求,轉(zhuǎn)而使用“處理目的兼容”的柔性規(guī)制,同時(shí)可為公共利益、科學(xué)或歷史研究或統(tǒng)計(jì)目的而處理,并可作為發(fā)生數(shù)據(jù)泄露責(zé)任的抗辯依據(jù)。日本2020年修訂的個(gè)人信息保護(hù)法亦引入“假名化個(gè)人信息”,豁免了包括“目的變更限制”“泄露通知義務(wù)”“持有的個(gè)人信息之相關(guān)事項(xiàng)的公布義務(wù)”“個(gè)人信息公開義務(wù)”“個(gè)人信息修正義務(wù)”“個(gè)人信息停止利用義務(wù)”等義務(wù)性規(guī)定。基于此,為激勵(lì)利益相關(guān)方使用賦能科技降低個(gè)人信息風(fēng)險(xiǎn)和法律執(zhí)行成本,在后續(xù)的制度設(shè)計(jì)中,可以從如下方面完善“去標(biāo)識化”規(guī)則:(1)個(gè)人信息處理者可在原先目的兼容的范圍處理“去標(biāo)識化信息”,相關(guān)兼容性應(yīng)綜合考量后續(xù)使用目的與原先目的之間的關(guān)聯(lián)性、數(shù)據(jù)收集的場景、該場景下個(gè)人的合理預(yù)期、數(shù)據(jù)性質(zhì)、后續(xù)使用產(chǎn)生的后果及現(xiàn)有的保障措施;(2)個(gè)人信息向第三方提供去標(biāo)識化信息的,第三方不得重新識別個(gè)人身份,信息主體有權(quán)隨時(shí)拒絕第三方的處理?!?9 〕

    結(jié)語

    水可覆舟,亦可載舟。信息科技固然是當(dāng)今世界個(gè)人信息權(quán)益的最大威脅,但同時(shí)它也是化解危機(jī)的優(yōu)先工具。隨著個(gè)人信息保護(hù)法的出臺,我國個(gè)人信息法律體系日臻完善,但只有拼接上“治理科技”這塊拼圖,個(gè)人信息治理體系才初步功成。本文研究表明,在公平、透明、合法、以人為本的設(shè)計(jì)理念下,合規(guī)科技得以強(qiáng)化法律保護(hù),賦能科技得以促進(jìn)各方共贏,法律和代碼由此攜手并進(jìn)。最后,依然要警惕信息科技中所隱含的價(jià)值偏頗、權(quán)力宰制和民主困境,意識到其可能的邊界與限度,如此才能不迷失于科技幻境里那美妙的塞壬之歌。

    Abstract: In the context of the Personal Information Protection Law (PIPL) coming out, reimagining the relationship between technology and law is an important part of the overall response to the personal information crisis in the digital age. As a place where the rights and interests of the country, enterprises, and individuals converge, personal information research must go beyond the traditional "regulation vs rights" thinking and move towards a personal information governance system based on national laws, information technology, market competition, and community norms. Information technology takes the lead among these. On the one hand, in the form of "Compliance Tech", it transforms the principles and rules of national laws into technological protection of personal information throughout the life cycle relying on the idea of "governance by design". On the other hand, in the form of tech-empowerment, it empowers all stakeholders by reducing the cost of law enforcement and the transaction cost of the parties, and even by changing the proposition of law involved. Therefore, the law should reasonably explain the elements of "anonymization", recognize the legal significance of "de-identified information", so that IT and law can be coordinated with each other to jointly build an incentive-compatible system of personal information governance.

    Key words: personal data governance; personal information protection law; govern tech; compliance tech; empower tech; anonymization

    猜你喜歡
    個(gè)人信息保護(hù)法
    公共服務(wù)領(lǐng)域算法解釋權(quán)之構(gòu)建
    大數(shù)據(jù)時(shí)代個(gè)人金融信息的保護(hù)與利用
    日本《個(gè)人信息保護(hù)法》對個(gè)人信息的界定
    從個(gè)人信息保護(hù)法看流動(dòng)人員人事檔案管理
    卷宗(2020年15期)2020-08-06 15:00:36
    對我國個(gè)人數(shù)據(jù)保護(hù)框架的檢視與設(shè)想
    大數(shù)據(jù)時(shí)代被遺忘權(quán)的法律問題探究
    日本個(gè)人信息保護(hù)法修改案例研究
    個(gè)人信息的法律保護(hù)
    法制博覽(2018年1期)2018-02-24 22:53:17
    個(gè)人信息保護(hù)法在大數(shù)據(jù)時(shí)代的適用和域外效力
    我國個(gè)人信息保護(hù)的立法問題
    世界家苑(2017年4期)2017-07-23 05:21:12
    狂野欧美激情性xxxx| 两个人免费观看高清视频| 高潮久久久久久久久久久不卡| 最新的欧美精品一区二区| 国产一区二区三区综合在线观看| 免费在线观看影片大全网站| 亚洲国产欧美网| 国产精品av久久久久免费| 国产精品国产高清国产av | 搡老熟女国产l中国老女人| 欧美黑人精品巨大| 丰满迷人的少妇在线观看| 不卡一级毛片| 丰满少妇做爰视频| 一本色道久久久久久精品综合| 叶爱在线成人免费视频播放| 无遮挡黄片免费观看| 老司机在亚洲福利影院| 精品少妇内射三级| 在线观看免费日韩欧美大片| 国产真人三级小视频在线观看| 五月天丁香电影| 欧美国产精品一级二级三级| 波多野结衣一区麻豆| 免费在线观看黄色视频的| 中亚洲国语对白在线视频| 亚洲黑人精品在线| 亚洲精品中文字幕一二三四区 | 免费高清在线观看日韩| 日韩欧美三级三区| 精品乱码久久久久久99久播| 男女无遮挡免费网站观看| 丝瓜视频免费看黄片| 久久久久网色| 久久青草综合色| 亚洲人成77777在线视频| 欧美日韩中文字幕国产精品一区二区三区 | 午夜两性在线视频| 亚洲午夜精品一区,二区,三区| 亚洲中文字幕日韩| 黑人操中国人逼视频| 9热在线视频观看99| 日韩一区二区三区影片| 欧美 亚洲 国产 日韩一| 国产成人av激情在线播放| 中文字幕色久视频| 久久久国产成人免费| 高清黄色对白视频在线免费看| 成人亚洲精品一区在线观看| 亚洲精品国产区一区二| 中文字幕av电影在线播放| 国产成人一区二区三区免费视频网站| 麻豆国产av国片精品| 精品国产乱码久久久久久男人| 岛国毛片在线播放| 搡老岳熟女国产| 搡老岳熟女国产| h视频一区二区三区| 久久久久久人人人人人| 亚洲自偷自拍图片 自拍| 岛国在线观看网站| 国产激情久久老熟女| 久久久久国内视频| 最近最新中文字幕大全免费视频| 黑人巨大精品欧美一区二区蜜桃| tube8黄色片| 日韩 欧美 亚洲 中文字幕| 久久毛片免费看一区二区三区| 国产不卡av网站在线观看| 国产不卡一卡二| 成年动漫av网址| h视频一区二区三区| 午夜福利一区二区在线看| 欧美精品高潮呻吟av久久| 日韩成人在线观看一区二区三区| 精品人妻在线不人妻| 成人国产一区最新在线观看| 少妇 在线观看| 国产精品免费视频内射| 一区二区三区激情视频| 亚洲专区国产一区二区| 欧美精品亚洲一区二区| 热re99久久精品国产66热6| 欧美日韩亚洲高清精品| 少妇 在线观看| 欧美精品亚洲一区二区| 久久 成人 亚洲| 色婷婷久久久亚洲欧美| 激情视频va一区二区三区| 少妇 在线观看| 淫妇啪啪啪对白视频| 国产av精品麻豆| 国产人伦9x9x在线观看| 一边摸一边抽搐一进一出视频| 亚洲精品av麻豆狂野| 久久人人爽av亚洲精品天堂| 窝窝影院91人妻| 一本综合久久免费| 精品少妇一区二区三区视频日本电影| 美女国产高潮福利片在线看| 窝窝影院91人妻| 日韩大片免费观看网站| 精品欧美一区二区三区在线| 欧美人与性动交α欧美精品济南到| 大型黄色视频在线免费观看| 97在线人人人人妻| 80岁老熟妇乱子伦牲交| 热99久久久久精品小说推荐| 人人妻人人爽人人添夜夜欢视频| av又黄又爽大尺度在线免费看| 日韩欧美国产一区二区入口| 老熟女久久久| 新久久久久国产一级毛片| 日韩成人在线观看一区二区三区| avwww免费| a级片在线免费高清观看视频| 日韩一区二区三区影片| 91精品国产国语对白视频| 人人妻人人添人人爽欧美一区卜| 9色porny在线观看| 黄色a级毛片大全视频| 国产成人av激情在线播放| 国产男女内射视频| 多毛熟女@视频| 国产在线精品亚洲第一网站| 欧美另类亚洲清纯唯美| 久久国产精品人妻蜜桃| 久久午夜综合久久蜜桃| 淫妇啪啪啪对白视频| 青青草视频在线视频观看| 日日摸夜夜添夜夜添小说| 久久国产亚洲av麻豆专区| 中文字幕精品免费在线观看视频| 午夜激情av网站| 成人av一区二区三区在线看| 国产日韩欧美在线精品| 丁香欧美五月| 久久精品aⅴ一区二区三区四区| 人妻 亚洲 视频| 色在线成人网| 亚洲欧美色中文字幕在线| 巨乳人妻的诱惑在线观看| 午夜福利视频在线观看免费| 亚洲av成人不卡在线观看播放网| 好男人电影高清在线观看| 亚洲av成人不卡在线观看播放网| tube8黄色片| 精品一品国产午夜福利视频| 久久av网站| 亚洲精品粉嫩美女一区| 国产一区二区激情短视频| 国产男女超爽视频在线观看| 极品教师在线免费播放| 高清黄色对白视频在线免费看| 免费看十八禁软件| 香蕉国产在线看| 精品国产乱码久久久久久小说| 欧美日韩一级在线毛片| 成年女人毛片免费观看观看9 | av有码第一页| 久久久久精品人妻al黑| 国产午夜精品久久久久久| 成人亚洲精品一区在线观看| 99精国产麻豆久久婷婷| 亚洲国产精品一区二区三区在线| 久久久久久久久久久久大奶| 十八禁人妻一区二区| 亚洲色图 男人天堂 中文字幕| 国产成人一区二区三区免费视频网站| 熟女少妇亚洲综合色aaa.| 人人澡人人妻人| 午夜福利视频精品| 午夜福利影视在线免费观看| 久久久久网色| 一区二区三区激情视频| 久久久久久久国产电影| 新久久久久国产一级毛片| 精品一品国产午夜福利视频| 18禁国产床啪视频网站| 日本黄色日本黄色录像| 久久人妻福利社区极品人妻图片| 中国美女看黄片| 免费在线观看黄色视频的| 美女主播在线视频| 久久久久久亚洲精品国产蜜桃av| av网站在线播放免费| 亚洲 欧美一区二区三区| 国产精品熟女久久久久浪| 曰老女人黄片| 桃红色精品国产亚洲av| 黑丝袜美女国产一区| 国产精品亚洲一级av第二区| 黄网站色视频无遮挡免费观看| 纯流量卡能插随身wifi吗| 欧美精品高潮呻吟av久久| 成年人免费黄色播放视频| 天天添夜夜摸| 中亚洲国语对白在线视频| 日本av免费视频播放| 十分钟在线观看高清视频www| www.精华液| 少妇猛男粗大的猛烈进出视频| 成年人午夜在线观看视频| 国产日韩欧美视频二区| 超碰97精品在线观看| 国产主播在线观看一区二区| 精品人妻熟女毛片av久久网站| 久久av网站| 满18在线观看网站| 久久久国产成人免费| 女人高潮潮喷娇喘18禁视频| 久久久欧美国产精品| 中文字幕人妻丝袜制服| 两性夫妻黄色片| 色精品久久人妻99蜜桃| 女人精品久久久久毛片| 9色porny在线观看| 老司机亚洲免费影院| 亚洲精品在线美女| 涩涩av久久男人的天堂| 日韩欧美三级三区| 精品免费久久久久久久清纯 | 久久毛片免费看一区二区三区| 免费少妇av软件| 欧美日韩中文字幕国产精品一区二区三区 | 国产成人免费无遮挡视频| 老司机深夜福利视频在线观看| 久热爱精品视频在线9| 极品少妇高潮喷水抽搐| 亚洲,欧美精品.| 狠狠狠狠99中文字幕| 极品教师在线免费播放| 汤姆久久久久久久影院中文字幕| 久久九九热精品免费| 99精品久久久久人妻精品| 亚洲国产中文字幕在线视频| 一区二区三区国产精品乱码| 欧美精品亚洲一区二区| 丝瓜视频免费看黄片| 亚洲视频免费观看视频| 欧美日韩亚洲综合一区二区三区_| 欧美亚洲 丝袜 人妻 在线| 亚洲免费av在线视频| 久久午夜综合久久蜜桃| 女人爽到高潮嗷嗷叫在线视频| 久久国产精品影院| 久久久国产欧美日韩av| 欧美日本中文国产一区发布| 国产免费福利视频在线观看| 国产熟女午夜一区二区三区| 亚洲avbb在线观看| 日日摸夜夜添夜夜添小说| 黑人巨大精品欧美一区二区mp4| 国产在线一区二区三区精| 国产精品久久久av美女十八| 国产在线视频一区二区| 亚洲av日韩在线播放| 国产熟女午夜一区二区三区| 亚洲国产av新网站| 91大片在线观看| 欧美 亚洲 国产 日韩一| 亚洲全国av大片| 亚洲九九香蕉| 亚洲综合色网址| 国产成人免费无遮挡视频| 不卡av一区二区三区| 久久久国产欧美日韩av| 精品人妻熟女毛片av久久网站| 久久精品成人免费网站| 国产精品亚洲av一区麻豆| 淫妇啪啪啪对白视频| 免费在线观看视频国产中文字幕亚洲| 999精品在线视频| 80岁老熟妇乱子伦牲交| 久久人妻福利社区极品人妻图片| 国产av又大| www.精华液| 一本大道久久a久久精品| 12—13女人毛片做爰片一| 精品亚洲成a人片在线观看| 久久av网站| 满18在线观看网站| 亚洲人成电影观看| 极品人妻少妇av视频| 搡老乐熟女国产| 99国产精品99久久久久| 在线观看www视频免费| 国产精品香港三级国产av潘金莲| 少妇裸体淫交视频免费看高清 | 美女高潮喷水抽搐中文字幕| 1024视频免费在线观看| 精品第一国产精品| 久热爱精品视频在线9| 国产男靠女视频免费网站| 国产av国产精品国产| 在线观看www视频免费| 精品乱码久久久久久99久播| 亚洲人成伊人成综合网2020| 国产精品电影一区二区三区 | 亚洲国产看品久久| 精品人妻熟女毛片av久久网站| 免费人妻精品一区二区三区视频| 人人妻人人添人人爽欧美一区卜| 激情视频va一区二区三区| 国产男女超爽视频在线观看| 一区二区av电影网| 少妇猛男粗大的猛烈进出视频| 亚洲国产成人一精品久久久| 国产精品九九99| 99久久精品国产亚洲精品| 免费日韩欧美在线观看| 天天影视国产精品| 日本a在线网址| 最新在线观看一区二区三区| 中文字幕精品免费在线观看视频| 日韩成人在线观看一区二区三区| 国产av精品麻豆| 亚洲伊人久久精品综合| 丝袜美足系列| 757午夜福利合集在线观看| 黑人巨大精品欧美一区二区蜜桃| 日韩视频一区二区在线观看| 国产成人免费观看mmmm| 国产精品一区二区精品视频观看| 两个人免费观看高清视频| 久久精品91无色码中文字幕| 亚洲精品国产一区二区精华液| 在线十欧美十亚洲十日本专区| 男女午夜视频在线观看| 精品久久久久久久毛片微露脸| 国产成人一区二区三区免费视频网站| 免费一级毛片在线播放高清视频 | 曰老女人黄片| 日韩视频在线欧美| 久久99一区二区三区| 老司机福利观看| 在线十欧美十亚洲十日本专区| 在线观看人妻少妇| 一夜夜www| 国产成人啪精品午夜网站| 精品福利观看| 亚洲成av片中文字幕在线观看| 汤姆久久久久久久影院中文字幕| 最近最新中文字幕大全电影3 | 一进一出好大好爽视频| 18在线观看网站| 淫妇啪啪啪对白视频| 老司机靠b影院| 欧美激情极品国产一区二区三区| 免费观看a级毛片全部| 50天的宝宝边吃奶边哭怎么回事| 久久婷婷成人综合色麻豆| 一二三四社区在线视频社区8| 国产欧美日韩一区二区精品| 怎么达到女性高潮| 女人被躁到高潮嗷嗷叫费观| 日韩三级视频一区二区三区| 69精品国产乱码久久久| 亚洲第一欧美日韩一区二区三区 | a级毛片黄视频| 日韩精品免费视频一区二区三区| 欧美激情 高清一区二区三区| 亚洲av第一区精品v没综合| 两性夫妻黄色片| 中文字幕色久视频| 在线十欧美十亚洲十日本专区| 国产真人三级小视频在线观看| 高清黄色对白视频在线免费看| 成人三级做爰电影| 成年人午夜在线观看视频| 欧美老熟妇乱子伦牲交| 日本av免费视频播放| 久久99热这里只频精品6学生| 自线自在国产av| 露出奶头的视频| 夫妻午夜视频| 国产日韩欧美视频二区| 99国产综合亚洲精品| 亚洲国产欧美在线一区| 9热在线视频观看99| 亚洲,欧美精品.| 后天国语完整版免费观看| 国精品久久久久久国模美| 日韩制服丝袜自拍偷拍| 天堂中文最新版在线下载| 国产av国产精品国产| 一进一出好大好爽视频| 亚洲国产欧美在线一区| 丰满饥渴人妻一区二区三| 国产福利在线免费观看视频| 国产麻豆69| 欧美人与性动交α欧美软件| 在线永久观看黄色视频| 国产黄色免费在线视频| 50天的宝宝边吃奶边哭怎么回事| 丝袜在线中文字幕| 久久精品人人爽人人爽视色| 成人三级做爰电影| 亚洲欧美日韩另类电影网站| 成年动漫av网址| 免费观看a级毛片全部| 99九九在线精品视频| 国产一区有黄有色的免费视频| 夜夜爽天天搞| 成人18禁高潮啪啪吃奶动态图| 欧美成人午夜精品| 视频区欧美日本亚洲| 可以免费在线观看a视频的电影网站| 757午夜福利合集在线观看| 久久av网站| 国产成人一区二区三区免费视频网站| 午夜91福利影院| 国产av一区二区精品久久| 成人黄色视频免费在线看| 啦啦啦在线免费观看视频4| 国产区一区二久久| 国产高清激情床上av| 免费观看a级毛片全部| 欧美性长视频在线观看| 天堂动漫精品| 亚洲综合色网址| 另类精品久久| 亚洲av第一区精品v没综合| 亚洲 欧美一区二区三区| 国产一区二区 视频在线| 欧美日韩黄片免| 男女之事视频高清在线观看| 国产片内射在线| 自线自在国产av| 亚洲国产欧美一区二区综合| 日日夜夜操网爽| 免费少妇av软件| 波多野结衣一区麻豆| 国产成+人综合+亚洲专区| 欧美老熟妇乱子伦牲交| 三级毛片av免费| 又紧又爽又黄一区二区| 久久人妻福利社区极品人妻图片| 色尼玛亚洲综合影院| 丰满饥渴人妻一区二区三| 成人亚洲精品一区在线观看| 亚洲国产中文字幕在线视频| 亚洲专区中文字幕在线| 亚洲av欧美aⅴ国产| 欧美精品av麻豆av| 日韩视频在线欧美| 久久久国产成人免费| 超碰成人久久| 人人妻人人爽人人添夜夜欢视频| 成人国产av品久久久| 日韩免费av在线播放| 亚洲av欧美aⅴ国产| 免费一级毛片在线播放高清视频 | 欧美黑人精品巨大| 后天国语完整版免费观看| 在线十欧美十亚洲十日本专区| 91精品三级在线观看| 一级片'在线观看视频| 中文字幕制服av| 大型av网站在线播放| 午夜福利视频精品| 一进一出好大好爽视频| 两人在一起打扑克的视频| 天堂俺去俺来也www色官网| 一夜夜www| 日日爽夜夜爽网站| 精品视频人人做人人爽| 人人妻人人澡人人看| 一级黄色大片毛片| 成在线人永久免费视频| √禁漫天堂资源中文www| 国产日韩欧美在线精品| 午夜老司机福利片| 一级a爱视频在线免费观看| 国产亚洲精品久久久久5区| 亚洲av片天天在线观看| 久久毛片免费看一区二区三区| 一进一出抽搐动态| 国产精品1区2区在线观看. | 国产在线一区二区三区精| 制服诱惑二区| 老熟妇乱子伦视频在线观看| 人人妻人人澡人人爽人人夜夜| 欧美大码av| 国产xxxxx性猛交| 视频区图区小说| 国产视频一区二区在线看| 51午夜福利影视在线观看| 亚洲 欧美一区二区三区| 国产av一区二区精品久久| 最新在线观看一区二区三区| 丝袜在线中文字幕| 日韩人妻精品一区2区三区| 亚洲av成人一区二区三| 欧美激情 高清一区二区三区| 久久影院123| 80岁老熟妇乱子伦牲交| 人妻久久中文字幕网| 国产日韩欧美亚洲二区| 国产黄频视频在线观看| 在线 av 中文字幕| 国产成人精品在线电影| 国产日韩一区二区三区精品不卡| 国产精品久久久av美女十八| 99久久国产精品久久久| 国产视频一区二区在线看| 天堂中文最新版在线下载| 国产成人免费无遮挡视频| 久久毛片免费看一区二区三区| 国产区一区二久久| 女人被躁到高潮嗷嗷叫费观| 一级,二级,三级黄色视频| 女人爽到高潮嗷嗷叫在线视频| 99re6热这里在线精品视频| 大片电影免费在线观看免费| 无遮挡黄片免费观看| av片东京热男人的天堂| 久久久久久免费高清国产稀缺| 一区二区三区精品91| 侵犯人妻中文字幕一二三四区| 欧美精品一区二区大全| 不卡av一区二区三区| 黄频高清免费视频| 91九色精品人成在线观看| 国产亚洲欧美在线一区二区| 青青草视频在线视频观看| 久久天堂一区二区三区四区| 成人三级做爰电影| 黑人巨大精品欧美一区二区蜜桃| 青草久久国产| 在线观看66精品国产| 日韩欧美免费精品| 精品国产乱子伦一区二区三区| 精品一品国产午夜福利视频| av片东京热男人的天堂| 韩国精品一区二区三区| 精品久久久久久电影网| 欧美+亚洲+日韩+国产| 精品熟女少妇八av免费久了| 久久婷婷成人综合色麻豆| 18在线观看网站| 少妇 在线观看| 亚洲精华国产精华精| 黄色视频在线播放观看不卡| 亚洲一码二码三码区别大吗| 老司机深夜福利视频在线观看| 99国产综合亚洲精品| 午夜福利影视在线免费观看| 18禁美女被吸乳视频| 无限看片的www在线观看| 91成年电影在线观看| 国产免费视频播放在线视频| 美女高潮喷水抽搐中文字幕| av一本久久久久| 人人妻人人爽人人添夜夜欢视频| 国产高清国产精品国产三级| 国产精品久久久人人做人人爽| 欧美另类亚洲清纯唯美| 国产精品麻豆人妻色哟哟久久| 国产成人免费观看mmmm| videos熟女内射| 免费不卡黄色视频| 在线观看人妻少妇| 成人国产av品久久久| 岛国毛片在线播放| 看免费av毛片| 国产欧美亚洲国产| 久久青草综合色| 国产三级黄色录像| 午夜日韩欧美国产| 久久人妻福利社区极品人妻图片| 国产亚洲精品一区二区www | 美女高潮喷水抽搐中文字幕| 久久ye,这里只有精品| 他把我摸到了高潮在线观看 | 一区二区日韩欧美中文字幕| 国产男女内射视频| 日韩视频在线欧美| 欧美一级毛片孕妇| 欧美在线黄色| 欧美国产精品一级二级三级| 国产主播在线观看一区二区| 国产精品久久电影中文字幕 | 大片免费播放器 马上看| 亚洲av日韩在线播放| 99久久99久久久精品蜜桃| 国产成人精品在线电影| 亚洲午夜理论影院| 俄罗斯特黄特色一大片| 午夜91福利影院| 久久中文字幕一级| 咕卡用的链子| 国内毛片毛片毛片毛片毛片| 91九色精品人成在线观看| 精品国产乱码久久久久久男人| 久久精品亚洲精品国产色婷小说| 叶爱在线成人免费视频播放| 一本综合久久免费| 日韩欧美免费精品| 亚洲自偷自拍图片 自拍| 免费观看av网站的网址| 欧美人与性动交α欧美软件| 丝袜美腿诱惑在线| netflix在线观看网站| 一个人免费在线观看的高清视频| 午夜日韩欧美国产| 久久国产精品大桥未久av| 一本综合久久免费| 中文字幕人妻丝袜制服| 亚洲专区字幕在线| 精品免费久久久久久久清纯 | 国产成人精品久久二区二区免费| 成人亚洲精品一区在线观看| 精品少妇内射三级| 黄色视频,在线免费观看|