• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    區(qū)塊鏈應用中的個人信息刪除權(quán)與更正權(quán)問題研究

    2022-11-23 03:44:33李有星
    關(guān)鍵詞:信息處理個人信息區(qū)塊

    李有星

    (浙江大學 光華法學院,浙江 杭州 310008)

    2019年10月,中共中央政治局就區(qū)塊鏈技術(shù)發(fā)展現(xiàn)狀和趨勢進行第十八次集體學習,習近平總書記在學習時強調(diào),要把區(qū)塊鏈作為核心技術(shù)自主創(chuàng)新重要突破口,加快推動區(qū)塊鏈技術(shù)和產(chǎn)業(yè)創(chuàng)新發(fā)展(1)《習近平在中央政治局第十八次集體學習強調(diào) 把區(qū)塊鏈作為核心技術(shù)自主創(chuàng)新重要突破口 加快推動區(qū)塊鏈技術(shù)和產(chǎn)業(yè)創(chuàng)新發(fā)展》,2019-10-25,http://www.xinhuanet.com/politics/leaders/2019-10/25/c_1125153665.htm。。區(qū)塊鏈技術(shù)已經(jīng)成為未來信息技術(shù)發(fā)展的一個重要方向,相關(guān)技術(shù)應用已延伸到數(shù)字金融、物聯(lián)網(wǎng)、智能制造、供應鏈管理、數(shù)字資產(chǎn)交易以及個人信息處理等領(lǐng)域(2)《個人信息保護法》第四條規(guī)定,個人信息是以電子或者其他方式記錄的與已識別或者可識別的自然人有關(guān)的各種信息,不包括匿名化處理后的信息。個人信息的處理包括個人信息的收集、存儲、使用、加工、傳輸、提供、公開、刪除等。。比如,基于區(qū)塊鏈技術(shù)的征信系統(tǒng)依法收集、加工、公開自然人信用信息,并對外提供信用報告、信用評估和信用信息咨詢等服務。區(qū)塊鏈被認為承載著解決個人信息利用的偉大使命,可以在促使信息革新的同時有效解決個人信息保護問題。然而,區(qū)塊鏈技術(shù)的去中心化、不可篡改、不可刪除等特性,給《民法典》《個人信息保護法》等法律規(guī)定的個人信息刪除與更正行為帶來了技術(shù)上的困難,也引起了個人信息保護中刪除權(quán)與更正權(quán)實現(xiàn)問題的爭議。如疫情期間,有關(guān)部門為有效解決人員管理、登記、病例溯源的問題,通過區(qū)塊鏈系統(tǒng),將行為人的活動信息、健康信息、訪客行程等個人信息“上鏈”整合,形成居民行蹤軌跡,應用于健康碼生成、病例溯源和排查等防疫管控工作。但是個人信息一旦“上鏈”,個人的身份、健康等信息的刪除、更正就成為問題,若涉及個人隱私、敏感信息等,可能還會對當事人的合法權(quán)利構(gòu)成侵害。2021年8月20日通過的《個人信息保護法》第四十六條、第四十七條賦予個人信息刪除和更正的權(quán)利,個人有權(quán)請求個人信息處理者更正、補充、刪除相關(guān)個人信息(3)《個人信息保護法》第四十七條規(guī)定,有下列情形之一的,個人信息處理者應當主動刪除個人信息;個人信息處理者未刪除的,個人有權(quán)請求刪除:(1)處理目的已實現(xiàn)、無法實現(xiàn)或者為實現(xiàn)處理目的不再必要;(2)個人信息處理者停止提供產(chǎn)品或者服務,或者保存期限已屆滿;(3)個人撤回同意;(4)個人信息處理者違反法律、行政法規(guī)或者違反約定處理個人信息;(5)法律、行政法規(guī)規(guī)定的其他情形。法律、行政法規(guī)規(guī)定的保存期限未屆滿,或者刪除個人信息從技術(shù)上難以實現(xiàn)的,個人信息處理者應當停止除存儲和采取必要的安全保護措施之外的處理。。在區(qū)塊鏈技術(shù)廣泛應用的背景下,如何充分保障個人信息刪除權(quán)和更正權(quán)的有效實現(xiàn),成為亟須解決的法律問題。

    一、個人信息刪除權(quán)與區(qū)塊鏈技術(shù) 不可刪除之間的矛盾

    區(qū)塊鏈技術(shù)在寫入和讀取數(shù)據(jù)的安全性、公開透明性、加密性上具有優(yōu)勢,但也存在區(qū)塊鏈不可撤銷、可溯源性與個人信息刪除、更正等權(quán)利之間的沖突(4)張濤、王珊:《區(qū)塊鏈保護個人信息存“兩面性”》,《通信世界》2018年第13期,第21頁。。在數(shù)字技術(shù)時代,個人信息在客觀上不能刪除或者不適宜刪除、更正的情況普遍存在。

    維克托·邁爾-舍恩伯格認為,由于數(shù)字技術(shù)與全球網(wǎng)絡的發(fā)展,遺忘成為人們的例外,而記憶成了常態(tài),在大數(shù)據(jù)時代,所有人都將被數(shù)字化后進入數(shù)字版的“圓形監(jiān)獄”,時時刻刻地受到監(jiān)視(5)維克托·邁爾-舍恩伯格著,袁杰譯:《刪除:大數(shù)據(jù)取舍之道》,浙江人民出版社2013年版,第6-18頁。。在互聯(lián)網(wǎng)時代,個人信息一旦在網(wǎng)絡中被大量傳播,要想徹底刪除或更正在理論上是難以做到的。由于互聯(lián)網(wǎng)的特性,即使信息已被移除,該信息的副本仍可以從網(wǎng)頁快照等高速緩存或鏡像站點中獲取。即便用戶有權(quán)向這些二次站點主張移除信息,但讓用戶識別出控制、管理這些副本的網(wǎng)絡服務提供商相當困難。對于網(wǎng)頁快照等高速緩存而言,或許用戶還能通過搜索引擎公司提供的線索,準確定位到信息副本的服務提供商,而搜索引擎公司為了避免責任追索,一般情形下也愿意合作(6)李媛:《被遺忘權(quán)之反思與建構(gòu)》,《華東政法大學學報》2019年第2期,第57-67頁。。但對于很多鏡像站點,用戶難以追蹤,搜索引擎公司也沒有相應權(quán)限去追索,更不可能完全追索全部的鏡像站點,尤其是在這些站點服務器設(shè)置在域外的情形之下。

    此外,區(qū)塊鏈技術(shù)還有自身的特殊性,上傳于非許可鏈(公有鏈)或其他具有開放特性的區(qū)塊鏈系統(tǒng)中的個人信息,將在客觀上無法被刪除、更正。以比特幣、以太坊為代表的非許可鏈(公有鏈)應用,在數(shù)字貨幣、智能合約等領(lǐng)域發(fā)揮了巨大作用(7)閔新平、李慶忠、孔蘭菊等:《許可鏈多中心動態(tài)共識機制》,《計算機學報》2018年第5期,第1005-1020頁。。由于非許可鏈是典型的去中心化分布式記賬系統(tǒng),是一個交易驅(qū)動的狀態(tài)機(state machine),其特點就是全網(wǎng)絡節(jié)點共同維持一個賬本的狀態(tài),含有交易信息的區(qū)塊必須得到系統(tǒng)中大多數(shù)節(jié)點的認可才是“合法”有效的。任何對區(qū)塊信息的篡改都會因為與總賬本狀態(tài)的不同而不被認為是“合法”的,由此維護全網(wǎng)絡狀態(tài)的一致性和不可篡改性。區(qū)別于聯(lián)盟鏈和私有鏈等許可鏈,以公有鏈為代表的非許可鏈或者其他具有開放特性的區(qū)塊鏈系統(tǒng),對所有同意區(qū)塊鏈協(xié)議的網(wǎng)絡節(jié)點開放,沒有任何節(jié)點可以直接控制區(qū)塊鏈上的信息。由于系統(tǒng)的開放性,這些節(jié)點可能來自世界各地,互不相識,甚至大部分都是匿名的,想要憑借共識機制來刪除、更正區(qū)塊信息,就更加難以做到。這意味著,一旦相關(guān)個人信息被包含在區(qū)塊內(nèi)并“上鏈”,就難以被刪除或更正,直到最后一臺參與區(qū)塊鏈的服務器被銷毀為止。實際上,區(qū)塊鏈上發(fā)布出去的個人信息,就如同傳統(tǒng)紙質(zhì)媒體上的信息,報刊縱有侵犯個人信息的地方,但因為已經(jīng)完全被散發(fā)出去,落入千家萬戶,也就難以從根本上徹底刪除或更正。

    從計算機技術(shù)實現(xiàn)的角度看,區(qū)塊鏈的不可篡改性具有相對性,事實上也沒有任何信息是絕對不可修改、不可刪除的,典型的例子就是以太坊The DAO事件后采取的硬分叉措施(8)硬分叉(Hard Fork)就是通過修訂協(xié)議引入新的特性,使前一版本的協(xié)議失效,即運行新版協(xié)議的節(jié)點認定為有效的區(qū)塊,會被運行舊版協(xié)議的節(jié)點認定為無效,從而使已經(jīng)升級的新節(jié)點和沒有升級的老節(jié)點在各自協(xié)議版本下擴展不同的區(qū)塊鏈分支。軟分叉(Soft Fork)就是不修改協(xié)議,只是在現(xiàn)有的驗證規(guī)則中加入一些新的特性或條件,使得驗證規(guī)則更為嚴格,這樣就使得老的節(jié)點會接受所有區(qū)塊,而新的節(jié)點會拒絕一些區(qū)塊,可以避免硬分叉所造成的永久分裂。參見阿爾文德·納拉亞南等著,林華等譯:《區(qū)塊鏈:技術(shù)驅(qū)動金融》,中信出版社2016年版,第94-95頁。。黑客利用以太坊上The DAO項目的代碼漏洞,竊取了大量以太幣。事件發(fā)生后,以太坊開發(fā)團隊就是通過硬分叉的方法,強行回滾了部分賬戶的狀態(tài),使得黑客利用漏洞轉(zhuǎn)出交易的區(qū)塊失效,找回了丟失的以太幣。但是,在以太坊這樣的非許可鏈(公有鏈)上采取任何修改、刪除區(qū)塊信息的做法,也必須符合非許可鏈去中心化的基本共識規(guī)則。以太坊開發(fā)團隊試圖憑借硬分叉的方法回滾交易信息,必須得到系統(tǒng)中51%以上算力節(jié)點的認可,事實上當時有85%的以太坊算力節(jié)點響應并支持了開發(fā)團隊硬分叉的呼吁。即便通過軟分叉的方式修改區(qū)塊鏈驗證條件,阻止相關(guān)信息被后續(xù)區(qū)塊調(diào)取,也必須得到區(qū)塊鏈網(wǎng)絡大部分算力節(jié)點的支持。申言之,去中心化的特征意味著在區(qū)塊鏈系統(tǒng)中刪除、更正信息必須以去中心化的方式實現(xiàn),而非某個開發(fā)者、節(jié)點可以決定。因此,在非許可鏈(公有鏈)上刪除、更正信息是有限制條件的,如果沒有獲得51%以上的算力節(jié)點支持,刪除、更正的措施就無法實現(xiàn),而這一條件的實現(xiàn)將隨著區(qū)塊鏈網(wǎng)絡節(jié)點數(shù)量的增加而愈發(fā)困難。此外,這種分叉的措施也存在著客觀上無法徹底刪除相關(guān)個人信息的情況,除非所有節(jié)點都同意分叉并在新鏈上挖礦,否則只要有一部分節(jié)點不同意分叉,并且繼續(xù)在另一條分叉鏈上挖礦,相關(guān)個人信息也還會在該分叉上繼續(xù)存在(如以太坊ETH和以太經(jīng)典ETC的分裂(9)以太坊開發(fā)團隊通過硬分叉的方式避免黑客盜取大量以太幣,但這種人為強行回滾的做法也遭到了許多以太坊用戶的反對,認為此次人為主導的硬分叉是對以太坊去中心化理念的徹底背離,不同意硬分叉而選擇在原有鏈上繼續(xù)貢獻自己的算力。這就使得以太坊分裂為了ETH和ETC,黑客盜取以太幣的交易信息在ETC上繼續(xù)被認為“合法”有效。),客觀上根本無法刪除和更正。

    類似刪除和更正成本極大、不適宜采用的情況,在許可鏈中更為常見。所謂不適宜刪除或更正,是指相關(guān)個人信息在客觀技術(shù)上可以實現(xiàn)刪除或更正,但是因為技術(shù)或網(wǎng)絡服務的特殊性,直接簡單刪除或更正、補充相關(guān)信息會大大增加社會成本,超出保護權(quán)利的合理限度。事實上,區(qū)塊鏈技術(shù)的發(fā)展已經(jīng)提出了幾種在區(qū)塊鏈應用中刪除和更正個人信息(或者達到類似程度)的技術(shù)方案。比如,上文提到的交易記錄回滾、分叉就是刪除最常用的方法,更正則可以采用新區(qū)塊信息取代舊信息的方法。雖然技術(shù)方案可以滿足自然人刪除和更正個人信息的請求,但也面臨著巨大的社會成本。以最常見的聯(lián)盟鏈為例,在聯(lián)盟鏈中應用回滾的方式刪除或者更正個人信息,首先需要解決有權(quán)記賬節(jié)點如何達成共識的問題。雖然聯(lián)盟鏈可能會有發(fā)起人、牽頭人甚至有大型的全節(jié)點、服務器集群,但沒有一個聯(lián)盟成員可以直接支配區(qū)塊鏈上的數(shù)據(jù)信息,可以不經(jīng)過全聯(lián)盟的共識機制肆意刪除、修改相關(guān)信息,否則就失去了聯(lián)盟應用區(qū)塊鏈技術(shù)解決信任問題的意義。因此,聯(lián)盟鏈上刪除或修改個人信息首先需要解決共識問題,任何獨斷的、中心化的控制都會與區(qū)塊鏈技術(shù)本身的價值相背離,動搖區(qū)塊鏈技術(shù)應用的基石。其次,如何處理相關(guān)交易和時間戳,是刪除、更正特定個人信息的最大成本所在。在區(qū)塊鏈中,每一個區(qū)塊都會包含許多信息,個人信息連同其他交易信息被打包裝入一個區(qū)塊,并進行某種形式的哈希算法得到一個哈希值,這一哈希值又會被包含在后一個區(qū)塊的塊頭中,從而形成前后相連、相互印證的“默克爾樹”(merkle trees)數(shù)據(jù)結(jié)構(gòu)(10)“默克爾樹”(merkle trees)是一種用哈希指針建立的二叉樹數(shù)據(jù)結(jié)構(gòu)。在“默克爾樹”數(shù)據(jù)結(jié)構(gòu)中,所有數(shù)據(jù)區(qū)塊都被兩兩分組,指向這些數(shù)據(jù)區(qū)塊的哈希指針被儲存在上一層的父節(jié)點(parent node)中,而這些父節(jié)點再次被兩兩分組,并且指向父節(jié)點的哈希指針被存儲在上一層父節(jié)點中,一直持續(xù)這個過程,直到最后到達樹的根節(jié)點。任何篡改“默克爾樹”中數(shù)據(jù)區(qū)塊的行為,都會導致上一層的哈希指針不匹配,最終傳遞到樹的頂端,致使任何企圖篡改數(shù)據(jù)的行為都會被檢測到。參見阿爾文德·納拉亞南等著,林華等譯:《區(qū)塊鏈:技術(shù)驅(qū)動金融》,中信出版社2016年版,第16-17頁。,任何對區(qū)塊內(nèi)信息的刪除、修改都必然會影響到其他區(qū)塊。此外,每一個新區(qū)塊的產(chǎn)生都會被打上時間戳,區(qū)塊鏈就是這樣一條由時間上有序排列、前后關(guān)聯(lián)的區(qū)塊組成的鏈條。任何刪除、更正區(qū)塊信息的行為,必然要改動前一個區(qū)塊的哈希值、當前區(qū)塊的目標哈希值、默克爾根、時間戳、隨機數(shù)與交易信息(11)袁勇、王飛躍:《區(qū)塊鏈技術(shù)發(fā)展現(xiàn)狀與展望》,《自動化學報》2016年第4期,第481-494頁。,否則就會造成整個區(qū)塊鏈系統(tǒng)的混亂和崩潰。上述技術(shù)特征意味著在聯(lián)盟鏈中刪除、更正個人信息存在巨大的外部性,會損害其他使用區(qū)塊鏈技術(shù)的客戶的合法權(quán)益。區(qū)塊鏈技術(shù)應用規(guī)模越大、涉及面越廣,所要刪除和更正的信息區(qū)塊時間越久遠,產(chǎn)生的外部性就越大、社會成本就越高。

    二、區(qū)塊鏈技術(shù)與個人信息刪除權(quán)、 更正權(quán)沖突的原因

    區(qū)塊鏈技術(shù)與個人信息保護之間的沖突是科技發(fā)展和法律制度需要互動的最新體現(xiàn)。具體而言,區(qū)塊鏈技術(shù)應用之所以與個人信息保護刪除權(quán)、更正權(quán)存在沖突,既有中心化立法思路矛盾、刪除和更正概念模糊等法律方面的原因,也有對區(qū)塊鏈技術(shù)不適當應用等技術(shù)方面的原因。

    (一)區(qū)塊鏈技術(shù)去中心化與中心化的個人信息刪除立法思路矛盾

    關(guān)于個人信息保護的法律規(guī)定,各國、各地區(qū)的立法思路大體具有一致性,都是源于單一的、中心化的信息數(shù)據(jù)控制人的前提假設(shè)。何淵(2020)認為,就個人信息和承載個人信息的數(shù)據(jù)載體而言,至少有一個自然人或法人是個人信息或數(shù)據(jù)的控制者、處理者,由此信息權(quán)益主體可以直接向該控制者或處理者請求實施刪除、更正(12)何淵:《數(shù)據(jù)法學》,北京大學出版社2020年版,第90頁。。比如,歐盟2018年出臺的《一般數(shù)據(jù)保護條例》(General Data Protection,Regulation,GDPR)分別從主體權(quán)利要求、數(shù)據(jù)控制者義務承擔兩方面,對數(shù)據(jù)控制者的義務進行詳細規(guī)定,從而落實數(shù)據(jù)保護責任。數(shù)據(jù)控制者和數(shù)據(jù)處理者是歐盟GDPR相關(guān)規(guī)定的核心抓手,是保護數(shù)據(jù)主體權(quán)利的主要義務主體。數(shù)據(jù)控制者是數(shù)據(jù)保護中主要的義務承擔者,被處理的個人數(shù)據(jù)信息和隱私保護問題相關(guān)責任最終應由數(shù)據(jù)控制者承擔(13)李有星、朱悅、金幼芳:《數(shù)據(jù)資源權(quán)益保護法立法研究》,浙江大學出版社2019年版,第38頁;第81頁。。我國《網(wǎng)絡安全法》將保護個人信息權(quán)益的義務施加給“網(wǎng)絡運營者”,認定收集、使用個人信息的網(wǎng)絡運營者為信息控制者;《民法典》第一千零三十七條以“信息處理者”為義務主體;《個人信息保護法》則是“個人信息處理者”??梢?,三部法律的基本思路都是相同的,即由對個人信息處理目的和處理方式有決定權(quán)的法律主體承擔保護個人信息權(quán)益的主要義務和法律責任。

    無論是歐盟GDPR還是我國個人信息保護相關(guān)立法,都只囊括了中心化的數(shù)據(jù)處理結(jié)構(gòu),而未考慮到區(qū)塊鏈分布式的多中心取代單一決定者的去中心化技術(shù)特征。歐盟GDPR將“數(shù)據(jù)控制者”定義為單獨或者聯(lián)合他人決定個人信息處理目的和處理方式的自然人、法人、行政機關(guān)或其他組織。我國《個人信息保護法》第七十三條則將“個人信息處理者”定義為在個人信息處理活動中自主決定處理目的、處理方式的組織和個人。兩者大同小異,均強調(diào)對信息處理目的和方式手段的決定性作用,但是這種個人信息處理中的決定性作用在區(qū)塊鏈技術(shù)系統(tǒng)中難以成立。由于立法未考慮區(qū)塊鏈技術(shù)應用中缺乏中心化的主導控制者和處理者的實際,而傳統(tǒng)立法思維設(shè)定了個人信息刪除、更正的要求,最終導致區(qū)塊鏈技術(shù)應用與法定刪除權(quán)、更正權(quán)之間的矛盾和沖突。

    (二)刪除法律概念和刪除標準的不明確

    刪除權(quán)是個人信息數(shù)據(jù)被不當獲取或使用時救濟制度的體現(xiàn)。目前,刪除權(quán)的定義沒有形成通說,立法上沒有形成法定術(shù)語(14)李有星、朱悅、金幼芳:《數(shù)據(jù)資源權(quán)益保護法立法研究》,浙江大學出版社2019年版,第38頁;第81頁。。國內(nèi)學者采用刪除權(quán)、消除權(quán)、被遺忘權(quán)等表達。有關(guān)個人信息保護領(lǐng)域中刪除權(quán)的規(guī)定,體現(xiàn)在《民法典》第一千零三十七條:“自然人可以依法向信息處理者查閱或者復制其個人信息;發(fā)現(xiàn)信息有錯誤的,有權(quán)提出異議并請求及時采取更正等必要措施。自然人發(fā)現(xiàn)信息處理者違反法律、行政法規(guī)的規(guī)定或者雙方的約定處理其個人信息的,有權(quán)請求信息處理者及時刪除?!薄毒W(wǎng)絡安全法》第四十三條也賦予個人要求網(wǎng)絡經(jīng)營者刪除信息的權(quán)利(15)《網(wǎng)絡安全法》第四十三條規(guī)定,個人發(fā)現(xiàn)網(wǎng)絡運營者違反法律、行政法規(guī)的規(guī)定或者雙方的約定收集、使用其個人信息的,有權(quán)要求網(wǎng)絡運營者刪除其個人信息;發(fā)現(xiàn)網(wǎng)絡運營者收集、存儲的其個人信息有錯誤的,有權(quán)要求網(wǎng)絡運營者予以更正。網(wǎng)絡運營者應當采取措施予以刪除或者更正。?!秱€人信息保護法》第四十七條更明確規(guī)定了刪除權(quán)行使的條件。然而,對于最為關(guān)鍵的“刪除”的法律概念,《民法典》《網(wǎng)絡安全法》《個人信息保護法》均未給出明確定義,且《數(shù)據(jù)安全法》中也未出現(xiàn)數(shù)據(jù)刪除、更正的字樣。

    對于“刪除”的法律概念,可以從刪除對象和刪除方式兩個層面去理解。就刪除對象而言,亦即“刪除什么”的問題。這存在兩種截然不同的聲音:一是刪除權(quán)指向的對象是數(shù)據(jù)(16)按照《數(shù)據(jù)安全法》的定義,數(shù)據(jù)是指任何以電子或者其他方式對信息的記錄。信息刪除不等同于數(shù)據(jù)刪除。,即要求刪除承載個人信息的數(shù)據(jù)載體的物理刪除(17)物理刪除是指文件存儲所用到的磁存儲區(qū)域被真正的擦除或清零,這樣刪除的文件是不可以恢復的。;二是刪除僅要求個人信息的邏輯刪除(18)邏輯刪除是指文件沒有被真正的刪除,只不過是文件名的第一個字節(jié)被改成操作系統(tǒng)無法識別的字符。通常這種刪除操作是可逆的,即用適當?shù)墓ぞ呋蜍浖梢园褎h除的文件恢復出來。,并不一定指向?qū)?shù)據(jù)的物理刪除。就刪除方式而言,即“如何刪除”的問題,同樣存在兩種觀點。第一種觀點認為,刪除權(quán)指向數(shù)據(jù),這種刪除基本等同于“擦除”(erasure)。在實現(xiàn)方式上大體有物理毀滅、格式化、覆蓋、加密擦除四類,刪除的結(jié)果指向結(jié)束數(shù)據(jù)的生命周期。歐盟GDPR規(guī)定的刪除權(quán)就是指向“個人數(shù)據(jù)”(data)以及與之相關(guān)的任何鏈接、副本或復印件,刪除的具體表述是“erasure”而非“delete”。第二種觀點認為,刪除權(quán)指向個人信息,因而并不需要徹底擦除數(shù)據(jù),凡能使數(shù)據(jù)不再反映個人信息、斷開數(shù)據(jù)與個人間的關(guān)聯(lián)的技術(shù)手段,都屬于刪除。我國《信息安全技術(shù)個人信息安全規(guī)范》認為,刪除是指“在實現(xiàn)日常業(yè)務功能所涉及的系統(tǒng)中去除個人信息的行為,使其保持不可被檢索、訪問的狀態(tài)”,并未要求徹底擦除數(shù)據(jù)。刪除標準的不明確,造成了學界和業(yè)界的諸多爭議。

    (三)更正法律概念和實現(xiàn)路徑的不明確

    個人信息保護法律中的個人信息更正權(quán),在性質(zhì)上屬于保護個人信息圓滿狀態(tài)的一種手段。更正權(quán)的行使必然與個人信息權(quán)益掛鉤。《民法典》賦予自然人請求及時采取更正個人錯誤信息的權(quán)利,即更正以個人信息存在錯誤為前提。所謂個人信息錯誤,是指記載的個人信息與實際情況不一致的情形,即記載的個人信息未能準確反映自然人真實的情況,包括自然人的姓名、出生日期、身份證件號碼、生物識別信息、住址、電話號碼、電子郵箱、健康信息以及行蹤信息等。

    更正常常與刪除并列,多以“刪除或更正”的用語來表述,但更正容易被人忽視。更正似乎是個不需要過多解釋的概念,以至于我國《信息安全技術(shù)公共及商用服務信息系統(tǒng)個人信息保護指南》《信息安全技術(shù)個人信息安全規(guī)范》都只單獨定義了刪除而沒有規(guī)定更正的任何具體含義。在現(xiàn)實生活中,個人信息需要更正的情況遠較刪除普遍,《網(wǎng)絡安全法》《民法典》《個人信息保護法》只規(guī)定了個人享有的更正權(quán),卻沒有給出更正的法律定義和實現(xiàn)途徑。歐盟GDPR第16條規(guī)定了“更正權(quán)”(right to rectification),但也只是以舉例的方式規(guī)定數(shù)據(jù)主體有權(quán)要求控制者通過“包括如提供補充聲明的方式”對其個人信息予以補充,未給出更詳細的定義;美國《加州消費者隱私法案》(California Consumer Privacy Act,CCPA)則干脆沒有賦予消費者個人信息的更正權(quán)(19)Yallen J, Untangling the Privacy Law Web: Why the California Consumer Privacy Act Furthers the Need for Federal Preemptive Legislation, Loyola of Los Angeles Law Review, 2020, No.3, pp.787-826.。實際上,更正的技術(shù)實現(xiàn)方式比刪除更為多樣和復雜,相關(guān)法律概念的歧義也更大。按照一般的語義解釋,更正就是指更改原有的信息。其技術(shù)實現(xiàn)路徑則有三種:一是用新的信息覆蓋原有信息,二是刪除原有信息并且發(fā)布一條新的信息,三是不刪除原有信息而直接發(fā)布一條新信息(并指明替代原有信息)。由于法律未對更正的內(nèi)涵和外延作出界定,未規(guī)定各種更正技術(shù)路徑效力標準,現(xiàn)實中產(chǎn)生了不少涉及個人信息更正的糾紛。

    (四)敏感個人信息領(lǐng)域區(qū)塊鏈技術(shù)的不適當應用

    區(qū)塊鏈與當前個人信息保護立法發(fā)生沖突的主要原因之一是:現(xiàn)有各國個人信息保護立法均是為由中心化的特定實體控制的數(shù)據(jù)治理結(jié)構(gòu)而設(shè)計的,而區(qū)塊鏈技術(shù)應用則在不同程度上使用了分布式的數(shù)據(jù)治理模式。中國、美國以及歐盟的立法最初并未預見到區(qū)塊鏈技術(shù)的應用會變得如此廣泛,也未充分了解不同的區(qū)塊鏈應用在數(shù)據(jù)治理方面的差異(20)Gomez B S J, Risks of Blockchain for Data Protection: A European Approach, Santa Clara High Technology Law Journal, 2020, No.3, p.338.。然而,在承認現(xiàn)有個人信息保護立法與區(qū)塊鏈應用之間存在矛盾關(guān)系、立法滯后于技術(shù)的同時,也必須承認,在當前對區(qū)塊鏈技術(shù)的追捧中,不斷擴大的區(qū)塊鏈技術(shù)應用已經(jīng)有部分偏離了該技術(shù)的核心功能,在涉及個人隱私、敏感信息的領(lǐng)域未經(jīng)評估使用區(qū)塊鏈技術(shù)超出保護個人信息的合理限度,導致個人信息刪除權(quán)與更正權(quán)實現(xiàn)的困難。

    在個人信息密集的領(lǐng)域,采用區(qū)塊鏈技術(shù)應用尤其是公有鏈技術(shù),如果缺乏相應的信息真實和準確性技術(shù)保障,將會是十分危險的區(qū)塊鏈技術(shù)應用場景。這是因為,這種應用場景注定難以保障當事人個人信息刪除、更正權(quán)利的實現(xiàn),從而給自身帶來巨大的法律風險。特別是可能涉及敏感個人信息、隱私信息的領(lǐng)域,不能濫用區(qū)塊鏈技術(shù)?!秱€人信息保護法》第二十八條規(guī)定:“敏感個人信息是一旦泄露或者非法使用,容易導致自然人的人格尊嚴受到侵害或者人身、財產(chǎn)安全受到危害的個人信息,包括生物識別、宗教信仰、特定身份、醫(yī)療健康、金融賬戶、行蹤軌跡等信息,以及不滿十四周歲未成年人的個人信息。”因此,基于區(qū)塊鏈技術(shù)不可刪除的特性,其不分場景的無差別適用是造成區(qū)塊鏈技術(shù)與刪除權(quán)、更正權(quán)矛盾的原因。

    三、區(qū)塊鏈技術(shù)與個人信息刪除、 更正規(guī)定的協(xié)調(diào)

    區(qū)塊鏈技術(shù)與個人信息刪除、更正的協(xié)調(diào)需要在保護個人信息的共同價值目標基礎(chǔ)上,合理解釋法律規(guī)則和利用技術(shù)手段。通過對現(xiàn)有個人信息保護刪除權(quán)、更正權(quán)立法目的的解釋,“追本溯源”地解釋相關(guān)法律,回應區(qū)塊鏈技術(shù)與個人信息保護法律的共同價值基礎(chǔ),使得個人信息保護的刪除權(quán)與更正權(quán)可以在法律目的應有的解釋范圍內(nèi)合理適用(21)卡爾·拉倫茨著,黃家鎮(zhèn)譯:《法學方法論》,商務印書館2020年版,第492頁。。

    (一)刪除權(quán)、更正權(quán)立法目的在于保護個人信息權(quán)益

    《民法典》《個人信息保護法》等法律規(guī)定,刪除權(quán)與更正權(quán)的立法目的是有效保護個人的信息權(quán)利,其實質(zhì)是保護人格權(quán)。個人信息保護的是個人信息處理中的主體權(quán)利不被侵犯,包括人之尊嚴、自由、平等價值,而不是對個人數(shù)據(jù)的控制、存儲或決定權(quán)。個人不享有數(shù)據(jù)控制、存儲或決定權(quán),自然沒有針對數(shù)據(jù)的刪除權(quán),故刪除應指向“個人信息”而非承載信息之數(shù)據(jù)。個人信息和數(shù)據(jù)、內(nèi)容與載體形式相生相伴,難以完全割裂開來,正因如此,才導致學界對于刪除權(quán)“刪除內(nèi)容”“刪除方式”的糾結(jié),也導致人們對刪除權(quán)與更正權(quán)在區(qū)塊鏈技術(shù)應用中實現(xiàn)可能性的質(zhì)疑。立法上,刪除權(quán)的行使前提是“自然人發(fā)現(xiàn)信息處理者違反法律、行政法規(guī)的規(guī)定或者雙方的約定處理其個人信息”,更正權(quán)的行使前提是發(fā)現(xiàn)相關(guān)個人信息存在錯誤。因此,當事人主張刪除權(quán)與更正權(quán)是為了保護其個人信息內(nèi)容上的利益,不是數(shù)據(jù)的物上利益、財產(chǎn)利益。刪除權(quán)與更正權(quán)行使的利益主要指向當事人個人信息內(nèi)容,因為相關(guān)信息在內(nèi)容上存在遺漏、錯誤需要更正或者內(nèi)容有損于當事人的人格尊嚴。正是個人信息內(nèi)容與主體的勾連性,要求任何人在處理個人信息時尊重個人人格尊嚴和自由,防范個人信息處理對個人主體權(quán)益造成威脅和侵犯(22)高富平:《個人信息使用的合法性基礎(chǔ)——數(shù)據(jù)上利益分析視角》,《比較法研究》2019年第2期,第72-85頁。。

    在刪除權(quán)與更正權(quán)的應用場景中,當事人的刪除和更正訴求指向的是個人信息內(nèi)容不被他人支配(非法、未經(jīng)授權(quán)或者撤回授權(quán)),以減少個人信息被知曉和流通的范圍。事實上,當事人并不關(guān)心數(shù)據(jù)的完整性或者存在形式。就救濟措施而言,當事人為了保護個人信息而對數(shù)據(jù)本身提出一定的請求時,應以實現(xiàn)“保護個人信息”為最終目的,而不拘泥于數(shù)據(jù)的具體處理方式,只要數(shù)據(jù)作為載體形式不再反映個人信息即可。數(shù)據(jù)權(quán)益人依然可以對那些在內(nèi)容上不再具備個人信息可識別性的數(shù)據(jù)享有受法律保護的數(shù)據(jù)權(quán)益。

    (二)對刪除權(quán)的恰當解釋和差異化實現(xiàn)

    刪除權(quán)的法益基礎(chǔ)在于個人信息權(quán)益而非數(shù)據(jù)權(quán)益,可以有差異化的要求和實現(xiàn)路徑。美國《數(shù)據(jù)掮客問責與透明法案》規(guī)定,刪除權(quán)只要求對含有個人信息的數(shù)據(jù)做模糊化處理,而不要求物理上徹底刪除原始信息(23)Voss W G,Renard C C, Proposal for an International Taxonomy on the Various Forms of the Right to Be Forgotten: A Study on the Convergence of Norms, Colorado Technology Law Journal, 2016, No.2, p.338.。在歐盟“被遺忘權(quán)”(24)馮銀東:《歐盟被遺忘權(quán)分析及本土化構(gòu)建》,《湖南警察學院學報》2019年第6期,第66-71頁。第一案“西班牙谷歌案”中,法院要求作為互聯(lián)網(wǎng)搜索引擎運營商的谷歌公司從根據(jù)姓名檢索產(chǎn)生的搜索結(jié)果中刪除指向網(wǎng)頁的鏈接(25)李媛:《被遺忘權(quán)之反思與建構(gòu)》,《華東政法大學學報》2019年第2期,第57-67頁。。沒有信息是從源頭刪除的,權(quán)利只會影響基于個人姓名獲得的搜索結(jié)果,不要求刪除搜索引擎索引的鏈接。原始信息仍然可以通過使用其他搜索術(shù)語獲取,或通過直接訪問發(fā)布者的原始資料獲得(26)徐明利譯校:《歐盟法院第C-131/12號“谷歌西班牙公司和谷歌公司訴西班牙資料保護局和西班牙公民馬里奧·哥斯德哈·岡薩雷斯”案判決實施指南》,《互聯(lián)網(wǎng)法律通訊》2015年第2期,第8頁。。2012年《歐洲網(wǎng)絡信息安全機構(gòu)安全部門的“被遺忘權(quán)”的報告書》對“被遺忘權(quán)”給出的定義是:某些信息即使借助技術(shù)也不能復原的刪除;除非未經(jīng)授權(quán)的第三方非法解密,允許擁有加密的個人數(shù)據(jù);只要不顯示在已經(jīng)公布的索引或搜索服務的搜索結(jié)果中,認可保存?zhèn)€人數(shù)據(jù)的選擇(27)Robert C P,Data Privacy and Dignitary Privacy: Google Spain, the Right to Be Forgotten, and the Construction of the Public Sphere,Duke Law Journal, 2018, No.5, p.986.。谷歌案的判決結(jié)果和歐洲報告書的內(nèi)容都表明,刪除是施加于義務人的“一切合理措施”,而非單一的物理上刪除(28)宇賀克也著,楊琴、余夢凝、石龍?zhí)蹲g:《“被遺忘權(quán)”的日本司法判例與探析——以搜索服務運營商刪除義務為焦點》,《貴州大學學報(社會科學版)》2019年第5期,第49-57頁。。

    我國在刪除權(quán)問題上可著重考慮以下三點。一是明確刪除定義。在個人信息保護立法和司法解釋中,將刪除定義為“消除數(shù)據(jù)與個人信息主體身份的關(guān)聯(lián)性的一切合理措施,以達到不可復原或不可識別主體身份的效果”,如匿名化、不可訪問等措施。二是建立一套以無法回溯、關(guān)聯(lián)或識別等實質(zhì)效果為基準的刪除認定標準。刪除權(quán)范圍限定在刪除數(shù)據(jù)與個人主體身份的關(guān)聯(lián)性上,消除數(shù)據(jù)對數(shù)據(jù)主體的關(guān)聯(lián)或識別風險。比如,在區(qū)塊鏈中最為常用的密鑰刪除,就可以完全阻斷其他有權(quán)節(jié)點對個人信息和數(shù)據(jù)的訪問。在數(shù)據(jù)中采用去標識化、匿名化處理,也可使數(shù)據(jù)與特定個人信息脫鉤而不具有可識別性,達到刪除的實際效果。三是根據(jù)不同情況采取其他等同于“刪除”效果的替代措施?!睹穹ǖ洹返谝磺б话倬攀鍡l第二款規(guī)定,網(wǎng)絡服務提供者“根據(jù)構(gòu)成侵權(quán)的初步證據(jù)和服務類型采取必要措施”。這就明確了網(wǎng)絡服務提供者完全可以根據(jù)自身業(yè)務能力和性質(zhì)、法律執(zhí)行的難易程度采取不同的措施,以達到刪除權(quán)所要求的權(quán)利保護程度。《個人信息保護法》第四十七條也規(guī)定:“法律、行政法規(guī)規(guī)定的保存期限未屆滿,或者刪除個人信息從技術(shù)上難以實現(xiàn)的,個人信息處理者應當停止除存儲和采取必要的安全保護措施之外的處理?!眲h除作為權(quán)利實現(xiàn)的手段,在不同主體技術(shù)和業(yè)務能力范圍內(nèi),可以表現(xiàn)為多種不同的具體措施(29)對于不同類型主體提出差異化的刪除要求,已經(jīng)體現(xiàn)在我國的一些案例中。比如在“杭州刀豆網(wǎng)絡科技有限公司與長沙百贊網(wǎng)絡科技有限公司、深圳市騰訊計算機系統(tǒng)有限公司侵害作品信息網(wǎng)絡傳播權(quán)糾紛案”中,杭州互聯(lián)網(wǎng)法院認為,微信小程序服務提供者僅僅提供頁面接入技術(shù),并不直接控制和存儲相關(guān)的信息數(shù)據(jù),也沒有權(quán)限和技術(shù)對開發(fā)者提供的具體服務內(nèi)容采取處理措施,“騰訊公司對小程序開發(fā)者提供的是架構(gòu)與接入的基礎(chǔ)性網(wǎng)絡服務,性質(zhì)與自動接入、自動傳輸服務類似,其對微信小程序中的內(nèi)容無法定位刪除,故不應承擔小程序部分內(nèi)容侵權(quán)時整體下架小程序的責任”。參見杭州互聯(lián)網(wǎng)法院(2018)浙0192民初7184號民事判決書。。

    (三)明確更正權(quán)的內(nèi)涵及實現(xiàn)路徑

    更正權(quán)是指報刊、網(wǎng)絡等媒體刊載的報道內(nèi)容失實或有關(guān)信息控制者記載、公開的信息有誤,侵害他人人格權(quán)益的,受害人有權(quán)請求該媒體或信息控制者及時更正(30)王利明:《論人格權(quán)請求權(quán)與侵權(quán)損害賠償請求權(quán)的分離》,《中國法學》2019年第1期,第224-243頁。。 《個人信息保護法》第四十六條規(guī)定:“個人發(fā)現(xiàn)其個人信息不準確或者不完整的,有權(quán)請求個人信息處理者更正、補充?!贝颂幩?guī)定的錯誤就包括不準確和不完整,更正權(quán)相應地也包括更正、補充兩類措施。

    更正權(quán)作為個人信息的保護方式,也應當遵循一定的價值準則。更正的目的是保護自然人的個人信息準確性,指向的是人格權(quán)的完滿狀態(tài)。更正權(quán)的效果標準必須以切實維護人格權(quán)益為核心,而不是原有錯誤信息是否刪除、是否有新信息出現(xiàn)等外在具體形式。結(jié)合更正的具體技術(shù)手段,可以沿著以下思路準確界定更正權(quán)的實現(xiàn)效果:第一,對于個人信息記載存在遺漏、不完整的情況,只需要發(fā)布新的信息以補充原有信息即可;第二,對于個人信息記載存在錯誤、不準確的情況,需要分“形式”“實質(zhì)”兩類處理。個人信息“形式”上的錯誤主要指個人信息記載存在輕微的筆誤、格式錯誤等,屬于明顯輕微的瑕疵。這類“形式”上的瑕疵通過內(nèi)部糾正即可,遵循程序簡單、適用方便的原則,將有關(guān)情況通知當事人,采用發(fā)布更正通知的形式。個人信息“實質(zhì)”上的錯誤,會對當事人的權(quán)利和義務關(guān)系產(chǎn)生實質(zhì)影響。對于此類錯誤,可以通過發(fā)布新信息起到“廣而告之”的作用,以達到更正目的。由于錯誤的個人信息畢竟沒有消除,侵權(quán)狀態(tài)仍在持續(xù),亟須消除已經(jīng)存在的錯誤信息。與不作為請求權(quán)指向未來的不法行為不同,“更正請求權(quán)”系非財產(chǎn)性請求權(quán),指向的是在過去已經(jīng)出現(xiàn)且還在持續(xù)的妨害(31)王利明:《論人格權(quán)請求權(quán)與侵權(quán)損害賠償請求權(quán)的分離》,《中國法學》2019年第1期,第224-243頁。。事實上,我國支付領(lǐng)域交易信息時有錯誤需要糾正的情況較為普遍,這就涉及更正權(quán)的問題。例如,信用卡能charge back,不僅是再做一筆負值的交易(發(fā)布新區(qū)塊)把原來那筆沖掉,而且原來那筆交易的記錄也必須要更正或抹掉,否則那些信息可能還會被誤用。因此,對于“實質(zhì)”錯誤的更正,首先要實現(xiàn)對錯誤個人信息的刪除,以消除對人格權(quán)益“持續(xù)的妨害”,然后才可以發(fā)布新的、正確的個人信息,或者發(fā)布通知消除已經(jīng)造成的不良影響等。

    (四)審慎選擇區(qū)塊鏈應用場景并明確權(quán)利實現(xiàn)方式

    基于不可篡改的特征,區(qū)塊鏈技術(shù)有許多絕佳的應用場景,如用于食品安全追蹤系統(tǒng),將相關(guān)食品原料采集、加工、運輸?shù)刃畔⒂枰哉喜⑻峁┙o生產(chǎn)者、銷售者和消費者,又或者是將區(qū)塊鏈技術(shù)結(jié)合到公司治理、物聯(lián)網(wǎng)等,形成一個可信任的信息系統(tǒng)。在這些應用場景中,區(qū)塊鏈技術(shù)都可以大有作為。但是,將區(qū)塊鏈技術(shù)應用到個人信息保護領(lǐng)域或者牽涉?zhèn)€人信息的處理過程,無疑需要持更為謹慎的態(tài)度。正是基于這種謹慎的考慮,歐盟區(qū)塊鏈觀察論壇(Blockchain Observatory and Forum)在《區(qū)塊鏈與GDPR》報告中提出了使用區(qū)塊鏈技術(shù)處理個人信息的四項原則性建議:一是評估區(qū)塊鏈的實際需求;二是避免在區(qū)塊鏈上存儲個人數(shù)據(jù),充分利用數(shù)據(jù)混淆、加密和聚合技術(shù)對數(shù)據(jù)進行匿名化處理;三是在鏈外收集個人數(shù)據(jù),如果無法避免使用區(qū)塊鏈,則在私有的、經(jīng)過許可的區(qū)塊鏈網(wǎng)絡上收集個人數(shù)據(jù);四是對用戶盡可能清晰、透明(32)Daoui S,Jensen T F,Lemperiere M, GDPR, Blockchain and the French Data Protection Authority: Many Answers but Some Remaining Questions, Stanford Journal of Blockchain Law & Policy, 2019, No.2, p.246.。四項建議的核心要義是希望區(qū)塊鏈技術(shù)于應用之前,先行評估該技術(shù)應用對個人信息保護產(chǎn)生的影響,盡量不要使用無法保護個人信息的技術(shù)應用。在應用區(qū)塊鏈技術(shù)前,合理評估對個人信息保護的刪除權(quán)與更正權(quán)的方案,審慎選擇先進技術(shù)。另外,選擇應用區(qū)塊鏈技術(shù)的場景,就有關(guān)個人信息保護中刪除與更正權(quán)利的條款中,對刪除、更正等基本含義,在特殊場景下的刪除與更正權(quán)利的實現(xiàn)方式和替代方案等作明確說明,以取得契約型活動中當事人的事先同意和認同。這樣有利于信息處理者靈活采取措施,確保個人信息刪除權(quán)與更正權(quán)的實現(xiàn)。

    四、結(jié) 語

    刪除權(quán)與更正權(quán)是立法上常用的傳統(tǒng)基本權(quán)利形態(tài),但由于區(qū)塊鏈技術(shù)具有不可刪除和更正數(shù)據(jù)、信息的特性,出現(xiàn)了權(quán)利實現(xiàn)難的問題?;诖?,科學定義刪除、更正的概念和評判刪除、更正的實質(zhì)性效果至關(guān)重要。個人信息保護中的“刪除”不需要徹底的物理刪除,而是可以設(shè)置邏輯刪除的標準,即達到不能關(guān)聯(lián)、無法回溯或識別等實質(zhì)效果。更正權(quán)的實現(xiàn)重在確保個人信息的真實、準確和完整,針對錯誤的性質(zhì)采用具有實質(zhì)性效果的措施。區(qū)塊鏈技術(shù)應用中凸顯的刪除、更正的困難,實質(zhì)上反映出法律規(guī)定的傳統(tǒng)權(quán)利須緊隨科學技術(shù)的發(fā)展不斷加以調(diào)整。從歷史唯物主義的角度講,在一定社會中,法律與科學技術(shù)的協(xié)調(diào)發(fā)展,是生產(chǎn)關(guān)系一定要適合生產(chǎn)力、上層建筑一定要適合經(jīng)濟基礎(chǔ)這一客觀規(guī)律的必然要求(33)郭鋒:《論我國法律與科學技術(shù)的協(xié)調(diào)發(fā)展》,《現(xiàn)代法學》1985年第1期,第9-12頁。。在個人信息保護法的發(fā)展過程中,信息處理和存儲技術(shù)、網(wǎng)絡傳播技術(shù)的成熟催生了個人信息保護的法律,區(qū)塊鏈、大數(shù)據(jù)、云計算和人工智能技術(shù)的進步又不斷地打破個人信息保護相關(guān)法律所維持的利益平衡,促使法律規(guī)則不斷地變革(34)羅莉:《作為社會規(guī)范的技術(shù)與法律的協(xié)調(diào)——中國反技術(shù)規(guī)避規(guī)則檢討》,《中國社會科學》2006年第1期,第72-84頁。。

    致謝:本人指導的經(jīng)濟法博士研究生潘政為本文作出重要學術(shù)貢獻,特表感謝。

    猜你喜歡
    信息處理個人信息區(qū)塊
    如何保護勞動者的個人信息?
    工會博覽(2022年16期)2022-07-16 05:53:54
    個人信息保護進入“法時代”
    東營市智能信息處理實驗室
    基于Revit和Dynamo的施工BIM信息處理
    區(qū)塊鏈:一個改變未來的幽靈
    科學(2020年5期)2020-11-26 08:19:12
    區(qū)塊鏈:主要角色和衍生應用
    科學(2020年6期)2020-02-06 08:59:56
    警惕個人信息泄露
    綠色中國(2019年14期)2019-11-26 07:11:44
    地震烈度信息處理平臺研究
    區(qū)塊鏈+媒體業(yè)的N種可能
    傳媒評論(2018年4期)2018-06-27 08:20:12
    讀懂區(qū)塊鏈
    亚洲专区字幕在线| 又大又爽又粗| 亚洲国产成人一精品久久久| 美国免费a级毛片| 国产一区二区 视频在线| 自拍欧美九色日韩亚洲蝌蚪91| 一区在线观看完整版| cao死你这个sao货| 黑丝袜美女国产一区| 91老司机精品| 97在线人人人人妻| 美女国产高潮福利片在线看| 久久99热这里只频精品6学生| 国产亚洲午夜精品一区二区久久| 在线av久久热| 两人在一起打扑克的视频| 在线观看免费午夜福利视频| 欧美亚洲 丝袜 人妻 在线| 免费人妻精品一区二区三区视频| 狠狠狠狠99中文字幕| 亚洲欧美精品自产自拍| 香蕉丝袜av| 亚洲av电影在线进入| 久久精品人人爽人人爽视色| 亚洲av美国av| 国产又色又爽无遮挡免| h视频一区二区三区| 少妇精品久久久久久久| 亚洲精品国产区一区二| 少妇 在线观看| 亚洲五月色婷婷综合| 91九色精品人成在线观看| 黄色毛片三级朝国网站| av在线播放精品| 久久 成人 亚洲| 日日摸夜夜添夜夜添小说| 一区二区三区四区激情视频| 50天的宝宝边吃奶边哭怎么回事| av网站在线播放免费| 18禁黄网站禁片午夜丰满| av超薄肉色丝袜交足视频| 久久人妻熟女aⅴ| 国产有黄有色有爽视频| 久久中文字幕一级| 天天添夜夜摸| 国产精品.久久久| 国产一区二区三区综合在线观看| 宅男免费午夜| 欧美黑人精品巨大| 国产淫语在线视频| 国产亚洲av片在线观看秒播厂| 999久久久国产精品视频| 妹子高潮喷水视频| 热re99久久精品国产66热6| 亚洲国产欧美日韩在线播放| 色播在线永久视频| 中国国产av一级| 伦理电影免费视频| 老司机福利观看| 欧美一级毛片孕妇| 久久久久国产一级毛片高清牌| 两人在一起打扑克的视频| 国产精品亚洲av一区麻豆| 色婷婷av一区二区三区视频| 69精品国产乱码久久久| 精品国产乱码久久久久久小说| 一区二区三区精品91| 精品免费久久久久久久清纯 | 黑人操中国人逼视频| 亚洲精品粉嫩美女一区| 老熟女久久久| 成人国产一区最新在线观看| 狂野欧美激情性bbbbbb| 一本综合久久免费| 成人影院久久| 亚洲欧洲日产国产| 国产高清videossex| 久久久久精品国产欧美久久久 | 久久久精品区二区三区| 亚洲av片天天在线观看| 高清av免费在线| 国产成人欧美在线观看 | 最新在线观看一区二区三区| 这个男人来自地球电影免费观看| 免费黄频网站在线观看国产| 成人国产一区最新在线观看| 9热在线视频观看99| av国产精品久久久久影院| 亚洲avbb在线观看| 久久久久国内视频| 国产一区二区激情短视频 | 女人久久www免费人成看片| 精品国产一区二区三区四区第35| 91字幕亚洲| 久久国产精品影院| 午夜福利影视在线免费观看| 国产av国产精品国产| 亚洲精品国产色婷婷电影| 最新在线观看一区二区三区| 麻豆国产av国片精品| 久久中文字幕一级| 欧美激情极品国产一区二区三区| 久久精品国产a三级三级三级| 欧美国产精品va在线观看不卡| 精品一区二区三区av网在线观看 | 99久久人妻综合| 欧美激情久久久久久爽电影 | 日本vs欧美在线观看视频| 久久性视频一级片| 国产不卡av网站在线观看| 日韩免费高清中文字幕av| 高清av免费在线| 成人亚洲精品一区在线观看| 欧美av亚洲av综合av国产av| 99热全是精品| 久久精品国产综合久久久| 精品一区在线观看国产| 久久这里只有精品19| 老司机午夜十八禁免费视频| 丝袜人妻中文字幕| 亚洲国产看品久久| 少妇 在线观看| 午夜激情av网站| 亚洲精品国产色婷婷电影| 日韩一卡2卡3卡4卡2021年| 久久久精品国产亚洲av高清涩受| 亚洲五月婷婷丁香| 天天添夜夜摸| 亚洲第一av免费看| 亚洲精品一卡2卡三卡4卡5卡 | 成年女人毛片免费观看观看9 | 亚洲精品国产精品久久久不卡| 亚洲成人免费电影在线观看| 国产日韩一区二区三区精品不卡| 国产精品欧美亚洲77777| 狠狠婷婷综合久久久久久88av| 人妻 亚洲 视频| 纯流量卡能插随身wifi吗| 亚洲欧美精品综合一区二区三区| 久久人人爽av亚洲精品天堂| 精品熟女少妇八av免费久了| 满18在线观看网站| 中亚洲国语对白在线视频| 日韩免费高清中文字幕av| 亚洲av美国av| 成年人免费黄色播放视频| 一区二区日韩欧美中文字幕| 欧美中文综合在线视频| 亚洲九九香蕉| 欧美激情高清一区二区三区| 欧美日韩精品网址| 久久中文字幕一级| 一个人免费看片子| 亚洲 欧美一区二区三区| 久久国产精品人妻蜜桃| 中文字幕av电影在线播放| 欧美精品av麻豆av| 久久久久久久久免费视频了| av一本久久久久| 人妻久久中文字幕网| 亚洲伊人久久精品综合| 极品人妻少妇av视频| 国产一区二区在线观看av| 老司机午夜十八禁免费视频| 首页视频小说图片口味搜索| 精品熟女少妇八av免费久了| cao死你这个sao货| 亚洲七黄色美女视频| 日韩人妻精品一区2区三区| 国产精品自产拍在线观看55亚洲 | 日本vs欧美在线观看视频| 1024视频免费在线观看| 大陆偷拍与自拍| 日韩三级视频一区二区三区| 一级,二级,三级黄色视频| 母亲3免费完整高清在线观看| 他把我摸到了高潮在线观看 | av天堂久久9| 青草久久国产| 如日韩欧美国产精品一区二区三区| 久久女婷五月综合色啪小说| 亚洲,欧美精品.| 在线精品无人区一区二区三| 国产免费现黄频在线看| 国产成人精品在线电影| 男女之事视频高清在线观看| 人妻一区二区av| 一个人免费在线观看的高清视频 | 国产一区二区三区在线臀色熟女 | 国内毛片毛片毛片毛片毛片| 国产av一区二区精品久久| 国产av一区二区精品久久| 亚洲少妇的诱惑av| 老司机靠b影院| 婷婷色av中文字幕| 国产亚洲av高清不卡| 另类精品久久| 一本大道久久a久久精品| 中文字幕高清在线视频| 久久 成人 亚洲| 精品高清国产在线一区| 色视频在线一区二区三区| 久久99热这里只频精品6学生| 久久影院123| 搡老乐熟女国产| 精品一区二区三区av网在线观看 | 午夜福利乱码中文字幕| 人妻 亚洲 视频| 91麻豆精品激情在线观看国产 | 老熟妇乱子伦视频在线观看 | 亚洲精品乱久久久久久| 久久这里只有精品19| 成年女人毛片免费观看观看9 | 亚洲九九香蕉| 国产精品九九99| 成人亚洲精品一区在线观看| 香蕉丝袜av| 国产精品自产拍在线观看55亚洲 | 视频区欧美日本亚洲| 高清视频免费观看一区二区| 高清视频免费观看一区二区| 91麻豆精品激情在线观看国产 | 女警被强在线播放| 亚洲免费av在线视频| 亚洲第一欧美日韩一区二区三区 | 免费人妻精品一区二区三区视频| 热99re8久久精品国产| 久久人人爽av亚洲精品天堂| 亚洲情色 制服丝袜| 亚洲精品av麻豆狂野| 欧美性长视频在线观看| 狂野欧美激情性bbbbbb| 12—13女人毛片做爰片一| 伊人久久大香线蕉亚洲五| 新久久久久国产一级毛片| 91麻豆精品激情在线观看国产 | 亚洲国产毛片av蜜桃av| 丝瓜视频免费看黄片| 国产欧美日韩精品亚洲av| 日韩欧美免费精品| 欧美精品一区二区大全| 汤姆久久久久久久影院中文字幕| 欧美人与性动交α欧美精品济南到| 日本撒尿小便嘘嘘汇集6| 日韩制服骚丝袜av| 黄色a级毛片大全视频| 欧美乱码精品一区二区三区| 久热爱精品视频在线9| 在线看a的网站| 日韩,欧美,国产一区二区三区| 一个人免费在线观看的高清视频 | 亚洲精品粉嫩美女一区| 亚洲精品国产精品久久久不卡| 欧美激情高清一区二区三区| 大型av网站在线播放| 美女大奶头黄色视频| 操出白浆在线播放| 亚洲精品久久午夜乱码| 国产精品久久久久成人av| 丝瓜视频免费看黄片| 久久亚洲精品不卡| 欧美激情极品国产一区二区三区| 久久人妻熟女aⅴ| 美女大奶头黄色视频| av福利片在线| 国产一区二区在线观看av| 国产精品欧美亚洲77777| av国产精品久久久久影院| 国产精品久久久久成人av| 性色av一级| 天天躁夜夜躁狠狠躁躁| 人妻 亚洲 视频| 天天操日日干夜夜撸| 女警被强在线播放| 欧美日韩亚洲国产一区二区在线观看 | 国产视频一区二区在线看| 啦啦啦啦在线视频资源| 国产成人系列免费观看| 国产一卡二卡三卡精品| 亚洲av日韩在线播放| 麻豆国产av国片精品| av又黄又爽大尺度在线免费看| 无限看片的www在线观看| 亚洲精品中文字幕在线视频| 日韩 欧美 亚洲 中文字幕| 性高湖久久久久久久久免费观看| 视频在线观看一区二区三区| 一进一出抽搐动态| 男女高潮啪啪啪动态图| 在线观看免费高清a一片| 日韩 亚洲 欧美在线| 日韩中文字幕欧美一区二区| 丁香六月天网| 午夜福利,免费看| 免费观看av网站的网址| 亚洲色图 男人天堂 中文字幕| 最新在线观看一区二区三区| 国产日韩一区二区三区精品不卡| 蜜桃国产av成人99| 国产主播在线观看一区二区| 国产精品九九99| 中文字幕另类日韩欧美亚洲嫩草| 狂野欧美激情性xxxx| 看免费av毛片| 一本久久精品| 热re99久久精品国产66热6| 亚洲第一av免费看| 99国产精品一区二区蜜桃av | 亚洲精品国产色婷婷电影| 丰满迷人的少妇在线观看| 亚洲av片天天在线观看| 一级黄色大片毛片| 国产日韩欧美在线精品| 欧美日本中文国产一区发布| 满18在线观看网站| 高清av免费在线| 99国产精品99久久久久| 一二三四在线观看免费中文在| 十八禁高潮呻吟视频| 久久久久精品人妻al黑| 丝袜美腿诱惑在线| 国产黄频视频在线观看| 亚洲精品乱久久久久久| 日本av手机在线免费观看| 五月天丁香电影| 1024香蕉在线观看| 亚洲七黄色美女视频| 最黄视频免费看| 中文字幕最新亚洲高清| 咕卡用的链子| 国产一区二区激情短视频 | 国产片内射在线| 国产成人精品久久二区二区免费| 丝瓜视频免费看黄片| 久久久水蜜桃国产精品网| 久久天躁狠狠躁夜夜2o2o| 日本wwww免费看| 午夜免费鲁丝| 亚洲精品国产av成人精品| 精品国产超薄肉色丝袜足j| 精品国产一区二区三区四区第35| 岛国毛片在线播放| 亚洲五月婷婷丁香| 2018国产大陆天天弄谢| 91精品国产国语对白视频| 女性被躁到高潮视频| 另类亚洲欧美激情| 性色av乱码一区二区三区2| 午夜精品久久久久久毛片777| 男女国产视频网站| 咕卡用的链子| 三上悠亚av全集在线观看| 国产不卡av网站在线观看| 精品国产一区二区三区久久久樱花| 一区二区三区精品91| 大片电影免费在线观看免费| 日日夜夜操网爽| 建设人人有责人人尽责人人享有的| 精品国产一区二区三区四区第35| 美女脱内裤让男人舔精品视频| 精品国产一区二区久久| 女人爽到高潮嗷嗷叫在线视频| 欧美 日韩 精品 国产| 亚洲第一av免费看| 99国产精品免费福利视频| 男女下面插进去视频免费观看| 大型av网站在线播放| 国产国语露脸激情在线看| 黄色怎么调成土黄色| 亚洲精品一卡2卡三卡4卡5卡 | 国产精品一区二区在线观看99| 国产成人一区二区三区免费视频网站| 人人妻人人添人人爽欧美一区卜| 精品国产超薄肉色丝袜足j| 亚洲中文av在线| 欧美在线一区亚洲| 黄片大片在线免费观看| 777米奇影视久久| 五月天丁香电影| 一个人免费看片子| 国产有黄有色有爽视频| 久久久国产成人免费| 中文精品一卡2卡3卡4更新| 国产亚洲精品一区二区www | 亚洲全国av大片| 日本精品一区二区三区蜜桃| 免费高清在线观看视频在线观看| 国产男女内射视频| 人妻人人澡人人爽人人| 热re99久久精品国产66热6| 久久精品国产亚洲av香蕉五月 | 国产免费福利视频在线观看| 欧美成狂野欧美在线观看| 美女扒开内裤让男人捅视频| 咕卡用的链子| 伊人久久大香线蕉亚洲五| 亚洲国产日韩一区二区| 国产黄色免费在线视频| 国产亚洲欧美精品永久| 午夜91福利影院| 少妇 在线观看| 久久精品aⅴ一区二区三区四区| 丝袜人妻中文字幕| 2018国产大陆天天弄谢| 女性被躁到高潮视频| 精品人妻一区二区三区麻豆| 亚洲国产欧美一区二区综合| 可以免费在线观看a视频的电影网站| 国产精品久久久久成人av| av线在线观看网站| 亚洲精华国产精华精| 亚洲精品国产一区二区精华液| 免费日韩欧美在线观看| 欧美+亚洲+日韩+国产| 深夜精品福利| 久久性视频一级片| 人人澡人人妻人| 九色亚洲精品在线播放| 一个人免费看片子| 成在线人永久免费视频| 精品久久久久久电影网| 亚洲av成人一区二区三| 老司机亚洲免费影院| 少妇精品久久久久久久| 午夜福利在线免费观看网站| 菩萨蛮人人尽说江南好唐韦庄| 在线观看舔阴道视频| 精品亚洲成a人片在线观看| 亚洲av日韩精品久久久久久密| 中文精品一卡2卡3卡4更新| 又黄又粗又硬又大视频| 国产日韩欧美在线精品| 欧美在线一区亚洲| 国产精品免费大片| 欧美精品亚洲一区二区| 18禁国产床啪视频网站| 国产成人影院久久av| 91大片在线观看| 国产精品久久久久久精品古装| 国产不卡av网站在线观看| 国产精品偷伦视频观看了| 久久国产精品人妻蜜桃| 国产日韩欧美亚洲二区| 狠狠狠狠99中文字幕| 老司机午夜十八禁免费视频| 纯流量卡能插随身wifi吗| 一本—道久久a久久精品蜜桃钙片| 午夜福利视频精品| 国产一卡二卡三卡精品| 成年人黄色毛片网站| 午夜成年电影在线免费观看| 国产日韩欧美视频二区| 考比视频在线观看| 亚洲黑人精品在线| 一级毛片电影观看| 狂野欧美激情性bbbbbb| 男女无遮挡免费网站观看| 大型av网站在线播放| 男女国产视频网站| 一区二区三区激情视频| 美女中出高潮动态图| 十八禁人妻一区二区| 啦啦啦在线免费观看视频4| 精品人妻1区二区| 69av精品久久久久久 | 伊人亚洲综合成人网| av网站在线播放免费| 建设人人有责人人尽责人人享有的| 国产精品二区激情视频| 欧美日韩亚洲国产一区二区在线观看 | 成人国语在线视频| 我要看黄色一级片免费的| 亚洲全国av大片| 大香蕉久久网| 精品国产一区二区久久| 国产精品久久久久成人av| 久久精品国产亚洲av香蕉五月 | 真人做人爱边吃奶动态| 精品亚洲乱码少妇综合久久| 永久免费av网站大全| 两人在一起打扑克的视频| 老司机靠b影院| 亚洲av国产av综合av卡| 国产老妇伦熟女老妇高清| 国产一区二区三区在线臀色熟女 | 在线观看舔阴道视频| 亚洲精品美女久久久久99蜜臀| 伦理电影免费视频| 欧美av亚洲av综合av国产av| 别揉我奶头~嗯~啊~动态视频 | 亚洲av欧美aⅴ国产| 欧美 亚洲 国产 日韩一| 人人妻人人澡人人爽人人夜夜| 一区二区三区四区激情视频| 人妻一区二区av| 男女国产视频网站| 亚洲精品一卡2卡三卡4卡5卡 | 亚洲一区中文字幕在线| 天堂俺去俺来也www色官网| 欧美+亚洲+日韩+国产| 国产精品影院久久| 亚洲国产看品久久| 日韩欧美一区二区三区在线观看 | 久久99热这里只频精品6学生| 午夜精品国产一区二区电影| 成人免费观看视频高清| 亚洲第一欧美日韩一区二区三区 | 狠狠狠狠99中文字幕| 国产片内射在线| 91字幕亚洲| 99国产精品一区二区蜜桃av | 99热网站在线观看| 99九九在线精品视频| 午夜福利一区二区在线看| 亚洲人成电影免费在线| 国产老妇伦熟女老妇高清| 十八禁网站免费在线| 精品一区二区三区四区五区乱码| 午夜福利影视在线免费观看| 久久久欧美国产精品| 免费观看a级毛片全部| 少妇猛男粗大的猛烈进出视频| 国产高清视频在线播放一区 | 男女边摸边吃奶| 脱女人内裤的视频| 亚洲成人免费av在线播放| 免费观看av网站的网址| 欧美国产精品一级二级三级| 午夜影院在线不卡| 欧美成狂野欧美在线观看| 黑人操中国人逼视频| 久久精品国产亚洲av香蕉五月 | 大香蕉久久网| 性色av乱码一区二区三区2| 欧美久久黑人一区二区| 超碰97精品在线观看| 国产av一区二区精品久久| 交换朋友夫妻互换小说| 美女高潮到喷水免费观看| 法律面前人人平等表现在哪些方面 | 欧美黑人精品巨大| 黄片大片在线免费观看| 国产亚洲午夜精品一区二区久久| 超碰97精品在线观看| 亚洲欧美精品自产自拍| 少妇人妻久久综合中文| 老司机午夜福利在线观看视频 | 男女高潮啪啪啪动态图| 99久久人妻综合| 韩国精品一区二区三区| 搡老岳熟女国产| 捣出白浆h1v1| 嫁个100分男人电影在线观看| 亚洲欧洲日产国产| 亚洲精品美女久久av网站| 亚洲性夜色夜夜综合| 亚洲精品中文字幕一二三四区 | 日韩一卡2卡3卡4卡2021年| 三上悠亚av全集在线观看| 18禁黄网站禁片午夜丰满| 久久人人97超碰香蕉20202| 99热国产这里只有精品6| 好男人电影高清在线观看| 免费在线观看黄色视频的| 欧美+亚洲+日韩+国产| 老司机午夜十八禁免费视频| 新久久久久国产一级毛片| 国产成人免费观看mmmm| 日韩视频在线欧美| 午夜久久久在线观看| h视频一区二区三区| 国产精品免费大片| 久久久精品免费免费高清| 香蕉国产在线看| 中文字幕制服av| 亚洲久久久国产精品| 人妻久久中文字幕网| 国产高清视频在线播放一区 | 午夜日韩欧美国产| 少妇被粗大的猛进出69影院| 别揉我奶头~嗯~啊~动态视频 | 男女免费视频国产| 亚洲精品一卡2卡三卡4卡5卡 | 国产精品一区二区免费欧美 | 操美女的视频在线观看| 黑人操中国人逼视频| 亚洲成av片中文字幕在线观看| 最黄视频免费看| 亚洲色图 男人天堂 中文字幕| 亚洲精品国产av成人精品| 男女床上黄色一级片免费看| 桃花免费在线播放| 丰满饥渴人妻一区二区三| 大型av网站在线播放| 欧美日韩国产mv在线观看视频| 美女高潮喷水抽搐中文字幕| 一级片'在线观看视频| 欧美+亚洲+日韩+国产| 1024视频免费在线观看| 美国免费a级毛片| 蜜桃在线观看..| 自拍欧美九色日韩亚洲蝌蚪91| 成年动漫av网址| 国产一区二区在线观看av| 性色av一级| 精品福利永久在线观看| 久久 成人 亚洲| h视频一区二区三区| 亚洲欧美成人综合另类久久久| 久久久久网色| 丝袜美腿诱惑在线| 精品少妇久久久久久888优播| 蜜桃在线观看..| 久久精品久久久久久噜噜老黄| 色婷婷久久久亚洲欧美|