• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    被遺忘權(quán)的制度缺失、發(fā)展困境與中國構(gòu)建路徑

    2019-07-11 05:20:54劉學(xué)濤張翱鵬
    關(guān)鍵詞:被遺忘權(quán)

    劉學(xué)濤 張翱鵬

    摘 要:數(shù)據(jù)時代面臨的個人信息受到侵害、個人隱私泄露、算法歧視等一系列重大問題,應(yīng)將以保護(hù)信息主體權(quán)利為目的的被遺忘權(quán)確立下來。歐美被遺忘權(quán)在隱私與自由之間存在的沖突背后所體現(xiàn)的是被遺忘權(quán)對于各國需求的重要性,我國現(xiàn)有法律制度中規(guī)定的刪除權(quán)與歐盟所確立的被遺忘權(quán)是不能等同的?,F(xiàn)行被遺忘權(quán)面臨著調(diào)整對象的設(shè)定缺陷、權(quán)利內(nèi)容的設(shè)定偏差、責(zé)任主體的設(shè)定不足三方面的發(fā)展困境。學(xué)者熱議與實踐需求在一定程度上表明我國應(yīng)當(dāng)引入被遺忘權(quán),并應(yīng)從調(diào)整對象的優(yōu)化構(gòu)建、權(quán)利內(nèi)容的改造構(gòu)建、責(zé)任承擔(dān)的明確構(gòu)建搭建起中國的路徑選擇,以解決網(wǎng)絡(luò)信息社會的發(fā)展帶給我們的新挑戰(zhàn)。

    關(guān)鍵詞:被遺忘權(quán);刪除權(quán);情景脈絡(luò)完整性;刪除算法

    中圖分類號:D923 ? ? ? ?文獻(xiàn)標(biāo)識碼:A

    文章編號:1673-8268(2019)03-0045-12

    “被遺忘權(quán)”也被稱為“刪除的權(quán)利”(the right to erasure),有學(xué)者將“被遺忘權(quán)”定義為:“數(shù)據(jù)主體可以在數(shù)據(jù)控制者沒有合法理由掌握信息的情況下,要求其永久刪除該主體的個人數(shù)據(jù)的權(quán)利?!盵1]有史以來,對我們?nèi)祟惗?,遺忘一直是常態(tài),記憶才是例外。然而,由于數(shù)字技術(shù)與全球網(wǎng)絡(luò)的發(fā)展,這種平衡已經(jīng)被改變。在此種情形下,作為一項新興權(quán)利的被遺忘權(quán)應(yīng)運而生,成為保障個人信息安全之利器而受到人們的關(guān)注[2]。在網(wǎng)絡(luò)技術(shù)的幫助下,遺忘已經(jīng)變?yōu)槔?,而記憶卻成了常態(tài)。完善的數(shù)字記憶在帶給人們極大便利的同時,也造成了新的困擾。過去,人們犯錯不用擔(dān)心未來會受此羈絆,因為尷尬的信息通常只存在于特定的社區(qū)并會隨著時間的流逝而被遺忘。但現(xiàn)在,互聯(lián)網(wǎng)記住了你的一切,我們的過去正像刺青一樣刻在我們的“數(shù)字皮膚”上,遺忘成為奢侈品,一個“永久記憶”的時代已經(jīng)到來。完善的數(shù)字化記憶,可能會令人失去一項重要的能力——堅定地生活在當(dāng)下的能力[3]。大數(shù)據(jù)時代,現(xiàn)代信息技術(shù)構(gòu)建的龐大數(shù)據(jù)庫儲藏著海量信息[4],遺忘作為人類與生俱來的能力,在互聯(lián)網(wǎng)以及廉價存儲器的作用下成為過去,傳播和取得不良信息包括傳播和取得未經(jīng)數(shù)據(jù)主體同意的隱私資料更為方便,人們私生活的不安寧因素隨之增加[5]。本文以被遺忘權(quán)的價值爭議為邏輯起點,結(jié)合我國關(guān)于刪除權(quán)的規(guī)定,審視被遺忘權(quán)的發(fā)展困境,試圖將被遺忘權(quán)引入中國并為在引入之后如何具體應(yīng)對提供構(gòu)建路徑。

    一、歐美被遺忘權(quán)的價值基礎(chǔ):個人尊嚴(yán)和自由

    自2012年歐盟提出被遺忘權(quán)以來,各方爭議不斷。這種分歧在歐盟與美國之間尤為明顯。美國與歐盟在被遺忘權(quán)問題上的巨大分歧,背后體現(xiàn)的是兩者對待個人隱私保護(hù)的差異??偟膩碚f,歐盟國家更注重個人隱私保護(hù),認(rèn)為隱私權(quán)關(guān)系人格尊嚴(yán),是一項“基本權(quán)利”,政府應(yīng)給予高度重視;而美國通常認(rèn)為隱私是一項“基本價值”,相較于隱私,他們更傾向于保護(hù)言論自由。

    (一)歐盟的價值基礎(chǔ):個人尊嚴(yán)

    歐盟明確將被遺忘權(quán)納入“新草案”,并在積極尋求草案的通過。“谷歌西班牙公司案”證實了歐盟的這一立場,雷丁女士更是稱該判決是“歐洲個人數(shù)據(jù)保護(hù)的一次顯著勝利”,歐盟成員國也多持肯定態(tài)度。早在歐盟《通用數(shù)據(jù)保護(hù)法則》出臺前,一些成員國就已經(jīng)在嘗試確立被遺忘權(quán)。例如,在法國,2010年10月13日,包括搜索引擎在內(nèi)的部分互聯(lián)網(wǎng)企業(yè)在國務(wù)秘書的召集下簽署了一項關(guān)于被遺忘權(quán)方面的宣言。而歐盟民眾對被遺忘權(quán)更是熱情高漲。據(jù)民調(diào)顯示,歐盟有75%的民眾希望享有被遺忘權(quán),以便能按照自己的意愿刪除網(wǎng)絡(luò)個人信息。“谷歌西班牙公司案”后,谷歌出臺了在線申請程序,歐盟每天都有上千人申請行使被遺忘權(quán)。

    歐洲對于個人信息的保護(hù)核心源于對個人尊嚴(yán)權(quán)利的保護(hù)。隱私保護(hù)的核心是個人的肖像權(quán)、姓名權(quán)和名譽權(quán),這幾項權(quán)利互相聯(lián)系,其目的是為了控制個人的公眾形象,使自己在公眾面前免于不當(dāng)暴露和公開帶來的尷尬。保護(hù)隱私是保護(hù)尊嚴(yán)和榮譽的內(nèi)容之一,避免隱私泄露導(dǎo)致的尊嚴(yán)被傷害和榮譽受損才是有關(guān)歐洲法律的目的\[6\]。歐洲的尊嚴(yán)文明其實就是隱私文明。歐洲法律學(xué)者將隱私作為對一個人肖像、姓名和名聲的控制以及對個人信息的公開披露等相關(guān)的權(quán)利時,實際上是在說社會大眾對于這些權(quán)利的敏感性。Robert Post認(rèn)為,隱私保護(hù)的是一種尊嚴(yán)的標(biāo)準(zhǔn),這種標(biāo)準(zhǔn)表現(xiàn)為禮儀規(guī)范,當(dāng)缺乏這種規(guī)范時社會將無法形成共同的意識。歐洲的隱私法從名譽法(the law of insult)發(fā)展而來。名譽法涉及的懲罰對象是不尊重的表現(xiàn),例如表達(dá)不尊重的文字手勢等。其所存在的國度,名譽法被認(rèn)為是關(guān)于保護(hù)個人榮譽或尊嚴(yán)的法律\[7\]。隱私受損而造成的尊嚴(yán)或榮譽的損失是由名譽法保護(hù)的,名譽法并不要求法律上可認(rèn)知的侮辱已經(jīng)傳播到任何第三方。無論是否有任何第三方目睹了該事件,都可以認(rèn)定為以不尊重或輕蔑的態(tài)度對人的尊嚴(yán)進(jìn)行攻擊的行為。

    (二)美國的價值基礎(chǔ):自由

    美國的個人信息保護(hù)涵蓋于隱私保護(hù)中,其來源于對自由的追求,彰顯了個人信息自由的價值。在美國,盡管被遺忘權(quán)一直受到憲法第四修正案的反駁,加州仍然通過了《兒童在線隱私保護(hù)法案》,該法案規(guī)定了兒童的被遺忘權(quán),指出兒童有權(quán)擦除其在線記錄。美國的被遺忘權(quán)來源于其追求自由的理念,美國隱私權(quán)的發(fā)展歷程便是追求自由的過程。比如:1965年,在格里斯沃爾德訴康涅狄格州案中,最高法院通過利用第一、第三、第四、第五和第九修正案創(chuàng)造新的隱私權(quán);在Hanlon訴Berger案中,法院認(rèn)為政府侵犯了公民的隱私自由。

    Eric Posner指出,美國法律試圖在第一修正案和隱私權(quán)之間維持平衡。例如,在美國的信用報告中,未支付的抵押貸款,即使此類信息為真,十年之后這類信息也會消失[8]。此外,各州對于某些類型的犯罪記錄也會從公共記錄中刪除,即使這些記錄并不存在任何錯誤。Eric Posner因此認(rèn)為,雖然美國并沒有明確地承認(rèn)被遺忘權(quán),但這種法律權(quán)利其實深藏于美國的歷史傳統(tǒng)中。美國公眾輿論也支持被遺忘權(quán)。Pew 研究中心的一項研究顯示,68%的美國互聯(lián)網(wǎng)用戶“認(rèn)為現(xiàn)行法律在保護(hù)人們的在線隱私方面不夠好”。此外,一項軟件咨詢調(diào)查顯示,500名美國成年人中61%的人都贊成被遺忘權(quán)。

    雖然歐美被遺忘權(quán)的價值基礎(chǔ)不同,但都認(rèn)為被遺忘權(quán)是大數(shù)據(jù)時代必備的權(quán)利。不論從理論基礎(chǔ)還是現(xiàn)實需要,都指明了被遺忘權(quán)的重要性。然而,我國并沒有建立被遺忘權(quán),而且類似于被遺忘權(quán)的刪除權(quán)立法只知其形而未得其神。

    二、我國被遺忘權(quán)的制度分析:刪除權(quán)≠被遺忘權(quán)

    我國現(xiàn)有的相關(guān)法律已經(jīng)規(guī)定了“刪除權(quán)”。2005年6月,《中華人民共和國個人信息保護(hù)法示范法草案學(xué)者建議稿》最早將“刪除”上升為一種權(quán)利,規(guī)定在個人信息被非法儲存以及當(dāng)信息處理主體執(zhí)行職責(zé)已無知悉該個人信息的必要時,該個人信息應(yīng)當(dāng)被刪除。2011年1月,工信部就個人信息保護(hù)頒發(fā)了《信息安全技術(shù)公共及商用服務(wù)信息系統(tǒng)個人信息保護(hù)指南》(以下簡稱《指南》),該《指南》第5.5.1條《信息安全技術(shù)公共及商用服務(wù)信息系統(tǒng)個人信息保護(hù)指南》第5.5.1條:個人信息主體有正當(dāng)理由要求刪除其個人信息時,及時刪除個人信息。刪除個人信息可能會影響執(zhí)法機(jī)構(gòu)調(diào)查取證時,采取適當(dāng)?shù)拇鎯推帘未胧?。對有關(guān)個人信息刪除權(quán)的規(guī)定,是目前我國相關(guān)法律、法規(guī)、規(guī)章中最系統(tǒng)、最全面的,也最接近歐盟被遺忘權(quán)的規(guī)定。但是,《指南》中規(guī)定的刪除權(quán)與歐盟所確立的被遺忘權(quán)并不相同。陳昶屹法官認(rèn)為,其一,《指南》是從個人信息保護(hù)法的領(lǐng)域這個角度規(guī)定的,而歐盟所確立的被遺忘權(quán)是從民事權(quán)利的角度提出的。由于《指南》是工信部頒發(fā)的一種指南性的規(guī)定,屬于行政指導(dǎo)的范疇,不具有強(qiáng)制力,所以這其中規(guī)定的刪除權(quán)嚴(yán)格來說很難被認(rèn)為是一種法定意義上的民事權(quán)利或者在行政法上行政相對人個人享有的一項權(quán)利。而被遺忘權(quán)更多地是一種私權(quán)利,如果歸到中國權(quán)利體系里面應(yīng)該屬于民事權(quán)利。其二,刪除權(quán)從主體上說有這項權(quán)利,但并沒有從民事權(quán)利或私人主體權(quán)利的角度來說。西方有個人信息保護(hù)機(jī)構(gòu),還有對應(yīng)的投訴機(jī)構(gòu)和管理機(jī)構(gòu)。工信部從信息產(chǎn)業(yè)的角度代行了類似的這種權(quán)利,但并不是專門保護(hù)個人信息、接受個人信息投訴的機(jī)構(gòu)。被遺忘權(quán)這一權(quán)利最后行使的方式也是信息被抹掉,從這一意義上來說,中國的刪除權(quán)和歐盟的被遺忘權(quán)的規(guī)定很相似。但截止到現(xiàn)在,《指南》中規(guī)定的刪除權(quán)并沒有成為法定權(quán)利和上升到一種被遺忘的權(quán)利,這個規(guī)定還只是一個指令或者指導(dǎo)。在封存或消除罪犯犯罪記錄的相關(guān)規(guī)定方面,我國2012年修改的《中華人民共和國刑事訴訟法》專章規(guī)定了“未成年人犯罪案件訴訟程序”,其中第275條作出了相關(guān)規(guī)定《中華人民共和國刑事訴訟法》第275條:犯罪的時候不滿十八周歲,被判處五年以下有期徒刑,應(yīng)當(dāng)對相關(guān)犯罪記錄予以封存。。最高人民法院《關(guān)于審理利用信息網(wǎng)絡(luò)侵害人身權(quán)益民事糾紛案件適用法律若干問題的規(guī)定》第12條也就犯罪記錄能否適用被遺忘權(quán)予以刪除作了區(qū)分:當(dāng)犯罪記錄的公開者是網(wǎng)絡(luò)用戶或網(wǎng)絡(luò)服務(wù)提供者等國家機(jī)關(guān)之外的主體時,能夠行使被遺忘權(quán)對該犯罪記錄進(jìn)行刪除;當(dāng)犯罪記錄的公開者是國家機(jī)關(guān)時,該犯罪記錄屬于適用被遺忘權(quán)的例外。2012年12月28日通過的《全國人大常委會關(guān)于加強(qiáng)網(wǎng)絡(luò)信息保護(hù)的決定》第8條也做出了規(guī)定《全國人大常委會關(guān)于加強(qiáng)網(wǎng)絡(luò)信息保護(hù)的決定》第8條:個人發(fā)現(xiàn)網(wǎng)絡(luò)運營者違反法律、行政法規(guī)的規(guī)定或者雙方的約定收集、使用其個人信息的,有權(quán)要求網(wǎng)絡(luò)運營者刪除其個人信息;發(fā)現(xiàn)網(wǎng)絡(luò)運營者收集、存儲的其個人信息有錯誤的,有權(quán)要求網(wǎng)絡(luò)運營者予以更正。網(wǎng)絡(luò)運營者應(yīng)當(dāng)采取措施予以刪除或者更正。。我國《中華人民共和國侵權(quán)責(zé)任法》(以下簡稱《侵權(quán)責(zé)任法》)第36條有關(guān)網(wǎng)絡(luò)侵權(quán)責(zé)任的規(guī)定,首次明確了針對網(wǎng)絡(luò)用戶利用網(wǎng)絡(luò)服務(wù)實施的侵權(quán)行為,被侵權(quán)人有權(quán)通知網(wǎng)絡(luò)服務(wù)提供者采取刪除、屏蔽、斷開鏈接等必要措施,即賦予了被侵權(quán)人對網(wǎng)絡(luò)上針對自身的侵權(quán)信息予以刪除的權(quán)利。

    但是,我們發(fā)現(xiàn),以上關(guān)于“刪除權(quán)”的規(guī)定,無論是對未成年人犯罪記錄的封存,還是基于《侵權(quán)責(zé)任法》的通知刪除義務(wù),都是基于一個前提:存在違法行為或者侵權(quán)行為。然而,被遺忘權(quán)并不以存在違法行為為基礎(chǔ),即便是合法存在于網(wǎng)絡(luò)的信息,沒有任何人利用該數(shù)據(jù)做出對數(shù)據(jù)主體不利的舉動,數(shù)據(jù)主體僅僅是由于數(shù)據(jù)的存在問題就可以通過被遺忘權(quán)來主張權(quán)利。這也是被遺忘權(quán)與我國規(guī)定的刪除權(quán)最大的不同。從上文可以看出,我國現(xiàn)有法律中規(guī)定的刪除權(quán)雖然從形式上、內(nèi)容上和被遺忘權(quán)相似、接近,但由于中國的立法環(huán)境、立法條件、適用情況和歐洲都有完全不一樣的體系和保護(hù)方式,所以很難說上述法律文件中規(guī)定的刪除權(quán)與歐盟所確立的被遺忘權(quán)是一致的,具體分析如下。

    一方面,從個人信息治理手段的角度看,歐盟被遺忘權(quán)的規(guī)定側(cè)重于源頭治理,而我國的規(guī)定則屬于結(jié)果治理?!吨腥A人民共和國網(wǎng)絡(luò)安全法》第43條《中華人民共和國網(wǎng)絡(luò)安全法》第43條:個人發(fā)現(xiàn)網(wǎng)絡(luò)運營者違反法律、行政法規(guī)的規(guī)定或者雙方的約定收集、使用其個人信息的,有權(quán)要求網(wǎng)絡(luò)運營者刪除其個人信息;發(fā)現(xiàn)網(wǎng)絡(luò)運營者收集、存儲的其個人信息有錯誤的,有權(quán)要求網(wǎng)絡(luò)運營者予以更正。網(wǎng)絡(luò)運營者應(yīng)當(dāng)采取措施予以刪除或者更正。只規(guī)定了個人對于個人信息收集和使用違法、違規(guī)以及違約狀況下請求刪除的權(quán)利,與歐盟《通用數(shù)據(jù)保護(hù)法則》相比缺乏“個人信息過時不必要、撤回同意以及拒絕信息控制者收集三種情況”。這使得我國立法層面喪失了事前的個人信息侵害救濟(jì),只規(guī)定事后的懲罰和處理,對個人信息的保護(hù)未免過于遲鈍與滯后。

    另一方面,《侵權(quán)責(zé)任法》第36條的規(guī)定也并不能起到替代被遺忘權(quán)的作用,二者存在巨大差異,具體對比如表1所示。

    表1中,從權(quán)利主體的角度看,前者要求利用“網(wǎng)絡(luò)”,這也符合我國《侵權(quán)責(zé)任法》第36條“網(wǎng)絡(luò)侵權(quán)專門條文”的稱謂。而被遺忘權(quán)不要求其主體利用網(wǎng)絡(luò),即便是非網(wǎng)絡(luò)狀態(tài)下收集的個人信息也適用被遺忘權(quán)的規(guī)定。當(dāng)然,實踐中也確實大量存在非云端的個人信息收集、儲存和分析等行為,《侵權(quán)責(zé)任法》要求的網(wǎng)絡(luò)前提未免會令調(diào)整范圍更狹窄。

    從權(quán)利客體的角度看,前者的構(gòu)成要件要求侵權(quán)損害事實的發(fā)生,而被遺忘權(quán)并不強(qiáng)求符合《侵權(quán)責(zé)任法》規(guī)定的侵權(quán)行為構(gòu)成要件,即便沒有損害事實發(fā)生,只要符合法律對被遺忘權(quán)的規(guī)定,個人信息主體即可請求信息控制者刪除其個人信息。信息自決的理念體現(xiàn)了個人對大數(shù)據(jù)時代產(chǎn)生的個人信息問題進(jìn)行的回應(yīng),具有時代特色。傳統(tǒng)互聯(lián)網(wǎng)階段,個人信息量較少,互聯(lián)網(wǎng)電商尚不發(fā)達(dá),搜索引擎與門戶網(wǎng)站對個人信息的處理需求并不是很大,互聯(lián)網(wǎng)社區(qū)相對較少,線下的信息儲存和處理行業(yè)尚未興起,這一階段適用《侵權(quán)責(zé)任法》第36條尚可。但大數(shù)據(jù)時代背景下,算法甚至比使用者更了解其自身,要求侵害結(jié)果并進(jìn)行事后救濟(jì)未免效率過低。

    因此,我國的相關(guān)立法對個人信息的保護(hù)缺乏效率,并不能體現(xiàn)被遺忘權(quán)信息自決的特點,也無法回應(yīng)時代對個人信息保護(hù)的需求。對被遺忘權(quán)進(jìn)行更精準(zhǔn)的分析與改造引進(jìn)可能會成為更好的選擇。

    三、現(xiàn)行被遺忘權(quán)的發(fā)展困境:規(guī)范和實踐的審視

    (一)調(diào)整對象的設(shè)定缺陷:個人信息范圍的狹隘性

    針對個人信息,學(xué)理界已存在大量討論。齊愛民教授認(rèn)為,個人信息(information relating to individuals)是一切可以識別本人信息的總和。識別是個人信息的實質(zhì)要素,得以固定和可以處理是個人信息的形式要素[9]。王利明教授也認(rèn)為,可識別性是界定個人信息的重要標(biāo)準(zhǔn),其認(rèn)為個人信息是指與特定個人相關(guān)聯(lián)的、反映個體特征的具有可識別性的符號系統(tǒng),包括個人身份、工作、家庭、財產(chǎn)、健康等各方面的信息[10]。也有學(xué)者認(rèn)為,對于個人信息的界定不應(yīng)單純考慮與個人的關(guān)系,同樣也需要思考個人信息與社會的關(guān)系,將個人信息界定得過于寬泛不利于社會公共利益的實現(xiàn),因此,其認(rèn)為個人信息是指那些據(jù)此能夠直接或者間接推斷出特定自然人身份而又與公共利益沒有直接關(guān)系的私有信息[11]。盡管當(dāng)前個人信息的具體外延仍然是一個爭論不休的問題,但隨著關(guān)于個人信息本身討論的不斷深入,可識別性逐漸成為判斷是否屬于個人信息的核心元素。圍繞可識別性界定個人信息也逐漸被廣泛接受[12]。

    被遺忘權(quán)的權(quán)利客體指個人信息,傳統(tǒng)“識別說”定義下的個人信息具有范圍狹隘的缺陷?!白R別說”指信息能否成為個人信息,要看該信息能否識別信息主體,能夠識別則為個人信息,不能則相反。歐盟《通用數(shù)據(jù)保護(hù)法則》、我國《網(wǎng)絡(luò)安全法》和《個人信息保護(hù)法》(草案)均采用“識別說”定義個人信息。然而,技術(shù)的發(fā)展對“識別說”定義模式的個人信息定義提出了挑戰(zhàn)。一些非個人信息在一定條件下可以轉(zhuǎn)變?yōu)閭€人信息,個人信息的類型也突破了傳統(tǒng)的規(guī)定。實踐操作中,爭議較多的IP地址、cookies、人群位置、地理位置信息以及個人信息衍生產(chǎn)品等是否構(gòu)成個人信息無法單靠立法的字面規(guī)定所解釋,甚至連姓名、電話號碼等是否構(gòu)成個人信息也頗具爭議[13]70。即便是“匿名化”的信息也可能被重新識別。信息的這種動態(tài)化特征使得依靠“識別”來劃分個人信息與非個人信息的靜態(tài)立法模式呈現(xiàn)疲態(tài)。

    “識別說”的個人信息定義方法,會使得被遺忘權(quán)的保護(hù)產(chǎn)生滯后性。信息的利用很大程度上指的是信息的二次利用和后期挖掘。當(dāng)收集時,該信息無法識別個體,但海量數(shù)據(jù)的疊加使得當(dāng)初無法識別個體的信息轉(zhuǎn)換成為可識別個體的信息。此時,再認(rèn)定其為個人信息,利用被遺忘權(quán)進(jìn)行刪除時,該信息已經(jīng)被非法利用。對被遺忘權(quán)的調(diào)整對象進(jìn)行改造便提上了日程。

    (二)權(quán)利內(nèi)容的設(shè)定偏差:知情同意保護(hù)方法的低效

    個人信息保護(hù)的傳統(tǒng)機(jī)制建立在“知情同意”架構(gòu)之上,要求機(jī)構(gòu)在收集用戶個人信息前告知用戶信息的處理狀況,在網(wǎng)絡(luò)服務(wù)的語境中通常表現(xiàn)為發(fā)布隱私聲明,用戶在閱讀聲明后作出同意的表示,作為對個人信息收集和利用的合法授權(quán)[14]。依照前文的分析,作為被遺忘權(quán)觸發(fā)條件的“知情同意”框架弊端突出。按照“知情同意”框架的保護(hù)方式,事前信息采集時設(shè)定“知情同意”的架構(gòu),使得對于信息的收集不知情和不同意均可行使被遺忘權(quán),這都是重復(fù)低效的設(shè)定。不論是日常生活的經(jīng)驗還是實驗數(shù)據(jù)都證明了這一觀點。

    日常生活經(jīng)驗表明,數(shù)據(jù)服務(wù)需要數(shù)據(jù)的提供。允許軟件的訪問權(quán)限,是使用軟件的前提。如果用戶不同意這一要求,那么軟件將無法使用。在這種情況下,消費者對軟件獲取權(quán)限的事實知情,也被迫同意了該訪問請求,這使得如何判斷用戶內(nèi)心是否真正同意成為難題。如果僅僅按照形式上格式合同的同意,那么人人都可以在接受服務(wù)結(jié)束后行使被遺忘權(quán)。

    實驗數(shù)據(jù)也表明了“知情同意”在數(shù)據(jù)收集階段的功能喪失。2017年,美國學(xué)者Junger,Marianne和Lorena Montoya在荷蘭的商場進(jìn)行了實驗。實驗以商業(yè)推廣為名對300多名商場顧客進(jìn)行了分組詢問,詢問內(nèi)容包括銀行賬號(a)、郵箱地址(b)、購物記錄信息(c)和瀏覽網(wǎng)店的名稱(d)。分組包括三組:對照組、框架實驗組和警告實驗組。對照組指實驗者直接詢問顧客的如上內(nèi)容??蚣軐嶒灲M則設(shè)置了一些問題引導(dǎo)顧客注意到披露信息可能導(dǎo)致網(wǎng)絡(luò)釣魚,然后才詢問上述內(nèi)容。警告實驗組則直接采用大的警告標(biāo)志警示顧客披露信息的風(fēng)險,然后詢問顧客三項內(nèi)容,問題和警告如圖1所示[15]80,結(jié)果如圖2所示[15]80。

    實驗結(jié)果是三組中消費者被商家獲取信息的比例(見表2)。

    與對照組相比,除“郵箱賬號(b)”之外,各種引導(dǎo)消費者“知情”的方式所能引起消費者謹(jǐn)慎的效果并不明顯。意圖通過令消費者知情,從而使其作出真實意思表示的方式在大多數(shù)情況下并沒有明顯效果[15]81。

    (三)責(zé)任主體的設(shè)定不足:收集者、控制者和處理者的混淆

    數(shù)據(jù)責(zé)任承擔(dān)者的劃分過于機(jī)械?!兑话銛?shù)據(jù)保護(hù)條例》(GDPR)對數(shù)據(jù)收集者、數(shù)據(jù)控制者和數(shù)據(jù)處理者進(jìn)行了準(zhǔn)確劃分,貌似嚴(yán)密而不疏漏,實則不然。上述責(zé)任者也可能是同一企業(yè)在有關(guān)個人信息行為的不同階段扮演了不同的角色。比如,某一企業(yè)是個人信息的收集者,也可能后續(xù)參與個人信息的處理。數(shù)據(jù)收集、處理和控制的階段轉(zhuǎn)變也往往在極短時間內(nèi)完成??萍嫉倪M(jìn)步會使得有關(guān)數(shù)據(jù)的行為超出收集、處理和控制的范疇,從而跳出法律的規(guī)制。因此,精確劃分?jǐn)?shù)據(jù)責(zé)任的承擔(dān)者,會導(dǎo)致三者對責(zé)任的推諉,也為裁判者留下了如何區(qū)分責(zé)任承擔(dān)者的難題。

    就刪除方式而言,“谷歌訴岡薩雷斯被遺忘權(quán)案(Google Spain SL, Google Inc. V Agencia Espaola de Protección de Datos (AEPD), Mario Costeja González, C-131/12, 13 May 2014)”在被遺忘權(quán)的發(fā)展過程中有著如同里程碑一般的重要意義。在該案判決中,最終確立起被遺忘權(quán)的概念和內(nèi)涵,即有關(guān)數(shù)據(jù)主體的“不好的、不相關(guān)的、過分的(inadequate, irrelevant or no longer relevant, or excessive)”信息應(yīng)當(dāng)從搜索結(jié)果中刪除,這使得被遺忘權(quán)最終成為信息主體的一項民事權(quán)利而得到保護(hù)。但是該案僅僅確立了數(shù)據(jù)主體有權(quán)請求搜索引擎刪除鏈接。刪除方法不僅低效,而且留下了搜索引擎掌握個人數(shù)據(jù)審查權(quán)力的詬病。判例中所表現(xiàn)的刪除方法,要經(jīng)歷個人申請、企業(yè)審查和刪除三個階段,費時費力。刪除方式的改進(jìn)也應(yīng)當(dāng)獲得關(guān)注。

    四、被遺忘權(quán)的中國應(yīng)對:引入及其構(gòu)建路徑

    (一)被遺忘權(quán)引入中國的考量

    有學(xué)者說道:互聯(lián)網(wǎng)的全球化意味著完整的數(shù)字化記憶以及“記憶成為常態(tài)”所帶來的諸多挑戰(zhàn),不僅存在于倫敦和舊金山,在北京和上海也同樣令人關(guān)注,跨越了地理上的界限,完整的數(shù)字化記憶正在挑戰(zhàn)著我們所有人。被遺忘權(quán)絕不僅僅是歐盟與美國需要討論的話題。實踐中,阿根廷、日本等都在積極應(yīng)對被遺忘權(quán)問題。我國已經(jīng)進(jìn)入互聯(lián)網(wǎng)時代,2019年2月28日,中國互聯(lián)網(wǎng)絡(luò)信息中心(CNNIC)發(fā)布第43次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計報告》,截至2018年12月,我國網(wǎng)民規(guī)模達(dá)8.29億,普及率達(dá)59.6%,較2017年底提升3.8個百分點,全年新增網(wǎng)民5 653萬。在此背景下,數(shù)字化永久記憶帶來的遺忘難題將不可避免。此外,歐盟將被遺忘權(quán)規(guī)則適用于所有在歐盟境內(nèi)經(jīng)營的自然人和企業(yè),這意味著任何想要進(jìn)入歐盟市場的企業(yè)都需要應(yīng)對被遺忘權(quán)問題。在“谷歌西班牙公司案”后,谷歌、雅虎、微軟等美國互聯(lián)網(wǎng)巨頭都在積極出臺相關(guān)在線申請程序,以便應(yīng)對歐盟對被遺忘權(quán)的規(guī)定。我國百度、阿里巴巴、騰訊等互聯(lián)網(wǎng)巨頭要想實現(xiàn)“走出去”戰(zhàn)略,進(jìn)入歐盟等確立被遺忘權(quán)的國際市場,必須積極應(yīng)對。

    我國現(xiàn)行法律規(guī)定中并不存在被遺忘權(quán),但在信息保護(hù)方面有相關(guān)的法律基礎(chǔ)。有學(xué)者認(rèn)為現(xiàn)有的信息保護(hù)法條中,無論是權(quán)利主體還是義務(wù)主體的界定都顯得較為狹隘,從而降低了法律實施的有效性[16]。從我國現(xiàn)行的實際規(guī)定來看,如2015年的任甲玉與北京百度網(wǎng)訊科技有限公司人格權(quán)糾紛一案(“中國被遺忘權(quán)第一案”)[17],將被遺忘權(quán)引入我國規(guī)定之中很有必要。有學(xué)者就當(dāng)下我國引入“被遺忘權(quán)”的現(xiàn)實要求進(jìn)行分析認(rèn)為:就當(dāng)前我國的法律體系而言,個人信息保護(hù)相關(guān)法規(guī)有所欠缺,“被遺忘權(quán)”的引入有望進(jìn)一步完善我國的法律體系;當(dāng)前我國個人信息泄露問題較為嚴(yán)重,人們的私人生活受到影響,“被遺忘權(quán)”的引入有望改善這一現(xiàn)狀;在我國,“刪帖”行為已成為灰色產(chǎn)業(yè)鏈,“被遺忘權(quán)”的引入一定程度上能抑制此類現(xiàn)象的猖獗[18]。同樣,學(xué)者余筱蘭認(rèn)為,無論是在理論還是實踐層面,信息刪除權(quán)在大數(shù)據(jù)時代的信息保護(hù)立法中都有其必要性。這不僅是人權(quán)保障的需求,也是市場經(jīng)營得以正常維系的需要[19]。同時,被遺忘權(quán)對公民來說,一方面,可以正確塑造個人形象:每個人或許多少都有著一些不愿意再被人知曉的過去,當(dāng)過去已然不符合現(xiàn)在的情況,我們有權(quán)利讓他人遺忘,網(wǎng)絡(luò)空間也應(yīng)該還原當(dāng)下的個人情況,這也更有利于他人接收到更新、更準(zhǔn)確的個人信息。另一方面,有利于保護(hù)個人權(quán)利:人們在使用互聯(lián)網(wǎng)的時候總會或多或少地泄露一部分自己的信息,而當(dāng)這些信息數(shù)據(jù)對信息主體產(chǎn)生負(fù)面影響的時候,個人有權(quán)將其刪除,維護(hù)個人合法利益。因此,無論是從學(xué)界的廣泛熱議還是現(xiàn)實的考量,我國都應(yīng)該引入被遺忘權(quán)。

    (二)被遺忘權(quán)在中國的構(gòu)建路徑

    被遺忘權(quán)的引入應(yīng)當(dāng)考慮該制度的缺陷,在結(jié)合中國實際的基礎(chǔ)上對其調(diào)整對象、權(quán)利內(nèi)容以及責(zé)任承擔(dān)方式進(jìn)行改良。在被遺忘權(quán)的權(quán)利主體方面,個人對有關(guān)自身的信息行使權(quán)利毋庸置疑。在調(diào)整對象方面,需要更新信息概念的定義方法,擴(kuò)大被遺忘權(quán)的客體范圍。在權(quán)利內(nèi)容方面,克服知情同意框架帶來的弊端,對權(quán)利內(nèi)容進(jìn)行風(fēng)險評估的改良。當(dāng)然,被遺忘權(quán)的責(zé)任主體應(yīng)當(dāng)?shù)玫矫鞔_、責(zé)任承擔(dān)方式也應(yīng)當(dāng)進(jìn)行改造。

    1.被遺忘權(quán)調(diào)整對象的優(yōu)化構(gòu)建

    正如前文所述,“識別說”模式下的個人信息定義具有狹隘性,應(yīng)當(dāng)被改造。

    (1)個人信息的重新定義

    個人信息應(yīng)當(dāng)包括與個人有關(guān)聯(lián)的信息和數(shù)據(jù),凡是與個人有關(guān)聯(lián)的信息都應(yīng)當(dāng)納入個人信息的范疇。當(dāng)然,個人信息的列舉式立法可以繼續(xù)保留,但應(yīng)當(dāng)作為參考,而不能賦予其全有或者全無的效力。個人信息不應(yīng)當(dāng)局限于事前的預(yù)先設(shè)置,而應(yīng)當(dāng)以結(jié)果為導(dǎo)向,摒棄“識別說”的禁錮,確立新的動態(tài)定義方式。

    (2)個人信息重新定義的原理及意義

    遺忘權(quán)客體的改造參考了“關(guān)聯(lián)性”學(xué)說的定義方式。個人信息的定義重點應(yīng)當(dāng)從“識別”轉(zhuǎn)向“關(guān)聯(lián)性”?!瓣P(guān)聯(lián)性”信息的定義方式來源于美國。美國聯(lián)邦貿(mào)易委員會(FTC)在回復(fù)電子基金會(EFF)的消費者隱私框架報告中指出:該隱私框架可以適用于“與特定消費者、計算機(jī)或其他設(shè)備合理關(guān)聯(lián)(link)”的數(shù)據(jù)[20]。美國《消費者信息隱私保護(hù)法》也規(guī)定了個人信息“關(guān)聯(lián)性”的定義方式。

    “關(guān)聯(lián)性”學(xué)說的路徑是指先確定某一具體的個人,再以此個人為原點,關(guān)聯(lián)與該個人有關(guān)的信息。能夠關(guān)聯(lián)到特定個人的信息,并不以特殊性為前提,其作用是豐富給定個體的畫像(profile)[13]72。例如,傳統(tǒng)意義上“性別,男”并不能構(gòu)成對個人的識別,但如果將“性別,男”與“李某某”相關(guān)聯(lián)則形成了有關(guān)李某某的個人信息?!瓣P(guān)聯(lián)性”學(xué)說與“識別說”的區(qū)分如圖3所示。

    個人信息的“關(guān)聯(lián)性”學(xué)說可以擴(kuò)大個人信息的范圍,克服“識別”定義方式的滯后性?!瓣P(guān)聯(lián)性”定義方式的做法將個人信息保護(hù)的重點從關(guān)注信息本身轉(zhuǎn)向關(guān)注個人,不要求該信息能夠辨別某一個體。一旦某信息與個人有關(guān),即可認(rèn)定為個人信息。這使得大數(shù)據(jù)背景下,某些看似無法識別個人的瑣碎信息也被納入個人信息的保護(hù)范疇,避免了信息再次識別對人的侵害。另外,只要有關(guān)聯(lián),個人即可行使被遺忘權(quán),哪怕該信息未被利用,也可以提前防范個人信息的侵害,這也使得“識別說”定義方法的滯后弊端得以解決。

    2.被遺忘權(quán)權(quán)利內(nèi)容的改造構(gòu)建

    被遺忘權(quán)權(quán)利內(nèi)容的改造分為以下三檔。

    第一檔:個人信息的刪除請求以具體情景的風(fēng)險評估為準(zhǔn),達(dá)到風(fēng)險標(biāo)準(zhǔn)的敏感信息,數(shù)據(jù)控制者、利用者和處理者應(yīng)當(dāng)著重披露和告知,數(shù)據(jù)主體可以直接請求將信息刪除。

    第二檔:個人信息應(yīng)當(dāng)有具體行業(yè)規(guī)定配套的存儲期限,存儲期限屆滿的個人信息應(yīng)當(dāng)自動刪除。例如,規(guī)定學(xué)前教育行業(yè)收集新生兒信息,應(yīng)當(dāng)在9個月內(nèi)刪除。

    第三檔:超過信息存儲期限未自動刪除的個人信息,可以由信息主體、信息處理者、控制者和收集者協(xié)商付費使用,未達(dá)成使用協(xié)議的可以由信息主體請求刪除或請求公權(quán)力機(jī)關(guān)責(zé)令刪除,或者公權(quán)力機(jī)關(guān)主動責(zé)令刪除。當(dāng)然,還可以在被遺忘權(quán)之外的規(guī)定中制定配套措施,如對達(dá)到風(fēng)險標(biāo)準(zhǔn)的信息還應(yīng)當(dāng)進(jìn)行備案管理,備案機(jī)關(guān)可以就“知情同意”的情況進(jìn)行調(diào)查。

    (1)情景劃分與風(fēng)險評估的設(shè)立

    “情景脈絡(luò)完整性”理論的情景劃分為個人信息保護(hù)提供了藍(lán)本。該理論基于兩個準(zhǔn)則的假設(shè)[21]:人類行為可以歸于不同的場景中;具體的情景可以為發(fā)生于該情景中的行為提供規(guī)范。尼森鮑姆認(rèn)為:“人們的現(xiàn)實生活,它們不僅跨越了二分法,而且在多個不同的領(lǐng)域中來回穿梭。求醫(yī)、拜訪朋友、咨詢精神科醫(yī)生、與律師交談、去銀行、參加宗教儀式、投票以及購物等,每一個領(lǐng)域都涉及到一個獨特的規(guī)范,用來規(guī)范其各個方面?!泵舾卸鹊姆旨壙梢詤⒖寄嵘U姆提出的四個要素:具體的情景脈絡(luò),如報紙的頭版;不同情景中的行為人,如行為者在該情景中的特定身份;信息的屬性,例如信息主體的外觀;信息的傳播方式,例如記者的新聞采訪和傳播。這四則要素為具體情景的劃分提供了基礎(chǔ)。

    “情景脈絡(luò)完整性”理論對“知情同意”框架的部分替代可以提高被遺忘權(quán)的效率。一方面,降低了被遺忘權(quán)低效保護(hù)的成本。對于敏感度不高的信息而言,收集時的知情與同意并不重要,重要的是該信息的利用方式、利用目的和利用場景。另一方面,“情景脈絡(luò)完整性理論”解除了被遺忘權(quán)可能阻礙人工智能產(chǎn)業(yè)的憂慮。當(dāng)下人工智能產(chǎn)業(yè)的發(fā)展需要大量的數(shù)據(jù)和信息支持,新數(shù)據(jù)和信息的收集、過往數(shù)據(jù)和信息的利用是該產(chǎn)業(yè)必不可少的環(huán)節(jié)。2017年,國務(wù)院印發(fā)了《新一代人工智能發(fā)展規(guī)劃》,將人工智能發(fā)展上升到國家戰(zhàn)略高度,構(gòu)筑我國人工智能發(fā)展的先發(fā)優(yōu)勢,加快把建設(shè)創(chuàng)新型國家和世界科技強(qiáng)國提升到國家戰(zhàn)略高度[22]?!扒榫懊}絡(luò)完整性”理論剔除了一般個人信息的“知情同意”的框架,將個人信息的保護(hù)重點由收集轉(zhuǎn)向利用,為個人信息的收集降低了難度和成本。

    盡管敏感等級評估無法避免,但人工智能產(chǎn)業(yè)的發(fā)展本身是對信息的合理利用,而非無限利用,解決好信息隱私與信息開發(fā)利用之間的矛盾是人工智能產(chǎn)業(yè)發(fā)展的重大課題。在以往考慮被遺忘權(quán)時,其是建立在“知情同意”的前提下,收集信息要求信息主體的同意,在不同意或“假同意”的情形下,信息主體還要承擔(dān)被遺忘權(quán)的請求。“情景脈絡(luò)完整性”理論使得被遺忘權(quán)影響產(chǎn)業(yè)發(fā)展的顧慮得以消除。風(fēng)險評估的一般標(biāo)準(zhǔn)和具體標(biāo)準(zhǔn)為不同情景下的個人信息風(fēng)險提供了評估方法。美國學(xué)者提出的信息隱私侵害的判斷方法可以為風(fēng)險評估提供一般標(biāo)準(zhǔn)。對于每個侵犯信息隱私權(quán)的案件而言,都可以按順序?qū)σ韵氯齻€問題進(jìn)行回答。

    第一步:算法分析結(jié)果是否超出了信息主體的預(yù)期?如果超出預(yù)期,則進(jìn)入第二步;如果沒有超出預(yù)期,則視為該分析結(jié)果風(fēng)險可接受。

    第二步:該算法分析的結(jié)果是否比原信息的敏感度更大?如果更敏感,則進(jìn)入第三步;如果不敏感,則該分析結(jié)果風(fēng)險可接受。

    第三步:該算法分析的結(jié)果是否符合具體的情景脈絡(luò)?如果符合,則風(fēng)險評估可接受;如果不符合,風(fēng)險評估不可接受[23]。

    具體情景下的風(fēng)險評估標(biāo)準(zhǔn)依賴于信息敏感度分級制度的建立。在信息敏感度分級的制度中,敏感度越高對公民的傷害可能越大,反之,則越小[24]17。國內(nèi)有學(xué)者針對公共部門的服務(wù)門類,為具體的個人信息評估劃分了敏感等級[24]95,例如,體育、教育和衛(wèi)生等公用部門的個人信息敏感度劃分,各種商業(yè)服務(wù)情景下的個人信息也應(yīng)當(dāng)進(jìn)行敏感度評估。

    (2)個人信息付費使用機(jī)制的建設(shè)

    盡管弱人工智能的興起并沒有取代人類,但大量失業(yè)的焦慮卻并不能令人釋懷,收入分配的差距也令底層大眾焦躁不安。當(dāng)數(shù)據(jù)被視為資本時,資本為公司提供利潤,并激勵公司的創(chuàng)新和發(fā)展;當(dāng)數(shù)據(jù)被視為勞動時,則有助于數(shù)據(jù)的高質(zhì)量產(chǎn)出。高質(zhì)量的數(shù)據(jù)才是人工智能發(fā)展的優(yōu)秀能源。雖然數(shù)據(jù)的性質(zhì)為何仍然在探索中,但為數(shù)據(jù)付費完全可以作為可選擇的方案。信息的付費使用也有助于篩選真正的信息需求者。經(jīng)濟(jì)學(xué)的研究表明,人們“為權(quán)利而斗爭”并不是為了真善美,而是為了各自的利益[25]。成本的比較和核算是人的本性,信息的付費使用,要求信息利用者負(fù)擔(dān)成本,這有助于將粗放經(jīng)營者排除于市場之外,提高信息服務(wù)的質(zhì)量。

    (3)個人信息存儲期限的確立

    被遺忘權(quán)誕生之時,本身便自帶“遺忘”屬性。舍恩伯格認(rèn)為遺忘期限為9個月。但對于該期限而言,應(yīng)當(dāng)結(jié)合民眾意愿和技術(shù)需要進(jìn)行分類規(guī)定。增添信息存儲期限的原因如下:一方面,人會遺忘的天性與存儲器永久“記憶”具有必然的矛盾,個體永遠(yuǎn)無法保障敏感的信息完全被清理,規(guī)定數(shù)據(jù)存儲期限由數(shù)據(jù)主體進(jìn)行選擇是一項事前防范的良好措施,既為數(shù)據(jù)收集者提供了收集時間,也為數(shù)據(jù)主體提供了事前防范;另一方面,與個體請求刪除相比,按照到達(dá)存儲期限的方式刪除個人數(shù)據(jù)效率更高,覆蓋面更大。前者是個別鏈接和遺漏信息的刪除,后者則是批量化操作。此外,規(guī)定存儲期限還具有“兜底性”的特征。為信息設(shè)定存儲期限,既可以為企業(yè)提供信息利用的期限,也可以倒逼企業(yè)提高效率改良算法,從而提高競爭力。這樣,既為個人信息的保護(hù)提供了屏障,也為企業(yè)個人信息的利用留下了空間。

    3.被遺忘權(quán)責(zé)任承擔(dān)的明確構(gòu)建

    (1)被遺忘權(quán)責(zé)任主體的明確

    被遺忘權(quán)的責(zé)任主體包括信息控制者、信息利用者、信息處理者以及敏感度等級較高的信息收集者。

    首先,岡薩雷斯訴西班牙數(shù)據(jù)保護(hù)局案的判例表明,搜索引擎是被遺忘權(quán)的責(zé)任承擔(dān)者,但并非責(zé)任承擔(dān)者僅局限于搜索引擎。按照GDPR的規(guī)定,被遺忘權(quán)的行使對象包括部分收集者以及其余階段的數(shù)據(jù)責(zé)任主體。數(shù)據(jù)控制者、處理者和數(shù)據(jù)利用者三者可以互相轉(zhuǎn)化,也有不同的表現(xiàn)形式。搜索引擎既可以是數(shù)據(jù)利用者,進(jìn)行信息的傳達(dá)和呈現(xiàn),也可以是數(shù)據(jù)收集和控制者,收集和控制信息以分析市場和優(yōu)化服務(wù)。

    其次,認(rèn)為被遺忘權(quán)的責(zé)任主體僅僅包括搜索引擎的觀點,是對信息流轉(zhuǎn)的靜態(tài)看待,也是對互聯(lián)網(wǎng)企業(yè)業(yè)務(wù)的孤立分析。對責(zé)任主體名稱進(jìn)行劃分,并非靜態(tài)區(qū)別責(zé)任主體的種類,某種程度上說,信息控制者、信息利用者和信息處理者的角色可以由同一責(zé)任主體在信息加工過程中的不同階段分別扮演。因此,如果過度地將精力投入于明確信息控制者、信息利用者和信息處理者的界限之上,便會有本末倒置的嫌疑。

    最后,“情景脈絡(luò)完整性”理論并非要完全排除“知情同意”框架。針對高度敏感的個人信息,就“知情同意”的架構(gòu)進(jìn)行著重設(shè)計,對個人進(jìn)行科學(xué)的提醒,使得其知情并同意個人信息的利用,也具有一定的可實行性。“知情同意”架構(gòu)的失靈很大程度上來源于信息隱私的模糊、復(fù)雜和應(yīng)用廣泛的特點[26]。如果將隱私協(xié)議的數(shù)量縮減在高度敏感個人信息的收集范疇中,可以期待更高效的隱私協(xié)議設(shè)計。前述Junger,Marianne和Lorena Montoya的實驗結(jié)果中,郵箱賬號(b)也證明了這一點。

    對被遺忘權(quán)權(quán)利內(nèi)容的改造,最主要的是運用“情景脈絡(luò)完整性”理論對“知情同意”的改造。當(dāng)然,被遺忘權(quán)中刪除為兒童社會信息服務(wù)而收集的信息以及刪除不同意收集之外的非法信息也應(yīng)當(dāng)?shù)玫奖A簟?/p>

    (2)刪除責(zé)任的承擔(dān)原則

    明確誰利用誰刪除、誰獲益誰刪除的刪除原則,還要與信息行為發(fā)生的時間階段相聯(lián)系。這是由信息收集者同時又可能是信息處理者和控制者的特征決定的。在信息刪除糾紛中,不必過于精準(zhǔn)劃分信息責(zé)任主體的過錯,轉(zhuǎn)而運用誰受益誰擔(dān)責(zé)的方式,既可以節(jié)約判斷成本,也能夠起到信息保護(hù)的作用。這實際上是利用市場的淘汰機(jī)制進(jìn)行信息保護(hù)。如果信息收集者違規(guī)操作獲得信息但并未被發(fā)現(xiàn),這一信息流通后,信息利用者在不知情的情形下進(jìn)行了利用,此時不必確認(rèn)過錯的歸屬,而應(yīng)當(dāng)按照誰受益誰負(fù)責(zé)的直接標(biāo)準(zhǔn)進(jìn)行責(zé)任劃分,由信息利用者承擔(dān)責(zé)任。信息利用者可以根據(jù)違約責(zé)任向信息收集者追究損失的補償。在市場環(huán)境中,違約而被追究責(zé)任的企業(yè)往往不能在競爭中勝出,這便會倒逼信息收集者尋找更優(yōu)秀的信息資源,也會倒逼信息利用者和控制者尋找具有更高信用度的商業(yè)伙伴,遵循對信息的合規(guī)要求,從而減少損害的發(fā)生,節(jié)約爭議解決成本。

    (3)明確刪除內(nèi)容的限度

    被遺忘權(quán)引起爭執(zhí)的一大緣故在于,互聯(lián)網(wǎng)環(huán)境中不論是鏈接、數(shù)據(jù)還是個人信息,要徹底將其刪除存在很大的技術(shù)難度并需要一定的成本。除此之外,本地化的數(shù)據(jù)還可能導(dǎo)致已經(jīng)刪除的內(nèi)容再度被上傳網(wǎng)絡(luò)并造成一定影響。這一觀點看似很有道理,但并未深窺個人信息保護(hù)的內(nèi)核。對于個人信息的保護(hù),其本質(zhì)上是先對個人信息形成控制,再以控制手段保護(hù)其背后的個人尊嚴(yán)等。在美國,信息隱私的主導(dǎo)范式是隱私控制論 ( Privacy-control),即對個人數(shù)據(jù)使用的控制權(quán)[27]??刂撇坏扔趧h除,就被遺忘權(quán)而言,其刪除是手段而遺忘是目的。對于整個人類而言,遺忘也并非一瞬間可以達(dá)成,而需要時間的消磨。

    因此,被遺忘權(quán)并不是任意刪除,也不是對個人信息、人生痕跡的任意涂改或掩過飾非,而是通過糾正網(wǎng)絡(luò)時代的信息泛濫、過度便利和價值背離,保障每個人的人格得以自由發(fā)展,而不是生活在過往的陰影之中[28]。刪除手段只是對個人信息形成控制的手段,控制的結(jié)果可以是完全控制、部分控制和控制失敗。在整個人類的信息體系中,徹底刪除一條信息固然無法想象,但法律或法規(guī)明確在恰當(dāng)場景中不允許或暫時性刪除某類信息卻確實可以實現(xiàn)。比如,可以規(guī)定基因信息不允許出現(xiàn)在日訪客流量500萬以上的網(wǎng)頁中。這便對個人信息的曝光度形成了控制,刪除的目標(biāo)也便有了更精準(zhǔn)的檢索范圍。

    (4)刪除算法應(yīng)用的必要性和可行性

    允許信息主體使用刪除算法或允許其委托第三方使用刪除算法有如下理由。

    首先,刪除算法的應(yīng)用具有現(xiàn)實必要性。個人信息隱私在大數(shù)據(jù)時代面臨兩種威脅:其一,個人無力阻止未經(jīng)授權(quán)的信息傳播;其二,個人被排除在個人信息商業(yè)流轉(zhuǎn)的進(jìn)程之外。換言之,依靠個人時刻監(jiān)督和警惕其個人信息被收集和利用的方法成本過高。但算法可以做到為個人提供信息保護(hù)的服務(wù),刪除算法只是手段之一。相對于個人與科技巨頭的信息隱私保護(hù)斗爭而言,運用刪除算法的助力使得信息隱私保護(hù)成為可能,既降低了隱私保護(hù)的成本,也有助于培育新時代的信息隱私觀念。

    其次,刪除算法的利用具有法學(xué)可行性。算法并非一種價值中立的科學(xué)活動,它總是蘊含著價值判斷,與特定的立場相關(guān)[29]。刪除算法的背后是被遺忘權(quán)的價值選擇,是達(dá)成被遺忘權(quán)目的的工具。刪除算法可以達(dá)到符合人類價值觀、個人隱私、隱私與自由等阿西洛馬原則所強(qiáng)調(diào)的要求。Lawrence Lessig提出法律與代碼之間的三種關(guān)系:法律馴服代碼、代碼代替法律、法律規(guī)制代碼。應(yīng)用刪除算法既是被遺忘權(quán)之法律規(guī)定對代碼的馴服,也是代碼對法律的規(guī)制。賦予個人對信息的刪除權(quán)和信息的自動刪除義務(wù),便改變了代碼的分布。刪除算法的應(yīng)用也改變了法律的運行,在個體無法使用算法之前,刪除的權(quán)力掌握在信息控制者和利用者手中,刪除成本高且難度大。刪除算法作為代碼運行的另一種方法,使得刪除的效率得以提高而成本卻有所下降,使被遺忘權(quán)真正發(fā)揮保障信息的功效。

    最后,刪除算法的利用具有技術(shù)可行性。當(dāng)下,互聯(lián)網(wǎng)市場已經(jīng)出現(xiàn)成熟的反個人信息收集的混淆算法,通過在搜索引擎鍵入的關(guān)鍵詞里插入無關(guān)字符,以達(dá)到混淆關(guān)鍵詞的目的?;煜惴ㄊ鞘虑胺纻鋫€人信息被不當(dāng)收集的技術(shù),刪除算法則相反,是事后擦除個人信息的技術(shù)。借助技術(shù)手段達(dá)到權(quán)利目的可能更有效。

    被遺忘權(quán)的提出代表了進(jìn)一步擴(kuò)張個人數(shù)據(jù)權(quán)利的傾向,這一傾向是在互聯(lián)網(wǎng)尤其是社交網(wǎng)絡(luò)急劇發(fā)展的背景下出現(xiàn)的[30]。被遺忘權(quán)的權(quán)利改造要關(guān)注被遺忘權(quán)本身,它涉及個人信息的其他制度,是牽一發(fā)而動全身的工作。其制度改造與技術(shù)利用需要同步進(jìn)行,以合理制度搭載技術(shù)之翼可能更易于提高制度的社會效果。

    五、結(jié) 語

    在信息時代,“記憶”已經(jīng)取代“遺忘”成為網(wǎng)絡(luò)空間的規(guī)范與常態(tài),網(wǎng)絡(luò)空間的“雁過留聲”使人們很難逃離自己的過去[31]。在對待被遺忘權(quán)的態(tài)度上,歐美因不同的信息隱私和歷史觀念而截然不同。歐盟選擇了被遺忘權(quán),而美國選擇了言論自由。歐美差異選擇的理由啟示我國在引入被遺忘權(quán)時,應(yīng)當(dāng)結(jié)合具體的價值觀念、經(jīng)濟(jì)成本、信息保護(hù)需求和法律體系,改造被遺忘權(quán)成為必要。通過“關(guān)聯(lián)性”學(xué)說對個人信息進(jìn)行優(yōu)化構(gòu)建,利用“情景脈絡(luò)完整性”理論對“知情同意”框架的部分變革可以為被遺忘權(quán)的引入打好理論基礎(chǔ)。被遺忘權(quán)的刪除責(zé)任以及違規(guī)責(zé)任應(yīng)當(dāng)在法條中予以明確。同時,被遺忘權(quán)還可以借助算法的技術(shù)力量,并在刪除之外擴(kuò)展其遺忘功效。當(dāng)然,依照“情景脈絡(luò)完整性”理論需要制定各行業(yè)不同的信息規(guī)范,以滿足動態(tài)評估信息收集和利用風(fēng)險的大小,并制定具體行業(yè)存儲期限的長短,這些需要大量的數(shù)據(jù)支持和行業(yè)實踐,并非一日之寒。當(dāng)個人信息的隱私行將遠(yuǎn)去,被遺忘權(quán)之探索仍然任重道遠(yuǎn),前路蹉跎,砥礪前行。

    參考文獻(xiàn):

    [1] 伍艷.論網(wǎng)絡(luò)信息時代的“被遺忘權(quán)”——以歐盟個人數(shù)據(jù)保護(hù)改革為視角[J].圖書館理論與實踐,2013(11):4.

    [2] 鄭曦.個人信息保護(hù)視角下的刑事被遺忘權(quán)對應(yīng)義務(wù)研究[J].浙江工商大學(xué)學(xué)報,2019(1):46.

    [3] 維克托·邁爾-舍恩伯格.刪除:大數(shù)據(jù)取舍之道[M].袁杰,譯.杭州:浙江人民出版社,2013:19.

    [4] 劉學(xué)濤.大數(shù)據(jù)時代個人信息的行政法保護(hù)分析:內(nèi)涵、困境與路徑選擇[J].南京郵電大學(xué)學(xué)報(社會科學(xué)版),2018(6):27.

    [5] 張新寶.隱私權(quán)的法律保護(hù)[M].北京:群眾出版社,1998:157.

    [6] WHITMAN J Q. The Two Western Cultures of Privacy: Dignity Versus Liberty[J].Yale Law Journal,2004(6):1161.

    [7] WHITMAN J Q. Enforcing Civility and Respect:Three Societies Enforcing Civility and Respect[J].Yale Law Journal,2000(6):1297.

    [8] DOWNWELL J W.An American Right to be Forgotten[J].Tulsa Law Review,2017(2):331.

    [9] 齊愛民.個人信息保護(hù)法研究[J].河北法學(xué),2008(4):15.

    [10]王利明.論個人信息權(quán)的法律保護(hù)——以個人信息權(quán)與隱私權(quán)的界分為中心[J].現(xiàn)代法學(xué),2013(7):64.

    [11]劉德良.個人信息的財產(chǎn)權(quán)保護(hù)[J].法學(xué)研究,2007(3):80.

    [12]劉學(xué)濤.個人數(shù)據(jù)保護(hù)的法治難題與治理路徑探析[J].科技與法律,2019(2):21.

    [13]范為.大數(shù)據(jù)時代個人信息定義再審視[J].信息安全與通信保密,2016(10).

    [14]范為.大數(shù)據(jù)時代個人信息保護(hù)的路徑重構(gòu)[J].環(huán)球法律評論,2016(5):94.

    [15]MARIANNE J, MONTOYA L, OVERINK F-J. Priming and warnings are not effective to prevent social engineering attacks[J].Computers in Human Behavior, 2017(66).

    [16]何治樂,黃道麗.大數(shù)據(jù)環(huán)境下我國被遺忘權(quán)之立法構(gòu)建——歐盟《一般數(shù)據(jù)保護(hù)條例》被遺忘權(quán)之借鑒[J].網(wǎng)絡(luò)安全技術(shù)與應(yīng)用,2014(5):173.

    [17]楊杰.被遺忘權(quán)的明晰及本土化探究[J].重慶郵電大學(xué)學(xué)報(社會科學(xué)版),2018(4):73.

    [18]郭小安,雷閃閃.“數(shù)據(jù)被遺忘權(quán)”實施困境與我國的應(yīng)對策略[J].理論探索,2016(6):111-112.

    [19]余筱蘭.民法典編纂視角下信息刪除權(quán)建構(gòu)[J].政治與法律,2018(4):27.

    [20]Protecting Consumer Privacy In An Era Of Rapid Chan-

    ge: A Propesed Frame Work For Business And Policymakers (Preliminary Staff Report) Response Of The Electronic FrontierFoundation[EB/OL].[2018-12-22].https://www.eff.org/files/ftccommentseff.pdf.

    [21]NISSENBAUM H. Privacy as Contextual Integrity[J]. Wshington Law Review,2004(6):102.

    [22]新一代人工智能發(fā)展規(guī)劃[EB/OL].(2017-07-20)[2019-01-15].http://www.gov.cn/zhengce/content/2017-07/20/content_52116.htm.

    [23]Pan S B. Get to Know Me: Protecting Privacy and Autonomy under Big Datas Penetrating Gaze[J]. Harvard Journal of Law & Technology,2016(30):259.

    [24]劉雅琦.基于敏感度分級的個人信息開發(fā)利用保障體系研究[M].武漢:武漢大學(xué)出版社,2015.

    [25]馮玉軍.法律與經(jīng)濟(jì)推理——尋求中國問題的解決[M].北京:經(jīng)濟(jì)科學(xué)出版社,2008:32.

    [26]BEN-SHAHAR O, CHILTON A. Simplification of Privacy Disclosures: An Experimental Test[J].Journal of Legal Studies,2016(45):45.

    [27]高富平.個人信息保護(hù):從個人控制到社會控制[J].法學(xué)研究,2018(3):91.

    [28]滿洪杰.被遺忘權(quán)的解析與構(gòu)建:作為網(wǎng)絡(luò)時代信息價值糾偏機(jī)制的研究[J].法制與社會發(fā)展,2018(2):217.

    [29]丁曉東.算法與歧視——從美國教育平權(quán)案看算法倫理與法律解釋[J].中外法學(xué),2017(6):1622.

    [30]劉文杰.被遺忘權(quán):傳統(tǒng)元素、新語境與利益衡量[J].法學(xué)研究,2018(2):40.

    [31]范為.由Google Spain案論“被遺忘權(quán)”的法律適用——以歐盟數(shù)據(jù)保護(hù)指令(95/46/EC)為中心[J].網(wǎng)絡(luò)法律評論,2013(2):267.

    Abstract:China in the data age faces a series of major problems such as personal information infringement, personal privacy disclosure, and algorithmic discrimination. The right to be forgotten should be established with the aim of protecting the rights of information subjects. The right to be forgotten in Europe and the United States is reflected in the conflict between privacy and freedom. The importance of this theory to the needs of countries is that the right to be deleted in Chinas existing legal system cannot be equated with the forgotten right established by the EU. The current right to be forgotten faces the development dilemma of setting defects of adjustment objects, setting deviations of rights content, and insufficient setting of responsible subjects. The heated discussion and practical needs of scholars indicate to a certain extent that China should introduce the right to be forgotten, and that chinas path choice should be set up from the optimization construction of adjustment objects, the reconstruction of rights content, and the construction of responsibility, so as to solve the new challenges brought by the development of network information society.

    Keywords:forgotten right; deletion right; contextual integrity; deletion algorithm

    (編輯:劉仲秋)

    猜你喜歡
    被遺忘權(quán)
    大數(shù)據(jù)時代的刑事領(lǐng)域被遺忘權(quán)
    互聯(lián)網(wǎng)環(huán)境下個人信息“被遺忘權(quán)”問題探討
    互聯(lián)網(wǎng)時代公民被遺忘權(quán)及其法制保障
    大數(shù)據(jù)時代的被遺忘權(quán)探析
    以法理之眼凝視生活
    從網(wǎng)絡(luò)空間個人隱私規(guī)制角度淺析被遺忘權(quán)
    今傳媒(2017年5期)2017-06-02 10:26:48
    淺議“被遺忘權(quán)”法律治理路徑的選擇
    法制與社會(2017年4期)2017-03-01 21:52:52
    搜索引擎:我要“被遺忘權(quán)”
    論數(shù)字時代個人信息的“被遺忘權(quán)”
    我要“被遺忘權(quán)”
    五月天丁香电影| 蜜桃在线观看..| 欧美变态另类bdsm刘玥| 大话2 男鬼变身卡| 国产极品粉嫩免费观看在线| av卡一久久| 99热6这里只有精品| 高清在线视频一区二区三区| 国产精品.久久久| 视频在线观看一区二区三区| av又黄又爽大尺度在线免费看| xxxhd国产人妻xxx| 中文字幕免费在线视频6| 亚洲欧美成人精品一区二区| 日本av免费视频播放| 亚洲精品国产色婷婷电影| 精品一区二区三区视频在线| 国产日韩欧美在线精品| 国产福利在线免费观看视频| 婷婷色综合大香蕉| 国产一区二区在线观看日韩| 91精品三级在线观看| 国产日韩欧美在线精品| 性色av一级| 国产 精品1| 精品卡一卡二卡四卡免费| 久久久久久久精品精品| 国产免费视频播放在线视频| 春色校园在线视频观看| 水蜜桃什么品种好| 精品一区二区三区视频在线| 最近2019中文字幕mv第一页| 人妻少妇偷人精品九色| 夜夜骑夜夜射夜夜干| 国产精品一区www在线观看| 国产片特级美女逼逼视频| 色婷婷久久久亚洲欧美| 国产老妇伦熟女老妇高清| 久久人人爽人人片av| 欧美 亚洲 国产 日韩一| 99久国产av精品国产电影| 又黄又粗又硬又大视频| 热re99久久国产66热| √禁漫天堂资源中文www| 久久综合国产亚洲精品| 99久国产av精品国产电影| 2018国产大陆天天弄谢| 精品亚洲乱码少妇综合久久| 97超碰精品成人国产| 亚洲国产精品一区二区三区在线| 黄色一级大片看看| av在线观看视频网站免费| 十分钟在线观看高清视频www| 国精品久久久久久国模美| 久久久久国产精品人妻一区二区| 女人被躁到高潮嗷嗷叫费观| 久久精品熟女亚洲av麻豆精品| 国产探花极品一区二区| 午夜福利视频在线观看免费| videosex国产| 午夜福利网站1000一区二区三区| 午夜日本视频在线| 午夜日本视频在线| 男人操女人黄网站| 国产精品秋霞免费鲁丝片| 精品一区二区免费观看| www.色视频.com| 久久久精品94久久精品| 精品少妇久久久久久888优播| 高清不卡的av网站| 女性被躁到高潮视频| 韩国高清视频一区二区三区| 秋霞在线观看毛片| 伊人久久国产一区二区| 人妻 亚洲 视频| 成人亚洲精品一区在线观看| 日韩一本色道免费dvd| 26uuu在线亚洲综合色| 少妇的丰满在线观看| 久久久精品94久久精品| 老司机亚洲免费影院| 黑人巨大精品欧美一区二区蜜桃 | 国产精品久久久久久精品古装| 久久精品久久久久久噜噜老黄| 成人国语在线视频| www.熟女人妻精品国产 | 在线精品无人区一区二区三| 亚洲第一区二区三区不卡| 男女边摸边吃奶| 日本vs欧美在线观看视频| 久久人人爽av亚洲精品天堂| 国产精品久久久久久精品电影小说| 亚洲av在线观看美女高潮| 熟女av电影| 亚洲欧美一区二区三区黑人 | 一边亲一边摸免费视频| 久久韩国三级中文字幕| 黄网站色视频无遮挡免费观看| tube8黄色片| 伦理电影大哥的女人| 91国产中文字幕| xxx大片免费视频| 18禁在线无遮挡免费观看视频| 嫩草影院入口| 99热这里只有是精品在线观看| 夜夜爽夜夜爽视频| 国产av精品麻豆| 观看av在线不卡| 成人18禁高潮啪啪吃奶动态图| 大香蕉97超碰在线| 九九爱精品视频在线观看| 极品少妇高潮喷水抽搐| 国产成人精品福利久久| 大香蕉久久成人网| 精品久久国产蜜桃| 中文字幕精品免费在线观看视频 | 色婷婷av一区二区三区视频| 国精品久久久久久国模美| 少妇熟女欧美另类| 国产精品久久久av美女十八| 国产探花极品一区二区| 成人手机av| 多毛熟女@视频| 男人爽女人下面视频在线观看| av线在线观看网站| 国产精品不卡视频一区二区| 亚洲av欧美aⅴ国产| 国产精品国产三级专区第一集| 亚洲第一区二区三区不卡| 亚洲人成77777在线视频| 免费看光身美女| 永久网站在线| 国产一区二区在线观看日韩| 777米奇影视久久| 久久人人爽人人爽人人片va| 久久热在线av| 亚洲四区av| 女人被躁到高潮嗷嗷叫费观| 一区二区日韩欧美中文字幕 | www.色视频.com| 久久久久人妻精品一区果冻| 精品久久久精品久久久| 国产日韩欧美视频二区| 亚洲少妇的诱惑av| 欧美老熟妇乱子伦牲交| 久久人妻熟女aⅴ| 欧美日韩视频精品一区| 中文精品一卡2卡3卡4更新| 我要看黄色一级片免费的| 内地一区二区视频在线| av黄色大香蕉| 日韩成人av中文字幕在线观看| av免费观看日本| 日日撸夜夜添| 久久综合国产亚洲精品| 欧美人与性动交α欧美软件 | 五月开心婷婷网| 久久99精品国语久久久| 国产精品国产三级国产av玫瑰| 国产精品一区二区在线不卡| 丰满少妇做爰视频| 亚洲成人一二三区av| 巨乳人妻的诱惑在线观看| 成人亚洲精品一区在线观看| 免费人妻精品一区二区三区视频| 日韩中文字幕视频在线看片| 亚洲高清免费不卡视频| 免费日韩欧美在线观看| 免费黄网站久久成人精品| 亚洲精品美女久久av网站| 国产熟女午夜一区二区三区| 看免费av毛片| 熟女人妻精品中文字幕| 亚洲av电影在线观看一区二区三区| 欧美 亚洲 国产 日韩一| 日韩精品免费视频一区二区三区 | 中文精品一卡2卡3卡4更新| 亚洲精品日本国产第一区| 国产日韩欧美亚洲二区| 欧美日韩一区二区视频在线观看视频在线| 五月玫瑰六月丁香| 男女边摸边吃奶| 久久ye,这里只有精品| 婷婷成人精品国产| 国产成人精品在线电影| 桃花免费在线播放| 2021少妇久久久久久久久久久| 秋霞伦理黄片| 国产极品天堂在线| 久久97久久精品| 久久人人97超碰香蕉20202| av视频免费观看在线观看| 免费高清在线观看视频在线观看| av一本久久久久| 美女福利国产在线| 久热久热在线精品观看| 赤兔流量卡办理| 国产白丝娇喘喷水9色精品| 国产 一区精品| 少妇的逼好多水| 亚洲婷婷狠狠爱综合网| 国产亚洲一区二区精品| 久久狼人影院| 欧美xxⅹ黑人| 十分钟在线观看高清视频www| 国产免费一区二区三区四区乱码| 内地一区二区视频在线| 亚洲成色77777| 69精品国产乱码久久久| 欧美精品av麻豆av| 最近2019中文字幕mv第一页| 欧美97在线视频| 国产极品天堂在线| 校园人妻丝袜中文字幕| 18禁观看日本| 十八禁网站网址无遮挡| 久热这里只有精品99| 久久久欧美国产精品| 哪个播放器可以免费观看大片| 色视频在线一区二区三区| 亚洲综合精品二区| 久久久国产欧美日韩av| 亚洲av中文av极速乱| 中文字幕av电影在线播放| 免费黄频网站在线观看国产| 母亲3免费完整高清在线观看 | 91国产中文字幕| 久久韩国三级中文字幕| 亚洲国产毛片av蜜桃av| 男的添女的下面高潮视频| 久久午夜综合久久蜜桃| 男人舔女人的私密视频| 色94色欧美一区二区| 亚洲欧美成人综合另类久久久| 男男h啪啪无遮挡| 18禁动态无遮挡网站| 赤兔流量卡办理| 午夜日本视频在线| 国产高清国产精品国产三级| 啦啦啦啦在线视频资源| 欧美人与善性xxx| 日本色播在线视频| 久久国产亚洲av麻豆专区| 久久人人97超碰香蕉20202| 免费大片黄手机在线观看| 五月伊人婷婷丁香| 91精品国产国语对白视频| 丝瓜视频免费看黄片| 人体艺术视频欧美日本| 国产成人精品婷婷| 水蜜桃什么品种好| 宅男免费午夜| 成人黄色视频免费在线看| 久久久久久久精品精品| 丝瓜视频免费看黄片| 大陆偷拍与自拍| av又黄又爽大尺度在线免费看| 国产 精品1| 欧美激情国产日韩精品一区| av福利片在线| 亚洲高清免费不卡视频| 熟妇人妻不卡中文字幕| 看十八女毛片水多多多| 男人操女人黄网站| 午夜91福利影院| tube8黄色片| 精品人妻偷拍中文字幕| 多毛熟女@视频| 性色av一级| 国产在线免费精品| 日韩大片免费观看网站| 国产免费一区二区三区四区乱码| 国产色爽女视频免费观看| av网站免费在线观看视频| 国产日韩一区二区三区精品不卡| 丝袜在线中文字幕| av有码第一页| 18禁裸乳无遮挡动漫免费视频| 久久久久精品性色| 国产午夜精品一二区理论片| 日本av免费视频播放| 91精品伊人久久大香线蕉| 在线观看一区二区三区激情| 久久免费观看电影| 王馨瑶露胸无遮挡在线观看| 欧美激情极品国产一区二区三区 | 久久久久精品人妻al黑| 在线观看美女被高潮喷水网站| 美女中出高潮动态图| 国产麻豆69| 另类精品久久| 亚洲精品乱码久久久久久按摩| 夜夜骑夜夜射夜夜干| 国产白丝娇喘喷水9色精品| 人人澡人人妻人| 两个人免费观看高清视频| 99久久中文字幕三级久久日本| 18禁动态无遮挡网站| 亚洲精品,欧美精品| 欧美精品亚洲一区二区| 久久99一区二区三区| 久久午夜福利片| 久久精品国产亚洲av涩爱| 欧美精品av麻豆av| 国产精品人妻久久久久久| 久久久国产一区二区| av在线app专区| 观看av在线不卡| 韩国高清视频一区二区三区| 在线观看免费日韩欧美大片| 久久久精品区二区三区| 大香蕉久久成人网| 热re99久久精品国产66热6| 久久久亚洲精品成人影院| 女性被躁到高潮视频| 国产熟女欧美一区二区| 国产免费一区二区三区四区乱码| 夫妻性生交免费视频一级片| 国产免费一区二区三区四区乱码| 久久国产精品大桥未久av| 啦啦啦视频在线资源免费观看| 国产精品不卡视频一区二区| 成人漫画全彩无遮挡| 少妇被粗大的猛进出69影院 | 成年av动漫网址| 一区在线观看完整版| 韩国高清视频一区二区三区| 街头女战士在线观看网站| 一二三四在线观看免费中文在 | 美女福利国产在线| 久久女婷五月综合色啪小说| 99九九在线精品视频| videosex国产| 亚洲欧美日韩卡通动漫| 黄色一级大片看看| 中国美白少妇内射xxxbb| 国产极品粉嫩免费观看在线| 日韩制服丝袜自拍偷拍| 少妇被粗大猛烈的视频| 欧美成人午夜免费资源| 菩萨蛮人人尽说江南好唐韦庄| 亚洲精品国产av蜜桃| 91国产中文字幕| 99热这里只有是精品在线观看| 午夜日本视频在线| a 毛片基地| 亚洲一码二码三码区别大吗| 午夜激情av网站| 男女免费视频国产| 亚洲欧美中文字幕日韩二区| 91午夜精品亚洲一区二区三区| 水蜜桃什么品种好| 亚洲av国产av综合av卡| 人妻少妇偷人精品九色| 国产永久视频网站| 久久精品夜色国产| 超色免费av| 日韩一区二区三区影片| 欧美亚洲 丝袜 人妻 在线| 少妇人妻精品综合一区二区| 在线观看免费日韩欧美大片| 亚洲精品456在线播放app| 香蕉国产在线看| 国产69精品久久久久777片| 国产精品偷伦视频观看了| 三级国产精品片| 久久99精品国语久久久| 热re99久久精品国产66热6| 国产黄频视频在线观看| 婷婷成人精品国产| 最新中文字幕久久久久| 久久精品国产鲁丝片午夜精品| 成人国产麻豆网| 中文字幕免费在线视频6| 最新中文字幕久久久久| 97在线人人人人妻| 在线观看三级黄色| 精品一品国产午夜福利视频| 激情五月婷婷亚洲| a级片在线免费高清观看视频| av一本久久久久| 国产成人午夜福利电影在线观看| 久久人人爽av亚洲精品天堂| 看免费成人av毛片| 美女内射精品一级片tv| av.在线天堂| 日本欧美国产在线视频| 久久久久久久久久久久大奶| 亚洲精品第二区| 亚洲精品视频女| 欧美成人午夜精品| 观看av在线不卡| 成年av动漫网址| 菩萨蛮人人尽说江南好唐韦庄| 十八禁高潮呻吟视频| 我的女老师完整版在线观看| 久久狼人影院| 在线观看国产h片| a级片在线免费高清观看视频| 久久人人爽av亚洲精品天堂| 女性生殖器流出的白浆| 亚洲欧美清纯卡通| 成人毛片60女人毛片免费| 精品一区二区三区视频在线| 18在线观看网站| 性色av一级| 观看av在线不卡| 高清毛片免费看| 亚洲av男天堂| 欧美97在线视频| 一级毛片电影观看| 精品人妻熟女毛片av久久网站| 看免费av毛片| 精品国产一区二区三区久久久樱花| 欧美人与性动交α欧美软件 | 美女视频免费永久观看网站| 国产麻豆69| 一个人免费看片子| 亚洲欧洲日产国产| 日韩成人伦理影院| 啦啦啦视频在线资源免费观看| 亚洲人成77777在线视频| 又黄又粗又硬又大视频| 天天躁夜夜躁狠狠久久av| 人妻系列 视频| 哪个播放器可以免费观看大片| 熟妇人妻不卡中文字幕| av又黄又爽大尺度在线免费看| 亚洲精品久久成人aⅴ小说| av天堂久久9| 欧美+日韩+精品| 免费观看性生交大片5| 伦理电影大哥的女人| 一区二区三区乱码不卡18| 成年美女黄网站色视频大全免费| 侵犯人妻中文字幕一二三四区| 久久99精品国语久久久| 自线自在国产av| 一本—道久久a久久精品蜜桃钙片| 99久久人妻综合| 日韩中字成人| 国产无遮挡羞羞视频在线观看| 国产福利在线免费观看视频| 男男h啪啪无遮挡| 国产成人精品福利久久| 国产亚洲最大av| 人妻 亚洲 视频| 激情五月婷婷亚洲| 国产淫语在线视频| 亚洲内射少妇av| 成年动漫av网址| 国产亚洲午夜精品一区二区久久| 一区二区日韩欧美中文字幕 | 国产精品久久久久久久久免| 中文欧美无线码| 人妻系列 视频| 国产黄色免费在线视频| 亚洲欧美一区二区三区国产| 人成视频在线观看免费观看| 国产精品嫩草影院av在线观看| 日韩熟女老妇一区二区性免费视频| 国产精品一区二区在线不卡| 久久狼人影院| 一级毛片 在线播放| 自线自在国产av| 哪个播放器可以免费观看大片| 三级国产精品片| 亚洲一区二区三区欧美精品| 五月天丁香电影| 国产精品久久久久久久电影| 久久久久久久亚洲中文字幕| 伊人久久国产一区二区| 少妇的丰满在线观看| 亚洲成人手机| 男女下面插进去视频免费观看 | 国产极品天堂在线| 九九爱精品视频在线观看| 五月玫瑰六月丁香| 国产成人一区二区在线| 99九九在线精品视频| 成人毛片a级毛片在线播放| 三级国产精品片| 亚洲欧美成人综合另类久久久| 免费少妇av软件| 国产日韩一区二区三区精品不卡| 波野结衣二区三区在线| 国产精品久久久久久精品电影小说| 久久99蜜桃精品久久| 久久精品国产a三级三级三级| av黄色大香蕉| 多毛熟女@视频| 在线天堂中文资源库| 春色校园在线视频观看| 亚洲av国产av综合av卡| 人人妻,人人澡人人爽秒播| 国产激情久久老熟女| 亚洲久久久国产精品| 亚洲av片天天在线观看| 最近最新免费中文字幕在线| 亚洲全国av大片| 自拍欧美九色日韩亚洲蝌蚪91| 久久天堂一区二区三区四区| 精品卡一卡二卡四卡免费| 老鸭窝网址在线观看| 一级黄色大片毛片| 日本一区二区免费在线视频| avwww免费| 免费观看精品视频网站| 久久精品国产亚洲av高清一级| 激情视频va一区二区三区| 操美女的视频在线观看| 一进一出好大好爽视频| 午夜日韩欧美国产| 中国美女看黄片| 欧美+亚洲+日韩+国产| 国产精品久久电影中文字幕 | 亚洲免费av在线视频| 欧美精品高潮呻吟av久久| 一级片免费观看大全| 国产国语露脸激情在线看| 国产深夜福利视频在线观看| 成人黄色视频免费在线看| 亚洲熟女毛片儿| 亚洲一卡2卡3卡4卡5卡精品中文| 丝袜在线中文字幕| 别揉我奶头~嗯~啊~动态视频| 91字幕亚洲| 久久久国产成人精品二区 | 热re99久久国产66热| 国产伦人伦偷精品视频| 国产精品99久久99久久久不卡| 又大又爽又粗| 欧美不卡视频在线免费观看 | 交换朋友夫妻互换小说| 麻豆成人av在线观看| 午夜精品久久久久久毛片777| av线在线观看网站| 自拍欧美九色日韩亚洲蝌蚪91| 国产91精品成人一区二区三区| 夜夜躁狠狠躁天天躁| 成人免费观看视频高清| 亚洲国产欧美网| 18禁美女被吸乳视频| 亚洲欧美精品综合一区二区三区| 国产精华一区二区三区| 999久久久国产精品视频| 免费不卡黄色视频| avwww免费| 欧美久久黑人一区二区| 国产一区二区三区综合在线观看| 久久国产亚洲av麻豆专区| 大陆偷拍与自拍| 亚洲一区中文字幕在线| 久久久久国内视频| 免费在线观看影片大全网站| 黄色片一级片一级黄色片| 亚洲伊人色综图| 成熟少妇高潮喷水视频| 黄色女人牲交| 免费在线观看日本一区| 久久中文字幕人妻熟女| 不卡av一区二区三区| 丝袜人妻中文字幕| 免费在线观看影片大全网站| 人人妻人人澡人人看| 下体分泌物呈黄色| 99riav亚洲国产免费| 欧美 日韩 精品 国产| aaaaa片日本免费| videos熟女内射| 老司机午夜福利在线观看视频| 国产一区在线观看成人免费| 亚洲avbb在线观看| 中文字幕人妻丝袜一区二区| av电影中文网址| 高清黄色对白视频在线免费看| 不卡一级毛片| 高清毛片免费观看视频网站 | 亚洲色图综合在线观看| 午夜福利在线免费观看网站| 又黄又爽又免费观看的视频| 一级,二级,三级黄色视频| 国产欧美日韩一区二区三区在线| 国产熟女午夜一区二区三区| 日本欧美视频一区| 国产精品一区二区免费欧美| 精品人妻在线不人妻| 国产高清国产精品国产三级| 国产精品.久久久| av电影中文网址| 国产精品久久久久久人妻精品电影| 国产99白浆流出| 国产97色在线日韩免费| 久久中文看片网| 国产成人啪精品午夜网站| 亚洲成人国产一区在线观看| 欧美久久黑人一区二区| 19禁男女啪啪无遮挡网站| 午夜91福利影院| 在线看a的网站| 欧美国产精品va在线观看不卡| 日韩人妻精品一区2区三区| 亚洲 国产 在线| 91成年电影在线观看| 欧美人与性动交α欧美软件| 久久久久国内视频| 女人被躁到高潮嗷嗷叫费观| 狂野欧美激情性xxxx| 亚洲精品久久成人aⅴ小说| 欧美最黄视频在线播放免费 | 亚洲av日韩精品久久久久久密| 手机成人av网站| 欧美色视频一区免费| 日韩成人在线观看一区二区三区| av片东京热男人的天堂|