• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    從“賦權(quán)”到“協(xié)同共進(jìn)”:個(gè)人信息保護(hù)研究范式的轉(zhuǎn)換

    2022-06-07 19:22:29麻昌華唐鑫
    關(guān)鍵詞:個(gè)人信息保護(hù)賦權(quán)范式

    麻昌華 唐鑫

    關(guān)鍵詞:個(gè)人信息保護(hù);“賦權(quán)”范式;法律與技術(shù);協(xié)同共進(jìn)

    中圖分類(lèi)號(hào):D922.16 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1003-7217(2022)03-0151-09

    2021年8月20日,我國(guó)第一部個(gè)人信息保護(hù)方面的專(zhuān)門(mén)法律——《中華人民共和國(guó)個(gè)人信息保護(hù)法》(以下簡(jiǎn)稱《個(gè)人信息保護(hù)法》)獲表決通過(guò)。但是,正如許多國(guó)家即使頒布了相關(guān)法規(guī)也不曾中斷對(duì)個(gè)人信息保護(hù)問(wèn)題的研究一樣,《個(gè)人信息保護(hù)法》的實(shí)施也絕非是我國(guó)個(gè)人信息保護(hù)理論和實(shí)踐研究的終點(diǎn),而是全面構(gòu)建我國(guó)個(gè)人信息保護(hù)制度框架、真正落實(shí)個(gè)人信息保護(hù)目標(biāo)的新起點(diǎn)。是以我們始終不能放棄對(duì)個(gè)人信息保護(hù)基礎(chǔ)理論的深度探討,不能忽略對(duì)個(gè)人信息保護(hù)制度實(shí)踐成效的持續(xù)觀察。

    從我國(guó)《個(gè)人信息保護(hù)法》的主要內(nèi)容上看,它在立足國(guó)情和借鑒國(guó)際經(jīng)驗(yàn)的基礎(chǔ)上,通過(guò)賦予個(gè)人在個(gè)人信息處理活動(dòng)中多項(xiàng)可訴訟救濟(jì)的權(quán)利,構(gòu)建出了一個(gè)較為完備的個(gè)人信息權(quán)利保護(hù)體系。然而,這種“賦權(quán)”的保護(hù)方式和法律表達(dá)已經(jīng)在國(guó)內(nèi)外產(chǎn)生了不小的爭(zhēng)議,需要我們就個(gè)人信息保護(hù)研究的理念、范疇、方法等開(kāi)展進(jìn)一步的探索。為此,本文擬從“賦權(quán)”范式的內(nèi)涵和局限性切入,通過(guò)厘清技術(shù)、個(gè)人信息、法律之間的內(nèi)在關(guān)聯(lián),來(lái)論證我國(guó)個(gè)人信息保護(hù)研究從“賦權(quán)”路徑轉(zhuǎn)向法律與技術(shù)“協(xié)同共進(jìn)”路徑的現(xiàn)實(shí)性、必然性和必要性。

    一、“賦權(quán)”范式的反思與進(jìn)路

    (一)“賦權(quán)”范式的內(nèi)涵

    “大數(shù)據(jù)”作為新資源、新工具和新應(yīng)用的綜合體,其在為我們帶來(lái)新知識(shí)和新經(jīng)濟(jì)業(yè)態(tài)的同時(shí),也帶來(lái)了個(gè)人信息權(quán)益遭受侵害的新風(fēng)險(xiǎn)和新法律問(wèn)題。于是,許多法律人勇?lián)姑?,就新時(shí)空背景下的個(gè)人信息保護(hù)問(wèn)題建言獻(xiàn)策。而因受到國(guó)際社會(huì)主流的個(gè)人信息保護(hù)理論和立法實(shí)踐的影響,我國(guó)多數(shù)學(xué)者在研究中不約而同地選擇了“賦權(quán)”范式。

    基于科學(xué)哲學(xué)家托馬斯·庫(kù)恩對(duì)“范式”一詞的不同用法,個(gè)人信息保護(hù)的“賦權(quán)”范式可以從兩個(gè)方面解讀:其一,從“范式”作為理論框架或科學(xué)共同體之共識(shí)的角度而言,賦予個(gè)人對(duì)其個(gè)人信息的控制權(quán)(本文將其概括為“賦權(quán)”)的理論,可被視為一種“科學(xué)成就”,即“范式”,這個(gè)理論“暗暗規(guī)定了一個(gè)研究領(lǐng)域的合理問(wèn)題和方法”,既空前地吸引了一批堅(jiān)定的擁護(hù)者,使他們脫離其他相競(jìng)爭(zhēng)的理論和研究模式從事研究,同時(shí),又無(wú)限制地為重新組成的一批實(shí)踐者留下了有待解決的種種問(wèn)題。其二,從“范式”作為發(fā)現(xiàn)和解決問(wèn)題的方法而言,“賦權(quán)”亦可被理解為一種個(gè)人信息保護(hù)的“研究范式”,因?yàn)樗鼮楹罄m(xù)參與研究的特定科學(xué)共同體成員準(zhǔn)備了基本前提、研究規(guī)則和研究標(biāo)準(zhǔn)。換言之,以“賦權(quán)”為共識(shí)開(kāi)展個(gè)人信息保護(hù)研究的學(xué)者,基本上均認(rèn)可——賦予個(gè)人對(duì)其個(gè)人信息的控制權(quán),是實(shí)現(xiàn)個(gè)人信息保護(hù)目的的基礎(chǔ)——這一前提。他們的研究只是在“賦權(quán)”這套方法論的指引下,按照更精確的特征進(jìn)行下去。而通過(guò)總結(jié)“賦權(quán)”范式下的學(xué)術(shù)討論議題可知,學(xué)者們普遍關(guān)注的問(wèn)題集中在:個(gè)人信息的定義和法律屬性、個(gè)人信息保護(hù)的法益基礎(chǔ)、個(gè)人信息權(quán)②的法律定位和具體權(quán)項(xiàng)、規(guī)范個(gè)人信息使用的法規(guī)性質(zhì)問(wèn)題等。因不同學(xué)者對(duì)上述每個(gè)問(wèn)題給出不同回答,就會(huì)產(chǎn)生不同的個(gè)人信息保護(hù)辦法,所以,即使“賦權(quán)”范式客觀上限制了個(gè)人信息保護(hù)問(wèn)題的研究范圍,但其依然為我國(guó)的個(gè)人信息保護(hù)研究領(lǐng)域帶來(lái)了生機(jī)與活力,促進(jìn)了相關(guān)學(xué)術(shù)成果的爆炸式增長(zhǎng)。

    (二)“賦權(quán)”成為我國(guó)主流的個(gè)人信息學(xué)術(shù)討論范式之原因

    本文認(rèn)為,“賦權(quán)”能成為我國(guó)個(gè)人信息保護(hù)的共識(shí)性研討范式,主要基于以下兩個(gè)原因:(1)歐盟和美國(guó)的個(gè)人信息保護(hù)研究經(jīng)驗(yàn)和立法成果為我國(guó)學(xué)者提供了豐富的研究素材。通過(guò)梳理當(dāng)今世界主流的個(gè)人信息保護(hù)理論可知,無(wú)論是把個(gè)人信息視為基本人權(quán)的歐洲,還是把個(gè)人信息納入隱私權(quán)保護(hù)范疇的美國(guó),均認(rèn)為:保護(hù)個(gè)人信息的根本目的,是為了維護(hù)人的尊嚴(yán)和不受侵犯的人格;而實(shí)現(xiàn)此目的的重要手段,就是尊重和保障個(gè)體處理其個(gè)人信息的意志,并賦予個(gè)體對(duì)其個(gè)人信息獨(dú)立自主的控制權(quán)。此外,2018年5月25日在歐盟成員國(guó)內(nèi)正式生效實(shí)施的《通用數(shù)據(jù)保護(hù)條例》(General Da-to Protection Regulation,簡(jiǎn)稱GDPR),也給全球范圍內(nèi)的個(gè)人信息保護(hù)研究提供了很好的樣本。從整體上看,GDPR就是采取了一種強(qiáng)化數(shù)據(jù)主體權(quán)利的規(guī)制進(jìn)路,從而“全面地完成了個(gè)人控制論的法律表達(dá)”。鳥(niǎo)瞰我國(guó)《個(gè)人信息保護(hù)法》的主體內(nèi)容亦可發(fā)現(xiàn),GDPR這種“賦權(quán)”規(guī)制思路、立法框架和具體制度確實(shí)對(duì)我國(guó)立法產(chǎn)生了很大影響。(2)“賦權(quán)”似乎能在表面上實(shí)現(xiàn)個(gè)人信息保護(hù)與利用間的平衡,從而為數(shù)字社會(huì)的發(fā)展提供了一個(gè)兼顧個(gè)人、個(gè)人信息處理者與社會(huì)整體利益的法律框架。在“賦權(quán)”范式的追隨者看來(lái),每個(gè)人都不是排斥技術(shù)進(jìn)步的循世者,而是具有不同信息觀念、隱私偏好且能夠自主選擇和決定自身信息命運(yùn)的人口],所以,充分肯定個(gè)人在處理其個(gè)人信息方面的知情權(quán)、主導(dǎo)權(quán)和選擇權(quán),賦予人們一個(gè)詳細(xì)的個(gè)人信息權(quán)利清單,就能從根源上阻斷個(gè)人信息權(quán)益遭受不法侵害的風(fēng)險(xiǎn);而已獲得個(gè)人授權(quán)(同意)的個(gè)人信息處理者,也能在無(wú)違規(guī)之憂的基礎(chǔ)上,按照自己在《用戶協(xié)議》《隱私政策》中所羅列的方式處理用戶的個(gè)人信息,挖掘數(shù)據(jù)資源蘊(yùn)含的巨大價(jià)值。

    (三)“賦權(quán)”范式的局限性

    必須承認(rèn),“賦權(quán)”范式確有其合理性和吸引力,因?yàn)槠潴w現(xiàn)了立法者對(duì)個(gè)人自主、自決能力的信任與保障,同時(shí),亦未給技術(shù)的創(chuàng)新發(fā)展和數(shù)據(jù)的利用、流通帶來(lái)明顯阻力。但是,隨著數(shù)據(jù)價(jià)值越發(fā)受到重視,個(gè)人信息的一系列處理活動(dòng)變得日益普遍化、規(guī)?;碗[蔽化,越來(lái)越多的學(xué)者意識(shí)到,僅靠傳統(tǒng)的個(gè)人信息賦權(quán)保護(hù)模式難以擔(dān)負(fù)起新社會(huì)形態(tài)下的個(gè)人信息保護(hù)重任。

    首先,從落實(shí)架構(gòu)上看,“通知一選擇”(也有學(xué)者稱為“告知一同意”)機(jī)制是“賦權(quán)”解決方案中的核心制度,然而實(shí)踐中,個(gè)人的控制權(quán)常常難以行使,“通知一選擇”機(jī)制也不能給予個(gè)人真正的選擇權(quán)。根據(jù)市場(chǎng)交易的相關(guān)理論,“選擇自由”需要做選擇的人擁有關(guān)于各個(gè)選項(xiàng)及其后果的準(zhǔn)確信息,以及能夠做出選擇的、足夠的支配力。而公民在個(gè)人信息領(lǐng)域的“選擇”顯然并非“自由選擇”,因?yàn)樵谶x擇之時(shí),絕大多數(shù)人既無(wú)興趣、精力,也無(wú)能力從個(gè)人信息處理者釋出的“用戶協(xié)議”“隱私聲明”等材料中,了解自己的信息將被具體用于何種用途,更遑論在一種實(shí)質(zhì)公平的背景下,準(zhǔn)確評(píng)估出信息交付這一行為的效益與成本,從而做出有實(shí)質(zhì)性意義的選擇。退一步說(shuō),即使我們假設(shè)個(gè)人能夠完全知曉信息使用的所有情形,可以自由地“接受或拒絕”個(gè)人信息處理者提供的條款,我們也只能享有相對(duì)的選擇自由,因?yàn)閯e忘了,個(gè)人信息處理者才是最開(kāi)始決定提供何種條款的主體。換言之,個(gè)體讓與個(gè)人信息的過(guò)程,從根本上就是不可協(xié)商的。4564BCC3-594A-4023-8C5F-32C953879871

    其次,從“賦權(quán)”范式提供的問(wèn)題解決策略上看,它們?cè)谡鎸?shí)操作場(chǎng)景中收效甚微、前景受限。仍以“通知—選擇”機(jī)制為例。它的本意是經(jīng)由個(gè)人信息處理者的誠(chéng)實(shí)告知,使個(gè)人能在充分知情的基礎(chǔ)上,按照自己的自由意志處分個(gè)人信息。然而,當(dāng)企業(yè)把該策略轉(zhuǎn)譯為技術(shù)語(yǔ)言和可供操作的程序成品時(shí),呈現(xiàn)在人們眼前的就是:“二選一”的人機(jī)交互界面;冗長(zhǎng)、艱深、晦澀的“用戶協(xié)議”“隱私聲明”;選擇“不同意”(或“否”“退出”等)即無(wú)法正常使用該企業(yè)服務(wù)的結(jié)果??梢?jiàn)實(shí)際上,“通知—選擇”策略在肇始階段就已難以執(zhí)行,因?yàn)橛脩魴?quán)益在一開(kāi)始就已經(jīng)被架空了。

    再次,從整體思維方式上看,“賦權(quán)”范式所集結(jié)的共同體成員在探討法律對(duì)新技術(shù)的規(guī)制作用時(shí),始終把法律當(dāng)作一個(gè)“常量”和給定的外部框架去對(duì)待,這就不利于引領(lǐng)研究者去發(fā)掘技術(shù)變遷帶給法律的深層影響,也不利于啟發(fā)人們?nèi)ヌ剿鞣膳c技術(shù)之間其他可能的互動(dòng)模式,促進(jìn)個(gè)人信息保護(hù)新思路、新策略、新方案的生成與發(fā)展。具體說(shuō)來(lái),從前文對(duì)于“賦權(quán)”范式支持者研討議題的梳理可知,“賦權(quán)”范式下,研究者們甚少關(guān)注技術(shù)也可作為個(gè)人信息保護(hù)工具的可能性,也未對(duì)如何利用人工智能技術(shù)和相關(guān)的計(jì)算方法來(lái)加強(qiáng)個(gè)人信息和隱私保護(hù)這類(lèi)問(wèn)題予以重視。這種研究視角不僅遮蔽了在技術(shù)和法律之間建立起良性互動(dòng)模式的思考方向,更忽略了法學(xué)與計(jì)算機(jī)科學(xué)之于個(gè)人信息保護(hù)問(wèn)題的不同見(jiàn)解,由此造成兩個(gè)學(xué)科的自說(shuō)自話,甚至彼此抵牾。

    最后,從現(xiàn)實(shí)效果上看,“賦權(quán)”范式所創(chuàng)建的個(gè)人信息權(quán)利體系并沒(méi)有為個(gè)人行權(quán)和維權(quán)帶來(lái)便利和優(yōu)勢(shì);司法實(shí)踐中,個(gè)人就維護(hù)個(gè)人信息權(quán)益提起的私人訴訟不僅數(shù)量很少,而且常面臨著被駁回或者敗訴的結(jié)局。若說(shuō)目前我國(guó)《個(gè)人信息保護(hù)法》的實(shí)施效果仍無(wú)從考證,我們可以把目光拉回到重視強(qiáng)化數(shù)據(jù)主體權(quán)益、從上至下均釋放出保護(hù)個(gè)人信息強(qiáng)烈政策信號(hào)的歐洲大陸上。然而,在歐洲,許多學(xué)者和數(shù)據(jù)保護(hù)的倡導(dǎo)者也在哀嘆個(gè)人維權(quán)行動(dòng)的缺乏。以德國(guó)為例,自1977年《聯(lián)邦數(shù)據(jù)保護(hù)法》(Federal Data Protection Act)頒布以來(lái),已歷經(jīng)數(shù)次修訂。在很大程度上,這些修訂之目的,是為了減少個(gè)人行使權(quán)利的交易成本。例如,1990年,該法修訂版第7條規(guī)定:“因政府非法處理信息而給當(dāng)事人造成損失的,實(shí)行無(wú)過(guò)錯(cuò)責(zé)任賠償?!钡?條規(guī)定:“因私營(yíng)部門(mén)非法處理信息而給當(dāng)事人造成損失的,實(shí)行舉證責(zé)任轉(zhuǎn)移?!辈浑y看出,這兩個(gè)條款均能降低個(gè)體維護(hù)個(gè)人信息權(quán)益的難度。但之后有學(xué)者調(diào)研發(fā)現(xiàn),這些修改并未導(dǎo)致德國(guó)民眾維權(quán)行動(dòng)的顯著增加。同樣,在“隱私權(quán)”框架下保護(hù)個(gè)人信息的美國(guó),其民眾也難以通過(guò)司法救濟(jì)的途徑捍衛(wèi)自身權(quán)益。例如,在數(shù)據(jù)泄露事件發(fā)生后,受影響的個(gè)人發(fā)起維權(quán)行動(dòng)時(shí),由于“訴訟主體資格論”(stand-ing doctrine)的存在以及因果關(guān)系、損害結(jié)果、損害評(píng)估結(jié)論上的不確定性,潛在受害者往往很難在法庭上獲得訴訟資格,并得到與泄露事件造成的損害相適的賠償金。

    (四)未來(lái)進(jìn)路:從“賦權(quán)”轉(zhuǎn)向法律與技術(shù)的“協(xié)同共進(jìn)”

    上述分析表明,“賦權(quán)”范式提供的個(gè)人信息保護(hù)策略和制度方案已然難為個(gè)體提供有效保護(hù)。同時(shí),它亦留下了諸多盲點(diǎn),禁錮了人們的創(chuàng)新思維,讓人們對(duì)新技術(shù)的影響及個(gè)人信息研究所固有的技術(shù)面向視而不見(jiàn)或避而不談?;诖耍瑤?kù)恩提出的“范式轉(zhuǎn)換”概念,可為個(gè)人信息保護(hù)的常規(guī)研究帶來(lái)轉(zhuǎn)機(jī)。在庫(kù)恩看來(lái),“范式轉(zhuǎn)換”是實(shí)現(xiàn)科學(xué)革命的重要環(huán)節(jié),范式一經(jīng)改變,新范式將指引科學(xué)家去采取新工具,注意新領(lǐng)域,以與以前不一樣的方式來(lái)看這個(gè)世界。在此基礎(chǔ)上,常規(guī)科學(xué)所涉及的問(wèn)題、技巧也因范式的轉(zhuǎn)換而有了不同答案。哈佛大學(xué)的烏斯·加瑟教授則從法學(xué)研究的角度對(duì)“范式轉(zhuǎn)換”下了定義。他認(rèn)為,“范式轉(zhuǎn)換”代表著深層次的法律改革,這個(gè)改革不僅包含個(gè)別規(guī)定的更新,而且強(qiáng)調(diào)整個(gè)方法論或研究手段的改變。由于“范式轉(zhuǎn)換”能為實(shí)現(xiàn)法律創(chuàng)新提供更多可能,因此,加瑟教授把它看作是應(yīng)對(duì)數(shù)字時(shí)代中的個(gè)人信息危機(jī)最有前途的辦法。在范式轉(zhuǎn)換思維的引領(lǐng)下,越來(lái)越多的學(xué)者跳脫出了“賦權(quán)”范式的束縛,嘗試?yán)貌煌椒ㄕ搧?lái)考量大數(shù)據(jù)時(shí)代下的個(gè)人信息保護(hù)議題,并隨之誕生了一系列頗有影響力的學(xué)術(shù)成果。例如,有學(xué)者建議借鑒環(huán)境法領(lǐng)域的理論和規(guī)制經(jīng)驗(yàn),來(lái)重新構(gòu)想個(gè)人信息保護(hù)的規(guī)制基礎(chǔ)和具體方案;也有學(xué)者倡導(dǎo)從信義關(guān)系中吸收經(jīng)驗(yàn),運(yùn)用信托機(jī)制來(lái)治理個(gè)人信息問(wèn)題。這些研究均對(duì)個(gè)人信息保護(hù)的范式轉(zhuǎn)型和新保護(hù)機(jī)制的創(chuàng)建提供了智識(shí)支持。

    本文提出的法律與技術(shù)“協(xié)同共進(jìn)”范式亦是研究個(gè)人信息保護(hù)議題的另一種思路、方法?!皡f(xié)同”在《漢語(yǔ)大詞典》中是齊心協(xié)力、互相配合的意思。1971年,德國(guó)學(xué)者Haken在系統(tǒng)論中最早提出了協(xié)同的概念,指系統(tǒng)中各子系統(tǒng)的相互協(xié)調(diào)、合作或同步的聯(lián)合作用及集體行為,結(jié)果是產(chǎn)生了1+1>2的協(xié)同效應(yīng)?!肮策M(jìn)”則可理解為共同進(jìn)步、共同發(fā)展、彼此順應(yīng)之義。結(jié)合“范式”概念具有的多重意蘊(yùn),故法律與技術(shù)“協(xié)同共進(jìn)”范式也可從兩方面進(jìn)行詮釋?zhuān)阂环矫妫且环N強(qiáng)調(diào)運(yùn)用法律與技術(shù)交叉融合的視角看待個(gè)人信息保護(hù)議題的研究范式,其吸引的共同體成員都將在尊重和理解法律與技術(shù)各自特性和內(nèi)在關(guān)聯(lián)的基礎(chǔ)上,尋求個(gè)人信息保護(hù)基礎(chǔ)理論、制度方案和研究方法的創(chuàng)新。另一方面,它將最終導(dǎo)向一種個(gè)人信息保護(hù)范式,這種范式認(rèn)定,只有把法律與技術(shù)同時(shí)視為保護(hù)個(gè)人信息的手段,并促使二者間形成一種相互助益的良性互動(dòng)模式,才能有效降低個(gè)人信息受侵害風(fēng)險(xiǎn),擺脫個(gè)人信息難獲保護(hù)之困境。在下文中,將從實(shí)踐和理論層面切入,剖析法律與技術(shù)“協(xié)同共進(jìn)”能成為我國(guó)個(gè)人信息保護(hù)研究新理念和新路徑的原因。

    二、法律與技術(shù)“協(xié)同共進(jìn)”范式形成的現(xiàn)實(shí)基礎(chǔ)

    隨著網(wǎng)絡(luò)化、數(shù)字化、智能化的快速融合發(fā)展,數(shù)字時(shí)代帶來(lái)的巨變凸顯出現(xiàn)有個(gè)人信息保護(hù)范式的無(wú)力。因此,欲構(gòu)建與這一時(shí)代深層本質(zhì)相契合的個(gè)人信息保護(hù)路徑,法學(xué)研究者必須以史為鑒、考量現(xiàn)實(shí)、面向未來(lái)。

    首先,個(gè)人信息的法律保護(hù)史提醒我們,個(gè)人信息保護(hù)研究應(yīng)對(duì)法律與技術(shù)予以同等重視,因?yàn)殚L(zhǎng)久以來(lái),技術(shù)發(fā)展始終是個(gè)人信息利益得到法律關(guān)切的重要原因。1890年,當(dāng)“隱私”首次被作為一個(gè)法律概念引入人們視野時(shí),就是受到電報(bào)通信和便攜式相機(jī)等新技術(shù)的影響。彼時(shí),Warren創(chuàng)作《論隱私權(quán)》一文的其中一個(gè)動(dòng)力,就是他不想再讓自己及其家族成員的私生活時(shí)刻受到媒體的追蹤與報(bào)道,并成為社會(huì)大眾的談資。從20世紀(jì)中期開(kāi)始,一些國(guó)家的政府機(jī)構(gòu)出于政策分析、追蹤特殊人群等目的,開(kāi)始利用計(jì)算機(jī)和互聯(lián)網(wǎng)絡(luò)等現(xiàn)代科技,進(jìn)行大規(guī)模、自動(dòng)化的個(gè)人數(shù)據(jù)收集和處理活動(dòng),也源于此,法學(xué)界逐漸將研究視角從“隱私”轉(zhuǎn)向“個(gè)人信息”,開(kāi)始關(guān)注到個(gè)人信息的合理使用、安全性和保密性等問(wèn)題。20世紀(jì)后期,個(gè)人信息的處理和存儲(chǔ)方式發(fā)生質(zhì)的改變,驅(qū)動(dòng)著現(xiàn)代個(gè)人信息保護(hù)的規(guī)則雛形——“公平信息實(shí)踐”原則的誕生。此后,不斷發(fā)展的技術(shù)和不斷變化的制度實(shí)踐共同作用,引發(fā)了學(xué)界之于個(gè)人信息相關(guān)問(wèn)題的大量探討,公平信息實(shí)踐原則的內(nèi)容也在這個(gè)過(guò)程中得到調(diào)整和補(bǔ)充。如今,在物聯(lián)網(wǎng)、人工智能、云計(jì)算等技術(shù)的加持下,越來(lái)越多的人開(kāi)始感知到信息聚合、數(shù)據(jù)挖掘等數(shù)據(jù)處理技術(shù)帶給自身的實(shí)際或潛在的不利后果。與此同時(shí),這些新技術(shù)的推廣應(yīng)用亦驅(qū)動(dòng)著許多國(guó)際組織和國(guó)家內(nèi)部開(kāi)展了新一輪的個(gè)人信息保護(hù)形勢(shì)研判和對(duì)策研究??梢?jiàn),在個(gè)人信息保護(hù)領(lǐng)域,技術(shù)的發(fā)展和進(jìn)步一直對(duì)個(gè)人信息的學(xué)理認(rèn)知和法律演變產(chǎn)生重要影響。因此,在這技術(shù)性極為突出的新時(shí)代,個(gè)人信息保護(hù)法學(xué)研究更不能擯棄對(duì)技術(shù)因素的關(guān)注與考量。4564BCC3-594A-4023-8C5F-32C953879871

    其次,個(gè)人信息權(quán)益正在面臨的多重現(xiàn)實(shí)風(fēng)險(xiǎn)亦決定了個(gè)人信息保護(hù)研究需轉(zhuǎn)向法律與技術(shù)“協(xié)同共進(jìn)”范式。在前文解析“賦權(quán)”范式的不足時(shí),已經(jīng)簡(jiǎn)要闡述了個(gè)人難以行使個(gè)人信息控制權(quán)的現(xiàn)狀。然而事實(shí)上,大數(shù)據(jù)技術(shù)帶給個(gè)人合法權(quán)益的危機(jī)和潛在傷害,還遠(yuǎn)不止這個(gè)。1988年,計(jì)算機(jī)科學(xué)家馬克·韋澤就預(yù)言道,計(jì)算機(jī)將來(lái)會(huì)嵌入到日常生活的結(jié)構(gòu)中,直到與之無(wú)法區(qū)分。如今,雖然各種獲取數(shù)據(jù)、處理數(shù)據(jù)的儀器沒(méi)有小到從人們視線里消失的程度,但它們確實(shí)已被廣泛部署于人類(lèi)生活的物理環(huán)境中,實(shí)時(shí)、連續(xù)、高效、廉價(jià)、大規(guī)模地記錄和處理著物理世界的狀態(tài),致使人類(lèi)處于日趨精密的、難以察覺(jué)的、被監(jiān)視的狀態(tài)之中。在此基礎(chǔ)上,借助數(shù)據(jù)關(guān)聯(lián)、信息聚合等技術(shù),政府和企業(yè)完全有能力從很多碎片化、零散化的信息中復(fù)原一個(gè)人的概貌,并了解此人的各項(xiàng)生活細(xì)節(jié)。加之大數(shù)據(jù)還能夠?qū)⑿率占降臄?shù)據(jù)持續(xù)添加進(jìn)已有的數(shù)據(jù)庫(kù)中,且有辦法在這些數(shù)據(jù)里找到新的知識(shí)發(fā)現(xiàn)模式,獲得新的推斷信息。所以,從這個(gè)意義上講,隨著時(shí)間的推移,政府或企業(yè)完全能夠利用大數(shù)據(jù),透徹地了解某個(gè)人。更令人擔(dān)憂的還有,由個(gè)人零碎信息匯集而成描摹出來(lái)的“用戶畫(huà)像”,全然不受本人控制。常態(tài)化的、難以察覺(jué)的個(gè)人數(shù)據(jù)采集會(huì)將我們有意識(shí)和無(wú)意識(shí)的行為模式都詳盡地呈現(xiàn)到數(shù)據(jù)集和算法中,這不僅可能導(dǎo)致數(shù)據(jù)將比我們自己更了解自己,加深了個(gè)人與個(gè)人信息處理者之間的不對(duì)等關(guān)系,甚至還會(huì)衍生出歧視、算法權(quán)力異化等嚴(yán)重后果。此外,政府和企業(yè)的規(guī)模化數(shù)據(jù)收集行為也極大地增加了個(gè)人信息被泄露的風(fēng)險(xiǎn)。然而,具有諷刺意味的是,當(dāng)人們收到許多垃圾短信、垃圾電話甚至遭遇精準(zhǔn)詐騙時(shí),個(gè)人根本難以知悉究竟是什么組織、哪個(gè)環(huán)節(jié)泄露了自己的個(gè)人信息。當(dāng)追責(zé)對(duì)象都難以找到的時(shí)候,我們不得不承認(rèn),僅僅通過(guò)立法的手段來(lái)實(shí)現(xiàn)大數(shù)據(jù)環(huán)境下的個(gè)人信息保護(hù)基本上是行不通的。由此觀之,無(wú)論是從技術(shù)造成的實(shí)際風(fēng)險(xiǎn)上看,還是從實(shí)現(xiàn)個(gè)人信息保護(hù)的功利目的上看,大數(shù)據(jù)時(shí)代的個(gè)人信息保護(hù)都呈現(xiàn)出極強(qiáng)的專(zhuān)業(yè)性、技術(shù)性和對(duì)技術(shù)學(xué)科的依賴性。這也意味著,當(dāng)法學(xué)研究者觀察這個(gè)時(shí)代課題時(shí),不應(yīng)該也不能忽略對(duì)法學(xué)以外學(xué)科的觀察,否則,即使法律的規(guī)則再完備、再全面,它也只是一個(gè)躺在紙面上的、沒(méi)有生命力的法律。

    最后,法律與技術(shù)“協(xié)同共進(jìn)”范式還是由大數(shù)據(jù)時(shí)代的新變化和新特征所選擇的,因?yàn)檫@些特征給傳統(tǒng)社會(huì)的法律秩序和規(guī)范體系帶去了巨大沖擊,迫使人們重新審視傳統(tǒng)法律對(duì)技術(shù)、對(duì)個(gè)人信息的規(guī)制邏輯,并反思法律與技術(shù)的傳統(tǒng)角色定位。過(guò)去,法律在回應(yīng)技術(shù)發(fā)展帶來(lái)的個(gè)人信息保護(hù)新問(wèn)題時(shí),更像一種簡(jiǎn)單的“刺激—反應(yīng)”機(jī)制,這樣的法律以保守、防御的姿態(tài)面對(duì)技術(shù)創(chuàng)新,以技術(shù)及其效應(yīng)的充分顯現(xiàn)作為規(guī)范前提,整體上呈現(xiàn)出明顯的滯后性、單一的功能性和短暫的穩(wěn)定性。而如今,大數(shù)據(jù)技術(shù)發(fā)展卻具有顯著的正負(fù)雙重外部性,既有越來(lái)越多的、具有不透明性和不可預(yù)期性特點(diǎn)的算法投入使用,同時(shí)也有許多促進(jìn)個(gè)人信息保護(hù)與利用的新技術(shù)、新工具得到開(kāi)發(fā)。在這樣特殊的現(xiàn)實(shí)背景下,繼續(xù)沿用以往定位法律和技術(shù)相應(yīng)角色與功能的舊思維,顯然既不能實(shí)現(xiàn)法律對(duì)技術(shù)控制的預(yù)期目標(biāo),也無(wú)法發(fā)揮法律對(duì)有益技術(shù)的支持和幫扶作用。因此,唯有轉(zhuǎn)變研究范式,以一種技術(shù)與法律協(xié)同思考、共同發(fā)展精進(jìn)的眼光去看待個(gè)人信息保護(hù)問(wèn)題,才能打破人們長(zhǎng)期以來(lái)看待法律與技術(shù)的傳統(tǒng)思維定式,幫助我們獲得更具適應(yīng)性、穩(wěn)定性、功能性的個(gè)人信息保護(hù)法。如是,研究者和立法者們將不再把技術(shù)進(jìn)步預(yù)設(shè)為是對(duì)個(gè)人信息的威脅和對(duì)既有法律規(guī)范的挑戰(zhàn),而是把它也看作是降低個(gè)人信息受侵害風(fēng)險(xiǎn)、擺脫個(gè)人信息保護(hù)困境的整體方案的一部分;同時(shí),法律也將不再被預(yù)設(shè)為只是一種用來(lái)管理技術(shù)應(yīng)用和控制其負(fù)面效果的傳統(tǒng)工具,而是一種功能上可區(qū)分的響應(yīng)系統(tǒng),一種能夠針對(duì)技術(shù)價(jià)值進(jìn)行價(jià)值整合和自我調(diào)整的機(jī)制??傊@種研究轉(zhuǎn)向有利于實(shí)現(xiàn)個(gè)人信息保護(hù)制度的進(jìn)一步完善和創(chuàng)新。

    三、法律與技術(shù)“協(xié)同共進(jìn)”范式形成的理論基礎(chǔ)

    根據(jù)庫(kù)恩對(duì)“研究范式”的詮釋可知,以共同范式為基礎(chǔ)進(jìn)行研究的人,爾后的實(shí)踐將很少會(huì)在基本前提上發(fā)生爭(zhēng)議。所以,當(dāng)引入一個(gè)新范式時(shí),需要對(duì)該研究模型的理論基礎(chǔ)進(jìn)行更多論證;否則,不具獨(dú)特性和合理性的新范式很難吸引到一批堅(jiān)定的擁護(hù)者,組建起特定的科學(xué)共同體,并成為共同體成員們進(jìn)一步研究的基礎(chǔ)。因而,在明晰了個(gè)人信息保護(hù)領(lǐng)域應(yīng)加強(qiáng)法律與技術(shù)合作的現(xiàn)實(shí)必要性后,我們需要從理論層面上闡明二者“協(xié)同共進(jìn)”的科學(xué)性和必然性。具言之,多學(xué)科有關(guān)法律與技術(shù)的關(guān)系之研究成果,為這一范式的形成提供了豐富的理論資源。

    (一)負(fù)載價(jià)值的技術(shù)

    美國(guó)技術(shù)哲學(xué)家蘭登·溫納教授認(rèn)為,技術(shù)人工物不僅具有政治屬性,而且是權(quán)力和從屬關(guān)系的具體表達(dá),因此,“盡管不是那么明顯,但是社會(huì)中分裂或者團(tuán)結(jié)人們的議題,不僅能在政治制度和政治實(shí)踐中得到妥善解決,而且也能在鋼筋和混凝土、電線和半導(dǎo)體、螺母和螺栓的具體安排中塵埃落定”。他以羅伯特·摩西設(shè)計(jì)的、體現(xiàn)階級(jí)偏見(jiàn)和種族偏見(jiàn)的紐約長(zhǎng)島立交橋等技術(shù)人工物為例,向我們?cè)敿?xì)論述了技術(shù)所具有的“控制”力量和技術(shù)人工物在具體實(shí)踐中的社會(huì)價(jià)值構(gòu)建;同時(shí),他還指出,技術(shù)人工物和具有政治基礎(chǔ)的立法行為相類(lèi)似,因而也能為公共秩序建立一個(gè)影響許多代人的框架。于此,溫納教授呼吁我們對(duì)技術(shù)施以正確的規(guī)范和引導(dǎo),因?yàn)榧夹g(shù)產(chǎn)物的研發(fā)和應(yīng)用在很大程度上與特定價(jià)值系統(tǒng)有關(guān)。

    (二)技術(shù)解釋的復(fù)雜性

    人類(lèi)學(xué)研究者布萊恩·普法芬伯格則通過(guò)其“技術(shù)戲?。╰echnological dramas)”理論對(duì)法律與技術(shù)的關(guān)系進(jìn)行詮釋。在他看來(lái),當(dāng)一項(xiàng)技術(shù)設(shè)計(jì)完成并投入使用時(shí),往往沒(méi)有經(jīng)過(guò)太多深思熟慮,這時(shí),該項(xiàng)技術(shù)的設(shè)計(jì)支持者(design constituency)需要從論述上對(duì)此技術(shù)進(jìn)行“規(guī)范化(regularization)”解釋?zhuān)詭椭藗兝斫庠摷夹g(shù)。而在“規(guī)范化”的論述過(guò)程,法律只是特定社會(huì)群體在解釋某新興技術(shù)物時(shí),設(shè)法按照自己的利益去定義該物的其中一種工具。除了法律之外,文化傳統(tǒng)、價(jià)值理念、社會(huì)因素、政治因素等都會(huì)對(duì)技術(shù)解釋造成影響。換句話說(shuō),普法芬伯格認(rèn)為,正是技術(shù)設(shè)計(jì)和技術(shù)解釋具有的靈活性,導(dǎo)致了技術(shù)體現(xiàn)價(jià)值或獲得調(diào)控權(quán)力的過(guò)程是復(fù)雜的,有時(shí)甚至是不確定的。由于社會(huì)情境及主體因素均對(duì)技術(shù)解釋的形成至關(guān)重要,因此,普法芬伯格提示人們,應(yīng)該警惕一項(xiàng)技術(shù)進(jìn)入“常態(tài)化”階段。因?yàn)樵诖穗A段,人們將很容易忽略技術(shù)包含的特定價(jià)值或政治屬性,從而忘記去爭(zhēng)取那些本應(yīng)屬于我們的技術(shù)權(quán)力。4564BCC3-594A-4023-8C5F-32C953879871

    (三)提供技術(shù)解釋情境的法律

    受上述兩位學(xué)者觀點(diǎn)的啟發(fā),美國(guó)著名隱私專(zhuān)家海倫·尼森鮑姆教授強(qiáng)調(diào),由于價(jià)值可以被嵌入技術(shù)系統(tǒng)中,所以,在開(kāi)發(fā)設(shè)計(jì)一項(xiàng)新技術(shù)時(shí),規(guī)范這個(gè)技術(shù)設(shè)計(jì)方案所投射到的社會(huì)情境亦十分重要。我們不能想當(dāng)然地認(rèn)為,有了足夠聰明的設(shè)計(jì),Cookies、TrackMeNot、Adnostic等注入保護(hù)個(gè)人信息價(jià)值的技術(shù),就能被投入使用并有效保護(hù)個(gè)人信息和隱私。而無(wú)論是在實(shí)際意義上還是在象征意義上,法律法規(guī)都是準(zhǔn)備“社會(huì)情境”的重要組成部分,以便投射到這種“社會(huì)情境”中的技術(shù)系統(tǒng)可以發(fā)揮出設(shè)計(jì)支持者所預(yù)設(shè)的功能和價(jià)值。在此基礎(chǔ)上,她總結(jié)道,在個(gè)人信息保護(hù)方面,法律能發(fā)揮以下作用:(1)提供環(huán)境支持,即通過(guò)立法活動(dòng),為隱私保護(hù)工具(privacy tools)的開(kāi)發(fā)和應(yīng)用提供一個(gè)友好和包容的社會(huì)環(huán)境。(2)尊重表達(dá)出來(lái)的選擇,即給予安裝了隱私保護(hù)技術(shù)系統(tǒng)和工具的用戶法律上的認(rèn)可和積極的保護(hù)。(3)調(diào)節(jié)個(gè)人與網(wǎng)絡(luò)實(shí)體的關(guān)系,即規(guī)范和限制網(wǎng)絡(luò)實(shí)體的行為和權(quán)利,維護(hù)個(gè)人在網(wǎng)絡(luò)空間的平等地位和合法權(quán)益。(4)抑制惡念,即震懾和抑制他人利用技術(shù)系統(tǒng)和工具存在的技術(shù)漏洞實(shí)施惡事的念頭,因?yàn)榧夹g(shù)出現(xiàn)漏洞是不可避免的。

    (四)法律與技術(shù)之間的動(dòng)態(tài)互動(dòng)

    與前述三位學(xué)者從技術(shù)角度切入的觀察不同,我國(guó)學(xué)者鄭玉雙是從法律自我調(diào)整的面向去思考法律和技術(shù)的關(guān)系的。他認(rèn)為,法律應(yīng)被視為一種“自主的、包含著自身歸責(zé)原理和價(jià)值論辯結(jié)構(gòu)的社會(huì)實(shí)踐”,故面對(duì)迅猛發(fā)展的科學(xué)技術(shù)時(shí),法律回應(yīng)的最合理方式,并不是壓制、馴化的“管制模式”,也不是尊重技術(shù)價(jià)值和客觀屬性的“回應(yīng)模式”,而是進(jìn)入與科技的“重構(gòu)模式”之中。所謂“重構(gòu)”就是指,“技術(shù)的工具價(jià)值和社會(huì)價(jià)值被納入法律的價(jià)值世界之中,法律自身也針對(duì)技術(shù)價(jià)值而做出價(jià)值調(diào)整,進(jìn)而產(chǎn)生法律規(guī)范的改變”。可見(jiàn),鄭玉雙先生倡導(dǎo)的“重構(gòu)模式”亦肯定了法律和技術(shù)之間的密切關(guān)聯(lián),同時(shí),該模式還進(jìn)一步強(qiáng)調(diào)了二者之間存在的一種動(dòng)態(tài)互動(dòng)關(guān)系:一方面,各種存有爭(zhēng)議的技術(shù)所產(chǎn)生的社會(huì)價(jià)值必須被納入法律價(jià)值的論辯空間之中進(jìn)行考察;另一方面,法律也不是封閉、靜止的存在,而是價(jià)值世界隨時(shí)開(kāi)放且能夠整合自身價(jià)值、做出規(guī)范調(diào)整的機(jī)制。

    (五)個(gè)人信息保護(hù)中法律與技術(shù)之關(guān)系

    上述來(lái)自不同學(xué)科的學(xué)者對(duì)法律和技術(shù)關(guān)系的看法,為我們分析二者在保護(hù)個(gè)人信息問(wèn)題上的應(yīng)有立場(chǎng)和建樹(shù)提供了啟發(fā)。從技術(shù)負(fù)載的價(jià)值屬性及法律對(duì)技術(shù)的價(jià)值定位和解釋的影響等方面看,在大數(shù)據(jù)時(shí)代,法律和技術(shù)能以一種更密切和相互助益的方式,就個(gè)人信息保護(hù)達(dá)成合作。

    首先,法律蘊(yùn)含的價(jià)值能對(duì)技術(shù)系統(tǒng)和工具的價(jià)值定位起到指引作用。如前所述,社會(huì)公眾對(duì)于隱私和個(gè)人信息的認(rèn)知與理解深受技術(shù)發(fā)展的影響。甚至可以說(shuō),當(dāng)物化了的技術(shù)所傳遞出的價(jià)值觀與人們廣泛共享的既有價(jià)值觀相碰撞時(shí),新的隱私或個(gè)人信息保護(hù)訴求才會(huì)出現(xiàn)。所以,這就為法律與技術(shù)的協(xié)同共進(jìn)提供了對(duì)話的渠道,因?yàn)椤胺删褪菍?duì)一個(gè)社會(huì)的最低限度價(jià)值標(biāo)準(zhǔn)的權(quán)威性表達(dá)”。如果一項(xiàng)技術(shù)不能尊重一個(gè)社會(huì)或時(shí)代形成的某種“價(jià)值共識(shí)”,不能服務(wù)于社會(huì)上多數(shù)人共同確信的、希冀和追求的價(jià)值準(zhǔn)則,那么它注定要接受價(jià)值理性的拷問(wèn),且不能獲得長(zhǎng)久的生命力。

    其次,法律能有效規(guī)制大數(shù)據(jù)技術(shù)應(yīng)用中的越軌行為。法律向來(lái)是一個(gè)有威懾力的、管理技術(shù)風(fēng)險(xiǎn)和技術(shù)危害的重要手段。大數(shù)據(jù)時(shí)代,在企業(yè)的逐利性、技術(shù)的專(zhuān)業(yè)性和知識(shí)性以及數(shù)字社會(huì)的商業(yè)模式特點(diǎn)等因素的共同作用下,數(shù)字平臺(tái)和用戶之間的利益沖突、信息(知識(shí))不對(duì)稱和關(guān)系不對(duì)等問(wèn)題越發(fā)突出;加之算力強(qiáng)大、能夠處理巨量數(shù)據(jù)的算法確實(shí)幫助特定主體攫取了足以支配或影響個(gè)人的力量,對(duì)社會(huì)生活和人們的切身利益造成廣泛、切實(shí)的影響,因此,防范和矯正大數(shù)據(jù)技術(shù)應(yīng)用中存在的潛在風(fēng)險(xiǎn)和實(shí)際危害,就必須運(yùn)用比道德規(guī)范、職業(yè)規(guī)范、技術(shù)規(guī)范等更具強(qiáng)制性、統(tǒng)一性、權(quán)威性、普適性和不可違抗性的法律規(guī)范。

    再次,法律和技術(shù)的協(xié)同共進(jìn)能夠鼓勵(lì)整合了法律思考方式和技術(shù)思考方式的隱私保護(hù)工具的發(fā)展。以TrackMeNot、Adnostic等開(kāi)發(fā)初衷即意在保護(hù)個(gè)人信息的技術(shù)工具為例,一方面,法律規(guī)范的制定能突出表現(xiàn)國(guó)家對(duì)個(gè)人信息保護(hù)問(wèn)題的重視,激發(fā)技術(shù)人員開(kāi)發(fā)隱私保護(hù)技術(shù)工具的積極性、創(chuàng)造性和主動(dòng)精神。另一方面,法律具有的強(qiáng)制規(guī)范作用會(huì)使隱私保護(hù)技術(shù)工具的部署收獲實(shí)效,既發(fā)揮了技術(shù)工具的自身功能,也能實(shí)現(xiàn)法的預(yù)期作用。如若法律不能和技術(shù)達(dá)成“和諧共振”,“Cookies”的故事還會(huì)不斷重映。

    最后,法律和技術(shù)的協(xié)同共進(jìn)能夠促進(jìn)個(gè)人信息保護(hù)法律實(shí)現(xiàn)深層次變革。目前,已有許多學(xué)者關(guān)注到數(shù)字技術(shù)發(fā)展背景下的法律挑戰(zhàn)和法律變革問(wèn)題。例如,周佑勇教授指出,邁向智能時(shí)代的法律變革必須緊密結(jié)合技術(shù)邏輯展開(kāi),并通過(guò)創(chuàng)新理念和方式、重構(gòu)法理基礎(chǔ)、調(diào)整研究范式、革新法治思維和法律制度等途徑才能實(shí)現(xiàn)。從這個(gè)角度來(lái)看,由于法律與技術(shù)協(xié)同共進(jìn)的研究理念以尊重法律與技術(shù)之間的相互關(guān)系為前提,因此,其將有利于促進(jìn)法律信息與技術(shù)信息的交換與整合,助推我國(guó)的個(gè)人信息保護(hù)法律制度完成總體性的變革升級(jí)。

    四、法律與技術(shù)“協(xié)同共進(jìn)”范式的優(yōu)勢(shì)和前景

    從長(zhǎng)遠(yuǎn)上看,法律與技術(shù)“協(xié)同共進(jìn)”范式更能有效應(yīng)對(duì)未來(lái)社會(huì)關(guān)于個(gè)人信息的多重復(fù)雜挑戰(zhàn)。

    首先,法律與技術(shù)“協(xié)同共進(jìn)”范式可以使我們獲致一個(gè)協(xié)調(diào)法律標(biāo)準(zhǔn)和技術(shù)標(biāo)準(zhǔn)的個(gè)人信息保護(hù)框架。通過(guò)對(duì)比法學(xué)與計(jì)算機(jī)科學(xué)在個(gè)人信息的定義方式和保護(hù)方式上的區(qū)別,我們可以清晰發(fā)現(xiàn),兩個(gè)學(xué)科看待個(gè)人信息保護(hù)問(wèn)題的邏輯出發(fā)點(diǎn)大相徑庭。在法學(xué)領(lǐng)域,“隱私”“個(gè)人可識(shí)別信息”等名詞的定義和保護(hù)標(biāo)準(zhǔn)通常會(huì)因行業(yè)部門(mén)、所涉及的信息類(lèi)型、管轄機(jī)構(gòu)等不同而變化,法學(xué)家也會(huì)倡導(dǎo)采用與具體情境相適應(yīng)的不同手段保護(hù)不同信息。因此,要而言之,法律上對(duì)個(gè)人信息的定義方式和保護(hù)方法是多變的、受到具體情境影響的。然而,有別于法學(xué)認(rèn)識(shí)和處理上的不確定性,建立在數(shù)學(xué)概念上的計(jì)算機(jī)科學(xué)對(duì)個(gè)人信息保護(hù)的定義模式和保護(hù)模式卻具有普適性、精確性和單一性。因?yàn)橛?jì)算機(jī)科學(xué)領(lǐng)域的研究人員設(shè)計(jì)任何工具的出發(fā)點(diǎn),均只考慮隱私的數(shù)學(xué)定義。也就是說(shuō),如果一個(gè)算法可以通過(guò)數(shù)學(xué)上的證據(jù)(mathematical proof)來(lái)證明,沒(méi)有對(duì)手能夠以“太高”的概率獲悉其中特定個(gè)人的信息或隱私,那么該算法在計(jì)算機(jī)科學(xué)領(lǐng)域,就可以被評(píng)價(jià)為提供了數(shù)據(jù)保護(hù)的算法。明確上述二者之區(qū)別,是彌合法學(xué)與計(jì)算機(jī)科學(xué)在個(gè)人信息保護(hù)問(wèn)題上的認(rèn)識(shí)鴻溝的基本前提。而當(dāng)個(gè)人信息保護(hù)法律框架能完成兼顧技術(shù)邏輯的規(guī)范調(diào)整后,立法者將不會(huì)糾結(jié)于如何在法律中及時(shí)“安放”某些具體的技術(shù)方法,而是會(huì)對(duì)個(gè)人信息保護(hù)的預(yù)期目的采取更具概括性的表述,把重點(diǎn)放在個(gè)人信息的保護(hù)上,而不是手段上。4564BCC3-594A-4023-8C5F-32C953879871

    其次,法律與技術(shù)“協(xié)同共進(jìn)”范式有利于促進(jìn)計(jì)算機(jī)科學(xué)和法學(xué)兩個(gè)學(xué)科在個(gè)人信息保護(hù)方法、策略或工具的研究上,相互協(xié)作、共同進(jìn)步。不可否認(rèn),計(jì)算機(jī)科學(xué)和法學(xué)之間存在明顯的知識(shí)系統(tǒng)和邏輯思維的分野。但其實(shí),在隱私保護(hù)問(wèn)題上,技術(shù)專(zhuān)家很早就將隱私定義為計(jì)算的一種屬性,例如“密碼學(xué)”這一交叉學(xué)科的創(chuàng)立,就是隱私屬性在技術(shù)領(lǐng)域貫徹的例證。然而,盡管技術(shù)研究領(lǐng)域在個(gè)人信息保護(hù)方面獲得了許多理論成果,也開(kāi)發(fā)了很多實(shí)用工具,但是圍繞這些理論和工具的討論,基本上是在一個(gè)獨(dú)立于法律規(guī)范、管理?xiàng)l例、政策方針、倫理守則和最佳實(shí)踐行為的空間里進(jìn)行的。這就造成了計(jì)算機(jī)科學(xué)與法學(xué)“各自為政”的局面。一方面,法學(xué)學(xué)者不能及時(shí)吸納計(jì)算機(jī)科學(xué)的研究成果,加深對(duì)“隱私”“個(gè)人信息”概念及隱私風(fēng)險(xiǎn)評(píng)估等議題的進(jìn)一步理解;也不能在起草相關(guān)法律規(guī)章時(shí),兼顧各種難以理解甚至難以預(yù)料的技術(shù)特性,利用規(guī)則向個(gè)人信息處理者和民眾傳達(dá)出更協(xié)調(diào)一致又更確切的個(gè)人信息保護(hù)要求。另一方面,由于技術(shù)人員亦不了解個(gè)人信息保護(hù)的有關(guān)規(guī)則,所以他們很難有針對(duì)性地設(shè)計(jì)、開(kāi)發(fā)、實(shí)施各種能幫助推進(jìn)法律目標(biāo)實(shí)現(xiàn)的工具和措施,使得法律對(duì)技術(shù)的規(guī)制始終只能從事后追責(zé)角度切入。于此,法律與技術(shù)“協(xié)同共進(jìn)”范式將有利于打破上述僵局,促進(jìn)兩個(gè)學(xué)科形成一種互惠互利的關(guān)系,更好地管理新興技術(shù)發(fā)展帶來(lái)的個(gè)人信息安全風(fēng)險(xiǎn)。

    最后,法律與技術(shù)“協(xié)同共進(jìn)”范式跳脫出了單純的法律治理框架或技術(shù)保護(hù)框架,有利于打造一個(gè)比直接賦權(quán)更具層次的個(gè)人信息保護(hù)制度。事實(shí)上,法律尋求與技術(shù)協(xié)作的嘗試可以追溯到20世紀(jì)。早在20世紀(jì)80年代,研究人員就開(kāi)發(fā)了一系列幫助實(shí)現(xiàn)“公平信息實(shí)踐”原則的“隱私增強(qiáng)技術(shù)”(privacy-enhancing technologies,簡(jiǎn)稱PET)。這些技術(shù)的目標(biāo)包括,在不喪失信息系統(tǒng)功能性的前提下,使在線服務(wù)提供商等盡可能少地收集和使用個(gè)人數(shù)據(jù),最大限度地提高個(gè)人數(shù)據(jù)的安全性,幫助使用相關(guān)技術(shù)工具的用戶更好地管控其由在線服務(wù)提供商等掌握著的個(gè)人可識(shí)別信息等。1995年,在一份關(guān)于PET的聯(lián)合報(bào)告中,一個(gè)聯(lián)合小組正式提出了“通過(guò)設(shè)計(jì)著手保護(hù)隱私”(privacy by design)方法,號(hào)召把隱私保護(hù)嵌入所有正在設(shè)計(jì)的技術(shù)的基本參數(shù)或架構(gòu)中。自此之后,該理念日漸受到行業(yè)認(rèn)可和推崇,并走入立法文件中。例如,歐盟的GDPR就把“通過(guò)設(shè)計(jì)著手保護(hù)隱私”上升為法定要求。歐盟立法對(duì)這一總括性理念的吸收,可謂是“將技術(shù)納入法律規(guī)范的意義結(jié)構(gòu)之中”以保護(hù)個(gè)人信息的成功范例。此外,以“通過(guò)設(shè)計(jì)著手保護(hù)隱私”這類(lèi)理念為代表的法律和技術(shù)協(xié)同考慮范式被納入法律框架,也標(biāo)志著個(gè)人信息保護(hù)路徑從傳統(tǒng)的“知情—同意”框架和個(gè)案中的利益衡量方法,開(kāi)始轉(zhuǎn)向了更全面、更嚴(yán)格、強(qiáng)調(diào)前置性和預(yù)防性的“隱私風(fēng)險(xiǎn)評(píng)估模式”(privacy risk assessment models)。在風(fēng)險(xiǎn)評(píng)估理念的指引下,信息處理者將把關(guān)注焦點(diǎn)從形式主義的合規(guī)要求上,轉(zhuǎn)移到對(duì)個(gè)人信息全生命周期安全的動(dòng)態(tài)保障上;司法機(jī)關(guān)在處理個(gè)人信息權(quán)益糾紛時(shí),也將更注重對(duì)個(gè)人信息處理全過(guò)程的實(shí)質(zhì)審查,而非只看信息處理者在處理個(gè)人信息之初,是否獲得了個(gè)人的同意。

    五、法律與技術(shù)“協(xié)同共進(jìn)”范式下個(gè)人信息保護(hù)法學(xué)研究的變革

    前文已論證了法律與技術(shù)“協(xié)同共進(jìn)”作為一種新研究范式的潛力。不過(guò),要最大程度地發(fā)揮出該范式對(duì)個(gè)人信息保護(hù)研究的指導(dǎo)效用,我們還須處理諸多復(fù)雜又細(xì)致的工作。就法學(xué)研究而言,應(yīng)從研究理念、知識(shí)譜系、研究方式等方面進(jìn)行革新,以更好地聚焦于數(shù)字社會(huì)中的個(gè)人信息保護(hù)議題。

    (一)革新研究理念

    馬克思主義經(jīng)典作家向我們揭示了,社會(huì)物質(zhì)生活條件是法的更深層次的本質(zhì),所以,在一定意義上我們可以說(shuō),當(dāng)代法律理念、理論流派和制度體系都是對(duì)工業(yè)時(shí)代的生產(chǎn)關(guān)系、生活方式、交往方式、社會(huì)關(guān)系和價(jià)值理念的法理抽象和法學(xué)表達(dá)。不過(guò),隨著人類(lèi)邁入數(shù)字社會(huì)后,諸多表征證明了如今社會(huì)上最重要的生產(chǎn)變成了信息生產(chǎn)。而經(jīng)進(jìn)一步分析可知,數(shù)字社會(huì)的信息生產(chǎn)和工業(yè)社會(huì)的機(jī)器生產(chǎn)在生產(chǎn)工具、作用和處理對(duì)象、生產(chǎn)規(guī)律和由此展開(kāi)的社會(huì)關(guān)系等方面,均存在明顯差異,因此,“它將使18世紀(jì)工業(yè)革命以來(lái)圍繞能量與物質(zhì)構(gòu)建的法律秩序向圍繞信息構(gòu)建的法律秩序全面轉(zhuǎn)型”。這過(guò)程里必然包含著革新法學(xué)研究理念之要求。在個(gè)人信息保護(hù)研究方面,理念革新也是學(xué)者們準(zhǔn)確把握數(shù)字時(shí)代的客觀變化、用新思維方式和研究方法進(jìn)行個(gè)人信息保護(hù)理論創(chuàng)新和制度重構(gòu)的基礎(chǔ)。以認(rèn)知法的作用為例,因受到新理念的啟發(fā),研究者將不再把個(gè)人信息保護(hù)法律僅視為是被動(dòng)反映社會(huì)現(xiàn)實(shí)的、具有拘束力的角色,而是設(shè)法把它塑造為積極主動(dòng)地、能協(xié)調(diào)整個(gè)制度內(nèi)的各種要素和各方行動(dòng)者的規(guī)范體系,為解決當(dāng)前數(shù)字信息危機(jī)發(fā)揮出更有效的作用。

    (二)更新知識(shí)譜系

    “近代以來(lái)的知識(shí)譜系和思想基礎(chǔ)在于現(xiàn)代性啟蒙”,而現(xiàn)代性的本質(zhì)規(guī)定性之一,就是個(gè)體的主體性和自我意識(shí)的生成或走向自覺(jué)。這種個(gè)體自由自覺(jué)的生存狀態(tài)不僅成為了現(xiàn)代社會(huì)運(yùn)行的支撐性因素和蓬勃發(fā)展的源泉,也對(duì)現(xiàn)代法律制度的構(gòu)建產(chǎn)生了深遠(yuǎn)影響。正如有學(xué)者已論證的那樣,用“理性人”的標(biāo)準(zhǔn)將現(xiàn)實(shí)世界的人在法律上統(tǒng)一起來(lái),成為“人格人”,將使法律政策的控制變得容易,使每個(gè)人的行為具有可預(yù)測(cè)性,進(jìn)而更好地實(shí)現(xiàn)法律的制度功能。從這個(gè)角度上看,現(xiàn)行建立在“賦權(quán)”范式下的個(gè)人信息保護(hù)法律制度也深受“理性人”理念的影響,因?yàn)樗恰巴ㄟ^(guò)強(qiáng)調(diào)個(gè)人信息主體的自主支配、自主決斷和自己責(zé)任,來(lái)平衡個(gè)人信息的使用和保護(hù)”。然而,信息主體的“理性人”假設(shè)在日益加深的信息鴻溝和權(quán)力鴻溝面前,已遭遇重重困境,因此,研究人員亟需重新審視數(shù)字時(shí)代的“人”的生存現(xiàn)實(shí),并在新的科學(xué)認(rèn)識(shí)下完成對(duì)法學(xué)理論知識(shí)譜系的更新,以更好地回應(yīng)“微粒社會(huì)”中個(gè)人信息保護(hù)的諸多爭(zhēng)論。

    (三)加強(qiáng)對(duì)話合作

    毫無(wú)疑問(wèn),信息技術(shù)革命所引發(fā)的不可逆轉(zhuǎn)的社會(huì)變革,愈發(fā)凸顯了法律與技術(shù)相互賦能的重要性及加強(qiáng)學(xué)科間互動(dòng)合作的必要性。因此,在個(gè)人信息保護(hù)研究領(lǐng)域,我們必須在法學(xué)與計(jì)算機(jī)科學(xué)之間搭建起暢通的資源、知識(shí)共享渠道和交流平臺(tái)??梢灶A(yù)見(jiàn),當(dāng)法學(xué)和計(jì)算機(jī)科學(xué)縮小在個(gè)人信息保護(hù)問(wèn)題上的認(rèn)識(shí)分歧后,將極大改善現(xiàn)今的個(gè)人信息保護(hù)狀況:一方面,因?qū)Ψ梢笥兴私?,?jì)算機(jī)科學(xué)領(lǐng)域的研究人員能在開(kāi)發(fā)數(shù)據(jù)處理技術(shù)時(shí),從建模階段就融入法律和倫理中的隱私期待,奠定技術(shù)向好向善發(fā)展的根基;在設(shè)計(jì)新興隱私和個(gè)人信息保護(hù)工具時(shí),也能及時(shí)判斷該工具是否符合法律所要求的標(biāo)準(zhǔn)、是否能夠迅速投入實(shí)踐使用。另一方面,對(duì)法學(xué)研究來(lái)說(shuō),計(jì)算機(jī)科學(xué)思維下的隱私概念能啟發(fā)法學(xué)學(xué)者去了解什么樣的隱私保護(hù)要求在技術(shù)上是可以被定義和實(shí)現(xiàn)的,從而思考如何利用精確的數(shù)學(xué)語(yǔ)言和數(shù)學(xué)模型為法律服務(wù),促進(jìn)法律的智能轉(zhuǎn)化。值得一提的是,近幾年來(lái),多所國(guó)內(nèi)外大學(xué)已為實(shí)現(xiàn)上述愿景付出了努力,建立起多個(gè)旨在促進(jìn)跨學(xué)科學(xué)習(xí)與合作的項(xiàng)目,并探索了新的法律教育模式和人才培育機(jī)制,這反映了不同學(xué)科的專(zhuān)家、學(xué)者已經(jīng)共同認(rèn)識(shí)到范式轉(zhuǎn)換和學(xué)科變革的時(shí)代需求。

    六、結(jié)語(yǔ)

    范式具有提示研究重點(diǎn)、指導(dǎo)事實(shí)搜索和研究活動(dòng)等作用。當(dāng)研究者們獲得了一個(gè)范式,就是有了一個(gè)選擇問(wèn)題的標(biāo)準(zhǔn),而且這些被選擇的問(wèn)題被認(rèn)為都是有解的。然而一個(gè)范式它不需要,且事實(shí)上絕不可能解釋它所面臨的所有事實(shí)。所以,在哲學(xué)社科領(lǐng)域,范式的唯一性既不可能,也不被接受,因?yàn)樗鼤?huì)阻擋我們發(fā)現(xiàn)新知識(shí)的可能性。當(dāng)前,雖然我國(guó)已經(jīng)頒布了《個(gè)人信息保護(hù)法》,但在變動(dòng)不居的科技發(fā)展面前,越來(lái)越多的學(xué)者已意識(shí)到,個(gè)人信息保護(hù)不存在一勞永逸的方案,現(xiàn)代性法律體系也面臨著前所未有的重大變革。在此局面下,個(gè)人信息保護(hù)研究范式從“賦權(quán)”轉(zhuǎn)向法律與技術(shù)的“協(xié)同共進(jìn)”,將有利于我們?nèi)姘盐张c個(gè)人信息相關(guān)的待決之務(wù)和牽連情事,從更宏觀的視角去探尋個(gè)人信息保護(hù)的諸多可能性。我們相信這一范式的引入將會(huì)拓寬我國(guó)現(xiàn)有的個(gè)人信息保護(hù)研究格局,推動(dòng)我國(guó)個(gè)人信息保護(hù)理論研究、技術(shù)工具研發(fā)和制度建設(shè)取得新的進(jìn)展。4564BCC3-594A-4023-8C5F-32C953879871

    猜你喜歡
    個(gè)人信息保護(hù)賦權(quán)范式
    論鄉(xiāng)村治理的有效賦權(quán)——以A縣扶貧項(xiàng)目為例
    以寫(xiě)促讀:構(gòu)建群文閱讀教學(xué)范式
    甘肅教育(2021年10期)2021-11-02 06:14:08
    范式空白:《莫失莫忘》的否定之維
    企業(yè)數(shù)據(jù)賦權(quán)保護(hù)的反思與求解
    孫惠芬鄉(xiāng)土寫(xiě)作批評(píng)的六個(gè)范式
    試論新媒體賦權(quán)
    活力(2019年15期)2019-09-25 07:22:12
    基于改進(jìn)AHP熵博弈賦權(quán)的輸變電工程評(píng)價(jià)
    管窺西方“詩(shī)辯”發(fā)展史的四次范式轉(zhuǎn)換
    如何做好法律領(lǐng)域的個(gè)人信息保護(hù)
    東方教育(2016年3期)2016-12-14 20:18:10
    我國(guó)大數(shù)據(jù)時(shí)代個(gè)人信息保護(hù)研究綜述
    久久99热这里只频精品6学生| 久久精品aⅴ一区二区三区四区 | 成年人免费黄色播放视频| 国产亚洲午夜精品一区二区久久| 黄频高清免费视频| 男女无遮挡免费网站观看| 亚洲国产欧美网| 汤姆久久久久久久影院中文字幕| 国产又色又爽无遮挡免| 亚洲欧美一区二区三区国产| 国产极品粉嫩免费观看在线| 一区二区日韩欧美中文字幕| 一区二区三区乱码不卡18| av免费在线看不卡| 大陆偷拍与自拍| 国产成人欧美| 亚洲国产av新网站| 国产成人一区二区在线| 蜜桃国产av成人99| 一区二区av电影网| 看免费成人av毛片| 国产精品99久久99久久久不卡 | 精品亚洲成国产av| 爱豆传媒免费全集在线观看| 国产在线视频一区二区| 国产精品免费视频内射| 麻豆av在线久日| 日韩精品免费视频一区二区三区| 9191精品国产免费久久| 日韩av在线免费看完整版不卡| 亚洲伊人色综图| 日本猛色少妇xxxxx猛交久久| 久久精品国产亚洲av高清一级| 久久精品国产鲁丝片午夜精品| 日韩成人av中文字幕在线观看| 成人手机av| 国产成人精品一,二区| 精品少妇内射三级| 精品国产乱码久久久久久男人| 人妻系列 视频| 日日撸夜夜添| 国产成人一区二区在线| 免费黄色在线免费观看| 伦理电影免费视频| 日韩中字成人| 免费看不卡的av| 少妇熟女欧美另类| 日本爱情动作片www.在线观看| 日韩伦理黄色片| 夫妻性生交免费视频一级片| 日韩视频在线欧美| 9热在线视频观看99| 丰满迷人的少妇在线观看| 男女边摸边吃奶| 黑人巨大精品欧美一区二区蜜桃| 校园人妻丝袜中文字幕| 国产一区二区在线观看av| 日韩中字成人| 一区在线观看完整版| 欧美日韩成人在线一区二区| 99国产综合亚洲精品| 91精品三级在线观看| 亚洲,欧美精品.| 午夜福利,免费看| 青春草视频在线免费观看| 天天躁夜夜躁狠狠躁躁| 黄网站色视频无遮挡免费观看| 国产精品熟女久久久久浪| 日日爽夜夜爽网站| 久久人人爽av亚洲精品天堂| 国产精品免费大片| 久久久久久伊人网av| 亚洲熟女精品中文字幕| 欧美人与善性xxx| 黄色视频在线播放观看不卡| 国产精品秋霞免费鲁丝片| 欧美人与善性xxx| 精品亚洲成a人片在线观看| 美女中出高潮动态图| 菩萨蛮人人尽说江南好唐韦庄| 黄色一级大片看看| 国产欧美日韩一区二区三区在线| av在线播放精品| 精品国产一区二区久久| 国产高清不卡午夜福利| 男男h啪啪无遮挡| 99热国产这里只有精品6| 久久久久精品人妻al黑| 亚洲精品中文字幕在线视频| 亚洲av电影在线观看一区二区三区| 欧美日本中文国产一区发布| 一本大道久久a久久精品| 成人黄色视频免费在线看| kizo精华| 韩国av在线不卡| av不卡在线播放| 国产精品女同一区二区软件| 制服人妻中文乱码| 国产亚洲午夜精品一区二区久久| 18禁裸乳无遮挡动漫免费视频| 日韩av不卡免费在线播放| 美女脱内裤让男人舔精品视频| 捣出白浆h1v1| 亚洲精品中文字幕在线视频| 最近2019中文字幕mv第一页| 久久精品夜色国产| 欧美精品av麻豆av| 亚洲国产av新网站| 亚洲人成电影观看| 国产免费现黄频在线看| 1024香蕉在线观看| 女性被躁到高潮视频| 国产成人a∨麻豆精品| 日韩中文字幕视频在线看片| 永久免费av网站大全| 国产成人午夜福利电影在线观看| 婷婷色av中文字幕| 国产 精品1| 亚洲,一卡二卡三卡| 国产成人免费观看mmmm| 青草久久国产| 人体艺术视频欧美日本| 欧美变态另类bdsm刘玥| 乱人伦中国视频| 97精品久久久久久久久久精品| 亚洲欧美一区二区三区久久| 国产精品女同一区二区软件| av一本久久久久| 亚洲欧洲日产国产| 亚洲成国产人片在线观看| 黄频高清免费视频| 色94色欧美一区二区| 亚洲第一av免费看| 国产在线一区二区三区精| 精品久久久精品久久久| 亚洲国产精品一区三区| 精品国产一区二区久久| 国产成人精品久久二区二区91 | 两个人看的免费小视频| 日本av免费视频播放| 国产白丝娇喘喷水9色精品| 巨乳人妻的诱惑在线观看| 天天躁夜夜躁狠狠躁躁| 国产乱来视频区| 热99国产精品久久久久久7| 天美传媒精品一区二区| 亚洲伊人久久精品综合| 国产一区二区激情短视频 | 国产免费一区二区三区四区乱码| 久久久久精品久久久久真实原创| 制服丝袜香蕉在线| 国产精品.久久久| 免费看不卡的av| 精品99又大又爽又粗少妇毛片| 一区二区三区乱码不卡18| h视频一区二区三区| 99re6热这里在线精品视频| av有码第一页| 寂寞人妻少妇视频99o| 波多野结衣一区麻豆| 成人国产麻豆网| 国产精品免费大片| 青青草视频在线视频观看| 午夜福利视频精品| 丰满迷人的少妇在线观看| 免费观看性生交大片5| 久久久久久久久免费视频了| 免费观看无遮挡的男女| 卡戴珊不雅视频在线播放| 一本大道久久a久久精品| 久久精品夜色国产| 一个人免费看片子| 在线天堂中文资源库| 日本免费在线观看一区| 永久免费av网站大全| 久久精品亚洲av国产电影网| 女人精品久久久久毛片| 日日摸夜夜添夜夜爱| 不卡av一区二区三区| 国产一级毛片在线| 精品一区二区三卡| a级片在线免费高清观看视频| 亚洲经典国产精华液单| 寂寞人妻少妇视频99o| 制服诱惑二区| 少妇被粗大猛烈的视频| 一本—道久久a久久精品蜜桃钙片| 国产综合精华液| 久久国内精品自在自线图片| 久久精品久久久久久久性| 精品视频人人做人人爽| 在线精品无人区一区二区三| 久久久久久久久久人人人人人人| 永久免费av网站大全| 两性夫妻黄色片| 亚洲av福利一区| 亚洲成人手机| 黄色视频在线播放观看不卡| 亚洲国产成人一精品久久久| 国产又爽黄色视频| 亚洲在久久综合| 精品国产露脸久久av麻豆| 亚洲av国产av综合av卡| 少妇的丰满在线观看| 色视频在线一区二区三区| 欧美日韩国产mv在线观看视频| 久久久久久人人人人人| 国产av一区二区精品久久| 亚洲av日韩在线播放| 欧美bdsm另类| 男女边吃奶边做爰视频| 黄色毛片三级朝国网站| 国产片特级美女逼逼视频| 欧美亚洲日本最大视频资源| 国产成人精品一,二区| 美女高潮到喷水免费观看| 精品福利永久在线观看| 男人操女人黄网站| 男女边吃奶边做爰视频| 一区二区三区乱码不卡18| 飞空精品影院首页| 精品少妇黑人巨大在线播放| av.在线天堂| freevideosex欧美| 国产野战对白在线观看| 亚洲美女搞黄在线观看| 亚洲第一青青草原| 久久精品国产亚洲av涩爱| av.在线天堂| 男女边摸边吃奶| 各种免费的搞黄视频| 91精品国产国语对白视频| 国产精品嫩草影院av在线观看| 久久午夜福利片| 2021少妇久久久久久久久久久| 国产亚洲一区二区精品| 热99久久久久精品小说推荐| 日韩熟女老妇一区二区性免费视频| 亚洲色图 男人天堂 中文字幕| 久久久久视频综合| 国产成人免费无遮挡视频| 韩国av在线不卡| 男女无遮挡免费网站观看| 免费观看av网站的网址| 成人国产av品久久久| 寂寞人妻少妇视频99o| 美女高潮到喷水免费观看| 这个男人来自地球电影免费观看 | 日日撸夜夜添| 美女福利国产在线| 麻豆乱淫一区二区| 赤兔流量卡办理| 男女免费视频国产| 成人国产av品久久久| 深夜精品福利| 日韩一本色道免费dvd| 男女边吃奶边做爰视频| 女性被躁到高潮视频| av线在线观看网站| 亚洲久久久国产精品| 亚洲第一区二区三区不卡| 久久久久精品久久久久真实原创| 观看美女的网站| 建设人人有责人人尽责人人享有的| 欧美变态另类bdsm刘玥| 男女免费视频国产| 日韩大片免费观看网站| 黄色毛片三级朝国网站| 丰满饥渴人妻一区二区三| 尾随美女入室| 青草久久国产| 精品第一国产精品| 水蜜桃什么品种好| 涩涩av久久男人的天堂| 免费大片黄手机在线观看| 男人操女人黄网站| 国产人伦9x9x在线观看 | 国产一区二区三区综合在线观看| 只有这里有精品99| 男女国产视频网站| 国产在视频线精品| 韩国精品一区二区三区| 久久毛片免费看一区二区三区| 欧美日韩综合久久久久久| 国产精品秋霞免费鲁丝片| 久久99热这里只频精品6学生| 97人妻天天添夜夜摸| 91成人精品电影| 国产高清不卡午夜福利| 国产极品粉嫩免费观看在线| 91精品伊人久久大香线蕉| 成人二区视频| 久久亚洲国产成人精品v| 男女边摸边吃奶| 国产精品免费大片| 五月天丁香电影| 久久国产精品男人的天堂亚洲| 中文字幕另类日韩欧美亚洲嫩草| 日韩制服骚丝袜av| 日本爱情动作片www.在线观看| 三上悠亚av全集在线观看| 亚洲欧美成人精品一区二区| 日韩人妻精品一区2区三区| 免费久久久久久久精品成人欧美视频| av不卡在线播放| 久久狼人影院| 亚洲av日韩在线播放| 国产精品三级大全| 下体分泌物呈黄色| 人人妻人人爽人人添夜夜欢视频| 午夜av观看不卡| 美女xxoo啪啪120秒动态图| 人妻人人澡人人爽人人| av在线老鸭窝| 国产精品.久久久| 欧美亚洲 丝袜 人妻 在线| 午夜久久久在线观看| 亚洲欧美精品综合一区二区三区 | 中文字幕人妻丝袜一区二区 | 成人免费观看视频高清| 国产极品天堂在线| 美女xxoo啪啪120秒动态图| 国产成人欧美| 国产一区二区激情短视频 | av片东京热男人的天堂| 热re99久久国产66热| 国产乱人偷精品视频| 国产av精品麻豆| 亚洲综合色惰| av女优亚洲男人天堂| 少妇被粗大的猛进出69影院| 日韩av在线免费看完整版不卡| 制服人妻中文乱码| 精品国产超薄肉色丝袜足j| 精品少妇黑人巨大在线播放| 亚洲国产av新网站| 欧美精品国产亚洲| 91精品伊人久久大香线蕉| 在线观看人妻少妇| 永久免费av网站大全| 欧美精品国产亚洲| 亚洲欧美精品综合一区二区三区 | 国产成人精品无人区| 黑人猛操日本美女一级片| 免费黄色在线免费观看| 国产伦理片在线播放av一区| 免费人妻精品一区二区三区视频| 久久热在线av| 亚洲少妇的诱惑av| 叶爱在线成人免费视频播放| xxx大片免费视频| 日韩 亚洲 欧美在线| 日韩精品免费视频一区二区三区| 一区二区三区精品91| 欧美日韩视频高清一区二区三区二| 老汉色∧v一级毛片| 欧美激情极品国产一区二区三区| 美女国产视频在线观看| 校园人妻丝袜中文字幕| 国产精品久久久久久久久免| 国产精品二区激情视频| 欧美日韩精品成人综合77777| 国产免费一区二区三区四区乱码| 国产亚洲精品第一综合不卡| 人成视频在线观看免费观看| 男女边吃奶边做爰视频| 三级国产精品片| 日韩,欧美,国产一区二区三区| 免费在线观看黄色视频的| 精品卡一卡二卡四卡免费| 乱人伦中国视频| 永久网站在线| 国产精品一区二区在线不卡| 欧美 日韩 精品 国产| 成人免费观看视频高清| 99热网站在线观看| 国产精品久久久久成人av| 欧美97在线视频| 亚洲精品aⅴ在线观看| 亚洲精品国产一区二区精华液| 人妻少妇偷人精品九色| 两个人免费观看高清视频| 中文欧美无线码| 国产成人免费无遮挡视频| 女人高潮潮喷娇喘18禁视频| 国产成人精品久久久久久| 亚洲综合色惰| 亚洲精品国产av成人精品| 成年女人在线观看亚洲视频| 国产精品偷伦视频观看了| 久久 成人 亚洲| av在线老鸭窝| 亚洲av中文av极速乱| 国产精品女同一区二区软件| 久久人人97超碰香蕉20202| 中文字幕另类日韩欧美亚洲嫩草| 国产激情久久老熟女| 一级黄片播放器| 日本黄色日本黄色录像| 十分钟在线观看高清视频www| 一二三四在线观看免费中文在| 国产成人午夜福利电影在线观看| 亚洲欧洲国产日韩| 黄网站色视频无遮挡免费观看| 亚洲第一区二区三区不卡| 在线观看免费高清a一片| 男人添女人高潮全过程视频| 两性夫妻黄色片| 国产精品久久久久久精品电影小说| 精品人妻熟女毛片av久久网站| 精品午夜福利在线看| 亚洲图色成人| 香蕉国产在线看| 亚洲欧美中文字幕日韩二区| 成人免费观看视频高清| 成人影院久久| 亚洲国产欧美日韩在线播放| 狠狠婷婷综合久久久久久88av| 精品少妇久久久久久888优播| 免费黄频网站在线观看国产| 成年美女黄网站色视频大全免费| 丰满少妇做爰视频| 成人亚洲精品一区在线观看| 人人妻人人添人人爽欧美一区卜| 在线观看免费视频网站a站| 丝袜人妻中文字幕| 国语对白做爰xxxⅹ性视频网站| 黑丝袜美女国产一区| 日本猛色少妇xxxxx猛交久久| 国产无遮挡羞羞视频在线观看| 亚洲第一区二区三区不卡| 国产人伦9x9x在线观看 | 久久精品久久久久久噜噜老黄| 老司机亚洲免费影院| 黄片小视频在线播放| 国产精品人妻久久久影院| 久久精品国产鲁丝片午夜精品| 黄片无遮挡物在线观看| 高清欧美精品videossex| 国产成人午夜福利电影在线观看| 国产麻豆69| 天堂俺去俺来也www色官网| 熟女电影av网| 婷婷色综合www| 熟女电影av网| 丝袜美足系列| 亚洲经典国产精华液单| 在线观看国产h片| 亚洲精品一二三| 男女国产视频网站| 国产淫语在线视频| 少妇的丰满在线观看| 少妇精品久久久久久久| 亚洲av.av天堂| 在线亚洲精品国产二区图片欧美| 美女大奶头黄色视频| 国产精品久久久久久av不卡| 久久狼人影院| 国产麻豆69| 少妇 在线观看| 国产免费现黄频在线看| 男女高潮啪啪啪动态图| 波多野结衣av一区二区av| 亚洲熟女精品中文字幕| 99久国产av精品国产电影| 精品少妇黑人巨大在线播放| av网站在线播放免费| 欧美 日韩 精品 国产| 久久久久精品性色| 99re6热这里在线精品视频| www.精华液| 国产亚洲精品第一综合不卡| 波多野结衣一区麻豆| 免费在线观看视频国产中文字幕亚洲 | 美女福利国产在线| 在线精品无人区一区二区三| av一本久久久久| 秋霞伦理黄片| 99热国产这里只有精品6| av女优亚洲男人天堂| 看十八女毛片水多多多| 成人漫画全彩无遮挡| 久久狼人影院| 亚洲欧洲国产日韩| 99热全是精品| 免费观看在线日韩| 美女xxoo啪啪120秒动态图| 丁香六月天网| 日本av免费视频播放| 免费日韩欧美在线观看| 日韩,欧美,国产一区二区三区| 97在线视频观看| 高清在线视频一区二区三区| 91国产中文字幕| 99热全是精品| 91国产中文字幕| 国产一级毛片在线| 亚洲一区二区三区欧美精品| 一本久久精品| 亚洲成人av在线免费| 一本大道久久a久久精品| 肉色欧美久久久久久久蜜桃| 午夜老司机福利剧场| 国产探花极品一区二区| 欧美国产精品一级二级三级| 老女人水多毛片| 日韩不卡一区二区三区视频在线| 国产乱来视频区| 免费观看在线日韩| 男男h啪啪无遮挡| 十八禁网站网址无遮挡| 国产高清国产精品国产三级| 国产又爽黄色视频| 最近最新中文字幕免费大全7| 蜜桃国产av成人99| 亚洲av欧美aⅴ国产| 亚洲欧美一区二区三区久久| 在线精品无人区一区二区三| 午夜久久久在线观看| 精品人妻一区二区三区麻豆| 国产精品无大码| 久久久久网色| 90打野战视频偷拍视频| 亚洲精品av麻豆狂野| 1024香蕉在线观看| 高清av免费在线| 精品亚洲成a人片在线观看| 免费观看a级毛片全部| 一级a爱视频在线免费观看| 免费观看av网站的网址| 卡戴珊不雅视频在线播放| 亚洲第一青青草原| 亚洲欧洲日产国产| 日本欧美视频一区| 精品国产乱码久久久久久小说| 久久人人爽人人片av| 免费女性裸体啪啪无遮挡网站| av在线播放精品| 午夜福利,免费看| 多毛熟女@视频| 久久久国产欧美日韩av| 日韩不卡一区二区三区视频在线| 亚洲av综合色区一区| 国产黄频视频在线观看| 亚洲五月色婷婷综合| 纵有疾风起免费观看全集完整版| 欧美日韩国产mv在线观看视频| 99国产精品免费福利视频| 免费av中文字幕在线| 国产精品久久久av美女十八| 少妇被粗大猛烈的视频| av女优亚洲男人天堂| 黄频高清免费视频| 国产精品久久久久成人av| 亚洲av电影在线进入| 免费观看无遮挡的男女| 国产xxxxx性猛交| 日韩一卡2卡3卡4卡2021年| 中文字幕制服av| 久久99蜜桃精品久久| 热re99久久国产66热| 在线观看一区二区三区激情| 美女国产视频在线观看| 丁香六月天网| 精品一区二区免费观看| 自线自在国产av| 免费在线观看黄色视频的| 久久久久久免费高清国产稀缺| 男女啪啪激烈高潮av片| 丝袜脚勾引网站| 寂寞人妻少妇视频99o| 中文字幕精品免费在线观看视频| 免费高清在线观看日韩| 精品少妇内射三级| 国产成人精品在线电影| 综合色丁香网| 欧美激情 高清一区二区三区| 丰满乱子伦码专区| 亚洲第一av免费看| 日韩三级伦理在线观看| 新久久久久国产一级毛片| 亚洲欧美成人综合另类久久久| 18禁观看日本| 亚洲美女视频黄频| 久久人人97超碰香蕉20202| 久久精品久久久久久噜噜老黄| 中文字幕制服av| 久久久久精品久久久久真实原创| 飞空精品影院首页| 欧美日韩一区二区视频在线观看视频在线| 日韩欧美精品免费久久| 国产精品av久久久久免费| 好男人视频免费观看在线| 性高湖久久久久久久久免费观看| 卡戴珊不雅视频在线播放| 国产av精品麻豆| 亚洲综合精品二区| 国产av码专区亚洲av| 毛片一级片免费看久久久久| 成人亚洲精品一区在线观看| 大片免费播放器 马上看| 欧美最新免费一区二区三区| videossex国产| 老司机影院毛片| 婷婷色综合www| 在线看a的网站| 黄色视频在线播放观看不卡| 欧美日韩成人在线一区二区| 久久久精品区二区三区| 日本色播在线视频| 如何舔出高潮| 看非洲黑人一级黄片| 欧美成人午夜免费资源| av免费在线看不卡| 欧美在线黄色|