• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    大數(shù)據(jù)時代兒童數(shù)據(jù)法律保護的 困境及其應對
    ——兼評歐盟《一般數(shù)據(jù)保護條例》的相關規(guī)定

    2018-11-12 20:38:08付新華
    暨南學報(哲學社會科學版) 2018年12期
    關鍵詞:數(shù)據(jù)保護服務提供者界限

    付新華

    我們都曾經(jīng)是兒童。我們都希望孩子們幸福,這一直并將繼續(xù)是人類最普遍珍視的愿望。

    ——《我們兒童:世界兒童問題首腦會議后續(xù)行動十年期終審查》

    對兒童數(shù)據(jù)進行專門保護是大數(shù)據(jù)時代的一項世界性議題。兒童是當今時代一個非常龐大的網(wǎng)絡用戶群體,據(jù)國外研究顯示,世界上約有三分之一的網(wǎng)絡用戶是兒童。我國兒童網(wǎng)絡用戶群體亦非常龐大,截至2017年6月我國的網(wǎng)民規(guī)模達到了7.51億,其中兒童網(wǎng)民約為1.69億,占網(wǎng)民總數(shù)的23.1%。據(jù)青少年藍皮書《中國未成年人互聯(lián)網(wǎng)運用和閱讀實踐報告(2017—2018)》顯示,根據(jù)2017年底的調(diào)查數(shù)據(jù),被調(diào)查未成年人互聯(lián)網(wǎng)運用的總體普及率高達98.1%,10歲之前觸網(wǎng)的比例高達72.0%,比2010年的55.9%顯著增加,2017年底7歲(學齡前)觸網(wǎng)比例達到27.9%。小學生群體有自己手機的占比達到了64.2%,初中生為71.3%,高中生為86.9%??梢娢覈鴥和|網(wǎng)年齡呈低齡化趨勢。大數(shù)據(jù)時代,越來越多的網(wǎng)絡服務提供者開始收集、分析和使用兒童數(shù)據(jù),引發(fā)了兒童的數(shù)字身份失控、隱私風險增加和潛在的歧視傾向等問題,可能對兒童造成比成人更嚴重和持久的不良影響。當前的網(wǎng)絡治理規(guī)范存在以成人為中心(adult-centric)和不區(qū)分年齡層次的年齡通用(age-generic)問題,網(wǎng)絡服務提供者也往往忽略兒童的特殊保護需求。如何將線下的傳統(tǒng)道德標準適用于大數(shù)據(jù)時代的網(wǎng)絡環(huán)境,國內(nèi)外很少有明晰的理解和集中的研討。在對大數(shù)據(jù)越來越依賴的今天,兒童和兒童權利辯護者的聲音沒有得到足夠的重視。我國對大數(shù)據(jù)時代兒童數(shù)據(jù)法律保護的研究也基本處于缺位狀態(tài)。2016年4月歐盟通過了《一般數(shù)據(jù)保護條例》(2016/679)(本文簡稱“GDPR”),序言第38條明確指出需要對兒童數(shù)據(jù)給予特殊保護,因為兒童可能較少意識到有關的風險、后果、保障措施及相關權利。GDPR自頒布以來,其法律適用的效力等問題受到了很多學者的關注,但在兒童數(shù)據(jù)保護方面,則很少被探討和論爭。有鑒于此,本文將從兒童的特殊性出發(fā),探討大數(shù)據(jù)時代保護兒童數(shù)據(jù)的現(xiàn)實必要性,圍繞兒童數(shù)據(jù)法律保護的困境及其應對展開討論,并對歐盟GDPR的相關規(guī)定進行評析,以期為我國《未成年人網(wǎng)絡保護條例》的正式出臺提供參考借鑒。

    一、兒童數(shù)據(jù)法律保護的必要性與兩大困境

    (一)兒童數(shù)據(jù)法律保護的現(xiàn)實必要性

    大數(shù)據(jù)為兒童帶來許多益處的同時也帶來了諸多負面效應。一方面數(shù)據(jù)科學的發(fā)展對兒童的發(fā)展保護、成長參與及獲得服務等方面產(chǎn)生了積極影響。另一方面大數(shù)據(jù)也給兒童帶來了數(shù)字身份失控、在線隱私風險增加及潛在歧視傾向等負面問題,由此產(chǎn)生了大數(shù)據(jù)時代收集、分析和處理兒童數(shù)據(jù)的合法性問題。兒童能否受益于大數(shù)據(jù)的發(fā)展,取決于我們對待潛在風險的態(tài)度和采取的保護措施。

    1.數(shù)字身份失控和數(shù)據(jù)持久性

    數(shù)字身份是“通過一系列社交媒體工具創(chuàng)建的跨多個在線平臺的身份合并”。大數(shù)據(jù)時代構成兒童數(shù)字身份的參與者包括數(shù)據(jù)提供者和對數(shù)據(jù)進行收集、分析、使用的網(wǎng)絡服務提供者。網(wǎng)絡生活早已成為兒童日常生活的一部分,很多網(wǎng)絡活動已經(jīng)在一定程度上取代了傳統(tǒng)的線下社交、娛樂與學習方式,兒童經(jīng)常在網(wǎng)絡社交媒體等平臺上分享個人動態(tài)、照片和位置等信息,這樣的網(wǎng)絡活動幾乎伴隨著兒童的成長。這意味著網(wǎng)絡服務提供者不僅可以獲得兒童上網(wǎng)的實時數(shù)據(jù),還可以獲得兒童的成長歷程數(shù)據(jù)。從兒童數(shù)據(jù)提供者的角度來看,兒童本人及其家人、同學、朋友等網(wǎng)絡用戶均可能上傳有關兒童的個人數(shù)據(jù)(文字描述、照片、視頻等)。其他網(wǎng)絡用戶提供的信息可能比兒童本人提供的信息對其產(chǎn)生的影響更大,例如許多父母經(jīng)常在社交媒體等網(wǎng)站中“曬娃”??梢哉f,兒童及其父母對這些數(shù)據(jù)對兒童人格聲譽、未來發(fā)展的不利影響尚缺乏足夠認識。

    大數(shù)據(jù)、云計算、物聯(lián)網(wǎng)、人工智能等數(shù)據(jù)科學的發(fā)展使得數(shù)據(jù)的收集、保存和分析更為容易,越來越多的網(wǎng)絡服務提供者出于商業(yè)目的收集、分析和處理兒童數(shù)據(jù)。網(wǎng)絡服務提供者除了收集兒童數(shù)據(jù)供自身使用外,往往還會將其收集的兒童數(shù)據(jù)傳輸或出售給其他網(wǎng)絡服務提供者。聯(lián)合國兒童基金會研究中心倫理顧問加布里埃爾·伯曼(Gabrielle Berman)等兒童權利專家對此表示了擔憂:“從兒童身上收集的網(wǎng)絡數(shù)據(jù)可能在未來不確定的時刻,被網(wǎng)絡服務提供者用不確定的算法用于不確定的客戶端,以創(chuàng)建兒童所不知道的數(shù)字身份。”大數(shù)據(jù)時代,網(wǎng)絡服務提供者是構建兒童數(shù)字身份的重要參與者,兒童數(shù)字身份極易被其擴散和傳播,兒童及其父母正逐漸失去對兒童數(shù)字身份的控制。管理數(shù)字身份對成年人來講即非易事,對于兒童則更加困難。

    網(wǎng)絡數(shù)據(jù)還具有持久性特點,一旦產(chǎn)生便很難徹底刪除。對于人類的大腦記憶而言,遺忘是常態(tài),記憶是例外;數(shù)字時代,記憶與遺忘發(fā)生了反轉(zhuǎn),記憶成為常態(tài),遺忘成為例外。GDPR第17條規(guī)定了被遺忘權,旨在賦予大數(shù)據(jù)時代數(shù)據(jù)主體要求數(shù)據(jù)控制者刪除不適當?shù)膫€人數(shù)據(jù)的權利,被遺忘權被認為尤其有利于兒童。雖然數(shù)據(jù)的持久性特點對兒童和成人均會產(chǎn)生影響,但由于兒童的心智尚未成熟,風險意識和理解能力較差,這些數(shù)據(jù)對兒童的數(shù)字身份有著更為重要的意義。一面是失控的數(shù)字身份,一面是持久存在的網(wǎng)絡數(shù)據(jù),二者均為大數(shù)據(jù)時代兒童數(shù)據(jù)的收集、分析和處理等行為帶來了合法性的倫理挑戰(zhàn)。

    2.隱私風險增加與潛在歧視傾向

    隨著物聯(lián)網(wǎng)技術的快速發(fā)展,各種兒童智能聯(lián)網(wǎng)設備層出不窮,如嬰兒監(jiān)視器、智能玩具、智能電話手表等,但其隱私安全設置卻往往存在漏洞,黑客利用這些漏洞可以跟蹤、監(jiān)視兒童的行為,嚴重侵害兒童隱私,甚至威脅兒童的人身安全。目前,我國許多家庭都安裝了嬰兒監(jiān)視器以隨時了解孩子的行為和狀態(tài),確保孩子的安全。然而,研究人員發(fā)現(xiàn)嬰兒監(jiān)視器并不安全,其中存在大量的安全漏洞可能被不法人員利用,對兒童和家庭隱私造成嚴重威脅。智能玩具上的傳感器、麥克風、攝像頭、存儲設備、語音識別技術、互聯(lián)網(wǎng)連接和GPS等被用來記錄兒童的聲音和行為信息,并以此來調(diào)整與孩子的互動內(nèi)容,成為不法分子竊取用戶信息的新通道。近年來,香港偉易達集團、美國費雪集團、美國KGPS公司等智能玩具廠商均發(fā)生了大規(guī)模兒童信息泄露事件,例如,香港偉易達集團2015年曾致使全球600萬兒童和400萬家長的用戶身份、賬戶密碼、密保問題和答案在內(nèi)的海量用戶信息遭到泄露。2017年,德國聯(lián)邦網(wǎng)絡管理局宣布在德國境內(nèi)下架一款美國生產(chǎn)的“凱拉”玩具,該玩具裝有攝像頭和麥克風,可以聯(lián)網(wǎng)傳輸數(shù)據(jù)并在用戶未察覺的情況下上傳兒童數(shù)據(jù),嚴重威脅兒童隱私和安全。兒童智能電話手表近年來深受我國家長的歡迎,然而兒童電話手表同樣存在巨大的安全問題。通過兒童電話手表黑客可以很容易地監(jiān)聽兒童的通話、跟蹤兒童的位置,因此,德國聯(lián)邦網(wǎng)絡管理局已在德國境內(nèi)禁售電話手表。我國兒童智能聯(lián)網(wǎng)設備的開發(fā)商大多是新興創(chuàng)業(yè)團體,沒有意識也沒有能力構建穩(wěn)健的兒童數(shù)據(jù)保護機制,經(jīng)常以明文形式存儲或傳輸兒童數(shù)據(jù),為兒童隱私和數(shù)據(jù)安全埋下了巨大隱患。數(shù)據(jù)挖掘技術將智能聯(lián)網(wǎng)設備收集和傳輸?shù)膬和瘮?shù)據(jù)聚合起來加以分析,在網(wǎng)上創(chuàng)建兒童的身份信息和詳細檔案,使保護兒童在線隱私的形勢更加嚴峻。

    大數(shù)據(jù)分析還可能引發(fā)對兒童的潛在歧視和不公平待遇。美國少年司法系統(tǒng)已開始應用大數(shù)據(jù)和算法來預測“危險青年”以減少少年犯再犯的可能,算法的非透明性導致這種預測很可能存在歧視傾向,并且很難被發(fā)現(xiàn)和評估。美國普林斯頓大學信息技術政策研究中心研究員梭倫·巴羅卡(Solon Barocas)總結了大數(shù)據(jù)挖掘可能引起潛在歧視的三種情形:一是采用不透明的算法定義某些群組(如地理位置或健康概況)可能導致難以辨別的有意識歧視;二是采用缺乏代表性的數(shù)據(jù)導致結論不準確,如特定樣本中邊緣化群體的比例失實(不足或過多);三是由于過度依賴特定數(shù)據(jù)來源進行決策造成的歧視。因此,在信息不對稱或數(shù)字鴻溝日益擴大的時代,采用不透明的算法、有偏見的分類及無代表性的數(shù)據(jù)均可能導致歧視或不公平待遇。

    綜上,大數(shù)據(jù)時代兒童數(shù)字身份失控、數(shù)據(jù)持久性、隱私風險增加和潛在歧視傾向等問題,帶來了兒童數(shù)據(jù)收集、分析、使用的合法性挑戰(zhàn),亟須對兒童的個人數(shù)據(jù)進行法律保護。

    (二)兒童數(shù)據(jù)法律保護的兩大困境

    由于兒童的特殊性,兒童數(shù)據(jù)的法律保護需綜合考量兒童的成熟度和不同網(wǎng)絡場景等因素來決定是否賦予其自我決策的權利。荷蘭學者米爾達·馬賽納特(Milda Macenaite)指出大數(shù)據(jù)時代兒童數(shù)據(jù)的法律保護面臨兩大困境:“賦權與保護”困境和“個性化與平均年齡”困境。雖然這兩大困境在兒童權利法中早有體現(xiàn),但大數(shù)據(jù)時代使其有了新的含義和語境。

    1.“賦權與保護”困境(Empowerment vs protection)

    “賦權與保護”是大數(shù)據(jù)時代兒童數(shù)據(jù)法律保護面臨的首要困境?!堵?lián)合國兒童權利公約》(下文簡稱“UNCRC”)中的保護性條款與賦權性條款之間存在一定的緊張關系。保護性條款是針對兒童的脆弱性、依賴成年人和需要身心照顧等特點對其進行行為干預的保護性規(guī)定,如國家干預、父母干預等;賦權性規(guī)定是因為兒童處于不斷成長和發(fā)展中,具有“不斷發(fā)展的能力”(the involving capacity),理解力和成熟度會隨著年齡的增長逐漸提高,因此需要賦予其自我決策與參與的權利,如自由表達思想和發(fā)表言論等接近成年人的權利。保護性規(guī)定與賦權性規(guī)定之間的沖突表現(xiàn)在兩方面:一方面,從兒童的最大利益出發(fā),往往需要賦予兒童自我決策與參與的權利,但兒童作為“成人干預的受益者”和“自我決策的代理人”之間存在一定的矛盾。換言之,如果賦權性規(guī)定過多,可能會導致對兒童的保護不力;如果保護性規(guī)定過多,則可能限制兒童的自我決策權等賦權性利益。另一方面,“賦權與保護”困境不能被徹底消除,只能在“賦權”與“保護”之間尋求一定的平衡。因此,如何平衡兩者之間的關系,在給予兒童充分保護的同時避免過度保護是兒童權利法最大的難題。

    大數(shù)據(jù)時代,兒童數(shù)據(jù)法律保護面臨的“賦權與保護”困境形勢更加嚴峻。大數(shù)據(jù)時代給兒童帶來的利益和風險同步增加,但由于其知識水平和認知能力的局限,對風險往往缺乏認識。網(wǎng)絡生活已經(jīng)成為兒童日常生活必不可少的一部分,他們通過網(wǎng)絡獲取各種各樣的信息,不斷學習成長,因此有必要賦予兒童上網(wǎng)和決策相關事務的權利;同時,大數(shù)據(jù)時代的兒童面臨著數(shù)字身份失控、隱私風險增加和潛在歧視傾向等問題,亟須對兒童的數(shù)據(jù)權利進行保護。可以說,“賦權與保護”困境是大數(shù)據(jù)時代兒童數(shù)據(jù)法律保護面臨的最大挑戰(zhàn)。

    2.“個性化與平均年齡”困境(Individual vs average age)

    “個性化與平均年齡”困境部分來源于“賦權與保護”困境。兒童的成熟度評估可以幫助解決“賦權與保護”困境面臨的部分問題,即對達到一定成熟度的兒童賦予其自我決策的權利,對未達到一定成熟度的兒童給予一定的保護。目前,對兒童進行成熟度評估主要有兩種方法,一是劃定一個明確的年齡界限作為所有兒童是否成熟的分界線,二是對每個兒童的成熟度進行個性化的評估。從法律適用的角度來看,采用明確的年齡界限可以限制司法者的自由裁量權且執(zhí)行起來更為容易,但也容易造成“一刀切”,忽視兒童的個體差異。人類學家瑪麗·道格拉斯也認為:“為了滿足社會對清晰度和一致性的要求,人們經(jīng)常努力劃定一條年齡界限以確定孩子是否具有完全法律能力,然而這通常是人為的和武斷的。”事實上,即使是相同年齡的兒童,由于先天和后天環(huán)境等因素的影響,各方面能力的差異往往很大,因此,對每個兒童進行個性化評估可以更好地照顧到能力較強兒童從事相關活動的需求。然而,對每一個兒童的成熟度逐一進行個案評估,執(zhí)行起來會非常困難,也會對網(wǎng)絡服務提供者造成過度的負擔。因此,如何處理“個性化”和“平均年齡”之間的關系是大數(shù)據(jù)時代兒童數(shù)據(jù)法律保護面臨的另一困境。

    二、歐盟GDPR的困境應對及其局限

    歐盟《個人數(shù)據(jù)保護指令》(95/46/EC)(下文簡稱《95指令》)制定于1995年,當時的網(wǎng)絡環(huán)境對個人數(shù)據(jù)的收集和利用沒有如今這么普遍,因此《95指令》沒有針對兒童數(shù)據(jù)保護的特殊規(guī)定。大數(shù)據(jù)時代,網(wǎng)絡服務提供者為了商業(yè)目的,采用追蹤兒童軌跡、對兒童進行數(shù)字畫像、精準廣告等方式挖掘和利用兒童的商業(yè)價值,使得兒童的數(shù)據(jù)和隱私保護問題變得更加突出。歐盟充分認識到大數(shù)據(jù)時代保護兒童數(shù)據(jù)權利的迫切性,2016年通過了GDPR,為解決大數(shù)據(jù)時代兒童數(shù)據(jù)法律保護的兩大困境作出了努力,具有一定的進步意義,但仍存在一定的問題。

    (一)GDPR對“賦權與保護”困境的應對與局限

    1. GDPR的賦權性規(guī)定

    GDPR的賦權性規(guī)定主要包括數(shù)據(jù)透明權(第12條)、數(shù)據(jù)訪問權(第15條)、數(shù)據(jù)更正權(第16條)、被遺忘權(第17條)、數(shù)據(jù)可攜權(第20條)等。上述權利對兒童與成年人同樣適用,其中,數(shù)據(jù)透明權、數(shù)據(jù)可攜權和被遺忘權被認為特別與兒童相關。

    (1)數(shù)據(jù)透明權(Right to data transparency)

    GDPR第12條規(guī)定,數(shù)據(jù)透明權即數(shù)據(jù)控制者應采取適當措施以簡潔、透明、易理解和易于訪問的形式提供任何關于處理數(shù)據(jù)主體的信息,特別是與兒童相關的信息。數(shù)據(jù)透明權是數(shù)據(jù)主體行使其他數(shù)據(jù)權利的前提,對數(shù)據(jù)主體而言具有重要意義。GDPR序言第58條也特別指出,應“以兒童易理解的簡潔語言”向兒童提供信息。實踐中如何以兒童可以理解的方式實施透明條件是數(shù)據(jù)控制者面臨的一個現(xiàn)實挑戰(zhàn)。

    (2)數(shù)據(jù)可攜權(Right to data portability)

    根據(jù)GDPR第20條,數(shù)據(jù)可攜權是數(shù)據(jù)主體有權以結構化、常用和機器可讀的格式將其個人數(shù)據(jù)從一個數(shù)據(jù)控制者轉(zhuǎn)移到另一個數(shù)據(jù)控制者的權利。該權利不適用于數(shù)據(jù)控制者為履行公共利益或行使官方權力所進行的必要處理;該權利的行使不得對他人的權利和自由產(chǎn)生不利影響。數(shù)據(jù)可攜權有助于增強大數(shù)據(jù)時代的個人數(shù)據(jù)控制權,促進數(shù)據(jù)控制者之間的自由競爭,并有助于實現(xiàn)兒童網(wǎng)絡平臺的多元化和兒童隱私保護方案的迭代升級。但數(shù)據(jù)可攜權可能觸及網(wǎng)絡巨頭公司的利益,執(zhí)行起來會面臨一定的現(xiàn)實挑戰(zhàn),更由于相關巨頭公司在該領域的壟斷地位,使該權利對兒童的現(xiàn)實意義也大打折扣。

    (3)被遺忘權(Right to be forgotten)

    被遺忘權是GDPR最突出的賦權性規(guī)定。GDPR第17條規(guī)定了被遺忘權的具體內(nèi)容:當存在目的不再、撤回同意、期限屆滿、非法處理或違反父母同意等情況,數(shù)據(jù)主體有權要求數(shù)據(jù)控制者及時刪除有關的個人數(shù)據(jù);當數(shù)據(jù)控制者已經(jīng)公開個人數(shù)據(jù),則有責任根據(jù)數(shù)據(jù)主體的請求刪除個人數(shù)據(jù);數(shù)據(jù)控制者應當考慮可行技術與執(zhí)行成本,采取包括技術措施在內(nèi)的合理措施告知正在處理個人數(shù)據(jù)的其他數(shù)據(jù)控制者,要求其刪除與個人數(shù)據(jù)相關的鏈接、備份或復制件。網(wǎng)上的數(shù)據(jù)自產(chǎn)生之日起,即可被所有人搜索和訪問,卻很難被徹底刪除,被遺忘權就是為了解決數(shù)據(jù)的持久性與人類遺忘本性之間的矛盾而提出的。被遺忘權相關的法律理論研究已進行了數(shù)年,該權利自誕生之日起即在大西洋兩岸引起廣泛爭論,被認為是“隱私與自由”之爭。雖然被遺忘權對于成人與兒童同樣適用,但該權利尤其旨在保護網(wǎng)絡環(huán)境下的兒童,原因在于“兒童在同意個人數(shù)據(jù)收集時,并沒有充分認識到數(shù)據(jù)被收集的后果危險性”。因此,被遺忘權對于兒童要求刪除數(shù)據(jù)的請求給予重點保護,允許兒童刪除可能損害他們聲譽的個人數(shù)據(jù),即使該兒童請求行使該權利時已經(jīng)成年。但也有學者指出,兒童適用被遺忘權可能會面臨“隨著時間的推移,一個不知名的兒童可能成為一個公眾人物,其個人數(shù)據(jù)可能由私人數(shù)據(jù)(值得刪除)轉(zhuǎn)變?yōu)楣矓?shù)據(jù)(值得保留)”的問題。對于這種情況應當如何處理,GDPR沒有規(guī)定。

    2. GDPR的保護性規(guī)定

    GDPR的保護性規(guī)定主要包括禁止數(shù)字畫像、設計和默認的數(shù)據(jù)保護和父母同意三個方面。

    (1)禁止數(shù)字畫像(Prohibition of profiling)

    GDPR第4條將數(shù)字畫像(profiling)定義為與自然人相關的某些個人情況,特別是為了分析或預測該自然人的工作表現(xiàn)、經(jīng)濟狀況、健康狀況、個人偏好、興趣、可信度、行為、位置或行蹤,而對個人數(shù)據(jù)進行的任何形式的自動化處理和利用。正如有學者所言,數(shù)字畫像這一概念被普遍認為能夠覆蓋目前大多數(shù)利用個人數(shù)據(jù)的大數(shù)據(jù)分析和營銷活動,如對個人偏好的分析。GDPR允許對成人進行數(shù)字畫像,前提是獲得數(shù)據(jù)主體的同意或基于合同及法律的明確授權。這樣的前提性規(guī)定將對企業(yè)造成巨大的合規(guī)負擔,不利用企業(yè)的市場分析和營銷活動。同時,GDPR禁止針對兒童的數(shù)字畫像,序言第38條指出兒童值得特殊保護以避免營銷和數(shù)字畫像等數(shù)據(jù)處理活動;序言第71條則特別表明基于數(shù)字畫像的自動決策不應包括兒童。為達到禁止針對兒童數(shù)字畫像的目的,GDPR要求網(wǎng)絡服務提供者通過技術手段對兒童和成人進行識別。雖然利用現(xiàn)代畫像和數(shù)據(jù)挖掘技術可以推斷用戶是否是兒童,但要可靠地辨別在線用戶是成人或是兒童仍然非常困難。假若嚴格落實禁止所有關于兒童的數(shù)字畫像,網(wǎng)絡服務提供者識別兒童的義務將非常繁重,并可能導致數(shù)據(jù)的過度收集,對兒童和成人的在線隱私造成更大威脅。因此禁止所有關于兒童的數(shù)字畫像存在一定的執(zhí)行困難。

    (2)設計和默認的數(shù)據(jù)保護(Data protection by design and by default)

    GDPR第25條規(guī)定,考慮到技術現(xiàn)狀、執(zhí)行成本、處理的性質(zhì)、范圍、目的以及處理給自然人權利和自由造成的風險,控制者在確定處理手段時或在處理過程中都應采取適當?shù)募夹g和組織措施保護用戶的個人數(shù)據(jù),應確保在默認情況下不允許其他自然人訪問個人數(shù)據(jù)。設計和默認的數(shù)據(jù)保護要求網(wǎng)絡服務提供者將數(shù)據(jù)保護的理念融入產(chǎn)品和服務設計的最初階段,各種兒童智能聯(lián)網(wǎng)設備如果能做到這一點,將極大降低兒童的在線隱私風險。但如何對網(wǎng)絡服務提供者進行有效監(jiān)管是實際應用中的難點,確保網(wǎng)絡服務提供者采用隱私友好型的默認設置并在其違反該設置時實施相應的懲罰措施是監(jiān)管部門需要努力解決的問題。

    (3)父母同意(Parental consent)

    GDPR第8條規(guī)定,網(wǎng)絡服務提供者在收集或處理不滿16周歲兒童的個人數(shù)據(jù)之前,需要取得其父母的同意或授權,成員國可以設定更低的年齡界限,但不能低于13周歲。該規(guī)定“旨在保護兒童,防止其在沒有充分意識到后果的情況下分享數(shù)據(jù)”。父母同意是GDPR關于兒童數(shù)據(jù)保護最重要的規(guī)定,也是爭論最大的一項規(guī)定。首先,父母同意的適用范圍非常廣泛,所有類型的網(wǎng)絡服務都需要得到家長的同意,過多的同意請求不僅會導致父母的“同意疲勞”,也會限制兒童的網(wǎng)絡活動和發(fā)展機會。其次,GDPR關于年齡界限的規(guī)定缺乏實證根據(jù),沒有建立在實證調(diào)研和影響評估的基礎上,允許成員國設定更低的年齡界限具有明顯的隨意性,會增加網(wǎng)絡運營商的合規(guī)負擔,不利于數(shù)字化單一市場的發(fā)展。最后,父母同意以年齡為分界線,沒有考慮到兒童“不斷發(fā)展的能力”和被傾聽的權利,與UNCRC和歐盟《基本權利憲章》(下文簡稱《憲章》)中關于認真聽取和對待兒童意見的規(guī)定相違背。

    生長在網(wǎng)絡時代的兒童雖然可能比他們的父母更精通網(wǎng)絡,但如果樂觀地認為有能力使用網(wǎng)絡工具的兒童也能明確地理解網(wǎng)絡服務商的服務條款和后續(xù)使用的意義顯然是不恰當?shù)?。兒童對網(wǎng)絡服務提供商的服務條款和法律術語往往缺乏理解力,對網(wǎng)絡數(shù)據(jù)的持久性和數(shù)據(jù)的收集、分析、使用、銷售等行為缺乏認識,對網(wǎng)絡上很難刪掉的cookies等網(wǎng)絡瀏覽器的追蹤插件更缺乏足夠的警惕。這些對于成年人難以做到的事情,對于兒童來說更加困難,因此,父母同意仍然是必要的。

    GDPR的父母同意在實踐中面臨兩個重要挑戰(zhàn):一是保證用戶年齡的可驗證性,正如有學者所言:“父母同意的規(guī)定能否成功實施取決于能否開發(fā)出低成本的年齡驗證程序?!?span id="j5i0abt0b" class="footnote_content" id="b7038c2354ca990f8c1b46dd4293ecb8" style="display: none;">See Karen Mc Cullagh, “The General Data Protection Regulation: A Partial Success for Children on Social Network Sites?”, , 2017, p.131. 二是如何提高父母的數(shù)字素養(yǎng),數(shù)據(jù)和資料顯示很多父母的數(shù)字素養(yǎng)不如自己的孩子,有的父母自身都不能理解專業(yè)化的服務條款和法律術語,讓此類父母決定孩子是否可以上網(wǎng)意義不大。而且,父母和孩子可能存在關于社交媒體作用和風險的分歧,成年人并不總能理解技術與年輕人之間積極和復雜的相互作用。父母的“曬娃”等行為還可能侵犯孩子的隱私。

    表面來看,GDPR的賦權性規(guī)定很多,保護性規(guī)定很少,仔細研究卻發(fā)現(xiàn), GDPR中賦權性規(guī)定的所有條款普遍適用于所有年齡的自然人,只有保護性規(guī)定才專門適用于兒童。GDPR第8條嚴格的父母同意,既沒有區(qū)分不同的網(wǎng)絡場景,也沒有明確父母決策時兒童意見的權重,可能演變?yōu)楦改浮氨Wo霸權”,破壞了“賦權”與“保護”之間的平衡。

    (二)GDPR對“個性化與平均年齡”困境的應對與局限

    劃定明確的年齡界限還是進行個性化評估,不僅是兒童數(shù)據(jù)保護法面臨的挑戰(zhàn),也是傳統(tǒng)法律領域共同面臨的挑戰(zhàn)。GDPR最終選擇劃定明確的年齡界限作為判斷兒童是否有能力自我決策的標準:達到年齡界限的兒童被視為有能力同意處理他們的個人數(shù)據(jù),低于年齡界限的兒童被視為缺乏同意處理其個人數(shù)據(jù)的能力,并由父母負責給予或拒絕同意。GDPR將需要父母同意的年齡門檻設定為16周歲,允許成員國設定更低的年齡界限,但不能低于13周歲。GDPR關于需要父母同意的年齡界限規(guī)定可謂一波三折,最初議案與UNCRC一致,將需要獲得父母同意的年齡門檻設置為18周歲,遭到網(wǎng)絡社交媒體等行業(yè)代表的極大反對。Facebook等行業(yè)代表認為將需要父母同意的年齡設置為18周歲明顯過高,不利于數(shù)字市場的發(fā)展,而且違反了UNCRC關于兒童的參與權與自我決策權的相關規(guī)定,將嚴重限制青少年上網(wǎng)的權利。為此,歐盟委員會將需要父母同意的年齡界限修改為13周歲,與美國《兒童網(wǎng)絡隱私保護法案》(本文簡稱“COPPA”)中關于需要父母同意的年齡界限一致。修改方案一出,受到互聯(lián)網(wǎng)行業(yè)尤其是網(wǎng)絡社交媒體行業(yè)的熱烈歡迎,但批評者認為GDPR對年齡界限的設定過于隨意,有效仿美國之嫌,沒有建立在實證調(diào)查和研究的基礎上。最終,歐盟出人意料地將需要父母同意的年齡界限修改為目前的16周歲,并賦予成員國設定更低年齡界限的權力。

    GDPR設定明確年齡界限的做法,可能存在一定的問題。首先,設定年齡界限的做法忽略了兒童的個性化發(fā)展,限制了年齡較大青少年的參與權和自我決策權。不同年齡的兒童能力差異較大,即使相同年齡的兒童,因其生長環(huán)境不同,能力差異也非常大。因此個案評估能夠區(qū)分兒童的能力層次,實現(xiàn)兒童利益的最大化。其次,由于潛在隱私風險的不同,兒童行使自我決策權也應該根據(jù)隱私風險等級區(qū)別對待。例如,兒童發(fā)送即時通信的郵件和消息等可能不需要父母同意,而創(chuàng)建社交媒體賬戶則需要父母同意。立法者應從社會科學和行為科學領域收集證據(jù)來驗證給定的年齡限制,不同的數(shù)據(jù)收集實踐和年齡跨度可能需要進行詳細的測試和研究。

    GDPR關于兒童數(shù)據(jù)保護的規(guī)定,在原則上與UNCRC和歐盟《憲章》是一致的,但仍有一些現(xiàn)實問題未得到解決。第一,允許各成員國設定更低的年齡門檻意味著跨越歐盟各國之間的網(wǎng)絡協(xié)調(diào)和監(jiān)管將不再統(tǒng)一和簡化。第二,設定明確年齡界限的做法忽略了兒童的個性化發(fā)展,限制了年齡較大青少年的參與權和自我決策權。第三,父母同意和年齡界限的規(guī)定能否具體落實,取決于能否推出有效且低成本的在線年齡驗證機制。第四,GDPR保護性規(guī)定的實施還依賴于家長的數(shù)字素養(yǎng),雖然GDPR規(guī)定了提高父母和兒童數(shù)字素養(yǎng)的措施,但實踐效果如何還有待觀察。第五,制定政策時兒童自己的意見也應考慮進來。因此,可以說GDPR針對《95指令》的改進只是部分成功。

    三、破解之道:兒童數(shù)據(jù)法律保護兩大困境的解決思路

    破解兒童數(shù)據(jù)法律保護的兩大困境應以差異化的父母同意方式取代嚴格的父母同意,以平衡“賦權”與“保護”之間的沖突;以一定年齡界限基礎上的個性化評估取代平均年齡的單一規(guī)定,以實現(xiàn)“個性化”與“平均年齡”的結合。此外,網(wǎng)絡治理機構應加強數(shù)據(jù)周期內(nèi)利益相關者的共同協(xié)作與對話,不斷尋求更好的兒童數(shù)據(jù)保護方案。

    (一)“賦權”與“保護”的平衡:基于不同風險等級的差異化父母同意方式

    GDPR未區(qū)分不同網(wǎng)絡場景和風險等級的父母同意,會造成父母的“同意疲勞”和對兒童的過度保護,打破“賦權”與“保護”之間的平衡,不利于兒童最大利益的實現(xiàn)。因此,為實現(xiàn)兒童的最大利益,應根據(jù)不同場景對不同隱私風險等級的兒童數(shù)據(jù)采取不同程度的父母同意方式。

    歐盟GDPR第35條對數(shù)據(jù)保護影響評估進行了規(guī)定,為可能引發(fā)高風險的數(shù)據(jù)處理行為設定了額外的附加義務,并豁免了低風險數(shù)據(jù)處理行為的部分義務。但該項規(guī)定只是“在傳統(tǒng)的合法授權事由框架下提升了用戶同意形式方面的要求,繼續(xù)強化了傳統(tǒng)知情同意框架”,并未從保護用戶的角度,針對不同場景、不同隱私風險提出不同的保護標準。更為關鍵的是,GDPR并未將隱私風險等級評估適用于兒童數(shù)據(jù)保護的父母同意。相比較而言,美國的COPPA則認識到不是所有網(wǎng)絡活動都需要嚴格的父母同意,通過對不同網(wǎng)絡場景劃分風險等級規(guī)定不同程度的父母同意方式:首先,最小風險的網(wǎng)絡服務無須得到父母的同意,如沒有互動或不共享兒童數(shù)據(jù)的網(wǎng)絡服務;其次,中等風險的網(wǎng)絡服務則采用較寬松的同意形式,如網(wǎng)絡服務商僅在內(nèi)部使用兒童數(shù)據(jù)且不向第三方披露或公開時,可以向父母發(fā)送電子郵件,并在收到父母同意的回復后方可確認使用;最后,最高風險等級的網(wǎng)絡服務必須符合最嚴格的同意機制,如向第三方披露兒童數(shù)據(jù)、行為廣告或兒童注冊使用網(wǎng)絡社交媒體時,網(wǎng)絡服務提供者需要通過郵寄、傳真或電子郵件等方式要求父母填寫并返還同意書,提供信用卡號碼、驗證身份的證明文件、免費電話或視頻會議等方式驗證父母同意。COPPA基于不同風險等級的差異化父母同意,在一定程度上解決了GDPR在應對“賦權與保護”困境中的父母“同意霸權”問題,有效避免了對兒童的“過度保護”,并有助于減輕父母的“同意疲勞”。

    關于GDPR的父母同意沒有充分考慮兒童個人意見的問題,可以通過單獨咨詢兒童意見、取得兒童和父母共同同意和成熟兒童自主同意等方式,將兒童意見納入到?jīng)Q策中來,適當避免對有能力兒童意見的忽略。

    (二)“個性化”與“平均年齡”的抉擇:以一定年齡界限為基礎的個性化評估

    雖然歐盟GDPR的年齡界限規(guī)定飽受詬病,但若不劃定年齡界限則需對所有兒童的全場景網(wǎng)絡活動進行個性化評估,無疑會增加網(wǎng)絡服務提供者的合規(guī)負擔和網(wǎng)絡治理機構的執(zhí)行成本。美國COPPA亦劃定了明確的年齡界限,要求收集、處理不滿13周歲兒童的個人數(shù)據(jù)需先征得父母同意,因此明確的年齡界限仍然是必要的。歐洲非政府組織“兒童在線安全聯(lián)盟”(“eNACSO”)認為雖然在目前的網(wǎng)絡環(huán)境和技術條件下,對每個兒童進行個案評估是不可能的,但對不同年齡的兒童應采用不同的隱私標準或父母同意方式。因此,筆者認為,應以一定年齡界限為基礎的個性化評估取代平均年齡的單一規(guī)定。對達到年齡界限的兒童,賦予其自我決策權;對未達年齡界限的兒童進行個性化評估,以決定父母同意的方式。

    事實上,目前歐盟只有三個成員國(西班牙、匈牙利和荷蘭)選擇在國家數(shù)據(jù)保護法律中明確規(guī)定需要父母同意的年齡門檻。大多數(shù)成員國均要求數(shù)據(jù)控制者依據(jù)特定情境采取個性化的兒童能力測試,而不是統(tǒng)一的年齡標準。由于個性化的兒童能力測試容易造成過重的驗證負擔,大多數(shù)成員國通常要求數(shù)據(jù)控制者根據(jù)數(shù)據(jù)處理目的和使用的數(shù)據(jù)類型采用基于滑動比例法的風險驗證方式。這一做法與美國COPPA的規(guī)定殊途同歸。為了驗證兒童是否有自我決策能力,數(shù)據(jù)控制者應從兒童的最大利益出發(fā),綜合評估兒童的心理發(fā)展水平及承擔相應后果的能力等情況決定所需父母同意的等級或形式。

    (三)加強數(shù)據(jù)鏈中利益相關者的共同協(xié)作與對話

    切實保障大數(shù)據(jù)時代兒童數(shù)據(jù)權利,不僅需要監(jiān)管機構、網(wǎng)絡服務提供者和父母等各方主體履行并承擔相應的義務和責任,還需要加強數(shù)據(jù)周期內(nèi)利益相關者的共同協(xié)作與對話。利益相關者主要包括數(shù)據(jù)的提供者、收集者、分析者和使用者。首先,兒童數(shù)據(jù)提供者需要提高隱私風險意識,學習必要的網(wǎng)絡安全技術,使用隱私保護軟件等方式提高防范能力。美國學者帕弗雷·約翰(Palfrey John)等提議,有關信息通信技術、網(wǎng)絡安全和隱私等方面知識的學習應被納入普通學校的信息技術教育中,提高數(shù)據(jù)提供者的數(shù)據(jù)素養(yǎng)和隱私風險防范意識。其次,數(shù)據(jù)收集者在收集數(shù)據(jù)之前應首先征得兒童父母的同意,并采用易于理解的條款和方便訪問的操作,如兒童友好型描述等,數(shù)據(jù)收集者還應將設計和默認的數(shù)據(jù)保護理念融入軟件設計的最初階段。加布里埃爾·伯曼(Gabrielle Berman)認為,對兒童數(shù)據(jù)的收集除了應有明確的政策和傳播機制外,還需要獨立的第三方對數(shù)據(jù)收集者及其數(shù)據(jù)收集活動進行公正和專業(yè)的定期審核。再次,數(shù)據(jù)分析者是兒童數(shù)據(jù)保護的關鍵參與者,其采用的算法決定著兒童數(shù)據(jù)的分類方式和傳播形式。算法具有非透明性的特點,數(shù)據(jù)分析者在處理兒童數(shù)據(jù)時應保證采用的算法具有可解釋性,并在分析處理兒童數(shù)據(jù)時反思該算法是否會對兒童產(chǎn)生不利影響。數(shù)據(jù)分析者應多與兒童權利倡導者對話和討論,了解兒童的特殊需求,開發(fā)專門針對兒童的隱私友好型工具。為了使數(shù)據(jù)分析者了解算法的潛在限制和倫理含義,反思算法產(chǎn)生的數(shù)據(jù)結果,算法倫理學應成為算法和數(shù)據(jù)科學領域所有本科生和研究生課程的一部分。最后,數(shù)據(jù)使用者是數(shù)據(jù)周期中的最終利益相關者,需要提高對數(shù)據(jù)可靠性、算法局限性、技術安全性及對兒童潛在影響的認識,確保數(shù)據(jù)使用的安全合規(guī)。加強數(shù)據(jù)周期內(nèi)各利益相關者之間的共同協(xié)作與對話,有利于真正從兒童的最大利益出發(fā),不斷尋求更好的隱私保護解決方案。而加強對數(shù)據(jù)科學及其應用的教育和反思對所有利益相關者都是非常重要的。

    四、對完善我國《未成年人網(wǎng)絡保護條例》的立法建議

    目前,歐盟和美國在兒童數(shù)據(jù)法律保護方面走在世界前列。歐盟2016年通過了GDPR,旨在保護大數(shù)據(jù)時代自然人的數(shù)據(jù)權利,并針對兒童的數(shù)據(jù)保護問題進行了專門規(guī)范。美國2012年修訂了《兒童在線隱私保護法案》(COPPA),完善了大數(shù)據(jù)時代兒童的數(shù)據(jù)隱私保護;2015年又出臺了《學生數(shù)據(jù)隱私和家長權利法》(SDPPRA),為大數(shù)據(jù)時代學生數(shù)據(jù)隱私提供專門的法律保護。我國至今還沒有關于兒童數(shù)據(jù)法律保護方面的立法。2017年1月,國務院法制辦公室發(fā)布《未成年人網(wǎng)絡保護條例(送審稿)》(以下簡稱《條例(送審稿)》)。《條例(送審稿)》以法治手段來加強對未成年人的網(wǎng)絡保護,順應了國際互聯(lián)網(wǎng)治理的總體趨勢和通行做法,也代表了我國網(wǎng)絡監(jiān)管體制的一次轉(zhuǎn)變。但《條例(送審稿)》未能充分借鑒國外的相關立法經(jīng)驗,在有關兒童數(shù)據(jù)法律保護方面的某些規(guī)定仍有值得商榷的地方。本文在合理借鑒歐盟和美國相關立法經(jīng)驗的基礎上,針對《條例(送審稿)》提出以下立法建議:

    第一,《條例(送審稿)》對兒童被遺忘權進行了規(guī)定,但仍需進一步完善?!稐l例(送審稿)》第18條規(guī)定:“未成年人或其監(jiān)護人要求網(wǎng)絡信息服務提供者刪除、屏蔽網(wǎng)絡空間中與未成年人有關的個人信息時,網(wǎng)絡信息服務提供者應采取必要措施予以刪除、屏蔽?!痹摋l款可視為對兒童被遺忘權的規(guī)定,但其沒有對數(shù)據(jù)控制者已將兒童數(shù)據(jù)公開的情形進行規(guī)定。根據(jù)GDPR第17條,若數(shù)據(jù)控制者已將個人數(shù)據(jù)公開,則有責任根據(jù)數(shù)據(jù)主體的請求刪除個人數(shù)據(jù),并在考慮可行技術和執(zhí)行成本的基礎上,采取合理措施告知正在處理個人數(shù)據(jù)的控制者,要求其刪除與個人數(shù)據(jù)相關的鏈接、備份或復制件。《條例(送審稿)》應對此部分內(nèi)容做進一步完善。

    第二,《條例(送審稿)》關于兒童數(shù)據(jù)透明權的規(guī)定不太明確。應明確要求網(wǎng)絡服務提供者采取適當措施以簡潔、透明、易理解和易于訪問的形式提供任何關于處理兒童數(shù)據(jù)相關的信息。

    第三,《條例(送審稿)》沒有賦予兒童數(shù)據(jù)可攜權。數(shù)據(jù)可攜權有助于增強大數(shù)據(jù)時代兒童的個人數(shù)據(jù)控制權和自決權,鑒于數(shù)據(jù)可攜權對于行業(yè)競爭的影響尚不明確,《條例(送審稿)》可暫時將數(shù)據(jù)可攜權作為一項倡議性的條款進行規(guī)定。

    第四,《條例(送審稿)》采取了選擇性的父母同意條件,使父母同意失去了應有的意義,與UNCRC的原則性規(guī)定以及國際通行做法相違背。《條例(送審稿)》第16條要求網(wǎng)絡服務提供者在收集、使用未成年人個人信息前,需首先征得“未成年人或監(jiān)護人同意”。該規(guī)定意味著未成年人可以自行決定是否同意收集或處理個人數(shù)據(jù),如此,父母同意便失去了保護兒童的應有之意。無論是歐盟GDPR還是美國COPPA,父母同意都是收集、處理、使用兒童數(shù)據(jù)的前置條件。因此,《條例(送審稿)》不應將父母同意作為收集、使用兒童數(shù)據(jù)的一個可選擇的方案,而應作為收集、處理、使用兒童數(shù)據(jù)必要的前置條件。此外,鑒于歐盟GDPR第8條規(guī)定的父母同意沒有區(qū)分不同網(wǎng)絡場景和隱私風險等級,不利于兒童最大利益的實現(xiàn),建議借鑒美國COPPA關于父母同意的相關規(guī)定,建立基于不同隱私風險等級的差異性的父母同意方式。

    第五,《條例(送審稿)》沒有規(guī)定需要父母同意的年齡界限。明確的年齡界限可以減輕網(wǎng)絡服務提供者的合規(guī)負擔和網(wǎng)絡治理機構的執(zhí)行成本,因此年齡界限的劃定是十分必要的。歐盟GDPR將需要父母同意的年齡界限設為16周歲,美國COPPA將年齡界限設為13周歲,設定過高的年齡界限可能限制年齡較大兒童的網(wǎng)絡活動,且會增加網(wǎng)絡服務提供者的年齡驗證負擔,因此比較而言,美國的年齡設定更具合理性。我國最好在實證調(diào)研的基礎上科學合理地劃定年齡界限,可以借鑒美國設定年齡界限的相關做法。

    第六,《條例(送審稿)》沒有涉及設計和默認的數(shù)據(jù)保護問題。當今時代,各種軟件APP層出不窮,在使用之前均需同意一定條件的數(shù)據(jù)收集和使用,對兒童隱私和數(shù)據(jù)權利造成了極大威脅。歐盟GDPR第25條要求網(wǎng)絡服務提供者將設計和默認的數(shù)據(jù)保護原則納入產(chǎn)品和服務設計的最初階段,這相當于在使用軟件之前,網(wǎng)絡服務提供者已經(jīng)對兒童隱私保護制作了“護甲”。建議《條例(送審稿)》對此加以考慮。

    第七,《條例(送審稿)》沒有明確禁止針對兒童的數(shù)字畫像。商業(yè)性的網(wǎng)絡服務提供者對兒童的數(shù)字畫像嚴重威脅著兒童的隱私和數(shù)據(jù)權利,應當借鑒GDPR的做法,明確禁止針對兒童的數(shù)字畫像,以消除或減輕對兒童數(shù)據(jù)的商業(yè)利用。

    五、結 語

    未成年人網(wǎng)絡保護不僅是專項的未成年人保護事業(yè),也是塑造良好的網(wǎng)絡環(huán)境、維護核心價值觀,乃至全體公民教育的一項非常重要的事業(yè)。大數(shù)據(jù)時代,為實現(xiàn)兒童利益的最大化,網(wǎng)絡治理機構及社會各界應充分認識到對兒童數(shù)據(jù)進行特殊保護的現(xiàn)實必要性,并從兒童的最大利益出發(fā),賦予兒童合理權利的同時給予其應有的保護。網(wǎng)絡治理機構應當加強數(shù)據(jù)周期中各利益相關者之間的共同協(xié)作與對話,積極聽取兒童權利倡議者的意見和建議,不斷尋求更好的兒童數(shù)據(jù)保護方案。

    猜你喜歡
    數(shù)據(jù)保護服務提供者界限
    界限
    十幾歲(2022年21期)2022-11-19 11:14:42
    間隙
    網(wǎng)絡服務提供者的侵權責任研究
    法制博覽(2020年11期)2020-11-30 03:36:52
    破次元
    論網(wǎng)絡服務提供者刑事責任的歸責模式一一以拒不履行網(wǎng)絡安全管理義務罪為切入點
    論網(wǎng)絡服務提供者的侵權責任
    法制博覽(2017年16期)2017-01-28 00:01:59
    承諾是跨越時間界限的恒久
    中國寶玉石(2016年6期)2017-01-03 09:37:07
    TPP生物藥品數(shù)據(jù)保護條款研究
    歐盟數(shù)據(jù)保護立法改革之發(fā)展趨勢分析
    歐盟《一般數(shù)據(jù)保護條例》新規(guī)則評析
    简卡轻食公司| 五月伊人婷婷丁香| 国产精品一区二区三区四区免费观看| 精品久久久久久久人妻蜜臀av| 欧美极品一区二区三区四区| 韩国av在线不卡| 亚洲四区av| 亚洲aⅴ乱码一区二区在线播放| 亚洲欧美成人综合另类久久久| 中文字幕av成人在线电影| 国产白丝娇喘喷水9色精品| 亚洲精华国产精华液的使用体验| 国产久久久一区二区三区| 欧美 日韩 精品 国产| 麻豆精品久久久久久蜜桃| 国产黄色视频一区二区在线观看| 一级毛片我不卡| 欧美成人a在线观看| 久久99热这里只频精品6学生| 嫩草影院精品99| 日韩av免费高清视频| 五月玫瑰六月丁香| 国产精品久久久久久精品电影| 日本与韩国留学比较| 日韩人妻高清精品专区| 国产女主播在线喷水免费视频网站| av福利片在线观看| 国产成人freesex在线| 国产伦在线观看视频一区| 中文字幕人妻熟人妻熟丝袜美| 成人亚洲精品av一区二区| 国产69精品久久久久777片| 亚洲精品第二区| 久久久久网色| 亚洲国产最新在线播放| 一区二区av电影网| 中文天堂在线官网| 天堂中文最新版在线下载 | 久久精品熟女亚洲av麻豆精品| 直男gayav资源| 热re99久久精品国产66热6| 最近手机中文字幕大全| 在线观看三级黄色| 亚洲欧美一区二区三区黑人 | 高清毛片免费看| 免费人成在线观看视频色| 肉色欧美久久久久久久蜜桃 | 激情 狠狠 欧美| 免费观看性生交大片5| 欧美成人一区二区免费高清观看| 国产亚洲精品久久久com| 免费黄色在线免费观看| 极品教师在线视频| av线在线观看网站| 日韩视频在线欧美| 国产精品人妻久久久久久| 国产欧美亚洲国产| 日本免费在线观看一区| 日韩一本色道免费dvd| 国内精品美女久久久久久| 男女啪啪激烈高潮av片| 精品国产乱码久久久久久小说| 精品久久久久久电影网| 国产成人福利小说| 欧美一区二区亚洲| 亚洲国产最新在线播放| 午夜爱爱视频在线播放| 成年免费大片在线观看| 亚洲久久久久久中文字幕| 可以在线观看毛片的网站| 欧美老熟妇乱子伦牲交| 国产成人精品福利久久| 欧美日韩综合久久久久久| 在线观看av片永久免费下载| 精品人妻视频免费看| 中国三级夫妇交换| 在线观看国产h片| 大片免费播放器 马上看| 丝袜脚勾引网站| 麻豆乱淫一区二区| 国产91av在线免费观看| 国产淫语在线视频| 久久久久久久久久成人| 成人高潮视频无遮挡免费网站| 欧美日韩综合久久久久久| 日韩人妻高清精品专区| 亚洲精品日韩av片在线观看| 免费av毛片视频| 精品一区在线观看国产| 久久久久久久精品精品| 欧美xxxx黑人xx丫x性爽| 水蜜桃什么品种好| 干丝袜人妻中文字幕| 内地一区二区视频在线| 亚洲人成网站在线观看播放| 三级男女做爰猛烈吃奶摸视频| 亚洲精品日韩在线中文字幕| 免费av毛片视频| 在线观看美女被高潮喷水网站| 亚洲国产精品成人久久小说| 精品99又大又爽又粗少妇毛片| 欧美高清成人免费视频www| 国产有黄有色有爽视频| 日本午夜av视频| 麻豆国产97在线/欧美| 一区二区三区乱码不卡18| 欧美 日韩 精品 国产| 国产精品不卡视频一区二区| 一级毛片黄色毛片免费观看视频| 五月伊人婷婷丁香| 成人漫画全彩无遮挡| 丝袜脚勾引网站| 欧美潮喷喷水| 在线天堂最新版资源| 五月伊人婷婷丁香| 日韩强制内射视频| 国产成人a∨麻豆精品| 精品久久久久久久末码| 色视频www国产| 成人欧美大片| 欧美日韩一区二区视频在线观看视频在线 | 亚洲国产精品999| av在线蜜桃| 丰满人妻一区二区三区视频av| 一二三四中文在线观看免费高清| 国产精品99久久99久久久不卡 | 精品久久久久久久人妻蜜臀av| 肉色欧美久久久久久久蜜桃 | 精品亚洲乱码少妇综合久久| 亚洲,欧美,日韩| 久久精品人妻少妇| 久久人人爽人人爽人人片va| 18禁在线无遮挡免费观看视频| 内地一区二区视频在线| 不卡视频在线观看欧美| 你懂的网址亚洲精品在线观看| 欧美日韩视频精品一区| 久久久精品94久久精品| 成人国产av品久久久| 全区人妻精品视频| 噜噜噜噜噜久久久久久91| 国产又色又爽无遮挡免| 国产成人免费观看mmmm| 天堂俺去俺来也www色官网| 91午夜精品亚洲一区二区三区| 91精品国产九色| 18禁在线播放成人免费| 看十八女毛片水多多多| 波多野结衣巨乳人妻| 久久久久久久久久久丰满| 一区二区三区乱码不卡18| 又大又黄又爽视频免费| 亚洲激情五月婷婷啪啪| 97超碰精品成人国产| 一区二区三区免费毛片| 中国三级夫妇交换| 亚洲欧美一区二区三区黑人 | 国产国拍精品亚洲av在线观看| kizo精华| 国产乱来视频区| 久久精品综合一区二区三区| 亚洲精品aⅴ在线观看| 亚洲精品一区蜜桃| 欧美xxxx黑人xx丫x性爽| 欧美精品人与动牲交sv欧美| 别揉我奶头 嗯啊视频| 好男人视频免费观看在线| 一区二区三区精品91| 欧美人与善性xxx| 人妻系列 视频| 成人漫画全彩无遮挡| 欧美精品一区二区大全| 久久精品国产鲁丝片午夜精品| 好男人视频免费观看在线| 男人爽女人下面视频在线观看| 一区二区av电影网| 纵有疾风起免费观看全集完整版| 久久久欧美国产精品| 99热全是精品| 久久97久久精品| 精品久久久久久电影网| 国内精品宾馆在线| 久久久久久伊人网av| 国产高清不卡午夜福利| 日韩欧美一区视频在线观看 | av在线播放精品| 久久99热这里只有精品18| 亚洲精品亚洲一区二区| 亚洲精品视频女| 亚洲精品一二三| 简卡轻食公司| 男女边吃奶边做爰视频| 久久久久久九九精品二区国产| 欧美xxⅹ黑人| 高清毛片免费看| 美女cb高潮喷水在线观看| av播播在线观看一区| 99re6热这里在线精品视频| 婷婷色av中文字幕| 色视频在线一区二区三区| 国产成人精品婷婷| 欧美bdsm另类| 免费av不卡在线播放| 欧美极品一区二区三区四区| 国产精品99久久99久久久不卡 | 99久国产av精品国产电影| 色吧在线观看| 日本免费在线观看一区| 国产成人午夜福利电影在线观看| 成人欧美大片| 青春草国产在线视频| a级毛片免费高清观看在线播放| 国产精品偷伦视频观看了| 国产伦理片在线播放av一区| 久热这里只有精品99| 亚洲不卡免费看| 51国产日韩欧美| 性插视频无遮挡在线免费观看| 男女边吃奶边做爰视频| 国产亚洲午夜精品一区二区久久 | 亚洲内射少妇av| 汤姆久久久久久久影院中文字幕| 熟女av电影| 亚洲av在线观看美女高潮| 综合色av麻豆| 欧美日韩视频精品一区| 国产黄片美女视频| 日日啪夜夜爽| 最近的中文字幕免费完整| 最近中文字幕高清免费大全6| 国产 一区精品| 看免费成人av毛片| 男女无遮挡免费网站观看| 国产片特级美女逼逼视频| 久久久久久久午夜电影| 亚洲欧美精品专区久久| 九草在线视频观看| 人妻少妇偷人精品九色| 成人漫画全彩无遮挡| 少妇被粗大猛烈的视频| 国产成人freesex在线| 人妻少妇偷人精品九色| 久久精品综合一区二区三区| 日韩欧美精品v在线| 国产探花极品一区二区| av线在线观看网站| 久久久久国产精品人妻一区二区| 成人漫画全彩无遮挡| 免费av毛片视频| 身体一侧抽搐| 国产毛片在线视频| 黄色欧美视频在线观看| a级毛色黄片| 99久国产av精品国产电影| 亚洲va在线va天堂va国产| 免费不卡的大黄色大毛片视频在线观看| 一区二区三区精品91| h日本视频在线播放| 尾随美女入室| 高清在线视频一区二区三区| 男人爽女人下面视频在线观看| 免费观看性生交大片5| 免费不卡的大黄色大毛片视频在线观看| 菩萨蛮人人尽说江南好唐韦庄| 国内精品美女久久久久久| 内射极品少妇av片p| 国产精品一区www在线观看| 亚洲精品色激情综合| 在线天堂最新版资源| 国产伦精品一区二区三区四那| 国产综合懂色| 久久久久久久久久久丰满| 国产欧美日韩一区二区三区在线 | 蜜桃亚洲精品一区二区三区| 麻豆乱淫一区二区| 久久人人爽人人片av| 男人狂女人下面高潮的视频| 免费黄频网站在线观看国产| 免费看av在线观看网站| 国产精品久久久久久久久免| 亚洲三级黄色毛片| 夜夜爽夜夜爽视频| 老女人水多毛片| 乱码一卡2卡4卡精品| 成人美女网站在线观看视频| 精品一区二区三卡| 国产免费又黄又爽又色| 男女无遮挡免费网站观看| 少妇的逼水好多| 国产欧美日韩一区二区三区在线 | 99热这里只有是精品50| 大又大粗又爽又黄少妇毛片口| 国产探花在线观看一区二区| 精品久久久噜噜| 九九爱精品视频在线观看| 人妻系列 视频| 又爽又黄a免费视频| 99热这里只有精品一区| 国产爽快片一区二区三区| 直男gayav资源| 国产成人精品一,二区| 看免费成人av毛片| 国产男女超爽视频在线观看| 午夜福利在线观看免费完整高清在| 永久网站在线| 午夜福利在线在线| 深夜a级毛片| 亚洲天堂av无毛| 少妇丰满av| 国产精品秋霞免费鲁丝片| 亚洲伊人久久精品综合| 精品午夜福利在线看| av免费在线看不卡| 国产一区二区三区av在线| 国产午夜精品久久久久久一区二区三区| 精品国产露脸久久av麻豆| 亚洲av日韩在线播放| 国产精品偷伦视频观看了| 欧美bdsm另类| 中国三级夫妇交换| 六月丁香七月| 国精品久久久久久国模美| 禁无遮挡网站| 国产美女午夜福利| 亚洲成人一二三区av| 99久国产av精品国产电影| 一级黄片播放器| 新久久久久国产一级毛片| 午夜免费男女啪啪视频观看| av.在线天堂| 久久久久久伊人网av| 一级毛片久久久久久久久女| 免费观看的影片在线观看| 人妻 亚洲 视频| 99视频精品全部免费 在线| av.在线天堂| 成年版毛片免费区| 亚洲欧美精品自产自拍| 日韩一区二区视频免费看| 人妻一区二区av| 日韩成人伦理影院| 色吧在线观看| 久久人人爽人人爽人人片va| 青青草视频在线视频观看| 日本爱情动作片www.在线观看| 最近手机中文字幕大全| 亚洲欧美精品专区久久| 精品久久国产蜜桃| 日本欧美国产在线视频| 男女那种视频在线观看| 全区人妻精品视频| 我的女老师完整版在线观看| 欧美成人a在线观看| 国产精品蜜桃在线观看| 97在线人人人人妻| 国产成人精品福利久久| 国产午夜福利久久久久久| 视频区图区小说| 国产成人精品婷婷| 69人妻影院| 啦啦啦中文免费视频观看日本| 一本久久精品| 日本黄色片子视频| 别揉我奶头 嗯啊视频| 另类亚洲欧美激情| 亚洲欧美日韩东京热| 永久网站在线| 日本与韩国留学比较| 色吧在线观看| 深爱激情五月婷婷| 国产成人免费无遮挡视频| 精品一区二区三区视频在线| 亚洲人成网站高清观看| 你懂的网址亚洲精品在线观看| 日日啪夜夜撸| 久久久久久久久大av| 久久久精品欧美日韩精品| 视频中文字幕在线观看| 久久国内精品自在自线图片| 秋霞在线观看毛片| 亚洲精品国产av蜜桃| 日韩欧美一区视频在线观看 | 五月天丁香电影| 如何舔出高潮| 人妻少妇偷人精品九色| 久久久久性生活片| 午夜精品国产一区二区电影 | 色播亚洲综合网| 国产免费一区二区三区四区乱码| 欧美成人一区二区免费高清观看| 亚洲精品第二区| 极品少妇高潮喷水抽搐| 青春草视频在线免费观看| 国产黄片美女视频| 亚洲成人av在线免费| 国产黄色免费在线视频| 国产精品久久久久久精品电影| 国产视频首页在线观看| 最近手机中文字幕大全| 最近2019中文字幕mv第一页| 蜜桃久久精品国产亚洲av| 可以在线观看毛片的网站| 三级经典国产精品| 欧美日韩综合久久久久久| 日韩人妻高清精品专区| 精品国产三级普通话版| 亚洲一级一片aⅴ在线观看| 69人妻影院| 啦啦啦中文免费视频观看日本| 午夜爱爱视频在线播放| 老女人水多毛片| 精品少妇黑人巨大在线播放| 伦理电影大哥的女人| 91午夜精品亚洲一区二区三区| 婷婷色综合大香蕉| 高清av免费在线| 性插视频无遮挡在线免费观看| 人妻系列 视频| 国产淫语在线视频| www.av在线官网国产| 免费高清在线观看视频在线观看| 美女国产视频在线观看| 精品少妇久久久久久888优播| 国产精品99久久99久久久不卡 | 91在线精品国自产拍蜜月| 国产精品一区www在线观看| 成人亚洲精品av一区二区| av在线亚洲专区| 国产永久视频网站| 久久久久久久久大av| 久久99热这里只频精品6学生| 搡女人真爽免费视频火全软件| 99久久中文字幕三级久久日本| 男女国产视频网站| 简卡轻食公司| 国产乱人偷精品视频| 伦精品一区二区三区| 久久精品人妻少妇| 国产成人精品婷婷| 在线 av 中文字幕| 欧美高清性xxxxhd video| 国产日韩欧美在线精品| 一个人看视频在线观看www免费| av网站免费在线观看视频| 爱豆传媒免费全集在线观看| 欧美成人a在线观看| 99热这里只有是精品在线观看| 久久精品熟女亚洲av麻豆精品| 亚洲欧美精品自产自拍| 国产伦精品一区二区三区视频9| 日韩强制内射视频| 亚洲精品国产av成人精品| 欧美成人午夜免费资源| 久久亚洲国产成人精品v| 亚洲精品乱码久久久久久按摩| 一边亲一边摸免费视频| 亚洲最大成人手机在线| 老女人水多毛片| 久久久久久久久久成人| 亚洲欧美一区二区三区黑人 | 国产69精品久久久久777片| 高清毛片免费看| 十八禁网站网址无遮挡 | 三级国产精品欧美在线观看| 男人舔奶头视频| 夫妻午夜视频| 一级毛片我不卡| 丝瓜视频免费看黄片| 国产白丝娇喘喷水9色精品| 欧美bdsm另类| 69人妻影院| 国产精品久久久久久久久免| 国产精品蜜桃在线观看| 日日摸夜夜添夜夜添av毛片| 日韩人妻高清精品专区| 最新中文字幕久久久久| 91在线精品国自产拍蜜月| 亚洲精品中文字幕在线视频 | 久久99蜜桃精品久久| 欧美一区二区亚洲| 国产视频内射| 精品熟女少妇av免费看| av国产精品久久久久影院| 亚洲丝袜综合中文字幕| 草草在线视频免费看| 国产精品99久久99久久久不卡 | 国产成人aa在线观看| 日本一本二区三区精品| 日本-黄色视频高清免费观看| av免费在线看不卡| 美女内射精品一级片tv| 97在线人人人人妻| 成年版毛片免费区| 视频区图区小说| 色播亚洲综合网| 久久久a久久爽久久v久久| 免费av不卡在线播放| 亚洲精品乱久久久久久| 性色avwww在线观看| 联通29元200g的流量卡| 肉色欧美久久久久久久蜜桃 | 久久国内精品自在自线图片| 国产日韩欧美在线精品| 欧美三级亚洲精品| 日韩中字成人| 精品国产三级普通话版| 高清欧美精品videossex| 国产色爽女视频免费观看| 国产免费福利视频在线观看| 一级a做视频免费观看| 久久精品夜色国产| 亚洲精品一二三| 欧美xxⅹ黑人| 少妇人妻 视频| 国产国拍精品亚洲av在线观看| 毛片女人毛片| 久久久精品免费免费高清| 久久久亚洲精品成人影院| 国产精品一及| 一本一本综合久久| 久久久欧美国产精品| 2021天堂中文幕一二区在线观| 国产精品精品国产色婷婷| 欧美3d第一页| 一个人看的www免费观看视频| 国产一区二区在线观看日韩| 国产精品久久久久久av不卡| 精品久久久久久久人妻蜜臀av| 成人欧美大片| 婷婷色麻豆天堂久久| 成人无遮挡网站| tube8黄色片| 日韩av在线免费看完整版不卡| 国产黄片视频在线免费观看| 国产爽快片一区二区三区| 2022亚洲国产成人精品| 亚洲综合精品二区| 国产淫语在线视频| 深夜a级毛片| 97热精品久久久久久| a级一级毛片免费在线观看| 少妇人妻一区二区三区视频| 成人无遮挡网站| 成人欧美大片| 亚洲欧美日韩无卡精品| 亚洲高清免费不卡视频| 国产在线一区二区三区精| 女人久久www免费人成看片| 免费av毛片视频| 国产精品久久久久久精品电影小说 | 干丝袜人妻中文字幕| 国产精品一区二区三区四区免费观看| 一级毛片 在线播放| 午夜激情福利司机影院| 十八禁网站网址无遮挡 | 九九在线视频观看精品| 爱豆传媒免费全集在线观看| 麻豆乱淫一区二区| 国产黄片美女视频| 国产精品爽爽va在线观看网站| 狠狠精品人妻久久久久久综合| 国产高清不卡午夜福利| 亚洲av福利一区| 精品久久久精品久久久| 亚洲国产精品国产精品| 午夜福利网站1000一区二区三区| 精品久久久久久久久av| 国产精品国产三级国产专区5o| 色网站视频免费| 综合色av麻豆| 直男gayav资源| 两个人的视频大全免费| 黄色怎么调成土黄色| 尤物成人国产欧美一区二区三区| 亚洲电影在线观看av| av一本久久久久| 99久久人妻综合| 精品人妻偷拍中文字幕| 亚洲精品影视一区二区三区av| 国产综合懂色| 亚洲精品,欧美精品| 好男人视频免费观看在线| 久热这里只有精品99| 日韩不卡一区二区三区视频在线| av卡一久久| tube8黄色片| 免费观看a级毛片全部| 亚洲va在线va天堂va国产| 国产精品人妻久久久久久| 亚洲欧美成人综合另类久久久| 男人和女人高潮做爰伦理| 波多野结衣巨乳人妻| 国内揄拍国产精品人妻在线| 毛片女人毛片| 免费看光身美女| 搡女人真爽免费视频火全软件| 插阴视频在线观看视频| 亚洲精品一二三| 一本色道久久久久久精品综合| 少妇 在线观看| 99精国产麻豆久久婷婷| av在线天堂中文字幕| 一级黄片播放器| 免费av不卡在线播放| 欧美精品国产亚洲| 久久久国产一区二区| 特大巨黑吊av在线直播| 日韩欧美 国产精品| 日本爱情动作片www.在线观看| 免费黄网站久久成人精品| 小蜜桃在线观看免费完整版高清| 国产精品国产三级专区第一集| 欧美另类一区| 国语对白做爰xxxⅹ性视频网站| av在线亚洲专区|