• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    識別與再識別:個人信息的概念界定與立法選擇

    2018-03-16 20:35齊愛民張哲
    重慶大學學報(社會科學版) 2018年2期
    關鍵詞:個人信息權個人信息

    齊愛民 張哲

    摘要:大數(shù)據(jù)時代,數(shù)據(jù)已成為社會生產(chǎn)和經(jīng)濟發(fā)展的關鍵要素,個人信息在提高政府決策水平、企業(yè)精準營銷、社會管理創(chuàng)新等方面具有巨大的潛在利用價值??v觀全球,以歐盟為代表的個人信息保護單行立法模式成為當前世界各國的主流做法。國際社會在個人信息的界定上基本形成了以可識別性為核心判定標準的共識;但個人信息界定的動態(tài)性和場景性不僅帶來了司法認定上的困難,也使企業(yè)在匿名化處理問題上無所適從。充分借鑒國外立法,以加強個人信息權頂層設計為核心,通過事前同意、事中風險評估和事后個案認定機制來彌補個人信息界定的固有缺陷,是提升中國未來民法典人格權編和個人信息保護法科學性的應有之義。

    關鍵詞:個人信息;再識別;匿名化;個人信息權

    中圖分類號:D923.4 文獻標志碼:A 文章編號:1008-5831(2018)02-0119-13

    信息社會中,隨著全球網(wǎng)絡基礎設施的不斷完善,移動互聯(lián)網(wǎng)、物聯(lián)網(wǎng)、云計算服務的普及,世界數(shù)據(jù)總量迎來了爆炸式增長。據(jù)IDC報告,未來全球數(shù)據(jù)總量年增長率將維持在50%左右,到2020年,全球數(shù)據(jù)總量將達到40ZB。其中,中國數(shù)據(jù)量將達到8.6ZB,占全球的21%左右[1]。在這其中,大部分是與互聯(lián)網(wǎng)用戶有關的個人信息。與此同時,以谷歌、微軟、阿里、騰訊為代表的互聯(lián)網(wǎng)企業(yè)在數(shù)據(jù)挖掘、人臉識別、機器學習等領域的技術也日臻成熟,大大提高了網(wǎng)絡服務的個性化和智能化。

    數(shù)據(jù)分析技術的進步和數(shù)據(jù)量的增長在便捷生活、創(chuàng)造經(jīng)濟價值的同時,也造成公民隱私的擔憂。美國以隱私權為核心的保護模式已無法抵御現(xiàn)代信息技術對私密生活的侵襲,于是有學者提出了“信息隱私法(Information Privacy Law)”和“個人可識別信息(Personal Identifiable Information)”等概念來進一步擴張隱私權的內(nèi)涵。歐盟也通過頒布《一般數(shù)據(jù)保護條例(GDPR)》(以下簡稱“GDPR”)來進一步規(guī)制數(shù)據(jù)控制者和處理者的數(shù)據(jù)處理行為,以在促進信息自由流動的同時增強個人的數(shù)據(jù)控制力??v觀世界范圍內(nèi)的個人信息保護立法,雖然可識別性標準已經(jīng)得到了絕大多數(shù)國家的認可,但在具體的外延界定上仍存在一定的差異。作為個人信息保護法中最為核心的概念,對其進行學理上的界定對于立法、司法和執(zhí)法都至關重要,過窄的范圍無法充分保護信息主體的合法利益,而過寬的范圍也將阻礙信息的自由流動。以當前的社會發(fā)展狀況為背景,通過對現(xiàn)有個人信息界定模式的反思,提出相應的解決對策對于中國未來個人信息保護法的制定具有重要意義。

    一、個人信息概念界定現(xiàn)狀

    所謂個人信息,是指自然人的姓名、出生年月日、身份證號碼、戶籍、遺傳特征、指紋、婚姻、家庭、教育、職業(yè)、健康、病歷、財務情況、社會活動,以及其他可以識別該個人的信息[2]。縱觀世界范圍內(nèi)的個人信息保護立法,主要存在兩種模式。歐盟等采取統(tǒng)一立法的國家和地區(qū)普遍采用了“個人數(shù)據(jù)(PersonalData)”的概念,其是指與一個身份已識別或可識別的自然人(數(shù)據(jù)主體)相關的任何信息Data Protection Directive. Article 2. 。美國等采取分散式立法的國家則使用“個人可識別信息(PII)”的概念。從概念上看,兩大法系在個人信息內(nèi)涵的界定上呈現(xiàn)出趨同的傾向,但其外延卻并不相同。為此,有必要對當前個人信息界定模式和外延予以梳理,以期為中國個人信息概念的確定提供借鑒和參考。

    (一)個人信息界定模式

    據(jù)不完全統(tǒng)計,當前世界上擁有個人信息保護法的國家(地區(qū))近90個[3],它們在個人信息界定模式上主要體現(xiàn)為兩種:一是以美國《兒童在線隱私保護法(COPPA)》(以下簡稱“COPPA”)、歐盟GDPR、中國臺灣“個人資料保護有關規(guī)定”、中國澳門《個人資料保護法》為代表的定義加列舉的方式;另一種為單純定義方式,如英國《數(shù)據(jù)保護法案(DPA)》(以下簡稱“DPA”)、法國《信息、檔案與自由法》、德國《聯(lián)邦數(shù)據(jù)保護法(BDSG)》(以下簡稱“BDSG”)、新加坡《個人數(shù)據(jù)保護法》,以及中國香港《個人資料(私隱)條例》均采用了此種界定模式。除此之外,相關國際組織亦在其官方文件中對個人信息進行了界定,如經(jīng)濟合作組織(OECD)在其《OECD隱私框架》中就指出,個人數(shù)據(jù)是指任何與一個已識別或可識別的個人(數(shù)據(jù)主體)相關的信息。亞太經(jīng)合組織(APEC)發(fā)布的《APEC隱私框架》認為,個人信息是指任何與一個已識別或可識別的個人相關的信息。上述國家(地區(qū))在個人信息界定模式上均采取了單純定義的方式,沒有明確肯定或者將特定信息排除在個人信息保護范圍之外。

    可見,采用單純界定的方式居多,立法者僅僅指出構成個人信息的核心要素,如自然人、可識別性等,而沒有明確將姓名、身份證號、電話號碼、社會安全碼、基因信息等列為個人信息,也沒有將特定的信息排除在外,從而保持了概念的開放性。

    據(jù)統(tǒng)計,中國目前的個人信息保護規(guī)范已近100部,在規(guī)范制定主體上,除了全國人大常委會外,還包括國務院有關部委、地方政府、行業(yè)協(xié)會、科研機構等;在規(guī)制范圍上則涵蓋了互聯(lián)網(wǎng)、電信、征信、證券、銀行、保險、醫(yī)療等行業(yè),可謂范圍廣泛,內(nèi)容繁雜。盡管如此,多數(shù)學者仍指出中國個人信息保護規(guī)范存在著碎片化、保護利益不清晰、效力層級低、執(zhí)法部門定位和權限不明確等問題[4],[5]33??v觀中國現(xiàn)行規(guī)范,同樣存在單純定義和定義加列舉兩種模式。

    (1)定義加列舉模式。工信部《電信和互聯(lián)網(wǎng)用戶個人信息保護規(guī)定》《電信和互聯(lián)網(wǎng)服務用戶個人信息保護定義和分類》、中國科學技術法學會與北京大學互聯(lián)網(wǎng)法律中心《互聯(lián)網(wǎng)企業(yè)個人信息保護測評標準》、中國互聯(lián)網(wǎng)協(xié)會《互聯(lián)網(wǎng)終端安全服務自律公約》《互聯(lián)網(wǎng)終端軟件服務行業(yè)自律公約》、中國廣告協(xié)會互動網(wǎng)絡分會《中國互聯(lián)網(wǎng)定向廣告用戶信息保護框架標準釋義和基本指引》等均采取此種界定模式,除了給出個人信息的一般定義外,還列舉典型的個人信息類型以及排除類型。

    (2)單純定義模式。工信部《規(guī)范互聯(lián)網(wǎng)信息服務市場秩序若干規(guī)定》、國家質(zhì)檢總局與國家標準委《信息安全技術公共及商用服務信息系統(tǒng)個人信息保護指南》、中國廣告協(xié)會互動網(wǎng)絡分會《互聯(lián)網(wǎng)定向廣告?zhèn)€人信息保護聲明》、國家質(zhì)檢總局與國家標準委《健康信息學推動個人健康信息跨國流動的數(shù)據(jù)保護指南》、中國人民銀行《中國金融移動支付檢測規(guī)范第8部分:個人信息保護》等均使用了單純定義的方式,并未列舉典型的個人信息類型。從現(xiàn)行規(guī)范的定義模式看,采用單純定義和定義加列舉的做法數(shù)量相當,并沒有體現(xiàn)出一致性的傾向。

    關于個人信息界定模式,從世界范圍以及中國現(xiàn)行規(guī)范看,并不存在統(tǒng)一的做法。僅從數(shù)量上看,采用單純定義的方式居多,但這并不意味著單純定義的方式就是最合理的界定模式。作為個人信息保護法中的核心概念,如何精確地界定其范圍在很大程度上決定了個人信息保護立法的科學性和合理性。筆者認為,按照一般的法律概念界定方式,除了在概念中指出其本質(zhì)特征外,對于過于抽象的法律概念,還應當列明典型類型,以實現(xiàn)法律概念的確定性并為社會民眾提供相應的行為預期。從歐美先進國家的立法和司法經(jīng)驗看,由于個人信息概念的抽象性,如果僅僅規(guī)定其內(nèi)涵,無疑會增加法律適用上的不確定性。因此,有必要將明確符合個人信息概念的信息,如身份證號碼、社會安全碼、基因信息等可以唯一識別到某個自然人的信息予以列舉,從而增強個人信息概念的具體性和可適用性。

    (二)個人信息外延界定

    無論是美國的個人可識別信息還是歐盟的個人數(shù)據(jù),二者在內(nèi)涵上呈現(xiàn)出一致化的傾向,都以“可識別性”為其核心構成要件。盡管如此,要想清晰地界定個人信息的范圍仍是一件十分復雜和困難的事情。個人信息保護法是調(diào)整發(fā)生在信息主體和信息管理者之間的,在個人信息收集、處理和利用等活動過程中,因保護信息主體的權益而發(fā)生的社會關系的法律規(guī)范的總稱[5]66。隨著信息處理技術日臻成熟,越來越多的行為,包括收集、存儲、打標簽、用戶畫像、數(shù)據(jù)分享、跨境傳輸?shù)刃袨榫淮_立為數(shù)據(jù)處理行為。因此,個人信息范圍的界定將在根本上決定什么樣的處理行為要受到法律的約束。對此,世界上大多數(shù)國家和地區(qū)均對個人信息的范圍進行了一定程度的界定。

    在美國,由于不存在統(tǒng)一的個人信息保護法,個人信息的定義也僅僅體現(xiàn)在COPPA、《視頻隱私保護法(VPPA)》《金融服務現(xiàn)代化法案》,以及各州的數(shù)據(jù)泄露通知法之中。在范圍上,COPPA規(guī)定,個人信息是指關于某個人的個人可識別性信息。《視頻隱私保護法(VPPA)》采取同義反復的方式界定個人信息,即個人可識別信息是可以識別某個人的信息?!督鹑诜宅F(xiàn)代化法案(Gramm-Leach-Bliley Act)》采取反向排除法,即將非公共性(Nonpublic)的信息認定為個人信息,而各州的數(shù)據(jù)泄露通知法均采取了列舉方式來界定個人信息范圍,并且各州的規(guī)定并不相同。此外,比較有代表性的是,美國《消費者隱私權法案(草案)》規(guī)定,個人數(shù)據(jù)指處于受管轄實體控制之下的,通過合法方式無法被公眾獲取的,而且鏈接到或切實可由受管轄實體鏈接到特定個人的,或鏈接到個人相關的或常規(guī)使用的設備的任何數(shù)據(jù)。應當指出的是,美國不僅沒有形成統(tǒng)一的個人信息范圍,并且由于各州多采用列舉的方式,導致個人信息局限于“已識別(identified)”信息,對于“可識別(identifiable)”信息則無法提供有效的法律保護[6]。

    歐盟作為世界個人數(shù)據(jù)保護法的領路人,早在1995年就通過了《數(shù)據(jù)保護指令(95/46/EC)》(以下簡稱“95指令”),第2條明確規(guī)定,個人數(shù)據(jù)是指任何與已識別或可識別的自然人(“數(shù)據(jù)主體”)相關的信息Data Protection Directive,Article 2(a). 。而作為歐盟委員會的內(nèi)部咨詢機構,第29條工作組(以下簡稱“WP29”)就曾在2007年針對歐盟各成員國認定個人數(shù)據(jù)標準不一致的問題作出了《關于個人數(shù)據(jù)概念的意見》。該意見對個人數(shù)據(jù)的四大要素,即自然人、相關性、可識別性、任何信息進行了細致的分析,并列舉了相關例子。最后,WP29認為,在個人信息范圍的界定上,應當結合指令的目的,即保護自然人在個人數(shù)據(jù)處理過程中的隱私權,來予以綜合認定,同時考慮“所有可能的合理方法”[7]。2012年之后,為構建歐盟一體化的數(shù)據(jù)保護規(guī)則并推動數(shù)字化單一市場的形成,歐盟委員會發(fā)起了數(shù)據(jù)保護改革,并于2016年通過了GDPR,在個人數(shù)據(jù)定義上依然沿襲了95指令的規(guī)定,同時也界定了可識別的標準,即通過參照諸如姓名、身份證號碼、定位數(shù)據(jù)、網(wǎng)絡標識符等一項標識,或者是通過參照一個或多個針對該自然人的諸如身體、生理、基因、心理、經(jīng)濟、文化或社會身份因素來識別個人。此外,GDPR還在第9條規(guī)定了特殊種類個人數(shù)據(jù)的保護,對于揭示種族或民族出身、政治觀點、宗教或哲學信仰、工會成員的個人數(shù)據(jù),以及以唯一識別自然人為目的的基因數(shù)據(jù)、生物特征數(shù)據(jù),還有健康、自然人的性生活或性取向數(shù)據(jù)的處理應當被禁止。在GDPR的序言部分,歐盟再次指出,應當考慮所有合理可能的因素來認定個人數(shù)據(jù),并明確區(qū)分了假名化和匿名化數(shù)據(jù),前者可以通過其他額外信息來識別一個人,因此可以成為個人數(shù)據(jù);而匿名化數(shù)據(jù)不再識別一個人,故不受GDPR約束。從其法律規(guī)定可以看出,歐盟地區(qū)的個人數(shù)據(jù)范圍相對抽象和寬泛,這也與其最大限度地保護人格利益的立法目的相契合。

    英國曾于1998年通過了DPA,與歐盟WP29不同的是,英國信息委員會辦公室(以下簡稱“ICO”)在判斷什么是個人數(shù)據(jù)的方式上采取了相反的方式,即首先判斷何種處理行為下的數(shù)據(jù)是法案目的下的數(shù)據(jù),然后在此基礎上判斷這些數(shù)據(jù)是否是個人數(shù)據(jù)。在個人數(shù)據(jù)的認定上,ICO同樣采取了四要素分析法,并采取寬泛的保護方式。在2017年9月14日發(fā)布的《數(shù)據(jù)保護法令(Data Protection Bill)》中,個人數(shù)據(jù)被界定為任何與已識別或可識別的在世的人相關的信息。雖然在表達上與歐盟略有不同,但二者的實質(zhì)內(nèi)涵一致。

    德國在個人數(shù)據(jù)保護上具有其自身特色,其調(diào)整對象包含了公務部門和非公務部門的個人數(shù)據(jù)處理。在個人數(shù)據(jù)保護立法上,德國聯(lián)邦憲法法院通過判例創(chuàng)設的“信息自決權”為其個人數(shù)據(jù)保護提供了理論基礎,并于2003年制定了BDSG,而在歐盟通過GDPR之后,又在2017年6月30日通過了新的數(shù)據(jù)保護法案,成為歐盟地區(qū)第一個將GDPR本土化的成員國[8]。在個人數(shù)據(jù)的界定上,法案完全采納了GDPR的規(guī)定,以保持與歐盟在未來執(zhí)法上的一致性。

    新加坡于2013年1月起正式施行《個人數(shù)據(jù)保護法(PDPA)》,其中在概念解釋部分規(guī)定,個人信息是指,無論真實與否,能通過該信息識別或通過該信息與其他企業(yè)已經(jīng)或能夠獲取的信息結合后識別出個人的信息。

    澳大利亞于1988年頒布實施《隱私法》,在2016年的修訂版本中,個人信息被界定為關于一個已識別或可合理識別的人的信息或觀點,無論該信息或觀點是否真實,也無論該信息或觀點是否以有形形式記錄。

    俄羅斯于2006年通過了《個人資料法》,該法案在2014年經(jīng)過了較大調(diào)整,在2017年最新修改的《個人資料法》中個人資料(亦即個人信息)是指能直接或間接地識別出或可識別出自然人(個人資料主體)的任何信息。

    中國臺灣地區(qū)采用個人資料的概念,并在“個人資料保護有關規(guī)定”第2條采取列舉和歸納的方式界定了個人資料的內(nèi)涵,同樣采取可識別說。中國香港地區(qū)的《個人資料(私隱)條例》第2條對個人資料的內(nèi)涵進行了列舉,即直接或間接與一名在世的個人有關的或從該資料直接或間接地確定有關的個人的身份是切實可行的,該數(shù)據(jù)的存在形式令予以查閱及處理均是切實可行的。中國澳門地區(qū)由于歷史緣故,在個人資料保護立法上更接近歐盟地區(qū),第4條將個人資料界定為與某個身份已確定或身份可確定的自然人(“數(shù)據(jù)當事人”)有關的任何信息,包括聲音和影像,不管其性質(zhì)如何以及是否擁有載體。

    總結其他國家(地區(qū))個人信息保護法規(guī)發(fā)現(xiàn),在個人信息概念的界定上,幾乎所有國家(地區(qū))都采取了可識別說,并且從全球影響力看,歐盟地區(qū)采取的寬范圍保護模式得到了其他國家(地區(qū))的效仿,尤其是亞太地區(qū)。作為英美法系國家的代表,英國雖然至今都沒有承認一般的隱私權[9],但是其直接跳過隱私權,而采用更有包容性和時代性的個人數(shù)據(jù)保護法模式也使其立法受到關注。美國作為最早提出隱私權的國家,一直致力于隱私權的擴張,以此來保護各種人格利益,但是此種做法也具有明顯的局限性,尤其是在保護范圍上過于狹窄,并且呈現(xiàn)出分散化特點。在網(wǎng)絡與現(xiàn)實生活聯(lián)系日益緊密,個人信息的商業(yè)價值日益凸顯的今天,此種固守傳統(tǒng)隱私路徑的做法似乎難以為個人提供充分的保障。

    在中國,《民法總則》第111條的規(guī)定為個人信息保護奠定了基礎。而關于個人信息范圍的界定,目前基本上形成了以可識別說為核心的概念。其中,最具代表性的莫過于2016年通過并在2017年6月起實施的《網(wǎng)絡安全法》。該法第76條對個人信息進行了界定,即以電子或者其他方式記錄的能夠單獨或者與其他信息結合識別自然人個人身份的各種信息,包括但不限于自然人的姓名、出生日期、身份證件號碼、個人生物識別信息、住址、電話號碼等。該定義也與目前國際社會,尤其是歐盟地區(qū)的定義基本一致。

    除此之外,中國其他部門規(guī)章以及國家標準等也對個人信息進行了界定。比如工信部2013年發(fā)布的《電信和互聯(lián)網(wǎng)用戶個人信息保護規(guī)定》第4條就使用了“用戶個人信息”的概念,將其限定在電信業(yè)務經(jīng)營者和互聯(lián)網(wǎng)信息服務提供者在提供服務的過程中所收集的能夠識別用戶的信息,并采取列舉的方式,將用戶使用服務的時間、地點等信息納入其中。應當指出的是,用戶使用的時間和地點并非嚴格意義上的個人信息,只有在與其他信息結合能夠識別用戶身份時才能被認定為個人信息,該規(guī)定直接將其與其他可識別信息并列的做法也不符合個人信息的基本理論。此后,工信部于2014年又發(fā)布《電信和互聯(lián)網(wǎng)服務用戶個人信息保護定義和分類》,將用戶個人信息界定為電信業(yè)務經(jīng)營者和互聯(lián)網(wǎng)信息服務提供者在提供服務過程中收集的能夠單獨或者與其他信息結合識別用戶和涉及用戶個人隱私的信息。該定義也反映出中國政府部門對個人信息與隱私在認識上的混淆;但是,該標準還指出,用戶個人信息經(jīng)脫敏處理后不納入本標準規(guī)定的電信和互聯(lián)網(wǎng)服務用戶個人信息范圍。此外,該標準還根據(jù)屬性和類型特征,將電信和互聯(lián)網(wǎng)用戶個人信息分為用戶身份和鑒權信息、用戶數(shù)據(jù)和內(nèi)容信息、用戶服務相關信息三大類,相較于其他國家(地區(qū))的個人數(shù)據(jù)與特殊類型個人數(shù)據(jù)二分法,此種做法相對復雜,也缺乏一定的邏輯性。

    國家質(zhì)檢總局與國家標準委員會于2013年發(fā)布的中國首個個人信息保護國家標準《信息安全技術公共及商用服務信息系統(tǒng)個人信息保護指南》在個人信息的界定上就更加科學,即可為信息系統(tǒng)所處理、與特定自然人相關、能夠單獨或通過與其他信息結合識別該特定自然人的計算機數(shù)據(jù)。從其定義看出,該定義基本上遵循了WP29的觀點,并且還采取了分類保護的模式,將個人信息區(qū)分為個人敏感信息和個人一般信息,這種界定也被其他政府部門所采納。國家質(zhì)檢總局、國家標準委員會《健康信息學推動個人健康信息跨國流動的數(shù)據(jù)保護指南》則采用了個人數(shù)據(jù)的概念,在內(nèi)容上也采取直接定義方式,即任何涉及已標識或可標識自然人的信息,沒有列舉典型的個人數(shù)據(jù)種類。

    除政府部門外,行業(yè)組織對個人信息保護以及概念界定也形成了一些自律規(guī)范。如中國科學技術法學會與北京大學互聯(lián)網(wǎng)法律中心聯(lián)合發(fā)布的《互聯(lián)網(wǎng)企業(yè)個人信息保護測評標準》,其中對個人信息的界定指能夠切實可行地單獨或通過與其他信息結合識別特定用戶身份的信息或信息集合,如姓名、出生日期、身份證件號碼、住址、電話號碼、賬號、密碼等。該定義也強調(diào)識別的高度可行性。此外,測評標準也明確指出,不適用于經(jīng)不可逆的匿名化或去身份化處理,使信息或信息集合無法合理識別特定用戶身份的信息。

    當前世界上大多數(shù)國家(地區(qū))都采取了可識別說,但是在具體范圍和界定方式上還存在一定的差異??傮w而言,歐盟地區(qū)在個人數(shù)據(jù)界定方面較為先進,并在可識別性基礎上出臺相關意見,增加了認定標準,有利于法律適用的統(tǒng)一,值得中國借鑒。

    二、個人信息概念界定之反思

    在個人信息保護成為全球立法重點的今天,歐盟個人數(shù)據(jù)保護法以其邏輯性和體系性成為他國效仿的對象,中國亦追隨此腳步,制定了大量有關個人信息的保護規(guī)范,并在《民法總則》中明確了個人信息受法律保護。對此,王利明教授指出,未來在民法典人格權編中還應當確立個人信息權[10]。此外,加快個人信息保護立法已經(jīng)成為全社會的共識。一項法律的獨立性最核心的體現(xiàn)就是其調(diào)整對象,因此,個人信息范圍的界定就成為重中之重,美國和歐盟之所以在個人信息跨境傳輸問題上摩擦重重,就在于雙方在個人信息保護范圍上不同,以至于有學者提出PII 2.0概念來調(diào)和雙方間的矛盾[11]。在中國制定個人信息保護法之前,反思當前的個人信息界定,對于提高立法的科學性、可適用性和預見性具有重要意義。

    (一)個人信息界定的場景性和動態(tài)性

    正如歐盟法院在谷歌被遺忘權案中關于地域范圍的解釋所顯示的,一個寬泛的解釋將有助于防止個人被免除指令的保護,這也是歐盟《基本權利憲章》第7條隱私權和第8條個人數(shù)據(jù)受保護權的應有之義。在概念界定上,歐盟放棄了以私密性為核心的隱私權界定,采取了看似更加客觀的可識別標準,并且在形式上囊括了電子化和非電子化的信息,在內(nèi)容上也包括了客觀的描述性信息和主觀性評價。更重要的是,歐盟對于可識別性標準的界定使得幾乎所有的信息都有可能成為個人數(shù)據(jù),而由于GDPR的高水平保護和嚴格的懲罰機制,企業(yè)的合規(guī)成本也將大大提高。隱私的界定具有主觀性并受到地區(qū)傳統(tǒng)文化的影響,但仔細分析就會發(fā)現(xiàn),個人信息的界定也并非那么客觀。

    可識別性是個人信息最重要的要件。通常講,“已識別”意味著在特定的人群中,某個人可與該群組內(nèi)的其他人區(qū)別開來,而“可識別”則是指雖然某個人現(xiàn)在還未被識別,但有可能(Possible)做到這一點。在認定標準上,95指令、WP29、《關于個人數(shù)據(jù)概念的意見》、GDPR都一致表明了間接識別的重要性,即應當考慮“所有合理可能的方法(All the Means Likely Reasonably)”,只要在采取了合理方法能夠再度識別個人的,那么其同樣構成個人數(shù)據(jù)。相對于完全的列舉式定義,這種界定看似囊括了所有可能受到保護的個人信息,實則是將個人信息置于動態(tài)化和場景化的危險之中。主要體現(xiàn)在兩個方面:其一是具有間接識別性能力的個人以何種范圍為基準?也就是說,應當以具備何種知識水平的人作為社會一般大眾來判定某項信息是否具有間接識別性。由于與當事人社會關系的不同,相較于一般社會大眾,與當事人有密切關系的近親屬、同事、朋友等更容易識別出該當事人。比如,對于“前NBA火箭隊主力華人中鋒”信息,無需特定的專業(yè)技能,一般人憑常識或簡單檢索即可識別該個人。但是,在其他情形下,如美國在線(AOL)公開搜索日志事件,在該事件中,公司采取了一定的匿名化手段隱去了用戶賬號等信息,但是還是有專業(yè)研究人員和電腦愛好者通過技術手段識別出了特定用戶。例如,第4417749號是佐治亞州的一個寡婦,另一個用戶似乎在策劃一場謀殺,此時,該信息對于一般人或技術水平較低的企業(yè)而言,其無法識別,就不構成個人信息,但是對于高水平技術人員或谷歌、微軟等大型互聯(lián)網(wǎng)企業(yè)而言,這又構成了個人信息。同一個客體在不同的主體面前具有截然相反的法律屬性不僅不符合法律概念的客觀性要求,同時也將造成法律適用的困難。其二是能夠與間接識別性資料相結合或比對的資料,是否應當是一般人無需經(jīng)過特別調(diào)查或支付龐大費用就容易獲取的資料?對此,根據(jù)GDPR序言(26),要確定所使用的方法是否合理可能,需要考慮所有的客觀因素,諸如識別的時間長短和成本,數(shù)據(jù)處理時可用的技術以及未來的技術發(fā)展。在WP29發(fā)布的意見中,工作組認為,實施身份識別行為的成本是一個需要考慮的因素,但不是唯一因素??刂普咭庥_到的目的、數(shù)據(jù)處理的方式、控制者預期的獲益、對個人的風險利益,以及組織性機能障礙(如違反保密義務)的風險和技術性失敗都應當被考慮在內(nèi)[7]。工作組還指出,這種可識別性的測試也是一個動態(tài)的過程,并且還應當考慮數(shù)據(jù)處理時的技術狀況以及在數(shù)據(jù)處理期間技術發(fā)展的可能性。對于當前采取了所有方法都無法識別的數(shù)據(jù),如果數(shù)據(jù)意圖被存儲1個月,身份識別在其生命期間可能不被期望。但如果該數(shù)據(jù)意圖被存儲10年,控制者就應當考慮在數(shù)據(jù)生命周期第9年可能出現(xiàn)的識別可能性,而這種可能性的出現(xiàn)就會使該數(shù)據(jù)成為個人數(shù)據(jù)。

    由此可見,個人信息的認定并非像物一樣穩(wěn)定,而是隨著擁有數(shù)據(jù)的主體、使用的場景、數(shù)據(jù)保存的期限、技術的發(fā)展而變化,這就決定了個人信息界定的場景性和動態(tài)性。而由于個人信息界定的動態(tài)性和場景依賴,導致現(xiàn)行法律的規(guī)定缺乏一定的可操作性。原因在于,在企業(yè)采取了匿名化處理并滿足法律排除適用的條件后,很有可能會隨著技術的進步或企業(yè)數(shù)據(jù)類型的增多而再度識別出用戶。按照歐盟立法機構的設想,這將導致企業(yè)時而受到約束、時而卻不受約束的奇怪現(xiàn)象,正如有學者指出的,這也不利于企業(yè)實施匿名化等隱私增強技術[12]。

    (二)匿名化與個人信息

    匿名化(Anonymisation)本身是指一種隱私增強技術,但是由于其后果是造成該數(shù)據(jù)無法再度識別到特定個人,不會損害自然人的人格利益,因而被許多國家的個人數(shù)據(jù)保護法排除在適用范圍之外,中國《網(wǎng)絡安全法》亦有規(guī)定。但是計算機科學的發(fā)展已經(jīng)表明,在許多情形下,非個人可識別信息可以被關聯(lián)至個人,并且識別性數(shù)據(jù)可以被再識別。PII和non-PII已經(jīng)不是不可改變的范圍,并且在被視為非個人可識別的信息和個人可識別信息之間存在著在某一個時刻可以相互轉(zhuǎn)化的風險[13]。中國也有學者清晰地指出,匿名的狀態(tài)是相對的,只在特定的場景中有效,原則上并不存在絕對的匿名化[14]。

    在大數(shù)據(jù)時代,個人信息的商業(yè)價值日益凸顯并體現(xiàn)在生活中的方方面面。利用個人信息,私人可以用于電子商務交易,政府可以更高效地實現(xiàn)公共政策的制定,企業(yè)可以更有針對性地開發(fā)和銷售產(chǎn)品,醫(yī)療機構可以結合病人醫(yī)療記錄、家庭背景、生活飲食習慣發(fā)現(xiàn)病因并做好預防工作。信息的自由流動對于全球電子商務和數(shù)字經(jīng)濟的發(fā)展具有重要意義。為了更充分地利用數(shù)據(jù),企業(yè)往往采取匿名、差分隱私等手段來規(guī)避法律約束。但正如上述個人信息商業(yè)模式所展示的,其最終目的還是為了鎖定至個人,并提供更符合個人需求的產(chǎn)品或服務。因此,識別是企業(yè)數(shù)據(jù)處理的終極目的。

    與匿名化技術相關的是假名化(Pseudonymisation),二者的區(qū)別在于假名化后的數(shù)據(jù)還可以通過特定的算法或函數(shù)與原數(shù)據(jù)相關聯(lián)。在性質(zhì)上,有學者認為它們在歐盟法律體系中扮演著免除法律適用和法定義務的安全港角色,但從當前的技術發(fā)展趨勢看是十分具有挑戰(zhàn)性的[15]。而WP29特別指出,假名化降低了數(shù)據(jù)庫與數(shù)據(jù)主體原始身份的關聯(lián)性,就此而言,它是一個有用的安全措施,但并不是一種匿名化的方法[16],采取假名化的數(shù)據(jù)仍然是個人數(shù)據(jù)。而究竟在何種程度上,匿名化的數(shù)據(jù)才不受個人數(shù)據(jù)保護法的約束,WP29指出,需要評估技術的堅固性(Robustness),并給出了三個具體的判定標準:(1)是否仍有可能挑出個人;(2)是否仍有可能將一個人與記錄相連接;(3)有關個人的信息是否可被推測出。需要指出的是,使用此種判定并非一勞永逸,即使被認為是安全的技術,也要定期評估殘余風險(Residual Risks),如果評估結果牽涉“一項有關數(shù)據(jù)主體身份識別不可接受的風險”,那么即使采取了匿名化技術,對此類數(shù)據(jù)的處理仍應受到GDPR的約束。

    可見,匿名化數(shù)據(jù)的再識別風險使得個人信息的界定更加不確定。事實上,WP29此前就已經(jīng)指出歐盟的數(shù)據(jù)保護框架是以“風險為基礎的方法(Risk-Based Approach)”,企業(yè)的法定義務隨著處理數(shù)據(jù)的類型和對數(shù)據(jù)主體的隱私風險而變化[17]。這種方式導致匿名數(shù)據(jù)與個人數(shù)據(jù)之間的界限并非像通常所描述的那樣清晰,而是隨著數(shù)據(jù)環(huán)境的變化而相互轉(zhuǎn)化[18]。這不僅導致法律適用上的困難,還使得企業(yè)無法有效地實施數(shù)據(jù)挖掘以及共享行為,阻礙信息的自由流動。

    三、中國個人信息的立法選擇

    歐盟個人數(shù)據(jù)保護立法所采取的寬泛保護模式將造成法律概念界定和法律適用上的混亂,無論是從法律的確定性還是安定性角度而言,都需要通過其他制度來彌補此種不足。中國法治的現(xiàn)代化深受大陸法系國家影響,這一點在個人信息保護領域亦是如此?!睹穹倓t》的出臺明確了個人信息應作為一種法定利益受到保護,未來的人格權編中將確立個人信息權,為各項具體個人信息權提供權源。此外,由于個人信息保護還涉及信息自由流動、跨境傳輸、執(zhí)法監(jiān)管、侵權救濟等內(nèi)容,不僅超出了人格權編所能規(guī)定的容量,也由于其需要調(diào)整個人利益與社會公共利益間平衡的復雜性,制定單獨的個人信息保護法已經(jīng)成為世界各國的立法趨勢,中國未來亦應如此。在這種宏觀背景下,結合上述對個人信息界定的立法比較和反思,筆者提出了如下解決路徑。

    (一)加強個人信息權頂層設計

    個人信息在最初是一項法益,無論在美國還是歐盟,起初都是通過隱私權進行保護。美國通過Whalen v. Roe案首次肯定憲法上信息隱私權,95指令在第1條也規(guī)定,尤其要保護數(shù)據(jù)主體在個人數(shù)據(jù)處理中的隱私權。但是,美國至今仍通過隱私權的方式保護個人信息,而歐盟卻在GDPR中摒棄了隱私權的表述,直接使用了“個人數(shù)據(jù)受保護的權利(Right to the Protection of Personal Data)” ,以區(qū)分隱私權。中國在尚未確立個人信息權時,在司法實踐中也是通過隱私權來保護個人信息的;但是這種保護存在一定的瑕疵,最明顯的就是已經(jīng)公開或者涉及公共利益的個人信息被直接排除在保護范圍之外。采用更為寬泛和積極的個人信息概念不僅是國際社會的主流趨勢,也是克服中國隱私保護局限的理性選擇。

    個人信息范圍的抽象性和不確定性不僅無法為企業(yè)提供明確的行為預期,也會對自然人的人格利益造成重要影響。在很多時候,自然人根本不知道其個人信息被收集之后會被如何處理,只有在其發(fā)現(xiàn)人格利益受損時才會去尋求救濟,而且由于信息獲取和傳遞的渠道越來越多,導致在訴訟中個人很難舉證證明對方侵犯了其個人信息權;因此,確立各項具體個人信息權利對于預防個人信息濫用、減少人格利益損害就成為一種必然。在此方面,歐盟已經(jīng)在GDPR中專章規(guī)定了數(shù)據(jù)主體的權利,包括了訪問權、更正權、刪除權(被遺忘權)、限制處理權、數(shù)據(jù)可攜權、反對權,賦予自然人在個人數(shù)據(jù)的收集、處理、變更、刪除、轉(zhuǎn)移等各個環(huán)節(jié)的控制力,并且相較于其他國家,其首創(chuàng)的數(shù)據(jù)可攜權在某種程度上類似于所有權,除了允許用戶下載其提交的個人數(shù)據(jù)之外,還允許自然人將其個人數(shù)據(jù)從一個網(wǎng)絡服務者處無障礙地轉(zhuǎn)移至另一個服務者處[19]。

    就中國目前而言,雖然很多法律法規(guī)都規(guī)定用戶有權更正錯誤信息和刪除違法收集的信息,但是相較于歐盟、英國等個人信息保護水平較高的地區(qū),中國的個人信息權利體系還有很大的完善空間。在中國未來民法典人格權編和個人信息保護法中,應當以增強控制力為目的,加強個人信息權利的頂層設計,明確規(guī)定決定權、訪問權、更正權、封鎖權、刪除權甚至是報酬請求權等權利,以克服因個人信息的動態(tài)性所導致的人格利益危險。

    (二)事前知情同意

    在個人信息保護法中, 知情同意原則是信息管理者在收集個人信息時,應當對信息主體就有關個人信息被收集、處理和利用的情況進行充分告知,并征得信息主體明確同意的原則[20]。該原則的意義在于在個人信息的收集環(huán)節(jié)就充分告知其使用目的和相關風險,在征得個人的實質(zhì)同意后實施個人信息的處理。該原則在中國現(xiàn)行個人信息法律法規(guī)中均有類似規(guī)定。比如《全國人大關于加強網(wǎng)絡信息保護的決定》第2條、工信部《電信和互聯(lián)網(wǎng)用戶個人信息保護決定》第9條均要求網(wǎng)絡服務提供者在收集個人信息前應當充分告知收集和使用規(guī)則,并征得用戶同意。在個人信息保護法基本原則體系中,知情同意是實現(xiàn)自然人信息自決的重要方式,只有權利人真實地控制個人信息的使用,才能實現(xiàn)保護個人尊嚴的立法目的。

    知情同意原則在實踐中最重要的體現(xiàn)就是企業(yè)隱私政策。在《網(wǎng)絡安全法》頒布之前,隱私政策并未受到企業(yè)的重視,存在注重形式而非實質(zhì)上的同意、用戶控制力保護不足等問題。此前順豐和菜鳥物流數(shù)據(jù)之爭事件就反映出快遞公司在數(shù)據(jù)共享方面沒有履行充分的告知義務,導致消費者根本不知道自己的數(shù)據(jù)被分享給了誰[21]。2017年9月,由中央網(wǎng)信辦等四部委啟動隱私條款專項工作,針對微信、淘寶等10款網(wǎng)絡產(chǎn)品和服務的隱私條款進行評審。此后,高德地圖、微信、新浪微博等相繼修改隱私政策,并通過彈窗等方式履行告知義務,這對于帶動行業(yè)個人信息整體保護水平,形成社會示范效應具有重要意義。中國未來應當參考借鑒歐盟地區(qū)的做法,采用清晰易懂的語言增強隱私政策的可讀性,以獲得網(wǎng)絡用戶的實質(zhì)同意。

    (三)事中風險評估

    在大數(shù)據(jù)時代,數(shù)據(jù)的自由流動是數(shù)字經(jīng)濟發(fā)展的前提和動力,政府和企業(yè)也在積極探索大數(shù)據(jù)交易平臺并制定了相應的交易規(guī)則。根據(jù)國家標準委員會發(fā)布的《信息安全技術數(shù)據(jù)交易服務安全要求》征求意見稿,在數(shù)據(jù)交易中應當遵循個人信息保護原則,在禁止交易的部分,該標準明確指出,涉及個人信息的數(shù)據(jù)禁止交易,除非獲得了全部個人數(shù)據(jù)主體的同意明示,或者進行了必要的去標識化處理。在現(xiàn)實生活中,個人信息被收集之后,企業(yè)很有可能會采取匿名化、跨境傳輸、數(shù)據(jù)共享等處理行為,即使是一方對其所收集的個人信息的特定要素采取刪除、加密等措施,也有可能因為接受方所擁有的多種數(shù)據(jù)類型或技術手段而變得可識別。筆者認為,在企業(yè)實施數(shù)據(jù)交易等行為時,應當引入風險評估機制,定期對自身的數(shù)據(jù)匿名化程度、數(shù)據(jù)交易方再度識別個人的風險進行評估,以確保個人信息保護法的排除適用。

    一個與之相隨的問題就是,此種風險在何種程度上被視為不受個人信息保護法約束。在本質(zhì)上,個人信息從完全無法識別到可識別再到已識別,反應的是識別的風險;但由于個人信息認定的場景性,從完全無法識別到可識別之間并不存在十分清晰的界線,因而導致不同地區(qū)在識別風險大小問題上存在爭議。從歐盟地區(qū)發(fā)布的意見中可以看到,其對匿名化持較為嚴格的態(tài)度,并試圖將再識別風險降低到零。英國ICO認為,匿名化數(shù)據(jù)并非完全沒有風險,而是其應當能夠降低身份識別的風險直至很微小[22]。對此,有學者指出,在匿名化沒有造成任何莫須有的損害或危難的情況下,無需為匿名化處理行為正名[15]。筆者贊同此種觀點,個人信息的保護不應當以犧牲信息自由流動為代價,如果企業(yè)為了匿名化付出了合理成本并將風險降低到足夠程度,那么就應當在法律上視為實現(xiàn)了完全的匿名化。

    (四)事后個案認定

    個人信息的動態(tài)性和場景性決定了在不同的情況下,對一項信息的處理和使用并非一成不變。對此,中國有學者指出,個人信息的定義是動態(tài)且高度依賴于具體場景的,無法做靜態(tài)的類型化界定[15]。筆者贊同此種觀點,現(xiàn)有的法律規(guī)定雖然采取了定義加列舉的方式,但是此種方式并不代表所列舉的內(nèi)容就絕對屬于個人信息。比如在同名同姓的情況下,姓名作為一種常見的識別方式在該種情境下就不能被視為個人信息。因此,在司法實踐中認定是否存在個人信息侵權時,應當堅持個案認定原則,結合案件的具體情景,在考慮所有再識別的手段后仍無法識別時,方能排除個人信息保護法的適用。

    四、結論

    在大數(shù)據(jù)時代,個人信息保護法成為捍衛(wèi)人格利益的最后一道防線,以歐盟為代表的個人數(shù)據(jù)保護立法模式已經(jīng)成為個人信息保護的主流做法,可識別性作為認定標準能夠有效克服隱私界定的主觀性,但個人信息界定的動態(tài)性和場景性使企業(yè)和個人在法律適用面前無所適從,個人無法知悉和控制有關其信息的處理,企業(yè)也因再識別的風險而面臨高額的合規(guī)成本。從個人信息的頂層設計入手,強化事前的同意、事中的風險評估,以及事后的個案認定,能夠有效彌補個人信息概念本身存在的不足。在中國未來民法典人格權編和個人信息保護法立法過程中,應當以上述原則為指導,構建科學的個人信息保護體系,以維護公民的人格利益。

    參考文獻:

    [1]張山.全球信息數(shù)據(jù)量逐年猛增 IDC產(chǎn)業(yè)迎來發(fā)展新機遇[N].中國證券報,2015-08-05.

    [2]齊愛民.中華人民共和國個人信息保護法示范法草案學者建議稿[J].河北法學,2005(6):2-5.

    [3]人民網(wǎng).全球90個國家和地區(qū)制定個人信息保護法律[EB/OL].(2017-08-10)[2017-09-14]. http://world.people.com.cn/n1/2017/0810/c1002-29463433.html.

    [4]張新寶.從隱私到個人信息,利益再衡量的理論與制度安排[J].中國法學,2015(3):38-59.

    [5]齊愛民.信息法原論[M].武漢:武漢大學出版社,2010.

    [6]SCHWARTZ P M,SOLOVE D J. Reconciling rersonal information in the United States and European Union[J].California Law Review,2014,102:891.

    [7]ARTICLE 29 WORKING PARTY. Opinion 4/2007 on the concept of personal data[EB/OL].(2007-06-20)[2017-09-14].http://ec.europa.eu/justice/policies/privacy/docs/wpdocs/2007/wp136_en.pdf.

    [8]BERND M W,LECHNER F.New German Federal Data Protection Act[EB/OL].(2017-08-07)[2017-09-14].https://www.paulhastings.com/publications-items/details?id=4dddec69-2334-6428-811c-ff00004cbded.

    [9]王澤鑒.人格權的具體化及其保護范圍·隱私權篇(上)[J].比較法研究,2008(6):1-21.

    [10]王利明.論我國《民法總則》的頒行與民法典人格權編的設立[J].政治與法律,2017(8):2-11.

    [11]PAUL M,SCHWARTZ D J S.Reconciling personal information in the United States and European Union[J].California Law Review,2014,102:905.

    [12]WALDEN I.Anonymising personal data[J].International Journal of Law and Information Technology,2002(10):225.

    [13]SCHWARTZ P M,SOLOVE D J.The PII problem: Privacy and a new concept of personally identifiable information[J]. New York University Law Review,2011(86):1814.

    [14]范為.大數(shù)據(jù)時代個人信息定義的再審視[J].通信保密,2016(10):70-80.

    [15]ESAYAS S Y.The role of anonymisation and pseudonymisation under the EU data privacy rules: Beyond the ‘a(chǎn)ll or nothing approach[J]. European Journal of Law and Technology,2015(6):1-5.

    [16]ARICLE 29 DATA PROTECTION WORKIING PARTY.Opinion 05/2014 on Anonymisation Techniques[EB/OL].(2014-04-10)[2017-09-16].http://ec.europa.eu/justice/data-protection/article-29/documentation/opinion-recommendation/files/2014/wp216_en.pdf.

    [17]ARICLE 29 DATA PROTECTION WORKIING PARTY.Statement on the role of a risk-based approach in data protection legalframeworks[EB/OL].(2014-05-30)[2017-09-12].http://ec.europa.eu/justice/data-protection/article-29/documentation/opinion-recommendation/files/2014/wp218_en.pdf.

    [18]STALLABOURDILLON S,KNIGHT A.Anonymous Data v. personal data - false debate: An EU perspective on anonymization,pseudonymization and personal Data[J].Wisconsin International Law Journal,2016(34):321.

    [19]張哲.探微與啟示:歐盟個人數(shù)據(jù)保護法上的數(shù)據(jù)可攜權研究[J].廣西政法管理干部學院學報,2016(6):43-48.

    [20]張才琴,齊愛民,李儀.大數(shù)據(jù)時代個人信息開發(fā)利用法律制度研究[M].北京:法律出版社,2015:42.

    [21]王林.菜鳥順豐掐架敲響警鐘個人信息怎么保護?[N].中國青年報,2017-06-06(09).

    [22]UK ICO.Anonymisation: managing data protection risk code of practice[EB/OL].(2014-04-10)[2017-09-16].https://ico.org.uk/media/1061/anonymisation-code.pdf.

    猜你喜歡
    個人信息權個人信息
    如何保護勞動者的個人信息?
    個人信息保護進入“法時代”
    主題語境九:個人信息(1)
    警惕個人信息泄露
    從個人信息權切入談精準性電信詐騙
    互聯(lián)網(wǎng)金融監(jiān)管的“扶助之手”
    個人信息保護等6項通信行業(yè)標準征求意見
    工信部:我國將出臺保護個人信息行業(yè)標準
    琪琪午夜伦伦电影理论片6080| 少妇熟女aⅴ在线视频| 首页视频小说图片口味搜索| 国产欧美日韩一区二区精品| 18禁美女被吸乳视频| 国产欧美日韩精品亚洲av| 午夜福利18| 免费在线观看影片大全网站| 老熟妇乱子伦视频在线观看| 国产欧美日韩精品一区二区| 国产单亲对白刺激| 欧美日韩一级在线毛片| 午夜福利在线观看吧| av在线天堂中文字幕| 女生性感内裤真人,穿戴方法视频| 午夜影院日韩av| av福利片在线观看| 9191精品国产免费久久| 美女被艹到高潮喷水动态| 99热这里只有精品一区| 国产视频内射| 欧美乱妇无乱码| 色精品久久人妻99蜜桃| 免费观看人在逋| 国产精品一及| 亚洲精品成人久久久久久| av福利片在线观看| 人人妻人人看人人澡| 精品国内亚洲2022精品成人| 婷婷丁香在线五月| 欧美黄色淫秽网站| 嫁个100分男人电影在线观看| 亚洲av熟女| 极品教师在线免费播放| 亚洲熟妇熟女久久| 丰满人妻一区二区三区视频av | 免费av毛片视频| 亚洲国产精品999在线| 亚洲 国产 在线| 久久精品91蜜桃| 日韩国内少妇激情av| 一区二区三区国产精品乱码| 久久国产精品人妻蜜桃| 黄色丝袜av网址大全| 91麻豆av在线| 三级毛片av免费| tocl精华| 最近最新免费中文字幕在线| 丰满乱子伦码专区| 有码 亚洲区| 亚洲精品美女久久久久99蜜臀| 美女免费视频网站| 欧美日本亚洲视频在线播放| 2021天堂中文幕一二区在线观| 久久久久久人人人人人| 午夜两性在线视频| 国语自产精品视频在线第100页| 在线播放无遮挡| 国产精品野战在线观看| 午夜精品一区二区三区免费看| 99久久成人亚洲精品观看| 狂野欧美激情性xxxx| 夜夜夜夜夜久久久久| 一级黄片播放器| 国产精品美女特级片免费视频播放器| www.www免费av| 啪啪无遮挡十八禁网站| 丝袜美腿在线中文| 日本 欧美在线| 欧美一区二区精品小视频在线| 国产精品99久久99久久久不卡| 又黄又爽又免费观看的视频| av福利片在线观看| 午夜两性在线视频| 国产高潮美女av| 国产免费一级a男人的天堂| ponron亚洲| 亚洲 国产 在线| 国产av在哪里看| 亚洲国产精品999在线| 久久99热这里只有精品18| 草草在线视频免费看| 国产伦精品一区二区三区视频9 | 欧美性猛交黑人性爽| 天天添夜夜摸| 噜噜噜噜噜久久久久久91| 一个人免费在线观看电影| 欧美成人性av电影在线观看| 欧美成人一区二区免费高清观看| 性色avwww在线观看| 亚洲成av人片免费观看| 真人一进一出gif抽搐免费| 久99久视频精品免费| 中出人妻视频一区二区| 久久伊人香网站| 日韩欧美国产在线观看| 国产成人av激情在线播放| 亚洲成av人片在线播放无| 18+在线观看网站| 亚洲国产欧美网| 精品久久久久久久人妻蜜臀av| 99热精品在线国产| 精品久久久久久久人妻蜜臀av| 日韩大尺度精品在线看网址| 51国产日韩欧美| 欧美成狂野欧美在线观看| 精品久久久久久久末码| 最近最新中文字幕大全免费视频| 国产精品精品国产色婷婷| 变态另类成人亚洲欧美熟女| 夜夜躁狠狠躁天天躁| 中文在线观看免费www的网站| 国产久久久一区二区三区| 校园春色视频在线观看| 日本黄色片子视频| 性欧美人与动物交配| 国产亚洲欧美98| 51国产日韩欧美| 可以在线观看的亚洲视频| 午夜激情欧美在线| 国产成人aa在线观看| 在线观看日韩欧美| 亚洲av免费高清在线观看| 欧美成人一区二区免费高清观看| 欧美xxxx黑人xx丫x性爽| 老鸭窝网址在线观看| 狠狠狠狠99中文字幕| 午夜亚洲福利在线播放| 久久久久久久久久黄片| 18禁国产床啪视频网站| 99久久精品热视频| 97人妻精品一区二区三区麻豆| 国产乱人视频| 小说图片视频综合网站| 99精品在免费线老司机午夜| 亚洲国产中文字幕在线视频| 中出人妻视频一区二区| 首页视频小说图片口味搜索| 熟女人妻精品中文字幕| 欧美色视频一区免费| 午夜福利在线观看吧| 中文字幕人妻丝袜一区二区| 最新中文字幕久久久久| 成人av一区二区三区在线看| 在线天堂最新版资源| 黄色日韩在线| 99久久九九国产精品国产免费| 一级毛片女人18水好多| 怎么达到女性高潮| 久久人妻av系列| 亚洲国产精品久久男人天堂| 亚洲欧美精品综合久久99| 狂野欧美激情性xxxx| 国产单亲对白刺激| 欧美3d第一页| 18禁黄网站禁片午夜丰满| 麻豆成人午夜福利视频| 熟女人妻精品中文字幕| 少妇人妻精品综合一区二区 | 亚洲av成人av| www.色视频.com| 成人三级黄色视频| 久久人人精品亚洲av| av天堂在线播放| 九色成人免费人妻av| 久久精品国产亚洲av香蕉五月| 91av网一区二区| 91av网一区二区| 搡老岳熟女国产| 亚洲成人精品中文字幕电影| 人人妻人人澡欧美一区二区| 无遮挡黄片免费观看| 亚洲欧美日韩无卡精品| 国产av在哪里看| 免费看a级黄色片| 亚洲精品在线观看二区| 国产探花极品一区二区| 一级毛片高清免费大全| 看黄色毛片网站| 亚洲av中文字字幕乱码综合| 国产又黄又爽又无遮挡在线| 最新美女视频免费是黄的| 日本三级黄在线观看| 成熟少妇高潮喷水视频| 精品午夜福利视频在线观看一区| 亚洲最大成人手机在线| 亚洲成av人片免费观看| 在线观看午夜福利视频| 久久久国产成人免费| 成人无遮挡网站| 给我免费播放毛片高清在线观看| 亚洲国产色片| 午夜激情欧美在线| aaaaa片日本免费| 最新在线观看一区二区三区| 免费看日本二区| 日本在线视频免费播放| 中文字幕人妻熟人妻熟丝袜美 | 黄色日韩在线| 看黄色毛片网站| 成人高潮视频无遮挡免费网站| 免费在线观看影片大全网站| 国产av在哪里看| 色噜噜av男人的天堂激情| 色综合亚洲欧美另类图片| 日韩欧美三级三区| 亚洲精品粉嫩美女一区| 国内毛片毛片毛片毛片毛片| 一个人观看的视频www高清免费观看| 美女cb高潮喷水在线观看| 国产麻豆成人av免费视频| 狂野欧美激情性xxxx| 日本在线视频免费播放| 怎么达到女性高潮| 国产精品99久久久久久久久| 国产乱人伦免费视频| av在线蜜桃| 久久欧美精品欧美久久欧美| 国产精品影院久久| 亚洲成人久久性| 99国产极品粉嫩在线观看| 日韩欧美精品v在线| 88av欧美| 18禁在线播放成人免费| 亚洲国产精品成人综合色| 久久九九热精品免费| 非洲黑人性xxxx精品又粗又长| 欧美成人免费av一区二区三区| 日本一本二区三区精品| 一级毛片高清免费大全| 亚洲色图av天堂| 久久国产精品影院| 一进一出抽搐gif免费好疼| 日本与韩国留学比较| 在线视频色国产色| 床上黄色一级片| 久久久国产精品麻豆| 舔av片在线| 亚洲欧美一区二区三区黑人| 午夜福利在线观看吧| av女优亚洲男人天堂| 免费在线观看亚洲国产| 国产v大片淫在线免费观看| 老司机福利观看| 亚洲人成网站高清观看| 小蜜桃在线观看免费完整版高清| 欧美乱码精品一区二区三区| 欧美激情久久久久久爽电影| 国产精品久久久久久久电影 | 亚洲av成人av| 日本免费a在线| 午夜老司机福利剧场| 可以在线观看的亚洲视频| 老司机福利观看| 很黄的视频免费| svipshipincom国产片| 亚洲在线观看片| 免费人成在线观看视频色| 亚洲中文日韩欧美视频| 两性午夜刺激爽爽歪歪视频在线观看| 精品国产超薄肉色丝袜足j| 日韩欧美国产一区二区入口| 国产伦精品一区二区三区视频9 | 久久久久久久久大av| 国产精品爽爽va在线观看网站| av视频在线观看入口| 美女cb高潮喷水在线观看| 婷婷丁香在线五月| 免费av观看视频| 午夜两性在线视频| 国产成人系列免费观看| 丰满人妻一区二区三区视频av | 一夜夜www| 麻豆国产av国片精品| 中出人妻视频一区二区| 国内精品久久久久精免费| netflix在线观看网站| 变态另类成人亚洲欧美熟女| 精品人妻偷拍中文字幕| 国产不卡一卡二| 国产私拍福利视频在线观看| 免费高清视频大片| 亚洲七黄色美女视频| 欧美色视频一区免费| 精品午夜福利视频在线观看一区| 精品午夜福利视频在线观看一区| 亚洲在线观看片| 国产精品99久久久久久久久| 国产午夜福利久久久久久| 亚洲精品一区av在线观看| 亚洲激情在线av| 亚洲狠狠婷婷综合久久图片| 美女cb高潮喷水在线观看| 国产精品久久久久久久久免 | 免费在线观看日本一区| 少妇熟女aⅴ在线视频| 三级国产精品欧美在线观看| 国产精品av视频在线免费观看| 九色成人免费人妻av| 一夜夜www| 欧美成狂野欧美在线观看| 亚洲欧美精品综合久久99| a级一级毛片免费在线观看| 少妇熟女aⅴ在线视频| 日韩免费av在线播放| 99久久久亚洲精品蜜臀av| 国产不卡一卡二| 国产精品爽爽va在线观看网站| 俺也久久电影网| 最新在线观看一区二区三区| 黑人欧美特级aaaaaa片| 亚洲午夜理论影院| 人妻夜夜爽99麻豆av| 变态另类丝袜制服| 国产精品久久久久久人妻精品电影| xxxwww97欧美| 精品一区二区三区av网在线观看| 白带黄色成豆腐渣| 久久久久亚洲av毛片大全| 国产成人系列免费观看| 欧美日韩中文字幕国产精品一区二区三区| 美女cb高潮喷水在线观看| 中出人妻视频一区二区| 精品久久久久久久人妻蜜臀av| 欧美日韩精品网址| 国产成人系列免费观看| 国产一区二区亚洲精品在线观看| 黄片大片在线免费观看| 欧美丝袜亚洲另类 | 亚洲最大成人手机在线| 久久久国产成人精品二区| 亚洲欧美一区二区三区黑人| 制服丝袜大香蕉在线| 狂野欧美白嫩少妇大欣赏| 国产色爽女视频免费观看| 国产亚洲精品一区二区www| 欧美绝顶高潮抽搐喷水| 精品一区二区三区视频在线观看免费| 3wmmmm亚洲av在线观看| 亚洲av日韩精品久久久久久密| 欧美在线一区亚洲| av片东京热男人的天堂| 99久久成人亚洲精品观看| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | avwww免费| 天堂√8在线中文| 色精品久久人妻99蜜桃| 欧美日韩亚洲国产一区二区在线观看| 国产激情欧美一区二区| 在线a可以看的网站| 美女免费视频网站| 淫秽高清视频在线观看| 亚洲成av人片免费观看| 国产久久久一区二区三区| 亚洲av成人精品一区久久| 久久精品国产亚洲av涩爱 | netflix在线观看网站| 国产免费一级a男人的天堂| 他把我摸到了高潮在线观看| 搡老妇女老女人老熟妇| 欧美丝袜亚洲另类 | 成熟少妇高潮喷水视频| 搡老熟女国产l中国老女人| 亚洲专区中文字幕在线| 88av欧美| 一边摸一边抽搐一进一小说| 成人亚洲精品av一区二区| 国产精品乱码一区二三区的特点| 日韩欧美 国产精品| 午夜福利免费观看在线| 操出白浆在线播放| 少妇的逼水好多| 亚洲专区中文字幕在线| av视频在线观看入口| 国产又黄又爽又无遮挡在线| 免费在线观看影片大全网站| 91麻豆精品激情在线观看国产| 一区二区三区免费毛片| 欧美另类亚洲清纯唯美| 国产精品乱码一区二三区的特点| 日本免费一区二区三区高清不卡| www.999成人在线观看| www.999成人在线观看| 欧美乱妇无乱码| 观看免费一级毛片| 99视频精品全部免费 在线| 久久久久久久久大av| 久久6这里有精品| 亚洲av电影不卡..在线观看| 老司机深夜福利视频在线观看| www日本黄色视频网| 淫秽高清视频在线观看| 少妇人妻精品综合一区二区 | 岛国在线免费视频观看| 老司机午夜福利在线观看视频| 婷婷精品国产亚洲av| 国产不卡一卡二| av视频在线观看入口| 成熟少妇高潮喷水视频| 久久久久免费精品人妻一区二区| 神马国产精品三级电影在线观看| 国产一区二区亚洲精品在线观看| 麻豆国产av国片精品| 亚洲在线自拍视频| av天堂中文字幕网| 一级a爱片免费观看的视频| 日本爱情动作片www.在线观看| 久久久久性生活片| 久久久欧美国产精品| 国产精品一区二区性色av| 国产精品一区二区三区四区久久| 性色avwww在线观看| 午夜久久久久精精品| 少妇高潮的动态图| 亚洲熟女精品中文字幕| 日本免费a在线| 非洲黑人性xxxx精品又粗又长| 久久久久免费精品人妻一区二区| 成人毛片a级毛片在线播放| 国产精品日韩av在线免费观看| 能在线免费观看的黄片| 亚洲欧美日韩东京热| 少妇丰满av| 美女内射精品一级片tv| 亚洲精品一区蜜桃| 三级男女做爰猛烈吃奶摸视频| 亚洲美女视频黄频| 丰满少妇做爰视频| 日本一本二区三区精品| 麻豆久久精品国产亚洲av| 色哟哟·www| 天堂俺去俺来也www色官网 | 国产久久久一区二区三区| 最近中文字幕2019免费版| 日韩三级伦理在线观看| av女优亚洲男人天堂| 中文字幕av在线有码专区| 蜜臀久久99精品久久宅男| 啦啦啦中文免费视频观看日本| 精品久久久久久久久久久久久| 黄色日韩在线| 777米奇影视久久| 最近2019中文字幕mv第一页| 97超碰精品成人国产| 国产真实伦视频高清在线观看| 亚洲aⅴ乱码一区二区在线播放| 色尼玛亚洲综合影院| 人体艺术视频欧美日本| 五月玫瑰六月丁香| 久久精品夜色国产| 91狼人影院| 亚洲成人中文字幕在线播放| 亚洲国产精品成人综合色| av专区在线播放| 免费av不卡在线播放| 日韩三级伦理在线观看| a级毛片免费高清观看在线播放| 人妻系列 视频| 久久久久免费精品人妻一区二区| 看非洲黑人一级黄片| 欧美xxxx黑人xx丫x性爽| 国产色婷婷99| 男女边摸边吃奶| 超碰av人人做人人爽久久| 国产精品一二三区在线看| 国产一区二区三区综合在线观看 | 国产精品一区二区三区四区久久| 天堂俺去俺来也www色官网 | 男女啪啪激烈高潮av片| 午夜福利视频精品| 久久久精品免费免费高清| 成人亚洲精品一区在线观看 | 汤姆久久久久久久影院中文字幕 | 80岁老熟妇乱子伦牲交| 亚洲av国产av综合av卡| 最近视频中文字幕2019在线8| 国产精品蜜桃在线观看| 亚洲av不卡在线观看| 国产精品.久久久| 草草在线视频免费看| 午夜免费激情av| 免费黄频网站在线观看国产| 全区人妻精品视频| 99热网站在线观看| 禁无遮挡网站| 老师上课跳d突然被开到最大视频| 精品国产露脸久久av麻豆 | 精品国产一区二区三区久久久樱花 | 联通29元200g的流量卡| 国产黄色免费在线视频| 日韩av在线大香蕉| 亚洲在线观看片| 国产一区二区三区av在线| 午夜福利视频1000在线观看| 日韩成人伦理影院| 日韩大片免费观看网站| 国产精品一二三区在线看| 插逼视频在线观看| 亚洲av电影在线观看一区二区三区 | 亚洲第一区二区三区不卡| 亚洲精品国产成人久久av| 久久草成人影院| 免费无遮挡裸体视频| 亚洲精品乱久久久久久| 最近的中文字幕免费完整| 搞女人的毛片| 国产精品久久久久久精品电影| 精品人妻熟女av久视频| 大香蕉久久网| 97超视频在线观看视频| 建设人人有责人人尽责人人享有的 | 丝袜喷水一区| 亚洲精品久久久久久婷婷小说| 在线观看免费高清a一片| 国产欧美日韩精品一区二区| 看非洲黑人一级黄片| 久久国内精品自在自线图片| 特级一级黄色大片| 免费播放大片免费观看视频在线观看| 国产精品熟女久久久久浪| 尾随美女入室| 街头女战士在线观看网站| 日日摸夜夜添夜夜爱| 99久久精品一区二区三区| 亚洲精品日韩av片在线观看| 最近手机中文字幕大全| 国产亚洲精品av在线| 国内揄拍国产精品人妻在线| 国产亚洲精品久久久com| 人人妻人人看人人澡| 国产精品福利在线免费观看| 精品久久久精品久久久| 国产亚洲精品av在线| 七月丁香在线播放| 最近2019中文字幕mv第一页| 亚洲色图av天堂| 床上黄色一级片| 高清毛片免费看| 日韩av在线免费看完整版不卡| 亚洲婷婷狠狠爱综合网| 成人一区二区视频在线观看| 最新中文字幕久久久久| 亚洲成人久久爱视频| 国产一区二区三区综合在线观看 | 日韩伦理黄色片| 国内精品宾馆在线| 黄色配什么色好看| 日韩大片免费观看网站| 少妇熟女欧美另类| 一个人看的www免费观看视频| 国产精品人妻久久久影院| 亚洲成人一二三区av| 大话2 男鬼变身卡| 欧美一区二区亚洲| 国产高清三级在线| 97人妻精品一区二区三区麻豆| 性色avwww在线观看| 80岁老熟妇乱子伦牲交| 日韩精品有码人妻一区| 水蜜桃什么品种好| 日韩成人伦理影院| 日韩三级伦理在线观看| 国产一级毛片在线| 人妻夜夜爽99麻豆av| 男女视频在线观看网站免费| 精品国内亚洲2022精品成人| 草草在线视频免费看| 欧美日韩国产mv在线观看视频 | 国产成人freesex在线| 亚洲熟妇中文字幕五十中出| 精品99又大又爽又粗少妇毛片| 在线观看av片永久免费下载| 毛片一级片免费看久久久久| 人妻一区二区av| av又黄又爽大尺度在线免费看| 亚洲精品国产av蜜桃| .国产精品久久| 久久精品综合一区二区三区| 高清在线视频一区二区三区| 夜夜看夜夜爽夜夜摸| 久久久久久国产a免费观看| 久久精品国产亚洲av天美| 国产av在哪里看| 高清欧美精品videossex| 成人高潮视频无遮挡免费网站| 国产国拍精品亚洲av在线观看| 欧美高清性xxxxhd video| 熟女电影av网| 亚洲精品国产成人久久av| 在线观看人妻少妇| 日本黄大片高清| 免费大片18禁| a级一级毛片免费在线观看| 高清日韩中文字幕在线| 国产v大片淫在线免费观看| 男女啪啪激烈高潮av片| 美女内射精品一级片tv| 久久久欧美国产精品| 亚洲自偷自拍三级| 九九爱精品视频在线观看| 成年女人看的毛片在线观看| 18禁在线播放成人免费| 18禁动态无遮挡网站| 久久精品国产自在天天线| 三级国产精品片| 91久久精品电影网| 亚洲国产最新在线播放| 国产精品一区二区三区四区免费观看| av一本久久久久| 69av精品久久久久久| 成人综合一区亚洲| 最近最新中文字幕免费大全7| 亚洲精品国产av蜜桃| 日本与韩国留学比较| 国产美女午夜福利|