• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    數(shù)據(jù)匿名化的法律規(guī)制

    2016-02-22 04:53:38
    信息通信技術(shù) 2016年4期
    關(guān)鍵詞:數(shù)據(jù)保護(hù)法律

    中國(guó)信息通信研究院互聯(lián)網(wǎng)法律中心 北京 100096

    數(shù)據(jù)匿名化在計(jì)算機(jī)科學(xué)領(lǐng)域是方興未艾的熱門話題。自1997年美國(guó)學(xué)者Samarati和Sweeney提出k-anonymity匿名模型后,目前已發(fā)展出許多成熟的技術(shù)解決方案[1]。相比于技術(shù)領(lǐng)域的長(zhǎng)足進(jìn)步,法律領(lǐng)域?qū)τ谀涿年P(guān)注才剛剛開始(就國(guó)內(nèi)研究看,通過中國(guó)知網(wǎng)查詢“數(shù)據(jù)匿名”、“匿名化”,大量文獻(xiàn)集中在計(jì)算機(jī)科學(xué)、通信科學(xué)領(lǐng)域,法學(xué)領(lǐng)域文獻(xiàn)寥寥)。但隨著全球個(gè)人數(shù)據(jù)保護(hù)立法制度的不斷完善,關(guān)于數(shù)據(jù)匿名化的法律規(guī)范正逐步浮現(xiàn)。特別是在大數(shù)據(jù)浪潮的推動(dòng)下,數(shù)據(jù)挖掘、數(shù)據(jù)共享(交易)、數(shù)據(jù)開放對(duì)于匿名化的需求越來越高,有關(guān)法律規(guī)范問題亟待澄清。本文從法律視角出發(fā),對(duì)數(shù)據(jù)匿名化的法律規(guī)范問題予以系統(tǒng)分析。

    1 數(shù)據(jù)匿名化的概念

    如果從法律視角理解匿名化,則需要從個(gè)人數(shù)據(jù)保護(hù)法中的個(gè)人數(shù)據(jù)概念入手。一個(gè)基本的法律前提是:個(gè)人數(shù)據(jù)保護(hù)法規(guī)范個(gè)人數(shù)據(jù)的收集和處理活動(dòng),個(gè)人數(shù)據(jù)經(jīng)匿名化之后不再適用個(gè)人數(shù)據(jù)保護(hù)法。

    1.1 個(gè)人數(shù)據(jù)的概念

    個(gè)人數(shù)據(jù)是個(gè)人數(shù)據(jù)保護(hù)法中的核心概念,其界定的關(guān)鍵是可識(shí)別特定自然人的數(shù)據(jù),包括直接識(shí)別與間接識(shí)別。直接識(shí)別是指單憑該數(shù)據(jù)本身就能夠指向特定個(gè)人,例如身份證號(hào)碼、電話號(hào)碼、家庭住址等;間接識(shí)別是指將該數(shù)據(jù)結(jié)合其他數(shù)據(jù)后也能夠關(guān)聯(lián)到特定個(gè)人。例如有關(guān)個(gè)人的一組常去地點(diǎn)數(shù)據(jù),可以通過參考其他數(shù)據(jù)識(shí)別到特定個(gè)人。

    相比于直接識(shí)別,間接識(shí)別標(biāo)準(zhǔn)為個(gè)人數(shù)據(jù)的界定預(yù)留了一定空間。特別是根據(jù)技術(shù)、應(yīng)用的發(fā)展,可以通過立法等方式不斷擴(kuò)展個(gè)人數(shù)據(jù)的類別。例如:剛剛通過的歐盟《數(shù)據(jù)保護(hù)一般條例》(General Data Protection Regulation,GDPR)第4條中將位置數(shù)據(jù)(Location Data)、在線活動(dòng)識(shí)別符號(hào)(Online Identif i er,如IP地址、MAC地址、COOKIE等)明確納入個(gè)人數(shù)據(jù)范圍[2]。美國(guó)隱私保護(hù)最主要的執(zhí)法機(jī)構(gòu)美國(guó)聯(lián)邦貿(mào)易委員會(huì)(Federal Trade Commission,F(xiàn)TC)在2012年發(fā)布的隱私保護(hù)指南,《在一個(gè)充滿快速變化的時(shí)代,保護(hù)消費(fèi)者隱私——關(guān)于隱私權(quán)的建議》中提出,F(xiàn)TC倡導(dǎo)的隱私保護(hù)框架應(yīng)當(dāng)適用于:能夠合理地與特定的消費(fèi)者、電腦以及其他設(shè)備相聯(lián)系的消費(fèi)者數(shù)據(jù)的收集和使用行為。個(gè)人數(shù)據(jù)突破了傳統(tǒng)定義中的與具體的自然人相關(guān)聯(lián),而是擴(kuò)展到了用戶所使用設(shè)備標(biāo)識(shí)等[3]。這一擴(kuò)展趨勢(shì)在《美國(guó)兒童在線隱私保護(hù)法》執(zhí)行規(guī)則中已經(jīng)有所體現(xiàn)。規(guī)則中明確個(gè)人信息包括:能夠被用來跟蹤和識(shí)別個(gè)人在線活動(dòng)的符號(hào),例如IP地址、MAC地址等[4]。

    因此而看,為應(yīng)對(duì)大數(shù)據(jù)等信息技術(shù)的發(fā)展,各國(guó)通過立法適當(dāng)擴(kuò)展個(gè)人數(shù)據(jù)的范圍,讓在線跟蹤、精準(zhǔn)行為營(yíng)銷等新型數(shù)據(jù)處理活動(dòng)也能夠落入法律適用范圍,以此對(duì)網(wǎng)絡(luò)環(huán)境下的個(gè)人隱私保護(hù)提供新的補(bǔ)充。而在相反的方向上,匿名化則成為兼顧隱私保護(hù)和數(shù)據(jù)利用的另一條有效路徑。

    1.2 匿名化的提出

    盡管人們?cè)谏鲜兰o(jì)90年代就提出了匿名化思想,但大數(shù)據(jù)時(shí)代的到來真正讓匿名化迅速成為熱點(diǎn)技術(shù)。大數(shù)據(jù)中的大部分?jǐn)?shù)據(jù)來源于人和傳感器,包括用戶上網(wǎng)瀏覽記錄、社交網(wǎng)絡(luò)上用戶的信息、傳感器數(shù)據(jù)和監(jiān)視數(shù)據(jù)等。從浩瀚的數(shù)據(jù)寶藏中獲得有價(jià)值的信息是各大企業(yè)收集數(shù)據(jù)的主要目的。數(shù)據(jù)成為企業(yè)最有價(jià)值的財(cái)產(chǎn)和新型商業(yè)模式的基石[5]。

    與此同時(shí),政府?dāng)?shù)據(jù)在促進(jìn)創(chuàng)新方面所擁有的巨大經(jīng)濟(jì)、社會(huì)價(jià)值潛能也逐漸被各國(guó)所認(rèn)知,自2009年起,在美國(guó)的引領(lǐng)下掀起了全球開放政府?dāng)?shù)據(jù)運(yùn)動(dòng)浪潮,推動(dòng)以機(jī)器可讀、可重復(fù)利用方式全面向社會(huì)公眾開放。

    然而無論是企業(yè)還是政府所掌握的數(shù)據(jù)中,都大量涉及個(gè)人數(shù)據(jù),因此無可避免地遭遇隱私保護(hù)問題。個(gè)人數(shù)據(jù)保護(hù)和數(shù)據(jù)蘊(yùn)藏的巨大價(jià)值之間的矛盾日益突出。匿名化作為二者的折衷,提供了一條技術(shù)解決路徑。通過匿名化方法消除用戶的身份信息、敏感信息以達(dá)到隱私保護(hù)的目的,同時(shí)還能夠最大化地發(fā)揮數(shù)據(jù)價(jià)值。

    匿名化技術(shù)發(fā)展的初衷主要是為了在數(shù)據(jù)利用的過程中降低個(gè)人隱私風(fēng)險(xiǎn),因此它包含了不同的匿名化方法,例如泛化、壓縮、分解、置換以及干擾等等,這些方法相應(yīng)地負(fù)載不同程度的風(fēng)險(xiǎn),有的相對(duì)容易被攻擊復(fù)原,有的難度較高,甚至幾乎不可能被復(fù)原。而從近年來各國(guó)個(gè)人數(shù)據(jù)保護(hù)法對(duì)于匿名化的理解看,法律語義下的匿名化相較于技術(shù)語義下的匿名化較為狹窄。根據(jù)個(gè)人數(shù)據(jù)保護(hù)法對(duì)個(gè)人數(shù)據(jù)界定的反向推導(dǎo),法律語義下的匿名化數(shù)據(jù)至少要滿足兩個(gè)標(biāo)準(zhǔn):1)僅從該數(shù)據(jù)本身無法指向特定的個(gè)人;2)即使結(jié)合其他數(shù)據(jù)也無法指向特定個(gè)人。

    正如歐盟數(shù)據(jù)保護(hù)條例(GDPR)在引言部分對(duì)于匿名化的界定:“匿名化是指將個(gè)人數(shù)據(jù)移除可識(shí)別個(gè)人信息的部分,并且通過這一方法,數(shù)據(jù)主體不會(huì)再被識(shí)別。匿名化數(shù)據(jù)不屬于個(gè)人數(shù)據(jù),因此無須適用條例的相關(guān)要求,機(jī)構(gòu)可以自由地處理匿名化數(shù)據(jù)?!币舱且?yàn)槟涿瘮?shù)據(jù)豁免了嚴(yán)格的個(gè)人數(shù)據(jù)保護(hù)規(guī)范,法律語義下的匿名化有著更高的標(biāo)準(zhǔn)——不可能被識(shí)別,或者被識(shí)別的可能性極低(為行文方便,下文中對(duì)于匿名化不可能被識(shí)別的定義包含了識(shí)別可能性極低的情況)。而在個(gè)人數(shù)據(jù)保護(hù)法下,與匿名數(shù)據(jù)相對(duì)應(yīng)的另一個(gè)概念——假名數(shù)據(jù),可被識(shí)別身份的風(fēng)險(xiǎn)相對(duì)較高。

    1.3 與假名數(shù)據(jù)的區(qū)別

    假名化(Pseudonymisation)是指對(duì)個(gè)人數(shù)據(jù)處理后,在沒有特定信息參考(該特定信息被安全地單獨(dú)保存)的情況下,不能指向特定個(gè)人。假名化數(shù)據(jù)與匿名化數(shù)據(jù)最大的不同是,前者仍然屬于個(gè)人數(shù)據(jù),仍要適用個(gè)人數(shù)據(jù)保護(hù)法。

    換言之,假名數(shù)據(jù)仍建立在個(gè)體基礎(chǔ)之上,保留了個(gè)體顆粒度,只是用了其他符號(hào)來標(biāo)注數(shù)據(jù),而非用真實(shí)的身份。假名數(shù)據(jù)結(jié)合了特定信息會(huì)恢復(fù)身份屬性。例如:“張曉明,65歲,糖尿病患者”是真實(shí)的個(gè)人數(shù)據(jù),在此基礎(chǔ)上生成假名數(shù)據(jù):“00108,65歲,糖尿病患者”。

    因此法律要求,若要維持?jǐn)?shù)據(jù)的假名狀態(tài),則機(jī)構(gòu)必須單獨(dú)安全地存儲(chǔ)能夠使得假名數(shù)據(jù)恢復(fù)身份數(shù)據(jù)的特定信息。例如,針對(duì)上面的例子,機(jī)構(gòu)必須安全的存儲(chǔ)“00108與張曉明”的對(duì)應(yīng)關(guān)系信息。而匿名化數(shù)據(jù)在結(jié)合其他數(shù)據(jù)的任何情況下也不可能被識(shí)別。

    相比于匿名化數(shù)據(jù),假名數(shù)據(jù)的隱私風(fēng)險(xiǎn)會(huì)更高一些。但相比于真實(shí)的個(gè)人數(shù)據(jù),假名數(shù)據(jù)有利于降低隱私風(fēng)險(xiǎn),是幫助機(jī)構(gòu)更好地履行數(shù)據(jù)保護(hù)義務(wù)的有效手段,因此在數(shù)據(jù)保護(hù)嚴(yán)格的歐盟,也鼓勵(lì)機(jī)構(gòu)對(duì)個(gè)人數(shù)據(jù)的假名處理。并且假名數(shù)據(jù)本身在科研領(lǐng)域有著重要價(jià)值,一方面假名數(shù)據(jù)最大程度地保留了信息價(jià)值,另一方面,科研領(lǐng)域數(shù)據(jù)公開的范圍較小,僅限于科研人員使用,且有著較為完善的安全保障措施,隱私風(fēng)險(xiǎn)相對(duì)較低。

    1.4 小結(jié)

    個(gè)人數(shù)據(jù)不同的處理方法伴隨不同的隱私風(fēng)險(xiǎn),如果將數(shù)據(jù)看做是一段光譜,在光譜左端是真實(shí)的個(gè)人數(shù)據(jù),其隱私風(fēng)險(xiǎn)最高,居中是假名數(shù)據(jù),它保留了個(gè)體顆粒度,但隱私風(fēng)險(xiǎn)降低,右端是匿名數(shù)據(jù)(特別是匿名化后的聚合數(shù)據(jù)),隱私風(fēng)險(xiǎn)努力接近于零。

    2 匿名化的法律標(biāo)準(zhǔn)

    如果缺乏其他的數(shù)據(jù)源,很多數(shù)據(jù)將保持匿名的狀態(tài)。然而在大數(shù)據(jù)推動(dòng)之下,有越來越多的數(shù)據(jù)集產(chǎn)生并公布,機(jī)構(gòu)甚至是普通的個(gè)人都可以獲取大量的數(shù)據(jù)資源。同時(shí),軟件算法和分析學(xué)的發(fā)展使得數(shù)據(jù)更易被關(guān)聯(lián)和聚合,大大增強(qiáng)了人們將非個(gè)人數(shù)據(jù)轉(zhuǎn)化為個(gè)人數(shù)據(jù)的能力。個(gè)人數(shù)據(jù)匿名化后遭遇有目的攻擊的情況也更為普遍。

    2006年10月, DVD租賃商奈飛公司開展“Netflix Prize”算法競(jìng)賽。該公司公布了大約來自50萬用戶的一億條租賃記錄,并且公開懸賞一百萬美金,獎(jiǎng)勵(lì)工程師通過軟件設(shè)計(jì)來提高其電影推薦系統(tǒng)的精準(zhǔn)度。雖然奈飛公司對(duì)數(shù)據(jù)進(jìn)行了精心的匿名化處理,然而其中部分?jǐn)?shù)據(jù)仍然被認(rèn)出,包括一名化名“無名氏”的同性戀,她因此起訴了奈飛公司[6]。在國(guó)內(nèi),某知名移動(dòng)應(yīng)用由于不注意保護(hù)用戶位置大數(shù)據(jù),攻擊者可根據(jù)三角測(cè)量方法推斷出用戶的家庭住址等敏感位置[7]。

    盡管數(shù)據(jù)匿名化的難度越來越高,但需重申的是:匿名化仍然是重要的數(shù)據(jù)安全保障措施,在大數(shù)據(jù)環(huán)境下,更應(yīng)得到廣泛的應(yīng)用。匿名化是可能的,也是可行的。數(shù)據(jù)匿名化使得豐富的數(shù)據(jù)資源得以利用,同時(shí)也能最大程度保護(hù)個(gè)人隱私和數(shù)據(jù)。并且各國(guó)個(gè)人數(shù)據(jù)保護(hù)法對(duì)匿名化數(shù)據(jù)予以了法律適用上的豁免。那么,在法律上認(rèn)可匿名數(shù)據(jù)需要考慮的因素是什么?如何確定匿名化的法律標(biāo)準(zhǔn)?

    2.1 部分國(guó)家立法或監(jiān)管機(jī)構(gòu)對(duì)于匿名化的標(biāo)準(zhǔn)

    1)美國(guó)。對(duì)于匿名化數(shù)據(jù),法律中還沒有明確細(xì)致的標(biāo)準(zhǔn)。但美國(guó)《健康保險(xiǎn)可轉(zhuǎn)移及責(zé)任法案》(HIPAA)對(duì)另一個(gè)相似的概念——去身份化(deidenti fi cation)作出了界定:“通過處理使得數(shù)據(jù)不能識(shí)別特定個(gè)人,或者沒有合理的基礎(chǔ)能夠認(rèn)為該數(shù)據(jù)可以被用來識(shí)別特定個(gè)人?!?/p>

    2)日本。日本2015年通過《個(gè)人信息保護(hù)法》修正案,對(duì)于大數(shù)據(jù)交易做出修正規(guī)定。新法案允許企業(yè)向第三方出售充分匿名化的數(shù)據(jù),但同時(shí)提出了相關(guān)義務(wù)要求:匿名后的數(shù)據(jù)不能夠與其他信息進(jìn)行比對(duì)、參照,以實(shí)現(xiàn)身份識(shí)別的功能,且不能復(fù)原。

    3)新加坡。新加坡個(gè)人數(shù)據(jù)保護(hù)委員會(huì)2013年頒布的《個(gè)人數(shù)據(jù)保護(hù)法指定主題咨詢指南》對(duì)個(gè)人數(shù)據(jù)的界定以及匿名化也作出了進(jìn)一步規(guī)定。匿名化是指將個(gè)人數(shù)據(jù)轉(zhuǎn)化成一種數(shù)據(jù),這種數(shù)據(jù)無論是其本身,還是通過機(jī)構(gòu)已經(jīng)獲得的或者可能獲得的其他數(shù)據(jù)一起分析后都不能識(shí)別到個(gè)人。數(shù)據(jù)匿名化之后就不適用于個(gè)人數(shù)據(jù)保護(hù)法中的相關(guān)規(guī)定[8]。

    4)英國(guó)。信息專員辦公室ICO指出:匿名化并非是完全無風(fēng)險(xiǎn)的,而只是將風(fēng)險(xiǎn)降低到最小化。如果數(shù)據(jù)可被識(shí)別的風(fēng)險(xiǎn)是合理存在的,應(yīng)當(dāng)被視為個(gè)人數(shù)據(jù)[9]。

    2.2 對(duì)匿名化標(biāo)準(zhǔn)的具體分析

    從各國(guó)數(shù)據(jù)保護(hù)立法和監(jiān)管實(shí)踐看,匿名化數(shù)據(jù)的法律標(biāo)準(zhǔn)有以下幾個(gè)共同要素。

    1)對(duì)于數(shù)據(jù)控制者(data controller,是個(gè)人數(shù)據(jù)保護(hù)法中的主體概念,指單獨(dú)或聯(lián)合其他方?jīng)Q定了數(shù)據(jù)處理目的和方法的主體,如公司 、公共機(jī)構(gòu)等)來說,匿名化的數(shù)據(jù)不能夠再被識(shí)別特定個(gè)人。如果對(duì)數(shù)據(jù)進(jìn)行匿名化處理的機(jī)構(gòu)仍然掌握著恢復(fù)該數(shù)據(jù)身份屬性的關(guān)鍵信息、算法,則對(duì)于該機(jī)構(gòu)來說,這些數(shù)據(jù)仍然屬于個(gè)人數(shù)據(jù),仍需要適用個(gè)人數(shù)據(jù)保護(hù)法。因?yàn)閷?duì)于該機(jī)構(gòu)而言,其隨時(shí)可以恢復(fù)該數(shù)據(jù)的身份屬性,不屬于不能識(shí)別的情形。

    2)如果數(shù)據(jù)匿名化之后被公布,則除了數(shù)據(jù)控制者之外,還要考慮能夠獲得該數(shù)據(jù)的第三方,其所能夠獲得的數(shù)據(jù)資源、數(shù)據(jù)能力,以及在此基礎(chǔ)上對(duì)匿名化數(shù)據(jù)重新恢復(fù)身份的可能性。歐盟個(gè)人數(shù)據(jù)保護(hù)的指導(dǎo)機(jī)構(gòu)——第29工作組,關(guān)于個(gè)人數(shù)據(jù)概念的法律意見表明(EU Article 29 working party Opinion (4/2007) on the concept of personal data),匿名化數(shù)據(jù)不能識(shí)別出特定個(gè)人是指:不論是對(duì)于掌握該數(shù)據(jù)的數(shù)據(jù)控制者,還是其他獲得該數(shù)據(jù)的任何主體,采取一般可能的措施、手段也無法將該數(shù)據(jù)關(guān)聯(lián)到特定個(gè)人。

    3)依照第2)點(diǎn)標(biāo)準(zhǔn)帶來的一個(gè)現(xiàn)實(shí)問題是:對(duì)于向社會(huì)公開的匿名化數(shù)據(jù),接收匿名化數(shù)據(jù)的第三方的數(shù)據(jù)能力是千差萬別的,其所能獲取的數(shù)據(jù)資源也各有不同。因此對(duì)于泛泛主體而言,數(shù)據(jù)是否匿名的評(píng)判結(jié)果是因人而異的。

    針對(duì)這一問題,在技術(shù)領(lǐng)域提出的“有動(dòng)機(jī)的攻擊者測(cè)試”(a motivated intruder test)也逐步為監(jiān)管實(shí)踐所認(rèn)可。例如英國(guó)數(shù)據(jù)保護(hù)機(jī)構(gòu)ICO推薦在判斷匿名化問題時(shí)應(yīng)用該測(cè)試[10]。該測(cè)試假設(shè)包括以下幾個(gè)方面。第一,有目的明確的入侵者,他沒有預(yù)先掌握相關(guān)的其他資源,只是希望從公開的匿名數(shù)據(jù)集中重新識(shí)別數(shù)據(jù)。匿名數(shù)據(jù)被重新識(shí)別,并不僅僅指該數(shù)據(jù)所指向的個(gè)人的名字被知道,只要能夠建立該數(shù)據(jù)與特定個(gè)人的可靠聯(lián)系就可以被認(rèn)為是“被識(shí)別”。第二,該入侵者具備一般人的合理能力,能夠獲得相關(guān)資源(例如包括互聯(lián)網(wǎng)、圖書館、公開文件等),但通常不能將該入侵者假設(shè)成為具備特殊技能知識(shí)的專家(如黑客),或者是極端情況下的犯罪分子(如入室非法獲取數(shù)據(jù))。因此,該測(cè)試的可應(yīng)用性在于它比普通大眾的標(biāo)準(zhǔn)要高,同時(shí)又比專業(yè)人士的標(biāo)準(zhǔn)要低,在一個(gè)合理可能的范圍內(nèi)。

    應(yīng)用該測(cè)試,考慮數(shù)據(jù)是否匿名的主要因素包括以下3點(diǎn)。

    1)動(dòng)機(jī)。即嘗試重新識(shí)別的可能性。在實(shí)踐中,一些特定類型的數(shù)據(jù)對(duì)于有動(dòng)機(jī)的入侵者來說更有吸引力,對(duì)個(gè)人帶來負(fù)面結(jié)果的可能性也就越大。例如能夠通過去匿名化獲得經(jīng)濟(jì)利益或其他不法利益,或者去匿名化后能夠引起刺探他人隱私、引起他人尷尬的數(shù)據(jù)。

    2)可獲取的其他數(shù)據(jù)資源。包括通過政府?dāng)?shù)據(jù)開放能夠?yàn)樯鐣?huì)大眾所獲取的數(shù)據(jù),也包括通過共享、交易方式獲得的其他數(shù)據(jù)。

    3)技術(shù)能力。對(duì)技術(shù)能力的考慮應(yīng)當(dāng)結(jié)合當(dāng)下技術(shù)的最新發(fā)展。特別是在數(shù)據(jù)分析、挖掘技術(shù)快速發(fā)展的今天,當(dāng)前的匿名化并不代表永久的匿名化。

    總之,盡管立法和監(jiān)管實(shí)踐竭盡努力地為數(shù)據(jù)匿名化提供盡量客觀的判斷標(biāo)準(zhǔn),但實(shí)際上,對(duì)數(shù)據(jù)重新識(shí)別身份的風(fēng)險(xiǎn)給出絕對(duì)結(jié)論依然是不嚴(yán)謹(jǐn)?shù)?。具體案例具體分析仍然是判斷匿名化問題的第一法則。當(dāng)然,以上所列出的具體標(biāo)準(zhǔn)分析可以作為實(shí)踐的重要參考。

    3 數(shù)據(jù)匿名化的法律規(guī)范

    匿名化數(shù)據(jù)不受個(gè)人數(shù)據(jù)保護(hù)法保護(hù)是本文一再重申的觀點(diǎn)。這一觀點(diǎn)主要表達(dá)的是:數(shù)據(jù)經(jīng)充分匿名化后,數(shù)據(jù)控制者對(duì)于該數(shù)據(jù)的使用處理不再受個(gè)人數(shù)據(jù)保護(hù)法的規(guī)范,例如包括知情同意原則、目的限制原則、最小化原則等都不再發(fā)揮約束作用。并且由于這些數(shù)據(jù)切斷了與特定個(gè)人的聯(lián)系,數(shù)據(jù)控制者也無需為個(gè)人數(shù)據(jù)權(quán)利(如知情權(quán)、訪問權(quán)、拒絕權(quán)、刪除權(quán))的實(shí)現(xiàn)提供支撐。

    然而,享受個(gè)人數(shù)據(jù)保護(hù)法的豁免待遇,則需要為此承擔(dān)其他的法律義務(wù),這些義務(wù)一方面來源于個(gè)人數(shù)據(jù)保護(hù)法對(duì)于匿名化數(shù)據(jù)認(rèn)定的高標(biāo)準(zhǔn)(即通過施加此類義務(wù),實(shí)現(xiàn)真正的數(shù)據(jù)匿名化),另一方面來自于信息安全其他方面的法定要求。我們可以將這些規(guī)范分為事前、事中、事后三個(gè)階段。

    3.1 事前階段

    1)關(guān)于同意。開展數(shù)據(jù)匿名化,數(shù)據(jù)控制者面臨的第一問題——這是否需要經(jīng)得用戶的同意。一般情況下,匿名化處理個(gè)人數(shù)據(jù)并不需要征得用戶同意。單純的匿名化,是有助于數(shù)據(jù)安全的有效手段。在這個(gè)階段,征求用戶同意將會(huì)十分繁瑣,甚至不可行。但是這并不意味著對(duì)匿名化沒有透明度方面的要求。相反,如果機(jī)構(gòu)能夠通過隱私政策在事前告知用戶數(shù)據(jù)可能的匿名化利用,則可以作為最佳市場(chǎng)實(shí)踐推薦。例如:無論是手機(jī)制造商還是應(yīng)用開發(fā)商在使用用戶位置信息時(shí),應(yīng)當(dāng)向用戶明確告知其個(gè)人位置信息是如何被使用的,是以個(gè)人數(shù)據(jù)模式使用,還是以匿名化的方式被使用。

    值得注意的是,如果機(jī)構(gòu)收集非個(gè)人數(shù)據(jù),但之后利用某種手段或者技術(shù)方式,再次恢復(fù)數(shù)據(jù)的可識(shí)別性(re-identification),而這種收集與識(shí)別活動(dòng)并沒有得到用戶知情或者同意,則涉嫌違反個(gè)人數(shù)據(jù)保護(hù)法。

    2)隱私風(fēng)險(xiǎn)評(píng)估。在數(shù)據(jù)匿名化的初始階段,開展隱私風(fēng)險(xiǎn)評(píng)估非常重要。特別是如果數(shù)據(jù)匿名化的目的是將數(shù)據(jù)開放給公眾,或者與其他主體進(jìn)行共享、交易,則可能會(huì)產(chǎn)生重新被識(shí)別風(fēng)險(xiǎn)。若一旦被識(shí)別,即使后續(xù)采取補(bǔ)救措施,其影響也是不可逆的。因此要充分結(jié)合匿名化標(biāo)準(zhǔn)的三個(gè)要素進(jìn)行充分的評(píng)估,包括有動(dòng)機(jī)的攻擊者,其能掌握獲得的其他數(shù)據(jù)資源,以及可以被利用的去匿名化技術(shù)等。根據(jù)隱私風(fēng)險(xiǎn)評(píng)估的結(jié)果,機(jī)構(gòu)可以選擇不同的加密方式和利用方式,以便有針對(duì)性地消減隱私暴露風(fēng)險(xiǎn)。

    1)根據(jù)隱私風(fēng)險(xiǎn)評(píng)估,對(duì)匿名化策略做出調(diào)整。例如:選擇更為復(fù)雜的匿名化方法,縮減信息披露的規(guī)模,限制披露的對(duì)象,附加合同約束條件等等。一般情況下,匿名數(shù)據(jù)越具體、越接近個(gè)體顆粒度狀態(tài),則在披露時(shí)越需要限定在一定范圍,限定一定條件。越聚合化的信息,則更傾向于完全公開的方式,比如犯罪熱點(diǎn)地圖。

    數(shù)據(jù)控制者必須意識(shí)到,限定在一定范圍、程度內(nèi)的匿名化披露,需要有強(qiáng)有力的安全保障措施,包括但不限于以下幾點(diǎn)。

    ①目的限制, 數(shù)據(jù)僅僅能夠服務(wù)于雙方約定的目的;

    ②對(duì)匿名數(shù)據(jù)接受者的員工進(jìn)行安全培訓(xùn),特別是數(shù)據(jù)訪問方面要符合安全原則和最小化原則;

    ③對(duì)將其他數(shù)據(jù)帶進(jìn)使用場(chǎng)景的能力進(jìn)行控制,從而對(duì)應(yīng)用關(guān)聯(lián)數(shù)據(jù)方法實(shí)現(xiàn)身份識(shí)別的風(fēng)險(xiǎn)進(jìn)行管理;

    ④限定數(shù)據(jù)僅能在特定的項(xiàng)目中使用;

    ⑤限制對(duì)匿名數(shù)據(jù)的再披露;

    ⑥禁止嘗試對(duì)數(shù)據(jù)進(jìn)行重新再識(shí)別,并且對(duì)于隨機(jī)情況下再識(shí)別的數(shù)據(jù)做出破壞處理;

    ⑦加密以及秘鑰管理以限制對(duì)數(shù)據(jù)的訪問;

    ⑧在項(xiàng)目完成之后對(duì)數(shù)據(jù)的返還、銷毀做出協(xié)議安排;

    ⑨責(zé)任追究機(jī)制,即數(shù)據(jù)接收方一旦違反合同協(xié)定需要承擔(dān)違約責(zé)任。

    2)持續(xù)的隱私風(fēng)險(xiǎn)評(píng)估。隱私風(fēng)險(xiǎn)評(píng)估不僅在事前階段需要,它還將貫穿匿名化數(shù)據(jù)利用整個(gè)過程。重新識(shí)別的風(fēng)險(xiǎn)會(huì)隨著時(shí)間的推進(jìn)而變化。一方面數(shù)據(jù)分析技術(shù)在飛速發(fā)展,過去公布的匿名化數(shù)據(jù)未必在新的技術(shù)、新的模型面前仍然保持匿名;另一方面,政府?dāng)?shù)據(jù)開放,以及私營(yíng)主體之間的數(shù)據(jù)交易、共享使得新的數(shù)據(jù)集在源源不斷的被釋放,這些都需要機(jī)構(gòu)應(yīng)當(dāng)定期評(píng)估數(shù)據(jù)匿名化策略,特別是對(duì)于定期例行公布匿名數(shù)據(jù)

    3.2 事中階段

    的機(jī)構(gòu)來說(因?yàn)槭艿秸畔⒐_或者數(shù)據(jù)開放的要求,這在政府或公共機(jī)構(gòu)更為常見),應(yīng)定期開展隱私風(fēng)險(xiǎn)評(píng)估,明確當(dāng)前及可預(yù)見未來的威脅,并及時(shí)對(duì)數(shù)據(jù)匿名策略作出調(diào)整。

    3.3 事后階段

    數(shù)據(jù)匿名化事后階段的核心任務(wù)是始終保持?jǐn)?shù)據(jù)的匿名狀態(tài)。數(shù)據(jù)利用限定在非身份化的模式之下,在后續(xù)的利用中也不再進(jìn)行身份識(shí)別,企業(yè)可通過合同機(jī)制、IT審計(jì)等方式予以監(jiān)督。在后續(xù)利用階段,企業(yè)若將匿名數(shù)據(jù)恢復(fù)身份屬性,則數(shù)據(jù)處理活動(dòng)再次落入到個(gè)人數(shù)據(jù)保護(hù)法調(diào)整范圍內(nèi)。此外,一旦在攻擊事件中被去匿名化,機(jī)構(gòu)應(yīng)當(dāng)啟動(dòng)應(yīng)急預(yù)案,包括通知受到影響的個(gè)人,并幫助其采取必要的補(bǔ)救措施。

    4 結(jié)語

    數(shù)據(jù)匿名化不能僅僅被看作是脫離于數(shù)據(jù)保護(hù)法之外,避免管制負(fù)擔(dān)的一種手段。應(yīng)用它的初衷是降低個(gè)人數(shù)據(jù)泄露的隱私風(fēng)險(xiǎn)。采取匿名化措施的企業(yè)能夠向用戶提供更多的安全保障,讓用戶知曉其被收集的信息在用于大數(shù)據(jù)分析時(shí),并沒有使用可識(shí)別身份的數(shù)據(jù),因此增強(qiáng)用戶對(duì)大數(shù)據(jù)應(yīng)用的信任和安全感。為保證匿名化更多地發(fā)揮安全屏障作用,而不是作為數(shù)據(jù)濫用的擋箭牌,匿名化利用應(yīng)當(dāng)在合法合規(guī)的前提下開展。

    2016年7月5日,《中華人民共和國(guó)網(wǎng)絡(luò)安全法(草案二次審議稿)》正式向社會(huì)公布。與一審稿相比,草案增加了類似匿名化的規(guī)定。例如“第四十一條:網(wǎng)絡(luò)運(yùn)營(yíng)者不得泄露、篡改、毀損其收集的公民個(gè)人信息;未經(jīng)被收集者同意,不得向他人提供公民個(gè)人信息。但是,經(jīng)過處理無法識(shí)別特定個(gè)人且不能復(fù)原的除外”。這里的特殊規(guī)定,可以理解為對(duì)于個(gè)人數(shù)據(jù)匿名化利用,特別是匿名化后對(duì)外提供(交易)的情形提供了合法性。在此基礎(chǔ)上,建議我國(guó)應(yīng)當(dāng)加快建立數(shù)據(jù)匿名化利用的法律規(guī)范體系,包括:明確匿名化數(shù)據(jù)的法律概念和認(rèn)定標(biāo)準(zhǔn),強(qiáng)調(diào)數(shù)據(jù)不再具有身份可識(shí)別性;引入隱私風(fēng)險(xiǎn)評(píng)估機(jī)制,鼓勵(lì)企業(yè)基于個(gè)案在內(nèi)部實(shí)施數(shù)據(jù)匿名化的風(fēng)險(xiǎn)評(píng)估,并基于評(píng)估結(jié)果,適時(shí)調(diào)整匿名化策略;利用合同規(guī)范、技術(shù)保障等多重工具實(shí)現(xiàn)數(shù)據(jù)的真正匿名化;建立數(shù)據(jù)匿名化的事前、事中、事后規(guī)范體系。

    參考文獻(xiàn)

    [1]丁旋.社交網(wǎng)絡(luò)分析中的隱私保護(hù)問題:去匿名化與無縫隱私[D].清華大學(xué),2014

    [2]REGULATION (EU) 2016/679 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation) (Text with EEA relevance)[R].THE EUROPEAN, 4.5.2016 L 119/1 Off i cial Journal of the European Union

    [3]FTC REPORT: Protecting consumer privacy in an era of rapid change, recommendations for businesses and policymakers[R/OL].[2016-08-02].https://www.ftc.gov/reports/protecting-consumer-privacy-era-rapid-changerecommendations-businesses-policymakers

    [4]Complying with COPPA: Frequently Asked Questions[EB/OL].[2016-08-02]. https://www.ftc.gov/tips-advice/business-center/guidance/complying-coppafrequently-asked-questions

    [5]劉雅輝,張鐵贏,靳小龍,等.大數(shù)據(jù)時(shí)代的個(gè)人隱私保護(hù)[J].計(jì)算機(jī)研究與發(fā)展,2015, 52(1):229-247

    [6] 維克托·邁爾-舍恩伯格,肯尼斯·庫克耶.大數(shù)據(jù)時(shí)代:生活、工作與思維的大變革[J].盛楊燕,周濤,譯.杭州:浙江人民出版社, 2013

    [7]王璐,孟小峰.位置大數(shù)據(jù)隱私保護(hù)研究綜述[J].軟件學(xué)報(bào),2014,25(4):693-712

    [8]Singapore Personal Data Protection Commision:Advisory Guidelines on the Personal Data Protection Act for Selected Toptics Issued by the Personal Data Protection Commision[R]. Issued 24 september 2013,revised 16 May 2014, revised 11 September 2014

    [9]UK. Information Commissioner's Office. Big data and data protection[R]. 2014

    [10]UK. Information Commissioner's Off i ce. Anonymisation: managing data protection risk code of practice[R].2012

    猜你喜歡
    數(shù)據(jù)保護(hù)法律
    法律推理與法律一體化
    法律方法(2022年1期)2022-07-21 09:17:10
    法律解釋與自然法
    法律方法(2021年3期)2021-03-16 05:57:02
    法律適用中的邏輯思維
    法律方法(2019年3期)2019-09-11 06:27:06
    歐盟通用數(shù)據(jù)保護(hù)條例中的數(shù)據(jù)保護(hù)官制度
    TPP生物藥品數(shù)據(jù)保護(hù)條款研究
    歐盟數(shù)據(jù)保護(hù)立法改革之發(fā)展趨勢(shì)分析
    歐盟《一般數(shù)據(jù)保護(hù)條例》新規(guī)則評(píng)析
    讓人死亡的法律
    山東青年(2016年1期)2016-02-28 14:25:30
    “互助獻(xiàn)血”質(zhì)疑聲背后的法律困惑
    藥品試驗(yàn)數(shù)據(jù)保護(hù)對(duì)完善中藥品種保護(hù)制度的啟示
    桃色一区二区三区在线观看| 亚洲精品中文字幕一二三四区| 免费av毛片视频| 国产精品久久久人人做人人爽| 国产不卡一卡二| 午夜a级毛片| 国产av一区二区精品久久| 亚洲国产精品999在线| 欧美黑人精品巨大| 亚洲成人国产一区在线观看| 91av网站免费观看| 1024手机看黄色片| 狂野欧美白嫩少妇大欣赏| 亚洲天堂国产精品一区在线| 在线观看www视频免费| 久久婷婷人人爽人人干人人爱| 久久精品国产亚洲av高清一级| 亚洲成a人片在线一区二区| 久久 成人 亚洲| 色哟哟哟哟哟哟| 精品乱码久久久久久99久播| 亚洲欧美日韩高清专用| 99热这里只有是精品50| 久久香蕉精品热| 两个人免费观看高清视频| 亚洲狠狠婷婷综合久久图片| 国产单亲对白刺激| 欧美日韩精品网址| 美女黄网站色视频| 桃红色精品国产亚洲av| 人妻丰满熟妇av一区二区三区| 熟女电影av网| 亚洲熟妇中文字幕五十中出| 亚洲成av人片免费观看| 麻豆一二三区av精品| 日韩欧美 国产精品| 亚洲精品色激情综合| 丝袜人妻中文字幕| 高潮久久久久久久久久久不卡| 欧美三级亚洲精品| 女生性感内裤真人,穿戴方法视频| 欧美乱妇无乱码| 国产aⅴ精品一区二区三区波| 国产精品一区二区精品视频观看| 18禁国产床啪视频网站| 久久久久国内视频| 欧美一级a爱片免费观看看 | 在线观看免费日韩欧美大片| 亚洲欧美日韩高清在线视频| 成人国产一区最新在线观看| 丝袜美腿诱惑在线| 国产单亲对白刺激| 精品福利观看| 岛国视频午夜一区免费看| 男插女下体视频免费在线播放| 最近最新中文字幕大全电影3| 在线观看66精品国产| 久久精品国产亚洲av香蕉五月| 啪啪无遮挡十八禁网站| 最新美女视频免费是黄的| 蜜桃久久精品国产亚洲av| 欧美乱色亚洲激情| 国产一区在线观看成人免费| 在线观看午夜福利视频| 中文字幕久久专区| 日韩欧美 国产精品| 亚洲精品国产精品久久久不卡| 最近在线观看免费完整版| 50天的宝宝边吃奶边哭怎么回事| www.自偷自拍.com| 亚洲欧美一区二区三区黑人| 亚洲欧洲精品一区二区精品久久久| 久久国产精品影院| 长腿黑丝高跟| av片东京热男人的天堂| 老司机在亚洲福利影院| 亚洲18禁久久av| 国产av又大| 日韩大尺度精品在线看网址| 伊人久久大香线蕉亚洲五| 视频区欧美日本亚洲| 亚洲人成伊人成综合网2020| 国产精品乱码一区二三区的特点| 1024香蕉在线观看| 男插女下体视频免费在线播放| 亚洲在线自拍视频| 亚洲真实伦在线观看| 亚洲狠狠婷婷综合久久图片| 欧洲精品卡2卡3卡4卡5卡区| 国产午夜福利久久久久久| 国产精品一及| 国产麻豆成人av免费视频| 午夜精品一区二区三区免费看| 天堂√8在线中文| 亚洲免费av在线视频| 97超级碰碰碰精品色视频在线观看| 精品久久久久久成人av| 精品国产乱子伦一区二区三区| 天天一区二区日本电影三级| 在线观看www视频免费| 啦啦啦免费观看视频1| 麻豆国产97在线/欧美 | 日本一区二区免费在线视频| 蜜桃久久精品国产亚洲av| 日韩欧美在线乱码| 久久久久国产精品人妻aⅴ院| 亚洲熟女毛片儿| 国产av在哪里看| 长腿黑丝高跟| 国模一区二区三区四区视频 | 最新在线观看一区二区三区| 欧美一级毛片孕妇| 少妇裸体淫交视频免费看高清 | 国产av又大| 高潮久久久久久久久久久不卡| 成人国产综合亚洲| 五月伊人婷婷丁香| 丝袜美腿诱惑在线| 操出白浆在线播放| 亚洲精品国产一区二区精华液| 国产精品野战在线观看| 日韩精品中文字幕看吧| 麻豆成人av在线观看| 91九色精品人成在线观看| 老汉色∧v一级毛片| 1024香蕉在线观看| 最近最新中文字幕大全免费视频| 国产熟女午夜一区二区三区| 国产又黄又爽又无遮挡在线| 777久久人妻少妇嫩草av网站| 久久精品夜夜夜夜夜久久蜜豆 | 国产精品美女特级片免费视频播放器 | 欧美在线黄色| 国产精品av久久久久免费| 嫁个100分男人电影在线观看| e午夜精品久久久久久久| 亚洲 欧美一区二区三区| ponron亚洲| 久久久久久久久久黄片| 午夜免费激情av| 国产在线精品亚洲第一网站| 一级黄色大片毛片| 国产私拍福利视频在线观看| 搡老妇女老女人老熟妇| 首页视频小说图片口味搜索| 国产1区2区3区精品| 在线观看免费视频日本深夜| 一a级毛片在线观看| 国产欧美日韩一区二区三| 黄频高清免费视频| 操出白浆在线播放| 91大片在线观看| 国产免费男女视频| 精品电影一区二区在线| 国产欧美日韩一区二区三| 国产欧美日韩精品亚洲av| 搡老妇女老女人老熟妇| 俺也久久电影网| 少妇的丰满在线观看| 正在播放国产对白刺激| 看黄色毛片网站| 亚洲精品中文字幕在线视频| 日韩精品免费视频一区二区三区| 最近视频中文字幕2019在线8| 免费在线观看黄色视频的| 日韩欧美国产在线观看| 亚洲欧美日韩东京热| 伊人久久大香线蕉亚洲五| 亚洲熟妇中文字幕五十中出| 中亚洲国语对白在线视频| 国产69精品久久久久777片 | 一级毛片精品| 久久人人精品亚洲av| 亚洲中文av在线| 精品久久久久久久末码| 少妇的丰满在线观看| 无限看片的www在线观看| 国产在线观看jvid| 51午夜福利影视在线观看| 老司机午夜福利在线观看视频| 超碰成人久久| 少妇人妻一区二区三区视频| 亚洲熟妇中文字幕五十中出| www.www免费av| 久久久久国产一级毛片高清牌| 亚洲午夜理论影院| 12—13女人毛片做爰片一| 久久天堂一区二区三区四区| 一个人免费在线观看电影 | а√天堂www在线а√下载| 亚洲色图 男人天堂 中文字幕| 亚洲第一电影网av| 国产精品1区2区在线观看.| www日本黄色视频网| 国产精品自产拍在线观看55亚洲| 给我免费播放毛片高清在线观看| www国产在线视频色| 午夜日韩欧美国产| 999久久久国产精品视频| 欧美性猛交黑人性爽| 这个男人来自地球电影免费观看| 精品午夜福利视频在线观看一区| 特级一级黄色大片| 国产成人系列免费观看| 国产午夜精品久久久久久| 午夜精品在线福利| 在线播放国产精品三级| 婷婷精品国产亚洲av| 色噜噜av男人的天堂激情| 欧美日韩中文字幕国产精品一区二区三区| 欧美日韩一级在线毛片| 亚洲av片天天在线观看| 午夜视频精品福利| 精华霜和精华液先用哪个| 又大又爽又粗| 夜夜躁狠狠躁天天躁| 国产爱豆传媒在线观看 | 国产1区2区3区精品| 亚洲真实伦在线观看| 91av网站免费观看| 成人三级做爰电影| 久久国产精品影院| 国产精品香港三级国产av潘金莲| 日韩高清综合在线| 91老司机精品| 亚洲成人久久性| 欧美性猛交╳xxx乱大交人| 国产69精品久久久久777片 | 久久久久久免费高清国产稀缺| 国产精品,欧美在线| 亚洲欧美日韩高清专用| 一级毛片高清免费大全| 欧美又色又爽又黄视频| 亚洲狠狠婷婷综合久久图片| 久久草成人影院| 777久久人妻少妇嫩草av网站| 18禁国产床啪视频网站| 日韩av在线大香蕉| 亚洲国产精品久久男人天堂| 亚洲欧美日韩东京热| 精华霜和精华液先用哪个| 高清毛片免费观看视频网站| 国产av一区在线观看免费| 亚洲国产日韩欧美精品在线观看 | 亚洲国产欧洲综合997久久,| 操出白浆在线播放| 亚洲av成人一区二区三| 久久精品夜夜夜夜夜久久蜜豆 | 精品国内亚洲2022精品成人| 亚洲精品中文字幕在线视频| 制服丝袜大香蕉在线| 亚洲欧美精品综合久久99| 国产视频一区二区在线看| 日韩三级视频一区二区三区| 1024手机看黄色片| 不卡av一区二区三区| 天堂动漫精品| 亚洲一卡2卡3卡4卡5卡精品中文| 欧美日韩国产亚洲二区| 国产精品免费一区二区三区在线| 久久这里只有精品19| 精品福利观看| 久久久水蜜桃国产精品网| 亚洲一区高清亚洲精品| 麻豆成人av在线观看| 国产一区二区三区在线臀色熟女| 国产单亲对白刺激| 三级男女做爰猛烈吃奶摸视频| 天堂√8在线中文| 日本一区二区免费在线视频| 午夜日韩欧美国产| 久久国产乱子伦精品免费另类| 国产精品 国内视频| 久久精品国产99精品国产亚洲性色| 三级男女做爰猛烈吃奶摸视频| 一二三四社区在线视频社区8| 久久久精品国产亚洲av高清涩受| 成人永久免费在线观看视频| 五月伊人婷婷丁香| 18禁裸乳无遮挡免费网站照片| 91老司机精品| 婷婷精品国产亚洲av在线| 岛国在线免费视频观看| 欧美中文日本在线观看视频| 精品不卡国产一区二区三区| 久久天堂一区二区三区四区| 毛片女人毛片| 伦理电影免费视频| 亚洲精品在线观看二区| 日本 欧美在线| 最新美女视频免费是黄的| 少妇粗大呻吟视频| 免费观看人在逋| 久久热在线av| 亚洲成人精品中文字幕电影| 日韩大码丰满熟妇| 搡老熟女国产l中国老女人| 国产一区在线观看成人免费| 日本a在线网址| 午夜成年电影在线免费观看| 变态另类成人亚洲欧美熟女| 99热只有精品国产| 国产成年人精品一区二区| 成人av在线播放网站| 一级毛片精品| 无遮挡黄片免费观看| av视频在线观看入口| 国产高清videossex| 两个人的视频大全免费| 国产精品av久久久久免费| 国产精品久久电影中文字幕| 精品国产亚洲在线| 国产亚洲欧美在线一区二区| e午夜精品久久久久久久| 亚洲色图av天堂| 免费高清视频大片| 99久久精品国产亚洲精品| 国产精品一区二区精品视频观看| 九色成人免费人妻av| 亚洲欧美激情综合另类| 国内精品一区二区在线观看| 国产91精品成人一区二区三区| 18禁黄网站禁片午夜丰满| 欧美不卡视频在线免费观看 | 婷婷丁香在线五月| 一区二区三区激情视频| 天天添夜夜摸| 午夜久久久久精精品| 日韩精品青青久久久久久| 男女视频在线观看网站免费 | 国产午夜精品久久久久久| 亚洲欧美精品综合久久99| 亚洲精品中文字幕在线视频| 亚洲九九香蕉| 亚洲午夜理论影院| 极品教师在线免费播放| 欧美日韩国产亚洲二区| 一个人免费在线观看电影 | 亚洲自拍偷在线| 亚洲欧美激情综合另类| 日韩欧美国产一区二区入口| 精品一区二区三区四区五区乱码| 99国产极品粉嫩在线观看| 午夜老司机福利片| 老熟妇仑乱视频hdxx| 麻豆国产av国片精品| 国产一级毛片七仙女欲春2| 男插女下体视频免费在线播放| 日本成人三级电影网站| 亚洲精品久久国产高清桃花| 亚洲精品一卡2卡三卡4卡5卡| 欧美zozozo另类| 国产精品乱码一区二三区的特点| 成人午夜高清在线视频| 亚洲av五月六月丁香网| 中亚洲国语对白在线视频| 免费无遮挡裸体视频| 亚洲aⅴ乱码一区二区在线播放 | av福利片在线| 欧美+亚洲+日韩+国产| 黄色片一级片一级黄色片| 一进一出抽搐gif免费好疼| 毛片女人毛片| 欧美一区二区精品小视频在线| 后天国语完整版免费观看| 成人特级黄色片久久久久久久| 俺也久久电影网| 中文亚洲av片在线观看爽| 在线观看午夜福利视频| 国产99白浆流出| 久久午夜亚洲精品久久| 成人av一区二区三区在线看| 狂野欧美白嫩少妇大欣赏| 伊人久久大香线蕉亚洲五| 午夜激情福利司机影院| 亚洲成人精品中文字幕电影| 国产单亲对白刺激| 精品电影一区二区在线| 久久天躁狠狠躁夜夜2o2o| 俄罗斯特黄特色一大片| 欧美成人一区二区免费高清观看 | 欧美日韩亚洲国产一区二区在线观看| av福利片在线观看| 麻豆国产97在线/欧美 | 久久午夜综合久久蜜桃| 欧美日韩黄片免| 极品教师在线免费播放| 国产aⅴ精品一区二区三区波| 欧美av亚洲av综合av国产av| 久久午夜亚洲精品久久| 亚洲一区中文字幕在线| 国产一区二区在线av高清观看| 无人区码免费观看不卡| 亚洲 欧美 日韩 在线 免费| 少妇裸体淫交视频免费看高清 | 欧美日本亚洲视频在线播放| 一进一出抽搐动态| 亚洲中文字幕一区二区三区有码在线看 | 99国产极品粉嫩在线观看| 久久久国产成人免费| 欧美激情久久久久久爽电影| 香蕉丝袜av| 人人妻人人看人人澡| 国产av不卡久久| 最新美女视频免费是黄的| 日本 av在线| 午夜老司机福利片| 午夜视频精品福利| 99riav亚洲国产免费| 国产精品1区2区在线观看.| 久久中文字幕一级| 亚洲av片天天在线观看| 一二三四社区在线视频社区8| 黄色丝袜av网址大全| 日韩 欧美 亚洲 中文字幕| 国产区一区二久久| 大型黄色视频在线免费观看| 毛片女人毛片| 在线观看66精品国产| av视频在线观看入口| 91九色精品人成在线观看| 视频区欧美日本亚洲| 亚洲 欧美一区二区三区| 欧美黄色片欧美黄色片| 国产片内射在线| 啦啦啦免费观看视频1| 首页视频小说图片口味搜索| 亚洲真实伦在线观看| 日韩有码中文字幕| 国产亚洲精品久久久久久毛片| 人成视频在线观看免费观看| 好看av亚洲va欧美ⅴa在| 十八禁网站免费在线| www.999成人在线观看| 99在线视频只有这里精品首页| 老司机在亚洲福利影院| 亚洲九九香蕉| 色综合婷婷激情| 男女床上黄色一级片免费看| 日本三级黄在线观看| 国产精品久久久av美女十八| 免费在线观看成人毛片| 亚洲一区二区三区色噜噜| 欧美成狂野欧美在线观看| 国产精品综合久久久久久久免费| www日本在线高清视频| 麻豆av在线久日| 三级国产精品欧美在线观看 | 日韩大尺度精品在线看网址| 听说在线观看完整版免费高清| 欧美乱色亚洲激情| 中国美女看黄片| 亚洲中文字幕一区二区三区有码在线看 | 中文字幕精品亚洲无线码一区| 人人妻人人澡欧美一区二区| 夜夜夜夜夜久久久久| 成人国产一区最新在线观看| 女警被强在线播放| 12—13女人毛片做爰片一| 亚洲五月婷婷丁香| 欧美精品亚洲一区二区| 亚洲欧美一区二区三区黑人| 又黄又粗又硬又大视频| 亚洲无线在线观看| 99精品在免费线老司机午夜| 日本精品一区二区三区蜜桃| 一本精品99久久精品77| 国产精品,欧美在线| 久久午夜综合久久蜜桃| 日韩欧美三级三区| 观看免费一级毛片| 黄片小视频在线播放| 精品久久久久久久久久久久久| 97人妻精品一区二区三区麻豆| 久久久久性生活片| ponron亚洲| 精品熟女少妇八av免费久了| 一进一出抽搐gif免费好疼| 久99久视频精品免费| 欧美一区二区精品小视频在线| 成人av在线播放网站| 伊人久久大香线蕉亚洲五| 无人区码免费观看不卡| 黄色 视频免费看| 亚洲五月婷婷丁香| 国产精品1区2区在线观看.| cao死你这个sao货| 欧美 亚洲 国产 日韩一| 亚洲性夜色夜夜综合| 一级毛片高清免费大全| 久久久久久久午夜电影| 丁香六月欧美| 天堂√8在线中文| 看免费av毛片| 哪里可以看免费的av片| 久久久久久久久免费视频了| 88av欧美| 夜夜躁狠狠躁天天躁| 亚洲av美国av| 男女那种视频在线观看| 国产精品,欧美在线| 中文字幕最新亚洲高清| 精品国产美女av久久久久小说| 亚洲欧洲精品一区二区精品久久久| 日韩欧美一区二区三区在线观看| 正在播放国产对白刺激| 午夜免费观看网址| 中文字幕最新亚洲高清| 美女黄网站色视频| 怎么达到女性高潮| 九色成人免费人妻av| 中文字幕久久专区| 亚洲熟妇熟女久久| 50天的宝宝边吃奶边哭怎么回事| 免费高清视频大片| 天堂av国产一区二区熟女人妻 | 51午夜福利影视在线观看| 两性午夜刺激爽爽歪歪视频在线观看 | 黄色片一级片一级黄色片| 国产精品久久久久久亚洲av鲁大| 三级毛片av免费| 最好的美女福利视频网| 久久久久国产一级毛片高清牌| 午夜a级毛片| 成人18禁高潮啪啪吃奶动态图| 变态另类丝袜制服| 日日夜夜操网爽| 久久中文字幕人妻熟女| 亚洲午夜精品一区,二区,三区| 午夜福利在线观看吧| 亚洲一区二区三区色噜噜| 国产精品美女特级片免费视频播放器 | 在线a可以看的网站| 国产精华一区二区三区| 日本黄大片高清| 日韩有码中文字幕| 午夜免费成人在线视频| 久久精品国产99精品国产亚洲性色| 日韩成人在线观看一区二区三区| xxxwww97欧美| 亚洲成人中文字幕在线播放| 亚洲av电影不卡..在线观看| 欧美午夜高清在线| 久久久久久久久免费视频了| 99在线人妻在线中文字幕| 一级毛片精品| 久久久国产精品麻豆| 女人爽到高潮嗷嗷叫在线视频| 香蕉丝袜av| 色老头精品视频在线观看| 啪啪无遮挡十八禁网站| 国产精品1区2区在线观看.| 最近最新免费中文字幕在线| 亚洲一区中文字幕在线| 亚洲国产精品成人综合色| 欧美日韩精品网址| 免费看十八禁软件| 亚洲中文字幕日韩| 最近在线观看免费完整版| 久久久久久人人人人人| 99热6这里只有精品| 亚洲国产精品999在线| 欧美另类亚洲清纯唯美| 99久久精品热视频| 国产av一区在线观看免费| 国产蜜桃级精品一区二区三区| 黄色丝袜av网址大全| 宅男免费午夜| 级片在线观看| 变态另类丝袜制服| 国产亚洲精品一区二区www| 亚洲av熟女| 午夜两性在线视频| av福利片在线| 国产精品久久久av美女十八| 国产高清videossex| 床上黄色一级片| 国产午夜精品论理片| 成人午夜高清在线视频| 亚洲人成网站在线播放欧美日韩| 亚洲欧美日韩高清专用| 亚洲全国av大片| 日本撒尿小便嘘嘘汇集6| 国产一区在线观看成人免费| 国产高清videossex| 床上黄色一级片| 一本综合久久免费| 男女视频在线观看网站免费 | 精品免费久久久久久久清纯| 一二三四在线观看免费中文在| 亚洲欧美日韩高清专用| 国产三级中文精品| 成人亚洲精品av一区二区| 在线免费观看的www视频| 成人精品一区二区免费| 国产高清有码在线观看视频 | 久久精品影院6| 欧美乱码精品一区二区三区| 国产精品久久久久久人妻精品电影| 国产精品久久久久久久电影 | 亚洲精品色激情综合| 日韩欧美在线乱码| 亚洲黑人精品在线| 黄色 视频免费看| 欧美中文日本在线观看视频| 国产蜜桃级精品一区二区三区| 欧美一级a爱片免费观看看 | 99国产精品99久久久久| 亚洲欧美一区二区三区黑人| 小说图片视频综合网站| 可以在线观看的亚洲视频| 国产精品久久久av美女十八| 一本精品99久久精品77| 亚洲av日韩精品久久久久久密| 国内精品一区二区在线观看|