• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    數(shù)據(jù)匿名化的法律規(guī)制

    2016-02-22 04:53:38
    信息通信技術(shù) 2016年4期
    關(guān)鍵詞:數(shù)據(jù)保護(hù)法律

    中國(guó)信息通信研究院互聯(lián)網(wǎng)法律中心 北京 100096

    數(shù)據(jù)匿名化在計(jì)算機(jī)科學(xué)領(lǐng)域是方興未艾的熱門話題。自1997年美國(guó)學(xué)者Samarati和Sweeney提出k-anonymity匿名模型后,目前已發(fā)展出許多成熟的技術(shù)解決方案[1]。相比于技術(shù)領(lǐng)域的長(zhǎng)足進(jìn)步,法律領(lǐng)域?qū)τ谀涿年P(guān)注才剛剛開始(就國(guó)內(nèi)研究看,通過中國(guó)知網(wǎng)查詢“數(shù)據(jù)匿名”、“匿名化”,大量文獻(xiàn)集中在計(jì)算機(jī)科學(xué)、通信科學(xué)領(lǐng)域,法學(xué)領(lǐng)域文獻(xiàn)寥寥)。但隨著全球個(gè)人數(shù)據(jù)保護(hù)立法制度的不斷完善,關(guān)于數(shù)據(jù)匿名化的法律規(guī)范正逐步浮現(xiàn)。特別是在大數(shù)據(jù)浪潮的推動(dòng)下,數(shù)據(jù)挖掘、數(shù)據(jù)共享(交易)、數(shù)據(jù)開放對(duì)于匿名化的需求越來越高,有關(guān)法律規(guī)范問題亟待澄清。本文從法律視角出發(fā),對(duì)數(shù)據(jù)匿名化的法律規(guī)范問題予以系統(tǒng)分析。

    1 數(shù)據(jù)匿名化的概念

    如果從法律視角理解匿名化,則需要從個(gè)人數(shù)據(jù)保護(hù)法中的個(gè)人數(shù)據(jù)概念入手。一個(gè)基本的法律前提是:個(gè)人數(shù)據(jù)保護(hù)法規(guī)范個(gè)人數(shù)據(jù)的收集和處理活動(dòng),個(gè)人數(shù)據(jù)經(jīng)匿名化之后不再適用個(gè)人數(shù)據(jù)保護(hù)法。

    1.1 個(gè)人數(shù)據(jù)的概念

    個(gè)人數(shù)據(jù)是個(gè)人數(shù)據(jù)保護(hù)法中的核心概念,其界定的關(guān)鍵是可識(shí)別特定自然人的數(shù)據(jù),包括直接識(shí)別與間接識(shí)別。直接識(shí)別是指單憑該數(shù)據(jù)本身就能夠指向特定個(gè)人,例如身份證號(hào)碼、電話號(hào)碼、家庭住址等;間接識(shí)別是指將該數(shù)據(jù)結(jié)合其他數(shù)據(jù)后也能夠關(guān)聯(lián)到特定個(gè)人。例如有關(guān)個(gè)人的一組常去地點(diǎn)數(shù)據(jù),可以通過參考其他數(shù)據(jù)識(shí)別到特定個(gè)人。

    相比于直接識(shí)別,間接識(shí)別標(biāo)準(zhǔn)為個(gè)人數(shù)據(jù)的界定預(yù)留了一定空間。特別是根據(jù)技術(shù)、應(yīng)用的發(fā)展,可以通過立法等方式不斷擴(kuò)展個(gè)人數(shù)據(jù)的類別。例如:剛剛通過的歐盟《數(shù)據(jù)保護(hù)一般條例》(General Data Protection Regulation,GDPR)第4條中將位置數(shù)據(jù)(Location Data)、在線活動(dòng)識(shí)別符號(hào)(Online Identif i er,如IP地址、MAC地址、COOKIE等)明確納入個(gè)人數(shù)據(jù)范圍[2]。美國(guó)隱私保護(hù)最主要的執(zhí)法機(jī)構(gòu)美國(guó)聯(lián)邦貿(mào)易委員會(huì)(Federal Trade Commission,F(xiàn)TC)在2012年發(fā)布的隱私保護(hù)指南,《在一個(gè)充滿快速變化的時(shí)代,保護(hù)消費(fèi)者隱私——關(guān)于隱私權(quán)的建議》中提出,F(xiàn)TC倡導(dǎo)的隱私保護(hù)框架應(yīng)當(dāng)適用于:能夠合理地與特定的消費(fèi)者、電腦以及其他設(shè)備相聯(lián)系的消費(fèi)者數(shù)據(jù)的收集和使用行為。個(gè)人數(shù)據(jù)突破了傳統(tǒng)定義中的與具體的自然人相關(guān)聯(lián),而是擴(kuò)展到了用戶所使用設(shè)備標(biāo)識(shí)等[3]。這一擴(kuò)展趨勢(shì)在《美國(guó)兒童在線隱私保護(hù)法》執(zhí)行規(guī)則中已經(jīng)有所體現(xiàn)。規(guī)則中明確個(gè)人信息包括:能夠被用來跟蹤和識(shí)別個(gè)人在線活動(dòng)的符號(hào),例如IP地址、MAC地址等[4]。

    因此而看,為應(yīng)對(duì)大數(shù)據(jù)等信息技術(shù)的發(fā)展,各國(guó)通過立法適當(dāng)擴(kuò)展個(gè)人數(shù)據(jù)的范圍,讓在線跟蹤、精準(zhǔn)行為營(yíng)銷等新型數(shù)據(jù)處理活動(dòng)也能夠落入法律適用范圍,以此對(duì)網(wǎng)絡(luò)環(huán)境下的個(gè)人隱私保護(hù)提供新的補(bǔ)充。而在相反的方向上,匿名化則成為兼顧隱私保護(hù)和數(shù)據(jù)利用的另一條有效路徑。

    1.2 匿名化的提出

    盡管人們?cè)谏鲜兰o(jì)90年代就提出了匿名化思想,但大數(shù)據(jù)時(shí)代的到來真正讓匿名化迅速成為熱點(diǎn)技術(shù)。大數(shù)據(jù)中的大部分?jǐn)?shù)據(jù)來源于人和傳感器,包括用戶上網(wǎng)瀏覽記錄、社交網(wǎng)絡(luò)上用戶的信息、傳感器數(shù)據(jù)和監(jiān)視數(shù)據(jù)等。從浩瀚的數(shù)據(jù)寶藏中獲得有價(jià)值的信息是各大企業(yè)收集數(shù)據(jù)的主要目的。數(shù)據(jù)成為企業(yè)最有價(jià)值的財(cái)產(chǎn)和新型商業(yè)模式的基石[5]。

    與此同時(shí),政府?dāng)?shù)據(jù)在促進(jìn)創(chuàng)新方面所擁有的巨大經(jīng)濟(jì)、社會(huì)價(jià)值潛能也逐漸被各國(guó)所認(rèn)知,自2009年起,在美國(guó)的引領(lǐng)下掀起了全球開放政府?dāng)?shù)據(jù)運(yùn)動(dòng)浪潮,推動(dòng)以機(jī)器可讀、可重復(fù)利用方式全面向社會(huì)公眾開放。

    然而無論是企業(yè)還是政府所掌握的數(shù)據(jù)中,都大量涉及個(gè)人數(shù)據(jù),因此無可避免地遭遇隱私保護(hù)問題。個(gè)人數(shù)據(jù)保護(hù)和數(shù)據(jù)蘊(yùn)藏的巨大價(jià)值之間的矛盾日益突出。匿名化作為二者的折衷,提供了一條技術(shù)解決路徑。通過匿名化方法消除用戶的身份信息、敏感信息以達(dá)到隱私保護(hù)的目的,同時(shí)還能夠最大化地發(fā)揮數(shù)據(jù)價(jià)值。

    匿名化技術(shù)發(fā)展的初衷主要是為了在數(shù)據(jù)利用的過程中降低個(gè)人隱私風(fēng)險(xiǎn),因此它包含了不同的匿名化方法,例如泛化、壓縮、分解、置換以及干擾等等,這些方法相應(yīng)地負(fù)載不同程度的風(fēng)險(xiǎn),有的相對(duì)容易被攻擊復(fù)原,有的難度較高,甚至幾乎不可能被復(fù)原。而從近年來各國(guó)個(gè)人數(shù)據(jù)保護(hù)法對(duì)于匿名化的理解看,法律語義下的匿名化相較于技術(shù)語義下的匿名化較為狹窄。根據(jù)個(gè)人數(shù)據(jù)保護(hù)法對(duì)個(gè)人數(shù)據(jù)界定的反向推導(dǎo),法律語義下的匿名化數(shù)據(jù)至少要滿足兩個(gè)標(biāo)準(zhǔn):1)僅從該數(shù)據(jù)本身無法指向特定的個(gè)人;2)即使結(jié)合其他數(shù)據(jù)也無法指向特定個(gè)人。

    正如歐盟數(shù)據(jù)保護(hù)條例(GDPR)在引言部分對(duì)于匿名化的界定:“匿名化是指將個(gè)人數(shù)據(jù)移除可識(shí)別個(gè)人信息的部分,并且通過這一方法,數(shù)據(jù)主體不會(huì)再被識(shí)別。匿名化數(shù)據(jù)不屬于個(gè)人數(shù)據(jù),因此無須適用條例的相關(guān)要求,機(jī)構(gòu)可以自由地處理匿名化數(shù)據(jù)?!币舱且?yàn)槟涿瘮?shù)據(jù)豁免了嚴(yán)格的個(gè)人數(shù)據(jù)保護(hù)規(guī)范,法律語義下的匿名化有著更高的標(biāo)準(zhǔn)——不可能被識(shí)別,或者被識(shí)別的可能性極低(為行文方便,下文中對(duì)于匿名化不可能被識(shí)別的定義包含了識(shí)別可能性極低的情況)。而在個(gè)人數(shù)據(jù)保護(hù)法下,與匿名數(shù)據(jù)相對(duì)應(yīng)的另一個(gè)概念——假名數(shù)據(jù),可被識(shí)別身份的風(fēng)險(xiǎn)相對(duì)較高。

    1.3 與假名數(shù)據(jù)的區(qū)別

    假名化(Pseudonymisation)是指對(duì)個(gè)人數(shù)據(jù)處理后,在沒有特定信息參考(該特定信息被安全地單獨(dú)保存)的情況下,不能指向特定個(gè)人。假名化數(shù)據(jù)與匿名化數(shù)據(jù)最大的不同是,前者仍然屬于個(gè)人數(shù)據(jù),仍要適用個(gè)人數(shù)據(jù)保護(hù)法。

    換言之,假名數(shù)據(jù)仍建立在個(gè)體基礎(chǔ)之上,保留了個(gè)體顆粒度,只是用了其他符號(hào)來標(biāo)注數(shù)據(jù),而非用真實(shí)的身份。假名數(shù)據(jù)結(jié)合了特定信息會(huì)恢復(fù)身份屬性。例如:“張曉明,65歲,糖尿病患者”是真實(shí)的個(gè)人數(shù)據(jù),在此基礎(chǔ)上生成假名數(shù)據(jù):“00108,65歲,糖尿病患者”。

    因此法律要求,若要維持?jǐn)?shù)據(jù)的假名狀態(tài),則機(jī)構(gòu)必須單獨(dú)安全地存儲(chǔ)能夠使得假名數(shù)據(jù)恢復(fù)身份數(shù)據(jù)的特定信息。例如,針對(duì)上面的例子,機(jī)構(gòu)必須安全的存儲(chǔ)“00108與張曉明”的對(duì)應(yīng)關(guān)系信息。而匿名化數(shù)據(jù)在結(jié)合其他數(shù)據(jù)的任何情況下也不可能被識(shí)別。

    相比于匿名化數(shù)據(jù),假名數(shù)據(jù)的隱私風(fēng)險(xiǎn)會(huì)更高一些。但相比于真實(shí)的個(gè)人數(shù)據(jù),假名數(shù)據(jù)有利于降低隱私風(fēng)險(xiǎn),是幫助機(jī)構(gòu)更好地履行數(shù)據(jù)保護(hù)義務(wù)的有效手段,因此在數(shù)據(jù)保護(hù)嚴(yán)格的歐盟,也鼓勵(lì)機(jī)構(gòu)對(duì)個(gè)人數(shù)據(jù)的假名處理。并且假名數(shù)據(jù)本身在科研領(lǐng)域有著重要價(jià)值,一方面假名數(shù)據(jù)最大程度地保留了信息價(jià)值,另一方面,科研領(lǐng)域數(shù)據(jù)公開的范圍較小,僅限于科研人員使用,且有著較為完善的安全保障措施,隱私風(fēng)險(xiǎn)相對(duì)較低。

    1.4 小結(jié)

    個(gè)人數(shù)據(jù)不同的處理方法伴隨不同的隱私風(fēng)險(xiǎn),如果將數(shù)據(jù)看做是一段光譜,在光譜左端是真實(shí)的個(gè)人數(shù)據(jù),其隱私風(fēng)險(xiǎn)最高,居中是假名數(shù)據(jù),它保留了個(gè)體顆粒度,但隱私風(fēng)險(xiǎn)降低,右端是匿名數(shù)據(jù)(特別是匿名化后的聚合數(shù)據(jù)),隱私風(fēng)險(xiǎn)努力接近于零。

    2 匿名化的法律標(biāo)準(zhǔn)

    如果缺乏其他的數(shù)據(jù)源,很多數(shù)據(jù)將保持匿名的狀態(tài)。然而在大數(shù)據(jù)推動(dòng)之下,有越來越多的數(shù)據(jù)集產(chǎn)生并公布,機(jī)構(gòu)甚至是普通的個(gè)人都可以獲取大量的數(shù)據(jù)資源。同時(shí),軟件算法和分析學(xué)的發(fā)展使得數(shù)據(jù)更易被關(guān)聯(lián)和聚合,大大增強(qiáng)了人們將非個(gè)人數(shù)據(jù)轉(zhuǎn)化為個(gè)人數(shù)據(jù)的能力。個(gè)人數(shù)據(jù)匿名化后遭遇有目的攻擊的情況也更為普遍。

    2006年10月, DVD租賃商奈飛公司開展“Netflix Prize”算法競(jìng)賽。該公司公布了大約來自50萬用戶的一億條租賃記錄,并且公開懸賞一百萬美金,獎(jiǎng)勵(lì)工程師通過軟件設(shè)計(jì)來提高其電影推薦系統(tǒng)的精準(zhǔn)度。雖然奈飛公司對(duì)數(shù)據(jù)進(jìn)行了精心的匿名化處理,然而其中部分?jǐn)?shù)據(jù)仍然被認(rèn)出,包括一名化名“無名氏”的同性戀,她因此起訴了奈飛公司[6]。在國(guó)內(nèi),某知名移動(dòng)應(yīng)用由于不注意保護(hù)用戶位置大數(shù)據(jù),攻擊者可根據(jù)三角測(cè)量方法推斷出用戶的家庭住址等敏感位置[7]。

    盡管數(shù)據(jù)匿名化的難度越來越高,但需重申的是:匿名化仍然是重要的數(shù)據(jù)安全保障措施,在大數(shù)據(jù)環(huán)境下,更應(yīng)得到廣泛的應(yīng)用。匿名化是可能的,也是可行的。數(shù)據(jù)匿名化使得豐富的數(shù)據(jù)資源得以利用,同時(shí)也能最大程度保護(hù)個(gè)人隱私和數(shù)據(jù)。并且各國(guó)個(gè)人數(shù)據(jù)保護(hù)法對(duì)匿名化數(shù)據(jù)予以了法律適用上的豁免。那么,在法律上認(rèn)可匿名數(shù)據(jù)需要考慮的因素是什么?如何確定匿名化的法律標(biāo)準(zhǔn)?

    2.1 部分國(guó)家立法或監(jiān)管機(jī)構(gòu)對(duì)于匿名化的標(biāo)準(zhǔn)

    1)美國(guó)。對(duì)于匿名化數(shù)據(jù),法律中還沒有明確細(xì)致的標(biāo)準(zhǔn)。但美國(guó)《健康保險(xiǎn)可轉(zhuǎn)移及責(zé)任法案》(HIPAA)對(duì)另一個(gè)相似的概念——去身份化(deidenti fi cation)作出了界定:“通過處理使得數(shù)據(jù)不能識(shí)別特定個(gè)人,或者沒有合理的基礎(chǔ)能夠認(rèn)為該數(shù)據(jù)可以被用來識(shí)別特定個(gè)人?!?/p>

    2)日本。日本2015年通過《個(gè)人信息保護(hù)法》修正案,對(duì)于大數(shù)據(jù)交易做出修正規(guī)定。新法案允許企業(yè)向第三方出售充分匿名化的數(shù)據(jù),但同時(shí)提出了相關(guān)義務(wù)要求:匿名后的數(shù)據(jù)不能夠與其他信息進(jìn)行比對(duì)、參照,以實(shí)現(xiàn)身份識(shí)別的功能,且不能復(fù)原。

    3)新加坡。新加坡個(gè)人數(shù)據(jù)保護(hù)委員會(huì)2013年頒布的《個(gè)人數(shù)據(jù)保護(hù)法指定主題咨詢指南》對(duì)個(gè)人數(shù)據(jù)的界定以及匿名化也作出了進(jìn)一步規(guī)定。匿名化是指將個(gè)人數(shù)據(jù)轉(zhuǎn)化成一種數(shù)據(jù),這種數(shù)據(jù)無論是其本身,還是通過機(jī)構(gòu)已經(jīng)獲得的或者可能獲得的其他數(shù)據(jù)一起分析后都不能識(shí)別到個(gè)人。數(shù)據(jù)匿名化之后就不適用于個(gè)人數(shù)據(jù)保護(hù)法中的相關(guān)規(guī)定[8]。

    4)英國(guó)。信息專員辦公室ICO指出:匿名化并非是完全無風(fēng)險(xiǎn)的,而只是將風(fēng)險(xiǎn)降低到最小化。如果數(shù)據(jù)可被識(shí)別的風(fēng)險(xiǎn)是合理存在的,應(yīng)當(dāng)被視為個(gè)人數(shù)據(jù)[9]。

    2.2 對(duì)匿名化標(biāo)準(zhǔn)的具體分析

    從各國(guó)數(shù)據(jù)保護(hù)立法和監(jiān)管實(shí)踐看,匿名化數(shù)據(jù)的法律標(biāo)準(zhǔn)有以下幾個(gè)共同要素。

    1)對(duì)于數(shù)據(jù)控制者(data controller,是個(gè)人數(shù)據(jù)保護(hù)法中的主體概念,指單獨(dú)或聯(lián)合其他方?jīng)Q定了數(shù)據(jù)處理目的和方法的主體,如公司 、公共機(jī)構(gòu)等)來說,匿名化的數(shù)據(jù)不能夠再被識(shí)別特定個(gè)人。如果對(duì)數(shù)據(jù)進(jìn)行匿名化處理的機(jī)構(gòu)仍然掌握著恢復(fù)該數(shù)據(jù)身份屬性的關(guān)鍵信息、算法,則對(duì)于該機(jī)構(gòu)來說,這些數(shù)據(jù)仍然屬于個(gè)人數(shù)據(jù),仍需要適用個(gè)人數(shù)據(jù)保護(hù)法。因?yàn)閷?duì)于該機(jī)構(gòu)而言,其隨時(shí)可以恢復(fù)該數(shù)據(jù)的身份屬性,不屬于不能識(shí)別的情形。

    2)如果數(shù)據(jù)匿名化之后被公布,則除了數(shù)據(jù)控制者之外,還要考慮能夠獲得該數(shù)據(jù)的第三方,其所能夠獲得的數(shù)據(jù)資源、數(shù)據(jù)能力,以及在此基礎(chǔ)上對(duì)匿名化數(shù)據(jù)重新恢復(fù)身份的可能性。歐盟個(gè)人數(shù)據(jù)保護(hù)的指導(dǎo)機(jī)構(gòu)——第29工作組,關(guān)于個(gè)人數(shù)據(jù)概念的法律意見表明(EU Article 29 working party Opinion (4/2007) on the concept of personal data),匿名化數(shù)據(jù)不能識(shí)別出特定個(gè)人是指:不論是對(duì)于掌握該數(shù)據(jù)的數(shù)據(jù)控制者,還是其他獲得該數(shù)據(jù)的任何主體,采取一般可能的措施、手段也無法將該數(shù)據(jù)關(guān)聯(lián)到特定個(gè)人。

    3)依照第2)點(diǎn)標(biāo)準(zhǔn)帶來的一個(gè)現(xiàn)實(shí)問題是:對(duì)于向社會(huì)公開的匿名化數(shù)據(jù),接收匿名化數(shù)據(jù)的第三方的數(shù)據(jù)能力是千差萬別的,其所能獲取的數(shù)據(jù)資源也各有不同。因此對(duì)于泛泛主體而言,數(shù)據(jù)是否匿名的評(píng)判結(jié)果是因人而異的。

    針對(duì)這一問題,在技術(shù)領(lǐng)域提出的“有動(dòng)機(jī)的攻擊者測(cè)試”(a motivated intruder test)也逐步為監(jiān)管實(shí)踐所認(rèn)可。例如英國(guó)數(shù)據(jù)保護(hù)機(jī)構(gòu)ICO推薦在判斷匿名化問題時(shí)應(yīng)用該測(cè)試[10]。該測(cè)試假設(shè)包括以下幾個(gè)方面。第一,有目的明確的入侵者,他沒有預(yù)先掌握相關(guān)的其他資源,只是希望從公開的匿名數(shù)據(jù)集中重新識(shí)別數(shù)據(jù)。匿名數(shù)據(jù)被重新識(shí)別,并不僅僅指該數(shù)據(jù)所指向的個(gè)人的名字被知道,只要能夠建立該數(shù)據(jù)與特定個(gè)人的可靠聯(lián)系就可以被認(rèn)為是“被識(shí)別”。第二,該入侵者具備一般人的合理能力,能夠獲得相關(guān)資源(例如包括互聯(lián)網(wǎng)、圖書館、公開文件等),但通常不能將該入侵者假設(shè)成為具備特殊技能知識(shí)的專家(如黑客),或者是極端情況下的犯罪分子(如入室非法獲取數(shù)據(jù))。因此,該測(cè)試的可應(yīng)用性在于它比普通大眾的標(biāo)準(zhǔn)要高,同時(shí)又比專業(yè)人士的標(biāo)準(zhǔn)要低,在一個(gè)合理可能的范圍內(nèi)。

    應(yīng)用該測(cè)試,考慮數(shù)據(jù)是否匿名的主要因素包括以下3點(diǎn)。

    1)動(dòng)機(jī)。即嘗試重新識(shí)別的可能性。在實(shí)踐中,一些特定類型的數(shù)據(jù)對(duì)于有動(dòng)機(jī)的入侵者來說更有吸引力,對(duì)個(gè)人帶來負(fù)面結(jié)果的可能性也就越大。例如能夠通過去匿名化獲得經(jīng)濟(jì)利益或其他不法利益,或者去匿名化后能夠引起刺探他人隱私、引起他人尷尬的數(shù)據(jù)。

    2)可獲取的其他數(shù)據(jù)資源。包括通過政府?dāng)?shù)據(jù)開放能夠?yàn)樯鐣?huì)大眾所獲取的數(shù)據(jù),也包括通過共享、交易方式獲得的其他數(shù)據(jù)。

    3)技術(shù)能力。對(duì)技術(shù)能力的考慮應(yīng)當(dāng)結(jié)合當(dāng)下技術(shù)的最新發(fā)展。特別是在數(shù)據(jù)分析、挖掘技術(shù)快速發(fā)展的今天,當(dāng)前的匿名化并不代表永久的匿名化。

    總之,盡管立法和監(jiān)管實(shí)踐竭盡努力地為數(shù)據(jù)匿名化提供盡量客觀的判斷標(biāo)準(zhǔn),但實(shí)際上,對(duì)數(shù)據(jù)重新識(shí)別身份的風(fēng)險(xiǎn)給出絕對(duì)結(jié)論依然是不嚴(yán)謹(jǐn)?shù)?。具體案例具體分析仍然是判斷匿名化問題的第一法則。當(dāng)然,以上所列出的具體標(biāo)準(zhǔn)分析可以作為實(shí)踐的重要參考。

    3 數(shù)據(jù)匿名化的法律規(guī)范

    匿名化數(shù)據(jù)不受個(gè)人數(shù)據(jù)保護(hù)法保護(hù)是本文一再重申的觀點(diǎn)。這一觀點(diǎn)主要表達(dá)的是:數(shù)據(jù)經(jīng)充分匿名化后,數(shù)據(jù)控制者對(duì)于該數(shù)據(jù)的使用處理不再受個(gè)人數(shù)據(jù)保護(hù)法的規(guī)范,例如包括知情同意原則、目的限制原則、最小化原則等都不再發(fā)揮約束作用。并且由于這些數(shù)據(jù)切斷了與特定個(gè)人的聯(lián)系,數(shù)據(jù)控制者也無需為個(gè)人數(shù)據(jù)權(quán)利(如知情權(quán)、訪問權(quán)、拒絕權(quán)、刪除權(quán))的實(shí)現(xiàn)提供支撐。

    然而,享受個(gè)人數(shù)據(jù)保護(hù)法的豁免待遇,則需要為此承擔(dān)其他的法律義務(wù),這些義務(wù)一方面來源于個(gè)人數(shù)據(jù)保護(hù)法對(duì)于匿名化數(shù)據(jù)認(rèn)定的高標(biāo)準(zhǔn)(即通過施加此類義務(wù),實(shí)現(xiàn)真正的數(shù)據(jù)匿名化),另一方面來自于信息安全其他方面的法定要求。我們可以將這些規(guī)范分為事前、事中、事后三個(gè)階段。

    3.1 事前階段

    1)關(guān)于同意。開展數(shù)據(jù)匿名化,數(shù)據(jù)控制者面臨的第一問題——這是否需要經(jīng)得用戶的同意。一般情況下,匿名化處理個(gè)人數(shù)據(jù)并不需要征得用戶同意。單純的匿名化,是有助于數(shù)據(jù)安全的有效手段。在這個(gè)階段,征求用戶同意將會(huì)十分繁瑣,甚至不可行。但是這并不意味著對(duì)匿名化沒有透明度方面的要求。相反,如果機(jī)構(gòu)能夠通過隱私政策在事前告知用戶數(shù)據(jù)可能的匿名化利用,則可以作為最佳市場(chǎng)實(shí)踐推薦。例如:無論是手機(jī)制造商還是應(yīng)用開發(fā)商在使用用戶位置信息時(shí),應(yīng)當(dāng)向用戶明確告知其個(gè)人位置信息是如何被使用的,是以個(gè)人數(shù)據(jù)模式使用,還是以匿名化的方式被使用。

    值得注意的是,如果機(jī)構(gòu)收集非個(gè)人數(shù)據(jù),但之后利用某種手段或者技術(shù)方式,再次恢復(fù)數(shù)據(jù)的可識(shí)別性(re-identification),而這種收集與識(shí)別活動(dòng)并沒有得到用戶知情或者同意,則涉嫌違反個(gè)人數(shù)據(jù)保護(hù)法。

    2)隱私風(fēng)險(xiǎn)評(píng)估。在數(shù)據(jù)匿名化的初始階段,開展隱私風(fēng)險(xiǎn)評(píng)估非常重要。特別是如果數(shù)據(jù)匿名化的目的是將數(shù)據(jù)開放給公眾,或者與其他主體進(jìn)行共享、交易,則可能會(huì)產(chǎn)生重新被識(shí)別風(fēng)險(xiǎn)。若一旦被識(shí)別,即使后續(xù)采取補(bǔ)救措施,其影響也是不可逆的。因此要充分結(jié)合匿名化標(biāo)準(zhǔn)的三個(gè)要素進(jìn)行充分的評(píng)估,包括有動(dòng)機(jī)的攻擊者,其能掌握獲得的其他數(shù)據(jù)資源,以及可以被利用的去匿名化技術(shù)等。根據(jù)隱私風(fēng)險(xiǎn)評(píng)估的結(jié)果,機(jī)構(gòu)可以選擇不同的加密方式和利用方式,以便有針對(duì)性地消減隱私暴露風(fēng)險(xiǎn)。

    1)根據(jù)隱私風(fēng)險(xiǎn)評(píng)估,對(duì)匿名化策略做出調(diào)整。例如:選擇更為復(fù)雜的匿名化方法,縮減信息披露的規(guī)模,限制披露的對(duì)象,附加合同約束條件等等。一般情況下,匿名數(shù)據(jù)越具體、越接近個(gè)體顆粒度狀態(tài),則在披露時(shí)越需要限定在一定范圍,限定一定條件。越聚合化的信息,則更傾向于完全公開的方式,比如犯罪熱點(diǎn)地圖。

    數(shù)據(jù)控制者必須意識(shí)到,限定在一定范圍、程度內(nèi)的匿名化披露,需要有強(qiáng)有力的安全保障措施,包括但不限于以下幾點(diǎn)。

    ①目的限制, 數(shù)據(jù)僅僅能夠服務(wù)于雙方約定的目的;

    ②對(duì)匿名數(shù)據(jù)接受者的員工進(jìn)行安全培訓(xùn),特別是數(shù)據(jù)訪問方面要符合安全原則和最小化原則;

    ③對(duì)將其他數(shù)據(jù)帶進(jìn)使用場(chǎng)景的能力進(jìn)行控制,從而對(duì)應(yīng)用關(guān)聯(lián)數(shù)據(jù)方法實(shí)現(xiàn)身份識(shí)別的風(fēng)險(xiǎn)進(jìn)行管理;

    ④限定數(shù)據(jù)僅能在特定的項(xiàng)目中使用;

    ⑤限制對(duì)匿名數(shù)據(jù)的再披露;

    ⑥禁止嘗試對(duì)數(shù)據(jù)進(jìn)行重新再識(shí)別,并且對(duì)于隨機(jī)情況下再識(shí)別的數(shù)據(jù)做出破壞處理;

    ⑦加密以及秘鑰管理以限制對(duì)數(shù)據(jù)的訪問;

    ⑧在項(xiàng)目完成之后對(duì)數(shù)據(jù)的返還、銷毀做出協(xié)議安排;

    ⑨責(zé)任追究機(jī)制,即數(shù)據(jù)接收方一旦違反合同協(xié)定需要承擔(dān)違約責(zé)任。

    2)持續(xù)的隱私風(fēng)險(xiǎn)評(píng)估。隱私風(fēng)險(xiǎn)評(píng)估不僅在事前階段需要,它還將貫穿匿名化數(shù)據(jù)利用整個(gè)過程。重新識(shí)別的風(fēng)險(xiǎn)會(huì)隨著時(shí)間的推進(jìn)而變化。一方面數(shù)據(jù)分析技術(shù)在飛速發(fā)展,過去公布的匿名化數(shù)據(jù)未必在新的技術(shù)、新的模型面前仍然保持匿名;另一方面,政府?dāng)?shù)據(jù)開放,以及私營(yíng)主體之間的數(shù)據(jù)交易、共享使得新的數(shù)據(jù)集在源源不斷的被釋放,這些都需要機(jī)構(gòu)應(yīng)當(dāng)定期評(píng)估數(shù)據(jù)匿名化策略,特別是對(duì)于定期例行公布匿名數(shù)據(jù)

    3.2 事中階段

    的機(jī)構(gòu)來說(因?yàn)槭艿秸畔⒐_或者數(shù)據(jù)開放的要求,這在政府或公共機(jī)構(gòu)更為常見),應(yīng)定期開展隱私風(fēng)險(xiǎn)評(píng)估,明確當(dāng)前及可預(yù)見未來的威脅,并及時(shí)對(duì)數(shù)據(jù)匿名策略作出調(diào)整。

    3.3 事后階段

    數(shù)據(jù)匿名化事后階段的核心任務(wù)是始終保持?jǐn)?shù)據(jù)的匿名狀態(tài)。數(shù)據(jù)利用限定在非身份化的模式之下,在后續(xù)的利用中也不再進(jìn)行身份識(shí)別,企業(yè)可通過合同機(jī)制、IT審計(jì)等方式予以監(jiān)督。在后續(xù)利用階段,企業(yè)若將匿名數(shù)據(jù)恢復(fù)身份屬性,則數(shù)據(jù)處理活動(dòng)再次落入到個(gè)人數(shù)據(jù)保護(hù)法調(diào)整范圍內(nèi)。此外,一旦在攻擊事件中被去匿名化,機(jī)構(gòu)應(yīng)當(dāng)啟動(dòng)應(yīng)急預(yù)案,包括通知受到影響的個(gè)人,并幫助其采取必要的補(bǔ)救措施。

    4 結(jié)語

    數(shù)據(jù)匿名化不能僅僅被看作是脫離于數(shù)據(jù)保護(hù)法之外,避免管制負(fù)擔(dān)的一種手段。應(yīng)用它的初衷是降低個(gè)人數(shù)據(jù)泄露的隱私風(fēng)險(xiǎn)。采取匿名化措施的企業(yè)能夠向用戶提供更多的安全保障,讓用戶知曉其被收集的信息在用于大數(shù)據(jù)分析時(shí),并沒有使用可識(shí)別身份的數(shù)據(jù),因此增強(qiáng)用戶對(duì)大數(shù)據(jù)應(yīng)用的信任和安全感。為保證匿名化更多地發(fā)揮安全屏障作用,而不是作為數(shù)據(jù)濫用的擋箭牌,匿名化利用應(yīng)當(dāng)在合法合規(guī)的前提下開展。

    2016年7月5日,《中華人民共和國(guó)網(wǎng)絡(luò)安全法(草案二次審議稿)》正式向社會(huì)公布。與一審稿相比,草案增加了類似匿名化的規(guī)定。例如“第四十一條:網(wǎng)絡(luò)運(yùn)營(yíng)者不得泄露、篡改、毀損其收集的公民個(gè)人信息;未經(jīng)被收集者同意,不得向他人提供公民個(gè)人信息。但是,經(jīng)過處理無法識(shí)別特定個(gè)人且不能復(fù)原的除外”。這里的特殊規(guī)定,可以理解為對(duì)于個(gè)人數(shù)據(jù)匿名化利用,特別是匿名化后對(duì)外提供(交易)的情形提供了合法性。在此基礎(chǔ)上,建議我國(guó)應(yīng)當(dāng)加快建立數(shù)據(jù)匿名化利用的法律規(guī)范體系,包括:明確匿名化數(shù)據(jù)的法律概念和認(rèn)定標(biāo)準(zhǔn),強(qiáng)調(diào)數(shù)據(jù)不再具有身份可識(shí)別性;引入隱私風(fēng)險(xiǎn)評(píng)估機(jī)制,鼓勵(lì)企業(yè)基于個(gè)案在內(nèi)部實(shí)施數(shù)據(jù)匿名化的風(fēng)險(xiǎn)評(píng)估,并基于評(píng)估結(jié)果,適時(shí)調(diào)整匿名化策略;利用合同規(guī)范、技術(shù)保障等多重工具實(shí)現(xiàn)數(shù)據(jù)的真正匿名化;建立數(shù)據(jù)匿名化的事前、事中、事后規(guī)范體系。

    參考文獻(xiàn)

    [1]丁旋.社交網(wǎng)絡(luò)分析中的隱私保護(hù)問題:去匿名化與無縫隱私[D].清華大學(xué),2014

    [2]REGULATION (EU) 2016/679 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation) (Text with EEA relevance)[R].THE EUROPEAN, 4.5.2016 L 119/1 Off i cial Journal of the European Union

    [3]FTC REPORT: Protecting consumer privacy in an era of rapid change, recommendations for businesses and policymakers[R/OL].[2016-08-02].https://www.ftc.gov/reports/protecting-consumer-privacy-era-rapid-changerecommendations-businesses-policymakers

    [4]Complying with COPPA: Frequently Asked Questions[EB/OL].[2016-08-02]. https://www.ftc.gov/tips-advice/business-center/guidance/complying-coppafrequently-asked-questions

    [5]劉雅輝,張鐵贏,靳小龍,等.大數(shù)據(jù)時(shí)代的個(gè)人隱私保護(hù)[J].計(jì)算機(jī)研究與發(fā)展,2015, 52(1):229-247

    [6] 維克托·邁爾-舍恩伯格,肯尼斯·庫克耶.大數(shù)據(jù)時(shí)代:生活、工作與思維的大變革[J].盛楊燕,周濤,譯.杭州:浙江人民出版社, 2013

    [7]王璐,孟小峰.位置大數(shù)據(jù)隱私保護(hù)研究綜述[J].軟件學(xué)報(bào),2014,25(4):693-712

    [8]Singapore Personal Data Protection Commision:Advisory Guidelines on the Personal Data Protection Act for Selected Toptics Issued by the Personal Data Protection Commision[R]. Issued 24 september 2013,revised 16 May 2014, revised 11 September 2014

    [9]UK. Information Commissioner's Office. Big data and data protection[R]. 2014

    [10]UK. Information Commissioner's Off i ce. Anonymisation: managing data protection risk code of practice[R].2012

    猜你喜歡
    數(shù)據(jù)保護(hù)法律
    法律推理與法律一體化
    法律方法(2022年1期)2022-07-21 09:17:10
    法律解釋與自然法
    法律方法(2021年3期)2021-03-16 05:57:02
    法律適用中的邏輯思維
    法律方法(2019年3期)2019-09-11 06:27:06
    歐盟通用數(shù)據(jù)保護(hù)條例中的數(shù)據(jù)保護(hù)官制度
    TPP生物藥品數(shù)據(jù)保護(hù)條款研究
    歐盟數(shù)據(jù)保護(hù)立法改革之發(fā)展趨勢(shì)分析
    歐盟《一般數(shù)據(jù)保護(hù)條例》新規(guī)則評(píng)析
    讓人死亡的法律
    山東青年(2016年1期)2016-02-28 14:25:30
    “互助獻(xiàn)血”質(zhì)疑聲背后的法律困惑
    藥品試驗(yàn)數(shù)據(jù)保護(hù)對(duì)完善中藥品種保護(hù)制度的啟示
    一级二级三级毛片免费看| 91久久精品国产一区二区三区| 国产视频首页在线观看| 99久国产av精品国产电影| 亚洲av在线观看美女高潮| 中国美白少妇内射xxxbb| 大话2 男鬼变身卡| 国产成人91sexporn| 国产综合精华液| 亚洲欧美日韩另类电影网站 | 久久人人爽人人片av| 最近最新中文字幕大全电影3| 白带黄色成豆腐渣| 日韩中字成人| 欧美激情在线99| 成年免费大片在线观看| 亚洲欧美成人精品一区二区| 男人舔奶头视频| 亚洲国产欧美在线一区| 久久久久九九精品影院| 99久久人妻综合| 岛国毛片在线播放| 亚洲欧美成人综合另类久久久| 日韩成人av中文字幕在线观看| 国产中年淑女户外野战色| 大又大粗又爽又黄少妇毛片口| 国产熟女欧美一区二区| 少妇人妻久久综合中文| 国产在视频线精品| 最近最新中文字幕大全电影3| 欧美最新免费一区二区三区| av免费在线看不卡| 亚洲四区av| 丝袜喷水一区| 日韩欧美 国产精品| 日韩三级伦理在线观看| 午夜爱爱视频在线播放| 人人妻人人看人人澡| 国产永久视频网站| 久久久久久久午夜电影| 热re99久久精品国产66热6| 日韩欧美一区视频在线观看 | 成人亚洲精品一区在线观看 | 午夜激情久久久久久久| 简卡轻食公司| 色视频在线一区二区三区| 成人无遮挡网站| 三级国产精品片| 小蜜桃在线观看免费完整版高清| 婷婷色麻豆天堂久久| 精品午夜福利在线看| 国模一区二区三区四区视频| 大又大粗又爽又黄少妇毛片口| 三级国产精品欧美在线观看| 亚洲国产欧美人成| 韩国高清视频一区二区三区| 久久精品国产亚洲av涩爱| 日本与韩国留学比较| 舔av片在线| 欧美xxxx性猛交bbbb| 秋霞伦理黄片| 国产精品偷伦视频观看了| 国产视频首页在线观看| 久久精品国产亚洲网站| 国产成人freesex在线| 亚洲精品日韩av片在线观看| 男男h啪啪无遮挡| 熟妇人妻不卡中文字幕| 日本-黄色视频高清免费观看| 色吧在线观看| 午夜福利视频1000在线观看| 亚洲国产精品国产精品| 国产午夜福利久久久久久| 亚洲av免费在线观看| 国产亚洲av嫩草精品影院| 老女人水多毛片| 高清午夜精品一区二区三区| 欧美国产精品一级二级三级 | 最近中文字幕高清免费大全6| 国产精品久久久久久精品古装| 久久精品国产亚洲av涩爱| 欧美日韩精品成人综合77777| 久久精品久久精品一区二区三区| 成人二区视频| av福利片在线观看| 噜噜噜噜噜久久久久久91| 色婷婷久久久亚洲欧美| 亚洲精华国产精华液的使用体验| 久久精品国产自在天天线| 色播亚洲综合网| 亚洲不卡免费看| 99精国产麻豆久久婷婷| 国产国拍精品亚洲av在线观看| 亚洲国产色片| 十八禁网站网址无遮挡 | 男女啪啪激烈高潮av片| 最近中文字幕高清免费大全6| 精品99又大又爽又粗少妇毛片| 网址你懂的国产日韩在线| 亚洲美女视频黄频| 国产精品嫩草影院av在线观看| 亚洲三级黄色毛片| 亚洲av欧美aⅴ国产| 激情五月婷婷亚洲| 亚洲av不卡在线观看| 少妇高潮的动态图| 免费av毛片视频| 99久国产av精品国产电影| 国产欧美日韩精品一区二区| 亚洲成人精品中文字幕电影| 国语对白做爰xxxⅹ性视频网站| www.色视频.com| 美女xxoo啪啪120秒动态图| 国产精品伦人一区二区| 女人久久www免费人成看片| 国产成人免费观看mmmm| 亚洲欧美日韩另类电影网站 | 高清午夜精品一区二区三区| 国产高清国产精品国产三级 | 亚洲在久久综合| 久久精品久久久久久噜噜老黄| 国产免费一区二区三区四区乱码| 人妻 亚洲 视频| 国产亚洲5aaaaa淫片| 天美传媒精品一区二区| 最近最新中文字幕大全电影3| 永久免费av网站大全| 男女国产视频网站| 免费黄网站久久成人精品| 一级毛片黄色毛片免费观看视频| 国产高清国产精品国产三级 | 国产成人精品福利久久| 久久精品人妻少妇| 欧美zozozo另类| 老师上课跳d突然被开到最大视频| 三级国产精品欧美在线观看| 久久99热这里只频精品6学生| 国产欧美日韩一区二区三区在线 | 狂野欧美激情性bbbbbb| www.av在线官网国产| 精品一区二区免费观看| 久久久久国产精品人妻一区二区| 国产毛片a区久久久久| 精品一区二区免费观看| 日韩一区二区三区影片| 精品国产露脸久久av麻豆| 777米奇影视久久| 国产美女午夜福利| 色综合色国产| 精品久久久久久久久av| 午夜精品国产一区二区电影 | 亚洲欧美日韩卡通动漫| 国产成人a区在线观看| 亚洲精品自拍成人| 欧美成人一区二区免费高清观看| 午夜视频国产福利| 国产伦精品一区二区三区视频9| 新久久久久国产一级毛片| 国产白丝娇喘喷水9色精品| av免费在线看不卡| 亚洲成人一二三区av| 成人亚洲精品一区在线观看 | 青春草亚洲视频在线观看| 国产欧美日韩一区二区三区在线 | a级毛色黄片| 精品酒店卫生间| 国产一区亚洲一区在线观看| 亚洲精品中文字幕在线视频 | 国产午夜福利久久久久久| 丰满乱子伦码专区| 亚洲精品乱码久久久v下载方式| 寂寞人妻少妇视频99o| a级毛片免费高清观看在线播放| 欧美3d第一页| 寂寞人妻少妇视频99o| 狂野欧美激情性xxxx在线观看| 91精品国产九色| av福利片在线观看| 深爱激情五月婷婷| 国产成人a区在线观看| 免费看a级黄色片| 少妇猛男粗大的猛烈进出视频 | 深爱激情五月婷婷| 成人综合一区亚洲| 在线观看一区二区三区| 免费黄色在线免费观看| 久久女婷五月综合色啪小说 | 老女人水多毛片| 日日啪夜夜撸| 高清欧美精品videossex| 国产精品国产av在线观看| 日韩中字成人| 久久人人爽人人片av| 成年版毛片免费区| 亚洲国产欧美人成| 老女人水多毛片| 亚洲真实伦在线观看| 天天躁日日操中文字幕| 国产又色又爽无遮挡免| 97超视频在线观看视频| 香蕉精品网在线| 肉色欧美久久久久久久蜜桃 | 国产男女超爽视频在线观看| 国产精品爽爽va在线观看网站| 欧美极品一区二区三区四区| 亚洲激情五月婷婷啪啪| 亚洲精品国产av成人精品| 另类亚洲欧美激情| 亚洲av免费在线观看| 麻豆精品久久久久久蜜桃| 三级经典国产精品| 自拍欧美九色日韩亚洲蝌蚪91 | 老司机影院成人| 高清视频免费观看一区二区| 高清av免费在线| 亚洲成人一二三区av| 大陆偷拍与自拍| 精品一区在线观看国产| tube8黄色片| 一区二区三区精品91| 国模一区二区三区四区视频| 久久精品国产亚洲av涩爱| 亚洲精品色激情综合| 啦啦啦啦在线视频资源| 成人毛片60女人毛片免费| 黄色怎么调成土黄色| 国产精品麻豆人妻色哟哟久久| 自拍偷自拍亚洲精品老妇| 成人无遮挡网站| 中国美白少妇内射xxxbb| 国产精品国产三级国产av玫瑰| 99热全是精品| 国产女主播在线喷水免费视频网站| 午夜免费鲁丝| 80岁老熟妇乱子伦牲交| 亚洲精品色激情综合| 建设人人有责人人尽责人人享有的 | 久久人人爽人人片av| 欧美日韩综合久久久久久| 国产av不卡久久| 亚洲国产成人一精品久久久| 国产精品偷伦视频观看了| 久久国内精品自在自线图片| 天天一区二区日本电影三级| 久久ye,这里只有精品| 老师上课跳d突然被开到最大视频| 亚洲精品,欧美精品| 最后的刺客免费高清国语| 欧美老熟妇乱子伦牲交| 午夜激情久久久久久久| 老女人水多毛片| 97人妻精品一区二区三区麻豆| av女优亚洲男人天堂| 人妻制服诱惑在线中文字幕| 我要看日韩黄色一级片| 免费人成在线观看视频色| 国产精品秋霞免费鲁丝片| 三级国产精品片| 国产成人精品久久久久久| 69人妻影院| 午夜免费观看性视频| 日本wwww免费看| 三级国产精品片| 国产精品一区二区性色av| 亚洲aⅴ乱码一区二区在线播放| 久久这里有精品视频免费| 少妇人妻 视频| 日韩一区二区三区影片| 在线观看av片永久免费下载| 午夜福利视频1000在线观看| 亚洲色图av天堂| 免费大片18禁| 97超碰精品成人国产| 中国三级夫妇交换| 国内精品宾馆在线| 国产有黄有色有爽视频| 亚洲高清免费不卡视频| www.av在线官网国产| 亚洲最大成人av| 在线观看一区二区三区激情| 99热网站在线观看| 亚洲久久久久久中文字幕| 蜜臀久久99精品久久宅男| 高清欧美精品videossex| 亚洲最大成人中文| 免费大片18禁| 国产精品不卡视频一区二区| 欧美另类一区| 国产日韩欧美在线精品| 中国三级夫妇交换| 国产在线一区二区三区精| 成人黄色视频免费在线看| 黄色视频在线播放观看不卡| 亚洲av日韩在线播放| 大片免费播放器 马上看| 国产成人一区二区在线| 欧美性猛交╳xxx乱大交人| 欧美97在线视频| 亚洲欧美成人综合另类久久久| 啦啦啦啦在线视频资源| 2021天堂中文幕一二区在线观| 亚洲精品日本国产第一区| 国产精品.久久久| 亚洲av电影在线观看一区二区三区 | 亚洲欧美日韩无卡精品| 日韩一区二区三区影片| 日产精品乱码卡一卡2卡三| 中文乱码字字幕精品一区二区三区| 久久久久久久久久久免费av| 91精品伊人久久大香线蕉| 久久亚洲国产成人精品v| 国产黄a三级三级三级人| 97在线人人人人妻| 最新中文字幕久久久久| 亚洲久久久久久中文字幕| 街头女战士在线观看网站| 熟女人妻精品中文字幕| av在线蜜桃| 最后的刺客免费高清国语| 另类亚洲欧美激情| 欧美另类一区| 波多野结衣巨乳人妻| 少妇人妻久久综合中文| 丝瓜视频免费看黄片| 黄片无遮挡物在线观看| 国产乱来视频区| 国产永久视频网站| 最近的中文字幕免费完整| 国产高潮美女av| 亚洲精品国产av成人精品| av福利片在线观看| 日韩欧美精品免费久久| 熟女电影av网| 国内精品宾馆在线| 国产免费一级a男人的天堂| 一区二区三区免费毛片| 亚洲成色77777| 亚洲,一卡二卡三卡| 91精品一卡2卡3卡4卡| 国产黄a三级三级三级人| 99热这里只有是精品50| 国产成年人精品一区二区| 国产在线一区二区三区精| 又大又黄又爽视频免费| 高清毛片免费看| 精品人妻视频免费看| 51国产日韩欧美| 我的老师免费观看完整版| 六月丁香七月| 伦理电影大哥的女人| 青春草亚洲视频在线观看| 人人妻人人看人人澡| 一级毛片电影观看| 亚洲欧美成人精品一区二区| 青青草视频在线视频观看| 日韩在线高清观看一区二区三区| 一级二级三级毛片免费看| 亚洲精品一二三| 噜噜噜噜噜久久久久久91| 国产精品国产av在线观看| 一级毛片电影观看| 日韩成人伦理影院| 国产精品女同一区二区软件| 日本熟妇午夜| 国产免费视频播放在线视频| av天堂中文字幕网| 一级毛片我不卡| av天堂中文字幕网| 高清欧美精品videossex| 高清午夜精品一区二区三区| 老司机影院成人| 国产免费一级a男人的天堂| 在线 av 中文字幕| 精品人妻偷拍中文字幕| 免费黄色在线免费观看| 黄片无遮挡物在线观看| 久热久热在线精品观看| 精华霜和精华液先用哪个| 国产精品久久久久久久久免| 搡女人真爽免费视频火全软件| 国产欧美日韩一区二区三区在线 | videos熟女内射| 美女国产视频在线观看| 观看免费一级毛片| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 亚洲激情五月婷婷啪啪| 久久精品久久久久久久性| 男人舔奶头视频| 三级国产精品片| 国产精品成人在线| 美女视频免费永久观看网站| av免费观看日本| 国产精品久久久久久精品古装| 精华霜和精华液先用哪个| 午夜精品国产一区二区电影 | 国产在视频线精品| 国产成人精品久久久久久| 精品一区二区三区视频在线| 婷婷色麻豆天堂久久| 麻豆精品久久久久久蜜桃| 国产午夜精品久久久久久一区二区三区| 亚洲欧美日韩另类电影网站 | 少妇丰满av| 久久精品国产a三级三级三级| 日日撸夜夜添| 大又大粗又爽又黄少妇毛片口| 日本猛色少妇xxxxx猛交久久| 欧美变态另类bdsm刘玥| 观看美女的网站| 久久久久国产网址| av国产久精品久网站免费入址| 国产男女超爽视频在线观看| 日韩亚洲欧美综合| 国产永久视频网站| 成人鲁丝片一二三区免费| 少妇人妻一区二区三区视频| 久久久久久久久久久丰满| 久久久久久久久大av| 亚洲在线观看片| 精品久久国产蜜桃| 18+在线观看网站| av在线天堂中文字幕| 日本熟妇午夜| 性色avwww在线观看| 大话2 男鬼变身卡| 麻豆乱淫一区二区| 精华霜和精华液先用哪个| 九九爱精品视频在线观看| 一级毛片 在线播放| 精品一区二区三卡| 国产视频首页在线观看| 岛国毛片在线播放| 午夜福利视频1000在线观看| 日韩av在线免费看完整版不卡| 美女高潮的动态| 在线观看一区二区三区| 在线观看一区二区三区激情| 欧美国产精品一级二级三级 | 久久精品熟女亚洲av麻豆精品| 一级毛片电影观看| 国产精品99久久久久久久久| videossex国产| 在线看a的网站| 亚洲欧美日韩另类电影网站 | 大码成人一级视频| 日韩在线高清观看一区二区三区| 国产成人免费无遮挡视频| 全区人妻精品视频| 狂野欧美激情性bbbbbb| 国产一区二区三区av在线| 内地一区二区视频在线| 国产精品人妻久久久影院| 黄片无遮挡物在线观看| 女的被弄到高潮叫床怎么办| 国产精品久久久久久精品电影| av在线app专区| 日韩av免费高清视频| 国产伦理片在线播放av一区| 国产黄片视频在线免费观看| 最近中文字幕2019免费版| 久久久久网色| 日韩欧美精品v在线| 亚洲精品一区蜜桃| 2018国产大陆天天弄谢| 内射极品少妇av片p| 18禁在线无遮挡免费观看视频| 国产成人精品久久久久久| 少妇熟女欧美另类| 又大又黄又爽视频免费| 欧美97在线视频| av在线天堂中文字幕| 看十八女毛片水多多多| 精品一区二区三区视频在线| 国内少妇人妻偷人精品xxx网站| 干丝袜人妻中文字幕| 国产一区二区在线观看日韩| 久久久a久久爽久久v久久| 夫妻午夜视频| 岛国毛片在线播放| 好男人在线观看高清免费视频| 久久99精品国语久久久| 国产精品久久久久久久久免| 爱豆传媒免费全集在线观看| 久久久欧美国产精品| 最近中文字幕高清免费大全6| 麻豆成人av视频| 欧美另类一区| 亚洲国产日韩一区二区| 99久国产av精品国产电影| 免费观看av网站的网址| 最近手机中文字幕大全| 成人毛片60女人毛片免费| 久久久久性生活片| 国产精品av视频在线免费观看| 免费少妇av软件| 激情 狠狠 欧美| 免费大片黄手机在线观看| 国产免费一区二区三区四区乱码| 欧美精品一区二区大全| 久久久久久久大尺度免费视频| 最近最新中文字幕免费大全7| 成人欧美大片| 日日摸夜夜添夜夜爱| 在线看a的网站| 成人二区视频| 亚洲自偷自拍三级| 在线精品无人区一区二区三 | av在线app专区| 亚洲精品国产成人久久av| 岛国毛片在线播放| 国产精品久久久久久精品电影小说 | 亚洲美女视频黄频| 80岁老熟妇乱子伦牲交| 国产精品久久久久久av不卡| 国产黄片美女视频| 国产淫片久久久久久久久| 少妇人妻一区二区三区视频| 亚洲av成人精品一区久久| 一级毛片久久久久久久久女| 亚洲电影在线观看av| 韩国av在线不卡| 精品一区二区免费观看| 国产精品人妻久久久久久| 18禁在线无遮挡免费观看视频| 精品人妻偷拍中文字幕| 亚洲不卡免费看| 欧美国产精品一级二级三级 | 久久精品国产亚洲av涩爱| 18禁裸乳无遮挡免费网站照片| 91午夜精品亚洲一区二区三区| 中文字幕亚洲精品专区| 一级片'在线观看视频| 熟女av电影| 亚洲高清免费不卡视频| freevideosex欧美| 欧美成人午夜免费资源| 亚洲国产欧美人成| .国产精品久久| 一级黄片播放器| 国产成人91sexporn| 国产成人a区在线观看| 日韩成人av中文字幕在线观看| 午夜福利在线观看免费完整高清在| 色视频www国产| 日韩三级伦理在线观看| 免费看光身美女| 好男人在线观看高清免费视频| 精华霜和精华液先用哪个| 联通29元200g的流量卡| 一区二区三区四区激情视频| 中文天堂在线官网| 亚洲图色成人| 亚洲av电影在线观看一区二区三区 | 青青草视频在线视频观看| 日本-黄色视频高清免费观看| 免费看日本二区| 啦啦啦在线观看免费高清www| 国产欧美亚洲国产| 国产黄色视频一区二区在线观看| 亚洲欧洲国产日韩| 国产又色又爽无遮挡免| 亚洲综合精品二区| 国产真实伦视频高清在线观看| 久久久久久久亚洲中文字幕| 国产综合精华液| 人妻夜夜爽99麻豆av| 欧美成人精品欧美一级黄| 一级片'在线观看视频| 五月开心婷婷网| 日韩 亚洲 欧美在线| 亚洲国产av新网站| 亚洲国产精品999| 日本一二三区视频观看| 日本午夜av视频| 久久这里有精品视频免费| 毛片一级片免费看久久久久| 男人舔奶头视频| 观看免费一级毛片| 精品少妇久久久久久888优播| 91久久精品电影网| 中文字幕免费在线视频6| 在线观看三级黄色| 亚洲,欧美,日韩| 久久久久网色| 久久99热这里只有精品18| 色5月婷婷丁香| 中文乱码字字幕精品一区二区三区| 国内揄拍国产精品人妻在线| 小蜜桃在线观看免费完整版高清| 日韩免费高清中文字幕av| 亚洲精品日韩av片在线观看| 国产伦精品一区二区三区四那| 午夜老司机福利剧场| 国产一区二区三区av在线| 欧美潮喷喷水| 男男h啪啪无遮挡| 只有这里有精品99| 青春草视频在线免费观看| 卡戴珊不雅视频在线播放| 亚洲av国产av综合av卡| 老女人水多毛片| 亚洲欧美日韩卡通动漫| 日日啪夜夜撸| 国产色婷婷99| 91精品伊人久久大香线蕉| 日本与韩国留学比较| 欧美潮喷喷水| 一区二区三区乱码不卡18| 亚洲熟女精品中文字幕| av专区在线播放| 国产免费一区二区三区四区乱码| 国产真实伦视频高清在线观看| 日韩一区二区视频免费看| 欧美日韩国产mv在线观看视频 | 亚洲av电影在线观看一区二区三区 |