• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人臉識(shí)別信息的法律保護(hù)與規(guī)制

    2021-11-30 16:15:28蘇佳偉
    中州大學(xué)學(xué)報(bào) 2021年4期
    關(guān)鍵詞:人臉識(shí)別人臉個(gè)人信息

    蘇佳偉

    (華東政法大學(xué) 知識(shí)產(chǎn)權(quán)學(xué)院,上海 200042)

    2021年4月9日,國(guó)內(nèi)人臉識(shí)別第一案在原告上訴后于杭州中院宣判。本案的原告郭兵與妻子在被告杭州野生動(dòng)物世界辦理了雙人年卡,并留存相關(guān)的個(gè)人身份信息、拍攝照片及錄入指紋。此后動(dòng)物園將入園系統(tǒng)從指紋識(shí)別升級(jí)為人臉識(shí)別,并短信通知已辦卡客戶,郭兵于2019年7月、10月兩次收到動(dòng)物園要求注冊(cè)人臉的通知短信,后因不愿意被強(qiáng)制刷臉,協(xié)商無(wú)果后將動(dòng)物園告上法庭。

    本案一出,遂將“人臉識(shí)別”技術(shù)以及與其相關(guān)的個(gè)人信息維護(hù)、隱私保護(hù)等話題推上了輿論的風(fēng)口浪尖。實(shí)際上,本案的背后折射出在科學(xué)技術(shù)發(fā)展的同時(shí),公眾對(duì)我國(guó)人臉識(shí)別信息保護(hù)滯后、不規(guī)范、不成體系的立法現(xiàn)狀以及由此所引發(fā)的信息泄露等一系列問(wèn)題的普遍擔(dān)憂。雖然本次杭州市中院在判決中提到“人臉識(shí)別信息相比其他生物識(shí)別信息而言,呈現(xiàn)出敏感度高、采集方式多樣、隱蔽和靈活的特性,不當(dāng)使用將給公民的人身財(cái)產(chǎn)帶來(lái)不可預(yù)測(cè)的風(fēng)險(xiǎn),應(yīng)當(dāng)做出更加嚴(yán)格的規(guī)制。經(jīng)營(yíng)者只有在消費(fèi)者充分同意、知情的前提下方能收集和使用,且應(yīng)遵循‘合法、正當(dāng)、必要’原則”,但以上論述仍是針對(duì)個(gè)人信息保護(hù)的原則性論述,在我國(guó)沒(méi)有形成統(tǒng)一、系統(tǒng)的個(gè)人信息保護(hù)立法體系之前,對(duì)于早已深入我們生活的人臉識(shí)別技術(shù)使用的正當(dāng)性、合理性的判斷在司法領(lǐng)域的論斷只能止步于此。因此,若要對(duì)目前人臉識(shí)別信息進(jìn)行科學(xué)合理的規(guī)制,有必要對(duì)其進(jìn)行深入的分析。

    一、人臉識(shí)別信息的概念及特征

    人臉識(shí)別信息作為個(gè)人生物識(shí)別信息的一種,既是一種事實(shí)概念,同時(shí)也是一種法律概念,兩者存在差別亦有聯(lián)系,因此厘清人臉識(shí)別信息的基本概念及其特征,是探討人臉識(shí)別信息存在的關(guān)于個(gè)人信息與隱私保護(hù)問(wèn)題的基礎(chǔ)。

    (一)人臉識(shí)別信息概念廓清

    人臉識(shí)別信息本質(zhì)上是一種生物特征識(shí)別數(shù)據(jù)(Biometric Data),屬于生物識(shí)別信息的一類。人臉與人臉識(shí)別信息的概念界分比較明確,前者指人的臉部生理形象,后者則是指通過(guò)對(duì)自然人的臉部生理特征進(jìn)行特定的數(shù)據(jù)化處理而得到的個(gè)人數(shù)據(jù),可以通過(guò)這類數(shù)據(jù)在模型軟件中生成該自然人獨(dú)特標(biāo)識(shí)的臉部形象①。也就是說(shuō),人臉識(shí)別信息,是先利用傳感器對(duì)人臉圖像進(jìn)行采集和檢測(cè),再將采集到的面部信息進(jìn)行特征點(diǎn)提取,最后通過(guò)計(jì)算機(jī)軟件進(jìn)行數(shù)據(jù)化處理,人臉成為數(shù)字世界代碼化了的一組“數(shù)字”。人臉識(shí)別的目的則是將該組數(shù)據(jù)用于現(xiàn)實(shí)中人臉采集、比對(duì)、耦合、校正,以實(shí)現(xiàn)數(shù)字模型和現(xiàn)實(shí)人臉之間的識(shí)別比對(duì)等②。

    (二)人臉識(shí)別信息的特性

    1.人臉識(shí)別信息的唯一性

    人臉對(duì)于每個(gè)人來(lái)說(shuō)都是獨(dú)一無(wú)二的,不可替換的,即使是多胞胎,也存在臉部數(shù)據(jù)上的差異,故一個(gè)自然人理論上僅能匹配一份人臉識(shí)別信息。人臉識(shí)別信息的這種唯一性也促使在網(wǎng)絡(luò)時(shí)代人臉成為主體身份認(rèn)證的重要方法。相對(duì)于傳統(tǒng)的如網(wǎng)絡(luò)ID、密碼或者URL③等認(rèn)證方式,人臉識(shí)別信息因其唯一性,所能達(dá)到的認(rèn)證精度和匹配度顯然更高,但隨之而來(lái)的是其一旦被泄露或非法提供、濫用,可能存在的隱私風(fēng)險(xiǎn)和相關(guān)的人身、財(cái)產(chǎn)、名譽(yù)安全風(fēng)險(xiǎn)也隨之提高。

    2.人臉識(shí)別信息的難以更改性

    人的臉部信息是很難改變的,要改變一個(gè)人的臉部信息,目前只能通過(guò)徹底的整容達(dá)到,而這種方式是不可逆且異常復(fù)雜的。因此,對(duì)于普通公眾來(lái)說(shuō),一旦面部識(shí)別信息被錄入,由生至死,其面部識(shí)別特征都不會(huì)有很大的改變,這也是人臉識(shí)別系統(tǒng)能夠在時(shí)隔十幾年乃至幾十年后仍然識(shí)別出在逃罪犯的信息的原因。也因?yàn)槿四樧R(shí)別信息的不可變更性,一旦人臉識(shí)別信息遭到泄露、盜竊或冒用等不法侵害,對(duì)信息主體可能會(huì)造成難以彌補(bǔ)的永久性的傷害和損失。

    3.人臉識(shí)別技術(shù)的普適性和便捷性

    人臉識(shí)別技術(shù)經(jīng)過(guò)長(zhǎng)期的發(fā)展,特別是在基于深度卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行人臉識(shí)別的技術(shù)加持后,使其已經(jīng)成為一項(xiàng)門檻較低且成熟度較高的生物識(shí)別技術(shù),由此也決定了人臉識(shí)別技術(shù)在現(xiàn)階段相對(duì)于其他的生物識(shí)別技術(shù)而言更加便捷高效。同時(shí),相對(duì)于指紋或者虹膜等生物識(shí)別技術(shù)來(lái)說(shuō),人臉識(shí)別技術(shù)擁有“非接觸性”的特點(diǎn),目前已經(jīng)可以實(shí)現(xiàn)遠(yuǎn)端一次性快速的數(shù)據(jù)采集,其數(shù)據(jù)采集能力、強(qiáng)度以及采集方式的便利性遠(yuǎn)遠(yuǎn)超過(guò)其他生物識(shí)別信息。此外,人臉識(shí)別的算法模型也已經(jīng)趨于成熟,國(guó)內(nèi)外有大量的相關(guān)公司可以提供完整的人臉識(shí)別數(shù)據(jù)分析和應(yīng)用的方案。這也是為何自2010年以來(lái),人臉識(shí)別技術(shù)被普遍運(yùn)用于社會(huì)治理、公共場(chǎng)所安檢、企業(yè)管理、金融授信、身份核驗(yàn)等領(lǐng)域。

    二、人臉識(shí)別面臨的挑戰(zhàn)

    人臉識(shí)別技術(shù)的發(fā)展給身份核驗(yàn)、社會(huì)管理等帶來(lái)巨大的效率提升和便利,但技術(shù)永遠(yuǎn)是一把雙刃劍,人臉識(shí)別信息的泄露、濫用等問(wèn)題也層出不窮。目前我國(guó)針對(duì)數(shù)據(jù)信息安全的監(jiān)管體系存在不完善之處,此外,還出現(xiàn)了關(guān)于人臉識(shí)別技術(shù)與個(gè)人自由之間的倫理討論。解決人臉識(shí)別技術(shù)發(fā)展過(guò)程中的問(wèn)題,更好地管理和使用保護(hù)人臉識(shí)別信息是法律建構(gòu)和技術(shù)發(fā)展的必由之路。

    (一)人臉識(shí)別面臨的技術(shù)挑戰(zhàn)

    目前,人臉識(shí)別技術(shù)最大的隱憂就是人臉識(shí)別信息的泄露和信息被濫用的問(wèn)題。誠(chéng)如前文所言,隨著人臉識(shí)別技術(shù)的普及,對(duì)于人的面部信息的識(shí)別、采集、處理正無(wú)時(shí)無(wú)刻不在發(fā)生著,如今人臉識(shí)別技術(shù)甚至可以不借助人臉而僅僅依據(jù)網(wǎng)絡(luò)圖片或視頻信息完成上述工作。如美國(guó)的Clearview AI公司就從YouTube、Facebook、Venmo等網(wǎng)站進(jìn)行了海量的人臉數(shù)據(jù)采集,建立起包含30億張人臉照片的數(shù)據(jù)庫(kù),該數(shù)據(jù)庫(kù)所包含的信息量遠(yuǎn)遠(yuǎn)超過(guò)美國(guó)聯(lián)邦政府所構(gòu)建的數(shù)據(jù)庫(kù),因此,其服務(wù)的對(duì)象包括多倫多、亞特蘭大和佛羅里達(dá)等地的警察部門。然而就是這樣一家掌握海量人臉識(shí)別信息的巨頭,卻在2020年2月7日被曝出客戶名單被盜的丑聞。該丑聞所產(chǎn)生的能量瞬間淹沒(méi)了這家硅谷的初創(chuàng)企業(yè),但喧囂過(guò)后,人們不禁要問(wèn),人們的人臉數(shù)據(jù)應(yīng)該得到怎樣的保護(hù),應(yīng)該如何防止它被泄露和濫用。

    實(shí)際上,不僅僅是Clearview AI公司存在人臉識(shí)別信息泄露的風(fēng)險(xiǎn),在過(guò)去的幾年中,如Facebook、微軟以及國(guó)內(nèi)的互聯(lián)網(wǎng)企業(yè)也都曾有過(guò)人臉識(shí)別信息泄露的新聞。信息泄露帶來(lái)的問(wèn)題,一方面是民眾對(duì)人臉識(shí)別技術(shù)深深的擔(dān)憂,根據(jù)南都人工智能倫理課題組發(fā)布的《人臉識(shí)別落地場(chǎng)景觀察報(bào)告(2019)》顯示,79.31%的受訪者擔(dān)心系統(tǒng)運(yùn)營(yíng)者安全能力欠缺導(dǎo)致人臉識(shí)別信息泄露,65.17%的人擔(dān)心換臉視頻等虛假網(wǎng)絡(luò)視頻增多,近半數(shù)的人擔(dān)心不法分子利用偽造的信息實(shí)施詐騙或盜刷;另一方面是信息泄露的風(fēng)險(xiǎn)也導(dǎo)致了人臉識(shí)別信息產(chǎn)業(yè)的局部倒退,如微軟和IBM等科技巨頭迫于商業(yè)道德以及隱私保護(hù)風(fēng)險(xiǎn)而相繼宣布全面退出人臉識(shí)別業(yè)務(wù)以及相關(guān)的投資業(yè)務(wù)。

    人臉識(shí)別信息泄露的具體風(fēng)險(xiǎn)包括:人臉數(shù)據(jù)作為個(gè)人隱私的鑰匙,已經(jīng)和其他個(gè)人隱私深度綁定,輻射個(gè)人人格權(quán)和財(cái)產(chǎn)權(quán),一旦被打開(kāi),人就無(wú)隱私可言,易遭受財(cái)產(chǎn)或人身?yè)p害。以刷臉支付為例,人臉信息一旦被采集則無(wú)法再次加密,如果人臉信息成為賬戶以及支付口令,則就相當(dāng)于將用戶名和密碼完全暴露在外,很容易通過(guò)遠(yuǎn)程刷臉應(yīng)用進(jìn)行非法使用,造成當(dāng)事人人身財(cái)產(chǎn)損失。最為關(guān)鍵的是,人臉識(shí)別信息一旦泄露,幾乎無(wú)法追回,在一些情況下,甚至還會(huì)造成所屬單位和網(wǎng)格的相關(guān)潛在權(quán)益受損[1]。如美國(guó)伊利諾伊州《生物識(shí)別信息隱私法案》針對(duì)生物識(shí)別信息泄露和被盜用的風(fēng)險(xiǎn)時(shí)就指出:“生物識(shí)別信息,其是個(gè)人唯一的,一旦泄露,個(gè)人沒(méi)有追索權(quán),身份盜竊的風(fēng)險(xiǎn)更高,并且可能會(huì)被迫退出生物識(shí)別促進(jìn)的交易。”

    (二)人臉識(shí)別面臨的法律挑戰(zhàn)

    1.隱私權(quán)保護(hù)問(wèn)題

    人臉識(shí)別信息作為生物識(shí)別數(shù)據(jù)的一類可以被歸入個(gè)人信息是無(wú)疑義的,在《民法典》第1034條以及《網(wǎng)絡(luò)安全法》第76條中就明確生物識(shí)別信息屬于個(gè)人信息的一類。從法理依據(jù)上來(lái)說(shuō),人臉信息作為極具標(biāo)識(shí)性的生理信息,能夠被輕而易舉地應(yīng)用到識(shí)別個(gè)人的活動(dòng)中去,符合國(guó)內(nèi)外有關(guān)個(gè)人數(shù)據(jù)的相關(guān)的法律定義。但問(wèn)題在于,人臉識(shí)別信息能否被歸入隱私權(quán)的保護(hù)范圍?根據(jù)我國(guó)《民法典》關(guān)于隱私權(quán)的定義,個(gè)人信息中僅有私密信息可以納入隱私權(quán)的保護(hù)范圍,而其他的信息則只能歸入一般個(gè)人信息予以保護(hù)。換言之,人臉識(shí)別信息是否屬于私密信息?

    關(guān)于何為隱私的定義,波斯納認(rèn)為,隱私是“不當(dāng)呈現(xiàn)某人特征的權(quán)利”,他認(rèn)為,人們希望通過(guò)有選擇地披露有關(guān)自己的事實(shí)來(lái)操控他們的周邊世界,而其他人有合法的利益揭穿這樣的不當(dāng)呈現(xiàn)[2]。然而,波斯納在討論隱私權(quán)時(shí)并沒(méi)有明確不當(dāng)呈現(xiàn)的對(duì)象以及明確范圍。隱私信息的特點(diǎn)在于,它嚴(yán)格遵循差序格局,即信息是按照隱私的程度由中心無(wú)隱私區(qū)域向周邊加強(qiáng)。生活中的親密關(guān)系之間,常常沒(méi)有多少隱私可言,如夫妻,父母與子女之間,通常因?yàn)槌D暌黄鹕?,相互之間非常了解,而少有隱私;然而隨著親密關(guān)系的減弱,隱私信息的數(shù)量也隨之增多,最終達(dá)到與陌生人之間的“全隱私”的關(guān)系。

    但誠(chéng)如馬克思所言,“人的本質(zhì)是一切社會(huì)關(guān)系的總和”,即使完全的陌生人之間,也存在著豐富的信息交換的可能,即可以隨時(shí)打破人與人之間“全隱私”的狀態(tài)。而人臉信息作為人與人之間識(shí)別、交流的重要工具,常常是被打破的第一道所謂“隱私壁壘”,在前計(jì)算機(jī)時(shí)代,人臉識(shí)別信息為儲(chǔ)存在個(gè)人頭腦中的社交必須之?dāng)?shù)據(jù),除非受極個(gè)別地區(qū)風(fēng)俗習(xí)慣的影響,不會(huì)成為隱私。

    然而在后計(jì)算機(jī)時(shí)代,人臉識(shí)別信息的使用場(chǎng)景發(fā)生了巨大的變化,人臉數(shù)據(jù)不僅局限于特定的社交場(chǎng)景,使用場(chǎng)景的豐富化需要根據(jù)信息的使用情況進(jìn)行具體考量。在某些使用場(chǎng)景下,如將人臉識(shí)別信息用于交友軟件中,該信息在信息主體沒(méi)有主動(dòng)設(shè)置接觸障礙時(shí)不應(yīng)該成為隱私信息;而在另一些場(chǎng)景中,如使用人臉識(shí)別信息作為網(wǎng)絡(luò)銀行密鑰,與個(gè)人人身財(cái)產(chǎn)安全息息相關(guān),一旦泄露可能遭受財(cái)產(chǎn)乃至人身?yè)p害,則完全符合個(gè)人隱私信息的構(gòu)成要件。故對(duì)于人臉識(shí)別信息是否構(gòu)成隱私權(quán)的保護(hù)對(duì)象,筆者認(rèn)為,該判斷標(biāo)準(zhǔn)非唯一,應(yīng)當(dāng)遵循信息運(yùn)用的場(chǎng)景原則,根據(jù)人臉識(shí)別信息的具體使用場(chǎng)景進(jìn)行判斷。

    現(xiàn)今,人臉識(shí)別技術(shù)的發(fā)展趨勢(shì)是,可以逐步實(shí)現(xiàn)遠(yuǎn)程采集,并可能與其他信息庫(kù)聯(lián)動(dòng)獲取與個(gè)人相關(guān)的其他信息,如對(duì)個(gè)人行動(dòng)軌跡進(jìn)行追蹤等。人臉識(shí)別信息逐漸脫離了原有的單一社交屬性,成為個(gè)人身份認(rèn)證的重要信息,與個(gè)人隱私、權(quán)利、自由的關(guān)系逐漸加強(qiáng),因此其私密屬性也得到了加強(qiáng)。如在2020年3月新修訂的我國(guó)國(guó)家標(biāo)準(zhǔn)GB/T 35273—2020《信息安全技術(shù)個(gè)人信息安全規(guī)范》明確規(guī)定個(gè)人生物識(shí)別信息(包括人臉識(shí)別信息)屬于個(gè)人敏感信息。

    2.同意原則失靈問(wèn)題

    同意原則是個(gè)人信息采集和使用的基本原則之一,同意原則的法理基礎(chǔ)是個(gè)人的自治和自由。每一個(gè)人天生就是獨(dú)立和自主的,對(duì)于人所產(chǎn)生的個(gè)人信息,特別是具有極強(qiáng)人身依附性的生物識(shí)別信息,理所應(yīng)當(dāng)由個(gè)人控制。此外,同意原則通過(guò)使用個(gè)人信息必須經(jīng)個(gè)人同意的手段,最終達(dá)到讓每個(gè)人實(shí)現(xiàn)對(duì)自身信息的控制而不因他人的隨意使用而遭受侵犯[3]。法律之所以應(yīng)該賦予每個(gè)人對(duì)個(gè)人信息的同意使用權(quán)(本質(zhì)上是個(gè)人信息控制權(quán)的一部分),正是基于個(gè)人信息被非法利用而造成的資源損耗(這里面包含對(duì)個(gè)人尊嚴(yán)、自由的漠視以及直接的人身、財(cái)產(chǎn)安全風(fēng)險(xiǎn))要大于個(gè)人信息完全自由流通所帶來(lái)的效率的提升。

    因此,無(wú)論是在公共場(chǎng)合還是私人場(chǎng)景,法律都要求采集、儲(chǔ)存、處理個(gè)人信息需要經(jīng)過(guò)個(gè)人同意。如針對(duì)公共場(chǎng)所對(duì)個(gè)人面部數(shù)據(jù)的采集,《個(gè)人信息保護(hù)法(草案)》第27條規(guī)定:“在公共場(chǎng)所安裝圖像采集、個(gè)人身份識(shí)別設(shè)備,應(yīng)當(dāng)為維護(hù)公共安全所必需,遵守國(guó)家有關(guān)規(guī)定,并設(shè)置顯著的提示標(biāo)識(shí)。所收集的個(gè)人圖像、個(gè)人身份識(shí)別信息只能用于維護(hù)公共安全的目的,不得公開(kāi)或向他人提供,取得個(gè)人單獨(dú)同意或法律、行政法規(guī)另有規(guī)定的除外?!倍槍?duì)私人場(chǎng)景,則主要通過(guò)簽訂用戶協(xié)議的方式,信息采集事項(xiàng)告知并取得用戶同意方可。但是人臉識(shí)別技術(shù)的快速發(fā)展,出現(xiàn)了機(jī)構(gòu)和企業(yè)未經(jīng)同意收集使用人臉識(shí)別數(shù)據(jù)的問(wèn)題,人臉識(shí)別技術(shù)的功能性擴(kuò)展突破了同意使用的合法性等問(wèn)題[4]。

    隨著人臉識(shí)別傳感器以及算法技術(shù)的發(fā)展,目前人臉識(shí)別機(jī)器已經(jīng)可以實(shí)現(xiàn)遠(yuǎn)程的二維圖像采集,這種采集方式往往可以在不經(jīng)意間就完成數(shù)據(jù)的采集。公共場(chǎng)所無(wú)處不在的人臉識(shí)別傳感器正在全時(shí)段以極高的頻率進(jìn)行著信息采集的工作,并且將所采集到的人臉信息作為“密鑰”與其他數(shù)據(jù)聯(lián)結(jié),信息聚合的后果構(gòu)成了對(duì)個(gè)人的“透視”。如某些售樓部利用人臉識(shí)別系統(tǒng),對(duì)前來(lái)看房的顧客進(jìn)行記錄分析,借此有針對(duì)性地對(duì)訪客進(jìn)行分析,分析的結(jié)果一方面可以幫助開(kāi)發(fā)商防止飛單,另一方面可以為周期性營(yíng)銷策略提供數(shù)據(jù)支持。而顧客為了防止自己的面部識(shí)別信息被記錄下以后被“大數(shù)據(jù)殺熟”而紛紛戴上頭盔前來(lái)看房。

    上述的開(kāi)發(fā)商對(duì)顧客進(jìn)行信息采集的行為顯然是違法行為,但根據(jù)相關(guān)的調(diào)查,我國(guó)公共場(chǎng)所人臉采集設(shè)備早在2017年就已經(jīng)達(dá)到3000萬(wàn)部左右,且視頻監(jiān)控的覆蓋范圍和監(jiān)控點(diǎn)、卡口的數(shù)量都以30%以上的增長(zhǎng)率在快速增加。目前對(duì)于人臉信息的采集和監(jiān)控已經(jīng)形成一整套由傳感器和算法構(gòu)成的自動(dòng)流程,多數(shù)時(shí)候的人臉信息采集和監(jiān)控是由傳感器和算法在“無(wú)感”中完成,技術(shù)的快速發(fā)展已經(jīng)突破法律原定的信息使用原則,在這樣的自動(dòng)化流程中要求經(jīng)過(guò)所有被采集者同意客觀上是不可能做到的。

    在私人場(chǎng)景中,雖然個(gè)人通常會(huì)與信息采集者簽訂信息采集協(xié)議,但問(wèn)題在于,這種同意是一種無(wú)選擇權(quán)的同意,如果以個(gè)人信息保護(hù)為由拒絕提供人臉信息,便會(huì)被排除在信息網(wǎng)絡(luò)服務(wù)使用之外,不能通過(guò)其他途徑接受來(lái)自服務(wù)商的便捷服務(wù)。對(duì)于個(gè)人來(lái)說(shuō),用戶只有同意的權(quán)利,沒(méi)有協(xié)商談判的權(quán)利。而此時(shí)同意,意味著不僅僅向服務(wù)商提供面部信息,而是將其他個(gè)人信息的收集權(quán)利一并打包出讓,以便服務(wù)平臺(tái)對(duì)個(gè)人歷史活動(dòng)軌跡開(kāi)展全方位的用戶畫像。如在文章開(kāi)頭的案例中,杭州野生動(dòng)物世界并沒(méi)有提供除了人臉識(shí)別之外的其他方式進(jìn)入園區(qū),商家這種“不同意,便退出”的營(yíng)運(yùn)模式,極大挑戰(zhàn)了信息采集的同意原則。

    (三)人臉識(shí)別信息的監(jiān)管挑戰(zhàn)

    公共場(chǎng)所的公民信息被隨意收集、濫用、販賣,或公民為接受服務(wù)而被迫用自己的信息作為交換,這些現(xiàn)象的出現(xiàn)與我國(guó)對(duì)人臉識(shí)別技術(shù)的監(jiān)管缺位有很大關(guān)系。然而這種監(jiān)管缺位,究其原因,是監(jiān)管機(jī)關(guān)“非不為也,實(shí)不能也”的尷尬處境。

    數(shù)據(jù)空間的虛擬性導(dǎo)致的責(zé)任追查困難是監(jiān)管困境的一個(gè)原因。人臉識(shí)別信息與大多數(shù)的信息一樣,存在于浩瀚的虛擬網(wǎng)絡(luò)空間之中,侵犯人臉識(shí)別信息不同于傳統(tǒng)的對(duì)于個(gè)人信息的侵犯,常常具有隱蔽性強(qiáng)、轉(zhuǎn)移快的特點(diǎn)。監(jiān)管機(jī)關(guān)對(duì)于非法的數(shù)據(jù)采集、存儲(chǔ)、處理、傳輸行為都難以做到完整的監(jiān)控追查,故對(duì)于侵犯?jìng)€(gè)人臉部識(shí)別信息的行為常常束手無(wú)策。

    除此之外,因?yàn)樵缙谟嘘P(guān)人臉識(shí)別操作規(guī)范的缺失,使得現(xiàn)如今大量的具備人臉識(shí)別能力的傳感器設(shè)備早已被運(yùn)用到日常的生活中,已經(jīng)采集和處理了大量的人臉數(shù)據(jù)。如果現(xiàn)在驟然加強(qiáng)監(jiān)管,很可能使已經(jīng)發(fā)展起來(lái)的相關(guān)產(chǎn)業(yè)轟然倒塌,已經(jīng)被收集和傳輸?shù)臄?shù)據(jù)更面臨被當(dāng)作網(wǎng)絡(luò)黑產(chǎn)販賣的風(fēng)險(xiǎn),可能引發(fā)更大的信息危機(jī)。

    最后,關(guān)于監(jiān)管難的問(wèn)題,還在于個(gè)人信息或數(shù)據(jù)與公共信息難以分開(kāi),二者長(zhǎng)久以來(lái)就是交織的關(guān)系,特別是在涉及如國(guó)家安全、司法鑒定、刑事調(diào)查等公共領(lǐng)域,保護(hù)個(gè)人信息的話語(yǔ)權(quán)并不強(qiáng)勢(shì)。這也是法律之所以不能賦予某個(gè)主體對(duì)信息的專有權(quán)的原因,因?yàn)閭€(gè)人信息和數(shù)據(jù)承載著人類文化傳承和社會(huì)發(fā)展的公共元素[5],而并非完全為個(gè)人所控制。如果監(jiān)管強(qiáng)調(diào)個(gè)人信息的私人專有屬性,在某些場(chǎng)合必然與公共利益相悖;而如果不強(qiáng)調(diào),則監(jiān)管無(wú)依據(jù),無(wú)抓手,可操作性不強(qiáng)。

    (四)人臉識(shí)別的倫理挑戰(zhàn)

    人臉識(shí)別技術(shù)的應(yīng)用和普及使得人臉成為打開(kāi)私人生活的鑰匙,而其不可避免地模糊了個(gè)人生活與公共領(lǐng)域的界限,面臨著巨大的個(gè)人隱私的倫理風(fēng)險(xiǎn)?,F(xiàn)如今,人臉識(shí)別技術(shù)正與其他的大數(shù)據(jù)分析技術(shù)合流,使得人臉被視為行走的二維碼,成為破解個(gè)人隱私的一把方便快捷且獨(dú)一無(wú)二的鑰匙。如通過(guò)對(duì)人臉的追蹤,可以實(shí)現(xiàn)對(duì)個(gè)人行動(dòng)軌跡的追蹤,甚至可以透視個(gè)人的身體健康狀況。此外,通過(guò)與其他大數(shù)據(jù)相匹配,人臉識(shí)別信息甚至能夠了解到一個(gè)人的收入水平、家庭成員、教育程度等深度的個(gè)人信息,與過(guò)去不同,這些追蹤和分析幾乎都是在人未察覺(jué)到的情況下發(fā)生,更不用說(shuō)經(jīng)過(guò)本人同意了。

    此外,人臉識(shí)別技術(shù)在國(guó)外還存在如種族歧視、性別歧視等問(wèn)題。這種歧視存在的主要原因是社會(huì)中的少數(shù)群體因?yàn)樯硪蛩?如特定場(chǎng)景下黑人的臉部輪廓在光學(xué)鏡頭下不清晰)和數(shù)據(jù)樣本較少造成的算法不精準(zhǔn),但在客觀上,這確實(shí)造成社會(huì)少數(shù)族群的不滿。

    三、域外人臉識(shí)別立法借鑒

    他山之石,可以攻玉。美國(guó)和歐盟針對(duì)人臉識(shí)別的立法較多,內(nèi)容相對(duì)來(lái)說(shuō)比較完善,在我國(guó)出臺(tái)相關(guān)的個(gè)人信息保護(hù)方案時(shí),可以借鑒相關(guān)國(guó)家面臨的具體問(wèn)題和立法情況。

    (一)美國(guó)關(guān)于人臉識(shí)別的規(guī)定

    美國(guó)采取聯(lián)邦和州的多層級(jí)立法模式,目前美國(guó)聯(lián)邦尚沒(méi)有制定專門的法律規(guī)制人臉識(shí)別技術(shù)使用。在2019—2020 年美國(guó)參眾兩院提出了多項(xiàng)人臉識(shí)別法案,如《道德使用人臉識(shí)別法案》(2020 年)、《商業(yè)人臉識(shí)別隱私法案》(2019 年)、《人臉識(shí)別技術(shù)授權(quán)法案》(2019 年)[6]。在州立法層面,美國(guó)包括華盛頓州、伊利諾伊州、加利福尼亞州等在內(nèi)針對(duì)人臉識(shí)別信息的收集和使用進(jìn)行了規(guī)范,其中2008年通過(guò)的《伊利諾伊州生物特征信息隱私法》(Biometric Information Privacy Act,簡(jiǎn)稱BIPA)更是以其“強(qiáng)硬”的面部識(shí)別信息保護(hù)規(guī)定而出名。

    聯(lián)邦層面的立法中,除了《道德使用人臉識(shí)別法案》《商業(yè)人臉識(shí)別隱私法案》《人臉識(shí)別技術(shù)授權(quán)法案》之外,在2020年制定的《2020年國(guó)家生物識(shí)別信息隱私法案》對(duì)人臉識(shí)別信息的法律規(guī)制作出了專門性的基礎(chǔ)性的規(guī)定。在該法案中,針對(duì)基礎(chǔ)性的概念:首先,對(duì)生物識(shí)別信息的概念作出定義,并將人臉識(shí)別信息列為機(jī)密和敏感信息;其次,規(guī)定包括人臉識(shí)別信息在內(nèi)的所有生物識(shí)別信息私人實(shí)體均不得以出售、出租、交易、非法披露等方式利用;最后,針對(duì)侵權(quán)后的救濟(jì),規(guī)定了私人的生物信息遭受侵害的救濟(jì)手段以及賠償額度等。

    在州立法層面,BIPA開(kāi)創(chuàng)了號(hào)稱史上最為嚴(yán)格的人臉識(shí)別規(guī)程。首先,BIPA要求在進(jìn)行人臉面部信息收集前收集人臉識(shí)別的實(shí)體必須告知并取得被收集者的同意,且該告知及同意需以書面形式作出,將傳統(tǒng)的同意原則具體區(qū)分為書面告知與書面授權(quán),在收到信息主體或其合法授權(quán)代表的書面豁免協(xié)議書后才可進(jìn)行收集,否則將被視為違法,這在一定程度上有利于落實(shí)收集者和公民之間的權(quán)利義務(wù)。其次,該法案明確實(shí)體收集、存儲(chǔ)和使用生物識(shí)別信息的目的和存儲(chǔ)期限。最后,BIPA規(guī)定除非個(gè)人同意進(jìn)行信息流通、披露或由于政府、法院要求披露以外,禁止任何生物識(shí)別信息的實(shí)體對(duì)已收集的信息進(jìn)行流通或者以其他方式從中獲利的行為??梢哉f(shuō),在生物識(shí)別信息保護(hù)方面,BIPA堅(jiān)定不移地站在較為弱勢(shì)的個(gè)人一方,但這種對(duì)個(gè)人識(shí)別信息的強(qiáng)保護(hù)措施,也曾遭受可能阻礙數(shù)據(jù)流通的詬病。

    (二)歐盟關(guān)于人臉識(shí)別數(shù)據(jù)保護(hù)的規(guī)定

    歐盟目前并沒(méi)有專門的關(guān)于人臉識(shí)別信息的保護(hù)條例,而是通過(guò)2016年生效的《一般數(shù)據(jù)保護(hù)條例》(General Data Protection Regulation,簡(jiǎn)稱GDPR)對(duì)人臉識(shí)別信息進(jìn)行保護(hù)。此外,歐盟還通過(guò)了《數(shù)據(jù)保護(hù)執(zhí)法指令》(Data Protection Law Enforcement Directive,簡(jiǎn)稱DPLED),專門針對(duì)執(zhí)法部門,規(guī)定當(dāng)執(zhí)法者需為預(yù)防、監(jiān)控、調(diào)查或起訴犯罪行為使用個(gè)人數(shù)據(jù)時(shí),需遵守該指令。

    在GDPR中,首先,歐盟將人臉識(shí)別信息納入生物性識(shí)別信息的范疇。其次,GDPR嚴(yán)格限定了保護(hù)的面部識(shí)別信息的范圍,規(guī)定并非所有含有人類面部的圖像或視頻數(shù)據(jù)都進(jìn)行保護(hù),而要求圖像或視頻經(jīng)過(guò)“特定技術(shù)處理”(specific technical processing)并能夠發(fā)揮生物識(shí)別功能,即能夠識(shí)別或認(rèn)證特定的自然人時(shí),才將此種數(shù)據(jù)納入到個(gè)人敏感數(shù)據(jù)的行列給予保護(hù)。對(duì)于受保護(hù)數(shù)據(jù)范圍的嚴(yán)格限定,本質(zhì)上是在數(shù)據(jù)流通和個(gè)人隱私保護(hù)之間尋求平衡,GDPR并不反對(duì)個(gè)人信息的流通,但其前提是個(gè)人隱私得到合理的保護(hù)。為在二者之間尋找平衡,GDPR還明確規(guī)定了“匿名化”④的個(gè)人信息保護(hù)方式。此外,GDPR還規(guī)定了數(shù)據(jù)的獨(dú)立使用原則,這是為數(shù)據(jù)控制者和處理者設(shè)定的基本規(guī)則,要求處理數(shù)據(jù)必須有明確的目的,僅限于處理為滿足業(yè)務(wù)需求最少量的數(shù)據(jù),且保障數(shù)據(jù)處理過(guò)程的合法性、公開(kāi)性和透明性。

    在數(shù)據(jù)遭受損害后的救濟(jì)模式上,GDPR設(shè)定了多元的救濟(jì)模式,規(guī)定每一個(gè)數(shù)據(jù)主體都擁有向監(jiān)管機(jī)構(gòu)投訴、提起司法訴訟以及要求賠償?shù)臋?quán)利。數(shù)據(jù)主體可以聯(lián)合,提出集體訴訟的主張,也可以單獨(dú)提起私人訴訟,同時(shí)適用小額索賠法律程序,監(jiān)管措施等,多種渠道的救濟(jì)方式從程序上保障了信息主體的權(quán)利,值得我國(guó)借鑒。

    四、我國(guó)人臉識(shí)別法律規(guī)制與選擇

    人臉識(shí)別技術(shù)在促進(jìn)社會(huì)效率提升,保障公共安全和社會(huì)穩(wěn)定方面發(fā)揮著越來(lái)越大的作用,然而其關(guān)于個(gè)人信息泄露所帶來(lái)的個(gè)人人身財(cái)產(chǎn)的安全風(fēng)險(xiǎn)以及公共空間和個(gè)人隱私之間模糊化的道德風(fēng)險(xiǎn)也不可忽視。故需要對(duì)目前我國(guó)關(guān)于人臉識(shí)別的法律法規(guī)進(jìn)行系統(tǒng)性的梳理、分析,結(jié)合新形勢(shì)下產(chǎn)業(yè)發(fā)展的規(guī)律,制定更好的規(guī)制路徑。

    (一)我國(guó)人臉識(shí)別法律規(guī)制的進(jìn)展

    我國(guó)在2017年頒布的《民法總則》中就對(duì)個(gè)人信息保護(hù)有所規(guī)定,在后續(xù)頒布的《民法典》中明確“生物識(shí)別信息”屬于個(gè)人信息的一類,受到法律的保護(hù),且處理個(gè)人信息,應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則,不得過(guò)度處理。同時(shí)在《網(wǎng)絡(luò)安全法》《消費(fèi)者權(quán)益保護(hù)法》《電子商務(wù)法》《個(gè)人信息保護(hù)法(草案)》中對(duì)于個(gè)人信息的收集和處理都有相關(guān)的規(guī)定。然而以上的規(guī)定都是針對(duì)個(gè)人信息的普遍規(guī)定,并沒(méi)有針對(duì)生物識(shí)別信息或者人臉識(shí)別信息進(jìn)行細(xì)致的規(guī)定,而人臉識(shí)別信息有其易采集性和高私密性的特性,所面臨的具體問(wèn)題不甚相同,故應(yīng)當(dāng)對(duì)人臉識(shí)別信息進(jìn)行專門規(guī)定。

    關(guān)于特殊場(chǎng)景的人臉識(shí)別信息運(yùn)用規(guī)范和安全風(fēng)險(xiǎn)防范方面,目前已有相關(guān)的規(guī)定,如在對(duì)信息安全要求較高的金融領(lǐng)域,中國(guó)人民銀行于2020年2月13日發(fā)布了《個(gè)人金融信息保護(hù)技術(shù)規(guī)范》,對(duì)個(gè)人信息的機(jī)密等級(jí)進(jìn)行分級(jí),要求收集個(gè)人敏感信息的主體需要有相關(guān)的資質(zhì),且在傳輸、存儲(chǔ)涉密信息時(shí)應(yīng)當(dāng)使用加密等安全措施。由以上的規(guī)定可以看出,目前在人臉識(shí)別信息保護(hù)方面,我國(guó)采取的是軟法先行的策略,這樣的策略一方面可以滿足具體領(lǐng)域的立法需求,另一方面在技術(shù)持續(xù)快速發(fā)展的時(shí)期,可以方便后續(xù)更改。然而,即使是軟法先行的立法路徑,我國(guó)關(guān)于個(gè)人信息保護(hù)特別是生物識(shí)別信息中的人臉識(shí)別信息的保護(hù)也較為滯后,且存在軟法適用范圍狹窄,可操作性不強(qiáng)的缺陷。

    (二)我國(guó)人臉識(shí)別法律規(guī)制的路徑選擇及對(duì)策

    目前我國(guó)有關(guān)人臉識(shí)別信息的數(shù)據(jù)產(chǎn)業(yè)鏈已經(jīng)完成了初步建設(shè)階段,逐漸步入產(chǎn)業(yè)發(fā)展的黃金期,相關(guān)數(shù)據(jù)顯示,我國(guó)有關(guān)人臉識(shí)別的信息產(chǎn)業(yè)每年的增長(zhǎng)率高達(dá)30%。但隱藏在蓬勃發(fā)展之下的行業(yè)隱憂卻時(shí)刻威脅著行業(yè)的發(fā)展,對(duì)于任何行業(yè)來(lái)說(shuō),科學(xué)有效的監(jiān)管都是保障行業(yè)長(zhǎng)久健康發(fā)展所必需的。因此,對(duì)于人臉識(shí)別信息產(chǎn)業(yè),相關(guān)的規(guī)制政策既要從本質(zhì)上推動(dòng)產(chǎn)業(yè)發(fā)展,即從根本上促進(jìn)信息的健康有序流通,發(fā)揮經(jīng)濟(jì)效能,同時(shí)也要排除行業(yè)中存在的嚴(yán)重侵害個(gè)人隱私和信息安全的行為。

    首先,根據(jù)場(chǎng)景化使用原則,人臉識(shí)別信息的采集、處理、使用是否構(gòu)成對(duì)個(gè)人隱私和信息利益的侵害,應(yīng)當(dāng)根據(jù)場(chǎng)景的不同,有所區(qū)別。前文提到,將人臉識(shí)別信息用于社交場(chǎng)景,適當(dāng)披露個(gè)人信息實(shí)際上是必需的,然而在金融及支付場(chǎng)景中,人臉成為支付的鑰匙,則應(yīng)當(dāng)嚴(yán)格限定對(duì)該場(chǎng)景的采集和使用。 “同意原則”也可根據(jù)場(chǎng)景和主體進(jìn)行劃分。根據(jù)采集、儲(chǔ)存、處理、使用的主體的不同,可以將政府機(jī)構(gòu)和私人商業(yè)實(shí)體進(jìn)行合理的區(qū)分,因?yàn)槎呤褂迷摷夹g(shù)背后的動(dòng)因是存在較大差別的。政府機(jī)構(gòu)在使用人臉識(shí)別信息時(shí),出于公共利益的考量天然具有更加充分的正當(dāng)性——如為了公共安全和穩(wěn)定,在此場(chǎng)景下,有些人臉識(shí)別應(yīng)用甚至可以不經(jīng)個(gè)人同意就進(jìn)行。如警方利用“天網(wǎng)”系統(tǒng)甄別犯罪分子時(shí),可以采取樹(shù)立探查采集標(biāo)牌的形式告知公眾,而不必取得所有被采集者的同意。但這種未經(jīng)同意進(jìn)行人臉采集的行為并不是毫無(wú)限制的,即使是出于公共利益的考量,也應(yīng)當(dāng)明確界定公共利益與私人權(quán)益保障之間的邊界。在此,可以參考?xì)W盟《數(shù)據(jù)保護(hù)執(zhí)法指令》對(duì)公共機(jī)關(guān)臉部信息采集的場(chǎng)景、頻次、識(shí)別精度、數(shù)據(jù)調(diào)取等進(jìn)行細(xì)致的劃分,設(shè)定數(shù)據(jù)使用的層級(jí)制度,防止個(gè)人數(shù)據(jù)被過(guò)度采集或?yàn)E用。

    而對(duì)于以盈利為目的的私人企業(yè),一方面出于公民個(gè)人信息保護(hù)的基本目標(biāo),另一方面?zhèn)€人與企業(yè)都是平等的市場(chǎng)主體,因此,必須嚴(yán)格遵循“同意原則”。應(yīng)當(dāng)規(guī)定未經(jīng)被采集者同意私人企業(yè)不得進(jìn)行面部識(shí)別數(shù)據(jù)的采集和使用,并且在涉及用戶人身和財(cái)產(chǎn)安全的場(chǎng)景下同意和告知必須以書面形式作出。目前《個(gè)人信息保護(hù)法(草案)》正是采用此種立法進(jìn)路,但此種規(guī)定在面對(duì)現(xiàn)實(shí)中大量違法采集的傳感器時(shí),難免顯得“力不從心”。因此,在無(wú)法阻止信息采集時(shí),至少應(yīng)當(dāng)保障個(gè)人數(shù)據(jù)不會(huì)被濫用,或被采集信息的個(gè)人應(yīng)當(dāng)知道信息的具體使用方式和流向,避免個(gè)人信息成為“網(wǎng)絡(luò)黑產(chǎn)”。故在規(guī)定數(shù)據(jù)采集遵循“同意原則”的同時(shí),進(jìn)一步明確信息采集者應(yīng)當(dāng)對(duì)數(shù)據(jù)的具體使用、儲(chǔ)存方式、流向進(jìn)行說(shuō)明,并取得同意。

    其次,數(shù)據(jù)泄露和違規(guī)使用問(wèn)題,是困擾產(chǎn)業(yè)發(fā)展的重大障礙,它很可能造成相關(guān)公眾對(duì)技術(shù)形成不信任的心態(tài),最終阻礙產(chǎn)業(yè)發(fā)展。因此,必須在制度建構(gòu)上徹底解決數(shù)據(jù)泄露和違規(guī)使用的問(wèn)題。為了防止數(shù)據(jù)的泄露和濫用,在采集程序上,要防止信息采集實(shí)體過(guò)度采集個(gè)人信息,堅(jiān)持采集適度原則,以能達(dá)到使用目的的最小限度為準(zhǔn)。此外,還需建立人工審核機(jī)制,防止機(jī)器誤采集和歧視現(xiàn)象。在信息的存儲(chǔ)階段,應(yīng)當(dāng)將個(gè)人面部識(shí)別信息與其他個(gè)人信息相區(qū)隔,防止信息相互串聯(lián)、信息泄露造成不可挽回的嚴(yán)重后果。在信息的使用階段,應(yīng)當(dāng)嚴(yán)格明確技術(shù)使用的邊界、使用的范圍,開(kāi)辟除面部識(shí)別通道之外的其他使用通道。

    最后,在責(zé)任追究階段,應(yīng)當(dāng)明確信息收集及使用的主體如存在違規(guī)操作以及信息泄露等事件的明確責(zé)任和處罰規(guī)則,同時(shí)建立完善的個(gè)人和集體受侵害的救濟(jì)通道。針對(duì)個(gè)人維權(quán)困難的現(xiàn)狀,可以參考消費(fèi)者權(quán)益保護(hù)組織建立數(shù)據(jù)隱私維護(hù)組織,有針對(duì)性地同信息采集、儲(chǔ)存和使用者進(jìn)行協(xié)商談判,維護(hù)個(gè)人的信息權(quán)益。

    注釋:

    ①如2016 年歐盟《一般數(shù)據(jù)保護(hù)條例》(General Data Protection Regulation, GDPR)將“生物識(shí)別數(shù)據(jù)”作為一個(gè)專門的法律概念加以定義。所謂“‘生物識(shí)別數(shù)據(jù)’是通過(guò)對(duì)自然人的身體、生物或行為特征進(jìn)行特定技術(shù)處理而得到的個(gè)人數(shù)據(jù)。這類數(shù)據(jù)生成該自然人的獨(dú)特標(biāo)識(shí),比如人臉形象或指紋數(shù)據(jù)?!?/p>

    ②以蘋果公司開(kāi)發(fā)的Face ID人臉信息采集技術(shù)為例,該技術(shù)的實(shí)現(xiàn)原理大致如下:通過(guò)給隱藏在手機(jī)前面板上方的原深感攝像頭投射并分析 30000 多個(gè)不可見(jiàn)的點(diǎn)來(lái)捕獲準(zhǔn)確的面部數(shù)據(jù),進(jìn)而創(chuàng)建面部的深度圖;另外該攝像頭還會(huì)捕獲面部的紅外圖像,利用手機(jī)的AI芯片將深度圖和紅外圖像轉(zhuǎn)換為數(shù)學(xué)表示形式,然后再將這個(gè)表示形式與注冊(cè)的面部數(shù)據(jù)進(jìn)行對(duì)比,對(duì)面部進(jìn)行3D數(shù)據(jù)建模。而其中的紅外鏡頭與泛光感應(yīng)元件,則可以通過(guò)深度攝像頭實(shí)現(xiàn)人眼瞳孔的特征定位,構(gòu)建出一整套基于深度感知的面部識(shí)別系統(tǒng),從而最終將人臉數(shù)據(jù)與眾不同的生理特征作為手機(jī)解鎖的依據(jù)。

    ③uniform resource locator,統(tǒng)一資源定位系統(tǒng)。

    ④匿名化是指在采取某種方式對(duì)個(gè)人數(shù)據(jù)進(jìn)行處理后,如果沒(méi)有額外的信息就不能識(shí)別數(shù)據(jù)主體的處理方式。此類信息應(yīng)當(dāng)單獨(dú)保存,并且已有技術(shù)與組織方式確保個(gè)人數(shù)據(jù)不能關(guān)聯(lián)到某個(gè)已識(shí)別或可識(shí)別的自然人。

    猜你喜歡
    人臉識(shí)別人臉個(gè)人信息
    如何保護(hù)勞動(dòng)者的個(gè)人信息?
    個(gè)人信息保護(hù)進(jìn)入“法時(shí)代”
    人臉識(shí)別 等
    有特點(diǎn)的人臉
    揭開(kāi)人臉識(shí)別的神秘面紗
    警惕個(gè)人信息泄露
    三國(guó)漫——人臉解鎖
    基于類獨(dú)立核稀疏表示的魯棒人臉識(shí)別
    馬面部與人臉相似度驚人
    長(zhǎng)得象人臉的十種動(dòng)物
    奇聞怪事(2014年5期)2014-05-13 21:43:01
    熟妇人妻不卡中文字幕| av福利片在线观看| 日产精品乱码卡一卡2卡三| 日本午夜av视频| 五月伊人婷婷丁香| 国产精品女同一区二区软件| 亚洲四区av| 色视频www国产| 国产一区有黄有色的免费视频| 成人高潮视频无遮挡免费网站| 人妻夜夜爽99麻豆av| 男女下面进入的视频免费午夜| 偷拍熟女少妇极品色| 久久久久网色| 精品亚洲成a人片在线观看 | 亚洲va在线va天堂va国产| 纯流量卡能插随身wifi吗| 人人妻人人看人人澡| 亚洲欧美一区二区三区黑人 | 久久ye,这里只有精品| 免费观看性生交大片5| 成年人午夜在线观看视频| 老师上课跳d突然被开到最大视频| 精品酒店卫生间| 欧美日韩视频精品一区| 91在线精品国自产拍蜜月| 99热全是精品| 久久久精品免费免费高清| 少妇高潮的动态图| 美女主播在线视频| 91精品国产国语对白视频| 性色av一级| 赤兔流量卡办理| 成年美女黄网站色视频大全免费 | 九九在线视频观看精品| 26uuu在线亚洲综合色| 日本av手机在线免费观看| 99热全是精品| 日日摸夜夜添夜夜添av毛片| 日产精品乱码卡一卡2卡三| 2018国产大陆天天弄谢| 亚洲综合精品二区| 久久久久久久大尺度免费视频| 亚洲精华国产精华液的使用体验| 日本与韩国留学比较| 国产亚洲午夜精品一区二区久久| 狂野欧美激情性bbbbbb| 97超碰精品成人国产| 中文字幕av成人在线电影| 各种免费的搞黄视频| 久久韩国三级中文字幕| 熟妇人妻不卡中文字幕| 黄色日韩在线| 又大又黄又爽视频免费| 日本av手机在线免费观看| 亚洲精品中文字幕在线视频 | 国产精品.久久久| 亚洲熟女精品中文字幕| 免费观看无遮挡的男女| 老熟女久久久| 国产精品久久久久久久电影| 中文精品一卡2卡3卡4更新| 插阴视频在线观看视频| 老女人水多毛片| 成人亚洲精品一区在线观看 | 国产乱来视频区| 午夜免费男女啪啪视频观看| 街头女战士在线观看网站| 丰满乱子伦码专区| 性色av一级| 久久av网站| 亚洲精品视频女| 精品久久国产蜜桃| 久久久久性生活片| 在线精品无人区一区二区三 | 久久精品国产鲁丝片午夜精品| 女人久久www免费人成看片| 婷婷色综合大香蕉| 18禁在线无遮挡免费观看视频| 亚洲人成网站在线播| 国产欧美亚洲国产| 免费观看a级毛片全部| 色视频在线一区二区三区| 建设人人有责人人尽责人人享有的 | 成年av动漫网址| 国产欧美亚洲国产| 久久久久久久久大av| 国产免费一区二区三区四区乱码| 久久久久久久亚洲中文字幕| 三级国产精品欧美在线观看| 在线观看三级黄色| 国产精品嫩草影院av在线观看| 国产日韩欧美亚洲二区| 在线天堂最新版资源| 一级毛片 在线播放| 美女cb高潮喷水在线观看| 国产亚洲av片在线观看秒播厂| 99re6热这里在线精品视频| 欧美日韩在线观看h| 综合色丁香网| 日日啪夜夜爽| 在线看a的网站| 少妇的逼好多水| 国产 精品1| 国产精品人妻久久久久久| 日日啪夜夜撸| 久久人人爽av亚洲精品天堂 | 成人国产麻豆网| 欧美成人a在线观看| 欧美高清性xxxxhd video| 国产精品一区二区在线观看99| 日本wwww免费看| 成人无遮挡网站| 精品亚洲成国产av| 中文天堂在线官网| 日韩强制内射视频| 九九爱精品视频在线观看| 久久女婷五月综合色啪小说| 九九久久精品国产亚洲av麻豆| 好男人视频免费观看在线| 老熟女久久久| 国内少妇人妻偷人精品xxx网站| 久久人人爽人人爽人人片va| 久久精品久久久久久久性| 精品少妇黑人巨大在线播放| 搡女人真爽免费视频火全软件| 一区二区三区免费毛片| h视频一区二区三区| 亚洲激情五月婷婷啪啪| 久久韩国三级中文字幕| 大又大粗又爽又黄少妇毛片口| 成人毛片60女人毛片免费| 一级a做视频免费观看| 免费黄色在线免费观看| 色5月婷婷丁香| 一区在线观看完整版| av卡一久久| 高清在线视频一区二区三区| 欧美日韩一区二区视频在线观看视频在线| 久久久国产一区二区| 99热全是精品| 国产高清不卡午夜福利| 国国产精品蜜臀av免费| 欧美高清性xxxxhd video| 国产av精品麻豆| 五月玫瑰六月丁香| 色视频www国产| 久久久久国产网址| 国产精品人妻久久久影院| 大香蕉97超碰在线| 日韩电影二区| 少妇丰满av| 99久久精品国产国产毛片| 国产淫语在线视频| 久久精品国产自在天天线| 国模一区二区三区四区视频| 少妇的逼水好多| 亚洲真实伦在线观看| 日本爱情动作片www.在线观看| 内地一区二区视频在线| 男的添女的下面高潮视频| 在线观看美女被高潮喷水网站| 精品99又大又爽又粗少妇毛片| av天堂中文字幕网| 亚洲内射少妇av| 日本黄色片子视频| 99视频精品全部免费 在线| 我的女老师完整版在线观看| 日本黄色片子视频| 免费观看av网站的网址| 久久综合国产亚洲精品| 亚洲国产毛片av蜜桃av| 亚洲av中文av极速乱| 久久久久久久精品精品| 久久精品国产鲁丝片午夜精品| 国产精品一区二区性色av| 日韩强制内射视频| 涩涩av久久男人的天堂| 男人舔奶头视频| 黄色怎么调成土黄色| 99久久人妻综合| 精品熟女少妇av免费看| 久久青草综合色| 精品人妻一区二区三区麻豆| 自拍偷自拍亚洲精品老妇| 美女内射精品一级片tv| 18+在线观看网站| 看非洲黑人一级黄片| 欧美成人一区二区免费高清观看| 日日摸夜夜添夜夜添av毛片| 成人国产麻豆网| 女性被躁到高潮视频| 日韩在线高清观看一区二区三区| 黑人高潮一二区| 99热全是精品| 成人亚洲精品一区在线观看 | 久久精品国产亚洲av天美| 高清黄色对白视频在线免费看 | 啦啦啦啦在线视频资源| 亚洲欧美一区二区三区黑人 | 少妇 在线观看| 国产欧美亚洲国产| 大码成人一级视频| 亚洲av不卡在线观看| 人体艺术视频欧美日本| 天堂8中文在线网| av黄色大香蕉| 汤姆久久久久久久影院中文字幕| 美女福利国产在线 | 国产精品av视频在线免费观看| av不卡在线播放| 欧美高清成人免费视频www| 日韩不卡一区二区三区视频在线| 亚洲精品日本国产第一区| 日日摸夜夜添夜夜添av毛片| 亚洲av福利一区| 成年免费大片在线观看| 亚洲成人av在线免费| 欧美少妇被猛烈插入视频| 中文字幕制服av| 永久网站在线| 毛片一级片免费看久久久久| 欧美日本视频| 777米奇影视久久| 国产视频内射| 免费观看在线日韩| 免费大片18禁| 国产伦精品一区二区三区四那| 又大又黄又爽视频免费| 韩国高清视频一区二区三区| 亚洲国产高清在线一区二区三| 成人漫画全彩无遮挡| av在线app专区| 这个男人来自地球电影免费观看 | 国国产精品蜜臀av免费| 最近最新中文字幕大全电影3| 日韩一本色道免费dvd| 在线观看免费高清a一片| 成人一区二区视频在线观看| 久久久久久久久大av| 国产乱来视频区| 夫妻性生交免费视频一级片| 久久综合国产亚洲精品| 午夜免费观看性视频| 久久精品国产自在天天线| 一本一本综合久久| 国产欧美亚洲国产| 国产精品女同一区二区软件| 欧美97在线视频| 欧美日韩精品成人综合77777| 我要看黄色一级片免费的| 欧美+日韩+精品| 一本色道久久久久久精品综合| 久久精品久久久久久久性| 亚洲电影在线观看av| 综合色丁香网| 久久这里有精品视频免费| 精品国产乱码久久久久久小说| 国产精品久久久久久精品电影小说 | 中文精品一卡2卡3卡4更新| 啦啦啦啦在线视频资源| 这个男人来自地球电影免费观看 | 成人特级av手机在线观看| 亚洲图色成人| 少妇丰满av| 51国产日韩欧美| 国产男女超爽视频在线观看| 久久99热这里只频精品6学生| 成人综合一区亚洲| 99热网站在线观看| 免费黄网站久久成人精品| 亚洲精品乱码久久久久久按摩| 精品久久久久久久末码| 久久久久国产网址| 久久人人爽av亚洲精品天堂 | 在线观看美女被高潮喷水网站| 久久国产精品男人的天堂亚洲 | 老女人水多毛片| 国产 一区精品| 中文乱码字字幕精品一区二区三区| 大香蕉久久网| 国产黄片视频在线免费观看| 亚洲精品一二三| 爱豆传媒免费全集在线观看| 高清在线视频一区二区三区| 国内揄拍国产精品人妻在线| 久久人人爽人人片av| 人体艺术视频欧美日本| 久久国产亚洲av麻豆专区| 人妻 亚洲 视频| 色吧在线观看| 高清毛片免费看| 国产黄频视频在线观看| 51国产日韩欧美| 在线天堂最新版资源| 日本av手机在线免费观看| 欧美变态另类bdsm刘玥| 国产精品人妻久久久影院| 亚洲国产成人一精品久久久| 中文欧美无线码| 麻豆成人午夜福利视频| 欧美日韩一区二区视频在线观看视频在线| av卡一久久| 91狼人影院| 久久人人爽人人爽人人片va| 老女人水多毛片| 欧美日韩精品成人综合77777| 51国产日韩欧美| 你懂的网址亚洲精品在线观看| 国产黄片视频在线免费观看| 亚洲,欧美,日韩| 精品久久久久久久久av| 国产免费又黄又爽又色| 丰满人妻一区二区三区视频av| 国产无遮挡羞羞视频在线观看| 午夜福利网站1000一区二区三区| 99久久精品国产国产毛片| 国产成人精品福利久久| 嫩草影院新地址| 80岁老熟妇乱子伦牲交| 国产亚洲欧美精品永久| 中文在线观看免费www的网站| 欧美bdsm另类| 欧美成人精品欧美一级黄| 亚洲精品亚洲一区二区| 日本欧美国产在线视频| 夫妻性生交免费视频一级片| 91精品国产国语对白视频| 亚洲无线观看免费| 国产精品三级大全| 欧美97在线视频| 日韩制服骚丝袜av| 久久久久久久国产电影| 亚洲成人中文字幕在线播放| 欧美丝袜亚洲另类| 午夜日本视频在线| 少妇熟女欧美另类| 亚洲av中文av极速乱| 国产老妇伦熟女老妇高清| 免费av不卡在线播放| av在线播放精品| 亚洲人成网站在线观看播放| xxx大片免费视频| 老熟女久久久| 一区二区av电影网| 欧美成人午夜免费资源| 国内揄拍国产精品人妻在线| 成年av动漫网址| 婷婷色综合大香蕉| 香蕉精品网在线| 欧美亚洲 丝袜 人妻 在线| 国产精品嫩草影院av在线观看| 欧美区成人在线视频| 国产免费视频播放在线视频| 色综合色国产| 91精品伊人久久大香线蕉| 免费看光身美女| 成人18禁高潮啪啪吃奶动态图 | 久久午夜福利片| 亚洲欧美日韩东京热| 欧美性感艳星| 伊人久久精品亚洲午夜| 天美传媒精品一区二区| 亚洲欧美日韩东京热| 久久久久久久精品精品| 亚洲国产日韩一区二区| 午夜免费鲁丝| 亚洲中文av在线| 日本爱情动作片www.在线观看| 在线精品无人区一区二区三 | 亚洲经典国产精华液单| 国产精品久久久久久av不卡| 国产精品一区二区在线观看99| 久久6这里有精品| 亚洲在久久综合| 舔av片在线| 国产精品人妻久久久久久| 狂野欧美激情性xxxx在线观看| 久久久精品免费免费高清| 免费久久久久久久精品成人欧美视频 | 免费av不卡在线播放| 91精品国产国语对白视频| 亚洲欧美日韩东京热| 视频中文字幕在线观看| 一个人看视频在线观看www免费| 国产高清国产精品国产三级 | 91久久精品国产一区二区成人| 亚洲,欧美,日韩| 亚洲av电影在线观看一区二区三区| 久久毛片免费看一区二区三区| 黑人猛操日本美女一级片| 久热这里只有精品99| 啦啦啦在线观看免费高清www| 国产亚洲av片在线观看秒播厂| 国产成人91sexporn| 日日啪夜夜爽| 亚洲一级一片aⅴ在线观看| av在线老鸭窝| 又粗又硬又长又爽又黄的视频| 日本欧美视频一区| 多毛熟女@视频| 午夜视频国产福利| 国产精品精品国产色婷婷| kizo精华| 一级毛片久久久久久久久女| 亚洲国产精品999| 色吧在线观看| 成年av动漫网址| 搡女人真爽免费视频火全软件| 久久人人爽人人片av| 最近中文字幕2019免费版| 男男h啪啪无遮挡| 黄色一级大片看看| 嫩草影院入口| 肉色欧美久久久久久久蜜桃| 中文乱码字字幕精品一区二区三区| 成人毛片60女人毛片免费| 乱系列少妇在线播放| 日韩人妻高清精品专区| 天堂俺去俺来也www色官网| 亚洲精品,欧美精品| 啦啦啦啦在线视频资源| 最黄视频免费看| 久久久久久久国产电影| 日本wwww免费看| 涩涩av久久男人的天堂| 777米奇影视久久| 日韩欧美一区视频在线观看 | 欧美xxxx性猛交bbbb| 这个男人来自地球电影免费观看 | 春色校园在线视频观看| 纵有疾风起免费观看全集完整版| 国产黄色视频一区二区在线观看| 国产精品偷伦视频观看了| 国产精品伦人一区二区| 成人国产麻豆网| 伊人久久国产一区二区| 777米奇影视久久| 久久婷婷青草| 在线观看美女被高潮喷水网站| 国产一区二区三区综合在线观看 | 最近中文字幕2019免费版| 婷婷色综合www| 人妻夜夜爽99麻豆av| 国产美女午夜福利| 国产精品偷伦视频观看了| 国产精品久久久久久久久免| 久久99热这里只有精品18| 国产亚洲av片在线观看秒播厂| xxx大片免费视频| 国产伦精品一区二区三区四那| 舔av片在线| 99国产精品免费福利视频| 欧美zozozo另类| 亚洲经典国产精华液单| 女性被躁到高潮视频| 日韩一本色道免费dvd| 99热这里只有是精品在线观看| 3wmmmm亚洲av在线观看| 老师上课跳d突然被开到最大视频| 国产欧美另类精品又又久久亚洲欧美| 丰满迷人的少妇在线观看| 在线亚洲精品国产二区图片欧美 | 在线观看一区二区三区| 国产 一区 欧美 日韩| 欧美精品国产亚洲| 欧美变态另类bdsm刘玥| 精品少妇久久久久久888优播| 亚洲色图av天堂| 亚洲va在线va天堂va国产| 人妻夜夜爽99麻豆av| 少妇 在线观看| 婷婷色综合大香蕉| 老师上课跳d突然被开到最大视频| 免费久久久久久久精品成人欧美视频 | 九九在线视频观看精品| 在线免费十八禁| av在线观看视频网站免费| 国产一级毛片在线| 久久久成人免费电影| 夜夜爽夜夜爽视频| 成人18禁高潮啪啪吃奶动态图 | 欧美 日韩 精品 国产| 日韩制服骚丝袜av| 中文字幕久久专区| 午夜免费鲁丝| 欧美区成人在线视频| 男人爽女人下面视频在线观看| 亚洲av国产av综合av卡| 纯流量卡能插随身wifi吗| 亚州av有码| a级一级毛片免费在线观看| 免费大片18禁| 成人亚洲欧美一区二区av| 在线 av 中文字幕| av在线观看视频网站免费| 亚洲人成网站在线播| 久久久久视频综合| 国产又色又爽无遮挡免| 久久97久久精品| 国产有黄有色有爽视频| 久久久久国产精品人妻一区二区| 一区在线观看完整版| 又爽又黄a免费视频| 精品久久久久久久久av| 精品少妇黑人巨大在线播放| 国语对白做爰xxxⅹ性视频网站| 1000部很黄的大片| a级毛色黄片| 少妇丰满av| 久久久a久久爽久久v久久| 欧美少妇被猛烈插入视频| 亚洲欧美日韩东京热| 婷婷色综合www| 久久久亚洲精品成人影院| 蜜桃亚洲精品一区二区三区| 日本wwww免费看| 日本欧美视频一区| 国产高清国产精品国产三级 | 久久久色成人| 欧美亚洲 丝袜 人妻 在线| 亚洲精品国产av蜜桃| 国产精品一及| 国产精品人妻久久久久久| 啦啦啦视频在线资源免费观看| 九九在线视频观看精品| 51国产日韩欧美| 日韩伦理黄色片| 国产成人a区在线观看| 欧美性感艳星| 黑丝袜美女国产一区| 一本一本综合久久| 亚洲精品,欧美精品| 久久久久久久久久久丰满| 国产精品三级大全| 人妻制服诱惑在线中文字幕| 国产在视频线精品| 亚洲一区二区三区欧美精品| 熟妇人妻不卡中文字幕| 大片电影免费在线观看免费| 伊人久久精品亚洲午夜| 大香蕉97超碰在线| 哪个播放器可以免费观看大片| 丝袜喷水一区| 我要看日韩黄色一级片| 国产白丝娇喘喷水9色精品| av女优亚洲男人天堂| av免费观看日本| 国产一区有黄有色的免费视频| 99九九线精品视频在线观看视频| 免费av不卡在线播放| 精品人妻熟女av久视频| 精品国产乱码久久久久久小说| 国产成人a区在线观看| 国产综合精华液| 欧美日韩一区二区视频在线观看视频在线| a级毛色黄片| 丰满人妻一区二区三区视频av| 国产精品不卡视频一区二区| 99久久综合免费| 亚洲一区二区三区欧美精品| 久久精品国产a三级三级三级| 欧美少妇被猛烈插入视频| 国产白丝娇喘喷水9色精品| 国产 精品1| 亚洲怡红院男人天堂| 男人添女人高潮全过程视频| 黄色怎么调成土黄色| 纵有疾风起免费观看全集完整版| 久久久久久久大尺度免费视频| 日本猛色少妇xxxxx猛交久久| 国产在线免费精品| 亚洲欧美中文字幕日韩二区| 少妇丰满av| 久久这里有精品视频免费| 99久久综合免费| 亚洲精品视频女| 老熟女久久久| 欧美性感艳星| 欧美xxⅹ黑人| 国产爽快片一区二区三区| 免费久久久久久久精品成人欧美视频 | 亚洲精品日韩av片在线观看| 在线观看一区二区三区激情| 亚洲色图综合在线观看| 中文天堂在线官网| 久久久久久人妻| 国产精品一区二区在线不卡| 国产熟女欧美一区二区| 热re99久久精品国产66热6| 亚洲一级一片aⅴ在线观看| 麻豆成人av视频| 日韩亚洲欧美综合| 少妇被粗大猛烈的视频| 成人综合一区亚洲| 久久 成人 亚洲| 亚洲精品视频女| 尤物成人国产欧美一区二区三区| 成人影院久久| 插逼视频在线观看| 美女视频免费永久观看网站| 欧美精品国产亚洲| 成人免费观看视频高清| 亚洲欧美日韩另类电影网站 | 国产精品蜜桃在线观看| 国产男人的电影天堂91| 亚洲中文av在线| 国产视频内射| 亚州av有码| 亚洲欧美日韩东京热| 乱系列少妇在线播放| 亚洲av.av天堂| 久久精品国产亚洲av涩爱| 一本一本综合久久| 最新中文字幕久久久久|