• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人臉照片應(yīng)歸屬于生物識(shí)別信息嗎?

    2024-01-01 00:00:00褚婧一
    行政法學(xué)研究 2024年5期
    關(guān)鍵詞:人臉識(shí)別技術(shù)

    關(guān)鍵詞:人臉照片;生物識(shí)別信息;人臉識(shí)別技術(shù);情感計(jì)算技術(shù);生物特征分類技術(shù)

    一、問(wèn)題的提出

    伴隨公共安全視頻監(jiān)控的全覆蓋以及智慧家居的不斷普及,人臉被暴露在遍布式計(jì)算的傳感器下,面部圖像被越來(lái)越多的公、私主體采集與存儲(chǔ)。加之,當(dāng)下以身份識(shí)別和驗(yàn)證為主要功能的人臉識(shí)別技術(shù)被廣泛使用,雖不可否認(rèn)這一技術(shù)所帶來(lái)的便利,但其對(duì)于作為生物樣本的人臉(face)、人臉數(shù)字化而成的面部圖像(facial images)以及基于面部圖像分析生成的面部識(shí)別模型(facial recognition template)都帶來(lái)一定程度的生物隱私風(fēng)險(xiǎn)。

    目前我國(guó)立法與司法實(shí)踐尚未對(duì)人臉照片的信息屬性做出統(tǒng)一、明確的判斷,但存在“人臉信息屬于生物識(shí)別信息”與“人臉識(shí)別信息屬于生物識(shí)別信息”兩種相關(guān)主張。首先,筆者認(rèn)為人臉照片信息與人臉信息、人臉識(shí)別信息并不相同,前者強(qiáng)調(diào)數(shù)字化的原始介質(zhì),而后兩者則是技術(shù)系統(tǒng)從介質(zhì)中提取與聚合后的信息。這一觀點(diǎn)在國(guó)家網(wǎng)信辦于2023年8月公布的《人臉識(shí)別技術(shù)應(yīng)用安全管理規(guī)定(試行)(征求意見(jiàn)稿)》中也得以驗(yàn)證,該規(guī)定以“人臉信息”指代人臉識(shí)別系統(tǒng)中處理的信息,并將人臉信息區(qū)別于第17條中的“人臉原始圖像、圖片、視頻”。其次,筆者反對(duì)將人臉信息全部劃人生物識(shí)別信息,支持人臉識(shí)別信息應(yīng)屬于生物識(shí)別信息,因?yàn)楹笳呔邆淞松镒R(shí)別信息的識(shí)別目的要素。在“人臉識(shí)別第一案”中,法官先使用“包括照片在內(nèi)的面部特征信息”的表述,將照片歸入面部特征信息的范疇:隨后認(rèn)為“野生動(dòng)物世界欲將其已收集的照片激活處理為人臉識(shí)別信息”:最后頻繁使用“生物識(shí)別信息”展開(kāi)說(shuō)理,并引出信息主體的自決權(quán)和刪除權(quán)。由此,法官以“激活”將面部特征信息與人臉識(shí)別信息加以區(qū)別,并認(rèn)為后者才是生物識(shí)別信息的范疇。但是,該案仍存在如下疑問(wèn):人臉照片是否應(yīng)全部歸入面部特征信息,該信息與生物識(shí)別信息是何關(guān)系?面部特征信息是否經(jīng)過(guò)激活程序便成為人臉識(shí)別信息,激活的具體內(nèi)涵是什么?最后,人臉照片、人臉信息、人臉識(shí)別信息三者雖不相同但存在轉(zhuǎn)換的可能。人臉照片是數(shù)字化人臉的原始圖像信息,其反映了人的面部特征信息:人臉信息是人臉識(shí)別系統(tǒng)中處理的信息,識(shí)別技術(shù)系統(tǒng)處理人臉照片可生成人臉信息;人臉識(shí)別信息是技術(shù)系統(tǒng)處理人臉信息而提取的面部識(shí)別特征的集合,具有識(shí)別信息主體的功能。所以,本文以人臉圖像載體的人臉照片作為研究對(duì)象,其所涵蓋的信息范圍最廣,且通過(guò)人臉識(shí)別的技術(shù)處理可生成人臉信息與人臉識(shí)別信息。

    由此可見(jiàn),關(guān)于人臉照片與生物識(shí)別信息關(guān)系的術(shù)語(yǔ)或表述眾多,其中既有技術(shù)術(shù)語(yǔ)也有法律術(shù)語(yǔ),概念的內(nèi)涵與外延尚待明晰,概念之間處于混亂與交織的狀態(tài)。從法律角度來(lái)看,上述問(wèn)題的根源在于我國(guó)立法尚未對(duì)“生物識(shí)別信息”的內(nèi)涵給出具體界定,并且不同規(guī)范就“生物識(shí)別信息”列舉事項(xiàng)中關(guān)于人臉的表述也存在差異。鑒于我國(guó)學(xué)者尚未就人臉照片與生物識(shí)別信息的關(guān)系展開(kāi)討論,本文旨在通過(guò)對(duì)“生物識(shí)別信息”概念的解構(gòu)與新近生物識(shí)別科技對(duì)這一概念影響的探討,回答“人臉照片是否應(yīng)歸屬于生物識(shí)別信息”或者“人臉照片在何種情況下應(yīng)屬于生物識(shí)別信息”。

    二、現(xiàn)行法下人臉照片難以被歸入生物識(shí)別信息

    依據(jù)《中華人民共和國(guó)個(gè)人信息保護(hù)法》(以下簡(jiǎn)稱《個(gè)保法》)第28條,生物識(shí)別信息是敏感個(gè)人信息的一種子類型,相較于一般個(gè)人信息,敏感個(gè)人信息享有更為嚴(yán)格的保護(hù)。在判斷人臉照片是否屬于生物識(shí)別信息前,應(yīng)首先解決人臉照片在何種情況下屬于個(gè)人信息這一前提性問(wèn)題?!秱€(gè)保法》第4條第1款規(guī)定,“個(gè)人信息是以電子或者其他方式記錄的與已識(shí)別或者可識(shí)別的自然人有關(guān)的各種信息”,可識(shí)別性(identifiability)是成為個(gè)人信息的必要條件,其具體包括已識(shí)別(identified)與可識(shí)別(identifiable)兩個(gè)方面,即“將特定個(gè)體與群體中的其他成員相區(qū)分(distinguished)”或“在群體中將特定的個(gè)體挑出(single out)”。

    人臉具有唯一性與不易更改性,人臉照片作為對(duì)自然人面部特征的圖像記錄,是判斷信息主體生物識(shí)別身份( biometric identity)的重要依據(jù)。因此,總體而言人臉照片屬于個(gè)人信息。但不可否認(rèn),并非所有的人臉照片都能夠滿足個(gè)人信息的可識(shí)別性要求,人臉照片的質(zhì)量(如圖像的清晰度)以及其他技術(shù)因素(如拍攝的光線、角度)等都將對(duì)識(shí)別的可能性產(chǎn)生影響。本文的討論對(duì)象則是作為個(gè)人信息的人臉照片。

    (一)生物識(shí)別信息應(yīng)具備范圍、技術(shù)與功能要素

    生物識(shí)別信息作為個(gè)人信息的一種具體類型出現(xiàn)在《中華人民共和國(guó)民法典》《個(gè)保法》《中華人民共和國(guó)反恐怖主義法》等多部法律中,但目前僅有地方性的《深圳經(jīng)濟(jì)特區(qū)數(shù)據(jù)條例》對(duì)其具體內(nèi)涵加以規(guī)定。該條例第2條第4項(xiàng)以“概括+列舉”的方式明確了“生物識(shí)別數(shù)據(jù)”的內(nèi)涵,概括定性部分突出了其三項(xiàng)要素分別是:(1)基于自然人生物特征;(2)是對(duì)生物特征的技術(shù)處理而得出的標(biāo)識(shí);(3)該標(biāo)識(shí)具有識(shí)別特定自然人的獨(dú)特性。列舉部分則是指紋、聲紋等能夠?qū)ψ匀蝗碎_(kāi)展唯一性識(shí)別的生物特征。從世界范圍看,人臉識(shí)別技術(shù)的發(fā)展加快了各國(guó)生物隱私立法的步伐,生物識(shí)別信息作為個(gè)人信息保護(hù)領(lǐng)域的重要概念受到了廣泛的討論。歐盟與美國(guó)多個(gè)州的個(gè)人信息保護(hù)立法均對(duì)生物識(shí)別信息的概念予以規(guī)定,或基于特定個(gè)人信息處理活動(dòng)以識(shí)別或驗(yàn)證生物識(shí)別身份為目標(biāo)而展開(kāi)界定:或從數(shù)據(jù)來(lái)源的角度認(rèn)為其是與自然人的身體特征有關(guān)的概念。

    筆者認(rèn)為,生物識(shí)別信息的概念主要由三個(gè)要素構(gòu)成:(1)范圍要素。生物識(shí)別信息是與自然人的身體、生理或行為特征有關(guān)的信息,例如基于手指的紋路、嗓音、走路的步態(tài)而生成。范圍要素劃定了生物識(shí)別信息的基本內(nèi)容,也指明了該類信息的來(lái)源,使其區(qū)別于其他種類的個(gè)人信息。(2)技術(shù)要素。生物識(shí)別信息是基于對(duì)自然人生物特征的特定技術(shù)處理而得出的信息?!疤囟夹g(shù)處理”也被歐盟《通用數(shù)據(jù)保護(hù)條例》確認(rèn)為生物識(shí)別信息的構(gòu)成要件之一,但學(xué)術(shù)界對(duì)何為“特定技術(shù)處理”仍存在爭(zhēng)議。此處,技術(shù)要素雖有必要與功能要素結(jié)合作出進(jìn)一步解釋,但是其至少可初步認(rèn)為是對(duì)自然人生物特征的信息化記錄。一方面,生物特征樣本(biometric samples)本身作為自然人身體的一部分或特定行為的表現(xiàn)并不屬于信息的范疇,例如虹膜指的是眼球壁中層的扁圓形環(huán)狀薄膜,是人體組織而非信息。另一方面,以特定技術(shù)從生物特征樣本中提取生物特征(features extraction)并用算法將其建構(gòu)為數(shù)學(xué)模型,由此產(chǎn)生生物模型信息( biometric template),此時(shí)無(wú)論是對(duì)生物特征的數(shù)字化記錄(如人臉照片),還是已經(jīng)過(guò)特征提取與建模的生物模型信息(如面部識(shí)別模型),二者均滿足此處的技術(shù)要素。(3)功能要素。生物識(shí)別信息以“已識(shí)別”為識(shí)別標(biāo)準(zhǔn),高于一般個(gè)人信息的“可識(shí)別或已識(shí)別”。識(shí)別是生物識(shí)別信息的特殊功能與存在目的。具言之,在技術(shù)層面,生物識(shí)別信息以開(kāi)展一對(duì)多識(shí)別(iden-tification)或一對(duì)一驗(yàn)證(verification)為目的,識(shí)別與驗(yàn)證技術(shù)則都需要有明確、具體的生物識(shí)別身份的提前存在,進(jìn)而通過(guò)識(shí)別將這一自然人在群體中挑出,或驗(yàn)證某自然人與這一自然人是否同一,而向信息主體無(wú)限趨近的“可識(shí)別”卻無(wú)法達(dá)到這一挑出的效果。至此,結(jié)合功能要素,技術(shù)要素的完整表述應(yīng)該包括兩個(gè)方面:一方面為“數(shù)字化”,即對(duì)生物特征樣本的信息化呈現(xiàn):另一方面為“生物比對(duì)”,即經(jīng)由識(shí)別或驗(yàn)證的技術(shù)處理活動(dòng)。

    (二)人臉照片因未轉(zhuǎn)譯難以被歸入生物識(shí)別信息

    雖然我國(guó)立法尚未對(duì)人臉照片與生物識(shí)別信息的關(guān)系予以明確,但是歐盟《通用數(shù)據(jù)保護(hù)條例》序言第51段提到,“不能天然地將對(duì)照片的加工處理認(rèn)定為是對(duì)生物識(shí)別信息這一特殊種類個(gè)人信息的加工處理,只有在通過(guò)特定技術(shù)手段開(kāi)展對(duì)自然人的唯一性識(shí)別或驗(yàn)證時(shí)才能將其認(rèn)定為生物識(shí)別信息”。筆者認(rèn)為,由于未轉(zhuǎn)譯(untransforrned)導(dǎo)致了技術(shù)要素與功能要素的缺失,我國(guó)現(xiàn)行法下人臉照片難以被歸入生物識(shí)別信息。

    技術(shù)要素的缺失是指人臉照片尚未經(jīng)過(guò)“特定技術(shù)處理”,功能要素的缺失是指其并非以對(duì)自然人的識(shí)別和驗(yàn)證為處理目的,技術(shù)要素為功能要素服務(wù)。人臉照片無(wú)法被歸入生物識(shí)別信息的原因在于其未轉(zhuǎn)譯,即人臉照片仍作為對(duì)面部特征的初步圖像記錄存在,而尚未經(jīng)過(guò)以識(shí)別或驗(yàn)證為目的的特定技術(shù)處理。與此相對(duì),轉(zhuǎn)譯則是指以識(shí)別或驗(yàn)證為目的的特定技術(shù)處理,由此轉(zhuǎn)譯與否的判斷需要借助識(shí)別與驗(yàn)證的共同技術(shù)流程——生物比對(duì)(biometric comparison)活動(dòng)予以開(kāi)展。具言之,驗(yàn)證是一對(duì)一的比對(duì),識(shí)別是一對(duì)多的比對(duì),其都要經(jīng)過(guò)生物比對(duì)程序。如圖1所示,如果將驗(yàn)證與識(shí)別中作為標(biāo)準(zhǔn)而提前存在的自然人信息稱為目標(biāo)對(duì)象,將被測(cè)量的不特定或特定主體稱為被測(cè)量對(duì)象,那么基于這兩個(gè)不同的主體會(huì)在技術(shù)上產(chǎn)生兩個(gè)不同的模型開(kāi)展數(shù)據(jù)的比對(duì)。一方面,基于對(duì)目標(biāo)對(duì)象生物特征(如人臉)或生物特征信息(如人臉照片)的特征提取,將提取的信息輸入特定的算法進(jìn)行數(shù)學(xué)建模則會(huì)生成標(biāo)準(zhǔn)模型(master template),信息處理者則會(huì)將這一模型儲(chǔ)存在數(shù)據(jù)庫(kù)中以便待驗(yàn)證與識(shí)別時(shí)使用。另一方面,同樣基于對(duì)被測(cè)量對(duì)象生物特征或生物特征信息的特征提取也會(huì)生成相應(yīng)的模型,該模型被稱為實(shí)時(shí)模型(live template)。最后,將實(shí)時(shí)模型與提前存儲(chǔ)的標(biāo)準(zhǔn)模型進(jìn)行比對(duì)則可得出被測(cè)量對(duì)象與目標(biāo)對(duì)象是否同一的結(jié)論,至此完成生物比對(duì)活動(dòng)。

    人臉照片難以被歸入生物識(shí)別信息的未轉(zhuǎn)譯則具體包括兩種情形:第一種,人臉照片未參與以識(shí)別或驗(yàn)證為目的的生物比對(duì)活動(dòng):第二種,人臉照片未在生物比對(duì)活動(dòng)中被轉(zhuǎn)譯為生物識(shí)別模型。第一種情形是人臉照片存在的普遍情況,即人臉照片往往被收錄至相冊(cè)圖庫(kù)中,不具有識(shí)別特定信息主體或驗(yàn)證生物識(shí)別身份的功能,不滿足生物識(shí)別信息的功能要素。在第二種情形中,特征提取活動(dòng)的開(kāi)展才標(biāo)志著生物比對(duì)流程的開(kāi)始。人臉照片作為被測(cè)量與分析的對(duì)象,尚未步人生物比對(duì)流程,是未轉(zhuǎn)譯的生物特征信息。

    總之,上文的分析可得出如下結(jié)論:(1)不以識(shí)別或驗(yàn)證信息主體為使用目的的人臉照片不是生物識(shí)別信息;(2)以識(shí)別或驗(yàn)證為目的使用人臉照片,但未應(yīng)用生物比對(duì)技術(shù)時(shí),人臉照片同樣不是生物識(shí)別信息;(3)即使以識(shí)別或驗(yàn)證為目的使人臉照片進(jìn)入了生物對(duì)比程序,由人臉照片生成的面部識(shí)別模型才可被認(rèn)定為生物識(shí)別信息,而非作為其來(lái)源與承載者的人臉照片。

    三、人臉照片以關(guān)聯(lián)性挑戰(zhàn)生物識(shí)別信息的內(nèi)涵要素

    現(xiàn)如今,人們?cè)跀?shù)字生態(tài)的背景下逐漸構(gòu)建起數(shù)字身份(digital identity),數(shù)字身份不僅包含姓名、身份證號(hào)、地址等信息,還包括“刷臉”與指紋驗(yàn)證等方式下的生物識(shí)別信息。報(bào)告顯示,出于方便與安全的考慮,生物特征已超越密碼而成為用戶身份驗(yàn)證的首選方式。在數(shù)字人臉(digital face)的背景下,人臉照片成為了數(shù)字身份的重要組成部分,人臉照片信息成為了數(shù)字參與(digital engagement)的重要內(nèi)容。然而,圍繞人臉照片的違法行為層出不窮,以深度偽造(deepfake)為代表的數(shù)字人臉操縱更是引發(fā)了嚴(yán)重的生物隱私風(fēng)險(xiǎn)。為保護(hù)信息主體的生物隱私權(quán)益,規(guī)范生物技術(shù)使用者的信息處理行為,有必要立足于人臉照片的基本特征重新反思“人臉照片不屬于生物識(shí)別信息”這一信息屬性判斷的合理性。

    人臉照片具有關(guān)聯(lián)性(linkability),這種關(guān)聯(lián)性可分為如下兩個(gè)方面:一方面,人臉照片自身作為生物樣本信息,其與生物特征信息和生物識(shí)別模型之間的關(guān)聯(lián)性;另一方面,人臉照片內(nèi)具有唯一識(shí)別性的強(qiáng)生物特征與識(shí)別性較弱的弱生物特征、軟生物特征之間的關(guān)聯(lián)性。

    (一)樣本與模型的關(guān)聯(lián)性挑戰(zhàn)技術(shù)要素之可行性

    生物樣本信息與生物識(shí)別模型間的關(guān)聯(lián)性即人臉照片與面部識(shí)別模型之間的關(guān)聯(lián)性。二者的聯(lián)系在于,人臉照片是生物比對(duì)技術(shù)作用的對(duì)象,面部識(shí)別模型是人臉照片經(jīng)由生物比對(duì)轉(zhuǎn)譯而成的結(jié)果,是否經(jīng)由生物比對(duì)是區(qū)分二者的標(biāo)準(zhǔn)。筆者認(rèn)為,人臉照片與面部識(shí)別模型間的關(guān)聯(lián)性包括如下三個(gè)方面,這種關(guān)聯(lián)性揭示出人臉照片與面部識(shí)別模型具有相似的敏感度且在客觀上難以區(qū)分,由此對(duì)“特定技術(shù)處理”這一技術(shù)要素的可行性帶來(lái)挑戰(zhàn)。

    第一,在數(shù)字身份背景下,人臉照片與面部識(shí)別模型在法益保護(hù)的對(duì)象上具有趨同性,由此揭示出二者實(shí)則具有相同或類似的敏感度。直觀來(lái)看,“我的數(shù)據(jù)/信息”與“我的汽車”會(huì)對(duì)“我”這一個(gè)體帶來(lái)不同的感受,原因在于數(shù)據(jù)或信息不應(yīng)被視為類似于汽車的所有物,除卻財(cái)產(chǎn)屬性外,其還具有重要的人身屬性。雖然人臉照片與面部識(shí)別模型的功能有所不同,但在數(shù)字人臉的環(huán)境下其所涉及的法益可以分為如下兩個(gè)方面。一方面,在遍布式計(jì)算的環(huán)境下,“人的數(shù)字化”(digitalisation of human beings)風(fēng)險(xiǎn)普遍存在,人成為了被測(cè)量的客體,人們的身體被不斷地信息化。對(duì)這一數(shù)字化過(guò)程“說(shuō)不”的隱私法益則是人臉照片與面部識(shí)別模型所要保護(hù)的首要法益。另一方面,人臉照片與面部識(shí)別模型都指向了信息主體的數(shù)字身份,這一身份與人的尊嚴(yán)和肖像權(quán)、名譽(yù)權(quán)等人身權(quán)利或財(cái)產(chǎn)權(quán)利緊密相關(guān)。深度偽造(deepfake)技術(shù)可對(duì)原數(shù)字身份編織不法與影響其聲譽(yù)的活動(dòng),對(duì)信息主體的名譽(yù)、人格尊嚴(yán)等產(chǎn)生不利影響。

    第二,伴隨生物識(shí)別技術(shù)的發(fā)展,面部識(shí)別模型對(duì)人臉照片具有了回溯性,生物比對(duì)的技術(shù)流程不再是單行道,實(shí)踐中以生物比對(duì)區(qū)分面部識(shí)別模型與人臉照片面臨可行性挑戰(zhàn)。當(dāng)下,特定機(jī)器學(xué)習(xí)算法可以根據(jù)面部識(shí)別模型還原出人臉照片。例如,面部重建技術(shù)(face reconstruction)是根據(jù)面部識(shí)別模型所反映的面部生物特征創(chuàng)建人臉的視覺(jué)表示,盡管當(dāng)下這一技術(shù)尚未成熟且面臨準(zhǔn)確性不足的質(zhì)疑,但其可依據(jù)面部識(shí)別模型還原出特定的人臉面部圖像,在實(shí)踐中完成修復(fù)老照片等工作。此外,當(dāng)面部識(shí)別模型與人臉照片存儲(chǔ)在不同的數(shù)據(jù)庫(kù)時(shí),人臉識(shí)別技術(shù)也可以利用面部識(shí)別模型匹配出存儲(chǔ)在其他數(shù)據(jù)庫(kù)的人臉照片,由此實(shí)現(xiàn)另一維度的“還原”。

    第三,生物識(shí)別信息自身概念存在過(guò)于依賴信息處理者主觀目的的不足,信息主體與信息處理者對(duì)作為轉(zhuǎn)譯過(guò)程的生物比對(duì)活動(dòng)是否開(kāi)展、何時(shí)開(kāi)展、開(kāi)展后信息是否分類存儲(chǔ)等存在嚴(yán)重的信息不對(duì)稱,致使實(shí)踐中區(qū)分人臉照片與面部識(shí)別模型存在困難。具言之,依據(jù)《個(gè)保法》第28條,面部識(shí)別模型應(yīng)作為敏感個(gè)人信息保護(hù),信息處理者承擔(dān)更為嚴(yán)格的保護(hù)義務(wù)。經(jīng)由上文分析,以識(shí)別或驗(yàn)證為目的、經(jīng)由生物比對(duì)技術(shù)處理后的信息方可被認(rèn)定為生物識(shí)別信息,即生物識(shí)別信息存在于“處理中”(面部特征信息)或“處理后”(面部識(shí)別模型)這一時(shí)間段,所以處于“處理前”(人臉照片)階段的信息的采集和存儲(chǔ)則不被認(rèn)定為生物識(shí)別信息。所以,信息處理者僅需對(duì)人臉照片的采集與存儲(chǔ)承擔(dān)一般個(gè)人信息的保護(hù)義務(wù),但對(duì)于面部識(shí)別模型的存儲(chǔ)與使用需要承擔(dān)敏感個(gè)人信息的保護(hù)義務(wù)。然而,由于生物比對(duì)是由信息處理者掌握的高度專業(yè)性活動(dòng),其可能出于逃避信息保護(hù)義務(wù)的目的隱瞞這一活動(dòng)的開(kāi)展,且其他信息主體難以知曉。另外,即便信息處理者履行了告知同意的義務(wù),但當(dāng)其將人臉照片與面部識(shí)別模型在同一數(shù)據(jù)庫(kù)中不加區(qū)別地存儲(chǔ)時(shí),二者同樣會(huì)基于關(guān)聯(lián)性在結(jié)果意義上產(chǎn)生混同。

    (二)生物特征間的關(guān)聯(lián)性挑戰(zhàn)功能要素之合理性

    在論述人臉照片的關(guān)聯(lián)性對(duì)生物識(shí)別信息功能要素的挑戰(zhàn)前,有必要引入生物隱私領(lǐng)域有關(guān)生物識(shí)別特征的三個(gè)概念——強(qiáng)生物特征(strong biometrics)、弱生物特征(weak biometrics)與軟生物特征(soft biometrics)。(如表1)強(qiáng)生物特征是指?jìng)鹘y(tǒng)的具有專屬性與不易更改性的生物特征,弱生物特征則是動(dòng)態(tài)變化中的生物特征或生物信號(hào)的記錄,而軟生物特征則是基于歸納與分類的類別性特征。三種生物特征中僅有強(qiáng)生物特征能夠?qū)崿F(xiàn)對(duì)自然人的唯一性識(shí)別與驗(yàn)證,滿足生物識(shí)別信息的功能要素:而弱生物特征與軟生物特征雖具有一定的識(shí)別功能,但難以實(shí)現(xiàn)唯一性識(shí)別,故無(wú)法歸人生物識(shí)別信息的范疇。

    人臉照片中生物特征間的關(guān)聯(lián)性是指強(qiáng)生物特征與弱生物特征、軟生物特征之間的關(guān)聯(lián)性,即三種生物特征共同來(lái)源于人臉圖像,三者間具有相互關(guān)聯(lián)、不易分割的特征。強(qiáng)生物特征是第一代生物識(shí)別技術(shù)的產(chǎn)物,弱生物特征與軟生物特征在第二代生物識(shí)別技術(shù)中逐漸被廣泛應(yīng)用,且兩種生物特征的識(shí)別功能伴隨技術(shù)的發(fā)展被不斷增強(qiáng)。由此,三種生物特征間的關(guān)聯(lián)性引發(fā)是否仍有必要依據(jù)功能要素對(duì)三種生物特征開(kāi)展區(qū)別保護(hù)的新思考,進(jìn)而對(duì)功能要素中“已識(shí)別”的識(shí)別范圍與“唯一性識(shí)別”的識(shí)別強(qiáng)度在新技術(shù)背景下的合理性提出質(zhì)疑。

    其一,當(dāng)下第二代生物識(shí)別技術(shù)的發(fā)展逐漸增強(qiáng)了弱生物特征與軟生物特征的識(shí)別功能,盡管二者難以實(shí)現(xiàn)強(qiáng)生物特征的唯一性識(shí)別,但仍具有成為間接識(shí)別與可識(shí)別信息的可能,且其潛在的生物隱私風(fēng)險(xiǎn)仍不容小覷。例如,隨著人工智能向情感智能的演變,感知、理解、模仿和影響人類情感的情感計(jì)算技術(shù)(emotion recognition systems)得以出現(xiàn)與應(yīng)用,其通過(guò)對(duì)面部表情與身體信號(hào)等弱生物特征的探測(cè)展開(kāi)情感的分析與歸類。情感計(jì)算可應(yīng)用于公交車站的廣告牌的定向廣告投送,即該技術(shù)可根據(jù)觀看廣告的人群表情判斷其是否為廣告內(nèi)容所吸引,還可結(jié)合生物識(shí)別分類技術(shù)(biometric categorization systems)根據(jù)駐足觀看廣告者的軟生物特征歸納出廣告受到了哪類人群的關(guān)注,進(jìn)而幫助廣告商定向投放廣告,由此引發(fā)侵犯情感隱私、操縱情感自由,以及通過(guò)廣告投送造成群體性歧視的風(fēng)險(xiǎn)。

    其二,在實(shí)踐中第二代生物識(shí)別技術(shù)以第一代生物識(shí)別技術(shù)為基礎(chǔ)而逐步發(fā)展,情感計(jì)算與生物特征分類技術(shù)的應(yīng)用常附加在人臉識(shí)別技術(shù)的基礎(chǔ)上,三者的技術(shù)邊界受到技術(shù)黑箱的影響而在客觀上難以區(qū)分。加之,強(qiáng)生物特征與弱生物特征、軟生物特征間存在密切的關(guān)聯(lián)性,三者的各自采集與明確界分受到生物識(shí)別技術(shù)水平與信息處理者主觀意愿的影響,因此引發(fā)“能否在實(shí)踐中有效區(qū)分三種生物識(shí)別技術(shù)以及三種生物特征”的質(zhì)疑,當(dāng)三者的區(qū)分缺乏可行性時(shí),生物識(shí)別信息功能要素的范圍則應(yīng)在新技術(shù)背景下予以擴(kuò)展。

    四、應(yīng)對(duì)人臉照片的信息屬性展開(kāi)分領(lǐng)域類型化判斷

    初步來(lái)看,人臉照片中既含有作為生物識(shí)別信息的面部識(shí)別模型,又含有反映表情、年齡、膚色等內(nèi)容的一般個(gè)人信息,故不能以“一刀切”的方式簡(jiǎn)單劃定人臉照片的信息屬性,而應(yīng)對(duì)其不同內(nèi)容展開(kāi)類型化的判斷。對(duì)此,有必要明確如下兩個(gè)前提問(wèn)題:第一,在我國(guó),由于生物識(shí)別信息沒(méi)有單獨(dú)的保護(hù)機(jī)制,而是在《個(gè)保法》第28條中作為敏感個(gè)人信息的一項(xiàng)予以列舉,因此有必要以一般個(gè)人信息、生物識(shí)別信息、敏感個(gè)人信息為基礎(chǔ)體系,對(duì)人臉照片的信息屬性加以判斷。第二,第一代與第二代生物識(shí)別技術(shù)對(duì)于生物隱私提出了不同的保護(hù)需求,因此需重新思考不同技術(shù)背景下生物識(shí)別信息的內(nèi)涵及其與人臉照片的關(guān)系問(wèn)題。

    (一)保護(hù)法與規(guī)制法均應(yīng)設(shè)定生物識(shí)別信息概念

    生物識(shí)別信息是與技術(shù)緊密相關(guān)的法律概念,生物識(shí)別信息安全保護(hù)與法益維護(hù)則可包括兩個(gè)方面:一面是以信息主體權(quán)益保護(hù)為目標(biāo)的保護(hù)法,如《通用數(shù)據(jù)保護(hù)條例》和《個(gè)保法》;另一面是以生物識(shí)別技術(shù)的使用規(guī)制為內(nèi)容的規(guī)制法,如歐盟《人工智能法案》和《中華人民共和國(guó)數(shù)據(jù)安全法》(以下簡(jiǎn)稱《數(shù)據(jù)安全法》)。保護(hù)法與規(guī)制法并非割裂與對(duì)立,而是規(guī)范生物識(shí)別信息合理使用的一體兩面。

    歐盟在生物識(shí)別信息的相關(guān)立法中曾出現(xiàn)概念界定的爭(zhēng)議,相關(guān)立法經(jīng)驗(yàn)展現(xiàn)出保護(hù)法與規(guī)制法共用的治理路徑。作為保護(hù)法,歐盟在《通用數(shù)據(jù)保護(hù)條例》第4條提出了“生物識(shí)別數(shù)據(jù)”(biometric data)的概念,其包含了本文所提出的范圍、技術(shù)與功能要素,對(duì)其他國(guó)家生物識(shí)別信息立法產(chǎn)生了重要影響。與之相對(duì),歐盟在作為規(guī)制法的《人工智能法案》中界定“生物識(shí)別數(shù)據(jù)”則遇到了較大爭(zhēng)議。最初,歐盟在2021年4月頒布的第一稿草案中采用了與保護(hù)法中范圍相同的概念內(nèi)涵,這一界定方式隨后引發(fā)了強(qiáng)烈反對(duì),反對(duì)理由在于:(1)該法案的目的在于規(guī)范技術(shù)創(chuàng)新并保護(hù)公共利益,而個(gè)人信息權(quán)益保護(hù)只是公共利益中的一項(xiàng)內(nèi)容。以遠(yuǎn)程生物識(shí)別系統(tǒng)(remote biometric identification systems)為例,其不僅采集了以識(shí)別或驗(yàn)證為目的的生物識(shí)別數(shù)據(jù),還采集了大量的一般個(gè)人信息與無(wú)法識(shí)別信息主體的生物數(shù)據(jù),而后者無(wú)法為草案中的“生物識(shí)別數(shù)據(jù)”所涵蓋;(2)該法案不僅規(guī)范遠(yuǎn)程生物識(shí)別系統(tǒng),情感識(shí)別系統(tǒng)與生物識(shí)別分類技術(shù)也成為被規(guī)制的對(duì)象,而后兩種技術(shù)系統(tǒng)中占據(jù)更大的比例的是不具有識(shí)別功能的生物數(shù)據(jù)。因此,歐盟議會(huì)在2022年4月頒布的《關(guān)于(人工智能法案)的報(bào)告草案》中修改了原生物識(shí)別數(shù)據(jù)的概念,并提出“生物特征數(shù)據(jù)”(biometrics-based data),即后者不再以對(duì)自然人的識(shí)別或驗(yàn)證為目的,由此提出了規(guī)制法領(lǐng)域內(nèi)的類似概念。

    歐盟以保護(hù)法與規(guī)制法的不同立法目的為出發(fā)點(diǎn),在不同領(lǐng)域內(nèi)界定生物識(shí)別信息的立法思路值得為我國(guó)所借鑒。在《個(gè)保法》范圍內(nèi),生物識(shí)別信息的概念厘定應(yīng)以保護(hù)個(gè)人信息權(quán)益為目標(biāo),而該“個(gè)人信息權(quán)益”的主體是已識(shí)別或具有識(shí)別可能的信息主體。由此,保護(hù)法內(nèi)生物識(shí)別信息功能要素的門(mén)檻為“已識(shí)別+可識(shí)別”,理想匿名狀態(tài)下的軟生物特征與弱生物特征數(shù)據(jù)并不在保護(hù)法的規(guī)范范圍之內(nèi)。繼而,問(wèn)題的關(guān)鍵在于生物識(shí)別信息同一般個(gè)人信息與敏感個(gè)人信息之間的關(guān)系,以明確生物識(shí)別信息的內(nèi)涵與外延。筆者將以生物識(shí)別技術(shù)的迭代為主線,探討當(dāng)下第一代生物識(shí)別技術(shù)廣泛應(yīng)用背景下生物識(shí)別信息的具體內(nèi)涵,并對(duì)第二代生物識(shí)別技術(shù)背景下這一概念內(nèi)涵擴(kuò)展的可能提出設(shè)想。(如表2)

    (1)第一代生物識(shí)別技術(shù)背景下生物識(shí)別信息的界定。歐盟《通用數(shù)據(jù)保護(hù)條例》在第一代生物識(shí)別技術(shù)發(fā)展的背景下頒布,歐盟學(xué)者認(rèn)為該條例在功能要素上構(gòu)筑了三層次的識(shí)別標(biāo)準(zhǔn):一般個(gè)人信息的識(shí)別標(biāo)準(zhǔn)最低,以已識(shí)別或可識(shí)別為具體內(nèi)容:生物識(shí)別信息的識(shí)別標(biāo)準(zhǔn)次之,是以識(shí)別或驗(yàn)證特定自然人的已識(shí)別為標(biāo)準(zhǔn):能夠被納入敏感個(gè)人信息的生物識(shí)別信息的識(shí)別標(biāo)準(zhǔn)最高,僅為識(shí)別特定自然人,而將驗(yàn)證目的的處理排除在外。盡管我國(guó)《個(gè)保法》對(duì)識(shí)別的具體內(nèi)涵尚未明晰,且第28條將生物識(shí)別信息視為敏感個(gè)人信息的子集予以列舉,但筆者認(rèn)為三者間的關(guān)系應(yīng)如圖2所示。生物識(shí)別信息與敏感個(gè)人信息均為一般個(gè)人信息的子類型:生物識(shí)別信息因以識(shí)別或驗(yàn)證為目的采用已識(shí)別標(biāo)準(zhǔn),高于一般個(gè)人信息的識(shí)別標(biāo)準(zhǔn):生物識(shí)別信息不應(yīng)被全部視為敏感個(gè)人信息的子集,二者是交叉重合的關(guān)系。由于我國(guó)立法與司法實(shí)踐并未對(duì)生物識(shí)別信息與敏感個(gè)人信息設(shè)置識(shí)別標(biāo)準(zhǔn)的差異,但學(xué)者多基于場(chǎng)景理論,認(rèn)為滿足第28條概括性條款中危險(xiǎn)性要求的生物識(shí)別信息才能被視為敏感個(gè)人信息,享有更高的保護(hù)力度。

    總之,第一代生物識(shí)別技術(shù)是當(dāng)下個(gè)人信息保護(hù)立法的共同背景,由此形成了生物識(shí)別信息的傳統(tǒng)定義,即“與自然人的身體、生理或行為特征有關(guān),以識(shí)別或驗(yàn)證特定自然人為目的的信息”,其主要以范圍與功能要素區(qū)別于一般個(gè)人信息,以信息的危險(xiǎn)程度區(qū)分于敏感個(gè)人信息。

    (2)第二代生物識(shí)別技術(shù)背景下生物識(shí)別信息的界定。從技術(shù)要素的角度看,在以情感計(jì)算和生物特征分類為典型的第二代生物識(shí)別技術(shù)中,識(shí)別與驗(yàn)證不再是技術(shù)應(yīng)用的主要類型,檢測(cè)(detection)與分類(classification)技術(shù)的應(yīng)用則更為普遍。檢測(cè)是辨別視頻或圖像中的自然人或其特定身體部位并展開(kāi)測(cè)量的技術(shù),分類是基于特定生物特征展開(kāi)類別歸納的技術(shù)。例如,在基于面部表情測(cè)量的情感計(jì)算系統(tǒng)中,該技術(shù)需辨別視頻圖像中人臉的位置并測(cè)量面部表情信息,繼而依據(jù)特定算法模型歸納出人的情感狀態(tài)。雖然在理想的匿名狀態(tài)下,探測(cè)與分類技術(shù)所針對(duì)的軟生物特征與弱生物特征信息難以識(shí)別特定信息主體,但一方面探測(cè)與分類技術(shù)與識(shí)別、驗(yàn)證技術(shù)間具有高度的關(guān)聯(lián)性,另一方面受技術(shù)黑箱的影響理想的匿名狀態(tài)難以實(shí)現(xiàn),所以探測(cè)與分類技術(shù)所針對(duì)的生物特征信息可能會(huì)以可識(shí)別信息的方式大量存在。加之,信息處理者對(duì)于系統(tǒng)中唯一性識(shí)別信息的獲取較為容易,系統(tǒng)中的可識(shí)別信息可能與唯一性識(shí)別信息相結(jié)合,達(dá)到識(shí)別強(qiáng)化之效果。

    由此,第二代生物識(shí)別技術(shù)下生物識(shí)別信息的概念內(nèi)涵將從三個(gè)方面突破其傳統(tǒng)定義:在范圍要素上,多以動(dòng)態(tài)化呈現(xiàn)的弱生物特征將突破強(qiáng)生物特征僅有的靜態(tài)性,因此新內(nèi)涵中不僅包括“身體、生理或行為特征”,還應(yīng)包括與之相關(guān)的“信號(hào)”;在技術(shù)要素上,新內(nèi)涵在原有識(shí)別與驗(yàn)證技術(shù)之外,還應(yīng)包括情感計(jì)算與生物特征歸類所普遍應(yīng)用的探測(cè)與分類技術(shù):在識(shí)別要素上,由于可識(shí)別信息將成為第二代生物識(shí)別技術(shù)系統(tǒng)中信息存在的普遍狀態(tài),因此原有的“已識(shí)別”標(biāo)準(zhǔn)應(yīng)被降低為“已識(shí)別或可識(shí)別”。此時(shí),新內(nèi)涵下的生物識(shí)別信息與一般個(gè)人信息的主要區(qū)別在于范圍要素,而與敏感個(gè)人信息的區(qū)分同樣在于信息的危險(xiǎn)程度。

    最后,在以《數(shù)據(jù)安全法》為主的規(guī)制法體系內(nèi),由于該法以保護(hù)數(shù)據(jù)安全和促進(jìn)數(shù)據(jù)的開(kāi)發(fā)利用為目標(biāo),規(guī)范收集、存儲(chǔ)、使用、加工、傳輸、提供、公開(kāi)數(shù)據(jù)的數(shù)據(jù)處理活動(dòng),所以生物識(shí)別技術(shù)系統(tǒng)中處理的數(shù)據(jù)均在該法所規(guī)制的范圍內(nèi),識(shí)別性不再是規(guī)制法所關(guān)注的對(duì)象。此時(shí),生物識(shí)別信息在規(guī)制法內(nèi)更為準(zhǔn)確的名稱應(yīng)為“生物特征數(shù)據(jù)”。在數(shù)據(jù)分級(jí)分類保護(hù)的制度下,生物特征數(shù)據(jù)具有成為重要數(shù)據(jù)與核心數(shù)據(jù)的可能,進(jìn)而實(shí)施更為嚴(yán)格的管理制度。

    (二)人臉照片信息屬性分領(lǐng)域類型化判斷的展開(kāi)

    在明確保護(hù)法與規(guī)制法范圍內(nèi)生物識(shí)別信息的具體內(nèi)涵后,有必要回到本文開(kāi)篇所提出的問(wèn)題,即“人臉照片是否應(yīng)歸屬于生物識(shí)別信息”或“人臉照片在何種情況下應(yīng)屬于生物識(shí)別信息”,而這一問(wèn)題的理論回應(yīng)也是對(duì)本文第二部分現(xiàn)行法下已有判斷的修正。

    從規(guī)制法角度看,由于生物識(shí)別技術(shù)是以數(shù)據(jù)為處理對(duì)象的技術(shù)活動(dòng),所以存在于生物識(shí)別技術(shù)系統(tǒng)中的人臉照片均屬于生物特征數(shù)據(jù)。從保護(hù)法視角看,應(yīng)主要根據(jù)技術(shù)要素判斷人臉照片在何種情況下歸屬于生物識(shí)別信息。(如表3)

    對(duì)于第一代生物識(shí)別技術(shù)背景下的“生物識(shí)別信息”,當(dāng)人臉照片滿足一般個(gè)人信息的可識(shí)別性,且已應(yīng)用于或即將應(yīng)用于識(shí)別與驗(yàn)證技術(shù)時(shí),該人臉照片應(yīng)屬于生物識(shí)別信息。值得注意的是,這一觀點(diǎn)實(shí)則修正了本文第二部分所提出的“人臉照片因未轉(zhuǎn)譯難以被歸入生物識(shí)別信息”的判斷?,F(xiàn)有個(gè)人信息保護(hù)立法是建立在第一代生物識(shí)別技術(shù)發(fā)展的背景下,故而第一代生物識(shí)別技術(shù)背景下的“生物識(shí)別信息”與第二部分現(xiàn)行法下“生物識(shí)別信息”的內(nèi)涵是相同的。第二部分因?qū)⑷四樥掌暈樯锉葘?duì)技術(shù)所作用的樣本而排除出生物識(shí)別信息的范疇,僅將從人臉照片中提取出的強(qiáng)生物識(shí)別特征信息(面部識(shí)別模型)列入生物識(shí)別信息。然而,一則因?yàn)樯飿颖拘畔⑴c生物識(shí)別模型間的可回溯性,二則出于人臉照片中強(qiáng)生物特征與弱生物特征、軟生物特征間的高度關(guān)聯(lián)性,導(dǎo)致轉(zhuǎn)譯與否成為了難以知曉且不再重要的一道程序。因此,已進(jìn)入或即將進(jìn)入以識(shí)別或驗(yàn)證為目的的生物識(shí)別系統(tǒng)中的人臉照片,其均應(yīng)屬于生物識(shí)別信息。與之類似,對(duì)于第二代生物識(shí)別技術(shù)背景下的“生物識(shí)別信息”,當(dāng)人臉照片滿足一般個(gè)人信息的可識(shí)別性后,已進(jìn)入或即將進(jìn)入以檢測(cè)、分類、識(shí)別與驗(yàn)證為目的的生物識(shí)別系統(tǒng)中的人臉照片,均應(yīng)屬于生物識(shí)別信息。

    結(jié)語(yǔ)

    當(dāng)下,人臉識(shí)別技術(shù)被公、私主體廣泛使用,人臉照片的采集似乎成為了一種不可控的“必須”。伴隨生物識(shí)別技術(shù)的發(fā)展,圍繞人臉照片開(kāi)展的違法犯罪活動(dòng)呈現(xiàn)出了新的方式,由是引發(fā)的生物隱私風(fēng)險(xiǎn)不容小覷。人臉的數(shù)字化與否與數(shù)字化程度值得被慎重思考,人臉照片的信息安全保護(hù)機(jī)制亟待建立。人臉照片與生物識(shí)別信息間關(guān)系的討論僅為這一思考的起步,基于生物識(shí)別信息與敏感個(gè)人信息的交叉重合關(guān)系,有必要對(duì)生物識(shí)別信息建立起單獨(dú)的保護(hù)機(jī)制,并在人工智能立法的背景下探索依據(jù)系統(tǒng)內(nèi)信息屬性對(duì)人臉識(shí)別展開(kāi)規(guī)制的新路徑。

    猜你喜歡
    人臉識(shí)別技術(shù)
    Photoshop CC系統(tǒng)中的人臉識(shí)別液化技術(shù)
    人臉識(shí)別技術(shù)在房屋安全中的應(yīng)用分析
    計(jì)算機(jī)技術(shù)發(fā)展史剖析及未來(lái)趨勢(shì)預(yù)測(cè)
    人臉識(shí)別技術(shù)在門(mén)禁系統(tǒng)中的應(yīng)用研究
    淺談“刷臉識(shí)別”的倫理問(wèn)題
    基于嵌入式系統(tǒng)的人臉識(shí)別技術(shù)研究及實(shí)現(xiàn)
    高校考試防作弊技術(shù)應(yīng)用探討
    人臉識(shí)別在高校公寓管理中的應(yīng)用研究
    東方教育(2016年15期)2017-01-16 11:59:07
    人臉識(shí)別技術(shù)在公共安防視頻監(jiān)控領(lǐng)域的應(yīng)用
    基于PCA和Fisher線性判別技術(shù)的人臉識(shí)別算法
    久久草成人影院| 久久午夜亚洲精品久久| 在线看三级毛片| 又爽又黄无遮挡网站| 国产高清videossex| 国产1区2区3区精品| 亚洲欧美日韩东京热| 悠悠久久av| 精品久久久久久,| 日韩三级视频一区二区三区| 日本a在线网址| 国产精品美女特级片免费视频播放器 | 亚洲av熟女| 精品熟女少妇八av免费久了| 成人鲁丝片一二三区免费| 夜夜躁狠狠躁天天躁| 亚洲va日本ⅴa欧美va伊人久久| 1000部很黄的大片| 国产精品av视频在线免费观看| 一个人免费在线观看的高清视频| 俺也久久电影网| 99久久综合精品五月天人人| 一级毛片高清免费大全| 国产亚洲av高清不卡| 丁香欧美五月| 欧美日韩中文字幕国产精品一区二区三区| 最近最新中文字幕大全免费视频| 狠狠狠狠99中文字幕| 亚洲中文av在线| 亚洲中文av在线| 久久精品影院6| www.999成人在线观看| 久久久久久国产a免费观看| 我要搜黄色片| 最近最新中文字幕大全免费视频| 亚洲国产欧美人成| 男女床上黄色一级片免费看| 一进一出好大好爽视频| 精品乱码久久久久久99久播| 丰满人妻一区二区三区视频av | 每晚都被弄得嗷嗷叫到高潮| av在线蜜桃| 欧美日韩黄片免| 黄色 视频免费看| 18禁观看日本| 欧美日本亚洲视频在线播放| 日韩制服骚丝袜av| 日本av手机在线免费观看| 国产黄色视频一区二区在线观看 | 色哟哟·www| 国模一区二区三区四区视频| 欧美成人免费av一区二区三区| 日韩欧美在线乱码| 午夜福利网站1000一区二区三区| 色吧在线观看| 最近中文字幕高清免费大全6| 国产成人免费观看mmmm| 亚洲欧洲日产国产| 日本一二三区视频观看| 99热这里只有精品一区| 欧美激情国产日韩精品一区| 日韩精品青青久久久久久| 欧美精品国产亚洲| 日韩高清综合在线| 欧美极品一区二区三区四区| 日日摸夜夜添夜夜添av毛片| 日韩人妻高清精品专区| 国产精品人妻久久久影院| 一级毛片我不卡| 蜜桃久久精品国产亚洲av| 久久久久久久久久成人| 波多野结衣高清无吗| 国产成人精品婷婷| 好男人视频免费观看在线| 欧美成人精品欧美一级黄| 久久久久免费精品人妻一区二区| 日韩人妻高清精品专区| 一边亲一边摸免费视频| 久久久久九九精品影院| 亚洲不卡免费看| 亚洲欧美日韩东京热| 91aial.com中文字幕在线观看| 狂野欧美激情性xxxx在线观看| 亚洲欧美中文字幕日韩二区| 夜夜爽夜夜爽视频| 你懂的网址亚洲精品在线观看 | 午夜精品一区二区三区免费看| 色网站视频免费| 男人舔女人下体高潮全视频| 国产黄片视频在线免费观看| 婷婷色av中文字幕| 日日摸夜夜添夜夜添av毛片| 久久久午夜欧美精品| 丰满乱子伦码专区| 水蜜桃什么品种好| 夜夜爽夜夜爽视频| 亚洲欧美精品自产自拍| 亚洲一级一片aⅴ在线观看| 国模一区二区三区四区视频| 色尼玛亚洲综合影院| 白带黄色成豆腐渣| 看非洲黑人一级黄片| 狠狠狠狠99中文字幕| 亚洲精品456在线播放app| 麻豆成人av视频| 免费看a级黄色片| 狂野欧美激情性xxxx在线观看| 最近2019中文字幕mv第一页| 国产精品野战在线观看| 永久免费av网站大全| 国产男人的电影天堂91| 日本欧美国产在线视频| 国产成人精品一,二区| 全区人妻精品视频| 免费电影在线观看免费观看| 一本久久精品| 日本一本二区三区精品| 全区人妻精品视频| 亚洲自偷自拍三级| 99久国产av精品国产电影| 日本一本二区三区精品| 午夜福利在线观看免费完整高清在| 在线免费观看的www视频| 亚洲欧美清纯卡通| av在线老鸭窝| 欧美三级亚洲精品| 亚洲自偷自拍三级| 久久久久网色| 99热精品在线国产| 国产精品综合久久久久久久免费| 麻豆国产97在线/欧美| 国产精品一区www在线观看| 一级毛片aaaaaa免费看小| 边亲边吃奶的免费视频| 国产一区二区在线av高清观看| 久99久视频精品免费| 秋霞伦理黄片| 男女啪啪激烈高潮av片| 91久久精品国产一区二区三区| 非洲黑人性xxxx精品又粗又长| 91精品一卡2卡3卡4卡| 日韩一本色道免费dvd| 九九热线精品视视频播放| 一级黄片播放器| 亚洲成av人片在线播放无| 国产极品精品免费视频能看的| 国产免费一级a男人的天堂| 欧美性感艳星| 六月丁香七月| 超碰av人人做人人爽久久| 亚洲精品影视一区二区三区av| 99国产精品一区二区蜜桃av| 能在线免费看毛片的网站| 丰满少妇做爰视频| 一区二区三区四区激情视频| 18禁裸乳无遮挡免费网站照片| 国产在视频线精品| 日韩亚洲欧美综合| 国产淫片久久久久久久久| 国产单亲对白刺激| 亚洲人成网站高清观看| 国产午夜精品一二区理论片| 一个人看的www免费观看视频| 国产爱豆传媒在线观看| 亚洲精品成人久久久久久| 五月玫瑰六月丁香| 一夜夜www| 亚洲国产色片| 18禁动态无遮挡网站| 精品国内亚洲2022精品成人| 看免费成人av毛片| 91午夜精品亚洲一区二区三区| 我的女老师完整版在线观看| 国产视频首页在线观看| 色吧在线观看| 深夜a级毛片| 亚洲欧美日韩无卡精品| 国内揄拍国产精品人妻在线| 国产伦理片在线播放av一区| 天堂网av新在线| 可以在线观看毛片的网站| 女人久久www免费人成看片 | 午夜亚洲福利在线播放| 精品欧美国产一区二区三| 色视频www国产| 欧美3d第一页| 桃色一区二区三区在线观看| 国产精品伦人一区二区| 观看免费一级毛片| 美女被艹到高潮喷水动态| 欧美变态另类bdsm刘玥| 国产伦一二天堂av在线观看| 亚洲国产高清在线一区二区三| 哪个播放器可以免费观看大片| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 久热久热在线精品观看| av专区在线播放| 欧美不卡视频在线免费观看| 日产精品乱码卡一卡2卡三| 免费不卡的大黄色大毛片视频在线观看 | 日韩中字成人| 亚洲欧洲日产国产| 在线观看美女被高潮喷水网站| 国产精品精品国产色婷婷| 亚洲av熟女| 免费观看的影片在线观看| 亚洲欧美清纯卡通| 秋霞在线观看毛片| 色尼玛亚洲综合影院| 国产伦在线观看视频一区| 亚洲中文字幕日韩| 日韩精品有码人妻一区| 男女国产视频网站| 亚洲最大成人手机在线| 高清毛片免费看| 亚洲无线观看免费| 日韩欧美 国产精品| 免费av毛片视频| 日本爱情动作片www.在线观看| 精品人妻熟女av久视频| 亚洲av成人精品一区久久| 精品熟女少妇av免费看| 日本wwww免费看| 成人午夜高清在线视频| 国产精品国产三级国产专区5o | 汤姆久久久久久久影院中文字幕 | 久久久a久久爽久久v久久| 国产 一区 欧美 日韩| 久久这里有精品视频免费| 欧美最新免费一区二区三区| 2021天堂中文幕一二区在线观| 热99在线观看视频| 亚洲av一区综合| 国产精品一区www在线观看| 国产老妇伦熟女老妇高清| 国产在线一区二区三区精 | 国产女主播在线喷水免费视频网站 | 你懂的网址亚洲精品在线观看 | 天堂影院成人在线观看| 欧美激情久久久久久爽电影| 两个人的视频大全免费| 久久这里只有精品中国| 国产精品国产三级国产av玫瑰| 我要搜黄色片| 亚洲国产精品成人久久小说| 亚洲精品一区蜜桃| 特级一级黄色大片| 日本黄大片高清| 91av网一区二区| 97超视频在线观看视频| 精品午夜福利在线看| 91在线精品国自产拍蜜月| 少妇猛男粗大的猛烈进出视频 | 2021天堂中文幕一二区在线观| 爱豆传媒免费全集在线观看| 中文精品一卡2卡3卡4更新| 观看美女的网站| 日韩亚洲欧美综合| 成人亚洲精品av一区二区| 人人妻人人看人人澡| 日韩av不卡免费在线播放| 国产精品国产三级国产av玫瑰| 美女cb高潮喷水在线观看| 亚洲国产精品久久男人天堂| 人人妻人人澡人人爽人人夜夜 | 精品国产一区二区三区久久久樱花 | 国产人妻一区二区三区在| 少妇人妻精品综合一区二区| 精品人妻一区二区三区麻豆| 免费av观看视频| 国内精品美女久久久久久| 男人舔女人下体高潮全视频| 丝袜美腿在线中文| 晚上一个人看的免费电影| 少妇熟女aⅴ在线视频| 久久久久精品久久久久真实原创| 毛片一级片免费看久久久久| 国产精品永久免费网站| 在线a可以看的网站| 精品国产三级普通话版| 一本一本综合久久| 成人鲁丝片一二三区免费| 国产成人精品一,二区| 尾随美女入室| 国产精品不卡视频一区二区| 九九热线精品视视频播放| 蜜桃久久精品国产亚洲av| 别揉我奶头 嗯啊视频| 国产亚洲一区二区精品| 欧美成人午夜免费资源| 特大巨黑吊av在线直播| 国产黄色视频一区二区在线观看 | 国产高清三级在线| www日本黄色视频网| 我的老师免费观看完整版| 小说图片视频综合网站| 一区二区三区高清视频在线| 国产伦精品一区二区三区视频9| 精品人妻一区二区三区麻豆| 国产精品三级大全| 特大巨黑吊av在线直播| 不卡视频在线观看欧美| 日本wwww免费看| 好男人在线观看高清免费视频| 亚洲人成网站在线播| 亚洲欧美成人综合另类久久久 | 国产白丝娇喘喷水9色精品| 日韩一区二区三区影片| 99久久无色码亚洲精品果冻| 成人鲁丝片一二三区免费| 亚洲欧美一区二区三区国产| 水蜜桃什么品种好| 国产精品伦人一区二区| 亚洲美女搞黄在线观看| 久久精品国产亚洲av天美| 高清在线视频一区二区三区 | 免费观看精品视频网站| 青春草视频在线免费观看| 免费一级毛片在线播放高清视频| 美女被艹到高潮喷水动态| 免费人成在线观看视频色| 又黄又爽又刺激的免费视频.| 精品久久久久久成人av| 99热这里只有精品一区| 久久精品国产亚洲av天美| av黄色大香蕉| 亚洲av成人精品一区久久| 十八禁国产超污无遮挡网站| 十八禁国产超污无遮挡网站| 精品久久久噜噜| 夜夜爽夜夜爽视频| 免费一级毛片在线播放高清视频| 18+在线观看网站| 国产又色又爽无遮挡免| 亚洲欧美成人精品一区二区| 日韩国内少妇激情av| 欧美日韩国产亚洲二区| 搞女人的毛片| 欧美不卡视频在线免费观看| .国产精品久久| 精品国产露脸久久av麻豆 | 免费av不卡在线播放| av天堂中文字幕网| 久久精品91蜜桃| 亚洲av二区三区四区| 人人妻人人澡人人爽人人夜夜 | 性色avwww在线观看| 亚洲va在线va天堂va国产| 国产精华一区二区三区| 日韩亚洲欧美综合| 麻豆成人午夜福利视频| 青春草国产在线视频| 女人被狂操c到高潮| 九九爱精品视频在线观看| 亚洲国产精品久久男人天堂| 一级爰片在线观看| 天堂网av新在线| 成人一区二区视频在线观看| 国产精品野战在线观看| 国产成人午夜福利电影在线观看| 人人妻人人澡人人爽人人夜夜 | 日韩欧美精品免费久久| 91久久精品国产一区二区成人| 亚洲高清免费不卡视频| 国产亚洲av嫩草精品影院| 乱系列少妇在线播放| 日本黄色片子视频| 欧美另类亚洲清纯唯美| 国产av一区在线观看免费| 成人欧美大片| 天堂av国产一区二区熟女人妻| 精品久久久久久久人妻蜜臀av| 欧美+日韩+精品| 老司机影院毛片| 免费观看在线日韩| 波多野结衣高清无吗| 成人三级黄色视频| 色综合亚洲欧美另类图片| 欧美精品国产亚洲| 色哟哟·www| 淫秽高清视频在线观看| 国产精品精品国产色婷婷| 天天躁日日操中文字幕| 久久国内精品自在自线图片| 99热全是精品| 亚洲图色成人| 欧美97在线视频| 97超碰精品成人国产| 两性午夜刺激爽爽歪歪视频在线观看| 久久久久久久久久久免费av| 亚洲中文字幕一区二区三区有码在线看| 国产精品综合久久久久久久免费| 中文欧美无线码| 草草在线视频免费看| 高清av免费在线| 久久久精品欧美日韩精品| 久久韩国三级中文字幕| 日本一二三区视频观看| 久久久久性生活片| 直男gayav资源| 久久精品熟女亚洲av麻豆精品 | 我要看日韩黄色一级片| 91久久精品国产一区二区成人| 性色avwww在线观看| 精品人妻熟女av久视频| 亚洲av不卡在线观看| 午夜久久久久精精品| 亚洲av中文字字幕乱码综合| 国产精品久久久久久久久免| 又爽又黄无遮挡网站| 性色avwww在线观看| 麻豆av噜噜一区二区三区| 国产久久久一区二区三区| 日韩一区二区视频免费看| 小说图片视频综合网站| 国产亚洲午夜精品一区二区久久 | 国产一区二区在线观看日韩| 午夜福利在线观看吧| 国产欧美日韩精品一区二区| 免费看a级黄色片| 天天躁日日操中文字幕| 亚洲av成人精品一区久久| 久久99蜜桃精品久久| 久久久久九九精品影院| 少妇的逼水好多| 国产一区二区在线观看日韩| 99久久精品国产国产毛片| 国产成人午夜福利电影在线观看| 看非洲黑人一级黄片| 一本一本综合久久| 伦精品一区二区三区| 日本黄色片子视频| 99久国产av精品| 久久精品91蜜桃| 99九九线精品视频在线观看视频| 晚上一个人看的免费电影| 亚洲av日韩在线播放| 一夜夜www| 国产免费又黄又爽又色| 深夜a级毛片| 性色avwww在线观看| 小蜜桃在线观看免费完整版高清| eeuss影院久久| 国内精品宾馆在线| 两性午夜刺激爽爽歪歪视频在线观看| 美女黄网站色视频| 久久人人爽人人片av| 免费无遮挡裸体视频| a级毛片免费高清观看在线播放| 国产久久久一区二区三区| 2022亚洲国产成人精品| 亚洲精品国产成人久久av| 嫩草影院新地址| 啦啦啦韩国在线观看视频| 久久久成人免费电影| 秋霞在线观看毛片| 国产一级毛片七仙女欲春2| 精品久久久久久久末码| 欧美人与善性xxx| 亚洲内射少妇av| 亚洲不卡免费看| 国产真实伦视频高清在线观看| 亚洲国产精品成人久久小说| 人体艺术视频欧美日本| 少妇猛男粗大的猛烈进出视频 | 国产精品一二三区在线看| 免费无遮挡裸体视频| 天美传媒精品一区二区| 在线播放无遮挡| av又黄又爽大尺度在线免费看 | 国产白丝娇喘喷水9色精品| 我要看日韩黄色一级片| 欧美潮喷喷水| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 波野结衣二区三区在线| 激情 狠狠 欧美| 老师上课跳d突然被开到最大视频| 色噜噜av男人的天堂激情| 成人鲁丝片一二三区免费| 国产三级在线视频| 美女cb高潮喷水在线观看| 国产精品.久久久| 欧美激情在线99| 一个人看视频在线观看www免费| 男女下面进入的视频免费午夜| 久久精品国产99精品国产亚洲性色| 在线观看av片永久免费下载| 亚洲综合精品二区| 少妇高潮的动态图| 午夜亚洲福利在线播放| 亚洲人成网站在线观看播放| 日韩三级伦理在线观看| 欧美成人免费av一区二区三区| 日本五十路高清| 老司机影院成人| 波多野结衣巨乳人妻| 国产精品一及| 男人狂女人下面高潮的视频| 国产乱人视频| 色网站视频免费| 日本wwww免费看| 日本黄色片子视频| 一区二区三区高清视频在线| 嫩草影院入口| 免费av观看视频| 久久久久久伊人网av| 女人被狂操c到高潮| 午夜福利网站1000一区二区三区| 久久6这里有精品| 国产在线男女| 亚洲综合色惰| 欧美丝袜亚洲另类| 国产午夜福利久久久久久| 色播亚洲综合网| 欧美高清成人免费视频www| 又粗又硬又长又爽又黄的视频| 高清毛片免费看| 五月伊人婷婷丁香| 99热6这里只有精品| 国产午夜福利久久久久久| 色播亚洲综合网| 亚洲成av人片在线播放无| 精品午夜福利在线看| 亚洲精品乱码久久久v下载方式| 日日啪夜夜撸| 午夜精品在线福利| 久久久久久久久久久免费av| 日日干狠狠操夜夜爽| 亚洲国产日韩欧美精品在线观看| 国产av不卡久久| 直男gayav资源| 日本色播在线视频| 亚洲五月天丁香| 精品国内亚洲2022精品成人| 高清日韩中文字幕在线| 亚洲欧美中文字幕日韩二区| 91精品一卡2卡3卡4卡| 成年女人永久免费观看视频| 亚洲人成网站高清观看| 国产私拍福利视频在线观看| 午夜精品国产一区二区电影 | 丰满乱子伦码专区| 国产成人精品一,二区| 亚洲av男天堂| 国产精品蜜桃在线观看| 中文欧美无线码| 国产中年淑女户外野战色| 91久久精品电影网| 久久久久网色| 国产av码专区亚洲av| 一个人观看的视频www高清免费观看| 国产精品99久久久久久久久| 狂野欧美激情性xxxx在线观看| 国产伦精品一区二区三区四那| 我的女老师完整版在线观看| av线在线观看网站| 日本色播在线视频| 免费看av在线观看网站| 午夜日本视频在线| 亚洲欧美中文字幕日韩二区| 国产一级毛片七仙女欲春2| 男人的好看免费观看在线视频| 免费av不卡在线播放| 色播亚洲综合网| 岛国毛片在线播放| 日韩成人av中文字幕在线观看| 免费av观看视频| 国产精品三级大全| 可以在线观看毛片的网站| 爱豆传媒免费全集在线观看| 在线播放国产精品三级| 久久亚洲精品不卡| 欧美极品一区二区三区四区| 少妇人妻一区二区三区视频| 青春草国产在线视频| 2022亚洲国产成人精品| 少妇人妻精品综合一区二区| 国产精品综合久久久久久久免费| 99在线视频只有这里精品首页| 中文亚洲av片在线观看爽| 国产精品久久久久久av不卡| 大香蕉久久网| 国产综合懂色| 97人妻精品一区二区三区麻豆| 免费在线观看成人毛片| 又粗又爽又猛毛片免费看| 成人av在线播放网站| 日本-黄色视频高清免费观看| 亚洲精品影视一区二区三区av| 一个人看视频在线观看www免费| 我要搜黄色片| 日韩成人伦理影院| 最近视频中文字幕2019在线8| 在线播放无遮挡| 国产亚洲最大av| 麻豆一二三区av精品| 久久久久久久午夜电影| 秋霞伦理黄片| 男女边吃奶边做爰视频| 啦啦啦韩国在线观看视频| 天堂√8在线中文| 精品久久久噜噜| 欧美精品国产亚洲| 大又大粗又爽又黄少妇毛片口| 高清av免费在线| 国产欧美日韩精品一区二区| 日本猛色少妇xxxxx猛交久久| 啦啦啦韩国在线观看视频| 一边亲一边摸免费视频| 成人欧美大片| 久久精品综合一区二区三区| 中文字幕av在线有码专区| 久久久精品94久久精品| 亚洲精华国产精华液的使用体验| 综合色av麻豆|