人臉識(shí)別“易破解”面臨的風(fēng)險(xiǎn)挑戰(zhàn)及監(jiān)管研究

苗 杰

(國家計(jì)算機(jī)網(wǎng)絡(luò)與信息安全管理中心江蘇分中心 南京 210019)

隨著機(jī)器學(xué)習(xí)、深度學(xué)習(xí)算法的不斷演進(jìn)以及人工智能技術(shù)的日益成熟，人臉識(shí)別得到越來越普及的推廣應(yīng)用.日常生活中人臉識(shí)別技術(shù)也被廣泛應(yīng)用于交通出行、小區(qū)進(jìn)出門禁、金融支付等較多領(lǐng)域.2021年2月清華大學(xué)RealAI團(tuán)隊(duì)最新的研究成果爆出手機(jī)終端具有人臉識(shí)別“易破解”安全隱患[1]，這些被破解的手機(jī)終端來自排名前5的國產(chǎn)手機(jī)，且覆蓋每一手機(jī)品牌的不同價(jià)位手機(jī)型號.目前我國手機(jī)終端用戶非常之多，除了蘋果手機(jī)基本用的都是主流國產(chǎn)手機(jī)，且政府機(jī)關(guān)以及一些重要崗位工作人員也大多用的是國產(chǎn)手機(jī).因此人臉識(shí)別“易破解”不僅會(huì)對用戶個(gè)人隱私信息、財(cái)產(chǎn)形成潛在威脅外[2]，如果被一些違法犯罪分子利用還會(huì)引發(fā)一系列的社會(huì)問題.同時(shí)人臉識(shí)別“易破解”的安全隱患也會(huì)危及個(gè)人安全和社會(huì)安全，甚至?xí)＜暗絿野踩?

1 人臉識(shí)別原理及應(yīng)用現(xiàn)狀

1.1 人臉識(shí)別原理

人臉識(shí)別是身份識(shí)別的一種方式，主要是基于人的面部特征信息來進(jìn)行身份識(shí)別.人臉識(shí)別的目的就是為了要判斷圖片和視頻中人臉的身份是什么.具體應(yīng)用中則是通過視頻采集設(shè)備掃描獲取識(shí)別人的臉部圖像信息，并通過人臉識(shí)別算法計(jì)算獲取人臉的面部特征信息，與人臉識(shí)別系統(tǒng)中的人臉樣本數(shù)據(jù)庫進(jìn)行比對，最后判斷出用戶的真實(shí)身份.

人臉識(shí)別過程可通過圖1所示幾個(gè)環(huán)節(jié)來簡要描述，首先是采集人臉圖像并檢測，其次對采集的人臉圖像進(jìn)行預(yù)處理并提取人臉特征信息，接著將提取的人臉特征信息與人臉特征庫信息進(jìn)行比對，最后給予識(shí)別結(jié)果[3]，如圖1人臉識(shí)別流程圖所示:

圖1 人臉識(shí)別流程圖

一般在人臉識(shí)別應(yīng)用中還會(huì)對被識(shí)別人進(jìn)行活體檢測[4]，即要求被識(shí)別人進(jìn)行眨眼、張嘴、點(diǎn)頭等組合動(dòng)作，以驗(yàn)證被識(shí)別人是真實(shí)本人在操作，而非通過照片、換臉等欺詐手段進(jìn)行識(shí)別驗(yàn)證，這也是人臉識(shí)別“易破解”受攻擊的薄弱環(huán)節(jié).人臉識(shí)別還涉及對人臉進(jìn)行屬性識(shí)別、聚類識(shí)別等一些技術(shù)應(yīng)用場景，如人臉屬性識(shí)別即是根據(jù)人臉展現(xiàn)出的特征檢測出與人臉相關(guān)的屬性，包括年齡、性別、頭部姿態(tài)等信息.

1.2 人臉識(shí)別應(yīng)用現(xiàn)狀

在2014年我國人臉識(shí)別技術(shù)從理論階段邁向了實(shí)際應(yīng)用，隨著人臉識(shí)別技術(shù)日益成熟，并在2018—2020年期間人臉識(shí)別技術(shù)得到推廣使用并迎來了重要轉(zhuǎn)折點(diǎn)，人臉識(shí)別在諸多應(yīng)用中通過“刷臉”即可完成.目前我國人臉識(shí)別技術(shù)在考勤門禁、安防以及金融3個(gè)領(lǐng)域應(yīng)用最為集中.人臉識(shí)別應(yīng)用在考勤門禁領(lǐng)域、安防領(lǐng)域和金融領(lǐng)域的占比分別是42%，30%，20%，如圖2人臉識(shí)別應(yīng)用現(xiàn)狀所示：

圖2 人臉識(shí)別應(yīng)用現(xiàn)狀

從人臉識(shí)別技術(shù)具體應(yīng)用來看，其主要涉及場所進(jìn)出、商業(yè)企業(yè)、政府職能、信息安全、公共安全這5個(gè)領(lǐng)域.如人臉識(shí)別應(yīng)用在場所進(jìn)出領(lǐng)域的小區(qū)門禁控制和出入管理等；人臉識(shí)別應(yīng)用在商業(yè)企業(yè)領(lǐng)域的日常考勤和電子支付等；人臉識(shí)別應(yīng)用在政府職能領(lǐng)域的管理人口戶籍和電子政務(wù)等；人臉識(shí)別應(yīng)用在信息安全領(lǐng)域的網(wǎng)絡(luò)登錄認(rèn)證和文件加解密等；人臉識(shí)別應(yīng)用在公共安全領(lǐng)域的識(shí)別罪犯和刑偵追逃等.

2 人臉識(shí)別“易破解”技術(shù)挑戰(zhàn)

隨著數(shù)字拍照、視頻圖像合成以及近年興起的對抗訓(xùn)練深度學(xué)習(xí)技術(shù)的發(fā)展，同時(shí)伴隨著網(wǎng)絡(luò)各種換臉APP的涌現(xiàn)，獲取特定人的人臉信息或者高精度的合成人臉信息變得越來越容易[5].例如2019年國內(nèi)某公司推出的AI換臉應(yīng)用“ZAO”就引起網(wǎng)民的換臉熱潮.在人臉識(shí)別得到普及推廣使用的同時(shí)，清華大學(xué)RealAI團(tuán)隊(duì)爆出其“易破解”安全隱患，由此可見人臉識(shí)別“易破解”主要面臨如下一些潛在的技術(shù)挑戰(zhàn).

2.1 臉部模具破解

通過高精度的3D打印機(jī)，打印足夠精細(xì)的人臉模型，再通過各類復(fù)雜識(shí)別算法極有可能破解人臉識(shí)別[6].

這種破解方式對3D打印機(jī)精度要求較高，且高精度3D打印機(jī)成本昂貴，具有成本高、破解時(shí)間長的劣勢，不容易被廣泛采用.

2.2 視頻攻擊破解

安裝photospeak應(yīng)用軟件，找到需要破解的1張人臉正面照片，通過photospeak輸入即可生成令人臉眨眼、張嘴效果，從而繞過人臉識(shí)別過程中需要行為人眨眼、張嘴這一活體檢測薄弱環(huán)節(jié)，從而破解人臉識(shí)別.

這種破解方式需要安裝photospeak應(yīng)用，目前photospeak在應(yīng)用商店免費(fèi)下載且操作簡單，容易被廣泛采用.

2.3 3D建模破解

通過一些應(yīng)用生成3D建模圖像，繞過人臉識(shí)別云端檢測實(shí)現(xiàn)破解.如借助“FaceGen”或“CrazyTalk”2款應(yīng)用軟件，根據(jù)需要破解照片中的人臉面部特征信息，便能在較短時(shí)間內(nèi)建成相應(yīng)的3D建模圖像，用來破解要求用戶進(jìn)行點(diǎn)頭、搖頭等動(dòng)作的人臉識(shí)別.這種在短時(shí)間內(nèi)制作出來的3D模型與原來照片的相似度很高.

這種破解方式需要安裝“FaceGen”或者“CrazyTalk”應(yīng)用，目前這2款應(yīng)用在其官方網(wǎng)站需要付費(fèi)使用且成本較高，容易被某些不法分子推廣使用.

2.4 修改程序破解

通過在人臉識(shí)別應(yīng)用程序中設(shè)置斷點(diǎn)，當(dāng)人臉識(shí)別程序進(jìn)入到一定流程時(shí)則會(huì)觸發(fā)該斷點(diǎn)，然后分析并修改人臉識(shí)別程序相應(yīng)的值，從而繞過人臉識(shí)別過程中要求眨眼、張嘴這一活體檢測薄弱環(huán)節(jié)，使用一張靜態(tài)照片即可破解人臉識(shí)別.

這種破解方式對技術(shù)要求極高，實(shí)際操作起來也難，不易于推廣使用.

2.5 樣本干擾破解

清華大學(xué)RealAI研究團(tuán)隊(duì)利用對抗樣本干擾技術(shù)破解人臉識(shí)別.其破解人臉識(shí)別過程是：首先統(tǒng)一將測試人員A的人臉信息錄入手機(jī)，然后測試人員B利用A的照片通過“對抗樣本攻擊算法”在眼部區(qū)域生成一個(gè)最佳的干擾圖案，最后將干擾圖案打印出來貼在鏡框上并帶上眼鏡，即可對手機(jī)屏幕完成人臉識(shí)別破解解鎖.利用該方法成功破解了國內(nèi)主流的19款采用2D人臉識(shí)別的手機(jī)，對采用3D人臉識(shí)別的蘋果手機(jī)未能破解，破解成功率高達(dá)95%.

這種破解方式需要相關(guān)運(yùn)算生成干擾圖像，對技術(shù)能力要求較高，難于普及使用，但不排除商業(yè)推廣使用的可能.

3 人臉識(shí)別“易破解”面臨的安全風(fēng)險(xiǎn)

目前人臉識(shí)別技術(shù)在安防、金融、交通應(yīng)用領(lǐng)域布局較為成熟，同時(shí)在教育、酒店等領(lǐng)域也有較廣泛應(yīng)用，其為社會(huì)發(fā)展帶來了新的機(jī)遇[7]，也為人們?nèi)粘Ｉ钐峁┝吮憬?雖然人臉識(shí)別技術(shù)提升了身份認(rèn)證便捷度和效率，但是從清華大學(xué)RealAI團(tuán)隊(duì)最新研究成果看出，人臉識(shí)別“易破解”也面臨如下一些安全風(fēng)險(xiǎn).

3.1 威脅個(gè)人財(cái)產(chǎn)甚至人身安全

目前個(gè)人手機(jī)留存用戶大量的照片、視頻、工作內(nèi)容等隱私數(shù)據(jù)，同時(shí)個(gè)人手機(jī)裝有各類銀行、微信、支付寶等支持“刷臉”認(rèn)證金融工具.近2年隨著“深度偽造”技術(shù)飛速發(fā)展，模仿和偽造某人的行為特征并生成相應(yīng)的圖片、視頻等也越來越容易，其中AI換臉即是深度偽造技術(shù)的典型代表[8].因此在一些開通人臉識(shí)別認(rèn)證的應(yīng)用中，出現(xiàn)個(gè)人支付賬戶被盜刷、個(gè)人隱私信息被泄露、入室盜竊犯罪等一系列違法行為已成為可能[9].人臉識(shí)別“易破解”不僅威脅到個(gè)人財(cái)產(chǎn)安全和人身安全，甚至?xí)＜肮舶踩蛧野踩?，?huì)造成社會(huì)憂慮和信任危機(jī).

3.2 侵犯個(gè)人隱私和濫用人臉數(shù)據(jù)

隨著人臉識(shí)別技術(shù)越來越普遍地應(yīng)用到人們生活中，人臉特征信息也逐漸成為人們的身份證件之一，但是人臉識(shí)別技術(shù)在具體應(yīng)用中仍存在一些不規(guī)范問題.首先，存在較多公共場所在采集人臉信息時(shí)并未明確告知用戶的現(xiàn)象，用戶在不知情的情況下其人臉信息被采集成為常態(tài).其次，在小區(qū)進(jìn)出門禁或日常工作考勤等人臉識(shí)別應(yīng)用中，用戶基本沒有選擇的權(quán)利，只能被動(dòng)地接受采集其人臉信息.再次，部分在線教育應(yīng)用以及換裝、測膚質(zhì)等娛樂小程序未按照相關(guān)法律法規(guī)要求收集、使用人臉數(shù)據(jù)[10].同時(shí)刷臉支付售貨機(jī)、刷臉取件等應(yīng)用也隨處可見，這些應(yīng)用正肆無忌憚地收集存儲(chǔ)用戶的人臉數(shù)據(jù)及個(gè)人特征信息[11].這些不規(guī)范的人臉識(shí)別應(yīng)用不僅侵犯了個(gè)人隱私，也為人臉數(shù)據(jù)濫用提供可能.

3.3 安全機(jī)制缺失造成數(shù)據(jù)泄露

目前針對人臉識(shí)別的安全技術(shù)標(biāo)準(zhǔn)和使用規(guī)范不夠完善，對于擁有人臉數(shù)據(jù)相關(guān)單位的責(zé)任和義務(wù)，人臉數(shù)據(jù)主體的權(quán)利缺少明文規(guī)定.同時(shí)人臉數(shù)據(jù)在收集、處理、傳輸和存儲(chǔ)等各環(huán)節(jié)應(yīng)采取的安全措施也缺少相關(guān)規(guī)定.并且存在使用人臉識(shí)別技術(shù)的企業(yè)是通過調(diào)用第三方的接口實(shí)現(xiàn)，其和人臉識(shí)別應(yīng)用服務(wù)提供商采取的安全措施可能不足以應(yīng)對人臉識(shí)別帶來的安全威脅，從而容易發(fā)生人臉數(shù)據(jù)泄露等安全事件.另外網(wǎng)絡(luò)安全生態(tài)環(huán)境持續(xù)惡化，一些不法分子攻擊系統(tǒng)漏洞也會(huì)時(shí)有發(fā)生，因此人臉數(shù)據(jù)庫泄露事件也屢見不鮮.

4 人臉識(shí)別“易破解”監(jiān)管研究

為了有效防范人臉識(shí)別“易破解”帶來的風(fēng)險(xiǎn)和挑戰(zhàn)，需要從保障公眾知情權(quán)、完善法律法規(guī)政策、制定人臉識(shí)別安全標(biāo)準(zhǔn)、構(gòu)建人臉識(shí)別應(yīng)用監(jiān)管體系、建立行業(yè)組織鼓勵(lì)行業(yè)自律5個(gè)方面來進(jìn)行規(guī)避，以營造良好的人臉識(shí)別行業(yè)生態(tài)發(fā)展環(huán)境[12].

4.1 保障公眾知情權(quán)

公共場合在采集人臉數(shù)據(jù)時(shí)，應(yīng)公開明確告知被采集人，以便不愿被采集人臉數(shù)據(jù)的人避開這些區(qū)域.此外，人臉識(shí)別相關(guān)應(yīng)用在采集人臉數(shù)據(jù)前應(yīng)當(dāng)告知被采集人其人臉數(shù)據(jù)的用途和可能帶來的風(fēng)險(xiǎn)，以保障用戶享有知情權(quán)和選擇權(quán).同時(shí)若用戶不想繼續(xù)讓人臉識(shí)別應(yīng)用留存使用其人臉數(shù)據(jù)時(shí)，應(yīng)用也應(yīng)該提供一定的刪除渠道，保證用戶能夠及時(shí)刪除其人臉數(shù)據(jù)，確保用戶的刪除權(quán).另外，針對人臉數(shù)據(jù)易濫用、人臉識(shí)別“易破解”等問題，人臉識(shí)別應(yīng)用主體需引導(dǎo)告知用戶要謹(jǐn)慎開通具有“刷臉”功能的相關(guān)應(yīng)用，特別是涉及資金支付、金融認(rèn)證[13]等需要開通人臉識(shí)別的功能.用戶在使用人臉識(shí)別應(yīng)用時(shí)，若發(fā)現(xiàn)其開發(fā)單位為中小企業(yè)或不知名企業(yè)，更應(yīng)提高警惕性和安全防范意識(shí)，避免企業(yè)因安全防控技術(shù)手段不足所造成的個(gè)人隱私泄露和資金被盜刷的風(fēng)險(xiǎn).

4.2 完善法律法規(guī)監(jiān)管

人臉數(shù)據(jù)屬于公民的生物信息[14]，目前我國對公民生物信息保護(hù)的相關(guān)法律，包括網(wǎng)絡(luò)安全法、消費(fèi)者權(quán)益保護(hù)法以及最高法、最高檢、國務(wù)院頒布的相關(guān)司法解釋和規(guī)定中，在內(nèi)容上也僅是對個(gè)人信息在收集、使用、存儲(chǔ)、傳輸?shù)拳h(huán)節(jié)進(jìn)行了一些原則性規(guī)定，而缺少關(guān)于人臉識(shí)別在內(nèi)的個(gè)人生物信息相關(guān)法律法規(guī).因此應(yīng)當(dāng)盡快完善包括人臉識(shí)別在內(nèi)的個(gè)人生物信息使用的法律法規(guī)，建立人臉識(shí)別技術(shù)應(yīng)用申報(bào)備案和審批制度.法律法規(guī)應(yīng)當(dāng)明確保護(hù)公民個(gè)人生物信息的具體范圍，并強(qiáng)化責(zé)任追究制度.同時(shí)法律法規(guī)需保障個(gè)人生物信息的安全規(guī)范使用，對泄露個(gè)人生物信息和濫用個(gè)人生物信息涉事者加大處罰力度.

4.3 制定人臉識(shí)別安全標(biāo)準(zhǔn)

隨著人臉識(shí)別技術(shù)逐漸走向成熟，使用人臉識(shí)別技術(shù)的應(yīng)用也越來越多.應(yīng)當(dāng)加快建立人臉識(shí)別技術(shù)所涉及的各類安全標(biāo)準(zhǔn)，包括保護(hù)個(gè)人生物信息的相關(guān)標(biāo)準(zhǔn)也應(yīng)盡快出臺(tái).建議從人臉識(shí)別自身的安全性角度考慮，并結(jié)合實(shí)際應(yīng)用過程中關(guān)于個(gè)人生物識(shí)別信息保護(hù)等方面，加快研制人臉識(shí)別的相關(guān)安全技術(shù)要求和管理要求、個(gè)人生物信息保護(hù)要求，并制定人臉識(shí)別安全應(yīng)用規(guī)范等一系列標(biāo)準(zhǔn).通過人臉識(shí)別安全標(biāo)準(zhǔn)可以指導(dǎo)行業(yè)依據(jù)標(biāo)準(zhǔn)來規(guī)范人臉識(shí)別技術(shù)的使用行為，提升人臉識(shí)別的自身安全保護(hù)水平，降低人臉識(shí)別實(shí)際使用中的安全風(fēng)險(xiǎn)，從而保障用戶個(gè)人生物信息的安全性.

4.4 構(gòu)建人臉識(shí)別應(yīng)用監(jiān)管體系

開展人臉識(shí)別應(yīng)用必要性評估制度.企業(yè)或者組織機(jī)構(gòu)在使用人臉識(shí)別技術(shù)前，需要對其實(shí)現(xiàn)方式、業(yè)務(wù)場景、數(shù)據(jù)收集使用情況，以及人臉識(shí)別在實(shí)際使用時(shí)預(yù)期的用戶規(guī)模等情況，開展人臉識(shí)別應(yīng)用必要性評估.在人臉識(shí)別技術(shù)正式投入使用前，通過評估的方式來強(qiáng)化事前監(jiān)管，從而降低人臉識(shí)別正式推廣使用過程所帶來的風(fēng)險(xiǎn).同時(shí)需建立完善人臉識(shí)別應(yīng)用在投入使用過程中的評估制度，并建立完善發(fā)生安全事件的事后問責(zé)制度.一方面，督促使用人臉識(shí)別技術(shù)的相關(guān)單位依據(jù)安全規(guī)范標(biāo)準(zhǔn)，配套必要的人臉識(shí)別安全保障措施，并定期開展安全評估工作.另一方面，對發(fā)生人臉數(shù)據(jù)泄露等安全事件的單位嚴(yán)肅問責(zé)，并加強(qiáng)相關(guān)人員的安全培訓(xùn)和給予工作上的指導(dǎo)幫助，同時(shí)不定期對涉事單位進(jìn)行回訪并持續(xù)強(qiáng)化監(jiān)督.

4.5 建立行業(yè)組織鼓勵(lì)行業(yè)自律

以人臉識(shí)別為代表的人工智能技術(shù)發(fā)展日新月異[15]，相關(guān)行業(yè)法律法規(guī)的制訂滯后于技術(shù)發(fā)展已成為新常態(tài).同時(shí)人臉識(shí)別在實(shí)際應(yīng)用時(shí)涉及多種技術(shù)且較為復(fù)雜，并面臨保障人臉數(shù)據(jù)安全難的問題.因此完全寄希望于政府來管理治理人臉識(shí)別所存在的問題不大可能也不太現(xiàn)實(shí).所以建立人臉識(shí)別行業(yè)聯(lián)盟類組織則顯得尤為必要.一方面，可以通過鼓勵(lì)行業(yè)組織使其發(fā)揮行業(yè)自律平臺(tái)的作用，來推動(dòng)各利益相關(guān)方共同制定采集使用人臉數(shù)據(jù)的行為準(zhǔn)則.另一方面，行業(yè)組織可以宣傳推廣人臉識(shí)別應(yīng)用中的最佳實(shí)踐案例，促進(jìn)人臉識(shí)別行業(yè)的安全保護(hù)意識(shí)，帶動(dòng)提升人臉識(shí)別關(guān)于個(gè)人特征信息的整體保護(hù)水平，為人臉識(shí)別創(chuàng)造一個(gè)良性的行業(yè)生態(tài)發(fā)展環(huán)境[16].

5 結(jié) 語

從清華大學(xué)RealAI研究團(tuán)隊(duì)最新的關(guān)于人臉識(shí)別的研究成果看出，目前人臉識(shí)別在我國手機(jī)應(yīng)用領(lǐng)域存在非常大的安全漏洞，對用戶和社會(huì)可能造成危害.用戶應(yīng)該提升關(guān)于人臉識(shí)別應(yīng)用的安全意識(shí).同時(shí)企業(yè)在使用人臉識(shí)別應(yīng)用時(shí)也應(yīng)充分評估其安全性，避免因技術(shù)漏洞讓不法分子有可乘之機(jī).政府機(jī)構(gòu)也應(yīng)充分發(fā)揮其監(jiān)管職能，為人臉識(shí)別應(yīng)用營造一個(gè)良性的生態(tài)環(huán)境.