人臉識別技術(shù)濫用問題及治理對策

■文/浙江公安科技研究所 朱曉瑜 趙靜嵐

關(guān)鍵字：人臉識別技術(shù) 技術(shù)濫用 治理

1 引言

隨著人工智能的快速發(fā)展和計算機(jī)視覺技術(shù)的不斷突破，人臉識別技術(shù)已完成商業(yè)化落地，應(yīng)用場景滲透到安防、金融、消費、生活、教育等各個領(lǐng)域，在給人們提供了高效的生活工作方式和便捷使用體驗的同時，人臉識別技術(shù)也給個人隱私保護(hù)帶來巨大挑戰(zhàn)。據(jù)《人臉識別應(yīng)用公眾調(diào)研報告(2020)》顯示，六成受訪者認(rèn)為人臉識別技術(shù)有被濫用的趨勢。當(dāng)前，公安機(jī)關(guān)及有關(guān)部門需要徹底厘清人臉識別技術(shù)的濫用風(fēng)險，梳理相關(guān)法律法規(guī)，引導(dǎo)規(guī)范使用人臉識別技術(shù)，建立相應(yīng)治理機(jī)制。

2 人臉識別技術(shù)應(yīng)用優(yōu)勢

人臉識別技術(shù)作為主流身份識別技術(shù)，具有以下的特點和優(yōu)勢：一是無接觸、無感知。用戶只需出現(xiàn)在攝像可視范圍內(nèi)就能應(yīng)用，杜絕了使用接觸感應(yīng)設(shè)備帶來的風(fēng)險和麻煩，譬如疫情期間大量使用的無接觸式人臉識別配合熱成像自動測溫設(shè)備，為疫情的精準(zhǔn)防控發(fā)揮了重要作用。同時，很多人臉識別設(shè)備與普通攝像機(jī)外形相似，多數(shù)用戶以為其是普通攝像機(jī)，習(xí)以為常，因此也具有隱蔽性。二是算法先進(jìn)、速度快。近年來，99%以上人臉識別系統(tǒng)的誤報率只有千萬分之一，不斷升級的人臉識別技術(shù)在蒙面、光源昏暗、面部多角度變化等復(fù)雜場景下，識別精度也可以遠(yuǎn)超人的肉眼水平。在一幀圖像中同時采集多張人臉進(jìn)行比對具有更高的識別速率，可以縮短采集時間，實現(xiàn)多人快速認(rèn)證。三是高度開放共享。開放共享可以促進(jìn)人臉識別技術(shù)的快速發(fā)展。大量研究人員、企業(yè)提供了人臉識別算法和系統(tǒng)深度學(xué)習(xí)框架的開源代碼和軟件，技術(shù)的共享、算法的開放加速了成果的轉(zhuǎn)化，帶動越來越多的中小企業(yè)加入到人臉識別的應(yīng)用行業(yè)中，構(gòu)建了多元合作的人臉識別技術(shù)生態(tài)體系。四是需求旺、應(yīng)用廣。市場對身份認(rèn)證技術(shù)的需求旺盛，各行各業(yè)對安全、可靠、方便的身份認(rèn)證技術(shù)的需求不斷擴(kuò)大，大量應(yīng)用場景涉及身份認(rèn)證，為身份認(rèn)證提供了更多便利和多樣化需求，特別是在復(fù)雜場景下身份的認(rèn)證應(yīng)用，推動了人臉識別技術(shù)大規(guī)模普及應(yīng)用。

目前，人臉識別技術(shù)在我國大量應(yīng)用場景已落地應(yīng)用，從金融、安防領(lǐng)域拓展至消費、生活、醫(yī)療、交通、學(xué)校、社區(qū)、企業(yè)等多個領(lǐng)域。常見的應(yīng)用包括：在警務(wù)工作方面，人臉識別技術(shù)在服務(wù)人口管理、案件偵破等公安實戰(zhàn)應(yīng)用方面提供了打擊防范違法犯罪的新手段和核查身份的新模式；在智能門禁方面，通過在出入口、閘機(jī)處部署人臉識別認(rèn)證系統(tǒng)，實現(xiàn)自動通行、無人值守，可以提高檢查核驗的通行效率和準(zhǔn)確性；在金融應(yīng)用方面，通過使用人臉識別技術(shù)，可以確定客戶身份，提升業(yè)務(wù)辦結(jié)效率，減輕銀行運營負(fù)擔(dān)，有效防控風(fēng)險；在移動支付方面，通過開通支付軟件的刷臉功能，可在不輸入密碼、不攜帶設(shè)備，僅憑刷臉方式驗證即可實現(xiàn)付款，使用戶獲得良好消費體驗，提升交易效率；在醫(yī)療服務(wù)行業(yè)，通過人臉識別對“票販子”等進(jìn)行“黑名單”預(yù)警，有效打擊了醫(yī)院“黃?！保徑饬司歪t(yī)難問題。

3 人臉識別技術(shù)濫用情況

人臉數(shù)據(jù)作為身份信息具有不可更改的特點，一旦泄露后，不法分子可借助深度偽造技術(shù)實現(xiàn)個人身份篡改、個人信息偽造、人臉畫面自動生成，偽造的視頻真假難辨。當(dāng)前，基于人臉的身份認(rèn)證可以通過人臉偽造技術(shù)被繞過，視頻及圖片中的人臉也可以由人臉偽造技術(shù)形成，對人身、財產(chǎn)安全以及社會生活帶來嚴(yán)重的風(fēng)險隱患，同時對視頻舉證、新聞傳播的真實性帶來一定的挑戰(zhàn)。當(dāng)前，人臉識別技術(shù)濫用情況，可以歸納為以下四類：

3.1 非授權(quán)濫用

隨著人臉識別技術(shù)和大數(shù)據(jù)技術(shù)應(yīng)用的普及，在用戶不知情的情況下全量收集人臉數(shù)據(jù)比對處理，滿足商業(yè)應(yīng)用。據(jù)2021年央視“3.15”晚會報道，某衛(wèi)浴門店安裝的具有人臉識別功能的攝像頭，可以在客戶毫不知情的情況下抓取人臉數(shù)據(jù)，用于分析客戶的訪問記錄從而實現(xiàn)精準(zhǔn)營銷。又如前段時間曝光的房產(chǎn)公司為了區(qū)分售房渠道，識別客戶是否屬于首次到訪享受優(yōu)惠等目的，對到訪客戶進(jìn)行人臉識別，實現(xiàn)給中介利潤分成和銷售優(yōu)惠等措施。這些人臉識別都是在客戶未知及非授權(quán)情況下實施的，屬于非法獲取個人信息數(shù)據(jù)，侵害了他人隱私權(quán)。

3.2 低安全濫用

從數(shù)據(jù)全生命周期角度而言，人臉識別技術(shù)應(yīng)用包含人臉采集、傳輸、存儲、使用、銷毀多個環(huán)節(jié)，每個環(huán)節(jié)都有可能出現(xiàn)數(shù)據(jù)泄露。由于應(yīng)用人臉識別技術(shù)的企業(yè)安全防范能力參差不齊，部分企業(yè)數(shù)據(jù)保護(hù)意識不強(qiáng)，無法做到人臉數(shù)據(jù)全生命周期的安全防護(hù)。例如，在“智慧安防小區(qū)”建設(shè)中，由于建設(shè)主體復(fù)雜，有些物業(yè)公司為節(jié)約成本，直接將人臉數(shù)據(jù)保存在互聯(lián)網(wǎng)服務(wù)器上，而且缺乏安全管理和安全防護(hù)措施，黑客可以輕易獲取人臉數(shù)據(jù)。還有內(nèi)部管理混亂的問題，管理者可以輕易將掌握的人臉識別全量數(shù)據(jù)導(dǎo)出后拿到社會上交易。

3.3 超倫理濫用

人臉識別技術(shù)與其他人工智能分析技術(shù)相結(jié)合，有可能會涉及道德倫理問題。例如，人臉識別技術(shù)與體態(tài)識別技術(shù)、面部表情識別技術(shù)相結(jié)合后可以識別并監(jiān)測發(fā)呆、打瞌睡、玩手機(jī)等行為，個別學(xué)校通過該技術(shù)收集分析學(xué)生的諸如微表情、抬頭率、行為姿態(tài)等，最后經(jīng)統(tǒng)計分析得到學(xué)習(xí)效果指數(shù)、專注度指數(shù)、行為數(shù)據(jù)等，并將分析數(shù)據(jù)提交給老師和家長，對學(xué)生的人格尊嚴(yán)造成傷害。甚至有些人臉識別技術(shù)可以分析個人性取向，嚴(yán)重侵犯了個人隱私。

3.4 非必要濫用

為了博取眼球，有些單位在非必要場景應(yīng)用人臉識別技術(shù)，存在著“殺雞用牛刀”的情況。例如，一些地方推出“刷臉”垃圾桶、“刷臉”衛(wèi)生紙設(shè)備，將采集的敏感數(shù)據(jù)應(yīng)用于這樣的場景，極易引起普通用戶的不滿。

4 人臉識別技術(shù)濫用原因分析

造成人臉識別技術(shù)濫用存在多方面原因，主要有以下幾點：

4.1 法律體系不完善

我國現(xiàn)已頒布的《民法典》《網(wǎng)絡(luò)安全法》《刑法》《數(shù)據(jù)安全法》等法律文件中的個人信息保護(hù)條款已經(jīng)初步構(gòu)建了具有我國特色、與我國信息化發(fā)展相適應(yīng)的個人信息保護(hù)制度體系，但可操作性不強(qiáng)。新版國家標(biāo)準(zhǔn)《個人信息安全規(guī)范》對生物識別信息的收集、使用、存儲等作了針對性的要求和建議，但其僅為推薦性國家標(biāo)準(zhǔn)，不具有強(qiáng)制效力。當(dāng)前，我國暫時沒有專門的法律來規(guī)范人臉數(shù)據(jù)的收集和使用，《個人信息保護(hù)法（草案）》已對人臉數(shù)據(jù)的處理和保護(hù)做出了較為完整的考慮，但尚未正式頒布。

4.2 信息安全保護(hù)職責(zé)不明確

雖然國家已有信息安全保護(hù)法律法規(guī)及標(biāo)準(zhǔn)體系，特別是安全等級保護(hù)體系，但缺少統(tǒng)一的實施管理機(jī)構(gòu)，如工信部、網(wǎng)信辦、公安部、國家工商總局、商務(wù)部、中國人民銀行等部門，都承擔(dān)著對組織和個人信息安全的監(jiān)管職責(zé)，但卻沒有專門的執(zhí)法部門進(jìn)行統(tǒng)一管理。由于信息安全保護(hù)職責(zé)不明確，各個部門管理的范圍不同、實施的標(biāo)準(zhǔn)不同，容易產(chǎn)生監(jiān)管內(nèi)容重疊、監(jiān)管死角、追責(zé)投訴困難等，導(dǎo)致人臉識別技術(shù)濫用問題難以遏制，個人信息安全問題依然突出，法律法規(guī)難以發(fā)揮作用。

4.3 個人信息保護(hù)意識淡薄

個人對人臉數(shù)據(jù)的自我保護(hù)意識不強(qiáng)，知道被侵犯了，不知道去找誰維權(quán)或懶得維權(quán)。大量個人手機(jī)信息已被不良中介買賣了很多遍，導(dǎo)致每天都會接到各種推銷貸款、房產(chǎn)的騷擾電話。另外，人臉數(shù)據(jù)采集方和用戶地位不對等，用戶在第一次安裝某個APP時，往往不會認(rèn)真閱讀有關(guān)個人信息采集使用的“隱私授權(quán)協(xié)議”，但不點“同意”則無法繼續(xù)安裝也不能使用APP，導(dǎo)致用戶“被迫同意”，變成“魚肉”任人宰割。某些公司及相關(guān)經(jīng)營者法律意識淡薄，以為數(shù)據(jù)在自己手上可以隨意處置，想怎么使用就怎么使用，想賣給誰就賣給誰，進(jìn)而造成了信息數(shù)據(jù)被濫用的亂象。

4.4 人臉識別技術(shù)低門檻

為促進(jìn)人臉識別技術(shù)的發(fā)展，打破技術(shù)壁壘，大量企業(yè)提供了人臉識別算法、開源代碼和軟件接口，大大降低了技術(shù)應(yīng)用的門檻和成本。開源代碼的發(fā)布，雖然促使了人臉識別技術(shù)應(yīng)用的創(chuàng)新和繁榮，但也意味著當(dāng)前人臉識別軟件的質(zhì)量參差不齊，安全性存在巨大隱患。同時，一些企業(yè)由于受資金和人力限制，在安全方面投入較少，導(dǎo)致普遍缺乏與人臉識別能力相匹配的數(shù)據(jù)傳輸及數(shù)據(jù)存儲的保護(hù)能力。

5 防范人臉識別技術(shù)濫用的對策

人臉數(shù)據(jù)的保護(hù)和對人臉識別技術(shù)監(jiān)管已成為全球性問題，發(fā)達(dá)國家已制定許多規(guī)制措施。目前，最有代表性的應(yīng)對策略有兩類：一是禁止使用策略。比如美國舊金山、波士頓等城市，在尚未找到有效保護(hù)人臉數(shù)據(jù)絕對安全方法前，采取保守策略，禁止執(zhí)法機(jī)構(gòu)和其他政府部門使用人臉識別技術(shù)，美國波特蘭市禁止企業(yè)在公共場所使用該技術(shù)，美國紐約州暫時禁止學(xué)校使用該技術(shù)。二是嚴(yán)格限制使用的策略。例如，美國聯(lián)邦參議院提出的《商業(yè)面部識別隱私法案》、華盛頓州《人臉識別服務(wù)法》等，均要求按照合理使用信息原則對該技術(shù)使用的場景和方式進(jìn)行限制。又如歐盟的《通用數(shù)據(jù)保護(hù)條例》（簡稱GDPR）規(guī)定，生物數(shù)據(jù)的處理應(yīng)遵循“原則禁止，特殊例外”的原則，即除一些特殊情況外，諸如數(shù)據(jù)主體的同意，或者為了公共利益、科學(xué)研究、統(tǒng)計目的等，原則上禁止使用人臉識別技術(shù)。GDPR通過高額的罰單、嚴(yán)格的條款來保護(hù)用戶人臉數(shù)據(jù)的收集和使用，從而實現(xiàn)對人臉識別技術(shù)的規(guī)制。

區(qū)別于歐美國家的嚴(yán)格限制或禁止策略，我們應(yīng)該把握以下原則：一方面要積極鼓勵人臉識別技術(shù)應(yīng)用；另一方面也有嚴(yán)格限制人臉識別技術(shù)的濫用。按照“積極審慎應(yīng)用，嚴(yán)格保護(hù)隱私”原則，促使人臉識別技術(shù)積極推動數(shù)字化改革，最大程度保護(hù)人臉數(shù)據(jù)安全，找到應(yīng)用和保護(hù)這兩者的平衡點，提出如下對策：

5.1 完善人臉數(shù)據(jù)保護(hù)的法律政策

扼制濫用風(fēng)險的關(guān)鍵是完善相關(guān)監(jiān)管制度和法律法規(guī)。首先，應(yīng)從立法層面對人臉識別技術(shù)的使用加以規(guī)制，通過出臺《個人信息保護(hù)法》《數(shù)據(jù)安全法》，明確人臉數(shù)據(jù)采集處理應(yīng)當(dāng)遵循的原則、個人在其過程中享有的權(quán)利、對濫用行為的制裁和懲罰、承擔(dān)人臉數(shù)據(jù)保護(hù)職能的執(zhí)法機(jī)構(gòu)、人臉數(shù)據(jù)共享和流通的相關(guān)規(guī)則。同時，還必須給新技術(shù)的發(fā)展和數(shù)據(jù)的流動共享留有空間。其次，執(zhí)法層應(yīng)設(shè)立專門的監(jiān)管機(jī)構(gòu)，結(jié)合政府?dāng)?shù)字化轉(zhuǎn)型的契機(jī)，對政府及非政府機(jī)構(gòu)使用人臉數(shù)據(jù)在采集、傳輸、存儲、使用和銷毀進(jìn)行全生命周期監(jiān)督和管理，融入數(shù)字化改革大局。監(jiān)管機(jī)構(gòu)需廣泛收集人臉識別濫用存在的問題，響應(yīng)群眾對違規(guī)收集個人信息的訴求，及時處理技術(shù)濫用的典型案例和突出問題。

5.2 不斷發(fā)揮公安機(jī)關(guān)對濫用行為的監(jiān)管職責(zé)

《網(wǎng)絡(luò)安全法》賦予了公安機(jī)關(guān)網(wǎng)絡(luò)安全保護(hù)和監(jiān)督管理的職責(zé)。公安機(jī)關(guān)應(yīng)針對相關(guān)企業(yè)網(wǎng)絡(luò)安全意識淡薄，人臉數(shù)據(jù)過度采集，未按照網(wǎng)絡(luò)安全等保標(biāo)準(zhǔn)建設(shè)人臉應(yīng)用系統(tǒng)等現(xiàn)象，不斷探索具體的實施細(xì)則，定期開展清理整治工作，指導(dǎo)督促企業(yè)加強(qiáng)信息安全管理，落實網(wǎng)絡(luò)安全等保制度，對人臉設(shè)備廠商、人臉識別技術(shù)企業(yè)、“智慧安防小區(qū)”建設(shè)廠商等重點單位深入開展集中整治，聚焦人臉采集、數(shù)據(jù)存儲、企業(yè)安全管理制度等關(guān)鍵環(huán)節(jié)，依法查處建設(shè)應(yīng)用中存在的違法情形，規(guī)范人臉數(shù)據(jù)采集行為，增強(qiáng)數(shù)據(jù)安全防護(hù)能力，切實維護(hù)個人信息安全。此外，公安機(jī)關(guān)在“智慧安防小區(qū)”建設(shè)與應(yīng)用中應(yīng)注重保護(hù)人臉數(shù)據(jù)等個人敏感信息，按照數(shù)據(jù)分級分類管理模式嚴(yán)控人臉等涉及隱私數(shù)據(jù)的分析應(yīng)用，完善平臺信息查詢權(quán)限配置和信息資料使用登記制度，加強(qiáng)日常信息安全、網(wǎng)絡(luò)安全、傳輸安全、邊界接入防護(hù)管理，定期開展等級保護(hù)工作，實現(xiàn)數(shù)據(jù)安全可控，數(shù)據(jù)流向可知，數(shù)據(jù)泄露可追溯。

5.3 提升行業(yè)自律和個人信息保護(hù)意識

一是掌握人臉識別技術(shù)的相關(guān)企業(yè)要慎重向購買者銷售相關(guān)技術(shù)或產(chǎn)品。對有明確交互要求的人臉識別產(chǎn)品（如人臉門禁、支付識別等），一般被采集者都會知曉，會履行同意程序，風(fēng)險相對較低。但對無需交互的人臉采集攝像機(jī)，不良商家往往不會履行告知同意程序，因此應(yīng)該嚴(yán)格限制銷售無需交互的人臉識別產(chǎn)品。二是不斷加強(qiáng)公民個人信息保護(hù)意識的宣傳。提醒引導(dǎo)用戶在涉及到人臉數(shù)據(jù)提供時，應(yīng)詳細(xì)了解人臉采集的目的，收集處理者采用的數(shù)據(jù)安全保護(hù)技術(shù)、數(shù)據(jù)處理方法、數(shù)據(jù)存儲時間等，在遇到個人權(quán)益被侵害時，應(yīng)收集證據(jù)并向監(jiān)管方求助，運用法律武器進(jìn)行自我保護(hù)。三是建立相應(yīng)的行業(yè)自律組織。實行行業(yè)自律監(jiān)管機(jī)制，制定相關(guān)標(biāo)準(zhǔn)，推動相關(guān)行業(yè)建立和完善制度、規(guī)范和體系，建立統(tǒng)一的安全和責(zé)任底線，明確采集目的，遵守嚴(yán)格的知情同意原則，規(guī)范人臉數(shù)據(jù)傳輸、儲存的加密方式和數(shù)據(jù)保存期限，使行業(yè)自律機(jī)制成為約束企業(yè)自身的人臉信息收集和使用行為的常態(tài)化監(jiān)督管理手段。

5.4 不斷創(chuàng)新數(shù)據(jù)安全保護(hù)技術(shù)

防止人臉識別技術(shù)的濫用，不僅需要加強(qiáng)法律手段監(jiān)管，也需要技術(shù)上的創(chuàng)新。一是利用多方計算、同態(tài)加密和聯(lián)邦計算等安全方式實現(xiàn)人臉數(shù)據(jù)完全加密，構(gòu)建智能化的人臉識別應(yīng)用框架，實現(xiàn)不提供人臉原始數(shù)據(jù)，只提供模型、摘要數(shù)據(jù)或結(jié)構(gòu)化數(shù)據(jù)，使人臉數(shù)據(jù)可用、不可見、不可存，從而確保數(shù)據(jù)使用價值的同時實現(xiàn)人權(quán)獨立，保護(hù)個人隱私，保證人臉數(shù)據(jù)安全。二是利用數(shù)字水印、區(qū)塊鏈等數(shù)字內(nèi)容溯源技術(shù)，構(gòu)建人臉數(shù)據(jù)安全保護(hù)的可信體系，有力保障人臉數(shù)據(jù)內(nèi)容真實、來源安全，防止人臉篡改和深度偽造技術(shù)不斷發(fā)展對國家安全、個人安全帶來的危害。三是從保護(hù)用戶對個人信息的所有權(quán)、增強(qiáng)用戶對個人信息的控制權(quán)角度出發(fā)，借助基于區(qū)塊鏈的數(shù)據(jù)確權(quán)和共享解決方案，制定有關(guān)收集、存儲和分發(fā)人臉數(shù)據(jù)的規(guī)則并寫入智能合約，對數(shù)據(jù)產(chǎn)生、使用和銷毀進(jìn)行全生命周期跟蹤管理，把人臉數(shù)據(jù)的所有權(quán)和控制權(quán)歸還用戶，降低個人信息的泄露風(fēng)險、改變數(shù)據(jù)流通和共享方式。四是利用人臉信息匿名化技術(shù)，在非身份認(rèn)證場合下應(yīng)用人臉時對人臉數(shù)據(jù)實行去身份處理，匿名后的人臉保留了臉部屬性、不可還原，平衡了隱私和人臉數(shù)據(jù)的可用性，對人臉數(shù)據(jù)進(jìn)行有效分析的同時，又保證人臉對應(yīng)的個人身份信息的安全。

6 結(jié)語

人臉識別技術(shù)是一把“雙刃劍”，如何規(guī)范使用人臉識別技術(shù)，是大數(shù)據(jù)時代個人信息保護(hù)和數(shù)據(jù)安全的新課題。需要不斷更新完善法律體系、不斷研發(fā)信息保護(hù)技術(shù)，而法律法規(guī)和信息保護(hù)技術(shù)的更新常常落后于新技術(shù)的發(fā)展，因此，為讓新技術(shù)繼續(xù)造福社會、服務(wù)社會，需要多方面共同發(fā)力，加強(qiáng)個人信息保護(hù)的宣傳工作，強(qiáng)化行業(yè)自律，制定自律公約，不斷提高政府、行業(yè)的責(zé)任意識、規(guī)范意識，提高個人的信息保護(hù)意識，嚴(yán)密全生命周期的人臉數(shù)據(jù)保護(hù)工作，筑牢人臉識別技術(shù)濫用的防線。