人臉識別技術(shù)的應(yīng)用風(fēng)險及其防控研究

馬世順

（中國人民公安大學(xué)，北京 100038）

一、問題的提出

人臉識別（Face Recognition）是一種基于公眾個體的面部特征信息進(jìn)行身份識別驗證的新興技術(shù)，它憑借便捷性、可擴展性和非侵?jǐn)_性等獨特優(yōu)勢，成為人工智能領(lǐng)域最重要的生物識別技術(shù)之一，全方位形塑著社會的運行方式和生產(chǎn)生活模式，宣告著“刷臉”時代的來臨。根據(jù)MarketstandMarkets 發(fā)布的全球人臉識別市場相關(guān)報告，預(yù)計全球人臉識別市場規(guī)模在2024 年將達(dá)到79 億美元。在國內(nèi)方面，根據(jù)前瞻產(chǎn)業(yè)研究院預(yù)計，在未來五年中國人臉識別市場規(guī)模將保持23%的平均復(fù)合增長速度，到2024 年市場規(guī)模將突破100 億元。[1]巨大的市場規(guī)模和高位的增長速度使人臉識別技術(shù)在諸多行業(yè)領(lǐng)域落地生根，為產(chǎn)業(yè)經(jīng)濟的發(fā)展做出了重要貢獻(xiàn)。截至2021 年12 月，據(jù)企查查數(shù)據(jù)統(tǒng)計，全國共有15223 家企業(yè)的名稱、產(chǎn)品、經(jīng)營范圍涵蓋“人臉識別”，其中2019 年為近年來人臉識別企業(yè)登記注冊數(shù)量的頂峰，全年共計登記注冊2332 家。[2]人臉識別技術(shù)被廣泛應(yīng)用于諸多領(lǐng)域。

然而，人臉識別技術(shù)的井噴式發(fā)展在帶來諸多紅利的同時也陷入了“風(fēng)險的樊籠”，隱藏在人臉識別技術(shù)背后的諸多風(fēng)險也逐漸引發(fā)了公眾的關(guān)注和隱憂。2019 年2月，提供人臉檢測和人群分析服務(wù)的中國科技公司SenseNets（深網(wǎng)視界）的人臉識別數(shù)據(jù)庫發(fā)生數(shù)據(jù)泄露，致使約256 萬用戶的高度敏感個人信息能夠不受限制被訪問。[3]小鵬汽車銷售服務(wù)有限公司通過安裝具有人臉識別功能的攝像設(shè)備在其旗下門店，在2021 年1 月到6 月，共偷拍采集上傳人臉照片461623 張。[4]除此之外，在2021年“3·15”晚會中曝光的科勒衛(wèi)浴、寶馬4S 店、MaxMara 等商店安裝人臉識別攝像頭，收集海量人臉信息[5]以及多地售樓處濫用人臉識別，偷拍人臉照片[6]、眾多主流APP 違規(guī)采集人臉信息[7]的新聞層出不窮，社會公眾對人臉識別技術(shù)安全風(fēng)險的議題愈發(fā)關(guān)切。同時，現(xiàn)代社會技術(shù)風(fēng)險的耦合性和高度不確定性等特征以及個人面部識別信息所具有的獨一無二、難以更改的物理屬性使得風(fēng)險的危害后果一旦出現(xiàn)，將造成巨大的損失。如果放任人臉識別技術(shù)在防控真空的狀態(tài)下快速發(fā)展，風(fēng)險發(fā)生的可能性及危害性很可能伴隨時間的推移呈現(xiàn)指數(shù)式的增長。鑒于此，本文將系統(tǒng)分析人臉識別技術(shù)應(yīng)用風(fēng)險，以期規(guī)范人臉識別技術(shù)的應(yīng)用，緩解新興技術(shù)發(fā)展與風(fēng)險防控工作的矛盾，回應(yīng)當(dāng)前防范化解重大風(fēng)險、建設(shè)更高水平平安中國的國家戰(zhàn)略。

二、人臉識別技術(shù)應(yīng)用風(fēng)險的類型化分析

人臉識別技術(shù)作為一項新興生物識別技術(shù)，其本質(zhì)上仍是服務(wù)于人類社會的工具。當(dāng)前，諸多經(jīng)濟主體在經(jīng)濟利益的驅(qū)動下過分追求人臉識別的工具屬性，忽視人臉識別所蘊含的價值理性。人臉識別技術(shù)在不受規(guī)制與約束的情況下將可能形成技術(shù)失控和技術(shù)僭越，引發(fā)社會失序，危及社會治安秩序。因此，人臉識別技術(shù)應(yīng)用所帶來的諸多風(fēng)險亟待重視。歸納起來，人臉識別技術(shù)應(yīng)用風(fēng)險主要體現(xiàn)在技術(shù)風(fēng)險、侵權(quán)風(fēng)險以及社會治理風(fēng)險等三個方面。

（一）技術(shù)風(fēng)險

技術(shù)風(fēng)險主要是技術(shù)在發(fā)展尚不完善的情況下便應(yīng)用于實踐，因技術(shù)所固有的缺陷而帶來的一系列風(fēng)險。

1.精準(zhǔn)識別的穩(wěn)定性欠缺。人臉識別的精確度受到膚色、姿態(tài)以及光照三重因素的制約，當(dāng)上述因素發(fā)生變化時，人臉識別的精確度將會受到一定影響，從而產(chǎn)生誤識與拒識。首先，就膚色特征而言，受系統(tǒng)膚色偏見、裝扮以及光照的影響，導(dǎo)致識別精確度不確定性較大。其次，被識別人的姿態(tài)也是影響人臉識別精確度的重要因素，不同面向的姿態(tài)拍攝視角會對不同年齡段的人群產(chǎn)生不同的識別準(zhǔn)確度，造成人臉識別的精準(zhǔn)度降低。最后，在光照的影響下，人臉圖像灰度分布會產(chǎn)生相應(yīng)變化，進(jìn)而影響被識別人所呈現(xiàn)出來的輪廓樣態(tài)，引起面部圖像變化，易使人臉識別產(chǎn)生錯誤識別與拒識。在美國公民自由聯(lián)盟（ACLU）的一次測試中，亞馬遜人臉識別產(chǎn)品Rekognition將28 名國會議員判定為此前被逮捕的罪犯，[8]這表明該項技術(shù)精準(zhǔn)識別的穩(wěn)定性欠缺。

2.算法偏見?！皟r值觀和欲望會影響我們的選擇，而模型（算法）正是利用數(shù)字工具包裝出來的各種主要觀點?！盵9]人臉識別算法遵循技術(shù)治理的邏輯自治，其自然受到社會價值觀念的諸多影響。在人臉識別技術(shù)的研發(fā)、面部數(shù)據(jù)庫的建立以及分析參數(shù)、模型系統(tǒng)的調(diào)試過程中，研發(fā)者與調(diào)試人員不可避免地會將自己的意志嵌入其中，技術(shù)的背后是研發(fā)人員所呈現(xiàn)出的價值觀念。美國國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）研究顯示，世界上許多頂尖的面部識別算法都存在年齡、種族和民族偏見，在某些情況下，亞裔和非裔美國人被錯誤識別的概率是白人的100 倍。[10]因此，人臉識別應(yīng)用由于使用的算法復(fù)雜性高、算法存在偏見等原因，均可能造成嚴(yán)重的識別錯誤，引發(fā)相關(guān)風(fēng)險。

（二）侵權(quán)風(fēng)險

人臉面部信息屬于生物識別信息的子類，根據(jù)《個人信息保護(hù)法》第28 條之規(guī)定，針對人臉面部信息的處理應(yīng)適用敏感個人信息的處理規(guī)則。目前，具備人臉識別功能的拍照與攝影設(shè)備具有遠(yuǎn)程捕獲人臉面部信息的能力且被廣泛應(yīng)用，但公民個人卻經(jīng)常無從知曉何時何地被收集了人臉信息，敏感個人信息處理的知情同意規(guī)則常被架空。人臉識別技術(shù)以大數(shù)據(jù)分析作為其基礎(chǔ)，而大數(shù)據(jù)對隱私等權(quán)益的侵犯與生俱來，人臉面部信息極有可能面臨泄露的風(fēng)險，使公民的個人信息權(quán)益遭受侵害。2019 年8月，生物科技公司Suprema 的數(shù)據(jù)庫發(fā)生泄露，其中儲存了超100 萬人的面部和指紋信息。[11]

同時，由于人臉特征的唯一不變性，人們很容易根據(jù)面部信息準(zhǔn)確地定位到某一個人，這在某些特殊情況下將導(dǎo)致該個人的社會評價降低，人格權(quán)益被侵犯。2019 年9月，我國一款人臉識別應(yīng)用“ZAO”風(fēng)靡一時，“AI 換臉”開始被越來越多人所熟知。其實早在2017 年國外的AI 換臉應(yīng)用FakeApp 就已經(jīng)出現(xiàn)，此種“深度偽造”（Deepfakes）技術(shù)被應(yīng)用于色情視頻換臉以及惡意欺詐視頻制作等領(lǐng)域，對個人人格權(quán)益造成極大威脅。

此外，人臉信息泄露所涉及的不僅限于面部信息。人臉信息作為社會交往的識別符，具有身份認(rèn)證的功能，其背后囊括了個人的一系列信息，其中包括許多個人隱私。如果人臉信息被泄露，不法分子通過人臉信息關(guān)聯(lián)個體其他信息，將使個人隱私安全岌岌可危。

（三）社會治理風(fēng)險

人臉識別技術(shù)作為一項技術(shù)工具，其非法運用易引發(fā)社會治理風(fēng)險。人臉數(shù)據(jù)、人臉信息作為敏感個人數(shù)據(jù)、信息，與個人的人身和財產(chǎn)安全休戚相關(guān)。人臉數(shù)據(jù)信息的高價值催生出一系列非法產(chǎn)業(yè)，人臉數(shù)據(jù)的非法流通日趨嚴(yán)重?！靶氯A視點”記者調(diào)查發(fā)現(xiàn)，一些網(wǎng)絡(luò)黑產(chǎn)從業(yè)者利用網(wǎng)絡(luò)交易平臺，批量倒賣非法獲取的人臉等身份信息和“照片活化”網(wǎng)絡(luò)工具及教程并公開售價人臉數(shù)據(jù)0.5元一份、教程工具35 元一套。[12]而上述人臉信息極有可能被不法分子用于虛假注冊、電信網(wǎng)絡(luò)詐騙等違法犯罪活動。

除此之外，隨著人臉數(shù)據(jù)的非法流通日益嚴(yán)重，黑色產(chǎn)業(yè)“過臉”應(yīng)運而生。所謂“過臉”是指以數(shù)據(jù)黑灰產(chǎn)業(yè)從業(yè)者為主的不法分子，幫助無法完成賬號實名認(rèn)證的人群完成實名認(rèn)證以獲得利益。近年來，諸多網(wǎng)絡(luò)服務(wù)商受相關(guān)法規(guī)的影響或基于業(yè)務(wù)上的需要紛紛推出賬號強制實名認(rèn)證，并將人臉認(rèn)證環(huán)節(jié)放入到軟件實名認(rèn)證中。此種強制實名認(rèn)證為需要大量實名賬號完成黑灰色業(yè)務(wù)的人群帶來不便，也為“過臉”產(chǎn)業(yè)提供了商機。

“過臉”產(chǎn)業(yè)需要大量人臉信息，因而“過臉”產(chǎn)業(yè)從業(yè)者需要向販賣人臉信息的人購買大量的人臉信息以維持生意，由此便形成了一個人臉數(shù)據(jù)非法交易的惡性循環(huán)，為社會治安治理工作帶來諸多隱患風(fēng)險。

三、人臉識別技術(shù)應(yīng)用風(fēng)險的防控路徑

面對人臉識別技術(shù)應(yīng)用過程中所產(chǎn)生的諸多風(fēng)險，如何進(jìn)行規(guī)制以平衡風(fēng)險防控與技術(shù)發(fā)展之間的矛盾是當(dāng)前亟待解決的新問題。風(fēng)險防控的目的是既要保護(hù)人臉識別產(chǎn)業(yè)的創(chuàng)新活力，又要規(guī)范人臉識別技術(shù)不被濫用，以確保治安秩序穩(wěn)定。

（一）完善人臉識別技術(shù)應(yīng)用的風(fēng)險防控規(guī)范

為實現(xiàn)對人臉識別技術(shù)應(yīng)用風(fēng)險的防控，面對當(dāng)前防控規(guī)范缺乏針對性與體系性的難題，應(yīng)結(jié)合人臉識別技術(shù)的發(fā)展，探索更為有效的法律規(guī)制路徑，為人臉識別技術(shù)應(yīng)用監(jiān)管提供依據(jù)。

1.發(fā)揮中央框架立法的指導(dǎo)功能。人臉識別技術(shù)應(yīng)用風(fēng)險的宏觀規(guī)制應(yīng)當(dāng)交由中央層面。人臉識別技術(shù)應(yīng)用風(fēng)險的監(jiān)管關(guān)涉技術(shù)研發(fā)主體、應(yīng)用主體以及監(jiān)管主體等多方主體的利益，涉及個人利益、行業(yè)利益以及公共利益之間的博弈，其背后更隱藏著國家層面對人臉識別技術(shù)產(chǎn)業(yè)的政策態(tài)度，因此應(yīng)交予中央層面進(jìn)行總體把握。此外，從立法權(quán)限來看，對人臉識別技術(shù)應(yīng)用風(fēng)險的監(jiān)管涉及法人、公民權(quán)利以及行政處罰等監(jiān)管措施，上述事項原則上應(yīng)當(dāng)由中央層面進(jìn)行規(guī)定。最后，當(dāng)前人臉識別技術(shù)產(chǎn)業(yè)正在快速發(fā)展，在未來的發(fā)展過程中可能會相繼暴露諸多問題，具有不確定性和復(fù)雜性，進(jìn)行詳盡法律規(guī)制的條件并不成熟，因此宜發(fā)揮中央層面框架立法的指導(dǎo)功能，比如設(shè)定風(fēng)險防控的基本目的、基本原則、相關(guān)程序性規(guī)定等。

2.支持地方立法進(jìn)行自主創(chuàng)新。當(dāng)前人臉識別技術(shù)產(chǎn)業(yè)的研發(fā)與應(yīng)用在全國各地尚不均衡，對人臉識別技術(shù)應(yīng)用風(fēng)險防控的回應(yīng)能力存在差別。相較于中央層面的宏觀性規(guī)制，局部規(guī)制更能結(jié)合本地方實際，規(guī)制效果更為直接明顯。其次，各地方通過地方性法規(guī)等規(guī)范性文件對人臉識別技術(shù)應(yīng)用風(fēng)險進(jìn)行防控，有助于各地方之間相互借鑒學(xué)習(xí)，并且能夠通過各地方的制度試錯為全國統(tǒng)一規(guī)制立法提供經(jīng)驗。因此，各地方宜在中央框架性規(guī)制下結(jié)合本地方實際進(jìn)行自主創(chuàng)新。

3.鼓勵企業(yè)制定內(nèi)部標(biāo)準(zhǔn)規(guī)范。人臉識別技術(shù)研發(fā)企業(yè)、應(yīng)用企業(yè)作為直接使用人臉識別技術(shù)的主體，在風(fēng)險感知、風(fēng)險防控方面具有不可替代的作用。因此，各企業(yè)宜在相關(guān)法律規(guī)定下制定更加嚴(yán)格的企業(yè)內(nèi)部標(biāo)準(zhǔn)規(guī)范，發(fā)揮風(fēng)險預(yù)防第一道防線的作用。

（二）實現(xiàn)人臉識別技術(shù)應(yīng)用風(fēng)險規(guī)制的多元主體協(xié)同共治

人臉識別技術(shù)應(yīng)用風(fēng)險的防控，除了建立高效的政府監(jiān)管機構(gòu)進(jìn)行執(zhí)法威懾之外，如果能從結(jié)構(gòu)上構(gòu)筑技術(shù)開發(fā)、應(yīng)用主體積極作為的組織體系，實現(xiàn)多元主體協(xié)同共治的風(fēng)險防控局面，無疑會事倍功半。

1.發(fā)揮公安機關(guān)在風(fēng)險防控中的核心作用。人臉識別技術(shù)濫用與人臉信息違法處置關(guān)涉公共安全和國家安全，必須發(fā)揮公安機關(guān)在人臉識別技術(shù)應(yīng)用風(fēng)險防控中的核心作用。根據(jù)《公共安全視頻圖像信息系統(tǒng)管理條例》（征求意見稿）第四條之規(guī)定，公安部門負(fù)責(zé)公共安全視頻圖像信息系統(tǒng)建設(shè)、使用的監(jiān)督管理工作。因此，公安機關(guān)應(yīng)對公共場所人臉識別設(shè)備及應(yīng)用情況進(jìn)行調(diào)查摸底，發(fā)現(xiàn)隱患及時責(zé)令整改。此外，應(yīng)開展常態(tài)化人臉識別技術(shù)濫用執(zhí)法，對違法行為形成高壓震懾。最后，對濫用人臉識別技術(shù)、違法使用人臉數(shù)據(jù)信息的相關(guān)人員應(yīng)當(dāng)依法處理，構(gòu)成犯罪的應(yīng)當(dāng)及時處置。

2.發(fā)揮行業(yè)協(xié)會的橋梁紐帶作用。鼓勵人臉識別技術(shù)產(chǎn)業(yè)建立行業(yè)協(xié)會，制定行業(yè)標(biāo)準(zhǔn)。由于人臉識別技術(shù)具有高度專業(yè)性的特點，在公安機關(guān)等國家公權(quán)部門中缺少相應(yīng)專業(yè)人才，對人臉識別技術(shù)的把握不及該行業(yè)的專業(yè)人員。因此，應(yīng)鼓勵建立行業(yè)協(xié)會，發(fā)揮行業(yè)協(xié)會的橋梁紐帶作用。

3.激勵技術(shù)研發(fā)主體與使用主體建立內(nèi)部治理結(jié)構(gòu)。風(fēng)險治理是一個各種功能相互協(xié)調(diào)配合的新型治理場域，借助技術(shù)研發(fā)主體與使用主體的獨特優(yōu)勢，實現(xiàn)多方主體協(xié)同共治，有助于強化人臉識別技術(shù)風(fēng)險防控效能。為推動技術(shù)研發(fā)主體與使用主體建立內(nèi)部治理結(jié)構(gòu)，筆者認(rèn)為可以探索嘗試以下方式：一是激勵誘導(dǎo)模式。例如，對內(nèi)部治理結(jié)構(gòu)完善的企業(yè)可以通過降低檢查頻率，給與政策支持等方式予以鼓勵。二是委托模式。例如，通過行政委托等方式將生物識別設(shè)備與系統(tǒng)定期檢測評估委托給內(nèi)部治理結(jié)構(gòu)完善的企業(yè)。

結(jié)語

人臉識別技術(shù)快速發(fā)展，產(chǎn)品和服務(wù)迭代迅速，應(yīng)用風(fēng)險也將呈現(xiàn)出新的樣態(tài)。國家安全和公共安全要求技術(shù)發(fā)展必須“向善”，只要監(jiān)管部門始終保持審慎態(tài)度，積極探求風(fēng)險防范新路徑，將工作做在前面，就一定能夠?qū)崿F(xiàn)動態(tài)風(fēng)險防控，防止風(fēng)險異化為現(xiàn)實危害。