論新興科技法律治理的范式迭代
——以人臉識(shí)別技術(shù)為例

許 可

“新興科技”（Emerging Technologies）與法律之間的緊張和互動(dòng)關(guān)系已成為法學(xué)的核心命題之一。從人際關(guān)系的可計(jì)算化到人的數(shù)據(jù)化，再到生活世界的虛擬化，新興科技不但革新了外部系統(tǒng)，也革新了我們自己。正是由于新興科技的自反性和非線性，它對(duì)人類社會(huì)與法律的挑戰(zhàn)才更加復(fù)雜而深刻。本文所聚焦的“人臉識(shí)別技術(shù)”（Facial Recognition Technology）恰是此種新興科技的典型例證。作為生物識(shí)別技術(shù)的子集，人臉識(shí)別技術(shù)是利用卷積神經(jīng)網(wǎng)絡(luò)自動(dòng)學(xué)習(xí)、局部二值模式（Local Binary Pattern）的強(qiáng)度影像（Intensity Images）技術(shù)、圖像序列技術(shù)（Video Sequences）、3D 信息技術(shù)等〔1〕，對(duì)靜態(tài)或視頻中的人臉圖像進(jìn)行特征提取與分類，從而用于個(gè)人的身份鑒別、驗(yàn)證與分析。與指紋識(shí)別、掌紋識(shí)別、虹膜識(shí)別、體態(tài)識(shí)別相比，人臉識(shí)別技術(shù)因其非接觸性、便利性、多維性而成為最廣泛使用的生物識(shí)別技術(shù)。在“自然人”邁向“數(shù)字人”的進(jìn)程中，人臉識(shí)別技術(shù)發(fā)揮著不可替代的作用，由此引發(fā)的對(duì)人之主體性的侵蝕也隨之成為法律關(guān)注的核心問題。與既有人臉識(shí)別的法學(xué)研究不同，本文試圖從“何為科技”的哲學(xué)追問入手，檢視不同科技觀念下的治理范式，進(jìn)而反觀以人臉識(shí)別技術(shù)為代表的新興科技治理，以期在范式革新和時(shí)代演進(jìn)中探尋更廣闊也更具啟發(fā)性的科技治理之道。

一、新興科技法律治理的經(jīng)典范式

目前，對(duì)“科技”的概念存在諸多理解，本文試圖從工具論、實(shí)質(zhì)論、建構(gòu)論的理論原型出發(fā)，刪繁就簡(jiǎn)地整合成如下三種科技治理范式。

（一）基于“科技工具論”的法律治理

“科技工具論”（Technological Instrumentalism）將科技視為服務(wù)于人類的工具。作為最契合社會(huì)常識(shí)的觀點(diǎn)〔2〕，科技工具論包含著兩個(gè)獨(dú)立但關(guān)聯(lián)的主張：一是科技是旨在滿足人類特定需要與目的的手段，因而它本身不包含任何價(jià)值，其既非惡非善，又可惡可善，沒有追求完美的理想，也無毀滅的邪惡；二是科技產(chǎn)生何種影響與其自身無關(guān)，而取決于人們?nèi)绾问褂盟?。所謂善惡并非科技的性質(zhì)，相反，其指向了使用者的行為?；诖?，法律通過一系列案件將“科技工具論”演繹為“科技中立原則”（Technology Neutrality）。在歷史上，這一原則于1908 年在美國(guó)懷特史密斯音樂出版公司訴阿波羅公司案中被提出?！?〕在該案中，原告聲稱阿波羅公司以樂譜形式出版的鋼琴卷軸侵犯了其音樂著作權(quán)，但法院最終判定：自動(dòng)轉(zhuǎn)軸鋼琴因操作者機(jī)械式地轉(zhuǎn)動(dòng)機(jī)器而發(fā)出聲音，只要技巧熟練，即可操作此設(shè)備演奏原本錄制在音樂紙片上的樂曲，此種技術(shù)并未侵害原告的著作權(quán)，因而駁回原告訴求?！?〕1984 年的索尼案進(jìn)一步明確了該原則。法院在判決中指出：打字機(jī)、攝像機(jī)、復(fù)印機(jī)等通用商品，從技術(shù)上說均對(duì)人們利用其實(shí)施的侵權(quán)行為有所幫助。但是，若把這種幫助看作充分的責(zé)任基礎(chǔ)，將會(huì)大大擴(kuò)張侵權(quán)法的適用范圍，法院不能僅因制造商應(yīng)當(dāng)知道侵權(quán)可能性的存在，就要求其承擔(dān)幫助侵權(quán)責(zé)任，否則必將阻礙商業(yè)和科技的發(fā)展。索尼案將“科技中立原則”具體化為“實(shí)質(zhì)性非侵權(quán)用途”規(guī)則，即對(duì)于“被廣泛用于合法的、不受爭(zhēng)議用途的技術(shù)”的研發(fā)者和產(chǎn)品的制造商并不對(duì)使用者的侵權(quán)行為擔(dān)責(zé)。由此，人們將這一案件視為技術(shù)和消費(fèi)者的勝利，科技中立原則也被看作技術(shù)時(shí)代的“大憲章”（Magna Carta）。①Sony Corp.of America，Inc.v.Universal City Studios，Inc.，464 U.S.（1984）.在TCL 互聯(lián)網(wǎng)電視著作權(quán)侵權(quán)案中，我國(guó)法院亦借鑒該原則，認(rèn)為互聯(lián)網(wǎng)電視機(jī)雖可作為信息網(wǎng)絡(luò)終端，但倘若其制造商并未參與侵權(quán)行為，則僅僅是一種工具的制造者和提供者，并不因此賠償損失。②北京市第二中級(jí)人民法院（2009）二中民初字第17910號(hào)民事判決書。

基于工具論的邏輯，法律所欲規(guī)制的絕非中立性的新興科技及其研發(fā)者，而直接指向了使用者。但是，新興科技產(chǎn)品/服務(wù)的提供者并不必然免責(zé)。一方面，在新興科技產(chǎn)品無法兌現(xiàn)其技術(shù)承諾時(shí)，即構(gòu)成“產(chǎn)品缺陷”，提供者應(yīng)承擔(dān)產(chǎn)品責(zé)任。以自動(dòng)駕駛汽車為例，車輛攝像頭、傳感器、雷達(dá)等感知系統(tǒng)功能障礙或安裝錯(cuò)誤，導(dǎo)致無法發(fā)現(xiàn)周圍物體、行人或車輛并發(fā)生碰撞即屬于“制造缺陷”；未充分預(yù)估駕駛?cè)丝赡芊艞墝?duì)車輛控制并做出安全預(yù)案，或具有深度自主學(xué)習(xí)能力的人工智能的決策行為無法控制，即屬于“設(shè)計(jì)缺陷”；生產(chǎn)者未對(duì)自動(dòng)駕駛系統(tǒng)算法進(jìn)行解釋說明，使消費(fèi)者對(duì)人工智能產(chǎn)生了盲目自信，即構(gòu)成“警示缺陷”〔5〕。另一方面，既然新興科技是提供者的工具，那么在提供者能夠預(yù)料和控制并促成或放任其使用效果時(shí)，即應(yīng)承擔(dān)因此發(fā)生的不利法律后果?！?〕此外，在上述責(zé)任機(jī)制無法高效、及時(shí)、充分填補(bǔ)損害時(shí)，可以引入責(zé)任保險(xiǎn)制度，進(jìn)行社會(huì)化的救濟(jì)，疫苗事故、核事故、自動(dòng)駕駛汽車的交通事故均是責(zé)任保險(xiǎn)的適用例證?！?〕

（二）基于“科技實(shí)質(zhì)論”的法律治理

與科技工具論相比，“科技實(shí)質(zhì)論”（Technological Substantivism）并不將科技看作無目的工具的集合，而是認(rèn)為科技是一種自主的、使人類適應(yīng)其目的的非人類系統(tǒng)。就此而言，不是人使用工具，而是工具在使用人，極端地說，人是科技的工具?！?〕我們不妨由淺入深地把握這一理論的意蘊(yùn)。首先，科技有著自身的性質(zhì)、力量和規(guī)則，其獨(dú)立于自然規(guī)律和社會(huì)規(guī)律之外，不但是諸多構(gòu)成模塊之間的自組織，也是自我創(chuàng)生的。借用經(jīng)濟(jì)學(xué)家阿瑟的說法，科技能夠繁殖、生長(zhǎng)、反應(yīng)和適應(yīng)周圍環(huán)境、攝入和釋放能量以保持自身。因此，它是有生命的有機(jī)體。〔9〕這說明，科技可以自身設(shè)定發(fā)展路線，趨于自我封閉和自我決定。其次，科技的獨(dú)立性反過來造就了一種具有特定政治模式的公共關(guān)系，發(fā)展出一種與科技相融的社會(huì)行動(dòng)和社會(huì)生產(chǎn)的社會(huì)形態(tài)。在理論脈絡(luò)上，該等實(shí)質(zhì)論將導(dǎo)向科技決定論，在歷史發(fā)展的過程中，顛覆性、根本性的新興科技必將對(duì)社會(huì)造成不可抗拒的決定性影響。最后，既然科技已成為展現(xiàn)“存在”的支配性方式，它自然也是我們生存的環(huán)境和“座架”（Ge-stell）。在科技的裹挾下，人不再是技術(shù)的主導(dǎo)者，而僅僅被動(dòng)參與其中，不但失去了控制，還失去了自由。

基于科技實(shí)質(zhì)論的理路，科技自身就應(yīng)被法律馴化，此即法律對(duì)科技的“管制模式”〔10〕。作為對(duì)科技中立的否定，管制模式將科技“人為工具化”，拒絕將科技的結(jié)構(gòu)、功能和社會(huì)反饋?zhàn)鳛槠湓u(píng)判標(biāo)準(zhǔn)，而是將國(guó)家目標(biāo)和社會(huì)觀念全面貫徹到科技之中，一旦科技不能滿足或與之沖突，法律就否定或限制其存在。例如，歐盟《人工智能法》草案明確禁止多種“不可接受風(fēng)險(xiǎn)”的人工智能技術(shù)，并對(duì)“高風(fēng)險(xiǎn)”人工智能技術(shù)設(shè)定嚴(yán)格要求。為防范科技這種“異物”引發(fā)人的“異化”，科技自研發(fā)開始，便在法律的調(diào)控之下。隨著人工智能的迭代，人類與科技之間的關(guān)系從“主體—客體”的服務(wù)變?yōu)橹黧w間的交流，使得新興科技的法律地位從“客體”逐漸轉(zhuǎn)向“主體”，一種新的法律管制構(gòu)想開始出現(xiàn)。2017 年《歐盟機(jī)器人民事責(zé)任法律規(guī)則》建議明確了“網(wǎng)絡(luò)物理系統(tǒng)、自主系統(tǒng)、智能自主機(jī)器人及其子類別的共同定義”，同時(shí)考慮為具有目的性系統(tǒng)的機(jī)器人賦予“電子人”身份。〔11〕盡管強(qiáng)人工智能遠(yuǎn)未到來，但為平衡研發(fā)者、生產(chǎn)商、所有者、使用者、第三人等主體之間利益，人們建議將部分高級(jí)人工智能體擴(kuò)張解釋為法律主體，從而對(duì)其設(shè)定義務(wù)、苛以責(zé)任或特別保護(hù)?！?2〕

（三）基于“社會(huì)建構(gòu)論”的法律治理

“社會(huì)建構(gòu)論”（Social Constructivism）反對(duì)科技的自我發(fā)展及其對(duì)社會(huì)的決定作用，轉(zhuǎn)而主張科技是社會(huì)建構(gòu)的產(chǎn)物。循此，從科技的構(gòu)思設(shè)計(jì)到產(chǎn)品應(yīng)用擴(kuò)散的整個(gè)過程中，經(jīng)濟(jì)、社會(huì)、政治、文化和意識(shí)形態(tài)等諸多因素共同參與并彼此調(diào)和?！?3〕就此而言，科技本身并非自在自為，相反，它應(yīng)被理解為不斷在社會(huì)選擇中變化著的“社會(huì)過程”，因而深深地嵌入社會(huì)之中?；诖?，社會(huì)建構(gòu)論以非本質(zhì)主義和歷史性的態(tài)度去檢視科技的脈絡(luò)，力求打開科技的黑箱，運(yùn)用社會(huì)學(xué)的方法分析不同行為者和社會(huì)群體參與科技形成的活動(dòng)，來考察社會(huì)是如何影響科技的形式和內(nèi)容。從強(qiáng)社會(huì)建構(gòu)論的視角看，一項(xiàng)科技沒有任何獨(dú)立的性質(zhì)、力量、效應(yīng)，如果它能有某種影響的話，那么這種影響必然來自社會(huì)的選擇，并在整體上處于社會(huì)控制之下?！?4〕

基于社會(huì)建構(gòu)論的洞見，法律對(duì)科技的回應(yīng)就要放寬視野，將與科技相關(guān)的所有社會(huì)群體的互動(dòng)和協(xié)商置于中心，由此衍生出哈貝馬斯意義上的“溝通性治理”〔15〕。詳言之，現(xiàn)代社會(huì)的新興科技已經(jīng)是一種潛在的破壞者，科技權(quán)力的邊界絕非如契約型政府那樣被一次性劃定，也并非如反思型政府一樣由科技系統(tǒng)自我劃定，而應(yīng)由民主立法過程決定和調(diào)整。因而，在治理新興科技時(shí)，國(guó)家應(yīng)為所有利害關(guān)系人的參與提供渠道，為公共推理與公私合作搭建制度平臺(tái)，力圖促使受到國(guó)家規(guī)制影響的個(gè)體或組織在審慎論辯基礎(chǔ)上作出決定。同時(shí)，考慮到科技弱勢(shì)群體在經(jīng)濟(jì)資源、政治機(jī)會(huì)和信息獲取上的欠缺，國(guó)家還應(yīng)進(jìn)行傾斜性的“賦權(quán)”（Empowerment），以實(shí)現(xiàn)真正意義上的審議和決定。相應(yīng)地，科技治理主要不是基于國(guó)家規(guī)制來直接協(xié)調(diào)社會(huì)活動(dòng)，而更多的是通過組織非國(guó)家主體的有效參與，確保社會(huì)政策的公共代表性以及相關(guān)機(jī)構(gòu)的可問責(zé)性。

二、基于經(jīng)典范式的人臉識(shí)別技術(shù)法律治理

科技的不同觀念令新興科技法律治理呈現(xiàn)出不同的面貌：科技工具論的法律治理以“科技使用者”以及特定情形下的“科技產(chǎn)品/服務(wù)提供者”為對(duì)象，主要通過侵權(quán)法、刑法等責(zé)任法在事后追究責(zé)任；科技實(shí)質(zhì)論的法律治理以“科技自身及其研發(fā)者”為對(duì)象，主要通過行為管制等行政法在事前和事中予以控制；社會(huì)建構(gòu)論的法律治理以“科技的各利益相關(guān)方”為對(duì)象，主要通過民主立法程序等憲法性規(guī)則確定整體架構(gòu)。為全面比較三種范式并將它們進(jìn)一步適用于人臉識(shí)別技術(shù)的治理，表1從治理主體、治理法律和治理階段三方面梳理了三種范式各自的主要特征。

表1 三種科技觀念下的法律治理

（一）基于“科技工具論”的人臉識(shí)別技術(shù)法律治理

遵循該范式的人臉識(shí)別技術(shù)治理一般將“人臉識(shí)別技術(shù)”視為使用者處理人臉信息的特定工具，因此治理重點(diǎn)依然落在對(duì)技術(shù)以外的一般性權(quán)利（如數(shù)字人權(quán)、人格權(quán)等）的保護(hù)之上。例如，2019 年瑞典數(shù)據(jù)保護(hù)機(jī)構(gòu)對(duì)安德升托普中學(xué)罰款20 萬瑞典克朗，理由是其安裝人臉識(shí)別設(shè)備用于學(xué)生考勤的做法違反了歐盟《一般數(shù)據(jù)保護(hù)條例》（GDPR）第5 條“數(shù)據(jù)處理最小必要性原則”和第7條“同意須為自由作出（freely given）”的要求。①KamR Stockholm-Case No.5888-20，https://gdprhub.eu/index.php?title=KamR_Stockholm_-_Case_No._5888-20，2023-10-15.我國(guó)亦遵循了該治理邏輯，最高人民法院發(fā)布的《關(guān)于審理使用人臉識(shí)別技術(shù)處理個(gè)人信息相關(guān)民事案件適用法律若干問題的規(guī)定》以“侵害自然人人格權(quán)益”作為規(guī)范基礎(chǔ)。這一執(zhí)法思路亦被我國(guó)400余起人臉識(shí)別行政處罰案件所驗(yàn)證。〔16〕循此，人臉識(shí)別技術(shù)的治理應(yīng)以“敏感個(gè)人信息”保護(hù)為主線。

第一，人臉識(shí)別應(yīng)當(dāng)具有特定的目的和充分的必要性。相較于一般個(gè)人信息，對(duì)人臉識(shí)別信息的保護(hù)更加嚴(yán)格。因此，《個(gè)人信息保護(hù)法》在目的限定和必要原則的普遍適用規(guī)范外，額外強(qiáng)調(diào)特定目的和充分必要。這里的特定目的比第6條“明確、合理的目的”的要求更高，可理解為法律、法規(guī)及合同明確規(guī)定、由處理者的特定身份和特定活動(dòng)所決定的“具體目的”；這里的充分必要亦高于第6 條“與處理目的直接相關(guān)”的要求，可理解為“特定處理目的和人臉識(shí)別信息的處理活動(dòng)”之間存在“充分必要關(guān)系”，即處理人臉識(shí)別信息是特定目的實(shí)現(xiàn)的充分且必要條件。職是之故，國(guó)家網(wǎng)信辦發(fā)布的《人臉識(shí)別技術(shù)應(yīng)用安全管理規(guī)定（試行）（征求意見稿）》（以下簡(jiǎn)稱“《人臉識(shí)別管理規(guī)定》”）第4條明確，若存在其他非生物特征識(shí)別技術(shù)方案，能夠?qū)崿F(xiàn)相同目的或者達(dá)到同等業(yè)務(wù)要求，應(yīng)當(dāng)優(yōu)先選擇非生物特征識(shí)別技術(shù)方案?！?7〕

第二，對(duì)人臉識(shí)別應(yīng)當(dāng)開展個(gè)人信息保護(hù)影響評(píng)估，并采取嚴(yán)格保護(hù)措施。根據(jù)《個(gè)人信息保護(hù)法》第55、56 條，人臉識(shí)別信息處理屬于高風(fēng)險(xiǎn)的處理行為，在開展相關(guān)活動(dòng)之前，應(yīng)評(píng)估其處理目的與處理方式等是否合法、正當(dāng)、必要，對(duì)個(gè)人權(quán)益的影響及安全風(fēng)險(xiǎn)，所采取的保護(hù)措施是否有效及與風(fēng)險(xiǎn)的適應(yīng)程度等，以判斷其對(duì)個(gè)人權(quán)益的影響程度及風(fēng)險(xiǎn)控制有效性。除上述評(píng)估內(nèi)容外，《人臉識(shí)別管理規(guī)定》第15條進(jìn)一步增設(shè)：（1）是否符合法律、行政法規(guī)的規(guī)定和國(guó)家標(biāo)準(zhǔn)的強(qiáng)制性要求，是否符合倫理道德；（2）是否限于實(shí)現(xiàn)目的所必需的準(zhǔn)度、精度及距離要求。此外，處理者在處理人臉識(shí)別信息時(shí)，還應(yīng)制定相應(yīng)內(nèi)部管理制度和操作規(guī)程、提高操作權(quán)限、制定并組織實(shí)施安全事件應(yīng)急預(yù)案以及對(duì)人臉識(shí)別信息作去標(biāo)識(shí)化、匿名化處理等。

第三，人臉識(shí)別使用者應(yīng)當(dāng)履行增強(qiáng)告知義務(wù)。所謂“增強(qiáng)告知義務(wù)”，意指在個(gè)人信息處理者除告知（1）個(gè)人信息處理者的名稱或者姓名和聯(lián)系方式；（2）個(gè)人信息的處理目的、處理方式，處理的個(gè)人信息種類、保存期限；（3）個(gè)人行使權(quán)利的方式和程序外，還要采取明示方式告知處理人臉識(shí)別信息的必要性和對(duì)個(gè)人權(quán)益的影響。其中，必要性如前所述。對(duì)個(gè)人權(quán)益的影響亦與個(gè)人信息保護(hù)影響評(píng)估的結(jié)果保持一致，基于信息披露有效性的考慮，可以參考國(guó)家標(biāo)準(zhǔn)《個(gè)人信息安全影響評(píng)估指南》，從影響個(gè)人自主決定權(quán)、引發(fā)差別性待遇、個(gè)人名譽(yù)受損和遭受精神壓力、個(gè)人財(cái)產(chǎn)受損四個(gè)維度，列出嚴(yán)重、高、中、低四種影響程度。以此觀之，《人臉識(shí)別管理規(guī)定》第7條針對(duì)公共場(chǎng)所安裝圖像采集、個(gè)人身份識(shí)別設(shè)備“設(shè)置顯著提示標(biāo)識(shí)”的規(guī)定尚不充分，還應(yīng)設(shè)置二維碼，掃描后即可展示上述增強(qiáng)告知的內(nèi)容?！?8〕

第四，人臉識(shí)別使用者當(dāng)取得信息主體的單獨(dú)同意，但根據(jù)《個(gè)人信息保護(hù)法》第13 條規(guī)定無須取得個(gè)人同意的除外。作為“單獨(dú)同意”，即個(gè)人對(duì)人臉識(shí)別信息的處理行為及其規(guī)則，能夠獨(dú)立于其他個(gè)人信息處理行為及規(guī)則自由、明確、具體地作出同意。詳言之，個(gè)人對(duì)人臉識(shí)別信息的處理者、處理目的、處理方式應(yīng)作出全面、明示的同意，采取清楚、肯定的行動(dòng)（a clear and affirmative action），而單純沉默（silence）、已經(jīng)預(yù)設(shè)勾選同意（pre-ticked boxes）或是不作為（inactivity）等，都不構(gòu)成有效的同意。就此而言，盡管我國(guó)“人臉識(shí)別第一案”①浙江省杭州市富陽(yáng)區(qū)人民法院（2019）浙01民初6971號(hào)民事判決書。在《個(gè)人信息保護(hù)法》生效之前，但司法審查的重點(diǎn)同樣落在了個(gè)人是否作出明確的同意之上。其次，個(gè)人對(duì)人臉識(shí)別信息處理的同意應(yīng)當(dāng)與其他的個(gè)人信息處理的同意相區(qū)分，以破除一攬子同意和捆綁同意。再次，處理者不得通過欺詐、脅迫、誘導(dǎo)等違反誠(chéng)信原則的方式，使個(gè)人陷入意志不自由的困境，作出違背自愿原則的同意。當(dāng)人臉識(shí)別信息不屬于提供產(chǎn)品、服務(wù)所必需時(shí)，個(gè)人完全可以拒絕，且該拒絕操作不得影響個(gè)人使用產(chǎn)品或服務(wù)。最后，并非人臉識(shí)別信息的所有處理活動(dòng)都應(yīng)取得個(gè)人單獨(dú)同意：在為訂立、履行個(gè)人作為一方當(dāng)事人的合同所必需，或者按照依法制定的勞動(dòng)規(guī)章制度和依法簽訂的集體合同實(shí)施人力資源管理所必需，如開立金融賬戶；為履行法定職責(zé)或者法定義務(wù)所必需，如公安機(jī)關(guān)依法偵查時(shí)；為應(yīng)對(duì)突發(fā)公共衛(wèi)生事件，或者緊急情況下為保護(hù)自然人的生命健康和財(cái)產(chǎn)安全所必需以及法律、行政法規(guī)規(guī)定的其他情形時(shí)，可豁免個(gè)人單獨(dú)同意。

（二）基于“科技實(shí)質(zhì)論”的人臉識(shí)別技術(shù)法律治理

遵循該范式的人臉識(shí)別技術(shù)治理將人臉識(shí)別技術(shù)本身視為風(fēng)險(xiǎn)源泉，從而明確禁止該技術(shù)的使用或限定嚴(yán)格的準(zhǔn)入條件。例如，在美國(guó)聯(lián)邦層面，《商業(yè)人臉識(shí)別隱私法案》《人臉識(shí)別技術(shù)授權(quán)法案》《道德使用人臉識(shí)別法案》《2002 年人臉識(shí)別法案》相繼提出，試圖明確政府機(jī)構(gòu)不得安裝任何與人臉識(shí)別技術(shù)相連接的攝像機(jī)，不得在未經(jīng)授權(quán)的情況下獲取或使用通過人臉識(shí)別技術(shù)獲得的個(gè)人信息，不得在沒有逮捕令的情況下使用人臉識(shí)別技術(shù)來識(shí)別特定個(gè)人。在大洋彼岸，歐盟的《人工智能法案》擬禁止可能給人類安全帶來不可接受風(fēng)險(xiǎn)的人臉識(shí)別技術(shù)，包括但不限于：公共場(chǎng)合的“實(shí)時(shí)”或“后期”的遠(yuǎn)程識(shí)別系統(tǒng)、從互聯(lián)網(wǎng)或閉路電視錄像中無目標(biāo)地抓取面部圖像以創(chuàng)建或擴(kuò)展面部識(shí)別數(shù)據(jù)庫(kù)，以及在執(zhí)法、邊防、工作場(chǎng)所和教育機(jī)構(gòu)等領(lǐng)域中用于推斷自然人的情緒識(shí)別系統(tǒng)等。

我國(guó)對(duì)人臉識(shí)別技術(shù)的限制與歐美有微妙但顯著的差異。2015 年，國(guó)家發(fā)改委等九部委聯(lián)合頒發(fā)《關(guān)于加強(qiáng)公共安全視頻監(jiān)控建設(shè)聯(lián)網(wǎng)應(yīng)用工作的若干意見》，指出到2020年基本實(shí)現(xiàn)“全域覆蓋、全網(wǎng)共享、全時(shí)可用、全程可控”的公共安全視頻監(jiān)控建設(shè)聯(lián)網(wǎng)應(yīng)用?！?9〕在此背景下，《個(gè)人信息保護(hù)法》第26條將“為維護(hù)公共安全所必需”作為在公共場(chǎng)所安裝圖像采集、個(gè)人身份識(shí)別設(shè)備的必要條件。不過，考慮到在公共場(chǎng)所徹底禁止基于商業(yè)目的的人臉識(shí)別技術(shù)可能過于僵化，上海市的《公共場(chǎng)所人臉識(shí)別分級(jí)分類應(yīng)用規(guī)范（征求意見稿）》試圖從風(fēng)險(xiǎn)規(guī)制的角度，將人臉識(shí)別技術(shù)根據(jù)應(yīng)用場(chǎng)景和應(yīng)用領(lǐng)域予以分類分級(jí)，在一定程度上允許金融、醫(yī)療、教育、建筑、房地產(chǎn)、商業(yè)、娛樂等行業(yè)以及社區(qū)、園區(qū)的應(yīng)用。〔20〕《人臉識(shí)別管理規(guī)定》第10 條一方面將人臉識(shí)別技術(shù)縮限到“遠(yuǎn)距離、無感式辨識(shí)特定自然人”，另一方面將使用目的擴(kuò)展到“維護(hù)國(guó)家安全、公共安全或者為緊急情況下保護(hù)自然人生命健康和財(cái)產(chǎn)安全所必需”，亦是平衡風(fēng)險(xiǎn)和收益的舉措?！?1〕可以預(yù)見，未來對(duì)人臉識(shí)別技術(shù)的控制可以采取嚴(yán)格禁止、行政許可、安全評(píng)估等多層次規(guī)范模式，以確保人臉識(shí)別技術(shù)及其監(jiān)管措施的合理性與合比例性。

（三）基于“社會(huì)建構(gòu)論”的人臉識(shí)別技術(shù)法律治理

遵循該范式的人臉識(shí)別技術(shù)治理要求將受到人臉識(shí)別技術(shù)影響的各利益相關(guān)方，特別是個(gè)體納入技術(shù)設(shè)計(jì)之中。這一進(jìn)路并不認(rèn)可“人臉識(shí)別技術(shù)及其風(fēng)險(xiǎn)的特殊性并施加特殊規(guī)制”的觀點(diǎn)，而主張將消除社會(huì)公眾與技術(shù)之間的信任危機(jī)作為一般立場(chǎng)，以期化解個(gè)體對(duì)個(gè)人信息安全、身份驗(yàn)證準(zhǔn)確以及對(duì)人臉識(shí)別技術(shù)泛濫的隱患，“透明性”由此成為治理的核心問題之一。〔22〕2022 年，全球隱私大會(huì)發(fā)布《關(guān)于在人臉識(shí)別技術(shù)中適當(dāng)使用個(gè)人信息的原則和期望的決議》，將“透明性”列入治理原則之一。據(jù)此，所有人（特別是未成年人和弱勢(shì)群體）有權(quán)知悉：（1）其面部圖像可能或?qū)⒈挥糜谌四樧R(shí)別系統(tǒng)；（2）其面部圖像可能或?qū)⒈患{入人臉識(shí)別系統(tǒng)的參考數(shù)據(jù)庫(kù)；（3）人臉識(shí)別信息的儲(chǔ)存方式和地點(diǎn)、信息的處理目的、信息的保留時(shí)間；（4）可能與哪些實(shí)體共享信息。為此，人臉識(shí)別設(shè)備應(yīng)當(dāng)設(shè)置醒目的標(biāo)識(shí)，清楚地標(biāo)明正在使用人臉識(shí)別，而不是一個(gè)標(biāo)準(zhǔn)的安全攝像頭，并在合理情形下通知被處理的所有個(gè)人?！?3〕

在宏觀層面，“社會(huì)建構(gòu)論”的人臉識(shí)別技術(shù)法律治理倡導(dǎo)一種多利益相關(guān)方的共同治理。為實(shí)現(xiàn)此目標(biāo)，世界經(jīng)濟(jì)論壇在法國(guó)率先建設(shè)了人臉識(shí)別技術(shù)的多利益相關(guān)方社區(qū)，匯聚了設(shè)計(jì)、研發(fā)、采購(gòu)人臉識(shí)別技術(shù)的公司、商業(yè)機(jī)構(gòu)、政府部門、學(xué)者和民間社會(huì)代表，通過共同研究和論辯確定負(fù)責(zé)任使用人臉識(shí)別的定義和原則；其次，從“經(jīng)由設(shè)計(jì)的負(fù)責(zé)”原則開發(fā)一套最佳實(shí)踐，以支持上述原則；進(jìn)而，借助評(píng)估問卷，由各方評(píng)估其實(shí)施是否符合要求；最后，再由授信第三方審核實(shí)踐中的組織和操作，以驗(yàn)證原則的遵守情況。〔24〕這一程序性的治理機(jī)制并不預(yù)設(shè)任何群體、任何主張的優(yōu)先性，而是借由搭建利益相關(guān)方之間可持續(xù)的合作關(guān)系，使其在科技的道路上審慎地權(quán)衡取舍，為真正以人類福祉為本的科技奠定基礎(chǔ)。

三、范式革新：人臉識(shí)別技術(shù)系統(tǒng)的法律治理

科技工具論、科技實(shí)質(zhì)論和社會(huì)建構(gòu)論分別關(guān)注了“人—技術(shù)—社會(huì)”三個(gè)因素。但究其實(shí)質(zhì)，科技是自然屬性和社會(huì)屬性的統(tǒng)一體，無法將科技從其所束縛的社會(huì)結(jié)構(gòu)之網(wǎng)中移除；另一方面，離開人類能動(dòng)性和科技原理及其歷史脈絡(luò)，任何科技創(chuàng)新也如無源之水。實(shí)際上，科技實(shí)踐和治理遠(yuǎn)比單一觀點(diǎn)的表述要復(fù)雜和微妙，只有綜合“人—技術(shù)—社會(huì)”的三維視角，才能獲得對(duì)科技的整全性治理。在此，將這一新的范式稱之為“科技系統(tǒng)論”。

（一）邁向“科技系統(tǒng)論”的法律治理

科技系統(tǒng)論旨在打破經(jīng)典范式對(duì)“人—技術(shù)—社會(huì)”的割裂，如其倡導(dǎo)者托馬斯·休斯所言：對(duì)于科技系統(tǒng)和網(wǎng)絡(luò)建設(shè)時(shí)代的發(fā)明者、工程師和管理者來說，技術(shù)與科學(xué)、科技與社會(huì)、純粹研究與應(yīng)用研究、科技內(nèi)部人與科技外部人都是一些陌生的二分法。相反，技術(shù)、專業(yè)人士、各種組織都是科技系統(tǒng)中的互動(dòng)實(shí)體，發(fā)揮著獨(dú)立作用，從而共同構(gòu)成了“無縫之網(wǎng)（Seamless Web）”〔25〕。循此，我們要區(qū)分兩種不同的概念：一個(gè)是技術(shù)（Technical），包括物理人工物（如發(fā)電機(jī)、變壓器、電燈和輸電線路等）和軟件（如專業(yè)知識(shí)）；一個(gè)是科技（Technology），即涵蓋了物理人工物、軟件、組織、法律人造物和自然資源的“技術(shù)—社會(huì)系統(tǒng)（Socio-technical System）”〔26〕。自工業(yè)時(shí)代的能源、通信、交通等技術(shù)興起以來，后一種“科技”（即“技術(shù)—社會(huì)系統(tǒng)”）已經(jīng)成為現(xiàn)代科技的基本圖式。隨著數(shù)字時(shí)代的來臨，新興科技亦取代工業(yè)技術(shù)，化身當(dāng)代大型技術(shù)系統(tǒng)（Large Technological System）〔27〕的最佳代表，成為集企業(yè)、政府機(jī)構(gòu)、社會(huì)群體、消費(fèi)者組織、標(biāo)準(zhǔn)化實(shí)體、監(jiān)管人員、在線系統(tǒng)、算法等多種異質(zhì)要素于一身的復(fù)雜系統(tǒng)。

“對(duì)稱原則”和“互動(dòng)原則”是科技系統(tǒng)論的基本原則。所謂“對(duì)稱原則”，即在剖析科技系統(tǒng)時(shí)應(yīng)平等對(duì)待“技術(shù)的社會(huì)決定”和“社會(huì)的技術(shù)建構(gòu)”，平等對(duì)待“人類行動(dòng)者”和“非人行動(dòng)者”，平等對(duì)待“技術(shù)的世界”和“非技術(shù)的世界”。所謂“互動(dòng)原則”，即上述兩兩對(duì)立的要素不但可變且相互影響，因此可以在“共同的、偶然的、場(chǎng)景的目標(biāo)與利益”下，動(dòng)態(tài)調(diào)試、自由連接并生成網(wǎng)絡(luò)。故而，若系統(tǒng)的一個(gè)組件被移除或性質(zhì)發(fā)生改變，其他組件也將相應(yīng)發(fā)生改變。由于所有要素均為變動(dòng)且可反轉(zhuǎn)的因緣際會(huì)，科技系統(tǒng)就不再是被“決定的”，而是在經(jīng)濟(jì)、政治、文化和物理的永恒流動(dòng)中，展現(xiàn)出的生態(tài)秩序“轉(zhuǎn)譯歷程（Translation Process）”〔28〕。

職是之故，新興科技的法律治理不但應(yīng)平等考量“技術(shù)”和“法律”，還應(yīng)著眼于整個(gè)科技系統(tǒng)，而非立足技術(shù)或法律單一組件。在此，我們不妨將之稱為治理的“共同優(yōu)化原則”（Principle of Joint Optimization）。須知，系統(tǒng)內(nèi)特定維度上臻于完善，系統(tǒng)整體未必達(dá)致最優(yōu)。事實(shí)上，系統(tǒng)最優(yōu)往往以每個(gè)獨(dú)立維度的狀態(tài)都低于最佳狀態(tài)為代價(jià)。作為彼此獨(dú)立的要素，技術(shù)和法律遵循著迥然不同的邏輯，但基于互動(dòng)原則，如果兩者難以契合，就會(huì)導(dǎo)致不平衡，從而危及系統(tǒng)整體目標(biāo)的實(shí)現(xiàn)，甚至使之成為不可能。故此，在優(yōu)化新興科技治理時(shí)，法律/技術(shù)的“輸入”應(yīng)轉(zhuǎn)譯為技術(shù)/法律的“輸出”，從而實(shí)現(xiàn)共同優(yōu)化的異質(zhì)耦合?！?9〕因而，新興科技的法律治理一方面要尊重技術(shù)規(guī)律，嘗試從技術(shù)內(nèi)在視角觀察法律并優(yōu)化技術(shù)，由此形成以自然規(guī)律為基礎(chǔ)的技術(shù)標(biāo)準(zhǔn)法律化和法律規(guī)范標(biāo)準(zhǔn)化；另一方面要以科技系統(tǒng)內(nèi)各種“人類行動(dòng)者”，尤其是“系統(tǒng)建立者”為對(duì)象，通過法律權(quán)利、義務(wù)、責(zé)任的設(shè)定促進(jìn)各方開展利益協(xié)調(diào)和重構(gòu)科技系統(tǒng)。為此，法律應(yīng)從命令服從機(jī)制轉(zhuǎn)向激勵(lì)相容機(jī)制，調(diào)動(dòng)被監(jiān)管者的守法誘因，以推動(dòng)內(nèi)生治理和外部規(guī)制的有效合作?！?0〕

（二）科技系統(tǒng)論下的治理迭代和人臉識(shí)別技術(shù)治理的革新

與科技工具論、科技實(shí)質(zhì)論、社會(huì)建構(gòu)論相比，科技系統(tǒng)論的法律治理在治理主體上既包括科技自身，更指向了人類行動(dòng)者，但又不會(huì)將所有利益相關(guān)方全部納入，避免了治理主體過于泛化的缺陷。其次，在治理法律的性質(zhì)上，科技系統(tǒng)論的法律治理主要表現(xiàn)為“激勵(lì)法”，即將法律視為一種激勵(lì)個(gè)體改變自身行為的工具，其作用發(fā)揮必須以治理主體在法律陰影下自身效用最大化為前提，在此意義上，法律不僅是強(qiáng)制性原則，更是可執(zhí)行、可預(yù)期的誘導(dǎo)性規(guī)則。最后，在治理階段上，科技系統(tǒng)論的法律治理是融合事前（研發(fā)）、事中（應(yīng)用）、事后（責(zé)任）的全鏈路治理。需要說明的是，從經(jīng)典范式到科技系統(tǒng)論的迭代，并不意味后者對(duì)經(jīng)典范式的取代，毋寧是一種能級(jí)躍遷，確保后者可以向下兼容科技工具論、科技實(shí)質(zhì)論、社會(huì)建構(gòu)論，進(jìn)而形成“人—技術(shù)—社會(huì)”整全性治理。

基于上述原理，科技系統(tǒng)論視野下的人臉識(shí)別技術(shù)治理，一方面涵蓋了基于個(gè)人信息保護(hù)的治理（科技工具論）、基于技術(shù)風(fēng)險(xiǎn)的治理（科技實(shí)質(zhì)論）以及基于透明性的治理（社會(huì)建構(gòu)論）；另一方面它超越了經(jīng)典范式，在科技系統(tǒng)的建構(gòu)和解構(gòu)的雙向運(yùn)作中，抽離出人臉識(shí)別的行動(dòng)者、場(chǎng)景、算法、數(shù)據(jù)等系統(tǒng)組件，憑借共同優(yōu)化原則，實(shí)現(xiàn)法律和技術(shù)的同頻共振。事實(shí)上，《人臉識(shí)別管理規(guī)定》恰恰建立在這一范式之上。該規(guī)定第1條開宗明義地將立法依據(jù)擴(kuò)展到《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》〔31〕，充分說明其不再是根據(jù)《個(gè)人信息保護(hù)法》第62 條“針對(duì)人臉識(shí)別制定專門的個(gè)人信息保護(hù)規(guī)則、標(biāo)準(zhǔn)”授權(quán)而制定的下位法，而是從宏觀維度對(duì)人臉識(shí)別技術(shù)的系統(tǒng)性規(guī)范、相關(guān)條款的展開，更鮮明地體現(xiàn)了不同參與者、多種場(chǎng)景和細(xì)化技術(shù)標(biāo)準(zhǔn)相呼應(yīng)的系統(tǒng)論方法。

（三）基于“科技系統(tǒng)論”的人臉識(shí)別技術(shù)法律治理

從科技系統(tǒng)論出發(fā)，首先要辨明人臉識(shí)別技術(shù)系統(tǒng)的人類行動(dòng)者?；趯?duì)技術(shù)系統(tǒng)生態(tài)的觀察，相關(guān)主體可類型化為：（1）技術(shù)提供者，即提供包含視頻人臉識(shí)別、圖片人臉識(shí)別和數(shù)據(jù)庫(kù)對(duì)比檢驗(yàn)等技術(shù)的提供方；（2）產(chǎn)品/服務(wù)提供者，即根據(jù)具體應(yīng)用場(chǎng)景的需要，提供離線SDK、在線API、人臉識(shí)別一體機(jī)等軟件服務(wù)、軟硬件一體終端以及運(yùn)行維護(hù)服務(wù)的提供者；（3）產(chǎn)品/服務(wù)使用者，即將人臉識(shí)別技術(shù)實(shí)際應(yīng)用于智慧安防、智慧金融、手機(jī)娛樂、出行交通等多個(gè)場(chǎng)景中的使用方；（4）平臺(tái)管理者，即提供產(chǎn)品/服務(wù)提供者或使用者的接入或向其運(yùn)營(yíng)提供技術(shù)資源和信息收集渠道，以及提供市場(chǎng)和用戶觸達(dá)中介服務(wù)的操作系統(tǒng)、應(yīng)用程序分發(fā)平臺(tái)、大型平臺(tái)型APP?；诠餐瑑?yōu)化原則，人臉識(shí)別技術(shù)法律治理應(yīng)廣泛吸納《遠(yuǎn)程人臉識(shí)別系統(tǒng)技術(shù)要求》《人臉識(shí)別數(shù)據(jù)安全要求》《公共安全重點(diǎn)區(qū)域視頻圖像信息采集規(guī)范》《公共安全人臉識(shí)別應(yīng)用圖像技術(shù)要求》《移動(dòng)智能終端人臉識(shí)別安全技術(shù)要求及測(cè)試評(píng)估方法》《人臉識(shí)別支付場(chǎng)景個(gè)人信息保護(hù)安全要求（征求意見稿）》等技術(shù)標(biāo)準(zhǔn)，令抽象的法律規(guī)范和充滿細(xì)節(jié)的技術(shù)要求彼此協(xié)作，從而為相關(guān)主體設(shè)定即時(shí)回應(yīng)且可操作的行為指引。

1.技術(shù)提供者的治理

技術(shù)提供者是人臉識(shí)別技術(shù)應(yīng)用的源頭活水，其治理自然構(gòu)成技術(shù)治理的重中之重。詳言之，技術(shù)提供者的治理又可分為數(shù)據(jù)安全治理和算法可信治理。人臉識(shí)別技術(shù)以數(shù)據(jù)為驅(qū)動(dòng)力。典型的人臉識(shí)別系統(tǒng)由“訓(xùn)練”和“識(shí)別”兩部分組成，前者包括人臉數(shù)據(jù)庫(kù)、人臉檢測(cè)與定位、人臉圖像預(yù)處理、特征提取與選擇、訓(xùn)練；后者包括人臉信息采集、圖像像素?cái)?shù)據(jù)化、數(shù)據(jù)庫(kù)比對(duì)識(shí)別。據(jù)此，技術(shù)提供者在數(shù)據(jù)訓(xùn)練、存儲(chǔ)、傳輸、刪除均負(fù)有保證技術(shù)研發(fā)可靠、安全的義務(wù)。

在數(shù)據(jù)訓(xùn)練環(huán)節(jié)，技術(shù)提供者應(yīng)特別關(guān)注以下方面：（1）技術(shù)設(shè)計(jì)選擇；（2）數(shù)據(jù)采集；（3）數(shù)據(jù)準(zhǔn)備處理操作（注釋、標(biāo)記、清洗、充實(shí)和匯總）；（4）數(shù)據(jù)應(yīng)衡量和代表的信息假設(shè)；（5）事先評(píng)估所需數(shù)據(jù)庫(kù)的可用性、數(shù)量和適用性；（6）可能存在偏見的檢查；（7）確定任何可能的數(shù)據(jù)空白或不足以及如何解決這些空白和不足。技術(shù)提供者應(yīng)當(dāng)確保訓(xùn)練、驗(yàn)證和測(cè)試數(shù)據(jù)庫(kù)具有代表性、完整且沒有錯(cuò)誤。同時(shí)，數(shù)據(jù)應(yīng)具有適當(dāng)?shù)慕y(tǒng)計(jì)屬性，特別是與擬識(shí)別人群有關(guān)的屬性。在存儲(chǔ)環(huán)節(jié)，技術(shù)提供者應(yīng)采取加密或去標(biāo)識(shí)化的安全技術(shù)措施，包括但不限于生成不可逆、可更新的人臉特征后再存儲(chǔ)，以及特征提取算法、密碼學(xué)技術(shù)、假名標(biāo)識(shí)符等技術(shù)。同時(shí)，存儲(chǔ)環(huán)境應(yīng)提供分類管理的機(jī)制，保證人臉識(shí)別信息與身份信息分開存儲(chǔ)，建議采用人臉信息與身份信息設(shè)置不同訪問權(quán)限的控制、隔離的物理機(jī)房或獨(dú)立數(shù)據(jù)系統(tǒng)中存儲(chǔ)、兩套數(shù)據(jù)有解耦等隔離手段。在傳輸環(huán)節(jié)，技術(shù)提供者應(yīng)確保傳輸環(huán)境安全，建立安全的人臉信息傳輸通道，在傳輸或接受傳輸前，對(duì)通信雙方的真實(shí)身份進(jìn)行鑒別和認(rèn)證，并采用防火墻、事前檢測(cè)等安全技術(shù)或設(shè)備。在刪除環(huán)節(jié)中，技術(shù)提供者應(yīng)確保及時(shí)刪除人臉信息，利用慢速格式化、Secure-Delete指令等可行方法，使系統(tǒng)具備刪除后防止恢復(fù)的能力。

人臉識(shí)別技術(shù)內(nèi)含高風(fēng)險(xiǎn)算法，技術(shù)提供者應(yīng)當(dāng)在研發(fā)伊始，就將算法可信理念植入需求分析和系統(tǒng)詳細(xì)設(shè)計(jì)等規(guī)劃設(shè)計(jì)中，從而使后續(xù)的研發(fā)測(cè)試和運(yùn)營(yíng)始終符合算法可信要求。一方面，技術(shù)提供者須承擔(dān)算法準(zhǔn)確性、魯棒性、安全性的義務(wù)。為此，其可以通過備份、故障安全計(jì)劃等技術(shù)冗余的解決方案，利用在技術(shù)投入使用后仍會(huì)持續(xù)學(xué)習(xí)和反饋循環(huán)的開發(fā)方式。同時(shí)，對(duì)于未經(jīng)授權(quán)的第三方通過系統(tǒng)漏洞更改使用或性能的嘗試，人臉識(shí)別系統(tǒng)應(yīng)具有復(fù)原性，足以化解所處環(huán)境的可能故障，特別是因其與操作人員或其他系統(tǒng)的相互作用所引發(fā)的錯(cuò)誤。最后，技術(shù)提供者還要采取對(duì)抗訓(xùn)練，以預(yù)防操縱訓(xùn)練數(shù)據(jù)集的攻擊措施，防范導(dǎo)致模型出錯(cuò)的輸入或模型缺陷。另一方面，技術(shù)提供者還應(yīng)積極履行算法安全評(píng)估與審計(jì)，定期審核、評(píng)估、驗(yàn)證人臉識(shí)別算法的機(jī)制機(jī)理，全面審計(jì)人臉識(shí)別技術(shù)的模型訓(xùn)練和模型評(píng)估等實(shí)現(xiàn)流程，提升系統(tǒng)可追溯能力。其中，模型訓(xùn)練是為算法系統(tǒng)賦有“智能”的關(guān)鍵，對(duì)硬件平臺(tái)、軟件框架、算法選擇、調(diào)參過程等環(huán)節(jié)的全面審計(jì)，能有效確保技術(shù)的源頭可信性。模型評(píng)估反映算法系統(tǒng)在實(shí)際應(yīng)用中的性能表現(xiàn)和泛化能力，標(biāo)準(zhǔn)嚴(yán)謹(jǐn)?shù)脑u(píng)估過程能衡量模型質(zhì)量，并判斷其是否能滿足設(shè)計(jì)要求，幫助發(fā)現(xiàn)系統(tǒng)實(shí)現(xiàn)過程中的問題并不斷改進(jìn)。因而，詳細(xì)審計(jì)模型在驗(yàn)證集、測(cè)試集上的指標(biāo)表現(xiàn)和變化對(duì)算法可信治理而言不可或缺。最后，在必要時(shí)可以通過算法備案，以增強(qiáng)上述算法安全評(píng)估和審計(jì)的透明度?！?2〕

2.人臉識(shí)別產(chǎn)品/服務(wù)提供者的治理

人臉識(shí)別產(chǎn)品/服務(wù)提供者是人臉識(shí)別系統(tǒng)生態(tài)的中間力量，其上連接技術(shù)提供者，下啟人臉識(shí)別服務(wù)使用者，發(fā)揮著承上啟下的樞紐作用。據(jù)此，人臉識(shí)別產(chǎn)品/服務(wù)提供者應(yīng)承擔(dān)如下義務(wù)。（1）質(zhì)量管理義務(wù)。產(chǎn)品/服務(wù)提供者應(yīng)全面建立質(zhì)量控制和質(zhì)量保證的組織和程序、嚴(yán)重事故和故障的應(yīng)急程序，以及支持監(jiān)管機(jī)構(gòu)監(jiān)督和執(zhí)法系統(tǒng)等。對(duì)于列入網(wǎng)絡(luò)關(guān)鍵設(shè)備和網(wǎng)絡(luò)安全專用產(chǎn)品目錄的圖像采集設(shè)備、個(gè)人身份識(shí)別設(shè)備，還應(yīng)按照國(guó)家標(biāo)準(zhǔn)的強(qiáng)制性要求，由具備資格的機(jī)構(gòu)認(rèn)證合格或者檢測(cè)符合要求后，方可提供。（2）人工監(jiān)督義務(wù)。為降低風(fēng)險(xiǎn)，產(chǎn)品/服務(wù)提供者應(yīng)采用適當(dāng)?shù)娜藱C(jī)界面工具，使其在運(yùn)行過程中可以由人介入和監(jiān)督。為此，人臉識(shí)別系統(tǒng)應(yīng)具備人臉識(shí)別信息訪問控制功能，確保信息復(fù)制與下載等重要操作由特定人員在執(zhí)行、操作過程中驗(yàn)證身份、及時(shí)收回執(zhí)行人員操作權(quán)限。同時(shí)，負(fù)責(zé)監(jiān)督的人員須充分了解人臉識(shí)別的功能和局限性，有能力發(fā)現(xiàn)并解決功能異常和意外性能的故障；并能意識(shí)到過度依賴人臉識(shí)別技術(shù)產(chǎn)生的“自動(dòng)化偏差”以及其他風(fēng)險(xiǎn)，可以采取快速接管或通過“一鍵關(guān)?！钡姆绞浇K止服務(wù)。（3）算法日志記錄義務(wù)。產(chǎn)品/服務(wù)提供者應(yīng)當(dāng)確保人臉識(shí)別技術(shù)具有系統(tǒng)運(yùn)行時(shí)自動(dòng)記錄事件（日志）功能，包括記錄系統(tǒng)每次使用的時(shí)間、針對(duì)其檢查輸入數(shù)據(jù)的參考數(shù)據(jù)庫(kù)、搜索導(dǎo)致匹配的輸入數(shù)據(jù)以及相關(guān)自然人的身份。（4）起草技術(shù)文件義務(wù)。產(chǎn)品/服務(wù)提供者應(yīng)當(dāng)編制技術(shù)文件，并向監(jiān)管機(jī)構(gòu)提供，以評(píng)估其合規(guī)性。（5）保密義務(wù)。產(chǎn)品/服務(wù)提供者對(duì)獲取的個(gè)人圖像、身份識(shí)別信息負(fù)有保密義務(wù)，不得非法泄露或者對(duì)外提供。

3.人臉識(shí)別產(chǎn)品/服務(wù)使用者的治理

作為面向公眾提供的主體，使用者是人臉識(shí)別技術(shù)的終端，承擔(dān)最終責(zé)任。為此，使用者首先負(fù)有個(gè)人信息保護(hù)義務(wù)。在收集人臉信息時(shí)，應(yīng)以提供單獨(dú)彈窗、單獨(dú)提示等方式進(jìn)行告知，供人臉信息處理者用于告知收集人臉信息事宜以及處理人臉信息保護(hù)政策；應(yīng)具備便于查看人臉信息保護(hù)政策的功能；應(yīng)具備用戶撤回同意、單獨(dú)同意或拒絕的功能，并且在用戶單獨(dú)同意后才進(jìn)行收集；應(yīng)能夠針對(duì)意外收集的非注冊(cè)用戶人臉信息進(jìn)行及時(shí)刪除或匿名化處理。在存儲(chǔ)人臉信息時(shí)，應(yīng)確保能夠到期自動(dòng)刪除；應(yīng)確保人臉信息主體行使個(gè)人信息權(quán)利能夠及時(shí)響應(yīng)。〔33〕此外，對(duì)“影響個(gè)人自主決定權(quán)”“引發(fā)差別性待遇”“個(gè)人名譽(yù)受損或遭受精神壓力”“個(gè)人財(cái)產(chǎn)受損”等權(quán)益影響及安全風(fēng)險(xiǎn)，以及所采取的保護(hù)措施是否合法、有效并與風(fēng)險(xiǎn)程度相適應(yīng)等方面應(yīng)開展個(gè)人信息影響評(píng)估。其次，使用者負(fù)有算法解釋義務(wù)。在“產(chǎn)品/服務(wù)使用者”和“產(chǎn)品/服務(wù)提供者”二分架構(gòu)下，使用者是人臉識(shí)別算法解釋的首要主體?！?4〕基于此，個(gè)人有權(quán)要求使用者在合理范圍內(nèi)，展示輸入人臉信息，并要求說明相應(yīng)人臉識(shí)別信息對(duì)決策結(jié)果產(chǎn)生何種影響。此外，使用者還應(yīng)針對(duì)模型、數(shù)據(jù)和結(jié)果保留明確記錄，從而在變動(dòng)對(duì)應(yīng)因素后，使算法輸出特定決策，以備監(jiān)管部門、第三方機(jī)構(gòu)或法院的核查，最終判斷算法是否導(dǎo)致歧視性或其他不當(dāng)后果。最后，使用者還應(yīng)當(dāng)履行相應(yīng)的備案義務(wù)。根據(jù)《人臉識(shí)別管理規(guī)定》第16 條規(guī)定，在公共場(chǎng)所使用人臉識(shí)別技術(shù)，或者存儲(chǔ)超過1萬個(gè)人臉信息的人臉識(shí)別技術(shù)使用者，應(yīng)當(dāng)在30 個(gè)工作日內(nèi)向網(wǎng)信部門備案，并將人臉識(shí)別技術(shù)使用者及其個(gè)人信息保護(hù)負(fù)責(zé)人的基本情況，處理人臉信息的必要性說明，人臉信息的處理目的，處理方式和安全保護(hù)措施，人臉信息的處理規(guī)則和操作規(guī)程，個(gè)人信息保護(hù)影響評(píng)估報(bào)告等信息提供給監(jiān)管機(jī)構(gòu)?！?5〕

4.平臺(tái)管理者的治理

鑒于平臺(tái)管理者實(shí)際控制了技術(shù)環(huán)境和運(yùn)營(yíng)環(huán)境，對(duì)人臉識(shí)別服務(wù)的技術(shù)設(shè)置和條款條件具有決定性作用，其應(yīng)特別承擔(dān)“守門人”義務(wù)。為此，平臺(tái)管理者首先應(yīng)制定符合國(guó)家法律法規(guī)等規(guī)定要求的準(zhǔn)入規(guī)范，不得為不達(dá)標(biāo)的人臉識(shí)別產(chǎn)品/服務(wù)提供者或使用者利用其所管控的通道、空間和其所提供的服務(wù)。其次，應(yīng)采取必要的技術(shù)手段，對(duì)利用其所管控的通道、空間和使用其所提供的技術(shù)服務(wù)的第三方人臉識(shí)別行為進(jìn)行監(jiān)管，必要時(shí)提出警告和整改意見。最后，還應(yīng)建立相關(guān)的投訴受理和處置機(jī)制，配合監(jiān)管機(jī)構(gòu)對(duì)違反法律法規(guī)的第三方App進(jìn)行調(diào)查處理?！?6〕

四、結(jié)語

40 年前，托馬斯·休斯曾提出一個(gè)饒有趣味的問題：為什么20 世紀(jì)初的電力系統(tǒng)在不同的時(shí)間、不同的地區(qū)和國(guó)家有不同的特性？例如，柏林擁有大約六個(gè)大型發(fā)電廠，而倫敦則有50 多個(gè)小型發(fā)電廠，引人注目的差異不只是數(shù)量，更重要的是電力產(chǎn)生、傳輸和分配的方式?！?7〕其實(shí)，正是這些不同的“技術(shù)風(fēng)格”才充分表明：從沒有整齊劃一的科技理想圖式，科技始終在“技術(shù)—社會(huì)—人”的復(fù)雜互動(dòng)中悄然成型。因此，面對(duì)新型科技對(duì)人類的挑戰(zhàn)，我們必須超越經(jīng)典的“科技決定論”“科技實(shí)質(zhì)論”和“社會(huì)建構(gòu)論”，邁向科技系統(tǒng)的法律綜合治理，經(jīng)由“技術(shù)—社會(huì)—人”的同頻共振，最終實(shí)現(xiàn)科技善治。