人臉識別技術是一種新的顱相學嗎

李俠 霍佳鑫

人臉識別技術帶給個體的最大變化就是人的透明化。透明化會讓人的自由和權利被侵蝕或者損害。技術所及之處私人領域被徹底摧毀，而自由與權利大多寄居于私人領域，這已是技術發(fā)展的普遍現(xiàn)象。

2019年5月14日，美國舊金山市通過立法，以絕對優(yōu)勢通過禁止使用人臉識別技術，從而成為美國第一個禁止該技術濫用的城市，估計也是全世界第一個。反觀當下，國內人臉識別技術從研究到應用搞得如火如荼，正在快速向各個領域擴散。如何看待技術過度使用這個話題，已經成為當下亟需認真思考與反思的緊迫公共議題。

一、技術帶來的透明化與人類福祉的核算

按照學界共識，所謂的人臉識別原本屬于計算機視覺研究范疇，對于人臉識別而言，特指計算機利用分析比較人臉視覺特征信息自動進行身份鑒別的智能技術（景晨凱、莊雷，2018）。這項技術的發(fā)展大體經歷了三個階段：第一階段始于20世紀60年代;第二階段始于20世紀90年代;第三階段是自新世紀以來。隨著深度學習的快速發(fā)展，以及大數(shù)據(jù)的運用、暴力計算的流行（目前人工智能領域的主導范式之一），人臉識別研究出現(xiàn)井噴式發(fā)展。不論喜歡與否，我們正在遭遇一種新的生存環(huán)境。在此有必要分析一下新技術帶來的風險類型問題，并在此基礎上尋找解決之策。

任何技術，由于其未來發(fā)展的不確定性，可以對其可能引發(fā)的風險進行簡單分類。根據(jù)后果的不同，大體上可以把技術引發(fā)的風險劃分為四類，按美國政策專家希拉?賈薩諾夫的劃分方法，我們可以得到四個風險象限，見下圖：

根據(jù)上圖劃分，人臉識別技術屬于哪類風險呢？先從發(fā)生概率角度來看，人臉識別技術的濫用顯然屬于高概率事件。這是因為，有無數(shù)機構想要使用這些技術，它所提供的信息與數(shù)據(jù)具有多重價值，不論是經濟原因還是其他原因，這種需求都是巨大的，再加上我國相關立法的嚴重滯后與執(zhí)行中存在的問題，由此決定了人臉識別技術的擴散屬于高概率事件。那么這種技術的風險程度如何？這是一個比較難以歸類的問題。對于個人而言，人臉識別技術造成的最大危害在于個人隱私的泄露，僅就此點而言，個人隱私的價值還是較小的。但是，由于整個社會是由無數(shù)個人組成的，換言之，人臉識別技術對于整個社會造成的風險卻是巨大的，可以用公式簡單表達如下：社會總風險=Σ個人風險的總和。也許更為可怕的是，人臉識別技術會造成整個社會治理模式的完全改變，使整個社會處于有選擇的透明化，對于個人而言，他的自由與權利都將受到嚴重侵蝕?？梢栽O想一下，如果“天眼工程+人臉識別”，將會帶來什么結果？筆者曾開玩笑說：互聯(lián)網時代，歷史悠久的小偷行業(yè)已經終結。綜合上述兩點，我們可以把人臉識別技術定性為高概率高風險技術，按照美國經濟學家米歇爾?渥克的說法，這就是一種典型的灰犀牛現(xiàn)象。由于個體認知的局限性，當今社會最容易出現(xiàn)的誤判就是把人臉識別技術當成“高概率低風險”類型。造成這種錯誤的原因在于，個體僅從個人收益受損的角度來推斷該技術給整個社會帶來的風險，是典型的以偏概全認知模式。溫水煮青蛙現(xiàn)象的后果就是，一開始的綏靖選擇，必然導致結果的無法逆轉。

作為反思的前提，在推行任何一項技術時應該采取的倫理原則是什么？由于我們通常并不能準確預知我們行動的后果會是什么，尤其是考慮到在技術的前端與中端還處于嚴格的技術領域范圍內時，黑箱結構帶來的后果更是無從預期，為了降低風險采取分布式道德是合理的，即每一環(huán)節(jié)都負載道德責任。對于社會而言，這時所能做的就只有從開端與終端處對技術進行倫理約束。前者就是哲學家們熱衷的道義論，即決定去做一件事，這種決定在動機上是否是善的，這種考慮固然有其價值，能夠對某一些行動者起到預先的警示作用，但是作用微弱，大多受眾被排除在技術之外?；谶@種考慮，從終端處開始對技術進行倫理評價，就能把潛在受眾最大限度上包括進來，從而增加倫理的約束力。針對技術分布鏈條的不同階段，進行規(guī)制，劃分有效責任區(qū)間，恰恰是對技術進行倫理約束的常規(guī)做法。這也是技術擴散時遭遇到的一個具有普遍性的問題。對于作為技術受眾的我們而言，可以采用后果論的處理方式約束技術，按照哲學家德里克?帕菲特的說法：“最好的結果是那個帶給人們的收益減去負擔后的最大凈利益總量的結果，或者按照這個主張的快樂主義版本來說，是那個帶給人們減去悲慘之后最大凈幸?？偭康慕Y果。”

那么，人臉識別技術的成本收益情況如何？

像人臉識別這樣的技術，其使用是有很高門檻的，換言之，只有政府、準政府與大型商業(yè)機構才有可能被允許使用。由此可知，這項技術應用的最大潛在收益也將由這些機構獲得，只有少部分溢出會被消費者分享。比如，大型公共機構、機場、火車站等由于使用人臉識別技術會導致安全性的提升，這少部分流向消費者的溢出收益會被當做推行該技術的合理借口，而大部分收益則會被使用者完全獨享。相反，人臉識別技術帶來的風險與成本卻要全體消費者分擔，比如個人隱私的大范圍泄露等。從這個意義上說，在人臉識別技術擴散的所有領域中，機構與個體消費者在權利與收益方面處于完全不對等的情形，前者是積極的推動者，后者的自我保護能力有限。

人臉識別技術帶給個體的最大變化就是人的透明化。透明化會讓人的自由和權利被侵蝕或者損害。技術所及之處私人領域被徹底摧毀，而自由與權利大多寄居于私人領域，這已是技術發(fā)展的普遍現(xiàn)象。我們不妨就人臉識別技術可能出現(xiàn)的負面后果做一些簡單掃描，不難明白這個道理。

從經濟層面來說，假如技術進一步發(fā)展，人臉識別技術與醫(yī)院的大數(shù)據(jù)相結合，通過對一些特定參數(shù)的設定，人臉識別技術完全有可能比較準確地判定一個人是否健康，或者是否有什么疾病。畢竟醫(yī)院對于某類疾病擁有豐富的大數(shù)據(jù)，這些數(shù)據(jù)包含該疾病的一些共性特征。那么，通過人臉識別技術，這些個體信息對于某些機構來說就可能成為剝奪消費者的利器。比如保險公司，它借助于人臉識別技術，最大限度上降低了信息不對稱現(xiàn)象，通過拒絕對某類人群投?；蛘咛岣弑ＹM，從而實現(xiàn)一本萬利的生意。問題是，保險本來是人類為了應對未來的不確定性與風險所設計出來的一種防范措施，但是，技術可以使商家最大限度地消除這些不確定性，如此一來，個體的投保行為就沒有了任何意義。人臉識別技術并沒有給消費者帶來預期收益，反而是損失最大化了。所以，在技術進步面前，任何個體都是渺小的。

從政治方面來說，如果某些執(zhí)行特殊任務的國家安全人員被人臉識別出來，那么，他還能完成國家指派的任務嗎？遺憾的是，在新技術進步層面，人類陷入了囚徒困境：沒有最優(yōu)解，只有次優(yōu)解。沒有任何國家會放棄這項研究，否則就會出現(xiàn)嚴重利益受損，只有通過加速這項技術的進步，才能在競爭中不至于被對方占便宜。一旦進入囚徒困境，就會加快技術進步的腳步，這樣一來，作為個體的人就會成為最大的受害者，而由此帶來的利益卻被機構分享。

在道德方面，人臉識別技術也會帶來一些難以處理的困境。比如，研究機構可以對所謂的聰明人進行數(shù)據(jù)收集，然后用這些數(shù)據(jù)去衡量和評價人才，同樣是很可怕的事情。至于“以貌取人”更是成為一種無法根除的認知偏見。再比如，隨著對人類微表情、性格特征了解的深入，以及算法的進步，人臉識別技術甚至有可能發(fā)現(xiàn)個體的性取向（如同性戀等）。這又是屬于高度隱私的問題，這些信息一旦被泄露或被利用，會帶來很多麻煩的倫理問題。從上述這些案例中，可以清晰發(fā)現(xiàn)，人臉識別技術有著廣泛的市場需求，而市場上一旦有需求，將極大地推動技術進步。下面可以通過一些數(shù)據(jù)來佐證我們的擔憂。（表1）

從表1中可以直觀發(fā)現(xiàn)，近5年來，人臉識別研究呈現(xiàn)出快速升溫跡象，不論是純粹技術領域還是人文社科領域，這種升溫趨勢都非常明顯。短短5年時間，人文社科領域關于人臉識別技術的文獻增長了6倍，但是從總體來看，人文社科的研究仍然遠遠落后于技術領域的發(fā)展。從這個意義上說，加強人文社科領域的研究并沒有制約技術的發(fā)展，反而是嚴重滯后了。對于以人臉識別技術為代表的高科技發(fā)展，必須輔以倫理約束已經成為共識，雖然人文社科的約束力比較弱，但是至少會起到一種潛在的有益影響，如果連這一環(huán)節(jié)都省略了，那么技術的自主發(fā)展將是一條充滿未知的旅途。

論文僅僅從一個側面反映了研究現(xiàn)狀，而專利則表明技術在快速向市場領域擴散。通過檢索發(fā)現(xiàn)，在過去的27年間（1990—2016），全球在人臉識別技術領域頒布了15592個專利族，其中排名前四的國家分別是：中國大陸（5322件）、日本（3810件）、美國（3113件）和韓國（1844件），這四個國家共占相關專利的90%以上（章帆等，2018）。暫且不論專利的質量與水平高低，中國的機構與企業(yè)對于該項技術表現(xiàn)出強烈的熱情，由此衍生出的擴散速度也是極為驚人的?，F(xiàn)在有越來越多的機構開始使用人臉識別技術，甚至筆者所在的高校圖書館都已經開始刷臉了（筆者一直懷疑是否有這種必要），更不知社會上還有多少商家和機構正躍躍欲試，準備使用這項技術呢。

二、顱相學的教訓與人臉識別的未來

刷臉時代的到來，不禁讓人想到200年前在歐洲流行甚廣的顱相學（Phrenology），它是由德國神經解剖學家加爾（F.J.Gall，1758—1828）在18世紀末創(chuàng)立的。加爾認為，人腦的某些區(qū)域與特定功能有關，如智力或性格等，而這些功能的強度可以通過顱骨的形狀表現(xiàn)出來。據(jù)學者余佳總結，加爾的顱相學主要包括如下一些內容：1.大腦組織是支配人的品性和行為的器官;2.特定部位的大腦組織決定特定的品性和行為;3.大腦組織與其表面的頭骨形狀有關系，頭骨隆起和下塌，則其內部相對應的腦組織也會隨之豐滿或單薄;4.腦組織形狀的變化會影響其功能。這些內容有些符合科學事實，而有些則是基于相術的無根據(jù)聯(lián)想，導致一般人很難真正分辨出哪些是可取的觀點，哪些是錯誤的觀點。公眾對于這種拼盤理論更是各取所需，從而導致顱相學在19世紀的歐洲和北美頗有市場，一些著名學者也參與其中，比如發(fā)現(xiàn)大腦語言區(qū)的法國醫(yī)生布洛卡就是狂熱的顱相學信奉者?？陀^地講，顱相學本是科學與相術的混合體，加之加爾本人就是一名科學家，這使他的這種混合體理論很有迷惑性。這種現(xiàn)象也是科學史上的經典現(xiàn)象：科學的雜化過程。雜化過程往往需要很多年才能得到有效的清理，即便如此，也無法完全清除其影響，因為即便是錯誤的理論也會有人相信。時至今日，顱相學仍有市場。

當下的人臉識別技術與200年前的顱相學也有很多相似之處。隨著算法與深度學習的推進，個人信息的傳輸、交流、轉換、分配、擴散、利用等環(huán)節(jié)都是個人無法掌控的，在此背景下，個體透明化已是大勢所趨，也必然帶來彼得?休伯（Peter Huber）所謂的“個人風險”與“公共風險”不對稱性的增加。

既然人臉識別技術的潘多拉盒子已經打開，那么幻想關上蓋子的想法就顯得過于天真。在一個透明化時代，如何最大限度上捍衛(wèi)個體的自由和權利就是我們每個人的責任。白俄羅斯評論家莫羅佐夫曾說：有些技術需要公開和透明的倫理，有些技術需要保密和藏匿的道德。對此，筆者深以為然。人臉識別技術的應用需要公開和透明。由于它涉及無數(shù)人的利益與福祉，那么基于后果引入社會評價就是合理的。為了實現(xiàn)這個目標，做為受眾的我們需要在認知上理解風險折現(xiàn)的理念，否則所謂全民參與就是一句空話。

哈佛大學凱斯?桑斯坦教授曾指出：對于從現(xiàn)在起數(shù)個世紀后才會被感受到其影響的規(guī)制而言，任何合理的折扣率都將會使看起來巨大的收益變得接近于零，而遙遠未來的最差情形就可能看起來一點都不差。桑斯坦教授還是過于樂觀了，對于氣候變化這類長時段的事件來說，他的說法可能是對的，但是對于新技術的應用而言，其生命周期要短得多，這種折現(xiàn)效果很快就會體現(xiàn)出來。我們之所以忽略或者低估不太遙遠的未來風險，是因為未來風險折現(xiàn)到當下的損失是很小的，從而造成群體性不敏感與道德麻痹現(xiàn)象。如果假定折現(xiàn)率是10%，那么15年后的100元相當于今天的24元。當下?lián)p失24元遠不至于引起人們的認知與道德上的憤怒，正是由于對未來風險的習慣性折現(xiàn)，導致我們對于當下風險的不敏感，只要你想想上例中的24元損失，它完全在你的承受范圍之內，故而你也就覺得問題不是很嚴重。人臉識別技術就是這種具有低敏感性的技術，要記得，溫柔刀也是可以殺人的。

（李俠為上海交通大學教授，霍佳鑫為上海交通大學科學史與科學文化研究院博士生;本研究得到國家社科基金重大項目“大數(shù)據(jù)環(huán)境下信息價值開發(fā)的倫理約束機制研究”的資助，課題編號：17ZDA023，特此致謝）

責任編輯：尚國敏