面部識別拒絕種族歧視

榮智慧

美國黑人喬治·弗洛伊德被警察用膝蓋頂住脖子窒息而亡的事件，在美國各地掀起了巨大的抗議浪潮。一波波群情激昂的游行示威中，美國的幾家科技巨頭均動靜不大—除了特朗普和推特的宿怨嘴炮之外。

6月8日，“藍色巨人”IBM終于站了出來。首席執(zhí)行官阿文德·克里什納（Arvind Krishna）向美國國會致信，宣布該公司已完全退出面部識別業(yè)務。信中寫道，“ IBM不再提供通用的IBM面部識別或分析軟件。IBM堅決反對也不會容忍任何技術（包括其他供應商提供的面部識別技術）用于大規(guī)模監(jiān)視，種族歧視，侵犯基本人權和自由的行為，或與我們的價值觀和《信任與透明度原則》不符的任何目的?！?/p>

此舉是對監(jiān)測示威游行的當局使用面部識別人工智能平臺的回應。之前《紐約時報》就揭露過人工智能平臺Clearview，有數以百計的執(zhí)法機構和企業(yè)與它合作。Clearview有一個龐大數據庫，包含了從臉書、推特、Venmo等熱門網頁上抓取的30多億張照片。

刺探隱私不說，這些面部識別人工智能軟件還具有“歷史悠久”的算法歧視。根據美國國家標準技術演技院2019年12月的報告，“大多數人臉識別算法表現(xiàn)出人口統(tǒng)計學差異”—意思就是，人工智能會因為種族、性別和年齡而無法正確識別。在弗洛伊德事件爆發(fā)前，人工智能把黑人男性認成“黑猩猩”已經引起了相當程度的指責。

人工智能學好不容易，學“壞”是很快的。前幾年，微軟機器人“小冰”受“不良網友”熏染，臟話比美國小混混說得還溜。而面部識別人工智能還“繼承”了歧視傳統(tǒng)—白人男性識別得最準，黑人女性識別得最不準。這個結論有研究數據支持：2018年，IBM人工智能軟件識別白人男性的準確率高達99.7%，識別黑人女性的準確率僅有65.3%。

IBM宣布放棄面部識別技術，比解散一個城市的警察部門更能動搖執(zhí)法的技術基礎。這才是弗洛伊德之死引發(fā)的大游行的最重要的勝利。

本來，IBM是計劃在人工智能領域（包括面部識別）有一番作為的。兩個月前，印度裔的克里什納就任IBM的CEO，表示IBM將專注于混合云和人工智能兩大戰(zhàn)略。IBM在2019年年初力爭糾正面部識別的“偏見”。當時IBM發(fā)布了一個名為Diversity in Faces（DiF）的臉部多樣性數據集，目標是減少對深色人種的辨識度偏差，該數據集包含100萬張已標注的人臉圖像。

不過，面部識別業(yè)務一直沒有給IBM帶來重大的營收；同時，當前美國社會強烈關注警察制度、種族歧視等敏感問題，這兩個方面促使IBM做出了上面的決定。反面例子則是亞馬遜。之前美國公民自由聯(lián)盟稱人臉識別 “可能是有史以來最危險的監(jiān)視技術”，并多次上書美國政府：要求亞馬遜停止向警方提供其旗下的Rekognition人臉識別技術。2019年亞馬遜在股東會議上就 “停止向政府機構銷售人臉識別技術”進行投票，只有2.4%的股東同意，投票也就沒能通過。亞馬遜的CTO溫納·沃格斯公開說“技術無罪”。最近的大游行中，亞馬遜的店也被砸了不少。

雖然坊間對IBM也不乏指責，認為其只是拋掉了“雞肋”版塊，但對于一家兩個月前依然將該業(yè)務視為發(fā)展方向、對美國政府也是重要客戶的科技公司來說，做出這個決定并不容易。

更重要的是，IBM宣布放棄面部識別技術，比解散一個城市的警察部門更能動搖執(zhí)法的技術基礎。這才是弗洛伊德之死引發(fā)的大游行的最重要的勝利。可惜很多人沒有意識到這一點。

更進一步去看，喬治·弗洛伊德的死亡及爆發(fā)的大規(guī)模游行示威，不僅提示我們要考慮政治、社會和道德的復雜勾連，更要考慮到技術與個人、技術與集體、技術與權力之間的模糊地帶。在這片地帶里，有很多珍貴的東西不能失去。