退出人臉識(shí)別業(yè)務(wù)，IBM在顧慮什么？

白一方

6月8日，IBM首席執(zhí)行官Arvind Krishna向美國國會(huì)五位議員發(fā)出近千字公開函，呼吁國會(huì)頒布改革措施，以推進(jìn)種族平等，反對(duì)種族歧視。IBM在信函中宣布將停止提供人臉識(shí)別及分析技術(shù)，并反對(duì)將任何技術(shù)應(yīng)用于大規(guī)模監(jiān)控、種族定性、侵犯基本人權(quán)自由、或其他任何不符合IBM信任與透明價(jià)值觀的任何行為當(dāng)中。同時(shí)，IBM向科技媒體網(wǎng)站The Verge表示，除對(duì)現(xiàn)有客戶提供必要的技術(shù)支持以外，將全面退出人臉識(shí)別技術(shù)的研發(fā)業(yè)務(wù)，不再出售、營銷、更新或開發(fā)其他新產(chǎn)品。

IBM明確表示此次決定是基于近期美國黑人喬治·弗洛伊德因警察暴力執(zhí)法而慘死，以及近年來多起因種族歧視或執(zhí)法權(quán)濫用導(dǎo)致的黑人悲劇，使其認(rèn)為反對(duì)種族歧視已經(jīng)成為全社會(huì)面臨的非常緊要的議題，而科技的使用也是其中的重要環(huán)節(jié)。

函件中指出：IBM公司自1953年9月開始研發(fā)第一臺(tái)商用計(jì)算機(jī)起，就一直致力于推廣和支持種族平等，IBM希望與國會(huì)通過限制警察權(quán)力，增強(qiáng)有色人種社群的教育及職業(yè)培訓(xùn)，負(fù)責(zé)任的使用新技術(shù)等三個(gè)方面，共同促進(jìn)公正和種族平權(quán)?，F(xiàn)在正是全面展開國會(huì)對(duì)話，討論人臉識(shí)別技術(shù)是否或應(yīng)當(dāng)如何被執(zhí)法機(jī)構(gòu)應(yīng)用的最佳時(shí)機(jī)。

從筆者長期觀察的現(xiàn)象來看，不僅是IBM有此種技術(shù)倫理上的考慮，實(shí)際上，伴隨人工智能技術(shù)的不斷發(fā)展，很多私人公司都開始研發(fā)和提供人臉識(shí)別技術(shù)，技術(shù)市場高度繁榮。但該技術(shù)導(dǎo)致的潛在風(fēng)險(xiǎn)一直存在，也引發(fā)了社會(huì)的高度關(guān)注和爭議。在這種敏感情況下，研發(fā)人臉識(shí)別技術(shù)的美國科技公司多少受到影響，面臨相關(guān)訴訟，也開始紛紛采取應(yīng)對(duì)措施。例如：谷歌、Snapchat等大型硅谷科技公司都曾面臨關(guān)于面部識(shí)別的訴訟。專門研發(fā)人臉識(shí)別等人工智能技術(shù)的公司Clearview AI因從社交媒體上抓取大量人像信息，用于人臉識(shí)別的數(shù)據(jù)庫建設(shè)，并被廣泛應(yīng)用于私人公司或執(zhí)法部門當(dāng)中，而面臨多起隱私權(quán)訴訟。Facebook也遭遇一項(xiàng)涉及人臉識(shí)別技術(shù)使用的集體訴訟，因涉及人數(shù)眾多、金額巨大而受到廣泛關(guān)注。該案自2015年被起訴，認(rèn)為Facebook在加標(biāo)簽功能中，未經(jīng)用戶許可，對(duì)用戶照片中的面部進(jìn)行識(shí)別，因此違反了伊利諾伊州《生物信息隱私法》。聯(lián)邦法院的法官在2018年對(duì)該案進(jìn)行了有利于原告的判決，F(xiàn)acebook提出上訴但以失敗告終，最終于2020年1月達(dá)成高達(dá)5億5千萬美元的和解。而對(duì)于更為巨型的亞馬遜公司，由于曾將人臉識(shí)別技術(shù)出售給俄勒岡州和佛羅里達(dá)州的執(zhí)法部門，甚至引發(fā)了更大的波瀾：在2019年3月，來自谷歌、Facebook、斯坦福大學(xué)、杜倫大學(xué)、蒙特利爾大學(xué)、哈佛大學(xué)、多倫多大學(xué)、阿姆斯特丹大學(xué)等多個(gè)公司或研究機(jī)構(gòu)的共77名人工智能研究員發(fā)表聯(lián)名公開信，要求亞馬遜停止向執(zhí)法機(jī)構(gòu)出售“有缺陷的”人臉識(shí)別技術(shù)。出于技術(shù)被濫用的擔(dān)憂，于2019年5月針對(duì)人臉識(shí)別的應(yīng)用發(fā)起了股東投票，雖然最終僅獲得2.4%的股東投票認(rèn)為應(yīng)當(dāng)停止將人臉識(shí)別技術(shù)出售給政府機(jī)構(gòu)，但有27.5%的股東投票支持對(duì)亞馬遜的Rekognition人臉識(shí)別服務(wù)是否會(huì)妨害民權(quán)和隱私進(jìn)行進(jìn)一步研究。然而，在巨大的社會(huì)聲浪下，最終，奧蘭多警察不得不在同年7月放棄亞馬遜的人臉識(shí)別平臺(tái)項(xiàng)目。

作為一個(gè)有長期技術(shù)和政策研究傳統(tǒng)的老派技術(shù)公司，IBM的此次表態(tài)其實(shí)并非該公司首次關(guān)注人臉識(shí)別的風(fēng)險(xiǎn)問題。2018年，麻省理工學(xué)院研究員Joy Buolamwini發(fā)表的研究報(bào)告中表明，IBM的Watsons視覺辨別平臺(tái)對(duì)于深膚色女性的判斷錯(cuò)誤率高達(dá)35%，而對(duì)淺色皮膚男性的判斷錯(cuò)誤率卻小于1%。對(duì)此，IBM表達(dá)了高度重視，并于2019年1月公布了包括一百萬面部圖像及視頻印象的Flickr網(wǎng)絡(luò)相冊(cè)數(shù)據(jù)庫，希望以此建立更加多元化的數(shù)據(jù)體系，幫助其人工智能驅(qū)動(dòng)的人臉識(shí)別技術(shù)提高準(zhǔn)確性和公正性，從而降低技術(shù)對(duì)于少數(shù)族裔的人臉識(shí)別偏見。

美國企業(yè)研究人員和學(xué)術(shù)界的這種憂慮，其實(shí)并非杞人憂天。由于技術(shù)的缺陷，導(dǎo)致人臉識(shí)別技術(shù)的應(yīng)用面臨年齡、種族、性別歧視的極大可能。但由于在平衡技術(shù)倫理和現(xiàn)實(shí)需求之間的沖突問題上遲遲沒有突破性的理論進(jìn)展，導(dǎo)致人臉識(shí)別領(lǐng)域一直缺乏相關(guān)法律法規(guī)的監(jiān)管，技術(shù)濫用風(fēng)險(xiǎn)極高，而公眾的憂慮也始終無法得到安撫。

一方面，美國國家標(biāo)準(zhǔn)技術(shù)研究所在2019年12月的一項(xiàng)研究顯示，實(shí)驗(yàn)性證據(jù)表明，市場上現(xiàn)有的面部識(shí)別技術(shù)算法存在偏見，受年齡、性別、種族的影響非常大。該研究測試了全球99家機(jī)構(gòu)的189種算法，發(fā)現(xiàn)即使最先進(jìn)的面部識(shí)別算法也不足以應(yīng)對(duì)執(zhí)法部門或國家安全等關(guān)鍵領(lǐng)域中的應(yīng)用。其中，針對(duì)黑人女性的一對(duì)多搜索錯(cuò)誤率最高，而針對(duì)亞裔、非裔、美洲印第安人及太平洋島民的一對(duì)一搜索則全部產(chǎn)生誤判。兒童及老人的誤判率也更高。在某些情況下，對(duì)亞裔和非裔的誤判率比白人甚至高出百倍，識(shí)別率最高的人群則是中年白人男性。而在該研究中未涉及測試的亞馬遜Rekognition人臉識(shí)別項(xiàng)目也曾經(jīng)在2018年美國非營利性人權(quán)組織美國公民自由聯(lián)盟的一項(xiàng)研究中，被發(fā)現(xiàn)準(zhǔn)確率存疑，甚至在對(duì)535名國會(huì)議員的面部掃描當(dāng)中，將其中28名國會(huì)議員識(shí)別為罪犯。

另一方面，美國目前僅通過普通法確定了政府視頻監(jiān)控應(yīng)當(dāng)以不侵犯公民對(duì)隱私的預(yù)期為基本原則，尚缺乏聯(lián)邦層面針對(duì)人臉識(shí)別技術(shù)領(lǐng)域的權(quán)威法律。州法層面，2008年伊利諾伊州頒布《生物信息隱私法》，要求在收集信息時(shí)充分告知用戶并獲取書面授權(quán)，并規(guī)定生物信息不得對(duì)外出售或披露。雖然并非針對(duì)人臉識(shí)別技術(shù)，但該法案首次在美國境內(nèi)對(duì)生物識(shí)別信息進(jìn)行了規(guī)范，其內(nèi)容與2018年頒布的歐盟《通用數(shù)據(jù)保護(hù)條例》中的包括個(gè)人面部信息在內(nèi)的“個(gè)人敏感信息”這一特殊數(shù)據(jù)類型的規(guī)定非常相似，均采取了比較嚴(yán)格的立法態(tài)度。

2019年，包括加利福尼亞州、馬薩諸塞州、新罕布什爾州等在內(nèi)的4個(gè)州，以及包括舊金山、奧克蘭、薩默維爾等在內(nèi)的多個(gè)美國城市在先后發(fā)布行政命令和法規(guī)，禁止本州或城市警察系統(tǒng)內(nèi)的攝像頭使用人臉識(shí)別技術(shù)，但并未禁止其他攝像頭使用該技術(shù)，也為禁止聯(lián)邦執(zhí)法機(jī)構(gòu)的使用。

今年3月31日，華盛頓州剛剛簽署了關(guān)于人臉識(shí)別的SB 6280號(hào)法案，成為美國第一部全面限制執(zhí)法部分使用人臉識(shí)別技術(shù)的系統(tǒng)性法律，也被認(rèn)為可能成為今后美國立法的范本。該法要求政府部門除緊急情況之外，應(yīng)當(dāng)在進(jìn)行人臉識(shí)別掃描之前取得法院合法簽發(fā)的搜查令;用于識(shí)別的軟件應(yīng)當(dāng)經(jīng)過獨(dú)立測試，以確保準(zhǔn)確性及對(duì)膚色、性別、年齡及其他特征不存在不公正的區(qū)別對(duì)待。但該法案仍然面臨民權(quán)組織認(rèn)為對(duì)社會(huì)邊緣群體保護(hù)不到位的批評(píng)，認(rèn)為該法對(duì)人臉識(shí)別技術(shù)的商業(yè)開發(fā)及對(duì)政府的販賣缺乏管制，并且缺少具體實(shí)施細(xì)則和違規(guī)的可歸責(zé)性。

筆者認(rèn)為，人臉識(shí)別技術(shù)存在的偏見風(fēng)險(xiǎn)和美國政府部門對(duì)該技術(shù)的廣泛應(yīng)用之間存在著不可忽略的矛盾。當(dāng)政府機(jī)構(gòu)把識(shí)別結(jié)果作為判斷犯罪嫌疑人身份的輔助方式，甚至作為證據(jù)應(yīng)用于逮捕、罰款、監(jiān)控等執(zhí)法行為當(dāng)中時(shí)，由于技術(shù)對(duì)少數(shù)族裔的判斷準(zhǔn)確率大幅偏低，將會(huì)不可避免的導(dǎo)致執(zhí)法誤判，且從算法層面強(qiáng)化種族歧視的觀念，從而引發(fā)警察權(quán)力濫用、不合理執(zhí)法等高度風(fēng)險(xiǎn)，影響執(zhí)法的準(zhǔn)確性和客觀性。同時(shí)，政府機(jī)構(gòu)以其公權(quán)力做背書，對(duì)人臉信息的大面積采集將會(huì)勢必導(dǎo)致對(duì)公民隱私權(quán)的壓縮和損害。因此，近年來對(duì)于人臉識(shí)別技術(shù)的應(yīng)用邊界的探討成為涉及科技、法律、生物、社會(huì)、道德領(lǐng)域的全方位熱點(diǎn)。而此次IBM的發(fā)聲，呈現(xiàn)了作為一家頭部科技公司的所承擔(dān)的社會(huì)義務(wù)和責(zé)任感。其公開函中對(duì)于警察系統(tǒng)改革和擴(kuò)大少數(shù)族裔就業(yè)及教育機(jī)會(huì)的呼吁，對(duì)于反對(duì)系統(tǒng)化種族歧視和少數(shù)族裔平權(quán)有著一定的積極作用，而對(duì)于退出人臉識(shí)別業(yè)務(wù)的決定，也表明了其認(rèn)為科技發(fā)展應(yīng)當(dāng)更具有責(zé)任感的企業(yè)價(jià)值觀。正如公開函中所述：

“人工智能是可以幫助執(zhí)法部門確保公民安全的利器。但人工智能系統(tǒng)的使用者和供應(yīng)者也應(yīng)當(dāng)對(duì)確保人工智能的偏見測試負(fù)有責(zé)任，特別是用于執(zhí)法部門時(shí)，這樣的偏見測試應(yīng)當(dāng)被審計(jì)和通報(bào)。同時(shí)，國家警察也應(yīng)當(dāng)鼓勵(lì)和促進(jìn)諸如監(jiān)控?cái)z像及現(xiàn)代數(shù)據(jù)分析等技術(shù)的應(yīng)用，從而帶來更大程度的透明度和警察的可歸責(zé)性。”

（作者系美國紐約州執(zhí)業(yè)律師、歐盟注冊(cè)信息隱私專家Certified Information Privacy Professional/Europe（CIPP/E）、美國注冊(cè)信息隱私專家（CIPP/US），主要從事商業(yè)及數(shù)據(jù)合規(guī)業(yè)務(wù)）

鏈接：

清律律師事務(wù)所，肇始于“清法律師團(tuán)”，由一批畢業(yè)于清華大學(xué)的優(yōu)秀律師創(chuàng)建，已成為一家特色鮮明、業(yè)務(wù)領(lǐng)域廣泛、成員背景多元的新銳律師事務(wù)所。目前在北京、上海兩地設(shè)有辦公室。

一直以來，清律均以高度審慎的標(biāo)準(zhǔn)來歡迎和接納新成員。律所成員背景全面，覆蓋常年顧問、投融資并購、民商事訴訟等主要法律服務(wù)領(lǐng)域，深諳各實(shí)體行業(yè)的商業(yè)規(guī)則，有豐富的為各行業(yè)提供定制化法律服務(wù)的經(jīng)驗(yàn)，具備為公私客戶提供全案的風(fēng)險(xiǎn)管控措施和糾紛解決的專業(yè)能力。

若干年來，清律秉持卓越的敬業(yè)精神和專業(yè)水準(zhǔn)，為客戶提供定制、高效、務(wù)實(shí)、盡責(zé)的法律專業(yè)服務(wù)，贏得了客戶的信任和依賴，使得客戶能夠平穩(wěn)、健康地實(shí)現(xiàn)商業(yè)目標(biāo)并取得矚目的成績。