“知人知面”的技術(shù)能走多遠(yuǎn)

云賀

在今年美國(guó)拉斯維加斯舉辦的消費(fèi)電子展（CES）上，人臉識(shí)別技術(shù)可謂大放異彩。特別是在出行領(lǐng)域，這個(gè)“知人知面”的技術(shù)成為了諸多汽車廠商概念車型的“殺手锏”之一：無需鑰匙，車輛上配備的人臉識(shí)別功能將自動(dòng)識(shí)別駕駛員身份并開啟車門。

具體來說，人臉識(shí)別系統(tǒng)通過判定眼睛、鼻子、顴骨和下巴等面部特征的相對(duì)位置、大小和形狀，來辨別出目標(biāo)人物的真實(shí)身份。

實(shí)際上，人臉識(shí)別技術(shù)最初主要應(yīng)用在軍事和刑偵領(lǐng)域，它曾在伊拉克和阿富汗戰(zhàn)場(chǎng)上為美軍提供了關(guān)鍵技術(shù)支持。然而，隨著這項(xiàng)技術(shù)在近年逐步投入民用，公眾對(duì)其潛在風(fēng)險(xiǎn)的爭(zhēng)議也越來越多：失誤率過高、侵犯隱私權(quán)、種族和性別偏見等弊端，屢見報(bào)端。

今年8月，查塔姆學(xué)會(huì)的兩位研究員林賽·杰斐遜（Lyndsey Jefferson）和艾米莉·泰勒（Emily Taylor）聯(lián)名發(fā)布了題為《人臉識(shí)別技術(shù)的功與過》的文章，系統(tǒng)闡釋了該技術(shù)的發(fā)展?jié)撃芘c應(yīng)用風(fēng)險(xiǎn)。文章認(rèn)為，以目前的技術(shù)水平，人臉識(shí)別技術(shù)還遠(yuǎn)未達(dá)到大規(guī)模普及的程度，特別是在公共服務(wù)領(lǐng)域，一旦濫用或誤用很容易引發(fā)一系列風(fēng)險(xiǎn)。

舊金山首發(fā)“禁令”

今年5月，美國(guó)舊金山監(jiān)事會(huì)通過了一條禁令，禁止全市所有機(jī)構(gòu)使用人臉識(shí)別技術(shù)，其中包括警察局和市政府等執(zhí)法部門。至此，舊金山成為美國(guó)首個(gè)頒布人臉識(shí)別禁令的城市。

19% 英國(guó)埃塞克斯大學(xué)的研究人員曾發(fā)布一份調(diào)查報(bào)告稱，倫敦大都會(huì)警察局在甄別目標(biāo)人物時(shí)所用人臉識(shí)別技術(shù)的準(zhǔn)確率只有19%。

支持頒布禁令的一方認(rèn)為，人臉識(shí)別技術(shù)雖然能在警務(wù)等領(lǐng)域發(fā)揮不少作用，但隨著該項(xiàng)技術(shù)的民用普及化趨勢(shì)愈加明顯，技術(shù)門檻不斷降低，在實(shí)際應(yīng)用過程中很容易超越法律與道德紅線，變成侵犯人權(quán)隱私的工具。從這一角度來考慮，人臉識(shí)別技術(shù)弊大于利，應(yīng)該予以禁止。

查塔姆學(xué)會(huì)的兩名研究員表示，相比舊金山市對(duì)于人臉識(shí)別技術(shù)的極度恐慌，全球其他城市的反應(yīng)雖沒有如此強(qiáng)烈，但也或多或少地意識(shí)到了該技術(shù)的潛在風(fēng)險(xiǎn)。

美國(guó)馬薩諸塞州的薩默維爾市議會(huì)，也決定禁止市政府及各下屬部門在公共場(chǎng)所使用人臉識(shí)別軟件。奧克蘭、紐約等城市，也都在考慮出臺(tái)類似的禁令。

在極為重視隱私權(quán)的歐洲，以人臉識(shí)別技術(shù)為代表的人工智能系統(tǒng)也受到了來自許多機(jī)構(gòu)的質(zhì)疑。近日，歐盟人工智能高級(jí)別專家組就公開提議，歐洲應(yīng)禁止人工智能系統(tǒng)深度參與到大規(guī)模監(jiān)視和社會(huì)信用評(píng)分過程中。專家組認(rèn)為，人工智能系統(tǒng)只有在充分尊重現(xiàn)有法律和公民基本權(quán)利，并符合社會(huì)倫理原則的基礎(chǔ)上，才能進(jìn)行大規(guī)模推廣。而政府應(yīng)承諾只采購(gòu)和部署“值得信賴”的人工智能系統(tǒng)。

不過，也有一部分人并不看好舊金山市對(duì)人臉識(shí)別技術(shù)的“全面封鎖令”。美國(guó)信息技術(shù)與創(chuàng)新基金會(huì)數(shù)據(jù)創(chuàng)新中心主任丹尼爾·卡斯特羅就認(rèn)為，舊金山市頒布的這條禁令是“非常糟糕的榜樣”。他表示，全面禁止使用人臉識(shí)別技術(shù)的做法未免過于極端，畢竟該項(xiàng)技術(shù)在找尋走失老人、打擊性行為犯罪、快速識(shí)別恐怖襲擊嫌疑人等許多社會(huì)安全領(lǐng)域都有巨大的應(yīng)用潛能。

舊金山市居民安全維護(hù)組織——Stop Crime SF的副主席喬爾·恩加迪奧則認(rèn)為，僅就目前的技術(shù)水平而言，人臉識(shí)別技術(shù)的失誤率很高，應(yīng)該暫時(shí)予以禁止;但同時(shí)，該禁令不該意味著“永遠(yuǎn)禁止”，而是應(yīng)為技術(shù)的改善“留一條后路”。

6月11日在上海舉辦的2019年亞洲消費(fèi)電子展上展示的人臉識(shí)別系統(tǒng)。

在社會(huì)接受層面下功夫

雖然很少有人能徹底否認(rèn)人臉識(shí)別技術(shù)的廣闊應(yīng)用前景，但如果僅從目前該項(xiàng)技術(shù)本身的成熟度來看，大規(guī)模普及應(yīng)用的確會(huì)產(chǎn)生一系列問題，其根源在于：識(shí)別錯(cuò)誤率過高。

此前，英國(guó)埃塞克斯大學(xué)的研究人員曾發(fā)布一份調(diào)查報(bào)告稱，倫敦大都會(huì)警察局在甄別目標(biāo)人物時(shí)所用人臉識(shí)別技術(shù)的準(zhǔn)確率只有19%。研究人員在使用這套技術(shù)系統(tǒng)時(shí)，篩選出的42張“匹配人臉”中只有8張臉屬于目標(biāo)人物，錯(cuò)誤率高達(dá)81%。

據(jù)悉，倫敦大都會(huì)警察局最早使用人臉識(shí)別技術(shù)是在2016年8月的諾丁山狂歡節(jié)上，該技術(shù)幫助警方實(shí)時(shí)監(jiān)測(cè)人群動(dòng)態(tài)，以備在突發(fā)情況時(shí)快速采取行動(dòng)、鎖定目標(biāo)人物。隨后，倫敦大都會(huì)警察局又于2017年的陣亡將士紀(jì)念日當(dāng)天，在倫敦的10個(gè)人群聚集點(diǎn)部署了人臉識(shí)別系統(tǒng)。

實(shí)際上，埃塞克斯大學(xué)發(fā)布的這份報(bào)告已不是英國(guó)警方第一次被公眾質(zhì)疑了。2018年，英國(guó)南威爾士警方在使用人臉識(shí)別技術(shù)時(shí)，曾將2300名民眾誤認(rèn)為是潛在犯罪分子。

更值得關(guān)注的是，人臉識(shí)別技術(shù)的失誤率還是“因人而異”的。麻省理工學(xué)院媒體實(shí)驗(yàn)室和微軟合作發(fā)布的一項(xiàng)研究顯示，人臉識(shí)別的準(zhǔn)確度與膚色有關(guān)。當(dāng)被識(shí)別圖像中為白人時(shí)，正確率超過90%;而對(duì)于膚色較深的女性，準(zhǔn)確率僅為65%。

機(jī)器技術(shù)的“種族歧視”，并非空穴來風(fēng)。眾所周知，人工智能的學(xué)習(xí)能力來源于人類提供的數(shù)據(jù)。如果人臉識(shí)別系統(tǒng)的訓(xùn)練數(shù)據(jù)中白人居多，那么系統(tǒng)對(duì)白人的鑒別能力就會(huì)更強(qiáng)。

因此可以說，人臉識(shí)別“選擇性失誤”的背后，是人類社會(huì)中無處不在的偏見和資源的不平衡分布。

查塔姆學(xué)會(huì)的文章提出，人臉識(shí)別技術(shù)是由社會(huì)中的極少一部分人研發(fā)完成的，而這部分人與整個(gè)社會(huì)的人口結(jié)構(gòu)并不相匹配。這意味著，少數(shù)族裔、年長(zhǎng)者和女性等高科技從業(yè)人數(shù)較少的人群，并沒有平等的機(jī)會(huì)將自己的意愿融入到研發(fā)過程中，而這也是導(dǎo)致人臉識(shí)別技術(shù)會(huì)出現(xiàn)“選擇性失誤”的主要原因。

可無論如何，人臉識(shí)別技術(shù)已經(jīng)深深嵌入到很多地區(qū)、諸多領(lǐng)域之中，其市場(chǎng)價(jià)值和社會(huì)價(jià)值仍然很大，全面禁止該項(xiàng)技術(shù)的使用并不適合于大多數(shù)地區(qū)。

根據(jù)卡托研究所的調(diào)查數(shù)據(jù)，僅是美國(guó)政府所應(yīng)用的面部生物識(shí)別技術(shù)，其市場(chǎng)規(guī)模預(yù)計(jì)就會(huì)從2018年的1.369億美元增長(zhǎng)到2025年的3.75億美元。

查塔姆學(xué)會(huì)的兩位研究員認(rèn)為，要消除人臉識(shí)別技術(shù)所帶來的弊端，不單單需要不斷提高技術(shù)水平和加強(qiáng)監(jiān)管力度，更應(yīng)在社會(huì)接受層面上下功夫。

比如，相對(duì)于人類發(fā)出的指令，普通人更傾向于聽從計(jì)算機(jī)的指令，而這恰恰是導(dǎo)致包括人臉識(shí)別等技術(shù)被濫用的原因所在。因此，加強(qiáng)民眾對(duì)前沿技術(shù)的認(rèn)知，也是保護(hù)其權(quán)利不受侵犯的重要環(huán)節(jié)。