人臉識別十字路口：臉的恐慌

楊智杰

“低調(diào)的學校上熱搜，準沒好事。”中國藥科大學大四學生周琪看到學校的新聞時想。

8月底，有“藥界清華”之稱的中國藥科大學全面引入人臉識別技術，不僅用于門禁，還在試點教室安裝攝像頭刷臉考勤，并對學生課堂聽課情況全面監(jiān)控。有報道稱：“在部分教室試水后，逃課和‘替同學答到或?qū)⒊蔀闅v史?！?/p>

一切早有端倪。6月，周琪收到學校通知，稱為了做好人臉識別系統(tǒng)，學生要提交高要求的照片做信息采集。兩個月后，周琪就體驗到了人臉識別的應用，出入校門、圖書館等“刷臉”通過，不用費勁找學生卡很方便，但是她沒想到隨之而來的是一場風暴。

最初的宣傳焦點，是學校應用了先進的AI技術，但風向很快轉變，更多人開始對教室里無時無刻的監(jiān)控感到恐懼。

在賽迪顧問人工智能部門負責人王曉寧看來，這次的爭議，是人臉識別技術深入應用后必然會面臨的一個節(jié)點。從業(yè)內(nèi)來看，2019年，將是人臉識別被市場檢驗的關鍵一年，很多公司正急于證明自己的變現(xiàn)能力，搶占更多賽道。但整個行業(yè)卻突然被集體卷入風暴眼：人臉識別使用的邊界，到底是什么？

校園信息化的利弊

山世光看到中國藥科大學的新聞時，并不意外。他是中科院計算所研究員、中科院智能信息處理重點實驗室常務副主任，研究人臉識別技術已經(jīng)有二十多年。

對于做技術的人而言，在校園應用人臉識別技術監(jiān)控學生狀態(tài)不算新鮮事?！霸跇I(yè)內(nèi)，一些科技公司早已有了這樣的設想，或者擁有了接近成熟的技術?！鄙绞拦庹f。

人臉識別進課堂的探索最早引發(fā)關注，始于2018年。在2018年第75屆中國教育裝備展示會上，人工智能公司曠視科技曾展出其智慧教育解決方案，利用人臉識別、表情識別等技術，記錄學生行為、表情、專注度、前排上座率等多維度課堂數(shù)據(jù)，輔助教學評估。除了曠視，百度、騰訊云等其他科技公司也都推出了“課堂專注度”分析的解決方案，技術和應用場景都相差無幾。

9月1日，復旦大學迎來3000多名2019級本科新生報到。學校推出人臉識別“刷臉”報到、云端智能驅(qū)動AI機器人現(xiàn)場快速答疑等。圖/新華

一些學校和培訓機構正積極擁抱這項新技術。百度AI開放平臺顯示，杭州金沙湖實驗學校、在線機構海風教育，以及小童科技創(chuàng)業(yè)公司均是教育方案的客戶。

去年3月底，浙江省杭州十一中在高一兩個班級試運行“智慧課堂行為管理系統(tǒng)”。與中國藥科大學幾乎同步，今年8月底，上海中醫(yī)藥大學附屬閔行薔薇小學與上海交通大學E-LEARNING實驗室合作，開發(fā)了智慧課堂行為分析系統(tǒng)。

這些系統(tǒng)的做法普遍類似：每隔一段時間，用攝像頭掃描一次學生的臉，采集并分析他們的坐姿、表情，評價他們有沒有專注聽講。山世光把人臉識別監(jiān)控學生狀態(tài)的能力，稱作“對人的深刻理解”。相較于常見的用于門禁“刷臉”的身份識別能力，這是更高的要求。

深刻理解人類，本是人們對人工智能的美好期待之一，但是用在教室這個場景下，卻引起極大的不適感。

山世光從業(yè)內(nèi)了解到，一些學校和老師的確對這項技術有需求。中國藥科大學圖書與信息中心主任許建真在接受媒體采訪時就提到，安裝人臉識別系統(tǒng)是教務部門的要求，意在減少學生逃課、早退、找人代課以及上課不認真聽講等行為，嚴肅課堂紀律，同時評估老師的教學質(zhì)量。

“不是說做技術的人非把這個方案推銷給學校，一些老師在教學上面臨難題，他們不能關注到班里的每一個孩子，無法準確把握全班同學的學習狀態(tài)，如果有人臉理解技術做輔助，老師們可以更好地調(diào)整教學辦法?！蓖瑯由頌槔蠋?，山世光也有相似的感觸。

但他也提到，不同職位的教育工作者對此有不同的態(tài)度。學校領導傾向于認為該技術有助于提升教學質(zhì)量，而一些教師持反對意見，認為自己也被監(jiān)控了。

不同職位的教育工作者對此有不同的態(tài)度。學校領導傾向于認為該技術有助于提升教學質(zhì)量，而一些教師持反對意見，認為自己也被監(jiān)控了。

“大家的爭議主要在于公共場合下，個人信息被利用前的知情權，信息被采集的范圍和使用邊界等問題?！?賽迪顧問人工智能部門負責人王曉寧對《中國新聞周刊》說。

中國藥科大學在使用這項技術前，曾向當?shù)毓膊块T和法務部門咨詢，得到的答復是，教室屬于公共場所，不存在侵犯隱私的問題。

但中國政法大學傳播法研究中心副主任朱巍認為，人臉識別要獲取學生的肖像權，肯定涉及侵犯學生隱私權，“盡管很多時候在使用肖像權上，學校會和學生有協(xié)議，但是學生通常是弱勢群體，這樣的協(xié)議是無效的，所以人臉識別監(jiān)控的行為值得去探討?！?/p>

教育學者關注的另一個問題是：即便不討論隱私，用人臉識別監(jiān)控學生的狀態(tài)，更涉及教育的根本價值觀。

在人臉識別進入課堂前，很多教室早已安裝了監(jiān)控攝像頭。中國教育科學研究院研究員儲朝暉告訴《中國新聞周刊》，是否在教室里引入監(jiān)控，是教育領域研究幾十年的老問題，業(yè)內(nèi)的結論是：不能。他認為，反對基于兩個原因：“一、安裝監(jiān)控系統(tǒng)后，教師和學生會以偽裝的面目出現(xiàn)在教學環(huán)境中，長此以往，教師和學生也會以偽裝的人格出現(xiàn)在社會上，這個習慣很難消除，可能會引發(fā)嚴重的社會問題;二、這涉及對教師和學生基本權利尊重的問題。”

“人臉識別技術本身并無好壞，關鍵是看技術如何被使用?！鄙绞拦庹f，如何被使用，是一道選擇題，隱私、（公共）安全和便捷是三個選項，最好的答案是在三個維度上取得平衡，“中國藥科大學引入人臉識別技術并不新鮮，它之所以成為社會熱點事件，是因為在以上三個方面沒有很好地平衡。”

在一片質(zhì)疑聲中，教育+AI卻正成為未來教育的趨勢。前瞻產(chǎn)業(yè)研究院報告顯示，2023年，“智慧教育”市場規(guī)模有望突破萬億。作為AI領域目前最成熟的技術，人臉識別正深入教育行業(yè)，在刷臉簽到、學員身份查詢、校園安防、課堂檢測等諸多場景應用。

一個繞不開的疑問是：人臉識別在校園里使用的邊界到底是什么？

在儲朝暉看來，人臉識別技術在校園唯一適合的場景就是安防，用于識別非學校人員，保護學生安全，其余場景都用不上?！凹夹g對于教學只能是錦上添花，不能替代教與學的位置。”儲朝暉對《中國新聞周刊》說。

教育部已經(jīng)就中國藥科大學的新聞作出了回應?？茖W技術司司長雷朝滋在接受澎湃新聞采訪時表示，“（對于人臉識別技術應用）我們要加以限制和管理?，F(xiàn)在我們希望學校非常慎重地使用這些技術軟件?！彼J為，人臉識別進校園，既有數(shù)據(jù)安全也有個人隱私問題。對于學生個人信息要非常謹慎，能不采集就不采。能少采集就少采集，尤其是涉及個人生物信息。

教育部在近日也告訴《中國新聞周刊》，目前教育部正在針對人臉識別技術制定相關管理文件。

蒙眼狂奔的行業(yè)

在中國藥科大學引發(fā)風波的同時，以人臉識別起家的曠視科技也被推向了風口浪尖。

9月初，曠視科技“智慧課堂解決方案”的視頻在網(wǎng)上流傳。視頻中，公司運用人臉識別技術，學生的臉被方框圈出，旁邊顯示“專注度33%，表情分析結果：厭惡”“趴桌子0次，玩手機0次，睡覺0次，聽講6次，閱讀8次，舉手6次……”

這樣先進的“科技”，讓很多人不寒而栗。不過，據(jù)核實，中國藥科大學使用的并非曠視科技的技術，但是這個視頻卻成了人臉識別監(jiān)控學生狀態(tài)最形象的注解。

曠視科技很快作出官方回應，稱網(wǎng)上出現(xiàn)的課堂行為分析圖片，只是技術場景化概念演示。曠視在教育領域的產(chǎn)品專注于保護孩子在校園的安全，其列舉的方案內(nèi)容主要是在出入校門的身份識別。這樣的解釋，卻很難自圓其說。

2018年1月10日，比亞迪和華為公司聯(lián)合發(fā)布“云軌”無人駕駛系統(tǒng)?！霸栖墶睂崿F(xiàn)了全自動無人駕駛運行，并具有人臉識別、斷電無人駕駛、自動診斷等多種功能。圖/新華

陷入爭議和風波，對剛剛申請IPO的曠視來說，不是一個好兆頭。8月25日，曠視科技在港交所提交IPO招股文件，一旦成功IPO，曠視科技將是AI上市第一股。

作為AI明星創(chuàng)業(yè)公司，曠視一路高歌猛進，正代表了國內(nèi)人臉識別產(chǎn)業(yè)的發(fā)展速度。以人臉識別發(fā)家的商湯、曠視、依圖、云從四大計算機視覺“四小龍”，一直是資本的寵兒，也是人工智能公司中的“網(wǎng)紅”。IDC（互聯(lián)網(wǎng)數(shù)據(jù)中心）統(tǒng)計，2017年CV“四小龍”合計占據(jù)計算機視覺應用市場69.4%的市場份額。

人臉識別所屬的計算機視覺技術，是無人駕駛、VR/AR、醫(yī)療檢測等應用背后的基礎技術之一。在深度學習算法驅(qū)動下，計算機視覺技術在近幾年取得了突破性的進展。眾多巨頭和創(chuàng)業(yè)公司紛紛涌入，人臉識別成為AI最熱門的賽道之一。

國金證券行業(yè)研報提到，計算機視覺是最具商業(yè)化價值的賽道，全球40%的AI企業(yè)都集中在該領域。應用方向上，國內(nèi)以安防、金融和互聯(lián)網(wǎng)為主，國外以消費、機器人和智能駕駛為主。

在所有計算機視覺創(chuàng)業(yè)公司中，人臉識別的公司數(shù)量最多，技術成熟度也比較高。目前，中國人臉識別精確度已經(jīng)超過人眼。前瞻產(chǎn)業(yè)研究院的數(shù)據(jù)顯示，2016年，我國人臉識別行業(yè)市場規(guī)模約為17.25億元，同比增長27.97%。

“四小龍”基本都靠人臉識別技術起家，不過，這些以單點技術起家的CV（計算機視覺）公司正努力擺脫“CV”標簽，從最初的算法提供商轉變成平臺或者服務商。曠視科技品牌市場團隊副總裁謝憶楠曾對《中國新聞周刊》表示，大家跑馬圈地的階段結束，證明算法是否世界第一不重要了，目前進入到了證明商業(yè)價值的階段，要看技術給行業(yè)能帶來什么改變。

曠視在成立之初主要推出Face++人臉識別開放平臺，如今，其官網(wǎng)則強調(diào)自己是“智能物聯(lián)網(wǎng)方案提供專家”，業(yè)務涉及安防、金融、零售等領域。商湯重點發(fā)力金融、安防、智能駕駛、移動互聯(lián)網(wǎng)、醫(yī)療和教育等行業(yè)，云從將金融、安防、風控、交通、商業(yè)作為重點探索場景，依圖也聚焦安防、醫(yī)療和金融、零售等行業(yè)。

從頭部公司探索的應用場景看來，計算機視覺的應用仍然暴露出明顯的問題：應用領域重合，落地產(chǎn)品同質(zhì)化，競爭異常激烈。

不少業(yè)內(nèi)人士都注意到，隨著人臉識別技術應用進入“井噴期”，“掛羊頭賣狗肉”的產(chǎn)品不少，存在較大的產(chǎn)業(yè)泡沫。以最常見的“考勤機”為例，價值數(shù)百元至上萬元不等，一些暢銷的“千元機”，只要臉部采集的數(shù)據(jù)能吻合六成以上，便能認定是同一人。市場良莠不齊，很多打著“人工智能”旗號的人臉識別技術真假難辨。

國金證券報告提到了另一個行業(yè)痛點：計算機視覺技術研發(fā)周期長、盈利困難。除安防、金融等少數(shù)場景，大多數(shù)領域還找不到清昕的商業(yè)模式。

曠視科技一直處于虧損狀態(tài)，根據(jù)其招股書顯示，2016年至2019年上半年，曠視科技分別虧損3.43億元、7.59億元，及33.51億元和52億元。不過曠視科技回應，大幅虧損主要是由于上市引發(fā)的優(yōu)先股的公允價值變動。

曠視招股書顯示，曠視成立8年來，共融資13.51億人民幣，業(yè)內(nèi)預計曠視的估值會在40億美元左右。而另一家獨角獸商湯則是“四小龍之首”，其聯(lián)合創(chuàng)始人徐立近日證實，商湯今年的估值超過75億美元。線性資本創(chuàng)始人王淮曾對《中國新聞周刊》介紹，“如果僅僅是做人臉識別撐不起這么高的估值，這些公司必然要去拓展其他業(yè)務，才能匹配這樣的高估值。”

人臉識別公司，正在不斷地嘗試打破更多邊界，急于向投資人證明自己的估值。人臉識別進課堂的爭議，正是在這個大背景下發(fā)生的。一位行業(yè)人士在接受虎嗅網(wǎng)采訪時坦言，作為一家將要IPO，但營收并不好看、還存在虧損的人臉識別技術公司之一，業(yè)績壓力也讓他們想尋找各個途徑實現(xiàn)技術變現(xiàn)，對于一些產(chǎn)品設計的思考可能欠妥當。

刷臉無處不在

在產(chǎn)業(yè)前景和資本助推下，人臉識別正在成為無法阻擋的趨勢。

前瞻產(chǎn)業(yè)研究院報告顯示，隨著國內(nèi)智慧城市的深入發(fā)展，城市監(jiān)控的高清化進一步普及，攝像頭數(shù)量大規(guī)模增長，人臉識別在數(shù)據(jù)采集上的阻礙大大減小，提升了人臉識別的質(zhì)量與應用領域。預計未來5年人臉識別市場規(guī)模將保持年均25%的增速，2022年市場規(guī)模將達到約67億元。

越來越多高校、醫(yī)院、社區(qū)、工業(yè)園區(qū)、景區(qū)、機場、火車站，都在推廣“刷臉”通行。清華大學新聞學院教授沈陽曾對媒體提到，中國人平均每天要暴露在各種攝像頭下超過500次。

2017年5月，上海開始試點“電子警察”抓拍行人闖紅燈設備。一旦監(jiān)測到有行人闖紅燈，設備就會對闖紅燈行為進行完整攝錄，并對該行人進行連續(xù)抓拍進行人臉識別，隨即在周邊的公交站點顯示屏上進行公告。這項技術目前在深圳、天津、太原、濟南等多個城市都已經(jīng)展開使用。

各種應用場景“腦洞大開”，2017年，北京天壇公園在3座公廁中安裝了6臺人臉識別廁紙機，以此杜絕偷廁紙的行為。

5月7日，在福州舉行的第二屆數(shù)字中國建設成果展覽會上，觀眾了解體驗人臉識別技術。圖/視覺中國

在網(wǎng)約車行業(yè)，基于人臉識別的駕駛員身份驗證，也開始普遍應用。比如，美團打車的新注冊駕駛員，在首次接單前、更換手機設備或活躍接單駕駛員都會觸發(fā)App端人臉識別，通過技術比對確認實際運營駕駛員與平臺注冊信息及公安部門登記信息是否一致。人臉識別未通過的駕駛員將不能接單，需重新提交信息。

而讓更多人“驚喜”的是，人臉識別在抓獲逃犯方面，屢建奇功。有網(wǎng)友統(tǒng)計，自2018年以來，“歌神”張學友在全國各地的巡回演唱會中，警方依靠人臉識別技術，抓獲了幾十名逃犯。

人臉識別在社交應用軟件中也無孔不入。8月底，國內(nèi)一個AI換臉App“ZAO”在朋友圈刷屏，僅需一張照片，用戶就可以換臉成為熱門劇作里的角色。其實，此類社交性的應用早就無處不在，美顏相機、照片換臉，背后皆是人臉識別技術在支持。

但對這項技術安全隱患的擔憂，從來沒有停歇。人臉和其他生物特征數(shù)據(jù)（如指紋）之間的一個巨大區(qū)別是，它們可以遠距離起作用。智能硬件、攝像頭隨時隨地采集個人影像資料，長時間、大規(guī)模地積累用戶數(shù)據(jù)，而不被察覺。

除了被強制收集，這些人臉信息的存儲，同樣存在安全隱患。今年2月，GDI基金會荷蘭安全研究員Victor Gevers在推特上爆料，中國深網(wǎng)視界科技有限公司（SenseNets）發(fā)生了大規(guī)模數(shù)據(jù)泄露事件，稱這家公司掌握的250多萬人的個人信息，其中包含身份證號碼、地址、生日、通行證、雇主，以及其過去24小時內(nèi)路過攝像頭的位置，可供任何人訪問。

人臉識別技術本身也存在很多漏洞。在GeekPwn2017國際安全極客大賽上，畢業(yè)于浙江大學計算機專業(yè)的90后女選手“tyy”僅用時兩分半鐘就破解了人臉識別門禁系統(tǒng)，把設備中存儲的評委人臉換成了自己的臉，這也意味著可以用任意人臉來“蒙騙”人臉識別系統(tǒng)，打開門禁。

“目前，對人們生物特征的保護，例如虹膜、人臉、指紋等的保護，都沒有被寫進現(xiàn)有法律，信息保護的責任主體、責任邊界，如何使用、處理和銷毀信息，法律都未具體規(guī)定?！敝袊ù髮W傳播法研究中心副主任朱巍告訴《中國新聞周刊》，在法律脫節(jié)的當下，商業(yè)倫理要有約束力，“人臉識別公司作為技術源頭以及獲益者，必須讓用戶有獲知風險的知情權。”

技術發(fā)展的倫理和法律邊界

不僅在中國，當前全球很多國家都籠罩著“被人臉識別監(jiān)控”的憂慮。

近日，微軟刪除了其最大的人臉識別數(shù)據(jù)庫MS Celeb，英國《金融時報》報道，數(shù)據(jù)庫中采集的很多圖像的主人并沒有授權這一行為，MS Celeb 數(shù)據(jù)庫通過“知識共享”許可證來抓取和搜索圖像，這引發(fā)一些人的反對。

美國的一些地方開始出臺禁令，對人臉識別說不。今年5月14日，美國高新技術產(chǎn)業(yè)聚集的舊金山通過一條禁令，決定該市所有政府部門，包括該市交通管理局和執(zhí)法部門，都禁止使用這個新技術。隨后，馬薩諸塞州的薩默維爾和加州的奧克蘭相繼出臺人臉識別禁令。

歐洲對人臉識別的使用更為謹慎。2018年5月，歐盟實施通用數(shù)據(jù)保護條例（簡稱“GDPR”），規(guī)定違規(guī)收集個人信息（其中包含指紋、人臉識別、視網(wǎng)膜掃描、線上定位資料等）、沒有保障數(shù)據(jù)安全的互聯(lián)網(wǎng)公司，最高可罰款2000萬歐元或全球營業(yè)額的4%，被稱為“史上最嚴”條例。

近日，瑞典一所高中因使用了人臉識別系統(tǒng)記錄學生的出勤率，經(jīng)過調(diào)查后被認定學校對學生個人信息處理不符合“GDPR”的規(guī)定，收到了第一張基于“GDPR”的罰單，金額為20萬瑞典克朗（約合14.5萬人民幣）。

美國國家標準與技術研究院（NIST）2018年全球人臉識別算法測試最新結果中，2018年共有全球39家企業(yè)和機構參與本次競賽，前五名算法被中國公司包攬。

山世光認為，中國人臉識別技術和產(chǎn)業(yè)的發(fā)展，得益于互聯(lián)網(wǎng)上大量的數(shù)據(jù)，比如網(wǎng)民很樂于在互聯(lián)網(wǎng)上發(fā)布自己的照片，加上國內(nèi)外政界、娛樂界公眾人物的照片，科技公司都可以拿來用作訓練人臉識別的能力，這在法律上也處于灰色地帶。

“這些數(shù)據(jù)采集后如何保存、傳輸，傳給誰，怎么用，誰能看得到，誰能把數(shù)據(jù)考走，能否放在網(wǎng)絡上等等，都是純粹的法律問題。”山世光對《中國新聞周刊》說。

作為技術研發(fā)者，山世光內(nèi)心的感受很復雜。在他看來，一方面，中國的人臉識別技術和應用均在全球領先，如果完全追隨美國和歐洲對數(shù)據(jù)和隱私的保護，對人臉識別發(fā)展會產(chǎn)生很大的阻礙。

但他承認，人臉識別技術帶來的隱私和安全問題，已經(jīng)到了必須正視的時候，“要在隱私、安全和便捷三者之間找到恰當?shù)钠胶猓试S技術適度向前發(fā)展，同時保護公民隱私?！?/p>

（應受訪者要求，周琪為化名）