曾毅：用可持續(xù)發(fā)展照亮AI善用之路

王秋蓉 于志宏

嘉賓簡介

曾毅，類腦智能研究中心副主任、中英人工智能倫理與治理研究中心主任、北京智源人工智能研究院人工智能倫理與可持續(xù)發(fā)展中心主任。聯(lián)合國教科文組織AI倫理特設(shè)專家組專家，世界衛(wèi)生組織健康領(lǐng)域AI倫理與治理專家組專家。

技術(shù)始終是推動人類進(jìn)步的重要力量。可持續(xù)發(fā)展目標(biāo)的實現(xiàn)離不開技術(shù)的支撐，新一代人工智能技術(shù)（AI）作為引領(lǐng)科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，更是被寄予厚望。從2017年國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》明確提出“推動以人類可持續(xù)發(fā)展為中心的智能化”，到今年越來越多機構(gòu)聚焦AI 助力聯(lián)合國可持續(xù)發(fā)展目標(biāo)（SDGs），一股潮流正在涌現(xiàn)。

這股潮流之中，包括2018年成立的人工智能研發(fā)機構(gòu)——北京智源人工智能研究院近期開展的一系列行動。6月22日，該研究院宣布成立面向可持續(xù)發(fā)展的人工智能智庫，并發(fā)布面向可持續(xù)發(fā)展的人工智能（AI4SDGs）公益研究計劃，希望通過新一代人工智能助力中國社會、經(jīng)濟(jì)和環(huán)境的可持續(xù)發(fā)展，推進(jìn)全球可持續(xù)發(fā)展目標(biāo)的全面實現(xiàn);8月1日，該項公益研究計劃在知名AI企業(yè)的資助與支持下面向全球發(fā)布首批項目申請。

8月3日，記者專訪了中科院自動化所研究員、北京智源人工智能研究院“人工智能倫理與可持續(xù)發(fā)展研究中心”主任曾毅，共同探討AI與可持續(xù)發(fā)展的全球動態(tài)和中國趨勢。

Q |可持續(xù)發(fā)展經(jīng)濟(jì)導(dǎo)刊

A| 曾毅

推動AI for SDGs在中國是恰逢其時

Q：在新冠肺炎疫情蔓延之際，如何看待今年以來我國出現(xiàn)數(shù)個機構(gòu)相繼推動AI for SDGs的偶然性和必然性？

A：人工智能助力聯(lián)合國可持續(xù)發(fā)展目標(biāo)在國際上已形成共識，引起不同國家和地區(qū)的廣泛關(guān)注，并得到大力推動。我國是負(fù)責(zé)任的創(chuàng)新大國，在人工智能方面也有一定的研發(fā)優(yōu)勢和產(chǎn)業(yè)優(yōu)勢，因此更應(yīng)在實現(xiàn)人工智能助力全球愿景中做出應(yīng)有的貢獻(xiàn)。在新冠肺炎疫情期間，人工智能在防控疫情中發(fā)揮了重要的支撐作用，貢獻(xiàn)于維護(hù)全球健康，可見AI造福人類的潛能巨大。因此，在我看來，今年在中國涌現(xiàn)出關(guān)注AI for SDGs的現(xiàn)象，是水到渠成、恰逢其時。

從我個人的角度，2019年有兩件事對我觸動很大，讓我意識到中國AI發(fā)展不能缺少SDGs。第一件事是未來生命研究所2019年1月在波多黎各組織舉辦的“有益的通用人工智能2019（Beneficial AGI 2019）”國際會議。這是未來生命研究所第三次舉辦相關(guān)主題的人工智能系列會議，首次邀請中國代表參加，我和北大、清華以及來自騰訊等企業(yè)的代表受邀參加。從主題上看，2019年的這次會議主題已經(jīng)不再停留在如何不讓人工智能犯錯，而是進(jìn)一步思考人工智能怎么做才對，探討實現(xiàn)通用人工智能對人類和生態(tài)的意義。

所謂通用人工智能（Artificial General Intelligence，AGI），是指人工智能的各項認(rèn)知功能都達(dá)到人類水平。而在各項認(rèn)知功能的表現(xiàn)都超越人類時，我們將迎來超級智能，即強人工智能（Strong AI）?，F(xiàn)代的人工智能全部屬于專用人工智能，即利用大數(shù)據(jù)智能分析、機器深度學(xué)習(xí)、語義知識推理等技術(shù)解決一個特定的問題，比如應(yīng)對氣候變化、識別特定類型的陸地和水下生物、推薦書籍與工作等。這次國際會議之所以聚焦通用人工智能，是因為專用人工智能未來必然發(fā)展到通用人工智能階段，但是在這個過程中可能“走歪”，而通用人工智能若不能始終對人類和生態(tài)有益，則是危險的事情。因此，探討如何發(fā)展人工智能使之向善、避免誤用濫用，是非常關(guān)鍵的議題。

當(dāng)時我深刻感受到，我們也亟需對人工智能將把人類帶向何處進(jìn)行深入思考和長遠(yuǎn)規(guī)劃。這也是北京智源人工智能研究院創(chuàng)建面向可持續(xù)發(fā)展的人工智能智庫和公益計劃的重要原因。中國人工智能的發(fā)展需要與聯(lián)合國可持續(xù)發(fā)展目標(biāo)對接，在全球樹立起中國新一代人工智能的發(fā)展支持可持續(xù)發(fā)展的全球愿景。

第二件事讓我認(rèn)識到如果缺乏利用技術(shù)解決社會重大難題的意識，擁有再先進(jìn)的AI技術(shù)也沒有意義。近期世界自然基金會（WWF）發(fā)布一份報告顯示，2019-2020年發(fā)生的澳大利亞叢林大火，造成了近30億只動物死亡或流離失所。這個數(shù)量近乎是地球上人類數(shù)量的一半，這樣的災(zāi)難對于動物生態(tài)系統(tǒng)和生物多樣性是極為沉重的打擊，而我們幾乎看不到人工智能等先進(jìn)技術(shù)在阻止或降低災(zāi)難性后果上做出任何貢獻(xiàn)，這是非常令人震驚和遺憾的。

正是這兩件事讓我迫切地感受到，無論是從國際趨勢還是實際需求來看，都必須盡快引導(dǎo)中國企業(yè)AI發(fā)展走向助力可持續(xù)發(fā)展的軌道，推進(jìn)人工智能的善用。而我個人很高興看到今年越來越多志同道合者加入進(jìn)來，合力推進(jìn)中國AI for SDGs的落地和實踐以及對全球的貢獻(xiàn)。

AI發(fā)展從“安全”到“善用”的轉(zhuǎn)變

Q：您是如何理解人工智能倫理與可持續(xù)發(fā)展？為何將人工智能倫理與安全研究中心更名為人工智能倫理與可持續(xù)發(fā)展研究中心？

A：去年5月成立的時候，命名為人工智能倫理與安全研究中心，初衷是想推動人工智能倫理和治理，發(fā)展安全有益的人工智能，避開人工智能可能引發(fā)的安全風(fēng)險。今年更名為人工智能倫理與可持續(xù)發(fā)展研究中心，這是源自我們對人工智能發(fā)展理念的轉(zhuǎn)變。“安全”強調(diào)人工智能發(fā)展的底線和紅線，就是你不能干什么，應(yīng)注意什么風(fēng)險，但是我們更應(yīng)該關(guān)注人工智能在確保安全的情況下應(yīng)該做什么才是正確的，而可持續(xù)發(fā)展就是人工智能造福人類的正確方向。

我發(fā)現(xiàn)，現(xiàn)在很多企業(yè)與科研機構(gòu)對可持續(xù)發(fā)展的理解存在偏差，認(rèn)為只要做的事情跟聯(lián)合國可持續(xù)發(fā)展17個目標(biāo)相關(guān)，就是對可持續(xù)發(fā)展做貢獻(xiàn)。其實不然，只有用可持續(xù)發(fā)展的視角推動AI for SDGs，才是對人類和生態(tài)長遠(yuǎn)發(fā)展有益。

比如，在“AI+教育”方面，將人臉識別技術(shù)應(yīng)用于教室內(nèi)學(xué)生表情、專注度等方面的識別雖然具有廣泛的潛在應(yīng)用場景，但卻不是一個可持續(xù)發(fā)展的案例。即使表情特征能夠通過計算準(zhǔn)確反映學(xué)生狀態(tài)，這類技術(shù)將有侵犯學(xué)生隱私的潛在風(fēng)險，降低學(xué)生在課堂中的能動性，引起學(xué)生的反感，而此種情緒在整個教育階段的積累甚至可能引起學(xué)生對人工智能技術(shù)的厭惡（如有相關(guān)技術(shù)的發(fā)展致力于使攝像頭檢測不到人臉信息）。所以，在我看來，表情的識別技術(shù)在教室里就是一種誤用甚至是濫用，即使它跟SDGs相關(guān)。這并不是技術(shù)本身有問題，而是使用方式的問題。如果將其用于校園霸凌事件的檢測，鎖定沖突當(dāng)事人，并輔以恰當(dāng)?shù)臎Q策處理，就能夠減少校園霸凌事件的激化甚至惡化。

因此，企業(yè)在利用AI推動SDGs時，要謹(jǐn)慎思考這一應(yīng)用在實現(xiàn)目標(biāo)的過程中對社會、環(huán)境的長期影響，在確定人工智能應(yīng)用解決問題、達(dá)到效果的同時，還要評估負(fù)面、不可控的影響，避免可能的風(fēng)險，才能有效推動人工智能助力可持續(xù)發(fā)展。

雖然SDGs領(lǐng)域的專家希望推動AI助力SDGs，但是技術(shù)本身或者商業(yè)本質(zhì)，在操作的層面不免帶來風(fēng)險，對可持續(xù)發(fā)展目標(biāo)的實現(xiàn)產(chǎn)生負(fù)面影響，希望引起各方的注意和重視，這也是北京智源人工智能倫理與可持續(xù)發(fā)展研究中心今后關(guān)注的重點。

構(gòu)建AI利他之心至關(guān)重要

Q：您剛剛講了AI對于實現(xiàn)可持續(xù)發(fā)展目標(biāo)的負(fù)面案例。那么，您對于AI的發(fā)展有哪些思考和建議？

A：劍橋大學(xué)前年曾發(fā)起了“通用智能實現(xiàn)的不同途徑及其可能存在的風(fēng)險”項目，作為該項目國際顧問委員會的委員，我認(rèn)為，任何一條人工智能實現(xiàn)的途徑都有自己的風(fēng)險，且風(fēng)險類型是截然不同的。

有些人工智能研究仿生整個人類大腦，把人類好的壞的全都學(xué)了。我認(rèn)為不能把人類惡的一面構(gòu)建為人工智能的一部分，這是很危險的。在我的類腦人工智能實驗室，正在開展人工智能風(fēng)險防范的技術(shù)模型相關(guān)研究。比如，讓人工智能系統(tǒng)可以換位思考，并具備認(rèn)知共情和利他行為。我們在嘗試構(gòu)建人工智能模型，使機器人具有一定程度的基本自我意識，在此基礎(chǔ)上發(fā)展認(rèn)知共情和利他的認(rèn)知功能，這是人工智能從智能體自身出發(fā)實現(xiàn)善用和對人類及生態(tài)有益的核心。

舉一個極端的例子。比如，無人車送快遞，如果給它的原則和指令是用最短的時間送最多的貨。假設(shè)人工智能的程序設(shè)計不嚴(yán)謹(jǐn)，無人車為了短時間內(nèi)獲得更多的獎賞，看見小動物可以視而不見，對周圍物體造成不可逆影響也是可以想象到的。但是如果人工智能具有思維揣測和利他機制，就可能避免這些問題。這不是天方夜譚，我們在技術(shù)上現(xiàn)在在做非常具體的探索。我認(rèn)為，任何一個人工智能體都要有倫理框架，這是必選項。

應(yīng)該說，人工智能倫理與可持續(xù)發(fā)展不是人工智能研究的一個分支，而是所有人工智能科研人員都應(yīng)給予關(guān)注并付諸實踐的，否則很難確保人工智能可持續(xù)的向善。

為AI從業(yè)者補上可持續(xù)發(fā)展這門課

Q：在您看來，我國人工智能從業(yè)者的倫理意識強嗎？對于可持續(xù)發(fā)展的知曉度高嗎？

A：可以說非常低。因為人工智能的從業(yè)者在教育階段幾乎沒上過社會學(xué)課程，極少數(shù)的可能上過工程倫理課程，這就導(dǎo)致他們對于倫理所知甚少，絕大多數(shù)對可持續(xù)發(fā)展更是聞所未聞。從目前情況而言，我國人工智能的從業(yè)者缺的不只是人工智能倫理一門課，還有可持續(xù)發(fā)展這門課。因此，我認(rèn)為大學(xué)應(yīng)該開設(shè)人工智能倫理與可持續(xù)發(fā)展相關(guān)課程，引導(dǎo)高校本科生、研究生、博士生了解人工智能與SDGs，并能主動探索不同技術(shù)推進(jìn)SDGs的實現(xiàn)，使每一個專業(yè)的學(xué)生在全球可持續(xù)發(fā)展愿景中都能找到自身的定位和貢獻(xiàn)的方向與方式。

2018年開始，中國科學(xué)院大學(xué)專門面向工程領(lǐng)域的學(xué)生開設(shè)了人工智能哲學(xué)和倫理課程，希望他們了解人工智能是改變社會的使能技術(shù)。在這門課上，我跟學(xué)生說，有一件事，是我希望你們?nèi)プ龅?，有一件事，是我希望你們不去做的，希望你們未來都能推動AI for SDGs，不希望你們利用人工智能開發(fā)致命性自主武器。

Q：正如您所說，在大學(xué)開展AI倫理和可持續(xù)發(fā)展的教學(xué)十分必要。那么，對于如今已經(jīng)從事人工智能研究和實踐的從業(yè)者，如何補上這一課？

A：這確實是我們要重視的問題。我國已經(jīng)成為人工智能領(lǐng)域的超級大國之一，也是具有國際擔(dān)當(dāng)?shù)呢?fù)責(zé)任大國，AI從業(yè)者的理念要不斷提升，與國際接軌。據(jù)報道，截至目前，內(nèi)地人工智能領(lǐng)域的人才約有近7萬人，對其進(jìn)行教育和引導(dǎo)是實現(xiàn)AI for SDGs落地的關(guān)鍵。

關(guān)于如何補課，一方面各類媒體要加強對AI for SDGs的報道和宣傳，提升社會各界的認(rèn)識和了解;另一方面要加強探討。每年我國都要舉辦不同主題的人工智能大會，建議這些大會開設(shè)AI for SDGs專題研討會，深入探討相關(guān)話題，凝聚共識，激發(fā)行動。今年北京和上海的人工智能大會都在初步嘗試開展相關(guān)研討，反響不錯，我們要將這件事情持續(xù)性地做下去，真正發(fā)揮引導(dǎo)作用。

北京智源人工智能研究院今年6月發(fā)布面向可持續(xù)發(fā)展的人工智能智庫、公益研究計劃、國際協(xié)作網(wǎng)絡(luò)，其中重要的目的就是引導(dǎo)更多的學(xué)者、企業(yè)共同參與和推動AI for SDGs。從某個意義上說，我們也是在將相關(guān)領(lǐng)域的學(xué)者和企業(yè)集結(jié)起來，為AI從業(yè)者“補課”。

AI for SDGs已經(jīng)是國際共識，凡是有遠(yuǎn)見的人工智能企業(yè)都應(yīng)該將其納入企業(yè)發(fā)展愿景和戰(zhàn)略規(guī)劃，不會為了眼前的短期利益而犧牲人工智能對社會和生態(tài)帶來的長遠(yuǎn)積極影響。北京智源人工智能研究院希望通過鼓勵企業(yè)參與面向可持續(xù)發(fā)展的公益研究計劃和國際協(xié)作網(wǎng)絡(luò)（AI4SDGs Cooperation Network），向全球開放研究成果，特別是支持中低收入國家和地區(qū)、“一帶一路”國家和地區(qū)，讓中國的人工智能造福更多人，而不只是造福中國。我們一直強調(diào)，國際協(xié)作網(wǎng)絡(luò)緣起中國，但不是僅為了中國，而是對世界各國免費開放，任何企業(yè)和學(xué)者只要愿意參與推動AI for SDGs，都?xì)g迎加入。畢竟，SDGs是全人類的愿景，沒有任何一個國家可以單獨實現(xiàn)，需要各方合力推進(jìn)。北京智源人工智能研究院和我們的合作伙伴希望通過自身的力量為推動AI for SDGs的全球愿景做出積極的貢獻(xiàn)。

Q：您對未來我國AI for SDGs有什么樣的期待？

A：新冠肺炎疫情對每一個SDG目標(biāo)都造成了沖擊，實現(xiàn)進(jìn)程令人擔(dān)憂，但是只要我們善用人工智能推進(jìn)SDGs，2030年的美好愿景依然可期。更進(jìn)一步地說，到2030實現(xiàn)SDGs并不是終點，而是更長遠(yuǎn)的人類社會與環(huán)境、生態(tài)共同愿景的新起點。我相信，人類在演化過程中將不斷探索可持續(xù)發(fā)展，修正自身與環(huán)境、生態(tài)之間的關(guān)系，利用人工智能推進(jìn)全球和諧發(fā)展，不僅是人類與技術(shù)的和諧，更是不同物種之間的和諧，從AI支持聯(lián)合國可持續(xù)發(fā)展目標(biāo)的實現(xiàn)到更長遠(yuǎn)、更廣泛的面向可持續(xù)發(fā)展的人工智能的擴展與深化。希望未來通過各方的努力，我國人工智能的產(chǎn)業(yè)發(fā)展不只是關(guān)注商業(yè)盈利，還將建立更長遠(yuǎn)和堅實的愿景，推進(jìn)貢獻(xiàn)于全球社會、環(huán)境和生態(tài)的可持續(xù)發(fā)展。