人工智能與人類未來

編譯 胡德良

數(shù)字生活正在增強人類的能力，但也擾亂了人類世代未變的活動。代碼驅動的系統(tǒng)已經(jīng)通過信息和連通性傳播到世界上一半以上的居民，提供了以前無法想象的機會，同時也造成了前所未有的威脅。隨著新興的、算法驅動的人工智能（AI）不斷擴展，未來的人類將會比現(xiàn)在生活得更好嗎？

在皮尤研究中心于2018年夏季進行的專家意見調查中，有979名創(chuàng)新者、開發(fā)人員、技術先驅、商業(yè)與政策領導人、研究人員和活動家回答了這個問題。

專家們預測，網(wǎng)絡化人工智能將會提高人類的效率，但也會威脅到人類的自主權、代理權和做事能力。他們談到了多種可能性：在處理復雜的決策、推理和學習、高級分析和模式識別、視敏度、語音識別和語言翻譯等領域的任務時，計算機可能跟人類的智力和能力相匹配，甚至會超過人類。他們表示，在社區(qū)、車輛、建筑物、公共事業(yè)設備、農場和商業(yè)流程中使用智能系統(tǒng)，將會節(jié)省時間、金錢和人力，并為個人提供機會，讓他們享受更加個性化的未來。

許多專家的樂觀言論集中說明了人工智能在醫(yī)療保健領域的多種潛在應用，如對患者進行診斷和治療，或者幫助老年人過上更加充實和健康的生活等。這些專家對人工智能在促進更加廣泛的公共衛(wèi)生計劃方面所起的作用也非常感興趣，這些計劃圍繞著大量的數(shù)據(jù)展開，或許在未來幾年中可以獲取這些數(shù)據(jù)，而這些數(shù)據(jù)涉及從個人基因組到個人營養(yǎng)等各方面的信息。此外，其中一些專家預測，在正式和非正式教育體制中，人工智能將會對期待已久的改革起到促進作用。

然而，無論是否樂觀，大多數(shù)專家都對這些新工具表示關心，關心這些工具對人類基本要素產(chǎn)生的長期影響。在這次調查中，要求所有的參與者都詳細說明為什么他們覺得人工智能將會使人們的生活變得更好，或者為什么相反。許多專家感到憂慮，而很多人也提出了解決問題的途徑。

具體而言，要求參與者展望2030年。到2030年，您認為發(fā)展AI和相關技術系統(tǒng)很可能會提高人類的能力并賦予人類權力嗎？也就是說，在大多數(shù)情況下，大多數(shù)人的生活質量會比現(xiàn)在更好嗎？或者，發(fā)展AI和相關技術系統(tǒng)很可能會削弱人的自主性和能動性，從而使大多數(shù)人的生活質量還不如現(xiàn)在？

分析師們預計，人們將會更加依賴復雜數(shù)字系統(tǒng)中的網(wǎng)絡化AI。有些人說，隨著網(wǎng)絡化工具的廣泛使用，我們將繼續(xù)行駛在提高生活質量的軌道上，這些工具會為我們帶來積極的成果。有些專家表示，隨著我們對AI以及相關系統(tǒng)的依賴程度越來越高，可能會導致困難無處不在。

總之，盡管擔心會出現(xiàn)不利的情況，但是在這次意見調查中，63%的參與者認為，到2030年，絕大多數(shù)人的生活都會變得更好，他們對此懷有希望；37%的參與者說，人們的生活不會變得更好。一些思想領袖表示，如果密切關注這些工具、平臺和網(wǎng)絡是如何設計、分布和更新的，那么人類依靠技術系統(tǒng)會朝著好的方向發(fā)展。下面是一些專家給出的強有力的答復。

索尼婭·卡泰爾（Sonia Katyal，加州大學伯克利法律和技術中心副主任、美國商務部數(shù)字經(jīng)濟顧問委員會成員）預測：“在2030年，一系列最嚴重的問題涉及對AI的認識以及其應用將如何影響未來公民權利的發(fā)展軌跡。在這種新的AI背景下，關于隱私、言論、集會權和人格的技術建構等問題都將重新出現(xiàn)，我們對‘人人享有平等和機會’的堅定信念將會受到懷疑。在這個新世界中，誰將受益，誰將處于不利地位，取決于當今我們對未來這些問題的分析是否透徹?！?/p>

埃里克·布林約爾松（Erik Brynjolfsson，麻省理工學院數(shù)字經(jīng)濟倡議辦公室主任，《機器、平臺、人群：把握我們的數(shù)字化未來》一書的作者）認為：“AI已經(jīng)在許多領域取得了超人的成就。毫無疑問，到2030年，AI的能力可能會得到大幅提高，我們更有可能利用這種力量使世界變得更加美好。例如，我們幾乎可以消除全球貧困，在很大程度上減少疾病，并且可以為地球上的每個人提供更好的教育。也就是說，AI和機器學習也可以越來越多地用來聚集財富和權力，讓許多人望塵莫及，或者可以用來制造更可怕的武器。這兩種結果都是不可避免的，所以合適的提問不是‘將會發(fā)生什么？’而是‘我們將要選擇怎么做？’我們需要積極努力，確保技術與我們的價值觀相匹配。從政府到商業(yè)界、學術界，再到個人選擇，這一點在各個層面上都是可以做到的，而且是必須要做到的。”

布萊恩·約翰遜（Bryan Johnson，高級神經(jīng)接口的領先開發(fā)公司Kernel的創(chuàng)始人兼CEO、風險投資企業(yè)OS基金公司CEO）說：“我堅信，面對人工智能，問題的答案取決于我們是否可以將經(jīng)濟體系轉向優(yōu)先考慮人類的進步，制止和人類進步無關的發(fā)展趨勢。我指的不僅僅是工作，更重要的是真正存在的無關性，即不優(yōu)先考慮人類福祉和認知所帶來的最終結果?！?/p>

瑪麗娜·戈比爾斯（Marina Gorbis，未來研究所執(zhí)行董事）說：“如果我們的政治經(jīng)濟和數(shù)據(jù)管理制度沒有重大的改革，那么AI可能會造成更加嚴重的經(jīng)濟不平等、更多的監(jiān)視、更多程序化和非人本的交互。每當我們利用程序對工作平臺進行指令的時候，最終都會把我們自己和我們的交互程序化。人類必須變得更加標準化，消除我們在交互中出現(xiàn)的偶然性和模糊性，但這種模糊性和復雜性卻是人類的本質所在?！?/p>

朱迪思·多納斯（Judith Donath，《社交機器：為在線生存而設計》一書的作者，哈佛大學伯克曼-克萊因互聯(lián)網(wǎng)與社會中心研究員）評論道：“到2030年，大多數(shù)社交場合將由機器人提供便利條件，這些機器人含有智能化程序，能夠像人一樣跟我們進行交互。在家里，父母將讓技能嫻熟的機器人幫助孩子完成作業(yè)；在工作上，機器人將會組織安排會議。人們將會考慮把知心的機器人當作保持心理健康必不可少的同伴，我們會越來越多地求助于這樣的機器人同伴，向它們尋求從穿什么衣服到跟什么人結婚等一系列建議。到那時，人類和機器人之間的區(qū)別將大大地被模糊化。通過屏幕和投影來欣賞的話，機器人的聲音、外觀和行為將會與人類無法區(qū)分。甚至會出現(xiàn)帶有身體的機器人，雖然很明顯它不是人，但是它會非常真實，以至于我們將會有一種深信不疑的印象：它們是會思考、有感覺的人，與自己不相上下甚至優(yōu)于自己。機器人獲得了有關我們每個人的大量數(shù)據(jù)，在這些數(shù)據(jù)的幫助下，機器人將吸引我們、說服我們，它們在這方面的能力遠遠超過人類。它們能夠熟練地模仿情感，但他們永遠不會被感情所征服。如果它們憤怒地脫口說出什么難聽的話，那是因為經(jīng)過計算發(fā)現(xiàn)這種態(tài)度是最有效的方式，能夠促成它們‘心中所考慮’的任何目標。那么這些目標是什么呢？與人類社會相似的目標會激勵它們，如為了得到更好的尊重，無論是成為令人喜愛的朋友，還是受人尊敬的領導。但是，跟AI真正進行合作的將是控制它們的人類，如當今雇傭它們賣貨的銷售商，或是委托它們進行拉票的政客。”

安德魯·麥克勞林（Andrew McLaughlin，耶魯大學創(chuàng)新思維中心執(zhí)行董事，曾擔任奧巴馬政府的代理首席技術官和谷歌全球公共政策負責人）認為：“2030年并不遙遠。像互聯(lián)網(wǎng)和網(wǎng)絡化AI這樣的創(chuàng)新技術具有巨大的短期利益，也會伴有長期的負面影響，而這樣的影響需要數(shù)十年才能顯現(xiàn)出來。AI將會推動廣泛的效率優(yōu)化，但也會給保險、求職和績效評估等帶來潛在的歧視和武斷的懲罰?！?/p>

邁克爾·羅伯茨（Michael M. Roberts，互聯(lián)網(wǎng)域名與地址管理機構首任董事長兼CEO，互聯(lián)網(wǎng)名人堂成員）寫道：“實際上，利用智能體來提高人類智慧的機會是無限的。主要問題是它越方便，就需要對你了解得越多——你的愛好、時間安排、能力等，這樣就要權衡一下利弊了，得到的幫助更多，需要遭受的侵擾也更多。這不是一個非黑即白的問題，灰色地帶以及相關的補救措施將會帶來無休止的爭論。到目前為止，便利性壓倒了隱私的保護。我相信，這種態(tài)勢會繼續(xù)下去?！?/p>

達納·博伊德（Danah Boyd，微軟首席研究員、數(shù)據(jù)與社會研究所創(chuàng)始人兼總裁）說：“AI是人類用于各種目的的工具，包括追求權力。科學和人道主義會涉及AI，權力濫用同樣也

艾米·韋伯（Amy Webb，未來今日研究所創(chuàng)始人，紐約大學戰(zhàn)略預見領域教授）評論說：“在美國和世界上許多其他國家，目前準備就緒的社會安全網(wǎng)絡結構并不是為了向AI過渡而設計的，AI的過渡將持續(xù)接下來的50年或更長時間。隨著我們進入計算的第三代，隨著每個行業(yè)AI系統(tǒng)的更加深入，我們將需要具有復合型技術知識的新型工作者，他們能夠在以前從來不存在的工作崗位上進行操作。我們需要知道如何使用大數(shù)據(jù)的農民，需要腫瘤學家接受培訓兼為機器人專家，需要生物學家接受培訓兼為電氣工程師。隨著AI技術的成熟，我們需要一支響應迅速的員工隊伍，每隔幾年就能適應新的流程、系統(tǒng)和工具。我們還需要面對一個難以接受的事實：誰也不愿意大聲說出‘AI終將導致大量人員永久失業(yè)’。就像以前幾代人在工業(yè)革命期間和之后所見證的徹底變化一樣，技術的快速發(fā)展可能意味著嬰兒潮一代，特別是其工作內容可以被機器人取代的人員，如果不投入大量時間和精力，將無法重新接受培訓會涉及AI。遺憾的是，某些趨勢可能會造成嚴重的不穩(wěn)定性。以氣候變化和氣候移民為例，這將進一步破壞歐洲和美國的穩(wěn)定。我預計，我們將看到AI以有害的方式被用于其他的地緣政治危機中，此事令人恐慌。”去干其他類型的工作?！?/p>

巴里·楚達科夫（Barry Chudakov，Sertain研究公司的創(chuàng)始人兼負責人）評論說：“到2030年，人與AI合作將成為一種必要的手段，以管理和應對多個同時加速事項所帶來的影響，這些事項包括廣泛的技術進步、全球化、氣候變化和隨之而來的全球移民。為了趕上變化的節(jié)奏，為了在2030年之前控制越來越多的‘惡劣問題’，AI將會重視人類行為和交互的幾乎所有領域，并對其進行重新評估。AI和先進技術將改變我們的響應框架和時間，兩者反過來也會改變我們。一旦社交互動發(fā)生在工作、學校、教堂、家庭等環(huán)境中，那么這些互動將會越來越連續(xù)，越來越趨于同時發(fā)生。如果幸運的話，我們將遵循生命未來研究所列出的23個阿西洛馬人工智能原則（Asilomar AI Principles），并將致力于研究‘有益智能’。人工智能系統(tǒng)形成了一股道德復興的力量。我們必須接受道德復興，否則我們將會面臨可能導致人類滅亡的道德問題。我對人與AI合作的最大希望就是能夠帶來道德倫理的復興，我們要抱著登月的心態(tài)，手挽手一起準備迎接加速事項的到來。我最擔心的是我們未經(jīng)思考就采用新興技術的邏輯——即時響應、隔離在屏幕之后、對自我價值進行無休止的比較、進行虛假的自我表現(xiàn)等?！?/p>

約翰·黑文斯（John C. Havens，電氣和電子工程師協(xié)會全球自主和智能系統(tǒng)倫理倡議執(zhí)行主任，延展智能委員會執(zhí)行會長）寫道：“在2018年，世界上大多數(shù)人都無法獲取自己的數(shù)據(jù)，所以任何‘加強人類-AI’的討論忽視了這個關鍵背景——誰實際控制著人們的信息和身份。不久，人們將很難識別出自主或智能系統(tǒng)，其算法不會以某種形式與人類數(shù)據(jù)交互。”

巴蒂亞·弗里德曼（Batya Friedman，華盛頓大學信息學院人機交互教授）寫道：“我們的科技能力已經(jīng)超越、并將持續(xù)遠超我們的道德能力。道德能力是我們明智地、人道地使用知識和我們所研發(fā)的工具的能力。自動化戰(zhàn)爭——當自主武器在沒有人類參與的情況下殺死人類時——可能會導致不負責任地奪取人類生命，甚至不知道已經(jīng)奪取了生命，其中的利害關系不亞于我們想要生活在什么樣的社會中，以及該如何體現(xiàn)我們的人性。”

格雷格·香農（Greg Shannon，卡內基梅隆大學計算機緊急響應小組管理處首席科學家）說：“更好與更差將會呈現(xiàn)出4:1的態(tài)勢，長期來看會呈現(xiàn)為2:1的比例。AI在重復性工作方面做得很好，人類不喜歡這類工作。從智能化增進健康的應用程序，到對即將發(fā)生的心臟病事件的警告，再到對缺乏服務的偏遠地區(qū)以及對需要長期護理的老年人實施的自動化醫(yī)療保健服務，生活肯定會變得更好。至于自主，會存在明顯的風險。AI通過創(chuàng)建有用意的、有智能的實體對機構施加影響，以監(jiān)督、強迫甚至懲罰個人。那些知道如何使用AI的人擁有巨大的潛力，不知道如何使用或者不會使用AI的人則處于劣勢。的確，未來是否幸福尚不清楚。有些人會在游戲、工作和社區(qū)中將他們的代理權交給AI，而許多人將從平淡乏味的工作中解脫出來。如果社區(qū)幸福的要素是AI目標功能的一部分，那么AI就可以促進幸福的爆發(fā)?！?/p>

科斯塔斯·亞歷山德里迪斯（Kostas Alexandridis，《基于多智能體的智能系統(tǒng)復雜動力學研究》一書的作者）預測說：“我們的許多日常決策都將通過終端用戶以最少的干預實現(xiàn)自動化。自主或獨立將被犧牲，取而代之的是便利性。新一代公民將越來越依賴網(wǎng)絡化的AI結構和流程。網(wǎng)絡化的相互依賴性很可能會使我們更加容易遭受網(wǎng)絡攻擊。在數(shù)字的‘有’與‘無’之間以及在依賴技術的數(shù)字基礎設施之間，也極有可能存在明顯的界限。最后，還有一個問題——數(shù)字網(wǎng)絡基礎設施的所有權和控制權的‘制高點’歸誰。”

奧斯卡·甘迪（Oscar Gandy，賓夕法尼亞大學傳播學名譽教授）回答說：“當要求我們對人機‘協(xié)作’進行想象時，我們已經(jīng)面臨一個不明確的假設。我們將來面臨的問題跟我們當前所面臨的問題非常相似——我們依賴‘其他工具’（包括技術系統(tǒng)、設備和網(wǎng)絡）來獲取我們重視的東西，避免我們或許知道、或許不知道的一些情況。”

詹姆斯·斯科菲爾德·奧羅克（James Scofield O’Rourke，圣母大學管理學教授）表示：“在整個有記載的歷史中，科技在很大程度上是一個中性的概念，科技的價值問題一直取決于其應用。AI和其他技術的進步將會用于怎樣的目的呢？從火藥到內燃機再到核裂變，都曾以有益的和破壞性的方式投入應用。假如我們可以控制AI（而不是受其控制），那么我們是否會生活得更好，答案完全取決于我們自己（或者我們的后代）?！?/p>

西蒙·比格斯（Simon Biggs，愛丁堡大學跨學科藝術教授）說：“人工智能將起到增強人類能力的作用。問題不在于AI，而在于人類。作為一個物種，我們人類具有攻擊性、競爭性和懶惰性；我們有同情心，有團體意識，（有時）也會發(fā)揚自我犧牲的精神；我們還有許多其他品性……這些都將會被放大。鑒于歷史先例，人們必須要假設被放大的將是我們最糟糕的品性。在2030年，AI的常規(guī)用途有可能是用于戰(zhàn)爭和殺人，其效率遠遠超過我們目前的狀況。在同情和相關倫理框架的約束下，我們改變自己行為的能力將因我們的機構與殺戮行為之間的脫節(jié)而降低。我們不能指望AI系統(tǒng)代表我們去做符合道德的事情，它們做不到，因為設計時的目的就是有效地殺人，而不是深思熟慮地去殺人?！?/p>

馬克·瑟曼（Mark Surman，莫茲拉基金會執(zhí)行董事）回應說：“AI將繼續(xù)把權力和財富集中于總部設在美國和中國的大型壟斷企業(yè)手中，大多數(shù)人以及世界上的某些地方將會變得更加糟糕?！?/p>

威廉·烏里奇奧（William Uricchio，麻省理工學院媒體研究教授）評論說：“人工智能及其相關應用面臨三種情況——以摩爾定律的速度發(fā)展，在技術和經(jīng)濟精英的掌控下發(fā)展，以及在對知情公眾和參與公眾無益的情況下發(fā)展。公眾淪為等待下一項技術的消費者集體。我們有充分的證據(jù)表明AI能夠被用來增加利潤，能夠加強政府控制，甚至在沒有公民本身參與的情況下能夠對公民的‘社會信用’進行評分。就像之前的技術一樣，AI的前景是不可知曉的，其部署掌握在社會手中。但是，如果沒有通曉AI的公眾參與，那么如何對AI進行最佳部署的決定將會落入特殊利益集團的掌控之中。這是公平部署嗎？由于這個問題的答案是社會性的而不是技術性的，所以我感到悲觀。解決辦法在哪里？我們需要培養(yǎng)一批掌握AI技術的公眾，這意味著要將注意力集中在教育部門和面向公眾的媒體上。在開發(fā)AI技術方面，我們需要多樣性，公眾選出的代表以及法律和監(jiān)管體制要能夠跟上快速發(fā)展的步伐。在此之前，我們需要在AI的發(fā)展過程中保持謹慎并實施監(jiān)督。”

本報告來自數(shù)百名回答者的評論，其中或充滿希望，或充滿批判。除了以上摘取的部分評論，其余部分還有三方面的內容：1）對人類-AI進化的關注；2）提出應對AI沖擊的方案；3）對2030年生活狀況的預期，包括回答者對生活質量、未來的工作、衛(wèi)生保健和教育所表達的積極看法。

資料來源 pewinternet.org