人工智能：尚未發(fā)生的革命

編譯 陸默

本文作者邁克爾·喬丹（Michael I.Jordan）是加州大學伯克利分校電氣工程和計算機科學系以及統(tǒng)計學系教授，美國工程院、美國科學院以及美國藝術(shù)與科學院院士。

人工智能（AI）是當今時代的流行語，技術(shù)專家、學者、記者和風險投資家都在使用這個詞。就像許多從學術(shù)領(lǐng)域進入大眾領(lǐng)域的詞匯一樣，在這個詞語的使用中也存在著嚴重的誤解。但這并非是公眾對科學家不甚了解的經(jīng)典案例，科學家常常也會像公眾一樣誤解人工智能（AI）。我們認為，我們的時代在某種程度上見證了從硅芯片中崛起的智能，硅基智能可以匹敵人類的智慧。上述想法讓我們著迷，也讓我們感到恐懼。遺憾的是，這樣的想法會分散我們的注意力。

關(guān)于當今時代，存在不同的描述。如下的故事涉及人類、計算機、數(shù)據(jù)和生死抉擇，但其重點不是硅基智能。14年前，我妻子懷孕時做了超聲波檢查，房間里有一位遺傳學家，她指著胎兒心臟周圍的一些白色斑點對我們說:“這些是唐氏綜合癥的標志，你們孩子患這種疾病的風險現(xiàn)在已經(jīng)上升到了1/20?！彼€進一步告訴我們說，我們可以通過羊膜穿刺術(shù)來了解胎兒是否有遺傳性唐氏綜合癥。但是羊膜穿刺術(shù)也有風險，手術(shù)過程導致胎兒死亡的風險大約是1/300。作為一名統(tǒng)計學家，我決定找出這些數(shù)字的來源。結(jié)果我發(fā)現(xiàn)，英國在這方面已進行了10年的統(tǒng)計分析，這些白色斑點是鈣積累的反映，被認定為唐氏綜合癥的預測因子。但我同時也注意到，我們測試中使用的成像機器比英國研究中使用的機器每平方英寸多出幾百個像素。我回去對遺傳學家說，白色斑點很可能是假陽性，她說，“哦，這就解釋了為什么我們在幾年前開始發(fā)現(xiàn)唐氏綜合癥發(fā)病率上升的原因，當時正是啟用新機器的時候。”

最終，我們沒有做羊膜穿刺術(shù)，幾個月后一個健康的女嬰來到了這個世界上。但這一事件讓我感到困擾，尤其在經(jīng)過粗略計算之后，我可以確信，世界范圍內(nèi)有成千上萬的人在同一天也得到了和我們同樣的診斷，他們中許多人選擇了羊膜穿刺術(shù)，導致其中許多嬰兒不必要地死去。這樣的事情日復一日地發(fā)生著，直到成為一種固定的模式。這一事件揭示的不只是我個人遭遇的問題，而是關(guān)乎整個醫(yī)療系統(tǒng)，它對不同地方和不同時間的變量和結(jié)果進行測量和統(tǒng)計分析，然后將分析結(jié)果用于其他地方和其他時間。問題不只在于數(shù)據(jù)分析本身，還在于數(shù)據(jù)庫研究人員所稱的“出處”，概括來說，數(shù)據(jù)來自哪里，從數(shù)據(jù)中得出什么樣的推論，以及這些推論與當前情況的相關(guān)性如何？等等。雖然訓練有素的專業(yè)人員可在之前個案的基礎(chǔ)上解決所有這些問題，但我們需要設(shè)計覆蓋全球的醫(yī)療系統(tǒng)，不需要如此精細的人類監(jiān)督而完成相關(guān)分析工作。

而我也是一名計算機科學家，因此我突然想到了建立這種行星尺度的推理－決策系統(tǒng)的一些原則：建立系統(tǒng)、將計算機科學與統(tǒng)計學相結(jié)合、將人類的因素考慮在內(nèi)等，這些在我所受的教育中是沒有的。在我看來，這些原則的發(fā)展（不僅醫(yī)學領(lǐng)域需要，而且商務(wù)、運輸和教育等其他領(lǐng)域內(nèi)也需要）至少和棋類比賽和感覺技能中大放異彩的人工智能系統(tǒng)同樣重要。

無論能否在不久的未來完全理解“智能”，我們都面臨一個巨大的挑戰(zhàn)，那就是如何將計算機和人類結(jié)合起來，以提高人們的生活水平。雖然這一挑戰(zhàn)被一些人視為“人工智能”的誕生，但我們可以用一個更加平凡和不乏敬意的看法，這種挑戰(zhàn)標志著一個新的工程學分支。就像幾十年前的土木工程和化學工程一樣，這個新學科的目標是融合一些關(guān)鍵想法的力量，為人們帶來新的資源和能力，并安全平穩(wěn)地做到這一點。土木工程和化學工程是建立在物理和化學基礎(chǔ)上的，而這個新的工程學科將建立在20世紀的一些思想觀念的基礎(chǔ)上，如“信息”“算法”“數(shù)據(jù)”“不確定性”“計算”“推理”和“優(yōu)化”等概念。此外，由于這個新學科的大部分重點都將是來自于或關(guān)于人類的數(shù)據(jù)，其發(fā)展需要來自社會科學和人文學科的視角。

雖然構(gòu)建模塊已經(jīng)開始出現(xiàn)，但將這些模塊組合在一起的原則還沒有出現(xiàn)，這些模塊目前只是以臨時的方式組合在一起。因此，就像人類在土木工程學出現(xiàn)之前就建造了房屋和橋梁一樣，人類也在開始著手建造涉及機器、人類和環(huán)境的社會規(guī)模的推理和決策系統(tǒng)。就像早期的建筑和橋梁有時會以不可預見的方式和悲劇性的后果倒塌一樣，我們早期的許多社會規(guī)模的推理和決策系統(tǒng)已經(jīng)暴露出嚴重的概念缺陷。而且，遺憾的是，我們不太擅長于預測下一個嚴重缺陷會是什么，我們所缺少的是一個擁有其分析和設(shè)計原則的工程學學科。

當前關(guān)于這些問題的公開對話經(jīng)常使用“人工智能”作為智力的通用符號，這使得人們很難對這一新興技術(shù)的范圍和后果進行推理。讓我們首先更仔細地考慮一下“人工智能”都被用來指代什么，包括最新概念和它的歷史淵源。

如今大多數(shù)被稱為“人工智能”的東西，特別是在公共領(lǐng)域內(nèi)，是在最近幾十年內(nèi)所稱的“機器學習”（ML）。ML是一種算法，它融合了來自統(tǒng)計、計算機科學和許多其他學科的思想，設(shè)計了處理數(shù)據(jù)、預測和幫助決策的算法。就對現(xiàn)實世界的影響而言，ML是很早就存在的真實東西。

事實上，早在20世紀90年代早期，ML將會成為巨大產(chǎn)業(yè)的苗頭就已顯現(xiàn)，世紀之交時，一些具有前瞻性眼光的企業(yè)，如亞馬遜等公司已經(jīng)在他們的業(yè)務(wù)中使用了機器學習技術(shù)，在欺詐識別和供應(yīng)鏈預測等方面解決關(guān)鍵任務(wù)后端的問題，創(chuàng)建新穎的面向消費者的服務(wù)，如推薦系統(tǒng)。隨著數(shù)據(jù)集和計算資源在隨后20年的快速增長，很顯然，ML不但為亞馬遜，而且實際上為任何需要在大規(guī)模數(shù)據(jù)基礎(chǔ)上做決策的公司提供幫助。新的商業(yè)模式應(yīng)運而生，“數(shù)據(jù)科學”一詞開始被用來指代這一現(xiàn)象，反映了ML算法專家與數(shù)據(jù)庫和分布式系統(tǒng)專家一起合作構(gòu)建可擴展、強大的ML系統(tǒng)的需求，反映了由此誕生的系統(tǒng)的更大的社會和環(huán)境范疇。

在過去幾年里，這些觀念和技術(shù)趨勢匯聚在一起，被重新標以“人工智能”之名，但這種重命名還是值得推敲的。

從歷史上看，“人工智能”一詞是在20世紀50年代末創(chuàng)造出來的，代表了當時一種令人振奮的渴望，希望通過計算機軟件和硬件創(chuàng)造出擁有人類水平智能的實體。我們將用“類人智能”，即“模擬人類的人工智能”（human-imitative AI）這個詞來指代這種渴望，它所強調(diào)的是這樣一種觀念，即人工智能實體應(yīng)是我們中的一員，即使不是指身體層面上的，至少是在精神層面上的（不管這意味著什么）。這在很大程度上是一種學術(shù)上的追求。雖然一些相關(guān)學術(shù)領(lǐng)域，如運籌學研究、統(tǒng)計、模式識別、信息理論和控制理論等都已經(jīng)存在，并且經(jīng)常受到人類智能（以及動物智能）的啟發(fā)，但這些領(lǐng)域主攻的可以說只是一些“低級”的信號和決策。

比方說，一只松鼠能感知它所居住的森林的三維結(jié)構(gòu)，并在林中樹枝間跳躍，這種能力激發(fā)和賦予人們靈感。而“人工智能”關(guān)注的是一些不同的東西：人類“推理”和“思考”的“高層次”能力或“認知”能力。然而，60年后，人工智能模擬高層次人類推理和思考能力的前景仍然難以捉摸?，F(xiàn)在所稱的“人工智能”的發(fā)展主要體現(xiàn)在一些與低水平模式識別和運動控制相關(guān)的工程領(lǐng)域，以及主要專注于尋找數(shù)據(jù)模式、做出有根據(jù)的預測、對假設(shè)和決策進行測試的統(tǒng)計學領(lǐng)域。

事實上，著名的“反向傳播算法”在20世紀80年代早期由大衛(wèi)·魯梅爾哈特（David Rumelhart）重新發(fā)現(xiàn)，如今被認為是所謂的“人工智能革命”的核心，它最早出現(xiàn)在20世紀50年代和60年代的控制論領(lǐng)域內(nèi)，其早期應(yīng)用之一是在向月球進軍中用于優(yōu)化阿波羅飛船的推力。

自20世紀60年代以來取得的許多進展并非來自于對人工智能的追求，而是就像阿波羅飛船的例子一樣，通常是研究人員專注于解決某項特定工程難題的杰作，而關(guān)于人工智能的一些想法往往被隱在幕后。雖然不為一般公眾所了解，但在文檔檢索、文本分類、欺詐行為檢測、商品推薦系統(tǒng)、個性化搜索、社會網(wǎng)絡(luò)分析、規(guī)劃、診斷和A/B測試等領(lǐng)域內(nèi)的研究和系統(tǒng)構(gòu)建都取得了重大成功，這些進步成為谷歌、網(wǎng)飛公司（Netflix）、臉書網(wǎng)（Facebook）和亞馬遜等公司發(fā)展的推動力量。

人們簡單地將所有這些都稱為“人工智能”，事實上，已達成了這樣的共識。這樣的標識可能出乎優(yōu)化或統(tǒng)計研究人員的意料之外，他們一覺醒來會驚訝地發(fā)現(xiàn)，自己突然被稱為“人工智能研究人員”。但是，撇開對研究人員的標識不當這個問題不談，更大的問題是，使用這個單一、定義不清的人工智能的縮寫詞AI，阻止了人們對智力和商業(yè)問題范疇的清晰認識。

過去20年里，在對類人智能的熱切期望中，工業(yè)和學術(shù)界領(lǐng)域內(nèi)通常被稱為“智能增強”（Intelligence Augmentation,IA）的人工智能取得了重大進展。在這個領(lǐng)域內(nèi)，計算和數(shù)據(jù)用來創(chuàng)建更多增強人類智力和創(chuàng)造力的服務(wù)系統(tǒng)。搜索引擎可以看作是IA的例子（增強了人類的記憶和實際知識），自然語言翻譯也是（增強了人類的交流能力）。基于計算機技術(shù)的聲音和圖像生成也是藝術(shù)家的調(diào)色板和創(chuàng)造力的增強器。雖然可以想象得到，這類服務(wù)也涉及高層次的推理和思考，但目前它們還不是，它們主要是通過執(zhí)行各種各樣的字符串匹配和數(shù)值運算，捕捉人類可以加以利用的各種模式。

希望讀者能夠容忍最后一個縮略詞，讓我們泛泛地構(gòu)想出一門被稱為“智能基礎(chǔ)設(shè)施”（Intelligent Infrastructure,II）的學科，即一個由計算、數(shù)據(jù)和物理實體構(gòu)成的網(wǎng)絡(luò)，這個網(wǎng)絡(luò)將使人類環(huán)境更融合、有趣和安全。這樣的基礎(chǔ)設(shè)施已開始出現(xiàn)在交通、醫(yī)藥、商業(yè)和金融等領(lǐng)域內(nèi)，對個人和社會都有著巨大的影響。這些經(jīng)常出現(xiàn)在關(guān)于“物聯(lián)網(wǎng)”的討論中，但通常指的僅僅是將這些“東西”搬上互聯(lián)網(wǎng)，而不是與這些“東西”相關(guān)的更大挑戰(zhàn)：分析數(shù)據(jù)流，發(fā)現(xiàn)更多關(guān)于這個世界事實的能力；在比二進制更抽象的層次上與人類和其他事物互動。

回到我個人經(jīng)歷導致產(chǎn)生的一些想法上。我們可以想象，我們生活在一個“社會范圍的醫(yī)療系統(tǒng)”中，這個系統(tǒng)在醫(yī)生、設(shè)備和人體之間建立了數(shù)據(jù)流、數(shù)據(jù)分析流，從而幫助提升人類智力，做出更好的診斷，提供更好的護理。該系統(tǒng)內(nèi)包含：有關(guān)人體細胞、DNA、血液測試、環(huán)境、群體遺傳學的信息，關(guān)于藥物學和治療學的科學文獻。它關(guān)注的不只是某個病人或某個醫(yī)生，而是關(guān)乎所有的人類，就像目前的醫(yī)學測試通過對一組人類（或動物）的實驗，為其他人類提供更好的醫(yī)療服務(wù)，并有助于保持信息的相關(guān)性、信息來源的可靠性，就如目前銀行系統(tǒng)在金融和支付領(lǐng)域集中應(yīng)對這類挑戰(zhàn)的方式。而且，雖然人們可以預見到在這樣一個系統(tǒng)中會出現(xiàn)許多問題，包括隱私問題、責任問題、安全問題等等，這些問題也應(yīng)該視為挑戰(zhàn)而不是障礙，這才是正確的態(tài)度。

我們現(xiàn)在面臨一個關(guān)鍵問題是：應(yīng)對這些更大的挑戰(zhàn)，走傳統(tǒng)的類人智能（即模擬人類的人工智能）發(fā)展之路是否是最好或唯一的途徑呢？最近一些廣為宣傳的關(guān)于機器學習（ML）的成功例子，實際上都產(chǎn)生于與類人智能相關(guān)的領(lǐng)域，如計算機視覺、語音識別、游戲和機器人領(lǐng)域。因此，也許我們應(yīng)該只是等待這些領(lǐng)域的進一步進展。這里有兩點需要說明：首先，人們不會從閱讀報紙上知道的是：類人智能方面的成功實際上還很有限，我們離實現(xiàn)真正的類人智能的愿景還很遙遠。遺憾的是，即使在類人智能領(lǐng)域取得哪怕有限的進展，引發(fā)產(chǎn)生的興奮或恐懼情緒都會導致媒體的過度亢奮和關(guān)注，而在其他工程領(lǐng)域內(nèi)的成功是不會導致產(chǎn)生這種現(xiàn)象的。其次，更重要的是，這些成功既不足以也未必能解決IA和II的一些重大問題。就其充分性而言，以自動駕駛汽車為例，要實現(xiàn)這樣的技術(shù)，需要解決一系列的工程問題，這些問題可能與人類能力沒有什么關(guān)系，或人類根本就缺乏這方面的能力。整體運輸系統(tǒng)（II型系統(tǒng)的一個例子）可能更像目前的空中交通管制系統(tǒng)，而不像松散結(jié)合、只看前方、心不在焉的人類司機組成的系統(tǒng)；這樣的系統(tǒng)比目前的空中交通管制系統(tǒng)還要復雜得多，特別是在通過大量數(shù)據(jù)和自適應(yīng)統(tǒng)計建模提供詳細決策方面，這些正是最前沿的挑戰(zhàn)，過度專注于類人智能的研究可能會分散精力。

至于必要性論證，有人認為類人智能（AI）愿景也將IA和II愿景包括在內(nèi)，因為類人智能系統(tǒng)不僅能夠解決人工智能的一些經(jīng)典問題（如圖靈測試），同時也將是我們解決IA和II問題的最好辦法。這樣的論據(jù)幾乎沒有歷史先例。土木工程難道是通過設(shè)想建造某個人工智能木匠或人工智能砌磚工而發(fā)展起來的嗎？化學工程的發(fā)展是否也應(yīng)該先創(chuàng)造出一個人工智能化學家來嗎？更值得商榷的是：如果我們的目標是建造化工廠，我們是否應(yīng)該先創(chuàng)造出一個人工智能化學家，然后再考慮如何建造一個化工廠呢？

一種相關(guān)論點是：人類智能是我們所知的唯一的一種智能，我們應(yīng)該要做的第一步就是要模仿它。但是事實上，對于某種類型的推理人類并不是特別擅長，我們會有失誤、偏見和局限。此外，至關(guān)重要的是，我們的智能還未能進化到擁有現(xiàn)代II系統(tǒng)處理大規(guī)模決策問題的能力，也沒有具備能夠應(yīng)對II環(huán)境中出現(xiàn)的那種不確定性的能力。

可能有人會說：AI系統(tǒng)不僅會模仿人類的智能，而且還會“糾正”它，甚至還能任意擴展到解決其他更大的問題。但目前我們對于人工智能的推測性爭論，都基于科幻小說的范疇和小說中設(shè)定的背景和場景，在面對即將出現(xiàn)的IA和II的關(guān)鍵問題時，這些不應(yīng)該成為我們主要策略的論據(jù)。我們需要根據(jù)其自身的優(yōu)劣或價值來解決IA和II的問題，而不是將其看作是類人智能發(fā)展的必然結(jié)果。

不難發(fā)現(xiàn)，II系統(tǒng)中的算法和基礎(chǔ)設(shè)施方面的挑戰(zhàn)并不是類人智能研究的中心主題。II系統(tǒng)需要具備管理分布式知識庫的能力，這種知識庫會快速變化并有可能在全局上不合邏輯。這樣的系統(tǒng)必須在做出及時、分布式?jīng)Q策時處理好各種交互作用，并且還必須能夠應(yīng)對處理長尾現(xiàn)象，即一些人擁有大量數(shù)據(jù)，而大多數(shù)人只擁有極少量數(shù)據(jù)的情況。系統(tǒng)必須解決跨行政和競爭性邊界共享數(shù)據(jù)的難題。最后，特別重要的是，II系統(tǒng)必須將刺激和定價等經(jīng)濟觀念引入到統(tǒng)計和計算基礎(chǔ)設(shè)施中，這樣的基礎(chǔ)設(shè)施將人們互相連接和對商品進行估價。這樣的II系統(tǒng)不僅可以提供服務(wù)，還可以創(chuàng)造市場。一些領(lǐng)域迫切需要這樣的市場，如音樂、文學和新聞等領(lǐng)域，在這樣的市場中，數(shù)據(jù)分析將生產(chǎn)者和消費者聯(lián)系在一起。這一切都必須在不斷發(fā)展的社會、倫理和法律規(guī)范的背景下進行。

當然，經(jīng)典的類人智能問題仍然是人們極感興趣的研究課題。然而，當前人工智能研究的重點是收集數(shù)據(jù)，構(gòu)建“深度學習”基礎(chǔ)設(shè)施，模仿狹義定義的某些人類技能的系統(tǒng)示范，這些往往會轉(zhuǎn)移對經(jīng)典人工智能一些懸而未決重大問題的注意力。這些問題包括：將意圖和推理引入到執(zhí)行自然語言處理系統(tǒng)中的需要，推斷和表示因果關(guān)系的需要，開發(fā)可計算可處理的不確定性表達式的需要，開發(fā)制定和實現(xiàn)長期目標的系統(tǒng)的需要。這些都是類人智能的經(jīng)典目標，但在當前關(guān)于“人工智能革命”的爭論中，人們很容易忘記的是：這些問題還尚未解決。

IA也將繼續(xù)保持其相當重要的地位，因為在可預見的未來，計算機在對真實世界情景進行抽象推理方面的能力將仍然無法與人類相比，我們需要通過能周詳考慮的人類與計算機的交互作用來解決一些最為緊迫的問題。同時我們希望計算機能激發(fā)人類新層次的創(chuàng)造力，而不是取代人類的創(chuàng)造力（不管這意味著什么）。

曾是達特茅斯大學教授后在麻省理工學院任職的約翰·麥卡錫（John McCarthy）創(chuàng)造了“AI”這個詞，顯然是為了將他正在進行的研究與當時麻省理工學院老教授諾伯特·維納（Norbert Wiener）的研究區(qū)別開來。維納創(chuàng)造了“控制論”一詞來指代他自己的智能系統(tǒng)研究愿景，這一愿景與運籌學研究、統(tǒng)計、模式識別、信息理論和控制理論密切相關(guān)。而另一方面，麥卡錫強調(diào)的是與邏輯的聯(lián)系。有趣的概念逆轉(zhuǎn)是：打著麥卡錫術(shù)語旗幟的卻是當今時代占據(jù)主導地位的維納的人工智能研究成果，但這種情況肯定只是暫時的，在人工智能領(lǐng)域，鐘擺的擺動幅度比其他大多數(shù)領(lǐng)域都要大得多。

但我們需要的是超越麥卡錫和維納的特定歷史視角。我們需要認識到，當前關(guān)于人工智能的公開對話（關(guān)注的是一個狹窄的行業(yè)子集和一個狹窄的學術(shù)分支）可能會讓我們有一葉障目、不見森林的風險，忽略了AI、IA和II全景給我們所帶來的挑戰(zhàn)和機遇。

在這個全景范圍內(nèi)，應(yīng)該較少關(guān)于科幻夢想的實現(xiàn)，或者是超級人類機器給我們帶來噩夢的恐懼；應(yīng)該更多考慮人類需要理解和塑造技術(shù)，因為這些技術(shù)日益出現(xiàn)和影響人類的日常生活。而且，在這樣的理解和塑造中，需要來自各行各業(yè)的不同聲音，而不只是技術(shù)上的對話，只聚焦于類人智能有可能阻礙我們聽到更廣范圍的不同聲音。

雖然產(chǎn)業(yè)在推動諸多方面的發(fā)展，但學術(shù)界也在繼續(xù)發(fā)揮重要作用，不僅在于提供一些最新的技術(shù)思想，而且還在于計算機和統(tǒng)計學科研究人員以及其他學科研究人員的合作，這些學科的貢獻和獨有的視角都是目前迫切需要的，特別是社會科學、認知科學和人文科學。

另一方面，盡管在我們的發(fā)展過程中，人文和科學是必不可少的；但我們也不應(yīng)該認為：我們所談?wù)摰氖枪こ填I(lǐng)域之外、前所未有的規(guī)模和范圍的東西。社會的目標是建造新的人工制品，這些人工制品應(yīng)該名副其實。我們不希望建立這樣的系統(tǒng)：能夠在醫(yī)療治療、運輸工具選擇和商業(yè)發(fā)展機遇等方面對我們有所幫助，結(jié)果卻發(fā)現(xiàn)這些系統(tǒng)并不能真正起到作用，它們會犯一些讓人類生命和福祉付出重大代價的錯誤。在這方面，正如我之前所強調(diào)的，在以數(shù)據(jù)和學習為中心的領(lǐng)域中，還有一個有待崛起的工程學科，盡管目前這些領(lǐng)域看起來令人興奮，但它們還不能被看作是一個工程學科。

此外，我們應(yīng)該接受這樣一個事實，即我們將見證的是一個新的工程分支的誕生。在學術(shù)界和其他地方，“工程學”這個詞經(jīng)常被狹義引用，代表冰冷的、缺乏感情的機器，還有人類對它們失去控制等負面含義。但是一個新的工程學科正是我們想要的，在當前這個時代，我們將真正有機會去設(shè)想歷史上前所未有的新東西：以人為中心的工程學科。

我沒有給這個新興學科命名的想法，但是如果要繼續(xù)用“AI”這個縮寫詞來占據(jù)這個位置，那么我們就要了解這個術(shù)語真正的局限性。讓我們擴大我們的眼界，讓炒作降溫，認識未來我們所要面對的嚴峻挑戰(zhàn)。

資料來源 Mudium.com