人工智能離理想還有多遠(yuǎn)

柳森

世界人工智能大會(huì)日前在上海召開(kāi)。大會(huì)期間，張文宏醫(yī)生一句“在人工智能如日中天的今天，此次抗疫靠的還是傳統(tǒng)智慧”引起很多人的共鳴。

人工智能曾經(jīng)是一個(gè)頗為科幻的話題。有人擔(dān)心人工智能會(huì)取代人類，甚至?xí)慈祟?。然而幾年下?lái)，我們發(fā)現(xiàn)人工智能并沒(méi)有想象中的那樣智能。問(wèn)題究竟出在哪兒？

從2004年開(kāi)始，復(fù)旦大學(xué)哲學(xué)學(xué)院教授徐英瑾就開(kāi)始將注意力投向人工智能。他不僅撰寫(xiě)了大量相關(guān)論文專著，開(kāi)設(shè)的人工智能哲學(xué)課程也受到學(xué)生好評(píng)。

日前，他講述了自己對(duì)上述議題的思考。他的剖析從“什么是人”“什么是智能”這兩個(gè)問(wèn)題切入。

認(rèn)識(shí)不到現(xiàn)實(shí)和理想的差距就會(huì)導(dǎo)致“泡沫”

問(wèn)：世界人工智能大會(huì)的舉辦，激發(fā)了很多非專業(yè)人士對(duì)人工智能的興趣。大家很希望了解，人工智能目前進(jìn)展到底如何。您如何看待人工智能目前的發(fā)展？

徐英瑾：現(xiàn)在公眾對(duì)人工智能有很多期望，但根據(jù)我的觀察，這些期望相當(dāng)大的程度上是建立在一些對(duì)學(xué)界實(shí)際發(fā)展?fàn)顩r的誤解上。

我經(jīng)常會(huì)聽(tīng)到各種各樣的誤解，其中之一就是認(rèn)為人工智能是個(gè)新東西，是這幾年冒出來(lái)的。事實(shí)上，人工智能（artificial intelligence）這個(gè)詞正式變成公認(rèn)的學(xué)科名詞是在1956年美國(guó)的達(dá)特茅斯會(huì)議上。顯然，這是挺久遠(yuǎn)的事情了。

至于現(xiàn)在被談?wù)摵芏嗟纳疃葘W(xué)習(xí)技能，前身就是人工神經(jīng)網(wǎng)絡(luò)（artificial neural network）。這個(gè)概念在20世紀(jì)60年代就被學(xué)界注意到了。人工智能的奠基人之一阿蘭·圖靈生前也搞過(guò)一些粗淺的人工神經(jīng)網(wǎng)絡(luò)研究。這樣算的話，這個(gè)技術(shù)至少可以追溯到20世紀(jì)40年代。

所以，嚴(yán)格來(lái)說(shuō)，人工智能的主流技術(shù)并不新，它是經(jīng)過(guò)對(duì)傳統(tǒng)技術(shù)的反復(fù)迭代而來(lái)的。

問(wèn)：那么，人工智能技術(shù)發(fā)展現(xiàn)狀如何？

徐英瑾：關(guān)于人工智能的發(fā)展現(xiàn)狀，目前有“樂(lè)觀論”“悲觀論”“泡沫論”三種論調(diào)。

其中，“樂(lè)觀派”可能是主流。樂(lè)觀論者認(rèn)為，人工智能的發(fā)展一定能夠在短時(shí)間內(nèi)解決我們面臨的各種問(wèn)題。

這種論調(diào)描繪出了一個(gè)烏托邦般的場(chǎng)景：當(dāng)你回到家中，所有的設(shè)備都能夠通過(guò)全新的網(wǎng)絡(luò)技術(shù)和物聯(lián)網(wǎng)與你心有靈犀;汽車是不用駕駛的，你上了車以后，什么事都不用干，就可以把你帶到目的地;沿途，你還可以和你的汽車交談，就好像它是你的人類司機(jī)那樣。

悲觀論者更多是站在那些可能會(huì)丟掉工作的人的立場(chǎng)上，認(rèn)為人工智能實(shí)在太厲害，會(huì)取代很多人的工作。到時(shí)，如果社會(huì)暫時(shí)又無(wú)法提供更多的新崗位，這可怎么辦？

我的觀點(diǎn)是“泡沫論”?！芭菽辈皇侵溉斯ぶ悄艿奈磥?lái)一片黯淡，而是說(shuō)在短期內(nèi)，這項(xiàng)技術(shù)的發(fā)展還無(wú)法支撐得起很多人的夢(mèng)想。

理想很豐滿，技術(shù)目前還很“骨感”。如果你意識(shí)不到理想和現(xiàn)實(shí)之間的差距，就會(huì)導(dǎo)致“泡沫”。假如因?yàn)閷?duì)人工智能持有樂(lè)觀態(tài)度而到市場(chǎng)上去融資，就更需審慎考慮。

歷史上確實(shí)有成功案例，比如IBM360計(jì)算機(jī)項(xiàng)目。

它的成功使計(jì)算機(jī)從過(guò)去那種非常笨重、只有高級(jí)科研單位才能買得起的狀態(tài)，慢慢地變成辦公室可以用的計(jì)算機(jī)，為個(gè)人PC的出現(xiàn)打下了基礎(chǔ)。但失敗的案例也很多。如果關(guān)于人工智能的融資計(jì)劃都把未來(lái)描述得很美好，把餅畫(huà)得特別大，最后很可能會(huì)有問(wèn)題。

我個(gè)人對(duì)人工智能未來(lái)發(fā)展的基本判斷是——

人工智能對(duì)我們生活的改變不是全局性的、顛覆性的，而是局部的改進(jìn)。比如，在在線教育、養(yǎng)老陪護(hù)等領(lǐng)域，人工智能能促進(jìn)一些變化，帶來(lái)一些商機(jī)。但有些項(xiàng)目，比如自動(dòng)駕駛，就很可能存在一些應(yīng)予以審慎對(duì)待的“泡沫”。

當(dāng)然，我主張的“泡沫論”是建立在一些基本概念的界定上，比如“專用人工智能”和“通用人工智能”。

使用傳統(tǒng)方法解決問(wèn)題的能力下降是危險(xiǎn)的

問(wèn)：如何區(qū)別“專用人工智能”和“通用人工智能”？

徐英瑾：專用人工智能就是只能干一件事或兩件事的人工智能，通用人工智能是指什么事都能干一些的人工智能。

舉個(gè)例子來(lái)說(shuō)，李世石是一位棋手，AlphaGo是一個(gè)圍棋程序。如果我們把李世石看成一個(gè)智能系統(tǒng)的話，他就是通用智能系統(tǒng)。因?yàn)樗讼缕?，還能做許多其他事情，比如他會(huì)泡面、會(huì)開(kāi)車，在和AlphaGo下完棋以后他還能夠接受媒體采訪、談?wù)勛约旱母惺?。但是，AlphaGo肯定不會(huì)開(kāi)車，更不能在和李世石下完棋以后和媒體交流自己的所思所想。經(jīng)過(guò)這樣的對(duì)比，我們能明顯看出專用人工智能的局限。

我們?nèi)祟惖奶攸c(diǎn)是在一件事上可能是專家，其他事也能干，只是干得沒(méi)那么好。但是，專用人工智能就只能干專門(mén)的事情，其他的事情基本無(wú)法兼顧。僅從這一點(diǎn)來(lái)講，專用人工智能和能力全面的通用人工智能之間的區(qū)別還是很大的。

我們現(xiàn)在看到的人工智能都是專用的，它們的制作思路都是按照專用人工智能的思路來(lái)做的，比如人臉識(shí)別和語(yǔ)音識(shí)別。當(dāng)前，人工智能通過(guò)卷積神經(jīng)網(wǎng)絡(luò)技術(shù)的進(jìn)步，已經(jīng)獲得了一項(xiàng)重要能力，即可以同時(shí)通過(guò)人臉和聲音來(lái)識(shí)別他人。但對(duì)于人工智能來(lái)說(shuō)，基于神經(jīng)網(wǎng)絡(luò)的圖像識(shí)別系統(tǒng)和語(yǔ)音識(shí)別系統(tǒng)是兩回事。

問(wèn)：現(xiàn)在很多人對(duì)人工智能的想象，是建立在“通用人工智能”之上的。

徐英瑾：沒(méi)錯(cuò)。這是一件比較麻煩的事。

很多人喜歡看美劇，發(fā)現(xiàn)里面出現(xiàn)的一些機(jī)器人特別厲害。有的機(jī)器人不僅擁有人類的特征，還開(kāi)始反抗人類。有人看了這樣的故事以后就會(huì)展開(kāi)聯(lián)想：如果我們和這樣的機(jī)器人一起生活，會(huì)受到怎樣的威脅？

自然而然地，很多人對(duì)人工智能的思考就建立在了這類科幻影視作品的基礎(chǔ)上。而科幻影視作品受眾廣、不需要具備太多科學(xué)素養(yǎng)就能看明白，很有傳播力和影響力。

我有一個(gè)觀點(diǎn)：軟科幻看多了，要看一些硬科幻。硬科幻距離今天的科學(xué)比較近，對(duì)科學(xué)知識(shí)的運(yùn)用更嚴(yán)謹(jǐn)。相比軟科幻，硬科幻更適合起科普的作用，能夠增強(qiáng)普通人對(duì)現(xiàn)實(shí)世界的思考能力和把握能力。

現(xiàn)在的人工智能都是基于大數(shù)據(jù)的，它對(duì)小概率和偶然性事件缺乏應(yīng)對(duì)機(jī)制。當(dāng)它面對(duì)這個(gè)充滿變動(dòng)的世界（比如新型病毒、未知規(guī)模的洪水等）時(shí)，就不知道該如何應(yīng)對(duì)了。

所以，我擔(dān)心的問(wèn)題不是人工智能有了人的意識(shí)以后會(huì)與人類對(duì)抗，而是人類過(guò)多依賴人工智能以后，頭腦反而會(huì)變簡(jiǎn)單。

不要以為有了現(xiàn)代化的先進(jìn)工具以后就可以放棄傳統(tǒng)。舉例來(lái)說(shuō)，假設(shè)現(xiàn)在有兩支軍隊(duì)對(duì)峙，雙方都有能力使用最新的網(wǎng)絡(luò)信息技術(shù)，但只要有一方攻破了對(duì)方的網(wǎng)絡(luò)防線，另一方的信息基礎(chǔ)設(shè)施就淪陷了。到時(shí)，只能轉(zhuǎn)而采用最原始的辦法（比如信鴿、雞毛信等）來(lái)傳遞信息。

對(duì)人工智能充滿合理想象本身并沒(méi)有錯(cuò)，但如果我們將人工智能的能力想象得過(guò)于強(qiáng)大，同時(shí)又疏于保持用傳統(tǒng)方法、傳統(tǒng)智慧解決問(wèn)題的能力，這就可能會(huì)將人類置于某種尷尬的境地。

為什么現(xiàn)在還發(fā)展不出通用人工智能

問(wèn)：現(xiàn)在的深度學(xué)習(xí)技術(shù)，有望在短期內(nèi)，達(dá)到通用人工智能的程度嗎？

徐英瑾：人們?cè)?jīng)想象能有一種機(jī)器，不需要任何外界輸入能量或者只需要一個(gè)初始能量，就可以不停地自動(dòng)運(yùn)動(dòng)。在哲學(xué)家看來(lái)，這個(gè)設(shè)想經(jīng)不起嚴(yán)格推敲，無(wú)法從根本上立得住。在我看來(lái)，通用人工智能大概也只能停留在設(shè)想階段。

通用人工智能系統(tǒng)的特點(diǎn)就是通用，既然是通用，就要處理全局性的問(wèn)題。什么是全局性？就是擁有在不同的理論體系之間進(jìn)行抉擇的能力。不同的訴求之間往往存在沖突，而人類有能力在各種沖突之間想辦法，找到一個(gè)可以平衡各種矛盾的中庸點(diǎn)。

舉個(gè)大家比較好理解的例子。有一位家政員到雇主家里做事。如果雇主是一位知識(shí)分子，家里書(shū)特別多，他就可能會(huì)要求家政員盡量把書(shū)房打掃干凈，但不能干凈到書(shū)都找不到了。

家里書(shū)多的人都知道，書(shū)的易取性和整潔性往往是相互矛盾的。書(shū)收起來(lái)，家里固然更干凈整潔了，但如果幾本書(shū)同時(shí)在看，堆起來(lái)以后再找、再取就很耗費(fèi)時(shí)間。這時(shí)，究竟是追求整潔還是易?。窟@里面就有個(gè)平衡點(diǎn)。這個(gè)平衡點(diǎn)的抵達(dá)需要家政員和雇主之間長(zhǎng)時(shí)間的磨合，這很難通過(guò)程序來(lái)設(shè)置。

任何一個(gè)綜合系統(tǒng)都要具備處理各種復(fù)雜甚至突發(fā)情況的能力。其中有些情況甚至是非常極端、偶發(fā)的。比如，一輛自動(dòng)駕駛汽車在道路上行駛，道路的左側(cè)有一個(gè)路人在行走，道路的右側(cè)有五個(gè)路人在行走，萬(wàn)一出現(xiàn)車速太快來(lái)不及剎車的情況，到時(shí)該往哪邊拐？假設(shè)這個(gè)程序突然得到消息，左邊的路人是我們國(guó)家一位非常重要的專家，它該如何選擇？

很多人第一直覺(jué)就是專家更重要，但轉(zhuǎn)念一想，每個(gè)人類個(gè)體的生命都是平等的。遇到這樣的問(wèn)題，人類會(huì)痛苦抉擇、反復(fù)取舍。

換作是機(jī)器，問(wèn)題就麻煩了。我們都知道，人工智能是基于一系列規(guī)則設(shè)置的，規(guī)則背后就是各種邏輯原則。一旦情況過(guò)于特殊或復(fù)雜，機(jī)器內(nèi)部基于不同邏輯規(guī)則設(shè)置的程序之間就會(huì)打架。

我再舉個(gè)例子。假設(shè)現(xiàn)在有一位外國(guó)小伙子到少林寺學(xué)武術(shù)，語(yǔ)言不通，怎么辦？有個(gè)辦法，那就是師父做一個(gè)動(dòng)作，小伙子跟著做;如果他做對(duì)了，師父就微笑，做錯(cuò)了，師父就棒喝。通過(guò)這種方式，小伙子被棒喝以后，就知道自己做錯(cuò)了。但到底哪一點(diǎn)做得不對(duì)，如果師父不明示、不詳解，他就需要猜、需要不斷試錯(cuò)。這時(shí)語(yǔ)言的好處就很明顯。如果彼此能夠通曉對(duì)方的語(yǔ)言，師傅就能把包括武術(shù)規(guī)則在內(nèi)的一整套內(nèi)容都傳授給他，幫助他理解，然后再由學(xué)生自己轉(zhuǎn)化為行動(dòng)。深度學(xué)習(xí)基于神經(jīng)元網(wǎng)絡(luò)的運(yùn)作產(chǎn)生。神經(jīng)元網(wǎng)絡(luò)的運(yùn)作，就類似于前面所說(shuō)的那種比較笨的教學(xué)方法。

人類犯錯(cuò)以后的反省是基于道理和規(guī)則的。但系統(tǒng)不是，它遇到障礙以后的應(yīng)對(duì)辦法是調(diào)整各種參數(shù)，試錯(cuò)以后發(fā)現(xiàn)不對(duì)就再猜。它是通過(guò)大量的猜，慢慢地把事情往對(duì)的方向引。它的優(yōu)勢(shì)在于，可以在很短的時(shí)間里完成人類不可能完成的巨量猜測(cè)。深度學(xué)習(xí)基于的神經(jīng)網(wǎng)絡(luò)技術(shù)就是用強(qiáng)大的機(jī)器海量計(jì)算掩蓋了方法本身的“笨”。但問(wèn)題是，對(duì)于深度學(xué)習(xí)來(lái)說(shuō)，如果有現(xiàn)成的數(shù)據(jù)會(huì)非常好辦，如果沒(méi)有優(yōu)質(zhì)數(shù)據(jù)，靠它自己搜集數(shù)據(jù)就很成問(wèn)題。

問(wèn)：通用人工智能如果要處理全局性問(wèn)題，需要搜集的數(shù)據(jù)就更復(fù)雜了。

徐英瑾：是的。所以，目前的深度學(xué)習(xí)機(jī)制，其根本問(wèn)題就是缺乏跨領(lǐng)域?qū)W習(xí)的能力。這正是人工智能無(wú)法通用化、全局化的根本所在。

在我們的日常生活中，不同的系統(tǒng)有不同的運(yùn)作方式。國(guó)際象棋有國(guó)際象棋的下法，圍棋有圍棋的下法。人可以適應(yīng)變化，要人工智能去適應(yīng)這一點(diǎn)卻非常難。

問(wèn)：很多人會(huì)問(wèn)，可不可以把各種專用的人工智能整合為一套通用的人工智能？

徐英瑾：這會(huì)產(chǎn)生一個(gè)新的問(wèn)題——協(xié)同。這就和企業(yè)運(yùn)籌帷幄一樣，需要各個(gè)團(tuán)隊(duì)、板塊的協(xié)同合作，需要有一個(gè)能力全面的人來(lái)領(lǐng)導(dǎo)，而人工智能并不具備總體的調(diào)度、配置能力。

為了研究人工智能和人類智能的差別，一些專家提出了所謂的“卡特爾—霍恩—卡羅爾”三層智力模型。他們把通用人工智能分解成很多部分，比如流體智力、晶體智力、量化推理、讀寫(xiě)能力、短期記憶、長(zhǎng)期記憶、視覺(jué)處理和聽(tīng)覺(jué)處理等。

量化推理無(wú)非就是算術(shù)，讀寫(xiě)能力就是你能不能看懂文章、讀懂要點(diǎn)。晶體智力就好比老師現(xiàn)在給你一道題目，告訴你解法以后，看你能不能把做題的思路遷移到新的題目上。流體智力要求更高，相當(dāng)大程度上，它強(qiáng)調(diào)的是一個(gè)靈活調(diào)用各種智識(shí)能力的狀態(tài)。

至少在目前，人工智能不是根據(jù)人類智識(shí)能力的發(fā)展方向來(lái)發(fā)展的。長(zhǎng)此以往，它的“擬人性”就很成問(wèn)題，它離真正意義上的通用人工智能還很遠(yuǎn)。