人工智能是天使還是魔鬼？

+ 譚鐵牛

大家“金句”

· 現(xiàn)在的人工智能有智能沒有智慧、有智商沒有情商、會計算不會“算計”、有專才無通才。

· 深度學(xué)習(xí)還不能舉一反三、不能解釋，“知其然不知其所以然”，與人類智能存在很大差距。

· 當(dāng)前人工智能處于從“不能實用”到“可以實用”的技術(shù)拐點，但是距離“很好用”還有諸多瓶頸，理論創(chuàng)新和產(chǎn)業(yè)應(yīng)用發(fā)展空間巨大?？梢哉f，人工智能的春天剛剛開始。

人工智能在普遍被看好的同時，確實富有爭議。近些年不斷上映的關(guān)于人工智能、機器智能的科幻大片里，有些把人工智能塑造為暖男，也有一些塑造成給我們帶來恐慌的機器人。的確給人們提出了很多懸念和問題：人工智能到底是天使還是魔鬼？

要回答這個問題，有必要搞清楚。人工智能的基本概念、人工智能目前能夠做什么和不能做什么、人工智能未來發(fā)展走向。

一、人工智能的基本概念和發(fā)展歷程

人工智能，即“Artificial Intelligence”這個詞及相關(guān)概念，是1956年在達特茅斯學(xué)院暑期研討班上由一個叫約翰·麥卡錫的年輕人提出的。這個研討班的主題就是怎樣用機器模擬人的智能。當(dāng)然人工智能相關(guān)研究并不是從1956年才開始，只是在這個時候才正式提出概念。

人工智能研究的主要目的就是探尋智能本質(zhì)，研究出具有類人智能的智能機器，讓機器或者計算機會聽、會看、會說、會想、會決策。人工智能的概念提出到今天，62年過去了。從起步時大家的興奮、到后來提出了一些讓人期待但不可實現(xiàn)的目標(biāo)、接下來的反思，一直到互聯(lián)網(wǎng)出現(xiàn)以后大數(shù)據(jù)的涌現(xiàn)，使得人工智能走上一個新的高潮。

今天，人工智能如日中天、火遍全球，因此實事求是地設(shè)定科學(xué)目標(biāo)顯得尤為重要。1956年的研討會有十個年輕人參加，其中一個很樂觀，認為到2000年人工智能有可能達到人的智能，這顯然太樂觀了。但人工智能無論是在理論層面、關(guān)鍵技術(shù)還是具體應(yīng)用上的進步是有目共睹的。

二、人工智能發(fā)展現(xiàn)狀

1、專用人工智能取得突破性進展

專用人工智能就是讓人工智能系統(tǒng)專門做一件事——比如下圍棋，是面向特定領(lǐng)域或者單一任務(wù)的人工智能。它確實取得了一些突破性進展，而且比人做得更好。可以舉出很多這樣的例子。

除了下圍棋的AlphaGo，美國Boston Dynamics公司的人形機器人可以跨過障礙物，四足機器人像狗一樣跑得非常快，可以爬樓梯，普通人看了確實會感到一種不安。

中科院自動化所的機器魚、谷歌最新的語音人機對話都達到了很高水平，科大訊飛的語音識別把維語和普通話的互譯做得非常好。各種人臉識別非?；鸨?，中國也走在世界前列。

過去二十年我一直在研究虹膜識別，這是人工智能的一個特定領(lǐng)域。瞳孔和眼白之間的中間區(qū)域叫做虹膜區(qū)域，1936年眼科醫(yī)生發(fā)現(xiàn)每個人虹膜上的花紋都不一樣，一歲半以后定形終身不變。目前國內(nèi)很多煤礦的礦工考勤就大量使用這項技術(shù)。黑龍江的一家煤礦最早打算使用指紋識別，但人的手指可能會脫皮；如果刷臉，上班沒有問題，下班時的煤礦工人滿面煤灰，很難準(zhǔn)確識別；而虹膜識別就沒有問題。這項技術(shù)現(xiàn)在推廣到國內(nèi)很多煤礦。特別讓我高興的是，不久前中央電視臺報道，虹膜識別可以用于尋找丟失兒童。

專用人工智能還能夠成功應(yīng)用在圖像篡改檢測上——確定照片是否經(jīng)過修改。這用肉眼很難看出來，而人工智能根據(jù)圖像內(nèi)容分析可以自動實現(xiàn)篡改檢測。這有什么用途？2015年有一天我收到一封信，里面有一張糟糕的照片，把別人的頭像換成我的頭像，要一周之內(nèi)給他寄二十萬。用人工智能就可以證明這張照片是假的。

Boston Dynamics的人形機器人和狗形機器人在2018年都取得了重大突破

面向特定領(lǐng)域的人工智能（專用人工智能）由于應(yīng)用背景需求明確、領(lǐng)域知識積累深厚、建模計算簡單可行，因此形成了人工智能領(lǐng)域的單點突破，在局部智能水平的單項測試中可以超越人類智能。

AlphaGo系列在圍棋比賽中碾壓人類棋手

DeepStack戰(zhàn)勝德州撲克人類職業(yè)玩家

人工智能的發(fā)展現(xiàn)狀

2、統(tǒng)計學(xué)習(xí)成為人工智能走向?qū)嵱玫睦碚摶A(chǔ)

可以說，專用人工智能取得突破性進展，很大程度（特別是這幾年）取決于統(tǒng)計學(xué)習(xí)或者機器學(xué)習(xí)的進步，特別是深度學(xué)習(xí)。深度學(xué)習(xí)其實不神秘，只是借鑒了人的大腦在處理信息過程當(dāng)中的層次化過程。因為深度學(xué)習(xí)的涌現(xiàn)，ImageNet圖像分類的Top5誤差率從2012年的16%降到了2017年的3%左右，圖像分類能力開始超越人眼視覺，也就是說識別力高于人。除了深度學(xué)習(xí)外，通過學(xué)習(xí)找出最好策略，這就是所謂強化學(xué)習(xí)。在博弈中學(xué)習(xí)，使得學(xué)習(xí)能力不斷提高，這就是生成對抗學(xué)習(xí)。

3、無論戰(zhàn)略層面還是創(chuàng)新及應(yīng)用，人工智能都備受關(guān)注

人工智能值得一提的現(xiàn)狀是，技術(shù)生態(tài)或者創(chuàng)新生態(tài)備受關(guān)注?？萍季揞^紛紛推出自己的開源系統(tǒng)、技術(shù)軟件平臺和硬件平臺，原因是什么？他們沒有忘記信息技術(shù)和信息產(chǎn)業(yè)發(fā)展的歷史帶給他們的啟示。所以從傳統(tǒng)的操作系統(tǒng)、硬件，到現(xiàn)在移動互聯(lián)網(wǎng)再到新時代的人工智能，新老IT巨頭都要全面轉(zhuǎn)向人工智能。例如，2017年的谷歌I/O大會明確提出發(fā)展戰(zhàn)略從“Mobile first”轉(zhuǎn)向“AI first”；微軟在2017財年年報中首次將人工智能作為公司發(fā)展愿景；百度在2017年明確提出“All in AI”;IBM也在 2017年全面推廣認知計算戰(zhàn)略……

另一方面，人工智能創(chuàng)新創(chuàng)業(yè)如火如荼。2017年全球新成立的人工智能創(chuàng)業(yè)公司就有一千多家，人工智能領(lǐng)域獲得的投資達152億美元，同比增長141%。在應(yīng)用方面，“智能+”已經(jīng)成為一種創(chuàng)新范式，向各行各業(yè)快速滲透融合、進而重塑整個社會發(fā)展，這是人工智能驅(qū)動第四次技術(shù)革命的最主要表現(xiàn)方式。當(dāng)然其中有的是炒作，把傳統(tǒng)的數(shù)據(jù)分析貼上人工智能的標(biāo)簽。但是人工智能發(fā)展迅速是一個客觀現(xiàn)狀。

人工智能已經(jīng)加速成為國家戰(zhàn)略，我可以舉很多這樣的例子。過去幾年，最早被大家熟悉的“德國工業(yè)4.0”，核心就是人工智能；到2018年5月10日，美國白宮組織AI研討會，成立AI專門委員會，確保人工智能領(lǐng)域美國第一。

4、人工智能的社會影響得到廣泛關(guān)注

在美國，近千名人工智能領(lǐng)域的專家共同簽署了阿西洛馬23條原則，關(guān)注人工智能可能帶來的社會影響，以及如何規(guī)范人工智能研究和應(yīng)用，以確保擁有自主意識的機器保持安全，并以人類的最佳利益行事。

但目前人工智能發(fā)展的另外一個客觀現(xiàn)狀是，人工智能領(lǐng)域的誤解和炒作普遍存在。例如所謂“人工智能系統(tǒng)將超越人的智能水平”，“人工智能已達到5歲小孩的水平”，都是炒作。某一個特定任務(wù)中人工智能達到五歲小孩水平，是可信的，籠統(tǒng)地說人工智能達到三歲、五歲小孩，就是炒作。

這些炒作有的是有意的，有的則是概念誤解混淆。比如經(jīng)常有人把機器學(xué)習(xí)看成人工智能，但這只是人工智能其中一個研究方向；又有人把深度學(xué)習(xí)看成機器學(xué)習(xí)，但深度學(xué)習(xí)只是機器學(xué)習(xí)中的一種方法；有人只談圖像識別中的人工智能，這只是人工智能一個方向。還有人把大數(shù)據(jù)看成人工智能、專家系統(tǒng)看成人工智能、機器人看成人工智能……特別是把人工智能與人類智能、或者機器人與人類看成“零和博弈”，你死我活。這些其實都是誤解，人和人工智能是可以互補的。

5、人工智能仍處于起步階段

常有人誤解，專用人工智能等于通用人工智能。什么是通用人工智能或者什么是通用智能系統(tǒng)？我們?nèi)说拇竽X就是一個通用智能系統(tǒng)。同樣一個大腦，經(jīng)過學(xué)習(xí)可以下圍棋也可以下象棋，能夠舉一反三、融會貫通，可以處理視覺、聽覺、判斷、推理、學(xué)習(xí)、思考、規(guī)劃、設(shè)計等各類問題，可以說一腦百用。目前的人工智能距離人類智能水平還有很大差距，還有很多人工智能不能做的事，而有的事對人來說非常簡單。

所以說，人工智能總體發(fā)展水平仍然處于起步的階段，美國的DARPA對人工智能現(xiàn)狀也是這樣認為的：從知識規(guī)則到統(tǒng)計學(xué)習(xí)，第二波人工智能技術(shù)在信息感知和機器學(xué)習(xí)方面進展顯著，但是在概念抽象和規(guī)劃決策方面剛剛起步。

6、人工智能的局限性及瓶頸

2015年，我曾經(jīng)用“四有四無”概括人工智能總體狀況，三年以后還可以這樣說，現(xiàn)在的人工智能是：

· 有智能沒有智慧。智慧是高級智能，有意識、有悟性、具備綜合決策能力，目前的人工智能是缺乏的。

· 有智商沒有情商，機器人對人的情感理解與交流還處于起步階段，與科幻電影中跟人類談情說愛的人工智能還差得很遠。

· 會計算不會“算計”，人工智能系統(tǒng)可謂有智無心，更無謀。

· 有專才無通才，下圍棋的AlphaGo不會下象棋。

舉一個具體的例子，現(xiàn)在語音翻譯已經(jīng)取得比較大的進展，但如果讓人工智能翻譯這幾句話“他吃食堂，他吃面條，他吃大碗”，谷歌翻譯把“大碗”、“食堂”省去了；同樣，“那輛白車是黑車”和“能穿多少穿多少”，谷歌翻譯也都無能為力。

又例如，學(xué)校餐廳打出“歡迎新老師生前來就餐”的橫幅，人類理解起來沒有問題，不僅知其然還知其所以然；但是人工智能算法就會發(fā)生歧義。

所以說，目前人工智能發(fā)展面臨著數(shù)據(jù)瓶頸、泛化瓶頸、能耗瓶頸、語義鴻溝瓶頸、可解釋性瓶頸、可靠性瓶頸。例如，深度學(xué)習(xí)很大程度上是黑箱狀況，我們還不能完全從數(shù)據(jù)上論證為什么那么有效，不能完全確保這個多層深層神經(jīng)網(wǎng)絡(luò)訓(xùn)練是收斂的，所以有數(shù)據(jù)瓶頸。深度學(xué)習(xí)要提供大量已標(biāo)注數(shù)據(jù)，還需要大量的人工；它不能舉一反三、不能解釋，“知其然不知其所以然”，與人類智能存在很大差距。正因為這些差距，人工智能未來發(fā)展還有巨大創(chuàng)新空間。

三、人工智能未來發(fā)展趨勢——人工智能的春天剛剛開始

當(dāng)前人工智能處于從“不能實用”到“可以實用”的技術(shù)拐點，但是距離“很好用”還有諸多瓶頸，理論創(chuàng)新和產(chǎn)業(yè)應(yīng)用發(fā)展空間巨大?？梢哉f，人工智能的春天剛剛開始。

人類社會經(jīng)歷機械化、電氣化、信息化的時代以后，正在向智能化社會邁進。人工智能有望引領(lǐng)新一輪科技革命。世界著名科學(xué)家格特納曾說：“人工智能將是未來十年最具顛覆性的技術(shù)，無處不在的人工智能將成為趨勢?！?/p>

具體來講，人工智能有八個宏觀發(fā)展趨勢值得關(guān)注：

（1）從專用智能到通用智能

如何實現(xiàn)從專用智能到通用智能的跨越式發(fā)展，既是下一代人工智能發(fā)展的必然趨勢，也是研究與應(yīng)用領(lǐng)域的挑戰(zhàn)問題。通用智能被認為是人工智能皇冠上面的明珠，是全世界科技巨頭競爭的焦點。美國軍方也開始規(guī)劃通用智能的研究，他們認為通用人工智能和自主武器，是顯著優(yōu)于現(xiàn)有人工智能技術(shù)體系發(fā)展方向，現(xiàn)有人工智能僅僅是走向通用人工智能的一小步。

（2）從機器智能到人機混合智能

人類智能和人工智能各有所長，可以互補。所以人工智能一個非常重要的發(fā)展趨勢，是From AI （Artificial Intelligence） to AI（Augmented Intelligence），兩個AI含義不一樣。人類智能和人工智能不是零和博弈，“人+機器”的組合將是人工智能研究的主流方向，“人機共存”將是人類社會的新常態(tài)。

（3）從“人工+智能”到自主智能系統(tǒng)

人工采集和標(biāo)注大樣本訓(xùn)練數(shù)據(jù)，是這些年來深度學(xué)習(xí)取得成功的一個重要基礎(chǔ)或者重要人工基礎(chǔ)。比如要讓人工智能明白一幅圖像中哪一塊是人、哪一塊是草地、哪一塊是天空，都要人工標(biāo)注好，非常費時費力。此外還有人工設(shè)計深度神經(jīng)網(wǎng)絡(luò)模型、人工設(shè)定應(yīng)用場景、用戶需要人工適配智能系統(tǒng)等。所以有人說，目前的人工智能有多少智能，取決于付出多少人工，這話不太精確，但確實指出了問題。下一步發(fā)展趨勢是怎樣以極少人工來獲得最大程度的智能。人類看書可以學(xué)習(xí)到知識，機器還做不到，所以一些機構(gòu)例如谷歌，開始試圖創(chuàng)建自動機器學(xué)習(xí)算法，來降低AI的人工成本。

（4）學(xué)科交叉將成為人工智能創(chuàng)新源泉

深度學(xué)習(xí)只是借鑒了大腦的原理：信息分層，層次化處理。所以，人工智能與腦科學(xué)交叉融合非常重要?！禢ature》和《Science》都有這方面成果報道。比如《Nature》發(fā)表了一個研究團隊開發(fā)的一種能自主學(xué)習(xí)的人工突觸，它能提高人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)速度。但大腦到底怎么處理外部視覺信息或者聽覺信息的，很大程度還是一個黑箱，這就是腦科學(xué)面臨的挑戰(zhàn)。這兩個學(xué)科的交叉有巨大創(chuàng)新空間。

（5）人工智能產(chǎn)業(yè)將蓬勃發(fā)展

國際知名咨詢公司預(yù)測，2016到2025年人工智能的產(chǎn)業(yè)規(guī)模幾乎直線上升。國務(wù)院《新一代人工智能發(fā)展規(guī)劃》提出，2030年人工智能核心產(chǎn)業(yè)規(guī)模將超過1萬億，帶動相關(guān)產(chǎn)業(yè)規(guī)模將超過10萬億。這個產(chǎn)業(yè)是蓬勃發(fā)展的，前景顯然是非常大的。

（6）人工智能的法律法規(guī)將更加健全

大家很關(guān)注人工智能可能帶來的社會問題和相關(guān)倫理問題，聯(lián)合國還專門成立了人工智能和機器人中心這樣的監(jiān)察機構(gòu)。前不久，歐盟25個國家簽署了人工智能合作宣言，共同面對人工智能在倫理、法律等方面的挑戰(zhàn)。中國科學(xué)院也考慮了這方面的題目。

（7）人工智能將成為更多國家的戰(zhàn)略選擇

一些國家已經(jīng)把人工智能上升為國家戰(zhàn)略，越來越多國家一定會做出同樣舉措。包括智利，加拿大，韓國等等。

（8）人工智能教育將會全面普及

教育部專門發(fā)布了高校人工智能的行動計劃。國務(wù)院《新一代人工智能發(fā)展規(guī)劃》也指出，要支持開展形式多樣的人工智能科普活動。美國科技委員會在《為人工智能的未來做好準(zhǔn)備》中提出全民計算機科學(xué)與人工智能教育。

這八大宏觀發(fā)展趨勢，既有科學(xué)研究層面，也有產(chǎn)業(yè)應(yīng)用層面，也有國家戰(zhàn)略和政策法規(guī)層面。在科學(xué)研究層面特別值得關(guān)注的趨勢是：從專用到通用，從人工智能到人機融合、混合，學(xué)科交叉借鑒腦科學(xué)等。

四、結(jié)束語

人工智能經(jīng)過六十多年發(fā)展已經(jīng)取得重大進展，但總體上還處于初級階段。人工智能既具有巨大的理論與技術(shù)創(chuàng)新空間，也具有廣闊應(yīng)用前景。

現(xiàn)在回到題目中提出的問題，人工智能到底是天使還是魔鬼？我要說，高科技本身沒有天使和魔鬼之分，人工智能也是如此，這一把雙刃劍是天使還是魔鬼取決于人類自身。人工智能在天使手里是天使，在魔鬼手里就是魔鬼。因此我們有必要未雨綢繆、形成合力，確保人工智能正面效應(yīng)，確保人工智能造福于人類。