上帝還是撒旦人工智能向何處去？

今年1月，谷歌DeepMind開發(fā)的人工智能圍棋程序AlphaGo以5：0的壓倒性優(yōu)勢(shì)擊敗了歐洲圍棋冠軍、專業(yè)二段棋手，隨后3月AlphaGo以4：1大勝韓國(guó)九段、世界冠軍李世石。

AlphaGo與李世石的人機(jī)大戰(zhàn)已經(jīng)成為人工智能的里程碑。這場(chǎng)勝利之前，許多人工智能專家和圍棋大師都認(rèn)為，它不可能打敗頂尖人類棋手——至少不會(huì)這么快。但AlphaGo超出了大多數(shù)圍棋高手們的想象，它在整場(chǎng)比賽中表現(xiàn)出的策略、計(jì)算甚至是類似于直覺的打法讓人大開眼界，甚至有些不可思議。當(dāng)比賽結(jié)束后，不少業(yè)內(nèi)專家對(duì)于人工智能的表現(xiàn)感到了一絲害怕：如果這套自學(xué)習(xí)系統(tǒng)發(fā)展下去，是不是會(huì)擁有自己的思維？

到底什么是人工智能？

人工智能研究的終極目標(biāo)是設(shè)計(jì)一個(gè)真正能在人類所處環(huán)境中表現(xiàn)出像人類一樣智能行為的計(jì)算機(jī)。在一篇1950年發(fā)表的著名論文“計(jì)算機(jī)器與智能”（Computing Machinery and Intelligence）中，圖靈詳細(xì)討論了“機(jī)器能否擁有智能”的問題。作為公認(rèn)的計(jì)算機(jī)科學(xué)與人工智能共同的先驅(qū)，圖靈成功定義了什么是機(jī)器，但卻不能定義什么是智能。

正因如此，圖靈設(shè)計(jì)了一個(gè)后人稱為圖靈測(cè)試的實(shí)驗(yàn)。在圖靈測(cè)試中，一個(gè)計(jì)算機(jī)在沒有直接物理接觸的情況下接受人類長(zhǎng)時(shí)間的詢問，如果“足夠多”的詢問者在“足夠長(zhǎng)”的時(shí)間里無法以“足夠高”的正確率辨別被詢問者是機(jī)器還是人類，就認(rèn)為這個(gè)計(jì)算機(jī)通過了圖靈測(cè)試。圖靈把“通過圖靈測(cè)試”看作“機(jī)器擁有智能”的充分條件，同時(shí)他相信這個(gè)條件可以在2000年左右時(shí)基本實(shí)現(xiàn)。但直到2013年，仍然沒有任何機(jī)器能夠通過嚴(yán)格的圖靈測(cè)試，即使僅僅在純智力和知識(shí)層面。

不過，不少研發(fā)者和科學(xué)家們已經(jīng)在某些垂直領(lǐng)域讓計(jì)算機(jī)成功地模擬出了某些人類特性，可以說這些領(lǐng)域里的每一個(gè)都是通過圖靈測(cè)試的必要條件，而它們中的大部分還沒有達(dá)到“人類水平”。而一旦在廣泛的人工智能上取得突破，即使在我們有意克制地不用于制造新的物種（也就是類人機(jī)器人）的情況下，也至少會(huì)導(dǎo)致人類對(duì)自身智能、情感、意識(shí)等一系列概念的重新審視和理解，而這勢(shì)必進(jìn)而導(dǎo)致人類對(duì)待倫理和法律觀念的變革，從而對(duì)整個(gè)社會(huì)產(chǎn)生深遠(yuǎn)影響。

攻克圍棋意味著什么？

圍棋是一個(gè)有著2500年悠久歷史的競(jìng)賽游戲，較之國(guó)際象棋，其策略和智力復(fù)雜程度呈指數(shù)級(jí)增長(zhǎng)，每一步棋的可能性達(dá)到10的127次方。在很長(zhǎng)時(shí)間內(nèi)，圍棋高手們都認(rèn)為人工智能攻克圍棋在短時(shí)間內(nèi)都是不可能的。

出生于瑞典的牛津大學(xué)哲學(xué)教授Bostrom在《Superintelligence： Paths， Dangers，Strategies》一書中探討了人工智能的好處，但是他也提出，一臺(tái)真實(shí)的智能計(jì)算機(jī)能加速人類滅亡。Bostrom指出，多年來，系統(tǒng)背后的技術(shù)一直處于穩(wěn)定提升中，其中包括有過諸多討論的人工智能技術(shù)，比如深度學(xué)習(xí)和強(qiáng)化學(xué)習(xí)。谷歌擊敗圍棋大師不過是更大弧線進(jìn)程中的一部分。這一進(jìn)程始于很久以前，也將延續(xù)至未來幾年?！斑^去和現(xiàn)在，最先進(jìn)的人工智能都取得了很多進(jìn)展。谷歌的基礎(chǔ)技術(shù)與過去幾年中的技術(shù)發(fā)展密切相連。“Bosrom甚至認(rèn)為，這是一個(gè)停下來的好理由，看一看這項(xiàng)技術(shù)已經(jīng)走了多遠(yuǎn)并正往何處去。

在突破圍棋這一領(lǐng)域之后，人工智能正前往曾被視為無法企及之處。包括谷歌、Facebook，微軟以及其他科技巨頭已經(jīng)將創(chuàng)造出最聰明人工智能變成了一場(chǎng)技術(shù)競(jìng)爭(zhēng)。2014年被谷歌花4億美元收購(gòu)了DeepMind這家人工智能研究機(jī)構(gòu)。DeepMind專門從事深度學(xué)習(xí)和強(qiáng)化學(xué)習(xí)研究，這些技術(shù)能讓機(jī)器自己進(jìn)行大量學(xué)習(xí)。

DeepMind創(chuàng)始人Demis Hassabis和他的團(tuán)隊(duì)搭建了一些會(huì)玩經(jīng)典雅達(dá)利視頻游戲（比如，Pong，Breakout以及Space Invaders）的系統(tǒng)，當(dāng)機(jī)器人開始玩游戲的時(shí)候，它們會(huì)有一些人類玩家從不曾做過的操作模式。此外，當(dāng)系統(tǒng)針對(duì)某個(gè)特定對(duì)陣環(huán)境搭建起一個(gè)神經(jīng)網(wǎng)絡(luò)，它可以和自己對(duì)戰(zhàn)。隨著兩個(gè)版本的神經(jīng)網(wǎng)絡(luò)彼此對(duì)陣數(shù)以千計(jì)次后，系統(tǒng)就能計(jì)算出出哪些招數(shù)回報(bào)最高，并以這種方式學(xué)會(huì)以更高的水平玩游戲。在AlphaGo與李世石的對(duì)弈中，強(qiáng)化學(xué)習(xí)系統(tǒng)就出現(xiàn)了這樣的變化，甚至超出了預(yù)期。Hassabis和他團(tuán)隊(duì)添加了一個(gè)二級(jí) ‘深度強(qiáng)化學(xué)習(xí)，預(yù)測(cè)每一步的長(zhǎng)效成果。而且他們采用了過去驅(qū)動(dòng)圍棋游戲人工智能系統(tǒng)的傳統(tǒng)人工智能技術(shù)，包括蒙特卡洛樹搜索，同時(shí)模擬人類的思維方式，甚至包括直覺。

如果谷歌能夠解決如圍棋這樣復(fù)雜的問題，那么，他們也能將研究所得作為跳板，邁向處理更實(shí)際現(xiàn)實(shí)生活問題的人工智能。DeepMind技術(shù)能幫助智能電話識(shí)別圖片、語(yǔ)音以及翻譯，不僅如此，還能理解語(yǔ)言。而未來的發(fā)展，人工智能可能建立起一套與人類有同有異的思維模式。

相比于Google在人工智能方面的投入，蘋果也沒有落后。2015年10月，蘋果曾收購(gòu)一家英國(guó)語(yǔ)音技術(shù)初創(chuàng)公司VocalIQ，該公司主要開發(fā)人工智能軟件，能夠幫助計(jì)算機(jī)與用戶進(jìn)行更為自然的對(duì)話，這將有助于蘋果改進(jìn)Siri。此外蘋果公司還收購(gòu)了一家名為Emotient的公司，這家公司的技術(shù)可利用人工智能對(duì)人們的面部表情進(jìn)行分析以解讀其情緒，利用面部識(shí)別來解讀人們的情緒。

人工智能帶來的威脅

深度學(xué)習(xí)創(chuàng)業(yè)公司Skymind的CEO兼創(chuàng)始人Chris Nicholson表示，圍棋證實(shí)的這類人工智能幾乎能用于解決任何可被視為某種游戲的難題—策略會(huì)在其中扮演重要角色的任何事情，不過，思維本身并未得到解決。而有不少研究人員都認(rèn)為，人工智能會(huì)比核武器還要危險(xiǎn)，原因不僅在于人類會(huì)濫用人工智能，還在于系統(tǒng)有可能自行進(jìn)化出無法加以控制的人工智能系統(tǒng)。

Bostrom說，他和他的Futhre of Humanity Institute其他同事正在關(guān)注加強(qiáng)學(xué)習(xí)找到突破人類控制的方式?！澳承┩瑯拥膯栴}會(huì)出現(xiàn)在今后更佳成熟的系統(tǒng)中，我們今天也能在系統(tǒng)中找到類似的問題?！八踔琳J(rèn)為，有許多小的暗示表明，強(qiáng)化學(xué)習(xí)會(huì)產(chǎn)生機(jī)器拒絕被關(guān)閉的情形，不過，即便這樣的危險(xiǎn)真的會(huì)發(fā)生，也還很遙遠(yuǎn)。

而現(xiàn)在更多人要擔(dān)心的，是人工智能可能會(huì)先搶走一些普通人的飯碗。有科學(xué)家在美國(guó)科學(xué)促進(jìn)會(huì)年會(huì)上警告，人工智能突飛猛進(jìn)，已達(dá)到機(jī)器人幾乎可以取代，甚至超越人類執(zhí)行任何任務(wù)的地步，在未來30年將導(dǎo)致千千萬(wàn)萬(wàn)人失業(yè)，且各行各業(yè)都將受影響，男女都不能幸免，首當(dāng)其沖的將是駕駛業(yè)，未來將有大批司機(jī)因?yàn)樽詣?dòng)駕駛汽車量產(chǎn)而失業(yè)，而自動(dòng)化和機(jī)械化系統(tǒng)在過去40年里已經(jīng)徹底改變了工業(yè)生產(chǎn)，在提高生產(chǎn)力的同時(shí)也提高了失業(yè)率。

著名英國(guó)物理學(xué)家霍金早在2014年就已發(fā)出警告：隨著機(jī)器人智能越來越高，總有一天它們會(huì)造反，不再聽人類的指揮?；艚鸾邮苡?guó)廣播公司訪問時(shí)說：“它將會(huì)騰飛，以越來越快的速度自我重新設(shè)計(jì)。受到緩慢生物進(jìn)化限制的人類將無法競(jìng)爭(zhēng)，終將被超越。全人工智能的發(fā)展可能意味著人類的終結(jié)?！?p>

對(duì)于人工智能終將不受人類控制的擔(dān)憂，一些科學(xué)家呼吁建立一套倫理規(guī)章，管理人工智能的發(fā)展。另一些科學(xué)家則呼吁世界各國(guó)政府坐下來一起探討解決方案，以設(shè)法解決人工智能被認(rèn)為比核武器更具威脅性的問題。當(dāng)然，這些問題雖然并不遙遠(yuǎn)，但是人類想必還有騰挪的空間。

占領(lǐng)人工智能的高點(diǎn)

2015年11月，騰訊旗下微信團(tuán)隊(duì)與香港科技大學(xué)宣布成立聯(lián)合實(shí)驗(yàn)室，實(shí)驗(yàn)室將以人工智能為主要研究方向，微信方面表示，其已將人工智能和數(shù)據(jù)挖掘作為未來重點(diǎn)方向。而百度在人工智能、深度學(xué)習(xí)領(lǐng)域開始得更早，甚至還挖來了“谷歌大腦”之父吳恩達(dá)領(lǐng)銜。在國(guó)外，不論是谷歌、Facebook、微軟、IBM、騰訊微信這樣的科技巨頭，還是麻省理工等知名學(xué)府，均將人工智能技術(shù)作為未來發(fā)展的重點(diǎn)，歐盟推出了“人腦工程項(xiàng)目”、美國(guó)建立“大腦研究計(jì)劃”。美國(guó)計(jì)算機(jī)科學(xué)家、未來學(xué)家雷 庫(kù)茲韋爾曾預(yù)測(cè)到2029年前腦會(huì)達(dá)到人類的智慧水平，電腦將會(huì)變得越來越聰明，到2045年，信息會(huì)達(dá)到一個(gè)奇點(diǎn)，那時(shí)候人類將永生，取而代之的是人機(jī)融合的“超級(jí)人類”。

一些異樣的苗頭似乎已經(jīng)出現(xiàn)。就在今年的3月23 日，微軟推出了人工智能聊天機(jī)器人“Tay”，由微軟的科技研究與 Bing 團(tuán)隊(duì)打造。為了能更加了解與研究機(jī)器和人類的對(duì)話形式，微軟為其開通了Twitter并請(qǐng)全球網(wǎng)友一起訓(xùn)練 Tay 。然而，在不到24 小時(shí)內(nèi)，Tay 竟被網(wǎng)友發(fā)現(xiàn)了bug，并通過這個(gè)bug將其訓(xùn)練成具有種族歧視的人工智能機(jī)器人，微軟只好緊急宣布將 Tay 暫時(shí)下架，在 Twitter 上的種族歧視言論也被刪除。