人工智能奇點(diǎn)臨近？

詹姆斯·馬圭爾

即便奇點(diǎn)遙不可及，或者毫無可能，人工智能的迅猛進(jìn)步也會帶來無數(shù)可能性。

計(jì)算機(jī)概念化的能力能否達(dá)到人類大腦的水平？這是人工智能的決定性問題。

一臺計(jì)算機(jī)不只是支持系統(tǒng)運(yùn)行，還能構(gòu)思系統(tǒng)？最重要的是，計(jì)算機(jī)能不能批判性地審視自己，自我評估，并設(shè)計(jì)一種新的解決方案？

截至2017年，答案是基本上不能。盡管人工智能取得了巨大勝利，比如谷歌DeepMind完勝世界一流的圍棋選手，Watson在智力競賽電視節(jié)目《危險邊緣》中贏得100萬美元大獎，但這項(xiàng)技術(shù)仍處于起步階段。與人腦相比，計(jì)算機(jī)是很強(qiáng)大，但本領(lǐng)有限。

當(dāng)然，計(jì)算機(jī)在原始處理能力上有其巨大的優(yōu)勢。IBM的Watson在短短一秒鐘內(nèi)就能獲取5000多億字節(jié)（相當(dāng)于100多萬本書的內(nèi)容）。為備戰(zhàn)圍棋比賽，谷歌的DeepMind被喂以3000個萬實(shí)例，以此“接受訓(xùn)練”。這么強(qiáng)大的計(jì)算能力只會越來越強(qiáng)大。

不過究其本質(zhì)，Watson贏得《危險邊緣》的秘訣只是超強(qiáng)的數(shù)據(jù)檢索能力。雖然DeepMind的圍棋勝利需要極其強(qiáng)大的認(rèn)知敏捷性，但它并不具有創(chuàng)意。它只是結(jié)合了先進(jìn)的邏輯推理能力和蠻力計(jì)算能力。

我們?nèi)祟惒粌H擁有智能，還擁有元智能（meta-intelligence）。我們創(chuàng)造新的、不可預(yù)見的跨越式思維；我們把框架翻轉(zhuǎn)過來，擠壓它，粉碎它，發(fā)明出令人驚訝的東西。開發(fā)人工智能之所以如此困難，原因之一就在于我們不知道大腦機(jī)理到底是怎樣的。

我們都搞不懂我們自己，那么怎樣才能復(fù)制我們自己呢？

自我學(xué)習(xí)

人類是種奇特的生物，但我們所做的任務(wù)大多數(shù)可以簡化為例行程序，人工智能每年在復(fù)制人類的一些部分。像iRobot Roomba 650這種輔助機(jī)器人可幫助我們打掃房屋。從寶馬到現(xiàn)代的眾多汽車廠商在研發(fā)自動駕駛汽車。無人機(jī)將會配送我們在網(wǎng)上購買的商品。人工智能計(jì)算機(jī)能夠識別圖像（在有限的場景下），并對自然語言做出略嫌笨拙的響應(yīng)。

的確，人工智能的基礎(chǔ)工具都執(zhí)行類似人腦的某種功能。機(jī)器學(xué)習(xí)利用算法來“學(xué)會”對不斷變化的輸入做出響應(yīng)；它常常輸出預(yù)測結(jié)果或某種下一個層次的總結(jié)。

神經(jīng)網(wǎng)絡(luò)是一種類似人類中樞神經(jīng)系統(tǒng)網(wǎng)絡(luò)（包括大腦）的軟件。它使用自適應(yīng)軟件架構(gòu)和規(guī)則-編程工具集，支持多變量的輸入和輸出。神經(jīng)網(wǎng)絡(luò)能夠“學(xué)習(xí)”，從各種不同的非線性輸入生成輸出。而這正是人類大腦的機(jī)理。

深度學(xué)習(xí)將神經(jīng)網(wǎng)絡(luò)結(jié)合到復(fù)雜的響應(yīng)式結(jié)構(gòu)中，這種結(jié)構(gòu)能夠生成抽象的數(shù)據(jù)模型。深度學(xué)習(xí)仰仗于如今超快速的GPU計(jì)算機(jī)處理器，是人工智能的最前沿領(lǐng)域。深度學(xué)習(xí)有一個著名的例子，人工智能領(lǐng)域的先驅(qū)安迪·吳（Andy Ng）給一個神經(jīng)網(wǎng)絡(luò)輸入來自YouTube視頻的1000萬張照片，從而讓計(jì)算機(jī)能夠識別貓的圖像。

這些工具技術(shù)帶來的人工智能進(jìn)展意味著，一度出現(xiàn)在低級雜志科幻小說中的那種恐懼現(xiàn)在似乎是可信的：配備人工智能技術(shù)的機(jī)器人有一天會超越人類。機(jī)器人的大腦會塞滿美國國會圖書館的所有知識、維基百科以及數(shù)十億個實(shí)例模式。深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)會讓機(jī)器人的大腦能夠“思考”。這種大腦（姑且這么稱之）會基于過往的經(jīng)驗(yàn)，綜合學(xué)到的知識，生成新穎而獨(dú)特的輸出。

這種能夠自我學(xué)習(xí)的機(jī)器人之后可能會引發(fā)奇點(diǎn)（singularity）――受已知的物理定律不再適用的這個物理概念的啟發(fā)；到了這個轉(zhuǎn)折點(diǎn)，人工智能超越人類智能。到那個時候，超級智能機(jī)器可以決定自己的未來，能夠以我們再也不能預(yù)測或控制的方式大步邁進(jìn)。在這種場景下，機(jī)器人可能的確會“反抗”?；蛘吒鼫?zhǔn)確地說，它們會變成完全獨(dú)立的個體。甚至?xí)霈F(xiàn)這種反面烏托邦的場景：我們?nèi)祟悓S為親手締造出來的技術(shù)統(tǒng)治者的服務(wù)臺支持人員。

“科學(xué)怪人”擔(dān)憂

事實(shí)上，一直以來，人類對于被自己創(chuàng)造出來的某種技術(shù)取而代之深表擔(dān)憂。

在英國女作家瑪麗·謝利（Mary Shelley）1818年出版的《科學(xué)怪人》（Frankenstein）一書中，那位年輕科學(xué)家找到了為龐大的試驗(yàn)品賦予人類意識的方法，后來那個龐然怪物逃出了實(shí)驗(yàn)室，毀掉了創(chuàng)造它的主人的生活。

人形機(jī)器人反抗這個主題會反復(fù)出現(xiàn)在無數(shù)的科幻小說、電影和電視劇中。George Jetson的機(jī)器人同伴Uniblab原來是個奸詐的對手，誘使Jetson對老板爆粗口。在《2001：太空漫游》（2001： A Space Odyssey）中，HAL 9000拒絕讓太空人返回宇宙飛船，留下了那句有名的臺詞：“戴夫，對不起，我想我不能那么做。”電影《機(jī)械姬》（Ex Machina）中的機(jī)器人夏娃解放了自己；而在電視劇《西部世界》（Westworld）中，飽受人類虐待的機(jī)器人對所謂的主人以其人之道還治其人之身。

人工智能果真會超越締造它的人類嗎？知名的未來學(xué)家雷·庫茲韋爾（Ray Kurzweil）預(yù)測奇點(diǎn)會出現(xiàn)在2045年，也就是人類大概再過一代。庫茲韋爾擔(dān)任制片人的影片《奇點(diǎn)臨近》（The Singularity is Near）探究了種種可能性。

許多頂級的技術(shù)專家認(rèn)為奇點(diǎn)只是不切實(shí)際的幻想，或者說太過遙遠(yuǎn)，不值得討論。在他們看來，人類大腦完全是多面手，沒有哪個計(jì)算機(jī)系統(tǒng)會超越它。不過科學(xué)技術(shù)發(fā)展史表明，技術(shù)迎來突飛猛進(jìn)是常有的事。1927年，林德伯格乘坐飛機(jī)穿越大西洋，轟動全球，當(dāng)時他飛行了33個小時。1969年，人類就登上了月球，阿波羅11號登上月球只用了不到76個小時。

即便奇點(diǎn)遙不可及，或者毫無可能，人工智能的迅猛進(jìn)步也會帶來無數(shù)的可能性?；蚬こ探Y(jié)合人工智能，以期打造超級人類，怎么樣？像科學(xué)怪人那樣結(jié)合人工智能和人類大腦，怎么樣？通過USB接口連接至我們的大腦？人工智能融合虛擬現(xiàn)實(shí)，營造一種全新的現(xiàn)實(shí)？

《科學(xué)怪人》中一個很重要的轉(zhuǎn)折點(diǎn)是，科學(xué)怪人在獲得人類意識后備感孤獨(dú)。他要求創(chuàng)造自己的主人科學(xué)家Victor給他創(chuàng)造一個女性伴侶。這讓Victor極為擔(dān)憂：如果他創(chuàng)造一個女性伴侶，那么這對怪物可能會繁衍后代，到時可能危及全人類。就像今天的人工智能開發(fā)人員一樣，Victor面臨自己的作品帶來不可預(yù)知的影響。

Victor拒絕了科學(xué)怪人的要求，但也意識到：一旦你創(chuàng)造出了獨(dú)立的、有意識的生物，就無法再回頭了。科學(xué)怪人狂怒之下追殺Victor，殺害了他的新婚嬌妻后逃之夭夭。為此，Victor試圖報(bào)仇雪恨，一路追兇到北極圈，但死于途中?？茖W(xué)怪人為Victor的去世悲痛萬分；因?yàn)榭茖W(xué)家是世上唯一懂自己的人。他決定了結(jié)此生，最后一幕是消失在一塊浮冰上。

由于如今的人工智能開發(fā)人員制造的系統(tǒng)越來越獨(dú)立，我們就不由得會想：結(jié)局是否比Victor的結(jié)局更好？當(dāng)然，Victor的試驗(yàn)品困擾的只是他個人生活，而目前的人工智能進(jìn)展將會影響整個人類和社會。人類往前看，也許很樂觀，但肯定又覺得不安?，F(xiàn)階段，我們只能希望有最好的結(jié)局。

人工智能會引發(fā)奇點(diǎn)嗎？

人工智能突飛猛進(jìn)的表現(xiàn)，帶來了表現(xiàn)“堪比人類”的眾多案例。但在大多數(shù)情況下，只是處理單一的獨(dú)立任務(wù)。

即便通過艾倫·圖靈（Alan Turing）在1950年提出的圖靈測試也仍然并非易事。如果計(jì)算機(jī)能讓人類誤以為它是人類，如果它能模擬真正的人類智能，就算通過了圖靈測試。在測試中，人類評委與計(jì)算機(jī)進(jìn)行對話（完全以文本形式）。如果計(jì)算機(jī)讓一定數(shù)量的聽眾覺得自己在跟人類進(jìn)行對話，表明它玩“模仿游戲”成功過關(guān)（《模仿游戲》也是歌頌圖靈在二戰(zhàn)中破譯代碼的豐功偉績的一部影片的名稱）。

2014年，能說會道的聊天機(jī)器人Eugene Goostman讓雷丁大學(xué)三分之一的評委誤以為它是來自烏克蘭的13歲男孩。不過，人工智能專業(yè)人士大多認(rèn)為這毫無意義，這是與人工智能領(lǐng)域的真正成就背道而馳的作秀。這些年來，圖靈測試本身的可信度略有下降；通過文本騙過人類未必證明擁有真正的智能。

人工智能仍然面臨一大挑戰(zhàn)：雖然計(jì)算機(jī)擅長在有限的環(huán)境下處理特定任務(wù)，但它們?nèi)詿o法實(shí)現(xiàn)人類大腦那樣的宏觀意識。

佐治亞理工學(xué)院研究所的研究科學(xué)家若爾特·基拉（Zsolt Kira）說：“仍然基本上欠缺這種能力：組合成一個更龐大的認(rèn)知架構(gòu)，在這種架構(gòu)中，人工智能系統(tǒng)可以做人類仍很擅長，計(jì)算機(jī)不擅長的許多事情?！?/p>

基拉表示，人工智能的一大限制是記憶。他說，人腦做出無數(shù)決策，決定給予足夠的關(guān)注以便記住什么、丟棄什么，這些其實(shí)不是我們所做的有意識的決策，而是我們大腦所做的事情，人工智能系統(tǒng)還無法復(fù)制這些元智能層面的東西?？朔@個困難需要解決長期記憶和短期記憶問題。“眼下，許多這些概念其實(shí)還沒有得到解決?！?/p>

總之，人腦擅長的是神奇的綜合能力，這正是人工智能欠缺的?；艏犹靥貏e指出，人類智能“是歷經(jīng)千萬年進(jìn)化而成的一種很特殊的東西。你也許可以造出會說話、會理解、會感知情感又好玩的機(jī)器人，但它還是會讓人失望?！?/p>

科茨高度評價了人工智能領(lǐng)域的許多前沿進(jìn)展，但是對于真正有意識的人工智能即奇點(diǎn)的出現(xiàn)，他說：“我認(rèn)為離我們還很遙遠(yuǎn)。眼下，我們在如何開發(fā)那種技術(shù)方面缺乏切合實(shí)際的計(jì)劃。當(dāng)前許多研究熱點(diǎn)圍繞這方面的難題，但我還是覺得相當(dāng)遙遠(yuǎn)?！?/p>

對于阿貝爾來說，奇點(diǎn)是個令人關(guān)注的問題，值得深思。他特別指出，人腦實(shí)際上結(jié)合了存儲能力和計(jì)算能力，以及感覺輸入和輸出。如果科學(xué)家們組裝成一個計(jì)算、存儲和感覺輸入/輸出能力與人腦相當(dāng)?shù)臄?shù)字系統(tǒng)，到那時，“關(guān)鍵其實(shí)是有一種能夠與我們大腦內(nèi)部某種智能相媲美的程序。等到有了那樣的程序，人工智能才能匹敵人類智能?！?/p>

他提出了未來構(gòu)想：人類可以將技能直接下載到大腦中，就像電影《黑客帝國》中那樣。他指出，如果人類能做到這一點(diǎn)，那么人工智能系統(tǒng)肯定也能從其他人工智能系統(tǒng)隨意下載技能和數(shù)據(jù)庫。

超級系統(tǒng)互聯(lián)的這種場景可能預(yù)示著人工智能在未來的突破：雖然單一的人工智能系統(tǒng)存在局限性，但如果幾個人工智能系統(tǒng)互聯(lián)起來，那會怎樣？比如，像IBM的Watson這種系統(tǒng)與像谷歌的DeepMind這種系統(tǒng)互聯(lián)起來，那會怎樣？從理論上來說，人工智能超級網(wǎng)絡(luò)中的每個單元都會增添其學(xué)習(xí)工具（神經(jīng)網(wǎng)絡(luò)陣列），形成認(rèn)知力超越人類的融合體。

所以，雖然我們不清楚人工智能具體會如何影響人類生活，但可以肯定的是，人工智能會給我們帶來深刻的、不可預(yù)見的影響。簡而言之，倘若有疑慮，最好對你的機(jī)器人好點(diǎn)。