人工智能超越人類會(huì)如何

新科

時(shí)至今日，我依然記得第一次觀看系列科幻電影《終結(jié)者》時(shí)的震撼感。在那故事里，“天網(wǎng)”的面目是鋪天蓋地的計(jì)算機(jī)網(wǎng)絡(luò)，用來忠實(shí)地控制美國的核武器庫，直到它自己的意識(shí)忽然覺醒。天網(wǎng)的人類設(shè)計(jì)者們忽然發(fā)現(xiàn)他們的創(chuàng)造物活了起來，試圖將它關(guān)閉，但為時(shí)已晚。天網(wǎng)為了保護(hù)自己，發(fā)動(dòng)了一場毀滅性的核戰(zhàn)爭，并且釋放出殺人的機(jī)器人，用來屠殺殘存者?，F(xiàn)代文明被粉碎了，剩下一小群悲慘的反抗者。

這不算最糟，更糟糕的是《黑客帝國》中的世界。在那里，人類甚至愚昧到發(fā)現(xiàn)不了機(jī)器已經(jīng)將自己取而代之。他們進(jìn)行著日常的工作和生活，把一切看成正常的，忘記了他們實(shí)際上是生活在一個(gè)虛擬的世界之中。人類的“存 在”僅僅是裝在這些生活在營養(yǎng)艙里的人類大腦中的程序，由一個(gè)大型的計(jì)算機(jī)進(jìn)行操作和管理，而機(jī)器需要這些人的惟一理由是要用他們作為生物電池。

當(dāng)然，好萊塢為了把觀眾嚇得目瞪口呆，什么故事都編得出來， 我們所生活的世界距離電影中的還很遙遠(yuǎn)。但這些電影也提出了一個(gè)合理的科學(xué)問題：“當(dāng)機(jī)器人變得和人一樣聰明時(shí)會(huì)發(fā)生什么？當(dāng)機(jī)器人醒來后有了意識(shí)會(huì)怎 樣？ ”按照一些專家的觀點(diǎn)，機(jī)器人將沿著進(jìn)化樹逐漸攀升。今天它們像蟑螂一樣聰明，在將來，就會(huì)像老鼠、兔子、狗和貓、猴子一樣聰明，然后和它們的對手人類一 樣聰明。這需要幾十年緩慢的攀登，但機(jī)器在智力上超過我們只是時(shí)間問題。

只是在具體的時(shí)間方面，專家們的意見存在分歧?？苹米骷腋ブZ·文奇表示，在30年內(nèi)，我們將會(huì)遭遇超人的智力。在此后不久，人類的時(shí)代將結(jié)束。這個(gè)事件不會(huì)在2005年以前發(fā)生，但也不會(huì)推遲到2030年之后。 但在另一邊，物理學(xué)家道格拉斯·霍夫斯塔特卻說：“如果在下一個(gè)100年到200年出現(xiàn)任何這種遙遠(yuǎn)的事情，我都會(huì)非常驚訝。”他們都認(rèn)同的是，這些事件 終究將會(huì)發(fā)生。但在那之前，有一個(gè)值得討論的基礎(chǔ)問題。

意識(shí)和智能究竟是什么？

其實(shí)，存在上述矛盾的主要原因是關(guān)于“意識(shí)”這個(gè)詞匯沒有一致的意見。哲學(xué)家和數(shù)學(xué)家就這個(gè)詞匯爭論了幾個(gè)世紀(jì)，仍不能達(dá)成一致?？梢?，“意識(shí)”是一個(gè)玄妙的術(shù)語，它難以確切定義，對于不同的人有不同的意義。

物理學(xué)家加來道雄提出了一種判定和量化的標(biāo)準(zhǔn)。他認(rèn)為，意識(shí)至少由三個(gè)基本成分組成：一是感覺和認(rèn)識(shí)環(huán)境，二是擁有自我意識(shí)，三是會(huì)設(shè)定目標(biāo)，計(jì)劃未來，制定達(dá)成目標(biāo)的策略。他以數(shù)字1到10對意識(shí)程度進(jìn)行了量 化。比如，錘子不能感覺環(huán)境，因此它的意識(shí)等級為0。但是一個(gè)溫度調(diào)節(jié)裝置可以感覺環(huán)境，并且通過改變環(huán)境溫度對環(huán)境產(chǎn)生影響，它意識(shí)等級為1。由此他也認(rèn)為，具有反饋機(jī)制的機(jī)器有初步形式的意識(shí)。

在這個(gè)體系下，一些低等生物，比如蠕蟲，它們能夠感覺食物、 配偶、危險(xiǎn)的存在，并根據(jù)這些信息而做出相應(yīng)行動(dòng)。它們能夠檢測的參數(shù)多于一個(gè)（如光線、聲音、氣味、壓力等），應(yīng)該有較高的排列等級，大約2或3。這種感覺的最高形式是識(shí)別和理解周圍環(huán)境中的物體的能力。人能夠立刻估計(jì)環(huán)境的大小，并采取相應(yīng)行動(dòng)，因此在這個(gè)排列中排得最高。

然而，這卻是機(jī)器人得分最低的地方。在現(xiàn)今的研究中，模式識(shí)別是人工智能發(fā)展的主要障礙。機(jī)器人能夠比人更好地感覺環(huán)境，但是它們不能理解或認(rèn)識(shí)它們看到的是什么。在意識(shí)的這個(gè)尺度上，機(jī)器人的得分最低，接近于昆蟲，因?yàn)樗鼈內(nèi)狈δＪ阶R(shí)別的能力。

另一個(gè)依據(jù)是自我意識(shí)。如果放一個(gè)鏡子靠近大多數(shù)雄性動(dòng)物的旁邊，它們將立刻暴跳如雷，甚至攻擊這面鏡子。因?yàn)殓R中的圖像刺激動(dòng)物保衛(wèi)它們的領(lǐng)地。但是，猴子、大象、海豚和一些鳥類會(huì)快速意識(shí)到鏡子中的影像代表自 己，并停止攻擊。在這個(gè)尺度上，人類排得最高，因?yàn)樵谒麄兣c其他動(dòng)物、其他人和周圍世界的相處中，他們有高度發(fā)展的自我認(rèn)知意識(shí)。

最后一個(gè)排列依據(jù)是為將來制定計(jì)劃的能力。眾所周知，昆蟲不為將來設(shè)定詳細(xì)的目標(biāo)。大多數(shù)的昆蟲根據(jù)直覺和周圍環(huán)境的直接線索，瞬間對周圍的直接境遇做出反應(yīng)。但靈長類會(huì)為即將發(fā)生的事情做臨時(shí)準(zhǔn)備。比如當(dāng)猩猩看見了香蕉，卻伸手夠不著時(shí)，它們會(huì)制定策略去抓這個(gè)香蕉，例如用一根棍子。因此在這個(gè)排序上，猩猩比昆蟲擁有更高級的意識(shí)。但是總的來說，動(dòng)物對遙遠(yuǎn)的過去和將來并沒有清晰的認(rèn)知。

然而，人類對未來有非常充分的的意識(shí)，并且能連續(xù)制定計(jì)劃。 我們的頭腦中無時(shí)無刻運(yùn)行著對現(xiàn)實(shí)的模擬。事實(shí)上，我們預(yù)期的計(jì)劃可以遠(yuǎn)遠(yuǎn)超出我們的生命跨度。我們能判斷其他人的能力，預(yù)計(jì)形勢的發(fā)展，制定正確的策略。這種形式的意識(shí)涉及預(yù)測將來，也就是說，產(chǎn)生多個(gè)模型去模擬將來的事件。這要求對常識(shí)和自然規(guī)律有非常周密的理解。它意味著你要不斷地問自己“將會(huì)發(fā)生什么事情”。不管是計(jì)劃出門逛街，還是日常上班，這種類型的計(jì)劃意味著你的頭腦能夠在同時(shí)容納現(xiàn)實(shí)可能發(fā)生的多個(gè)模擬狀況。

所有現(xiàn)象仿佛都在說明，在自然界中只有人類掌握了這個(gè)藝術(shù)。

機(jī)器人也能具有意識(shí)嗎？

在確定了目標(biāo)后，研究人員的目標(biāo)就變成了創(chuàng)造具有所有這三個(gè)特征的機(jī)器人。相對來說，第一項(xiàng)較難達(dá)到，因?yàn)闄C(jī)器人雖然能夠感覺環(huán)境，但理解不了它的意義;自我意識(shí)比較容易取得;最后是獲取常識(shí)，在此基礎(chǔ)上才能擁有為將來制定計(jì)劃的能力。

因此，我們看到常識(shí)是高級意識(shí)的前提。為了讓機(jī)器人模擬現(xiàn)實(shí)和預(yù)測將來，它必須掌握有關(guān)周圍世界的幾百萬條常識(shí)的規(guī)則。但是有了常識(shí)還不夠，常識(shí)只是“游戲規(guī)則”，而不是策略和規(guī)劃的規(guī)則，它更關(guān)乎機(jī)器人在現(xiàn)實(shí)世界中的生存。

比如下棋機(jī)器“深藍(lán)”，它能打敗世界象棋冠軍，但它不能做別的事情。它能夠運(yùn)行一個(gè)模擬的現(xiàn)實(shí)，但僅僅是針對下棋。世界上的很多大型計(jì)算機(jī)都是這樣的。它們模擬一個(gè)物體的現(xiàn)實(shí)時(shí)非常優(yōu)秀，例如，模擬核爆炸、噴氣式飛機(jī)周圍氣流的模式，或氣候。這些計(jì)算機(jī)模擬現(xiàn)實(shí)的能力比人的還要好，但可惜的是，它們是一維的，因此在真實(shí)世界的生存中是沒有用的。

今天，對于如何向機(jī)器人灌輸常識(shí)，使其產(chǎn)生意識(shí)的方法，研究 人員所知有限。大多數(shù)人舉手投降，并且表示巨大的計(jì)算機(jī)網(wǎng)絡(luò)會(huì)有辦法顯示“突然出現(xiàn)的自然發(fā)生的現(xiàn)象”，就像有時(shí)本能地從混沌中產(chǎn)生秩序一樣。當(dāng)問到這些 突然出現(xiàn)的自然發(fā)生的現(xiàn)象什么時(shí)候?qū)a(chǎn)生意識(shí)時(shí)，大多數(shù)人只能是啞口無言。

當(dāng)然，意識(shí)正如我們看到的，也是一級一級上升的，而不是一個(gè)突然演變的事件，需要很多個(gè)存在幾十年的機(jī)器人才能沿著意識(shí)的階梯攀升。畢竟大自然用了幾百萬年時(shí)間才建立了人類的意識(shí)，在塑造機(jī)器人的意識(shí)方面，我們也不應(yīng)操之過急。

那么換個(gè)思路，盡管我們還不知道怎樣創(chuàng)造有意識(shí)的機(jī)器人，但是我們能夠想像當(dāng)機(jī)器人比我們還先進(jìn)時(shí)會(huì)是什么樣子，以此為框架測量意識(shí)。

這些機(jī)器人在第三個(gè)特征上是勝過我們的：它們能夠?qū)磉M(jìn)行復(fù)雜的模擬，遠(yuǎn)遠(yuǎn)超過我們，更全面、細(xì)致和深人。它們的模擬比我們更精確，因?yàn)樗鼈兏玫卣莆樟顺ＷR(shí)和自然規(guī)律，因此能夠更好地搜索模式。它們將能夠預(yù)測 我們忽略或未覺察的問題。此外，它們能夠設(shè)定它們的目標(biāo)。如果它們的目標(biāo)包括幫助人類，那么萬事皆好。但是，如果有一天，我們阻礙了它們制定的目標(biāo)，情況或許就會(huì)不太妙了。

這產(chǎn)生了下一個(gè)問題：當(dāng)它們超越人類時(shí)，一切將會(huì)怎樣？

如果機(jī)器人超越人類？

進(jìn)化的定律只有一條，即適者生存。也許人類會(huì)成為落后的一方，最終被鎖在動(dòng)物園里供機(jī)器人觀賞。也許這就是我們的命運(yùn)：我們孕育演化出了這些超人機(jī)器人，然后退場。而它們把我們看成是在它們的演化進(jìn)程中的原始祖先。

在某一天，我們不再是地球上智力最高的生物，而且我們的創(chuàng)造物也許能夠復(fù)制它們自己，并創(chuàng)造出比它們還聰明的機(jī)器人。然后，這個(gè)自我復(fù)制機(jī)器人的大軍將創(chuàng)造無窮無盡的下一代機(jī)器人，每一代都比前一代聰明。理論上， 機(jī)器人能夠在很短的周期內(nèi)創(chuàng)造更聰明的下一代，最終，這個(gè)過程將呈指數(shù)級膨脹，直到最后，在它們貪得無厭的變得更加聰明的要求下，吞噬了這個(gè)行星的資源。

這就是“奇點(diǎn)”，這個(gè)詞原來來自相對物理學(xué)世界，代表重力為無限大的點(diǎn)，任何東西都不能從這里逃逸，包括光，所以它代表了一個(gè)視野，超過這個(gè)視野，我們什么也看不見。

發(fā)明家雷·庫茲威爾是奇點(diǎn)理論忠實(shí)的代言人。他喜歡根據(jù)技術(shù)的指數(shù)增長進(jìn)行預(yù)測。在1999年，他寫了一本暢銷書《靈魂機(jī)器的時(shí)代，當(dāng)計(jì)算機(jī)超過人的智力》，預(yù)測機(jī)器人于什么時(shí)將在智力上超過我們。在2005 年，他寫了《奇點(diǎn)臨近》，并且詳細(xì)闡述這些預(yù)測，稱計(jì)算機(jī)超過人的智力的決定性的一天很快就會(huì)來臨。

他預(yù)測，到2019年，1000美元級別的個(gè)人計(jì)算機(jī)就將具有和人的大腦一樣強(qiáng)的能力。此后不久，計(jì)算機(jī)將把我們甩在后面。到2029年，同樣價(jià)格的計(jì)算機(jī)將比人的大腦強(qiáng)大1000倍。到2045年，這一價(jià)格的計(jì)算機(jī)將比每個(gè)人合起來的智力強(qiáng)10億倍，即便是一臺(tái)小型計(jì)算機(jī)也將超過整個(gè)人類的能力。

在他的想像中，2045年后的計(jì)算機(jī)將變得非常先進(jìn)，甚至能夠復(fù)制自身、智力不斷地增加，產(chǎn)生失控的奇點(diǎn)。為了滿足它們永無止境的貪婪及不斷增加計(jì)算能力的欲望，它們將開始吞噬地球、小行星、行星、恒星，甚至影響宇宙本身的歷史。

庫茲威爾相信，在這樣的未來中，我們要想的不是如何對抗智能機(jī)器的入侵，而是要與這個(gè)技術(shù)融合。我們要把這些智能的設(shè)備放在我們的身體和大腦里，讓我們活得更長壽，更健康。

沒有人知道最后到底會(huì)怎樣，未來是否會(huì)像《終結(jié)者》或《黑客帝國》所描述的那樣，成為人類時(shí)代的黃昏絕響，但也許在我們面前還存在著另外一條光明的道路。

我們可以

與人工智能友好共處嗎？

在現(xiàn)實(shí)的研究領(lǐng)域以及許多科幻作品里，科學(xué)家們采取各種方法 保證機(jī)器人不會(huì)造成危險(xiǎn)。比如他們放一個(gè)芯片在機(jī)器人的大腦里，如果機(jī)器人有了謀殺人類的念頭，就自動(dòng)將它關(guān)閉?；蛘咭部梢詣?chuàng)造專門的機(jī)器人獵手，用來壓 制不正常的機(jī)器人。這些機(jī)器人獵手專門設(shè)計(jì)成有超級速度、強(qiáng)度和協(xié)調(diào)能力，并且了解任何機(jī)器人系統(tǒng)的弱點(diǎn)，能夠捕捉錯(cuò)誤的機(jī)器人。當(dāng)然，人類也可以訓(xùn)練這個(gè)技巧。電影《銀翼殺手》中有一個(gè)受過專門訓(xùn)練的政府特工人員隊(duì)伍，哈里森·福特扮演的主角正是其中一員，他們有壓制任何機(jī)器人流氓所需要的技能。

科幻作家艾薩克·阿西莫夫正是這樣想的，他預(yù)想每一個(gè)機(jī)器人在工廠被加工時(shí)就被植入了三個(gè)定律，以防止它們失控。他在小說中設(shè)計(jì)出著名的“機(jī)器人三定律”，以防止機(jī)器人傷害自己或人類。

但更多的科學(xué)家傾向于設(shè)計(jì)“友好的人工智能”，讓它從一開始 就只執(zhí)行對人類有用的和慈善的任務(wù)，最終呈現(xiàn)良性的結(jié)果。這與阿西莫夫的思路略有不同。阿西莫夫的三定律是強(qiáng)加給機(jī)器人的，也許違背它們的意志。相反，在 “友好的人工智能”中，機(jī)器人是不受限制的，可以施行謀殺和傷害行為，也沒有什么規(guī)則能強(qiáng)加人為的道德。但是，這些機(jī)器人從一開始就要求它幫助人類而不是毀滅他們，它們的最終目標(biāo)是慈善的。

但是所有這些方法都有一個(gè)問題，那就是到目前為止，軍事部門是人工智能系統(tǒng)最大的資金提供者，并且這些軍用機(jī)器人是專門設(shè)計(jì)用來搜索、追蹤和殺人的。不難想像，將來的機(jī)器人士兵的使命就是要識(shí)別敵人，并且分毫不差 地消滅他們。這樣一來，我們不得不格外小心，保證這些機(jī)器人不要調(diào)過頭來對準(zhǔn)它的主人。例如，捕食者無人駕駛飛機(jī)是由遙控操作的，人要不斷地指示它們的飛行，但是如果有一天，這些無人駕駛飛機(jī)按照它自己的意志選擇目標(biāo)……

幸好在另一方面，民用商業(yè)部門也漸漸介入到這個(gè)領(lǐng)域中來，比如日本。在日本，機(jī)器人更多被設(shè)計(jì)用來在日常生活中為人類提供幫助，如機(jī)器人護(hù)工、搬運(yùn)機(jī)器人等，而不是破壞。如果這個(gè)傾向可以繼續(xù)下去并最終蔓延至全球，那么與人工智能友好共處的未來或許會(huì)變成現(xiàn)實(shí)。

畢竟，和平總比戰(zhàn)爭更好。