超級智能不可人格化

劉大先

2009年6月，位于美國加州硅谷核心地帶的美國國家航天航空局（NASA）埃姆斯研究中心的奇點大學（Singularity University）迎來了它的首批30名學生。

這是一所前所未有的大學，由Google公司與NASA合作，聯合若干科技界專家創(chuàng)建，設立未來學、網絡和計算機、生物技術和生物信息學、納米技術、醫(yī)學和神經科學、人工智能、能源、航天和自然科學、法律和倫理、金融等10個領域課程。旨在探索利用科技改善人類困境的途徑，解決貧困、饑荒、疾病、全球變暖和能源稀缺等一系列嚴峻的問題。它的校長就是雷?庫茲韋爾（Ray Kurzweil）。

這所大學就是由庫茲韋爾2005年出版的未來學名作《奇點臨近》引發(fā)靈感創(chuàng)立的。他同時也是一位發(fā)明家和企業(yè)家，擁有一家以自己名字命名的科技公司，主要開發(fā)和銷售圖形識別、人工智能、進化算法、信號處理、自然仿真處理等技術。前幾天，以《三體》聞名的科幻作家劉慈欣在接受《紐約時報》采訪時被問到如果要給習大大推薦作品，他提到的就是《奇點臨近》。

“奇點”這個概念在物理、幾何、數學、宇宙學等多個學科領域均有涉及，庫茲韋爾則用來指人類與其他物種（物體）的相互融合，確切來說，是指隨著人工智能、生物醫(yī)學、納米科技的交融，電腦智能與人腦智能兼容的那個時刻。他預言在2050年前后，生物思想與現存技術融合達到頂點，人類將全面超越自己的生物局限。

奇點臨近暗含的思想是直覺的線性增長觀與歷史的幾何級增長觀之間的差別，庫茲韋爾認為“人類創(chuàng)造技術的節(jié)奏正在加速，技術的力量也正以指數級的速度在增長”，他稱之為“加速循環(huán)規(guī)則”（Law of Accelerating Returns）。這實際上是對摩爾定律的突破，摩爾定律是由英特爾（Intel）創(chuàng)始人之一戈登?摩爾（Gordon Moore）提出來的，即當價格不變時，集成電路上可容納的晶體管數目，約每隔18個月便會增加一倍，性能也將提升一倍。換言之，每一美元所能買到的電腦性能，將每隔18個月翻一倍以上。但按照技術發(fā)展現狀看，摩爾定律已經被改寫，中國Internet聯網主機數和上網用戶人數的遞增速度，大約每半年就翻一番。也就是說，技術范式的創(chuàng)新是乘法而不是加法。人們往往忽略這種指數級的加速度，只以已有的目前的經驗去思考未來，這會造成高估短期能夠達到的目標，而容易低估需要較長時間才能達到的目標。

按照庫茲韋爾樂觀的進化論想象，宇宙的發(fā)展過程按照創(chuàng)造持續(xù)增長秩序的模式，可以劃分為六大紀元。第一紀元是物理與化學階段，用物質和能量的形式來表現信息。宇宙產生幾十億年后，由碳元素形成的化合物趨于復雜，進而形成能夠進行自我復制的分子聚合物，生命隨之產生。由氨基酸組合而成的蛋白質和由核酸組成的RNA鏈，共同建立了生物學基本模式，為記錄進化的經過提供了數字化的方法，這是生物與DNA的第二紀元。第三紀元是大腦的理性思考與物種進化相結合，引起了第四紀元的從生物向技術的范式轉化。其后的范式遷移將由生物思想向生物和非生物的結合轉變，即人類智能與人類技術的結合，奇點就是隨著這個第五紀元的到來而開始，這會形成一個“新世界”。CCTV出品的紀錄片《互聯網時代》的最后一集也預測了這個時代是個“全球腦”的時代，全球互聯，人類與機器、現實與虛擬的界限將變得模糊，呂克?貝松2014年的電影《Lucy》里的女主角就可以視作是這種超級智能的結果。奇點之后，超級智能在第六紀元從地球擴展到全宇宙，最終形成宇宙覺醒，寶樹的科幻小說《時間之墟》中宇宙意識的整體融合幻想了這種存在。這個時候的發(fā)展已經逾越了我們現有想象的疆界，超越光速這一閾限也并非不可能。

當然，現實世界也會存在一些阻礙奇點來臨的因素，比如大規(guī)模的災難，全球傳染的疾病類似SARS、埃博拉病毒，核戰(zhàn)爭，計算機硬件的限制，人類大腦計算能力的被低估，藝術等富含情感性因素難以被技術智能理解等等。庫茲韋爾是從純技術進化來推理的，論證并不嚴密。因而也遭到了來自各方面的批評。信息技術分析人士會覺得庫茲韋爾以科幻替代了科技，被公認為是國際上人工智能核心雜志的《IEEE智能系統(tǒng)》的極為權威編委甚至都不愿意發(fā)表對“奇點”的任何觀點。

機器能否具有思維一直是人類關注的話題，1950年，英國數學家阿蘭?圖靈（Alan Turing）發(fā)表了一篇論文，預言了創(chuàng)造出具有真正智能的機器的可能性。他后來提出一個具體測試：如果電腦能在5分鐘內回答由人類測試者提出的一系列問題，且其超過30%的回答讓測試者誤認為是人類所答，則電腦就被認為擁有智能。1980年，哲學家John Searle在《心智、大腦和程序》提出“中文房子”的思想試驗：設想一個只懂英語的人坐在封閉屋中，回答外面人用中文提出的問題，他有一本問題與答案對照的手冊，按照手冊作答，外面的人會誤以為他懂中文。這個試驗實際上否定了“圖靈測試”的可靠性，即它簡單模擬了人機交流的真相：計算機似乎能用語言與人類交流，但只是限定在操作字符與程序上，并沒有懂語言本身。這可能是人工智能所能達到的極限，包括機器學習和潛在的人工智能的可能性。

庫茲韋爾用了專門一章一一回應了各種批評，他引用John Smart的話：“哲學家們很久以前就意識到，與他們的祖先相比，他們的孩子出生在一個更加復雜的環(huán)境中。對加速轉變早期的認識，甚至是無意識的認識都可能會促進西方傳統(tǒng)的思想，例如：烏托邦論、世界末日論以及新千年論等。然而不同的是，現在每一個人都在某一層面上認識到了前進的腳步，而不是簡單的空想?！痹谒念A測中，并不僅僅是機器單獨發(fā)展為超級智能，而是人與機器的結合，包括對人自身的改造。比如就人的身體本身，組成它的各種粒子平均每月就完全翻新一次，所以通過吃藥物或者植入芯片或者納米機器人來改造生物特征都是可行的，甚至能夠帶來持續(xù)的健康乃至永生。他強調的是技術范式轉移會用更大、更優(yōu)良的方法解決以往和目前視野中視作無法跨越的門檻，而思維轉換發(fā)生的時間間隔越來越短，同時會越來越頻繁。一句話，對于未來的想象無論如何大膽，都是有可能實現的。

奇點涉及到避免不了的倫理學困境和關于“人”的定義的重寫，那時候的“人”無疑已經是“后人類”，這個話題已經引發(fā)了人類學與社會學諸多領域最前沿的思想者們的關注?？茖W問題發(fā)展到了最后就變成了哲學乃至神學問題。關于人造人的恐懼與道德難題，一直伴隨著從工業(yè)革命以來的人類始終。這樣的問題似乎是庫茲韋爾沒有考慮的。

牛津大學主持“人類未來研究所”的哲學家Nick Bostrom更像是一個悲觀主義者，他描繪了一幅人類與技術控制關系的畫面：一輛從山路上加速下滑的校車，滿載嘰嘰喳喳、歡笑打鬧的孩子。但是如果往前看，駕駛員的位置上是空的。他指出最近關于開發(fā)超級智能風險的討論有兩種基本敘事：一種認為機器一旦獲得高級智能就會自動理解并且關心人類價值，不會對人類生存構成威脅；另一種認為超級智能一旦誕生，會想除掉人類。但這兩種說法的共同錯誤在于都把超級智能人格化了，用人類情感投射到與人性完全異質的實體身上。在其剛出版的新書《超級智能：道路、危險、策略》（Superintelligence： Paths， Dangers， Strategies）中，對于人類面臨的巨大問題和應對策略有著對庫茲韋爾的補充，可以對照著來讀。

（作者系中國社會科學院副研究員）

責任編輯：張蕾磊