人工智能會超越人類智能嗎？

魏屹東

〔中圖分類號〕B80-0 〔文獻(xiàn)標(biāo)識碼〕A 〔文章編號〕0447-662X（2022）06-0088-11

關(guān)于“人工智能能否超越人類智能”這個熱點問題，自人工智能產(chǎn)生之日起就爭論不休。本文將從兩個對立方面來探討這個問題：一是人工智能為什么不會超越人類，如塞爾的生物自然主義;① 二是人工智能為什么會超越人類，如庫茲韋爾的奇點論。② 這是一個“一體兩面”的問題，其另一種表述是相對于人類智能的類人智能是否可能。前者立足于人類中心主義，認(rèn)為人類智能是迄今甚至今后宇宙中唯一的生物智能（自然認(rèn)知系統(tǒng)），人工智能（非生物智能）不過是其衍生物，是一種人工認(rèn)知系統(tǒng);后者立足于超人類主義，認(rèn)為人工智能會達(dá)到人類水平甚至超越人類，人類所能做的是如何造出與人類目標(biāo)一致的所謂的“友好的人工智能”或“負(fù)責(zé)任的人工智能”或“可信的人工智能”，③ 避免和禁止對人類產(chǎn)生威脅的機(jī)器人出現(xiàn)。這兩種對立的觀點涉及生命、意識、智能和認(rèn)知的相互關(guān)系，在筆者看來，這兩種觀點現(xiàn)在和未來很長一段時間會一直爭論下去。

人工智能和認(rèn)知科學(xué)的發(fā)展業(yè)已說明，人的認(rèn)知與計算機(jī)的認(rèn)知（計算）之間有著緊密的聯(lián)系。計算機(jī)包括人工智能實質(zhì)上是以機(jī)械的方式代替生物的方式模擬人腦的功能。計算—表征主義是我們熟悉的“老式人工智能”范式，也稱為強(qiáng)人工智能，它雖然受到后來的聯(lián)結(jié)主義、動力主義以及具身認(rèn)知科學(xué)中新興起的嵌入認(rèn)知、具身認(rèn)知、延展認(rèn)知以及情境認(rèn)知這些新研究綱領(lǐng)的責(zé)難，也受到哲學(xué)和心理學(xué)的挑戰(zhàn)，如智能機(jī)是否有意識和情感，是否有理解力等棘手的問題，但在技術(shù)層面，目前智能機(jī)運行所依據(jù)的理論仍然沒有超越計算—表征主義范式，就像發(fā)射人造衛(wèi)星所依據(jù)的理論仍然是牛頓理論一樣，盡管牛頓理論遭到了相對論的批判和超越。這說明計算—表征主義仍然有強(qiáng)大的生命力。

從語境論的視角看，如果進(jìn)入計算—表征主義的語境中，我們就會發(fā)現(xiàn)，它的主張是有道理的，因為它對計算、表征、思維和智能的定義，決定了它要執(zhí)行的策略和方法論，比如思維被定義為計算，智能被定義為推理與表征，“圖靈測試”實質(zhì)上是圖靈巧妙迂回地回答了“機(jī)器能思維”的問題，暗示了這種智能是一種“好像智能”或“假裝智能”（相對于人類智能）。在這個定義的語境下進(jìn)行操作，計算—表征主義就是合理的，超出這個定義的語境，就不是計算—表征主義了。塞爾的“中文屋論證”就是對強(qiáng)人工智能的反駁，即計算機(jī)只是操作符號而不理解其意義。在筆者看來，塞爾犯了語境錯位的錯誤。計算—表征主義一般并不主張計算機(jī)會像人那樣去理解，它只是在做計算和推理，計算推理達(dá)到的結(jié)果與理解達(dá)到的結(jié)果一致就行，至于計算機(jī)理解不理解無關(guān)緊要，畢竟計算不能完全代替認(rèn)知（認(rèn)知的含義遠(yuǎn)大于計算），或者說認(rèn)知不僅僅是計算，還包括知道和理解。所以，塞爾是在人理解的語境中談?wù)J知或思維的，計算—表征主義是在計算推理的語境中談?wù)J知或思維的，語境不同自然就會產(chǎn)生分歧與爭論。因此，我主張的“語境同一論”就是要解決由于語境不同而產(chǎn)生的分歧和無謂爭論。① 當(dāng)然，如果計算—表征主義也一味地堅持計算機(jī)會像人那樣理解地認(rèn)知，那就有問題了。畢竟計算機(jī)只是運用規(guī)則和推理操作符號，至于符號的含義是什么它是不知道的。在這個意義上，筆者贊成塞爾的觀點。

那么，人們會問，作為人工智能典型代表的AlphaGo是否戰(zhàn)勝了人類智能呢？關(guān)于這個問題，筆者的看法是，目前機(jī)器智能沒有超過人類智能。這就看我們?nèi)绾味x“智能”概念了。人類智能應(yīng)該包括計算力、感知力、預(yù)測力、直覺力、洞見力、情感力、意向力（自我意識）和自語境化力（能夠自動融入語境），這些能力筆者統(tǒng)稱其為“人類的綜合能力”。智能機(jī)顯然還遠(yuǎn)沒有達(dá)到這種綜合能力的水平，雖然它具有強(qiáng)大的計算力和儲存力，而且這兩種能力還遠(yuǎn)遠(yuǎn)超過人類。目前的智能機(jī)顯然沒有情感和自我意識，更不能隨著語境的變化而自動融入新的語境，如不能應(yīng)對自然語言的理解難題，因為智能機(jī)畢竟還是機(jī)器，它不能像人那樣自主地融入語境，盡管設(shè)計者可以在一個給定范圍內(nèi)給它設(shè)置語境，如一個特定的語義網(wǎng)構(gòu)成一個語義域或知識庫。相比而言，人類的語境是歷史地自發(fā)地生成的，無需一個額外的設(shè)計者。

就人機(jī)對弈而言，雖然人輸給了AlphaGo，但這并不意味著它超越了人類的智能，理由有六點：第一，智能機(jī)背后是設(shè)計它的一群人，這等于是一群人借助機(jī)器與一個人對弈，一個人當(dāng)然敵不過一群人，“三個臭皮匠勝過一個諸葛亮”;第二，以單一能力超過人的評價是“以偏概全”，比如狗的嗅覺比人靈敏，鷹的視力比人強(qiáng)大，我們并不能夠說狗和鷹的智力超過了人，同樣，計算機(jī)無疑比人的計算力強(qiáng)，我們也不能因此說計算機(jī)超過了人的智能;第三，一個人的智能并不能代表整個人類的智能，集體意識或智能不是一個人能夠表現(xiàn)出來的;第四，機(jī)器可以連續(xù)工作，而人不能，所以在“累”的意義上，人類就不如智能機(jī)，累會使人體力下降、專注力下降，因而會影響智力的發(fā)揮;第五，在靈活性、應(yīng)變性、綜合性方面，正如上述所說，智能機(jī)遠(yuǎn)不如人類，更不用說情感和自我意識了;第六，我們有自我指涉或反身性，如知道“我是誰”，這是產(chǎn)生自我意識的一個標(biāo)志，智能機(jī)顯然沒有這種能力，盡管它可以有反饋機(jī)制。如何讓智能機(jī)擁有這種能力，可能是未來人工智能的發(fā)展方向。

除了計算，表征也是不可或缺的。這就是形式語言表征對于人工智能的不可或缺性。由此我聯(lián)想到一種無表征主義，如德雷福斯就主張行為的無表征性。在我看來，沒有表征就不會有知識，更不會有科學(xué)和人工智能。道理很簡單，因為我們不知道通過什么方式來表達(dá)或描述這些行為，這就是知識表征，雖然存在意會知識（無法或不能表達(dá)出來的知識），那是個體在純粹理解的意義上談?wù)摰?，如果要呈現(xiàn)出來，則必須通過某個媒介如自然語言來描述，自然語言就是我們常見常用的表征形式。所以我主張，無表征就無知識，也不會有智能。即使是心理表征，雖然不可見，我們也常常使用心理狀態(tài)或信念狀態(tài)等概念來顯示其存在。這充分說明，只要我們思維著、行動著、探索著，表征活動就時刻存在著。可以說，表征行為是人類及其理性衍生物人工智能特有的，因為表征本身包含意義，有意義就意味著理解和解釋行為。但在理解和解釋的層次上，人工主體（智能體）的表征就是一種呈現(xiàn)意義的方式，其中包含的意義是人類設(shè)計者賦予的。這完全不同于自然現(xiàn)象的“表征”，這里的表征之意是屬性呈現(xiàn)，因為自然不“知道”它所呈現(xiàn)屬性的意義。因此，呈現(xiàn)屬性意義上的表征只有在人解讀它后才是表征，也就是這種表征只能由人去捕捉和解釋。這就涉及產(chǎn)生意義的語境問題。

眾所周知，人是語境化的主體，人工主體是語境化的嗎？在我看來，人工主體能夠像人類主體那樣在特定語境中做決策。人類具有在不同語境中行動的能力，也就是能夠適應(yīng)語境的變化。人工主體嚴(yán)格說是無語境的，或者不能自主地感知語境的變化，除非人類設(shè)計者給它設(shè)置語境（知識庫），它在這種被給予的特定語境中行動，如搜索、決策。所以，一種人工主體，如果它能夠依據(jù)人類設(shè)置的語境適應(yīng)性地做決策，就應(yīng)該具有一定的智能，如計算和推理，這種智能是一種適應(yīng)性智能。根據(jù)適應(yīng)性表征的思想，凡是能夠進(jìn)行適應(yīng)性表征的實體（無論是人類、動物還是人工智能體），自然就具有了適應(yīng)性智能。人類是自然進(jìn)化的主體（subject），具有自我意識性，智能體是人工設(shè)計的一種代理主體（agent），雖然可能有意向性（指向他物），但沒有自我意識性（指向自身）。所以，兩種主體本質(zhì)的不同在于自我意識性，即知道自己是誰。這意味著，一種主體，如果缺乏自我意識性（我稱之為反身性或自反性），盡管它可能具有主動性、自主性、意向性，也不能被認(rèn)為是與人類相提并論的主體。在人工智能中，在用英語表達(dá)一個具有主動性智能的實體時，都使用agent而不是subject，原因在我看來就是這兩個詞在描述“主體性”特征時，意義不完全相同。subject是指人，agent是指一種中介機(jī)構(gòu)或程序或算法，也可以指代人，但大多數(shù)情況下不是指具體的人，而是指代一種機(jī)構(gòu)，如法人、婚介所、律師事務(wù)所。subject表現(xiàn)出與其周遭環(huán)境的直接相互作用特性，而agent則表現(xiàn)出與其環(huán)境的間接作用特性，即中介性。人工智能就是使用agent對人類智能的模擬或再現(xiàn)。

概言之，人工智能無論多么智能，但目前還不會擁有我們?nèi)祟惖囊庾R特性。這表明智能不一定需要意識，如機(jī)器人，有意識也不一定有智能，如剛喚醒的植物人。如果說意識是一種生物現(xiàn)象（自然長期進(jìn)化的結(jié)果），具有自然進(jìn)化能力，那么無意識的智能就是一種物理現(xiàn)象，只是這種物理現(xiàn)象具有適應(yīng)性表征能力（可稱為機(jī)器進(jìn)化能力），且這種進(jìn)化能力是完全基于理性的。問題是，基于理性的人工認(rèn)知系統(tǒng)會產(chǎn)生意識嗎？

如果我們承認(rèn)機(jī)器有進(jìn)化能力，那么基于適應(yīng)性表征的機(jī)器進(jìn)化自然會引出另一個問題，即這種無意識主體能否產(chǎn)生類人的高級智能。我們知道，人工主體完全是理性主體，也就是排除了非理性因素，如情感、意志、心靈、自我意識等。人工智能僅僅憑借理性就能產(chǎn)生人類智能恐怕是不靠譜的，也就是說，僅僅依靠符號推理和表征不足以產(chǎn)生人類智慧。計算—表征主義已經(jīng)表明，依據(jù)理性策略可以產(chǎn)生強(qiáng)大的計算和表征能力，除此之外則無能為力。這意味著，人工智能是“有限智能”，或者說，理性是有邊界的，難以應(yīng)對非理性。

由于人工智能嚴(yán)格遵循理性策略，它不能應(yīng)付非理性就是可理解的。所謂理性在筆者看來就是遵循規(guī)則行事，否則就是非理性。比如，所有游戲都有規(guī)則，所有比賽都有規(guī)則，否則就亂套了?；蛘哒f，理性就是規(guī)范，就是約束，如社會倫理、法律、交通秩序都是規(guī)則，人人都應(yīng)該遵守。這就是哲學(xué)所說的規(guī)范性。人工智能是完全理性的事業(yè)（至少目前是這樣），是嚴(yán)格按照規(guī)則完成任務(wù)或解決問題的，這就排除了非理性的因素。在這個意義上，人工智能及其應(yīng)用領(lǐng)域機(jī)器人學(xué)，就是按照規(guī)則做事，盡力避免非理性。這既是一種研究策略，也是一種權(quán)宜之計，因為到目前為止，雖然人工智能得到超乎尋常的發(fā)展，但我們還不能賦予機(jī)器人這種人造物以情感和心靈，即機(jī)器意識。所以說，要求機(jī)器人有情感有心靈甚至有道德感和審美感，一方面是對人工智能研究要求太高，另一方面可能超越人類設(shè)計者的能力。但是，人類設(shè)計者讓機(jī)器人依據(jù)目標(biāo)適應(yīng)性地行動還是能夠做到的。

人工智能中的方塊—世界（block-world）問題就是理性策略的典型例子。該問題是說，使用機(jī)器人的手每次撿起一個方塊，并以某種方式重新安排那些方塊的排列，如由橫排列變成豎排列。這個任務(wù)由人做起來是再簡單不過的事情，但由機(jī)器人來做就不那么簡單了。如果機(jī)器人學(xué)能夠解決這個問題，與此相關(guān)的其他問題就迎刃而解了。事實上，現(xiàn)代機(jī)器人可以做到了。這個問題給筆者的啟示是，智能行為不必是有意識的，就如生命現(xiàn)象不必是有智能的一樣。人工智能的快速發(fā)展告訴我們，人類一旦創(chuàng)造了機(jī)器智能，該智能就可以沒有意識驅(qū)動仍可自動運行，這就驗證了科學(xué)哲學(xué)家波普提出的客觀知識世界的思想：物理世界和主觀世界相互作用產(chǎn)生知識世界，知識世界一旦產(chǎn)生，就不再受前兩個世界的制約，有自己獨特的運行規(guī)律。人工智能產(chǎn)生的知識或智能，很可能就屬于這種情形。如果是這樣，人工智能脫離人的控制可能就不是神話或科幻了，因此，我們在大力發(fā)展人工智能和機(jī)器人產(chǎn)業(yè)的同時，也要警惕這種可能性的出現(xiàn)，畢竟“嫦娥奔月”不再是神話。

當(dāng)然，就目前的發(fā)展水平和認(rèn)知能力來看，人工智能最終達(dá)到或超越人類智能的可能性不大。這主要是基于如下判斷：其一，人類智能不等于人工智能，智能不等于智慧，認(rèn)知也不等于計算，而且硬件很要緊，即生成智能的物質(zhì)是碳基的還是硅基的至關(guān)重要，或者說，意識現(xiàn)象包括認(rèn)知和智能是生物現(xiàn)象。其二，人工認(rèn)知特別是人工智能是非生物的（不排除將來人機(jī)融合的可能性，或制造出有生物身體的機(jī)器人），生物與非生物之間的鴻溝可能難以逾越。其三，如果具身性是智能的必要前提，那么具身機(jī)器不僅要能模擬人的思維和行為，同時也要擁有人的各種心理能力和感受性，這恐怕難以實現(xiàn)。筆者認(rèn)為，人工智能就是模擬人的思維和行為的機(jī)器智能，只是“看起來”像人的行為而已。人類能否實現(xiàn)強(qiáng)人工智能的目標(biāo)，至少從目前的技術(shù)水平來看可能性不大。即使是深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)以及深度強(qiáng)化學(xué)習(xí)和大數(shù)據(jù)技術(shù)的出現(xiàn)，也只是增強(qiáng)了智能，并不能讓機(jī)器擁有意識。顯然，如何讓機(jī)器擁有意識、情感、感受性等這類心理能力是實現(xiàn)強(qiáng)人工智能的瓶頸。

不論強(qiáng)人工智能能否實現(xiàn)，造出完全像人甚至超越人智能的硅基智能機(jī)（物理認(rèn)知系統(tǒng)）是不可能的，這里存在一個“硬件鴻溝”問題，即構(gòu)成智能的材料（生物的還是物理的，有機(jī)的還是無機(jī)的）是至關(guān)重要的。這是認(rèn)知科學(xué)中的“硬件要緊不要緊”問題。不弄清心智是如何從無機(jī)物到有機(jī)物形成的問題，我們就不能解決單單從無機(jī)物（機(jī)械裝置）產(chǎn)生心智的問題。即使最終我們通過人機(jī)融合而產(chǎn)生人類水平的智能，那也只能算作“雜交”智能;即使這種“雜交”智能達(dá)到甚至超越人類智能，它也不是強(qiáng)人工智能意義上的機(jī)器智能（即完全由物理裝置產(chǎn)生類人的智能或智慧）。因此，跨越硬件產(chǎn)生心智是個更難的問題。這意味著，人類智能與人工智能的重要差別就在于構(gòu)成材料的不同。在物理裝置上實現(xiàn)的只能是智能，而不是智慧。智能與智慧是兩種智能區(qū)分的標(biāo)志?；蛘哒f，人工智能可以有強(qiáng)大的智能，但不會有人類的靈性和智慧。

關(guān)于物理或機(jī)械的人工智能會不會超越生物的人類智能的問題，筆者提出如下四個論證：

第一是上帝隱喻論證（或哲學(xué)論證）。我們暫且假設(shè)有神論成立。如果上帝存在，上帝創(chuàng)造了人類，由于上帝是萬能的，人類智慧就決不會超越創(chuàng)造人類的上帝的智慧。但正如哲學(xué)史上的論辯，上帝是否能舉起連他自己都舉不起的石頭呢？若不能，上帝就不是萬能的，但有神論者相信上帝是萬能的，這種矛盾導(dǎo)致上帝不存在的結(jié)論。從無神論的立場看，即使上帝不存在，如果我們承認(rèn)生物進(jìn)化論是正確的，人類就是自然世界創(chuàng)造的，人類長期的自然進(jìn)化加上特有的文化進(jìn)化共同造就了心智。兩種截然相反的立場的差別在于只是將上帝換成自然，或者說自然就是上帝。如果自然有靈性，自然就創(chuàng)造了人類。人工智能是人類創(chuàng)造的，按照這個邏輯，人工智能就不會超越創(chuàng)造它們的人類，正如人類不會超越創(chuàng)造他的上帝或自然。在這里，人類就是人工智能的“上帝”。所以，人工智能不可能全面超越（而非某個專門方面）創(chuàng)造它的上帝——我們?nèi)祟悺?/p>

第二是意識論證。科學(xué)特別是生物化學(xué)已經(jīng)揭示，目前的有意識物體均是碳基的（有機(jī)的），即是由碳水化合物組成的有機(jī)生物。這是地球上生物長期進(jìn)化的結(jié)果。按照自然進(jìn)化邏輯，硅基的機(jī)器產(chǎn)生智能是不可能的。機(jī)器要有意識特征，如感受性，必須與人類結(jié)合或融合，如在人腦或人體中嵌入某個智能硬件。單獨的機(jī)器意識是不可能的，也就是僅僅是硅基的物理裝置是不會產(chǎn)生意識的。若“腦機(jī)混合”產(chǎn)生意識是可能的，那也是人機(jī)混合或人機(jī)一體的新型人工智能。但是，這種碳基—硅基的混合體已經(jīng)不完全是碳基生物了，而是合成物種產(chǎn)生的另類智能。

第三是具身論證。從意識論證自然會推出具身論證，具身論證又可進(jìn)一步推出情感、審美論證，因為這些非理性因素都是基于生物身體的。至少到目前為止，這些具身的精神或心理成分是生物學(xué)意義上的。具身認(rèn)知科學(xué)業(yè)已表明，相對于物質(zhì)現(xiàn)象的精神或心理現(xiàn)象是一種現(xiàn)象意識，也就是現(xiàn)象學(xué)上所說的感受性體驗，如疼痛、色彩體驗。這種現(xiàn)象意識是如何產(chǎn)生的，認(rèn)知科學(xué)和神經(jīng)科學(xué)還沒有說清楚，更遑論人工智能了。這就是為什么認(rèn)知科學(xué)和現(xiàn)象學(xué)的結(jié)合成為哲學(xué)研究領(lǐng)域的一種趨勢。但是，目前人工智能和機(jī)器人學(xué)領(lǐng)域的學(xué)者好像并不歡迎現(xiàn)象學(xué)，認(rèn)為現(xiàn)象學(xué)這種高大上的哲學(xué)就像韓國的整容術(shù)，看似唬人但不能遺傳。① 這顯然是一種認(rèn)知主義的立場，與傳統(tǒng)現(xiàn)象學(xué)幾乎不相容。

第四是耗散論證。眾所周知，生物不進(jìn)食就難以生存，物理裝置沒有能量供應(yīng)也不能運作。不論是生物體還是機(jī)械裝置，都是需要消耗能量的，用耗散結(jié)構(gòu)理論的術(shù)語說，它們都是耗散結(jié)構(gòu)，需要能量維持其演化。生物體消耗能量是生物化學(xué)的消化過程，物理裝置消耗能量（石油、電或太陽能）是物理化學(xué)過程。因此，給這些物體“斷供”就是對其“釜底抽薪”。計算機(jī)包括人工智能、機(jī)器人這種物理裝置的“阿喀琉斯之踵”就是“斷電”或“拔插銷”。所以，這些智能裝置若沒有電能就是一堆“廢鐵”。換句話說，人工智能存在的前提是“持續(xù)供電”，這與燃燒汽油的汽車沒有什么不同。

在筆者看來，一方面，我們對人工智能的發(fā)展期望過高或過于苛求，說到底人工智能只不過是人造的、服務(wù)于人類的工具，就像汽車、飛機(jī)一樣，它是人類理性的產(chǎn)物，本質(zhì)上是排除非理性因素的。另一方面，我們又對人工智能的發(fā)展過于擔(dān)憂，以為不受控制的人工智能發(fā)展會超越人類并最終控制甚至危害人類。這種對人類未來的終極關(guān)懷是可以理解的，因為人類擔(dān)心自己會失去尊嚴(yán)和安全。這種擔(dān)憂是“杞人憂天”，是人類中心主義思想在作怪。如果人類要毀滅自己，核武器不知道已經(jīng)毀滅多少次了，為什么要擔(dān)憂和懼怕人工智能呢？事實上，人類就連自身如何思維或認(rèn)知的機(jī)理都還沒有搞清楚，怎么能指望人工智能能夠理解它們自己的認(rèn)知過程呢？怎么能指望沒有人格的人形機(jī)器人有道德呢？

概言之，目前的人工智能還只是離散的功能性智能，而不是整體的反思性智能。前者基于計算—表征主義，后者基于生物自然主義。有無意識是區(qū)分這兩種智能的關(guān)鍵。而有無意識的物體在成分構(gòu)成上可分為硅基的物理裝置和碳基的生物體。有無自我意識可能是判別智能機(jī)能否超越人的關(guān)鍵。

如果說物理的人工智能不可能超越生物的人類智能，那么物理智能和生物智能的結(jié)合形成的具身人工智能或合成的類人智能是否有可能呢？關(guān)于這個問題我將圍繞泰格馬克的《生命3.0》展開討論。

泰格馬克在《生命3.0》的中文版序中坦誠，“過去，我們一直認(rèn)為，智能是一種神秘的東西，只能存在于生物（特別是人類）身上。但是，從我作為一位物理學(xué)家的角度出發(fā)，智能只是運動的基本粒子處理信息的特殊過程，并沒有一條物理定律說‘建造一臺在各方面都比人類聰明的機(jī)器是不可能的’?！雹僭谒磥恚覀兡壳爸豢吹街悄艿谋揭唤?，大自然中還潛伏大量智能等待我們?nèi)ラ_啟，人工智能有可能成為人類有史以來最美好的事情，也可能成為最糟糕的事情。美好的事情是人們期望的友好人工智能的出現(xiàn)，成為人類的助手;糟糕的事情是，人類不愿看到危害人類的機(jī)器人的出現(xiàn)。

在筆者看來，主要取決于我們?nèi)绾卫斫夂桶l(fā)展人工智能。比如，泰格馬克所在的“未來生命研究所”的“歐米茄”研究團(tuán)隊致力于開發(fā)通用人工智能。該團(tuán)隊一直秉承強(qiáng)人工智能的理念——建造人類水平的智能機(jī)或超級智能機(jī)。該團(tuán)隊認(rèn)為，只要讓智能機(jī)“自我改善”地迭代不斷持續(xù)下去，最終就會讓這臺機(jī)器變得非常聰明，足以學(xué)會所有有用的人類技能，這就是機(jī)器學(xué)習(xí)?？梢栽O(shè)想，一旦機(jī)器能夠通過迭代不斷學(xué)習(xí)下去，它們超越人類的智力也不是不可能。事實上，在純粹計算和認(rèn)知技能意義上，智能機(jī)一定會超越人類，如AlphaGo，但是加上意識、心靈、情感這些非智能的因素，就很難說了。畢竟人類的心智和智能是大自然幾十萬年甚至更長時間進(jìn)化出來的生物智能，要想制造出非生物的超級智能恐怕可能性不大，除非將生物的和非生物的智能相結(jié)合，因為基于生命的智能與非生命的智能完全不是一回事。這就需要從生命、意識和智能的定義和關(guān)系談起。

泰格馬克從定義“生命是什么”開始。他將自宇宙大爆炸以來的生命分為三個階段：生命1.0（簡單生物階段，如單細(xì)胞生物），生命2.0（文化階段，如人類社會的產(chǎn)生）和生命3.0（科技階段，如超級智能機(jī)的發(fā)明）。他給生命下的定義是，“一個能保持自身復(fù)雜性并能進(jìn)行復(fù)制的過程。復(fù)雜的對象并不是由原子組成的物質(zhì)，而是能闡明原子是如何排列的信息，這種信息由比特組成?！雹?這里的原子排列組合就是DNA，DNA復(fù)制信息。也就是說，他將生命看作一種能夠自我復(fù)制的信息處理系統(tǒng)，其信息軟件既決定了它的行為，又決定了其硬件的藍(lán)圖。根據(jù)這種生命觀，生命1.0的形成是靠自然進(jìn)化而不是靠設(shè)計;生命2.0的硬件也是進(jìn)化來的，而其軟件在很大程度上是設(shè)計的，這里的設(shè)計是指人用來處理感官信息和決定行動時使用的所有算法和知識;生命3.0完全擺脫了自然進(jìn)化的束縛，自己設(shè)計硬件和軟件，就像科幻電影中所描述的場景那樣，機(jī)器人自己設(shè)計并制造自己。

生命3.0未來能否出現(xiàn)，目前存在很大爭議。在筆者看來，完全非生物的或完全物理的生命不可能出現(xiàn)，除非我們將生物學(xué)、物理學(xué)和人工智能技術(shù)相結(jié)合來設(shè)計制造人機(jī)融合的類人生命。這意味著，生命就其本意而言，就是依賴于生物體的。這是自然和人類發(fā)展史以及進(jìn)化生物學(xué)揭示的規(guī)律。生物是有機(jī)物而非無機(jī)物。在這個意義上，塞爾關(guān)于意識的生物自然主義是有道理的，畢竟我們還得承認(rèn)生物學(xué)規(guī)律。

然而，從物理學(xué)看，生命在最根本意義上也是物理的，即由原子甚至更基本的粒子組成。泰格馬克之所以設(shè)想了生命3.0，正是基于這一觀念。這里存在一些重要的問題并產(chǎn)生巨大的分歧：知識或思想是基于生物學(xué)還是基于物理學(xué)？超級智能的所謂“奇點”（智能爆炸）是否存在？人類能否創(chuàng)造出所謂的有益的智能或友好的智能？第一個問題是問思想源于何處;第二個問題是問智能機(jī)是否能超越人類;第三個問題是問智能機(jī)是否安全，或者說其目標(biāo)是否與人類的一致，能否最終取代人類。前面業(yè)已部分回答了后兩個問題。

事實上，這三個問題都不好回答，甚至沒有答案。這些問題涉及生命、意識、智能這三個概念的區(qū)分及其相互關(guān)系。如果進(jìn)一步細(xì)分的話，這三個概念之間的關(guān)系不外乎以下四種：①生命→智能→意識，或生命→意識→智能;②意識→生命→智能，或意識→智能→生命;③智能→意識→生命，或智能→生命→意識;④生命意識智能。這些關(guān)系蘊含的問題是，是生命產(chǎn)生意識或智能，還是意識產(chǎn)生了生命或智能，還是智能產(chǎn)生了生命或意識，還是生命、意識和智能是相互依存的。或者說，三者之間是否存在優(yōu)先性或因果性。下文將做詳細(xì)的分析。

如果我們承認(rèn)生命先于意識或智能，或者說生命產(chǎn)生了意識或智能，那么我們就承認(rèn)了進(jìn)化論，也就意味著先有了生命，才會有意識或智能，這是生命—意識連續(xù)性論題，也是生物自然主義的觀點。如果進(jìn)一步主張物質(zhì)孕育了意識或智能，這就是一種強(qiáng)物理主義觀點，如泰格馬克就認(rèn)為“我們宇宙中的生命的最終極限取決于物理定律，而不取決于智能”。① 不論是生物自然主義還是強(qiáng)物理主義，哲學(xué)立場都是唯物主義。如果認(rèn)為意識先于生命或智能，如柏拉圖的“理念論”，認(rèn)為世界存在于人的觀念中，世界不過是人的理念的摹寫，這是唯心主義的觀點。智能先于生命或意識的情況不存在，即使現(xiàn)在的人工智能也是先有人才有智能機(jī)。如果認(rèn)為生命、意識和智能是同時存在并相互作用，這就是多元交互論了，這種觀點介于唯物主義和唯心主義之間。在哲學(xué)上，筆者堅持一種新的唯物主義——適應(yīng)性表征主義，這是一種本體論上的語境實在論和方法論上的語境同一論的結(jié)合觀點，②認(rèn)為作為實存者存在的生命、意識和智能，同作為概念存在的“生命、意識和智能”，在描述和理解的意義上是離不開表征的。作為概念它們各自的指稱是否明確、是否實存？在形成表征關(guān)系時它們是否語境同一？這就要求我們首先要對這些概念做準(zhǔn)確的界定，正如泰格馬克所做的那樣。

泰格馬克把生命定義為“能保持自己的復(fù)雜性并進(jìn)行復(fù)制的過程”，智能被定義為“完成復(fù)雜目標(biāo)的能力”，意識被定義為“主觀體驗”。③生命的復(fù)雜復(fù)制能力是基于DNA的，可由生物學(xué)說明;智能的執(zhí)行復(fù)雜目標(biāo)的能力是目標(biāo)導(dǎo)向的，既可由目的論說明，也可由因果論說明;意識的主觀體驗特征是由感受性（感受質(zhì)）來例示和描述的，可由知覺現(xiàn)象學(xué)或體驗哲學(xué)和具身認(rèn)知科學(xué)來說明。上述表明，生命3.0的設(shè)想與波普爾關(guān)于第三世界的知識世界的獨立性設(shè)想是一致的。由此看來，泰格馬克的觀點均是基于現(xiàn)代科學(xué)和哲學(xué)的，并沒有超凡脫俗之新鮮感。比如他堅持的強(qiáng)物理主義在20世紀(jì)初的邏輯實證主義那里就出現(xiàn)了，這就是卡爾納普的物理主義，只是卡爾納普更強(qiáng)調(diào)物理學(xué)語言的統(tǒng)一性，即“物理學(xué)統(tǒng)一論”。泰格馬克基于物理學(xué)的強(qiáng)人工智能立場源于他的“物質(zhì)層面的獨立性”的重要性，即認(rèn)識到物質(zhì)層面的大部分細(xì)節(jié)對于智能是無關(guān)緊要的，如計算可在任何媒介上實現(xiàn)，仿佛擁有生命，與采取何種物質(zhì)形態(tài)無關(guān)。這意味著，無論是什么物質(zhì)，只要它可以排列成能夠?qū)崿F(xiàn)通用計算的基本單元，如相互連接的神經(jīng)元，就能夠完成計算，仿佛它們是有生命的，與它們的物質(zhì)組成無關(guān)。這是認(rèn)知科學(xué)中的“硬件不要緊”觀點。對于生物自然主義者，組成生命的硬件很重要;而對于強(qiáng)人工智能者，硬件不重要，智能可以在任何硬件上實現(xiàn)，硬件的物理細(xì)節(jié)可以忽略。

人工智能的發(fā)展業(yè)已證明，智能的確可以在非生物的物理硬件上實現(xiàn)，盡管這種智能還不是生物意識或生物智能。那么，為什么有形的物理形態(tài)的實體（如大腦和計算機(jī)）中產(chǎn)生了智能這種抽象無形的東西呢？泰格馬克認(rèn)為這個問題已經(jīng)有了答案?！霸诟杏X上，智能之所以沒有物質(zhì)形態(tài)，是因為它獨立于物質(zhì)層面而存在。它似乎擁有了自己的生命，而且，這個生命并不依賴于、也不會反映出物質(zhì)層面的細(xì)節(jié)?！雹俑鶕?jù)泰格馬克的看法，計算這種智能是粒子在時空中排列出的形態(tài)，在排列過程中，粒子本身并不重要，重要的是它們組成的形態(tài)，這意味著，物質(zhì)對于智能無足輕重，粒子形態(tài)的結(jié)構(gòu)才是最重要的。因此，結(jié)構(gòu)決定功能（屬性）而非物質(zhì)決定功能。由此推知，泰格馬克所堅持的立場實質(zhì)上是一種結(jié)構(gòu)—功能主義。換句話說，智能的出現(xiàn)是由粒子排列的結(jié)構(gòu)決定的，而不是由物質(zhì)本身是什么決定的。對計算這種智能來說，“智能的出現(xiàn)并不一定需要血肉或碳原子”，②進(jìn)一步說就是不一定需要意識。這就是泰格馬克強(qiáng)調(diào)的“物質(zhì)層面的獨立性”的含義。

人工神經(jīng)網(wǎng)絡(luò)的強(qiáng)大計算能力是“物質(zhì)層面的獨立性”的又一個例子，因為這種計算能力與它們底層的構(gòu)造物質(zhì)毫無關(guān)系。我們知道，人工神經(jīng)網(wǎng)絡(luò)是人工智能中機(jī)器學(xué)習(xí)的一個典型領(lǐng)域。學(xué)習(xí)能力無疑是衡量一個主體是否擁有智能的一個重要方面。人類有學(xué)習(xí)能力，當(dāng)然有智能。智能機(jī)也會自主學(xué)習(xí)，也應(yīng)該有智能，因為智能機(jī)“知道”如何以合適的方式排列起來，也就是懂得如何進(jìn)行適應(yīng)性表征。因此，“一團(tuán)物質(zhì)想要學(xué)習(xí)，必須對自己進(jìn)行重新排列，以獲得越來越強(qiáng)的能力，好計算它想要的函數(shù)，只要它遵守物理定律就行。”③顯然，泰格馬克這里講的適當(dāng)?shù)摹芭帕小保褪枪P者強(qiáng)調(diào)的“適應(yīng)性表征”，因為不同的排列就是不同的表征方式。只是這里的“表征”指的是屬性的“呈現(xiàn)”，而不是意義的“表達(dá)”和“理解”。在后一種意義上，智能機(jī)是一種無意識的智能，只按照程序或算法“按部就班”完成設(shè)定的目標(biāo)。在這種意義上，具身人工智能的實現(xiàn)可以沒有生命，但需要能量。

根據(jù)泰格馬克的強(qiáng)物理主義，意識也和生命、智能一樣，也一定是遵循物理定律的。在他看來，任何能體驗到痛苦的系統(tǒng)都是有意識的，即使不能運動，如癱瘓的人。這意味著，粒子的某些排列的確產(chǎn)生了感受性或意識經(jīng)驗，如我們的大腦，而有些則沒有，如石頭，就如同碳原子的不同排列產(chǎn)生了石墨和金剛石一樣。泰格馬克認(rèn)為，這個問題導(dǎo)致了三個彼此獨立的意識難題：第一個是相當(dāng)難的問題——是什么物理性質(zhì)區(qū)分了有意識和無意識系統(tǒng)，或者說，是什么性質(zhì)讓不同的粒子排列產(chǎn)生了不同的結(jié)果。若弄清這個問題，就可以搞清哪些人工智能系統(tǒng)是有意識的，由此推知，未來的人工智能系統(tǒng)也可能擁有意識，盡管它們只是以軟件的形式存在，并沒有連接到任何傳感器上。第二個是更難的問題——物理性質(zhì)如何決定感受性，或者說，物理性質(zhì)如何決定體驗是什么，如紅色的玫瑰，可口的咖啡。第三個是真難的問題——為什么會出現(xiàn)意識。這與為什么會出現(xiàn)生命和為什么會出現(xiàn)宇宙同樣難?！半y”是針對科學(xué)而言的，科學(xué)之外當(dāng)然有其他解釋，如神學(xué)解釋。這里排除神學(xué)解釋，因為這是最省事的說明，即一切都是上帝創(chuàng)造的。

根據(jù)可檢驗與否，泰格馬克認(rèn)為相當(dāng)難的問題是可驗證的，更難的問題是部分可驗證的，真難的問題是不可驗證的。意識理論要想成為科學(xué)的，就應(yīng)該是可驗證的，或者說是可證偽的，不能驗證的理論是沒有意義的。在這里泰格馬克堅持的是波普爾的證偽理論。在他看來，“只要一個理論能預(yù)測你大腦在哪些過程是有意識的，那它就是一個預(yù)測物理系統(tǒng)是否有意識（這是相當(dāng)難的問題）的科學(xué)理論”。①例如，認(rèn)知神經(jīng)科學(xué)使用功能性磁共振成像（fMRI）、腦電圖（EEG）、腦皮層電圖（ECoG）和磁腦圖（MEG）等新技術(shù)手段來讀取大腦中發(fā)生的信息，有可能弄清楚哪些部位負(fù)責(zé)產(chǎn)生了意識這個目前仍懸而未決且充滿爭議的問題。② 因此，意識謎題的揭開還有賴于技術(shù)的進(jìn)步。

假設(shè)科學(xué)最終能夠揭示意識之謎，從物理學(xué)的視角看，我們需要解釋什么樣的粒子組合擁有了意識這個問題，意識肯定有某些高于和超越粒子性質(zhì)的性質(zhì)，這種現(xiàn)象就是“涌現(xiàn)”，就是系統(tǒng)科學(xué)中的“整體大于部分之和”現(xiàn)象。比如控制論就是一種適合研究神經(jīng)元相互連接和意識涌現(xiàn)的理論，因為它的正饋機(jī)制說明了涌現(xiàn)的產(chǎn)生，反饋機(jī)制解釋了自我指涉性或自反性。③ 這種屬性對于人工智能最為重要，因為依據(jù)這種性質(zhì)我們就可能造出人工意識和智能。自我指涉性或自反性是侯世達(dá)提出的讓系統(tǒng)產(chǎn)生意識、讓無意義元素涌現(xiàn)意義的一個重要概念。根據(jù)這個概念，認(rèn)知和思想就是通過大腦中復(fù)雜的正反饋循環(huán)從神經(jīng)機(jī)制中涌現(xiàn)出來的。也就是說，人腦可被看作是一個自我指涉的生物系統(tǒng)，一個“奇特的循環(huán)”，④它通過自我指涉產(chǎn)生了自我意識。這是一個通過自反性多次循環(huán)達(dá)到適應(yīng)性表征的過程。

泰格馬克以“濕潤”為例說明意識的涌現(xiàn)特征。單個水分子不具有濕潤的性質(zhì)，只有大量的水分子組成液態(tài)時才會涌現(xiàn)出濕潤性質(zhì)。對于單個水分子來說，固態(tài)、液態(tài)和氣態(tài)均是涌現(xiàn)現(xiàn)象，它們具有單一水分子所沒有的性質(zhì)。意識就像固態(tài)、液態(tài)和氣態(tài)，是一種涌現(xiàn)現(xiàn)象，擁有一些高于和超越其組成粒子性質(zhì)的屬性。事實上，化學(xué)中的化合物相對于其組成原子均是涌現(xiàn)屬性。對于我們?nèi)祟?，死亡了，意識也就消失了，因為人腦活著時的粒子排列不同于死亡時粒子的排列，即人死亡后大腦中的粒子會重新排列。

這個關(guān)于意識的水形態(tài)類比似乎很有道理。但是，我想反駁的是，分子或原子的排列重組與神經(jīng)元的排列重組是相同的嗎？或者說，物理層次的排列重組和生物層次的排列重組是同一的嗎？在筆者看來，這兩個層次之間存在著質(zhì)的差異，一定有某些環(huán)節(jié)我們還沒有掌握;如果使用適應(yīng)性表征來描述則更為恰當(dāng)，因為物理系統(tǒng)與生物系統(tǒng)都具有適應(yīng)性表征功能，只是前者是基于物理規(guī)律自發(fā)的無機(jī)屬性，后者是基于生物規(guī)律有感受性的有機(jī)屬性。

如果說意識是一種“涌現(xiàn)”現(xiàn)象，這在哲學(xué)上很難反駁。這與我們說知識是主體與客體相互作用的產(chǎn)物一樣，看似有道理，實質(zhì)上是一個籠統(tǒng)、模糊的說法。根據(jù)強(qiáng)物理主義，涌現(xiàn)是粒子重排后產(chǎn)生的一種集體行為，就如同原子協(xié)同排列產(chǎn)生激光一樣。這意味著哲學(xué)上的涌現(xiàn)與物理學(xué)上的涌現(xiàn)不同。托諾尼等從數(shù)學(xué)上給出了意識的信息整合理論，主張一個有意識的系統(tǒng)必須進(jìn)行信息整合而成為一個統(tǒng)一體。① 這意味著意識是統(tǒng)一的，它不能是獨立的幾個部分，比如我對“我”的意識是一個“我”，而不是兩個“我”。不過，信息整合理論只適用于狀態(tài)數(shù)量有限的離散系統(tǒng)，如量子系統(tǒng)，對于狀態(tài)變化的連續(xù)系統(tǒng)是無能為力的。我們的大腦是連續(xù)系統(tǒng)，計算機(jī)是離散系統(tǒng)，這兩種系統(tǒng)的組成方式（結(jié)構(gòu)）和認(rèn)知狀態(tài)肯定是不同的。

那么，如何將有關(guān)意識理論固定在一個堅實的物理基礎(chǔ)上呢？這就需要回答是什么讓物質(zhì)具有了主觀體驗，也就是要做到能記憶、能計算、能學(xué)習(xí)、能體驗。這四種能力是有意識系統(tǒng)的基本特征。如果意識是一種物理現(xiàn)象，那么它為什么感覺起來如此“非物質(zhì)”呢？或者說，為什么感覺起來是獨立于物質(zhì)層面而存在呢？在泰格馬克看來，意識的確是獨立于物質(zhì)層面的東西，因為它只是物質(zhì)中的一種模式，就像智能手機(jī)的操作系統(tǒng)是獨立于其物質(zhì)層面一樣。這自然會推出“意識即信息處理”的觀點，即一種強(qiáng)物理主義的思想———意識是獨立于物質(zhì)層面的，是信息進(jìn)行處理時的感覺，而且物質(zhì)的結(jié)構(gòu)并不重要，重要的是信息處理過程的順序。

按照強(qiáng)物理主義，如果粒子的排列遵循一定的原理，那就會產(chǎn)生獨立于粒子層面的涌現(xiàn)行為，并產(chǎn)生完全不同的感覺;如果信息處理過程也服從某些原理，那就會產(chǎn)生一種更高級的涌現(xiàn)行為，即意識現(xiàn)象。這意味著，感覺和意識都是系統(tǒng)的涌現(xiàn)行為或?qū)傩?。問題是，信息處理過程產(chǎn)生意識要遵循哪些原理呢？泰格馬克認(rèn)為必須要滿足四個必要條件：②

（1）信息原則：一個有意識的系統(tǒng)擁有充足的信息存儲能力;

（2）動態(tài)原則：一個有意識的系統(tǒng)擁有充足的信息處理能力;

（3）獨立原則：一個有意識的系統(tǒng)與世界的其他部分之間擁有充分的獨立性;

（4）整合原則：一個有意識的系統(tǒng)不可能由獨立的各部分組成。

凡是能夠滿足這四個原則的系統(tǒng)，就是有意識系統(tǒng)，如人腦。然而，人工智能系統(tǒng)，如具有網(wǎng)絡(luò)生命或意識的虛擬人（思維克隆人或軟件），③也滿足這四個原則，也是有意識系統(tǒng)？這一點絕大多數(shù)人不會認(rèn)可。不管信息整合理論正確與否，它得出的一個結(jié)論是對的，那就是，迄今的計算機(jī)構(gòu)架不可能產(chǎn)生意識，因為不僅它們的連接方式的信息整合度非常低，而且它們的物質(zhì)組成成分也完全不同。這與泰格馬克自己給出的意識是主體體驗的定義不符，因為人工智能系統(tǒng)缺乏的正是主觀體驗這一核心屬性。主觀體驗不僅與意識相關(guān)，也與情感相關(guān)。這些主觀因素都是人工智能所缺失的。這就是說，擁有意識和展示出有意識行為是兩回事。比如，我們說人類和人工智能都有認(rèn)知能力，但不能說它們都擁有意識。智能和意識相關(guān)但還不是一回事，因為智能可以是無主觀體驗的認(rèn)知，如操作符號，而意識則不能，如感覺。

即使未來人工智能系統(tǒng)產(chǎn)生了意識，或者互聯(lián)網(wǎng)的幾十億臺電腦連接涌現(xiàn)出意識，人類也體驗不到這種系統(tǒng)對意識的感覺是什么樣的。因為體驗是個體的而不是集體的。這與他心問題類似，即我不知道他人的感覺是什么樣的，但這不妨礙我知道他人有感覺、有意識。這就是人工意識的感受性問題。也許這種人工感受性與我們?nèi)祟惖母惺苄允穷愃频?，如感受到疼痛的感覺。但是，根據(jù)泰格馬克的看法，人工智能的體驗空間可能比人類的還大得多，因為我們的每一種感覺器官只對應(yīng)一種感受性，而人工智能的傳感器和信息內(nèi)部表征的種類可能要多得多。而且在體驗速度上，人腦的神經(jīng)元信號的每秒傳輸速度比起人腦大小的人工智能體要慢幾百萬倍，因為電磁信號以光速傳播。這意味著，人工智能的意識經(jīng)驗的實現(xiàn)是可能的，“如果未來一個巨大的人工智能擁有了意識，那么它的幾乎所有信息處理都是無意識的?！雹倬拖袢四X中有意識的信息處理過程似乎只是一個巨大的無意識的冰山一角。這就是說，人工智能體驗的大部分可以通過無意識過程來實現(xiàn)，即可能通過一個嵌套的層級結(jié)構(gòu)來實現(xiàn)。

然而，問題依然存在，因為即使人類讓人工智能擁有了意識，我們也仍然不知道意識為什么會出現(xiàn)。也許“意識之謎”②永遠(yuǎn)是個謎，仍然需要認(rèn)知科學(xué)家和哲學(xué)家孜孜不倦地關(guān)注和研究。③ 意識之謎解不開，意義問題就解決不了，因為有了意識才有了意義。當(dāng)然，如果意識永遠(yuǎn)就是個謎，永遠(yuǎn)讓我們對它保持著好奇心，永不停歇地探究它，這也未必不是好事！

在宇宙中，從物理現(xiàn)象到生物現(xiàn)象再到意識和智能現(xiàn)象，在時間上跨越了上百萬年乃至上億年。在物質(zhì)形態(tài)上經(jīng)歷了基本粒子、蛋白質(zhì)、細(xì)胞、生物體包括低級動物（如昆蟲）和高級動物（如人類）。有了人類文明以后，人類社會形態(tài)又經(jīng)歷了從原始部落到國家形態(tài)的各類社會形態(tài)。人類社會的形成是宇宙意識和智能最直接的體現(xiàn)?？茖W(xué)技術(shù)發(fā)展是人類智能的直接結(jié)果，人工智能則是人類智能的衍生物。至于人工智能這種衍生物是否會達(dá)到或超越人類智力水平，就目前的科學(xué)技術(shù)發(fā)展水平和哲學(xué)認(rèn)知水平來說，還不好下結(jié)論。不論我們對人工智能和機(jī)器人持積極態(tài)度還是消極態(tài)度，是支持還是反對，是樂觀還是悲觀，都不會影響人工智能的發(fā)展，這是世界大勢所趨。至于人工智能和機(jī)器人是否會超越人類并代替人類，我們不必過于擔(dān)心，筆者相信，聰明的人類一定會找到解決各類問題的辦法。人工智能就是人類解決復(fù)雜問題的手段和工具。既然是手段和工具，不論這種工具多么智能，它們只不過是人類馴服的、服務(wù)于人類的類人物種而已。

作者單位：山西大學(xué)哲學(xué)學(xué)院

責(zé)任編輯：王曉潔