人工智能是否會具有自我意識的研究探析

朱自強

（上海大學社會科學學部，上海 200444）

20 世紀60 年代，馬文·明斯基和麥卡錫提出“人工智能”的概念，人工智能誕生以來，由于計算機運算速度及智能系統(tǒng)等因素的局限，其發(fā)展經(jīng)歷了兩起兩落，時至今日，人工智能已備受人類的關(guān)注和青睞，也經(jīng)歷了前所未有的快速發(fā)展。IBM 公司和谷歌公司開發(fā)的“深藍”和AlphaGo 已經(jīng)在象棋和圍棋領(lǐng)域戰(zhàn)勝了人類，占領(lǐng)了人類思維活動的高地。不但如此，人工智能未來還會進一步影響人類的就業(yè)、生產(chǎn)、甚至是社會關(guān)系等各個方面。因而，人們不免會擔憂，人工智能是否會擁有自我意識，就像許多智能機器人的電影中所呈現(xiàn)的那樣，在未來取代人類取得統(tǒng)治地位？

1 人工智能的智能

江怡教授認為，人工智能和自我意識是兩個不同的概念，一個是人類智慧的結(jié)晶，一個是人類本能的活動，人工智能產(chǎn)品的智能化程度，并不意味著其具有自我意識[1]。然而，當智能機器能夠像人一樣的思考，甚至和人類的智力相PK 的時候，人們自然會想到機器的意識問題以及可能會帶來的威脅。這也說明，人工智能雖然和自我意識是兩個不同的概念，但它們之間的區(qū)別并不意味著二者之間不會有聯(lián)系。所以，本文將從智能和自我意識兩個方面展開討論。

根據(jù)現(xiàn)代漢語詞典的定義，智能是智慧和能力的意思[2]。搜狗百科提供的定義是，知識與智力的總和，智力主要是先天決定的，知識主要來自后天的學習。本文將從感覺、思維、反思三個方面考察AI 的智能，感覺和思維主要是先天的，反思涉及自我學習和知識的累積。

機器人會有感覺嗎？感覺在通常的意義上來說，包括五大感知：視覺，聽覺，觸覺，味覺，嗅覺。這個不難做到，大部分仿人的機器人都具有視覺、聽覺和觸覺，至于味覺和嗅覺機器人當然可以擁有，這個主要由機器人的功能決定的。而且，有些功能部分機器人并不需要擁有，譬如說味覺，因為機器人并不需要像人類一樣進食。

機器人有思維能力嗎？思維的嚴格定義很復雜，所以本文只能從一些主要方面來闡述。思維活動包括、分析與綜合、比較與分類、抽象和概括等。分析是把問題分解成若干個小的部分，然后逐個解決。綜合是把各個小部分整合在一起，以整體的思路來解決問題，二者是相反的過程。關(guān)于這個問題的答案是肯定的。因為目前的機器人已經(jīng)初步可以根據(jù)不同的場景與人進行合適的交流，而交流的過程中對對方句子的分析必定包括分解句子成分的過程，而回答對方的問題則需要對詞語進行組合。在龍泉寺十周年國慶普茶晚會上，賢二機器僧對小姑娘的問題的回答已經(jīng)初步的說明了這一點。不過，目前機器人的分析與綜合的能力還是相當有限的，處于初步發(fā)展階段。賢二機器僧在對小姑娘的問題進行回答的時候必定會在不同的詞語中進行比較和分類，然后從其中挑出合適的詞語形成句子。機器人具有抽象的能力這是毫無疑問的，而將本質(zhì)特征綜合起來對于具有強大記憶的智能機器來說也是沒有問題的。

機器人會進行反思嗎？反思不是對現(xiàn)實事物的簡單思考，而是對思維本身的考察，就如笛卡爾的“我思”。動物是不會進行反思的，因為動物只懂得滿足目前的，現(xiàn)實的需要，并不能將需要擴展至一般，對概念或指稱進行思考。普雷麥克和伍德拉夫曾經(jīng)對黑猩猩的欺騙行為進行研究，結(jié)果表明，黑猩猩只是試圖影響其他黑猩猩的所做所為，它并不企圖影響其他黑猩猩相信什么。恩格斯曾明確指出：“動物僅僅利用外部自然界，簡單的通過自身的存在在自然界中引起變化；而人則通過他所作出的改變使自然界為自己的目的服務，來支配自然界[3]。”人所造出的機器人可以對概念進行分析是毫無疑問的，因為它本身就是由抽象的概念及運算符號組成的。只是它能否對自己“頭腦中產(chǎn)生的知識”進行思考，這就涉及到很吸引人的一個研究方向，就是AI 是否可以通過對自己“頭腦中”產(chǎn)生的代碼進行分析，而自主研制出更加先進的AI 產(chǎn)品來？這個需要時間來說明。不過，谷歌公司的AlphaGo Zero，可以從圍棋小白的水平，在三天之內(nèi)進行無數(shù)次的自我博弈，而不需要借助任何人類的經(jīng)驗，進行自我提高，從而達到世界第一的水平，打敗上一代的AlphaGo。這說明了AlphaGo Zero 通過深度學習，可以反思，評估進而改進以前的行棋方式與方法，提高自身的水平。

綜上所述，人工智能基本具有感覺、思維、反思的能力，至于自我意識，是下面著重要討論的，將分別從心理學層面和哲學層面對人工智能的自我意識問題進行考察。

2 心理學層面的自我意識

從心理學層面來說，自我意識是個體對自身身心活動的覺察，就是人對自身的認識，包括認識自己的生理特征，心理特征，自己與社會的關(guān)系。自我意識主要包括三種成分：自我認識，自我體驗，自我監(jiān)控。

AI 能意識到自我之外還有其他的客體對象嗎？答案是否定的。反駁者可能會說，在機器人的程序里加上一段代碼，時刻提醒它“自我區(qū)別于別物”，并在自己的身體受到傷害的時候保護自己。但是，這看起來簡單，但是不一定好實現(xiàn)，越是看起來容易的事，越難辦。況且，能保護自己，并不等同于能“意識到自己”，即使能夠成功的輸入這段代碼，但是“自我”是什么，它卻不能理解。就像猴子一樣，可能在危險的時候用爪子攻擊“別物”，卻不能意識到“自我”的存在。它也可以在需要的時候抓耳撓腮，雖然抓的是自己的耳朵和腮幫，并不是別的猴子的，但卻并無“自我意識”。

AI 產(chǎn)品會自然地害羞或恐懼嗎？

在電影《我，機器人》中，一個名叫桑尼的五代機器人，好奇自己的存在，像人一樣的發(fā)問“Who am I ?”桑尼會睡覺，會做夢，在一場殺人案的審訊中會生氣。筆者認為，這是不可能的。反對者可能會說，目前的AI 產(chǎn)品面部的類肌肉群那么發(fā)達，一點表情都做不出來嗎？然而，能呆板地做出一些表情和自然而然流露出來的真情實感并不相同。具體說，害羞是別物的作用使自己感到不自然而表現(xiàn)出來的狀態(tài)，然而AI 意識不到自己的存在也就談不上害羞了?？謶质莿e物或別物的攻擊對自身的刺激而造成的生理反應，同樣，AI 意識不到“自己”，也就談不上恐慌了?？赡芊瘩g者還會說，目前機器在與人打招呼時，會微笑，但是訓練過的猴子也能做到這一點，并且做得可能比機器人更真實、更自然。

AI 會監(jiān)控自己的行為和言語嗎？

AI 產(chǎn)品不懂得“自己”，因此監(jiān)控對象是缺席的。同樣的，AI 產(chǎn)品可以在程序里編制“不要說臟話”“不要扔東西”這類的命令語句，然后把臟話的內(nèi)容編到程序里，禁止它說這些，從形式上似乎是能做到。然而，人若是做了過分的事，會從里面就有責備的感覺（譬如說第一次偷竊），這來自人的良心。然而，AI 是按照指令來行使，并不知道其中的意義，即使有一天代碼出錯，做了違反指令的事，也不會有自我的責備或處罰。

因此，在心理學的層面上，智能機器不具有自我意識。

3 哲學層面的自我意識

從哲學層面來說，自我意識是個體覺察到自身的存在，并且在自身之外，有事物與自身相對立。主客關(guān)系的第一個小階段人類開始有自我意識，能區(qū)分自我和對象，意識到自我之外還有物與我對立。例如人吃食物時就能意識到食物在自己之外與自己對立[4]。

江怡教授認為，哲學家關(guān)于意識的討論，基本上是關(guān)于三個方面的：描述性問題，解釋性問題，功能性問題。而這三個方面的提問和探討是屬于語義上行的范疇?！罢Z義上行”的方法，是蒯因提出的哲學研究的基本方法，在進行問題討論時，不是要先分析對象，而是要先分析對象所對應的表達式，通過對概念，表達式的邏輯澄清，來確定其用法。江怡教授質(zhì)疑這種研究方法，認為哲學的研究變成了對世界所對應的語言的研究，而不是研究世界本身。對人工智能和自我意識問題的研究，應當以“語義下行”的方式來進行。所謂“語義下行”，反其道而行，就是從對對象所對應的表達式的強調(diào)，轉(zhuǎn)到強調(diào)世界對象的本身[1]。判斷人工智能產(chǎn)品是否具有自我意識，需要關(guān)注人工智能產(chǎn)品的發(fā)展，而不僅僅是從概念上分析算法的產(chǎn)品具有意識的可能性。

3.1 “我之形而上學”的問題

關(guān)于自我意識的起源，本質(zhì)和未來，蔡恒進教授在他的《我之形而上學：我之何來，我之何在，我之何往》一文中，作了細致的論述。雖然他的觀點很新穎，論述也很精彩，但很多地方卻有待商榷。

自我意識是怎樣起源的？蔡恒進教授提出了自己的假說：觸覺大腦假說。他認為，在人類漫長的歷史里，由于基因突變導致人的毛發(fā)減少，皮膚敏感，由此獲得了敏感的觸覺，而敏感的觸覺將自我和外在的世界區(qū)分了出來。他在自然界找了許多例證：單細胞生物依靠細胞膜來趨利避害，攝取所需的營養(yǎng)，同時避開有害的東西；剛出生的小烏鴉羽毛稀少，觸覺敏感，相比剛出生就滿身羽毛的小雞更加聰明[5]。

蔡教授的理論的確打開了一個新的視角，值得專家學者繼續(xù)深入的研究，進一步的完善。然而，就目前的理論本身而言，還存在些漏洞或者是不太明確的地方。比如：單細胞生物通過細胞膜與環(huán)境接觸來趨利避害，但接觸并不意味著觸覺，也可能是味覺或者嗅覺，因為這兩種感覺也是通過與物質(zhì)分子的接觸來收集信息的；即使單細胞生物的感覺是觸覺，那假若其全身都是眼睛，或者是耳朵，通過視覺或聽覺來趨利避害，那么是否可以說聽覺或者視覺是人類智能的來源呢？

自我意識是什么？為了說明自己的觀點，蔡教授首先對忒修斯悖論提出自己的看法。他認為，只要船的功能沒有變，材料完全被換過一遍的船就還是原來的船。人身體的細胞，20 年全部換過一次，但“我”還是原來的“我”。其次，人的意識片段可以擴散給動物、植物甚至機器。人按照自己的意愿改造動植物，如植物嫁接、轉(zhuǎn)基因、導盲狗等。人甚至可以按照需求制造機器，將自身意識的片段擴散給機器，規(guī)定機器的功能，來完成特定的工作。

最后，順理成章的得出結(jié)論，結(jié)構(gòu)就是物質(zhì)，功能就是意識，物質(zhì)和意識的關(guān)系，就是結(jié)構(gòu)和功能的關(guān)系。

忒修斯悖論一直以來都有爭議。筆者認為，若是用鐵板來替換船上的木板的話，這艘船就不再是原來的船了（假設船足夠的大，且鐵船仍然可以在水上航行）。雖然功能沒變，結(jié)構(gòu)沒變，但構(gòu)成船的元素變了，鐵船不再是原來的木船。至于人體的細胞，因為構(gòu)成細胞的元素沒有變化，并且人的記憶（自我意識）是連續(xù)的，因此“我”還是“我”。但如果人的記憶（自我意識）因故中斷的話，那么此人不再會認為“我”還是“我”了。如果人按照自身的意愿制造機器，或者改造動植物可以算作意識片段的擴散的話，并且它們擁有了意識片段的話，那么豈不是可以說動植物擁有自我意識了？

蔡教授認為，意識片段（認知坎陷）源自認知主體，并且意識片段可以擴散給其他的認知主體。舉例說明，人可以通過閱讀他人的著作，得到他人的意識片段。并且，認知膜的契合度越高，擴散就越容易，所以電影，書籍等為人廣泛接納。

自我意識通常的意義是，個體覺察到自身的存在，并且自身區(qū)別于外部的世界。按照蔡教授此處關(guān)于自我意識的用法，似乎更像是意圖或者思維。大多數(shù)情況下，意圖是借著思維來傳達的，意圖并不直接被傳達。如書籍，人們總是通過它的思想來判斷人物的意圖，價值取向。對于機器來說，更是這樣。程序員不是直接將自己實現(xiàn)某種功能（如下圍棋，駕駛汽車等）的意圖輸入機器，而是輸入反映程序員思維的指令，來控制其行動。所以，蔡教授所謂的自我意識的擴散，其實是思維的擴散。然而，思維不是自我意識。江怡教授認為，理智和自我意識是兩個不同的東西。人工智能產(chǎn)品反映了人類的理智，然而意識是本能活動，是不需要理智的參與就可以自發(fā)運作的，不能將理智和意識相等同，人工智能產(chǎn)品的智能（推理，思維等），并不能成為其是否具有意識的判斷標準。蔡教授的觀點——人工智能產(chǎn)品可以具有意識，是建立在程序員的意識可以擴散到機器內(nèi)部的，既然自我意識無法擴散到機器內(nèi)部，那么他的觀點就不能成立。

3.2 人工智能的主體性

孫偉平教授認為主體是與客體相對的概念，主體是主動的，客體是被動的。討論人工智能是否具有主體性①，可以參照人的主體性進行分析考察。這是自然的：人們?nèi)粝雽σ粋€未知的事物進行認識，總是從已知的事物及其性質(zhì)、規(guī)律出發(fā)，來推理、分析未知事物的性質(zhì)。孫教授主要從三個方面來論證人工智能不具有主體性：存在論、認識論、價值論。

從存在論角度看，具有主體性意味著能夠廣泛的從事各樣的生產(chǎn)活動。馬克思指出，“動物只是按照它所屬的那個種的尺度和需要來構(gòu)造，而人卻懂得按照任何一個種的尺度來進行生產(chǎn)，并且懂得處處都把固有的尺度運用于對象?！比斯ぶ悄艿墓δ芑顒邮怯沙绦驔Q定的，而既然輸入的程序的數(shù)量是有限的，那么就不可能“按照任何一個種的尺寸來生產(chǎn)”。但是，人卻可以通過后天的學習，從事各樣的生產(chǎn)活動[6]。

通過塞爾的中文屋對圖靈測試的反駁，在認識論的范疇進行論證。簡單地說，圖靈測試就是詢問者分別問人工智能問題和人問題，若是人工智能產(chǎn)品的回答和人的回答幾乎分不出來，那么就認為該人工智能具有心理狀態(tài)。塞爾認為，句法不是語義的結(jié)構(gòu)性成分，也不是它的充分條件。人工智能產(chǎn)品被導入許多的代碼，而這些代碼幫助其回答詢問者的問題，但是它本身卻無法理解問題和回答的語義本身，因此也就不具有心靈狀態(tài)（心靈能夠理解）。有些專家提出反對意見，認為人工智能除了包含句法外，還有電子因果系統(tǒng)。孫教授為塞爾提出辯護：語義和辯護的邏輯相關(guān)，而因果關(guān)系屬于經(jīng)驗性的描述，二者屬于不同的層次，不能混淆，因此人工智能的電子因果系統(tǒng)不能為它的不具有心靈狀態(tài)提供任何的辯護。

從價值論的角度看，具有主體性，意味著能夠推理反思，以及自由的決策和行動。人工智能產(chǎn)品能夠進行推理，甚至反思，譬如AlphaGo Zero 可以通過深度學習，不用導入棋譜，而在短時間內(nèi)飛速的提高圍棋水平，以至于打敗世界圍棋冠軍。這證明了其能夠推理下棋的規(guī)律，反思自己下棋的經(jīng)驗，提高自身。真正的自由的決策和行動，指的是可以突破特定的目的甚至自身的限制，在所有可能出現(xiàn)的情況中進行選擇。無人駕駛汽車只能在選擇路線以及駕駛方式上是自由的，而無法突破這個目的，故此不能算是真正的自由。假若人工智能可以自己編程，創(chuàng)造新的人工智能產(chǎn)品，那新的產(chǎn)品將受限于初代人工智能，因而仍不是完全自由的。

因此，孫教授認為，人工智能在存在論，認識論，價值論意義上，均不滿足主體性的要求，因此不具有主體性。即使具有所謂的主體性，也是人為強加的。

江怡教授認為智能并不意味著意識，孫偉平教授從人的主體性出發(fā)，得出智能機器不具有類似人的主體性的主體性，即使擁有，也只是人強行加給的，并不名至實歸。因此，在哲學層面上，智能機器不具有類似人類意識的自我意識。

4 結(jié)語

在智能發(fā)面，智能機器在很多領(lǐng)域已經(jīng)超越了人類，甚至是遙遙領(lǐng)先。人工智能的感官比人類的更加敏銳，智能機器計算能力，記憶能力毫無疑問已經(jīng)遠遠的把人類甩在了后面。谷歌公司的AlphaGo 戰(zhàn)勝世界圍棋冠軍，表明其推理和決策力也超過了人類。然而，這并不意味著，人工智能本身會在將來成為地球的統(tǒng)治者，因為其不具有自我意識或主體性。智能機器的智能，依靠的是程序員輸入的復雜的代碼，反映的是人類的智慧。智能機器的智能化并不意味其具有自我意識，二者是不同的概念，智能也不是自我意識產(chǎn)生的充分條件。智能機器不具有心理學意義上的自我意識，也就是沒有類似人的心理活動，如自我認識，自我體驗等；也不具有哲學意義上的自我意識，人的意識不能擴散到機器內(nèi)部，也不能因為其內(nèi)部結(jié)構(gòu)而自己產(chǎn)生自我意識，并且，不能擁有類似人類主體性的主體性，進而統(tǒng)治人類。

注釋

①雖然主體性與自我意識是兩個不同的概念，一個說的是主體與客體相區(qū)別，主體對客體進行認識，改造等，另一個說的是，意識到自我的存在，且自我區(qū)別于外物。但在對人工智能的是否具有自我意識的討論中，二者的基本內(nèi)涵是一致的，可以說，若是人工智能具有主體性，那么就可認為其具有自我意識，反之亦然。