機器意識有無可能

汪 婭

(重慶大學(xué)，重慶 400044)

機器是否具有意識的問題，不僅涉及到對人類意識本質(zhì)的理解，同時也是人工智能取得突破的關(guān)鍵。圍棋高手“AlphaGo”以及用于社交并擁有公民身份的“索菲亞”機器人等智能機器的出現(xiàn)，尤其是伴隨智能機器發(fā)展的過程中所產(chǎn)生的一些倫理問題以及社會影響，引起了學(xué)術(shù)界對機器是否能夠擁有意識的討論，首先是是否可以用人工代替生物的問題。

然而，即使拋開人類的偏見，肯定工程上對意識功能實現(xiàn)的積極意義，就人工智能的發(fā)展現(xiàn)狀而言不具有實現(xiàn)機器意識的可能。本文并非意在探討機器意識的實現(xiàn)方式，而是以一種調(diào)和的方式，綜合工程上與哲學(xué)上對意識的理解，依據(jù)人工智能的發(fā)展現(xiàn)狀分析機器意識的有無問題。

一、機器意識

機器意識通常也被稱為“人工意識”，對機器意識的定義代表學(xué)術(shù)界對機器意識的不同理解，目前缺乏統(tǒng)一的定論，主要分為以下三種類型：一種是從功能性的考慮出發(fā)，主張“機器意識是指那些設(shè)計和分析信息機器的人試圖將他們的方法應(yīng)用于理解意識的各種方式，并檢查意識在信息機器中的可能作用”。[1]另外一種則從哲學(xué)層面出發(fā)，將機器意識理解為“試圖模擬和實現(xiàn)人類認知的某些方面，這些方面被認為是難以捉摸和有爭議的意識現(xiàn)象”。[2]而第三種則從單詞的屬性出發(fā)認為，“意識機器的概念在術(shù)語上是矛盾的，因為‘意識’一詞代表自然的東西，‘機器’一詞代表人工的東西。說機器是有意識的是荒謬的。因此，機器意識的概念是一個衍生的概念，在最壞的情況下是一個自相矛盾的概念?！盵3]

然而，對意識缺乏統(tǒng)一的定義也是機器意識問題受到熱議的重要原因。目前連蜜蜂也被證明具有情緒、注意力、遠見、自我意識等能力。[4]而按照Porcher的觀點，“沒有科學(xué)分支了解意識的本質(zhì)和來源就不存在否定任何生命形式的依據(jù)”，[5]同時他也說明意識能力并不依賴人的大腦。那么機器有無可能實現(xiàn)意識？本文則嘗試結(jié)合工程上和哲學(xué)上對機器意識的理解來分析機器意識有無可能的問題。

二、基于機器意識的現(xiàn)狀分析

鑒于認識到復(fù)制人類意識的好處[6]以及追求科技的進步，近幾年，一些學(xué)者創(chuàng)造出了能夠依據(jù)自身的經(jīng)驗身份回答問題的模型ARTSELF、[7]可覺知自身姿勢狀態(tài)的本體感受傳感器、[8]會做夢的機器人、[9]能夠在鏡子前識別出自己的Robot-MNS-Model模型[10]以及由細胞組成的可自行復(fù)制、恢復(fù)和治愈的粒子機器人[11]等意識機器模型。

事實上，當前人工智能在某些方面表現(xiàn)得仍稍遜于孩童，盡管某些機器模型已經(jīng)在一些領(lǐng)域打敗了人類的世界冠軍。但其中不乏一些繁榮發(fā)展的假象，這些假象背后由資本操縱。例如，聰明的聊天機器人客服，可能由真人扮演，這是由資本家為獲得利益而進行的“欺騙”行為，從而發(fā)展出的“AI拜物教”。

目前，深度學(xué)習作為人工智能的核心驅(qū)動力，具有先進性(自主性)、仿腦性及不可解釋性，這些特性通常被視為與人類意識相關(guān)。這三種特性往往相互作用，彼此成就。由于我們無法確定人腦是否是實現(xiàn)意識的唯一形式，但根據(jù)他者思維問題，我們可以確定作為人類的自己是具有意識的。首先，我們需要探討深度學(xué)習究竟有無達到人類意識水平。

“人腦不是一次完成的計算機硬件，他是在社會生活中完善起來成為意識器官的?！盵12](P10)人腦在社會中進化改變，并在豐富多彩的活動中發(fā)展新的神經(jīng)分支，深度學(xué)習也能夠通過強化學(xué)習以及調(diào)節(jié)權(quán)重獲得激勵、不斷完善自身算法，這到底有何不同呢？需要說明的是，無論深度學(xué)習在結(jié)構(gòu)功能上與人類大腦如何接近，結(jié)構(gòu)不等于意識。人的優(yōu)越性在于，“知覺雖然是對當前事物的反映，但是當刺激物提供的信息不足時，人總是以過去的經(jīng)驗補充當前的知覺活動，使其具有一定結(jié)構(gòu)的整體形象，特別他可以從自身經(jīng)驗中，也可以從別人的經(jīng)驗中，從語言刺激中取得信息，以補充當前刺激物提供的信息的不足”。[12](P125)深度學(xué)習模型也能夠通過概率算法填補經(jīng)驗，而人是有選擇地接受刺激，然后加工整理，與人的經(jīng)驗、思維定勢有關(guān)。但概率算法總是難以避免地具有不確定性，“你可以用概率來計算風險，但概率本質(zhì)上對任何給定的情況都沒有發(fā)言權(quán)。伴隨著不確定性的影響是存在的。現(xiàn)在的選擇變得充滿了對不確定未來的恐懼”。[13](P4)深度學(xué)習的算法特點之一即為概率估計，在很大程度上即使做出最有利的評估與決策，但本質(zhì)上也具有不確定性和不透明性，故具有不可解釋性，那么這種不可解釋性與人類意識中的某種不可解釋性有何區(qū)別呢？

1958年波蘭尼提出一種默會知識，這是一種無法用語言表述的隱性知識。這與賴爾所說的能力之知以及歐克肖特所說的實踐知識類似。王禮鑫認為馬克思主義認識論的實踐觀具有吸收默會知識的條件，分別將感性認識和理性認識對應(yīng)于默會知識和明述知識，并根據(jù)人工智能對先驗知識的依賴認為人工智能不具備形成默會知識的能力。深度學(xué)習的“黑盒”問題，究竟在多大程度上與默會知識有關(guān)呢？

根據(jù)默會知識論的三種知識形式，深度學(xué)習的這種不可解釋性并不屬于格式塔的類型，這種知識類型不可解釋性是由背景知識問題所引起，但與局域主義論以及強默會知識論有些相似，即未能或不能充分用語言表達，通常以行動表達的知識。而人的默會知識與深度學(xué)習的“不可解釋性”的關(guān)鍵區(qū)分在于，深度學(xué)習是一個有結(jié)論、無過程說明的知識形成過程；人的默會知識是一種無結(jié)論、有行為(過程)的知識表達。深度學(xué)習缺乏一種對其結(jié)論的透明性的說明解釋，而人的默會知識伴隨主體的整個實踐、感悟之中。引起深度學(xué)習的“黑盒”問題的根源在于其算法的復(fù)雜性，而默會知識更像是一種“理解”，其可能高于明述知識的知識表達，受到環(huán)境、文化、親身實踐的影響，是更完整意義上的知識所得。因此，深度學(xué)習的不可解釋性與人類的不可解釋性有著本質(zhì)的不同，且它需要被合理地透明化。

再有，深度學(xué)習的顯性自主性中內(nèi)嵌著很強的人類元素，正如帕斯奎內(nèi)利(Pasquinelli)所說，“即使神經(jīng)網(wǎng)絡(luò)顯示出人類思維無法預(yù)見的相關(guān)性，它們也在訓(xùn)練數(shù)據(jù)集中隱含的(人類)假設(shè)和類別網(wǎng)絡(luò)內(nèi)運行，從這個意義上說，它們不能為發(fā)明全新的類別做出必要的跳躍”，“當然，他們沒有表現(xiàn)出‘自主智力’或意識的跡象”，這種對人類先驗知識以及人類計算的依賴是影響機器意識發(fā)展的重要因素之一。[14]當然，深度學(xué)習目前還有其他一些缺陷，例如，非生物性、超個性化、適應(yīng)性差等。如果克服了這些局限性，深度學(xué)習能否實現(xiàn)機器意識呢？

一般來說，機器意識的實現(xiàn)往往以傳統(tǒng)的二元論為理論支撐。而持自然主義二元論的查爾莫斯認為，“意識是自然世界除物理特征之外的另一種獨立的特性，不可能被還原為物理特性。我們不能把意識的存在性問題僅僅處理為解釋某些認知或行為的功能作用問題?！盵15]這種觀點強調(diào)，心靈既在一定程度上依賴于物質(zhì)，又存在某種隱秘結(jié)構(gòu)及獨特本原。

人工智能的發(fā)展總是受到笛卡爾思維觀的偏見的影響，但思考這樣一個問題，“如果我們能創(chuàng)造出一個‘真正’的自我意識和自我感知的機器人，這個機器人在某種程度上是每個人類都有的，我們怎么知道我們不是造物主創(chuàng)造的有意識的機器人呢？”[16](P365)其中，施魏策爾(Schweizer)通過思想實驗表明了在其他物理介質(zhì)上復(fù)制人類心智本質(zhì)上具有理論困難。[17](P81-91)拉賈基肖爾·納特也認為，“精神生活及其性質(zhì)不能由宇宙的物理條件在法理上決定?！盵3]

而針對意識和腦的關(guān)系問題，在醫(yī)學(xué)領(lǐng)域，宣布人類死亡的方式中，腦死亡通常比心臟死亡更為科學(xué)，腦死亡作為人死亡的關(guān)鍵，最終會導(dǎo)致心死亡?，F(xiàn)實案例中，存在腦死亡之后，器官功能依然具備刺激反應(yīng)的情況。一般說來，腦死亡之后，不再具有神經(jīng)元所提供的功能，則便不再具有意識。那么，為什么在無意識情況下，身體依然存在刺激反應(yīng)呢？這是否證明行為主義綱領(lǐng)不足以構(gòu)成實現(xiàn)機器意識研究的充要條件呢？笛卡爾將意識分為有意識活動和無意識活動，其中有意識活動由人腦所產(chǎn)生，無意識活動以“反射”的形式產(chǎn)生。[12](P144)按照笛卡爾的觀點可以說明腦死亡之后，器官即使能夠進行反射也只是一種無意識的活動，盡管笛卡爾持有身心二分的觀點，但這至少肯定了大腦對意識產(chǎn)生所起的關(guān)鍵作用。

S.里昂(S.Lyons)指出，“這是一個至關(guān)重要的區(qū)別，因為在生物學(xué)和意識之間有一種假定的(有點不令人驚訝的)聯(lián)系，在這種聯(lián)系中，沒有人類，或者至少沒有生物大腦，意識就不能存在?！盵18](P29)雖然一些實驗結(jié)果證明，人的感受不是由同樣的神經(jīng)狀態(tài)引起的，但同樣的可觀測的神經(jīng)狀態(tài)能夠引起相似的感受這一點，可能對實現(xiàn)機器意識來說具有十分重要的意義。

馬克思主義主張物質(zhì)對意識的決定作用，馬克思主義認識論的偉大之處在于其突破了傳統(tǒng)的意識內(nèi)在性。近代哲學(xué)只能使對象封閉在自我意識當中，馬克思借助黑格爾辯證法的“活動原則”走出意識的內(nèi)在性，并以實踐的觀點，說明人的活動先行于特定對象，以此構(gòu)建或設(shè)定對象，通過對象性活動表現(xiàn)主體與客體的聯(lián)系，其中實踐是聯(lián)系主體和客體的中介。正如陳永杰所說，是馬克思的“對象性活動”將“對象”和“我”真正地聯(lián)系了起來。[19]因此，馬克思主義的實踐觀對意識內(nèi)在性的突破是對超自然觀點的有力反駁，同時也蘊含著意識的社會性。

由此可見，在人類意識水平上嘗試去實現(xiàn)機器意識是困難但具有意義的實踐活動。此外，不可忽略在研究機器意識的過程中對社會產(chǎn)生的消極影響。

三、以馬克思主義認識論批判機器意識

馬克思主義主張，意識是作為認識主體的人所獨有的，人應(yīng)是自由的。而機器意識研究所帶來的消極現(xiàn)象首先是伴隨其發(fā)展所衍生出來的主體性問題以及倫理問題。目前與主體性密切相關(guān)的自由選擇與自主決策已經(jīng)漸漸在被人工智能所代替。隨著人工智能的發(fā)展，人機融合逐漸成為一種趨勢，在此基礎(chǔ)上，何為認識主體尤為重要。讓·米歇爾認為，“與機器進行融合對人類來說始終是有害的。生物體在自身機能中保有不確定性，有著隨機的部分，而與機器的融合會否定掉生物體的這一特性。”[20](P63)正如喬斯林·麥克盧爾(Jocelyn Maclure)所說“人工智能算法是工具，不是被賦予精神生命能力的眾生。他們存在的唯一理由是讓我們的生活變得更好?！盵21]因此，鞏固人類的主體性，避免陷入自我失控境地的問題迫在眉睫。

事實上，技術(shù)總是與資本聯(lián)系在一起的，科技決定論通常以放棄人性為代價，一般而言，剩余價值無法從人工機器中擺脫出來，技術(shù)的進步，不僅加速了資本的發(fā)展，同時也加強了人的不自由的程度，從而發(fā)展出“技術(shù)政治”，尤其是當前存在意識形態(tài)隱性傳播的問題，“我們給算法灌輸種族主義、性別歧視和階級偏見，反過來它們又進一步扭曲它們”。[22]此外，盡管資本家與科學(xué)家對實現(xiàn)機器意識十分向往，甚至許多學(xué)者認為機器意識的實現(xiàn)利大于弊，[6]但相關(guān)學(xué)者同時也指出，在假設(shè)情況下能夠生產(chǎn)復(fù)制意識的話，可能會出現(xiàn)資本壟斷，以及加速人類不平等的情況。

此外，機器人傷人事件的頻繁發(fā)生，機器意識的研發(fā)引發(fā)責任追究問題。如2015年7月，在密歇根，維修技師旺達·霍爾布魯克的頭骨被壓碎，原因是Ventra Ionia工廠的機器人進入了她所在的車間，并“將一個拖車附件裝配部件裝到了她的頭上。這個區(qū)域的房子通常被安全門隔開，但一個故障使機器人進入了霍爾布魯克的區(qū)域，將她困在裝配部件上，當場將她殺死”。相關(guān)學(xué)者認為，“在威廉姆斯和霍爾布魯克的案例中，責任最終歸咎于存在缺陷的、人為設(shè)計的安全措施?！盵18](P38-39)彼得·阿薩羅從倫理角度指出，“為了維護人類的道德、尊嚴、正義和法律，我們不能接受一個自動系統(tǒng)做出奪取人類生命的決定?！盵23]

因此，為了警惕人類自由意志的喪失，在研發(fā)機器意識的同時，需要充分關(guān)注相應(yīng)的倫理問題，使人工智能的發(fā)展處于可控制狀態(tài)，并促使技術(shù)民主化，以確保人類的主體性。

四、應(yīng)對機器意識問題的策略

為確保人類生存和精神的獨立性、主體性地位以及維護人類的合法權(quán)益，本文從以下三個角度考慮，以促進機器意識研究的良性發(fā)展，分別為宏觀層面和微觀層面，其中微觀層面涉及對開發(fā)過程和使用過程的合理引導(dǎo)。

(一)立法監(jiān)管

劉憲權(quán)認為，盡管目前弱人工智能的發(fā)展程度不足以威脅人類社會，但按照深度學(xué)習等神經(jīng)網(wǎng)絡(luò)的這種發(fā)展勢頭有可能導(dǎo)致強人工智能的實現(xiàn)，因此需要提前立法防范。[24]王楠也從倫理道德角度認為，需要聯(lián)合各宏觀層面的權(quán)力機構(gòu)對其編程和程序進行審查，以規(guī)范其對社會的影響。[25]尤其是針對刑事犯罪問題，機器意識的有無，機器人的決策結(jié)果是否人為授意往往決定誰成為責任追究的對象。因此，健全的責任追究機制亟需得到建立和完善，以促進技術(shù)民主化。正如博斯特羅姆和斯圖爾特羅素所認為的那樣，人工智能的發(fā)展應(yīng)優(yōu)先考慮“控制”或“價值對齊”問題。[26]而法律能夠為此提供外部保障。

(二)技術(shù)人員提前檢測及自我約束

技術(shù)人員的責任主要分為兩類，規(guī)范自己以及監(jiān)督他人。應(yīng)避免技術(shù)濫用帶來的危險，因此，要確保技術(shù)人員擁有良好的職業(yè)操守，充分地向機器注入先驗的利他知識，以避免技術(shù)人員將具有敵意的函數(shù)賦予計算機，同時做好提前檢測，避免在軟件和硬件投入使用時產(chǎn)生負面影響。例如，檢測其算法目標是否與人類目標相一致，是否被賦予了正確的價值觀等，以確保意識形態(tài)安全問題。

(三)用戶保持警惕及參與監(jiān)督

用戶作為計算機的使用者以及人工智能的受益者，應(yīng)確保自身的主體性地位不受侵犯，同時要認清機器意識的本質(zhì)以及其背后的資本邏輯，避免陷入異化狀態(tài)以及受到負面的隱性價值觀的影響，并主動參與監(jiān)督，及時反饋，將宏觀層面的監(jiān)管與微觀層面的監(jiān)督相結(jié)合，共同應(yīng)對機器意識研發(fā)過程中出現(xiàn)的問題。

五、結(jié)語

盡管關(guān)于機器意識的研究目前出現(xiàn)了眾多可喜的成果，但根據(jù)機器意識的研究現(xiàn)狀來看，限于人工智能本身的局限性，其目前并不具備意識實現(xiàn)的可能，因此需要一種合理的路徑來調(diào)和工程上對意識功能主義的理解以及哲學(xué)上對意識的形而上學(xué)的理解，其中馬克思主義認識論中的實踐觀或許能夠為此提供一個啟示路徑，但同時，仍需要結(jié)合其他理論，以更全面地看待意識問題。