人工智能理解力悖論

閆坤如

人工智能（Artificial Intelligence）通過(guò)計(jì)算機(jī)的邏輯計(jì)算來(lái)模擬人類思維過(guò)程，目標(biāo)是讓機(jī)器具有人類智能。人工智能既具有與農(nóng)業(yè)革命、工業(yè)革命同樣的革命性地位，也具有與哥白尼革命、達(dá)爾文革命同樣的顛覆性作用。按照以色列人工智能專家尤瓦爾·赫拉利（Yuval Noah Harari）的觀點(diǎn)，“人工智能不僅能夠侵入人類，在以往認(rèn)為專屬于人類的技能上打敗人類。”①[以]尤瓦爾·赫拉利：《今日簡(jiǎn)史——人類命運(yùn)大議題》，林俊宏譯，北京：中信出版集團(tuán)，2018年，第19頁(yè)。機(jī)器超過(guò)人類的身體能力和認(rèn)知能力。意大利信息學(xué)家弗洛里迪（Luciano Floridi）在《第四次革命——人工智能如何重塑人類現(xiàn)實(shí)》②FloridiL .The Fourth Revolution.How the Infosphere is Reshaping Human Reality.Traffic World,2014.中提出圖靈革命（即人工智能革命）是繼哥白尼革命、達(dá)爾文革命、神經(jīng)科學(xué)革命之后的第四次革命，人工智能對(duì)人類社會(huì)進(jìn)行了全面塑造。人工智能專家明斯基（M.Minsky）認(rèn)為機(jī)器會(huì)達(dá)到甚至超過(guò)人類智能，“沒有理由認(rèn)為機(jī)器有人所沒有的局限”③M.Minsky,Computation:Finite and Infinite Machines ,American Mathematical Monthly,1967,p.7.，機(jī)器能夠思維不但在理論上具有可能性，在實(shí)際操作中也指日可待。機(jī)器能夠模擬人類思維的首要前提是機(jī)器能夠理解人類認(rèn)知，機(jī)器具有理解能力。實(shí)際上，機(jī)器不但在認(rèn)識(shí)論和形而上學(xué)層面的“如何理解這個(gè)世界”緘默不語(yǔ)，而且在語(yǔ)義學(xué)層面的“如何解釋世界”也止步不前。

一、人工智能的技術(shù)路線及其理解困境

人類智能包括很多方面的能力，例如，思維能力、計(jì)劃能力、解決問題的能力、領(lǐng)悟思想的能力、語(yǔ)言使用的能力以及學(xué)習(xí)能力等?？茖W(xué)家們嘗試從不同進(jìn)路讓機(jī)器模擬人類能力，特別是模擬人類思維過(guò)程。一般來(lái)講，人工智能分為三種技術(shù)路線：符號(hào)主義(symbolicism)、聯(lián)結(jié)主義（connectionism）和行為主義（actionism）。符號(hào)主義人工智能以鈕厄爾與西蒙等人為代表，他們的人工智能技術(shù)路線是通過(guò)引進(jìn)物理符號(hào)系統(tǒng)（physical symbol system）來(lái)模擬人類思維。人類智力也是物理符號(hào)系統(tǒng)，人類智力類似于數(shù)字計(jì)算機(jī)的信息處理系統(tǒng)，他們認(rèn)為只有物理符號(hào)系統(tǒng)才能具有智能，因此，基于物理符號(hào)系統(tǒng)的計(jì)算機(jī)程序可以模擬人類的思維過(guò)程①Newell A,Simon H A.GPS,A Program That Simulates Human Thought,in Readings in Cognitive Science,1961,pp.453-460.，能夠具有人類的智能特征和多種能力，“既然（這些完備的機(jī)器人）原則可滿足任何一種特定的輸入-輸出規(guī)定，那么它們也就能在任意一種預(yù)先規(guī)定的環(huán)境下，做出任何一種預(yù)先規(guī)定的事來(lái)——明確地解算問題、編寫交響曲、創(chuàng)作文學(xué)作品和藝術(shù)品以及實(shí)現(xiàn)任意一種目標(biāo)?！雹贘ames T.Culbertson,Some Uneconomical Robots,in Automata Studies,C.E.Shannon and J.McCarthy,eds.Princeton,N.J.Princeton University Press,1956,p.114.聯(lián)結(jié)主義人工智能的技術(shù)路線主要通過(guò)神經(jīng)網(wǎng)絡(luò)方法，通過(guò)對(duì)于人類大腦的組織結(jié)構(gòu)和運(yùn)行模式來(lái)模擬人類思維。一切人類實(shí)踐與技能在頭腦中都表現(xiàn)為一個(gè)信念系統(tǒng)，由與上下文環(huán)境無(wú)關(guān)的初始行為和事實(shí)所構(gòu)成。雖然，聯(lián)結(jié)主義人工智能與符號(hào)主義人工智能技術(shù)路線不同，但它們具有共同的理論預(yù)設(shè)：認(rèn)知是信息處理，且信息處理是可計(jì)算的。兩種技術(shù)路線的不同之處在于,人工智能中的符號(hào)主義基于自上而下的道路，物理符號(hào)系統(tǒng)致力于把客觀世界做成形式模型，而聯(lián)結(jié)主義如包括神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)等基于自下而上的道路，神經(jīng)網(wǎng)絡(luò)致力于把大腦做成形式模型。

行為主義人工智能另辟蹊徑，它與符號(hào)主義、聯(lián)結(jié)主義在哲學(xué)上的功能主義和計(jì)算主義不同，人工智能源于控制論，強(qiáng)調(diào)的是認(rèn)知的具身性和情境性，智能是在認(rèn)知主體與環(huán)境的交互中生成的，布魯克斯（Rodney A.Brooks）在《智力沒有原因（Intelligence Without Reason）》中提出，馮·諾依曼計(jì)算模型在特定的方向上引領(lǐng)了人工智能，但生物系統(tǒng)中的智能與之是完全不同的。行為主義人工智能具有以下特征：“1.情境性。機(jī)器人處于一個(gè)世界中，它們不處理抽象的描述，而是處理此時(shí)此地的世界，這直接影響著系統(tǒng)的行為；2.具身性。機(jī)器人擁有身體并直接體驗(yàn)世界，它們的動(dòng)作是與世界動(dòng)態(tài)的一部分，并對(duì)它們自己的感覺有即時(shí)的反饋；3.智能性。它們被觀察到是智能的，但智能的來(lái)源不僅限于計(jì)算引擎。它也來(lái)自世界的情況，傳感器內(nèi)部的信號(hào)轉(zhuǎn)換，以及機(jī)器人與世界的物理耦合；4.涌現(xiàn)性。系統(tǒng)的智能來(lái)自于系統(tǒng)與世界的互動(dòng)，有時(shí)來(lái)自于系統(tǒng)各組成部分之間的間接互動(dòng)。”③Brooks R A.Intelligence without Reason.in International Joint Conference on Artificial Intelligence,1991,pp569-595行為主義人工智能進(jìn)路認(rèn)為智能是基于“感知-行動(dòng)”的反應(yīng)機(jī)制，不是依靠形式化推理或者神經(jīng)網(wǎng)絡(luò)就可以模擬的。

人工智能已經(jīng)引發(fā)一場(chǎng)可媲美工業(yè)革命的技術(shù)革命?！罢缣煳膶W(xué)繼開普勒發(fā)現(xiàn)了天體運(yùn)行規(guī)律之后取代了星相學(xué)一樣，對(duì)機(jī)器的智能過(guò)程的經(jīng)驗(yàn)論方面的探索所發(fā)現(xiàn)的眾多原理將最終導(dǎo)致一門科學(xué)。”④Minsky M L,Papert S.Artificial intelligence.Oregon State System of Higher Education; distributor,Distribution Center,University of Oregon,1973,p.25.不管是人工智能的符號(hào)主義、聯(lián)結(jié)主義還是行為主義技術(shù)路線，都基于理性主義，受到圖靈可計(jì)算主義理論、香農(nóng)信息論以及維納控制論的啟發(fā)，對(duì)大腦的思維活動(dòng)進(jìn)行模擬，對(duì)信息進(jìn)行加工計(jì)算，進(jìn)而做出反應(yīng)。人工智能可以分為弱人工智能與強(qiáng)人工智能，弱人工智能（Weak AI）指的是在嚴(yán)格的程序規(guī)定下的，只對(duì)設(shè)定刺激做出反應(yīng)。弱人工智能認(rèn)為計(jì)算機(jī)只是邏輯運(yùn)算程序，不同于人類思維，計(jì)算機(jī)不能對(duì)人類思維進(jìn)行認(rèn)知模擬。強(qiáng)人工智能（Strong AI）也稱為通用人工智能（artificial general intelligence，簡(jiǎn)稱AGI），強(qiáng)人工智能主張計(jì)算機(jī)具有認(rèn)知能力，能夠解釋說(shuō)明人類的認(rèn)知。弱人工智能是傳統(tǒng)工具的延伸，強(qiáng)人工智能則是人類大腦的延伸。按照夏皮羅（S.C.Shapiro）的觀點(diǎn)“強(qiáng)人工智能基于對(duì)計(jì)算主義（computationalism）教條的信仰，心理狀態(tài)就是計(jì)算狀態(tài)，認(rèn)知就等于計(jì)算。”⑤S.C.Shapiro,Computationalism.Miand and machine,1995,5(4),pp.467-487.在弱人工智能看來(lái)，計(jì)算機(jī)的認(rèn)知與人類認(rèn)知不同，因?yàn)槿祟惸軌蚶斫馑幚淼男畔?。?qiáng)人工智能不僅贊同機(jī)器具有模擬思維能力，并且能夠解釋具有理解能力的原因?！爸悄芗庸み^(guò)程取決于主體掌握的知識(shí)。深刻的和首要的問題是要理解其中的運(yùn)算與數(shù)據(jù)結(jié)構(gòu)?！雹轌oldstein I,Papert S.Artificial intelligence,language,and the study of knowledge.Cognitive Science,1977,pp.84-123.人工智能需要把任何種類的智能活動(dòng)變成一套指令，因?yàn)樵谟?jì)算主義看來(lái)一切推理都可以歸結(jié)為計(jì)算，機(jī)器人可以復(fù)制人類智能行為。但人類認(rèn)知與機(jī)器認(rèn)知存在根本區(qū)別，人類在漫長(zhǎng)的認(rèn)識(shí)世界過(guò)程中建立起大致相同的認(rèn)知方式，人類通常能夠理解所處理的信息，而機(jī)器只是按照指令與推理規(guī)則進(jìn)行反應(yīng)。

二、對(duì)“機(jī)器具有理解能力”的反駁

對(duì)“機(jī)器具有理解能力”的反駁一般具有幾個(gè)理由：機(jī)器不具有意向性、機(jī)器不識(shí)語(yǔ)義以及知識(shí)的形式化難題這三方面來(lái)分析。

（一）機(jī)器不具有意向性

人工智能哲學(xué)家博登（M.Borden）指出“意向性被看作是區(qū)分個(gè)體的人與機(jī)器的根本特征之一：機(jī)器和人可以做同樣的事情，但是人有意向性，而機(jī)器沒有?！雹賉英]瑪格麗特·博登：《人工智能哲學(xué)》，劉西瑞、王漢琦譯，上海：上海譯文出版社，2001年，第10頁(yè)。意向性（intentionality）指的是心靈表征或者呈現(xiàn)事物、屬性、狀態(tài)的能力，意向性是人類獨(dú)有的特征。20 世紀(jì)50年代，人工智能先驅(qū)圖靈（Alan M Turing）通過(guò)模擬游戲（Imitation Game）來(lái)思考“機(jī)器是否能思維”，他設(shè)計(jì)出“圖靈機(jī)”討論機(jī)器是否能夠思維，對(duì)機(jī)器的理解或意識(shí)等問題進(jìn)行哲學(xué)探討。圖靈認(rèn)為沒有意向性（intentionality）就沒有智能，所謂意向性指的是心靈表征或呈現(xiàn)事物、屬性或狀態(tài)的能力，機(jī)器與人類可以具有相同的功能，但是機(jī)器沒有意向性，人具有意向性。人與機(jī)器有本質(zhì)的區(qū)別，人具有理解能力，而機(jī)器沒有。在圖靈看來(lái)，“機(jī)器能夠思維”不具備邏輯可能性以及經(jīng)驗(yàn)可能性。機(jī)器只能對(duì)人類行為進(jìn)行模擬，不能對(duì)人類思維進(jìn)行模擬。圖靈認(rèn)為心理狀態(tài)與行為之間存在著聯(lián)系，可以通過(guò)行為或行為傾向來(lái)表征心理狀態(tài)。機(jī)器是根據(jù)一組明確的規(guī)則執(zhí)行一組操作的裝置。給機(jī)器一套指令，告訴它在每種情況下該做什么，機(jī)器便可做算術(shù)和邏輯推導(dǎo)，但沒有一臺(tái)機(jī)器能夠成為完整或充分的心智模型，心智與機(jī)器本質(zhì)上是不同的。圖靈認(rèn)為計(jì)算機(jī)中編碼的二進(jìn)制對(duì)應(yīng)人類大腦中的神經(jīng)元“開”和“關(guān)”，機(jī)器能夠通過(guò)圖靈測(cè)試只能說(shuō)明機(jī)器的某種功能與表現(xiàn)出來(lái)的行為與人是類似的，但并不能說(shuō)明機(jī)器結(jié)構(gòu)與人腦結(jié)構(gòu)是相同的，并未真正揭示人類的認(rèn)知機(jī)制，更不能說(shuō)明機(jī)器具有心靈表征和意向性，機(jī)器不能像人類一樣行動(dòng)是基于意向基礎(chǔ)之上的，因此，機(jī)器不具有理解能力。圖靈測(cè)試是人工智能的試金石，但通過(guò)圖靈測(cè)試的機(jī)器不一定具有真正的人類智能，人類的心靈不能通過(guò)算法模擬而獲得。圖靈從幾個(gè)方面反駁機(jī)器具有智能和理解能力：“1.神學(xué)的反對(duì)意見。思維是人類不朽靈魂的一種機(jī)能；2.機(jī)器思維的后果太可怕了，我們希望并且相信機(jī)器做不到這一點(diǎn)；3.離散狀態(tài)機(jī)器的能力是有限度的；4.機(jī)器沒有意識(shí)，缺乏真實(shí)情感；5.機(jī)器具有能力缺陷，不具有人類的仁慈、機(jī)智、幽默感等能力；6.機(jī)器缺乏創(chuàng)造性，不能創(chuàng)造出新東西；7.大腦的神經(jīng)系統(tǒng)是連續(xù)的，但計(jì)算機(jī)系統(tǒng)是離散的，離散的機(jī)器不能模仿連續(xù)的大腦；8.人可以解決突發(fā)問題，人具有默會(huì)知識(shí)，但機(jī)器只能遵循規(guī)則；9.人具有心靈感應(yīng)，但機(jī)器不行?！雹贏.M.Turing,Computing Machinery and Intelligence,reprinted in Minds and Machines,ed.Alan Ross Anderson(Engewood Cliffs,N.J.:Prentice-Hall.1964),p.7.通過(guò)上述質(zhì)疑可以看出，不同學(xué)科的學(xué)者從不同視角驗(yàn)證了機(jī)器不具有智能：數(shù)學(xué)家認(rèn)為機(jī)器不能判定哥德爾定理；神經(jīng)科學(xué)家認(rèn)為機(jī)器不能模擬神經(jīng)系統(tǒng)；心靈哲學(xué)家認(rèn)為機(jī)器沒有意識(shí)；哲學(xué)家認(rèn)為機(jī)器不具有默會(huì)知識(shí)；等等。通過(guò)圖靈測(cè)試的機(jī)器只是對(duì)人類智能進(jìn)行模擬，并不是真正理解人類行為，不是真正具有智識(shí)。

（二）機(jī)器只識(shí)語(yǔ)法、不識(shí)語(yǔ)義

機(jī)器只能在功能上模擬人類，在模擬過(guò)程中機(jī)器并不通曉語(yǔ)義，所以機(jī)器并不能真正理解人類，人類的認(rèn)知過(guò)程是心理過(guò)程。約翰·塞爾（John Searle）認(rèn)為心理過(guò)程與程序過(guò)程是兩個(gè)不同的過(guò)程，計(jì)算機(jī)程序是按照純語(yǔ)法加以定義的，但思維絕不僅僅是處理無(wú)意義的符號(hào)問題，還包括了意義的語(yǔ)義內(nèi)容。人心不僅僅是形式的或者語(yǔ)法的過(guò)程，人心還具有心理內(nèi)容。計(jì)算機(jī)程序永遠(yuǎn)不可能替代人心，理由在于“計(jì)算機(jī)程序只是語(yǔ)法的，而心不僅僅是語(yǔ)法的，心是語(yǔ)義的，就是說(shuō)，人心不僅僅是一個(gè)形式結(jié)構(gòu)，它是有內(nèi)容的?！雹奂s翰·塞爾：《心腦與科學(xué)》，楊音萊譯，上海：上海譯文出版社，2006年，第23頁(yè)。塞爾通過(guò)“中文屋論證 (Chinese Room Argument）”的思想實(shí)驗(yàn)對(duì)人工智能能夠理解的觀點(diǎn)進(jìn)行批判，塞爾設(shè)想出一臺(tái)可以模擬“理解”的計(jì)算機(jī)程序。把一個(gè)只懂英文、不懂中文的人鎖在一個(gè)房間，給出中英文“腳本”以及用英文表示的形式化規(guī)則，如果通過(guò)長(zhǎng)期訓(xùn)練，屋內(nèi)人能夠根據(jù)指令和規(guī)則來(lái)處理中文符號(hào)，但屋內(nèi)人未必真正理解中文符號(hào)，或者說(shuō)屋內(nèi)人并不具有理解中文符號(hào)的能力。塞爾的思想實(shí)驗(yàn)得出計(jì)算機(jī)系統(tǒng)可以在完全不懂中文的情況下，通過(guò)程序來(lái)模擬人類理解中文等認(rèn)知能力。

計(jì)算機(jī)不能產(chǎn)生新知識(shí)。在塞爾看來(lái)，機(jī)器或者算法不是真正理解了人類語(yǔ)言的意義，只是對(duì)人類行為模擬或者功能模擬而已。計(jì)算機(jī)的模擬不能等同于事實(shí)本身，能夠?qū)π睦磉^(guò)程進(jìn)行模擬也并非能夠必然得出計(jì)算機(jī)模擬就是心理過(guò)程本身。計(jì)算機(jī)程序與人類理解完全是兩碼事。在中文場(chǎng)合，屋內(nèi)人具有人工智能以程序方式輸入的每樣?xùn)|西，而屋內(nèi)人什么也不理解。在英文場(chǎng)合，屋內(nèi)人理解每樣?xùn)|西，但沒有理由相信，理解與純形式的計(jì)算機(jī)程序之間有任何關(guān)聯(lián)。塞爾認(rèn)為計(jì)算機(jī)在處理符號(hào)時(shí)，沒有對(duì)符號(hào)的內(nèi)容與含義加以使用，而人類則不同。約翰·塞爾認(rèn)為“計(jì)算機(jī)理解的故事和我理解的故事完全是兩碼事……計(jì)算機(jī)及其配置的程序并沒有對(duì)理解提供充分條件，因?yàn)橛?jì)算機(jī)和程序運(yùn)行的過(guò)程當(dāng)中不存在理解?！雹賁earle,John.R.Minds,brains and programs,Behavioral and Brain Sciences，1980，pp.417-457.所以,不懂語(yǔ)義的計(jì)算機(jī)程序并不能真正具有理解能力。

（三）人類知識(shí)的形式化難題

德雷福斯（H.Dreyfus）從現(xiàn)象學(xué)視角對(duì)符號(hào)主義人工智能進(jìn)行批判，從認(rèn)識(shí)論、形而上學(xué)方面來(lái)挑戰(zhàn)AI 的研究方法基礎(chǔ)，他在《計(jì)算機(jī)仍然不能做什么：人工理性批判》指出，符號(hào)主義人工智能學(xué)派站在笛卡爾的傳統(tǒng)理性主義立場(chǎng)上，從而繼承了其所有的錯(cuò)誤假設(shè)：生物學(xué)假設(shè)、心理學(xué)假設(shè)、本體論假設(shè)以及認(rèn)識(shí)論假設(shè)?！吧飳W(xué)假設(shè)：在某一運(yùn)算水平上，大腦與計(jì)算機(jī)一樣，以離散的運(yùn)算方式加工信息；心理學(xué)假設(shè)：大腦被看作一種按照形式規(guī)則加工信息單位的裝置；認(rèn)識(shí)論假設(shè)：一切知識(shí)都可被形式化，可以被編碼成數(shù)字形式，也就是說(shuō)，凡是能理解的都可以通過(guò)邏輯關(guān)系來(lái)表達(dá)；本體論假設(shè)：存在是一組在邏輯上相互獨(dú)立的事實(shí)，知識(shí)可以被編入計(jì)算機(jī)程序?！雹贒reyfus H L.What Computers Still Can't Do:A Critique of Artificial Reason.Cambridge,MIT Press,1992.p.156.德雷福斯認(rèn)為人工智能的4 個(gè)假設(shè)包括形式規(guī)則的非實(shí)質(zhì)性應(yīng)用，人類所知的世界具有一定的形式、客觀結(jié)構(gòu)，而且所有的知識(shí)都能被形式化，這個(gè)假設(shè)意味著，人類所知或所能理解的一切表達(dá)都可以是脫離語(yǔ)境的，形式規(guī)則或者定義都可以用計(jì)算機(jī)來(lái)處理。德雷福斯認(rèn)為人工智能的心理學(xué)假設(shè)、認(rèn)識(shí)論假設(shè)與本體論假設(shè)具有共同之處，即它們都認(rèn)為，人一定是一種按照規(guī)則對(duì)原子事實(shí)形式的數(shù)據(jù)做計(jì)算的裝置，這些假設(shè)都把關(guān)于理解的概念，看作是形式化的表達(dá)。

人工智能心理學(xué)假設(shè)的經(jīng)驗(yàn)性證據(jù)是對(duì)認(rèn)知模擬的科學(xué)方法論的批判。德雷福斯：“要想對(duì)心理學(xué)假設(shè)做經(jīng)驗(yàn)性證實(shí)，產(chǎn)生了一個(gè)科學(xué)方法論的問題——如何評(píng)價(jià)證據(jù)的問題?！雹跠reyfus H L.What Computers Still Can't Do:A Critique of Artificial Reason.p.178.德雷福斯認(rèn)為大腦是否像數(shù)字計(jì)算機(jī)那樣工作完全是一個(gè)經(jīng)驗(yàn)的問題，需要由神經(jīng)生理學(xué)來(lái)回答。如果心理學(xué)要成為研究人類行為的科學(xué)，它必須把人作為客體來(lái)研究。心理學(xué)出現(xiàn)了從行為主義到心智主義的普遍轉(zhuǎn)移。行為主義心理學(xué)（behavioral psychology）主張以客觀的方法研究人類的行為，從而預(yù)測(cè)和控制有機(jī)體的行為。行為主義心理學(xué)完全忽視學(xué)習(xí)者的內(nèi)部心理過(guò)程，只強(qiáng)調(diào)外部刺激，否定意識(shí)的作用。行為主義銳意研究可以觀察的行為，但是由于它不研究心理的內(nèi)部結(jié)構(gòu)和過(guò)程，否定意識(shí)的重要性。在德雷福斯看來(lái)，整個(gè)行為主義的方法論都是錯(cuò)誤的。

德雷福斯與塞爾一樣，主張人類的認(rèn)知并不包括規(guī)則的應(yīng)用或者內(nèi)部圖像的應(yīng)用。人類智能具有現(xiàn)實(shí)性（situated）（由人類自身的處境來(lái)決定）和具身性（embodied）（人體實(shí)時(shí)發(fā)生的有意圖的感覺運(yùn)動(dòng)與所處環(huán)境之間的相互作用）。計(jì)算不同于認(rèn)知，計(jì)算缺乏現(xiàn)實(shí)性與具身性，僅僅存在于計(jì)算機(jī)之中，游離與抽象于現(xiàn)實(shí)世界之外，德雷福斯認(rèn)為無(wú)論人類知識(shí)還是物理實(shí)在，都沒有一種可以完全根據(jù)規(guī)范標(biāo)準(zhǔn)來(lái)描述某種形式化結(jié)構(gòu)的能力。雖然形式規(guī)則可能是描述人類知識(shí)的一種方法，但它并沒有為某種智能系統(tǒng)對(duì)這種知識(shí)的再生產(chǎn)提供基礎(chǔ)。

三、對(duì)機(jī)器具有理解能力的反思

（一）理解基于對(duì)語(yǔ)義的把握

機(jī)器能夠做出正確反應(yīng)既不是說(shuō)明機(jī)器具有理解能力的充分條件，也不是說(shuō)明機(jī)器具有理解能力的必要條件。計(jì)算機(jī)程序只是從外部行為解釋了人類的理解，計(jì)算機(jī)程序不是理解的充分條件，人類不理解也同樣可以行使規(guī)則。塞爾用“中文屋論證”反駁了強(qiáng)人工智能的理論基礎(chǔ)，即編程的計(jì)算機(jī)具有理解能力，并且，計(jì)算機(jī)程序在某種意義上解釋了人類理解。塞爾反駁了西蒙的觀點(diǎn)，即數(shù)字計(jì)算機(jī)已經(jīng)具有同人類相同的理解能力。同時(shí)，也反駁了認(rèn)為智能不過(guò)是一種物理符號(hào)處理的符號(hào)主義觀點(diǎn)。意識(shí)不過(guò)是一個(gè)形式化過(guò)程，麥卡錫指出，恒溫器那樣簡(jiǎn)單的機(jī)器都具有信念。

博登《逃出中文屋》一文反駁了塞爾的觀點(diǎn)，她指出，“重要的問題不是‘一臺(tái)機(jī)器何時(shí)理解了某件事情？’（這個(gè)問題暗示存在著某個(gè)明確的斷點(diǎn)，理解在那里終止了，這是一種誤導(dǎo)），而是‘為了能夠做出理解，一臺(tái)機(jī)器（無(wú)論是不是生物的）必須能夠做到哪些事情？’這個(gè)問題不僅關(guān)系到計(jì)算心理學(xué)是否可能，而且關(guān)系到它的內(nèi)涵?！雹賉英]瑪格麗特·博登：《人工智能哲學(xué)》，第140頁(yè)。顯然，“能夠做到”是用于判斷“理解”的主要標(biāo)準(zhǔn)。人工智能的三種技術(shù)路線都不能給出判斷“理解”的主要標(biāo)準(zhǔn)，聯(lián)結(jié)主義的代表是人工神經(jīng)網(wǎng)絡(luò)，主要是處理數(shù)據(jù)；行為主義的代表形式是強(qiáng)化學(xué)習(xí)方法，主要是信息處理，符號(hào)主義代表的是知識(shí)圖譜和專家系統(tǒng)，主要是知識(shí)處理和推理。計(jì)算機(jī)模擬大腦需要把任何種類的智能活動(dòng)變成一套指令，因?yàn)樵谟?jì)算主義看來(lái)一切推理都可以歸結(jié)為計(jì)算，機(jī)器人可以復(fù)制人類智能行為。計(jì)算機(jī)是信息處理的工具，用計(jì)算機(jī)去解決問題，必須把問題程序化，且這個(gè)問題可計(jì)算，一定要以算法為前提。機(jī)器是數(shù)理過(guò)程與物理過(guò)程的結(jié)合，機(jī)器的計(jì)算不是心理過(guò)程，也無(wú)法給出人類理解的標(biāo)準(zhǔn)。

（二）理解需要揭示事物間的因果關(guān)系

機(jī)器不可能通過(guò)數(shù)據(jù)分析和算法模擬具有人類智能和理解能力，理解也需要揭示事物間的因果關(guān)系。希爾斯（Alison Hills）提出“要理解為什么p，你需要能夠?qū) 視為p 的原因?！雹贖ills A.Moral Testimony and Moral Epistemology.Ethics,2009,pp.94-127.因果相關(guān)反映了人類的認(rèn)知，是基于數(shù)據(jù)驅(qū)動(dòng)和數(shù)據(jù)相關(guān)的人工智能無(wú)法取代的。因果關(guān)系專家珀?duì)枺↗udea Pearl）在《為什么——關(guān)于因果關(guān)系的新科學(xué)》中指出，如果將人工智能提升到人類智能的水平，人類必須對(duì)自身的因果認(rèn)知推理模式有深入了解。只有給機(jī)器配備真正的因果推理模型，機(jī)器才可以說(shuō)是具有真正的智能。在珀?duì)柨磥?lái)，今天的機(jī)器學(xué)習(xí)在導(dǎo)向上是錯(cuò)誤的，它是以數(shù)據(jù)為導(dǎo)向的，而非以人的推理特征為導(dǎo)向，“我們?nèi)匀粺o(wú)法教會(huì)機(jī)器理解事情的前因后果”③Judea Pearl and Dana Mackenzie.The book of why:The new science of cause and effect.NewYork:Basic Books,Hachette BookGroup,2018，p.287.。

因果關(guān)系是比大數(shù)據(jù)更基本的東西，因果模型是比數(shù)據(jù)更真實(shí)的邏輯。世界的知識(shí)都可以用因果網(wǎng)絡(luò)來(lái)表達(dá)，因果網(wǎng)絡(luò)可以分為三個(gè)層次，最低層次是相關(guān)關(guān)系，第二層次是干預(yù)層次，第三層次是反事實(shí)層次。第一層次需要的是觀察能力，觀察變量之間的關(guān)系；第二層次需要的是行動(dòng)能力；第三層次需要的是想象、反思與理解能力，是針對(duì)沒有發(fā)生的事情的預(yù)測(cè)和想象。珀?duì)柼岢龃髷?shù)據(jù)分析和深度學(xué)習(xí)都在因果關(guān)系的最低層級(jí)，沒有任何智能可言。“深度學(xué)習(xí)具有獨(dú)特的優(yōu)勢(shì)，但這類程序與我們對(duì)透明性的追求背道而馳。即使是阿爾法狗的程序編寫者也不能告訴我們?yōu)槭裁催@些程序能把下棋這個(gè)任務(wù)執(zhí)行得這么好。”④Judea Pearl and Dana Mackenzie.The book of why:The new science of cause and effect.p.288

理解是因果推理的證據(jù)，“理解自己的意圖，并用它作為因果推理的爭(zhēng)取，具備這一能力就說(shuō)明行為主體已經(jīng)達(dá)到自我覺察的水平……目前還沒有任何一個(gè)智能機(jī)器能達(dá)到這個(gè)水平?！雹軯udea Pearl and Dana Mackenzie.The book of why:The new science of cause and effect.p.291.為了實(shí)現(xiàn)與人類的自然溝通，強(qiáng)人工智能必須了解關(guān)于人類意圖的詞匯，而這需要他們模擬自由意志的幻覺，這些是機(jī)器不具備的。

（三）理解的復(fù)雜性分析

理解過(guò)程是一個(gè)非常復(fù)雜的過(guò)程，非機(jī)器能力所及。約翰·豪奇蘭德（John Haugeland）的“好的舊人工智能（GOFAI：Good Old-fashioned AI）”基于笛卡爾式的觀念：所有的理解都是形式化的并使用恰當(dāng)?shù)姆?hào)表征。人與機(jī)器的解題方式不同?！叭撕蜋C(jī)器之間之所以有這種差別，是因?yàn)檫@項(xiàng)任務(wù)所要求處理的是拓?fù)潢P(guān)系，為此就必須忽略純粹的量度方面的關(guān)系。人腦完全適合于這種拓?fù)鋵W(xué)特征。因?yàn)檫@些特征告訴我們事物典型特征，而不是事物的具體量度?！雹賀udolf Arnheim,Intelligence Simulated,Midway.University of Chicago,1967,p.87.

理解是一個(gè)復(fù)雜的認(rèn)知過(guò)程。伽達(dá)默爾立足于理解本體論，他在《真理與方法》中提出“理解不屬于主體的行為方式，而是此在本身的存在方式?！雹赱德]伽達(dá)默爾：《真理與方法》（上卷），洪漢鼎譯，上海：上海譯文出版社，1999年，第6頁(yè)。機(jī)器只有發(fā)展到強(qiáng)人工智能階段才可能具有人類的認(rèn)知能力和理解能力。塞爾認(rèn)為：“‘理解’并不是一個(gè)簡(jiǎn)單的二元謂詞；甚至存在著許多不相同的理解類型和層次，即使排中律也往往不能直接應(yīng)用于“X 理解Y”這種形式的陳述；在很多情況下，究竟X 是否理解Y，是一個(gè)需要判斷的問題，而不是一個(gè)簡(jiǎn)單的事實(shí)。”③Searle,John.R.Minds,brains,and programs.Behavioral and Brain Sciences.1980，pp.417-457.理解除了需要把握事物的規(guī)定性外，還需深入到它們的“理?yè)?jù)或理由”的層面，甚至還包括把握它們的意義與價(jià)值等?！袄斫獾奶卣髟谟谒褌€(gè)別的片段性的信息結(jié)合為一個(gè)統(tǒng)一的整體?！雹躃vanvig,J.L.The Value of Knowledge and the Pursuit of Understanding.Cambridge University Press,2003,p.197.

希爾斯認(rèn)為“理解為什么是p（而q 是為什么是p）”，至少具有以下6 種認(rèn)知能力：“1)就其他人給出的原因做出一些解釋；2)用你自己的話解釋為什么p；3)從q 的信息中得出p(或可能p)的結(jié)論；4)從q(其中p 及q 與p 及q 相似但與p 及q 不相同)的信息中，得出p(或可能p)的結(jié)論；5)給出p 的信息，給出正確的解釋q；6)給出p 的信息，給出正確的解釋q。”⑤HillsA.Understanding Why.NO ?US 2016，pp.661-688.理解基于人類的認(rèn)知能力，只通過(guò)程序性功能模擬不能真正理解人類。具有理解能力還需要擁有人類情感，具有同理心才能夠挖掘事物隱藏的因果關(guān)系，才能理解人類的外部行為。

綜上所述，人工智能對(duì)人類智能只處于功能模擬階段，僅限于模仿人類的某些行為，而理解基于對(duì)事物背后因果關(guān)系的揭示，基于對(duì)語(yǔ)言的意義的把握，理解是一個(gè)復(fù)雜的過(guò)程，人工智能機(jī)器不管基于符號(hào)主義、聯(lián)結(jié)主義還是行為主義技術(shù)路線，都不是基于對(duì)人類認(rèn)知能力的探求，不能明確語(yǔ)句和語(yǔ)詞的意義，因此，人工智能機(jī)器不具有人類理解能力，現(xiàn)在的機(jī)器還不是真正意義上的人工智能。