具身性、認(rèn)知語(yǔ)言學(xué)與人工智能倫理學(xué)

徐英瑾

(復(fù)旦大學(xué) 哲學(xué)學(xué)院，上海 200433)

具身性、認(rèn)知語(yǔ)言學(xué)與人工智能倫理學(xué)

徐英瑾

(復(fù)旦大學(xué) 哲學(xué)學(xué)院，上海 200433)

在主流的人工智能倫理學(xué)研究中，很少有人意識(shí)到：將倫理規(guī)范的內(nèi)容轉(zhuǎn)化為機(jī)器編碼的作業(yè)，在邏輯上必須預(yù)設(shè)一個(gè)好的語(yǔ)義學(xué)理論框架，而目前主流人工智能研究所采用的語(yǔ)義學(xué)基礎(chǔ)理論卻恰恰是成問(wèn)題的。文章主張?jiān)谌斯ぶ悄芘c人工智能倫理學(xué)的研究中引入認(rèn)知語(yǔ)言學(xué)的理論成果，并在此基礎(chǔ)上特別強(qiáng)調(diào)“身體圖式”在倫理編碼進(jìn)程中所起到的基礎(chǔ)性作用。依據(jù)此番立論，并主張：機(jī)器倫理學(xué)的核心關(guān)涉將包括對(duì)人工智能的“身體”——而不僅僅是“心智”——的設(shè)計(jì)規(guī)范，即必須嚴(yán)肅考慮“怎樣的外圍設(shè)備才被允許與中央語(yǔ)義系統(tǒng)進(jìn)行恒久的接駁”這一問(wèn)題。

人工智能倫理學(xué)；認(rèn)知語(yǔ)言學(xué)；認(rèn)知圖式；具身性；語(yǔ)義學(xué)

隨著人工智能技術(shù)的日益發(fā)展，對(duì)于此類技術(shù)產(chǎn)品的倫理學(xué)考量也逐漸進(jìn)入學(xué)界的視野。概而言之，與人工智能相關(guān)的所有倫理學(xué)思考，都在國(guó)際學(xué)界被歸入“人工智能倫理學(xué)”(ethics of Artificial Intelligence)的范疇，而這個(gè)學(xué)科分支本身又可分為兩個(gè)小分支：“機(jī)器人倫理學(xué)”(roboethics)與“機(jī)器倫理學(xué)”(machine ethics)。前者的任務(wù)是對(duì)設(shè)計(jì)機(jī)器人的人類主體進(jìn)行規(guī)范性約束，而后者的任務(wù)則是研究如何使得人類所設(shè)計(jì)的人工智能系統(tǒng)在行為上具有倫理性。這兩個(gè)分支彼此之間既有分工上的分別，又有微妙的聯(lián)系。兩者之間的差別體現(xiàn)在：“機(jī)器人倫理”直接約束的是人類研究主體的行為，而“機(jī)器倫理”直接約束的是機(jī)器的行為。兩者之間的聯(lián)系又體現(xiàn)在：不通過(guò)“機(jī)器倫理學(xué)”，“機(jī)器人倫理學(xué)”的指導(dǎo)就無(wú)法落地；而沒(méi)有“機(jī)器人倫理學(xué)”的指導(dǎo)，“機(jī)器倫理”的編程作業(yè)也會(huì)失去大方向。

不過(guò)，在當(dāng)前人工智能倫理學(xué)研究中，很少有研究者意識(shí)到此類問(wèn)題實(shí)質(zhì)上乃是某種深刻的語(yǔ)言哲學(xué)-語(yǔ)言學(xué)問(wèn)題的變種，而不能就事論事地在應(yīng)用倫理學(xué)的層面上被談?wù)摗６P者的相關(guān)判斷又是基于如下考量：如果我們要把用自然語(yǔ)言表達(dá)出來(lái)的倫理學(xué)規(guī)范——如著名的“阿西莫夫三定律”——轉(zhuǎn)換為能為機(jī)器識(shí)別并執(zhí)行的程序語(yǔ)言的話，我們就必須對(duì)人類的語(yǔ)言運(yùn)作的本質(zhì)有著一種預(yù)先的理論把握；而語(yǔ)言學(xué)家與語(yǔ)言哲學(xué)家對(duì)于人類語(yǔ)言機(jī)制的不同理解，則顯然又會(huì)導(dǎo)致對(duì)于上述問(wèn)題的不同解答方式。

此外，也正因?yàn)橐话阋饬x上的語(yǔ)言哲學(xué)-語(yǔ)言學(xué)問(wèn)題在人工智能倫理學(xué)研究中的邊緣地位，認(rèn)知語(yǔ)言學(xué)關(guān)于“具身化”問(wèn)題的見(jiàn)解也相應(yīng)地被邊緣化了。很少有人工智能倫理學(xué)方面的討論觸及如下問(wèn)題：倫理編程問(wèn)題不僅僅牽涉軟件的編制，而且還將牽涉“怎樣的外圍設(shè)備才被允許與中央語(yǔ)義系統(tǒng)進(jìn)行恒久的接駁”這一問(wèn)題。也就是說(shuō)，依據(jù)筆者的淺見(jiàn)，機(jī)器倫理學(xué)的核心關(guān)涉將包括對(duì)人工智能體的“身體”——而不僅僅是“心智”——的設(shè)計(jì)規(guī)范。而為了支持這一看似“非主流”的觀點(diǎn)，本文的討論將始自于對(duì)如下問(wèn)題的“務(wù)虛”式討論：為何倫理學(xué)必須具有“具身性”？

一、從倫理學(xué)的“具身性”說(shuō)起

“具身性”(embodiment)本是一個(gè)在認(rèn)知哲學(xué)領(lǐng)域內(nèi)使用的術(shù)語(yǔ)，其主要含義是指：人類認(rèn)知的諸多特征都在諸多方面為人類的生物學(xué)意義上的“身體組織”所塑造，而不是某種與身體絕緣的笛卡爾式的精神實(shí)體的衍生物。如果我們將這樣的觀點(diǎn)沿用到倫理學(xué)領(lǐng)域之內(nèi)，由此產(chǎn)生的“具身化倫理學(xué)”的核心觀點(diǎn)便是：倫理學(xué)規(guī)范的內(nèi)容，在相當(dāng)大程度上便是為作為倫理主體的人類的肉體特征所塑造的。換言之，倫理學(xué)研究在相當(dāng)程度上必須吸納生物學(xué)研究的成果，而不能將自己視為與“肉體”絕緣的“純精神領(lǐng)域”。

應(yīng)當(dāng)看到，將“具身性”與倫理學(xué)相互結(jié)合的觀點(diǎn)，并不是西方倫理學(xué)研究的傳統(tǒng)路數(shù)，甚至還與該領(lǐng)域內(nèi)的思維定式相左。譬如，柏拉圖就曾將“善”的理念視為超越于可感知的物理世界的最高理念，而康德則將道德律令視為某種凌駕于肉身領(lǐng)域的“絕對(duì)命令”。但隨著演化論等自然科學(xué)思維范式逐漸進(jìn)入倫理學(xué)領(lǐng)域，越來(lái)越多的具有自然主義傾向的倫理學(xué)家開(kāi)始注意到了倫理學(xué)自身的生物性根基。正是基于此類考量，英國(guó)生態(tài)學(xué)家漢密爾頓(William Hamilton)在1964年提出了所謂的“親屬選擇模型”。[1]根據(jù)該模型，在假定甲、乙兩個(gè)生物學(xué)個(gè)體之間具有一定的遺傳相似性的前提下，只要這種相似性與“乙從甲獲得的好處”之間的乘積能夠抵消“甲自身因幫助乙而遭到的損失”，那么，使得互助行為可能的那些基因就會(huì)在種群中傳播(這一規(guī)律，也在科學(xué)文獻(xiàn)中被稱為“漢密爾頓律”)?；蛘f(shuō)得更通俗一點(diǎn)，依據(jù)漢密爾頓的理論，道德的生物學(xué)起源，很可能就是與“通過(guò)親屬的生存而完成家族基因的備份”這一隱蔽的生物學(xué)目的相關(guān)的。需要注意的是，漢密爾頓所給出的這種對(duì)于道德起源的描述看似抽象，其實(shí)已經(jīng)觸及“身體”對(duì)于倫理學(xué)的奠基意義。譬如，前述“漢密爾頓律”的起效，在邏輯上已經(jīng)預(yù)設(shè)了一個(gè)生物學(xué)個(gè)體有能力將別的生物學(xué)個(gè)體識(shí)別為其親屬。而要做到這一點(diǎn)，辨認(rèn)主體若不依賴于被辨認(rèn)對(duì)象的身體形態(tài)的識(shí)別，則幾乎是難以想象的。從這個(gè)角度看，道德意義上的“共情感”很可能便是以道德主體之間在身體方面的相似點(diǎn)為前提的。

對(duì)于上述的理論描述，有的讀者或許會(huì)問(wèn)：漢密爾頓的“親屬選擇模型”又將如何解釋人類對(duì)于非親屬的其他人所產(chǎn)生的同情感呢？實(shí)際上答案也非常簡(jiǎn)單：“基因的相似性”實(shí)質(zhì)上是一個(gè)針對(duì)特定參照系才能夠成立的概念。若以其他物種為參照系，整個(gè)人類都算是一個(gè)巨大的親屬組織，因此，你與地球上任何一個(gè)需要?jiǎng)e人幫助的人之間都有著某種基因上的關(guān)聯(lián)性。而按照“漢密爾頓律”，只要這種關(guān)聯(lián)度與“被幫助者從你這里獲得的好處”的乘積能夠大于“你因?yàn)閹椭獾降膿p失”，那么利他主義行為就可以被激發(fā)。而在很多情況中，對(duì)于陌生人的很多幫助形式——譬如在網(wǎng)上向受災(zāi)群眾捐獻(xiàn)10元——所需要付出的生物學(xué)資源其實(shí)是微不足道的，這就使得“漢密爾頓律”所規(guī)定的相關(guān)條件在數(shù)學(xué)上變得容易被滿足(換言之，“大于”左邊的乘積實(shí)在太容易超過(guò)其右邊的數(shù)值了)。或再換一個(gè)更通俗的說(shuō)法：廉價(jià)的“助人為樂(lè)”行為的傳播之所以并不是很難，就恰恰是因?yàn)檫@些行為自身所消耗的資源不多；而與此同時(shí)，人與人(盡管很可能彼此是陌生人)之間在身體層面上的起碼的相似點(diǎn)卻已經(jīng)足以激發(fā)出微弱的“好感”，以便催生那種微弱的利他性行為。與之相對(duì)應(yīng)，代價(jià)不菲的利他主義行為卻往往是建立在被幫助者與幫助者之間較密切的親屬關(guān)系之上的，并經(jīng)由這種親屬關(guān)系所提供的更為強(qiáng)烈的“親近感”驅(qū)動(dòng)。

不過(guò)，筆者也承認(rèn)，上述這種基于生物學(xué)考量的道德起源學(xué)說(shuō)，并不能對(duì)人類所有的人際行為做出充分的描述，因?yàn)樽鳛樽匀淮嬖谡吲c社會(huì)存在者的合體，人類的具體行為在受到生物學(xué)因素的制約外，還會(huì)受到社會(huì)-文化因素的制約與影響(譬如文化、生產(chǎn)方式、政治理念、宗教等因素對(duì)一個(gè)人的“親密圈”的重塑效應(yīng))。但即使如此，生物學(xué)方面的考量依然會(huì)構(gòu)成“文化重塑活動(dòng)”的基本邏輯空間；換言之，文化重塑的方向本身必須首先是“生物學(xué)上可能的”。意識(shí)到這一點(diǎn)的美國(guó)哲學(xué)家麥金太爾便在《依賴性的理性動(dòng)物》一書(shū)中，特別強(qiáng)調(diào)了倫理學(xué)研究與生物學(xué)研究之間的連續(xù)性。他指出，如果我們將倫理學(xué)視為對(duì)人際關(guān)系根本規(guī)范的研究的話，那么，我們就無(wú)法忽略使得此類人際關(guān)系得以存在的下述基本的生物學(xué)前提：人類是一種離開(kāi)了群體生活就必然會(huì)滅亡的物種，因?yàn)槿祟惖纳眢w具有一種生物學(xué)意義上的脆弱性?！拔覀兪欠衲軌虼婊?，在相當(dāng)程度上取決于別人(更別提繁衍了)，因?yàn)槲覀兘?jīng)常遭遇如下困難：身體疾病或傷害、營(yíng)養(yǎng)不足、精神疾病與困擾，以及來(lái)自于別人的入侵與無(wú)視……”[2](P1)也就是說(shuō)，按照麥金太爾的觀點(diǎn)，人類道德規(guī)范中最為基本的那部分——如尊老愛(ài)幼、幫助弱小，等等——都是對(duì)于某些最基本的生物學(xué)需要的“再包裝”，而不是脫離于人類的生物學(xué)實(shí)際的純粹的“文化發(fā)明”。由此不難推出：如果在另外的一個(gè)可能世界中的人類的生物學(xué)習(xí)性與現(xiàn)有的人類不同(譬如，那個(gè)世界中的人類會(huì)像螳螂那樣在交配之后吃掉“新郎”)，那么，我們也就沒(méi)有理由期望他們的道德規(guī)范內(nèi)容與我們的道德規(guī)范基本一致了。

不難想見(jiàn)，如果這條“達(dá)爾文—漢密爾頓—威爾遜(E. O. Wilson, 他的‘社會(huì)生物學(xué)’研究是漢密爾頓工作的全面升級(jí)化)[3]—麥金太爾”式的倫理學(xué)研究路數(shù)是正確的話，那么，此類思維方式就肯定會(huì)對(duì)人工智能倫理學(xué)產(chǎn)生直接的影響。這里需要被提出的最核心的問(wèn)題便是：既然人工智能產(chǎn)品并不是任何一種意義上的“生物體”，我們又怎么保證此類產(chǎn)品能夠經(jīng)由其與人類身體的相似性而承載了人類所認(rèn)可的道德規(guī)范呢？換言之，既然對(duì)吾輩而言人工智能體肯定是“非我族類”的，“其心必異”的結(jié)局難道不正是無(wú)法避免的嗎？

不過(guò)，同樣不容否認(rèn)的是，至少對(duì)于主流的人工智能倫理學(xué)研究而言，人工智能制品因?yàn)槠湮锢怼吧眢w”的不同而潛藏的對(duì)人類社會(huì)的倫理風(fēng)險(xiǎn)，并沒(méi)有被充分注意到。譬如，著名的“阿西莫夫三定律”就表達(dá)了某種經(jīng)過(guò)強(qiáng)制性的代碼輸入(而不是身體設(shè)計(jì))以禁止機(jī)器人危害人類的企圖。而在此路徑的支持者看來(lái)，給相關(guān)的機(jī)器人配置怎樣的“身體”反倒成為一個(gè)與機(jī)器倫理無(wú)涉的邊緣性問(wèn)題。此外，即使他們了解到從漢密爾頓到麥金太爾的整條“具身化的倫理學(xué)”的發(fā)展線索，恐怕他們也會(huì)以這樣的一種輕描淡寫(xiě)的方式來(lái)打發(fā)“具身派”的見(jiàn)解：既然漢密爾頓所說(shuō)的“利他主義基因”本身就是以自然選擇的方式植入人類的一種強(qiáng)制性操作代碼，那么，人工智能專家就完全可以自行扮演自然選擇的角色，向機(jī)器直接植入這樣的代碼。他們或許還會(huì)補(bǔ)充說(shuō)：既然自然選擇本身并不是什么神秘的機(jī)制，那么，到底有什么自然選擇能夠做到的事情，我們?nèi)祟愖霾坏侥兀?/p>

但在筆者看來(lái)，上面的辯駁是無(wú)力的。其一，自然選擇機(jī)制的基本原理固然并不神秘，但是特定性狀的演化歷史的種種細(xì)節(jié)卻很可能是難以被事后復(fù)原的，因?yàn)檫@牽涉相關(guān)基因與特定生態(tài)環(huán)境之間的復(fù)雜互動(dòng)。因此，從非常抽象的角度看，如果將自然選擇機(jī)制人格化為一個(gè)設(shè)計(jì)師的話，那么“他”對(duì)于倫理代碼的編制路線便是“從下到上”(bottom-up)的，而阿西莫夫式的機(jī)器倫理代碼的編制路線則是“自上而下的”(top-down)，兩條路徑并不相似。其二，自然選擇的過(guò)程不是一次完成的，而是通過(guò)“代碼變異—引發(fā)顯現(xiàn)型變化—參與生存競(jìng)爭(zhēng)—篩選代碼”這樣的復(fù)雜流程，漸進(jìn)式地積累各種遺傳代碼素材的。與之對(duì)比，阿西莫夫式的機(jī)器倫理代碼設(shè)計(jì)流程，卻試圖通過(guò)某種一勞永逸的代碼編制工作來(lái)杜絕未來(lái)可能發(fā)生的一切倫理風(fēng)險(xiǎn)，這無(wú)疑就需要設(shè)計(jì)者具備像上帝那樣的預(yù)見(jiàn)力。而我們都知道，人類是永遠(yuǎn)無(wú)法扮演上帝的角色的。其三，自然選擇的過(guò)程所積累的核心信息雖然是以基因代碼的方式被加以保存的，但是在具體的生存競(jìng)爭(zhēng)中，這些代碼必須外顯為身體的性狀才能夠兌現(xiàn)其生存價(jià)值。也就是說(shuō)，至少對(duì)于生物體而言，其遺傳代碼本身就具有一種針對(duì)“具身性”的明確指向，而這種指向在阿西莫夫式的倫理編碼里是找不到的。其四，也是最重要的，自然演化的“設(shè)計(jì)產(chǎn)品”是我們能夠看到的(我們自己就是這樣的“產(chǎn)品”)；而根據(jù)“阿西莫夫三定律”所設(shè)計(jì)出來(lái)的成熟的人工智能產(chǎn)品，我們卻還沒(méi)有看到。更有甚者，根據(jù)瓦拉赫(Wendell Wallach)與艾倫(Colin Allen)的分析，[4](P95)在日常語(yǔ)境中對(duì)于“阿西莫夫三定律”的執(zhí)行將不可避免地導(dǎo)致矛盾。譬如在面對(duì)一個(gè)人正在殘害其他人的場(chǎng)面時(shí)，以下這兩條法則就很難被同時(shí)執(zhí)行：“機(jī)器人不得在與人類的接觸中傷害人類”；“機(jī)器人不得在目睹人類被傷害時(shí)袖手不管”。瓦拉赫與艾倫就此指出：只要我們?cè)试S機(jī)器人以比較大的自主性來(lái)獨(dú)立應(yīng)付種種困難的倫理局面，我們就無(wú)法指望其行為能夠同時(shí)滿足“阿西莫夫三定律”的僵化規(guī)定；相反，如果我們硬是要將這些僵化規(guī)定以代碼的形式植入機(jī)器的話，我們就不能指望它們的行為輸出時(shí)是富有智能的。很顯然，這是一個(gè)兩難困境。

從瓦拉赫與艾倫的分析中，我們還可以從語(yǔ)言哲學(xué)與語(yǔ)言學(xué)的層面發(fā)現(xiàn)自然選擇所進(jìn)行的“倫理編碼”與阿西莫夫式的“倫理編碼”之間的又一重要差異。不難看出，自然選擇所遴選出來(lái)的基因編碼組合本身是不帶語(yǔ)義的，而兌現(xiàn)這些基因組合的生物體的身體表現(xiàn)同樣是不帶語(yǔ)義的——賦予其語(yǔ)義的，乃是人類觀察者對(duì)于這些表現(xiàn)的事后描述。因此，對(duì)于自然選擇來(lái)說(shuō)，就不存在著 “如何將帶有語(yǔ)義內(nèi)容的倫理規(guī)范分解為具體算法”這樣的問(wèn)題；而與之相對(duì)比，阿西莫夫式的機(jī)器倫理編制者卻不得不面臨這樣的難題(因?yàn)椤鞍⑽髂蛉伞北旧頍o(wú)疑是帶有語(yǔ)義的)。因此，除非機(jī)器倫理學(xué)家們將自身的程序編制工作奠基在一個(gè)恰當(dāng)?shù)恼Z(yǔ)義學(xué)理論之上，否則，此類工作就無(wú)法解決瓦拉赫與艾倫所指出的那類“靈活性與原則性不可兼得”的困難。

在本節(jié)的討論中我們已經(jīng)得到了兩方面的結(jié)論：首先，我們已經(jīng)看到，倫理規(guī)范自身很難擺脫“具身性”的規(guī)制；其次，我們發(fā)現(xiàn)阿西莫夫式的機(jī)器倫理編制工作既沒(méi)有意識(shí)到“具身性”的重要性，同時(shí)也缺乏一個(gè)使得其自身的語(yǔ)義內(nèi)容落地的語(yǔ)義學(xué)基礎(chǔ)理論。而要將這里所說(shuō)的具身性考量與語(yǔ)義學(xué)考量結(jié)合起來(lái)，我們就需要一個(gè)合適的理論媒介。這一媒介就是認(rèn)知語(yǔ)言學(xué)。

二、認(rèn)知語(yǔ)言學(xué)的“具身性”對(duì)于人工智能倫理學(xué)的啟示

這里筆者之所以要提到認(rèn)知語(yǔ)言學(xué)，乃是因?yàn)樗峁┝艘粋€(gè)將前面所提到的“具身性原則”與語(yǔ)言學(xué)理論相互結(jié)合的范例。認(rèn)知語(yǔ)言學(xué)的代表人物之一雷考夫(George Lakoff)[5](P9)就曾概括過(guò)認(rèn)知語(yǔ)言學(xué)的意義觀與傳統(tǒng)語(yǔ)義學(xué)的意義觀之間的不同。筆者按照自己的理解將其列為表1概括于下：

表1 認(rèn)知語(yǔ)言學(xué)的意義觀與傳統(tǒng)語(yǔ)義學(xué)的意義觀對(duì)比表

圖1 關(guān)于“ENTER”的認(rèn)知圖式形成過(guò)程的圖示[6](P33)

這樣的“可視化”圖式當(dāng)然包含了明確的身體指涉。說(shuō)得更清楚一點(diǎn)，這樣的概念圖示預(yù)設(shè)了概念的使用者具有這樣的身體經(jīng)驗(yàn)：自主移動(dòng)身體，從一個(gè)源點(diǎn)出發(fā)，沿著一定的路徑，進(jìn)入一個(gè)“容器”，并由此使得自己成為一個(gè)“容納物”。換言之，一個(gè)從來(lái)沒(méi)有移動(dòng)過(guò)自己的身體，甚至從來(lái)沒(méi)有觀察到其他物體之移動(dòng)的語(yǔ)言處理系統(tǒng)，恐怕是無(wú)法真正把握“ENTER”圖式，并由此真正把握“進(jìn)入”這個(gè)概念的含義的。

而在從屬于“圖式”的各個(gè)“圖式要素”中，“轄域”(scope)這個(gè)術(shù)語(yǔ)亦與“具身性”有著密切的關(guān)聯(lián)。在認(rèn)知語(yǔ)言學(xué)語(yǔ)境中，“轄域”指的是一個(gè)目標(biāo)概念在被聚焦時(shí)，語(yǔ)用主體的注意力在語(yǔ)義網(wǎng)中所能夠覆蓋的周遭范圍。其中與核心區(qū)域較近的周遭范圍叫“直接轄域”，而注意力的最大范圍邊界便是“最大轄域”。譬如，對(duì)于“肘部”這個(gè)概念來(lái)說(shuō)，其直接轄域就是“胳膊”，其最大轄域就是“身體”；而對(duì)于“鉸鏈”這個(gè)概念來(lái)說(shuō)，“門”就是其直接轄域，“房屋”則是其最大轄域。同時(shí)，也正因?yàn)槿魏我粋€(gè)被聚焦的對(duì)象與其直接轄域之間的連帶關(guān)系，我們的自然語(yǔ)言表達(dá)式往往只允許該對(duì)象與相關(guān)直接轄域的概念名彼此連綴為復(fù)合名詞(如“肩胛骨”“門鉸鏈”等)，而不允許該對(duì)象跳過(guò)直接轄域，與更寬泛轄域的概念名彼此連綴為復(fù)合名詞(如“體胛骨”“房鉸鏈”等)。[6](P64～65)

而之所以說(shuō)基于“轄域”的認(rèn)知語(yǔ)言學(xué)敘述方式體現(xiàn)了“具身性”的要素，乃是因?yàn)椋喝魏巍拜犛颉钡拇嬖诰匈囉谄溥吔绲拇嬖冢魏巍拜犛颉边吔绲拇嬖谟钟匈囉谡J(rèn)知主體視野范圍的大小，而認(rèn)知主體視野范圍的大小則最終又取決于其身體的特性。換言之，“轄域”的特征歸根結(jié)底還是由認(rèn)知主體的身體特性所塑造。為了更形象地說(shuō)明這一點(diǎn)，我們不妨設(shè)想一下《格列佛游記》中“大人國(guó)”與“小人國(guó)”居民可能的概念認(rèn)知圖式所具有的“轄域”。譬如，對(duì)于一個(gè)大人國(guó)的居民來(lái)說(shuō)，他所注意到的整個(gè)人類房屋恐怕就只有正常人類所看到的一塊豆腐那么大，在這樣的情況下，“鉸鏈”對(duì)于“門”的直接從屬關(guān)系將因?yàn)轱@得過(guò)于“微觀”而變得可被忽略。而與之相對(duì)比，對(duì)于小人國(guó)的居民來(lái)說(shuō)，正常人類尺度上的“房屋”卻可能因?yàn)椤斑^(guò)于宏大”而無(wú)法成為其所聚焦的某些(對(duì)人類而言的)微觀對(duì)象的轄域；甚而言之，小人國(guó)的認(rèn)知語(yǔ)言學(xué)家們恐怕還會(huì)開(kāi)發(fā)出一系列對(duì)正常人類而言匪夷所思的概念，以便對(duì)他們眼中圍觀對(duì)象的轄域進(jìn)行描述，如在將“鉸鏈”作為聚焦對(duì)象的前提下，提到“鉸鏈近側(cè)”“鉸鏈遠(yuǎn)側(cè)”，等等。

那么，以上說(shuō)的這些，與倫理學(xué)有什么關(guān)系？與人工智能倫理學(xué)又有何關(guān)系？

首先可以肯定的是，倫理學(xué)所研究的社會(huì)規(guī)范本身往往就帶有“身體圖式”的印記。讓我們不妨來(lái)想想在周遭社會(huì)中遇到的種種社會(huì)規(guī)范所具有的語(yǔ)言表達(dá)吧！比如：“這是軍事禁地！禁止入內(nèi)！”(這個(gè)表達(dá)預(yù)設(shè)了關(guān)于“進(jìn)入”的身體圖式)“行車時(shí)不能擠占公交車道！”(這個(gè)表達(dá)預(yù)設(shè)了“擠占”這個(gè)概念的身體圖式)“不許占據(jù)別人的財(cái)物！”(這個(gè)表達(dá)式預(yù)設(shè)了“占據(jù)”是一個(gè)將遠(yuǎn)離身體的非轄域轉(zhuǎn)化為其近側(cè)轄域的動(dòng)態(tài)過(guò)程)“不許殺人！”(這個(gè)表達(dá)式預(yù)設(shè)了被涉及的人類身體的確具有終止別的人類身體的生物學(xué)機(jī)能的物理能力)不難想象，如果上述這些關(guān)于身體圖式的預(yù)設(shè)全部被抽空的話，那么我們就很可能會(huì)憑空造出一些讓人不知所云的社會(huì)規(guī)范，如：“永遠(yuǎn)不能擠占銀河系之外的空間！”“永遠(yuǎn)都不能通過(guò)吐口水的方式來(lái)淹死長(zhǎng)頸鹿！”……這也就從認(rèn)知語(yǔ)言學(xué)的角度印證了漢密爾頓—麥金太爾路線的倫理學(xué)研究思路，即：倫理學(xué)規(guī)范的內(nèi)容是某種生物學(xué)需要的或直接或間接的再包裝，而不是脫離了這些需要的純精神臆造物。

而上述的研究思路一旦被推廣到人工智能倫理學(xué)——尤其是機(jī)器倫理學(xué)——領(lǐng)域內(nèi)，就會(huì)立即觸發(fā)如下的問(wèn)題：既然沒(méi)有任何科學(xué)方面的理由使得“小人國(guó)”或“大人國(guó)”尺度上的智能機(jī)器人無(wú)法被制造出來(lái)(且不論這么做在倫理上是否合適)，那么，我們又如何保證這樣的機(jī)器人所具有的“認(rèn)知圖式”會(huì)與人類的“認(rèn)知圖式”彼此合拍呢？而如果這種“合拍性”無(wú)法被保證的話，我們又如何保證同樣建立在機(jī)器人自身身體圖式之上的機(jī)器人的倫理規(guī)范能夠與人類既有的倫理規(guī)范相合拍呢？而如果后一種“合拍性”也無(wú)法被保證的話，我們又如何保證這樣的智能機(jī)器人不會(huì)對(duì)人類既有的社會(huì)秩序構(gòu)成威脅呢？

為了使筆者所表達(dá)的上述疑慮不顯得那么空洞，在此還想表達(dá)兩個(gè)補(bǔ)充性意見(jiàn)。其一，在筆者看來(lái)，任何智能機(jī)器人——如果其具有真正意義上的全面智能的話——所具有的語(yǔ)言智能，都應(yīng)當(dāng)包括對(duì)于身體圖式的識(shí)解能力(無(wú)論它的身體構(gòu)造是怎樣的，也無(wú)論它是如何獲取這種識(shí)解能力的)。之所以如此判斷，則是基于如下推理：機(jī)器人所使用的符號(hào)若要與外部環(huán)境產(chǎn)生有效的、富有靈活性的互動(dòng)的話，就必須對(duì)使用特定符號(hào)的典型語(yǔ)境有所把握，而身體圖式恰恰是濃縮了此類典型語(yǔ)境信息的最佳推理中介。因此，認(rèn)知語(yǔ)言學(xué)家關(guān)于人類認(rèn)知圖式的很多理論，至少就其哲學(xué)精神而言是適用于未來(lái)人工智能體的。至于如何找到合適的編程手段來(lái)體現(xiàn)認(rèn)知語(yǔ)言學(xué)的原則，則是另外一個(gè)話題了。其二，在筆者看來(lái)，如果兩類智能體(無(wú)論是人造的還是自然的)在身體圖式上存在著時(shí)空尺度上的巨大差異的話，那么這兩個(gè)話語(yǔ)體系之間的轉(zhuǎn)譯成本就會(huì)顯得非常巨大，甚至有時(shí)會(huì)變得不可轉(zhuǎn)譯(我們不妨設(shè)想一下：倘若螞蟻也會(huì)說(shuō)漢語(yǔ)的話，它們“爬”概念的身體圖式就會(huì)與我們?nèi)祟惖摹芭馈庇泻艽蟮牟町?。這一觀察對(duì)于倫理規(guī)范編制的直接影響就是：機(jī)器人很可能會(huì)因?yàn)闊o(wú)法識(shí)解人類倫理規(guī)范所隱藏的身體圖式，而無(wú)法識(shí)解整條規(guī)范(比如，被完全做成海豚狀的水下機(jī)器人會(huì)因?yàn)闊o(wú)法理解“踩踏”概念而無(wú)法理解“禁止踩踏人類”這條規(guī)范的意義)。退一步講，如果這些機(jī)器人語(yǔ)言智能的發(fā)達(dá)程度已經(jīng)達(dá)到了允許其通過(guò)內(nèi)部的類比推理來(lái)間接把握人類身體圖式的地步，那么，它們由此所理解的人類社會(huì)規(guī)范對(duì)其而言也只具有一種抽象的意義(而非實(shí)踐的意義)，因?yàn)檫@樣的規(guī)范實(shí)在離它們自己的“生活形式”太遠(yuǎn)。在此情況下，我們就很難指望這樣的智能機(jī)器人會(huì)嚴(yán)肅地對(duì)待人類的社會(huì)規(guī)范，并在此基礎(chǔ)上成為人類所期望的工作與生活中有用的幫手。

基于以上的討論，在筆者看來(lái)，為了防止種種對(duì)人類不利的情況出現(xiàn)，機(jī)器倫理學(xué)家就必須預(yù)先阻止“完整意義上的語(yǔ)義智能”與“與人類的時(shí)空尺度迥然不同的身體構(gòu)造”這兩項(xiàng)因素在同一個(gè)機(jī)器人身上的結(jié)合。而要做到這一點(diǎn)，從邏輯上看，我們就只有三個(gè)選項(xiàng)：

選項(xiàng)一：姑且可以去建造與人類的時(shí)空尺度迥異的機(jī)器人(比如非常微小的納米機(jī)器人)，但是不賦予其高級(jí)語(yǔ)義智能，即不賦予其在復(fù)雜環(huán)境下獨(dú)立、靈活地做出決策的能力(在這種情況下，此類機(jī)器人的智能顯然是不足以豐富到足以將“身體圖式”予以內(nèi)部表征的地步的)。

選項(xiàng)二：在將人類意義上的靈活智能賦予機(jī)器人的時(shí)候，必須要保證其身體界面與人類的身體界面沒(méi)有時(shí)空尺度與性能表現(xiàn)上的重大差異?；蛘f(shuō)得更清楚一點(diǎn)，這樣的機(jī)器人不能比人類跑得快太多或強(qiáng)悍太多，但也不能比人類慢太多或脆弱太多。甚至我們要鼓勵(lì)更多的人形機(jī)器人的開(kāi)發(fā)，使得機(jī)器人與人類之間能夠形成基于“身體上的彼此承認(rèn)”的“共情感”。套用麥金太爾式的“需要倫理學(xué)”的話語(yǔ)框架，也可以這么說(shuō)：我們必須在硬件構(gòu)造上就使機(jī)器人產(chǎn)生對(duì)其他機(jī)器人特別是人類的“需要”，就像人類社會(huì)中的任何一個(gè)成員在生物學(xué)意義上需要他人才能夠生存一樣。

選項(xiàng)三：我們可以將富有靈活智能的機(jī)器人與比較“愚笨”的機(jī)器人臨時(shí)組合起來(lái)，讓前者去操控后者，就像人類自己也會(huì)臨時(shí)地去操控相對(duì)缺乏自主智能的機(jī)械一樣(在這種情況下，兩類機(jī)器人之間組合的“臨時(shí)性”，可以依然保證高智能機(jī)器人自身認(rèn)知圖式的“擬人性”不被破壞)。但需要注意的是，切不可將這兩類機(jī)器人的臨時(shí)組合長(zhǎng)久化以催生某種對(duì)人類不利的新的認(rèn)知圖式，就像人類自己也只能在特殊情況下才允許士兵去使用真槍實(shí)彈一樣。

當(dāng)然，除了以上三個(gè)選項(xiàng)之外，筆者也不排除：在某種特殊情況下(比如在某些對(duì)人類而言極度危險(xiǎn)的作業(yè)環(huán)境下)，我們將不得不把“完整意義上的語(yǔ)義智能”與“與人類的時(shí)空尺度迥然不同的身體構(gòu)造”這兩項(xiàng)因素予以永久性地結(jié)合。但即使如此，我們也至少要保證此類機(jī)器人與主流人類社會(huì)沒(méi)有廣泛的空間接觸，以維護(hù)人類社會(huì)的安全。

如果用一句話來(lái)概括筆者論點(diǎn)，那便是：太聰明的人工智能并不構(gòu)成對(duì)人類的威脅。且毋寧說(shuō)，太聰明的人工智能與超強(qiáng)的外圍硬件設(shè)備的恒久組合形式，才會(huì)構(gòu)成對(duì)人類的威脅，因?yàn)榕c人類迥異的身體圖式本身就會(huì)塑造出一個(gè)與人類不同的語(yǔ)義網(wǎng)絡(luò)，并由此使人類的傳統(tǒng)道德規(guī)范很難附著于其上?；诖送评?，人工智能倫理學(xué)的研究方向應(yīng)當(dāng)“由軟轉(zhuǎn)硬”，即從對(duì)軟件編制規(guī)范的探討，轉(zhuǎn)向研究“怎樣的外圍硬件才允許與人工智能的中央處理器進(jìn)行接駁”這一嶄新的問(wèn)題。

不過(guò)，正如筆者已在前文所提及的，筆者的上述觀點(diǎn)是與人工智能倫理學(xué)的主流意見(jiàn)相左的。在下一節(jié)中，我將回過(guò)頭來(lái)再對(duì)這些主流見(jiàn)解進(jìn)行簡(jiǎn)要的評(píng)述。

三、主流人工智能倫理學(xué)研究對(duì)于具身性的忽視

首先應(yīng)當(dāng)看到的是，就當(dāng)下的發(fā)展?fàn)顟B(tài)而言，“人工智能倫理學(xué)”依然是一門非常不成熟的學(xué)科分支。實(shí)際上，即使在世界范圍內(nèi)，推動(dòng)“人工智能倫理學(xué)”研究的并不是學(xué)院內(nèi)部的力量，而主要是各國(guó)官方與企業(yè)的力量，其背后的動(dòng)機(jī)與企圖也帶有非常強(qiáng)的應(yīng)景性，并不是立足于學(xué)科發(fā)展的內(nèi)部邏輯。譬如，有軍方背景的人工智能倫理學(xué)家主要關(guān)心的是“能夠自動(dòng)開(kāi)火的機(jī)器人”所應(yīng)當(dāng)遵循的倫理規(guī)范問(wèn)題；[7](P49～67)歐洲議會(huì)在2016年發(fā)布的一份建議性文件甚至討論了將在歐盟范圍內(nèi)把被普遍承認(rèn)的民權(quán)準(zhǔn)則賦予機(jī)器人的問(wèn)題。[8]在筆者看來(lái)，這兩項(xiàng)問(wèn)題的提出均已超越了目前人工智能的實(shí)際發(fā)展水平，并帶有明顯的“消費(fèi)議題”的嫌疑，因?yàn)樵谡J(rèn)知語(yǔ)言學(xué)的相關(guān)學(xué)術(shù)洞見(jiàn)還沒(méi)有被人工智能的編程作業(yè)消化的前提下，現(xiàn)有的人工智能系統(tǒng)的語(yǔ)義表征能力實(shí)際上都是不足以編碼任何人類意義上的道德規(guī)范的——無(wú)論這樣的人工智能系統(tǒng)的使用環(huán)境是軍用的還是民用的。更有甚者，在夸張當(dāng)下人工智能發(fā)展水平的前提下，近年來(lái)物理學(xué)家霍金在各種場(chǎng)合都在散布“人工智能威脅論”，[9](P62～104)并在公眾中制造了一些不必要的恐慌。在筆者看來(lái)，這種“憂患意識(shí)”就好比是在一個(gè)核裂變的物理學(xué)方程式還未被搞清楚的時(shí)代就去擔(dān)心核戰(zhàn)的危險(xiǎn)，的確只是現(xiàn)代版的“杞人憂天”罷了。

另外，也正是因?yàn)閰⑴c上述討論的各界人士其實(shí)并沒(méi)有將有關(guān)人工智能研究的相關(guān)語(yǔ)義學(xué)與語(yǔ)言哲學(xué)問(wèn)題想透，他們忽略了“身體圖式”對(duì)于倫理規(guī)則表征的奠基性意義，并因?yàn)檫@種忽略而錯(cuò)過(guò)了人工智能倫理學(xué)研究的真正重點(diǎn)。譬如，研究軍用機(jī)器人的相關(guān)倫理學(xué)專家所執(zhí)著的核心問(wèn)題——是否要賦予軍用機(jī)器人以自主開(kāi)火權(quán)——本身便是一個(gè)不著邊際的問(wèn)題。在筆者看來(lái)，只要投入戰(zhàn)爭(zhēng)的機(jī)器人具有全面的語(yǔ)義智能(這具體體現(xiàn)在：它能夠理解從友軍作戰(zhàn)平臺(tái)上傳送而來(lái)的所有指令與情報(bào)的語(yǔ)義，能夠?qū)钠鋫鞲衅髦械玫降牡讓訑?shù)據(jù)轉(zhuǎn)化為語(yǔ)義信息，并具有在混雜情報(bào)環(huán)境中靈活決策的能力，等等)，在原則上我們就可以憑借它們的這種語(yǔ)義智能對(duì)其進(jìn)行“道德教化”，并指望它們像真正的人類戰(zhàn)士那樣知道應(yīng)當(dāng)在何種情況下開(kāi)火。在軍事倫理的語(yǔ)境中更需要被提出的問(wèn)題乃是“我們是否允許將特定的武器與機(jī)器人戰(zhàn)士的‘身體’直接、恒久地接駁”，因?yàn)檫@種直接接駁肯定會(huì)改變機(jī)器人戰(zhàn)士的身體圖式，并由此使人類對(duì)它們的“教化”變得困難。

而在相對(duì)學(xué)院化的圈子里，至少在人工智能倫理學(xué)的范圍內(nèi)，對(duì)于具身化問(wèn)題的討論其實(shí)也不是很夠。即使是哲學(xué)家德瑞福斯(Hubert Dreyfus)多年來(lái)所一直鼓吹的“具身性的人工智能”路徑，[10]在具體技術(shù)路線上也與認(rèn)知語(yǔ)言學(xué)其實(shí)并無(wú)多大交集，而且他也尚未將關(guān)于“具身性”的觀點(diǎn)延展到人工智能倫理學(xué)的領(lǐng)域。至于前面已引用過(guò)的瓦拉赫與艾倫合寫(xiě)的《道德機(jī)器——如何教會(huì)機(jī)器人“對(duì)”與“錯(cuò)”》一書(shū)，[4]雖然在行文中的確時(shí)常流露出“要使機(jī)器人的道德決策機(jī)制更接近人類”的思想傾向，卻也并沒(méi)有在評(píng)述業(yè)界既有技術(shù)路線的同時(shí)，給出一條富有獨(dú)創(chuàng)性的技術(shù)路線來(lái)實(shí)現(xiàn)這樣的思想傾向。因此，無(wú)論在學(xué)院外部還是內(nèi)部，本文所提出的以“身體圖式構(gòu)建”為理論基石的人工智能倫理學(xué)研究路徑，的確算是一條比較新穎的思路。不過(guò)，限于篇幅，本文并沒(méi)有勾勒出將此類身體圖式構(gòu)建與具體的計(jì)算機(jī)編程作業(yè)相互結(jié)合的技術(shù)路線圖。而相關(guān)的研究，顯然需要另外一篇論文去完成了。

[1] Hamilton, W D.The GeneticalEvolution of Social Behavior[J]. Journal of Theoretical Biology, 1964，7(1).

[2] MacIntyre,Alasdair. Dependent Rational Animals: Why Human Beings Need the Virtues[M]. Open Court, 1999.

[3] Wilson, E O. Sociobiology: The New Synthesis[M].Cambridge, MA: Belknap Press, 2000.

[4] Wallach, W and Allen, C. Moral Machines: Teaching Robots Right from Wrong[M]. Oxford: Oxford University Press, 2009.

[5] Lakoff, G. Women, Fire, and Dangerous Things: What Categories Reveals about the Mind[M].Chicago: University of Chicago Press,1987.

[6] Langacker, Ronald. Cognitive Grammar: A Basic Introduction[M]. Oxford: Oxford University Press, 2008.

[7] Lin, P, et al.. Robots in War: Issues of Risks and Ethics[A]. Capurro, R. and Nagenborg, M. Ethics and Robotics[C]. Heidelberg: Akademische Verlagesgesellschaft AKA GmbH, 2009.

[8] European Commission. European Parliament, Committee on Legal Affairs. Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics[Z/OL].http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//NONSGML%2BCOMPARL%2BPE-582.443%2B01%2BDOC%2BPDF%2BV0//EN.

[9] Dreyfus, H. Why Heideggerian AI Failed and How Fixing it Would Require Making it More Heideggerian[A]. Julian Kiverstein and Michael Wheeler. Heidegger and Cognitive Science[C]. New York: Palgrave Macmillan, 2012.

[10] Matyszczyk, Chris. Hawking: AI Could be “the Worst Thing Ever for Humanity”[Z/OL]. https://www.cnet.com/news/hawking-ai-could-be-the-worst-thing-ever-for-humanity/.

Embodiment,CognitiveLinguisticsandEthicsofArtificialIntelligence

XU Yingjin
(School of Philosophy, Fudan University, Shanghai 200433, China)

The issue on how to make ethical codes “computable” in order to build artificial moral agents (AMA) is fundamentally a semantic issue on how to semantically represent the relevant norms by appealing to some proper algorithms. However, unfortunately, the mainstream semantic theories employed in artificial intelligence (AI) are problematic in this aspect or another; and more unfortunately, the mainstream studies in the ethics of artificial intelligence haven’t realized the relevance of semantic considerations to ethics yet. What the author of this paper intends to propose include three points. Firstly, cognitive linguistics (CL), especially its notion of “cognitive schema”, could be a useful resource for building the needed semantic framework for AI; secondly, due to the fundamental status of the notion of “embodiment” in the whole CL-narrative, we can hardly imagine any semantic representations of ethical codes in the case of of designing AMAs if these representations are not based on certain physical features of the “bodies” of AMAs; thirdly, due to the preceding considerations, issues like “what kind of peripheral equipment is allowed to be permanently connected to the information-processing center of a certain AMA” should be put on the table for all ethicists of AI.

ethics of artificial intelligence, cognitive linguistics, cognitive schema, embodiment, semantics

TP18

A

1004-8634(2017)06-0005-(08)

10.13852/J.CNKI.JSHNU.2017.06.001

2017-09-01

國(guó)家社科基金一般項(xiàng)目“自然語(yǔ)言的智能化處理與語(yǔ)言分析哲學(xué)研究”(13BZX023)；國(guó)家社科基金重大項(xiàng)目“基于信息技術(shù)哲學(xué)的當(dāng)代認(rèn)識(shí)論研究”(15ZDB020)

徐英瑾，上海人，教育部長(zhǎng)江學(xué)者獎(jiǎng)勵(lì)計(jì)劃青年學(xué)者，復(fù)旦大學(xué)哲學(xué)學(xué)院教授，博士生導(dǎo)師，主要從事認(rèn)知科學(xué)哲學(xué)、人工智能哲學(xué)、知識(shí)論、維特根斯坦哲學(xué)等研究。

(責(zé)任編輯：知 魚(yú))