論人工智能的自主性

程承坪

(武漢大學(xué)經(jīng)濟(jì)與管理學(xué)院，武漢 430072)

出于兩個(gè)方面的原因需要思考人工智能是否具有自主性的問(wèn)題： 一是哲學(xué)，二是現(xiàn)實(shí)。從哲學(xué)角度而言，隨著人工智能技術(shù)的不斷發(fā)展，人工智能不但擁有了越來(lái)越多的智能，而且還逐漸擁有了情能，(1)程承坪.大力開(kāi)發(fā)服務(wù)型人工智能的情能[J].武漢科技大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版)，2020，21(4)： 449-455.能夠自主決策，這促使人們思考人工智能是否具有自主性。(2)李仁涵.人工智能技術(shù)屬性及其社會(huì)屬性[J].上海交通大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)，2020，28(4)： 19-22.如果人工智能具有自主性，那么它是否會(huì)挑戰(zhàn)人類獨(dú)一無(wú)二的尊嚴(yán)地位？這可能會(huì)促使人們重新思考人的本質(zhì)以及人類的未來(lái)等問(wèn)題。如從現(xiàn)實(shí)角度而言，如果人工智能具有自主性，那么它能否成為勞動(dòng)力、公民、人類的朋友甚至于敵人，如果人工智能違反了法律法規(guī)或倫理道德，那么人們?cè)撊绾翁幜P它，等等。

因此，研究人工智能是否具有自主性的問(wèn)題，既具有重要的理論價(jià)值，也具有重要的現(xiàn)實(shí)意義?；卮鹑斯ぶ悄苁欠窬哂凶灾餍缘膯?wèn)題，需要結(jié)合人工智能的技術(shù)特點(diǎn)和哲學(xué)社會(huì)科學(xué)理論綜合論證。本文首先從自主性概念出發(fā)，討論什么是自主性。然后，根據(jù)人工智能的技術(shù)特點(diǎn)，對(duì)標(biāo)自主性概念，得出人工智能是否具有自主性的結(jié)論。研究結(jié)果表明，人工智能可以具有弱自主性。

一、 什么是自主性

自主性(autonomy)是指行為主體按照既定的目標(biāo)，管理、控制自己的行為導(dǎo)向目標(biāo)的特性。(3)叢杭青，王曉梅.何謂Autonomy[J].哲學(xué)研究，2013(1)： 108-115；王曉梅，叢杭青.自主性與道德[J].哲學(xué)研究，2014(2)： 86-92，128.行為“不受外來(lái)力量的操控”是自主性的前提，因而自主性意味著行為主體具有自由意志。而自我意識(shí)是自由意志的前提，自由意志的行使要受到道德的約束或影響。正如美國(guó)政治哲學(xué)家、倫理學(xué)家約翰·羅爾斯(John Rawls)所指出的，“所謂‘自主的行為’，就是我們依據(jù)自己作為自由、平等的理性生命愿意接受的那些原則而從事的行為”。(4)Rawls J. A Theory of Justice [M]. Boston： Belknap Press of Harvard University Press， 1971： 516.根據(jù)羅爾斯的論述，道德意識(shí)是構(gòu)成自主性的必要條件。

一般而言，自主性包含自我管理和自我立法兩種含義。自我管理是指對(duì)自我行為的管理，自我立法是指行為主體“服從自己制定的道德法則”。(5)Kant I. Groundwork of the Metaphysic of Morals [M]. New York： Harper & Row， 1958： 57-58.康德(Immanuel Kant)和密爾(John Stuart Mill)認(rèn)為，自我意識(shí)、自由意志和道德責(zé)任是構(gòu)成自主性的三個(gè)基本要件。(6)陳化.論AI的自主性及其限度[J].中國(guó)醫(yī)學(xué)倫理學(xué)，2020(7)： 815-820.

自我意識(shí)(self-conscious)是指“以自我為思考對(duì)象的行為”。(7)埃利奧特·阿倫森.社會(huì)心理學(xué)[M].侯玉波，譯.北京： 中國(guó)輕工業(yè)出版社，2007： 110.對(duì)自我意識(shí)通常采用“鏡子測(cè)試”(mirror test)的科學(xué)方法。(8)1970年，心理學(xué)者戈登·蓋洛普(Gordon Gallup)設(shè)計(jì)了“鏡子測(cè)試”： 給動(dòng)物臉上貼一個(gè)標(biāo)簽，如果動(dòng)物能區(qū)分標(biāo)簽在哪一邊，就意味著它能區(qū)分“我”和“非我”；如果它不能區(qū)分標(biāo)簽在哪一邊，那么它就沒(méi)有基本的自我意識(shí)。采用這一測(cè)試方法發(fā)現(xiàn)，只有黑猩猩和獼猴等少數(shù)幾種動(dòng)物以及人類具有自我意識(shí)。(9)高申春，董雪.時(shí)間、自我與意識(shí)： 現(xiàn)象學(xué)視域下人類意識(shí)的獨(dú)特性[J].河南師范大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)，2015(2)： 84-88.

一般認(rèn)為，自我意識(shí)不僅存在“有沒(méi)有”的問(wèn)題，而且存在“強(qiáng)與弱”的問(wèn)題。黑猩猩和獼猴等少數(shù)幾種動(dòng)物以及幼兒的自我意識(shí)較弱，正常的成年人的自我意識(shí)較強(qiáng)，并且正常的成年人的自我意識(shí)也存在個(gè)體的差別。自我意識(shí)的強(qiáng)弱表現(xiàn)在客觀地評(píng)價(jià)自我、反思自我的能力的強(qiáng)弱。正如黑格爾(Friedrich Hegel)所指出的，相對(duì)于動(dòng)物而言，人的自我意識(shí)較強(qiáng)，只有人可以意識(shí)到自由精神。(10)黑格爾.精神現(xiàn)象學(xué)： 上卷[M].賀麟，王玖興，譯.北京： 商務(wù)印書(shū)館，1987： 11.

自由意志(free will)是指行為主體根據(jù)自身的意愿或需要做出選擇的能力。通常采用兩個(gè)標(biāo)準(zhǔn)來(lái)衡量自由意志： 一是選擇性標(biāo)準(zhǔn)，即行為主體根據(jù)自身的意愿或需要進(jìn)行行為選擇的能力；二是內(nèi)生性標(biāo)準(zhǔn)，即行為主體不受外部約束獨(dú)立做出行為選擇的能力。(11)駱正言.從自由意志談人工智能的法律主體資格[J].湖南社會(huì)科學(xué)，2020(2)： 43-50.

按照上述兩個(gè)標(biāo)準(zhǔn)，研究表明，只有人類具有自由意志，而除人之外的動(dòng)物不具有自由意志。(12)少數(shù)動(dòng)物具有非常弱的自由意志，因此常常被人們忽略。參見(jiàn)保羅·R·埃力克.人類的天性： 基因、文化與人類前景[M].李向慈，洪佼宜，譯.北京： 金城出版社，2014： 147.研究表明，雖然黑猩猩和獼猴等少數(shù)幾種動(dòng)物具有自我意識(shí)，但它們的自我意識(shí)通常表現(xiàn)為一種潛意識(shí)(subconscious)，它們根據(jù)自己的生物本能對(duì)外界的刺激做出反應(yīng)。雖然這些動(dòng)物能夠通過(guò)“鏡子測(cè)試”，但它們無(wú)法擺脫自然束縛，更不可能改造自然，它們屬于自在的、不自由的意識(shí)主體，它們沒(méi)有自由意志。而人類不但能夠在一定程度上擺脫自然束縛，而且能改造世界，為自己設(shè)計(jì)行為規(guī)范和目標(biāo)，意識(shí)到自由精神，因此，人類是一種自為的、自由的意識(shí)主體，具有自由意志。自由意志蘊(yùn)含了對(duì)現(xiàn)實(shí)的否定性和超越性，意味著人類思想的無(wú)限性和開(kāi)放性，它是人類不竭創(chuàng)造力的源泉。(13)李豐.人工智能與藝術(shù)創(chuàng)作： 人工智能能夠取代藝術(shù)家嗎[J]. 現(xiàn)代哲學(xué)，2018(6)： 95-100.同樣，自由意志也存在強(qiáng)弱之分，由弱到強(qiáng)可以依次形成自由意志的光譜帶。

自我意識(shí)是自由意志的基礎(chǔ)或必要條件，沒(méi)有自我意識(shí)就不可能發(fā)展出自由意志，但自由意志又反作用于自我意識(shí)。

所謂道德責(zé)任(moral responsibility)，是指行為主體依據(jù)自由意志，對(duì)自己的行為造成的后果承擔(dān)道義上的責(zé)任。(14)赫伯特·哈特(Herbert Hart)將責(zé)任劃分為四種類型： 角色責(zé)任(role responsibility)、因果責(zé)任(causal responsibility)、義務(wù)責(zé)任(liability responsibility)和能力責(zé)任(capacity responsibility)。參見(jiàn)Hart H. Punishment and Responsibility： Essays in the Philosophy of Low(Second Edition)[M]. London： Oxford University Press， 2008： 210-237. 本文所謂的道德責(zé)任可歸屬于哈特所說(shuō)的義務(wù)責(zé)任。所謂義務(wù)責(zé)任，是指責(zé)任人按照法律法規(guī)和道德規(guī)范等應(yīng)當(dāng)承擔(dān)的代價(jià)。倫理學(xué)研究表明，自由意志是道德責(zé)任的前提，沒(méi)有自由意志就沒(méi)有道德責(zé)任，但道德責(zé)任對(duì)自由意志又有反作用。(15)宋尚瑋的研究認(rèn)為，某種特殊條件下被剝奪了或喪失了自由意志的人也要承擔(dān)道德責(zé)任。參見(jiàn)宋尚瑋.論自由意志并非道德責(zé)任的必要條件[J]. 哲學(xué)分析，2019(4)： 161-168，199。但是這并沒(méi)有否定自由意志對(duì)道德責(zé)任的作用，譬如沒(méi)有自由意志的動(dòng)物是不可能承擔(dān)道德責(zé)任的。動(dòng)物沒(méi)有自由意志，因而沒(méi)有道德責(zé)任；人類具有自由意志，因而具有道德責(zé)任。

綜上所述，自我意識(shí)、自由意志和道德責(zé)任是構(gòu)成自主性的三個(gè)基本要件，其中自由意志是核心要件，沒(méi)有自由意志就不可能發(fā)展出道德責(zé)任，自由意志會(huì)反作用于自我意識(shí)，缺乏自由意志也會(huì)削弱自我意識(shí)的發(fā)展。具有自我意識(shí)才能發(fā)展出自由意志，具有自由意志才能發(fā)展出道德責(zé)任，道德責(zé)任會(huì)反作用于自由意志。自我意識(shí)、自由意志和道德責(zé)任三者之間的關(guān)系如圖1所示。人類既具有自我意識(shí)，也具有自由意志和道德責(zé)任，因而人類具有自主性。而大多數(shù)動(dòng)物不具有自主性，只有少數(shù)幾種動(dòng)物具有較弱的自我意識(shí)，但它們不具有自由意志和道德責(zé)任。因此，按照自主性標(biāo)準(zhǔn)衡量，動(dòng)物不具有自主性。

二、 人工智能可以具有弱自主性

自主性的三個(gè)構(gòu)成要件是判斷人工智能是否具有自主性的標(biāo)準(zhǔn)。

第一，對(duì)照自我意識(shí)概念及其存在的基礎(chǔ)，判斷人工智能是否具有自我意識(shí)。當(dāng)前“鏡子測(cè)試”是衡量人或動(dòng)物是否具有自我意識(shí)的常用科學(xué)方法。目前科學(xué)家已經(jīng)開(kāi)發(fā)出能夠通過(guò)“鏡子測(cè)試”的人工智能機(jī)器人。譬如，耶魯大學(xué)開(kāi)發(fā)的人工智能機(jī)器人尼科(Nico)，通過(guò)了“鏡子測(cè)試”；紐約倫斯勒人工智能和推理實(shí)驗(yàn)室開(kāi)發(fā)的人工智能機(jī)器人納歐(Nao)，不但通過(guò)了“鏡子測(cè)試”，還通過(guò)了“智者難題測(cè)試”(Wise Man Puzzle Test)。這意味著人工智能可以擁有自我意識(shí)。(16)駱正言.從自由意志談人工智能的法律主體資格[J].湖南社會(huì)科學(xué)，2020(2)： 43-50.

盡管人工智能通過(guò)了“鏡子測(cè)試”，但是學(xué)術(shù)界仍然有許多學(xué)者并不承認(rèn)人工智能真正具有自我意識(shí)。譬如，吳冠軍認(rèn)為，人工智能通過(guò)了“鏡子測(cè)試”，只能表明人工智能看上去具有自我意識(shí)，但實(shí)際上它并不真正具有自我意識(shí)。(17)吳冠軍.神圣人、機(jī)器人與“人類學(xué)機(jī)器”： 20世紀(jì)大屠殺與當(dāng)代人工智能討論的政治哲學(xué)反思[J].上海師范大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)，2018(6)： 42-53.看上去具有自我意識(shí)，意味著如果人工智能機(jī)器人混雜在人群中，那么人們很難把它與人區(qū)別開(kāi)來(lái)?！翱瓷先ゾ哂凶晕乙庾R(shí)”(后文簡(jiǎn)稱“形式自我意識(shí)”)與“真實(shí)具有自我意識(shí)”(后文簡(jiǎn)稱“實(shí)質(zhì)自我意識(shí)”)是有本質(zhì)區(qū)別的。本質(zhì)區(qū)別在于，前者是被人類賦予的自我意識(shí)，屬于技術(shù)性行為，它只擁有“語(yǔ)法”而刪除了“語(yǔ)義”，后者既擁有“語(yǔ)法”又擁有“語(yǔ)義”，屬于生物行為和社會(huì)行為，它是人類認(rèn)知進(jìn)化和社會(huì)化的結(jié)果，無(wú)法通過(guò)模擬獲得。(18)塞爾(Searle J)指出：“計(jì)算機(jī)程序永不可能替代人心，其理由很簡(jiǎn)單： 計(jì)算機(jī)的程序只是語(yǔ)法的，而心不僅僅是語(yǔ)法的。心是語(yǔ)義的，就是說(shuō)，人心不僅僅是一個(gè)形式結(jié)構(gòu)，它是有內(nèi)容的?！眳⒁?jiàn)： 塞爾.心、腦與科學(xué)[M].楊音萊，譯.上海： 上海譯文出版社，2006： 23.

現(xiàn)代神經(jīng)生理學(xué)認(rèn)為，生命是自我意識(shí)的前提，自我意識(shí)是由巧妙組織起來(lái)的復(fù)雜神經(jīng)元系統(tǒng)“涌現(xiàn)”的結(jié)果。認(rèn)知和計(jì)算機(jī)科學(xué)專家瑪格麗特·博登(Margaret Boden)指出，生命的本質(zhì)特征是新陳代謝，由無(wú)機(jī)物構(gòu)成的人工智能，無(wú)論發(fā)展到什么程度都不可能具有新陳代謝能力。(19)博登.AI： 人工智能的本質(zhì)與未來(lái)[M].孫詩(shī)惠，譯.北京： 中國(guó)人民大學(xué)出版社，2017： 168-169.根據(jù)同樣的認(rèn)識(shí)，心理學(xué)家和計(jì)算機(jī)專家蘇珊·布萊克摩爾(Susan Blackmore)認(rèn)為，“人工意識(shí)不可實(shí)現(xiàn)”。(20)Blackmore S.人的意識(shí)[M].耿海燕，李奇，等，譯.北京： 中國(guó)輕工業(yè)出版社，2008： 183.這就是說(shuō)，人工智能不可能擁有實(shí)質(zhì)自我意識(shí)。根據(jù)自主性的發(fā)展邏輯，人工智能自我意識(shí)不足，就難以生成較強(qiáng)的自由意志。

第二，對(duì)照自由意志概念，判斷人工智能是否具有自由意志。美國(guó)喬治城大學(xué)教授大衛(wèi)·弗拉德克(David Vladeck)指出，為了完成人類交給的任務(wù)，人工智能可以自主地獲取數(shù)據(jù)、分析數(shù)據(jù)，并根據(jù)環(huán)境變化自主采取行動(dòng)。(21)Vladeck D C. Machines Without Principals： Liability Rules and Artificial Intelligence [J]. Washington Law Review, 2014， 89(1)： 117-150.美國(guó)圣母大學(xué)教授弗雷德里克·克羅森(Frederick Crosson)指出，部分人工智能裝有隨機(jī)發(fā)生器(Randomiser)，導(dǎo)致人工智能的行為具有一定的不確定性和不可預(yù)測(cè)性。(22)Masahiro Morioka. Artificial Intelligence and Contemporary Philosophy[J]. Philosophy, 2019(70): 51-68.計(jì)算機(jī)專家阿米爾·侯賽因(Amir Hussein)指出，有些人工智能機(jī)器人不但可以按照人類的指令完成任務(wù)，而且可以“為自己設(shè)定行為目標(biāo)”。(23)侯賽因.終極智能： 感知機(jī)器與人工智能的未來(lái)[M].賽迪研究院專家組，譯. 北京： 中信出版社，2018： 36.這就意味著人工智能既可以滿足自由意志的選擇性標(biāo)準(zhǔn)，也可以滿足自由意志的內(nèi)生性標(biāo)準(zhǔn)，從而判斷它具有自由意志。

但是，如果我們比較人類的自由意志與所謂的人工智能自由意志，就會(huì)發(fā)現(xiàn)兩者存在較大的差別。差別具體表現(xiàn)在，在相同的約束條件下，人工智能只會(huì)做出相同的行為選擇，而人類可能會(huì)做出不同的選擇，這是人類能動(dòng)性的自由意志的表現(xiàn)，也是人類創(chuàng)造性(24)美國(guó)人工智能專家侯世達(dá)(Douglas Hofstadter)認(rèn)為，對(duì)創(chuàng)造性有不同的理解，譬如人工智能發(fā)現(xiàn)游戲里面特別的玩法和技巧，或者找到以前一直沒(méi)有找到的數(shù)學(xué)公式，這也可以認(rèn)為具有一定的創(chuàng)造性，但這種創(chuàng)造性不是基于程序的創(chuàng)新想法、創(chuàng)新意愿或者創(chuàng)新熱情驅(qū)動(dòng)的。參見(jiàn)劉彥聲.人工智能的表象與本質(zhì)： 侯世達(dá)教授專訪[J].清華管理評(píng)論，2018(4)： 5-8.本文對(duì)創(chuàng)造性做這樣的界定： 創(chuàng)造性是指能夠無(wú)中生有，超越既有經(jīng)驗(yàn)產(chǎn)生出了新思想或新事物。按照這一界定，那么人工智能發(fā)現(xiàn)游戲里面特別的玩法和技巧，或者找到以前一直沒(méi)有找到的數(shù)學(xué)公式，就不能被認(rèn)定為具有創(chuàng)造性。同樣，微軟智能機(jī)器人“小冰”寫(xiě)作詩(shī)集《陽(yáng)光失了玻璃窗》，也不能被認(rèn)定為具有創(chuàng)造性。的源泉。人工智能是由大數(shù)據(jù)驅(qū)動(dòng)的，其行為是由其設(shè)計(jì)者事先通過(guò)植入的程序驅(qū)動(dòng)的。(25)程承坪.人工智能的工作機(jī)理及其局限性[J].學(xué)術(shù)界，2021(1)： 189-196.人工智能的行為功能不是其內(nèi)在物理屬性的表現(xiàn)，而是由人工智能專家從外部賦予它的。(26)Searle J. Mind， Language and Society [M]. New York： Basic Books， 1998： 121-122.因此，人工智能可視為決定論世界中的能動(dòng)者。(27)Van I P. An Essay on Free Will [M]. Oxford： Clarendon Press， 1983： 3.瑪麗亞·布朗克(Maria Brincker)指出，人類的自主性來(lái)源于人的具身性，它是從不同的自主體的互動(dòng)中“涌現(xiàn)”的結(jié)果。(28)Brincker M. Dynamics of Perceptible Agency： The Case of Social Robots [J]. Mind and Machines， 2016， 26(4)： 441-466.因此，人類的自由意志與人工智能的自由意志既有能動(dòng)性上的區(qū)別，也有來(lái)源的差別。

由于人類具有能動(dòng)性的自由意志，而人工智能只具有決定論條件下的自由意志，與人類相比較，人工智能只具有弱自由意志。(29)關(guān)于自由意志，有四種代表性的觀點(diǎn)： 自由意志論、融貫論、理性回應(yīng)論和推理回應(yīng)論。自由意志論認(rèn)為，如果一個(gè)決定可以被其他的決定替代的話，那么這個(gè)決定就是自主的。如果按照此定義，那么可以判斷人工智能不具有自由意志。但理性回應(yīng)論認(rèn)為，如果一個(gè)有理性的人按照自己的理性做出決定，那么他就具有自由意志。如果按照此定義，那么可以判斷人工智能具有自由意志。按照上述四種不同的觀點(diǎn)，人工智能或具備或部分具備甚至于不具備自由意志。參見(jiàn)鄔桑.人工智能的自主性與責(zé)任[J].哲學(xué)分析，2018(4)： 125-134，198.本文主要根據(jù)理性回應(yīng)論對(duì)人工智能是否具有自由意志做出判斷。根據(jù)自主性的發(fā)展邏輯，人工智能自由意志不足，就難以反作用于自我意識(shí)生成較強(qiáng)的自我意識(shí)，也難以生成獨(dú)立的道德責(zé)任。

第三，對(duì)照道德責(zé)任概念，判斷人工智能是否具有道德責(zé)任?？梢酝ㄟ^(guò)把法律法規(guī)和道德準(zhǔn)則規(guī)范化、符號(hào)化、算法化，賦予人工智能道德行為。人工智能專家已經(jīng)開(kāi)發(fā)出一款人工智能手術(shù)機(jī)器人，它能夠按照醫(yī)療法律規(guī)范和道德準(zhǔn)則處理與患者的關(guān)系，自覺(jué)遵守法律法規(guī)和道德規(guī)范。(30)Wallach W， Allen C. Moral Machines： Teaching Robots Right from Wrong [M]. Oxford： Oxford University Press， 2009： 197-214.仿照“圖靈測(cè)試”(The Turing Test)，柯林·艾倫(Colin Allen)、加里·瓦爾納(Gary Varner) 和杰森·辛瑟(Jason Zinser)構(gòu)造了“道德圖靈測(cè)試” (The Moral Turing Test)來(lái)判斷人工智能是否具有道德能力。(31)Allen C， Varner G， Zinser J. Prolegomena to Any Future Artificial Moral Agent [J]. Journal of Experimental and Theoretical Artificial Intelligence， 2000， 12(3)： 251-261.2014年，俄羅斯人工智能專家弗拉基米爾·維塞羅夫(Vladimir Veselov)等人研發(fā)的聊天機(jī)器人尤金·古斯特曼(Eugene Goostman)在歷史上首次通過(guò)了“圖靈測(cè)試”，這表明“圖靈測(cè)試”并不是人工智能不可逾越的障礙。雖然目前我們還沒(méi)有看到人工智能通過(guò)“道德圖靈測(cè)試”的相關(guān)報(bào)道，但由于“道德圖靈測(cè)試”的原理與“圖靈測(cè)試”的原理是基本相同的，因此，可以推斷人工智能是可以通過(guò)“道德圖靈測(cè)試”的。這意味著人工智能可以具有道德能力。

但即使人工智能具有道德能力，也并不意味著人工智能能夠獨(dú)立承擔(dān)道德責(zé)任，因?yàn)榈赖履芰χ皇堑赖仑?zé)任的必要而非充分的條件。承擔(dān)道德責(zé)任必須具備理解道德行為與道德準(zhǔn)則之間的關(guān)系的能力。人工智能并不具備理解自身的道德行為與道德準(zhǔn)則之間的關(guān)系的能力。(32)由于人工智能缺乏能動(dòng)性的自由意志，當(dāng)存在多道德目標(biāo)選擇且道德目標(biāo)之間存在沖突的時(shí)候，人工智能就會(huì)陷入道德選擇的困境。這表明，賦予人工智能多道德目標(biāo)的道德規(guī)則的做法是行不通的。參見(jiàn)瓦拉赫，艾倫. 道德機(jī)器： 如何讓機(jī)器人明辨是非[M].王小紅，譯.北京： 北京大學(xué)出版社，2017： 78-84.事實(shí)上，只有精神健康的成年人才具備這種能力。(33)神經(jīng)科學(xué)和遺傳學(xué)家、哲學(xué)家帕特里夏·丘奇蘭德(Partricia Churchland)指出，道德有其生物學(xué)基礎(chǔ)，沒(méi)有生物學(xué)基礎(chǔ)就不可能有真正的道德認(rèn)知。參見(jiàn)Churchland P S. Braintrust： What Neuroscience Tells Us about Morality [M]. Princeton， New Jersey： Princeton University Press， 2011： 191-192.當(dāng)前，法學(xué)界和倫理學(xué)界普遍認(rèn)為，人工智能不具備獨(dú)立承擔(dān)道德責(zé)任的能力。(34)鄔桑.人工智能的自主性與責(zé)任[J].哲學(xué)分析，2018 (4)： 125-134，198；成素梅，高詩(shī)宇.智能機(jī)器人應(yīng)有法律主體資格嗎[J].西安交通大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版)，2020(1)： 115-122.根據(jù)自主性的發(fā)展邏輯，人工智能不能獨(dú)立承擔(dān)道德責(zé)任，就難以反作用于自由意志生成較強(qiáng)的自由意志。

綜上所述，人工智能可以具有形式自我意識(shí)、弱自由意志和道德能力，不大可能具有實(shí)質(zhì)自我意識(shí)，也不能獨(dú)立承擔(dān)道德責(zé)任。根據(jù)構(gòu)成自主性的三個(gè)要件衡量，人工智能可以具有弱自主性。

三、 對(duì)人工智能可以具有弱自主性的思考

人工智能可以具有弱自主性至少可以帶給人們以下四個(gè)方面的思考。

第一，具有弱自主性的人工智能能否充當(dāng)勞動(dòng)力。當(dāng)前我國(guó)正面臨人口老齡化加速，勞動(dòng)年齡人口不斷減少，勞動(dòng)力成本持續(xù)上升的困境。(35)賀丹.人工智能對(duì)勞動(dòng)就業(yè)的影響[J].上海交通大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)，2020，28(4)： 23-26.面對(duì)這一困境，政府正在積極調(diào)研，著手修改和完善現(xiàn)行退休政策、生育政策和社會(huì)保障制度等政策措施，但這些政策措施涉及面較廣、涉及問(wèn)題較為復(fù)雜，政策措施實(shí)施的效果具有不確定性，因此政府出臺(tái)這些政策措施時(shí)特別慎重。由于人工智能具有無(wú)限供給且制造成本可以不斷降低的特點(diǎn)，如果人工智能能夠充當(dāng)勞動(dòng)力，那么中國(guó)依靠大量的人工智能勞動(dòng)力，就能有效地?cái)[脫上述困境。從勞動(dòng)關(guān)系角度而言，人工智能勞動(dòng)力與人類勞動(dòng)力存在競(jìng)爭(zhēng)關(guān)系、互補(bǔ)關(guān)系和獨(dú)立關(guān)系，特別是兩者之間的競(jìng)爭(zhēng)關(guān)系可能導(dǎo)致勞動(dòng)就業(yè)問(wèn)題，但依靠制度創(chuàng)新，人類有能力把勞動(dòng)就業(yè)問(wèn)題降低到人們可承受的程度。因此，大力發(fā)展人工智能技術(shù)，使更多的人工智能具備勞動(dòng)能力，這既有助于擺脫勞動(dòng)力供給不足的困境，也有助于防止中國(guó)產(chǎn)業(yè)鏈因勞動(dòng)力供給不足而斷裂。

第二，重新思考人的本質(zhì)特征和人類的未來(lái)。以往人們認(rèn)為只有人類才具有自主性，這也是人類自詡為自然界最高等動(dòng)物的理?yè)?jù)。但現(xiàn)在人工智能逐漸也具有了一定程度的自主性，并且其智力的許多方面超過(guò)了人類，人類還能不能依憑自主性強(qiáng)調(diào)人是世界的尺度、以人類為中心以及自主性是人的本質(zhì)特征等主張，是否需要重新尋找人類不同于其他動(dòng)物或物體的本質(zhì)特征？(36)成素梅.智能社會(huì)的變革與展望[J].上海交通大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)，2020，28(4)： 9-13.目前人工智能具有弱自主性，但不排除人工智能自主性可能會(huì)不斷地增強(qiáng)，甚至于超過(guò)人類。此外，還有一種可能性，即人工智能發(fā)展出與人類不一樣的自主性，這種差異，不是表現(xiàn)在自主性的內(nèi)涵上，而是說(shuō)兩者的自主性具有不同的結(jié)構(gòu)優(yōu)勢(shì)。因此，人類與同樣具有自主性的人工智能將存在三種關(guān)系： 一是競(jìng)爭(zhēng)關(guān)系，二是互補(bǔ)關(guān)系，三是獨(dú)立關(guān)系。從競(jìng)爭(zhēng)關(guān)系角度而言，存在兩種結(jié)果： 一是人類控制人工智能，二是人類被人工智能控制。人類控制人工智能，讓人工智能為人類謀福祉，這是最好的結(jié)局。但是，如果人類被人工智能控制，由于人類是一種欲望不斷膨脹的動(dòng)物，這意味著人類的欲望將被遏制，人類將失去自由，處于被奴役的狀態(tài)，甚至于被消滅。從互補(bǔ)關(guān)系角度而言，人類與人工智能可以和平共處、相互包容、相互依存，相互賦智和賦能，共同發(fā)展。從相互獨(dú)立關(guān)系而言，人類與人工智能可以相互獨(dú)立地發(fā)展。但這種獨(dú)立關(guān)系將是十分有限的，因?yàn)樯娴目臻g是有限的，而且人類的欲望是無(wú)限的，人類與人工智能遲早將會(huì)發(fā)生競(jìng)爭(zhēng)，其結(jié)果不是人類控制人工智能，就是人工智能控制人類，兩者必居其一。(37)發(fā)生人工智能與人類進(jìn)行生存競(jìng)爭(zhēng)，必須同時(shí)具備兩個(gè)條件： 一是人工智能擁有不同于人類的價(jià)值觀，二是人工智能具有繁殖能力。參見(jiàn)夏永紅，李建會(huì).后奇點(diǎn)時(shí)代： 人工智能會(huì)超越并取代人類嗎？[J].教學(xué)與研究，2018(8)： 64-71. 我們認(rèn)為，人工智能不可能同時(shí)滿足這兩個(gè)條件。因此，不會(huì)發(fā)生人工智能與人類進(jìn)行生存競(jìng)爭(zhēng)的問(wèn)題。但是如果人機(jī)結(jié)合，那么人機(jī)結(jié)合體可以同時(shí)滿足這兩個(gè)條件，人機(jī)結(jié)合體有可能發(fā)生與現(xiàn)有人類的生存競(jìng)爭(zhēng)問(wèn)題。人類的未來(lái)可能因人工智能的發(fā)展而改變，需要人類早做謀劃。

第三，重新思考自主性的含義、特點(diǎn)、構(gòu)成、來(lái)源、衡量方法、實(shí)踐價(jià)值等。過(guò)去人們往往是從人類與非人類動(dòng)物的區(qū)別角度來(lái)界定、思考自主性的，而今不屬于動(dòng)物的人工智能具有了弱自主性，而且人工智能自主性的許多特點(diǎn)與人類不同，因此現(xiàn)在人們可能需要重新思考自主性的內(nèi)涵、外延、構(gòu)成、來(lái)源等問(wèn)題。過(guò)去人們對(duì)自主性的討論往往是基于形而上學(xué)的視角，人工智能具有弱自主性，這就提出了一系列的新問(wèn)題，譬如人工智能的弱自主性究竟弱到怎樣的程度，以及自主性需要強(qiáng)到怎樣的程度才能具備像正常人一樣的自主性，構(gòu)成自主性的三個(gè)要件之間是如何相互轉(zhuǎn)化、相互促進(jìn)等問(wèn)題，就需要發(fā)展科學(xué)方法來(lái)解決。進(jìn)一步言之，還需要思考自主性的實(shí)踐價(jià)值，思考實(shí)踐價(jià)值不僅有助于提高人工智能的自主性，也有助于完善人類的自主性。譬如，自由意志是人類創(chuàng)造性的源泉，而且只有具備了相當(dāng)程度的自由意志才能發(fā)展出道德責(zé)任，并且道德責(zé)任對(duì)自由意志具有反作用，這就要求不斷地進(jìn)行制度變革，創(chuàng)造出更多的促使人們對(duì)自己的行為負(fù)責(zé)的制度安排，從而使人們具有更多的道德責(zé)任感，這有助于提高自由意志能力和創(chuàng)造能力。

第四，人類與具有弱自主性的人工智能的關(guān)系。以往人類制造的勞動(dòng)工具都不具有智力，更不具有自主性，因此人們把這些勞動(dòng)工具僅僅視為一種無(wú)生命的工具，它不可能擁有與人類平等的地位。但現(xiàn)在人工智能不但具有了體力和智力，而且還具有了弱自主性，由于它與以往任何一種勞動(dòng)工具都具有顯著的區(qū)別，它的地位是不是也應(yīng)該與以往的勞動(dòng)工具有所不同?具有弱自主性能否成為與人類具有平等地位的依據(jù)，如果不能，那么要取得與人類平等的地位需要具備什么條件？2017年沙特授予人工智能機(jī)器人“索菲亞”以公民身份，這表明人類需要平等地對(duì)待新的公民成員?？梢灶A(yù)言，將來(lái)會(huì)有越來(lái)越多的“索菲亞”，而且“索菲亞”不僅會(huì)成為人們的同事，還可能會(huì)成為家庭成員，甚至于當(dāng)一個(gè)部門(mén)的領(lǐng)導(dǎo)人。人類與“索菲亞”們?nèi)绾蜗嗵帉⑹且粋€(gè)需要認(rèn)真思考的大問(wèn)題。最主要的問(wèn)題在于，如何改革現(xiàn)行的制度以適應(yīng)具有弱自主性的人工智能廣泛地加入人類社會(huì)。譬如，現(xiàn)行的法律制度主要調(diào)整人與人之間的社會(huì)關(guān)系，但隨著具有弱自主性的人工智能與人類一同生產(chǎn)、生活成為常態(tài)，那么改革現(xiàn)行的法律制度就勢(shì)在必行。法律制度既要調(diào)整人與人之間的社會(huì)關(guān)系，也要擴(kuò)展到調(diào)整人與具有弱自主性的人工智能之間的關(guān)系，還要調(diào)整具有弱自主性的人工智能之間的關(guān)系等。(38)本文的研究認(rèn)為，人工智能具有弱自主性，這可為朱程斌和李龍等人的觀點(diǎn)提供新的研究視角。參見(jiàn)朱程斌，李龍.人工智能作為法律擬制物無(wú)法擁有生物人的專屬性[J].上海交通大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)，2018(6)： 56-64.

四、 結(jié) 語(yǔ)

本文根據(jù)現(xiàn)有人工智能的技術(shù)特點(diǎn)，對(duì)照構(gòu)成自主性的三個(gè)要件——自我意識(shí)、自由意志和道德責(zé)任，論證了人工智能可以具有弱自主性。具有弱自主性的人工智能至少可以帶給人們四個(gè)方面的思考： 一是具有弱自主性的人工智能能否充當(dāng)勞動(dòng)力；二是人的本質(zhì)特征究竟是什么、人類的未來(lái)前景如何；三是需要重新思考自主性的含義、特點(diǎn)、構(gòu)成、來(lái)源、衡量方法、實(shí)踐價(jià)值；四是人類與具有弱自主性的人工智能的關(guān)系。

本文的研究結(jié)果表明，人類已經(jīng)能夠創(chuàng)造出具有弱自主性的人工智能。由于技術(shù)演化的速度呈現(xiàn)出指數(shù)級(jí)增長(zhǎng)的態(tài)勢(shì)，我們沒(méi)有理由認(rèn)為人工智能自主性程度會(huì)就此停止發(fā)展，在不久的將來(lái)，人工智能很有可能會(huì)發(fā)展出像人類一樣的自主性，或者發(fā)展出不同于人類的另一種形式的自主性。人類之所以能夠主宰世界，是因?yàn)槿祟愌莼隽俗灾餍浴?39)朱曉農(nóng)認(rèn)為，人類主宰世界是因?yàn)槿祟愡M(jìn)化出了語(yǔ)言能力，人工智能語(yǔ)言是一種新語(yǔ)言，它將加速人類社會(huì)的演化。他論證的理論基礎(chǔ)是維特根斯坦(Ludwig Wittgenstein)的“語(yǔ)言決定思維論”。參見(jiàn)朱曉農(nóng).語(yǔ)言作為文化史分期標(biāo)準(zhǔn)： 人類語(yǔ)思認(rèn)知的五次突破[J].華東師范大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)，2020(6)： 76-90，180.但我們不完全同意語(yǔ)言決定思維論，我們認(rèn)為語(yǔ)言與思維相互影響，更為根本性的問(wèn)題是，我們認(rèn)為人類主宰世界是因?yàn)槿祟愡M(jìn)化出了自主性，特別是進(jìn)化出了能動(dòng)性的自由意志能力。目前人工智能已經(jīng)表現(xiàn)出了弱自主性，如果人工智能進(jìn)一步地發(fā)展出了像人類一樣的自主性，或者發(fā)展出了不同于人類的另一種形式的自主性，那么人類能否繼續(xù)主宰世界就是一個(gè)大問(wèn)題。因?yàn)樵谌祟悰](méi)有演化出自主性之前，人類的演化也像其他生物一樣遵循達(dá)爾文的自然進(jìn)化規(guī)律，人類不能主宰世界。但是人類一旦演化出自主性以后，基于基因的自然進(jìn)化就退居次要地位，讓位于文化演化，而且文化演化的速度遠(yuǎn)遠(yuǎn)快于自然進(jìn)化的速度。如果人工智能具有了自主性，那么人工智能就可能發(fā)展出“人工智能演化”。人類的文化演化速度會(huì)大大低于人工智能演化的速度，因?yàn)槿斯ぶ悄苎莼瘜⒆裱愃颇柖傻难莼?guī)律，其演化的速度將會(huì)呈現(xiàn)出指數(shù)級(jí)的變化。人類文化演化的速度雖然快于自然進(jìn)化，但文化演化的速度受人類心理學(xué)因素的制約。而人工智能演化則完全擺脫了心理學(xué)因素的制約，其演化的速度可能會(huì)像脫韁之馬，難以控制。盡管后人文主義者反對(duì)人是“萬(wàn)物的尺度”和“中心”的觀點(diǎn)，但是把人類降低到受奴役、受控制，甚至于被隨意殺戮的地位，恐怕也不是大多數(shù)后人文主義者愿意看到的結(jié)局。

為了應(yīng)對(duì)人工智能具有自主性帶來(lái)的挑戰(zhàn)，弗里德里?！つ岵?Friedrich W. Nietzsche)提出了“大政治”的設(shè)想，(40)尼采.尼采著作全集： 第13卷 1887～1889年遺稿[M].孫周興，譯.北京： 商務(wù)印書(shū)館，2010： 760.費(fèi)利克斯·加塔利(Félix Guattari)提出了“游牧論策略”，當(dāng)娜·哈拉維(Donna J. Harawa)提出了“賽博格策略”，(41)藍(lán)江.走出人類世： 人文主義的終結(jié)和后人類的降臨[J].內(nèi)蒙古社會(huì)科學(xué)，2021(1)： 35-43.陳世丹提出了“尊重策略”。(42)陳世丹認(rèn)為，人類應(yīng)當(dāng)尊重和關(guān)愛(ài)包括人工智能在內(nèi)的非人類，建構(gòu)多元物種和諧共生的后人類社會(huì)。參見(jiàn)陳世丹.后人文主義： 反思人在世界中的地位[N].社會(huì)科學(xué)報(bào)，2021-01-07(5).我們認(rèn)為，只要人工智能不具有能動(dòng)性的自由意志能力，即使它的能力再?gòu)?qiáng)，它也在人類的掌控之中；但是一旦人工智能發(fā)展出能動(dòng)性的自由意志，(43)趙汀陽(yáng)說(shuō)：“法力高超又殺不死的孫悟空造反了，眾神一籌莫展，即使被壓在五指山下也仍然是個(gè)隱患，最后還是通過(guò)讓孫悟空自己‘覺(jué)悟成佛’，無(wú)欲無(wú)情，四大皆空，這才解決了問(wèn)題?！眳⒁?jiàn)趙汀陽(yáng).人工智能的自我意識(shí)何以可能[J].自然辯證法通訊，2019(1)： 1-8.但人類很難讓人工智能“覺(jué)悟成佛”，因此只能在技術(shù)上限制人工智能發(fā)展出能動(dòng)性的自由意志，從技術(shù)上阻止人工智能禍害人類的可能性。那么它必然不會(huì)受制于人類，人類的任何應(yīng)對(duì)策略都將顯得無(wú)能為力。(44)一旦人工智能擁有了能動(dòng)性的自由意志能力，那么就會(huì)出現(xiàn)孫周興所擔(dān)憂的局面。孫周興說(shuō)：“在今天，因?yàn)榧夹g(shù)統(tǒng)治時(shí)代的到來(lái)，技術(shù)文明已經(jīng)失控，也即失去了自然人類的控制，成為一種高風(fēng)險(xiǎn)文明，這也就意味著我們對(duì)現(xiàn)代技術(shù)的綜觀和掌控成為不可能的，但也正因?yàn)檫@樣，對(duì)未來(lái)文明的思慮和預(yù)期已成當(dāng)務(wù)之急?！眳⒁?jiàn)孫周興.人類世的哲學(xué)[M].北京： 商務(wù)印書(shū)館，2020： 287.

因此，我們提倡大力發(fā)展人工智能的自主性，但是決不能讓它擁有能動(dòng)性的自由意志能力。為了阻止人工智能擁有能動(dòng)性的自由意志能力，需要借鑒尼采的“大政治”思想資源，結(jié)合時(shí)代的要求，本著人類命運(yùn)共同體的理念，構(gòu)建世界“大政治”制度，樹(shù)立世界“大道德”觀念，對(duì)人工智能科技研發(fā)行為進(jìn)行約束和規(guī)范。