人工智能的責(zé)任困境：以自主能動性和道德圖靈測試為探討中心

黃素珍

(上海師范大學(xué) 哲學(xué)與法政學(xué)院哲學(xué)系，上海 200234)

人工智能被認(rèn)為是一種在機(jī)器上模擬、實現(xiàn)和延伸人類智能的技術(shù)，近幾十年來這種技術(shù)經(jīng)歷了一個從以計算能力為核心的計算智能、以語音識別和圖像識別為核心的感知智能的發(fā)展歷程后，現(xiàn)在進(jìn)入了認(rèn)知智能的迅猛發(fā)展階段，并深入到在物理性狀上模擬人腦的生物性神經(jīng)結(jié)構(gòu)和功能，成為具有深度學(xué)習(xí)和高度自主控制能力的系統(tǒng)。一方面，人工智能被設(shè)計成即便脫離了人類的即時控制，仍然能夠憑借其模擬認(rèn)知神經(jīng)網(wǎng)絡(luò)而具備獲取和重新組織新的知識、根據(jù)不同的具體情景改變自適應(yīng)性等功能，并據(jù)此持續(xù)作出合理的決策和獨(dú)立行動。在可預(yù)見的未來，它們的行為將越來越深入地影響人類的生活。另一方面，當(dāng)高度自動化的人工智能由于能夠自我調(diào)整以適應(yīng)具體的工作任務(wù)，生產(chǎn)商對這一學(xué)習(xí)過程不再干預(yù)，而使用者往往無法清楚地理解和評估機(jī)器內(nèi)部的算法機(jī)制與決策邏輯，難以預(yù)測其行為后果，對人工智能的行動決定權(quán)似乎已從人類手中轉(zhuǎn)移到以算法和數(shù)據(jù)為核心技術(shù)的人工智能自己身上，加之設(shè)計者、開發(fā)者、生產(chǎn)者、使用者等相關(guān)主體與人工智能的行為后果之間缺乏清晰的、可追溯的因果關(guān)系，這就帶來一系列嚴(yán)重的道德責(zé)任歸屬和分配問題。已經(jīng)出現(xiàn)或可預(yù)見的困境包括：金融服務(wù)機(jī)器人如果根據(jù)大數(shù)據(jù)技術(shù)而自主作出導(dǎo)致投資者損失的金融交易決策，它能否對此負(fù)責(zé)；無人駕駛汽車如果撞傷行人或破壞開放領(lǐng)域內(nèi)的私人財物，該事故應(yīng)該由誰負(fù)責(zé)；脫離人力控制的軍事機(jī)器人能否對誤擊平民的軍事打擊負(fù)有戰(zhàn)爭責(zé)任；醫(yī)療服務(wù)機(jī)器人是否需要對因其醫(yī)療決定而導(dǎo)致的醫(yī)療事故負(fù)責(zé)，或輔助安樂死的人工智能能否具備對人類生命質(zhì)量的識見而代替病人做出醫(yī)療決策。

這些已經(jīng)發(fā)生或很有可能發(fā)生的實踐困境在三個方面挑戰(zhàn)了傳統(tǒng)責(zé)任觀的條件：(1)在認(rèn)知條件上，如果人類主體不了解或無法預(yù)測人工智能行為造成的后果，我們傾向于不對人類主體進(jìn)行責(zé)任歸屬；(2)在因果條件上，如果人類主體的意圖、意愿、決定等與人工智能的行為后果缺乏明確的因果關(guān)系，也無法因果性地控制該行為的發(fā)生與否，我們似乎也難以將其歸責(zé)；(3)在心理條件上，人工智能模擬人類大腦神經(jīng)的內(nèi)部算法機(jī)制似乎能夠自主產(chǎn)生與人類主體類似的決策、推理和行動能力，不受外部干涉和控制，那么人工智能而非相關(guān)的人類主體似乎可以甚至在實踐上有必要被歸責(zé)。此外，即使我們認(rèn)為(1)(2)不足以消解人類主體的責(zé)任，但在人類設(shè)計者、開發(fā)者、生產(chǎn)者和使用者等多主體共同參與的情況下，我們?nèi)匀蝗狈Υ_定的標(biāo)準(zhǔn)把人工智能具體的行為后果的責(zé)任在這些主體之間進(jìn)行恰當(dāng)?shù)臍w屬和分配。這就會帶來兩個理論后果：要么我們承認(rèn)人工智能具有道德行動者(moral agent)的地位，但很可能由此消解人類主體的責(zé)任；要么我們始終承認(rèn)人類主體要對人工智能的行為后果負(fù)責(zé)，但仍然缺乏與傳統(tǒng)責(zé)任條件不同的責(zé)任歸屬和分配標(biāo)準(zhǔn)。

本文試圖以自主能動性和道德圖靈測試為兩個探討維度，指出以深度自適應(yīng)學(xué)習(xí)能力和自主控制能力為核心功能的人工智能因其缺乏道德心理學(xué)方面的特性，因此不能在本體論和規(guī)范性層面成為“充分的道德行動者”，但在解釋性或描述性層面，人工智能作為“潛在的或隱性的道德行動者”在實踐必要性的意義上應(yīng)當(dāng)被納入人機(jī)復(fù)雜交互環(huán)境的道德責(zé)任的歸屬和分配機(jī)制。只有確定人工智能能否成為道德行動者，抑或始終只能被當(dāng)作執(zhí)行人類意圖的工具，我們才能回應(yīng)在多主體協(xié)作、人機(jī)廣泛交互、后果不確定的情境中人類主體和人工智能各自的責(zé)任性質(zhì)、歸屬和分配的條件，以便為設(shè)計出一個更安全、更可靠的人工智能技術(shù)環(huán)境提供一個構(gòu)建共同體責(zé)任文化的理論支持，以恰當(dāng)?shù)卦u估人類主體和人工智能的倫理風(fēng)險和相應(yīng)責(zé)任。

一、“人工道德行動者”與道德圖靈測試

針對機(jī)器人發(fā)展過程中可能出現(xiàn)的倫理風(fēng)險，早在60多年前艾薩克·阿西莫夫(Isaac Asimov，1920—1992)就預(yù)見到有必要建立道德準(zhǔn)則來指導(dǎo)機(jī)器人的行為，他確立了機(jī)器人三定律：“(1)機(jī)器人不得傷害任一人類個體，也不得因不作為而讓任一人類個體受到傷害；(2)機(jī)器人必須服從人類的命令，除非這種命令與第一定律相沖突；(3)機(jī)器人必須保護(hù)自己的存在，只要這種保護(hù)不違反第一或第二定律?！?1)參見Isaac Asimov, I, Robot. New York: Gnome Press, 1950. 同時參見Isaac Asimov, ‘The bicentennial man’ in The bicentennial man and other stories, New York: Doubleday, 1984.阿西莫夫的機(jī)器人三大道德定律旨在盡量減少沖突，因此，不傷害人類的要求優(yōu)先于服從人類，服從人類勝過機(jī)器人的自我保存。隨后，阿西莫夫在此基礎(chǔ)上加上了優(yōu)先于以上三條的定律——“第零定律”(Zeroth Law)：“機(jī)器人不得傷害人性，也不得因不作為而傷害人性。”(2)同上，同時參見Wendell Wallace, Colin Allen, Moral Machines : Teaching Robots Right from Wrong, London: Oxford University Press, 2009, p. 48.阿西莫夫的機(jī)器人三大定律開啟了機(jī)器倫理(machine ethics)、機(jī)器人倫理(robots ethics)、計算倫理(computing ethics)或人工智能倫理(AI ethics)的先聲，這些理論認(rèn)為有必要以倫理規(guī)范約束人工智能技術(shù)的發(fā)展，以降低其倫理風(fēng)險，提高人類福利和其他社會價值。為了達(dá)到這個目標(biāo)，最好的方式就是在編程層面把基本倫理原則變得是可計算的，從而通過編程的方式將其嵌入機(jī)器的行為機(jī)制中。(3)參見Michael Anderson, Susan Leigh Anderson, “Asimov’s ‘Three Laws of Robotics’ and Machine Metaethics,” in AI and Society (2008) 22:4, pp. 477-493.

艾倫與瓦拉赫認(rèn)為，這種自上而下的進(jìn)路存在三個主要缺陷：首先，它不過是把傳統(tǒng)的規(guī)范倫理學(xué)理論直接應(yīng)用于技術(shù)領(lǐng)域，并且還忽視了新一代人工智能能夠模擬人類神經(jīng)認(rèn)知的機(jī)制，它是一個高度復(fù)雜的自動系統(tǒng)，沒有任何單一的算法能夠因果性地決定某一人工智能的一切行為。第二，這一進(jìn)路忽視了各個規(guī)范倫理學(xué)理論已有的內(nèi)部困難，以及由此帶來的在編程上如何實現(xiàn)“可計算”的問題，例如對于功利主義，什么是效用，以什么標(biāo)準(zhǔn)衡量效用與其他人類價值的沖突，這些問題仍然屬于功利主義內(nèi)部懸而未決的理論問題，更不用說在機(jī)器編程上實現(xiàn)出來功利主義原則。第三，傳統(tǒng)的規(guī)范倫理學(xué)理論的目標(biāo)都旨在追求抽象的普遍性和邏輯上的自洽性，因此難以把實踐中所有相關(guān)的復(fù)雜情況都容納在內(nèi)，因此也就難以斷定針對一類經(jīng)驗情境，采用何種規(guī)范倫理學(xué)理論作為算法原則才是最恰當(dāng)?shù)摹?4)參見Wendell Wallace, Colin Allen, Moral Machines : Teaching Robots Right from Wrong, London: Oxford University Press, 2009.

因此，艾倫與瓦拉赫試圖繞過規(guī)范理論上的普遍分歧，不預(yù)設(shè)道德行動者的本體論或形而上學(xué)前提，也不斷定人工智能能否合乎倫理地行動，而是借用圖靈測試，將其轉(zhuǎn)化成“道德圖靈測試”。圖靈測試源自英國著名數(shù)學(xué)家、計算機(jī)之父阿蘭·圖靈在1950年提出的一個開拓性的問題：“計算機(jī)能夠思考嗎？”他的基本思路是，“機(jī)器如果在某些現(xiàn)實條件下能夠非常好地模仿人類回答問題，以致使回答在相當(dāng)長的時間內(nèi)被誤認(rèn)為它不是機(jī)器，那么機(jī)器就可以被認(rèn)為是能思維的”(5)圖靈測試被公認(rèn)為奠定了人工智能的理論基礎(chǔ)，參見Alan Turing, “Computing Machinery and Intelligence”, Mind, (1950) 59: 236, pp. 433-460. 中譯本參見[英]A·M·圖靈：《計算機(jī)器與智能》，載[英]瑪格麗特·博登：《人工智能哲學(xué)》，劉西瑞、王漢琦譯，上海譯文出版社2001年版，第56-91頁。。圖靈測試的思路預(yù)設(shè)了行為主義和操作主義，智能首要地被定義為語言能力，一個人通過一系列對話(語言行為)，如果不能區(qū)分與他對話的是人抑或機(jī)器，那么就可以認(rèn)定這臺機(jī)器類似一個人類主體，或具有人類的思維智能。艾倫與瓦拉赫的道德圖靈測試延續(xù)了這一基本思想：假設(shè)某人分別與一臺人工智能和另一個人進(jìn)行道德性質(zhì)的對話(例如分別提出以娛樂為目的獵殺動物的行為是否是不道德這類問題)，如果提問者不能以高于一般常人偶然出錯的方式分辨出與他對話的是機(jī)器還是人類，那么我們就可以宣稱這臺機(jī)器是一個“人工道德行動者”(Artificial Moral Agent，下文簡稱AMA)(6)Wendell Wallace, Colin Allen, Moral Machines: Teaching Robots Right from Wrong, London: Oxford University Press, 2009, p. 70. 同時參見Colin Allen, Gary Varner, “Prolegomena to any future artificial moral agent,” Journal of Experimental and Theoretical Artificial Intelligence (2000) 12: 3, pp. 254-255.。這一測試并不預(yù)設(shè)任一道德標(biāo)準(zhǔn)，就算這臺人工智能認(rèn)為獵殺動物的行為在道德上是可接受的，甚至撒謊欺騙對話者，令其相信它是人類，只要它提供了恰當(dāng)?shù)牡赖吕碛?，我們就可以合理地相信它是一個道德行動者。

艾倫認(rèn)為，如果AMA是可能的，那么剩下的問題就是在算法層面上實現(xiàn)AMA，這需要把特定的道德認(rèn)知和道德推理過程轉(zhuǎn)變?yōu)锳MA決策過程的有機(jī)組成部分，將道德規(guī)則程序化或變得是“可計算的”(7)Colin Allen, Gary Varner, “Prolegomena to any future artificial moral agent,” Journal of Experimental and Theoretical Artificial Intelligence (2000) 12: 3, p. 253.。在這一點(diǎn)上，盡管他們承認(rèn)自上而下的進(jìn)路存在諸多缺陷，但仍然采用這一進(jìn)路，以“道義邏輯”的方式在AMA的算法結(jié)構(gòu)上編入可計算的倫理規(guī)范(例如功利主義、義務(wù)論、契約論、雙重效應(yīng)學(xué)說等)。同時，他們也看重“自下而上的進(jìn)路”(a bottom-top approach)，即人工智能在經(jīng)驗性情境中通過案例學(xué)習(xí)(case study)模擬人類的道德行為，調(diào)整或修正事先通過編程而嵌入的算法規(guī)范，從而間接地獲取普遍而抽象的道德規(guī)范在具體情景中的應(yīng)用規(guī)則，并利用它們來指導(dǎo)未來的決策，甚至形成類似人類的社會性情感關(guān)系。為了使這兩條進(jìn)路能夠共同發(fā)揮作用，他們把作為道德決策核心的自主性能力和與道德事實相關(guān)的敏感性能力作為AMA的兩個必要條件，它可以被設(shè)計成可以根據(jù)對規(guī)范的理解作出自主的決策，進(jìn)而決定自己的行為。

但令人困惑的是，艾倫與瓦拉赫并沒有回應(yīng)針對標(biāo)準(zhǔn)圖靈測試提出來的“語義理解”問題是否同樣會發(fā)生在道德圖靈測試上。對標(biāo)準(zhǔn)圖靈測試的經(jīng)典批評來自約翰·塞爾對“強(qiáng)人工智能”的評論，根據(jù)塞爾的觀點(diǎn)，人的心理活動的意向性本質(zhì)必須以大腦的生理—生物特性為基礎(chǔ)，表達(dá)的是對語言的語義理解，而不在于計算機(jī)是否具有與人一樣的外在行為或功能狀態(tài)。計算機(jī)的程序純粹是句法的或語法的，是運(yùn)用形式規(guī)則對抽象的符號進(jìn)行形式操作，而人的心理過程的根本特征在于語義屬性或語義內(nèi)容，即對詞匯形成意義理解或意向性活動，因此計算機(jī)程序不能等同于人類心智。(8)[美]約翰·塞爾：《心靈、大腦與程序》，載[英]瑪格麗特·博登：《人工智能哲學(xué)》，劉西瑞、王漢琦譯，上海譯文出版社2001年版，第92-120頁。與圖靈測試面臨的問題類似，艾倫與瓦拉赫并沒有斷定AMA能否理解和識別對話情境中的倫理要素和道德詞匯的意義，因為要確定一個行動者是否理解和恰當(dāng)使用道德詞匯的語義，遠(yuǎn)比確定它能否理解非道德詞匯要棘手得多。對具體情景中倫理要素的理解是一個社會化建構(gòu)的過程，人類個體在其中逐漸發(fā)展自己對情景中倫理詞匯的“語義學(xué)”的理解能力、同情能力和敏感性，并區(qū)分哪些要素具有道德重要性，哪些沒有，從而形成道德判斷和自身行動的道德理由。機(jī)器為了可以勝任對話，使得人類觀察者確定他是在與一個道德行動者打交道，我們需要假定它必須理解討論中所設(shè)計的全部情境，區(qū)分這些情境中哪些與道德理由相關(guān)，清楚支撐道德話語合理性的社會生活語境，以及理解這些話語對道德主體內(nèi)在狀態(tài)的影響。但為了讓機(jī)器以有意義的方式參與道德對話，它就必須已經(jīng)理解道德話語的意義，而為了達(dá)成對道德話語的語義理解，它必須已經(jīng)參與到道德的社會化建構(gòu)過程，即為了通過道德圖靈測試，它已經(jīng)是一個道德行動者，那么這就犯了循環(huán)論證的錯誤。與之相對，人類主體之所以具備這些能力在于他一直處于主體交互的“生活世界”中，與他人共享一個意義和共情的世界，在此背景中進(jìn)行有意義的道德對話和道德辯護(hù)。沒有任何一種人工智能算法能夠容納生活世界的全部參照信息從而作為啟動應(yīng)用的初始條件，如果有，那么它就添加了道德圖靈測試根本沒有預(yù)設(shè)的大量經(jīng)驗性前提，因而它只能限于用在經(jīng)過高度人工信息過濾和人為設(shè)計的環(huán)境，而這根本不是我們所設(shè)想的人類正常的道德對話情境。

另外一個嚴(yán)重問題在于他們對自主性概念的使用。艾倫和瓦拉赫之所以強(qiáng)調(diào)以“自主性”定義AMA，是因為他們意識到單純強(qiáng)調(diào)用道德規(guī)范從外部約束人工智能設(shè)計者和操作者的行為是不夠的，還需要在人工智能的內(nèi)部結(jié)構(gòu)中設(shè)置能夠進(jìn)行“倫理推理”的算法機(jī)制，即“把倫理放入機(jī)器中”，通過“自上而下”的編程程序和“自下而上”的案例應(yīng)用兩個方面讓AMA成為現(xiàn)實。這背后預(yù)設(shè)了一個道德認(rèn)知主義的前提，即認(rèn)為心靈本質(zhì)上是一個處理信息的機(jī)制，道德決策和道德推理的過程可以類比為計算的過程，因此，計算機(jī)作為一個信息處理系統(tǒng)，只要輸入足夠多的“道德規(guī)則”(算法)和“道德知識”(信息)，那么計算機(jī)就能夠根據(jù)更高層次的規(guī)則將信息應(yīng)用于具體情景，它也就能因此被賦予道德行動者的地位。但他們默認(rèn)使用的自主性概念來自于對當(dāng)代人工智能技術(shù)中自主學(xué)習(xí)能力的觀察，并沒有提出一個關(guān)于自主性的清晰論述，他們看起來更像是未加區(qū)分地就把人工智能脫離人類控制的“自動化”行為類比為人類行動者的“自主性”行為。此外，對自主性概念的簡單化處理導(dǎo)致他們過快地從對人工智能自主能力的經(jīng)驗描述過渡到認(rèn)為它們具有規(guī)范性意義的倫理主體的地位，即在認(rèn)知主義倫理學(xué)的框架內(nèi)把“自主的行動者”等同于“道德行動者”，在這一點(diǎn)上，他們并沒有對自主性與道德能動性之間的關(guān)系展開充分的前提論述。

此外，通過道德圖靈測試的人工智能系統(tǒng)不管其認(rèn)知能力和自主決策能力多么強(qiáng)大，我們?nèi)匀豢梢院侠淼貞岩伤鼈兪欠窬邆涞赖旅舾行浴Ｕ缟衔乃?，即便觀察者通過道德對話，可以確定某一人工智能能夠進(jìn)行道德推理和道德辯論，我們也不能肯定它能以道德敏感性實現(xiàn)事實行為，例如具備共感和同理性，有能力理解他人的感受，對相關(guān)的倫理要素具有敏感性，能夠在復(fù)雜的情況下作出有效的倫理判斷，并能夠評估它們的行為可能帶來的道德和社會后果，例如醫(yī)療服務(wù)機(jī)器人需要衡量病人對物質(zhì)福利的需求和對自主價值的需求。道德敏感性意味著人類行動者總可以質(zhì)疑他被給予的道德要求，但要假定人工智能可以意向性地質(zhì)疑算法給予它的目標(biāo)或經(jīng)過自下而上的方式而獲得的道德知識，這就需要設(shè)置超出道德圖靈測試之外的關(guān)于人工智能是否具有自我意識、意向性、自由意志、自我反思、動機(jī)等內(nèi)在特質(zhì)，而這正是艾倫和瓦拉赫使用圖靈測試所意欲排除的前設(shè)條件。

瓦拉赫已經(jīng)意識到為了讓人工智能能夠以倫理的方式推理和行動而建構(gòu)的AMA仍然面臨某些關(guān)于價值選擇的道德風(fēng)險。(9)參見Wendell Wallach, “Robot minds and Human Ethics: the Need for a Comprehensive Model of Moral Decision Making”, Ethics and Information Technology (2010) 12: 3, pp. 243-250.例如一輛無人駕駛汽車可能面臨是撞向突然沖出馬路的行人以保護(hù)司機(jī)還是緊急剎車但傷害司機(jī)的選擇，一個醫(yī)療服務(wù)機(jī)器人可能面臨為了促進(jìn)病人的福利而喂藥或尊重病人的意愿不喂藥的選擇。在這兩個場景中，這輛已經(jīng)具有深度學(xué)習(xí)能力的無人駕駛汽車和醫(yī)療服務(wù)機(jī)器人“應(yīng)該”作出什么樣的具有道德涵義的決策？它能否“理解”這個場景屬于一個道德兩難困境？我們應(yīng)該根據(jù)什么規(guī)范標(biāo)準(zhǔn)把它作出不同決策而帶來的“道德責(zé)任”歸到它們身上？

（4）銑槽機(jī)施工成槽時對周圍土體擾動較小，一般不容易出現(xiàn)大量漏漿塌槽的現(xiàn)象，小量漏漿時需及時調(diào)整泥漿性能指標(biāo)，補(bǔ)充槽內(nèi)泥漿，同時也應(yīng)在現(xiàn)場儲備足量的粘土、膨潤土、水泥等堵漏材料，以免在造孔過程中遇特殊地層出現(xiàn)槽孔大量漏漿時應(yīng)對不及而導(dǎo)致塌槽，造成施工安全隱患。

因此，即便AMA在決策能力方面具備最低限度的自主性，甚至通過自下而上的學(xué)習(xí)模式，形成了類似人類情緒反應(yīng)的能力，并根據(jù)由算法嵌入的框架和相關(guān)的倫理要素作出道德評估和道德選擇，我們?nèi)匀恍枰吻逡悦枋鲂院鸵?guī)范性兩種維度呈現(xiàn)出來的不同的自主性，繼而在道德心理學(xué)層面判定人工智能能否對它行為后果的“道德對錯”具有不同的實質(zhì)性的語義理解能力和情感反應(yīng)能力。因此，他們通過道德圖靈測試得出AMA可行性的結(jié)論與其說是證成，不如說是“類比”。

二、自主能動性：描述性與規(guī)范性

艾倫與瓦拉赫認(rèn)為，“自主性”是構(gòu)成人工智能之所以成為AMA的要素，這項能力指的是在操作和決策“自主”方面脫離人類控制的自動性和獨(dú)立性。但是艾倫與瓦拉赫對自主性概念的使用存在一個嚴(yán)重問題，如果AMA能夠自主行動并參與到道德情境中，那么它們是否能夠?qū)σ?guī)范作出充分反應(yīng)這一問題就會凸顯出來。為了澄清如何從對人工智能核心能力的描述過渡到它們由此具有道德規(guī)范性意義上的“道德行動者”的本體論地位這一問題，我們需要在行動哲學(xué)與道德哲學(xué)交叉層面闡明自主性概念的描述性和規(guī)范性雙重涵義。

在當(dāng)代行動哲學(xué)中，“自主性”理論的重要源頭之一是由哈里·法蘭克福(Harry Frankfurt)發(fā)展起來的自主性層級模型(hierarchy of autonomy)。法蘭克福試圖以意愿的層級結(jié)構(gòu)和認(rèn)同概念建立一個關(guān)于人類能動性的論證模式，把自主性視作個體通過對低階欲望進(jìn)行批判性反思的認(rèn)同活動，進(jìn)而把人類行動者與其他類型的行動者區(qū)分開來。(10)參見Harry Frankfurt, “Freedom of the Will and the Concept of a Person,” Journal of Philosophy (1971) 68, pp. 829-839.法蘭克福的自主性理論模型沒有直接訴諸傳統(tǒng)形而上學(xué)的“意志”概念，而是以“意愿”(volition)或“欲望”來指向“意志的內(nèi)在組成”(inner organization of the will)，作為行動者概念化自我的手段。通過把個體欲望區(qū)分為“一階欲望”和“二階欲望”，法蘭克福認(rèn)為個體是自主的，或者說他的行為之所以是自主的，乃在于直接激發(fā)行動的一階欲望被二階欲望所“認(rèn)同”(endorsement/identification)(11)參見Harry Frankfurt, The Importance of What We Care About, Cambridge: Cambridge University Press, 1988, pp. 12-25. 中譯本參見[美]哈里·法蘭克福：《事關(guān)己者》，段素革譯，浙江大學(xué)出版社2010年版。。所謂一階欲望指的是行動者對于行動對象的直接欲求或意向，即我們最初形成的想做某件事的心理傾向，而二階欲望是我們對一階欲望的欲求，它反映的是我們經(jīng)過反思性評價并意愿真正實現(xiàn)的欲望。只有得到二階欲望認(rèn)同的一階欲望才是行動者本真的或真正屬己的欲望，這樣出于本真欲望而發(fā)出的行為才能稱得上是自主的選擇和行為。

“認(rèn)同”概念在這里是法蘭克福意愿結(jié)構(gòu)的核心，認(rèn)同是一個心理活動與心智活動的過程，在這個過程中，行動者的意向活動，尤其是欲望，整合成為真正屬于或由行動者所創(chuàng)制(authorize)的東西，通過二階決斷的過程，特定的欲望才能真正“屬于”這個行動者，才能真正表達(dá)行動者的真實意志?！爱?dāng)一個人認(rèn)同自己的欲望的時候，他對它們是能動的，他所作的事是他主動的。”(12)[美]哈里·法蘭克福：《事關(guān)己者》，段素革譯，浙江大學(xué)出版社2010年版，第61頁。行動者通過運(yùn)用認(rèn)同能力，作為二階決斷的結(jié)果真正體現(xiàn)他的自主能動性(autonomous agency)，一個個體行動是自主的，當(dāng)且僅當(dāng)行動者的行動決斷來自于他的本真的反思認(rèn)同；一個個體人格是自主的，當(dāng)且僅當(dāng)他的選擇與行為是他“全心全意”真正欲望的東西，與其“真實自我”相吻合。按照法蘭克福的說法：“一個人對自己的一個二階欲望的認(rèn)同，那個欲望變成了一個二階決斷。那個人因此就擔(dān)負(fù)起對有關(guān)的一階和二階欲望以及這些欲望引導(dǎo)他實現(xiàn)的那些行為的責(zé)任……對于我們內(nèi)心生活，對自我欲望的認(rèn)同……在人類精神性(mentality)的現(xiàn)象學(xué)和哲學(xué)中都起到首要的作用?！?13)Harry Frankfurt, Necessity, Volition, and Love, Cambridge University Press, 1999, p.132.

對欲望/意愿結(jié)構(gòu)的層級性劃分非常簡明地刻畫了人類行動者所具有的傾向性、意向性、主觀性或精神性特質(zhì)，即我們并非按照直接的欲望而行事。二階欲望與一階欲望的區(qū)分以及前者對后者的認(rèn)同活動形成了一個“反思性距離”、“反思性的自我評價”或“意愿的結(jié)構(gòu)”(14)[美] 哈里·法蘭克福：《事關(guān)己者》，段素革譯，浙江大學(xué)出版社2010年版，第62頁。，這個距離使得我們能夠?qū)ψ钪苯拥挠M(jìn)行有意識的反思，在此基礎(chǔ)上才有可能作出真實的選擇和決定。自主行動的可能性也正在于個體并不是受 “欲望”的直接驅(qū)動而行動的，而是對“一階欲望”具有一般反思的能力，即形成對一階欲望的二階欲望，這也是人格與非人格(例如動物)的本質(zhì)區(qū)別之一。

從上述分析來看，法蘭克福的欲望層級模型和反思認(rèn)同是價值中立(value-neutral)的，他并不考慮欲望內(nèi)容的社會性來源與評價性維度。(15)基于欲望的社會性對法蘭克福提出的批評，參見M. Berstein, “Socialization and Autonomy,” Mind (1983) 92, pp.120-123。以及Charles Taylor, Sources of Self: The Making of Modern Identity, MA: Harvard University Press, 1989.在他看來，自主性并非是一個實質(zhì)性的價值，而是一種反思性的決定能力；重要的不是形成“正確的”欲望，而是形成本真的決斷和本真自我。他的理論并沒有回答行動者到底能夠依據(jù)什么標(biāo)準(zhǔn)對欲望進(jìn)行選擇和評價，因此二階欲望很有可能自身并非是自主的，為了判斷二階欲望是本真的，行動者就需要形成三階、四階欲望等無限回溯的意愿鏈條。正如沃特森指出的，法蘭克福的模型沒有區(qū)分“欲求”(wanting)和“評價”(valuing)，正是評價系統(tǒng)構(gòu)成了一個人看待世界的支點(diǎn)，如果失去此支點(diǎn)，個人也就失去了“作為行動者的同一性”(16)Gary Watson, , 1975. "Free Agency," Journal of Philosophy (1975) 72, p. 106.。由于法蘭克福的自主性理論只是聚焦于作為程序性能力的自主性，以描述性的方式刻畫自主人格的特征，但因其內(nèi)涵過于單薄，難以真正區(qū)分由行動者的內(nèi)在力量激發(fā)的“行動”與物理性質(zhì)的“事件”。因此，法蘭克福的自主性理論難以說明和證成他提出來的目標(biāo)：“行動不僅僅是發(fā)生在這個人之內(nèi)或他身上的事情，而是他作為一個行動者而做的事情”(17)[美]克里斯蒂娜·科爾斯戈德(又譯科絲嘉)：《柏拉圖與康德倫理學(xué)中的自我構(gòu)成》，葛四友譯，載《世界哲學(xué)》2011年第3期。。

針對法蘭克福自主性理論中規(guī)范性缺失這一問題，科爾斯戈德提出了一個以“實踐同一性”為核心的實質(zhì)性自主性理論。在我們諸多實踐身份里，她認(rèn)為最為重要的是我們的“道德同一性”，即我們“把自己的人性看作是規(guī)范性的、看作是理由和義務(wù)的來源”(18)[美]克里斯蒂娜·科爾斯戈德：《規(guī)范性的來源》，楊順利譯，上海譯文出版社2010年版，第148頁。?？茽査垢甑抡J(rèn)為，我們的實踐同一性正是“規(guī)范性承諾”的來源。實踐同一性的最終根源在于行動者的本質(zhì)是具有自我意識，并根據(jù)理由而行動的個體，這樣的個體是形而上學(xué)意義上的自我建構(gòu)的統(tǒng)一體，關(guān)涉到我們?nèi)绾慰创白约菏钦l”。實踐同一性最終也就是具有自我意識的行動者根據(jù)自己對個人同一性的認(rèn)識而反思認(rèn)同的建構(gòu)結(jié)果，“自我意識的反思結(jié)構(gòu)必然地把我們置于在我們自身之上的權(quán)威和我們作為一個結(jié)果”(19)Christine Korsgaard, Self-Constitution: Agency, Identity, and Integrity, Oxford: Oxford University Press, 2009, p.10.?？茽査垢甑率褂每档率降牡赖略捳Z，認(rèn)為道德規(guī)范性通過“自我認(rèn)同而完成”：“只要你是一個理性存在者，你就必須在自由觀念之下行動。……你把你自己而不是你依之而行動的那個誘因看作是你行動的原因?？档抡J(rèn)為你就必須基于一個普遍法則去行動。除非你普遍地意愿，否則你不可能把自己看作是你行動的原因——你不可能把這個行動看作是你自己意志的產(chǎn)物?！?20)[美]克里斯蒂娜·科爾斯戈德：《柏拉圖與康德倫理學(xué)中的自我構(gòu)成》，葛四友譯，載《世界哲學(xué)》2011年第3期。根據(jù)這一觀點(diǎn)，具有一般的實踐同一性同時就意味著行動者必然發(fā)展出道德規(guī)范性意義上的實踐同一性。

根據(jù)科爾斯戈德的觀點(diǎn)，要構(gòu)建具有這一特征的成功的規(guī)范性理論必須滿足三個條件。首先，一個成功的規(guī)范性理論要基于第一人稱的視角，而基于第三人稱的理論只具有現(xiàn)象解釋的作用。所謂第一人稱指“從自己的角度看”，主體反思所要接受的原則或規(guī)則是否得到“證成”，因為無論我們被給予什么樣的規(guī)范，我們總能提出自我追問：我為什么要服從那樣的道德要求？我為什么應(yīng)該是道德的？換句話說，規(guī)范性問題必須是針對道德行動主體而提出來的道德證成問題。(21)[美]克里斯蒂娜·科爾斯戈德：《規(guī)范性的來源》，楊順利譯，上海譯文出版社2010年版，第15頁。第二個條件是“動機(jī)透明性”，它被用以解釋道德規(guī)范性如何能夠激發(fā)我們產(chǎn)生一個行動動機(jī)。第三個條件是自我意識，它要求合格的規(guī)范性理論能夠說明，為什么主體會對自己實施的道德錯誤產(chǎn)生強(qiáng)烈的愧疚感，甚至?xí)a(chǎn)生自我同一性的危機(jī)。(22)[美]克里斯蒂娜·科爾斯戈德：《規(guī)范性的來源》，楊順利譯，上海譯文出版社2010年版，第18-19頁。

科爾斯戈德按照實踐同一性概念對法蘭克福的反思認(rèn)同概念進(jìn)行了轉(zhuǎn)化。正因為人具有反思認(rèn)同的意志結(jié)構(gòu)，因此人不會依據(jù)直接的一階欲望行事，而是“出于理由”而行動，行動者也由此對自己的理由形成了一個“承諾”(23)[美]克里斯蒂娜·科爾斯戈德：《規(guī)范性的來源》，楊順利譯，上海譯文出版社2010年版，第113頁。。但不同的是，法蘭克福的反思概念涉及的是如何鑒定出一個本真欲望的實現(xiàn)過程，而科爾斯戈德的目標(biāo)則是要鑒定出一個最具有證成力量的規(guī)范性理由。其中占主導(dǎo)地位的不是心理意義上的欲望，而是基于主體自我意識的反思結(jié)構(gòu)，即作為整體的人格其本質(zhì)是“他必須出于理由行動”(24)[美]克里斯蒂娜·科爾斯戈德：《規(guī)范性的來源》，楊順利譯，上海譯文出版社2010年版，第114頁。。在這個理論框架中，一個行動者要具備道德能動性，首先必須將自己反思認(rèn)同為能夠根據(jù)規(guī)范理由而行動的主體。

根據(jù)上文的分析，如果援引法蘭克福價值中立或單純作為描述性概念的自主性去理解人工智能的能動性特點(diǎn)，認(rèn)為人工智能具有與人類行動者類似的自我導(dǎo)向、自我管理、自我決策的能力，能夠根據(jù)多個選擇項制定并執(zhí)行一定的行動策略，這只能說明一般意義的基本“行為”(behavior)，而非由行動者基于內(nèi)在意愿結(jié)構(gòu)而發(fā)出的“行動”(action)。而按照科爾斯戈德的規(guī)范性自主性理論，認(rèn)為一個具有高度自主系統(tǒng)的人工智能能夠?qū)ζ湫袨榫哂胸?zé)任能力，那我們就忽視了成為道德行動者最基本的規(guī)范性條件：它不僅能夠理解，并且也能夠基于自我意識進(jìn)行反思認(rèn)同的過程，根據(jù)得到證成的道德理由去行動。因此，當(dāng)艾倫與瓦拉赫把“自主性”作為AMA的特征時，他們指的是機(jī)器脫離了人類的直接控制而能夠繼續(xù)以自動化的方式運(yùn)作，這是最低程度的自主性，而非在刻畫與物理事件本質(zhì)上不同的“行動”特征，更不足以說明AMA具有道德規(guī)范性意義。因此，不管在描述性抑或規(guī)范性層面上，他們言說的不是在行動能力和規(guī)范性意義上的“自主性”，而是一種概念上的誤用。

三、責(zé)任歸屬：一般行動者與道德行動者

艾倫與瓦拉赫力圖建立AMA旨在解決這樣一個問題：除非我們賦予可自主作出行動決策的人工智能以道德地位，否則我們在傳統(tǒng)的責(zé)任歸屬條件下難以解決因人工智能迅猛發(fā)展而產(chǎn)生的責(zé)任消解或責(zé)任感模糊的問題。但專注于為人工智能配備道德決策能力，而不關(guān)注人工智能嵌入其中的社會系統(tǒng)，人類主體的責(zé)任感很有可能在漫長的技術(shù)鏈環(huán)中被消解；同樣，完全剔除人工智能的倫理位置，人機(jī)交互技術(shù)環(huán)境的復(fù)雜性就會遭到忽視。他們所訴諸的道德圖靈測試和自主能動性都存在概念上的問題，因此不能滿足道德能動性的恰當(dāng)條件。

正如上文所述，除了最基本的不受外部控制的自主性能力，一個能夠承擔(dān)道德責(zé)任的行動者還應(yīng)當(dāng)具備道德敏感性，包括識別具體情景的道德要素的能力、判斷道德價值的優(yōu)先性、理解什么樣的普遍規(guī)范和價值能夠被用于具體情景等認(rèn)知能力，即行動者不僅在行動上看起來是符合一定的規(guī)范，他還應(yīng)當(dāng)出于對規(guī)范的語義理解而做出意向性的行動，能夠?qū)ψ约旱男袨樽鞒鲆?guī)范性評價和反思，并對此具有道德性質(zhì)的反應(yīng)性情感。反應(yīng)性情感在這里主要指識別和作出恰當(dāng)情感性反應(yīng)的能力，例如內(nèi)疚、羞恥、憤怒、義憤、正義感、怨恨、同感、共情、尊嚴(yán)感、感激、原諒等與道德規(guī)范性密切相關(guān)的情感。(25)參見P. F. Strawson, “Freedom and Resentment,” Proceedings of the British Academy (1962) 48, pp.1-25.這個觀點(diǎn)最早由彼特·斯特勞森(Peter Strawson)闡明，他認(rèn)為，反應(yīng)性態(tài)度本質(zhì)上源自我們總是生活在一定的社會性關(guān)系中，是我們實踐生活和人際期待的自然表達(dá)，而非外在于實踐生活的某一個理性判斷標(biāo)準(zhǔn)。當(dāng)我們判斷一個人是否應(yīng)該負(fù)有責(zé)任，當(dāng)且僅當(dāng)我們通過反應(yīng)性態(tài)度讓他負(fù)責(zé)是恰當(dāng)?shù)?。透過反應(yīng)性態(tài)度，道德責(zé)任和道德能動性本質(zhì)上是根植于我們作為社會性參與者這一本質(zhì)。

即便艾倫與瓦拉赫基于自主能動性和道德圖靈測試而建構(gòu)的AMA一定程度上失敗了，但這并不意味著人工智能不能作為“一般行動者”而參與到多主體的人機(jī)交互的責(zé)任歸屬和分配中。自主性作為道德行動者的重要能力，其實現(xiàn)有程度之別，根據(jù)程度不同我們可以區(qū)分如下從一般行動者到道德行動者的層級，并據(jù)此分配不同程度的道德責(zé)任和共同責(zé)任。(26)例如Moor根據(jù)人工智能的發(fā)展階段而區(qū)分了三類道德行動者：第一階段的人工智能在其行為輸出上體現(xiàn)的是人類設(shè)計者呈現(xiàn)在意圖中的倫理規(guī)范，模仿人類的道德行為，是為隱性的(implicit)道德行動者；第二階段的人工智能具備類似人類的道德推理能力，可以在按照算法的道德模型并確切輸入信息的條件下決定應(yīng)該做什么，且參與道德決策，這屬于顯性的(explicit)道德行動者；第三階段的人工智能具有類似人類主體的道德能動性，具備能夠做出道德判斷和道德辯護(hù)的能力，具有自我意識和自由意志，屬于充分的(full)道德行動者。Moor認(rèn)為，從第一階段到第三階段的人工智能的實現(xiàn)是一個經(jīng)驗性的技術(shù)發(fā)展問題，而非斷然不可跨越的鴻溝。參見J. H. Moor, “The Nature, Importance, and Difficulty of Machine Ethics,” Intelligent Systems, IEEE (2006) 21:4, pp.18-21. 但與Moor的觀點(diǎn)不同，本文認(rèn)為不能僅僅關(guān)注人工智能的道德能動性發(fā)展階段，還應(yīng)該關(guān)注人類主體在這一發(fā)展過程中所要承擔(dān)的責(zé)任程度和范圍。

(1)人工智能在技術(shù)操作層面“似乎表現(xiàn)得”具有人類的道德認(rèn)知和道德行為努力，它的自動化系統(tǒng)和行為機(jī)制就不受外部控制這一點(diǎn)上具有最低程度的自主性，但由于它不具有規(guī)范性的語義理解能力和高階的自主性能力，對倫理要素和行為后果的“道德對錯”也缺乏相應(yīng)的情感反應(yīng)能力，因此，我們可以將其劃分為“不充分的行動者”或“一般行動者”(agent in general)以作為解釋導(dǎo)致某一物理事件的一個因果性原因，并承擔(dān)相應(yīng)的因果性責(zé)任(causal accountability)。我們可以把人工智能的能動性與動物的能動性進(jìn)行類比，例如城市里沒有拴牢狗繩的寵物犬咬傷了路人，搜救犬把一個溺水的人救了上來，我們認(rèn)為它們在引發(fā)行為后果上可以被賦予責(zé)備、懲罰或贊揚(yáng)、獎賞的道德評價性語言，但并不因此就認(rèn)為它們是充分的道德行動者，即便它們的行為在一定程度上脫離主人的控制，我們也會認(rèn)為主人需要對它們的行為負(fù)有一定的責(zé)任。在這些事件上它們與其主人的疏忽監(jiān)管或有效教養(yǎng)共同成為道德歸屬的對象，并根據(jù)能動性程度的不同而被分配不同分量的道德責(zé)任。

與之類似，對于在整個無人駕駛情景中的人工智能，我們可以認(rèn)為它是其行為的發(fā)起者，是對整個場景的描述性和解釋性要素之一；如果缺乏這一要素，我們就難以解釋無人駕駛倫理的兩難困境。反過來，如果單純根據(jù)這一因果性解釋要素，我們就認(rèn)為該無人駕駛汽車具有充分的責(zé)任能力，我們就消解了所有的相關(guān)各方參與者的責(zé)任。把能動性語言賦予人工智能是為了解釋它的行為，而非為了它在現(xiàn)實中能夠?qū)嵺`能動性，更不是以此為借口而推諉人類主體的責(zé)任，其最終目標(biāo)是為了建構(gòu)一個更全面的多主體責(zé)任環(huán)境。

(2)成熟的人類行動者展現(xiàn)的能動性是一個規(guī)范性概念，除了最低限度的自主能力，還包括意愿層級結(jié)構(gòu)的自主性與作為內(nèi)在意向性和規(guī)范反思能力的自主性，因此，人類行動者因其展現(xiàn)為“充分的道德行動者”(full moral agent)而承擔(dān)“主體責(zé)任”(agent responsibility)。正如前述，除了自主性能力外，充分的道德能動性還指行動者具有有意識的心理意圖和反應(yīng)性情感，對規(guī)范性目標(biāo)進(jìn)行反思性認(rèn)同，辨別相關(guān)的倫理要素，把普遍的道德原則適用于具體情景等概念化能力，并將自我設(shè)想為在社會性關(guān)系中自我賦予道德責(zé)任。這種主體責(zé)任在人機(jī)交互環(huán)境中主要體現(xiàn)為人類設(shè)計者、開發(fā)者、生產(chǎn)者、使用者、維護(hù)者在人工智能技術(shù)上實現(xiàn)其意圖、目標(biāo)和價值承諾，并在促進(jìn)福利、尊重自主、公平開放等價值共識上建立更負(fù)責(zé)任的科技框架。(27)近年來世界各國已經(jīng)積極推進(jìn)人工智能倫理框架的確立，例如歐盟于2019年4月發(fā)布《人工智能倫理準(zhǔn)則》，以尊重基本人權(quán)和核心價值觀與技術(shù)上的安全可靠為關(guān)鍵建立“可信賴的人工智能”；我國亦于2019年6月發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，指出人工智能倫理的主旨不僅在于設(shè)立自上而下的規(guī)范，還要考慮人工智能能否作為潛在的行動者被納入到整個責(zé)任框架中。在這一框架內(nèi)，主體責(zé)任可以根據(jù)每一參與者在每一個環(huán)節(jié)的影響分量和后果而分為可定位、可問責(zé)的具體職責(zé)(accountability)與法律責(zé)任(legal liability)。

(3)人類行動者和人工智能共同構(gòu)成多主體的人機(jī)交互整體，以擔(dān)負(fù)“共同責(zé)任”(joint responsibility)。這是一種積極的共同責(zé)任觀，它超越了狹義的倫理框架，旨在建立一個更全面的倫理框架以便把人工智能作為不充分的道德行動者納入進(jìn)來，同時保持人類行動者對自主系統(tǒng)有意義的控制。參與人工智能技術(shù)工程的每個環(huán)節(jié)的個體和集體參與者都意識到自己的行動是更大圖景中不可缺失的一部分，在消極方面將可預(yù)見的風(fēng)險盡可能地降到最低，在積極方面則把人工智能行為對提升人類主體責(zé)任感的影響納入進(jìn)來，將人類主體與人工智能之間的關(guān)系視為超越狹隘的目的—手段的共同協(xié)作關(guān)系。

基于對不同類型的能動性的區(qū)分，我們可以看出，一方面，人工智能的最低限度自主性能力并不滿足道德能動性的條件，也無法為具有高度自主系統(tǒng)的人工智能提供道德歸屬的條件。如果說人工智能具有一定的能動性，那么也只是在因果性意義上使用自主性這一概念，即脫離外力的即時操作而自動制定行為決策，它起到的是描述事件發(fā)生的作用，而不具有構(gòu)成道德能動性所需要的充分條件。當(dāng)我們脫離情景，孤立地討論具有深度學(xué)習(xí)能力和自主能力的人工智能對它的行為后果與人類一樣負(fù)有完全的道德責(zé)任，這是誤導(dǎo)性的，很有可能導(dǎo)致我們忽視甚至消解人類參與者的責(zé)任。我們應(yīng)當(dāng)修正傳統(tǒng)責(zé)任話語的不足，將涉及人工智能行為的整個情景作為一個整體來探討其中道德責(zé)任歸屬和分配問題，把風(fēng)險責(zé)任納入到人工智能的設(shè)計、開發(fā)、應(yīng)用和維護(hù)等整個過程中，并建立可追溯和可追責(zé)的責(zé)任分配框架。

日益發(fā)展的人工智能技術(shù)在自主能力方面獲得迅猛的發(fā)展，雖然并沒有達(dá)到人類道德行動者所具備的具有層級結(jié)構(gòu)和規(guī)范性維度的自主性，以及具有作出道德敏感性和情感反應(yīng)性態(tài)度等能力，但仍然可以據(jù)此將其劃分為一般行動者以用構(gòu)建一個包括人類主體和人工智能在內(nèi)的責(zé)任歸屬和分配框架，這并不排除人工智能可以從一般行動者發(fā)展成為充分道德行動者的可能性。解決這個難題已經(jīng)超出了本文的任務(wù)，本文只是力圖指出人工智能倫理的一個可能的思路：這個跨越是否僅僅是一個技術(shù)經(jīng)驗性的問題，還需要我們從人工智能的復(fù)雜算法、道義邏輯、形而上學(xué)、行動哲學(xué)、認(rèn)知科學(xué)、道德心理學(xué)、規(guī)范倫理學(xué)等各個學(xué)科對道德能動性作出深度的綜合性研究。