人工智能刑事責(zé)任能力之否定

郭 研，沙 濤

(1.西北政法大學(xué) 刑事法學(xué)院，西安 710063；2.東北財(cái)經(jīng)大學(xué) 法學(xué)院，遼寧 大連 116025)

一、問題的提出

人工智能技術(shù)的發(fā)展給法律系統(tǒng)帶來諸多挑戰(zhàn)，刑事責(zé)任能力議題便是其中之一。近年來，國內(nèi)外諸多刑法學(xué)者針對(duì)該議題展開了較充分的論證，但人工智能有無刑事責(zé)任能力的問題能否成為真問題值得探討，尤其需要從本源上進(jìn)行追問。一方面，需要討論人工智能能否作為一個(gè)主體而存在，因?yàn)樾淌仑?zé)任能力附屬于刑事主體；另一方面，人工智能是否能夠發(fā)展到需要討論其刑事責(zé)任能力的程度。針對(duì)上述問題的追溯，需要首先解決以下兩個(gè)關(guān)聯(lián)問題：一是人工智能的本體，二是人工智能的發(fā)展可能給刑法帶來的挑戰(zhàn)。

(一)人工智能的法律評(píng)價(jià)應(yīng)基于社會(huì)性而非技術(shù)性

當(dāng)討論人工智能時(shí)，我們首先需要明確的是討論的對(duì)象。在此之前，需要把握人工智能的不同發(fā)展階段和智能類型，還要在此基礎(chǔ)上對(duì)人工智能與機(jī)器人進(jìn)行區(qū)分。

人工智能概念肇始于1956年達(dá)特茅斯學(xué)院舉辦的研討會(huì)，會(huì)上約翰·麥卡錫教授提出，智能是實(shí)現(xiàn)目標(biāo)的計(jì)算能力，人類、動(dòng)物和機(jī)器具有不同種類和程度的智能，人工智能是科學(xué)和工程學(xué)上制造的智能機(jī)器，特別是智能計(jì)算機(jī)程序，可以理解為硬件。人工智能依其能力的廣狹和強(qiáng)弱通?？煞譃槿跞斯ぶ悄?、強(qiáng)人工智能和超強(qiáng)人工智能。強(qiáng)人工智能又稱通用人工智能，是指可覆蓋全部人類智能領(lǐng)域的智能系統(tǒng)。強(qiáng)人工智能不但能處理人類各個(gè)領(lǐng)域和類型的事務(wù)，而且更為重要的是它已經(jīng)具有了類似于人類的自我認(rèn)知能力。弱人工智能是僅涉獵一個(gè)或多個(gè)人類專門事務(wù)領(lǐng)域的智能系統(tǒng)，超強(qiáng)人工智能是超越了人類智能的智能系統(tǒng)。

實(shí)際上，人工智能在技術(shù)上的強(qiáng)弱區(qū)分并沒有一條涇渭分明的界限，有的只是一條漸變的光譜，可以認(rèn)為，自我認(rèn)知能力是強(qiáng)弱人工智能的分水嶺。當(dāng)前，雖然通過技術(shù)認(rèn)知對(duì)人工智能進(jìn)行了強(qiáng)弱的劃分，但在法律上卻難以按照智能程度給出精確的劃分標(biāo)準(zhǔn)。因?yàn)榉上到y(tǒng)與其環(huán)境之間存在復(fù)雜性落差，法律系統(tǒng)為適應(yīng)外界環(huán)境的復(fù)雜性壓力，需要通過一般性法律規(guī)則來簡化復(fù)雜性。法律系統(tǒng)并不具備對(duì)所有外界環(huán)境作出回應(yīng)的能力，法律的行為指引功能也要求法律規(guī)范具有一般性和一定程度的抽象化，否則便難以被社會(huì)公眾理解。我們?cè)谟懻撊斯ぶ悄艿男淌仑?zé)任能力的法律議題時(shí)，不應(yīng)糾結(jié)于人工智能強(qiáng)弱程度的劃分，而應(yīng)以人工智能的具體應(yīng)用實(shí)踐和刑事責(zé)任能力的判準(zhǔn)為對(duì)象展開具體的討論。

近年來，人工智能技術(shù)應(yīng)用廣泛，最核心的應(yīng)用場景莫過于自動(dòng)駕駛汽車。自動(dòng)駕駛汽車的安全性雖遠(yuǎn)高于人類駕駛，但并非絕對(duì)安全。自動(dòng)駕駛汽車發(fā)生交通事故后的法律責(zé)任承擔(dān)成為公眾關(guān)注和學(xué)界熱議的問題，似乎可以賦予自動(dòng)駕駛汽車法律主體資格和責(zé)任能力，以此來解決責(zé)任分配難題。但這種看法實(shí)際上將人工智能與機(jī)器人混為一談，忽視了人工智能系統(tǒng)與人工智能載體的差異。人工智能不等同于機(jī)器人，機(jī)器人只是人工智能的一種載體。機(jī)器人從詞源來看，起初具有仆人、勞役之義。1979年，美國機(jī)器人學(xué)研究所將機(jī)器人定義為一部設(shè)計(jì)用以移動(dòng)物體且可重復(fù)編寫程序的多功能機(jī)械，或一部使用預(yù)先編排動(dòng)作，用以完成多項(xiàng)工作的特殊設(shè)備。晚近以來的法律文獻(xiàn)中，有學(xué)者將機(jī)器人理解為一個(gè)結(jié)構(gòu)化的系統(tǒng)，在物理上及心理上可作為代理人。從以上機(jī)器人詞義的變化來看，起初機(jī)器人是人類生產(chǎn)生活的輔助物，彼時(shí)機(jī)器人尚不涉及擬人的智能且外觀呈現(xiàn)為有形實(shí)體；而晚近以來，人們對(duì)機(jī)器人的理解發(fā)生了變化，擬人的色彩日益濃厚。

在人們的想象中，機(jī)器人應(yīng)是一個(gè)物理實(shí)體，尤其應(yīng)是一個(gè)人形實(shí)體，這種想象很大程度上受到20世紀(jì)科幻作品的影響。在機(jī)器人與人的類比聯(lián)想中，機(jī)器人概念便具有了智能的內(nèi)涵，人工智能與機(jī)器人之間的關(guān)系變得曖昧起來。上述關(guān)于機(jī)器人的社會(huì)觀念也影響到了法律人對(duì)人工智能與機(jī)器人關(guān)系的思考，但這種影響多是負(fù)面的，例如法律人據(jù)此開始糾結(jié)于機(jī)器人的主體地位和相應(yīng)的權(quán)利義務(wù)，包括人工智能創(chuàng)作作品的著作權(quán)、人工智能的事故責(zé)任等。

“人工智能的本質(zhì)在于算法和數(shù)據(jù)處理，物理形體不必然是人工智能的構(gòu)成要素，因?yàn)榧词故侨诵螜C(jī)器人，也不過是一個(gè)算法主導(dǎo)的硬件系統(tǒng)。”機(jī)器人只是人工智能的一種載體而非唯一載體。對(duì)法律規(guī)制而言，重要的不是人工智能的類人特征和外在形象，而是人工智能系統(tǒng)的社會(huì)交往屬性。因此我們?cè)谘芯咳斯ぶ悄艿男淌仑?zé)任能力時(shí)，不應(yīng)糾結(jié)于人工智能的類人化特征，而應(yīng)轉(zhuǎn)向?qū)θ斯ぶ悄苌鐣?huì)交往能力的思考。所以，能夠作為刑事責(zé)任能力議題討論對(duì)象的是人工智能系統(tǒng)，而且是參與社會(huì)交往進(jìn)而具有社會(huì)意義的人工智能系統(tǒng)。

(二)人工智能對(duì)刑法的可能挑戰(zhàn)

從目前人工智能的實(shí)際應(yīng)用來看，語音識(shí)別、圖像識(shí)別、語言翻譯、自動(dòng)駕駛等領(lǐng)域的人工智能仍只是專門的人工智能，而非通用的人工智能。例如智能系統(tǒng)用于語言翻譯就不能完成圖像識(shí)別或自動(dòng)駕駛工作。而且目前的人工智能還未呈現(xiàn)出獲得自我認(rèn)知能力的跡象。以人臉識(shí)別為例，人工智能系統(tǒng)作出識(shí)別是依憑算法、數(shù)據(jù)、深度學(xué)習(xí)等質(zhì)料或技術(shù)實(shí)現(xiàn)的，但人工智能本身并不具有判斷人臉美丑或善惡的能力。然而，人工智能雖尚未比肩人類智能，卻已經(jīng)給人類生活秩序帶來了沖擊。隨著物聯(lián)網(wǎng)、大數(shù)據(jù)和人工智能的深度結(jié)合，人類與人工智能的關(guān)系將日益緊密，人工智能逐漸參與到社會(huì)交往中來并非遙遠(yuǎn)的圖景。在此背景下，社會(huì)交往的倫理和法理可能發(fā)生變化，原有社會(huì)制度和社會(huì)理念也可能陷入困境。對(duì)法律制度而言，人工智能的影響主要體現(xiàn)在權(quán)利義務(wù)的變動(dòng)，原有的法律責(zé)任承擔(dān)原理也面臨改變的壓力。

人工智能的突破性發(fā)展正在重塑社會(huì)交往關(guān)系，社會(huì)中的法律秩序逐步走向人與人工智能的復(fù)合，未來也存在演變?yōu)槿斯ぶ悄苤鲗?dǎo)的法律秩序的可能性，而這種改變無疑具有顛覆性。例如在自動(dòng)駕駛場景下，人類的社會(huì)角色從車輛的控制者——駕駛員，逐漸轉(zhuǎn)變?yōu)榻邮茏詣?dòng)駕駛系統(tǒng)服務(wù)的乘客以及自動(dòng)駕駛程序的開發(fā)者和維護(hù)者等。在未來的道路交通法律秩序中，人類角色的轉(zhuǎn)變可能導(dǎo)致權(quán)利義務(wù)關(guān)系的重新調(diào)整。在自動(dòng)駕駛技術(shù)日益成熟的背景下，刑法上的交通肇事罪等罪名便可能出現(xiàn)處罰漏洞，這便是人工智能技術(shù)給刑法歸責(zé)領(lǐng)域帶來的一大挑戰(zhàn)。

但需要指出的是，我們不應(yīng)在抽象層面觀察人工智能對(duì)法律的影響，而是需要結(jié)合不同法律的性質(zhì)和功能來具體分析。例如在法律主體地位和責(zé)任能力方面，人工智能對(duì)民法和刑法的影響就存在顯著差異。就刑法而言，人工智能是否具有法律主體地位取決于其刑事責(zé)任能力的有無。換言之，如果人工智能根本不可能具有刑事責(zé)任能力，則探討其在刑事法上的主體地位便毫無意義。而在民法上，人工智能的法律主體地位與責(zé)任能力是可以分離的。人工智能主體地位與責(zé)任能力關(guān)系的民刑殊異，主要原因在于刑法上存在責(zé)任自負(fù)原則，即人工智能的刑事責(zé)任不能被人類主體替代承擔(dān)，而民法上的責(zé)任是可以替代的，如雇主對(duì)雇員侵權(quán)責(zé)任的替代承擔(dān)。因此，一方面，雖然法律主體地位與責(zé)任能力具有密切關(guān)系，但二者是兩個(gè)不同的問題，不能混淆在一起；另一方面，刑法具有相對(duì)獨(dú)立性，不從屬于民法，人工智能即便具有民事主體地位也不意味著其當(dāng)然具有刑事主體地位和刑事責(zé)任能力。因此，人工智能的刑事責(zé)任能力應(yīng)結(jié)合刑法自身的性質(zhì)和功能來思考。

二、技術(shù)思考：強(qiáng)人工智能只是鏡花水月

(一)對(duì)人工智能理解的不同圖像

對(duì)人工智能的探討無疑兼具現(xiàn)實(shí)性與未來學(xué)的特點(diǎn)，對(duì)人工智能技術(shù)發(fā)展的不同想象，將會(huì)影響到人們對(duì)人工智能相關(guān)法律問題的看法。關(guān)于人工智能發(fā)展前景的預(yù)測，在技術(shù)層面存在樂觀派(激進(jìn)派)和悲觀派(保守派)的分野。在社會(huì)人文層面，人們對(duì)人工智能是福是禍的看法也各執(zhí)一端，樂觀者多為人工智能領(lǐng)域的工程師和投資者，悲觀者多為哲學(xué)、社會(huì)學(xué)、法學(xué)等人文社會(huì)科學(xué)學(xué)者。需要注意的是，從技術(shù)層面的樂觀并不能當(dāng)然推導(dǎo)出社會(huì)層面的樂觀，反之亦然。當(dāng)下人們對(duì)新技術(shù)的發(fā)展存在擔(dān)憂，一方面原因是新技術(shù)的毀滅力量十分強(qiáng)大，超出了人類已有的認(rèn)知經(jīng)驗(yàn)；另一方面是人文精神、道德倫理的衰落，在經(jīng)濟(jì)利益面前技術(shù)很可能被一些人濫用，從而造成多數(shù)人的損害，甚至這種損害會(huì)像“飛去來器”一般，最終損害到技術(shù)濫用者。

在法學(xué)領(lǐng)域，一些學(xué)者在親眼見證了最近幾年人工智能技術(shù)的飛速發(fā)展后，對(duì)人工智能的未來前景持相當(dāng)樂觀(指技術(shù)層面的樂觀)的態(tài)度，并以此作為預(yù)測未來的前提，認(rèn)為人工智能技術(shù)已經(jīng)或?qū)⒁o既有法律系統(tǒng)帶來重大挑戰(zhàn)，需要立法作出前瞻修改以適應(yīng)技術(shù)發(fā)展。而另一些學(xué)者則對(duì)人工智能技術(shù)的蓬勃發(fā)展冷眼旁觀，認(rèn)為人工智能現(xiàn)在處于并將長期處于弱智能階段，人工智能現(xiàn)在不能且今后也不能比肩甚至超越人類，即便人工智能在智能上超越人類，也不意味著對(duì)人類的完全超越，因?yàn)槌悄芡?，人類還具有心性、靈性等其他特質(zhì)，包括直覺、想象力和同情心等。所以，在相當(dāng)長的時(shí)期內(nèi)人工智能不會(huì)對(duì)既有法律造成挑戰(zhàn)，既有法律完全能夠應(yīng)對(duì)人工智能時(shí)代的各種“新問題”。還有一些學(xué)者對(duì)人工智能的未來發(fā)展持謹(jǐn)慎的樂觀態(tài)度，認(rèn)為人工智能確實(shí)給法律帶來了挑戰(zhàn)，但要首先區(qū)分影響與挑戰(zhàn)，并將討論焦點(diǎn)放在法律挑戰(zhàn)上。人工智能所引發(fā)的實(shí)踐問題如果仍然可以在既有法律框架內(nèi)解決，那么它們就無法被視為“對(duì)法律的挑戰(zhàn)”。

人工智能技術(shù)至今歷經(jīng)了三個(gè)發(fā)展階段，每一階段都有人作出非常樂觀的預(yù)言，但至少前兩次預(yù)言并未實(shí)現(xiàn)，相反人工智能的發(fā)展卻曾屢陷低谷。這一次樂觀者對(duì)人工智能的想象和期待是否能夠變成現(xiàn)實(shí)，也即人工智能是否能發(fā)展出類人甚至超人的能力值得實(shí)踐驗(yàn)證。毋庸置疑，人工智能目前仍處于弱智能階段，即便人工智能的深度學(xué)習(xí)能力在大數(shù)據(jù)、云計(jì)算的合力推動(dòng)下震撼了人類，但人工智能仍受控于人類并存在諸多缺陷，如算法黑箱、運(yùn)行故障等。在可預(yù)見的未來，人工智能能否發(fā)展出自主意識(shí)和自由意志，發(fā)展到強(qiáng)人工智能階段屬于科學(xué)技術(shù)層面的問題，尚屬未知。

技術(shù)樂觀者認(rèn)為，人工智能已經(jīng)顯現(xiàn)出強(qiáng)大的自我學(xué)習(xí)能力，且具有一定程度的自主決策能力，所以發(fā)展出自主意識(shí)和自由意志指日可待。人工智能距離人類智能只有一步之遙。他們的論據(jù)主要有：第一，Alpha Go以及它的升級(jí)版Alpha Go Zero利用深度學(xué)習(xí)技術(shù)在圍棋領(lǐng)域已戰(zhàn)勝人類的頂級(jí)選手，小試牛刀之后人工智能在其他領(lǐng)域匹敵甚至超越人類不是難事。第二，各主要國家紛紛制定產(chǎn)業(yè)政策支持人工智能技術(shù)發(fā)展，科技巨頭如谷歌、微軟、百度等投入巨額研發(fā)費(fèi)用布局人工智能相關(guān)產(chǎn)業(yè)。類比摩爾定律，人工智能技術(shù)的迭代也將會(huì)十分迅速，強(qiáng)人工智能并不遙遠(yuǎn)。

技術(shù)悲觀者認(rèn)為：第一，樂觀者的看法多是受到Alpha Go的震撼和對(duì)人工智能技術(shù)發(fā)展前景的過度樂觀。但真相卻是，Alpha Go并未如樂觀者想象的那樣強(qiáng)大，Alpha Go贏得圍棋大戰(zhàn)的前提是有充分?jǐn)?shù)據(jù)和穩(wěn)定外部環(huán)境，如圍棋游戲規(guī)則的支持。至少目前Alpha Go在游戲規(guī)則更為復(fù)雜的網(wǎng)絡(luò)游戲，如星際爭霸中的表現(xiàn)就不如人類的專業(yè)玩家。第二，信息技術(shù)領(lǐng)域著名的摩爾定律如今已逐漸失效，計(jì)算機(jī)芯片處理速度的迭代升級(jí)在放慢步伐就是一個(gè)例證。通常情況下，一項(xiàng)技術(shù)在快速發(fā)展后將會(huì)進(jìn)入瓶頸期或者終結(jié)期，人工智能技術(shù)的發(fā)展并沒有如一些學(xué)者想象中的那樣神速。人工智能歷經(jīng)半個(gè)多世紀(jì)的發(fā)展，一些曾出現(xiàn)在科幻作品中的場景成為現(xiàn)實(shí)，甚至對(duì)現(xiàn)實(shí)的改變要遠(yuǎn)超舊時(shí)未來學(xué)者的想象。這給了人們大膽預(yù)測、憧憬未來的信心，然而技術(shù)并不是無所不能的，人工智能技術(shù)也有它的發(fā)展極限。第三，一些關(guān)于人工智能發(fā)展前景的樂觀研究報(bào)告經(jīng)不住推敲。例如被廣為引用的牛津大學(xué)尼克·博斯特羅姆等人所作的實(shí)證調(diào)查雖得出了較為樂觀的預(yù)測結(jié)論，但他們的實(shí)證調(diào)查在樣本上存在嚴(yán)重缺陷，不能代表人工智能研究領(lǐng)域的整體看法。實(shí)際上多數(shù)人工智能領(lǐng)域的專家較為保守，認(rèn)為幾十年內(nèi)出現(xiàn)強(qiáng)人工智能的概率很低?，F(xiàn)階段的人工智能仍屬于在“圖靈測試”概念下界定的“智能”，它們?cè)谖磥砗荛L時(shí)間內(nèi)都將是從屬于人類的工具。

(二)人工智能的運(yùn)作原理區(qū)別于人類智能

當(dāng)下的人工智能技術(shù)主要建立在兩個(gè)理論假設(shè)的基礎(chǔ)上，一是可計(jì)算主義，認(rèn)為人腦和心靈都像機(jī)器一樣運(yùn)作，因此可以被計(jì)算機(jī)模擬；二是神經(jīng)主義，認(rèn)為人腦可以完全解釋心靈現(xiàn)象。目前人工智能的運(yùn)作原理是仿生學(xué)的，即通過模擬人類大腦的神經(jīng)網(wǎng)絡(luò)建立起復(fù)雜的反饋機(jī)制。但反饋并不意味著智能，神經(jīng)網(wǎng)絡(luò)模型對(duì)應(yīng)的是生物本能而不是人類智能。以Alpha Go為例，其運(yùn)作依憑的是神經(jīng)網(wǎng)絡(luò)自動(dòng)機(jī)原理，這一工作原理實(shí)際上在“人工智能”概念出現(xiàn)以前就已被發(fā)現(xiàn)。根據(jù)這一原理，“復(fù)雜的智能行為被簡化成機(jī)器對(duì)外界刺激的反應(yīng)和反饋。低層次的反饋是達(dá)到目的的行動(dòng)；高層次的反饋因存在代表網(wǎng)絡(luò)連接方式之參數(shù)隨著輸出結(jié)果的變化而不斷地調(diào)整，其可以解釋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和相應(yīng)行為模式的變化，也就是學(xué)習(xí)機(jī)制”。Alpha Go的誕生實(shí)際上不是因?yàn)槿斯ぶ悄茉淼母镄?，而是因?yàn)榛ヂ?lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算技術(shù)的發(fā)展，為神經(jīng)網(wǎng)絡(luò)自動(dòng)機(jī)原理的應(yīng)用提供了現(xiàn)實(shí)可能。神經(jīng)網(wǎng)絡(luò)模型對(duì)應(yīng)的是生物本能，而不是人類智能，這也是起初神經(jīng)網(wǎng)絡(luò)自動(dòng)機(jī)的功能沒有被冠以人工智能之名的主要原因。

此外，目前科學(xué)上對(duì)大腦的認(rèn)知仍然十分有限，人類的智能、意識(shí)以及道德情感等是否就是大腦神經(jīng)元生化反應(yīng)的產(chǎn)物還不得而知。而且科學(xué)對(duì)宇宙物質(zhì)的了解也是未知大于已知，據(jù)估計(jì)目前我們能觀測或偵測到的物質(zhì)與能量僅約占宇宙總物質(zhì)與能量的4%，其余則是由我們目前仍知之甚少的暗物質(zhì)、暗能量等組成。而這些人類尚未了解的物質(zhì)和能量對(duì)人類心智的形成可能發(fā)揮了很大作用。因此通過模擬人類大腦的生化反應(yīng)，大概率來說是難以創(chuàng)造出人類智能的。

“人類智能不同于生物本能之處在于，人不僅具備選擇的能力，還具備創(chuàng)造符號(hào)以及利用符號(hào)系統(tǒng)把握世界、并賦予世界意義的能力?！币环矫妫祟愅ㄟ^語言符號(hào)理解世界、拓展世界。另一方面，人類通過語言建構(gòu)世界。建構(gòu)世界的能力也就是期望能力。期望能力是社會(huì)交往的前提，人類通過調(diào)整認(rèn)知性期望不斷適應(yīng)社會(huì)交往，通過信任規(guī)范性期望穩(wěn)定交往的邊界并拓展交往的多樣性。而Alpha Go之所以被冠以人工智能之名，主要源于其具有的深度學(xué)習(xí)能力，因?yàn)閷W(xué)習(xí)能力是人類智能的主要內(nèi)涵。但Alpha Go的深度學(xué)習(xí)能力仍只是一種高層次的反饋機(jī)制而已，這種運(yùn)作機(jī)制不可能發(fā)展出真正的智能。換句話說，神經(jīng)網(wǎng)絡(luò)自動(dòng)機(jī)原理下的人工智能無法理解和建構(gòu)世界，因而也就無法理解其行動(dòng)背后的意義。目前人工智能原理下的智能圖景只是一種逼真甚至以假亂真的智能假象。

三、法理思考：智能不是刑事責(zé)任能力的充分條件

(一)從智能無法推導(dǎo)出自由意志

刑事責(zé)任能力的核心要素是自由意志，而人工智能不具有刑法意義上的自由意志。首先，刑法上的自由意志不等同于自動(dòng)選擇，自由意志還與道德可譴責(zé)性相關(guān)。自由意志包括辨認(rèn)能力和控制能力兩方面內(nèi)容，其中，辨認(rèn)能力包括對(duì)客觀事實(shí)的辨認(rèn)和社會(huì)意義的辨認(rèn)。一方面，人工智能不能理解其舉止的社會(huì)意義，也即人工智能對(duì)其作出的舉止選擇缺少社會(huì)意義上的理解力。因?yàn)槿斯ぶ悄芨鶕?jù)事先設(shè)定的算法行事，在人工智能眼中萬物皆數(shù)據(jù)，人工智能的舉止選擇只是基于算法和數(shù)據(jù)的反饋結(jié)果。盡管基于深度學(xué)習(xí)算法運(yùn)行的人工智能日漸強(qiáng)大，但形式理性層面對(duì)規(guī)則的推理無法發(fā)展出價(jià)值判斷能力，人工智能無法實(shí)現(xiàn)同人類一樣運(yùn)用超規(guī)則之上的價(jià)值判斷，而價(jià)值判斷能力是行動(dòng)的社會(huì)意義的前提。另一方面，人工智能不具有真正的控制能力。以自動(dòng)駕駛為例，自動(dòng)駕駛系統(tǒng)雖然表面上能夠根據(jù)路況、交通法規(guī)等環(huán)境信息作出駕駛決策，但這種決策機(jī)制實(shí)際上只是基于神經(jīng)網(wǎng)絡(luò)算法的一種反饋機(jī)制，這種決策機(jī)制類似于人類以及其他動(dòng)物的本能反應(yīng)，但本能并不是自由意志。可見，人工智能不具有規(guī)范評(píng)價(jià)意義上的行為目的性與獨(dú)立控制行為的意志自由。其次，自由意志具有社會(huì)交往屬性。雖然自然意義上的人與法律意義上的人并不等同，例如民法上將企業(yè)等組織體擬制為法人，刑法上將企業(yè)等法人擬制為刑事責(zé)任主體，但這并不意味著人工智能就能獲得法律上的主體地位。一方面，法人主體的擬制原理不能適用于人工智能，原因在于法人的主體資格源于自然人，法人是自然人的集合，法人的決策是基于組織成員的集體意志，究其實(shí)質(zhì)仍是由自然人作出。而且，法人犯罪在原則上都會(huì)處罰參與決策作出和執(zhí)行的自然人。但人工智能的具體決策不是直接出于自然人的意志，而是基于算法作出的。隨著算法的復(fù)雜度提高，甚至連編制算法的人也無法對(duì)人工智能的具體決策作出準(zhǔn)確預(yù)測，因而不能仿照法人主體的擬制原理賦予人工智能法律主體地位。另一方面，雖然關(guān)于人類自由意志的有無和程度仍存在不同見解，但即便承認(rèn)人類的自由意志是一種法律上的擬制，也不能直接得出人工智能可以具備自由意志的結(jié)論。正如有學(xué)者所指出的，縱使人類的自由意志是一種法律擬制，這種擬制也絕非憑空作出，而是以活生生的現(xiàn)實(shí)社會(huì)生活作為基礎(chǔ)的。

雖然人類對(duì)自然的認(rèn)知是相當(dāng)有限的，我們對(duì)人類心智運(yùn)作機(jī)理的所知遠(yuǎn)小于未知，因而自由或不自由在事實(shí)層面永遠(yuǎn)是一個(gè)無法通過實(shí)證檢驗(yàn)的命題。但我們不能因自由的不可實(shí)證就推定人自由意志的闕如進(jìn)而放棄刑罰，因?yàn)槿绻穸ㄈ说淖杂梢庵颈闶浅姓J(rèn)宿命，結(jié)果是人的主體地位被否定，而這也是對(duì)人的存在價(jià)值的否定，簡言之就是把人類物化。應(yīng)當(dāng)認(rèn)為，社會(huì)交往的可能性是刑法意義上自由意志存在的前提。而目前人類和人工智能之間的主觀交流和探討的基礎(chǔ)尚不存在。因此，即便承認(rèn)自然人的自由意志是一種法律擬制，也不能將該擬制原理適用于人工智能系統(tǒng)。

(二)自由意志是刑事責(zé)任能力的必要不充分條件

退一步講，即使人工智能具備了自由意志，能夠辨認(rèn)和控制自己的社會(huì)性行為，它也無法具備刑事責(zé)任能力。刑事責(zé)任能力的有無除自由意志因素外，還至少要與道德情感因素相關(guān)。如果人工智能無法形成道德情感，就不會(huì)具有刑事責(zé)任能力。

在人工智能未形成道德情感之前，刑罰對(duì)其無意義，一方面其不能理解刑罰的道德譴責(zé)意義，另一方面也無法感受到刑罰帶來的情感痛苦。所以在人工智能具備道德情感特質(zhì)前，不應(yīng)承認(rèn)其刑事主體地位及刑事責(zé)任能力。刑罰具有道德屬性是歷史文化的產(chǎn)物，而人工智能不具有歷史文化屬性和由此產(chǎn)生的道德屬性。因?yàn)椤懊恳粋€(gè)人的生命存在和成長，都是一個(gè)社會(huì)的、歷史的、文化的過程，這個(gè)歷史過程本身是不可重復(fù)的”。未經(jīng)歷過真實(shí)的社會(huì)生活便不能獲得道德情感。而人工智能無法依靠深度學(xué)習(xí)技術(shù)獲得道德情感。雖然人工智能時(shí)代人類與人工智能的關(guān)系日益復(fù)雜，人工智能在與人類的交往中獲得了一定社會(huì)性，但人工智能的舉動(dòng)仍不是刑法意義上的行為，因?yàn)槿斯ぶ悄芮啡绷说赖虑楦刑刭|(zhì)。即便工程師利用復(fù)雜的算法設(shè)計(jì)出了有情緒表達(dá)的人工智能系統(tǒng)，例如微笑機(jī)器人，但機(jī)器人的情緒呈現(xiàn)仍只是基于外界環(huán)境數(shù)據(jù)的反饋結(jié)果，而并不能理解其情緒的深層含義。

(三)刑罰只能對(duì)人類起作用

進(jìn)一步講，假使人工智能可以發(fā)展出自由意志和道德情感，刑罰對(duì)人工智能也是無效的。刑罰無效則處罰人工智能對(duì)實(shí)現(xiàn)刑法功能而言就無意義，進(jìn)而刑事責(zé)任能力的賦予也將失去意義。

1.既有的刑罰體系是根據(jù)人類特點(diǎn)建立的，并不適合對(duì)人工智能的處置。人工智能既無肉身也無財(cái)產(chǎn)，這導(dǎo)致它對(duì)自由和財(cái)富既沒有客觀需求也沒有主觀欲望。因而，有學(xué)者主張變革刑罰制度以適應(yīng)人工智能時(shí)代的需要，建議在刑罰種類上增設(shè)刪除數(shù)據(jù)、修改程序、永久銷毀、財(cái)產(chǎn)刑、權(quán)利刑等刑罰處罰方式。但是，對(duì)人工智能的這種所謂刑罰，實(shí)際上相當(dāng)于剝奪人工智能系統(tǒng)所有者的財(cái)產(chǎn)，而非人工智能本身。在人類高度依賴人工智能產(chǎn)品的情況下，對(duì)人工智能施加刑罰還會(huì)產(chǎn)生變相限制甚至剝奪人類自由的效果。所以，對(duì)人工智能施以刑罰，本質(zhì)上仍是對(duì)人的懲罰。由此可見，人工智能無論以何種方式承擔(dān)責(zé)任，最終的責(zé)任承擔(dān)者都是人類，這使得賦予它法律人格顯得多余和毫無必要。據(jù)此，我們不應(yīng)把對(duì)人工智能的處置同對(duì)人類的刑罰混淆在一起。

2.人工智能缺乏實(shí)體性。人工智能的本質(zhì)是算法智能，而算法不是物理實(shí)體，因此，事實(shí)上缺乏刑罰的處罰對(duì)象。當(dāng)前，人們依然以20世紀(jì)的類人化想象來理解人工智能，并試圖針對(duì)人工智能的載體(如機(jī)器人)制定規(guī)范來約束它們的行為，甚至賦予這些載體以法律主體資格。但是，這種做法雖不能說荒謬，也至少顯得不合時(shí)宜。以自動(dòng)駕駛汽車為例，將汽車擬制為法律主體并無實(shí)際意義，因?yàn)閷?shí)現(xiàn)自動(dòng)化駕駛的不是汽車而是操作系統(tǒng)及背后的算法程序。例如，德國《道路交通法第八修正案》規(guī)定：“在自動(dòng)駕駛系統(tǒng)接管狀態(tài)下，駕駛員可以不對(duì)交通狀況和車輛進(jìn)行監(jiān)控，但仍需時(shí)刻保持清醒戒備狀態(tài)以準(zhǔn)備隨時(shí)接管；在自動(dòng)駕駛系統(tǒng)向駕駛員發(fā)出接管請(qǐng)求以及當(dāng)駕駛員發(fā)現(xiàn)自動(dòng)駕駛系統(tǒng)不能正常工作時(shí)，駕駛員應(yīng)立刻接管車輛?！奔幢汶S著技術(shù)的完善，自動(dòng)駕駛汽車能夠處理絕大多數(shù)緊急情況，但是，當(dāng)自動(dòng)駕駛汽車遭遇“電車難題”等決策困境時(shí)，仍然需人來最終決策，這個(gè)最終決策者可能是乘客，也可能是智能系統(tǒng)的運(yùn)營者。一方面，人類不能接受絕對(duì)功利主義的智能算法，更不能接受自己的命運(yùn)被人工智能掌握。另一方面，“數(shù)據(jù)庫再大，也是依據(jù)已經(jīng)積累的過去的資料來預(yù)測將來，而將來是開放的，所以決策和預(yù)測總是存在風(fēng)險(xiǎn)，因此，機(jī)器的決策永遠(yuǎn)不能夠取代人的決策”。只不過由于自動(dòng)駕駛技術(shù)的運(yùn)用，在交通肇事等情境下，作為傳統(tǒng)責(zé)任主體的駕駛員、機(jī)動(dòng)車所有人等的責(zé)任在相當(dāng)程度上已經(jīng)被自動(dòng)駕駛系統(tǒng)弱化。

3.有論者認(rèn)為對(duì)人工智能施以刑罰起不到特殊預(yù)防、一般預(yù)防等行為規(guī)制功能，進(jìn)而認(rèn)為刑罰對(duì)人工智能無效。而人工智能基于深度學(xué)習(xí)技術(shù)，是有可能建立起刑罰與守法之間的反饋機(jī)制的，人工智能的決策建立于算法和大數(shù)據(jù)之上，意味著人工智能可以從以往的處罰案例中學(xué)習(xí)到罪與罰之間的因果關(guān)聯(lián)，進(jìn)而形成有罪必罰的反饋模式。因此在算法中設(shè)定相應(yīng)規(guī)則是可以起到“預(yù)防作用”的。只不過這一“預(yù)防作用”仍是一種表象，因?yàn)槿斯ぶ悄懿⒎鞘腔谧杂梢庵咀鞒鍪胤ㄐ袆?dòng)。

四、倫理思考：強(qiáng)人工智能應(yīng)當(dāng)被否定

如果上述假設(shè)全部成真，也即人工智能具有自由意志和道德情感，且刑罰對(duì)其有效，那么人類也不應(yīng)允許可能對(duì)自己造成巨大威脅的人工智能技術(shù)自由發(fā)展。如果技術(shù)規(guī)制是必然的選項(xiàng)，那么人類實(shí)際上就不會(huì)允許人工智能發(fā)展到具有刑事責(zé)任能力的程度。

當(dāng)今世界，科技高速發(fā)展，許多技術(shù)都曾引發(fā)人們的熱議，如互聯(lián)網(wǎng)信息技術(shù)、轉(zhuǎn)基因技術(shù)、3D打印技術(shù)等，但人工智能引發(fā)的討論更為豐富，討論不僅涉及技術(shù)領(lǐng)域，而且引發(fā)了人文社會(huì)科學(xué)界的廣泛關(guān)注。究其原因，人工智能技術(shù)挑戰(zhàn)了人作為人的主體地位。人類從幾千年的生存經(jīng)驗(yàn)尤其是工業(yè)革命以來的進(jìn)步經(jīng)驗(yàn)中獲得了強(qiáng)大的自信，產(chǎn)生了依靠理性解決問題的處理方式。在對(duì)待人工智能的態(tài)度上，基于利益立場不同會(huì)產(chǎn)生截然不同的看法。

技術(shù)精英與資本精英對(duì)人工智能的發(fā)展通常持樂觀激進(jìn)的態(tài)度，而人文社會(huì)科學(xué)領(lǐng)域的學(xué)者則通常采取保守悲觀的態(tài)度。在激進(jìn)者眼中，保守者無異于杞人憂天；在保守者眼中，激進(jìn)者很可能陷人類于水火。從價(jià)值層面也即從主觀訴求來看，保守主義者不愿意看到人工智能比肩甚至超越人類，因?yàn)槿斯ぶ悄鼙燃缁虺饺祟惖哪翘欤祟惐銜?huì)徹底失去對(duì)人工智能的控制。因此，假如人工智能在技術(shù)上真的能比肩甚至超越人類，那么，我們就應(yīng)通過法律限制此種技術(shù)的發(fā)展，提前阻止技術(shù)的突破，以防技術(shù)的失控。

法學(xué)是謹(jǐn)慎、冷靜的學(xué)問，在人工智能的研究和應(yīng)用問題上，我們應(yīng)堅(jiān)持刑法的人類中心主義，“人工智能法學(xué)始終是面向‘人’的研究……它永遠(yuǎn)是且只能是‘以人類為本’”。人的尊嚴(yán)是憲法性權(quán)利，法律決不能允許技術(shù)侵犯人的尊嚴(yán)，將人的主體地位弱化乃至顛覆。具有民主基礎(chǔ)的法律不能允許傷害公民主體地位和人格尊嚴(yán)的技術(shù)發(fā)展和應(yīng)用。據(jù)此，強(qiáng)人工智能應(yīng)當(dāng)被否定。

首先，強(qiáng)人工智能給人類的尊嚴(yán)帶來挑戰(zhàn)。人工智能一旦達(dá)到強(qiáng)人工智能水平，將對(duì)人的地位造成沖擊，甚至人類可能從主體淪為被統(tǒng)治的對(duì)象。所以，我們應(yīng)提防人工智能“造反”壓迫人類，將可能的“反叛”扼殺在萌芽中，防止強(qiáng)人工智能的出現(xiàn)。人工智能不僅威脅人類整體的尊嚴(yán)，還威脅個(gè)體的尊嚴(yán)。人工智能的廣泛運(yùn)用使人類的生活方式發(fā)生了巨大變化，一個(gè)顯而易見的表現(xiàn)是人類越來越依賴人工智能服務(wù)。人們?cè)谙硎苌顭o處不智能所帶來的便利的同時(shí)，也在遭遇隱私的出賣和選擇自由的侵蝕。一方面，人工智能提供智能化、個(gè)性化服務(wù)的前提是獲取用戶大量的個(gè)人信息，用戶獲取智能服務(wù)的前提是授權(quán)服務(wù)商獲取個(gè)人信息，否則便無法獲得相應(yīng)服務(wù)。這意味著人們不得不以個(gè)人信息為代價(jià)來交換智能服務(wù)，結(jié)果是個(gè)人的隱私在人工智能面前暴露無遺。而隱私權(quán)是人格尊嚴(yán)的重要內(nèi)容，人工智能的日益強(qiáng)大無疑對(duì)人格尊嚴(yán)造成威脅。另一方面，人工智能的個(gè)性化服務(wù)可能演變成對(duì)個(gè)人行為的操控，人工智能可能出于商業(yè)利益等目的僅發(fā)送它想讓對(duì)方看到的信息，在信息不充分的情況下個(gè)人的自由選擇必將受到侵犯。即便在弱人工智能的今天，人類的隱私和選擇自由就已受到巨大威脅，可以料想在強(qiáng)人工智能面前，不僅人類的一舉一動(dòng)處于被監(jiān)視之下，而且人類的行動(dòng)自由也可能會(huì)喪失殆盡。所以，為了保護(hù)人類的尊嚴(yán)，在法律層面不能允許強(qiáng)人工智能存在。

其次，人類與人工智能的演化速度存在巨大落差，人工智能在相同時(shí)間內(nèi)的演進(jìn)速度要遠(yuǎn)超人類，而且這種演進(jìn)速度可能是幾何式倍增的。在人工智能到達(dá)與人類比肩的所謂“奇點(diǎn)”時(shí)，便可能會(huì)加速地超越人類，屆時(shí)人類將徹底失去對(duì)人工智能的控制。雖然在短期來看，人工智能之于人類是福音還是禍患取決于誰在控制它，而在長期來看，則取決于人類是否還能控制它。技術(shù)進(jìn)步并不是目的，而是人類獲致幸福的手段。我們不能對(duì)技術(shù)盲目樂觀，在技術(shù)研發(fā)和應(yīng)用時(shí)應(yīng)充分認(rèn)識(shí)到技術(shù)的可能弊端并設(shè)計(jì)有效的防范措施，人類不應(yīng)對(duì)自己的技術(shù)掌控能力過于樂觀。

最后，需要補(bǔ)充的是，我們也不應(yīng)該因?yàn)榘踩珦?dān)憂而完全否定技術(shù)發(fā)展。雖然人工智能的算法復(fù)雜且數(shù)量龐大，不可能完全透明，而且深度學(xué)習(xí)技術(shù)的運(yùn)用使得人工智能可以調(diào)整算法甚至自主編制算法，但我們不能因?yàn)槿斯ぶ悄艿乃惴ú煌该骱涂赡艿氖Э鼐屯耆柚蛊浒l(fā)展，否定其提高勞動(dòng)生產(chǎn)效率、便利百姓生活等正向功能。人工智能算法的不透明，實(shí)際上決定了人類不可能完全掌握人工智能的決策和行動(dòng)，人類能否允許此種不確定性風(fēng)險(xiǎn)以及能夠接受何種程度的風(fēng)險(xiǎn)，背后存在安全、自由等利益的權(quán)衡。理性的做法是，在弱人工智能階段，通過科技倫理和法律等手段對(duì)人工智能算法進(jìn)行規(guī)制。例如，嘗試將法律價(jià)值納入算法規(guī)則，從而引導(dǎo)算法的良性發(fā)展。