人工智能體犯罪的刑事歸責(zé)
——以自動(dòng)駕駛汽車為例

劉 旭

(中南財(cái)經(jīng)政法大學(xué) 刑事司法學(xué)院,湖北 武漢 430073)

人工智能概念的首次提出是在1956年召開的達(dá)特茅斯會(huì)議上。隨著科技的發(fā)展,自動(dòng)駕駛車輛等人工智能體逐漸走入人們的日常生活之中，然而,任何事物都具有兩面性,科學(xué)技術(shù)的發(fā)展也不例外。高級(jí)階段的人工智能體逐漸擺脫人類控制,擁有相對(duì)獨(dú)立的意識(shí)和自主行為能力，它在為人們的生活帶來便利的同時(shí),也給現(xiàn)行法律制度帶來了巨大的沖擊。在刑法層面,面對(duì)人工智能體犯罪,刑法將面臨無從限制的境地。因此,筆者將以自動(dòng)駕駛汽車為切入點(diǎn),從自動(dòng)駕駛模式下交通肇事罪的困境和出路著手,提出人工智能時(shí)代刑法的應(yīng)對(duì)之路,以期彌合刑法在時(shí)代發(fā)展面前的滯后性,促進(jìn)刑法的發(fā)展和完善。

一、人工智能體對(duì)現(xiàn)行刑法的挑戰(zhàn)——以自動(dòng)駕駛汽車為例

自動(dòng)駕駛汽車是指使用傳感器對(duì)道路進(jìn)行偵測、識(shí)別,通過特別設(shè)計(jì)的電腦程序?qū)Σ僮飨到y(tǒng)進(jìn)行控制的車輛,其具備駕駛過程中自動(dòng)調(diào)整速度、變更駕駛方向、緊急情況下的剎車、停車的功能。美國汽車工程師協(xié)會(huì)以智能化程度為標(biāo)準(zhǔn),將智能汽車劃分為五個(gè)等級(jí)。其中前三等級(jí)為智能輔助系統(tǒng),駕駛過程中控制車輛運(yùn)行的是駕駛者,交通事故發(fā)生后的法律責(zé)任承擔(dān)主體與非智能汽車交通事故法律責(zé)任承擔(dān)主體一致,不會(huì)對(duì)傳統(tǒng)的法律體系造成沖擊,故在此不作討論。第四、五等級(jí)是指汽車在行駛過程中間歇性或完全地脫離駕駛者的掌控,傳統(tǒng)駕駛者不再控制車輛的運(yùn)行,車載智能系統(tǒng)成為車輛“駕駛者”,汽車實(shí)現(xiàn)自動(dòng)駕駛。本文所討論的自動(dòng)駕駛汽車僅指該分類中的第四等級(jí)和第五等級(jí)。自動(dòng)駕駛系統(tǒng)不會(huì)像人一樣產(chǎn)生判斷失誤、疲勞、松懈等狀況,因而能夠極大地降低交通事故發(fā)生率,為人們提供更加安全、便捷的出行環(huán)境。但駕駛環(huán)境會(huì)受到各種各樣的因素影響,自動(dòng)駕駛汽車發(fā)生交通事故的情形也在所難免。在刑法層面,自動(dòng)駕駛技術(shù)將引發(fā)交通肇事罪的適用困境,困境的根本原因具體體現(xiàn)在以下方面:

(一)犯罪主體的不適格

交通肇事罪的犯罪主體既可以是車輛的駕駛者,也可以是車輛的實(shí)際控制者,無論何種主體,均與車輛的駕駛活動(dòng)產(chǎn)生聯(lián)系。但在自動(dòng)駕駛模式下,傳統(tǒng)意義上的交通肇事罪主體已經(jīng)不再控制車輛的運(yùn)行,車輛駕駛者的角色被無人駕駛系統(tǒng)所替代,車輛的駕駛活動(dòng)由車載智能系統(tǒng)控制。車輛上的乘客僅實(shí)施了啟動(dòng)自動(dòng)駕車車輛的行為,該行為并非為刑法意義上的犯罪實(shí)行行為,因而無法成為交通肇事罪主體。

(二)犯罪主觀方面的非契合性

交通肇事罪是典型的過失犯罪，其成立以行為人違反注意義務(wù)為前提。所謂違反注意義務(wù),是指違反結(jié)果預(yù)見義務(wù)和結(jié)果回避義務(wù)。在自動(dòng)駕駛模式下,乘客乘坐并啟動(dòng)自動(dòng)駕駛汽車的行為是基于對(duì)車輛安全性能的信賴,乘客既不具備對(duì)危險(xiǎn)結(jié)果的預(yù)見義務(wù),也談不上具有對(duì)結(jié)果發(fā)生的避免義務(wù),故不滿足成立過失犯罪所應(yīng)具備的主觀過錯(cuò)。因而,自動(dòng)駕駛模式下交通肇事罪的成立存在主觀方面的非契合性。

(三)因果聯(lián)系的差異性

要將發(fā)生的危害結(jié)果歸責(zé)于某一行為主體,就必須要求該行為主體的實(shí)行行為與危害結(jié)果之間具有客觀內(nèi)在聯(lián)系,也即因果關(guān)系。[1]因此,行為人的行為與危害結(jié)果之間的因果聯(lián)系是刑事歸責(zé)的重要條件,在不具備因果關(guān)系的情形下,不能要求行為人承擔(dān)刑事責(zé)任。在自動(dòng)駕駛模式下,車輛的所有者、駕駛者和乘客選擇自動(dòng)駕駛車輛并不存在主觀上的過錯(cuò),交通事故的發(fā)生是由于自動(dòng)駕駛系統(tǒng)的原因或者外界因素干擾所致,駕駛者和乘客的行為與交通事故之間并不具備刑法上的因果關(guān)系。因此,當(dāng)自動(dòng)駕駛車輛的所有者、駕駛者或者乘客的行為與交通事故之間不存在因果關(guān)系時(shí),盲目對(duì)之科處刑罰有違現(xiàn)代刑法的罪責(zé)自負(fù)原則。

二、人工智能體的犯罪主體地位及刑罰體系的完善

在人工智能技術(shù)的發(fā)展趨勢下,人工智能體將會(huì)具備獨(dú)立的認(rèn)識(shí)和意志,并且能夠在人類控制范圍之外活動(dòng)。若人工智能體基于意志自由實(shí)施犯罪活動(dòng),現(xiàn)有刑法體系無法對(duì)人工智能體進(jìn)行歸責(zé)。因此,我國刑法必須深入研究將具備高度自主性的人工智能體納入刑事責(zé)任主體范圍的可行性,并在此基礎(chǔ)上探索建立與之相適應(yīng)的刑罰體系。

(一)人工智能體犯罪主體地位

在人工智能體實(shí)施犯罪行為,造成嚴(yán)重法益侵害的情形下,否定行為構(gòu)成犯罪的主要依據(jù)是人工智能體不具備犯罪主體地位,具體表現(xiàn)為對(duì)人工智能體行為的主體性和刑罰感知能力的質(zhì)疑。筆者將對(duì)以上兩點(diǎn)質(zhì)疑進(jìn)行正面回應(yīng),試圖說明人工智能體能夠成為犯罪主體的理論依據(jù)。

1.人工智能體是對(duì)現(xiàn)行刑法行為主體的突破?！盁o行為則無犯罪亦無刑罰”這句格言詮釋了行為在刑法構(gòu)造中的基礎(chǔ)性地位。刑法理論界雖然存在“行為”概念的不同學(xué)說,但我們從中可以抽象概括出行為的一般性特點(diǎn):第一,行為必須與人的主觀意志相結(jié)合,是意志支配下的產(chǎn)物;第二,行為能夠?qū)λ嘶蛘呱鐣?huì)產(chǎn)生影響,具有互動(dòng)性。從法哲學(xué)的角度講,刑法上的行為主體必須具備思辨理性和實(shí)踐理性,能夠自由決定為或不為某種行為,并能為自己的行為后果承擔(dān)刑事責(zé)任。

人工智能體雖然不是生命體,但具有獨(dú)立的思維能力和一定的自主行為能力。[2]在發(fā)展的初始階段,人工智能體還只是傳統(tǒng)意義上的“工具”“產(chǎn)品”,并不具備獨(dú)立的認(rèn)識(shí)和意志,所有的外在“行為”都是通過程序、算法預(yù)先設(shè)置的,因而也就不具備犯罪主體地位,無法對(duì)其實(shí)施的“行為”承擔(dān)刑事責(zé)任。但在世界各主要國家都將人工智能體納入戰(zhàn)略發(fā)展計(jì)劃的背景下,人工智能體技術(shù)飛速發(fā)展。通過對(duì)大數(shù)據(jù)深度分析,人工智能體在某些方面的能力甚至已經(jīng)超過人類。自動(dòng)駕駛系統(tǒng)通過使用單目或者多目攝像頭,實(shí)現(xiàn)類似人的視覺感知,并在復(fù)雜的路況和交通條件下,完成多角度多目標(biāo)的識(shí)別任務(wù)和智能避障功能。就人工智能體所具備的獨(dú)立意識(shí)和自主行為能力而言,其已滿足作為刑法行為主體所應(yīng)具備的條件,是對(duì)現(xiàn)有刑法體系下行為主體概念的突破。

行為主體的概念主要是以自然人為中心而建立,[3]但我國刑法同樣賦予了無生命體特征的單位行為主體的地位,這為同樣作為非生命體的人工智能體突破現(xiàn)有行為主體框架提供了可能。之所以能將單位納入到刑事責(zé)任主體范圍之內(nèi),是由于單位通過聚合其內(nèi)部的成員意志形成集體意志,該集體意志就是單位的獨(dú)立意志。高級(jí)階段人工智能體的“內(nèi)核”是通過強(qiáng)化模仿和學(xué)習(xí)人的思維體系而形成的,與單位的集體意志相比具有更強(qiáng)的意志自由。因此,既然能夠?qū)挝灰?guī)定為犯罪主體,那么將人工智能體納入到犯罪主體范圍之內(nèi),使其獨(dú)立承擔(dān)刑事責(zé)任具有合理性。

2.人工智能體具備刑罰感知能力。反對(duì)賦予人工智能體犯罪主體地位的學(xué)者認(rèn)為，人工智能體無法感知刑罰,刑事責(zé)任的承擔(dān)流于形式,并無實(shí)際意義。筆者認(rèn)為,人工智能體雖然不是生命體,但能夠感知生命,因而具備刑罰感知能力,通過技術(shù)設(shè)計(jì)和制度安排,對(duì)人工智能體施加刑罰能夠?qū)崿F(xiàn)刑罰一般預(yù)防和特殊預(yù)防。

首先,人工智能體具有感知生命的能力。特殊的非生命體也能感受生命,尤其是高級(jí)階段的人工智能體,能夠具有類似人的思維能力。從生物學(xué)的角度上看,大腦超高數(shù)量級(jí)的腦細(xì)胞的神經(jīng)傳導(dǎo)是人類產(chǎn)生意識(shí)的根源,大腦結(jié)構(gòu)和神經(jīng)連接上的差異與犯罪之間的聯(lián)系也得到了初步的證明。[4]人工智能體在技術(shù)上可以實(shí)現(xiàn)模擬人類大腦結(jié)構(gòu)以及神經(jīng)連接,類似人的意識(shí)也由此產(chǎn)生。高級(jí)階段的人工智能體能夠確切地感受到自身的存在方式,同時(shí)也能夠產(chǎn)生對(duì)于刑罰所帶來的相對(duì)剝奪感。因此,為高級(jí)階段的人工智能體量身定做相應(yīng)的刑罰措施能夠?qū)崿F(xiàn)預(yù)防犯罪的目標(biāo)。

其次,在技術(shù)層面,通過對(duì)大數(shù)據(jù)的整合學(xué)習(xí),能夠?qū)崿F(xiàn)人工智能體對(duì)人類社會(huì)主流價(jià)值觀的認(rèn)可。人工智能體的研發(fā)者在研制人工智能體產(chǎn)品過程中，必須將人類社會(huì)認(rèn)可的法律價(jià)值體系和道德規(guī)范體系植入人工智能體的“大腦”中，使人工智能體在“出生”的那一刻便已懂法、遵法、守法,在其存續(xù)期間通過系統(tǒng)的更新不斷充實(shí)自己的法律“思維”,知道何者可為何者不可為。人工智能體所應(yīng)習(xí)得的法律體系應(yīng)該至少包括兩個(gè)層面:一是人類社會(huì)中的本源性法律和基礎(chǔ)性法律,包括憲法和刑法等;二是與人工智能體從事領(lǐng)域密切相關(guān)的法律規(guī)范。例如,自動(dòng)駕駛汽車除了應(yīng)該掌握刑法相關(guān)知識(shí),具備區(qū)分罪與非罪的能力,還應(yīng)理解并遵守道路交通安全領(lǐng)域的法律規(guī)范。此外,在人工智能體的研發(fā)過程中，還應(yīng)通過程序設(shè)計(jì)使人工智能體在遭受刑罰時(shí)能夠意識(shí)到自己的行為已經(jīng)違反其“大腦”程序中的法律規(guī)范和道德體系,并感受到刑罰帶來的“痛苦”。這樣一來,人工智能體就能像人類一樣體會(huì)到刑罰所帶來的相對(duì)剝奪感,進(jìn)而實(shí)現(xiàn)刑罰的一般預(yù)防和特殊預(yù)防。

(二)人工智能時(shí)代刑罰體系的完善

在賦予人工智能體刑事責(zé)任主體地位之后,必須在刑法中設(shè)置相應(yīng)的刑罰措施,建立與之相適應(yīng)的刑罰體系。人工智能體犯罪的社會(huì)危害性程度評(píng)價(jià)標(biāo)準(zhǔn)大體與傳統(tǒng)犯罪社會(huì)危害性評(píng)價(jià)體系一致,但考慮人工智能體的特殊屬性,還應(yīng)有所不同。著名科幻作家阿西莫夫在其作品《我,機(jī)器人》中提出了著名的“機(jī)器人三原則”,即“機(jī)器人不得傷害人類;機(jī)器人必須服從人類的命令,除非這條命令與第一條相矛盾;機(jī)器人必須保護(hù)自己,除非這種保護(hù)與以上兩條相矛盾。筆者認(rèn)為,“機(jī)器人三原則”就是人工智能體的行為綱領(lǐng),對(duì)該原則的破壞越深,其犯罪的社會(huì)危害性就越大。因此,就人工智能體犯罪而言,傷害人類的犯罪比不聽從人類命令具有更高的社會(huì)危害性,在人工智能體自身利益與人類利益相沖突時(shí),應(yīng)以保護(hù)人類利益為先。在具體刑罰設(shè)置上,結(jié)合現(xiàn)行刑罰體系,筆者建議根據(jù)實(shí)施犯罪種類的不同可分別對(duì)人工智能體實(shí)施以下刑事制裁措施:第一,對(duì)于實(shí)施嚴(yán)重危害社會(huì)行為的人工智能體,比照現(xiàn)行刑罰體系中的死刑,徹底銷毀人工智能體,斷絕其再犯可能性。第二,考慮刑罰的經(jīng)濟(jì)成本,對(duì)于雖然實(shí)施了具有社會(huì)危害性行為,通過更新其程序能夠確保不會(huì)再犯的人工智能體,對(duì)其處以“修改、更新或刪除程序”的刑罰。

三、人工智能體之外相關(guān)責(zé)任主體的歸責(zé)路徑

人工智能體進(jìn)入社會(huì)之后的表現(xiàn),與研發(fā)者、生產(chǎn)者和使用者的行為密不可分。相關(guān)主體若違反注意義務(wù),致使人工智能體實(shí)施犯罪行為的,相關(guān)主體有可能因此承擔(dān)相應(yīng)責(zé)任。

(一)利用人工智能體實(shí)施犯罪的歸責(zé)路徑

在未來,利用人工智能體實(shí)施犯罪與利用具有刑事責(zé)任能力的自然人實(shí)施犯罪具有同樣的效果,具體情形包括如下類型:第一,人工智能體與人類共同犯罪,即人工智能體與人類基于共謀實(shí)施的犯罪,此時(shí)應(yīng)按照共同犯罪的相關(guān)規(guī)定加以規(guī)制;第二,人工智能體為人類所利用而實(shí)施某種犯罪,即使人工智能體具備刑事責(zé)任能力,但該項(xiàng)犯罪是人類利用人工智能體的“無意識(shí)行為”而完成,此時(shí)人工智能體不成立犯罪,而人工智能體背后的利用者成立該項(xiàng)犯罪的間接正犯。人工智能體充當(dāng)犯罪工具的情形,會(huì)出現(xiàn)因?yàn)檎J(rèn)識(shí)錯(cuò)誤導(dǎo)致不同的刑事責(zé)任類型。例如,行為人為了利用人工智能體去殺害某甲,對(duì)人工智能體的程序進(jìn)行篡改。但在犯罪實(shí)行過程中,人工智能體錯(cuò)將某乙當(dāng)做某甲而殺害。此種情況屬于對(duì)象錯(cuò)誤,根據(jù)法定符合說的觀點(diǎn),“行為人所認(rèn)識(shí)的事實(shí)與實(shí)際發(fā)生的事實(shí),只要在犯罪構(gòu)成范圍內(nèi)是一致的,就成立故意的既遂犯”。[5]

(二)研發(fā)者和使用者的監(jiān)督過失責(zé)任

高級(jí)階段的人工智能體能夠通過模仿和高度的自主學(xué)習(xí)能力產(chǎn)生類似人的獨(dú)立認(rèn)識(shí)和意志,在獨(dú)立意志支配下人工智能體可以實(shí)施犯罪行為。人工智能體雖然具備人類的某些特性,但歸根究底只是一種服務(wù)于人類的產(chǎn)品。因此,在人工智能體實(shí)施犯罪行為時(shí)對(duì)人工智能體追究刑事責(zé)任之余,還應(yīng)厘清人工智能體的研發(fā)者的相關(guān)責(zé)任歸屬。如果研發(fā)者和使用者在研發(fā)、使用過程中沒有盡到應(yīng)盡的注意義務(wù),就有可能成立相關(guān)過失犯罪。世界各國刑法都以處罰故意犯罪為原則,處罰過失犯罪為例外,我國刑法也不例外。因此，即便需要對(duì)人工智能體外的相關(guān)主體追究刑事責(zé)任,也必須以刑法的相關(guān)規(guī)定為依據(jù)。

過失犯罪的成立以行為人具備預(yù)見可能性為前提，[6]人工智能體的研發(fā)者和使用者是否具備預(yù)見可能性應(yīng)當(dāng)以所處時(shí)代背景下的人工智能體技術(shù)發(fā)展水平為判斷標(biāo)準(zhǔn)。換言之,如果在當(dāng)時(shí)的技術(shù)水平下,人工智能體的研發(fā)者和使用者能夠預(yù)見到危害結(jié)果的發(fā)生,那么就可以肯定研發(fā)者和使用者具備預(yù)見可能性。如果研發(fā)者或者使用者具備預(yù)見可能性,但是沒有采取措施避免危害結(jié)果的發(fā)生,那么不履行結(jié)果回避義務(wù)與發(fā)生危害結(jié)果之間就具備刑法上的因果關(guān)系,人工智能體的研發(fā)者或使用者構(gòu)成相關(guān)過失犯罪。

此外,人工智能體的使用者也對(duì)人工智能體產(chǎn)品負(fù)有一定的監(jiān)督責(zé)任。使用者必須按照操作說明來使用人工智能體產(chǎn)品,否則,在發(fā)生危害結(jié)果的場合,使用者也有可能成立相關(guān)的過失犯罪。同時(shí)，人工智能體的使用者必須遵守相關(guān)操作領(lǐng)域的法律法規(guī)。例如,自動(dòng)駕駛的使用者除了需要嚴(yán)格按照自動(dòng)駕駛“出廠說明”外,在享受自動(dòng)駕駛服務(wù)過程中必須遵守交通領(lǐng)域的法律規(guī)范。如德國最新交通法規(guī)規(guī)定,自動(dòng)駕駛的使用者在乘坐過程中需要履行對(duì)自動(dòng)駕駛車輛的“隨時(shí)接管義務(wù)”。如果沒有履行這一義務(wù),導(dǎo)致危害結(jié)果發(fā)生的,就有可能成立交通肇事罪。