人工智能刑事歸責(zé)中的因果關(guān)系

[摘 要]基于人工智能內(nèi)在的復(fù)雜性與不可控性，人工智能的刑事因果關(guān)系相較于傳統(tǒng)因果關(guān)系更為抽象。目前學(xué)界主要有兩種針對(duì)人工智能刑事因果關(guān)系的判斷標(biāo)準(zhǔn)——風(fēng)險(xiǎn)標(biāo)準(zhǔn)模式與雙重篩選的條件說(shuō)。當(dāng)前，人工智能仍然處于初級(jí)階段，并未具備法律主體的身份。但無(wú)論人工智能是否具備法律主體資格，當(dāng)根據(jù)風(fēng)險(xiǎn)標(biāo)準(zhǔn)模型來(lái)分析具體案例時(shí)，都必須考慮到行為主體的行為分類、主觀狀態(tài)及其他可能存在的干預(yù)因素，這可能會(huì)對(duì)原有的刑事因果關(guān)系產(chǎn)生影響。按照雙重篩選的條件說(shuō)則不需要考慮區(qū)分情形、主觀上是故意還是過(guò)失，以及介入因素等問(wèn)題。

[關(guān)鍵詞]人工智能；刑事因果關(guān)系；風(fēng)險(xiǎn)標(biāo)準(zhǔn)模式；雙重篩選；

條件說(shuō)

一、問(wèn)題的提出

當(dāng)前人工智能技術(shù)的飛速發(fā)展已經(jīng)超出了人類的社會(huì)預(yù)期，現(xiàn)實(shí)中已發(fā)生多起人工智能犯罪案件。在人工智能下面臨的法律問(wèn)題主要表現(xiàn)在人工智能主體資格的可適應(yīng)性，然而，隨著深入人工智能時(shí)代，法律因果關(guān)系的調(diào)節(jié)及其適當(dāng)性可能會(huì)經(jīng)歷某種程度的削弱和偏差。因此，確定如何將人工智能及其行為和結(jié)果歸因于客觀現(xiàn)象并于其進(jìn)行主觀責(zé)難的法律因果關(guān)系，顯得尤為關(guān)鍵。人工智能的行為和傳統(tǒng)法律行為有著明顯的差異，同樣，確認(rèn)其刑事因果關(guān)系的方式也和確定傳統(tǒng)行為的法律因果關(guān)系的方法有所不同。在涉及涵蓋兩個(gè)或多個(gè)主體的情況下，確定犯罪結(jié)果和不同主體間的刑事因果關(guān)系如何建立，將是學(xué)者們需要深入研究的問(wèn)題[1]。

二、人工智能刑事因果關(guān)系的判斷標(biāo)準(zhǔn)

解決人工智能的刑事責(zé)任問(wèn)題，需要明確識(shí)別人工智能的犯罪行為和產(chǎn)生的效果之間的因果關(guān)系。因此，確定何種準(zhǔn)則用于確認(rèn)人工智能的刑事責(zé)任中的因果關(guān)系，顯得極為關(guān)鍵。

（一）風(fēng)險(xiǎn)標(biāo)準(zhǔn)模式

風(fēng)險(xiǎn)標(biāo)準(zhǔn)模式起源于英美法律系統(tǒng)，它可以根據(jù)行動(dòng)的種類將其劃分為積極和消極的行為，其中因果關(guān)系的判斷關(guān)鍵在于行為風(fēng)險(xiǎn)的相關(guān)性。在積極行為中，行為者是利用定向的人工智能進(jìn)行違法行為。在使用人工智能時(shí)，行為者意識(shí)到自己擔(dān)負(fù)的法律風(fēng)險(xiǎn)，且可以預(yù)測(cè)由此風(fēng)險(xiǎn)帶來(lái)的后果，所以，可以肯定的是，行為者就是人工智能行為的實(shí)施者，并且與結(jié)果存在因果關(guān)系。

在行為層面，表現(xiàn)為主體對(duì)具有指導(dǎo)性的人工智能不履行職責(zé)。透過(guò)行為邏輯來(lái)看，若某人有意識(shí)地進(jìn)行某種活動(dòng)，他能夠預(yù)測(cè)和理解潛在的危險(xiǎn)。但是，從非行動(dòng)的角度來(lái)看，一個(gè)人可能會(huì)故意、疏漏或意外地不去行動(dòng)，這種情況下他可能無(wú)法預(yù)見(jiàn)行為可能引發(fā)的風(fēng)險(xiǎn)。因此，在法律上分析因果關(guān)系時(shí)，分析的核心主要是行為者在不作為的情況下對(duì)風(fēng)險(xiǎn)的認(rèn)識(shí)能力。不作為的風(fēng)險(xiǎn)認(rèn)知能力可以再細(xì)分為主動(dòng)不作為和被動(dòng)不作為的認(rèn)知能力。首先，對(duì)主動(dòng)不作為的風(fēng)險(xiǎn)認(rèn)知能力而言，主動(dòng)不作為受到有意識(shí)的行為控制，行為者對(duì)不作為可能帶來(lái)的風(fēng)險(xiǎn)明顯能夠預(yù)見(jiàn)，認(rèn)識(shí)上沒(méi)有障礙，因此，應(yīng)該直接確認(rèn)行為者在人工智能行為中存在刑事因果關(guān)系。然后，在被動(dòng)不作為的風(fēng)險(xiǎn)認(rèn)知能力中，被動(dòng)不作為是受到疏忽的行為控制，其不作為的義務(wù)實(shí)際上是要求行為人對(duì)該風(fēng)險(xiǎn)保持注意并有行動(dòng)義務(wù)，并且產(chǎn)生的風(fēng)險(xiǎn)是可以避免的。這個(gè)時(shí)候的風(fēng)險(xiǎn)判定僅限于行為者能夠認(rèn)識(shí)的范圍內(nèi)，對(duì)超出范圍的風(fēng)險(xiǎn)則不被認(rèn)為存在刑事因果關(guān)系，無(wú)需承擔(dān)刑事責(zé)任。

（二）雙重篩選的條件說(shuō)

根據(jù)條件論的基本框架，雙重篩選條件將客觀歸責(zé)理論的理性思考融入其中，形成了確定因果關(guān)系判斷的標(biāo)準(zhǔn)[2]。仔細(xì)觀察，客觀歸責(zé)理論將行為結(jié)果歸咎于三個(gè)因素：首先，行為造成了無(wú)法容忍的危險(xiǎn)；其次，行為誘發(fā)了無(wú)法忍受的危險(xiǎn)；最后，結(jié)果沒(méi)有超出構(gòu)成犯罪的保護(hù)范圍。在上述三個(gè)因素中，前兩個(gè)用于定義條件論中所涉及的因果關(guān)系需要的一個(gè)元素——行為；而最后一個(gè)因素則用于確定條件論涉及的因果關(guān)系所需的另一個(gè)元素——結(jié)果。

在雙層篩查機(jī)制中，“初級(jí)篩查”意指從法律規(guī)定的領(lǐng)域篩選出結(jié)果并排除其他結(jié)果。比如，一位醫(yī)生在人工智能醫(yī)療機(jī)器人的輔助下成功地為患者實(shí)施了截肢手術(shù)，挽救了患者的生命。然而，這樣的手術(shù)結(jié)果并不屬于法律規(guī)定的領(lǐng)域中的結(jié)果，因此，無(wú)需探討醫(yī)生的行為與患者康復(fù)結(jié)果之間的因果關(guān)聯(lián)。然而，當(dāng)醫(yī)師因其醫(yī)療行為的失誤造成患者去世時(shí)，此時(shí)的死因已然進(jìn)入了法制的監(jiān)管范圍之內(nèi)?！暗诙芜^(guò)濾”則是在眾多因素中挑選出引發(fā)后果的關(guān)鍵原因——也就是那些直接影響到事件發(fā)生的個(gè)體行動(dòng)。例如，甲的攻擊導(dǎo)致乙受到輕微傷害，這個(gè)傷勢(shì)在正常情況下不會(huì)致命，但乙的血友病癥使得傷口無(wú)法止血，最終走向死亡。在此事件中，乙的死因有兩點(diǎn)：一是甲的攻擊行為，二是乙的血友病狀況。雖然乙的血友病并未直接導(dǎo)致其死亡，但它構(gòu)成了死亡發(fā)生的一種特定環(huán)境，與任何人的行為無(wú)關(guān)，應(yīng)該被視作導(dǎo)致結(jié)果出現(xiàn)的“條件”而非“原因”?？偟膩?lái)說(shuō)，在進(jìn)行雙重篩選的條件時(shí)，首先參照客觀歸責(zé)理論中對(duì)結(jié)果歸責(zé)判斷標(biāo)準(zhǔn)的第三條規(guī)則（不超過(guò)構(gòu)成要件保護(hù)的限定范圍）來(lái)篩查因果關(guān)系中的各元素，然后根據(jù)客觀歸責(zé)理論對(duì)結(jié)果歸責(zé)判斷的第一條規(guī)則（產(chǎn)生了禁止的危險(xiǎn)）和第二條規(guī)則（實(shí)現(xiàn)了禁止的危險(xiǎn)）進(jìn)行第二輪篩選，抽取出對(duì)具體結(jié)果有“觸發(fā)”作用的行為。終極推斷是，經(jīng)過(guò)雙重篩選的原因和結(jié)果之間形成了刑法上的因果關(guān)系，這樣的做法最大的優(yōu)點(diǎn)就在于可以避免介入因素的干擾。

三、兩種判斷標(biāo)準(zhǔn)的具體適用

2018年，美國(guó)一輛Uber無(wú)人車撞死行人事件是世界上首例由無(wú)人駕車造成的人身傷亡案例，引起了一系列自動(dòng)駕駛汽車管理方式及法律職責(zé)等問(wèn)題的大量爭(zhēng)論與探討。目前的人工智能仍屬于弱人工智能，不具有法律主體資格。所以通常情況下，一旦出現(xiàn)車禍?zhǔn)录?，首要的?zé)任方就是車輛駕駛?cè)?，根?jù)他們的職責(zé)履行情況及錯(cuò)誤程度來(lái)確定他們應(yīng)該負(fù)有的法律后果。在這場(chǎng)涉及Uber無(wú)人車的意外中，該車型應(yīng)當(dāng)處于至少第四級(jí)的等級(jí)水平之上；依據(jù)美國(guó)的機(jī)動(dòng)車工程協(xié)會(huì) （SAE） 對(duì)自動(dòng)化駕乘系統(tǒng)的分層定義來(lái)看，當(dāng)達(dá)到或超過(guò)第四個(gè)層次的時(shí)候，這個(gè)智能化的控制設(shè)備就能完全替代人類操作員完成所有必要的行駛?cè)蝿?wù)并無(wú)需再由人工監(jiān)控路況或者操縱環(huán)境了。如果假定當(dāng)時(shí)那臺(tái) Uber 公司的汽車滿足第四個(gè)層次的要求，那么依照風(fēng)險(xiǎn)標(biāo)準(zhǔn)模式去衡量此事態(tài)發(fā)展過(guò)程中車主對(duì)于可能出現(xiàn)的故障狀態(tài)沒(méi)有預(yù)見(jiàn)到的必要性和必須采取措施避免這種不幸的發(fā)生的可能性也是無(wú)稽之談——因?yàn)樗呐e動(dòng)并不構(gòu)成一種積極的、不作為的行為方式，并且他跟受害者最終喪生的結(jié)果并沒(méi)有任何直接關(guān)聯(lián)。反之，若當(dāng)時(shí)的道路條件不符合運(yùn)行要求，需要司機(jī)接管駕駛活動(dòng)，此時(shí)，司機(jī)對(duì)風(fēng)險(xiǎn)具有作為義務(wù)，卻因過(guò)失而未實(shí)施，司機(jī)的消極不作為與死亡結(jié)果之間存在直接的刑事因果關(guān)系。按照雙重篩選的條件說(shuō)，自動(dòng)駕駛汽車致人死亡的結(jié)果沒(méi)有超出犯罪構(gòu)成要件的保護(hù)范圍，屬于第一重篩選中法律規(guī)制范疇內(nèi)的結(jié)果。雖然被害人所遭受的不允許的危險(xiǎn)是由自動(dòng)駕駛汽車的故障所導(dǎo)致的，但由于自動(dòng)駕駛汽車并非刑法的獨(dú)立主體，在第二次篩選中可以忽視自動(dòng)駕駛汽車故障這個(gè)因素。而對(duì)于司機(jī)的行為，若當(dāng)時(shí)的道路運(yùn)行條件正常，則司機(jī)沒(méi)有注意義務(wù)和作為義務(wù)，其行為沒(méi)有制造不被允許的危險(xiǎn)，不符合客觀歸責(zé)理論中條件一，經(jīng)過(guò)第二重篩選應(yīng)當(dāng)予以排除。如果那時(shí)的駕駛環(huán)境存在異常，要求駕駛員掌管駕駛?cè)蝿?wù)，那么駕駛員需要履行相關(guān)的作為義務(wù)。他的不作為行為給受害者帶來(lái)并執(zhí)行了不應(yīng)存在的風(fēng)險(xiǎn)，這將作為導(dǎo)致受害者死亡的“施因”，兩者之間建立了刑法上的因果關(guān)系。假如本案中的司機(jī)在自動(dòng)駕駛汽車撞向行人時(shí)故意加速，使行人被嚴(yán)重撞擊，此時(shí)司機(jī)的加速行為對(duì)于自動(dòng)駕駛汽車致人死亡這一因果關(guān)系中屬于介入因素，且該介入因素異常，獨(dú)立于自動(dòng)駕駛汽車撞人的先前行為，在認(rèn)定刑事因果關(guān)系時(shí)就要比較司機(jī)的加速行為與自動(dòng)駕駛系統(tǒng)提供者的先前行為之間作用大小，若先前行為的作用大，則自動(dòng)駕駛系統(tǒng)提供者的行為與結(jié)果有刑法上的因果關(guān)系；若介入因素作用大，則司機(jī)的加速行為與結(jié)果之間有刑法上的因果關(guān)系；若二者作用都大，則死亡結(jié)果與二者都有刑事因果關(guān)系，屬于二因一果。關(guān)于介入因素對(duì)刑事因果關(guān)系的影響比較復(fù)雜，此處不再進(jìn)行深入討論。

一般而言，當(dāng)汽車被改裝成自動(dòng)駕駛汽車后，汽車制造商不對(duì)改裝后的缺陷承擔(dān)法律責(zé)任。自動(dòng)駕駛系統(tǒng)作為一種工具，離不開(kāi)算法的設(shè)計(jì)與運(yùn)用，在運(yùn)行過(guò)程中需要依靠編程的支配與控制，通過(guò)人工設(shè)定人工智能產(chǎn)品可能遇到的不同情形，設(shè)置特定的邏輯程序來(lái)使人工智能產(chǎn)品做出正確的行為與動(dòng)作。因此，自動(dòng)駕駛系統(tǒng)的設(shè)計(jì)研發(fā)人員顯得尤為重要，當(dāng)危害結(jié)果發(fā)生時(shí)，設(shè)計(jì)研發(fā)者應(yīng)當(dāng)承擔(dān)一定的責(zé)任并履行相應(yīng)的法律義務(wù)。按照風(fēng)險(xiǎn)標(biāo)準(zhǔn)模式，本案中的自動(dòng)駕駛系統(tǒng)提供者Uber公司明知自己提供的自動(dòng)駕駛系統(tǒng)技術(shù)存在明顯的設(shè)計(jì)缺陷，主觀上存在故意，對(duì)自動(dòng)駕駛汽車傷人的行為引發(fā)的風(fēng)險(xiǎn)必然是可預(yù)見(jiàn)、可認(rèn)識(shí)的，雖然Uber公司沒(méi)有直接實(shí)施傷人行為，但其積極不作為行為能夠直接認(rèn)定與被害人的死亡存在刑法上的因果關(guān)系。按照雙重篩選的條件說(shuō)，被害人死亡的結(jié)果屬于第一重篩選中法律規(guī)制范疇內(nèi)的結(jié)果，Uber的設(shè)計(jì)研發(fā)行為為自動(dòng)駕駛汽車帶來(lái)了技術(shù)上的缺陷，給被害人創(chuàng)造并實(shí)現(xiàn)了不被允許的危險(xiǎn)，屬于第二重篩選中導(dǎo)致結(jié)果發(fā)生的原因（即引起結(jié)果發(fā)生的人的行為）。經(jīng)過(guò)雙重篩選后，可以得出Uber設(shè)計(jì)研發(fā)有缺陷的自動(dòng)駕駛系統(tǒng)的行為與被害人死亡的結(jié)果之間存在刑法上的因果關(guān)系。綜合前面的分析，Uber公司才是這起事故最可能的責(zé)任承擔(dān)者。

假設(shè)將此案置于認(rèn)定人工智能具有法律主體資格的環(huán)境中，那么本案中的Uber也將成為法律主體，承擔(dān)相應(yīng)的法律責(zé)任。認(rèn)定自動(dòng)駕駛汽車具有法律主體資格就意味著自動(dòng)駕駛汽車在運(yùn)行過(guò)程中完全不需要司機(jī)接管駕駛活動(dòng)。按照風(fēng)險(xiǎn)標(biāo)準(zhǔn)模式，司機(jī)對(duì)于自動(dòng)駕駛汽車失控的風(fēng)險(xiǎn)不具備作為義務(wù)、注意義務(wù)，其行為不屬于消極不作為，與被害者的死亡結(jié)果之間不具有刑事因果關(guān)系。在作為層面，自動(dòng)駕駛汽車作為法律主體且設(shè)計(jì)研發(fā)者在生產(chǎn)制造自動(dòng)駕駛汽車的過(guò)程中不存在故意或過(guò)失時(shí)，自動(dòng)駕駛汽車的傷人行為是自動(dòng)駕駛汽車主動(dòng)實(shí)施傷人行為并將自己置于法律風(fēng)險(xiǎn)之中，且對(duì)該風(fēng)險(xiǎn)帶來(lái)的結(jié)果具有一定的可預(yù)見(jiàn)性，此時(shí)自動(dòng)駕駛汽車的行為與傷人的結(jié)果之間存在直接的刑事因果關(guān)系。在不作為層面，自動(dòng)駕駛汽車可以是故意沒(méi)有采取剎車措施、過(guò)失沒(méi)有采取剎車措施或完全沒(méi)有意料到后果未及時(shí)采取行動(dòng)，此時(shí)對(duì)行為引發(fā)的風(fēng)險(xiǎn)未必能預(yù)見(jiàn)。所以在刑事因果關(guān)系判斷上，其風(fēng)險(xiǎn)標(biāo)準(zhǔn)的邏輯在于自動(dòng)駕駛汽車在不作為時(shí)對(duì)風(fēng)險(xiǎn)的認(rèn)識(shí)可能性。積極不作為是出于故意的意思表示，此時(shí)自動(dòng)駕駛汽車對(duì)不作為引發(fā)的風(fēng)險(xiǎn)明顯可預(yù)見(jiàn)，不存在認(rèn)識(shí)的障礙，故應(yīng)當(dāng)認(rèn)定自動(dòng)駕駛汽車的行為與傷人結(jié)果之間存在刑法上的因果關(guān)系。在消極不作為的風(fēng)險(xiǎn)認(rèn)識(shí)可能性中，消極不作為是出于過(guò)失的意思表示，其不作為義務(wù)來(lái)源實(shí)質(zhì)是要求自動(dòng)駕駛汽車對(duì)該風(fēng)險(xiǎn)具備注意義務(wù)和作為義務(wù)，且引發(fā)的風(fēng)險(xiǎn)是可以避免的。此時(shí)風(fēng)險(xiǎn)標(biāo)準(zhǔn)僅局限于認(rèn)識(shí)到的風(fēng)險(xiǎn)范圍以內(nèi)，對(duì)超出風(fēng)險(xiǎn)范圍不可認(rèn)識(shí)的風(fēng)險(xiǎn)不予認(rèn)定刑事因果關(guān)系，不承擔(dān)刑事責(zé)任。

按照雙重篩選的條件說(shuō)，司機(jī)不存在相應(yīng)的接管義務(wù)，其行為不屬于消極不作為，沒(méi)有為被害人制造并實(shí)現(xiàn)不被允許的風(fēng)險(xiǎn)，因此，司機(jī)的行為與被害人死亡之間不存在刑法上的因果關(guān)系。而對(duì)于作為法律主體的自動(dòng)駕駛汽車來(lái)說(shuō)，被害人死亡的結(jié)果屬于第一重篩選中法律規(guī)制范疇內(nèi)的結(jié)果，自動(dòng)駕駛汽車剎車失敗，給被害人創(chuàng)造并實(shí)現(xiàn)了不被允許的危險(xiǎn)，屬于第二重篩選中導(dǎo)致結(jié)果發(fā)生的原因（即引起結(jié)果發(fā)生的人的行為）。經(jīng)過(guò)雙重篩選后，可以認(rèn)定自動(dòng)駕駛汽車的行為與被害人死亡的結(jié)果之間存在刑法上的因果關(guān)系。因此，若自動(dòng)駕駛汽車與自動(dòng)駕駛系統(tǒng)提供者均通過(guò)雙重篩選，則認(rèn)定二者皆與被害人死亡之間存在刑法上的因果關(guān)系；反之，只認(rèn)定一方存在刑法上的因果關(guān)系。由此可以看出，按照雙重篩選的條件說(shuō)，無(wú)需考慮行為人的行為情形以及主觀因素，避免了在適用介入因素時(shí)對(duì)“異?！迸袛嗟牟淮_定性，更適合人工智能刑事因果關(guān)系的認(rèn)定。

通過(guò)上述分析可看出，無(wú)論人工智能是否被賦予法律主體資格，在適用風(fēng)險(xiǎn)標(biāo)準(zhǔn)模式時(shí)都需要區(qū)分行為主體作為與不作為、主觀上是故意還是過(guò)失，以及是否存在介入因素等多種情形，推理過(guò)程較為復(fù)雜，易出現(xiàn)因果關(guān)系判斷失誤的情況，而按照雙重篩選的條件說(shuō)則更直接明了，推理過(guò)程清晰明確，且不需要區(qū)分多種情形，也不必考慮介入因素的問(wèn)題。相比較而言，在司法實(shí)踐中適用雙重篩選的條件說(shuō)更能有效解決與人工智能有關(guān)的刑事責(zé)任歸屬問(wèn)題。

結(jié)束語(yǔ)

當(dāng)前的人工智能是弱人工智能，并未具備法律主體地位，也沒(méi)有考慮到人工智能的獨(dú)立行為。在具體案例中分別適用兩種判斷標(biāo)準(zhǔn)認(rèn)定刑事因果關(guān)系都能得到合理的答案，只是在適用風(fēng)險(xiǎn)標(biāo)準(zhǔn)模式時(shí)需要區(qū)分多種情形，考慮介入因素等問(wèn)題，雙重篩選的條件說(shuō)則簡(jiǎn)化了刑事因果關(guān)系認(rèn)定流程，避免了在適用介入因素時(shí)對(duì)“異?！边M(jìn)行不確定判斷，整體來(lái)看，雙重篩選的條件說(shuō)更能有效直接地解決當(dāng)前人工智能的刑事因果關(guān)系問(wèn)題，更好地解決人工智能領(lǐng)域刑事責(zé)任歸屬問(wèn)題。

參考文獻(xiàn)

[1]劉志強(qiáng)，方琨.論人工智能行為法律因果關(guān)系認(rèn)定[J].學(xué)術(shù)界，2018（12）：76-92.

[2]劉憲權(quán).涉人工智能犯罪中的歸因與歸責(zé)標(biāo)準(zhǔn)探析[J].東方法學(xué)，2020（3）：66-75.

作者簡(jiǎn)介：楊毅（1997— ），女，漢族，山東臨沂人，華南理工大學(xué)，在讀碩士。

研究方向：法學(xué)理論。