論人工智能時(shí)代的刑事責(zé)任主體：誤區(qū)、立場(chǎng)與類型

黃云波*

自2016年3月AlphaGo以4：1戰(zhàn)勝圍棋世界冠軍、職業(yè)九段棋手李世石之后，人工智能再次成了全世界共同關(guān)注的熱門話題。2017年7月8日，國(guó)務(wù)院發(fā)布《關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》，人工智能的發(fā)展在我國(guó)被上升到了國(guó)家戰(zhàn)略的層面。由此，人工智能也成為我國(guó)法學(xué)界的熱門問題。其實(shí)，人工智能產(chǎn)品早已經(jīng)融入到了我們的日常生活之中。在新聞的媒體報(bào)道中，關(guān)于人工智能產(chǎn)品造成損害結(jié)果的新聞已不稀奇。隨著人工智能產(chǎn)品的普及，其對(duì)法益造成威脅或者實(shí)害結(jié)果幾乎是不可避免的。因此，從刑法學(xué)角度對(duì)人工智能時(shí)代的風(fēng)險(xiǎn)進(jìn)行未雨綢繆式研究毫無疑問是非常必要的。不過，就目前刑法學(xué)界的研究情況來看，學(xué)者們關(guān)于人工智能時(shí)代刑事責(zé)任主體問題的研究似乎走入了一個(gè)誤區(qū)，以至于耗費(fèi)了大量的學(xué)術(shù)精力與資源卻至今為止也沒有形成較為統(tǒng)一的認(rèn)識(shí)。鑒于此，本文首先將通過對(duì)刑法學(xué)界關(guān)于人工智能時(shí)代刑事責(zé)任主體的研究情況做一些梳理，指出當(dāng)前研究所存在的誤區(qū)；然后，將指出人工智能時(shí)代刑事責(zé)任主體問題研究所應(yīng)立足的基本立場(chǎng)，進(jìn)而在其基礎(chǔ)之上對(duì)人工智能時(shí)代刑事責(zé)任的主體類型做進(jìn)一步的分析?！?〕需要說明的是，有學(xué)者使用“智能機(jī)器人”“機(jī)器人”等稱謂，筆者認(rèn)為這些稱謂容易讓人產(chǎn)生將人工智能擬人化的傾向，而且還容易讓人產(chǎn)生將人工智能實(shí)體化的傾向。人工智能并不是“人”，人工智能也并非總是以實(shí)體形式存在的。因此，為了避免這種誤導(dǎo)，本文使用“人工智能”這一概念。另需指出的是，本文所說的“刑事責(zé)任”是法律后果意義上的，是刑罰的上位概念。刑事責(zé)任具體包括刑罰、非刑罰處罰措施、保安處分以及定罪免刑。關(guān)于這一問題的詳細(xì)分析可參見石經(jīng)海：《量刑個(gè)別化的基本原理》，法律出版社2010年版，第18—24頁(yè)。

一、人工智能時(shí)代刑事責(zé)任主體研究的誤區(qū)

（一）人工智能時(shí)代刑事責(zé)任主體研究之觀點(diǎn)概述

關(guān)于人工智能是否能夠成為刑事責(zé)任主體，目前刑法學(xué)界主要存在肯定說與否定說。肯定說認(rèn)為，人工智能完全可以獨(dú)立成為刑事責(zé)任主體，只是在刑罰的適用方面應(yīng)當(dāng)做一些調(diào)整。如我國(guó)主張肯定說的代表性學(xué)者劉憲權(quán)教授認(rèn)為，隨著科技的發(fā)展，人工智能最終將成為男人、女人之外有意識(shí)、能思維的“第三類人”，和自然人一樣，完全可能具有自主的意識(shí)和意志，具有辨認(rèn)能力和控制能力?？茖W(xué)研究的結(jié)果和趨勢(shì)表明，智能機(jī)器人完全可能在人類設(shè)計(jì)和編制的程序之外產(chǎn)生自主意識(shí)和意志。智能機(jī)器人在設(shè)計(jì)和編制程序范圍外實(shí)施的行為是在其自主意志下實(shí)施的，屬于刑法意義上的“行為”，智能機(jī)器人完全可以成為刑事責(zé)任的主體，并獨(dú)立承擔(dān)刑事責(zé)任?！?〕劉憲權(quán)、胡荷佳：《論人工智能機(jī)器人的刑事責(zé)任能力》，載《法學(xué)》2018年第1期。不過，鑒于智能機(jī)器人與人類存在一定區(qū)別，需要重新建構(gòu)適用于智能機(jī)器人犯罪的刑罰體系。死刑、自由刑、財(cái)產(chǎn)刑、資格刑，均不能對(duì)其予以適用，而應(yīng)為其設(shè)置刪除數(shù)據(jù)、修改程序、永久銷毀等特殊的刑罰措施?！?〕劉憲權(quán)：《人工智能時(shí)代刑事責(zé)任與刑罰體系的重構(gòu)》，載《政治與法律》2018年第3期。

在主張肯定說的域外學(xué)者中，Gabriel Hallevy的主張是非常有代表性的。他指出，要追究一個(gè)人的刑事責(zé)任，必須同時(shí)具備兩方面的因素：一是外部的或者事實(shí)因素，即犯罪行為（actus reus）；二是內(nèi)部的或者精神因素，即犯罪意圖（mens rea）。任何人只要滿足這兩個(gè)方面的條件，就足夠讓其承擔(dān)刑事責(zé)任，除此之外無需再具備其他條件。人工智能要符合犯罪成立的外部要件毫無問題，關(guān)鍵是能否符合內(nèi)部要件。內(nèi)部要件包括認(rèn)識(shí)、意圖、疏忽等內(nèi)容，絕大部分的人工智能具備智能實(shí)體所需要具備的五個(gè)特征：溝通、內(nèi)部認(rèn)知、外部認(rèn)知、目標(biāo)導(dǎo)向的行為、創(chuàng)造力。因此，人工智能符合內(nèi)部要件也是沒有問題的，完全可以讓其獨(dú)立承擔(dān)刑事責(zé)任。就承擔(dān)刑事責(zé)任的具體方式而言，大部分的刑種，如死刑、自由刑、財(cái)產(chǎn)刑、社區(qū)服務(wù)、緩刑對(duì)于人工智能都是可以通過調(diào)整之后予以適用的。〔4〕See Gabriel Hallevy,The Criminal Liability of Artificial Intelligence Entities - From Science Fiction to Legal Social Control,4 Akron Intell.Prop.J.171,202(2010).

否定說認(rèn)為，承擔(dān)刑事責(zé)任的關(guān)鍵在于行為主體能夠意識(shí)到自身行為的社會(huì)屬性并在自我意志控制下實(shí)施行為。人工智能的運(yùn)行機(jī)理與人的意志自由進(jìn)行形式匹配過于機(jī)械，其不具有理解并遵從法規(guī)范的能力，而且對(duì)人工智能的行為屬性無從判斷是技術(shù)故障還是基于其自主思維的認(rèn)識(shí)和意志能力而實(shí)施。因此，人工智能不具有刑法評(píng)價(jià)意義上的行為認(rèn)識(shí)與控制要素的自主性，也就不具有人的目的理性所支配的可答責(zé)基礎(chǔ)，欠缺作為刑事責(zé)任主體的本質(zhì)要素。就刑罰目的來看，對(duì)人工智能施 加刑罰無法實(shí)現(xiàn)刑罰的懲治與安撫功能、預(yù)防功能、矯正功能，而且對(duì)人工智能施加刑罰還會(huì)面臨定罪量刑以及犯罪形態(tài)認(rèn)定上的諸多困境?！?〕時(shí)方：《人工智能刑事主體地位之否定》，載《法律科學(xué)（西北政法大學(xué)學(xué)報(bào)）》2018年第6期。也有學(xué)者認(rèn)為，人工智能不具備與人類等同評(píng)價(jià)的自由意思，盡管人工智能具備“控制和辨認(rèn)”能力，也無法被人類評(píng)價(jià)為具有自由意思。對(duì)人工智能施加刑罰不具有可行性，罰金、自由刑、死刑都不能對(duì)其適用。因此，人工智能不能獨(dú)立承擔(dān)刑事責(zé)任。〔6〕儲(chǔ)陳城：《人工智能可否成為刑事責(zé)任主體》，載《檢察日?qǐng)?bào)》2018年4月19日第3版。

（二）人工智能時(shí)代刑事責(zé)任主體研究之立場(chǎng)錯(cuò)誤：刑事古典學(xué)派

就目前刑法學(xué)界的討論來看，肯定論與否定論所討論的內(nèi)容主要集中于兩個(gè)問題之上：一是從犯罪的角度予以討論，人工智能的行為能否被認(rèn)定為犯罪行為；二是從刑罰的角度予以分析，對(duì)人工智能能否適用刑罰。

上述分析其實(shí)都是將人工智能與人類進(jìn)行類比所得出來的結(jié)論。例如，肯定論者認(rèn)為，隨著科技的進(jìn)一步發(fā)展，人工智能最終將會(huì)產(chǎn)生自我意識(shí)，具有自由意志，最終將成為男人、女人之外有意識(shí)、能思維的“第三類人”?！?〕前引〔2〕，劉憲權(quán)、胡荷佳文。人工智能具有認(rèn)識(shí)能力，能夠區(qū)分善與惡，也具有意志能力，能夠在特定意圖的支配之下實(shí)施自己的行為?！?〕前引〔4〕，Gabriel Hallevy 文。否定論者也指出，人工智能無法認(rèn)知自身行為的社會(huì)屬性，也不具有規(guī)范評(píng)價(jià)意義上的行為目的性與獨(dú)立控制行為的意志自由；〔9〕前引〔5〕，時(shí)方文?！耙姓J(rèn) AI 的‘行為’滿足刑法上的行為的要素，就必須在 AI 自身當(dāng)中找到和人類意思完全相當(dāng)?shù)囊馑肌?，“?AI 作和人類倫理的自我控制同樣的評(píng)價(jià)，還為時(shí)過早。”〔10〕前引〔6〕，儲(chǔ)陳城文。由這些表述可知，不論是肯定論者還是否定論者，總是自覺或者不自覺地將人工智能當(dāng)作或者希望將其當(dāng)作人來對(duì)待?？隙ㄕ撜吲c否定論者討論的都是人工智能是否會(huì)具有意志自由，刑罰對(duì)其是否能夠適用。自主意識(shí)、意思、意志自由是上述所有討論中最重要的關(guān)鍵詞。由此說明，肯定論與否定論有一個(gè)相同的預(yù)設(shè)前提就是，要成為刑事責(zé)任主體就必須具有意志自由。

就通常的刑法學(xué)研究而言，討論某人能否成為刑事責(zé)任主體，從犯罪與刑罰的角度予以分析當(dāng)然是沒有問題的。但需要注意的是，人工智能并不是“人”，并且大部分人類都不希望人工智能成為與其處于同等地位、甚至超越人類的“人”?！?1〕霍金和馬斯克就人工智能發(fā)展可能對(duì)人類產(chǎn)生威脅發(fā)出警告，以及電影市場(chǎng)上出現(xiàn)諸多關(guān)于人工智能覺醒之后威脅人類的科幻片都說明，大部分人類對(duì)人工智能的發(fā)展有著深度的擔(dān)憂和恐懼。在明確了這一點(diǎn)之后，再來看上述學(xué)者的討論，我們會(huì)發(fā)現(xiàn)他們其實(shí)已經(jīng)走入了一個(gè)誤區(qū)，即不自覺地對(duì)人工智能進(jìn)行了類人化分析。在對(duì)人類是否應(yīng)當(dāng)承擔(dān)刑事責(zé)任進(jìn)行分析時(shí)，考察該犯罪人是否具有意志自由，是否能夠區(qū)分善惡，以及對(duì)其施加刑罰能否實(shí)現(xiàn)懲治、安撫、預(yù)防、矯正功能當(dāng)然是非常必要的。但如此分析，目的是使刑事責(zé)任的施加具有正當(dāng)性。就其本質(zhì)而言，這些分析所采取的都是一種刑事古典學(xué)派，或者偏向于刑事古典學(xué)派的立場(chǎng)。眾所周知，刑事古典學(xué)派所肩負(fù)的歷史任務(wù)在于反對(duì)封建制度，要求自由權(quán)利?！皢⒚芍髁x的刑法理論與立足于報(bào)應(yīng)主義的刑法理論合在一起，成為刑法學(xué)中的古典學(xué)派”，〔12〕馬克昌：《近代西方刑法學(xué)說史》，中國(guó)人民公安大學(xué)出版社2016年版，第91頁(yè)?！皢⒚伤枷氲某霭l(fā)點(diǎn)是：追求傳統(tǒng)和威權(quán)之下的個(gè)人解放，提倡理性至上的個(gè)人主義、合理主義?！薄?3〕[日]大谷實(shí)：《刑事政策學(xué)（新版）》，黎宏譯，中國(guó)人民大學(xué)出版社2009年版，第9頁(yè)。在刑事古典學(xué)派看來，刑法的主要任務(wù)是防止國(guó)家權(quán)力對(duì)公民的肆意侵害，刑法是保障犯罪人權(quán)利的大憲章。〔14〕前引〔12〕，馬克昌書，第 157 頁(yè)。刑事古典學(xué)派主張意志自由論，他們認(rèn)為：“一、凡是人在達(dá)到一定年齡時(shí)除精神上有異狀者（瘋癲、白癡、喑啞者）與精神未充分發(fā)達(dá)者外，任何人都有為善避惡的自由意思（意思自由論或者非決定論）；二、犯罪是惡，而有自由意思的人，盡管能夠避之而竟敢實(shí)施之，所以犯罪也是出于自由意思。”〔15〕[日]久禮田益喜：《日本刑法總論》，嚴(yán)松堂1925年版，第26—27頁(yè)。轉(zhuǎn)引自前引〔12〕，馬克昌書，第95頁(yè)。他們還主張罪刑法定主義、刑罰人道主義、客觀主義。其實(shí)，他們之所以主張對(duì)未達(dá)到一定年齡以及精神上有異狀者不施加刑罰，并非從自然性質(zhì)上“不能”對(duì)其施加，而是基于他們的限制國(guó)家權(quán)力與刑罰人道主義的基本立場(chǎng)，認(rèn)為“不應(yīng)”對(duì)這類弱勢(shì)群體施加。

如前所言，人工智能并不是“人”，并且大部分人類都不希望人工智能成為與其處于同等地位、甚至超越人類的“人”。其實(shí)，作為刑法學(xué)者，由于受專業(yè)能力的限制，我們對(duì)于人工智能今后是否會(huì)產(chǎn)生意識(shí)，是否會(huì)形成自由意志，是完全沒有發(fā)言權(quán)的。并且，即使有朝一日隨著科技的發(fā)展，人工智能真的產(chǎn)生了意識(shí)，形成了自由意志，那時(shí)也不應(yīng)僅僅由我們?nèi)祟悂碛懻搼?yīng)當(dāng)如何保障它們的權(quán)利。因此，我們討論人工智能是否能夠成為刑事責(zé)任主體，目的其實(shí)不應(yīng)當(dāng)是保障人工智能的“人權(quán)”，而應(yīng)當(dāng)是如何保障人類的人權(quán)，是如何防止人工智能侵害人類的利益。以刑事古典學(xué)派的立場(chǎng)為出發(fā)點(diǎn)對(duì)人工智能的刑事責(zé)任主體地位展開討論，顯然違背了我們討論這一問題的初衷，基于這一立場(chǎng)而展開的研究顯然是走入了一個(gè)與人類利益相背離的誤區(qū)。

二、人工智能時(shí)代刑事責(zé)任主體研究的立場(chǎng)

（一）刑事近代學(xué)派之歷史發(fā)展與經(jīng)驗(yàn)

19世紀(jì)中后期，資本主義制度在世界范圍內(nèi)得以確立，自然科學(xué)取得了巨大的進(jìn)展。由于科學(xué)技術(shù)的發(fā)展，工廠越來越集中化、規(guī)模化。壟斷企業(yè)使得工人集中于工廠，而工廠則集中于工業(yè)化城鎮(zhèn)地區(qū)；同時(shí)，大量殖民地使得海外廉價(jià)農(nóng)產(chǎn)品大規(guī)模進(jìn)口，導(dǎo)致了農(nóng)業(yè)危機(jī)形成，并進(jìn)一步導(dǎo)致大量的農(nóng)村人口涌入城市；城市化進(jìn)程不斷加快，史無前例的社會(huì)狀況巨變由此出現(xiàn)；資產(chǎn)階級(jí)與工人階級(jí)的貧富差距越來越大，失業(yè)、貧困等社會(huì)問題日趨嚴(yán)重；犯罪，尤其是財(cái)產(chǎn)類犯罪急劇上升，累犯、常習(xí)犯顯著增多，少年犯罪也呈激增趨勢(shì)。〔16〕陳家林：《外國(guó)刑法理論的思潮與流變》，中國(guó)人民公安大學(xué)出版社、群眾出版社2017年版，第32頁(yè)。如前所述，刑事古典學(xué)派的主要任務(wù)在于限制國(guó)家權(quán)力，保障公民權(quán)利，他們認(rèn)為刑法是保障犯罪人權(quán)利的大憲章。重視對(duì)犯罪人權(quán)利的保障，所產(chǎn)生的直接影響就是會(huì)導(dǎo)致國(guó)家在犯罪預(yù)防與治理方面的權(quán)力受到一定的限制。由此，面對(duì)19世紀(jì)中后期新的社會(huì)情勢(shì)，以刑事古典學(xué)派理論為基礎(chǔ)制定的刑法難以有效應(yīng)對(duì)，刑事古典學(xué)派也難以從理論上提出更為有效的應(yīng)對(duì)之策?！?7〕前引〔12〕，馬克昌書，第 206 頁(yè)。正如菲利所言：“在意大利，當(dāng)古典派犯罪學(xué)理論發(fā)展到頂峰時(shí)，另一方面這個(gè)國(guó)家卻存在著過去從未見過的數(shù)量極大的犯罪行為的不光彩狀況，這確實(shí)是一種令人驚異的對(duì)比。因此，犯罪學(xué)阻止不住上下波動(dòng)的犯罪浪潮。正因?yàn)槿绱?，?shí)證派犯罪學(xué)便與其他學(xué)科一樣，自然而然地產(chǎn)生了?！薄?8〕[意]恩里科·菲利：《實(shí)證派犯罪學(xué)》，郭建安譯，商務(wù)印書館2016年版，第3頁(yè)。

實(shí)證派犯罪學(xué)即近代學(xué)派，具體包括刑事人類學(xué)派和刑事社會(huì)學(xué)派，以龍勃羅梭、加羅法洛、菲利、李斯特等人為代表。除刑事古典學(xué)派難以有效應(yīng)對(duì)日益增長(zhǎng)的犯罪率這一重要原因之外，近代學(xué)派的產(chǎn)生還受到了自然科學(xué)發(fā)展、達(dá)爾文進(jìn)化論的影響，當(dāng)時(shí)社會(huì)科學(xué)也彌漫著所謂“科學(xué)”的精神，將自然科學(xué)中的方法應(yīng)用到社會(huì)科學(xué)領(lǐng)域成為時(shí)尚?！?9〕徐愛國(guó)：《西方刑法思想史》，中國(guó)民主法制出版社2016年版，第99頁(yè)。近代學(xué)派即主張采用自然科學(xué)的實(shí)證研究方法對(duì)犯罪的原因進(jìn)行分析，并在科學(xué)知識(shí)的指導(dǎo)之下追求犯罪預(yù)防的目的。他們重視對(duì)犯罪的原因進(jìn)行分析，否定刑事古典學(xué)派所主張的意志自由論，進(jìn)而反對(duì)古典學(xué)派的道義責(zé)任論，認(rèn)為犯罪人之所以要承擔(dān)刑事責(zé)任，不是由于道義上對(duì)他應(yīng)加以譴責(zé)，而是為了防衛(wèi)社會(huì)的需要；他們也反對(duì)古典學(xué)派的客觀主義，認(rèn)為犯罪人的性格是科刑最重要的標(biāo)準(zhǔn)；反對(duì)報(bào)應(yīng)刑主義，認(rèn)為刑罰不是對(duì)犯罪的報(bào)應(yīng)，而是要追求一定的目的。〔20〕前引〔12〕，馬克昌書，第 206—212 頁(yè)。在具體預(yù)防犯罪的方法上，菲利認(rèn)為，為了實(shí)現(xiàn)社會(huì)防衛(wèi)的目的，必須用刑罰的替代措施作為實(shí)現(xiàn)社會(huì)防衛(wèi)機(jī)能的主要手段；〔21〕[意]恩里科·菲利：《犯罪社會(huì)學(xué)》，郭建安譯，商務(wù)印書館2017年版，第94頁(yè)。李斯特認(rèn)為：“在與犯罪做斗爭(zhēng)中，刑罰既非唯一的，也非最安全的措施。對(duì)刑法的效能必須批判性地進(jìn)行評(píng)估。出于這一原因，除刑罰制度外，還需要建立一套保安處分制度。”〔22〕[德]馮·李斯特：《德國(guó)刑法教科書》，徐久生譯，法律出版社2006年版，第22頁(yè)。保安處分“是指這樣一些國(guó)家處分，其目的要么是將具體之個(gè)人適應(yīng)社會(huì)（教育性或矯正性處分），要么是使不能適應(yīng)社會(huì)者從社會(huì)中被剔除（狹義的防衛(wèi)性或保安性處分）”?！?3〕前引〔22〕，馮 ·李斯特書，第 402 頁(yè)。

相對(duì)于刑事古典學(xué)派而言，刑事近代學(xué)派的進(jìn)步性是非常明顯的。近代學(xué)派將實(shí)證的、歸納的方法引入了犯罪研究領(lǐng)域，引起了犯罪研究領(lǐng)域中的一場(chǎng)方法論的革命，使犯罪學(xué)向科學(xué)方向大大邁進(jìn)了一步?！?4〕[意]切雷薩·龍勃羅梭：《犯罪人論》，黃風(fēng)譯，北京大學(xué)出版社2011年版，第25頁(yè)。他們使對(duì)犯罪的研究從刑事古典學(xué)派的抽象研究轉(zhuǎn)向了現(xiàn)實(shí)的、具體的研究；他們關(guān)于犯罪原因的研究雖然也曾出現(xiàn)過一些不太科學(xué)的認(rèn)識(shí)，但更多的是拓展了人們對(duì)犯罪原因的科學(xué)認(rèn)識(shí)；他們針對(duì)犯罪而提出的各種對(duì)策，雖然有些過于理想化，但相對(duì)于刑事古典學(xué)派大而化之的籠統(tǒng)對(duì)待顯然會(huì)更為有效?！?5〕前引〔12〕，馬克昌書，第 210—212 頁(yè)。但是，正因?yàn)榻鷮W(xué)派過度地關(guān)注對(duì)犯罪原因及犯罪預(yù)防的研究，他們的主張片面強(qiáng)調(diào)了社會(huì)利益，卻忽視了對(duì)個(gè)人權(quán)利的保護(hù)。例如，李斯特從犯罪人的社會(huì)危險(xiǎn)性以至社會(huì)適應(yīng)性出發(fā)，修正和改變了刑事古典學(xué)派所極力堅(jiān)持的罪刑法定原則，提倡刑罰個(gè)別化，主張擴(kuò)大適用類推解釋、擴(kuò)大解釋、緩刑、假釋、罰金的合理化、累進(jìn)處遇、強(qiáng)制勞動(dòng)、保安處分及其他各種所謂的“刑外刑”，并從擴(kuò)大法定刑的范圍起，更進(jìn)一步主張采用不定期刑。〔26〕前引〔12〕，馬克昌書，第 283 頁(yè)。正因近代學(xué)派的理論存在這一重大缺陷，他們的理論在兩次世界大戰(zhàn)期間被別有用心的統(tǒng)治者歪曲利用，作為對(duì)外擴(kuò)張、民族壓迫甚至種族屠殺的理論依據(jù)，由此也引發(fā)了二戰(zhàn)之后刑法學(xué)界掀起了對(duì)近代學(xué)派觀點(diǎn)的反思與對(duì)刑事古典學(xué)派觀點(diǎn)的重新重視。〔27〕劉春園：《西方刑法思想的起源與進(jìn)化——以西方文學(xué)罪罰觀為視角》，中國(guó)人民大學(xué)出版社2016年版，第603頁(yè)。在這一反思基礎(chǔ)之上，此后又出現(xiàn)了格拉馬蒂卡所倡導(dǎo)的社會(huì)防衛(wèi)運(yùn)動(dòng)，以及安塞爾所提倡的新社會(huì)防衛(wèi)論。但是，這兩位學(xué)者的觀點(diǎn)與刑事近代學(xué)者主張的社會(huì)防衛(wèi)論之間的區(qū)別主要是在人權(quán)保障問題上。筆者認(rèn)為，對(duì)于追究人工智能的刑事責(zé)任而言不需要考慮人工智能“人權(quán)”保障的問題。因此，格拉馬蒂卡和安塞爾所主張的社會(huì)防衛(wèi)論與本文所主張的人工智能刑事責(zé)任主體研究之立場(chǎng)不太一致，在這里對(duì)其不再詳細(xì)論述。要了解詳細(xì)內(nèi)容可參見前引〔12〕，馬克昌書，第516—546頁(yè)。

（二）人工智能時(shí)代刑事責(zé)任主體研究之立場(chǎng)選擇：科技社會(huì)防衛(wèi)論

刑事近代學(xué)派的產(chǎn)生、發(fā)展、異化、反思與糾偏的歷史表明：第一，一種刑法理論的產(chǎn)生以及運(yùn)用與其特定的歷史背景是密不可分的。這一點(diǎn)給我們的啟示是，隨著人類社會(huì)發(fā)展至人工智能時(shí)代，刑法學(xué)研究應(yīng)社會(huì)的需求而發(fā)展出新的刑法理論可謂勢(shì)在必行。第二，刑法學(xué)派觀點(diǎn)的提出都是以目的為導(dǎo)向的。刑事古典學(xué)派之所以主張罪刑法定主義、行為主義、客觀主義、意志自由論、道義責(zé)任論，其實(shí)都是為了實(shí)現(xiàn)限制國(guó)家權(quán)力，保障公民權(quán)利的目的；而刑事近代學(xué)派之所以否定意志自由，提倡社會(huì)責(zé)任論、主觀主義、目的刑論，其實(shí)也都是為了實(shí)現(xiàn)預(yù)防犯罪、保衛(wèi)社會(huì)的目的。由此可知，我們研究人工智能時(shí)代的刑事責(zé)任主體問題，首先必須明確的就是，我們的研究是為了實(shí)現(xiàn)何種目的？如果是為了保障人工智能的“人權(quán)”，以刑事古典學(xué)派為基本立場(chǎng)當(dāng)然是合理的。但是，如果是為了保衛(wèi)人類社會(huì)，那么刑事近代學(xué)派的觀點(diǎn)則顯然會(huì)更有借鑒意義。

前文已述，對(duì)于人工智能時(shí)代刑事責(zé)任主體問題的研究，目的應(yīng)當(dāng)是如何保障人類的人權(quán)，是如何防止人工智能侵害人類的利益。因此，筆者認(rèn)為，人工智能時(shí)代刑事責(zé)任主體研究的立場(chǎng)應(yīng)當(dāng)借鑒刑事近代學(xué)派的社會(huì)防衛(wèi)論，采用專門針對(duì)人工智能等科技風(fēng)險(xiǎn)的“科技社會(huì)防衛(wèi)論”。具體而言，即在應(yīng)對(duì)人工智能等科技產(chǎn)品危害社會(huì)的風(fēng)險(xiǎn)時(shí)，只要有客觀危害產(chǎn)生或者有危險(xiǎn)存在，對(duì)實(shí)施了社會(huì)危害行為或者有危險(xiǎn)性的人工智能就應(yīng)當(dāng)適用具有保安處分性質(zhì)的技術(shù)危險(xiǎn)消除措施。〔28〕至于技術(shù)危險(xiǎn)消除措施的內(nèi)容如何設(shè)計(jì)，刑法學(xué)者只能根據(jù)犯罪情況設(shè)定基本目標(biāo)和原則，例如不得對(duì)與人工智能相關(guān)的人類產(chǎn)生不必要的、不合理的負(fù)面影響，具體內(nèi)容還需由科學(xué)家們?cè)谶@些目標(biāo)與原則的指引下去做進(jìn)一步的研究。就此而言，以“科技社會(huì)防衛(wèi)論”為基礎(chǔ)所產(chǎn)生的刑事責(zé)任是一種客觀的結(jié)果責(zé)任，〔29〕此處所謂的客觀結(jié)果責(zé)任，既包括實(shí)害結(jié)果也包括危險(xiǎn)結(jié)果。意思是說，只要出現(xiàn)實(shí)害或者危險(xiǎn)，即使該人工智能不存在任何主觀罪過，也應(yīng)當(dāng)追究其刑事責(zé)任。這種刑事責(zé)任追究的形式則可稱為“技術(shù)責(zé)任論”。

以“科技社會(huì)防衛(wèi)論”立場(chǎng)為基礎(chǔ)，對(duì)人工智能等科技產(chǎn)品適用技術(shù)危險(xiǎn)消除措施將更有利于防止人工智能危害社會(huì)。

首先，對(duì)人工智能施加刑罰并不能實(shí)現(xiàn)對(duì)人工智能危害社會(huì)風(fēng)險(xiǎn)的有效預(yù)防。眾所周知，對(duì)人類而言，刑罰在本質(zhì)上是一種痛苦或者不利。“幾個(gè)世紀(jì)以來很多不同原因使懲罰被認(rèn)為是正當(dāng)?shù)?。比如特別或一般威懾；罪犯應(yīng)當(dāng)受到處罰，從而阻止他們繼續(xù)犯罪，同時(shí)也阻止其他人犯下這種罪行。其他原因包括報(bào)應(yīng)論、罪有應(yīng)得論和罪犯再教育論：罪犯應(yīng)受懲罰，要么是作為報(bào)復(fù)的一種形式，即以眼還眼，要么是作為再教育犯罪人的一種方式。”〔30〕[意]烏戈·帕加羅：《誰(shuí)為機(jī)器人的行為負(fù)責(zé)》，張卉林、王黎黎譯，上海人民出版社2018年版，第47頁(yè)。但是，與人類最大的區(qū)別是，人工智能作為一種無機(jī)體是不存在痛苦或者不利這種感知的。對(duì)實(shí)施了社會(huì)危害行為的人工智能施加刑罰，以對(duì)其進(jìn)行純粹的報(bào)復(fù)沒有意義，讓其基于害怕刑罰所給予的痛苦或不利而放棄再重復(fù)惡性的目的難以實(shí)現(xiàn)，懲罰人工智能以威懾其他人類或者人工智能也沒有意義?！?1〕前引〔30〕,烏戈 ·帕加羅書，第 52—53 頁(yè)。

其次，讓人工智能獨(dú)立承擔(dān)刑事責(zé)任反而可能導(dǎo)致人工智能犯罪增加。由于人的欲望無窮，但能力，特別是理性能力有限，因而即使他們組成了社會(huì)，其行為的道德性也往往難以充分地體現(xiàn)，甚至因?yàn)閷?duì)人生之道的錯(cuò)誤理解而做出違背道德的行為，他使人類社會(huì)行為中出現(xiàn)了“惡”。犯罪即屬于嚴(yán)重的惡?！?2〕嚴(yán)存生：《法律的人性基礎(chǔ)》，法制出版社2016年版，第539頁(yè)。可以說，迄今為止的所有犯罪都是源于人類的惡。就此而言，人工智能作為對(duì)人類智能的模仿，其即使基于“自主意識(shí)”實(shí)施犯罪，其罪惡的最終根源也仍然是人類。因此，要預(yù)防人工智能實(shí)施危害社會(huì)的行為，從根源上來說，受刑法規(guī)制的主體還應(yīng)當(dāng)是人類。讓人工智能獨(dú)立承擔(dān)刑事責(zé)任，會(huì)導(dǎo)致罪惡的根源從刑事責(zé)任之中脫離，隔離了人類對(duì)人工智能“犯罪”所應(yīng)承擔(dān)的責(zé)任。由此產(chǎn)生的結(jié)果是，對(duì)人工智能施加刑罰不僅可能沒有達(dá)到預(yù)防和減少人工智能犯罪的效果，而且可能導(dǎo)致人類為了逃避刑罰的懲罰，而將人類犯罪向人工智能“犯罪”轉(zhuǎn)移，人類犯罪逐漸減少，但人工智能犯罪卻大量增加。

人工智能由約翰·麥卡錫和馬文·明斯基在1956年的達(dá)特茅斯夏季會(huì)議上正式提出。但是，直到現(xiàn)在為止，關(guān)于人工智能其實(shí)并沒有一個(gè)清晰的定義，因?yàn)樗膬?nèi)涵和實(shí)現(xiàn)方法總是在不停地發(fā)生變化。因此，即使是專門從事AI開發(fā)的研究者也是眾說紛紜，沒有明確答案。較為簡(jiǎn)單的定義是：人工智能（Artificial Intelligence,AI），即由機(jī)器或軟件表現(xiàn)出來的智能?！?3〕[英]卡魯姆·蔡斯：《人工智能革命：超級(jí)智能時(shí)代的人類命運(yùn)》，張堯然譯，機(jī)械工業(yè)出版社2017年版，第3頁(yè)。如果把人工智能的界定再放寬泛一些，即“做出智能舉動(dòng)的軟件”?！?4〕[日]野村直之：《人工智能改變未來：工作方式、產(chǎn)業(yè)和社會(huì)的變革》，付天祺譯，人民東方出版?zhèn)髅?、東方出版社2018年版，第9頁(yè)。人工智能是一個(gè)廣泛的研究領(lǐng)域，它一般涵蓋可以使機(jī)器具備推理、學(xué)習(xí)和行為智能的多種技術(shù)。其中一些技術(shù)的運(yùn)行要基于系統(tǒng)建造時(shí)編寫的知識(shí)和規(guī)則集；有一些技術(shù)則使用“試探法”，即通過合理推測(cè)從大量可能的選項(xiàng)中選出最合理的選項(xiàng)；還有一些技術(shù)先做出核心假設(shè)，然后考慮新的信息，從而一邊工作一邊“學(xué)習(xí)”。〔35〕[美]阿米爾·侯賽因：《終極智能：感知機(jī)器與人工智能的未來》，賽迪研究院專家組譯，中信出版集團(tuán)2018年版，第18頁(yè)。亦即是說，不管人工智能最終會(huì)智能到何種程度，其在本質(zhì)上均屬于人造物、屬于受程序控制的機(jī)器或者軟件。

鑒于此，針對(duì)防止人工智能可能產(chǎn)生的對(duì)社會(huì)的危害，有效的處理方式并非對(duì)其進(jìn)行懲罰，而是一方面要通過技術(shù)措施，如安全軟件，對(duì)人工智能可能產(chǎn)生的風(fēng)險(xiǎn)進(jìn)行防范（一般預(yù)防）；另一方面則對(duì)客觀上有危害或者危險(xiǎn)的人工智能通過技術(shù)措施消除其再次產(chǎn)生危害的可能性，并對(duì)其他類型人工智能產(chǎn)生危害的可能性進(jìn)行技術(shù)防范（特殊預(yù)防）。這些技術(shù)危險(xiǎn)消除措施由于不會(huì)給人工智能帶來痛苦，并不會(huì)具有懲罰性，因而就其本質(zhì)而言，不能將其稱為刑罰。這些措施的施加是以客觀危害或者危險(xiǎn)為前提的，只要事實(shí)上存在危害社會(huì)的結(jié)果或者危險(xiǎn)，就應(yīng)當(dāng)對(duì)其以技術(shù)措施消除危險(xiǎn)，因而是一種保安處分措施。

如今，一般認(rèn)為，保安處分是針對(duì)特定人的犯罪行為，由于其具有將來犯罪的危險(xiǎn)，因此作為刑罰的補(bǔ)充或者替代，由法院宣判的、伴隨有剝奪或者限制自由內(nèi)容的隔離、治療或者改造。保安處分以存在特定人的犯罪行為為前提，以行為人具有將來可能犯罪的危險(xiǎn)為根據(jù)，是在無法以刑罰加以應(yīng)對(duì)的場(chǎng)合，作為刑罰的補(bǔ)充或者替代而適用的?！?6〕前引〔13〕，大谷實(shí)書，第 158 頁(yè)。因此，保安處分的施加也是承擔(dān)刑事責(zé)任的一種形式。亦即是說，對(duì)人工智能施加具有保安處分性質(zhì)的技術(shù)危險(xiǎn)消除措施也是刑事責(zé)任的一種承擔(dān)形式。正因如此，人工智能也是刑事責(zé)任主體。

或許有人會(huì)質(zhì)疑，為何一定要對(duì)人工智能施以刑事責(zé)任，而不是通過其他方式對(duì)人工智能危害社會(huì)的風(fēng)險(xiǎn)進(jìn)行防范？筆者認(rèn)為，刑法的“二次法”地位決定了人工智能刑事責(zé)任是必不可少的。在防范人工智能危害社會(huì)之風(fēng)險(xiǎn)時(shí)，其他措施以及其他法律法規(guī)仍然是必要的，刑事責(zé)任只是在其他措施無法應(yīng)對(duì)之時(shí)方才使用。就當(dāng)前的情況來看，可能在很長(zhǎng)一段時(shí)期之內(nèi)，人工智能的研發(fā)與生產(chǎn)都是以經(jīng)濟(jì)利益為導(dǎo)向的企業(yè)所開展的。由此可能產(chǎn)生的結(jié)果就是，為了經(jīng)濟(jì)利益，這些企業(yè)不顧人類利益，即使明知某類人工智能產(chǎn)品存在危害社會(huì)的風(fēng)險(xiǎn)，也仍然將其向社會(huì)推廣。因此，應(yīng)對(duì)人工智能風(fēng)險(xiǎn)必須以刑事責(zé)任為后盾，只有如此才能使其他風(fēng)險(xiǎn)防范措施更為有效地發(fā)揮作用，也才能真正實(shí)現(xiàn)對(duì)人工智能風(fēng)險(xiǎn)的有效防控。

另需說明的是，由于人類研發(fā)和生產(chǎn)人工智能是以人類利益為導(dǎo)向的，因此，所有的人工智能產(chǎn)品都將是與人類利益密切相關(guān)的。因而，對(duì)人工智能施以技術(shù)危險(xiǎn)消除措施必將對(duì)與之相關(guān)的人類利益產(chǎn)生消極影響。為了防止對(duì)人類利益產(chǎn)生不合理的影響，在追究人工智能刑事責(zé)任時(shí)也應(yīng)堅(jiān)持法治原則，即技術(shù)危險(xiǎn)消除措施的施加必須以充分的證據(jù)確認(rèn)人工智能危害社會(huì)風(fēng)險(xiǎn)確實(shí)存在為前提，技術(shù)危險(xiǎn)消除措施的使用則應(yīng)以不對(duì)人類利益產(chǎn)生不合理、不必要的影響為限度。

三、人工智能時(shí)代刑事責(zé)任主體的基本類型

前文的分析表明，人工智能可以獨(dú)立承擔(dān)刑事責(zé)任，只是這種刑事責(zé)任產(chǎn)生的基礎(chǔ)以及具體的承擔(dān)方式與人類會(huì)存在一定的區(qū)別，即這種刑事責(zé)任是以“科技社會(huì)防衛(wèi)論”為基礎(chǔ)的“技術(shù)責(zé)任論”。也就是說，人工智能將是人工智能時(shí)代刑事責(zé)任的主體的一種重要類型。但需要注意的是，即便是在人工智能時(shí)代，人類犯罪也依然是主要的犯罪表現(xiàn)形式。只是由于受到人工智能技術(shù)發(fā)展的影響，這些人類犯罪可能會(huì)產(chǎn)生一些新的變化。

具體而言，一方面，在人工智能時(shí)代，與在傳統(tǒng)社會(huì)中的表現(xiàn)不同，刑法中的傳統(tǒng)犯罪將以新的形式出現(xiàn)。

人工智能不僅僅掌握在好人手中，這一技術(shù)也完全可能被壞人利用于犯罪。而且，犯罪和黑客行業(yè)對(duì)新技術(shù)利用甚至比其他合法行業(yè)更快?！?7〕Maria Korolov：《人工智能不只在好人手里》，楊勇編譯，載《計(jì)算機(jī)世界》2017年3月13日第010版。應(yīng)當(dāng)說，這一判斷已經(jīng)由網(wǎng)絡(luò)犯罪的發(fā)展歷史充分證明。作為人類在科學(xué)技術(shù)方面的重大成就，互聯(lián)網(wǎng)給人類的生產(chǎn)、生活帶來了極大的便利，也深刻地改變了我們的生產(chǎn)、生活方式。與此同時(shí)，犯罪的行為方式及其社會(huì)危害性也都因?yàn)榛ヂ?lián)網(wǎng)的出現(xiàn)，而在“質(zhì)”與“量”上都出現(xiàn)了重大的改變?！?8〕劉憲權(quán)：《 網(wǎng)絡(luò)犯罪的刑法應(yīng)對(duì)新理念》，載《政治與法律》2016年第9期。人工智能之所以能夠“智能”，其實(shí)很大程度上是因其建立在互聯(lián)網(wǎng)基礎(chǔ)之上。“有了物聯(lián)網(wǎng)、大數(shù)據(jù)和云計(jì)算作為支撐（或組成部分）的人工智能，可以通過它的感官（遍布各處的傳感器）獲得千里之外的數(shù)據(jù)，利用自己無比強(qiáng)大的記憶力（聯(lián)網(wǎng)計(jì)算機(jī)和云存儲(chǔ)）來沉淀和消化數(shù)據(jù)，利用自己遠(yuǎn)勝于人類的計(jì)算能力（算法和基于‘神經(jīng)網(wǎng)絡(luò)’技術(shù)的深度學(xué)習(xí)）來處理數(shù)據(jù)，并在此基礎(chǔ)上做出判斷和‘決策’?！薄?9〕鄭戈：《人工智能與法律的未來》，載《探索與爭(zhēng)鳴》2017年第10期。因此，可以肯定的是，人工智能時(shí)代的犯罪將是網(wǎng)絡(luò)犯罪的升級(jí)，人工智能類犯罪可能造成的社會(huì)危害將比網(wǎng)絡(luò)犯罪對(duì)社會(huì)的危害更大，對(duì)人工智能類犯罪的預(yù)防也將更為困難?！?0〕黃云波：《論人工智能時(shí)代的刑法機(jī)能》，載《人民法治》2018年第6期。但在這種情形之中，人工智能只是作為犯罪工具而出現(xiàn)，就此而言，這類犯罪與傳統(tǒng)犯罪，以及與網(wǎng)絡(luò)犯罪并無本質(zhì)區(qū)別。因此，雖然人工智能在犯罪過程中發(fā)揮了重要作用，但犯罪主體依然還是人類。

另一方面，隨著人工智能技術(shù)的廣泛使用，人類犯罪人還將以新的形象出現(xiàn)，由此將導(dǎo)致人類刑事責(zé)任與人工智能刑事責(zé)任同時(shí)出現(xiàn)。

“賽博格”一詞源自控制論組織（Cybernetic Organism），曼弗雷德·克萊尼斯和內(nèi)森·克萊恩于1960年創(chuàng)造了這個(gè)術(shù)語(yǔ)，他們用這個(gè)詞來討論外層空間自我控制的人機(jī)系統(tǒng)。〔41〕[英]喬治·扎卡達(dá)基斯：《人類的終極命運(yùn)》，陳朝譯，中信出版集團(tuán)2017年版，第76頁(yè)。通俗而言，即有機(jī)與無機(jī)相結(jié)合的生化人（Cyborg）。人類使用醫(yī)療技術(shù)的歷史表明，賽博格的出現(xiàn)幾乎是不可避免的。因?yàn)?，在治療與進(jìn)化之間其實(shí)是沒有明確界限的，醫(yī)學(xué)一開始幾乎總是用來拯救那些落在常態(tài)下限以下的人，但同樣的工具和知識(shí)也能用來使人類超越常態(tài)的上限。當(dāng)研發(fā)出假肢讓截肢的患者能夠重新走路的時(shí)候，同樣的科技就能用來為健康的人進(jìn)行升級(jí)；如果能夠發(fā)現(xiàn)防止老年人記憶力衰退的方法，同樣的方法也能用來為年輕人增強(qiáng)記憶力；現(xiàn)代整形外科原本是用來治療臉部創(chuàng)傷，最后卻被用于給健康人士整形美容?！?2〕[以色列]尤瓦爾·赫拉利：《未來簡(jiǎn)史：從智人到神人》，林俊宏譯，中信出版集團(tuán)2017年版，第46頁(yè)。所以，隨著人工智能技術(shù)的發(fā)展，人類本身亦將逐漸成為改造對(duì)象。

賽博格離我們并不遙遠(yuǎn)。如2002年，英國(guó)科學(xué)家凱文·渥維克有點(diǎn)嚇人地預(yù)演了谷歌眼鏡這樣的植入物，把100個(gè)電極以手術(shù)植入左臂的神經(jīng)纖維。通過這些電極，他把自己的神經(jīng)連上了互聯(lián)網(wǎng)，以此控制了各種電子設(shè)備，包括一個(gè)機(jī)械手臂、一個(gè)音響和一個(gè)放大器?！?3〕前引〔41〕，喬治 ·扎卡達(dá)基斯書，第 78 頁(yè)。在目前所有進(jìn)行的研究當(dāng)中，最具革命性的就是要建構(gòu)一個(gè)直接的大腦——計(jì)算機(jī)雙向接口，讓計(jì)算機(jī)能夠讀取人腦的電子信號(hào)，并且同時(shí)輸回人腦能夠了解的電子信號(hào)。北卡羅拉納州杜克大學(xué)的科學(xué)家在幾只恒河猴的大腦里面植入電極，再讓電極收集腦中的信號(hào)，傳送到外部設(shè)備。接著猴子被訓(xùn)練單純用意識(shí)控制外部的生化手腳。有一只叫極光的母猴，不僅學(xué)會(huì)了如何用意識(shí)控制外部的生化手臂，還能同時(shí)移動(dòng)自己的兩只手臂。于是，這只母猴就同時(shí)擁有了三條手臂，而且其生化手臂還能位于另一個(gè)房間甚至另一個(gè)城市。所以，這只猴子可以坐在北卡羅拉納州的實(shí)驗(yàn)室里，一手抓抓背，一手抓抓頭，還能有一只手在紐約偷香蕉。另一只叫伊多雅的母猴，則是在2008年坐在北卡羅來納州實(shí)驗(yàn)室的椅子上，用意識(shí)控制一雙在日本京都的生化腿?！?4〕前引〔42〕，尤瓦爾 ·赫拉利書，第 398—399 頁(yè)。最近，天津大學(xué)醫(yī)學(xué)工程與轉(zhuǎn)化醫(yī)學(xué)研究院院長(zhǎng)、天津神經(jīng)工程國(guó)際聯(lián)合研究中心主任明東教授指出，隨著腦科學(xué)、人機(jī)交互技術(shù)的發(fā)展，人與機(jī)器的依賴關(guān)系會(huì)愈加強(qiáng)烈，界限也愈加模糊?，F(xiàn)在的人工智能技術(shù)有其先天的劣勢(shì)，但也有人腦智能不具備的優(yōu)點(diǎn)，如何將人工智能與人腦智能的優(yōu)勢(shì)充分利用以實(shí)現(xiàn)互補(bǔ)、融合，發(fā)展出人機(jī)混合智能的新形態(tài)，也將是人工智能未來重要的突破口?；蛟S，將來人工智能就像人身體上的一個(gè)器官一樣成為人發(fā)揮更大潛能的輔助工具?！?5〕《天津大學(xué)明東：融合AI與人腦是人工智能發(fā)展的突破口》，新華網(wǎng)，http://www.xinhuanet.com/tech/2018-09/18/c_1123447665_2.htm，2019年2月20日訪問。因此，可以預(yù)見，隨著科技的進(jìn)一步發(fā)展，有機(jī)體與無機(jī)體相結(jié)合的新型人類，即賽博格的出現(xiàn)必將成為現(xiàn)實(shí)。今后人工智能設(shè)備與人類有機(jī)體相結(jié)合的賽博格將成為人類的新型存在形式。

當(dāng)人類與人工智能相結(jié)合，成為新型的賽博格后，其實(shí)施犯罪以及承擔(dān)刑事責(zé)任的形式亦將有所改變。如在2018年由澳大利亞導(dǎo)演雷·沃納爾（Leigh Whannell）所拍攝科幻電影《升級(jí)》（Upgrade）中，格雷因車禍導(dǎo)致下半身癱瘓，在體內(nèi)植入了人工智能芯片后從而重新站了起來，后來格雷利用芯片中人工智能給予的超強(qiáng)能力自主實(shí)施了殺人行為，甚至在芯片中人工智能的控制之下實(shí)施了多次殺人行為。因此，賽博格的犯罪問題是極為復(fù)雜的，不過，就人類的刑事責(zé)任而言，以責(zé)任原則為基礎(chǔ)，要追究刑事責(zé)任關(guān)鍵還是在于判斷行為是基于人類意志實(shí)施，還是在人工智能的支配下實(shí)施。換言之，賽博格刑事責(zé)任的追究實(shí)質(zhì)仍然是主觀罪過來源的判斷問題。具體而言，可以分為以下幾種情況：

第一，賽博格人類在完全自主意識(shí)之下實(shí)施了犯罪行為。由于在這種情況中，支配犯罪行為的主觀罪過完全來自賽博格人類，因而與傳統(tǒng)人類犯罪并無區(qū)別，應(yīng)當(dāng)按照傳統(tǒng)的刑事責(zé)任承擔(dān)方式追究刑事責(zé)任。

第二，人工智能受他人非法控制，或者人工智能本身就是被設(shè)計(jì)和制造為實(shí)施犯罪的工具，從而致使賽博格人類實(shí)施了犯罪行為。在這種情況下，由于促使犯罪行為產(chǎn)生的主觀罪過事實(shí)上源自其他人，賽博格人類在這種犯罪過程中只是處于犯罪工具的地位，根據(jù)間接正犯理論，其無需承擔(dān)刑事責(zé)任，該責(zé)任應(yīng)由人工智能的非法控制者或者設(shè)計(jì)和制造者承擔(dān)。

第三，因人類原因所產(chǎn)生的人工智能故障導(dǎo)致賽博格人類實(shí)施了犯罪行為。在這種情況中，要具體分析人工智能的故障是如何產(chǎn)生的。如果其故障是由人工智能的設(shè)計(jì)和制造者過失所造成，應(yīng)當(dāng)追究設(shè)計(jì)和制造者的過失責(zé)任；如果故障是由使用者，即賽博格人類過失所造成，并由此導(dǎo)致實(shí)施了犯罪行為，則應(yīng)當(dāng)追究賽博格人類的過失責(zé)任，并應(yīng)當(dāng)對(duì)賽博格中的人工智能使用技術(shù)危險(xiǎn)消除措施以防止故障再次出現(xiàn)。在這種情況中，人類刑事責(zé)任與人工智能刑事責(zé)任同時(shí)存在。

第四，人工智能在所處的環(huán)境刺激下學(xué)習(xí)，從外部環(huán)境中獲取知識(shí)和技能，進(jìn)而支配賽博格人類實(shí)施了犯罪行為。〔46〕前引〔30〕，烏戈 ·帕加羅書，第 48 頁(yè)。在這種情況中，由于賽博格人類本身對(duì)于犯罪行為的實(shí)施并不具有主觀罪過，無需承擔(dān)刑事責(zé)任。而在實(shí)施犯罪行為過程中起主導(dǎo)作用的人工智能將作為刑事責(zé)任主體獨(dú)自承擔(dān)刑事責(zé)任，即應(yīng)當(dāng)對(duì)其施加技術(shù)危險(xiǎn)消除措施以防止其再次實(shí)施社會(huì)危害的行為。

結(jié) 語(yǔ)

近些年來的科技發(fā)展情況其實(shí)早就已經(jīng)超出了許多普通人的想象以及理解能力范圍。所以說，可以合理預(yù)見，隨著科技的進(jìn)一步發(fā)展，人工智能將像手機(jī)一樣深深地融入到我們的生產(chǎn)、生活之中。并且，可以肯定的是，人工智能會(huì)與其他科學(xué)技術(shù)產(chǎn)品相類似，在給人類的生產(chǎn)、生活帶來便利的同時(shí)也會(huì)給我們帶來難以承受的風(fēng)險(xiǎn)?！霸陲L(fēng)險(xiǎn)社會(huì)中，未知的、意圖之外的后果成了歷史和社會(huì)的主宰力量?！薄?7〕[德]烏爾里希·貝克：《風(fēng)險(xiǎn)社會(huì)：新的現(xiàn)代性之路》，張文杰、何博聞譯，譯林出版社2018年版，第8頁(yè)?？茖W(xué)技術(shù)的發(fā)展是風(fēng)險(xiǎn)社會(huì)中的一種重要風(fēng)險(xiǎn)來源，我們當(dāng)然不能等到這些意圖之外的后果成為主宰力量之后再對(duì)其做出反應(yīng)。雖然法律本身具有一定的保守性，但法學(xué)研究則應(yīng)當(dāng)具有一定的前瞻性，對(duì)我們將來可能面臨的風(fēng)險(xiǎn)進(jìn)行未雨綢繆既是必要的，也是合理的。在人工智能時(shí)代，刑法的保護(hù)機(jī)能、規(guī)制機(jī)能，以及人權(quán)保障機(jī)能都需要予以強(qiáng)化?！?8〕前引〔40〕，黃云波文。并且，需要特別注意的是，至少就與人工智能相關(guān)的領(lǐng)域而言，我們所做的所有研究都只能是為了人類利益，而非為了人工智能的利益而服務(wù)。如果偏離了這一初衷，所有的研究可能都會(huì)變得毫無意義。