人工智能的刑法規(guī)制

摘要：關(guān)于人工智能可否構(gòu)成犯罪，國(guó)外主要存在“心理要素說”“智能代理說”“法人類比說”“法定實(shí)體說"以及“當(dāng)然主體說"等觀點(diǎn)。人工智能成為犯罪主體的哲理基礎(chǔ)是科學(xué)實(shí)證主義和道德二元論，現(xiàn)實(shí)條件是具備法律人格。智能代理可以成為道德代理。人工智能的道德生成進(jìn)路有“實(shí)在論進(jìn)路”“關(guān)系論進(jìn)路”“認(rèn)識(shí)論進(jìn)路”等之別，“實(shí)在論進(jìn)路”相對(duì)合理。處罰人工智能既能為處罰其他主體奠定基礎(chǔ)，也能達(dá)到剝奪其犯罪能力的目的，還能產(chǎn)生附加價(jià)值。我國(guó)的人工智能刑法研究尚處于初始階段，未來研究的重點(diǎn)在于：人工智能對(duì)刑法人類中心主義的挑戰(zhàn)，人工智能犯罪主體的范疇、責(zé)任范圍與程度，刑法如何介入對(duì)人工智能的規(guī)制以及人工智能犯罪的刑罰適用。

關(guān)鍵詞：人工智能;人工智能犯罪;智能代理;法律人格;可罰性

中圖分類號(hào)：DF61

文獻(xiàn)標(biāo)志碼：A

DOI：l0.3969/j.issn.1001-2397.2019.05.10

開放科學(xué)（資源服務(wù)）標(biāo)識(shí)碼（OSID）：

一、引言

“人工智能”一詞是在1956年達(dá)特茅斯人工智能會(huì)議上首次提出的。數(shù)十年來，對(duì)于何謂人工智能可謂眾說紛紜，并無權(quán)威定義。大多數(shù)人傾向于用“創(chuàng)造智能行為的計(jì)算機(jī)過程"，或者“創(chuàng)造一個(gè)能模仿人類行為的計(jì)算機(jī)過程”等，來定義人工智能”。通常，人工智能之“智能”主要包括運(yùn)算智能、感知智能和認(rèn)知智能”。根據(jù)智能發(fā)展水平不同，人工智能可分為弱人工智能、強(qiáng)人工智能和超人工智能”。目前，人工智能發(fā)展水平應(yīng)當(dāng)說處于由弱人工智能到強(qiáng)人工智能的過渡時(shí)期。

人工智能會(huì)給人們工作、生活等帶來巨大的便利，同時(shí)也可能造成危害。“雖然機(jī)器人在很多方面對(duì)社會(huì)有益，但它們也會(huì)導(dǎo)致或牽涉到各種各樣的危害?！盵2]75以自動(dòng)駕駛車輛為例，雖然其安全性更佳，但亦可能造成事故。例如，2016年5月7日，美國(guó)海軍退伍老兵約書亞·布朗在佛羅里達(dá)州駕駛一輛特拉斯自動(dòng)駕駛汽車，不幸撞上一輛18輪的白色拖車而斃命[3]。司法實(shí)踐中，人工智能造成危害的典型事例是機(jī)器人殺人。1981年，日本發(fā)生人類第一例機(jī)器人殺人事件，受害人是名37歲的工人[4]。此后，類似事件屢見不鮮。“在過去的30年里，僅在美國(guó)機(jī)器人就在工作場(chǎng)所殺死了至少26人?！盵5]至于人工智能武器傷人事件更是觸目驚心?！皬?004年至2015年，美軍無人機(jī)空襲估計(jì)造成超過三千人死亡，其中預(yù)定目標(biāo)任務(wù)僅幾十人?！盵6]

可以預(yù)見，隨著人工智能變得更先進(jìn)和無處不在，其危害頻率和程度也必然會(huì)隨之攀升。在這樣的背景下，如何運(yùn)用法律規(guī)制人工智能，自然引起人們的關(guān)注。當(dāng)然，刑法規(guī)制只有針對(duì)強(qiáng)人工智能才具有意義，弱人工智能只是人類的工具而已，不可能成為刑法的規(guī)制對(duì)象。由于現(xiàn)階段尚未進(jìn)入強(qiáng)人工智能時(shí)代，且與人工智能相關(guān)的法律規(guī)范基本處于空白狀態(tài)，這也使得不少人對(duì)以刑法規(guī)制人工智能不以為然。他們認(rèn)為，待進(jìn)人到強(qiáng)人工智能時(shí)代再研究人工智能的罪與罰也不遲，現(xiàn)在研究缺乏現(xiàn)實(shí)基礎(chǔ)。這種說法看似有道理，實(shí)則不然。無論是法律滯后還是個(gè)案匱乏，似乎都不應(yīng)該成為學(xué)術(shù)研究的障礙。畢竟，政府在政策監(jiān)管、法律規(guī)制等方面的反應(yīng)，總是落后于工業(yè)進(jìn)步、學(xué)術(shù)研究和不斷增長(zhǎng)的公共關(guān)注的。

二、國(guó)外有關(guān)人工智能構(gòu)成犯罪的理論學(xué)說

傳統(tǒng)刑法理論堅(jiān)持刑法人類中心主義，認(rèn)為“只有個(gè)人才能成為犯罪的可能的主體;而法人（moralischePerson，如公司、大學(xué)或者學(xué)院等）決不可能成為犯罪的主體。”[7]根據(jù)刑法人類中心主義，人工智能和動(dòng)物等一樣，不具備犯罪資質(zhì)，不能成為犯罪主體。因?yàn)椋斯ぶ悄懿皇巧w，不具備人類的意志與理性，其與動(dòng)物等一樣是人類的工具，這便是機(jī)器工具主義。在機(jī)器工具主義看來，人工智能只是人類信息系統(tǒng)的延伸?！皩?duì)待人與機(jī)器之間關(guān)系的更有效的方法是把機(jī)器看作是人類信息系統(tǒng)的延伸，而不是把計(jì)算機(jī)和人類視為兩種不同的智能系統(tǒng)來相互交流?！盵8]

不過，刑法人類中心主義與機(jī)器工具主義還是受到了挑戰(zhàn)，許多學(xué)者認(rèn)為人工智能可以構(gòu)成犯罪，并提出了不同的理論學(xué)說。代表性的觀點(diǎn)主要有：

（一）心理要素說

該學(xué)說認(rèn)為機(jī)器人能夠獨(dú)立于人類指令犯罪，其形式可以和人類所犯之罪一樣眾多：從亂穿馬路到謀殺95。根據(jù)該理論，機(jī)器人具備心理要素，可以構(gòu)成犯罪。因?yàn)?，機(jī)器人能夠自我調(diào)節(jié)并解決深?yuàn)W問題，具有“智能”，因而具備心理狀態(tài)?！盀榱伺袛嘁粋€(gè)機(jī)器人是否擁有心理狀態(tài)，我們有必要嘗試在智能'和‘愚蠢之間劃一條線，換句話說，什么是“智能？《韋氏國(guó)際詞典》認(rèn)為如果‘成功地解決問題，特別是新的或深?yuàn)W的問題。'簡(jiǎn)單的計(jì)算機(jī)能夠解決深?yuàn)W問題，而具有自我調(diào)節(jié)能力的機(jī)器人也能夠解決新問題。因此，所謂的機(jī)器人是‘智能的?！盵9]

（二）道德代理說

根據(jù)該學(xué)說，行為人犯罪是因?yàn)樗婕暗赖逻^錯(cuò)，即行為人知道其所作所為在道德上是錯(cuò)誤的。“法律假定犯罪人有所謂的道德代理，道德代理需要具備兩個(gè)條件：行為人能夠理解他們行為的后果，并且他們有行動(dòng)的選擇?！盵10]105機(jī)器可以明辨是非，做出道德決策。“編程一臺(tái)機(jī)器使之尊重道德理論并將其應(yīng)用到一個(gè)事實(shí)模式，是完全可能的，因此機(jī)器可以分辨是非，做出道德決策?！盵10]10既然計(jì)算機(jī)程序可以做出道德決策，當(dāng)然知道所實(shí)施的行為是非法的，因而智能代理可以成為道德代理。智能代理能成為道德代理，意味著人工智能可構(gòu)成犯罪。

（三）法人類比說

該學(xué)說認(rèn)為作為組織機(jī)構(gòu)的法人和作為機(jī)械實(shí)體的人工智能沒有實(shí)質(zhì)差別，在承擔(dān)刑事責(zé)任上并無實(shí)質(zhì)性差異?！叭斯ぶ悄軐?shí)體在人類活動(dòng)中所占的份額越來越大，法人也一樣。犯罪已經(jīng)由人工智能實(shí)體或通過它們犯下。人工智能實(shí)體沒有靈魂，有些人工智能實(shí)體既沒有身體也沒有靈魂。因此，法人與人工智能實(shí)體間的刑事責(zé)任理念沒有實(shí)質(zhì)性的法律差異?！盵1]27既然法人可以構(gòu)成犯罪，人工智能當(dāng)然也能構(gòu)成犯罪。事實(shí)上，讓法人承擔(dān)刑事責(zé)任的做法非常成功?！爸贫ㄅc刑事責(zé)任有關(guān)的法律解決方案，它們被視為能夠達(dá)到刑事責(zé)任的所有要求，包括外部因素和內(nèi)部因素。這些解決方案體現(xiàn)在刑事責(zé)任模式和一般刑罰調(diào)整的考量模式上。它奏效了。事實(shí)上，它仍然在工作，而且非常成功?！盵1]27言外之意，讓人工智能承擔(dān)刑事責(zé)任也是可取的。

（四）法定實(shí)體說

該學(xué)說由烏克蘭學(xué)者拉杜尼提出，認(rèn)為刑法雖然沒有明文規(guī)定人工智能可以構(gòu)成犯罪，卻規(guī)定了其他實(shí)體可以構(gòu)成犯罪，人工智能應(yīng)當(dāng)包含于刑法規(guī)定的其他實(shí)體之中。這是因?yàn)?，賦予人工智能“電子實(shí)體”地位不應(yīng)在法律關(guān)系領(lǐng)域遇到反對(duì)和拒絕，而且這種開創(chuàng)是以公認(rèn)的理論和實(shí)踐為依據(jù)的，即基于對(duì)作為各種法律關(guān)系主體的法律實(shí)體的認(rèn)可，以及適用于不同法定實(shí)體的各種法律措施（罰款沒收財(cái)產(chǎn)、清算）的可行性?！稙蹩颂m刑法》第109條、第110條、第113條、第146條第147條第160條、第209條、第260條、第262條、第306條等的規(guī)定，就蘊(yùn)含賦予某種法律實(shí)體幾乎與犯罪人相同的責(zé)任地位[12]137-138。當(dāng)然，人工智能不同于法人。“在物理上體現(xiàn)在機(jī)器人單元中的人工智能應(yīng)該被認(rèn)為是法律關(guān)系的主體，它也許是介于法律實(shí)體和個(gè)人之間的，是其與眾不同的特征與相關(guān)情況相結(jié)合的產(chǎn)物?！盵12]138

（五）當(dāng)然主體說

該學(xué)說認(rèn)為在人工智能可以實(shí)施犯罪的情況下，當(dāng)然成為犯罪主體并可以適用刑法?！氨M管人工智能與人類的智力和情感還沒有達(dá)到同樣的水平，但很可能有一天會(huì)達(dá)到一如同無數(shù)科幻小說都在試圖警告我們的那樣。如果這一天到來，情況可能會(huì)有很大不同，有關(guān)刑法及其應(yīng)用可以直接針對(duì)人工智能代理人。在那一天，我們可以直接做好準(zhǔn)備賦予人工智能當(dāng)事人刑事責(zé)任，并認(rèn)為它們同樣有能力做出道德上的明智選擇，并做出錯(cuò)誤行為，我們甚至可以在立法和司法過程中邀請(qǐng)當(dāng)事方分享對(duì)犯罪的看法?！盵13]690在當(dāng)然主體說看來，法人構(gòu)成犯罪是因?yàn)槠浔澈蟠嬖谧鳛榇砣说娜祟惪梢詺w責(zé)?！耙?yàn)樗鼈冎徊贿^是由人類代理人所組成的集體企業(yè)。在這種情況下，刑事責(zé)任訴求因法律無法揭開面紗而被擱置，并將責(zé)任歸咎于法人擬制背后的人……”[13]695不難看出，當(dāng)然主體說并不認(rèn)同法人類比說，因?yàn)槿斯ぶ悄懿幌穹ㄈ四菢颖澈蟠嬖谌祟惔砣?，因而不存在可以歸責(zé)的人。因此，將人工智能類比法人沒有必要，只要其實(shí)施犯罪便可對(duì)之直接歸責(zé)。

心理要素說及智能代理說的不同在于，前者只從形式上強(qiáng)調(diào)人工智能也具備心理狀態(tài)，而后者則從心理要素的實(shí)質(zhì)，即自由意志和道德理性等角度，揭示人工智能在實(shí)質(zhì)上具備犯罪心理要素。兩者的問題在于，犯罪賴以成立的事實(shí)要件與心理要件，無疑是以傳統(tǒng)犯罪理論中作為生物有機(jī)體的人類為出發(fā)點(diǎn)和歸宿的，而人工智能作為機(jī)械實(shí)體，完全不同于人類，將適用于人類的概念適用于人工智能，似乎并非理所當(dāng)然?！叭绻脼槿祟愒O(shè)計(jì)的法律工具來處理，我們必須確立要么人工智能是足夠人性化的，然而并非如此，要么現(xiàn)行法律工具也適合于非人類，然而就犯罪心理和譴責(zé)而言至少存在爭(zhēng)議，畢竟整個(gè)概念反映了我們對(duì)人的意義的集體體驗(yàn)。

法人類比說強(qiáng)調(diào)人工智能可以類比法人并構(gòu)成犯罪，這在邏輯上似乎說得通。問題在于，諸如電子代理人等人工智能不同于經(jīng)典的法人（如基金會(huì)、公司），因?yàn)樗鼈儾恍枰匀蝗嗽诜申P(guān)系中作為代表，而法人總是需要一個(gè)代表它的自然人，能夠以其名義作出免責(zé)聲明[4。既然人工智能可以不依靠人類而獨(dú)立活動(dòng)，而法人仍然需要依賴人類活動(dòng)，這表明兩者在行為方式上存在差異。而且，法人屬于組織機(jī)構(gòu)，人工智能屬于機(jī)械實(shí)體，兩者在物理屬性上也存在實(shí)質(zhì)不同。如果簡(jiǎn)單進(jìn)行類比，可能有類推之嫌。

法定實(shí)體說的問題在于，在承認(rèn)人工智能不同于自然人和法人的前提下，認(rèn)為法律規(guī)定的其他實(shí)體當(dāng)然包含人工智能等在內(nèi)，屬于無法律依據(jù)的一廂情愿，具有類推解釋之嫌。即使自然人以外的其他實(shí)體滿足犯罪成立條件，認(rèn)定構(gòu)成犯罪也需要于法有據(jù)，不能僅憑推導(dǎo)。否則，在解釋上肆意擴(kuò)張既不合理亦不合法。

當(dāng)然主體說則過于概括。無論人工智能是否完全具備人的意識(shí)、道德與理性，哪怕是遠(yuǎn)超人類智能的超人工智能，畢竟其屬于機(jī)械實(shí)體，要想構(gòu)成犯罪在不同法系國(guó)家有不同路徑。例如，對(duì)于成文法系國(guó)家而言，受罪刑法定原則約束，只有刑法明確后人工智能才能成為犯罪主體。對(duì)于不成文法系國(guó)家來說，只要存在將刑事責(zé)任模式適用于人工智能的判例，則人工智能就能成為犯罪主體。“實(shí)用主義法律制度，如美國(guó)法律制度，可以將他們的刑事責(zé)任模式適用于機(jī)器人的行為，就像他們把非人類的、法人的行為納入他們的刑法體系一樣?！盵15]415這樣看來，當(dāng)然主體說在英美法系國(guó)家可行，但大陸法系國(guó)家則不被允許，否則違背罪刑法定原則。

不難發(fā)現(xiàn)，心理要素說、道德代理說是立足于人工智能是否具備歸責(zé)的心理或道德基礎(chǔ)，來認(rèn)定人工智能可否構(gòu)成犯罪的。至于法定實(shí)體說和當(dāng)然主體說，已經(jīng)不再囿于人工智能是否具備歸責(zé)的心理或道德基礎(chǔ)，而是探究如何確立人工智能的適格主體地位。如果說心理要素說智能代理說只是解決了人工智能是否具備犯罪資質(zhì)問題，那么法定實(shí)體說、當(dāng)然主體說則是在肯定人工智能具備犯罪資質(zhì)的基礎(chǔ)上，探究其如何獲得犯罪資質(zhì)。相對(duì)而言，前者是個(gè)理論問題，而后者則屬于法律問題。

無論上述理論觀點(diǎn)本身如何，探討人工智能的犯罪資質(zhì)無疑是與時(shí)俱進(jìn)的。近年來，新一代互聯(lián)網(wǎng)在全球范圍的推廣應(yīng)用，使以人與人鏈接為特征的互聯(lián)網(wǎng)，轉(zhuǎn)變?yōu)槿伺c人、人與物、物與物鏈接三位一體的物聯(lián)網(wǎng)，大數(shù)據(jù)呈現(xiàn)井噴式涌現(xiàn)態(tài)勢(shì)。量子計(jì)算機(jī)的橫空出世，使得人類擁有的計(jì)算能力正處在指數(shù)級(jí)增長(zhǎng)的前夜。凡此種種，使得人工智能已經(jīng)具備無監(jiān)督自主學(xué)習(xí)能力，又獲得云計(jì)算和大數(shù)據(jù)的強(qiáng)力支撐，而不斷取得的突破性進(jìn)展，人工智能整體智能水平越來越接近人類?？梢哉f，肯定人工智能具備犯罪資質(zhì)是一種趨勢(shì)，這從以往否定人工智能犯罪的刑法學(xué)者之態(tài)度發(fā)生動(dòng)搖可見一斑。如德國(guó)學(xué)者魏根特瑞士學(xué)者格雷斯在2014年發(fā)表的一篇論文[16]中反對(duì)人工智能成為刑罰主體，但在2016年發(fā)表的一篇論文章中卻承認(rèn)未來智能代理可以變成道德代理，并認(rèn)為彼時(shí)需要重新考慮人工智能的人格及犯罪主體地位。“可以肯定的是，這些陳述是指我們?cè)?016中知道的智能代理。然而，回顧近幾十年來計(jì)算機(jī)科學(xué)所發(fā)生的迅速變化，未來的智能代理獲得更像人類的素質(zhì)和能力并非不可能。如果它們獲得反省和類似于道德良知的能力，他們的人格問題就不得不重新考慮了?！盵15]417他們還指出，洛克和康德等古典哲學(xué)家們以人的自我反思能力為基礎(chǔ)確立的人格方法，并沒有考慮當(dāng)代人工智能[15]416。

與此同時(shí)，基于對(duì)人工智能犯罪研究的重視，機(jī)器人刑法或者人工智能刑法呼之欲出。例如，德國(guó)學(xué)者希爾根多夫就是機(jī)器人刑法的倡導(dǎo)者，以色列小野學(xué)院法學(xué)院教授哈利維則對(duì)人工智能刑法進(jìn)行了較為系統(tǒng)的研究。哈利維在《當(dāng)機(jī)器人殺人時(shí)：刑法中的人工智能》一書中，對(duì)人工智能的刑事責(zé)任、刑事責(zé)任的類型、嚴(yán)格責(zé)任、量刑等諸多問題進(jìn)行了全面分析和探討7。此外，人工智能的刑法立法問題也逐漸引起人們關(guān)注。“隨著自動(dòng)駕駛技術(shù)的進(jìn)步，聯(lián)邦和州的監(jiān)管機(jī)構(gòu)應(yīng)該修改刑法，以使自動(dòng)駕駛車輛順利進(jìn)人市場(chǎng)?！?8可以預(yù)見，未來有關(guān)人工智能犯罪的理論與立法會(huì)逐漸成為新熱點(diǎn)。

三、人工智能成為犯罪主體的哲理基礎(chǔ)與現(xiàn)實(shí)條件

（一）人工智能成為犯罪主體的哲理基礎(chǔ)

眾所周知，人之所以能夠成為犯罪主體，是以唯心主義哲學(xué)的自由意志論及理性主義等為哲理基礎(chǔ)的。那么，人工智能成為犯罪主體的哲理基礎(chǔ)是什么？對(duì)此，學(xué)界認(rèn)為主要有二：科學(xué)實(shí)證主義與道德二元論。

1.科學(xué)實(shí)證主義

人工智能會(huì)給人類帶來巨大的技術(shù)紅利，也可能對(duì)社會(huì)造成嚴(yán)重危害。那么，應(yīng)當(dāng)由誰來對(duì)人工智能的違法犯罪負(fù)責(zé)呢？有學(xué)者認(rèn)為，應(yīng)當(dāng)讓社會(huì)和公眾自行承擔(dān)人工智能犯罪的風(fēng)險(xiǎn)?！凹偃缥覀儾幌胍?yàn)樽罱K無法控制的風(fēng)險(xiǎn)而全面禁止智能代理，那么就別無他途，只能讓社會(huì)來承擔(dān)那些不能通過編程和負(fù)責(zé)任的使用而可掌控的風(fēng)險(xiǎn)，亦即放棄追究過失的刑事責(zé)任，而將蒙受損失的人視為非人類行為的受害者……讓公眾接受它們帶來的風(fēng)險(xiǎn)，停止刑法的干預(yù)?！盵16]239風(fēng)險(xiǎn)自負(fù)論的問題在于，根據(jù)既往的立法經(jīng)驗(yàn)，讓完全無過錯(cuò)的被害人對(duì)人工智能造成的風(fēng)險(xiǎn)承擔(dān)責(zé)任，是無法讓人接受的。同樣，對(duì)于制造商、程序員等而言，由于存在難以歸責(zé)的情形，讓他們無條件承擔(dān)刑事責(zé)任也不可取。于是，以現(xiàn)象歸納和實(shí)證分析為基礎(chǔ)的科學(xué)實(shí)證主義應(yīng)運(yùn)而生。

科學(xué)實(shí)證主義將犯罪主體歸結(jié)為現(xiàn)象研究，以現(xiàn)象論觀點(diǎn)為出發(fā)點(diǎn)，拒絕通過唯心主義哲學(xué)的理性主義把握感覺材料。在科學(xué)實(shí)證主義看來，人工智能是否成為犯罪主體，不能僅根據(jù)理性等決定，通過對(duì)現(xiàn)象的歸納同樣可以得到科學(xué)定律。哈利維就指出，作為先進(jìn)科技的“副產(chǎn)品”（by-product），人工智能造成的損害和危險(xiǎn)是客觀存在的?！盁o論是工業(yè)上還是私人上使用這項(xiàng)技術(shù)，都將擴(kuò)大人工智能機(jī)器人所承擔(dān)的任務(wù)范圍。任務(wù)越先進(jìn)、越復(fù)雜，任務(wù)的失敗風(fēng)險(xiǎn)就越大……最常見的情況是機(jī)器人承擔(dān)的任務(wù)沒有成功完成。但是一些失敗的情況會(huì)對(duì)個(gè)人和社會(huì)造成損害和危險(xiǎn)?！盵17]17-18他認(rèn)為，利用刑法來應(yīng)對(duì)人工智能是有效的?！靶谭ū徽J(rèn)為是指導(dǎo)任何一個(gè)社會(huì)個(gè)體行為的最有效的社會(huì)手段。它遠(yuǎn)非完美，但在現(xiàn)代環(huán)境下，這是最有效的措施。因?yàn)樗鼘?duì)于人類個(gè)體來說是有效的，那么有必要檢查它是否對(duì)非人類實(shí)體，尤其是人工智能實(shí)體有效?！盵17]19

立足于科學(xué)實(shí)證主義，利用刑法規(guī)制人工智能將會(huì)大大減少人們對(duì)人工智能犯罪的恐懼，其現(xiàn)實(shí)意義值得肯定。在這方面，法人成為犯罪主體就是很好的例證。在法人面世以后，人類也曾面對(duì)法人違法犯罪的危害而不知所措，因?yàn)榉ㄈ瞬槐环商貏e是刑法所規(guī)制，而將法人作為犯罪主體又違背刑法人類中心主義。不過，在法人被確定為犯罪主體后，人們對(duì)法人犯罪的恐懼大為減少。“在過去，人們同樣害怕法人和它們大規(guī)模實(shí)施犯罪的力量，但自從法人成為刑法以及公司法上的法律實(shí)體后，這種恐懼已經(jīng)顯著減少。”經(jīng)驗(yàn)表明，如果人工智能實(shí)體不受法律特別是刑法規(guī)制，那么在許多數(shù)情況下將會(huì)不可避免地引起人們對(duì)人工智能實(shí)體的恐懼。要想消除人們對(duì)人工智能犯罪的恐懼，將人工智能納人刑法規(guī)制之列無疑是有效途徑之一。

2.道德二元論

傳統(tǒng)犯罪理論以唯心主義哲學(xué)為哲理基礎(chǔ)，認(rèn)為人之所以能成為犯罪主體，是由其理性和自由意志決定的?？档略赋觯骸熬臀崛巳w狀態(tài)以考慮可欲求者為何（即關(guān)于考慮何者為善為有益）之等等考慮，則根據(jù)理性?！盵19]理性驅(qū)使人類不會(huì)像動(dòng)物那樣基于本能而為，而是必須權(quán)衡利弊得失。犯罪屬于非理性表現(xiàn)，故只有人才能實(shí)施犯罪。當(dāng)然，理性是以自由意志為前提的，并藉此奠定歸責(zé)的基礎(chǔ)。自由意志和理性為處罰提供了道德支撐，使處罰合乎公平與正義。根據(jù)傳統(tǒng)刑法理論，作為機(jī)械實(shí)物的人工智能不可能具有道德理性，因而難以歸責(zé)。

道德二元論則認(rèn)為，道德有道義論道德和目的論道德之別，前者集中在意志和行為，后者集中在結(jié)果?！暗赖仑?zé)任確實(shí)是一個(gè)非常復(fù)雜的問題，不僅對(duì)機(jī)器，而且對(duì)人類也是如此。一般來說，道德沒有一個(gè)共同的定義是所有社會(huì)都可以接受的。道義論的道德（集中在意志和行為）和目的論的道德（集中在結(jié)果）是最可接受的類型，并在許多情況下它們會(huì)導(dǎo)出相反的行為?！盵17]18據(jù)此，人在自由意志的支配下實(shí)施了犯罪行為，并需要對(duì)此承擔(dān)刑事責(zé)任，是道義論道德的要求。但是，如果結(jié)果是有害的，那么根據(jù)目的論道德也可以要求其承擔(dān)刑事責(zé)任。對(duì)于人工智能而言，無論是立足于由道義論道德還是立足于目的論道德，要求其對(duì)自己實(shí)施的犯罪承擔(dān)刑事責(zé)任都是合乎理性的。

根據(jù)道義論，高度智能的計(jì)算機(jī)程序，為人工智能的道德理性提供了科學(xué)基礎(chǔ)。神經(jīng)生物學(xué)的研究表明，人類的道德理性是受大腦掌控的?！霸谑芤庵菊瓶夭⒈桓兄獮樽杂傻男袨樽龀鲋?，大腦已經(jīng)提前運(yùn)作了。這個(gè)結(jié)論在部分程度上可解釋如下，不是我們自己，而是我們的大腦（在我們尚未覺察的時(shí)候）就做出了決定?！保?0換句話說，“我們的自由意志”實(shí)質(zhì)上是“我們大腦的自由意志”。人工智能同樣有自己的“大腦”一計(jì)算機(jī)程序，這是其擁有道德理性的源泉。計(jì)算機(jī)程序系統(tǒng)能夠使人工智能模仿人類思維進(jìn)行決策。例如，2015年誕生于美國(guó)的世界上第一位人工智能律師羅斯（ROSS）就具有高效的搜索、推理、判斷以及解決問題的能力[21]。許多人工智能武器更是融感知、分析、推理、判斷及思維于一體的作戰(zhàn)平臺(tái)，能自主完成戰(zhàn)爭(zhēng)任務(wù)。

那么，人工智能的道德是如何生成的呢？對(duì)此，學(xué)者們認(rèn)識(shí)不一。“實(shí)在論進(jìn)路”認(rèn)為，遵循程序指令的計(jì)算機(jī)、火箭制導(dǎo)系統(tǒng)、遵循烹飪食譜的初級(jí)廚師以及遵守交通法規(guī)的司機(jī)，它們行為時(shí)都相當(dāng)于一個(gè)道德主體，遵循著基于道德控制的規(guī)則導(dǎo)向體系[22]?！瓣P(guān)系論進(jìn)路”認(rèn)為，人工智能的道德倫理是在人類如何與機(jī)器人互動(dòng)中形成的。“從具體經(jīng)驗(yàn)和實(shí)踐出發(fā)，對(duì)個(gè)人和文化差異有足夠的敏感度，這種方法讓我們關(guān)注人類美德是如何出現(xiàn)在人與機(jī)器人的互動(dòng)中，并想象與個(gè)性機(jī)器人一起生活的可能性，這些機(jī)器人有助于形成良好的人類生活。”[23]“認(rèn)識(shí)論進(jìn)路”則認(rèn)為，“作為一種哲學(xué)倫理，需要探索不同的調(diào)查對(duì)象以及它們之間的關(guān)系。為了顧及本體論或認(rèn)識(shí)論的多元化、整體性、社會(huì)性和關(guān)系性，達(dá)到現(xiàn)象學(xué)一詮釋學(xué)的感受性的適當(dāng)水平，必須延緩對(duì)機(jī)器人道德直接的規(guī)范性論證?！盵24]根據(jù)該觀點(diǎn)，機(jī)器人領(lǐng)域的特定道德有賴于更豐富的分析，此前對(duì)機(jī)器人的道德挑戰(zhàn)應(yīng)暫且視而不見。從道德多元化與人工智能的獨(dú)立性與自主性來看，“實(shí)在論進(jìn)路”更具說服力。當(dāng)然，不管何種生成路徑，其結(jié)論都是一致的，即人工智能具備道德。

盡管人工智能具有道德理性，但并非所有的智能代理都能成為道德代理。通常，人工智能的道德代理分為三種：一是操作性道德代理，即其能力（自主性和倫理敏感性）仍然完全在工具設(shè)計(jì)者和用戶的控制范圍之內(nèi)的代理;二是功能性道德代理，即自身具有評(píng)估和應(yīng)對(duì)道德挑戰(zhàn)的能力的代理;三是完全道德代理，即具備人類那樣的完整、全面的道德代理25138-39。由于功能性自治可以實(shí)現(xiàn)理性自治，因而具備功能性道德代理的智能代理可以成為道德代理。功能性道德代理中的理性自治并非完全由外部因素決定，而是可以由人工系統(tǒng)在沒有外部刺激的情況下通過改變內(nèi)部狀態(tài)決定[25]39。

通常，人工智能的理性自治源自兩個(gè)方面：一是基于學(xué)習(xí)算法而獲得理性自治。人工智能學(xué)習(xí)時(shí)，基于所提供訓(xùn)練數(shù)據(jù)，并通過學(xué)習(xí)算法從中推理、論證并生成一組新的規(guī)則。人工智能所具備的無監(jiān)督自主學(xué)習(xí)能力，更是可以自行學(xué)習(xí)并生成新的規(guī)則。根據(jù)學(xué)習(xí)算法生成新的規(guī)則并做出的決斷，體現(xiàn)的是人工智能的理性自治，產(chǎn)生類似于人類那樣的自主意識(shí)和思維，程序員對(duì)此難以預(yù)料和控制，也無需承擔(dān)責(zé)任?！叭绻绦騿T不可能預(yù)見致命的自主機(jī)器人重寫它的程序，如果該事實(shí)發(fā)生了，這些程序員將被免除責(zé)任?！盵26]二是基于最佳決策法則而理性自治。人工智能的海量信息超強(qiáng)的運(yùn)算速度和技能等，可以使之在極短的時(shí)間內(nèi)做出最佳決斷，這是人類無法做到的?！爱?dāng)軟件與外界交互時(shí)，它會(huì)尋求哪一種行動(dòng)會(huì)產(chǎn)生最有成效的結(jié)果。然后，它將最有成效的行動(dòng)付諸于未來的行動(dòng)中?！盵27]最佳決策體現(xiàn)人工智能的理性自治，并使得人工智能系統(tǒng)可以在眾多領(lǐng)域（如醫(yī)療領(lǐng)域）發(fā)揮著人類無法企及的作用，人類對(duì)此難以預(yù)知。但是，其弊端也是明顯的，即人工智能基于最佳決策可能會(huì)實(shí)施違法犯罪，人類根本無法掌控。例如，當(dāng)人類違規(guī)操作時(shí)，若智能機(jī)器人瞬間篩選的最佳方案是排除個(gè)人干擾，就有可能殺死違規(guī)操作的人，這也是許多機(jī)器人殺人的真正原因。

立足于完全道德代理，即以正常成人的道德為標(biāo)準(zhǔn)，是認(rèn)為智能代理不能成為道德代理的重要原因之一。這種觀點(diǎn)看似有道理，實(shí)質(zhì)上經(jīng)不起推敲。人類的道德理性具有復(fù)雜性、多樣性特征，缺乏統(tǒng)一的判斷標(biāo)準(zhǔn)，如成年人與未成年人、精神狀態(tài)正常的人與精神狀態(tài)不正常的人，道德理性就不一樣。即使是正常成年人的道德理性，也復(fù)雜多樣。一個(gè)閱歷豐富、聰明睿智的人與一個(gè)閱歷單一、封閉偏執(zhí)的人，雖然均具有完全的道德理性，卻是有所區(qū)別的。這表明完全道德代理是個(gè)抽象概念，并不容易操作。此外，刑事歸責(zé)從來就不需要責(zé)任主體必須具備正常成人的道德理性，否則就無法解釋限制刑事責(zé)任能力人因何可以成為刑法歸責(zé)的對(duì)象。因此，不應(yīng)以人工智能不具備虛擬的、具有理想色彩的完全道德代理能力，否定智能代理可以成為道德代理。

（二）人工智能成為犯罪主體的現(xiàn)實(shí)條件

人工智能成為犯罪主體的基本條件是具備法律人格。理論上，對(duì)于人工智能是否具有法律人格，存在三種不同看法：肯定說、否定說和折中說。

肯定說認(rèn)為，賦予人工智能法律人格有其可取之處。一方面，“授予自治機(jī)器法律人格，以滿足受其傷害的第三者需要，同時(shí)還可避免連帶責(zé)任引發(fā)的一些問題”[28]343;另一方面，通過對(duì)代表其人類主人的機(jī)器人對(duì)其所參與的交易賦：予責(zé)任，使得賦予機(jī)器人法律人格也可以促進(jìn)商業(yè)發(fā)展[29]。否定說認(rèn)為，不應(yīng)賦予人工智能法律人格。因?yàn)?，它們不是人類，缺乏人格的一些關(guān)鍵成分，如靈魂、意識(shí)意向性、情感或自由意志等，作為人類的產(chǎn)物永遠(yuǎn)不應(yīng)該上升到和我們一樣的法律地位[30]1258-1279。折中說認(rèn)為，如果人工智能具有與人相匹配的特征，就應(yīng)當(dāng)賦予其法律人格?！霸谀撤N程度上，一個(gè)實(shí)體如果與具備人的所有特征的實(shí)體的相關(guān)特征匹配一例如，勝任人的成人一該實(shí)體應(yīng)該被賦予人格保護(hù)，因?yàn)閯e無選擇……[31]

究竟哪種觀點(diǎn)更具有說服力呢？這里關(guān)系到法律人格及其判斷標(biāo)準(zhǔn)等問題。早先的法律人格判斷，采取的是以主體自然屬性或身份等為據(jù)的形式標(biāo)準(zhǔn)。隨著社會(huì)的發(fā)展，法律人格的判斷逐漸演變成以法律權(quán)利和義務(wù)之資格為依據(jù)的實(shí)質(zhì)標(biāo)準(zhǔn)?！百x予法律人格是授予實(shí)體一系列權(quán)利和伴隨義務(wù)的決定。權(quán)利和義務(wù)的性質(zhì)和代理人的能力促成這種決定，而不是實(shí)體的組成、內(nèi)部構(gòu)造或?qū)嶓w的其他不可表達(dá)的屬性?！盵32]相應(yīng)地，法律上的“人”的含義也發(fā)生深刻變化。哈佛大學(xué)法學(xué)院格雷教授有段著名論述：“與其他書籍一樣，在法律書籍以及普通語言中，人通常被用來指人，但人的專業(yè)的法律含義是法律權(quán)利和義務(wù)的主體。”以法律權(quán)利和義務(wù)這一實(shí)質(zhì)標(biāo)準(zhǔn)來判斷可否賦予法律人格，無疑便于操作和解決問題?！翱梢哉f，法律人格和法人是為簡(jiǎn)化法律計(jì)算而設(shè)計(jì)的數(shù)學(xué)創(chuàng)造物?！盵34]

根據(jù)實(shí)質(zhì)標(biāo)準(zhǔn)，除人類外包括法人、人工智能等在內(nèi)的其他實(shí)體因?yàn)槟軌虮毁x予權(quán)利和義務(wù)，因而也可以具備法律人格。事實(shí)上，正因法律人格的實(shí)質(zhì)標(biāo)準(zhǔn)有利于解決現(xiàn)實(shí)問題，即使持否定說的學(xué)者在該問題上也并非篤定的，在他們看來不賦予人工智能法律人格不應(yīng)絕對(duì)化。“對(duì)人工智能是否應(yīng)該賦予某種形式的法律人格的問題，直到我們的生活形式使得問題迫切需要解決才能解答。但是，當(dāng)我們每天面對(duì)人工智能提出人格問題，它們可能會(huì)改變我們?nèi)绾谓獯饐栴}的態(tài)度?！盵30]1287

在現(xiàn)實(shí)生活中，不少國(guó)家或者國(guó)際組織業(yè)已通過立法或者其他形式，在實(shí)質(zhì)上賦予人工智能法律人格。例如，在日本存在大量給予機(jī)器人特殊居留許可證的試驗(yàn)性經(jīng)驗(yàn)[35]，這等于在實(shí)質(zhì)上承認(rèn)了某些機(jī)器人的法律人格。美國(guó)密歇根州則通過立法明確賦予人工智能法律人格。2016年12月，密歇根州參議院通過了第995號(hào)議案，出臺(tái)了被譽(yù)為史上最寬松的交通法案。“第995號(hào)議案明確宣稱，無人駕駛驅(qū)動(dòng)系統(tǒng)是司機(jī)或?yàn)樽鞒雠c任何適用的交通或機(jī)動(dòng)車輛法規(guī)相符的決定的操作者。這樣看來，計(jì)算機(jī)程序根本不是代理人的工具。計(jì)算機(jī)程序就是代理人?！盵36]2017年10月26日，沙特阿拉伯更是直接授予機(jī)器人索菲亞（Sophia）公民身份。2015年，聯(lián)合國(guó)教科文組織與世界科學(xué)知識(shí)與技術(shù)倫理委員會(huì)聯(lián)合發(fā)布的有關(guān)人工智能報(bào)告中，就提到除了讓所有參與到機(jī)器人的發(fā)明、授權(quán)和分配過程中的人來分擔(dān)責(zé)任外，“另一個(gè)解決辦法就是讓智能機(jī)器人承擔(dān)責(zé)任，因?yàn)橹悄軝C(jī)器人確實(shí)擁有前所未有的自主性，并且擁有能夠獨(dú)立做出決策的能力?！盵37]2016年，歐洲議會(huì)向歐盟委員會(huì)提出報(bào)告，建議確保至少最復(fù)雜的自動(dòng)化機(jī)器人可以被確認(rèn)為享有電子人的法律地位，有責(zé)任彌補(bǔ)自己所造成的任何損害，并且可能在機(jī)器人作出自主決策或以其他方式與第三人獨(dú)立交往的案件中適用電子人格[38]。

四、人工智能的可罰性

（一）人工智能之可罰性的理論爭(zhēng)議

1.有關(guān)人工智能是否具有可罰性的理論學(xué)說

（1）否定說

否定說認(rèn)為人工智能不可罰。主要理由在于：首先，處罰人工智能無現(xiàn)實(shí)意義。人工智能屬于機(jī)械實(shí)體，不同于血肉之軀的人類，兩者在物理特性上完全不同?！拔覀兲焐煌Ｒ粋€(gè)人的身體老化，使得監(jiān)獄系統(tǒng)中失去的時(shí)間的前景令人畏懼;機(jī)器人的身體將不會(huì)，并且身體上的任何缺陷或銹跡都可以很容易被修復(fù)?！盵39]517人工智能的特點(diǎn)決定死刑等刑罰對(duì)其毫無意義?！皺C(jī)器人的記憶、數(shù)據(jù)和能力可以在被刪除之前被轉(zhuǎn)移到另一個(gè)身體上，它只是和我們希望的一樣獨(dú)特。機(jī)器人可以被克隆，它的代碼從一個(gè)處理器復(fù)制到另一個(gè)處理器，它的身體在精確的復(fù)制品流水線中復(fù)制?！盵39]1517其次，刑罰難以對(duì)人工智能產(chǎn)生附加價(jià)值。對(duì)人類施加刑罰的重大目標(biāo)之一是能產(chǎn)生附加價(jià)值。例如，判處監(jiān)禁不僅在形式上會(huì)剝奪犯罪人的人身自由，還會(huì)對(duì)犯罪人產(chǎn)生強(qiáng)烈的威懾、恐嚇等效果，使其不敢再犯。然而，對(duì)人工智能則并非如此，因?yàn)闄C(jī)器學(xué)習(xí)難以像人類的自然語言加工那樣，通過心理作用產(chǎn)生附加價(jià)值。“自然語言加工和機(jī)器學(xué)習(xí)的區(qū)別，在于人類行為、語言甚至偏見以及其他心理特征相互作用而產(chǎn)生的附加價(jià)值?！盵40]

否定說所謂的處罰之附加價(jià)值，是以人類的道德理性為基礎(chǔ)的。這樣，只要智能代理不能替代道德代理，就不可能讓人工智能承擔(dān)刑事責(zé)任。因?yàn)橹悄艽砑炔痪邆淙祟惸菢拥母惺苄塘P的能力，也無法理解與懲罰相聯(lián)系的倫理指責(zé)，因此針對(duì)它們動(dòng)用刑罰沒有意義[36]238。但是，如前所述智能代理在一定程度上是可以成為道德代理的，如此懲罰人工智能當(dāng)然可產(chǎn)生附加價(jià)值。而且，人類受罰產(chǎn)生附加價(jià)值，在宏觀層面乃源自道德理性，在微觀層面上則源自人的意識(shí)。人的意識(shí)雖然較為現(xiàn)實(shí)化具體化，但在判斷上卻遠(yuǎn)較意志決定或者道德判斷復(fù)雜?！耙庾R(shí)是心靈科學(xué)中最令人困惑的問題。沒有什么比意識(shí)體驗(yàn)更親密的了，但也沒有什么比這更難解釋的了。近年來，各種各：樣的心理現(xiàn)象已被科學(xué)研究所證實(shí)，但意識(shí)卻一直頑固地抵制著。許多人試圖解釋這一點(diǎn)，但解釋似乎總是落空。”[41]然而，否定說并未就人工智能的意識(shí)作出解釋，說服力有所不夠。

（2）肯定說

肯定說認(rèn)為人工智能具有可罰性，處罰人工智能同樣能達(dá)到一定的目的和效果，代表性學(xué)者是哈利維。他指出，刑罰有報(bào)應(yīng)、威懾、康復(fù)和剝奪四種功能，懲罰與威懾不能對(duì)人工智能發(fā)揮作用，但康復(fù)和剝奪卻是有效的[17]157-162。這是因?yàn)?，基于?bào)應(yīng)去懲罰機(jī)器將毫無意義，而威懾是一種機(jī)器無法體驗(yàn)的感覺[17]158-199。不過，對(duì)于人工智能實(shí)體來說，康復(fù)功能與人類完全一樣，能夠使它們?cè)谌粘Ｉ钪凶龀龈玫臎Q定。同時(shí)，不管人工智能系統(tǒng)是否理解其行為意義，防止其犯罪是必須的，社會(huì)必須剝奪人工智能系統(tǒng)犯其他罪行的物理能力[17]160-161。

至于處罰方式，哈利維認(rèn)為對(duì)人工智能可以適用死刑?！皩?duì)人工智能系統(tǒng)判處死刑意味著它被永久關(guān)閉，這樣對(duì)系統(tǒng)而言不會(huì)再實(shí)施犯罪或其他任何活動(dòng)……久喪失能力意味著根據(jù)法院命令絕對(duì)關(guān)閉，再無激活系統(tǒng)的選擇?！?166-167也可以實(shí)行監(jiān)禁，當(dāng)人工智能系統(tǒng)被羈押、受限制和監(jiān)督時(shí)，它的攻擊能力是喪失的[17]168，對(duì)人工智能還可以適用緩刑或公益服務(wù)，“對(duì)人工智能系統(tǒng)判處緩刑是對(duì)重新考慮其行為過程的警告”，“人工智能系統(tǒng)的公益服務(wù)在本質(zhì)上類似于人類的公益服務(wù)”[17]168-173，哈利維認(rèn)為可以考慮調(diào)整處罰方式。“人工智能系統(tǒng)的確沒有財(cái)產(chǎn)，但它工作能力是很有價(jià)值的，可以賦予其貨幣價(jià)值……人工智能系統(tǒng)可以使用它擁有的唯一貨幣：工作時(shí)間。工作時(shí)間對(duì)社會(huì)有貢獻(xiàn)，就像公益服務(wù)的貢獻(xiàn)一樣?！盵17]174

2.簡(jiǎn)評(píng)

不難看出，否定說與肯定說具有共同的出發(fā)點(diǎn)和歸宿，即以處罰人類的目的和效果作為評(píng)價(jià)人工智能是否具有可罰性的依據(jù)。由于人工智能在物理屬性上迥異于人類，因而以處罰人類的目的和效果來否定人工智能的可罰性，就順理成章了。這樣看來，肯定說較為勉強(qiáng)。因?yàn)?，根?jù)對(duì)人類的懲罰目的和效果來評(píng)價(jià)對(duì)人工智能的規(guī)制，無論如何都是讓人感到蹊蹺的?！氨M管我們可以設(shè)想對(duì)智能代理人的懲罰大致等同于那些針對(duì)人類代理人的懲罰，但仍有理由認(rèn)為，這些等同制裁略微離題?！盵13]688-689

例如，肯定說認(rèn)為對(duì)人工智能可以像處罰人類那樣的適用監(jiān)禁刑和緩刑，這是有問題的。眾所周知，對(duì)人類加以監(jiān)禁或處以緩刑，目的在于讓其接受教育改造、自我悔改，消除人身危險(xiǎn)性而回歸社會(huì)。即使人工智能具備自我反省、悔改和接受教育改造的能力，判處監(jiān)禁刑和緩刑也不一定是最佳選項(xiàng)。因?yàn)椋瑢?duì)計(jì)算機(jī)程序等酌情加以改寫、改良等，可能較之處以監(jiān)禁或緩刑更直接、更容易達(dá)到處罰目的。又如，肯定說認(rèn)為可以對(duì)人工智能適用罰金，并通過調(diào)整處罰方式來執(zhí)行。這看似可行實(shí)質(zhì)上沒有必要。因?yàn)?，與其將罰金調(diào)整為公益服務(wù)，不如直接處以公益服務(wù)。

對(duì)哈利維的上述觀點(diǎn)，加拿大多倫多大學(xué)法學(xué)博士蕾切爾·查尼進(jìn)行了簡(jiǎn)要評(píng)述。她認(rèn)為，哈利維關(guān)于人工智能可以通過公共服務(wù)來懲罰是不可信的，通過機(jī)器人可能給社會(huì)帶來危害。公共服務(wù)適用于人工智能，是一個(gè)較之哈利維簡(jiǎn)單陳述更為微妙和復(fù)雜的問題[42]71-72。對(duì)人工智能進(jìn)行罰金也不可信[42]71，“在某些情況下，也許有可能找到一種替代方法，使人工智能系統(tǒng)造福于社會(huì)，但不同于那些在駕車超速后被判撿垃圾的人，一個(gè)能夠駕駛和超速的人工智能系統(tǒng)不可能有撿垃圾的能力?！盵42]72應(yīng)當(dāng)說，查尼的質(zhì)疑不無道理。將機(jī)械實(shí)體和血肉之軀相提并論，這本身就不妥。盡管哈利維運(yùn)用經(jīng)典犯罪理論在一定程度上很好地解決了機(jī)器人的犯罪問題，但使用傳統(tǒng)刑罰懲治機(jī)器人會(huì)導(dǎo)致荒謬的結(jié)果。如果在機(jī)器人與人類之間保持公平懲罰不作出任何努力，那么現(xiàn)有的懲罰技巧將既不能阻止機(jī)器人犯罪，也不能使犯罪的機(jī)器人康復(fù)[39]516-517。

（二）人工智能具有可罰性

肯定說的誤區(qū)在于，對(duì)完全不同于人類的人工智能，依舊立足于刑法人類中心主義來尋找可罰性根據(jù)及措施。事實(shí)上，比照對(duì)人類適用的刑罰來處罰人工智能，還是有其現(xiàn)實(shí)意義的。

一方面，處罰人工智能為處罰其他主體奠定基礎(chǔ)。根據(jù)責(zé)任與行為同時(shí)存在原則，如果不處罰人工智能，有時(shí)會(huì)導(dǎo)致無法處罰存在過錯(cuò)的制造商、程序員等，因?yàn)樗麄儾]有實(shí)施行為。其結(jié)果，將導(dǎo)致“制造商、所有者或用戶越來越脫離法律的局面”[28]1343，這是不可取的。在司法實(shí)踐中，無論人工智能造成多么嚴(yán)重的危害結(jié)果，從未出現(xiàn)過追究相關(guān)責(zé)任主體的刑事責(zé)任的情況。這種現(xiàn)象，并非是因?yàn)椴淮嬖谧肪啃淌仑?zé)任的事由和主體，而是由于人工智能被排除在刑法制裁之外。只有處罰人工智能，才能合理追究有過錯(cuò)的制造商、程序員、所有者或用戶等的刑事責(zé)任，維護(hù)法律的權(quán).威和尊嚴(yán)、公平與正義。

另一方面，處罰人工智能也可以達(dá)到剝奪犯罪能力、預(yù)防其再次犯罪的目的。同時(shí)，處罰人工智能還能對(duì)人工智能的制造商、程序員以及使用者等產(chǎn)生負(fù)面清單效應(yīng)，使他們蒙受商業(yè)利益損失或者技術(shù)的先進(jìn)性與可靠性的名譽(yù)損害，這樣既可以教育改造人工智能，對(duì)制造商、軟件供應(yīng)商等也是一種鞭策。此外，處罰人工智能還能消除公眾對(duì)人工智能的恐懼，起到安撫公眾情緒和情感的作用。

當(dāng)初，在將法人納人刑法規(guī)制的對(duì)象時(shí)，也出現(xiàn)不少類似的質(zhì)疑聲。例如，“有人認(rèn)為法人刑事責(zé)任的唯一限制是刑罰。這意味著除非立法機(jī)關(guān)沒有打算將法人考慮在內(nèi)，因?yàn)樗荒鼙槐O(jiān)禁或，被處電刑，很難看出這是一個(gè)真正的障礙?！盵43]但是，法人最終還是成為處罰主體，并取得了良好的效果。這從另一方面表明，處罰人工智能完全可能達(dá)到預(yù)期效果。

至于認(rèn)為處罰人工智能不能產(chǎn)生附加價(jià)值，是基于人工智能缺乏人類那樣的意識(shí)使然。這里關(guān)系到如何認(rèn)識(shí)“意識(shí)”問題。紐約大學(xué)心理學(xué)、神經(jīng)科學(xué)教授布洛克等人提出意識(shí)三元論，即將人的意識(shí)分取得意識(shí)、現(xiàn)象意識(shí)和內(nèi)省意識(shí)三種類型，并認(rèn)為機(jī)器可能具有取得意識(shí)，但不具備現(xiàn)象意識(shí)和內(nèi)省意識(shí)D。美國(guó)《未來學(xué)家》雜志計(jì)算和人工智能專欄長(zhǎng)期特約編輯理查德.揚(yáng)克在其所著《機(jī)器的心臟：人工情緒智能世界中我們的未來》一書中，對(duì)意識(shí)進(jìn)行了深入研究。楊克不但肯定人工智能擁有取得意識(shí)，還認(rèn)為人工智能也擁有現(xiàn)象意識(shí)。“如果一個(gè)人工智能的陳述或行動(dòng)表明它正在這個(gè)意義上體驗(yàn)世界，我們?cè)鯓硬拍艽_定這是真實(shí)的事例？相反，即使一個(gè)足夠復(fù)雜的系統(tǒng)不報(bào)告符合現(xiàn)象意識(shí)的狀態(tài)，我們能確定它不是根據(jù)這個(gè)定義體驗(yàn)可感受到的特質(zhì)嗎？”[424對(duì)于有些人認(rèn)為“意識(shí)是神秘的、相對(duì)單一的狀態(tài)，是相互作用的心理過程的生態(tài)系統(tǒng)，機(jī)器不可能用這樣的意識(shí)”的觀點(diǎn)，楊克指出，具有這樣意識(shí)的機(jī)器有朝一日會(huì)真的存在，它們可能與人類不一樣，甚至也許不那么相似，但根據(jù)這些標(biāo)準(zhǔn)它們?nèi)匀豢梢允怯幸庾R(shí)的[42]247。

布洛克等人的人工智能意識(shí)論立論較早，具有一定的時(shí)代局限性。比較而言，楊克的立論成之于新近，是在云計(jì)算、大數(shù)據(jù)、物聯(lián)網(wǎng)以及量子計(jì)算機(jī)等許多前沿科技橫空出世以及人工智能技術(shù)取得顛覆性進(jìn)步的情況下提出的，因而更具有現(xiàn)實(shí)基礎(chǔ)。一方面，我們的意識(shí)是大腦對(duì)物質(zhì)世界的充分反應(yīng)。“我們的大腦的存在，在全世界七十億人中產(chǎn)生了豐富的有意識(shí)生命（或我們相信），證明意識(shí)可以由物質(zhì)實(shí)體產(chǎn)生——除非你相信二元論靈魂，或者類似的東西?！盵45]87而現(xiàn)今人工智能的計(jì)算機(jī)程序及其對(duì)物質(zhì)世界的認(rèn)識(shí)和領(lǐng)會(huì)，在很多方面并不比人腦差，這為其意識(shí)的形成奠定了物質(zhì)基礎(chǔ)。另一方面，人工智能的研究方法，除了傳統(tǒng)的強(qiáng)調(diào)人類智力的功能模擬、形成以心理學(xué)的符號(hào)處理為特征的符號(hào)主義外，更有強(qiáng)調(diào)人腦的結(jié)構(gòu)模擬、采用基于生理學(xué)的腦結(jié)構(gòu)模式的聯(lián)結(jié)主義，這為人工智能意識(shí)的形成提供了科學(xué)基礎(chǔ)。“如果我們成功地掃描了一個(gè)活著的人的大腦，我們也需要一個(gè)合成的大腦，它具有正確的神經(jīng)元密度和突觸來容納大腦。這兩種方法，即人工腦的開發(fā)和訓(xùn)練，以及人工腦作為一種包含人類思維的媒介的創(chuàng)造，可以并肩前進(jìn)，彼此受益?！盵46]因此，人工智能具有意識(shí)是應(yīng)當(dāng)肯定的，這為其可罰性奠定了堅(jiān)實(shí)基礎(chǔ)。

（三）人工智能的刑罰方式

如果人工智能具有可罰性，接下來的問題是如何處罰呢？對(duì)此，否定說完全將針對(duì)人類的刑罰類型照搬于人工智能，有所不妥。懲罰人工智能，必須針對(duì)計(jì)算機(jī)程序和機(jī)械實(shí)體的特征加以針對(duì)性處罰，才能產(chǎn)生效果并達(dá)到處罰目的。否則，無異于張冠李戴。

針對(duì)電子計(jì)算機(jī)創(chuàng)造的通訊、信息空間等，哈佛大學(xué)法學(xué)院教授萊西希提出了四種規(guī)制方式：法律、社會(huì)準(zhǔn)則、市場(chǎng)和結(jié)構(gòu)程序。他認(rèn)為，通過立法影響網(wǎng)絡(luò)空間的底層代碼（結(jié)構(gòu)程序），網(wǎng)絡(luò)空間難以管理的開放世界是可控的[47]。其中的法律規(guī)制和結(jié)構(gòu)程序規(guī)制，得到了不少學(xué)者的贊同?！爱?dāng)涉及到調(diào)節(jié)機(jī)器人時(shí)，這兩種模式（法律和結(jié)構(gòu)程序）也應(yīng)該是立法者選擇的監(jiān)管工具?！盵39]519特別是結(jié)構(gòu)程序規(guī)制，對(duì)人工智能極具針對(duì)性，即使否定論者對(duì)此也深表認(rèn)同。“如果哈利維堅(jiān)持將我們現(xiàn)有的懲罰模式運(yùn)用到機(jī)器人身上，機(jī)器人就應(yīng)該被編碼和被連接，藉此盡可能接近人類以便知道和感受首當(dāng)其沖的懲罰。編碼機(jī)器人使之感到恐懼、體驗(yàn)內(nèi)疚或害怕它們的外殼緩慢衰，減?！盵39]517結(jié)構(gòu)程序規(guī)制意味著任何調(diào)節(jié)機(jī)器人等人工智能的法律，都必須關(guān)注機(jī)器人的源代碼或基礎(chǔ)代碼，因?yàn)橥ㄟ^代碼可以限制機(jī)器人的自主性。因此，對(duì)機(jī)器人進(jìn)行編碼是必要的，它們的密碼是我們調(diào)節(jié)它們的大門3959。對(duì)于人工智能，結(jié)構(gòu)程序規(guī)制可謂是對(duì)癥下藥的特別處罰措施。

當(dāng)然，傳統(tǒng)刑罰也是具有一定的作用的，只是在具體執(zhí)行上不同而已。例如，對(duì)人工智能就適用“死刑”，較之對(duì)法人判處“死刑”（如注銷）更具可行性，因?yàn)椤疤幩?人工智能不會(huì)像“處死”法人那樣會(huì)“株連”無辜的人（股東等）。事實(shí)上，“死刑”適用范圍很廣，它可以適用于個(gè)人和實(shí)體[48]。當(dāng)然，對(duì)人工智能適用死刑，不可能采取槍決、注射毒劑等剝奪人類生命的方式，而是能夠消除人工智能原有生命的措施。例如，可以對(duì)其實(shí)體子予以徹底毀滅，也可以是對(duì)其計(jì)算機(jī)程序給予永久刪除等。

五、我國(guó)人工智能犯罪研究的現(xiàn)狀及其展望

（一）我國(guó)人工智能犯罪研究的現(xiàn)狀

近兩年來，有關(guān)人工智能的法學(xué)研究在我國(guó)儼然成為顯學(xué)。在缺乏即有理論基礎(chǔ)與實(shí)踐支撐的情況下，不少學(xué)者依舊勇敢地正視問題?！白⒅乜萍紕?chuàng)新未來發(fā)展可能帶來諸多法律問題的預(yù)測(cè)與預(yù)判，與細(xì)節(jié)微觀處的探究，而不是全盤將這一前瞻性的理論研究作為‘偽命題一概排除。唯如此，法律才能彰顯生命力，否則是無視人工智能對(duì)社會(huì)帶來法律問題的表現(xiàn)，由此帶來的復(fù)雜社會(huì)難題也將越來越多。”[49]就人工智能犯罪而言，所涉及的問題主要有人工智能的法律人格及刑事歸責(zé)等。

不少學(xué)者肯定人工智能具有法律人格?！皬娜斯ぶ悄艿奶匦苑治?，其具有獨(dú)立自主意識(shí)的智慧工具屬性，享有權(quán)利并承擔(dān)責(zé)任的獨(dú)特特點(diǎn)決定了其具有法律人格?！?50也有學(xué)者建議未來可賦予智能機(jī)器人法律地位?！暗侥菚r(shí)，如果賦予智能機(jī)器人電子人格，讓其可以享有特定的權(quán)利和義務(wù)，并可以對(duì)其行為承擔(dān)法律責(zé)任，包括對(duì)其造成的損害的賠償責(zé)任，人們現(xiàn)在擔(dān)心的很多責(zé)任問題都可以得到較好的解決?！盵51]因?yàn)?，賦予人工智能法律人格有利于劃分不同主體及其責(zé)任界限[52]。

對(duì)于是否應(yīng)對(duì)人工智能加以刑事歸責(zé)，不少學(xué)者持否定意見。不過，贊同者也不在少數(shù)。有學(xué)者認(rèn)為，智能機(jī)器人如果具有辨認(rèn)能力與控制能力，可能產(chǎn)生自主的意識(shí)和意志，在設(shè)計(jì)和編制程序范圍外實(shí)施行為時(shí)，智能機(jī)器人需要承擔(dān)刑事責(zé)任[53]。相應(yīng)地，“人工智能的普及完全可能使得智能機(jī)器人在人類社會(huì)生活中的地位從普通工具上升至法律主體的高度，因此未來人類社會(huì)的法律制度需要針對(duì)人工智能技術(shù)的發(fā)展做出相應(yīng)的調(diào)整。

如果人工智能可以歸責(zé)，那么應(yīng)在何種范圍內(nèi)歸責(zé)呢？對(duì)此，有學(xué)者認(rèn)為，可以先針對(duì)某些人工智能規(guī)定其法律責(zé)任。“現(xiàn)階段只是在法律上賦予人工智能在某些具體的刑事犯罪主體資格，在特定的情況下，追究軍事智能武器的法律責(zé)任，類似我國(guó)刑法規(guī)定的單位犯罪，人工智能犯罪類型是具體和明確的，這也是現(xiàn)階段有效管控人工智能技術(shù)發(fā)展、解決法律沖突和法律規(guī)避的有效方式?！盵54]有學(xué)者則指出，人工智能不宜像人類那樣作為直接責(zé)任主體，可以借鑒主體否定制度?！皞€(gè)可行的思路是參考既有犯罪主體中的一些主體否定制度，比如間接正犯（否定他人的主體資格）、原因自由行為（延展行為人的主體資格）等問題的立法模式，使人工智能恰當(dāng)?shù)剡M(jìn)人現(xiàn)有刑事主體立法框架，達(dá)到立法與處罰的協(xié)調(diào)?！盵56]針對(duì)人工智能的可罰性，有學(xué)者提出了開創(chuàng)性見解?！澳壳拔覈?guó)刑法所確立的刑罰體系僅以自然人和單位為適用對(duì)象而設(shè)計(jì)，我國(guó)刑法規(guī)定的主刑（管制、拘役、有期徒刑、無期徒刑、死刑）和附加刑（罰金、剝奪政治權(quán)利、沒收財(cái)產(chǎn)），不能滿足人工智能時(shí)代對(duì)智能機(jī)器人的特殊處罰需求，因而有必要加以重構(gòu)。”[57]論者進(jìn)一步指出，罰金、沒收財(cái)產(chǎn)、剝奪政治權(quán)利無法施加于智能機(jī)器人，管制、拘役、有期徒刑和無期徒刑同樣無法施加于智能機(jī)器人，智能機(jī)器人無生命權(quán)可言，剝奪自然人生命的死刑更不能施加于智能機(jī)器人[58]50。論者還提出，適用于智能機(jī)器人的刑罰可以有三種，分別為刪除數(shù)據(jù)、修改編程、永久銷毀[58]51。

（二）未來我國(guó)人工智能犯罪研究的展望

鑒于我國(guó)對(duì)包括刑法規(guī)制在內(nèi)的人工智能法律問題研究尚處于初始階段，現(xiàn)行研究更多的是為后續(xù)研究打下堅(jiān)實(shí)基礎(chǔ)，其理論價(jià)值與實(shí)踐意義不容忽視。未來，有關(guān)人工智能的罪與罰的研究重點(diǎn)，不外乎以下幾個(gè)方面：

1.人工智能對(duì)刑法人類中心主義的挑戰(zhàn)

與國(guó)外的相關(guān)研究相比，我國(guó)學(xué)者的研究是相對(duì)薄弱的?？隙ㄈ斯ぶ悄芊缸铮@然不應(yīng)局限于刑法理論本身，還應(yīng)對(duì)問題進(jìn)行溯源性探究，這涉及到生物學(xué)、心理學(xué)、腦科學(xué)等專業(yè)領(lǐng)域的知識(shí)。未來，需要進(jìn)一步深人研究的問題是：法律人格的屬性和判斷標(biāo)準(zhǔn)是什么？人工智能具備法律人格的生物學(xué)與心理學(xué)基礎(chǔ)是什么？智能代理與道德代理有何異同？人工智能的道德意識(shí)是如何生成的？等等。這些問題直接關(guān)系到刑法人類中心主義的科學(xué)性與合理性，是決定人工智能是否具備法律人格和獲得犯罪主體地位的立論基礎(chǔ)。

2.人工智能犯罪主體的范疇、責(zé)任范圍與程度

目前，人工智能的發(fā)展水平處于弱人工智能向強(qiáng)人工智能過渡時(shí)期。顯然，并非所有人工智能都可以被賦予法律人格并成為犯罪主體。于是，如何確定可以成為犯罪主體的人工智能范疇，是需要解決的問題。由于確定法律人格后，人工智能將與相關(guān)各方如制造商、銷售者、用戶等的法律責(zé)任捆綁在一起，故而如何確定包括人工智能在內(nèi)的不同主體的責(zé)任范圍和程度，也是需要應(yīng)對(duì)的問題。事實(shí)上，人工智能犯罪中的主體責(zé)任劃分與自然人犯罪是存在差異的?！皺C(jī)器人設(shè)計(jì)者應(yīng)該比人類的父母對(duì)機(jī)器人的危害承擔(dān)更多的責(zé)任，因?yàn)闄C(jī)器人設(shè)計(jì)的故意性比人類兒童要廣泛得多?！盵2]75換句話說，人類不能隨意指示操控自己的子女，但人工智能的設(shè)計(jì)者如制造商程序員等，就很容易通過設(shè)置特定程序指示、操控人工智能，這就決定了人工智能的制造商、程序員等應(yīng)當(dāng)承擔(dān)更多的責(zé)任。但是，如何分配責(zé)任顯然需要進(jìn)一步研究?？梢?，如何確定人工智能犯罪主體的范疇、責(zé)任范圍與程度，是未來人工智能刑法研究需要關(guān)注的。

3.刑法如何介人對(duì)人工智能的規(guī)制

作為一種新型犯罪主體，如果刑法全面介入對(duì)人工智能犯罪的規(guī)制，是不合適的。一個(gè)典型的例子是法人也不是對(duì)所有犯罪都承擔(dān)刑事責(zé)任。盡管主體否定制度的有限介人有其可取之處，但是否科學(xué)、合理尚值得進(jìn)一步探討。例如，在間接正犯中，將人工智能納人被利用的主體框架，會(huì)造成如下問題：為什么人工智能可以成為間接正犯之被利用者而不能直接成為犯罪主體？畢竟，為了區(qū)別被利用者和動(dòng)物、刀棍等工具性對(duì)象，被利用者往往是不能被當(dāng)作工具的責(zé)任主體，盡管其在犯罪中可能不承擔(dān)刑事責(zé)任。又如，將人工智能犯罪的主體限制為軍事智能武器是否恰當(dāng)?shù)膯栴}。誠(chéng)然，最先進(jìn)的人工智能往往先行應(yīng)用于軍事領(lǐng)域，但成為犯罪主體的人工智能未必就僅限于最先進(jìn)的人工智能。更何況，最先進(jìn)的人工智能也可能應(yīng)用于民用領(lǐng)域?？梢?，刑法如何介人對(duì)人工智能的規(guī)制，將未來需要解決的問題。

4.人工智能犯罪的刑罰適用

現(xiàn)行刑罰體系是以作為生物有機(jī)體的人類為基礎(chǔ)構(gòu)建的，顯然不可一股腦照搬適用于作為機(jī)械實(shí)體的人工智能，就像對(duì)法人不能適用死刑、有期徒刑等一樣。對(duì)人工智能適用的刑罰類型，必須具有針對(duì)性，即充分結(jié)合人工智能的物理屬性等因素。這樣看來，萊西希教授提出的結(jié)構(gòu)程序規(guī)制，我國(guó)學(xué)者提出的刪除數(shù)據(jù)、修改編程、永久銷毀等處罰，均具有鮮明的針對(duì)性。問題在于，結(jié)構(gòu)程序規(guī)制沒有提出相對(duì)完整、具體的處罰措施，而僅僅根據(jù)刪除數(shù)據(jù)、修改編程、永久銷毀來處罰人工智能也顯得有些單一，不能全面覆蓋因人工智能犯罪而導(dǎo)致的歸責(zé)，如其義務(wù)主體的范圍及責(zé)任分配如何確定就是問題。因此，對(duì)人工智能如何適用刑罰，確實(shí)值得深入研究。

六、結(jié)語

由于生物進(jìn)化速度遠(yuǎn)遠(yuǎn)不及科技發(fā)展速度，因而人工智能的“大腦”發(fā)育肯定比人類大腦要快得多。“進(jìn)化的系統(tǒng)或子系統(tǒng)將確保（人工）智能的大腦像我們的外星人一樣難以掌握。外星人大腦將在計(jì)算機(jī)上進(jìn)化和自我完善，并非生物速度?！盵59]因此，人工智能的智識(shí)和能力比肩甚至超越人類是完全可期的。“如果一個(gè)緩慢而低效的過程僅憑隨意的有機(jī)化學(xué)物質(zhì)就能創(chuàng)造大腦，那么更快、更有效的科學(xué)工序肯定能做到這一點(diǎn)?！盵45]63受益于不斷提高的學(xué)習(xí)能力，下一代機(jī)器人智能將會(huì)是圖靈測(cè)試智能（與人類水平的智能和意識(shí)相媲美），屬于具有自主決策能力、一流水平的第四代機(jī)器人的智能模式[60]。

我國(guó)的人工智能研發(fā)起步較晚，但發(fā)展極為迅速，大有后來居上的態(tài)勢(shì)。在這樣的背景下，制定相關(guān)立法迫在眉睫。“在機(jī)器人制造之前法律措施必須生效，否則災(zāi)難發(fā)生后可能沒有法律制度適用?！盵2]76相應(yīng)地，加強(qiáng)對(duì)人工智能法律問題的研究，也就具有極為重要的現(xiàn)實(shí)意義?！皯?yīng)該為這些公民提供討論這些新技術(shù)影響的機(jī)會(huì)，并考慮現(xiàn)行法律能否充分維護(hù)他們?cè)诿鎸?duì)機(jī)器人革命時(shí)所堅(jiān)持的原則。這樣的討論應(yīng)該提前發(fā)生，而不是在無人駕駛交通工具融入日常生活后再作廣泛介紹?！盵6]

遺憾的是，面對(duì)人工智能這種特殊的科技實(shí)體，包括刑法學(xué)在內(nèi)的理論層面顯然沒有做好應(yīng)對(duì)準(zhǔn)備。原因可能有二：一是受傳統(tǒng)的刑法人類中心主義犯罪觀等局限;二是規(guī)制人工智能的法律匱乏，導(dǎo)致理論研究缺乏法律依據(jù)。相對(duì)而言，對(duì)人工智能革命的認(rèn)識(shí)不足不成問題，成問題的是缺乏法律規(guī)制，這不是一朝一夕可以解決的。面對(duì)新生事物，我國(guó)刑法歷來勇于創(chuàng)新、積極應(yīng)對(duì)，典型表現(xiàn)便是賦予單位犯罪主體資格。事實(shí)證明，刑法將單位規(guī)定為犯罪主體，在防治該類犯罪上發(fā)揮了積極作用。當(dāng)然，對(duì)于人工智能而言，何時(shí)賦予其犯罪主體地位以及賦予人工智能何種具體犯罪的犯罪主體地位，是對(duì)立法時(shí)機(jī)和立法技巧的考驗(yàn)。不管何時(shí)頒行立法，可以肯定的是，“這些立法決定必須迅速作出，這些決策做出的越早，對(duì)制造商生產(chǎn)出最符合法律的產(chǎn)品就越有利”[62]。

本文主要就人工智能犯罪的一些基本問題進(jìn)行了初步的分析和探討，并未涉獵個(gè)罪的定罪量刑等微觀問題。作為一種全新的犯罪類型，人工智能犯罪的許多問題尚需進(jìn)一步研究和探討。查尼博士對(duì)哈利維的《當(dāng)機(jī)器人殺人時(shí)：刑法中的人工智能》一書做出如下評(píng)價(jià)：“在這本書中，就我們現(xiàn)行的刑法框架內(nèi)刑事責(zé)任能否適用于人工智能，哈利維的理論提供了一個(gè)很好的對(duì)話起點(diǎn)?！?2172不難看出，這段話并不在意書中的相關(guān)論點(diǎn)對(duì)錯(cuò)與否，而是充分肯定哈利維對(duì)人工智能刑法的開拓性研究。誠(chéng)如是，則本文之觀點(diǎn)及拙見如何已不重要，重要的是期待本文能成為深化我國(guó)人工智能刑法研究的引玉之磚。

參考文獻(xiàn)：

[1] Faye Mitchell. The Use of Artificial Intelligence in Digital Forensics： An Introduction[ J]. Digital Evidence & ElectronicSignature Law Review， 2010，7（1）：35 -41.

[2] Trevor N. White， Seth D. Baum. Liability for Present and Future Robotics Technology， in Patrick Lin， Ryan Jenkinsand Keith Abney， Robot Ethics 2. 0： From Autonomous Cars to Artificial Intelligence [ M ]. New York ： Oxford UniversityPress， 2017

[3] Jesse Krompier. Safety First： The Case for Mandatory Data Sharing as a Federal Safety Standard for Self-Driving Cars[J]. University of llinois Journal of Law， Technology & Policy ， 2017（2） ：439 - 468.

[4] Yueh - HsuanWeng， Chien - Hsun Chen， Chuen - Tsai Sun. Toward the Human - Robot Co - Existence Society： OnSafety Intelligence for Next Generation Robots[ J]. International Jourmal of Social Robotics ，2009 ，1（4） ：267 - 282.

[5] S. M. Solaiman. Corporate Manslaughter by Industrial Robots at Work： Who Should Go on Trial under the Principle ofCommon Law in Australia[ J]. Journalof Law And Commerce， 2016， 35（1）：21 - 54.

[6]剛桂虎.軍用無人機(jī)成長(zhǎng)三部曲[N].解放軍報(bào)，2017-03 -31（09）.

[7]安塞爾姆·里特爾·馮·費(fèi)爾巴哈.德國(guó)刑法教科書[M].徐久生，譯.北京：中國(guó)方正出版社，2010：37.

[8] J. C. Smith. Machine Intelligence and Legal Reasoning[ J]. Chicago - Kent Law Review， 1998， 73（1）：277 - 349.

[9] Raymond S. August. Turning the Computer into a Criminal[J]. Barrister， 1983， 10（4）.

[10]Jerry Kaplan. Artificial Intelligence[ M]. Oxford： Oxford University Press， 2016.

[11]Gabriel Hallevy. Virtual Criminal Responsibility[J]. Original Law Review， 2010， 6（1）.

[12]0. E. Radutniy. Criminal Liability of the Artificial Intelligence[ J]. Problems of Legality， 2017.

[ 13]Dafni Lima. Could AI Agents Be Held Criminally Liable： Artificial Intelligence and the Challenges for Criminal Law[J]. South Carolina Law Review， 2018， 69（3）.

[ 14] Daniel Eszteri. Liability for Operation and Damages Caused by Artificial Intelligence - With a Short Outlook to OnlineGames[ J]. Studia luridica Auctoritate Universitatis Pecs Publicata， 2015， 153 ：57 -74.

[ 15 ] Sabine Gless ， Emily Silverman， Thomas Weigend. If Robots Cause Harm， Who Is to Blame： Self - Driving CarsandCriminal Liability[ J]. New Criminal Law Review， 2016， 19（3）.

[16]薩比娜.格雷斯，托馬斯.魏根特.智能代理與刑法[G]//陳澤憲.刑事法前沿：第10卷.趙陽，譯.北京：社會(huì)科學(xué)文獻(xiàn)出版社， 2017 ：215.

[ 17]Gabriel Hallevy. When Robots Kill： Artificial Inelligence under Criminal Law[ M]. Boston： Northeastern UniversityPress， 2013

[ 18 ]Jeffrey K. Gurney. Driving into the Unknown： Examining the Crossroads of Criminal Law and Autonomous Vehicles[J]. Wake Forest Jourmal of Law & Policy， 2015， 5（2） ：442.

[19]康德.純粹理性批判[M].藍(lán)公武，譯.北京：商務(wù)印書館，2007：366.

[20 ]希爾根多夫.德國(guó)刑法學(xué)：從傳統(tǒng)到現(xiàn)代[ M].江溯，等，譯.北京：北京大學(xué)出版社，2015：159.

[21 ] Catherine Nunez. Artificial Intelligence and Legal Ethics ： Whether AI Lawyers Can Make Ethical Decisions[ J]. TulaneJourmal of Technology and Intellctual Property， 2017， 20：204.

[ 22 ] Andreas Matthias. Algorithmic Moral Control of War Robots： Philosophical Questions [J]. Law， Innovation andTechnology， 2011， 3（2） ：297.

[ 23 ]Mark Coeckelbergh. Personal Robots， Appearance， and Human Good： A Methodological Reflection on Roboethics[J].International Journal of Social Robotics， 2009， 1（3）：217.

[ 24 ] Mark Coeckelbergh. Is Ethics of Robotics about Robots Philosophy of Robotics beyond Realism and Individualism[ J].Law， Innovation and Technology， 2011， 3（2） ：250.

[25 ]Trevor N. White and Seth D. Baum. Autonomy and Responsibility in Hybrid Systems： The Example of AutonomousCar， in Patrick Lin， Ryan Jenkins and Keith Abney， Robot Ethics 2.0： From Autonomous Cars to Artificial Intelligence[ M ]. NewYork： Oxford University Press， 2017.

[43 ] Joseph F. Francis. Criminal Responsibility of the Corporation[J]. lnois Law Review， 1923 - 1924， 18（5）：312.[44] Richard Yonck. Heart of the Machine ： Our Future in A World of Artificial Emotional Intelligence[ M]. New York：Arcade Publishing ，2017.

[ 45 ]Calum Chace. Surviving AI： The Promise and Peril of Artificial Intelligence[ M]. London： Three Cs， 2015.

[46] Peter AJ Van der Made. How To Create A Functional Artificial Brain： Higher Intelligence [ M ]. Fremantle： VividPublishing， 2013： 147.

[47] Lawrence Lessig. The Law of the Horse： What Cyber Law Might Teach[ J]. Harvard Law Review， 1999 ，113（2） ：507- 508.

[ 48 ] Mary Kreiner Ramirez. The Science Fiction of Corporate Criminal Liability： Containing the Machine throughtheCorporate Death Penalty[J]. Arizona Law Review， 2005， 47（4） ：949.

[49]馬治國(guó)，田小楚.論人工智能體刑法適用之可能性[J].華中科技大學(xué)學(xué)報(bào)，2018（2）：108-115.

[50]袁曾.人工智能有限法律人格審視[J].東方法學(xué)，2017（5）：50-57.

[51]司曉，曹建峰.論人工智能的民事責(zé)任：以自動(dòng)駕駛汽車和智能機(jī)器人為切入點(diǎn)[J].法律科學(xué)，2017（5）：166-173.

[52]詹可.人工智能法律人格問題研究[J].信息安全研究，2018（3）：224-232.

[53]劉憲權(quán)，胡荷佳.論人工智能時(shí)代智能機(jī)器人的刑事責(zé)任能力[J].法學(xué)，2018（1）：40-47.

[54]劉憲權(quán).人工智能時(shí)代的刑事風(fēng)險(xiǎn)與刑法應(yīng)對(duì)[J].法商研究，2018（1）：3-11.

[55]夏天.基于人工智能的軍事智能武器犯罪問題初論[J].犯罪研究，2017（6）：9-20.

[56]王肅之.人工智能犯罪的理論與立法問題初探[J].大連理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2018（4）：53-63.[57]劉憲權(quán).人工智能時(shí)代刑事責(zé)任與刑罰體系的重構(gòu)[J].政治與法律，2018（3）：97.

[58]劉憲權(quán)，朱彥.人工智能時(shí)代對(duì)傳統(tǒng)刑法理論的挑戰(zhàn)[J]上海政法學(xué)院學(xué)報(bào)（法治論叢），2018（2）.

[ 59] James Barrat. Our Final Invention： Artificial Intelligence and the End of the Human Era[ M]. New York： St. Martins Press， 2013：231.

[ 60]H. Ashrafian， O. Clancy， V. Grover， A. Darzi. The Evolution of Robotic Surgery： Surgical and Anaesthetic Aspects[J]. British Journal of Anaesthesia， 2017， 119（1）：72- 84.

[61] Brendan Gogarty， Meredith Hagger. The Laws of Man over Vehicles Unmanned： The Legal Response to RoboticRevolution on Sea， Land and Air[ J] . Journal of Law， Information and Science， 2008， 19：73 - 146.

[62] Jeffrey R. Zohn. When Robots Attack： How Should the Law Handle Self - Driving Cars That Cause Damages[ J].University of llinois Journal of Law， Technology & Policy， 2015， 2015（2） ：461 - 486.

Regulation of Criminal Law for Artificial Intelligence

PENG Wen-hua

（ School of Criminal Justice， Shanghai University of Political Science and Law， Shanghai 201 701 ， China）

Abstract ： Theories about whether artificial intelligence can constitute a crime ， are mainly as follows：theory of psychological elements， intelligent agent theory， theory of comparison by legal human， legal entity theory and theory of the main body. The philosophical foundation of artificial intelligence as the subject of crime is scientific positivism and moral dualism，and its realistic condition is to have legal personality. Intelligent agents can become moral principles. The way of moral formation of AI is different from“realism approach”，“relationship theory approach ”and“epistemology approach” ，and“realism approach”is relatively reasonable. The punishment of AI can not only lay a foundation for punishments for other subjects， but also achieve the purpose of depriving them of criminal capacity， and can also generate additional value. The research on the criminal law of artificial intelligence in China is still in the initial stage. The focus of future research lies in the challenge of artificial intelligence to the anthropoid- centrism of criminal law， the scope and extent of the subject of artificial intelligence crime; the intervention of the regulation to artificial intelligence in criminal law， and the application of the penalty of artificial intelligence crime.

Key Words： artificial intelligence; artificial intelligence crime; intelligent agent; legal personality ; punishability

本文責(zé)任編輯：龍大軒

收稿日期：2019-05-11

作者簡(jiǎn)介：彭文華（1972），男，江西新建人，上海政法學(xué)院刑事司法學(xué)院院長(zhǎng)，教授，法學(xué)博士。

①運(yùn)算智能，即快速計(jì)算和記憶存儲(chǔ)能力;感知智能，即視覺聽覺、觸覺等感知能力;認(rèn)知智能，即理解、分析、思考、論證、推理以及解決問題的能力。人工智能的運(yùn)算智能之強(qiáng)大遠(yuǎn)超人類，-些感知能力如“計(jì)算機(jī)視覺"等也遠(yuǎn)強(qiáng)于人類，某些認(rèn)知能力也勝過人類。

②弱人工智能一般只能從事特定的模仿、模擬任務(wù)，例如語音識(shí)別、圖像識(shí)別和翻譯等;強(qiáng)人工智能屬于人類級(jí)別的人工智能，可以思考、分析、解決問題，具備抽象思維和理解復(fù)雜概念的能力;超人工智能則被認(rèn)為遠(yuǎn)超最聰明的人類大腦，無論是邏輯推理、科技創(chuàng)新還是情緒表達(dá)、社會(huì)交際等。

①盡管人工智能發(fā)展尚未達(dá)到強(qiáng)人工智能階段，但其近年的飛速發(fā)展表明，所謂的技術(shù)奇點(diǎn)的來臨會(huì)大大加快。例如，新近擁有波士頓動(dòng)力的機(jī)器狗會(huì)開門，能夠在凹凸不平的戶外草地和荒地上奔跑、越過障礙，還能夠完成跳躍、旋轉(zhuǎn)以及后空翻等一連串的動(dòng)作，每次完成動(dòng)作后還能站穩(wěn)，宛如一名體操運(yùn)動(dòng)員。那種認(rèn)為人腦因其復(fù)雜性以及未知性，極大地限制人工智能的發(fā)展水平的觀點(diǎn)，現(xiàn)在看來似乎有些絕對(duì)。事實(shí)上，制造出類人機(jī)器人并不需要對(duì)人類大腦的功能完全掌握和了解，因?yàn)檠兄啤邦惾恕比斯ぶ悄芤膊⒉恍枰却X科學(xué)認(rèn)知原理的突破，只要獲得生物神經(jīng)網(wǎng)絡(luò)的介觀圖譜和神經(jīng)元及神經(jīng)突觸功能特性，就能制造出生物大腦工作模式和性能相當(dāng)?shù)闹悄軝C(jī)器，甚至涌現(xiàn)出自我意識(shí)。要在技術(shù)上達(dá)到這一點(diǎn)，顯然較之對(duì)人類大腦功能的完全掌握和了解要容易得多。因此，制造像真正的人一樣的人工智能應(yīng)當(dāng)不會(huì)太遙遠(yuǎn)。

①取得意識(shí)是指大腦中使有關(guān)我們內(nèi)在思想感情狀態(tài)的記憶和信息隔離和聯(lián)絡(luò)的那方面，這是獲得關(guān)于我們內(nèi)在生活和狀態(tài)、真實(shí)或想象的信息的能力;現(xiàn)象意識(shí)是指主觀、有意地體驗(yàn)未加工的經(jīng)驗(yàn)，在哲學(xué)中習(xí)慣指“可感受到的特質(zhì)”;內(nèi)省意識(shí)包含自我意識(shí)，并延伸到元認(rèn)知的內(nèi)在的、不連續(xù)的、自我參照的觀察（“有關(guān)思考的思考”），是指在近乎實(shí)時(shí)的情況下觀察和反映我們自己個(gè)人內(nèi)部狀態(tài)的一個(gè)子集的能力。（參見：NedJ.Block，OwenFlanagan.TheNatureofConsciousness：PhilosophicalDebates，Cambridge：MITPress，1997：375-415.）

①2018年3月兩會(huì)召開期間，時(shí)任科技部部長(zhǎng)的萬鋼就加快建設(shè)創(chuàng)新型國(guó)家答記者問時(shí)，特別強(qiáng)調(diào)：“我們要加強(qiáng)政策法規(guī)研究，要積極應(yīng)對(duì)人工智能發(fā)展可能對(duì)社會(huì)倫理、就業(yè)結(jié)構(gòu)、個(gè)人隱私、國(guó)家安全等方面的一些挑戰(zhàn)?！?/p>