人工智能時代下無人機故意殺人的刑事責任探究

摘 要 隨著人工智能發(fā)展進入新階段，人工智能涉罪的社會現(xiàn)象出現(xiàn)，給傳統(tǒng)刑法帶來了新的挑戰(zhàn)，如何確認人工智能的刑事責任成為新議題。無人機作為普及率較高的一種人工智能，存在潛在的甚至已經(jīng)出現(xiàn)被利用犯罪的情況，故意殺人行為屬于其中典型。本文對強弱人工智能時代下無人機做出故意殺人行為時如何確定刑事責任進行論證，并提出相關建議。

關鍵詞 人工智能 無人機 故意殺人 刑事責任

作者簡介：曾憲哲，華南師范大學法學院本科生。

中圖分類號：D924.3 文獻標識碼：A DOI：10.19387/j.cnki.1009-0592.2018.04.216

第三次工業(yè)革命之后，人類邁進互聯(lián)網(wǎng)時代。人工智能加速發(fā)展，人工智能時代正在來臨。2017年7月，國務院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》中提到，人工智能發(fā)展的不確定性將帶來對法律、社會倫理與侵犯個人隱私的新挑戰(zhàn)，規(guī)劃中明確要求要加強人工智能相關法律、倫理和社會問題研究，建立保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架，同時開展與人工智能應用相關的刑事責任確認。

2017年11月，在日內(nèi)瓦舉辦的聯(lián)合國特定常規(guī)武器公約會議上，一段可怕的視頻公諸于眾：視頻中，一群類似蜜蜂的小型機器人，通過人臉定位瞬間殺死了正在上課的一眾學生，場面血腥，引起人們對無人機故意殺人行為及法律后果的關注。

一、 無人機的概念及功能的簡要介紹

無人駕駛飛機簡稱“無人機”，是利用無線電遙控設備和自備的程序控制裝置操縱的不載人飛行器。 日常生活中的無人機制造相對簡陋，主要運用于航拍、救援、制造驚喜等方面；軍事領域中的無人機制造更加精密，以其體積小、易隱身、定位準的特點主要運用于轟炸、情報監(jiān)測等方面。

本文基于非軍事戰(zhàn)爭情況下，無人機的行為意在剝奪對他人生命權進行討論，故后文關于犯罪客體不再贅述。

二、弱人工智能時代下無人機故意殺人的刑事責任

弱人工智能是指沒有自主意識，未能和人類智能進行量化比較的智能，其主要按照程序代碼接收指令與執(zhí)行動作，模擬實現(xiàn)類人行為。殺傷性無人機進行故意殺人的行為主要是由人類遙控操縱而實施的作為行為，即無人機僅系故意殺人的工具。

一是犯罪主體指實施危害社會的行為并依法應負刑事責任的自然人和單位。弱人工智能時代，無人機無自主意識，其殺人的行為完全由自然人進行操控實施，因此無人機因被認定為故意殺人中的犯罪工具，而操縱無人機或者指揮操縱無人機進行殺人行為的達到刑事責任年齡，具有刑事責任能力自然人應當被認定為故意殺人罪的單獨或共同犯罪主體。在此需注意一種隨著計算機技術的發(fā)展極有可能出現(xiàn)的情況，即操縱無人機的一方原并無殺人故意，但黑客通過計算機技術篡控了無人機而實施了殺人行為，此種情況下將有賴于計算機技術的破解及相關偵查以確定在殺人這一行為上真正的操縱者。

二是無人機操縱者或指揮操縱者明知無人機本身具有或者攜帶殺傷性武器，可造成死亡的后果仍操縱無人機進行攻擊行為，希望或放任死亡結果的發(fā)生，應認定為具有故意殺人的故意。

三是犯罪客觀方面指刑法所規(guī)定的、說明行為對刑法所保護的社會關系造成損害的客觀外在事實特征。無人機操縱者或指揮操控者通過遙控帶炸藥包或刀具的無人機撞擊被害人或遙控無人機所攜帶的槍支對被害人進行射殺等方式，意在造成他人死亡的結果，應認定為實行故意殺人行為。

因此，在弱人工智能時代，現(xiàn)有刑法尚可以解決無人機故意殺人是否擔責的問題。無人機缺乏自主意識，系工具，利用無人機進行的故意殺人犯罪行為應歸責于其操縱者或指揮操縱者。

三、強人工智能時代下無人機故意殺人的刑事責任

一是眾所周知，現(xiàn)行刑法中對犯罪主體的定義限制在達到刑事責任年齡，具有刑事責任能力，實施危害社會行為的自然人和單位，且單位犯罪一般對其主要負責人進行處罰，簡言之就是刑法規(guī)定的擔責主體基本上是自然人。在我們的認知中，機器人不是法律意義上的人，不具備刑事責任年齡和刑事責任能力，那么機器人必定不能成為傳統(tǒng)刑法懲罰的對象。機器人做出高度類人或超人行為卻不被法律認可，實際是一種法律規(guī)避和鉆法律空白，不合理也不合情。再者，犯罪與刑事責任和刑罰存在內(nèi)在的聯(lián)系，適用刑罰的目的是預防犯罪，但對機器人使用傳統(tǒng)刑罰無法達到預防犯罪的目的。傳統(tǒng)刑法中犯罪主體的意義在于區(qū)分罪與非罪、此罪與彼罪、罪重與罪輕，關系到罪犯能否重返社會。當人類進入強人工智能時代，機器人擁有類人甚至超人的智力水平和行動能力時，傳統(tǒng)刑法的根基被動搖。強人工智能無人機具有獨立的思維能力和行為能力，其自行選擇做出故意殺人的行為在精神本質(zhì)上契合傳統(tǒng)刑法懲罰的對象，因此刑法應正視其犯罪主體的地位。

二是確認一個人是否應當負刑事責任要遵從主客觀相統(tǒng)一的標準，即除了客觀危害行為，在主觀方面須具備犯罪的故意或過失心態(tài)要素。犯罪是一種自由意志、自主選擇的結果，其實施客觀行為必定受到主觀心態(tài)的支配。傳統(tǒng)刑法基于自然人犯罪主體規(guī)定了故意或過失心態(tài)、犯罪目的和犯罪動機的犯罪主觀要素，但在強人工智能時代下，如何準確判斷做出犯罪行為的各類強人工智能的主觀心態(tài)成為難題。強人工智能具有獨立的思維和行為能力，但歸根到底它的思維仍是大數(shù)據(jù)的匯合、交織和重組，從本質(zhì)上區(qū)別于傳統(tǒng)刑法所定義的自然人的主觀心態(tài)。再者，強人工智能不似人類，在情感控制等方面更加機械性、具有欺騙性，從而更易使微表情、測謊等偵查檢測手段失效，無法查明其在犯罪時真實的想法。因此，既然將強人工智能視為犯罪主體，那么在強人工智能無人機自主對人類發(fā)起攻擊，致人死亡時，其故意的心態(tài)須得以證明方可進行刑事歸責。

四、人工智能時代下確認無人機故意殺人刑事責任的建議

當人類慢慢步入強人工智能時代時，無人機脫離人類控制，自行做出犯罪行為的可能大大增加。傳統(tǒng)刑法必然要直視現(xiàn)狀與未來，與時俱進。針對上文提出的問題，筆者對人工智能時代下確認無人機故意殺人的刑事責任提出如下幾點建議：

（一） 對利用人工智能進行故意殺人的行為按照現(xiàn)行刑法處罰

弱人工智能依靠人類的操縱作業(yè)，因此若弱人工智能實施了犯罪行為，只能是人類意志的結果。此時，弱人工智能只是個作案工具，真正具有犯罪意圖并著手犯罪的是其操縱者或指揮操縱者，與現(xiàn)行刑法理論和規(guī)定一致。強人工智能具有獨立的思維和行動能力，但當其為人類利用為殺人工具時性質(zhì)判斷同上。綜上，若某人或某單位利用殺傷性無人機或攜帶殺傷性武器的無人機實施故意殺人，按照現(xiàn)行刑法規(guī)定，刑事責任主體為某人或某單位負責人。

（二）賦予強人工智能法律上的人格，將其納入特定罪名犯罪主體范疇

強人工智能即便具有類人或超人的思維和行為能力，依舊不屬于傳統(tǒng)刑法上“人”的概念。當強人工智能實施了犯罪，依照傳統(tǒng)刑法則刑事責任主體不存在，“無行為則無犯罪”原則失靈 。2017年10月26日，沙特阿拉伯授予美國漢森公司生產(chǎn)的機器人索菲亞公民身份，索菲亞成為史上首個獲得公民身份的機器人。筆者認為，刑法可以對強人工智能人格化，使其成為特定罪名的犯罪主體，適用傳統(tǒng)刑法關于犯罪構成的相關規(guī)定。首先，強人工智能在某些領域脫離人類獨立作業(yè)，若其侵權行為過錯仍歸責于與其相關的人類不合理。其次，強人工智能具有類人甚至超人的辨認和控制能力，屬于新型刑事責任主體。再次，其行為結果與傳統(tǒng)刑法的刑事責任主體的行為結果不應被區(qū)別對待，二者造成的危害在實質(zhì)上是一致的。最后，強人工智能的犯罪主體身份只能存在于刑法規(guī)定的特定罪名之中，如重婚罪、遺棄罪等沒有前行為基礎的罪名不適用。因此，若強人工智能無人機實施故意殺人的行為，應當按照一般故意殺人罪定罪。

（三）在確定強人工智能主觀心態(tài)時側(cè)重“客觀標準”

刑法上把行為人的主觀心態(tài)作為犯罪構成的必備要素是由于行為人在有自由選擇權的情況下選擇做出危害社會的行為而對國家產(chǎn)生罪責，因此國家具有追究其刑事責任的合理性。強人工智能的思維方式在本質(zhì)上異于人類，變化機械且更善于偽裝，用傳統(tǒng)偵查手段難以正確判斷其主觀心態(tài)，易得出主客觀完全背離的結果。筆者認為，雖然刑法堅決摒棄“客觀歸罪”的做法，但當犯罪主體為強人工智能時，可偏重“客觀標準”，即在主觀心態(tài)無法查明或與事實嚴重不符時，以客觀行為推定主觀心態(tài)從而定罪量刑。綜上，強人工智能無人機實施殺人的行為后，若無法確定其主觀心態(tài)，可根據(jù)其行為過程及結果推定是否具有殺人故意。

（四） 增設針對強人工智能而區(qū)別于自然人和單位的有效刑罰方法

我國刑法中規(guī)定的刑罰包括管制、拘役、有期徒刑、無期徒刑和死刑五種主刑以及罰金、剝奪政治權利和沒收財產(chǎn)三種附加刑。可見這些刑罰主要適用于自然人，通過剝奪人身自由、財產(chǎn)使其產(chǎn)生痛苦，進而悔過并改正來達到其懲罰、教育和改造的目的。強人工智能雖有自己的獨立思維和行為能力，但在社會中仍附屬于人類，其社會關系和社會情感也十分有限。當犯罪主體為強人工智能，剝奪其自由和財產(chǎn)對強人工智能來說并不能產(chǎn)生精神或物質(zhì)上的痛苦，那么上述刑罰方法對強人工智能來說就失去了意義。故刑法應增設針對強人工智能的專門刑罰，如報廢相關強人工智能、封存入庫防止同類感染、弱化相關強人工智能的智能程度使其重新受人類控制、通過義務勞動或服務來減損機能等具體措施。在確定強人工智能無人機獨立進行故意殺人行為后，可報廢該無人機或封存入庫后進行改造。

五、結語

人工智能時代下人工智能與人類并非“優(yōu)勝劣汰”的關系，而是共存互助的關系。社會關系的變革必定會帶來社會矛盾，而刑法作為統(tǒng)治階級的工具，致力于維護社會穩(wěn)定，保護公民權利，亦需不斷更新，適應社會發(fā)展。確認落實強弱人工智能無人機故意殺人的刑事責任，是對人工智能刑事責任確認的典型和關鍵的一步，值得不斷研究和探討。

注釋：

百度百科“無人機”詞條。

夏天.基于人工智能的軍事智能武器犯罪問題初論.犯罪研究.2017（6）.

參考文獻：

[1]高銘暄、馬克昌、趙秉志.刑法學.北京大學出版社、高等教育出版社.2014.

[2]劉憲權.人工智能時代的刑事風險與刑法應對.法商研究.2018（1）（總第183期）.

[3]張?zhí)m.當人工智能應用于黑色產(chǎn)業(yè).計算機與網(wǎng)絡.2016（22）.

[4]魏岳江.嚴防利用無人機犯罪.解放軍報.2017年3月17日，第011版.

[5]杜曉、劉小玉、張希臣.人工智能給法律帶來哪些“變”與“不變”.法制日報.2017年12月8日，第005版.

[6]孫道萃.人工智能對傳統(tǒng)刑法的挑戰(zhàn).檢察日報.2017年10月22日，第003版.

[7]Maria Korolov、楊勇.人工智能不只在好人手里.計算機世界.2017年3月13日，第010版.