人工智能犯罪的可歸責(zé)主體探究

特邀主持人：魏 東（四川大學(xué)法學(xué)院教授、博士生導(dǎo)師）

主持人語：當(dāng)今時代正在走向互聯(lián)網(wǎng)+人工智能時代。如果說互聯(lián)網(wǎng)+法學(xué)這一互聯(lián)網(wǎng)時代法學(xué)的新命題、新挑戰(zhàn)的核心是數(shù)據(jù)運(yùn)用與數(shù)據(jù)安全的研究，如果說人工智能法學(xué)這一人工智能時代法學(xué)的新命題、新挑戰(zhàn)的核心是人工智能算法運(yùn)用與算法安全的研究，那么可以說，互聯(lián)網(wǎng)+人工智能法學(xué)這一新命題、新挑戰(zhàn)的核心就是數(shù)據(jù)運(yùn)用與數(shù)據(jù)安全、人工智能算法運(yùn)用與算法安全相互交織為一體的研究。

為此，本刊特設(shè)“互聯(lián)網(wǎng)+人工智能法學(xué)”專題對相關(guān)理論問題進(jìn)行研討。本期刊發(fā)的三篇文章從刑法和行政法角度研討了互聯(lián)網(wǎng)+人工智能時代亟需應(yīng)對的前沿問題。其中，魏東的《人工智能犯罪的可歸責(zé)主體探究》主要從人工智能時代刑法觀視角論證了以下問題：人工智能犯罪在生成機(jī)理和內(nèi)在邏輯上只能是人工智能“算法安全犯罪”，人工智能犯罪僅能歸責(zé)于作為保證人的“自然人-法人”，（超）強(qiáng)人工智能機(jī)器人無法獲得與“自然人-法人”一樣的“人心人性”，從而無法獲得權(quán)利義務(wù)主體資格。黃明儒、孫珺濤的《論刑法介入互聯(lián)網(wǎng)金融的限度》一文從罪刑法定、刑法謙抑角度論證了刑法介入互聯(lián)網(wǎng)金融領(lǐng)域應(yīng)當(dāng)保持合理限度，主張行政違法性應(yīng)為確定刑事違法性的前提，應(yīng)當(dāng)準(zhǔn)確界分金融創(chuàng)新與金融犯罪，確保立法擴(kuò)張下的限縮適用。張亞楠的《政府?dāng)?shù)據(jù)共享：內(nèi)在要義、法治壁壘及其破解之道》深刻分析了政府?dāng)?shù)據(jù)共享存在的諸如權(quán)屬障礙、版權(quán)化難題、權(quán)利義務(wù)關(guān)系緊張、“兩秘密一隱私”數(shù)據(jù)的保護(hù)等法治壁壘，主張通過對數(shù)據(jù)權(quán)利進(jìn)行定性，將政府?dāng)?shù)據(jù)共享協(xié)議引入流程，秉承從權(quán)力本位到責(zé)任本位的理念轉(zhuǎn)變，實(shí)現(xiàn)政府?dāng)?shù)據(jù)共享的專業(yè)性立法。

希望這三篇文章能夠起到拋磚引玉的作用，能夠有更多學(xué)者繼續(xù)深入研討互聯(lián)網(wǎng)+人工智能時代的刑法、行政法、民商法等部門法問題和法理學(xué)問題。

〔摘要〕 人工智能犯罪在生成機(jī)理和內(nèi)在邏輯上只能是人工智能“算法安全犯罪”?；谌斯ぶ悄芊缸镏腥斯ぶ悄芩惴ò踩南鄬ψ灾餍耘c絕對客體性的犯罪機(jī)理，人工智能犯罪僅能歸責(zé)于作為保證人的“自然人-法人”責(zé)任論。人工智能犯罪中“人心人性”的刑法常識觀，應(yīng)當(dāng)確認(rèn)人工智能犯罪的可歸責(zé)主體，只能是作為算法安全社會關(guān)系主體的“自然人-法人”二元主體。為妥當(dāng)解決人工智能犯罪的歸責(zé)原理和實(shí)踐問題，應(yīng)當(dāng)在堅守人工智能犯罪“自然人-法人”二元主體模式的基礎(chǔ)上修改完善刑法立法。

〔關(guān)鍵詞〕 人工智能犯罪，算法安全犯罪觀，“自然人-法人”二元主體模式

〔中圖分類號〕D924 ?? 〔文獻(xiàn)標(biāo)識碼〕A〔文章編號〕1004-4175（2019）05-0005-09

一、引言：問題真?zhèn)闻c基本立場

人工智能①犯罪的可歸責(zé)主體問題，當(dāng)被作為一個“問題”來討論時，該問題意識的內(nèi)在邏輯在于：認(rèn)清當(dāng)下，思考將來。所謂認(rèn)清當(dāng)下，是指認(rèn)清當(dāng)下弱人工智能犯罪“真相”，在那些通過弱人工智能（即弱人工智能機(jī)器人②，又稱專用人工智能機(jī)器人③）所實(shí)施的犯罪中，弱人工智能（機(jī)器人）被作為“犯罪工具”予以評價和處置，可謂“犯罪工具論”;在那些針對弱人工智能所實(shí)施的犯罪中，弱人工智能則被作為“犯罪對象”予以評價和對待，可謂“犯罪對象論”。可以說，對于當(dāng)下弱人工智能犯罪，刑法學(xué)界秉持弱人工智能“犯罪工具論”和“犯罪對象論”立場，認(rèn)為人工智能犯罪的可歸責(zé)主體只能是“人”（包括自然人和法人④）而不能是弱人工智能（機(jī)器人）本身，這是沒有爭議的，或者說這里不存在爭議問題、不是問題意識之所在。所謂思考將來，是指思考將來可能出現(xiàn)的（超）強(qiáng)人工智能（即強(qiáng)人工智能機(jī)器人與超強(qiáng)人工智能機(jī)器人，又稱通用人工智能機(jī)器人與超級人工智能機(jī)器人）犯罪“真相”，可否超越弱人工智能“犯罪工具論”和“犯罪對象論”，從而使得（超）強(qiáng)人工智能機(jī)器人成為犯罪主體（犯罪主體論）和可歸責(zé)主體（可歸責(zé)主體論）？這是有爭議的，或者說這里才存在爭議問題，也才是問題意識之所在。對此問題，理論界存在較大分歧：一是主張（超）強(qiáng)人工智能機(jī)器人“犯罪主體論”和“可歸責(zé)主體論”，可謂肯定論。如，有論者籠統(tǒng)地承認(rèn)（超）強(qiáng)人工智能機(jī)器人的犯罪主體性 〔1 〕;有的則具體指出，當(dāng)（超）強(qiáng)人工智能機(jī)器人在程序設(shè)計和編制范圍外實(shí)施嚴(yán)重危害社會的行為時，（超）強(qiáng)人工智能機(jī)器人具有辨認(rèn)能力和控制能力，因而具有刑事責(zé)任能力，應(yīng)當(dāng)獨(dú)立承擔(dān)刑事責(zé)任 〔2 〕;還有的明確指出，“可以參考法人主體的擬制思路，逐步探索構(gòu)建人工智能刑事主體資格的法律擬制模式，基于人工智能的發(fā)展逐步構(gòu)建和完善人工智能主體的意思要素、行為要素，使之正式進(jìn)入刑法主體范圍” 〔3 〕。二是否定（超）強(qiáng)人工智能機(jī)器人“犯罪主體論”和“可歸責(zé)主體論”，可謂否定論。如，有的主張絕對地否定人工智能機(jī)器人的犯罪主體地位，認(rèn)為人工智能體只可能引起過失犯罪問題，并以修正的過失犯理論為依據(jù)將自主性人工智能引起后果的責(zé)任排除在“可容許的危險”范圍之外，并以此在設(shè)計者、販賣者、利用者之間分配過失犯罪的責(zé)任 〔1 〕;有的則認(rèn)為技術(shù)水平、價值觀念、具體認(rèn)定等方面尚存在較大困難，不可貿(mào)然將（超）強(qiáng)人工智能機(jī)器人納入刑法規(guī)制的行為主體范圍 〔4 〕。綜上可見，人工智能犯罪的可歸責(zé)主體的問題意識應(yīng)當(dāng)進(jìn)一步限定并具體細(xì)化為：（超）強(qiáng)人工智能犯罪的犯罪主體與可歸責(zé)主體是否可以是（超）強(qiáng)人工智能？

值得注意的是，法學(xué)界有一種聲音認(rèn)為：當(dāng)前討論（超）強(qiáng)人工智能犯罪——作為一種是否可能真實(shí)發(fā)生而尚未可知的“將來”犯罪——及其可歸責(zé)主體是否可以是（超）強(qiáng)智能機(jī)器人的問題，純屬無稽之談的“偽問題”（即“偽問題論”），實(shí)無討論之必要。前述部分否定論者持有這種見解。劉艷紅教授批評說：那種認(rèn)為“必然會出現(xiàn)具有自我意志的（超）強(qiáng)人工智能，人工智能可能會取代人類、機(jī)器算法會取代人類法律……因而主張法律甚至刑法積極應(yīng)對和規(guī)制人工智能的發(fā)展”的觀點(diǎn)，其實(shí)“只是依靠無數(shù)假想拼湊起來的幻影”，法學(xué)界部分學(xué)者在不斷制造、跟風(fēng)、放大“假問題”?！? 〕應(yīng)當(dāng)說，“偽問題論”通過質(zhì)疑將來而回避問題本身的論說思路可能并不可取，看不到或者忽視“將來”的思考也無益于問題的有效解決，因而“偽問題論”自身的問題意識也存在合理性疑問。事實(shí)上，同刑法學(xué)界所討論的（超）強(qiáng)人工智能機(jī)器人犯罪“高頻率問題”，即（超）強(qiáng)人工智能機(jī)器人犯罪的歸責(zé)主體是否可以是（超）強(qiáng)人工智能機(jī)器人這一設(shè)問相呼應(yīng)，民法學(xué)界乃至國際私法學(xué)界也較多地討論了智能機(jī)器人的民事主體地位（資格）問題，例如針對2017年2月16日歐洲議會通過的《關(guān)于機(jī)器人民事法律規(guī)則的決議》建議至少應(yīng)明確最精密的自主機(jī)器人擁有“電子人”地位，使之能夠承擔(dān)其引發(fā)的損害的責(zé)任，并可能把“電子人格”適用于那些機(jī)器人自主決定或其他獨(dú)立與第三方交互的案件;再如，針對同年7月8日我國國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》，提出“建立（人工智能應(yīng)用）追溯和問責(zé)制度，明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任等”，民法學(xué)者就提出應(yīng)賦予人工智能系統(tǒng)“電子人”法律主體地位，或者確認(rèn)其有限的法律人格，似乎認(rèn)為未來賦予（超）強(qiáng)人工智能系統(tǒng)民事法律主體地位已是大勢所趨 〔1 〕。憲法學(xué)、行政法學(xué)和法理學(xué)界也討論了智能機(jī)器人的法律主體地位和法哲學(xué)問題，甚至認(rèn)為“人工智能的諸多法理問題中，最為關(guān)鍵的是它的法律主體資格問題” 〔6 〕，有的法理學(xué)者較為絕對地強(qiáng)調(diào)“應(yīng)當(dāng)賦予人工智能獨(dú)立的法律主體地位并使其成為獨(dú)立的責(zé)任主體” 〔1 〕。如此眾多法學(xué)論題的提出業(yè)已表明，（超）強(qiáng)人工智能犯罪的可歸責(zé)主體問題很可能就是一個真問題，并且是一個具有重要學(xué)術(shù)價值、必須予以厘清的重大基礎(chǔ)理論問題，以致有學(xué)者認(rèn)為“人工智能的主體難題是其刑法命題的根本所在” 〔3 〕?？梢?，盡管表面上看偽問題論同否定論一樣，二者在基本立場上都是否定（超）強(qiáng)人工智能“犯罪主體論”和“可歸責(zé)主體論”，但是二者在論說路徑上存在差異，否定論是在否定偽問題論（即承認(rèn)“真問題”論）基礎(chǔ)上進(jìn)一步反對肯定論的理論言說，因此應(yīng)當(dāng)承認(rèn)，在肯定論、否定論的立場之外還有偽問題論。當(dāng)然還應(yīng)當(dāng)承認(rèn)，針對真問題論的否定論，不能只是就事論事地簡單作答，還必須進(jìn)一步深化問題意識，深入研討智能機(jī)器人犯罪內(nèi)在機(jī)理和相關(guān)法理，科學(xué)合理地解決相關(guān)法律實(shí)踐問題。

本文主張否定論，認(rèn)為人工智能犯罪包括弱人工智能犯罪、強(qiáng)人工智能犯罪乃至超強(qiáng)人工智能犯罪在內(nèi)，在生成機(jī)理和內(nèi)在邏輯上只能是人工智能“算法安全犯罪”（即“算法安全犯罪觀”），其犯罪主體和可歸責(zé)主體只能是作為算法社會關(guān)系主體的“自然人-法人”二元主體（即“自然人-法人二元主體論”或者簡稱“二元主體論”），在此基礎(chǔ)上秉持科學(xué)合理的刑法觀和方法論，才可能妥當(dāng)解決人工智能犯罪的歸責(zé)原理。

二、犯罪機(jī)理：人工智能犯罪中人工智能算法安全的相對自主性與絕對客體性

人工智能犯罪概念，理論上有較為寬泛的多樣化的界定。有學(xué)者認(rèn)為，人工智能犯罪（AI-Crime）指與人工智能系統(tǒng)研發(fā)、提供、應(yīng)用和管理相關(guān)的犯罪;人工智能犯罪與網(wǎng)絡(luò)犯罪具有相似性和緊密聯(lián)系，其特點(diǎn)主要有智能性、直接作用于網(wǎng)絡(luò)社會和物態(tài)社會“兩個社會”的雙重性;根據(jù)人工智能犯罪主要侵犯的法益及其行為特征，可以將其分為侵犯人工智能系統(tǒng)安全的犯罪、利用人工智能實(shí)施的傳統(tǒng)犯罪、利用人工智能侵犯個人信息的犯罪和獨(dú)立的外圍人工智能犯罪、違反人工智能安全管理義務(wù)的犯罪 〔1 〕。有的學(xué)者沒有概念化地界定智能機(jī)器人犯罪，而是具體描述了智能機(jī)器人犯罪的類型。如王肅之指出：“人工智能犯罪可能涉及以下2種類型：第1種類型為人工智能本就應(yīng)用于社會之中，由于人工智能出現(xiàn)問題或者其他原因產(chǎn)生危害社會的后果……第2種類型為人工智能被直接用于犯罪。” 〔3 〕再如劉憲權(quán)指出，智能機(jī)器人實(shí)施嚴(yán)重危害社會的行為可分為兩種，即在程序設(shè)計和編制范圍內(nèi)實(shí)施的行為和在程序設(shè)計和編制范圍外實(shí)施的行為 〔2 〕?？梢姡瑢θ斯ぶ悄芊缸锏母拍罱缍?，有犯罪學(xué)與規(guī)范刑法學(xué)的不同視角及回答。從規(guī)范刑法學(xué)視角看，目前理論界對于智能機(jī)器人犯罪的生成機(jī)理與內(nèi)在邏輯的揭示尚存不足，部分研究成果從犯罪學(xué)視角討論智能機(jī)器人犯罪的現(xiàn)象、規(guī)律與未來發(fā)展，并沒有為規(guī)范刑法學(xué)合理有效地規(guī)制智能機(jī)器人犯罪提供足夠的理論智識資源，急迫需要確立服從并服務(wù)于規(guī)范刑法學(xué)和刑事法治論的研究目標(biāo)，轉(zhuǎn)換研究視角，深刻揭示智能機(jī)器人犯罪的根本特質(zhì)。

應(yīng)當(dāng)說，目前理論界給出的人工智能犯罪概念，共性地存在的突出缺陷在于：或者未能精準(zhǔn)地揭示出人工智能犯罪的根本特質(zhì)是基于人工智能算法所實(shí)施的犯罪，或者沒能更進(jìn)一步看清人工智能算法的相對自主性與絕對客體性。這在一定意義上是一個犯罪觀問題。犯罪觀是關(guān)于犯罪本質(zhì)、價值、功能及其發(fā)展規(guī)律等犯罪基本問題的根本看法和基本立場，可以說是人生觀和世界觀在犯罪問題上的反映。馬克思主義經(jīng)典作家認(rèn)為，犯罪只能是人的行為而不能是人的思想⑤，是“孤立的個人反對統(tǒng)治關(guān)系的斗爭” 〔7 〕379，是“蔑視社會秩序的最明顯、最極端的表現(xiàn)” 〔7 〕416。那么，基于馬克思主義犯罪觀應(yīng)當(dāng)認(rèn)為，人工智能犯罪仍然是人的行為，是人基于人工智能算法所實(shí)施的危害社會的行為，“人”是犯罪主體，而人工智能（機(jī)器人）并不能成為犯罪主體。這一結(jié)論不僅符合馬克思主義犯罪觀，而且也是精準(zhǔn)揭示和闡釋人工智能犯罪內(nèi)在機(jī)理的結(jié)果。

人工智能算法自主性是智能機(jī)器人的本質(zhì)屬性和關(guān)鍵功能，算法自主性越強(qiáng)大，則智能性越強(qiáng)大，以此為標(biāo)準(zhǔn)對智能機(jī)器人進(jìn)行分類，智能機(jī)器人方有弱智能機(jī)器人與（超）強(qiáng)智能機(jī)器人之分。對此，有論者夸大強(qiáng)調(diào)人工智能算法的法律意義問題，認(rèn)為“人工智能應(yīng)用會創(chuàng)造出新的客體和新的社會活動，如人工智能創(chuàng)造物的權(quán)利主體和權(quán)利歸屬問題，以及人工智能法律系統(tǒng)運(yùn)作的法律價值和合法性問題。以上新客體、新社會活動都由人工智能算法的運(yùn)用產(chǎn)生，算法實(shí)際起著創(chuàng)造者的‘智能或者社會活動的規(guī)則作用，有必要開啟人工智能的‘黑箱子——人工智能算法，分析人工智能應(yīng)用的‘大腦和‘控制手，研究人工智能算法的邏輯過程是否符合法律和倫理” 〔1 〕。還有學(xué)者指出，關(guān)于人工智能的算法自主性，倫理學(xué)意義上的擔(dān)憂在于：一是大數(shù)據(jù)和高級算法可能會使所有人喪失未來的自由選擇權(quán)，“更為恐怖的是，當(dāng)基于算法的信用數(shù)據(jù)集可以預(yù)測某人未來犯罪的可能性時，公安部門可能會以‘預(yù)防犯罪為名提前干預(yù)他的自由權(quán)利”;二是大數(shù)據(jù)和高級算法可能會帶來數(shù)據(jù)歧視問題，“當(dāng)司法大數(shù)據(jù)推測黑人的犯罪率較高或阿拉伯人成為恐怖分子的可能性較高，那么監(jiān)管部門可能會對他們重點(diǎn)監(jiān)管，甚至提前預(yù)防犯罪，而有些公司也可能會據(jù)此拒絕雇傭他們，這就是典型的種族歧視和職業(yè)歧視” 〔8 〕。這些論述較為深刻地揭示出人工智能算法的重要性和法律相關(guān)性，值得重視，更值得反思。人工智能算法到底是應(yīng)該絕對地歸屬于人工智能本身，還是應(yīng)歸屬于作為人工智能算法的設(shè)計者、創(chuàng)造者、使用者與管理者的“人”？對此設(shè)問，我們認(rèn)為正確的答案應(yīng)當(dāng)是：“人”才是人工智能算法的真正主人，人工智能算法自主性僅具有相對性并且在根本上是由“人”創(chuàng)設(shè)和控制的，因而人工智能算法相對于“人”而言具有相對自主性與絕對客體性。

例如，有學(xué)者提出人工智能武器的概念，指出，能夠在沒有人類參與的情況下選擇和攻擊目標(biāo)的武器或者武器系統(tǒng)都可以稱為人工智能武器?！皬膰H人道法的角度來看，人工智能武器主要帶來了兩個方面的挑戰(zhàn)：一是武器系統(tǒng)選擇和攻擊目標(biāo)能否尊重國際人道法規(guī)則？二是如果武器系統(tǒng)的使用明顯違反國際人道法，能否歸責(zé)于個人或國家，并追究他們的責(zé)任？” 〔9 〕依筆者的解讀，關(guān)于人工智能武器的法律問題至少包括以下兩方面：其一，人工智能武器可以歸屬于人工智能嗎？答案應(yīng)當(dāng)是可以肯定的，人工智能在其被用于軍事目的時，它是人工智能“軍人”，又可以稱為人工智能“武器”，其本質(zhì)在于具有能夠在沒有人類參與情況下的人工智能算法自主性。以此類推，人工智能機(jī)器人還可以包括人工智能“工人”“農(nóng)民”“醫(yī)生”“駕駛員”“科學(xué)家”“清潔工”等等，阿爾法狗和索菲亞當(dāng)然也都是人工智能機(jī)器人。因此，人工智能機(jī)器人之“人”僅僅是一種“擬人化修辭意義上的人”，它可以是“人”、動物乃至其他萬物（如武器）的人工智能機(jī)器。其二，人工智能武器基于算法自主性所實(shí)施的軍事攻擊行為及其后果，是歸屬于人工智能本身還是歸屬于“人”（包括作為法人的單位乃至國家）？答案應(yīng)是只能歸屬于“人”。人工智能算法自主性是由“人”預(yù)設(shè)和主宰的結(jié)果，因而只具有相對的算法自主性與絕對的客體性，基于人工智能算法自主性所實(shí)施的全部行為后果——無論是有利于社會還是有害于社會，均應(yīng)由作為其主宰者的“人”享有和承擔(dān)。如果人工智能武器基于算法自主性而攻擊錯誤或者違反國際法，對此承擔(dān)后果的社會關(guān)系主體只能是“人”，而不可能是人工智能武器。

綜上，算法犯罪觀認(rèn)為：相對于人的主體性而言，人工智能算法突出地具有客體性（算法的客體性），因而以人工智能算法自主性為內(nèi)核的人工智能當(dāng)然具有客體性，算法犯罪仍然以人的主體性為根本特征。如果說“算法”是智能機(jī)器人的內(nèi)核，那么“算法”本身的弱智能性與強(qiáng)智能性乃至超強(qiáng)智能性，其決定因素在根本上仍然是“人”的弱智能到超強(qiáng)智能，而不是人工智能本身的弱智能到超強(qiáng)智能。“人”的智能強(qiáng)弱在根本上具有決定性，意味著這樣一種邏輯：“人”的智能設(shè)計越弱，則算法的智能自主性越弱;人的智能設(shè)計越強(qiáng)大，則算法的智能自主性越強(qiáng)大，超強(qiáng)人工智能在本質(zhì)上仍然是“人”的智能設(shè)計達(dá)到了超強(qiáng)智能性。因此可以說，人工智能發(fā)展僅具有單向維度，即：只能是由今天的弱智能自主性“算法”走向?qū)淼膹?qiáng)大乃至超強(qiáng)大智能自主性“算法”（可謂“將來算法”）。以超級計算機(jī)的誕生為例，它實(shí)際上就是從普通計算機(jī)（弱智能自主性）走向超級計算機(jī)（超強(qiáng)智能自主性），其內(nèi)核就是算法智能自主性及其發(fā)展方向?！八惴ㄖ悄茏灾餍浴钡男谭ㄟ壿嬍冀K是：人對“算法智能自主性”犯罪承擔(dān)刑法責(zé)任，人對“算法智能自主性”的定罪邏輯始終是“人力可控時可定罪，人力不可控時不定罪”，人工智能犯罪在當(dāng)下尚處于弱人工智能“算法”階段的定罪邏輯如此，在今后發(fā)展成為（超）強(qiáng)人工智能“算法”階段的定罪邏輯仍然如此，根本無法例外地對（超）強(qiáng)人工智能機(jī)器人本身定罪。

需要指出的是，人工智能犯罪在網(wǎng)絡(luò)時代可能表現(xiàn)出更加巨大的破壞能量，因?yàn)槿斯ぶ悄芩惴ㄗ灾餍钥梢酝ㄟ^網(wǎng)絡(luò)工具和數(shù)據(jù)應(yīng)用獲得更大發(fā)揮空間，值得特別警惕。

三、責(zé)任論：人工智能犯罪僅能歸責(zé)于作為保證人的“自然人-法人”

傳統(tǒng)刑法理論上“保證人”理論（即“保證人說”）具體包括“保證人地位”與“保證人義務(wù)”兩個概念，本來是用于闡釋不作為犯之作為義務(wù)的理論。德國學(xué)者那格拉在1938年首次提出了保證人說，認(rèn)為只有負(fù)有防止結(jié)果發(fā)生的法律上的作為義務(wù)的人，即處于保證人地位的人的不作為才符合構(gòu)成要件;后來又發(fā)展成“統(tǒng)一說”（或者“統(tǒng)和說”）與“區(qū)別說”兩種不同見解，但是“兩說在實(shí)際使用上并不會出現(xiàn)太大的差異” 〔10 〕196-197。而人工智能犯罪并不限于不作為犯，還包括作為犯。人工智能犯罪在不作為犯的情形下，當(dāng)然可以運(yùn)用保證人說來進(jìn)行理論闡釋。那么，人工智能犯罪在作為犯的情形下，是否可以借助保證人說來進(jìn)行理論闡釋呢？本文認(rèn)為，對于人工智能犯罪的作為犯，仍然可以借助保證人說的“保證人地位”與“保證人義務(wù)”理論，賦予作為人工智能設(shè)計者、制造者、使用者和管理者的“自然人-法人”的安全保證責(zé)任，即作為保證人的“自然人-法人”必須對人工智能及其內(nèi)含的算法的安全性負(fù)責(zé)，將人工智能基于算法安全性所為的行為及其結(jié)果歸屬于作為保證人的“自然人-法人”。亦即，人工智能在設(shè)計和編制的程序范圍內(nèi)外所為人工智能犯罪的責(zé)任歸于作為保證人的“自然人-法人”，這種保證人論歸責(zé)論不能局限于不作為犯構(gòu)成要件符合性與違法性論的理論界說，而必須作出符合傳統(tǒng)刑法教義學(xué)歸責(zé)論的理論改造。以“自然人-法人”的責(zé)任歸屬為核心的刑法教義學(xué)原理，無法將（超）強(qiáng)人工智能犯罪的責(zé)任歸屬于（超）強(qiáng)人工智能機(jī)器人，因?yàn)檫@樣將遮蔽作為設(shè)計者、生產(chǎn)者、銷售者、運(yùn)營管理者的“自然人-法人”的責(zé)任歸屬這一本質(zhì)。有學(xué)者指出，應(yīng)當(dāng)借鑒刑事近代學(xué)派所主張的社會防衛(wèi)論，創(chuàng)立以人工智能等科技風(fēng)險為對象的“科技社會防衛(wèi)論”與“技術(shù)責(zé)任論”，將人工智能作為獨(dú)立的刑事責(zé)任主體，對具有實(shí)施危害社會行為的人工智能施以技術(shù)危險消除措施 〔11 〕。這種見解將“技術(shù)責(zé)任論”直接置換為“將技術(shù)作為責(zé)任主體論”，直接遮蔽了作為保證人的“自然人-法人”的責(zé)任歸屬這一本質(zhì)，應(yīng)當(dāng)說有所欠當(dāng)。

責(zé)任論的多重考察可以發(fā)現(xiàn)，在從道義責(zé)任論到社會責(zé)任論再到法的規(guī)范責(zé)任論的發(fā)展演變中，即便是作為最新見解的法的規(guī)范責(zé)任論也始終無法徹底擺脫道義責(zé)任論，即必須具有自我決定的自由以及具有實(shí)施其他行為的可能性時才產(chǎn)生責(zé)任的非難的宿命;從結(jié)果責(zé)任論到心理責(zé)任論到規(guī)范責(zé)任論再到功能責(zé)任論的發(fā)展歷程中，不但規(guī)范責(zé)任論仍然是以心理責(zé)任論為前提建立起來的理論，而且功能責(zé)任論也仍然是以行為人對法規(guī)范的“忠誠”和“意思自由”為前提的⑥?？梢哉f，意思自由性、倫理譴責(zé)性、規(guī)范責(zé)難性等要素仍然是現(xiàn)代各種責(zé)任論的實(shí)質(zhì)內(nèi)涵，而這些實(shí)質(zhì)內(nèi)涵只能是作為保證人的“自然人-法人”才可能具備，并不能將人工智能算法的相對自主性與絕對客體性直接等同于意思自由性、倫理譴責(zé)性和規(guī)范責(zé)難性。

倫理譴責(zé)性和規(guī)范責(zé)難性是現(xiàn)代刑法責(zé)任論的重要內(nèi)容。倫理譴責(zé)性是犯罪的內(nèi)在倫理評價屬性。規(guī)范刑法學(xué)方面有論者主張否定犯罪的倫理譴責(zé)性，客觀上存在嚴(yán)重誤解。針對賣淫、通奸、吸毒以及其他“無被害人犯罪”行為，現(xiàn)代刑法基于刑事政策考量而部分地甚至較多地出現(xiàn)非犯罪化，其并非完全否定犯罪的倫理譴責(zé)性，而是強(qiáng)調(diào)不得單純基于倫理譴責(zé)性進(jìn)行犯罪化，還需要進(jìn)行社會危害性的綜合考量來決定具體行為的犯罪化與非犯罪化。針對行政犯（或者法定犯），現(xiàn)代刑法也難以完全否定犯罪的倫理譴責(zé)性，任何行政犯——例如危險駕駛罪、非法經(jīng)營罪、破壞計算機(jī)信息系統(tǒng)罪等，都難說完全否定了其倫理譴責(zé)性，而是強(qiáng)調(diào)了不得單純基于倫理譴責(zé)性的犯罪化。只有“自然人-法人”才能感受倫理譴責(zé)性并遵行此種感受決定行為取舍，而人工智能僅具有“算法”邏輯并決定其行為邏輯，但是不具有感受倫理譴責(zé)性的能力并決定行為邏輯，人工智能“算法”自主性及其行為邏輯只有在融入了作為保證人的“自然人-法人”的保證意思之后才具有倫理譴責(zé)性，因而只能針對同人工智能“算法”自主性相關(guān)聯(lián)的保證人（即“自然人-法人”）進(jìn)行倫理譴責(zé)性評價和犯罪評價，人工智能犯罪只能歸責(zé)于作為保證人的“自然人-法人”。規(guī)范責(zé)難性是犯罪的外在規(guī)范評價屬性。規(guī)范刑法學(xué)的教義化、科學(xué)化和現(xiàn)代化的重要發(fā)展，根本標(biāo)志就是規(guī)范責(zé)任論的確立，強(qiáng)調(diào)刑法的明確規(guī)定性、規(guī)范性和可操作性，由于此內(nèi)容并非本文論題的重點(diǎn)，這里不作具體展開論述。

（超）強(qiáng)人工智能機(jī)器人沒有脫離于“自然人-法人”之外的獨(dú)立存在空間，（超）強(qiáng)人工智能機(jī)器人一旦脫離作為保證人的“自然人-法人”之外就無法組成社會組織，其智慧算法和行為永遠(yuǎn)無法歸屬于其自身而只能歸屬于“自然人-法人”，即使其具有意識復(fù)制和學(xué)習(xí)進(jìn)步的特異功能，其仍然無法脫離作為保證人的“自然人-法人”的意識——保證人所預(yù)設(shè)的算法自主性的意識而獨(dú)立存在，其仍然無法成為具有“人心人性”的責(zé)任主體。只有將強(qiáng)智能機(jī)器人犯罪歸責(zé)于作為保證人的“自然人-法人”，才能真正實(shí)現(xiàn)有效歸責(zé)（即倫理譴責(zé)和規(guī)范責(zé)難）。

民法學(xué)者對于人工智能基于算法所引致的法律上的權(quán)利和責(zé)任之討論，也有值得刑法責(zé)任論借鑒之處。如基于人工智能所引致的著作權(quán)的法律主體與權(quán)利歸屬問題，有學(xué)者提出了“法律作者”概念，指出，“小冰”人工智能機(jī)器人的出現(xiàn)，挑戰(zhàn)了傳統(tǒng)著作權(quán)法的底線。面對高速發(fā)展的人工智能技術(shù)，現(xiàn)在社會人工詩集大量出現(xiàn)，更多的人工作品涌現(xiàn)，我們積極采用“法律擬制”技術(shù)，參照發(fā)達(dá)國家“視為作者”原則，在認(rèn)定人工智能詩集的作者和著作權(quán)歸屬上，大膽認(rèn)定人工智能詩集是著作權(quán)法的“作品”，人工智能的管理者是作品的“法律作者”，把機(jī)器人、設(shè)計者、管理者作為人工智能詩集的“事實(shí)作者”對待，最終法律保護(hù)人工智能詩集的“法律作者”，由“法律作者”享有人工智能詩集的著作權(quán)，而不是由機(jī)器人享有人工智能詩集的著作權(quán) 〔12 〕。人工智能詩集作為人工智能機(jī)器人的具體行為所產(chǎn)生的結(jié)果，其權(quán)利與責(zé)任歸屬于作為保證人的管理者（即“自然人-法人”），而不能歸屬于人工智能機(jī)器人，這一原理值得刑法上犯罪的歸責(zé)論借鑒。當(dāng)然在刑法上，除了管理者之外，人工智能的設(shè)計者、制造者的歸責(zé)問題還需要進(jìn)一步厘清。例如，當(dāng)人工智能詩集的內(nèi)容存在嚴(yán)重違背國家法律規(guī)定并被公之于眾產(chǎn)生嚴(yán)重社會危害后果時，如果構(gòu)成犯罪，那么應(yīng)該如何確定其歸責(zé)主體及其刑事責(zé)任？對此，應(yīng)當(dāng)首先確定作為人工智能的保證人的“自然人-法人”，包括設(shè)計者、制造者、使用者、管理者，然后再依據(jù)刑法上歸責(zé)原理具體確定保證人的刑事責(zé)任，而不應(yīng)當(dāng)通過對人工智能機(jī)器人歸責(zé)的方式來規(guī)避保證人的刑事責(zé)任。

劉憲權(quán)提出，在設(shè)計和編制的程序范圍外人工智能犯罪的歸責(zé)主體問題，認(rèn)為：“當(dāng)智能機(jī)器人在程序設(shè)計和編制范圍外實(shí)施嚴(yán)重危害社會的行為時，智能機(jī)器人具有辨認(rèn)能力和控制能力，因而具有刑事責(zé)任能力，應(yīng)當(dāng)獨(dú)立承擔(dān)刑事責(zé)任。” 〔2 〕這種見解的邏輯問題值得分析。其一，這個問題仍然應(yīng)當(dāng)在人工智能算法自主性的相對性與絕對客體性之內(nèi)來認(rèn)識;其二，在設(shè)計和編制的程序范圍外人工智能犯罪的歸責(zé)事由，還可以根據(jù)原因自由行為論，將作為保證人的“自然人-法人”基于自由意思所為“在設(shè)計和編制的程序范圍外實(shí)施行為的智能機(jī)器人”這一行為闡釋為原因自由行為的歸責(zé)原理來闡釋，作為保證人的“自然人-法人”所實(shí)施的人工智能算法的設(shè)計、制造、使用和管理行為仍然可以作為原因自由行為進(jìn)行歸責(zé)，而不是對人工智能算法本身歸責(zé)。

因此，針對學(xué)者提出的人工智能編制程序外的算法犯罪，盡管這種人工智能犯罪類型可能涉及十分復(fù)雜的技術(shù)難題，但是仍然應(yīng)當(dāng)承認(rèn)其沒有超越保證人責(zé)任，只要其應(yīng)當(dāng)屬于算法安全風(fēng)險可控性之內(nèi)，就應(yīng)當(dāng)承認(rèn)其成立保證人責(zé)任，并實(shí)行舉證責(zé)任倒置原則（程序法原則）。如果其不屬于算法安全風(fēng)險可控性之內(nèi)，則應(yīng)當(dāng)承認(rèn)其為意外事件而不追究保證人責(zé)任，并且這種意外事件也難以“客觀歸責(zé)”于人工智能算法本身。

四、刑罰觀：人工智能犯罪僅能通過“自然人-法人”完成報應(yīng)和預(yù)防功能

刑罰論的基礎(chǔ)和核心是刑罰正義根據(jù)論，簡稱刑罰根據(jù)論、刑罰論。刑罰根據(jù)論在概念邏輯上存在報應(yīng)論（報應(yīng)刑論）、功利論（預(yù)防刑論與目的刑論）、并合論（一體論）之分⑦，并且應(yīng)當(dāng)注意的是，在人類刑法實(shí)踐歷史上應(yīng)當(dāng)說并不存在單純的報應(yīng)論或者單純的功利論，自古至今世界各國普遍遵行相當(dāng)意義上的并合論，“拋棄片面的報應(yīng)論與功利論而追求系統(tǒng)的一體論，應(yīng)該是關(guān)于刑罰根據(jù)論的一種必然而合理的選擇”⑧。刑罰的正當(dāng)化根據(jù)是報應(yīng)的正當(dāng)性與預(yù)防犯罪目的（功利主義）的合理性，基于報應(yīng)所裁量的刑罰是責(zé)任刑，基于預(yù)防犯罪目的（功利主義）所裁量的刑罰是預(yù)防刑⑨。應(yīng)當(dāng)說，刑罰根據(jù)論的并合論命題一經(jīng)發(fā)現(xiàn)和明確提出即獲得了廣泛共識，并且表面上至今沒有人提出更具創(chuàng)新性的理論洞見 〔13 〕357。以此刑罰觀及其內(nèi)在法理審查（超）強(qiáng)人工智能犯罪的受罰主體，如果將（超）強(qiáng)人工智能機(jī)器人本身作為可歸責(zé)主體并對其進(jìn)行刑罰處罰，就無法獲得合理性和可行性。

目前部分學(xué)者針對（超）強(qiáng)人工智能犯罪所提出的“刪除數(shù)據(jù)、修改程序、永久銷毀” 等刑罰種類 〔2 〕，應(yīng)當(dāng)說難以匹配刑罰本質(zhì)并實(shí)現(xiàn)刑罰功能。因?yàn)檫@些特別“刑罰種類”只有作為保證人的“自然人-法人”才能感受到并起到以儆效尤的刑罰懲罰（報應(yīng)）與預(yù)防功能，而（超）強(qiáng)人工智能機(jī)器人并不可能關(guān)心“懲罰與預(yù)防”而只在乎“算法”并且將始終不改地按照其既定“算法”行事（行動），“算法”被修改而改變行為的原因不是因?yàn)閼土P影響“人心人性”所致，而是因?yàn)椤八惴ā彼鶠?，由此無法實(shí)現(xiàn)刑罰的一般預(yù)防和特殊預(yù)防功能。單罰制與雙罰制均無法適用于智能機(jī)器人。

因此，刑法無法規(guī)制作為被“自然人-法人”塑造的智能機(jī)器人?？梢宰專ǔ?qiáng)人工智能機(jī)器人（有智無心）超越人，但是（超）強(qiáng)人工智能機(jī)器人不可以成為社會關(guān)系人。（超）強(qiáng)人工智能機(jī)器人可以在智力領(lǐng)域超越人，正因?yàn)槿绱?，它不能成為真?shí)存在的社會關(guān)系人。當(dāng)（超）強(qiáng)人工智能機(jī)器人可以由“人”隨意塑造時，應(yīng)受處罰的只能是作為塑造者的“人”，而不能是作為被塑造者的（超）強(qiáng)人工智能機(jī)器人;當(dāng)（超）強(qiáng)人工智能機(jī)器人已經(jīng)發(fā)展到唯我獨(dú)尊，而不再可以由“人”隨意塑造時，人類的刑罰就在根本上喪失了要求其應(yīng)受處罰的合理性。

五、刑法常識觀：人工智能犯罪中“人心人性”的人類社會學(xué)意義

作為刑法學(xué)方法論的“三常論”，要求研究者必須針對研究對象、研究方法、研究結(jié)論等進(jìn)行“三常論”判斷（即進(jìn)行常識、常情、常理的判斷）⑩，排除有違“三常論”判斷的學(xué)術(shù)見解?！叭Ｕ摗迸袛嗫赡芫哂袝r空性，當(dāng)下的三常論判斷，必須立足于“當(dāng)下”的常識、常情、常理進(jìn)行學(xué)術(shù)判斷;將來的三常論判斷，則必須立足于“將來”的常識、常情、常理進(jìn)行學(xué)術(shù)判斷，也就是說既要反對以當(dāng)下的三常論判斷代替將來的三常論判斷，也要反對以將來的三常論判斷代替當(dāng)下的三常論判斷。當(dāng)下，不少人認(rèn)為“將來已來”，那么，在“將來已來”的語境下，當(dāng)下刑法學(xué)應(yīng)當(dāng)如何預(yù)判“將來”的三常論內(nèi)核？通過“將來”的三常論判斷，刑法學(xué)還應(yīng)當(dāng)摒棄（超）強(qiáng)人工智能機(jī)器人“犯罪主體論”嗎？這是本文希望回答和論證的兩個關(guān)聯(lián)性問題。

（超）強(qiáng)智能機(jī)器人可否成為社會關(guān)系的主體（身份）？當(dāng)下的和將來的“三常論”判斷需要考察以下要素：

（一）心智齊備是人成為社會關(guān)系主體的核心要素?！叭！北緛砭褪菍θ说男闹堑母叨雀爬ǎ磳θ诵娜诵院腿说闹腔鄣母叨雀爬?，人是具有“三?！碧刭|(zhì)的靈長類動物。人類社會是由人（自然人）自我發(fā)展、自我構(gòu)建、自主建設(shè)而成的，而人之所以能夠自我發(fā)展、自我構(gòu)建、自主建設(shè)成立人類社會，是因?yàn)槿耸怯行闹堑摹叭f物之靈”，從而人可以成為社會關(guān)系主體。心智齊備是人成為社會關(guān)系主體的核心要素，這是當(dāng)下的“三常論”判斷。心智齊備強(qiáng)調(diào)的內(nèi)容，不僅是有“智”（智慧），而且是有“心”（人心人性），有心有智（或者有智有心）是人的特質(zhì)，是社會關(guān)系主體的特質(zhì)。人具有實(shí)質(zhì)的“三?！碧刭|(zhì)，法人（含國家）具有擬制的實(shí)質(zhì)的“三?！碧刭|(zhì)，因此可以說自然人和法人具有實(shí)質(zhì)的“三?！碧刭|(zhì)。為什么說法人具有擬制的實(shí)質(zhì)的“三?！碧刭|(zhì)？簡單說，是因?yàn)榉ㄈ耸蔷哂凶匀蝗诵闹堑慕M合體，“資合”僅是法人的表象，“人合”才是法人的實(shí)質(zhì)，所以有人感嘆應(yīng)當(dāng)像選擇結(jié)婚對象一樣選擇股東和合伙人;法人決策時即使在出現(xiàn)“人不合”和公司僵局的情形下，其決策仍然能夠適時體現(xiàn)出實(shí)質(zhì)的“三常”特質(zhì)。

那么，（超）強(qiáng)智能機(jī)器人是否具有心智，進(jìn)而成為社會關(guān)系主體？依“三常論”判斷，（超）強(qiáng)智能機(jī)器人難以符合“心智齊備”的特質(zhì)，其可能具有“智”甚至是超強(qiáng)智慧，但是其難以獲得“心”（即人心人性），因而（超）強(qiáng)智能機(jī)器人僅僅是“有智無心”之物，并不具備社會關(guān)系主體特質(zhì)，難以成為社會關(guān)系主體（身份）。

可以說，心智是當(dāng)下“三常論”對社會關(guān)系主體特質(zhì)判斷的核心要素，將來“三常論”判斷也是如此，心智是社會關(guān)系主體所必須具備的基本特征。

（二）（超）強(qiáng)智能機(jī)器人不具備人“心”，僅具有財產(chǎn)性和工具性，缺乏善惡道德價值觀、社會行為規(guī)范的根本作用點(diǎn)。人“心”是善惡道德價值觀、社會行為規(guī)范的根本作用點(diǎn)?！坝行摹保ㄓ腥诵挠腥诵裕┮馕吨猩茞旱赖聝r值觀、社會倫理價值觀、有社會行為規(guī)范可能性，有智無心（無人心無人性）不能成為社會關(guān)系主體。這是“三常論”判斷的理論基礎(chǔ)。有學(xué)者指出：人之所以為人，本質(zhì)上是智性、心性、靈性三者合成，心性是感情、情緒、感覺的發(fā)源地，不同于智性;機(jī)器人雖可仿及人的智性，但不能仿及人類心性（尚未聞人工智能有感情，未聞有機(jī)器人為情所累），人工智能不可能達(dá)到人類一般的“主體性” 〔6 〕。由于智能機(jī)器人“有智無心”的特點(diǎn)，因此（超）強(qiáng)智能機(jī)器人也可以稱謂為“強(qiáng)智能機(jī)器狗”“阿爾法狗”。難道，索菲亞能夠超越“強(qiáng)智能機(jī)器狗”“阿爾法狗”而成為真正的人？

財產(chǎn)性與工具性是（超）強(qiáng)智能機(jī)器人和法人的共性，但是法人因?yàn)榫哂袛M制的“人心人性”而可以獲得擬制的主體性，而機(jī)器人因不具有“人心人性”而無法獲得任何擬制的主體性。即機(jī)器人與法人的相互關(guān)系是單向性的，即法人可以像人一樣擁有其他法人和機(jī)器人，而機(jī)器人不能擁有法人和（其他）機(jī)器人。機(jī)器人的特質(zhì)僅僅是“技術(shù)”而不是人的心智（有智無心），法人可以融入人的某種心智（有智有心），從而法人可以成為社會關(guān)系主體。

有智有心者方為同類，“人心人性”是人類的基本要素，動物因?yàn)榫邆涑醪降幕蛘咻^強(qiáng)的“人心人性”而成為人類伙伴，有利用有珍惜，某些“通人性”的動物還獲得了較大尊榮（如某些動物被賦予“人”一樣的待遇）;但是索菲亞和阿爾法狗卻無法獲得“人心人性”而只能成為更加純粹的財產(chǎn)性，難以獲得人的同類身份和待遇。

（三）機(jī)器人無法融入“三常”的刑法感知能力。 “三常”是刑法感知能力的基本要素，法人可以融入“三?！保ㄈ司哂懈兄塘P的能力并且使得刑罰功能可以發(fā)揮報應(yīng)和預(yù)防功能，因而法人可以成為犯罪主體和受罰主體。而機(jī)器人無法融入“三?！保ㄓ兄菬o心），機(jī)器人無法感知刑罰并發(fā)揮報應(yīng)和預(yù)防功能;當(dāng)前智能機(jī)器人不能成為犯罪主體，這是“三常論”判斷，至于將來，可能有待于“將來的三常論判斷”，但是當(dāng)前的乃至將來的三常論判斷是其未來仍然不可能成為犯罪主體。

綜上可以說，以索菲亞（美女）和阿爾法（狗）的共性分析為例，可以預(yù)知將來（超）強(qiáng)人工智能機(jī)器人身份的三常論判斷結(jié)論是：其只能成為“人心人性”的客體，而不可能成為“人心人性”的主體。

六、刑法進(jìn)化觀：人工智能犯罪中“自然人-法人”二元主體模式的堅守與完善

刑法進(jìn)化觀強(qiáng)調(diào)刑法有一個進(jìn)化發(fā)展的過程，而不能死守過去。例如，法人犯罪的立法化和司法實(shí)踐，盡管其在理論上尚存爭議，但是在相當(dāng)意義上仍然可以說其是刑法進(jìn)化觀的一個例證。如前所述，法人（含國家）具有擬制的、實(shí)質(zhì)的“三?！碧刭|(zhì)而可以成為可歸責(zé)主體，有學(xué)者就以法人犯罪中“法人”犯罪主體論和可歸責(zé)主體論為例，來論證人工智能犯罪中（超）強(qiáng)人工智能機(jī)器人犯罪主體論和可歸責(zé)主體論的合理性。那么，這種論證邏輯及其結(jié)論的合理性值得反思。

法人擬制犯罪的刑事政策原理不能適用于人工智能犯罪，在形式上和實(shí)質(zhì)上（超）強(qiáng)人工智能犯罪均毫無例外地屬于“自然人-法人”犯罪的范疇。僅在（超）強(qiáng)智能機(jī)器人（個體與群體）作為“法人”資格時其可以成為法人擬制犯罪，但是這時其是因?yàn)樽鳛椤胺ㄈ恕倍蔀榉缸镏黧w，而不是因?yàn)椤埃ǔ?qiáng)智能機(jī)器人”而成為犯罪主體。“自然人-法人”的行為社會意義可以獨(dú)立地成為自身的法律行為，但是（超）強(qiáng)智能機(jī)器人的行為社會意義無法獨(dú)立地成為“其自身”的法律行為，而只能成為作為居于保證人地位的“自然人-法人”的法律行為。（超）強(qiáng)智能機(jī)器人永遠(yuǎn)只能成為社會意義上的“無產(chǎn)階級”，但是“自然人-法人”從一開始就是社會意義上的“有產(chǎn)階級”（指自身的權(quán)利義務(wù)），這是（超）強(qiáng)智能機(jī)器人不同于“自然人-法人”的根本特質(zhì)。二元主體模式無法走向三元主體模式。

（超）強(qiáng)人工智能機(jī)器人犯罪可能包括殺人、侵財、危害國家安全與公共安全、破壞經(jīng)濟(jì)秩序與社會秩序等，但是其自身難以獲得社會政治意義，這一點(diǎn)不同于“自然人-法人”犯罪，因?yàn)椤白匀蝗?法人”犯罪可以獲得社會政治意義。上帝不會成為刑罰對象，但法人可以，故“上帝-人”二元主體模式不可隱喻;但基于犯罪主體擬制論之下的心智可控論、獨(dú)立權(quán)利義務(wù)主體資格論和刑法治理策略論，可構(gòu)建“自然人-法人”二元主體模式，但是無法構(gòu)建“自然人-法人-人工智能機(jī)器人”三元主體模式。為解決法人和人工智能機(jī)器人難題，刑法上可以處罰法人，但是刑法策略上無法處罰機(jī)器人，因?yàn)獒槍Γǔ?qiáng)人工智能機(jī)器人的刪、改、毀，僅可以成為針對作為（超）強(qiáng)人工智能機(jī)器人之保證人的“自然人-法人”的財產(chǎn)而施加的相應(yīng)的行政法措施（具體行政行為）、民法措施（民事法律行為）乃至保安處分措施。因此，關(guān)鍵法理在于（超）強(qiáng)人工智能機(jī)器人無法獲得與“自然人-法人”一樣的“人心人性”，從而無法獲得權(quán)利義務(wù)主體資格，今天無法獲得，將來也無法獲得，其根本法理正在于（超）強(qiáng)人工智能機(jī)器人永遠(yuǎn)無法獲得“人心人性”。

刑法進(jìn)化觀盡管不能證成（超）強(qiáng)人工智能機(jī)器人的可歸責(zé)主體論，但是也不能以此放棄針對（超）強(qiáng)人工智能機(jī)器人犯罪提出的新問題進(jìn)行刑法完善的思考。人工智能機(jī)器人犯罪在本質(zhì)上可以抽象為“算法安全犯罪”，即人工智能機(jī)器人毫無例外地被限定為通過算法或者針對算法所實(shí)施的危害公共安全犯罪以及妨害作為算法安全管理的社會管理秩序犯罪，這些犯罪明顯地具有不同于網(wǎng)絡(luò)數(shù)據(jù)犯罪以及其他通過非智能算法和數(shù)據(jù)所實(shí)施的傳統(tǒng)犯罪的突出特點(diǎn)。據(jù)此，人工智能算法犯罪可以類型化為三種犯罪：

一是設(shè)計、制造、銷售、使用不符合算法安全標(biāo)準(zhǔn)的人工智能產(chǎn)品罪，其侵害的法益是作為公共安全的人工智能算法安全，可以比照《刑法》第146條的立法規(guī)定設(shè)置罪狀和法定刑。提出這一立法建議方案的理由在于：盡管《刑法》第146條規(guī)定的生產(chǎn)、銷售不符合安全標(biāo)準(zhǔn)的產(chǎn)品罪作為一般法條規(guī)定，在邏輯上可以囊括所有生產(chǎn)、銷售不符合安全標(biāo)準(zhǔn)的產(chǎn)品——其中可以包括不符合算法安全標(biāo)準(zhǔn)的人工智能產(chǎn)品——的犯罪行為，表面上可以將生產(chǎn)、銷售不符合安全標(biāo)準(zhǔn)的人工智能產(chǎn)品行為予以定罪處罰，但是，《刑法》第146條并沒有準(zhǔn)確反映出人工智能產(chǎn)品所涉“算法安全犯罪”的特殊性，即這種算法安全犯罪在本質(zhì)上是一種危害公共安全犯罪而非一般意義上的生產(chǎn)、銷售偽劣商品犯罪，因而應(yīng)當(dāng)將其單獨(dú)設(shè)罪并規(guī)定在危害公共安全罪一章之中;同時，《刑法》第146條也沒有全面規(guī)定“設(shè)計、制造、銷售、使用”等行為多樣性，較為明顯地忽略了“設(shè)計”“使用”不符合算法安全標(biāo)準(zhǔn)的人工智能產(chǎn)品行為的特殊危害性，因而也有必要增加規(guī)定該新罪名。

二是非法制造、持有、買賣、運(yùn)輸、使用人工智能武器罪，其侵害的法益是作為重大公共安全的人工智能算法安全，可以比照《刑法》第125條的立法規(guī)定設(shè)置罪狀和法定刑。之所以提出比照《刑法》第125條規(guī)定這個新罪名，重要原因是人工智能武器所涉國際關(guān)系和國內(nèi)政治上的重大公共安全性，極容易造成人道主義重大災(zāi)難，而在刑法規(guī)范意義上難以將人工智能武器周全涵攝于“槍支、彈藥、爆炸物”或者“危險物質(zhì)”之中，因而增加規(guī)定該新罪名具有重大政治意義和法治價值。

三是擅自改變?nèi)斯ぶ悄墚a(chǎn)品算法與用途罪，其侵害的法益是作為算法安全管理的社會管理秩序，可以比照《刑法》第286條的立法規(guī)定設(shè)置罪狀和法定刑。之所以提出增加規(guī)定這個新罪名，是基于人工智能產(chǎn)品算法與用途一旦被擅自改變，就可能造成人工智能產(chǎn)品的管理失序并引發(fā)新的危害算法安全犯罪和危害管理秩序犯罪;同時，算法安全管理不同于數(shù)據(jù)安全管理，如果說《刑法》第286條是針對數(shù)據(jù)安全管理的犯罪，那么，本新罪名就是針對算法安全管理的犯罪，因此，有必要在《刑法》第286條規(guī)定的破壞計算機(jī)信息系統(tǒng)罪之外再特別規(guī)定擅自改變?nèi)斯ぶ悄墚a(chǎn)品算法與用途罪。

有關(guān)人工智能算法安全犯罪方面的立法完善論有待另文展開深入討論，這里不再贅述。

注 釋：

①本文在使用“人工智能”這一語詞時可能具有多重含義，其可以作為名詞使用，含義等同于“人工智能機(jī)器人”;也可以作為修飾語使用，含義等同于“人工智能的”或者“人工智能機(jī)器人的”。

②人工智能根據(jù)智能水平的高低可以分為弱人工智能（Weak Artificial Intelligence）、強(qiáng)人工智能（Strong Artificial Intelligence）和超強(qiáng)人工智能（Super Artificial Intelligence）。參見高銘暄、王紅：《互聯(lián)網(wǎng)+人工智能全新時代的刑事風(fēng)險與犯罪類型化分析》，載《暨南學(xué)報》（哲學(xué)社會科學(xué)版）2018年第9期。

③人工智能還可以分為專用人工智能、通用人工智能、超級人工智能三類。參見趙秉志、詹奇瑋：《現(xiàn)實(shí)挑戰(zhàn)與未來展望：關(guān)于人工智能的刑法學(xué)思考》，載《暨南學(xué)報（哲學(xué)社會科學(xué)版）》2019年第1期。

④由于我國《刑法》規(guī)定了單位犯罪，因而這里的“法人”是指可以構(gòu)成單位犯罪的“法人”單位。

⑤這里馬克思指出的原文是：“凡是不以行為本身而以當(dāng)事人的思想方式作為主要標(biāo)準(zhǔn)的法律，無非是對非法行為的公開認(rèn)可?！眳⒁姟恶R克思恩格斯全集》（第1卷），人民出版社1957年版，第16頁。

⑥參見陳家林：《外國刑法理論的思潮與流變》，中國人民公安大學(xué)出版社、群眾出版社2017年版，第371-377頁。

⑦參見張明楷：《新刑法與并合主義》，載《中國社會科學(xué)》2000年第1期;邱興隆：《關(guān)于懲罰的哲學(xué)：刑罰根據(jù)論》，法律出版社2000年版，第331-333頁。

⑧邱興隆教授認(rèn)為，“報應(yīng)論與功利論在人類歷史上曾各領(lǐng)風(fēng)騷，各顯輝煌，但終歸為一體論所取代”。參見邱興?。骸蛾P(guān)于懲罰的哲學(xué)：刑罰根據(jù)論》，法律出版社2000年版，第332頁。

⑨參見張明楷：《論預(yù)防刑的裁量》，載《現(xiàn)代法學(xué)》2015年第1期。

⑩參見陳忠林：《刑法散得集（Ⅱ）》，重慶大學(xué)出版社2012年版，第17-27頁。

參考文獻(xiàn)：

〔1〕皮 勇.人工智能刑事法治的基本問題〔J〕.比較法研究，2018（05）：149-166.

〔2〕劉憲權(quán).人工智能時代刑事責(zé)任與刑罰體系的重構(gòu)〔J〕.政治與法律，2018（03）：89-99.

〔3〕王肅之.人工智能犯罪的理論與立法問題初探〔J〕.大連理工大學(xué)學(xué)報（社會科學(xué)版），2018（04）：53-63.

〔4〕趙秉志，詹奇瑋.現(xiàn)實(shí)挑戰(zhàn)與未來展望：關(guān)于人工智能的刑法學(xué)思考〔J〕.暨南學(xué)報（哲學(xué)社會科學(xué)版），2019（01）：98-110.

〔5〕劉艷紅.人工智能法學(xué)研究中的反智化批判〔J〕.東方法學(xué)，2019（09）：1-83.

〔6〕范忠信.人工智能法理困惑的保守主義思考〔J〕.探索與爭鳴，2018（09）：76-83.

〔7〕馬克思恩格斯全集：第3卷〔M〕.北京：人民出版社，1960.

〔8〕何 淵.智能社會的治理與風(fēng)險法學(xué)的建構(gòu)與證成〔J〕.東方法學(xué)，2019（01）：68-83.

〔9〕張衛(wèi)華.人工智能武器對國際人道法的新挑戰(zhàn)〔J〕.政法論壇，2019（04）：144-155.

〔10〕陳家林.外國刑法理論的思潮與流變〔M〕.北京：中國人民公安大學(xué)出版社，群眾出版社，2017.

〔11〕黃云波.論人工智能時代的刑事責(zé)任主體：誤區(qū)、立場與類型〔J〕.中國應(yīng)用法學(xué)，2019（02）：163-175.

〔12〕李偉民.人工智能詩集的版權(quán)歸屬研究〔J〕.電子知識產(chǎn)權(quán)，2019（01）：22-27.

〔13〕魏 東.死刑修改的刑罰論分析〔C〕//郎勝，朱孝清，梁根林.全國刑法學(xué)術(shù)年會文集（2017年度）：時代變遷與刑法現(xiàn)代化（上卷）.北京：中國人民公安大學(xué)出版社，群眾出版社，2017.

責(zé)任編輯 楊在平