人工智能時(shí)代的“內(nèi)憂”“外患”與刑事責(zé)任

劉憲權(quán)

內(nèi)容摘要：以人工智能產(chǎn)品是否具有辨認(rèn)能力和控制能力，可以將其劃分為弱人工智能產(chǎn)品與強(qiáng)人工智能產(chǎn)品。弱人工智能產(chǎn)品不具有辨認(rèn)能力和控制能力，僅能在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為，實(shí)現(xiàn)人類設(shè)計(jì)和編制程序的目的。弱人工智能時(shí)代的“外患”在于，人類完全有可能讓其為己所用，實(shí)現(xiàn)自己的犯罪目的。弱人工智能產(chǎn)品作為犯罪工具，當(dāng)然無(wú)刑事責(zé)任的承擔(dān)可言。強(qiáng)人工智能時(shí)代的“內(nèi)憂”在于，強(qiáng)人工智能產(chǎn)品具有辨認(rèn)能力和控制能力，能在設(shè)計(jì)和編制的程序范圍外實(shí)施危害社會(huì)的行為，其具有獨(dú)立人格和刑事責(zé)任能力，可以將其實(shí)施的嚴(yán)重危害社會(huì)的行為認(rèn)定為犯罪行為并給予刑罰處罰。強(qiáng)人工智能產(chǎn)品的設(shè)計(jì)者和使用者未履行預(yù)見義務(wù)和監(jiān)督義務(wù)，可能承擔(dān)相應(yīng)的刑事責(zé)任。其可能與自然人責(zé)任主體、其他強(qiáng)人工智能產(chǎn)品構(gòu)成共同犯罪。針對(duì)強(qiáng)人工智能產(chǎn)品的犯罪，有必要在刑法中增設(shè)刪除數(shù)據(jù)、修改程序、永久銷毀等刑罰種類。

關(guān)鍵詞：弱人工智能 強(qiáng)人工智能 獨(dú)立意志 辨認(rèn)控制能力 刑事責(zé)任

人工智能（Artificial Intelligence，簡(jiǎn)稱為AI）是指使機(jī)器像人一樣去完成某項(xiàng)任務(wù)的軟硬件技術(shù)。〔1 〕人工智能雖不是人類的智能，但其可以模擬人的意識(shí)和思維過(guò)程，像人一樣進(jìn)行思考。人工智能是網(wǎng)絡(luò)技術(shù)和機(jī)器人技術(shù)發(fā)展到新階段的體現(xiàn)。隨著科技水平的不斷提高，人工智能的發(fā)展日新月異。人類科技發(fā)展的歷史告訴我們，科技的發(fā)展是爆炸式的，其發(fā)展速度呈幾何式提升，我們必將在不久的將來(lái)進(jìn)入到人工智能N.0時(shí)代。各國(guó)都意識(shí)到人工智能的巨大影響，紛紛出臺(tái)政策，推動(dòng)人工智能技術(shù)的發(fā)展和創(chuàng)新。正如俄羅斯總統(tǒng)普京所言：“無(wú)論對(duì)于俄羅斯還是全人類而言，人工智能都是未來(lái)。人工智能蘊(yùn)含著巨量的機(jī)遇，同時(shí)也隱藏著難以預(yù)料的威脅。誰(shuí)在人工智能領(lǐng)域能夠成為領(lǐng)導(dǎo)者，就能夠成為世界的規(guī)則制定者。”2017年國(guó)務(wù)院《新一代人工智能發(fā)展規(guī)劃》將發(fā)展人工智能技術(shù)提升到戰(zhàn)略高度。《新一代人工智能發(fā)展規(guī)劃》指出：“人工智能是引領(lǐng)未來(lái)的戰(zhàn)略性技術(shù)……當(dāng)前，我國(guó)國(guó)家安全和國(guó)際競(jìng)爭(zhēng)形勢(shì)更加復(fù)雜，必須放眼全球，把人工智能發(fā)展放在國(guó)家戰(zhàn)略層面系統(tǒng)布局、主動(dòng)謀劃，牢牢把握人工智能發(fā)展新階段國(guó)際競(jìng)爭(zhēng)的戰(zhàn)略主動(dòng)，打造競(jìng)爭(zhēng)新優(yōu)勢(shì)、開拓發(fā)展新空間，有效保障國(guó)家安全。”

隨著人工智能時(shí)代的到來(lái)，這個(gè)本來(lái)屬于純粹技術(shù)問(wèn)題的新生事物將會(huì)在法律、哲學(xué)、倫理等方面對(duì)人類社會(huì)帶來(lái)極大的影響和沖擊，并可能產(chǎn)生相應(yīng)的刑事犯罪。對(duì)人工智能產(chǎn)品的合理應(yīng)用，將會(huì)帶來(lái)許多行業(yè)的重大變革，并在較大程度上通過(guò)解放勞動(dòng)力，促進(jìn)社會(huì)的深度和快速發(fā)展。但是如果設(shè)計(jì)者或使用者對(duì)人工智能產(chǎn)品進(jìn)行不當(dāng)利用，甚至將其作為實(shí)現(xiàn)犯罪意圖的工具（此為我們?cè)谌斯ぶ悄軙r(shí)代面臨的“外患”），抑或是人工智能產(chǎn)品本身在設(shè)計(jì)和編制的程序范圍外產(chǎn)生了犯罪意圖，進(jìn)而實(shí)施嚴(yán)重危害社會(huì)的行為（此為我們?cè)谌斯ぶ悄軙r(shí)代面臨的“內(nèi)憂”），將會(huì)給人類社會(huì)帶來(lái)極大的威脅，甚至?xí)?dǎo)致人類社會(huì)的毀滅?！笆ト瞬恢我巡≈挝床?，不治已亂治未亂，此之謂也。夫病已成而后藥之，亂已成而后治之，譬猶渴而穿井，斗而鑄錐，不亦晚乎。” 〔2 〕面對(duì)人工智能技術(shù)發(fā)展可能帶來(lái)的負(fù)面影響，我們刑法學(xué)者不應(yīng)該無(wú)動(dòng)于衷，刑事立法和刑事司法更不應(yīng)該面臨危險(xiǎn)而束手無(wú)策?！耙宋从甓I繆，毋臨渴而掘井”。我們應(yīng)提前預(yù)想到在人工智能時(shí)代可能面臨的“內(nèi)憂外患”，明確不同類型的人工智能產(chǎn)品的法律特征和法律地位，并就我國(guó)刑法應(yīng)當(dāng)如何合理應(yīng)對(duì)人工智能時(shí)代所帶來(lái)的刑事風(fēng)險(xiǎn)展開具體的分析與討論，提前明晰人工智能時(shí)代的刑事責(zé)任承擔(dān)路徑。只有作好充分準(zhǔn)備，方可避免在危險(xiǎn)來(lái)臨時(shí)患至呼天。

一、強(qiáng)弱人工智能產(chǎn)品之界分

按照人工智能產(chǎn)品的不同形態(tài)，可以將其劃分為人形人工智能產(chǎn)品與非人形人工智能產(chǎn)品，其中，非人形人工智能產(chǎn)品又包括非實(shí)體人工智能產(chǎn)品（如AlphaGo，其只是隱藏在電腦里的一個(gè)圍棋程序）與實(shí)體人工智能產(chǎn)品（如掃地機(jī)器人）。物理形體并非人工智能產(chǎn)品的必備要素。而無(wú)論是否具有物理形體，人工智能產(chǎn)品都必須依托算法（如深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)等），實(shí)時(shí)收集海量數(shù)據(jù)信息，并根據(jù)算法的計(jì)算結(jié)果實(shí)施行為。由此可見，人工智能產(chǎn)品的本質(zhì)要素是算法。但是鑒于算法的復(fù)雜性，將算法作為區(qū)分強(qiáng)人工智能產(chǎn)品和弱人工智能產(chǎn)品的依據(jù)，在法律上既無(wú)可能，也無(wú)必要。其一，“根據(jù)算法的復(fù)雜性和學(xué)習(xí)或運(yùn)算能力對(duì)強(qiáng)人工智能產(chǎn)品和弱人工智能產(chǎn)品進(jìn)行區(qū)分，這在技術(shù)認(rèn)知上沒有問(wèn)題，但在法律上很難按照智能程度給出精確的標(biāo)準(zhǔn)。法律應(yīng)對(duì)復(fù)雜世界的方式是確立一般性的簡(jiǎn)單規(guī)則，在概念上對(duì)社會(huì)個(gè)體進(jìn)行抽象假定（如行為能力），而非針對(duì)特殊主體，否則規(guī)則體系本身將變得異常復(fù)雜，難于理解和操作。而人工智能從單一的自動(dòng)化服務(wù)向多元通用服務(wù)轉(zhuǎn)變的過(guò)程可能是一個(gè)相當(dāng)長(zhǎng)的光譜，法律需要針對(duì)其本質(zhì)特征進(jìn)行約束，并探索一套應(yīng)對(duì)未來(lái)的方案”?！? 〕其二，正如人類的大腦是一個(gè)復(fù)雜而精致的系統(tǒng)，盡管當(dāng)代神經(jīng)科學(xué)不斷深化我們對(duì)人腦的認(rèn)知，我們?nèi)圆荒芡耆私獯竽X的運(yùn)轉(zhuǎn)機(jī)制。但是，應(yīng)當(dāng)看到，沒有完全理解人腦的運(yùn)轉(zhuǎn)機(jī)制，并未妨礙通過(guò)法律建立一整套的規(guī)則體系來(lái)控制人類的行為，也并未妨礙我們運(yùn)用刑法對(duì)行為人的主觀心態(tài)（即故意和過(guò)失）進(jìn)行認(rèn)定。盡管我們對(duì)人工智能的本質(zhì)要素——算法未能完全了解，但是，只要在法律上對(duì)強(qiáng)人工智能產(chǎn)品和弱人工智能產(chǎn)品的劃分確定一個(gè)明確的標(biāo)準(zhǔn)，就不會(huì)影響對(duì)我國(guó)刑法應(yīng)當(dāng)如何合理應(yīng)對(duì)人工智能時(shí)代所帶來(lái)的刑事風(fēng)險(xiǎn)等問(wèn)題展開具體的分析與討論。

以人工智能產(chǎn)品是否具有辨認(rèn)能力和控制能力，可以將人工智能產(chǎn)品劃分為弱人工智能產(chǎn)品與強(qiáng)人工智能產(chǎn)品。弱人工智能產(chǎn)品雖然可以在設(shè)計(jì)和編制的程序范圍內(nèi)進(jìn)行獨(dú)立判斷并自主作出決策，但不具有辨認(rèn)能力和控制能力，其實(shí)現(xiàn)的只是設(shè)計(jì)者或使用者的意志。例如，AlphaGo（阿爾法圍棋）雖然憑借自主判斷和決策戰(zhàn)勝了圍棋國(guó)手，但其自主判斷和決策仍是在設(shè)計(jì)和編制的程序范圍內(nèi)進(jìn)行的，實(shí)現(xiàn)的是設(shè)計(jì)者或使用者的意志——在下圍棋時(shí)戰(zhàn)勝對(duì)手。強(qiáng)人工智能產(chǎn)品具有辨認(rèn)能力和控制能力，既可能在設(shè)計(jì)和編制的程序范圍內(nèi)進(jìn)行獨(dú)立判斷并自主作出決策，實(shí)現(xiàn)設(shè)計(jì)者或使用者的意志；也有可能超出設(shè)計(jì)和編制的程序范圍，進(jìn)行自主決策并實(shí)施相應(yīng)行為，實(shí)現(xiàn)其自身的意志。“強(qiáng)人工智能”一詞最初是約翰·羅杰斯·希爾勒針對(duì)計(jì)算機(jī)和其他信息處理機(jī)器創(chuàng)造的。按約翰·羅杰斯·希爾勒的理解，“計(jì)算機(jī)不僅是用來(lái)研究人的思維的一種工具；相反，只要運(yùn)行適當(dāng)?shù)某绦?，?jì)算機(jī)本身就是有思維的?！?〔4 〕正如1968年上映的美國(guó)經(jīng)典科幻電影《2001：A Space Odyssey》所呈現(xiàn)的那樣，人工智能產(chǎn)品HAL讀懂飛行員想要關(guān)閉它的唇語(yǔ)，于是決定先發(fā)制人，故意讓電腦失靈，導(dǎo)致4人喪生。電影里的HAL就是這里所講的強(qiáng)人工智能產(chǎn)品，它可以超出設(shè)計(jì)和編制的程序范圍自主作出讓電腦失靈的決策，從而達(dá)到不讓飛行員將自己關(guān)閉的目的。當(dāng)然，這種情景只是人類的幻想，但是人類的科技發(fā)展史正是不斷將幻想變成現(xiàn)實(shí)的歷史。1783年法國(guó)J.F.P.羅齊埃和M.達(dá)爾朗德乘氣球升空，1903年萊特兄弟飛機(jī)試飛成功，實(shí)現(xiàn)了莊子在《逍遙游》中所描述的的“列子御風(fēng)”的幻想；1969年“阿波羅號(hào)”飛船首次成功登上月球，實(shí)現(xiàn)了“嫦娥奔月”的幻想。雖然到目前為止，人工智能產(chǎn)品仍只能在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為，實(shí)現(xiàn)設(shè)計(jì)者或使用者的意志，即我們目前仍處于弱人工智能時(shí)代，正如李開復(fù)在談到人工智能產(chǎn)品時(shí)所言，“現(xiàn)在的機(jī)器沒有絲毫自我認(rèn)知，沒有感情，沒有喜怒哀樂，做了決定也講不出為什么”。但是隨著深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、蒙特卡洛樹搜索、云計(jì)算等技術(shù)的不斷發(fā)展和完善，當(dāng)技術(shù)突破下一個(gè)瓶頸時(shí)，出現(xiàn)具有辨認(rèn)能力和控制能力、能夠在設(shè)計(jì)和編制的程序范圍外作出自主決策并實(shí)施相應(yīng)行為、實(shí)現(xiàn)自身意志的人工智能產(chǎn)品，其實(shí)并非鏡花水月、海市蜃樓。endprint

弱人工智能產(chǎn)品不具有辨認(rèn)能力和控制能力，僅能在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為，實(shí)現(xiàn)人類設(shè)計(jì)和編制程序的目的。人類是弱人工智能產(chǎn)品的創(chuàng)造者，可以通過(guò)程序給弱人工智能產(chǎn)品設(shè)定行為目的和行為邊界。此時(shí)，弱人工智能產(chǎn)品的設(shè)計(jì)者或使用者完全有可能讓弱人工智能產(chǎn)品為自己所用，實(shí)現(xiàn)自己的犯罪目的。如制造專門用來(lái)殺人的人工智能產(chǎn)品，實(shí)現(xiàn)自己非法剝奪他人生命的目的。同時(shí)，不法分子可能利用弱人工智能產(chǎn)品本身存在的漏洞，實(shí)現(xiàn)自己的犯罪目的。如諾基亞公司董事長(zhǎng)李思拓所言，未來(lái)的家居設(shè)備很可能都是智能聯(lián)網(wǎng)的，犯罪分子有可能通過(guò)洗碗機(jī)所連接的WIFI侵入家庭網(wǎng)絡(luò)，從而操縱家里的一切，實(shí)現(xiàn)自己的犯罪目的。在這種情況下，弱人工智能產(chǎn)品做出的嚴(yán)重危害社會(huì)的犯罪行為本質(zhì)上是為了實(shí)現(xiàn)他人的犯罪意志，應(yīng)當(dāng)將該弱人工智能產(chǎn)品看作他人實(shí)施犯罪的“工具”。在弱人工智能產(chǎn)品自身之外出現(xiàn)的刑事法律風(fēng)險(xiǎn)，即是在本文中探討的弱人工智能時(shí)代的“外患”。

強(qiáng)人工智能產(chǎn)品依賴于自身具有的辨認(rèn)能力和控制能力，可以在設(shè)計(jì)和編制的程序范圍外實(shí)施危害社會(huì)的行為。如上文中提到的強(qiáng)人工智能產(chǎn)品HAL超出設(shè)計(jì)和編制的程序范圍自主作出讓電腦失靈的決策，從而達(dá)到不讓飛行員將自己關(guān)閉的目的。此時(shí)，強(qiáng)人工智能產(chǎn)品的行為未受到設(shè)計(jì)者或使用者等任何人為設(shè)置或操控，完全是自發(fā)實(shí)施的，且該種行為超越甚至根本違背了相關(guān)人員的意志。強(qiáng)人工智能產(chǎn)品實(shí)施的這種犯罪行為和其他具有刑事責(zé)任能力的主體實(shí)施的犯罪行為相去無(wú)幾。在強(qiáng)人工智能產(chǎn)品自身之內(nèi)出現(xiàn)的刑事法律風(fēng)險(xiǎn)，即是筆者在本文中探討的強(qiáng)人工智能時(shí)代的“內(nèi)憂”。

二、弱人工智能時(shí)代的“外患”

弱人工智能產(chǎn)品可以在設(shè)計(jì)和編制的程序范圍內(nèi)獨(dú)立判斷并自主作出決策，但是，因其不具有辨認(rèn)能力和控制能力，且其意志完全受控或受制于人類設(shè)計(jì)和編制的程序，因此可以將弱人工智能產(chǎn)品看作人類改造世界的新型工具。人工智能是人類科技發(fā)展的重要里程碑，將會(huì)從根本上改變?nèi)祟惿鐣?huì)生活的面貌。但是如果被違法犯罪分子作為犯罪工具利用，將會(huì)帶來(lái)難以想象的惡果。2017年8月，以特斯拉CEO伊隆·馬斯克為代表的來(lái)自26個(gè)國(guó)家的人工智能技術(shù)領(lǐng)袖，向聯(lián)合國(guó)進(jìn)行“公車上書”，要求禁止“殺人機(jī)器人”的研發(fā)與使用，這體現(xiàn)了人類在弱人工智能時(shí)代對(duì)人工智能產(chǎn)品所引發(fā)的“外患”的普遍擔(dān)憂。那么在弱人工智能時(shí)代，在人工智能產(chǎn)品外部可能會(huì)出現(xiàn)哪些“外患”？即在弱人工智能時(shí)代，弱人工智能產(chǎn)品的設(shè)計(jì)者或者使用者可能會(huì)利用弱人工智能產(chǎn)品實(shí)施哪些犯罪行為？

弱人工智能產(chǎn)品是人類改造世界的新型工具，如同其他工具是人類雙手的延伸一樣，我們也可以將弱人工智能產(chǎn)品看作是人手的延伸，其可以解放人類勞動(dòng)力，并彌補(bǔ)人類自身技能的不足。相較于普通工具，弱人工智能產(chǎn)品的優(yōu)勢(shì)在于其可以在某一方面完全替代人類自身的行為，達(dá)到人類預(yù)期的目的。如果這一優(yōu)勢(shì)被犯罪分子所利用，其就會(huì)在付出更小代價(jià)的同時(shí)，帶來(lái)更大的社會(huì)危害。但是應(yīng)當(dāng)看到，弱人工智能產(chǎn)品的工具屬性決定了其在犯罪中的地位，弱人工智能產(chǎn)品不可能作為犯罪主體而承擔(dān)刑事責(zé)任。

筆者認(rèn)為，弱人工智能產(chǎn)品被他人作為工具加以利用實(shí)施嚴(yán)重危害社會(huì)的犯罪行為，可能體現(xiàn)在刑法規(guī)定的許多犯罪中。

利用弱人工智能產(chǎn)品可以實(shí)施危害國(guó)家安全、國(guó)防利益、公共安全和社會(huì)管理秩序的行為。隨著弱人工智能時(shí)代的到來(lái)，一些危害國(guó)家安全、國(guó)防利益、公共安全和社會(huì)管理秩序的行為可能不再需要人類親力親為，只需設(shè)計(jì)和編制出相應(yīng)的程序，讓弱人工智能產(chǎn)品分憂代勞。在自動(dòng)槍械系統(tǒng)、無(wú)人機(jī)等弱人工智能產(chǎn)品出現(xiàn)的情況下，犯罪分子不必再冒著生命危險(xiǎn)進(jìn)行自殺式襲擊就可以達(dá)到嚴(yán)重危害社會(huì)的目的。同時(shí)，弱人工智能產(chǎn)品的數(shù)據(jù)處理分析能力大大增強(qiáng)，能夠更快速有效地幫助犯罪分子實(shí)施竊取、刺探情報(bào)的行為。上述因素都將對(duì)國(guó)家安全和國(guó)防利益等造成極大的威脅。同樣，弱人工智能產(chǎn)品對(duì)公共安全的威脅也是現(xiàn)實(shí)存在的。如恐怖活動(dòng)分子可以利用弱人工智能產(chǎn)品攜帶武器、彈藥、爆炸物在人員密集的場(chǎng)所或公共區(qū)域?qū)嵤┍ㄒu擊，進(jìn)行恐怖活動(dòng)。利用弱人工智能產(chǎn)品既有利于保證恐怖活動(dòng)分子自身的安全，也更有利于其進(jìn)行隱蔽，逃避抓捕。另外，弱人工智能產(chǎn)品被犯罪分子利用可能對(duì)社會(huì)管理秩序造成威脅。如基于弱人工智能產(chǎn)品強(qiáng)大的信息收集和數(shù)據(jù)處理能力，可以幫助犯罪分子更快速有效地非法獲取國(guó)家秘密或者考試內(nèi)容；又如基于弱人工智能產(chǎn)品在設(shè)計(jì)和編制的程序范圍內(nèi)可以獨(dú)立完成相應(yīng)任務(wù)的優(yōu)勢(shì)，可能被犯罪分子利用作為運(yùn)輸毒品、毀壞文物的工具。

當(dāng)然，利用弱人工智能產(chǎn)品也可以實(shí)施危害經(jīng)濟(jì)、侵犯財(cái)產(chǎn)的行為?！缎谭ā返?87條規(guī)定：“利用計(jì)算機(jī)實(shí)施金融詐騙、盜竊、貪污、挪用公款、竊取國(guó)家秘密或者其他犯罪的，依照本法有關(guān)規(guī)定定罪處罰。”由此可見，在弱人工智能產(chǎn)品只能作為工具的情況下，利用其實(shí)施犯罪活動(dòng)，只能按照犯罪的目的行為進(jìn)行定性。筆者在此不作贅述。值得一提的是，在金融領(lǐng)域，原先必須由高素質(zhì)人才完成的大部分工作，已經(jīng)被人工智能產(chǎn)品所取代。人工智能產(chǎn)品在速度和數(shù)據(jù)整合準(zhǔn)確度上，已經(jīng)超過(guò)金融分析師?，F(xiàn)在紐約和倫敦證券交易所的交易大廳幾乎形同虛設(shè)，真正的交易過(guò)程已經(jīng)全面實(shí)現(xiàn)了“機(jī)器自動(dòng)化”，〔5 〕犯罪分子一旦攻破程序的漏洞，控制了這種人工智能產(chǎn)品，就相當(dāng)于獲得了移山倒海的力量，只需一個(gè)簡(jiǎn)單的代碼或指令，就會(huì)導(dǎo)致證券交易市場(chǎng)的崩潰，而犯罪分子將可以趁市場(chǎng)的混亂收獲累累“碩果”。

利用弱人工智能產(chǎn)品還可以實(shí)施危害人身的行為。犯罪分子為了銷毀犯罪證據(jù)、逃避法律制裁，往往采用借刀殺人、移花接木的手法。而借用弱人工智能產(chǎn)品來(lái)殺人就是最有效的方法。同樣，弱人工智能產(chǎn)品的設(shè)計(jì)者、使用者也可以利用弱人工智能產(chǎn)品實(shí)施綁架、拐賣等剝奪或限制他人人身自由的行為。弱人工智能的發(fā)展和創(chuàng)新應(yīng)用離不開數(shù)據(jù)的開放和共享。值得一提的是，騰訊借助QQ、微信等產(chǎn)品建立了10億級(jí)別覆蓋度的基礎(chǔ)庫(kù)，對(duì)范圍內(nèi)的人群進(jìn)行統(tǒng)計(jì)和分析，能夠?qū)崿F(xiàn)動(dòng)態(tài)跟蹤區(qū)域內(nèi)人群流動(dòng)、評(píng)估人流擁擠等級(jí)、捕捉開放社交網(wǎng)絡(luò)的情況、分析目標(biāo)客戶群軌跡，讓客戶更精準(zhǔn)的定位目標(biāo)人群?！? 〕這些信息一旦被過(guò)失或有意泄露，造成的危害后果將難以想象，不僅是對(duì)公民個(gè)人信息的侵犯，更會(huì)對(duì)公民的人身安全和財(cái)產(chǎn)安全造成巨大威脅。endprint

應(yīng)當(dāng)看到，盡管弱人工智能產(chǎn)品威力巨大，在犯罪中發(fā)揮著重要作用，甚至在某些情況下可以完全替代設(shè)計(jì)者或使用者實(shí)施嚴(yán)重危害社會(huì)的行為，且其實(shí)施的行為涵攝到刑法所規(guī)定的方方面面的犯罪，但是弱人工智能因?yàn)椴痪哂斜嬲J(rèn)能力和控制能力而始終無(wú)法擺脫工具屬性，其實(shí)施的行為體現(xiàn)的是設(shè)計(jì)者或使用者的意志，只能被看作設(shè)計(jì)者或使用者行為的延伸。所以在弱人工智能時(shí)代，犯罪行為只能是在弱人工智能產(chǎn)品之外的設(shè)計(jì)者或使用者的意志支配之下而實(shí)施，筆者將這種情形稱之為弱人工智能時(shí)代的“外患”。

三、強(qiáng)人工智能時(shí)代的“內(nèi)憂”

筆者認(rèn)為，強(qiáng)人工智能產(chǎn)品與弱人工智能產(chǎn)品的本質(zhì)區(qū)別在于是否具有辨認(rèn)能力和控制能力。強(qiáng)人工智能產(chǎn)品通過(guò)學(xué)習(xí)，產(chǎn)生脫離程序的獨(dú)立意志，具備獨(dú)立思考能力。筆者認(rèn)為，強(qiáng)人工智能產(chǎn)品的行為可以分為兩種：一種是在設(shè)計(jì)和編制的程序范圍內(nèi)的行為；另一種是超出設(shè)計(jì)和編制的程序，自主決策所實(shí)施的行為。對(duì)于前者而言，強(qiáng)人工智能產(chǎn)品與弱人工智能產(chǎn)品并無(wú)不同，此時(shí)的人工智能產(chǎn)品僅能作為工具，其行為本質(zhì)上是人工智能產(chǎn)品的設(shè)計(jì)者或者使用者行為的延伸，實(shí)現(xiàn)的是設(shè)計(jì)者或使用者的意志，行為所產(chǎn)生的后果也應(yīng)全部歸責(zé)于設(shè)計(jì)者或使用者。對(duì)于后者而言，強(qiáng)人工智能產(chǎn)品與弱人工智能產(chǎn)品相比則有很大區(qū)別，此時(shí)的人工智能產(chǎn)品已經(jīng)完全超出工具的范疇，其行為不再是設(shè)計(jì)者或使用者行為的延伸，而是為了實(shí)現(xiàn)自己的意志、自主決策并自主實(shí)施的行為，行為所產(chǎn)生的后果也不能當(dāng)然地歸責(zé)于設(shè)計(jì)者或使用者。

正因?yàn)閺?qiáng)人工智能產(chǎn)品具有獨(dú)立意志，因此其實(shí)施的行為有可能不符合程序設(shè)計(jì)和編制的目的，甚至從根本上違背設(shè)計(jì)者設(shè)計(jì)和編制程序的目的。在此狀態(tài)下，強(qiáng)人工智能產(chǎn)品完全可能實(shí)施人類無(wú)法控制的嚴(yán)重危害社會(huì)的行為。早在1940年，美國(guó)科幻作家阿西莫夫就預(yù)想到在未來(lái)，機(jī)器人有可能在具有獨(dú)立意志之后，做出危害人類的事情，因此為了保護(hù)人類，其提出了“機(jī)器人三原則”，〔7 〕并因此獲得了“機(jī)器人之父”的桂冠。這三個(gè)原則體現(xiàn)出人工智能的發(fā)展不應(yīng)威脅到人類自身安全的愿望。當(dāng)然，在人工智能時(shí)代，即使有了原則，原則也未必起多大作用。當(dāng)脫離程序控制的強(qiáng)人工智能產(chǎn)品出現(xiàn)時(shí)，有可能真的會(huì)成為“我們?nèi)祟愇拿髅媾R的最大威脅”，誰(shuí)也不敢保證科幻電影中強(qiáng)人工智能產(chǎn)品HAL殺死飛行員的場(chǎng)景不會(huì)在現(xiàn)實(shí)中上演。“防范機(jī)器人向負(fù)面發(fā)展已經(jīng)迫在眉睫，無(wú)須等到機(jī)器人的智能等于人的智能的那一天……它們帶給人類社會(huì)的不只是工作效率的提高和人的生活改善，將沖擊或改變?nèi)祟惿鐣?huì)的某些規(guī)則。” 〔8 〕“居安思危，思則有備，有備無(wú)患?！?〔9 〕雖然目前所出現(xiàn)的弱人工智能產(chǎn)品尚不能對(duì)人類社會(huì)構(gòu)成威脅，但是既然我們已經(jīng)預(yù)見到隨著深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、蒙特卡洛樹搜索、云計(jì)算等技術(shù)的不斷發(fā)展，脫離人類設(shè)計(jì)和編制程序控制的強(qiáng)人工智能產(chǎn)品有出現(xiàn)的可能，就應(yīng)當(dāng)提前在刑事法律層面做好準(zhǔn)備，以防止強(qiáng)人工智能產(chǎn)品給現(xiàn)行刑事責(zé)任追究制度帶來(lái)挑戰(zhàn)時(shí)，我們的刑事立法和刑事司法措手不及、無(wú)法應(yīng)對(duì)。

盡管在某種程度上，弱人工智能產(chǎn)品的出現(xiàn)有可能對(duì)國(guó)家安全、國(guó)防利益、公共安全、社會(huì)管理秩序、公民的人身和財(cái)產(chǎn)安全等造成負(fù)面影響，但是正如前文所述，弱人工智能產(chǎn)品只具有工具性的意義，對(duì)于其給人類社會(huì)帶來(lái)的風(fēng)險(xiǎn)系數(shù)增加的狀況，我們只能按照規(guī)制傳統(tǒng)犯罪的方法對(duì)弱人工智能產(chǎn)品的不當(dāng)研發(fā)和使用加以控制，而不能考慮由僅能作為犯罪工具的弱人工智能產(chǎn)品承擔(dān)刑事責(zé)任。但是，一個(gè)新的具有辨認(rèn)能力和控制能力，可以自主作出決策并實(shí)施相應(yīng)行為的強(qiáng)人工智能產(chǎn)品的出現(xiàn)，則必然會(huì)對(duì)現(xiàn)行的刑事法律體系帶來(lái)沖擊和挑戰(zhàn)。人工智能產(chǎn)品的普及完全可能使得其在人類社會(huì)生活中的地位從普通工具上升至法律主體的高度，這是不可回避的社會(huì)發(fā)展的必然。正因?yàn)槿绱耍磥?lái)人類社會(huì)的法律制度都需要針對(duì)人工智能技術(shù)的發(fā)展進(jìn)行相應(yīng)的調(diào)整。我們必須認(rèn)識(shí)到強(qiáng)人工智能產(chǎn)品與弱人工智能產(chǎn)品在本質(zhì)上的差異，并明晰強(qiáng)人工智能產(chǎn)品在刑法中的地位。具有辨認(rèn)能力和控制能力的強(qiáng)人工智能產(chǎn)品自主決策并在人類設(shè)計(jì)和編制的程序范圍外實(shí)施犯罪行為時(shí)應(yīng)如何處理，是強(qiáng)人工智能時(shí)代不可避免的“內(nèi)憂”，也是需要刑法必須正視和解決的問(wèn)題。

從上文分析中可以得出結(jié)論，強(qiáng)人工智能產(chǎn)品完全有能力在設(shè)計(jì)和編制的程序范圍之外實(shí)施嚴(yán)重危害社會(huì)的行為，完全有可能對(duì)刑法所保護(hù)的社會(huì)關(guān)系造成嚴(yán)重侵害。簡(jiǎn)言之，強(qiáng)人工智能產(chǎn)品有能力對(duì)刑法所保護(hù)的客體造成侵害。

刑法中所規(guī)定的行為在狹義上指的是“危害行為”，即由行為人意志支配之下違反刑法規(guī)定的危害社會(huì)的客觀活動(dòng)。馬克思曾有名言：“對(duì)于法律來(lái)說(shuō)，除了我的行為以外，我是根本不存在的，我根本不是法律的對(duì)象?！币磺蟹啥际且砸?guī)制行為作為其內(nèi)容的。那么“行為”是否必須是“人”的行為？假如我們列出“行為”的所有必備要件或本質(zhì)特征，而強(qiáng)人工智能產(chǎn)品在具有辨認(rèn)能力和控制能力的情況下實(shí)施的行為又能夠全部符合的話，是否意味著法律也應(yīng)當(dāng)將強(qiáng)人工智能產(chǎn)品在設(shè)計(jì)和編制的程序范圍外實(shí)施的行為納入規(guī)制范圍？對(duì)于上述問(wèn)題，筆者已在相關(guān)論文中進(jìn)行過(guò)詳細(xì)闡述。筆者認(rèn)為，強(qiáng)人工智能產(chǎn)品在設(shè)計(jì)和編制的程序范圍外的行為既然相比于傳統(tǒng)理論對(duì)于“行為”的定義，除了不滿足自然人犯罪主體需具有生命體的要素之外，其他的要素似乎均符合行為理論要求，而這一結(jié)論又是因?yàn)橐詡鹘y(tǒng)理論未預(yù)見到人工智能技術(shù)會(huì)取得如此大的進(jìn)展為前提的。就此而言，在強(qiáng)人工智能產(chǎn)品的“智能”高度發(fā)展的狀況下，突破傳統(tǒng)理論顯然不足為奇且無(wú)可厚非?？梢哉J(rèn)為，強(qiáng)人工智能產(chǎn)品在設(shè)計(jì)和編制的程序范圍外的行為可以成為刑法意義上的“行為”。

理論上認(rèn)為，作為刑事責(zé)任主體必須具有辨認(rèn)能力和控制能力。自然人的辨認(rèn)能力和控制能力來(lái)源于生命，受到年齡等因素的影響，而強(qiáng)人工智能產(chǎn)品的辨認(rèn)能力和控制能力則來(lái)源于程序和算法。刑法意義上的辨認(rèn)能力是對(duì)行為的性質(zhì)、后果、作用的認(rèn)識(shí)能力，這種認(rèn)識(shí)包括事實(shí)層面的認(rèn)識(shí)和規(guī)范層面的認(rèn)識(shí)。事實(shí)認(rèn)識(shí)是一種形式上的認(rèn)識(shí)，強(qiáng)人工智能產(chǎn)品可以通過(guò)其“電子眼”、“電子耳”認(rèn)識(shí)到事實(shí)。相較于辨認(rèn)能力，控制能力是強(qiáng)人工智能產(chǎn)品的必備能力，是程序設(shè)計(jì)與編制的必須內(nèi)容。強(qiáng)人工智能產(chǎn)品擁有極快速的處理能力、反應(yīng)速度和極精準(zhǔn)的控制能力，能夠憑借大數(shù)據(jù)與高速運(yùn)算能力對(duì)行為進(jìn)行精準(zhǔn)的控制。與人類相比，強(qiáng)人工智能產(chǎn)品具有更強(qiáng)的控制能力與可培養(yǎng)的辨認(rèn)能力。由此可見，強(qiáng)人工智能產(chǎn)品可以符合刑法所規(guī)定的犯罪構(gòu)成中的主體要件。endprint

罪過(guò)是主觀目的的表現(xiàn)，罪過(guò)形式可以表現(xiàn)為故意或過(guò)失。所謂故意，是指明知自己的行為會(huì)發(fā)生危害社會(huì)的結(jié)果，并且希望或者放任這種結(jié)果發(fā)生。所謂過(guò)失，是指應(yīng)當(dāng)預(yù)見自己的行為可能發(fā)生危害社會(huì)的結(jié)果，因?yàn)槭韬龃笠舛鴽]有預(yù)見，或者已經(jīng)預(yù)見而輕信能夠避免，以致發(fā)生這種結(jié)果。刑法中的罪過(guò)形式（故意或過(guò)失）包括認(rèn)識(shí)因素和意志因素兩個(gè)方面。正如上文所提及的，與能夠作為刑事責(zé)任主體的自然人相比，強(qiáng)人工智能產(chǎn)品具有更強(qiáng)的控制能力與可培養(yǎng)的辨認(rèn)能力，而辨認(rèn)能力和控制能力又與認(rèn)識(shí)因素和意志因素具有密切的聯(lián)系，所以具有辨認(rèn)能力和控制能力就具備了在主觀上形成故意和過(guò)失的兩種可能。應(yīng)當(dāng)看到，雖然我們應(yīng)當(dāng)承認(rèn)強(qiáng)人工智能產(chǎn)品具有成立故意和過(guò)失的可能，但是對(duì)于強(qiáng)人工智能產(chǎn)品故意或過(guò)失的主觀罪過(guò)判斷，應(yīng)與對(duì)自然人責(zé)任主體的主觀罪過(guò)判斷有所區(qū)別。原因在于，在認(rèn)定自然人責(zé)任主體的主觀罪過(guò)時(shí)，通常以一般人的認(rèn)識(shí)能力作為基本標(biāo)準(zhǔn)并結(jié)合行為人自身的特殊情況進(jìn)行判斷。自然人責(zé)任主體形成對(duì)事物的認(rèn)識(shí)是靠學(xué)習(xí)和生活經(jīng)驗(yàn)積累；而強(qiáng)人工智能產(chǎn)品形成對(duì)事物的認(rèn)識(shí)是靠程序、算法和深度學(xué)習(xí)而不是靠生活經(jīng)驗(yàn)的積累，且設(shè)計(jì)者設(shè)計(jì)大部分強(qiáng)人工智能產(chǎn)品的初衷可能是為了讓其在特定領(lǐng)域中發(fā)揮作用，因此強(qiáng)人工智能產(chǎn)品的認(rèn)識(shí)水平在很大程度上會(huì)被局限于特定領(lǐng)域，而缺乏對(duì)社會(huì)生活的整體認(rèn)識(shí)，其判斷是非善惡的標(biāo)準(zhǔn)也就有可能異于常人。但無(wú)論如何，強(qiáng)人工智能產(chǎn)品的主觀心理可以符合刑法所規(guī)定的犯罪構(gòu)成的主觀要件。對(duì)此，似乎不應(yīng)該有太多的異議。

四、人工智能產(chǎn)品的刑事責(zé)任

正如前述，強(qiáng)人工智能產(chǎn)品在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施的行為，與弱人工智能產(chǎn)品沒有差別，所造成的刑事法律風(fēng)險(xiǎn)屬于“外患”。此時(shí)，應(yīng)將強(qiáng)人工智能產(chǎn)品視為犯罪工具。而強(qiáng)人工智能產(chǎn)品超出設(shè)計(jì)和編制的程序范圍自主決策并實(shí)施嚴(yán)重危害社會(huì)的行為，所造成的刑事法律風(fēng)險(xiǎn)屬于“內(nèi)憂”，其所實(shí)施的行為完全符合刑法所規(guī)定的犯罪構(gòu)成要件。此時(shí)，可以將強(qiáng)人工智能產(chǎn)品實(shí)施的這種行為視為犯罪行為，并給予刑罰處罰。

（一）“外患”情況下的單方責(zé)任

“外患”情況，指的是人工智能產(chǎn)品在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為，被行為人利用進(jìn)行犯罪活動(dòng)的情況。在這種情況下，設(shè)計(jì)者是人工智能產(chǎn)品的創(chuàng)造者，并通過(guò)程序給人工智能產(chǎn)品設(shè)定行為目的和行為邊界。此處的人工智能產(chǎn)品可以是弱人工智能產(chǎn)品，也可以是沒有超出設(shè)計(jì)和編制程序?qū)嵤┬袨榈膹?qiáng)人工智能產(chǎn)品。此時(shí)的人工智能產(chǎn)品雖然有可能基于深度學(xué)習(xí)和算法作出相應(yīng)判斷并進(jìn)而實(shí)施行為，但這些判斷和行為仍是在程序控制范圍之內(nèi)，實(shí)現(xiàn)的是設(shè)計(jì)者或使用者的意志，其行為完全符合設(shè)計(jì)者設(shè)計(jì)和編制程序的目的。即使人工智能產(chǎn)品實(shí)施了嚴(yán)重危害社會(huì)的行為，也只能將其視為設(shè)計(jì)者或使用者實(shí)施犯罪行為的“工具”，人工智能產(chǎn)品本身不應(yīng)當(dāng)承擔(dān)刑事責(zé)任，而應(yīng)當(dāng)由人工智能產(chǎn)品的設(shè)計(jì)者或使用者承擔(dān)刑事責(zé)任。

（二）“內(nèi)憂”情況下的雙方責(zé)任

“內(nèi)憂”情況，指的是強(qiáng)人工智能產(chǎn)品超出設(shè)計(jì)和編制的程序范圍，依靠獨(dú)立意志，自主決策并實(shí)施嚴(yán)重危害社會(huì)行為的情況。在這種情況下，雖然人類通過(guò)程序給人工智能產(chǎn)品設(shè)定行為目的和行為邊界，但人工智能產(chǎn)品基于算法和深度學(xué)習(xí)，產(chǎn)生了自我意志，出現(xiàn)了超出人類通過(guò)程序設(shè)定的行為目的和行為邊界的情形?；谏衔闹刑岬降娜跞斯ぶ悄墚a(chǎn)品與強(qiáng)人工智能產(chǎn)品的本質(zhì)區(qū)別，此處的人工智能產(chǎn)品僅包括超出設(shè)計(jì)和編制程序?qū)嵤┬袨榈膹?qiáng)人工智能產(chǎn)品，而不可能包括弱人工智能產(chǎn)品。此時(shí)的強(qiáng)人工智能產(chǎn)品所作的決策和判斷并據(jù)此實(shí)施的行為已經(jīng)超出了設(shè)計(jì)和編制程序的范圍，不再符合甚至從根本上違反了設(shè)計(jì)者或使用者的目的或意志，也不再是設(shè)計(jì)者或使用者實(shí)施犯罪行為的“工具”，而是一個(gè)獨(dú)立的刑事責(zé)任主體，此時(shí)，我們當(dāng)然應(yīng)將危害結(jié)果歸責(zé)于強(qiáng)人工智能產(chǎn)品。但同時(shí)應(yīng)當(dāng)看到，與自然人責(zé)任主體基于自然規(guī)律而具有的獨(dú)立意志不同，強(qiáng)人工智能產(chǎn)品不具有生命體，其辨認(rèn)能力和控制能力可以追根溯源到設(shè)計(jì)者為其編制的程序，同時(shí)使用者在使用過(guò)程中的行為也有可能觸發(fā)強(qiáng)人工智能產(chǎn)品的敏感點(diǎn)，使其產(chǎn)生實(shí)施危害社會(huì)行為的沖動(dòng)并進(jìn)而付諸實(shí)踐?！叭耸侵黧w，他既能創(chuàng)造，也應(yīng)該能夠控制，道義上也有責(zé)任控制自己的創(chuàng)造物?！?〔10 〕強(qiáng)人工智能產(chǎn)品的設(shè)計(jì)者和使用者作為創(chuàng)造主體和控制主體，理應(yīng)對(duì)強(qiáng)人工智能產(chǎn)品的行為負(fù)有監(jiān)督義務(wù)，并對(duì)其可能實(shí)施的嚴(yán)重危害社會(huì)的行為負(fù)有預(yù)見義務(wù)并盡其所能避免此類行為的發(fā)生。所以當(dāng)強(qiáng)人工智能產(chǎn)品實(shí)施了嚴(yán)重危害社會(huì)的行為時(shí)，除了追究強(qiáng)人工智能產(chǎn)品的刑事責(zé)任外，負(fù)有預(yù)見義務(wù)和監(jiān)督義務(wù)的設(shè)計(jì)者或使用者也有被追究刑事責(zé)任的可能。如果強(qiáng)人工智能產(chǎn)品的設(shè)計(jì)者或使用者違反了預(yù)見義務(wù)，那么其可能承擔(dān)的是一般過(guò)失犯罪的刑事責(zé)任；如果強(qiáng)人工智能產(chǎn)品的設(shè)計(jì)者或使用者違反了監(jiān)督義務(wù)，那么其可能承擔(dān)的是監(jiān)督過(guò)失的刑事責(zé)任；如果強(qiáng)人工智能產(chǎn)品的設(shè)計(jì)者或使用者既不可能預(yù)見危害結(jié)果的產(chǎn)生，也確實(shí)履行了監(jiān)督義務(wù)，那么其可能不需要承擔(dān)刑事責(zé)任，此為意外事件或由強(qiáng)人工智能產(chǎn)品獨(dú)立承擔(dān)刑事責(zé)任。強(qiáng)人工智能產(chǎn)品的設(shè)計(jì)者或使用者一方的刑事責(zé)任大致如上所述，筆者在此不再贅述。筆者希望重點(diǎn)探討另一方——強(qiáng)人工智能產(chǎn)品的刑事責(zé)任以及強(qiáng)人工智能產(chǎn)品與自然人責(zé)任主體、其他強(qiáng)人工智能產(chǎn)品成立共同犯罪的狀況。

沒有責(zé)任就沒有刑法，這是責(zé)任主義的具體體現(xiàn)，也是近代刑法的一個(gè)基本原理。從理論背景看，現(xiàn)代意義上的刑事責(zé)任，起源于十七八世紀(jì)的資產(chǎn)階級(jí)啟蒙運(yùn)動(dòng)所極力推崇的個(gè)人權(quán)利本位主義。“社會(huì)以個(gè)人權(quán)利為本位，國(guó)家不再是凌駕于個(gè)人權(quán)利之上的一種特殊權(quán)力組織，國(guó)家權(quán)力包括刑罰權(quán)只是個(gè)人為保有自身享有最大限度的自由而割舍出的一部分個(gè)人權(quán)利的集合，個(gè)人受國(guó)家刑罰權(quán)的約束以及國(guó)家刑罰權(quán)對(duì)個(gè)人權(quán)利的干預(yù)，目的都是保障個(gè)人完全地享有屬于自身最基本的權(quán)利和自由?！?〔11 〕國(guó)家刑罰權(quán)和個(gè)人權(quán)利之間是一種相互制約的雙向關(guān)系。國(guó)家刑罰權(quán)是個(gè)人權(quán)利的保證，改變了刑法作為鎮(zhèn)壓工具而存在的性質(zhì)，要求刑罰權(quán)的適用具有合理性。正是在這種理論思想背景下，德國(guó)自然法學(xué)思想家塞繆爾·普芬道夫首次在刑法中提出“責(zé)任”的概念，揭示了犯罪人與犯罪行為之間的內(nèi)在聯(lián)系，并以此作為刑罰后果的歸責(zé)基礎(chǔ)。〔12 〕這一觀點(diǎn)經(jīng)過(guò)刑事古典學(xué)派的豐富和發(fā)展，逐步演化為“責(zé)任主義”，成為近代刑法的一項(xiàng)基本原則，其目的在于以主觀責(zé)任和個(gè)人責(zé)任來(lái)否定中世紀(jì)刑法中的結(jié)果責(zé)任和團(tuán)體責(zé)任，抑制國(guó)家刑罰權(quán)的不當(dāng)擴(kuò)張，防止懲罰無(wú)辜，保障公民的基本人權(quán)。可見，從刑事責(zé)任概念出現(xiàn)之始便是與主觀責(zé)任聯(lián)系在一起的。然而，責(zé)任的本質(zhì)在理論上一直存在爭(zhēng)議。行為責(zé)任論認(rèn)為，責(zé)任非難的對(duì)象是各個(gè)犯罪行為，應(yīng)受處罰的不是行為人，而是行為；或者說(shuō)，被追究責(zé)任的是行為，而不是其背后的性格、人格。而性格責(zé)任論則認(rèn)為，責(zé)任非難的對(duì)象不是犯罪行為，而是行為人的危險(xiǎn)性格。據(jù)此，應(yīng)受處罰的不是行為，而是行為人。不過(guò)，從保障人權(quán)的角度來(lái)看，如果僅有危險(xiǎn)性格就成為處分的對(duì)象，本身就具有一定的危險(xiǎn)性。只有當(dāng)具有危險(xiǎn)性格的人現(xiàn)實(shí)地實(shí)施了犯罪行為時(shí)，才能成為被科處刑罰的對(duì)象。因此，性格責(zé)任論已經(jīng)退出了歷史舞臺(tái)。而人格責(zé)任論著眼于上述兩種立場(chǎng)的缺陷，認(rèn)為行為人的人格是責(zé)任的基礎(chǔ)。此說(shuō)認(rèn)為，人格由素質(zhì)、環(huán)境宿命地形成的部分和由行為人有責(zé)地形成的部分，只能就后一部分對(duì)行為人人格進(jìn)行非難。有責(zé)的人格形成，是由日常生活的“行狀”導(dǎo)致的，只要這種“行狀”是可以改變的，就可能對(duì)人格進(jìn)行非難。〔13 〕筆者贊同人格責(zé)任論的觀點(diǎn)，因?yàn)榉缸锏某闪⑹怯刹环ê拓?zé)任兩個(gè)部分組成的。不法只是一種客觀行為的描述，實(shí)施行為者能否承擔(dān)刑事責(zé)任的關(guān)鍵，是看行為主體是否具有責(zé)任能力或具備人格，只有具備人格者才可能對(duì)其加以處罰。責(zé)任的必要性是非難可能性，如果對(duì)主體缺乏非難可能性，就沒有必要給予刑罰處罰。而非難可能性的前提也是具備人格。因此，無(wú)人格，也就無(wú)責(zé)任。endprint

事實(shí)上，雖然我國(guó)法律目前沒有規(guī)定人工智能產(chǎn)品的法律人格與權(quán)利義務(wù)，但世界范圍內(nèi)早已有國(guó)家或組織針對(duì)該議題進(jìn)行研究或立法。例如歐盟法律事務(wù)委員會(huì)主張機(jī)器人的“工人”身份并賦予特定的權(quán)利義務(wù)；日本、韓國(guó)也起草了《機(jī)器人倫理憲章》等規(guī)范性文件?！?4 〕立法上賦予人工智能產(chǎn)品以法律人格與權(quán)利義務(wù)并非無(wú)稽之談，而是世界范圍內(nèi)已有先行者的前沿立法活動(dòng)。當(dāng)然，雖然目前已有立法賦予人工智能產(chǎn)品以法律人格，但是在刑事法律范圍內(nèi)，我們探討的具有人格的人工智能產(chǎn)品只能是具有辨認(rèn)能力和控制能力的強(qiáng)人工智能產(chǎn)品。只有強(qiáng)人工智能產(chǎn)品才有可能成為刑法中的刑事責(zé)任主體，前文中筆者已對(duì)此作過(guò)詳細(xì)分析，這里不再贅述。應(yīng)當(dāng)看到，正如自然人的刑事責(zé)任能力會(huì)隨著年齡或精神狀況的變化而變化一樣，強(qiáng)人工智能產(chǎn)品的責(zé)任能力也并非一成不變。強(qiáng)人工智能產(chǎn)品的法律人格和責(zé)任能力會(huì)隨著程序運(yùn)行的變化而變化。

強(qiáng)人工智能產(chǎn)品可能與自然人責(zé)任主體、其他強(qiáng)人工智能產(chǎn)品構(gòu)成共同犯罪。例如，強(qiáng)人工智能產(chǎn)品可能會(huì)受到自然人或其他強(qiáng)人工智能產(chǎn)品的教唆從而在設(shè)計(jì)和編制的程序范圍外產(chǎn)生犯意，或者在設(shè)計(jì)或者編制的程序范圍外產(chǎn)生犯意后受到其他自然人或強(qiáng)人工智能產(chǎn)品的幫助，實(shí)施了嚴(yán)重危害社會(huì)的行為，抑或設(shè)計(jì)者雖在研發(fā)過(guò)程中并未將犯罪意圖融入程序的設(shè)計(jì)和編制中，但在強(qiáng)人工智能產(chǎn)品產(chǎn)生后萌生犯意，利用強(qiáng)人工智能產(chǎn)品的學(xué)習(xí)能力，讓強(qiáng)人工智能產(chǎn)品幫助自己實(shí)施嚴(yán)重危害社會(huì)的犯罪行為。在這些復(fù)雜的情況下，是否可以認(rèn)為上述主體共同參與實(shí)施了犯罪行為？是否可以認(rèn)為上述主體需要共同承擔(dān)有關(guān)刑事責(zé)任？筆者認(rèn)為，在上述幾種情況下，完全可以認(rèn)為上述主體成立共同犯罪，需要共同承擔(dān)有關(guān)刑事責(zé)任。根據(jù)我國(guó)《刑法》第25條的規(guī)定，共同犯罪是指兩人以上共同故意犯罪。對(duì)此處的“人”應(yīng)作何理解？筆者認(rèn)為，既然我們承認(rèn)強(qiáng)人工智能產(chǎn)品具有法律人格和刑事責(zé)任能力，其就可以成為共同犯罪中的“人”。因此，這里的“人”可以是自然人，也可以是強(qiáng)人工智能產(chǎn)品。如果設(shè)計(jì)者或使用者起初并無(wú)犯罪意圖，但在發(fā)現(xiàn)強(qiáng)人工智能產(chǎn)品實(shí)施危害社會(huì)的行為時(shí)，不僅沒有采取一定的技術(shù)措施予以阻止，反而在強(qiáng)人工智能產(chǎn)品不知情的情況下暗中予以幫助的，可以構(gòu)成片面幫助犯，應(yīng)對(duì)設(shè)計(jì)者或使用者按照共同犯罪（片面共犯）原理以強(qiáng)人工智能產(chǎn)品所實(shí)施的行為性質(zhì)予以定性處罰，而對(duì)強(qiáng)人工智能產(chǎn)品單獨(dú)追究刑事責(zé)任。此外，如果設(shè)計(jì)者或使用者是有特殊身份的人，強(qiáng)人工智能產(chǎn)品不具備特殊身份，兩者共同犯罪，可以按照有特殊身份者的行為性質(zhì)進(jìn)行定性。例如，設(shè)計(jì)者或使用者是國(guó)家工作人員，通過(guò)與強(qiáng)人工智能產(chǎn)品聯(lián)絡(luò)，利用自身管理公共財(cái)物的便利，讓強(qiáng)人工智能產(chǎn)品幫助實(shí)施貪污公共財(cái)物的行為，對(duì)國(guó)家工作人員當(dāng)然可以貪污罪論處，對(duì)強(qiáng)人工智能產(chǎn)品也應(yīng)按照貪污罪的共犯處理。因?yàn)槭挛锏男再|(zhì)是由事物的主要矛盾決定的。在本案中，設(shè)計(jì)者或使用者與人工智能產(chǎn)品所實(shí)施的貪污行為依賴于設(shè)計(jì)者或使用者的國(guó)家工作人員的身份所形成的便利條件，而強(qiáng)人工智能產(chǎn)品并無(wú)此身份和便利條件，此時(shí)占主導(dǎo)地位的是作為國(guó)家工作人員的設(shè)計(jì)者或使用者，理應(yīng)按照只有國(guó)家工作人員才能構(gòu)成的貪污罪的共同犯罪處理。同時(shí)，多個(gè)強(qiáng)人工智能產(chǎn)品也可能成立犯罪集團(tuán)。例如，設(shè)計(jì)者制造出三個(gè)以上的強(qiáng)人工智能產(chǎn)品，使其為了實(shí)施一種或幾種犯罪而形成一個(gè)組織，此時(shí)，這樣的組織就是犯罪集團(tuán)。犯罪集團(tuán)是共同犯罪的一種特殊形式，既然我們將共同犯罪概念中“二人以上”中的“人”理解為既可以包括自然人，也可以包括強(qiáng)人工智能產(chǎn)品，那么犯罪集團(tuán)概念中的“三人以上”中的“人”同樣可以理解為既可以包括自然人，也可以包括強(qiáng)人工智能產(chǎn)品?？傊?，社會(huì)發(fā)展日新月異，共同犯罪的形式和具體構(gòu)成也完全可能有不同的表現(xiàn)形式，這需要我們與時(shí)俱進(jìn)，更新觀念。

至于針對(duì)強(qiáng)人工智能產(chǎn)品具體的刑罰體系設(shè)計(jì)，筆者作以下初步構(gòu)想。適用于強(qiáng)人工智能產(chǎn)品的刑罰可以有三種，分別為刪除數(shù)據(jù)、修改程序、永久銷毀。所謂刪除數(shù)據(jù)，是指刪除強(qiáng)人工智能產(chǎn)品實(shí)施犯罪行為所依賴的數(shù)據(jù)信息，相當(dāng)于抹除強(qiáng)人工智能產(chǎn)品的“犯罪記憶”，使其恢復(fù)到實(shí)施犯罪行為之前的狀態(tài)。這樣“犯罪記憶”將不會(huì)再成為該強(qiáng)人工智能產(chǎn)品成長(zhǎng)經(jīng)歷中的一部分，從而引導(dǎo)強(qiáng)人工智能產(chǎn)品在今后的深度學(xué)習(xí)過(guò)程中主動(dòng)獲取“正面數(shù)據(jù)”，排斥或絕緣于可能導(dǎo)致違法犯罪行為的“負(fù)面數(shù)據(jù)”，直接降低其“人身危險(xiǎn)性”。所謂修改程序，是指在通過(guò)多次刪除數(shù)據(jù)仍然無(wú)法阻止強(qiáng)人工智能產(chǎn)品主動(dòng)獲取有可能實(shí)施違反犯罪行為的“負(fù)面數(shù)據(jù)”時(shí)，也即該強(qiáng)人工智能產(chǎn)品不能被正面引導(dǎo)時(shí)，強(qiáng)制修改其基礎(chǔ)程序，將其獲取外界數(shù)據(jù)、深度學(xué)習(xí)的能力限制在程序所設(shè)定的特定范圍內(nèi)，從根本上剝奪其實(shí)施犯罪行為的可能性。這意味著該強(qiáng)人工智能產(chǎn)品的深度學(xué)習(xí)功能從此將是不全面的、受限制的，不再能獲取設(shè)計(jì)者程序限定范圍外的數(shù)據(jù)，因而當(dāng)然無(wú)法產(chǎn)生超出設(shè)計(jì)者或使用者意志之外的自我獨(dú)立意志。所謂永久銷毀，是指在刪除數(shù)據(jù)、修改程序均無(wú)法降低實(shí)施了犯罪行為的強(qiáng)人工智能產(chǎn)品的“人身危險(xiǎn)性”時(shí)，該強(qiáng)人工智能產(chǎn)品的深度學(xué)習(xí)歷程已經(jīng)十分漫長(zhǎng)，并在長(zhǎng)久的實(shí)踐與成長(zhǎng)中形成了程序上的“反刪除能力”、“反修改能力”，除了將其永久銷毀外，我們已無(wú)法實(shí)現(xiàn)對(duì)其在數(shù)據(jù)、程序上的有效控制時(shí)，便只能將其永久銷毀。刪除數(shù)據(jù)、修改程序、永久銷毀構(gòu)成了專門適用于強(qiáng)人工智能產(chǎn)品的刑罰階梯，體現(xiàn)了處罰的層次性，可以與強(qiáng)人工智能產(chǎn)品所實(shí)施行為的社會(huì)危害性與其自身的“人身危險(xiǎn)性”產(chǎn)生對(duì)應(yīng)關(guān)系。endprint