淺談人工智能時(shí)代的刑事風(fēng)險(xiǎn)與刑法應(yīng)對

陳賽

摘要：人工智能技術(shù)的快速發(fā)展，再給當(dāng)今社會帶來新的機(jī)遇的同時(shí)也引發(fā)了新的挑戰(zhàn)。可能引發(fā)增強(qiáng)犯罪危害性、產(chǎn)生新的犯罪等嚴(yán)重的刑事風(fēng)險(xiǎn)，為積極有效的控制及預(yù)防上述的刑事風(fēng)險(xiǎn)，我們可以采取積極適用現(xiàn)行刑法規(guī)定、適當(dāng)增加新的刑法罪名、突出人工智能的責(zé)任主體性等積極的措施。

關(guān)鍵詞：人工智能;刑事風(fēng)險(xiǎn);刑法應(yīng)對

1 研究背景

人工智能 （Artificial Intelligence，AI） 的概念在20世紀(jì)50年代的達(dá)特茅斯會議上被首次提出。從智能機(jī)器人的橫空出世，到世界各國對于人工智能技術(shù)積極的探索，以上都昭示著一個(gè)全新的時(shí)代已經(jīng)到來，我國對該技術(shù)的發(fā)展也是越來越重視。

迄今為止人工智能技術(shù)仍處于初級階段，由于技術(shù)并非充分成熟，其發(fā)展仍然處于若人工智能時(shí)期，該技術(shù)也存在許多的復(fù)雜性與不確定性。例如對于無人駕駛機(jī)動車技術(shù)的運(yùn)用，受到現(xiàn)有人工智能技術(shù)的限制，關(guān)于性能及安全保障問題仍需要不斷的研究?？茖W(xué)技術(shù)總是不斷進(jìn)步與創(chuàng)新的，可以大膽的預(yù)測強(qiáng)人工智能時(shí)代并非空想，強(qiáng)人工智能體擁有獨(dú)立思考的意識與控制能力，甚至可能在某方面超越人類。然而，我們需要認(rèn)識到的是科技發(fā)展的兩面性，人工智能的發(fā)展對社會的影響及當(dāng)前法律的沖擊不容忽視，而且不論其發(fā)展到弱或強(qiáng)人工智能時(shí)代，其對社會都存在一定的風(fēng)險(xiǎn)，甚至是刑事風(fēng)險(xiǎn)。人工智能的不斷發(fā)展，可能導(dǎo)致危害社會的犯罪行為日益增多，社會危害性不斷加大，因此加強(qiáng)人工智能技術(shù)方面刑法的研究尤為必要。

2 人工智能時(shí)代的刑事風(fēng)險(xiǎn)

2.1 增加傳統(tǒng)犯罪的社會危害性

科學(xué)技術(shù)的發(fā)展不可避免的對社會有利、弊兩方面，一方面會造福于人類，給人類的生活提供便利，但另一方面也會加劇社會風(fēng)險(xiǎn)，威脅人類的安全。人工智能的發(fā)展與適用，可能使傳統(tǒng)犯罪具有更大的社會危害。一方面，人工智能發(fā)展可能擴(kuò)大犯罪范圍。人工智能以其便捷且高效的特點(diǎn)將逐步適用于更多領(lǐng)域，特別是高難度、高強(qiáng)度的工作，倘若此時(shí)人工智能體實(shí)施危害社會的犯罪行為，其社會影響與危害將會更廣。另一方面，人工智能的發(fā)展可能加深危害程度。人工智能體的不斷發(fā)展與優(yōu)化，不可避免的會給不法分子提供智能化的犯罪手段，可以預(yù)見當(dāng)人工智能體大范圍應(yīng)用于醫(yī)療、軍事等重要領(lǐng)域時(shí)，不法分子對此實(shí)施的犯罪行為無疑將給人類帶來無法估計(jì)的危害后果。

2.2 催生新的犯罪形式

人工智能的發(fā)展可能導(dǎo)致更多新的犯罪形式的出現(xiàn)。其一，人工智能可能產(chǎn)生大數(shù)據(jù)類型的犯罪。大數(shù)據(jù)對人工智能技術(shù)來說具有重要價(jià)值，是其核心內(nèi)容，其因?yàn)樵摷夹g(shù)通過模擬人腦的神經(jīng)系統(tǒng)分析大數(shù)據(jù)，從而得出與人腦相似的結(jié)論，人工智能技術(shù)所需要的數(shù)據(jù)可能涉及教育、醫(yī)療等各個(gè)領(lǐng)域。我國在最新的立法和司法解釋中，主要的著重點(diǎn)還是在于對數(shù)據(jù)的如何保護(hù)，對個(gè)人信息的保護(hù)，沒有意識到大數(shù)據(jù)本身蘊(yùn)含著巨大的價(jià)值。數(shù)據(jù)的高度集中，表現(xiàn)出其更大的信息量及更高的社會價(jià)值，倘若大數(shù)據(jù)被攻擊，數(shù)據(jù)所包含的大量信息落入不法分子手中，然后不法分子對這些信息進(jìn)行分析、整合，可能會出現(xiàn)更嚴(yán)重犯罪的后果。其二，不法分子可能會掩飾自己的犯罪行為。人工智能技術(shù)歸根結(jié)底是來源于人類，是由人類發(fā)明而來的，因此不可避免的會存在一定的漏洞，而不法分子就可能會利用漏洞，改變算法或者干擾人工智能體，從而掩蓋自己的犯罪行為，以實(shí)現(xiàn)自身的不法目的。

2.3 可能獨(dú)立實(shí)施犯罪行為

隨著科技不斷發(fā)展，可以預(yù)見擁有獨(dú)立意志的人工智能體將會出現(xiàn)在人類社會，針對其可能獨(dú)立實(shí)施的犯罪行為應(yīng)當(dāng)引起我們的重視。其一，在自然人的控制之下獨(dú)立完成犯罪行為。不可否認(rèn)人工智能體的運(yùn)行是以自然人所編寫的程序?yàn)榍疤?，此時(shí)人工智能體實(shí)施的行為應(yīng)當(dāng)說是自然人的替代工具，所體現(xiàn)的也是自然人的意志。其二，擺脫自然人的控制而獨(dú)立實(shí)施的犯罪行為。可以預(yù)見，人工智能體在強(qiáng)人工智能時(shí)代具有獨(dú)立學(xué)習(xí)能力，可以深度學(xué)習(xí)以形成形成自身的意志，突破人類所編寫的代碼、程序的限制，并在自主意識的支配下脫離人類的控制，實(shí)施嚴(yán)重的違法犯罪行為，此時(shí)再將人工智能體定義為一種工具顯然是不甚恰當(dāng)?shù)?，因此我們需要考慮是否賦予其一定的法律人格。

3 人工智能刑事風(fēng)險(xiǎn)的刑法應(yīng)對

3.1 適用現(xiàn)行刑法規(guī)制人工智能罪行為

人工智能技術(shù)是一種新型技術(shù)，迄今為止在我國仍是弱人工智能時(shí)期，相關(guān)機(jī)器、裝置的本質(zhì)停留在產(chǎn)品階段，但對于人工智能所帶來的的刑事風(fēng)險(xiǎn)我們不能忽視，需要從現(xiàn)有的刑法中尋求解決方式。例如可以適用產(chǎn)品質(zhì)量犯罪引導(dǎo)產(chǎn)品生產(chǎn)者對生產(chǎn)的產(chǎn)品進(jìn)行優(yōu)化，來抑制相關(guān)犯罪。

3.2 增設(shè)新的罪名

對于人工智能時(shí)代所帶來的的刑事風(fēng)險(xiǎn)，可能造成的新的刑事危害，我們可以另尋途徑加以應(yīng)對，例如我們可以嘗試新設(shè)刑法罪名、增設(shè)人工智能犯罪條款以起到威懾與預(yù)防的作用。其一，在刑法分則中增加濫用人工智能的罪名。目前人們對人工智能主要處于使用的階段，對人工智能產(chǎn)品的濫用可能會侵害公民的合法權(quán)益甚至影響社會的安全穩(wěn)定，因此我們可以充分利用刑法的威懾作用，在刑法分則中增設(shè)濫用人工智能罪，防止對于人工智能產(chǎn)品的濫用并行源頭上進(jìn)行防控。其二，在刑法分則中增加人工智能的重大責(zé)任事故罪名。人工智能技術(shù)包含諸多數(shù)據(jù)集成，并且與開發(fā)、使用密切相關(guān)，人工智能的數(shù)據(jù)一旦泄露，那將造成不可估計(jì)的危害，在刑法分則中增設(shè)該罪名，利于保障人工智能產(chǎn)品生產(chǎn)、使用中數(shù)據(jù)的安全性。在刑法分則中增加相關(guān)罪名并非是空穴來風(fēng)，是在充分借鑒我國刑法發(fā)展歷程、法律的滯后性問題以及考慮到該技術(shù)發(fā)展大趨勢的情況下的理性選擇。

3.3 增強(qiáng)人工智能刑事責(zé)任主體性

針對人工智能技術(shù)所帶來的的刑事風(fēng)險(xiǎn)以及追責(zé)主體問題，人們對于工智能體責(zé)任主體認(rèn)定存有一些在爭議。刑法上的歸責(zé)條件是否具有辨認(rèn)能力和控制能力。強(qiáng)人工智能時(shí)代，強(qiáng)人工智能體可以通過深度學(xué)習(xí)，使其具有獨(dú)立的意志和辨認(rèn)能力。那么，對于其在自己獨(dú)立意識下所實(shí)施的行為，我們可以將其擬制為自然人的行為，可以將其規(guī)定為獨(dú)立刑事責(zé)任能力的責(zé)任主體。如此，也更有利于解決在強(qiáng)人工智能時(shí)代有關(guān)人工智能體犯罪的責(zé)任追究問題。

3.4 建立人工智能犯罪防控體系

根據(jù)阿西莫夫提出的智能機(jī)器人三定律，智能機(jī)器人不得危害人類、必須服從人類的命令、在不違反第一條和第二條的情況下必須保護(hù)自己。科學(xué)技術(shù)發(fā)展最主要的目的是服務(wù)與人類，針對人工智能技術(shù)的發(fā)展，我們需要最大限度的促使其造福于進(jìn)人類社會，為此就需要積極的采取防控措施應(yīng)對相關(guān)的刑事風(fēng)險(xiǎn)。其一，設(shè)立相關(guān)的監(jiān)管機(jī)構(gòu)監(jiān)管人工智能體。相關(guān)的監(jiān)管人員對人工智能的生產(chǎn)、使用進(jìn)行監(jiān)管，嚴(yán)格其責(zé)任，對人工智體實(shí)施的犯罪行為，追究其沒有盡到相應(yīng)監(jiān)管義務(wù)的責(zé)任，如此可以起到一定的威懾作用，減少一定的人工智能體實(shí)施的違法犯罪行為。其二，設(shè)立相關(guān)司法鑒定機(jī)構(gòu)鑒定是否為此類型犯罪。人工智能作為新型尖端技術(shù)，與之相關(guān)的犯罪必然存在諸多的專業(yè)問題，當(dāng)進(jìn)入司法程序中，對于人工智能體是否為自主獨(dú)立實(shí)施犯罪行為以及自然人在犯罪中有著怎樣的作用等問題的分析都需要進(jìn)行專業(yè)評價(jià)，司法機(jī)構(gòu)對此可能無法進(jìn)行判斷。為提高司法效率以及運(yùn)行訴訟程，應(yīng)成立人工智能司法鑒定機(jī)構(gòu)，對人工智能犯罪中的相關(guān)司法問題進(jìn)行專業(yè)鑒定。諸如，對于人工智能所實(shí)施的犯罪行為實(shí)現(xiàn)的是何人的意志，設(shè)計(jì)者或使用者對人工智能犯罪是否具有預(yù)見性，相關(guān)問題的專業(yè)鑒定與評價(jià)更有利于對人工智能體實(shí)施的犯罪行為進(jìn)行規(guī)制。

4 總結(jié)

面對當(dāng)前高速發(fā)展的人工智能技術(shù)，我們不可忽視其可能引發(fā)的刑事風(fēng)險(xiǎn)，并采取相關(guān)積極的措施積極應(yīng)對。對此，我們可以積極適用當(dāng)前的刑法予以規(guī)制、適當(dāng)增加相關(guān)新的罪名、擬制強(qiáng)人工智能責(zé)任主體地位以及尋求其他積極的預(yù)防手段與方式來防控犯罪行為，積極的規(guī)避人工智能時(shí)代所帶來的的刑事風(fēng)險(xiǎn)。

參考文獻(xiàn)：

[1] 劉憲權(quán).人工智能時(shí)代我國刑罰體系重構(gòu)的法理基礎(chǔ)[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2018（04）.

[2] 徐蕾，陳超.檢察視野下人工智能時(shí)代的刑事風(fēng)險(xiǎn)及犯罪防控[J].上海法學(xué)研究，2019（08）.

[3] 徐燕芳，朱利明.人工智能時(shí)代的刑事風(fēng)險(xiǎn)與立法完善[J]，齊齊哈爾大學(xué)學(xué)報(bào)（哲學(xué)社會科學(xué)版），2019（01）.

[4] [美]艾薩克·阿西莫夫：我，機(jī)器人[M].葉李華，譯.江蘇文藝出版社，2013.

[5] 劉憲權(quán).人工智能時(shí)代的刑事風(fēng)險(xiǎn)與刑法應(yīng)對[J].法商研究，2018（01）.

[6] 王先春.人工智能時(shí)代下刑事風(fēng)險(xiǎn)與刑法應(yīng)對的“是”與“非”[J].法制博覽，2020（06）.

（作者單位：西北政法大學(xué)）