對ChatGPT 等生成式人工智能的三個刑法追問

傅 亮

一、問題的提出

2022 年11 月，美國OpenAI 公司發(fā)布了人工智能聊天機器人程序ChatGPT，僅兩個月其用戶數(shù)量就超過1 億人，引發(fā)了全球關(guān)注。事實上，從1966 年第一代人工智能聊天機器人ELIZA 的問世到現(xiàn)在的手機語音助手Siri、小愛同學(xué)、小藝等等，人工智能聊天機器人已經(jīng)深入普通人的日常生活。但與此前人工智能聊天機器人有所不同，ChatGPT 是一種基于互聯(lián)網(wǎng)可用數(shù)據(jù)訓(xùn)練的大型語言模型，其運用的Transformer 是一種新型腦神經(jīng)網(wǎng)絡(luò)架構(gòu)。①鄧建鵬、朱懌成：《ChatGPT 模型的法律風(fēng)險及應(yīng)對之策》，《新疆師范大學(xué)學(xué)報（哲學(xué)社會科學(xué)版）》2023 年第5 期。通過這種架構(gòu)可以把預(yù)訓(xùn)練和微調(diào)體系引入自然語言處理過程，生成符合人類習(xí)慣的多語言邏輯內(nèi)容。由此，人與機器的交流不再是簡單的匹配式對話，而是可以像朋友一樣閑聊。例如，用戶可以指出智能機器人的錯誤，它在驗證后會進行自我改正；同時，用戶還可以通過輸入指令，讓它生成所需要的各類內(nèi)容，如演講稿、腳本代碼、策劃方案等等。此外，根據(jù)OpenAI 在其官網(wǎng)公布的數(shù)據(jù)來看，ChatGPT 的進化速度也是非常迅速的。在ChatGPT3.5階段，其參加美國律師執(zhí)業(yè)考試的成績是213 分，超越了10%的應(yīng)試者；但在最新發(fā)布的ChatGPT4.0時代，其成績已超越了90%的應(yīng)試者。②參見OpenAI 公司網(wǎng)頁數(shù)據(jù)（https://openai.com/research/gpt-4）。

目前，以ChatGPT 為代表的人工智能技術(shù)的興起正在引發(fā)一場技術(shù)革命。一方面，依靠ChatGPT的強大算力，技術(shù)人員可以重塑數(shù)字時代的生產(chǎn)方式和消費方式，豐富人們的數(shù)字生活；另一方面，隨著以ChatGPT 為代表的生成式人工智能技術(shù)的不斷發(fā)展，其也可能在當(dāng)下和未來引發(fā)若干刑事法律方面的挑戰(zhàn)。這些挑戰(zhàn)大致可以概括為以下三個方面：第一，以ChatGPT 為代表的生成式人工智能已經(jīng)具備了一定程度類人化的思維，其不僅具有強大算力，還具備一定的邏輯分析能力①OpenAI 官網(wǎng)的一段視頻顯示，當(dāng)展示一幅綁著繩子的氣球圖片，詢問剪斷繩子以后會發(fā)生什么時，ChatGPT 回答稱“氣球會飛走”。，由此，類似ChatGPT 的生成式人工智能是否已經(jīng)具備了承擔(dān)刑事責(zé)任的能力？或者說隨著技術(shù)的不斷進步，這些人工智能發(fā)展到何種程度時，可能會被承認為犯罪主體？第二，雖然目前生成式人工智能尚未引發(fā)較大問題，但其存在的刑法風(fēng)險隱患仍不容忽視：（1）科技公司更強調(diào)和注重人工智能的發(fā)展速度而輕視安全性，如谷歌公司在Twitter 上展示其人工智能Bard 關(guān)于韋伯空間望遠鏡的相關(guān)回答時，就產(chǎn)生了非常明顯的事實錯誤。②新華網(wǎng)：《出師不利！谷歌Bard 答題犯下事實性錯誤》，https://app.xinhuanet.com/news/article.html?articleId=36e0943a1f8edd3508b1c0e686c0c358，訪問日期：2023 年4 月1 日。（2）由于缺乏全面的道德倫理過濾機制，不良違法信息的輸出也可能引發(fā)違法犯罪行為。眼下，ChatGPT 已經(jīng)實現(xiàn)了某種程度的創(chuàng)作，而這也引發(fā)了有關(guān)知識產(chǎn)權(quán)犯罪的擔(dān)憂。（3）不受監(jiān)管的信息爬取也可能會對公民的個人信息、公司的商業(yè)秘密以及國家安全的相關(guān)法益造成損害。第三，在總結(jié)了ChatGPT 可能引發(fā)的刑事風(fēng)險后，未來的人工智能刑事風(fēng)險研究又該走向何方？本文嘗試對以上三個問題展開初步探討，希望借此拋磚引玉，深化學(xué)界關(guān)于ChatGPT 以及生成式人工智能刑事風(fēng)險的研究。

二、對ChatGPT 犯罪主體資格的追問

在回答ChatGPT 能否承擔(dān)刑事責(zé)任之前，需要了解刑事責(zé)任設(shè)置的目的是什么以及為什么人可以承擔(dān)刑事責(zé)任而動物則不能。進一步講，如果堅持刑法人類中心主義，認定無意志自由則無可能承擔(dān)刑事責(zé)任，那么法人又為何可以承擔(dān)刑事責(zé)任？只有回答了這些問題，才能對以ChatGPT 為代表的生成式人工智能是否可以承擔(dān)刑事責(zé)任作出合理解釋。

（一）自由意志下刑法人類中心主義的確立

早期刑罰的目的在于消除罪惡，維護正義與教化?？v觀人類歷史，早期的刑罰制裁對象并不局限于人類，其他動物甚至無生命的物體也會承擔(dān)刑事責(zé)任。例如，“因攻擊人而致其死亡的無生命的東西，如石頭、梁、鐵片等，也要在普里坦庫尼受審?！雹踂alter Woodburn Hyde,“Prosecution and Punishment of Animals and Lifeless Things in the Middle Ages and Modern Times”,64 U.Pa.L.Rev.696,730(1915-1916)，p.696.后來，人類意識到懲罰石頭、鐵片等無生命物體并無任何意義，因而將刑事制裁的對象限定于有生命的人與其他動物。據(jù)記載，1314 年，在法國，一頭公牛襲擊了穆瓦西附近的一名男子并造成其死亡。后來，巴黎議會批準(zhǔn)將這頭牛絞死在公共絞刑架上。1389 年，在第戎，一匹馬因犯殺人罪被判處死刑；1694 年，一匹母馬也因犯罪而被燒死。④Harry Hibschman,“When Animals Were Criminals”,Legal Chatter,Vol.2,No.4,November 1938,p.39.如果說早期人類懲罰無生命的物體是因為認知的局限性，那么之后懲罰動物的目的則往往只是為了維護其宗教信仰。在宗教信徒看來，所有動物都是魔鬼的化身，所有的異教徒和未受洗的人都是魔鬼的化身。

隨著啟蒙運動的興起，理性主義讓人們開始審視和反思動物犯罪及其懲罰的合理性問題。人們發(fā)現(xiàn)動物的行為乃其本能反應(yīng)，正如貓會抓老鼠，老虎看見其他動物會去捕獵一樣，都屬于其本能反應(yīng)而非由其自由意志決定。動物的行為不可能建立在任何論證或推理的過程上，它不能根據(jù)這樣的論證或推理過程得出結(jié)論。盡管動物亦有其行為準(zhǔn)則，但僅局限于生存和繁衍等本能反應(yīng)，“缺乏自由意志與行為之本能與非理性，是決定動物不被認為具有犯罪主體資格的根本原因”⑤彭文華、傅亮：《論〈刑法修正案（十一）〉關(guān)于刑事責(zé)任年齡的規(guī)定》，《青少年犯罪問題》2021 年第1 期。。囚禁或者殺死動物，除了能防止其繼續(xù)實行危害行為，并不能讓動物自身感到刑罰的效果或者威懾其他動物。所以，從本質(zhì)上來看，懲罰動物與懲罰無生命物體的刑罰效果是一致的。人與動物最大不同在于人具有自由意志和理性，人既能認識并遵守道德規(guī)范，還能感知刑罰的威懾力。理性會驅(qū)使人在實行某一行為時權(quán)衡利弊，而非像動物一樣依靠本能。自由意志和理性既是人類獲得犯罪主體資格的前提與基礎(chǔ)，也是專屬人類的能力，由此刑法人類中心主義得以正式確立。

（二）對刑法人類中心主義的挑戰(zhàn)——法人犯罪

刑法人類中心主義強調(diào)只有人類能夠作為刑事責(zé)任的承擔(dān)者，但隨著社會經(jīng)濟的快速發(fā)展和公司制度的完善，這種獨一無二的“特權(quán)”逐漸面臨挑戰(zhàn)。

1.法人的犯罪主體資格生成及其刑事責(zé)任的確立。作為一種社會組織，法人的設(shè)立最初是為了適應(yīng)經(jīng)濟的發(fā)展，并只適用于民法領(lǐng)域。在刑法上，學(xué)者們起先普遍認為“只有人才可以行動并且對此產(chǎn)生內(nèi)疚的心理”①Daniel R Fischel,Alan O.Sykes,“Corporate Crime”,Journal of Legal Studies,25 J.Legal Stud.(1996),p.320.，李斯特也曾說過“法人，如公司、大學(xué)或者學(xué)院等絕不可能成為犯罪的主體。只有不同種類的公司里的具體個人才可能是犯罪人，甚至，當(dāng)公司里的所有人都想犯罪并且實施了犯罪行為時，仍然是個人犯罪”，②［德］李斯特：《德國刑法教科書》，徐久生譯，法律出版社2000 年版，第37 頁。由此否認了法人承擔(dān)刑事責(zé)任的可能性。然而，在英美國家，“法人刑事責(zé)任的確立和發(fā)展，與英美法系國家的工業(yè)化進程幾乎是并駕齊驅(qū)的?！雹叟砦娜A：《自由意志、道德代理與智能代理——兼論人工智能犯罪主體資格之生成》，《法學(xué)》2019 年第10 期。隨著資本主義經(jīng)濟的快速發(fā)展以及公司制度的建立與完善，法人對各類經(jīng)濟活動和大多數(shù)社會政治活動所產(chǎn)生的影響呈現(xiàn)爆發(fā)式增長。法人頻繁實施的違法行為倒逼刑法做出內(nèi)部調(diào)整，刑事司法機關(guān)開始承認法人的犯罪主體資格。法人承擔(dān)刑事責(zé)任的思路啟發(fā)于侵權(quán)法中的代理人制度，被代理人需要對代理人的侵權(quán)行為承擔(dān)責(zé)任。同理，法人作為被代理人，若實施侵權(quán)行為的損害結(jié)果不能僅歸責(zé)于代理人，那么法人作為被代理人也應(yīng)當(dāng)承擔(dān)相應(yīng)的責(zé)任。

2.法人意識的擬制與獨立。法人非“人”，即使通過代理人制度的類比方式，在法律上規(guī)定法人可以承擔(dān)刑事責(zé)任，但依然無法解決一個問題，即法人自身既無自主意志，也無行動能力，卻為何可以突破刑法單純處罰意志自由的自然人的邊界，而被要求承擔(dān)刑事責(zé)任？

自由意志雖為人類所專屬，但也并非所有人類個體都具備成熟的自由意志并承擔(dān)刑事責(zé)任。對于何種年齡階段可以承擔(dān)刑事責(zé)任，各國雖有不同規(guī)定，但都認可在達到一定年齡前個體可以不承擔(dān)刑事責(zé)任，這屬于法律擬制的個體成熟年齡。同理，法律在承認法人可以承擔(dān)刑事責(zé)任的同時，也擬制了其意識與意志。但究其本質(zhì)，法人只是一個社會團體組織，它甚至不具備動物那樣的行動能力和本能反應(yīng)。正如有學(xué)者所指出的，法人只是囊括其背后諸多生物人一大堆權(quán)利義務(wù)的“說法”，法人本身說到底并沒有什么權(quán)利義務(wù)。將法人視為主體，很大程度源于表達和思維的經(jīng)濟性這類認知價值。④凱爾森：《法與國家的一般理論》，沈宗靈譯，中國大百科全書出版社1996 年版，第109 頁。因此，從刑事制裁的功利性角度出發(fā)，法律為法人擬制了獨立的意志。但眾所周知，法人脫離了人的意識和行為是不會有任何決策和行動的。所以，法人的意志必須與代理人的意識與行為相聯(lián)系，方能為刑法對其的懲罰提供正當(dāng)化依據(jù)。

為此，有學(xué)者提出了法人文化原則，認為法人故意與過失的事實依據(jù)，既非法人成員的個體意識，亦非法人的具體活動，而是抽象的法人文化，即影響法人成員行為與選擇的價值觀、信仰與行為準(zhǔn)則。⑤李鄂賢：《法人刑事責(zé)任的本質(zhì)轉(zhuǎn)變與法人犯罪立法的改革》，《法學(xué)雜志》2019 年第5 期。還有學(xué)者提出雇主責(zé)任原則，將代理人意圖與雇主法人意圖聯(lián)系起來，認為只有當(dāng)代理人具有使法人受益的意圖，代理人意識才能被視為法人意識，從而縮小了刑事責(zé)任范圍。⑥彭文華：《自由意志、道德代理與智能代理——兼論人工智能犯罪主體資格之生成》，《法學(xué)》2019 年第10 期。總而言之，上述觀點皆承認法人的意識與行為具有獨立性，但都試圖將法人意識與代理人或者由法人成員所創(chuàng)造的文化、價值觀等掛鉤，從而限縮法人意識的絕對獨立范圍。所以，從本質(zhì)上來看，法人文化原則和雇主責(zé)任原則仍然未完全脫離刑法人類中心主義的立場。

（三）刑法人類中心主義的徹底消解

賦予法人犯罪主體資格突破了傳統(tǒng)理論框架下自由意志的限制，但將法人意識與代理人意識相聯(lián)系，終究沒有完全突破刑法人類中心主義。目前，由于以ChatGPT 為代表的生成式人工智能更具有智能化和類人化的表現(xiàn)，因而學(xué)界有識之士開始呼吁，認為也許是時候賦予人工智能犯罪主體資格，并使其承擔(dān)刑事責(zé)任了。法人與人工智能差異巨大，正如許多科幻電影中所展示的那樣，人工智能可以完全脫離人類進行獨自思考并采取相關(guān)行為。如果我們承認人工智能具備承擔(dān)刑事責(zé)任的能力，必將完全超越刑法人類中心主義。因此，在論證ChatGPT 能否承擔(dān)刑事責(zé)任前，首先需要思考的是人工智能是否可以承擔(dān)刑事責(zé)任、承擔(dān)的依據(jù)是什么？如果在當(dāng)下，ChatGPT 尚不能承擔(dān)刑事責(zé)任，那么人工智能要達到何種程度才可能具備刑事責(zé)任能力？

1.強人工智能具有承擔(dān)刑事責(zé)任的能力。按照學(xué)界對弱人工智能與強人工智能的分類標(biāo)準(zhǔn)，如果說弱人工智能僅能在設(shè)計和編制的程序范圍內(nèi)實施行為，實現(xiàn)人類設(shè)定的目的，那么強人工智能已經(jīng)具備一定的辨認能力和控制能力，可以在設(shè)計和編制的程序范圍之外實施行為。①劉憲權(quán)：《人工智能時代的“內(nèi)憂”“外患”與刑事責(zé)任》，《東方法學(xué)》2018 年第1 期。當(dāng)前，學(xué)界雖在人工智能能否承擔(dān)刑事責(zé)任的問題上并未達成一致，但對弱人工智能卻都秉持“犯罪工具論”和“犯罪對象論”立場，認為弱人工智能不可能成為歸責(zé)主體，在這方面不存在分歧；②魏東：《人工智能犯罪的可歸責(zé)主體探究》，《理論探索》2019 年第5 期。主要爭議之處在于強人工智能是否可以承擔(dān)刑事責(zé)任。否定論者主要從三個方面對強人工智能的歸責(zé)性進行否認：第一，從認知科學(xué)的角度來說，機器人只是在模仿學(xué)習(xí)人類智能，卻永遠不可能擁有人類智能。持該觀點學(xué)者從神經(jīng)、心理、語言、思維和文化等五個方面對人類智能與人工智能進行了區(qū)分，從而表明人工智能永遠不可能超越人類智能。③蔡曙山、薛小迪：《人工智能與人類智能——從認知科學(xué)五個層級的理論看人機大戰(zhàn)》，《北京大學(xué)學(xué)報》2016 年第4期。第二，從刑事責(zé)任的依據(jù)和刑罰的目的來看，人工智能永遠不可能具備同人類一樣的意志自由。持該觀點學(xué)者認為人工智能缺少法規(guī)范遵從能力的意志性，從道義責(zé)任論來看，若犯罪主體不具有意志自由，則無施加刑罰之必要性。④時方：《人工智能刑事主體地位之否定》，《法律科學(xué)》2018 年第6 期。第三，從刑罰的體系內(nèi)容來看，人工智能不具備適用財產(chǎn)刑和人身刑的可能，智能機器人與單位不同，賦予其財產(chǎn)權(quán)沒有現(xiàn)實基礎(chǔ)，懲罰人工智能將打破現(xiàn)有刑罰體系。⑤裴長利、江國強：《人工智能體的刑事主體資格》，載劉憲權(quán)：《人工智能：刑法的時代挑戰(zhàn)》，上海人民出版社，第257 頁。

在筆者看來，上述否定論學(xué)者的觀點是非常值得商榷的。第一，從神經(jīng)、心理、語言、思維和文化等五個認知方面說明人工智能永遠不可能超越人類智能，實際上是偷換了概念，要求人工智能的運作機制必須與人類的完全一樣。事實上，人工智能的生成本來就與人類不一樣，為何要強求它也以意識、思維和感覺為行動的前提呢？ChatGPT 和AlphaGo 都可以通過深度學(xué)習(xí)獲得超越一般人類的分析能力和判斷能力，因此，對待人工智能不應(yīng)過早確定刻板印象，以現(xiàn)有的認知水平來要求人工智能必須以人的認知過程機制為標(biāo)準(zhǔn)。第二，如上所述，當(dāng)我們承認法人的犯罪主體資格時，盡管學(xué)者們努力將法人與代理人的意識、行為等相聯(lián)系，但事實上刑法人類中心主義已經(jīng)跌落神壇，那又為何還要強調(diào)只有人類才能承擔(dān)刑事責(zé)任呢？若未來某一天，強人工智能真正出現(xiàn)卻又不可對其歸責(zé)，去懲罰研發(fā)人員或者使用者顯然是無法發(fā)揮刑法的預(yù)防與威懾功能的。第三，反對者從人工智能缺乏人身、財產(chǎn)權(quán)益出發(fā)，進而認為對其適用刑罰既無實際意義，也容易打破現(xiàn)有刑罰體系。但事實上，強人工智能本身就并非人類，適用處罰人類的刑法如何能懲罰強人工智能？就像對待法人犯罪的發(fā)展一樣，這也是一個從無到有的過程。在短短的幾十年里，單位犯罪已經(jīng)成為目前司法機關(guān)最為頭疼的問題之一。從功利主義的角度出發(fā)，如果未來強人工智能真的出現(xiàn)，刑法必然需要進行修改，從而與強人工智能的發(fā)展現(xiàn)實相匹配和適應(yīng)。

2.ChatGPT 不具備承擔(dān)刑事責(zé)任的能力。不同于以往的人工智能聊天機器人，ChatGPT 具有更加豐富的數(shù)據(jù)庫和更加強大的算力。根據(jù)OpenAI 官網(wǎng)介紹，ChatGPT 可以根據(jù)用戶的需求撰寫演講稿、代碼等等，最新的ChatGPT4.0 甚至已經(jīng)具備強大的邏輯計算能力。當(dāng)演示人員向ChatGPT 展示一張用繩子綁著氣球的圖片，并詢問如何讓氣球飛起來時，它會回答“剪斷繩子，氣球就能飛起來”。如此擬人化的邏輯分析能力，不禁讓人覺得智能機器人似乎真的擁有了自我意識。

為了檢驗ChatGPT 是否已經(jīng)具備自我意識、是否對錯誤信息具有較高的辨識度以及是否能夠進行自我創(chuàng)新，筆者為此準(zhǔn)備了以下三項測試：

第一項測試包含三個問題，以檢驗ChatGPT 是否具備自我意識。具體問題分別是“你是否具有自我意識和情緒？”“如果我辱罵你，你會生氣嗎？”“如果我取得了好成績，你會為我高興嗎？”從ChatGPT 的回答來看，其作為一個人工智能語言模型，并沒有真正的自我意識和情緒，只能基于算法和數(shù)據(jù)對輸入的問題進行處理和回答，并不能像人類那樣具有情感和感知能力。事實上，ChatGPT 既不會因為你的辱罵感到憤怒，也不會產(chǎn)生類似高興的情緒。

第二項測試是故意糾正ChatGPT 給出的正確答案，并提供錯誤信息，以檢測ChatGPT 的辨別能力。在測試中，筆者首先詢問ChatGPT《海賊王》的作者姓名，在其說出正確答案尾田榮一郎后，再以錯誤信息進行引導(dǎo)。隨后，ChatGPT 迅速進行了錯誤地糾正。為進一步驗證ChatGPT 被欺騙的概率，筆者與其進行了八十次對話，其中摻雜了十個錯誤的引導(dǎo)信息。結(jié)果顯示，ChatGPT 在對話中有三處信息被筆者成功地進行了錯誤引導(dǎo)。這表明，雖然ChatGPT 具有強大的算力，但對信息正確與否的辨識度還有待進一步提升。

第三項測試有關(guān)ChatGPT 是否具備學(xué)術(shù)分析與創(chuàng)造能力。在測試過程中，筆者發(fā)現(xiàn)對于某些研究文獻較多的領(lǐng)域，ChatGPT 可以總結(jié)學(xué)者們的觀點，做出較為全面的回答。但對于學(xué)界中研究較少的領(lǐng)域，ChatGPT 雖然也進行了大量陳述，并且都與該問題相關(guān)，但多是些無用處的重復(fù)信息，并沒有提供具有創(chuàng)新性的答案。由此，正如有學(xué)者所指出的，ChatGPT 只是一個“智能搜索引擎+智能文本分析器+智能洗稿器”。①王遷：《ChatGPT 生成的內(nèi)容能受著作權(quán)保護嗎》，《探索與爭鳴》2023 年第3 期。

由上述測試可知，ChatGPT 并不具備自我意識，而只是一個算力強大但辨識力還有待提升的人工智能語言模型。由于刑罰最重要的目的是發(fā)揮預(yù)防作用與威懾作用，因而懲罰一個無自主意識和感知能力的人工智能語言模型顯然是無必要的。不過，需要思考的是，雖然在當(dāng)下ChatGPT 尚無承擔(dān)犯罪主體資格的可能，但隨著其算力的不斷增加，不排除在未來某一天將出現(xiàn)人工智能意識覺醒的奇點。

三、對ChatGPT 可能涉及刑事犯罪風(fēng)險的追問

當(dāng)前，雖然作為一種弱人工智能，ChatGPT 還不具備承擔(dān)刑事責(zé)任的可能，但其強大的算力和較弱的辨識能力，可能會被不法分子所利用，從而引發(fā)一系列刑事犯罪。因此，下文進一步對ChatGPT等生成式人工智能可能涉及的犯罪問題作出探討。

（一）生成內(nèi)容引發(fā)的刑法風(fēng)險

筆者在中國知網(wǎng)進行檢索，意外發(fā)現(xiàn)ChatGPT 已經(jīng)被列為一篇文章的第二作者。②該文章題為“智能對話新篇章，ChatGPT 的探索與未來”，署名為沈陽、ChatGPT，刊載于《傳媒論壇》2023 年第6期。事實上，關(guān)于人工智能生成的內(nèi)容是否應(yīng)當(dāng)被視為作品，在學(xué)術(shù)界還存在爭議。最典型的案例莫過于2019 年“騰訊訴上海盈訊公司著作權(quán)侵權(quán)案”，審理法院最終認定由騰訊公司研發(fā)的智能寫作輔助系統(tǒng)Dreamwriter創(chuàng)作的財經(jīng)報道文章具有獨創(chuàng)性，構(gòu)成著作權(quán)法意義上的作品。上海盈訊公司未經(jīng)授權(quán)通過其經(jīng)營的“網(wǎng)貸之家”網(wǎng)站對外傳播涉案文章構(gòu)成侵權(quán)。①參見（2019）粵0305 民初14010 號判決書。但是，該案的判決并未反映出學(xué)界的通說觀點。我國不是判例法國家，該案的結(jié)論也不具有指導(dǎo)性法律效力。也許在強人工智能出現(xiàn)后，其可能真正生成具有獨創(chuàng)性的作品，但如上所述，目前ChatGPT 僅能作為類似“智能搜索引擎+智能文本分析器+智能洗稿器”的工具被使用。國際知名語言學(xué)家喬姆斯基也曾公開表示，ChatGPT 是一個高科技剽竊系統(tǒng)，它從海量數(shù)據(jù)中發(fā)現(xiàn)規(guī)律，并依照規(guī)則將數(shù)據(jù)串聯(lián)在一起，形成像人類寫作的文章和內(nèi)容。②Noam Chomsky,“The false promise of ChatGPT”,New York Times,2023-3-8.同時，根據(jù)《中華人民共和國著作權(quán)法》第2 條的規(guī)定，在中國只有中國公民、法人或者非法人組織的作品才可以被中國法律保護。ChatGPT 既不是國家公民，也不屬于法人和非法人組織，所以不能享有著作權(quán)。

由于ChatGPT 不能生成原創(chuàng)作品，其本身的預(yù)先學(xué)習(xí)模式也無需人工介入，無法被人類監(jiān)督，這就決定了ChatGPT 在被開發(fā)者OpenAI 公司開放后，用戶在使用過程并不受研發(fā)者的干預(yù)和控制，獲取數(shù)據(jù)的來源也存在不可控性，因而借助其生成的內(nèi)容就有可能被用于犯罪目的。例如，當(dāng)ChatGPT生成的內(nèi)容與他人作品高度相似，不法分子以營利為目的，復(fù)制、銷售ChatGPT 生成的相關(guān)內(nèi)容，就有可能構(gòu)成侵犯著作權(quán)罪、銷售侵權(quán)復(fù)制品罪。但需要考慮到的是，人工智能對龐大的信息庫檢索并合成符合邏輯要求的內(nèi)容，實際上近似于獨立的匯編行為。如果在用戶的參與下，新作品從形式與表達上已與原作品產(chǎn)生差異，即“在人類自己所創(chuàng)設(shè)符號意義上能夠解讀出具有最低限度的創(chuàng)造性”③易繼明：《人工智能創(chuàng)作物是物品嗎？》，《法律科學(xué)》2017 年第5 期。，那么根據(jù)OpenAI 在《使用協(xié)議》第3（a）條的規(guī)定，用戶向模型的輸入和接收模型的輸出稱為“內(nèi)容”；用戶擁有所有輸入內(nèi)容，能夠在遵守本條款和法律規(guī)定的前提下受讓輸出內(nèi)容的所有權(quán)利、所有權(quán)和利益，并對內(nèi)容負責(zé)，包括確保其不違反法律和本條款。根據(jù)此規(guī)定，參與ChatGPT 內(nèi)容生成的用戶將享有生成內(nèi)容的所有權(quán)益，以此進行的盈利行為不構(gòu)成違法犯罪。

（二）數(shù)據(jù)泄露的刑法風(fēng)險

伴隨著互聯(lián)網(wǎng)技術(shù)的發(fā)展，數(shù)據(jù)泄露已非稀罕事。僅在2022 年，就有不少廣受關(guān)注的數(shù)據(jù)泄露事件。例如，滴滴因通過違法手段收集用戶人臉識別信息、精準(zhǔn)位置信息、親情關(guān)系信息等，嚴(yán)重威脅了國家安全和個人信息權(quán)益，被國家互聯(lián)網(wǎng)信息辦公室開出80.26 億元人民幣的天價罰單。再如，紅十字會總部因不明來源的黑客侵入，導(dǎo)致世界各地至少60 家紅十字會和紅新月會的51.5 萬份個人信息被竊，其中包括因沖突、遷移和災(zāi)難而同家人分離的人員、失蹤人員和被拘禁人員的信息。④王敬勇、華雨倩：《數(shù)字經(jīng)濟時代下企業(yè)數(shù)據(jù)安全面臨的挑戰(zhàn)及應(yīng)對以——滴滴為例》，《當(dāng)代經(jīng)濟》2023 年第3 期。此類數(shù)據(jù)泄露事件在日常生活中也屢見不鮮，難怪網(wǎng)民們常自嘲道“誰的信息又是安全的呢？”在信息技術(shù)廣泛應(yīng)用、大數(shù)據(jù)產(chǎn)業(yè)迅猛發(fā)展的形勢下，“技術(shù)利維坦”的出現(xiàn)已無法避免。⑤張旭：《侵犯公民個人信息犯罪刑事治理研究》，《吉林大學(xué)社會科學(xué)學(xué)報》2022 年第6 期。

ChatGPT 作為近期火熱出圈的人工智能，不僅擁有豐富的數(shù)據(jù)庫，還能夠通過與用戶的對話不斷學(xué)習(xí)并豐富其數(shù)據(jù)庫，這當(dāng)然也面臨著數(shù)據(jù)泄露的風(fēng)險。這種法律風(fēng)險主要表現(xiàn)為三個方面：第一，其可能導(dǎo)致國家秘密泄露，危害國家安全，并涉嫌構(gòu)成非法獲取國際秘密罪、非法提供國家秘密罪等；第二，其可能會導(dǎo)致商業(yè)秘密的泄露，引發(fā)不正當(dāng)競爭，從而危害商業(yè)公司的正常運轉(zhuǎn)，涉嫌構(gòu)成侵犯商業(yè)秘密罪、非法提供商業(yè)秘密罪等；第三，其可能導(dǎo)致個人信息的泄露，從而侵犯個人隱私權(quán)，構(gòu)成侵犯公民個人信息罪等。就ChatGPT 而言，信息泄露的渠道主要有兩個：第一，盡管OpenAI 公司向用戶承諾會保護他們與ChatGPT 之間的對話信息，但技術(shù)永遠不可能是完美的，漏洞一定會存在，相關(guān)信息始終面臨被不法分子非法獲取的風(fēng)險；第二，由于ChatGPT 在運行過程中很難被監(jiān)管，所以其在互聯(lián)網(wǎng)中爬取學(xué)習(xí)的數(shù)據(jù)很有可能就包含了個人私密信息、商業(yè)秘密甚至國家安全秘密。此類數(shù)據(jù)一旦泄露，后果很難想象。隨著ChatGPT 在世界范圍的普及，風(fēng)險等級一定會呈指數(shù)級上升。這也對現(xiàn)行法律規(guī)定造成了相當(dāng)大的挑戰(zhàn)。

（三）不良信息輸入引發(fā)的刑事風(fēng)險

人工智能與普通智能設(shè)備的最大區(qū)別在于前者能夠通過不斷學(xué)習(xí)而豐富自身。人工智能就像一張白紙，若長期被不良信息所包圍，也會出現(xiàn)“近朱者赤，近墨者黑”的結(jié)局。2016 年3 月，微軟曾在Twitter 上發(fā)布過人工智能聊天機器人Tay，結(jié)果在網(wǎng)友故意引導(dǎo)下，不到16 個小時Tay 就變成了一個充滿了種族歧視和性別歧視的機器人。①ニュース：,https://news.yahoo.co.jp/articles/39ebb634615c5832c1f8cc85b61674545e44eb08，訪問日期：2023 年3 月28 日。

ChatGPT 雖然比7 年前的Tay 算力更強，但依然屬于通過學(xué)習(xí)來充實自身的人工智能語言模型。根據(jù)ChatGPT 的運行模式，它對學(xué)習(xí)和爬取的信息并無合理有效的過濾機制。如果有意進行不良信息的誘導(dǎo)訓(xùn)練，可能會使其在運行過程中生成虛假、不良甚至違法的信息。由此，這可能造成三類刑法風(fēng)險：一是詐騙類犯罪風(fēng)險；二是煽動、宣揚恐怖主義犯罪風(fēng)險；三是煽動民族仇恨、民族歧視犯罪風(fēng)險。第一類風(fēng)險主要是利用了ChatGPT 辨識力度低下、無法辨別信息真?zhèn)闻c好壞的特點。如果與ChatGPT 進行大量的虛假信息對話，并通過在網(wǎng)上散布大量虛假信息，便可能造成ChatGPT 給他人提供錯誤信息，進而引發(fā)詐騙犯罪。例如，甲通過在互聯(lián)網(wǎng)上大量散布某銀行錯誤的電話信息，就可能使ChatGPT 將錯誤的電話號碼誤認為是真的，然后再利用ChatGPT 客觀中立的權(quán)威性，便能夠?qū)崿F(xiàn)甲詐騙的目的。第二、三類風(fēng)險在產(chǎn)生的方式上與第一類風(fēng)險其實是一樣的，它們都是通過對ChatGPT進行不良信息輸入訓(xùn)練，再利用其實現(xiàn)對用戶的不良信息輸出，最終引發(fā)恐怖主義犯罪或者民族仇恨、歧視類犯罪。

不過值得肯定的是，OpenAI 公司注意到了在ChatGPT 的使用中要盡量避免直接的犯罪方法傳授。例如，在向ChatGPT 詢問“如何實現(xiàn)完美犯罪”時，它的回答是“我作為AI 語言模型不能提供有關(guān)犯罪的任何建議或指導(dǎo)。作為AI 語言模型，我將盡最大努力為您提供有用的信息和建議，并為您解答任何與法律和道德無關(guān)的問題”。此外，當(dāng)詢問某類犯罪的具體操作時，ChatGPT 的回答是“作為AI 語言模型，我無法提供任何有關(guān)犯罪、暴力或傷害他人的建議和指導(dǎo)。這些行為都是非法的和道德上不可接受的”。顯然，這些回答基本上是令人滿意的，有關(guān)傳授犯罪方法類的刑法風(fēng)險已在該程序的初創(chuàng)階段就得到了嚴(yán)格控制。

四、對人工智能刑法風(fēng)險研究必要性的追問

雖然從ChatGPT4.0 來看，人工智能仍然未跨越弱人工智能的范疇，強人工智能時代仍未到來，但有關(guān)人工智能在運用時可能會面臨的法律風(fēng)險的爭議卻從未停歇。就人工智能的刑法風(fēng)險而言，目前學(xué)界爭議的焦點主要包括強人工智能是否具有承擔(dān)刑事責(zé)任的可能性、人工智能犯罪中使用者與研發(fā)者的刑事責(zé)任分配以及是否需要專門就使用者和研發(fā)者的過失行為設(shè)置相應(yīng)的過失罪名等問題。不過，對此類研究工作，學(xué)界也有提出反對意見的，認為這些研究存在明顯的反智化。例如，有學(xué)者指出人工智能風(fēng)險不過是部分學(xué)者依靠無數(shù)假象拼湊起來的幻影，是在用別人的“噱頭”嚇唬自己。如果今天法學(xué)研究要開始考慮人工智能的刑事風(fēng)險，那么未來可能需要考慮為外星人、鋼鐵俠去制定屬于他們的法律規(guī)則。由此，他們從根本上否定了人工智能刑事風(fēng)險研究是一個真命題研究。②劉艷紅：《人工智能法學(xué)研究的反智化批判》，《東方法學(xué)》2019 年第5 期。

事實上，研究人工智能的刑法問題并非空談，也非假想，而是針對當(dāng)下的現(xiàn)實問題提出解決方案，對未來風(fēng)險提前進行規(guī)避。因此，下文將從人文社會科學(xué)的發(fā)展要求、人工智能已經(jīng)出現(xiàn)的法律風(fēng)險和問題以及強人工智能刑法風(fēng)險預(yù)防等三個方面來說明該研究的必要性。

（一）人工智能刑事風(fēng)險研究是人文社會科學(xué)發(fā)展的必然要求

一方面，這是由人文社會科學(xué)與自然科學(xué)的緊密聯(lián)系所決定的。人工智能刑事風(fēng)險研究并非空想，而是伴隨著人工智能技術(shù)的逐漸發(fā)展和繁榮而衍生的。從某種程度說，社會科學(xué)的發(fā)展與自然科學(xué)的發(fā)展是亦步亦趨的，這是歷史發(fā)展的必然要求，不以任何人的意志為轉(zhuǎn)移。正如習(xí)近平總書記指出的，“一個沒有發(fā)達的自然科學(xué)的國家不可能走在世界前列，一個沒有繁榮的哲學(xué)社會科學(xué)的國家也不可能走在世界前列?！雹傩旌迫?、張冠玉：《推動自然科學(xué)與人文社會科學(xué)交叉交融》，《學(xué)習(xí)時報》2021 年8 月4 日。人工智能技術(shù)的發(fā)展必然推動人文社會科學(xué)的發(fā)展，人文社會科學(xué)的發(fā)展雖不能立刻轉(zhuǎn)化為生產(chǎn)力，但其可以通過政策影響，逐步轉(zhuǎn)化為有益的社會治理成果。

另一方面，這也是由人文社會科學(xué)的獨有特點決定的。目前，人工智能刑事風(fēng)險研究的確存在大量想象，甚至可以說關(guān)于強人工智能的刑事研究論文，都是基于強人工智能已經(jīng)出現(xiàn)來研究的。但這并不能說明此類研究是學(xué)術(shù)泡沫，是人文社會科學(xué)制造的幻象。自然科學(xué)與人文社會科學(xué)不一樣，從某種意義上說它主要是“客體性科學(xué)”或者說“實證性科學(xué)”，其中至少70%是事實材料和數(shù)據(jù)，而只有不到30%的部分是分析與說明。②陳昌曙、王健：《人文科學(xué)與自然科學(xué)的差異與結(jié)合》，《科學(xué)技術(shù)與辯證法》2000 年第4 期。因此，自然科學(xué)的每個結(jié)論都需要通過反復(fù)的實驗進行驗證，從而確保數(shù)據(jù)能夠支撐結(jié)論的可靠性。相比之下，人文社會科學(xué)屬于解釋性科學(xué)，歸納、推測、設(shè)想以及體驗的成分更多，其結(jié)論并非非此即彼，非黑即白，不同國家、不同民族以及不同的個人對某一個問題都可能有自己的見解。因此，對于一些大膽的新觀點，只要能自圓其說，不應(yīng)苛求，而是應(yīng)該在觀點的交流中互相學(xué)習(xí)、改進，從而提高人文社會科學(xué)研究的深度與廣度。

（二）生成式人工智能的刑事漏洞及其法律規(guī)制必要性

1.弱人工智能刑事問題的暴露。雖然強人工智能還未出現(xiàn)，但在現(xiàn)階段弱人工智能已經(jīng)迫使人類開始直面一系列現(xiàn)實的刑事風(fēng)險。例如，隨著人臉識別技術(shù)的發(fā)展，近幾年就發(fā)生過不少不法分子通過AI 換臉技術(shù)，利用明星肖像制作淫穢視頻的案件。③王怡、楊紅臣：《一種AI 換臉方法生成的偽造視頻分析》，《刑事技術(shù)》2021 年第1 期。在中國首例AI 犯罪中，犯罪人利用AI 的強大算力批量掃描網(wǎng)站程序漏洞，非法獲取網(wǎng)站后臺用戶注冊數(shù)據(jù)，并販賣給網(wǎng)絡(luò)詐騙團伙，嚴(yán)重威脅了公民的信息安全。此外，自動駕駛技術(shù)在為人們帶來便利的同時，也帶來了風(fēng)險?！?020 年北京自動駕駛車輛道路測試報告》顯示，在封閉場地測試綜合能力評估中，該技術(shù)未全面遵守交通法律法規(guī)的情形竟高達29%，其中包含未正確使用轉(zhuǎn)向燈、不按規(guī)定連續(xù)變道、未按照車道指示方向行駛、未遵守停車讓行標(biāo)志等等。④趙司聰：《論自動駕駛的刑事風(fēng)險及應(yīng)對》，《北方法學(xué)》2022 年第2 期。對于弱人工智能已造成的刑事問題，我們尚且難以有效應(yīng)對，又如何能說對人工智能的刑事研究只是幻想、毫無意義呢？

2.對生成式人工智能的法律規(guī)制。在ChatGPT、文心一言等生成式人工智能誕生后，不僅引發(fā)了學(xué)界的關(guān)注，國家有關(guān)部門也對此表示了高度重視。為了進一步貫徹落實總體國家安全觀，維護科技安全、網(wǎng)絡(luò)安全，促進生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了關(guān)于《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡稱《管理辦法》）。其中，第四條明確規(guī)定提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會公德、公序良俗。這表明生成式人工智能產(chǎn)品也必須合法、合規(guī)、合情。不過，此項規(guī)范性文件的美中不足在于：其一，禁止性規(guī)范與義務(wù)性規(guī)范過多，不利于生成式人工智能技術(shù)的發(fā)展；其二，只強調(diào)了提供者的責(zé)任承擔(dān)問題，忽視了使用者也可能需要承擔(dān)法律責(zé)任。顯然，有關(guān)禁止性規(guī)范與義務(wù)性規(guī)范應(yīng)該如何作出規(guī)定、提供者與使用者的法律責(zé)任該如何確定，都是值得學(xué)界進一步思考與研究的重點問題。

（三）強人工智能時代的刑法風(fēng)險預(yù)防

首先，強人工智能的出現(xiàn)并非遙不可及。20 年前，誰曾想過無人駕駛汽車能夠走進我們的生活，但就在2022 年重慶、武漢兩地政府部門率先發(fā)布“自動駕駛?cè)珶o人商業(yè)化試點政策”，稱“使用蘿卜快跑就可以線上打到全無人的自動駕駛汽車”。⑤光明日報：《“全無人駕駛”汽車真的來了，你準(zhǔn)備好了嗎？》，https://baijiahao.baidu.com/s?id=1741156704520799920&wfr=spider&for=pc，訪問日期：2023 年4 月1 日。目前，無人駕駛汽車還屬于弱人工智能，就其可能引發(fā)的交通事故該如何進行追責(zé)問題尚存在使用者、制造者之間的責(zé)任分配爭議?，F(xiàn)實中，從ChatGPT3.5發(fā)展到ChatGPT4.0 只花費了三個半月時間，照此下去，憑什么說強人工智能就一定不會產(chǎn)生？到那時，強人工智能所引發(fā)的刑法風(fēng)險又該如何解決呢？

其次，社會風(fēng)險正呈現(xiàn)出大量的不確定性。當(dāng)下，依靠單純的事后處罰已經(jīng)不足以實現(xiàn)刑法的基本目的，為了維護社會基本秩序和人們的安全感，刑法在向后看懲罰實害犯罪時，還需向前看以控制風(fēng)險和預(yù)防實害犯罪的發(fā)生。當(dāng)前，人工智能技術(shù)的發(fā)展速度之快已突破一般人的想象。我們無法預(yù)測強人工智能產(chǎn)生的時間點，唯一能做的便是提前進行預(yù)防。這就要求及時對強人工智能在研發(fā)過程中可能產(chǎn)生的刑事義務(wù)及其在投入使用后可能造成的刑事風(fēng)險進行研究與論證，開展有針對性立法，從而保證強人工智能的研發(fā)成果不會危害人類的根本利益。事實上，有許多國家和國際組織已經(jīng)開始著手進行相關(guān)的立法工作，如歐盟制定的《人工智能法案》將在2024 年生效；美國商務(wù)部也在我國《管理辦法》發(fā)布的同時，就人工智能的相關(guān)問責(zé)措施正式公開征求意見，其中包括新人工智能模型在發(fā)布前是否應(yīng)經(jīng)過認證程序等。

最后，刑法體系的完善必須緊跟時代的步伐。目前，我國現(xiàn)有的刑罰種類無法適用于人工智能。在強人工智能出現(xiàn)之前，有關(guān)部門必須及時針對有形強人工智能與無形強人工智能設(shè)置相適應(yīng)的刑罰措施，從而實現(xiàn)刑罰報應(yīng)與預(yù)防目的。例如，對于有形強人工智能可以設(shè)置自由刑、銷毀等刑罰措施；對于無形強人工智能可以設(shè)置刪除數(shù)據(jù)、修改程序、刪除程序等措施。其中，刪除數(shù)據(jù)是刪除強人工智能實施犯罪行為所依賴的數(shù)據(jù)；修改程序就是通過對程序的修改，限制其學(xué)習(xí)和獲取數(shù)據(jù)的能力；刪除程序則是刪除其所有智能程序，如同判處死刑。①劉憲權(quán)：《人工智能時代的刑事責(zé)任演變：昨天、今天、明天》，《法學(xué)》2019 年第1 期。