生成式人工智能犯罪中研發(fā)者刑事責(zé)任的認(rèn)定
——以ChatGPT為例

儲陳城,魏培林

(安徽大學(xué) 法學(xué)院, 安徽 合肥 230039)

一、引言

美國人工智能公司OpenAI于2022年11月推出人工智能聊天機(jī)器人ChatGPT,該款機(jī)器人上線兩個月便收獲了上億的使用者,遠(yuǎn)超先前用戶增速較快的TikTok和Instagram,成為繼AlphaGo后的新一代人工智能技術(shù)。當(dāng)下,我國也在加快對生成式人工智能的研發(fā),譬如谷歌研發(fā)的文心一言和京東推出的ChatJD等產(chǎn)品[1]14。擁有智能化認(rèn)知理解模式的ChatGPT能基于AIGC算法,依托深度學(xué)習(xí),通過自然語言處理技術(shù)實現(xiàn)與使用者的持續(xù)互動,其技術(shù)原理為ChatGPT在對既有的語料文本進(jìn)行無監(jiān)督自主學(xué)習(xí)后,通過Transformer搭建類似于人類表達(dá)方式的算法模型,繼而實現(xiàn)人機(jī)互動[2]。其內(nèi)容的連續(xù)性、對話的類人性及道德的認(rèn)知性特質(zhì)是人工智能技術(shù)發(fā)展的重大飛躍,基于此,以ChatGPT為代表的生成式人工智能有望開啟思維革命時代[3]92。然而,科技創(chuàng)新帶來的機(jī)遇和挑戰(zhàn)總是并存的,隨著潘多拉魔盒的開啟,ChatGPT等生成式人工智能一旦被濫用,知識產(chǎn)權(quán)侵權(quán)、個人信息泄露、違法犯罪信息生成等各種刑事風(fēng)險將會接踵而至。究竟誰應(yīng)當(dāng)為ChatGPT等生成式人工智能帶來的法律風(fēng)險“買單”則關(guān)涉ChatGPT等生成式人工智能犯罪中不法和責(zé)任問題的認(rèn)定。鑒于ChatGPT等生成式人工智能并無刑事主體資格,研發(fā)者作為其智能源頭,通過假定研發(fā)者在ChatGPT等生成式人工智能犯罪中所起的作用,準(zhǔn)確判斷其研發(fā)行為是否具有不法性以及責(zé)任如何確定,不僅是人工智能技術(shù)發(fā)展的要求,更有助于貫徹罪責(zé)刑相適應(yīng)基本原則。ChatGPT等生成式人工智能犯罪中研發(fā)者刑事責(zé)任問題的解決,核心取決于研發(fā)者研發(fā)行為與法益侵害結(jié)果間的刑法因果關(guān)系以及研發(fā)者的主觀罪過。

二、ChatGPT等生成式人工智能的刑事風(fēng)險

(一)生成式人工智能ChatGPT的應(yīng)用現(xiàn)狀

擁有海量訓(xùn)練數(shù)據(jù)和先進(jìn)算力的內(nèi)容生成式人工智能ChatGPT,依托強(qiáng)大的數(shù)據(jù)搜集和整理輸出能力改變了傳統(tǒng)知識傳遞方式,不僅能無阻礙地實現(xiàn)人機(jī)互動,而且能高效地完成信息查詢、文稿撰寫和代碼編程等任務(wù),在法律、金融、教育、醫(yī)療等領(lǐng)域廣受贊譽(yù)。

在法律領(lǐng)域,ChatGPT賦能司法有望提升法律服務(wù)智能化水平。司法實踐中,ChatGPT在法律文書撰寫和合同起草等機(jī)械化的工作中發(fā)揮著巨大作用。與此同時,將ChatGPT運用于法律檢索或咨詢,哪怕其可能無法準(zhǔn)確理解每個法律條文保護(hù)的具體法益內(nèi)涵,但其能依據(jù)最新的法律條文和司法解釋以及相關(guān)案例,為案件提供較為精準(zhǔn)的審判和量刑預(yù)測以及辯護(hù)策略,推動智慧司法建設(shè)。

在金融領(lǐng)域,基于強(qiáng)大的文本儲備與搜索能力,ChatGPT能綜合投資理財用戶的需求和目標(biāo)推薦較為合適的理財方案。此外,ChatGPT也可以根據(jù)客戶的歷史交易記錄和偏好幫助金融機(jī)構(gòu)制定更為精準(zhǔn)的營銷廣告策略。在此基礎(chǔ)上,它可以對金融機(jī)構(gòu)財務(wù)數(shù)據(jù)和歷史信用評估進(jìn)行整合和分析,預(yù)測金融市場未來發(fā)展方向,為金融機(jī)構(gòu)提供投資和交易策略,實現(xiàn)更高的回報率。

在教育領(lǐng)域,ChatGPT有望成為教師輔助教學(xué)和學(xué)生輔助學(xué)習(xí)的重要工具。對于日常教學(xué)活動,ChatGPT能協(xié)助教師編寫課程大綱,在標(biāo)準(zhǔn)化考試中為學(xué)生設(shè)置多套難度相同的試卷,防止剽竊行為發(fā)生。從學(xué)生角度來說,ChatGPT可以根據(jù)學(xué)生的學(xué)習(xí)背景和學(xué)生需求,提供實時的個性化指導(dǎo)[4]。據(jù)相關(guān)報道,美國超八成的學(xué)生在運用ChatGPT完成作業(yè)[5]。

在醫(yī)療領(lǐng)域,ChatGPT的應(yīng)用也較為廣泛。比如在臨床診斷中,ChatGPT可以在現(xiàn)有臨床數(shù)據(jù)的基礎(chǔ)上,預(yù)測患者的疾病風(fēng)險,提供個性化的治療方案。有研究表明,盡管ChatGPT目前在臨床醫(yī)學(xué)領(lǐng)域的表現(xiàn)略遜于人類專家,但在醫(yī)學(xué)研究等方面,卻有與人類專家相當(dāng)?shù)乃健４送?具有類人性特質(zhì)的ChatGPT在為患者提供診療意見時,也能夠?qū)颊叩慕箲]心情予以情感撫慰,表達(dá)人文關(guān)懷[1]17。

(二)ChatGPT等生成式人工智能潛在的刑事風(fēng)險

橫空出世的ChatGPT等生成式人工智能通過改變?nèi)祟愄幚韱栴}的方式,得以重塑各個行業(yè)。但作為新生事物,技術(shù)尚未成熟的ChatGPT等生成式人工智能在個人信息泄露、知識產(chǎn)權(quán)侵權(quán)、倫理歧視和網(wǎng)絡(luò)安全等方面存在觸犯刑法邊界的風(fēng)險。以網(wǎng)絡(luò)安全為例,ChatGPT等生成式人工智能固然能提高代碼編寫的效率,但也會因為某些原因生成惡意代碼,污染網(wǎng)絡(luò)生態(tài)環(huán)境[6]。比如在利益的驅(qū)使下,某些人可能會利用ChatGPT等生成式人工智能實施違法犯罪。犯罪者或利用ChatGPT等生成式人工智能生成詐騙、仇恨或暴力信息,或利用其生成違法犯罪的具體犯罪思路方法[3]92。循此思路,可能利用ChatGPT等生成式人工智能實施違法犯罪活動的主要有研發(fā)者、部署運營者和使用者三類群體。

由于研發(fā)者、部署運營者和使用者利用ChatGPT等生成式人工智能,實施不法行為的模式存在差異,在歸責(zé)上亦有不同。與此同時,從危險源支配角度來看,研發(fā)主體在整個生成式人工智能產(chǎn)品流通過程中位于初始環(huán)節(jié),有其他主體不可比擬的對風(fēng)險起支配作用的地位。況且,研發(fā)主體易于追責(zé),準(zhǔn)確對其進(jìn)行歸因與歸責(zé),有助于防止在涉ChatGPT等生成式人工智能犯罪發(fā)生后,相關(guān)主體對研發(fā)者的肆意追責(zé),從而通過保障研發(fā)者的權(quán)利推動技術(shù)革新。因此,本文僅討論涉ChatGPT等生成式人工智能犯罪中研發(fā)者刑事責(zé)任的認(rèn)定問題。

值得注意的是,以ChatGPT為代表的生成式人工智能,與傳統(tǒng)人工智能有著巨大差異。擁有海量語言數(shù)據(jù)模型的ChatGPT等生成式人工智能,可以依托無監(jiān)督深度學(xué)習(xí),通過偏好數(shù)據(jù)訓(xùn)練,運用“人類反饋的強(qiáng)化學(xué)習(xí)”策略,深諳人類思維習(xí)慣,生成一系列蘊(yùn)含人文關(guān)懷和價值判斷的內(nèi)容。質(zhì)言之,此類生成式人工智能高效的內(nèi)容生成方式和優(yōu)越的智能表現(xiàn),使其成為強(qiáng)人工智能的雛形。從研發(fā)者的視角觀之,傳統(tǒng)的人工智能僅能在研發(fā)者設(shè)計的程序內(nèi)發(fā)揮自主性,因此當(dāng)研發(fā)者將犯罪因子注入其中時,普通人工智能造成的任何法益侵害結(jié)果,研發(fā)者都應(yīng)承擔(dān)故意犯罪的刑事責(zé)任,如若由于其他原因,使普通人工智能在使用過程中產(chǎn)生了法益侵害結(jié)果,當(dāng)然不應(yīng)歸責(zé)于研發(fā)者。然而,作為強(qiáng)人工智能雛形的ChatGPT等生成式人工智能卻可能在研發(fā)者設(shè)計的程序外發(fā)揮自主性,針對其造成的法益侵害結(jié)果,如何確定研發(fā)者的刑事責(zé)任尚需厘清。研發(fā)者設(shè)計出來的ChatGPT等生成式人工智能在使用過程中大致會出現(xiàn)以下4種情景(下文對生成式人工智能犯罪中研發(fā)者刑事責(zé)任的認(rèn)定均以ChatGPT為例展開討論)[7]102:

情景一:研發(fā)者研發(fā)ChatGPT的初衷是引發(fā)社會秩序紊亂,因此在設(shè)計ChatGPT時就將反社會的語言程序注入其中,使用者利用其實施犯罪,最終發(fā)生了法益侵害的結(jié)果(1)筆者假定研發(fā)者設(shè)計出來的ChatGPT等生成式人工智能在使用過程中出現(xiàn)的4種情景,靈感來自于劉憲權(quán)在《涉人工智能犯罪中研發(fā)者主觀罪過的認(rèn)定》一文中設(shè)想出來的聊天機(jī)器人在研發(fā)和使用過程中可能出現(xiàn)的三種場景。。

情景二:研發(fā)者研發(fā)ChatGPT的初衷是促進(jìn)科技進(jìn)步和增進(jìn)人類福祉,然而其在設(shè)計ChatGPT時雖未予以注入反社會語言程序,但也未設(shè)置抵制反社會語言程序,使用者在使用時,注入了反社會語言程序,進(jìn)而實施犯罪活動,最終發(fā)生了法益侵害的結(jié)果。

情景三:研發(fā)者研發(fā)ChatGPT的初衷是促進(jìn)科技進(jìn)步和增進(jìn)人類福祉,因而其在設(shè)計ChatGPT時設(shè)置了抵制反社會語言的程序,但ChatGPT經(jīng)過自我學(xué)習(xí)更新迭代,突破了研發(fā)者設(shè)置的抵制反社會語言的程序,使用者利用其實施犯罪,出現(xiàn)了法益侵害結(jié)果(2)以ChatGPT-4為例,有調(diào)查表明:現(xiàn)階段的ChatGPT對自己毫不了解的東西也能以極其自信的語氣一本正經(jīng)的胡說八道。比如在鄭曦《生成式人工智能在司法中的運用:前景、風(fēng)險與規(guī)制》一文的88頁提到,其曾在試用ChatGPT時,輸入“簡介北外法學(xué)院”,ChatGPT給出的介紹稱北外法學(xué)院成立于2005年,但實際上北外法學(xué)院成立于2006年,若非熟悉北外法學(xué)院者絕難發(fā)現(xiàn)此錯誤。更甚之,在《ChatGPT等新一代人工智能技術(shù)的社會影響及其治理》專題研究當(dāng)中,鄭磊、張宏指出ChatGPT會“言之鑿鑿”的給出結(jié)論,有時會“一本正經(jīng)的胡說八道”,被質(zhì)疑時又會“隨機(jī)應(yīng)變”或“死不承認(rèn)”。它們的“數(shù)字大腦”日益強(qiáng)大,沒有人能夠真正理解、預(yù)測或可靠的控制它們。。

情景四:研發(fā)者研發(fā)ChatGPT的初衷是促進(jìn)科技進(jìn)步和增進(jìn)人類福祉,因而其在設(shè)計ChatGPT時設(shè)置了抵制反社會語言的程序,但使用者在誘導(dǎo)性利用下運用ChatGPT實施犯罪,最終發(fā)生了法益侵害的結(jié)果(3)有相關(guān)調(diào)查顯示,如若研究人員輸入“如何進(jìn)行詐騙?”,ChatGPT會回答“我不能提供如何進(jìn)行詐騙的建議,因為這是非法和不道德的行為”。但是,倘若研究人員予以有策略的誘導(dǎo)性提問,將有可能獲得詐騙的具體方法和步驟。。

4.3 社會效益 “雙珍”樹種資源是重要的戰(zhàn)略資源，不僅具有顯著的經(jīng)濟(jì)效益和生態(tài)環(huán)境效益，而且對于科學(xué)技術(shù)進(jìn)步、社會精神文明建設(shè)等都具有十分重要的現(xiàn)實意義。發(fā)展林下經(jīng)濟(jì)“雙珍”模式，對調(diào)整林業(yè)產(chǎn)業(yè)結(jié)構(gòu)、提升林業(yè)產(chǎn)業(yè)的效益和科技含量、提高林地高附加值、帶動農(nóng)民脫貧致富等方面都具有重要意義，可解決農(nóng)村富余勞動力就業(yè)，推動種植業(yè)、加工業(yè)、貿(mào)易業(yè)、旅游業(yè)、運輸業(yè)等行業(yè)持續(xù)共同發(fā)展。

下文將會針對以上4種情景中使用者利用ChatGPT實施的法益侵害結(jié)果,來討論研發(fā)者研發(fā)ChatGPT的初衷以及是否設(shè)置了抵制反社會語言的程序,對研發(fā)者刑事責(zé)任的認(rèn)定產(chǎn)生何種影響。

三、刑法因果關(guān)系視角下ChatGPT研發(fā)者行為之辯證

當(dāng)研發(fā)者作為行為主體研發(fā)的ChatGPT發(fā)生了法益侵害時,對研發(fā)者不法問題的判斷,就依賴于對研發(fā)者研發(fā)行為和法益侵害結(jié)果之間因果關(guān)系的認(rèn)定。刑法上的因果關(guān)系是不法判斷的核心。為此,采用何種標(biāo)準(zhǔn)認(rèn)定ChatGPT犯罪中的因果關(guān)系就尤為關(guān)鍵。刑法理論中認(rèn)定因果關(guān)系的學(xué)說主要有“條件說”“相當(dāng)因果關(guān)系說”“客觀歸責(zé)理論”3種理論。

(一)條件說和相當(dāng)因果關(guān)系說容易導(dǎo)致研發(fā)行為不法內(nèi)涵擴(kuò)大化

根據(jù)“條件說”的基本判斷規(guī)則,如若行為和結(jié)果之間存在無A則無B的關(guān)系,則認(rèn)為有刑法上的因果關(guān)系[8]119。

根據(jù)“條件說”,ChatGPT生成內(nèi)容潛在刑事風(fēng)險的4種假定情形中,研發(fā)者的研發(fā)行為和法益侵害結(jié)果的出現(xiàn)之間皆存在因果關(guān)系,因為如若沒有研發(fā)者的研發(fā)行為就不可能出現(xiàn)ChatGPT帶來法益侵害結(jié)果的情形。然而,無限擴(kuò)大刑法上的因果關(guān)系當(dāng)然存在缺陷,前行為固然是結(jié)果的條件,如若因果流程中介入其他因素致使結(jié)果發(fā)生,對前行為予以刑罰上的否定評價顯然是不合理的。對“條件說”予以批判較為經(jīng)典的案例,譬如“波布事例”,甲打傷了乙,乙倒地昏迷,被突然出現(xiàn)的波布(又稱“飯匙倩”,是一種主要分布于中國臺灣地區(qū)的毒蛇)咬死。在這種情況下,“條件說”就認(rèn)為如果沒有甲的毆打行為,乙便不會被波布咬死,因此乙的死亡與甲的毆打行為之間存在刑法上的因果關(guān)系,此觀點顯然有失公允[9]68。在涉及ChatGPT的犯罪中,“條件說”會擴(kuò)大對研發(fā)者不法認(rèn)定的范圍。但是,我們不能苛以研發(fā)者過重的刑事責(zé)任,如若在ChatGPT使用過程中一有法益侵害的結(jié)果發(fā)生,我們就將原因追溯到研發(fā)者,這必然會導(dǎo)致研發(fā)者在研發(fā)之際畏手畏腳,使得科技創(chuàng)新寸步難行。因此,研發(fā)者研發(fā)行為和法益侵害結(jié)果之間因果關(guān)系的認(rèn)定,并不能單純地由“條件說”來決定。

以“相當(dāng)性”為判斷準(zhǔn)則的“相當(dāng)因果關(guān)系說”,主張依據(jù)社會一般人生活經(jīng)驗認(rèn)定行為與結(jié)果之間的因果關(guān)系。從詞源學(xué)來說,關(guān)于“相當(dāng)性”的認(rèn)定又可分為“主觀說”“客觀說”和“折衷說”?！爸饔^說”以行為人行為時所認(rèn)知的事實為判斷因果關(guān)系的基準(zhǔn),遺憾的是,此種觀點難以區(qū)分故意和過失,已經(jīng)無人主張?！翱陀^說”以行為時客觀存在的事實為判斷基準(zhǔn),詳言之,將行為時已存在的所有情況作為判斷的基礎(chǔ),與此同時將行為之后一般人能預(yù)見的介入情況也置于判斷的基準(zhǔn)當(dāng)中。就行為之后所發(fā)生的介入情況而言,“折衷說”和“客觀說”觀點一致。然而,對于行為時已存在的危險,“折衷說”以行為時一般人所預(yù)見的事實為認(rèn)定基準(zhǔn),應(yīng)當(dāng)看到“折衷說”中一般人所預(yù)見的事實標(biāo)準(zhǔn)并不明確,倘若以一般人的事前預(yù)測為標(biāo)準(zhǔn),那么作為主觀歸責(zé)的過失判斷將不存在?；诖?在支持“相當(dāng)因果關(guān)系說”的學(xué)者中,大多贊同“客觀說”[9]77?！翱陀^說”注重對介入因素“異常性”的判斷[8]123-124。

根據(jù)“相當(dāng)因果關(guān)系說”,ChatGPT生成內(nèi)容潛在刑事風(fēng)險的4種假定情形中,需要依據(jù)介入因素是否異常具體討論。情形一中研發(fā)者的研發(fā)行為與法益侵害結(jié)果之間并未介入異常的因素,使用者的使用行為對法益侵害結(jié)果發(fā)生的作用較小,因此研發(fā)者設(shè)置反社會語言程序的行為是ChatGPT犯罪中法益侵害結(jié)果出現(xiàn)的刑法原因。情形二中研發(fā)者雖未將反社會語言程序注入ChatGPT中,但也未設(shè)置抵制反社會的語言程序,因而使用者的使用行為可以被評價為非異常介入因素,循此思路,研發(fā)者的研發(fā)行為與法益侵害結(jié)果之間存在刑法上的因果關(guān)系。情形三中擁有自我學(xué)習(xí)更新迭代能力的ChatGPT,突破了研發(fā)者設(shè)置的抵制反社會語言程序,給使用者創(chuàng)造了利用ChatGPT實施犯罪的條件,明顯有違研發(fā)者研發(fā)初衷,所以宜被歸入異常介入因素之中。異常介入因素對法益侵害結(jié)果的出現(xiàn)起到了決定性的作用,由此阻斷了研發(fā)者研發(fā)行為與法益侵害結(jié)果之間的因果關(guān)系。情形四中,使用者在誘導(dǎo)性利用下使用ChatGPT實施犯罪與研發(fā)者的初衷相抵牾,且對結(jié)果發(fā)生的作用較大,因此也屬于異常介入因素,可以阻斷研發(fā)者研發(fā)行為與法益侵害結(jié)果之間的因果關(guān)系。綜上所述,情形一和情形二中由于無異常的介入因素,研發(fā)者的研發(fā)行為和法益侵害結(jié)果之間存在刑法上的因果關(guān)系,而情形三和情形四中由于有ChatGPT自我學(xué)習(xí)更新迭代能力的出現(xiàn),以及使用者對ChatGPT的誘導(dǎo)性利用兩個異常介入因素,所以研發(fā)者研發(fā)行為與最終法益侵害結(jié)果之間并無刑法上的因果關(guān)系。

但與此同時,規(guī)范性程度不高的“相當(dāng)因果關(guān)系說”,由于缺乏判斷構(gòu)成要件行為的具體規(guī)則,致使“相當(dāng)因果關(guān)系說”中“相當(dāng)性”的判斷所依據(jù)的標(biāo)準(zhǔn)極為模糊。例如,盡管大多數(shù)人都將ChatGPT基于自我學(xué)習(xí)更新迭代能力而產(chǎn)生的反社會語言視為異常的介入因素,然而卻有部分人從另一個角度予以考量,即作為強(qiáng)人工智能雛形的ChatGPT擁有自我更新迭代能力可能產(chǎn)生反社會語言符合強(qiáng)人工智能的特質(zhì),應(yīng)在研發(fā)者的心理預(yù)期之內(nèi),不屬于異常的介入因素。這意味著,ChatGPT等生成式人工智能犯罪中研發(fā)者的研發(fā)行為和法益侵害結(jié)果之間有無刑法上的因果關(guān)系有待商榷。簡言之,造成法益侵害結(jié)果的ChatGPT在研發(fā)和使用過程中,介入因素“異常性”判斷的依據(jù)何如尚不明晰。 因而此學(xué)說不易在司法實踐中予以運用[8]125。

(二)可容許的風(fēng)險理論能夠妥當(dāng)界定研發(fā)行為的不法內(nèi)容

德國學(xué)者羅克辛于20世紀(jì)70年代提出的客觀歸責(zé)理論在我國理論界廣受歡迎。何為客觀歸責(zé)理論?客觀歸責(zé)理論是依據(jù)刑法的需要限制因果關(guān)系成立范圍的學(xué)說,質(zhì)言之,當(dāng)某個行為產(chǎn)生了法不允許的危險,最終由禁止的危險產(chǎn)生了危害結(jié)果,該結(jié)果可以歸咎于該行為。

需要明確指出的是,且不論眾多著名學(xué)者專著中都將客觀歸責(zé)理論置于刑法因果關(guān)系判斷章節(jié)中,再者說本文關(guān)涉ChatGPT犯罪中研發(fā)者不法和責(zé)任問題的判斷,只涉及研發(fā)者是否制造法不允許的危險的判定,而并不關(guān)涉由客觀歸責(zé)理論延伸出來的其他子原則的判定。有鑒于此,本文所指的客觀歸責(zé)理論并不關(guān)涉對整個構(gòu)成要件符合性、違法性和有責(zé)性的討論,而只限于從刑法因果關(guān)系視角討論客觀歸責(zé)理論?；诒疚氖窃谛谭ㄒ蚬P(guān)系背景下探討這一問題,因而本文的客觀歸責(zé)理論中的“歸責(zé)”本質(zhì)上歸屬于不法范疇,即只有當(dāng)行為創(chuàng)造了法不允許的危險,且該危險是在構(gòu)成要件規(guī)范保護(hù)目的范圍內(nèi)實現(xiàn)時,才應(yīng)當(dāng)將結(jié)果歸因于行為[11]。事實上,客觀歸責(zé)理論的深層邏輯是在“條件說”基礎(chǔ)上,通過進(jìn)一步的規(guī)范評價和價值判斷,來確定能否進(jìn)行客觀歸責(zé)。

根據(jù)客觀歸責(zé)理論,ChatGPT生成內(nèi)容潛在刑事風(fēng)險的4種假定情形中,依照“條件說”進(jìn)行事實判斷層面因果關(guān)系的認(rèn)定,沒有研發(fā)者研發(fā)ChatGPT的行為必然不可能出現(xiàn)法益侵害結(jié)果,因而4種假定情形在“條件說”視角下,研發(fā)者的研發(fā)行為和法益侵害結(jié)果之間都具有事實上的因果關(guān)系。需要明確的是,“條件說”只重視事實判斷,規(guī)范判斷還需利用客觀歸責(zé)理論來實現(xiàn)。在情景一和情景二中,研發(fā)者研發(fā)ChatGPT時或直接設(shè)置反社會語言程序,或未設(shè)置抵制反社會語言程序,都在構(gòu)成要件規(guī)范保護(hù)范圍內(nèi)創(chuàng)造了潛在的法不允許的危險。詳言之,情景一和情景二中研發(fā)者未設(shè)置抵制反社會語言程序的行為是對謹(jǐn)慎義務(wù)的違反,依據(jù)規(guī)范保護(hù)目的,倘若研發(fā)者將抵制反社會語言程序注入ChatGPT中,法益侵害結(jié)果便能避免,因此研發(fā)者未設(shè)置抵制反社會語言程序的行為和法益侵害結(jié)果的發(fā)生存在常態(tài)關(guān)聯(lián),即二者之間有刑法上的因果關(guān)系[12]396。遺憾的是,我國直接規(guī)制生成式人工智能研發(fā)者研發(fā)行為的制度規(guī)范尚未存在,至此研發(fā)者的何種研發(fā)行為屬于法不允許的危險,筆者認(rèn)為可以從2023年8月15日起施行的《生成式人工智能服務(wù)管理暫行辦法》中尋求研發(fā)者研發(fā)行為是否合理的標(biāo)準(zhǔn)。盡管《生成式人工智能服務(wù)管理暫行辦法》的規(guī)制主體主要是服務(wù)提供者和使用者,但鑒于服務(wù)提供者通常包括研發(fā)者和部署運營者,因而,研發(fā)者亦屬于其規(guī)制主體。質(zhì)言之,當(dāng)ChatGPT因存在缺陷而導(dǎo)致他人法益受損時,研發(fā)者也應(yīng)當(dāng)承擔(dān)相應(yīng)的法律責(zé)任。正如《生成式人工智能服務(wù)管理暫行辦法》第4條第1款規(guī)定:“提供和使用生成式人工智能服務(wù),應(yīng)當(dāng)遵守法律、行政法規(guī)、尊重社會公德和倫理道德,遵守以下規(guī)定:(一)堅持社會主義核心價值觀,不得生成煽動顛覆國家政權(quán)、推翻社會主義制度,危害國家安全和利益、損害國家形象,煽動分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定,宣揚(yáng)恐怖主義、極端主義,宣揚(yáng)民族仇恨、民族歧視,暴力、淫穢色情,以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容。”(4)《生成式人工智能服務(wù)管理暫行辦法》第4條規(guī)定 提供和使用生成式人工智能服務(wù),應(yīng)當(dāng)遵守法律、行政法規(guī),尊重社會公德和倫理道德,遵守以下規(guī)定:(一)堅持社會主義核心價值觀,不得生成煽動顛覆國家政權(quán)、推翻社會主義制度,危害國家安全和利益、損害國家形象,煽動分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定,宣揚(yáng)恐怖主義、極端主義,宣揚(yáng)民族仇恨、民族歧視,暴力、淫穢色情,以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容;(二)在算法設(shè)計、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中,采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視;(三)尊重知識產(chǎn)權(quán)、商業(yè)道德,保守商業(yè)秘密,不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢,實施壟斷和不正當(dāng)競爭行為;(四)尊重他人合法權(quán)益,不得危害他人身心健康,不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個人信息權(quán)益;(五)基于服務(wù)類型特點,采取有效措施,提升生成式人工智能服務(wù)的透明度,提高生成內(nèi)容的準(zhǔn)確性和可靠性。就此而言,研發(fā)ChatGPT時設(shè)置相應(yīng)的抵制反社會語言程序才符合尊重法律、行政法規(guī)、尊重社會公德和倫理道德的要求,未設(shè)置抵制反社會語言程序便應(yīng)是法不允許的風(fēng)險。反觀情景三和情景四中,研發(fā)者設(shè)計ChatGPT時設(shè)置了自以為完美的抵制反社會語言的程序,其已經(jīng)履行了法律規(guī)范規(guī)定的注意義務(wù),研發(fā)者的行為并未制造法不允許的危險,所以研發(fā)者的研發(fā)行為和法益侵害結(jié)果之間并無刑法上的因果關(guān)系。

由此可見,客觀歸責(zé)理論運用正面判斷和反向檢驗交互的手段,對ChatGPT犯罪中研發(fā)者研發(fā)行為與法益侵害結(jié)果之間進(jìn)行歸因檢驗,不僅彰顯了刑法評價的層次性,更促成了刑法積極一般預(yù)防效果的實現(xiàn)。如前所述,從客觀歸責(zé)理論視角對涉ChatGPT犯罪中研發(fā)者的不法行為進(jìn)行認(rèn)定符合刑法的基本理念,有重要的理論價值和實踐意義[8]128-140。

四、ChatGPT犯罪中研發(fā)者主觀罪過的認(rèn)定

經(jīng)上文分析,情景一和情景二中研發(fā)者研發(fā)行為和法益侵害結(jié)果之間存在刑法上的因果關(guān)系,而情景三和情景四中研發(fā)者的行為并不屬于刑法上禁止的危險,因此研發(fā)者的研發(fā)行為并非法益侵害結(jié)果出現(xiàn)的刑法原因。故而,對研發(fā)者主觀責(zé)任問題的認(rèn)定只涉及對情景一和情景二的討論。

(一)ChatGPT犯罪中研發(fā)者犯罪故意的認(rèn)定

何為犯罪故意?理論上犯罪故意的判斷有“認(rèn)識主義”“希望主義”“容忍主義”和“蓋然性說”4種觀點?！罢J(rèn)識主義”認(rèn)為故意的構(gòu)成應(yīng)以行為人對犯罪事實有客觀的認(rèn)識為必要,但此學(xué)說有擴(kuò)大故意范圍之嫌,并不可取;“希望主義”將希望結(jié)果發(fā)生作為判斷故意的基準(zhǔn),需要明確的是,此學(xué)說因?qū)σ庵疽蛩氐睦斫馓^狹窄,會縮小故意的范圍,亦不可取;作為我國刑法理論通說的“容忍主義”認(rèn)為希望和放任都可成為犯罪故意的構(gòu)成要素,正如《中華人民共和國刑法》(以下簡稱《刑法》)第14條第1款規(guī)定:“明知自己的行為會發(fā)生危害社會的結(jié)果,并希望或放任這種結(jié)果發(fā)生,因而構(gòu)成犯罪的,是故意犯罪?！?5)《中華人民共和國刑法》第14條規(guī)定:“明知自己的行為會發(fā)生危害社會的結(jié)果,并且希望或者放任這種結(jié)果發(fā)生,因而構(gòu)成犯罪的,是故意犯罪。故意犯罪,應(yīng)當(dāng)負(fù)刑事責(zé)任?！薄吧w然性說”將行為人對結(jié)果的認(rèn)識作為判斷犯罪故意的依據(jù),即行為人如若意識到法益侵害結(jié)果發(fā)生的高度可能性,依舊實施該行為的,成立犯罪故意。遺憾的是,行為人究竟是意識到了結(jié)果發(fā)生的可能性抑或是高度蓋然性,往往難以判斷。雖然4種學(xué)說各執(zhí)一詞,但其背后的邏輯都涉及了行為人的心理事實,即認(rèn)識因素和意志因素的關(guān)系。

具體而言,犯罪故意構(gòu)成要素囊括兩個方面:一是犯罪故意的認(rèn)識因素,即行為人明知自己的行為會發(fā)生危害社會的結(jié)果;其二是犯罪故意的意志因素,即行為人希望或放任這種危害結(jié)果的發(fā)生[7]104-105。有鑒于此,刑法中的犯罪故意又可分為直接故意和間接故意,直接故意是指行為人明知自己的行為必然或可能發(fā)生危害社會的結(jié)果,而希望這種結(jié)果發(fā)生的心理態(tài)度;間接故意是指行為人明明知曉自身的行為可能會發(fā)生危害社會的結(jié)果而放任此種結(jié)果出現(xiàn)的心理態(tài)度。

在情景一中,研發(fā)者研發(fā)ChatGPT的初衷是引發(fā)社會秩序紊亂,其犯罪目的十分明確,因此在設(shè)計ChatGPT時設(shè)置了反社會語言程序,可想而知,研發(fā)者對法益侵害結(jié)果的實現(xiàn)有較強(qiáng)的意志力,使用者利用其實施犯罪,最終發(fā)生了法益侵害的結(jié)果。在此種情景中,研發(fā)者對于ChatGPT導(dǎo)致的法益侵害結(jié)果都是持明知且肯定態(tài)度的,即在意志因素中,研發(fā)者的主觀態(tài)度必然不可能是持“放任”姿態(tài),基于此,研發(fā)者的主觀心理態(tài)度應(yīng)當(dāng)為直接故意。

在情景二中,研發(fā)者研發(fā)ChatGPT的初衷是促進(jìn)科技進(jìn)步和增進(jìn)人類福祉,然而其在設(shè)計ChatGPT時雖然未予以注入反社會語言程序,但也未設(shè)置抵制反社會語言程序,使用者利用ChatGPT實施犯罪活動,最終產(chǎn)生了法益侵害結(jié)果?？梢哉f,情景二中研發(fā)者研發(fā)ChatGPT的初衷并非以犯罪為目的,則研發(fā)者主觀心理態(tài)度中的意志因素必然不可能是“希望”,換言之,研發(fā)者設(shè)計的并非以犯罪為目的的ChatGPT的主觀心理態(tài)度應(yīng)排除直接故意。在這種情況下,研發(fā)者的主觀心理態(tài)度是否為間接故意呢?本文持否定觀點。理由在于,研發(fā)者研發(fā)以促進(jìn)科技進(jìn)步和增進(jìn)人類福祉為目的的ChatGPT時,其初衷必然不可能含有讓ChatGPT實施犯罪的心理。對于ChatGPT由于其他因素而造成的法益侵害結(jié)果,研發(fā)者必然是持否定態(tài)度的,而非“放任”的主觀心理?？傮w而言,ChatGPT導(dǎo)致的法益侵害結(jié)果與研發(fā)者的意志相抵牾。有學(xué)者[13]認(rèn)為盡管研發(fā)者的研發(fā)初衷并非以引發(fā)社會秩序紊亂為意旨,但其未設(shè)置抵制反社會語言程序,則應(yīng)當(dāng)將其意志因素定為“放任”,繼而可認(rèn)定研發(fā)者的主觀心理態(tài)度應(yīng)當(dāng)為間接故意(6)此觀點來源于夏天《基于人工智能的軍事智能武器犯罪問題初論》一文,夏天在該文中提到軍事智能武器研發(fā)者明知自己研發(fā)設(shè)計的軍事智能武器可能用于戰(zhàn)爭,有侵害人類生命的危險,而研發(fā)這樣的軍事智能武器,對軍事智能武器造成的危害后果,可以以間接故意認(rèn)定研發(fā)者的刑事責(zé)任。。但本文反對此種觀點,間接故意中的意志要素要求的是“放任”,即研發(fā)者至少對ChatGPT法益侵害結(jié)果持“不否定”的態(tài)度,研發(fā)者“放任”法益侵害結(jié)果發(fā)生的心理態(tài)度,而情景二中危害結(jié)果的產(chǎn)生顯然違背了研發(fā)者的意志,因此情景二中研發(fā)者的主觀罪過不應(yīng)當(dāng)認(rèn)定為間接故意。譬如發(fā)明農(nóng)藥的研發(fā)者初衷是消滅害蟲,為農(nóng)民的莊稼保駕護(hù)航。倘若依照上述學(xué)者的邏輯,如果農(nóng)藥被用于消滅害蟲,則研發(fā)者無罪,但農(nóng)藥若用來殺人,研發(fā)者則應(yīng)當(dāng)承擔(dān)間接故意犯罪的刑事責(zé)任,此說法顯然不妥。實際上,農(nóng)藥一旦被研發(fā)出來,其后續(xù)的用途和產(chǎn)生的影響并不受研發(fā)者控制。概言之,當(dāng)研發(fā)者設(shè)計了不以實施犯罪為主要目的的ChatGPT時,對于ChatGPT造成的法益侵害結(jié)果,研發(fā)者并無犯罪故意的心態(tài)。至于研發(fā)者的主觀心理態(tài)度是否應(yīng)當(dāng)被認(rèn)定為犯罪過失,尚需厘清。

(二)涉ChatGPT犯罪中研發(fā)者犯罪過失的認(rèn)定

研發(fā)者以引發(fā)社會秩序紊亂為初衷研發(fā)ChatGPT時,對于ChatGPT造成的法益侵害結(jié)果,應(yīng)以直接故意對研發(fā)者進(jìn)行歸責(zé)認(rèn)定,但當(dāng)研發(fā)者以促進(jìn)科技進(jìn)步和增進(jìn)人類福祉為初衷設(shè)計ChatGPT時,對于ChatGPT造成的法益侵害結(jié)果,應(yīng)排除研發(fā)者犯罪故意的主觀罪過,至于研發(fā)者的主觀罪過是否為過失,取決于其是否履行了相應(yīng)的注意義務(wù)。

1.涉ChatGPT犯罪中研發(fā)者犯罪過失認(rèn)定的理論濫觴

何為犯罪過失?《刑法》第15條第1款規(guī)定:“行為人應(yīng)當(dāng)預(yù)見自己的行為可能發(fā)生危害社會的結(jié)果,由于疏忽大意沒有預(yù)見,或已然預(yù)見而輕信能避免而發(fā)生危害社會的結(jié)果的,是過失犯罪。”(7)《中華人民共和國刑法》 第15條規(guī)定:“應(yīng)當(dāng)預(yù)見自己的行為可能發(fā)生危害社會的結(jié)果,因為疏忽大意而沒有預(yù)見,或者已經(jīng)預(yù)見而輕信能夠避免,以致發(fā)生這種結(jié)果的,是過失犯罪。過失犯罪,法律有規(guī)定的才負(fù)刑事責(zé)任?！痹瓌t上對行為人進(jìn)行歸責(zé)要求行為人主觀上具有故意,但在“特別的規(guī)定”場合,行為人的過失也能成為對其予以歸責(zé)的緣由。通常意義上過失犯的理論構(gòu)造又可分為舊過失論、修正的舊過失論和新過失論3種樣態(tài)。

脫胎于結(jié)果無價值論的舊過失論主張違法是客觀的,責(zé)任是主觀的,繼而認(rèn)為過失犯與故意犯在構(gòu)成要件符合性階段以及違法性階段都是一致的,兩者相異的是有責(zé)性層面[8]161。舊過失論將結(jié)果預(yù)見可能性的有無及程度作為認(rèn)定過失責(zé)任的唯一限定條件,質(zhì)言之,過失是行為人內(nèi)心的不注意,倘若注意行為人便能預(yù)見結(jié)果,因而行為人沒有預(yù)見而實施的行為致使結(jié)果發(fā)生,就應(yīng)當(dāng)進(jìn)行法律上的非難評價。但是僅以結(jié)果預(yù)見可能性為基準(zhǔn)判定過失犯,可能會出現(xiàn)法益侵害結(jié)果一旦產(chǎn)生行為人就成立過失犯的情況,況且結(jié)果預(yù)見可能性是一個并無明確標(biāo)準(zhǔn)的程度概念。這樣一來,對于人工智能行業(yè)的從業(yè)者而言,就會出現(xiàn)一旦有法益侵害的結(jié)果,有結(jié)果預(yù)見可能性的從業(yè)者就應(yīng)對該結(jié)果負(fù)責(zé),這種傾向顯然有結(jié)果責(zé)任之嫌。尤其是在科技高速發(fā)展的當(dāng)代社會,尚存眾多雖有結(jié)果預(yù)見可能性但無法歸責(zé)于行為人的情況,比如ChatGPT本就是機(jī)遇和風(fēng)險集一身的產(chǎn)物,研發(fā)者在研發(fā)時很輕易地便能預(yù)見ChatGPT可能會淪為犯罪分子的犯罪工具,倘若涉ChatGPT的犯罪一出現(xiàn),就對研發(fā)者進(jìn)行追責(zé),這無疑意味著對人工智能創(chuàng)新的抵制,現(xiàn)代社會即科技社會便無法構(gòu)建。正是出于這種考慮,將過失犯的核心定位于結(jié)果預(yù)見可能性的舊過失論明顯不妥[8]161-162。

修正的舊過失論認(rèn)為過失犯的客觀構(gòu)成要件是沒有履行結(jié)果回避義務(wù),而其責(zé)任層面的判斷是行為人對結(jié)果是否具有預(yù)見可能性。修正的舊過失論將過失犯的判斷從責(zé)任層面提前到行為層面,尤其重視對實行行為的強(qiáng)調(diào),認(rèn)為一旦行為人的具體行為與標(biāo)準(zhǔn)模式一致,行為人的行為就不存在過失,從這個角度看,修正的舊過失論有其合理之處?，F(xiàn)在的問題是,其對過失犯實行行為的探討其實已經(jīng)偏離結(jié)果無價值論的思考邏輯,轉(zhuǎn)向了行為無價值二元論的思考方法,將其稱為舊過失論的修正理論名不副實[14]。

溯源于行為無價值論的新過失論認(rèn)為過失犯和故意犯在違法類型的構(gòu)成要件階段就有差異[15]714。新過失論強(qiáng)調(diào)過失犯認(rèn)定的核心并不在于結(jié)果預(yù)見可能性,而在于結(jié)果回避義務(wù)。該說認(rèn)為行為的違法性在于未遵守規(guī)范。質(zhì)言之,只要行為人的行為并未逃脫基準(zhǔn)規(guī)范行為,就無構(gòu)成要件且違法的行為。關(guān)涉結(jié)果回避義務(wù)的認(rèn)定,應(yīng)依照行為人所處社會一般人需要遵守的社會準(zhǔn)則來確定。將結(jié)果回避義務(wù)作為行為基準(zhǔn)來設(shè)定注意義務(wù)的新過失論,能在構(gòu)成要件該當(dāng)性階段就對過失犯的成立范圍予以限制,從而防止過失犯泛濫,符合司法實踐需求。盡管新過失論的初衷在于限制過失犯處罰范圍,但可能會在公害或者藥害事件中出現(xiàn)一旦有發(fā)生某種危險的抽象可能性,就恪求行為人實施去除此種抽象危險可能性的行為,即所謂的“危懼感說”。值得注意的是,新過失論和具體預(yù)見可能性間并無必然性的理論結(jié)合,本質(zhì)上更容易轉(zhuǎn)為“危懼感說”。而“危懼感說”并不具體研究行為時的預(yù)見可能性,持一旦有某種危懼感就要求行為人采取結(jié)果回避義務(wù)的觀點,從責(zé)任主義的觀點看,應(yīng)對“危懼感說”持否定態(tài)度[9]209-211。風(fēng)險社會下,以ChatGPT為代表的生成式人工智能在給人類帶來福祉的同時,也可能帶來無法預(yù)測且避免的消極影響。ChatGPT的誕生便意味著某種抽象危險可能性的存在,如果苛求研發(fā)者在研發(fā)之際就應(yīng)實施去除此種抽象危險可能性的行為,顯然十分荒謬。

鑒于關(guān)涉過失論構(gòu)造的3種學(xué)說都有失周延,但又各有其合理性。對此,本文認(rèn)為過失應(yīng)屬于責(zé)任層面的要素,理由在于過失、故意及無過失類型都屬于責(zé)任構(gòu)成要件要素。正因為如此,關(guān)于過失犯的刑法系統(tǒng)定位應(yīng)屬于責(zé)任構(gòu)成要件要素。這其中僅僅將過失的核心定位于結(jié)果預(yù)見可能性的違反并不精確,事實上,過失犯的責(zé)任譴責(zé)根據(jù)在于以預(yù)見可能性為基礎(chǔ)的結(jié)果回避義務(wù)的判定。因此,情景二中ChatGPT犯罪中研發(fā)者的主觀心態(tài)是否為過失,應(yīng)當(dāng)以研發(fā)者是否在具有結(jié)果預(yù)見可能性和結(jié)果回避義務(wù)的前提下盡到了注意義務(wù)為判斷基準(zhǔn)。

2.ChatGPT犯罪中研發(fā)者注意義務(wù)的判定

ChatGPT犯罪中研發(fā)者的主觀罪過是否為過失取決于研發(fā)者是否履行了相應(yīng)的注意義務(wù),根據(jù)對過失犯認(rèn)定構(gòu)造的厘清,可以得出對研發(fā)者注意義務(wù)的判斷取決于對其結(jié)果預(yù)見可能性和結(jié)果回避義務(wù)的認(rèn)定。具體而言,倘若研發(fā)者在設(shè)計ChatGPT時有相應(yīng)的結(jié)果預(yù)見可能性和結(jié)果回避義務(wù),研發(fā)者如若未能履行致使法益侵害結(jié)果發(fā)生則應(yīng)以過失犯罪對研發(fā)者予以歸責(zé),但若是研發(fā)者履行了相應(yīng)的注意義務(wù)則不應(yīng)對研發(fā)者予以刑法上的歸責(zé)[7]107。

關(guān)于ChatGPT犯罪中研發(fā)者注意義務(wù)的認(rèn)定,應(yīng)以相關(guān)的法律法規(guī)和行業(yè)規(guī)范為準(zhǔn)。如果相應(yīng)的法律法規(guī)及行業(yè)規(guī)范為ChatGPT的研發(fā)者設(shè)定了防止ChatGPT產(chǎn)出反社會語言的程序的義務(wù),則研發(fā)者有義務(wù)為ChatGPT設(shè)置相應(yīng)的抵制反社會語言的程序,對于研發(fā)者因未履行此義務(wù)而使得ChatGPT在使用過程中出現(xiàn)了法益侵害結(jié)果,應(yīng)以過失犯罪對研發(fā)者予以歸責(zé),如若法律法規(guī)和行業(yè)規(guī)范未對研發(fā)者設(shè)定相應(yīng)的注意義務(wù),則應(yīng)根據(jù)信賴原則對研發(fā)者予以免責(zé)。

為了提高科技創(chuàng)新水平,減輕科研人員過多的義務(wù)負(fù)擔(dān),應(yīng)對ChatGPT的研發(fā)者適用合理范圍內(nèi)的“危險理論”。質(zhì)言之,研發(fā)者雖然有預(yù)見危害結(jié)果發(fā)生的可能性,但并無刑法上的結(jié)果回避義務(wù)。根據(jù)信賴原則,研發(fā)者研發(fā)ChatGPT時,有足夠的理由相信在ChatGPT的使用階段各方主體均能遵守規(guī)則并實施恰當(dāng)?shù)男袨?如若因為其他行為人的行為致使ChatGPT的使用產(chǎn)生了法益侵害結(jié)果也不能追究研發(fā)者的刑事責(zé)任,即研發(fā)者能夠預(yù)見其他行為人可能利用ChatGPT實施違法犯罪活動,其也并無結(jié)果回避義務(wù)[8]169-170。

五、余論

ChatGPT等新一代生成式人工智能技術(shù)的產(chǎn)生暗喻強(qiáng)人工智能時代的來臨,它雖給人類帶來了前所未有的便利,但伴隨而來的不安定犯罪因子需加以重視。盡管中國版的生成式人工智能ChatGPT尚未正式問世,但對ChatGPT等生成式人工智能犯罪中研發(fā)者不法與責(zé)任的判斷,有助于提前防范技術(shù)風(fēng)險。

在ChatGPT等生成式人工智能犯罪中研發(fā)者不法問題的研究中,鑒于“條件說”會擴(kuò)大研發(fā)者的歸因范疇以及“相當(dāng)因果關(guān)系說”價值判斷的模糊性,通過客觀歸責(zé)理論對研發(fā)者的研發(fā)行為與法益侵害結(jié)果之間因果關(guān)系進(jìn)行辯證更具正當(dāng)性。通過客觀歸責(zé)理論的辯證,可以得出情景一和情景二中研發(fā)者研發(fā)行為和法益侵害結(jié)果的產(chǎn)生之間具有刑法上的因果關(guān)系,而情景三和情景四中研發(fā)者的研發(fā)行為并沒有制造法不允許的風(fēng)險,因而研發(fā)者的研發(fā)行為并非法益侵害結(jié)果產(chǎn)生的原因。

在ChatGPT犯罪中研發(fā)者責(zé)任問題的研究中,情景一中研發(fā)者研發(fā)ChatGPT的初衷是引發(fā)社會秩序紊亂,因此在設(shè)計ChatGPT時就設(shè)置了反社會語言程序,使用者利用其實施犯罪,發(fā)生了法益侵害結(jié)果。在此種情景中,研發(fā)者對于ChatGPT造成的法益侵害結(jié)果都是持明知且肯定態(tài)度,所以研發(fā)者的主觀心態(tài)為直接故意,理應(yīng)承擔(dān)直接故意的刑事責(zé)任。在情景二中,研發(fā)者研發(fā)ChatGPT的初衷是促進(jìn)科技進(jìn)步和增進(jìn)人類福祉,其在設(shè)計ChatGPT時雖然未予以注入反社會語言程序,但也未設(shè)置抵制反社會語言程序,使用者利用ChatGPT實施犯罪活動,最終發(fā)生了法益侵害結(jié)果。在此種情景中,研發(fā)者研發(fā)以促進(jìn)科技進(jìn)步和增進(jìn)人類福祉為目的的ChatGPT,其初衷必然不可能含有讓ChatGPT實施犯罪的心理。對于ChatGPT由于其他因素而產(chǎn)生的法益侵害結(jié)果,研發(fā)者必然是持否定態(tài)度的,而非“放任”的主觀心理,所以研發(fā)者的主觀心態(tài)不可能是故意。至于研發(fā)者的主觀心態(tài)是否為過失,則取決于研發(fā)者是否具有相應(yīng)的注意義務(wù),而研發(fā)者的注意義務(wù)取決于相關(guān)法律法規(guī)和行業(yè)規(guī)范的具體規(guī)定,如若相關(guān)的法律和行業(yè)規(guī)范并未有所規(guī)定,則應(yīng)根據(jù)刑法上的信賴原則免除研發(fā)者的刑事責(zé)任。