生成式人工智能在刑事偵查中的應(yīng)用價(jià)值、風(fēng)險(xiǎn)及規(guī)制

魏健宇

(華東政法大學(xué) 刑事法學(xué)院,上海 200050)

一、問題的提出

生成式人工智能作為計(jì)算機(jī)科學(xué)及算法領(lǐng)域的新技術(shù),一經(jīng)面世便引發(fā)了學(xué)界和各國政府的高度重視。2022年11月30日,由美國人工智能開發(fā)團(tuán)隊(duì)Open AI研發(fā)的生成式人工智能ChatGPT(Chat Generative Pre-Trained Transformer) 向社會(huì)大眾公布,ChatGPT作為一款通過大模型參數(shù)預(yù)訓(xùn)練的人工智能聊天機(jī)器人,能夠同訪問者進(jìn)行擬人化信息交互,并根據(jù)訪問者發(fā)出的指令生成相應(yīng)內(nèi)容,目前ChatGPT最新版本已發(fā)展至GPT-4版本。ChatGPT的成功不僅證明了人工智能成為通用目的技術(shù)的潛在力量,也成為人類有史以來在通用目的技術(shù)領(lǐng)域影響范圍、變革程度最大的通用目的技術(shù)[1],身處重大技術(shù)變革時(shí)代,我們必須重視生成式人工智能發(fā)展帶來的機(jī)遇與挑戰(zhàn)。

我國已進(jìn)一步加快推動(dòng)生成式人工智能領(lǐng)域的專項(xiàng)立法,2023年4月11日,國家互聯(lián)網(wǎng)信息辦公室發(fā)布關(guān)于《生成式人工智能服務(wù)管理辦法(征求意見稿)》的通知,作為生成式人工智能專項(xiàng)立法的精準(zhǔn)手術(shù)刀,征求意見稿第2條規(guī)定,生成式人工智能是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。可見我國目前趨向于將生成式人工智能作為一種技術(shù)來進(jìn)行規(guī)制。作為一種通用目的技術(shù),生成式人工智能可以為人類社會(huì)的發(fā)展進(jìn)步提供強(qiáng)有力的支持,已經(jīng)有學(xué)者從建設(shè)“數(shù)字政府”的角度提出了開發(fā)應(yīng)用“GovGPT”提供智能政務(wù)服務(wù)的構(gòu)想。[2]筆者認(rèn)為當(dāng)今社會(huì)已進(jìn)入數(shù)字化時(shí)代,若將ChatGPT類生成式人工智能應(yīng)用于司法領(lǐng)域,尤其是應(yīng)用于刑事偵查,可有效助推中國式法治現(xiàn)代化的實(shí)現(xiàn),在實(shí)現(xiàn)犯罪治理的同時(shí),將節(jié)約大量司法資源并緩解一線司法工作者的辦案壓力,助推法治中國建設(shè)。

司法實(shí)踐中使用生成式人工智能并非天方夜譚,2023年在哥倫比亞就有法官使用ChatGPT輔助其作出判決。[3]將生成式人工智能應(yīng)用于刑事偵查主要涉及偵查啟動(dòng)程序、偵查程序的運(yùn)行和偵查程序的終結(jié)。例如,在偵查啟動(dòng)程序方面,將經(jīng)過預(yù)訓(xùn)練的生成式人工智能大模型接入司法系統(tǒng),可通過預(yù)先設(shè)計(jì)的算法依靠大數(shù)據(jù)計(jì)算分析已經(jīng)發(fā)生,但尚未被立案偵查的刑事案件,在處理突發(fā)的編造謠言引發(fā)網(wǎng)絡(luò)輿情的事件中,可以利用生成式人工智能技術(shù)快速反應(yīng)并生成相關(guān)事件的時(shí)間軸、輿情內(nèi)容、影響范圍等相關(guān)信息,根據(jù)生成結(jié)果為司法機(jī)關(guān)提供是否立案、偵查方向等行動(dòng)導(dǎo)向。雖然具有豐富的應(yīng)用價(jià)值,但生成式人工智能應(yīng)用于司法領(lǐng)域還存在一定問題,在生成式人工智能與司法實(shí)踐結(jié)合的研究領(lǐng)域中,有學(xué)者指出在使用生成式人工智能進(jìn)行類案處理的過程中,面臨的主要難題是如何使用生成式人工智能建立司法類案裁判的內(nèi)在機(jī)理,以及如何實(shí)現(xiàn)算法與類案處理的有機(jī)結(jié)合。[4]

前述問題看似只關(guān)乎技術(shù)層面的開發(fā)問題,但實(shí)際從本質(zhì)上反應(yīng)了生成式人工智能算法作為一種技術(shù)與法律規(guī)制的矛盾所在。司法實(shí)踐中,任何社會(huì)現(xiàn)實(shí)在法律適用中都需要被理解和被解釋,這是由語言學(xué)規(guī)律所決定的,法律的適用離不開解釋,想要精準(zhǔn)把握和嚴(yán)格遵守法律規(guī)范的價(jià)值就必須對(duì)法律進(jìn)行解釋。[5]生成式人工智能運(yùn)用于司法實(shí)踐必然會(huì)面臨法律適用的判斷問題,受其預(yù)訓(xùn)練參數(shù)模型的影響會(huì)產(chǎn)生不同的結(jié)論,即使具備擬人化的表達(dá)能力,但其仍難以精準(zhǔn)把握社會(huì)現(xiàn)實(shí)的動(dòng)態(tài)變化,無法替代人在司法裁決中的價(jià)值判斷作用,因此若過度依賴生成式人工智能來完成司法工作,則會(huì)因缺失價(jià)值判斷而造成法律適用錯(cuò)誤,甚至產(chǎn)生冤假錯(cuò)案的悲劇。

基于前述問題,為了避免生成式人工智能在刑事偵查程序中化身“投幣售貨機(jī)”式的簡單工具或直接成為替代司法工作人員的“AI法官”,有必要將ChatGPT類生成式人工智能的運(yùn)行規(guī)律、技術(shù)特性與刑事偵查規(guī)則的適用標(biāo)準(zhǔn)、價(jià)值判斷進(jìn)行有機(jī)結(jié)合,以應(yīng)對(duì)潛在風(fēng)險(xiǎn)。本文立足于生成式人工智能在刑事偵查中的輔助性角色,從數(shù)字化司法實(shí)踐的發(fā)展角度出發(fā),探究該技術(shù)應(yīng)用的潛在風(fēng)險(xiǎn)并提出相應(yīng)的規(guī)制對(duì)策。

二、生成式人工智能在刑事偵查中的應(yīng)用價(jià)值

生成式人工智能的發(fā)展為人類社會(huì)的發(fā)展注入了更為強(qiáng)勁的能量,生成式人工智能作為通用目的技術(shù)能夠在社會(huì)的各個(gè)領(lǐng)域中發(fā)揮強(qiáng)大作用。生成式人工智能正如百年前的工業(yè)革命中出現(xiàn)的蒸汽機(jī)一般變革著我們的生活,而ChatGPT作為生成式人工智能最新產(chǎn)物中的先進(jìn)代表,作為一種預(yù)訓(xùn)練的大型生成式人工智能語言模型很有可能成為撬動(dòng)第四次工業(yè)革命的杠桿。[6]

(一)推動(dòng)法治現(xiàn)代化的重要力量

黨的二十大報(bào)告指出,“以中國式現(xiàn)代化推進(jìn)中華民族偉大復(fù)興”[7]。在中國式現(xiàn)代化的發(fā)展征途中法治成為實(shí)現(xiàn)中國式現(xiàn)代化的關(guān)鍵力量,實(shí)現(xiàn)法治現(xiàn)代化成為實(shí)現(xiàn)中國式現(xiàn)代化的題中應(yīng)有之義。[8]法治現(xiàn)代化的發(fā)展離不開新時(shí)代新技術(shù)的應(yīng)用,習(xí)近平總書記強(qiáng)調(diào):“當(dāng)今時(shí)代,數(shù)字技術(shù)、數(shù)字經(jīng)濟(jì)是世界科技革命和產(chǎn)業(yè)變革的先機(jī),是新一輪國際競爭重點(diǎn)領(lǐng)域,我們一定要抓住先機(jī)、搶占未來發(fā)展制高點(diǎn)?！盵9]作為數(shù)字技術(shù)中的先進(jìn)代表——生成式人工智能已經(jīng)向我們展現(xiàn)了它強(qiáng)大的功能和應(yīng)用于社會(huì)各領(lǐng)域的巨大潛力,數(shù)字化時(shí)代司法機(jī)關(guān)依法履行職能離不開數(shù)字化技術(shù)的輔助。

生成式人工智能可有效提升法治建設(shè)工作的效能,進(jìn)入數(shù)字化時(shí)代,我國司法機(jī)關(guān)借助數(shù)字化技術(shù)在法治領(lǐng)域已經(jīng)取得一定成果。例如,在打擊電信詐騙犯罪的專項(xiàng)行動(dòng)中,司法機(jī)關(guān)借助大數(shù)據(jù)技術(shù)對(duì)異常交易進(jìn)行監(jiān)控,通過一系列數(shù)字化技術(shù)挽回了被害人的巨大損失。生成式人工智能技術(shù)的出現(xiàn)成為我國司法機(jī)關(guān)進(jìn)一步提升數(shù)字化司法水平,提高工作效能的關(guān)鍵力量,生成式人工智能若能應(yīng)用于司法實(shí)踐,可以在程序文書撰寫、司法程序監(jiān)督、刑事預(yù)警和犯罪預(yù)測(cè)等方面發(fā)揮巨大作用,為建設(shè)法治中國和實(shí)現(xiàn)法治現(xiàn)代化,推動(dòng)實(shí)現(xiàn)中國式現(xiàn)代化貢獻(xiàn)力量。

(二)彌補(bǔ)數(shù)字化時(shí)代背景下傳統(tǒng)刑事偵查的不足

刑事偵查作為刑事訴訟程序中的重要環(huán)節(jié),在打擊犯罪維護(hù)社會(huì)穩(wěn)定方面發(fā)揮了重要作用,通過偵查程序發(fā)現(xiàn)、查明犯罪事實(shí)、收集犯罪證據(jù),達(dá)到事實(shí)清楚、證據(jù)確實(shí)充分的標(biāo)準(zhǔn),可以將其移送人民檢察院審查起訴進(jìn)而追訴犯罪行為。數(shù)字技術(shù)與犯罪手段結(jié)合之后改變了傳統(tǒng)的犯罪模式、邏輯和手段,對(duì)偵查機(jī)關(guān)打擊犯罪行為提出了更大的挑戰(zhàn)[10],為了應(yīng)對(duì)犯罪形勢(shì)變化,偵查機(jī)關(guān)必須作出相應(yīng)調(diào)整,而生成式人工智能的出現(xiàn)有利于偵查機(jī)關(guān)補(bǔ)齊傳統(tǒng)刑事偵查在數(shù)字化時(shí)代下的短板。

1.傳統(tǒng)偵查程序的啟動(dòng)過于被動(dòng)

立案作為刑事偵查的啟動(dòng)程序,除監(jiān)察機(jī)關(guān)管轄和刑事自訴以外的普通刑事案件只有經(jīng)過刑事立案才能進(jìn)入刑事訴訟程序,從而實(shí)現(xiàn)追訴和打擊犯罪的目的。實(shí)踐中偵查機(jī)關(guān)處理的刑事案件主要來源于被害人、證人等知情人員的控告和舉報(bào),這既有受司法經(jīng)濟(jì)成本方面的限制,也有偵查技術(shù)方面的原因。

張全濤提出,由于近年來數(shù)字技術(shù)不斷發(fā)展,大數(shù)據(jù)和人工智能都取得了長足進(jìn)步,世界各國刑事偵查都開始利用新型數(shù)字技術(shù)開展犯罪預(yù)測(cè)、熱點(diǎn)犯罪案件預(yù)警等預(yù)測(cè)性警務(wù)措施,進(jìn)入風(fēng)險(xiǎn)社會(huì)后,我國公安機(jī)關(guān)利用大數(shù)據(jù)對(duì)犯罪行為進(jìn)行預(yù)測(cè)、布控,已經(jīng)成為推進(jìn)國家治理能力和治理體系現(xiàn)代化的標(biāo)志。[11]因此,在偵查機(jī)關(guān)逐步由被動(dòng)接受信息轉(zhuǎn)變?yōu)橹鲃?dòng)對(duì)犯罪行為進(jìn)行預(yù)測(cè)、感知、布控的主動(dòng)偵查模式背景下,生成式人工智能成為進(jìn)一步推動(dòng)偵查機(jī)關(guān)發(fā)揮主動(dòng)偵查、積極發(fā)現(xiàn)和打擊犯罪的輔助工具。

ChatGPT作為大型預(yù)訓(xùn)練語言模型可以理解和學(xué)習(xí)人類的語言表達(dá)與行為模式,此類型的生成式人工智能若與偵查機(jī)關(guān)的視頻監(jiān)控系統(tǒng)和網(wǎng)絡(luò)監(jiān)控系統(tǒng)連接,可通過對(duì)所獲取信息與預(yù)訓(xùn)練中學(xué)習(xí)的犯罪模式進(jìn)行分析比對(duì),充分發(fā)揮大數(shù)據(jù)處理、運(yùn)算優(yōu)勢(shì),及時(shí)預(yù)測(cè)和監(jiān)控犯罪行為的發(fā)生。例如,當(dāng)生成式人工智能系統(tǒng)在網(wǎng)絡(luò)監(jiān)控系統(tǒng)中發(fā)現(xiàn)了異常流動(dòng)資金和毒品犯罪相關(guān)信息后,可以對(duì)相關(guān)信息源頭進(jìn)行自動(dòng)追蹤并向偵查機(jī)關(guān)生成相應(yīng)調(diào)查報(bào)告,為偵查機(jī)關(guān)及時(shí)發(fā)現(xiàn)、查清犯罪事實(shí)、收集犯罪證據(jù)提供幫助。改變傳統(tǒng)的被動(dòng)偵查模式,數(shù)字化時(shí)代推行“積極主動(dòng)偵查模式”既與學(xué)界主張的“積極法律監(jiān)督觀”[12]相銜接對(duì)應(yīng),又有利于完善我國犯罪治理體系,保障人民安居樂業(yè)。

2.傳統(tǒng)偵查技術(shù)不足以應(yīng)對(duì)數(shù)字化犯罪

隨著數(shù)字社會(huì)的發(fā)展,各類數(shù)字技術(shù)給我們的生活帶來了翻天覆地的變化,隨之而來的也有犯罪手段、犯罪類型的變化發(fā)展,近年來電信詐騙犯罪、網(wǎng)絡(luò)虛擬財(cái)產(chǎn)犯罪、數(shù)據(jù)犯罪等新型犯罪層出不窮,嚴(yán)重破壞了社會(huì)主義市場(chǎng)經(jīng)濟(jì)秩序,侵害人民群眾合法利益,面對(duì)數(shù)字時(shí)代的新型犯罪,傳統(tǒng)偵查技術(shù)必須作出相應(yīng)革新。傳統(tǒng)的偵查模式,偵查行為主要圍繞犯罪的物理空間展開,以犯罪現(xiàn)場(chǎng)為偵查核心,但將數(shù)字技術(shù)引入偵查后,偵查機(jī)關(guān)可借助數(shù)字技術(shù)提升偵查工作效率。[13]

生成式人工智能不同于過去弱人工智能和普通計(jì)算機(jī)程序,例如ChatGPT就采用了基于人類反饋的強(qiáng)化學(xué)習(xí)方法(RLHF)[14],偵查機(jī)關(guān)可通過將生成式人工智能系統(tǒng)接入各類監(jiān)管平臺(tái),利用生成式人工智能預(yù)訓(xùn)練中學(xué)習(xí)的犯罪模式對(duì)各類監(jiān)管對(duì)象的異常行為進(jìn)行分析,并生成相應(yīng)的犯罪預(yù)測(cè)報(bào)告供偵查機(jī)關(guān)參考。除數(shù)據(jù)檢測(cè)、犯罪預(yù)測(cè)等功能,生成式人工智能還擁有擬人化的連續(xù)對(duì)話能力,若能夠?qū)⑵鋺?yīng)用于偵查訊問程序,該項(xiàng)技術(shù)可成為偵查人員提高訊問效率的關(guān)鍵技術(shù)。傳統(tǒng)偵查行為中,偵查訊問一般由具有訊問經(jīng)驗(yàn)的兩名偵查人員負(fù)責(zé),但由于犯罪嫌疑人心理素質(zhì)、個(gè)人背景、反偵查能力等因素都會(huì)妨礙偵查訊問的順利進(jìn)行,因此對(duì)偵查人員的心理學(xué)、刑偵學(xué)等專門知識(shí)提出較高要求,從事訊問工作必須具備較高的訊問水平,但實(shí)踐中經(jīng)驗(yàn)豐富的訊問人員有限,若將生成式人工智能技術(shù)應(yīng)用于偵查訊問,可使其結(jié)合偵查人員與犯罪嫌疑人的訊問內(nèi)容及犯罪嫌疑人的背景資料及時(shí)分析訊問成果并引導(dǎo)偵查人員展開訊問。

(三)推進(jìn)數(shù)字司法建設(shè)的契機(jī)

我國自2021年進(jìn)入數(shù)字法治發(fā)展階段,數(shù)字法治經(jīng)歷了技術(shù)應(yīng)用、智能輔助和重塑再造不斷升級(jí)進(jìn)步的過程。我國司法機(jī)關(guān)在建設(shè)數(shù)字司法領(lǐng)域積極探索,在智慧警務(wù)、智慧檢察、智慧司法等戰(zhàn)略目標(biāo)下,實(shí)現(xiàn)了“智能化”“網(wǎng)絡(luò)化”“陽光化”的司法執(zhí)法新樣態(tài)。進(jìn)入數(shù)字化時(shí)代后,學(xué)界也圍繞數(shù)字法學(xué)及數(shù)字法治問題開展了深入研討,致力于在數(shù)字化時(shí)代的浪潮中推動(dòng)我國數(shù)字司法不斷前進(jìn)。[15]2023年以ChatGPT為代表的生成式人工智能進(jìn)入大眾視野,在人工智能愈發(fā)成熟的今天,生成式人工智能已經(jīng)成為司法實(shí)踐領(lǐng)域不可忽視的一股重要力量。

刑事偵查是刑事訴訟程序的重要階段,為案件的起訴、審判奠定了重要基礎(chǔ),刑事偵查的結(jié)果在一定程度上影響到刑事案件的最終走向,在不斷強(qiáng)調(diào)數(shù)字司法理念的現(xiàn)代社會(huì),刑事偵查也應(yīng)與數(shù)字技術(shù)實(shí)現(xiàn)融合發(fā)展。刑事偵查與生成式人工智能的融合將會(huì)是我國在數(shù)字司法領(lǐng)域的一大進(jìn)步,在數(shù)字時(shí)代面對(duì)大數(shù)據(jù)犯罪、網(wǎng)絡(luò)虛擬犯罪等新型犯罪治理問題,發(fā)展數(shù)字司法,借助數(shù)字技術(shù)是必然趨勢(shì),生成式人工智能應(yīng)用于刑事偵查,能夠推動(dòng)刑事司法人工智能實(shí)踐的發(fā)展,為促進(jìn)數(shù)字司法發(fā)展進(jìn)而實(shí)現(xiàn)數(shù)字法治的總體建設(shè)目標(biāo)添磚加瓦。

三、生成式人工智能應(yīng)用于刑事偵查的風(fēng)險(xiǎn)

埃隆·馬斯克曾在公開場(chǎng)合表示,為了防止人工智能的發(fā)展給人類社會(huì)帶來不確定的風(fēng)險(xiǎn),應(yīng)當(dāng)暫停比GPT-4更為先進(jìn)的人工智能技術(shù)研發(fā)。技術(shù)可以造福人類亦可能傷害人類,我們要認(rèn)識(shí)到生成式人工智能應(yīng)用于司法實(shí)踐的利,也應(yīng)當(dāng)認(rèn)識(shí)到可能面臨的弊。筆者認(rèn)為這類技術(shù)應(yīng)用于刑事偵查可能存在的風(fēng)險(xiǎn)包括三類:一是不當(dāng)使用可能對(duì)國家安全構(gòu)成潛在威脅;二是生成內(nèi)容質(zhì)量、真實(shí)度影響偵查機(jī)關(guān)工作效能;三是生成式人工智能可能導(dǎo)致偵查權(quán)過度擴(kuò)張。

(一)構(gòu)成國家安全的潛在威脅

數(shù)字化時(shí)代,各種先進(jìn)技術(shù)的應(yīng)用改變了文化傳統(tǒng)的傳播方式和形態(tài),使得網(wǎng)絡(luò)空間和數(shù)字領(lǐng)域成為意識(shí)形態(tài)斗爭的重點(diǎn)領(lǐng)域,網(wǎng)絡(luò)文化安全作為一種非傳統(tǒng)國家安全已經(jīng)成為我們面臨的主要威脅之一。[16]生成式人工智能作為一項(xiàng)技術(shù)是中立的,但受開發(fā)人員算法設(shè)計(jì)的影響可能會(huì)出現(xiàn)負(fù)面反饋。如果算法設(shè)計(jì)人員在開發(fā)生成式人工智能軟件時(shí)故意違反法律規(guī)范和社會(huì)道德,沒有受到應(yīng)有約束,這類算法技術(shù)會(huì)對(duì)人類社會(huì)造成難以估量的破壞,威脅國家安全。[17]

ChatGPT作為一款由美國人工智能實(shí)驗(yàn)室Open AI開發(fā)的生成式人工智能技術(shù),在開發(fā)時(shí)不免受到西方社會(huì)的文化、價(jià)值觀甚至意識(shí)形態(tài)的影響。根據(jù)研究顯示,ChatGPT可以根據(jù)用戶的反饋和意愿不斷修正自己的答案,在使用不同語言提出統(tǒng)一問題時(shí),ChatGPT的回答內(nèi)容也會(huì)不同,實(shí)際使用中ChatGPT存在明顯偏見,可能會(huì)在潛移默化中影響用戶,在意識(shí)形態(tài)層面不斷滲透甚至威脅國家安全。[18]司法權(quán)的行使若受到生成式人工智能底層代碼邏輯的不良影響會(huì)嚴(yán)重?fù)p害我國的司法權(quán)威甚至威脅國家安全。

目前,微軟公司已經(jīng)同Open AI開展合作,將ChatGPT移植于必應(yīng)搜索引擎,若我國偵查機(jī)關(guān)應(yīng)用生成式人工智能,絕不可簡單地將ChatGPT這類生成式人工智能簡單移植,應(yīng)當(dāng)嚴(yán)把算法邏輯關(guān)和意識(shí)形態(tài)觀,既要開發(fā)一個(gè)適用于刑事偵查的生成式人工智能技術(shù),也要使其與社會(huì)主義核心價(jià)值觀相匹配。

(二)生成內(nèi)容存在質(zhì)量風(fēng)險(xiǎn)

目前,以ChatGPT為代表的生成式人工智能還處于發(fā)展階段,許多技術(shù)還不成熟,可能在生成內(nèi)容的質(zhì)量和真實(shí)性方面存在瑕疵。受預(yù)訓(xùn)練模型、自身生成邏輯影響,ChatGPT是一個(gè)數(shù)學(xué)上的概率預(yù)測(cè)模型,這種概率預(yù)測(cè)加上隨機(jī)擇優(yōu),構(gòu)成了ChatGPT類生成式人工智能的內(nèi)容生成邏輯,這就是根據(jù)提問的請(qǐng)求、投喂的數(shù)據(jù)和統(tǒng)計(jì)計(jì)算得出回應(yīng)(某種結(jié)果)的內(nèi)容。[19]但是,由于ChatGPT在預(yù)訓(xùn)練的學(xué)習(xí)階段難以辨別參數(shù)模型中數(shù)據(jù)的真實(shí)性,投入使用后會(huì)產(chǎn)出無意義內(nèi)容和不真實(shí)內(nèi)容,即出現(xiàn)人工智能幻覺。[20]

由于生成式人工智能在輸出內(nèi)容方面存在信息來源不明的缺陷,偵查人員難以根據(jù)生成內(nèi)容的信息來源對(duì)生成內(nèi)容的真實(shí)性、可靠性進(jìn)行檢驗(yàn)。若人工智能系統(tǒng)依據(jù)網(wǎng)絡(luò)中的虛假信息生成了錯(cuò)誤內(nèi)容會(huì)嚴(yán)重影響司法工作的開展,面對(duì)實(shí)踐領(lǐng)域存在的“人工智能幻覺”問題,我們必須正視目前生成式人工智能在生成內(nèi)容質(zhì)量上還存在不足。生成式人工智能應(yīng)用于刑事偵查領(lǐng)域,可能會(huì)受到網(wǎng)絡(luò)上虛假信息和錯(cuò)誤信息的影響,進(jìn)而生成錯(cuò)誤的犯罪預(yù)測(cè)報(bào)告等偵查信息,若偵查機(jī)關(guān)依據(jù)生成式人工智能提供的虛假內(nèi)容開展偵查活動(dòng)會(huì)嚴(yán)重影響偵查效率,甚至?xí)斐少O誤戰(zhàn)機(jī)導(dǎo)致犯罪嫌疑人逃跑、證據(jù)滅失等嚴(yán)重后果。刑事偵查是刑事訴訟程序順利進(jìn)行的關(guān)鍵環(huán)節(jié),偵查的結(jié)果直接影響到刑事案件的走向,每一樁案件的辦理都關(guān)乎司法公正的實(shí)現(xiàn)和國家機(jī)關(guān)的司法公信力,在新技術(shù)發(fā)展、普及的過程中必須嚴(yán)把風(fēng)險(xiǎn)關(guān),維護(hù)刑事司法權(quán)威和公平正義。

(三)生成式人工智能應(yīng)用的法理問題

刑事偵查是一場(chǎng)公權(quán)力和私權(quán)利的博弈,作為行使公權(quán)力的司法機(jī)關(guān),偵查機(jī)關(guān)在偵查過程中必須嚴(yán)格遵守“法無授權(quán)不可為”的基本原則,但是生成式人工智能在提升偵查效能的同時(shí)也帶來了偵查權(quán)擴(kuò)張的問題。生成式人工智能的法理問題主要包括兩方面:一是法律規(guī)范缺位帶來的正當(dāng)性缺失問題;二是偵查權(quán)隱形擴(kuò)張直接侵犯公民權(quán)利的問題。

1.法律規(guī)范缺位帶來的正當(dāng)性缺失

法律一經(jīng)制定便落后于社會(huì)現(xiàn)實(shí),社會(huì)的高速發(fā)展使得法律在制定之初就依據(jù)類型性理論對(duì)可能發(fā)生的情形進(jìn)行規(guī)制,但人工智能的高速發(fā)展顯然已經(jīng)超出了立法者的預(yù)測(cè),《刑事訴訟法》目前還缺少對(duì)于生成式人工智能在刑事訴訟程序中應(yīng)用的規(guī)定。在當(dāng)前對(duì)人工智能技術(shù)應(yīng)用于刑事司法領(lǐng)域缺少相應(yīng)法律規(guī)制的背景下,無論是偵查機(jī)關(guān)的主動(dòng)選擇還是生成式人工智能的客觀影響,進(jìn)一步突顯了法律規(guī)制的不足,并進(jìn)一步加劇了偵查權(quán)擴(kuò)張導(dǎo)致侵犯公民權(quán)利的法律風(fēng)險(xiǎn)。[21]

2.偵查權(quán)隱形擴(kuò)張侵犯公民權(quán)利

生成式人工智能在信息收集和數(shù)據(jù)處理兩方面都可能發(fā)生侵犯公民權(quán)利的情形。在信息收集方面,生成式人工智能如果應(yīng)用于刑事偵查領(lǐng)域,為了使工作成果滿足時(shí)效性的要求,必須將生成式人工智能接入實(shí)時(shí)互聯(lián)網(wǎng)數(shù)據(jù)庫。生成式人工智能擁有大算力能夠收集和處理互聯(lián)網(wǎng)數(shù)據(jù)庫中的海量信息,但即使是互聯(lián)網(wǎng)中公開的公民信息也有可能涉嫌侵犯公民個(gè)人隱私,例如個(gè)別用戶在社交平臺(tái)發(fā)布的違規(guī)信息,非法“人肉”信息等都有可能被人工智能軟件收集并處理,而這類信息都涉及公民權(quán)利的保護(hù)問題。

數(shù)據(jù)處理方面,由于生成式人工智能存在“黑箱效應(yīng)”,即偵查人員無法知曉生成式人工智能輔助實(shí)施偵查行為的運(yùn)作機(jī)制,難以保障公民的知情權(quán)。實(shí)踐中,美國威斯康星州一法院在使用人工智能輔助量刑時(shí)受到了被告人的質(zhì)疑,被告人認(rèn)為由于該技術(shù)算法未向其公開所以侵犯了他的公民權(quán)利。[22]生成式人工智能目前也存在著類似問題,即無法向使用者展示其生成內(nèi)容的理由和過程。顯然,生成式人工智能的“黑箱效應(yīng)”使得偵查在一定程度上秘密進(jìn)行,并且也無法對(duì)生成式人工智能生成的內(nèi)容進(jìn)行解釋,一方面秘密進(jìn)行的生成過程侵犯了公民的知情權(quán),另一方面由于無法展示運(yùn)作過程,當(dāng)進(jìn)入審判程序后,被告人也無法對(duì)生成式人工智能輔助收集的證據(jù)進(jìn)行質(zhì)證,既侵犯了被告人的訴訟權(quán)利,也產(chǎn)生了證據(jù)資格問題。

四、生成式人工智能應(yīng)用于刑事偵查的風(fēng)險(xiǎn)規(guī)制

生成式人工智能的進(jìn)步與發(fā)展對(duì)于刑事偵查而言既是機(jī)遇又是挑戰(zhàn)。一方面生成式人工智能應(yīng)用于刑事偵查可以提高偵查效能,克服傳統(tǒng)偵查模式的被動(dòng)性,積極主動(dòng)打擊犯罪,維護(hù)社會(huì)公平正義;另一方面生成式人工智能由于尚未發(fā)展成熟,技術(shù)方面還存在一定的不足,同時(shí)法律規(guī)制的缺位也埋下了偵查權(quán)過度擴(kuò)張侵犯公民權(quán)利的隱患。未來,隨著生成式人工智能的進(jìn)一步發(fā)展和數(shù)字司法理念的成熟,生成式人工智能一定會(huì)在司法工作中扮演關(guān)鍵角色。面對(duì)現(xiàn)存的風(fēng)險(xiǎn)和挑戰(zhàn),我們既不能因噎廢食也不能盲目發(fā)展,必須堅(jiān)持取其精華、去其糟粕的原則,深入研究規(guī)避風(fēng)險(xiǎn)和不利影響的措施,以推動(dòng)生成式人工智能在刑事偵查乃至刑事司法領(lǐng)域的廣泛適用,促進(jìn)實(shí)現(xiàn)中國法治現(xiàn)代化。

(一)審查層面:實(shí)施技術(shù)與政治雙重審查機(jī)制

生成式人工智能應(yīng)用于實(shí)踐必須經(jīng)過技術(shù)與政治的雙重審查。一方面從技術(shù)層面對(duì)生成式人工智能本身的可靠性和應(yīng)用價(jià)值進(jìn)行分析審查;另一方面從政治層面對(duì)生成式人工智能所包含的意識(shí)形態(tài)、道德觀、價(jià)值觀和文化內(nèi)容進(jìn)行審查。

1.技術(shù)審查

據(jù)相關(guān)研究表明,ChatGPT基于Transformer算法架構(gòu)的基礎(chǔ)進(jìn)行研發(fā),克服了循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)、卷積神經(jīng)網(wǎng)絡(luò)(CNN)等NLP模型的局限性,從而具備超大參數(shù)處理和創(chuàng)建高效且可拓展語言模型的能力。[23]雖然生成式人工智能在數(shù)據(jù)處理和算法方面取得了長足進(jìn)步,但是在實(shí)際運(yùn)行中還存在一定問題,以ChatGPT為例,在內(nèi)容輸出方面生成式人工智能還是會(huì)出現(xiàn)“一本正經(jīng)的胡說”或輸出低質(zhì)量內(nèi)容的現(xiàn)象。目前,在生成式人工智能開發(fā)領(lǐng)域,ChatGPT引起了一股熱潮,2023年3月16日,我國百度公司開發(fā)的“文心一言”開放用戶測(cè)試,4月18日,金山辦公發(fā)布了名為“WPS AI”的生成式人工智能應(yīng)用,生成式人工智能出現(xiàn)了百家爭鳴的局面,但由于生成式人工智能還處于發(fā)展階段,各方技術(shù)水平參差不齊,因此對(duì)于投入刑事偵查領(lǐng)域的生成式人工智能必須進(jìn)行相應(yīng)的技術(shù)審查,嚴(yán)把技術(shù)質(zhì)量關(guān),由專業(yè)人員分別從算法邏輯、預(yù)訓(xùn)練參數(shù)模型、數(shù)據(jù)處理能力等方面對(duì)擬應(yīng)用的生成式人工智能進(jìn)行審查,避免將技術(shù)尚未成熟的生成式人工智能引入刑事司法系統(tǒng)。

2.政治審查

根據(jù)國家網(wǎng)信辦發(fā)布的《生成式人工智能服務(wù)管理辦法(征求意見稿)》的要求,生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會(huì)主義核心價(jià)值觀,不得含有危害國家安全、破壞民族團(tuán)結(jié)、仇恨、歧視、暴力等負(fù)面內(nèi)容,并且要求算法設(shè)計(jì)、訓(xùn)練參數(shù)模型選擇等內(nèi)容都不得出現(xiàn)前述負(fù)面內(nèi)容。該辦法還規(guī)定生成式人工智能技術(shù)產(chǎn)品向公眾提供服務(wù)前,應(yīng)按照《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》向國家網(wǎng)信部門申報(bào)安全評(píng)估。

前述規(guī)范內(nèi)容都對(duì)生成式人工智能在價(jià)值觀選擇方面作出了規(guī)定,但是在刑事偵查中領(lǐng)域適用的生成式人工智能不同于向社會(huì)大眾提供的產(chǎn)品,在國家司法機(jī)關(guān)層面必須嚴(yán)把意識(shí)形態(tài)關(guān),在普通審查的基礎(chǔ)上組織專門機(jī)構(gòu)和專業(yè)人員對(duì)生成式人工智能的保密性、政治性內(nèi)容進(jìn)行審查和實(shí)時(shí)監(jiān)督,優(yōu)先使用自主開發(fā)的生成式人工智能系統(tǒng),必須嚴(yán)防通過生成式人工智能系統(tǒng)實(shí)施意識(shí)形態(tài)滲透工作,避免我國司法權(quán)話語體系受到西方價(jià)值觀體系和資本主義意識(shí)形態(tài)的入侵。

(二)理論層面:制定生成式人工智能應(yīng)用于刑事偵查的特殊規(guī)范

人工智能給現(xiàn)代社會(huì)帶來了深刻的變革,但人工智能學(xué)習(xí)結(jié)果的不可控性又使其不同于以往的任何技術(shù),具有更大的未知性和風(fēng)險(xiǎn),因此關(guān)于人工智能的法律規(guī)制問題引起了廣泛關(guān)注和立法回憶。[24]隨著以ChatGPT為代表的生成式人工智能爆火,國家網(wǎng)信辦已出臺(tái)《生成式人工智能服務(wù)管理辦法(征求意見稿)》,從立法層級(jí)來看,此辦法屬于國務(wù)院有關(guān)部門制定的部門規(guī)章,主要針對(duì)生成式人工智能的開發(fā)與應(yīng)用進(jìn)行規(guī)制,在一定程度上彌補(bǔ)了我國生成式人工智能法律規(guī)制方面的缺漏,但是從未來生成式人工智能的發(fā)展角度來看,《生成式人工智能服務(wù)管理辦法(征求意見稿)》法律層級(jí)不高且缺少特殊性,難以對(duì)生成式人工智能應(yīng)用于刑事偵查領(lǐng)域存在的問題進(jìn)行規(guī)制。

目前,《刑事訴訟法》及相關(guān)司法解釋并未對(duì)生成式人工智能在刑事程序中的運(yùn)用作出具體規(guī)定,而偵查權(quán)事關(guān)公平正義的實(shí)現(xiàn)和公民人權(quán)的保障,因此將生成式人工智能應(yīng)用于刑事偵查領(lǐng)域必須制定相應(yīng)的特殊規(guī)范。由于在偵查程序中借助生成式人工智能收集犯罪證據(jù)會(huì)受到“黑箱效應(yīng)”的影響,且生成式人工智能的運(yùn)行存在侵犯公民人權(quán),違背正當(dāng)程序原則的可能,為了確保刑事偵查既能借助生成式人工智能提高效率又能在法治允許的范圍內(nèi)有效運(yùn)行,必須針對(duì)生成式人工智能在刑事偵查中的具體應(yīng)用標(biāo)準(zhǔn)、方法作出進(jìn)一步細(xì)化規(guī)定。

制定生成式人工智能應(yīng)用于刑事偵查領(lǐng)域的法律規(guī)范,首先,可以在《刑事訴訟法》層面作出原則性規(guī)定,即可以在合理范圍內(nèi)使用人工智能。其次,細(xì)化到公安機(jī)關(guān)部門規(guī)章和司法解釋層面,可以明確偵查程序中使用生成式人工智能的范圍、使用標(biāo)準(zhǔn),尤其要注意細(xì)化使用生成式人工智能收集犯罪證據(jù)的程序要求,防止因程序瑕疵導(dǎo)致出現(xiàn)證據(jù)失權(quán)的情形,并明確在使用生成式人工智能時(shí)必須堅(jiān)持“以人為主導(dǎo),以技術(shù)為輔助手段”的理念,絕不能出現(xiàn)技術(shù)取代人主導(dǎo)地位的情形,實(shí)現(xiàn)以法治偵,確保偵查權(quán)與生成式人工智能融合后在法治的軌道運(yùn)行,防止偵查權(quán)擴(kuò)張侵犯人權(quán)現(xiàn)象的發(fā)生。

(三)應(yīng)用層面:堅(jiān)持輔助性和有限性原則

1.輔助性原則

司法領(lǐng)域完全依賴生成式人工智能是不可能實(shí)現(xiàn)的,司法工作人員在法律適用中發(fā)揮的價(jià)值判斷作用無法被生成式人工智能取代。在人工智能應(yīng)用于司法領(lǐng)域的過程中,無論是支持“技治主義”還是支持“法治主義”,都不能影響司法工作人員在司法程序中的主導(dǎo)地位。[25]在刑事偵查與生成式人工智能結(jié)合的過程中,堅(jiān)持輔助原則指的是,任何偵查活動(dòng)的展開必須以偵查人員為主導(dǎo),偵查措施的采取和偵查方案的決定以及執(zhí)行應(yīng)當(dāng)由偵查人員承擔(dān)。

生成式人工智能在刑事偵查中生成的有關(guān)犯罪預(yù)測(cè)、偵查方案、犯罪證據(jù)收集等信息應(yīng)作為輔助性材料而非由其主導(dǎo)偵查活動(dòng),偵查人員必須對(duì)生成式人工智能的生成內(nèi)容進(jìn)行嚴(yán)格審核,對(duì)于其生成的信息和有關(guān)偵查活動(dòng)的報(bào)告應(yīng)當(dāng)作為實(shí)施偵查的行動(dòng)參考依據(jù)而非絕對(duì)真理,要充分發(fā)揮偵查人員的主觀能動(dòng)性,在此基礎(chǔ)上借助生成式人工智能發(fā)現(xiàn)、打擊犯罪,而不能依賴生成式人工智能技術(shù)來推進(jìn)偵查活動(dòng)。

2.有限性原則

生成式人工智能應(yīng)用于刑事偵查必須堅(jiān)持有限性原則,這里的有限性指的是生成式人工智能在偵查領(lǐng)域的應(yīng)用必須限定在特定范圍內(nèi),而不能無限制地使用生成式人工智能。從科學(xué)角度出發(fā),人類的思維可以分為邏輯思維、形象思維、抽象思維、社會(huì)思維等多種方式,其中邏輯思維的研究最為成熟,在邏輯思維方面,數(shù)理邏輯構(gòu)成了人工智能算法的基礎(chǔ),人工智能技術(shù)在數(shù)理思維方面有著一定優(yōu)勢(shì),但在人的思維中除了邏輯思維外,還包含大量其他類型的思維,這是目前人工智能技術(shù)所不具備的思維能力。[26]

偵查程序存在著大量必須由偵查人員執(zhí)行而無法使用生成式人工智能替代的環(huán)節(jié)。例如,關(guān)于證據(jù)可采性的判斷問題,通常由偵查人員依據(jù)所查獲的其他證據(jù)和類案經(jīng)驗(yàn)進(jìn)行綜合分析判斷,經(jīng)驗(yàn)豐富且專業(yè)素質(zhì)過硬的偵查人員可以從蛛絲馬跡中發(fā)現(xiàn)證據(jù)的漏洞、拆穿犯罪嫌疑人的謊言,這些是生成式人工智能依靠數(shù)理邏輯而無法做到的。如果將犯罪嫌疑人的供述提交給生成式人工智能來辨別,由于生成式人工智能并不完全具備人的思維能力,單獨(dú)依靠數(shù)理邏輯無法準(zhǔn)確完成此類任務(wù)。偵查過程中,有時(shí)偵查人員一個(gè)突然迸發(fā)的靈感和直覺就能實(shí)現(xiàn)案件的突破,我們既要重視生成式人工智能帶來的便利,也要重視發(fā)揮人的作用,要認(rèn)識(shí)到人類思維與生成式人工智能思維方面的差異性,堅(jiān)持有限性原則。

結(jié)語

在先進(jìn)的算法和硬件支持下,以ChatGPT為代表的生成式人工智能進(jìn)入社會(huì)大眾的視野,生成式人工智能的廣泛應(yīng)用已是大勢(shì)所趨,進(jìn)入數(shù)字化時(shí)代,生成式人工智能應(yīng)用于刑事偵查領(lǐng)域,既是順應(yīng)時(shí)代潮流推動(dòng)刑事司法進(jìn)步的要求,也是建設(shè)法治中國的題中應(yīng)有之義。面對(duì)數(shù)字時(shí)代的網(wǎng)絡(luò)犯罪、數(shù)據(jù)犯罪等犯罪治理問題,生成式人工智能可以成為刑事偵查的重要輔助力量,但在刑事司法領(lǐng)域應(yīng)用生成式人工智能時(shí),我們也必須認(rèn)識(shí)到技術(shù)的兩面性,既要看到生成式人工智能帶來的進(jìn)步,也要認(rèn)識(shí)到生成式人工智能在應(yīng)用于刑事司法領(lǐng)域存在的風(fēng)險(xiǎn)。刑事偵查與數(shù)字技術(shù)結(jié)合將是數(shù)字化時(shí)代的必經(jīng)之路,面對(duì)生成式人工智能在實(shí)踐應(yīng)用中的潛在風(fēng)險(xiǎn),從審查層面、理論層面到應(yīng)用層面,我們都必須嚴(yán)把關(guān)、防風(fēng)險(xiǎn),在數(shù)字化浪潮中推進(jìn)我國刑事司法事業(yè)不斷發(fā)展前進(jìn)。