人工智能時(shí)代我國(guó)刑事訴訟制度的機(jī)遇與挑戰(zhàn)

摘要：人工智能為我國(guó)刑事訴訟制度的發(fā)展帶來(lái)了機(jī)遇與挑戰(zhàn)。將人工智能運(yùn)用于刑事訴訟，應(yīng)當(dāng)警惕：數(shù)據(jù)運(yùn)用的昂貴與壟斷，可能惡化刑事被追訴人的處境;算法的偏見(jiàn)與隱蔽，可能增加司法決策不公的風(fēng)險(xiǎn);技術(shù)的機(jī)械與瓶頸，可能削弱司法工作者的能動(dòng)性。故應(yīng)重視尊重與保障人權(quán)，遵循正當(dāng)程序要求，堅(jiān)持程序法治原則、比例原則、參與原則等基本原則。我國(guó)刑事訴訟制度必須順應(yīng)司法智能化的發(fā)展趨勢(shì)，回應(yīng)人工智能發(fā)展所帶來(lái)的系列挑戰(zhàn)，在遵循刑事訴訟規(guī)律、立足我國(guó)國(guó)情和司法實(shí)踐的基礎(chǔ)上，妥善設(shè)置相關(guān)規(guī)則及程序。此外，還應(yīng)當(dāng)完善信息共享、風(fēng)險(xiǎn)評(píng)估、責(zé)任追究、人才培養(yǎng)等協(xié)同機(jī)制，確保人工智能時(shí)代我國(guó)刑事訴訟制度的不斷完善與發(fā)展。

關(guān)鍵詞：人工智能;大數(shù)據(jù);算法;司法智能化;程序法治

中圖分類號(hào)：D925? ? 文獻(xiàn)標(biāo)志碼：A? ? 文章編號(hào)：1001-862X（2020）04-0150-006

隨著移動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、超級(jí)計(jì)算、區(qū)塊鏈等新技術(shù)的出現(xiàn)，全球人工智能發(fā)展進(jìn)入嶄新階段，呈現(xiàn)出跨界融合、人機(jī)協(xié)同、群智開(kāi)放等新特征，深刻改變了人類生活，并給各個(gè)領(lǐng)域帶來(lái)變革性影響。人工智能在我國(guó)司法領(lǐng)域的運(yùn)用及發(fā)展也受到黨中央的高度重視，政法智能化建設(shè)成為推動(dòng)國(guó)家治理現(xiàn)代化的重要一環(huán)。如何遵循刑事訴訟的自身規(guī)律，順應(yīng)司法智能化的發(fā)展趨勢(shì)，回應(yīng)人工智能發(fā)展所帶來(lái)的系列挑戰(zhàn)，進(jìn)一步健全我國(guó)刑事訴訟制度和程序，是我們必須慎重思考與認(rèn)真對(duì)待的問(wèn)題。

一、人工智能給刑事訴訟制度發(fā)展帶來(lái)的機(jī)遇

在人工智能的時(shí)代背景之下，我國(guó)刑事訴訟制度面臨著前所未有的發(fā)展機(jī)遇。這是由于人工智能顯著區(qū)別于傳統(tǒng)科技，蘊(yùn)含著不斷增長(zhǎng)的“自主性”，能夠自我學(xué)習(xí)、改造與進(jìn)化，正是這一特性為刑事訴訟全過(guò)程注入了智慧與動(dòng)力。

（一）偵查手段得以創(chuàng)新，利于偵查模式的轉(zhuǎn)型升級(jí)

將人工智能運(yùn)用于刑事偵查領(lǐng)域，即借助人工智能等尖端技術(shù)輔助辦案人員進(jìn)行專門調(diào)查工作，并將相關(guān)智能設(shè)備運(yùn)用于刑事偵查活動(dòng)，以達(dá)到獲取線索、查明犯罪事實(shí)、確定犯罪嫌疑等目的。當(dāng)前，人工智能在我國(guó)刑事偵查領(lǐng)域的具體運(yùn)用包括智能識(shí)別、情報(bào)檢索、犯罪數(shù)據(jù)挖掘、犯罪監(jiān)控等方面。

人工智能極大地創(chuàng)新了偵查手段，為偵查機(jī)關(guān)履行偵查職能提供了智能支持。一是尖端科技手段的引入有利于及時(shí)鎖定犯罪嫌疑人。例如，依托智能人臉識(shí)別系統(tǒng)與DNA數(shù)據(jù)庫(kù)等，通過(guò)挖掘與分析相關(guān)信息，能夠準(zhǔn)確地確認(rèn)與追蹤犯罪嫌疑人的身份，為偵查提供有力的方向，提升了案件的偵破率。二是多類型數(shù)據(jù)庫(kù)的運(yùn)用有利于及時(shí)發(fā)現(xiàn)犯罪線索與證據(jù)資料。基于計(jì)算機(jī)算法對(duì)數(shù)據(jù)進(jìn)行分析對(duì)比，其強(qiáng)大的信息和分析優(yōu)勢(shì)將彌補(bǔ)傳統(tǒng)偵查手段的短板，尤其利于互聯(lián)網(wǎng)犯罪、跨國(guó)犯罪、恐怖主義犯罪等新型犯罪的偵破。例如，2016年浙江省公安廳開(kāi)展的“云劍行動(dòng)”，依托“阿里巴巴”大數(shù)據(jù)在一年時(shí)間內(nèi)查處制售假貨窩點(diǎn)417個(gè)，破獲假貨案件總案值達(dá)14.3億元[1]，有力打擊了互聯(lián)網(wǎng)領(lǐng)域的假冒偽劣犯罪行為。三是犯罪數(shù)據(jù)系統(tǒng)的開(kāi)發(fā)有利于預(yù)防與遏制犯罪。如前述“云劍行動(dòng)”，其衍生效果在于打假地圖的繪制，基于對(duì)歷史數(shù)據(jù)與信息的分析，不僅實(shí)現(xiàn)了對(duì)涉假商品、售假團(tuán)伙的溯源追蹤，并且?guī)椭鷤刹闄C(jī)關(guān)確定了犯罪行為的活躍范圍與犯罪嫌疑人的主要分布，最終在全國(guó)范圍內(nèi)成功挖掘了數(shù)千個(gè)活躍的售假團(tuán)伙。當(dāng)前，旨在預(yù)測(cè)與預(yù)防犯罪的公安犯罪預(yù)測(cè)系統(tǒng)已在我國(guó)部分地區(qū)正式投入運(yùn)行，并取得了相當(dāng)成效。[2]總的來(lái)看，將人工智能運(yùn)用于偵查領(lǐng)域，有效應(yīng)對(duì)了當(dāng)前犯罪活動(dòng)愈發(fā)智能化與隱蔽化的趨勢(shì)，不僅有利于打擊犯罪、維護(hù)社會(huì)治安，還將合理配置偵查資源，有效指導(dǎo)相關(guān)區(qū)域的犯罪防控，從客觀上減少犯罪行為的發(fā)生，繼而促使事后、被動(dòng)的傳統(tǒng)偵查模式向事前、主動(dòng)的智能偵查模式轉(zhuǎn)型。

（二）檢察工作得以助力，利于辦案規(guī)范化與精準(zhǔn)化

利用科技力量推行“智慧檢務(wù)”，是新時(shí)代我國(guó)檢察工作的重心。2017年最高人民檢察院工作報(bào)告即指出，檢察機(jī)關(guān)將強(qiáng)化大數(shù)據(jù)戰(zhàn)略思維，深化“智慧檢務(wù)”建設(shè)，實(shí)現(xiàn)四級(jí)檢察機(jī)關(guān)司法辦案、檢務(wù)公開(kāi)等“六大平臺(tái)”全覆蓋。2018年，最高人民檢察院在充分調(diào)研論證基礎(chǔ)上，正式印發(fā)了《關(guān)于深化智慧檢務(wù)建設(shè)的意見(jiàn)》，勾勒了我國(guó)“智慧檢務(wù)”建設(shè)的未來(lái)藍(lán)圖。

當(dāng)前，“智慧檢務(wù)”建設(shè)的主要實(shí)踐包括辦案智能輔助系統(tǒng)、量刑建議輔助系統(tǒng)、遠(yuǎn)程提訊系統(tǒng)、監(jiān)獄檢察信息指揮系統(tǒng)等，隨著人工智能運(yùn)用于檢察工作的實(shí)踐，檢察工作的實(shí)效得到了提升。其中一項(xiàng)重要舉措即推行量刑建議輔助系統(tǒng)，這一系統(tǒng)促使檢察官?gòu)慕?jīng)驗(yàn)思維逐步轉(zhuǎn)向數(shù)據(jù)思維，并增強(qiáng)了量刑工作的精準(zhǔn)性與規(guī)范性。在認(rèn)罪認(rèn)罰從寬制度入法后，檢察機(jī)關(guān)的量刑建議不僅是解決量刑問(wèn)題的“牛鼻子”，也是能否真正貫徹落實(shí)認(rèn)罪認(rèn)罰從寬制度的關(guān)鍵所在。[3]在量刑建議輔助系統(tǒng)的幫助下，檢察官能夠提出更為準(zhǔn)確的量刑建議，避免量刑畸輕或畸重，彌補(bǔ)了實(shí)踐中開(kāi)放式量刑建議占多數(shù)的缺憾。這不僅增強(qiáng)了被告人對(duì)量刑從寬的可預(yù)見(jiàn)性，有利于提高其選擇適用認(rèn)罪認(rèn)罰從寬制度的積極性，同時(shí)也在一定程度上化解了同案不同判的實(shí)踐難題，確保了量刑建議的公正性與規(guī)范性。值得一提的是，量刑建議輔助系統(tǒng)不僅關(guān)注量刑的精細(xì)化，基于人工智能的本質(zhì)，其在對(duì)海量數(shù)據(jù)進(jìn)行分析的基礎(chǔ)上，還能依靠自身強(qiáng)大的運(yùn)算能力與學(xué)習(xí)能力實(shí)現(xiàn)對(duì)思維過(guò)程的模擬。因此，根據(jù)錄入系統(tǒng)的信息與數(shù)據(jù)，量刑建議輔助系統(tǒng)還能進(jìn)行學(xué)習(xí)與研判，從而確保量刑建議的理性與邏輯，避免陷入純粹機(jī)械化量刑的誤區(qū)。除了量刑建議輔助系統(tǒng)之外，基于大數(shù)據(jù)構(gòu)建起來(lái)的辦案智能輔助系統(tǒng)也對(duì)檢察工作產(chǎn)生了諸多積極影響。通過(guò)類案推送、風(fēng)險(xiǎn)評(píng)估、數(shù)據(jù)檢索等功能，辦案智能輔助系統(tǒng)為檢察官辦案決策提供了強(qiáng)大的“外腦”支持，客觀上縮短了檢察官的辦案時(shí)間，提高了檢察工作的效率，使得司法實(shí)踐中“案多人少”的矛盾得到相當(dāng)緩解，繼而有益于實(shí)現(xiàn)司法資源的優(yōu)化配置。[4]

（三）審判能力得以改善，利于提升司法公正與公信

在我國(guó)司法大數(shù)據(jù)發(fā)展已初具規(guī)模的基礎(chǔ)上，人工智能介入審判領(lǐng)域成為了司法制度發(fā)展的必然趨勢(shì)。最高人民法院先后頒布《關(guān)于加快建設(shè)智慧法院的意見(jiàn)》《人民法院信息化建設(shè)五年發(fā)展規(guī)劃（2019—2023）》等文件。當(dāng)前，以網(wǎng)絡(luò)化、陽(yáng)光化、智能化為特征的“智慧法院”格局基本形成。此外，杭州、北京與廣州互聯(lián)網(wǎng)法院相繼掛牌成立，集中管轄轄區(qū)內(nèi)應(yīng)當(dāng)由基層人民法院受理的特定類型互聯(lián)網(wǎng)案件，標(biāo)志著我國(guó)“智慧法院”建設(shè)邁上了新臺(tái)階。

當(dāng)前，許多地方法院在建設(shè)“智慧法院”的過(guò)程中，積極將人工智能運(yùn)用于刑事審判活動(dòng)之中。通過(guò)發(fā)揮人工智能的獨(dú)特優(yōu)勢(shì)，不僅極大地輔助了法官辦理刑事案件，并且促使訴訟程序更為便捷。一方面，借助算法與大數(shù)據(jù)的優(yōu)勢(shì)建立訴訟智能系統(tǒng)，通過(guò)結(jié)果預(yù)判、類案推送、電子送達(dá)、電子卷宗生成、裁判文書(shū)分析等功能，不僅分擔(dān)了法官大量的事務(wù)性與基礎(chǔ)性工作，更是為法官類案裁判經(jīng)驗(yàn)和證據(jù)規(guī)則轉(zhuǎn)化提供了智能支持。例如，上海市高級(jí)人民法院研發(fā)的刑事案件智能輔助辦案系統(tǒng)（簡(jiǎn)稱“206系統(tǒng)”），體現(xiàn)了強(qiáng)大的智能性，不僅能夠?qū)崿F(xiàn)對(duì)刑事案件證明標(biāo)準(zhǔn)、證據(jù)規(guī)則的統(tǒng)一指引，還能發(fā)現(xiàn)單一證據(jù)的瑕疵及證據(jù)之間的沖突。[5]類似智能輔助辦案系統(tǒng)在其他地方法院亦有相關(guān)實(shí)踐，這些智能輔助辦案系統(tǒng)通過(guò)對(duì)刑事證據(jù)的校驗(yàn)與提示，可以減少法官認(rèn)定與采納證據(jù)的隨意性，統(tǒng)一規(guī)范刑事案件的證明標(biāo)準(zhǔn)，從而有助于降低冤假錯(cuò)案發(fā)生的風(fēng)險(xiǎn);另一方面，將人工智能技術(shù)融入訴訟全過(guò)程，也為訴訟當(dāng)事人、訴訟參與人及社會(huì)公眾提供了更為便捷化的訴訟服務(wù)。就刑事審判而言，遠(yuǎn)程審判、遠(yuǎn)程提訊、視頻作證、語(yǔ)言識(shí)別與轉(zhuǎn)化等技術(shù)的成熟運(yùn)用，不僅極大地提升了案件審理的質(zhì)效，也顯著提升了司法為民、便民的程度。應(yīng)當(dāng)說(shuō)，人工智能的智能性與高效性與以審判為中心的訴訟制度改革具有內(nèi)在的契合，深刻改變了法官的裁判思維與裁判方式，有助于促進(jìn)我國(guó)審判體系和審判能力的現(xiàn)代化發(fā)展。

二、人工智能給刑事訴訟制度發(fā)展帶來(lái)的挑戰(zhàn)

科學(xué)技術(shù)如同一把雙刃劍，在為人類文明帶來(lái)進(jìn)步的同時(shí)，總是伴隨著危機(jī)與陣痛。人工智能是一場(chǎng)全新的科技文明，在為制度發(fā)展帶來(lái)智慧動(dòng)力的同時(shí)，也存在著巨大的風(fēng)險(xiǎn)隱患。應(yīng)當(dāng)警惕在立法相對(duì)滯后的情況下，人工智能發(fā)展可能對(duì)我國(guó)刑事訴訟制度建設(shè)所帶來(lái)的沖擊。

（一）數(shù)據(jù)的昂貴與壟斷，可能惡化被追訴人的處境

前述刑事司法實(shí)踐中的各種智能輔助系統(tǒng)，無(wú)論是分析運(yùn)行或是自我學(xué)習(xí)，都需要依靠大量的數(shù)據(jù)。大數(shù)據(jù)作為一種前所未有的方式，成為新發(fā)明和新服務(wù)的源泉，而更多的改變正蓄勢(shì)待發(fā)。[6]17然而，由于技術(shù)運(yùn)用的昂貴與稀缺，當(dāng)前，國(guó)家處于獨(dú)占數(shù)據(jù)的優(yōu)勢(shì)，司法機(jī)關(guān)在刑事訴訟過(guò)程中的優(yōu)勢(shì)地位也得到進(jìn)一步鞏固。對(duì)于本就處于弱勢(shì)地位的刑事被追訴人而言，卻將由此陷入信息不對(duì)稱、資源不平等的困境，加大了其與司法機(jī)關(guān)進(jìn)行抗衡的難度。換言之，即如研究者指出，當(dāng)國(guó)家占據(jù)這一知識(shí)權(quán)力的優(yōu)勢(shì)時(shí)，勢(shì)必將以更為強(qiáng)大的方式來(lái)體現(xiàn)對(duì)權(quán)利主體的約束，[7]155那么期望數(shù)據(jù)的開(kāi)放和共享也就變得愈發(fā)困難，司法機(jī)關(guān)即可以利用數(shù)據(jù)的壟斷優(yōu)勢(shì)不斷拉開(kāi)與被追訴人之間的差距。

對(duì)于刑事被追訴人來(lái)說(shuō)，其在刑事訴訟中本就處于較為脆弱的地位，隨著人工智能在刑事司法領(lǐng)域的不斷推行，數(shù)據(jù)的昂貴與壟斷可能進(jìn)一步惡化其在刑事訴訟中的處境。例如，當(dāng)前偵查機(jī)關(guān)利用偵查數(shù)據(jù)庫(kù)來(lái)獲取破案的證據(jù)材料，這部分?jǐn)?shù)據(jù)以電子監(jiān)控信息、GPS信息、個(gè)人身份信息等為基礎(chǔ)，事關(guān)公民的隱私，但卻脫離了刑事訴訟程序的嚴(yán)格規(guī)制，使得偵查權(quán)實(shí)際處于一種恣意的狀態(tài)之中;再如，當(dāng)前刑事案件智能輔助辦案系統(tǒng)盡管實(shí)現(xiàn)了公檢法三機(jī)關(guān)之間的數(shù)據(jù)整合，但卻從源頭上把辯方給剝離出來(lái)了。換言之，司法數(shù)據(jù)庫(kù)欠缺辯方的證據(jù)與資料，這一顯著的缺陷無(wú)疑對(duì)人工智能進(jìn)行深度學(xué)習(xí)形成了障礙。試想，如果人工智能所依賴的是不完整的數(shù)據(jù)，那么其所形成的司法決策亦值得懷疑。因此，正如學(xué)者所言，唯有通過(guò)充分準(zhǔn)確的司法數(shù)據(jù)“喂養(yǎng)”法律人工智能，進(jìn)而才能生產(chǎn)出正確的司法結(jié)論。[8]61

（二）算法的偏見(jiàn)與隱蔽，可能增加司法決策不公的風(fēng)險(xiǎn)

人工智能高度依賴于以數(shù)據(jù)為基礎(chǔ)的算法運(yùn)行。所謂“算法”，通?？梢岳斫鉃榻忸}方案的準(zhǔn)確而完整的描述，是一系列解決問(wèn)題的清晰指令，代表著用系統(tǒng)的方法描述解決問(wèn)題的策略機(jī)制。我國(guó)刑事司法實(shí)踐中已經(jīng)推行與運(yùn)用的諸多智能輔助系統(tǒng)，與其他領(lǐng)域的人工智能一樣，基于大數(shù)據(jù)得以構(gòu)建、通過(guò)算法得以運(yùn)行。然而，隨著人工智能廣泛運(yùn)用于刑事訴訟領(lǐng)域，算法的“先天缺陷”也逐漸暴露，并可能對(duì)刑事司法實(shí)踐產(chǎn)生相應(yīng)的消極影響。

一方面，受制于數(shù)據(jù)采集的數(shù)量與質(zhì)量，以及算法設(shè)計(jì)者的能力與認(rèn)知，算法極易出現(xiàn)偏見(jiàn)與歧視的問(wèn)題。例如，美國(guó)“威斯康星州訴盧米斯”一案，即因法官所使用的量刑智能輔助工具（COMPAS）而引發(fā)了激烈爭(zhēng)議。爭(zhēng)議焦點(diǎn)就在于COMPAS本身是否存在算法歧視，并最終導(dǎo)致COMPAS傾向于判定黑人犯罪者比白人犯罪者更有可能獲得較高的風(fēng)險(xiǎn)等級(jí)。[9]77-78正因算法存在著偏見(jiàn)的風(fēng)險(xiǎn)，其在輔助司法工作者作出決策時(shí)，也為決策結(jié)果埋下了不確定與不公正的隱患。更為消極的后果在于，由于被追訴人處于天然弱勢(shì)的一方，其往往難有對(duì)算法質(zhì)疑的能力，或者即使質(zhì)疑，也很難得到司法機(jī)關(guān)的回應(yīng)，這也在無(wú)形中助長(zhǎng)了司法機(jī)關(guān)的權(quán)力擴(kuò)張。另一方面，算法分析與決策過(guò)程的可知性低，欠缺公開(kāi)與透明，即使是算法研發(fā)者也未必能對(duì)其進(jìn)行確切的描述，更不用說(shuō)是并不通曉這些技術(shù)的司法工作者了。即使是當(dāng)算法被惡意篡改時(shí)，也往往難以得到及時(shí)的察覺(jué)與糾正，這種難以知悉的“黑箱”效應(yīng)也在客觀上增加了司法決策不公的風(fēng)險(xiǎn)。尤其是隨著開(kāi)源代碼的興起，人工智能的研發(fā)門檻隨之降低，算法風(fēng)險(xiǎn)的預(yù)防可能將變得更為困難。遺憾的是，針對(duì)上述司法決策不公的風(fēng)險(xiǎn)，無(wú)論是當(dāng)事人還是社會(huì)公眾都欠缺有效監(jiān)督的途徑。

（三）技術(shù)的機(jī)械與瓶頸，可能削弱司法工作者的能動(dòng)性

受制于人工智能技術(shù)特征的機(jī)械與局限，其在刑事司法實(shí)踐中的運(yùn)用應(yīng)當(dāng)具有一定的限度。正如研究者指出，除非人工智能達(dá)到人類對(duì)于外在世界的認(rèn)識(shí)能力，否則其難以實(shí)現(xiàn)比較精準(zhǔn)的事實(shí)判斷能力。[10]23因此，即使人工智能具有深度學(xué)習(xí)與進(jìn)化的能力，我們也不應(yīng)指望其能完全代替法官來(lái)作出裁判。更何況，刑事案件的裁判并非只是簡(jiǎn)單的推算，公正裁判的作出不僅離不開(kāi)法官的法律知識(shí)，更離不開(kāi)法官的經(jīng)驗(yàn)與良心。

不僅如此，由于人工智能自我學(xué)習(xí)的能力及限度究竟如何，在技術(shù)層面仍存在相當(dāng)爭(zhēng)議與不確定，故盲目夸大智能輔助系統(tǒng)對(duì)于刑事裁判的功效，必然會(huì)導(dǎo)致司法工作者對(duì)其過(guò)度依賴，繼而削弱了自身的能動(dòng)性。尤其是在當(dāng)前司法實(shí)踐“案多人少”的重壓之下，智能輔助系統(tǒng)的推行極大地減輕了司法工作者的辦案負(fù)擔(dān)，但在權(quán)力行使便利與快捷的同時(shí)，則難免對(duì)提供便利的載體產(chǎn)生依賴。久而久之，算法甚至可能會(huì)取代司法工作者成為刑事訴訟的主導(dǎo)。對(duì)于刑事司法裁判來(lái)說(shuō)，這種沖擊無(wú)疑是巨大的。果真如此，那么就像學(xué)者批評(píng)的那樣，“大數(shù)據(jù)和人工智能將會(huì)變成法庭辯論的‘?dāng)囝^臺(tái)，釀成‘一切取決于既定的軟件，面對(duì)面的對(duì)話式論證算不了什么的氛圍，使中國(guó)本來(lái)就很孱弱的法律推理、法律議論以及法律解釋學(xué)更加無(wú)足輕重”。[11]132我們還應(yīng)當(dāng)警惕的是，人工智能的迅速發(fā)展也將最終促使智能機(jī)器人的產(chǎn)生，其是完成人工智能任務(wù)的載體[12]247，但智能機(jī)器人擺脫人類的純粹工具地位而獲取主體身份又是一個(gè)必然的趨勢(shì)[13]28，那么在這一發(fā)展趨勢(shì)之下，如何界分智能機(jī)器人與司法工作者之間的身份及責(zé)任，不僅將關(guān)系到刑事訴訟程序的設(shè)置與實(shí)施，更將深刻影響整個(gè)刑事司法系統(tǒng)的定位與構(gòu)造。

三、人工智能時(shí)代我國(guó)刑事訴訟制度的應(yīng)對(duì)

盡管目前人工智能還處于弱人工智能的階段，但因其具有長(zhǎng)期積累、短期爆發(fā)的特點(diǎn)，強(qiáng)人工智能時(shí)代很可能不期而至。我們應(yīng)當(dāng)以前瞻性的視角來(lái)看待人工智能及其發(fā)展，尤其是其衍生而來(lái)的法律、倫理與安全問(wèn)題，需要我們審慎應(yīng)對(duì)。就人工智能運(yùn)用于刑事訴訟而言，應(yīng)當(dāng)明確必須堅(jiān)持的基本原則，妥善設(shè)置相關(guān)規(guī)則及程序，并健全完善相應(yīng)的協(xié)同機(jī)制，從而確保人工智能時(shí)代我國(guó)刑事訴訟制度的健全發(fā)展。

（一）人工智能運(yùn)用于刑事訴訟的基本原則

為了促進(jìn)新時(shí)代人工智能的健康發(fā)展，2019年6月，中國(guó)國(guó)家新一代人工智能治理專業(yè)委員會(huì)在北京發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，明確提出“和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開(kāi)放協(xié)作、敏捷治理”八項(xiàng)原則。上述原則為人工智能運(yùn)用于刑事訴訟提供了重要參照。我們認(rèn)為，人工智能運(yùn)用于刑事訴訟應(yīng)當(dāng)貫徹尊重與保障人權(quán)，遵循正當(dāng)程序要求，并堅(jiān)持如下幾方面的基本原則：

其一，程序法治原則。程序法治的核心是程序正義，即通過(guò)正當(dāng)程序的約束來(lái)確保訴訟過(guò)程與訴訟結(jié)果的正當(dāng)性?，F(xiàn)代程序法治原則的根本目標(biāo)在于抑制權(quán)力的恣意行使，防止權(quán)力的異化濫用，加強(qiáng)訴訟中的人權(quán)保障。[14]50-51當(dāng)前，人工智能在為司法機(jī)關(guān)行使權(quán)力提供強(qiáng)大輔助與便利的同時(shí)，客觀上也給予公權(quán)力擴(kuò)張與膨脹的空間。若不加以合理干預(yù)，則可能導(dǎo)致權(quán)力對(duì)于權(quán)利的不當(dāng)侵害，使得權(quán)力與權(quán)利處于極度不平衡的狀態(tài)。因此，人工智能運(yùn)用于刑事訴訟應(yīng)當(dāng)首先堅(jiān)持程序法治原則，即著重對(duì)公權(quán)力進(jìn)行合理控制，通過(guò)嚴(yán)苛的程序來(lái)規(guī)制與約束人工智能在刑事訴訟領(lǐng)域的運(yùn)用。為了確保公民的人身權(quán)、隱私權(quán)等基本權(quán)利不受侵犯，應(yīng)當(dāng)對(duì)適用人工智能的案件標(biāo)準(zhǔn)、條件與程序等內(nèi)容作出明確規(guī)范，通過(guò)嚴(yán)格正當(dāng)?shù)某绦騺?lái)防止權(quán)力的恣意與濫用。

其二，比例原則。人工智能運(yùn)用于刑事訴訟還應(yīng)當(dāng)遵循比例原則，即在考量是否適用人工智能時(shí)，應(yīng)當(dāng)切實(shí)考量具體手段或方式的適當(dāng)性、相稱性、必要性。比例原則貫穿于刑事訴訟全過(guò)程，故要求司法機(jī)關(guān)使用人工智能時(shí)不能毫無(wú)節(jié)制，而應(yīng)該根據(jù)案件情節(jié)的輕重來(lái)加以衡量確定。為了最大限度地降低人工智能對(duì)被追訴人權(quán)利的侵入與傷害，司法機(jī)關(guān)應(yīng)當(dāng)選擇對(duì)被追訴人權(quán)利限制和干預(yù)最小的方式，將技術(shù)不確定所可能帶來(lái)的風(fēng)險(xiǎn)控制在最低。例如，對(duì)于大數(shù)據(jù)偵查來(lái)說(shuō)，鑒于大數(shù)據(jù)偵查對(duì)犯罪嫌疑人和大量無(wú)辜公民的個(gè)人信息甚至隱私信息施加了全面監(jiān)控與比對(duì)，有學(xué)者即提出應(yīng)當(dāng)堅(jiān)持重罪原則與最后手段原則，即該項(xiàng)措施只能限于預(yù)防或者偵查嚴(yán)重犯罪時(shí)方可使用。[15]174

其三，參與原則。刑事程序法治現(xiàn)代化的基本要義包括了程序正義的要求，其對(duì)刑事訴訟活動(dòng)提出了獨(dú)立于實(shí)體正義的基本標(biāo)準(zhǔn)，具體包括法官中立、程序參與、程序?qū)Φ?、程序公開(kāi)、程序及時(shí)、程序自治、程序理性等內(nèi)容，對(duì)于實(shí)現(xiàn)刑事程序法治具有顯著的推動(dòng)作用。[16]108在人工智能廣泛運(yùn)用于刑事訴訟的情景之下，程序正義旨在應(yīng)對(duì)人工智能隱蔽性、自發(fā)性等特征，防止人工智能運(yùn)用的風(fēng)險(xiǎn)與失控。其中，參與原則顯得尤為重要，其具體指向?yàn)楸蛔吩V人在刑事訴訟中享有對(duì)人工智能、大數(shù)據(jù)及算法的知悉權(quán)、選擇權(quán)、更正權(quán)。畢竟，國(guó)家權(quán)力可以借助大數(shù)據(jù)、人工智能技術(shù)實(shí)現(xiàn)對(duì)每一個(gè)人的全方位、立體化、全天候徹底監(jiān)控。[17]42那么，出于對(duì)權(quán)力的限制以及控辯平等的考量，就應(yīng)當(dāng)通過(guò)賦予被追訴人相應(yīng)權(quán)利來(lái)對(duì)抗這一權(quán)力鴻溝。更重要的是，考慮到被追訴人在刑事訴訟中處于天然脆弱的地位，在國(guó)家已經(jīng)掌握數(shù)據(jù)優(yōu)勢(shì)的情況下，為了避免這一壟斷優(yōu)勢(shì)不斷擴(kuò)大，還應(yīng)當(dāng)明確司法機(jī)關(guān)對(duì)于被追訴人知悉權(quán)、選擇權(quán)、更正權(quán)等權(quán)利負(fù)有關(guān)照義務(wù)。因此，司法機(jī)關(guān)還應(yīng)當(dāng)誠(chéng)實(shí)地履行信息披露義務(wù)，并確保披露信息的完整性、準(zhǔn)確性與充分性，依法實(shí)現(xiàn)數(shù)據(jù)的共享與開(kāi)放，克服算法歧視和算法黑箱，確保辯方能夠?qū)Φ葏⑴c刑事訴訟活動(dòng)。

（二）人工智能運(yùn)用于刑事訴訟的程序規(guī)則

為了有效防范與應(yīng)對(duì)人工智能的自身性風(fēng)險(xiǎn)，如學(xué)者所言，必須以人工智能的技術(shù)發(fā)展與規(guī)制為主題，形成包含法律規(guī)則、政策規(guī)定和倫理規(guī)范的社會(huì)治理體系。[18]134就刑事訴訟而言，我國(guó)《刑事訴訟法》應(yīng)當(dāng)順應(yīng)司法智能化的發(fā)展趨勢(shì)，回應(yīng)人工智能發(fā)展所帶來(lái)的系列挑戰(zhàn)，在遵循刑事訴訟規(guī)律、立足我國(guó)國(guó)情和司法現(xiàn)實(shí)的基礎(chǔ)上，及時(shí)增補(bǔ)與完善相應(yīng)的法律條文，妥善設(shè)置相關(guān)規(guī)則及程序，為人工智能運(yùn)用于刑事訴訟各個(gè)環(huán)節(jié)提供相應(yīng)支撐，規(guī)范公權(quán)力借助人工智能行使權(quán)力。例如，對(duì)于人工智能運(yùn)用于刑事偵查領(lǐng)域，《刑事訴訟法》應(yīng)當(dāng)對(duì)其適用條件、法定程序、救濟(jì)機(jī)制、證據(jù)效力等問(wèn)題作出明確的規(guī)范，使之與刑事訴訟程序有效銜接，充分實(shí)現(xiàn)對(duì)于人工智能技術(shù)的法律規(guī)制。特別是在使用人工智能進(jìn)行證據(jù)判斷時(shí)，為了確保技術(shù)“無(wú)偏見(jiàn)”地助力司法決策，應(yīng)當(dāng)在進(jìn)一步優(yōu)化算法編制與程序設(shè)置的基礎(chǔ)上，遵循輔助性、有限性、可反駁性三大原則對(duì)證據(jù)能力、證明力、證明標(biāo)準(zhǔn)作出相應(yīng)的判斷。[19]從而最大限度地避免人工智能技術(shù)可能對(duì)司法實(shí)踐帶來(lái)的負(fù)面效應(yīng)。當(dāng)然，刑事訴訟制度也應(yīng)當(dāng)為人工智能的發(fā)展預(yù)留必要的空間。在當(dāng)前司法實(shí)踐的基礎(chǔ)上，立法除了要體現(xiàn)相當(dāng)前瞻性，還應(yīng)當(dāng)不妨礙科技的創(chuàng)新與進(jìn)步，并適當(dāng)從促進(jìn)與發(fā)展的角度為人工智能技術(shù)提供相應(yīng)的支撐。

（三）人工智能運(yùn)用于刑事訴訟的協(xié)同機(jī)制

為了促進(jìn)人工智能運(yùn)用于刑事訴訟中的正當(dāng)性，除了前述法律規(guī)制之外，還應(yīng)當(dāng)健全完善相應(yīng)的協(xié)同機(jī)制來(lái)提供必要合力。這些協(xié)同機(jī)制應(yīng)當(dāng)包括但并不限于信息共享機(jī)制、風(fēng)險(xiǎn)評(píng)估機(jī)制、責(zé)任追究機(jī)制與人才培養(yǎng)機(jī)制。

其一，信息共享機(jī)制。伴隨人工智能的不斷發(fā)展，更為復(fù)雜的算法與更為龐大的數(shù)據(jù)也將成為必然。由于刑事訴訟領(lǐng)域涉及公共利益，為了避免上述發(fā)展可能加劇的偏見(jiàn)與歧視，就需要更大程度的公開(kāi)與透明。對(duì)此，應(yīng)當(dāng)盡快建立完善的信息公開(kāi)與共享機(jī)制，努力消除在數(shù)據(jù)獲取、算法設(shè)計(jì)與適用過(guò)程中可能產(chǎn)生的偏見(jiàn)與歧視。對(duì)于司法機(jī)關(guān)來(lái)說(shuō)，還應(yīng)當(dāng)依法強(qiáng)制信息披露，即將除了涉及國(guó)家秘密之外的算法內(nèi)容，通過(guò)可理解的方式向社會(huì)公開(kāi)并接受公眾的監(jiān)督。

其二，風(fēng)險(xiǎn)評(píng)估機(jī)制。人工智能的不確定性蘊(yùn)含了運(yùn)用過(guò)程中失控的風(fēng)險(xiǎn)，隨著人工智能自主性的不斷提升，這種風(fēng)險(xiǎn)也在不斷增強(qiáng)。因此，應(yīng)當(dāng)以降低風(fēng)險(xiǎn)為目標(biāo)，建立相應(yīng)的風(fēng)險(xiǎn)評(píng)估機(jī)制，重點(diǎn)關(guān)注算法的安全問(wèn)題。除了在事前嚴(yán)格審查適用標(biāo)準(zhǔn)之外，還應(yīng)當(dāng)對(duì)算法錯(cuò)誤設(shè)置相應(yīng)的處理機(jī)制，避免算法的誤用與濫用，尤其要防止算法被惡意篡改而引發(fā)相應(yīng)的風(fēng)險(xiǎn)。國(guó)家層面還應(yīng)當(dāng)盡快出臺(tái)相應(yīng)的技術(shù)標(biāo)準(zhǔn)和安全標(biāo)準(zhǔn)體系，不斷提高人工智能的可控性和抗干擾性，逐步形成人工智能安全評(píng)估體系。

其三，責(zé)任追究機(jī)制。應(yīng)當(dāng)逐步構(gòu)建人工智能的問(wèn)責(zé)機(jī)制，明確系統(tǒng)研發(fā)者、司法工作者和受用者之間的法律責(zé)任。這一問(wèn)責(zé)機(jī)制應(yīng)當(dāng)與現(xiàn)行司法責(zé)任制有機(jī)結(jié)合，厘清人工智能與司法工作者之間的責(zé)任分擔(dān)，防止司法工作者將個(gè)人責(zé)任轉(zhuǎn)嫁給人工智能技術(shù)。此外，為了更好地理解人工智能的決策過(guò)程并作出必要修正，還應(yīng)當(dāng)構(gòu)建相應(yīng)的人工智能決策追溯機(jī)制，通過(guò)收集與記錄人工智能運(yùn)行與學(xué)習(xí)的情況，對(duì)其存在的缺陷與潛在不足進(jìn)行追蹤與修復(fù)，以提高人工智能輔助司法決策的準(zhǔn)確性。

其四，人才培養(yǎng)機(jī)制。當(dāng)前單一學(xué)科的法律人才培養(yǎng)模式顯然已經(jīng)無(wú)法滿足人工智能的迅猛發(fā)展。為了防止司法工作者對(duì)人工智能輔助系統(tǒng)產(chǎn)生過(guò)度依賴，以及算法技術(shù)被第三方壟斷而可能帶來(lái)的決策風(fēng)險(xiǎn)，應(yīng)當(dāng)重視培養(yǎng)既懂法律又懂技術(shù)的復(fù)合型人才，以適應(yīng)我國(guó)司法智能化的現(xiàn)實(shí)要求。即如研究者指出，在人工智能時(shí)代，充分把握我國(guó)司法實(shí)踐發(fā)展的時(shí)代機(jī)遇與有效應(yīng)對(duì)所面臨的現(xiàn)實(shí)挑戰(zhàn)的關(guān)鍵之處均在人類自身。[10]122面對(duì)人工智能所帶來(lái)的全新變革，人類只有自我強(qiáng)化，才能更為從容與理性地應(yīng)對(duì)挑戰(zhàn)。

參考文獻(xiàn)：

[1]阿里大數(shù)據(jù)一年助浙江打掉14億元假貨，“云劍行動(dòng)”升級(jí)“云劍聯(lián)盟”[EB/OL].http：//www.techweb.com.cn/news/2016-12-08/2447568.shtml.

[2]蘇州公安犯罪預(yù)測(cè)系統(tǒng)上線6個(gè)月：大數(shù)據(jù)助推警務(wù)改革[EB/OL].http：//legal.china.com.cn/2014-10/09/content_33711795.htm.

[3]卞建林.認(rèn)罪認(rèn)罰從寬制度賦予量刑建議全新內(nèi)容[N].檢察日?qǐng)?bào)，2019-07-29（3）.

[4]管瑩，盧志堅(jiān).給檢察官配個(gè)機(jī)器人助手[N].檢察日?qǐng)?bào)，2018-05-13（2）.

[5]上海高院研發(fā)“刑事案件智能輔助辦案系統(tǒng)”避免冤錯(cuò)案[EB/OL].http：//www.legaldaily.com.cn/zt/content/2018-01/25/content_7458140.htm？node=90866.

[6][英]維克托·邁爾·舍恩伯格.大數(shù)據(jù)時(shí)代[M].周濤，譯.杭州：浙江人民出版社，2012：17.

[7]吳思遠(yuǎn).我國(guó)控辯協(xié)商模式的困境及轉(zhuǎn)型——由“確認(rèn)核準(zhǔn)模式”轉(zhuǎn)向“商談審查模式”[J].中國(guó)刑事法雜志，2020，（1）：148-159.

[8]左衛(wèi)民.熱與冷：中國(guó)法律人工智能的再思考[J].環(huán)球法律評(píng)論，2019，（2）：53-64.

[9]朱體正.人工智能輔助刑事裁判的不確定性風(fēng)險(xiǎn)及其防范——美國(guó)威斯康星州訴盧米斯案的啟示[J].浙江社會(huì)科學(xué)，2018，（6）：76-85，157.

[10]吳旭陽(yáng).法律與人工智能的法哲學(xué)思考——以大數(shù)據(jù)深度學(xué)習(xí)為考察重點(diǎn)[J].東方法學(xué)，2018，（3）：18-26.

[11]季衛(wèi)東.人工智能時(shí)代的司法權(quán)之變[J].東方法學(xué)，2018，（1）：125-133.

[12]李德毅.人工智能導(dǎo)論[M].北京：中國(guó)科學(xué)技術(shù)出版社，2018：247.

[13]馬長(zhǎng)山.智能互聯(lián)網(wǎng)時(shí)代的法律變革[J].法學(xué)研究，2018，（4）：20-38.

[14]卞建林.刑事訴訟的現(xiàn)代化[M].北京：中國(guó)法制出版社，2003：50-51.

[15]程雷.大數(shù)據(jù)偵查的法律控制[J].中國(guó)社會(huì)科學(xué)，2018，（11）：156-180，206-207.

[16]卞建林，謝澍.“以審判為中心”與刑事程序法治現(xiàn)代化[J].法治現(xiàn)代化研究，2017，（1）：106-119.

[17]齊延平.論人工智能時(shí)代法律場(chǎng)景的變遷[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2018，（4）：37-46.

[18]吳漢東.人工智能時(shí)代的制度安排與法律規(guī)制[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2017，（5）：128-136.

[19]縱博.人工智能在刑事證據(jù)判斷中的運(yùn)用問(wèn)題探析[J].法律科學(xué)，2019，（1）：61-69.

[20]高魯嘉.人工智能時(shí)代我國(guó)司法智慧化的機(jī)遇、挑戰(zhàn)及發(fā)展路徑[J].山東大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2019，（3）：115-123.

（責(zé)任編輯 吳 楠）