人工智能背景下刑事錯(cuò)案悖論及消解

馬嘯 狄小華

摘要：我國(guó)刑事司法人工智能建設(shè)已初具規(guī)模，能夠確保刑事訴訟定性更為準(zhǔn)確、查證更具針對(duì)性、程序更為高效、辦案質(zhì)量標(biāo)準(zhǔn)化，但隨著技術(shù)的發(fā)展，也會(huì)產(chǎn)生削弱司法自主權(quán)、將被控告人降為訴訟客體、使證據(jù)審查出現(xiàn)不當(dāng)傾向以及導(dǎo)致隱性歧視等負(fù)面風(fēng)險(xiǎn)，累積著發(fā)生刑事錯(cuò)案的潛在風(fēng)險(xiǎn)，與避免刑事錯(cuò)案的設(shè)計(jì)初衷形成“刑事錯(cuò)案悖論”。從悖論成因看，人工智能建設(shè)存在對(duì)人工智能地位定位不準(zhǔn)、源頭數(shù)據(jù)存在瑕疵、算法模型封閉難懂、保障機(jī)制建設(shè)緩慢、交叉領(lǐng)域人才緊缺等問(wèn)題。要消解該悖論，應(yīng)嘗試從人工智能定位、數(shù)據(jù)、算法、學(xué)習(xí)技術(shù)、保障機(jī)制等角度建構(gòu)刑事錯(cuò)案風(fēng)險(xiǎn)防范機(jī)制。

關(guān)鍵詞：案管機(jī)器人;被控告人客體化;算法釋明制度;智能化系統(tǒng)故障

中圖分類(lèi)號(hào)：D9?文獻(xiàn)標(biāo)志碼：A ? 文章編號(hào)：1004-3160（2019）02-0037-12

引言

近些年，人工智能與刑事訴訟日益融合，相關(guān)技術(shù)被廣泛運(yùn)用于刑事司法領(lǐng)域。以美國(guó)為例，“在刑事法律領(lǐng)域，人工智能主要運(yùn)用于一般的警務(wù)活動(dòng)、羈押必要性審查以及量刑后假釋等活動(dòng)中”;[1]110在我國(guó)，刑事司法人工智能雖然起步較晚，但“幾乎涉及刑事訴訟的所有階段”“可以介入任何層次、任何環(huán)節(jié)的刑事司法判斷”。[2]刑事司法人工智能在國(guó)內(nèi)的蓬勃發(fā)展，與國(guó)家的高度重視是分不開(kāi)的。2017年7月，國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》（以下簡(jiǎn)稱(chēng)《國(guó)務(wù)院規(guī)劃》），提出要“圍繞社會(huì)綜合治理、新型犯罪偵查、反恐等迫切需求，研發(fā)集成多種探測(cè)傳感技術(shù)、視頻圖像信息分析識(shí)別技術(shù)、生物特征識(shí)別技術(shù)的智能安防與警用產(chǎn)品，建立智能化監(jiān)測(cè)平臺(tái)”和“建設(shè)集審判、人員、數(shù)據(jù)應(yīng)用、司法公開(kāi)和動(dòng)態(tài)監(jiān)控于一體的智慧法庭數(shù)據(jù)平臺(tái)，促進(jìn)人工智能在證據(jù)收集、案例分析、法律文件閱讀與分析中的應(yīng)用，實(shí)現(xiàn)法院審判體系和審判能力智能化”;最高人民法院、最高人民檢察院、公安部也分別制定了深化智慧法院建設(shè)（《關(guān)于加快建設(shè)智慧法院的意見(jiàn)》和《人民法院信息化建設(shè)五年發(fā)展規(guī)劃（2016-2020）》）、智慧檢務(wù)建設(shè)（《關(guān)于深化智慧檢務(wù)建設(shè)的意見(jiàn)》和《全國(guó)檢察機(jī)關(guān)智慧檢務(wù)行動(dòng)指南（2018-2020年）》）、公安信息化建設(shè)（《關(guān)于大力推進(jìn)基礎(chǔ)信息化建設(shè)的意見(jiàn)》和《關(guān)于推進(jìn)公安信息化發(fā)展若干問(wèn)題的意見(jiàn)》）的指導(dǎo)意見(jiàn)及發(fā)展規(guī)劃。在上述國(guó)家規(guī)劃的基礎(chǔ)上，中央及各地積極探索，較好地發(fā)揮了刑事司法人工智能在規(guī)范辦案行為、維護(hù)合法權(quán)益、提高訴訟效率、實(shí)現(xiàn)公平正義方面的作用。但也應(yīng)看到，我國(guó)刑事司法人工智能建設(shè)并非盡善盡美，還存在著許多問(wèn)題與不足，制約了其積極作用的進(jìn)一步發(fā)揮。因此，有必要對(duì)我國(guó)刑事司法人工智能運(yùn)作情況進(jìn)行一番探究，以發(fā)現(xiàn)一條問(wèn)題與風(fēng)險(xiǎn)的應(yīng)對(duì)之路。

一、建設(shè)現(xiàn)狀：百花齊放下的共同路徑

近年來(lái)，我國(guó)刑事司法人工智能建設(shè)涌現(xiàn)出了一批創(chuàng)新成果，如北京市高級(jí)人民法院“睿法官”系統(tǒng)、北京市人民檢察院“檢立方”系統(tǒng)、上海刑事案件智能輔助辦案系統(tǒng)（以下簡(jiǎn)稱(chēng)“上海206系統(tǒng)”）、蘇州智慧審判系統(tǒng)、江蘇省人民檢察院刑事辦案智能輔助系統(tǒng)（以下簡(jiǎn)稱(chēng)“江蘇案管機(jī)器人核心系統(tǒng)”）以及貴州貴陽(yáng)政法大數(shù)據(jù)辦案系統(tǒng)。其中，上海、江蘇、蘇州研發(fā)的系統(tǒng)或系中央直接部署，或受到上級(jí)肯定推廣，典型性較強(qiáng)，故能夠反映目前我國(guó)刑事司法人工智能建設(shè)的共性特征，或者說(shuō)是共同路徑：

（一）建設(shè)思路由簡(jiǎn)到繁

面對(duì)各類(lèi)案件體量不一、繁簡(jiǎn)不一的實(shí)際情況，各地多采取較為穩(wěn)妥的方式，即從事實(shí)查證難度小、因果關(guān)系明確、數(shù)量大的案由入手，以降低初始建設(shè)難度，并為后續(xù)罪名拓展積累經(jīng)驗(yàn)。如上海206系統(tǒng)初期只涉及故意殺人罪、盜竊罪、非法吸收公眾存款罪、詐騙罪（電信網(wǎng)絡(luò)詐騙）4個(gè)罪名，[3]江蘇案管機(jī)器人核心系統(tǒng)雖然計(jì)劃繼續(xù)研發(fā)盜竊、搶劫、詐騙、容留吸毒、強(qiáng)奸、故意傷害等6個(gè)罪名的輔助系統(tǒng)，最終實(shí)現(xiàn)占當(dāng)前全省偵查監(jiān)督、公訴約70%的日常辦案量的智能化，但目前也僅涉及交通肇事罪、危險(xiǎn)駕駛罪2個(gè)罪名。[4]

（二）以重復(fù)機(jī)械性工作為突破口

各地系統(tǒng)將減輕基層辦案人員重復(fù)機(jī)械性工作負(fù)擔(dān)作為推動(dòng)刑事辦案智能化的突破口。辦案流程方面，上海206系統(tǒng)為法官提供遠(yuǎn)程審判、手機(jī)辦案事務(wù)安排、當(dāng)事人材料與訴求回復(fù)等29項(xiàng)移動(dòng)辦公服務(wù)，[3]蘇州智慧審判系統(tǒng)則為當(dāng)事人提供網(wǎng)上立案、遠(yuǎn)程閱卷等訴訟服務(wù);案件記錄方面，蘇州智慧審判系統(tǒng)能夠在庭審中自動(dòng)識(shí)別發(fā)言者并對(duì)錄入結(jié)果自動(dòng)糾錯(cuò)、排版，確保庭審發(fā)言情況如實(shí)反映，大大減輕了記錄人員工作負(fù)擔(dān);案件審查方面，上海206系統(tǒng)依據(jù)統(tǒng)一證據(jù)標(biāo)準(zhǔn)和證據(jù)規(guī)則指引，“對(duì)每一個(gè)證據(jù)收集程序以及形式、內(nèi)容進(jìn)行自動(dòng)校驗(yàn)，生成審查結(jié)論，提示辦案人員進(jìn)行補(bǔ)正或說(shuō)明”，[3]江蘇案管機(jī)器人核心系統(tǒng)則依據(jù)人工提煉總結(jié)并事先錄入后臺(tái)的交通肇事、危險(xiǎn)駕駛案件的程序、證據(jù)和事實(shí)層面的審查規(guī)則及比對(duì)點(diǎn)，對(duì)案件信息、電子卷宗等要素進(jìn)行一鍵抓取、智能審查，篩選出疑似存在問(wèn)題的案件，自動(dòng)推送給檢察官進(jìn)行重點(diǎn)監(jiān)督，實(shí)現(xiàn)了期限預(yù)警、風(fēng)險(xiǎn)預(yù)警、辦案活動(dòng)出錯(cuò)提醒;法律文書(shū)制作方面，江蘇案管機(jī)器人核心系統(tǒng)能夠自動(dòng)生成檢察官辦案所需要、僅需其簡(jiǎn)要填寫(xiě)和修改的訊問(wèn)提綱、補(bǔ)充偵查提綱以及案件審查報(bào)告、起訴書(shū)、量刑建議書(shū)、檢察建議書(shū)、糾正違法通知書(shū)、出庭預(yù)案、庭審筆錄等法律文書(shū);訴訟材料流轉(zhuǎn)保管方面，蘇州中院建設(shè)紙質(zhì)訴訟材料智能管理云平臺(tái)“云柜系統(tǒng)”，通過(guò)將線(xiàn)下實(shí)體柜和線(xiàn)上虛擬柜連接起來(lái)，自動(dòng)對(duì)所有紙質(zhì)材料編碼，并對(duì)材料流轉(zhuǎn)情況進(jìn)行全程跟蹤留痕，形成包括存取件人員、時(shí)間及地點(diǎn)等信息在內(nèi)的流轉(zhuǎn)檔案?jìng)洳椤?/p>

（三）采取自上而下的學(xué)習(xí)方式

現(xiàn)階段，囿于案件數(shù)據(jù)分散雜亂、質(zhì)量參差不齊，各地研發(fā)的系統(tǒng)多數(shù)采取自上而下的半監(jiān)督學(xué)習(xí)方式。以上海206系統(tǒng)為例，該系統(tǒng)從公檢法案例庫(kù)中所有同類(lèi)型案件審理報(bào)告和卷宗中提取證據(jù)信息，按照法定證據(jù)種類(lèi)和法律、司法解釋及各地審判經(jīng)驗(yàn)中的證據(jù)規(guī)范分類(lèi)整理，提煉各類(lèi)證據(jù)的收集程序、形式要件、內(nèi)容要素和不可采情形，最后形成統(tǒng)一的證據(jù)標(biāo)準(zhǔn)、證據(jù)規(guī)則，進(jìn)而構(gòu)建證據(jù)訓(xùn)練模型、預(yù)定機(jī)器學(xué)習(xí)規(guī)則，同時(shí)還組織業(yè)務(wù)骨干對(duì)掃入系統(tǒng)的卷宗內(nèi)容進(jìn)行精細(xì)化標(biāo)注，通過(guò)專(zhuān)家知識(shí)的介入，為機(jī)器學(xué)習(xí)提供優(yōu)質(zhì)樣本。

二、悖論的提出：刑事司法人工智能的硬幣兩面

（一）刑事司法人工智能的正面效應(yīng)

刑事司法人工智能建設(shè)借助自然語(yǔ)言處理、大數(shù)據(jù)分析等人工智能技術(shù)，通過(guò)類(lèi)案推薦、量刑輔助、偏離預(yù)警等功能模塊，給刑事訴訟帶來(lái)以下四方面的積極影響，推動(dòng)刑事辦案工作由零散轉(zhuǎn)向整體綜合、由閉塞轉(zhuǎn)向資源共享、由粗放轉(zhuǎn)向系統(tǒng)集約：

1.定性更加準(zhǔn)確。刑事司法人工智能通過(guò)提取新辦案件情節(jié)，與數(shù)據(jù)庫(kù)登記的案件情節(jié)進(jìn)行比對(duì)，選擇其中最為類(lèi)似的案件推送給辦案人員，并同時(shí)附帶推薦類(lèi)似案件的適用法條、爭(zhēng)議焦點(diǎn)、主要證據(jù)等，以幫助辦案人員對(duì)案件進(jìn)行準(zhǔn)確定性。借助對(duì)既有經(jīng)驗(yàn)的參考借鑒，辦案人員出現(xiàn)定性不準(zhǔn)情況的概率將大大下降。

2.查證更具針對(duì)性。刑事司法人工智能使得查證手段大數(shù)據(jù)化和智能化，尤其是在查證作案手段隱蔽、無(wú)他人見(jiàn)證的犯罪時(shí)，通過(guò)對(duì)嫌疑人資金流水、行蹤軌跡、體貌特征、日常習(xí)慣等信息的多維度排查比對(duì)，由案到人、再由人到案，如此循環(huán)反復(fù)，能夠更容易發(fā)現(xiàn)犯罪線(xiàn)索、固定犯罪證據(jù)，確保公安司法人員主要注意力集中在案件定性、查證方向判斷以及查證手段選擇上。

3.程序運(yùn)作更為高效。刑事司法人工智能將人工智能技術(shù)運(yùn)用于網(wǎng)上立案、網(wǎng)上查詢(xún)案件進(jìn)展、遠(yuǎn)程訊問(wèn)、網(wǎng)上閱卷、網(wǎng)上批捕、網(wǎng)上接訪(fǎng)、庭審公開(kāi)、質(zhì)量監(jiān)督、智能穿戴等多個(gè)方面，將之前需要花費(fèi)在路途、紙質(zhì)材料流轉(zhuǎn)、手續(xù)呈遞報(bào)送等環(huán)節(jié)的時(shí)間大大壓縮，為當(dāng)事人提供方便、維護(hù)其合法權(quán)益的同時(shí)，有效節(jié)約了司法資源，提升了辦案效率。

4.辦案質(zhì)量標(biāo)準(zhǔn)化。刑事司法人工智能在辦案伊始，就以公檢法三部門(mén)統(tǒng)一的證據(jù)標(biāo)準(zhǔn)、證據(jù)規(guī)則為基準(zhǔn)，督促公安司法人員按照法律規(guī)定、法定程序、統(tǒng)一標(biāo)準(zhǔn)辦理刑事案件;在辦案過(guò)程中，其通過(guò)預(yù)置風(fēng)險(xiǎn)比對(duì)點(diǎn)，對(duì)疑似問(wèn)題案件進(jìn)行自動(dòng)篩選、預(yù)判，并實(shí)時(shí)提醒公安司法人員哪些案件、哪些環(huán)節(jié)存在實(shí)體、程序、證據(jù)上的問(wèn)題;臨近案件辦結(jié)時(shí)，其憑借強(qiáng)大的記憶、檢索、識(shí)別能力，通過(guò)類(lèi)案推送、量刑預(yù)測(cè)、偏離度預(yù)警等模塊，為刑事案件處理提供相對(duì)統(tǒng)一的評(píng)價(jià)標(biāo)準(zhǔn)，最大限度避免處理畸輕畸重和“同事不同處、同案不同判”等情況的出現(xiàn)。

（二）刑事司法人工智能的負(fù)面風(fēng)險(xiǎn)

刑事司法人工智能目前產(chǎn)生的主要是積極影響，負(fù)面效應(yīng)尚不明顯，這與當(dāng)前“法律人工智能仍屬一種統(tǒng)計(jì)型、經(jīng)驗(yàn)型、材料準(zhǔn)備型、文字模板型的弱人工智能，低效且適用范圍窄”、[1]121易為人類(lèi)掌控有直接關(guān)聯(lián)。但在不久的將來(lái)，隨著人工智能技術(shù)的發(fā)展，種種負(fù)面風(fēng)險(xiǎn)會(huì)逐漸顯現(xiàn)。彼時(shí)表面上，人工智能的建設(shè)者、使用者、適用者還是人類(lèi)，其設(shè)計(jì)、使用、改進(jìn)過(guò)程仍離不開(kāi)人類(lèi)的意志、經(jīng)驗(yàn)、技術(shù)，但實(shí)際上只是“以為算法只是顧問(wèn)，最終的權(quán)威還是掌握在人類(lèi)手中”[5]的錯(cuò)覺(jué)罷了。因?yàn)槿斯ぶ悄芗夹g(shù)越發(fā)達(dá)，人類(lèi)獨(dú)立判斷意愿就越弱，對(duì)其依賴(lài)度就越高，對(duì)其判斷、決策就越可能習(xí)慣性服從，此即所謂 “算法霸權(quán)”。具體來(lái)說(shuō)，其將從以下方面引發(fā)刑事司法人工智能的負(fù)面風(fēng)險(xiǎn)，甚至醞釀著發(fā)生刑事錯(cuò)案的可能：

1.削弱司法自主權(quán)。刑事司法人工智能的技術(shù)服務(wù)提供者一般是公安司法機(jī)關(guān)外的公司企業(yè)，帶有較為鮮明的服務(wù)外包色彩，必然滲入獨(dú)立于公安司法理念之外的技術(shù)設(shè)計(jì)理念。隨著技術(shù)的進(jìn)步，技術(shù)服務(wù)提供者設(shè)計(jì)的系統(tǒng)，會(huì)對(duì)公安司法人員產(chǎn)生越來(lái)越大的影響，如果不加干預(yù)，甚至?xí)蔀樽笥夜菜痉ㄈ藛T作出判斷、決策的決定性因素，這在一定程度上影響了公安司法人員專(zhuān)業(yè)角色的發(fā)揮。而且，對(duì)案件事實(shí)進(jìn)行查證，在非人工智能時(shí)代，是以人類(lèi)制定的法律為依據(jù)，通過(guò)人類(lèi)組成的控辯審三方組織，圍繞爭(zhēng)議焦點(diǎn)開(kāi)展辯論，針對(duì)證據(jù)進(jìn)行質(zhì)證的一系列步驟的總和，是人類(lèi)經(jīng)驗(yàn)智慧和邏輯理性的結(jié)晶;而人工智能時(shí)代來(lái)臨后，由于技術(shù)因素的摻入，案件事實(shí)的查證過(guò)程并非完全由人類(lèi)掌控。目前，在業(yè)已開(kāi)展司法人工智能實(shí)踐探索的地區(qū)、部門(mén)，被控告人的命運(yùn)可以說(shuō)已或多或少受到了技術(shù)、機(jī)器的影響，只是程度上有所差異而已。該種變化，實(shí)際上是工具理性對(duì)人類(lèi)理性的一種侵入，將對(duì)司法意義有較大的消解作用，在合理性上存在著難以解釋的倫理障礙，即人可以決定人的命運(yùn)，但技術(shù)、機(jī)器能否決定人的命運(yùn)，換言之，也就是決定人的命運(yùn)的是否只能是人，是否可以是人之外的其他物體。該倫理障礙的存在，直接動(dòng)搖到司法自主權(quán)的哲學(xué)基礎(chǔ)。

2.將被控告人降為訴訟客體。人工智能深度介入刑事司法領(lǐng)域后，公安司法人員如果不正確看待其角色，過(guò)度迷信其作用，或出于習(xí)慣性服從，或出于穩(wěn)妥考慮，直接將人工智能作出的判斷、決策作為最終的判斷、決策，就可能將被控告人降為訴訟客體，進(jìn)而導(dǎo)致工具理性的獨(dú)大。該客體化傾向具體表現(xiàn)為被控告人無(wú)從參與人工智能結(jié)論得出過(guò)程，無(wú)從知曉結(jié)論得出機(jī)理，無(wú)力對(duì)結(jié)論進(jìn)行辯駁、無(wú)力更改錯(cuò)誤結(jié)論，進(jìn)而喪失對(duì)自身命運(yùn)的發(fā)言權(quán)，只能任由他人掌控。該傾向危害甚大，不僅嚴(yán)重侵害被控告人訴訟參與權(quán)、知情權(quán)、救濟(jì)權(quán)等正當(dāng)訴訟權(quán)益，還會(huì)從根本上動(dòng)搖控辯雙方平等對(duì)抗格局，消解等腰三角的穩(wěn)定訴訟構(gòu)造，進(jìn)而導(dǎo)致案件處理的準(zhǔn)確性和公安司法機(jī)關(guān)的公信力下降，故應(yīng)當(dāng)引起有關(guān)部門(mén)的警惕。

3.使證據(jù)審查出現(xiàn)不當(dāng)傾向。人工智能過(guò)度介入刑事司法，可能導(dǎo)致證據(jù)制度兩大問(wèn)題：首先，證明標(biāo)準(zhǔn)出現(xiàn)客觀(guān)化傾向。2017年年初，中央政法工作會(huì)議明確提出“運(yùn)用大數(shù)據(jù)技術(shù)，形成操作性強(qiáng)、可數(shù)據(jù)化的統(tǒng)一法定證明標(biāo)準(zhǔn)”。換言之，“操作性強(qiáng)、可數(shù)據(jù)化”將是未來(lái)刑事證明標(biāo)準(zhǔn)的重要特征。由此帶來(lái)的問(wèn)題是，“如若將‘操作性強(qiáng)、可數(shù)據(jù)化視作未來(lái)刑事證明標(biāo)準(zhǔn)改革的目標(biāo)，那么，無(wú)論是操作性強(qiáng)還是可數(shù)據(jù)化都意味著未來(lái)努力的方向是增強(qiáng)刑事證明標(biāo)準(zhǔn)的客觀(guān)性”。[6]究其原因，皆因主觀(guān)證據(jù)難以判斷和把握，而客觀(guān)證據(jù)天生具備“操作性強(qiáng)、可數(shù)據(jù)化”特征，未來(lái)在人工智能證據(jù)審查過(guò)程中所占權(quán)重必然上升，因此刑事證明標(biāo)準(zhǔn)客觀(guān)化傾向也將愈發(fā)明顯;其次，法定證據(jù)主義復(fù)歸。制定公檢法三部門(mén)統(tǒng)一的證據(jù)標(biāo)準(zhǔn)、規(guī)則、程序有其積極意義，但同時(shí)也會(huì)帶來(lái)法定證據(jù)主義復(fù)歸的風(fēng)險(xiǎn)。這是因?yàn)?，司法人工智能按照既有?jīng)驗(yàn)來(lái)收集、審查證據(jù)，假如其使用者只知機(jī)械搬用，而不加以具體判斷，就可能忽視某些特殊證據(jù)或者證據(jù)中的某些特殊因素，而這些證據(jù)或因素往往又與定罪量刑有著密切聯(lián)系，一旦沒(méi)有納入考慮范圍，就可能導(dǎo)致“具體問(wèn)題不具體分析”，造成機(jī)械司法的后果。

4.導(dǎo)致隱性歧視。應(yīng)當(dāng)明確的是，大數(shù)據(jù)本身存在代表性不足的問(wèn)題，即“大數(shù)據(jù)往往是由網(wǎng)絡(luò)活躍群體產(chǎn)生的數(shù)據(jù)，而活躍群體只是一部分，非活躍群體的信息、想法、行為模式等難以通過(guò)大數(shù)據(jù)反映出來(lái)，因而大數(shù)據(jù)不能代表不依賴(lài)、少依賴(lài)網(wǎng)絡(luò)或其他可記錄電子設(shè)備的人群”。[7]對(duì)于刑事司法人工智能來(lái)說(shuō)，亦存在著大數(shù)據(jù)代表性不足的問(wèn)題。具體來(lái)說(shuō)，人工智能系統(tǒng)中的外部生活生產(chǎn)數(shù)據(jù)主要涉及網(wǎng)絡(luò)活躍群體的有關(guān)情況，系統(tǒng)自有數(shù)據(jù)及其衍生數(shù)據(jù)主要反映犯罪分子的基本情況以及前科劣跡、作案細(xì)節(jié)等情況，而對(duì)網(wǎng)絡(luò)非活躍群體、無(wú)犯罪記錄人員的有關(guān)情況，無(wú)法予以全面反映。以羈押必要性審查以及量刑評(píng)估為例，人工智能是在對(duì)案件庫(kù)中已有被控告人的性別、年齡、民族、籍貫、學(xué)歷、職業(yè)、家庭背景、體貌特征等諸多特征歸納提煉的基礎(chǔ)上，建立算法模型，借助大數(shù)據(jù)分析技術(shù)對(duì)現(xiàn)被控告人再犯可能性進(jìn)行評(píng)估。導(dǎo)致的直接后果就是，之前具有類(lèi)似特征的人再犯情形越多，具有該特征的人就越有可能被羈押或者處以更重的刑罰，即所謂的“數(shù)據(jù)畫(huà)像”。可見(jiàn)，“算法模型的建立是依據(jù)經(jīng)驗(yàn)法則的，法律AI本身其實(shí)是另一種形式的經(jīng)驗(yàn)證據(jù);長(zhǎng)期使用會(huì)有過(guò)度重視‘專(zhuān)家的經(jīng)驗(yàn)證據(jù)的風(fēng)險(xiǎn)”。[8]56亦即，該種數(shù)據(jù)畫(huà)像使被控告人陷入經(jīng)驗(yàn)主義和犯罪標(biāo)簽的窠臼，長(zhǎng)遠(yuǎn)來(lái)看，會(huì)對(duì)個(gè)人復(fù)歸社會(huì)和社會(huì)綜合治理造成不良影響。

綜上，刑事司法人工智能存在硬幣兩面，兼具正反兩方面功效。一方面，其建設(shè)思路、過(guò)程控制以及結(jié)果實(shí)現(xiàn)均將避免刑事錯(cuò)案作為追求目標(biāo)之一，實(shí)踐中也確實(shí)起到了一定錯(cuò)案避免效果，但另一方面，人工智能建設(shè)還存在著諸多問(wèn)題，且隨著技術(shù)的發(fā)展，“算法霸權(quán)”現(xiàn)象會(huì)越來(lái)越明顯，這累積著刑事錯(cuò)案風(fēng)險(xiǎn)。此即刑事司法人工智能面臨的兩難情形，可稱(chēng)為“刑事錯(cuò)案悖論”。

三、悖論的成因：人工智能建設(shè)存在的問(wèn)題

（一）對(duì)人工智能地位定位不準(zhǔn)

實(shí)踐中存在著一種傾向，那就是過(guò)分夸大人工智能作用，將其視為解決刑事司法存在問(wèn)題的靈丹妙藥。實(shí)際上，解決刑事司法問(wèn)題的關(guān)鍵在于人，重點(diǎn)在于機(jī)制，人工智能在其間只適宜承擔(dān)輔助決策的角色，這是因?yàn)椋?/p>

1.從司法倫理來(lái)看，人的命運(yùn)交由機(jī)器或者技術(shù)主導(dǎo)并不合適。如前所述，隨著技術(shù)的發(fā)展，人類(lèi)會(huì)不自覺(jué)地陷入數(shù)據(jù)算法的無(wú)形掌控中。在這種掌控中，人類(lèi)自以為對(duì)算法結(jié)果進(jìn)行著自由選擇，其實(shí)卻承受著“算法霸權(quán)”風(fēng)險(xiǎn)，即人類(lèi)的選擇是以算法事先提出的選項(xiàng)為前提，在算法限定的路徑內(nèi)進(jìn)行的。而遍觀(guān)歷史，人類(lèi)社會(huì)作為地球上唯一智慧生物組成的綜合體，創(chuàng)造了無(wú)數(shù)璀璨的文明成果，其中最重要的就是發(fā)現(xiàn)了人之所以為人的真諦——唯有人才具備超越動(dòng)物本能的“人性”。康德認(rèn)為，人之所以有尊嚴(yán)，乃是因?yàn)槿瞬煌趧?dòng)物，這種不同就在于如亞里士多德所說(shuō)，人是有理性的動(dòng)物，人也是有道德意識(shí)的動(dòng)物。[9]上述尊嚴(yán)、理性、道德就構(gòu)成了“人性”的重要內(nèi)容。而將人的命運(yùn)交由機(jī)器或者技術(shù)主導(dǎo)，某種程度上無(wú)視“人性”的存在，將人降格為“物”，既是不尊重人的尊嚴(yán)和自由、理性和道德的表現(xiàn)，又是對(duì)人主觀(guān)能動(dòng)性的忽視和對(duì)人妥善處理綜合體內(nèi)部事務(wù)能力的懷疑。也許，大數(shù)據(jù)預(yù)測(cè)可以為我們打造一個(gè)更安全、更高效的社會(huì)，但是卻否定了我們之所以為人的重要組成部分——自由選擇的能力和行為責(zé)任自負(fù)。[10]207實(shí)際上，要真正尊重“人性”，就應(yīng)將人的命運(yùn)交由人去決定，而非是人之外的其他物體，其他物體至多只能成為提供參考意見(jiàn)的輔助工具。也只有充分發(fā)揮人的主觀(guān)能動(dòng)性，才能抵御工具理性對(duì)人類(lèi)理性的入侵，才能建立起公安司法機(jī)關(guān)與公民間的信任。

2.從發(fā)展水平來(lái)看，現(xiàn)階段刑事司法人工智能尚不能滿(mǎn)足多情形下的任務(wù)要求。首先，人工智能能否在信息非充分場(chǎng)合表現(xiàn)良好仍存疑義。眾所周知，刑事訴訟過(guò)程是一個(gè)去偽存真的開(kāi)放過(guò)程，所涉信息繁多雜亂、真假難辨、流動(dòng)不息，故對(duì)案件事實(shí)的事后回溯實(shí)際上是控辯雙方在信息非充分條件下的一種博弈。遍數(shù)目前人工智能表現(xiàn)明顯勝過(guò)人類(lèi)的場(chǎng)合，還是以棋類(lèi)運(yùn)動(dòng)等信息充分場(chǎng)合居多，其能夠在信息非充分場(chǎng)合如撲克、麻將、電子游戲[11]、股市等有出色表現(xiàn)尚需時(shí)間的見(jiàn)證。而且，目前人工智能建立在既有數(shù)據(jù)環(huán)境基礎(chǔ)之上，面對(duì)已知情境往往運(yùn)行良好，但遇到新情況、新問(wèn)題則有可能不知該如何處理，即發(fā)生“過(guò)擬合”現(xiàn)象，所以即便是信息充分場(chǎng)合，當(dāng)面臨新情境時(shí)，人工智能也可能表現(xiàn)失常，如韓國(guó)棋手李昌鎬在與Alpha Go第四局對(duì)壘過(guò)程中下出被稱(chēng)為“神之一手”的白78手，直接導(dǎo)致Alpha Go面對(duì)沒(méi)有計(jì)算到的變化時(shí)出現(xiàn)混亂并犯下低級(jí)錯(cuò)誤而輸?shù)舯荣?其次，人工智能缺乏人類(lèi)作出判斷、決策的綜合能力。本杰明·卡多佐指出：“如果我們樂(lè)意，我們也許可以將法官的任務(wù)想象為一個(gè)翻譯者的工作，他閱讀著外部給予他的符號(hào)和記號(hào)。”[12]換言之，公安司法人員對(duì)案件事實(shí)的查證是一個(gè)多方接受案件信息，并按照人類(lèi)認(rèn)知模式而非機(jī)器語(yǔ)言重構(gòu)事實(shí)的過(guò)程。與人類(lèi)相比，人工智能暫時(shí)欠缺演繹、關(guān)聯(lián)、聯(lián)想等事實(shí)重構(gòu)能力，更遑論按照人類(lèi)認(rèn)知模式對(duì)證據(jù)關(guān)聯(lián)性、證明力等問(wèn)題進(jìn)行有效審查。例如，證人證言提及搶劫者系黃發(fā)男子，嫌疑人被抓獲時(shí)又恰好染有黃發(fā)，人工智能會(huì)判定該人犯罪可能性較高，但假如該人在背景調(diào)查庫(kù)中被登記為理發(fā)業(yè)從業(yè)人員，公安司法人員會(huì)依此調(diào)低其犯罪可能性，而人工智能缺乏這種即時(shí)應(yīng)變能力，無(wú)法主動(dòng)關(guān)聯(lián)“黃發(fā)”與“理發(fā)業(yè)從業(yè)人員”之間的邏輯關(guān)系，更不會(huì)因此調(diào)低被抓獲者的犯罪可能性。同時(shí)，影響司法判斷、決策的因素有很多，除犯罪構(gòu)成要件等常規(guī)因素外，還包括社會(huì)、情感、道德、價(jià)值等特殊因素?？紤]到現(xiàn)階段司法人工智能的智能化程度，要求其對(duì)上述因素進(jìn)行考量，將刑法謙抑性、寬嚴(yán)相濟(jì)刑事政策、刑罰個(gè)別化處理等理念體現(xiàn)在判斷、決策過(guò)程中，并對(duì)判斷、決策可能產(chǎn)生的社會(huì)影響進(jìn)行預(yù)估，顯然不切實(shí)際;最后，人工智能決策、判斷仍然存在出錯(cuò)可能。刑事訴訟因其特殊性質(zhì)和可能造成的影響，對(duì)錯(cuò)誤的容忍度極低，而當(dāng)前尚無(wú)一種人工智能技術(shù)和算法能夠保證判斷、決策的準(zhǔn)確率達(dá)到100%，如“一項(xiàng)研究顯示，在被算法預(yù)測(cè)的未來(lái)兩年內(nèi)實(shí)施暴力犯罪的人中，僅有20%實(shí)施了暴力犯罪。就算范圍擴(kuò)大到所有犯罪，算法預(yù)測(cè)的正確率亦僅有61%”[8]55。再考慮到人工智能審查證據(jù)時(shí)可能出現(xiàn)的客觀(guān)化傾向，故“我們冒險(xiǎn)把罪犯的定罪權(quán)放在了數(shù)據(jù)手中，借以表達(dá)我們對(duì)數(shù)據(jù)和我們的分析結(jié)果的崇尚，但實(shí)際上這是一種濫用”[10]195。為最大限度降低人工智能可能引發(fā)的刑事錯(cuò)案風(fēng)險(xiǎn)，明確人工智能之于人腦判斷的輔助地位，顯得既必要又緊迫。

（二）源頭數(shù)據(jù)存在瑕疵

一方面，由于認(rèn)識(shí)不到位、責(zé)任心不足、任務(wù)繁重、收集手段滯后等主客觀(guān)原因，收集人員收集的“數(shù)據(jù)的質(zhì)量可能會(huì)很差;可能是不客觀(guān)的;可能存在分析錯(cuò)誤或者具有誤導(dǎo)性;更糟糕的是數(shù)據(jù)可能根本達(dá)不到量化它的目的”，[10]210根據(jù)人工智能“垃圾數(shù)據(jù)產(chǎn)生糟糕結(jié)論”的定律，據(jù)此作出的判斷、決策的可信度存在較大疑問(wèn);而且，收集人員對(duì)有些本可結(jié)構(gòu)化收集的數(shù)據(jù)沒(méi)有采用結(jié)構(gòu)化收集方式，所收集到的數(shù)據(jù)雜亂而無(wú)序，又為后期的數(shù)據(jù)整合匯總、分析處理帶來(lái)了難題。另一方面，深度學(xué)習(xí)的案件樣本質(zhì)量和代表性存疑。具體來(lái)說(shuō)，人工智能將既有案件數(shù)據(jù)作為其深度學(xué)習(xí)的訓(xùn)練集，盡管案件樣本數(shù)量不少，但未做到全量學(xué)習(xí)，現(xiàn)有學(xué)習(xí)對(duì)象僅限于本地區(qū)、本部門(mén)所掌握數(shù)據(jù)，且因區(qū)分案件辦理質(zhì)量?jī)?yōu)劣，既缺乏統(tǒng)一標(biāo)準(zhǔn)，又需耗費(fèi)大量人力、物力、時(shí)間，亦無(wú)法保證優(yōu)量學(xué)習(xí);同時(shí)，目前人工智能涉及罪名還較為有限，后期要拓展至更多罪名的話(huà)，不可避免會(huì)遇到部分類(lèi)別犯罪案件的樣本較少即數(shù)據(jù)顆粒度過(guò)小的問(wèn)題，而該問(wèn)題之所以成為問(wèn)題，主要是因?yàn)樾颖緦W(xué)習(xí)得出的規(guī)律性特別是相關(guān)性難以令人信服，難以在實(shí)踐中使用。

（三）算法模型封閉難懂

刑事司法人工智能作出的判斷、決策是否具有價(jià)值，取決于算法模型是否科學(xué)、準(zhǔn)確。但目前人工智能算法還存在以下三方面缺憾，影響到人們對(duì)算法科學(xué)性和準(zhǔn)確性的信任：首先，科學(xué)性缺乏評(píng)估機(jī)制。當(dāng)前的探索實(shí)踐多以地方為主，自上而下的全國(guó)統(tǒng)一部署較為罕見(jiàn)，導(dǎo)致各地、各部門(mén)就同一事項(xiàng)設(shè)計(jì)的算法缺乏統(tǒng)一標(biāo)準(zhǔn)，變量的選擇帶有地區(qū)、部門(mén)、團(tuán)隊(duì)色彩，得出的結(jié)論出現(xiàn)偏差，進(jìn)而導(dǎo)致同一情況因所在地區(qū)、所屬部門(mén)、所用系統(tǒng)的不同而獲得不同的處理。且算法設(shè)計(jì)完畢后、投入使用前，缺乏對(duì)其科學(xué)性進(jìn)行評(píng)估的相關(guān)機(jī)制，算法投入使用后，亦無(wú)相關(guān)機(jī)構(gòu)對(duì)公安司法人員如何使用算法模型給予必要的指導(dǎo);其次，“黑箱”效應(yīng)明顯。人工智能技術(shù)服務(wù)公司為保守商業(yè)機(jī)密與保護(hù)知識(shí)產(chǎn)權(quán)，怠于公開(kāi)算法內(nèi)容，造成算法“黑箱”效應(yīng)明顯，與刑事司法公開(kāi)透明的要求相抵觸。對(duì)于算法內(nèi)容，不僅被控告人不知曉，甚至連主辦案件的公安司法人員也不甚清晰，且有關(guān)結(jié)論得出過(guò)程并未納入被控告人，某種程度上侵害了其正當(dāng)訴訟權(quán)益，不可避免引發(fā)公眾對(duì)案件辦理過(guò)程透明性的質(zhì)疑。并且，算法作為影響被控告人刑事責(zé)任舉足輕重的因素，不向當(dāng)事人以及公眾公開(kāi)，值得商榷，這也是導(dǎo)致被控告人在訴訟過(guò)程中客體化的重要因素?？梢灶A(yù)見(jiàn)，被控告人未來(lái)必然會(huì)以此對(duì)這種不確定風(fēng)險(xiǎn)進(jìn)行抗辯。美國(guó)威斯康星州已經(jīng)發(fā)生過(guò)一起典型案例——威斯康星州訴盧米斯案，該州法院使用COMPAS系統(tǒng)（中文全稱(chēng)為“罪犯矯正替代性制裁分析管理系統(tǒng)”）作為量刑的部分依據(jù)，但“由于COMPAS的研發(fā)公司要保守其商業(yè)秘密，所以只有對(duì)再犯風(fēng)險(xiǎn)的評(píng)估結(jié)果報(bào)告給法庭，而缺乏具體的評(píng)估過(guò)程記錄”，[13]被告以法官侵犯了其量刑個(gè)別化對(duì)待和依據(jù)準(zhǔn)確信息獲得判決等兩項(xiàng)權(quán)利上訴至威斯康星州最高法院。最后，驗(yàn)證標(biāo)準(zhǔn)及手段欠缺。刑事司法人工智能目前所使用的主流算法是深度學(xué)習(xí)算法，即使將該算法的代碼、公式全部公開(kāi)，也無(wú)法展示其具體計(jì)算過(guò)程，更無(wú)法讓當(dāng)事人、公安司法人員預(yù)知或者理解算法結(jié)果。換言之，當(dāng)人工智能的判斷、決策作出后，由于算法的專(zhuān)業(yè)性，當(dāng)事人和公安司法人員缺乏對(duì)該判斷、決策的合理性、科學(xué)性乃至唯一性進(jìn)行驗(yàn)證的標(biāo)準(zhǔn)和手段。

（四）保障機(jī)制建設(shè)緩慢

當(dāng)前，我國(guó)刑事司法人工智能建設(shè)總體上還處在起步階段。這一階段的發(fā)展應(yīng)以為刑事執(zhí)法辦案提供基礎(chǔ)服務(wù)為目的，以數(shù)據(jù)的深度運(yùn)用、算法的不斷改進(jìn)和功能的優(yōu)化調(diào)整為重點(diǎn)。上述發(fā)展目的及重點(diǎn)的實(shí)現(xiàn)，離不開(kāi)相關(guān)保障機(jī)制的建設(shè)。對(duì)于當(dāng)事人合法權(quán)益、數(shù)據(jù)安全等保障機(jī)制，目前已有所涉及，但大多是規(guī)定在僅具有內(nèi)部約束力的內(nèi)部工作規(guī)則中，并未為相關(guān)法律法規(guī)所涉及，且內(nèi)容比較粗疏、不成體系，由此導(dǎo)致當(dāng)事人缺乏與人工智能結(jié)論平等對(duì)抗的訴訟武器，控辯平等對(duì)抗的等腰三角結(jié)構(gòu)在一定程度上遭受破壞;更有甚者，如智能系統(tǒng)故障情形下的責(zé)任追究機(jī)制，理論界雖已注意到，但實(shí)務(wù)界還未納入考慮視野。

（五）交叉領(lǐng)域人才緊缺

刑事司法人工智能建設(shè)還存在一個(gè)突出問(wèn)題，就是“懂法律的不懂技術(shù)，懂技術(shù)的不懂法律”。具體來(lái)說(shuō)，一方面，公安司法人員對(duì)法律知識(shí)、辦案技巧、案件流程較為熟悉，但對(duì)人工智能技術(shù)了解不深，存在專(zhuān)業(yè)隔膜，對(duì)采取怎樣的技術(shù)方式來(lái)表達(dá)、釋明、總結(jié)法律問(wèn)題“未窺門(mén)徑”，而且由于缺乏統(tǒng)計(jì)學(xué)、經(jīng)濟(jì)學(xué)等相關(guān)領(lǐng)域的知識(shí)，對(duì)已有數(shù)據(jù)資源亦未充分加以整合利用。針對(duì)這一點(diǎn)，已有學(xué)者指出目前法學(xué)教育存在的一大問(wèn)題，就是“法律已變得非常深地混合了其他領(lǐng)域的方法和洞見(jiàn)，并且法學(xué)院還要走很長(zhǎng)的路才能克服大多數(shù)法學(xué)院學(xué)生令人羞恥地回避數(shù)學(xué)、統(tǒng)計(jì)、科學(xué)和技術(shù)的現(xiàn)象”;[14]另一方面，人工智能技術(shù)提供者囿于法律專(zhuān)業(yè)背景的缺失，對(duì)公安司法人員提出的目標(biāo)以及要求，難以從法律層面上進(jìn)行理解和把握，難以將法律運(yùn)作規(guī)律通過(guò)技術(shù)方式表達(dá)出來(lái)，進(jìn)而導(dǎo)致建設(shè)的刑事司法人工智能功能與基層一線(xiàn)實(shí)踐需求產(chǎn)生偏離。

四、悖論的消解：建構(gòu)刑事錯(cuò)案風(fēng)險(xiǎn)防范機(jī)制

人工智能超越人類(lèi)智能的可能性，人工智能產(chǎn)生危害后果的嚴(yán)重性，以及人工智能技術(shù)本身內(nèi)在的不確定性，這些因素足以構(gòu)成法律以及其他規(guī)范防止風(fēng)險(xiǎn)的必要性。[15]

（一）明確刑事司法人工智能的輔助地位

該輔助地位不是暫時(shí)性的，而是永久性的，即無(wú)論刑事司法人工智能未來(lái)發(fā)展到何種程度，即使其已完全超越人類(lèi)智能，仍然應(yīng)當(dāng)作為輔助辦案系統(tǒng)而存在。這不是技術(shù)方面的要求，而是倫理和刑事司法準(zhǔn)確性方面的要求。因此，應(yīng)根據(jù)刑事訴訟工作性質(zhì)和內(nèi)容，將其劃分為重復(fù)性、機(jī)械性、事務(wù)性工作和價(jià)值判斷性、結(jié)論性、裁判性工作。其中，第一類(lèi)工作，如案件受理登記、電子卷宗制作、提審訊問(wèn)記錄、閱卷摘錄、法庭記錄、電子送達(dá)、數(shù)據(jù)排查、統(tǒng)計(jì)分析等，可以盡量交給人工智能完成，以減輕公安司法人員機(jī)械工作負(fù)擔(dān)，使其能夠?qū)⒏嗑ν度氲街橇Α⒛X力判斷上來(lái);第二類(lèi)工作，如偵查方向判斷、證據(jù)收集審查、出庭公訴、庭上智辯、自由心證、裁定判決、法律服務(wù)等，應(yīng)當(dāng)以人類(lèi)為主體完成。同時(shí)，人工智能的介入程度應(yīng)當(dāng)與案件的輕微程度、簡(jiǎn)單程度成正比，如果被控告人同時(shí)還認(rèn)罪認(rèn)罰，那人工智能的介入深度就應(yīng)更深，這是因?yàn)榇藭r(shí)不公正風(fēng)險(xiǎn)發(fā)生概率較小，完全可以?xún)?yōu)先考慮效率問(wèn)題。此外，使用人工智能對(duì)某事項(xiàng)作出判斷、決策，并不代表公安司法人員對(duì)該事項(xiàng)就不用作出判斷、決策，因?yàn)槿斯ぶ悄艿妮o助地位還表現(xiàn)在其作出的判斷、決策可以與公安司法人員形成一種比照監(jiān)督，以最大限度避免刑事錯(cuò)案風(fēng)險(xiǎn)的出現(xiàn)。

（二）注重源頭數(shù)據(jù)的收集工作

大數(shù)據(jù)是刑事司法人工智能的基礎(chǔ)，是充分發(fā)揮人工智能作用的前提。首先，盡可能多地收集數(shù)據(jù)。事實(shí)上，數(shù)據(jù)的異質(zhì)性使多樣化之于大數(shù)據(jù)的意義遠(yuǎn)遠(yuǎn)大于大容量的貢獻(xiàn)：大容量數(shù)據(jù)的特點(diǎn)是比抽樣統(tǒng)計(jì)更為精確，但異質(zhì)數(shù)據(jù)還能挖掘、分析出更有價(jià)值的結(jié)論。[16]而目前刑事司法人工智能使用的數(shù)據(jù)多為政法機(jī)關(guān)自有數(shù)據(jù)和衍生數(shù)據(jù)，多樣性還較為有限。因此，有必要從國(guó)家層面或者在國(guó)家支持下，采取購(gòu)買(mǎi)或者交換的方式，獲取工商、銀行、醫(yī)療、教育、社保、交通、民航、住建、房管、有價(jià)證券、網(wǎng)購(gòu)、外賣(mài)、票務(wù)、寄遞業(yè)、社交媒體、在線(xiàn)地圖、共享單車(chē)、網(wǎng)約車(chē)、出租車(chē)等信息，與已有的公安、檢察、法院、司法行政信息進(jìn)行整合，并按照各部門(mén)工作需要進(jìn)行審批與授權(quán)，為違法犯罪預(yù)測(cè)、犯罪偵查、公訴、審判、刑罰執(zhí)行、社區(qū)矯正提供全面的數(shù)據(jù)服務(wù)。其次，盡可能地確保收集數(shù)據(jù)的準(zhǔn)確性。盡管犧牲數(shù)據(jù)的準(zhǔn)確性有助于獲得技術(shù)處理效率上的快捷性，但數(shù)據(jù)準(zhǔn)確與否，直接關(guān)系到人工智能作出的判斷、決策是否準(zhǔn)確，且刑事司法對(duì)當(dāng)事人及其家庭影響重大，故應(yīng)確保收集的數(shù)據(jù)盡可能準(zhǔn)確。這就要求：對(duì)已經(jīng)能夠采取結(jié)構(gòu)化方式收集的數(shù)據(jù)，要進(jìn)一步細(xì)化該類(lèi)數(shù)據(jù)的收集項(xiàng)目和項(xiàng)目要素，確保收集的數(shù)據(jù)盡可能詳盡。對(duì)尚未實(shí)現(xiàn)結(jié)構(gòu)化收集的數(shù)據(jù)，要改進(jìn)語(yǔ)音識(shí)別、圖文識(shí)別、語(yǔ)義識(shí)別和實(shí)體識(shí)別等技術(shù)手段，確保數(shù)據(jù)識(shí)別更加精確和便捷，如無(wú)法適用上述技術(shù)的，應(yīng)至少保證將數(shù)據(jù)留存在云存儲(chǔ)空間;對(duì)其中的非結(jié)構(gòu)化數(shù)據(jù)，如圖片、視頻、音頻、辦公文檔等，現(xiàn)階段由于技術(shù)所限，只能依托人工進(jìn)行審查;而對(duì)半結(jié)構(gòu)化數(shù)據(jù)，則在將其劃分為結(jié)構(gòu)化部分以及非結(jié)構(gòu)化部分后，應(yīng)采取結(jié)構(gòu)化和數(shù)據(jù)留存相結(jié)合的方式收集，以及結(jié)構(gòu)化和人工相結(jié)合的方式審查。最后，注重收集數(shù)據(jù)的全面性。近年來(lái)，社會(huì)上發(fā)生一系列案件，如陸勇代購(gòu)印度抗癌藥案、天津老太擺地?cái)偞驓馇虬傅?，展現(xiàn)了公眾與公安司法機(jī)關(guān)在認(rèn)知上的截然對(duì)立，受到了公眾的普遍質(zhì)疑。究其原因，與公安司法人員機(jī)械執(zhí)法、未全面考量案情有很大關(guān)系。在人工智能時(shí)代，要避免上述情形的發(fā)生，源頭階段就應(yīng)注意數(shù)據(jù)收集的全面性、客觀(guān)性。因此，應(yīng)對(duì)個(gè)案進(jìn)行特殊把控，在填清一般要素的同時(shí)，將特殊要素一并錄入。對(duì)于要素選項(xiàng)中暫未收錄的特殊要素，應(yīng)準(zhǔn)許公安司法人員自我創(chuàng)設(shè)。待后臺(tái)相似要素積累到一定量級(jí)，有關(guān)部門(mén)應(yīng)及時(shí)整理固化，并作為要素復(fù)選項(xiàng)供公安司法人員選填。后期在人工智能開(kāi)展證據(jù)校驗(yàn)、類(lèi)案推送、量刑預(yù)測(cè)、偏離預(yù)警時(shí)，公安司法人員應(yīng)特別關(guān)注特殊要素是否已經(jīng)納入考量。

（三）完善算法的設(shè)計(jì)與應(yīng)用

大數(shù)據(jù)的擁有者只有基于大數(shù)據(jù)建立有效的模型和工具，才能充分發(fā)揮大數(shù)據(jù)的價(jià)值。首先，控制設(shè)計(jì)主體資質(zhì)。應(yīng)對(duì)設(shè)計(jì)算法的公司企業(yè)實(shí)施門(mén)檻準(zhǔn)入制、進(jìn)行資質(zhì)分級(jí)認(rèn)證管理，即從事人工智能研發(fā)的公司企業(yè)必須取得人工智能研發(fā)牌照，且牌照上應(yīng)當(dāng)注明該公司企業(yè)所獲批的研發(fā)資質(zhì)和范圍。具體資質(zhì)的設(shè)計(jì)，可以按照公司企業(yè)的研發(fā)能力，將人工智能公司企業(yè)分為一級(jí)、二級(jí)、三級(jí)研發(fā)單位。其中，一級(jí)研發(fā)單位可以單獨(dú)研發(fā)某人工智能項(xiàng)目，二級(jí)研發(fā)單位可以在其他研發(fā)單位配合下為主研發(fā)某人工智能項(xiàng)目，三級(jí)研發(fā)單位則只能作為協(xié)作研發(fā)單位。其次，對(duì)算法進(jìn)行科學(xué)性評(píng)估。算法設(shè)計(jì)完畢、投入使用前，應(yīng)當(dāng)經(jīng)具備合法資質(zhì)的獨(dú)立第三方機(jī)構(gòu)進(jìn)行科學(xué)性評(píng)估，謹(jǐn)防出現(xiàn)主觀(guān)片面、系統(tǒng)性歧視等現(xiàn)象，投入后遇有重大情況（如刑事政策變更、法條修改等），或者雖無(wú)重大情況但達(dá)到再次評(píng)估時(shí)間，應(yīng)當(dāng)立即進(jìn)行評(píng)估，并及時(shí)做出調(diào)整。需要說(shuō)明的是，通用算法的設(shè)計(jì)最好由中央政法機(jī)關(guān)組織進(jìn)行，唯此才能減少同一算法因各地、各部門(mén)數(shù)據(jù)內(nèi)容、考慮因素不同而存在差異，才能確?！巴竿?、同案同判”。再次，建立算法釋明制度?？紤]到算法模型具有獨(dú)創(chuàng)性、獨(dú)占性、財(cái)產(chǎn)性特征，確實(shí)屬于有關(guān)政法機(jī)關(guān)及研發(fā)公司企業(yè)的智力成果，理應(yīng)作為知識(shí)產(chǎn)權(quán)進(jìn)行保護(hù)。但是鑒于社會(huì)公眾均是潛在的刑事追訴對(duì)象，刑事訴訟與公眾利益緊密相關(guān)，因此不適宜將算法模型單純地作為知識(shí)產(chǎn)權(quán)進(jìn)行排他性保護(hù)。比較合適的做法是采取區(qū)別保護(hù)的方式：一方面，當(dāng)與特定刑事司法人工智能無(wú)關(guān)、與特定刑事案件無(wú)關(guān)的機(jī)關(guān)和公司企業(yè)對(duì)有關(guān)算法模型進(jìn)行竊取、抄襲和未經(jīng)許可使用、傳播時(shí)，應(yīng)當(dāng)將該算法模型作為知識(shí)產(chǎn)權(quán)進(jìn)行排他性保護(hù);另一方面，刑事案件辦理過(guò)程中，人工智能使用機(jī)關(guān)應(yīng)當(dāng)主動(dòng)制作人工智能決定說(shuō)明報(bào)告，詳細(xì)列明人工智能工作原理和算法總體設(shè)計(jì)思路、考慮因素、代碼及程式等內(nèi)容并附卷備查，此外，當(dāng)控辯雙方有一方申請(qǐng)人工智能使用機(jī)關(guān)釋明使用算法模型，人工智能使用機(jī)關(guān)應(yīng)當(dāng)依申請(qǐng)，根據(jù)所處階段的不同，在申請(qǐng)人簽訂保密承諾書(shū)的前提下，視情采取書(shū)面答復(fù)或者出庭的方式予以釋明，除依申請(qǐng)釋明外，人工智能使用機(jī)關(guān)還可以依檢法部門(mén)通知視情采取上述方式進(jìn)行釋明。最后，確保算法可驗(yàn)證。即控辯雙方通過(guò)提出疑問(wèn)或者異議，驗(yàn)證算法模型科學(xué)與否。由于被控告人的異議權(quán)在下文將詳細(xì)論述，故在此僅探討公安司法機(jī)關(guān)、被害人提出異議的情形。具體來(lái)說(shuō)，檢察機(jī)關(guān)在審查批準(zhǔn)逮捕、審查起訴期間對(duì)公安機(jī)關(guān)，法院在審判期間對(duì)公檢機(jī)關(guān)人工智能決定存在疑問(wèn)時(shí)，可以要求人工智能使用機(jī)關(guān)向檢察人員或者審判人員演示驗(yàn)證，演示結(jié)果如果與先前決定內(nèi)容存在實(shí)質(zhì)性差別，那么檢法部門(mén)應(yīng)當(dāng)以決定內(nèi)容不具有唯一性不予采信;被害人對(duì)公安司法機(jī)關(guān)人工智能決定存在異議的，可以向檢察機(jī)關(guān)提出。

（四）優(yōu)化現(xiàn)有深度學(xué)習(xí)技術(shù)

我國(guó)刑事司法人工智能借助深度學(xué)習(xí)技術(shù)，較好地完成了現(xiàn)階段刑事辦案智能化任務(wù)。但也應(yīng)當(dāng)看到，司法人工智能采用深度學(xué)習(xí)技術(shù)并不徹底，大多為自上而下的半監(jiān)督學(xué)習(xí)，與自下而上的無(wú)監(jiān)督學(xué)習(xí)相差甚遠(yuǎn)，一定程度上帶有專(zhuān)家系統(tǒng)的痕跡，自動(dòng)化、智能化程度稍顯不足，且采用的深度學(xué)習(xí)技術(shù)也比較單一，以深度神經(jīng)網(wǎng)絡(luò)為主，這制約了司法人工智能實(shí)踐效能的進(jìn)一步發(fā)揮。因此，應(yīng)當(dāng)對(duì)現(xiàn)有深度學(xué)習(xí)技術(shù)進(jìn)行優(yōu)化，嘗試引入更多深度學(xué)習(xí)技術(shù)，如生成式對(duì)抗性網(wǎng)絡(luò)、強(qiáng)化學(xué)習(xí)、遷移學(xué)習(xí)等;同時(shí)，在大數(shù)據(jù)和云計(jì)算能力的支撐下，實(shí)現(xiàn)對(duì)既有刑事司法數(shù)據(jù)的全量學(xué)習(xí)，以數(shù)據(jù)相關(guān)性研究為切入點(diǎn)，深入探究隱藏在海量數(shù)據(jù)背后的刑事司法規(guī)律，逐步推進(jìn)自下而上的無(wú)監(jiān)督學(xué)習(xí)，繼而提升司法人工智能的智能化水平。至于使人工智能具備邏輯推理甚至自我意識(shí)等目前人類(lèi)所獨(dú)有的高級(jí)認(rèn)知功能，應(yīng)是未來(lái)人工智能發(fā)展過(guò)程中需要著重考慮的問(wèn)題，而非當(dāng)下最緊迫的任務(wù)。[17]

（五）加強(qiáng)保障機(jī)制建設(shè)

首先，通過(guò)法律賦予被控告人選擇適用權(quán)、請(qǐng)求專(zhuān)家?guī)椭鷻?quán)、知情權(quán)、異議權(quán)、訴訟抗辯權(quán)等，其中部分權(quán)利也應(yīng)當(dāng)賦予被害人。應(yīng)先明確僅有嫌疑人、被告人認(rèn)罪認(rèn)罰的輕微刑事案件需要強(qiáng)制使用人工智能。當(dāng)被控告人、被害人有一方反對(duì)人工智能作出的決定時(shí)，公安司法機(jī)關(guān)經(jīng)審查不屬于上述強(qiáng)制使用案件范圍的，就應(yīng)當(dāng)將決定所涉事項(xiàng)改由人工判斷的方式作出。之所以如此確定強(qiáng)制使用案件范圍，是因?yàn)檫@類(lèi)案件性質(zhì)不太嚴(yán)重、事實(shí)相對(duì)穩(wěn)定，當(dāng)事人事先對(duì)其罪名和刑罰予以認(rèn)可，故人工智能的判斷、決策不易出錯(cuò)，且被接受的可能性較高?？紤]到被控告人對(duì)人工智能可能了解甚少，所以應(yīng)當(dāng)允許其聘請(qǐng)專(zhuān)家作為《刑事訴訟法》第192條規(guī)定的“有專(zhuān)門(mén)知識(shí)的人”為自己提供咨詢(xún)和到庭協(xié)助解決專(zhuān)門(mén)性問(wèn)題;當(dāng)被控告人申請(qǐng)公開(kāi)或者釋明人工智能作出決定的依據(jù)、過(guò)程時(shí)，公安司法機(jī)關(guān)應(yīng)當(dāng)在被控告人簽訂保密承諾書(shū)的前提下，將人工智能工作原理、算法總體設(shè)計(jì)思路、算法考慮因素、算法代碼及程式告知被控告人;當(dāng)被控告人在檢察院審查起訴、法院庭審階段對(duì)人工智能決定內(nèi)容提出異議時(shí)，檢法部門(mén)應(yīng)當(dāng)要求人工智能使用機(jī)關(guān)對(duì)被控告人內(nèi)容予以書(shū)面答復(fù)，必要時(shí)要求人工智能使用機(jī)關(guān)向檢察人員演示或者當(dāng)庭演示操作（當(dāng)庭演示的，由控辯雙方圍繞爭(zhēng)議焦點(diǎn)當(dāng)庭進(jìn)行質(zhì)證），演示結(jié)果如果與先前決定內(nèi)容存在實(shí)質(zhì)性差別，那么檢法部門(mén)應(yīng)當(dāng)以決定內(nèi)容不具有唯一性不予采信;被控告人可以將算法不公開(kāi)透明或者算法某類(lèi)考慮因素涉嫌歧視作為抗辯理由。其次，保證數(shù)據(jù)安全。要保障數(shù)據(jù)的安全，關(guān)鍵就是做好權(quán)限管理、留痕回溯、責(zé)任追究三項(xiàng)工作。詳言之，就是對(duì)刑事司法人工智能數(shù)據(jù)進(jìn)行分級(jí)定密，嚴(yán)控?cái)?shù)據(jù)網(wǎng)上流轉(zhuǎn)范圍，研究制定有關(guān)數(shù)據(jù)使用管理?xiàng)l例及實(shí)施細(xì)則，嚴(yán)格審批、管理人工智能及其關(guān)聯(lián)系統(tǒng)使用權(quán)限，對(duì)公安司法人員的每一次登陸、操作都要留痕備查，并研發(fā)異常情況實(shí)時(shí)預(yù)警模塊進(jìn)行監(jiān)督管理;當(dāng)發(fā)現(xiàn)危害數(shù)據(jù)安全情況時(shí)，應(yīng)根據(jù)嚴(yán)重程度及時(shí)進(jìn)行責(zé)任追究。最后，建立智能化系統(tǒng)故障情形下的責(zé)任追究機(jī)制?，F(xiàn)階段刑事司法人工智能尚處低人工智能階段，因此過(guò)錯(cuò)責(zé)任主體只能是人工智能使用機(jī)關(guān)。至于是否要追究相關(guān)辦案人員的責(zé)任，建議按照辦案人員與智能化系統(tǒng)故障間因果關(guān)系的有無(wú)、強(qiáng)弱來(lái)進(jìn)行判定，只要不是故意、重大過(guò)失造成的，即使屬于普通過(guò)失，也不應(yīng)當(dāng)追究個(gè)人責(zé)任。同時(shí)鑒于辦案人員對(duì)系統(tǒng)性歧視的發(fā)生主觀(guān)上不存在過(guò)錯(cuò)，故不建議以該理由對(duì)公安司法人員進(jìn)行追責(zé)。

參考文獻(xiàn)：

[1]左衛(wèi)民.關(guān)于法律人工智能在中國(guó)運(yùn)用前景的若干思考[J].清華法學(xué)，2018（2）.

[2]黃京平.刑事司法人工智能的負(fù)面清單[J].探索與爭(zhēng)鳴，2017（10）：85.

[3]陳健.上?！爸腔鄯ㄔ骸苯ㄔO(shè)再升級(jí)：非法吸收存款等罪名案件已進(jìn)入新系統(tǒng)試運(yùn)行[N].上海金融報(bào)，2017-10-31（A13）.

[4]盧志堅(jiān)，等.江蘇人工智能與檢察辦案深度“碰撞”[N].江蘇法制報(bào)，2018-03-02（1）.

[5][以]尤瓦爾·赫拉利.今日簡(jiǎn)史：人類(lèi)命運(yùn)大議題[M].林俊宏，譯.北京：中信出版集團(tuán)，2018：46.

[6]李訓(xùn)虎.刑事證明標(biāo)準(zhǔn)“中體西用”立法模式審思[J].政法論壇，2018（3）：128.

[7]左衛(wèi)民.一場(chǎng)新的范式革命？——解讀中國(guó)法律實(shí)證研究[J].清華法學(xué)，2017（3）：59-60.

[8]李本.美國(guó)司法實(shí)踐中的人工智能：?jiǎn)栴}與挑戰(zhàn)[J].中國(guó)法律評(píng)論，2018（2）.

[9]王福玲.康德尊嚴(yán)思想研究[M].北京：中國(guó)社會(huì)科學(xué)出版社，2014：65-66.

[10][英]維克托·邁爾-舍恩伯格，肯尼思·庫(kù)克耶.大數(shù)據(jù)時(shí)代：生活、工作與思維的大變革[M].盛楊燕，周濤，譯.杭州：浙江人民出版社，2013.

[11]機(jī)器之心.面對(duì)最菜TI戰(zhàn)隊(duì)，OpenAI在Dota2上輸?shù)煤翢o(wú)還手之力[DB/OL].（2018-08-23）[2018-12-01]https：//www.jiqizhixin.com/articles/.

[12][美]本杰明·卡多佐.司法過(guò)程的性質(zhì)[M].蘇力，譯.北京：商務(wù)印書(shū)館，1998：109.

[13]朱體正.人工智能輔助刑事裁判的不確定性風(fēng)險(xiǎn)及其防范——美國(guó)威斯康星州訴盧米斯案的啟示[J].浙江社會(huì)科學(xué)，2018（6）：77.

[14][美]理查德·波斯納.法官如何思考[M].蘇力，譯.北京：北京大學(xué)出版社，2009：192.

[15]吳漢東.人工智能時(shí)代的制度安排與法律規(guī)制[J].法律科學(xué)：西北政法大學(xué)學(xué)報(bào)，2017（5）：134.

[16]徐駿.智慧法院的法理審思[J].法學(xué)，2017（3）：56.

[17]劉憲權(quán).人工智能時(shí)代的“內(nèi)憂(yōu)”“外患”與刑事責(zé)任[J].東方法學(xué)，2018（1）：134-142.

責(zé)任編輯：楊 煉