人工智能在刑事司法裁判中的運(yùn)用及風(fēng)險規(guī)制
——以事實(shí)認(rèn)定為場域

吳朋穗 簡卓彥 毛翊璇 戴 鵬

廣東警官學(xué)院，廣東 廣州 510405

近年來人工智能熱度席卷世界，法學(xué)領(lǐng)域也因此產(chǎn)生巨大變革。但是與其他領(lǐng)域相比，人工智能在法學(xué)領(lǐng)域的發(fā)展不算快。法學(xué)的研究對象——法律現(xiàn)象體量龐大，且產(chǎn)生的樣本數(shù)據(jù)以體量為基數(shù)快速增長。以數(shù)據(jù)處理能力和計算能力見長的人工智能卻在樣本豐富、數(shù)據(jù)充足的司法領(lǐng)域中多有冷遇，事實(shí)認(rèn)定領(lǐng)域就是其中之一。

一、人工智能在事實(shí)認(rèn)定環(huán)節(jié)的實(shí)踐與探索

人工智能賦能事實(shí)認(rèn)定必經(jīng)三個步驟，將證據(jù)轉(zhuǎn)換為數(shù)據(jù)、運(yùn)算和整合數(shù)據(jù)、輸出的結(jié)論為人理解。［1］證據(jù)是事實(shí)認(rèn)定的基礎(chǔ)，在理論和實(shí)踐中刑事證據(jù)都是人工智能賦能事實(shí)認(rèn)定的一個主要研究切口。我國司法實(shí)踐中有上海“206系統(tǒng)”，該系統(tǒng)在許多司法實(shí)踐中的表現(xiàn)十分優(yōu)秀，但似乎唯獨(dú)在刑事證據(jù)指引的法律實(shí)踐中表現(xiàn)不如人意。［2］但這并不能全盤否定人工智能介入事實(shí)認(rèn)定，而是讓人思考如何優(yōu)化還是換一個跑道來解決人工智能在事實(shí)認(rèn)定領(lǐng)域水土不服問題。

人工智能在事實(shí)認(rèn)定中的運(yùn)用沒有達(dá)到預(yù)料中的效果，反而成為法律實(shí)踐中的掣肘，其主要原因是人工智能與事實(shí)認(rèn)定的耦合度低。法律實(shí)踐必然要求人工智能與事實(shí)認(rèn)定相耦合，耦合性越高，獨(dú)立性越低?，F(xiàn)階段人工智能與事實(shí)認(rèn)定的耦合性低，獨(dú)立性高。在某些司法領(lǐng)域應(yīng)用中人工智能不夠?qū)ｉT化，不能適應(yīng)司法規(guī)律與特征。［3］但人工智能在事實(shí)認(rèn)定領(lǐng)域出師不利不全然是人工智能的錯。

人工智能與事實(shí)認(rèn)定的耦合性低的原因有三類。（一）從人工智能的角度出發(fā)，可以分兩種，一種是人工智能的純技術(shù)問題，人工智能算法低效，算力低下；另一種是人工智能本身的特質(zhì)，人工智能算法具有“黑箱性”，與司法公開透明相背離。算法的專業(yè)性與法律的大眾普及性相矛盾，算法學(xué)習(xí)的不穩(wěn)定性與法律的求穩(wěn)性相抵觸。（二）從司法領(lǐng)域的角度出發(fā)。司法領(lǐng)域在某些地方不能滿足培養(yǎng)人工智能的需要，例如數(shù)據(jù)，再如同時精通人工智能算法和法學(xué)的復(fù)合型人才。（三）從現(xiàn)實(shí)應(yīng)用角度出發(fā)。首先是控辯平衡一定程度上會受到人工智能的影響；其次人工智能應(yīng)用于事實(shí)認(rèn)定階段會導(dǎo)致決策權(quán)讓渡。［4］綜上，法律實(shí)踐沒有意識到人工智能賦能事實(shí)認(rèn)定的潛在困境和風(fēng)險，人工智能賦能事實(shí)認(rèn)定在中短期內(nèi)難以實(shí)現(xiàn)。

二、人工智能在事實(shí)認(rèn)定環(huán)節(jié)的風(fēng)險與困境

現(xiàn)階段人工智能在事實(shí)認(rèn)定運(yùn)用中的主要風(fēng)險有三：數(shù)據(jù)、算法和控辯失衡。

（一）優(yōu)質(zhì)數(shù)據(jù)不足導(dǎo)致人工智能能力不足?，F(xiàn)在法律數(shù)據(jù)有四個問題：法律數(shù)據(jù)不充分、法律數(shù)據(jù)不真實(shí)、法律數(shù)據(jù)不客觀、法律數(shù)據(jù)結(jié)構(gòu)化不足。［5］我國的法律數(shù)據(jù)經(jīng)這四個條件層層盤剝下來，所剩的優(yōu)質(zhì)數(shù)據(jù)數(shù)量依舊可以培育一個較為成熟的人工智能。但是數(shù)據(jù)樣本太多，篩選難度太高，篩選的成本也太高。以致樣本數(shù)據(jù)過少，法律人工智能表現(xiàn)十分低能，沒有勝任事實(shí)認(rèn)定工作的可能。

（二）人工智能賦能事實(shí)認(rèn)定加劇控辯關(guān)系失衡。我國刑事訴訟領(lǐng)域的突出問題之一就是“控辯雙方未能實(shí)現(xiàn)平等、有效對抗，庭審難以實(shí)質(zhì)化”。［6］人工智能賦能事實(shí)認(rèn)定后控方獲得和分析數(shù)據(jù)的能力更強(qiáng)，在數(shù)據(jù)方面控方的優(yōu)勢是壓倒性的。在這種情況下，辯方在純粹訴訟能力上的武裝與控方有巨大的差距。即便辯方是在庭前證據(jù)交換獲得了控方所得的數(shù)據(jù)，辯方也沒有數(shù)據(jù)抓取和分析的能力。控辯雙方的信息嚴(yán)重不平衡，更難實(shí)現(xiàn)控辯雙方有效對抗和庭審實(shí)質(zhì)化。因此，人工智能賦能事實(shí)認(rèn)定會加劇控辯雙方力量失衡，這與控辯平等原則背道而馳。人工智能賦能事實(shí)認(rèn)定前必須要解決控辯失衡加劇的問題。

（三）事實(shí)認(rèn)定環(huán)節(jié)算法存在運(yùn)用困境。第一，算法黑箱危及司法公正。人工智能進(jìn)行事實(shí)認(rèn)定時用了什么信息推理和如何推理，只有算法知道。而算法又因?yàn)樯虡I(yè)機(jī)密和知識成果保護(hù)難以公開，產(chǎn)生了算法黑箱。第二，算法霸權(quán)限制當(dāng)事人權(quán)利。算法具有專業(yè)性、復(fù)雜性和黑箱性，因而產(chǎn)生霸權(quán)，也衍生出算法歧視和算法黑箱等問題。［7］一般的當(dāng)事人與其他訴訟參與人不懂算法，難以置喙。某種程度上，科學(xué)技術(shù)阻礙了當(dāng)事人維護(hù)其合法權(quán)益。第三，算法錯判沒有制度保障。人工智能介入事實(shí)認(rèn)定一般在偵查階段、逮捕和起訴階段。人工智能錯判的事實(shí)最終會寫在起訴狀上，檢方基于錯誤事實(shí)起訴被告。若致使法官錯判，此時為了糾正錯誤必須重新審理錯判案件，造成司法資源的額外消耗，還要給予因此受到損失的當(dāng)事人補(bǔ)償，因此需要建立制度來預(yù)防算法錯判。

三、人工智能在事實(shí)認(rèn)定環(huán)節(jié)的功能與定位

現(xiàn)在人工智能處在弱人工智能階段，只根據(jù)技術(shù)邏輯運(yùn)行的人工智能，無法理解人的感情和倫理性，無力單獨(dú)承擔(dān)事實(shí)認(rèn)定工作。因此人工智能在事實(shí)認(rèn)定中只能是輔助。在事實(shí)認(rèn)定環(huán)節(jié)采用“人機(jī)結(jié)合”的半人工智能模式，并建立以司法人員為中心的人機(jī)協(xié)同系統(tǒng)。融合人的實(shí)質(zhì)理性和人工智能技術(shù)理性，更好地防范人工智能決策出現(xiàn)極端情況。［8］

（一）人工智能輔助篩選證據(jù)主要是對證據(jù)進(jìn)行形式審查。一是審查證據(jù)獲得的程序合法性，例如搜查時是否有搜查證；二是審查證據(jù)的形式要件，如筆錄、清單等是否齊全，筆錄上的日期、簽名等信息是否完備。但為排除刑訊逼供證據(jù)，必須人工審查。認(rèn)罪認(rèn)罰案件因有口供，證明難度降低，實(shí)踐中存在降低證明標(biāo)準(zhǔn)的誤區(qū)，［9］且刑訊逼供自帶隱蔽性，人工智能難以窮盡各種復(fù)雜情況。

（二）人工智能輔助分析證據(jù)主要是提取和分析證據(jù)細(xì)節(jié)。對證據(jù)的證明力審查主要是人工實(shí)質(zhì)審查。因?yàn)榕c判斷證據(jù)能力實(shí)行的法定主義不同，判斷證據(jù)的證明力一般遵循自由心證主義，實(shí)質(zhì)審查會涉及價值權(quán)衡、司法政策、法律解釋等因素。［10］人工智能主要是對證據(jù)內(nèi)容、細(xì)節(jié)進(jìn)行提取然后分析，然后指出證據(jù)與證據(jù)之間的相互印證程度或相互矛盾程度如何，還可以調(diào)用大數(shù)據(jù)對專業(yè)性知識對證據(jù)進(jìn)行分析，與專攻法律信念、倫理和價值的主觀色彩較重工作的司法人員形成互補(bǔ)，提升對證據(jù)認(rèn)知的質(zhì)效，同時擴(kuò)大司法人員的視野。

（三）人工智能輔助認(rèn)定事實(shí)的任務(wù)是形式邏輯推理。事實(shí)認(rèn)定思辨是形式邏輯和經(jīng)驗(yàn)邏輯的復(fù)合邏輯結(jié)構(gòu)，［11］現(xiàn)階段人工智能只能負(fù)責(zé)形式邏輯的部分，司法人員負(fù)責(zé)倫理性和常識性強(qiáng)的經(jīng)驗(yàn)邏輯部分。運(yùn)用在事實(shí)認(rèn)定的人工智能應(yīng)是由人主導(dǎo)的交互式的輔助辦案工具。在進(jìn)行認(rèn)定事實(shí)的推理的過程中，不僅司法人員和人工智能是溝通交流的，推理過程還應(yīng)該是相互可視的。司法人員必須對推理過程細(xì)節(jié)了如指掌，因?yàn)樵趯徟谐绦蚴怯蓹z察機(jī)關(guān)的司法人員與被告對簿公堂，而非人工智能；人工智能也必須把握推理進(jìn)程，不然無法提供相應(yīng)的輔助。

四、人工智能在事實(shí)認(rèn)定環(huán)節(jié)的風(fēng)險規(guī)制與防范

在人工智能介入事實(shí)認(rèn)定前，需要行之有效的對策來規(guī)制和防范算法、數(shù)據(jù)及控辯平衡方面的巨大隱患。

（一）積累高質(zhì)數(shù)據(jù)培育高智智能。人工智能需要大量優(yōu)質(zhì)數(shù)據(jù)鍛煉模型。出于對成本和法律數(shù)據(jù)自帶滯后性的考慮，筆者以為應(yīng)當(dāng)號召全國有意識產(chǎn)出優(yōu)質(zhì)數(shù)據(jù)并保存，從表達(dá)規(guī)范化工作做起。創(chuàng)建案件信息收集系統(tǒng)，每辦一個案子在系統(tǒng)里按照規(guī)范要求填寫信息。這個方法在解決數(shù)據(jù)不夠規(guī)范化問題的同時還解決了數(shù)據(jù)不充分的問題。數(shù)據(jù)真實(shí)客觀與否雖然很大程度上取決于司法工作人員工作時是否誠實(shí)客觀，但是也不是毫無辦法，可以將檢驗(yàn)數(shù)據(jù)真實(shí)性的任務(wù)通過司法信息公開交給社會公眾。

（二）鼓勵扶持建立民間法律數(shù)據(jù)分析機(jī)構(gòu)。在人工智能介入司法領(lǐng)域后，控方與辯方的力量必定會拉開差距，一般在人工智能輔助的情況下，控方在庭審前所獲的數(shù)據(jù)無論從數(shù)量上還是質(zhì)量上，都比沒有人工智能輔助的當(dāng)事人多且好，在準(zhǔn)備上控方優(yōu)于辯方，最后庭審控辯雙方難以形成有效對抗。對人工智能賦能事實(shí)認(rèn)定帶來的控辯失衡加劇風(fēng)險進(jìn)行規(guī)制的關(guān)鍵是提高辯方的數(shù)據(jù)抓取和數(shù)據(jù)分析能力。政府可以鼓勵扶持民間法律人工智能機(jī)構(gòu)制造數(shù)據(jù)抓取和分析的法律人工智能。由民間法律人工智能產(chǎn)業(yè)來為有需要的當(dāng)事人提供服務(wù)，從而提高辯方在數(shù)據(jù)抓取和分析方面的能力，以達(dá)到控辯雙方平等武裝的目的。

（三）建立合理的制度來治理算法。第一，建立算法公開制度。人工智能的推理邏輯主要是依據(jù)算法模型的設(shè)計，算法不透明與司法公開相悖，有損司法公正。為規(guī)制這一風(fēng)險應(yīng)當(dāng)建立司法公開制度。一是外包的司法輔助人工智能不能參與司法決策和裁判。二是算法必須公開，日常維護(hù)和優(yōu)化修改的信息要公開發(fā)布，注明修改內(nèi)容信息。第二，建立算法對抗制度來規(guī)制算法霸權(quán)。在算法公開的前提下，完善并推行專家輔助人制度。鼓勵當(dāng)事人聘請有專門算法知識和相關(guān)資格的專家輔助人，找出算法的遺漏或者錯誤，并證明算法的遺漏或者錯誤損害當(dāng)事人的合法權(quán)利，并出具意見，由法院判決。算法存在遺漏錯誤處要通知技術(shù)人員及時處理，并公布處理結(jié)果。第三，建立算法規(guī)制制度。算法規(guī)制制度主要是規(guī)制算法設(shè)計者的制度。其目的有兩個，一是對算法設(shè)計者的內(nèi)在要求作出指示，二是規(guī)制算法設(shè)計者的外在行為。忠于法律，精于技術(shù)，這是對算法設(shè)計者的內(nèi)在要求。對算法設(shè)計者行為的外在規(guī)制需要發(fā)布適當(dāng)?shù)奈募硪灰徽f明，如設(shè)計的算法不得違反法律、算法不得摻雜主觀意念等等與法律人工智能算法有關(guān)的事項。

人工智能已經(jīng)成為世界各行各業(yè)發(fā)展的絕佳“燃料”，世界的發(fā)展被人工智能快速推進(jìn)。但在享受人工智能帶來的好處的同時也要對它保有懷疑，要給人工智能上一把鎖。隨著社會發(fā)展，人工智能介入司法輔助是必然趨勢。未來是人工智能的時代，法律人工智能的未來還有待各位學(xué)者和技術(shù)工作者共同構(gòu)筑。