智慧司法背景下輔助性人工智能困境之破解

杜一諾

(北京郵電大學(xué) 人文學(xué)院，北京 100876)

一、人工智能在智慧司法中的功能及作用

目前，我國(guó)傳統(tǒng)司法不斷向智慧司法邁進(jìn)。司法資源的利用效率與司法裁量的公正理念能得以更好落實(shí)，離不開(kāi)人工智能技術(shù)的支持與推動(dòng)。

(一)智慧司法中人工智能的定義

智慧司法中的人工智能是協(xié)助法官進(jìn)行科學(xué)高效立案審理、公平正義定罪量刑的工具之一。在智慧法院的建設(shè)進(jìn)程中，為傳統(tǒng)司法注入智能時(shí)代活力的人工智能，以提供“巨容”信息存儲(chǔ)與處理的云端計(jì)算和大數(shù)據(jù)庫(kù)為技術(shù)支撐，以確保證據(jù)的客觀性、關(guān)聯(lián)性、合法性和程序的規(guī)范性、可靠性、安全性為重要指征，以優(yōu)化監(jiān)督管理和提升便民服務(wù)為發(fā)展預(yù)期，以實(shí)現(xiàn)及時(shí)的公平與無(wú)限接近事實(shí)的正義為終極目標(biāo)。[1]

(二)人工智能對(duì)我國(guó)智慧司法的推動(dòng)作用

相較于以往完全依賴人力執(zhí)行和人腦思慮的傳統(tǒng)司法而言，智慧司法因具備人工智能技術(shù)的支撐而高效和公正。

1.人工智能助力司法效率提升。隨著我國(guó)法治化程度不斷提升，社會(huì)對(duì)于司法公正高效寄予了更多期望。然司法工作人員精力有限，司法資源分配難以周全，司法審判效率低下亦是傳統(tǒng)司法不可回避的困窘所在。將人工智能技術(shù)引進(jìn)到司法的諸多環(huán)節(jié)，有助于緩解純?nèi)肆趧?dòng)下的司法積弊，提升司法效率，實(shí)現(xiàn)事半功倍。首先，在立案階段，當(dāng)事人可通過(guò)二維碼立案系統(tǒng)體驗(yàn)自助化立案。原告可通過(guò)掃描為用戶普遍發(fā)放的“雛形二維碼”，直接完成起訴信息的錄入，由此生成該案件的專屬二維碼。[2]法官通過(guò)智慧司法識(shí)別系統(tǒng)掃描該二維碼后，即可完成對(duì)當(dāng)事人錄入內(nèi)容的審核及立案工作。其次，在庭審過(guò)程中，憑借人工智能語(yǔ)音識(shí)別系統(tǒng)，原先完全依靠書記員手動(dòng)記錄、制作筆錄的效率將顯著提升。智能語(yǔ)音識(shí)別系統(tǒng)還將敏銳捕捉到人腦忽視的細(xì)節(jié)，避免庭審過(guò)程中同質(zhì)內(nèi)容的反復(fù)重申，是對(duì)“訴訟促進(jìn)”的有效落實(shí)。[3]由此節(jié)約了法院人力成本，提高起訴、立案審理和訴訟效率，更增強(qiáng)了訴訟參與人對(duì)法院工作的滿意程度，落實(shí)了司法為民、司法便民的理念。

2.人工智能促進(jìn)司法公正裁判。司法的公正裁判要求兼顧程序正義和實(shí)體正義，我國(guó)司法系統(tǒng)發(fā)展至人工智能時(shí)代，審判程序的公開(kāi)化、案件數(shù)據(jù)留痕化、同案同判類比化的鮮明司法技術(shù)特征為實(shí)現(xiàn)兼容程序正義和實(shí)體正義的司法公正提供了堅(jiān)實(shí)的科技基礎(chǔ)。憑借互聯(lián)網(wǎng)運(yùn)作下的人工智能技術(shù)，法院可實(shí)現(xiàn)以網(wǎng)絡(luò)為媒介的庭審實(shí)況公開(kāi)直播。審判程序以直播方式公之于眾，使司法程序“在陽(yáng)光下運(yùn)行”的目標(biāo)真正獲得了技術(shù)支持與社會(huì)監(jiān)督，將在很大程度上規(guī)避司法灰色地帶上演的種種法治亂象。同時(shí)，人工智能技術(shù)將強(qiáng)化司法系統(tǒng)整合已決案件的效能，通過(guò)對(duì)法院過(guò)往審理案件的數(shù)據(jù)留痕與節(jié)點(diǎn)式評(píng)定，在定期向上級(jí)機(jī)關(guān)和社會(huì)公眾匯報(bào)審判結(jié)果的同時(shí)，統(tǒng)籌司法內(nèi)外監(jiān)督問(wèn)責(zé)機(jī)制，此外，人工智能系統(tǒng)將啟用案件要素對(duì)比機(jī)制，協(xié)助法官參考類案判決方式，為實(shí)現(xiàn)同案同判的實(shí)體正義開(kāi)辟道路。

二、人工智能之輔助性定位及其相關(guān)困境

從人工智能對(duì)司法公正的干擾及其對(duì)司法體制的沖擊兩方面考量，該技術(shù)只能定位于司法審判的“輔助性”地位。與此同時(shí)，輔助性人工智能技術(shù)在司法領(lǐng)域的運(yùn)用，因其不可預(yù)知性與不穩(wěn)定性，帶來(lái)諸如法官過(guò)度依賴的唯智能誤區(qū)、算法歧視的技術(shù)盲區(qū)、脫離社會(huì)情感及觸動(dòng)司法公信力等現(xiàn)實(shí)困境。

(一)人工智能技術(shù)干擾司法公正

人工智能技術(shù)雖為司法之程序公正與實(shí)體公正又破開(kāi)一道“陽(yáng)光天窗”，實(shí)現(xiàn)了司法審判的“直播面向公眾，人人皆可監(jiān)督”；實(shí)現(xiàn)了案件結(jié)果的“數(shù)據(jù)留痕追蹤，追責(zé)即時(shí)精確”；實(shí)現(xiàn)了類案類判的“案件要素比對(duì)，規(guī)避同案異判”。值得注意的是，人工智能作為一項(xiàng)偉大與風(fēng)險(xiǎn)并存的智能革命產(chǎn)物，其“物”的屬性注定此項(xiàng)技術(shù)僅能以“輔助性工具”的身份出現(xiàn)于智慧司法之中。[4]猶需警醒的是，人工智能技術(shù)發(fā)展走向的不確定與功能屬性的不完善更為其在智慧司法中的表現(xiàn)埋藏了諸多隱患，直接決定其輔助地位并對(duì)未來(lái)發(fā)展提出挑戰(zhàn)。

1.算法技術(shù)缺陷與輔助性定位問(wèn)題。當(dāng)前，人工智能技術(shù)之所以能夠?qū)崿F(xiàn)精妙的計(jì)算與繁復(fù)的分析，是由于該科技的主要信息源支撐——大數(shù)據(jù)。人工智能進(jìn)行“思考”重視海量數(shù)據(jù)的相關(guān)性，只要所收集的數(shù)據(jù)與需要評(píng)析的對(duì)象具有關(guān)聯(lián)性，人工智能都將視這些數(shù)據(jù)為評(píng)判該對(duì)象的重要依據(jù)。然而，法官在審理判決案件時(shí)運(yùn)用的是演繹法思維，即在所呈現(xiàn)證據(jù)真實(shí)、合理的情況下，由前提向結(jié)論進(jìn)行必然性推理，并最終形成由證據(jù)、結(jié)果環(huán)環(huán)相扣的因果鏈，作為判決的主要依據(jù)。對(duì)比發(fā)現(xiàn)，相較于法官對(duì)事實(shí)證據(jù)“因果性”的關(guān)注，智慧司法中的人工智能技術(shù)更傾向于對(duì)海量數(shù)據(jù)“相關(guān)性”的把握，由此將導(dǎo)致基于思維方式差異性的算法歧視。例如，在刑事案件的定罪過(guò)程中，人工智能將會(huì)為法官提供“被告人是否有罪”的參考性建議。人工智能制定該傾向性指導(dǎo)的基礎(chǔ)，除與本案直接相關(guān)的證據(jù)與事實(shí)之外，還有與該被告相關(guān)的其他數(shù)據(jù)，包括征信系統(tǒng)報(bào)告、信貸記錄優(yōu)劣、交通違章次數(shù)、犯罪前科記錄等等如此。如果該被告曾經(jīng)留有不良數(shù)據(jù)記錄，其被人工智能定性為“有罪”的概率將大幅提升。由此可見(jiàn)，使用人工智能技術(shù)進(jìn)行司法審判，極易導(dǎo)致案件結(jié)果受到與案件要素?zé)o直接關(guān)聯(lián)的其他數(shù)據(jù)的干擾，并最終導(dǎo)致對(duì)行為人的不公正判處，且算法的不為人知亦將導(dǎo)致黑箱的侵權(quán)困境。因此，關(guān)注數(shù)據(jù)“相關(guān)性”的人工智能僅可定位于輔助性角色，且基于其算法邏輯的缺陷，輔助性人工智能同樣會(huì)帶來(lái)批量化裁判、缺乏個(gè)案關(guān)懷的弊病，因此需要法官具備更強(qiáng)的職業(yè)素養(yǎng)，絕不可任由智能技術(shù)“牽引”。

2.案件參與感的缺失與輔助性定位問(wèn)題。智慧司法中的人工智能設(shè)備只能工作于后臺(tái)幫助司法工作者完成補(bǔ)足性任務(wù)、提供參考性建議，無(wú)法立足于前臺(tái)直面當(dāng)事人、直擊爭(zhēng)論點(diǎn)。由于人工智能缺失了參與案件審理全過(guò)程的整體性與系統(tǒng)性，其只能作為智慧司法運(yùn)行體系“輔助角色”，協(xié)助法官規(guī)避部分“司法盲區(qū)”。法官的全程直接參與，不僅有助于直觀清晰地認(rèn)識(shí)分析案件的客觀事實(shí)，更有利于在刑事訴訟案件中通過(guò)被告人的悔罪態(tài)度、供述表現(xiàn)合理量刑?？v然人工智能未僭越法官的審判主體地位，若依然使用不當(dāng)，同樣將導(dǎo)致判決結(jié)果呈現(xiàn)以偏概全的不公之勢(shì)。因此，培養(yǎng)法官合理使用輔助性人工智能的任務(wù)應(yīng)盡早提上日程。

3.情感道德空白與輔助性定位問(wèn)題。司法審判在依法根據(jù)客觀事實(shí)作出科學(xué)裁判的同時(shí)，應(yīng)當(dāng)兼顧人類情感的合理預(yù)期，使判決結(jié)果更大程度從公序良俗層面發(fā)揮一般預(yù)防作用。人工智能作為以互聯(lián)網(wǎng)、大數(shù)據(jù)、深度學(xué)習(xí)等技術(shù)為支撐的“人造物”，僅能實(shí)現(xiàn)對(duì)人類某些行為自動(dòng)化的模擬，無(wú)法真正感知和生發(fā)人類的感情。司法審判不僅需要法官具備專業(yè)法律知識(shí)，還需儲(chǔ)備涉及心理情感、道德倫理等領(lǐng)域的基本認(rèn)知與主流把握，更需有一顆仁愛(ài)之心、情理之心。如此，才能盡可能在更大程度上實(shí)現(xiàn)司法公正，而這遠(yuǎn)非僅具備“技術(shù)智慧”的人工智能所可以達(dá)到的境界。人工智能無(wú)法像法官一樣，在以事實(shí)為基礎(chǔ)，以法律為準(zhǔn)繩的同時(shí)，以情感道德為內(nèi)蘊(yùn)來(lái)處理當(dāng)事人復(fù)雜的權(quán)利義務(wù)關(guān)系或判定刑事責(zé)任大小，只可在合理限度內(nèi)居輔助地位發(fā)揮參考價(jià)值。

(二)人工智能影響司法體制

之所以強(qiáng)調(diào)須將人工智能定位于智慧司法中的輔助地位，不僅是出于對(duì)該技術(shù)本身缺陷的考量，更重要的是關(guān)注到作為司法工作者的人性的弱點(diǎn)。倘若任由人工智能“肆意”主導(dǎo)司法審判權(quán)，則易誘發(fā)法官懈怠、趨利避害的情形發(fā)生，進(jìn)而導(dǎo)致法院職能的終結(jié)及司法權(quán)威的淪喪。

1.唯智能論困境與法官自由裁量權(quán)的滅失。法官自由裁量權(quán)的正確行使需兩種元素，一是獨(dú)立審慎思考的能力，二是自主擔(dān)負(fù)責(zé)任的操守。然而，當(dāng)我國(guó)傳統(tǒng)司法跨入到智慧時(shí)代，人工智能技術(shù)逐步滲透到司法的諸多環(huán)節(jié)時(shí)，人類自身不可磨滅的弱點(diǎn)將為法官自由裁量權(quán)的科學(xué)運(yùn)用埋下隱患。當(dāng)人工智能“同案同判系統(tǒng)”分析案件、輸出建議性判決方案時(shí)，法官極有可能完全遵循智能結(jié)果而推翻自己的原有觀點(diǎn)。這是因?yàn)槿藗兺鶅A向于選擇看似更為科學(xué)權(quán)威的存在,因而對(duì)身為常人的法官而言，集萬(wàn)物互聯(lián)、海量數(shù)據(jù)、智慧演算、嚴(yán)密推理于一身的人工智能系統(tǒng)所制定的判決內(nèi)容遠(yuǎn)超人腦所能權(quán)衡的范疇，其性質(zhì)也將更加穩(wěn)定合理，因此法官便有可能在自身觀點(diǎn)與智能輸出建議相左時(shí)，放棄基于其多年司法實(shí)踐與專業(yè)學(xué)習(xí)所打磨的法律認(rèn)知，而徑直選擇人工智能的司法建議。加之，智慧司法中的數(shù)據(jù)留痕與節(jié)點(diǎn)評(píng)定機(jī)制將法官個(gè)人的工作業(yè)績(jī)、修為品行與案件數(shù)據(jù)評(píng)分緊緊掛鉤，出于對(duì)自身績(jī)點(diǎn)與評(píng)價(jià)的考慮，法官可能會(huì)直接依照人工智能系統(tǒng)給出的判案建議敷衍塞責(zé)，以規(guī)避因判決存在爭(zhēng)議而引發(fā)的追責(zé)問(wèn)題。因此，人工智能僅可作為輔助法官的工具，司法工作者亦應(yīng)當(dāng)杜絕依賴智能系統(tǒng)、盲從智能判決的思想誤區(qū)，獨(dú)立行使審判權(quán)力，對(duì)人民負(fù)責(zé)。

2.智能化機(jī)械裁判與法院實(shí)質(zhì)意義的偏離。智慧法院是法院憑借司法數(shù)據(jù)庫(kù)及電腦量刑機(jī)制等人工智能技術(shù)，更加精準(zhǔn)、高效、公平地獨(dú)立行使審判權(quán)，其核心在于“法院”，而非“智慧”。倘若任由司法工作人員對(duì)智慧系統(tǒng)產(chǎn)生心理依賴，進(jìn)而導(dǎo)致人工智能技術(shù)“喧賓奪主”，法院獨(dú)立行使審判權(quán)的根本職能與自由空間將在“唯數(shù)據(jù)論”的智能環(huán)境下愈發(fā)逼仄。[5]法院的意義，是以事實(shí)為依據(jù)，以法律為準(zhǔn)繩，以道德為引導(dǎo)，以人文為關(guān)懷，在最大程度上把握法律真實(shí)的同時(shí)接近客觀真實(shí)，抉擇利益、弘揚(yáng)公平。設(shè)立審判權(quán)獨(dú)立的法院，是基于保障人民的合法權(quán)益得以救濟(jì)的考量，每一份司法裁判都是推動(dòng)社會(huì)發(fā)展航向與保護(hù)人民根本利益的宣言，是司法工作者公正司法、殫精竭慮的智慧結(jié)晶。如若由片面看待案件、缺乏直接參與、唯以數(shù)據(jù)衡量的人工智能系統(tǒng)越俎代庖，法院將空有“審判”之表，退為以算法邏輯標(biāo)準(zhǔn)化、模式化、機(jī)械化排列組合裁判文書的“工廠”，看似工整明晰、數(shù)據(jù)漂亮的外表下，實(shí)則抹殺個(gè)案具體情況、消解法官獨(dú)立意志，這就違背智慧法院的初衷，導(dǎo)致法院實(shí)質(zhì)意義上的終結(jié)。

3.司法神圣性與公信力的消解。法院作為獨(dú)立審判的司法系統(tǒng)，應(yīng)從全局出發(fā)合理定義人工智能輔助司法的作用，在立足案件事實(shí)、把握客觀證據(jù)、兼顧基本情感的基礎(chǔ)上，使用人工智能系統(tǒng)予以參考、微調(diào)。法院是堅(jiān)守社會(huì)正義的堡壘，法官是值守正義的使者，絕不能將人工智能依據(jù)大數(shù)據(jù)計(jì)算、組合出的裁判結(jié)果奉為圭臬，否則一旦出現(xiàn)判決結(jié)果嚴(yán)重背離群眾樸素的正義觀與社會(huì)基本的價(jià)值觀的情況，將引發(fā)公眾對(duì)司法公正裁判的懷疑，導(dǎo)致司法神圣性與公信力的消解。

三、輔助性人工智能現(xiàn)實(shí)困境之破解

(一)規(guī)避唯智能論的審判誤區(qū)，提升法官職業(yè)素養(yǎng)

將人工智能引入司法領(lǐng)域，法官是首當(dāng)其沖的受影響主體。進(jìn)入智能革命時(shí)代，公正審判對(duì)法官提出的要求已不再止步于傳統(tǒng)司法模式下對(duì)法律專業(yè)知識(shí)與實(shí)操要點(diǎn)的熟能生巧，更期待法官成長(zhǎng)為跨專業(yè)融合發(fā)展的復(fù)合型人才，以避免盲目信賴智能結(jié)果的機(jī)械化審判發(fā)生。在司法工作者的選拔與后期持續(xù)培訓(xùn)的各階段，不僅要繼續(xù)加強(qiáng)思想政治素質(zhì)與專業(yè)能力的提升，同時(shí)還要落實(shí)推進(jìn)包括人工智能導(dǎo)論、人工神經(jīng)網(wǎng)絡(luò)、博弈論、人工智能與司法史等專題學(xué)習(xí)會(huì)議，并將與時(shí)俱進(jìn)的智慧司法案例作為重要板塊進(jìn)行觀點(diǎn)交流與經(jīng)驗(yàn)總結(jié)。在不斷充實(shí)人工智能理論知識(shí)、拓寬智能時(shí)代判案視域的過(guò)程中，法官能夠從技術(shù)角度俯瞰人工智能，并得以在心理建設(shè)層面增強(qiáng)自我意識(shí)認(rèn)同感與獨(dú)立裁量的責(zé)任感，有助法官在今后的司法實(shí)踐中知行合一，在觀念上審慎考量人工智能系統(tǒng)的裁判建議，在行動(dòng)上立足個(gè)案具體情形，在不與前案產(chǎn)生巨大沖突的前提下，最大程度使判決結(jié)果公平正義。

(二)規(guī)制算法黑箱侵權(quán)隱患，制定算法審查及公開(kāi)機(jī)制

“黑箱”是控制論中的概念。作為一種隱喻，它指的是那些不為人知的不能打開(kāi)、不能從外部直接觀察其內(nèi)部狀態(tài)的系統(tǒng)。[6]在智慧司法環(huán)境下，無(wú)論是由國(guó)家授權(quán)委托的互聯(lián)網(wǎng)企業(yè)所提供，還是依靠國(guó)家科研人員自主編撰的算法邏輯和源代碼，都因具備極強(qiáng)的企業(yè)利益或國(guó)家安全屬性難于進(jìn)行絕對(duì)公開(kāi)，由此將導(dǎo)致算法黑箱的存在。法官與當(dāng)事人只知人工智能的裁判建議結(jié)果，但對(duì)其推理、決策過(guò)程卻不得而知，這將導(dǎo)致當(dāng)事人合理知情權(quán)的侵害。由此，應(yīng)制定算法審查機(jī)制。以法律的形式規(guī)定，在各級(jí)智慧法院專門設(shè)立“智慧算法審查調(diào)試工作小組”，由國(guó)家進(jìn)行統(tǒng)一任命與管理的“算法審查專員”對(duì)數(shù)據(jù)算法獨(dú)立進(jìn)行核準(zhǔn)，在履行保護(hù)國(guó)家、社會(huì)、企業(yè)安全與利益之義務(wù)的前提下，既有助于在法院內(nèi)部形成“法律之靈魂”與“智能之生命”交流融合的工作環(huán)境，同時(shí)能夠及時(shí)發(fā)現(xiàn)科技企業(yè)所提供算法的不當(dāng)之處，高效便捷地改善智慧司法系統(tǒng)的瑕疵，為建設(shè)智慧法院提供效率優(yōu)勢(shì)。此外，應(yīng)建立算法特殊公開(kāi)機(jī)制。算法邏輯與源代碼作為智力成果受《專利法》等知識(shí)產(chǎn)權(quán)法保護(hù)，通過(guò)完善訴訟法等建立算法特殊公開(kāi)機(jī)制，以不公開(kāi)為原則，以公開(kāi)為例外，予以公開(kāi)的情形應(yīng)符合“需公開(kāi)的算法數(shù)據(jù)信息與當(dāng)事人的人身利益相關(guān)，或者對(duì)其重大財(cái)產(chǎn)利益產(chǎn)生影響。在專門機(jī)構(gòu)不斷審核、優(yōu)化數(shù)據(jù)算法的日益精進(jìn)中，智慧司法中的人工智能不僅能夠充分扮演好審判程序中的“輔助人”角色，加之?dāng)?shù)字留痕保存、智能語(yǔ)音記錄、司法機(jī)關(guān)內(nèi)網(wǎng)互聯(lián)互通等智能方案的落地執(zhí)行，人工智能得以協(xié)助檢察機(jī)關(guān)及上級(jí)法院完成審判監(jiān)督程序，對(duì)法院工作進(jìn)行內(nèi)部監(jiān)管，并以季度為單位向社會(huì)公眾匯報(bào)，在內(nèi)外呼應(yīng)的、透明高效的司法監(jiān)督氛圍中，進(jìn)一步提升公眾對(duì)司法的信賴。

(三)智慧司法理念尚乏普遍認(rèn)知，宜加強(qiáng)社會(huì)宣傳教育

智慧司法中人工智能的持續(xù)發(fā)展，離不開(kāi)人民群眾的認(rèn)可與支持。強(qiáng)化智慧司法、人工智能等新興內(nèi)容的社會(huì)宣傳與公民教育，應(yīng)當(dāng)充分利用報(bào)刊、電視、廣播、網(wǎng)絡(luò)、廣告欄等媒介，既闡明人工智能憑借其海量數(shù)據(jù)與精準(zhǔn)計(jì)算從而成為司法判決過(guò)程中“輔助角色”的合理性，同時(shí)要向公眾傳達(dá)在智慧法院使用人工智能技術(shù)，其公正裁判、弘揚(yáng)正義的價(jià)值理念是永不變質(zhì)的。由此，增強(qiáng)民眾對(duì)參與智慧司法、接受人工智能司法服務(wù)的信心，共同推進(jìn)智慧司法的長(zhǎng)遠(yuǎn)發(fā)展。