智慧司法的算法隱憂及其規(guī)制

馮浩波

(中國(guó)人民公安大學(xué),北京 100038)

一、 問(wèn)題的提出

互聯(lián)網(wǎng)信息技術(shù)的發(fā)展,帶來(lái)了新的生產(chǎn)方式的變革,大數(shù)據(jù)、人工智能技術(shù)作為新的生產(chǎn)工具,孕育了新的機(jī)器智慧,引發(fā)了制度變革和創(chuàng)新模式,極大地提高了工作效率。我國(guó)司法領(lǐng)域也積極順應(yīng)潮流,探索運(yùn)用互聯(lián)網(wǎng)新興技術(shù)釋放司法動(dòng)能,尋求“智慧司法”的實(shí)現(xiàn)。但數(shù)據(jù)質(zhì)量瑕疵會(huì)導(dǎo)致算法輸出結(jié)果的偏差,過(guò)度依賴算法技術(shù)又會(huì)將這種偏差進(jìn)一步放大甚至招致冤假錯(cuò)案,此外,算法黑箱的存在也在沖擊著算法的公信力。如何順應(yīng)智慧司法發(fā)展的趨勢(shì),化解智慧司法帶來(lái)的算法風(fēng)險(xiǎn),進(jìn)一步促進(jìn)人工智能與司法實(shí)踐優(yōu)化適配是我們必須慎重考慮的問(wèn)題。

二、 智慧司法的算法邏輯及實(shí)踐應(yīng)用

(一)智慧司法的算法基礎(chǔ)

智慧司法以計(jì)算機(jī)算法技術(shù)為基礎(chǔ),目前的智慧司法系統(tǒng)主要建立在“知識(shí)圖譜+機(jī)器學(xué)習(xí)”的基礎(chǔ)上。所謂知識(shí)圖譜,是指通過(guò)將圖形學(xué)、應(yīng)用數(shù)學(xué)、信息科學(xué)、信息可視化技術(shù)等學(xué)科的理論和方法與計(jì)量學(xué)共現(xiàn)分析、引文分析等方法結(jié)合,并利用可視化的圖譜形象地展示學(xué)科的核心結(jié)構(gòu)、發(fā)展歷史、前沿領(lǐng)域以及整體知識(shí)架構(gòu)達(dá)到多學(xué)科融合目的的現(xiàn)代理論[1]。機(jī)器學(xué)習(xí)可以通過(guò)計(jì)算機(jī)在海量數(shù)據(jù)中學(xué)習(xí)數(shù)據(jù)的規(guī)律和模式,從中挖掘出潛在信息,廣泛用于解決分類、回歸、聚類等問(wèn)題[2]。在智慧司法領(lǐng)域,“知識(shí)圖譜+機(jī)器學(xué)習(xí)”的應(yīng)用,首先是收集相關(guān)案例,將海量的司法案例以數(shù)據(jù)化的形式轉(zhuǎn)化為機(jī)器語(yǔ)言,并通過(guò)法律邏輯與技術(shù)邏輯的相互銜接,構(gòu)建起數(shù)字化的類案知識(shí)圖譜。其次,通過(guò)機(jī)器學(xué)習(xí),從知識(shí)圖譜中深入挖掘并總結(jié)隱含信息,并在此基礎(chǔ)上進(jìn)行消化、學(xué)習(xí),形成算法模型,對(duì)相關(guān)問(wèn)題進(jìn)行預(yù)測(cè)、分析,在形成的類案圖譜中,實(shí)現(xiàn)算法技術(shù)的智能學(xué)習(xí)。當(dāng)前我國(guó)運(yùn)行中的司法輔助系統(tǒng)諸如類案推送、輔助量刑等功能的實(shí)現(xiàn)都建立在這種算法邏輯基礎(chǔ)之上。

(二)智慧司法的實(shí)踐應(yīng)用

現(xiàn)階段,在相關(guān)政策的引導(dǎo)與推動(dòng)下,我國(guó)智慧司法系統(tǒng)也愈加完善和成熟。2018年1月5日,最高人民法院就推出了“類案智能推送系統(tǒng)”,該系統(tǒng)一經(jīng)上線就受到了廣大法官、律師等的廣泛好評(píng)。這一系統(tǒng)可以通過(guò)對(duì)案件事實(shí)、訴爭(zhēng)焦點(diǎn)、法律適用等要素的收集進(jìn)行畫(huà)像,輔助用戶快速?gòu)暮Ａ繗v史案件中發(fā)現(xiàn)相似案例,提供類案精準(zhǔn)推薦服務(wù)。各個(gè)地方法院也分別發(fā)展起了各自的智慧法院系統(tǒng)。北京高級(jí)人民法院推出“睿法官”智能系統(tǒng),立足于法官辦案的核心需求,運(yùn)用大數(shù)據(jù)、云計(jì)算、人工智能等新興技術(shù),通過(guò)智能機(jī)器學(xué)習(xí),多維度數(shù)據(jù)支持,全流程數(shù)據(jù)服務(wù),實(shí)現(xiàn)為案情畫(huà)像,為法官判案提供統(tǒng)一全面的審理支持;上海“206”系統(tǒng)立足于智能輔助辦案,通過(guò)證據(jù)規(guī)則指引、證據(jù)校驗(yàn)審查以及智能輔助庭審等方式,真正實(shí)現(xiàn)了公檢法辦理刑事案件網(wǎng)上運(yùn)行、互聯(lián)互通、安全傳輸、數(shù)據(jù)共享,整個(gè)刑事訴訟活動(dòng)全程可視、全程可控、全程留痕、全程監(jiān)督,防止司法任意性[3]。除此之外,河北法院“智審”審判輔助系統(tǒng)、移動(dòng)微法院、南通法院支云庭審系統(tǒng)等技術(shù)的投入使用,承擔(dān)了司法信息公開(kāi)與檢索、在線訴訟服務(wù)、簡(jiǎn)單裁判工作智能化、在線監(jiān)督管理等任務(wù),為法官?zèng)Q策提供了有力支撐。

三、 智慧司法的算法隱憂

智慧司法系統(tǒng)的應(yīng)用極大地便利了審判工作,提高了案件的處理效率,減輕了司法工作人員機(jī)械性、重復(fù)性工作的壓力,有效地緩解了案多人少的矛盾。但不可否認(rèn)的是,現(xiàn)階段的人工智能還處于弱人工智能階段,難以達(dá)到替代人腦的狀態(tài),當(dāng)前智慧司法仍然受到算法技術(shù)發(fā)展水平的限制,無(wú)法擺脫自身的機(jī)械性、滯后性的桎梏。伴隨著智慧司法的普遍推廣,我們應(yīng)當(dāng)警惕隨之而來(lái)的算法隱憂。

(一)數(shù)據(jù)質(zhì)量影響算法決策

計(jì)算機(jī)算法作為智慧司法發(fā)展的基礎(chǔ),為智慧司法系統(tǒng)的研發(fā)、運(yùn)行提供了強(qiáng)有力的技術(shù)支持?？梢哉f(shuō),計(jì)算機(jī)算法是推動(dòng)智慧司法系統(tǒng)平穩(wěn)運(yùn)行的引擎,而這個(gè)引擎以海量的數(shù)據(jù)為燃料。因此,燃料質(zhì)量的好壞將直接影響到司法輔助系統(tǒng)的運(yùn)行狀態(tài)。在算法的機(jī)器學(xué)習(xí)中,存在著“GIGO”的現(xiàn)象,即垃圾輸入、垃圾輸出[4]。數(shù)據(jù)的質(zhì)量決定著算法結(jié)果的準(zhǔn)確性。輕微瑕疵的數(shù)據(jù)通過(guò)計(jì)算機(jī)算法進(jìn)入司法系統(tǒng),在蝴蝶效應(yīng)的影響下,也會(huì)成為影響司法公正的巨大風(fēng)暴。為此,要防范算法風(fēng)險(xiǎn),必須保證數(shù)據(jù)質(zhì)量。

數(shù)據(jù)質(zhì)量包含“質(zhì)”和“量”。作為司法大國(guó),我國(guó)司法大數(shù)據(jù)總量龐大。截至目前,我國(guó)裁判文書(shū)網(wǎng)收納的裁判文書(shū)已經(jīng)達(dá)到140,824,154篇,從“量”上來(lái)看,數(shù)據(jù)資源似乎能夠滿足智慧司法的機(jī)械學(xué)習(xí)需求,但是綜合來(lái)看,這些數(shù)據(jù)廣而不精,難以滿足“質(zhì)”的需求。其一,這些數(shù)據(jù)相對(duì)孤立且片面。目前我國(guó)主要存在的智慧司法系統(tǒng),或是區(qū)域性的綜合系統(tǒng),例如前文已述的北京“睿法官系統(tǒng)”、上?！?06系統(tǒng)”等;或是全國(guó)性的單一類型的數(shù)據(jù)庫(kù),例如中國(guó)裁判文書(shū)公開(kāi)網(wǎng)。前者數(shù)據(jù)資源相對(duì)綜合,但是局限于局部地區(qū),不能與其他范圍內(nèi)的數(shù)據(jù)進(jìn)行對(duì)比分析,綜合研判;后者雖然整合了全國(guó)的數(shù)據(jù),但只局限于裁判文書(shū)這一種資源,難以提供綜合的參考借鑒。雖然這些司法系統(tǒng)數(shù)據(jù)庫(kù)有豐富的資源,但卻似一個(gè)個(gè)信息孤島,難以實(shí)現(xiàn)資源的有效流轉(zhuǎn)和利用。其二,司法數(shù)據(jù)的時(shí)效性弱。目前所謂的人工智能是以過(guò)去的數(shù)據(jù)為基礎(chǔ),試圖解決未來(lái)的類似問(wèn)題,但是,類似問(wèn)題在不同時(shí)期會(huì)有不同解決方案[5]。這要求作用于算法的數(shù)據(jù)必須與時(shí)俱進(jìn)。而現(xiàn)階段,司法數(shù)據(jù)往往是不加選擇地涌入智慧司法系統(tǒng),這其中不乏冗余的過(guò)時(shí)的歷史沉積數(shù)據(jù)資源,難以適應(yīng)法律適用的發(fā)展性。其三,數(shù)據(jù)不完整導(dǎo)致算法偏差。從人工智能的角度來(lái)看,審判過(guò)程中出現(xiàn)的任何信息都有可能是知識(shí)圖譜中的一環(huán),并與審判結(jié)果之間存在或多或少的關(guān)聯(lián)[6]。中國(guó)古代就有“辭、色、氣、耳、目”五聽(tīng)斷獄審判法,放之現(xiàn)在,依然有一定道理。庭審參加人員的言辭、神態(tài)、語(yǔ)氣等信息都有可能影響到案件結(jié)果,然而這些信息難以以數(shù)據(jù)化的形式被捕獲,也無(wú)法通過(guò)計(jì)算機(jī)算法表現(xiàn)出來(lái)。也就是說(shuō),應(yīng)用于智慧司法的數(shù)據(jù)并不包含這些細(xì)節(jié),而案件的全景往往是由這些細(xì)節(jié)——一個(gè)詞、一組數(shù)、一個(gè)微表情等拼接出來(lái)的?；谶@種不完整的數(shù)據(jù)進(jìn)行算法學(xué)習(xí),帶來(lái)算法結(jié)果的局限性就在所難免。

(二)算法黑箱妨害司法公正

陽(yáng)光是最好的防腐劑,司法公開(kāi)才能保證正義以看得見(jiàn)的形式存在。在智慧司法領(lǐng)域,算法黑箱卻似乎存在于陽(yáng)光無(wú)法透射的隱秘角落。所謂黑箱,是指為人類所無(wú)法知曉的,即不能打開(kāi),又不能從外部觀察其內(nèi)部形態(tài)的系統(tǒng)[7]。智慧司法領(lǐng)域的算法,是建立在計(jì)算機(jī)基礎(chǔ)上的以二進(jìn)制代碼形式表達(dá)出來(lái)的機(jī)器語(yǔ)言,相較于人類語(yǔ)言,這種機(jī)器語(yǔ)言表達(dá)的是計(jì)算機(jī)系統(tǒng)的思維方式。智慧司法系統(tǒng)的輔助功能的發(fā)揮,都是通過(guò)計(jì)算機(jī)系統(tǒng)運(yùn)用預(yù)設(shè)的思維方式通過(guò)大量的繁瑣復(fù)雜的機(jī)器學(xué)習(xí)和數(shù)據(jù)處理來(lái)實(shí)現(xiàn)的。而體現(xiàn)在實(shí)際使用過(guò)程中,也許只是簡(jiǎn)單的點(diǎn)擊、輸入、檢索等簡(jiǎn)單操作。復(fù)雜的操作系統(tǒng)被封裝起來(lái),成為一個(gè)無(wú)法被打開(kāi)、無(wú)法被窺視的算法黑箱,它的存在,極易損害司法的公信力。努力讓每一個(gè)人民群眾在司法中感受到公平正義,要求以公開(kāi)促公正,以透明保廉潔[8],而數(shù)據(jù)黑箱與智慧司法系統(tǒng)的應(yīng)用如影相隨,即便公開(kāi),也只是一組復(fù)雜難懂的數(shù)據(jù)代碼,難以為公眾所理解和接受。通過(guò)智慧司法系統(tǒng)所輸出的結(jié)論,也面臨著監(jiān)督不能的局面。

其次,數(shù)據(jù)黑箱的存在限縮了當(dāng)事人及辯護(hù)律師的權(quán)利。受數(shù)據(jù)黑箱的影響,當(dāng)事人在參與司法活動(dòng)中的許多問(wèn)題得不到具有說(shuō)服力的解釋,法律推算的過(guò)程難以得到當(dāng)事人的理解,對(duì)當(dāng)事人權(quán)利保障形成極大挑戰(zhàn)。例如,美國(guó)的“盧米斯案”,就折射出運(yùn)用智慧司法算法裁判帶來(lái)的信任危機(jī)。美國(guó)威斯康星州在運(yùn)用COMPAS再犯風(fēng)險(xiǎn)評(píng)估系統(tǒng)對(duì)盧米斯進(jìn)行再犯可能性評(píng)估后,認(rèn)為其再犯可能性較高,并因此判處其六年有期徒刑。盧米斯認(rèn)為,COMPAS再犯風(fēng)險(xiǎn)評(píng)估系統(tǒng)的保密算法使其無(wú)法了解判決依據(jù)而據(jù)此充分辯駁、補(bǔ)充理由,并以此為由提起上訴。法院雖然援引了智能裁判的結(jié)果,卻并未對(duì)對(duì)量刑結(jié)果起到?jīng)Q定性、關(guān)鍵性作用的智能程序的處理過(guò)程進(jìn)行說(shuō)明,只是在判決書(shū)中澄清了案件事實(shí)輸入的準(zhǔn)確性。這實(shí)際上顯現(xiàn)出,如果司法機(jī)關(guān)放任司法算法的肆意,不采取積極的解釋和保障措施,當(dāng)事人的權(quán)利將會(huì)受到算法結(jié)果獨(dú)裁專斷。如果作為權(quán)利保障最后一道屏障的司法機(jī)關(guān)不能對(duì)司法算法嚴(yán)格把關(guān),必然會(huì)導(dǎo)致司法公信力的崩塌,司法公正就無(wú)從實(shí)現(xiàn)。

(三)算法依賴挑戰(zhàn)司法權(quán)威

智慧司法的推廣應(yīng)用在輔助辦案中起到了極大成效,提高了司法工作的效率,但也帶來(lái)了司法機(jī)關(guān)對(duì)算法的過(guò)度依賴。智慧司法輔助系統(tǒng)不斷推陳出新,算法功能愈發(fā)完備,在證據(jù)分析、事實(shí)認(rèn)定、法律使用等方面的作用越發(fā)凸顯。而這種技術(shù)性輔助系統(tǒng)在解放生產(chǎn)力、提高工作效率的同時(shí),也在悄無(wú)聲息地侵蝕著司法人員的主觀能動(dòng)性。惰性是人與生俱來(lái)的天性,司法工作人員作為獨(dú)立的正常的“人”,也不可避免地具有這種天性。在人工智能的發(fā)展越來(lái)越高效化、精準(zhǔn)化、人性化的趨勢(shì)下,司法工作人員會(huì)對(duì)算法結(jié)果產(chǎn)生越來(lái)越高的信任和依賴,而放松對(duì)算法結(jié)果的檢驗(yàn)和校對(duì)。此時(shí),司法人員作出司法決策,如同醫(yī)生放棄了對(duì)患者傾訴癥狀的聽(tīng)取,轉(zhuǎn)而只對(duì)化驗(yàn)結(jié)果、檢測(cè)報(bào)告和病例檢查照片保持信任,用一種片面的觀點(diǎn)取代了另一種片面的觀點(diǎn)[9]。例如,經(jīng)過(guò)人工智能系統(tǒng)檢驗(yàn)的證據(jù)材料,會(huì)被辦案人員披上“經(jīng)由人工智能檢驗(yàn)”的外衣并因此對(duì)這些證據(jù)材料放松警惕。然而如前所述,基于算法技術(shù)的局限性,結(jié)果偏差的存在不可避免。如果司法人員的主觀能動(dòng)性喪失,算法結(jié)論的錯(cuò)誤就不可避免。這些算法的錯(cuò)誤結(jié)論如果沒(méi)有被及時(shí)地發(fā)現(xiàn)和整改,將會(huì)對(duì)司法公信力產(chǎn)生不利影響。

另一方面,算法技術(shù)能力的缺失和對(duì)算法理念的忽視也加劇算法技術(shù)依賴[10],而過(guò)于依賴算法技術(shù)在不斷侵蝕專屬于司法機(jī)關(guān)的裁量權(quán)。基于計(jì)算機(jī)技術(shù)的專業(yè)性,僅依靠司法機(jī)關(guān)的力量難以建立起一套完整的智能系統(tǒng)。技術(shù)公司與司法部門(mén)合作的情況已經(jīng)成為常態(tài)。例如,阿里巴巴、擎天科技等互聯(lián)網(wǎng)企業(yè)為江蘇“智慧法務(wù)”智能平臺(tái)的建設(shè)提供技術(shù)支持[11];上海的“206”系統(tǒng)由科大訊飛與上海市公檢法系統(tǒng)聯(lián)合建設(shè);在全國(guó)范圍內(nèi)推廣運(yùn)行的人民法院“智慧法院導(dǎo)航系統(tǒng)”依托于百度地圖建設(shè)而成[12]。這種通過(guò)社會(huì)購(gòu)買(mǎi)方式建立起的智慧平臺(tái),在一定程度上透析了權(quán)力專屬原則。類案檢索、量刑建議評(píng)估等系統(tǒng)是智慧司法平臺(tái)建設(shè)的重要組成部分,這種算法評(píng)估的設(shè)計(jì)初衷是為司法工作提供參考,但它們?cè)跐撘颇赜绊懛ü僮杂刹昧繖?quán)。法官對(duì)案件的裁判,應(yīng)當(dāng)建立在對(duì)法律解釋、利益衡量、道德倫理和價(jià)值判斷等因素進(jìn)行綜合考量并形成自由心證的基礎(chǔ)上,而智慧司法系統(tǒng)將這些本應(yīng)由法官進(jìn)行綜合考量的自由心證通過(guò)算法技術(shù)推演出來(lái)并獲得法官的信任。“法官的自由裁量”被人工智能技術(shù)所侵蝕,變成了“算法的自由裁量”。

四、 智慧司法的算法隱憂應(yīng)對(duì)

算法技術(shù)在司法領(lǐng)域的深度應(yīng)用,展現(xiàn)出智慧司法的廣闊前景,但同時(shí)面臨著算法結(jié)果偏差、妨害司法公正、挑戰(zhàn)司法權(quán)威等風(fēng)險(xiǎn)。在新形勢(shì)下,應(yīng)當(dāng)明確智慧司法的發(fā)展方向,對(duì)算法技術(shù)進(jìn)行法律規(guī)制,以修正技術(shù)風(fēng)險(xiǎn),應(yīng)對(duì)風(fēng)險(xiǎn)挑戰(zhàn),破解司法難題。

(一)優(yōu)化數(shù)據(jù)質(zhì)量,規(guī)范算法決策

如前文已述,數(shù)據(jù)質(zhì)量在智慧司法算法技術(shù)中扮演著十分重要的角色,智慧司法體系的建設(shè)亟需優(yōu)質(zhì)充足的數(shù)據(jù)資源。為此,必須強(qiáng)化數(shù)據(jù)庫(kù)建設(shè),對(duì)進(jìn)入智慧司法系統(tǒng)的數(shù)據(jù)進(jìn)行嚴(yán)格篩選。

其一,應(yīng)當(dāng)加強(qiáng)各地區(qū)、各平臺(tái)的數(shù)據(jù)資源共享,打破數(shù)據(jù)壁壘,實(shí)現(xiàn)公檢法各機(jī)關(guān)之間的數(shù)據(jù)互通共享。將可能影響案件裁判的各項(xiàng)數(shù)據(jù)資料盡可能地納入智慧司法系統(tǒng),才能充實(shí)算法邏輯,在最大程度上還原案件現(xiàn)實(shí),避免“一葉障目”的情況出現(xiàn)。“如果司法的數(shù)據(jù)孤島不被打破,大數(shù)據(jù)的全面存儲(chǔ)集中管理是不可能的;如果各分立的功能區(qū)域無(wú)法被整合在一個(gè)集成平臺(tái),在各個(gè)系統(tǒng)間的重復(fù)登錄和切換只會(huì)令人不勝心煩”[13]。此外,要加強(qiáng)偏遠(yuǎn)地區(qū)的智慧司法系統(tǒng)建設(shè),盡可能將這些地區(qū)的司法資源接入智慧司法數(shù)據(jù)庫(kù),對(duì)這些地區(qū)司法狀況進(jìn)行實(shí)時(shí)監(jiān)控。引導(dǎo)這些地區(qū)司法程序規(guī)范的同時(shí),為智慧司法的算法學(xué)習(xí)提供更多的個(gè)案研究實(shí)例,保證數(shù)據(jù)資源的橫向拓展,為智慧司法學(xué)習(xí)各地不同司法習(xí)慣提供參考數(shù)據(jù),保證個(gè)案公平。其二,設(shè)置數(shù)據(jù)預(yù)警機(jī)制,及時(shí)清查可疑數(shù)據(jù)。數(shù)據(jù)資源庫(kù)是智慧司法算法技術(shù)的基礎(chǔ)保障,必須保證數(shù)據(jù)資源的純潔度。為此,要建立起一套數(shù)據(jù)清洗和篩選機(jī)制,結(jié)合法律規(guī)范的更新?tīng)顟B(tài),對(duì)不符合法律發(fā)展、不符合社會(huì)觀念的數(shù)據(jù)及時(shí)剔除。在智慧司法系統(tǒng)的程序設(shè)計(jì)過(guò)程中,可以寫(xiě)入信息預(yù)警模塊。當(dāng)司法人員對(duì)用以參考的法律信息進(jìn)行更新后,通過(guò)算法模塊自動(dòng)分析篩選出與該更新后的法律信息不相符的數(shù)據(jù)并給出預(yù)警提示。此外,通過(guò)預(yù)警模塊的自主算法學(xué)習(xí),可以在智慧司法中形成自洽的數(shù)據(jù)邏輯,并通過(guò)這種邏輯去驗(yàn)證和篩查與邏輯相悖的數(shù)據(jù)。例如,在刑事司法中,證據(jù)的來(lái)源及其內(nèi)容一般情況下應(yīng)當(dāng)合法且符合邏輯,當(dāng)預(yù)警模塊掌握這種邏輯之后,就可以篩查出來(lái)源不明、不符合邏輯的證據(jù),從而排除非法證據(jù)?？傊?數(shù)據(jù)預(yù)警模塊的設(shè)置,可以及時(shí)對(duì)數(shù)據(jù)清查,保證數(shù)據(jù)的時(shí)效性和純潔性。

(二)建立算法公開(kāi)和解釋機(jī)制,克服算法黑箱困境

算法黑箱與智慧司法的算法技術(shù)相伴而生,要使智慧司法在陽(yáng)光下運(yùn)行,就必須建立算法的公開(kāi)和解釋機(jī)制。實(shí)際上,算法黑箱中所隱藏的,只是一串串晦澀難懂的代碼和數(shù)字,即便向社會(huì)公開(kāi),也不能起到接受社會(huì)監(jiān)督的效果。加之算法公開(kāi)可能會(huì)面臨涉及第三方機(jī)構(gòu)的商業(yè)秘密等方面的阻力,其公開(kāi)應(yīng)當(dāng)進(jìn)行一定的限制。

首先,就算法技術(shù)的源代碼公開(kāi)而言,應(yīng)當(dāng)限定在政府部門(mén)委托的專業(yè)機(jī)構(gòu)或者設(shè)置的專門(mén)機(jī)關(guān)而不必向全社會(huì)公開(kāi)。比如有學(xué)者認(rèn)為,可以通過(guò)專家輔助人的方式對(duì)智能系統(tǒng)的運(yùn)作原理進(jìn)行質(zhì)詢[14]。目前投入使用的智能算法平臺(tái),多是由技術(shù)公司與司法部門(mén)合作開(kāi)發(fā)。如果要求這些算法公司對(duì)外公開(kāi)其算法代碼,將會(huì)對(duì)他們繼續(xù)發(fā)展相關(guān)系統(tǒng)的積極性產(chǎn)生致命打擊。這些公司為開(kāi)發(fā)、維護(hù)平臺(tái)運(yùn)行,已經(jīng)投入大量精力和成本,其收益也主要依賴于這些算法技術(shù),若強(qiáng)行要求其公開(kāi)算法,無(wú)疑是對(duì)其知識(shí)產(chǎn)權(quán)的侵犯。一旦這些秘密算法被公開(kāi),大量盜版技術(shù)也會(huì)蜂擁而至,嚴(yán)重?cái)_亂司法權(quán)威。再者,將算法代碼對(duì)全社會(huì)公開(kāi)并無(wú)很大意義。畢竟司法公開(kāi)的目的在于使其接受更好監(jiān)督,而算法由于其代碼專業(yè)性,就算向全社會(huì)公開(kāi)也并非所有人都能理解其價(jià)值所在。有關(guān)部門(mén)可以招募專業(yè)人士對(duì)算法進(jìn)行分析審查,同時(shí)又可以通過(guò)保密協(xié)議等措施將涉及商業(yè)秘密的算法技術(shù)嚴(yán)格限定在一定范圍,防止算法技術(shù)外泄,將算法公開(kāi)的主體限定在政府委托或者設(shè)置的專門(mén)機(jī)構(gòu)是最優(yōu)選擇。

其次,應(yīng)當(dāng)建立算法解釋機(jī)制,保證公眾的算法解釋權(quán)。由于算法具有復(fù)雜性、專業(yè)性等特點(diǎn),對(duì)社會(huì)公眾的公開(kāi)不會(huì)起到預(yù)期的效果,因此可以建立算法解釋機(jī)制。一方面,由相關(guān)部門(mén)積極對(duì)智能算法的原理和運(yùn)行方式,以公眾可以理解的方式進(jìn)行主動(dòng)解釋,同時(shí)又要賦予公眾享有相應(yīng)的算法解釋權(quán)。這里的算法解釋權(quán),在歐盟《一般數(shù)據(jù)保護(hù)條例》中有跡可循。《一般數(shù)據(jù)保護(hù)條例》第七十一條中提出了算法解釋權(quán)的概念,即“數(shù)據(jù)主體有權(quán)獲得人工干預(yù),表達(dá)其觀點(diǎn),獲得針對(duì)自動(dòng)化決策的解釋并提出異議的權(quán)利。”[15]目前智能司法系統(tǒng)的發(fā)展,還有許多諸如算法偏見(jiàn)等未能解決的瑕疵,如果不建立起一套完整的算法解釋體系,不能賦予當(dāng)事人在遭受算法不利時(shí)獲得解釋和救濟(jì)的機(jī)會(huì),則很難保證他們會(huì)受到公正的處置。在相關(guān)機(jī)制的設(shè)置上,可以明確解釋告知程序,比如對(duì)于輔助量刑系統(tǒng)算法邏輯及時(shí)告知,便于當(dāng)事人就此提出抗辯意見(jiàn);對(duì)于當(dāng)事人不能理解的智能程序,采取通俗方式進(jìn)行解釋,保證其對(duì)訴訟程序的參與感和監(jiān)督權(quán)。

(三)把握技術(shù)邊界,減少技術(shù)依賴

隨著法院信息化的不斷發(fā)展,智能技術(shù)過(guò)分侵入司法裁判的后果也愈發(fā)嚴(yán)重。一方面,必須明晰技術(shù)邊界,限制智能技術(shù)對(duì)司法裁判的過(guò)度侵犯,另一方面,應(yīng)當(dāng)明確責(zé)任劃分和追責(zé)機(jī)制,提高司法人員的憂患意識(shí),使他們?cè)谒痉Q策過(guò)程中時(shí)刻保持警惕。

其一,應(yīng)當(dāng)重視智能算法平臺(tái)研發(fā)中的能動(dòng)性空間設(shè)計(jì)。隨著智能信息技術(shù)的不斷發(fā)展,智能司法輔助平臺(tái)的深入推廣,同時(shí)基于提高審判效率的需要,智能算法在司法活動(dòng)中的定位似乎已經(jīng)出現(xiàn)了偏差,從程序設(shè)計(jì)上的“司法輔助”走向?qū)嶋H應(yīng)用中的“算法主導(dǎo)”。這是由于現(xiàn)在的算法技術(shù)決策的準(zhǔn)確率、完成度越來(lái)越高從而導(dǎo)致司法人員對(duì)算法結(jié)果過(guò)度信任。為此,在智能算法系統(tǒng)的設(shè)計(jì)中,應(yīng)當(dāng)留有主觀能動(dòng)性的發(fā)揮空間,避免技術(shù)的機(jī)械性侵犯人的主觀能動(dòng)性。例如,在類案推送系統(tǒng)應(yīng)用過(guò)程中,盡可能設(shè)置全面的人機(jī)互動(dòng)程序,將案件相關(guān)人員的心理、情感和道德等因素嵌入司法裁判的過(guò)程中,提升司法人員的參與度,使推薦類案更貼合需求。此外,有研究表明,由于在系統(tǒng)中選擇“其他”按鍵必須單獨(dú)填寫(xiě)理由,就導(dǎo)致法官為了避免額外的工作量而往往選擇一個(gè)相近但不準(zhǔn)確的選項(xiàng),進(jìn)而擴(kuò)大結(jié)果偏差[16]。因此,在構(gòu)建智能司法輔助系統(tǒng)的架構(gòu)時(shí),應(yīng)當(dāng)給予重視法官主觀能動(dòng)性的裁量空間,避免司法決策對(duì)智能算法的過(guò)度依賴。

其二,要完善責(zé)任追究機(jī)制。有學(xué)者認(rèn)為,智慧司法輔助系統(tǒng)應(yīng)用過(guò)程中的責(zé)任追究應(yīng)當(dāng)適用過(guò)錯(cuò)推定原則,應(yīng)當(dāng)由司法工作者優(yōu)先承擔(dān)失誤責(zé)任。這樣可以有效督促司法工作者認(rèn)真審核、監(jiān)督人工智能的工作狀況,及時(shí)發(fā)現(xiàn)問(wèn)題、及時(shí)改正失誤,有效防止因司法工作失誤危害社會(huì)公眾利益。同時(shí)又能防止人工智能的關(guān)聯(lián)主體之間相互推卸責(zé)任[17]。通過(guò)建立完善的責(zé)任追究機(jī)制,一方面可以倒逼司法人員提高責(zé)任意識(shí)、警惕意識(shí),使其明確責(zé)任分工,各司其職,盡職盡責(zé),保證司法活動(dòng)的正常運(yùn)轉(zhuǎn)。另一方面,能夠規(guī)范智能司法系統(tǒng)的研發(fā)和利用,使其在制度規(guī)定的范圍內(nèi)運(yùn)轉(zhuǎn),不敢干預(yù)案件的實(shí)質(zhì)性審理過(guò)程,不敢為司法人員怠惰提供依靠,防止技術(shù)對(duì)司法的直接干預(yù)。

(四)加強(qiáng)理論研究,培養(yǎng)復(fù)合人才

人工智能司法輔助是一個(gè)主體多元、領(lǐng)域復(fù)雜的綜合性議題。應(yīng)當(dāng)加強(qiáng)復(fù)合交叉學(xué)科建設(shè)和理論研究,培養(yǎng)塑造一批綜合性人才以實(shí)現(xiàn)智能司法全過(guò)程、全流域的治理。在理論研究層面,應(yīng)當(dāng)從法理、倫理層面繼續(xù)探究算法技術(shù)與司法活動(dòng)融合的正當(dāng)性基礎(chǔ),還需要探討智能時(shí)代算法技術(shù)介入司法活動(dòng)的合理路徑,為法律法規(guī)制定、機(jī)制建設(shè)、方案設(shè)計(jì)提供理論支撐。另一方面,應(yīng)當(dāng)加強(qiáng)復(fù)合型人才的培養(yǎng)。有學(xué)者在調(diào)研我國(guó)智慧司法實(shí)踐后指出:目前我國(guó)智能司法實(shí)踐面臨著人才失調(diào)的問(wèn)題。首先,法律人群體不參與智慧司法創(chuàng)新的需求提煉、方案制定、科學(xué)研究、產(chǎn)品研發(fā)甚至試點(diǎn)運(yùn)用等工作,而是純粹地期望購(gòu)買(mǎi)產(chǎn)品;其次,科技人群體不了解基本法律知識(shí),也不全面學(xué)習(xí)司法體制改革的內(nèi)容和導(dǎo)向等[18]。這種人才結(jié)構(gòu)的失調(diào)狀態(tài),難以呼應(yīng)智慧時(shí)代下司法工作的現(xiàn)實(shí)需求,導(dǎo)致智能系統(tǒng)與司法實(shí)踐現(xiàn)狀的割裂?？傊?在司法智慧化程度越來(lái)越高的今天,培養(yǎng)技術(shù)、法律綜合人才已成為當(dāng)務(wù)之急。為此,在法院層面,可以著重引入新型技術(shù)人才,優(yōu)化人才隊(duì)伍配置,實(shí)現(xiàn)技術(shù)與司法實(shí)務(wù)的契合;再次,對(duì)技術(shù)研發(fā)人員展開(kāi)相應(yīng)的法律培訓(xùn),可以建立相關(guān)人才掛職機(jī)制,確保技術(shù)人才技術(shù)平臺(tái)研發(fā)與司法實(shí)踐的能力適配。從長(zhǎng)遠(yuǎn)來(lái)看,應(yīng)當(dāng)從高校人才培養(yǎng)階段就注重綜合類人才的培養(yǎng)。2017年7月8日國(guó)務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》明確提出:“鼓勵(lì)高校在原有基礎(chǔ)上拓寬人工智能專業(yè)教育內(nèi)容,形成‘人工智能+X’復(fù)合專業(yè)培養(yǎng)新模式?！痹诟咝７▽W(xué)教育中,適當(dāng)融入計(jì)算機(jī)教育,鼓勵(lì)培養(yǎng)計(jì)算機(jī)技術(shù)與法學(xué)雙學(xué)位人才,以順應(yīng)新一代人工智能背景下算法司法的改革潮流。