司法決策的算法化趨向及其反思

帥奕男

(中共中央黨校(國(guó)家行政學(xué)院) 政治和法律教研部，北京 100091)

一、問(wèn)題的提出

隨著大數(shù)據(jù)與人工智能時(shí)代的到來(lái)，在越來(lái)越多的應(yīng)用場(chǎng)景中開(kāi)始將算法用于決策或輔助決策。算法本質(zhì)上是解決問(wèn)題的數(shù)學(xué)過(guò)程，介入社會(huì)科學(xué)領(lǐng)域之后，被廣義地界定為一種特定的思維路徑或方法。[1]算法代表著用系統(tǒng)的方法描述解決問(wèn)題的策略機(jī)制，即能夠?qū)σ欢ㄒ?guī)范的輸入，在有限時(shí)間內(nèi)獲得所要求的輸出。而司法決策也構(gòu)成一對(duì)輸入/輸出關(guān)系，即輸入人的特定行為，輸出是非的判斷與裁決。這種技術(shù)性表征使得韋伯在一百年前便對(duì)司法有了“自動(dòng)售貨機(jī)”的設(shè)想。

事實(shí)上，自20世紀(jì)70年代開(kāi)始，美國(guó)學(xué)者就在討論建模法律研究和推理的可能性。布肯南(Bruce Buchanan)和海迪克(Thomas Headrick)在1970年發(fā)表的論文《關(guān)于人工智能和法律推理若干問(wèn)題的考察》中，首次討論了使用人工智能技術(shù)建立法律研究和推理模型的可能性，為人工智能在司法推理領(lǐng)域的研究和實(shí)踐奠定了理論基礎(chǔ)。[2]1981年，沃特曼和皮特森開(kāi)發(fā)的法律判決輔助系統(tǒng)(LDS)被首次應(yīng)用。而今，美國(guó)一半以上的州采用了罪犯矯正替代性分析管理系統(tǒng)(COMPAS)、公共安全評(píng)估(PSA)和服務(wù)級(jí)別目錄修訂版(LSI-R)三大風(fēng)險(xiǎn)評(píng)估軟件，主要用于預(yù)測(cè)犯罪嫌疑人再犯風(fēng)險(xiǎn)，進(jìn)而決定是否保釋、假釋等。[3]在我國(guó)，北京市高級(jí)人民法院的“睿法官”、上海法院的“刑事案件智能輔助辦案系統(tǒng)”(簡(jiǎn)稱(chēng)“206系統(tǒng)”)等陸續(xù)上線(xiàn)運(yùn)行，在司法裁判中承擔(dān)證據(jù)審查、瑕疵提示、類(lèi)案推送、文書(shū)輔助生成等任務(wù)。

人工智能在司法領(lǐng)域的實(shí)踐應(yīng)用，展現(xiàn)出算法決策在提升審判效率、優(yōu)化司法資源方面的巨大潛力，以及推進(jìn)司法判決的專(zhuān)業(yè)性和公正性方面的重要影響。然而，算法本身也存在著技術(shù)局限性，其深度應(yīng)用于司法決策，可能帶來(lái)論辯權(quán)利難以保障、裁判合理性難以解釋、權(quán)利優(yōu)先性難以回應(yīng)等深層問(wèn)題，對(duì)司法的公正性及權(quán)威性產(chǎn)生不利影響。鑒于此，本文在梳理人工智能時(shí)代司法決策發(fā)展趨向的基礎(chǔ)上，反思司法決策算法化可能帶來(lái)的正當(dāng)性隱憂(yōu)，立足技術(shù)賦權(quán)理念，提出司法決策算法化的應(yīng)對(duì)之策。

二、司法決策的算法化趨向

自計(jì)算機(jī)得以普遍應(yīng)用之后，國(guó)外學(xué)者就開(kāi)始討論機(jī)器是否可以具有法律思維、完成法律推理的問(wèn)題。近年來(lái)，隨著互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能技術(shù)的融合發(fā)展，人工智能可以對(duì)海量的司法信息數(shù)據(jù)進(jìn)行分析，進(jìn)而構(gòu)建證據(jù)模型、量刑模型，探索可解釋的類(lèi)案推送，為司法裁判提供全方位的智力支持。在這個(gè)過(guò)程中，智能系統(tǒng)為各類(lèi)案件提供“定制化”的證據(jù)指引、類(lèi)案推送及評(píng)估預(yù)測(cè)，使得裁判結(jié)果更加具有連續(xù)性、一致性和可預(yù)見(jiàn)性，呈現(xiàn)出建?；乃惴Q策趨向。

(一)證據(jù)審查程式化

在司法智能化背景下，證據(jù)指引以類(lèi)型化的證據(jù)模型和結(jié)構(gòu)化算法作為支撐，在減少司法任意性的同時(shí)呈現(xiàn)出證據(jù)審查的程式化趨勢(shì)。一般來(lái)說(shuō)，證據(jù)審查主要包括：(1)證據(jù)材料來(lái)源是否合法，是否依照法定程序收集；(2)證據(jù)材料同案件事實(shí)有無(wú)聯(lián)系，特別是因果關(guān)系；(3)每一證據(jù)材料本身是否前后一致、合乎情理，證人與案件是否有利害關(guān)系，鑒定結(jié)論所依據(jù)的資料是否可靠，全部證據(jù)之間是否有內(nèi)在聯(lián)系、有無(wú)矛盾等。其中，只有證據(jù)材料的合法性被明確的證據(jù)規(guī)則所規(guī)范，至于個(gè)案中證據(jù)的真實(shí)性或關(guān)聯(lián)性，證據(jù)鏈條是否完整、前后是否矛盾，特別是哪些證據(jù)應(yīng)該被賦予什么“分量”或“說(shuō)服力”或“證明力”，則是基于法官或陪審團(tuán)的自由心證。[4]但這種情況在信息時(shí)代的司法裁判中發(fā)生了改變，依托強(qiáng)大的數(shù)據(jù)讀取能力和分析能力，智能系統(tǒng)構(gòu)建證據(jù)模型為案件審理提供清單式的證據(jù)指引及瑕疵提示，使法官在證據(jù)審查中受到針對(duì)性的指引和監(jiān)督。

在司法智能化的科技創(chuàng)新中，證據(jù)標(biāo)準(zhǔn)指引的概念被提出，為要件證據(jù)及必要附屬證據(jù)的判斷提供了更為具體化和規(guī)范化的標(biāo)準(zhǔn)。證據(jù)標(biāo)準(zhǔn)指引是一種介于規(guī)則與原則之間的強(qiáng)制性標(biāo)準(zhǔn)，指的是根據(jù)具體案件證據(jù)結(jié)構(gòu)特點(diǎn)及查證犯罪事實(shí)的繁簡(jiǎn)程度，對(duì)案件應(yīng)當(dāng)收集哪些證據(jù)的針對(duì)性要求。比如，在“206系統(tǒng)”中，根據(jù)證據(jù)收集的相對(duì)固定性和規(guī)律性，命案被分為四個(gè)類(lèi)型：現(xiàn)場(chǎng)目擊型、現(xiàn)場(chǎng)留痕型、認(rèn)罪供述得到印證型、拒不認(rèn)罪型。對(duì)于認(rèn)罪供述得到印證型命案來(lái)說(shuō)，其案件特點(diǎn)在于既無(wú)現(xiàn)場(chǎng)目擊證人，也沒(méi)有在現(xiàn)場(chǎng)發(fā)現(xiàn)重要留痕，犯罪嫌疑人到案后的供述與其他證據(jù)能夠高度吻合，因此該類(lèi)型案件的證據(jù)應(yīng)當(dāng)能夠證明先供后證的相關(guān)事實(shí)，其證據(jù)標(biāo)準(zhǔn)指引主要包括犯罪嫌疑人供述、現(xiàn)場(chǎng)勘驗(yàn)檢查筆錄及照片、提取物品痕跡登記表等9項(xiàng)證據(jù)要點(diǎn)；但是對(duì)于現(xiàn)場(chǎng)目擊型命案而言，案件事實(shí)有更多的直接證據(jù)支持，因而證據(jù)標(biāo)準(zhǔn)指引僅以現(xiàn)場(chǎng)目擊證人證言、現(xiàn)場(chǎng)監(jiān)控錄像或被害人陳述等5項(xiàng)證據(jù)為要件證據(jù)。[5]128-129隨著證據(jù)標(biāo)準(zhǔn)指引陸續(xù)被嵌入智能系統(tǒng)，法官對(duì)案件證據(jù)鏈的審查會(huì)越來(lái)越多地參考系統(tǒng)給出的清單式指引。在這個(gè)過(guò)程中，證據(jù)標(biāo)準(zhǔn)的類(lèi)型化思維會(huì)進(jìn)駐到證據(jù)準(zhǔn)入的審查中，對(duì)于何種證據(jù)應(yīng)當(dāng)出現(xiàn)在案件中，是否滿(mǎn)足證明案件事實(shí)的最低要求，法官將根據(jù)案件所屬類(lèi)型進(jìn)行區(qū)分，而不再完全根據(jù)個(gè)案證據(jù)與個(gè)案事實(shí)進(jìn)行判斷。因此，隨著更多的證據(jù)模型應(yīng)用于司法裁判，證據(jù)審查會(huì)呈現(xiàn)出類(lèi)型化的趨勢(shì)。

(二)風(fēng)險(xiǎn)評(píng)估數(shù)據(jù)化

不同于根據(jù)法官專(zhuān)業(yè)性知識(shí)做出的定性判斷，信息時(shí)代的司法風(fēng)險(xiǎn)評(píng)價(jià)更加依賴(lài)于數(shù)據(jù)基礎(chǔ)上的定量分析。在刑事司法裁判中，再犯可能性和社會(huì)危害性是法官進(jìn)行自由裁量的一個(gè)要素，基于算法的風(fēng)險(xiǎn)評(píng)估正在量刑判決中占據(jù)更高的權(quán)重。目前，美國(guó)各地的法院和社區(qū)矯正部門(mén)已經(jīng)開(kāi)始使用算法來(lái)確定被告的“風(fēng)險(xiǎn)”，范圍從個(gè)人犯罪的可能性到被告出庭的可能性不等。皮尤公共安全績(jī)效項(xiàng)目(Pew Charitable Trusts’ Public Safety Performance Project)顯示，包括路易斯安那州、肯塔基州、夏威夷州和俄亥俄州在內(nèi)的15個(gè)州，要求社區(qū)矯正部門(mén)采用數(shù)據(jù)化風(fēng)險(xiǎn)評(píng)估的方法開(kāi)展工作；加利福尼亞州正在使用計(jì)算機(jī)化的個(gè)人評(píng)估來(lái)決定對(duì)假釋犯的監(jiān)管程度；2013年，西弗吉尼亞州開(kāi)始要求所有重罪犯接受風(fēng)險(xiǎn)評(píng)估，法官會(huì)在判決前收到報(bào)告，并可以選擇將分?jǐn)?shù)納入他們的判決。[6]我國(guó)司法部門(mén)也在通過(guò)大數(shù)據(jù)分析犯罪嫌疑人的社會(huì)危險(xiǎn)性程度。“206系統(tǒng)”將影響犯罪嫌疑人、被告人社會(huì)危險(xiǎn)性程度的因素細(xì)化為7個(gè)方面32項(xiàng)指標(biāo)，采用深度學(xué)習(xí)方式構(gòu)建社會(huì)危險(xiǎn)性評(píng)估模型，由此提升了評(píng)估的全面性、科學(xué)性和準(zhǔn)確性。[5]113這種量化方法能夠在更大程度上降低法官的主觀(guān)傾向性，排除政治等其他因素對(duì)司法裁判的干擾，在美國(guó)甚至“被認(rèn)為是解決美國(guó)因兩黨紛爭(zhēng)而陷入司法改革焦慮狀態(tài)的潛在解決方案”。但相應(yīng)地，這也會(huì)降低訴訟案件的個(gè)別化自由裁量，“盧米斯案”即是由法官部分地依據(jù)COMPAS風(fēng)險(xiǎn)評(píng)估工具進(jìn)行量刑判決所引發(fā)的爭(zhēng)議。(1)“盧米斯案”中，檢察官向法院指出，COMPAS顯示盧米斯“暴力風(fēng)險(xiǎn)高，再犯風(fēng)險(xiǎn)高，預(yù)審風(fēng)險(xiǎn)高”；法官告知盧米斯，“通過(guò)COMPAS評(píng)估，您被確定為對(duì)社區(qū)構(gòu)成高風(fēng)險(xiǎn)的人”，并部分地依據(jù)這一評(píng)估，判處盧米斯六年有期徒刑和五年的延期監(jiān)督。盧米斯認(rèn)為，法院使用COMPAS評(píng)估進(jìn)行判決，侵犯了其獲得“個(gè)殊化判決”的權(quán)利和基于準(zhǔn)確信息獲得判決的權(quán)利。COMPAS是由Nortpointe公司開(kāi)發(fā)設(shè)計(jì)的，該項(xiàng)目根據(jù)對(duì)犯罪者的訪(fǎng)談和來(lái)自司法部門(mén)的信息來(lái)評(píng)估再犯的風(fēng)險(xiǎn)，旨在幫助法官做出“更好”的或者至少是以數(shù)據(jù)為中心的司法決策。[7]從刑事領(lǐng)域風(fēng)險(xiǎn)評(píng)估的方式可以看出，在司法智能化的背景下，法官獲取案件信息的方式將更加依賴(lài)于系統(tǒng)所給出的精簡(jiǎn)報(bào)告和“客觀(guān)”數(shù)據(jù)，甚至通過(guò)數(shù)據(jù)分析獲知訴訟參與人是否有良好的征信記錄、是否有訴訟記錄，以及其社會(huì)層級(jí)和社會(huì)地位等，并在此基礎(chǔ)上“進(jìn)一步地分析出各方當(dāng)事人和解或撤訴的可能性，對(duì)爭(zhēng)議標(biāo)的的心理底線(xiàn)，上訴、申訴乃至上訪(fǎng)的概率”[8]。而在數(shù)據(jù)化的風(fēng)險(xiǎn)評(píng)估進(jìn)入審理裁判的過(guò)程中，司法決策的結(jié)果也將更加趨于數(shù)字意義上的標(biāo)準(zhǔn)化，算法的建議和監(jiān)督成為控制司法自由裁量的一個(gè)新趨勢(shì)。

(三)自由裁量標(biāo)準(zhǔn)化

司法所享有的自由裁量權(quán)是司法裁判權(quán)的一種表現(xiàn)方式，在不同語(yǔ)境下有著不同的含義，其可涉及司法的思維狀態(tài)、對(duì)多種可行法律解決方案的選擇、司法自由心證、終局裁量等多方面因素。[9]484-485但不管在何種語(yǔ)境中，其“自由”屬性都使它存在著濫用的條件和傾向。為了監(jiān)督和控制司法自由裁量權(quán)的行使，常常通過(guò)正當(dāng)程序原則、正義原理、法的精神等理性要求抵御司法自由裁量的潛在威脅。在信息時(shí)代，對(duì)司法自由裁量的控制轉(zhuǎn)向算法決策的監(jiān)督和參考。在全流程要素抽取、全節(jié)點(diǎn)聯(lián)動(dòng)監(jiān)督的前提下，資深法官的裁判經(jīng)驗(yàn)、法律法規(guī)、司法文書(shū)中的原始數(shù)據(jù)等信息轉(zhuǎn)化為預(yù)測(cè)模型，為法官最終的裁量結(jié)果提供參考。這一方面減少了裁判結(jié)果的偏差或失衡，另一方面使得司法自由裁量呈現(xiàn)出數(shù)字意義上的標(biāo)準(zhǔn)化趨向。

不同于以往自由裁量的控制中關(guān)于正當(dāng)性目的、正當(dāng)程序、正當(dāng)性要素等宏觀(guān)的理性考量要求，算法基于信息抽取和數(shù)據(jù)分析的個(gè)案裁量建議更為具體和可操作化。智能系統(tǒng)首先通過(guò)分析海量類(lèi)型案卷進(jìn)行信息抽取，歸納和提煉影響司法裁判的要素，之后進(jìn)行科學(xué)化、體系化的數(shù)學(xué)建模，為法官提供針對(duì)特定案件的裁判參考。以“206系統(tǒng)”為例，其采用增強(qiáng)學(xué)習(xí)與遷移學(xué)習(xí)算法，以全國(guó)30萬(wàn)件盜竊罪案件為學(xué)習(xí)樣本，從“法定刑、基準(zhǔn)刑、宣告刑”三個(gè)維度對(duì)刑事文書(shū)進(jìn)行數(shù)據(jù)標(biāo)注，抽取犯罪行為、犯罪主觀(guān)方面、犯罪人基本情況、罪前罪后表現(xiàn)等影響量刑結(jié)果的要素，同時(shí)結(jié)合法官的經(jīng)驗(yàn)常識(shí)，輸入影響案件量刑結(jié)果的通用和個(gè)案情節(jié)，構(gòu)建智能量刑模型。[5]168在實(shí)踐中，“206系統(tǒng)”可在案件信息讀取的基礎(chǔ)上對(duì)個(gè)案提供特定化的量刑參考。如果說(shuō)思維理性的原則只能為司法自由裁量指明一個(gè)方向，那么智能化的裁量參考就為法官劃定了一個(gè)相對(duì)確定的區(qū)域，在案件審理過(guò)程全部數(shù)據(jù)化監(jiān)控的情況下，司法管理必然會(huì)對(duì)超出這個(gè)“區(qū)域”的裁判嚴(yán)格審查。比如，系統(tǒng)發(fā)現(xiàn)法官的判決結(jié)果與本院以及上級(jí)法院85%的類(lèi)似情況下的判決是不一樣的，就會(huì)自動(dòng)提示，若法官堅(jiān)持該判決，那么系統(tǒng)將自動(dòng)把判決推送給庭長(zhǎng)以供討論。[10]可見(jiàn)，在司法智能化的背景下，司法裁量不僅受到法律法規(guī)、公平正義觀(guān)念等傳統(tǒng)因素的引導(dǎo)，而且在審理過(guò)程中會(huì)受到算法決策的影響。在“準(zhǔn)判決書(shū)”與智能化預(yù)測(cè)結(jié)果的比對(duì)中，法官會(huì)更加容易地傾向于貼近系統(tǒng)的“標(biāo)準(zhǔn)答案”，特別是在偏離度預(yù)警的情況下，法官將及時(shí)調(diào)整司法決策中的“不當(dāng)”觀(guān)點(diǎn)，司法裁量的結(jié)果也將更加趨同。

三、司法決策算法化的法理反思

從證據(jù)審查、風(fēng)險(xiǎn)評(píng)估到裁量結(jié)果，信息時(shí)代的大數(shù)據(jù)與人工智能技術(shù)深度參與到司法裁判的決策過(guò)程中。這不同于以往的法院信息化建設(shè)，因?yàn)榧夹g(shù)應(yīng)用不再僅僅局限于“無(wú)紙化”的辦公形式，而是通過(guò)嵌入證據(jù)校驗(yàn)、風(fēng)險(xiǎn)預(yù)警、量刑預(yù)測(cè)等功能模塊，進(jìn)而對(duì)司法裁判的結(jié)果產(chǎn)生重大影響。司法在與技術(shù)的結(jié)合中進(jìn)一步提高了效能，表現(xiàn)為司法效率的提高和司法裁量的統(tǒng)一，但同時(shí)也呈現(xiàn)出很大的因由算法而來(lái)的局限性。

(一)代碼規(guī)則難以保障論辯參與

智能化的證據(jù)審查依賴(lài)于證據(jù)標(biāo)準(zhǔn)和證據(jù)規(guī)則的代碼表達(dá)，而計(jì)算機(jī)代碼的自動(dòng)化規(guī)制可能難以保障當(dāng)事人的論辯參與?，F(xiàn)代司法中，通過(guò)證據(jù)對(duì)案件事實(shí)的查明與認(rèn)定，是先建立在對(duì)證據(jù)材料感性認(rèn)識(shí)的基礎(chǔ)之上，然后通過(guò)理性認(rèn)識(shí)形成內(nèi)心確信的一個(gè)心理過(guò)程。[9]422在智能輔助審判的情況下，證據(jù)審查的基礎(chǔ)工作將會(huì)由智能系統(tǒng)承擔(dān)，通過(guò)證據(jù)模型內(nèi)嵌的證據(jù)標(biāo)準(zhǔn)指引、單一證據(jù)校驗(yàn)、關(guān)聯(lián)證據(jù)之間的印證性分析、全案證據(jù)鏈審查等功能，證據(jù)認(rèn)定將在智能系統(tǒng)對(duì)證據(jù)材料的即時(shí)性識(shí)別和判斷中完成雛形。盡管這一過(guò)程減輕了法官對(duì)于證據(jù)認(rèn)定和證據(jù)審查的工作量，但是由于受到系統(tǒng)給定結(jié)果的影響，政策制定者和法官逐漸依賴(lài)代碼化的證據(jù)標(biāo)準(zhǔn)和證據(jù)規(guī)則來(lái)進(jìn)行法條檢索和分析比較，以便他們進(jìn)行充分論證后直接得出更優(yōu)決策。截至2019年6月底，“206系統(tǒng)”提供證據(jù)指引306 159次，提示證據(jù)瑕疵點(diǎn)7641次。在民事、行政領(lǐng)域司法審判中，證據(jù)規(guī)則指引也被陸續(xù)開(kāi)發(fā)出來(lái)，并在讀取案件事實(shí)的基礎(chǔ)上進(jìn)行證據(jù)合規(guī)性預(yù)判斷。[5]238,242,243盡管目前人工智能還不能完全覆蓋證據(jù)規(guī)則，部分需要人工復(fù)核(如手寫(xiě)體)，但隨著數(shù)據(jù)喂養(yǎng)的持續(xù)和機(jī)器學(xué)習(xí)能力的提升，智能證據(jù)校驗(yàn)將更加全面和精確，并在電子證據(jù)的審查中展現(xiàn)出突出的優(yōu)勢(shì)。系統(tǒng)會(huì)進(jìn)行自動(dòng)信息識(shí)別和要素整合，并基于案件要素庫(kù)進(jìn)行預(yù)判和思考，法官只需“對(duì)照檢查”便可確定證據(jù)能否采信，或要求補(bǔ)正、予以排除。此時(shí)，當(dāng)事人之間的對(duì)話(huà)關(guān)系，以及基于對(duì)話(huà)結(jié)構(gòu)展開(kāi)的論證活動(dòng)都會(huì)受到削弱，進(jìn)而影響當(dāng)事人論辯權(quán)的實(shí)現(xiàn)。

(二)算法黑箱難以解釋裁判合理性

司法決策算法化的另一個(gè)問(wèn)題就是算法的隱蔽性和司法公開(kāi)、透明性的沖突。算法運(yùn)行本質(zhì)是數(shù)據(jù)輸入、輸出的過(guò)程，但在輸入輸出之間存在無(wú)法解釋的“黑洞”。一方面，不透明性源于統(tǒng)計(jì)模型或源代碼的專(zhuān)有性特征，而這種特征受到商業(yè)秘密相關(guān)法律保護(hù)；另一方面，如果使用了機(jī)器學(xué)習(xí)和深度學(xué)習(xí)技術(shù)，則會(huì)面對(duì)更為棘手的“技術(shù)黑箱”問(wèn)題。[11]自動(dòng)化決策往往不是單一的某個(gè)算法可以完成的，多種算法的疊加及多個(gè)隱含層的存在加劇了算法的不可解釋性風(fēng)險(xiǎn)。特別是基于神經(jīng)深層網(wǎng)絡(luò)的深度學(xué)習(xí)，在輸入層與輸出層之間存在著復(fù)雜的線(xiàn)性變換和大規(guī)模的神經(jīng)元連接，很難準(zhǔn)確解釋其內(nèi)部規(guī)則。[12]算法黑箱導(dǎo)致人工智能決策不可解釋?zhuān)@顯然與現(xiàn)代司法公開(kāi)、透明的基本原則相悖，甚至使得相關(guān)判決陷入困境。前述“盧米斯案”中，盧米斯上訴的理由之一就是算法的保密特性。盡管盧米斯勝訴了，但是相關(guān)裁決也無(wú)法給人足夠的說(shuō)服力，因?yàn)椤芭袥Q書(shū)中只討論了被告是否可以質(zhì)疑其犯罪記錄和調(diào)查表答案的準(zhǔn)確性(‘?dāng)?shù)據(jù)輸入’)，而沒(méi)有關(guān)注他是否可以挑戰(zhàn)關(guān)鍵的‘處理和計(jì)算’階段”[11]。由于無(wú)法對(duì)決策過(guò)程做出充分而有效的解釋?zhuān)坏┩ㄟ^(guò)算法進(jìn)行最終決策，算法的不可解釋性將會(huì)使基于這一技術(shù)的裁判結(jié)果難以得到民眾充分的信賴(lài)、尊重和認(rèn)同。

(三)群組正義難以回應(yīng)權(quán)利優(yōu)先性

在18世紀(jì)，現(xiàn)代精神從以神為中心的世界觀(guān)走向以人為中心，“人是目的”成為現(xiàn)代社會(huì)的道德觀(guān)，權(quán)利優(yōu)先性成為法治的基本理念。智能系統(tǒng)在證據(jù)審查、類(lèi)案推送、裁量監(jiān)督等方面展示出強(qiáng)大的效率優(yōu)越性，這代表的并不是以權(quán)利優(yōu)先為核心的個(gè)人正義觀(guān)，而是一種以效率為核心的群組正義觀(guān)?！叭航M正義觀(guān)”是建立在統(tǒng)計(jì)奇偶性(statistical parity)基礎(chǔ)上的正義觀(guān)。(2)辛西婭·德沃克(Cynthia Dwork)等人認(rèn)為，統(tǒng)計(jì)奇偶性強(qiáng)調(diào)接受正負(fù)分類(lèi)的人的人口統(tǒng)計(jì)學(xué)與總體人口統(tǒng)計(jì)學(xué)具有相同的特征，因此，統(tǒng)計(jì)均等性被認(rèn)為等同于群體性的公平。[13]就司法算法決策而言，它不太考慮個(gè)案的差異性，尋求的是群組的同質(zhì)化處理，比如證據(jù)審查的類(lèi)型化處理、裁量結(jié)果的偏離度預(yù)警等。在法律大數(shù)據(jù)與人工智能技術(shù)的介入下，司法裁判的一致性和穩(wěn)定性將會(huì)增強(qiáng)。這似乎實(shí)現(xiàn)了波斯納的預(yù)想：“我期待著有一天，計(jì)算機(jī)可以從法官的意見(jiàn)和公開(kāi)聲明中建立法官檔案，并隨著法官發(fā)表更多意見(jiàn)而不斷更新。這些檔案將使律師和法官能夠更準(zhǔn)確地預(yù)測(cè)司法行為，并將有助于法官在他們希望的時(shí)候，與他們先前的決定保持一致?！盵14]然而，這也可能導(dǎo)致與權(quán)利優(yōu)先理念的沖突。當(dāng)政策制定者和法官為了績(jī)效正當(dāng)性，選擇“跟從”系統(tǒng)給出的“方案”時(shí)，個(gè)人權(quán)利就很容易被忽視了。群組正義觀(guān)往往從后果主義出發(fā)，為了獲得算法決策的便利，允許克減個(gè)人的一些權(quán)利。這無(wú)疑動(dòng)搖了傳統(tǒng)正義觀(guān)中權(quán)利優(yōu)先性這一核心理念。

四、司法決策算法化的應(yīng)對(duì)思考

為了防范、化解可能存在的風(fēng)險(xiǎn)和挑戰(zhàn)，以及順應(yīng)科技賦能司法的發(fā)展趨勢(shì)，應(yīng)當(dāng)探索司法領(lǐng)域的算法正義，通過(guò)技術(shù)正當(dāng)程序?qū)λ痉ㄋ惴Q策進(jìn)行過(guò)程規(guī)制，以促進(jìn)決策過(guò)程、決策程序、決策結(jié)果的公開(kāi)透明和可問(wèn)責(zé)。

(一)算法正義：從“技術(shù)賦能”到“技術(shù)賦權(quán)”

面對(duì)互聯(lián)網(wǎng)及人工智能技術(shù)所引起的生產(chǎn)革新與社會(huì)重組，世界范圍內(nèi)的司法部門(mén)都在尋求體制改革與正義實(shí)現(xiàn)之策。加拿大不列顛哥倫比亞省民事審裁處正在運(yùn)用ODR程序?yàn)樾☆~民事糾紛提供公共司法服務(wù)；美國(guó)一些州則開(kāi)始使用“風(fēng)險(xiǎn)評(píng)估工具”(COMPAS)來(lái)預(yù)測(cè)犯罪嫌疑人的再犯可能性，進(jìn)而參考評(píng)估結(jié)果確定刑期。[7]我國(guó)司法部門(mén)也在2015年提出了建設(shè)“智慧法院”的設(shè)想，并于2018年1月推出了“智慧法院導(dǎo)航系統(tǒng)”和“類(lèi)案智能推送系統(tǒng)”，希望探索具有中國(guó)特色、適應(yīng)時(shí)代要求的審判運(yùn)行新模式?！凹夹g(shù)賦能”成為人工智能時(shí)代司法改革的鮮明特征和目標(biāo)要求。算法的合法性地位隨著司法效率的提升、司法管理的加強(qiáng)以及司法服務(wù)的優(yōu)化而得到鞏固。效率與能力不僅成為檢驗(yàn)真理的標(biāo)準(zhǔn)，也成了倫理、正義與審美的標(biāo)準(zhǔn)。然而，技術(shù)賦能并沒(méi)有很好地處理人與機(jī)器的內(nèi)在關(guān)系，導(dǎo)致司法算法決策并未實(shí)現(xiàn)與司法保障人權(quán)理念的有機(jī)統(tǒng)一。在具體應(yīng)用實(shí)踐中，當(dāng)解決案多人少、提高效率成為司法人工智能追求的主要目標(biāo)時(shí)，無(wú)論是法官的主體地位，還是當(dāng)事人的權(quán)利保障，都將被遮蔽。

基于此，司法領(lǐng)域的算法正義應(yīng)當(dāng)以“保障人的權(quán)利”為依歸，將人工智能業(yè)界推崇的以人為本、增進(jìn)人類(lèi)福祉與司法追求的保障人權(quán)有機(jī)融合，化約為“技術(shù)賦權(quán)”。[15]在技術(shù)賦權(quán)理念下，司法人工智能的研發(fā)、應(yīng)用和評(píng)估應(yīng)當(dāng)以是否有助于保障、發(fā)展司法權(quán)利為判斷基準(zhǔn)，司法決策的算法化程度應(yīng)當(dāng)以是否有助于實(shí)現(xiàn)司法權(quán)利為價(jià)值原則。技術(shù)賦權(quán)理念可以為司法人工智能的研發(fā)、實(shí)施、評(píng)價(jià)提供“事前—事中—事后”的規(guī)制和指引。這既是對(duì)技術(shù)賦能被過(guò)度強(qiáng)調(diào)的糾偏，又是強(qiáng)化司法人工智能應(yīng)用中權(quán)利保障的必然選擇。因而，司法智能化背景下，應(yīng)當(dāng)立足于技術(shù)賦權(quán)理念，對(duì)司法人工智能進(jìn)行合理規(guī)制。

(二)推進(jìn)司法領(lǐng)域的算法公開(kāi)透明

在傳統(tǒng)司法理論中，司法公開(kāi)主要指公開(kāi)審判，包括立案公開(kāi)、庭審公開(kāi)、執(zhí)行公開(kāi)、聽(tīng)證公開(kāi)、文書(shū)公開(kāi)和審務(wù)公開(kāi)。在司法智能化背景下，司法公開(kāi)不僅包括程序公開(kāi)，更涵蓋司法數(shù)據(jù)的公開(kāi)以及算法的開(kāi)源。有學(xué)者認(rèn)為，用于司法決策的算法高度復(fù)雜，對(duì)于非計(jì)算機(jī)行業(yè)的人而言，理解起來(lái)異常困難，即便公開(kāi)也并無(wú)多大價(jià)值。然而，不透明的司法人工智能除了直接侵害當(dāng)事人的知情權(quán)外，還會(huì)產(chǎn)生難以審核算法、無(wú)法評(píng)估算法準(zhǔn)確性的問(wèn)題，進(jìn)而導(dǎo)致無(wú)法對(duì)司法人工智能的裁判結(jié)果有效行使抗辯權(quán)。當(dāng)下，我國(guó)各地都在探索司法人工智能的應(yīng)用，如北京市高級(jí)人民法院的“睿法官”、重慶法院的“金融案件智能專(zhuān)審平臺(tái)”。如果不及時(shí)解決數(shù)據(jù)公開(kāi)和算法黑箱問(wèn)題，智能司法運(yùn)行中的程序公開(kāi)將面臨嚴(yán)峻挑戰(zhàn)。因而，傳統(tǒng)司法理論中的司法公開(kāi)需要增加新的維度，既需要通過(guò)完善司法大數(shù)據(jù)平臺(tái)建設(shè)進(jìn)一步推進(jìn)司法數(shù)據(jù)的公開(kāi)，更需要通過(guò)推動(dòng)司法人工智能研發(fā)機(jī)構(gòu)開(kāi)源算法，促進(jìn)算法的透明化。[15]隨著研究的深入，在司法領(lǐng)域進(jìn)行算法開(kāi)源正在被越來(lái)越多的人認(rèn)同，因?yàn)楦蟮耐该鞫瓤梢詭椭獠垦芯咳藛T分析其運(yùn)作過(guò)程，以及需要權(quán)衡的各種因素。此外，在智能系統(tǒng)輔助的司法程序中，還應(yīng)當(dāng)充分尊重當(dāng)事人事前的知情權(quán)和自主選擇權(quán)，告知他們自動(dòng)化決策工具的優(yōu)勢(shì)和潛在風(fēng)險(xiǎn)，以及以這種技術(shù)方式進(jìn)行預(yù)測(cè)的局限，從而決定是否使用或退出自動(dòng)化決策。

(三)加強(qiáng)智能輔助系統(tǒng)的可解釋性

在依法治國(guó)和搶抓人工智能先發(fā)優(yōu)勢(shì)的背景之下，各地涌現(xiàn)出不同設(shè)計(jì)理念和應(yīng)用功能的司法人工智能，其系統(tǒng)參數(shù)的任何細(xì)微變化都可能產(chǎn)生巨大的效應(yīng)。人工智能設(shè)計(jì)具有意向性，當(dāng)人類(lèi)道德被“嵌入”產(chǎn)品時(shí)，系統(tǒng)就會(huì)通過(guò)技術(shù)設(shè)計(jì)影響人類(lèi)行為。[16]司法人工智能不同于一般的智能化活動(dòng)，它直接影響到被告人的實(shí)體性和程序性權(quán)利、義務(wù)和責(zé)任，其實(shí)際影響范圍和影響程度也許會(huì)超出技術(shù)和司法人員的想象與控制范圍。[7]為此，在以計(jì)算知識(shí)填補(bǔ)演繹邏輯的同時(shí)，還應(yīng)在司法人工智能的研發(fā)設(shè)計(jì)中加強(qiáng)智能系統(tǒng)的論證性和可解釋性，提高其可接受性，促進(jìn)其在法律推理過(guò)程及程序方面的完善和擴(kuò)展。法律語(yǔ)境下的論證活動(dòng)既是一個(gè)知識(shí)更新的過(guò)程，也是一個(gè)開(kāi)放的過(guò)程。訴訟各方參與刑事司法裁判過(guò)程，既能夠監(jiān)督裁判過(guò)程，也能夠?qū)ψ罱K的裁判結(jié)果發(fā)起救濟(jì)?；诖耍霸谒痉ú脹Q中，凡涉及自主研制系統(tǒng)，都應(yīng)提供一個(gè)有說(shuō)服力的解釋?zhuān)⒂梢粋€(gè)有能力勝任的人員進(jìn)行審計(jì)”這一原則已經(jīng)為越來(lái)越多的人認(rèn)可、接受。[15]59為了保證算法司法的合理運(yùn)用，應(yīng)當(dāng)要求司法人工智能研發(fā)主體承擔(dān)解釋責(zé)任。這不僅有助于推動(dòng)司法決策領(lǐng)域可解釋權(quán)的建立，而且能夠?qū)λ痉ㄈ斯ぶ悄艿难邪l(fā)、應(yīng)用主體加強(qiáng)約束，防范可能的設(shè)計(jì)或者應(yīng)用缺陷，進(jìn)而推動(dòng)司法決策中算法正義的實(shí)現(xiàn)。

四、結(jié) 語(yǔ)

司法人工智能已經(jīng)開(kāi)始承擔(dān)證據(jù)審查、風(fēng)險(xiǎn)評(píng)估、裁量參考等任務(wù)，輔助法官進(jìn)行司法決策，科技賦能司法的趨勢(shì)不可阻擋。但是應(yīng)當(dāng)看到，算法深度應(yīng)用于司法決策，也可能帶來(lái)論辯權(quán)利難以保障、裁判合理性難以解釋、權(quán)利優(yōu)先性難以回應(yīng)等深層問(wèn)題，引發(fā)數(shù)字司法的正當(dāng)性質(zhì)疑。為此，要在理念上探索司法領(lǐng)域的算法正義，以技術(shù)賦權(quán)理念推動(dòng)司法權(quán)利保障；在程序上對(duì)司法算法決策進(jìn)行過(guò)程規(guī)制，促進(jìn)司法領(lǐng)域的算法公開(kāi)透明；在技術(shù)上著力加強(qiáng)智能輔助系統(tǒng)的可解釋性，助力智慧司法健康平穩(wěn)運(yùn)行。