智慧法院體系建設(shè)場(chǎng)景下算法可解性機(jī)制的構(gòu)建

陶懷川，徐寅晨

（西南政法大學(xué) 人工智能法學(xué)院， 重慶 401120）

一、問(wèn)題的提出

習(xí)近平總書(shū)記指出，“要遵循司法規(guī)律，把深化司法體制改革和現(xiàn)代科技應(yīng)用結(jié)合起來(lái)，不斷完善和發(fā)展中國(guó)特色社會(huì)主義司法制度”［1］。最高人民法院“五五改革綱要”提出，要“建設(shè)現(xiàn)代化智慧法院應(yīng)用體系”［2］。上述指示與戰(zhàn)略安排為我國(guó)智慧法院應(yīng)用體系建設(shè)作出了頂層設(shè)計(jì)?？梢灶A(yù)見(jiàn)，未來(lái)一段時(shí)間內(nèi)以人工智能驅(qū)動(dòng)的“智慧司法”建設(shè)將成為審判體系和審判能力現(xiàn)代化的重要推手。智慧法院體系建設(shè)已成為司法領(lǐng)域的共識(shí)，代表性的成果有最高人民法院“類(lèi)案智審?fù)扑拖到y(tǒng)”、貴州法院“政法大數(shù)據(jù)系統(tǒng)”、上海法院“刑事案件智能輔助辦案系統(tǒng)”等。目前，智能輔助辦案系統(tǒng)只是人工智能技術(shù)應(yīng)用于司法領(lǐng)域的一種初步形態(tài)，要達(dá)至“破解改革難題，提升改革效能”的目的，尚需進(jìn)一步優(yōu)化技術(shù)、完善功能、拓寬應(yīng)用領(lǐng)域，直至真正達(dá)到能夠輔助法官裁判，為裁判提供實(shí)質(zhì)性的智能成果參考而非事務(wù)性的輔助。觀(guān)之域外，英格蘭和威爾士上訴法院大法官布里格斯在在線(xiàn)法院的倡議中提出了算法裁判概念，即人工智能可以代替法官直接作出裁判。［3］美國(guó)威斯康辛州終審判決的威斯康辛州訴盧米斯案（State v.Loomis）正是算法風(fēng)險(xiǎn)在刑事司法程序中的典型體現(xiàn)。盧米斯案引發(fā)了算法規(guī)制的廣泛討論，多數(shù)學(xué)者認(rèn)為該案判決低估了算法的準(zhǔn)確性、歧視性和透明性風(fēng)險(xiǎn)，高估了法官識(shí)別算法風(fēng)險(xiǎn)的能力。［4］樂(lè)觀(guān)的態(tài)度認(rèn)為，智能裁判的新階段已經(jīng)到來(lái)，這是經(jīng)過(guò)“神明裁判”到“法官裁判”的漫長(zhǎng)演進(jìn)之后，智能科技與司法實(shí)踐演進(jìn)的必然結(jié)果。［5］也有學(xué)者指出，“人工智能給司法帶來(lái)的最大影響將是由計(jì)算機(jī)代替法官來(lái)審判案件”［6］。智慧法院體系建設(shè)必須追問(wèn)的問(wèn)題是：建設(shè)到何種程度？能發(fā)揮哪些作用？以后是否有裁判案件的可能性？雖然在我國(guó)尚未有裁判案件的可能性，但域外司法人工智能發(fā)展及其產(chǎn)生的問(wèn)題，同樣是我國(guó)司法人工智能發(fā)展過(guò)程中需要深入思考的問(wèn)題，因而在直接關(guān)涉當(dāng)事人權(quán)利義務(wù)及獲得正當(dāng)程序保障的司法場(chǎng)景中，對(duì)算法決策給傳統(tǒng)司法領(lǐng)域帶來(lái)的沖擊和困境進(jìn)行解析，并兼顧司法人工智能發(fā)展現(xiàn)實(shí)需要提出科學(xué)合理的解決方案，實(shí)屬必要。

算法是智慧法院體系建設(shè)的核心要素，如果在未明了所采用的算法決策的基本原理、運(yùn)作機(jī)制、救濟(jì)手段、給予當(dāng)事人充分的程序保障的前提下將其適用于輔助司法決策，甚至實(shí)質(zhì)性介入司法裁判，“黑箱”效應(yīng)將對(duì)以傳統(tǒng)、審慎著稱(chēng)的司法領(lǐng)域帶來(lái)巨大沖擊，算法決策會(huì)影響傳統(tǒng)司法領(lǐng)域的多項(xiàng)評(píng)價(jià)標(biāo)準(zhǔn)，如司法公信力和司法權(quán)威、司法公正與司法結(jié)果的可接受性等。相較于其他算法法律規(guī)制手段，算法透明無(wú)法針對(duì)裁判領(lǐng)域個(gè)案當(dāng)事人的心理特質(zhì)進(jìn)行制度設(shè)計(jì)，抑制算法偏見(jiàn)更多采用通過(guò)外部控制和外部監(jiān)管途徑模式。更為妥當(dāng)?shù)姆椒ㄊ翘嵘悄懿门袌?chǎng)景下的算法透明度。當(dāng)事人不服算法決策結(jié)果時(shí)，通過(guò)“解釋”讓當(dāng)事人知曉算法決策作出的緣由，算法設(shè)計(jì)者、使用者以及利益相關(guān)人通過(guò)一套完整的解釋規(guī)則解決紛爭(zhēng)中的利益糾葛，直接提高當(dāng)事人對(duì)結(jié)果的可接受度。算法解釋能夠直面算法設(shè)計(jì)［7］，抑制算法偏見(jiàn)。智慧法院體系建設(shè)背景下，構(gòu)建算法決策可解釋性機(jī)制，旨在限縮和明確在司法裁判場(chǎng)景中算法決策的解釋標(biāo)準(zhǔn)、解釋限度，以提升算法解釋在法律領(lǐng)域的精確性、專(zhuān)業(yè)性。

二、現(xiàn)象觀(guān)察：算法決策對(duì)傳統(tǒng)司法的影響

（一）算法“黑箱”削弱司法權(quán)威

算法“黑箱”問(wèn)題是智能裁判輔助的障礙之一。算法最經(jīng)典的定義是，“通過(guò)所掌握的信息使算法使用者得到某一針對(duì)性問(wèn)題的答案，或者掌握輸出信息的一系列指令的策略”［8］。智能裁判輔助中，經(jīng)由算法決策得出判斷的過(guò)程卻被“黑箱”所遮蔽。此處所提及的“黑箱”是指，在數(shù)據(jù)輸入和結(jié)果輸出之間，存在我們無(wú)法洞悉的隱層。無(wú)論法官還是當(dāng)事人都難以知悉算法決策結(jié)果做出的潛在原因。

法院在紛爭(zhēng)處理中，實(shí)質(zhì)上也是通過(guò)所掌握的案件信息，經(jīng)過(guò)一系列實(shí)體法規(guī)范和程序法規(guī)范的指引，得出最終的裁判結(jié)果。法官在當(dāng)事人所提供的大量信息中進(jìn)行甄別、選取，最后經(jīng)由個(gè)人或者合議庭的判斷得到案件的真實(shí)圖景。在這個(gè)過(guò)程之中，與算法決策不同之處在于，紛爭(zhēng)當(dāng)事人可以通過(guò)法官辦理案件的一系列行為判斷法官是否公正盡職地履行了審判職責(zé)。法官是司法權(quán)的行使主體，法官判斷的強(qiáng)弱和準(zhǔn)確與否直接影響到案件審判質(zhì)量。［9］大眾對(duì)司法的信任與司法權(quán)威的形成，很大程度上端賴(lài)于法官在具體個(gè)案的處理結(jié)果上是否公正。經(jīng)由算法輸出的決策結(jié)果代替了法官裁斷過(guò)程，消解了法官與當(dāng)事人之間取得共識(shí)的機(jī)制。

（二）算法偏見(jiàn)阻礙司法公正

在司法領(lǐng)域，算法偏見(jiàn)可能會(huì)誤導(dǎo)案件事實(shí)認(rèn)定，阻礙法律正確適用，鞏固和強(qiáng)化司法不公的影響。［10］當(dāng)前，我國(guó)各類(lèi)型智能辦案輔助系統(tǒng)并未實(shí)現(xiàn)進(jìn)行算法決策，替代法官裁斷的功能，但人工智能技術(shù)深度介入司法領(lǐng)域，與司法過(guò)程的各個(gè)環(huán)節(jié)相結(jié)合卻是不爭(zhēng)的事實(shí)。由上海高院牽頭研發(fā)的刑事智能輔助辦案系統(tǒng)，功能包括：證據(jù)標(biāo)準(zhǔn)、證據(jù)規(guī)則、逮捕條件指引、單一證據(jù)校驗(yàn)、社會(huì)危險(xiǎn)性評(píng)估、非法言詞證據(jù)排除、證據(jù)鏈和全案證據(jù)審查判斷、庭審實(shí)質(zhì)化等功能?？梢园l(fā)現(xiàn)，隨著技術(shù)的發(fā)展，司法決策對(duì)技術(shù)的依賴(lài)也日趨加強(qiáng)。算法偏見(jiàn)對(duì)司法公正的影響也將更加明顯和廣泛。算法偏見(jiàn)形成的主要原因在于數(shù)據(jù)，算法的形成和完善需要以大量的數(shù)據(jù)作為基礎(chǔ)，算法決策的基本原理在于“以過(guò)去的數(shù)據(jù)預(yù)測(cè)未來(lái)的趨勢(shì)”，系統(tǒng)輸出的結(jié)果取決于輸入數(shù)據(jù)的質(zhì)量。數(shù)據(jù)對(duì)算法的影響主要包括兩種形式，一是數(shù)據(jù)驅(qū)動(dòng)偏差，這是指算法錯(cuò)誤地將思想與某些特征或定型的觀(guān)念聯(lián)系在一起，例如性別、種族、收入等。二是選擇偏差，這是指用于訓(xùn)練算法的數(shù)據(jù)過(guò)度代表某一組人群時(shí)，選擇偏差會(huì)使算法為更好地輸出有利于該組人群的結(jié)果而犧牲其他組代表的人群利益。除數(shù)據(jù)之外，算法開(kāi)發(fā)者、設(shè)計(jì)者的主觀(guān)好惡與價(jià)值追求都會(huì)或多或少地與算法融為一體，造成隱秘的偏差。

（三）算法決策消解法官主體性

法官在司法裁判中的主體性地位不可替代，由其行使由國(guó)家賦予的審判權(quán)。然而，當(dāng)算法決策結(jié)果應(yīng)用于案件審判之時(shí)，可能會(huì)造成人工智能可以代替法官直接作出裁判［11］的情況，技術(shù)在不知不覺(jué)中架空了法官對(duì)審判權(quán)的把控。算法決策消解法官主體性的表現(xiàn)可分述如下：第一，現(xiàn)實(shí)層面上，在案多人少以及審理期限的壓力下，法官對(duì)隱含在決策結(jié)果之后的決策依據(jù)、價(jià)值選擇難以進(jìn)行校驗(yàn)與反思，更傾向于采納算法決策結(jié)果，用算法決策代替司法技藝的發(fā)揮。［12］第二，自由心證在審判過(guò)程中無(wú)足輕重。研究表明，由于錨定效應(yīng)的存在，雖然是否采納算法決策結(jié)果最終需要法官進(jìn)行審核同意，但在案件裁決前，決策結(jié)果為法官提供的參考對(duì)其作出裁決影響巨大?？梢哉f(shuō)，算法決策結(jié)果主導(dǎo)著司法裁決結(jié)果，法官借由個(gè)人理性、良知與智慧的發(fā)揮形成內(nèi)心確信的主觀(guān)能動(dòng)性大大降低。第三，基于深度學(xué)習(xí)的人工智能應(yīng)用于刑事領(lǐng)域，有可能生成新的裁判規(guī)則，改變規(guī)則提供主體的性質(zhì)。［13］例如，美國(guó)憲法中，存在由法官通過(guò)演繹和歸納推定未列舉憲法權(quán)利的情況，在人工智能技術(shù)深度介入到司法領(lǐng)域后，經(jīng)由算法推定的未列舉權(quán)利，必定不同于通過(guò)法官憑借個(gè)人法學(xué)知識(shí)與經(jīng)驗(yàn)的推定。其所推定權(quán)利及其規(guī)則的性質(zhì)地位也難以界定，法官在適用此種推定權(quán)利之時(shí)必定也無(wú)所適從。

三、理論支撐：算法可解釋性機(jī)制構(gòu)建的可行性

（一）算法可解釋性機(jī)制構(gòu)建具有可能性

一般來(lái)說(shuō)，司法公開(kāi)是國(guó)家機(jī)關(guān)主導(dǎo)的自上而下地向公眾公開(kāi)的司法活動(dòng)，推進(jìn)司法公開(kāi)是人民法院的重要工作，是保障人民群眾知情權(quán)、參與權(quán)、監(jiān)督權(quán)和表達(dá)權(quán)的重要途徑和方式。算法可解釋性機(jī)制和算法解釋與司法公開(kāi)具有天然聯(lián)系，在各級(jí)人民法院以建設(shè)“智慧法院”“電子法院”為契機(jī)，大力推動(dòng)司法公開(kāi)與“互聯(lián)網(wǎng)+”的跨界融合之時(shí)，構(gòu)建算法可解釋性機(jī)制可以說(shuō)是以用戶(hù)需求或者當(dāng)事人需求為核心的互聯(lián)網(wǎng)思維推進(jìn)司法公開(kāi)工作。具體來(lái)說(shuō)，算法可解釋性機(jī)制與司法公開(kāi)具有價(jià)值目標(biāo)一致性的特點(diǎn)，二者致力于用最低的成本，展現(xiàn)復(fù)雜決策的過(guò)程，使司法審判的結(jié)果更具合理性，保障民眾的信息知情權(quán)，進(jìn)而對(duì)決策的質(zhì)效進(jìn)行控制［14］，使當(dāng)事人對(duì)司法審判的結(jié)果更具可接受性。司法公開(kāi)的核心要義是揭開(kāi)人民法院司法活動(dòng)的“神秘面紗”，把司法的過(guò)程和環(huán)節(jié)同其結(jié)果一起“曬”出來(lái)，讓民眾看得清楚和明白。［15］以此方式，公眾方可了解司法運(yùn)行的過(guò)程，知曉審判結(jié)果的由來(lái)，不僅有益于維護(hù)司法權(quán)威，亦對(duì)公眾起到教育、警示的作用。從技術(shù)融合應(yīng)用發(fā)展的角度看，隨著智慧法院體系建設(shè)的縱深發(fā)展，算法決策應(yīng)用場(chǎng)景的不斷增多，其受到當(dāng)事人質(zhì)疑與挑戰(zhàn)的可能性也將不斷加強(qiáng)，故此，穩(wěn)定的算法解釋機(jī)制將成為算法決策配套措施，也將成為司法公開(kāi)的重要組成部分。

（二）算法可解釋性機(jī)制構(gòu)建具有必要性

司法場(chǎng)景下，尤其是裁判場(chǎng)景下，相較于其他的算法法律規(guī)制手段，算法可解釋性機(jī)制更符合司法場(chǎng)景的實(shí)際需要。典型的算法規(guī)制的手段有算法透明化、抑制算法偏見(jiàn)兩種。以上兩種方法大多采用行政手段和外部監(jiān)管路徑發(fā)揮作用，始終無(wú)法解決當(dāng)事人對(duì)公平正義的心理預(yù)期和裁判可接受性問(wèn)題。然而，個(gè)案當(dāng)事人追求的是紛爭(zhēng)高效、公平的解決，對(duì)公平正義的追求是提起訴訟的重要?jiǎng)右颉Ｍㄟ^(guò)算法解釋與當(dāng)事人溝通交流能夠有效提高當(dāng)事人對(duì)算法決策的接受度。具體來(lái)說(shuō)，首先，算法解釋并未增加當(dāng)事人新的認(rèn)知負(fù)擔(dān)，其可歸為法官釋法說(shuō)理的一種類(lèi)型。其次，算法解釋符合司法規(guī)律，法官引導(dǎo)兩造當(dāng)事人依據(jù)證據(jù)，在規(guī)范與事實(shí)之間逡巡往返，逐步廓清事實(shí)真相，作出司法裁決。司法場(chǎng)景中對(duì)算法決策的解釋可以認(rèn)為是法官引導(dǎo)兩造當(dāng)事人解決糾紛的另一種版本。最后，構(gòu)建算法可解釋性機(jī)制的根本目的在于保證司法公開(kāi)和透明度，維護(hù)司法權(quán)威，保證社會(huì)大眾對(duì)算法決策的認(rèn)同。認(rèn)同路徑有兩種，一是基于制度的權(quán)威的認(rèn)同，二是基于信任的理解的認(rèn)同。算法可解釋性機(jī)制的目的就在于經(jīng)由解釋使當(dāng)事人理解使用算法的正當(dāng)性和算法決策結(jié)果的正當(dāng)性，最終達(dá)到當(dāng)事人對(duì)司法的認(rèn)同，并借此擴(kuò)充當(dāng)事人對(duì)司法的信任，提升司法權(quán)威，維護(hù)司法公信力。

域外有關(guān)算法可解釋性機(jī)制的觀(guān)點(diǎn)也可為我國(guó)智慧法院建設(shè)體系場(chǎng)景中算法可解釋性機(jī)制構(gòu)建提供鏡鑒。歐盟會(huì)議智庫(kù)2019年發(fā)布《算法決策：機(jī)遇與挑戰(zhàn)》報(bào)告，將“可解釋性”視為決策系統(tǒng)中的關(guān)鍵議題。在全球范圍內(nèi)影響深遠(yuǎn)的《伯克利對(duì)人工智能面臨挑戰(zhàn)的系統(tǒng)性觀(guān)點(diǎn)》，亦將“可解釋性”視為人工智能算法“適時(shí)、穩(wěn)健、安全”的核心要素。2018年，歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）以1995年歐盟數(shù)據(jù)指令為藍(lán)本，在“鑒于”部分第71條和正文第22條針對(duì)基于算法的“自動(dòng)化決策”賦予個(gè)人干預(yù)的權(quán)利，允許其表達(dá)的觀(guān)點(diǎn)，在評(píng)估后獲得該決策的解釋?zhuān)约皩?duì)決策提出質(zhì)疑。［16］以上論述表達(dá)了這樣一種觀(guān)點(diǎn)：如果算法不具有可解釋性，則其也不具備應(yīng)用的正當(dāng)性。在算法的場(chǎng)景化應(yīng)用中，應(yīng)當(dāng)建立算法可解釋性機(jī)制，以保障算法決策適用的正當(dāng)性。

四、制度更新：構(gòu)建算法可解釋性機(jī)制

（一）算法可解釋性機(jī)制構(gòu)建的原則

1.輔助性原則

“輔助性”是指，構(gòu)建算法可解釋性機(jī)制是為了進(jìn)行“算法問(wèn)責(zé)”與“算法規(guī)制”，但“算法問(wèn)責(zé)”與“算法規(guī)制”并不必然以解釋算法為必要，而以實(shí)用主義為導(dǎo)向、以算法問(wèn)責(zé)為代表的事后規(guī)制也許是更加得當(dāng)?shù)囊?guī)制策略。［17］算法過(guò)程或關(guān)鍵數(shù)據(jù)的解釋?zhuān)谝欢ǔ潭壬掀鸬搅素?zé)任歸屬更明確、擔(dān)責(zé)幅度更清晰的作用，其應(yīng)與其他規(guī)制方式共同施加影響，且司法場(chǎng)景中人工智能技術(shù)的深度運(yùn)用應(yīng)定位于發(fā)揮“輔助性”之地位，最終完成智慧法院體系建設(shè)的目的，提高司法效能，提升審判質(zhì)效。但歸根結(jié)底，服務(wù)于司法場(chǎng)景的智能提升都要以法院需求和人民群眾需求與接受度為界，算法決策的應(yīng)用以及算法的解釋更不應(yīng)該“反客為主”，故謂之“輔助性”。

2.相對(duì)性原則

可解釋性機(jī)制框架下的算法解釋保持“相對(duì)透明”即可。這是技術(shù)發(fā)展現(xiàn)狀與司法現(xiàn)實(shí)需要決定的。囿于技術(shù)壁壘，法官及當(dāng)事人均不一定能理解算法原理和計(jì)算過(guò)程，一味地公開(kāi)算法，使之達(dá)到絕對(duì)透明的程度，不僅無(wú)益于算法對(duì)象（當(dāng)事人）的權(quán)利保護(hù)，亦增加訟累。試圖解釋算法內(nèi)部運(yùn)行的每一處細(xì)節(jié)機(jī)制和作用成因的做法在司法領(lǐng)域并不適用。原因在于：其一，隨著算法領(lǐng)域的核心技術(shù)日益更新、不斷加深，即使是算法的設(shè)計(jì)者也很難說(shuō)清數(shù)據(jù)輸入與結(jié)果輸出這一中間過(guò)程具體是如何作用以及發(fā)生的；其二，即使從技術(shù)層面作出了解釋?zhuān)绦蛞饬x大于實(shí)質(zhì)意義，解釋細(xì)節(jié)對(duì)法官與當(dāng)事人來(lái)說(shuō)仍然是難以理解的；其三，技術(shù)解釋時(shí)間上遷延日久，技術(shù)上成本較高，與使用算法追求效率的初衷不符。在“司法公開(kāi)”視野下，尚有因涉及商業(yè)秘密、個(gè)人隱私、未成年保護(hù)等內(nèi)容而不予公開(kāi)，作為公開(kāi)程度弱于司法公開(kāi)的算法解釋?zhuān)阌棺龅皆敱M的解釋、苛求徹底的公開(kāi)。

3.層次性原則

“層次性”是指，算法解釋的內(nèi)容涉及數(shù)據(jù)的提取、數(shù)據(jù)的運(yùn)算、各數(shù)據(jù)對(duì)結(jié)果的輸出影響所占的比重等；算法的解釋對(duì)象也分為向當(dāng)事人解釋?zhuān)ㄖ饕⑾蚍ü俳忉?、向社?huì)公眾解釋等。而“層次性”即要求算法在進(jìn)行解釋時(shí)，應(yīng)當(dāng)根據(jù)不同主體，層次分明地進(jìn)行解釋?zhuān)皇且浴笆裁炊颊f(shuō)，大鍋燉”的方式進(jìn)行解釋。具言之，需注意如下方面：一是真實(shí)、全面地闡明被質(zhì)疑案件的初始數(shù)據(jù)，包括事實(shí)要素和法律要素、對(duì)應(yīng)之法律規(guī)范、相應(yīng)的法律特征等。二是準(zhǔn)確解釋主要數(shù)據(jù)要素對(duì)算法結(jié)果所產(chǎn)生的影響何在，各要素所占權(quán)重比例以及關(guān)聯(lián)度和相互關(guān)系。三是落實(shí)解釋的專(zhuān)業(yè)性。各級(jí)人民法院進(jìn)行細(xì)化解釋時(shí)，在專(zhuān)業(yè)性方面，可以定期組織專(zhuān)家進(jìn)行專(zhuān)業(yè)解答，或在系統(tǒng)設(shè)計(jì)之初，留有備案進(jìn)行說(shuō)明，仍解決不了的疑難問(wèn)題，由定期舉行的專(zhuān)家論壇處理解決。

（二）算法解釋的法律屬性

算法解釋的法律屬性影響到算法決策和解釋本身的權(quán)威性。應(yīng)明晰，司法場(chǎng)景中涉及算法解釋的情境多為個(gè)案當(dāng)事人所要求，個(gè)案主體對(duì)算法決策有著不同的接受度，意味著算法解釋程度對(duì)個(gè)案當(dāng)事人來(lái)說(shuō)，有的需要細(xì)致解釋?zhuān)械膭t略微提示即可。由是，在無(wú)涉?zhèn)€案糾紛，僅就算法決策做出一般說(shuō)明之時(shí)，此種解釋是算法運(yùn)行邏輯的技術(shù)說(shuō)明，是為說(shuō)服當(dāng)事人接受算法決策的一種沉默的溝通手段，具有技術(shù)權(quán)威性質(zhì)。在涉及個(gè)案糾紛，當(dāng)事人質(zhì)疑算法決策的正當(dāng)性與可操作性之時(shí)，此時(shí)法官為此對(duì)算法決策所做的解釋?zhuān)瑧?yīng)歸于為解決個(gè)案的裁判理由。法官應(yīng)在判決或裁定中針對(duì)當(dāng)事人之質(zhì)疑詳細(xì)說(shuō)明運(yùn)用算法決策的理由，其中包括對(duì)算法決策解釋。另外，我們認(rèn)為，對(duì)司法領(lǐng)域算法可解釋性機(jī)制的構(gòu)建，應(yīng)由最高人民法院來(lái)進(jìn)行部署。

（三）算法可解釋機(jī)制構(gòu)建的路徑

1.程序保障

當(dāng)事人對(duì)算法決策的知情權(quán)與是否采取算法決策的選擇權(quán)最為重要。一要充分保障當(dāng)事人的知情權(quán)，在適用算法決策之前，需告知當(dāng)事人決策系統(tǒng)的邏輯、意義、設(shè)想后果和一般功能。二是考慮賦予當(dāng)事人程序選擇權(quán)，若當(dāng)事人認(rèn)為采用算法自動(dòng)化決策會(huì)嚴(yán)重影響個(gè)人關(guān)切的環(huán)境、行為和選擇或?qū)е聜€(gè)人遭受排斥或歧視，則其可以拒絕采用算法決策。三是保障當(dāng)事人的程序參與。由于算法決策過(guò)程屬于“黑箱”，與傳統(tǒng)司法程序相比，當(dāng)事人的程序感受大大降低。為彌補(bǔ)這種程序缺失的遺憾，在當(dāng)事人選擇采用算法決策之后，應(yīng)保障當(dāng)事人程序參與感，提高當(dāng)事人對(duì)算法決策的信任度。具體而言，在當(dāng)事人填入涉及個(gè)人的具體信息時(shí)，系統(tǒng)應(yīng)予以充分提示，說(shuō)明收集此項(xiàng)參數(shù)的原因。法官在案件進(jìn)行中，應(yīng)隨時(shí)準(zhǔn)備與當(dāng)事人就算法決策系統(tǒng)的使用進(jìn)行充分的溝通，以消解其疑慮。四是最終是否適用算法決策的權(quán)利必須交由法官來(lái)判斷。

2.適用條件

適用條件主要解決解釋的啟動(dòng)機(jī)制問(wèn)題。本文認(rèn)為，司法場(chǎng)域中算法決策的運(yùn)用，受到直接影響的主體不外乎法官與當(dāng)事人。法官可能因?yàn)殄e(cuò)誤采納算法決策而被追究責(zé)任，當(dāng)事人可能因?yàn)樗惴Q策結(jié)果遭致利益損害。故此，算法可解釋性機(jī)制的啟動(dòng)首先應(yīng)該考慮法官與當(dāng)事人的行為與意愿。比如法官在案件裁決中如果認(rèn)為算法決策結(jié)果對(duì)當(dāng)事人權(quán)益有重大影響，或當(dāng)事人認(rèn)為采用算法決策會(huì)損害個(gè)人權(quán)益，即可以啟動(dòng)算法解釋機(jī)制。在充分保障當(dāng)事人程序權(quán)利的基礎(chǔ)上，對(duì)是否采用算法決策以合乎程序標(biāo)準(zhǔn)和實(shí)質(zhì)標(biāo)準(zhǔn)的方式提供。［18］當(dāng)事人應(yīng)擁有選擇權(quán)，在糾紛解決過(guò)程中，事前賦予當(dāng)事人自主選擇是否適用算法決策的權(quán)利，算法決策結(jié)果做出后，賦予當(dāng)事人尋求救濟(jì)即要求算法解釋的權(quán)利。

3.適用限制

智能裁判輔助系統(tǒng)算法決策解釋機(jī)制關(guān)涉當(dāng)事人權(quán)益保障和司法權(quán)威維護(hù)，旨在回復(fù)原有的平衡狀態(tài)，既要保障當(dāng)事人程序權(quán)利，也要考慮到解釋對(duì)司法權(quán)威維護(hù)的增強(qiáng)和削弱的雙重作用。頻繁啟動(dòng)，勢(shì)必造成司法權(quán)威的削弱。因而，解釋的啟動(dòng)應(yīng)具有一定的限度，不至于出現(xiàn)利益傾倒，越描越黑的現(xiàn)象。前已述及，算法解釋不要求完全的可解釋性，而是有限度的可解釋性，重在保障當(dāng)事人的知情權(quán)，知曉其受到算法決策及其可能帶來(lái)的影響，當(dāng)存在錯(cuò)誤時(shí)可以要求修正或拒絕算法決策。基于上述目的，算法解釋請(qǐng)求權(quán)要求算法使用者解釋的標(biāo)準(zhǔn)應(yīng)限定在相關(guān)性、可理解性和可救濟(jì)性范圍內(nèi)?？梢愿鶕?jù)現(xiàn)行法律規(guī)定和一般生活常識(shí)進(jìn)行判斷篩選當(dāng)事人的要求是否合理。對(duì)于明顯不合理的解釋請(qǐng)求，法官可以拒絕當(dāng)事人要求解釋算法的請(qǐng)求。

五、結(jié)語(yǔ)

盡管對(duì)算法的廣泛而深入的應(yīng)用還存在質(zhì)疑，但毋庸置疑，算法在當(dāng)下和未來(lái)的治理體系中正在發(fā)揮越來(lái)越重要的作用。算法司法決策可解釋性機(jī)制構(gòu)建的理論框架及實(shí)踐演繹乃全新的命題，具備獨(dú)特的生命力，我們由衷希望研究成果助推算法法律規(guī)制和算法深度應(yīng)用科學(xué)、規(guī)范開(kāi)展。同時(shí)，算法司法決策可解釋性機(jī)制的構(gòu)建是本文研究的出發(fā)點(diǎn)，我們將繼續(xù)跟蹤算法司法決策可解釋性機(jī)制構(gòu)建的理論和實(shí)踐發(fā)展，為破解改革難題、提升改革效能，促進(jìn)審判體系和審判能力現(xiàn)代化提供更大助力。