智慧司法輔助審判系統(tǒng)中算法歧視的成因與對(duì)策

彭家闊

（湘潭大學(xué)法學(xué)院，湖南湘潭 411105）

隨著智能化、信息化建設(shè)不斷發(fā)展并滲透到生活的各個(gè)層面，人工智能技術(shù)也不斷刷新行業(yè)業(yè)態(tài)，以不可思議的速度蓬勃發(fā)展并被廣泛應(yīng)用，不僅開始重塑各行各業(yè)，而且對(duì)具體應(yīng)用場(chǎng)景也進(jìn)行技術(shù)賦能，形成“一加一大于二”的協(xié)同效應(yīng)。自黨的十八大提出全面依法治國以來，這一效應(yīng)在司法領(lǐng)域尤為凸顯，形成了多種“人工智能+司法”的協(xié)同模式，助力全面依法治國戰(zhàn)略的實(shí)施。2010 年，習(xí)近平總書記在中央政法工作會(huì)議上提出“推動(dòng)大數(shù)據(jù)、人工智能等科技創(chuàng)新成果同司法工作深度融合”［1］。最高人民法院、最高人民檢察院自2016 年以來也相繼出臺(tái)了一系列關(guān)于“智慧法院”和“智慧檢務(wù)”的建設(shè)規(guī)劃文件。在此背景下，杭州率先推出了法律人工智能機(jī)器人“法小淘”。隨后，北京、上海相繼推出了“睿法官”智能研判系統(tǒng)、“206”刑事案件智能輔助辦案系統(tǒng)，河南省人民檢察院上線使用“小包公”智能量刑輔助系統(tǒng)。2022 年，全國多地都構(gòu)建了地方化的智慧司法輔助裁判系統(tǒng)，這些系統(tǒng)的應(yīng)用提升了司法裁判活動(dòng)的效率，在一定程度上解決了當(dāng)前“案多人少”的司法裁判困境，形成了人工智能賦能司法活動(dòng)的基本格局。

人工智能技術(shù)與司法裁判活動(dòng)相結(jié)合為新時(shí)代我國司法體制改革注入了新動(dòng)力。我國的智慧司法輔助審判實(shí)踐已處于世界領(lǐng)先地位，但在司法領(lǐng)域全面推進(jìn)“智慧司法”建設(shè)的大背景下，基于“先發(fā)展后治理”的發(fā)展模式顯然已不合時(shí)宜，由美國的“威斯康星州訴盧米斯案”引出的算法規(guī)制難題亟待解決。當(dāng)前我國對(duì)于司法領(lǐng)域算法規(guī)制的法律制度供給略顯不足，較難適應(yīng)智慧司法的發(fā)展需要，左衛(wèi)民教授指出，人工智能與法律相結(jié)合的研究，在話語與實(shí)踐、國內(nèi)與國外之間存在著較為明顯的“冷熱差異”［2］。實(shí)踐中缺乏合理的審查、制衡機(jī)制，且對(duì)于人工智能技術(shù)的應(yīng)用多為機(jī)械式的平移適用，導(dǎo)致技術(shù)人員在進(jìn)行智慧司法系統(tǒng)編碼設(shè)計(jì)時(shí)簡(jiǎn)單地適用法律程序，加之主觀偏見和法學(xué)素養(yǎng)不足，致使算法歧視問題加劇，影響裁判結(jié)果公正。

一、智慧司法輔助審判系統(tǒng)的司法邏輯

想要探究智慧司法輔助審判系統(tǒng)中的算法歧視成因，首先要明確智慧司法輔助審判系統(tǒng)內(nèi)在的司法邏輯架構(gòu)，了解輔助審判系統(tǒng)的緣起，才能探求出相對(duì)合理的治理范式。

（一）輔助審判系統(tǒng)的形成邏輯

在傳統(tǒng)司法審判中，司法裁判都是由司法機(jī)關(guān)依法獨(dú)立行使審判權(quán)，不受任何機(jī)關(guān)、個(gè)人、社會(huì)團(tuán)體的干涉，從名稱看當(dāng)前的智慧司法輔助審判系統(tǒng)被界定為輔助工具已無異議。智慧司法輔助審判系統(tǒng)自出現(xiàn)就備受關(guān)注，打破了人們對(duì)于人工智能司法的認(rèn)識(shí)，就像當(dāng)初“阿爾法狗”戰(zhàn)勝世界圍棋冠軍那樣令人不可思議。通過大量數(shù)據(jù)訓(xùn)練進(jìn)行學(xué)習(xí)的智慧司法輔助審判系統(tǒng)對(duì)于案件的裁判準(zhǔn)確率甚至已經(jīng)超過了法官等專業(yè)人士，數(shù)次司法裁判比賽的結(jié)果顯示，人工智能裁判的準(zhǔn)確性已經(jīng)超過人類裁判。在使用歐洲人權(quán)法院的裁判文書進(jìn)行實(shí)驗(yàn)時(shí)發(fā)現(xiàn)，利用人工智能算法對(duì)涉及基本人權(quán)的584 個(gè)司法審結(jié)案件進(jìn)行模擬裁判，有79%的案件裁判結(jié)果與法院裁判結(jié)果一致，剩余21%的案件由于人工智能檢測(cè)到法律事實(shí)與案件出現(xiàn)差異而與法院裁判相異。在另外一次測(cè)試中，來自英國的研究者組織人工智能與100名資深律師進(jìn)行保險(xiǎn)合同案件檢查，最終結(jié)果是人工智能以86.6%的準(zhǔn)確率遙遙領(lǐng)先于專業(yè)律師們的66.3%［3］?？梢哉f，在簡(jiǎn)單裁判領(lǐng)域，智慧司法輔助審判系統(tǒng)已經(jīng)能夠勝任“法官”這個(gè)角色。在實(shí)際司法裁判過程中，法官在審判經(jīng)驗(yàn)指導(dǎo)下對(duì)簡(jiǎn)單案件可以快速準(zhǔn)確裁判。而問題在于，簡(jiǎn)單的案件總是占據(jù)法官們大量時(shí)間，從而在員額制改革背景下加劇了審判效率不高的現(xiàn)狀。據(jù)最高人民法院工作報(bào)告顯示，2013年至2018年，各地人民法院每年審結(jié)的一審案件呈逐年上升的趨勢(shì)，與此同時(shí)，“案多人少”的司法難題進(jìn)一步加劇。輔助審判系統(tǒng)成為法官完成簡(jiǎn)單司法審判任務(wù)的助手，幫助法官從繁雜的司法任務(wù)中解放出來，更加高效地完成疑難案件的庭審任務(wù)，從而實(shí)現(xiàn)以審判為中心的司法責(zé)任制改革目的?？梢哉f，當(dāng)前智慧司法輔助審判系統(tǒng)的產(chǎn)生不僅是人工智能技術(shù)發(fā)展的必然結(jié)果，更是我國司法審判制度改革的現(xiàn)實(shí)需要。這對(duì)人工智能輔助審判算法提出了更高層次的要求，避免算法歧視也成為保障算法輔助審判公正最重要的一環(huán)。

（二）輔助審判系統(tǒng)的審判邏輯

智慧司法輔助審判系統(tǒng)的審判邏輯和傳統(tǒng)的三段論邏輯不同，人工智能輔助審判以過往司法案例大數(shù)據(jù)為重要依托，將已經(jīng)裁判生效的案件通過模塊化拆解、分析，通過將“案件事實(shí)”“罪名”“刑事責(zé)任”“年齡”等要素模塊化，并通過不同模塊影響定罪量刑的程度來進(jìn)行專家賦值，而后通過機(jī)器深度學(xué)習(xí)、卷積神經(jīng)網(wǎng)絡(luò)的便利，得出最優(yōu)的裁判結(jié)果和關(guān)聯(lián)類案推送給法官參考。和傳統(tǒng)審判以法律條文為邏輯起點(diǎn)不同，人工智能審判的邏輯起點(diǎn)是歷史司法審判數(shù)據(jù)。因此，相較于判例法國家，成文法國家司法審判系統(tǒng)中算法歧視的存在更是對(duì)現(xiàn)有法律文本的巨大挑戰(zhàn)，經(jīng)過算法訓(xùn)練的人工智能輔助審判邏輯，極大可能會(huì)突破法律條文的邊界。相較于傳統(tǒng)的司法裁判邏輯，智慧司法輔助審判下的算法裁判更具有經(jīng)驗(yàn)主義色彩。然而，法律文本成分的弱化并不當(dāng)然意味著以司法數(shù)據(jù)為依托的智慧司法輔助審判缺乏法律正當(dāng)性。實(shí)踐中法官在衡量具體案件和法律條文的映射關(guān)系時(shí)，法律文本給予法官的指引非常有限。例如在面對(duì)一些自然犯時(shí)，法官并不能直接通過法律文本指引判斷被告人的主觀心理要件，其往往需要借助案件中的證據(jù)、犯罪行為、后果等客觀要件來推斷被告人的主觀意圖［4］。在實(shí)際審判過程中，司法審判的核心是如何將案件的主觀要件與客觀要件建立現(xiàn)實(shí)聯(lián)系，而非裁判結(jié)果與法律條文的強(qiáng)映射性。因此，法官必須借助以往的審判經(jīng)驗(yàn)結(jié)合法官職業(yè)素養(yǎng)對(duì)案件作出裁斷，而以往的裁判經(jīng)驗(yàn)單靠法官人力搜索難以完備，這成為阻礙司法審判效率提升的一大障礙，幸而在人工智能、大數(shù)據(jù)技術(shù)的助力下，智慧司法輔助審判系統(tǒng)應(yīng)運(yùn)而生，成為法官裁判的助手。當(dāng)然，算法輔助決斷的弊端也難以掩蓋，基于司法審判數(shù)據(jù)生成的智能輔助審判系統(tǒng)的算法歧視問題成為當(dāng)下亟待解決的一大難題。

二、智慧司法輔助審判系統(tǒng)中算法歧視的成因

所謂算法，就是一系列的編碼指令，通過這一串具有邏輯性的數(shù)字指令可以解決既定問題、實(shí)現(xiàn)編碼目的。算法可以通過海量的數(shù)據(jù)訓(xùn)練進(jìn)行基于統(tǒng)計(jì)學(xué)的隨機(jī)性控制。目前廣泛適用的機(jī)器學(xué)習(xí)算法模型，從運(yùn)行過程來看就是通過構(gòu)建初始模型，輸入訓(xùn)練數(shù)據(jù)，再根據(jù)所輸入數(shù)據(jù)進(jìn)行自主訓(xùn)練學(xué)習(xí)，之后對(duì)數(shù)據(jù)進(jìn)行驗(yàn)證，確認(rèn)算法的可靠性，進(jìn)而完成算法的模型訓(xùn)練，生成最終模型［5］。了解機(jī)器學(xué)習(xí)算法的訓(xùn)練過程，有助于我們探究智慧司法輔助審判系統(tǒng)中的算法歧視成因。

（一）算法模型構(gòu)建者的人為歧視嵌入

歧視是人類社會(huì)中普遍存在的社會(huì)現(xiàn)象，而算法又是人類決策邏輯的數(shù)字化映射。因此，算法歧視在極大程度上源于社會(huì)認(rèn)知，并經(jīng)由社會(huì)認(rèn)知塑造出的人類潛在意識(shí)的數(shù)字化算法轉(zhuǎn)化，對(duì)現(xiàn)有文化語境下存在的歧視進(jìn)行歸納或者同構(gòu)后形成文化禁錮或社會(huì)禁錮［6］。在計(jì)算機(jī)領(lǐng)域，很長時(shí)間以來人們總是認(rèn)為程序因其工具屬性只有效率性和準(zhǔn)確性基本不會(huì)受到人為因素的影響，即所謂的算法中性理論，但是隨著人工智能技術(shù)的發(fā)展，機(jī)器學(xué)習(xí)理論的不斷深入，算法中性理論被算法歧視理論所取代。即輸入數(shù)據(jù)內(nèi)容中若含有歧視要素，則輸出的結(jié)果也必然帶有歧視色彩。更為關(guān)鍵的是模型的開發(fā)建構(gòu)者將其本身帶有的歧視性觀點(diǎn)通過算法的編碼表達(dá)映射出來，這種人為潛在的歧視也可能是無意識(shí)的。在司法模型的建構(gòu)中，對(duì)于開發(fā)者開發(fā)出的算法模型的隱性歧視的識(shí)別化解至關(guān)重要，因?yàn)橄到y(tǒng)本身的算法模型歧視可能會(huì)在后續(xù)的數(shù)據(jù)訓(xùn)練中被加強(qiáng)，甚至在深度學(xué)習(xí)過程中把潛在的歧視因素賦予更高的權(quán)重，加重算法歧視。

（二）司法訓(xùn)練數(shù)據(jù)“缺位”

基于訓(xùn)練數(shù)據(jù)培養(yǎng)的算法模型的準(zhǔn)確性來源于數(shù)據(jù)。司法裁判數(shù)據(jù)的廣度決定了智慧司法輔助審判系統(tǒng)的精度。只有在海量司法數(shù)據(jù)的“喂養(yǎng)”下，輔助審判系統(tǒng)才能在海量、準(zhǔn)確的司法裁判數(shù)據(jù)中提取出類案的審判經(jīng)驗(yàn)和規(guī)則體系［7］，為人工智能賦能司法研發(fā)提供“燃料”，提高智能化審判的準(zhǔn)確性，保障司法公正［8］。在輔助審判系統(tǒng)的實(shí)際研發(fā)過程中，鑒于不同地區(qū)法院辦理案件的性質(zhì)、種類存在著差異，對(duì)于司法訓(xùn)練數(shù)據(jù)的輸入樣本主要是靠各輔助審判系統(tǒng)開發(fā)地區(qū)所擁有的司法數(shù)據(jù)樣本進(jìn)行訓(xùn)練，但還有很多司法數(shù)據(jù)并沒有被允許使用，而不同地區(qū)的案件數(shù)量的差異性也導(dǎo)致了智慧司法審判算法的數(shù)據(jù)訓(xùn)練量并沒有達(dá)到預(yù)期的要求。此外，隨著時(shí)代的進(jìn)步發(fā)展，除了一些自然犯之外，新興犯罪的產(chǎn)生也給輔助審判系統(tǒng)的數(shù)據(jù)獲取帶來困難。在實(shí)踐過程中，對(duì)于一些司法數(shù)據(jù)保有量較少的犯罪類型，輔助審判算法可能無法得到足夠量的訓(xùn)練數(shù)據(jù)支持，進(jìn)而導(dǎo)致驗(yàn)證不通過、無法生成相應(yīng)的算法模型，可能會(huì)將部分?jǐn)?shù)據(jù)量小的犯罪歸入其他犯罪數(shù)據(jù)量多的類型中，直接影響司法決策模型輸出結(jié)果的公正性和合理性。

（三）輔助審判系統(tǒng)算法黑箱

算法黑箱，簡(jiǎn)單來說就是算法的決策過程對(duì)于開發(fā)者或使用者之外的人是缺乏透明度的，就如同一個(gè)“黑箱”，對(duì)于公眾來說只能知曉其最終的決策結(jié)果，而對(duì)決策的依據(jù)、決策流程以及方式一無所知，且大多數(shù)算法數(shù)據(jù)都以商業(yè)秘密不公開為由回避公眾監(jiān)督，即便公開算法，一些由字母數(shù)字組成的代碼塊、字符串也難以被不具有專業(yè)知識(shí)的公眾所理解。因此，不具有公眾透明度的算法為算法歧視提供了生長的土壤。所謂算法不可解釋性是對(duì)現(xiàn)代法治的釋法析理精神的挑戰(zhàn)，極大程度上限制了司法審判中當(dāng)事人的知情權(quán)和抗辯權(quán)。參與審判的當(dāng)事人有權(quán)知曉司法算法決策的過程和依據(jù)，這是司法公正、透明的必然要求，是保障訴訟參與人知情權(quán)的必要措施。

（四）輔助審判系統(tǒng)算法權(quán)力的異化

權(quán)力的本質(zhì)是一種支配性力量，作用于一定的社會(huì)關(guān)系。而在技術(shù)對(duì)司法賦能并構(gòu)成直接的控制和影響的情況下，技術(shù)褪去了純粹工具性外表，展現(xiàn)出一定的權(quán)力屬性［9］?；谏疃葘W(xué)習(xí)的算法已經(jīng)成為一種戰(zhàn)略資源甚至是一種數(shù)字武器，本質(zhì)上已經(jīng)脫離了單純的數(shù)據(jù)計(jì)算程式，其強(qiáng)大的算力優(yōu)勢(shì)和數(shù)據(jù)訓(xùn)練后的自主學(xué)習(xí)能力，加之算法黑箱提供的黑色地帶，給算法使用者提供可操作空間，甚至擺脫其輔助工具地位，形成一種算法權(quán)力，進(jìn)一步與社會(huì)化的知識(shí)、利益和公共利益交融，成為一種影響社會(huì)生活的“非國家力量”，嬗變?yōu)橐环N“準(zhǔn)公權(quán)力”。而算法權(quán)力的影響力和控制力源于掌握著算法運(yùn)行過程的開發(fā)者和設(shè)計(jì)者，因算法具有高度的專業(yè)性，就算是資深的法律人員也難以準(zhǔn)確地掌握算法設(shè)計(jì)的全流程，算法設(shè)計(jì)者和用戶之間存在“數(shù)字鴻溝”，訴訟參與人只能被動(dòng)地接受最終的決策結(jié)果，無法對(duì)其進(jìn)行過程溯源。申言之，司法人工智能的技術(shù)操縱直接表現(xiàn)為對(duì)司法權(quán)力的支配［10］，展現(xiàn)出強(qiáng)烈的權(quán)力屬性，超脫狹義的技術(shù)工具論，表現(xiàn)為對(duì)司法的主導(dǎo)權(quán)［11］。如若沒有相應(yīng)的制衡機(jī)制，就可能導(dǎo)致司法算法權(quán)力的異化，進(jìn)而侵害訴訟參與人的訴權(quán)，形成司法算法霸權(quán)，破壞司法公正。

三、智慧司法輔助審判系統(tǒng)中算法歧視的對(duì)策

（一）強(qiáng)化源頭治理

1.限定司法輔助審判系統(tǒng)的適用場(chǎng)域

實(shí)踐中智慧司法輔助審判系統(tǒng)與傳統(tǒng)審判的最大不同之處在于說理方式的不同［12］，只有擁有大量裁判基數(shù)的案件才能形成有效的說理模型和結(jié)論。如若把智慧司法輔助審判系統(tǒng)的審理案件范圍限定在普通簡(jiǎn)單案件，其效果將會(huì)達(dá)到最大化。對(duì)于海量簡(jiǎn)單案件數(shù)據(jù)，其司法要素的識(shí)別已不成問題，在簡(jiǎn)單案件中形成“類案類判”具有很強(qiáng)的可操作性，其通過簡(jiǎn)單案件流程化的基本操作路徑就可以形成判決結(jié)果的推送、呈現(xiàn)，通過案件中的各種司法要素的分析、對(duì)比和計(jì)算，再與海量裁判數(shù)據(jù)比對(duì)，從而形成人工智能裁判“最優(yōu)解”，可以在很大程度上緩解“案多人少”的司法困境，把有限的司法資源從普通簡(jiǎn)單案件中抽離出來，投入到疑難案件中去，從而實(shí)現(xiàn)庭審實(shí)質(zhì)化，在一定程度上消弭輔助審判系統(tǒng)算法歧視帶來的不利影響。是故，可將司法輔助審判系統(tǒng)的案件適用場(chǎng)域進(jìn)行立法限制，保障司法輔助審判系統(tǒng)審判結(jié)果的推送是基于海量裁判數(shù)據(jù)生成，避免因案件數(shù)據(jù)量小造成的“個(gè)案不公”。具體可制定司法輔助審判系統(tǒng)適用規(guī)則，根據(jù)現(xiàn)有司法裁判案件數(shù)量實(shí)時(shí)修訂該系統(tǒng)準(zhǔn)予適用的案件類型。

2.構(gòu)建司法輔助審判系統(tǒng)設(shè)計(jì)者法律倫理培訓(xùn)機(jī)制

技術(shù)工作和法律工作分屬不同學(xué)科體系門類，存在思考邏輯的差異性，對(duì)技術(shù)工作者而言，提高算法的高效運(yùn)行是第一要?jiǎng)?wù)，而法律工作者更注重公平正義的價(jià)值體現(xiàn)。所以，在委托開發(fā)過程中對(duì)算法構(gòu)建者和程序?qū)崿F(xiàn)者進(jìn)行司法審判活動(dòng)知識(shí)培訓(xùn)十分必要，必須在技術(shù)中注入法律元素，體現(xiàn)審判活動(dòng)的關(guān)鍵特點(diǎn)，反復(fù)論證算法構(gòu)建的合理性和司法公正性，符合司法倫理的要求，最大限度地避免歧視性決策要素的存在。更為重要的是，在目前的弱人工智能時(shí)代，算法雖然具有一定的自主學(xué)習(xí)能力，但究其本質(zhì)，還是一串串人工編碼得出的計(jì)算機(jī)代碼程式，里面蘊(yùn)含著開發(fā)者的邏輯理性。算法歧視的根源是開發(fā)者的主觀認(rèn)識(shí)使得算法擁有了歧視的非正義屬性，故而在構(gòu)建司法輔助審判系統(tǒng)設(shè)計(jì)者法律倫理培訓(xùn)機(jī)制過程中，使設(shè)計(jì)者形成非歧視的算法設(shè)計(jì)價(jià)值觀也是消弭司法輔助審判系統(tǒng)算法歧視的重要一環(huán)。

3.建立司法輔助審判系統(tǒng)內(nèi)部算法審查、監(jiān)管體系

在對(duì)司法輔助審判系統(tǒng)的構(gòu)建中，開發(fā)設(shè)計(jì)相關(guān)方建立內(nèi)部算法審查、監(jiān)管體系是十分必要的，既要引導(dǎo)算法的設(shè)計(jì)人員遵守算法規(guī)則，也要在相關(guān)方內(nèi)部建立專門的算法合規(guī)審查機(jī)制、監(jiān)管體系。第一，建立一支由專門技術(shù)人員構(gòu)成的防歧視審查專家委員會(huì)，保證技術(shù)層面的合理合規(guī)性。第二，在算法測(cè)試數(shù)據(jù)的過程中，應(yīng)當(dāng)實(shí)時(shí)、準(zhǔn)確并詳細(xì)地記錄算法訓(xùn)練的過程，做好相應(yīng)的數(shù)據(jù)備份，以便后續(xù)系統(tǒng)的升級(jí)、改進(jìn)和維護(hù)。第三，針對(duì)算法不透明的問題，在司法公開屬性的內(nèi)在要求指引下，相關(guān)方有責(zé)任也有義務(wù)編制算法解釋手冊(cè)，以便訴訟參與人查看和質(zhì)詢。

4.擴(kuò)充司法數(shù)據(jù)并進(jìn)行歧視信息脫敏處理

智慧司法輔助審判系統(tǒng)需以司法數(shù)據(jù)為驅(qū)動(dòng)，即首先要獲取到全面、完備且具有相關(guān)性、代表性的司法數(shù)據(jù)，然后利用算法模型進(jìn)行契合［13］。而目前法院系統(tǒng)內(nèi)部仍然積累著巨量的、并未電子化的歷史裁判數(shù)據(jù)。同時(shí)，司法機(jī)關(guān)應(yīng)當(dāng)構(gòu)建各省市審判數(shù)據(jù)互聯(lián)互通機(jī)制，拓展司法裁判數(shù)據(jù)的來源，多方面統(tǒng)籌挖掘、收集、整合司法審判數(shù)據(jù)，為保障司法輔助審判系統(tǒng)的精準(zhǔn)性和非歧視性提供必要前提。開發(fā)利用司法數(shù)據(jù)最重要的是提取個(gè)案中的共同要素，而非對(duì)個(gè)案各個(gè)要素進(jìn)行提取，所以，對(duì)司法文書中涉及的較為詳細(xì)的個(gè)人信息模塊應(yīng)當(dāng)經(jīng)過專家評(píng)審后進(jìn)行脫敏處理并去標(biāo)識(shí)化，避免特殊性轉(zhuǎn)化為普適性。這既回應(yīng)了個(gè)人信息保護(hù)法的法律要求，也是消弭司法輔助審判系統(tǒng)算法歧視的重要組成部分，從數(shù)據(jù)層面斷絕歧視性要素的輸入，避免歧視性結(jié)果的輸出。

（二）強(qiáng)化外部監(jiān)管

1.堅(jiān)守社會(huì)主義法治的價(jià)值追求

公平正義是社會(huì)主義法治的價(jià)值追求，算法歧視顯然是對(duì)公平正義理念的偏離，是故有必要強(qiáng)化涉及司法的算法的公平正義觀念，將可能處于偏離的價(jià)值取向拉回預(yù)定軌道。算法公平正義應(yīng)當(dāng)貫穿到算法開發(fā)、運(yùn)行的全方位、各層次，保障過程公平和結(jié)果公平。過程公平強(qiáng)調(diào)在司法算法數(shù)據(jù)測(cè)試過程中預(yù)先剔除歧視性偏見數(shù)據(jù)，提高其過程透明度。結(jié)果公平不是絕對(duì)意義上的公平，而是需要考慮到個(gè)體的差異的實(shí)質(zhì)公平。算法歧視結(jié)構(gòu)性來源最終還是社會(huì)觀念潛移默化地影響到個(gè)人而形成的定式思維。是故，需要強(qiáng)化公平正義、反對(duì)歧視的社會(huì)氛圍，引導(dǎo)人們向上向善，從而使科技向善，更好地維護(hù)和促進(jìn)司法審判算法權(quán)力的運(yùn)行，避免社會(huì)大眾受到司法算法權(quán)力的侵害，充分保障司法算法權(quán)力的穩(wěn)健發(fā)展，打造智慧法治國家。

2.設(shè)置輔助審判系統(tǒng)非相關(guān)方審查制度

較之于其他應(yīng)用場(chǎng)域，算法在司法審判領(lǐng)域的審查監(jiān)管應(yīng)當(dāng)充分貫徹“強(qiáng)監(jiān)管”“穿透式監(jiān)管”政策。在司法審判公正、公開、透明原則的指引下，建立一套開發(fā)前、應(yīng)用時(shí)、事故后的第三方智慧司法輔助審判系統(tǒng)審查機(jī)制，其中，第三方應(yīng)為獨(dú)立的、公益性質(zhì)的算法審計(jì)組織。審查活動(dòng)的進(jìn)行將依靠由法律領(lǐng)域?qū)I(yè)人士以及計(jì)算機(jī)科學(xué)領(lǐng)域?qū)I(yè)人士所組成的專家委員會(huì)，只有通過專家委員會(huì)評(píng)審的系統(tǒng)才能夠進(jìn)行開發(fā)、投入使用。而每一個(gè)審查階段的專家委員會(huì)評(píng)審名單按照一定的比例進(jìn)行調(diào)整，以確保每一次評(píng)審的客觀性和中立性，從而保障輔助審判系統(tǒng)的客觀性、非歧視性。

3.建立健全問責(zé)機(jī)制，防止算法權(quán)力異化

如若產(chǎn)生了司法輔助審判的算法歧視性裁判結(jié)果，就需要引入相應(yīng)的問責(zé)機(jī)制對(duì)相關(guān)方進(jìn)行問責(zé)，防止司法算法權(quán)力的異化。面對(duì)司法審判算法權(quán)力異化的挑戰(zhàn)，必須發(fā)揮法律的保障作用，建立健全法律制裁措施，確立以“外部問責(zé)”為核心要點(diǎn)的算法權(quán)力規(guī)制方向，落實(shí)開發(fā)者和使用方責(zé)任，規(guī)范司法算法的運(yùn)行和決策。

四、結(jié)語

從某種意義上來說，整個(gè)人類的刑事法律文明史，都是在探索實(shí)現(xiàn)刑罰目的并不斷地探索審判公正的歷史［14］。我國目前構(gòu)建的智慧司法輔助審判系統(tǒng)也是以這一目的為邏輯起點(diǎn)而展開的，雖然其在一定程度上提升了司法審判的效率、推動(dòng)了庭審實(shí)質(zhì)化改革，但其中存在的算法歧視問題也是我們必須面對(duì)并解決的現(xiàn)實(shí)問題。對(duì)此，應(yīng)重視算法中隱藏的歧視、偏見與不公，通過內(nèi)部溯源治理和外部強(qiáng)化監(jiān)管解決司法審判活動(dòng)中的算法歧視問題，早日實(shí)現(xiàn)法治中國夢(mèng)。