論人工智能時(shí)代的算法司法與算法司法正義

杜宴林 楊學(xué)科

摘要：算法司法，作為人工智能時(shí)代新的司法樣態(tài)，已初現(xiàn)其時(shí)代意義：有力回應(yīng)了新時(shí)代解放司法生產(chǎn)力，提升司法效能、切實(shí)保障算法司法正義的迫切需求，但也存在著算法隱蔽性和司法公開的沖突，算法司法商業(yè)化以及過(guò)度重視專家系統(tǒng)經(jīng)驗(yàn)等風(fēng)險(xiǎn)。算法司法的未來(lái)，無(wú)論呈現(xiàn)出增強(qiáng)/改善司法，還是替代司法的姿態(tài)，算法司法正義都應(yīng)當(dāng)是未來(lái)司法正義的必然選擇。

關(guān)鍵詞：算法司法;算法司法正義;算法歧視;人工智能;算法解釋權(quán)

中圖分類號(hào)：D9 ? 文獻(xiàn)標(biāo)志碼：A ? 文章編號(hào)：1004-3160（2019）05-0064-11

一、問(wèn)題的提出

一般認(rèn)為算法是進(jìn)行計(jì)算、解決問(wèn)題、做出決定的一套有條理的步驟。所以，算法并不是單指某次計(jì)算，而是計(jì)算時(shí)采用的方法。[1]75學(xué)界研究表明，在司法大數(shù)據(jù)日漸凸顯的時(shí)代，沒有算法，數(shù)據(jù)只能是沒有意義的知識(shí)經(jīng)驗(yàn)載體。學(xué)界一般將其形象的做如下比喻：大數(shù)據(jù)可喻為石油或燃料，算法則喻為引擎驅(qū)動(dòng)，也就是說(shuō)沒有作為引擎的算法，數(shù)據(jù)的石油只能付之高閣，只有通過(guò)算法的數(shù)據(jù)挖掘和機(jī)器學(xué)習(xí)，數(shù)據(jù)的價(jià)值才能完美呈現(xiàn)。隨著算法日漸發(fā)展，算法在大數(shù)據(jù)基礎(chǔ)上已能自我學(xué)習(xí)、判斷和決策，并直接助推了人工智能的大發(fā)展，道理很簡(jiǎn)單，算法乃人工智能的基石，人工智能即是算法和所用數(shù)據(jù)集的相互作用的自動(dòng)化決策。

算法已經(jīng)侵入了人類世界的幾乎每一個(gè)領(lǐng)域，呈現(xiàn)出源于人類又超乎人類的強(qiáng)大力量，與之相伴隨，一個(gè)新興的人工智能時(shí)代的“算法帝國(guó)”景觀日漸浮現(xiàn)在我們眼前。[2]24司法領(lǐng)域也不例外，算法正在悄然接管司法，算法的“意識(shí)形態(tài)滲入了法律領(lǐng)域，決定了司法人員的態(tài)度與立場(chǎng)，從而控制了法律機(jī)器的運(yùn)作”，[3]算法影響司法正義的時(shí)代，正在悄然降臨：算法如何塑造我們的司法？在算法帝國(guó)中，作為社會(huì)正義最后一道防線的司法，何去何從？算法真的即為正義？……這些問(wèn)題無(wú)疑時(shí)時(shí)刻刻拷問(wèn)著現(xiàn)代司法乃至現(xiàn)代法治的理論和實(shí)踐，并顯然需要我們認(rèn)真對(duì)待。然而不無(wú)遺憾的是，學(xué)界對(duì)此卻呈現(xiàn)出“心有余而力不足”的狀態(tài)：人們對(duì)人工智能的司法應(yīng)用極其關(guān)注，業(yè)已形成了系列科研成果，呈現(xiàn)出“心有余”之熱度，但卻對(duì)作為人工智能基石的算法則或直接忽視或語(yǔ)焉不詳，呈現(xiàn)出“力不足”之態(tài)。鑒此，本文以算法司法和算法司法正義為關(guān)注的焦點(diǎn)，對(duì)司法場(chǎng)域內(nèi)的相關(guān)問(wèn)題略作探討。

二、算法司法及其局限

（一）算法司法的基本意蘊(yùn)

自啟蒙運(yùn)動(dòng)以來(lái)，理性戰(zhàn)勝信仰，以數(shù)學(xué)為基的科學(xué)深刻推動(dòng)了社會(huì)的發(fā)展，開啟了“科學(xué)為王”的時(shí)代。如海德格爾所言，數(shù)學(xué)實(shí)質(zhì)是一種可通達(dá)性的知識(shí)，近代科學(xué)都是建立在數(shù)學(xué)因素之上，“現(xiàn)代自然科學(xué)、現(xiàn)代數(shù)學(xué)和現(xiàn)代形而上學(xué)都是源出于廣義上的數(shù)學(xué)因素這個(gè)同一根源”。[4]875數(shù)學(xué)因素作為“關(guān)于物的知識(shí)的基本前提”，是一種對(duì)物的基本態(tài)度，即數(shù)字化的世界觀，其本質(zhì)就在于，一方面對(duì)物的規(guī)定的設(shè)定，事先規(guī)定物的可敞開領(lǐng)域，另一方面則“力求對(duì)知識(shí)形式本身的重新構(gòu)成和自我論證?！盵4]856、874近現(xiàn)代科學(xué)為我們打開了一個(gè)數(shù)學(xué)化世界之門，數(shù)字化的世界觀、數(shù)字化生存成為“新的自由、自我約束和自我論證”[4]873。

數(shù)學(xué)的妙處在于其擁有一個(gè)好的方法，常常是最簡(jiǎn)潔明了的方法。[5]與之相類似，算法恰恰也是對(duì)于復(fù)雜問(wèn)題求解的策略方法，其核心就是“按照設(shè)定程序運(yùn)行以期獲得理想結(jié)果的一套指令”，因而它的全部?jī)r(jià)值就體現(xiàn)在它的速度上。[2]98當(dāng)司法引入算法，在“推理不過(guò)是計(jì)算”[6]的運(yùn)作模式下，算法在司法領(lǐng)域的簡(jiǎn)約邏輯和速率優(yōu)勢(shì)無(wú)疑盡顯。本文將這種司法領(lǐng)域算法的司法應(yīng)用統(tǒng)稱為算法司法：一種不涉及算法問(wèn)題的司法解決，而是司法過(guò)程中采用的算法解決司法問(wèn)題的司法。

算法司法是伴隨著計(jì)算機(jī)的發(fā)展而逐漸興起的，1970年布魯斯·布坎南和托馬斯·希德里克發(fā)表《關(guān)于人工智能和法律推理若干問(wèn)題的考察》一文，拉開了計(jì)算機(jī)信息系統(tǒng)處理法律實(shí)踐中法律推理的序幕。隨后Walter G.Popp和Bernhard Schlink開發(fā)了JUDITH律師推理系統(tǒng)，1977年Jeffrey Meldman開發(fā)了計(jì)算機(jī)輔助法律分析系統(tǒng)，電子智能法律系統(tǒng)的首次應(yīng)用則以1981年D●特曼和M●皮特森開發(fā)的法律判決輔助系統(tǒng)（LDS）為標(biāo)志。[7]美國(guó)是當(dāng)今算法司法應(yīng)用較多的國(guó)家，一半以上州采用了替代性制裁為目標(biāo)的懲教犯管理畫像（COMPAS）、公共安全評(píng)估（PSA）和服務(wù)級(jí)別目錄修訂版（LSI-R）等三大風(fēng)險(xiǎn)評(píng)估軟件，主要用于預(yù)測(cè)再次犯罪風(fēng)險(xiǎn)、罪犯風(fēng)險(xiǎn)性評(píng)估，進(jìn)而決定是否保釋、假釋等等。

對(duì)比美國(guó)的算法司法，現(xiàn)在我國(guó)司法中運(yùn)用的算法，則主要集中在辦公自動(dòng)化上，并沒有像美國(guó)那樣主要用在量刑輔助上面。盡管早在1993年武漢大學(xué)趙廷光就主持開發(fā)出了電腦量刑軟件“實(shí)用刑法專家系統(tǒng)”，時(shí)隔十年淄川區(qū)法院設(shè)計(jì)出一套利用電腦和軟件計(jì)算刑期的操作系統(tǒng)，甚至在政策層面頂層有關(guān)機(jī)關(guān)還先后設(shè)計(jì)了一些發(fā)展規(guī)劃指南（比如國(guó)務(wù)院頒布了《新一代人工智能發(fā)展規(guī)劃》，最高人民法院與最高人民檢察院發(fā)起了“智慧法院”與“智慧檢務(wù)”建設(shè)的行動(dòng)規(guī)劃，公安部與司法部頒布的大數(shù)據(jù)與信息化建設(shè)指南等等），但實(shí)踐中，依然集中在辦公自動(dòng)化層面上，特別是信息的電子化、數(shù)據(jù)化，辦案輔助系統(tǒng)的智能化，實(shí)體裁判的預(yù)測(cè)與監(jiān)督，統(tǒng)一的、電子化的證據(jù)標(biāo)準(zhǔn)等方面。[8]以智慧法院為例，在最高法院《關(guān)于加快建設(shè)智慧法院的意見》的“智慧法院”的整體架構(gòu)下，大數(shù)據(jù)與人工智能技術(shù)被要求用于支持辦案人員最大限度減輕非審判性事務(wù)負(fù)擔(dān)、為人民群眾提供更加智能的訴訟和普法服務(wù)、支持管理者確保審判權(quán)力正當(dāng)有序運(yùn)行、支持法院管理者提高司法決策科學(xué)性等等。

實(shí)踐也呈現(xiàn)出相似的圖景。據(jù)《中國(guó)法院信息化發(fā)展報(bào)告No.2（2018）》所提供的數(shù)據(jù)顯示，2017年人民法院確立并完成了信息化3.0版的主體框架，“智慧法院”初步形成。一批輔助法官辦案的法信平臺(tái)、“智審”系統(tǒng)、庭審語(yǔ)音識(shí)別系統(tǒng)、裁判文書評(píng)查、同案不同判預(yù)警等智能化系統(tǒng)得以廣泛應(yīng)用，有力地推動(dòng)了類案推送、法律文書輔助生成、電子卷宗隨案同步生成、網(wǎng)上調(diào)閱、電子送達(dá)和電子簽章等辦公系統(tǒng)自動(dòng)化領(lǐng)域的新進(jìn)展;推行了電子法院、網(wǎng)絡(luò)法庭等辦案模式，開發(fā)了“智慧法院導(dǎo)航系統(tǒng)”、智能導(dǎo)訴機(jī)器人等系統(tǒng)[9]，客觀上也有利于推廣“互聯(lián)網(wǎng)+訴訟服務(wù)”經(jīng)驗(yàn)，但無(wú)論如何，現(xiàn)階段我國(guó)的算法司法，發(fā)力的重心仍然集中在辦公自動(dòng)化方面，也就是不讓事務(wù)性負(fù)擔(dān)成為法官的新負(fù)擔(dān)，從而為人民群眾提供便捷、智能、精準(zhǔn)的訴訟服務(wù)。中美算法司法存在上述反差的原因，除了司法制度和人工智能發(fā)展水平的差異外，也與我國(guó)近年來(lái)的司法人工智能的興盛主要依賴的是“市場(chǎng)利益驅(qū)動(dòng)與官方改革管理的雙重邏輯”[10]有很大關(guān)系。當(dāng)然，各方對(duì)算法司法持漸進(jìn)、謹(jǐn)慎、穩(wěn)健的發(fā)展策略可能也是其原因之一。

（二）算法司法的時(shí)代意義

無(wú)論訴諸于理論還是實(shí)踐，人們都將承認(rèn)，作為適應(yīng)時(shí)代需要而產(chǎn)生的新事物，算法司法正深刻的影響著當(dāng)下司法裁判的模式，并日益體現(xiàn)出其獨(dú)特的時(shí)代優(yōu)勢(shì)和魅力：

首先，算法司法有利于積極破解日益繁重的司法裁判需求。技術(shù)的本質(zhì)應(yīng)當(dāng)是一種解蔽方式，一種真理的開顯方式。如海德格爾所揭示的這樣，算法技術(shù)也正是如此，算法及其生產(chǎn)制作過(guò)程的一切可能性無(wú)疑均建基于技術(shù)的解蔽之中。[4]931、932前已述及的算法的核心價(jià)值是速率，在解蔽司法生產(chǎn)力方面，無(wú)疑具有最大優(yōu)勢(shì)。尤其隨著訴訟社會(huì)的到來(lái)，訴訟規(guī)模以兩位數(shù)的速度增加，訴訟爆炸成了其標(biāo)志性話語(yǔ)表達(dá)，令人擔(dān)憂的“延遲司法”的趨勢(shì)也日漸突出;堆積如山的案件材料，令法律人難堪重負(fù)，法律人過(guò)勞死等現(xiàn)象屢見報(bào)端網(wǎng)媒的情況下，算法司法的適時(shí)登場(chǎng)，因算法能自動(dòng)執(zhí)行重復(fù)性司法任務(wù)，客觀上使得法律人專注于核心的法律判決的產(chǎn)生成為了可能。因此算法司法呈現(xiàn)“增強(qiáng)/改善司法”的姿態(tài)，在增強(qiáng)法律人辦案能力、賦能司法生產(chǎn)力的同時(shí)，也很好的破解了日益繁重的司法裁判的需求。相對(duì)于傳統(tǒng)司法，算法司法這種效率的提升，不亞于“希特勒飆車體驗(yàn)的快感”①，而在波斯納意義上，算法司法的這種效率無(wú)疑就是正義的代名詞：“正義的第二種涵義——也是最普遍的涵義——是效率”[11]。

其次，算法司法具有相當(dāng)?shù)臑槿怂邮艿脑鲋盗?。正如學(xué)界普遍認(rèn)識(shí)到的，增值力是任何一件新生事物能否為人所接受的客觀標(biāo)準(zhǔn)，其理論主要淵源于厄南·麥克馬林（Ernan McMullin），在他看來(lái)，有兩種增殖力來(lái)判定新生事物是否能為人接受，一是成功適應(yīng)的“業(yè)已證明的增殖力”，一是創(chuàng)造性應(yīng)對(duì)未來(lái)的“潛在增殖力”。[12]前者側(cè)重于當(dāng)下的中立性和客觀性考察，后者側(cè)重于未來(lái)，兩者共同構(gòu)成了客觀性、連貫性的評(píng)價(jià)尺度。算法司法的“業(yè)已證明的增殖力”，早在人工智能發(fā)展初期就得到了驗(yàn)證：

在預(yù)算擠壓緊縮和正義需求增加的情況下，法官必須在努力應(yīng)對(duì)時(shí)間和資源限制的同時(shí)，還必須拼命地維持決策過(guò)程的質(zhì)量，定紛止?fàn)帯＿@顯然不是一項(xiàng)容易完成的任務(wù)，而AI工具無(wú)疑對(duì)此可提供強(qiáng)大的智力支持，在促進(jìn)足夠程度的一致性和效率的同時(shí)，支持合理行使司法裁量權(quán)，防止規(guī)則機(jī)械、僵化的適用。同樣，人工智能還可以起到靈活性的幫助、協(xié)調(diào)、補(bǔ)充任務(wù)的作用，例如起草各種司法文件，既確保了效率性，也兼顧了準(zhǔn)確性。總之，我們認(rèn)為司法機(jī)構(gòu)正處于轉(zhuǎn)型的初期階段，其中人工智能技術(shù)將使司法程序更快，更便利，并且在不影響法官自由裁量權(quán)的完整性的情況下，確保司法推理更具可預(yù)測(cè)性。[13]

美國(guó)的威斯康星州訴盧米斯一案（Wisconsin v.Loomis）已經(jīng)在司法上確認(rèn)了算法司法的中立性和客觀性。盧米斯因參與駕車槍擊事件被判有罪，在羈押期間，威斯康星州懲戒部門的COMPAS系統(tǒng)將被告是否會(huì)再次犯罪的可能性等級(jí)定為“高風(fēng)險(xiǎn)”。盧米斯不服上訴，威斯康星州最高法院支持了下級(jí)法院的裁決，美國(guó)聯(lián)邦最高法院駁回盧米斯的申訴要求，實(shí)際上三級(jí)法院都確認(rèn)了COMPAS系統(tǒng)的算法具有中立性和客觀性，能成功適應(yīng)司法判決的需要，因而也就是算法司法“業(yè)已證明的增殖力”的最好的司法確認(rèn)。事實(shí)上，算法司法的增值力已得到越來(lái)越多的理論證成，斯溫伯恩大學(xué)法學(xué)院的（Swinburne Law School）學(xué)者們研究認(rèn)為，人工智能（AI）能夠消除情感偏差和人為錯(cuò)誤，從而有利于量刑公正，并建議量化算法應(yīng)該作為現(xiàn)有量刑實(shí)踐的輔助手段來(lái)開發(fā)和試用。如果審判成功，則應(yīng)考慮廣泛使用計(jì)算機(jī)來(lái)輔助量刑決定。[14]而既有的司法實(shí)踐也表明，算法司法的自主決策也的確在防止冤假錯(cuò)案、預(yù)防司法腐敗等方面發(fā)揮著自身的巨大優(yōu)勢(shì)。

算法司法也呈示出潛在的增殖力，據(jù)權(quán)威資料揭示，2017年，馬里蘭大學(xué)有學(xué)者設(shè)計(jì)出一款自動(dòng)測(cè)謊在真實(shí)庭審視頻中的人工智能系統(tǒng)，測(cè)謊準(zhǔn)確率達(dá)到了92%，高于人類的81%。2017年，一場(chǎng)倫敦100名律師和一個(gè)名為Case Cruncher Alpha的人工智能同臺(tái)競(jìng)賽，Case Cruncher Alpha以86.6%? vs? 66.3%的準(zhǔn)確度戰(zhàn)勝了律師們。盡管如學(xué)界所認(rèn)識(shí)到的，由于算法技術(shù)（通常表現(xiàn)為計(jì)算能力，簡(jiǎn)稱為算力）的不足，現(xiàn)在的算法司法還大致處于由弱人工智能向強(qiáng)人工智能轉(zhuǎn)型階段，但算法司法已經(jīng)呈現(xiàn)出不可遏制的魅力，我們有理由相信，隨著算法技術(shù)的不斷發(fā)展，算法司法的“潛在增值力”大為可期。這一點(diǎn)，細(xì)心的人們從算法司法的不斷改進(jìn)和完善中是不難看出端倪的。

（三）算法司法的反思及其局限

算法司法在增強(qiáng)法律人辦案能力、提高司法效率的同時(shí)，算法司法也呈現(xiàn)出很大的因由算法而來(lái)的局限性：

1.算法的隱蔽性和司法公開、透明性間的沖突

算法往往被視為黑箱。算法的發(fā)展——基于未知的、不可思議的、通常是不可挑戰(zhàn)的系統(tǒng)，決定個(gè)人權(quán)利——對(duì)現(xiàn)代法治提出了嚴(yán)峻的挑戰(zhàn)。[15]具體言之，算法司法最大的問(wèn)題就在于算法的隱蔽性和司法公開、透明性的沖突。算法本質(zhì)上是一種編程技術(shù)，“技術(shù)既不好也不壞;也不是中立的”，[16]545但算法的最大特點(diǎn)就是其隱蔽性，也就是算法不具有可解釋性。這種隱蔽性或不可解釋性，迄今為止仍為算法發(fā)展中的技術(shù)難題，也自然預(yù)示了其潛在的風(fēng)險(xiǎn)。道理很簡(jiǎn)單，顯式編程，編程人員還能知道其中的運(yùn)作過(guò)程，但對(duì)于算法比如即使為學(xué)界目前最為推崇的智能算法、神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法，它們也并非是顯式編程，而是隱藏的自我學(xué)習(xí)、自我編程，可以輕松擬合萬(wàn)維以上的函數(shù)，但實(shí)驗(yàn)表明，人類超過(guò)了二十維函數(shù)都難理解了，所以，這種算法向我們（包括編程人員）解釋的困難，在某種程度上，這就像是向一只狗解釋莎士比亞是誰(shuí)一樣，無(wú)從解釋。[17]順便說(shuō)一句，算法的這種不可解釋性，在一定程度上也是當(dāng)下為人關(guān)注的另一個(gè)問(wèn)題即算法歧視且很難破解的原因之一。

這顯然與現(xiàn)代司法公開的精神發(fā)生沖突。司法公開、透明是現(xiàn)代司法的基本原則，并對(duì)現(xiàn)代司法公信力、司法權(quán)威有著決定性影響，此即現(xiàn)代法治上所謂“看得見的公正才是公正”。算法司法因其固有的隱蔽性/不可解釋性而往往使得相關(guān)判決陷入困境，其核心原因即是它與司法公開、透明性精神存在嚴(yán)重沖突。前述的威斯康星州訴盧米斯一案，盧米斯就對(duì)COMPAS系統(tǒng)的算法隱蔽性存在質(zhì)疑，并因此上訴。問(wèn)題關(guān)鍵就在于COMPAS系統(tǒng)的原始算法及其過(guò)程具有不可解釋性，因而相關(guān)裁決也無(wú)法給人足夠的說(shuō)服力，即使盧米斯最后勝訴了，也不能說(shuō)是算法的勝利，因?yàn)樗惴ǖ耐该餍?、可解釋性、可?zé)性等解釋性難題仍然是擺在目前算法司法面前的技術(shù)瓶頸，如無(wú)技術(shù)上的突破，算法利維坦（Algorithmic Leviathan）①、算法吉姆·克勞（Algorithmic Jim Crow）②都會(huì)成為算法司法難以克服的風(fēng)險(xiǎn)。

2.算法司法商業(yè)化

實(shí)踐中，大部分司法算法是以服務(wù)外包的形式進(jìn)行的，商業(yè)公司對(duì)司法權(quán)僭越、承包司法，算法司法呈現(xiàn)出司法商業(yè)主義的態(tài)勢(shì)。這是算法司法廣受詬病之處，如前述的威斯康星州訴盧米斯，威斯康星政府反駁理由就是Northpointe公司（現(xiàn)為Equivant）需要保持算法的保密，以保護(hù)公司的知識(shí)產(chǎn)權(quán)。COMPAS系統(tǒng)的算法是由盈利性公司Northpointe制作的系統(tǒng)，其中公司創(chuàng)始人之一約翰·阿諾德是一位對(duì)沖基金經(jīng)理。如果民眾將對(duì)沖基金與司法算法勾連在一起，對(duì)沖基金賺錢法是不是就是司法算法風(fēng)險(xiǎn)評(píng)估的方法？算法源代碼通常是私有的，不公開的，這是很容易讓人疑竇叢生的。COMPAS算法就被ProPublica機(jī)構(gòu)研究分析指出，COMPAS更有可能將黑人被告誤認(rèn)為未來(lái)的罪犯，而白人被告更有可能被錯(cuò)誤地貼上低風(fēng)險(xiǎn)的標(biāo)簽。在中國(guó)，有報(bào)道稱，包括最高人民法院在內(nèi)的超過(guò)100家法院使用了科大訊飛公司所研發(fā)的智慧法院庭審系統(tǒng)。但由于也是由商業(yè)力量主導(dǎo)對(duì)司法算法的開發(fā)，自然也難免逃脫算法司法商業(yè)化的局限，“難免形成審判主體的多重結(jié)構(gòu)，事實(shí)上形成程序員、軟件工程師、數(shù)據(jù)處理商等主體和司法者共執(zhí)司法的局面”，[18]出現(xiàn)算法司法中法律邏輯、商業(yè)邏輯、社會(huì)邏輯共治合一的局面。這種審判主體多元化、審判權(quán)多元化都是一種對(duì)傳統(tǒng)司法的解構(gòu)，也是需要謹(jǐn)慎思量的，畢竟司法算法的大量外包，容易讓算法承包公司、算法工程師的實(shí)際影響超過(guò)司法機(jī)關(guān)。司法實(shí)務(wù)人員的不懂算法以及對(duì)司法算法參與編輯的懈怠很大程度上更是給司法算法暗箱操作留有空間，進(jìn)而導(dǎo)致算法司法被人為利用的可能。

3.過(guò)度重視專家系統(tǒng)經(jīng)驗(yàn)的風(fēng)險(xiǎn)

如今的“專家系統(tǒng)”（expert system）在人工智能和大數(shù)據(jù)等核心技術(shù)因素支撐下，其意義比任何時(shí)代都要明顯和突出。[19]一般認(rèn)為，專家系統(tǒng)是一種計(jì)算機(jī)應(yīng)用程序，它包含了知識(shí)和專門知識(shí)：它們可以像人類一樣應(yīng)用于解決問(wèn)題、提供建議和執(zhí)行各種其他任務(wù)。具體在法律上，利用計(jì)算機(jī)技術(shù)可以促使稀缺的專業(yè)知識(shí)和知識(shí)更廣泛地獲得和容易獲得。[20]有研究表明，當(dāng)人們接受特定的咨詢指導(dǎo)時(shí)，他們傾向于追隨咨詢建議而不是自己的判斷。[21]這就可能出現(xiàn)從眾效應(yīng)（herd effect）的風(fēng)險(xiǎn)，例如當(dāng)算法推薦類案，法官看到算法推薦的類似案件的判決結(jié)果，法官判案的獨(dú)立性可能會(huì)受到干擾，相應(yīng)的法院判據(jù)也會(huì)被慣性效應(yīng)所持續(xù)強(qiáng)化而出現(xiàn)偏頗。司法算法是以簡(jiǎn)單的邏輯（0+1）來(lái)推演復(fù)雜的司法現(xiàn)實(shí)，這種簡(jiǎn)單邏輯是建立在過(guò)去的正確性的經(jīng)驗(yàn)法則基礎(chǔ)上，穩(wěn)定有余，但變通性不足，缺乏未來(lái)視角的社會(huì)適應(yīng)性，畢竟迄今算法所采用的大數(shù)據(jù)“只會(huì)處理過(guò)去，不會(huì)創(chuàng)造未來(lái)”[22]204，由此“專家系統(tǒng)”幾乎成了唯一的依憑，算法司法的科學(xué)性自然也比較闕如。同時(shí)，由于算法的科學(xué)性通常都建基于經(jīng)驗(yàn)性的驗(yàn)證條件，這就意味著不同的驗(yàn)證條件會(huì)出現(xiàn)截然相反的結(jié)論。比如，前述的COMPAS算法最近又被驗(yàn)證出，風(fēng)險(xiǎn)評(píng)估算法并不比沒有刑事司法經(jīng)驗(yàn)的人更準(zhǔn)確。[23]隨即COMPAS算法現(xiàn)在的東家Equivant發(fā)表聲明中質(zhì)疑論文的準(zhǔn)確性，稱論文“具有高度的誤導(dǎo)性”。這也就是說(shuō)，算法面臨著科學(xué)性不足的風(fēng)險(xiǎn)和時(shí)代挑戰(zhàn)，算法司法也不例外，尤其是近年來(lái)，有學(xué)者通過(guò)實(shí)驗(yàn)發(fā)現(xiàn)：一般人類會(huì)信任機(jī)器人，即使在緊急情況下，人類也可能會(huì)太信任機(jī)器人。[24]這也意味著算法司法目前出現(xiàn)的過(guò)度擬合因果，過(guò)度迷信司法算法，從而導(dǎo)致司法判決出現(xiàn)偏差的現(xiàn)象還會(huì)繼續(xù)持續(xù)下去，過(guò)于推崇“專家系統(tǒng)”的風(fēng)險(xiǎn)常在。

（四）“未來(lái)之鏡”①算法司法的可能

早在1999年哈佛大學(xué)萊斯格教授就對(duì)未來(lái)的司法做出預(yù)測(cè)，他指出：“代碼就是法律”，代碼最終是互聯(lián)網(wǎng)的架構(gòu)，并且因此能夠通過(guò)技術(shù)手段來(lái)限制個(gè)人的行為。[25]而今隨著新技術(shù)的出現(xiàn)，如區(qū)塊鏈技術(shù)，帶來(lái)了許多將法律轉(zhuǎn)化為代碼的新機(jī)遇。[26]這場(chǎng)科技革命的下一步，可能會(huì)如未來(lái)學(xué)家尤瓦爾·赫拉利（Yuval Noah Harari）所預(yù)測(cè)的那樣，可將讓算法有能力“比我更了解我自己”，人類交出權(quán)威，算法獲得統(tǒng)治地位。[1]298、312

這顯然不是未來(lái)算法司法的全部，至少它不是靜態(tài)的呈現(xiàn)的，它將繼續(xù)改變，新技術(shù)將加速這種變化率。如算法帝國(guó)所言的那樣，未來(lái)屬于算法和他們的創(chuàng)立者，[2]194未來(lái)人類生活更可能都直接或間接地為算法所塑造，司法為算法塑造、變革、掌控也有足夠的理由使人們相信，必然成為現(xiàn)實(shí)，并將深刻的影響人們的生活方式和思維樣式。這一點(diǎn)從當(dāng)下的算法司法現(xiàn)狀及其影響即可窺見一斑。當(dāng)下算法司法由于算法技術(shù)尚處起步階段，至多只能視為其初級(jí)階段：以算法介入可重復(fù)性、輔助性的法律事務(wù)為抓手，算法司法已經(jīng)以“增強(qiáng)/改善司法”的姿態(tài)，已在社會(huì)生活中實(shí)實(shí)在在的發(fā)揮著越來(lái)越重要的作用，甚至出現(xiàn)了算法與人類共執(zhí)司法的局面，算法已給人“正在吞噬世界”[27]之感，算法司法也正走在吞噬世界的路上。

盡管如此，任何頑抗司法算法預(yù)測(cè)、自動(dòng)決策的企圖，在算法革命面前，無(wú)疑于螳臂擋車。隨著算法的發(fā)展，當(dāng)算法能自主產(chǎn)生意識(shí)時(shí)，以算法自主為核心標(biāo)志的“替代司法”就可能會(huì)出現(xiàn)，“算法與人類共執(zhí)司法”將可能進(jìn)一步成為常態(tài)，這一方面取決于人類賦權(quán)算法和自主產(chǎn)生意識(shí)的算法的權(quán)利博弈，另一方面就是取決于司法算法自主學(xué)習(xí)能力和意識(shí)程度的高低，當(dāng)然還必須遵循相關(guān)的科技發(fā)展規(guī)律和司法規(guī)律，已有學(xué)者對(duì)此嘗試性地進(jìn)行了初步規(guī)劃②。但不管如何，算法司法正義無(wú)疑是必然追求，如同傳統(tǒng)司法一樣。

三、算法司法正義

（一）作為價(jià)值論的算法司法正義

1.算法審查和算法解釋權(quán)

如前述，算法的公開、透明和可問(wèn)責(zé)性是算法亟待解決的問(wèn)題之一，也是算法急需解決的可解釋性問(wèn)題，因?yàn)樗惴ìF(xiàn)在還不會(huì)自己解釋自己。同時(shí)，算法還不時(shí)存在算法黑箱，即使開發(fā)設(shè)計(jì)的算法工程師也不能對(duì)其運(yùn)作過(guò)程做出解釋。對(duì)此，科技界開出的方案是算法開源、逆向工程、算法審計(jì)等，實(shí)踐證明，這些技術(shù)方案并不能很好地解決問(wèn)題。遂此，科技界將算法的可解釋性設(shè)置為人工智能未來(lái)發(fā)展的重要目標(biāo)之一。

參考文獻(xiàn)：

[1] 尤瓦爾·赫拉利.未來(lái)簡(jiǎn)史[M].林俊宏，譯. 北京：中信出版社，2017.

[2] 克里斯托弗·斯坦納.算法帝國(guó)[M].李筱瑩，譯. 北京：人民郵電出版社，2014.

[3] 阿爾貝·加繆.局外人[M].柳鳴九，譯. 上海：上海譯文出版社，2010：10.

[4] 海德格爾.海德格爾選集（下）[M].孫周興，選編.上海：上海三聯(lián)書店，1996.

[5] 吳軍.數(shù)學(xué)之美[M].北京：人民郵電出版社，2012：前言.

[6] 霍布斯.利維坦[M].黎思復(fù)、黎廷弼，譯. 北京：商務(wù)印書館，1986：28.

[7] 張保生.人工智能法律系統(tǒng)的法理學(xué)思考[J].法學(xué)評(píng)論，2001（5）：11-12.

[8] 左衛(wèi)民.關(guān)于法律人工智能在中國(guó)運(yùn)用前景的若干思考[J].清華法學(xué)，2018（2）：113-114.

[9] 李林，田禾.中國(guó)法院信息化發(fā)展報(bào)告No.2（2018）[M].北京：社會(huì)科學(xué)文獻(xiàn)出版社，2018.

[10] 錢大軍.司法人工智能的中國(guó)進(jìn)程：功能替代與結(jié)構(gòu)強(qiáng)化[J].法學(xué)評(píng)論，2018（5）：139.

[11] 理查德·A·波斯納.法律的經(jīng)濟(jì)分析（上）[M].蔣兆康，譯. 北京：中國(guó)大百科全書出版社，1997：31.

[12] 約翰·洛西.科學(xué)哲學(xué)的歷史導(dǎo)論[M].張卜天，譯. 北京：商務(wù)印書館，2017：231-232.

[13]Sartor G， Branting L K. Introduction： Judicial Applications of Artificial Intelligence[C]//Judicial Applications of Artificial Intelligence[M]. Dordrecht：Springer，， 1998： 6.

[14]Stobbs N， Bagaric M， Hunter D. Can Sentencing be Enhanced by the Use of Artificial Intelligence？[J]. Criminal Law Journal， 2017， 41（5）： 261-277.

[15] Citron，Danielle Keats. Technological Due Process[J].Washington University Law Review，2008（6）：1253-1258.

[16] Kranzberg，Melvin. Technology and History： “Kranzberg's Laws”[J].Technology and Culture，1986，27（3）.

[17] 楊學(xué)科.論智能互聯(lián)網(wǎng)時(shí)代的算法歧視治理與算法公正[J].山東科技大學(xué)學(xué)報(bào)：社會(huì)科學(xué)版，2019，21（4）：35.

[18] 季衛(wèi)東.人工智能時(shí)代的司法權(quán)之變[J]. 東方法學(xué)，2018（1）：132.

[19] 楊昌宇.智能互聯(lián)網(wǎng)時(shí)代法律變革的中國(guó)理路[J].湖湘論壇，2019（3）：73.

[20] Susskind，Richard E. The End of Lawyers： Rethinking the Nature of Legal Services[M]. Oxford： Oxford University Press，2010：120-121.

[21] O'Bien，Matt，and Dake Kang. AI in the Court： When Algorithms Rule on Jail Time[J].AP Financial，2018.

[22] O'Neil，Cathy. Weapons of Math Destruction： How Big Data Increases Inequality and Threatens Democracy[M]. New York：Crown，2016.

[23] Dressel，Julia，and Hany Farid. The accuracy，F(xiàn)airness，and Limits of Predicting Recidivism[J]. Science Advances，2018，4（1）：eaao5580.

[24] Robinette，Paul，Ayanna Howard，and Alan R. Wagner.Conceptualizing Overtrust in Robots： Why Do People Trust a Robot That Previously Failed？[C]//Autonomy and Artificial Intelligence： A Threat or Savior？[M]. Cham：Springer，2017：129-155.

[25] Lessig，Lawrence.Code： and other Laws of Cyberspace [M]. New York：Basic Books.2006：38-60.

[26] Filippi，Primavera D.，and Samer Hassan. Blockchain Technology as a Regulatory Technology： From Code is Law to Law is Code[J].First Monday，2016，20（12）.

[27] Andreessen，Marc.Why Software is Eating the World[J].The Wall Street Journal， 2011， 20（2011）： C2.

[28] 克里斯多夫·庫(kù)克里克：微粒社會(huì)[M]. 黃昆，夏柯，譯.北京：中信出版社，2018.

[29] 鄒恒明.算法之道[M]. 北京：機(jī)械工業(yè)出版社，2010：前言V.