人機(jī)協(xié)同方式審判路徑研究

韓豐羽

廣西大學(xué)法學(xué)院，廣西 南寧 530004

人工智能與法律結(jié)合的歷史可以追溯到20 世紀(jì)70 年代，Buchanan 與Headrick 發(fā)表《關(guān)于人工智能和法律推理若干問(wèn)題的考察》一文，嘗試以人工智能化的方式理解、模擬法律論證和推理，已逐漸成為熱點(diǎn)研究。［1］國(guó)外關(guān)于人工智能與法律相結(jié)合的研究取得了許多成果。在民商事方面，摩根大通利用人工智能開(kāi)發(fā)了一個(gè)商業(yè)貸款信用檢查系統(tǒng)，實(shí)現(xiàn)了幾秒鐘內(nèi)就完成36000 小時(shí)的信用檢查業(yè)務(wù)，此系統(tǒng)提高了律師及法官對(duì)金融合同的審查效率。［2］在刑事司法領(lǐng)域，美國(guó)威斯康星州初審法院使用COMPASS 算法對(duì)被告人盧某進(jìn)行再犯風(fēng)險(xiǎn)評(píng)估，并根據(jù)這一結(jié)果決定是否保釋或假釋被告。［3］

與國(guó)外人工智能在法律行業(yè)的發(fā)展相比，我國(guó)法律與人工智能結(jié)合工作起步較晚，但是潛力巨大。在2017 年7 月國(guó)務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》之后，各地司法系統(tǒng)已經(jīng)開(kāi)始探索人工智能輔助裁判的探索工作。最高人民法院提出要依托人工智能，利用司法大數(shù)據(jù)推動(dòng)“智慧法院”建設(shè)。在此之后涌現(xiàn)出了上海高院與科大訊飛公司共同研發(fā)的“上海刑事案件智能輔助辦案系統(tǒng)”，重慶法院的“智慧E 審”“智能專審”系統(tǒng)，北京高級(jí)法院的“睿法官”智能研判系統(tǒng)。［4］雖然近年來(lái)我國(guó)人工智能與司法的融合成果顯著，但是作為計(jì)算機(jī)產(chǎn)物，人工智能判案輔助系統(tǒng)也會(huì)存在一定的局限性。因此剖析人工智能審判優(yōu)勢(shì)與困境，找到適合中國(guó)的人類與機(jī)器協(xié)同審判路徑迫在眉睫。

一、人類審判優(yōu)勢(shì)與困境

（一）優(yōu)勢(shì)方面

第一方面是程序公正。人類的決策這個(gè)事實(shí)本身，就會(huì)讓當(dāng)事人覺(jué)得這是公平的體現(xiàn)，此種心態(tài)源于當(dāng)事人對(duì)法庭審判的儀式感的尊重。當(dāng)事人最擔(dān)憂的就是當(dāng)人工智能取代人類裁判后，當(dāng)事人在法庭上討論和發(fā)言不能納入人工智能的決策過(guò)程。在庭審中，“親歷性”也是對(duì)法官的要求之一。因此傳統(tǒng)審判模式在保證法官親歷性和雙方辯論權(quán)的基礎(chǔ)上最大限度地保證了程序正義。第二方面在于，人類的優(yōu)勢(shì)在疑難案件領(lǐng)域是更顯著的。一個(gè)僅僅是遵循規(guī)則的決策系統(tǒng)很容易被人工智能所取代。而疑難案件的審判不僅包括對(duì)規(guī)則的提取應(yīng)用這個(gè)簡(jiǎn)單環(huán)節(jié)，還包括了復(fù)雜的道德推理與價(jià)值判斷。面對(duì)疑難案件，法官裁判必須在遵守法律的基礎(chǔ)上體現(xiàn)對(duì)人自身價(jià)值、尊嚴(yán)和美好情感的維護(hù)。

（二）困境方面

體現(xiàn)為從2015 年起，中國(guó)各級(jí)法院受理的案件總數(shù)接近1800 萬(wàn)件，而2021 年，中國(guó)法院受理的案件數(shù)量為3051 萬(wàn)件，僅6 年就翻了將近一翻。2015 年司法改革后，中國(guó)員額法官人數(shù)大幅下降，基層法院的人均受案量也會(huì)遠(yuǎn)高于240 件。在如此龐大的工作量面前，法官們不堪重負(fù)，可能很難兼顧公正和效率這兩層價(jià)值。

二、人工智能審判優(yōu)勢(shì)及限度

要想了解人工智能審判的優(yōu)勢(shì)與限度，那就首先要知道人工智能是如何進(jìn)行審判的。目前司法人工智能的演化過(guò)程中形成了兩種人工智能的技術(shù)路徑。第一種是由法律知識(shí)引導(dǎo)，形成了基于規(guī)則（rule-based）和基于案例（case-based）兩類法律推理形式的可計(jì)算模型；第二種是由大數(shù)據(jù)驅(qū)動(dòng)，使用機(jī)器學(xué)習(xí)技術(shù)的法律解析（又稱法律文本挖掘）建模路徑。［5］這兩種路徑是目前人工智能與司法融合使用的普遍方法。

（一）人工智能審判優(yōu)勢(shì)

人工智能軟件在效率和規(guī)模方面具有巨大的優(yōu)勢(shì)。在人類作出一個(gè)法庭裁決的時(shí)間內(nèi)，它會(huì)不知疲倦地處理數(shù)以千計(jì)甚至是萬(wàn)計(jì)的判決。人工智能軟件的代碼速度快，并且可以以較低的成本運(yùn)行。如果將常規(guī)的審判程序在人工智能的加持下實(shí)現(xiàn)自動(dòng)化，那么則將會(huì)產(chǎn)生一個(gè)更快更高效的法律審判體系，也會(huì)釋放大量稀缺且訓(xùn)練有素的人類判決資源。讓法官做他們最擅長(zhǎng)的事情，即多培養(yǎng)法官自身獨(dú)有的價(jià)值判斷優(yōu)勢(shì)，簡(jiǎn)單而日常的判斷交給機(jī)器即可。

（二）人工智能審判限度

1.算法“黑箱”及人工智能技術(shù)的“不可解釋性”

在人工智能領(lǐng)域，輸入數(shù)據(jù)和輸出答案直接存在著一個(gè)不可被觀察的空間，這個(gè)空間通常被稱為信息“黑箱”，也正是這個(gè)信息“黑箱”引發(fā)了人工智能是否具有可解釋性的問(wèn)題。［6］這就意味著人工智能本身的思考方式是無(wú)法被看到的。對(duì)于一個(gè)公正的司法判決來(lái)說(shuō)，論證說(shuō)理無(wú)疑是最重要的環(huán)節(jié)，即使人工智能可以作出準(zhǔn)確的預(yù)測(cè)判決，但是因?yàn)槿祟惣夹g(shù)有限，卻無(wú)法解釋它是如何得出判決的。這不僅是對(duì)當(dāng)事人基本權(quán)利的侵犯，而且是危及程序正義的體現(xiàn)。當(dāng)前的刑事司法方面控方本就擁有在數(shù)據(jù)采集方面的天然優(yōu)勢(shì)，如果不受限制地使用人工智能的黑箱算法，那么將會(huì)使原本脆弱的辯方更難以有效抗辯。［7］

2.人工智能對(duì)于疑難案件的裁判不能

在疑難案件的司法判決過(guò)程中，不僅需要理性的邏輯，也融合了人性與情感。法官的工作不僅是簡(jiǎn)單根據(jù)法律規(guī)則來(lái)判斷案件，而且還要根據(jù)法律原則、道德和對(duì)細(xì)節(jié)的洞察來(lái)作出判斷。對(duì)于這些新型案件，人工智能明顯不能夠勝任。第一，對(duì)于這些案件的裁判很難從現(xiàn)有的法律規(guī)定中找到直接的答案，因此人工智能很難形成基于規(guī)則（rule-based）的計(jì)算模型，也無(wú)法進(jìn)行法律文本挖掘建模路徑；第二，對(duì)于這些新型疑難案件，因?yàn)槠洫?dú)特性、時(shí)效性，所以很難在我國(guó)范圍內(nèi)找到同類型大量案件可供人工智能學(xué)習(xí)，因此基于案例（case-based）的計(jì)算模型的建設(shè)也會(huì)遇到數(shù)據(jù)不足的障礙。

3.裁判文書的特性使人工智能對(duì)其分析不能

第一，裁判文書數(shù)量問(wèn)題。裁判文書網(wǎng)在涉未成年人違法犯罪、涉國(guó)家秘密和個(gè)人隱私等方面的案件處于空白狀態(tài)。人工智能對(duì)于這方面的案例學(xué)習(xí)也幾乎處于空白狀態(tài)。第二，裁判文書質(zhì)量問(wèn)題。中國(guó)裁判文書網(wǎng)雖然數(shù)據(jù)多，但由于不同地區(qū)的司法水平參差不齊，一些判決的分析和論證過(guò)程太短，是否能支撐高質(zhì)量的人工智能數(shù)據(jù)分析還是未知。并且對(duì)于真正記錄法官分析過(guò)程的合議庭筆錄、審理報(bào)告等內(nèi)部文書并沒(méi)有公開(kāi)，［8］導(dǎo)致人工智能只能借助有限的信息分析，這無(wú)疑會(huì)影響機(jī)器學(xué)習(xí)的質(zhì)量。

三、以Facebook 和Twitter 為例的“人類—機(jī)器混合系統(tǒng)”研究

上文筆者分別論述了人類法庭裁判和人工智能裁判的優(yōu)勢(shì)及限度，綜合來(lái)看它們現(xiàn)階段的缺點(diǎn)大多數(shù)無(wú)法通過(guò)技術(shù)手段規(guī)避，但是通過(guò)規(guī)則來(lái)規(guī)避人類審判和人工智能審判的缺點(diǎn)似乎是一種可行的方案。筆者希望通過(guò)介紹Facebook 與Twitter人機(jī)混合系統(tǒng)言論控制案例來(lái)找到法庭審判人機(jī)混合系統(tǒng)應(yīng)用的路徑。

在2010 年代中期，Twitter 和Facebook 開(kāi)始強(qiáng)調(diào)創(chuàng)造健康和安全的在線語(yǔ)音環(huán)境。這些平臺(tái)最早消極的語(yǔ)言控制辦法是由人類投訴驅(qū)動(dòng)，也是由人類執(zhí)行的。而如今美國(guó)作為人機(jī)混合系統(tǒng)控制網(wǎng)絡(luò)語(yǔ)言最先進(jìn)的國(guó)家，這些系統(tǒng)已經(jīng)成熟地將人和機(jī)器的元素結(jié)合起來(lái)。

（一）人工智能防線

作為第一道防線的主動(dòng)過(guò)濾器，它可以阻止某些形式的內(nèi)容被發(fā)布。以提供Youtube 公司發(fā)明的Content ID 過(guò)濾軟件系統(tǒng)為例，它將上傳的視頻與受版權(quán)保護(hù)的材料數(shù)據(jù)庫(kù)進(jìn)行比較，以確定視頻是否侵犯版權(quán)。自2013 年以來(lái)，各大平臺(tái)都使用了類似的系統(tǒng)PhotoDNA，該系統(tǒng)可以主動(dòng)檢測(cè)兒童色情視頻并防止其被發(fā)布。主要平臺(tái)還有主動(dòng)屏蔽功能，以阻止恐怖主義宣傳。如今，Twitter 和Facebook 已經(jīng)開(kāi)始在內(nèi)容審核方面引入更多深度學(xué)習(xí)模型，利用人工智能技術(shù)優(yōu)化算法，提升審核能力。而對(duì)于那些人工智能不能解決的棘手案子，則需要人類接手。

（二）人類審查防線

2018 年11 月15 日，扎克· 伯格表示，F(xiàn)acebook 將參照“最高法院”的模式成立一個(gè)獨(dú)立的監(jiān)督機(jī)構(gòu)，以解決有關(guān)內(nèi)容審查的投訴。該機(jī)構(gòu)將于2019 年正式成立，以在言論自由和公民安全需求之間達(dá)成平衡。用此種方式來(lái)充實(shí)當(dāng)前的審查流程。該委員會(huì)由無(wú)利害關(guān)系方組成。他們作為獨(dú)立人士審查疑難案件，并在兩周內(nèi)做出書面決定，他們有權(quán)力否決Facebook 的前期決定并提出自己的建議，但不能改變審查的規(guī)則。

自2016 年以來(lái)，Twitter 一直在更新社區(qū)政策，引入算法識(shí)別和手動(dòng)審查來(lái)建設(shè)標(biāo)準(zhǔn)化平臺(tái)，限制垃圾郵件賬戶和低質(zhì)量?jī)?nèi)容。Twitter 擁有一個(gè)以總法律顧問(wèn)辦公室為中心的高度審慎的政策小組，以此來(lái)解決最棘手的問(wèn)題。政策小組內(nèi)有一個(gè)負(fù)責(zé)棘手的案件和政策的重大變化的領(lǐng)導(dǎo)委員會(huì)，該委員會(huì)審查依據(jù)的是一個(gè)不斷更新的內(nèi)容指南。

四、“人類—機(jī)器混合審判模式”展望

人類審判保證裁判可接受可解釋，滿足了公正的要求，機(jī)器審判保證裁判效率高，滿足了效率的要求。在筆者看來(lái)二者的價(jià)值都不可偏廢，因此將二者有機(jī)結(jié)合形成以人為中心的“人類—機(jī)器混合審判模式”或許是一個(gè)可行的路徑。

（一）速裁案件先行使用機(jī)器自動(dòng)審判

無(wú)論是民事速裁程序還是刑事速裁程序，其本身就是在效率和公正兩個(gè)價(jià)值之間進(jìn)行選擇，而這種程序的最終原則即在公正的基礎(chǔ)上追求效率。速裁案件的案情較為簡(jiǎn)單、法律關(guān)系明確，法院在應(yīng)對(duì)此種案件時(shí)可能不會(huì)涉及復(fù)雜的價(jià)值判斷，而僅僅就是適用法律即可。此類案件可以讓機(jī)器完全參與，由人工智能根據(jù)指控自動(dòng)提取案件的相關(guān)情況，識(shí)別簡(jiǎn)單的證據(jù)要素，并進(jìn)行量刑預(yù)測(cè)且自動(dòng)生成判決書。速裁案件在當(dāng)前甚至今后都是法院審判模式的重要選擇之一，如果可以成功適用人工智能參與審判，那么所釋放出的司法資源無(wú)疑是相當(dāng)可觀的。

（二）繁簡(jiǎn)分流案件

盡管現(xiàn)在的人工智能根據(jù)案例或根據(jù)法律分析學(xué)習(xí)人類的裁判方式，但是在復(fù)雜案件中的缺陷使得我們應(yīng)該根據(jù)案件的性質(zhì)設(shè)置人工智能的參與強(qiáng)度，從而使法官和系統(tǒng)之間的人機(jī)合作更加恰當(dāng)和相稱。［4］在繁簡(jiǎn)分流的改革要求下，簡(jiǎn)單案件與疑難案件在立案環(huán)節(jié)就應(yīng)該進(jìn)行區(qū)分，根據(jù)案件的復(fù)雜度來(lái)確定人工智能參與的比率。而復(fù)雜度的參考因素可能包括對(duì)人類實(shí)體權(quán)利的侵犯程度、對(duì)價(jià)值判斷的涉及程度、是否存在立法空白、是否需要進(jìn)行道德推理等。將案件根據(jù)復(fù)雜度進(jìn)行等級(jí)劃分，復(fù)雜度越高的案件人類參與的比率也應(yīng)當(dāng)越高，機(jī)器參與的比率應(yīng)當(dāng)減少。將案件按照復(fù)雜度進(jìn)行繁簡(jiǎn)分流，達(dá)到了針對(duì)不同案件選擇程序，同時(shí)滿足了公正和效率的要求。

（三）充分尊重當(dāng)事人的選擇權(quán)

作為一種新興的審判模式，對(duì)于不同接受程度的大眾來(lái)說(shuō)必然會(huì)有不同的意見(jiàn)。而作為法官一定要賦予當(dāng)事人程序選擇的權(quán)利，具體原則應(yīng)當(dāng)為：即使是最簡(jiǎn)單的速裁程序，法院也只有讓案件進(jìn)行機(jī)器審判的建議權(quán)，最終的決定權(quán)在當(dāng)事人手中。若當(dāng)事人不愿進(jìn)行機(jī)器審判，那么法院則不能使用機(jī)器審判，并且要禁止法官運(yùn)用人工智能進(jìn)行判決預(yù)測(cè)，避免出現(xiàn)先入為主的理念。因?yàn)閺?fù)雜的案件涉及的范圍不僅是案件的當(dāng)事人，也會(huì)在社會(huì)中形成討論，因此就應(yīng)當(dāng)對(duì)這些案件的可解釋性提出更高的要求。而在前面分析人工智能審理案件的缺陷中就提到了算法“黑箱”和不可解釋性是現(xiàn)在技術(shù)無(wú)法突破的難題之一。因此我們要在程序設(shè)計(jì)過(guò)程中盡量規(guī)避其缺陷帶來(lái)的危害。

五、結(jié)語(yǔ)

人工智能作為人類智慧的結(jié)晶，已經(jīng)不斷應(yīng)用于我們生活的方方面面。在司法裁判方面，人工智能目前來(lái)看還不能取代法官在裁判案件中的主導(dǎo)地位，但是其作為輔助工具應(yīng)當(dāng)具有不可小覷的價(jià)值。尤其是在案件量激增而法官數(shù)量較少的大背景下，人工智能應(yīng)當(dāng)被賦予法官身邊的“另一個(gè)助理”的身份。如果能在合理制度安排的背景下使得在裁判案件中人機(jī)之間的協(xié)調(diào)一致，各司其職，那么將會(huì)對(duì)優(yōu)化司法資源配置、提高司法的效率產(chǎn)生積極的推動(dòng)作用。反之如果不能有效規(guī)制人工智能在司法裁判方面的應(yīng)用，那么將會(huì)對(duì)司法公正產(chǎn)生致命的破壞作用。