人工智能在我國司法審判中的應(yīng)用及限制

陳陽 榮威

（河南大學(xué)法學(xué)院 河南開封 472000）

近年來，人工智能技術(shù)開始在我國的司法審判中的發(fā)揮了重要作用，2015年7月，最高人民法院首次提出了“智慧法院”的概念，2017年4月20日，最高人民法院印發(fā)《最高人民法院關(guān)于加快建設(shè)智慧法院的意見》，對“智慧法院”的內(nèi)容建設(shè)作出了相關(guān)要求，2017年7月8日國務(wù)院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，對智慧法庭的建設(shè)作為未來發(fā)展的重點任務(wù)。我國各級法院迅速在司法裁判中開始了對人工智能技術(shù)的應(yīng)用，最高人民法院推出了“法研智庫”系統(tǒng)，為全國各級法院的法官提供了統(tǒng)一的類案檢索平臺。同時，各地法院也展開了相應(yīng)的司法人工智能建設(shè)工作，北京法院的智能研判系統(tǒng)“睿法官”、上海法院的“上海刑事案件智能輔助辦案系統(tǒng)”、江蘇法院的“法務(wù)云”、河北法院的“智審”、重慶法院的“金融云法庭”等。[1]人工智能技術(shù)的廣泛運用，幫助我國法院建立了集電子化卷宗、信息網(wǎng)上公開、類案推送輔助系統(tǒng)、現(xiàn)代管理平臺為一體的新型審判模式。

一、人工智能在司法審判中的應(yīng)用分析

（一）服務(wù)型應(yīng)用。一方面，人工智能技術(shù)的應(yīng)用改變了傳統(tǒng)的單一固定場所庭審形式，新興科技和數(shù)字經(jīng)濟的發(fā)展，降低了社會的相關(guān)性與空間臨近性之間的聯(lián)系，對于多數(shù)社會活動來說，距離和環(huán)境已經(jīng)不再是影響其結(jié)果的決定性因素。[2]我國的智慧法院建設(shè)將智能化、陽光化、網(wǎng)絡(luò)化作為發(fā)展方向，目前全國范圍內(nèi)的多家法院均已實現(xiàn)了遠程開庭、庭審直播等新型司法審判形式，通過技術(shù)手段在網(wǎng)上完成人臉識別、證據(jù)上傳、電子筆錄、網(wǎng)絡(luò)抗辯等流程，以“云法庭”取代現(xiàn)實中的面對面庭審，一次庭審中可以同時包括多角色，在多場所同時進行，在這樣的立體情境下，每個當事人都可以參與和分享庭審信息，司法審判變得更加靈活。另一方面，人工智能技術(shù)在司法服務(wù)管理中的應(yīng)用，提升了司法服務(wù)的智慧化和便捷化，2019年，全國已有97.8%的法院支持網(wǎng)上立案，其中高級法院支持率為100%，全國各高級法院終本案件信息公開也達到了100%，[3]當事人立案難的問題已經(jīng)成為歷史，智慧法院實現(xiàn)了全方位、多角度、零距離對群眾進行服務(wù)的目標。同時，為保障司法權(quán)的陽光運行，對審判流程進行了可視化的智能跟蹤管理，對法官業(yè)績采取了數(shù)字化智能評價，做到了辦案過程的全程可視、全程監(jiān)督，從而更好地維護司法公正。

（二）審判輔助型應(yīng)用。

1.語音識別技術(shù)提高庭審效率。目前語音識別技術(shù)被各法院廣泛應(yīng)用在庭審筆錄的環(huán)節(jié)中，裁判文書中的當事人信息等具有固定格式的內(nèi)容可以通過人工智能直接一鍵生成，在法庭中所配置的語音識別軟件，可以自動對裁判參與者的發(fā)言進行識別并轉(zhuǎn)化成文字，生成符合規(guī)范要求的庭審筆錄，書記員只需要對筆錄內(nèi)容進行校對，減輕了繁重機械的記錄工作，降低了法官和書記員的工作壓力，提高了庭審效率。

2.類案智推功能保障同案同判。人工智能通過其自身的深度學(xué)習能力和大數(shù)據(jù)處理整合能力，可以對大量的司法數(shù)據(jù)進行批量的抓取和分析，進行數(shù)字化、編碼化，構(gòu)建集全方位法律數(shù)據(jù)為一體的多維數(shù)據(jù)庫，實現(xiàn)對司法裁判的法條關(guān)聯(lián)和類案推送。例如，目前全國各法院都在使用的“法研智庫”系統(tǒng)，就是一款由最高人民法院研發(fā)并推廣的具有類案推送功能的法律數(shù)據(jù)庫，法官在審理案件時，輸入該案件的關(guān)鍵詞和相關(guān)條件，司法人工智能可以自動對案情進行分析，推送相關(guān)法條、相似案例、裁判意見等辦案指引，既幫助法官節(jié)省檢索相應(yīng)數(shù)據(jù)時間，對重要信息進行精準匹配，又契合了國家司法體制改革大力推行案例指導(dǎo)制度的題中之意，同時，類案推送功能的應(yīng)用也能反過來對司法審判進行對比監(jiān)督，保障相關(guān)法律的準確適用，避免同案不同判問題的產(chǎn)生。

3.深度學(xué)習能力自動生成裁判文書。隨著技術(shù)的進步，人工智能的深度學(xué)習能力也在不斷提高，在司法裁判過程中，可以準確判斷法官分析邏輯的各個節(jié)點，并進行分類模仿學(xué)習，從而做到自動糾錯，并輔助裁判文書的生成。同時，人工智能技術(shù)在數(shù)據(jù)的不斷積累和技術(shù)的改進中也在不斷地自我提高，除了基本的裁判文書以外，可以根據(jù)案件具體需求自動生成起訴書、執(zhí)行裁定、通知書、備忘錄等多種其他類型的法律文件。法官對人工智能自動生成的裁判文書進行審核，對其中的錯誤內(nèi)容進行修改和反饋，從而促進人工智能技術(shù)的改進和完善，實現(xiàn)了人機協(xié)作高效和諧的局面。

人工智能在司法審判中的使用，不僅是技術(shù)發(fā)展外部環(huán)境的推動，同時也是司法審判內(nèi)在需求的帶動。如波斯納所說“公正在法律中的第二層含義是指效率”，[4]司法審判以對公平公正的保障為最高價值，但司法審判的效率價值同樣也該得到重視，如果司法審判無法保證效率，造成很多案件的積壓甚至超期，會對當事人造成十分消極的影響，直接影響著司法公正是否能夠?qū)崿F(xiàn)。一方面，隨著普法工作的大力開展，人們的法律意識逐步提高，隨之而來的是法院案件數(shù)量的大幅增長。2015年全國各級法院累計受理案件數(shù)量近1800萬件，而到了2020年全年所受理的案件量則達到了3000萬以上，僅5年的時間，增長了近7成。[5]與之相對應(yīng)的是，在2015年司法改革后，我國的員額法官數(shù)量大幅下降，由2015年的21萬人降至2020年的19.6萬人，2020年全國法官人均辦案量高達225件。在如此龐大的工作量面前，法官們不堪重負，難以兼顧司法公正和司法效率。由此，無論是從提高司法效率的角度還是對法官進行人性關(guān)懷的角度，都需要采用先進的人工智能技術(shù)，輔助法官的司法裁判。另一方面，司法審判兼具復(fù)雜性和專業(yè)性，要求法官有出色的案件分析能力并對相關(guān)法律規(guī)定熟練掌握，法官通常需要通過長時間的學(xué)習和經(jīng)驗積累，隨著經(jīng)濟的不斷發(fā)展，社會關(guān)系日趨復(fù)雜，司法審判中所面臨的案件更為多樣，法律規(guī)則為了適應(yīng)社會的需求也在不斷變更，法官個人精力畢竟有限，需要通過人工智能的輔助來保障工作效率。

二、人工智能的應(yīng)用限制分析

（一）人工智能的發(fā)展障礙。

1.司法數(shù)據(jù)存在問題。人工智能技術(shù)雖然已經(jīng)在我國司法裁判中扮演了重要角色，為提高司法效率，保障同案同判做出了貢獻，但是人工智能的數(shù)據(jù)分析整合和深度學(xué)習能力，必須以其所依托的海量司法大數(shù)據(jù)為基礎(chǔ)，現(xiàn)有司法數(shù)據(jù)的質(zhì)量將直接對人工智能得出的結(jié)果準確性產(chǎn)生影響。我國的裁判文書網(wǎng)上目前所公開的各級法院裁判文書總量已經(jīng)超過了1億篇，如此龐大的文書數(shù)量為人工智能提供了豐富的學(xué)習內(nèi)容，但不可否認的是，雖然作為官方公開文件，這些裁判文書本身仍然存在一些問題。大量裁判文書中存在著用語非結(jié)構(gòu)化的問題，這對人工智能的文書內(nèi)容分析和提取造成了很大障礙；部分案件并未公開影響裁判結(jié)果的隱性決策因素，導(dǎo)致所得出的數(shù)據(jù)結(jié)論缺少客觀性和真實性；[6]在不同的特定歷史時期，我們對法律規(guī)定的理解和適用會隨著社會環(huán)境的改變同時發(fā)生變化，人工智能無法精準區(qū)分由于外部環(huán)境變化而帶來的法律適用變化，從而產(chǎn)生結(jié)果的偏差。

2.人工智能存在技術(shù)缺陷。人工智能獲得人類信任并廣泛應(yīng)用于司法裁判中的原因是其得出的結(jié)果符合人類的預(yù)期，多數(shù)人認為相比人類來說人工智能更容易克服偏見和傾向性，所得出的結(jié)果具有更高的準確性和客觀性。然而事實上，人工智能的算法本身，也存在著一些影響裁判客觀性的技術(shù)缺陷。首先，算法的編寫是基于技術(shù)人員所作出的判斷，但技術(shù)人員并不是專業(yè)的法律人士，甚至可能有些技術(shù)人員對法律知之甚少。這些技術(shù)人員所編寫的算法是否客觀公正，是否符合法律及道德的要求，代碼的規(guī)則是否透明準確，是否存在危害司法公正的“算法黑箱”，這些都是目前被學(xué)者們提出質(zhì)疑的問題。其次，法官在長期的審判過程中所累積的裁判經(jīng)驗和裁判思維，不能也無法被技術(shù)人員轉(zhuǎn)化為代碼寫進算法中，人類作為復(fù)雜的社會動物，維護司法公正的同時，也要權(quán)衡社會利益、機會、社會影響等因素。算法不能準確描述法官在審判中的社會心里因素，也感知不到其所作出的判決中所具有的“人的溫度”。人工智能通過冰冷的邏輯和機械的算法所得出的裁判結(jié)果，無法解決那些人類社會中并沒有明確的標準答案的問題。

（二）干擾法官自由裁量。法官在裁判過程中，根據(jù)多年積累的工作經(jīng)驗和法律素養(yǎng)，對案件如何選擇和適用法律發(fā)揮主觀能動性，并得出裁判結(jié)果，這種帶有一定自由的裁量權(quán)，有利于增加司法的靈活性，克服成文法中的滯后性等限制，維護司法個案的公平與正義。而人工智能作為技術(shù)工具完全適用機械模式，排除了價值判斷和情感化，具有了普遍性和非人格性等特征后，才能實現(xiàn)其在司法審判中可計算性、可重復(fù)性等使用邏輯。但是司法裁判作為對人類社會行為善惡是非的判斷，本身就超越了形式的合理性，包含著價值判斷的內(nèi)容，對于不同的案件情節(jié)，需要結(jié)合當事人訴求、社會影響、社會危害性等多重社會因素進行權(quán)衡考量，這樣的工作顯然是不能通過機械的技術(shù)邏輯來完成的。因此，當過度強調(diào)人工智能在司法審判中的地位，追求人工智能的技術(shù)邏輯做出的具有形式合理性的裁判結(jié)果時，難免會對法官的自由裁量權(quán)造成損害。當法官通過社會心理因素和審判經(jīng)驗得出的裁判結(jié)果與人工智能的結(jié)論存在較大差別時，在目前的司法實踐中拒絕采用人工智能的結(jié)論并不是一件容易的事，法官在承受自我懷疑和內(nèi)心糾結(jié)的同時，還要面對來自上級甚至社會輿論的壓力。如果法官采用了人工智能的結(jié)論導(dǎo)致了不良的后果，審判責任的承擔也是具有很大爭議的問題。這些情況的出現(xiàn)都在很大程度上干擾了法官在審理案件時的自由裁量權(quán)，反而對司法的實質(zhì)公正造成了影響。

（三）侵犯當事人相關(guān)權(quán)利。一方面，司法審判一直以控辯雙方平等對抗，法官居中做出裁判這樣穩(wěn)定的三角結(jié)構(gòu)維護著法律的平等和公正，若當事人之間力量嚴重不平衡，則會導(dǎo)致三角結(jié)構(gòu)穩(wěn)定性失衡，訴訟結(jié)果偏離平等理論的基本要求。而人工智能在司法裁判中的應(yīng)用則很有可能導(dǎo)致雙方出現(xiàn)力量失衡，影響三角結(jié)構(gòu)的穩(wěn)定性。在刑事訴訟、行政訴訟等一方當事人為公權(quán)力機關(guān)的情況中，不可否認公權(quán)力機關(guān)本來就具有相對的優(yōu)勢，人工智能技術(shù)的應(yīng)用會導(dǎo)致優(yōu)勢被進一步擴大，控辯雙方力量差距懸殊。例如公安機關(guān)同時兼具行政執(zhí)法職能和刑事偵查職能，一旦公安機關(guān)成為了行政訴訟案件中的當事人，在目前各機關(guān)數(shù)據(jù)庫“互聯(lián)互通、共建共享”的趨勢下，[7]公安機關(guān)不但可以從自己的刑事數(shù)據(jù)庫中獲取對己有利的數(shù)據(jù)，也可以通過數(shù)據(jù)共享平臺獲得其他政法機關(guān)的數(shù)據(jù)，甚至有可能通過數(shù)據(jù)的推送和共享影響法院裁判，這無疑增加了當事人的訴訟難度，削弱了公民的訴訟權(quán)。

另一方面，人工智能在司法裁判中的廣泛適用同時也引發(fā)了對隱私權(quán)保護的討論。數(shù)據(jù)時代下，我們所使用的各類app都受到了大數(shù)據(jù)算法的監(jiān)控，使用者的個人信息、瀏覽情況會被算法進行無差別搜集，而這些數(shù)據(jù)多數(shù)是被科技公司所掌握，如果不對人工智能進行嚴格限制，一旦數(shù)據(jù)泄露，會對公民隱私權(quán)造成嚴重侵犯。同時，人們在參與訴訟過程中的相關(guān)信息、個人隱私也會被人工智能全部搜集，生成新的信息，這些信息中甚至可能包含涉及到商業(yè)秘密、未成年保護以及國家機密和個人隱私的信息、一旦這些司法數(shù)據(jù)被入侵或者泄漏，會給公民的個人隱私安全甚至社會安全造成嚴重的損害。

三、人工智能的未來發(fā)展方向

（一）明確法官在司法審判中的主導(dǎo)地位。真正的司法審判并不是簡單地將案件內(nèi)容和相關(guān)法律“連連看”，組合成一張冰冷的裁判文書，而是包含了法官特有的經(jīng)驗與法律智慧，是法理與情理的結(jié)合。在將人工智能應(yīng)用于司法審判時必須明確法官在審判中的主導(dǎo)地位，人的社會糾紛必須由人來進行最終裁決，人工智能只能被作為輔助司法審判的工具，不能喧賓奪主影響了法官的自由裁量。一方面，應(yīng)當對人工智能在司法裁判中的運用范圍進行明確的限制，對于刑事案件這類涉及到公民人身、財產(chǎn)安全，會對社會公共安全產(chǎn)生嚴重危害的案件，應(yīng)當將人工智能的應(yīng)用限制在輔助量刑的范圍內(nèi)。刑事案件動輒涉及多方利益，社會容錯率低，因此對于這類案件的案情分析、法律適用以及罪名認定等重要問題，應(yīng)當限制對人工智能的使用，由法官來進行確定。人工智能僅限在案件罪名確定之后，對法官做出輔助性量刑建議，并由法官做出最終裁決。這樣既充分利用了人工智能技術(shù)的數(shù)據(jù)處理功能，又保障了該類案件得到準確公正的處理，強調(diào)了法官的主導(dǎo)地位。同理，對于行政案件和民事案件中需要進行價值判斷或情節(jié)嚴重的情況，也應(yīng)明確法官的主導(dǎo)作用，限制人工智能的使用。

另一方面，在對法官進行考核評價時，必須以法官的自由裁量權(quán)不受削弱為前提，應(yīng)當取消對法官運用人工智能的量化考核要求，評價法官的工作成績的標準應(yīng)該是案件的準確性，不該僅僅因為法官沒有采用人工智能給出的建議就對法官做出消極評價。從本質(zhì)上來說，法官是否采用人工智能技術(shù)，怎樣使用人工智能技術(shù)，是屬于其個人工作方法的問題，應(yīng)當適度允許差異化的存在，做出一刀切的硬性指標規(guī)定，既嚴重影響了法官的自由裁量權(quán)，不利于司法審判的實質(zhì)公正，也不符合客觀發(fā)展規(guī)律。

（二）提升對人工智能的改進與監(jiān)管。

1.實現(xiàn)知識的雙向互動。如上文所述，人工智能主要依靠算法進行相關(guān)的司法裁判工作，想要改善由于算法的設(shè)計人員缺乏法律知識造成的算法漏洞，不能僅僅依靠技術(shù)人員自己提升專業(yè)技術(shù)，必須要推動對相關(guān)知識的雙向?qū)W習，使法學(xué)理論和大數(shù)據(jù)技術(shù)深度融合，互相促進。一方面，法學(xué)專家們需要對人工智能的算法進行基礎(chǔ)的學(xué)習，最起碼需要掌握相關(guān)的知識與技術(shù)，從而有利于其在算法設(shè)計階段進行事前監(jiān)督，在了解算法基本概念的前提下，對技術(shù)人員給出合理的法律建議。另一方面，從事司法人工智能的技術(shù)人員同樣需要學(xué)習相關(guān)的法律知識，對法律的基本精神和原則主旨有較深程度的了解，這樣才能設(shè)計出真正符合司法審判需求的人工智能工具。同時，在大數(shù)據(jù)時代的背景下，僅讓從事司法審判工作的法官以及專家學(xué)習人工智能知識是遠遠不夠的，法學(xué)院校需要轉(zhuǎn)變傳統(tǒng)的單一教學(xué)模式，多學(xué)科之間交叉教學(xué)，在課程的設(shè)置中配置一定比例人工智能的相關(guān)課程，聘請專業(yè)的技術(shù)人員進行教學(xué)，注重對學(xué)生實踐能力的培養(yǎng)，培養(yǎng)出同時精通法律知識和人工智能技術(shù)的復(fù)合型人才，從而應(yīng)對大數(shù)據(jù)時代對司法審判的要求。

2.提升算法透明度。即使有相關(guān)的法律人員參與算法編寫的事前監(jiān)督工作，也不能完全打破技術(shù)的壁壘，杜絕“算法黑箱”的產(chǎn)生，必須要提升算法透明度，使算法的設(shè)計受到來自公眾的監(jiān)督。技術(shù)人員作為算法的設(shè)計者，自然也應(yīng)承擔起防止產(chǎn)生“算法黑箱”的義務(wù)，需要能夠?qū)λO(shè)計的算法進行明晰的解釋，使社會公眾了解算法的具體形成過程，以及其中所涉及到的數(shù)據(jù)采集、數(shù)據(jù)安全保護和設(shè)計目的等內(nèi)容?？紤]到算法可視化可能會造成對公司商業(yè)機密的侵犯，這里所要求的數(shù)據(jù)公開是有限的數(shù)據(jù)公開，僅對設(shè)計過程中可能會涉及“算法黑箱”的部分內(nèi)容進行透明化，不應(yīng)包括算法編寫技術(shù)中的算法模型和核心技術(shù)等商業(yè)秘密。

3.建立嚴格的審查監(jiān)督程序。首先，需要制定相關(guān)的算法審查內(nèi)部行業(yè)規(guī)范，我國目前在這類問題上并沒有相關(guān)的行業(yè)規(guī)范，實踐中遇到此類問題多數(shù)都是適用網(wǎng)絡(luò)信息安全方面的相關(guān)規(guī)范，為更好地規(guī)范設(shè)計者行為，必須要制定算法審查的內(nèi)部行業(yè)規(guī)范，對設(shè)計人員進行相關(guān)培訓(xùn)，為其培養(yǎng)正確的設(shè)計理念，當設(shè)計人員的行為違反相關(guān)規(guī)定時，要求其承擔相應(yīng)的法律責任。其次，建立專門的算法監(jiān)督檢驗機構(gòu)，由大數(shù)據(jù)方面的專業(yè)人士組成監(jiān)督成員對算法設(shè)計進行審查，這樣既可以避免上文所提到的對技術(shù)公司商業(yè)秘密的泄漏，又能降低算法中存在偏見和錯誤的可能性。最后，要充分發(fā)揮法官的主管能動性，建立完善的法官反饋機制。法官作為司法人工智能的主要使用者，在裁判過程中，發(fā)現(xiàn)人工智能存在錯誤或違背司法精神的地方要進行及時反饋，相關(guān)技術(shù)人員要積極配合修改，使算法更加符合司法審判的要求。

（三）加強對當事人權(quán)利的保護。

1.增強對司法數(shù)據(jù)保護力度。增強對司法數(shù)據(jù)的保護不僅是數(shù)據(jù)安全的需要，更是提高法院權(quán)威，提升公民對司法機關(guān)信任感的需要。一方面，法院作為司法數(shù)據(jù)的主要使用者，必須對數(shù)據(jù)安全負責，應(yīng)當建立相應(yīng)的保護制度，保證在使用數(shù)據(jù)時，當事人具有一定的知情權(quán)，這樣既有利于對數(shù)據(jù)的使用進行監(jiān)督，也能提高大數(shù)據(jù)時代下公民對個人信息保護的安全感；在進行數(shù)據(jù)采集和數(shù)據(jù)公開時，要對當事人的個人信息進行隱名處理，非因司法審判需求不得對這些私人信息進行查閱和公開。另一方面，在選擇司法人工智能的合作企業(yè)時，必須進行嚴格的篩選和考察，對該企業(yè)的相關(guān)人員素質(zhì)，企業(yè)資質(zhì)、過往工作情況以及數(shù)據(jù)安全保護能力等多種因素進行綜合分析考量，擇優(yōu)選用，并簽訂嚴格的保密責任，一旦該企業(yè)發(fā)生泄漏信息的情形，必須加大處罰力度，使其承擔遠高于違法成本的違約責任。同時，應(yīng)加大資金投入建立更強大的數(shù)據(jù)安全保護系統(tǒng)，防止數(shù)據(jù)被破壞，對相關(guān)司法數(shù)據(jù)要做到及時備案，以便對被破壞數(shù)據(jù)信息進行恢復(fù)，減少因數(shù)據(jù)損毀帶來的損失。

2.提升對隱私權(quán)的重視。大數(shù)據(jù)時代下，人工智能的發(fā)展和公民隱私權(quán)的保護之間的沖突由來已久，至今仍被社會各界關(guān)注，想要更好地保護司法數(shù)據(jù)的安全，除了做到上文中所提到的保護措施之外，必須提高對公民隱私權(quán)的重視，將對公民隱私權(quán)的保護作為保護司法數(shù)據(jù)安全的首要任務(wù)。本文同意鄭曦教授的觀點，可以在一定限度內(nèi)賦予公民更多個人隱私保護方面的權(quán)利，如被遺忘權(quán)。被遺忘權(quán)是指公民的個人信息不再有被權(quán)力機關(guān)合法使用的需要時，可以要求刪除或不再使用該信息的權(quán)利。[8]在司法審判結(jié)束后，公民應(yīng)當擁有要求刪除或封存涉及個人隱私信息的權(quán)利，這極大降低了公民隱私權(quán)由于違規(guī)泄漏被侵犯的風險。當然，公民使用被遺忘權(quán)保護個人隱私的同時也必須受到相應(yīng)的限制，不能對社會公眾知情權(quán)、言論自由和社會公共安全造成損害。