智慧司法中技術依賴的隱憂及應對

文/張凌寒

技術創(chuàng)新驅動了社會生產與生活方式的變革，也給司法領域帶來了革命性改變。我國的智慧警務、智慧司法、智慧檢務等重大建設方案也紛紛出臺落地，人工智能技術在其中扮演了核心角色并發(fā)揮了重要作用。

人工智能技術起到的作用大致可以分為以下兩類：一類是信息收集與管理技術，旨在實現司法業(yè)務相關信息的收集工作，并促進信息在司法環(huán)節(jié)中的順暢流轉；另一類是信息處理技術，旨在應用人工智能技術實質性地處理法律案件。我國偏重第二類的信息處理技術，因此，國家積極推進智慧檢務、智慧司法等涉及司法實務各個流程的制度建設，提出了“全流程網上辦案”并積極研發(fā)“數據＋算法”的司法輔助系統(tǒng)。

但是，在司法裁判中對信息量與處理速度的過度追求，可能造成司法裁判中的信息過載、司法決策權力讓渡給算法決策系統(tǒng)、司法機關過度依賴技術公司等一系列問題。這些新問題對現有司法制度中的正當程序、權力專屬原則等提出了挑戰(zhàn)，如何在智慧司法如火如荼的建設中規(guī)避與應對此類問題，將成為人工智能時代必須解決的重要課題。

從技術輔助到技術主導：人工智能驅動下的智慧司法變革

在智慧司法建設中，對司法系統(tǒng)影響最大的技術應用方式與邏輯可從三個方面展開：事關法律事實認定的證據收集與采信，有關司法決策的決策輔助系統(tǒng)，以及以技術主導為理念的司法系統(tǒng)改造工程。在國家大力推進的智慧司法系統(tǒng)建設中，技術的影響從輔助逐漸走向主導。

（一）證據運用中的技術應用

在智慧司法中，有關證據的收集、存證和采信的技術應用構成了技術影響從輔助轉向主導的起點。第一，在證據收集中，技術手段深刻改變了證據信息收集的方式、時間節(jié)點與收集對象。第二，在存證過程中，電子證據的大量增加及其在證明案件事實中的作用日益重要，使得“區(qū)塊鏈存證”成為證據保存的重要制度。第三，在證據采信中，為了使計算機系統(tǒng)識別出案件要素與證據標準，從而進行自動關聯(lián)匹配，“證據標準數據化”成為智慧司法的基礎性環(huán)節(jié)。

（二）具體司法決策中的技術支持

通過技術支持法官的日常工作與司法決策，減輕法官的事務性工作負擔，提高司法效率，一直是智慧司法建設的核心價值目標。對司法決策的技術支持，也從發(fā)揮簡單的辦公便利輔助功能逐漸深入到對法官的決策產生實質性影響。

首先，技術將法官從行政事務中解放出來。2016年發(fā)布的《最高人民法院信息化建設五年發(fā)展規(guī)劃（2016—2020）》的核心目標之一就是利用信息系統(tǒng)和智能化服務，將法官從大量具體、繁瑣的事務中解放出來，提升法官的司法能力。

其次，技術系統(tǒng)為法官提供決策支持。最高人民法院提出，要建設基于大數據智能服務的審判支持系統(tǒng)，實現“部分法院基于人工智能、虛擬現實完善審判支持系統(tǒng)，實現審判支持精準化、高效化”。

最后，在某些司法場景中技術系統(tǒng)直接取代了人類的決策?！度嗣穹ㄔ盒畔⒒ㄔO五年發(fā)展規(guī)劃（2019—2023）》中規(guī)定，“需要構建大數據分析系統(tǒng)……，為人民群眾提供司法公開和類案智能推送、訴訟結果預判等訴訟服務智能服務，為審判執(zhí)行提供決策支持和監(jiān)控預警智能服務，為司法管理提供司法研究和工作評估智能服務”。

（三）智慧司法系統(tǒng)建設中的技術主導

技術系統(tǒng)不僅是提高效率提供便利的工具，更是從深層次推動了治理能力現代化中的司法制度改革。這種技術對司法系統(tǒng)建設的深度影響體現在具體技術應用、司法技術系統(tǒng)建設等層面，同時對傳統(tǒng)法律制度提出了不容忽視的挑戰(zhàn)。

首先，以具體技術應用中最為常見的類案推送為例，其已經從技術輔助系統(tǒng)升格為最高人民法院對法官的制度性要求。最高人民法院構建了跨層級、跨地域、跨部門、跨業(yè)務的“大數據管理和服務平臺”，法官和普通公眾可以利用其智能推送功能，從該平臺海量裁判文書中搜索出相類似的案件材料。

其次，通過司法平臺化建設對司法系統(tǒng)進行全面升級與改造本身就是智慧司法建設的目標。國務院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》明確“智慧法庭”建設要平臺化，將線下工作搬到線上，實現司法任務執(zhí)行網絡化、可視化和平臺化。

（d）變更：當用戶的分配部門或崗位、密級等其他信息發(fā)生變化后，系統(tǒng)管理員在權威數據源中對用戶信息進行修改和更新，然后通過（b）、（c）兩個步驟將用戶信息同步至統(tǒng)一用戶身份庫，然后由統(tǒng)一用戶身份管理系統(tǒng)統(tǒng)一更新并同步該用戶關聯(lián)的其他信息系統(tǒng)中的賬戶信息。

在技術建設的推進下，司法公開、公正、透明等價值得到凸顯與放大，傳統(tǒng)的司法制度也面臨著變革。一方面，技術推動司法公開達到前所未有的水平，人民法院在裁判文書公開、庭審公開、審判流程公開和執(zhí)行信息公開領域建設了四大公開平臺。另一方面，傳統(tǒng)司法制度面臨著技術變革帶來的挑戰(zhàn)，這已成為制約智慧法院建設的瓶頸因素。

綜上所述，在智慧司法中本為輔助司法流程開發(fā)的技術應用，最終卻引發(fā)了技術主導下的司法制度變革。那么，在技術主導下的司法制度深刻變革中，智慧司法建設存在哪些隱憂與挑戰(zhàn)呢？

從技術主導到技術依賴：智慧司法中技術應用的挑戰(zhàn)與隱憂

在技術介入司法的過程中，司法決策與智慧司法系統(tǒng)建設可能產生技術依賴。這種具體司法決策中人對技術的依賴和系統(tǒng)建設中司法機關對技術公司的依賴，可能給權力專屬原則、司法監(jiān)督制度和責任分配制度帶來挑戰(zhàn)。

（一）從技術主導到技術依賴：技術介入司法的挑戰(zhàn)

技術依賴既是指在具體的司法決策中個體對技術支持的依賴，也是指司法機關在智慧司法建設中困于自身技術力量，不可避免產生的對技術公司的依賴。

首先，在司法決策中產生技術依賴。傳統(tǒng)的司法組織和法官的判斷力及其威權在技術控制中逐步下降，人（司法機關）與技術的關系從技術輔助走向技術主導，并有可能繼續(xù)滑向技術依賴。技術系統(tǒng)架構下僵化的信息種類、模式與評價指標必然導致信息多樣化受損，靈活的人類決策模式逐步被替代。同時，追求類案同判與降低自由裁量權的制度目標，必然使司法決策變得可預期、普遍化與系統(tǒng)化，這進一步加大了推翻機器決策的難度。

其次，在平臺系統(tǒng)建設中產生技術依賴。司法機關不僅需要從技術公司購買技術，還需要技術公司長期提供技術以對相關系統(tǒng)進行維護和改造。技術公司為了壟斷相關技術領域，會以涉及商業(yè)秘密為由拒絕將技術開源或者公布，這會進一步強化這種依賴關系。

（二）智慧司法中技術依賴帶來的隱憂

具體決策和系統(tǒng)建設中的技術依賴，可能導致以下問題：

第一，技術對司法專屬原則的挑戰(zhàn)引發(fā)正當性難題。龐大的司法信息化市場使得技術公司有動機批評傳統(tǒng)的人類審判模式，推銷自身的“精準、公開、高效”的技術替代方案。平臺系統(tǒng)建設的政策驅動帶來相關科技市場的繁榮，但不可避免地以將自由裁量與解釋法律的權力部分地交給技術系統(tǒng)（公司）為代價。

第二，判定標準與程序的缺失導致監(jiān)督難題。既往針對人類法官的司法決策監(jiān)督機制和程序遭遇了前所未有的挑戰(zhàn)。智慧司法中技術系統(tǒng)的輸出結果直接關系到法律事實認定與司法裁判結果，但缺乏具有公信力的、統(tǒng)一的技術標準。與此同時，監(jiān)督檢測智慧司法中技術系統(tǒng)的程序也尚未建立，這使得算法系統(tǒng)決策的準確率無法保證，一旦出錯可能造成無法挽回的損失。

第三，責任鏈條分配產生追責難題。首先，人工智能技術系統(tǒng)的開發(fā)和運行通常是在復雜和動態(tài)的環(huán)境中進行的，當發(fā)生錯誤決策時，如何在復雜的責任鏈條中認定責任與分配責任？其次，人類法官和機器混合作出決策將逐漸成為未來司法的常態(tài)。審判責任分配的第一種方式是完全讓法官承擔責任，這個方式必然會引發(fā)法官對技術系統(tǒng)的不信任；第二種方式是完全由人工智能的設計者或者生產者承擔責任，這極有可能導致司法機關對人工智能技術的濫用。最后，多個技術疊加于某個系統(tǒng)、多環(huán)節(jié)技術系統(tǒng)互動已經成為智慧司法的常態(tài)，在技術之間出現交互錯誤時，難以勘定與及時更正，追究責任更是難上加難。

應對技術依賴的理念與制度：勘定技術嵌入司法權力的邊界

人工智能時代的人機關系并非新的命題，但基于司法活動在人類社會中的定分止爭作用與在權力體系中的地位，技術介入司法活動應更為謹慎。對于智慧司法中的人機分工，可從以下三個層次討論：

（一）控制機制：司法裁判相關信息的準入與流出

當信息技術觸及司法領域，需要受到司法活動自身規(guī)律的限制，智慧司法應當在信息的質與量上都進行合理的控制。否則，智慧司法將面臨大量的信息噪聲和信息失真現象，最終難以從紛繁的信息數據中提取真正有益的信息。

司法裁判依賴的信息包括兩大類：一是有關案件本身的信息；二是為司法裁判決策提供支持的“類案”信息。這兩大類信息均應貫徹“信息準入”的理念。第一，在司法裁判中，有關案件本身的信息對法律事實認定與司法決策生成至關重要，因此，在智慧司法階段仍然要堅持“信息準入制度”。第二，對類案檢索的支持系統(tǒng)也需進行質與量的控制，總量多與有意義的案件數量足夠多并無必然聯(lián)系，進行量的控制可避免司法效率的降低。

從司法領域流出的信息并非越多越好，要受到司法規(guī)律和特點的限制，要從公開范圍和信息種類的層面合理控制信息流出。第一，司法信息公開的原則是尊重司法規(guī)律與法官尊嚴。具體而言，一是要尊重法庭尊嚴，控制司法信息流出的范圍；二是要保障法官主體性地位，控制司法信息公開的種類。第二，司法信息公開的底線是尊重司法倫理與保護當事人權益。司法信息公開的尺度需在司法公開與尊重法官主體性和當事人權益之間找到平衡，既不得影響法官獨立、公正行使審判權，也不得過分暴露當事人的隱私及個人信息。

（二）司法決策：人類“算法”與機器算法的合理分工

一個具體司法決策并不是人類決策和機器決策的簡單加合，而是有機混合的系統(tǒng)化結果。人類算法與機器算法的合理分工，意味著具體司法決策可兼顧司法的公平、效率、靈活、人文關懷等價值，并避免人類決策和機器決策的弊端。

在外部制度構建上，需要在具體司法決策中避免人類對機器決策的技術依賴，將具體司法決策看作整體社會系統(tǒng)的一部分，而非單純的人類與算法決策的關系問題。第一，智慧司法的技術系統(tǒng)設計需注重信息收集的多樣化，避免信息減損影響決策質量。第二，智慧司法的技術系統(tǒng)需重視人文主義的設計理念，充分發(fā)揮人的主體性作用，以規(guī)避技術系統(tǒng)可能帶來的機械化偏差。第三，智慧司法的技術系統(tǒng)需注重架構設計與更新頻次，其一是注重智慧司法系統(tǒng)中法官與技術系統(tǒng)互動的架構設計，其二是智慧司法的技術系統(tǒng)必須強制更新。

在內部合理分工上，需從人機混合決策系統(tǒng)的合理標準出發(fā)，設置鼓勵人類參與的責任框架體系和合理的事后責任追究制度。第一，合理的人機混合決策標準是人類與算法各司其職，而非“人在環(huán)中”（human in loop）。第二，設置鼓勵人類參與的司法責任追究制度，保留人在算法決策中的參與，以回應社會對于自動化決策的擔憂。

（三）系統(tǒng)建設：謹慎應對技術權力與司法權力的共建

在智慧司法的制度建設中，應謹慎應對技術權力與司法權力的共建，在智慧司法系統(tǒng)謀求高質量技術支持的同時，增強司法機關對技術權力的掌控能力，避免司法系統(tǒng)對技術公司的技術依賴。

要增強司法系統(tǒng)的技術掌控能力。避免智慧司法系統(tǒng)建設的技術依賴，需要突出強調司法機關在與技術資本合作中的相對獨立性和主導性。第一，要抑制司法機構的惰性，避免將智慧司法建設簡單地全盤外包給各類技術公司。第二，應強化司法部門技術能力，使得司法部門能夠對司法系統(tǒng)與技術公司的合作關系事宜作出合理判斷，避免智慧司法系統(tǒng)建設被算法綁架、被技術公司控制。第三，智慧司法建設應構建技術標準體系，并建立詳細的采購程序來對其進行控制。

要明晰智慧司法的責任鏈條。要防止無責任的權力和無代價的技術，貫徹司法問責制等傳統(tǒng)制度，進而維持司法系統(tǒng)的穩(wěn)定和秩序，避免過于強調效率、利益的智慧司法系統(tǒng)對司法責任制的沖擊。第一，將智慧司法技術系統(tǒng)的研發(fā)者、設計者、維護者共同納入司法問責的體系中，通過研發(fā)者責任、設計倫理等將其共同納入司法責任的治理框架中。第二，在人機混合決策中分配責任，明確技術系統(tǒng)與人類共同的司法責任，避免動因遷移（agentic shift）使技術成為人類推卸責任的對象。

結語

技術嵌入司法系統(tǒng)必須有明確的權力邊界，以避免技術依賴的產生。技術嵌入司法系統(tǒng)，既要避免混淆技術處理海量信息的邊界，有效篩選對于司法有意義的信息，控制司法信息的流出與流入；又要在人類和機器之間合理分工，明確人類與機器決策之所長，充分利用各自的決策優(yōu)勢而規(guī)避其劣勢。除此之外，還要警惕技術公司、技術資本對司法權力的侵蝕，增強司法系統(tǒng)對于技術權力的掌控能力，并合理進行司法責任的分配。