智慧法院倫理風(fēng)險的表現(xiàn)樣態(tài)及其化解進(jìn)路*

屈茂輝,謝 欣,2

(1．湖南大學(xué) 法學(xué)院,湖南 長沙 410082;2．美國明尼蘇達(dá)大學(xué) 法學(xué)院,明尼蘇達(dá)州 55455)

一 文獻(xiàn)綜述與問題提出

“智慧法院”最早由我國最高人民法院提出[1],其內(nèi)涵是充分運用互聯(lián)網(wǎng)、云計算、大數(shù)據(jù)、人工智能等技術(shù),可以促進(jìn)審判體系與審判能力現(xiàn)代化,實現(xiàn)人民法院高度智能化運行與管理。智慧法院是數(shù)智時代科技運用與法院傳統(tǒng)業(yè)務(wù)進(jìn)行交融后應(yīng)運而生的新型樣態(tài)。[2]隨著智慧法院信息系統(tǒng)的建成及司法應(yīng)用與程序的開發(fā)越來越豐富,智慧法院的研究成果呈現(xiàn)遞增趨勢。

在智慧法院的概念涵義與定性方面,學(xué)者主要關(guān)注智慧法院本身的技術(shù)特性。例如有學(xué)者提出,智慧法院建設(shè)作為我國更大的信息化戰(zhàn)略的一部分,中國特色的智慧法院建設(shè)實踐成果,彰顯了法律與科技的深度融合,在推進(jìn)審判體系和審判能力現(xiàn)代化方面作出了巨大貢獻(xiàn)。[3]相應(yīng)地,另外一些學(xué)者從工具主義的維度探討了智慧法院為什么在根治“案多人少”方面存在制度優(yōu)勢。與傳統(tǒng)法院業(yè)務(wù)模式不同的是,智慧法院構(gòu)建了一種新的在線訴訟服務(wù)模式,它可以滿足人民群眾多層次、多樣化的司法需要,使處于網(wǎng)絡(luò)場景的訴訟程序逐漸優(yōu)化,破除“最后一公里”的司法障礙,消除當(dāng)事人因各種因素產(chǎn)生的訴訟不便,盡最大可能實現(xiàn)公平與正義,讓人民群眾在每一個司法案件中感受到公平正義,[4]在人工智能、大數(shù)據(jù)、互聯(lián)網(wǎng)等現(xiàn)代科學(xué)技術(shù)的基礎(chǔ)上,在司法訴訟方面進(jìn)行信息化改革,使法律與技術(shù)交匯融合,逐步形成司法管理以及訴訟程序的數(shù)字化、智能化。[5]大多數(shù)的研究都是采用智慧法院中技術(shù)運用的工具屬性來展開該領(lǐng)域論述的。我們應(yīng)該反觀的是,如果在對智慧法院的研究中僅僅考慮技術(shù)因素,忽略對其中所蘊(yùn)含的價值進(jìn)行考量,勢必對智慧法院的研究產(chǎn)生掣肘。

目前,智慧法院信息系統(tǒng)已經(jīng)建成,有一些研究開始注意到僅僅從技術(shù)視角來考察智慧法院已經(jīng)不足以適應(yīng)實踐發(fā)展,對智慧法院的關(guān)注在學(xué)術(shù)考察上缺乏人文屬性面向。有學(xué)者將研究視角進(jìn)行了轉(zhuǎn)向,例如有研究提出,智慧法院建設(shè)在處理個人信息、提高數(shù)據(jù)安全系數(shù)、保護(hù)信息權(quán)益等領(lǐng)域都要有所關(guān)注,[6]在本體的選擇方面更加關(guān)照個體權(quán)利的實現(xiàn)。

從另外一個角度看,在智慧法院的運行之中出現(xiàn)了各方面的問題。有學(xué)者談到,智慧法院在數(shù)字化、智慧化過程中,不能僅僅關(guān)照法院本身,還要將智慧法院與國家整體的信息化戰(zhàn)略相連,打開數(shù)據(jù)端口,做到信息互通、共享[7]。還有學(xué)者考察了“智慧法院”在建設(shè)熱潮中,人工智能的使用過于局限,其在案件裁判過程中僅被作為輔助性工具[8],技術(shù)的運用在智慧法院的運行過程中作用是有限的。另外有學(xué)者發(fā)現(xiàn)智慧法院是存在潛在風(fēng)險的,例如,智慧法院在大數(shù)據(jù)技術(shù)使用方面,將會對個人信息安全產(chǎn)生廣泛影響,個人信息所有者面臨數(shù)據(jù)安全防范風(fēng)險。[9]還有學(xué)者認(rèn)為在法學(xué)院校復(fù)合型人才的培養(yǎng)方面要加大力度,以解決智慧法院建設(shè)人才數(shù)量不足的問題[10]。

從對文獻(xiàn)的分析來看,學(xué)者對智慧法院進(jìn)行了廣泛的研究,然而,現(xiàn)有的研究成果也存在以下問題。在對智慧法院整體內(nèi)容闡釋方面,現(xiàn)有的成果更多地集中于概念闡釋、框架構(gòu)建、要素分類、人才培育等方面,關(guān)注視角較為宏觀和中觀,缺乏微觀視角的分析,尤其是對智慧法院倫理風(fēng)險缺乏應(yīng)有的關(guān)注,研究成果相對稀少。同時,國務(wù)院頒布的《新一代人工智能發(fā)展規(guī)劃》指出,要重視人工智能法律倫理的基礎(chǔ)理論問題研究?；诖?本文選取智慧法院倫理風(fēng)險這一研究對象,通過對智慧法院倫理風(fēng)險的表現(xiàn)樣態(tài)進(jìn)行診斷,進(jìn)而提出風(fēng)險化解的進(jìn)路方略,助力實現(xiàn)“數(shù)字正義”的司法目標(biāo)。

二 智慧法院倫理風(fēng)險的表現(xiàn)樣態(tài)

從智慧法院實際運行過程的角度考察,由于科學(xué)與技術(shù)本身的局限性,加上法院業(yè)務(wù)處理在由人向科技轉(zhuǎn)向的過程中,智慧法院這一新模式將對原有的倫理秩序和價值標(biāo)準(zhǔn)產(chǎn)生巨大影響,滋生著一定的倫理風(fēng)險。

(一)智慧法院技術(shù)運用容易導(dǎo)致司法公平風(fēng)險

研究表明,司法公平風(fēng)險更加傾向于出現(xiàn)在法官裁判的個案當(dāng)中。智慧法院在案件裁判過程中,裁判者主要依賴于依靠電子卷宗自動編目、OCR圖文識別、信息自動回填等技術(shù)采集而來的“數(shù)字化”案卷進(jìn)行裁判活動[11]。智慧法院依托信息化技術(shù)在案件立案時轉(zhuǎn)化而來的各類證據(jù)與電子化卷宗,極易因為轉(zhuǎn)錄過程中的失誤或其他原因,進(jìn)而導(dǎo)致個案發(fā)生公平風(fēng)險。在智慧法院運行過程中,電子卷宗隨案生成[6]和網(wǎng)上流轉(zhuǎn)環(huán)節(jié)必須保證電子化卷宗與訴訟參與人在庭審中的實際參與保持完全一致,在后續(xù)的電子卷宗深度應(yīng)用環(huán)節(jié)才能輸出準(zhǔn)確的裁判文書。但在實踐運用中要使兩者保持完全一致存在不確定性。尤其是采用在線訴訟方式時,訴訟參與人在庭審過程的事實調(diào)查環(huán)節(jié),庭審效果會因為遠(yuǎn)程交流而受影響[12]。另外,智慧法庭的庭審記錄往往通過錄音轉(zhuǎn)換智能系統(tǒng)自動生成開庭筆錄,如果生成過程混入雜音導(dǎo)致文字識別發(fā)生錯誤,將會生成帶有瑕疵的文書材料,進(jìn)而在裁判過程中帶來司法公平風(fēng)險。

同時,智慧法院在運用過程中由于技術(shù)的“人性真空”[13]誘發(fā)歧視等公平風(fēng)險。一方面,“數(shù)字弱勢群體”在尋求權(quán)利救濟(jì)時始終處于程序選擇被限制的境界[14],這勢必會為智慧法院建設(shè)帶來挑戰(zhàn)。另一方面,在應(yīng)用基于人工智能的審判輔助系統(tǒng)、智慧法院“大腦”、司法大數(shù)據(jù)高效處理等技術(shù)時,由于人工智能存在算法“黑箱”的特征[15],研發(fā)人員的固有偏見可能會使智慧法院在運行過程中滋生由歧視帶來的公平風(fēng)險。換一個角度來看,基于前文的論述,即使自動編目、OCR圖文識別、信息自動回填環(huán)節(jié)不出任何差錯,但在使用智慧法院應(yīng)用時加載了人工智能技術(shù),算法偏見問題將不可避免地發(fā)生。以類案自動推送為例分析,推送列表的排序算法往往由開發(fā)人員決定,而在類案較多的情況下,法官在裁判時,大概率會選擇查看排序在前的推送,非常容易在算法推送的情況下生成裁判結(jié)果。個體信息篩選排序的主體性和選擇性逐步讓渡給算法分發(fā)的被動性和工具性[16]。由于算法技術(shù)的“黑箱”特性,使得法官等司法人員不了解或者難以了解推送的背后邏輯,此種情況將滋生司法的公平風(fēng)險。

(二)智慧法院技術(shù)運用容易誘發(fā)司法公正風(fēng)險

智慧法院在運行過程之中,所有與案件有關(guān)的材料均已被數(shù)字化、技術(shù)化、應(yīng)用化[17],同時,“物理的人”被替換成線上“虛擬的人”,人民法院被智慧賦能后,使得傳統(tǒng)法院具備虛擬性、格式性、跨時空性,即使案件按照智慧法院的標(biāo)準(zhǔn)技術(shù)流程裁判是準(zhǔn)確的,但“物理的人”的缺位,有可能會使訴訟參與人對人民法院價值的態(tài)度或者看法發(fā)生轉(zhuǎn)變,容易誘發(fā)司法公正風(fēng)險。智慧法院運行過程中“物理的人”的缺位可以概括為以下兩種情形:第一種情況是當(dāng)事人等訴訟參與人在智慧法院流程的引導(dǎo)下進(jìn)行的參與訴訟等行為,有可能會因流程的虛擬性導(dǎo)致價值偏轉(zhuǎn);二是智慧法院視野下法官等司法人員在進(jìn)行司法行為時,所面對的是技術(shù)化之后的案卷和“虛擬的當(dāng)事人”,在生成裁判結(jié)果或是進(jìn)行其他行為時,容易在某些方面缺乏考量進(jìn)而在價值問題上發(fā)生偏向,進(jìn)而引發(fā)司法公正風(fēng)險。

在智慧法院運行過程中,與傳統(tǒng)法院相似,解決當(dāng)事人等訴訟參與人間的矛盾和糾紛是人民法院的最終目的[18]。但在智慧法院運行過程中,由于當(dāng)事人等訴訟參與人的“物理空間”缺位,而導(dǎo)致其在起訴、應(yīng)訴、上訴等環(huán)節(jié)與法官等司法人員不能進(jìn)行充分的交流與溝通,容易滋生司法公正風(fēng)險。智慧法院從傳統(tǒng)的面對面的業(yè)務(wù)辦理,轉(zhuǎn)換成了通過技術(shù)語言來進(jìn)行意見交換的“賽博”場域和數(shù)字化的司法空間?！吧嬖诘母行源_定性與豐富性在數(shù)據(jù)模式操控的數(shù)字世界里被替換為冰冷單一的數(shù)據(jù)信息?！盵19]傳統(tǒng)法院司法人員與訴訟參與人之間的意見交換也同時包含情緒交換與態(tài)度交換,“人們通常認(rèn)為人類處理問題的模式更為人性化,而算法處理模式更為機(jī)械化、無情感性”,[20]從法官等司法人員的角度來看,在辦理婚姻、繼承等涉公民親密關(guān)系的案件時,過度使用技術(shù)流程,而忽略當(dāng)事人的情緒與態(tài)度,可能會對案件所體現(xiàn)的價值造成錯誤判斷。由此觀之,訴訟參與人在在線法院進(jìn)行意見表達(dá)的過程與在傳統(tǒng)法院可能存在巨大差異,且法官等司法人員也會因為智慧法院的虛擬因素凸顯而可能誘發(fā)潛在的司法公正風(fēng)險。

(三)智慧法院技術(shù)運用容易滋生司法公開風(fēng)險

智慧法院在實際運行過程中,需要運用到各類司法類應(yīng)用程序,在涉及人工智能應(yīng)用時,技術(shù)“黑箱”的存在不可避免,這可能會在案件或訴訟參與人員間產(chǎn)生司法公開風(fēng)險。

一方面,在智慧法院關(guān)聯(lián)主體與智慧法院技術(shù)運用之間可能發(fā)生司法公開風(fēng)險。當(dāng)事人可以通過人民法院在線服務(wù)平臺在線參與調(diào)解、訴訟,智慧法院可以為人民群眾提供更加優(yōu)質(zhì)、高效、便捷的司法服務(wù),全業(yè)務(wù)網(wǎng)上辦理、全流程依法公開、全方位智能服務(wù)的人民法院組織、建設(shè)、運行和管理形態(tài)正在形成。[21]智慧法院采用技術(shù)與應(yīng)用,使人民法院數(shù)字化、智能化、智慧化。比如,重慶市法院系統(tǒng)采用了金融案件智能專審平臺,[22]在智能類案推送和與智能有關(guān)的環(huán)節(jié)中,智能運轉(zhuǎn)的自動化及不透明會帶來一些技術(shù)倫理問題。[23]智慧法院運行過程之中所依賴的技術(shù)日益復(fù)雜,將導(dǎo)致一系列衍生問題的出現(xiàn),如技術(shù)黑箱導(dǎo)致裁判結(jié)果的不可理解性、技術(shù)的符號性與數(shù)字性導(dǎo)致運行過程蒙蔽。從理論上說,技術(shù)賦能智慧法院的初衷是使裁判主體呈現(xiàn)相對客觀和中立的一面,堅持以事實為根據(jù),以法律為準(zhǔn)繩。事實上,人民法院全流程的技術(shù)運用面臨著智能化轉(zhuǎn)向給既有民事訴訟制度帶來的巨大挑戰(zhàn)。人工智能的自主性隨著技術(shù)發(fā)展而逐漸增強(qiáng)及其在智慧法院運行過程中的程度越來越深化,以及強(qiáng)人工智能具備“能夠智能地行動”的特征,智慧法院關(guān)聯(lián)主體與智慧法院技術(shù)之間的司法公開風(fēng)險將隨著技術(shù)運用的加深而逐漸強(qiáng)化。

另一方面,智慧法院關(guān)聯(lián)主體與技術(shù)之間的司法公開風(fēng)險將逐漸傳導(dǎo),進(jìn)而使關(guān)聯(lián)主體與人民法院之間滋生司法公開風(fēng)險?！蹲罡呷嗣穹ㄔ宏P(guān)于加快建設(shè)智慧法院的意見》指出,以信息化促進(jìn)審判體系和審判能力現(xiàn)代化,努力讓人民群眾在每一個司法案件中感受到公平正義,落實到智慧法院設(shè)計與建構(gòu)的全過程,就是要以滿足人民的真正需求為目標(biāo),以人民為中心,在此基礎(chǔ)上健全智慧法院體系。從實踐的角度看,智慧法院雖然在司法效率提升方面做出了重大努力,但實現(xiàn)訴訟的實質(zhì)化需要在智慧法院的構(gòu)建過程中予以重點考慮。智慧法院的實現(xiàn)需要技術(shù)的賦能,在司法數(shù)據(jù)電子化、訴訟活動網(wǎng)絡(luò)化、司法裁判智能化的全流程中,技術(shù)與應(yīng)用大多藏于技術(shù)“黑箱”中,訴訟參與人甚至司法人員都會對其保有陌生感;同時在智慧法院運行過程中,司法文書在數(shù)字化生成與流轉(zhuǎn)過程中極易發(fā)生泄漏風(fēng)險。因此,智慧法院在審判的全過程如果不能使技術(shù)與應(yīng)用可解釋化、可視化,將使智慧法院關(guān)聯(lián)主體與人民法院之間滋生司法公開風(fēng)險。

三 智慧法院倫理風(fēng)險的化解進(jìn)路

智慧法院在運行過程中可能滋生公平、公正與公開等倫理風(fēng)險,雖然全國智慧法院信息系統(tǒng)已經(jīng)宣告建成,智慧法院的“硬環(huán)境”已經(jīng)具備運行基礎(chǔ),但“軟環(huán)境”的營造,尤其是防控可能滋生倫理風(fēng)險的措施與手段還需進(jìn)一步強(qiáng)化,化解倫理風(fēng)險進(jìn)路有待學(xué)界關(guān)注。

(一)宣教符合時代價值的技術(shù)倫理觀念

個體對技術(shù)的觀念直接影響其知識積累、技能培養(yǎng)、思維方式以及使用技術(shù)的動機(jī)[24]。個人和群體的價值觀與世界觀對于行動具有指引作用。為了化解智慧法院可能滋生的倫理風(fēng)險,首先要從觀念與意識上對智慧法院的關(guān)聯(lián)主體進(jìn)行宣教,提升司法人員、訴訟參與人、技術(shù)開發(fā)人員具備符合數(shù)智時代價值的技術(shù)倫理修養(yǎng)。

一方面,要對法官等司法人員和訴訟參與人進(jìn)行技術(shù)運用的倫理宣教。我們已經(jīng)分析了智慧法院技術(shù)運用過程可能出現(xiàn)的三類風(fēng)險,可以知道是由于智慧法院運用的技術(shù)存在“黑箱”效應(yīng),導(dǎo)致相關(guān)后果的發(fā)生。破除此類現(xiàn)象的方法在于了解“黑箱”運作原理與方法,消除對技術(shù)的陌生感。可以采取的途徑包括:對于司法人員,采用定期院內(nèi)培訓(xùn)、考核、實操等方式掌握技術(shù)和應(yīng)用的全流程,力求不漏盲點;對于訴訟參與人,要通過媒體宣傳、短視頻等方式進(jìn)行引導(dǎo),對于“數(shù)字弱勢群體”甚至要安排專人手把手進(jìn)行輔助操作,保證每位訴訟參與人都能夠享受“數(shù)字正義”。另外,在宣教時要特別向智慧法院參與主體安排技術(shù)倫理與科技倫理的知識,通過通俗易懂、娓娓道來的方式將其灌輸,使之對智慧法院報以包容的態(tài)度。另一方面,對于智慧法院的技術(shù)開發(fā)人員,也要定期進(jìn)行技術(shù)倫理的宣教。技術(shù)開發(fā)人員對程序和應(yīng)用的生成起著決定性作用,他們對程序運行的機(jī)理最為熟知,在應(yīng)用開發(fā)過程中,要健全風(fēng)險管控,防范和化解司法應(yīng)用中可能產(chǎn)生的司法倫理風(fēng)險。其次,對司法應(yīng)用程序的開發(fā)要遵循可解釋、可視化、全程透明的原則,以防陷入“黑箱”效應(yīng)及在智慧法院運行過程中滋生倫理風(fēng)險。

(二)制定智慧法院技術(shù)倫理的政策和法規(guī)

我們要秉持“治未病”的理念來規(guī)制智慧法院倫理風(fēng)險的產(chǎn)生,關(guān)鍵要在《新一代人工智能發(fā)展規(guī)劃》《最高人民法院關(guān)于規(guī)范和加強(qiáng)人工智能司法應(yīng)用的意見》等政策的基礎(chǔ)上制定智慧法院技術(shù)倫理的法律和規(guī)范,在操作上可以從以下兩個方面展開。

一方面,要統(tǒng)籌制定政策與規(guī)范對智慧法院倫理風(fēng)險進(jìn)行規(guī)制。最高人民法院目前尚未出臺針對智慧法院的專門性倫理規(guī)范,雖然已頒布了規(guī)制人工智能司法運用的意見,但是其中對倫理規(guī)制的條款還比較欠缺,無法從根本上控制智慧法院的倫理風(fēng)險。因此,要進(jìn)一步從宏觀入手,在智慧法院技術(shù)體系架構(gòu)的基礎(chǔ)上,針對易發(fā)生倫理風(fēng)險的節(jié)點進(jìn)行有關(guān)技術(shù)倫理的政策和規(guī)范的制定。另外,制定的倫理政策與規(guī)范必須進(jìn)行細(xì)化,使司法人員、訴訟參與人、技術(shù)開發(fā)人員有章可循,最大限度控制智慧法院倫理風(fēng)險的發(fā)生。

另一方面,要對所制定的智慧法院技術(shù)倫理政策和規(guī)范進(jìn)行定期評估。新技術(shù)的出現(xiàn)和法院面對的司法場景實時處于更新進(jìn)程中,要順應(yīng)時代的發(fā)展,將政策的評估工作擺在重要的位置。要有針對性地按照實際情況對倫理政策和本級智慧法院的運行情況進(jìn)行對照,并按照智慧法院技術(shù)倫理指標(biāo)體系與評估指南,對智慧法院運行情況進(jìn)行評估,分析政策發(fā)生偏向的成因,及時按照法院的層級將實際評估情況上報,努力創(chuàng)造更高水平的“數(shù)字正義”。

(三)開發(fā)符合司法倫理的智慧法院應(yīng)用程序

《新一代人工智能發(fā)展規(guī)劃》強(qiáng)調(diào),必須高度重視人工智能等技術(shù)可能帶來的沖擊法律與社會倫理等問題,加強(qiáng)前瞻預(yù)防與約束引導(dǎo),最大限度降低風(fēng)險,確保安全、可靠、可控發(fā)展。智慧法院在技術(shù)運用過程中,越來越多的程序采用了人工智能技術(shù),如類案推送、全案由裁判輔助、司法活動筆錄自動生成、案件裁判偏離度預(yù)警等。在開發(fā)智慧法院應(yīng)用程序時,必須將應(yīng)用程序與倫理規(guī)范進(jìn)行兼容。

一方面,在智慧法院技術(shù)體系架構(gòu)的全流程納入倫理規(guī)范。智慧法院在運行過程中可能滋生倫理風(fēng)險,關(guān)鍵是倫理規(guī)范沒有滲入整體技術(shù)架構(gòu)。審判執(zhí)行、訴訟服務(wù)、司法管理和服務(wù)社會治理作為目前智慧法院的關(guān)鍵節(jié)點,在針對這些節(jié)點搭建全局技術(shù)架構(gòu)時,需要提前將各節(jié)點可能出現(xiàn)倫理風(fēng)險的地方進(jìn)行標(biāo)記和厘定,在后續(xù)開發(fā)具體的應(yīng)用程序時,技術(shù)人員能夠一目了然清晰掌握并熟知倫理風(fēng)險節(jié)點,將公平風(fēng)險、公正風(fēng)險、公開風(fēng)險在全局上降低至低水平。

另一方面,在智慧法院技術(shù)與應(yīng)用的具體研發(fā)時檢測倫理合規(guī)性。在智慧法院司法應(yīng)用開發(fā)結(jié)束后,需要按照倫理規(guī)范對其是否合規(guī)進(jìn)行分析與測試。要組建智慧法院應(yīng)用倫理合規(guī)委員會,對可能產(chǎn)生倫理風(fēng)險的應(yīng)用與程序采取“一票否決制”,杜絕進(jìn)入實際運用。檢測過程中,要將開發(fā)人員、司法人員、廣大群眾的意見全部納入考慮范圍。設(shè)立“智慧法院技術(shù)倫理指標(biāo)體系”,作為智慧法院應(yīng)用與程序開發(fā)的倫理考核標(biāo)準(zhǔn)與參照,對技術(shù)倫理進(jìn)行全量化評價,從根本上杜絕智慧法院運行過程中可能滋生的三類司法風(fēng)險。

四 結(jié) 語

研究表明,從實施質(zhì)效來看,智慧法院在降低各類人員工作負(fù)擔(dān)、提高司法效率、滿足人民對高質(zhì)量司法需求等方面發(fā)揮著重要作用,一定程度上提升了法院建設(shè)智能化水平和司法管理水平。從學(xué)者的研究中和智慧法院發(fā)揮的效用來看,它對司法效率的提升與人員負(fù)擔(dān)的釋放產(chǎn)生了正向效應(yīng)。然而,不可否認(rèn)其在某些作用的發(fā)揮方面還不盡人意,誘發(fā)著一定的司法倫理風(fēng)險。我們應(yīng)該加強(qiáng)事實認(rèn)知,進(jìn)行科學(xué)研判,強(qiáng)化倫理規(guī)約,尋求化解進(jìn)路。惟其如此,才能進(jìn)一步提升智慧法院的司法應(yīng)用實效,促進(jìn)審判體系與審判能力的現(xiàn)代化。