人工智能進(jìn)法院的可能風(fēng)險探討

姜萌萌

摘要：人工智能技術(shù)在法院的應(yīng)用可以提升司法效率，緩解當(dāng)前法院案多人少的局面，提高司法過程的標(biāo)準(zhǔn)化，促進(jìn)司法公正。同時人工智能技術(shù)也是一把“雙刃劍”，在為我們帶來便利的同時也可能帶來一系列風(fēng)險。本文探討了人工智能進(jìn)法院的現(xiàn)實需求，分析研究了未來人工智能可能給法院帶來的風(fēng)險。

關(guān)鍵詞：人工智能;智慧法院;算法;風(fēng)險

中圖分類號：TP18 文獻(xiàn)標(biāo)識碼：A 文章編號：1007-9416（2020）03-0222-02

0 引言

近年來通過發(fā)展高效的人工智能技術(shù)將迅速普及，同時人工智能技術(shù)具有網(wǎng)絡(luò)化效應(yīng)，一旦系統(tǒng)出現(xiàn)漏洞，則可能出現(xiàn)系統(tǒng)性的風(fēng)險。由于人工智能技術(shù)準(zhǔn)確性遠(yuǎn)超人類法官，法官可能在辦案過程中形成路徑依賴，同時由于司法責(zé)任制，法官要對案件結(jié)果負(fù)責(zé)，再加上在互聯(lián)網(wǎng)發(fā)達(dá)的今天，任何案件都可能在網(wǎng)絡(luò)發(fā)酵，引發(fā)輿論危機(jī)，法官為了規(guī)避風(fēng)險，更有采納人工智能給出的答案的沖動，這可能使法官失去辦案主動權(quán)，淪為系統(tǒng)的助手。人工智能系統(tǒng)的標(biāo)準(zhǔn)化結(jié)果，會使兩審終審制以及公檢法的相互制約關(guān)系變得形同虛設(shè)。人工智能辦案結(jié)果更正確、更標(biāo)準(zhǔn)，但是對標(biāo)準(zhǔn)的追求可能導(dǎo)致社會多樣性的缺失，導(dǎo)致社會價值觀的一元化，從而影響社會的發(fā)展，甚至造成社會風(fēng)險，多樣性是社會發(fā)展的保證，因此應(yīng)允許法官有不同意見，允許法官犯錯，使司法活動有人味兒。

1 人工智能進(jìn)法院的現(xiàn)實需求

2016年3月到2017年5月，谷歌旗下人工智能系統(tǒng)阿爾法狗Alpha Go及其升級版Master對決人類頂尖棋手并取得完勝后，人工智能開始被普通大眾所熟知，一時間全社會掀起了一場對人工智能思考及討論的熱潮。目前人工智能已經(jīng)在醫(yī)療、自動駕駛、金融等多個領(lǐng)域得到廣泛應(yīng)用，并且在某些方面已經(jīng)有了比肩甚至超越人類頂尖專家的能力。與此同時，“法律+人工智能”的模式在法律界也已經(jīng)成為一個新的發(fā)展方向，美國一些州法院已經(jīng)開始將人工智能技術(shù)普遍用于審前保釋或判決后的假釋風(fēng)險評估中，加拿大科技公司開發(fā)的ROSS法律人工智能項目利用IBM Watson的平臺進(jìn)行技術(shù)開發(fā)與升級，能夠識別用戶自然語言問題，并給予精確、快速的回答，目前ROSS已經(jīng)在國際上獲得多家知名律師事務(wù)所客戶[1]。案多人少、錯案頻出一直是困擾我國司法審判工作的難題，近年來人工智能技術(shù)的飛速發(fā)展似為我們解決這一難題指出了一條道路，2016年7月由中辦國辦印發(fā)的《國家信息化發(fā)展戰(zhàn)略綱要》中提出“建設(shè)智慧法院，提高案件受理、審判、執(zhí)行、監(jiān)督等各環(huán)節(jié)信息化水平，推動執(zhí)法司法信息公開，促進(jìn)司法公平正義。”將“智慧法院”建設(shè)作為我國信息化發(fā)展戰(zhàn)略的重要組成部分，拉開了我國法院人工智能審判系統(tǒng)建設(shè)的序幕，于是各地法院紛紛上馬了自己的人工智能項目，目前上海、北京、浙江、江蘇、廣東、貴州等地法院均已推出了自己的人工智能辦案系統(tǒng)，其中比較成功的有上海法院的“206”刑事案件智能輔助辦案系統(tǒng)，北京法院的“睿法官”智能研判系統(tǒng)及江蘇法院的智能辦案工具。在審判方面，人工智能可以以現(xiàn)有的大量司法案例數(shù)據(jù)為基礎(chǔ)，通過深度學(xué)習(xí)，基于智能算法，對海量案件進(jìn)行分析，做出相應(yīng)的法律判斷，實現(xiàn)“大數(shù)據(jù)”與“專家經(jīng)驗”完美結(jié)合[2]，當(dāng)前智能審判已經(jīng)能夠?qū)Ψ申P(guān)系簡單的案件做出相對準(zhǔn)確的判斷，可以想見，隨著技術(shù)的進(jìn)步，人工智能在法院必將更有用武之地。

2 未來人工智能可能給法院帶來的風(fēng)險

與其他學(xué)科不同，信息技術(shù)的發(fā)展具有發(fā)展速度迅猛，更新迭代快速的特點(diǎn)，人工智能亦處于高速的發(fā)展之中，與此同時，近年來人越來越多的人開始對工智能的迅猛發(fā)展表示擔(dān)憂，特斯拉汽車創(chuàng)始人艾倫·馬斯克及著名科學(xué)家霍金都曾公開表達(dá)過對人工智能的發(fā)展可能對人類社會帶來威脅的擔(dān)憂，雖然能夠完全取代人類的所謂強(qiáng)人工智能目前還遙遙無期，但是任何一項新技術(shù)的廣泛應(yīng)用都會改變?nèi)祟惉F(xiàn)有的生產(chǎn)工作及交往方式[3]，技術(shù)是一把雙刃劍，司法作為正義的最后一道防線，所以在司法人工智能的應(yīng)用中更應(yīng)對其所能帶來的相應(yīng)影響保有充分警覺并盡力規(guī)避，總體來說，以下問題需要注意：

2.1 系統(tǒng)性錯誤風(fēng)險

2018年前文提到的智能醫(yī)生Watson就被爆出給多名癌癥患者開錯了藥，給有出血癥狀的癌癥病人開出了易出血的藥物，無獨(dú)有偶，美國亞馬遜公司的人臉識別軟件也曾鬧出過將多名國會議員識別成罪犯的笑話，上述例子在人工智能領(lǐng)域并不罕見，通常情況下，人工智能的效率及準(zhǔn)確率是遠(yuǎn)超人類的，但是是系統(tǒng)就難免出現(xiàn)漏洞，一旦出現(xiàn)漏洞，人工智能則可能出現(xiàn)錯誤。人工智能出錯和人類出錯有一個區(qū)別，就是人類出現(xiàn)差錯往往體現(xiàn)在個案上，比如醫(yī)生可能因為一時疏忽等原因為某個病人開錯藥，但其結(jié)果往往只影響到具體的患者，但人工智能如果存在漏洞，其出錯則是成批出錯，最后可能造成大錯。另外，所有的人工智能系統(tǒng)都是網(wǎng)絡(luò)化的，每一個終端都與系統(tǒng)相連并相互影響，而計算機(jī)的思維是不會變通，不會反思，它只會以設(shè)定好的目標(biāo)為方向繼續(xù)執(zhí)行指令，美國股市曾經(jīng)多次出現(xiàn)過因為計算機(jī)系統(tǒng)而引發(fā)的股災(zāi)，因為人在設(shè)計計算機(jī)操作股票時，為了確保在暴跌時他們的委托人能夠立即止損，會瞬間拋售掉手中的股票，而這種操作會觸發(fā)另一臺計算機(jī)的止損條件，于是形成雪崩式的鏈?zhǔn)椒磻?yīng)，造成股災(zāi)。司法人工智能領(lǐng)域當(dāng)然也存在上述的風(fēng)險，更為嚴(yán)重的是，隨著司法人工智能的發(fā)展，在信息交流極度通暢的今天，最有效的智能算法會迅速的被各地法院運(yùn)用，此時一旦算法出現(xiàn)漏洞，則可能出現(xiàn)大面積的錯誤，而此時的錯誤就并非個案錯誤，而是系統(tǒng)性的類案錯誤。司法活動對當(dāng)事人乃至對社會都有著巨大的影響，鑒于此，人工智能與法院工作的結(jié)合更應(yīng)采取保守的態(tài)度，穩(wěn)扎穩(wěn)打，不宜冒進(jìn)，確保引進(jìn)的是經(jīng)過市場考驗的成熟且可靠的技術(shù)，同時應(yīng)密切監(jiān)視系統(tǒng)的運(yùn)行狀態(tài)，建立高效的系統(tǒng)故障響應(yīng)機(jī)制，確保將風(fēng)險降到最低。

2.2 法官主體性喪失風(fēng)險

雖然當(dāng)前司法人工智能系統(tǒng)還很不成熟，但是隨著技術(shù)的不斷發(fā)展，智能閱卷、智能證據(jù)審查、智能庭審系統(tǒng)、智能文書起草、智能案例及法條推送甚至智能裁判結(jié)果建議等人工智能功能將逐漸完善，法官收到案子后拿到的是經(jīng)過系統(tǒng)提煉過的案件報告，證據(jù)亦經(jīng)過系統(tǒng)的智能篩查及認(rèn)證，系統(tǒng)再向法官智能推送類案案例及相應(yīng)法條，法官需要做的工作似乎就是依據(jù)人工智能給出的上述材料順理成章的作出裁判，如此一來就會產(chǎn)生一個疑問，這樣形成的裁判結(jié)果究竟是法官作出的還是人工智能系統(tǒng)作出的？當(dāng)系統(tǒng)作出的判斷正確率遠(yuǎn)高于人類時，人類法官面對系統(tǒng)給出的判斷時將很難有產(chǎn)生不同意見的自信，由此產(chǎn)生的風(fēng)險就是法官可能在辦案過程中形成路徑依賴，過于信賴系統(tǒng)給出的判斷從而怠于自主積極的思考，以致業(yè)務(wù)能力生疏，甚至淪為系統(tǒng)的助手。另一方面，在司法改革的今天，司法責(zé)任制要求法官對案件的結(jié)果負(fù)責(zé)，而互聯(lián)網(wǎng)的發(fā)展使任何一個判決都可能在互聯(lián)網(wǎng)上迅速發(fā)酵，最后形成輿論危機(jī)，在這種情形下，法官具有天然的風(fēng)險規(guī)避傾向，此時，人工智能系統(tǒng)給出的標(biāo)準(zhǔn)化答案無疑將成為其最穩(wěn)妥的方案。因此，如何厘定法官與人工智能系統(tǒng)的關(guān)系，保證法官的辦案主導(dǎo)權(quán)，這也將是我們今后將要面對并不斷探索的課題。筆者認(rèn)為，在法院人工智能系統(tǒng)的建設(shè)過程中，我們要明確人工智能系統(tǒng)“為法官節(jié)省體力而非腦力”的原則，確立人工智能的輔助性地位，防止系統(tǒng)的越俎代庖。