基于人工智能技術(shù)介入司法行政領(lǐng)域存在的風(fēng)險(xiǎn)及防范

倪 斌

（河南司法警官職業(yè)學(xué)院,河南 鄭州 450000）

人工智能的概念最早出現(xiàn)在1956年的美國達(dá)特茅斯會議上，在產(chǎn)業(yè)變革與科技革命高速推進(jìn)的過程中，人工智能浪潮席卷全球，我國在此背景下開始應(yīng)用人工智能推動各領(lǐng)域的發(fā)展。人工智能符合時(shí)代未來發(fā)展趨勢，對我國各領(lǐng)域的發(fā)展有重要的推動作用。司法領(lǐng)域在新時(shí)期也開始應(yīng)用人工智能，并且人工智能在司法領(lǐng)域的影響力逐漸變大。最高人民法院將信息化建設(shè)與司法改革作為未來發(fā)展的重要任務(wù)，智慧法院正在如火如荼地建設(shè)中，成為人民法院完善機(jī)構(gòu)體系、創(chuàng)新工作機(jī)制的重要內(nèi)容。

1 人工智能司法實(shí)踐的相關(guān)概述

1.1 人工智能司法實(shí)踐現(xiàn)狀

進(jìn)入21世紀(jì)，新一輪產(chǎn)業(yè)變革和科技革命的推進(jìn)，將人們帶入到信息時(shí)代中，在此背景下，人工智能技術(shù)出現(xiàn)并開始應(yīng)用于司法領(lǐng)域。學(xué)者們對人工智能極為重視，展開了人工智能信息透明化、實(shí)踐應(yīng)用舉措等方面的研究。我國大力推進(jìn)人工智能技術(shù)發(fā)展，但是當(dāng)下由于技術(shù)水平與發(fā)展階段的限制，且人工智能實(shí)踐應(yīng)用方面相關(guān)的資料也非常匱乏，導(dǎo)致司法領(lǐng)域應(yīng)用人工智能存在不少的問題。

我國人民法院十分關(guān)注人工智能在司法領(lǐng)域的發(fā)展，最高人民法院在2016年就提出“智慧法院”，這是出于時(shí)代發(fā)展的考量，隨后我國智慧法院的建設(shè)將司法工作朝著科學(xué)化、智能化的方向引領(lǐng)。比如，北京法院應(yīng)用“睿法官”（智能輔助系統(tǒng)）獲取與案件相關(guān)的信息與法律法規(guī)，在系統(tǒng)的輔助下可以在短時(shí)間內(nèi)收集資料、梳理案件內(nèi)容并整理與之相關(guān)的法律關(guān)系，該系統(tǒng)同時(shí)擁有提供裁判建議、提煉爭議焦點(diǎn)、生成裁判文書的功能，相關(guān)功能為法官審理案件提供了便利條件，縮短了工作所用的時(shí)間[1]。

1.2 人工智能司法實(shí)踐前景

人工智能系統(tǒng)應(yīng)用于司法領(lǐng)域，可以提高司法工作的執(zhí)行效率。與傳統(tǒng)司法活動方式相比，人工智能系統(tǒng)可以快速收集信息、整理信息、分析信息，強(qiáng)大的信息檢索功能可以降低法官在資料檢索工作中的操作難度，讓法官可以將精力集中在案件審理上，從而大幅度提升辦案效率。我國法院對于人工智能技術(shù)態(tài)度積極，應(yīng)用水平也處于世界領(lǐng)先地位，例如上海的“刑事案件智能輔助辦案系統(tǒng)”（簡稱“206系統(tǒng)”）、北京的“睿法官”、江蘇的“法務(wù)云”、河北的“智審”、重慶的“法治云”等，其功能涉及單一證據(jù)校驗(yàn)、逮捕條件審查、全案證據(jù)審查判斷、社會危險(xiǎn)性評估、類案推送、量刑輔助、語音識別及智能轉(zhuǎn)換等內(nèi)容，為法院應(yīng)對海量案件提供了技術(shù)路徑[2]。

2 人工智能介入司法實(shí)踐的現(xiàn)實(shí)問題

2.1 威脅法官審判主體地位

司法領(lǐng)域中，人工智能的應(yīng)用可成為法官審判案件的有力輔助。依托人工智能，使用案件檢索系統(tǒng)和法律法規(guī)數(shù)據(jù)庫查詢與案件相關(guān)的文獻(xiàn)和資料，可降低工作負(fù)荷，提高工作效率[3]。然而人工智能運(yùn)用于司法裁判也存在一定的風(fēng)險(xiǎn)，人工智能依托程序進(jìn)行案件審判，程序的編寫者可能會對系統(tǒng)運(yùn)行產(chǎn)生一定的影響，從而導(dǎo)致法官使用人工智能系統(tǒng)形成雙重審判主體。人工智能程序的編寫可能由多主體進(jìn)行，在此種情況下將會增加審判主體的定位難度，與此同時(shí)會出現(xiàn)審判活動裁判權(quán)力邊界不清與司法問責(zé)制度落實(shí)不到位的情況[4]。

人工智能審判案件主要是通過程序算法得出結(jié)果，分析案件數(shù)據(jù)并依據(jù)法律法規(guī)要求建立推理模型，預(yù)測案件的審判結(jié)果，法官通過參考人工智能程序預(yù)測的案件結(jié)果，可以有效減輕自身的工作量。長此以往，可能會削弱法官在案件審判中的作用，審判實(shí)踐參與度降低可能會一定程度影響法官專業(yè)能力的提升，這也就與人工智能介入司法領(lǐng)域的初衷相悖。

2.2 人工智能技術(shù)存在短板

人工智能技術(shù)應(yīng)用到司法領(lǐng)域中，可以有效提高相關(guān)工作人員的工作效率。司法實(shí)踐與人工智能技術(shù)的接觸與融合是一個(gè)漸變的過程，需要在這個(gè)過程中不斷提高兩者的結(jié)合程度，并提高相關(guān)系統(tǒng)的完整性。我國人工智能技術(shù)受到國家的重視，各領(lǐng)域人員也積極地開展技術(shù)研發(fā)工作，但是人工智能技術(shù)仍存在滯后性、機(jī)械性與不完整性的問題，這些問題在司法實(shí)踐中表現(xiàn)得比較明顯[5]。

人工智能利用程序收集案件數(shù)據(jù)，并在程序運(yùn)作下分析案件，最后預(yù)測案件裁判結(jié)果。案件判斷過程中，一方面依靠完善的系統(tǒng)程序，另一方面憑借對法律規(guī)則與法律概念的精確掌握，在相關(guān)條件下將案件內(nèi)容與法律法規(guī)轉(zhuǎn)變?yōu)闄C(jī)器語言。對于法律法規(guī)與法律概念的理解，不同法官有不同的看法，所以同一個(gè)法律條文，可以出現(xiàn)多種理解與解釋，將其轉(zhuǎn)變?yōu)橛?jì)算機(jī)語言后，計(jì)算機(jī)需要結(jié)合素材提出合理的解釋。人工智能的應(yīng)用需要在公平正義與法律法規(guī)的指引下，對素材進(jìn)行分析，如果僅憑借簡單的技術(shù)分析，使用相關(guān)結(jié)果作出的判決難以令人信服。當(dāng)下人工智能在實(shí)際應(yīng)用過程中，因其滯后性與機(jī)械性，無法取得良好的工作成效。

另一方面，法官長期審理案件形成的分析思維與裁判經(jīng)驗(yàn)等，是人工智能在案件審判方面難以比擬的。法官在案件審判期間如果單純參照法律法規(guī)，難免會對案件分析不全面，但是憑借多年工作積累的經(jīng)驗(yàn)，以及對案件信息的把握，可以在自由裁量權(quán)下進(jìn)行判斷。法官在法律剛性方面的不足，可以憑借自身的理性思維與判斷經(jīng)驗(yàn)彌補(bǔ)，從而有機(jī)統(tǒng)一“理、法、情”，在相應(yīng)方式下讓審判帶有溫度。

2.3 算法獨(dú)裁干預(yù)司法公正

算法運(yùn)行離不開大數(shù)據(jù)，在數(shù)據(jù)的支持下憑借人工智能系統(tǒng)可以給出審判結(jié)果。但是經(jīng)過深入的研究，發(fā)現(xiàn)算法審判究其根源就是對數(shù)據(jù)處理得到的結(jié)果。人工智能系統(tǒng)運(yùn)行中，可以清楚顯示數(shù)據(jù)輸入與結(jié)果輸出，但是對于系統(tǒng)運(yùn)算的過程并未呈現(xiàn)，在此種模式下會衍生出算法獨(dú)裁與黑箱問題。在審判活動中，使用算法結(jié)果考量案件，必須滿足一個(gè)前提條件——讓當(dāng)事人信服算法結(jié)果，因?yàn)橄到y(tǒng)預(yù)算過程沒有公開，很難找到合理解釋消除當(dāng)事人的疑慮。

大部分公眾對人工智能的認(rèn)知程度較低，利用算法決策考量不足，并且沒有關(guān)注算法監(jiān)管方面的工作。隨著智慧法院建設(shè)的推進(jìn)，人工智能將會在未來成為案件審理的主要工具，諸如征信規(guī)則、保險(xiǎn)規(guī)則、法律規(guī)則等寫入算法，如果編程人員不清楚相關(guān)規(guī)則的含義，就沒有辦法提高算法運(yùn)行的合理性。在規(guī)則算法化、數(shù)據(jù)化的過程中，還會引發(fā)很多不可靠、不公平的問題，法律的公平性、正義性會受到影響[6]。

2.4 侵害個(gè)人信息與隱私權(quán)

人工智能在信息技術(shù)高速發(fā)展的背景下被廣泛應(yīng)用，雖然其出現(xiàn)為大眾提供了很多便利，但同時(shí)也帶來了隱私安全與個(gè)人信息防護(hù)方面的問題。人工智能的應(yīng)用需要以大量數(shù)據(jù)為基礎(chǔ)，開發(fā)利用人工智能系統(tǒng)勢必會涉及大量個(gè)人信息。一旦人工智能系統(tǒng)遭到黑客攻擊或遭遇其他問題，系統(tǒng)中的個(gè)人信息會處于危險(xiǎn)境地，對用戶財(cái)產(chǎn)與個(gè)人安全造成巨大的威脅，一旦大眾的個(gè)人信息泄露、隱私被公開，將會激發(fā)公眾的抵觸情緒。

在人工智能系統(tǒng)應(yīng)用期間，系統(tǒng)一方面會提供司法服務(wù)，另一方面會收集訴訟相關(guān)人員的個(gè)人信息，所以系統(tǒng)中含有訴訟參與者的信息，其隱私安全與個(gè)人信息保護(hù)工作必須予以高度重視。另外，公權(quán)力部門在信息化建設(shè)期間，推出網(wǎng)上辦理業(yè)務(wù)的服務(wù)，相關(guān)服務(wù)對智能化技術(shù)有較高的要求，因此相關(guān)部門會聯(lián)合高新技術(shù)企業(yè)共同研發(fā)智能化信息系統(tǒng)。此類企業(yè)在獲得資質(zhì)后，可以收集大量數(shù)據(jù)，而此種方式應(yīng)用于司法領(lǐng)域較為不妥，因?yàn)楣駛€(gè)人信息會在未經(jīng)本人同意的情況下被企業(yè)收集與處理。

3 人工智能介入司法實(shí)踐的發(fā)展路徑

3.1 準(zhǔn)確定位人工智能

人工智能應(yīng)用到司法實(shí)踐中首先必須準(zhǔn)確定位。人工智能只是一種輔助性的工具，在案件審理過程中，法官應(yīng)該占主導(dǎo)地位，人工智能不能替代法官。在司法實(shí)踐中，大部分案件具有復(fù)雜的人際關(guān)系且事實(shí)曲折，審理案件需要結(jié)合常識、法律法規(guī)進(jìn)行分析，最后妥善地處理。案件審理工作包括很多環(huán)節(jié)且較為復(fù)雜，法官的分析思維和工作經(jīng)驗(yàn)對案件審理結(jié)果具有巨大的作用。人工智能系統(tǒng)雖然擁有強(qiáng)大的檢索能力、深度的學(xué)習(xí)能力，但是不具有人類的情感，程序得出的結(jié)果有時(shí)很難讓人信服[7]。

人工智能的發(fā)展與數(shù)據(jù)化的出現(xiàn)，初衷是通過技術(shù)手段替代重復(fù)勞動，將人力從簡單的工作中解放出來。人工智能應(yīng)用到司法領(lǐng)域中，推動智慧法院建設(shè)，是希望建立現(xiàn)代化的審判體系，將人工智能作為法官工作的輔助性工具，而不是讓人工智能替代法官。在案件審理期間，法官需要結(jié)合掌握的信息，依托相關(guān)法律法規(guī)進(jìn)行獨(dú)立的判斷，所需的數(shù)據(jù)主要由人工智能系統(tǒng)收集、整理、分析。在人工智能技術(shù)的輔助下，司法活動可以高效地進(jìn)行，讓司法公平、公正的特性良好地展現(xiàn)出來。

3.2 深化人工智能技術(shù)

人工智能應(yīng)用到司法領(lǐng)域中，基于復(fù)雜的社會條件與技術(shù)發(fā)展水平不足的狀況，需要在系統(tǒng)設(shè)計(jì)時(shí)，保證程序的公平公正。人工智能程序編制前，需要在公平正義理念下設(shè)計(jì)好基礎(chǔ)算法程序并完善程序內(nèi)容，提高程序在司法實(shí)踐中的透明性、公開性與可問責(zé)性等特性，使其能夠在必要情境下被合理使用。人工智能是輔助案件審理的工具，但不能過度依賴人工智能系統(tǒng)，否則就可能演變?yōu)閷⒎删S持社會關(guān)系與秩序的功能變相地轉(zhuǎn)交給技術(shù)人員、數(shù)據(jù)與企業(yè)。人工智能系統(tǒng)在司法領(lǐng)域中應(yīng)用，需要接受公眾的監(jiān)督，法學(xué)家、技術(shù)人員也需要密切關(guān)注人工智能系統(tǒng)。政府需要在人工智能系統(tǒng)的應(yīng)用中，逐步完善程序規(guī)則，約束算法設(shè)計(jì)者的行為，引導(dǎo)人工智能在司法領(lǐng)域朝著正確的方向發(fā)展[8]。

3.3 有序推動人工智能在司法裁判中的發(fā)展

人工智能系統(tǒng)在司法領(lǐng)域中的應(yīng)用尚處于發(fā)展階段，提高技術(shù)的應(yīng)用效果需要漫長的時(shí)間，需要不斷完善系統(tǒng)內(nèi)容。人工智能系統(tǒng)是法院開展審判工作的附屬工具，在應(yīng)用中受到社會發(fā)展條件影響，需要考慮到社會公眾對人工智能系統(tǒng)的接受程度，掌握人工智能技術(shù)的發(fā)展情況。法院應(yīng)用人工智能技術(shù)，將其作為輔助案件審理的工具，不能出現(xiàn)喧賓奪主，占據(jù)法官審判主導(dǎo)地位的情況。使用人工智能技術(shù)需要考慮全面，明確其對傳統(tǒng)就業(yè)結(jié)構(gòu)、制度機(jī)制、治理理念造成的影響，在智慧法院建設(shè)中思考相關(guān)問題的解決方法。

3.4 開展個(gè)人信息與隱私權(quán)的保護(hù)工作

人工智能系統(tǒng)建立在海量的數(shù)據(jù)上，法院使用人工智能系統(tǒng)涉及個(gè)人隱私方面的問題。數(shù)據(jù)保護(hù)工作異常重要，一旦處理不好，將會直接危及公民財(cái)產(chǎn)與人身安全。因此，應(yīng)該重視公民隱私與個(gè)人信息的保護(hù)工作，同時(shí)選擇科學(xué)的工作方法。確定數(shù)據(jù)信息的采集范圍，采集公民的信息需要告知對方，保障公民的知情權(quán)。法院收集公民的信息是為審判工作的開展提供便利條件，但對個(gè)人信息的收集必須有度，確定人工智能系統(tǒng)在案件處理方面的需要，在此前提下界定法院個(gè)人信息數(shù)據(jù)收集的行為與界限。另外，當(dāng)事人需要清楚法院收集信息的使用范圍。

法院開展人工智能系統(tǒng)建設(shè)、維護(hù)工作時(shí)，必須履行審判組織應(yīng)該承擔(dān)的職責(zé)，與技術(shù)企業(yè)合作必須規(guī)范其行為，一旦技術(shù)企業(yè)利用技術(shù)侵害公眾個(gè)人信息，需按照要求嚴(yán)懲。法院與技術(shù)企業(yè)在人工智能系統(tǒng)應(yīng)用方面，需明確系統(tǒng)服務(wù)司法審判的大前提，在此基礎(chǔ)上合作，規(guī)范技術(shù)企業(yè)的行為，防止其利用技術(shù)優(yōu)勢竊取、違規(guī)利用個(gè)人信息，將當(dāng)事人置于危險(xiǎn)境地。

4 結(jié)語

人工智能技術(shù)應(yīng)用于司法行政領(lǐng)域尚不成熟，在開展智慧法院建設(shè)、引入并使用人工智能系統(tǒng)的過程中，需要高度重視技術(shù)合作對象的選取工作，應(yīng)該加大審查工作的力度，保證數(shù)據(jù)安全、可靠。要合理應(yīng)用人工智能系統(tǒng)，在保證公民個(gè)人信息、隱私權(quán)不受侵害的同時(shí)，為案件審理工作的進(jìn)行提供便利條件。