人工智能司法安全風(fēng)險(xiǎn)的算法中心治理模式

關(guān)鍵詞：形式理性算法司法人工智能司法風(fēng)險(xiǎn)治理生成式人工智能以算法為中心

人工智能時(shí)代的技術(shù)革命引發(fā)第三次產(chǎn)業(yè)革命， 深刻改變著生產(chǎn)要素配置和社會(huì)結(jié)構(gòu)秩序，對(duì)國(guó)家治理體系和治理能力現(xiàn)代化轉(zhuǎn)型提出緊迫需求。黨的十八大以來(lái)，司法領(lǐng)域信息化和數(shù)智化建設(shè)成效顯著，通過(guò)大數(shù)據(jù)、云計(jì)算、區(qū)塊鏈、人工智能等現(xiàn)代技術(shù)手段的科技賦能，智慧司法的車(chē)輪滾滾向前，不僅帶來(lái)司法程序和訴訟參與方式的變革，還更深層地影響著司法邏輯和法治理念?？傮w而言，人工智能司法應(yīng)用場(chǎng)景主要包括訴訟服務(wù)、在線訴訟、事務(wù)輔助、決策輔助、司法管理等方面，呈現(xiàn)應(yīng)用廣度和深度逐步加強(qiáng)的趨勢(shì)，司法全流程中人工相對(duì)于智能的權(quán)重配比逐漸下調(diào)。例如，司法系統(tǒng)信息化初期建設(shè)成果是以立案繳費(fèi)、案卷調(diào)閱、公文傳遞、簽章送達(dá)等特定行為的電子化為核心，本質(zhì)上是運(yùn)用互聯(lián)網(wǎng)技術(shù)擺脫物理空間尤其是紙質(zhì)媒介的束縛。在此過(guò)程中，訴訟便利和司法效率雖然有所加強(qiáng)，但智能化程度普遍較低，未對(duì)訴訟規(guī)則和司法模式產(chǎn)生實(shí)質(zhì)影響，而我國(guó)既有的司法模式的低效問(wèn)題亟待改善，在杜絕司法腐敗、司法濫權(quán)方面也存在不足，〕所以增強(qiáng)人工智能來(lái)提升司法效率的需求已經(jīng)迫在眉睫。鑒于此，進(jìn)入智慧司法4.0時(shí)代，人工智能實(shí)際應(yīng)用場(chǎng)景擴(kuò)展至偵查、起訴、審判、執(zhí)行等司法全流程、全場(chǎng)景，尤其是類(lèi)案推送、量刑預(yù)測(cè)、偏離預(yù)警、文書(shū)生成、自動(dòng)查控等系統(tǒng)的投入使用，標(biāo)志著人工智能技術(shù)已經(jīng)深度參與程序控制、實(shí)體決策、監(jiān)督檢查等司法運(yùn)行的核心領(lǐng)域。

整體來(lái)看，以智慧司法大腦和司法數(shù)據(jù)中臺(tái)為驅(qū)動(dòng)，分析式和生成式人工智能技術(shù)得到大規(guī)模應(yīng)用，新時(shí)代人工智能司法使數(shù)字法院、云端法庭、機(jī)器人法官成為現(xiàn)實(shí)，“代碼即法律”和“算法即正義”的論斷不再是天方夜譚，而是在可預(yù)期時(shí)間內(nèi)必將呈現(xiàn)的智慧法治圖景。習(xí)近平總書(shū)記指出，安全是發(fā)展的基礎(chǔ)，要更好統(tǒng)籌發(fā)展和安全，以新安全格局保障新發(fā)展格局。隨著人工智能司法技術(shù)裝備發(fā)展和應(yīng)用場(chǎng)景深化，相應(yīng)的人工智能司法安全風(fēng)險(xiǎn)也將成為司法實(shí)踐所必須直面回應(yīng)的現(xiàn)實(shí)問(wèn)題，最高人民法院2022年印發(fā)《關(guān)于規(guī)范和加強(qiáng)人工智能司法應(yīng)用的意見(jiàn)》（以下簡(jiǎn)稱《人工智能司法意見(jiàn)》），將安全合法原則作為首要基本原則，規(guī)定“堅(jiān)持總體國(guó)家安全觀，禁止使用不符合法律法規(guī)的人工智能技術(shù)和產(chǎn)品，司法人工智能產(chǎn)品和服務(wù)必須依法研發(fā)、部署和運(yùn)行，不得損害國(guó)家安全，不得侵犯合法權(quán)益，確保國(guó)家秘密、網(wǎng)絡(luò)安全、數(shù)據(jù)安全和個(gè)人信息不受侵害，保護(hù)個(gè)人隱私，促進(jìn)人機(jī)和諧友好，努力提供安全、合法、高效的智能化司法服務(wù)”。有效安全治理的本質(zhì)是有效風(fēng)險(xiǎn)治理，“以風(fēng)險(xiǎn)為導(dǎo)向”是其核心要求，人工智能司法安全治理需要在解構(gòu)風(fēng)險(xiǎn)內(nèi)核和風(fēng)險(xiǎn)成因的基礎(chǔ)上確立類(lèi)型化、結(jié)構(gòu)化、體系化的治理方略。由此，對(duì)人工智能司法安全風(fēng)險(xiǎn)的防范需要首先厘清人工智能司法的本質(zhì)，并在此基礎(chǔ)上揭示出人工智能司法的實(shí)質(zhì)風(fēng)險(xiǎn)，然后才能提出與之對(duì)應(yīng)的治理之策。

一、人工智能司法的本質(zhì)：法官后撤與算法司法

公正與效率是司法審判工作永恒的主題，也是人工智能司法應(yīng)用的基本價(jià)值遵循。在公正和效率之間，后者是人工智能司法發(fā)展的原始動(dòng)力。伴隨著人工智能技術(shù)的進(jìn)步，人工智能司法應(yīng)用逐漸從自動(dòng)化辦公走向自動(dòng)化決策，類(lèi)案同判、量刑預(yù)測(cè)、文書(shū)生成等高智能應(yīng)用場(chǎng)景開(kāi)始對(duì)定罪權(quán)、量刑權(quán)、程序控制權(quán)、審判監(jiān)督權(quán)等司法權(quán)力的行使產(chǎn)生介入式影響，由此，算法將穿透效率的面紗，浮出水面，以法官后撤為特征的算法司法構(gòu)成了人工智能司法的本質(zhì)。

（一）司法效率與算法前置

一直以來(lái)，我國(guó)“司法的職能構(gòu)造和角色安排很大程度上取決于制度設(shè)計(jì)者的現(xiàn)實(shí)需求與選擇而非司法的自我定位”。這種制度設(shè)計(jì)所導(dǎo)致的問(wèn)題是，司法審判人員的配置可能會(huì)脫離司法的現(xiàn)實(shí)需求，并致使同一法院內(nèi)的審判人員“閑忙不均”，進(jìn)而影響司法效率的提升。更為重要的是，面對(duì)“訴訟爆炸”時(shí)代的到來(lái)以及數(shù)字智能技術(shù)的進(jìn)步所賦能效率提升的全新可能，如何借助數(shù)字智能技術(shù)提升司法效率，進(jìn)而推進(jìn)司法體制改革就成為當(dāng)前所必須予以回應(yīng)的時(shí)代課題。也正因如此，黨的十八大以來(lái)，最高人民法院就將司法改革與司法信息化建設(shè)作為推動(dòng)人民法院工作發(fā)展的“車(chē)之兩輪、鳥(niǎo)之兩翼”。在此基礎(chǔ)上，借助數(shù)字智能技術(shù)優(yōu)化審判人員配置，提升司法效率就成為數(shù)字智能技術(shù)賦能司法改革的邏輯起點(diǎn)與實(shí)踐終點(diǎn)。事實(shí)也證明，“立體的訴訟服務(wù)體系和法院辦公體系實(shí)現(xiàn)人民法院文書(shū)自動(dòng)生成、類(lèi)案智能推送、電子卷宗自動(dòng)歸檔，將辦案法官?gòu)默嵥?、重?fù)性的事務(wù)中解放出來(lái)”。借助計(jì)算機(jī)、互聯(lián)網(wǎng)等數(shù)字化技術(shù)實(shí)現(xiàn)對(duì)審判設(shè)備的更新不僅有助于實(shí)現(xiàn)對(duì)審判人員的管理優(yōu)化，還能促使辦案人員在整個(gè)二審、再審案件中依靠電子案卷直接查閱、了解案情，對(duì)審判效率的改善具有顯著作用。

當(dāng)前，伴隨著生成式人工智能的進(jìn)步，以大語(yǔ)言模型為代表的先進(jìn)算法在促進(jìn)司法效率提升的同時(shí)，也逐漸從“幕后”走向“臺(tái)前”，客觀上已經(jīng)涉及定罪量刑、法律適用以及文書(shū)撰寫(xiě)等司法核心業(yè)務(wù)。例如，法律邏輯推理一直被認(rèn)為是司法業(yè)務(wù)的核心，是推進(jìn)案件事實(shí)認(rèn)定與法律適用的關(guān)鍵內(nèi)容。然而，生成式人工智能借助思維鏈算法使得智能技術(shù)已經(jīng)掌握了一定的邏輯推理能力。以Chat-GPT為例，研發(fā)人員通過(guò)思維鏈這一算法的調(diào)用，不僅在基準(zhǔn)測(cè)試中達(dá)到了高度的準(zhǔn)確性，甚至還超過(guò)了使用驗(yàn)證器微調(diào)的GPT-3模型，顯著提高大型語(yǔ)言模型執(zhí)行復(fù)雜推理的能力。具體而言，在思維鏈的加持下，模型將問(wèn)題分解為一系列的分步推理，根據(jù)前一步驟結(jié)果與當(dāng)前問(wèn)題要求共同推斷下一步驟。通過(guò)這種逐步推理的方式，模型可以逐漸獲得更多信息，并在整個(gè)推理過(guò)程中累積正確的推斷，從而大幅度提升模型在復(fù)雜推理時(shí)的準(zhǔn)確率。這也就意味著，以生成式人工智能為主要形式的先進(jìn)算法已經(jīng)突破了基于數(shù)據(jù)之間相關(guān)性的能力局限，可以做出超出算法預(yù)設(shè)的可期結(jié)果，具備了推理能力等意思表示特征。事實(shí)上，憑借著算法在邏輯推理能力上的顯著提升，生成式人工智能在人機(jī)問(wèn)答、文本摘要、建議輔助等方面已經(jīng)達(dá)到甚至超過(guò)了人類(lèi)水平，具備了案件研究與復(fù)雜法律事實(shí)模式下的分析能力。再例如，“裁判文書(shū)撰寫(xiě)是案件審理的最后一個(gè)重要環(huán)節(jié)，也是最耗費(fèi)時(shí)間的一項(xiàng)工作。裁判文書(shū)的質(zhì)量與當(dāng)事人對(duì)裁判結(jié)果的接受度呈正相關(guān)關(guān)系，因此，在決定案件的裁判結(jié)論后，法官的主要任務(wù)便是撰寫(xiě)一份高質(zhì)量的裁判文書(shū)”。因而，能否流暢、準(zhǔn)確以及高質(zhì)量地撰寫(xiě)一份裁判文書(shū)也成為衡量法官能力強(qiáng)弱的一項(xiàng)重要標(biāo)志。實(shí)踐中，以大語(yǔ)言模型為代表的算法在文字處理能力上的躍升不僅能夠?qū)崿F(xiàn)具體內(nèi)容的法律文書(shū)起草，而且還能實(shí)現(xiàn)對(duì)簡(jiǎn)單案件事實(shí)的理解，并正確援引訴訟請(qǐng)求的相關(guān)法律條文。再如，面對(duì)司法裁判中的價(jià)值判斷這一核心領(lǐng)域，通過(guò)循環(huán)式地強(qiáng)化學(xué)習(xí)算法，將反饋模型和原始模型相鏈接，能夠不斷地促使原始模型逐漸迭代升級(jí)，直至“脫胎換骨”徹底掌握人類(lèi)偏好，進(jìn)而實(shí)現(xiàn)算法模型的表述、內(nèi)在價(jià)值與人類(lèi)常識(shí)、價(jià)值觀的“對(duì)齊”。

總之，雖然有觀點(diǎn)提出批評(píng)，認(rèn)為現(xiàn)階段智慧系統(tǒng)的運(yùn)用受制于司法人員主觀認(rèn)識(shí)、技術(shù)成熟度以及可適用面狹窄等因素而不夠完善，但這些批評(píng)并不會(huì)從價(jià)值論上否定人工智能司法的效率功能。相反，伴隨著智能技術(shù)的進(jìn)步，算法正在通過(guò)對(duì)司法效率的賦能而前置，并進(jìn)入司法的核心領(lǐng)域，具備了一定的司法決策能力。

（二）法官后撤與算法司法

伴隨著算法前置的日益顯著， 法官作為司法主體的角色后撤將成為人工智能司法的基本特征，因而，人工智能司法的本質(zhì)就是因法官后撤而引起的算法司法。

算法是指實(shí)現(xiàn)最優(yōu)模型的解法，算法司法完全可以復(fù)制人類(lèi)法官司法的“外觀”，一定程度上輔助或代替人類(lèi)進(jìn)行司法判斷，尤其是，在權(quán)力行使規(guī)則清晰和可預(yù)測(cè)性結(jié)果明確的司法領(lǐng)域，采用算法解決司法問(wèn)題，通過(guò)算法連通條件輸入端和結(jié)論輸出端，實(shí)現(xiàn)算法增強(qiáng)的自動(dòng)化司法，完全具有技術(shù)上的可行性。盡管不同類(lèi)型的人工智能司法有著差異化的輸入端內(nèi)容和輸出端內(nèi)容，但根本的區(qū)別不在于輸入與輸出的不同，而是算法解法的不同，在人工智能司法裁判領(lǐng)域，機(jī)器裁判模型構(gòu)造的過(guò)程就是將算法知識(shí)和法律數(shù)據(jù)相結(jié)合的過(guò)程。其中，通過(guò)數(shù)據(jù)反映司法裁判規(guī)律、通過(guò)算法挖掘數(shù)據(jù)相關(guān)性、在測(cè)試集內(nèi)測(cè)試模型性能是機(jī)器裁判的三個(gè)主要環(huán)節(jié)。在此環(huán)節(jié)中，雖然算法司法的知識(shí)來(lái)源是傳統(tǒng)司法，但在機(jī)器習(xí)得司法裁判的基本規(guī)律之后，就能實(shí)現(xiàn)“像法官一樣行為”，至于能否最終實(shí)現(xiàn)“像法官一樣裁判”，則取決于算法水平是否足以支撐其“像法官一樣思考”。換言之，算法的司法應(yīng)用將不可避免地導(dǎo)致法官后撤。也即，相較于完全由法官獨(dú)占的裁判活動(dòng)，算法的介入將導(dǎo)致法官不可避免地面臨職權(quán)的分解，而這種分解的過(guò)程也正是法官后撤的過(guò)程。

當(dāng)然，也有學(xué)者指出，人工智能有助于實(shí)現(xiàn)司法的形式正義，但對(duì)需要法官裁判智慧的實(shí)質(zhì)正義卻仍是望塵莫及。但問(wèn)題在于，這一論斷并不是對(duì)法官后撤的否定，而是對(duì)法官后撤程度的質(zhì)疑。換言之，算法在司法中的應(yīng)用只會(huì)在一定程度上分解人類(lèi)法官的裁判職能，但并不會(huì)完全替代，法官后撤不是法官離場(chǎng)。法官后撤的本質(zhì)是算法對(duì)司法裁判權(quán)的部分替代。例如，司法實(shí)踐中大多數(shù)裁判都是對(duì)于“法律規(guī)范→案件事實(shí)→裁判結(jié)論”這一單調(diào)推理邏輯的運(yùn)用。在此基礎(chǔ)上，司法裁判的首要步驟是，準(zhǔn)確找尋與案件事實(shí)相對(duì)應(yīng)的法律規(guī)范，并將其準(zhǔn)確應(yīng)用于案件事實(shí)中去。在此過(guò)程中，將法律規(guī)范適用于案件事實(shí)中去既是完成司法裁判活動(dòng)的關(guān)鍵步驟，也是推進(jìn)司法裁判順利進(jìn)行的先決條件。而保證法律規(guī)范適用的準(zhǔn)確性正是算法的優(yōu)勢(shì)所在，相較于完全由人類(lèi)法官進(jìn)行的司法裁判，算法對(duì)于法律規(guī)范檢索程度的高低只會(huì)影響法官后撤的程度，而不是對(duì)人類(lèi)法官裁判職能分解的絕對(duì)否定。再例如，智慧量刑系統(tǒng)作為能夠完成刑罰裁量的人工智能機(jī)器，通過(guò)算法產(chǎn)生量刑結(jié)論，在占據(jù)司法主導(dǎo)地位時(shí)成為量刑法官，在處于司法輔助地位時(shí)可以提供量刑參考，從而在量刑時(shí)實(shí)現(xiàn)犯罪圈均衡化與刑罰輕緩化的目標(biāo)，避免量刑結(jié)果苛重，在承擔(dān)司法監(jiān)督任務(wù)時(shí)則表現(xiàn)為同案不同判預(yù)警機(jī)制。

總之，無(wú)論出于何種地位，人工智能司法中的算法未發(fā)生根本改變，始終發(fā)揮著“像法官一樣量刑”的替代性功能，法官后撤是人工智能司法的基本特征，算法司法是人工智能司法的本質(zhì)所在。

（三）算法正義與形式理性

算法一旦進(jìn)入司法領(lǐng)域，人工智能司法的正當(dāng)性就必然受到質(zhì)疑和批判，這些質(zhì)疑和批判觸及人工智能司法的價(jià)值根基，直指司法正義本身，也就是算法司法的正義風(fēng)險(xiǎn)。

司法的價(jià)值根基在于正義，人工智能司法經(jīng)受的價(jià)值批判也來(lái)源于司法正義，當(dāng)訴訟程序經(jīng)過(guò)數(shù)字化改造之后，學(xué)界普遍認(rèn)為算法決策能夠通過(guò)程序性、公式化計(jì)算來(lái)優(yōu)化訴訟程序和處理簡(jiǎn)單案件，卻難以處理重大的復(fù)雜疑難案件；它能夠促進(jìn)形式正義，卻很難實(shí)現(xiàn)實(shí)質(zhì)正義。人工智能司法雖然具有人類(lèi)法官不可比擬的優(yōu)勢(shì)，但也具有不可克服的缺陷，無(wú)法應(yīng)對(duì)不確定性，不具有人類(lèi)常識(shí)常情，以及無(wú)法進(jìn)行價(jià)值判斷。張軍大法官也曾對(duì)計(jì)算機(jī)量刑作出精辟分析，認(rèn)為“每一個(gè)案件都不同，把各種情形的因素用軟件輸入，最后得出一個(gè)量刑的情形，這個(gè)很難符合具體的現(xiàn)實(shí)的案件”。人工智能司法確實(shí)存在語(yǔ)料和數(shù)據(jù)的獲取能力有限，無(wú)法窮盡司法場(chǎng)景及其考量因素的問(wèn)題，法官在司法裁判中依據(jù)的案件事實(shí)、法律規(guī)則、個(gè)體經(jīng)驗(yàn)、自由心證、情理考量等內(nèi)容很難通過(guò)結(jié)構(gòu)化數(shù)據(jù)表達(dá)使機(jī)器算法習(xí)得。例如，在刑事審判參考指導(dǎo)案例王某旺非法經(jīng)營(yíng)案中，被告人王某旺銷(xiāo)售假冒注冊(cè)商標(biāo)的偽劣卷煙的事實(shí)清楚，已經(jīng)構(gòu)成非法經(jīng)營(yíng)罪，依法應(yīng)在五年以上有期徒刑的法定刑幅度量刑，但考慮其女兒急需進(jìn)行骨髓移植手術(shù)，王某旺為優(yōu)選供髓者，且為家庭經(jīng)濟(jì)收入的唯一來(lái)源，最高人民法院核準(zhǔn)對(duì)王某旺在法定刑以下判處刑罰并宣告緩刑。很顯然，人工智能司法不可能作出此類(lèi)“法外開(kāi)恩”的決策，由于無(wú)法實(shí)現(xiàn)情理法的融合與平衡，因而人工智能司法被認(rèn)為有損實(shí)質(zhì)正義。

問(wèn)題在于，這種質(zhì)疑并未觸及算法正義的本質(zhì)，也未對(duì)形式正義與實(shí)質(zhì)正義的關(guān)系作出正確理解。事實(shí)上，司法正義包括形式正義、實(shí)質(zhì)正義和程序正義這三個(gè)邏輯結(jié)構(gòu)，而算法正義不僅未對(duì)司法正義造成沖擊，而且契合傳統(tǒng)司法正義一以貫之的形式理性價(jià)值根基，人工智能司法并非只能實(shí)現(xiàn)形式正義而無(wú)法滿足實(shí)質(zhì)正義要求， 因?yàn)樾问嚼硇耘c形式正義的概念內(nèi)涵存在根本區(qū)別而不能加以混同。形式正義又稱為分配的正義，也就是同等情況同等對(duì)待、不同情況不同對(duì)待，形式正義導(dǎo)向同案同判，但對(duì)裁判結(jié)果是否符合罰當(dāng)其罪的實(shí)質(zhì)要求則在所不問(wèn)；實(shí)質(zhì)正義則融入結(jié)果公正的實(shí)質(zhì)判斷，要求作出符合罪責(zé)刑相適應(yīng)原則和比例原則的處罰裁斷。算法正義絕不是簡(jiǎn)單的形式正義，算法主導(dǎo)的自動(dòng)化決策機(jī)制能夠有效排除外界因素干擾以嚴(yán)格達(dá)成規(guī)范符合，實(shí)現(xiàn)形式正義和可預(yù)測(cè)的正義的同時(shí)，也可以將實(shí)質(zhì)正義需要的社會(huì)危害性和處罰結(jié)果的比例考量通過(guò)要素化和結(jié)構(gòu)化數(shù)據(jù)標(biāo)注融入算法之中，進(jìn)而實(shí)現(xiàn)對(duì)實(shí)質(zhì)正義的追求。例如，具有深度學(xué)習(xí)能力的人工智能系統(tǒng)甚至可以不受限于既往裁判經(jīng)驗(yàn)而自動(dòng)生成新的要素標(biāo)注。前文也已提及，受益于大語(yǔ)言模式算法的助力，生成式人工智能已經(jīng)能夠?qū)崿F(xiàn)邏輯推理與價(jià)值對(duì)齊，體現(xiàn)出對(duì)實(shí)質(zhì)正義的內(nèi)在要求。因而，算法正義的真正內(nèi)涵是一種形式理性主導(dǎo)的實(shí)質(zhì)正義。原因在于，在形式理性與實(shí)質(zhì)理性之間，形式理性具有優(yōu)位原則，是第一位的，實(shí)質(zhì)理性是第二位的，只能在堅(jiān)持形式理性的前提下追求實(shí)質(zhì)理性。在此基礎(chǔ)上，將法律規(guī)范遵守作為首要價(jià)值追求并基于價(jià)值規(guī)范進(jìn)行實(shí)質(zhì)矯正的形式理性顯然能夠囊括形式正義與實(shí)質(zhì)正義， 能夠?qū)崿F(xiàn)對(duì)算法正義實(shí)質(zhì)內(nèi)涵的準(zhǔn)確概括。

總體而言，人工智能司法的本質(zhì)是算法司法，當(dāng)算法能夠?qū)崿F(xiàn)對(duì)權(quán)利義務(wù)以及責(zé)任的分配時(shí)，對(duì)于算法的質(zhì)疑與批判也就隨之而來(lái)。但問(wèn)題在于，基于形式正義與實(shí)質(zhì)正義的區(qū)分否定算法并未觸及算法正義的關(guān)鍵。事實(shí)上，鑒于公正司法是維護(hù)社會(huì)公平正義的最后一道防線，所以必須繼續(xù)深化司法體制綜合配套改革，借助算法實(shí)現(xiàn)對(duì)法律規(guī)范遵循的形式理性才是算法正義的核心所在。

二、人工智能司法的風(fēng)險(xiǎn)：算法正義的三重危機(jī)

算法正義包含了形式正義和實(shí)質(zhì)正義的內(nèi)涵，具有傳統(tǒng)司法正義的形式理性特征，但是，人工智能司法與傳統(tǒng)司法模式畢竟存在諸多區(qū)別，正是這些差異使算法正義出現(xiàn)了危機(jī)，成為發(fā)生人工智能司法安全風(fēng)險(xiǎn)的根源，因此要基于應(yīng)用場(chǎng)景分析安全風(fēng)險(xiǎn)。在學(xué)界以往的研究中，人工智能司法安全風(fēng)險(xiǎn)的畫(huà)像已經(jīng)初步成型，如在技術(shù)維度存在個(gè)人信息深度卷入、場(chǎng)景影響高度不確定、既有秩序面臨高烈度沖擊、公眾遭遇泛在威脅等風(fēng)險(xiǎn)，給司法體系帶來(lái)司法固有屬性被消解、法官主體地位被削弱、司法改革目標(biāo)被替代、司法改革結(jié)果失控等沖擊，但真正考察算法正義的實(shí)質(zhì)危機(jī)，還需要從司法正義的基本維度出發(fā)進(jìn)行研究。

（一）算法正義的程序風(fēng)險(xiǎn)

一般認(rèn)為，審判程序的參與性、中立性、對(duì)等性等是程序內(nèi)在價(jià)值的基本構(gòu)成要素。然而，遵循法律規(guī)范的算法正義則在一定程度上對(duì)程序正義的內(nèi)在要素構(gòu)成了挑戰(zhàn)，進(jìn)而引發(fā)算法正義的程序風(fēng)險(xiǎn)。

一是，算法正義可能消解了司法程序的參與性。程序的參與性體現(xiàn)在兩個(gè)方面：一方面，訴訟雙方能夠在時(shí)間與空間維度有充分的機(jī)會(huì)參與到司法裁判的制作過(guò)程中去， 可以自由地表達(dá)觀點(diǎn)、呈現(xiàn)證據(jù)。另一方面，能夠?qū)崿F(xiàn)對(duì)司法裁判結(jié)果的實(shí)質(zhì)性反饋，通過(guò)辯論實(shí)現(xiàn)對(duì)司法裁判結(jié)果制作的參與。例如，我國(guó)現(xiàn)行的刑事訴訟法第182條第3款關(guān)于向人民檢察院、當(dāng)事人、辯護(hù)人、訴訟代理人、證人、鑒定人和翻譯人員等告知案由、開(kāi)庭時(shí)間、地點(diǎn)的規(guī)定是對(duì)訴訟雙方參與時(shí)間與空間的保障。刑事訴訟法第186條關(guān)于公訴人宣讀起訴書(shū)，辯護(hù)人、訴訟代理人發(fā)問(wèn)的規(guī)定是對(duì)程序參與實(shí)質(zhì)性的保障。然而，人工智能司法對(duì)效率的極致追求則在一定程度上壓縮了正當(dāng)程序的環(huán)節(jié)，忽略了民眾與司法溝通的橋梁紐帶，基于算法的自動(dòng)化裁判當(dāng)相關(guān)信息輸入的那一刻，就實(shí)現(xiàn)了對(duì)應(yīng)結(jié)果的輸出，自動(dòng)化決策程序使得司法的過(guò)程成為自動(dòng)“販賣(mài)機(jī)”，兩造面對(duì)冰冷的機(jī)器展開(kāi)對(duì)抗，很可能會(huì)產(chǎn)生主觀上的不信任感，“讓人民群眾在每一個(gè)司法案件中感受到公平正義”的主觀的程序正義價(jià)值難以實(shí)現(xiàn)。

二是，算法正義消解了司法程序的中立性。比較而言，人工智能由于不存在回避、疲勞、情感等問(wèn)題的干擾，因而在結(jié)果上更具中立性。但這并不意味著算法正義對(duì)司法程序的中立性并不存在著任何維度的影響。與之相反，盡管算法模型一直在不斷地進(jìn)步與優(yōu)化，但算法偏見(jiàn)、算法歧視等現(xiàn)象仍然存在，并進(jìn)而在一定程度上消解了司法程序的中立性。事實(shí)上，“偏見(jiàn)進(jìn)，偏見(jiàn)出”似乎自算法誕生的那一刻就已經(jīng)存在，算法的訓(xùn)練數(shù)據(jù)、算法的訓(xùn)練模型以及算法的輸出結(jié)果都可能是導(dǎo)致算法偏見(jiàn)的現(xiàn)象出現(xiàn)。實(shí)踐中，即使是最先進(jìn)的生成式人工智能，也無(wú)法實(shí)現(xiàn)對(duì)算法偏見(jiàn)的絕對(duì)擺脫。大語(yǔ)言模型在提升ChatGPT的智能化程度和準(zhǔn)確性水平的同時(shí)，也會(huì)導(dǎo)致算法偏見(jiàn)的法律風(fēng)險(xiǎn)成倍提升，基于GPT-3的輸出結(jié)果已經(jīng)存在大量基于性別、種族以及宗教的偏見(jiàn)。由此可見(jiàn)，算法在強(qiáng)化司法中立的同時(shí)，也會(huì)因算法偏見(jiàn)影響消解司法程序的中立性，進(jìn)而造成算法正義的程序風(fēng)險(xiǎn)。

三是，算法正義消解了司法程度的對(duì)等性。程序的對(duì)等性要求，訴訟雙方勢(shì)均力敵，也即控辯平等，旨在防止“以大欺小”的情形出現(xiàn)，進(jìn)而對(duì)案件糾紛的最終裁決產(chǎn)生不利影響。制度上，沉默權(quán)、質(zhì)證權(quán)等權(quán)利設(shè)置都是程序?qū)Φ刃缘木唧w體現(xiàn)。然而，算法正義的實(shí)踐邏輯則有可能對(duì)程序的對(duì)等性帶來(lái)一定的負(fù)面影響。以質(zhì)證權(quán)的保障為例，不論是當(dāng)前的證據(jù)智能指引系統(tǒng)還是證據(jù)智能分析系統(tǒng)，其司法實(shí)踐的過(guò)程中事實(shí)上都是基于海量的數(shù)據(jù)與智能化算法自動(dòng)完成的。例如，杭州互聯(lián)網(wǎng)法院上線的智能證據(jù)分析系統(tǒng)可以實(shí)現(xiàn)對(duì)文字作品、圖片、視頻等證據(jù)進(jìn)行對(duì)比，找出相似度，實(shí)現(xiàn)對(duì)證據(jù)的審查。在此過(guò)程中，智能化技術(shù)在證據(jù)領(lǐng)域的應(yīng)用事實(shí)上是通過(guò)算法實(shí)現(xiàn)了對(duì)證據(jù)的比對(duì)、校驗(yàn)，算法化的比對(duì)與校驗(yàn)實(shí)質(zhì)上就是對(duì)質(zhì)證原則中的詢問(wèn)與對(duì)質(zhì)的代替。

總之，雖然算法能夠保障訴訟程序的效率，提高訴訟的便捷性，但自動(dòng)化的程序設(shè)置也會(huì)對(duì)程序的參與性、中立性、對(duì)等性造成影響，引發(fā)算法正義的程序風(fēng)險(xiǎn)。

（二）算法正義的實(shí)體風(fēng)險(xiǎn)

已經(jīng)有較為扎實(shí)的研究證實(shí)人工智能司法在結(jié)果上更有助于準(zhǔn)確公正，具有更高的可接受性、能夠提供更為整全性的信息、在社會(huì)效果評(píng)估方面更為有效，體現(xiàn)了形式理性指導(dǎo)下算法正義的普遍正義功能。至于法定刑以下判處刑罰等特殊個(gè)案的正義實(shí)現(xiàn)，則完全可以通過(guò)人工校準(zhǔn)，而不會(huì)影響算法正義的基本價(jià)值。但是，算法正義需要以科學(xué)的裁判規(guī)則代碼化過(guò)程為前提，一旦算法和有關(guān)參數(shù)未得到合理設(shè)計(jì)，就可能產(chǎn)生系統(tǒng)性偏差，使普遍正義淪為普遍非正義，對(duì)司法公正產(chǎn)生巨大沖擊。

不論是大數(shù)據(jù)、云計(jì)算、區(qū)塊鏈等分析式人工智能，還是生成式人工智能，人工智能司法都是借助算法實(shí)現(xiàn)案件事實(shí)的認(rèn)定與法律規(guī)范的適用，在此過(guò)程中，需要將證據(jù)數(shù)據(jù)化、對(duì)數(shù)據(jù)進(jìn)行運(yùn)算整合、輸出人可以理解的結(jié)論。換言之，法律事實(shí)認(rèn)定與法律條文適用的數(shù)字化轉(zhuǎn)換，并進(jìn)而借助算法運(yùn)算輸出是算法司法的基本過(guò)程。例如，在法律事實(shí)的認(rèn)定上，大數(shù)據(jù)證據(jù)和大數(shù)據(jù)偵查方法運(yùn)用也日趨成熟，不同于傳統(tǒng)實(shí)物證據(jù)，面對(duì)不具有可感知的數(shù)字屬性證據(jù)，人類(lèi)感官在事實(shí)認(rèn)定中的重要性已經(jīng)開(kāi)始下降，法律事實(shí)的認(rèn)定開(kāi)始由感官經(jīng)驗(yàn)向數(shù)據(jù)之間的相關(guān)性轉(zhuǎn)變。在此情形下，案件事實(shí)的認(rèn)定正在從以人為中心向以數(shù)字為中心漸變，呈現(xiàn)出法律事實(shí)認(rèn)定的數(shù)字化趨勢(shì)。與之類(lèi)似，法律適用在數(shù)字技術(shù)的嵌入下也呈現(xiàn)出顯著的數(shù)字化趨勢(shì)。法律條文概念的模糊性使得法律必須經(jīng)過(guò)解釋才能實(shí)現(xiàn)準(zhǔn)確適用。但在具體法律規(guī)則的適用過(guò)程中，不僅存在法律解釋?zhuān)疫€存在一種獨(dú)立于法律方法的事實(shí)解釋?zhuān)蚨?，審判過(guò)程中的法律適用往往是一個(gè)耗時(shí)費(fèi)力的過(guò)程。當(dāng)前人工智能正逐漸發(fā)展為可解釋的人工智能，以數(shù)字為驅(qū)動(dòng)的法律適用能夠?qū)崿F(xiàn)對(duì)這一過(guò)程的簡(jiǎn)化。例如，以“智慧案管”為代表的管理系統(tǒng)通過(guò)對(duì)類(lèi)案檢索、量刑規(guī)范等功能的融入能夠?qū)崿F(xiàn)法律適用偏離度自動(dòng)分析預(yù)警，確保類(lèi)案同判。重要的是，事實(shí)認(rèn)定與法律適用的數(shù)字化在為事實(shí)認(rèn)定與法律適用提供代碼化、自動(dòng)化的可能性同時(shí)，也促使審判結(jié)果能夠以更為精確、更為客觀的數(shù)字化形式呈現(xiàn)，體現(xiàn)了形式理性指導(dǎo)下算法正義的普遍正義。

但問(wèn)題在于，基于算法的事實(shí)認(rèn)定與法律適用是通過(guò)算法模型在法律樣本數(shù)據(jù)中找尋數(shù)字之間的相關(guān)性而完成的。本質(zhì)上，這種相關(guān)性模型只是一種概率性、計(jì)算性的數(shù)學(xué)統(tǒng)計(jì)與擬合。哪怕是最先進(jìn)的生成式人工智能，也只是更多地應(yīng)用了概率論，通過(guò)對(duì)大量數(shù)據(jù)的訓(xùn)練，以巨大的計(jì)算量計(jì)算詞與詞之間搭配分布的概率。因而，數(shù)據(jù)的準(zhǔn)確性、模型的設(shè)置的科學(xué)性都將對(duì)最終的輸出結(jié)果造成影響。例如，人工智能犯罪風(fēng)險(xiǎn)評(píng)估由于對(duì)歷史數(shù)據(jù)的高度依賴，就不可避免地導(dǎo)致系統(tǒng)會(huì)重現(xiàn)數(shù)據(jù)中的歧視模式與歷史偏見(jiàn)模式。事實(shí)上，“當(dāng)我們質(zhì)疑人類(lèi)恣意時(shí)，也更有理由懷疑這些系統(tǒng)研發(fā)者會(huì)借著算法黑箱寫(xiě)入法學(xué)家的偏見(jiàn)、科學(xué)家的武斷、企業(yè)的經(jīng)濟(jì)利益等，它們?nèi)詿o(wú)法擺脫商業(yè)、政治、強(qiáng)勢(shì)價(jià)值觀等力量操控”。換言之，只要對(duì)用于訓(xùn)練的數(shù)據(jù)進(jìn)行一定的清洗，對(duì)運(yùn)行算法的模型進(jìn)行科學(xué)的設(shè)置，基于算法的事實(shí)認(rèn)定與法律適用能夠?qū)崿F(xiàn)對(duì)個(gè)案的關(guān)注，算法正義的實(shí)體風(fēng)險(xiǎn)并不在于只能實(shí)現(xiàn)對(duì)形式正義的關(guān)注，忽視裁判結(jié)果的“法外開(kāi)恩”，而在于算法自身的數(shù)據(jù)、模型的合理性、科學(xué)性。

總之，算法在體現(xiàn)形式理性指導(dǎo)下實(shí)質(zhì)正義的同時(shí)，也會(huì)因來(lái)源數(shù)據(jù)、相關(guān)參數(shù)等因素影響算法的功能發(fā)揮，進(jìn)而影響到實(shí)體結(jié)果的準(zhǔn)確性，引發(fā)算法正義下的實(shí)體風(fēng)險(xiǎn)。

（三）算法正義的技術(shù)風(fēng)險(xiǎn)

人工智能司法安全風(fēng)險(xiǎn)還要面臨算法正義的固有安全風(fēng)險(xiǎn)。人工智能司法的數(shù)智化特征決定了實(shí)現(xiàn)算法正義面臨著與實(shí)現(xiàn)傳統(tǒng)司法正義不同的固有安全風(fēng)險(xiǎn)，其主要是人工智能系統(tǒng)的運(yùn)維安全風(fēng)險(xiǎn)，具體涉及人工智能程序?qū)?shù)據(jù)進(jìn)行收集、存儲(chǔ)、傳輸、交換、處理的各個(gè)流程。〕依據(jù)《人工智能司法意見(jiàn)》的相關(guān)表述，數(shù)據(jù)安全、個(gè)人信息安全以及人工智能系統(tǒng)安全是算法固有安全風(fēng)險(xiǎn)的兩個(gè)重要組成，而對(duì)安全的保護(hù)強(qiáng)度則影響公眾對(duì)司法規(guī)范體系的信賴程度。

人工智能司法的良好運(yùn)行離不開(kāi)高質(zhì)量的數(shù)據(jù)支撐一定程度上，領(lǐng)域內(nèi)的數(shù)據(jù)量越大、質(zhì)量越高，就越能取得更好的效果。例如，以ChatGPT為代表的生成式人工智能之所以能夠取得如此顯著的成果，其關(guān)鍵的原因就在于借助了海量參數(shù)的大語(yǔ)言模型的訓(xùn)練。但就目前而言，大語(yǔ)言模型的主要技術(shù)框架來(lái)源于域外國(guó)家，基于西方價(jià)值觀和思維導(dǎo)向建立，因此其中的回答也通常迎合西方立場(chǎng)和喜好，可能導(dǎo)致意識(shí)形態(tài)滲透。司法不僅關(guān)系到個(gè)人的權(quán)利義務(wù)分配、社會(huì)矛盾的化解，更與國(guó)家的核心價(jià)值、意識(shí)形態(tài)密切相關(guān)。因而，一方面要規(guī)范人工智能司法的數(shù)據(jù)處理，強(qiáng)化數(shù)據(jù)應(yīng)用監(jiān)管，另一方面也要強(qiáng)化司法數(shù)據(jù)跨境流動(dòng)的管理，防范危害國(guó)家安全的數(shù)據(jù)被境外利用。為此，我國(guó)數(shù)據(jù)安全法專(zhuān)門(mén)就數(shù)據(jù)安全予以規(guī)定。個(gè)人信息安全是算法風(fēng)險(xiǎn)的另一個(gè)表現(xiàn)。數(shù)字時(shí)代，依據(jù)個(gè)體信息數(shù)據(jù)所有行為都將變得“有跡可循”。為獲得更為適配、更為精準(zhǔn)的算法服務(wù)就不可避免地涉及對(duì)個(gè)人信息的收集、處理。實(shí)踐中，德國(guó)、英國(guó)、加拿大等諸多國(guó)家都紛紛表示將以個(gè)人信息權(quán)益保護(hù)與數(shù)據(jù)安全為由對(duì)OpenAI展開(kāi)調(diào)查。因此，個(gè)人信息安全也成為人工智能技術(shù)固有風(fēng)險(xiǎn)之一。除此之外，受現(xiàn)有技術(shù)的瓶頸影響，人工智能系統(tǒng)自身也具有不可回避的安全風(fēng)險(xiǎn)。例如，各國(guó)政府部門(mén)以及相關(guān)組織已經(jīng)意識(shí)到，人工智能技術(shù)的發(fā)展需要制定一個(gè)規(guī)范和可信賴的框架來(lái)保障人類(lèi)免受傷害。但就目前的技術(shù)而言，實(shí)現(xiàn)完全意義上的算法透明、算法可解釋仍然具有一定差距。

總之，以算法司法為本質(zhì)的人工智能司法在體現(xiàn)形式理性特征的基礎(chǔ)上，也面臨著程序風(fēng)險(xiǎn)、實(shí)體風(fēng)險(xiǎn)以及技術(shù)固有風(fēng)險(xiǎn)三重危機(jī)。但歸根結(jié)底，引發(fā)上述危機(jī)的實(shí)質(zhì)原因是算法訓(xùn)練的數(shù)據(jù)、算法運(yùn)算的模型、算法輸出的結(jié)果等因素，算法是造成危機(jī)的根源。

三、人工智能司法的完善：算法中心的治理模式

圍繞算法司法、算法正義以及算法所引發(fā)的風(fēng)險(xiǎn)，人工智能司法的完善應(yīng)當(dāng)以算法為中心展開(kāi)，通過(guò)對(duì)算法中心治理模式的構(gòu)建，實(shí)現(xiàn)人工智能司法的深入推進(jìn)。當(dāng)前，前置性學(xué)習(xí)訓(xùn)練及人工標(biāo)注輔助算法升級(jí)的準(zhǔn)備階段，進(jìn)行自身算法處理輸入數(shù)據(jù)及得出處理后數(shù)據(jù)產(chǎn)出物的運(yùn)算階段，數(shù)據(jù)產(chǎn)出物流入社會(huì)并對(duì)社會(huì)中的各行各業(yè)造成影響的生成階段是人工智能運(yùn)行的三個(gè)基本階段。因此，訓(xùn)練數(shù)據(jù)、運(yùn)算模型以及輸出結(jié)果是算法中心治理模式的三個(gè)重要組成。

（一）強(qiáng)化算法訓(xùn)練的數(shù)據(jù)

數(shù)據(jù)是知識(shí)形成和文明進(jìn)步的重要象征，是人類(lèi)認(rèn)識(shí)客觀世界的產(chǎn)物。數(shù)據(jù)不僅關(guān)涉到國(guó)家、社會(huì)、公眾的數(shù)字權(quán)益保護(hù)，同時(shí)也與算法輸出結(jié)果的客觀、中立密切相關(guān)。因此，對(duì)于算法訓(xùn)練數(shù)據(jù)的增強(qiáng)應(yīng)當(dāng)分別從數(shù)字權(quán)益與數(shù)字來(lái)源兩個(gè)方面展開(kāi)。

具體而言，在數(shù)字權(quán)益方面，算法訓(xùn)練數(shù)據(jù)的增強(qiáng)應(yīng)當(dāng)嚴(yán)格依照知情同意的法律框架展開(kāi)，增強(qiáng)數(shù)據(jù)使用的合法性。法律層面，我國(guó)相繼制定的數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等系列法律分別對(duì)數(shù)據(jù)的收集、處理予以了規(guī)定。與此同時(shí)，2022年11月，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》規(guī)定，深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)采取必要措施保障訓(xùn)練數(shù)據(jù)安全、遵守個(gè)人信息保護(hù)的有關(guān)規(guī)定，提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意。2023年8月15日施行的《生成式人工智能服務(wù)管理暫行辦法》也再次明確，生成式人工智能服務(wù)提供者應(yīng)當(dāng)使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型、取得個(gè)人同意的信息等依法開(kāi)展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng)。由此可見(jiàn)，盡管在體系上比較分散，但根據(jù)相關(guān)的法律規(guī)定，個(gè)人數(shù)據(jù)處理者在處理個(gè)人數(shù)據(jù)之前，必須具有法律根據(jù)。在此基礎(chǔ)上，對(duì)于算法訓(xùn)練數(shù)據(jù)的強(qiáng)化可通過(guò)個(gè)人信息收集、提供和共享三個(gè)層面的規(guī)則構(gòu)建，來(lái)防范智能技術(shù)應(yīng)用造成的安全風(fēng)險(xiǎn)。在數(shù)字來(lái)源方面，算法訓(xùn)練數(shù)據(jù)的增強(qiáng)關(guān)鍵在于構(gòu)建統(tǒng)一的司法數(shù)字資源庫(kù)。依據(jù)《人工智能司法意見(jiàn)》的規(guī)劃，未來(lái)，推進(jìn)人工智能司法應(yīng)用需要加快推進(jìn)司法數(shù)據(jù)庫(kù)、數(shù)據(jù)服務(wù)平臺(tái)、司法知識(shí)庫(kù)、人工智能引擎等系統(tǒng)的建設(shè)和集成，打造實(shí)體化司法數(shù)據(jù)中臺(tái)和智慧法院大腦，為面向各類(lèi)業(yè)務(wù)的人工智能司法應(yīng)用提供核心驅(qū)動(dòng)。在此基礎(chǔ)上，數(shù)字資源庫(kù)將是人工智能司法建設(shè)的重要內(nèi)容，是人工智能司法的基礎(chǔ)性建設(shè)。為此，構(gòu)建司法數(shù)字資源庫(kù)需要分別從如下兩個(gè)方面展開(kāi)：一是，通過(guò)司法數(shù)字庫(kù)的構(gòu)建，實(shí)現(xiàn)對(duì)現(xiàn)有司法資源的統(tǒng)一，形成包括法律法規(guī)、司法文書(shū)、法律期刊、法律專(zhuān)著等文本數(shù)字，庭審直播、庭審錄像等視頻數(shù)字，訴訟流程、司法管理等信息數(shù)字的多模態(tài)數(shù)字資源庫(kù)，為智能化算法訓(xùn)練提供充足的數(shù)字資源。二是，通過(guò)司法數(shù)字庫(kù)的構(gòu)建，實(shí)現(xiàn)對(duì)關(guān)鍵數(shù)字的清洗、篩選，促使算法訓(xùn)練的數(shù)據(jù)已經(jīng)實(shí)現(xiàn)個(gè)人信息匿名、敏感信息清洗、失真信息篩選，進(jìn)而增強(qiáng)數(shù)據(jù)的高質(zhì)量。

總之，數(shù)據(jù)作為算法治理的基礎(chǔ)與前提，既要推進(jìn)司法數(shù)據(jù)收集、處理的合規(guī)合法，強(qiáng)化數(shù)據(jù)保護(hù)，也要通過(guò)司法數(shù)據(jù)資源庫(kù)的構(gòu)建提高數(shù)量與質(zhì)量，為算法訓(xùn)練提供充足燃料。

（二）優(yōu)化算法運(yùn)行的模型

通過(guò)對(duì)模型的優(yōu)化能夠顯著提升算法的理解、交互等能力的提升， 進(jìn)而促進(jìn)人工智能司法的完善。面向生成式人工智能的未來(lái)實(shí)踐， 新一代法律智能系統(tǒng)呈現(xiàn)出基于大語(yǔ)言模型與法律專(zhuān)家知識(shí)相融合的趨勢(shì)，因此，對(duì)算法模型的優(yōu)化可以分別從如下兩個(gè)方面展開(kāi)。

一方面，借助大語(yǔ)言模型中的微調(diào)指令，實(shí)現(xiàn)對(duì)算法模型的優(yōu)化，促進(jìn)人工智能司法的完善。實(shí)踐已經(jīng)證明，在微調(diào)指令的助力下，以ChatGPT為代表的生成式人工智能不僅能夠處理文本分類(lèi)、語(yǔ)義分析、信息提取、文本生成、自動(dòng)文摘、機(jī)器翻譯、對(duì)話系統(tǒng)、信息檢索等自然語(yǔ)言核心任務(wù)，同時(shí)還能夠?qū)崿F(xiàn)指令表達(dá)由“人類(lèi)適配機(jī)器”向“機(jī)器適配人類(lèi)”的轉(zhuǎn)變，只要人類(lèi)開(kāi)口表達(dá)訴求，人工智能就能夠理解并幫助人類(lèi)進(jìn)行解答。因而，對(duì)算法模型優(yōu)化的一個(gè)可能的路徑是強(qiáng)化對(duì)司法領(lǐng)域內(nèi)的微調(diào)指令。面向司法領(lǐng)域內(nèi)微調(diào)指令主要集中在如下三點(diǎn)：一是，構(gòu)建以法言法語(yǔ)為主要應(yīng)用場(chǎng)景的交互微調(diào)指令，提升人工智能技術(shù)在司法場(chǎng)景內(nèi)的交互能力，進(jìn)而提升算法決策過(guò)程中當(dāng)事人的參與性。二是，強(qiáng)化價(jià)值對(duì)齊的微調(diào)指令，實(shí)現(xiàn)對(duì)算法偏見(jiàn)的矯正，進(jìn)而促進(jìn)算法結(jié)果的客觀性。三是，在技術(shù)維度探索算法的可解釋性，推進(jìn)算法模型的透明，消解算法的固有技術(shù)風(fēng)險(xiǎn)。另一方面，構(gòu)建法律專(zhuān)家參與的算法模型，通過(guò)法律知識(shí)在算法中的運(yùn)行強(qiáng)化人工智能司法的可解釋性。算法正義并非天然隔絕程序正義與實(shí)體正義，相反，程序的參與性、中立性、對(duì)等性等程序正義要素完全可以通過(guò)人機(jī)交互設(shè)計(jì)予以保障。例如，數(shù)字智能時(shí)代下的法官親歷性不僅要求法官對(duì)決策過(guò)程的物理在場(chǎng)，還需要法官對(duì)訴訟智能化過(guò)程的數(shù)字在場(chǎng)，可以通過(guò)訴訟智能化系統(tǒng)相關(guān)系數(shù)的調(diào)節(jié)實(shí)現(xiàn)對(duì)待決案件關(guān)鍵要素的輸入把關(guān)與結(jié)果檢驗(yàn)，進(jìn)而完成裁判的最終作出。與之類(lèi)似，借助法律專(zhuān)家的法律知識(shí)體系實(shí)現(xiàn)對(duì)法律知識(shí)圖譜的構(gòu)建，進(jìn)而完善人工智能司法的算法模型。

總之，伴隨著人工智能的技術(shù)發(fā)展，針對(duì)智能技術(shù)的微調(diào)指令、優(yōu)化算法也在取得顯著進(jìn)步，“法律知識(shí)圖譜+大語(yǔ)言模型”的復(fù)合性算法也成為可能，在此背景下，面對(duì)算法所引發(fā)的安全風(fēng)險(xiǎn)一定程度上可以通過(guò)對(duì)算法模型的優(yōu)化予以解決。

（三）糾偏算法輸出的結(jié)果

不論是程序風(fēng)險(xiǎn)、實(shí)體風(fēng)險(xiǎn)還是技術(shù)固有風(fēng)險(xiǎn)，風(fēng)險(xiǎn)總是會(huì)以算法輸出結(jié)果的形式表現(xiàn)出來(lái)。盡管人工智能司法的本質(zhì)是算法司法，呈現(xiàn)出法官后撤的實(shí)踐特征，但正如前文已經(jīng)提及的那樣，法官后撤并不是法官離場(chǎng)，而是由“幕前主導(dǎo)”轉(zhuǎn)變?yōu)椤澳缓蟊O(jiān)管”。形式理性主導(dǎo)下的實(shí)質(zhì)正義仍然需要數(shù)據(jù)的標(biāo)注實(shí)現(xiàn)算法價(jià)值的對(duì)齊。因此，在算法司法的場(chǎng)域里，司法人員仍然需要對(duì)算法輸出的結(jié)果糾偏。實(shí)踐中，基于人類(lèi)反饋的強(qiáng)化學(xué)習(xí)機(jī)制，以ChatGPT為代表的生成式人工智能已經(jīng)能夠以符合人類(lèi)意圖、知識(shí)觀與價(jià)值觀的方式回答問(wèn)題，實(shí)現(xiàn)價(jià)值對(duì)齊。在此基礎(chǔ)上，可以通過(guò)反饋機(jī)制的構(gòu)建實(shí)現(xiàn)對(duì)算法輸出結(jié)果的糾偏，進(jìn)而實(shí)現(xiàn)對(duì)人工智能司法的完善。

對(duì)算法輸出結(jié)果的糾偏可以從如下三點(diǎn)展開(kāi)。一是，從制度層面構(gòu)建人工智能司法的反饋機(jī)制，實(shí)現(xiàn)對(duì)算法輸出結(jié)果的糾偏。按照《人工智能司法意見(jiàn)》的規(guī)劃，未來(lái)階段要通過(guò)司法人工智能倫理委員會(huì)等機(jī)制，綜合采用倫理審核、合規(guī)審查、安全評(píng)估等方式，防范化解人工智能應(yīng)用過(guò)程中的安全風(fēng)險(xiǎn)。2022年，中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)的《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》也為加強(qiáng)科技倫理（審查）委員會(huì)建設(shè)提供了指導(dǎo)意見(jiàn)。2023年10月，科技部、教育部、工業(yè)和信息化部等部委聯(lián)合印發(fā)的《科技倫理審查辦法（試行）》更是對(duì)科技倫理審查的主體、內(nèi)容以及程序進(jìn)行了具體規(guī)定。由此，可以在制度層面構(gòu)建司法人工智能倫理委員會(huì)，通過(guò)委員會(huì)實(shí)現(xiàn)對(duì)算法輸出結(jié)果的審查與反饋，相關(guān)技術(shù)部門(mén)基于委員會(huì)反饋的意見(jiàn)對(duì)算法進(jìn)行糾偏，形成“算法結(jié)果輸出—審查委員會(huì)審查反饋—算法優(yōu)化再輸出”的閉環(huán)機(jī)制，進(jìn)而推進(jìn)人工智能司法的完善。二是，從技術(shù)層面構(gòu)建可反饋、可報(bào)錯(cuò)的開(kāi)放性糾偏接口，引導(dǎo)、鼓勵(lì)司法人員對(duì)算法輸出結(jié)果的監(jiān)督。事實(shí)證明，基于人類(lèi)反饋的算法訓(xùn)練能夠大幅提高智能技術(shù)的準(zhǔn)確性，例如，通過(guò)對(duì)人類(lèi)反饋的強(qiáng)化學(xué)習(xí)技術(shù)的調(diào)用，ChatGPT前所未有地實(shí)現(xiàn)了對(duì)人類(lèi)認(rèn)知機(jī)制的深度模擬，能夠更好地實(shí)現(xiàn)細(xì)化關(guān)系連接、個(gè)性要素的識(shí)別與內(nèi)容生成。在此基礎(chǔ)上，人工智能司法的相關(guān)算法開(kāi)發(fā)應(yīng)當(dāng)預(yù)留開(kāi)放式的反饋接口，讓廣大的司法人員能夠及時(shí)、便捷地實(shí)現(xiàn)對(duì)算法輸出結(jié)果的反饋，并形成結(jié)果反饋數(shù)據(jù)庫(kù)。技術(shù)開(kāi)發(fā)部門(mén)基于反饋的數(shù)據(jù)庫(kù)再對(duì)算法進(jìn)行調(diào)整訓(xùn)練，從而實(shí)現(xiàn)對(duì)人工智能司法的完善。三是，從個(gè)體層面提升司法人員的數(shù)字校驗(yàn)?zāi)芰?，?gòu)筑算法輸出結(jié)果糾偏的個(gè)體機(jī)制。面對(duì)人工智能司法滾滾向前的時(shí)代潮流，作為司法的主體，廣大的司法工作者不可能完全脫離智能技術(shù)。事實(shí)上，進(jìn)入數(shù)字時(shí)代，數(shù)字技術(shù)對(duì)勞動(dòng)內(nèi)容的重構(gòu)迫使勞動(dòng)者需要獲得新技能以適應(yīng)新崗位，掌握并熟練應(yīng)用數(shù)字技術(shù)已經(jīng)成為數(shù)字時(shí)代的必備技能。具體到人工智能司法領(lǐng)域，是否能夠識(shí)別、校驗(yàn)算法的輸出結(jié)果就是司法人員數(shù)字技能的一個(gè)重要方面。在此基礎(chǔ)上，實(shí)現(xiàn)對(duì)算法輸出結(jié)果的糾偏還需要從個(gè)體維度提升司法人員的數(shù)字技能。

總而言之，人工智能司法完善的中心在于算法，應(yīng)當(dāng)圍繞算法訓(xùn)練的數(shù)據(jù)、算法運(yùn)算的模型以及算法輸出的結(jié)果三個(gè)維度展開(kāi)與之對(duì)應(yīng)的治理。構(gòu)建“數(shù)據(jù)—模型—結(jié)果”三維一體的治理模式。在此模式下，數(shù)據(jù)作為人工智能司法的前提與基礎(chǔ)，應(yīng)當(dāng)嚴(yán)格遵循我國(guó)既有的規(guī)定，在知情同意與數(shù)據(jù)安全的框架下推進(jìn)司法數(shù)據(jù)的收集、處理。作為人工智能司法的中樞，算法模型可以借助微調(diào)指令、法律知識(shí)圖譜等最新的技術(shù)成果，實(shí)現(xiàn)對(duì)模型的優(yōu)化，進(jìn)而推進(jìn)算法模型所可能存在的系統(tǒng)性偏差。作為人工智能司法的終端，算法輸出的結(jié)果需要通過(guò)制度層面的倫理審查委員會(huì)的構(gòu)建、技術(shù)層面的反饋機(jī)制接口以及個(gè)體層面的數(shù)字技能三個(gè)方面展開(kāi)，實(shí)現(xiàn)對(duì)算法輸出結(jié)果的糾偏。

結(jié)語(yǔ)

當(dāng)前，伴隨著生成式人工智能的進(jìn)步，人類(lèi)正在邁入通用智能時(shí)代，智能技術(shù)將不可避免地為人類(lèi)社會(huì)生活帶來(lái)前所未有的機(jī)遇與挑戰(zhàn)。作為社會(huì)生活的重要組成，司法生活也不可能置身事外，堅(jiān)持“碎步前進(jìn)”式的司法回應(yīng)雖然恪守了“司法穩(wěn)定”這一古老原則，但也與智能時(shí)代所要求的“敏捷治理”相抵觸。為此，我們必須直面智能技術(shù)所帶來(lái)的全新可能以及潛在的風(fēng)險(xiǎn)，穿透人工智能司法的面紗直指本質(zhì)。唯有如此，才能夠統(tǒng)籌好智能時(shí)代的司法發(fā)展和司法安全，以新安全格局保障新發(fā)展格局。在此基礎(chǔ)上，人工智能司法的本質(zhì)就是以法官后撤為實(shí)踐特征的算法司法，也即，用算法決策盡可能地代替法官?zèng)Q策，盡管最高人民法院反復(fù)強(qiáng)調(diào)人工智能司法的輔助性，但實(shí)踐的使然與技術(shù)發(fā)展的必然都將導(dǎo)致算法司法的本質(zhì)無(wú)法改變，算法風(fēng)險(xiǎn)是人工智能司法風(fēng)險(xiǎn)的核心所在。所以，人工智能司法風(fēng)險(xiǎn)的治理核心是算法治理，而不是司法管理治理和合規(guī)風(fēng)險(xiǎn)治理，只有以算法為核心配合具體的治理方案才能有效防范人工智能司法的安全風(fēng)險(xiǎn)。