人工智能時(shí)代司法商業(yè)化風(fēng)險(xiǎn)與應(yīng)對(duì)

楊通新,肖 靜

(1.廣西大學(xué)行健文理學(xué)院，廣西 南寧 530005；2.廣西財(cái)經(jīng)學(xué)院，廣西 南寧 530007)

“人工智能與法律的結(jié)合已有30多年的歷史，積累了豐富的經(jīng)驗(yàn)……人工智能對(duì)法律尤其是司法實(shí)踐的影響日益深入?！盵1]2017年4月最高人民法院頒布了《關(guān)于加快建設(shè)智慧法院的意見(jiàn)》，同年7月國(guó)務(wù)院印發(fā)了《新一代人工智能發(fā)展規(guī)劃》，2018年7月最高人民檢察院發(fā)布了《全國(guó)檢察機(jī)關(guān)智慧檢務(wù)行動(dòng)指南》……關(guān)于人工智能與司法的實(shí)踐與研究開(kāi)展的如火如荼。本文基于人工智能時(shí)代司法商業(yè)化的可能性警示，對(duì)相應(yīng)的風(fēng)險(xiǎn)樣態(tài)及規(guī)制方式進(jìn)行初步探究。

一、越界：司法商業(yè)化風(fēng)險(xiǎn)之集體顯現(xiàn)

司法商業(yè)化屬于商業(yè)化的子概念，是指受市場(chǎng)化因素影響，出現(xiàn)以營(yíng)利為目的的運(yùn)作司法的行為。在諸多因素的影響之下，并不排除存在越界的風(fēng)險(xiǎn)，即出現(xiàn)司法商業(yè)化的非正?，F(xiàn)象。

1.片面競(jìng)爭(zhēng)影響司法統(tǒng)一運(yùn)行，造成司法資源浪費(fèi)。為了助力司法改革，提升司法業(yè)務(wù)效率，全國(guó)各地司法機(jī)關(guān)紛紛引入人工智能，通過(guò)內(nèi)外合作或者是購(gòu)買的方式，實(shí)現(xiàn)部分業(yè)務(wù)的智能化處置。然而從實(shí)踐可知，一方面人工智能技術(shù)與司法的默契并未達(dá)到無(wú)縫對(duì)接的程度；另一方面司法領(lǐng)域尚不具備完全自主人工智能化的條件，需通過(guò)內(nèi)外合作的方式來(lái)實(shí)現(xiàn)。這兩方面，實(shí)際上從側(cè)面導(dǎo)致了司法系統(tǒng)內(nèi)部的片面競(jìng)爭(zhēng)，浪費(fèi)司法資源，不利于統(tǒng)一規(guī)劃管理、運(yùn)行。

2.利益驅(qū)動(dòng)影響司法獨(dú)立自主，造成司法信任危機(jī)。大數(shù)據(jù)、人工智能和區(qū)塊鏈都不是專門(mén)為公共服務(wù)(包括司法工作)而設(shè)計(jì)出的技術(shù)，而主要是受商業(yè)利益驅(qū)動(dòng)的技術(shù)，[2]這說(shuō)明人工智能自帶商業(yè)利益驅(qū)動(dòng)的屬性。進(jìn)入司法領(lǐng)域之后，如果不能有效控制，將會(huì)嚴(yán)重影響司法獨(dú)立自主，從而造成司法信任危機(jī)。首先，司法商業(yè)化風(fēng)險(xiǎn)源于外部利益驅(qū)動(dòng)，欲搭乘司法改革之便車，提升人工智能的影響力及話語(yǔ)權(quán)。在人工智能嵌入司法的過(guò)程中，可能造成將司法的公開(kāi)、透明、陽(yáng)光等同于商業(yè)化與市場(chǎng)化誤判。其次，司法商業(yè)化完全背離憲法精神，若私主體對(duì)公權(quán)力“指手畫(huà)腳”、隨意操弄，將造成司法權(quán)力異化。

3.刻板路徑影響司法途徑多元化，造成機(jī)械應(yīng)對(duì)糾紛。人工智能司法具有確定性、標(biāo)準(zhǔn)化、模式化等特點(diǎn)，從某種意義而言，與司法場(chǎng)域的相對(duì)穩(wěn)定性是相契合的。但是，過(guò)于確定性、標(biāo)準(zhǔn)化、模式化，會(huì)形成刻板路徑，造成諸多“優(yōu)勢(shì)即劣勢(shì)”的尷尬與缺陷。首先，柔性糾紛解決方式受限甚至被取代。司法領(lǐng)域非常重視通過(guò)和解、調(diào)解等柔性方式來(lái)解決糾紛，比如一個(gè)簡(jiǎn)單的民商事案件，可以通過(guò)協(xié)商和解或者調(diào)解的方式來(lái)柔性完結(jié)，如果通過(guò)人工智能的方式將會(huì)強(qiáng)制性帶入預(yù)先設(shè)定的場(chǎng)域之中，通過(guò)剛性的決斷方式解決。因此，人工智能解決糾紛的刻板路徑，會(huì)影響司法途徑的多元化，造成機(jī)械應(yīng)對(duì)糾紛。其次，司法人員自由裁量權(quán)受縛甚至被剝奪。人工智能能夠突破人為情感對(duì)司法的左右，嚴(yán)格限制司法人員的不規(guī)范行為。然而，人工智能同時(shí)還可能陷入將司法人員自由裁量權(quán)一網(wǎng)打盡的尷尬局面，從而使得人工智能司法趨于僵化。最后，理論研究深入與司法制度創(chuàng)新受限。眾所周知，法學(xué)理論研究成果作為司法實(shí)踐開(kāi)展的重要支撐，會(huì)隨著司法實(shí)踐的環(huán)境不斷變化。以正當(dāng)防衛(wèi)為例，雖然刑法學(xué)界經(jīng)過(guò)多年的理論探索與實(shí)踐檢驗(yàn)，但始終未能形成一個(gè)固定統(tǒng)一的認(rèn)定模式，此時(shí)人工智能的機(jī)械化判斷與刻板性識(shí)別，將導(dǎo)致防衛(wèi)場(chǎng)景諸多因素被忽視。因?yàn)樾袨閷?shí)施的場(chǎng)景并非預(yù)先設(shè)定，人工智能無(wú)法依據(jù)預(yù)設(shè)程序來(lái)認(rèn)定復(fù)雜問(wèn)題，算法規(guī)則的引入導(dǎo)致對(duì)理論研究的束縛，從而也影響了司法實(shí)踐路徑的多元化。

4.替代論設(shè)影響司法人員能動(dòng)性，造成主體懈怠應(yīng)付。人工智能領(lǐng)域基于技術(shù)的未來(lái)發(fā)展方向提出了“無(wú)所不能”的設(shè)想，這是基于“技術(shù)權(quán)力主導(dǎo)一切”的思維而作的想象。司法領(lǐng)域的替代論設(shè)，即未來(lái)人工智能將會(huì)取代司法人員，從而導(dǎo)致司法人員的地位被削弱，形成人工智能機(jī)器人“非人亦人”的局面。這種“取而代之”的想象將給司法人員帶來(lái)極大困擾：未來(lái)的司法由誰(shuí)主導(dǎo)？司法人員還有存在的必要么？……進(jìn)而更多的人將失去能動(dòng)性，選擇消極懈怠，應(yīng)付了事。

5.技術(shù)藩籬阻斷司法經(jīng)驗(yàn)傳承，造成司法特質(zhì)缺失。人工智能與司法并非“天生一對(duì)”，在人工智能話語(yǔ)權(quán)、影響力不斷擴(kuò)大的背景下，司法人員積累的豐富經(jīng)驗(yàn)正在接受前所未有的挑戰(zhàn)。我們不否認(rèn)人工智能技術(shù)所取得的巨大成就，但是，過(guò)度渲染甚至夸大人工智能的作用是不明智的。在極力推崇人工智能的同時(shí)，亦在直接或間接否定傳統(tǒng)優(yōu)秀的司法經(jīng)驗(yàn)。這一風(fēng)險(xiǎn)，根源于技術(shù)權(quán)力與司法權(quán)力的不平衡，司法與人工智能技術(shù)之間的隔閡，將阻斷司法經(jīng)驗(yàn)傳承，造成司法特質(zhì)缺失。

6.技術(shù)鐘擺影響司法場(chǎng)域穩(wěn)定，造成司法變數(shù)多發(fā)。技術(shù)鐘擺，即人工智能技術(shù)的不穩(wěn)定、不確定性，從而影響司法的正常運(yùn)行。司法講究動(dòng)態(tài)穩(wěn)定性，但并不意味著停滯不前，司法領(lǐng)域同樣需要不斷改革創(chuàng)新。眾所周知，人工智能可以為司法帶來(lái)諸多便利，但是其自身的缺陷不容忽視，過(guò)度依賴人工智能將造成司法的本真缺失。

7.算法歧視影響司法公平正義，造成司法話語(yǔ)削弱。算法歧視與偏見(jiàn)，源于人工智能開(kāi)發(fā)主體的固有認(rèn)知，往往由于缺乏對(duì)司法領(lǐng)域的準(zhǔn)確判斷而偏離司法目的范圍，形成對(duì)特定范圍主體的歧視與偏見(jiàn)。而司法公平正義理念的要求是，不能先入為主，在裁判者未得出結(jié)論前，不能預(yù)先決斷。因此，算法歧視嚴(yán)重影響司法公平正義，造成司法話語(yǔ)權(quán)削弱。例如，通過(guò)算法判定出生于A縣的公民甲和乙成立盜竊罪，那么按照算法的邏輯偏見(jiàn)，會(huì)認(rèn)為是A縣的公民都熱衷于盜竊，如此便形成了嚴(yán)重的地域歧視，對(duì)守法公民實(shí)失公允。

8.算法黑箱影響司法程序正義，權(quán)利救濟(jì)受限。算法黑箱，即算法的不可知性，如同黑洞一般無(wú)法予以釋明。算法黑箱導(dǎo)致司法程序缺失或變質(zhì)，影響司法程序正義，從而導(dǎo)致包括司法人員、司法受眾在內(nèi)的多方主體的權(quán)利救濟(jì)受到限制甚至剝奪。首先，以當(dāng)事人為主的司法受眾權(quán)利救濟(jì)受到嚴(yán)重影響。由于算法黑箱，算法司法結(jié)論理由的不可闡釋屬性，嚴(yán)重阻礙了異議主體的權(quán)利救濟(jì)。其次，司法人員的權(quán)力救濟(jì)受限。比如，當(dāng)人工智能過(guò)多介入司法各個(gè)環(huán)節(jié)后，司法人員是否還有自由裁量權(quán)限？如果有，受到人工智能不合理干涉之時(shí)如何進(jìn)行救濟(jì)？顯然，這些都是不可忽視的風(fēng)險(xiǎn)。

二、應(yīng)對(duì)：司法商業(yè)化風(fēng)險(xiǎn)之有效防治

雖然人工智能時(shí)代司法商業(yè)化風(fēng)險(xiǎn)重重，仍應(yīng)當(dāng)尋求恰當(dāng)?shù)膽?yīng)對(duì)策略，有效遏止風(fēng)險(xiǎn)，筑就司法之應(yīng)有形態(tài)。

1.強(qiáng)調(diào)黨對(duì)司法的絕對(duì)領(lǐng)導(dǎo)，保障司法與人工智能深度融合。習(xí)近平總書(shū)記曾指出，中國(guó)特色社會(huì)主義最本質(zhì)的特征是中國(guó)共產(chǎn)黨的領(lǐng)導(dǎo)，中國(guó)特色社會(huì)主義制度的最大優(yōu)勢(shì)是中國(guó)共產(chǎn)黨領(lǐng)導(dǎo)。堅(jiān)持和完善黨的領(lǐng)導(dǎo)，是黨和國(guó)家的根本所在、命脈所在，是全國(guó)各族人民的利益所在、幸福所在。司法的目的是為了定分止?fàn)?，?shí)現(xiàn)公平正義，而要使目的得以實(shí)現(xiàn)，必須強(qiáng)調(diào)黨對(duì)司法的絕對(duì)領(lǐng)導(dǎo)，同時(shí)保障司法與人工智能深度融合，推進(jìn)司法體系和司法能力的現(xiàn)代化。[3]

2.強(qiáng)化人工智能司法意識(shí)形態(tài)引領(lǐng)，防止域外意識(shí)形態(tài)破壞。科學(xué)無(wú)國(guó)界，但是人工智能融入司法領(lǐng)域已經(jīng)遠(yuǎn)遠(yuǎn)超出了前一范疇，關(guān)涉到國(guó)家司法主權(quán)的問(wèn)題。因此，需要加強(qiáng)人工智能司法的意識(shí)形態(tài)教育與監(jiān)督，同時(shí)建立嚴(yán)格的懲治制度。正如有學(xué)者提醒，任何司法個(gè)案絕不僅僅是單純的法律問(wèn)題，案件的背后會(huì)涉及價(jià)值判斷、利益衡量、情理人心，裁判的邏輯除了法律邏輯，還會(huì)有政治的、經(jīng)濟(jì)的、歷史的、道德的判斷。[4]人工智能作為技術(shù)本身在研究開(kāi)發(fā)過(guò)程中或許并未施以區(qū)域或國(guó)別的偏見(jiàn)，但是受商業(yè)盈利與政治意識(shí)形態(tài)的驅(qū)使，會(huì)在運(yùn)用過(guò)程中被當(dāng)作干涉甚至操縱別國(guó)司法權(quán)的工具。因此，應(yīng)當(dāng)綜合考量我國(guó)國(guó)情，以司法主權(quán)為核心，在嚴(yán)格遵循中國(guó)特色人文倫理與司法倫理的前提下借鑒國(guó)際通行技術(shù)安全標(biāo)準(zhǔn)。

3.明確人工智能輔助司法理念，正視人工智能司法工具屬性。在人們暢想著人工智能“萬(wàn)能論”時(shí)，法律人工智能研究先驅(qū)凱文·阿什利認(rèn)為，人工智能(如機(jī)器學(xué)習(xí)的法律文本分析技術(shù))其實(shí)并不能真正閱讀或者理解；[5]人工智能對(duì)法律語(yǔ)言的學(xué)習(xí)和使用，并不意味著它能夠像人類一樣理解法律語(yǔ)言，而只是對(duì)其進(jìn)行逐層分析。[6](P272)無(wú)論在未來(lái)的發(fā)展中能夠達(dá)到何種程度，都屬于人類智慧所創(chuàng)造的成果，而并非與人等同的“非人可人”主體。人工智能運(yùn)用于司法，不是人工智能與司法的簡(jiǎn)單物理銜接，涉及到技術(shù)的實(shí)用性與司法的接受度。人工智能可以輔助完成司法中較為復(fù)雜的業(yè)務(wù)，甚至是參與核心業(yè)務(wù)的過(guò)程決策，為司法人員最終決策提供參考。但要避免司法大數(shù)據(jù)應(yīng)用給法官帶來(lái)的不當(dāng)影響，必須明確司法大數(shù)據(jù)應(yīng)用的非約束性適用原則。[7]比如，可以在員額制改革成果基礎(chǔ)上，設(shè)置由審判委員會(huì)與人工智能機(jī)器人共同組成的智囊?guī)?，其職?zé)是負(fù)責(zé)根據(jù)案件情況提出解決方案，是否采納取決于案件的承辦法官。這樣，既符合了“讓審理者裁判，讓裁判者負(fù)責(zé)”的要求，又很好的將人工智能融入了司法當(dāng)中。

4.應(yīng)對(duì)司法商業(yè)化風(fēng)險(xiǎn)，必須建立、細(xì)化人工智能與司法的融合機(jī)制，主要從人工智能司法供需銜接、監(jiān)管制度著手。為了避免人工智能嵌入司法影響司法獨(dú)立自主與造成司法信任危機(jī)，必須樹(shù)立司法權(quán)威，回溯司法權(quán)威的來(lái)源。筆者認(rèn)為，人工智能進(jìn)入司法領(lǐng)域的途徑主要表現(xiàn)為三種形式：首先，完全外購(gòu)人工智能產(chǎn)品。此種方式完全依賴于人工智能技術(shù)研發(fā)、銷售主體的供給情況，可以稱之為人工智能融入司法的初級(jí)形式。技術(shù)與司法領(lǐng)域的疏離，需要通過(guò)多方面進(jìn)行克服。把握司法的主動(dòng)性與人工智能的適應(yīng)性，即堅(jiān)持人工智能適應(yīng)司法的思路，基于司法領(lǐng)域的需求輔以人工智能，而不是司法被人工智能“牽著鼻子走”。其次，通過(guò)內(nèi)外合作研發(fā)，促進(jìn)司法人工智能化。在這一階段，司法領(lǐng)域?qū)θ斯ぶ悄苡辛烁嗔私?，已?jīng)能夠參與到人工智能的研發(fā)過(guò)程之中，逐漸脫掉了“門(mén)外漢”的身份。對(duì)司法領(lǐng)域與人工智能領(lǐng)域銜接的橋梁機(jī)制、監(jiān)管機(jī)制等方面，仍然是以司法需求為核心，避免供給主體的商業(yè)化運(yùn)作而導(dǎo)致司法的商業(yè)化，實(shí)現(xiàn)司法與人工智能之間的深度融合。最后，司法領(lǐng)域全域自主研發(fā)人工智能產(chǎn)品，實(shí)現(xiàn)對(duì)外“零依賴”。這一階段，司法人工智能的供需主體已經(jīng)合二為一，司法領(lǐng)域積累了豐富的人工智能研發(fā)經(jīng)驗(yàn)，打破了人才壁壘，培養(yǎng)了大量既懂司法又精人工智能的司法從業(yè)人才，從而去除了內(nèi)外銜接的復(fù)雜環(huán)節(jié)。當(dāng)然，沒(méi)有了對(duì)外的依賴，并不意味著人工智能司法就毫無(wú)風(fēng)險(xiǎn)存在，司法內(nèi)部的銜接、監(jiān)管風(fēng)險(xiǎn)依然需要通過(guò)制度構(gòu)建與完善來(lái)進(jìn)行規(guī)制。

5.應(yīng)對(duì)司法商業(yè)化風(fēng)險(xiǎn)，必須加大復(fù)合型研究人才與應(yīng)用人才的培養(yǎng)，多途徑培養(yǎng)高素質(zhì)的“法律+人工智能”復(fù)合型人才。第一，在培養(yǎng)途徑方面，堅(jiān)持多元并行、互通有無(wú)原則。首先，豐富高校本科教育課程內(nèi)容。比如，通過(guò)在高校法學(xué)教育中分流增設(shè)人工智能課程，讓有意向、有特長(zhǎng)的學(xué)生盡早接觸人工智能，系統(tǒng)學(xué)習(xí)積累基礎(chǔ)知識(shí)；其次，通過(guò)設(shè)置“法學(xué)+人工智能”實(shí)驗(yàn)室，招收學(xué)科交叉研究人才，增加復(fù)合型人才培養(yǎng)的深度。再次，實(shí)踐基地設(shè)在具備條件的高校、科研機(jī)構(gòu)以及企業(yè)設(shè)立人工智能法學(xué)實(shí)踐基地，拓寬復(fù)合型人才培養(yǎng)的廣度。最后，針對(duì)司法人員進(jìn)行專門(mén)的人工智能技術(shù)培訓(xùn)，從理論研究與實(shí)踐應(yīng)用兩方面進(jìn)行分類培訓(xùn)。第二，在培養(yǎng)時(shí)間方面，堅(jiān)持科學(xué)規(guī)劃、分類推進(jìn)原則。對(duì)于“法學(xué)+人工智能”人才的培養(yǎng)，應(yīng)著眼于長(zhǎng)遠(yuǎn)發(fā)展，做好短期、中期與長(zhǎng)期規(guī)劃，不能急功近利。比如，針對(duì)高校本科層次的復(fù)合型人才培養(yǎng)，可以進(jìn)行二次分流的規(guī)劃等。

6.人工智能司法領(lǐng)域，應(yīng)當(dāng)明確控制主體的權(quán)利與義務(wù)，確保人工智能司法實(shí)踐中責(zé)任承擔(dān)的合理與明晰。控制主體，應(yīng)當(dāng)作廣義理解，包括人工智能的研發(fā)者、制造者、使用者、保管者、監(jiān)管者等多方主體。在人工智能的司法應(yīng)用領(lǐng)域，應(yīng)當(dāng)制定具有體系性和前瞻性的基本原則，明確人工智能介入司法的限度。[8]在人工智能輔助司法的明確定位之下，建立人工智能研發(fā)、合作應(yīng)用等方面的負(fù)面清單，將人工智能置于有效可控的范圍之內(nèi)。向社會(huì)公布涉及惡意干擾司法、影響司法活動(dòng)等行為，實(shí)時(shí)更新，區(qū)分嚴(yán)重程度進(jìn)行處罰，即建立行政處罰、刑事處罰、經(jīng)濟(jì)賠償?shù)葯C(jī)制以及銜接機(jī)制。

綜上，人工智能在司法領(lǐng)域必須遵循明確界限，遵循司法的發(fā)展規(guī)律。人工智能與司法都應(yīng)當(dāng)坦誠(chéng)面對(duì)彼此，積極應(yīng)對(duì)挑戰(zhàn)，有效防止?jié)撛凇⑽粗L(fēng)險(xiǎn)。雙方不能基于各自的“傲慢與偏見(jiàn)”而將對(duì)方拒之門(mén)外，將人工智能發(fā)展納入法治軌道，才能從根本上實(shí)現(xiàn)其發(fā)展的安全性、可靠性與可控性。