人工智能法律應(yīng)用的理論爭(zhēng)議與現(xiàn)實(shí)困境

武曉瀟

太原科技大學(xué)，山西 太原 030024

近幾年來(lái)，人工智能的表現(xiàn)愈發(fā)耀眼，在全力打好新冠肺炎疫情防控阻擊戰(zhàn)的關(guān)鍵時(shí)刻，政府也將目光投向了人工智能。關(guān)于人工智能法律地位的確認(rèn)，也再度引起了法律領(lǐng)域內(nèi)的爭(zhēng)議。

盡管在“官場(chǎng)+市場(chǎng)”［1］的雙重驅(qū)動(dòng)下，司法領(lǐng)域的AI應(yīng)用貌似熙熙攘攘，但實(shí)際效果卻不那么盡如人意。以案例自動(dòng)推送系統(tǒng)為例，盡管自動(dòng)化的案例推送提高了案件檢索的效率，但是，由于案例匹配精準(zhǔn)度不高，推送案例的范圍過(guò)窄、來(lái)源不明、層級(jí)不清等原因，一些法官使用意愿不強(qiáng)等主客觀因素，案例推送系統(tǒng)發(fā)揮的作用實(shí)為有限。［2］

然而，就像歷史上所有給人類(lèi)社會(huì)帶來(lái)顛覆性影響的科技一樣，人工智能的發(fā)展對(duì)現(xiàn)有的社會(huì)制度和規(guī)范也帶來(lái)了嚴(yán)峻的挑戰(zhàn)和沖擊，特別是在法學(xué)領(lǐng)域。本文以人工智能的法律地位問(wèn)題為中心，針對(duì)人工智能應(yīng)用的法律和現(xiàn)實(shí)困境展開(kāi)討論。

一、人工智能法律應(yīng)用的爭(zhēng)議

（一）立法者算法技能的缺位與權(quán)力結(jié)構(gòu)的重置

在大數(shù)據(jù)時(shí)代，“直覺(jué)的判斷被迫讓位于精準(zhǔn)的數(shù)據(jù)分析”［3］?！肮矝Q策最重要的依據(jù)將是系統(tǒng)的數(shù)據(jù)。過(guò)去深入群眾、實(shí)地考察的工作方法雖然仍然有效，但對(duì)決策而言，系統(tǒng)采集的數(shù)據(jù)、科學(xué)分析的結(jié)果更為重要”［4］。人工智能不僅僅可以輔助決策（supporting decision），還可以整合相關(guān)數(shù)據(jù)（assembling relevant data）進(jìn)行分析。通過(guò)人工智能對(duì)數(shù)據(jù)的收集整合，可以更清楚、更有效率地發(fā)現(xiàn)政策制定中的變量。這種變量分析越細(xì)致，相關(guān)的政策制定越具有科學(xué)性［5］，行政機(jī)關(guān)以及政府就可能形成更富有科學(xué)性和滿足多數(shù)人需求的規(guī)則［6］。

然而，在大數(shù)據(jù)技術(shù)日臻成熟的今天，我們不再拘泥于傳統(tǒng)的問(wèn)題—原因—對(duì)策的邏輯順序，而可以直接尋找數(shù)據(jù)間的關(guān)聯(lián)，并根據(jù)這種關(guān)聯(lián)來(lái)直接解決問(wèn)題，這就要求立法者從傳統(tǒng)的因果規(guī)律思維向蓋然性的數(shù)據(jù)規(guī)律的觀念上飛躍，具備數(shù)據(jù)思維［7］。然而，當(dāng)前法律從業(yè)人員多數(shù)為法律科班出身，缺乏算法、大數(shù)據(jù)、統(tǒng)計(jì)學(xué)等方面的專業(yè)技能培訓(xùn)和能力，因此在法律制定和實(shí)施過(guò)程中可能對(duì)技術(shù)的不熟悉而導(dǎo)致最終呈現(xiàn)的效果與內(nèi)心預(yù)期不一致。而真正掌握算法技術(shù)的企業(yè)能夠借助技術(shù)優(yōu)勢(shì)對(duì)立法進(jìn)程和結(jié)果施加影響，其中必定會(huì)摻雜特殊利益偏好，從而削減了法律的權(quán)威性和對(duì)社會(huì)秩序的一般約束力。

此外，法律人工智能的興起促使大量平臺(tái)紛紛涌現(xiàn)，打破了傳統(tǒng)的行政中心主義。但這并非完全意義上的“去中心化”：中心依然存在，不過(guò)是由原來(lái)的“行政中心”轉(zhuǎn)移到了“平臺(tái)中心”，由原來(lái)的“政府-公民”二元結(jié)構(gòu)轉(zhuǎn)變?yōu)榱恕罢?平臺(tái)-公民”三層話語(yǔ)體系。在實(shí)踐中，政府授予了專業(yè)性平臺(tái)準(zhǔn)入審查權(quán)監(jiān)督權(quán)等諸多“準(zhǔn)公權(quán)力”，掌握大數(shù)據(jù)和算法的企業(yè)和個(gè)人正逐步利用自身的行業(yè)特性和專業(yè)技術(shù)把握信息和社會(huì)資源，并爭(zhēng)取話語(yǔ)權(quán)。平臺(tái)權(quán)力集群化將不可避免地引發(fā)“算法權(quán)力”（algorithmic power）與政府公權(quán)力在分配結(jié)構(gòu)上的爭(zhēng)議，這也使得人工智能的立法實(shí)現(xiàn)變得較為棘手。

（二）自動(dòng)化執(zhí)法削弱了程序正義

人工智能技術(shù)促進(jìn)了執(zhí)法自動(dòng)化的應(yīng)用和普及，極大地提高了執(zhí)法效率，但潛藏著對(duì)個(gè)人隱私侵犯的風(fēng)險(xiǎn)。一個(gè)民主與自由的國(guó)度中，執(zhí)法行為是社會(huì)共同意志的延伸，必須來(lái)源于公民的授權(quán)。但是在自動(dòng)化執(zhí)法環(huán)境下，公民行為模式的改變是出于對(duì)管理者監(jiān)視和報(bào)復(fù)的恐懼，而非對(duì)作為社會(huì)契約關(guān)鍵要素——法治的自發(fā)性尊重（self-generated respect）。政府監(jiān)視所造成的寒蟬效應(yīng)，“不僅通過(guò)創(chuàng)設(shè)一種無(wú)助感和無(wú)力感致使個(gè)人感到沮喪，而且通過(guò)改變?nèi)藗兣c就其生活做重要決定的機(jī)構(gòu)之間的關(guān)系，來(lái)影響社會(huì)結(jié)構(gòu)”。［8］

人工智能執(zhí)法的機(jī)械化會(huì)給公民和法律系統(tǒng)帶來(lái)更加沉重的行政負(fù)擔(dān)。例如，司機(jī)駕駛汽車(chē)通過(guò)顛簸路段時(shí)自覺(jué)把自動(dòng)巡航控制器（Automatic Cruise Control）設(shè)在了限速范圍內(nèi)，但是路面的凹凸不平使得車(chē)速時(shí)而高于時(shí)而低于限速，如果嚴(yán)格遵循時(shí)速規(guī)定，他已經(jīng)違章了很多次，可能會(huì)收到十幾張罰單。正當(dāng)程序（procedural due process）原則并沒(méi)有得到體現(xiàn)：既沒(méi)有對(duì)受處罰的行政相對(duì)人進(jìn)行通知，也沒(méi)有給予其陳詞的機(jī)會(huì)。而且自動(dòng)化執(zhí)法無(wú)法識(shí)別需要犯罪意圖（mens rea requirement）的犯罪/帶有明知要件（scienter requirement）的犯罪，無(wú)法區(qū)別基于緊急避險(xiǎn)（necessity defense）而造成的違章、違法與一般的違章、違法行為，如果沒(méi)有適當(dāng)?shù)募s束，自動(dòng)化執(zhí)法可能冒險(xiǎn)創(chuàng)造一個(gè)若不大規(guī)模改變社會(huì)文化和規(guī)范則幾乎不可能守法的環(huán)境。

（三）人工智能裁判無(wú)法替代傳統(tǒng)司法裁判過(guò)程

人工智能裁判的內(nèi)在特點(diǎn)決定了其無(wú)法取代人類(lèi)法官的主體地位。1.符號(hào)式裁判。人工智能裁判包含兩個(gè)核心步驟：語(yǔ)言轉(zhuǎn)換和算法運(yùn)行。人工智能裁判系統(tǒng)只能識(shí)別物理符號(hào)，而不能理解人類(lèi)的自然語(yǔ)言。在運(yùn)用人工智能時(shí)，其接觸到的并非是原始證據(jù)，而是經(jīng)技術(shù)轉(zhuǎn)化后的“傳來(lái)證據(jù)”，此過(guò)程中的“失真”將對(duì)證據(jù)的證明力提出疑問(wèn)。2.封閉式裁判。智能司法裁判所倚仗的是預(yù)先編制的裁判系統(tǒng)，除了開(kāi)發(fā)該系統(tǒng)的程序員，當(dāng)事人和社會(huì)公眾甚至是法官并不能準(zhǔn)確掌握裁判系統(tǒng)運(yùn)行的原理和規(guī)則，這極大地降低了當(dāng)事人及其代理人參與法庭裁判的能力和意愿，傳統(tǒng)的法庭審理環(huán)節(jié)如質(zhì)證、辯論將不復(fù)存在。3.歸納式裁判。人工智能系統(tǒng)只是對(duì)與案件有關(guān)的歷史數(shù)據(jù)進(jìn)行處理，裁判過(guò)程中突發(fā)的情況和即時(shí)的信息未被納入系統(tǒng)裁判范圍內(nèi)。而且由于部分詞語(yǔ)語(yǔ)義并不明確等原因，智能裁判無(wú)法借助法官的經(jīng)驗(yàn)實(shí)現(xiàn)司法裁判的意向性、親歷性和價(jià)值衡量［9］，法官的自由裁量權(quán)和司法的彈性機(jī)制作用將被嚴(yán)重限縮。

如前所述，標(biāo)準(zhǔn)化的司法人工智能會(huì)改變法官的判斷和決策模式?！皹?biāo)準(zhǔn)化就意味著將審判權(quán)還給法官的同時(shí)，確保類(lèi)似案件的裁判尺度盡量相同?！保?0］因而，一些人樂(lè)觀地認(rèn)為在司法裁判過(guò)程中運(yùn)用人工智能有助于實(shí)現(xiàn)同案同判，推動(dòng)個(gè)案正義。然而，盡管我國(guó)擁有世界上最大的案例檢索系統(tǒng)——中國(guó)裁判文書(shū)網(wǎng)，但無(wú)論是事實(shí)證據(jù)方面，還是裁判理由部分，都過(guò)于概括、泛化。在案件中真正值得借鑒的內(nèi)容，往往只體現(xiàn)在法院內(nèi)部的案件審理報(bào)告或?qū)徑Y(jié)報(bào)告中［11］。另外，早期的人類(lèi)社會(huì)囿于信息成本只能對(duì)概率較大的事件制定一般性規(guī)范進(jìn)行規(guī)制，但伴隨著算法發(fā)展所帶來(lái)的信息成本的急劇降低使規(guī)制重復(fù)博弈行為變得可能，諸多“無(wú)知之幕”也得以揭開(kāi)，作為一般性規(guī)則約束對(duì)象的抽象的“人”逐步被還原為特定的“個(gè)人”，司法裁判過(guò)程和結(jié)果的“私人定制”屬性日漸突出，這種個(gè)案的異質(zhì)性給何為同案、如何同判的界定帶來(lái)了挑戰(zhàn)。

二、現(xiàn)階段承認(rèn)人工智能法律地位的現(xiàn)實(shí)困境

（一）算法歧視

短視頻APP發(fā)掘并迎合了大批年輕用戶的娛樂(lè)消費(fèi)觀，造就了娛樂(lè)消遣的流量怪獸；基于數(shù)據(jù)分析的信用等級(jí)評(píng)估為這個(gè)“評(píng)分的社會(huì)”（Scored society）帶來(lái)了更為直觀、便利和高效的管理模式［12］，這些在很大程度上都得益于算法基礎(chǔ)上的“精準(zhǔn)投食”。然而，屢被曝光的電商平臺(tái)大數(shù)據(jù)殺熟等負(fù)面新聞引發(fā)了公眾對(duì)人工智能的擔(dān)憂：表面上中立的算法可以反映隱藏在背后的歧視。很顯然，盡管開(kāi)發(fā)者們一直強(qiáng)調(diào)數(shù)據(jù)中立和技術(shù)無(wú)罪，但人工智能已經(jīng)不可避免地學(xué)會(huì)了“傲慢與偏見(jiàn)”。

造成算法歧視的原因產(chǎn)生在不同階段。算法最初階段的研發(fā)是由公司完成的，企業(yè)在研發(fā)時(shí)，首先考慮到的是經(jīng)濟(jì)效益和工作效率。使企業(yè)在選擇中更加傾向于那些成本更低、經(jīng)濟(jì)效益更大的算法模型，基于這種局限性而不成熟地在社會(huì)普遍推廣應(yīng)用難免會(huì)導(dǎo)致不公平。另外，機(jī)器學(xué)習(xí)的訓(xùn)練數(shù)據(jù)本身可能帶有現(xiàn)實(shí)世界中的歧視與偏見(jiàn)，基于這些數(shù)據(jù)分析產(chǎn)生的識(shí)別錯(cuò)誤進(jìn)一步內(nèi)化了這些偏見(jiàn)，也可能無(wú)意識(shí)地侵害了被歧視群體的權(quán)利。當(dāng)進(jìn)入下一階段，即在接收數(shù)據(jù)后、輸出結(jié)果前，會(huì)有一個(gè)我們無(wú)法洞悉的黑箱，算法就是在這一黑箱進(jìn)行自動(dòng)化的數(shù)據(jù)處理、評(píng)估和行為分析。對(duì)算法歧視的擔(dān)憂主要來(lái)源于這一階段。盡管官方已經(jīng)作出了相應(yīng)努力，如歐盟最新發(fā)布的《數(shù)據(jù)保護(hù)通用條例》（GDPR）增加了數(shù)據(jù)的透明度要求，但其實(shí)際效果如何尚待進(jìn)一步觀察。

（二）對(duì)隱私權(quán)和自主權(quán)的沖擊

1.隱私

社交平臺(tái)的相似內(nèi)容推送、腦機(jī)技術(shù)（BCI）等都被認(rèn)為給人們的工作、生活帶來(lái)了極大的便利。然而，數(shù)據(jù)泄露的危害也日漸突出，因此對(duì)數(shù)據(jù)的保護(hù)愈發(fā)迫切。

“物聯(lián)網(wǎng)”時(shí)代的每個(gè)人都是“量化的自我”（qualified myself）或“可測(cè)度的自我”（measurable self），個(gè)人的一舉一動(dòng)都將被轉(zhuǎn)化為可供處理、分析和利用的數(shù)據(jù)。作為算法權(quán)利客體的公民在保護(hù)個(gè)人數(shù)據(jù)上將會(huì)產(chǎn)生深深的無(wú)力感。一方面，借助人工智能實(shí)現(xiàn)自動(dòng)化行政的政府掌握著公民方方面面的數(shù)據(jù)，企業(yè)也借助網(wǎng)絡(luò)平臺(tái)地位和技術(shù)優(yōu)勢(shì)掌握著用戶的個(gè)人信息，二者顯然屬于信息優(yōu)勢(shì)方；另一方面，處于算法專業(yè)槽外的公民專業(yè)技術(shù)水平和信息成本承受能力較低，隱私保護(hù)意識(shí)和能力較弱，加之在授權(quán)數(shù)據(jù)使用過(guò)程中存在的概括同意、格式化合同泛濫等情況，其“網(wǎng)絡(luò)留痕”不可避免會(huì)被第三方利用，因此處于相對(duì)不利的地位。這種信息不對(duì)稱（information asymmetry）將進(jìn)一步擴(kuò)大法律主體之間的鴻溝（justice gap）。

2.自主性：沉默權(quán)與同意

邊境自動(dòng)安檢、“測(cè)謊機(jī)器人”等極大地提高了工作效率，但卻忽視了一個(gè)重要環(huán)節(jié)：對(duì)象的同意。人工智能會(huì)對(duì)法律相對(duì)人的同意權(quán)帶來(lái)極大的現(xiàn)實(shí)威脅。以《刑法》為例，《刑法》的功能之一在于保護(hù)犯罪嫌疑人、被告人和罪犯的合法權(quán)益，這一點(diǎn)在米蘭達(dá)警告（Miranda Warnings）中體現(xiàn)得尤為明顯。然而，在人工智能自動(dòng)執(zhí)法中，很可能會(huì)未經(jīng)其同意而直接讀出其內(nèi)心思想，嫌疑人的沉默權(quán)將形同虛設(shè)。此外，被告“不得強(qiáng)迫自證其罪”（privilege against self-incrimination）的規(guī)則也將被打破?！叭绻f(shuō)蒙上雙眼的正義女神曾經(jīng)是法律中公平正義最典型的象征符號(hào)的話，那么，借助人工智能的法律運(yùn)作可能不僅摘下了蒙眼布，而且還帶上了柏拉圖在《理想國(guó)》開(kāi)篇所討論的‘古各斯的戒指’，其可以沒(méi)有障礙地窺視一切人，以零成本獲取信息?！痹谌狈?duì)人工智能進(jìn)行有力法律規(guī)制的環(huán)境中，公民仿佛穿上了皇帝的新衣，隱私被窺探一盡卻渾然不知。