發(fā)展與安全并重：中國人工智能治理之道

工業(yè)革命以來，科學(xué)技術(shù)主導(dǎo)下的顛覆式創(chuàng)新營造出一系列嶄新的現(xiàn)代化圖景。人工智能在知識、技術(shù)與應(yīng)用層面的發(fā)展勢如破竹，似乎預(yù)示著智能革命“軸心時代”的到來。【參見陳志剛：《馬克思和海德格爾的技術(shù)批判思想之比較》，載《自然辯證法研究》2002年第2期?！咳斯ぶ悄芫哂屑夹g(shù)內(nèi)核的不可知性、應(yīng)用形式的擬人性、應(yīng)用場景的多元化、利益主體的交融性、技術(shù)風(fēng)險的未知性、社會影響的復(fù)雜性等特征，其應(yīng)用過程所引發(fā)的技術(shù)風(fēng)險、政治風(fēng)險、經(jīng)濟風(fēng)險、社會風(fēng)險等，使得對人工智能的治理成為一項艱巨工程，人們在享受技術(shù)帶來繁盛圖景的同時亦須面對不斷生成演化的各類型技術(shù)風(fēng)險。對此，社會結(jié)構(gòu)中的不同治理主體基于不同價值追求和思維目標(biāo)導(dǎo)向試圖清晰描摹人工智能治理框架，而人工智能技術(shù)在不同場域不同方向的發(fā)展程度差異決定了人工智能治理不同思維面向的異質(zhì)性，呈現(xiàn)出對人工智能技術(shù)本身及其風(fēng)險背后復(fù)雜因果關(guān)系的差異化理解與思維脈絡(luò)。

一、人工智能治理脈絡(luò)解構(gòu)

新興技術(shù)治理理論演進與技術(shù)迭代發(fā)展的階段性呈現(xiàn)出高度同步特征。從技術(shù)評估到預(yù)防原則，從倫理、社會與法律評估到預(yù)期治理，從負(fù)責(zé)任研究與創(chuàng)新到敏捷治理、適應(yīng)性治理、試驗性治理等多元理論，每一次治理范式的超越都是新興技術(shù)顛覆式創(chuàng)新誘發(fā)治理新問題、新需求的結(jié)果?！緟⒁婟嫷澗础⒀?、梁正：《人工智能治理：認(rèn)知邏輯與范式超越》，載《科學(xué)學(xué)與科學(xué)技術(shù)管理》2022年第9期?！吭谇笆隼砟钪敢?，不同治理主體基于對人工智能應(yīng)用場景和治理理念、治理需求的差異化理解，在回應(yīng)人工智能技術(shù)發(fā)展及其所產(chǎn)生影響與風(fēng)險的過程中形成了特征鮮明而又重心迥異的治理邏輯主線。本文將其抽象為技術(shù)邏輯、倫理邏輯、管理邏輯、法律邏輯。其實質(zhì)是通過不同治理思路探索支撐社會運行的各個子系統(tǒng)之于整體社會存在的意義和價值，進而為人工智能治理提供可行方案。

技術(shù)邏輯治理策略以人工智能設(shè)計過程和編程屬性的內(nèi)生風(fēng)險為原點而展開，強調(diào)技術(shù)自身的不周延性是治理正當(dāng)性的來源。一方面，人工智能治理的技術(shù)邏輯蘊含著對“技術(shù)中立”的反思，認(rèn)為技術(shù)設(shè)計者身處特定的歷史環(huán)境和文化背景之中，在詮釋科學(xué)意義、塑造技術(shù)結(jié)構(gòu)和編程過程中會有意無意地將來自二進制世界之外的價值觀念、慣例標(biāo)準(zhǔn)、價值形態(tài)等融入其中，因此，智能系統(tǒng)作為人類主體理性建構(gòu)的產(chǎn)物將具備與所謂中立觀念相背離的主觀性甚至偏見性特征；另一方面，算法決策過程的不可知性始終存在，且處于不斷迭代過程中的自學(xué)習(xí)算法的自動決策過程及其結(jié)果存在失控風(fēng)險。技術(shù)治理邏輯回歸人工智能技術(shù)源頭本身尋求解決方案，試圖經(jīng)由技術(shù)結(jié)構(gòu)優(yōu)化以及評估、解釋等方法實現(xiàn)技術(shù)及其應(yīng)用場景影響與風(fēng)險的可防可控。

倫理邏輯與人工智能治理技術(shù)邏輯尋求技術(shù)規(guī)制的可解釋性和整體可控的樂觀主義不同，人工智能治理的倫理邏輯呈現(xiàn)出對技術(shù)規(guī)制的相對悲觀色彩與合理懷疑態(tài)度，認(rèn)為人工智能技術(shù)及其在應(yīng)用過程中所產(chǎn)生的影響和風(fēng)險是確定的，技術(shù)的迭代更新及日益自主化特征使其未來發(fā)展呈現(xiàn)出高度的不確定性。倫理治理邏輯呈現(xiàn)出對人工智能技術(shù)的高度反思和批判，從功能上表現(xiàn)為“防止人類在現(xiàn)存社會組織慢慢灌輸給它的成員的觀點和行為中迷失方向”【［德］馬克斯·霍克海默：《批判理論》，李小兵等譯，重慶出版社1989年版，第250頁?！?，在具體治理路徑上則需要從技術(shù)設(shè)計、實驗、應(yīng)用、推廣的不同階段對人工智能進行倫理價值嵌入，通過人工智能產(chǎn)品的道德化設(shè)計、倫理效應(yīng)評估和使用主體的倫理責(zé)任規(guī)制等方式實現(xiàn)技術(shù)與倫理的互嵌?！緟⒁娡踱?、程海東：《人工智能技術(shù)倫理治理內(nèi)在路徑解析》，載《自然辯證法通訊》2019年第8期?！?/p>

管理邏輯則是從社會整體結(jié)構(gòu)發(fā)展的視角出發(fā)，強調(diào)人工智能風(fēng)險不僅是與算法、架構(gòu)、系統(tǒng)、模型相關(guān)聯(lián)的技術(shù)問題，其對工業(yè)、科技、教育、經(jīng)濟等社會各領(lǐng)域應(yīng)用場景的賦能作用更是讓其成為內(nèi)嵌于社會運行制度體系中的社會問題。人工智能技術(shù)應(yīng)用于政治場景還將對一國網(wǎng)絡(luò)空間安全、國家安全產(chǎn)生影響?！緟⒁婈I天舒、張紀(jì)騰：《人工智能時代背景下的國家安全治理：應(yīng)用范式、風(fēng)險識別與路徑選擇》，載《國際安全研究》2020年第1期?！咳斯ぶ悄芨咚綉?yīng)用對促進產(chǎn)業(yè)升級、支撐高質(zhì)量發(fā)展亦具有積極助推作用?！緟⒁姟犊萍疾康攘块T關(guān)于印發(fā)〈關(guān)于加快場景創(chuàng)新以人工智能高水平應(yīng)用促進經(jīng)濟高質(zhì)量發(fā)展的指導(dǎo)意見〉的通知》，國科發(fā)規(guī)〔2022〕199號。】在這樣的背景下，人工智能發(fā)展受到各經(jīng)濟體的高度重視，各國相繼出臺一系列“戰(zhàn)略”“規(guī)劃”等引導(dǎo)人工智能能動創(chuàng)新發(fā)展，在治理思路上呈現(xiàn)出技術(shù)改良主義傾向，如歐美國家競相推進社會治理轉(zhuǎn)型，在提供公共信息服務(wù)過程中開始探索新型“數(shù)智治理”模式【參見黃建偉、劉軍：《歐美數(shù)字治理的發(fā)展及其對中國的啟示》，載《中國行政管理》2019年第6期?！?。我國2015年提出“數(shù)字中國”戰(zhàn)略以來，一直在加速推進生產(chǎn)方式、生活方式、治理模式的數(shù)字化轉(zhuǎn)型，嘗試經(jīng)由控制風(fēng)險、促進競爭、優(yōu)化生產(chǎn)關(guān)系的目標(biāo)進路【參見唐鈞：《人工智能的風(fēng)險善治研究》，載《中國行政管理》2019年第4期?！恳詫崿F(xiàn)對人工智能的“善治”，進而打造科學(xué)、精細(xì)、智能化的“數(shù)治”新范式【參見馬長山：《數(shù)智治理的法治悖論》，載《東方法學(xué)》2022年第4期。】。

法律邏輯主導(dǎo)下的人工智能治理呈現(xiàn)出以下脈絡(luò)：一是通過法的安全價值保障實現(xiàn)風(fēng)險防范目標(biāo)，二是以法律規(guī)范人工智能應(yīng)用過程中的權(quán)力與權(quán)利秩序，三是以“良法”為新興科技發(fā)育提供良好的制度環(huán)境。近年來，圍繞著人格權(quán)、知識產(chǎn)權(quán)、數(shù)據(jù)財產(chǎn)權(quán)利保護以及與其相關(guān)的侵權(quán)責(zé)任認(rèn)定問題在法學(xué)界引發(fā)了廣泛關(guān)注和討論；數(shù)據(jù)合規(guī)、數(shù)據(jù)資源開發(fā)利用、數(shù)據(jù)交易、跨境數(shù)據(jù)傳輸?shù)认嚓P(guān)制度研究持續(xù)發(fā)揮著對實踐的引領(lǐng)和支撐作用；數(shù)字公民、智慧司法、數(shù)字法治等治理新元素在社會創(chuàng)新引領(lǐng)與國家治理體系和治理能力現(xiàn)代化進程中表現(xiàn)亮眼。

二、現(xiàn)有治理脈絡(luò)的不周延性

技術(shù)邏輯認(rèn)識到了人工智能的技術(shù)本質(zhì)與引發(fā)風(fēng)險的內(nèi)生性及其在整個治理體系中的先導(dǎo)地位，寄希望于通過技術(shù)結(jié)構(gòu)與標(biāo)準(zhǔn)的優(yōu)化實現(xiàn)人工智能技術(shù)風(fēng)險范圍的可控和平穩(wěn)安全運行。但正如馬斯克對技術(shù)中立性的反思和質(zhì)疑，技術(shù)實踐的過程來自社會又將反作用于社會。人工智能作為一種工具選擇在推動社會發(fā)展進步的同時，其在系統(tǒng)運行、產(chǎn)品應(yīng)用和產(chǎn)業(yè)孕育過程中會持續(xù)產(chǎn)生政治、經(jīng)濟、社會、文化等方面的影響，人工智能技術(shù)的價值和風(fēng)險也早已突破了單純的技術(shù)本身而具有了更多維、多層次和更加深刻的意義。人工智能治理的技術(shù)優(yōu)化方案因此也由于其視野方面的局限而導(dǎo)致風(fēng)險識別的扁平化，容易產(chǎn)生“有組織的不負(fù)責(zé)任”現(xiàn)象。

倫理邏輯強調(diào)人類共同福祉（well-being）對人工智能風(fēng)險的建構(gòu)作用，通過設(shè)置人工智能運行的安全性、公平性等倫理準(zhǔn)則和相應(yīng)的實施細(xì)則以防止技術(shù)失控、技術(shù)誤用等安全事件發(fā)生，避免人工智能技術(shù)對人類造成不可接受的損害；【參見陳小平：《人工智能倫理建設(shè)的目標(biāo)、任務(wù)與路徑：六個議題及其依據(jù)》，載《哲學(xué)研究》2020年第9期?！空J(rèn)為人工智能技術(shù)發(fā)展應(yīng)秉持“公義創(chuàng)新”模式，實現(xiàn)經(jīng)濟效益和社會效益的統(tǒng)籌?！緟⒁婈愋∑剑骸度斯ぶ悄軅惱碇卫恚阂环N新型問題的底層邏輯和創(chuàng)新探索》，載《生命科學(xué)》2022年第8期。】倫理邏輯下的人工智能治理是伴隨技術(shù)發(fā)展的長期互動過程，一系列朦朧的、非確定的、普遍性的價值倡議和工具性的規(guī)范標(biāo)準(zhǔn)依賴于從業(yè)者高度的道德理性、自省式的文化智慧和極強的自我約束特質(zhì)，但在經(jīng)濟利益誘導(dǎo)和資本權(quán)力的強勢支配下，缺乏強制性支持和保障的倫理治理模式終究僅能在有限范圍內(nèi)發(fā)揮作用。

管理邏輯試圖以規(guī)劃和政策相結(jié)合的形式為人工智能治理提供整體性制度方案。其中，前者為人工智能發(fā)展提供宏觀方向引領(lǐng)，后者則根據(jù)技術(shù)應(yīng)用的實踐樣態(tài)經(jīng)由行政監(jiān)管之手調(diào)節(jié)市場主體之間的利益格局。治理邏輯為人工智能技術(shù)應(yīng)用及其發(fā)展提供了一種頗具家長主義式的關(guān)懷視角，以目標(biāo)指引和制度保障的雙重進路將人工智能治理納入社會整體治理體系。但人工智能應(yīng)用場景的復(fù)雜性、發(fā)展性對人工智能治理的目標(biāo)、理念、原則、方法等均提出了較高要求，實現(xiàn)人工智能對社會整體發(fā)展的引領(lǐng)和促進目標(biāo)需要各項治理措施具備敏捷性、能動性甚至預(yù)見性，然而目前人工智能治理的各項政策措施仍呈現(xiàn)出較強的觸發(fā)性和被動回應(yīng)特征，科層制的管理結(jié)構(gòu)亦在一定程度上制約著多元治理目標(biāo)實現(xiàn)。

法律邏輯主導(dǎo)下的人工智能治理通過法益保障獲得與人工智能技術(shù)風(fēng)險的未知和不可預(yù)見性相對的安全性。法律對技術(shù)風(fēng)險的關(guān)注并不僅僅停留在技術(shù)濫用、誤用或損害范圍的擴大層面，而是在更深層次聚焦各類風(fēng)險或損害對現(xiàn)有法律權(quán)利義務(wù)關(guān)系的改變或新增，通過事前約定法律主體的義務(wù)內(nèi)容或事后法律責(zé)任認(rèn)定的方式實現(xiàn)具體應(yīng)用場景下的風(fēng)險規(guī)制。故而，法律從來、從未也不能夠為技術(shù)的安全可信背書?！緟⒁娳w精武：《“元宇宙”安全風(fēng)險的法律規(guī)制路徑：從假想式規(guī)制到過程風(fēng)險預(yù)防》，載《上海大學(xué)學(xué)報（社會科學(xué)版）》2022年第5期。】法律預(yù)防和調(diào)整功能的發(fā)揮依賴兩重現(xiàn)實條件：一是風(fēng)險的明確。法律無法對處于高度不確定性的發(fā)展之中的人工智能風(fēng)險施以規(guī)制措施。二是權(quán)利義務(wù)關(guān)系的明確。法律能夠調(diào)整的人工智能風(fēng)險類型僅限于在場景化應(yīng)用過程中法律主體的權(quán)利義務(wù)關(guān)系變動或新增情形，而無法實施預(yù)見性的或假設(shè)性的風(fēng)險規(guī)制措施。法律的謙抑性決定了其將始終滯后于新興技術(shù)發(fā)展實踐而無法實現(xiàn)同步規(guī)制。法律的抽象性決定了其將以既往技術(shù)規(guī)制經(jīng)驗為基礎(chǔ)進行一般性的規(guī)制范式提煉而無法實現(xiàn)針對人工智能應(yīng)用多樣場景的具體化規(guī)制。

三、中國的人工智能治理之道

以上對人工智能治理脈絡(luò)的梳理表明，不同思維邏輯下的人工智能治理在價值理念、治理路徑、主體關(guān)系、工具選擇等方面呈現(xiàn)出較大差異，各自面臨著無法回避的功能困境。區(qū)別于歷史長河中的其他新興科學(xué)技術(shù)，人工智能技術(shù)的自學(xué)習(xí)特征和極度廣泛的應(yīng)用場景使其具備了對于社會生活領(lǐng)域的變革性力量。人工智能治理需要以更加全局性的視角、更具包容性的結(jié)構(gòu)框架、更具效率性的手段來實現(xiàn)更為高效的系統(tǒng)性治理。在降低風(fēng)險的同時促進發(fā)展，既是技術(shù)層面應(yīng)當(dāng)解決的現(xiàn)實任務(wù)，也是制度層面應(yīng)實現(xiàn)的現(xiàn)實目標(biāo)。有別于美國、歐盟的創(chuàng)新優(yōu)先和倫理優(yōu)先治理模式，我國明確提出將“堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合”作為人工智能治理的基本原則，以此支撐人工智能治理目標(biāo)和價值實現(xiàn)。在該原則指導(dǎo)下，本文嘗試經(jīng)由協(xié)同治理、結(jié)構(gòu)治理、場景治理的層次化思維使其實現(xiàn)從宏觀抽象到微觀具體的衍變。其中，協(xié)同治理是對安全和發(fā)展并重原則的第一次轉(zhuǎn)化，后者所蘊含的雙軌思維意味著多元主體協(xié)同、多元邏輯融洽和多元方式協(xié)調(diào)之于人工智能治理的可欲性；結(jié)構(gòu)治理是對安全和發(fā)展并重原則的第二次轉(zhuǎn)化，其在貫徹抽象原則基礎(chǔ)上開始將視角向技術(shù)實踐所引發(fā)的權(quán)力關(guān)系、社會關(guān)系和法律關(guān)系變化轉(zhuǎn)移；場景治理則通過聚焦具體應(yīng)用場景下的風(fēng)險治理實現(xiàn)對安全和發(fā)展并重原則的第三次轉(zhuǎn)化。

其一，協(xié)同治理。人工智能治理應(yīng)圍繞發(fā)展和安全兩大理念，以算法和數(shù)據(jù)規(guī)制為主要內(nèi)容，實現(xiàn)多元利益保障與動態(tài)平衡下的有效治理。協(xié)同治理體現(xiàn)且不限于以下方面：一是主體間的協(xié)同共作。政府能夠確保監(jiān)管的公共價值導(dǎo)向和政策權(quán)威，保障政策執(zhí)行效力，促進算法安全和數(shù)據(jù)合規(guī)目標(biāo)實現(xiàn)。企業(yè)作為人工智能治理的中間環(huán)節(jié)，在法律法規(guī)尚不完備且具有滯后性的情況下，將其納入規(guī)制框架能夠更加充分地實現(xiàn)治理效果。社會公眾和個體用戶發(fā)揮終端監(jiān)督作用，通過民主參與、社會互動等手段參與治理體系之中將有助于促進算法責(zé)任的合理分配。二是不同治理邏輯的融洽。技術(shù)、倫理、管理和法律固有其單一認(rèn)知思維下的理論困境和功能局限，但其作為治理工具的層次性決定了不同治理思路邏輯的融合將有更大可能通往人工智能治理的“善治”目標(biāo)。三是不同治理方式的協(xié)調(diào)作用。比如，技術(shù)系統(tǒng)關(guān)注技術(shù)設(shè)計應(yīng)用的具體標(biāo)準(zhǔn)，管理與法律系統(tǒng)著重對技術(shù)實踐應(yīng)用過程中負(fù)面影響和風(fēng)險的消除。如果過于強調(diào)經(jīng)由管理、法律、倫理邏輯所支撐的安全價值及其秩序?qū)崿F(xiàn)，那么勢必在一定程度上制約技術(shù)發(fā)展及創(chuàng)新。因此，如何在安全和發(fā)展理念指引下合理配置不同治理邏輯及其所主導(dǎo)的治理方式，最大程度構(gòu)建整體、協(xié)調(diào)、層次化的治理系統(tǒng)，關(guān)系到人工智能治理的有效性。

其二，結(jié)構(gòu)治理。結(jié)構(gòu)治理是將發(fā)展和安全并重的治理原則所內(nèi)含的抽象價值追求具象化為以權(quán)利、權(quán)力、利益為要素所型構(gòu)的結(jié)構(gòu)性治理框架之中。需要重點關(guān)注人工智能技術(shù)及其發(fā)展實踐過程中所引發(fā)的權(quán)利關(guān)系、權(quán)力關(guān)系、社會關(guān)系和利益格局變動，通過合理的制度規(guī)程和行為準(zhǔn)則設(shè)計實現(xiàn)治理制度對人工智能實踐發(fā)展的促進、支撐和規(guī)制作用。結(jié)構(gòu)治理以人工智能技術(shù)發(fā)展與安全保障為主線，以算法要素、數(shù)據(jù)要素及其與社會深度融合的結(jié)構(gòu)體系為抓手和主要面向，通過建立與技術(shù)發(fā)展實踐相適應(yīng)的、從抽象理念引領(lǐng)到結(jié)構(gòu)化規(guī)制、由綜合治理到類型化治理體系以保持人工智能發(fā)展的正確方向。在此過程中，針對一系列人工智能數(shù)據(jù)、算法及其在社會運行系統(tǒng)過程中所引發(fā)的負(fù)面效應(yīng)，專項性的政策、針對性的法規(guī)和綜合性的法律將成為必要的工具選擇，行業(yè)共同體自律性規(guī)范的約束作用、人工智能倫理性規(guī)范的指引作用亦將在結(jié)構(gòu)化治理過程中實現(xiàn)。

其三，場景治理。場景治理是以人工智能應(yīng)用的具體場景為基礎(chǔ)，將發(fā)展與安全并重的治理原則與結(jié)構(gòu)要素框架中所體現(xiàn)的治理原則與具體規(guī)則應(yīng)用于由人工智能賦能的如自動駕駛、精準(zhǔn)醫(yī)療、生物識別、智慧城市、數(shù)字政府等具體場景。應(yīng)重點關(guān)注人工智能賦能具體行業(yè)的應(yīng)用活動本身及其所引發(fā)的個體問題、行業(yè)風(fēng)險、社會風(fēng)險的概率與嚴(yán)重程度，針對不同層次、不同范圍、不同程度的風(fēng)險形成對應(yīng)性的治理規(guī)則。場景治理意味著指導(dǎo)性的治理原則和宏觀協(xié)同治理、中觀結(jié)構(gòu)治理到微觀精細(xì)治理的落地，因而應(yīng)密切關(guān)注人工智能應(yīng)用場景的實際情況，從實踐事實出發(fā)，摒棄一切對問題與風(fēng)險及其分析方法、解決方案的假設(shè)或預(yù)設(shè)，通過對倫理規(guī)范、行業(yè)自律規(guī)范、政策措施、法律法規(guī)等的適度修正、完善或創(chuàng)制，實現(xiàn)針對人工智能技術(shù)及其發(fā)展實踐的回應(yīng)性、敏捷性、互動性治理。

在安全和發(fā)展并重原則指導(dǎo)下，獨具特色的中國人工智能治理之道正在形成。經(jīng)由協(xié)同治理、結(jié)構(gòu)治理和場景治理的層次化思維體系，以更具理性、更具效率的制度配置方式讓技術(shù)、倫理、管理、法律等規(guī)制方式更好地嵌入人工智能治理體系，通過漸進實現(xiàn)的制度理性積極擁抱人工智能技術(shù)紅利，同時實現(xiàn)對其發(fā)展風(fēng)險合理防控。

［責(zé)任編輯 邢峻彬］