論人工智能系統(tǒng)法律風險規(guī)制

[中圖分類號]D99 [文獻標識碼]A [文章編號]1008-2689（2025）05-0086-17

一、問題的提出

人工智能系統(tǒng)作為顛覆性的科學技術(shù)成果，從設(shè)計開發(fā)、投放市場到投人使用的全部環(huán)節(jié)都存在法律風險。例如在人工智能系統(tǒng)引導科研驅(qū)動方面，有學者[1持有如下觀點：人工智能具備獨立且成熟的科研驅(qū)動邏輯，在賦予科學研究以新前景的同時，也存在諸如道德失范、責任模糊等驅(qū)動風險；為了降低驅(qū)動風險與提升驅(qū)動韌性，需要對于人工智能系統(tǒng)的開發(fā)與應用進行規(guī)制。在教育領(lǐng)域的人工智能系統(tǒng)運用中，有研究者[2挖掘了數(shù)據(jù)隱私與安全、技術(shù)目的與價值、責任歸屬與分配等典型的倫理風險。針對人工智能控制端、感知端和行動端的侵權(quán)風險，我國學者整合了從基礎(chǔ)模型到基礎(chǔ)代理的模塊化治理框架，同時提議建立高風險場景下的精準化治理機制。此外，針對人工智能系統(tǒng)主導下的機器人侵權(quán)風險、數(shù)據(jù)安全風險的刑事法律應對等法律應用問題，學界亦存在廣泛討論。分析研究現(xiàn)狀不難得出，對于人工智能系統(tǒng)的法律規(guī)制，基本會聚焦到法律風險這一核心要素上。由此，本文借鑒歐盟《人工智能法》的立法框架與制度設(shè)計，研究如何以風險規(guī)制為抓手，解析人工智能風險規(guī)制的協(xié)同因素，厘清針對人工智能系統(tǒng)進行法律風險規(guī)制的規(guī)范思路。

二、人工智能系統(tǒng)的法律風險界定

歐盟《人工智能法》對于人工智能系統(tǒng)的概念做出了權(quán)威定義，并與人工智能技術(shù)工作的國際組織以及現(xiàn)階段成果達成一致，以保證法律規(guī)制的確定性。在立法思路上，《人工智能法》規(guī)避了人工智能權(quán)利泛化4的不穩(wěn)定因素，暫時不對人工智能體是否具備法律權(quán)利進行討論，轉(zhuǎn)而以參與人工智能活動的有關(guān)主體的權(quán)利義務(wù)人手，以風險為核心因素進行法律架構(gòu)。在人工智能系統(tǒng)的概念界定上，歐盟委員會達成了一套“基于風險”的規(guī)制辦法，根據(jù)人工智能系統(tǒng)產(chǎn)生風險的可能性、風險強度與范圍等因素調(diào)整規(guī)制內(nèi)容[5]。此規(guī)制辦法意圖從人工智能系統(tǒng)的設(shè)計與使用風險為切入點，搭建一套兼具比例原則與規(guī)制效能的約束性規(guī)則框架并推介使用。

從風險強度的角度出發(fā)，歐盟委員會主要基于法律風險及其可能造成的損害程度，將人工智能系統(tǒng)劃分為低風險、高風險以及禁止的人工智能系統(tǒng)三級類別。其中，歐盟人工智能高級別專家組在《值得信賴的人工智能的倫理準則》中，制定了七項相關(guān)原則①，為高風險人工智能系統(tǒng)的概念界定筑牢了基礎(chǔ)。在此基礎(chǔ)上，《人工智能法》對于人工智能系統(tǒng)進行引導與規(guī)制，意在促進符合歐盟價值觀的人工智能系統(tǒng)的一體化設(shè)計與全球推廣運用。

（一）正向規(guī)定：以權(quán)利保護為核心的法律風險規(guī)制路徑

《人工智能法》首先確定了“風險”的概念，將風險進行了產(chǎn)品風險與基本權(quán)利風險的二元分類研判，同時還將風險做了一定程度的分級。其中，第六條對高風險人工智能系統(tǒng)做出了積極定義，即：用作產(chǎn)品安全組件的人工智能系統(tǒng)或者作為產(chǎn)品的人工智能系統(tǒng)，在投放市場或者提供服務(wù)的條件下，應當被視為高風險人工智能系統(tǒng)。其次，《人工智能法》對于人工智能系統(tǒng)與相關(guān)產(chǎn)品的概念做出了清晰的梳理，在其附件一中援引了歐盟委員會的其它法案，將產(chǎn)品的概念向歐盟法律體系下的各個行業(yè)法、部門法進行延伸。另外，在附件三中，歐盟委員會將高風險人工智能系統(tǒng)做了分類，包括但不限于如下用途：生物識別、關(guān)鍵設(shè)施管理、教育就業(yè)、公共服務(wù)、社會福利、執(zhí)法司法、移民管理和民主進程。歐盟委員會及其他立法部門對每一種場景進行了更為詳細的說明，通過按照用途劃分人工智能系統(tǒng)的手段，為人工智能風險的場景化治理奠定了基調(diào)。這不僅有助于將人工智能法與不同場景、業(yè)態(tài)下的法律體系形成聯(lián)動，進而為投放于不同領(lǐng)域的人工智能治理確定相同范式，并平衡相關(guān)治理進程中的基本權(quán)利保護水平。

1．路徑一：建立場景化風險治理與權(quán)利保護的勾稽關(guān)系

實際上，《人工智能法》通過還原行業(yè)場景的手段對高風險人工智能進行種類界定的行為并非無跡可尋。在風險定義方面，歐盟委員會聚焦人工智能系統(tǒng)對《歐盟人權(quán)憲章》（以下簡稱《憲章》）保護的基本權(quán)利造成的負面影響，再通過將法律風險場景化、具象化，搭建風險治理與權(quán)利保護的勾稽關(guān)系。有學者指出場景是運用好數(shù)據(jù)要素的核心場域，基于數(shù)據(jù)要素產(chǎn)生的人工智能運用也同樣如此。既然人工智能系統(tǒng)最終要在應用下實現(xiàn)其先進價值，通過應用場景對于人工智能系統(tǒng)風險做好界定，就成為至關(guān)重要的程序性環(huán)節(jié)。

在不同場景下，《人工智能法》界定為高風險的標準中，都存在對于基本權(quán)利保護的考量。這些權(quán)利包括：人的尊嚴權(quán)、尊重私人和家庭生活權(quán)、保護個人數(shù)據(jù)權(quán)、言論和信息自由權(quán)、集會和結(jié)社自由權(quán)、不受歧視權(quán)、受教育權(quán)、消費者保護權(quán)、工人權(quán)利、殘疾人權(quán)利、性別平等、知識產(chǎn)權(quán)、獲取有效救濟和公平審判的權(quán)利、辯護權(quán)和無罪推定獲得權(quán)等。例如，在人工智能系統(tǒng)與特定自然人互動的場景下，考慮到人工智能系統(tǒng)可能會借助機器學習方式創(chuàng)造生成式內(nèi)容，而這種人工智能運作模式難以時刻受到人類監(jiān)管，所產(chǎn)生的內(nèi)容可能存在操縱信息導向或者欺詐等具體風險。在這種場景下，《人工智能法》要求該類人工智能系統(tǒng)在使用前必須提前向自然人披露該人工智能系統(tǒng)的互動特征②，以保證自然人享有充分的知情權(quán)和決策權(quán)。同時，人工智能系統(tǒng)如需面向特定種族、性別、興趣、個人特點、興趣喜好、使用目的、弱勢群體等產(chǎn)生互動內(nèi)容或處理自然人的生物數(shù)據(jù)，也須基于特定自然人群體的特點，將產(chǎn)生交互的信息和通知以詳盡的、無障礙的方式提供給該群體，以保證群體的基本權(quán)利。

憑借以上條件，歐盟立法者從風險界定出發(fā)，在立法領(lǐng)域完成快速反應，迅速建立起兼具權(quán)利保護、人工智能治理與法律風險規(guī)制的人工智能法框架，為人工智能技術(shù)在歐盟法域內(nèi)的發(fā)展提供了明確的法律基礎(chǔ)，盡管這一部《人工智能法》尚未體現(xiàn)出歐盟《通用數(shù)據(jù)保護條例》（GeneralDataProtectionRegulation，簡稱GDPR）在數(shù)據(jù)治理領(lǐng)域一般的影響力，并且很多規(guī)范仍有待進一步更迭或細化，但其基于權(quán)利保護視角，憑借風險場景化、具象化帶來的立法技術(shù)優(yōu)勢，在人工智能治理規(guī)范領(lǐng)域獨占螯頭，也為歐盟的人工智能法發(fā)展提供了足夠的容錯空間。

2.路徑二：推動形成立法前瞻性與法律一致性并存的制度背景

在通過風險場景化與權(quán)利保護相結(jié)合的手段解決立法框架問題和立法效率問題之外，歐盟立法者還在平衡立法前瞻性和法律一致性方面付出了較大努力。作為科學技術(shù)領(lǐng)域更迭迅速的新生代成果，人工智能技術(shù)及其衍生產(chǎn)品（人工智能系統(tǒng)/通用人工智能模型）對傳統(tǒng)法律框架形成了較大的沖擊。例如針對人工智能帶來的法律風險規(guī)制，立法者需要考慮是否同時對于人工智能應用者和人工智能產(chǎn)品做出規(guī)制，如何界定實際風險與潛在風險之間的關(guān)系？如何合理分配特定人工智能系統(tǒng)生產(chǎn)、運作中的權(quán)利與義務(wù)，等…這些法律問題要求人工智能法必須具備一定前瞻性；同時，在人工智能的配套治理制度尚不完善的情況下，立法者還需保證人工智能法的運作實施不產(chǎn)生法律沖突和執(zhí)法障礙。這就要求人工智能法必須充分考慮現(xiàn)存法律法規(guī)的既有影響，達成一定程度上的法律一致性?，F(xiàn)階段的《人工智能法》也須援引其他公約、條約、部門法等，對于制度內(nèi)容進行補充。

例如：《人工智能法》通過援引《聯(lián)合國兒童權(quán)利公約》進行規(guī)則補充，從制度層面明確對于兒童權(quán)利的保護②。由此可見，以權(quán)利保護為核心，以《憲章》下的基本權(quán)利為參考進行具體延展，是《人工智能法》對高風險人工智能系統(tǒng)的基本規(guī)制手段。

同樣地，為保證執(zhí)法階段對于基本權(quán)利保護的法律一致性，《人工智能法》在執(zhí)法評估環(huán)節(jié)中同樣非常注重人工智能系統(tǒng)的受信賴程度，而受信賴程度仍然取決于對于歐盟及其成員國公民的基本權(quán)利保護。歐盟委員會認為，人工智能技術(shù)會基于應用情況和技術(shù)發(fā)展層次，對于公共利益和基本權(quán)利造成物質(zhì)性或非物質(zhì)性的損害，因此需要建立系統(tǒng)性的、層次分明的人工智能法，同時與歐盟法律框架中其它權(quán)利保護法達成高度一致。在充分考慮產(chǎn)品風險與基本權(quán)利風險的平衡下，歐盟委員會必然受到數(shù)據(jù)保護、消費者保護、工會權(quán)利保護、勞資關(guān)系保護、產(chǎn)品缺陷救濟權(quán)保護等相關(guān)法律的影響，在編纂《人工智能法》時強化人工智能系統(tǒng)透明度以及運作記錄留存等方面的義務(wù)設(shè)置，旨在增強損害救濟措施的實施效果。例如，在特定領(lǐng)域人工智能系統(tǒng)輸出預測、判斷、建議或輔助決策時，《人工智能法》會基于人類監(jiān)督原則強化自然人對于人工智能系統(tǒng)輸出內(nèi)容的控制權(quán)，這種立法傾向顯然具備一定的前瞻性，旨在促進社會不斷培養(yǎng)滿足專業(yè)領(lǐng)域需求的自然人參與人工智能系統(tǒng)日常審查監(jiān)控的活動，以滿足各領(lǐng)域的技術(shù)要求和規(guī)范需求。這既明確了人類對于人工智能產(chǎn)品的風險管控，又為人工智能的發(fā)展營造了良好的制度保障。

（二）克減規(guī)定：建立以克減強度區(qū)分的風險監(jiān)管等級機制

1．通過強克減規(guī)定排除特殊目的人工智能系統(tǒng)的風險監(jiān)管

人工智能系統(tǒng)作為正在高速發(fā)展的技術(shù)成果，需要兼具受監(jiān)管空間和開放的實驗空間，并且通過法律手段適當納入風險緩解措施?！度斯ぶ悄芊ā吩陲L險概念的正向規(guī)定外附加了風險排除的克減規(guī)定，旨在支持創(chuàng)新、尊重科學自由，保護正常的科技研發(fā)活動。其次，基于國防民防、應急管理、國際維和等特殊因素而運作的人工智能系統(tǒng)業(yè)已在立法中受到豁免①?？梢远匆姷氖?，《人工智能法》對于科研、軍事、應急響應等特殊用途下的人工智能系統(tǒng)的法律規(guī)制保留了克制的態(tài)度，給予該類人工智能系統(tǒng)的部署者、使用者等主體以全部的裁量空間，以關(guān)聯(lián)主體的特定資質(zhì)（例如科研資質(zhì)、軍事資質(zhì)等）為背書，完全將該類人工智能系統(tǒng)的風險討論排除在一般的法律規(guī)定之外。也即，《人工智能法》已經(jīng)建立強克減軌道下的風險監(jiān)測屏蔽制度，以保證該法案將在任何時刻內(nèi)，均不對因此類目的而使用的人工智能系統(tǒng)產(chǎn)生高強度干預，而是通過政府命令等更加靈活的模式進行管理。除此之外，在立法設(shè)置上，利用豁免等方式劃定現(xiàn)階段的監(jiān)管范疇，也有助于厘清人工智能法的監(jiān)管脈絡(luò)，為法規(guī)未來的調(diào)整保留足夠的迂回空間。

2.通過弱克減規(guī)定平衡對通常情境下人工智能系統(tǒng)的監(jiān)管力度

《人工智能法》通篇對于人工智能系統(tǒng)做出了嚴格的限制②，為防止該等實質(zhì)或形式限制對于歐盟人工智能技術(shù)與市場創(chuàng)新發(fā)展造成負面影響，歐盟委員會通過力度較弱的克減規(guī)定，劃清通常情況下風險認定的最低標準，以及排除認定為具備一定等級風險的情況。例如，在第三章第六條的第三款規(guī)定中，如果認定人工智能系統(tǒng)對自然人的健康、安全或基本權(quán)利無法構(gòu)成重大損害風險，包括不對人類決策結(jié)果產(chǎn)生重大不利影響，則不應被視為高風險人工智能系統(tǒng)。這款克減規(guī)定強調(diào)了“人類決策結(jié)果”“重大基本權(quán)利”等重點保護要素，并排除了通過其它要素定義人工智能系統(tǒng)為“高風險”的可能性。在排除條件上，這則條款補充了四項風險排除條件③。在這些排除條件中，除（d）款涉及條款修改的程序性規(guī)定，前三項條件都展現(xiàn)了一定的立法動機，即“排除人工智能系統(tǒng)對人類決策進行未知干涉”。同時，歐盟又利用補充條款對于《人工智能法》中的排除條件進行了限制，即對于自然人進行畫像的人工智能系統(tǒng)將始終被視為高風險系統(tǒng)，以嚴格控制人工智能運用造成的連帶法律風險。

由此可見，《人工智能法》關(guān)于風險評判的正向規(guī)定與克減規(guī)定呈現(xiàn)出耦合與互相約束的榫卯結(jié)構(gòu)，反映出歐盟委員會對于監(jiān)管強度的審慎態(tài)度。同時，這種模式也正緩和了《人工智能法》草案階段受到詬病的實用性與確定性的不足④，體現(xiàn)了歐盟委員會對于人工智能治理中法律確定性的重視，有效緩解了歐洲人工智能企業(yè)承受“以‘財產(chǎn)規(guī)則為主導的GDPR”相同程度的監(jiān)管負擔問題8

三、人工智能系統(tǒng)的法律風險規(guī)制 理念與制度基礎(chǔ)

《人工智能法》制定了完善的法律風險規(guī)制措施，以保證歐盟法律框架能夠?qū)τ谌斯ぶ悄軓漠a(chǎn)生到運作的全流程風險外溢做到事先預警和事后響應。這套具體的風險規(guī)制措施建立在完整的規(guī)制理念與制度基礎(chǔ)上。規(guī)制理念決定了人工智能系統(tǒng)受到規(guī)制的本質(zhì)原因以及嚴格程度，制度基礎(chǔ)決定了人工智能系統(tǒng)風險規(guī)制的效力與規(guī)制進路。

（一）對高風險人工智能系統(tǒng)的規(guī)制理念

1．建立以透明度、人類監(jiān)督與網(wǎng)絡(luò)安全原則為主的規(guī)制思維

針對人工智能系統(tǒng)投入使用而施加的一系列法律原則，是《人工智能法》權(quán)利義務(wù)框架建立的前提條件。《人工智能法》第十三條明確規(guī)定了高風險人工智能系統(tǒng)的設(shè)計和開發(fā)程序中，應確保相關(guān)操作具有足夠的透明度，使部署者能夠解釋系統(tǒng)的輸出結(jié)果并且進行針對性處理?！度斯ぶ悄芊ā分С纸⑦m當類型和程度的透明度義務(wù)，其嚴格程度與人工智能系統(tǒng)風險呈現(xiàn)正比關(guān)系。例如：有限風險的人工智能系統(tǒng)僅僅承擔輕微的透明度義務(wù)，這種輕微義務(wù)的設(shè)置可以簡化監(jiān)管流程，幫助人工智能更高效地運作，同時還為富有創(chuàng)新力的人工智能群體降低了發(fā)展成本，是對于“監(jiān)管的創(chuàng)新悖論（innovationparadoxofregulation）”問題提出的良好解決方案；而高風險人工智能系統(tǒng)需要承擔更嚴格的透明度義務(wù)。這些義務(wù)包括但不限于：進行更復雜的合格性認證、向更高級別的主管部門提供更詳實的內(nèi)部審核報告、更高的市場準入門檻等①

高風險人工智能系統(tǒng)應附有適當?shù)臄?shù)字格式或其他形式的使用說明，其中包括簡明完整、正確清晰的系統(tǒng)屬性信息。設(shè)置透明度的目的是保證高風險人工智能系統(tǒng)的自動化操作在合理的可預測范圍之內(nèi)，能夠為參與人工智能系統(tǒng)設(shè)計、布局、使用、維護等活動的各自然人主體所準確理解。人工智能系統(tǒng)的特點、能力與性能限制等指標的體現(xiàn)來源于透明度原則，該原則為人類監(jiān)督與網(wǎng)絡(luò)安全兩項原則奠定了法律規(guī)制基調(diào)，即高風險人工智能系統(tǒng)必須保證設(shè)計運行的全過程透明，以便對其進行高效準確的規(guī)制。

第十四條人類監(jiān)督原則，旨在最大程度上減少高風險人工智能系統(tǒng)在按照預期目的使用或在合理預見的濫用條件下使用時，對于基本權(quán)利造成的法律風險。本條第一款中強調(diào)高風險人工智能系統(tǒng)從設(shè)計開發(fā)到投入使用，應當設(shè)置自然人全過程有效監(jiān)督的具體措施②。并且在此基礎(chǔ)上延展細化到提供者、部署者的義務(wù)體系，以確保準確落實《人工智能法》的風險管理要求。在人類監(jiān)督原則的指導下，本條款為被指派進行人類監(jiān)督的特定自然人，提供了監(jiān)督模式的參考與指引。人類監(jiān)督模式強調(diào)通過人類獨立的判斷力對于人工智能的使用風險做出事先預判、事中評估與事后規(guī)制。要求進行監(jiān)督的人類對于特定人工智能具備規(guī)制能力，發(fā)揮人類獨立的決策能力，以防止人工智能系統(tǒng)對于人類決策的不利影響。

第十五條網(wǎng)絡(luò)安全原則，聚焦人工智能系統(tǒng)的內(nèi)部穩(wěn)定性與輸出結(jié)果的準確性，增強對于高風險人工智能系統(tǒng)技術(shù)風險的化解能力。該條款要求高風險人工智能系統(tǒng)在完整生命周期內(nèi)保持高度一致。對于準確性和穩(wěn)定性的判斷標準，《人工智能法》鼓勵有權(quán)部門和利益相關(guān)方通過多邊協(xié)商的方式進行標準制定。本條衍生的網(wǎng)絡(luò)安全保護的法律措施較為多元化，在人工智能系統(tǒng)內(nèi)部，本法支持自然人通過手動方式解決系統(tǒng)運行中的故障問題，建議通過制定備份和故障安全計劃等替代模式來實現(xiàn)干預。針對人工智能系統(tǒng)在投放市場或提供服務(wù)后的自動化學習行為，本條主張通過更加完善的開發(fā)方式消除因操作偏差而對人類決策產(chǎn)生不利影響的風險。同時，本條第五款強調(diào)，高風險人工智能系統(tǒng)應當具備抵御未授權(quán)第三方利用系統(tǒng)缺陷改變系統(tǒng)輸出結(jié)果的能力。對于系統(tǒng)缺陷進行的攻擊手段做出示例，并且要求處理系統(tǒng)漏洞的技術(shù)解決方案應當具備適當?shù)奶娲胧?/p>

2.界定風險管理系統(tǒng)架構(gòu)與加強源數(shù)據(jù)治理觀念

《人工智能法》倡導為高風險人工智能系統(tǒng)實施持續(xù)性的風險管理措施，并提出通過源數(shù)據(jù)治理的方式來踐行風險管理的規(guī)制理念[]。盡管風險管理系統(tǒng)尚未在現(xiàn)實層面做到完善，但已在理論層面完善了當下時期內(nèi)風險管理系統(tǒng)的組織架構(gòu)。風險管理系統(tǒng)對于高風險人工智能系統(tǒng)的使用進行規(guī)制，縱貫高風險人工智能系統(tǒng)完整生命周期的同時，也要隨著人工智能系統(tǒng)的發(fā)展進行更新迭代?！度斯ぶ悄芊ā氛J為，風險管理系統(tǒng)應當聚焦三種條件下的風險展開更迭過程，即對于基本權(quán)利產(chǎn)生損害的風險、預期范圍內(nèi)產(chǎn)生的其它風險、通過評估人工智能提供服務(wù)的數(shù)據(jù)分析得到的非預期風險。其中，預期范圍內(nèi)的風險，既包括根據(jù)人工智能系統(tǒng)預期使用目的造成的已知風險，也包括該系統(tǒng)在可合理預見的濫用條件下使用時可能出現(xiàn)的風險。

為使風險管理系統(tǒng)對于人工智能系統(tǒng)的規(guī)制產(chǎn)生具體的效果，本法對于風險管理系統(tǒng)的測試與運行原則做出了要求。管理系統(tǒng)參與的風險概念被實施了部分限制，僅指通過技術(shù)開發(fā)層面提供充分的技術(shù)信息可以合理減輕或者消除的風險。也即風險管理必須具體可操作，并且必須可以通過技術(shù)反饋的途徑對管理進程進行掌握。同時，風險管理系統(tǒng)的設(shè)計必須具備前瞻性和綜合性，在采取管理措施時必須適當考慮人工智能系統(tǒng)的應用產(chǎn)生的廣泛影響。對于禁止的人工智能實踐和嚴格管制的高風險人工智能的使用，還須考慮到對社會、業(yè)態(tài)、歐盟價值觀產(chǎn)生的相互作用，并在規(guī)制施行環(huán)節(jié)做到適應性平衡。為減弱或者消除人工智能系統(tǒng)的使用風險，界定“風險管理系統(tǒng)”這一概念的進步之處體現(xiàn)在對于人工智能使用風險的精準把控與保留人工智能系統(tǒng)的開發(fā)測試空間，以保證受規(guī)制的人工智能系統(tǒng)在實現(xiàn)預期目標的軌道上仍然能夠穩(wěn)定運行。

數(shù)據(jù)作為交付人工智能系統(tǒng)進行處理的原始資料，成為規(guī)制人工智能系統(tǒng)使用風險的介人因素。對數(shù)據(jù)的監(jiān)管實際上從源頭影響人工智能行業(yè)的發(fā)展[11]，因此除設(shè)置風險管理系統(tǒng)之外，《人工智能法》對于人工智能系統(tǒng)的風險規(guī)制還基于數(shù)據(jù)治理的理念之上，特別是人工智能技術(shù)從現(xiàn)實收集到的源數(shù)據(jù)。本法強調(diào)對于利用數(shù)據(jù)訓練模型技術(shù)進行服務(wù)與運行的高風險人工智能系統(tǒng)，應當符合特定質(zhì)量標準的訓練，例如訓練能夠甄別源數(shù)據(jù)客觀性的能力。在驗證和測試數(shù)據(jù)集使用風險的基礎(chǔ)上進行管理。在加強源數(shù)據(jù)治理以增幅風險控制的規(guī)制模式下，《人工智能法》對于高風險人工智能系統(tǒng)進行數(shù)據(jù)實踐做出了嚴格的全過程監(jiān)管規(guī)定。在訓練與測試過程中，應當保留人工智能系統(tǒng)的設(shè)計目的、詳細的設(shè)計類型，厘清人工智能系統(tǒng)的數(shù)據(jù)來源與收集目的，說明數(shù)據(jù)的處理操作，對于數(shù)據(jù)經(jīng)處理所形成的信息內(nèi)容做出合理推定。在實踐過程中，相關(guān)人員、機構(gòu)須持續(xù)評估數(shù)據(jù)集的成分、體量與適用程度，針對可能損害自然人當下和未來的基本權(quán)利，或者違反歐盟法律禁令的數(shù)據(jù)處理偏差進行矯正。

在數(shù)據(jù)測試與人工智能系統(tǒng)訓練環(huán)節(jié)中，《人工智能法》為人工智能系統(tǒng)處理源數(shù)據(jù)保留了大量的空間，但同時也對源數(shù)據(jù)進行了較高級別的保護。例如，只有在處理合成數(shù)據(jù)和匿名數(shù)據(jù)等非源數(shù)據(jù)無法實現(xiàn)偏差檢測與矯正的條件下，才允許人工智能處理源數(shù)據(jù)；對于特殊類型的源數(shù)據(jù)，例如個人數(shù)據(jù)，必須采取“假名化”等方式進行數(shù)據(jù)保護，并且遵守嚴格的規(guī)定，在經(jīng)過有關(guān)部門授權(quán)的情況下，保留訪問、處理記錄，承擔特定的保密義務(wù)；在數(shù)據(jù)使用期截止時，除非有正當理由支持并且經(jīng)過有關(guān)部門批準，必須及時刪除敏感源數(shù)據(jù)。由此可以證實的是，《人工智能法》對于人工智能系統(tǒng)進行數(shù)據(jù)處理的原則，與歐盟的數(shù)據(jù)法體系一脈相承。

對于數(shù)據(jù)施行分層規(guī)制的理念，同樣影響著歐盟對人工智能系統(tǒng)的法律規(guī)制模式。近年來，歐洲共同數(shù)據(jù)空間的建設(shè)，將基礎(chǔ)設(shè)施和數(shù)據(jù)治理機制進行有效結(jié)合，旨在利用數(shù)據(jù)創(chuàng)新驅(qū)動的政策推動歐洲人工智能技術(shù)市場的競爭力與社會福利發(fā)展。同時，《歐洲數(shù)據(jù)戰(zhàn)略》支持營造安全高效的數(shù)據(jù)共享環(huán)境，為此歐盟委員會正試圖會同國際社會各界一道，制定強有力的治理機制和信任框架，其中包括統(tǒng)一規(guī)則和標準化規(guī)則制定[12]。這些理念與《人工智能法》中加強數(shù)據(jù)治理的基礎(chǔ)觀念具有高度一致性。

（二）人工智能系統(tǒng)風險管理的制度基礎(chǔ)

1．明確人工智能價值鏈與推動制度標準化進程

人工智能技術(shù)的快速發(fā)展，使得對于人工智能系統(tǒng)的法律規(guī)制必須保證持續(xù)更新的狀態(tài)。通過引入人工智能價值鏈概念和推動人工智能法律標準化兩大制度基礎(chǔ)，歐盟初步構(gòu)建了一套具備階段性和適應性的人工智能法律框架。人工智能價值鏈將參與人工智能系統(tǒng)設(shè)計部署、投入使用、審核反饋等全過程的主體進行聯(lián)系，在歐盟價值觀的引導下對于全鏈條上的主體進行權(quán)利、義務(wù)與責任的分配，在促進人工智能技術(shù)發(fā)展的基礎(chǔ)上，對人工智能系統(tǒng)產(chǎn)生良好的規(guī)制效果。在人工智能價值鏈中，多方相關(guān)主體對于人工智能系統(tǒng)產(chǎn)生的作用迥異，明確人工智能價值鏈上的權(quán)利義務(wù)與法律責任等因素，有利于培養(yǎng)人工智能系統(tǒng)相關(guān)方的人工智能素養(yǎng)，進而反哺人工智能法律的監(jiān)管效能與執(zhí)行效率。人工智能價值鏈是衡量人工智能風險的一種新型標準，通過適應現(xiàn)階段技術(shù)發(fā)展與人工智能系統(tǒng)的使用反饋，為約束全鏈條上的主體提供理論參考。

在風險控制的國際化探討中存在一種范圍性共識，即行業(yè)自我監(jiān)管一般不能作為公共利益保護的可靠途徑，即使某領(lǐng)域的制度管理仍顯經(jīng)驗不足，通常也需要正式的法律明確一條規(guī)范通路[13]。從這個觀點出發(fā)進行觀察與分析，《人工智能法》為細分領(lǐng)域內(nèi)投放使用的人工智能系統(tǒng)做出了階段性、具體化的約束，并且在形式上要求人工智能系統(tǒng)滿足一定的標準，例如通過評估認證進行合法性背書。歐盟委員會具備設(shè)置標準化規(guī)格的權(quán)力，有權(quán)在咨詢?nèi)斯ぶ悄芪瘑T會和其它利益相關(guān)方的基礎(chǔ)上，向歐洲標準化組織發(fā)出標準化請求，進而推動針對人工智能系統(tǒng)更加行之有效的法律出臺。在發(fā)起標準化請求時，應當及時提供可交付使用的人工智能系統(tǒng)有關(guān)報告，便于委員會對特定人工智能系統(tǒng)進行精確評估?！度斯ぶ悄芊ā穼τ谌斯ぶ悄芟到y(tǒng)的投放與使用設(shè)定標準化規(guī)格，意在減少人工智能系統(tǒng)在設(shè)計、測試、投放使用的全過程中產(chǎn)生的能源及其它資源消耗，同時促進人工智能領(lǐng)域的投資與創(chuàng)新①。人工智能領(lǐng)域中標準化規(guī)則的發(fā)展，有利于通過對于形式的嚴格要求，提高人工智能法的立法水平，有利于提高法律確定性，輔助提升歐盟人工智能法的核心競爭力。

在人工智能系統(tǒng)使用的標準化進程中，《人工智能法》強調(diào)加強標準化工作的全球合作，增強利益相關(guān)方的多邊治理，基于利益平衡的最終目的，鼓勵相關(guān)方的有效參與。該法為標準化流程設(shè)置了補充條款，在標準化條件尚不滿足或標準化規(guī)格缺失時②，由歐盟委員會制定共同規(guī)格作為替代方案。這種方案囊括了標準化規(guī)則不能適應基本權(quán)利保護、標準化申請未被任何歐洲標準化組織接受等例外情況。同樣，共同規(guī)格的設(shè)置沒有降低對于高風險人工智能系統(tǒng)的風險控制要求，仍然保持了同等的風險評估標準。且共同規(guī)格僅僅作為臨時替代規(guī)則，歐洲標準化組織仍會在此基礎(chǔ)上嘗試通過歐盟委員會的標準化申請，并促成適格的人工智能法階段性出臺。人工智能治理的標準化進程已經(jīng)成為具備一定國際影響力的人工智能立法觀念，在2021年，我國學者在研究中就認為，我國亟需增強人工智能立法的標準化成效，需要強化標準研制和實驗驗證，針對重點行業(yè)和領(lǐng)域的技術(shù)標準尚待健全，特別是圍繞基礎(chǔ)數(shù)據(jù)、模型算法、產(chǎn)品服務(wù)和風險管理等重點指標需要盡快完善[14]。此外，部分研究者提出重視正式標準與法律的協(xié)同作用，為技術(shù)標準保留準用性接口，通過標準術(shù)語界定與法律概念銜接，為技術(shù)創(chuàng)新、制度審查和風險衡量與規(guī)制等工作建立制度基礎(chǔ)[15]

2.完善合格性評估與認證登記流程

合格性評估和認證登記是《人工智能法》幫助推行標準化流程的具體手段，并以人工智能價值鏈為理論引導，對具體的人工智能系統(tǒng)實踐產(chǎn)生約束效力。不論提供者選擇統(tǒng)一標準或是共同規(guī)格作為制度參考，合格性評估都能給予人工智能系統(tǒng)提供者以多元的方式滿足歐盟的監(jiān)管要求。人工智能系統(tǒng)的提供者有權(quán)選擇以下任一程序履行法律義務(wù)：

（1）基于人工智能企業(yè)內(nèi)部控制的合格性評估程序。這種程序要求人工智能系統(tǒng)提供者確立的質(zhì)量管理系統(tǒng)總體符合《人工智能法》第十七條的要求，以書面政策、程序或者指令的方式，完整記錄對于高風險人工智能系統(tǒng)的設(shè)計策略、技術(shù)控制、例行檢查程序、技術(shù)規(guī)格、數(shù)據(jù)收集等重要方面的行為模式。在此基礎(chǔ)上，完善風險管理系統(tǒng)的建設(shè)、實施和維護市場后監(jiān)測系統(tǒng)運作，對于嚴重風險外溢事件做好預案，完善與國家主管機關(guān)和相關(guān)機構(gòu)（例如歐洲標準化組織）的溝通協(xié)作，強化企業(yè)信息記錄、問責框架和安全管理等問題?；谄髽I(yè)內(nèi)控的監(jiān)管模式，契合主要經(jīng)營或研發(fā)業(yè)務(wù)為人工智能系統(tǒng)的企業(yè)，并且要求企業(yè)在與主管機關(guān)和相關(guān)機構(gòu)的交往中具備較強的信用程度，以通過企業(yè)自治的模式簡化主管機關(guān)對于相關(guān)人工智能系統(tǒng)的法律風險規(guī)制，節(jié)省通知機構(gòu)等各方的風險規(guī)制資源。

（2）基于質(zhì)量管理體系和技術(shù)文件的雙重合格性評估。這種雙重評估的模式較企業(yè)內(nèi)控模式更為嚴格，是符合大部分人工智能系統(tǒng)提供者的制度路徑。在這種路徑下，提供者或者授權(quán)代表需要提交其質(zhì)量管理系統(tǒng)的清單、技術(shù)文件、程序說明等詳細信息并經(jīng)過通知機構(gòu)的初步審查。經(jīng)過通知機構(gòu)評估且批準的質(zhì)量管理系統(tǒng)，若需進行更改，需要報告通知機構(gòu)重新評估。若人工智能系統(tǒng)需要投放市場并面對不特定公眾提供服務(wù)，則還需提供詳細的技術(shù)文件，以供通知機構(gòu)以遠程訪問等形式無障礙訪問人工智能系統(tǒng)的數(shù)據(jù)集。若通知機構(gòu)在評估過程中用盡所有現(xiàn)行的評估方式，仍能夠證明人工智能系統(tǒng)的風險控制尚不充分，則可以在客觀證據(jù)的基礎(chǔ)上，審閱人工智能系統(tǒng)的訓練數(shù)據(jù)、系統(tǒng)模型和相關(guān)參數(shù)。通知機構(gòu)對于提供者的測試流程若存在不滿之處，可以酌情進行直接測試。通知機構(gòu)進行審閱、測試等任何評估行為，必須遵守歐盟關(guān)于知識產(chǎn)權(quán)和商業(yè)秘密的法律規(guī)定。

在雙重評估結(jié)束后，若獲得通知機構(gòu)批準認可，則向人工智能系統(tǒng)提供者簽發(fā)合格性認證和歐盟技術(shù)認證補充文件，代表該人工智能系統(tǒng)風險處于可控范圍之內(nèi)。通知機構(gòu)仍然會對已經(jīng)通過評估的人工智能系統(tǒng)進行可持續(xù)的監(jiān)督，并對人工智能系統(tǒng)的提供者進行定期審計。在評估過程中，為了確保通知機構(gòu)評估結(jié)果的準確性和真實性，人工智能系統(tǒng)的提供者需要為通知機構(gòu)的審核提供準確信息等便利條件，包括但不限于提供者和授權(quán)代表的身份、地址等詳細信息，系統(tǒng)運行組件信息，使用信息，系統(tǒng)狀態(tài)（提供服務(wù)、投放市場、召回等），既存的通知機關(guān)認證文件或合格性證明。除某些有關(guān)部門用于移民和邊境管制等具備敏感性的人工智能系統(tǒng)外，其余人工智能系統(tǒng)的評估流程規(guī)定均體現(xiàn)出較強的透明度。

對于提供人工智能系統(tǒng)的任何個人或企業(yè)來說，需要特別針對高風險人工智能系統(tǒng)起草一份書面的歐盟合格性聲明作為背書，在投放市場或提供服務(wù)的10年內(nèi)提交至歐盟國家的人工智能主管部門進行保存，并適時進行更新。這則程序性規(guī)定要求登記備案流程必須同時滿足歐盟統(tǒng)一立法和歐盟成員國的立法要求，分別向成員國和歐盟提供一份合格性聲明，以供不同的監(jiān)管主體履行監(jiān)管責任。在此基礎(chǔ)上，為了給特殊情況下的人工智能系統(tǒng)使用提供合理空間，《人工智能法》保留了合格性評估的克減條件。歐盟的市場監(jiān)督管理機關(guān)可以授權(quán)在成員國境內(nèi)，借助公共安全、生命健康權(quán)益與環(huán)境保護、維持工業(yè)和基礎(chǔ)設(shè)施等重要資產(chǎn)等正當理由，跳過常規(guī)合格性評估程序，僅通過認證登記流程，直接將特定高風險人工智能系統(tǒng)投入使用。如果基于公共安全和自然人生命健康權(quán)益理由，需要跳過合格性評估，則要求必須存在急迫的實質(zhì)威脅，高風險人工智能系統(tǒng)的使用主體必須是執(zhí)法機關(guān)或國防機關(guān)，且在利用高風險人工智能系統(tǒng)后合理期限內(nèi)必須申請合格性評估，獲取歐盟的有效授權(quán)。在無法獲得有效授權(quán)的情況下，應當立即停止使用此高風險人工智能系統(tǒng)，并且對該系統(tǒng)的所有產(chǎn)出進行棄置處理。

根據(jù)《人工智能法》規(guī)定，經(jīng)通知機構(gòu)評估合格后，在投放市場提供服務(wù)前還應經(jīng)過專門的認證登記。通知機構(gòu)在認證登記過程中需要承擔重要的信息義務(wù)。這種信息義務(wù)需要同時對上級通知機關(guān)和同級的通知機構(gòu)履行。需要向上級通知機關(guān)履行的信息義務(wù)主要集中在影響風險監(jiān)管的人工智能系統(tǒng)使用狀態(tài)信息上，包括技術(shù)文件評估、質(zhì)量管理體系認證等文件的頒發(fā)生效和限制中止等信息，從市場監(jiān)督管理機關(guān)獲取的特定人工智能系統(tǒng)合格性評估要求，和可能影響人工智能系統(tǒng)合格性評估的跨境活動與分包活動上?！度斯ぶ悄芊ā犯郊辛信e的高風險人工智能系統(tǒng)在投放市場提供服務(wù)前，需要將人工智能系統(tǒng)的具體信息登記于歐盟數(shù)據(jù)庫。這個獨立數(shù)據(jù)庫由歐盟委員會和成員國合作創(chuàng)建，數(shù)據(jù)庫的功能規(guī)格和登記信息種類等詳細屬性由歐盟委員會在專家意見指導下確定，更新規(guī)格和屬性時，則由歐盟委員會和人工智能委員會共同決定。此數(shù)據(jù)庫的數(shù)據(jù)由人工智能系統(tǒng)提供者或其授權(quán)代表提供，參與合格性評估克減程序的特殊系統(tǒng)由公共機構(gòu)、團體部署人員或者代表輸入數(shù)據(jù)庫。以上數(shù)據(jù)始終保持開源和機器易讀，在個人數(shù)據(jù)收集方面延續(xù)了歐盟的傳統(tǒng)觀念，僅收集必要的個人數(shù)據(jù)。歐盟委員會作為該數(shù)據(jù)庫的實際控制者，有義務(wù)向高風險人工智能系統(tǒng)的提供者、部署者以及公眾監(jiān)督提供技術(shù)支持和行政支持。

四、高風險人工智能價值鏈上的責任落實

“高風險人工智能價值鏈”形成了《人工智能法》對于人工智能技術(shù)發(fā)展的理念建構(gòu)，在此理念下形成了獨特的制度體系，統(tǒng)合了標準化進程與法律條款，同時兼容了質(zhì)量管理體系與技術(shù)文件全流程評估。價值鏈帶來的風險管理系統(tǒng)等制度成果為人工智能治理提供了良好的靜態(tài)制度框架。有學者認為，風險這一核心要素用于提供監(jiān)管對象、證明監(jiān)管的合理性、構(gòu)建實施監(jiān)管的組織和程序以及確認各方需要承擔的責任，因此“責任落實”作為人工智能制度反應鏈的終端，在將抽象的治理框架轉(zhuǎn)化為具象的責任分配機制過程中發(fā)揮著決定性作用，成為確保風險規(guī)制實效的關(guān)鍵。

《人工智能法》以“高風險人工智能價值鏈”為邏輯起點，通過明確價值鏈上各主體的角色定位與權(quán)利義務(wù)關(guān)系，構(gòu)建起以系統(tǒng)控制者為中心的分級義務(wù)體系。這一設(shè)計不僅延續(xù)了透明度、人類監(jiān)督與網(wǎng)絡(luò)安全等核心規(guī)制理念，更通過制度化的責任傳導機制，將風險管理、數(shù)據(jù)治理與標準化流程嵌入人工智能系統(tǒng)的全生命周期。本部分將聚焦于價值鏈上的責任落實路徑，探討分級義務(wù)體系的具體架構(gòu)及其與基本權(quán)利影響評估的協(xié)同效應，以揭示風險規(guī)制從制度設(shè)計到實踐運行的內(nèi)在邏輯。

（一）形成以高風險人工智能系統(tǒng)控制者為中心的分級義務(wù)體系

《人工智能法》在人工智能風險管理的制度基礎(chǔ)上，圍繞高風險人工智能系統(tǒng)的控制者設(shè)置了既定的義務(wù)體系。這種義務(wù)體系以高風險人工智能價值鏈為理論展開，將價值鏈上的責任傳導至高風險人工智能系統(tǒng)相關(guān)的控制者?？刂普呖梢源笾路诸悶樘峁┱?、部署者、進口者、分銷者等通過設(shè)計、投放、推送、傳播人工智能系統(tǒng)至市場的主體?？刂普哒莆罩斯ぶ悄芟到y(tǒng)的實質(zhì)屬性和狀態(tài)，是將人工智能系統(tǒng)風險監(jiān)管從制度層面轉(zhuǎn)化為現(xiàn)實層面的關(guān)鍵環(huán)節(jié)。通過細化控制者義務(wù)，壓實制度基礎(chǔ)，是《人工智能法》風險響應機制的亮點。為了確保人工智能價值鏈上的責任得以履行，《人工智能法》確定了以提供者的義務(wù)為核心的體系，在對人工智能進行實質(zhì)性修改的過程①中，任何分銷者、進口者、部署者以及其它第三方均視為高風險人工智能系統(tǒng)的提供者，并承擔提供者的常規(guī)義務(wù)。而最初的提供者雖然不再被視為特定人工智能系統(tǒng)的提供者，但仍然需要承擔連帶責任，與監(jiān)管部門形成良好合作，提供技術(shù)準入和必要協(xié)助。以上義務(wù)具備附隨性質(zhì)，在合格性評估的條款中存在詳細規(guī)定。

1．夯實提供者、部署者的基礎(chǔ)義務(wù)

高風險人工智能系統(tǒng)的提供者具備部分基礎(chǔ)義務(wù)，提供者首先應當確保人工智能系統(tǒng)在投放市場、進人審查范圍時遵守《人工智能法》中有關(guān)禁正的人工智能實踐的有關(guān)規(guī)定，為高風險人工智能系統(tǒng)配備明顯的辨識符號，如歐盟CE標識，登記商標、聯(lián)系地址等表明信息的符號。同時提供者應當主動為系統(tǒng)設(shè)置質(zhì)量管理體系，妥善留存技術(shù)文件等具備明確信息的檔案，持續(xù)生成并保存高風險人工智能系統(tǒng)自動生成的運作日志，便于與人工智能系統(tǒng)運行的預期自標進行不間斷的修正，進而確保人類監(jiān)督原則得以有效踐行。此外，提供者需要起草歐盟合格性聲明，履行歐盟制度基礎(chǔ)中的登記義務(wù)，在人工智能風險外溢時采取必要的糾正措施，同時應主管機關(guān)的合理要求對高風險人工智能系統(tǒng)擔負證明責任。提供者應當向成員國的市場監(jiān)督管理機關(guān)報告高風險人工智能系統(tǒng)引發(fā)的任何嚴重事故，并向部署者等有關(guān)主體共享嚴重事件的信息，共同開展風險評估和糾正調(diào)查。

與高風險人工智能系統(tǒng)的提供者相比，部署者能夠決定人工智能系統(tǒng)以何種方式在多大范圍內(nèi)發(fā)揮作用，部署者的決策行為擴大了人工智能系統(tǒng)的實際影響力。部署者和提供者之間通常體現(xiàn)為一對多的關(guān)系，同一個部署者可能需要處理多個提供者的人工智能系統(tǒng)，故部署者的義務(wù)通常指向包括提供者在內(nèi)的不特定社會群體。《人工智能法》對部署者做出了技術(shù)要求，部署者應當具備一定程度的技術(shù)素養(yǎng)，能夠采取技術(shù)和組織措施掌握不同風險等級的人工智能系統(tǒng)使用方式，在此基礎(chǔ)上指派具備必要能力與權(quán)力的自然人對于多數(shù)人工智能系統(tǒng)進行人工監(jiān)督。部署者在參與人工智能系統(tǒng)的使用、修改、監(jiān)管等活動時，若對于輸入數(shù)據(jù)做出了較大調(diào)整，則需要確保輸入系統(tǒng)的數(shù)據(jù)的目的與人工智能系統(tǒng)的預期目的相符，并且需要具備必要性。

部署者有監(jiān)測高風險人工智能系統(tǒng)運行狀況的義務(wù)，在必要情況下需要向提供者發(fā)出通知。作為監(jiān)測高風險人工智能系統(tǒng)運行狀況的關(guān)鍵主體，部署者對于人工智能系統(tǒng)的風險應具備敏感性，在風險外溢造成嚴重后果時，為及時控制風險，《人工智能法》賦予部署者緊急情況下暫停系統(tǒng)使用的權(quán)能。部署者需要在高風險人工智能系統(tǒng)未經(jīng)登記或未通過合格性評估時，停止參與使用相關(guān)系統(tǒng)，并且通知提供者和主管機關(guān)。部署者對于涉及生物信息和遠程生物識別的人工智能系統(tǒng)的義務(wù)履行高度基于《通用數(shù)據(jù)保護條例》中有關(guān)數(shù)據(jù)保護的條例。例如，針對因調(diào)查刑事犯罪目的而使用高風險人工智能系統(tǒng)進行生物識別的情況下，部署者不得無故拖延，應當在48小時內(nèi)請求司法機關(guān)或者具有司法審查權(quán)力的行政機關(guān)授權(quán)使用系統(tǒng)，并且應當嚴格限縮該類人工智能系統(tǒng)的使用，不得普遍運用于執(zhí)法或其它目的。為此，部署者還應向市場監(jiān)督管理機關(guān)和國家數(shù)據(jù)保護機關(guān)提交有關(guān)系統(tǒng)使用的年度報告，對于義務(wù)履行情況做出全面的備案。結(jié)合現(xiàn)如今的人工智能系統(tǒng)發(fā)展情況可見，《人工智能法》賦予部署者更多的風險監(jiān)測義務(wù)和緊急情況下的風險規(guī)制權(quán)利，以釋放監(jiān)管部門的壓力。將法律風險規(guī)制進行扁平化處理，從而建立影響范圍更廣的監(jiān)督鏈和更快速的風險反饋途徑。

2．補充進口者、分銷者的衍生義務(wù)

人工智能系統(tǒng)的進口者和分銷者義務(wù)是提供者義務(wù)的延伸，對進口者和分銷者的義務(wù)進行明確規(guī)定并且敦促落實，能夠為高風險人工智能系統(tǒng)的推廣使用增加保障。進口者控制了人工智能系統(tǒng)的市場準人，具備核驗人工智能系統(tǒng)性質(zhì)的諸多義務(wù)。進口者對于提供者執(zhí)行合格性評估、編制技術(shù)文件、人工智能系統(tǒng)的有關(guān)合格標識和任命授權(quán)代表的情況有權(quán)做出調(diào)查和質(zhì)疑。如果經(jīng)過調(diào)查，有切實理由證明特定人工智能系統(tǒng)及其相關(guān)文件存在偽造風險，進口者不得將該系統(tǒng)投放市場，并將可能存在的風險如實公布于提供者、授權(quán)代表和市場監(jiān)督管理機關(guān)。人工智能系統(tǒng)若經(jīng)進口者進行處理，則進口者應當將其名稱、登記編號、商標地址等信息注明在人工智能系統(tǒng)上，并確保系統(tǒng)在進口者處理過程中必須履行風險監(jiān)控義務(wù)。在登記認證義務(wù)方面，進口者在人工智能系統(tǒng)投放市場、提供服務(wù)后的10年內(nèi)，需要保存一份由通知機關(guān)簽發(fā)的認證副本和合格性聲明，為進口者使用高風險人工智能系統(tǒng)提供便利條件。在通過認證副本形式向有關(guān)機關(guān)進行備案后，進口者與提供者在與有關(guān)部門共同進行合理風險規(guī)制活動中的法律義務(wù)是一致的。

分銷者是進口者完成高風險人工智能系統(tǒng)的市場準入后，參與人工智能系統(tǒng)處理的相關(guān)主體。分銷者與人工智能系統(tǒng)的市場投放有顯著聯(lián)系，分銷者的義務(wù)與進口者的義務(wù)存在較大相同之處，例如：核實高風險人工智能系統(tǒng)合格性標識、人工智能系統(tǒng)的常規(guī)風險監(jiān)控、與主管機關(guān)共同參與風險規(guī)制時的合作義務(wù)、人工智能系統(tǒng)風險外溢時的緊急處分義務(wù)等。在該基礎(chǔ)上，分銷者可以在無法實施有效糾正的情況下撤回或召回特定的高風險人工智能系統(tǒng)，避免其進入市場并流通。

（二）高風險人工智能系統(tǒng)的基本權(quán)利影響評估

為了維護人工智能價值鏈的運行，推動價值鏈上各個主體的責任落實，并且完善緊急情況下對于人工智能系統(tǒng)進行處分行為的機制?！度斯ぶ悄芊ā窞槿斯ぶ悄芟到y(tǒng)使用風險設(shè)定了基本權(quán)利影響評估這一靈活的衡量標準。這一標準通常由部署者進行評估，但特殊情況下，公法管轄機構(gòu)、提供以及幫助提供公共服務(wù)的人工智能提供者、進口者、分銷者等主體也能夠通過這一標準對于人工智能系統(tǒng)可能產(chǎn)生的風險進行有效控制。

通常情況下，在高風險人工智能系統(tǒng)提供服務(wù)前需要進行評估，說明按照預期目的使用高風險人工智能系統(tǒng)的過程、使用期限和頻率、可能受影響的自然人和群體類型、可能產(chǎn)生的損害風險、人類監(jiān)督措施及其執(zhí)行情況，應急管理機制和投訴機制的安排等。此類評估具備可持續(xù)性和借鑒性質(zhì)，后續(xù)的人工智能系統(tǒng)控制者和處理者可以基于以往的基本權(quán)利影響評估做出更新。針對人工智能系統(tǒng)大量收集與使用數(shù)據(jù)的客觀情況，基本權(quán)利影響評估通?？梢耘c數(shù)據(jù)保護影響評估同時進行，此舉符合歐盟一體化數(shù)據(jù)保護和人工智能兼容的立法邏輯?；緳?quán)利評估是一種極基礎(chǔ)性質(zhì)的評估模式，其發(fā)起程序與執(zhí)行主體呈現(xiàn)出較大的靈活性，這種評估模式更貼近于一種人工智能框架下的區(qū)塊鏈模式，是建立在多元主體較高級別的人工智能素養(yǎng)基礎(chǔ)上的一種更廣泛的風險監(jiān)督模式，也是一種基于實踐經(jīng)驗的事前風險控制途徑。

五、人工智能系統(tǒng)法律風險規(guī)制的創(chuàng)新點

在基礎(chǔ)制度上，《人工智能法》對于高風險人工智能系統(tǒng)的規(guī)制做出了創(chuàng)新嘗試。有學者認為，歐盟帶有法典編纂功能或“一攬子解決”功能的立法模式對于其它國家不具有普適性，不建議借鑒；也有學者提出需要借鑒歐盟通過例證手段和專家建議稿的方式調(diào)整我國人工智能立法模式。[17]筆者認為，不可盲目借鑒歐盟《人工智能法》的立法方式，但是在人工智能立法尚不完善之際，對于歐盟人工智能治理的前沿立法內(nèi)容①進行適度的借鑒是必要的，尤其是對于重大風險的先進技術(shù)發(fā)展的規(guī)制內(nèi)容，更必須未雨綢繆。例如，為適應當下具有機器學習能力的人工智能大模型的發(fā)展狀況，將具有系統(tǒng)風險的通用人工智能模型的現(xiàn)實風險納人《人工智能法》規(guī)制范圍等。

（一）針對通用人工智能模型法律風險做出特殊規(guī)定

通用人工智能是自主智能的發(fā)展形態(tài)，其概念通常表現(xiàn)為人工智能大模型或者算法的形態(tài)，其現(xiàn)實代表就是以大語言模型為代表的通用人工智能模型。通用人工智能模型通常是對整個社會群體開放，更容易牽涉數(shù)據(jù)抓取與訓練階段的一攬子法律風險②，因此相較于定向領(lǐng)域的人工智能系統(tǒng)的監(jiān)管，歐盟對于通用模型的監(jiān)管更為嚴格。由于通用模型這類人工智能系統(tǒng)當下存在突出的風險治理問題，制定針對性的風險規(guī)制措施勢在必行。在理論層面，對于通用人工智能模型之一的生成式大語言模型，我國研究人員已經(jīng)剖析出包含算法風險、數(shù)據(jù)與網(wǎng)絡(luò)安全風險在內(nèi)的風險類型，并指出生成性劣質(zhì)信息治理、初始性信源污染、通用性倫理風險等治理問題[18]。針對通用人工智能模型是否存在系統(tǒng)風險，《人工智能法》劃定了一套獨立的評估標準與相關(guān)主體義務(wù)體系。首先需要評估通用人工智能模型的影響能力，評估因素主要有：特定模型的參數(shù)數(shù)量大小、模型數(shù)據(jù)集大小、訓練人工智能模型所使用的計算量、模型輸入輸出模式與具體類型、模型自主運行程度、市場覆蓋范圍、已經(jīng)參與模型使用的注冊量等。這項評估重在判斷特定模型的影響力范圍是否超過可控水平；以及在一定范圍內(nèi)，模型是否受到適當?shù)娜祟惐O(jiān)督、其自主運行程度是否對人類活動和基本權(quán)益產(chǎn)生負面影響。對此，如果通用人工智能模型存在風險外溢的隱患，提供者應當上報歐盟委員會，并且委員會對于特定模型是否存在系統(tǒng)性風險具有裁量權(quán)。對于特殊情況下，模型的系統(tǒng)風險是否存在，模型的提供者可以在具備充分證據(jù)的條件下發(fā)起異議，委員會在保留駁回異議的權(quán)力基礎(chǔ)上需要重新裁量。最后，歐盟委員會應當持續(xù)性更新具有系統(tǒng)性人工智能風險的清單，但不能影響知識產(chǎn)權(quán)和商業(yè)秘密保護的監(jiān)管。

（二）建立以“監(jiān)管沙盒”為介質(zhì)的測試監(jiān)督模式

監(jiān)管沙盒模式也被學界普遍認定為一種適應性監(jiān)管模式，初步應用于計算機與金融領(lǐng)域[9]。《人工智能法》下的人工智能監(jiān)管沙盒模式經(jīng)歷過兩次修改，在此過程中監(jiān)管沙盒的監(jiān)管力度逐步縮小，沙盒營造出的測試環(huán)境越來越接近現(xiàn)實情況。換言之，“監(jiān)管沙盒”制度的本意是跟現(xiàn)實無縫銜接，以期望在具體的實踐中去發(fā)揮人工智能的市場潛力，降低不確定風險[20]。《人工智能法》規(guī)定歐盟每個成員國建立至少一個人工智能監(jiān)管沙盒，并在條例生效兩年后投人運作。各個沙盒可以由成員國聯(lián)合建立并且支持運行。人工智能監(jiān)管沙盒的運作可以輻射至地方級別，從而建立垂直的監(jiān)管體系。

建立監(jiān)管沙盒模式的目的在于支持創(chuàng)新的人工智能系統(tǒng)以更安全穩(wěn)妥的方式投入市場或者提供服務(wù)。提供者將與主管機關(guān)共同擬定具體的沙盒計劃，將創(chuàng)新用途的人工智能系統(tǒng)的開發(fā)培訓、規(guī)范性測試等過程置于主管機關(guān)的監(jiān)督之中。有學者[21認為，具體的監(jiān)管沙盒機制由創(chuàng)新者和主管部門共同負責創(chuàng)立，有助于打破信息壁壘，幫助創(chuàng)新者快速將前沿的技術(shù)操作分享給掌握風險管理主動權(quán)的監(jiān)管機關(guān)，反向補償監(jiān)管機關(guān)的監(jiān)管效能；但同時也悲觀地預測監(jiān)管沙盒可能因監(jiān)管套利或逐利競爭等原因而成為形式化工具。不過《人工智能法》中對于監(jiān)管沙盒制度做出了針對性調(diào)整與更新，其實施效果或許會更趨于實質(zhì)化。

首先，《人工智能法》規(guī)定有關(guān)部門應當提供有效支持和持續(xù)監(jiān)督，從而在沙盒計劃中確定人工智能的風險。在沙盒中，人工智能系統(tǒng)如果通過了一系列測試，應提供者或潛在提供者的要求，主管機關(guān)應當提供人工智能系統(tǒng)在沙盒監(jiān)管下成功提供服務(wù)的書面證明與退出報告，以擔保該人工智能系統(tǒng)風險規(guī)制的合格性。經(jīng)人工智能監(jiān)管沙盒測試的創(chuàng)新用途人工智能系統(tǒng)，市場監(jiān)督管理機關(guān)和通知機關(guān)應當在合理范圍內(nèi)加速對其合格性評估的程序。監(jiān)管沙盒并非合格性評估的必要環(huán)節(jié)，但可以促進人工智能系統(tǒng)在風險規(guī)制中的快速發(fā)展。

其次，人工智能監(jiān)管沙盒的使用旨在通過分析沙盒中的人工智能系統(tǒng)運作實踐，促進風險規(guī)制法律的更新，同時強化人工智能法律的確定性?！度斯ぶ悄芊ā分С謪⑴c監(jiān)管沙盒的機構(gòu)與人工智能的相關(guān)主體以及主管機關(guān)分享實踐成果，并且鼓勵促進循證的監(jiān)管模式。監(jiān)管沙盒的推行對于參與人工智能系統(tǒng)設(shè)計、部署、市場投放等企業(yè)，尤其是小微企業(yè)的發(fā)展具有推動作用。值得注意的是，監(jiān)管沙盒并非國家機關(guān)，其監(jiān)管效力更類似于行業(yè)協(xié)會的監(jiān)管效力。因此，監(jiān)管沙盒不能影響主管機構(gòu)的監(jiān)督和糾正權(quán)力。若監(jiān)管沙盒被主管機關(guān)證實存在無法消解基本權(quán)利的重大風險，主管機關(guān)有權(quán)暫時中正沙盒的模擬測試過程。若沙盒中的測試導致第三方損害，設(shè)計者、提供者有義務(wù)承擔損害補救義務(wù)。同時，若提供者嚴格按照沙盒計劃的具體條款進行測試且遵循了主管機關(guān)的技術(shù)指導，各主管機關(guān)同樣嚴格履行了監(jiān)管義務(wù)和監(jiān)督職責，則無需根據(jù)罰則向這些主體發(fā)起行政處罰。沙盒機制中的處罰豁免條款給予人工智能活動參與者和監(jiān)管者更大的空間推進人工智能風險規(guī)制的創(chuàng)新實踐。

簡言之，人工智能監(jiān)管沙盒創(chuàng)造出可供主管機關(guān)、提供者、從業(yè)人員之間充分協(xié)調(diào)合作的空間，旨在為人工智能的風險規(guī)制提供實踐經(jīng)驗和制度性建議。因此，對于沙盒的運作體系，歐盟委員會需要通過實施法案對人工智能監(jiān)管沙盒的建立開發(fā)、實施運行和監(jiān)督方式進行規(guī)定。踐行法案建立起關(guān)于沙盒運作的共同原則，包括參與沙盒的資格篩選、參與和退出監(jiān)管沙盒的具體程序（沙盒計劃和退出報告）、公平透明的沙盒測試標準等具體標準。此外，執(zhí)行法案也支持小微企業(yè)和初創(chuàng)企業(yè)免費加入沙盒、鼓勵人工智能生態(tài)系統(tǒng)中相關(guān)參與者的廣泛加入，以期促進公共部門與私營部門的協(xié)調(diào)合作。

同時，《人工智能法》明確了以沙盒運作為中心的基礎(chǔ)設(shè)施的開發(fā)，為更健全的法律風險規(guī)制條款的出臺提供現(xiàn)實基礎(chǔ)。

（三）支持公共利益目的下個人數(shù)據(jù)的人工智能處理

《人工智能法》對于個人數(shù)據(jù)和生物識別信息的保護較為嚴格，重視人工智能系統(tǒng)產(chǎn)生的，個人數(shù)據(jù)以及任何能夠鎖定具體個人的生物識別信息的風險控制。但是，《人工智能法》并未完全封閉人工智能系統(tǒng)對個人數(shù)據(jù)的收集與處理。主管機關(guān)有權(quán)因公共安全、公共衛(wèi)生、環(huán)境氣候問題、能源可持續(xù)供給、關(guān)鍵基礎(chǔ)設(shè)施安全、運輸系統(tǒng)流動性、公共服務(wù)效率與質(zhì)量等公共利益開發(fā)特定的人工智能系統(tǒng)，處理無法通過匿名化合成數(shù)據(jù)進行替代的個人數(shù)據(jù)。通常情況下，該類人工智能系統(tǒng)需要通過監(jiān)管沙盒進行訓練與測試，并且需要具備有效的監(jiān)測機制和緊急停止的響應機制。個人數(shù)據(jù)的人工智能處理必須處于隔離和受保護的數(shù)據(jù)處理環(huán)境中，只有獲得授權(quán)的人才能訪問數(shù)據(jù)。且此類人工智能系統(tǒng)的提供者必須根據(jù)歐盟數(shù)據(jù)保護法律共享收集的數(shù)據(jù)。沙盒中的個人數(shù)據(jù)處理日志必須在參與沙盒期間保留，并需確保任何此類處理都不會導致數(shù)據(jù)主體的決策出現(xiàn)偏差。

（四）為真實環(huán)境中的人工智能開發(fā)測試保留空間

人工智能監(jiān)管沙盒作為測試框架無法滿足真正的使用需求，人工智能系統(tǒng)歸根到底需要在現(xiàn)實世界中運行?！度斯ぶ悄芊ā穼τ谡鎸嵀h(huán)境中人工智能系統(tǒng)的測試做出了規(guī)定。首先，真實環(huán)境中的人工智能開發(fā)測試應當具備測試計劃，由委員會根據(jù)《人工智能法》第九十八條提及的審查程序通過的實施法案中進行具體規(guī)定，同時測試計劃應當滿足歐盟或者成員國的倫理審查要求。服務(wù)提供者必須滿足所有條件？的情況下，才能在真實環(huán)境中進行測試。

真實環(huán)境中的人工智能開發(fā)測試需要通過測試對象知情同意并授權(quán)，在測試開始后的全過程中，提供者、部署者需要進行持續(xù)有效的監(jiān)督，這種監(jiān)督應當能夠在理由充分時推翻和忽略人工智能系統(tǒng)的判斷、建議或決策結(jié)果。與監(jiān)管沙盒內(nèi)運行的人工智能系統(tǒng)相似，成員國主管部門應當根據(jù)系統(tǒng)信息進行沒有事先通知的遠程或者現(xiàn)場檢查，以確保真實環(huán)境下人工智能系統(tǒng)的測試安全。在這種情況下，主管機關(guān)有權(quán)收集暫停或終止測試的人工智能系統(tǒng)運行結(jié)果并做最終報告。若存在任何真實環(huán)境中的人工智能測試造成損害，則根據(jù)客觀損害事實，通過歐盟或其成員國的責任法做出補救與損害賠償。

《人工智能法》充分考慮到真實環(huán)境條件中的測試對象所面臨的風險。因此，測試對象的知情同意權(quán)是風險規(guī)制的重要因素。測試對象應當在測試前明確在真實環(huán)境條件下進行測試的性質(zhì)與目的以及帶來的潛在風險，與人工智能系統(tǒng)控制者協(xié)調(diào)真實環(huán)境下參與測試的條件。同時，《人工智能法》強調(diào)測試對象參與測試的權(quán)利保障，特別是無理由地拒絕和隨時退出真實環(huán)境測試的權(quán)利。測試對象可以要求推翻或者忽略人工智能系統(tǒng)的決策，從而控制人工智能系統(tǒng)的測試進度。以上內(nèi)容應當納入知情同意書并且做記錄備案，以便測試對象在人工智能系統(tǒng)風險外溢造成損害時維護其合法權(quán)益。

六、對我國人工智能法的發(fā)展建議

在剖析歐盟《人工智能法》的規(guī)制邏輯與創(chuàng)新機制后，如何將其經(jīng)驗本土化調(diào)適并轉(zhuǎn)化為中國人工智能立法的實踐指引，成為推動我國法治建設(shè)的重要命題。歐盟以風險分級、權(quán)利保護與技術(shù)創(chuàng)新協(xié)同為核心的立法圖景，為我國提供了兼具啟示性與反思性的參照系?；诖耍覈枇⒆慵夹g(shù)自主性、產(chǎn)業(yè)生態(tài)與治理傳統(tǒng)，在平衡安全與發(fā)展、效率與公平的基礎(chǔ)上，構(gòu)建權(quán)責適配、動態(tài)兼容的人工智能法律框架。下文將從“寬嚴相濟”“守正創(chuàng)新”“機制立體”三重維度展開論述，探索我國人工智能法從原則確立到制度落地的可行路徑，以期為提升治理效能與全球規(guī)則話語權(quán)提供理論支撐。

（一）寬嚴相濟：制定兼顧產(chǎn)業(yè)發(fā)展與風險規(guī)制的人工智能法

人工智能技術(shù)更迭迅速，相關(guān)立法需要做到對于新興人工智能技術(shù)成果的促進，同時兼顧人工智能產(chǎn)品帶來的潛在風險，并進行有效規(guī)制。借鑒歐盟《人工智能法》的立法圖景，歐盟委員會在法案中要求嚴格把控風險規(guī)制的程度，不得影響人工智能產(chǎn)業(yè)創(chuàng)新與投資引人。我國也有學者[16.22]指出，人工智能立法需要服務(wù)科技法治理的目標，既要促進科技發(fā)展與應用，又要預防和應對科技帶來的風險，于是將人工智能立法分為產(chǎn)業(yè)促進法和風險治理法兩種類型。筆者認為，兼顧人工智能產(chǎn)業(yè)發(fā)展需要做到良好的市場保護，人工智能法需要為人工智能系統(tǒng)投放市場、投入使用提供準確的法律依據(jù)。其次，促進產(chǎn)業(yè)發(fā)展需要保護創(chuàng)新，人工智能立法需要與知識產(chǎn)權(quán)保護、反壟斷等立法范疇做到充分協(xié)調(diào)。

在產(chǎn)業(yè)發(fā)展方面，歐盟《人工智能法》序言中強調(diào)，人工智能法的具體規(guī)則應當能夠創(chuàng)建符合歐盟價值觀的人工智能產(chǎn)業(yè)生態(tài)，并且釋放歐盟內(nèi)部市場的數(shù)字化轉(zhuǎn)型潛力。特別是為初創(chuàng)企業(yè)在內(nèi)的小微企業(yè)進入人工智能市場提供資金支持等措施。法案的監(jiān)管要求可能造成小微企業(yè)的負擔過重，模糊的規(guī)定也可能導致實施方面的困難[23]。我國立法可以立足我國國情的基礎(chǔ)上推出更詳細的質(zhì)量管理體系制度，使得微型企業(yè)能夠以簡化的方式履行歐盟設(shè)置的法律義務(wù)。在風險規(guī)制方面，我國的人工智能立法可以借鑒歐盟立法的創(chuàng)新點，例如，設(shè)置監(jiān)管沙盒以及真實環(huán)境下的人工智能風險控制規(guī)則。通過監(jiān)管下的人工智能系統(tǒng)測試收集人工智能監(jiān)管經(jīng)驗，提升人工智能執(zhí)法的針對性和準確性。在監(jiān)管框架的設(shè)置上，我國人工智能立法可設(shè)置相關(guān)評估流程，重視標準化組織和人工智能行業(yè)協(xié)會發(fā)揮的準繩作用。

歐盟《人工智能法》以“風險分級”為核心，通過禁止性清單、高風險系統(tǒng)義務(wù)豁免等制度平衡安全與創(chuàng)新。在我國“基于場景”的人工智能治理機制下，可借鑒歐盟的“比例原則”，針對不同風險等級設(shè)計差異化治理框架，如下：

1.對高風險領(lǐng)域從嚴監(jiān)管。參照歐盟“附件三：高風險人工智能系統(tǒng)清單”，結(jié)合我國產(chǎn)業(yè)特征，劃定我國傳統(tǒng)關(guān)于醫(yī)療診斷、自動駕駛、公共安全等領(lǐng)域的“不可接受風險”與“高風險”系統(tǒng)，搭配禁止性條款與嚴格限制條款。例如當下“深度生成式”人工智能系統(tǒng)發(fā)展如火如荼，帶來的高風險治理問題也日漸嚴峻，對于該類高風險人工智能系統(tǒng)應當建立系統(tǒng)性的報告制度，并留存相應技術(shù)文件，適用動態(tài)風險管理的制度路徑進行監(jiān)管，側(cè)重風控。

2.對于中低風險領(lǐng)域包容審慎。針對有限風險的人工智能系統(tǒng)（如人工智能客服、智能推薦系統(tǒng)）僅設(shè)定透明度義務(wù)，著重AI交互特征的披露；但需要在以《算法推薦管理規(guī)定》為核心要素之一的規(guī)制框架下細化義務(wù)履行的規(guī)定，例如：處理個性化推薦系統(tǒng)的平臺等主體應告知用戶個性化推薦算法處理其個人信息可能對其造成的影響[24]。對于極低風險系統(tǒng)（如郵件過濾智能系統(tǒng)、系統(tǒng)屏保智能控制系統(tǒng)）納入《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等既存制度框架進行統(tǒng)籌管理，節(jié)約監(jiān)管成本的同時，提高人工智能重點領(lǐng)域的立法優(yōu)先級。

3.設(shè)置產(chǎn)業(yè)政策彈性促進機制。參考歐盟對小微企業(yè)的資金支持與政策措施，對初創(chuàng)企業(yè)提供相應補貼，允許部分智能系統(tǒng)領(lǐng)域的設(shè)計者、部署者等主體通過自聲明模式替代第三方認證，并且通過傳統(tǒng)經(jīng)濟法規(guī)則進行事后規(guī)制，以充分激發(fā)市場活力和創(chuàng)新動力。

（二）守正創(chuàng)新：完善以人為本、與時俱進的人工智能法

人工智能法的規(guī)制客體是人類監(jiān)督下自主運行的智能系統(tǒng)，人工智能風險難以規(guī)制的點在于智能系統(tǒng)具備理性思考和自主學習能力，并且能夠在此基礎(chǔ)上完成以往只有人類能夠自主做出的決策行為。歐盟以基本權(quán)利保護為立法主線，我國人工智能立法亦可以借鑒歐盟《人工智能法》對于基本權(quán)利保護的立法邏輯，并作出本土化調(diào)適，基于我國憲法和部門法的基本權(quán)利，制定適應我國權(quán)利保護模式的人工智能法條款。例如，針對投放于就業(yè)雇工的人工智能系統(tǒng)，需要避免針對特定年齡、性別、殘疾人等特殊群體的算法歧視，同時需要保護受雇者必要的隱私權(quán)利和在特定行業(yè)中的法律權(quán)利。對于投放于教育領(lǐng)域的人工智能系統(tǒng)，需要警惕過度使用人工智能進行成績評估、人才篩選等工作導致的受教育權(quán)失格問題等。人工智能法應當始終注重人類決策在人工智能風險規(guī)制中的作用，強化人類監(jiān)督的理念。同時，由于私權(quán)救濟是傳統(tǒng)社科法學中唯一能夠由個體主張而啟動的制度，人工智能立法應當注重私權(quán)救濟問題，尤其是涉及基本權(quán)利的救濟問題。我國學者提出建立以“基本原則一促進發(fā)展一權(quán)益保護—安全監(jiān)督義務(wù)一國際合作”為主要框架的人工智能法[25]，將權(quán)益保護置于安全義務(wù)之前，正是出于人本理念的影響。我國可借鑒歐盟范式，配套要求高風險系統(tǒng)上市前由跨部門委員會審查其對隱私、公平性等權(quán)利的潛在影響，評估報告摘要需向社會公開。

其次，人工智能法需要保持更新，以適應人工智能技術(shù)水平的發(fā)展。有學者指出，人工智能立法要通過智能科技、智能要素和智能應用三個層次展開[2]。歐盟《人工智能法》針對通用人工智能模型這類基于大數(shù)據(jù)進行機器學習和自動訓練的人工智能系統(tǒng)的技術(shù)特點，設(shè)置了基于模型影響能力的分級風險規(guī)制制度。這部歐盟法律中，通用人工智能模型的風險規(guī)制恰好結(jié)合了這三個層次的核心要素。從智能科技的層面，《人工智能法》將通用人工智能模型視作高影響力和具備自主學習能力的技術(shù)，厘清了大模型技術(shù)的潛在風險以及應對模式；從智能要素層面，《人工智能法》重視人工智能模型投放使用的數(shù)據(jù)治理與監(jiān)管，支持人工智能模型算法的有益迭代，降低企業(yè)技術(shù)準入門檻的同時加強獨立科學小組、人工智能行業(yè)協(xié)會等新興組織的多元監(jiān)督；從智能應用角度，《人工智能法》對于通用人工智能模型作為人工智能系統(tǒng)的集成元件具備準確認知并做出定義，將自動載具駕駛、醫(yī)療系統(tǒng)、生物識別、金融活動等立法范疇融人人工智能立法中。

人工智能風險的立法規(guī)制需要細化到應用場景的細節(jié)中，不斷更新風險評估與應對機制。在持續(xù)更新的同時，需要注重人工智能法與基本法律的協(xié)同發(fā)展，考慮到法律生效時期的技術(shù)發(fā)展水平和相關(guān)主體對于人工智能技術(shù)及制度的認知水平，發(fā)展授權(quán)性立法路徑的作用，在制度設(shè)計中為可能的法律調(diào)適留足空間。我國或可大幅借鑒歐盟《人工智能法》的監(jiān)管沙盒與真實測試協(xié)同機制：在雄安、浦東等自貿(mào)區(qū)設(shè)立“AI創(chuàng)新試驗區(qū)”，允許企業(yè)在隔離環(huán)境中測試生成式人工智能合成技術(shù)，同時將測試日志實時共享至監(jiān)管部門。在真實測試中，或可制定《真實環(huán)境人工智能測試管理條例》等制度文件，強制經(jīng)營具備特定風險智能系統(tǒng)的企業(yè)為測試對象購買責任保險，損害救濟適用《民法典》侵權(quán)責任編，但豁免通過沙盒測試的相關(guān)企業(yè)的行政處罰。

（三）機制立體：堅持權(quán)責清晰、技術(shù)主導型的人工智能法

借鑒歐盟《人工智能法》的人工智能價值鏈的作用，筆者認為，一套完整統(tǒng)一、邏輯自洽的人工智能價值體系是壓實人工智能治理各個環(huán)節(jié)責任、明確各主體權(quán)利義務(wù)關(guān)系的必要前提。中國人工智能法應當設(shè)置適應性的人工智能價值體系，與中國人工智能標準化工作同步推進。我國人工智能法及配套措施應當明確受人工智能影響的相關(guān)主體的權(quán)利義務(wù)規(guī)則，并支持人工智能素養(yǎng)的培養(yǎng)與更新，幫助人工智能系統(tǒng)處理者提升技術(shù)水準，同時適當給予教育培訓。人工智能立法應當力求權(quán)責清晰，明確人工智能系統(tǒng)參與者，包括公共服務(wù)機構(gòu)、政府主管部門、企業(yè)、研究機構(gòu)等法人與非法人組織的權(quán)責，在此基礎(chǔ)上不斷考量人工智能獨立法律人格設(shè)置的可行性。在人工智能系統(tǒng)的風險規(guī)制中，設(shè)置指導性的人工智能倫理規(guī)則并推介使用。在人工智能的立法中，可以借鑒歐盟的“總則式立法”[27]，在延申人工智能立法的法律維度的同時，發(fā)展人工智能法綜合性的挈領(lǐng)作用，用于指示配套規(guī)則和標準制定。例如，將《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等位階較低的規(guī)章制度進行整合處理。

立體的機制來源于清晰的價值理念。例如，歐盟通過“價值鏈責任體系”與“標準化流程”構(gòu)建立體治理網(wǎng)絡(luò)，我國可融合其經(jīng)驗與本土實踐，進行全鏈條責任體系設(shè)計：提供者承擔相應義務(wù)，需公開訓練數(shù)據(jù)來源、類型及偏差矯正措施，禁止使用未脫敏個人數(shù)據(jù)或倫理爭議數(shù)據(jù)集，如種族、宗教信仰信息；部署者或應履行“實時風險監(jiān)測”義務(wù)，對生物識別等系統(tǒng)設(shè)置“雙人復核”機制，發(fā)現(xiàn)異常時在一定時間內(nèi)暫停系統(tǒng)并報備；對于進口或分銷者，應建立“市場準入雙審查”機制，既核查國產(chǎn)認證標識，也審核技術(shù)文件與數(shù)據(jù)跨境規(guī)范性證明。

其次，人工智能立法應當在技術(shù)主導下開展與執(zhí)行。我國應搭配設(shè)置相關(guān)的技術(shù)認證和動態(tài)監(jiān)管框架。設(shè)立國家級AI技術(shù)認證中心，按風險等級實施“強制認證”（針對高風險系統(tǒng)）與“自愿認證”（針對中低風險系統(tǒng)）。通過“法律一標準”為核心邏輯搭建人工智能風險管控的總體框架也尤為重要，這種邏輯錨定人工智能產(chǎn)品的技術(shù)獨特性，通過標準和法律的分工配合完成對于人工智能產(chǎn)品的物理風險與倫理風險的雙向規(guī)制[28]。例如，自動駕駛系統(tǒng)需通過“多模態(tài)道路測試認證”方可上市，認證標準可參考聯(lián)合國UN-R157法規(guī)的標準設(shè)置①。同時，靜態(tài)制度需要搭配執(zhí)行性技術(shù)措施，例如構(gòu)建“AI系統(tǒng)全生命周期數(shù)據(jù)庫”，對于不同風險閾值的智能系統(tǒng)進行穿透式監(jiān)管，實時追蹤高風險系統(tǒng)的部署狀態(tài)，對異常數(shù)據(jù)流啟動自動預警。

同時，在風險監(jiān)測與排查中，人工智能行業(yè)內(nèi)可通過人工智能技術(shù)率先進行內(nèi)生風險自查，深化對于算法程序架構(gòu)和代碼的設(shè)計審查，按照倫理規(guī)范進行過濾、聚類、分類與賦值，實現(xiàn)倫理規(guī)則的代碼化，確保人工智能算法設(shè)計符合基本的倫理規(guī)范[29]。在有關(guān)部門對于人工智能及其產(chǎn)品進行執(zhí)法時，也需要基于技術(shù)主導特征實施動態(tài)監(jiān)管和執(zhí)法協(xié)作機制，利用先進技術(shù)對于人工智能技術(shù)以及相關(guān)數(shù)據(jù)進行適度監(jiān)控，及時發(fā)現(xiàn)并且阻止違規(guī)行為[30]。

“技術(shù)主導性”還需體現(xiàn)在制度的國際接軌中，在第三屆“一帶一路”國際合作高峰論壇上，國家網(wǎng)信辦發(fā)布《全球人工智能治理倡議》，其中著重強調(diào)了要在世界范圍內(nèi)搭建具有共識性的治理框架[31]?！凹夹g(shù)主導”不僅指依據(jù)人工智能科技的技術(shù)發(fā)展水平制定適應性的規(guī)制制度，也要遵循先進的、與國際接軌的治理理念與方針政策。從立法到實施，需要不間斷地從專業(yè)機構(gòu)獲取實時信息。以審視的角度看，《人工智能法》通過技術(shù)特征制定規(guī)則的根本目的是通過技術(shù)咨詢等方式提供建議，幫助利益相關(guān)者平衡商業(yè)利益與非商業(yè)利益。同時，歐盟委員會保證開發(fā)團隊的專業(yè)性和多樣性，鼓勵企業(yè)公民組織、學術(shù)研究組織、工會和消費者保護組織等共同參與人工智能產(chǎn)品設(shè)計開發(fā)和行業(yè)守則的設(shè)定。我國可以參考歐盟設(shè)立人工智能委員會、獨立科學小組、咨詢論壇，并加強與歐洲高性能計算聯(lián)合體、數(shù)字歐洲計劃下的人工智能實驗機構(gòu)的通力合作的實踐，不斷整合人工智能科技以及立法實施的專業(yè)意見，促進人工智能風險治理機構(gòu)協(xié)同增效。同時強化國際協(xié)同與標準互認，參與全球規(guī)則體系的塑造，在“一帶一路”合作中推廣中國人工智能認證體系，推動我國人工智能系統(tǒng)各端口行業(yè)標準與歐盟區(qū)域性標準化組織（如CENELEC）互認，主導制定跨境數(shù)據(jù)訓練、算法審計等國際規(guī)則，進一步提

升治理話語權(quán)。

七、結(jié)論

歐盟《人工智能法》對于人工智能系統(tǒng)發(fā)展與運作呈現(xiàn)出產(chǎn)業(yè)促進和風險規(guī)制的二元愿景，但仍以風險規(guī)制為立法的基本目的。在歐盟價值觀下，從增設(shè)風險管理系統(tǒng)與加強源數(shù)據(jù)治理舉措，直至形成人工智能價值鏈，明確人工智能相關(guān)方的權(quán)利義務(wù)關(guān)系，基于人工智能風險控制的立法必將在世界范圍內(nèi)迅速發(fā)展?，F(xiàn)今，人工智能法尚未形成龐大規(guī)模，尚不具備成熟實踐，仍然處于實驗性階段。人工智能法雖然在一定程度上脫離了傳統(tǒng)法學范疇，但仍然需要與傳統(tǒng)法學保持緊密協(xié)調(diào)與交互，同時激發(fā)行業(yè)協(xié)會、標準化組織等規(guī)制主體在人工智能風險治理中的創(chuàng)新型效應。在人工智能立法中，我國應當重視人工智能業(yè)態(tài)發(fā)展，建立主體多元、權(quán)責清晰的人工智能風險治理機制，正確看待數(shù)據(jù)治理與人工智能規(guī)制之間的關(guān)系，將算法、算力等技術(shù)因素與倫理、慣例等制度因素統(tǒng)籌考量。加強人工智能法律與其它部門法的協(xié)同聯(lián)動，不斷豐富人工智能風險規(guī)制與產(chǎn)業(yè)促進的中國實踐。

值得一提的是，歐盟在人工智能立法中堅持推進域外影響力的建設(shè)，始終著力于打造一套全球性人工智能法參考規(guī)范。在人工智能技術(shù)的更新周期縮短，技術(shù)成果迭代加速的現(xiàn)階段，我國在立法實踐的基礎(chǔ)上，應持續(xù)更新人工智能立法的模式與內(nèi)容，針對性擴大我國人工智能法律的國際影響力。人工智能的技術(shù)成果具備使用場景多元化、成果受眾規(guī)?；奶卣鳌Ｒ虼?，我國在弘揚科技自立，不斷攻堅技術(shù)高地的基礎(chǔ)上，也需注重發(fā)揮國際優(yōu)勢，建立人工智能成果在“一帶一路”中通暢的市場循環(huán)，將我國主研的人工智能成果和良好制度推行至國際社會，利用良好產(chǎn)業(yè)政策促進技術(shù)與人才回流，再將成熟的技術(shù)成果與制度模式在更大范圍內(nèi)進行試點調(diào)整并促進新一輪的穩(wěn)定循環(huán)。此外，應當注重我國從業(yè)人員乃至普通受眾等廣大主體的人工智能素養(yǎng)培育，明確人工智能風險規(guī)制與產(chǎn)業(yè)發(fā)展平衡性的重要觀念，從而賦能人工智能風險治理實效，切實鞏固人工智能技術(shù)的治理基礎(chǔ)。

［參考文獻］

［1］徐東波.人工智能驅(qū)動科學研究的邏輯、風險及其治

理[J].中國科技論壇，2024（5）：120-129.

[2] 陳群志，李月雯.教育人工智能的倫理問題及應對之策——基于海德格爾技術(shù)哲學的視角[J].浙江理工大學學報（社會科學版），2024，52（6）：686-692.

[3］張欣.論人工智能體的模塊化治理[J].東方法學，2024（3）：129-142.

[4］康蘭平.人工智能法律研究的權(quán)利泛化挑戰(zhàn)與場景化因應研究[J].大連理工大學學報（社會科學版），2021，42（1）：98-106.

[5]European commission.EU AI Act [EB/OL]. （2024-06-13）[2024-06-14]. https：//rtificialintelligenceact.eu/ai -act-explorer/.

[6] 丁曉東.人工智能風險的法律規(guī)制- 以歐盟《人工智能法》為例[J].法律科學（西北政法大學學報），2024，42（5）： 3-18.

[7］王磊.從“數(shù)據(jù)要素×”看中國數(shù)智化的法治路徑[J].長安大學學報（社會科學版），2024，26（2）：71-81.

［8］宋華健.論生成式人工智能的法律風險與治理路徑[J].北京理工大學學報（社會科學版），2024，26（3）：134-143.

[9]DAVID M. AI unleashed： Mastering the maze of the EU AI Act [J]. Regional Law Review，2024（5）： 155-168.

[10]SCHUETT J. Risk management in the Artificial Intelli-gence Act [J]. European Journal of Risk Regulation，2024，15（2）：367-385.

［11］汪慶華.人工智能的法律規(guī)制路徑：一個框架性討論[J].現(xiàn)代法學，2019，41（2）：54-63.

[12] GROZA T amp; ARCILA B B. The new law of theEuropean data markets： Demystifying the European datastrategy [J]. Global Jurist，2024，24（3）： 321-364.

[13]CHANG D. AI regulation for the AI revolution [J].Singapore Comparative Law Review，2023： 130-170.

[14］王婧.從歐盟《人工智能法》提案看中國如何應對人工智能帶來的社會風險和法律挑戰(zhàn)［J].網(wǎng)絡(luò)安全和信息化，2021（8）： 42-44.

[15］張辛鑫，冀瑜.論歐盟《人工智能法案》中的標準化模式及對中國啟示[J].標準科學，2024（5）：39-46.

[16] 袁鋒，王子昊.人工智能規(guī)制中的分級分類監(jiān)管問題研究——對歐盟《人工智能法案》“基于風險”監(jiān)管方式的思考[J].政法學刊，2024，41（6）：116-125.

[17］周漢華.論我國人工智能立法的定位[J].現(xiàn)代法學，2024，46（5）： 17-34，217.

[18] 支振鋒.生成式人工智能大模型的信息內(nèi)容治理[J].政法論壇，2023，41（4）：34-48.

[19] 劉芳彤.互聯(lián)網(wǎng)金融監(jiān)管“沙盒模式”制度構(gòu)建[J].西部金融，2023（1）：59-63.

[20] 易學文.論“監(jiān)管沙盒”制度的實踐哲學轉(zhuǎn)向- -以歐盟《人工智能法》為分析對象[J].南海法學，2023，7（4）： 11-19.

[21]ALLEN H J. Sandbox boundaries[J].VanderbiltJournal of Entertainment amp; Technology Law，2020，2（22）： 299-322.

［22］龍衛(wèi)球.人工智能立法的“技術(shù)—社會 + 經(jīng)濟”范式——基于引領(lǐng)法律與科技新型關(guān)系的視角[J].武漢大學學報（哲學社會科學版），2020，73（1）：65-76.

[23] 沃爾夫?qū)ざ嘁疗绽?《歐盟人工智能法案》的背景、主要內(nèi)容與評價——兼論該法案對勞動法的影響[J]環(huán)球法律評論，2024，46（3）：5-27.

[24] 謝永江，楊永興，劉濤.個性化推薦算法的法律風險規(guī)制[J].北京科技大學學報（社會科學版），2024，40（1）：77-85.

[25] 張凌寒.中國需要一部怎樣的《人工智能法》？——中國人工智能立法的基本邏輯與制度架構(gòu)［J].法律科學（西北政法大學學報），2024，42（3）：3-17.

[26］鄭志峰.人工智能立法的一般范疇[J].數(shù)字法治，2023（6）： 55-75.

[27] 董新義，梅貽哲．“人工智能法總則”建構(gòu)原則與理念——歐盟立法經(jīng)驗之鏡鑒[J].數(shù)字法治，2024（2）：195-210.

[28] 朱家豪.智能網(wǎng)聯(lián)汽車的法律規(guī)制結(jié)構(gòu)研究[J].北京科技大學學報（社會科學版），2023，39（5）：634-644.

[29] 黃靜秋.鄧伯軍.人工智能算法的倫理規(guī)制研究[J].北京科技大學學報（社會科學版），2025，41（2）：88-96.

[30] 李賢森.民事域外取證與數(shù)據(jù)出境監(jiān)管的沖突及應對[J].比較法研究，2025（1）：204-222.

[31] 中華人民共和國網(wǎng)信辦.全球人工智能治理倡議[EB/OL].（2023-10-18）[2024-06-14].https：//www.cac.gov.cn/2023-10/18/c_1699291032884978.htm.

On Legal Risk Regulation of Artificial Intelligence Systems - A Case Study of the EU Artificial Intelligence Act

LI Xiansen， LI Tingkai （School of Law， Beijing Institute of Technology， Beijing 10oo24， China）

Abstract：The European Union’s“Artificial Intellgence Act” （hereinafter referred toasthe“Artificial Inteligence Act” or “this Act\"） serves as the world's first technological law that conducts comprehensive supervision of the risksofartificial intelligence It offers novel ideas for global artificial intelligence legislation，emergingas a pioneering norm in the global legal supervision of artificial intelligence and presenting reference significance. The underlying regulatory logic of the “Artificial Inteligence Act” lies in the systematic regulation of technological risks，that is，with risk supervisionas thecoreapproach，after makinga comprehensive judgment byconsideringfactorssuch as theconcept of risk，risk levels，and assessment diffculty，extensive interventioniscarried out from aspects such as the development direction of artificial intellgence systems，prohibitive principles， the framework of rights and obligations，and damage remedy measures.For other countries，it is imperative to summarize and appropriately draw upon the legislative experience of the“Artificial Inteligence Act” and advance the progress ofrisk regulation of artificial intelligence systems. Chinese legislative workers can，on the basis of sorting out and summarizing the systematic legislative experience in the field of artificial inteligence governance of the European Union，conduct targeted innovation and comprehensive adaptation to China’s artificial intellgence legislation，and establish acomprehensiverisk evaluationstandard forartificial inteligence，consolidate rights and obligations in the artificial intelligence value chain， and promote the governance of artificial intelligence in China towards the direction of forward-looking risk， detailed responsibility，and clear regulation.

Key Words：EU Artificial Intellgence Act；high-risk artificial intellgence system；value chainresponsibility; risk regulation；innovation mechanism