歐盟推出全球首部AI法案，會(huì)形成效應(yīng)還是陷阱？

魯傳穎

2024年1月16日，世界經(jīng)濟(jì)論壇2024年年會(huì)在瑞士達(dá)沃斯舉行，“人工智能推動(dòng)經(jīng)濟(jì)社會(huì)發(fā)展”為關(guān)鍵議題，以“善治”促“善智”成為各方共同呼聲。

2月2日，歐盟27國(guó)代表投票一致支持《人工智能法案》（以下簡(jiǎn)稱(chēng)“法案”）文本。法案仍需提交歐洲議會(huì)批準(zhǔn)，如果成功獲批，相關(guān)規(guī)則將分階段實(shí)施。該法案是全球首個(gè)全面監(jiān)管人工智能（AI）的綜合性法規(guī)，旨在為人工智能的開(kāi)發(fā)、使用和推廣提供一個(gè)基于風(fēng)險(xiǎn)識(shí)別分析的法律框架，以保護(hù)信息安全、公民基本權(quán)利和公共利益。在加強(qiáng)監(jiān)管的同時(shí)，也尋求在促進(jìn)人工智能的創(chuàng)新和競(jìng)爭(zhēng)力方面做出平衡。

眾所周知，歐盟在新興技術(shù)領(lǐng)域的監(jiān)管一直處于全球領(lǐng)先地位。2001年制定的《布達(dá)佩斯網(wǎng)絡(luò)犯罪公約》和2016年制定的《通用數(shù)據(jù)保護(hù)條例》對(duì)全球網(wǎng)絡(luò)安全和數(shù)據(jù)安全治理產(chǎn)生了重要影響，也是各國(guó)學(xué)習(xí)和參考的主要對(duì)象。因此，這種由歐盟單方面制定的規(guī)則對(duì)國(guó)際規(guī)則和各國(guó)國(guó)內(nèi)政策產(chǎn)生重要影響的現(xiàn)象被稱(chēng)為“布魯塞爾效應(yīng)”。法案是人工智能治理領(lǐng)域的一個(gè)里程碑事件，受到了國(guó)際社會(huì)的廣泛關(guān)注。一方面，法案的監(jiān)管思路和創(chuàng)新舉措對(duì)各國(guó)都具有一定的參考價(jià)值；另一方面，法案因可能對(duì)技術(shù)進(jìn)步和產(chǎn)業(yè)發(fā)展產(chǎn)生制約，也受到了廣泛質(zhì)疑。因此，法案最終是“布魯塞爾效應(yīng)”還是“布魯塞爾陷阱”，還有待時(shí)間檢驗(yàn)。

富有創(chuàng)新性的嚴(yán)格監(jiān)管框架

法案延續(xù)了歐盟一貫的監(jiān)管思路，以保護(hù)人權(quán)和價(jià)值觀為基本原則，旨在尋求人工智能的安全與發(fā)展。歐盟一直堅(jiān)持公民在物理世界中所擁有的權(quán)力，在數(shù)字空間中必須得到同樣的保障。人工智能系統(tǒng)如果存在嚴(yán)重違反《歐盟基本權(quán)利憲章》中基本人權(quán)的風(fēng)險(xiǎn)，就應(yīng)該完全被禁止。對(duì)于其他涉及可能會(huì)對(duì)人權(quán)和社會(huì)帶來(lái)風(fēng)險(xiǎn)的重要領(lǐng)域，應(yīng)當(dāng)施加重點(diǎn)監(jiān)管，并且對(duì)所開(kāi)發(fā)的人工智能系統(tǒng)先行開(kāi)展評(píng)估，通過(guò)后才能上市。

法案有三個(gè)較為重要的創(chuàng)新之處。第一是開(kāi)啟了人工智能橫向監(jiān)管進(jìn)程。在這之前，人工智能的監(jiān)管一般都是縱向監(jiān)管。例如，美國(guó)在金融和無(wú)人駕駛領(lǐng)域已經(jīng)出臺(tái)了相關(guān)監(jiān)管措施?？v向監(jiān)管涉及的領(lǐng)域相對(duì)專(zhuān)業(yè)，群體較小，比較容易開(kāi)展監(jiān)管。橫向監(jiān)管是適用于所有部門(mén)和應(yīng)用的法律規(guī)則，覆蓋所有領(lǐng)域和人群，因此對(duì)法律的要求也更高，更難以達(dá)成共識(shí)。這也是法案在強(qiáng)調(diào)嚴(yán)格監(jiān)管的同時(shí)也注重監(jiān)管創(chuàng)新的原因，例如鼓勵(lì)各國(guó)開(kāi)展“沙盒測(cè)試”，給中小企業(yè)提供更多的便利和支持等。

第二是建立了基于風(fēng)險(xiǎn)等級(jí)的監(jiān)管體系。歐盟以人權(quán)和安全為基準(zhǔn)，將人工智能風(fēng)險(xiǎn)分為四個(gè)等級(jí)：禁止的行為、高風(fēng)險(xiǎn)系統(tǒng)、有限風(fēng)險(xiǎn)系統(tǒng)和最低風(fēng)險(xiǎn)系統(tǒng)。不同類(lèi)別的人工智能系統(tǒng)需要遵守不同的監(jiān)管要求。禁止的行為是指利用人工智能進(jìn)行操縱、社會(huì)評(píng)分或?yàn)E用生物特征識(shí)別等可能?chē)?yán)重侵犯人的尊嚴(yán)、自由或民主的行為。高風(fēng)險(xiǎn)系統(tǒng)是指那些涉及重要的社會(huì)或經(jīng)濟(jì)領(lǐng)域，如醫(yī)療、教育、交通、就業(yè)和司法等，可能對(duì)人的生命、健康、安全或基本權(quán)利造成重大影響的系統(tǒng)，法案要求這類(lèi)系統(tǒng)在上市前進(jìn)行強(qiáng)制性的合格評(píng)估，并遵守一系列的質(zhì)量、透明度、人工干預(yù)、監(jiān)督和糾正等原則和義務(wù)。有限風(fēng)險(xiǎn)系統(tǒng)是指那些可能對(duì)人的行為或選擇產(chǎn)生影響，或?qū)θ说碾[私或其他權(quán)利造成影響的系統(tǒng)，如深度偽造、情感識(shí)別等，法案要求這類(lèi)系統(tǒng)提供充分的信息披露和透明度，以便用戶(hù)能夠理解和控制這類(lèi)系統(tǒng)。最低風(fēng)險(xiǎn)系統(tǒng)是指對(duì)人的權(quán)利和利益沒(méi)有或只有極小影響的系統(tǒng)，如娛樂(lè)、游戲等，法案對(duì)這類(lèi)系統(tǒng)沒(méi)有特別的監(jiān)管要求，但鼓勵(lì)遵守一些自愿的行業(yè)標(biāo)準(zhǔn)和最佳實(shí)踐。

第三是為配合法案落地，建立了一整套的執(zhí)法體系和多層次的監(jiān)督和執(zhí)行機(jī)制，包括歐盟人工智能委員會(huì)、歐盟成員國(guó)的國(guó)家監(jiān)管機(jī)構(gòu)、歐盟委員會(huì)和歐洲數(shù)據(jù)保護(hù)委員會(huì)等。歐盟人工智能委員會(huì)是一個(gè)由歐盟成員國(guó)代表組成的專(zhuān)家委員會(huì)，負(fù)責(zé)協(xié)調(diào)和促進(jìn)歐盟成員國(guó)之間的合作，以及就人工智能的風(fēng)險(xiǎn)分類(lèi)、合格評(píng)估和標(biāo)準(zhǔn)制定等提供建議和指導(dǎo)。歐盟成員國(guó)的國(guó)家監(jiān)管機(jī)構(gòu)是負(fù)責(zé)監(jiān)督和執(zhí)行法案的主要機(jī)構(gòu)，要求每個(gè)成員國(guó)至少需要設(shè)立一個(gè)國(guó)家監(jiān)管機(jī)構(gòu)，負(fù)責(zé)檢查和審核人工智能系統(tǒng)的合規(guī)性，以及對(duì)違反法案的行為進(jìn)行調(diào)查和處罰。歐盟委員會(huì)和歐洲數(shù)據(jù)保護(hù)委員會(huì)則負(fù)責(zé)在歐盟層面進(jìn)行監(jiān)督和協(xié)調(diào)，以及處理跨境或跨部門(mén)的人工智能相關(guān)問(wèn)題和爭(zhēng)議。

尚面臨多重質(zhì)疑

法案的推出只是歐盟開(kāi)展人工智能監(jiān)管的第一步，后續(xù)的配套技術(shù)標(biāo)準(zhǔn)和成員國(guó)如何落實(shí)監(jiān)管要求尚未啟動(dòng)。因此，法案的最終效力如何還有待生效后才能更好地進(jìn)行評(píng)估。僅從文本角度來(lái)看，各方對(duì)法案的質(zhì)疑主要包括以下三個(gè)方面。

首先，法案沒(méi)能完全反映人工智能技術(shù)的復(fù)雜性。法案所追求的確定性與人工智能技術(shù)存在的不確定性之間存在一定的矛盾。對(duì)于一個(gè)快速發(fā)展的戰(zhàn)略性技術(shù)，盡管安全至關(guān)重要，但將過(guò)多的資源投入到安全中會(huì)影響技術(shù)的進(jìn)步。法案提出了一系列的技術(shù)性安全要求，包括風(fēng)險(xiǎn)管理體系、技術(shù)文檔、數(shù)據(jù)質(zhì)量、人工干預(yù)、透明度、準(zhǔn)確性、魯棒性和安全性等，試圖通過(guò)這些舉措來(lái)確保人工智能系統(tǒng)的可信賴(lài)性和安全性，保護(hù)人類(lèi)的基本權(quán)利和價(jià)值。事實(shí)上，在現(xiàn)有的技術(shù)條件下，即使都滿(mǎn)足上述要求的人工智能系統(tǒng)，也無(wú)法完全杜絕風(fēng)險(xiǎn)的出現(xiàn)。從本質(zhì)上而言，人工智能的風(fēng)險(xiǎn)具有量子思維中的不可預(yù)測(cè)、難以測(cè)量等特質(zhì)。

其次，法案的監(jiān)管思路和范疇跟不上快速迭代的人工智能技術(shù)。盡管法案是以風(fēng)險(xiǎn)等級(jí)劃分來(lái)實(shí)施監(jiān)管，但技術(shù)的進(jìn)步會(huì)不斷打破不同風(fēng)險(xiǎn)等級(jí)之間的界限。人工智能技術(shù)的快速進(jìn)步可能導(dǎo)致投入大量人力、物力的法案尚未生效就已經(jīng)落后。法案曾因ChatGPT3.0的誕生而延遲發(fā)布，并且增加了關(guān)于生成式人工智能的監(jiān)管內(nèi)容。但是，生成式人工智能僅是人工智能眾多發(fā)展路線(xiàn)中的一條而已。未來(lái)，在模型、算力和算法不斷取得突破的驅(qū)動(dòng)下，各類(lèi)人工智能技術(shù)將會(huì)齊頭并進(jìn)，法案可能處于落后于技術(shù)發(fā)展的尷尬境地。

2024年2月14日，第一屆人工智能節(jié)在意大利米蘭舉辦，這一國(guó)際節(jié)日積極致力于開(kāi)發(fā)人工智能世界。圖為當(dāng)日展出的機(jī)器狗。

最后，監(jiān)管和創(chuàng)新之間的平衡問(wèn)題。法案主要針對(duì)高風(fēng)險(xiǎn)的人工智能系統(tǒng)，這些要求給人工智能的開(kāi)發(fā)和創(chuàng)新帶來(lái)一定的負(fù)擔(dān)和障礙。對(duì)于大企業(yè)而言，面臨著消極和積極兩個(gè)方面的影響。消極面是大量合規(guī)要求會(huì)阻礙技術(shù)的進(jìn)一步發(fā)展和市場(chǎng)拓展，積極面則是合規(guī)門(mén)檻高企會(huì)阻止更多企業(yè)進(jìn)入人工智能領(lǐng)域，有助于形成壟斷，但這可能會(huì)對(duì)一些中小型人工智能企業(yè)或研究機(jī)構(gòu)造成不公，它們難以承擔(dān)相應(yīng)的合規(guī)成本和風(fēng)險(xiǎn)。強(qiáng)監(jiān)管一直被認(rèn)為是歐盟數(shù)字技術(shù)發(fā)展受限的主要原因之一。因此，法案的出臺(tái)將可能導(dǎo)致歐盟人工智能技術(shù)和產(chǎn)業(yè)發(fā)展的進(jìn)一步滯后。法國(guó)、德國(guó)和意大利等國(guó)一直對(duì)法案可能限制未來(lái)人工智能產(chǎn)業(yè)發(fā)展高度警惕。

應(yīng)更加理性地看待“布魯塞爾效應(yīng)”

法案的出臺(tái)是“布魯塞爾模式”的又一重要實(shí)踐。作為全球規(guī)范性力量的代表，歐盟正試圖通過(guò)其在監(jiān)管政策和標(biāo)準(zhǔn)規(guī)則方面的努力，來(lái)打造自身在數(shù)字時(shí)代和智能時(shí)代的國(guó)際競(jìng)爭(zhēng)力與話(huà)語(yǔ)權(quán)。然而，由于法案存在的不足和挑戰(zhàn)，其是否能夠引領(lǐng)全球人工智能治理尚存疑問(wèn)。

歐盟率先推出橫向監(jiān)管，對(duì)全球人工智能安全治理具有重要的探索和實(shí)踐意義。無(wú)論是從國(guó)際機(jī)制還是從國(guó)內(nèi)監(jiān)管的角度，各國(guó)都會(huì)高度關(guān)注法案以及后續(xù)配套設(shè)施建設(shè)情況。但是，由于法案本身的原創(chuàng)性?xún)?nèi)容并不如《布達(dá)佩斯網(wǎng)絡(luò)犯罪公約》和《通用數(shù)據(jù)保護(hù)條例》那么多，很多內(nèi)容更多地是借鑒其他領(lǐng)域的成功實(shí)踐或已有的共識(shí)。因此，歐盟要想在全球人工智能治理領(lǐng)域取得更大的影響力，就需要在后續(xù)執(zhí)法過(guò)程中檢驗(yàn)法案的有效性和可操作性。由于歐盟具備全球領(lǐng)先的立法和執(zhí)法能力，在這一點(diǎn)上仍值得期待。

然而，從監(jiān)管對(duì)象看，法案主要針對(duì)人工智能系統(tǒng)的開(kāi)發(fā)者，這與《通用數(shù)據(jù)保護(hù)條例》涉及的廣泛數(shù)據(jù)收集者、存儲(chǔ)者和處理者相比，門(mén)檻要高得多。因此，法案的監(jiān)管對(duì)象更像是歐盟《數(shù)字服務(wù)法》中所指出的“守門(mén)人”。按此推理，需要接受監(jiān)管的企業(yè)主要是Open AI、Anthropic、微軟、Meta和谷歌等少數(shù)歐盟和中國(guó)的大型語(yǔ)言模型開(kāi)發(fā)者和提供者。美國(guó)和中國(guó)都有發(fā)展技術(shù)和產(chǎn)業(yè)的需求，不會(huì)跟風(fēng)對(duì)人工智能實(shí)施強(qiáng)監(jiān)管。因此，人工智能技術(shù)會(huì)在歐盟之外以更快的速度發(fā)展。

此外，在監(jiān)管效果角度上，法案僅僅是一個(gè)開(kāi)始，其落地舉措還需要大量技術(shù)標(biāo)準(zhǔn)和最佳實(shí)踐的支持。目前，人工智能領(lǐng)域的技術(shù)標(biāo)準(zhǔn)仍在快速制定中，國(guó)際標(biāo)準(zhǔn)化組織（ISO）、國(guó)際電信聯(lián)盟（ITU）和電氣與電子工程師協(xié)會(huì)標(biāo)準(zhǔn)協(xié)會(huì)（IEEE SA）等國(guó)際標(biāo)準(zhǔn)組織都在加快人工智能安全標(biāo)準(zhǔn)制定。也就是說(shuō)，法案最終落地還要依靠國(guó)際標(biāo)準(zhǔn)組織的成果，這也影響了“布魯塞爾效應(yīng)”的發(fā)揮。

（作者為上海國(guó)際問(wèn)題研究院公共政策與創(chuàng)新研究所副所長(zhǎng)、研究員）