歐盟《人工智能法案》對我國的啟示

張苑??陳秋萍

習近平總書記指出，“加快發(fā)展新一代人工智能是我們贏得全球科技競爭主動權的重要戰(zhàn)略抓手，是推動我國科技跨越發(fā)展、產業(yè)優(yōu)化升級、生產力整體躍升的重要戰(zhàn)略資源”。在共同促進全球人工智能健康、有序、安全發(fā)展的過程中，學習全球主要經濟體發(fā)展和監(jiān)管人工智能產業(yè)的有益經驗，有助于我國更好把握產業(yè)發(fā)展大勢，提升治理水平。歐洲議會、歐盟委員會和27個成員國代表在36個小時艱難談判之后，就歐盟《人工智能法案》（以下簡稱《法案》）達成里程碑式協(xié)議。其中，平衡發(fā)展與監(jiān)管是談判的焦點，形成的部分成果值得參考借鑒。

歐盟《人工智能法案》的歷史性進展

自2016年起，歐盟不斷探索推進對人工智能技術應用的監(jiān)管體系建構（表1），并于2021年開始逐步設計和推進《法案》的總體框架和具體細節(jié)。在2022年11月ChatGPT問世后，這一進程明顯提速：2023年6月通過了《法案》談判授權草案；12月9日，在經歷了36個小時“馬拉松式”談判后，歐洲議會、歐盟委員會和27個成員國的談判代表就歐盟《人工智能法案》達成歷史性政治協(xié)議。本次協(xié)議的細節(jié)內容尚未公布，從歐洲議會和歐盟委員會發(fā)布的新聞稿內容看，重大進展主要包括四個方面。

第一，鞏固了基于風險分類的人工智能監(jiān)管方法。此次協(xié)議首先明確了以經濟合作與發(fā)展組織（OECD）制定的全球公認標準來界定“人工智能系統(tǒng)”，即“基于機器的系統(tǒng)，為了或明確或隱含的目標，通過其接收到的輸入信息來生成諸如預測、內容、建議和決策等輸出內容”，定義較2021年版本有所收窄?！斗ò浮吩谘赜蔑L險分類思路的基礎上，將人工智能系統(tǒng)四個風險類別（不可接受風險、高風險、有限風險以及最小/無風險）中的不可接受風險和高風險兩個類別進行了更為詳盡的規(guī)定（表2）。在不可接受風險中，僅有一類應用可獲得豁免，即執(zhí)法機關利用相關技術打擊犯罪，比如通過生物信息識別技術尋找被拐賣的兒童、捉拿重罪犯人等，這一情況在法院授權的情況下可被允許。

第二，取得了生物識別技術和通用人工智能模型（GPAI）監(jiān)管的暫時性共識。對生物識別技術和通用人工智能模型（包括基礎模型）監(jiān)管的爭論是本次談判的焦點，歐盟試圖將新的人工智能技術以及尚未開發(fā)的未來技術納入立法范圍。在生物識別技術方面，本次協(xié)議并未全面禁止，而是提出除非事先獲得司法授權且針對特定犯罪，否則將禁止在公共場所使用遠程生物識別（RBI）系統(tǒng)，即自動面部識別（AFR）系統(tǒng)；出于特定的執(zhí)法目的，例如防止迫在眉睫的恐怖威脅或調查嚴重犯罪，該類技術的某些應用可能是允許的，但每種應用都受到嚴格的條件限制。在ChatGPT等通用人工智能模型方面，本次協(xié)議比起最初的提案新增了透明度要求和防護措施等內容。三方談判的核心分歧是基礎模型的監(jiān)管方式，德、法、意在內的至少5個成員國認為，不應對基礎模型施加任何監(jiān)管，但最終為了達成本次協(xié)議而妥協(xié)。雖然大語言模型等基礎模型本身并未被納入“高風險”之中，但法案要求開發(fā)者對其透明度義務負責，這意味著開發(fā)者必須公布他們訓練模型時使用的內容細節(jié)，確保遵守了歐盟的知識版權法律。此外，還引入了通用人工智能的防護措施，要求可能造成“系統(tǒng)性風險”的AI模型承擔與管理風險和監(jiān)控嚴重事件以及執(zhí)行模型評估和對抗性測試相關的額外約束性義務。

第三，推出了人工智能監(jiān)管沙盒等支持創(chuàng)新和中小企業(yè)的措施。由于2018年開始生效的歐盟《通用數據保護條例》對個人數據保護過于嚴苛，不利于創(chuàng)新發(fā)展。本次協(xié)議吸取經驗，突破性提出采取沙盒措施，在人工智能系統(tǒng)開發(fā)和上市前階段建立受控的實驗和測試環(huán)境以促進創(chuàng)新，并進一步規(guī)范沙盒準入標準、申請程序、選擇與退出沙盒以及參與沙盒各方的權利與義務等事宜，體現了技術監(jiān)管的同時兼顧人工智能技術的發(fā)展和對個人基本權利的保障，一定程度上將降低初創(chuàng)企業(yè)和中小企業(yè)的進入門檻。

第四，明確了執(zhí)法框架和部分處罰細節(jié)。本次協(xié)議提出：將在歐盟委員會內設置歐洲人工智能辦公室這一新機構，承擔各種行政、標準制定和執(zhí)行任務，包括通用AI模型的新規(guī)則等；由歐盟成員國代表組成的歐洲人工智能委員會將繼續(xù)作為協(xié)調平臺和咨詢機構服務于《法案》的實施；利益相關者咨詢論壇將成立，為人工智能委員會提供技術專業(yè)知識。預計《法案》將主要通過各成員國的國家主管市場監(jiān)督機構執(zhí)行，違反《法案》可能會導致750萬歐元到3500萬歐元不等的罰款，具體金額取決于違規(guī)行為，但對中小企業(yè)和初創(chuàng)企業(yè)的行政罰款放寬了比例上限。

歷史性協(xié)議達成的標桿意義

本次歐盟急于達成《人工智能法案》政治臨時協(xié)議的主要原因有兩方面：一方面，由于歐盟內部希望在2024年6月歐盟選舉前完成相關立法的重要程序，以防止立法完全失效或推遲到2025年；另一方面，法國作為2024年奧運會的主辦國，正在大力推動合法利用人工智能打擊犯罪和恐怖主義。本次協(xié)議允許在《法案》通過后分階段生效，包括禁止使用規(guī)則允許6個月，透明度和治理要求12個月，所有其他要求24個月?！斗ò浮酚蓺W盟官方發(fā)布后成為法律，所有條款將在未來兩年內逐步生效，即全部法律效力可能要到2026年才能完全實現。本次協(xié)議的達成，更多意味著歐盟對人工智能監(jiān)管和治理框架輪廓的逐步清晰。歐盟率先推出橫向綜合性人工智能監(jiān)管和治理規(guī)則體系，體現了其試圖引領塑造全球范圍內的人工智能監(jiān)管和治理共識、規(guī)則和標準的雄心，必將引發(fā)全球主要經濟體在人工智能監(jiān)管話語權和影響力的新一輪競爭。其標桿意義主要有三個方面。

第一，樹立全球人工智能的橫向立法標桿。近年來，歐盟放大數字經濟立法領域“布魯塞爾效應”（指歐盟通過其單方面的市場規(guī)制能力，在無需其他國家、協(xié)作的情況下，制定出全球市場遵循的規(guī)章制度。這種規(guī)則制定能力引領了全球商業(yè)環(huán)境的形成，導致全球商業(yè)許多重要方面的“歐洲化”）的趨勢進一步增強?！斗ò浮窔v史性協(xié)議達成，有助于歐盟進一步利用“布魯塞爾效應”，對全球人工智能技術和產業(yè)發(fā)展產生直接影響。此外，歐盟《法案》的立法推進速度已明顯早于美國國會，有助于歐盟通過聯合國、G20和G7等多邊合作平臺，積極推廣自身理念規(guī)則，增強該法案的國際影響力?！斗ò浮凡扇×藱M向立法模式，即適用于所有投放于歐盟市場或者在歐盟可使用的人工智能系統(tǒng)，可以覆蓋金融、醫(yī)療、教育、能源、運輸、司法等各個行業(yè)領域，這與美國更加偏好的區(qū)分行業(yè)領域的垂直立法模式有著顯著區(qū)別。作為全球第一個全面、橫向且具有約束力的人工智能法規(guī)，不僅會改變歐洲人工智能行業(yè)的“游戲規(guī)則”，而且可能會大大增強全球跨司法管轄區(qū)域監(jiān)管人工智能的勢頭。

第二，樹立分類監(jiān)管和保持彈性的監(jiān)管標桿。《法案》采用風險分類分級的監(jiān)管方法，在規(guī)定統(tǒng)一監(jiān)管框架的基礎上，識別和評估人工智能系統(tǒng)可能引發(fā)的風險，各類風險對應不同的應用場景和監(jiān)管措施，基本涵蓋了目前所有涉及的人工智能系統(tǒng)，有效避免了籠統(tǒng)規(guī)范化的合規(guī)義務帶來的治理失焦問題，并為多種風險的復雜場景提供了較為清晰的解決思路。同時，采取動態(tài)調整的監(jiān)管方式，允許監(jiān)管機構將新的應用領域不斷納入現有的風險類別，既能夠保持橫向統(tǒng)一性和協(xié)調性，又能加快監(jiān)管創(chuàng)新措施的落地實效。

第三，樹立平衡創(chuàng)新與監(jiān)管的路徑標桿。本次協(xié)議試圖同時達到將更廣泛的人工智能技術納入監(jiān)管，以及促進產業(yè)和技術創(chuàng)新兩方面目標。為了平衡監(jiān)管與創(chuàng)新，本次協(xié)議提出鼓勵中小企業(yè)技術創(chuàng)新的舉措、設置新的監(jiān)管機構，重視監(jiān)管沙盒的規(guī)劃和建設，并對部分情況進行豁免。比如，歐盟立法機構明確對人工智能的研發(fā)、對處理敏感特殊數據予以豁免等，體現立法過程中試圖給技術創(chuàng)新更多的開放空間，盡可能減少規(guī)制的負面效應。

對我國平衡人工智能發(fā)展與監(jiān)管的啟示

本次達成的《法案》政治協(xié)議繼承了歐盟利用規(guī)則兼顧人工智能可信可控和創(chuàng)新發(fā)展、著力維護歐盟技術主權的思路，相關規(guī)則與舉措值得借鑒與參考。

第一，把握我國人工智能發(fā)展與監(jiān)管的“平衡術”。建議找準我國人工智能科技創(chuàng)新與政策監(jiān)管的平衡點，促進相關產業(yè)的合規(guī)健康發(fā)展。一方面，持續(xù)壯大國家戰(zhàn)略科技力量，促進智能芯片、通用人工智能模型等關鍵核心技術攻關，積極推進大模型自主創(chuàng)新技術的成果轉化和產業(yè)化應用，加快打造人工智能原創(chuàng)理論和技術的重要策源地。另一方面，可參考《法案》中算法透明度、通用人工智能護欄、禁止使用的場景劃分等內容，根據我國人工智能產業(yè)發(fā)展特點，動態(tài)優(yōu)化監(jiān)管重點、豁免邊界以及監(jiān)管方式等。

第二，探索監(jiān)管沙盒等“創(chuàng)新招”。西班牙、法國等歐盟國家已經開始人工智能技術監(jiān)管沙盒試點，并與挪威、瑞士試點國家互通有無；新加坡推出人工智能驗證（AI verify）工具包；IBM則開發(fā)使用人工智能情況說明（AI Factsheets）查看模型和部署詳細信息，并實現商業(yè)化。這些均為國際前沿創(chuàng)新治理舉措，已產生一定國際影響力。建議重視人工智能技術監(jiān)管沙盒的整體謀劃，在參考借鑒國際前沿實踐的基礎上，加強監(jiān)管沙盒治理和治理措施的創(chuàng)新布局，妥善推動安全與創(chuàng)新發(fā)展。

第三，幫助企業(yè)筑起國際競爭的“護城河”。本次協(xié)議明確了域外適用原則，對非歐盟組織在歐盟市場上使用的人工智能產品或服務具有域外適用性，這不僅對歐盟成員國國內的產品應用和發(fā)展提出了明確的法律要求，也對非歐盟國家的企業(yè)在歐盟市場上的人工智能產品和服務產生影響。如《法案》生效通過，“長臂管轄”條款會促使其在全球層面上影響人工智能規(guī)則的制定。我國人工智能企業(yè)若要進入或維持在歐盟市場的業(yè)務，將面臨該法案的合規(guī)挑戰(zhàn)。特別是對于高風險AI系統(tǒng)，可能需要重大的技術和運營調整。建議主管部門及早梳理涉歐業(yè)務的人工智能企業(yè)清單，幫助企業(yè)及早應對。

本文作者張苑為上海市科學學研究所高級經濟師；陳秋萍為上海市科學學研究所助理研究員

《法案》

采取了橫向立法模式，即適用于所有投放于歐盟市場或者在歐盟可使用的人工智能系統(tǒng)，可以覆蓋金融、醫(yī)療、教育、能源、運輸、司法等各個行業(yè)領域，這與美國更加偏好的區(qū)分行業(yè)領域的垂直立法模式有著顯著區(qū)別。