全球首部人工智能立法：創(chuàng)新和規(guī)范之間的艱難平衡

金 玲

作為世界范圍內(nèi)第一份綜合性人工智能法案，歐盟公布的人工智能法案旨在應(yīng)對人工智能使用風(fēng)險，更重要的是歐盟欲借其尋求在全球人工智能規(guī)范中的領(lǐng)導(dǎo)地位。法案采取風(fēng)險分級方法，在其中納入歐洲的道德標(biāo)準(zhǔn)。歐盟在全球人工智能領(lǐng)域內(nèi)發(fā)展和運(yùn)用都并非處于領(lǐng)先地位，但已日益意識到人工智能在其數(shù)字轉(zhuǎn)型和未來增長前景中的巨大潛力，是未來經(jīng)濟(jì)競爭的關(guān)鍵，也是影響未來國際力量格局的重要因素。人工智能法案秉持風(fēng)險分級的治理理念，突出歐盟人工智能治理的道德優(yōu)勢，其效力范圍不僅局限于歐盟范圍內(nèi)，而且有廣泛的域外效應(yīng)，是歐盟又一次欲發(fā)揮其規(guī)范性力量，通過規(guī)則優(yōu)勢彌補(bǔ)技術(shù)短板的嘗試。盡管有《通用數(shù)據(jù)保護(hù)條例》的成功范例，但人工智能法案能否復(fù)制其成功經(jīng)驗，能否如愿在推動創(chuàng)新和有效規(guī)范之間實現(xiàn)平衡，仍面臨諸多不確定性。

秉持風(fēng)險分級，凸顯道德優(yōu)勢的人工智能治理理念

風(fēng)險分級是人工智能立法的重要組成部分。歐盟委員會發(fā)布的人工智能法案采取了四類風(fēng)險分級方法，分別是不可接受的風(fēng)險、高風(fēng)險、有限風(fēng)險和最低風(fēng)險，對以上不同風(fēng)險級別的人工智能系統(tǒng)使用采取不同的限制措施。法案的重點是對具有高風(fēng)險的人工智能產(chǎn)品和服務(wù)實施上游治理防范，規(guī)定了嚴(yán)格的前置審查程序和履行合規(guī)義務(wù)。法案明確了不可接受的風(fēng)險，并明令予以禁止。被禁止的風(fēng)險分別包括利用人的潛意識扭曲個人行為給他人帶來身體和心理傷害；利用特定群體的脆弱性影響個人行為給他人帶來身體和心理傷害；任何形式的社會信用分級以及實時的遠(yuǎn)程生物識別技術(shù)。

對高風(fēng)險的規(guī)范是法案的關(guān)鍵部分。法案未明晰高風(fēng)險行為的涵義，僅對可能引發(fā)高風(fēng)險的領(lǐng)域進(jìn)行了歸類，包括關(guān)鍵基礎(chǔ)設(shè)施、公民教育、產(chǎn)品的安全組件、公民就業(yè)、公共服務(wù)、涉權(quán)型執(zhí)法、出入境問題、司法和民主進(jìn)程等。高風(fēng)險AI提供者需要實行綜合治理和風(fēng)險管控，在AI系統(tǒng)從設(shè)計到技術(shù)和發(fā)展的整個周期中都需要評估和降低風(fēng)險。法案建議對存在高風(fēng)險的人工智能產(chǎn)品和服務(wù)引進(jìn)CE（Conformité Européenne）認(rèn)證，為獲取認(rèn)證AI開發(fā)者和使用者需嚴(yán)格履行七種義務(wù)，包括完備的風(fēng)險評估系統(tǒng)；向系統(tǒng)提供高質(zhì)量的數(shù)據(jù)集，將風(fēng)險和歧視性結(jié)果降至最低；記錄活動以確保結(jié)果的可追溯性；提供有關(guān)系統(tǒng)及其目的的所有必要信息，以供當(dāng)局評估其合規(guī)性；向用戶提供清晰、充分的信息；采取適當(dāng)?shù)娜藶楸O(jiān)督措施，將風(fēng)險降至最低；高水平的安全性和準(zhǔn)確性。除了嚴(yán)格的前置管理程序外，法案還要求對涉及高風(fēng)險的人工智能系統(tǒng)進(jìn)行全過程監(jiān)督和合規(guī)評估。

對于有限風(fēng)險和最低風(fēng)險的人工智能系統(tǒng)，法案沒有設(shè)置前置審查程序。針對有限風(fēng)險，法案認(rèn)為該類別的產(chǎn)品和服務(wù)的運(yùn)用會引發(fā)透明度問題，因此需要特殊的披露義務(wù)。法案規(guī)定了三種人工智能技術(shù)需要特殊的透明度要求，包括深偽技術(shù)，與人互動的人工智能系統(tǒng)以及人工智能賦能的表情識別系統(tǒng)和生物分類系統(tǒng)。法案認(rèn)為所有未在立法建議里討論的人工智能系統(tǒng)都屬于最低風(fēng)險，歐盟范圍內(nèi)的絕大多數(shù)人工智能系統(tǒng)屬于此類別。雖無特殊的干預(yù)和審查，但法案第69條的規(guī)定也可能對屬于該范疇人工智能的發(fā)展產(chǎn)生影響。該條款強(qiáng)烈鼓勵制定行為法則對其進(jìn)行規(guī)范，歐盟委員會希望通過軟法機(jī)制促進(jìn)透明度等原則的自動運(yùn)用。

實施風(fēng)險分級的人工智能治理是歐盟人工智能法案立法建議的核心，其對具有高風(fēng)險人工智能產(chǎn)品和服務(wù)實施嚴(yán)格的前置審查程序，反映了歐盟欲搶占人工智能領(lǐng)域道德制高點的戰(zhàn)略意圖。通過凸顯其在人工智能領(lǐng)域的價值取向和道德優(yōu)勢，歐盟一方面尋求在全球數(shù)字轉(zhuǎn)型進(jìn)程中輸出數(shù)字治理的包含歐洲價值觀的歐洲模式，另一方面希望借此打造歐洲產(chǎn)品的道德優(yōu)勢、安全品質(zhì)以彌補(bǔ)其目前在人工智能發(fā)展過程中的技術(shù)短板，贏得未來的數(shù)字技術(shù)競爭。歐盟數(shù)字中小企業(yè)秘書長塞巴斯蒂安·托夫萊蒂就表示如果法案成功施行，該規(guī)范將類似于《通用數(shù)據(jù)保護(hù)條例》，成為國際標(biāo)準(zhǔn)。

規(guī)范和創(chuàng)新之間的艱難平衡

歐盟人工智能法案面臨的關(guān)鍵問題是如何在推動創(chuàng)新、收獲AI效益、應(yīng)對AI風(fēng)險和有效保護(hù)權(quán)利之間實現(xiàn)平衡。歐盟委員會在其立法初衷中提出四項具體目標(biāo)，其中第一項目標(biāo)強(qiáng)調(diào)“確保在歐盟市場使用的AI系統(tǒng)的安全性，能夠尊重根本人權(quán)和符合歐盟價值”，第二項目標(biāo)便是“通過保證法律框架的確定性，促進(jìn)人工智能投資和創(chuàng)新”。法案還表示為實現(xiàn)立法目標(biāo)，建議呈現(xiàn)出平衡的、適當(dāng)?shù)臋M向規(guī)范方法以最低限度、必要手段應(yīng)對人工智能的風(fēng)險和問題，并沒有過度限制或妨礙技術(shù)發(fā)展，也沒有不恰當(dāng)?shù)卦黾尤斯ぶ悄苓M(jìn)入市場運(yùn)用的成本。此外，法案還針對中小企業(yè)可能面臨的不利處境規(guī)定了一系列特別舉措以實現(xiàn)公平競爭。盡管如此，法案的出臺還是引發(fā)了各方關(guān)切，認(rèn)為復(fù)雜的審查要求和程序，會增加企業(yè)的行政成本，尤其不利于中小型數(shù)字初創(chuàng)企業(yè)，遏制創(chuàng)新和技術(shù)運(yùn)用，延緩歐盟的數(shù)字轉(zhuǎn)型進(jìn)程。法案反映了歐盟在促進(jìn)創(chuàng)新和權(quán)利保護(hù)之間難以有效平衡的內(nèi)在沖突。

歐盟人工智能法案的治理理念是面對強(qiáng)大的人工智能技術(shù)，需要在其發(fā)展過程中進(jìn)行前置規(guī)劃和連續(xù)監(jiān)督，與美國等實行的企業(yè)推動無許可創(chuàng)新的理念完全不同。上述理念充分體現(xiàn)在法案中對有高風(fēng)險可能的人工智能產(chǎn)品和服務(wù)提供者需要履行的義務(wù)中。但是，歐盟的上游治理方法一方面要求企業(yè)承擔(dān)更多的前置成本，另一方面也因為風(fēng)險評估不確定性影響企業(yè)投資熱情。已有的相關(guān)評估顯示，滿足前置成本的標(biāo)準(zhǔn)極高，很少有初創(chuàng)企業(yè)和中小企業(yè)能夠承擔(dān)這樣的成本，更何況還有額外的進(jìn)入市場后的事后監(jiān)督引發(fā)的合規(guī)成本。

研究表明，歐盟的人工智能法案的實施成本將吞噬歐洲人工智能投資的17%，嚴(yán)重制約歐盟的數(shù)字化進(jìn)程。目前該風(fēng)險并非僅是理論性存在。2020年6月歐盟進(jìn)展報告顯示《通用數(shù)據(jù)保護(hù)條例》實施的碎片化和各實施機(jī)構(gòu)的資源投入不足，不僅導(dǎo)致其生效的附加治理的效應(yīng)不足，還降低了進(jìn)入歐洲市場的風(fēng)投資本規(guī)模，谷歌在歐洲的市場份額不僅沒有下降，反而劇增。《通用數(shù)據(jù)保護(hù)條例》的實踐證明嚴(yán)格的標(biāo)準(zhǔn)可能產(chǎn)生意外的后果，過多的上游治理會扼殺下游創(chuàng)新，對歐洲的初創(chuàng)企業(yè)和小型人工智能開發(fā)企業(yè)帶來打擊，下一代歐洲數(shù)字企業(yè)的發(fā)展被限制。因此盡管委員會一再強(qiáng)調(diào)人工智能立法將支持歐洲數(shù)字經(jīng)濟(jì)的創(chuàng)新和增長，但現(xiàn)實的經(jīng)濟(jì)分析似乎并不認(rèn)同這個結(jié)論。

歐盟人工智能立法如何在創(chuàng)新和規(guī)范之間取得平衡是關(guān)鍵的問題，谷歌前總裁施密特就表示歐盟的規(guī)則沒有考慮到經(jīng)濟(jì)增長的因素。對于施密特來說，歐盟人工智能規(guī)范是歐盟對規(guī)范的偏見。歐盟產(chǎn)業(yè)集團(tuán)也對法案持保留意見，數(shù)字化歐洲組織總干事塞西莉亞·博內(nèi)費爾德-達(dá)爾表示法案可能給人工智能提供方帶來過度負(fù)擔(dān)。歐洲企業(yè)界針對委員會的立法建議也基本表達(dá)了同樣的擔(dān)憂，他們認(rèn)為目前的立法建議對于投資和競爭力都充滿風(fēng)險，將損害創(chuàng)新和歐洲人工智能的發(fā)展。

歐盟人工智能法案面臨的主要挑戰(zhàn)

歐盟委員會的立法建議是歐盟立法的第一步，此后將經(jīng)過與歐洲議會和理事會的談判達(dá)成妥協(xié)并經(jīng)表決和批準(zhǔn)生效。此前《通用數(shù)據(jù)保護(hù)條例》從出臺到生效經(jīng)歷了6年時間，短期內(nèi)人工智能法將難以生效。從法案出臺至今，各利益攸關(guān)方已針對法案的不同方面表達(dá)關(guān)切，各方立場迥異。由于人工智能涉及復(fù)雜的經(jīng)濟(jì)、政治、社會和安全問題，各方將如何博弈，最終達(dá)成共識仍面臨諸多不確定性。

首先，由于不同行為體的不同關(guān)切，各方對人工智能、“高風(fēng)險” 的定義、合規(guī)責(zé)任的分擔(dān)等立場迥異，在法案涉及的諸多核心概念和相應(yīng)風(fēng)險范圍的界定問題上，各方將難以形成共識。歐盟委員會聯(lián)合研究中心最近的研究報告顯示有50多種人工智能定義，使得各方達(dá)成共同立場復(fù)雜而困難。與企業(yè)認(rèn)為法案對人工智能和高風(fēng)險過于寬泛定義妨礙創(chuàng)新立場不同，民權(quán)組織認(rèn)為法案并未能實現(xiàn)以人為核心，而具有明顯的企業(yè)導(dǎo)向，對權(quán)利的保護(hù)顯著不足，表示法案中的諸多要求都寄希望于人工智能開發(fā)者實施技術(shù)手段解決復(fù)雜的社會問題，實施手段方面又更多指望企業(yè)的自我評估，會導(dǎo)致企業(yè)人工智能的不正當(dāng)使用，甚至引發(fā)歧視。

其次，法案涉及到歐盟和成員國權(quán)能分配的制度機(jī)制問題。例如法案目前爭論的核心問題之一是關(guān)于面部識別和生物識別的禁止性使用問題，法案規(guī)定了幾種禁止性例外，涉及警察、司法、反恐等事務(wù)，這些領(lǐng)域根據(jù)歐盟條約屬于成員國權(quán)能。但例外規(guī)定目前受到了民權(quán)組織以及歐洲議會的強(qiáng)烈反對，擔(dān)心引發(fā)權(quán)力濫用，導(dǎo)致保護(hù)不足，強(qiáng)力主張全面禁止。這些主張必然受到歡迎禁止例外的國家，如法國等反對。法國一直希望將人工智能技術(shù)運(yùn)用到安全領(lǐng)域。此外，法案的執(zhí)行體系雖將執(zhí)法權(quán)賦予了成員國，但同時又欲在歐盟層面設(shè)立單一的協(xié)調(diào)機(jī)構(gòu)，并賦予委員會一定的監(jiān)督權(quán)能，預(yù)防實施不足。但是，這種權(quán)力分配將導(dǎo)致灰色區(qū)域的出現(xiàn)，或引發(fā)法律執(zhí)行不力，或引發(fā)成員國和歐盟機(jī)構(gòu)之間的權(quán)能之爭，加劇歐盟業(yè)已嚴(yán)峻的憲政危機(jī)。

再次，法案可能導(dǎo)致人工智能治理體系碎片化問題。由于歐盟固有的權(quán)能分配機(jī)制，監(jiān)督和實施歐盟法律非常復(fù)雜，而法案規(guī)定的人工智能治理和實施機(jī)制將愈加繁亂。根據(jù)法案，成員國監(jiān)管機(jī)構(gòu)對人工智能產(chǎn)品的市場監(jiān)管發(fā)揮領(lǐng)導(dǎo)作用，包括調(diào)查健康、安全等涉及根本權(quán)利的風(fēng)險，命令企業(yè)糾正錯誤行為，例如從市場上撤除違規(guī)系統(tǒng)。但不同成員國的監(jiān)管機(jī)構(gòu)沒有義務(wù)就如何解讀和實施歐洲新的人工智能規(guī)則進(jìn)行協(xié)調(diào)，意味著人工智能治理框架接受其在不同成員國的多樣性運(yùn)用?！锻ㄓ脭?shù)據(jù)保護(hù)條例》實施三年多來表明法律的核心部分在成員國不同監(jiān)管機(jī)構(gòu)下運(yùn)用并不統(tǒng)一，企業(yè)在歐盟市場內(nèi)并沒有確定的法律標(biāo)準(zhǔn)，不同國家相互競爭，歐盟監(jiān)管機(jī)制呈現(xiàn)碎片化趨勢。德國數(shù)字保護(hù)機(jī)構(gòu)領(lǐng)導(dǎo)人烏爾里?！P爾伯抱怨目前的跨境執(zhí)法系統(tǒng)難以接受。盡管法案建議建立歐洲人工智能委員會，監(jiān)督法律的運(yùn)用以及分享最佳實踐，也將在確定什么是高風(fēng)險中有關(guān)鍵影響力，但因執(zhí)法權(quán)在成員國，其難以發(fā)揮有效協(xié)調(diào)作用，并且還會因與目前相關(guān)的機(jī)構(gòu)重疊引發(fā)權(quán)能重疊和混亂。

最后，如何保證信息安全和商業(yè)秘密的問題。根據(jù)人工智能法案，歐洲監(jiān)管機(jī)構(gòu)有權(quán)要求獲得企業(yè)數(shù)據(jù)、源代碼和算法。盡管此前有先例，但這種廣泛的監(jiān)管權(quán)威，沒有重要安全保證，將導(dǎo)致知識產(chǎn)權(quán)和商業(yè)秘密受到網(wǎng)絡(luò)襲擊的風(fēng)險。實踐證明監(jiān)管機(jī)構(gòu)是網(wǎng)絡(luò)襲擊的主要目標(biāo)。更糟糕的是法案反映了歐洲數(shù)字技術(shù)更廣泛的趨勢，也即降低數(shù)字投資和數(shù)字驅(qū)動創(chuàng)新的價值。例如單一市場法案下，“看門人”企業(yè)將要求和歐洲同行分享數(shù)字和算法。

人工智能法案的域外效應(yīng)和國際影響

在地緣政治競爭的背景下，歐盟認(rèn)為數(shù)字技術(shù)和治理日益呈現(xiàn)兩極化趨勢，歐盟要發(fā)揮其規(guī)范性影響力，通過規(guī)則彌補(bǔ)技術(shù)短板維護(hù)競爭力，成為獨立于中美之外的第三支力量。歐盟積極推動人工智能立法，并強(qiáng)調(diào)其人工智能規(guī)范的道德屬性，雖帶有強(qiáng)烈的歐洲歷史和文化特征，但同樣是歐洲面對百年變局和未來數(shù)字轉(zhuǎn)型的戰(zhàn)略選擇。在數(shù)字技術(shù)快速發(fā)展的背景下，歐洲深刻認(rèn)識到人工智能技術(shù)不僅事關(guān)國際競爭力，更關(guān)乎國際力量格局重組。提高競爭力，確定規(guī)則優(yōu)勢，輸出價值觀以及地緣政治考量下的數(shù)字主權(quán)是歐洲人工智能法規(guī)出臺的重要推動力。

面對人工智能的快速發(fā)展，歐洲一直到2018年都在評估人工智能發(fā)展帶來的不確定性，此后開始努力框定人工智能發(fā)展和應(yīng)對其帶來的挑戰(zhàn)。2018年以來，歐盟20多個國家公布了人工智能戰(zhàn)略，確定目標(biāo)和立場，并指定了相應(yīng)的投資計劃。歐盟層面也相繼出臺數(shù)字戰(zhàn)略，并宣布一系列數(shù)字新法規(guī)，涉及數(shù)字市場、數(shù)字服務(wù)、人工智能等，歐盟數(shù)字戰(zhàn)略進(jìn)入了在全球?qū)用孑敵鲆?guī)范的階段。

歐盟委員會競爭委員瑪格麗特·維斯塔格明確表示歐盟希望新法擁有超越邊界的影響力，“通過制定標(biāo)準(zhǔn)，我們能在世界范圍內(nèi)推行具有道德性的技術(shù)，確保歐洲繼續(xù)擁有競爭力”。歐盟的邏輯是推動人工智能道德性和可信賴性本身會刺激人工智能更廣泛的使用，進(jìn)而促進(jìn)經(jīng)濟(jì)增長和提升經(jīng)濟(jì)能力。如果歐盟能夠成功鼓勵其他行為體采納值得信賴的人工智能標(biāo)準(zhǔn)，將在更大范圍內(nèi)讓歐盟企業(yè)受益。如果歐盟能夠確立其領(lǐng)導(dǎo)地位，促使其他人遵守歐盟標(biāo)準(zhǔn)，將確保人工智能系統(tǒng)充分反映歐盟理念。如果歐洲制造的人工智能將被認(rèn)為是高標(biāo)準(zhǔn)產(chǎn)品，歐盟的產(chǎn)品將更具競爭力，可以在人工智能生產(chǎn)布局中占有優(yōu)勢地位。

在人工智能領(lǐng)域內(nèi)，歐盟希望復(fù)制其《通用數(shù)據(jù)保護(hù)條例》經(jīng)驗，構(gòu)建在人工智能領(lǐng)域內(nèi)的硬實力。與《通用數(shù)據(jù)保護(hù)條例》一樣，歐盟的人工智能立法建議具有廣泛的域外效應(yīng)，不僅對歐盟范圍人工智能系統(tǒng)的提供者和用戶有約束力，即使是歐盟以外的企業(yè)，只要其產(chǎn)品和服務(wù)對歐盟民眾產(chǎn)生影響，都受其規(guī)制。不僅是歐盟統(tǒng)一大市場的規(guī)模讓任何企業(yè)都無法忽視AI法案，更重要的是在新技術(shù)領(lǐng)域內(nèi)規(guī)范影響力的獨特的路徑依賴效應(yīng)，一旦規(guī)則形成將難以撼動。正如歐盟《通用數(shù)據(jù)保護(hù)條例》所顯示的，歐洲規(guī)則很快成為在數(shù)據(jù)保護(hù)領(lǐng)域內(nèi)的國際標(biāo)準(zhǔn)，這些努力產(chǎn)生重大影響。自2018年條例生效以來，該法規(guī)很大程度上在世界范圍內(nèi)塑造數(shù)字保護(hù)規(guī)則。目前，多達(dá)120多個國家受歐盟數(shù)據(jù)保護(hù)機(jī)制啟發(fā)，通過了隱私法，不同的數(shù)字平臺也采取了歐盟的通用數(shù)據(jù)保護(hù)規(guī)則。

歐洲的市場力量使得任何企業(yè)都難以忽視。從《通用數(shù)據(jù)保護(hù)條例》到以法國為代表的歐洲國家紛紛啟動數(shù)據(jù)稅，以及為推進(jìn)針對氣候變化的全球治理而討論實施碳關(guān)稅，都反映出歐盟利用其“規(guī)范性力量”和市場規(guī)模，強(qiáng)勢為全球相關(guān)產(chǎn)業(yè)制定標(biāo)準(zhǔn)所作出的努力。當(dāng)前，歐盟針對美國數(shù)據(jù)企業(yè)巨頭采取的一系列反壟斷舉措，已彰顯出其市場規(guī)模的“規(guī)范”效應(yīng)。市場規(guī)?；A(chǔ)上衍生的規(guī)則力量，正成為歐盟硬實力訴求的主要依托。

人工智能法案的出臺意味著歐盟正強(qiáng)化其在數(shù)字領(lǐng)域內(nèi)的規(guī)范性作用。法案強(qiáng)調(diào)歐盟旨在成為“值得信賴和具有道德的人工智能”發(fā)展過程中的全球領(lǐng)導(dǎo)者。歐盟正通過對內(nèi)推動數(shù)字主權(quán)，對外構(gòu)建數(shù)字流動和技術(shù)伙伴關(guān)系，希望利用其市場規(guī)模，在世界范圍內(nèi)推動歐盟規(guī)范的“布魯塞爾效應(yīng)”。美國戰(zhàn)略與國際問題研究中心認(rèn)為歐盟人工智能法案為美國敲響了警鐘，如果不立即采取行動，美國將在數(shù)字規(guī)則領(lǐng)域內(nèi)被邊緣化，也表明美國作為歐洲在追求數(shù)字主權(quán)中的重要第三方，對歐洲單邊推動數(shù)字治理國際規(guī)范的擔(dān)憂。

但是，面對復(fù)雜的人工智能技術(shù)及其運(yùn)用可能產(chǎn)生的復(fù)雜的經(jīng)濟(jì)、政治、社會和廣泛國際影響的綜合性機(jī)遇和挑戰(zhàn)，歐盟如果希望成為全球規(guī)范的領(lǐng)導(dǎo)者，除了在歐盟范圍內(nèi)平衡各方的不同的觀念、價值和利益訴求外，更需要在世界范圍內(nèi)尊重不同國家的歷史、制度和文化傳統(tǒng)，在多邊層面推動各方觀念和利益的包容和平衡，才能實現(xiàn)規(guī)范的可持續(xù)性發(fā)展和有效執(zhí)行。如果在地緣政治邏輯下，歐洲規(guī)范性力量不能傳遞多邊、開放和合作的信息，不以多數(shù)國家的國際共識為基礎(chǔ)，只是從自身的戰(zhàn)略利益和標(biāo)準(zhǔn)出發(fā)，強(qiáng)勢推動，那么歐洲作為特殊的國際行為體的身份危機(jī)也將日益凸顯。