法國(guó)人工智能犯罪治理

文/付琴雯

在2023 年7 月的安理會(huì)辯論中，法國(guó)將人工智能稱為“21 世紀(jì)的革命”。近年來，人工智能技術(shù)成為法國(guó)媒體的追蹤焦點(diǎn)之一，特別是生成式人工智能ChatGPT 帶來了爆炸式熱度。然而，法國(guó)公眾對(duì)這一現(xiàn)象的看法并不積極。根據(jù)法國(guó)民調(diào)機(jī)構(gòu)奧多克薩研究所（Odoxa institute）最近為甲骨文云計(jì)算公司（Oracle）進(jìn)行的一項(xiàng)調(diào)查結(jié)果顯示，67%的法國(guó)人認(rèn)為人工智能是一種威脅：“現(xiàn)在（持威脅論）的比例明顯占多數(shù)。去年同期，只有53%的法國(guó)人持這種觀點(diǎn)。”對(duì)于許多法國(guó)人來說，人工智能的發(fā)展仍是一個(gè)令人擔(dān)憂的問題。

此外，許多法國(guó)人也對(duì)人工智能發(fā)展的國(guó)家監(jiān)管能力提出質(zhì)疑。甲骨文公司法國(guó)分公司總經(jīng)理克里斯托夫-內(nèi)格里爾（Christophe Negrier）指出：“整個(gè)問題的關(guān)鍵在于人工智能的識(shí)別、應(yīng)用和控制?！?2%的法國(guó)受訪者表示“希望看到政府監(jiān)管”。

在法國(guó)境內(nèi)，利用人工智能實(shí)施不法行為情形日益增多

人工智能技術(shù)的快速性、精確性，使其成為許多投機(jī)分子實(shí)施不法行為的新手段、新方法。近年來，伴隨著全球經(jīng)濟(jì)衰退，犯罪分子利用人工智能實(shí)施不法行為的情形日益增多，這種新興趨勢(shì)也成為當(dāng)前理論界和實(shí)務(wù)部門的關(guān)注焦點(diǎn)。

例如，近年來，法國(guó)境內(nèi)利用人工智能技術(shù)實(shí)施“網(wǎng)絡(luò)釣魚”等金融欺詐的案件頻發(fā)。這些不法分子可以使用生成式人工智能工具，快速為其“網(wǎng)絡(luò)釣魚”電子郵件編寫欺騙性內(nèi)容，并在目標(biāo)系統(tǒng)上安裝惡意欺詐軟件。有數(shù)據(jù)統(tǒng)計(jì)，截至2023 年1 月，“網(wǎng)絡(luò)釣魚”成為法國(guó)最常見的網(wǎng)絡(luò)攻擊類型，大約四分之三的法國(guó)公司成為惡意電子郵件的攻擊目標(biāo)。專注于IT（信息技術(shù)）安全治理的波耐蒙研究所（Ponemon Institute）曾于2018年做過一項(xiàng)調(diào)查，調(diào)查結(jié)果顯示，54%的法國(guó)公司認(rèn)為網(wǎng)絡(luò)黑客已較好掌握了機(jī)器學(xué)習(xí)等人工智能技術(shù)；人工智能等技術(shù)帶來的全球數(shù)字化轉(zhuǎn)型使網(wǎng)絡(luò)犯罪分子的攻擊能力“呈指數(shù)級(jí)擴(kuò)大”?，F(xiàn)有網(wǎng)絡(luò)犯罪技術(shù)和方法可以通過人工智能實(shí)現(xiàn)自動(dòng)化和加速化，從而對(duì)相關(guān)企業(yè)產(chǎn)生毀滅性的影響。該調(diào)查還顯示，計(jì)算機(jī)黑客、間諜活動(dòng)、數(shù)據(jù)盜竊等是困擾法國(guó)企業(yè)的主要網(wǎng)絡(luò)威脅，勒索軟件等自動(dòng)化攻擊正在增加其頻率，尤其是這些“數(shù)據(jù)勒索攻擊”占報(bào)告事件總數(shù)的比例從13%增加到27%。以加密貨幣領(lǐng)域?yàn)槔@些虛擬貨幣本來受到復(fù)雜算法的保護(hù)以確保交易，但現(xiàn)如今，許多不法分子利用人工智能技術(shù)在網(wǎng)絡(luò)釣魚軟件或勒索軟件中添加數(shù)據(jù)泄露功能，產(chǎn)生的數(shù)據(jù)可以讓其訪問相關(guān)公司的加密貨幣錢包，從而增加了運(yùn)用加密貨幣進(jìn)行交易操作的風(fēng)險(xiǎn)性。可以說，飛速發(fā)展的人工智能技術(shù)就像一把“雙刃劍”，雖然對(duì)人類生活帶來了便利，但同時(shí)也增加了其被濫用的風(fēng)險(xiǎn)。

又如，法國(guó)社會(huì)中基于人工智能實(shí)施的“合成身份欺詐”案件不斷增多。事實(shí)上，虛擬遠(yuǎn)程開展業(yè)務(wù)作為擴(kuò)大金融業(yè)務(wù)可及性的一種方式受到了公眾歡迎，但這種做法也為犯罪分子開展欺詐提供了系統(tǒng)漏洞，尤其是人工智能技術(shù)為犯罪分子偽造個(gè)人身份的惡意行為提供了新的方法。近年來，犯罪分子進(jìn)一步利用“深度偽造”（Deepfake）技術(shù)進(jìn)行在線欺詐，特別是合成身份欺詐。在這方面，抵押貸款行業(yè)特別容易受到影響。“深度偽造”技術(shù)誕生于2014 年，由一位名為伊恩·古德費(fèi)洛（Ian Goodfellow）的研究人員所創(chuàng)造，這項(xiàng)技術(shù)也被稱為“生成式對(duì)抗網(wǎng)絡(luò)”（Generative Adversarial Networks）。“深度偽造”有幾種類型，最著名的就是“換臉”，包括通過該人工智能技術(shù)替換一張“已知”的臉，或者以完全合成為基礎(chǔ)生成一張“不存在”的臉。2018 年，一段“深度偽造”美國(guó)前總統(tǒng)巴拉克·奧巴馬的視頻一舉成名，人們開始關(guān)注這項(xiàng)人工智能技術(shù)。值得注意的是，法國(guó)政府切實(shí)開展“深度偽造”技術(shù)的打擊活動(dòng)是基于一個(gè)特殊的背景原因，即2022 年法國(guó)總統(tǒng)選舉期間受到了外國(guó)社交網(wǎng)絡(luò)上利用人工智能技術(shù)傳播虛假信息的干預(yù)和威脅。為此，法國(guó)政府成立了一個(gè)名為“警惕和保護(hù)外國(guó)數(shù)字干擾局”（Viginum）的機(jī)構(gòu)，隸屬于法國(guó)國(guó)防和國(guó)家安全總秘書處 ，專門負(fù)責(zé)監(jiān)控和防范來自外國(guó)的“數(shù)字干擾”。

案例1：“假勒德里昂”案——人工智能“換臉”技術(shù)造成多位社會(huì)名流重大經(jīng)濟(jì)財(cái)產(chǎn)損失

比利時(shí)國(guó)王、道達(dá)爾公司首席執(zhí)行官、巴黎大主教、加蓬總統(tǒng)……2015 年至2016 年間，一個(gè)法國(guó)騙子團(tuán)伙利用人工智能“深度偽造”技術(shù)，冒充時(shí)任法國(guó)國(guó)防部長(zhǎng)讓-伊夫·勒德里昂（Jean-Yves Le Drian）或其他內(nèi)閣成員，與150 多位公眾人物取得聯(lián)系并實(shí)施詐騙，其慣常采用的詐騙理由是“要錢支付在敘利亞被劫持的法國(guó)人質(zhì)的贖金，并保證迅速償還”。除了上述社會(huì)名流外，上當(dāng)受騙的還有經(jīng)營(yíng)法國(guó)波爾多最負(fù)盛名的葡萄酒莊之一的瑪歌酒莊莊主、伊斯瑪儀教派的精神領(lǐng)袖阿加汗和某土耳其富商等，總涉案金額近6000 萬歐元。

2020 年3 月11 日，巴黎刑事法院分別判處涉嫌策劃這一騙局的吉爾貝·奇克利（Gilbert Chikli）和安東尼·扎列維奇（Anthony Lazarevitch）11 年和7 年監(jiān)禁。對(duì)此，讓-伊夫·勒德里昂的辯護(hù)律師指出：“在這個(gè)假冒偽劣泛濫的時(shí)代，一審對(duì)詐騙犯的重判向社會(huì)釋放出了強(qiáng)烈的信號(hào)?！?/p>

案例2：“數(shù)字監(jiān)管”——法國(guó)新聞出版業(yè)聯(lián)合反對(duì)利用人工智能進(jìn)行內(nèi)容竊取

2023 年9 月26 日，近300 家新聞公司聚集在法國(guó)新聞聯(lián)盟，宣布計(jì)劃“建立法律儲(chǔ)備機(jī)制”，以防止人工智能公司的網(wǎng)絡(luò)爬蟲無償使用他們的內(nèi)容。法國(guó)新聞聯(lián)盟指出，新聞出版物受知識(shí)產(chǎn)權(quán)保護(hù)，對(duì)人工智能公司“在不補(bǔ)償任何價(jià)值的情況下”使用相關(guān)文章內(nèi)容的行為表示遺憾，同時(shí)，“面對(duì)這一現(xiàn)實(shí)，新聞出版商必須捍衛(wèi)自己的權(quán)利，保障其商業(yè)模式的未來和新聞業(yè)的資金來源”。

與搜索引擎機(jī)器人一樣，一些人工智能研究企業(yè)開發(fā)了相關(guān)爬蟲軟件，對(duì)互聯(lián)網(wǎng)上的所有數(shù)據(jù)進(jìn)行篩選和抽取，如通過OpenAI 的ChatGPT、Google 的Bard、Meta的LLaMa 等生成式人工智能工具進(jìn)行攝取和合成，但卻沒有向原始資源生產(chǎn)者支付絲毫的經(jīng)濟(jì)補(bǔ)償。對(duì)此，新聞聯(lián)盟進(jìn)一步指出，使用相關(guān)法律武器可以“使新聞出版業(yè)重新獲得對(duì)其出版物使用的控制權(quán)”，并且“這也是與人工智能服務(wù)商展開談判的必要前提”。

法國(guó)總統(tǒng)馬克龍正在體驗(yàn)一臺(tái)人工智能設(shè)備

在法律領(lǐng)域，法國(guó)較早關(guān)注到對(duì)數(shù)據(jù)和算法的規(guī)制問題

眾所周知，數(shù)字技術(shù)發(fā)展在一定程度上是與法律標(biāo)準(zhǔn)背道而馳的。當(dāng)前，國(guó)際社會(huì)仍有聲音認(rèn)為不應(yīng)對(duì)算法和人工智能進(jìn)行監(jiān)管，其理由主要是在當(dāng)前制定相關(guān)規(guī)則“為時(shí)尚早”，因?yàn)榧夹g(shù)發(fā)展的速度與法律發(fā)展的速度不可同日而語。這種觀點(diǎn)忽略了一個(gè)現(xiàn)實(shí)，即“算法及其使用已經(jīng)直接或間接地受到許多法律規(guī)則的制約”，法國(guó)的相關(guān)立法實(shí)踐就是典型例證。

早在20 世紀(jì)60 年代，法國(guó)政府就開始注意到信息和通信技術(shù)對(duì)個(gè)人自由帶來的風(fēng)險(xiǎn)與挑戰(zhàn)。1969 年，法國(guó)政府提請(qǐng)國(guó)務(wù)委員會(huì)審視信息技術(shù)對(duì)個(gè)人自由帶來的威脅。1970 年3 月，在時(shí)任法國(guó)總統(tǒng)喬治·蓬皮杜（Georges Pompidou）領(lǐng)導(dǎo)下，法國(guó)政府曾嘗試創(chuàng)建一個(gè)集中的個(gè)人數(shù)據(jù)數(shù)據(jù)庫，又名“SAFARI”數(shù)據(jù)庫，并由法國(guó)國(guó)家統(tǒng)計(jì)和經(jīng)濟(jì)研究所（Insee）秘密執(zhí)行該項(xiàng)目。然而，該項(xiàng)目遭到泄露并引起了法國(guó)社會(huì)輿論的巨大爭(zhēng)議。隨后，時(shí)任總理皮埃爾·梅斯梅爾 （Pierre Messmer）停止了該項(xiàng)目，并于1974 年3 月30 日成立了“信息技術(shù)和自由委員會(huì)”，其任務(wù)是保護(hù)公民的隱私權(quán)，防止因計(jì)算機(jī)文件的發(fā)展而可能造成的侵犯。

1975 年9 月，該委員會(huì)提交了著名的《關(guān)于保障尊重個(gè)人自由的措施的報(bào)告》（因總報(bào)告人為時(shí)任法國(guó)國(guó)務(wù)委員會(huì)委員伯納德·特里科特，因此又被稱為《特里科特報(bào)告》）。該委員會(huì)在報(bào)告中指出了一些重要問題，除了就收集和儲(chǔ)存大量數(shù)據(jù)的處理能力等相關(guān)問題進(jìn)行討論之外，還提出了包括法國(guó)國(guó)家和社會(huì)層面的“計(jì)算機(jī)化”所帶來的挑戰(zhàn)，并從一開始就明確了歧視或排斥個(gè)人的風(fēng)險(xiǎn)以及過度依賴計(jì)算機(jī)的風(fēng)險(xiǎn)。此外，報(bào)告還指出，既要有效應(yīng)對(duì)這些威脅，又要維護(hù)信息技術(shù)帶來的機(jī)遇，并不是靠建立一個(gè)煩瑣而分散的法律體系，而是靠對(duì)它的控制與主導(dǎo)使其發(fā)揮應(yīng)有的效用?？梢哉f，《特里科特報(bào)告》也是一個(gè)縮影，代表了法國(guó)在算法與信息安全、個(gè)人數(shù)據(jù)保護(hù)等議題上所具有的敏銳性和前瞻性，該報(bào)告成為了1978 年法國(guó)《數(shù)據(jù)保護(hù)法》的基礎(chǔ)。

2018 年3 月，法國(guó)總統(tǒng)馬克龍宣布在五年內(nèi)投入15 億歐元支持人工智能發(fā)展

1978 年1 月6 日，法國(guó)頒布第78-17 號(hào)“關(guān)于數(shù)據(jù)處理、文件和自由的法律”，即《數(shù)據(jù)保護(hù)法》。自此，法國(guó)成為歐洲最早規(guī)范個(gè)人數(shù)據(jù)處理的西方國(guó)家之一，70 年代，另外兩個(gè)就個(gè)人數(shù)據(jù)處理問題出臺(tái)法律規(guī)范的國(guó)家是德國(guó)和瑞典。隨后，法國(guó)政府也有力推動(dòng)了1981年歐洲委員會(huì)《個(gè)人數(shù)據(jù)自動(dòng)化處理中的個(gè)人保護(hù)公約》（簡(jiǎn)稱《108 號(hào)公約》）以及1990 年的《個(gè)人數(shù)據(jù)文件監(jiān)管指南》制定出臺(tái)。

1978 年《數(shù)據(jù)保護(hù)法》于2004 年修訂，涉及個(gè)人數(shù)據(jù)的所有自動(dòng)處理，包含多項(xiàng)規(guī)定，如向國(guó)家信息與自由委員會(huì)申報(bào)包含個(gè)人數(shù)據(jù)的文件的義務(wù)、禁止收集敏感數(shù)據(jù)（即一般情況下與宗教、健康、政治等有關(guān)的數(shù)據(jù)）、確立了“公平數(shù)據(jù)收集原則”、確保所收集的所有數(shù)據(jù)的安全的義務(wù)、有義務(wù)告知相關(guān)個(gè)人其數(shù)據(jù)的收集情況以及訪問、修改和刪除相關(guān)數(shù)據(jù)的權(quán)利，等等。

此外，對(duì)于算法和人工智能新型生態(tài)的法律規(guī)制，還引發(fā)了法國(guó)公眾對(duì)于人工智能引發(fā)的相關(guān)倫理和社會(huì)問題的思辨。法國(guó)國(guó)家信息與自由委員會(huì)發(fā)起過一項(xiàng)公眾調(diào)查，結(jié)果顯示法國(guó)公眾要求對(duì)算法和人工智能制定規(guī)則或進(jìn)行限制。除了具有約束力的規(guī)范之外，這些規(guī)則和限制還可以采用其他方式，例如行業(yè)或企業(yè)采用的“章程”形式。

在這一背景下，法國(guó)國(guó)家信息與自由委員會(huì)成立了一個(gè)特別工作組來審議數(shù)字技術(shù)發(fā)展帶來的倫理和社會(huì)問題。這顯然反映了人們希望對(duì)新技術(shù)的限制和標(biāo)準(zhǔn)進(jìn)行反思。因此，國(guó)家信息與自由委員會(huì)尋求盡可能廣泛地開展辯論，辯論的對(duì)象不僅包括公共參與者，還包括從業(yè)人員、專業(yè)人士和普通公眾。

在數(shù)據(jù)領(lǐng)域，法國(guó)建立針對(duì)人工智能的專門性監(jiān)管機(jī)構(gòu)

人工智能的快速發(fā)展正在快速而深入地改變世界各國(guó)人民的工作和生活形態(tài)，同時(shí)，這也要求各國(guó)能夠及時(shí)研究制定相關(guān)法律法規(guī)為人工智能融入人類活動(dòng)提供適當(dāng)?shù)目蚣?。出于?duì)數(shù)據(jù)使用的擔(dān)憂，意大利成為西方世界第一個(gè)阻止生成式人工智能聊天程序ChatGPT 的國(guó)家。2023 年3 月31 日，意大利當(dāng)局宣布屏蔽聊天機(jī)器人ChatGPT，理由是“缺乏證明大規(guī)模收集和保存?zhèn)€人數(shù)據(jù)合理性的法律依據(jù)”。同時(shí)，ChatGPT 沒有設(shè)置任何過濾器來驗(yàn)證用戶的年齡，無法限制13 歲以下兒童對(duì)于該機(jī)器人的使用。歐洲警察署也在一份報(bào)告中指出，從網(wǎng)絡(luò)釣魚到虛假信息和惡意軟件，人工智能聊天機(jī)器人的快速發(fā)展容易被惡意利用。對(duì)于意大利禁止ChatGPT 的做法，法國(guó)國(guó)家信息與自由委員會(huì)表示“尚未收到投訴，也沒有進(jìn)行類似的程序”，但已聯(lián)系意大利同行討論相關(guān)調(diào)查結(jié)果，并旨在“澄清相關(guān)法律框架”。

法國(guó)國(guó)家信息與自由委員會(huì)指的“法律框架”，是指目前歐盟于2021 年提出的《人工智能法案》（Artificial Intelligence Act）?！度斯ぶ悄芊ò浮分荚谕ㄟ^確立統(tǒng)一的人工智能法律監(jiān)管框架，以基于風(fēng)險(xiǎn)識(shí)別分析的方法，為不同類型的人工智能系統(tǒng)提出不同的義務(wù)要求，從而確?；谌斯ぶ悄艿纳唐泛头?wù)在高度保護(hù)健康、安全、公民基本權(quán)利和保障公共利益的前提下，促進(jìn)人工智能規(guī)范化的開發(fā)、使用和營(yíng)銷。該法案的法律框架內(nèi)，主要討論人工智能算法的定義，相關(guān)軟件可能產(chǎn)生哪些社會(huì)后果，以及如何打擊人工智能使用中存在的相關(guān)種族主義和性別歧視情形，等等。值得注意的是，《人工智能法案》還規(guī)定為每個(gè)國(guó)家需要指定一個(gè)負(fù)責(zé)人工智能的監(jiān)管機(jī)構(gòu)。為此，2023 年1 月，法國(guó)國(guó)家信息與自由委員會(huì)成立了一個(gè)由五人組成的、專門負(fù)責(zé)人工智能事務(wù)的部門，由其下設(shè)的技術(shù)與創(chuàng)新局（DTI）監(jiān)管。除了為人工智能用戶制定明確的數(shù)據(jù)保護(hù)規(guī)定等基本目標(biāo)外，該機(jī)構(gòu)還旨在確保對(duì)于人工智能的法律規(guī)制能在歐洲層面統(tǒng)一步調(diào)、協(xié)調(diào)發(fā)展。

實(shí)際上，早在2017 年，法國(guó)國(guó)家信息與自由委員會(huì)就提交了一份《關(guān)于算法和人工智能倫理挑戰(zhàn)報(bào)告》，表達(dá)了對(duì)人工智能問題的密切關(guān)注。近年來，歐盟委員會(huì)希望通過制定更為明確的規(guī)則，以確保針對(duì)人工智能的相關(guān)數(shù)據(jù)保護(hù)措施適用于所有歐洲公民。為此，法國(guó)國(guó)家信息與自由委員會(huì)的人工智能監(jiān)管部門設(shè)置了四大目標(biāo)：了解人工智能的工作原理、為人工智能的發(fā)展提供法律框架、保護(hù)使用人工智能的用戶、支持法國(guó)和歐洲的人工智能創(chuàng)新。

法國(guó)國(guó)家信息與自由委員會(huì)還表示，之所以要進(jìn)一步開展對(duì)人工智能的研究，是因?yàn)槠渥⒁獾?022 年期間對(duì)于這些工具的使用呈爆炸式增長(zhǎng)。根據(jù)該委員會(huì)的說法，這些基于數(shù)據(jù)密集型算法的、涉及個(gè)人數(shù)據(jù)的工具可能存在問題。此外，為了處理大量人工智能相關(guān)的投訴案件，委員會(huì)還通過開發(fā)一個(gè)人工智能服務(wù)的門戶網(wǎng)站，使用戶能夠跟蹤案件進(jìn)展，簡(jiǎn)化程序并確保交流。

誠(chéng)然，人工智能的快速發(fā)展影響社會(huì)多領(lǐng)域和多部門，具有典型的跨部門性，因此迫切需要專業(yè)機(jī)構(gòu)的監(jiān)督。法國(guó)國(guó)家信息與自由委員會(huì)及時(shí)成立專門針對(duì)人工智能的監(jiān)管機(jī)構(gòu)，無疑是一種具有前瞻性的國(guó)家實(shí)踐。不過，對(duì)于此種實(shí)踐，也有專家提出不同看法，尤其是指出法國(guó)國(guó)家信息與自由委員會(huì)不可能成為規(guī)范人工智能使用的唯一權(quán)威機(jī)構(gòu)，因?yàn)槿斯ぶ悄鼙举|(zhì)上涉及多領(lǐng)域、多行業(yè)，其監(jiān)管機(jī)構(gòu)不應(yīng)是這個(gè)“數(shù)據(jù)保護(hù)”機(jī)構(gòu)的衍生產(chǎn)物。專家同時(shí)指出，與關(guān)注一般性數(shù)據(jù)保護(hù)方法相比，對(duì)于人工智能的規(guī)范“似乎需要更加細(xì)微的方法”，來確保對(duì)其的使用能在合理、正義的軌道上發(fā)展，因此，似乎更適合成立一個(gè)特定的、獨(dú)立的人工智能監(jiān)管機(jī)構(gòu)，以便協(xié)調(diào)不同領(lǐng)域和部門機(jī)構(gòu)之間的工作，來確保對(duì)人工智能監(jiān)管的有效性和一致性。

歐洲議會(huì)議員擔(dān)心人工智能技術(shù)對(duì)隱私保護(hù)產(chǎn)生不良影響

在人權(quán)領(lǐng)域，法國(guó)關(guān)注人工智能應(yīng)用對(duì)基本權(quán)利的影響

雖然人工智能的研究及其實(shí)際應(yīng)用正在不斷發(fā)展，但在防止可能發(fā)生的重大侵犯基本權(quán)利行為方面，現(xiàn)行法律規(guī)制仍不完善。鑒于歐盟即將通過有關(guān)這一主題的條例提案以及歐洲委員會(huì)正在開展的工作，法國(guó)國(guó)家人權(quán)咨詢委員會(huì)（CNCDH）呼吁公共當(dāng)局在這一領(lǐng)域推動(dòng)建立一個(gè)“雄心勃勃”的法律框架。法國(guó)國(guó)家人權(quán)咨詢委員會(huì)于1947 年在諾貝爾和平獎(jiǎng)獲得者勒內(nèi)·卡桑的倡議下成立，是法國(guó)保護(hù)和促進(jìn)人權(quán)的國(guó)家機(jī)構(gòu)，并獲得聯(lián)合國(guó)認(rèn)可。作為一個(gè)合議機(jī)構(gòu)，法國(guó)國(guó)家人權(quán)咨詢委員會(huì)完全獨(dú)立地確保在人權(quán)、法律和人道主義行動(dòng)領(lǐng)域向政府和議會(huì)發(fā)揮咨詢和建議作用，并尊重給予人權(quán)的基本保障。公民行使公共自由的權(quán)利，并承擔(dān)監(jiān)督法國(guó)遵守其在該領(lǐng)域國(guó)際承諾的情況的使命。

2022 年4 月7 日，法國(guó)國(guó)家人權(quán)咨詢委員會(huì)在全體會(huì)議上一致通過了《關(guān)于人工智能對(duì)基本權(quán)利影響的意見》（A-2022-6），對(duì)人工智能法律框架的制定提出了近20 項(xiàng)建議，現(xiàn)摘要如下。

1.委員會(huì)建議有關(guān)機(jī)構(gòu)在交流中應(yīng)使用比“人工智能”更中立、更客觀的術(shù)語，如“算法決策支持系統(tǒng)”（ADSS）。

2.委員會(huì)建議歐盟《人工智能法案》應(yīng)包括更有力的條款，以確保建立一個(gè)具有約束力的法律框架，保證切實(shí)尊重基本權(quán)利。此外，委員會(huì)建議在歐洲委員會(huì)框架內(nèi)通過“關(guān)于人工智能的108+公約”。

3.委員會(huì)建議在正在進(jìn)行的改革中考慮以人權(quán)為基礎(chǔ)的方法，因?yàn)檫@些改革旨在確保尊重基本權(quán)利。

4.委員會(huì)建議禁止使用選擇界面，因?yàn)槠淠康幕蛐Ч抢糜脩舻穆┒磥聿倏v用戶，對(duì)其造成損害。

5.委員會(huì)禁止主管部門或任何公司（無論是公共還是私營(yíng)）實(shí)施任何類型的社會(huì)評(píng)分。

6.委員會(huì)建議禁止在公共場(chǎng)所和公眾可進(jìn)入的場(chǎng)所對(duì)人員進(jìn)行遠(yuǎn)程生物特征識(shí)別，但允許在例外情況下使用，條件是這對(duì)防止人員生命或安全以及對(duì)重要工程、設(shè)施和機(jī)構(gòu)的生命或安全構(gòu)成嚴(yán)重和緊迫威脅是絕對(duì)必要、適當(dāng)和相稱的。

7.委員會(huì)建議進(jìn)一步考慮確定在法律訴訟中使用人工智能的益處和局限性。

8.委員會(huì)建議禁止情緒識(shí)別技術(shù)，但在旨在加強(qiáng)人們的自主權(quán)或更廣泛地增強(qiáng)其基本權(quán)利的有效性時(shí)允許作為例外使用它們。

9.委員會(huì)建議，人工智能系統(tǒng)的用戶應(yīng)評(píng)估其使用對(duì)基本權(quán)利的影響，并在確定風(fēng)險(xiǎn)的情況下，根據(jù)風(fēng)險(xiǎn)的可能性和嚴(yán)重性對(duì)其進(jìn)行評(píng)估。影響評(píng)估至少應(yīng)包括說明使用人工智能系統(tǒng)的目的，確定可能受該制度影響的基本權(quán)利，審查所設(shè)想的人工智能系統(tǒng)并在此基礎(chǔ)上評(píng)估其必要性、適宜性以及相對(duì)于預(yù)期目標(biāo)而言對(duì)基本權(quán)利的侵犯是否相稱，制定了哪些程序來監(jiān)督應(yīng)用情況以及采取了哪些措施來降低風(fēng)險(xiǎn)。

10.根據(jù)人工智能系統(tǒng)在特定使用環(huán)境下對(duì)基本權(quán)利產(chǎn)生的風(fēng)險(xiǎn)，委員會(huì)建議確保在決定使用該系統(tǒng)之前，根據(jù)適當(dāng)?shù)姆椒ㄅc利益相關(guān)者進(jìn)行協(xié)商，包括工作人員代表以及更廣泛的人工智能系統(tǒng)的目標(biāo)人群。

11.委員會(huì)建議對(duì)人工智能系統(tǒng)進(jìn)行監(jiān)督，監(jiān)督程序可根據(jù)影響研究確定的侵犯基本權(quán)利的風(fēng)險(xiǎn)而有所不同，以保持用戶對(duì)系統(tǒng)影響的持續(xù)警惕，特別是其歧視性影響。

12.委員會(huì)建議鼓勵(lì)對(duì)培訓(xùn)和信息工具的設(shè)計(jì)進(jìn)行公共投資，使盡可能多的人能夠獲得這些工具。

13.委員會(huì)建議，按照國(guó)家倫理咨詢委員會(huì)組織的“生物倫理國(guó)家大會(huì)”（Etats généraux de la biothique）的思路，組織國(guó)家磋商。

14.委員會(huì)建議法國(guó)教育系統(tǒng)為學(xué)生提供更多有關(guān)人工智能的技術(shù)、政治和社會(huì)問題的培訓(xùn)，并為此為教師提供教學(xué)輔助工具。

15.委員會(huì)建議根據(jù)與人工智能系統(tǒng)風(fēng)險(xiǎn)水平相對(duì)應(yīng)的方法，保證人為干預(yù)，控制人工智能系統(tǒng)產(chǎn)生的個(gè)人決策；通過為參與者提供有關(guān)系統(tǒng)特征的適當(dāng)培訓(xùn)和信息以確保其有效性，并當(dāng)偏離人工智能系統(tǒng)的建議時(shí)不施加任何特定限制；確保公共服務(wù)用戶系統(tǒng)地保持對(duì)人工代理的替代訪問。

16.委員會(huì)建議賦予人工智能系統(tǒng)用戶參數(shù)化標(biāo)準(zhǔn)的權(quán)利，特別是在確定所接收內(nèi)容的選擇和呈現(xiàn)方式時(shí)，以及在更廣泛的人機(jī)交互情況下。

17.委員會(huì)建議，當(dāng)個(gè)人接觸或?qū)⑴c人工智能系統(tǒng)互動(dòng)時(shí)，應(yīng)系統(tǒng)性地告知個(gè)人；當(dāng)個(gè)人成為決策主體時(shí)，應(yīng)告知個(gè)人決策在適用情況下部分或全部基于算法處理。

18.委員會(huì)建議，應(yīng)保障數(shù)據(jù)主體有權(quán)要求人工審查任何完全或部分基于算法處理的個(gè)人決定，如果該決定對(duì)他們有重大影響的話。

19.委員會(huì)建議公共機(jī)構(gòu)以可理解的形式提供信息，說明算法的運(yùn)行方式，以及決策過程中的人為干預(yù)。它還建議考慮將這一義務(wù)擴(kuò)大到私營(yíng)機(jī)構(gòu)。

總體而言，法國(guó)國(guó)家人權(quán)咨詢委員會(huì)提出的關(guān)于“人工智能”意見的宗旨，主要概括為兩個(gè)方面，一是建議禁止某些被認(rèn)為對(duì)基本權(quán)利過于有害的人工智能用途，如社會(huì)評(píng)分或在公共場(chǎng)所對(duì)人們進(jìn)行遠(yuǎn)程生物識(shí)別。二是建議對(duì)人工智能系統(tǒng)的用戶提出能夠保證尊重基本權(quán)利的要求。此外，法國(guó)國(guó)家人權(quán)咨詢委員會(huì)呼吁承認(rèn)算法決策主體的權(quán)利，特別是在決策過程中進(jìn)行人工干預(yù)的權(quán)利以及配置人工智能系統(tǒng)運(yùn)行標(biāo)準(zhǔn)的權(quán)利。

巴黎正在為 2024 年奧運(yùn)會(huì)配備人工智能視頻監(jiān)控?cái)z像頭

在國(guó)際層面，法國(guó)提議建立網(wǎng)絡(luò)安全和人工智能治理的常設(shè)機(jī)制

2023 年7 月，聯(lián)合國(guó)安理會(huì)第9831 次會(huì)議首次審查了人工智能對(duì)國(guó)際和平與安全的影響。秘書長(zhǎng)認(rèn)為，人工智能“具有大規(guī)模行善和作惡的巨大潛力”，其創(chuàng)造者自己也看到了“潛在的生存”風(fēng)險(xiǎn)。意識(shí)到其中的利害關(guān)系，絕大多數(shù)安理會(huì)成員呼吁在國(guó)際層面通過道德和負(fù)責(zé)任行為的原則及相關(guān)建議。在會(huì)上，法國(guó)代表團(tuán)對(duì)人工智能在虛假信息方面的能力感到震驚，并強(qiáng)調(diào)“在競(jìng)爭(zhēng)日益逼近、混合戰(zhàn)爭(zhēng)交織的嚴(yán)酷世界中，必須促使人工智能成為服務(wù)和平的工具”。

2023 年10 月24 日，在聯(lián)合國(guó)大會(huì)第78 屆會(huì)議上，裁軍與國(guó)際安全第一委員會(huì)就“其他裁軍措施和國(guó)際安全”進(jìn)行專題辯論，其中特別包括了與信息技術(shù)、信息和通信、網(wǎng)絡(luò)安全及國(guó)際合作的問題。法國(guó)代表卡米耶·佩蒂特（Camille Petit）指出，在過去的25 年里，各國(guó)政府已經(jīng)認(rèn)識(shí)到數(shù)字技術(shù)是發(fā)展的催化劑，但也可能被用于與維護(hù)國(guó)際和平與安全不相容的目的。在國(guó)家和非國(guó)家行為體實(shí)施的網(wǎng)絡(luò)攻擊的頻率、復(fù)雜性和嚴(yán)重性不斷增加的背景下，網(wǎng)絡(luò)安全已成為一個(gè)重要議題。

為此，法國(guó)以決議草案的形式提出一項(xiàng)旨在《促進(jìn)各國(guó)在國(guó)際安全背景下使用數(shù)字服務(wù)技術(shù)負(fù)責(zé)任行為的行動(dòng)計(jì)劃》，其目標(biāo)是到2026 年底建立一個(gè)常設(shè)的、包容性的和注重行動(dòng)的機(jī)制，以替代當(dāng)前的“2021-2025 年不限成員名額工作組”機(jī)制。該常設(shè)機(jī)制的使命是加強(qiáng)各國(guó)數(shù)字能力建設(shè)，彌合國(guó)家間“數(shù)字鴻溝”，實(shí)施商定的準(zhǔn)則框架，制定具有法律約束力的標(biāo)準(zhǔn)，同時(shí)促進(jìn)非政府行為體——尤其是私營(yíng)部門的參與。此外，法國(guó)強(qiáng)調(diào)，該機(jī)制的構(gòu)建應(yīng)采取一種平衡的方法，機(jī)制建設(shè)進(jìn)程也應(yīng)避免與當(dāng)前工作組產(chǎn)生職能重疊，確保兩者之間平穩(wěn)過渡。與法國(guó)立場(chǎng)類似，東盟等幾個(gè)國(guó)家集團(tuán)都呼吁避免建立平行和重疊的機(jī)制，主張?jiān)趨f(xié)商一致建議的基礎(chǔ)上開展“單軌”治理進(jìn)程。

在區(qū)域?qū)用妫▏?guó)積極主導(dǎo)和參與歐盟人工智能網(wǎng)絡(luò)犯罪的治理

互聯(lián)網(wǎng)的普及運(yùn)用催生了網(wǎng)絡(luò)犯罪，人工智能技術(shù)的興起則加速了這些非法活動(dòng)的趨勢(shì)，或使其變得更加復(fù)雜。據(jù)歐盟估計(jì)，網(wǎng)絡(luò)犯罪每年造成的損失高達(dá)55000億歐元。法國(guó)和歐盟進(jìn)一步意識(shí)到了互聯(lián)網(wǎng)發(fā)展所帶來的潛在危險(xiǎn)，并將打擊網(wǎng)絡(luò)犯罪作為其優(yōu)先事項(xiàng)之一。

2001 年，歐洲委員會(huì)《網(wǎng)絡(luò)犯罪公約》（又稱《布達(dá)佩斯公約》）的誕生，也是歷史上第一個(gè)打擊網(wǎng)絡(luò)犯罪活動(dòng)的國(guó)際協(xié)定。此后，歐盟繼續(xù)對(duì)網(wǎng)絡(luò)空間進(jìn)行監(jiān)管以限制威脅，并先后頒布了一系列重大措施。2013 年，歐盟成立“歐洲網(wǎng)絡(luò)犯罪中心”（EC3），該中心位于荷蘭海牙歐洲警察署所在地，旨在打擊歐盟境內(nèi)的網(wǎng)絡(luò)犯罪。2016 年，歐盟通過《網(wǎng)絡(luò)和信息系統(tǒng)安全指令》（SRI），這是歐盟層面采取的第一項(xiàng)立法措施，旨在加強(qiáng)成員國(guó)之間在網(wǎng)絡(luò)安全這一關(guān)鍵問題上的合作。2019 年，歐盟理事會(huì)通過了《網(wǎng)絡(luò)安全條例》，設(shè)立歐盟網(wǎng)絡(luò)安全局，幫助成員國(guó)、歐盟機(jī)構(gòu)和其他利益攸關(guān)方打擊網(wǎng)絡(luò)攻擊。同年，歐盟建立了針對(duì)網(wǎng)絡(luò)攻擊的自主制裁制度。

2022 年3 月，歐洲理事會(huì)批準(zhǔn)了“戰(zhàn)略指南針”計(jì)劃，這是歐盟第一份關(guān)于安全與防御的白皮書，其中包含數(shù)項(xiàng)打擊網(wǎng)絡(luò)犯罪的有力措施。2022 年，歐盟通過了SRI 2 指令，旨在考慮新的數(shù)字威脅，尤其是在衛(wèi)生危機(jī)期間出現(xiàn)的威脅。同年，歐盟委員會(huì)提出了《歐洲網(wǎng)絡(luò)復(fù)原力法》，目的是在所售產(chǎn)品的整個(gè)生命周期，特別是聯(lián)網(wǎng)物品的整個(gè)生命周期，建立網(wǎng)絡(luò)安全的共同規(guī)則。

2023年3月29日，法國(guó)宣布啟動(dòng)“2030年國(guó)家人工智能新戰(zhàn)略”

2023 年3 月，歐洲警察署討論了人工智能的濫用問題。在最新的一份報(bào)告中，該組織表示從網(wǎng)絡(luò)釣魚到虛假信息和惡意軟件，ChatGPT 等人工智能的快速發(fā)展容易被犯罪分子快速利用。2023 年6 月，歐洲議會(huì)通過了《人工智能法案》，率先展開了規(guī)范人工智能問題的立法嘗試。當(dāng)前，歐盟內(nèi)部正在就如何完善人工智能領(lǐng)域的監(jiān)管問題進(jìn)行討論。此外，歐盟積極建設(shè)“歐洲打擊犯罪威脅多學(xué)科平臺(tái)”（EMPACT），并將“打擊跨國(guó)犯罪威脅和網(wǎng)絡(luò)犯罪”列入EMPACT 平臺(tái)的十大戰(zhàn)略優(yōu)先事項(xiàng)之一。作為歐盟打擊網(wǎng)絡(luò)犯罪和人工智能犯罪的主要力量，法國(guó)正在歐洲層面指導(dǎo)與這一事項(xiàng)有關(guān)的行動(dòng)計(jì)劃。此外，2023 年8 月28 日至9 月1 日，法國(guó)國(guó)際安全合作局（DCIS）第三次會(huì)議在法國(guó)巴黎南泰爾（92 ?。┡e行，歐盟委員會(huì)內(nèi)政和移民事務(wù)總干事莫尼克-帕里亞特（Monique Pariat）在圓桌討論會(huì)上專門就有關(guān)議題進(jìn)行討論，并表示將制定戰(zhàn)略使歐盟能夠應(yīng)對(duì)“數(shù)字時(shí)代”帶來的大規(guī)模犯罪威脅。

最后，歐盟意識(shí)到網(wǎng)絡(luò)安全不能僅在區(qū)域?qū)用孢M(jìn)行治理。例如，近年來歐盟推動(dòng)與伙伴國(guó)家就打擊網(wǎng)絡(luò)犯罪和人工智能監(jiān)管等議題進(jìn)行磋商，特別是許多大型信息服務(wù)提供商所在地的美國(guó)。又如，在開展打擊網(wǎng)絡(luò)犯罪的多邊國(guó)際合作中，歐盟似乎尋求突破區(qū)域局限，除了繼續(xù)推動(dòng)實(shí)施其主導(dǎo)制定的《網(wǎng)絡(luò)犯罪公約》外，還積極參與到了聯(lián)合國(guó)框架下制定的《打擊網(wǎng)絡(luò)犯罪公約》的談判進(jìn)程。