生成式人工智能虛假有害信息的風(fēng)險(xiǎn)挑戰(zhàn)與包容審慎規(guī)制

中圖分類號(hào)：D924 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1007-8207（2025）07-0075-15

一、引言

自2022年底Open AI推出生成式人工智能ChatGPT以來(lái)，因其能利用復(fù)雜算法和深度學(xué)習(xí)模型輔之大數(shù)據(jù)集中學(xué)習(xí)，具備強(qiáng)大的文本處理能力和流暢應(yīng)對(duì)能力而驚艷世界，短短兩個(gè)月用戶即破億。而Sora和Demo等模型的問(wèn)世，更是將生成式人工智能推向了前所未有的關(guān)注高度，它們表明生成式人工智能相關(guān)模型獲得了可媲美人類的判斷推理和行動(dòng)能力。就技術(shù)而言，生成式人工智能遵循著“準(zhǔn)備-運(yùn)算-生成\"的運(yùn)行邏輯，借助日益強(qiáng)大的算法和成熟的前置訓(xùn)練數(shù)據(jù)，最終產(chǎn)生了與原始數(shù)據(jù)類似但又新穎獨(dú)特的文本、圖像、音頻和視頻等信息，簡(jiǎn)而言之即模型根據(jù)指令生成某種內(nèi)容?？梢?jiàn)，創(chuàng)造性與自主性是生成式人工智能的重要特征。

然而，在技術(shù)狂歡背后卻暗藏著風(fēng)險(xiǎn)，由于訓(xùn)練數(shù)據(jù)可能存在的漏洞以及算法固有黑箱等，生成式人工智能輸出的新內(nèi)容可靠性低，極易產(chǎn)生虛假有害信息。此外，技術(shù)獲取的便利性也大大降低了虛假有害信息生成成本，其可借助新型媒介廣為傳播。加之，技術(shù)進(jìn)步導(dǎo)致犯罪門檻降低和監(jiān)管缺失，進(jìn)一步加劇虛假有害信息的泛濫，極易滋生惡劣影響。英國(guó)學(xué)者辛頓曾警告稱：“生成式人工智能正制造大量虛假的文本、圖片和影像如不有效規(guī)則，人類將失去對(duì)AI的控制?！彪m然因技術(shù)進(jìn)步而引致的虛假有害信息已然出現(xiàn)，但相較于之前技術(shù)，生成式人工智能技術(shù)具有高度自主性以及交叉性，其不僅可“主動(dòng)\"憑空捏造或“被動(dòng)\"訓(xùn)練出虛假有害信息，而且虛假有害信息高度逼真以致難以跟蹤治理。若此風(fēng)險(xiǎn)被人為有目的地利用，以制造網(wǎng)絡(luò)熱點(diǎn)、挑動(dòng)公眾情緒或歪曲歷史事實(shí)，將危害國(guó)家安全、侵犯公民利益。22023年8月，工信部、公安部等部門聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《暫行辦法》)。2023年10月，全球信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)發(fā)布《生成式人工智能服務(wù)安全基本要求》。這些辦法或行業(yè)標(biāo)準(zhǔn)都強(qiáng)調(diào)利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，并應(yīng)采取措施防止生成和傳播虛假有害信息。然而，囿于生成式人工智能處于起步階段，且牽及對(duì)信息的治理和運(yùn)用信息的治理，以及未結(jié)合生成式人工智能虛假有害信息特殊性，導(dǎo)致當(dāng)前規(guī)制手段較為零散與粗疏。再者，《暫行辦法》規(guī)范范圍有限與效力位階較低，尚不能滿足應(yīng)對(duì)生成式人工智能虛假有害信息的復(fù)雜性與挑戰(zhàn)性之需?；诖?，筆者嘗試從數(shù)據(jù)信息與綜合規(guī)制的互構(gòu)性角度，從整體性與合作性視角探討，構(gòu)建生成式人工智能虛假有害信息的包容審慎規(guī)制框架。

二、生成式人工智能引發(fā)的虛假有害信息風(fēng)險(xiǎn)

虛假有害信息古已有之，并廣泛運(yùn)用于軍事、政治、情報(bào)等領(lǐng)域，但其存在又與技術(shù)條件密不可分。隨著深度學(xué)習(xí)等技術(shù)的迭代更新，生成式人工智能取得突破性發(fā)展，其功能越強(qiáng)大，制造虛假有害信息也愈發(fā)容易且復(fù)雜。加之信息的開(kāi)放性、自主性、流動(dòng)性等特性，為虛假有害信

息泛濫創(chuàng)造了條件，也極大增加了治理難度。

(一)虛假有害信息的框定

信息和知識(shí)是數(shù)字經(jīng)濟(jì)時(shí)代的關(guān)鍵要素，虛假且有害的信息將對(duì)數(shù)字經(jīng)濟(jì)造成重大挑戰(zhàn)?！疤摷儆泻π畔"是一個(gè)復(fù)合的概念，在某種程度上，有害信息的危害性要比虛假信息大得多。3]“虛假有害信息\"這一概念在《暫行辦法》中被應(yīng)用于第四條第一款“堅(jiān)持社會(huì)主義核心價(jià)值觀，不得生成煽動(dòng)顛覆國(guó)家政權(quán)、推翻社會(huì)主義制度，危害國(guó)家安全和利益、損害國(guó)家形象，煽動(dòng)分裂國(guó)家、破壞國(guó)家統(tǒng)一和社會(huì)穩(wěn)定，宣揚(yáng)恐怖主義、極端主義，宣揚(yáng)民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容”，但何為“虛假有害信息\"未詳細(xì)界定。虛假信息原用于軍事或情報(bào)部門，以此迷惑對(duì)手，后被理解為讓信息接收者相信是真實(shí)的信息而特意傳遞的錯(cuò)誤信息，具有內(nèi)容虛假、目的迷惑等特性。4]而有害信息原指計(jì)算機(jī)系統(tǒng)存在的程序、圖像等有害數(shù)據(jù)，后被界定為內(nèi)容在倫理道德、價(jià)值觀導(dǎo)向、真實(shí)性或合法性等方面存在嚴(yán)重錯(cuò)誤，對(duì)國(guó)家、社會(huì)以及法人等合法權(quán)益造成潛在危害的信息，具有傳播隱蔽性、時(shí)空即時(shí)性以及受眾廣泛性等特點(diǎn)。5因此，從文義上來(lái)看，虛假有害信息是指虛假的、故意制造的，旨在欺騙、誤導(dǎo)或損害個(gè)人、社會(huì)團(tuán)體、組織或國(guó)家的錯(cuò)誤信息。這些信息可能包括憑空捏造的內(nèi)容、謠言、陰謀論等，其目的通常是為了獲取不當(dāng)利益、破壞社會(huì)秩序或滿足某種政治或意識(shí)形態(tài)需要。從內(nèi)在關(guān)系來(lái)看，“虛假信息\"和“有害信息\"是密切相關(guān)的，二者之間存在著緊密的關(guān)系。其中，虛假信息側(cè)重指不真實(shí)或不準(zhǔn)確的信息，它可能是故意捏造的、誤導(dǎo)性的或錯(cuò)誤的，如謠言、誤傳、虛構(gòu)的內(nèi)容等，這些信息的主要特點(diǎn)是與事實(shí)不符或存在誤導(dǎo)性，可能誤導(dǎo)受眾的認(rèn)知和行為。有害信息則強(qiáng)調(diào)對(duì)個(gè)人、社會(huì)、組織或國(guó)家造成傷害或不良影響的信息，如侮辱、誹謗、仇恨言論、暴力內(nèi)容等，其主要特點(diǎn)是具有傷害性或負(fù)面影響。虛假信息通常是有害信息的一種形式或表現(xiàn)方式，當(dāng)信息不真實(shí)或被故意捏造時(shí)，它可能會(huì)對(duì)個(gè)人、社會(huì)或公共利益造成損害，因此被視為有害信息。虛假信息的傳播可能導(dǎo)致公眾受騙、社會(huì)不穩(wěn)定以及損害人們的信任和社會(huì)凝聚力。同時(shí)，有害信息通常也包含虛假信息。因此，在\"虛假有害信息\"的概念中，二者是相互交織的，共同構(gòu)成了對(duì)信息真實(shí)性和社會(huì)公共利益的威脅。

(二)生成式人工智能虛假有害信息的特征

1.自動(dòng)生成性——突破現(xiàn)有治理防線。生成式人工智能模型能利用深度學(xué)習(xí)的復(fù)雜計(jì)算過(guò)程，通過(guò)對(duì)海量數(shù)據(jù)進(jìn)行分析，并結(jié)合神經(jīng)網(wǎng)絡(luò)等機(jī)器學(xué)習(xí)方法，使其具有與人類大腦相似的處理與解讀能力。隨著時(shí)間的推移，生成式人工智能模型生成的內(nèi)容越多，且這些內(nèi)容并非人類作者創(chuàng)造，而是短時(shí)間內(nèi)模型自動(dòng)生成，其可能因信息輸出或生成的高度擬人化而更具說(shuō)服力。例如，通過(guò)用戶連續(xù)不斷輸入指令，要求生成式人工智能生成需要的內(nèi)容，深度學(xué)習(xí)模型也在不停地更新它們從海量的訓(xùn)練數(shù)據(jù)中學(xué)習(xí)出來(lái)的知識(shí)。因此，生成式模型能按照人類設(shè)置的參數(shù)進(jìn)行自動(dòng)化工作，并不斷更新知識(shí)體系以創(chuàng)建源源不斷的新內(nèi)容。然而，這些自動(dòng)生成內(nèi)容是模仿訓(xùn)練數(shù)據(jù)而來(lái)，而不是模型自身的理解，這就難以避免出現(xiàn)“一本正經(jīng)地胡說(shuō)八道”6]，為虛假有害信息之產(chǎn)生埋下了伏筆，如自動(dòng)生成的謠言、深度偽造的信息。這些信息在抖音等平臺(tái)廣泛傳播，打破了傳統(tǒng)信息發(fā)布方式，人人為媒介使得虛假有害信息從四面八方涌入各種平臺(tái)。這種兼具高效率與欺騙性的虛假有害信息，增加了平臺(tái)識(shí)別困難，也突破了現(xiàn)有平臺(tái)治理體系，大大提高了虛假有害信息的治理難度。

2.高度似真性——增加信息信任風(fēng)險(xiǎn)?！吧墒絓"和“人工智能\"相結(jié)合，使生成式人工智能技術(shù)\"遠(yuǎn)比普通人更具有知識(shí)對(duì)話與內(nèi)容生產(chǎn)能力\"7]，如生成式人工智能能以類似聊天的方式快速提供合乎邏輯的答案，其便捷高效與智能性使其成為人們獲取知識(shí)的重要途徑之一。但是，生成式人工智能卻存在著高度似真性的弊端，這也在一定程度上導(dǎo)致虛假有害信息的大量生成。比如生成式人工智能系統(tǒng)通過(guò)自主學(xué)習(xí)能在文字、視頻、音頻等方面生成使人真假難辨且符合人類認(rèn)知的虛假新聞、誤導(dǎo)性評(píng)論、欺詐性廣告以及其他虛假有害信息。有些不法分子只需一張靜態(tài)照片，便可自動(dòng)生成一幅足以以假亂真的名畫(huà)，如曾榮獲2023年度索尼世界攝影大賽創(chuàng)意類大獎(jiǎng)作品《虛假記憶：電工》便為人工智能自動(dòng)生成。8]生成式人工智能系統(tǒng)甚至可以自動(dòng)生成某些國(guó)家領(lǐng)導(dǎo)者視頻，誤導(dǎo)用戶、影響公眾輿論，甚至引發(fā)社會(huì)恐慌和混亂，增加了信息信任風(fēng)險(xiǎn)。據(jù)美國(guó)全國(guó)消費(fèi)法律中心在2022年發(fā)布的一項(xiàng)報(bào)告顯示，在2020年6月至2021年間，通過(guò)人工智能克隆聲音的欺詐機(jī)器人每個(gè)月向美國(guó)境內(nèi)撥打了超過(guò)10億個(gè)詐騙電話，造成了近300億美元損失。[9]同時(shí)，這種欺詐行為的語(yǔ)言腳本大多數(shù)由諸如ChatGPT這樣的文字產(chǎn)生器產(chǎn)生的，造成對(duì)信息的信任風(fēng)險(xiǎn)。

3.快速傳播性——放大信息風(fēng)險(xiǎn)隱患。生成式人工智能的自動(dòng)化特性可以大規(guī)模生成內(nèi)容，且無(wú)需人工干預(yù)，從而加速虛假有害信息的擴(kuò)散速度和范圍。其一，生成式人工智能技術(shù)可以極快的速度創(chuàng)建大量虛假有害內(nèi)容，包括圖像、視頻、音頻和文本，這些內(nèi)容可以模仿真實(shí)情境，降低造謠成本和增加謠言“真實(shí)性”，猶如披著華麗的外衣而誤導(dǎo)受眾，并操縱其觀點(diǎn)。同時(shí)，社交媒體和在線平臺(tái)作為信息傳播的主要渠道，使生成的虛假信息迅速?gòu)V泛傳播，加速其影響力。有研究發(fā)現(xiàn)在國(guó)外網(wǎng)絡(luò)平臺(tái)上有 16.5% 涉華議題由社交機(jī)器人操縱，而這些議題往往是虛假有害信息，對(duì)我國(guó)國(guó)際形象造成重大影響。10]其二，生成式人工智能虛假有害信息可針對(duì)特定受眾進(jìn)行定制，利用個(gè)人數(shù)據(jù)和算法來(lái)精準(zhǔn)定位目標(biāo)人群，增加其傳播效果。例如，英國(guó)反對(duì)派領(lǐng)導(dǎo)人凱爾·斯塔默于2023年遭到一段由生成式人工智能制造的虛假音瀕攻擊，其中有他辱罵員工的錄音，短短數(shù)天內(nèi)，這段錄像在X(前身為Twitter)上的點(diǎn)擊率高達(dá)150000次。[]

(三)生成式人工智能虛假有害信息的類型

1.違背事實(shí)編撰的虛假有害信息。生成式人工智能模型雖然進(jìn)步迅速，但其所依據(jù)的技術(shù)內(nèi)核仍存在一定局限性。生成式人工智能并非依據(jù)事實(shí)自動(dòng)生成內(nèi)容，而是需要借助海量的訓(xùn)練數(shù)據(jù)集，這也被視為該技術(shù)的“養(yǎng)料”。由于技術(shù)的更新速度加快，一個(gè)模型所需要的訓(xùn)練數(shù)據(jù)集也隨之飆升，為彌補(bǔ)這些數(shù)據(jù)缺口，就可能使用沒(méi)有篩選的虛假有害數(shù)據(jù)以次充好。在訓(xùn)練中模型就有可能學(xué)習(xí)并生成類似的內(nèi)容，其生成的內(nèi)容便會(huì)扭曲信息真實(shí)性以及增加誤導(dǎo)性，進(jìn)而成為虛假有害信息。例如，假設(shè)一個(gè)生成式人工智能模型被訓(xùn)練用于自動(dòng)生成新聞文章，如果該模型所用的訓(xùn)練數(shù)據(jù)集包含大量來(lái)自不可靠來(lái)源的虛假新聞、誤導(dǎo)性信息或扭曲事實(shí)的內(nèi)容，模型就可能學(xué)習(xí)到這些錯(cuò)誤信息的模式和特征。隨后，當(dāng)用戶向該模型提供輸入或請(qǐng)求生成新聞時(shí)，模型可能會(huì)基于其訓(xùn)練數(shù)據(jù)中的模式，產(chǎn)生類似的虛假內(nèi)容。生成式人工智能有時(shí)候會(huì)自動(dòng)地產(chǎn)生錯(cuò)誤、虛構(gòu)或帶有誤導(dǎo)性的內(nèi)容，這甚至已經(jīng)成為眾所周知的事實(shí)，連ChatGPT自已都有所承認(rèn)。[12]

2.深度偽造的虛假有害信息。區(qū)別于上述違背事實(shí)編撰虛假信息，生成式人工智能也可以被用于制作所謂的深度偽造圖像或視頻，這是一種技術(shù)自身積極生成式風(fēng)險(xiǎn)。深度偽造是指利用人工智能技術(shù)，將人物圖像、聲音和視頻等信息融合在一起，讓它們的內(nèi)容變得更真實(shí)。這些信息從表面上看起來(lái)非常似真，無(wú)論人亦或是機(jī)器，都極難發(fā)覺(jué)它們是被偽造的圖像或視頻。例如，人們能夠利用生成式人工智能創(chuàng)造虛假圖片或者視頻，然后利用這些圖片來(lái)博眼球。在荷蘭YouTube頻道\"DiepNep\"上，已故影星Morgan Freeman出現(xiàn)在了一段經(jīng)過(guò)深度偽造的視頻中，隨著該視頻在社會(huì)網(wǎng)絡(luò)上曝光，有關(guān)其真實(shí)性的爭(zhēng)論也隨之爆發(fā)。13]

3.人為操縱的虛假有害信息。人為操縱是指某些別有用心之人，出于非法目的，利用生成式人工智能技術(shù)，編造的虛假有害信息，如以假亂真、無(wú)中生有、藏匿摻雜等。不法分子還能利用這項(xiàng)技術(shù)創(chuàng)造出更真實(shí)、更復(fù)雜的網(wǎng)絡(luò)釣魚(yú)騙局來(lái)進(jìn)行詐騙。借助像ChatGPT這樣的生成式人工智能工具，能夠在線索很少的情況下，編輯出符合特定文化背景的、敘事邏輯完整的假文本，從而使犯罪分子能夠在情感、投資等多個(gè)場(chǎng)景中實(shí)施詐騙行為。如果將被泄露的個(gè)人信息與為其量身定制的音頻、視頻、圖像相結(jié)合起來(lái)，就能實(shí)現(xiàn)有針對(duì)性的網(wǎng)絡(luò)詐騙。據(jù)香港文匯報(bào)報(bào)道，2024年2月4日某跨國(guó)公司香港分公司被詐騙集團(tuán)利用人工智能“深度偽造\"技術(shù)，騙取兩億港幣，成為香港有史以來(lái)?yè)p失最大“換臉\"案。14]

三、生成式人工智能產(chǎn)生虛假有害信息的成因

(一)內(nèi)在原因

1.訓(xùn)練數(shù)據(jù)隱藏虛假有害信息。高質(zhì)量的訓(xùn)練數(shù)據(jù)是生成式人工智能模型的核心，獲取適當(dāng)?shù)挠?xùn)練數(shù)據(jù)對(duì)于開(kāi)發(fā)實(shí)用的生成式人工智能模型至關(guān)重要。生成式人工智能的訓(xùn)練數(shù)據(jù)主要通過(guò)多種渠道產(chǎn)生，包括公共數(shù)據(jù)集、專有數(shù)據(jù)、眾包數(shù)據(jù)和合成數(shù)據(jù)。公共數(shù)據(jù)集通常由學(xué)術(shù)機(jī)構(gòu)或開(kāi)源社區(qū)發(fā)布，如Wikipedia、Common Crawl等，為模型提供大量基礎(chǔ)訓(xùn)練素材。專有數(shù)據(jù)則是企業(yè)或研究機(jī)構(gòu)根據(jù)特定需求收集的高質(zhì)量數(shù)據(jù)，能夠提升模型的針對(duì)性和性能。眾包數(shù)據(jù)平臺(tái)通過(guò)吸引大量用戶參與數(shù)據(jù)標(biāo)注和收集工作，如圖像標(biāo)記和語(yǔ)音識(shí)別數(shù)據(jù)。GPT-4是建立在高達(dá)570GB數(shù)據(jù)訓(xùn)練的GPT-3基礎(chǔ)上的，并加入了大量人類標(biāo)注。15]此外，生成式人工智能模型還可以利用已有模型生成合成數(shù)據(jù)，擴(kuò)充訓(xùn)練集以應(yīng)對(duì)罕見(jiàn)或極端情況。這些多樣化的數(shù)據(jù)來(lái)源共同構(gòu)建了生成式人工智能模型的強(qiáng)大訓(xùn)練基礎(chǔ)，使其能夠在生成文本、圖像、音頻等方面表現(xiàn)出色。但如果訓(xùn)練數(shù)據(jù)存在偏差或不平衡，以及含有虛假有害的信息，將可能導(dǎo)致生成結(jié)果存在歧視或偏見(jiàn)，模型甚至無(wú)意間傳播這些錯(cuò)誤和有害的內(nèi)容。16]Open AI雖然宣布在訓(xùn)練數(shù)據(jù)上進(jìn)行了內(nèi)容過(guò)濾，并對(duì)人工智能系統(tǒng)提出了“禁止編造不實(shí)內(nèi)容，禁止生成含有有害、歧視或偏見(jiàn)的內(nèi)容\"的要求，但仍然不能從根本上解決數(shù)據(jù)質(zhì)量存在的一系列問(wèn)題。[17]

2.算法黑箱懸而未決。算法是生成式人工智能通過(guò)學(xué)習(xí)大量現(xiàn)有數(shù)據(jù)的模式和特征來(lái)運(yùn)作，繼而生成新的內(nèi)容的基本架構(gòu)，也是人工智能的靈魂所在。然而，當(dāng)前生成式人工智能仍存在著一些算法技術(shù)缺陷，這是導(dǎo)致生成式人工智能虛假有害信息生成的關(guān)鍵技術(shù)因素。首先，算法設(shè)計(jì)不當(dāng)可能導(dǎo)致模型在生成內(nèi)容時(shí)存在偏差，從而產(chǎn)生虛假有害信息。在學(xué)界存在著算法是否中立的討論，主張算法中立的觀點(diǎn)認(rèn)為，算法只是人類眾多技術(shù)中的一類，其本身不具有價(jià)值取向。而持相反意見(jiàn)的學(xué)者認(rèn)為，算法雖是技術(shù)，但并非價(jià)值中立，因?yàn)槠涫潜蝗藙?chuàng)造，技術(shù)開(kāi)發(fā)者容易將自我價(jià)值融入算法開(kāi)發(fā)中，自然算法就不能保持中立。從此角度來(lái)看，一旦在設(shè)計(jì)時(shí)被植入了消極價(jià)值觀，算法就存在著漏洞，機(jī)器可能因假設(shè)誤導(dǎo)而作出錯(cuò)誤的道德決策。18其次，算法的技術(shù)限制也可能導(dǎo)致生成的內(nèi)容出現(xiàn)錯(cuò)誤或虛假有害信息。即使是最普通的算法，也是由多個(gè)隱藏的人工神經(jīng)元層組成，涉及數(shù)以百萬(wàn)計(jì)權(quán)重，再借助超高算力將海量數(shù)據(jù)的輸入和輸出聯(lián)系起來(lái)，背后卻暗藏著層層疊加的神經(jīng)元層。19]由于算法無(wú)法理解語(yǔ)境或判斷信息的真實(shí)性，可能會(huì)生成與事實(shí)不符的內(nèi)容，進(jìn)而誤導(dǎo)用戶或造成不良影響。[20]最后，算法可能受到模型的限制，無(wú)法有效過(guò)濾或糾正錯(cuò)誤。例如，一些生成式人工智能可能過(guò)度擬合訓(xùn)練數(shù)據(jù)，導(dǎo)致在新情境下產(chǎn)生不準(zhǔn)確或有害信息的輸出。[21]

3.技術(shù)應(yīng)用的平民化和低成本。由于生成式人工智能建立在基于人類反饋的強(qiáng)化學(xué)習(xí)模式之上，其輸出必須依賴輸入數(shù)據(jù)的循環(huán)反饋，而這使用人類語(yǔ)言的形式極大降低了用戶訓(xùn)練模型的技術(shù)門檻和成本。22目前來(lái)看，絕大部分生成式人工智能技術(shù)工具通?？稍诰W(wǎng)上免費(fèi)或以較低的成本獲取，使大量用戶可以訪問(wèn)和使用它們，進(jìn)而生成逼真的虛假圖像、視頻和文本。例如，Mid Jourmey允許用戶通過(guò)輸入簡(jiǎn)單的文本描述來(lái)生成似真的圖像。該工具不僅功能強(qiáng)大，而且只需支付較低的訂閱費(fèi)用即可使用，這樣的低成本和易獲取性使任何人都可以輕松使用這類工具來(lái)生成似真的虛假圖像。

(二)外在原因

1.現(xiàn)有政府監(jiān)管舉措滯后。一方面，監(jiān)管舉措的滯后或闕如。生成式人工智能工具在生成內(nèi)容時(shí)并不需要經(jīng)過(guò)嚴(yán)格的審核和驗(yàn)證，這就導(dǎo)致了虛假有害信息的迅速傳播。這種情況下，虛假有害信息可以不受限制地被生成和傳播，尤其是在社交媒體和其他網(wǎng)絡(luò)平臺(tái)上，其傳播速度極快，影響范圍廣泛，甚至可能在短時(shí)間內(nèi)達(dá)到成千上萬(wàn)的點(diǎn)擊和瀏覽量，從而對(duì)公眾的認(rèn)知和輿論產(chǎn)生巨大影響。此外，檢測(cè)和識(shí)別這些虛假有害信息的技術(shù)手段也相對(duì)滯后，進(jìn)一步加劇了信息的真實(shí)性和安全性的危機(jī)。另一方面，現(xiàn)有的法律框架對(duì)人工智能生成內(nèi)容的監(jiān)管處于初步階段，缺乏具體有效的法律條文約束和規(guī)范這類行為。全球范圍內(nèi)尚未形成統(tǒng)一的標(biāo)準(zhǔn)，各國(guó)在立法進(jìn)程和監(jiān)管力度上存在顯著差異。這種局面導(dǎo)致了生成式人工智能生成內(nèi)容的監(jiān)管存在真空，可能引發(fā)虛假有害信息等問(wèn)題。此外，當(dāng)前我國(guó)現(xiàn)有法律中對(duì)虛假和有害信息的界定較為模糊，如我國(guó)現(xiàn)行刑法法律文本中對(duì)虛假有害信息尚未有明確界定，而是用“謠言\"“虛假信息\"“不良信息\"等多種表述，但對(duì)生成式人工智能產(chǎn)生的深度偽造信息、虛擬圖像和聲音等，尚未涵蓋其中。同時(shí)，生成式人工智能虛假有害信息范圍更為寬泛，尤其是對(duì)信息生成主體的歸責(zé)以現(xiàn)有法律標(biāo)準(zhǔn)難以實(shí)現(xiàn)。

2.技術(shù)市場(chǎng)化為虛假有害信息生成提供“便利”。生成式人工智能技術(shù)的進(jìn)步，特別是在自然語(yǔ)言處理和圖像生成方面，使其應(yīng)用變得更加簡(jiǎn)單和普及。這樣的進(jìn)步意味著技術(shù)門檻降低，不再需要專業(yè)的技術(shù)背景或昂貴的設(shè)備，任何人都可以輕松使用這些工具。這一便利性也為不法分子提供了新的手段，他們可以利用生成式人工智能技術(shù)制作高度似真的偽造內(nèi)容，例如深度偽造視頻和圖片，使虛假信息看起來(lái)真實(shí)可信，從而迷惑公眾。不法分子利用生成式人工智能生成虛假有害信息進(jìn)行詐騙的原因在于這種技術(shù)提供了前所未有的便捷性和高效性，使詐騙手段更加隱蔽和難以識(shí)別。例如，通過(guò)人工智能換臉技術(shù)和擬聲技術(shù)，不法分子可以冒充他人進(jìn)行視頻通話或語(yǔ)音聊天，增加詐騙的成功率。此外，由于生成式人工智能能夠快速生成大量含有虛假有害信息的內(nèi)容，不法分子可以在短時(shí)間內(nèi)進(jìn)行大規(guī)模的詐騙活動(dòng)，在一定程度上也增加了被害者人數(shù)和被詐騙金額。[23]

四、生成式人工智能虛假有害信息風(fēng)險(xiǎn)的包容審慎規(guī)制

(一)包容審慎規(guī)制的適用性

作為區(qū)別于傳統(tǒng)新型規(guī)制手段，包容審慎規(guī)制適應(yīng)了顛覆性技術(shù)快速發(fā)展的需要。2020年，中共中央、國(guó)務(wù)院在《關(guān)于新時(shí)代加快完善社會(huì)主義市場(chǎng)經(jīng)濟(jì)體制的意見(jiàn)》中提出“健全對(duì)新業(yè)態(tài)的包容審慎監(jiān)管制度”隨后，這一概念迅速發(fā)展為具有中國(guó)特色的本土化政策用語(yǔ)，用以防止過(guò)度包容或者泛濫采取運(yùn)動(dòng)式治理手段這兩種極端形態(tài)，是對(duì)業(yè)態(tài)風(fēng)險(xiǎn)與監(jiān)管實(shí)效的及時(shí)回應(yīng)。24]在應(yīng)對(duì)生成式人工智能虛假有害信息方面，包容審慎規(guī)制具有以下適用性：其一，包容審慎規(guī)制更多強(qiáng)調(diào)柔性，以包容之心給予必要的發(fā)展時(shí)間與試錯(cuò)空間，并依據(jù)公共風(fēng)險(xiǎn)的大小適時(shí)適度干預(yù)。[25]如設(shè)置“包容期\"“觀察期\"等，《吉林省優(yōu)化營(yíng)商環(huán)境條例實(shí)施細(xì)則》第三十一條規(guī)定：“對(duì)新技術(shù)、新產(chǎn)業(yè)、新業(yè)態(tài)、新模式的‘四新經(jīng)濟(jì)'實(shí)體，只要不碰觸安全環(huán)境底線，科學(xué)設(shè)置觀察期、給予過(guò)渡期、實(shí)行保護(hù)期，通過(guò)包容審慎監(jiān)管執(zhí)法方式，引導(dǎo)規(guī)范和督促其依法經(jīng)營(yíng)。\"《廣東省人民政府辦公廳關(guān)于推進(jìn)包容審慎監(jiān)管的意見(jiàn)》（粵府辦[2022]7號(hào))規(guī)定：“對(duì)符合國(guó)家和省政策導(dǎo)向、有發(fā)展前景的新業(yè)態(tài)新模式企業(yè)，可給予合理的執(zhí)法‘觀察期’。觀察期'內(nèi)優(yōu)先采取教育提醒、勸導(dǎo)示范、警示告誡、行政提示、行政指導(dǎo)、行政約談等柔性執(zhí)法方式，完善執(zhí)法‘觀察期'制度指引，謹(jǐn)慎使用行政處罰等嚴(yán)厲執(zhí)法措施。\"設(shè)置\"包容期\"\"觀察期\"旨在解決技術(shù)進(jìn)步與監(jiān)管執(zhí)法步調(diào)不一致難題，這一點(diǎn)區(qū)別于傳統(tǒng)行政規(guī)制。生成式人工智能的發(fā)展速度使虛假有害信息越來(lái)越似真，難以被普通用戶、甚至是專業(yè)人員及時(shí)識(shí)別，這遠(yuǎn)超行政規(guī)制手段的更新速度。如深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)正以指數(shù)級(jí)速度發(fā)展，加之核心算法框架的不斷改進(jìn)，使生成式人工智能自動(dòng)生成內(nèi)容愈發(fā)真假難辨。從某種程度上來(lái)說(shuō)，這種技術(shù)進(jìn)步大大縮短了從概念到實(shí)際應(yīng)用的時(shí)間。然而，為了適應(yīng)市場(chǎng)的需求，越來(lái)越多新種類的生成式人工智能工具迅速涌現(xiàn)，而法律和監(jiān)管卻難以及時(shí)跟上這一發(fā)展步伐。如命令控制型手段存在路徑依賴，往往因繁瑣的程序而陷入規(guī)則滯后或僵化，容易忽視技術(shù)變化的實(shí)效性，難以應(yīng)對(duì)快速發(fā)展的技術(shù)，且生成式人工智能的運(yùn)用作為市場(chǎng)行為，倘若對(duì)其介入過(guò)多的公權(quán)力，則可能干擾其正常發(fā)展，從而導(dǎo)致規(guī)制效果失衡。26]另外，生成式人工智能的“黑箱\"特性，即其決策過(guò)程的高度不透明性和復(fù)雜性，也使監(jiān)管變得異常復(fù)雜?？梢?jiàn)，包容審慎規(guī)制能有效克服傳統(tǒng)剛性規(guī)制弊端，適應(yīng)新業(yè)態(tài)發(fā)展所需。

其二，包容審慎規(guī)制注重協(xié)同合作，強(qiáng)調(diào)行政機(jī)關(guān)與企業(yè)、行業(yè)協(xié)會(huì)以及法人等不同主體的互動(dòng)，以構(gòu)建網(wǎng)絡(luò)化的合作規(guī)制體系，規(guī)避因信息不對(duì)稱造成的規(guī)制難題。過(guò)往對(duì)網(wǎng)絡(luò)謠言、網(wǎng)絡(luò)虛假信息等治理，強(qiáng)調(diào)以政府、用戶以及媒體等主體為核心。但生成式人工智能作為當(dāng)前最具顛覆性特征的技術(shù)，其復(fù)雜的生成原理表明單獨(dú)依靠某一主體規(guī)制虛假有害信息不再有效。一方面，生成式人工智能具有較高的專業(yè)技術(shù)知識(shí)密度，易造成巨大的信息不對(duì)稱，比如市場(chǎng)主體擁有其他主體不具備的信息資源優(yōu)勢(shì)，政府主體則具備獨(dú)有的法理優(yōu)勢(shì)，但二者均不具備單獨(dú)規(guī)制優(yōu)勢(shì)，加之信息跨層流動(dòng)造成規(guī)制失靈，亟需合作規(guī)制下的互動(dòng)交流，合理利用不同主體的優(yōu)勢(shì)，調(diào)動(dòng)更多的人才資源及時(shí)調(diào)整治理結(jié)構(gòu)，以回應(yīng)虛假有害信息的不可控性、隱蔽性等特點(diǎn)。另一方面，虛假有害信息生成背后并非簡(jiǎn)單的技術(shù)因素，而與市場(chǎng)主體的利益有關(guān)，尤其是利益密切者，在私利催使下往往以利益為主，而不顧及公共利益。在此情形下，政府規(guī)制與市場(chǎng)監(jiān)管將出現(xiàn)雙失靈。27]另外，傳播風(fēng)險(xiǎn)眾多帶來(lái)責(zé)任劃分困境。生成式人工智能虛假有害信息的生成涉及開(kāi)發(fā)者、服務(wù)提供者以及用戶等利益主體，對(duì)于開(kāi)發(fā)者而言，其在創(chuàng)建和訓(xùn)練技術(shù)時(shí)就處在責(zé)任鏈的起點(diǎn)，盡管開(kāi)發(fā)者通常遵循技術(shù)中立原則，即技術(shù)本身不應(yīng)為其用途負(fù)責(zé)，但這一立場(chǎng)在法律和道德上受到越來(lái)越多的質(zhì)疑。在某些情況下，服務(wù)提供者可能需要對(duì)其平臺(tái)上發(fā)生的濫用行為承擔(dān)責(zé)任。例如，社交媒體平臺(tái)在處理虛假信息傳播時(shí)，往往需要根據(jù)法律要求采取行動(dòng)，刪除虛假內(nèi)容并限制有害用戶的活動(dòng)。雖然《中華人民共和國(guó)民法典》第一千一百九十五條規(guī)定了“網(wǎng)絡(luò)服務(wù)提供者侵權(quán)補(bǔ)救措施與責(zé)任承擔(dān)”，但不能將內(nèi)容生產(chǎn)者的責(zé)任完全歸于服務(wù)提供者。用戶作為最終使用生成式人工智能技術(shù)的使用者，可以出于各種動(dòng)機(jī)使用生成式人工智能，例如制造謠言、傳播誤導(dǎo)性信息或進(jìn)行惡意攻擊。盡管用戶對(duì)其行為應(yīng)負(fù)主要責(zé)任，但其與平臺(tái)的復(fù)雜關(guān)系，容易將自身責(zé)任推給平臺(tái)，使得追蹤信息傳播與責(zé)任人變得復(fù)雜?？梢?jiàn)，在規(guī)制生成式人工智能虛假有害信息時(shí)，必須從信息生成視角，構(gòu)建以政府公權(quán)力為主導(dǎo)的多元主體合作互動(dòng)的包容審慎規(guī)制框架。

其三，包容審慎規(guī)制適應(yīng)情景化治理?；貞?yīng)性是包容審慎規(guī)制的重要維度，其強(qiáng)調(diào)量體裁衣式的規(guī)制舉措，規(guī)避了傳統(tǒng)遵從式行政執(zhí)法弊端，使行政與法律二者在特定情形中合理運(yùn)用。第一，生成式人工智能快速生成大量虛假有害內(nèi)容，這些內(nèi)容在外觀上高度似真，難以通過(guò)傳統(tǒng)手段進(jìn)行識(shí)別和過(guò)濾。而現(xiàn)有法律體系主要針對(duì)傳統(tǒng)媒介和手動(dòng)生成的虛假信息，在定義和鑒別這些虛假有害信息方面仍然存在漏洞，應(yīng)對(duì)起來(lái)則捉襟見(jiàn)肘。但法律的制定和修訂過(guò)程通常相對(duì)緩慢，無(wú)法追上人工智能的迭代速度，這種時(shí)間差進(jìn)一步加劇了法律規(guī)制的滯后性，導(dǎo)致在實(shí)際執(zhí)行過(guò)程中難以全面覆蓋和有效約束。此時(shí)，可依據(jù)不同情境，在合理合法框架下增強(qiáng)行政監(jiān)管執(zhí)法的嚴(yán)苛性。第二，生成式人工智能虛假有害信息在不同階段有不同特點(diǎn)，并且其遵循的以基礎(chǔ)模型為前提，發(fā)展專業(yè)模型為方法，提供多場(chǎng)景服務(wù)應(yīng)用為目的，而這無(wú)法用傳統(tǒng)單一場(chǎng)景的“技術(shù)支持者—服務(wù)提供者—內(nèi)容生產(chǎn)者\(yùn)"框架規(guī)制。28]這種框架以事后調(diào)查、分散推進(jìn)為特征，無(wú)法應(yīng)對(duì)虛假有害信息快速生成、多場(chǎng)景應(yīng)用的形態(tài)。包容審慎規(guī)制則從訓(xùn)練數(shù)據(jù)、算法模型以及服務(wù)應(yīng)用等不同層面，關(guān)注關(guān)鍵場(chǎng)景與重點(diǎn)領(lǐng)域，適配不同的規(guī)制手段。第三，在跨國(guó)界協(xié)作和執(zhí)法方面現(xiàn)行規(guī)則也面臨巨大挑戰(zhàn)。虛假有害信息的傳播往往不受國(guó)界限制，但各國(guó)法律體系和執(zhí)法力度存在差異，使得跨國(guó)界的法律合作和信息共享變得復(fù)雜且低效。這就需要對(duì)虛假有害信息的治理加強(qiáng)國(guó)際合作，遵循包容審慎的原則。

(二)生成式人工智能虛假有害信息風(fēng)險(xiǎn)的包容審慎規(guī)制路徑

1.堅(jiān)持包容審慎的立法邏輯。如果說(shuō)2024年早春的文生視頻大模型Sora和文本超長(zhǎng)大模型Gemini1.5Pro標(biāo)志著現(xiàn)象學(xué)意義上的“天人合一\"奇點(diǎn)，那么特斯拉斯堡議員的壓倒性表決結(jié)果和北京科技產(chǎn)業(yè)界國(guó)際共識(shí)就共同標(biāo)志著“人工智能治理的立法時(shí)刻”[29]健全完善我國(guó)關(guān)于生成式人工智能虛假有害信息方面的法律法規(guī)和建設(shè)國(guó)際統(tǒng)一法律標(biāo)準(zhǔn)，應(yīng)遵循包容審慎原則。包容審慎原則的核心在于平衡創(chuàng)新發(fā)展與風(fēng)險(xiǎn)防控，其不僅有利于推動(dòng)技術(shù)創(chuàng)新和產(chǎn)業(yè)發(fā)展，還能有效防控虛假有害信息對(duì)社會(huì)造成的負(fù)面影響。這一原則的落實(shí)，需要科學(xué)立法和國(guó)際社會(huì)的合作協(xié)調(diào)，如此才能在保障社會(huì)安全和秩序的前提下，最大限度地發(fā)揮生成式人工智能技術(shù)的積極作用。

在國(guó)內(nèi)相關(guān)立法方面，包容審慎原則應(yīng)滲入針對(duì)生成式人工智能虛假有害信息立法的全過(guò)程。生成式人工智能能夠在自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)、語(yǔ)音處理等多個(gè)領(lǐng)域產(chǎn)生突破性成果，其應(yīng)用包括但不限于自動(dòng)文本生成、圖像合成、虛擬助手和智能客服等，這些技術(shù)的進(jìn)步不僅推動(dòng)了相關(guān)產(chǎn)業(yè)的發(fā)展，還大大提升了生產(chǎn)效率和用戶體驗(yàn)。但是，如果立法過(guò)于嚴(yán)格和僵化，可能會(huì)限制技術(shù)的創(chuàng)新和應(yīng)用。過(guò)度的監(jiān)管和苛刻的法律要求可能導(dǎo)致研發(fā)成本的上升，延緩技術(shù)迭代和市場(chǎng)推廣的速度，從而使企業(yè)和研究機(jī)構(gòu)無(wú)法充分發(fā)揮其創(chuàng)新能力。因此，立法者應(yīng)當(dāng)在保障社會(huì)安全和公共利益的前提下，充分考慮生成式人工智能的創(chuàng)新潛力和應(yīng)用前景，以一種包容審慎的態(tài)度對(duì)待這項(xiàng)技術(shù)，避免“一刀切\(zhòng)"的規(guī)定。同時(shí)，應(yīng)當(dāng)鼓勵(lì)多方參與，聽(tīng)取來(lái)自企業(yè)、學(xué)術(shù)界和公眾的意見(jiàn)和建議，以確保立法既能規(guī)范技術(shù)應(yīng)用，又能為創(chuàng)新提供足夠的空間和支持。

在國(guó)際社會(huì)的合作協(xié)調(diào)方面，推動(dòng)包容審慎式合作。首先，可以通過(guò)建立一個(gè)新的國(guó)際組織來(lái)共同應(yīng)對(duì)生成式人工智能虛假有害信息問(wèn)題。聯(lián)合國(guó)秘書(shū)長(zhǎng)安東尼奧·古特雷斯在2023年7月18日的安理會(huì)辯論會(huì)上支持建立國(guó)際合作機(jī)制來(lái)應(yīng)對(duì)新時(shí)代下生成式人工智能帶來(lái)的一系列風(fēng)險(xiǎn)，尤其是關(guān)于虛假有害信息。30]研發(fā)功能強(qiáng)大的人工智能系統(tǒng)可以在一定程度上促進(jìn)全人類的新跨越，但是在這個(gè)過(guò)程中產(chǎn)生的一系列法律問(wèn)題面前，人類命運(yùn)共同體應(yīng)抱團(tuán)努力，為生成式人工智能發(fā)展彌合數(shù)字鴻溝，世界各國(guó)的政府也應(yīng)該攜手合作。31其次，在全球化和技術(shù)迅速發(fā)展的背景下，制定統(tǒng)一法律標(biāo)準(zhǔn)必須貫徹包容審慎原則，尊重各成員國(guó)的法律傳統(tǒng)和文化差異。不同國(guó)家由于歷史、文化、經(jīng)濟(jì)、政治等方面的不同，形成了各自獨(dú)特的法律體系和社會(huì)規(guī)范，在制定全球或區(qū)域統(tǒng)一的法律標(biāo)準(zhǔn)時(shí)，若不加以考慮這些差異，可能導(dǎo)致某些國(guó)家的法律體系與國(guó)際標(biāo)準(zhǔn)發(fā)生沖突，因此，應(yīng)充分聽(tīng)取和尊重各(成員)國(guó)的意見(jiàn)和需求，采取協(xié)商一致的方式推進(jìn)法律統(tǒng)一標(biāo)準(zhǔn)的制定與實(shí)施。再者，各國(guó)還可以在聯(lián)合國(guó)等多邊機(jī)制框架下，推動(dòng)生成式人工智能虛假有害信息法律的協(xié)調(diào)統(tǒng)一，通過(guò)制定國(guó)際公約或協(xié)定，明確各國(guó)在技術(shù)創(chuàng)新和信息安全方面的基本義務(wù)和責(zé)任，建立起有效的國(guó)際合作機(jī)制，從而共同應(yīng)對(duì)生成式人工智能帶來(lái)的挑戰(zhàn)和機(jī)遇，促進(jìn)生成式人工智能技術(shù)的健康發(fā)展，也能為全球的科技創(chuàng)新和經(jīng)濟(jì)增長(zhǎng)注入新的動(dòng)力。

2.強(qiáng)調(diào)統(tǒng)籌兼顧的過(guò)程規(guī)制。一是建立生成式人工智能技術(shù)上線的評(píng)估、備案前置程序。政府應(yīng)設(shè)立專門的監(jiān)管機(jī)構(gòu)，負(fù)責(zé)制定詳細(xì)的技術(shù)標(biāo)準(zhǔn)和評(píng)估準(zhǔn)則。這些標(biāo)準(zhǔn)應(yīng)涵蓋算法透明度、數(shù)據(jù)來(lái)源合法性、安全性，以及潛在的社會(huì)影響等方面。我國(guó)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第二十七條、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第二十條以及《暫行辦法》第十七條，都提出了“具有社會(huì)動(dòng)員能力的技術(shù)服務(wù)必須進(jìn)行安全評(píng)估\"的要求。因此，在技術(shù)上線前，可以要求所有生成式人工智能技術(shù)必須通過(guò)獨(dú)立的第三方進(jìn)行安全評(píng)估和認(rèn)證。具體而言，政府需明確獨(dú)立第三方評(píng)估機(jī)構(gòu)的資格和認(rèn)證標(biāo)準(zhǔn)，確保其具備專業(yè)能力和公正性;評(píng)估內(nèi)容應(yīng)包括算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)合法性、隱私保護(hù)措施及潛在風(fēng)險(xiǎn)評(píng)估等。在評(píng)估生成式人工智能技術(shù)時(shí)，采取分類分級(jí)管理策略是至關(guān)重要的，分類分級(jí)管理的核心目的在于根據(jù)生成式人工智能在各行業(yè)的具體應(yīng)用情況，及其可能帶來(lái)的風(fēng)險(xiǎn)進(jìn)行精細(xì)化監(jiān)管。澳大利亞、加拿大等國(guó)也相繼出臺(tái)了相關(guān)配套文件，目的是將人工智能技術(shù)分類分級(jí)管理，并針對(duì)存在重大社會(huì)風(fēng)險(xiǎn)的人工智能系統(tǒng)，設(shè)立更加嚴(yán)厲的監(jiān)管制度。32]分類分級(jí)管理將技術(shù)分為高風(fēng)險(xiǎn)、中等風(fēng)險(xiǎn)和低風(fēng)險(xiǎn)，其中高風(fēng)險(xiǎn)類別包括涉及金融、醫(yī)療、司法等關(guān)鍵領(lǐng)域的人工智能技術(shù)。這類技術(shù)由于其應(yīng)用環(huán)境的敏感性和復(fù)雜性，可能帶來(lái)重大的社會(huì)影響和法律責(zé)任，因此需要最為嚴(yán)格的評(píng)估和監(jiān)管。中等風(fēng)險(xiǎn)類別則包括教育、娛樂(lè)、商業(yè)營(yíng)銷等領(lǐng)域的生成式人工智能技術(shù)，這些技術(shù)雖然不涉及生命安全和重大財(cái)產(chǎn)損失，但仍可能引發(fā)隱私泄露、信息誤導(dǎo)等問(wèn)題。對(duì)于中等風(fēng)險(xiǎn)技術(shù)，監(jiān)管機(jī)構(gòu)可以采取相對(duì)靈活且包容的評(píng)估機(jī)制，例如通過(guò)行業(yè)自律組織進(jìn)行初步審核，并要求技術(shù)提供者建立完善的內(nèi)部審查和風(fēng)險(xiǎn)管理制度，以降低潛在風(fēng)險(xiǎn)。低風(fēng)險(xiǎn)類別主要涉及普通信息處理和輔助決策的生成式人工智能技術(shù)，如內(nèi)容生成工具、翻譯軟件等。盡管這些技術(shù)的應(yīng)用場(chǎng)景廣泛，但其風(fēng)險(xiǎn)相對(duì)較低，可以通過(guò)簡(jiǎn)化的備案程序和常規(guī)的安全檢查來(lái)確保其合規(guī)性。低風(fēng)險(xiǎn)技術(shù)的監(jiān)管應(yīng)以鼓勵(lì)創(chuàng)新為主，避免過(guò)度干預(yù)，同時(shí)應(yīng)確保其基本的安全和隱私保護(hù)措施到位。

在評(píng)估通過(guò)后，技術(shù)提供者必須將評(píng)估報(bào)告提交相關(guān)國(guó)家監(jiān)管部門進(jìn)行嚴(yán)格備案?！稌盒修k法》作為全球首個(gè)專門針對(duì)生成式大模型的立法文件，強(qiáng)調(diào)了對(duì)生成內(nèi)容的管理和責(zé)任分配，此法規(guī)要求生成式人工智能服務(wù)必須進(jìn)行備案，并公開(kāi)已備案信息，以確保技術(shù)使用符合法律規(guī)定。在算法備案方面，特別要指出的是，在對(duì)“生成合成類(深度合成)算法\"的算法類型進(jìn)行備案時(shí)，必須區(qū)別備案主體，即\"深度綜合服務(wù)技術(shù)支持者\(yùn)"或“深度綜合服務(wù)提供者”，也就是人工智能產(chǎn)品的服務(wù)提供者與技術(shù)支持者必須以兩個(gè)不同的備案主體對(duì)同一算法進(jìn)行備案，因?yàn)樗麄冊(cè)谒惴▊浒疙?xiàng)下的義務(wù)是相互獨(dú)立且不能相互替代的。同時(shí)，在備案過(guò)程中，監(jiān)管部門應(yīng)對(duì)評(píng)估結(jié)果進(jìn)行審查，確保技術(shù)符合國(guó)家安全標(biāo)準(zhǔn)和倫理要求。只有完成上述程序，生成式人工智能

技術(shù)才能合法投入市場(chǎng)應(yīng)用。

二是踐行多元主體協(xié)同合作式規(guī)制的核心步驟?！稌盒修k法》第五條第二款和第十六條第一款就行政機(jī)關(guān)、多方相關(guān)主體等應(yīng)團(tuán)結(jié)協(xié)作、依法履行職責(zé)等作出了規(guī)定。針對(duì)生成式人工智能產(chǎn)生的虛假有害信息，政府機(jī)關(guān)、企業(yè)、行業(yè)協(xié)會(huì)和用戶等多主體應(yīng)協(xié)同合作共同對(duì)生成式人工智能虛假問(wèn)題進(jìn)行監(jiān)控，構(gòu)建一個(gè)多層次、多方位的監(jiān)控體系，不僅可以有效應(yīng)對(duì)生成式人工智能帶來(lái)的虛假有害信息問(wèn)題，還能在一定程度上確保技術(shù)的安全應(yīng)用和健康發(fā)展。同時(shí)，在這一過(guò)程中，各方需堅(jiān)持包容審慎規(guī)制的原則，這不僅意味著在監(jiān)管過(guò)程中要考慮到生成式人工智能技術(shù)的發(fā)展?jié)摿蛣?chuàng)新價(jià)值，避免過(guò)度監(jiān)管對(duì)技術(shù)創(chuàng)新的抑制，還要在具體實(shí)施中兼顧安全和發(fā)展的平衡。

政府有權(quán)機(jī)關(guān)應(yīng)當(dāng)發(fā)揮領(lǐng)導(dǎo)和協(xié)調(diào)作用，明確生成式人工智能的使用規(guī)范和技術(shù)標(biāo)準(zhǔn)，為生成式人工智能虛假有害信息的規(guī)制指明方向。例如，主管部門可以根據(jù)生成式人工智能技術(shù)的特點(diǎn)，制定具體詳細(xì)的分類分級(jí)監(jiān)管規(guī)則，確保高風(fēng)險(xiǎn)技術(shù)的嚴(yán)格監(jiān)管和低風(fēng)險(xiǎn)技術(shù)的適度監(jiān)管。政府需加強(qiáng)對(duì)企業(yè)的監(jiān)督和指導(dǎo)，提供政策支持和技術(shù)幫助，促進(jìn)企業(yè)合法合規(guī)地開(kāi)展生成式人工智能業(yè)務(wù)。政府還需要從法律層面明確技術(shù)開(kāi)發(fā)者、技術(shù)運(yùn)營(yíng)者和用戶的責(zé)任。在美國(guó)，根據(jù)《CommunicationsDecency Act》第二百三十條，存在政治虛假信息(包括深度偽造)的社交媒體網(wǎng)站在法律上免于承擔(dān)責(zé)任，包括打擊關(guān)于選舉類虛假有害信息在很大程度上卻取決于平臺(tái)自行設(shè)定的條款，這一規(guī)定引發(fā)了社會(huì)批評(píng)和指控。[33]有人呼呼讓人工智能平臺(tái)對(duì)虛假有害信息承擔(dān)法律責(zé)任，這種方法其實(shí)可以成為一道減少虛假有害信息產(chǎn)生的內(nèi)部屏障。

企業(yè)作為生成式人工智能技術(shù)的主要研發(fā)和應(yīng)用者，應(yīng)嚴(yán)格遵守國(guó)家的法律法規(guī)，承擔(dān)起社會(huì)責(zé)任，積極配合政府的監(jiān)管要求，建立健全內(nèi)部審查機(jī)制和風(fēng)險(xiǎn)管理制度。具體而言，企業(yè)可以建立多層次的審查機(jī)制，對(duì)生成的內(nèi)容進(jìn)行審核和過(guò)濾，防止虛假有害信息的傳播。還可以部署先進(jìn)的監(jiān)控技術(shù)，以實(shí)時(shí)監(jiān)測(cè)和攔截虛假有害信息。例如，美國(guó)聯(lián)邦通信委員會(huì)已經(jīng)禁止人工智能生成的聲音用于自動(dòng)語(yǔ)音電話，這類直接的干預(yù)措施在一定程度上有效阻止了虛假有害信息的擴(kuò)散。[34]同時(shí)，企業(yè)應(yīng)定期向監(jiān)管機(jī)構(gòu)提交監(jiān)控報(bào)告，詳細(xì)記錄監(jiān)測(cè)到的虛假信息數(shù)量、處理措施及效果。此外，企業(yè)還應(yīng)投入資源研發(fā)先進(jìn)的算法和技術(shù)手段，提升生成式人工智能的透明度和可控性，確保技術(shù)的安全性和可靠性。行業(yè)協(xié)會(huì)作為連接政府和企業(yè)的重要橋梁，應(yīng)積極推動(dòng)行業(yè)自律和標(biāo)準(zhǔn)化建設(shè)。行業(yè)協(xié)會(huì)可以制定行業(yè)標(biāo)準(zhǔn)和自律規(guī)范，監(jiān)控企業(yè)合規(guī)經(jīng)營(yíng)，并定期組織培訓(xùn)和研討會(huì)，提高企業(yè)對(duì)虛假有害信息的防范意識(shí)和技術(shù)能力。同時(shí)，行業(yè)協(xié)會(huì)還可以搭建信息共享和交流平臺(tái)，促進(jìn)企業(yè)間的經(jīng)驗(yàn)交流和技術(shù)合作。用戶在生成式人工智能的使用過(guò)程中，也應(yīng)發(fā)揮積極的參與作用。用戶應(yīng)提高自身的信息素養(yǎng)和辨別能力，增強(qiáng)對(duì)虛假信息的識(shí)別和防范意識(shí)。同時(shí)，為了促進(jìn)用戶的積極參與，政府和企業(yè)可以共同開(kāi)發(fā)便捷的舉報(bào)和反饋機(jī)制，鼓勵(lì)用戶提供有價(jià)值的信息和線索，共同維護(hù)網(wǎng)絡(luò)環(huán)境的健康和安全。

3.遵循包容審慎式的彈性懲罰方略。首先，在包容審慎式的監(jiān)管過(guò)程中，政府應(yīng)始終堅(jiān)持包容、嚴(yán)謹(jǐn)、開(kāi)放的原則，與各方保持密切溝通和合作。在制定政策和實(shí)施懲罰時(shí)，應(yīng)充分聽(tīng)取企業(yè)和用戶的意見(jiàn)，綜合考慮各方利益和需求，確保履職的合理性和可操作性。政府還應(yīng)定期組織專家評(píng)審和公眾咨詢，及時(shí)調(diào)整和完善監(jiān)管措施，以適應(yīng)生成式人工智能技術(shù)的快速發(fā)展和變化。其次，根據(jù)《互聯(lián)網(wǎng)信息服務(wù)管理辦法》第二十條的規(guī)定，關(guān)于造謠類虛假有害信息的行政處罰主要由公安機(jī)關(guān)和國(guó)家安全機(jī)關(guān)負(fù)責(zé)。2014年，《國(guó)務(wù)院關(guān)于授權(quán)國(guó)家互聯(lián)網(wǎng)信息辦公室負(fù)責(zé)互聯(lián)網(wǎng)信息內(nèi)容管理工作的通知》中明確指出，網(wǎng)絡(luò)信息內(nèi)容的監(jiān)管、管理和執(zhí)法是由國(guó)家網(wǎng)信辦負(fù)責(zé)?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第三條規(guī)定，對(duì)于生成式算法推薦服務(wù)，應(yīng)由國(guó)家網(wǎng)信部門牽頭，電信、公安、市場(chǎng)監(jiān)管等相關(guān)部門參加。相關(guān)政府機(jī)關(guān)在實(shí)施懲罰措施時(shí)，應(yīng)根據(jù)違規(guī)行為的嚴(yán)重程度和性質(zhì)，采取靈活多樣的懲罰手段。對(duì)于初次違規(guī)或情節(jié)較輕的行為，可以采取警告、限期整改、罰款等柔性懲罰措施，以督促企業(yè)改正并提升合規(guī)意識(shí)。對(duì)于情節(jié)嚴(yán)重或?qū)掖芜`規(guī)的行為，可以采取更為嚴(yán)厲的懲罰措施，如暫停相關(guān)業(yè)務(wù)、吊銷營(yíng)業(yè)執(zhí)照等，以震懾潛在違規(guī)者。最后，相關(guān)政府機(jī)關(guān)應(yīng)注重監(jiān)管技術(shù)的創(chuàng)新和應(yīng)用，利用大數(shù)據(jù)、人工智能等先進(jìn)技術(shù)提升監(jiān)管效率和精準(zhǔn)度。例如，可以開(kāi)發(fā)智能監(jiān)測(cè)系統(tǒng)，對(duì)生成式人工智能產(chǎn)生的內(nèi)容進(jìn)行實(shí)時(shí)監(jiān)控和分析，快速識(shí)別和處理虛假有害信息。此外，還可以建立公開(kāi)的黑名單制度，將屢次違規(guī)的企業(yè)列入黑名單，公開(kāi)曝光其違法行為，增加其違規(guī)成本。

結(jié)語(yǔ)

生成式人工智能時(shí)代的到來(lái)，正深刻改變著人類社會(huì)的信息生成方式，不可否認(rèn)的是其能給人類帶來(lái)前所未有的便捷與愉悅。然而，隨著人工智能技術(shù)的快速發(fā)展，技術(shù)規(guī)制滯后、生成成本降低、技術(shù)“黑箱\"等導(dǎo)致虛假有害信息風(fēng)險(xiǎn)樣態(tài)發(fā)生重大轉(zhuǎn)變，危害國(guó)家安全以及社會(huì)公眾權(quán)益，這正成為技術(shù)進(jìn)步時(shí)代全社會(huì)必須重點(diǎn)關(guān)注并解決的新型問(wèn)題。當(dāng)前，應(yīng)對(duì)生成式人工智能虛假有害信息風(fēng)險(xiǎn)的規(guī)制手段難以滿足現(xiàn)實(shí)需要，必須結(jié)合生成式人工智能技術(shù)特點(diǎn)，以及借用全社會(huì)力量，通過(guò)構(gòu)建包容審慎規(guī)制的基礎(chǔ)框架，并在全過(guò)程中貫徹包容審慎的思想理念，確保生成式人工智能技術(shù)的安全性和可靠性

【參考文獻(xiàn)】

[1]Cade Metz.The Godfather ofAI’ Quits Googleand Warnsof Danger Ahead，TheNew York Times，May 2， 2023，htps://www.nytimes.com/2023/05/O1/technology/ai-google-chatbot-engineer-quits-hinton.html.

[2][27]何宇華，李霞.生成式人工智能虛假信息治理的新挑戰(zhàn)及應(yīng)對(duì)策略——基于敏捷治理的視角[J].治理研 究，2024(4):142-156+160.

[3]張凌寒，賈斯瑤.人工智能生成內(nèi)容標(biāo)識(shí)制度的邏輯更新與制度優(yōu)化[J].求是學(xué)刊，2024(1):112-122.

[4]Luciano Floridi.The Philosophy of Information，New York:Oxford University Press，2O11，p.260.

[5]張新寶，林鐘千.互聯(lián)網(wǎng)有害信息的依法綜合治理[J].現(xiàn)代法學(xué)，2015(2)：53-66.

[6]陳天佑.生成式人工智能虛假信息的風(fēng)險(xiǎn)治理——以ChatGPT為例[J].文化學(xué)刊，2024(4):100-103.

[7]杜駿飛.ChatGPT:跨生命交往何以可能?[J].新聞與寫(xiě)作，2023(4):1.

[8]Glynn P.，“Sony World Photography Award 2O23:Winner Refuses Award after Revealing AI Creation，\"2023- 04-18，https://www.bbc.com/news/entertainment-arts-65296763，2024-07-28.

[9]National Consumer Law Center EPIC，Scam Robocalls:Telecom Providers Profit(2022)，htps://epic.org/ documents/scam-robocalls-telecom-providers-profit/.

[10]韓娜，孫穎.國(guó)家安全視域下社交機(jī)器人涉華議題操縱行為探析[J].現(xiàn)代傳播(中國(guó)傳媒大學(xué)學(xué)報(bào))，2022 (8):40-49.

[11]Alexander Martin.UK Opposition Leader Targeted byAI-generatedFake Audio Smear[EB/OL].https:// therecord.media/keir-starmer-labour-party-leader-audio-smear-social-media-deepfake.

[12]Scott Hickman.The Riseof ChatGPTand the Legal Implications That Will Ensue，The Corporate Law Journal，F(xiàn)eb.20，2O23，https://www.Thecorporatelawjoumal.com/technology/the-rise-of-chatgpt-and-the-legal-mplications-that-will-ensue.

[13]Deana Ritchie.Deepfake AI-generated Images that Went Viral in 2O23[EB/OL].htps://readwritec om/deepfake deepfake-AI-generated-images-that-went-viral-in-2023/.

[14]驚動(dòng)美國(guó)白宮、有公司被騙2億港元，人工智能“深度偽造\"的罪與罰[EB/OL].新浪網(wǎng)，ttps://finance.sina. cn/usstock/mggd/2024-02-18/detail-inaininf3520045.d.html.

[15]Daochen Zha etal.，Data-centric Artificial Intelligence:A Survey，ArXiv Preprint，arXiv:2303.10158，2(203).

[16]PhilippHacker.ALegalFrameworkforAITrainingData——FromFirstPrinciplestotheArtificial Intelligence Act，13 Law，Innovation and Technology 257，261(2021).

[17]Billy Perigo.Exclusive:OpenAI Used Kenyan Workers on Less Than ￥2 Per Hour toMake ChatGPT Less Toxic[EB/OL].[2024-8-23].https://time.com/6247678/openAI-chatgpt-kenya-workers/.

[18]譚九生，楊建武.人工智能技術(shù)的倫理風(fēng)險(xiǎn)及其協(xié)同治理[J].中國(guó)行政管理，2019(10):44-50.

[19]楊建武.人工智能嵌入政府治理的責(zé)任困境及其政策紓解[J].西南民族大學(xué)學(xué)報(bào)(人文社會(huì)科學(xué)版)，2022 (4):192-200.

[20]喬喆.人工智能生成內(nèi)容技術(shù)在內(nèi)容安全治理領(lǐng)域的風(fēng)險(xiǎn)和對(duì)策[J].電信科學(xué)，2023(10):136-146. [21]Philipp Hackeretal.，Regulating ChatGPTand Other Large Generative AI Models，F(xiàn)eb.10，2023，Working Paper，htps://doi.org/10.48550/arXiv.2302.02337.

[22]朱嘉培.生成式人工智能虛假有害信息規(guī)制的挑戰(zhàn)與應(yīng)對(duì)——以ChatGPT的應(yīng)用為引[J].比較法研究，2023 (5):34-54.

[23]當(dāng)人工智能詐騙顛覆“眼見(jiàn)為實(shí)”，我們應(yīng)該如何應(yīng)對(duì)?[EB/OL].證券時(shí)報(bào)網(wǎng)，htps://www.stcn.com/article/ detail/873911.html.

[24]盧超.包容審慎監(jiān)管的行政法理與中國(guó)實(shí)踐[J].中外法學(xué)，2024(1):143-160.

[25]劉權(quán).數(shù)字經(jīng)濟(jì)視域下包容審慎監(jiān)管的法治邏輯[J].法學(xué)研究，2022(4):37-51.

[26]Vealem，Borgesius F Z.Demystifying theDraftEUArtificial IntellgenceAct—analysing theGood，theBad， and the Unclear Elementsof the Proposed Approach[J].Computer Law Review International，2O21，2(4):97-112. [28]張凌寒.生成式人工智能的法律定位與分層治理[J].現(xiàn)代法學(xué)，2023(4)：126-141.

[29]季衛(wèi)東.何時(shí)真正邁入“人工智能治理立法時(shí)刻\"[EB/OL].上海交通大學(xué)網(wǎng)站，http://www.socio-legal.sjtu.edu.cn/wxzy/info.aspx?itemid=4596lcid=13.

[30]United Nations.Meetings Coverage and Press Releases [EB/OL].htps://pressun.org/en/2023/sc15359.doc. htm.

[31]陸小華.包容監(jiān)管與規(guī)則博弈：與人工智能如何共生[EB/OL].中國(guó)社會(huì)科學(xué)網(wǎng)，https://www.cssn.cn/xwcbx/ wlyxmt/202308/t20230822_5680460.shtml.

Risk Challenges and Inclusive Prudent Regulation of False and Harmful Information in Generative Artificial Intelligence

Yang Jianwu， Luo Feiyan

Abstract:Byvirtueof itshighlyplausible and personalized content generation capabilities，generativeartificial intelligencemakes thedisseminationof1andharmful informationextremelycovert，furtherexacerbating the crisisof informationmanipulationandsocial trust.False and harmfulinformation ismainly characterized by automaticgeneration，high likelihoodoftruth andrapid dissemination，whichoftenappearsthrough the compilationof facts，in-depth forgeryorhumanmanipulation，thusaffecting thesocialorderand public perception.The reasons for their emergence can be summarizedasintrinsic，including 1and harmful informationimplicitintraining data，the opacityofthealgorithmicdecision-makingprocess，andthe popularization and low-costapplication of the technology，aswell asextrinsic factors，such as the laging nature of the existing govemment regulatory measures and the marketizationof the technology.Inorder to meet thischallenge，the inclusiveandprudential regulation modelhasemergedasanew modeldiffrent from the traditional regulatorymeans，adapting to the needs of the rapid development of disruptive technologies，and the coreconceptistoprovide thenecessary timeand trial-and-eror space forthedevelopment of technologies throughflexible andmoderate interventions，andat thesametime，builda flexibleandcontextualized governance framework through multi-party colaboration，soas to fectivelyrespond tochanging public In particular，inclusive and prudent regulation shouldbeused asa means toaddress theever-changing public risksandcomplex socialchallnges.Specifically，themodel of inclusiveandprudentregulation includes three keypaths:first，adhere to the logicof inclusiveandprudent legislation，andbuildabasic legal framework; second，emphasize the processof regulation，and take into account the four links of“assessment，filing， monitoring，and punishment”；and third，folow the inclusive and prudent flexible punishment mechanism.

Key words:generative AI；1 and harmful information；deep forgery；inclusiveand prudent regulation

（責(zé)任編輯：王正橋）