生成式人工智能賦能新質(zhì)生產(chǎn)力的隱私風(fēng)險(xiǎn)及協(xié)同治理

中圖分類號(hào)：D923 文獻(xiàn)標(biāo)志碼：A 文章編號(hào)：2096-9783(2025)03-0070-

新質(zhì)生產(chǎn)力是科技創(chuàng)新在其中發(fā)揮主導(dǎo)作用的生產(chǎn)力，是經(jīng)濟(jì)高質(zhì)量發(fā)展和社會(huì)深刻變革的重要基礎(chǔ)2]。生成式人工智能(ArtificialIntelligenceGen-eratedContent，以下簡(jiǎn)稱AIGC)作為推動(dòng)新質(zhì)生產(chǎn)力的重要力量，通過(guò)自然語(yǔ)言生成、圖像生成、自動(dòng)編程等技術(shù)手段，在制造業(yè)、醫(yī)療、教育、金融和文化創(chuàng)意等領(lǐng)域，優(yōu)化資源配置、提升生產(chǎn)效率和增強(qiáng)創(chuàng)新能力，為全球數(shù)字經(jīng)濟(jì)崛起和國(guó)家競(jìng)爭(zhēng)力提升注人了強(qiáng)大動(dòng)力[3]。例如，在制造業(yè)中，AIGC通過(guò)自動(dòng)化設(shè)計(jì)提升產(chǎn)品研發(fā)效率；在醫(yī)療領(lǐng)域，AIGC輔助診斷和藥物開發(fā)縮短了研發(fā)周期；在教育領(lǐng)域，個(gè)性化學(xué)習(xí)方案提高了教育資源的利用率。然而，AIGC的廣泛應(yīng)用也伴隨著隱私保護(hù)方面的嚴(yán)峻挑戰(zhàn)，其模型訓(xùn)練高度依賴大規(guī)模數(shù)據(jù)收集，跨區(qū)域、跨領(lǐng)域的數(shù)據(jù)共享增加了個(gè)人信息泄露的風(fēng)險(xiǎn)，同時(shí)現(xiàn)有隱私保護(hù)技術(shù)難以全面應(yīng)對(duì)，導(dǎo)致隱私治理滯后成為新質(zhì)生產(chǎn)力發(fā)展的瓶頸。為解決這一挑戰(zhàn)，亟須構(gòu)建以協(xié)同治理為核心的多層次隱私保護(hù)框架，通過(guò)差分隱私、聯(lián)邦學(xué)習(xí)等隱私增強(qiáng)技術(shù)4，結(jié)合《中華人民共和國(guó)數(shù)據(jù)安全法》（以下簡(jiǎn)稱《數(shù)據(jù)安全法》）《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)，推動(dòng)行業(yè)自律和公眾參與，增強(qiáng)數(shù)據(jù)處理的透明度和安全性，在隱私保護(hù)與技術(shù)創(chuàng)新之間實(shí)現(xiàn)平衡，確保AIGC技術(shù)與新質(zhì)生產(chǎn)力的可持續(xù)協(xié)同發(fā)展。

一、AIGC賦能新質(zhì)生產(chǎn)力的隱私風(fēng)險(xiǎn)

（一）數(shù)據(jù)過(guò)度收集與數(shù)據(jù)最小必要原則的沖突

在新質(zhì)生產(chǎn)力發(fā)展的推動(dòng)下，AIGC通過(guò)自然語(yǔ)言生成、圖像生成和自動(dòng)編程等技術(shù)，實(shí)現(xiàn)了生產(chǎn)效率的提升、資源配置的優(yōu)化及創(chuàng)新能力的增強(qiáng)。然而，這些技術(shù)高度依賴大規(guī)模數(shù)據(jù)的獲取和處理5]，尤其在跨領(lǐng)域應(yīng)用中，其對(duì)多樣化數(shù)據(jù)的需求常突破數(shù)據(jù)最小必要原則。平臺(tái)通常通過(guò)整合社交媒體數(shù)據(jù)、匿名化信息，甚至推測(cè)用戶敏感數(shù)據(jù)以優(yōu)化模型訓(xùn)練效果，盡管提升了技術(shù)能力，卻顯著增加了個(gè)人隱私泄露的風(fēng)險(xiǎn)。同時(shí)，AIGC的“自我學(xué)習(xí)\"和“反饋優(yōu)化\"機(jī)制進(jìn)一步擴(kuò)大了數(shù)據(jù)收集范圍，用戶對(duì)其信息的流動(dòng)和用途缺乏有效控制。部分平臺(tái)在數(shù)據(jù)收集中未明確告知用戶具體用途，通過(guò)隱蔽方式收集數(shù)據(jù)，嚴(yán)重侵害用戶的知情權(quán)和選擇權(quán)。例如，蘋果公司的Siri和亞馬遜的Alexa在未經(jīng)用戶知情情況下自動(dòng)記錄和存儲(chǔ)語(yǔ)音數(shù)據(jù)，并上傳云端優(yōu)化服務(wù)。這些現(xiàn)象挑戰(zhàn)了個(gè)人信息最小化原則的法律要求，加劇了隱私保護(hù)與技術(shù)發(fā)展的矛盾，成為新質(zhì)生產(chǎn)力發(fā)展的嚴(yán)重隱患。這不僅是技術(shù)與法律之間的沖突，也揭示了在數(shù)據(jù)驅(qū)動(dòng)社會(huì)中，權(quán)利保障與技術(shù)進(jìn)步之間難以調(diào)和的深層張力。

第一，AIGC系統(tǒng)對(duì)多樣化數(shù)據(jù)的依賴直接違背個(gè)人信息最小化原則。AIGC需要處理的大量個(gè)人信息涉及文本、圖像、用戶行為、偏好和情感等，這與《中華人民共和國(guó)個(gè)人信息保護(hù)法》以下簡(jiǎn)稱《個(gè)人信息保護(hù)法》)的隱私保護(hù)原則直接矛盾?！秱€(gè)人信息保護(hù)法》第六條要求數(shù)據(jù)收集應(yīng)符合必要性和合法性，但平臺(tái)為提升技術(shù)效果，常擴(kuò)大數(shù)據(jù)收集范圍。例如，2023年4月，意大利數(shù)據(jù)保護(hù)機(jī)構(gòu)暫時(shí)禁止ChatGPT，原因在于其未經(jīng)用戶同意收集個(gè)人數(shù)據(jù)，且未能證明大規(guī)模收集的合理性，違反了最小化原則和透明性要求。這表明，AIGC為完成復(fù)雜任務(wù)所需的數(shù)據(jù)常超出用戶預(yù)期，違反了最小化原則。

第二，AIGC的復(fù)雜算法加劇了數(shù)據(jù)用途的不透明性，使用戶難以掌控?cái)?shù)據(jù)處理方式。AIGC系統(tǒng)依賴復(fù)雜算法生成結(jié)果，自動(dòng)化處理的高度復(fù)雜性讓用戶難以了解數(shù)據(jù)如何被使用。《個(gè)人信息保護(hù)法》第七條要求數(shù)據(jù)處理需遵循透明原則，明確告知用戶數(shù)據(jù)的用途和方式。然而，許多平臺(tái)僅通過(guò)模糊隱私政策讓用戶同意，未說(shuō)明具體用途。例如，谷歌的AI產(chǎn)品Bard曾因未明確告知用戶而收集對(duì)話數(shù)據(jù)用于模型訓(xùn)練，引發(fā)爭(zhēng)議。這種隱私政策中的“灰色地帶”使用戶的數(shù)據(jù)易被平臺(tái)和第三方濫用，增加信息泄露的風(fēng)險(xiǎn)[8]。

第三，數(shù)據(jù)保護(hù)與技術(shù)發(fā)展的矛盾在AIGC的迭代升級(jí)中尤為顯著。AIGC依賴大量數(shù)據(jù)輸人和多次迭代提升模型智能化水平，但《個(gè)人信息保護(hù)法》和GDPR要求數(shù)據(jù)處理遵循最小化原則，限制數(shù)據(jù)收集范圍。這種限制直接影響了AIGC模型的訓(xùn)練質(zhì)量。例如，為符合GDPR要求，OpenAI限制了ChatGPT的數(shù)據(jù)收集，尤其是在用戶生成內(nèi)容和敏感信息方面，導(dǎo)致模型在某些任務(wù)中的表現(xiàn)受限，影響其在歐洲市場(chǎng)的泛化能力。

（二）生成內(nèi)容不可預(yù)測(cè)性與信息控制權(quán)的沖突

在新質(zhì)生產(chǎn)力的應(yīng)用場(chǎng)景中，AIGC內(nèi)容的不可預(yù)測(cè)性愈加突出。依托復(fù)雜算法和海量數(shù)據(jù)，AIGC在生成文本、圖像和視頻等內(nèi)容時(shí)，其路徑和結(jié)果往往超出預(yù)期，導(dǎo)致信息控制權(quán)面臨全新挑戰(zhàn)。這種不可預(yù)測(cè)性表現(xiàn)為：一方面，AIGC整合多樣化數(shù)據(jù)生成內(nèi)容時(shí)，可能涉及用戶未授權(quán)的信息推測(cè)和數(shù)據(jù)挖掘，削弱個(gè)人隱私和商業(yè)秘密保護(hù)；另一方面，生成內(nèi)容可能誤導(dǎo)用戶或引發(fā)倫理爭(zhēng)議，尤其是在醫(yī)療健康、金融分析等依賴精確數(shù)據(jù)的領(lǐng)域。此外，內(nèi)容歸屬和責(zé)任界定的模糊性，使信息主體難以掌控自身數(shù)據(jù)的使用情況。

第一，AIGC內(nèi)容的不可預(yù)測(cè)性源于其依靠深度學(xué)習(xí)、自然語(yǔ)言處理等算法自動(dòng)生成文本、圖片和視頻。這種生成方式需要處理海量數(shù)據(jù)，通過(guò)模型參數(shù)和算法實(shí)現(xiàn)數(shù)據(jù)轉(zhuǎn)換與推演，因此生成內(nèi)容無(wú)法完全預(yù)測(cè)[]。與傳統(tǒng)人工生成方式不同，AIGC基于多樣化輸入數(shù)據(jù)，可能生成包含隱私信息、誤導(dǎo)性商業(yè)數(shù)據(jù)或不符合道德規(guī)范的內(nèi)容。這直接削弱了信息主體對(duì)生成內(nèi)容的控制能力，使其在保護(hù)個(gè)人信息和權(quán)益時(shí)面臨更大的不確定性。例如，AIGC可通過(guò)整合互聯(lián)網(wǎng)數(shù)據(jù)生成涉及個(gè)人隱私的內(nèi)容，這些內(nèi)容并非信息主體直接提供，而是通過(guò)公開數(shù)據(jù)或第三方數(shù)據(jù)推測(cè)得出，導(dǎo)致信息主體難以預(yù)見哪些信息會(huì)被生成。此外，生成內(nèi)容可能被進(jìn)一步商業(yè)化或用于數(shù)據(jù)挖掘，信息主體對(duì)此不知情，進(jìn)一步削弱其控制權(quán)。

第二，AIGC發(fā)展打破了信息控制權(quán)的傳統(tǒng)法律框架。信息控制權(quán)通常指信息主體對(duì)其個(gè)人信息享有的知情權(quán)、同意權(quán)、訪問(wèn)權(quán)、刪除權(quán)和修改權(quán)等，確保信息合法使用。在傳統(tǒng)法律環(huán)境下，信息主體通過(guò)授權(quán)允許特定用途下的數(shù)據(jù)使用，且有權(quán)要求刪除或停止處理。但AIGC不僅基于合法收集的數(shù)據(jù)生成內(nèi)容，還可能通過(guò)算法推演生成未經(jīng)授權(quán)的衍生信息，這意味著信息主體不再完全擁有對(duì)生成內(nèi)容的控制權(quán)。尤其當(dāng)生成內(nèi)容涉及個(gè)人隱私或商業(yè)秘密時(shí)，主體難以掌控。例如，某些AI系統(tǒng)生成文本時(shí)可能無(wú)意中引用或推測(cè)出信息主體未公開的私人信息，信息主體對(duì)此無(wú)能為力。這表明，AIGC時(shí)代挑戰(zhàn)了傳統(tǒng)信息控制權(quán)概念，現(xiàn)有法律框架難以充分保護(hù)信息

主體的權(quán)利。

第三，信息控制權(quán)與生成內(nèi)容不可預(yù)測(cè)性產(chǎn)生直接沖突。首先，AIGC的不可預(yù)測(cè)性使信息主體難以控制生成內(nèi)容，尤其當(dāng)系統(tǒng)依賴龐大數(shù)據(jù)集推演時(shí)，主體難以掌握內(nèi)容的形式和范圍，削弱了數(shù)據(jù)使用權(quán)?！秱€(gè)人信息保護(hù)法》第四十四條規(guī)定個(gè)人有權(quán)知曉、決定、限制或拒絕對(duì)其信息的處理，但AIGC的自動(dòng)化特性削弱了這些權(quán)利。例如，2016年微軟AI聊天機(jī)器人Tay在吸收用戶輸入后迅速生成偏見內(nèi)容，導(dǎo)致公關(guān)危機(jī)[2]，凸顯AIGC系統(tǒng)對(duì)信息控制權(quán)的侵蝕。其次，AIGC生成內(nèi)容的法律歸屬模糊。傳統(tǒng)法律賦予信息主體對(duì)個(gè)人數(shù)據(jù)的控制權(quán)，但生成內(nèi)容由多方數(shù)據(jù)和復(fù)雜算法生成，難以歸屬至某一主體?！吨腥A人民共和國(guó)著作權(quán)法》第十條規(guī)定作者享有署名權(quán)，但AIGC生成內(nèi)容是否構(gòu)成作品仍存爭(zhēng)議。例如，2023年GettyImages對(duì)StabilityAI的訴訟反映了AIGC生成內(nèi)容歸屬問(wèn)題的法律盲區(qū)[13]。此外，即使內(nèi)容與信息主體原始數(shù)據(jù)相關(guān)，其高商業(yè)價(jià)值可能引發(fā)新的控制權(quán)問(wèn)題。最后，隱私保護(hù)與生成內(nèi)容中的潛在風(fēng)險(xiǎn)并存。AIGC系統(tǒng)可能在生成內(nèi)容時(shí)無(wú)意中泄露隱私或敏感信息?！秱€(gè)人信息保護(hù)法》第五十一條規(guī)定數(shù)據(jù)處理者應(yīng)防止信息泄露，但AIGC的自動(dòng)生成特性使主體難以監(jiān)控內(nèi)容。例如，OpenAI發(fā)布的GPT-2模型因可能生成私人對(duì)話記錄而被限制公開[14]。這表明，AIGC生成內(nèi)容可能泄露未經(jīng)授權(quán)的隱私信息，而信息主體對(duì)此無(wú)法掌控，面臨隱私權(quán)被侵害的風(fēng)險(xiǎn)。

（三）數(shù)據(jù)共享與個(gè)人信息知情同意原則的沖突

新質(zhì)生產(chǎn)力以數(shù)據(jù)驅(qū)動(dòng)和協(xié)同共享為核心，通過(guò)多主體協(xié)作提升生產(chǎn)效率并推動(dòng)經(jīng)濟(jì)高質(zhì)量發(fā)展。然而，這種以數(shù)據(jù)共享為基礎(chǔ)的生產(chǎn)模式與個(gè)人信息保護(hù)中的知情同意原則產(chǎn)生了嚴(yán)重沖突。AIGC作為新質(zhì)生產(chǎn)力的重要工具，在跨行業(yè)、跨領(lǐng)域的數(shù)據(jù)共享過(guò)程中，用戶個(gè)人信息的流轉(zhuǎn)范圍常超出其知情和掌控能力。復(fù)雜的共享網(wǎng)絡(luò)使用戶難以明確其數(shù)據(jù)在多平臺(tái)間的具體流向，導(dǎo)致知情同意名存實(shí)亡；同時(shí)，企業(yè)為優(yōu)化服務(wù)精準(zhǔn)度和實(shí)現(xiàn)個(gè)性化功能，擴(kuò)大數(shù)據(jù)使用范圍，侵蝕用戶隱私保護(hù)權(quán)[15]。此外，企業(yè)對(duì)商業(yè)利益的追求加劇了信息濫用和安全問(wèn)題，使隱私風(fēng)險(xiǎn)進(jìn)一步升級(jí)。這種沖突已成為AIGC賦能新質(zhì)生產(chǎn)力的核心法律挑戰(zhàn)，急需通過(guò)技術(shù)手段和制度創(chuàng)新加以平衡。

第一，法律層面的沖突：知情同意原則的有效性受限。知情同意作為個(gè)人信息保護(hù)的重要基石，源于信息主體對(duì)其信息的控制權(quán)。然而，在復(fù)雜的數(shù)據(jù)共享環(huán)境中，知情同意的有效性受限?！秱€(gè)人信息保護(hù)法》第六條要求個(gè)人信息處理應(yīng)遵循合法、正當(dāng)和必要原則，并基于明示同意。但AIGC系統(tǒng)中，由于大量數(shù)據(jù)共享與平臺(tái)間復(fù)雜交互，信息主體難以掌握其信息的流轉(zhuǎn)過(guò)程。例如，在公共法律服務(wù)中，用戶的行為數(shù)據(jù)和服務(wù)記錄常在多個(gè)平臺(tái)間交換，盡管提升了個(gè)性化服務(wù)，但用戶往往不清楚數(shù)據(jù)的具體流向?！秱€(gè)人信息保護(hù)法》第三十八條規(guī)定跨境數(shù)據(jù)流動(dòng)需取得單獨(dú)同意，但在電子商務(wù)和國(guó)際交易中，用戶數(shù)據(jù)常被未經(jīng)充分告知的情況下共享。Facebook數(shù)據(jù)泄露事件即為典型案例[1，暴露了用戶對(duì)數(shù)據(jù)跨境流動(dòng)的掌控力不足，知情同意原則在這種復(fù)雜環(huán)境中受到了極大挑戰(zhàn)。

第二，實(shí)踐操作中的沖突：用戶選擇權(quán)的弱化。AIGC系統(tǒng)通過(guò)隱私政策隱藏和復(fù)雜條款，使用戶對(duì)數(shù)據(jù)共享的知情同意流于形式，選擇權(quán)受限?！秱€(gè)人信息保護(hù)法》第十七條要求以顯著方式告知用戶數(shù)據(jù)處理目的和方式，并提供行使選擇權(quán)的途徑。但許多平臺(tái)通過(guò)默認(rèn)勾選或不透明條款，難以讓用戶清楚了解數(shù)據(jù)具體流轉(zhuǎn)路徑。例如，一些法律服務(wù)平臺(tái)使用AIGC技術(shù)生成個(gè)性化解決方案，將用戶行為數(shù)據(jù)與第三方共享，而用戶僅通過(guò)隱蔽條款授權(quán)了全面流轉(zhuǎn)，失去對(duì)具體使用環(huán)節(jié)的控制。2023年，OpenAI的ChatGPT被用于生成法律文件和個(gè)性化服務(wù)，但用戶并未完全知曉其信息如何被使用，這種隱蔽操作削弱了用戶選擇權(quán)，加劇了隱私風(fēng)險(xiǎn)。

第三，社會(huì)影響層面的沖突：商業(yè)利益與個(gè)人隱私的權(quán)衡。數(shù)據(jù)已成為推動(dòng)商業(yè)發(fā)展的關(guān)鍵要素，企業(yè)通過(guò)用戶行為數(shù)據(jù)分析提供個(gè)性化服務(wù)并實(shí)現(xiàn)精準(zhǔn)營(yíng)銷。但這種數(shù)據(jù)共享模式直接侵害了用戶隱私權(quán)?！秱€(gè)人信息保護(hù)法》第五十一條要求數(shù)據(jù)處理者確保數(shù)據(jù)安全，但企業(yè)在追求商業(yè)利益時(shí)常忽視隱私保護(hù)。例如，滴滴出行涉嫌將用戶出行記錄與第三方共享，且未充分告知用戶具體范圍，被監(jiān)管機(jī)構(gòu)調(diào)查[7]。這種商業(yè)行為雖提升了效率，卻犧牲了用戶對(duì)個(gè)人信息的控制權(quán)，并引發(fā)信息濫用風(fēng)險(xiǎn)。近年來(lái)，數(shù)據(jù)泄露事件頻發(fā)，F(xiàn)acebook和滴滴等案例表明，企業(yè)安全保障機(jī)制的不完善會(huì)嚴(yán)重侵害個(gè)人隱私。

二、AIGC協(xié)同治理的邏輯證成

(一)AIGC協(xié)同治理的內(nèi)涵

協(xié)同治理的理念源于復(fù)雜社會(huì)系統(tǒng)對(duì)有效治理的需求[18]，也是促進(jìn)新質(zhì)生產(chǎn)力健康發(fā)展的關(guān)鍵路徑。在全球化與科技發(fā)展的背景下，特別是數(shù)字經(jīng)濟(jì)與人工智能技術(shù)的廣泛應(yīng)用，傳統(tǒng)單一主體的監(jiān)管模式難以應(yīng)對(duì)AIGC帶來(lái)的隱私風(fēng)險(xiǎn)與法律挑戰(zhàn)[19]。通過(guò)政府、企業(yè)、學(xué)術(shù)機(jī)構(gòu)、技術(shù)社區(qū)和公眾等多主體協(xié)作，協(xié)同治理能夠整合資源，解決技術(shù)快速發(fā)展中的復(fù)雜問(wèn)題，實(shí)現(xiàn)隱私風(fēng)險(xiǎn)的有效防控，為新質(zhì)生產(chǎn)力的高效、安全發(fā)展提供制度保障。AIGC協(xié)同治理以多主體參與、技術(shù)與法律融合、數(shù)據(jù)透明化和公眾廣泛參與為核心。各方需共同制定標(biāo)準(zhǔn)與規(guī)范，并推動(dòng)AIGC技術(shù)為新質(zhì)生產(chǎn)力提供具體賦能。例如，政府通過(guò)政策引導(dǎo)和監(jiān)管，確保數(shù)據(jù)共享和使用合法合規(guī)；企業(yè)采用技術(shù)手段如數(shù)據(jù)加密和差分隱私工具，加強(qiáng)對(duì)個(gè)人信息的保護(hù)；行業(yè)技術(shù)社區(qū)和公眾共同參與，提升治理透明度和社會(huì)信任度。這一模式將隱私風(fēng)險(xiǎn)降至最低，為AIGC技術(shù)的發(fā)展創(chuàng)造健康、可持續(xù)的環(huán)境，同時(shí)將新質(zhì)生產(chǎn)力的創(chuàng)新目標(biāo)融人治理體系。

第一，AIGC協(xié)同治理的核心是多主體參與的動(dòng)態(tài)機(jī)制。傳統(tǒng)自上而下的監(jiān)管模式強(qiáng)調(diào)政府主導(dǎo)、單向控制和強(qiáng)制執(zhí)行[20]，而協(xié)同治理要求政府、企業(yè)和社會(huì)組織通過(guò)對(duì)話與合作，共同制定規(guī)則。政府不僅提供政策框架，還須推動(dòng)企業(yè)和技術(shù)社區(qū)承擔(dān)更多社會(huì)責(zé)任。具體的技術(shù)實(shí)施規(guī)范由技術(shù)社區(qū)和行業(yè)標(biāo)準(zhǔn)組織共同制定，使治理機(jī)制更具靈活性和適應(yīng)性。

第二，AIGC協(xié)同治理強(qiáng)調(diào)技術(shù)與法律的融合。AIGC技術(shù)的復(fù)雜性要求法律保障與技術(shù)手段相結(jié)合。例如，數(shù)據(jù)隱私保護(hù)僅依賴法律規(guī)范難以解決問(wèn)題，需要結(jié)合加密算法和人工智能的自律機(jī)制。推動(dòng)技術(shù)自我調(diào)節(jié)和風(fēng)險(xiǎn)防范是協(xié)同治理的重要內(nèi)容，技術(shù)企業(yè)應(yīng)引入倫理和合規(guī)考量，確保在設(shè)計(jì)階段實(shí)現(xiàn)個(gè)人數(shù)據(jù)保護(hù)與最小化處理等原則。

第三，協(xié)同治理中的數(shù)據(jù)共享和透明性是重要組成部分。AIGC的廣泛應(yīng)用涉及跨平臺(tái)數(shù)據(jù)共享和使用，協(xié)同治理需確保數(shù)據(jù)的透明化和合規(guī)性。例如，在公共法律服務(wù)領(lǐng)域，AIGC可自動(dòng)生成法律建議或文書，這些過(guò)程常涉及用戶數(shù)據(jù)的跨平臺(tái)傳輸和處理。通過(guò)平臺(tái)透明化和數(shù)據(jù)可追溯機(jī)制，確保數(shù)據(jù)共享每一環(huán)節(jié)符合法律規(guī)定，保護(hù)用戶隱私和知情權(quán)。

第四，協(xié)同治理要求公眾和用戶的廣泛參與[2]。用戶作為AIGC內(nèi)容的生成者和受益者，其參與不僅是治理的倫理基礎(chǔ)，也是治理有效性的保障。協(xié)同治理目標(biāo)是確保用戶對(duì)AIGC技術(shù)的充分知情，并賦予其選擇權(quán)與監(jiān)督權(quán)。平臺(tái)需在隱私政策和數(shù)據(jù)使用條款方面更加透明，同時(shí)通過(guò)用戶教育和技術(shù)普及，讓公眾了解AIGC技術(shù)的潛在風(fēng)險(xiǎn)和權(quán)利保障途徑。

（二)AIGC協(xié)同治理的必要性

AIGC技術(shù)的快速發(fā)展在推動(dòng)技術(shù)進(jìn)步和經(jīng)濟(jì)效益提升的同時(shí)，也帶來(lái)了隱私保護(hù)和法律合規(guī)的挑戰(zhàn)，成為制約其賦能新質(zhì)生產(chǎn)力的重要瓶頸。如果缺乏有效的隱私風(fēng)險(xiǎn)治理，可能導(dǎo)致用戶信任流失、數(shù)據(jù)共享受阻以及法律問(wèn)題累積，從而阻礙技術(shù)創(chuàng)新應(yīng)用和推廣?！稊?shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等法規(guī)為構(gòu)建協(xié)同治理框架提供了法律基礎(chǔ)，強(qiáng)調(diào)通過(guò)多主體協(xié)作應(yīng)對(duì)隱私風(fēng)險(xiǎn)，保障AIGC的可持續(xù)發(fā)展。

第一，法律基礎(chǔ)為協(xié)同治理提供支撐?！稊?shù)據(jù)安全法》第二十七條要求數(shù)據(jù)處理者建立覆蓋數(shù)據(jù)全生命周期的安全管理制度，包括收集、存儲(chǔ)、傳輸、處理和共享等環(huán)節(jié)，確保數(shù)據(jù)合法性和安全性。第二十九條進(jìn)一步要求強(qiáng)化風(fēng)險(xiǎn)監(jiān)測(cè)，在安全事件發(fā)生時(shí)及時(shí)補(bǔ)救并向用戶和監(jiān)管部門報(bào)告。第三十條要求企業(yè)對(duì)重要數(shù)據(jù)定期評(píng)估并提交報(bào)告。這些條款為協(xié)同治理構(gòu)建了“政府、企業(yè)和第三方\"協(xié)作框架，明確了各主體職責(zé)，為多主體參與提供了法律依據(jù)和操作指引。

第二，數(shù)據(jù)依賴與治理需求的沖突。AIGC技術(shù)對(duì)海量數(shù)據(jù)的依賴與法律規(guī)定的最小必要原則形成矛盾?！稊?shù)據(jù)安全法》第三十二條要求數(shù)據(jù)收集必須合法、正當(dāng)，《個(gè)人信息保護(hù)法》第二十九條則規(guī)定敏感個(gè)人信息的處理需取得用戶單獨(dú)同意。然而，AIGC在醫(yī)療健康和金融服務(wù)等領(lǐng)域的模型訓(xùn)練需求，往往突破法律許可范圍，增加隱私泄露和數(shù)據(jù)濫用風(fēng)險(xiǎn)。這種沖突凸顯協(xié)同治理的必要性。通過(guò)政府嚴(yán)格審查、企業(yè)內(nèi)部自律和第三方獨(dú)立評(píng)估，可以平衡技術(shù)發(fā)展與法律合規(guī)需求，為技術(shù)創(chuàng)新和隱私保護(hù)提供保障。

第三，構(gòu)建協(xié)同治理的閉環(huán)機(jī)制。協(xié)同治理核心在于“政府監(jiān)管、企業(yè)自律、公眾參與、第三方監(jiān)督\"四位一體的閉環(huán)機(jī)制?！稊?shù)據(jù)安全法》第三十三條和第三十四條要求數(shù)據(jù)交易中介機(jī)構(gòu)審核數(shù)據(jù)來(lái)源并保存交易記錄，同時(shí)政府需定期檢查數(shù)據(jù)交易合規(guī)性。政府監(jiān)管機(jī)構(gòu)負(fù)責(zé)數(shù)據(jù)處理的前置審查，要求企業(yè)提交詳盡的數(shù)據(jù)處理計(jì)劃并持續(xù)報(bào)告合規(guī)性；企業(yè)通過(guò)內(nèi)部審查和動(dòng)態(tài)風(fēng)險(xiǎn)監(jiān)控，及時(shí)糾正潛在問(wèn)題；第三方機(jī)構(gòu)通過(guò)外部審計(jì)和用戶反饋，增強(qiáng)治理透明度和問(wèn)責(zé)性。此外，公眾參與在這一閉環(huán)中不可或缺，通過(guò)透明界面設(shè)計(jì)和落實(shí)知情權(quán)提升社會(huì)監(jiān)督力度，強(qiáng)化數(shù)據(jù)治理合法性。

第四，國(guó)際合作與社會(huì)責(zé)任的必要性。在全球化背景下，AIGC技術(shù)的競(jìng)爭(zhēng)不僅是國(guó)家科技實(shí)力的較量，更是國(guó)際合作與治理的重要內(nèi)容22]。AIGC協(xié)同治理的需求還延伸至國(guó)際層面，中國(guó)應(yīng)推動(dòng)全球治理規(guī)則的形成，同時(shí)確保技術(shù)應(yīng)用的公平與透明，避免算法歧視或數(shù)據(jù)濫用引發(fā)社會(huì)信任危機(jī)。例如，金融領(lǐng)域需保障決策過(guò)程公平，避免數(shù)據(jù)偏差損害弱勢(shì)群體利益。通過(guò)多主體協(xié)同，中國(guó)在全球技術(shù)治理中不僅能發(fā)揮領(lǐng)導(dǎo)作用，還能推進(jìn)技術(shù)的社會(huì)責(zé)任落實(shí)，促進(jìn)經(jīng)濟(jì)和社會(huì)可持續(xù)發(fā)展。

（三）AIGC協(xié)同治理的可行性

AIGC協(xié)同治理的可行性體現(xiàn)在其能夠在推動(dòng)技術(shù)賦能新質(zhì)生產(chǎn)力的同時(shí)，又能平衡隱私保護(hù)與創(chuàng)新發(fā)展的需求。通過(guò)政府、企業(yè)、學(xué)術(shù)界和公眾的多方協(xié)作，協(xié)同治理為技術(shù)發(fā)展與法律規(guī)范之間的矛盾提供了解決路徑，也為社會(huì)責(zé)任與技術(shù)創(chuàng)新的持續(xù)發(fā)展奠定了基礎(chǔ)。

第一，理論基礎(chǔ)：多方互動(dòng)與合作性[23]。AIGC技術(shù)的復(fù)雜性和廣泛影響決定了單一主體無(wú)法全面監(jiān)管其應(yīng)用及衍生問(wèn)題，協(xié)同治理因此成為應(yīng)對(duì)隱私風(fēng)險(xiǎn)和技術(shù)挑戰(zhàn)的必要手段?！稊?shù)據(jù)安全法》第二十七條要求數(shù)據(jù)處理覆蓋全生命周期，強(qiáng)調(diào)多主體協(xié)作。這種互動(dòng)包括政府制定政策和監(jiān)管框架，企業(yè)及技術(shù)社區(qū)參與標(biāo)準(zhǔn)制定和自律管理，公眾通過(guò)監(jiān)督機(jī)制保障合法權(quán)益。協(xié)同治理通過(guò)多層次合作，平衡技術(shù)發(fā)展與社會(huì)責(zé)任，確保治理效果的系統(tǒng)性和全面性。

第二，法律法規(guī)支撐：制度保障。在《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)框架下，AIGC的協(xié)同治理得到了強(qiáng)有力的法律支持?！稊?shù)據(jù)安全法》第二十九條強(qiáng)調(diào)風(fēng)險(xiǎn)監(jiān)測(cè)和應(yīng)急響應(yīng)，而《個(gè)人信息保護(hù)法》第六條和第十三條明確了數(shù)據(jù)處理的合法性和必要性原則，特別是敏感數(shù)據(jù)需獲得明確同意。這些法律為多主體協(xié)作提供了操作指引，確保各方在法律框架下規(guī)范參與治理，防止數(shù)據(jù)濫用或隱私泄露，提高數(shù)據(jù)處理活動(dòng)的透明度和合法性。

第三，政策導(dǎo)向：高質(zhì)量發(fā)展與現(xiàn)代化治理。黨的二十屆三中全會(huì)提出“高質(zhì)量發(fā)展必須以現(xiàn)代化的治理能力為支撐”，為AIGC協(xié)同治理指明了方向。完善的法治體系和多方協(xié)同機(jī)制能夠在保障隱私和數(shù)據(jù)安全的同時(shí)促進(jìn)科技創(chuàng)新。例如，在醫(yī)療和金融等敏感領(lǐng)域，政府通過(guò)政策引導(dǎo)，結(jié)合企業(yè)技術(shù)應(yīng)用與公眾監(jiān)督，實(shí)現(xiàn)技術(shù)創(chuàng)新與社會(huì)責(zé)任的平衡。這種治理模式為AIGC在健康可控環(huán)境中的發(fā)展奠定了基礎(chǔ)，并助力中國(guó)式現(xiàn)代化。

第四，行業(yè)自律與技術(shù)標(biāo)準(zhǔn)：企業(yè)和技術(shù)社區(qū)的責(zé)任。行業(yè)自律和技術(shù)標(biāo)準(zhǔn)是協(xié)同治理的重要支柱，2024年發(fā)布的《生成式人工智能行業(yè)自律倡議》要求企業(yè)遵守?cái)?shù)據(jù)安全與隱私保護(hù)法律，通過(guò)建立統(tǒng)一標(biāo)準(zhǔn)和自律機(jī)制減少隱私和數(shù)據(jù)安全風(fēng)險(xiǎn)。同時(shí)，技術(shù)社區(qū)推動(dòng)技術(shù)透明化與創(chuàng)新解決方案，進(jìn)一步增強(qiáng)協(xié)同治理的規(guī)范性和可操作性。

第五，公眾參與：知情與監(jiān)督的機(jī)制保障。公眾作為數(shù)據(jù)提供者和隱私保護(hù)的核心利益方，其參與是協(xié)同治理的關(guān)鍵。《個(gè)人信息保護(hù)法》第四十四條規(guī)定公眾享有個(gè)人信息處理的知情權(quán)和選擇權(quán)。通過(guò)透明的界面設(shè)計(jì)和信息披露，公眾能夠了解數(shù)據(jù)處理情況并監(jiān)督技術(shù)應(yīng)用。這種廣泛參與不僅提升了治理的民主性和開放性，還強(qiáng)化了社會(huì)對(duì)技術(shù)進(jìn)步的信任，確保技術(shù)開發(fā)與社會(huì)利益的平衡。

三、協(xié)同治理下AIGC隱私風(fēng)險(xiǎn)的治理機(jī)制

（一）多主體數(shù)據(jù)審查與權(quán)限分配機(jī)制

在多主體數(shù)據(jù)審查機(jī)制(見圖1)中，政府通過(guò)預(yù)審查與定期報(bào)告，落實(shí)《數(shù)據(jù)安全法》第二十七條關(guān)于“建立健全全流程數(shù)據(jù)安全管理制度\"的要求，并依據(jù)第三十條推動(dòng)企業(yè)對(duì)重要數(shù)據(jù)定期開展風(fēng)險(xiǎn)評(píng)估與合規(guī)報(bào)告。這不僅明確了數(shù)據(jù)使用邊界，還保障了數(shù)據(jù)處理活動(dòng)的合法性與安全性，滿足AIGC對(duì)高質(zhì)量數(shù)據(jù)的需求，為新質(zhì)生產(chǎn)力的創(chuàng)新發(fā)展奠定基礎(chǔ)。企業(yè)通過(guò)內(nèi)部審查與動(dòng)態(tài)監(jiān)控，履行《數(shù)據(jù)安全法》第二十九條“數(shù)據(jù)風(fēng)險(xiǎn)監(jiān)測(cè)與補(bǔ)救”的義務(wù)，既能降低隱私泄露風(fēng)險(xiǎn)，又能通過(guò)動(dòng)態(tài)調(diào)整與技術(shù)優(yōu)化滿足新質(zhì)生產(chǎn)力對(duì)實(shí)時(shí)數(shù)據(jù)的需求。此外，第三方機(jī)構(gòu)通過(guò)獨(dú)立審查與用戶反饋機(jī)制，加強(qiáng)了外部監(jiān)督的透明性與社會(huì)參與的廣泛性，在平衡數(shù)據(jù)合規(guī)要求與技術(shù)創(chuàng)新動(dòng)力的同時(shí)，提升了治理的公信力與實(shí)效性。

在權(quán)限分配機(jī)制方面，分級(jí)數(shù)據(jù)訪問(wèn)權(quán)限符合《數(shù)據(jù)安全法》第二十七條規(guī)定的技術(shù)安全要求，通過(guò)精準(zhǔn)劃分敏感數(shù)據(jù)訪問(wèn)權(quán)限，既提升了隱私保護(hù)水平，又確保了關(guān)鍵數(shù)據(jù)的高效流轉(zhuǎn)，從而支持新質(zhì)生產(chǎn)力對(duì)數(shù)據(jù)共享與協(xié)作的需求。同時(shí)，多因素驗(yàn)證與動(dòng)態(tài)權(quán)限管理結(jié)合了《數(shù)據(jù)安全法》第二十八條中“數(shù)據(jù)處理活動(dòng)需符合社會(huì)公德和倫理\"的原則。這一機(jī)制在保障數(shù)據(jù)訪問(wèn)安全性的同時(shí)，允許根據(jù)任務(wù)需求動(dòng)態(tài)調(diào)整權(quán)限，最大化支持AIGC在多場(chǎng)景中的創(chuàng)新應(yīng)用。尤其是在第三方數(shù)據(jù)處理環(huán)節(jié)，實(shí)時(shí)監(jiān)督與自動(dòng)化權(quán)限管理機(jī)制不僅符合《數(shù)據(jù)安全法》第三十三條與第三十四條的要求，還通過(guò)高效的權(quán)限分配與合規(guī)審查，確保了數(shù)據(jù)使用的合法性和合理性，為新質(zhì)生產(chǎn)力的發(fā)展提供了重要支撐。

1.多主體數(shù)據(jù)審查機(jī)制

《數(shù)據(jù)安全法》第二十七條要求建立全流程數(shù)據(jù)安全管理制度，并采取必要措施保障數(shù)據(jù)安全?！秱€(gè)人信息保護(hù)法》第六條和第十三條進(jìn)一步規(guī)定，數(shù)據(jù)處理活動(dòng)需遵循合法、正當(dāng)、必要原則，確保數(shù)據(jù)收集不

超出實(shí)現(xiàn)處理目的的范圍。然而，AIGC技術(shù)對(duì)海量數(shù)據(jù)的依賴可能導(dǎo)致企業(yè)突破“最小必要原則”，甚至出現(xiàn)過(guò)度數(shù)據(jù)收集問(wèn)題。為此，應(yīng)建立多主體數(shù)據(jù)審查機(jī)制，在數(shù)據(jù)收集與處理的各個(gè)環(huán)節(jié)引入嚴(yán)格的前置和后續(xù)審

查24，形成由政府監(jiān)管機(jī)構(gòu)主導(dǎo)全局監(jiān)管、企業(yè)合規(guī)部門加強(qiáng)動(dòng)態(tài)自律以及獨(dú)立第三方審查機(jī)構(gòu)與用戶反饋補(bǔ)充監(jiān)督的監(jiān)管閉環(huán)。

第一，政府監(jiān)管：預(yù)審查與定期報(bào)告。國(guó)家互聯(lián)網(wǎng)信息辦公室等機(jī)構(gòu)需主導(dǎo)數(shù)據(jù)管理，要求企業(yè)在數(shù)據(jù)收集前提交詳細(xì)處理計(jì)劃[25]，包括目的、范圍、期限和方式。前置審查機(jī)制提升數(shù)據(jù)使用透明度，避免企業(yè)在數(shù)據(jù)收集初期違反最小必要原則。同時(shí)，定期審查與合規(guī)性報(bào)告能確保數(shù)據(jù)處理過(guò)程符合法律規(guī)定。尤其是在處理敏感數(shù)據(jù)時(shí)，如健康信息和金融數(shù)據(jù)，企業(yè)需制定專門審查流程以保障合規(guī)。

第二，企業(yè)自律：內(nèi)部審查與動(dòng)態(tài)監(jiān)控。企業(yè)需建立自我審查機(jī)制，定期檢查數(shù)據(jù)存儲(chǔ)、傳輸和共享的合規(guī)性，并對(duì)潛在風(fēng)險(xiǎn)進(jìn)行動(dòng)態(tài)監(jiān)控。特別是在AIGC系統(tǒng)開發(fā)與應(yīng)用中，新數(shù)據(jù)的收集與處理必須經(jīng)過(guò)合規(guī)評(píng)估，并向政府提交報(bào)告。企業(yè)還需加強(qiáng)員工培訓(xùn)和責(zé)任追溯，確保相關(guān)人員熟悉法律要求，及時(shí)發(fā)現(xiàn)并糾正違規(guī)行為。

第三，第三方審查與用戶參與。獨(dú)立的第三方機(jī)構(gòu)可對(duì)企業(yè)數(shù)據(jù)處理行為進(jìn)行客觀評(píng)估，發(fā)現(xiàn)問(wèn)題后及時(shí)采取糾正措施，為企業(yè)提供雙重監(jiān)督。此外，用戶參與機(jī)制確保其知情權(quán)和決策權(quán)，用戶可通過(guò)透明界面查看數(shù)據(jù)使用情況，并隨時(shí)調(diào)整或撤回授權(quán)。用戶反饋還能為第三方審查提供參考，提升數(shù)據(jù)治理透明性和合法性。例如，GDPR要求企業(yè)在收集用戶數(shù)據(jù)前進(jìn)行數(shù)據(jù)影響評(píng)估(DPIA），以確保數(shù)據(jù)處理風(fēng)險(xiǎn)可控[2。結(jié)合我國(guó)《個(gè)人信息保護(hù)法》和《數(shù)據(jù)安全法》的要求，尤其在處理跨境數(shù)據(jù)和AIGC數(shù)據(jù)訓(xùn)練時(shí)，通過(guò)嚴(yán)格的第三方審計(jì)和用戶監(jiān)督，有助于減少隱私風(fēng)險(xiǎn)，增強(qiáng)數(shù)據(jù)處理的合規(guī)性。

2.權(quán)限分配機(jī)制

第一，嚴(yán)格分級(jí)數(shù)據(jù)訪問(wèn)權(quán)限。在AIGC系統(tǒng)中，分級(jí)管理是確保數(shù)據(jù)隱私和安全的基礎(chǔ)。高敏感性數(shù)據(jù)如個(gè)人身份信息、健康記錄、財(cái)務(wù)數(shù)據(jù)等，必須采用加密、匿名化或去標(biāo)識(shí)化方式處理，且僅限特定任務(wù)所需人員訪問(wèn)?！秱€(gè)人信息保護(hù)法》第四

十四條要求，敏感數(shù)據(jù)處理必須遵循最小化原則，防止過(guò)度收集和濫用。企業(yè)應(yīng)采用強(qiáng)制加密、端到端加密及數(shù)據(jù)分塊加密等多重保護(hù)措施，以防數(shù)據(jù)在傳輸和存儲(chǔ)過(guò)程中被截取或泄露。同時(shí)，定期審核權(quán)限設(shè)定，確保訪問(wèn)權(quán)限合理，并嚴(yán)格按照規(guī)定使用數(shù)據(jù)，避免敏感數(shù)據(jù)被不必要地訪問(wèn)。

第二，多因素驗(yàn)證與動(dòng)態(tài)權(quán)限管理。為增強(qiáng)數(shù)據(jù)訪問(wèn)安全，企業(yè)應(yīng)采用多因素驗(yàn)證(MFA)與零信任安全框架。這些措施結(jié)合密碼保護(hù)、生物識(shí)別(如指紋或面部識(shí)別）、驗(yàn)證碼及硬件令牌等多種驗(yàn)證方式，確保僅合法授權(quán)用戶可訪問(wèn)數(shù)據(jù)。在AIGC系統(tǒng)中，鑒于數(shù)據(jù)量大且敏感度高，此類驗(yàn)證機(jī)制尤為重要，可有效防止因權(quán)限泄露導(dǎo)致的隱私風(fēng)險(xiǎn)。此外，企業(yè)應(yīng)采用動(dòng)態(tài)權(quán)限管理系統(tǒng)，通過(guò)實(shí)時(shí)監(jiān)控與審查，根據(jù)實(shí)際需求調(diào)整權(quán)限。例如，任務(wù)完成后自動(dòng)收回?cái)?shù)據(jù)訪問(wèn)權(quán)限，避免長(zhǎng)期開放帶來(lái)的風(fēng)險(xiǎn)，定期清理歷史權(quán)限可進(jìn)一步保障數(shù)據(jù)安全。

第三，外部審查機(jī)制與第三方數(shù)據(jù)處理。企業(yè)與第三方共享數(shù)據(jù)時(shí)需設(shè)定嚴(yán)格邊界，確保第三方僅訪問(wèn)必要數(shù)據(jù)?！稊?shù)據(jù)安全法》和《個(gè)人信息保護(hù)法》要求，涉及用戶個(gè)人信息的第三方服務(wù)（如支付處理或數(shù)據(jù)分析)需經(jīng)過(guò)嚴(yán)格合規(guī)審查，并簽訂明確的法律協(xié)議，規(guī)范數(shù)據(jù)使用范圍與目的[27]。企業(yè)應(yīng)通過(guò)訪問(wèn)日志記錄與監(jiān)控系統(tǒng)實(shí)時(shí)追蹤第三方的數(shù)據(jù)使用行為，確保其合規(guī)操作。此外，第三方需接受定期獨(dú)立審計(jì)以驗(yàn)證數(shù)據(jù)使用合法性和合規(guī)性。企業(yè)還應(yīng)引入自動(dòng)化權(quán)限管理工具，及時(shí)更新和核查第三方權(quán)限，防止權(quán)限超出范圍。若發(fā)現(xiàn)第三方濫用數(shù)據(jù)，需立即凍結(jié)其權(quán)限并啟動(dòng)內(nèi)部調(diào)查，保障用戶隱私權(quán)不

受侵害。

（二）動(dòng)態(tài)生成監(jiān)督與跨部門合規(guī)責(zé)任機(jī)制

動(dòng)態(tài)生成監(jiān)督與跨部門合規(guī)責(zé)任機(jī)制（見圖2）以現(xiàn)行法律為基礎(chǔ)，并結(jié)合創(chuàng)新實(shí)踐，為AIGC賦能新質(zhì)生產(chǎn)力提供隱私保護(hù)與合規(guī)發(fā)展的雙重保障。此外，在動(dòng)態(tài)生成監(jiān)督方面，《數(shù)據(jù)安全法》第二十七條要求建立全流程安全管理制度，第二十八條強(qiáng)調(diào)數(shù)據(jù)處理需符合社會(huì)公德與倫理；《個(gè)人信息保護(hù)法》第二十九條明確處理敏感數(shù)據(jù)時(shí)需具備實(shí)時(shí)監(jiān)測(cè)與補(bǔ)救能力。這些法規(guī)為動(dòng)態(tài)生成監(jiān)督和實(shí)時(shí)預(yù)警機(jī)制奠定了法律依據(jù)?；诖?，本文引入自動(dòng)化工具提升監(jiān)測(cè)效率，并結(jié)合人機(jī)協(xié)作，實(shí)現(xiàn)多層次監(jiān)督，確保生成內(nèi)容的精準(zhǔn)性與靈活性，同時(shí)滿足新質(zhì)生產(chǎn)力的數(shù)據(jù)需求。

1.動(dòng)態(tài)內(nèi)容生成監(jiān)督機(jī)制

第一，自動(dòng)化監(jiān)測(cè)與篩查工具的應(yīng)用。AIGC技術(shù)依賴復(fù)雜算法和海量數(shù)據(jù)生成內(nèi)容，其不可預(yù)測(cè)性對(duì)用戶隱私和信息控制權(quán)構(gòu)成挑戰(zhàn)。為此，平臺(tái)應(yīng)通過(guò)自動(dòng)化監(jiān)測(cè)和篩查工具進(jìn)行實(shí)時(shí)分析。這些工具利用機(jī)器學(xué)習(xí)和人工智能技術(shù)，識(shí)別潛在隱私泄露或法律風(fēng)險(xiǎn)，尤其針對(duì)個(gè)人信息和敏感數(shù)據(jù)進(jìn)行自動(dòng)監(jiān)測(cè)。例如，當(dāng)系統(tǒng)檢測(cè)到未經(jīng)授權(quán)的個(gè)人數(shù)據(jù)被用于生成內(nèi)容時(shí)，可自動(dòng)觸發(fā)警報(bào)并暫停發(fā)布。這種機(jī)制符合《個(gè)人信息保護(hù)法》第六條的數(shù)據(jù)最小化要求，有效減少用戶數(shù)據(jù)的濫用風(fēng)險(xiǎn)，特別是在處理醫(yī)療數(shù)據(jù)和殘障人數(shù)據(jù)等敏感信息時(shí)，確保每一生成階段符合法律規(guī)范。

第二，實(shí)時(shí)預(yù)警與暫停機(jī)制。針對(duì)AIGC生成內(nèi)容可能引發(fā)的隱私或法律問(wèn)題，平臺(tái)需建立實(shí)時(shí)預(yù)警和暫停機(jī)制。通過(guò)敏感內(nèi)容識(shí)別模塊，系統(tǒng)在發(fā)現(xiàn)未經(jīng)授權(quán)的個(gè)人信息被利用時(shí)，需立即暫停內(nèi)容生成或發(fā)布[28]。這種機(jī)制不僅可保護(hù)個(gè)人隱私，還能防止生成不當(dāng)或違法內(nèi)容。例如，在生成法律文件或公共信息時(shí)，通過(guò)多層次的內(nèi)容預(yù)警和暫停操作，可避免自動(dòng)化生成導(dǎo)致的錯(cuò)誤傳播。

第三，人機(jī)協(xié)作的多層次動(dòng)態(tài)監(jiān)督。盡管自動(dòng)化工具在內(nèi)容監(jiān)督中發(fā)揮重要作用，但僅依賴自動(dòng)化可能不足。在處理復(fù)雜問(wèn)題時(shí)，需引入人機(jī)協(xié)作的多層次監(jiān)督機(jī)制。平臺(tái)應(yīng)配備專業(yè)人員，在系統(tǒng)無(wú)法自動(dòng)處理或識(shí)別潛在風(fēng)險(xiǎn)時(shí)進(jìn)行人工干預(yù)和審核。例如，在法律、金融和公共服務(wù)等高敏感領(lǐng)域，引入人工審核機(jī)制確保生成內(nèi)容符合法律和行業(yè)標(biāo)準(zhǔn)。通過(guò)人機(jī)協(xié)作，平臺(tái)可保障內(nèi)容的技術(shù)、法律和倫理合規(guī)性，降低因自動(dòng)化判斷失誤帶來(lái)的風(fēng)險(xiǎn)。

2.跨部門合規(guī)責(zé)任機(jī)制

第一，政府監(jiān)管主導(dǎo)與合規(guī)標(biāo)準(zhǔn)制定。政府監(jiān)管機(jī)構(gòu)應(yīng)主導(dǎo)制定法律合規(guī)標(biāo)準(zhǔn)和實(shí)施細(xì)則，涵蓋隱私保護(hù)、數(shù)據(jù)使用和內(nèi)容生成等領(lǐng)域29，確保法律規(guī)范與AIGC技術(shù)特點(diǎn)相結(jié)合。例如，國(guó)家互聯(lián)網(wǎng)信息辦公室和市場(chǎng)監(jiān)管機(jī)構(gòu)應(yīng)針對(duì)算法透明性和生成內(nèi)容的合規(guī)性制定專項(xiàng)監(jiān)管政策。這些政策要求平臺(tái)在內(nèi)容生成前進(jìn)行風(fēng)險(xiǎn)評(píng)估，并備案涉及用戶敏感信息的操作，確保生成內(nèi)容的每個(gè)環(huán)節(jié)均符合合規(guī)要求。

第二，企業(yè)內(nèi)部合規(guī)部門與自律審查。企業(yè)需設(shè)立專門的合規(guī)部門，動(dòng)態(tài)監(jiān)督AIGC內(nèi)容生成的全過(guò)程，確保技術(shù)系統(tǒng)符合法律要求[30]。合規(guī)部門需定期對(duì)生成內(nèi)容的合規(guī)性進(jìn)行審查，并為敏感數(shù)據(jù)的生成和使用建立詳細(xì)記錄以供追溯。此外，企業(yè)應(yīng)定期提交合規(guī)報(bào)告，與監(jiān)管機(jī)構(gòu)保持合作，確保法律動(dòng)態(tài)與合規(guī)策略同步。例如，在生成法律服務(wù)類內(nèi)容時(shí)，企業(yè)應(yīng)建立專門的合規(guī)審核小組，逐一審查生成內(nèi)容，以避免隱私侵害和法律違規(guī)。

第三，第三方審計(jì)與責(zé)任追蹤機(jī)制。引入獨(dú)立審計(jì)機(jī)構(gòu)對(duì)AIGC內(nèi)容生成流程進(jìn)行定期審查，確保企業(yè)遵守法規(guī)和標(biāo)準(zhǔn)[3]。獨(dú)立審計(jì)不僅監(jiān)督企業(yè)行為，還提供公平透明的合規(guī)環(huán)境。責(zé)任追蹤機(jī)制需明確生成內(nèi)容責(zé)任的歸屬，并為每份生成內(nèi)容建立詳細(xì)的合規(guī)記錄，確保在問(wèn)題發(fā)生時(shí)迅速找到責(zé)任主體，減少法律糾紛。這一機(jī)制通過(guò)多方監(jiān)督與追蹤，不僅防止合規(guī)失誤，還能提升公眾對(duì)AIGC平臺(tái)的信任。

（三）透明的數(shù)據(jù)共享協(xié)作與分階段同意機(jī)制

透明的數(shù)據(jù)共享協(xié)作與分階段同意機(jī)制（見圖3）的設(shè)計(jì)，旨在平衡數(shù)據(jù)共享的合規(guī)性與隱私保護(hù)的有效性，為AIGC賦能新質(zhì)生產(chǎn)力提供數(shù)據(jù)支持。在透明的數(shù)據(jù)共享機(jī)制中，《數(shù)據(jù)安全法》第二十七條要求建立全流程數(shù)據(jù)安全管理制度，第三十二條明確數(shù)據(jù)合法、正當(dāng)使用的規(guī)定，要求數(shù)據(jù)處理者履行信息公開和透明管理義務(wù)；多主體協(xié)作機(jī)制則依據(jù)第二十九條和第三十條，通過(guò)動(dòng)態(tài)風(fēng)險(xiǎn)監(jiān)控與定期評(píng)估，確保數(shù)據(jù)共享的合法性與安全性。此外，通過(guò)持續(xù)監(jiān)控與自動(dòng)化預(yù)警機(jī)制，利用技術(shù)手段實(shí)時(shí)控制風(fēng)險(xiǎn)，進(jìn)一步提高數(shù)據(jù)共享過(guò)程的監(jiān)管效率。在分階段同意機(jī)制中，分階段授權(quán)與用戶撤回權(quán)的設(shè)置滿足了《個(gè)人信息保護(hù)法》第二十九條和第四十四條的法律要求，并通過(guò)個(gè)性化選擇功能，賦予用戶調(diào)整隱私偏好的靈活性，從而實(shí)現(xiàn)隱私保護(hù)與數(shù)據(jù)共享的平衡。這一機(jī)制既支持新質(zhì)生產(chǎn)力對(duì)數(shù)據(jù)高效流轉(zhuǎn)的需求，又增強(qiáng)了隱私保護(hù)的廣度與深度。

1.透明的數(shù)據(jù)共享機(jī)制

第一，數(shù)據(jù)共享的透明框架與信息公開。在數(shù)據(jù)共享過(guò)程中，建立透明框架尤為重要。平臺(tái)和企業(yè)應(yīng)向用戶清晰披露數(shù)據(jù)的收集、存儲(chǔ)、處理和共享情況，包括數(shù)據(jù)類型、共享對(duì)象、目的、使用期限及處理方式32]。這些信息應(yīng)通過(guò)用戶友好的界面展示，方便用戶了解其數(shù)據(jù)的使用情況并追蹤數(shù)據(jù)流動(dòng)。此外，區(qū)塊鏈等技術(shù)可作為技術(shù)保障，確保共享環(huán)節(jié)的可追溯性，避免未經(jīng)授權(quán)的使用或數(shù)據(jù)篡改。這一機(jī)制不僅符合《個(gè)人信息保護(hù)法》和《數(shù)據(jù)安全法》的要求，還能增強(qiáng)用戶對(duì)平臺(tái)數(shù)據(jù)處理的信任。

第二，多主體數(shù)據(jù)共享協(xié)作機(jī)制。數(shù)據(jù)共享涉及多個(gè)主體和平臺(tái)，需要明確各方的責(zé)任與角色。政府機(jī)構(gòu)應(yīng)制定數(shù)據(jù)共享的標(biāo)準(zhǔn)與規(guī)則，企業(yè)需確保共享過(guò)程符合法律要求并接受外部審查。同時(shí)，平臺(tái)可與第三方審計(jì)機(jī)構(gòu)合作，定期對(duì)數(shù)據(jù)共享過(guò)程進(jìn)行獨(dú)立評(píng)估，保障合規(guī)性與透明性。這種多主體協(xié)作機(jī)制有效減少數(shù)據(jù)泄露風(fēng)險(xiǎn)，防止數(shù)據(jù)被過(guò)度使用或非法傳播，同時(shí)明確各方責(zé)任。

第三，持續(xù)監(jiān)控與自動(dòng)化風(fēng)險(xiǎn)預(yù)警系統(tǒng)。平臺(tái)需建立持續(xù)監(jiān)控與自動(dòng)化風(fēng)險(xiǎn)預(yù)警系統(tǒng)，確保數(shù)據(jù)共享的合法性和安全性。通過(guò)機(jī)器學(xué)習(xí)和人工智能技術(shù)，實(shí)時(shí)監(jiān)控?cái)?shù)據(jù)使用情況，尤其針對(duì)敏感數(shù)據(jù)和個(gè)人信息，應(yīng)設(shè)立監(jiān)控機(jī)制以確保數(shù)據(jù)共享符合既定目的和法律要求。當(dāng)出現(xiàn)不當(dāng)使用或超出范圍的共享行為時(shí)，系統(tǒng)應(yīng)自動(dòng)報(bào)警并暫停相關(guān)操作。此外，平臺(tái)需定期向用戶和相關(guān)方提供數(shù)據(jù)使用報(bào)告，展示數(shù)據(jù)流動(dòng)情況及合規(guī)性審核結(jié)果。此類監(jiān)控與預(yù)警系統(tǒng)有助于確保共享過(guò)程的安全性，降低法律風(fēng)險(xiǎn)與數(shù)據(jù)泄露隱患。

2.分階段同意機(jī)制

第一，分階段授權(quán)與數(shù)據(jù)處理透明化。分階段同意機(jī)制要求用戶對(duì)每個(gè)數(shù)據(jù)處理階段單獨(dú)授權(quán)，而非一次性授權(quán)整體使用。平臺(tái)需在每個(gè)階段操作前明確告知數(shù)據(jù)的使用目的、處理方式及涉及的第三方，使用戶清楚了解數(shù)據(jù)如何被利用，并根據(jù)實(shí)際需求作出決策。例如，在廣告投放、個(gè)性化推薦或跨境數(shù)據(jù)傳輸?shù)葓?chǎng)景，用戶應(yīng)被告知具體操作信息，確保在充分知情的情況下進(jìn)行選擇。此透明化過(guò)程不僅符合《個(gè)人信息保護(hù)法》對(duì)知情同意的要求，也能有效防止數(shù)據(jù)被濫用或超出用戶預(yù)期。

第二，用戶控制的靈活性與撤回權(quán)。分階段同意機(jī)制的核心是賦予用戶靈活調(diào)整和撤回授權(quán)的權(quán)利。平臺(tái)應(yīng)提供簡(jiǎn)便的操作界面，使用戶能在數(shù)據(jù)處理的各階段實(shí)時(shí)修改或撤回授權(quán)。例如，用戶在數(shù)據(jù)被第三方處理前決定撤回授權(quán)時(shí)，平臺(tái)需立即停止數(shù)據(jù)使用并刪除存儲(chǔ)。這種靈活性機(jī)制增強(qiáng)了用戶對(duì)數(shù)據(jù)的控制感，同時(shí)符合法律關(guān)于數(shù)據(jù)撤回的規(guī)定，有效保護(hù)用戶的個(gè)人信息權(quán)利。

第三，用戶授權(quán)管理與個(gè)性化選擇機(jī)制。平臺(tái)需為用戶提供個(gè)性化的數(shù)據(jù)授權(quán)管理選項(xiàng)，允許其根據(jù)數(shù)據(jù)類型或用途設(shè)定授權(quán)條件[33]。例如，用戶可選擇允許平臺(tái)基于行為數(shù)據(jù)提供個(gè)性化內(nèi)容，但拒絕共享個(gè)人身份信息給第三方廣告商。通過(guò)詳細(xì)的授權(quán)選擇界面，用戶可以靈活調(diào)整隱私偏好。此機(jī)制不僅提升了數(shù)據(jù)使用的合規(guī)性，還為用戶提供更精準(zhǔn)和靈活的隱私控制方式，同時(shí)增強(qiáng)對(duì)平臺(tái)數(shù)據(jù)處理行為的信任。

四、結(jié)語(yǔ)

AIGC技術(shù)的快速崛起正推動(dòng)新質(zhì)生產(chǎn)力的變革，但同時(shí)也帶來(lái)了隱私風(fēng)險(xiǎn)和治理挑戰(zhàn)。黨的二十屆三中全會(huì)強(qiáng)調(diào)在推進(jìn)中國(guó)式現(xiàn)代化中統(tǒng)籌發(fā)展和安全，為AIGC的隱私治理指明了方向。生成內(nèi)容的不確定性、數(shù)據(jù)處理的復(fù)雜性和跨領(lǐng)域數(shù)據(jù)共享性，模糊了個(gè)人信息的邊界，進(jìn)一步加劇了隱私泄露和信息控制權(quán)的沖突。傳統(tǒng)法律框架難以全面應(yīng)對(duì)這些新問(wèn)題，迫切需要從治理機(jī)制和法律制度上進(jìn)行調(diào)整?；趨f(xié)同治理理念，AIGC隱私治理應(yīng)重點(diǎn)關(guān)注多主體數(shù)據(jù)審查、動(dòng)態(tài)內(nèi)容生成監(jiān)督和跨部門合規(guī)責(zé)任機(jī)制。通過(guò)實(shí)時(shí)監(jiān)督與多方協(xié)同治理，能有效應(yīng)對(duì)生成內(nèi)容的不確定性，保障用戶信息控制權(quán)，降低隱私侵權(quán)風(fēng)險(xiǎn)。此外，應(yīng)堅(jiān)持包容審慎的監(jiān)管理念，通過(guò)分階段用戶同意機(jī)制和多層次責(zé)任分配，確保AIGC技術(shù)在推動(dòng)新質(zhì)生產(chǎn)力發(fā)展時(shí)，兼顧隱私保護(hù)與社會(huì)責(zé)任，實(shí)現(xiàn)技術(shù)進(jìn)步與社會(huì)安全的平衡。

參考文獻(xiàn)：

[1]習(xí)近平經(jīng)濟(jì)思想研究中心.新質(zhì)生產(chǎn)力的內(nèi)涵特征和 發(fā)展重點(diǎn)（深人學(xué)習(xí)貫徹習(xí)近平新時(shí)代中國(guó)特色社會(huì) 主義思想)[N].人民日?qǐng)?bào)，2024-03-01(09).

[2]侯冠宇，張震宇.新質(zhì)生產(chǎn)力賦能共同富裕的理論邏 輯、關(guān)鍵問(wèn)題與現(xiàn)實(shí)路徑[J].云南民族大學(xué)學(xué)報(bào)(哲學(xué) 社會(huì)科學(xué)版)，2024，41(3)：93-100.

[3]黃旭，洪美玲.生成式人工智能助力數(shù)字經(jīng)濟(jì)高質(zhì)量 發(fā)展的影響機(jī)制與提升路徑[J].南方經(jīng)濟(jì)，2024(8)：23-44.

[4] BANSE A， KREISCHER J. Federated Learning with Differential Privacy[EB/OL]. (2024-02-03) [2024-09-03]. https: //doi.org/10. 48550/arXiv. 2402. 02230.

[5] KUNG TH，CHEUNG S，LIN Y.Performance of ChatGPT on usmle:Potential for AI-Assisted Medical Education Using Large Language Models[J]. PLOS Digital Health， 2022(2): 1-12.

[6] BRAUNLEIN F，F(xiàn)RERICHS L. Smart Spies: Alexa and Google Home Expose Users to Vishing and Eavesdropping[EB/OL]. (2019-10-20)[2024-09-27]. https: //www. srlabs. de/blog-post/smart-spies.

[7] GARANTE P. Intelligenza Artificiale: Il Garante Blocca Chatgpt. [EB/OL]. (2023-03-31)[2024-09-01]. https: // www.garanteprivacy.it/home/docweb/-/docweb-display/ docweb/9870847.

[8] CHEN J， HE J，CAI L， et al. Disclose more and risk less: Privacy preserving online socialnetwork data sharing[J]. IEEE Transactions on Dependable and Secure Computing，2018(6): 1173-1187.

[9]WACHK，KUPRIANOVA，ZHANG T.The dark side of generative artificial intelligence: A critical analysisof controversiesand risks of ChatGPT[J]. Entrepreneurial Business and Economics Review，2023，11(2): 1-3.

[10]蒲清平，向往.生成式人工智能——ChatGPT的變革 影響、風(fēng)險(xiǎn)挑戰(zhàn)及應(yīng)對(duì)策略[J].重慶大學(xué)學(xué)報(bào)(社會(huì)科 學(xué)版)，2023，29(3):102-114.

[11]劉士國(guó).信息控制權(quán)法理與我國(guó)個(gè)人信息保護(hù)立法[J]. 政法論叢，2021(3):80-91.

[12]WAKEFIELDJ.Microsoft chatbot is taught to swear on Twiter[EB/OL]. (2016-03-24)[2024-09-20].https: // www.bbc.co.uk/news/technology-35890188.

[13] SALHAN K. Copyright law to be tested in AI High Court case[EB/OL]. (2023-12-19)[2024-09-20]. https: //gowlingwlg.com/en/insights-resources/articles/2023/copyrightlaw- to-be-tested-in-ai-high-court-case.

[14]HERNA.NewAiFake TextGenerator MayBe Too Dangerous to Release，Say Creators[EB/OL]. (2019-02-14) [2024-09-20]. https: //www. theguardian. com/technology/2019/feb/14/elon-musk-backed-ai-writes-convincingnews-fiction.

[15]田野.大數(shù)據(jù)時(shí)代知情同意原則的困境與出路- 以生物資料庫(kù)的個(gè)人信息保護(hù)為例[J].法制與社會(huì)發(fā) 展，2018，24(6): 111-136.

[16] CONFESSORE N. Cambridge Analytica and Facebook: The Scandal and the Fallout So Far[EB/OL]. (2018-04- 04)[2024-09-22]. https: //www. nytimes. com/2018/04/ 04/us/politics/cambridge-analytica-scandal-falout. html.

[17]國(guó)家石聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人就對(duì)滴滴全球股 份有限公司依法作出網(wǎng)絡(luò)安全審查相關(guān)行政處罰的 決定答記者問(wèn)[EB/OL]. (2022-07-21)[2024-09-20]. https: //www.cac. gov.cn/2022-07/21/c_166002153436 4976. htm.

[18] ANSELL C. Collaborative governance in theory and practice[J].Journal of Public Administration Research and Theory，2008(4): 543- 571.

[19]胡穎廉.推進(jìn)協(xié)同治理的挑戰(zhàn)[EB/OL].(2016-01-25) [2024-09-21]. http: //theory. people.com.cn/n1/2016/ 0125/c49150-28081271. html.

[20]黃曉春，周黎安.政府治理機(jī)制轉(zhuǎn)型與社會(huì)組織發(fā)展[J]. 中國(guó)社會(huì)學(xué)，2017(11): 118-138.

[21] ANSELL C. Collaborative governance in theory and practice[J].Journal of Public Administration Research and Theory，2008(4): 543- 571.

[22]方興東.從人工智能大模型看大國(guó)科技博弈態(tài)勢(shì)[J]. 人民論壇·學(xué)術(shù)前沿，2024(13):44-56.

[23]劉瓊蓮.中國(guó)社會(huì)治理共同體建設(shè)的關(guān)鍵：信任與韌 性[J].學(xué)習(xí)與實(shí)踐，2020(11):29-39.

[24]中共中央國(guó)務(wù)院關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù) 據(jù)要素作用的意見[EB/OL].(2022-12-19)[2024-09- 20].https://www.gov.cn/zhengce/2022-12/19/content_ 5732695. htm.

[25]馬允.政府獲取平臺(tái)數(shù)據(jù)權(quán)力的構(gòu)造與邊界[J].山西 大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版)，2024(2): 49-59.

[26]DASHTI S.Tool-Assisted Risk Analysis for Data Protection Impact Assessment[C]. Privacy and Identity Management.Data for Better Living:AI and Privacy. Cham: Springer，2020:308-324.

[27] SCHNEIDER M.Protecting customer privacy when marketing with second-party data[J]. International Journal of Research in Marketing，2017(4): 593-603.

[28] STRATTA M.Automated content warnings for sensitive posts[C]. CHI EA'2O: Extended Abstracts of the 2020 CHI Conference on Human Factors in Computing Systems.New York:ACM，2020:1-8.

[29] HACKER P. Regulating ChatGPT and Other Large Generative AI Models[C]. FAccT'23:Proceedings of the 2023 ACM Conference on Fairness，Accountability，and Transparency，2023:1112-1123.

[30]張欣.生成式人工智能的算法治理挑戰(zhàn)與治理型監(jiān) 管[J].現(xiàn)代法學(xué)，2023，45(3):108-123.

[31]RAJIID，MITCHELL M， SMITH JM， et al.Outsider oversight: Designinga third party audit ecosystem for AI governance[C]. Proceedings of the 2022 AAAI/ACMConference on AI，Ethics，and Society.New York:ACM， 2022: 231-242.

[22]范為+數(shù)氓葉代個(gè)Ⅰ自但忙的敗徑重均環(huán)球

法律評(píng)論，2016，38(5):92-115. [33]MERLECMM，LEEYK，HONGSP，etal.Asmart contract-based dynamic consent management system for personal data usage under GDPR[J]. Sensors，2O21(23): 1-24.

Privacy Risks and Collaborative Governance of Artificial Intelligence Generated Content Empowering New Quality Productivity Forces

Yang Qingwang，Tang Qian

(LawSchool，Central SouthUniversity，Changsha41oo83，China）

Abstract:Generative AI playsacriticalrole indriving the development ofnewquality productive forces，significantly enhancingproduction eficiencyand innovation capacity.However，itsheavyrelianceondata alsobrings seriousprivacy risks.The application of generative AI in new quality productivity forces scenarios requires large scale，highprecisiondata，often exceeding thescopeof thedataminimizationprinciple，therebyincreasing the likelihoodof excessive datacollction.Aditionally，thecomplexityof algorithmsandthe unpredictabilityof generated content weaken user control over personal information，leading to insuffcient transparencyandexacerbating privacy risks.Moreover， cross-industryandcross-regional data sharing makes it dificult to fullyachieve informed consent.Toaddress these challenges，acollborative governance model is needed，ensuring dataminimizationthrough multi-stakeholderdatareview and permisson allcation mechanisms，thereby reducing theriskof excessive data colection.Dynamic content generation supervision and cross-departmental compliance responsibility mechanisms can strengthen the regulation of generated content，enhancing user control over their information.Transparent data-sharing cooperation and phased consentmechanisms willensure that users efectivelycontrol their information in cross-industryand cross-regional data flows，ultimately achieving a balance between the development of AIGC technology and privacy protection.

Keywords:generative Inteligence;new quality productivity forces;personal information protection; privacy protection; collaborative governance