生成式人工智能服務(wù)的法律管理規(guī)定解讀和風(fēng)險分析及對策建議

文 ｜國網(wǎng)思極網(wǎng)安科技（北京）有限公司 尹琴 郭晨萌 李寧 湯文玉 崔宇 唐恒

隨著ChatGPT大語言模型的火爆，我國也出現(xiàn)了“文心一言”“通義千問”等，生成式人工智能技術(shù)（AIGC）的應(yīng)用對社會和行業(yè)產(chǎn)生了廣泛的影響。它可以幫助企業(yè)更快地生產(chǎn)高質(zhì)量的內(nèi)容，從而提高效率和降低成本。然而，AIGC也存在一些潛在的風(fēng)險和挑戰(zhàn)，例如可能會被用于制造虛假信息、侵犯版權(quán)和知識產(chǎn)權(quán)等問題。因此，在使用AIGC時需要注意社會責(zé)任，并采取措施確保其使用是負(fù)責(zé)任和有益于整個社會。本文針對我國出臺的《生成式人工智能服務(wù)管理辦法（征求意見稿）》進(jìn)行解讀，并通過分析企業(yè)面臨的版權(quán)歸屬、數(shù)據(jù)泄露風(fēng)險、不良信息傳播、深度偽造等風(fēng)險，提出了開展登記備案、確保數(shù)據(jù)來源要合理合規(guī)、明確數(shù)據(jù)內(nèi)容標(biāo)識、做好隱私信息保護(hù)、建立審查過濾機(jī)制等相關(guān)對策建議。

一、《生成式人工智能服務(wù)管理辦法》解讀

2023年04月，國家互聯(lián)網(wǎng)信息辦公室根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī)發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見稿）》（后面簡稱“管理辦法”）。該管理辦法旨在促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，確保其符合法律法規(guī)要求，尊重社會公德和公序良俗。文件內(nèi)容包括：定義生成式人工智能技術(shù)、提供者需遵守的法律法規(guī)要求、預(yù)訓(xùn)練數(shù)據(jù)和標(biāo)注規(guī)則的要求、用戶身份信息收集和使用的要求、用戶投訴處理機(jī)制等。該辦法主要有21條，本文將進(jìn)行分析解讀。

（一）鼓勵國產(chǎn)化

管理辦法中第三條明確提出國家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源。從中可以看出，國家對AIGC的重視，尤其是強(qiáng)調(diào)AI算法、框架等的國產(chǎn)自主可控性。國產(chǎn)化首先可以減少對外國產(chǎn)品和技術(shù)的依賴，提高一個國家的經(jīng)濟(jì)獨(dú)立性和國家安全。其次，可以促進(jìn)技術(shù)轉(zhuǎn)移和提高技術(shù)競爭力，從而推動一個國家的經(jīng)濟(jì)發(fā)展。

（二）遵守法律法規(guī)和社會公德、公序良俗

第四條明確提出“提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會公德、公序良俗”。具體包括要體現(xiàn)社會主義核心價值觀、防止歧視（第十二條也再次強(qiáng)調(diào)該點）、保護(hù)知識產(chǎn)權(quán)杜絕不公平競爭、確保信息真實、尊重個人合法利益等。從本質(zhì)上看，該條款是我國社會主義核心價值觀的體現(xiàn)。

（三）誰生成誰負(fù)責(zé)，誰提供誰負(fù)責(zé)

在可用性和真實性方面，提供者應(yīng)當(dāng)在生命周期內(nèi)，提供安全、穩(wěn)健、持續(xù)的服務(wù)，保障用戶正常使用（第十四條），同時需要對生成內(nèi)容進(jìn)行標(biāo)識（第十六條），這是最基本的權(quán)利要求。提供者需要求用戶提供真實身份信息，符合網(wǎng)絡(luò)安全法規(guī)定（第九條）。如果采用人工標(biāo)注，提供者還需制定符合本管理辦法的標(biāo)注規(guī)則，確保標(biāo)注內(nèi)容的正確性（第八條）。此外，還應(yīng)當(dāng)指導(dǎo)用戶科學(xué)認(rèn)識和理性使用生成式人工智能生成的內(nèi)容，杜絕違法現(xiàn)象出現(xiàn)（第十八條）。

在隱私保護(hù)和合法性等方面，第五條明確提出“提供者承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任”，且要保護(hù)個人隱私信息、用戶畫像以及保護(hù)用戶輸入和使用記錄等（第十一條），還要采取措施防范用戶過分依賴或沉迷生成內(nèi)容（第十條），且需要提供可影響用戶信任、選擇的必要信息（十七條）。第七條明確提出“提供者應(yīng)當(dāng)對生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé)?！贝送?，提供者應(yīng)當(dāng)建立用戶投訴接收處理機(jī)制，及時處理個人關(guān)于更正、刪除、屏蔽其個人信息的請求，防止個人權(quán)利被侵害（第十三條）。對于運(yùn)行中發(fā)現(xiàn)、用戶舉報的不符合本辦法要求的生成內(nèi)容，除采取內(nèi)容過濾等措施外，應(yīng)在3個月內(nèi)通過模型優(yōu)化訓(xùn)練等方式防止再次生成（第十五條）。

（四）評估備案

第六條明確提出利用AIGC提供服務(wù)前，需要向國家網(wǎng)信部門申報安全評估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。這是為了確保生成式人工智能產(chǎn)品和服務(wù)符合法律法規(guī)的要求，尊重社會公德、公序良俗，不含有違反國家政策的內(nèi)容，并且保護(hù)用戶的個人信息和隱私。評估備案可以幫助監(jiān)管部門對生成式人工智能產(chǎn)品和服務(wù)進(jìn)行有效監(jiān)管，防止不良內(nèi)容的傳播和個人信息泄露等問題。同時，也可以促進(jìn)企業(yè)遵守相關(guān)法律法規(guī)，提高企業(yè)的社會責(zé)任感和公信力。

（五）違法處置

第十九條和第二十條明確規(guī)定，如果用戶在使用AIGC產(chǎn)品或服務(wù)過程中違反法律法規(guī)，違背商業(yè)道德、社會公德行為時，應(yīng)當(dāng)暫?；蛘呓K止服務(wù)。除了本管理辦法，第二十條還規(guī)定網(wǎng)信等部門還可根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護(hù)法》等法律、行政法規(guī)的規(guī)定予以處罰，根據(jù)情況可以警告、通報批評、暫停服務(wù)、罰款，甚至給予治安管理處罰或者追究刑事責(zé)任。

二、企業(yè)面臨的法律風(fēng)險

（一）版權(quán)歸屬問題

AIGC的訓(xùn)練需要大量數(shù)據(jù)，訓(xùn)練數(shù)據(jù)和生成的數(shù)據(jù)版權(quán)存在較大的法律風(fēng)險。首先，訓(xùn)練數(shù)據(jù)來源是否被授權(quán)，利用爬蟲從網(wǎng)絡(luò)爬取的數(shù)據(jù)就容易引起法律糾紛。例如，全球知名圖片提供商Getty Images起訴熱門人工智能（AI）繪畫工具Stable Diffusion的開發(fā)者Stability AI，稱其非法從網(wǎng)站竊取了數(shù)百萬張圖片，侵犯了版權(quán)。其次，AIGC生成的數(shù)據(jù)版權(quán)是否屬于AIGC服務(wù)“提供者”，這是一個在知識產(chǎn)權(quán)法學(xué)界存在較大爭議的問題。

（二）數(shù)據(jù)泄露安全風(fēng)險

AIGC模型的訓(xùn)練需要大量的數(shù)據(jù)，龐大的數(shù)據(jù)中可能包含很多人的敏感信息，同時AIGC在使用過程中會不斷提取使用者輸入的信息作為訓(xùn)練數(shù)據(jù)，進(jìn)行不斷迭代訓(xùn)練。因此，AIGC可能造成個人信息泄露的風(fēng)險。當(dāng)前以ChatGPT為代表的AIGC并沒有獲得用戶的同意，違法我國《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護(hù)條例》等法律法規(guī)的規(guī)定。

（三）不良信息傳播風(fēng)險

AIGC生成內(nèi)容的同時，可能會引入政治傾向、歧視等問題。帶有該類問題的不良信息的傳播，可能會存在加劇歧視的風(fēng)險，例如生成種族歧視、性別歧視、暴力、血腥色情等等違背法律和公序良俗的內(nèi)容，給整個社會、國家造成較大的安全風(fēng)險。

（四）深度偽造風(fēng)險

AIGC可以生成文字、圖像、視頻等，因此可以用于實現(xiàn)AI換臉、合成語音、人臉合成、視頻生成等場景。一旦被不法分子利用，可以用于金融詐騙、敲詐勒索等，對于社會造成極大的危害。

三、對策建議

（一）開展登記備案

對于AIGC的產(chǎn)品或服務(wù)，一律采取登記備案的方式，并評估其安全風(fēng)險。一旦出現(xiàn)問題，便于溯源追責(zé)。例如，市場上魚龍混雜的APP、小程序等均需要備案登記和評估，只有授權(quán)后才可以進(jìn)入市場，否則將一律封禁處罰。

（二）確保數(shù)據(jù)來源要合理合規(guī)

企業(yè)在訓(xùn)練自己的AIGC產(chǎn)品或者提供服務(wù)前，要對訓(xùn)練數(shù)據(jù)逐一排查，確保訓(xùn)練數(shù)據(jù)來源可靠、獲得授權(quán)等，杜絕版權(quán)糾紛問題。例如，爬取知名網(wǎng)站的圖片作為訓(xùn)練數(shù)據(jù)，必須取得對方網(wǎng)站的書面授權(quán)，否則一律視為侵權(quán)。

（三）明確數(shù)據(jù)內(nèi)容標(biāo)識

企業(yè)如果提供的數(shù)據(jù)是由AIGC生成的，建議明確標(biāo)注為AIGC生成。例如，合成的圖片、視頻、語音等，避免產(chǎn)生因深度偽造產(chǎn)生的誤導(dǎo)糾紛等。

（四）做好隱私信息保護(hù)

AIGC企業(yè)在獲取用戶信息時，首先要獲得用戶同意，取得用戶授權(quán)；其次，要做好用戶個人隱私信息的保護(hù)，例如采取加密、差分隱私等技術(shù)手段確保用戶隱私不被泄露。

（五）建立審查過濾機(jī)制

建議AIGC企業(yè)不斷完善審核不良信息的特征庫，加強(qiáng)對生產(chǎn)內(nèi)容的審查和過濾，確保應(yīng)用當(dāng)中盡量少的、有違法和違反公序良俗的內(nèi)容，在發(fā)現(xiàn)這些信息后應(yīng)當(dāng)要及時處置。另外，在處置時需要保存有關(guān)的處置和改進(jìn)的記錄，并將這些日志信息進(jìn)行封存。如果發(fā)現(xiàn)用戶中有違法使用者，可以警示或限制他們使用一些功能等等。

四、結(jié)語

AIGC是一把雙刃劍，在提高效率的同時，也引入了安全風(fēng)險隱患。因此，需要加強(qiáng)立法、加強(qiáng)監(jiān)督、合理引導(dǎo)，最大限度降低風(fēng)險，發(fā)揮AIGC最大價值，為我國經(jīng)濟(jì)健康穩(wěn)定發(fā)展貢獻(xiàn)AI智慧。