管理人工智能生成合成內(nèi)容有“辦法”

近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》），自2025年9月1日起施行。國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示，《標(biāo)識辦法》旨在促進(jìn)人工智能健康發(fā)展，規(guī)范人工智能生成合成內(nèi)容標(biāo)識，保護(hù)公民、法人和其他組織合法權(quán)益，維護(hù)社會公共利益。

近年來，生成式人工智能、深度合成等新技術(shù)快速發(fā)展，為生成合成文本、圖片、音頻、視頻等信息提供了便利工具，在促進(jìn)經(jīng)濟發(fā)展、豐富網(wǎng)上內(nèi)容、便利公眾生活的同時，也造成虛假信息傳播、破壞網(wǎng)絡(luò)生態(tài)等問題。社會廣泛呼吁加快專門立法、強化技術(shù)監(jiān)管、壓實平臺責(zé)任。為積極響應(yīng)社會關(guān)切和群眾關(guān)心，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部、國家廣播電視總局制定了《標(biāo)識辦法》?！稑?biāo)識辦法》以內(nèi)容標(biāo)識為抓手，細(xì)化前期相關(guān)部門規(guī)章的標(biāo)識相關(guān)要求，進(jìn)一步發(fā)揮內(nèi)容標(biāo)識提醒提示和監(jiān)督溯源的技術(shù)作用，著力構(gòu)建開放、公正、有效的治理機制，營造公平有序發(fā)展環(huán)境，推動人工智能產(chǎn)業(yè)健康有序發(fā)展。

《標(biāo)識辦法》明確，人工智能生成合成內(nèi)容標(biāo)識主要包括顯式標(biāo)識和隱式標(biāo)識兩種形式，顯式標(biāo)識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識；隱式標(biāo)識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識。

《標(biāo)識辦法》提出，按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》相關(guān)要求開展人工智能生成合成內(nèi)容標(biāo)識活動的，應(yīng)當(dāng)符合《標(biāo)識辦法》相關(guān)要求。

《標(biāo)識辦法》要求，服務(wù)提供者提供的生成合成服務(wù)屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形的，應(yīng)當(dāng)按照要求對生成合成內(nèi)容添加顯式標(biāo)識；服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定，在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識；提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取技術(shù)措施，規(guī)范生成合成內(nèi)容傳播活動。

《標(biāo)識辦法》強調(diào)，任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標(biāo)識，不得為他人實施上述惡意行為提供工具或者服務(wù)，不得通過不正當(dāng)標(biāo)識手段損害他人合法權(quán)益。

配套《標(biāo)識辦法》，強制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法》（以下簡稱《標(biāo)識標(biāo)準(zhǔn)》），已由國家市場監(jiān)督管理總局、國家標(biāo)準(zhǔn)化管理委員會正式批準(zhǔn)發(fā)布（2025年第3號），2025年9月1日與《標(biāo)識辦法》同步實施。

同時，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會針對生成合成服務(wù)提供者和內(nèi)容傳播服務(wù)提供者的平臺編碼，組織起草了配套實踐指南《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實踐指南——人工智能生成合成內(nèi)容標(biāo)識服務(wù)提供者編碼規(guī)則》，已于3月14日正式獲批發(fā)布（網(wǎng)安秘字〔2025〕29號），為相關(guān)主體開展文件元數(shù)據(jù)隱式標(biāo)識提供了編碼指引。此外，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會正在就各文件格式的元數(shù)據(jù)標(biāo)識規(guī)范、各應(yīng)用場景的標(biāo)識方法等組織編制一系列推薦性標(biāo)準(zhǔn)、實踐指南，將在《標(biāo)識辦法》發(fā)布后逐步推出。

（來源：網(wǎng)信中國）

鏈接

解讀《標(biāo)識辦法》：“小步快走”實施AI治理

中國科學(xué)院科技戰(zhàn)略咨詢研究院研究員肖尤丹表示，此次新規(guī)雖然切口小，但應(yīng)當(dāng)把它放到生成式人工智能內(nèi)容治理的總體框架里，與算法備案管理、生成式人工智能服務(wù)管理、深度合成管理相互協(xié)調(diào)、共同發(fā)揮作用的角度去理解。當(dāng)前人工智能的治理，尤其是內(nèi)容治理，所遵循的思路是“小步快走”，而非追求大而全。這種思路符合人工智能技術(shù)的發(fā)展現(xiàn)狀，也與人工智能技術(shù)在大規(guī)模應(yīng)用中的產(chǎn)業(yè)場景相契合。

隱拓智安科技有限公司的工作人員萬嗣芳認(rèn)為，今后用戶刷到AI生成的明星廣告時，一眼就會看到“AI生成”提示，會避免被虛假宣傳誤導(dǎo)。對于AI公司和互聯(lián)網(wǎng)平臺來說，直觀的影響在于，使用AI批量生成營銷內(nèi)容時，必須像給商品貼成分表一樣規(guī)范標(biāo)注，否則可能面臨處罰。這次文件明確要求，AI服務(wù)提供者和內(nèi)容傳播平臺必須采取措施對AI生成內(nèi)容進(jìn)行標(biāo)識?？梢灶A(yù)見，未來AI服務(wù)平臺和各類媒體平臺上都將更加清晰地展示相關(guān)標(biāo)識，幫助公眾更便捷地識別AI生成內(nèi)容和深度偽造信息，相應(yīng)由AI偽造帶來的謠言情況也會隨之減少。

曾代理全國首例AI生成圖片著作權(quán)侵權(quán)案的律師李昀鍇認(rèn)為，《標(biāo)識辦法》的核心是為了遏制AI偽造內(nèi)容的傳播，減少謠言、詐騙等社會危害，也能夠推動AI技術(shù)在合法框架內(nèi)發(fā)展，保護(hù)公眾知情權(quán)。如果真的出現(xiàn)被誤導(dǎo)和詐騙的情況，也可以通過標(biāo)識水印追溯到實際的侵權(quán)人、犯罪者。以后，各類平臺均可能強制要求標(biāo)注，未合規(guī)的內(nèi)容可能無法發(fā)布。不過，目前來看，隱式標(biāo)識在技術(shù)上能否被有效地規(guī)避和移除可能還需要各平臺繼續(xù)探索，尋找一條技術(shù)上可行的統(tǒng)一路線。

（根據(jù)澎湃新聞相關(guān)報道整理）