從ChatGPT火爆看智能生成內(nèi)容的風(fēng)險(xiǎn)及治理

金雪濤 周也馨

【摘要】人工智能技術(shù)的發(fā)展，為內(nèi)容生產(chǎn)領(lǐng)域帶來了生產(chǎn)力和生產(chǎn)關(guān)系的變革，智能生成內(nèi)容（AIGC）成為繼專業(yè)生成內(nèi)容（PGC）、用戶生成內(nèi)容（UGC）后全新的內(nèi)容生產(chǎn)模式，各類AIGC應(yīng)用在海內(nèi)外市場上廣受關(guān)注。文章從關(guān)鍵技術(shù)、生產(chǎn)主體、版權(quán)主體/確權(quán)、市場主導(dǎo)力量、虛實(shí)關(guān)系等方面入手，廓清AIGC帶來的產(chǎn)業(yè)結(jié)構(gòu)性變革，對AIGC所帶來的加劇“信息繭房”、造成信息失真、產(chǎn)生技術(shù)倫理及增大版權(quán)管理難度等問題進(jìn)行說明，進(jìn)而提出基于風(fēng)險(xiǎn)分類的動態(tài)治理、基于主體職責(zé)的系統(tǒng)管理、基于全球視角的協(xié)同治理等措施，以期為AIGC治理提供一定的參考。

【關(guān)鍵詞】AIGC GPT 算法 版權(quán)歸屬 技術(shù)倫理 綜合治理

【中圖分類號】G206 【文獻(xiàn)標(biāo)識碼】Ａ 【文章編號】1003-6687（2023）11-029-07

【DOI】 10.13786/j.cnki.cn14-1066/g2.2023.11.004

2023年年初，ChatGPT一躍成為AI技術(shù)應(yīng)用的頂流，學(xué)界、業(yè)界對生成式預(yù)訓(xùn)練語言模型的智能程序、生產(chǎn)內(nèi)容及各類影響進(jìn)行了激烈和廣泛的討論，話題持續(xù)升溫。ChatGPT是基于自然語言處理和深度學(xué)習(xí)的對話式人工智能模型，[1]帶來AI內(nèi)容創(chuàng)作領(lǐng)域生產(chǎn)力和生產(chǎn)關(guān)系的新變革。在深度學(xué)習(xí)的強(qiáng)大語言模型以及人類反饋強(qiáng)化學(xué)習(xí)技術(shù)加持下，ChatGPT能夠獨(dú)立進(jìn)行問答互動、文字翻譯及代碼撰寫等工作，在媒體、教育、醫(yī)療、游戲等行業(yè)具有廣泛的應(yīng)用前景。換言之，以ChatGPT為代表的智能生成內(nèi)容正在成為AI領(lǐng)域的商業(yè)新前沿。

自ChatGPT在市場中應(yīng)用以來，內(nèi)容供給和需求方就將其視為內(nèi)容生產(chǎn)中降低成本、提升效率的重要工具，對其未來的業(yè)務(wù)模式拓展及商業(yè)模式創(chuàng)新充滿期待，但也需關(guān)注智能技術(shù)的應(yīng)用在逐漸取代人的決策和行為時所帶來的技術(shù)負(fù)外部性問題。具體到ChatGPT帶來的AIGC熱潮，其所帶來的風(fēng)險(xiǎn)既包含以往人工智能固有的問題，也具備新的特征。

本研究基于內(nèi)容生成的演進(jìn)路徑，分析人工智能在生成文本、圖像、音頻、視頻以及多模態(tài)內(nèi)容中的不同應(yīng)用場景，探究AIGC在助力內(nèi)容孿生、內(nèi)容編輯、內(nèi)容創(chuàng)作過程中顯現(xiàn)出的加劇“信息繭房”、造成信息失真、產(chǎn)生技術(shù)倫理、增大版權(quán)管理難度等問題，進(jìn)而提出基于風(fēng)險(xiǎn)分類的動態(tài)治理、基于主體職責(zé)的系統(tǒng)管理、基于全球視角的協(xié)同治理等措施，為AIGC的發(fā)展提供參考。

一、內(nèi)容生成的演進(jìn)特征：從Web1.0到Web3.0

盡管在Web1.0階段，互聯(lián)網(wǎng)也是一對多的傳播媒介，但其強(qiáng)大的多樣態(tài)內(nèi)容集成功能使其一出現(xiàn)便超越了報(bào)紙、廣播、電視等一對多傳播的傳統(tǒng)媒體。當(dāng)數(shù)字技術(shù)推動互聯(lián)網(wǎng)從多元互動的Web2.0階段演進(jìn)到智能化的Web3.0階段，互聯(lián)網(wǎng)已成為連接人與人關(guān)系的重要媒介。在互聯(lián)網(wǎng)的發(fā)展歷程中，內(nèi)容生產(chǎn)模式不斷迭代升級，從Web1.0的PGC，到Web2.0的UGC+PUGC，再到延續(xù)至今的Web3.0的AIGC主導(dǎo)，內(nèi)容生產(chǎn)的關(guān)鍵技術(shù)、生產(chǎn)主體、版權(quán)主體/確權(quán)、市場主導(dǎo)力量、虛實(shí)關(guān)系等都發(fā)生了巨大變化（見表1）。

1. Web1.0：專家生成內(nèi)容時代

Web1.0時代，用戶通過Web瀏覽器單向獲取內(nèi)容，搜索技術(shù)、即時通信技術(shù)以腳本語言技術(shù)為重要基礎(chǔ)，具有高度中心化的特征。內(nèi)容生產(chǎn)主體為具備相關(guān)知識的專業(yè)機(jī)構(gòu)或團(tuán)隊(duì)，專業(yè)生產(chǎn)內(nèi)容成為主要內(nèi)容生產(chǎn)模式，互聯(lián)網(wǎng)呈現(xiàn)出多樣態(tài)內(nèi)容可讀形態(tài)，非交互性明顯。在PGC模式下，版權(quán)主體多為機(jī)構(gòu)，版權(quán)的確權(quán)需通過權(quán)威的第三方機(jī)構(gòu)，具有中心化的特征，PGC的典型場景依托主要門戶網(wǎng)站，市場主導(dǎo)力量是網(wǎng)站等數(shù)字化平臺。從虛實(shí)間關(guān)系來看，此時的線上世界還不能即時即刻地反映現(xiàn)實(shí)世界，也較難實(shí)現(xiàn)互動操作，很多線上內(nèi)容是用戶離場的非親歷（非具身）的信息或數(shù)據(jù)，也即用戶與事件在時空上不同步。

2. Web2.0：用戶生成內(nèi)容時代

當(dāng)技術(shù)實(shí)現(xiàn)了網(wǎng)絡(luò)上的供求交互，Web2.0走向成熟，社交媒體隨之產(chǎn)生，這也標(biāo)志著互聯(lián)網(wǎng)從一對多的傳播轉(zhuǎn)向了多對多的互動?；ヂ?lián)網(wǎng)技術(shù)的不斷進(jìn)步，打破了傳受雙方的界限，受眾在被動接受內(nèi)容的同時，開始注重自身的主動性，逐漸具備創(chuàng)作意識。

此時，內(nèi)容的呈現(xiàn)不再單單依賴腳本語言，而是使用內(nèi)容聚合技術(shù)。用戶成為內(nèi)容的產(chǎn)消者，用戶生成內(nèi)容成為新興的網(wǎng)絡(luò)信息資源創(chuàng)作與組織模式，[2]Web2.0呈現(xiàn)出多樣態(tài)內(nèi)容可讀可寫可交互形態(tài)。從版權(quán)主體和確權(quán)過程看，UGC、PUGC的版權(quán)主體多為用戶或用戶與簽約公司共有，確權(quán)及版權(quán)保護(hù)依然依賴于權(quán)威的第三方機(jī)構(gòu)。用戶可根據(jù)所創(chuàng)作內(nèi)容自發(fā)組建不同的網(wǎng)絡(luò)社群，社群經(jīng)濟(jì)、粉絲經(jīng)濟(jì)隨之誕生。此環(huán)境下，典型場景依托移動互聯(lián)網(wǎng)和社交媒體，“數(shù)字化平臺+數(shù)字化社群”成為Web2.0時代的市場主導(dǎo)力量。從虛實(shí)間關(guān)系看，在AR、VR、全息影像等技術(shù)的加持下，用戶離場但具身感受虛擬場景（如云上博物館），或被中介化在場具身體驗(yàn)真實(shí)場景（如遠(yuǎn)程醫(yī)療手術(shù)），實(shí)現(xiàn)了用戶與事件在時間上同步但空間上不同步。Web2.0呈現(xiàn)出內(nèi)容+應(yīng)用的主要特征，但由于UGC的低門檻，導(dǎo)致互聯(lián)網(wǎng)中的內(nèi)容質(zhì)量參差不齊、內(nèi)容更新時間不固定，因此在專業(yè)機(jī)構(gòu)指導(dǎo)下的用戶內(nèi)容生成應(yīng)運(yùn)而生，成為用戶、平臺甚至社會新的需求。

3. Web3.0與元宇宙：人工智能生成內(nèi)容時代

如果說Web1.0是可讀的互聯(lián)網(wǎng)，Web2.0是可讀、可寫的互聯(lián)網(wǎng)，那么Web3.0則是可讀、可寫、可擁有的互聯(lián)網(wǎng)。隨著區(qū)塊鏈、AR、VR、MR、XR、AI等技術(shù)的發(fā)展，去中心化的網(wǎng)絡(luò)逐漸形成。伴隨2014年深度學(xué)習(xí)算法生成對抗網(wǎng)絡(luò)的推出，深度學(xué)習(xí)在人工智能機(jī)器層面的應(yīng)用加快。以數(shù)字內(nèi)容為支撐的元宇宙，需要在保證內(nèi)容質(zhì)量的基礎(chǔ)上提高內(nèi)容生產(chǎn)效率。受創(chuàng)作者水平、激勵措施等因素的影響，[3]PGC與UGC供給逐漸乏力，AIGC成為繼PGC、UGC之后以模型為主導(dǎo)的新型內(nèi)容生產(chǎn)模式。

AIGC的內(nèi)容生產(chǎn)行為主體不再是人，而是算法與智能機(jī)器。盡管機(jī)器是否可成為版權(quán)所有者依然存在爭議，但在區(qū)塊鏈技術(shù)的加持下，去中心化的確權(quán)、信息安全及可追溯、智能合約自動執(zhí)行版權(quán)分配及保護(hù)已經(jīng)實(shí)現(xiàn)。元宇宙成為Web3.0的市場主導(dǎo)力量，“基礎(chǔ)設(shè)施+應(yīng)用”成為Web3.0顯現(xiàn)出的主要特征。從虛實(shí)關(guān)系看，AIGC所適應(yīng)的元宇宙已從增強(qiáng)現(xiàn)實(shí)技術(shù)演進(jìn)到模擬技術(shù)，新興的數(shù)字技術(shù)實(shí)現(xiàn)了對現(xiàn)實(shí)世界的孿生（鏡像世界），未來將創(chuàng)造出與現(xiàn)實(shí)世界互相交融和操作的虛擬世界。在這個集體虛擬共享的空間中，用戶可通過元宇宙提供的虛擬世界引擎創(chuàng)造實(shí)景的在場具身感受，也可以離場具身或中介化具身，相互交互和探索相關(guān)聯(lián)的虛擬世界，也即用戶與事件可以在時空上同步，或時間上同步但空間上不同步。當(dāng)前，代表AIGC最新進(jìn)展的應(yīng)用就是OpenAI公司研發(fā)的ChatGPT，其完成了機(jī)器學(xué)習(xí)算法中自然語言處理技術(shù)的大幅度跨越，實(shí)現(xiàn)了人工內(nèi)容生成模式向機(jī)器內(nèi)容生成模式的轉(zhuǎn)換。雖然仍處于初級階段，但在資本的加碼和應(yīng)用場景的不斷擴(kuò)大中，AIGC發(fā)展態(tài)勢持續(xù)向好。

二、智能生成內(nèi)容的應(yīng)用場景分析

基于算力、預(yù)訓(xùn)練模型和多模態(tài)技術(shù)的不斷升級與發(fā)展，AIGC可生成四種基本的內(nèi)容形式，即文本、音頻、圖像、視頻，在此基礎(chǔ)上進(jìn)行跨模態(tài)生成，應(yīng)用場景豐富。目前，不同的內(nèi)容生成模式已廣泛應(yīng)用于傳媒、影視、電商、游戲等數(shù)字化程度高且需求旺盛的行業(yè)。

1. 生成文本：降本增效

語言模型是增強(qiáng)AIGC認(rèn)知能力的關(guān)鍵。通過AI技術(shù)智能生成文字，可降低人工和時間成本，實(shí)現(xiàn)降本增效。文本生成分為交互式與非交互式，非交互式包括輔助性寫作、結(jié)構(gòu)化寫作、非結(jié)構(gòu)化寫作。用戶輸入一段描述或要求，AI可從數(shù)據(jù)庫中自動抓取相關(guān)內(nèi)容，根據(jù)指令完成文字創(chuàng)作。當(dāng)前，作為AI交互性文本的代表性應(yīng)用，ChatGPT擁有文本理解的能力，可根據(jù)聊天語境與用戶交流，并具有論文撰寫、搜索引擎功能。此外，在電商行業(yè)，AI客服可與消費(fèi)者進(jìn)行實(shí)時交流，從而提高購物轉(zhuǎn)換率。在教育領(lǐng)域，AI中文寫作智能輔導(dǎo)系統(tǒng)“小花獅”可實(shí)時批改作業(yè)，提高學(xué)習(xí)效率。AI非交互性文本集中應(yīng)用于媒體行業(yè)。在新聞采編過程中，媒體可借助結(jié)構(gòu)化寫作快速生成新聞作品，提高效率。例如，在2017年四川阿壩州九寨溝地震中，機(jī)器人僅用25秒就完成540字的新聞稿件，極大地增強(qiáng)了新聞時效性。此外，字幕自動生成器、語音智能轉(zhuǎn)換文字軟件也被應(yīng)用于媒體作品制作環(huán)節(jié)。在影視行業(yè)，借助AIGC的非結(jié)構(gòu)化寫作功能，可實(shí)現(xiàn)劇情續(xù)寫，如《你好，李煥英》《流浪地球》等影視作品都加入了AI創(chuàng)作內(nèi)容。

2. 生成音頻：個性化定制

智能音頻生成是利用深度神經(jīng)網(wǎng)絡(luò)模型對大量音頻數(shù)據(jù)進(jìn)行訓(xùn)練學(xué)習(xí)，[4]使AI具備語音識別、對話生成的能力，自動生成高質(zhì)量音頻，包括音樂、語音及定制話語等。在音樂領(lǐng)域，AI借助大規(guī)模Transformer模型，可預(yù)測序列中的下一個音符，智能生成音樂。如OpenAI研發(fā)的MuseNet，可用10種不同樂器生成4分鐘的音樂作品。智能音頻生成技術(shù)可在不同場景中對生成音頻進(jìn)行定制化處理，滿足用戶需求。例如，高德地圖通過語音克隆，建立明星音頻庫，根據(jù)用戶需求模仿不同明星的聲音提供導(dǎo)航服務(wù)。如喜馬拉雅等有聲閱讀平臺借助TTS（Text-to-Speech）技術(shù)使聲音成為更智能的數(shù)字產(chǎn)品，拓展“耳朵經(jīng)濟(jì)”的商業(yè)化探索，聲音定制化成為新趨勢。[5]此外，在醫(yī)療領(lǐng)域，情緒療愈機(jī)器人Emohaa可構(gòu)建以生成對話為核心的交互式數(shù)字診療方案，及時提供針對性的情緒支持與心理疏導(dǎo)，使患者保持心理健康。

3. 生成圖像：提升品質(zhì)

生成式對抗網(wǎng)絡(luò)是AIGC使用的關(guān)鍵算法，極大地提高了生成圖像的逼真度。生成圖像的類型包括圖像數(shù)據(jù)集的生成、圖像聯(lián)想創(chuàng)作、圖像修復(fù)等。圖像數(shù)據(jù)集主要是指AI通過提取用戶輸入圖像的特征形成新的圖像合集，如谷歌的Deep Dream Generator可上傳圖像并選擇風(fēng)格，生成新圖像。圖像聯(lián)想創(chuàng)作包括照片編輯、照片轉(zhuǎn)換卡通頭像、人體新姿勢生成、照片融合、不同年齡段圖片生成等，豐富了網(wǎng)絡(luò)用戶的娛樂生活，F(xiàn)ace、美圖秀秀、醒圖等圖像編輯軟件的美顏、換膚、換發(fā)型、加濾鏡等功能，深受用戶喜愛。在圖像修復(fù)方面，利用AI進(jìn)行畫質(zhì)增強(qiáng)修復(fù)已得到普遍應(yīng)用，如在2022百度世界大會上，通過AI完美地修復(fù)了《富春山居圖》殘卷，從視覺上提高了作品的觀賞價(jià)值。在網(wǎng)絡(luò)視頻行業(yè)，優(yōu)酷、愛奇藝等綜合視頻平臺通過對部分經(jīng)典劇進(jìn)行畫質(zhì)增強(qiáng)，提升影片清晰度，增強(qiáng)用戶黏性。

4. 生成視頻：釋放創(chuàng)意潛力

視覺模型是增強(qiáng)AIGC感知能力的關(guān)鍵。AIGC+視頻生成技術(shù)是基于多個卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)、生成式對抗網(wǎng)絡(luò)、變分自動編碼器的組合。[6]生成視頻包括生成型、編輯型、定制型、數(shù)字虛擬人型。在電商行業(yè)，虛擬主播帶貨、商品虛擬試戴是智能生成視頻的典型應(yīng)用。多數(shù)品牌推出在線虛擬試戴功能，用戶可了解商品與自身的適配度，提升在線購物體驗(yàn)。媒體行業(yè)也積極布局AI虛擬主播技術(shù)，將其應(yīng)用于重要活動的報(bào)道或主持中，以推動傳統(tǒng)媒體的數(shù)字化發(fā)展。編輯型生成視頻主要應(yīng)用于AI換臉。在影視行業(yè)，影視劇通過AI換臉替代劣跡藝人或“復(fù)活”已故藝人，從而保證影片順利播出，如《流浪星球2》利用AI“復(fù)活”已故演員吳孟達(dá)。另外，影視公司也可通過AI直接生成視頻內(nèi)容。例如，IBM Watson制作出電影Morgan的預(yù)告片，極大地提高了創(chuàng)作效率。在游戲行業(yè)，AIGC的NPC邏輯自動生成技術(shù)不僅可以完成游戲內(nèi)部場景和故事的搭建，還可以在游戲中建立代表自我的數(shù)字人，獨(dú)立完成活動任務(wù)。[7]例如，《黑客帝國：覺醒》通過虛擬引擎技術(shù)實(shí)現(xiàn)游戲中車輛行人獨(dú)立于玩家操控變動。

5. 生成多模態(tài)內(nèi)容：升級AIGC創(chuàng)作能力

在大數(shù)據(jù)模型的不斷訓(xùn)練中，AI模型知識積累量遠(yuǎn)大于人類，逐漸由單模態(tài)向多模態(tài)方向發(fā)展。多模態(tài)大模型是AIGC原生性創(chuàng)作的關(guān)鍵，既可以尋找不同模態(tài)之間的對應(yīng)關(guān)系，也可以將不同模態(tài)的數(shù)據(jù)進(jìn)行轉(zhuǎn)化。當(dāng)前，多模態(tài)模型生成內(nèi)容已廣泛應(yīng)用于媒體、影視、互聯(lián)網(wǎng)、游戲等行業(yè)。例如，在電商行業(yè)，圖片搜索引擎已得到廣泛應(yīng)用；在新媒體行業(yè)，九錘配音、加音、XAudioPro、剪映等媒體公司可基于文檔自動生成解說配音。AI繪畫是不同模態(tài)相互轉(zhuǎn)化的典型應(yīng)用，為創(chuàng)意產(chǎn)業(yè)提供了新的靈感，如2022年8月，美國游戲設(shè)計(jì)師Jason Allen憑借AI繪畫作品《太空歌劇院》擊敗人類畫家作品。在3D物體生成方面，AIGC的2D圖像生成3D模型主要是GANverse3D建立在2D照片基礎(chǔ)上訓(xùn)練的生成對抗網(wǎng)絡(luò)，通過合成數(shù)千個對象的多個視圖來預(yù)測3D幾何、紋理和零件分割標(biāo)簽，如英偉達(dá)的GANverse3D可利用汽車照片生成3D模型，并在NVIDIA Omnivers中行駛。

三、存在問題及風(fēng)險(xiǎn)

神經(jīng)網(wǎng)絡(luò)等數(shù)字技術(shù)的迭代升級助力AIGC內(nèi)容孿生、內(nèi)容編輯與內(nèi)容創(chuàng)作三大功能的綜合應(yīng)用。內(nèi)容孿生能力是將現(xiàn)實(shí)世界中物理屬性和社會屬性高效、可感知地進(jìn)行數(shù)字化；內(nèi)容編輯能力是通過高效率仿真和低成本試錯，為現(xiàn)實(shí)世界的應(yīng)用提供快速迭代能力，打通現(xiàn)實(shí)與虛擬的通道；內(nèi)容創(chuàng)作能力指通過機(jī)器深度學(xué)習(xí)和算法構(gòu)建形成自我演化支持海量內(nèi)容生產(chǎn)。這三大能力在支持全新內(nèi)容生產(chǎn)力、服務(wù)人類社會經(jīng)濟(jì)各方面的同時，帶來加劇“信息繭房”、造成信息失真、產(chǎn)生技術(shù)倫理、增大版權(quán)管理難度等問題。

1. 加劇“信息繭房”

AIGC的內(nèi)容孿生功能依賴于現(xiàn)實(shí)場景中的原始數(shù)據(jù)重構(gòu)逼真的數(shù)字世界，原始數(shù)據(jù)的完整度影響所孿生的數(shù)字內(nèi)容。一方面，大數(shù)據(jù)時代，算法推薦成為數(shù)字媒體平臺的基礎(chǔ)功能，用戶數(shù)據(jù)為算法推薦積累了豐富的原材料，算法通過加工原材料洞悉用戶的行為特征、心理特征，進(jìn)行有針對性的內(nèi)容生產(chǎn)。算法推薦所具有的突出性、排他性、隱蔽性，將用戶馴化為信息的奴隸，用戶成為被潛化的對象性工具，經(jīng)過篩選的原始數(shù)據(jù)所造成的“信息繭房”問題也被帶入AIGC所孿生的數(shù)字世界。另一方面，GPT的出現(xiàn)一定程度上打破了搜索時代的“信息繭房”，但又建立起基于深度學(xué)習(xí)、深度計(jì)算和深度投喂的新型信息壁壘。GPT的運(yùn)行離不開大語言模型與其背后強(qiáng)大的數(shù)據(jù)庫，算法程序的運(yùn)行逐漸切斷了用戶與原始信息的連接，GPT在一次次的迭代中掌握使用者的偏好，從而產(chǎn)生偏見，將用戶籠罩在其所建造的新的“繭房”中，形成認(rèn)知困境。

2. 造成信息失真

以ChatGPT為代表的對話式機(jī)器人依靠自身強(qiáng)大的互動模式，影響了現(xiàn)有搜索引擎的業(yè)務(wù)體系。但它不能像傳統(tǒng)搜索引擎一樣隨時調(diào)取互聯(lián)網(wǎng)信息，實(shí)時更新數(shù)據(jù)庫，而是基于語言模型，通過調(diào)用過去的大量文本進(jìn)行數(shù)據(jù)處理，在不需要理解對話內(nèi)容的前提下與用戶進(jìn)行擬人化溝通。公開資料顯示，ChatGPT的訓(xùn)練數(shù)據(jù)是由OpenAI團(tuán)隊(duì)訓(xùn)練和提供的，是對2021年及以前的數(shù)據(jù)內(nèi)容進(jìn)行學(xué)習(xí)、分析和再造，具有滯后性。機(jī)器所生成的內(nèi)容并不能與人類語料同步，由此導(dǎo)致內(nèi)容嚴(yán)謹(jǐn)性缺失。與此同時，算法歧視一直貫穿人工智能技術(shù)發(fā)展的整個過程。相關(guān)技術(shù)或因控制人員通過計(jì)算機(jī)禁止命令輸出帶有主觀價(jià)值的內(nèi)容，或因抓取數(shù)據(jù)時的語料限制，無法避免算法闡釋的偏見甚至出現(xiàn)歧視性言論，例如微軟機(jī)器人Tay曾出現(xiàn)過極端暴力言論，這一問題不容忽視。

此外，深度偽造技術(shù)令機(jī)器可通過樣本學(xué)習(xí)，借助神經(jīng)網(wǎng)絡(luò)技術(shù)將人類的容貌、聲音或肢體動作等合為一體，形成新的人體圖像或直接進(jìn)行AI換臉。由于所合成媒體作品的高度真實(shí)性與擬人化，其內(nèi)容在傳播中對受眾的思想、社會行為甚至企業(yè)的經(jīng)濟(jì)活動產(chǎn)生顯著影響，以至于在面臨造假風(fēng)險(xiǎn)的同時，既可能造成個人名譽(yù)受損，也存在媒體喪失公信力的風(fēng)險(xiǎn)。

3. 產(chǎn)生技術(shù)倫理問題

AI產(chǎn)生的倫理問題主要包括個人隱私泄露和技術(shù)成癮等。正如前文所述，AIGC的內(nèi)容編輯是在語義理解的基礎(chǔ)上，對原有內(nèi)容進(jìn)行編輯或再生成，那么數(shù)據(jù)所有者面臨主體控制權(quán)喪失，導(dǎo)致個人數(shù)據(jù)或隱私被泄露和不當(dāng)利用風(fēng)險(xiǎn)；[8]當(dāng)人們過度沉浸于網(wǎng)絡(luò)世界，會產(chǎn)生對互聯(lián)網(wǎng)的依賴，長期使用電子設(shè)備會產(chǎn)生電子設(shè)備依賴，導(dǎo)致心理問題和過度疲勞綜合征；同樣，AIGC的便利也會蠶食相關(guān)領(lǐng)域工作者獨(dú)立思考的能力，使其喪失自主求知欲，特別是知識獲取的便利性和零成本會導(dǎo)致學(xué)習(xí)者陷入技術(shù)依賴和AI上癮的陷阱，[9]從而在數(shù)字世界形成虛假信息的堆積。當(dāng)前，學(xué)界和業(yè)界都在深入思考與辯論，未來機(jī)器智能是否會全面代替人類智能，從而引發(fā)社會秩序混亂的風(fēng)險(xiǎn)。

4. 增大版權(quán)管理難度

在知識產(chǎn)權(quán)法的規(guī)則內(nèi)，著作權(quán)法保護(hù)作品一定是來源于人的創(chuàng)作。在算法與深度學(xué)習(xí)技術(shù)的助力下，AI通過模仿和概念學(xué)習(xí)實(shí)現(xiàn)內(nèi)容創(chuàng)作，不可避免地出現(xiàn)著作權(quán)（版權(quán)）問題及算法風(fēng)險(xiǎn)。自人工智能出現(xiàn)，學(xué)界對于智能生成內(nèi)容可否作為作品的爭論從未停止。有學(xué)者認(rèn)為，人工智能生成內(nèi)容在著作權(quán)法上可視為代表設(shè)計(jì)者或訓(xùn)練者意志的創(chuàng)作行為，[10]滿足獨(dú)創(chuàng)性要求，即具備可版權(quán)性。[11]由此，可認(rèn)為人工智能生成內(nèi)容屬于知識產(chǎn)權(quán)保護(hù)下的作品。但更多學(xué)者與知識產(chǎn)權(quán)保護(hù)部門認(rèn)為，人工智能生成內(nèi)容的著作權(quán)歸屬問題尚未解決。

一方面，ChatGPT由GPT-3.5系列提供技術(shù)支持，參數(shù)量超過1 750億，[12]巨大的參數(shù)使其可以理解人類不同指令的含義，處理多元化的任務(wù)，生成內(nèi)容使用的是由機(jī)器深度學(xué)習(xí)所進(jìn)化的算法，未曾被控制者所預(yù)見。也就是說，ChatGPT在非結(jié)構(gòu)化寫作中，開始具備創(chuàng)意，所生成內(nèi)容具有創(chuàng)新性。從此角度看，AIGC版權(quán)可歸屬AI。另一方面，以ChatGPT為代表的人工智能生成內(nèi)容雖然由機(jī)器生產(chǎn)，但其背后仍包含著設(shè)計(jì)者或控制者的思維邏輯，機(jī)器只是代碼轉(zhuǎn)換的工具，并不具備自我意識，人工智能仍是服務(wù)于人類的工具。[13]即便現(xiàn)階段的人工智能通過算法優(yōu)化實(shí)現(xiàn)感知，擁有深度學(xué)習(xí)能力，但在人機(jī)交互的過程中也只能最大化地模擬人類進(jìn)行交流，無法擺脫機(jī)器屬性，因此AIGC版權(quán)應(yīng)歸屬人類。此外，雖然ChatGPT在文本生成中是對原始材料進(jìn)行合理修改，但原始材料的作者是否授權(quán)無法保證，存在侵犯著作權(quán)風(fēng)險(xiǎn)。

四、關(guān)于智能生成內(nèi)容治理的思考

如今，在以信息革命為主的第四次工業(yè)革命中，智能生成內(nèi)容帶來了一場巨大的生產(chǎn)力變革，越來越多的行業(yè)使用人工智能進(jìn)行內(nèi)容生產(chǎn)。AIGC在內(nèi)容生產(chǎn)的過程中產(chǎn)生了難以預(yù)測的新風(fēng)險(xiǎn)，相關(guān)治理迫在眉睫。

1. 基于風(fēng)險(xiǎn)分類的動態(tài)管理

當(dāng)前，由于AIGC自身技術(shù)不斷升級更新，加之與外部應(yīng)用的連接端口逐漸開放，導(dǎo)致不可預(yù)測的風(fēng)險(xiǎn)頻發(fā)?？紤]到技術(shù)的負(fù)外部性導(dǎo)致的風(fēng)險(xiǎn)程度有所不同，對于AIGC的治理不可一刀切，而是應(yīng)根據(jù)實(shí)際風(fēng)險(xiǎn)程度進(jìn)行差異化治理。

2023年6月14日，歐盟通過的《人工智能法案》確立了基于風(fēng)險(xiǎn)的人工智能治理范式，將人工智能劃分為四個不同的風(fēng)險(xiǎn)類別：最小風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)和不可接受風(fēng)險(xiǎn)，并針對各個等級制定實(shí)施差異化監(jiān)管。[14]該法案提出，將對人工智能進(jìn)行區(qū)別管理，按照人工智能的新發(fā)展新場景新應(yīng)用劃分不同的風(fēng)險(xiǎn)類別，風(fēng)險(xiǎn)較高的應(yīng)用程序?qū)⒚媾R更嚴(yán)格的管理，需要更高的透明度和準(zhǔn)確性，這在一定程度上為智能生成內(nèi)容提供了治理思路。

需要指出的是，《人工智能法案》中對于風(fēng)險(xiǎn)的規(guī)劃可視為對于人工智能進(jìn)行風(fēng)險(xiǎn)預(yù)測，而預(yù)測風(fēng)險(xiǎn)屬于靜態(tài)過程，還需從靜態(tài)的風(fēng)險(xiǎn)劃分轉(zhuǎn)為動態(tài)的風(fēng)險(xiǎn)監(jiān)測。[15]2023年7月13日，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣播電視總局發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，其中規(guī)定了暫行辦法的適用范圍是“利用生成式人工智能技術(shù)向中華人民共和國境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)”，同時更多體現(xiàn)了對新技術(shù)應(yīng)用的鼓勵和審慎的監(jiān)管思路，如要求生成式人工智能提供者要對相關(guān)生成性文本、圖片、聲音、視頻等內(nèi)容進(jìn)行標(biāo)識，保護(hù)個人隱私，采取有效措施防止沉迷等。但未來還需要在風(fēng)險(xiǎn)分類的基礎(chǔ)上建立人工智能風(fēng)險(xiǎn)評測平臺，有針對性地創(chuàng)建風(fēng)險(xiǎn)監(jiān)測模型，將其納入AIGC的生成步驟中，在持續(xù)的動態(tài)過程中，針對不同風(fēng)險(xiǎn)情況制定相應(yīng)的治理措施。這種技術(shù)治理技術(shù)的方式將成為人工智能產(chǎn)業(yè)賦能各行各業(yè)持續(xù)健康發(fā)展的基礎(chǔ)保障。

2. 基于主體職責(zé)的系統(tǒng)化管理

基于強(qiáng)大的語言處理與深度學(xué)習(xí)能力，AIGC呈現(xiàn)出鮮明的類人化特征。面對技術(shù)效能爆發(fā)式增長的生成式人工智能，封閉、單一、傳統(tǒng)的監(jiān)管運(yùn)行機(jī)制難以從“政府—市場”這一傳統(tǒng)二元架構(gòu)下汲取足夠的監(jiān)管資源。[16]對于AIGC的治理，不能再局限在數(shù)據(jù)篩選或算法邏輯等上中游階段，而應(yīng)將治理范疇拓展至場景應(yīng)用的下游階段，重點(diǎn)關(guān)注內(nèi)容輸出主體，明確責(zé)任劃分體系，建立基于主體的體系化管理系統(tǒng)。所謂系統(tǒng)化管理，既需要技術(shù)和服務(wù)提供的經(jīng)濟(jì)主體內(nèi)部自我規(guī)制，又需要來自政府的外部規(guī)制，兩者共同發(fā)力，構(gòu)建以主體為核心的問責(zé)機(jī)制。

AIGC內(nèi)部自我規(guī)制主體包括技術(shù)開發(fā)者和服務(wù)提供者。對于技術(shù)開發(fā)者，要明確的是，新興技術(shù)發(fā)展與人的主觀意志尤其是人的倫理道德素質(zhì)密切相關(guān)，使得技術(shù)倫理風(fēng)險(xiǎn)的產(chǎn)生具有一定主觀性，[17]人工智能所輸出內(nèi)容的文化價(jià)值偏向意味著AIGC模型開發(fā)者的算法素養(yǎng)。只有主體以社會責(zé)任為導(dǎo)向進(jìn)行算法技術(shù)更新，才能同時提高內(nèi)容生產(chǎn)效率和質(zhì)量。服務(wù)提供者多是從商業(yè)角度出發(fā)，為獲取經(jīng)濟(jì)利益進(jìn)行市場活動，因此，自我規(guī)制的重點(diǎn)在于所提供服務(wù)的安全性以及社會責(zé)任。如微軟、谷歌等國外一些大型數(shù)字平臺已經(jīng)通過設(shè)置內(nèi)部道德委員會來進(jìn)行自我監(jiān)管，[18]避免其在商業(yè)領(lǐng)域的濫用。此外，在各種AIGC軟件不斷開放的環(huán)境下，用戶作為重要的參與主體，由于人工智能素養(yǎng)參差不齊，所創(chuàng)作的內(nèi)容質(zhì)量、AIGC的用途各不相同，那么P-AIGC也許可以成為繼PUGC之后的一種內(nèi)容復(fù)合生成模式，通過發(fā)揮機(jī)構(gòu)的力量保障內(nèi)容的品質(zhì)及機(jī)構(gòu)應(yīng)承擔(dān)的社會責(zé)任。

性別歧視、刻板印象、數(shù)據(jù)泄露等問題，依靠企業(yè)或行業(yè)的自律性管控還遠(yuǎn)遠(yuǎn)不夠，需要來自政府的外部規(guī)制共同施力，相關(guān)法律法規(guī)的制定與實(shí)施至關(guān)重要。2021年10月29日，國家市場監(jiān)督管理總局發(fā)布了《互聯(lián)網(wǎng)平臺落實(shí)主體責(zé)任指南（征求意見稿）》，明確提出平臺企業(yè)應(yīng)落實(shí)主體責(zé)任。2022年3月1日實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》明確規(guī)定了算法推薦服務(wù)提供者的算法安全主體責(zé)任。由此可看出，基于算法主體的治理是國內(nèi)人工智能治理的重要發(fā)展方向。同時，國家市場監(jiān)督管理總局公布的《互聯(lián)網(wǎng)平臺分類分級指南（征求意見稿）》將互聯(lián)網(wǎng)平臺分為三級六類。不同類型、不同等級的平臺所承擔(dān)的主體責(zé)任不同，只有將主體責(zé)任和公共治理進(jìn)行有機(jī)結(jié)合，才能實(shí)現(xiàn)協(xié)同治理。總之，在基于主體責(zé)任的體系化管理中，政府、企業(yè)、社會可以嘗試分享監(jiān)管權(quán)并建立合作，形成監(jiān)管的互動機(jī)制，促進(jìn)開放式的多元主體協(xié)同治理。

3. 基于全球視角的協(xié)同治理

英國哲學(xué)技術(shù)家大衛(wèi)·克林格里奇在《技術(shù)的社會控制》中提出“克林格里奇困境”，即如果過早對技術(shù)實(shí)施控制，技術(shù)難以創(chuàng)新和發(fā)展；如果控制過晚，技術(shù)容易走向失控，并帶來昂貴的治理成本，甚至難以改變?？梢?，技術(shù)管控的介入時間尤為重要。就AIGC而言，一方面，其正值發(fā)展上升期；另一方面，風(fēng)險(xiǎn)與危害層出不窮，具體的法律和規(guī)則尚不明晰。若想促進(jìn)AIGC的可持續(xù)發(fā)展，應(yīng)推進(jìn)全球技術(shù)發(fā)展與治理的協(xié)同，積極尋求二者的協(xié)調(diào)與平衡。

從微觀出發(fā)，AIGC產(chǎn)業(yè)鏈包括上游的數(shù)據(jù)服務(wù)、中游的算法模型與下游的應(yīng)用拓展。當(dāng)前智能治理的關(guān)鍵在于所有與技術(shù)治理相關(guān)的事物，均被轉(zhuǎn)化為同質(zhì)的可計(jì)算數(shù)據(jù)信息。[19]如今爆火的ChatGPT，就是在大量數(shù)據(jù)驅(qū)動下的生成內(nèi)容?；谥悄苌蓛?nèi)容一直存在的版權(quán)問題，可考慮通過數(shù)據(jù)所有權(quán)進(jìn)行版權(quán)的分割。2023年3月，中共中央、國務(wù)院印發(fā)了《黨和國家機(jī)構(gòu)改革方案》，國家發(fā)展和改革委員會管理機(jī)構(gòu)組建國家數(shù)據(jù)局，負(fù)責(zé)協(xié)調(diào)推進(jìn)數(shù)據(jù)基礎(chǔ)制度建設(shè)，統(tǒng)籌數(shù)據(jù)資源整合共享和開發(fā)利用，統(tǒng)籌推進(jìn)數(shù)字中國、數(shù)字經(jīng)濟(jì)、數(shù)字社會規(guī)劃和建設(shè)等。[20]以此來看，國家數(shù)據(jù)局不僅可以改善市場上數(shù)據(jù)壟斷的問題，也為AIGC的版權(quán)問題提供了新思路。

從宏觀出發(fā)，技術(shù)的管理模式應(yīng)結(jié)合不同的國情加以選擇和調(diào)適，統(tǒng)籌多種實(shí)施戰(zhàn)略。諸種戰(zhàn)略的運(yùn)行都應(yīng)具有本土化特色，既不存在某一種普適戰(zhàn)略（如計(jì)劃），也不存在某種全球通用的唯一模式。因此，應(yīng)從全球治理格局出發(fā)，加強(qiáng)國際國內(nèi)交流，根據(jù)各國的法律規(guī)范、道德體系等取最大公約數(shù)，制定合理的人工智能治理公約。在具體的實(shí)施中，根據(jù)各國情況進(jìn)行本地化改進(jìn)，提升治理效果。面向國內(nèi)，想要完善智能式內(nèi)容生成的監(jiān)管生態(tài)，需加快推進(jìn)人工智能立法進(jìn)程。伴隨我國《生成式人工智能服務(wù)管理暫行辦法》的出臺，在國際交流中，我國應(yīng)積極搭建開放式參與平臺，在國際生成式人工智能治理進(jìn)程中貢獻(xiàn)中國力量。

結(jié)語

當(dāng)前，AIGC發(fā)展仍處于初級階段，關(guān)鍵技術(shù)尚不成熟，各種風(fēng)險(xiǎn)難以預(yù)測。為了更好地推動技術(shù)發(fā)展與治理并行，可嘗試將靜態(tài)的風(fēng)險(xiǎn)預(yù)測轉(zhuǎn)變?yōu)閯討B(tài)的風(fēng)險(xiǎn)監(jiān)測。在各類應(yīng)用場景中，根據(jù)用戶反饋及時進(jìn)行技術(shù)升級，從而提高風(fēng)險(xiǎn)識別能力與治理效率。進(jìn)一步明確界定AIGC的責(zé)任主體邊界，厘清主體責(zé)任，促進(jìn)市場主體與政府主體的協(xié)同規(guī)制，同時推廣P-AIGC模式，發(fā)揮機(jī)構(gòu)的作用，保障內(nèi)容的品質(zhì)及機(jī)構(gòu)應(yīng)承擔(dān)的社會責(zé)任。在全球AIGC技術(shù)不斷發(fā)展的背景下，不同國家的技術(shù)開發(fā)者與政策制定者應(yīng)通力合作，共同制定相應(yīng)的管控措施，政府也應(yīng)將倫理考量納入AI發(fā)展的生命周期之中，加強(qiáng)對相關(guān)利益群體的倫理教育，形成多主體共治、全球系統(tǒng)共治的局面。在技術(shù)和商業(yè)模式不斷更新迭代之下，應(yīng)在AIGC的技術(shù)創(chuàng)新與技術(shù)治理之間尋找平衡點(diǎn)，使兩者更好地可持續(xù)發(fā)展。

參考文獻(xiàn)：

[1] Chatterjee J， Dethlefs N. This new conversational AI model can be your friend， philosopher， and guide……and even your worst enemy[J]. Patterns， 2023， 4（1）： 1-3.

[2] 趙宇翔，范哲，朱慶華. 用戶生成內(nèi)容（UGC）概念解析及研究進(jìn)展[J]. 中國圖書館學(xué)報(bào)，2012（5）：68-81.

[3] 陳永偉. Web 3.0：變革與應(yīng)對[J]. 東北財(cái)經(jīng)大學(xué)學(xué)報(bào)，2022（6）：27-39.

[4] 路遠(yuǎn)，胡峰. AIGC技術(shù)在智慧廣電與網(wǎng)絡(luò)新視聽中的應(yīng)用探析[J]. 影視制作，2023，29（3）：43-47.

[5] Sharma Ankit， Kumar Puneet， Maddukuri Vikas， et al. Fast Griffin Lim based waveform generation strategy for text-to-speech synthesis[J]. Multimedia Tools and Applications， 2020， 79（41-42）： 30205-30233.

[6] Ian Goodfellow， Jean Pouget-Abadie，Mehdi Mirza，et al.Generative Adversarial Networks[J]. Communications of the ACM， 2020， 22（10）： 139-144.

[7] Sagredo-Olivenza I，Gomez-Martin·P. P， Gomez-Martin·M. A， et al. Trained Behavior Trees： Programming by Demonstration to Support AI Game Designers[J]. IEEE Transactions on Games， 2017， 11（1）： 5-14.

[8] 金雪濤. 算法治理：體系建構(gòu)與措施進(jìn)路[J]. 人民論壇·學(xué)術(shù)前沿，2022（10）：44-53.

[9] 鄧建鵬，朱懌成. ChatGPT模型的法律風(fēng)險(xiǎn)及應(yīng)對之策[J]. 新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會科學(xué)版），2023（5）：1-11.

[10] 吳漢東. 人工智能生成作品的著作權(quán)法之問[J]. 中外法學(xué)，2020，32（3）：653-673.

[11] 熊琦. 人工智能生成內(nèi)容的著作權(quán)認(rèn)定[J]. 知識產(chǎn)權(quán)，2017（3）：3-8.

[12] Zhang M， Li J.A commentary of GPT-3 in MIT Technology Review 2021[J]. 自然科學(xué)基礎(chǔ)研究（英文版），2021，1（6）：3.

[13] 叢立先. 人工智能生成內(nèi)容的可版權(quán)性與版權(quán)歸屬[J]. 中國出版，2019（1）：11-14.

[14] 曾雄，梁正，張輝. 歐盟人工智能的規(guī)制路徑及其對我國的啟示——以《人工智能法案》為分析對象[J]. 電子政務(wù)，2022（9）：63-72.

[15] 張璐. 通用人工智能風(fēng)險(xiǎn)治理與監(jiān)管初探——ChatGPT引發(fā)的問題與挑戰(zhàn)[J]. 電子政務(wù)，2023（9）：1-11.

[16] 張欣. 生成式人工智能的算法治理挑戰(zhàn)與治理型監(jiān)管[J]. 現(xiàn)代法學(xué)，2023，45（3）：108-123.

[17] 安慧影，黃朝峰，李陽.新興技術(shù)倫理風(fēng)險(xiǎn)協(xié)同治理研究[J/OL].[2023-03-25].https：//kns.cnki.net/kcms2/article/abstract？v=3uoqIhG8C45S0n9fL2suRadTyEVl2pW9UrhTDCdPD65alre2xrs7D5YM7fFBga-VUamlQwPeUH8XvSCMUnFynLNTjI4GjS06&uniplatform=NZKPT.

[18] Lewis D， Moorkens J. A Rights-Based Approach to Trustworthy AI in Social Media[J]. Social Media+Society， 2020， 6（3）： 1-13.

[19] 劉永謀. 智能治理的哲學(xué)反思[J]. 中國人民大學(xué)學(xué)報(bào)，2022，36（3）：46-55.

[20] 中共中央 國務(wù)院印發(fā)《黨和國家機(jī)構(gòu)改革方案》[EB/OL].[2023-03-16].http：//www.gov.cn/gongbao/content/2023/content_5748649.htm.

基金項(xiàng)目：亞洲傳媒項(xiàng)目“中日韓文化領(lǐng)域數(shù)字藏品（NFT）的應(yīng)用與平臺架構(gòu)比較研究”（AMRC2022-2）；國家社會科學(xué)基金一般項(xiàng)目“數(shù)字經(jīng)濟(jì)背景下我國體育服務(wù)業(yè)與新媒體融合效果及融合創(chuàng)新研究”（20BTY052）

作者信息：金雪濤（1973— ），女，北京人，中國傳媒大學(xué)國際傳媒教育學(xué)院教授、博士生導(dǎo)師，主要研究方向：數(shù)字經(jīng)濟(jì)、傳媒經(jīng)濟(jì)；周也馨（1997— ），女，內(nèi)蒙古呼倫貝爾人，中國傳媒大學(xué)經(jīng)濟(jì)與管理學(xué)院博士研究生，主要研究方向：傳媒經(jīng)濟(jì)學(xué)。