ChatGPT 類生成式人工智能對數(shù)字內(nèi)容產(chǎn)業(yè)的影響研究

韋蕭霞 章亦菲 付新陽 錢涵沁 賈明艷

摘要：【目的/意義】ChatGPT 是新時代的生成式人工智能，對我國的經(jīng)濟生活產(chǎn)生深遠影響。【方法/過程】基于知識管理內(nèi)涵，依據(jù)部分ChatGPT 類生成式人工智能以及數(shù)字內(nèi)容產(chǎn)業(yè)的深入調(diào)查，采用文獻調(diào)研法對其在數(shù)字內(nèi)容產(chǎn)業(yè)方面進行探索分析?！窘Y(jié)果/結(jié)論】加快推進AI 背景下我國數(shù)據(jù)安全監(jiān)督、探索多技能路線、建立新型風險監(jiān)測機制，成為新形勢下在數(shù)字內(nèi)容平臺上合理有效地運用生成式人工智能的必然選擇。

關鍵詞：數(shù)字內(nèi)容；生成式人工智能；ChatGPT

中圖分類號：TP37 文獻標識碼：A

文章編號：1009-3044（2024）06-0014-04

0引言

ChatGPT類生成式人工智能是能夠自動生成內(nèi)容的智能模型，它是人工智能1.0時代進入2.0時代的重要標志，對多個領域產(chǎn)生了深遠影響，包括傳媒、藝術、設計等。學者們對于生成式人工智能的界定與分類，因研究視角和研究目標的不同而有所差異，借鑒已有文獻并結(jié)合發(fā)展實踐，本文認為研究ChatGPT類生成式人工智能可以深入了解技術發(fā)展趨勢，促進產(chǎn)業(yè)創(chuàng)新以及探討人工智能與人類創(chuàng)造力的關系等。通過文獻梳理分析發(fā)現(xiàn)，當前生成式人工智能在數(shù)字內(nèi)容平臺上應用上面臨著數(shù)據(jù)泄露、生成內(nèi)容濫用等突出問題。因此加快推進AI背景下我國數(shù)據(jù)安全監(jiān)督、加大對數(shù)據(jù)質(zhì)量評估的關注成為新形勢下在數(shù)字內(nèi)容平臺上合理有效運用ChatGPT類生成式人工智能的必然選擇。

1 文獻綜述

1.1 生成式人工智能相關研究

2023年8月31日，“生成式人工智能”一詞首次在第52次《中國互聯(lián)網(wǎng)絡發(fā)展狀況統(tǒng)計報告》[1]出現(xiàn)，定義為“指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關技術?！本C合《中國互聯(lián)網(wǎng)發(fā)展狀況報告》《新媒體發(fā)展研究報告》對生成式人工智能的定義及對其研究現(xiàn)狀的分析可知，生成式人工智能采取“大數(shù)據(jù)預訓練+小數(shù)據(jù)微調(diào)”的訓練模式[2]，基于海量數(shù)據(jù)語料，以實現(xiàn)深層挖掘與價值模仿。其次，多模態(tài)加工技術是生成式AI創(chuàng)建廣泛內(nèi)容的基礎[3]，使人工智能在不同類型的信息模態(tài)之間進行轉(zhuǎn)換、映射和生成，包括圖像、視頻、音頻、文本、合成數(shù)據(jù)乃至元宇宙[4]。目前，生成式人工智能在多個領域都展現(xiàn)出了巨大潛力，其基于深度學習技術創(chuàng)造性和多樣性生成能力為人工智能的發(fā)展開辟了新的方向。然而，生成式人工智能也面臨著一些挑戰(zhàn)，如生成內(nèi)容的真實性、多樣性和控制性等問題，這些問題也將是未來的重要方向。

1.2 數(shù)字內(nèi)容產(chǎn)業(yè)相關研究

我國臺灣地區(qū)在《2004臺灣數(shù)位內(nèi)容產(chǎn)業(yè)白皮書》中將數(shù)字內(nèi)容產(chǎn)業(yè)定義為：“將圖像、文字、影像、語音等內(nèi)容，運用信息技術進行數(shù)字化并加以整合運用的產(chǎn)品或服務?！睌?shù)字內(nèi)容產(chǎn)業(yè)變革了傳播業(yè)態(tài)，實現(xiàn)內(nèi)容傳播的數(shù)字化轉(zhuǎn)型，增添市場動能，增強用戶體驗。周志平[5]認為我國數(shù)字內(nèi)容產(chǎn)業(yè)起步雖晚，但發(fā)展勢頭很猛。數(shù)字內(nèi)容產(chǎn)業(yè)在發(fā)展中遇到資金短缺、人才匱乏等問題，并提出加強管理理念創(chuàng)新、牢固樹立“內(nèi)容為王”的創(chuàng)新理念等對策。張立、吳素平[6]認為數(shù)字內(nèi)容產(chǎn)業(yè)發(fā)展趨勢為市場規(guī)模持續(xù)增長，提升現(xiàn)有用戶價值或新的增長動力等方面。熊澄宇、孔少華[7]認為數(shù)字內(nèi)容產(chǎn)業(yè)的發(fā)展動力包含：技術創(chuàng)新、傳播擴散、資金流轉(zhuǎn)和政策推動等4個方面。未來產(chǎn)業(yè)競爭重點將集中在國際化、版權保護以及高端數(shù)字內(nèi)容企業(yè)扶持等方面。

1.3 生成式人工智能與數(shù)字內(nèi)容產(chǎn)業(yè)應用的現(xiàn)狀研究

在數(shù)字內(nèi)容產(chǎn)業(yè)中，生成式人工智能的應用已經(jīng)非常廣泛。曼紐爾[8]認為NLP和AI的發(fā)展，為傳媒產(chǎn)業(yè)帶來了新的機遇和挑戰(zhàn)。目前全球擁有生成式人工智能初創(chuàng)技術的大型公司有6家，共持有23項生成式人工智能模型。郭小平、段琳杉[9]認為生成式人工智能將提升新聞生產(chǎn)效率、生成全新寫作風格、重構媒介形態(tài)、助力內(nèi)容篩查和審核，同時也存在著著作權制度框架遭遇沖擊等風險。王渝博、李泰然[10]闡述了生成式人工智能技術工具的特點：Midjourney可應用于影視作品創(chuàng)作前期，Dramatron能幫助創(chuàng)作者構建初步劇本框架，Gen-2能通過AI技術來驅(qū)動整個視頻創(chuàng)作流程，同時還具有在復雜場景中摳像等多元功能。趙瑜、張亦弛[11]提出生成式人工智能運用在影視行業(yè)存在缺乏連貫性、需要人機互補、觸犯法律風險等突出問題。

2 生成式人工智能與數(shù)字內(nèi)容產(chǎn)業(yè)的發(fā)展現(xiàn)狀

2.1 生成式人工智能的發(fā)展現(xiàn)狀

1）應用市場廣泛。隨著自然語言處理等方面性能的提升和，生成式人工智能的應用逐漸落地，推動AI技術迎來加速發(fā)展的新時代。目前生成式人工智能已經(jīng)在學術研究和技術應用上取得了突破性進展。在自然語言處理領域，生成式人工智能已能覆蓋較多領域，包括生成質(zhì)量較高的自然語言文本，以及在對話系統(tǒng)、機器翻譯、文本摘要等領域得到應用。例如OpenAI 公司于2020 年提出的第3 代文本生成模型（Generative Pre-trained Transformer， GPT-3）。憑借其非凡的模型能力、多任務的泛化表現(xiàn)以及小樣本學習能力，入選了2021年MIT Technology Review的“全球十大突破性技術”。其發(fā)布的ChatGPT自然語言處理模型自公開發(fā)布以來，在5天內(nèi)就吸引了超過百萬用戶，在一個月內(nèi)擁有了超5 000萬活躍用戶，引發(fā)了生成式人工智能的研究熱潮。

2）市場規(guī)模與經(jīng)濟價值提升。生成式AI重塑了人機交互實踐與協(xié)同發(fā)展的路徑，依靠大模型、大訓練數(shù)據(jù)模型的進步與突破，降低人力成本，提高生產(chǎn)效率，帶來不可估量的經(jīng)濟價值。2022年中國生成式人工智能市場規(guī)模約為660億元人民幣，2020—2025 年的復合增速將近84%，中國的生成式人工智能正處于高速增長期，預計2025年中國人工智能市場將占全球市場規(guī)模的13%。

2.2 數(shù)字內(nèi)容產(chǎn)業(yè)發(fā)展的發(fā)展現(xiàn)狀

1）市場規(guī)模保持快速穩(wěn)定增長。《報告》顯示，截至2023年6月，我國網(wǎng)民規(guī)模達10.79億人，較2022年12月增長1 109萬人，互聯(lián)網(wǎng)普及率達76.4%。數(shù)字內(nèi)容產(chǎn)業(yè)是隨著信息技術和數(shù)字經(jīng)濟發(fā)展催生出的一個快速發(fā)展中的產(chǎn)業(yè)。全球數(shù)字內(nèi)容市場規(guī)?？焖僭鲩L，根據(jù)市場研究公司（Research and Markets）的預測，2020—2024 年，全球數(shù)字內(nèi)容市場將增長5198.3 億美元，其間年復合增長率為15%。而近10 年，中國數(shù)字內(nèi)容產(chǎn)業(yè)市場規(guī)模不斷增長，且持續(xù)保持在10%以上的水平。據(jù)中國信息通信研究院（簡稱“中國信通院”）發(fā)布的《中國數(shù)字經(jīng)濟發(fā)展白皮書（2023）》報告數(shù)據(jù)顯示：中國數(shù)字經(jīng)濟增加值規(guī)模已由2005年的2.6161萬億元，擴張到2022年的50.2萬億元，同比增長10.3%，已連續(xù)11年顯著高于同期GDP 名義增速，數(shù)字經(jīng)濟占GDP比重達41.5%。

2）內(nèi)在結(jié)構與業(yè)態(tài)模式不斷發(fā)展完善。中國數(shù)字內(nèi)容產(chǎn)業(yè)正不斷優(yōu)化完善內(nèi)在結(jié)構。網(wǎng)絡新聞媒體和網(wǎng)絡游戲作為當前中國數(shù)字內(nèi)容產(chǎn)業(yè)核心業(yè)態(tài)，市場規(guī)模占比較大，近年來保持穩(wěn)定發(fā)展。同時，新生細分業(yè)態(tài)的增長也呈現(xiàn)出強勁態(tài)勢。我國以網(wǎng)絡購物、網(wǎng)絡直播、網(wǎng)絡短視頻、在線教育、在線醫(yī)療等為代表的新型業(yè)態(tài)模式正迅猛發(fā)展。

2.3 生成式人工智能應用于數(shù)字內(nèi)容產(chǎn)業(yè)的發(fā)展現(xiàn)狀

1）生成式人工智能應用層多模態(tài)。數(shù)字內(nèi)容產(chǎn)業(yè)是生成式人工智能融入的典型行業(yè)和場景之一，如圖1所示。生成式人工智能通過自然語言處理和機器學習技術，自動化、智能化地編輯數(shù)字內(nèi)容，檢查文本錯誤、自動排版、識別圖片等，提高內(nèi)容生產(chǎn)的效率和質(zhì)量，降低數(shù)字內(nèi)容生產(chǎn)的門檻，使更多的人能夠快速、高效地創(chuàng)造數(shù)字內(nèi)容。在傳媒和影視方面，生成式人工智能帶來的人機協(xié)同生產(chǎn)實現(xiàn)智能新聞寫作、海量數(shù)據(jù)分析歸納、快速生成劇本，賦能智能視頻剪輯、場景創(chuàng)作空間等。在娛樂方面，通過生成式人工智能技術擴展輻射邊界，實現(xiàn)趣味性圖像或音視頻生成。或以AI換臉為代表的生成式人工智能應用在很大程度上滿足了用戶的好奇心和獵奇心理，成為行業(yè)中的破圈利器?；虼蛟焯摂M偶像，釋放IP價值。除此還有開發(fā)C端用戶數(shù)字化身，布局消費元宇宙。百度在2020年世界互聯(lián)網(wǎng)大會上展示了基于AI技術設計的動態(tài)虛擬人物能力，包括3D虛擬形象生成和虛擬形象驅(qū)動等。

2）生成式人工智能或?qū)⒊蔀閿?shù)字內(nèi)容生產(chǎn)新引擎。隨著數(shù)字經(jīng)濟的快速發(fā)展，其與實體經(jīng)濟的深度融合提升了網(wǎng)民對數(shù)字內(nèi)容總量和質(zhì)量的要求。面對持續(xù)快速增長的國內(nèi)數(shù)字內(nèi)容的消費需求端，PGC、UGC數(shù)字內(nèi)容生產(chǎn)模式逐漸無法滿足。而生成式人工智能的注入，作為供給端的有效工具，賦能數(shù)字內(nèi)容生產(chǎn)的各類場景和內(nèi)容創(chuàng)作者，輔助用戶執(zhí)行信息采集、復刻編輯等任務，同時推動數(shù)字內(nèi)容與其他產(chǎn)業(yè)的多維度交互、融合，對數(shù)字內(nèi)容生產(chǎn)產(chǎn)生積極影響。

2.4 挑戰(zhàn)

2.4.1 對生成式人工智能的認知偏差侵犯人的自主性權利

生成式人工智能需要大量訓練數(shù)據(jù)，如果數(shù)據(jù)不足或偏差，輸出結(jié)果可能偏移，甚至會對某些群體產(chǎn)生歧視。只是從海量數(shù)據(jù)中訓練生成的文本只是數(shù)據(jù)組合，不應被視為知識產(chǎn)生者?？赡芤l(fā)不當認知，將其視為知識道德權威的風險。因為生成式人工智能不能真正認識到其生成的文本內(nèi)容的含義，也不能對是非對錯進行判斷，所以有時會出現(xiàn)荒唐的文本組成的錯誤。導致錯誤的引導。人類在使用生成式人工智能時若未意識到其是建立人與人之間智能生態(tài)系統(tǒng)，全球智慧社會體系之上，便無法看到人類智慧自動產(chǎn)生的根本和先決條件。這不僅涉及知識與智慧的再界定，還涉及生態(tài)環(huán)境、社會與個體重建。若缺乏反思，可能陷入圖靈陷阱，無條件采用自動化生成知識，過度取代人類智能，導致生態(tài)環(huán)境不堪重負。圖靈陷阱源于智能與自動化系統(tǒng)未將人放在第一位，而是強迫人接受它，剝奪人的自主性。

2.4.2 行政監(jiān)管風險對國家及公民帶來的不利影響

1）數(shù)據(jù)合規(guī)風險。我國的數(shù)據(jù)合規(guī)體系由網(wǎng)絡安全法、數(shù)據(jù)安全法和個人信息保護法共同構建。生成式人工智能數(shù)據(jù)合規(guī)風險包括數(shù)據(jù)來源不穩(wěn)定、個人權益受影響、數(shù)據(jù)爬取涉及侵權行為、泄露商業(yè)信息、構成不正當競爭。

2）生成內(nèi)容濫用風險。生成式人工智能可以通過運用本身強大的算力，制造虛假的文章、新聞等造成與事實違背的錯誤。例如2023年4月，澳大利亞一市長因ChatGPT在聊天過程中誹謗其在一樁賄賂丑聞中有罪，侵犯了個人權益，擾亂網(wǎng)絡傳播秩序和社會秩序，給當前的網(wǎng)絡治理工作帶來了極大的困難。

3）人格權侵權風險。根據(jù)過去的案例，GPT二代曾因換臉換聲的欺詐、人格權侵權、隱私泄露等案件引發(fā)了廣泛的安全挑戰(zhàn)。在以ChatGPT為代表的生成合成類應用中，用戶在進行對話的過程中，個人信息如身份信息、地理位置、偏好等也會被收集。尤其是當用戶與機器進行交互時，個人隱私的風險會更大。這些個人信息可能被用于創(chuàng)建用戶畫像并訓練模型，因此，在收集、使用和傳輸個人信息的過程中，安全問題必須得到充分重視。

4）著作權侵權風險。生成式人工智能是一種重組式創(chuàng)新，它還不具備真實的創(chuàng)造性，所以它并不是著作權的主體，同時對于那些擁有獨創(chuàng)性的人工智能產(chǎn)品也不能忽略，可以參考關于職務作品或雇傭作品的規(guī)則，在創(chuàng)作過程中，對那些確實進行了人工干預、人為編排或創(chuàng)造出這個算法的人，都被認為是作者。就生成式人工智能而言，要視有沒有人利用人工智能進行創(chuàng)作，以及他們在創(chuàng)造過程中是否投入了智力勞動或創(chuàng)造勞動。

2.4.3 關鍵技術及企業(yè)核心能力有待發(fā)展

1）關鍵技術不夠完全成熟，大規(guī)模推廣落地尚存痛點。AI算法仍存在缺陷。在透明度方面，黑箱運作機制的存在使得人工智能算法的生成機理不易被人類理解，算法出現(xiàn)錯誤時，將阻礙外部觀察者進行糾偏錯誤。而在魯棒性方面，其容易受到數(shù)據(jù)、模型以及其他因素干擾，出現(xiàn)非魯棒性特征。生成式人工智能內(nèi)容編輯與創(chuàng)作技術不夠完善。文本生成方面，模板式生成導致文本結(jié)構雷同。語音合成方面，語音表達不夠流暢、聲音機械。視覺生成方面，精準度、還原度、仿真度不周全，需后期人工標注。

2）企業(yè)核心能力不齊，威脅網(wǎng)絡生態(tài)健康發(fā)展。1）內(nèi)容審核急需提高，基本審核方式為“機審+人審”，但機審準確率受黑灰產(chǎn)對抗影響，誤報率偏高。2）企業(yè)技術管理建設不足，企業(yè)傾向于滿足利益，對技術安全和制度保障投入不足。3）風險治理能力待完善。

3 生成式人工智能在數(shù)字內(nèi)容產(chǎn)業(yè)上運用的特征

1）自動化與智能化。通過自然語言處理、機器學習等技術，根據(jù)用戶需求和行業(yè)特點，生成式人工智能可以自動分析并處理大量的數(shù)據(jù)和信息，自動化地生成各種類型的數(shù)字內(nèi)容。

2）個性化與定制化。生成式人工智能依托于大語言模型和自然語言處理技術，可根據(jù)與用戶之間上下文互動問答形式，提煉出用戶需求，并融合情景問答、個人興趣、歷史對話內(nèi)容，由此刻畫用戶畫像，將個人的喜好、行為風格等信息應用到不同的語言闡述場景中，實現(xiàn)個性化場景轉(zhuǎn)移。

3）創(chuàng)新性與多樣性。生成式人工智能還可以根據(jù)用戶反饋和行業(yè)變化，不斷優(yōu)化和改進內(nèi)容生產(chǎn)模型和方法，推出更加新穎、有創(chuàng)意的內(nèi)容產(chǎn)品和服務。

4）融合性與生態(tài)性。生成式人工智能可以與其他數(shù)字技術如大數(shù)據(jù)、云計算、物聯(lián)網(wǎng)等相互融合，實現(xiàn)更廣泛的應用和創(chuàng)新。同時，生成式人工智能也可以與產(chǎn)業(yè)鏈上下游的企業(yè)和機構合作，構建生態(tài)合作體系，共同推動數(shù)字內(nèi)容產(chǎn)業(yè)的發(fā)展。

4 生成式人工智能對數(shù)字內(nèi)容產(chǎn)業(yè)的影響

4.1 生成式人工智能將極大釋放數(shù)字內(nèi)容產(chǎn)業(yè)社會生產(chǎn)力

基于Transformer架構的生成式人工智能，通過融合計算機視覺、自然語言處理等技術，可實現(xiàn)自動產(chǎn)生內(nèi)容，拓展實現(xiàn)數(shù)字內(nèi)容孿生、編輯及創(chuàng)作能力。通過智能增強、智能轉(zhuǎn)譯等活動，生成式人工智能能夠進行代碼生成、文本問答以及部分模式的復合形式等數(shù)字內(nèi)容，并有效剔除干擾信息，提高信息獲取效率；高效處理原創(chuàng)問題，提升信息處理質(zhì)量；快速搭建智能框架，提高內(nèi)容創(chuàng)作效率如圖2所示。人工智能技術融入生產(chǎn)力要素中，作用于生產(chǎn)勞動的全過程。它既能夠?qū)崿F(xiàn)傳統(tǒng)生成式人工智能中的分析、判斷與決策功能，又擁有了創(chuàng)造性功能，這是傳統(tǒng)生成式人工智能所沒有的，為各個領域帶來了生產(chǎn)力的巨大飛躍。這些技術的出現(xiàn)，不僅變革了人類獲取信息的方式，提升了人們與機器交互的方式，還引發(fā)了數(shù)字內(nèi)容生產(chǎn)方式的革新。生成式人工智能成了科技飛躍式發(fā)展、生產(chǎn)力整體提升的重要驅(qū)動力。

4.2 促進數(shù)字內(nèi)容產(chǎn)業(yè)轉(zhuǎn)型升級

生成式人工智能作為一種創(chuàng)新技術，正在深刻地改變數(shù)字內(nèi)容產(chǎn)業(yè)的生產(chǎn)、傳播和消費方式，并從以下方面促進數(shù)字內(nèi)容產(chǎn)業(yè)的轉(zhuǎn)型升級：1）豐富創(chuàng)意類型，使其實現(xiàn)創(chuàng)意的延伸和拓展。例如，在圖像領域，可以通過風格遷移等技術，將一張圖片轉(zhuǎn)換成另一種風格，為設計師提供更多創(chuàng)作靈感。在音頻領域，AI 可以實現(xiàn)音樂的自動生成，結(jié)合不同風格和元素，創(chuàng)作出獨一無二的音樂作品。2）拓寬內(nèi)容渠道。生成式人工智能可以應用于多個場景，為數(shù)字內(nèi)容產(chǎn)業(yè)開拓新的市場。例如，在廣告營銷領域可以根據(jù)用戶行為和興趣，實時生成個性化的廣告內(nèi)容，提高廣告效果。在教育領域可以根據(jù)學生的學習進度和能力，生成定制化的教學內(nèi)容，提高教學質(zhì)量。3）培養(yǎng)創(chuàng)新型人才。生成式人工智能的發(fā)展帶動了相關產(chǎn)業(yè)鏈的人才需求，為數(shù)字內(nèi)容產(chǎn)業(yè)創(chuàng)造了更多的就業(yè)機會。此外，生成式人工智能普及促進了跨學科的交流與合作，激發(fā)了創(chuàng)新思維，有助于培養(yǎng)具備創(chuàng)新能力的人才。

4.3 促使商業(yè)化發(fā)展，推動商業(yè)模式迭代創(chuàng)新

生成式人工智能技術的迭代和突破為商業(yè)模式的創(chuàng)新機制提供戰(zhàn)略方式。它是生產(chǎn)力工具，可以直接提供價格，從免費到收費，這是從無到有的巨大區(qū)別，也能從中看到此類應用在商業(yè)化中的價值。目前，已經(jīng)落地的商業(yè)模式的突出表現(xiàn)在于其訂閱模式。顧客在頁面搜索框上提出問題和需求，生成式人工智能便可運用AI交互模型自動生成相關文本答案并呈現(xiàn)給顧客，實現(xiàn)更優(yōu)質(zhì)的客戶服務和交互體驗。企業(yè)通過運用生成式人工智能針對不同受眾創(chuàng)建不同的營銷內(nèi)容，一致有效地解決顧客的不同需求，審核和編輯生成內(nèi)容，確保輸出信息與品牌定位的保持，同時迎合其興趣和偏好，提高客戶參與度和顧客被內(nèi)容所吸引的概率。將生成式人工智能整合運用到平臺中，有可能改變銷售和營銷團隊對標受眾客戶并與其建立聯(lián)系的方式，從而縮短勘探時間，為企業(yè)的營銷計劃帶來更滿意的結(jié)果。

5 發(fā)展建議

5.1 明確創(chuàng)新與安全并重的規(guī)制目標，提高人工智能的透明化程度

在使用生成式人工智能技術時，需要重視用戶隱私和數(shù)據(jù)安全，制定嚴格的數(shù)據(jù)保護措施，加強技術研發(fā)和管理，加大對生成式人工智能技術的研發(fā)和投入，鼓勵和支持相關企業(yè)和研究機構的發(fā)展，推動技術的創(chuàng)新和進步，確保技術的安全和穩(wěn)定，防止技術風險和漏洞對數(shù)字內(nèi)容產(chǎn)業(yè)造成不良影響。在推動生成式人工智能技術在數(shù)字內(nèi)容產(chǎn)業(yè)的應用時，需要建立透明化的規(guī)制框架，明確技術研發(fā)、數(shù)據(jù)使用、隱私保護等方面的規(guī)范和要求，確保技術的安全和穩(wěn)定，保障用戶的合法權益。其維護措施至少應包含以下幾個方面：1）反饋結(jié)果的透明化，提高生成內(nèi)容的可讀性，便于風險評估和監(jiān)管。2）算法的透明化，幫助生成式人工智能部署者和下游使用者提高評估的效率和穩(wěn)健性，了解算法的原理和邏輯。3）公開數(shù)據(jù)來源和使用方式，讓用戶了解數(shù)據(jù)是如何被收集、處理和使用的，增強用戶對技術的信任和認可。

5.2 健全生成式人工智能反饋渠道，建立人工智能的風險評估機制

隨著人工智能的普及，單一主體很難掌握有關其社會影響的全貌。因此，需建立全面的風險評估指標體系，涵蓋技術風險、數(shù)據(jù)風險等，確保對生成式人工智能技術的應用進行全面、系統(tǒng)的風險評估，及時發(fā)現(xiàn)并解決潛在的風險問題。同時，加強風險評估結(jié)果運用，將其作為生成式人工智能技術在數(shù)字內(nèi)容產(chǎn)業(yè)應用的重要參考依據(jù)，并根據(jù)評估結(jié)果制定相應的管理措施和規(guī)范，確保技術的安全和穩(wěn)定，保障用戶的合法權益。此外，建立覆蓋性高的對生成式人工智能使用影響的社會影響信息反饋與收集渠道，幫助監(jiān)管者在政策以及規(guī)則制定過程中，能夠充分了解社會公眾的價值取向和看法，提升政策制定的民主性與科學性。

5.3 優(yōu)化道德標準和行為規(guī)范的治理機制，加強人工智能的倫理建設

為促進生成式人工智能與大眾價值融合，并預防彼此在價值觀和道德觀上產(chǎn)生負面影響，需確立人工智能倫理原則，明確技術的道德標準和行為規(guī)范，確保技術的合理使用和健康發(fā)展?，F(xiàn)有的技術條件下，需通過程序強化訓練與測試，促進倫理教育，提高研發(fā)及應用人員素養(yǎng)，設立實體倫理標準，強化倫理審查機制，提倡信息的共享與流通，避免觀點的單向強化，防止“信息繭房”導致信息異化與極端化。制定倫理標準需秉持開放與共同參與的理念，為人工智能各方提供穩(wěn)定的信息溝通與協(xié)商渠道。

參考文獻：

[1] 中國互聯(lián)網(wǎng)絡信息中心（CNNIC）.第52次中國互聯(lián)網(wǎng)發(fā)展狀況統(tǒng)計報告[EB/OL]. （2023-09-12）[2023-12-05].http：//www.100ec.cn/index/detail--6631924.html.

[2] 王忠軍，于偉，唐星龍.智能技術的發(fā)展稟賦——記第60次情報科學讀書會[J].情報理論與實踐，2023，46（3）：209-211.

[3] 胡泳，劉純懿.UGC未竟，AIGC已來“： 內(nèi)容”的重溯、重思與重構[J].當代傳播，2023（5）：4-14.

[4] Development of metaverse for intelligent healthcare. Wang Ge;Badal Andreu;Jia Xun;Maltz Jonathan S.;Mueller Klaus;Myers Kyle J.;Niu Chuang;Vannier Michael;Yan Pingkun;Yu Zhou;Zeng Rongping.Nature Machine Intelligence，2022.

[5] 周志平.我國數(shù)字內(nèi)容產(chǎn)業(yè)存在的問題及發(fā)展對策[J].改革與戰(zhàn)略，2014，30（3）：101-103.

[6] 張立，吳素平.我國數(shù)字內(nèi)容產(chǎn)業(yè)投資價值與發(fā)展趨勢研究[J].出版發(fā)行研究，2019（7）：12-22.

[7] 熊澄宇，孔少華.數(shù)字內(nèi)容產(chǎn)業(yè)的發(fā)展趨勢與動力分析[J].全球傳媒學刊，2015，2（2）：39-53.

[8] 曼紐爾·卡斯特.認同的力量[M].曹榮湘，譯.北京： 社會科學文獻出版社，2006：8.

[9] 郭小平，段琳杉.AIGC：引領傳媒業(yè)變革與人機關系的重構[J].視聽界，2023（3）：5-10.

[10] 王渝博，李泰然.基于AIGC技術的影視內(nèi)容生產(chǎn)與創(chuàng)新[J].華東科技，2023（9）：43-45.

[11] 趙瑜，張亦弛.ChatGPT將如何影響影視產(chǎn)業(yè)？：生成式人工智能背景下的影視產(chǎn)業(yè)發(fā)展趨向[J].電影新作，2023（2）：4-13.

【通聯(lián)編輯：唐一東】