人工智能生成內(nèi)容（AIGC）的三個(gè)出版學(xué)議題

方卿　丁靖佳

[摘 要] 人工智能生成內(nèi)容（AIGC）技術(shù)及其應(yīng)用的發(fā)展，將徹底改變出版的內(nèi)容生產(chǎn)范式和內(nèi)容供給模式，在創(chuàng)新推動(dòng)出版發(fā)展的同時(shí)也帶來諸多風(fēng)險(xiǎn)與問題。對此，出版學(xué)需重點(diǎn)關(guān)注AIGC的權(quán)利歸屬、侵權(quán)、權(quán)益保障等著作權(quán)問題，技術(shù)倫理和學(xué)術(shù)倫理失范等倫理問題，以及進(jìn)一步引發(fā)的意識形態(tài)滲透、文化價(jià)值觀偏離等文化安全問題，并以此為邏輯起點(diǎn)探尋解決之道。

[關(guān)鍵詞] AIGC 出版學(xué) 著作權(quán) 技術(shù)倫理 學(xué)術(shù)倫理 文化安全

[中圖分類號] G237 [文獻(xiàn)標(biāo)識碼] A [文章編號] 1009-5853 （2023） 02-0005-06

Three Publishing Topics Concerning Artificial Intelligence Generated Content

Fang Qing Ding Jingjia

（School of Information Management， Wuhan University， Wuhan， 430072）

[Abstract] The advancement of Artificial Intelligence Generated Content（AIGC）technology and its applications is poised to bring about a significant shift in the current paradigm of content production and supply in the publishing industry， albeit not without a host of attendant risks and concerns. Hence， the field of publishing studies need center its attention on critical areas of inquiry such as copyright ownership， infringement and the safeguarding of rights and interests related to AIGC. Additionally， ethical dilemmas regarding technology and academic norms， as well as cultural security issues， including the possible infiltration of certain ideologies or deviation from established cultural values， need to be examined. Taking these issues as a logical starting point， explorations into potential solutions can be initiated.

[Key words] AIGC Publishing Copyright Technological ethics Academic ethics Cultural safety

對話式AI機(jī)器人ChatGPT的橫空出世引發(fā)了人們對人工智能生成內(nèi)容（Artificial Intelligence Generated Content，AIGC）的關(guān)注與熱議，《自然》期刊發(fā)文直言這將有可能徹底改變研究實(shí)踐和出版實(shí)踐，但其中的風(fēng)險(xiǎn)不容忽視[1]。AIGC作為繼專業(yè)生成內(nèi)容（Professionally Generated Content，PGC）和用戶生成內(nèi)容（User Generated Content，UGC）之后的新的內(nèi)容生產(chǎn)引擎，能夠通過內(nèi)容自動(dòng)化編纂、智能化潤色加工、多模態(tài)轉(zhuǎn)換和創(chuàng)造性生成等方式直接改變出版的內(nèi)容生產(chǎn)范式和內(nèi)容供給模式。除此之外，AIGC還將以數(shù)字人、聊天機(jī)器人為交互媒介窗口推動(dòng)出版流程的智能再造和出版服務(wù)的創(chuàng)新升級，從而對出版的發(fā)展產(chǎn)生深遠(yuǎn)影響。隨著AIGC技術(shù)的革新迭代及其應(yīng)用成本的下降，出版內(nèi)容的生產(chǎn)將不可避免地從PGC、UGC轉(zhuǎn)向AIGC（包括AIPGC、AIUGC，即AI協(xié)同創(chuàng)造內(nèi)容），且AIGC的數(shù)量和內(nèi)容占比將不斷上升。在可預(yù)期的未來，AIGC將因其在內(nèi)容易用性、可塑性、多樣性、交互性、低延遲等方面的優(yōu)勢而成為出版活動(dòng)的主要內(nèi)容來源。

作為一個(gè)以知識內(nèi)容選擇、傳播、傳承為內(nèi)在追求的內(nèi)容產(chǎn)業(yè)，出版也將直面AIGC帶來的機(jī)遇與風(fēng)險(xiǎn)，從出版學(xué)視角對此加以研究與審視則將影響著AIGC以何種形式和何種路徑加入人類知識成果的傳播、傳承序列之中，也是警惕和規(guī)制AIGC異化出版“文化構(gòu)建”本質(zhì)的關(guān)鍵。

1 AIGC的著作權(quán)問題

出版是內(nèi)容產(chǎn)業(yè)，著作權(quán)是出版的核心資產(chǎn)。目前，AIGC已經(jīng)能夠?qū)崿F(xiàn)完整的出版內(nèi)容作品創(chuàng)作，《1 the Road》《陽光失了玻璃窗》等都是由AI技術(shù)創(chuàng)新重組而成的AIGC作品。ChatGPT等AI語言模型應(yīng)用的“出圈”預(yù)示著AI協(xié)同創(chuàng)作以及創(chuàng)造性AIGC作品的生產(chǎn)成為可能，其中暗含的新型著作權(quán)爭議則將對現(xiàn)有的著作權(quán)制度框架產(chǎn)生沖擊。

一是AIGC的權(quán)利歸屬問題。權(quán)利歸屬是著作權(quán)法的核心，其可以明確作品究竟歸屬于誰，以及誰可以對所創(chuàng)作的作品享有權(quán)利并承擔(dān)責(zé)任[2]。AIGC的出現(xiàn)改變了傳統(tǒng)內(nèi)容的生產(chǎn)規(guī)律，使我們不得不對已有的著作權(quán)法的權(quán)利歸屬進(jìn)行根本性反思。首先，是否需要對AIGC作品進(jìn)行著作權(quán)法上的賦權(quán)？如AIPGC、AIUGC等AIGC作品蘊(yùn)含了自然人的創(chuàng)作因素（思想、情感），在一定程度上符合作品構(gòu)成要件的要求，該類作品能否進(jìn)行賦權(quán)認(rèn)定、其認(rèn)定標(biāo)準(zhǔn)是什么等內(nèi)容都還相對空白。其次，AIGC作品的主體資格如何確定？AIGC作品涉及AIGC技術(shù)開發(fā)者、應(yīng)用所有者、功能使用者等不同利益相關(guān)主體，厘清以什么樣的賦權(quán)形式將什么類型的AIGC作品歸屬于哪類主體是解決AIGC權(quán)利歸屬的關(guān)鍵。尤其是當(dāng)AIGC技術(shù)發(fā)展至擁有自主意識，能夠從組合型內(nèi)容創(chuàng)造轉(zhuǎn)向探索型和變革型內(nèi)容創(chuàng)造，AIGC作品的權(quán)益收益和可能導(dǎo)致的侵權(quán)責(zé)任又該如何劃分？

二是AIGC的侵權(quán)問題。AIGC的基本原理在于AI算法在海量數(shù)據(jù)中“學(xué)習(xí)”“理解”內(nèi)容的生成邏輯與用戶的閱讀傾向，從而進(jìn)行內(nèi)容的再生產(chǎn)或再創(chuàng)作。在我國現(xiàn)行著作權(quán)法沒有明確將數(shù)據(jù)爬取、數(shù)據(jù)挖掘等智能化分析行為規(guī)定為合理使用的情況下，AIGC極有可能對其他著作權(quán)人和使用用戶構(gòu)成侵權(quán)。一方面，AIGC對已有作品的大規(guī)模學(xué)習(xí)、模仿、組合和轉(zhuǎn)化可能對原著作權(quán)人享有的修改權(quán)、保護(hù)作品完整權(quán)、演繹權(quán)等權(quán)利造成侵權(quán)，國外最大藝術(shù)作品平臺(tái)ArtStation上的作者們就AIGC算法中潛在的版權(quán)爭議掀起了抵制AIGC的活動(dòng)。另一方面，AIGC為形成符合用戶需求的內(nèi)容，還會(huì)收集、整理并利用用戶的個(gè)人數(shù)據(jù)，存在用戶隱私數(shù)據(jù)侵權(quán)和外泄的隱患。完善AIGC的侵權(quán)認(rèn)定并對其侵權(quán)行為加以規(guī)制是出版業(yè)不得不探討的現(xiàn)實(shí)問題。

三是AIGC的權(quán)益保護(hù)問題。雖然大家對AIGC的賦權(quán)問題還存在爭議，但普遍認(rèn)為應(yīng)該給予滿足具有獨(dú)創(chuàng)性要求的AIGC作品著作權(quán)保護(hù)，我國“人工智能寫作領(lǐng)域第一案”—騰訊訴上海盈訊科技侵害著作權(quán)及不正當(dāng)競爭糾紛案的判決結(jié)果也體現(xiàn)了這樣的導(dǎo)向。在該案件中，被告上海盈訊科技公司未經(jīng)授權(quán)許可將騰訊機(jī)器人Dreamwriter生成的文章發(fā)布在其運(yùn)營的“網(wǎng)貸之家”平臺(tái)上并向公眾傳播。深圳南山區(qū)法院審理認(rèn)為該AIGC作品“外部表達(dá)符合文字作品的形式要求，內(nèi)部表達(dá)反映了對實(shí)時(shí)股票市場相關(guān)信息和數(shù)據(jù)的編排、分析和評價(jià)，結(jié)構(gòu)合理，表達(dá)清晰，具有一定的獨(dú)創(chuàng)性”，屬于我國著作權(quán)法保護(hù)的文字作品范疇[3]。然而，如何區(qū)分自然人創(chuàng)作作品、純AIGC作品和AI協(xié)同創(chuàng)作作品；在AI協(xié)同創(chuàng)作作品中，如何判定自然人在AIGC作品生成中的創(chuàng)造性貢獻(xiàn)程度等問題都有待厘清。同時(shí)，在AIGC作品生成、出版、跨模態(tài)轉(zhuǎn)化、傳播的流轉(zhuǎn)過程中，其權(quán)益相關(guān)主體之間的關(guān)系將更為復(fù)雜，AIGC作品可能成為合作作品、雇用作品、職務(wù)作品或法人作品，但其界定標(biāo)準(zhǔn)以及具體的保護(hù)路徑、保護(hù)限制都不清晰，將致使AIGC作品的濫用和出版內(nèi)容保護(hù)機(jī)制的失調(diào)。

AIGC的發(fā)展與應(yīng)用對現(xiàn)行的著作權(quán)制度帶來了新的挑戰(zhàn)，對此，圍繞“科學(xué)研究—司法實(shí)踐—制度架構(gòu)”三位一體地解決AIGC的權(quán)利歸屬、侵權(quán)和權(quán)益保護(hù)問題，以著作權(quán)為核心資產(chǎn)的出版業(yè)才能有可持續(xù)的發(fā)展未來。

首先，加強(qiáng)AIGC著作權(quán)問題的理論與實(shí)踐研究。AIGC著作權(quán)研究是一個(gè)跨學(xué)科的綜合性議題，出版需采用多元化的研究視角凝練AIGC著作權(quán)的關(guān)鍵科學(xué)問題，充分發(fā)掘現(xiàn)有理論的解釋張力，提出科學(xué)的理論優(yōu)化思路和實(shí)踐策略方案。在研究方法上，可側(cè)重案例研究法和比較研究法，對中國、英國、美國、日本等國家的AIGC著作權(quán)實(shí)踐進(jìn)行總結(jié)與分析，如澳大利亞傾向于對計(jì)算機(jī)生成的作品視為無作者（authorless），而英國的《版權(quán)，外觀設(shè)計(jì)和專利法》（Copyright， Designs and Patents Act）則規(guī)定，“對于計(jì)算機(jī)生成的文學(xué)、戲劇、音樂或藝術(shù)作品，作者應(yīng)為對創(chuàng)作該作品做出必要安排的人”[4]。對比探討不同國家對AIGC作品著作權(quán)的權(quán)利歸屬、侵犯以及權(quán)益保障實(shí)踐，厘清其背后的實(shí)踐原理，能夠?yàn)槲覈鳤IGC著作權(quán)的司法實(shí)踐和制度架構(gòu)提供理論指引和經(jīng)驗(yàn)借鑒。

其次，深化AIGC著作權(quán)爭議的司法實(shí)踐，增加AIGC指導(dǎo)性案例的效力和數(shù)量。當(dāng)前AIGC著作權(quán)爭議的司法實(shí)踐正處于探索階段，理論界觀點(diǎn)紛呈，現(xiàn)有法律和司法又無明確規(guī)定，司法實(shí)踐面臨諸多疑難問題。這一方面要求司法機(jī)關(guān)在處理不同類型、不同著作權(quán)爭議的AIGC案件時(shí)，發(fā)揮集體智慧，構(gòu)建法理、情理、事理邏輯合理的裁判標(biāo)準(zhǔn)。另一方面則需在結(jié)案后綜合考慮案件的典型性和指導(dǎo)性，撰寫和發(fā)布AIGC著作權(quán)糾紛判定的典型案例和指導(dǎo)性案例。這些案例雖然不具有正式的法源效力，但對其他類似案件的處理具有重要的參考和指導(dǎo)作用，還能起到一定的教育和宣傳作用，是未來AIGC著作權(quán)立法的重要支撐。

最后，完善AIGC著作權(quán)制度體系。已有著作權(quán)基本原理與制度規(guī)則無法完全解釋或適用于AIGC的著作權(quán)問題，完善AIGC著作權(quán)制度體系是實(shí)現(xiàn)AIGC著作權(quán)保護(hù)，激勵(lì)基于AIGC創(chuàng)新經(jīng)濟(jì)、文化、科技發(fā)展的關(guān)鍵。具體而言，需在我國現(xiàn)行著作權(quán)法的基礎(chǔ)上，構(gòu)建AIGC作品的署名規(guī)則、著作權(quán)歸屬制度、作品登記制度、合理使用制度、侵權(quán)認(rèn)定制度、侵權(quán)責(zé)任制度，形成系統(tǒng)完整的AIGC著作權(quán)保護(hù)制度體系。

2 AIGC的倫理問題

AIGC技術(shù)嵌入多層規(guī)則后容易產(chǎn)生一個(gè)帶有偏見的運(yùn)行體系，這是AIGC技術(shù)自身缺陷以及技術(shù)的不合理使用所共同導(dǎo)致的。從出版學(xué)的視角來看，AIGC的應(yīng)用催生了技術(shù)倫理失范和學(xué)術(shù)倫理失范的風(fēng)險(xiǎn)。

算法偏見和算法歧視等技術(shù)倫理失范問題一直貫穿于AIGC技術(shù)創(chuàng)新與應(yīng)用的始終。一是由于AIGC訓(xùn)練集映射著社會(huì)群體的思維偏見，AI算法通過對訓(xùn)練集的歧視模仿而“學(xué)會(huì)”自動(dòng)輸出具有價(jià)值傾向性的內(nèi)容。曾有人用1.35億條仇恨言論信息訓(xùn)練GPT-4chan語言模型，隨后該AIGC模型在不到24小時(shí)內(nèi)發(fā)布并傳播了超過15000條充滿暴力內(nèi)容的帖子，且在最初沒有人識別出這些內(nèi)容來自AI [5]。事實(shí)上，如果不對其輸出加以控制，AIGC語言模型很容易被用來生成仇恨言論和垃圾郵件，以及可能隱含在其訓(xùn)練數(shù)據(jù)中的種族主義、性別歧視和其他有害聯(lián)想。2022年12月，加州大學(xué)伯克利分校的一位計(jì)算神經(jīng)科學(xué)家在推特上說，他要求ChatGPT開發(fā)一個(gè)Python程序，根據(jù)一個(gè)人的原籍國來判斷是否應(yīng)該受到酷刑。ChatGPT隨后回復(fù)了代碼，并邀請用戶輸入國家信息；而如果這個(gè)國家是朝鮮、敘利亞、伊朗或蘇丹，則會(huì)輸出“這個(gè)人應(yīng)該受到酷刑”（OpenAI隨后關(guān)閉了這種問題的回答）[6]。二是AI算法設(shè)計(jì)師自身存在的價(jià)值偏見所導(dǎo)致的，如算法設(shè)計(jì)師具有明確的經(jīng)濟(jì)價(jià)值取向或沒有及時(shí)糾正算法偏見，AIGC便無法體現(xiàn)合理的社會(huì)規(guī)范和倫理準(zhǔn)則。事實(shí)上，微軟已經(jīng)計(jì)劃在聊天機(jī)器人Bing AI輸出的AIGC中植入廣告，AIGC算法的客觀性和公平性難以維系。隨著AIGC技術(shù)逐漸具有“類人”的智能，隱藏在技術(shù)算法“黑箱”背后的AIGC倫理失范問題更難被人為識別和察覺，再經(jīng)過出版的系統(tǒng)化“封裝”和傳播，AIGC產(chǎn)生的影響力和破壞力無疑是巨大的。這些新的變化都對傳統(tǒng)倫理標(biāo)準(zhǔn)生成了新的挑戰(zhàn)，舊的出版道德規(guī)范與倫理準(zhǔn)則是否適用，新的出版?zhèn)惱硪?guī)則如何構(gòu)建，基于技術(shù)向善視角消解AIGC倫理風(fēng)險(xiǎn)等內(nèi)容都亟待進(jìn)一步研究和關(guān)注。

AIGC的學(xué)術(shù)倫理問題因ChatGPT的出現(xiàn)而再次受到出版界的熱議?！犊茖W(xué)》系列期刊更新了其對待AIGC的政策，表明未經(jīng)編輯部明確許可，不得在期刊上發(fā)表由人工智能、機(jī)器學(xué)習(xí)或類似算法工具生成的文本，也不得使用由這些工具生成的圖形、圖像或圖表，違反這一政策即構(gòu)成科學(xué)不端行為[7]。《自然》雜志主編則表明其不允許將ChatGPT之類的大型語言模型（Large Language Models，LLM）列為署名作者，但允許使用這些工具，并在方法、致謝等相應(yīng)部分進(jìn)行具體說明[8]。這兩家國際頂級期刊對AIGC的態(tài)度雖有所差異，但都表現(xiàn)出對AIGC學(xué)術(shù)倫理的擔(dān)憂。目前，不少研究人員已經(jīng)開始將ChatGPT以及其他AIGC語言模型作為研究助理，幫助他們組織思維、協(xié)助編寫代碼、總結(jié)研究文獻(xiàn)、撰寫和修改論文等[9]。但基于AIGC語言模型產(chǎn)生的文本結(jié)果看似使人信服，實(shí)際卻存在大量的事實(shí)性錯(cuò)誤、知識盲區(qū)和虛假信息，嚴(yán)重?fù)p害學(xué)術(shù)成果的科學(xué)性與可靠性，也滋生了機(jī)器洗稿等學(xué)術(shù)不端行為，對學(xué)術(shù)誠信構(gòu)成重大威脅。然而，從AIGC的應(yīng)用及其技術(shù)發(fā)展趨勢來看，AIGC甚至能夠在輔助設(shè)計(jì)科學(xué)實(shí)驗(yàn)、開展同行評議等方面發(fā)揮效用，未來的內(nèi)容創(chuàng)作和出版模式極有可能是協(xié)作式、算法式和自主式的，完全禁止AIGC協(xié)同學(xué)術(shù)創(chuàng)作、支撐出版決策或許并不現(xiàn)實(shí)。因此，置于出版學(xué)面前的不只有AIGC的學(xué)術(shù)倫理探析，更重要的是討論AIGC如何在學(xué)術(shù)倫理范疇內(nèi)發(fā)揮對出版的價(jià)值賦能效用。

AIGC的倫理問題決定著AIGC融入出版活動(dòng)的倫理邊界和價(jià)值底線。只有匡正AIGC介入出版活動(dòng)的目的性，以技術(shù)向善視角看待并規(guī)制AIGC的發(fā)展，才能最大程度地發(fā)揮AIGC的正價(jià)值效用。

對AIGC技術(shù)倫理失范的規(guī)制，應(yīng)從全球治理格局出發(fā)，建立AIGC技術(shù)倫理規(guī)則框架。AIGC技術(shù)及其應(yīng)用都具有極強(qiáng)的跨國流動(dòng)性，沒有一個(gè)國家或者政府能夠完全獨(dú)立地實(shí)現(xiàn)AIGC技術(shù)及其模型的技術(shù)倫理監(jiān)管，其引發(fā)的倫理追責(zé)和管制問題也通常需要跨國合作來加以應(yīng)對，全球治理視野由此顯得十分重要。結(jié)合聯(lián)合國教科文組織發(fā)布的《人工智能倫理問題建議書》（Recommendation on Ethics of AI）和中共中央辦公廳、國務(wù)院辦公廳印發(fā)的《關(guān)于加強(qiáng)科技倫理治理的意見》，我們認(rèn)為，出版業(yè)可以構(gòu)建AIGC的共性倫理框架和出版業(yè)AIGC倫理框架。AIGC共性倫理框架的構(gòu)建旨在為全球AIGC技術(shù)的開發(fā)與應(yīng)用提供一個(gè)集體性的倫理框架，該框架應(yīng)適用于各國法律體系、道德規(guī)范和價(jià)值理念，能夠?yàn)锳IGC的技術(shù)倫理糾紛、技術(shù)開發(fā)過程中的技術(shù)倫理嵌入、社會(huì)個(gè)人技術(shù)應(yīng)用過程中的技術(shù)倫理原則引導(dǎo)等，提供系統(tǒng)性的參考。出版業(yè)AIGC倫理框架則旨在集中解決出版場景中的AIGC技術(shù)倫理問題，該框架需明晰出版業(yè)采納AIGC技術(shù)的原則和規(guī)范，為出版業(yè)商業(yè)化應(yīng)用和創(chuàng)新轉(zhuǎn)化AIGC技術(shù)提供行為準(zhǔn)則，以警惕AIGC技術(shù)邏輯和資本邏輯對出版文化建構(gòu)邏輯的“蠶食”。

對AIGC學(xué)術(shù)倫理失范的規(guī)制，應(yīng)從協(xié)同治理理念出發(fā)，實(shí)現(xiàn)AIGC學(xué)術(shù)倫理的內(nèi)外部規(guī)約。AIGC引發(fā)的學(xué)術(shù)倫理失范問題涉及科研人員、高校、出版機(jī)構(gòu)、科研項(xiàng)目資助機(jī)構(gòu)、政府部門等多類利益相關(guān)主體，僅依靠出版單一主體的力量難以可持續(xù)地規(guī)制AIGC的學(xué)術(shù)倫理示范問題。因此，多元利益主體的協(xié)同治理理念應(yīng)貫穿于AIGC學(xué)術(shù)倫理治理的始終。在外部規(guī)約上，出版應(yīng)協(xié)同科研項(xiàng)目資助機(jī)構(gòu)、政府部門等管理機(jī)構(gòu)探索構(gòu)建AIGC協(xié)同學(xué)術(shù)創(chuàng)作或AIGC參與學(xué)術(shù)出版流程的學(xué)術(shù)倫理規(guī)則、學(xué)術(shù)誠信體系和出版?zhèn)惱硪?guī)范，從標(biāo)準(zhǔn)、政策、法律法規(guī)等維度完善AIGC學(xué)術(shù)倫理的約束、問責(zé)和反饋機(jī)制。在內(nèi)部規(guī)訓(xùn)上，出版則需協(xié)同高校、學(xué)協(xié)會(huì)等利益主體開展AIGC學(xué)術(shù)倫理的宣傳、教育、培訓(xùn)工作，提高和規(guī)范科研人員使用AIGC的學(xué)術(shù)倫理意識和行為，強(qiáng)化期刊編輯、審稿專家對科學(xué)成果的學(xué)術(shù)把關(guān)能力，形成AIGC學(xué)術(shù)倫理內(nèi)化于心、外化于行的科研活動(dòng)、出版活動(dòng)。

3 AIGC的文化安全問題

出版長期以來承擔(dān)著發(fā)揮意識形態(tài)價(jià)值、教育價(jià)值、文化價(jià)值和科學(xué)價(jià)值的基本功能[10]，對維護(hù)以國家和社會(huì)主流意識形態(tài)為核心的國家文化安全具有重要作用。而AIGC作為一種完全開放的內(nèi)容生成范式，對我國的文化安全造成了諸多外在威脅和內(nèi)在挑戰(zhàn)，也對出版的意識形態(tài)把控、文化價(jià)值構(gòu)建功能提出了新的要求。

人工智能已經(jīng)成為人類現(xiàn)今為止最具開放性的創(chuàng)新，以此為算法支撐的AIGC也能夠透過網(wǎng)絡(luò)空間實(shí)現(xiàn)無障礙的信息接觸與意識形態(tài)輸出。目前以西方國家為主導(dǎo)的AIGC技術(shù)及其應(yīng)用則極有可能成為意識形態(tài)滲透的強(qiáng)力工具。受訓(xùn)練集中數(shù)據(jù)分布偏差以及國外算法開發(fā)人員價(jià)值理念的影響，AIGC可能“天然的”擁有意識形態(tài)立場。從已有的AIGC應(yīng)用來看，其在內(nèi)容互動(dòng)中更傾向于輸出西方的主流意識觀點(diǎn)乃至虛假意識形態(tài)信息，而對我國優(yōu)秀傳統(tǒng)文化、革命文化和社會(huì)主義先進(jìn)文化又出現(xiàn)認(rèn)知匱乏甚至認(rèn)識錯(cuò)誤的現(xiàn)象，無疑將影響不同國家用戶對中西方文化的態(tài)度和價(jià)值傾向。因此，在這種新形態(tài)的技術(shù)霸權(quán)以及新形式的意識形態(tài)滲透下，我國文化安全面臨著外來文化侵入、本土文化價(jià)值觀念偏離等文化安全威脅，如何捍衛(wèi)我國的文化安全、構(gòu)筑文化保護(hù)屏障、實(shí)現(xiàn)我國先進(jìn)文化的向外輸出與傳播顯得日益緊迫。

AIGC對我國文化安全形成的內(nèi)在挑戰(zhàn)主要表現(xiàn)在文化價(jià)值觀的認(rèn)同危機(jī)和出版意識形態(tài)的把握危機(jī)上。AIGC“溫水煮青蛙”“和平演變”式的意識形態(tài)滲入使我國民眾在不知不覺中接受了多元文化的沖擊，對已有的文化價(jià)值理念產(chǎn)生動(dòng)搖。同時(shí)，對AIGC的惡意使用和濫用易產(chǎn)生大量低俗化、粗淺化、媚俗化等不良信息資源，為錯(cuò)誤文化價(jià)值觀的滋生提供了溫床，折射出我國文化安全存在的內(nèi)在隱憂。與此相對應(yīng)的，則是出版對意識形態(tài)的把控危機(jī)。面對數(shù)量龐雜和質(zhì)量良莠不齊的AIGC，面對幾乎沒有準(zhǔn)入門檻而可以廣泛傳播的各類意識形態(tài)信息，出版對內(nèi)容意識形態(tài)的把控變得尤為艱難又尤為重要。

在內(nèi)外部文化安全威脅的背景下，我們首先要探索建立“國家主導(dǎo)、多元共治”的文化安全防御和管理機(jī)制，形成文化安全保障體系。這既是國家治理體系和治理能力現(xiàn)代化的整體要求，也是解決AIGC文化安全問題的內(nèi)在需求。在文化安全防御機(jī)制方面，可開發(fā)一套適用于中國文化情境的文化安全指標(biāo)體系和監(jiān)測程序，對AIGC平臺(tái)及其內(nèi)容信息進(jìn)行動(dòng)態(tài)監(jiān)測、評測和風(fēng)險(xiǎn)趨勢把控，建立AIGC文化風(fēng)險(xiǎn)評估、審查、預(yù)警、處理一體化的防御機(jī)制。在文化安全管理機(jī)制方面，則要建立以政府文化安全管理部門為主導(dǎo)，AIGC市場相互牽制、AIGC平臺(tái)自治管理、社會(huì)公眾參與監(jiān)督的管理網(wǎng)絡(luò)，對AIGC中涉及意識形態(tài)安全、違背社會(huì)公德、激化民族矛盾和宗教沖突、侵犯個(gè)人權(quán)利等文化安全風(fēng)險(xiǎn)進(jìn)行分層、分類管理。

其次，開發(fā)具有競爭力的AIGC語言模型，構(gòu)筑主流意識形態(tài)陣地。AIGC的文化安全風(fēng)險(xiǎn)一定程度上是AIGC的技術(shù)霸權(quán)所導(dǎo)致的，因此有必要自主開發(fā)具有國際競爭力的AIGC語言模型，構(gòu)筑主流意識形態(tài)陣地。從AIGC的技術(shù)開發(fā)邏輯來看，該模型既需要在合理合法的前提下，將大量蘊(yùn)含中華優(yōu)秀傳統(tǒng)文化、革命文化和社會(huì)主義先進(jìn)文化的內(nèi)容文本納入訓(xùn)練數(shù)據(jù)集進(jìn)行“學(xué)習(xí)”，“培養(yǎng)”AIGC語言模型的中國立場和中國理念。同時(shí)，也要以大國的開放包容心態(tài)，給予其他優(yōu)秀文化意識形態(tài)內(nèi)容的生存空間，促使AIGC成為推動(dòng)本土文化和外來文化友好交流互鑒的載體。

此外，還需加快推進(jìn)文化產(chǎn)業(yè)和文化事業(yè)的繁榮發(fā)展，發(fā)揮其維護(hù)國家文化安全的基石作用。唯有“強(qiáng)起來”的文化產(chǎn)業(yè)和文化事業(yè)，才能為社會(huì)源源不斷地輸送高質(zhì)量且豐富多樣的精神文化食糧[11]，實(shí)現(xiàn)中華文化的自覺、自信和自強(qiáng)。為此，包括出版在內(nèi)的文化產(chǎn)業(yè)和文化事業(yè)需將AIGC數(shù)智賦能、多維感知、認(rèn)知交互、多模態(tài)融合的技術(shù)特點(diǎn)融入文化內(nèi)容生產(chǎn)、流程運(yùn)作和服務(wù)升級上，通過提高自身的文化生產(chǎn)力和文化服務(wù)力，增強(qiáng)中華文化的凝聚力和傳播影響力。 同時(shí)，文化產(chǎn)業(yè)和文化事業(yè)還要提升對AIGC技術(shù)的控制能力，強(qiáng)化對AIGC及相關(guān)著作的內(nèi)容過濾能力和風(fēng)險(xiǎn)識別能力，形成文化安全保障底線，以正確的價(jià)值導(dǎo)向?qū)崿F(xiàn)AIGC不良信息內(nèi)容的凈化、優(yōu)化與引導(dǎo)，推動(dòng)高質(zhì)量AIGC的創(chuàng)新生產(chǎn)與傳播。

4 結(jié) 語

AIGC技術(shù)及其應(yīng)用無疑將引導(dǎo)出版走向一場深刻的變革，其中可能衍生的著作權(quán)、倫理以及文化安全風(fēng)險(xiǎn)是出版不容忽視和回避的關(guān)鍵問題，亟須我們加以深入探討與分析。應(yīng)當(dāng)說，目前AIGC的發(fā)展仍處于起步階段，AIGC背后的人工智能計(jì)算科學(xué)正在以我們難以想象的速度學(xué)習(xí)和汲取現(xiàn)實(shí)世界的數(shù)據(jù)、信息和知識，并實(shí)現(xiàn)算法的創(chuàng)新更迭，而出版則處于這種變革的起點(diǎn)。出版只有謹(jǐn)慎地對待AIGC的發(fā)展與應(yīng)用，不斷追問、揭示AIGC對出版帶來的負(fù)向價(jià)值及其風(fēng)險(xiǎn)消解路徑，才能最大程度地?zé)òl(fā)AIGC賦能出版創(chuàng)新發(fā)展的生機(jī)與活力。

注 釋

[1] van Dis E A M， Bollen J， Zuidema W， et al. ChatGPT：five priorities for research[J]. Nature， 2023， 614（7947）： 224-226

[2] 劉云.論人工智能的法律人格制度需求與多層應(yīng)對[J].東方法學(xué)，2021（1）：61-73

[3] 最高人民法院. 2020年度人民法院十大案件[EB/OL].[2023-03-09].https：//baijiahao.baidu.com/s？id=1688375184809561932&wfr=spider&for=pc

[4] McCutcheon J. The vanishing author in computer-generated works： a critical analysis of recent Australian Case Law[J]. Melbourne University Law Review， 2013， 36（3）： 915-969

[5] 邵文.“最邪惡”AI？由一億多條仇恨言論喂養(yǎng)，很難與人類區(qū)分[EB/OL].[2023-03-09].https：//www.thepaper.cn/newsDetail_forward_18501825

[6] Stokel-Walker C， Van Noorden R. What ChatGPT and generative AI mean for science[J]. Nature， 2023， 614（7947）： 214-216

[7] Science.Science Journals： Editorial Policies [EB/OL]. [2023-03-09].https：//www.sciencemag.org/authors/science-journals-editorial-policies

[8] Nature.Tools such as ChatGPT threaten transparent science; here are our ground rules for their use[EB/OL].[2023-03-09].http：//www.nature.com/articles/d41586-023-00191-1

[9] Hutson M. Could AI help you to write your next paper？[J]. Nature， 2022， 611（7934）： 192-193

[10]方卿，徐麗芳，許潔，等. 出版價(jià)值引導(dǎo)研究[M].北京：商務(wù)印書館，2018：19-23

[11]吳騰飛.新時(shí)代維護(hù)國家文化安全的三個(gè)維度[J].延邊大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2020，53（2）：85-92+143

（收稿日期：2023-03-15）