智能出版?zhèn)惱肀举|(zhì)、風(fēng)險與治理研究

摘 要：智能出版是人工智能技術(shù)應(yīng)用于出版業(yè)融合發(fā)展而形成的新型出版模式，是數(shù)字出版發(fā)展的高級階段。智能出版具有先天的技術(shù)發(fā)展優(yōu)勢，但也存在技術(shù)引發(fā)的不確定性。正是這種不確定性導(dǎo)致了智能出版的倫理問題，因而需要回答智能出版如何規(guī)范化發(fā)展，即智能出版“應(yīng)該做什么”與“不應(yīng)該做什么”。根據(jù)智能出版活動中人的主體行為不當(dāng)與智能出版技術(shù)應(yīng)用引發(fā)的不確定性，智能出版?zhèn)惱盹L(fēng)險包括技術(shù)發(fā)展失控，技術(shù)誤用、濫用與應(yīng)用后的負面影響，以及管理不當(dāng)和管理欠缺造成的問題。針對智能出版現(xiàn)存或潛在的倫理風(fēng)險，需要構(gòu)建智能出版?zhèn)惱眢w系，通過其倫理使命、準(zhǔn)則與細則形成有機體，發(fā)揮系統(tǒng)性作用機制，最大程度實現(xiàn)人工智能技術(shù)在出版業(yè)的向善發(fā)展，促進智能出版生態(tài)創(chuàng)新。

關(guān)鍵詞：智能出版；出版?zhèn)惱?；人工智能；治理；倫理風(fēng)險

DOI： 10.3969/j.issn.2097-1869.2024.03.007 文獻標(biāo)識碼：A

著錄格式：吳亮芳，羅群群，趙星宇.智能出版?zhèn)惱肀举|(zhì)、風(fēng)險與治理研究[J].數(shù)字出版研究，2024，3（3）：56-64.

1 智能出版?zhèn)惱硌芯康睦碚撊笔c實踐需求

1956年被認為是人工智能元年。這一年夏天，在美國召開的著名的達特茅斯會議（Dartmouth Conference）上，信息論創(chuàng)始人克勞德·香農(nóng)（Claude Shannon）見證了人工智能學(xué)科的誕生，并完成與約翰·麥卡錫（John McCarthy）、馬文·明斯基（Marvin Minsky）、赫伯特·西蒙（Herbert Simon）、艾倫·紐厄爾（Allen Newell）等新一代人工智能學(xué)術(shù)領(lǐng)袖的傳承。之后，人工智能的發(fā)展就與其他新事物一樣，并非一帆風(fēng)順，而是歷經(jīng)“三起兩落”的曲折歷程后才成為全世界關(guān)注的焦點。

出版是一個技術(shù)驅(qū)動的行業(yè)，自然不會錯失與人工智能融合發(fā)展的機遇。兩者的融合發(fā)展不斷催生出新的應(yīng)用場景，促使出版產(chǎn)品、出版服務(wù)與出版生態(tài)的創(chuàng)新與變革，進而引發(fā)智能出版學(xué)理探討。早在2005年，朱李莉等[1]就提出了網(wǎng)絡(luò)出版的商務(wù)智能模型，但并未提及智能出版概念。直到2018年，劉華東等[2]在文章中提到“智能出版”，并指出“智能出版將會成為新聞出版業(yè)的未來發(fā)展趨勢”。同年，宋偉等[3]在分析人工智能與數(shù)字出版業(yè)融合發(fā)展現(xiàn)狀的基礎(chǔ)上首次提出了智能出版概念，并認為智能出版專指“人工智能+數(shù)字出版”。之后，有關(guān)智能出版的研究文獻迅速增多，據(jù)不完全統(tǒng)計，短短5年中已有百余篇論文，還有1部專著，研究內(nèi)容涉及智能出版的概念、技術(shù)原理、流程變革、現(xiàn)實困境、實現(xiàn)路徑等方面。具體到智能出版?zhèn)惱硌芯?，已有劉寧[4]、劉海明[5]、吳煒華[6]、李華君[7]等展開研究，主要觀點為智能出版技術(shù)的泛化與過度使用引發(fā)出版主體身份焦慮、內(nèi)容文化屬性偏離、算法關(guān)系黑箱等倫理風(fēng)險。除此之外，還有部分研究成果探討人工智能技術(shù)在學(xué)術(shù)出版等具體領(lǐng)域中的應(yīng)用引發(fā)的倫理風(fēng)險，如張萍等[8]指出機器參與論文寫作會造成“數(shù)據(jù)倫理問題、學(xué)術(shù)創(chuàng)新爭議、算法黑箱與偏見問題、引用問題和署名問題”。這些研究成果大多建立在已有人工智能技術(shù)應(yīng)用于出版業(yè)的現(xiàn)實基礎(chǔ)上，進而分析、歸納出倫理風(fēng)險，具有開拓價值，但還需系統(tǒng)性深化，以滿足智能出版高質(zhì)量發(fā)展要求。

2022年11月，隨著具有多模態(tài)生成能力的ChatGPT成功出圈，智能出版發(fā)展更加迅速，涌現(xiàn)諸多智能化應(yīng)用場景。依據(jù)傳統(tǒng)出版流程，智能技術(shù)在出版業(yè)中的應(yīng)用場景涵蓋了選題策劃、內(nèi)容創(chuàng)作、編輯校對、發(fā)行、營銷等關(guān)鍵環(huán)節(jié)。然而，由于生成式人工智能技術(shù)比以往的科學(xué)技術(shù)更具有類人化與智能性，其所引發(fā)的智能出版?zhèn)惱韱栴}更為復(fù)雜。事實上，除了已有研究文獻歸納的倫理風(fēng)險以外，還可能存在難以預(yù)知的倫理風(fēng)險。可以說，智能出版?zhèn)惱盹L(fēng)險預(yù)防難度極大，而現(xiàn)有防范機制有待完善，而且隨著技術(shù)不斷發(fā)展，更多未知的倫理風(fēng)險還將不斷涌現(xiàn)。因此，須對智能出版?zhèn)惱碜繁舅菰矗骄科浔举|(zhì)，對其風(fēng)險進行立體化分析，并構(gòu)建治理體系，以確保智能出版業(yè)健康、有序地發(fā)展。

2 本質(zhì)：智能出版的“應(yīng)該做”與“不應(yīng)該做”

本質(zhì)是指“事物本身所固有的，決定事物性質(zhì)、面貌和發(fā)展的根本屬性”。智能出版?zhèn)惱肀举|(zhì)是其獨有的特性，而這種特性源于人工智能技術(shù)在出版業(yè)中的應(yīng)用。為了厘清智能出版?zhèn)惱肀举|(zhì)，以下采用追根溯源的方式，按照“倫理—人工智能倫理—智能出版?zhèn)惱怼钡倪壿嬛鸺壵归_分析。

倫理本意是指事物的條理，引申為人倫道德之理。在我國，“倫理”一詞最早見于秦漢時期的《禮記· 樂記篇》：“樂者，通倫理者也?！痹凇墩f文解字》中，“倫理”一詞解釋為“倫，從人，輩也，明道也；理，從玉，治玉也”，這是最早將“倫理”界定為人與人的關(guān)系的規(guī)范記載。在西方，“倫理”一詞來源于古希臘，本意是指一群人居住的地方，后來其意義擴大為一群人的性格、氣質(zhì)、風(fēng)俗習(xí)慣、思想方式等，并演繹為人與人之間的關(guān)系及其規(guī)范。盡管倫理的內(nèi)涵在我國的演化路徑不同于西方國家，但逐漸趨于一致，都是指人與人的關(guān)系和規(guī)范。隨著人類文明的發(fā)展，人際關(guān)系和人類事務(wù)越來越復(fù)雜，倫理問題產(chǎn)生的具體情境越來越具有特殊性，因而倫理的內(nèi)涵也越來越豐富，外延也不斷拓展。一般認為，倫理概念有廣義和狹義之分。狹義的倫理主要關(guān)涉道德本身，包括人與人、人與社會、人與自身的關(guān)系和規(guī)范；而廣義的倫理除了人與人、人與社會、人與自身的關(guān)系和規(guī)范外，還包括義務(wù)、責(zé)任、價值、正義等一系列價值觀[9]。

20世紀(jì)60—70年代，應(yīng)用倫理學(xué)興起，研究范圍關(guān)乎一切具體并具爭議的道德應(yīng)用問題，包括科技倫理、生命倫理、動物倫理、生態(tài)倫理、環(huán)境倫理、藝術(shù)倫理等。其中，科技倫理指各種科學(xué)技術(shù)發(fā)展所引發(fā)的倫理問題，涉及基因編輯、克隆、納米、互聯(lián)網(wǎng)及人工智能等多種科學(xué)技術(shù)發(fā)展和應(yīng)用領(lǐng)域?？梢?，科技倫理是倫理學(xué)的一個分支，人工智能倫理屬于科技倫理范疇。作為一種科學(xué)技術(shù)，人工智能越來越具有類人化與智能性特征。正是這種類人化與智能性使得人工智能倫理問題要比其他科技倫理更復(fù)雜，也更受關(guān)注。根據(jù)倫理概念，結(jié)合人工智能倫理問題的復(fù)雜性，人工智能倫理也有廣義和狹義之分。狹義的人工智能倫理是指人與人工智能技術(shù)系統(tǒng)、智能機器的關(guān)系及其使用所引發(fā)的涉及人類的倫理道德問題，屬于應(yīng)用倫理學(xué)；廣義的人工智能倫理是指人與人工智能系統(tǒng)、人與智能機器、人與智能社會之間的倫理關(guān)系，以及超現(xiàn)實的強人工智能倫理問題，包括人工智能系統(tǒng)與智能機器對于人類的責(zé)任、安全、正義等范疇[9]。

根據(jù)概念邏輯關(guān)系，智能出版?zhèn)惱砼c人工智能倫理為從屬關(guān)系，智能出版?zhèn)惱硎侨斯ぶ悄軅惱淼南挛桓拍睢＝Y(jié)合人工智能倫理定義與智能出版活動特點，智能出版?zhèn)惱硎顷P(guān)于智能出版活動主體間的關(guān)系，同樣也有廣義和狹義之分。狹義的智能出版?zhèn)惱硎侵赋霭婊顒又械娜伺c智能出版技術(shù)、出版活動中的人與智能出版生態(tài)之間的關(guān)系；廣義的智能出版?zhèn)惱沓税íM義的定義外，還包括智能出版技術(shù)對國家、社會的責(zé)任、安全等使命。

相比人工智能倫理，智能出版?zhèn)惱淼奶匦允怯扇斯ぶ悄芗夹g(shù)應(yīng)用于出版活動而引發(fā)的。正是基于人工智能技術(shù)，智能出版一方面具有先天的發(fā)展優(yōu)勢，另一方面由人工智能技術(shù)引發(fā)出許多不確定性。這種不確定性就是智能出版?zhèn)惱韱栴}的起源，需要回答智能出版應(yīng)該如何規(guī)范化發(fā)展，具體為如何處理智能出版活動中的人與智能出版技術(shù)、智能出版生態(tài)系統(tǒng)等之間的關(guān)系。從倫理主體間的關(guān)系出發(fā)，智能出版?zhèn)惱肀举|(zhì)就是，智能出版活動中的人應(yīng)該做什么、不應(yīng)該做什么，智能出版活動中的人讓智能出版技術(shù)應(yīng)該做什么、不應(yīng)該做什么。 智能出版?zhèn)惱淼摹皯?yīng)該做”與“不應(yīng)該做”，源自道德的社會責(zé)任、出版業(yè)的社會使命，以及智能出版的社會價值。其中，“應(yīng)該做什么”是智能出版活動中的人從文化傳承、知識服務(wù)與智能出版生態(tài)創(chuàng)新的使命出發(fā)，指導(dǎo)智能出版技術(shù)的設(shè)計、開發(fā)和應(yīng)用，使智能出版帶來積極的影響，成為新質(zhì)生產(chǎn)力發(fā)展的重要載體和發(fā)展方向，屬于“正”的一面；“不應(yīng)該做什么”是智能出版活動中的人違背其出版使命，主觀或客觀性地錯誤設(shè)計、開發(fā)與應(yīng)用智能出版技術(shù)，使智能出版產(chǎn)生負面影響，屬于“反”的一面。這兩方面相輔相成、無法分割，共同構(gòu)成了智能出版?zhèn)惱淼谋举|(zhì)內(nèi)涵。

3 風(fēng)險：智能出版技術(shù)的失控、應(yīng)用與管理

智能出版?zhèn)惱盹L(fēng)險由出版活動中的人與智能出版技術(shù)、智能出版生態(tài)間關(guān)系不確定性引發(fā)，表征為智能出版活動效益與人工智能技術(shù)應(yīng)用目的之間的不確定性。那么，產(chǎn)生這種不確定性的原因是什么，又有哪些不確定性？這是應(yīng)對智能出版風(fēng)險真正要探尋的問題。

人工智能研究產(chǎn)出了許多技術(shù)途徑，其中占據(jù)主導(dǎo)地位的兩大途徑是強力法和訓(xùn)練法。強力法利用顯式表達的知識進行推理來解決問題，是可解釋的，其常用的知識表示和推理方法基于形式化邏輯、概率論、決策論規(guī)劃、狀態(tài)空間上的搜索等；訓(xùn)練法利用人工標(biāo)注的數(shù)據(jù)訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)（或其他類型的隱式知識表示模型），用訓(xùn)練好的人工神經(jīng)網(wǎng)絡(luò)來解決問題。深度學(xué)習(xí)是訓(xùn)練法的一個著名例子[10]。一般認為，人工智能技術(shù)強力法和訓(xùn)練法的應(yīng)用場景只要符合封閉性準(zhǔn)則就不存在技術(shù)風(fēng)險，也不存在倫理風(fēng)險。智能出版符合強力法的封閉性準(zhǔn)則有三個條件：（1）影響智能出版應(yīng)用場景的多個因素能簡化為有限確定要素，從而可在一個有限確定的范圍進行設(shè)計；（2）智能出版應(yīng)用場景中的所有影響因素都服從出版領(lǐng)域定律，并用智能出版模型表達出來；（3）智能出版模型符合該應(yīng)用場景的需求、應(yīng)用場合和應(yīng)用條件等所有因素要求。智能出版符合訓(xùn)練法的封閉性準(zhǔn)則同樣“以設(shè)計和評價準(zhǔn)則為出發(fā)點，以結(jié)果導(dǎo)向的方式開展研發(fā)，不需要把握領(lǐng)域定律，只要測試結(jié)果達到了評價準(zhǔn)則的要求就算成功”[11]。然而在實踐中，智能出版的封閉性應(yīng)用場景雖可由強力法和訓(xùn)練法技術(shù)結(jié)合加以解決，但仍然存在不確定性：封閉性準(zhǔn)則下，強力法技術(shù)應(yīng)用中難以找出完整的領(lǐng)域定律，訓(xùn)練法技術(shù)應(yīng)用中具有不可解釋性并缺乏巨大的代表性數(shù)據(jù)集。另外，封閉限制則可能因出現(xiàn)更強大的人工智能技術(shù)而被突破，出現(xiàn)難以控制的技術(shù)風(fēng)險，從而引發(fā)倫理風(fēng)險。除人工智能技術(shù)應(yīng)用于出版業(yè)引發(fā)不確定性之外，還有智能出版活動中的人的主體行為不當(dāng)而引發(fā)的倫理風(fēng)險?；诖?，智能出版?zhèn)惱盹L(fēng)險主要體現(xiàn)為以下三個方面。

3.1 智能出版技術(shù)的失控問題

人工智能技術(shù)失控不是智能出版的專有風(fēng)險，而是人工智能技術(shù)發(fā)展的潛在問題，實質(zhì)是人工智能技術(shù)的主體性倫理風(fēng)險。從發(fā)展歷程來看，人工智能技術(shù)越發(fā)具有類人化與智能性特征，特別是以ChatGPT、文心一言等為代表的大語言模型的成功出圈，引起許多人擔(dān)憂人工智能技術(shù)有可能超越人類的控制能力，并擺脫人類的控制而獨立發(fā)展，甚至反過來控制人類。正如美國當(dāng)代著名技術(shù)哲學(xué)家蘭登·溫納（Langdon Winner）指出，技術(shù)有時并不能服務(wù)于人類，反而會失去控制，甚至?xí)?dǎo)致災(zāi)難。人類對人工智能技術(shù)失控的擔(dān)憂遠勝于其他技術(shù)，這是因為人工智能技術(shù)失控與其他技術(shù)失控之間存在本質(zhì)區(qū)別：其他類型技術(shù)失控多為結(jié)果的不可控，而人工智能技術(shù)失控是人類對技術(shù)控制權(quán)的喪失[12]。對智能出版來說，若有一天發(fā)生人工智能技術(shù)的失控，那么可能出現(xiàn)人類知識存儲、社會歷史等被篡改為有利于人工智能統(tǒng)治的社會文化?？梢钥隙ǖ氖牵軓娏Ψǚ忾]性與訓(xùn)練法封閉性的限制，現(xiàn)階段這類技術(shù)失控的風(fēng)險不可能存在。但未來如果封閉性制約被超級強大的人工智能技術(shù)突破時，就需要應(yīng)對這種技術(shù)失控風(fēng)險。正因如此，當(dāng)前我國智能出版應(yīng)抓住歷史性機遇，研發(fā)符合封閉性準(zhǔn)則的智能出版應(yīng)用場景，并進行大規(guī)模應(yīng)用，實現(xiàn)彎道超車。

3.2 智能出版技術(shù)的應(yīng)用問題

這類問題主要包括技術(shù)誤用、技術(shù)濫用，以及技術(shù)應(yīng)用后產(chǎn)生的社會性負面影響。技術(shù)誤用為無意為之，是在不知道會產(chǎn)生風(fēng)險的情況對人工智能技術(shù)的錯誤應(yīng)用；技術(shù)濫用則為有意為之，是在知道會產(chǎn)生風(fēng)險的情況毫無節(jié)制地應(yīng)用人工智能技術(shù)。對于智能出版來說，這兩種情況都存在。智能出版技術(shù)誤用和濫用引發(fā)的倫理風(fēng)險主要為出版用戶隱私問題、出版內(nèi)容質(zhì)量問題與算法公平問題等。其一，關(guān)于出版用戶隱私問題。大數(shù)據(jù)是人工智能發(fā)揮技術(shù)功能的基礎(chǔ)條件之一，沒有質(zhì)量合格、數(shù)量足夠的出版大數(shù)據(jù)資源，智能出版技術(shù)的運作也就成了“無本之木”，技術(shù)社會價值的發(fā)揮也就無從談起。出版大數(shù)據(jù)是由各類出版信息組成的數(shù)據(jù)集，包含出版物市場信息、出版單位信息和讀者信息等[13]。一方面，出版數(shù)據(jù)越齊全，智能出版技術(shù)就可以更加有效、精準(zhǔn)地運作；但另一方面，技術(shù)本身的商業(yè)屬性及出版大數(shù)據(jù)本身所包含的巨大經(jīng)濟價值，使得在出版大數(shù)據(jù)的采集與使用過程中很有可能發(fā)生用戶信息外泄。其二，關(guān)于出版內(nèi)容質(zhì)量問題，主要包括內(nèi)容失真和碎片化。一方面，出版物是傳播知識的重要載體，其內(nèi)容的正確性關(guān)系著社會公共利益和穩(wěn)定。但無論技術(shù)發(fā)展到什么程度，智能生成內(nèi)容在重組知識時都有可能產(chǎn)生謬誤與偏差，從而導(dǎo)致出版物內(nèi)容失真，以及虛假信息的廣泛傳播；另一方面，智能出版技術(shù)往往基于特定的數(shù)據(jù)模式和用戶行為來生成內(nèi)容，會忽略對整體性和連貫性的考慮，導(dǎo)致出版物內(nèi)容的碎片化和淺顯化。其三，關(guān)于算法公平問題。算法公平指在機器學(xué)習(xí)算法的設(shè)計和應(yīng)用過程中，確保預(yù)測和決策不對特定群體產(chǎn)生不公平的影響。由于日常生活中的數(shù)據(jù)常常包含了人類社會固有的隱性偏見，包括文化、語言和意識形態(tài)偏見，性別和種族偏見，權(quán)威和群體思維偏見及算法自身的偏見[14]，一旦接觸這些數(shù)據(jù)，智能生成內(nèi)容便有可能重復(fù)或加劇這些偏見。

3.3 智能出版技術(shù)的管理問題

智能出版作為數(shù)字出版的高級階段和出版業(yè)的新業(yè)態(tài)，必定對出版產(chǎn)業(yè)升級、對中華優(yōu)秀傳統(tǒng)文化的傳承與弘揚、對提升國家文化軟實力產(chǎn)生深遠影響。然而，目前我國對智能出版還缺乏管理經(jīng)驗，也很難直接從國外借鑒經(jīng)驗。截至目前，我國出臺了《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》《中華人民共和國科學(xué)技術(shù)進步法》等法律，以及《新一代人工智能發(fā)展規(guī)劃》《促進大數(shù)據(jù)發(fā)展行動綱要》《生成式人工智能服務(wù)管理暫行辦法》等文件。這些法律法規(guī)與政策文件為防范智能出版?zhèn)惱盹L(fēng)險提供了基礎(chǔ)工具，但缺乏具有直接性與針對性的防范措施。新中國成立以來，我國出版業(yè)已出臺系列法律法規(guī)、規(guī)章制度及許多政策文件等，如《中華人民共和國著作權(quán)法》《出版管理條例》《印刷業(yè)管理條例》《音像制品管理條例》等，但對智能出版?zhèn)惱砉芾盹@然不適用。2019年8月，科技部等六部門聯(lián)合發(fā)布了《關(guān)于促進文化和科技深度融合的指導(dǎo)意見》，為智能出版的發(fā)展提供了良好的政策環(huán)境。在國外，許多權(quán)威出版機構(gòu)對人工智能的管理政策提出了不同看法，BMJ出版集團指出，如果可以保證內(nèi)容的透明度和合理度，可以考慮使用人工智能生成內(nèi)容[15]；Science、Korean Journal of Radiology等期刊則明令禁止在未經(jīng)許可的情況下使用人工智能生成內(nèi)容。2023年9月，中國科學(xué)技術(shù)信息研究所聯(lián)合Elsevier、Springer Nature、Wiley等國際出版集團共同出臺《學(xué)術(shù)出版中AIGC使用邊界指南》。但總體而言，國內(nèi)外對智能出版都還存在較大的管理政策缺失。智能出版作為新業(yè)態(tài)，其風(fēng)險比以往出版業(yè)態(tài)倫理風(fēng)險更復(fù)雜，因此我國亟須對智能出版風(fēng)險管理問題進行深入探討，提出適合智能出版健康發(fā)展的監(jiān)管措施和管理機制，避免陷入倫理危機。

4 治理：智能出版?zhèn)惱眢w系構(gòu)建

智能出版?zhèn)惱韱栴}的治理是一項系統(tǒng)工程，需要以人工智能倫理治理理論為基礎(chǔ)，結(jié)合智能出版的實際情況，提出系統(tǒng)性的解決方案。目前，人工智能倫理治理已經(jīng)在人工智能技術(shù)發(fā)展的必要性、人工智能倫理準(zhǔn)則這兩個方面基本達成共識。隨著以ChatGPT、文心一言為代表的生成式人工智能技術(shù)的成熟，人工智能倫理體系構(gòu)建成為重要議題。依托人工智能倫理建設(shè)的經(jīng)驗和成果，智能出版?zhèn)惱韱栴}的治理可直接進入體系構(gòu)建階段。

智能出版?zhèn)惱眢w系的構(gòu)建需要弄清楚兩個重要問題，即智能出版?zhèn)惱眢w系作用的對象是什么？智能出版?zhèn)惱眢w系的作用機制是什么？

4.1 智能出版生態(tài)系統(tǒng)

智能出版?zhèn)惱眢w系的作用對象與人工智能出版技術(shù)應(yīng)用于出版的直接目的具有一致性，即促使智能出版生態(tài)系統(tǒng)形成并不斷創(chuàng)新。按照人工智能產(chǎn)業(yè)生態(tài)系統(tǒng)創(chuàng)新的社會需要、研究與應(yīng)用三個環(huán)節(jié)，智能出版生態(tài)系統(tǒng)的形成與發(fā)展以智能出版產(chǎn)業(yè)發(fā)展需要、智能出版技術(shù)應(yīng)用及倫理研究、智能出版的應(yīng)用場景形成循環(huán)演進的閉環(huán)。在這個循環(huán)演進的閉環(huán)中，智能出版產(chǎn)業(yè)的形成與發(fā)展需求推動其技術(shù)應(yīng)用及倫理研究，而成熟的研究成果經(jīng)過產(chǎn)業(yè)化運作實現(xiàn)應(yīng)用場景落地，應(yīng)用場景的實際應(yīng)用又可引發(fā)新的發(fā)展需求，進一步促進智能出版產(chǎn)業(yè)發(fā)展。這正是智能出版?zhèn)惱眢w系作用對象的具體化。而智能出版生態(tài)系統(tǒng)中的應(yīng)用場景包括但不限于選題策劃、內(nèi)容創(chuàng)作、智能編校、智能發(fā)行、智能營銷等環(huán)節(jié)。

4.2 智能出版?zhèn)惱頇C制

厘清了智能出版?zhèn)惱眢w系的作用對象后，再探討智能出版體系的作用機制，這也是其倫理體系的核心部分。探究智能出版?zhèn)惱眢w系的作用機制需要回答兩個問題，即針對智能出版?zhèn)惱韱栴}采用哪些措施？如何發(fā)揮其系統(tǒng)性作用以確保智能出版體系發(fā)揮最大價值？據(jù)此，結(jié)合人工智能倫理體系的基礎(chǔ)架構(gòu)[11]構(gòu)建的智能出版?zhèn)惱眢w系由智能出版生態(tài)系統(tǒng)和智能出版?zhèn)惱頇C制組成。智能出版?zhèn)惱頇C制是核心部分，由智能出版?zhèn)惱硎姑鼘?、?zhǔn)則層與細則層構(gòu)成有機整體（見圖1）。

4.2.1 智能出版?zhèn)惱硎姑?/p>

智能出版?zhèn)惱淼幕臼姑?，與智能出版的社會價值直接相關(guān)，可定義為“為文化傳承、知識服務(wù)和智能出版生態(tài)創(chuàng)新發(fā)展提供倫理支撐”。出版以文化傳承作為本質(zhì)功能和職責(zé)使命。從歷史上看，無論是春秋時期孔子及其弟子編纂《六經(jīng)》，還是近代張元濟主持編?！端牟繀部罚约靶聲r代《復(fù)興文庫》的編纂出版，都充分展示了出版在思想文化傳承與發(fā)展中的基礎(chǔ)性作用。這種對于文化傳承的承載與推動作用，構(gòu)成了出版業(yè)有別于其他文化產(chǎn)業(yè)的核心特征。因此，智能出版?zhèn)惱眢w系要確保智能出版活動在文化傳承、知識服務(wù)和智能出版生態(tài)創(chuàng)新發(fā)展上符合道德準(zhǔn)則和倫理規(guī)范，為智能出版的健康、可持續(xù)發(fā)展提供倫理指引。

4.2.2 智能出版?zhèn)惱頊?zhǔn)則

智能出版準(zhǔn)則是人工智能技術(shù)在出版領(lǐng)域的應(yīng)用規(guī)范，是智能出版基本使命的具體化。隨著人工智能的持續(xù)發(fā)展，全球各國家和地區(qū)、社會組織、行業(yè)紛紛對人工智能的技術(shù)發(fā)展和倫理問題給予高度關(guān)注。據(jù)不完全統(tǒng)計，迄今已有50多個機構(gòu)或組織提出了各自的人工智能倫理準(zhǔn)則[11]。如2017年，全球工會聯(lián)合會出臺《合倫理的人工智能十大原則》[16]；2019年，歐盟出臺《可信賴的人工智能倫理準(zhǔn)則》，中國出臺《新一代人工智能治理原則——發(fā)展負責(zé)任的人工智能》等。從這些倫理準(zhǔn)則的內(nèi)容來看，雖然各個國家文化背景有所不同，但在制度層面的倫理關(guān)注有其共性，即都考慮到了問責(zé)機制、公平、安全性、可控性、隱私保護和社會福祉等要點。這些人工智能倫理準(zhǔn)則為智能出版?zhèn)惱硖峁┝嘶A(chǔ)，特別是我國提出的“增進人類福祉、促進公平公正、保護隱私安全、確?？煽乜尚?、強化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)”[17]等六項基本倫理要求是智能出版需要遵循的基本原則。在這些基本原則基礎(chǔ)上，結(jié)合智能出版自身特點，本文認為，智能出版?zhèn)惱頊?zhǔn)則主要包括堅持主體地位、堅守文化使命、遵守道德規(guī)范、責(zé)權(quán)歸屬明晰、保障讀者權(quán)益。

堅持主體地位，指智能出版應(yīng)該尊重作者在內(nèi)容創(chuàng)作與編輯在出版活動中的主體地位，而不能由人工智能技術(shù)主導(dǎo)出版生產(chǎn)環(huán)節(jié)，替代作者和編輯的身份和職責(zé)。堅守文化使命，指智能出版也應(yīng)回歸出版的本質(zhì)，將傳承文化、積累文化、傳播文化、發(fā)展文化、創(chuàng)造文化作為追求的目標(biāo)[18]，避免利益驅(qū)動下出版大量毫無價值或存在負面價值導(dǎo)向的內(nèi)容。遵守道德規(guī)范，指在開展智能出版活動時，各技術(shù)活動主體具備一定的倫理意識和較高的倫理素養(yǎng)，將“善”的道德觀念作為行動立足點，保證智能出版更好地為社會和人民服務(wù)。責(zé)權(quán)歸屬明晰，指應(yīng)該明確參與智能出版流程的利益相關(guān)者的責(zé)任，明晰責(zé)任關(guān)系歸屬，達成著作權(quán)和署名權(quán)等權(quán)利認定的共識，建立權(quán)責(zé)分明的智能出版風(fēng)險問責(zé)與追責(zé)機制。保障讀者權(quán)益，指智能出版要充分尊重讀者信息知情、同意等權(quán)利，保障其隱私與數(shù)據(jù)安全，不得損害其合法數(shù)據(jù)權(quán)益和侵害隱私權(quán)。

4.2.3 智能出版?zhèn)惱砑殑t

智能出版?zhèn)惱砑殑t又是倫理準(zhǔn)則的具體化，要將其細化為具有針對性、強制性、可操作性的具體規(guī)范。智能出版?zhèn)惱砑殑t的范圍廣泛，只要是為保障智能出版活動健康、有序開展而制定、能具體落實到智能出版應(yīng)用場景中的實施細則，皆可納入其中。在此，著重介紹四類細則。

一是完善智能出版?zhèn)惱矸煞ㄒ?guī)。主管部門可根據(jù)《中華人民共和國數(shù)據(jù)安全法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法律和行政法規(guī)，制定和完善智能出版領(lǐng)域的專項法律法規(guī)，明確智能出版活動各方的權(quán)利、義務(wù)和責(zé)任，保障人與技術(shù)的合法利益。

二是建立智能出版?zhèn)惱肀O(jiān)管機制。主管部門應(yīng)設(shè)立專門的倫理監(jiān)管機構(gòu)，對智能出版活動進行全方位、全過程的監(jiān)督和管理；同時建立針對生成式人工智能技術(shù)風(fēng)險的動態(tài)評估體系，實時關(guān)注并分析相關(guān)倫理風(fēng)險，以確保監(jiān)管機制能夠及時調(diào)整并保持有效性。此外，還應(yīng)鼓勵社會各界參與智能出版?zhèn)惱肀O(jiān)管，建立舉報機制，及時發(fā)現(xiàn)和糾正違反倫理準(zhǔn)則的行為。

三是制定智能出版?zhèn)惱硇袠I(yè)規(guī)定。出版業(yè)內(nèi)的相關(guān)組織和機構(gòu)應(yīng)合作制定出一份行業(yè)內(nèi)普遍認可且具有約束力的智能出版?zhèn)惱硇袠I(yè)規(guī)定，包括但不限于人工智能技術(shù)使用范圍、數(shù)據(jù)使用和保護、用戶權(quán)益保障等，通過強制性的規(guī)定以確保所有參與智能出版活動的組織和個人都能夠遵守和執(zhí)行。

四是構(gòu)建智能出版?zhèn)惱順?biāo)準(zhǔn)體系。要立足于對智能出版的深入理解，厘清智能出版工作中涉及的主體、對象、環(huán)境和流程，確保該標(biāo)準(zhǔn)體系在整體上具有關(guān)聯(lián)性，在實際操作中具備可行性。一方面，應(yīng)在國家標(biāo)準(zhǔn)的基礎(chǔ)上，構(gòu)建包括行業(yè)標(biāo)準(zhǔn)、團體標(biāo)準(zhǔn)及企業(yè)標(biāo)準(zhǔn)在內(nèi)的多層次標(biāo)準(zhǔn)體系。在內(nèi)容上，該類標(biāo)準(zhǔn)宜包含人工智能在出版領(lǐng)域的應(yīng)用邊界、實施流程、主體責(zé)任、風(fēng)險防范舉措等，為智能出版的應(yīng)用制定行為規(guī)則。在團體標(biāo)準(zhǔn)方面，2023年12月20日，中國音像與數(shù)字出版協(xié)會發(fā)布《出版業(yè)生成式人工智能技術(shù)應(yīng)用指南》，為出版機構(gòu)應(yīng)用生成式人工智能技術(shù)提供了重要指導(dǎo)。而在企業(yè)標(biāo)準(zhǔn)方面，各大出版機構(gòu)尚未發(fā)表相關(guān)標(biāo)準(zhǔn)，因此在研發(fā)垂直類大模型的過程中，出版機構(gòu)或其他相關(guān)組織可制定相應(yīng)企業(yè)標(biāo)準(zhǔn)，并通過標(biāo)準(zhǔn)信息公共服務(wù)平臺，向社會公開披露模型功能效果、測試數(shù)據(jù)等關(guān)鍵信息，為國家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)的制定提供實踐依據(jù)。另一方面，標(biāo)準(zhǔn)體系還應(yīng)包括智能出版技術(shù)標(biāo)準(zhǔn)、產(chǎn)品標(biāo)準(zhǔn)與治理標(biāo)準(zhǔn)等。技術(shù)標(biāo)準(zhǔn)應(yīng)以算法、算力和數(shù)據(jù)等技術(shù)為本位，明確擴展現(xiàn)實與算法數(shù)據(jù)、知識圖譜、虛擬現(xiàn)實（VR）、增強現(xiàn)實（AR）等技術(shù)在出版業(yè)中的應(yīng)用規(guī)制；產(chǎn)品標(biāo)準(zhǔn)則應(yīng)關(guān)注智能出版模型或產(chǎn)品的設(shè)計、生產(chǎn)和推廣等全過程，針對某一具體的智能出版模型或產(chǎn)品，如蜜度文修、BooksGPT等，確保服務(wù)質(zhì)量、權(quán)責(zé)明晰和數(shù)據(jù)安全；治理標(biāo)準(zhǔn)則應(yīng)以保障出版內(nèi)容質(zhì)量、保護知識產(chǎn)權(quán)、確保數(shù)據(jù)安全、防范技術(shù)風(fēng)險為核心，制定智能出版內(nèi)容審核標(biāo)準(zhǔn)、數(shù)據(jù)安全標(biāo)準(zhǔn)、知識產(chǎn)權(quán)保護標(biāo)準(zhǔn)、風(fēng)險評估與應(yīng)對標(biāo)準(zhǔn)等，如2019年國際保護知識產(chǎn)權(quán)協(xié)會（AIPPI）發(fā)布的《人工智能生成物的版權(quán)問題決議》對人工智能生成物的版權(quán)進行了說明和限制。

需注意的是，制定智能出版?zhèn)惱砑殑t應(yīng)充分參考和借鑒國際標(biāo)準(zhǔn)和實踐經(jīng)驗，不可閉門造車。全球人工智能倫理治理已經(jīng)從原則共識走向了治理實踐。聯(lián)合國教科文組織在2021年11月發(fā)布《人工智能倫理問題建議書》，標(biāo)志著全球倫理治理達成了政府間最廣泛的倫理共識，它是全球人工智能發(fā)展的共同綱領(lǐng)，將為進一步形成人工智能有關(guān)的國際標(biāo)準(zhǔn)、國際法等提供強有力的參考。我國的倫理治理也在不斷呈現(xiàn)制度化、法律化的趨勢。例如，我國已經(jīng)組建國家科技倫理委員會，負責(zé)指導(dǎo)和統(tǒng)籌協(xié)調(diào)推進全國科技倫理治理體系建設(shè)工作。2022年，中共中央辦公廳、國務(wù)院辦公廳印發(fā)《關(guān)于加強科技倫理治理的意見》，對落實科技倫理治理作出了頂層設(shè)計和全面部署。具體的法律法規(guī)和規(guī)范性文件，如《中華人民共和國數(shù)據(jù)安全法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》等，則對數(shù)據(jù)和算法活動提出了科技倫理治理的要求和措施。可見，這些具有相對普適性的倫理細則為智能出版?zhèn)惱砑殑t的制定提供了參照和依據(jù)。前文提到的《學(xué)術(shù)出版中AIGC使用邊界指南》對學(xué)術(shù)出版中人工智能生成內(nèi)容的使用邊界、標(biāo)注、責(zé)任劃分等問題展開詳細研究，并為相關(guān)利益主體提供規(guī)范的使用指導(dǎo)。除此之外，我國智能出版?zhèn)惱砑殑t還不多見，但可預(yù)見，隨著智能出版的發(fā)展，相應(yīng)的倫理細則會逐漸涌現(xiàn)。

5 結(jié)語

2022年4月，中共中央宣傳部印發(fā)《關(guān)于推動出版深度融合發(fā)展的實施意見》明確指出要“充分發(fā)揮技術(shù)支撐作用”，“強化大數(shù)據(jù)、云計算、人工智能、區(qū)塊鏈等技術(shù)應(yīng)用，創(chuàng)新驅(qū)動出版深度融合發(fā)展”[19]，這為智能出版的蓬勃發(fā)展提供了良好的政策環(huán)境。在政策導(dǎo)向與技術(shù)賦能的雙重加持下，智能出版必將迎來繁榮興盛期，助力我國出版業(yè)數(shù)字化轉(zhuǎn)型升級、高質(zhì)量發(fā)展與出版強國建設(shè)。在智能出版的快速發(fā)展過程中，現(xiàn)存的和潛在的倫理風(fēng)險不可忽視。應(yīng)對智能出版?zhèn)惱盹L(fēng)險，需要構(gòu)建智能出版?zhèn)惱眢w系，協(xié)同使用法律法規(guī)、行業(yè)規(guī)范、技術(shù)等多種治理手段，也需要政府機構(gòu)、出版行業(yè)、科研機構(gòu)及社會組織等多元主體共同參與。

為了確保智能出版的健康發(fā)展，只有探尋智能出版?zhèn)惱韱栴}的深層邏輯，從智能出版?zhèn)惱硎姑?zhǔn)則與實施細則三個層面落實智能出版?zhèn)惱眢w系構(gòu)建，才能應(yīng)對智能出版帶來的倫理挑戰(zhàn)，構(gòu)建人與技術(shù)的良性關(guān)系，真正實現(xiàn)人工智能技術(shù)在出版領(lǐng)域的向善發(fā)展。智能出版?zhèn)惱硌芯渴且粋€動態(tài)過程，隨著技術(shù)的不斷進步和社會價值觀的變化，需要不斷更新和完善智能出版?zhèn)惱韱栴}的相關(guān)研究。同時，也要積極借鑒國際經(jīng)驗，加強國際合作，共同推動智能出版?zhèn)惱淼难芯亢蛯嵺`。

作者簡介

吳亮芳，女，博士，湖南師范大學(xué)新聞與傳播學(xué)院副教授、碩士生導(dǎo)師，湖南師范大學(xué)文化和旅游研究院副院長。研究方向：數(shù)字出版、文化產(chǎn)業(yè)融合與新業(yè)態(tài)、文化治理與跨文化傳播。

羅群群，女，湖南師范大學(xué)新聞與傳播學(xué)院碩士研究生。研究方向：數(shù)字出版。

趙星宇，女，湖南師范大學(xué)新聞與傳播學(xué)院碩士研究生。研究方向：數(shù)字出版。

參考文獻

朱李莉，盧冰原，彭揚.網(wǎng)絡(luò)出版的電子商務(wù)智能模型的研究[J].價值工程，2005（7）：71-73.

劉華東，馬維娜，張新新.“出版+人工智能”：智能出版流程再造[J].出版廣角，2018（1）：14-16.

宋偉，劉禹希，王金金.智能出版：開啟后數(shù)字出版新業(yè)態(tài)[J].傳媒觀察，2018（8）：24-29.

劉寧，周宇豪.智能出版的技術(shù)圖景：產(chǎn)業(yè)鏈、倫理困境與紓解路徑[J].出版廣角，2023（19）：54-58.

劉海明，馬皖雪.ChatGPT應(yīng)用于數(shù)字出版的倫理風(fēng)險與倫理原則[J].數(shù)字出版研究，2023，2（2）：21-26.

吳煒華，黃珩.智能創(chuàng)作、深度融入與倫理危機：ChatGPT在數(shù)字出版行業(yè)的應(yīng)用前景新探[J].中國編輯，2023（6）：40-44.

李華君，雷月秋.智能出版的技術(shù)特征、倫理風(fēng)險與編輯把關(guān)[J].中國編輯，2024（1）：33-37，48.

張萍，張小強.機器參與論文寫作的出版?zhèn)惱盹L(fēng)險與防范對策[J].中國科技期刊研究，2022（4）：439-449.

莫宏偉，徐立芳.人工智能倫理導(dǎo)論[M].西安：西安電子科技大學(xué)出版社，2023：2-3，15.

陳小平.人工智能中的封閉性和強封閉性：現(xiàn)有成果的能力邊界、應(yīng)用條件和倫理風(fēng)險[J].智能系統(tǒng)學(xué)報，2020（1）：114-120.

陳小平.人工智能倫理導(dǎo)引[M].北京：中國科學(xué)技術(shù)出版社，2021：10，14，224.

李勝疆.人工智能技術(shù)發(fā)展的內(nèi)在風(fēng)險及三級防范機制[J].科技廣場，2020（3）：63-71.

吳亮芳，羅紫初.論出版信息資源的概念、類型及特點[J].出版科學(xué)，2012（2）：44-48.

郭小東.生成式人工智能的風(fēng)險及其包容性法律治理[J].北京理工大學(xué)學(xué)報（社會科學(xué)版），2023（6）：1-18.

MACDONALD H， ABBASI K. Riding the whirlwind： BMJ’s policy on artificial intelligence in scientific publishing[J].BMJ，2023（382）：1923.

白鈞溢.教育人工智能倫理治理：現(xiàn)實挑戰(zhàn)與實現(xiàn)路徑[J].重慶高教研究，2024，12（2）：37-47.

中華人民共和國科學(xué)技術(shù)部.《新一代人工智能倫理規(guī)范》發(fā)布[EB/OL].（2021-09-26）[2024-07-30]. https：//www.most.gov.cn/kjbgz/202109/t20210926_177063.html.

聶震寧，謝迪南.文化：出版的本質(zhì)，出版企業(yè)的終極目標(biāo)[N].中國圖書商報，2007-04-17（2）.

中共中央宣傳部. 中共中央宣傳部印發(fā)《關(guān)于推動出版深度融合發(fā)展的實施意見》的通知[EB/OL].（2022-04-24）[2024-07-30]. https：//www.nppa.gov.cn/xxfb/tzgs/202204/t20220424_666332.html.

Research on Essence， Risks and Governance of Intelligent Publishing Ethics

WU Liangfang1， 2， LUO Qunqun1， ZHAO Xingyu1

1. School of Journalism and Communication， Hunan Normal University， 410081， Changsha， China;

2. Institute of Culture and Tourism， Hunan Normal University， 410081， Changsha， China.

Abstract： Intelligent publishing is a new publishing mode developed by integration of artificial intelligence technology and publishing industry， and it is an advanced stage of digital publishing development. It has inherent technological advantages， but there are still uncertainties caused by technology， which lead to ethical problems. Therefore， it is necessary to figure out how to realize standardized development of intelligent publishing， that is， what should be done and not done. According to the uncertainty caused by improper behavior of human subjects and application of intelligent publishing technology in intelligent publishing activities， ethical risks of intelligent publishing include the out-of-control development， misuse and abuse of technology and their negative impacts， and other problems caused by improper or insufficient management. Given these existing or potential ethical risks， it is necessary to build an ethical system of intelligent publishing， to form an organism through its ethical mission， guidelines and detailed rules， playing a systematic mechanism to maximize the development of artificial intelligence technology in publishing industry and promote ecological innovation of intelligent publishing.

Keywords： Intelligent publishing; Publishing ethics; Artificial intelligence; Governance; Ethical risk