ChatGPT在編輯出版領域的應用會引發(fā)的倫理風險研究

摘要：【目的】探索ChatGPT在編輯出版領域的應用會引發(fā)的倫理風險，并給出應對的措施，使用戶更規(guī)范地使用ChatGPT，從而提高工作效率和寫作效率。【方法】通過分析ChatGPT在編輯出版領域的應用，剖析它在應用過程中引發(fā)的倫理風險與挑戰(zhàn)?！窘Y果/結論】規(guī)范使用ChatGPT，既可以提高出版物的質量和生產(chǎn)效率，還可以為讀者提供更加智能的閱讀體驗。

關鍵詞：ChatGPT；編輯出版；倫理風險? ? ? ? ? ? ? 中圖分類號：G206? ? ? ? ? 文獻標識碼：A

文章編號：1671-0134（2024）01-079-04? ? ? ? ?DOI：10.19483/j.cnki.11-4653/n.2024.01.015

本文著錄格式：馬曉彥. ChatGPT在編輯出版領域的應用會引發(fā)的倫理風險研究[J].中國傳媒科技，2024，31（1）：79-82.

1.ChatGPT概述

1.1? ?ChatGPT的優(yōu)勢

ChatGPT（生成式預訓練轉化模型）是一種利用AI（人工智能）技術進行自然語言處理的應用程序，使用了Transformer神經(jīng)網(wǎng)絡架構，具有語言理解和文本生成能力，尤其是會通過連接大量的語料庫來訓練模型，這些語料庫包含了真實世界中的對話，使得ChatGPT具備上知天文下曉地理，并且能夠根據(jù)聊天內容與人類進行近乎無障礙的對話和交流的能力。另外，ChatGPT還能夠完成人類下達的論文翻譯、書稿寫作、代碼編寫等任務。

ChatGPT受到廣泛關注的關鍵在于其引入了RLHF（基于人類反饋的強化學習）技術。該技術有效解決了生成模型的核心問題，即確保AI模型的輸出與人類的常識、認知、需求、價值觀相契合。[1]因此，ChatGPT在理解對話的語義、語境和生成自然語言方面，相較于其他聊天機器人性能更加出色。ChatGPT極大地推動了AI的發(fā)展，AI接近或超越人類的時代或許即將到來，勢必對教育、文學、出版、科技等領域產(chǎn)生深刻的影響。

1.2? ?ChatGPT的發(fā)展歷程

ChatGPT的發(fā)展可以追溯到2015年第一代聊天機器人——小冰的推出，這促使許多科技公司紛紛開始研發(fā)并廣泛應用這類基于深度學習算法和自然語言處理技術的聊天機器人，例如Facebook、messenger等。2018年，OpenAI公司開發(fā)GPT-1，經(jīng)過如圖1所示的三個階段的發(fā)展[2]，終于在2022年11月底，通過采用RLHF技術實現(xiàn)了重大突破，即AI對話聊天機器人ChatGPT推出，它被描述為優(yōu)化對話的語言模型，是GPT-3.5架構的主力模型。2023年3月15日，OpenAI正式發(fā)布了ChatGPT-4.0。這一版本的模型屬于多模態(tài)大模型，能夠同時處理圖像和文本輸入，具備出色的圖像識別能力，同時允許用戶輸入的文字數(shù)量的限制提升到了2.5萬字。

2.ChatGPT在編輯出版領域的應用

2.1? ?幫助作者生成內容資源

ChatGPT可以為作者提供多種幫助，例如：通過對話交流的方式，激發(fā)作者的創(chuàng)作靈感，啟發(fā)作者的寫作思路，并為作者提供多樣化的備選方案；通過人機協(xié)同創(chuàng)作的方式，提高作者的寫作效率，還可以幫助作者完成文本翻譯、潤色、修改等工作[3]，等等。

ChatGPT-4.0所生成的書稿或文章更加精準、清晰且不失趣味性。此外，相較于早期版本，ChatGPT-4.0在語法復雜性方面有了顯著提升，即若將某人的語法風格和錯誤模式植入ChatGPT-4.0，它便能夠模仿并生成相應的文章，并展現(xiàn)出特有的個人風格和語法錯誤。

2.2? ?輔助進行圖書策劃

AI技術能夠迅速對海量數(shù)據(jù)進行分析和處理，讓出版社能夠更精準地了解讀者的需求與市場趨勢，在充分考慮市場需求、讀者喜好和市場競爭等因素的情況下，對未來出版市場進行更準確的預測，并進行有效決策。出版社在進行圖書選題策劃前可以借助ChatGPT對歷史數(shù)據(jù)進行分析，推薦具有潛力和競爭力的選題策劃方向，確定目標市場和目標客戶群，從而為出版社帶來更大的市場份額。另外，在選題方向確定后，ChatGPT能夠基于圖書的目標市場定位，創(chuàng)造性地生成與定位相匹配的內容選題。同時，它還能自動構建具備邏輯性的目錄結構或提供有深度的思考路徑，從而有效地協(xié)助作者優(yōu)化篇章結構，使圖書內容更加清晰有序。[4]

2.3? ?幫助編輯進行內容資源的審校和編輯加工

對出版社而言，ChatGPT可以幫助編輯和校對人員進行文本審查和校對。使用ChatGPT，編輯和校對人員可以采用編校軟件更加高效地進行書稿審查和校對，減少常見錯誤和工作量，降低差錯率。同時編校人員也可以通過信息反饋來逐步完善編校軟件的?？辟Y源庫，從而提高編校軟件的工作效率和校對準確率。編校人員還可以通過參考文獻校對軟件來核查參考文獻是否正確，包括格式和信息的正誤。該軟件采用國家標準規(guī)定的參考文獻格式，通過鏈接知網(wǎng)、維普等數(shù)據(jù)庫，對參考文獻信息和格式進行核實和修改，大大減輕了編校人員的工作量，提高了編校質量和編校效率。[4]

此外，ChatGPT還可以協(xié)助編輯進行文本編輯和排版，提高出版物的質量和生產(chǎn)效率。通過ChatGPT的智能算法和自然語言處理能力，編輯或者排版人員可以輕松實現(xiàn)書稿的美觀排版，以滿足讀者閱讀的舒適性和愉悅性要求。不僅如此，ChatGPT還能根據(jù)不同的文體和讀者需求，靈活調整排版風格，使圖書更具個性和專業(yè)性。

2.4? ?為讀者提供智能的閱讀體驗

對于讀者而言，ChatGPT可以提供更加智能的閱讀體驗。主要表現(xiàn)在以下幾個方面。

（1）個性化閱讀推薦。ChatGPT既可以根據(jù)讀者的閱讀記錄，又可以通過與作者對話了解讀者的閱讀興趣和閱讀喜好，從而為他們進行圖書推薦。

（2）閱讀指南和解讀。對于一些有較高難度的作品，讀者在理解上有一定的難度，可能需要額外的解釋和指導，ChatGPT可以充當閱讀指南，為作者答疑解惑。

（3）虛擬閱讀伙伴。ChatGPT可以充當虛擬閱讀伙伴，與讀者分享閱讀體驗，如討論書中的情節(jié)和主題等，使閱讀更有趣。

（4）閱讀評價與討論。ChatGPT可以與讀者一起對讀過的書發(fā)表自己的評論，從而促進與讀者之間的交流溝通。

3. ChatGPT在編輯出版領域引發(fā)的倫理風險與挑戰(zhàn)

ChatGPT只有基于大量的數(shù)據(jù)訓練才能得到較好的結果，因此對于小型出版社和大多數(shù)作者來說由于訓練數(shù)據(jù)有限，可能不會取得很好的效果。另外，機器本身無法理解問題的真實含義，無法做出像人類一樣的判斷。因此，在編輯出版領域，ChatGPT可以輔助編輯出版領域工作人員提高工作效率，但目前不具備完全取代他們工作的能力。隨著ChatGPT在編輯出版領域的應用，暴露出很多新的挑戰(zhàn)和問題。

3.1? ?剽竊行為更加隱蔽

ChatGPT是基于大量數(shù)據(jù)訓練的，且數(shù)據(jù)的串聯(lián)和使用是隨機的，所以在用戶分次輸入相同指令時，會得到不同的答案。也就是說，不同的用戶向ChatGPT輸入相同的指令，它會給出不同的結果。因此，在編輯出版領域使用ChatGPT時，不同的作者即使做相同的研究方向，ChatGPT也會高效率地給出不同的學術論文或學術專著，使得剽竊效率更高，更難以被發(fā)現(xiàn)[5]。

2022年12月27日，美國西北大學的Catherine Gao領導的研究團隊使用ChatGPT來生成研究論文摘要，研究團隊要求ChatGPT根據(jù)發(fā)表在《美國醫(yī)學會雜志》《新英格蘭醫(yī)學雜志》《英國醫(yī)學雜志》《柳葉刀》《自然醫(yī)學》這5個頂級醫(yī)學期刊上精選的論文來撰寫50篇醫(yī)學研究摘要。然后，研究團隊通過論文剽竊檢測器和AI輸出檢測器將這些摘要與原始摘要進行比較，并要求一組醫(yī)學研究人員找出哪些是ChatGPT所編造的摘要。結果ChatGPT所編寫的摘要順利地通過了論文剽竊檢測器的檢查，原創(chuàng)性得分為100%。AI輸出檢測器發(fā)現(xiàn)了33篇（識別率為66%）由ChatGPT所編造的摘要，而醫(yī)學研究人員也只正確識別了34篇（識別率為68%）由ChatGPT所編造的摘要和86%的原始論文摘要。這意味著，ChatGPT在編造研究論文摘要方面，達到了人類專家難辨真假的程度。

3.2? ?知識產(chǎn)權認定存在難度

用戶在使用ChatGPT進行知識問答，或者使用ChatGPT進行著作或者論文代寫時，它所使用的涉及不同語種、不同地域、不同學科的知識內容的使用和歸屬問題值得思考，如是否可以隨意使用人類可獲得的所有知識，生成的文章和著作的著作權如何界定等一系列問題。[6]例如：國內外多家權威學術期刊紛紛發(fā)表聲明，在學術論文撰寫中全面禁止或嚴格限制使用ChatGPT等AI機器人，以維護學術研究的嚴謹性和原創(chuàng)性；代表14萬多名作家和表演者的42家德國協(xié)會和工會也對歐盟提出強烈建議，要求加強對人工智能（AI）規(guī)則草案的監(jiān)管，因為他們認為ChatGPT等AI工具對他們的版權構成了威脅，需要得到更多的法律保護。可見，在使用ChatGPT進行知識服務時，可能會存在侵權問題。

3.3? ?知識的準確性和權威性無法保證

一位澳洲國立大學華人留學生在使用ChatGPT代寫論文時，由于AI給出了一些不存在的文獻，被教授發(fā)現(xiàn)并被邀請參加聽證會。2023年5月16日，《放射學》出版，加拿大科學家在雜志上刊登新論文稱，最新版本的ChatGPT通過了美國放射學委員會的考試，突出了大型語言模型的潛力，但它也給出了一些錯誤答案，表明人們仍需對其提供的答案進行核查。這些例證說明ChatGPT可能會向人們提供虛假信息。根據(jù)美國新聞可信度評估機構News Guard的聯(lián)合執(zhí)行官格洛維茨的觀點，ChatGPT有潛力演變?yōu)樽曰ヂ?lián)網(wǎng)誕生以來最強大的虛假信息傳播工具。

首先，使用ChatGPT生成的參考文獻可能是假的。由于ChatGPT是基于大量數(shù)據(jù)進行訓練的，而其他文獻中的參考文獻數(shù)據(jù)可能本身就是錯誤的，這樣生成的參考文獻就是錯誤的。這樣的參考文獻不僅會影響信息傳播和論文的質量，還可能會被檢測出來，導致學術不端的指控。

其次，使用ChatGPT寫論文容易捏造事實。[7]由于ChatGPT是基于大量數(shù)據(jù)進行訓練的，如果訓練數(shù)據(jù)中包含錯誤信息，它生成的內容就有可能會包含錯誤的信息或者不準確的數(shù)據(jù)。如果沒有進行充分的核實和驗證就直接使用ChatGPT寫作，可能會影響論文的可信度和學術價值，還可能會使錯誤的結論或者不實的數(shù)據(jù)在學術界傳播，更有甚者可能會影響社會的進步和發(fā)展。

3.4? ?算法歧視和隱私暴露風險

雖然ChatGPT可以給人類帶來更加智能化的體驗，但是在理解和應用知識方面的智能化程度依然有限。在首批用戶測試中，ChatGPT甚至出現(xiàn)了辱罵用戶、誘導用戶離婚等言論?？梢?，一旦訓練語料庫中包含有害的、錯誤的言論時，AI習得后所做出的有害行為，將進一步加劇算法偏見和歧視。[8]

另外，ChatGPT在訓練過程中，并未對隱私問題、敏感問題、涉密信息等進行標注，所以用戶在使用ChatGPT獲取知識服務時，它提供的答案可能包括一些受到《著作權法》保護的作品，也可能會侵犯個人隱私，甚至會暴露組織機密和國家機密。

在編輯出版領域，若ChatGPT的訓練語料庫中包含粗俗語言、負面的價值觀引導語言、敏感信息等不當言論，或者侵犯著作權的信息或涉密信息等，出版社或者期刊社在審稿過程中未及時發(fā)現(xiàn)，有可能引發(fā)政治風險或者觸犯國家相關的法律法規(guī)。

4.對策與建議

4.1? ?規(guī)范ChatGPT在編輯出版領域的應用

ChatGPT的學術寫作功能受到很多學者的青睞，不少學者開始嘗試將其應用于學術論文或著作的創(chuàng)作中，但是這一趨勢引發(fā)了一些關注和爭議。在國外編輯出版領域，針對使用ChatGPT等AI工具進行學術寫作的情況，美國《科學》雜志明確表示，他們不會接受任何直接由ChatGPT等AI工具生成的文本、數(shù)字和圖像作為學術論文的內容；在國內編輯出版領域，《暨南學報（哲學社會科學版）》《天津師范大學學報（基礎教育版）》等期刊也對此類AI技術制定了相應的規(guī)范和說明，以確保學術研究的嚴謹性和規(guī)范性。

黨的二十大報告明確提出：“推動戰(zhàn)略性新興產(chǎn)業(yè)融合集群發(fā)展，構建新一代信息技術、AI、生物技術、新能源、新材料、高端裝備、綠色環(huán)保等一批新的增長引擎。”可見，ChatGPT作為AI領域的最新成果，如果能夠依法合規(guī)并正確地使用，將有助于推動形成新的經(jīng)濟增長點。在編輯出版領域，ChatGPT在輔助進行論文和著作文獻綜述撰寫等方面展現(xiàn)出了明顯的優(yōu)勢，有觀點認為，利用ChatGPT 輔助完成論文和著作寫作及相關科學研究可能會成為一種必然趨勢。[9]因此，我們應該考慮如何規(guī)范ChatGPT 在編輯出版領域的應用，以確保其充分發(fā)揮潛力，而不是簡單地選擇完全禁止使用。在進行論文發(fā)表或者著作出版時，可以在出版合同中增加相應的制約條款，即在合同中，作者必須明確標示是否在論文或著作中使用了ChatGPT，以及具體使用方式和使用范圍，并承擔法律和學術責任，確保研究成果的準確性、原創(chuàng)性和科學性。

4.2? ?建立相關的制度保障

在2023年5月11日，歐洲議會的內部市場委員會和公民自由委員會以壓倒性的84票贊成通過了《人工智能法》的談判授權草案。這個草案的主要目標是構建一個全面的法律框架，以確保AI系統(tǒng)在歐盟的開發(fā)和部署能在受到監(jiān)督的情況下進行。在內容監(jiān)管方面，歐洲議會希望通過立法強制AI系統(tǒng)的供應商對非法內容進行管控，并要求公開開發(fā)算法過程中使用的受版權保護的數(shù)據(jù)。

我國政府對AI技術的監(jiān)管及其在網(wǎng)絡傳播中的治理高度重視，為了推動GenAI的良性發(fā)展和規(guī)范應用，確保國家安全和社會公共利益，全面保障公民、法人和其他組織的合法權益，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局七部門發(fā)布了《生成式人工智能服務管理暫行辦法》，并于2023年 8 月 15 日起正式實施。[10]該辦法為GenAI服務的提供者設定了明確的責任和義務。根據(jù)該辦法第九條的規(guī)定，提供者不僅需要依法肩負起網(wǎng)絡信息內容的生產(chǎn)者責任，而且需要嚴格履行網(wǎng)絡信息安全的義務，特別是當涉及個人信息時，他們還需要履行個人信息處理者責任和個人信息保護義務。此外，提供者還需要與GenAI服務的使用者簽訂詳細的服務協(xié)議，明確雙方的權利和義務，以構建和諧、穩(wěn)定的服務與被服務關系。這一辦法的頒布和實施，無疑會對我國 GenAI產(chǎn)業(yè)的健康發(fā)展產(chǎn)生積極的推動效應。

編輯出版領域需對ChatGPT 的具體應用及管理規(guī)則進行細化，以防止故意剽竊、隱私侵犯、著作權侵犯、傳播虛假信息等惡意行為的滋生。同時，也要預防因ChatGPT引發(fā)的出版?zhèn)惱韱栴}而導致出版機構走向“一刀切”的極端做法。雖然 ChatGPT 自身并不能夠一概與“剽竊”畫等號，但是有剽竊動機的用戶能夠借助 ChatGPT 來達到自身目的，從而使剽竊行為變得更隱蔽，很難被發(fā)現(xiàn)。從著作權的角度來看，ChatGPT的著作權之爭在我國尚處于理論探討階段，尚未形成一致定論并體現(xiàn)在立法層面。在 ChatGPT著作權歸屬上沒有形成共識、剽竊風險沒有得到有效監(jiān)督的情況下，其應用對出版機構來說可能風險大于效益。因此，現(xiàn)階段需慎重使用ChatGPT 。

結語

ChatGPT 及以 ChatGPT 為代表的GenAI的快速興起是AI領域的一次重大變革，給編輯出版領域也帶來了新現(xiàn)象和新問題。ChatGPT 的語料庫包含大量的數(shù)據(jù)信息，為論文和著作撰寫，或者提供相關知識服務提供了便利，但是其語料庫中也可能包括錯誤信息、敏感信息、涉密信息、隱私信息，以及具有負面價值觀引導性的語言等內容知識，使生成的內容可能存在虛假信息、敏感或涉密信息等，從而引發(fā)政治問題和侵權行為，甚至可能給科學發(fā)展造成負面影響。但是綜合來看，ChatGPT在編輯出版領域的應用前景應該是廣泛的，它既可以幫助出版社、作者與讀者之間實現(xiàn)更好的交流和互動，又可以提高出版物的質量和生產(chǎn)效率，還可以為讀者提供更加智能的閱讀體驗。雖然其在編輯出版領域的應用還存在一些挑戰(zhàn)和限制，但是隨著ChatGPT在語言模型和智能交互方面的發(fā)展，它將更加智能化、快速化和安全化，以上存在的問題也將逐步得到逐步解決。

參考文獻

[1] 郭全中，張金熠.ChatGPT的技術特征與應用前景[J].中國傳媒科技，2023（1）：159-160.

[2] 尚智叢，閆禹宏.ChatGPT教育應用及其帶來的變革與倫理挑戰(zhàn)[J].東北師大學報（哲學社會科學版），2023（5）：44-54.

[3] 宋時磊，楊逸云.應用場景、風險與前景：ChatGPT類大語言模型時代的學術出版[J].出版科學，2023（5）：76-84.

[4] 徐敬宏，張如坤.ChatGPT 在編輯出版行業(yè)的應用：機遇、挑戰(zhàn)與對策[J].中國編輯，2023（5）：116-122.

[5] 匡文波，姜澤瑋.ChatGPT 在編輯出版中的應用、風險與規(guī)制[J].中國編輯，2023（9）：9.

[6] 王遷.論人工智能生成的內容在著作權法中的定性[J].法律科學（西北政法大學學報），2017（5）：148-155.

[7] 鮑磊，楊靜，趙文渲.人工智能機器人ChatGPT 引發(fā)的問題及其對策研究[J].河北軟件職業(yè)技術學院學報，2023（3）：76-80.

[8] 劉霜，張瀟月.生成式人工智能數(shù)據(jù)風險的法律保護與規(guī)制研究：以ChatGPT潛在數(shù)據(jù)風險為例[J].貴州大學學報（社會科學版），2023（5）：87-97.

[9] 焦麗珍.人工智能時代期刊編輯數(shù)字素養(yǎng)的內涵、特征及培育路徑：基于 ChatGPT 的視角[J].信陽師范學院學報（哲學社會科學版），2023（5）：80-85.

[10] 張瓊方，汪齊齊.數(shù)字經(jīng)濟時代 人工智能法律問題初探[J].數(shù)字經(jīng)濟，2023（5）：17-21.

作者簡介：馬曉彥（1984-），女，江蘇徐州，碩士研究生，中國礦業(yè)大學出版社煤炭教育中心編輯、副主任，研究方向為安全管理類、煤炭教育培訓類及科技類圖書的策劃和編輯出版。

（責任編輯：李艷松）