ChatGPT在社科期刊中的應(yīng)用與風(fēng)險(xiǎn)防范

【摘 要】隨著ChatGPT等生成式人工智能的興起，其在學(xué)術(shù)研究、期刊發(fā)展等領(lǐng)域中的應(yīng)用越來越廣泛。本文從ChatGPT在社科期刊中的應(yīng)用入手，探索其在應(yīng)用過程中存在的風(fēng)險(xiǎn)，包括數(shù)據(jù)隱私與倫理問題、內(nèi)容質(zhì)量與學(xué)術(shù)誠(chéng)信風(fēng)險(xiǎn)、技術(shù)依賴與職業(yè)發(fā)展受限等。基于此，提出相應(yīng)的防范措施：建立完善的數(shù)據(jù)保護(hù)機(jī)制、強(qiáng)化內(nèi)容審核與監(jiān)管、培養(yǎng)專業(yè)人才隊(duì)伍等。

【關(guān)鍵詞】ChatGPT；人工智能；社科期刊；輔助寫作；風(fēng)險(xiǎn)防范

自20世紀(jì)末以來，互聯(lián)網(wǎng)和數(shù)字技術(shù)的快速發(fā)展推動(dòng)了全球信息傳播的革命性變革。社科期刊作為社會(huì)科學(xué)研究成果的重要傳播渠道，其受眾群體、內(nèi)容形式、傳播方式等也在發(fā)生深刻變化[1]。一方面，讀者對(duì)于內(nèi)容的需求越來越多元化、個(gè)性化，傳統(tǒng)的、單一的期刊內(nèi)容已難以滿足讀者的需求；另一方面，大數(shù)據(jù)以及ChatGPT等生成式人工智能出現(xiàn)與應(yīng)用為社科期刊提供了豐富的數(shù)據(jù)資源和技術(shù)支持，社科期刊迎來了新的發(fā)展機(jī)遇與挑戰(zhàn)。因此，ChatGPT在社科期刊中的應(yīng)用與風(fēng)險(xiǎn)防范逐漸成為學(xué)術(shù)界和業(yè)界關(guān)注的焦點(diǎn)。

一、ChatGPT在社科期刊中的應(yīng)用

（一）內(nèi)容生成與輔助寫作

在社科期刊的內(nèi)容生成和輔助寫作方面，ChatGPT主要應(yīng)用于選題策劃環(huán)節(jié)。在期刊選題策劃中，ChatGPT可以根據(jù)社會(huì)熱點(diǎn)、學(xué)術(shù)前沿等生成一些選題建議，供編輯參考，這些建議可以從多個(gè)維度提供思路，如結(jié)合當(dāng)前政治經(jīng)濟(jì)議題，提出相關(guān)的選題設(shè)想；根據(jù)最新的國(guó)內(nèi)外研究動(dòng)向，推薦一些原創(chuàng)性課題；甚至可以根據(jù)數(shù)據(jù)挖掘和情報(bào)分析等，找出某些社會(huì)問題背后的學(xué)術(shù)問題，這些建議的新穎性與前瞻性較強(qiáng)。編輯可以借此拓展思路，從更多視角審視這些選題，并結(jié)合期刊定位、讀者特點(diǎn)，篩選出其中有價(jià)值的選題方向，這不僅可以豐富期刊題材，還使版面內(nèi)容更符合用戶訴求。例如，ChatGPT可以跟蹤當(dāng)前環(huán)境污染、收入分配等熱門社會(huì)話題，推薦一些選題思路，如環(huán)境污染對(duì)兒童身心發(fā)展的影響，收入差距對(duì)社會(huì)向心力的沖擊等。編輯可以在此基礎(chǔ)上，考量是否適合本刊讀者特征，選擇合適題材。此外，ChatGPT也可以根據(jù)機(jī)器學(xué)習(xí)、大數(shù)據(jù)分析等前沿技術(shù)，為編輯提供交叉學(xué)科的選題方向[2]。

（二）編輯工具與審稿輔助

ChatGPT作為一種強(qiáng)大的自然語言處理工具，其編輯工具與審稿輔助功能在社科期刊中扮演著重要角色，不僅可以提高編輯工作的效率，還可以輔助其確保論文質(zhì)量和準(zhǔn)確性，在社科期刊中的應(yīng)用具有巨大潛力。其一，文稿格式檢查與修正。在文稿錄用前，編輯人員可以利用ChatGPT自動(dòng)掃描稿件內(nèi)容，檢驗(yàn)論文結(jié)構(gòu)、段落格式、參考文獻(xiàn)匹配度等情況。同時(shí)，ChatGPT可以通過生成編輯建議，協(xié)助作者修改不規(guī)范的引用標(biāo)注、圖表標(biāo)號(hào)、統(tǒng)計(jì)表示等問題，確保文稿符合目標(biāo)刊物的體例要求，這些功能可以提高編輯人員的工作效率，使其能將更多精力放在審讀文稿的學(xué)術(shù)質(zhì)量上。其二，寫作質(zhì)量評(píng)估與反饋。在組織同行評(píng)審前，編輯人員可以利用ChatGPT的語言生成能力，自動(dòng)檢測(cè)論文的語言流暢度、邏輯性、觀點(diǎn)連貫度等指標(biāo)，識(shí)別出語言描述模糊、邏輯表達(dá)欠通順的段落，這可以輔助編輯人員快速判斷文章寫作質(zhì)量，對(duì)需要修正的地方給出明確反饋。同時(shí)，ChatGPT也可以直接為作者生成語言優(yōu)化表達(dá)，提升論證說理的準(zhǔn)確度。其三，審稿意見綜述與建議。在文稿修改階段，編輯人員可以將多個(gè)評(píng)審專家的審閱意見匯總輸入ChatGPT，讓其自動(dòng)提取共性內(nèi)容，指出多位評(píng)審者的共識(shí)性建議，并結(jié)合論文主要內(nèi)容生成綜合的修改意見，這可以避免重復(fù)性工作，幫助作者快速抓住多數(shù)評(píng)審者的主要關(guān)注點(diǎn)，有針對(duì)性地修正完善論文內(nèi)容。

（三）個(gè)性化推薦與用戶互動(dòng)

ChatGPT在個(gè)性化推薦與用戶互動(dòng)方面的應(yīng)用具有廣闊前景。通過充分發(fā)揮ChatGPT的語言生成和分析能力，可以提升編輯工作效率，滿足讀者需求，提升用戶體驗(yàn)，促進(jìn)期刊發(fā)展和進(jìn)步。其一，知識(shí)圖譜驅(qū)動(dòng)的精準(zhǔn)推薦。期刊編輯可以通過整合用戶歷史瀏覽與下載數(shù)據(jù)，構(gòu)建用戶興趣知識(shí)圖譜，實(shí)現(xiàn)對(duì)用戶研究方向及領(lǐng)域偏好的精確描繪。在此基礎(chǔ)上，ChatGPT可以通過知識(shí)圖譜不斷學(xué)習(xí)更新，實(shí)現(xiàn)對(duì)用戶長(zhǎng)期學(xué)術(shù)興趣的捕捉。例如，通過分析某博士研究生過去一年在期刊網(wǎng)站上的檢索關(guān)鍵詞、詳情頁瀏覽時(shí)長(zhǎng)等數(shù)據(jù)，可以判斷該用戶主要關(guān)注計(jì)量經(jīng)濟(jì)學(xué)和勞動(dòng)經(jīng)濟(jì)學(xué)交叉領(lǐng)域的內(nèi)容。當(dāng)期刊每周新增這些主題相關(guān)論文時(shí)，ChatGPT可以基于用戶知識(shí)圖譜主動(dòng)推送新的文章，幫助用戶跟進(jìn)領(lǐng)域進(jìn)展，這實(shí)現(xiàn)了基于知識(shí)圖譜的用戶興趣建模和精準(zhǔn)內(nèi)容匹配，大幅提升期刊推薦的個(gè)性化體驗(yàn)。其二，用戶問答與互動(dòng)優(yōu)化。對(duì)于期刊用戶的信息查詢，編輯也可以通過ChatGPT提供智能問答和主動(dòng)式服務(wù)。例如，用戶在期刊投稿系統(tǒng)中咨詢期刊屬性、審稿流程等常見問題時(shí)，ChatGPT可以快速自動(dòng)響應(yīng)，減少編輯重復(fù)勞動(dòng)。而在稿件處理等待期間，ChatGPT還可以主動(dòng)推送審稿進(jìn)度提示，避免用戶的追問，優(yōu)化溝通體驗(yàn)。

二、ChatGPT在社科期刊應(yīng)用中的風(fēng)險(xiǎn)

ChatGPT在社會(huì)科學(xué)期刊中的應(yīng)用，雖然帶來了諸多便利，但也伴隨著一系列風(fēng)險(xiǎn)，這些風(fēng)險(xiǎn)包括數(shù)據(jù)隱私與倫理、內(nèi)容質(zhì)量與學(xué)術(shù)誠(chéng)信以及技術(shù)依賴等多個(gè)方面，需要期刊工作者認(rèn)真對(duì)待，并采取相應(yīng)的措施來規(guī)避和管理。

（一）數(shù)據(jù)隱私與倫理問題

ChatGPT系統(tǒng)所基于的數(shù)據(jù)主要來自網(wǎng)絡(luò)上已公開的大量文本，這些文本是非結(jié)構(gòu)化數(shù)據(jù)，包含了許多用戶隱私信息和個(gè)人數(shù)據(jù)，一旦這些數(shù)據(jù)進(jìn)入ChatGPT系統(tǒng)，將面臨被套取、利用和傳播的風(fēng)險(xiǎn)。具體來說，這些非結(jié)構(gòu)化文本中常包含用戶的姓名、郵箱、地址、電話等敏感隱私信息，這些信息一旦進(jìn)入ChatGPT訓(xùn)練集，就可能被公司利用或通過系統(tǒng)輸入輸出渠道泄露出去。同時(shí)，文本中也可能包含種族、性取向等敏感信息，也會(huì)引發(fā)數(shù)據(jù)歧視和倫理爭(zhēng)議。此外，ChatGPT生成的內(nèi)容也可能包含或引用某些敏感個(gè)人信息，給社科期刊文章的信息安全與隱私保護(hù)帶來重大隱患。因此，社科期刊在利用ChatGPT撰寫或修改文章時(shí)，應(yīng)避免敏感信息的泄露。

（二）內(nèi)容質(zhì)量與學(xué)術(shù)誠(chéng)信問題

ChatGPT生成內(nèi)容的質(zhì)量與學(xué)術(shù)誠(chéng)信也將產(chǎn)生多重風(fēng)險(xiǎn)。其一，系統(tǒng)生成文本的事實(shí)準(zhǔn)確性和邏輯性均無法保證。ChatGPT是依據(jù)語義關(guān)聯(lián)和概率匹配來拼湊語句，無法判斷內(nèi)容的真假、對(duì)錯(cuò)，也無法保證語義和邏輯的連貫一致，這意味著其生成的社科文章極可能出現(xiàn)數(shù)據(jù)錯(cuò)誤、政策誤讀、理論偏差等問題。其二，ChatGPT目前的生成能力還較為有限。在復(fù)雜的學(xué)術(shù)概念闡釋、模型建構(gòu)、命題論證等方面應(yīng)用空間有限，這意味著其生成內(nèi)容的深度與創(chuàng)新性都大打折扣。其三，ChatGPT生成內(nèi)容的可追蹤性和可審計(jì)性有限。人們無法判斷某句表述是否原創(chuàng)，也無法分析其生成邏輯過程，這對(duì)文章的學(xué)術(shù)誤導(dǎo)和抄襲判斷帶來困難。因此，如若社科期刊直接利用ChatGPT生成文章，或者作為輔助工具修改文章，都將嚴(yán)重?fù)p害學(xué)術(shù)誠(chéng)信，不僅增加了錯(cuò)誤信息傳播和理論誤導(dǎo)的風(fēng)險(xiǎn)，也給學(xué)術(shù)評(píng)價(jià)和反思帶來難題。

（三）技術(shù)依賴與職業(yè)發(fā)展受限

在社科期刊中，如果過度依賴ChatGPT，將會(huì)對(duì)期刊編輯等相關(guān)從業(yè)人員的職業(yè)發(fā)展產(chǎn)生一定影響，這主要體現(xiàn)在以下三方面：其一，編輯過度依賴ChatGPT進(jìn)行選題策劃和稿件審讀，會(huì)削弱自己的學(xué)術(shù)判斷力和專業(yè)敏銳度。長(zhǎng)期依賴會(huì)使編輯喪失選擇優(yōu)質(zhì)稿件和把控期刊風(fēng)格的能動(dòng)性，這不利于編輯進(jìn)一步提高學(xué)識(shí)修養(yǎng)，擴(kuò)大學(xué)術(shù)視野，也制約了專業(yè)能力的發(fā)展[3]。從職業(yè)發(fā)展角度看，編輯將難以通過擴(kuò)充學(xué)識(shí)、提高鑒別力獲得職稱晉升。其二，編輯將成為ChatGPT技術(shù)的“附庸”，過度依賴語言模型生成文章，也會(huì)削弱自己的寫作能力、語言組織能力，一方面影響了自己的學(xué)術(shù)論文寫作，另一方面也難以勝任撰寫高質(zhì)量編者按、評(píng)論文章等任務(wù)。其三，一旦ChatGPT等技術(shù)突然消失，過度依賴這些技術(shù)的編輯會(huì)面臨巨大沖擊。由于構(gòu)建內(nèi)容的能力嚴(yán)重退化，選題策劃和組稿能力大幅下降，可能面臨工作壓力，職業(yè)生涯也會(huì)受到影響。

三、社科期刊應(yīng)對(duì)人工智能的措施建議

（一）建立完善的數(shù)據(jù)保護(hù)機(jī)制

鑒于ChatGPT等人工智能技術(shù)中所涉及的數(shù)據(jù)隱私與倫理風(fēng)險(xiǎn)，社科期刊有必要建立完善的數(shù)據(jù)保護(hù)機(jī)制，可以從制定數(shù)據(jù)收集和使用規(guī)范、建立用戶申訴機(jī)制等層面入手。第一，制定嚴(yán)格的數(shù)據(jù)收集和使用規(guī)范。社科期刊可以要求利用ChatGPT等工具輔助撰寫與修改文章的作者提交數(shù)據(jù)來源說明，明確說明文中引用數(shù)據(jù)的具體出處，避免使用涉及用戶隱私或敏感信息的數(shù)據(jù)集[4]。同時(shí)期刊也應(yīng)制定詳細(xì)規(guī)范，規(guī)定數(shù)據(jù)引用與處理的底線與原則，杜絕非結(jié)構(gòu)化文本中用戶隱私信息的泄露風(fēng)險(xiǎn)。此外，期刊還可以要求作者在論文中加入數(shù)據(jù)處理部分，詳細(xì)說明對(duì)非結(jié)構(gòu)化文本信息進(jìn)行脫敏處理的技術(shù)手段，以消除文章中直接或間接引用的個(gè)人敏感信息。只有制定嚴(yán)格的數(shù)據(jù)使用規(guī)范，才能從源頭減少數(shù)據(jù)隱私泄露的風(fēng)險(xiǎn)。第二，建立用戶申訴與通報(bào)機(jī)制。社科期刊應(yīng)向用戶與作者公開期刊使用和引用數(shù)據(jù)的規(guī)范，并建立信息安全申訴機(jī)制。一旦發(fā)現(xiàn)期刊文章中存在泄露隱私的風(fēng)險(xiǎn)或事件，可以通過申訴渠道快速干預(yù)與修正。申訴渠道可以設(shè)置專門團(tuán)隊(duì)，使用安全技術(shù)檢驗(yàn)文章與數(shù)據(jù)源的可靠性，避免用戶信息被濫用。此外，期刊也應(yīng)當(dāng)定期發(fā)布使用數(shù)據(jù)與信息技術(shù)的監(jiān)測(cè)報(bào)告，通報(bào)可能存在的安全隱患，確保用戶和作者的信息權(quán)益。

（二）強(qiáng)化內(nèi)容審核與監(jiān)管

針對(duì)ChatGPT等工具生成內(nèi)容存在的質(zhì)量與誠(chéng)信風(fēng)險(xiǎn)，社科期刊有必要從強(qiáng)化內(nèi)容審核和加強(qiáng)監(jiān)管機(jī)制兩個(gè)維度采取應(yīng)對(duì)措施。第一，在內(nèi)容審核方面，社科期刊需要建立系統(tǒng)性的人工智能輔助生成內(nèi)容審查機(jī)制。具體來說，期刊在設(shè)置同行評(píng)議和編輯評(píng)審流程時(shí)，應(yīng)增加關(guān)于文章寫作中是否使用ChatGPT生成內(nèi)容的必選聲明。投稿作者需要明確標(biāo)注論文中使用ChatGPT工具生成的段落，同時(shí)提供相應(yīng)的生成記錄，以便評(píng)審人員復(fù)核文章的學(xué)術(shù)可信度。在評(píng)審過程中，編輯和評(píng)審專家應(yīng)重點(diǎn)關(guān)注ChatGPT生成內(nèi)容的事實(shí)準(zhǔn)確度、邏輯嚴(yán)謹(jǐn)程度、創(chuàng)新性等質(zhì)量維度。對(duì)于所有利用ChatGPT工具生成的部分，評(píng)審人員都需要嚴(yán)格審視科學(xué)性，避免自動(dòng)化偏差的風(fēng)險(xiǎn)。第二，在監(jiān)管方面，學(xué)術(shù)機(jī)構(gòu)應(yīng)建立人工智能生成內(nèi)容的監(jiān)測(cè)機(jī)制?？梢酝ㄟ^抽樣復(fù)審已發(fā)表文章，判斷其中是否存在ChatGPT生成內(nèi)容的情況。一旦發(fā)現(xiàn)存在未標(biāo)注的生成內(nèi)容，需要求作者后補(bǔ)注明及提供生成細(xì)節(jié)數(shù)據(jù)。另外，還可以關(guān)注引用文章中類ChatGPT生成內(nèi)容的情況，追蹤其學(xué)術(shù)傳播影響，避免錯(cuò)誤信息擴(kuò)散。此外，相關(guān)學(xué)術(shù)機(jī)構(gòu)也可以建立ChatGPT生成內(nèi)容的舉報(bào)平臺(tái)，供用戶和作者質(zhì)疑文章真實(shí)性。一旦收到舉報(bào)，可以啟動(dòng)更嚴(yán)格的評(píng)審流程、請(qǐng)求修訂或撤銷發(fā)表。只有持續(xù)加強(qiáng)監(jiān)管，才能有效減少ChatGPT生成內(nèi)容對(duì)學(xué)術(shù)質(zhì)量與誠(chéng)信的影響。

（三）培養(yǎng)專業(yè)人才隊(duì)伍

鑒于過度依賴ChatGPT等工具帶來的技術(shù)依賴和社科專業(yè)化危機(jī)，學(xué)術(shù)期刊有必要從培養(yǎng)專業(yè)人才隊(duì)伍的層面采取有力對(duì)策。

第一，加強(qiáng)編輯對(duì)人工智能技術(shù)應(yīng)用的學(xué)習(xí)與培訓(xùn)。通過舉辦培訓(xùn)班、講座等，使編輯全面了解ChatGPT等技術(shù)的原理、功能和局限，明確其在社科期刊中的應(yīng)用場(chǎng)景，這可以避免編輯產(chǎn)生技術(shù)迷信或依賴。同時(shí)，教授編輯利用ChatGPT工具的具體操作方法，掌握合理有效應(yīng)用的技巧，提高工作效率。第二，支持編輯開展人工智能相關(guān)的學(xué)術(shù)研究。鼓勵(lì)編輯圍繞人工智能在學(xué)術(shù)出版中的影響等選題開展調(diào)研與論文發(fā)表，不僅豐富自身的學(xué)術(shù)履歷，也有利于進(jìn)一步深入理解新技術(shù)對(duì)傳統(tǒng)出版模式的沖擊，從而提出應(yīng)對(duì)之策或新思路。期刊可以給予資助、提供學(xué)術(shù)交流平臺(tái)等支持[5]。第三，定期舉辦人工智能應(yīng)用創(chuàng)新競(jìng)賽活動(dòng)。組織編輯運(yùn)用ChatGPT等新技術(shù)展開選題策劃、文章生成等創(chuàng)意探索，評(píng)選出最具創(chuàng)新性的應(yīng)用方案，這種競(jìng)賽不僅檢驗(yàn)了編輯的技術(shù)應(yīng)用能力，也有利于進(jìn)一步激發(fā)編輯的創(chuàng)造潛能，從而驅(qū)動(dòng)期刊模式與內(nèi)容的升級(jí)迭代。第四，建立人工智能技術(shù)的應(yīng)用倫理守則。明確規(guī)定編輯利用ChatGPT工具輔助寫作時(shí)的學(xué)術(shù)誠(chéng)信底線，禁止抄襲剽竊，必須原創(chuàng)融合。同時(shí)規(guī)定技術(shù)支持的合理使用范圍，避免人工智能替代編輯的專業(yè)判斷與決策，這有助于規(guī)范應(yīng)用，防止形成技術(shù)依賴。

四、結(jié)語

綜上所述，ChatGPT等生成式人工智能的應(yīng)用是一把雙刃劍。社科期刊在開放利用這一工具的同時(shí)，也必須明確其局限，防范潛在風(fēng)險(xiǎn)，最大化發(fā)揮ChatGPT為學(xué)科發(fā)展提供的動(dòng)力，實(shí)現(xiàn)人工智能技術(shù)與社會(huì)科學(xué)研究的和諧統(tǒng)一。這需要學(xué)界與業(yè)界集思廣益，在技術(shù)應(yīng)用與倫理規(guī)范之間找到平衡，推動(dòng)知識(shí)繁榮的健康自我迭代，為社科期刊的發(fā)展提供強(qiáng)大動(dòng)力。

注釋：

[1]張楠.新時(shí)代社科學(xué)術(shù)期刊高質(zhì)量發(fā)展研究——以開放大學(xué)學(xué)術(shù)期刊為例[J].河北開放大學(xué)學(xué)報(bào)，2023，28（04）：102-105.

[2]張明慧，玉璐，楊軍.禁用還是擁抱：生成式人工智能與中國(guó)社科期刊原創(chuàng)把關(guān)[J].出版發(fā)行研究，2023（08）：49-55.

[3]康寧.新時(shí)代社科學(xué)術(shù)期刊高質(zhì)量發(fā)展路徑選擇[J].傳播與版權(quán)，2023（13）：72-74.

[4]夏雪.數(shù)字時(shí)代社科期刊“走出去”發(fā)展初探[J].中國(guó)傳媒科技，2023（07）：142-145.

[5]王雷.智媒時(shí)代社科類學(xué)術(shù)期刊發(fā)展路徑探析[J].中國(guó)報(bào)業(yè)，2023（01）：88-89.

（作者單位：江蘇省農(nóng)業(yè)機(jī)械試驗(yàn)鑒定站）

責(zé)編：周蕾