論文泡沫飚升，人工智能要背鍋嗎

張?zhí)锟?/p>

據(jù)英國《自然》雜志報(bào)道，2023年被撤回的研究論文數(shù)量已超過1萬篇，創(chuàng)下了年度紀(jì)錄。大部分被撤回的論文來自出版機(jī)構(gòu)辛迪維，該機(jī)構(gòu)已撤回的論文數(shù)量超過8000篇。此前，我國教育部科學(xué)技術(shù)與信息化司發(fā)布通知，決定在各高校開展撤稿論文的自查工作。

被撤回的1萬多篇論文可能只是冰山一角。根據(jù)《自然》雜志的分析，在過去10年中，論文撤回率（即每年發(fā)表的論文被撤回的比例）增加了兩倍以上。2022年，這一比例超過了0.2%，相當(dāng)于每發(fā)表500篇論文就會(huì)有1篇被撤回。此外，全球公布的撤回論文總數(shù)已超過5萬篇，還有更多的論文被認(rèn)定為論文工廠生產(chǎn)的造假論文，數(shù)量多達(dá)10萬篇，其中一些撤稿還在論證中。

引起論文撤回的原因很多，除了存在同行評(píng)議的缺陷和系統(tǒng)性操控之外，論文工廠生產(chǎn)的論文也是一個(gè)重要因素。論文工廠是指那些專門生產(chǎn)大量學(xué)術(shù)論文的機(jī)構(gòu)，它們通過雇傭?qū)懯肿珜懻撐?，然后出售給需要發(fā)表論文的人或機(jī)構(gòu)，以獲取高額利潤。這些論文即使沒有被閱讀，也會(huì)被作為綜述性文章統(tǒng)計(jì)，并被“洗白”成為主流文獻(xiàn)。雖然一些論文撤回是因?yàn)樽髡甙l(fā)現(xiàn)了研究工作中的錯(cuò)誤，但是絕大多數(shù)撤稿都源于科研誠信問題。

還有大量混雜在正常論文中的造假論文尚未被發(fā)現(xiàn)，也未被撤回。從比例來看，目前的撤稿率是0.2%，但估計(jì)實(shí)際的論文造假率可能為2%，造假率是撤稿率的10倍。

另一篇發(fā)表于《自然》雜志的文章指出，在過去20年已發(fā)表的40萬篇科學(xué)論文中，約有7萬篇是在2022年發(fā)表的。在2022年發(fā)表的所有科學(xué)論文中，有1.5%～2%與論文工廠的“作品”非常相似；而在生物學(xué)和醫(yī)學(xué)論文中，這一比例最高，達(dá)到了3%，這說明生物學(xué)和醫(yī)學(xué)領(lǐng)域的論文造假率最高。

德國神經(jīng)心理學(xué)家、《恢復(fù)性神經(jīng)病學(xué)和神經(jīng)科學(xué)》期刊主編薩貝爾進(jìn)行了一項(xiàng)調(diào)查，得出了與《自然》雜志類似的結(jié)論。他使用論文造假檢測器對5000篇論文進(jìn)行了驗(yàn)證，在2020年發(fā)表的神經(jīng)科學(xué)論文中，有34%的論文涉嫌抄襲，而在醫(yī)學(xué)類論文中，這一比例為24%。這些論文造假率遠(yuǎn)高于薩貝爾預(yù)估的2%。薩貝爾在醫(yī)學(xué)預(yù)印本平臺(tái)（MedRxiv）上發(fā)表的報(bào)告還顯示，過去10多年，造假論文從逐漸增加到快速增加，2010—2020年，論文造假率從16%上升到28%。 在生物醫(yī)學(xué)領(lǐng)域，僅2020年就有30萬篇論文涉嫌造假。

近年來，高產(chǎn)研究人員大量增加，也從一個(gè)側(cè)面反映了論文泡沫化現(xiàn)象。美國斯坦福大學(xué)伊安尼迪斯團(tuán)隊(duì)對2000—2022年斯科普斯數(shù)據(jù)庫（Scopus）中的文章進(jìn)行了研究，發(fā)現(xiàn)高產(chǎn)作者的數(shù)量成倍增加。2016年以前物理學(xué)領(lǐng)域“極端高產(chǎn)”作者數(shù)量較多，但2016年以后該領(lǐng)域高產(chǎn)作者數(shù)量逐年下降；與此同時(shí)，非物理學(xué)領(lǐng)域此類作者的數(shù)量卻持續(xù)增加。除了物理學(xué)以外，大多數(shù)高產(chǎn)作者來自臨床醫(yī)學(xué)領(lǐng)域，到2022年，該領(lǐng)域已有近700名高產(chǎn)研究者。農(nóng)業(yè)、漁業(yè)和林業(yè)是高產(chǎn)研究者數(shù)量增長速度最快的領(lǐng)域，從2016年到2022年增長了14倍。僅在2022年，非物理學(xué)領(lǐng)域就有1266名作者每5天發(fā)表一篇論文。相比之下，2016年只有387人這樣高產(chǎn)。

科學(xué)研究是追求真理的人類行為，大量論文造假導(dǎo)致的泡沫不僅影響社會(huì)文明的提升和經(jīng)濟(jì)的發(fā)展，還可能對人們的健康和生命安全構(gòu)成嚴(yán)重威脅。正如薩貝爾所言，如果30%的論文都是偽造的，那就意味著人們所接觸到的信息中有30%是不可靠的，甚至是有害的。

那么，為什么會(huì)出現(xiàn)大量的論文泡沫呢？利益的誘惑是根本原因—偽造論文能夠獲得豐厚的收入。在全球各種網(wǎng)站和社交媒體上，充斥著大量論文工廠的小廣告。這些論文工廠甚至承諾能夠?qū)⒄撐陌l(fā)表在頂級(jí)學(xué)術(shù)期刊上，根據(jù)論文的難易程度收取費(fèi)用，每篇1000～25000美元。據(jù)估算，如果每篇造假論文的均價(jià)為1萬美元，那么論文造假行業(yè)的年?duì)I收可能高達(dá)30億～40億美元。論文工廠雇傭的論文寫手主要為科學(xué)領(lǐng)域的學(xué)生、學(xué)者和顧問，他們極為高產(chǎn)。一些論文工廠甚至宣稱自己擁有數(shù)百名寫手，每個(gè)月能夠穩(wěn)定產(chǎn)出超過100篇可發(fā)表的學(xué)術(shù)論文。

從時(shí)間段上看，高產(chǎn)作者的數(shù)量和產(chǎn)出率在2014年開始趨于穩(wěn)定，但近期卻突然增加。這表明高產(chǎn)作者極有可能利用了以 ChatGPT為代表的生成式人工智能工具。

這些人工智能工具為眾多論文工廠提供了幾乎是零成本的生產(chǎn)工具。他們可以使用人工智能技術(shù)（如文本生成、數(shù)據(jù)統(tǒng)計(jì)、圖像處理等）“生產(chǎn)”論文并使其看起來更真實(shí)，甚至一些科研人員也借助ChatGPT撰寫論文。

盡管科學(xué)界和出版商希望能夠檢測出所有由大型語言模型（LLM）生成的文本，但迄今為止，人工智能檢測工具還無法可靠地識(shí)別由LLM生成的論文。一些研究團(tuán)隊(duì)正在致力于研發(fā)能夠?yàn)樗蠰LM產(chǎn)品添加水印的技術(shù)，然而目前尚未有相關(guān)軟件問世。因此，在揭露和打擊論文泡沫方面，一些研究人員認(rèn)為應(yīng)該對人工智能產(chǎn)品進(jìn)行立法，例如，對LLM產(chǎn)品進(jìn)行披露或添加水印，并將刪除水印視為非法行為。此外，薩貝爾還建議將任何提供非學(xué)術(shù)電子郵件地址的文章視為可能是論文工廠的“作品”而加以標(biāo)記。

人工智能正在改變世界，因此需要對人工智能工具的使用進(jìn)行引導(dǎo)并制定規(guī)則，從而減少論文造假和撤稿的情況。一項(xiàng)對100家出版商和期刊進(jìn)行的研究發(fā)現(xiàn)，截至2023年5月，約17%的出版商和70%的期刊已發(fā)布了關(guān)于如何使用LLM的指導(dǎo)方針，但這些指導(dǎo)方針在很多細(xì)節(jié)上存在差異。因此，未來可能需要國際社會(huì)制定一套統(tǒng)一的指導(dǎo)方針和準(zhǔn)則，以幫助研究人員報(bào)告他們使用人工智能工具的情況，并區(qū)分原創(chuàng)內(nèi)容和人工智能生成內(nèi)容 。這將有助于確保學(xué)術(shù)界的誠信和公正性。

【責(zé)任編輯】張小萌