如何讓AI成為可信賴的工具

記者｜李麗

這家被稱為技術(shù)公司的出版巨頭

愛思唯爾的AI 工具都是基于公司自有的可信賴的信息和公開發(fā)表的經(jīng)過同行評審的高質(zhì)量科研內(nèi)容所建立起來的。

愛思唯爾全球期刊總裁勞拉·哈辛克（Laura Hassink）

作為全球領(lǐng)先的信息分析和決策工具提供商，勵訊集團擁有1 萬名技術(shù)人員，每年在信息技術(shù)上投資12 億英鎊，據(jù)稱是英國最大的科技公司之一。而作為勵訊集團旗下的科學技術(shù)和醫(yī)學出版業(yè)務板塊，愛思唯爾公司給自己的定位也是一家服務于學術(shù)界的信息分析公司，“一家真正的技術(shù)公司”，有三分之一的員工從事的是技術(shù)類和產(chǎn)品支持方面的工作。愛思唯爾旗下?lián)碛小读~刀》和《細胞》等頂級學術(shù)期刊，出版2800 多種期刊和43000 多種專業(yè)圖書。其旗下的期刊幾乎都提供開放獲取選項，并有超過760 種期刊采用完全開放獲取模式，2022 年，愛思唯爾發(fā)表了15 萬篇開放獲取論文，占到了愛思唯爾全年論文總出版量的25%。

愛思唯爾還把生成式AI 技術(shù)加入他們的海量數(shù)據(jù)中，推出了Scopus AI、ClinicalKey AI，以及支持審稿人推薦、文章誠信核查等學術(shù)出版環(huán)節(jié)的人工智能工具。

這家持續(xù)投資于高質(zhì)量科研信息和內(nèi)容，以技術(shù)為驅(qū)動，更好地支持客戶做出決策的學術(shù)出版商，無論是推行開放獲取模式，還是積極開發(fā)和應用AI 工具，其核心都是幫助科研人員提升科研產(chǎn)出的速度、影響力和質(zhì)量。比如開放獲取的預印本在快速分享信息方面發(fā)揮著關(guān)鍵作用，作者投稿后幾乎能夠立刻發(fā)表；免費閱讀的開放獲取模式極大地擴大了科研論文的傳播范圍和被引用次數(shù)。而愛思唯爾推出的一系列AI 工具，目的也是幫助科研人員、編輯、審稿人更好地利用時間，加快科研創(chuàng)作和出版的速度，提升對科研誠信的核查，從而提高科研產(chǎn)出的質(zhì)量。

日前到訪中國的愛思唯爾全球期刊總裁勞拉·哈辛克（Laura Hassink）接受《出版人》雜志的采訪，介紹了愛思唯爾開發(fā)和使用人工智能工具的指導原則。特別是針對由于人工智能生成的信息經(jīng)常出現(xiàn)不準確或誤讀而導致人們對其生成的內(nèi)容難以信任的疑惑，勞拉·哈辛克表示，愛思唯爾的AI 工具都是基于公司自有的可信賴的信息，以及公開發(fā)表的經(jīng)過同行評審的高質(zhì)量科研內(nèi)容所建立起來的。通過經(jīng)過同行評審的可信數(shù)據(jù)集來訓練AI 工具，避免出現(xiàn)憑空捏造不實內(nèi)容的情況?！拔覀冎辉诳尚艛?shù)據(jù)上進行AI 工具建構(gòu)，我們相信，只有這些建立在可信的信息之上的AI 工具才能真正支持到科學家的科研和創(chuàng)新、提振全社會對科研的信任。這也是為什么我們在AI 工具的開發(fā)中需要專家人工審查并做出最終裁定，或?qū)I 生成的內(nèi)容進行解讀?！?/p>

哈辛克認為負責任地使用人工智能非常重要，為此，愛思唯爾制定了負責任地使用人工智能的指導原則。這些指導原則包括透明化、減少偏見、真正為客戶體驗增值，以及隱私保護。

哈辛克強調(diào)：“AI 并不能代替人類工作，我們還是需要編輯完成相關(guān)的工作。AI 工具是為了幫助他們提高效率、更好地利用時間。”而且她表示自己的一個工作重點就是要增加來自中國的編輯和審稿人，因為“中國市場非常重要”。以下是勞拉·哈辛克與《出版人》記者關(guān)于愛思唯爾是怎樣開發(fā)和使用AI 工具的對話。

AI 幫助編輯減少工作量但不會替代編輯

《出版人》：我們知道愛思唯爾在創(chuàng)建智能工具以有效應對研究人員面臨的挑戰(zhàn)方面成績斐然。能否請您介紹一款愛思唯爾最近開發(fā)的AI 工具，也想請您分享未來愛思唯爾在人工智能應用方面有什么發(fā)展規(guī)劃。

勞拉·哈辛克：AI 帶來了機遇和挑戰(zhàn)，但對我們來說，帶來的更多是機會。我們確實擁有AI 解決方案來解決以往客戶所面臨的一些老問題，其中包括Scopus AI、ClinicalKey AI。Scopus 是我們的科研引文索引數(shù)據(jù)庫，ClinicalKey 則收錄了醫(yī)療相關(guān)的信息，在生成式人工智能的加持下，他們可以更加高效地支持科研人員和臨床醫(yī)生的工作。除了這兩個方面外，我們目前也在開發(fā)一些AI 解決方案，比如說用戶通過向AI 提問能夠獲得更加確切清晰的信息，更好地幫助他們在浩瀚無邊的信息海洋進行信息檢索。

愛思唯爾就是一家信息分析公司，是一家真正的技術(shù)公司，我們有三分之一的員工從事的是技術(shù)類和產(chǎn)品支持方面的工作，這真的是我們工作中非常重要的一部分。

我們還利用人工智能開發(fā)了一款幫助編輯找到合適的審稿人的AI 工具。目前我們旗下期刊編輯眾多，但在他們自己有限的人際網(wǎng)絡(luò)內(nèi)找到相契合的好的審稿人是比較困難的。通過這款AI 工具的算法分析，可以為編輯智能推薦審稿人，讓編輯更快捷便利地找到合適的審稿人，真正幫助編輯在他們自己的人脈網(wǎng)絡(luò)之外為特定文章找到恰當?shù)膶徃迦?，提升整個審稿和發(fā)表流程的效率。

我們認為真正重要的是負責任地使用人工智能，為此，愛思唯爾制定了相關(guān)的指導原則。這些指導原則包括透明化、減少偏見、真正為客戶體驗增值，同時還包括非常重要的隱私保護。我們公司的每個技術(shù)人員或產(chǎn)品經(jīng)理在使用人工智能時都需要遵循這些準則。比如，我們內(nèi)部也有對于尋找審稿人這個工具的討論，討論得出我們的目標是要找到最合適的最佳審稿人，同時我們還想減少性別偏見，因為我們可以看到，目前學術(shù)產(chǎn)出和同行評審人中，男性仍占絕大比例，尤其是更加資深的研究者中，男性審稿人的比例也是比較高的。我認為我們與產(chǎn)品、技術(shù)人員一起，在應用這款AI 工具的過程中，在減少性別等因素帶來的偏見、負責任地使用AI方面已經(jīng)取得了成效。

另外，我們還有一些其他的AI 工具。比如，我們非常重視研究的誠信，對學術(shù)不端行為零容忍。以往我們一般是在接收到稿件后進行人工核查，但現(xiàn)在我們也在開發(fā)越來越多的AI 工具，能夠更加快速地檢查論文是否存在學術(shù)誠信方面的問題。

《出版人》：AI 能夠幫助編輯減輕工作量并提高工作效率，那么未來編輯的功能是否會有所改變？愛思唯爾旗下編輯的人數(shù)是否會有所減少？

勞拉·哈辛克：我認為AI 并不能代替人類工作，我們還是需要編輯完成相關(guān)的工作。AI 工具是為了幫助他們提高效率，更好地利用時間。AI 工具可以用一種非常透明的方式將運算結(jié)果直觀地呈現(xiàn)給編輯，推薦可以采取的決策方案，最終是否使用推薦的方案仍取決于編輯自身。AI 能夠幫助審稿人更有效地進行時間管理，提供更多信息以幫助他們更好地進行決策，完成審稿工作。

在編輯和同行評審人的工作方面，還要強調(diào)一點——同行評審的附加價值，我們非常注重讓編輯幫助投稿作者提升論文質(zhì)量，但是目前編輯們忙于管理投稿和檢查文章是否具有研究完整性、學術(shù)不端問題。他們沒有足夠的時間與作者和審稿人共同探討如何提升論文質(zhì)量。我們希望編輯在使用這樣的AI 工具后，能夠幫助他們節(jié)省花費在論文學術(shù)誠信核查方面的精力，讓編輯、審稿人和作者更充分地就科研課題和論文質(zhì)量展開交流，從而促進整體論文水平的提升，更好地推進科研發(fā)展。

如何解決AI 生成結(jié)果的可信度問題

《出版人》：說到誠信，實際上AI 也存在幻覺問題，會編造一些不存在的事實，你們是如何避免這個問題的？

勞拉·哈辛克：是的，事實上，很多生成式AI 工具提供了大量不實信息。科研工作是基于嚴謹和可靠的信息進行的，沒有可信來源，基于非可靠數(shù)據(jù)而生成的不實信息會嚴重地損害科研之信。這也是我們不會在工作中使用那些人工智能工具的原因。

愛思唯爾有自己的AI 工具，都是基于愛思唯爾可信賴的信息和內(nèi)容所建立起來的人工智能工具。通過經(jīng)過同行評議的可信數(shù)據(jù)集來訓練AI 工具，這樣生成的內(nèi)容就不會出現(xiàn)存在不實信息的情況。我們只在可信數(shù)據(jù)上進行AI工具建構(gòu)，我們只信任這些建立在可信的信息之上的工具。

這也是為什么我們在AI 工具開發(fā)中需要專家人工審查并做出最終裁定，或?qū)I 生成的內(nèi)容進行解讀。

我們也會利用我們的專家和編輯來進一步改善我們的人工智能成果。比如，我們與編輯合作，通過多次內(nèi)部測試并結(jié)合他們提供的使用反饋，幫助我們提升這些AI 工具的產(chǎn)出結(jié)果的準確度，不斷調(diào)整以提升其效果。我們前面提到的尋找審稿人的AI 工具就經(jīng)歷了這樣的不斷調(diào)整，在最初剛開始使用的時候，我們會問編輯，工具有沒有給你提供更廣泛的審稿人的人選，最開始反饋的結(jié)果并不是那么令人滿意，但是根據(jù)他們的反饋，我們可以調(diào)整工具，之后產(chǎn)出的結(jié)果就會越來越好。這也是我們開發(fā)產(chǎn)品的方式，我們以敏捷的方式構(gòu)建產(chǎn)品，與用戶一起測試，并在此基礎(chǔ)上不斷調(diào)整。

《出版人》：那么，你們的AI 工具都是內(nèi)部技術(shù)團隊自主研發(fā)的嗎？還是和外部公司合作，或購買一些第三方開發(fā)的軟件？

勞拉·哈辛克：我們大部分的AI 工具都是內(nèi)部開發(fā)的，如果涉及一些特定技術(shù)，我們可能會與第三方公司合作。另外，我想強調(diào)一個非常重要的話題——科研誠信問題。圍繞這個問題，愛思唯爾除了開發(fā)自己的工具，我們還從整個行業(yè)的角度出發(fā)，與國際科學技術(shù)和醫(yī)學出版商協(xié)會（STM）共同合作，投資開發(fā)面向整個科學技術(shù)和醫(yī)學出版行業(yè)的工具。實際上所有的大型出版商都對此項目做出了貢獻。這一款工具能夠核驗作者在投稿時是否存在一稿多投的情況。因為我們發(fā)現(xiàn)越來越多的作者同時向多本期刊投稿。我們提供收到的稿件，通過國際科學技術(shù)和醫(yī)學出版商協(xié)會在全行業(yè)層面上檢查投稿文章是否真實，是否存在重復投稿的情況。

《出版人》：除了一稿多投，還有論文造假和抄襲的問題，愛思唯爾是怎樣運用AI 工具來更好地解決這些影響科研誠信問題的？

勞拉·哈辛克：我們目前用兩個AI 工具分別解決這些問題。第一個工具能夠幫助期刊核查作者是不是存在一稿多投的情況。在規(guī)定一段時間內(nèi)，作者只能向一本期刊投稿，只有在被拒稿后才可以投其他期刊。但是現(xiàn)在的情況是，有些作者同時向多本期刊投稿。那么，通過這樣的一個工具，我們就能夠快速核驗出他是不是向多家期刊投稿。

第二個工具，就是幫助核驗這個投稿是不是論文工廠批量生產(chǎn)的論文。通過工具，我們找到論文工廠批量生產(chǎn)的造假論文的相關(guān)跡象。如果說反饋結(jié)果是懷疑文章為批量生產(chǎn)的虛假論文，我們就可以反饋給相關(guān)期刊的出版商并采取相關(guān)行動。

說到論文剽竊問題，目前各個期刊出版商之間存在一個共用的工具，能夠幫助我們核驗論文是否存在剽竊的情況。每年大約有270 萬篇投稿稿件，都會經(jīng)過這個工具進行檢查。

期刊出版業(yè)的三個趨勢

《出版人》：最后，能否請您談談對期刊出版業(yè)發(fā)展趨勢的看法？

勞拉·哈辛克：我們看到有這樣一些趨勢，第一個趨勢是通過科技手段提升公眾對于科研的信任度。大家有目共睹的是，科技發(fā)展得越來越快，我們可以通過一些科技手段來幫助客戶解決問題，提供更多的解決方案幫助他們提高效率、節(jié)省時間。另外，通過科技手段也可以提升對于科研誠信的核查，實現(xiàn)我們對學術(shù)不端的行為零容忍。此外，我們認為通過科技的進步能夠進一步提升人們對科研的信任度，可以幫助公眾更加信任科研過程。

信任真的很重要，“信任”對我來說是一個關(guān)鍵詞，如果談論未來的趨勢，我認為這一切都從信任開始，我們的用戶以及公眾需要能夠信任科學研究。

在新冠疫情大流行之后，我們也發(fā)布了名為《科研之信：公眾注視下的科研人員》的報告，這一報告也幫助我們更好地了解公眾對科研的態(tài)度，我們也希望能夠找到更好的方式提升大家對科研的信任。我們深知，作為一個科學出版商，我們有義務通過科技手段，提高公眾對科研成果的信任度。

第二個趨勢，我覺得很重要的就是提升客戶體驗，包括提升作者和審稿人的體驗，我們可以做更多的事情來更好地利用他們的時間，優(yōu)化出版過程，加快出版速度，提高同行評審的質(zhì)量。這是我們努力的方向，我認為這是一個重要的趨勢。

第三個趨勢是在出版過程中將更加注重公平、平等。研究是全球性的，我們必須確保真正做到了公平出版。我們的作者是來自世界各地的研究人員，世界各地的研究人員都有平等的機會發(fā)表論文，我們作為出版商必須找到解決方案。例如，來自全球南方國家（發(fā)展中國家）的作者并不總是有同等的報酬和出版機會發(fā)表文章或獲取學術(shù)期刊，我們希望未來能夠給予他們更多展示研究成果的機會。另外，就是性別平等，愛思唯爾希望能夠推動在作者、編輯還有審稿人中實現(xiàn)性別比例的平衡。平等，也是我們作為出版商非常注重的一個原則?！?/p>