生成式AI規(guī)范賦能科學(xué)研究的歐盟借鑒

摘要：歐盟委員會發(fā)布的《科研領(lǐng)域負(fù)責(zé)任使用生成式人工智能指南》針對研究人員、研究機構(gòu)及研究資助機構(gòu)等不同主體提出建議，為科研實踐提供明確的操作指導(dǎo)。該指南對我國生成式人工智能的科研應(yīng)用有較好的借鑒價值，因此本文提出以下啟示：應(yīng)盡快制訂適用于科學(xué)研究場景的專門規(guī)范或指南；強化科研數(shù)據(jù)保護機制，提升網(wǎng)絡(luò)安全水平；完善組織架構(gòu)，確保生成式人工智能應(yīng)用的有效監(jiān)管。

關(guān)鍵詞：生成式人工智能；科學(xué)研究；應(yīng)用規(guī)范；應(yīng)用指南

中圖分類號：G434 文獻標(biāo)識碼：A 論文編號：1674-2117（2024）23-0000-04

引言

生成式人工智能，作為一種顛覆性的技術(shù)，正在對經(jīng)濟社會的發(fā)展產(chǎn)生深遠的影響。[1]它通過模擬人類的思維和創(chuàng)造力，能夠自動生成新的信息、產(chǎn)品和服務(wù)，從而推動經(jīng)濟社會的全面變革?？茖W(xué)研究是推動經(jīng)濟社會發(fā)展的關(guān)鍵因素，它通過探索未知、創(chuàng)新技術(shù)、培養(yǎng)人才和促進國際合作，為社會進步提供動力。高校作為科學(xué)研究的高地，不僅在學(xué)術(shù)領(lǐng)域具有重要地位，而且在推動社會進步和經(jīng)濟發(fā)展中也起著關(guān)鍵作用。因此，如何更加科學(xué)、規(guī)范地推動生成式人工智能賦能高?？茖W(xué)研究是世界各國正面臨的一個重要的現(xiàn)實問題。

為解決生成式人工智能為科學(xué)研究帶來的關(guān)鍵機遇和挑戰(zhàn)，2024年3月20日，歐盟委員會與歐洲研究區(qū)國家和利益相關(guān)者共同提出《科研領(lǐng)域負(fù)責(zé)任使用生成式人工智能指南》（Living Guidelines on the Responsible Use of Generative Ai in Research）（簡稱《指南》），以指導(dǎo)歐洲研究界負(fù)責(zé)任地使用生成式人工智能。該指南為我國在人工智能賦能行動中推動生成式人工智能科學(xué)、規(guī)范賦能科學(xué)研究提供了重要參考。

《指南》的主要內(nèi)容

在具體內(nèi)容上，《指南》分別針對研究人員、研究機構(gòu)和研究資助機構(gòu)科學(xué)合理地使用生成式人工智能提出了建議。

1.對科學(xué)研究人員的建議

《指南》對科學(xué)研究人員主要提出以下六點建議：①科研人員對科研成果負(fù)最終責(zé)任?？蒲腥藛T需對由人工智能工具生成或在其支持下生成的內(nèi)容的完整性負(fù)責(zé)；對使用生成式人工智能所產(chǎn)生的結(jié)果應(yīng)保持批判的態(tài)度，并意識到這些工具的局限性，如偏差、幻覺和不準(zhǔn)確性；明確人工智能系統(tǒng)既不是作者，也不是共同作者；不能在科學(xué)研究過程中使用生成式人工智能創(chuàng)建的捏造材料，如偽造、篡改或操縱原始研究數(shù)據(jù)。②透明地使用生成式人工智能?？蒲腥藛T應(yīng)詳細說明在研究過程中主要使用了哪些生成式人工智能工具；應(yīng)披露或討論所使用的生成式人工智能工具的局限性，包括生成內(nèi)容中可能存在的偏差，以及可能的緩解措施。③在與人工智能工具共享敏感或受保護信息時，要特別注意隱私、保密及知識產(chǎn)權(quán)相關(guān)的問題?？蒲腥藛T應(yīng)保護未發(fā)表或敏感的作品，不要將其上傳到在線人工智能系統(tǒng)中，除非能保證這些數(shù)據(jù)不會被重復(fù)使用；不應(yīng)向在線生成式人工智能系統(tǒng)提供第三方的個人數(shù)據(jù)，除非得到數(shù)據(jù)主體（個人）的同意；應(yīng)了解有關(guān)隱私、保密和知識產(chǎn)權(quán)的技術(shù)和道德影響。④尊重適用的國家、歐盟和國際立法?？蒲腥藛T在使用生成式人工智能的輸出結(jié)果時，要避免剽竊的可能，尊重他人的著作權(quán)；有責(zé)任妥善處理生成式人工智能輸出的任何個人數(shù)據(jù)，并遵守歐盟數(shù)據(jù)保護規(guī)則。⑤不斷學(xué)習(xí)生成式人工智能工具的正確使用方法。生成式人工智能工具發(fā)展迅速，不斷有新的使用方法涌現(xiàn)，科研人員要及時了解最佳實踐，并與其他利益相關(guān)者分享。⑥避免在可能影響他人的敏感活動中大量使用生成式人工智能工具。避免使用生成式人工智能工具，導(dǎo)致不公平待遇或潛在的評估風(fēng)險；保護科研人員未發(fā)表的原創(chuàng)作品，使其免于暴露或被納入人工智能模型。

2.對科研機構(gòu)的建議

《指南》對科研機構(gòu)主要提出以下四點建議：①促進、指導(dǎo)和支持研究人員在研究活動中負(fù)責(zé)任地使用生成式人工智能工具。生成式人工智能工具的使用不僅涉及對技術(shù)能力的掌握，還涉及對相關(guān)倫理和法律要求的深刻理解?？蒲袡C構(gòu)應(yīng)提供和促進關(guān)于使用生成式人工智能工具的培訓(xùn)，確保生成式人工智能工具的使用符合道德和法律要求。②監(jiān)督組織內(nèi)生成式人工智能系統(tǒng)的開發(fā)和使用情況?？蒲袡C構(gòu)應(yīng)重視機構(gòu)內(nèi)使用生成式人工智能工具的研究活動和流程，以便為生成式人工智能的使用提供進一步指導(dǎo)，確定培訓(xùn)需求。同時，還應(yīng)分析生成式人工智能技術(shù)和工具的局限性，并向科研人員提供反饋和建議。③將生成式人工智能相關(guān)指南納入研究實踐和倫理的一般研究指南中?？蒲袡C構(gòu)可以生成式人工智能相關(guān)指南為基礎(chǔ)，制訂生成式人工智能的使用相關(guān)規(guī)定，并向科研人員和利益相關(guān)者征求意見；應(yīng)盡可能以生成式人工智能相關(guān)指南為指導(dǎo)。④在可能和必要的情況下，對生成式人工智能工具施行本地托管或基于云的管理。本地托管或云管理能夠防止數(shù)據(jù)泄露和未授權(quán)訪問，這是保護敏感信息不被濫用的關(guān)鍵措施。這種管理策略不僅符合數(shù)據(jù)保護法規(guī)，而且對提升研究可信度及科研機構(gòu)責(zé)任感至關(guān)重要?？蒲腥藛T可將其科學(xué)數(shù)據(jù)保存到能保障數(shù)據(jù)安全的工具中，科研機構(gòu)應(yīng)確保這些系統(tǒng)達到相應(yīng)的網(wǎng)絡(luò)安全水平。

3.對科研資助組織的建議

《指南》對科研資助組織提出以下四點建議：①促進和支持在研究中負(fù)責(zé)任地使用生成式人工智能?？蒲匈Y助組織設(shè)計的資助工具應(yīng)開放、易于接受，并支持科研人員負(fù)責(zé)任、合乎道德地使用生成式人工智能技術(shù)；應(yīng)要求受資助的研究機構(gòu)和受資助者，鼓勵科研人員和研究機構(gòu)遵守現(xiàn)有的法律、研究標(biāo)準(zhǔn)，合乎道德和負(fù)責(zé)任地使用生成式人工智能技術(shù)。②審查生成式人工智能在其內(nèi)部流程中的使用情況。科研資助組織對其在活動中使用生成式人工智能產(chǎn)生的影響負(fù)全部責(zé)任?？蒲匈Y助組織應(yīng)以透明的方式使用生成式人工智能，特別是在與評估和評價管理有關(guān)的活動中，并且不損害內(nèi)容的保密性和過程的公平性；在選擇生成式人工智能工具時，應(yīng)審查該工具是否符合質(zhì)量、透明度、完整性、數(shù)據(jù)保護、保密性和尊重知識產(chǎn)權(quán)的標(biāo)準(zhǔn)。

③要求項目申請者在使用生成式人工智能方面保持透明性?？蒲许椖可暾堈邞?yīng)聲明在申報過程中是否使用了生成式人工智能工具，并說明該工具在研究活動中的作用。④監(jiān)督并推動生成式人工智能的發(fā)展。科研資助組織應(yīng)加強對在科研中負(fù)責(zé)任地使用生成式人工智能的培訓(xùn)和教育計劃的資助。

《指南》的借鑒價值

通過分析筆者認(rèn)為，《指南》對推動生成式人工智能技術(shù)在我國高?？茖W(xué)研究中合理規(guī)范使用的啟示和借鑒主要有以下幾點。

1.細化現(xiàn)有相關(guān)政策，聚焦高校場景研制針對性規(guī)范或指南

我國面對形勢的變化，頒布了《生成式人工智能服務(wù)管理暫行辦法》《人工智能倫理治理標(biāo)準(zhǔn)化指南（2023版）》《新一代人工智能倫理規(guī)范》等一系列聚焦新一代人工智能倫理規(guī)范的制度文件，為新一代人工智能技術(shù)的合理規(guī)范應(yīng)用提供了重要的政策保障。但是，現(xiàn)有的制度文件具有廣泛通用性，針對性聚焦高?？蒲蓄I(lǐng)域的相關(guān)文件仍相對缺失。因此，急需在現(xiàn)有文件制度的基礎(chǔ)上，研究制訂針對高?？茖W(xué)研究領(lǐng)域合理使用新一代人工智能技術(shù)的規(guī)范或指南。在制訂過程中，可汲取歐盟《指南》的精髓，并強化國際合作，為我國規(guī)范構(gòu)建提供較好的參考與啟示。

高?？茖W(xué)研究應(yīng)重點聚焦以下幾方面研制相關(guān)規(guī)范或指南，明確人工智能在科研中的地位和作用，推動新一代人工智能技術(shù)在高校科學(xué)研究中的合理使用。①注重人工智能倫理準(zhǔn)則。高校應(yīng)制訂關(guān)于人工智能倫理的準(zhǔn)則，確?？蒲腥藛T在使用人工智能時遵循道德和法律規(guī)范，其中主要包括保護個人隱私、數(shù)據(jù)安全、避免歧視和偏見等方面的規(guī)定。②加強數(shù)據(jù)管理和共享。高校應(yīng)制訂關(guān)于數(shù)據(jù)管理和共享的政策，確?？蒲腥藛T在使用人工智能時能夠有效地管理和共享數(shù)據(jù)，其中主要包括數(shù)據(jù)收集、存儲、處理和共享的規(guī)定，以及數(shù)據(jù)隱私和安全性的保護措施。③建立人工智能研究評估和監(jiān)督機制。高校應(yīng)建立評估和監(jiān)督機制，對人工智能研究進行定期評估和監(jiān)督，以確保研究的質(zhì)量和可靠性，主要包括同行評審、研究倫理審查委員會等機構(gòu)，對研究過程和結(jié)果進行監(jiān)督和評估。④加強人工智能培訓(xùn)和教育。高校應(yīng)制訂人工智能培訓(xùn)和教育計劃，為科研人員提供必要的技能和知識，以更好地應(yīng)用人工智能技術(shù)，其中主要包括人工智能課程、研討會、工作坊等形式，幫助科研人員了解和應(yīng)用最新的人工智能技術(shù)和方法。⑤加強合作與交流。高校應(yīng)積極通過共享資源、合作研究項目、學(xué)術(shù)交流等方式實現(xiàn)與其他高校、研究機構(gòu)和企業(yè)建立合作與伙伴關(guān)系，促進人工智能技術(shù)的共享和傳播，共同推動人工智能在科學(xué)研究中的應(yīng)用。

2.注重科研數(shù)據(jù)保護，加強網(wǎng)絡(luò)安全升級

近年來，以大數(shù)據(jù)、人工智能等為代表的信息技術(shù)的發(fā)展，推動了第四代科學(xué)研究范式即數(shù)據(jù)密集型科學(xué)（Data-intensive Science）的發(fā)展，引導(dǎo)科學(xué)研究由傳統(tǒng)的假設(shè)驅(qū)動向數(shù)據(jù)驅(qū)動轉(zhuǎn)變。[2]科學(xué)研究范式的轉(zhuǎn)變意味著高校科學(xué)研究數(shù)據(jù)密集型特征越來越明顯。此外，高校擁有人才、學(xué)科及研究條件的優(yōu)勢，通過執(zhí)行科技創(chuàng)新系統(tǒng)的任務(wù)，成為科學(xué)創(chuàng)新與基礎(chǔ)研究基地、國家關(guān)鍵技術(shù)攻堅基地和高技術(shù)產(chǎn)業(yè)化的孵化基地。高?？茖W(xué)研究在國家創(chuàng)新體系中占據(jù)重要地位，它們不僅是國家創(chuàng)新體系的重要組成部分，也是科技創(chuàng)新和理論創(chuàng)新的重要承擔(dān)者。面對激烈的國際競爭，國內(nèi)高校也逐漸成為網(wǎng)絡(luò)攻擊的重要領(lǐng)域。因此，加強高校科學(xué)研究數(shù)據(jù)安全，也是落實國家戰(zhàn)略的重要任務(wù)。

在高等教育數(shù)字化改革深度推進的背景下，為進一步加強網(wǎng)絡(luò)安全，高校應(yīng)重點加強和改進以下幾方面：①強化網(wǎng)絡(luò)意識形態(tài)安全教育。隨著信息網(wǎng)絡(luò)化的不斷發(fā)展，高校網(wǎng)絡(luò)意識形態(tài)安全教育也面臨著諸多挑戰(zhàn)，高校要以深化價值引領(lǐng)、擴展內(nèi)容空間、融合新興技術(shù)和拓寬實踐路徑為抓手，協(xié)同推進高校網(wǎng)絡(luò)意識形態(tài)安全教育，筑牢高校網(wǎng)絡(luò)意識形態(tài)安全防線。[3]

②本地化部署和運行人工智能相關(guān)模型，把握數(shù)據(jù)主權(quán)。高校在與企業(yè)進行合作共建時，應(yīng)始終堅持主導(dǎo)地位，明確責(zé)任，落實人工智能相關(guān)模型的本地部署和運行，把握數(shù)據(jù)主動權(quán)，確保數(shù)據(jù)安全，這也是國外人工智能在高校應(yīng)用的主流形勢。[4]③優(yōu)化高校數(shù)據(jù)治理架構(gòu)，引導(dǎo)全員參與數(shù)據(jù)治理。高校應(yīng)立足學(xué)校數(shù)據(jù)治理需要，進一步優(yōu)化組織架構(gòu)，形成涵蓋決策管理層、組織協(xié)調(diào)層、執(zhí)行落實層、生成維護層的組織架構(gòu)，并明確各層責(zé)任主體及主要職責(zé)，規(guī)范、引導(dǎo)全員深度參與學(xué)校數(shù)據(jù)治理。④加大經(jīng)費投入，強化基礎(chǔ)設(shè)施和人才保障。高校應(yīng)進一步加大網(wǎng)絡(luò)安全經(jīng)費投入，對現(xiàn)有基礎(chǔ)設(shè)施進行定期升級維護，同時加大網(wǎng)絡(luò)安全人才引進，不斷夯實高校網(wǎng)絡(luò)安全基本保障。

3.加強組織機構(gòu)建設(shè)，落實生成式人工智能應(yīng)用監(jiān)管

生成式人工智能為經(jīng)濟社會各領(lǐng)域的發(fā)展帶來了顛覆性技術(shù)創(chuàng)新，也必然引發(fā)相應(yīng)的制度創(chuàng)新，其中就包括組織機構(gòu)變革。加強組織機構(gòu)建設(shè)，落實生成式人工智能應(yīng)用監(jiān)管，是確保人工智能技術(shù)健康發(fā)展的重要措施。其中包括建立完善的組織機構(gòu)、明確職責(zé)分工、加強人員培訓(xùn)、完善制度建設(shè)、加強技術(shù)研發(fā)和創(chuàng)新投入以及建立風(fēng)險評估機制等。

面對生成式人工智能技術(shù)的深度應(yīng)用，相關(guān)組織已逐漸建立，如中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專業(yè)委員會、人工智能倫理與治理工作委員會等，并已發(fā)揮重要作用。筆者認(rèn)為，在現(xiàn)有工作的基礎(chǔ)上，為推動生成式人工智能技術(shù)在高校科學(xué)研究及其他領(lǐng)域的深度應(yīng)用，在國家及社會層面應(yīng)進一步建立健全現(xiàn)有組織的職能，充分發(fā)揮對人工智能合理應(yīng)用的監(jiān)管。該類機構(gòu)應(yīng)是一個獨立的、國際性和跨學(xué)科的科學(xué)組織，從準(zhǔn)確性、偏差、安全性等方面對生成式人工智能工具及其使用進行評估；在人員構(gòu)成上，應(yīng)至少包括但不限于計算機科學(xué)、行為科學(xué)、心理學(xué)、人權(quán)、隱私、法律、倫理學(xué)、科學(xué)和哲學(xué)方面的專家；在主要職責(zé)上，應(yīng)為科學(xué)實踐和社會中使用的生成式人工智能工具制訂質(zhì)量標(biāo)準(zhǔn)和認(rèn)證程序，至少涵蓋準(zhǔn)確性和真實性，適當(dāng)和準(zhǔn)確的來源信用，歧視性和仇恨性內(nèi)容，訓(xùn)練數(shù)據(jù)、訓(xùn)練設(shè)置和算法的細節(jié)，以及機器學(xué)習(xí)的驗證等；獨立的跨學(xué)科科學(xué)機構(gòu)應(yīng)開發(fā)和部署各種方法，以評估生成式人工智能是否促進公平，以及生成式人工智能開發(fā)者可采取哪些措施來促進公平和公平使用。[5]此外，在高校內(nèi)部及相關(guān)項目資助機構(gòu)，還應(yīng)進一步健全現(xiàn)有機構(gòu)職能或增設(shè)新的職能機構(gòu)，以加強生成式人工智能技術(shù)在高校科研及教學(xué)等領(lǐng)域應(yīng)用情況的全面監(jiān)管。

結(jié)束語

生成式人工智能賦能高?？茖W(xué)研究是推動落實人工智能賦能行動的重要任務(wù)。本研究在介紹分析歐盟《科研領(lǐng)域負(fù)責(zé)任使用生成式人工智能指南》的基礎(chǔ)上，聚焦高?？茖W(xué)研究場域，對如何推動生成式人工智能更合理、規(guī)范地賦能高?？茖W(xué)研究提出了幾點建議，以期為未來發(fā)展提供有價值的參考。

參考文獻：

[1]鄭世林，姚守宇，王春峰.ChatGPT新一代人工智能技術(shù)發(fā)展的經(jīng)濟和社會影響[J].產(chǎn)業(yè)經(jīng)濟評論，2023（03）：5-21.

[2]TOLLE M K，TANSLEY S W D， Hey J G A. The fourth paradigm： data-intensive scientific discovery[J].Proceedings of the IEEE，2011，99（08）：1334-1337．

[3]蔣燕玲.強化高校網(wǎng)絡(luò)意識形態(tài)安全教育論析[J].中國高等教育，2021（06）：34-36.

[4]苗逢春.生成式人工智能及其教育應(yīng)用的基本爭議和對策[J].開放教育研究，2024，30（01）：4-15.

[5]Claudi L B， Eva A M D， Robert R， etal. Living guidelines for generative AI—why scientists must oversee its use[J].Nature，2023（622）：693-696.

基金項目：國家社會科學(xué)基金“十四五”規(guī)劃2021年度教育學(xué)青年課題“支撐教育高質(zhì)量發(fā)展的國家教育管理信息化體系研究”（課題編號：CCA210253）。