ChatGPT在高等教育領(lǐng)域的應(yīng)用、風(fēng)險(xiǎn)及應(yīng)對(duì)

崔宇紅,白 帆,張蕊芯

(北京理工大學(xué) a.人文與社會(huì)科學(xué)學(xué)院; b.圖書館, 北京 100081)

一、引言

在21世紀(jì)的高等教育領(lǐng)域,人工智能和自適應(yīng)學(xué)習(xí)技術(shù)的融合應(yīng)用正在引發(fā)顛覆性變革。自2019年起,美國(guó)高等教育信息化協(xié)會(huì)(EDUCAUSE)連續(xù)4年發(fā)布《地平線報(bào)告:教與學(xué)版》,均將人工智能列為未來(lái)影響高等教育發(fā)展的趨勢(shì)和核心技術(shù)。在黨的二十大報(bào)告中,人工智能被認(rèn)為是“推進(jìn)教育數(shù)字化,建設(shè)全民終身學(xué)習(xí)的學(xué)習(xí)型社會(huì)、學(xué)習(xí)型大國(guó)”的重要戰(zhàn)略支撐。此外,2023年2月在北京召開的世界數(shù)字教育大會(huì)以“數(shù)字變革與教育未來(lái)”為主題,也強(qiáng)調(diào)了人工智能在高等教育數(shù)字化轉(zhuǎn)型中的重要作用。與此同時(shí),代表人工智能最新突破的ChatGPT技術(shù),則有可能成為這場(chǎng)變革的催化劑,引領(lǐng)人工智能教育應(yīng)用走向成熟,重塑未來(lái)高等教育的形態(tài)。

ChatGPT是美國(guó)人工智能研究實(shí)驗(yàn)室OpenAI于2022年11月30日發(fā)布的智能對(duì)話代理程序,亮相僅一周后就已經(jīng)有100萬(wàn)用戶注冊(cè),截至2023年1月,其月活躍用戶已經(jīng)達(dá)到1億,成為歷史上增長(zhǎng)最快的消費(fèi)者應(yīng)用程序。ChatGPT受到國(guó)外主流媒體的廣泛報(bào)道,其中,BBC、彭博社、連線、福布斯和《紐約時(shí)報(bào)》等的報(bào)道涵蓋了ChatGPT的基本信息、功能、應(yīng)用場(chǎng)景和對(duì)未來(lái)的潛在影響;《麻省理工商業(yè)評(píng)論》將ChatGPT列入2022年度閱讀量最高的話題;2023年2月7日,ChatGPT登上了微博熱搜榜,話題涉及“多家學(xué)術(shù)期刊禁止將ChatGPT列為合著者”“美國(guó)89%的大學(xué)生都是用ChatGPT做作業(yè)”“百度類ChatGPT產(chǎn)品名為ERNIEBO”等?？梢哉f(shuō),ChatGPT已經(jīng)成為全球范圍內(nèi)備受關(guān)注的現(xiàn)象級(jí)科技事件。

教育科研界從不同視角探討了ChatGPT在高等教育應(yīng)用中的復(fù)雜影響?！犊茖W(xué)》雜志探討了ChatGPT的作者身份問(wèn)題并相應(yīng)調(diào)整了出版策略[1],《自然》雜志的編輯認(rèn)為ChatGPT可能會(huì)損害科學(xué)的透明性[2]。來(lái)自不同專業(yè)學(xué)科,例如計(jì)算機(jī)科學(xué)、數(shù)學(xué)、化學(xué)、語(yǔ)言學(xué)和醫(yī)學(xué)等的學(xué)者,對(duì)ChatGPT在高等教育中的實(shí)踐進(jìn)行了探索。計(jì)算機(jī)科學(xué)領(lǐng)域的研究表明,GPT-3可以生成多樣易懂的代碼解釋,幫助學(xué)生更好地理解代碼和掌握編程技巧,自動(dòng)化代碼審查和文檔生成有助于提高編碼的質(zhì)量和可讀性,輔助教師更有效地指導(dǎo)學(xué)生[3]。在化學(xué)教育中,微調(diào)后的大型語(yǔ)言模型可以幫助教師評(píng)估學(xué)生答案的質(zhì)量[4]。ChatGPT在語(yǔ)言教學(xué)中具有很大的潛力,它可以提供個(gè)性化的交互和指導(dǎo),緩解學(xué)習(xí)者的焦慮情緒,提高學(xué)習(xí)效果和學(xué)習(xí)興趣[5]。

ChatGPT在醫(yī)學(xué)教育領(lǐng)域的應(yīng)用最為廣泛,包括自動(dòng)評(píng)分、教學(xué)輔助、信息獲取、生成案例場(chǎng)景等以及在臨床管理和決策過(guò)程中發(fā)揮作用。研究人員使用ChatGPT開發(fā)基于自適應(yīng)學(xué)習(xí)的系統(tǒng),根據(jù)學(xué)生的個(gè)人需求和學(xué)習(xí)風(fēng)格,為其提供量身定制的醫(yī)學(xué)教育資料和學(xué)習(xí)反饋。在臨床診斷中,ChatGPT與臨床數(shù)據(jù)相結(jié)合,創(chuàng)建了一個(gè)自動(dòng)化的決策支持系統(tǒng),預(yù)測(cè)患者的疾病風(fēng)險(xiǎn)、評(píng)估診斷結(jié)果的可信度,并提供個(gè)性化的治療建議[6]。同時(shí),研究人員評(píng)估了ChatGPT在美國(guó)醫(yī)學(xué)執(zhí)照考試(USMLE)中的表現(xiàn),發(fā)現(xiàn)ChatGPT在預(yù)測(cè)考試成績(jī)方面的表現(xiàn)達(dá)到或接近考試通過(guò)的分?jǐn)?shù)閾值,具有很高的準(zhǔn)確性和穩(wěn)定性[7]。

ChatGPT在高等教育領(lǐng)域的應(yīng)用仍處于起步期,具有巨大的發(fā)展?jié)摿?在進(jìn)一步探索技術(shù)發(fā)展的同時(shí),也需要解決諸多倫理、隱私、安全以及法律方面的風(fēng)險(xiǎn)問(wèn)題,拓展進(jìn)入公眾認(rèn)知和政府議程。本文在回顧總結(jié)高等教育領(lǐng)域人工智能應(yīng)用研究的基礎(chǔ)上,重點(diǎn)探討ChatGPT在未來(lái)高等教育中的應(yīng)用場(chǎng)景和風(fēng)險(xiǎn)挑戰(zhàn),以確保ChatGPT技術(shù)在高等教育的轉(zhuǎn)型過(guò)程中獲得安全、可靠和有效的應(yīng)用。

二、ChatGPT核心技術(shù)概述

ChatGPT指使用GPT(Generative Pretrained Transformer)模型架構(gòu)的聊天機(jī)器人應(yīng)用程序。作為一種廣泛應(yīng)用于自然語(yǔ)言處理領(lǐng)域的預(yù)訓(xùn)練模型,ChatGPT引領(lǐng)了大型語(yǔ)言模型的新時(shí)代。相較于Facebook和Google的類似預(yù)訓(xùn)練模型,ChatGPT在智能客服、智能問(wèn)答、機(jī)器翻譯、文本摘要等領(lǐng)域的表現(xiàn)更加自然流暢。這主要?dú)w功于其采取的核心技術(shù),即在大規(guī)模數(shù)據(jù)上訓(xùn)練模型,基于Transformer模型架構(gòu)以及對(duì)特定任務(wù)使用預(yù)訓(xùn)練—微調(diào)策略進(jìn)行優(yōu)化。

(一)大型語(yǔ)言模型

大型語(yǔ)言模型(Large Language Models,LLMs)是指參數(shù)規(guī)模巨大、預(yù)訓(xùn)練的深度神經(jīng)網(wǎng)絡(luò)模型。2020年6月發(fā)布的GPT-3模型是迄今為止最大的語(yǔ)言模型,涵蓋1.75萬(wàn)億個(gè)參數(shù),使用來(lái)自多種來(lái)源的海量語(yǔ)料庫(kù)進(jìn)行預(yù)訓(xùn)練,包括互聯(lián)網(wǎng)、電子圖書、維基百科、論壇、新聞文章、博客、多媒體文本等[8]。LLMs通過(guò)學(xué)習(xí)大規(guī)模的語(yǔ)料庫(kù)來(lái)理解語(yǔ)言結(jié)構(gòu)、語(yǔ)法、語(yǔ)義、邏輯等方面的知識(shí),從而完成生成自然語(yǔ)言文本、回答問(wèn)題、翻譯、對(duì)話等任務(wù)。

ChatGPT作為一種大型語(yǔ)言模型,展示了驚人的文本生成能力和廣泛的通用性,能夠完成多種自然語(yǔ)言任務(wù)。研究發(fā)現(xiàn),盡管在某些領(lǐng)域,例如金融和心理學(xué),人類專家的回答準(zhǔn)確率明顯高于ChatGPT,但在其他領(lǐng)域如法律和技術(shù)方面,ChatGPT的表現(xiàn)接近甚至超越人類專家。為了探究ChatGPT在醫(yī)學(xué)領(lǐng)域中的表現(xiàn),研究者收集了來(lái)自兩個(gè)醫(yī)學(xué)問(wèn)答網(wǎng)站的人類專家回答和ChatGPT回答,并進(jìn)行了比較。研究發(fā)現(xiàn),ChatGPT在臨床醫(yī)學(xué)領(lǐng)域的回答準(zhǔn)確率低于人類專家,但在醫(yī)學(xué)研究和基礎(chǔ)醫(yī)學(xué)方面,ChatGPT的表現(xiàn)與人類專家相當(dāng)。此外,ChatGPT在提供具體建議和特定細(xì)節(jié)方面表現(xiàn)優(yōu)于人類專家[9]。

(二)Transformer模型

Transformer模型是由谷歌在2017年提出的一種基于注意力機(jī)制的深度神經(jīng)網(wǎng)絡(luò)模型,并進(jìn)一步在機(jī)器翻譯的效果上得到了顯著提升[10]。自注意力機(jī)制可以比喻為人類閱讀一段文字的過(guò)程,人類在閱讀時(shí)也會(huì)對(duì)每個(gè)詞匯給予不同的注意力權(quán)重,將其與上下文進(jìn)行聯(lián)系,從而理解全文的含義。在傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型中,每個(gè)神經(jīng)元的輸入都是前一層所有神經(jīng)元的輸出,因此無(wú)法充分利用輸入序列中各個(gè)元素之間的關(guān)系。而Transformer模型引入了自注意力機(jī)制,通過(guò)給予不同位置的元素不同的注意力權(quán)重,使得模型可以根據(jù)序列中元素之間的相關(guān)性來(lái)加權(quán)組合信息。

ChatGPT的Transformer結(jié)構(gòu)的核心創(chuàng)新點(diǎn)在于提出了多頭自注意力機(jī)制(Multi-head Self-attention),即在不同的“頭”中分別計(jì)算注意力權(quán)重,以獲得更多細(xì)粒度的關(guān)注信息。這種機(jī)制使模型可以更好地捕捉不同元素之間的關(guān)系,并且可以并行計(jì)算多個(gè)頭的注意力權(quán)重,加速了模型的訓(xùn)練和推理過(guò)程。這使ChatGPT在處理長(zhǎng)序列和建模長(zhǎng)期依賴關(guān)系方面更加有效,并且在自然語(yǔ)言處理等領(lǐng)域取得了很好的表現(xiàn)。

(三)預(yù)訓(xùn)練—微調(diào)策略

ChatGPT的預(yù)訓(xùn)練—微調(diào)機(jī)制包括預(yù)訓(xùn)練、微調(diào)和Fine-tune這3個(gè)階段。具體來(lái)說(shuō),預(yù)訓(xùn)練階段采用Transformer架構(gòu),在大規(guī)模數(shù)據(jù)集上進(jìn)行無(wú)監(jiān)督的預(yù)訓(xùn)練,以訓(xùn)練出通用的語(yǔ)言表示。預(yù)訓(xùn)練過(guò)程采用了自回歸語(yǔ)言建模任務(wù),即讓模型根據(jù)前面的文本預(yù)測(cè)下一個(gè)詞的概率分布,并最大化預(yù)測(cè)正確詞的概率。微調(diào)階段通常采用有監(jiān)督的學(xué)習(xí)方法,即使用標(biāo)注好的數(shù)據(jù)集進(jìn)行訓(xùn)練,以調(diào)整模型在特定任務(wù)上的權(quán)重,以便更好地完成任務(wù)。微調(diào)的具體方法包括單個(gè)任務(wù)微調(diào)、多任務(wù)聯(lián)合微調(diào)、遷移學(xué)習(xí)等。在微調(diào)階段后進(jìn)一步進(jìn)行Fine-tune,即進(jìn)一步調(diào)整模型在目標(biāo)任務(wù)上的性能。Fine-tune的方法通常包括超參數(shù)調(diào)整、數(shù)據(jù)增強(qiáng)、知識(shí)蒸餾等[11]。

這種預(yù)訓(xùn)練—微調(diào)的策略已經(jīng)被證明是一種高效的方式,能夠在各種自然語(yǔ)言處理任務(wù)上取得很好的性能。

三、ChatGPT在高等教育領(lǐng)域的應(yīng)用場(chǎng)景

這里以學(xué)習(xí)生命周期的概念為框架,涵蓋了教學(xué)內(nèi)容優(yōu)化、教學(xué)過(guò)程輔導(dǎo)輔助、教學(xué)方法優(yōu)化、學(xué)術(shù)論文寫作以及教學(xué)和學(xué)習(xí)效果評(píng)價(jià)等5個(gè)階段,并從學(xué)習(xí)者和教師兩個(gè)維度提供了12種人工智能支持的學(xué)術(shù)教學(xué)和學(xué)習(xí)服務(wù),并基于此展望ChatGPT在高等教育背景下的應(yīng)用場(chǎng)景。

(一)教學(xué)內(nèi)容優(yōu)化

1.教學(xué)目標(biāo)確立

教學(xué)目標(biāo)是關(guān)于教學(xué)將使學(xué)生發(fā)生何種變化的明確表述,是指在教學(xué)活動(dòng)中所期待得到的學(xué)生的學(xué)習(xí)結(jié)果。教學(xué)目標(biāo)的確立是開展一切教學(xué)活動(dòng)的前提和基礎(chǔ)。人工智能技術(shù)可以結(jié)合教育目的及學(xué)生情況確定當(dāng)前課程的教學(xué)目標(biāo),近年來(lái),已有多項(xiàng)工作使用了人工智能技術(shù)來(lái)協(xié)助確立教學(xué)目標(biāo)。例如:利用機(jī)器學(xué)習(xí)算法來(lái)確定可能對(duì)學(xué)生畢業(yè)率造成不利影響的因素[12],或采用結(jié)果導(dǎo)向教育(OBE)的方法,確定學(xué)位課程預(yù)期的結(jié)果,從而確定教學(xué)目標(biāo)[13]。

2.教學(xué)內(nèi)容設(shè)計(jì)

教學(xué)內(nèi)容設(shè)計(jì)是教學(xué)活動(dòng)的重要前置因素。ChatGPT在教學(xué)內(nèi)容設(shè)計(jì)方面得到了廣泛的應(yīng)用。教師可以輸入學(xué)科領(lǐng)域的相關(guān)信息,如歷史事件、科學(xué)原理等,ChatGPT便可以輸出自然、流暢的文本,這些文本可以用于課程大綱的編寫,其中包含對(duì)每個(gè)主題的簡(jiǎn)短描述,在此基礎(chǔ)上還可以提供相關(guān)知識(shí)的擴(kuò)展和重新組合以及教學(xué)輔助工具的開發(fā)。在學(xué)生學(xué)習(xí)方面,ChatGPT可以通過(guò)學(xué)生的學(xué)習(xí)歷史記錄和興趣愛好,為每個(gè)學(xué)生生成適合其學(xué)習(xí)風(fēng)格和學(xué)科領(lǐng)域的學(xué)習(xí)材料和作業(yè),從而提升學(xué)習(xí)效果和增強(qiáng)學(xué)習(xí)動(dòng)力。此外,人工智能也可在標(biāo)準(zhǔn)化考試中發(fā)揮作用,如設(shè)置多套試卷以避免剽竊問(wèn)題或設(shè)計(jì)一系列難度遞增的作業(yè)或考試。深度學(xué)習(xí)技術(shù)可以用于特征提取或難度估計(jì),例如利用注意力機(jī)制模擬閱讀問(wèn)題中每個(gè)句子的難度測(cè)試。

3.教學(xué)材料自動(dòng)問(wèn)題生成

教學(xué)材料自動(dòng)問(wèn)題生成(Automatic Question Generation,AQG)可以幫助改進(jìn)學(xué)生的學(xué)習(xí)和理解,評(píng)估材料的信息,并幫助教師添加補(bǔ)充材料。AQG主要由兩個(gè)方面組成:內(nèi)容選擇和問(wèn)題構(gòu)建。內(nèi)容選擇通常使用不同的統(tǒng)計(jì)特征來(lái)完成[14]。問(wèn)題構(gòu)建傳統(tǒng)上采用基于規(guī)則的方法[15]和基于循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的方法對(duì)數(shù)學(xué)表達(dá)式和主題詞進(jìn)行編碼,以自動(dòng)生成問(wèn)題[16]?，F(xiàn)有研究集中在使用一系列方法提高話題相關(guān)性、表達(dá)相關(guān)性、語(yǔ)言連貫性以及生成問(wèn)題的完整性和有效性[17]。對(duì)于一般知識(shí)測(cè)試,有學(xué)者提出了一個(gè)自動(dòng)生成問(wèn)題和答案的框架可用于教學(xué)材料的創(chuàng)作,如閱讀理解任務(wù)[18]。

語(yǔ)言模型還可以產(chǎn)生問(wèn)題和提示,鼓勵(lì)不同知識(shí)和能力水平的人參與,并引發(fā)批判性思維和問(wèn)題解決。此外,它們還可以用于生成有針對(duì)性和個(gè)性化的練習(xí)題和測(cè)驗(yàn),生成防止剽竊的標(biāo)準(zhǔn)化考試題目,這有助于確保學(xué)生掌握材料。

(二)教學(xué)過(guò)程輔導(dǎo)輔助

1.交互式輔導(dǎo)輔助工具

基于“積極互動(dòng)促進(jìn)學(xué)習(xí)”的理論,早期的交互式輔導(dǎo)輔助框架通過(guò)口頭或動(dòng)作交流的方式,讓學(xué)生與教師或教學(xué)實(shí)體互動(dòng),并獲得反饋或指示。隨著時(shí)間的推移,交互式輔導(dǎo)系統(tǒng)逐漸采用深度學(xué)習(xí)算法,結(jié)合各種數(shù)據(jù)(如文本、語(yǔ)音等),推斷學(xué)生實(shí)時(shí)狀態(tài)并定制互動(dòng)方式,提供精確的反饋和進(jìn)一步指導(dǎo)。最新的交互式輔助工具通過(guò)使用資源密集型算法和復(fù)雜的組合,不斷發(fā)展和提高定制化教育的水平。

2.個(gè)性化輔導(dǎo)輔助工具

個(gè)性化教育對(duì)學(xué)生學(xué)習(xí)成果具有積極的影響。因此,個(gè)性化學(xué)習(xí)系統(tǒng)和輔導(dǎo)輔助工具被廣泛應(yīng)用于教育領(lǐng)域。在課程內(nèi)容方面,個(gè)性化可以通過(guò)課程內(nèi)容排序、提示和附加資源的顯示等方式實(shí)現(xiàn)。創(chuàng)造性學(xué)習(xí)的個(gè)性化路徑可以通過(guò)訓(xùn)練決策樹并根據(jù)學(xué)生背景信息推斷出來(lái)。深度強(qiáng)化學(xué)習(xí)在教學(xué)排序問(wèn)題上的應(yīng)用也越來(lái)越普遍。此外,還有一些基于信息檢索和自然語(yǔ)言處理技術(shù)的框架,可以連接學(xué)生過(guò)去的討論,定制學(xué)習(xí)內(nèi)容,以及促進(jìn)學(xué)生之間的協(xié)作。為了減少信息過(guò)載并提高學(xué)習(xí)體驗(yàn),基于深度學(xué)習(xí)的課程推薦系統(tǒng)(DECOR)已被提出,該系統(tǒng)利用學(xué)生行為和課程相關(guān)數(shù)據(jù)來(lái)訓(xùn)練基于神經(jīng)網(wǎng)絡(luò)的推薦系統(tǒng)[19]。

3.情感感知輔導(dǎo)輔助工具

研究建議在設(shè)計(jì)輔導(dǎo)系統(tǒng)時(shí)應(yīng)將學(xué)習(xí)者的情感和行為狀態(tài)納入考慮,以提高教學(xué)的有效性[20]。傳感器數(shù)據(jù)可以用于跟蹤學(xué)生微小的身體運(yùn)動(dòng)(例如目光、面部表情和姿勢(shì)),從而推斷學(xué)生的情感和行為狀態(tài)。研究者使用交互數(shù)據(jù)構(gòu)建了情感檢測(cè)模型,以檢測(cè)學(xué)生的情感狀態(tài)。研究者比較了在軍事訓(xùn)練中傳遞激勵(lì)提示時(shí)使用傳感器和交互數(shù)據(jù)的效果[21]。研究者進(jìn)一步探討了情感感知智能教學(xué)輔助工具的不同用例和研究進(jìn)展。這些工具可以豐富用戶體驗(yàn)、更好地管理和評(píng)估學(xué)習(xí)材料、提供評(píng)估提示與導(dǎo)航指令等[22]。

4.學(xué)習(xí)風(fēng)格感知輔導(dǎo)輔助工具

在教學(xué)過(guò)程中,了解學(xué)生的學(xué)習(xí)風(fēng)格可以提高教學(xué)效果。傳統(tǒng)的自我管理問(wèn)卷被用于推斷個(gè)人學(xué)習(xí)風(fēng)格,最近基于機(jī)器學(xué)習(xí)的方法使用多種數(shù)據(jù)源作為輸入內(nèi)容,如完成的調(diào)查表、交互數(shù)據(jù)和學(xué)生的行為數(shù)據(jù)等,然后使用前饋神經(jīng)網(wǎng)絡(luò)進(jìn)行分類[23]。ChatGPT等大型語(yǔ)言模型可用于個(gè)性化教學(xué)內(nèi)容的匹配和資源提供,從而支持教師的教學(xué)過(guò)程。通過(guò)面向教師的AI系統(tǒng),教師可以自動(dòng)化評(píng)估學(xué)生的答案并提供適應(yīng)性反饋,從而減輕教師的工作量。自動(dòng)評(píng)分系統(tǒng)(AES)是常見的人工智能評(píng)估系統(tǒng)之一,ChatGPT和其他大型語(yǔ)言模型不僅支持學(xué)生評(píng)價(jià)和反饋,還可用于生成練習(xí)和提供解決方案[24]。

(三)教學(xué)方法優(yōu)化

ChatGPT廣泛應(yīng)用于教育領(lǐng)域后改變了傳統(tǒng)的教師傳授為主導(dǎo)的單一教學(xué)模式,有利于創(chuàng)新教學(xué)方法。在高等教育中,借助適當(dāng)?shù)慕虒W(xué)策略,ChatGPT可用于促進(jìn)學(xué)習(xí)者之間的協(xié)作和團(tuán)隊(duì)合作。具體而言,ChatGPT能以學(xué)生為中心的學(xué)習(xí)策略為基準(zhǔn),設(shè)計(jì)各式各樣的小組游戲,為學(xué)生提供不同場(chǎng)景下解決問(wèn)題和實(shí)現(xiàn)目標(biāo)的手段,從而提升學(xué)生在學(xué)習(xí)中的參與度和互動(dòng)效果。在協(xié)作寫作活動(dòng)中,ChatGPT可通過(guò)提供風(fēng)格和編輯建議以及其他集成的協(xié)作寫作特征來(lái)提供幫助。對(duì)于國(guó)際學(xué)生或需要遠(yuǎn)程輔導(dǎo)的學(xué)生,ChatGPT帶來(lái)的學(xué)術(shù)和經(jīng)濟(jì)潛力在跨地理位置服務(wù)、教學(xué)和時(shí)差方面更加深遠(yuǎn)。同時(shí),ChatGPT可以與語(yǔ)音文字轉(zhuǎn)換系統(tǒng)結(jié)合使用,以幫助殘疾學(xué)習(xí)者(如視力障礙的學(xué)生),以保證所有學(xué)生的完全參與。此外,將GPT-3用作教學(xué)代理來(lái)激發(fā)學(xué)生好奇心和提高提問(wèn)技能也是一種有效的方法,通過(guò)與ChatGPT的互動(dòng),學(xué)生可以得到更深入、更廣泛的知識(shí),從而提高他們的學(xué)習(xí)動(dòng)力和學(xué)習(xí)效果[25]。

(四)學(xué)術(shù)論文寫作

1.自動(dòng)論文寫作

在教育領(lǐng)域中,人工智能技術(shù)可通過(guò)自動(dòng)化評(píng)估與反饋的機(jī)器學(xué)習(xí)系統(tǒng),提升學(xué)生寫作技能[26]。研究者以ChatGPT為案例,在不需要專業(yè)知識(shí)的情況下,以邏輯組織文本并添加字幕,指導(dǎo)ChatGPT撰寫了一篇題為《人工智能教育》的論文。結(jié)果表明,ChatGPT生成的論文連貫、準(zhǔn)確、豐富且系統(tǒng)[27]。對(duì)于同一問(wèn)題,不同語(yǔ)言模式的提問(wèn),ChatGPT的回答格式相同,具備良好的邏輯銜接和信息涵蓋能力。此外,與人類相比,人工智能寫作能力強(qiáng),能夠高效找到信息并編寫專業(yè)文本,從而減輕人類智能工作負(fù)荷,有可能改變勞動(dòng)力市場(chǎng)需求。因此,研究者建議調(diào)整高等教育的學(xué)習(xí)目標(biāo)、學(xué)習(xí)活動(dòng)和評(píng)估實(shí)踐,培養(yǎng)學(xué)生合理使用人工智能的能力,同時(shí)注重發(fā)展人工智能無(wú)法替代的創(chuàng)造力和批判思維。

2.學(xué)術(shù)誠(chéng)信檢測(cè)

人工智能用于學(xué)生學(xué)習(xí)結(jié)果評(píng)估和監(jiān)測(cè)的另一個(gè)方面是通過(guò)發(fā)現(xiàn)剽竊和其他形式的學(xué)術(shù)不當(dāng)行為,確保維護(hù)學(xué)術(shù)誠(chéng)信。在關(guān)于文本中學(xué)術(shù)剽竊檢測(cè)的綜述論文里(例如論文、報(bào)告、研究論文等)根據(jù)模糊程度的升序?qū)ω飧`形式進(jìn)行分類,從逐字和近似逐字復(fù)制到翻譯、釋義、保留創(chuàng)意的剽竊和代寫[28]。同樣,剽竊檢測(cè)方法已經(jīng)被開發(fā)用于日益復(fù)雜的剽竊類型,并廣泛采用自然語(yǔ)言處理和機(jī)器學(xué)習(xí)技術(shù)。例如:詞匯檢測(cè)方法使用N-gram或向量空間模型來(lái)創(chuàng)建文檔表示,隨后對(duì)文檔表示進(jìn)行閾值化或聚類以識(shí)別可疑文檔。最近,深度學(xué)習(xí)模型(如卷積和遞歸神經(jīng)網(wǎng)絡(luò)架構(gòu)的不同變體)也已被用于剽竊檢測(cè)[29-30]。

(五)教與學(xué)效果評(píng)價(jià)

1.學(xué)生學(xué)習(xí)效果評(píng)價(jià)

人工智能在學(xué)生學(xué)習(xí)結(jié)果的評(píng)價(jià)和監(jiān)控中扮演著重要角色,其中知識(shí)追蹤、評(píng)價(jià)和反饋是主要應(yīng)用。知識(shí)追蹤通過(guò)對(duì)學(xué)生的知識(shí)發(fā)展進(jìn)行建模,預(yù)測(cè)他們正確回答下一個(gè)問(wèn)題的能力,幫助學(xué)生確定需要努力的領(lǐng)域,教育者也可以根據(jù)預(yù)測(cè)結(jié)果提供有針對(duì)性的練習(xí)和學(xué)習(xí)建議[31]。深度知識(shí)追蹤(DKT)是一種使用遞歸神經(jīng)網(wǎng)絡(luò)架構(gòu)動(dòng)態(tài)建模學(xué)生潛在知識(shí)狀態(tài)以預(yù)測(cè)未來(lái)表現(xiàn)的模型[32]。

自動(dòng)評(píng)估是另一個(gè)重要問(wèn)題,自動(dòng)論文評(píng)分和自動(dòng)短文答案評(píng)分等系統(tǒng)已經(jīng)被廣泛應(yīng)用,這些系統(tǒng)通過(guò)深度神經(jīng)網(wǎng)絡(luò)自動(dòng)提取特征并進(jìn)行評(píng)分,根據(jù)論文質(zhì)量的不同維度(如組織結(jié)構(gòu)、論文清晰度、論點(diǎn)強(qiáng)度等)提供細(xì)致的評(píng)分,同時(shí)提供形成性反饋以及最終分?jǐn)?shù)。這樣的系統(tǒng)可以消除評(píng)估中的年級(jí)間差異,減輕教師負(fù)擔(dān),同時(shí)提供實(shí)時(shí)反饋幫助學(xué)生加快學(xué)習(xí)進(jìn)度,因此具有更廣泛的教學(xué)用途。

2.教師教學(xué)效果評(píng)價(jià)

教學(xué)素質(zhì)評(píng)估是評(píng)價(jià)教學(xué)成效和保證學(xué)習(xí)目標(biāo)實(shí)現(xiàn)的重要手段,研究結(jié)果可通過(guò)相應(yīng)培訓(xùn)和支持提升教師教學(xué)技能,對(duì)教師的聘任、任期決策和專業(yè)成長(zhǎng)有重要作用。傳統(tǒng)的評(píng)估模式涉及學(xué)生評(píng)價(jià)、教師互評(píng)、自評(píng)和專家評(píng)價(jià),但需要消耗大量的勞動(dòng)力。機(jī)器學(xué)習(xí)和深度學(xué)習(xí)算法可通過(guò)學(xué)生對(duì)教師表現(xiàn)的評(píng)論進(jìn)行情感分析,以展示學(xué)生對(duì)教師的態(tài)度和學(xué)習(xí)過(guò)程的滿意程度[33]。此外,這些情緒和情緒效價(jià)分?jǐn)?shù)可用于預(yù)測(cè)學(xué)生對(duì)教師的推薦分?jǐn)?shù),以確定影響學(xué)生評(píng)價(jià)的關(guān)鍵因素[34]。人工智能還可根據(jù)其他學(xué)習(xí)數(shù)據(jù)點(diǎn)來(lái)評(píng)估教學(xué)策略,如使用基于符號(hào)回歸的方法評(píng)估作業(yè)結(jié)構(gòu)和協(xié)作類型對(duì)學(xué)生成績(jī)的影響,幫助教師進(jìn)行自我評(píng)價(jià)。

在高等教育中,教師可以利用以ChatGPT為代表的大型語(yǔ)言模型,監(jiān)控學(xué)生學(xué)習(xí)進(jìn)程,通過(guò)突出討論作業(yè)的潛在優(yōu)點(diǎn)和缺陷,半自動(dòng)地對(duì)論文、研究報(bào)告和其他寫作作業(yè)進(jìn)行評(píng)分,節(jié)省時(shí)間用于向?qū)W生提供個(gè)性化反饋。此外,大型語(yǔ)言模型還可被用于檢查剽竊,有助于防止作弊。最后,大型語(yǔ)言模型可幫助教師自我評(píng)價(jià),反思自己的教學(xué)策略,識(shí)別學(xué)生存在哪些困難,更準(zhǔn)確地評(píng)估學(xué)生的學(xué)習(xí)發(fā)展和挑戰(zhàn)。這些針對(duì)性的教學(xué)模式有助于學(xué)生獲得優(yōu)異成績(jī),并提供進(jìn)一步發(fā)展的機(jī)會(huì)。

四、ChatGPT對(duì)高等教育領(lǐng)域的挑戰(zhàn)和風(fēng)險(xiǎn)

在強(qiáng)調(diào)ChatGPT等技術(shù)發(fā)展的同時(shí),我們應(yīng)該清醒地認(rèn)識(shí)到此類技術(shù)的可靠性仍存在局限,由于人工智能技術(shù)在教育中的應(yīng)用涉及諸多風(fēng)險(xiǎn),包括學(xué)術(shù)誠(chéng)信風(fēng)險(xiǎn)、偏見與歧視倫理風(fēng)險(xiǎn)、數(shù)據(jù)隱私與安全風(fēng)險(xiǎn)、法律與知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)等,還需要加強(qiáng)對(duì)這些問(wèn)題的研究和探討。

(一)技術(shù)局限和挑戰(zhàn)

ChatGPT等大型語(yǔ)言模型在自然語(yǔ)言處理和計(jì)算機(jī)視覺(jué)等任務(wù)中表現(xiàn)出色,但其復(fù)雜的結(jié)構(gòu)和訓(xùn)練過(guò)程導(dǎo)致其可解釋性較差,模型訓(xùn)練過(guò)程缺乏透明度,很難解釋模型在具體任務(wù)中的決策過(guò)程。此外,ChatGPT還存在對(duì)抗性攻擊、隱私泄露和安全性漏洞等技術(shù)風(fēng)險(xiǎn)。模型在高等教育領(lǐng)域的應(yīng)用也存在局限性,實(shí)驗(yàn)研究發(fā)現(xiàn),ChatGPT在高等教育領(lǐng)域的應(yīng)用過(guò)程中存在11類錯(cuò)誤,包括推理錯(cuò)誤、事實(shí)錯(cuò)誤、數(shù)學(xué)錯(cuò)誤、編碼錯(cuò)誤、偏見等[35]。因此,在高等教育中應(yīng)將ChatGPT作為一種輔助工具來(lái)使用,教師應(yīng)該更多地依賴自己的專業(yè)知識(shí),而不是將其視為教學(xué)過(guò)程的唯一依靠。同時(shí),教師應(yīng)該引導(dǎo)學(xué)生了解這些模型的局限性,以便他們能夠更好地利用它們,并在需要時(shí)采取必要的預(yù)防措施。

(二)學(xué)術(shù)誠(chéng)信風(fēng)險(xiǎn)

ChatGPT等大型語(yǔ)言模型在高等教育中的應(yīng)用引發(fā)了學(xué)術(shù)誠(chéng)信、剽竊、學(xué)生作業(yè)真實(shí)性和原創(chuàng)性等方面的挑戰(zhàn)和擔(dān)憂。尤其是在論文寫作方面,學(xué)生可以利用ChatGPT等機(jī)器人生成并提交非自己完成的論文,繞過(guò)大多數(shù)剽竊檢測(cè)器。針對(duì)此類問(wèn)題,美國(guó)紐約的教育部門已經(jīng)開始禁止使用ChatGPT設(shè)備,斯坦福大學(xué)的研究小組提出了一種名為“DetectGPT”的新方法,旨在成為打擊高等教育中機(jī)器生成文本的首批工具之一。OpenAI正在研究如何在生成的文本中嵌入水印,以減少文本濫用和剽竊的風(fēng)險(xiǎn)。這些勢(shì)必導(dǎo)致文本生成器和文本生成檢測(cè)工具之間的競(jìng)賽更加激烈。此外,ChatGPT在高等教育中的應(yīng)用可能會(huì)產(chǎn)生關(guān)于論文作者的真實(shí)性和可信度的疑慮,引發(fā)學(xué)術(shù)界的出版、再版、聘用和晉升等倫理問(wèn)題,需要相關(guān)方面采取措施解決。

(三)偏見與歧視風(fēng)險(xiǎn)

大型語(yǔ)言模型中存在的偏見是指所生成的語(yǔ)言輸出中存在系統(tǒng)性的不準(zhǔn)確或刻板印象,它受到訓(xùn)練數(shù)據(jù)的影響,反映了該數(shù)據(jù)中存在的社會(huì)和文化偏見。這些偏見會(huì)對(duì)語(yǔ)言模型產(chǎn)生負(fù)面影響,如使刻板印象永久存在、造成誤解或傳播有害和錯(cuò)誤的信息。特別是對(duì)于偏向某些人群的數(shù)據(jù)構(gòu)建的模型,可能會(huì)產(chǎn)生對(duì)特定人群不公平或歧視的結(jié)果(例如:少數(shù)族裔群體或本地文化知識(shí)可能會(huì)被忽略)[36]。在高等教育領(lǐng)域中,大型語(yǔ)言模型的偏見可能會(huì)影響教育過(guò)程和結(jié)果。因此,人們正在努力減少語(yǔ)言模型中的偏見,盡管ChatGPT也采取了一些措施來(lái)避免偏見,但要徹底審查監(jiān)管數(shù)據(jù)并避免模型中的歧視性行為是一項(xiàng)具有挑戰(zhàn)性的任務(wù),還可能存在內(nèi)在的風(fēng)險(xiǎn)。

(四)隱私與安全風(fēng)險(xiǎn)

人工智能教育研究的法律和倫理指導(dǎo)方面存在不足,主要原因是大多數(shù)人工智能教育的研究人員集中在技術(shù)先進(jìn)的地區(qū),而目前大多數(shù)人工智能教育的平臺(tái)和應(yīng)用程序由私營(yíng)部門擁有,其開發(fā)和運(yùn)營(yíng)缺乏透明度和有效監(jiān)管[37]。這導(dǎo)致教學(xué)人員對(duì)這些平臺(tái)訪問(wèn)的數(shù)據(jù)、存儲(chǔ)數(shù)據(jù)的隱私和安全性以及部署模型的可解釋性越來(lái)越擔(dān)憂。在高等教育應(yīng)用中,教師和學(xué)生普遍擔(dān)心使用ChatGPT等大型語(yǔ)言模型可能對(duì)他們的隱私和數(shù)據(jù)安全造成威脅,包括對(duì)數(shù)據(jù)泄露、未經(jīng)授權(quán)訪問(wèn)學(xué)生數(shù)據(jù)以及將學(xué)生數(shù)據(jù)用于教育以外的目的的擔(dān)憂。

(五)法律與知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)

ChatGPT的法律和知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)是一個(gè)備受關(guān)注的問(wèn)題,目前該領(lǐng)域還存在許多法律空白地帶。ChatGPT生成的內(nèi)容屬于誰(shuí)、是否能夠賦予其作者身份,是目前面臨的重要問(wèn)題。根據(jù)《中華人民共和國(guó)著作權(quán)法》,人工智能不被視為著作權(quán)的“作者”,因此ChatGPT無(wú)法依據(jù)現(xiàn)有法律被直接賦予作者身份。同時(shí),根據(jù)OpenAI的使用條款,盡管用戶享有輸入內(nèi)容的所有權(quán)利、所有權(quán)和利益,但由于機(jī)器學(xué)習(xí)的特性,ChatGPT輸出的內(nèi)容在不同用戶間并不具有唯一性,這種輸出內(nèi)容的轉(zhuǎn)讓需要排除呈現(xiàn)給其他ChatGPT用戶的結(jié)果,這導(dǎo)致輸出內(nèi)容著作權(quán)的不確定性會(huì)加劇[38]。

五、討論和啟示

借助ChatGPT等大型語(yǔ)言模型,人工智能正在對(duì)高等教育領(lǐng)域產(chǎn)生越來(lái)越大的影響,人工智能是否會(huì)帶來(lái)“知識(shí)工作結(jié)束的開始”和“大規(guī)模失業(yè)的前兆”等重大社會(huì)變革仍未可知。站在時(shí)代變革的起點(diǎn),教師、學(xué)生、高等教育機(jī)構(gòu)以及政策主管部門都應(yīng)密切關(guān)注該領(lǐng)域的發(fā)展趨勢(shì),適時(shí)調(diào)整學(xué)習(xí)、教學(xué)和評(píng)估方法,以推動(dòng)高等教育的高質(zhì)量發(fā)展并適應(yīng)當(dāng)前時(shí)代的需要。

(一)高校教師:轉(zhuǎn)變?cè)u(píng)估方式,培養(yǎng)批判性思維

高校教師應(yīng)減少和規(guī)避學(xué)生過(guò)度依賴ChatGPT等大型文本工具完成課程作業(yè)或考試的風(fēng)險(xiǎn)。為此,教師需要轉(zhuǎn)變?cè)u(píng)估方式,避免公式化考試和作業(yè),強(qiáng)調(diào)知識(shí)的廣度和深度,設(shè)計(jì)一些如圖像、視頻、課堂討論等ChatGPT不擅長(zhǎng)的寫作分析任務(wù)。此外,教師還可以要求學(xué)生在寫作中整合個(gè)人經(jīng)歷和觀點(diǎn),分析不適合提示的較長(zhǎng)文本以及那些還未被收錄的最新熱點(diǎn)事件[39]。然而,這種方法的局限性在于不適合有效評(píng)價(jià)或僅是短期解決方案。長(zhǎng)期來(lái)看,教師應(yīng)該將ChatGPT等人工智能工具納入教學(xué)中,培養(yǎng)學(xué)生的創(chuàng)造性和批判性思維能力,并引導(dǎo)學(xué)生理解人工智能的優(yōu)缺點(diǎn)。

(二)高校學(xué)生:樹立倫理意識(shí),掌握新興技術(shù)工具

高等教育階段的學(xué)生使用ChatGPT等新興技術(shù)的熟練程度相較教師更高,因此大學(xué)生更應(yīng)該具備以下能力:第一,熟悉學(xué)術(shù)誠(chéng)信規(guī)范和不端行為后果;第二,具備數(shù)字素養(yǎng),掌握利用人工智能工具提高學(xué)術(shù)能力的方法;第三,在使用人工智能工具時(shí)應(yīng)視其為提高寫作技能和產(chǎn)生新想法的方式,避免簡(jiǎn)單復(fù)制粘貼;第四,警惕不合標(biāo)準(zhǔn)的信息源、錯(cuò)誤和虛假信息;第五,廣泛閱讀以提高批判性和創(chuàng)造性思維;第六,學(xué)習(xí)使用人工智能語(yǔ)言工具編寫和調(diào)試代碼,并練習(xí)使用人工智能工具來(lái)解決現(xiàn)實(shí)世界的問(wèn)題。

(三)高等教育機(jī)構(gòu):積極應(yīng)對(duì)新技術(shù),保證合理使用

相較于學(xué)生和教師對(duì)新技術(shù)的接納度,高等教育機(jī)構(gòu)的反應(yīng)顯得遲緩,各高等教育機(jī)構(gòu)始終在禁止使用和將其納入課程的極端態(tài)度之間搖擺。從長(zhǎng)遠(yuǎn)看,高等教育機(jī)構(gòu)不應(yīng)該將其視為簡(jiǎn)單的危機(jī)或挑戰(zhàn),而是應(yīng)該看到其中的可能性,積極應(yīng)對(duì)新技術(shù),并專注于如何保持學(xué)術(shù)誠(chéng)信,同時(shí)將人工智能作為創(chuàng)新資源,與以學(xué)生為中心的教學(xué)模式建立良好的信任關(guān)系,在機(jī)器學(xué)習(xí)中超越其局限性獲得成功。為此,應(yīng)推廣數(shù)字掃盲教育,鼓勵(lì)并支持相關(guān)研究,制定必要的課程,加強(qiáng)教職員工的培訓(xùn),以及為學(xué)生提供學(xué)術(shù)誠(chéng)信方面的講座或課程。同時(shí),更新學(xué)術(shù)誠(chéng)信政策和榮譽(yù)守則,制定明確、易于理解的指導(dǎo)方針,以保證人工智能工具的合理使用。

(四)政府部門:強(qiáng)化政策導(dǎo)向,協(xié)調(diào)技術(shù)發(fā)展和社會(huì)責(zé)任的關(guān)系

為了促進(jìn)ChatGPT等大型語(yǔ)言模型在教育領(lǐng)域的應(yīng)用,政策制定者應(yīng)該進(jìn)行前瞻思考,并有效應(yīng)對(duì)教育和技術(shù)中的新挑戰(zhàn)、新發(fā)展和更大的道德問(wèn)題。首先,政府可以通過(guò)制定相關(guān)政策和法規(guī)來(lái)規(guī)范人工智能教育工具的開發(fā)和使用,并加強(qiáng)監(jiān)管;其次,政府可以加大對(duì)人工智能教育的投入力度,鼓勵(lì)企業(yè)和機(jī)構(gòu)開發(fā)和應(yīng)用人工智能教育工具,同時(shí)建立相應(yīng)的監(jiān)管機(jī)制,將模型的研發(fā)和應(yīng)用與人類監(jiān)控、指導(dǎo)和批判性思維結(jié)合起來(lái),實(shí)現(xiàn)科技發(fā)展和社會(huì)責(zé)任的平衡;最后,政府還可以通過(guò)宣傳和培訓(xùn)來(lái)提高人工智能教育的普及度,引導(dǎo)學(xué)生和教師正確使用人工智能教育工具,保障人工智能教育的質(zhì)量和安全性。