[摘" "要] 2011年,首屆學(xué)習(xí)分析與知識(shí)國(guó)際會(huì)議(簡(jiǎn)稱LAK)召開(kāi),標(biāo)志著學(xué)習(xí)分析研究領(lǐng)域的確立。2022年,生成式人工智能(AIGC)的爆發(fā),給該領(lǐng)域的研究帶來(lái)了空前的影響。文章基于最新一屆LAK會(huì)議的主旨報(bào)告及論文,從學(xué)習(xí)分析的技術(shù)系統(tǒng)設(shè)計(jì)、應(yīng)用場(chǎng)景、效果評(píng)價(jià)、倫理風(fēng)險(xiǎn)等方面,系統(tǒng)梳理了AIGC對(duì)學(xué)習(xí)分析領(lǐng)域產(chǎn)生的影響以及今后的發(fā)展趨勢(shì)。研究分析結(jié)果表明:基于AIGC的學(xué)習(xí)分析系統(tǒng)在自動(dòng)化程度和個(gè)性化匹配能力方面得到提升;AIGC具有教師、學(xué)習(xí)者和助教三種角色的功能屬性,圍繞數(shù)據(jù)生成、數(shù)據(jù)測(cè)量與分析、學(xué)習(xí)反饋等環(huán)節(jié)擁有多種應(yīng)用的潛能;從AIGC與傳統(tǒng)模型算法的比較、學(xué)生學(xué)習(xí)體驗(yàn)等方面來(lái)看,其在學(xué)習(xí)分析中的應(yīng)用具有一定的優(yōu)勢(shì),然而尚未有實(shí)證證據(jù)表明AIGC的使用對(duì)學(xué)習(xí)效果有提升作用。AIGC及其相關(guān)技術(shù)的發(fā)展將為探究人機(jī)協(xié)同的學(xué)習(xí)過(guò)程帶來(lái)全新的視角和可能,也將為研究學(xué)習(xí)過(guò)程提供更豐富的數(shù)據(jù)和創(chuàng)新的方法,同時(shí)將促使學(xué)習(xí)分析價(jià)值取向與目標(biāo)定位的重構(gòu),不斷推動(dòng)對(duì)復(fù)雜人機(jī)交互行為方式、人智協(xié)同的認(rèn)知變化與學(xué)習(xí)規(guī)律、AIGC融入的新型教學(xué)方式等的理解與探索。
[關(guān)鍵詞] 人工智能; 學(xué)習(xí)分析; 教育中的人工智能; 學(xué)習(xí)分析與知識(shí)國(guó)際會(huì)議; 文獻(xiàn)綜述
[中圖分類(lèi)號(hào)] G434" " " " " " [文獻(xiàn)標(biāo)志碼] A
[作者簡(jiǎn)介] 石琬若(1996 —),女,河北邯鄲人。博士研究生,主要從事學(xué)習(xí)分析、教育數(shù)字化研究。Email:swr22@mails.tsinghua.edu.cn。
一、引" "言
2011年,首屆學(xué)習(xí)分析與知識(shí)國(guó)際會(huì)議 (International Conference on Learning Analytics and Knowledge,以下簡(jiǎn)稱LAK) 召開(kāi),提出學(xué)習(xí)分析的定義:學(xué)習(xí)分析旨在測(cè)量、收集、分析、報(bào)告學(xué)習(xí)者及其學(xué)習(xí)情境的相關(guān)數(shù)據(jù),從而優(yōu)化學(xué)習(xí)及其發(fā)生的環(huán)境[1]。這一定義在后續(xù)研究中得到了廣泛的應(yīng)用,也在應(yīng)用中不斷豐富內(nèi)涵。雖然很難證明獲取更多的數(shù)據(jù)能夠顯著提升學(xué)習(xí)效果,但學(xué)習(xí)分析領(lǐng)域的確立豐富了對(duì)學(xué)習(xí)過(guò)程的理解,優(yōu)化了以改進(jìn)學(xué)習(xí)為目標(biāo)的評(píng)價(jià)方法,促進(jìn)了學(xué)習(xí)評(píng)價(jià)由傳統(tǒng)的標(biāo)準(zhǔn)化測(cè)試轉(zhuǎn)向?qū)W(xué)習(xí)過(guò)程的監(jiān)測(cè)、診斷、預(yù)警、反饋與干預(yù)[2-3]。自學(xué)習(xí)分析研究領(lǐng)域確立以來(lái),人工智能技術(shù)就與之息息相關(guān),集中體現(xiàn)在借助機(jī)器學(xué)習(xí)算法分析學(xué)習(xí)者與學(xué)習(xí)環(huán)境相關(guān)數(shù)據(jù),然而過(guò)往的研討范圍仍相對(duì)有限。自2022年末,以ChatGPT和DALL-E等為代表的生成式人工智能(Artificial Intelligence Generated Content, 以下簡(jiǎn)稱AIGC)走進(jìn)主流媒體和公眾視野,并展現(xiàn)出影響人類(lèi)生產(chǎn)和生活的巨大潛力,也給學(xué)習(xí)分析領(lǐng)域的研究帶來(lái)了前所未有的影響。LAK作為學(xué)習(xí)分析領(lǐng)域的核心會(huì)議,匯集了每年該領(lǐng)域的最新研究進(jìn)展,2024年會(huì)議主題即為“人工智能時(shí)代的學(xué)習(xí)分析(Learning Analytics in the Age of Artificial Intelligence)”。本文基于本屆會(huì)議中聚焦人工智能的26份論文、報(bào)告和演講稿,圍繞AIGC如何影響學(xué)習(xí)分析的技術(shù)系統(tǒng)設(shè)計(jì)、應(yīng)用場(chǎng)景、效果評(píng)價(jià)、倫理風(fēng)險(xiǎn)等方面,分析AIGC對(duì)學(xué)習(xí)分析領(lǐng)域研究的影響,并展望未來(lái)研究的趨勢(shì)。
二、基于AIGC的學(xué)習(xí)分析研究現(xiàn)狀
(一)基于AIGC的學(xué)習(xí)分析技術(shù)系統(tǒng)設(shè)計(jì)
1. 面向?qū)W生的學(xué)習(xí)支持系統(tǒng)設(shè)計(jì)
學(xué)習(xí)分析的技術(shù)系統(tǒng)主要呈現(xiàn)出兩種設(shè)計(jì)取向:其一是面向?qū)W生的學(xué)習(xí)支持系統(tǒng),包括學(xué)習(xí)路徑和資源推薦、學(xué)習(xí)反饋、困難診斷等[4-6];其二是面向教師的教學(xué)輔助系統(tǒng),包括學(xué)生表現(xiàn)監(jiān)測(cè)儀表盤(pán)、教學(xué)設(shè)計(jì)優(yōu)化、專業(yè)發(fā)展支持等[7-9]。AIGC的融入進(jìn)一步提升了學(xué)習(xí)分析系統(tǒng)的智能化程度,形成了面向?qū)W習(xí)者學(xué)習(xí)支持的智能導(dǎo)學(xué)系統(tǒng)和面向教師教學(xué)輔助的智能協(xié)助系統(tǒng),或是在綜合的學(xué)習(xí)系統(tǒng)中將AIGC助教與助學(xué)進(jìn)行集成。長(zhǎng)期以來(lái),在面向?qū)W生學(xué)習(xí)的技術(shù)系統(tǒng)設(shè)計(jì)中,如何依據(jù)學(xué)生的自然語(yǔ)言輸入匹配個(gè)性化的學(xué)習(xí)支持具有很大的挑戰(zhàn)性,而大語(yǔ)言模型的發(fā)展為解決這一難題提供了技術(shù)支持。以在線語(yǔ)言學(xué)習(xí)平臺(tái)為例,Xu等充分發(fā)揮了大語(yǔ)言模型的內(nèi)容生成能力,提出了支持個(gè)性化多語(yǔ)言學(xué)習(xí)的技術(shù)解決方案[10]。該方案并不依賴學(xué)習(xí)者前期的練習(xí)記錄,而是基于學(xué)習(xí)者的自然語(yǔ)言輸入請(qǐng)求,通過(guò)大語(yǔ)言模型模擬生成與其輸入請(qǐng)求相關(guān)的練習(xí)題,進(jìn)而基于模型生成的模擬題目在題庫(kù)中進(jìn)行檢索和相似匹配,克服了傳統(tǒng)的向量相似度檢索的局限性,實(shí)現(xiàn)了自動(dòng)化檢索和個(gè)性化練習(xí)匹配,從而有效提升了在線學(xué)習(xí)系統(tǒng)對(duì)個(gè)性化語(yǔ)言學(xué)習(xí)方案的支持能力。
同時(shí),AIGC的融入提升了學(xué)習(xí)分析系統(tǒng)中學(xué)習(xí)支架和反饋的自動(dòng)化程度。以在線閱讀系統(tǒng)的CoachMe模塊為例,它依托于自動(dòng)問(wèn)題生成(Automated Question Generation,AQG)系統(tǒng),以8000本電子教材的內(nèi)容為輸入數(shù)據(jù),生成了200萬(wàn)項(xiàng)閱讀題目,旨在為學(xué)生的在線閱讀提供學(xué)習(xí)支架[11]。此外,若學(xué)生第一次作答錯(cuò)誤,該系統(tǒng)會(huì)自動(dòng)生成不同類(lèi)型的學(xué)習(xí)反饋,包括結(jié)果性反饋(作答正確與否)、上下文反饋(即提供與閱讀問(wèn)題相關(guān)的教材上下文)、舉例反饋(即以相似答案的例子作為提示),由此提供給學(xué)生再次作答和嘗試的支架。
2. 面向教師的教學(xué)輔助系統(tǒng)設(shè)計(jì)
在面向教師的教學(xué)輔助系統(tǒng)中,基于AIGC的自動(dòng)出題、評(píng)分、學(xué)習(xí)結(jié)果預(yù)測(cè)等功能設(shè)計(jì)具有廣泛的應(yīng)用前景。Szymanski等設(shè)計(jì)開(kāi)發(fā)出一項(xiàng)基于AIGC的多項(xiàng)選擇題干擾項(xiàng)生產(chǎn)系統(tǒng)[12]。該系統(tǒng)首先基于DQ-SIM算法[13],根據(jù)多選題的題干與正確答案,可以自動(dòng)生成作為干擾項(xiàng)的錯(cuò)誤答案。進(jìn)而,該系統(tǒng)允許教師對(duì)干擾項(xiàng)的設(shè)置提供反饋,教師可以對(duì)生成的干擾項(xiàng)表示支持或反對(duì),也可以據(jù)此提出新的題項(xiàng)。同時(shí),教師還可以自主控制算法的關(guān)鍵參數(shù)來(lái)優(yōu)化干擾項(xiàng)。具體而言,教師可以在該系統(tǒng)中拖動(dòng)滑塊設(shè)置DQ-SIM算法中干擾項(xiàng)相似度(D)和題干相似度(Q)的權(quán)重,教師在自主調(diào)節(jié)參數(shù)的過(guò)程中,系統(tǒng)會(huì)提供可視化的圖像和文本,輔助教師理解算法運(yùn)作的原理和輸出結(jié)果的影響因素。這一系統(tǒng)創(chuàng)新性地在算法自動(dòng)生成題項(xiàng)的過(guò)程中納入教師的反饋,從而更好地將教師智慧與人工智能的技術(shù)優(yōu)勢(shì)相結(jié)合。
3. 基于AIGC的學(xué)習(xí)分析技術(shù)系統(tǒng)的落地
在學(xué)習(xí)分析系統(tǒng)的落地實(shí)施層面,當(dāng)前AIGC較為直接的應(yīng)用是在原有系統(tǒng)中嵌入聊天機(jī)器人(AI Chatbots)。AIGC對(duì)自然語(yǔ)言的理解和反饋,促進(jìn)了學(xué)習(xí)分析系統(tǒng)中更深度的人機(jī)交互。以嵌入AI Chatbots的數(shù)學(xué)學(xué)習(xí)平臺(tái)Math Nation為例,系統(tǒng)通過(guò)識(shí)別學(xué)習(xí)者所提問(wèn)題中的數(shù)學(xué)概念,將學(xué)生提問(wèn)與相關(guān)的學(xué)習(xí)材料建立連接:一方面,基于Math Nation平臺(tái)已有資源,在學(xué)習(xí)視頻中查詢和定位相關(guān)學(xué)習(xí)內(nèi)容,并推薦學(xué)生可能感興趣的教學(xué)視頻和示例;另一方面,通過(guò)對(duì)話的方式為學(xué)生解決數(shù)學(xué)問(wèn)題提供分步指導(dǎo),幫助他們進(jìn)行理解性學(xué)習(xí)而不直接給出答案,同時(shí)也會(huì)為學(xué)生展示多種解題方法[14]。
總之,AIGC為學(xué)習(xí)分析技術(shù)系統(tǒng)的設(shè)計(jì)和開(kāi)發(fā)注入了更多活力,無(wú)論是作為獨(dú)立的平臺(tái)系統(tǒng),還是作為功能模塊或技術(shù)方法嵌入已有系統(tǒng),基于AIGC的學(xué)習(xí)分析系統(tǒng)都在自動(dòng)化程度和個(gè)性化匹配能力方面得到提升,有助于更加高效、靈活地響應(yīng)學(xué)習(xí)者的需求,同時(shí)為教師的教學(xué)設(shè)計(jì)與實(shí)施、評(píng)價(jià)和反饋提供支持。同時(shí),AIGC的融入促進(jìn)了在線系統(tǒng)中更多維度和更加深入的人機(jī)交互,從學(xué)習(xí)者本身、教與學(xué)的交互過(guò)程、學(xué)習(xí)內(nèi)容與資源等多個(gè)角度為學(xué)習(xí)分析提供了豐富的數(shù)據(jù)來(lái)源,也為面向更高維度教育目標(biāo)的學(xué)習(xí)分析的發(fā)展提供了可能。
(二)AIGC在學(xué)習(xí)分析領(lǐng)域的應(yīng)用場(chǎng)景
依據(jù)學(xué)習(xí)分析的定義,其典型應(yīng)用場(chǎng)景涉及數(shù)據(jù)收集、數(shù)據(jù)測(cè)量、數(shù)據(jù)分析與學(xué)習(xí)反饋等核心環(huán)節(jié),AIGC在教育系統(tǒng)中通過(guò)代理和扮演不同的教育主體,應(yīng)用于學(xué)習(xí)數(shù)據(jù)的生成、評(píng)測(cè)、分析和反饋等學(xué)習(xí)分析的各個(gè)環(huán)節(jié)。AIGC在學(xué)習(xí)分析領(lǐng)域的應(yīng)用具有教師、學(xué)習(xí)者和助教三種角色的功能屬性,圍繞特定角色形成了不同的應(yīng)用場(chǎng)景。AIGC作為教師角色,可應(yīng)用于組卷出題、批改作業(yè)、提供支架、仲裁同伴反饋、評(píng)估學(xué)習(xí)進(jìn)度、推薦學(xué)習(xí)資源等場(chǎng)景;AIGC作為學(xué)生角色,可以模擬學(xué)生的學(xué)習(xí)行為與過(guò)程,為教師模型的訓(xùn)練與檢驗(yàn)提供模擬數(shù)據(jù);AIGC作為助教角色,可以輔助并配合人類(lèi)教師開(kāi)展教學(xué)實(shí)踐,促進(jìn)基于數(shù)據(jù)的教育決策等。下面將分別圍繞以上三種角色,對(duì)AIGC在各個(gè)教育場(chǎng)景中的應(yīng)用進(jìn)行討論。
1. AIGC作為教師
AI教師在學(xué)習(xí)分析領(lǐng)域中旨在扮演教師的角色,替代教師的部分職能。AI教師在學(xué)習(xí)分析的四個(gè)核心環(huán)節(jié)中均得到了應(yīng)用,且集中體現(xiàn)在數(shù)據(jù)分析和學(xué)習(xí)反饋兩個(gè)環(huán)節(jié)(見(jiàn)表1)。自動(dòng)生成學(xué)習(xí)反饋是AIGC在學(xué)習(xí)分析領(lǐng)域最為直接的應(yīng)用,比如,批改評(píng)閱學(xué)生文本寫(xiě)作類(lèi)作業(yè)[15],為基礎(chǔ)數(shù)學(xué)問(wèn)題的學(xué)習(xí)提供解題引導(dǎo)、學(xué)習(xí)支架和資源推薦[14],幫助學(xué)生糾正程序代碼練習(xí)中的錯(cuò)誤等[16]。然而,對(duì)于涉及更多環(huán)節(jié)步驟的難題,僅依賴于人工智能的自動(dòng)反饋,難以實(shí)現(xiàn)復(fù)雜學(xué)習(xí)問(wèn)題的解決。為了應(yīng)對(duì)這一挑戰(zhàn),Sonkar等提出了在學(xué)習(xí)分析系統(tǒng)中將大語(yǔ)言模型與Python相結(jié)合,依據(jù)學(xué)生自然語(yǔ)言輸入的問(wèn)題生成初級(jí)反饋,進(jìn)而加入Higgs模型來(lái)判斷輸入對(duì)象是否需要進(jìn)一步的復(fù)雜計(jì)算[17]。在遇到需要進(jìn)一步計(jì)算的復(fù)雜問(wèn)題時(shí),系統(tǒng)則調(diào)用Python程序完成計(jì)算,以計(jì)算結(jié)果為依據(jù),再利用大語(yǔ)言模型轉(zhuǎn)換成學(xué)生可以理解的自然語(yǔ)言反饋。由此,通過(guò)將大語(yǔ)言模型的自然語(yǔ)言理解能力和Python程序的計(jì)算能力相結(jié)合,增強(qiáng)了學(xué)習(xí)分析系統(tǒng)的自動(dòng)反饋能力,同時(shí)實(shí)現(xiàn)了逐步指導(dǎo)學(xué)生思考復(fù)雜問(wèn)題,為提升學(xué)生復(fù)雜問(wèn)題的解決能力提供了學(xué)習(xí)支架。
除自動(dòng)生成學(xué)習(xí)反饋外,AI教師還可以提供關(guān)于“反饋的反饋”[18],即通過(guò)對(duì)同伴反饋文本數(shù)據(jù)的分析,識(shí)別學(xué)生在同伴反饋與互評(píng)中的一致性與分歧,從而監(jiān)督和優(yōu)化同伴互評(píng)質(zhì)量,有效節(jié)約在線教學(xué)中教師的時(shí)間,促進(jìn)學(xué)習(xí)者在網(wǎng)絡(luò)環(huán)境中的交互討論與協(xié)作學(xué)習(xí)[19]。同時(shí),基于提示工程 (Prompt Engineering) 和微調(diào)策略 (Fine-tuning Approaches),AIGC還可以對(duì)學(xué)生在線學(xué)習(xí)過(guò)程中的文本注釋內(nèi)容進(jìn)行自動(dòng)編碼和分析,有助于評(píng)估學(xué)生學(xué)習(xí)進(jìn)度,為進(jìn)一步的學(xué)習(xí)反饋和干預(yù)提供依據(jù)[20]。
2. AIGC作為學(xué)生
在應(yīng)用過(guò)程中,AI學(xué)生往往與AI教師成對(duì)出現(xiàn)。比如AI教師可以應(yīng)用于自動(dòng)生成學(xué)習(xí)反饋,那么AI學(xué)生則可以用以檢驗(yàn)學(xué)習(xí)反饋的有效性。AI學(xué)生通過(guò)生成和模擬學(xué)習(xí)過(guò)程數(shù)據(jù),在AI教師的模型訓(xùn)練過(guò)程中扮演學(xué)習(xí)者的角色,用以測(cè)試和增強(qiáng)AI教師的能力。比如在編程學(xué)習(xí)中,學(xué)生遇到程序報(bào)錯(cuò)而又無(wú)法解決是一個(gè)十分常見(jiàn)的學(xué)習(xí)場(chǎng)景, 此時(shí)可以配對(duì)使用AI教師和AI學(xué)生為人類(lèi)學(xué)習(xí)者提供學(xué)習(xí)支持。例如:在ChatGPT-4作為AI教師正式提供給學(xué)生編程建議之前,首先利用ChatGPT-3.5作為AI學(xué)生進(jìn)行驗(yàn)證,來(lái)檢驗(yàn)AI教師自動(dòng)反饋指導(dǎo)后的效果;通過(guò)測(cè)量學(xué)習(xí)反饋的覆蓋率和準(zhǔn)確性,從而提升AI教師的自動(dòng)化反饋能力[16]。再如,Sonkar等在訓(xùn)練AI教師的技術(shù)模型時(shí),同樣利用AI學(xué)生作為初始學(xué)習(xí)對(duì)話的發(fā)起者,并基于物理教科書(shū)生成不同知識(shí)模塊的物理問(wèn)題,建立物理學(xué)科的復(fù)雜問(wèn)題數(shù)據(jù)庫(kù),從而為后續(xù)AI教師的訓(xùn)練和測(cè)試提供數(shù)據(jù)基礎(chǔ)[17]。
3. AIGC作為助教
AI助教廣義上講也是一種教師模型,但為了區(qū)分人類(lèi)教師是否在場(chǎng),本文單獨(dú)提出AI助教,特指AI輔助人類(lèi)教師開(kāi)展基于數(shù)據(jù)的教育決策的模型。AI助教與人類(lèi)教師的教學(xué)協(xié)作,有助于更好地支持混合教學(xué)環(huán)境中的個(gè)性化學(xué)習(xí)過(guò)程,同時(shí)減輕人類(lèi)教師的部分教學(xué)環(huán)節(jié)的工作負(fù)擔(dān)[21]。具體而言,AI助教可以應(yīng)用于對(duì)課堂討論、教師反饋和學(xué)習(xí)成果等對(duì)話數(shù)據(jù)的自動(dòng)化編碼與分析,為教師提供評(píng)估學(xué)生學(xué)習(xí)過(guò)程性表現(xiàn)的細(xì)致參考,降低非技術(shù)背景的教師的技術(shù)使用負(fù)荷[22]。同時(shí),學(xué)生與AI助教的交互日志也為更深入地探索融入AIGC的課堂教學(xué)過(guò)程提供了數(shù)據(jù)基礎(chǔ)[23]。
AIGC未來(lái)將在學(xué)習(xí)分析中的各個(gè)環(huán)節(jié)擁有更加廣泛和多元的應(yīng)用潛能,為面向復(fù)雜學(xué)習(xí)行為分析、提升學(xué)生的復(fù)雜問(wèn)題解決能力、促進(jìn)自我調(diào)節(jié)學(xué)習(xí)創(chuàng)造了契機(jī)[24]。在數(shù)據(jù)生成方面,使用AIGC可以合成和模擬學(xué)習(xí)者的復(fù)雜學(xué)習(xí)行為和表現(xiàn),從而擴(kuò)展和補(bǔ)充實(shí)際學(xué)習(xí)數(shù)據(jù)集[25],同時(shí)保護(hù)真實(shí)學(xué)習(xí)者的數(shù)據(jù)隱私[26]。在數(shù)據(jù)測(cè)量與分析方面,AIGC有助于分析大量非結(jié)構(gòu)化的數(shù)據(jù)(如文本數(shù)據(jù)),并提供可解釋性的分析結(jié)果[18,12]。在學(xué)習(xí)反饋方面,AIGC將為基于自然語(yǔ)言對(duì)話的技術(shù)系統(tǒng)開(kāi)發(fā)提供支持,從而促進(jìn)更加個(gè)性化的學(xué)習(xí)反饋與自適應(yīng)的學(xué)習(xí)干預(yù)[14,10]。
(三)AIGC在學(xué)習(xí)分析領(lǐng)域應(yīng)用的效果評(píng)價(jià)
AIGC在學(xué)習(xí)分析中的應(yīng)用效果評(píng)價(jià)有三種基本思路:其一是直接使用AIGC完成學(xué)習(xí)任務(wù),評(píng)價(jià)AIGC在完成具體學(xué)習(xí)任務(wù)中的表現(xiàn);其二是將AIGC與傳統(tǒng)模型或算法作比較,根據(jù)特定的參數(shù)來(lái)比較判斷AIGC在學(xué)習(xí)分析中應(yīng)用的優(yōu)缺點(diǎn);其三是通過(guò)學(xué)生學(xué)習(xí)效果或者用戶的偏好與反饋來(lái)間接反映AIGC在實(shí)際應(yīng)用中的效果。
1. AIGC完成學(xué)習(xí)任務(wù)的表現(xiàn)
關(guān)于第一種評(píng)價(jià)思路,以編程教育為例,AIGC在編程教育中的應(yīng)用效果可以通過(guò)其代碼編寫(xiě)的準(zhǔn)確度和可靠性來(lái)進(jìn)行判斷。Dunder等借助編程練習(xí)軟件Kattis隨機(jī)生成127個(gè)編程任務(wù),以此來(lái)測(cè)試AIGC(該研究中指ChatGPT)在計(jì)算機(jī)入門(mén)課程中面對(duì)不同難度編程任務(wù)的作答表現(xiàn)[27]。Kattis測(cè)試結(jié)果表明,AIGC能獨(dú)立且準(zhǔn)確完成的編程任務(wù)占總?cè)蝿?wù)的15%,但準(zhǔn)確作答的題目集中在較低難度的編程任務(wù)中。隨著任務(wù)難度的增加,AIGC準(zhǔn)確作答的比例明顯下降。該項(xiàng)研究表明,當(dāng)前AIGC獨(dú)立解決編程任務(wù)的準(zhǔn)確率尚有很大提升空間。但是另有研究證明了AIGC在自動(dòng)化修復(fù)程序錯(cuò)誤(Bug)方面的表現(xiàn)優(yōu)于標(biāo)準(zhǔn)方法,并且當(dāng)可以提供更詳細(xì)的程序Bug信息時(shí),AIGC對(duì)程序修復(fù)的成功率將顯著提升[28]。
2. AIGC與傳統(tǒng)模型或算法的比較
關(guān)于第二種評(píng)價(jià)思路,研究者通過(guò)設(shè)定準(zhǔn)確性(Accuracy)、精確度(Precision)、召回率(Recall)等參數(shù)和某些外部測(cè)量指標(biāo),比較AIGC與其他模型或算法在應(yīng)用效果中的差異。Samadi等在分析協(xié)作問(wèn)題解決過(guò)程中的文本交互類(lèi)數(shù)據(jù)時(shí),分別采用了機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、大語(yǔ)言模型三種分類(lèi)方法,并依據(jù)準(zhǔn)確性、F1分?jǐn)?shù)等指標(biāo)對(duì)三種方法的分析結(jié)果進(jìn)行比較。結(jié)果表明:雖然大語(yǔ)言模型需要更長(zhǎng)的訓(xùn)練時(shí)間和較多的計(jì)算資源,但其更擅長(zhǎng)捕捉文本數(shù)據(jù)的語(yǔ)義和句法特征;基于BERT的大語(yǔ)言模型的文本分類(lèi)準(zhǔn)確性和F1分?jǐn)?shù)均優(yōu)于其他方法[29]。若聚焦自然語(yǔ)言建模技術(shù),雖然以ChatGPT-4為代表的大語(yǔ)言模型和以SVM(支持向量機(jī))、RF(隨機(jī)森林)為代表的有監(jiān)督機(jī)器學(xué)習(xí)模型的表現(xiàn),明顯優(yōu)于基于規(guī)則的專家知識(shí)模型[30],但大語(yǔ)言模型在文本分析的準(zhǔn)確性上未能超越經(jīng)典的自然語(yǔ)言處理技術(shù),其潛在優(yōu)勢(shì)在于具備對(duì)數(shù)據(jù)分析結(jié)果進(jìn)行解釋的能力[18]。然而,當(dāng)前大語(yǔ)言模型數(shù)據(jù)分析結(jié)果的可靠性問(wèn)題和隱私泄露風(fēng)險(xiǎn)[30],仍限制了其在學(xué)習(xí)分析中的直接應(yīng)用和推廣。
3. 學(xué)習(xí)者在AIGC應(yīng)用中的學(xué)習(xí)效果與體驗(yàn)
關(guān)于第三種評(píng)價(jià)思路,研究者通過(guò)分析和調(diào)查學(xué)習(xí)者在AIGC應(yīng)用中的學(xué)習(xí)效果、學(xué)習(xí)體驗(yàn)、使用偏好等,間接評(píng)價(jià)AIGC的應(yīng)用效果。例如:在嵌入對(duì)話式AIGC的數(shù)學(xué)學(xué)習(xí)平臺(tái)中,面向?qū)W習(xí)者調(diào)查了對(duì)AIGC的技術(shù)接受度。調(diào)查結(jié)果顯示,71%的學(xué)習(xí)者對(duì)與AIGC的交互感到滿意,73%的學(xué)習(xí)者認(rèn)為它易于使用,約68%的學(xué)習(xí)者認(rèn)可該平臺(tái)中嵌入AIGC的實(shí)用性,并有57%的學(xué)習(xí)者表示將來(lái)愿意在數(shù)學(xué)學(xué)習(xí)中使用AIGC[14]。雖然該研究證明了AIGC的應(yīng)用帶給學(xué)習(xí)者較好的學(xué)習(xí)體驗(yàn),但暫未有實(shí)證證據(jù)表明AIGC的使用能夠提升學(xué)習(xí)效果。例如:在Singh等設(shè)計(jì)的隨機(jī)對(duì)照實(shí)驗(yàn)中,采用輪組循環(huán)設(shè)計(jì)(ABBA平衡法),對(duì)比了學(xué)生獨(dú)立編寫(xiě)程序提示(hint)和ChatGPT-4輔助學(xué)生編寫(xiě)的兩組學(xué)習(xí)情形。實(shí)驗(yàn)結(jié)果表明,盡管絕大多數(shù)(95.9%)學(xué)生表示AIGC的提示有助于自己的進(jìn)一步思考,但學(xué)生是否使用AIGC在程序編寫(xiě)質(zhì)量上并未呈現(xiàn)顯著差異[31]。
(四)AIGC在學(xué)習(xí)分析領(lǐng)域應(yīng)用的倫理風(fēng)險(xiǎn)
1. AIGC在學(xué)習(xí)分析領(lǐng)域應(yīng)用的機(jī)遇與挑戰(zhàn)
AIGC的迅猛發(fā)展為學(xué)習(xí)分析領(lǐng)域提供更多研究和實(shí)踐機(jī)遇的同時(shí),也帶來(lái)了挑戰(zhàn)與風(fēng)險(xiǎn)。Stephen Yang在LAK24的主旨發(fā)言中指出,雖然AIGC在促進(jìn)個(gè)性化學(xué)習(xí)和智能導(dǎo)學(xué)方面展現(xiàn)出巨大的潛力,但隨之而來(lái)的AIGC生成質(zhì)量的控制問(wèn)題和潛在的信息誤導(dǎo)風(fēng)險(xiǎn)值得警示。AIGC強(qiáng)大的文本生成能力讓其在提升科研工作效率的同時(shí),也引發(fā)了學(xué)術(shù)誠(chéng)信風(fēng)險(xiǎn)。AIGC作為增強(qiáng)型教學(xué)輔助工具,為教師的教學(xué)設(shè)計(jì)、數(shù)據(jù)分析、評(píng)價(jià)反饋、學(xué)習(xí)干預(yù)提供了自動(dòng)化支持,然而目前其算法結(jié)果的可信度和有效性尚未得到保證,隱私數(shù)據(jù)可能存在泄露的風(fēng)險(xiǎn),教師和學(xué)生對(duì)AIGC在日常教與學(xué)中的應(yīng)用仍存隱憂[31-32]。此外,AIGC模型訓(xùn)練需要消耗高昂的計(jì)算成本,在實(shí)際應(yīng)用的過(guò)程中可能加劇數(shù)字鴻溝,引發(fā)在教育資源獲取和技術(shù)使用方面的不公平問(wèn)題[33]。
2. 超越工具屬性的AIGC
在使用AIGC及其相關(guān)技術(shù)的過(guò)程中,需要更審慎地思考其超越工具屬性的智能。Mutlu Cukurova在主旨報(bào)告中強(qiáng)調(diào)了人工智能與人類(lèi)智能的認(rèn)知多樣性(Cognitive Diversity)。該報(bào)告指出人工智能與人類(lèi)智能交互過(guò)程中的三種概念化方式,其一是外部化人類(lèi)認(rèn)知,即將AIGC視為擴(kuò)展或增強(qiáng)人類(lèi)認(rèn)知的工具。一方面,AIGC可以高效地處理和分析大量數(shù)據(jù),提供個(gè)性化的學(xué)習(xí)路徑或反饋;另一方面,過(guò)度依賴經(jīng)由AIGC的外部認(rèn)知可能削弱學(xué)生的批判性思考能力和自主學(xué)習(xí)能力。其二是內(nèi)化人工智能模型以更新人類(lèi)認(rèn)知,即將AIGC當(dāng)作思考和理解學(xué)習(xí)過(guò)程的對(duì)象,通過(guò)讓學(xué)生理解和應(yīng)用AIGC的工作原理,培養(yǎng)學(xué)生的批判性思維和問(wèn)題解決能力;但值得注意的是,某些具體生活經(jīng)驗(yàn)的學(xué)習(xí)無(wú)法通過(guò)AIGC的模擬來(lái)完成。其三是通過(guò)緊密集成的人智協(xié)同系統(tǒng)擴(kuò)展人類(lèi)認(rèn)知,即強(qiáng)調(diào)人類(lèi)社會(huì)與AI系統(tǒng)的深度融合,創(chuàng)建人智協(xié)同的工作和學(xué)習(xí)環(huán)境。在教育系統(tǒng)與AIGC融合的過(guò)程中,AIGC輔助教學(xué)有助于提供更加即時(shí)的反饋和學(xué)習(xí)支持,同時(shí)應(yīng)保持人與人之間的真實(shí)人際互動(dòng),從而促進(jìn)學(xué)生的社會(huì)交往能力和情感智能的發(fā)展。然而,如何平衡AIGC的使用與學(xué)生在真實(shí)情境中的知識(shí)獲取與技能訓(xùn)練,也是AIGC在教育系統(tǒng)中應(yīng)用時(shí)需要考量的問(wèn)題。以上三種思路都強(qiáng)調(diào)了AIGC在教育系統(tǒng)中的潛在價(jià)值,同時(shí)也警醒研究者需要注意社會(huì)文化學(xué)習(xí)的復(fù)雜性、AIGC應(yīng)用的局限性和可能帶來(lái)的包括過(guò)度依賴技術(shù)的倫理風(fēng)險(xiǎn)。
為了更好地平衡AIGC教育應(yīng)用與潛在風(fēng)險(xiǎn)防范,Alfredo等建議在設(shè)計(jì)融入AIGC的學(xué)習(xí)分析系統(tǒng)時(shí),盡可能讓利益相關(guān)者參與決策如何收集數(shù)據(jù)、共享數(shù)據(jù)、決定數(shù)據(jù)的透明程度等,同時(shí)要確保特定利益相關(guān)者擁有獲取數(shù)據(jù)的權(quán)利[34]。UNESCO在《教育與研究中的AIGC應(yīng)用指南》中也強(qiáng)調(diào)了面向以人為本的AIGC使用,建議通過(guò)政府建立法規(guī)框架、提供針對(duì)AIGC應(yīng)用的指導(dǎo)和培訓(xùn)、提升AIGC提示工程能力、強(qiáng)化教育系統(tǒng)的AIGC應(yīng)用倫理檢驗(yàn)等,從而降低AIGC應(yīng)用的倫理風(fēng)險(xiǎn),促進(jìn)AIGC真正為教師、學(xué)生以及相關(guān)研究人員賦能[33]。
三、基于AIGC的學(xué)習(xí)分析研究展望
(一)AIGC將為探究人機(jī)協(xié)同的學(xué)習(xí)過(guò)程帶來(lái)全新的視角和可能
AIGC在學(xué)習(xí)分析領(lǐng)域的深入應(yīng)用,將為探究人機(jī)協(xié)同的學(xué)習(xí)過(guò)程帶來(lái)全新的視角和可能。在人機(jī)協(xié)同的新型學(xué)習(xí)過(guò)程中,AIGC的融入需要思考學(xué)習(xí)者與AI導(dǎo)師和人類(lèi)導(dǎo)師的差異化互動(dòng)模式與行為偏好,以及在AIGC驅(qū)動(dòng)的學(xué)習(xí)分析系統(tǒng)中如何評(píng)估人機(jī)協(xié)同的學(xué)習(xí)過(guò)程。Cheng等提出一種基于證據(jù)中心設(shè)計(jì)(Evidence-Centered Design, ECD)的人機(jī)協(xié)同評(píng)估方法,用以評(píng)估人類(lèi)與AIGC的協(xié)同寫(xiě)作[15]:學(xué)習(xí)者在CoAuthor平臺(tái)寫(xiě)作的過(guò)程中,AIGC會(huì)提供不同類(lèi)型的寫(xiě)作提示,學(xué)生可以選擇接受或拒絕AIGC的建議,并對(duì)寫(xiě)作內(nèi)容進(jìn)行修改。在此過(guò)程中,學(xué)生與AIGC的交互內(nèi)容、光標(biāo)移動(dòng)、鼠標(biāo)按鍵等學(xué)習(xí)痕跡數(shù)據(jù)將被采集,從而分析和評(píng)估人機(jī)協(xié)同寫(xiě)作過(guò)程中的知識(shí)建構(gòu)、不同類(lèi)型的寫(xiě)作模式、學(xué)習(xí)者與AIGC的協(xié)作偏好等。伴隨GPT-4o的發(fā)布與開(kāi)放,人類(lèi)與AIGC在文本、音頻、圖像和視頻的跨模態(tài)交互將成為可能,AIGC更靈敏的響應(yīng)速度和更加自然的人機(jī)交互模式將不斷推進(jìn)和更新學(xué)習(xí)分析領(lǐng)域的研究與實(shí)踐,也將促進(jìn)學(xué)習(xí)領(lǐng)域面向人機(jī)協(xié)同能力的發(fā)展與更高階的人才培養(yǎng)目標(biāo)轉(zhuǎn)向。
(二)AIGC將為研究學(xué)習(xí)過(guò)程提供更豐富的數(shù)據(jù)基礎(chǔ)和創(chuàng)新的方法
AIGC及其相關(guān)技術(shù)的發(fā)展為學(xué)習(xí)分析研究的拓展與深化帶來(lái)了契機(jī),為深入細(xì)致地研究學(xué)習(xí)過(guò)程提供了更豐富的數(shù)據(jù)基礎(chǔ)和創(chuàng)新的方法。以自我調(diào)節(jié)學(xué)習(xí)過(guò)程的研究為例,Borchers等借助AIGC支持的實(shí)時(shí)語(yǔ)音轉(zhuǎn)錄工具Whisper,更加準(zhǔn)確地記錄了學(xué)生在自主學(xué)習(xí)過(guò)程中的出聲思考數(shù)據(jù),并對(duì)學(xué)習(xí)過(guò)程進(jìn)行精細(xì)編碼,從而細(xì)致監(jiān)測(cè)學(xué)生自我調(diào)節(jié)學(xué)習(xí)過(guò)程中認(rèn)知與元認(rèn)知策略的使用[35]。除對(duì)言語(yǔ)信息的轉(zhuǎn)錄與分析外,AIGC的使用也為分析語(yǔ)言表達(dá)中的沉默與停頓提供了契機(jī)。以協(xié)作學(xué)習(xí)過(guò)程研究為例,學(xué)生在協(xié)作交互中的沉默與停頓可能反映了潛在的情緒壓力、認(rèn)知挑戰(zhàn)、學(xué)習(xí)行為或動(dòng)機(jī)變化,抑或表征了學(xué)習(xí)者的自我監(jiān)控和反思,或是團(tuán)隊(duì)學(xué)習(xí)中集體協(xié)商決策的信號(hào)。然而,過(guò)往的協(xié)作學(xué)習(xí)研究并未也不便分析學(xué)生言語(yǔ)交互中的停頓數(shù)據(jù),AIGC的應(yīng)用則可以在轉(zhuǎn)錄過(guò)程中自動(dòng)分割學(xué)生的話語(yǔ)。Dang等借助AIGC在毫秒級(jí)的時(shí)間戳上進(jìn)行標(biāo)注,綜合運(yùn)用最優(yōu)匹配算法和滯后序列分析,識(shí)別出學(xué)習(xí)者在協(xié)作學(xué)習(xí)過(guò)程中的三種沉思策略,有助于更全面地理解學(xué)生協(xié)作學(xué)習(xí)全過(guò)程[36]。因此,AIGC通過(guò)提供更豐富的學(xué)習(xí)數(shù)據(jù)基礎(chǔ)和創(chuàng)新的數(shù)據(jù)分析方法,增強(qiáng)了對(duì)學(xué)習(xí)者行為的精細(xì)監(jiān)測(cè),提升了學(xué)習(xí)行為分析的維度,使得以往難以捕捉的學(xué)習(xí)數(shù)據(jù)與行為信息能夠納入研究視野,有助于更全面地理解學(xué)習(xí)過(guò)程中的變化與復(fù)雜性,推動(dòng)了對(duì)學(xué)習(xí)過(guò)程的深入理解和探索。
(三)AIGC將促使學(xué)習(xí)分析價(jià)值取向與目標(biāo)定位的重構(gòu)
隨著各類(lèi)AIGC工具的深入應(yīng)用,其不僅能在格式化、重復(fù)性的工作上取代人類(lèi),而且對(duì)一些富有創(chuàng)造力、想象力的工作也具有替代能力,教育體系人才培養(yǎng)的價(jià)值取向和目標(biāo)定位也需要重新思考[37]。然而,當(dāng)前學(xué)習(xí)分析的主流定義及其主要研究議題仍圍繞數(shù)據(jù)處理的操作環(huán)節(jié)展開(kāi),對(duì)于學(xué)習(xí)分析的目標(biāo)和價(jià)值取向等根本性問(wèn)題尚未真正觸及。盡管AIGC的快速發(fā)展引發(fā)對(duì)人類(lèi)崗位可能被AI取代的擔(dān)憂,更值得關(guān)注的是如何合理地掌握和使用AI,培養(yǎng)學(xué)生的AI素養(yǎng),并借助AI提升人類(lèi)的學(xué)習(xí)體驗(yàn)與工作效率。隨著AIGC及其相關(guān)技術(shù)在教育系統(tǒng)的滲透,批判性(審辨性)思維、復(fù)雜問(wèn)題解決能力、人機(jī)協(xié)同能力、自我調(diào)節(jié)學(xué)習(xí)能力等的重要性愈發(fā)凸顯。為了實(shí)現(xiàn)上述人才培養(yǎng)目標(biāo),學(xué)習(xí)分析領(lǐng)域的研究場(chǎng)景需要從以知識(shí)學(xué)習(xí)和技能訓(xùn)練為核心的在線學(xué)習(xí)系統(tǒng),轉(zhuǎn)向AIGC支持的人智協(xié)同系統(tǒng);通過(guò)不斷優(yōu)化的學(xué)習(xí)分析方法和技術(shù),促進(jìn)對(duì)復(fù)雜人機(jī)交互行為、人智協(xié)同的認(rèn)知變化與學(xué)習(xí)規(guī)律、融入AIGC的新型教學(xué)方式等的理解與探索。
四、結(jié) 束 語(yǔ)
隨著AIGC相關(guān)技術(shù)的蓬勃發(fā)展,學(xué)習(xí)分析領(lǐng)域不斷擁抱人工智能帶來(lái)的新契機(jī)。本文基于LAK24會(huì)議的主旨報(bào)告與論文集,圍繞會(huì)議主題“AI時(shí)代的學(xué)習(xí)分析”,從學(xué)習(xí)分析的技術(shù)系統(tǒng)設(shè)計(jì)、應(yīng)用場(chǎng)景、效果評(píng)價(jià)、倫理風(fēng)險(xiǎn)等方面系統(tǒng)梳理了人工智能時(shí)代學(xué)習(xí)分析的前沿研究與實(shí)踐。在技術(shù)系統(tǒng)設(shè)計(jì)方面,AIGC驅(qū)動(dòng)的學(xué)習(xí)分析系統(tǒng)在自動(dòng)化程度和個(gè)性化匹配能力方面得到提升,有助于高效靈活地響應(yīng)學(xué)習(xí)者的需求,同時(shí)為教師的教學(xué)設(shè)計(jì)與實(shí)施、評(píng)價(jià)和反饋提供支持。在應(yīng)用場(chǎng)景方面,AIGC具有教師、學(xué)習(xí)者和助教三種角色的功能屬性,通過(guò)合理的提示工程設(shè)計(jì),在數(shù)據(jù)生成、數(shù)據(jù)測(cè)量與分析、學(xué)習(xí)反饋等方面擁有多種應(yīng)用的潛能。在效果評(píng)價(jià)方面,從AIGC完成學(xué)習(xí)任務(wù)的表現(xiàn)、與傳統(tǒng)模型或算法的比較、學(xué)生學(xué)習(xí)體驗(yàn)等角度來(lái)看,AIGC在學(xué)習(xí)分析中的應(yīng)用呈現(xiàn)出一定的優(yōu)勢(shì),然而,當(dāng)前AIGC對(duì)數(shù)據(jù)分析的準(zhǔn)確性并未顯著優(yōu)于經(jīng)典的算法模型,尚未有實(shí)證證據(jù)表明AIGC對(duì)學(xué)習(xí)效果的提升作用,AIGC的潛在優(yōu)勢(shì)在于對(duì)學(xué)習(xí)數(shù)據(jù)分析結(jié)果解釋的能力和多模態(tài)數(shù)據(jù)整合能力。在倫理風(fēng)險(xiǎn)方面,AIGC驅(qū)動(dòng)的學(xué)習(xí)分析存在潛在風(fēng)險(xiǎn)與隱憂,如生成內(nèi)容的質(zhì)量、信息誤導(dǎo)、隱私數(shù)據(jù)泄露、加劇數(shù)字鴻溝、消耗高昂計(jì)算成本等,也警示著各方利益相關(guān)者在教育系統(tǒng)中需要更加審慎地應(yīng)用AIGC相關(guān)技術(shù)。面向未來(lái)學(xué)習(xí)分析領(lǐng)域的研究,AIGC及其相關(guān)技術(shù)的發(fā)展將為探究人機(jī)協(xié)同的學(xué)習(xí)過(guò)程帶來(lái)全新的視角和可能,也將為研究學(xué)習(xí)過(guò)程提供更豐富的數(shù)據(jù)和創(chuàng)新的方法,同時(shí)將促使學(xué)習(xí)分析價(jià)值取向與目標(biāo)定位的重構(gòu),不斷促進(jìn)對(duì)復(fù)雜人機(jī)交互行為方式、人智協(xié)同的認(rèn)知變化與學(xué)習(xí)規(guī)律、AIGC融入的新型教學(xué)方式的理解和探索。
[參考文獻(xiàn)]
[1] SIEMENS G, LONG P. Penetrating the fog: analytics in learning and education[J/OL]. Educause review,2011,46(5):31-40[2024-03-21]. https://er.educause.edu/articles/2011/9/penetrating-the-fog-analytics-in-learning-and-education.
[2] 戴維·涅米,羅伊·D. 皮,博羅·薩克斯伯格,等. 教育領(lǐng)域?qū)W習(xí)分析[M]. 韓錫斌,韓贇兒,程建鋼,譯. 北京:清華大學(xué)出版社,2020.
[3] CASPARI-SADEGHI S. Learning assessment in the age of big data:learning analytics in higher education[J]. Cogent education,2023,10(1):1-11.
[4] BODILY R,KAY J,ALEVEN V,et al. Open learner models and learning analytics dashboards:a systematic review[C]//Proceedings of the 8th International Conference on Learning Analytics and Knowledge. Sydney New South Wales Australia:ACM,2018.
[5] BODILY R, VERBERT K. Review of research on student-facing learning analytics dashboards and educational recommender systems[J]. IEEE transactions on learning technologies,2017,10(4):405-418.
[6] MIRANDA S, VEGLIANTE R. Learning analytics to support learners and teachers: the navigation among contents as a model to adopt[J]. Journal of e-Learning and knowledge society, 2019,15(3):351-363.
[7] DIVJAK B,GRABAR D,SVETEC B,et al. Balanced learning design planning[J]. Journal of information and organizational sciences,2022,46(2):361-375.
[8] PERSICO D,POZZI F. Informing learning design with learning analytics to improve teacher inquiry[J]. British journal of educational technology,2015,46(2):230-248.
[9] K?魧RNER T,WARWAS J,SCHUMANN S. A learning analytics approach to address heterogeneity in the classroom:the teachers' diagnostic support system[J]. Technology,knowledge and learning,2021,26(1):31-52.
[10] XU A,MONROE W,BICKNELL K. Large language model augmented exercise retrieval for personalized language learning[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[11] VAN CAMPENHOUT R,KIMBALL M,CLARK M,et al. An investigation of automatically generated feedback on student behavior and learning[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[12] SZYMANSKI M,OOGE J,DE CROON R,et al. Feedback,control,or explanations?supporting teachers with steerable distractor-generating AI[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[13] BITEW S K,HADIFAR A,STERCKX L,et al. Learning to reuse distractors to support multiple-choice question generation in education[J]. IEEE transactions on learning technologies,2024,17:375-390.
[14] LI C L,ZHU W D,XING W L,et al. Analyzing student attention and acceptance of conversational AI for math learning:insights from a randomized controlled trial[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference.Kyoto:ACM,2024.
[15] CHENG Y X,LYONS K,CHEN G L,et al.Evidence-centered assessment for writing with generative AI[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[16] PHUNG T,P?魤DUREAN V A,SINGH A,et al. Automating human tutor-style programming feedback:leveraging GPT-4 tutor model for hint generation and GPT-3.5 student model for hint validation[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[17] SONKAR S,CHEN X H,LE M,et al. Code soliloquies for accurate calculations in large language models[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto :ACM,2024.
[18] HUTT S,DEPIRO A,WANG J,et al. Feedback on feedback:comparing classic natural language processing and generative AI to evaluate peer feedback[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[19] RASHID M P,GEHRINGER E,KHOSRAVI H. Navigating (dis)agreement:AI assistance to uncover peer feedback discrepancies[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[20] HOU C Y,ZHU G X,ZHENG J,et al. Prompt-based and fine-tuned GPT models for context-dependent and-independent deductive coding in social annotation[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[21] THOMAS D R,LIN J H,GATZ E,et al. Improving student learning with hybrid human-AI tutoring:a three-study quasi-experimental investigation[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[22] GARG R, HAN J, YIXIN CHENG A, et al. Automated discourse analysis via generative artificial intelligence[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[23] BORCHERS C,WANG Y Y,KARUMBAIAH S,et al. Revealing networks:understanding effective teacher practices in AI-supported classrooms using transmodal ordered network analysis[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[24] YAN L X, MARTINEZ-MALDONADO R, GASEVIC D. Generative artificial intelligence in learning analytics:contextualising opportunities and challenges through the learning analytics cycle[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[25] BERG A M,MOL S T,KISMIH?魷K G,et al.The role of a reference synthetic data generator within the field of learning analytics[J].Journal of learning analytics,2016,3(1):107-128.
[26] GURSOY M E, INAN A, NERGIZ M E, et al. Privacy-preserving learning analytics: challenges and techniques[J]. IEEE transactions on learning technologies,2017,10(1):68-81.
[27] DUNDER N, LUNDBORG S, WONG J, et al. Kattis vs ChatGPT:assessment and evaluation of programming tasks in the age of artificial intelligence[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[28] SOBANIA D, BRIESCH M, HANNA C, et al. An analysis of the automatic bug fixing performance of ChatGPT[C]//2023 IEEE/ACM International Workshop on Automated Program Repair (APR), May 16-16,2023. Melbourne: IEEE,2023:23-30.
[29] SAMADI M A, JAQUAY S, LIN Y W, et al. Minds and machines unite: deciphering social and cognitive dynamics in collaborative problem solving with AI[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto: ACM,2024.
[30] SURAWORACHET W, SEON J, CUKUROVA M. Predicting challenge moments from students’ discourse: a comparison of large language models to other natural language processing approaches[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto: ACM,2024.
[31] SINGH A, BROOKS C, WANG X, et al. Bridging learnersourcing and AI: exploring the dynamics of student-AI collaborative feedback generation[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[32] PISHTARI G, SARMIENTO-M?譧RQUEZ E, RODR?譧GUEZ-TRIANA M J, et al. Mirror mirror on the wall, what is missing in my pedagogical goals?The Impact of an AI-Driven Feedback System on the Quality of Teacher-Created Learning Designs[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[33] United Nations Educational, Scientific and Cultural Organization (UNESCO). Guidance for generative AI in education and research. [R/OL]. Paris: UNESCO, 2023[2024-04-15]. https://unesdoc.unesco.org/ark:/48223/pf0000386693.
[34] ALFREDO R, ECHEVERRIA V, JIN Y Q,et al. SLADE: a method for designing human-centred learning analytics systems[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[35] BORCHERS C, ZHANG J Y, BAKER R S, et al. Using think-aloud data to understand relations between self-regulation cycle characteristics and student performance in intelligent tutoring systems[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[36] DANG B, NGUYEN A, J?魧RVEL?魧 S. The unspoken aspect of socially shared regulation in collaborative learning: AI-driven learning analytics unveiling‘silent pauses’[C]//Proceedings of the 14th Learning Analytics and Knowledge Conference. Kyoto:ACM,2024.
[37] BUCKINGHAM SHUM S J, LUCKIN R. Learning analytics and AI: politics, pedagogy and practices[J]. British journal of educational technology,2019,50(6):2785-2793.
The Impact of AIGC on Learning Analytics: Current Status and Future Prospects
—A Review of the 2024 International Conference on Learning Analytics and Knowledge
SHI Wanruo," HAN Xibin
(Institute of Education, Tsinghua University, Beijing 100084)
[Abstract] The first Learning Analytics and Knowledge (LAK) conference in 2011 marked the establishment of the research of Learning Analytics. The emergence of Artificial Intelligence Generated Content (AIGC) in 2022 has brought an unprecedented impact on the research in this field. This paper, drawing on keynote addresses and proceedings from the latest LAK conference, systematically reviewed the impact of AIGC on Learning Analytics and its future development trend in terms of" technical system design, application scenarios, effectiveness evaluation and" ethical risks. The findings indicate that AIGC-based Learning Analytics systems is enhanced in terms of automation and customization matching capabilities. AIGC has the functional attributes of teacher, learner and teaching assistant, and has the potential for various applications around data generation, data measurement and analysis, and learning feedback. From the comparison between AIGC and conventional algorithms, as well as student learning experience, its application in learning analysis has certain advantages. However, there is no empirical evidence yet to suggest that the use of AIGC has an improved effect on learning outcomes. The development of AIGC and its related technologies will bring a new perspective and possibilities for exploring the learning process of human-computer collaboration, and will also provide richer data and innovative methods for studying the learning process. At the same time, it will lead to the reconstruction of the value orientation and goal orientation of learning analysis, and continuously promote the understanding and exploration of complex human-computer interaction behaviors, cognitive changes in human-intelligence collaboration, and learning patterns, as well as new teaching methods integrated with AIGC.
[Keywords] Artificial Intelligence Generated Content; Learning Analytics; AIGC in Education; International Conference on Learning Analytics and Knowledge; Literature Review