生成式人工智能教育應(yīng)用的價(jià)值與潛在風(fēng)險(xiǎn)

李艷燕

過去幾個(gè)月，以ChatGPT為代表的生成式人工智能熱潮席卷全球，引發(fā)了各級(jí)各類教育工作者的高度關(guān)注，也再次激發(fā)了人們對(duì)于智能技術(shù)賦能教育變革的新思考。

生成式人工智能是指一類基于深度學(xué)習(xí)的人工智能技術(shù)，能夠自動(dòng)生成新的文本、視頻、音頻、圖像等多模態(tài)內(nèi)容。與傳統(tǒng)人工智能專注于解決特定任務(wù)或問題不同，生成式人工智能著重在海量數(shù)據(jù)的基礎(chǔ)上生成新的信息。它具有四大功能特性：一是自然語言和代碼生成?；诖笠?guī)模深度學(xué)習(xí)模型，它能以自然、流暢和結(jié)構(gòu)化的方式，完成文章創(chuàng)作、連續(xù)對(duì)話、機(jī)器翻譯和代碼生成等各種文本生成任務(wù)。二是個(gè)性化生成。根據(jù)用戶的偏好和需求，它可以生成符合用戶興趣和認(rèn)知特點(diǎn)的定制化內(nèi)容，實(shí)現(xiàn)個(gè)性化的智能服務(wù)。三是上下文理解。它能基于對(duì)話內(nèi)容和情境，進(jìn)行語義理解與推理，生成符合上下文邏輯的連貫性回復(fù)。四是多模態(tài)的理解和生成。它可以識(shí)別文本、圖像、音頻、視頻等多模態(tài)的信息輸入，加以分析、集成后生成相應(yīng)的多模態(tài)內(nèi)容。

生成式人工智能融入教育教學(xué)將催生人機(jī)協(xié)同的教育新樣態(tài)。一是助力個(gè)性化學(xué)習(xí)。它可以根據(jù)學(xué)生的需求和學(xué)習(xí)風(fēng)格生成定制化的教育內(nèi)容與學(xué)習(xí)資源，并針對(duì)學(xué)生的回答或提問，提供適應(yīng)性的教學(xué)支架與反饋，實(shí)現(xiàn)個(gè)性化的學(xué)習(xí)服務(wù)。二是支持自主學(xué)習(xí)。它能夠回答問題、給出反饋，幫助學(xué)生管理學(xué)習(xí)時(shí)間、完成學(xué)習(xí)任務(wù)等，如學(xué)生可通過與ChatGPT的多輪對(duì)話開展自主學(xué)習(xí)，獲得更好的學(xué)習(xí)體驗(yàn)。三是提供學(xué)習(xí)資料。它能夠生成豐富的學(xué)習(xí)材料，如英語寫作范文示例或數(shù)學(xué)解題思路指導(dǎo)等，幫助學(xué)生快速學(xué)習(xí)和掌握課程內(nèi)容，提高學(xué)習(xí)效率。四是輔助教學(xué)設(shè)計(jì)。它還能為教師提供多樣化的教學(xué)服務(wù)，如基于教學(xué)目標(biāo)生成創(chuàng)新性的教學(xué)設(shè)計(jì)與教學(xué)活動(dòng)，在教學(xué)過程中為教師提供交互式的教學(xué)支持，以及生成適應(yīng)性的教學(xué)方案與個(gè)性化的隨堂練習(xí)等。五是賦能教學(xué)評(píng)價(jià)。通過與學(xué)生對(duì)話，它能夠了解學(xué)生的學(xué)習(xí)水平以及是否真正理解了所學(xué)內(nèi)容，識(shí)別學(xué)生的長(zhǎng)處、弱點(diǎn)和學(xué)習(xí)偏好等特征，實(shí)現(xiàn)對(duì)學(xué)生的個(gè)性化診斷，幫助教師實(shí)施精準(zhǔn)教學(xué)與評(píng)估，使教學(xué)更具吸引力、參與性和有效性。

但是，以ChatGPT為代表的生成式人工智能在教育領(lǐng)域應(yīng)用時(shí)也存在一些潛在風(fēng)險(xiǎn)。一是隱私和數(shù)據(jù)安全問題。目前我們并不清楚ChatGPT究竟是如何存儲(chǔ)、處理其與用戶交互的信息的，這導(dǎo)致我們?cè)谑褂眠@項(xiàng)技術(shù)時(shí)對(duì)隱私、安全、倫理等問題存在一定的擔(dān)憂。二是人工智能技術(shù)的偏見與歧視。ChatGPT等智能技術(shù)無法像人類一樣進(jìn)行復(fù)雜思考，所提供的信息是通過大量的訓(xùn)練數(shù)據(jù)自動(dòng)生成的，這些由人工智能自動(dòng)生成的信息可能存在一定的偏見性與攻擊性。三是產(chǎn)生過度依賴。ChatGPT能夠幫助學(xué)生撰寫論文、完成作業(yè)、通過考試，這些多樣化的學(xué)習(xí)服務(wù)可能導(dǎo)致學(xué)生產(chǎn)生過分的依賴心理，限制了自主學(xué)習(xí)和獨(dú)立思考能力的發(fā)展。四是提供不準(zhǔn)確或誤導(dǎo)性的信息。盡管ChatGPT能夠?yàn)閹熒峁┐罅康膶W(xué)習(xí)信息，但是這些信息的準(zhǔn)確性仍無法得到充分保證。

因此，為應(yīng)對(duì)這些風(fēng)險(xiǎn)，對(duì)于生成式人工智能在教育場(chǎng)景的應(yīng)用，我們應(yīng)該采取適當(dāng)?shù)拇胧?，包括加?qiáng)數(shù)據(jù)隱私保護(hù)、對(duì)模型進(jìn)行審查和驗(yàn)證、提供準(zhǔn)確的用戶指導(dǎo)和解釋、注重引導(dǎo)學(xué)生發(fā)展批判性思維和自主學(xué)習(xí)能力等，通過有效治理確保教育中的人機(jī)協(xié)同沿著規(guī)范有序的方向發(fā)展。

（作者系北京師范大學(xué)智慧學(xué)習(xí)研究院教授、博士生導(dǎo)師）