生成式人工智能教育應(yīng)用悖論

摘 要以生成式人工智能為代表的新一代人工智能教育應(yīng)用不斷涌現(xiàn)，為教育數(shù)字化轉(zhuǎn)型帶來無限可能。借鑒風(fēng)險社會理論思考生成式人工智能教育應(yīng)用，生成式人工智能教育應(yīng)用悖論將是教育領(lǐng)域長期存在的現(xiàn)象，誘發(fā)倫理風(fēng)險、教育失范風(fēng)險、“社會-物理-信息”空間交互異化風(fēng)險、個體人格情感異化風(fēng)險等。相關(guān)風(fēng)險可劃分為直接風(fēng)險、早期風(fēng)險、中期風(fēng)險、長期風(fēng)險四個階段，反映創(chuàng)新與傳統(tǒng)、效率與質(zhì)量、技術(shù)與道德、公平與不平等、教師與人工智能等矛盾。生成式人工智能教育應(yīng)用悖論的風(fēng)險側(cè)治理是一個復(fù)雜的系統(tǒng)性問題，應(yīng)結(jié)合柔性治理理念構(gòu)建風(fēng)險治理綜合防控體系，構(gòu)建生成式人工智能教育應(yīng)用風(fēng)險預(yù)防體系標(biāo)準(zhǔn)，強(qiáng)化教育全場景數(shù)據(jù)監(jiān)管體系建設(shè)與數(shù)據(jù)池監(jiān)管，構(gòu)建生成式人工智能教育應(yīng)用悖論風(fēng)險側(cè)預(yù)警系統(tǒng)，形成多元主體參與治理的協(xié)同聯(lián)動機(jī)制，引導(dǎo)利益主體正確看待教育公益與市場行為。

關(guān)鍵詞生成式人工智能 風(fēng)險治理 風(fēng)險社會 教育人工智能 教育安全治理 人工智能倫理

一、問題提出

近來，生成式人工智能（AGI）技術(shù)不斷更新迭代，短短幾個月時間，ChatGPT已經(jīng)由第四代更新到GPT-4 Turbo，它不僅能夠有效地處理文本分類、情感分析、機(jī)器翻譯等任務(wù)，還能生成新聞報道、故事、散文等。由于生成式人工智能神經(jīng)網(wǎng)絡(luò)的“黑箱”現(xiàn)象，國內(nèi)外學(xué)者強(qiáng)烈呼吁暫停生成式人工智能的研發(fā)，建議先開展生成式人工智能潛在風(fēng)險和可能引發(fā)的危機(jī)的研究，待找到合適的解決辦法或?qū)Σ吆笤倩谙嚓P(guān)準(zhǔn)則開展生成式人工智能研發(fā)。我國高度重視生成式人工智能的規(guī)范使用。2021年，科技部國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能倫理規(guī)范》，提出增進(jìn)人類福祉、促進(jìn)公平公正、保護(hù)隱私安全、確保可控可信、強(qiáng)化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)等6項基本倫理要求。（國家新一代人工智能治理專業(yè)委員會：《新一代人工智能倫理規(guī)范》， https：//www.most.gov.cn/kjbgz/202109/t20210926_177063.html。）2023年，國家人工智能標(biāo)準(zhǔn)化總體組、全國信標(biāo)委人工智能分委會發(fā)布《人工智能倫理治理標(biāo)準(zhǔn)化指南（2023版）》，對人工智能倫理風(fēng)險進(jìn)行了界定，針對倫理風(fēng)險評估、治理技術(shù)、治理標(biāo)準(zhǔn)進(jìn)行了闡釋，基于人工智能的敏捷治理原則，圍繞人工智能全生命周期，重點從數(shù)據(jù)、算法、系統(tǒng)（決策方式）、人為因素等4個維度，識別人工智能倫理風(fēng)險來源。這些文件均為開展生成式人工智能教育應(yīng)用風(fēng)險治理提供了參考依據(jù)和思路指引。

很多組織和學(xué)者針對生成式人工智能的風(fēng)險治理進(jìn)行了研討，嘗試提出一些阻斷生成式人工智能教育風(fēng)險的基本方法或策略。針對生成式人工智能的教育與安全治理，聯(lián)合國教科文組織于2023年9月發(fā)布《生成式人工智能教育和研究應(yīng)用指南》，旨在支持各國針對教育領(lǐng)域開展即時行動、規(guī)劃長期政策和探索生成式人工智能教育應(yīng)用落地，確保在教育服務(wù)過程中圍繞“以人為本”的理念采用生成式人工智能。（“Guidance for generative AI in education and research： UNESCO·2023”，https：//www.unesco.org/en/articles/guidance-generative-ai-education-and-research.）但實際上，生成式人工智能教育應(yīng)用話題的指向是教育的系統(tǒng)性變革。當(dāng)前，教育已經(jīng)步入智能時代，在“師-

生-機(jī)”三元結(jié)構(gòu)的教學(xué)場景中，生成式人工智能將分別在“教-學(xué)-管-評-測-練-輔”等環(huán)節(jié)顛覆現(xiàn)有的學(xué)校教育布局。技術(shù)具有“雙刃劍”屬性，生成式人工智能教育可能存在風(fēng)險的認(rèn)知一直徘徊于人們的思維中。因此，研判、識別教育應(yīng)用風(fēng)險，避免給教育生態(tài)系統(tǒng)帶來破壞性傷害甚至更沉重的打擊，需要揭示生成式人工智能教育應(yīng)用風(fēng)險的生成邏輯、發(fā)生線索、傳遞過程、極限可能等，進(jìn)而有針對性地提出治理路徑，制定預(yù)案促進(jìn)風(fēng)險化解。

若我們站在更宏大的社會背景下看待生成式人工智能教育應(yīng)用這一命題，可預(yù)見到生成式人工智能教育應(yīng)用帶來的影響不僅存在于教育系統(tǒng)內(nèi)部，還會外溢到社會層面，在聯(lián)通的社會系統(tǒng)中形成更為復(fù)雜的社會風(fēng)險。教育的核心在于人才培養(yǎng)，社會的核心在于人的聯(lián)系與活動，二者的關(guān)系可以通過社會風(fēng)險理論來考察。一方面，應(yīng)正視生成式人工智能教育應(yīng)用的價值與潛力；另一方面，坦承技術(shù)存在引發(fā)教育風(fēng)險的弊端。在這個邏輯框架下，生成式人工智能教育應(yīng)用出現(xiàn)悖論。我們既要妥善運(yùn)用生成式人工智能開展各類教育活動，甚至促動教育系統(tǒng)發(fā)生顛覆性變革；又要遏制潛在的應(yīng)用風(fēng)險，確保整個教育系統(tǒng)穩(wěn)定可靠。通過治理，推動生成式人工智能助力教育數(shù)字化深度轉(zhuǎn)型，賦能教育的系統(tǒng)性變革。

二、生成邏輯：生成式人工智能教育應(yīng)用悖論

（一）風(fēng)險社會視角下生成式人工智能教育應(yīng)用悖論

“風(fēng)險社會”最早是由烏爾里?！へ惪嗽?986年出版的《風(fēng)險社會》中提出的。貝克系統(tǒng)性地闡述了風(fēng)險社會的概念和形成機(jī)理，他提出風(fēng)險是人類活動的產(chǎn)物，與人的活動和創(chuàng)造緊密聯(lián)系，控制人類活動的未來結(jié)果可以實現(xiàn)控制預(yù)期不可控的事情。（[德]烏爾里?！へ惪耍骸讹L(fēng)險社會》，何博聞譯，譯林出版社，2004年，第19頁。）在特定文化、社會制度條件下，人類進(jìn)行現(xiàn)代化創(chuàng)造性活動將產(chǎn)生可預(yù)見的廣泛社會關(guān)聯(lián)、影響或傷害，風(fēng)險社會可以理解為可控情況下現(xiàn)代化進(jìn)程的副產(chǎn)品，并不具有必然性。（[德]烏爾里?！へ惪?、郗衛(wèi)東：《風(fēng)險社會再思考》，《馬克思主義與現(xiàn)實》，2002年第4期。 ）隨著社會物質(zhì)文化的快速發(fā)展和科技的快速迭代，教育領(lǐng)域的各類活動逐漸注重對科技的使用，運(yùn)用教育技術(shù)支持各類教學(xué)活動，教育數(shù)字化已經(jīng)成為教育現(xiàn)代化進(jìn)程中的標(biāo)志性特征之一。（袁振國：《教育數(shù)字化轉(zhuǎn)型：轉(zhuǎn)什么，怎么轉(zhuǎn)》，《華東師范大學(xué)學(xué)報（教育科學(xué)版）》， 2023年第3期。）生成式人工智能影響我國教育數(shù)字化轉(zhuǎn)型已是必然的趨勢，隨著人工智能技術(shù)的可靠性不斷提高，功能逐漸完備，教育領(lǐng)域正謀求運(yùn)用人工智能實現(xiàn)顛覆式變革，更好地建設(shè)教育強(qiáng)國。（黃斌、云如先：《教育發(fā)展何以強(qiáng)國——基于1960—2020年認(rèn)知技能國際可比數(shù)據(jù)的實證分析》，《教育研究》，2023年第10期。）因此，可以借助風(fēng)險社會理論框架來思考生成式人工智能教育應(yīng)用的未來風(fēng)險。

借鑒風(fēng)險社會理論思考生成式人工智能的教育應(yīng)用，我們默認(rèn)這項技術(shù)會在教育領(lǐng)域發(fā)揮重大作用，加速推動教育現(xiàn)代化進(jìn)程，甚至實現(xiàn)教育顛覆式變革，同時也認(rèn)為這種技術(shù)可能會在未來某一個時刻給教育領(lǐng)域帶來一定的風(fēng)險，甚至造成系統(tǒng)性的災(zāi)難?；谶@種預(yù)期判斷，我們必然要采取一些手段來遏制風(fēng)險，不斷剖析生成式人工智能教育應(yīng)用的方向、可能和價值，同時分別從技術(shù)本身、應(yīng)用主體、教育系統(tǒng)內(nèi)部結(jié)構(gòu)、教與學(xué)承載的知識內(nèi)容等方面考察風(fēng)險的可能與類型，在防止風(fēng)險的同時保證各教育主體善于運(yùn)用生成式人工智能，實現(xiàn)其教育目標(biāo)。因此，基于風(fēng)險社會理論，生成式人工智能教育應(yīng)用悖論就是指既要用好生成式人工智能，服務(wù)教育活動，又要客觀防范和應(yīng)對生成式人工智能可能引發(fā)的教育風(fēng)險。

生成式人工智能教育應(yīng)用悖論將是教育領(lǐng)域長期存在的現(xiàn)象?，F(xiàn)有教育形態(tài)與生成式人工智能即將融入的新型教育形態(tài)將形成“傳統(tǒng)-未來”的遞進(jìn)關(guān)系，進(jìn)而衍生出教育公平、隱私保護(hù)、數(shù)據(jù)安全、人類教師角色、技術(shù)可靠性、倫理等方面的問題，預(yù)示著各種潛在的風(fēng)險。我們需要采取行動應(yīng)對生成式人工智能教育應(yīng)用的諸多風(fēng)險挑戰(zhàn)。

（二）生成式人工智能教育應(yīng)用悖論的生成邏輯

1.內(nèi)源性生成邏輯

生成式人工智能教育應(yīng)用悖論有可能帶來種類繁多的風(fēng)險挑戰(zhàn)，為了規(guī)避這些風(fēng)險，認(rèn)清風(fēng)險的生成邏輯，有必要從技術(shù)本身和教育內(nèi)部特性兩方面進(jìn)行探究。生成式人工智能的技術(shù)性質(zhì)決定了它可能具有風(fēng)險傾向，如算法偏見、參數(shù)歧視、技術(shù)不穩(wěn)定等。從教育內(nèi)部特性來看，生成式人工智能的運(yùn)用有可能引發(fā)主體間關(guān)系、教育要素結(jié)構(gòu)、教育資源供給、教育制度適配等方面的風(fēng)險，如數(shù)據(jù)確權(quán)不當(dāng)、隱私泄露、認(rèn)知偏差、道德失范等。

（1）大模型技術(shù)自限性

當(dāng)前，生成式人工智能已經(jīng)商業(yè)化，在機(jī)器翻譯、文獻(xiàn)資料整理、人機(jī)對話、數(shù)據(jù)分析等方面有著得天獨厚的優(yōu)勢。教育領(lǐng)域也涌現(xiàn)出許多專門的生成式人工智能應(yīng)用，例如MathGPT、Hi Echo、“子曰”等依托教學(xué)大模型的生成式人工智能。隨著教育系統(tǒng)性變革的有序推進(jìn)，生成式人工智能教育應(yīng)用逐漸走向縱深。從生成式人工智能技術(shù)本身來看，引發(fā)的教育應(yīng)用風(fēng)險主要來自大模型設(shè)計、參數(shù)獲取和模型訓(xùn)練成熟度等方面。

首先，大模型設(shè)計方面一直備受關(guān)注。ChatGPT采用Transformer模型架構(gòu)，編碼器和解碼器不再采用RNN結(jié)構(gòu)，而是使用編碼器堆棧和解碼器堆棧。編碼器由Self-attention和前饋神經(jīng)網(wǎng)絡(luò)組成，每層之間都有殘差連接。解碼器除了Self-attention和前饋神經(jīng)網(wǎng)絡(luò)，還加入了編碼器-解碼器注意力模塊，每層之間同樣有殘差連接。這樣的模型架構(gòu)優(yōu)點是訓(xùn)練速度快、可微調(diào)、預(yù)訓(xùn)練、前后內(nèi)容關(guān)聯(lián)性強(qiáng)，但缺點也很突出，數(shù)據(jù)要求高、可解釋性差、對較復(fù)雜長距離的關(guān)系型語句學(xué)習(xí)能力差，等等。從模型技術(shù)路徑來看，潛在風(fēng)險因素較多，極有可能會在復(fù)雜語義理解、訓(xùn)練數(shù)據(jù)豐富程度等方面出現(xiàn)一定的認(rèn)知偏差或偏見。

其次，從數(shù)據(jù)集到訓(xùn)練參數(shù)，數(shù)據(jù)來源準(zhǔn)確性和采集質(zhì)量決定了訓(xùn)練后模型的“能力”，訓(xùn)練參數(shù)數(shù)量能強(qiáng)化生成式人工智能的敏感度和適用性。當(dāng)前常見的生成式人工智能數(shù)據(jù)集數(shù)據(jù)來源較為廣泛，并非專門針對教育領(lǐng)域的學(xué)科教學(xué)而構(gòu)建，這是目前生成式人工智能教育應(yīng)用在可靠性方面受到詬病的原因之一。

最后，模型訓(xùn)練調(diào)教和測試存在缺陷。目前，生成式對抗網(wǎng)絡(luò)模型（GANs）、生成式預(yù)訓(xùn)練轉(zhuǎn)化模型（GPT）、生成式擴(kuò)散模型（GDM）等用于訓(xùn)練生成式人工智能的模型算法對內(nèi)容的理解和嵌入具有一定的局限性。（Zhimin Zhang， Huansheng Ning， Feifei Shi， et al，“Articial intelligence in cyber security： Research advances， challenges， and opportunities”， Artificial Intelligence Review，vol.55（2022）.）雖然生成式人工智能可以生成相關(guān)內(nèi)容，但是這些內(nèi)容的準(zhǔn)確性、合法性、真實性等都有待進(jìn)一步確認(rèn)。（Mehdi Dadkhah， Marilyn H. Oermann， Mihály Hegedüs， et al，“Detection of fake papers in the era of artificial intelligence”， Diagnosis， vol.10， no.4（2023）. ）因此，生成式人工智能教育應(yīng)用過程中勢必會存在風(fēng)險，就技術(shù)本身來講，這種風(fēng)險可能體現(xiàn)在技術(shù)自限性方面，在一定程度上會給教育的某些方面帶來影響。

（2）教育內(nèi)部系統(tǒng)性變革

從教育內(nèi)部特性來看，生成式人工智能教育應(yīng)用的風(fēng)險來源較為復(fù)雜。這種內(nèi)部性源于數(shù)字素養(yǎng)、主體間關(guān)系、教育形態(tài)、教育資源、教育制度等方面，特別是在當(dāng)下的教育數(shù)字化轉(zhuǎn)型進(jìn)程中，生成式人工智能技術(shù)將被廣泛用于各種教育活動，影響“教-學(xué)-管-評-測-練-輔”等各環(huán)節(jié)。同時，開展智慧教育也需要更多地引入這類技術(shù)，為教與學(xué)提供支持，智慧校園建設(shè)更是離不開生成式人工智能的輔助支持，在校園內(nèi)廣泛地開展人機(jī)對話。這些需求將加速生成式人工智能在教育領(lǐng)域的落地應(yīng)用，這一趨勢不可避免。盡管生成式人工智能教育應(yīng)用落地已經(jīng)走在理論研究的前面，但是生成式人工智能無法避免技術(shù)自限性問題，試錯空間顯得尤為有限。

從教育主體來看，生成式人工智能的使用者主要是教師、學(xué)生和管理者等，他們直接運(yùn)用該項技術(shù)開展教育活動，但是使用的目的、動機(jī)、方向和方式不盡相同，認(rèn)識程度差異明顯，尤其是教師與學(xué)生之間存在明顯的知識差。本質(zhì)上，教育主體希望運(yùn)用生成式人工智能幫助解決問題，或在教與學(xué)方面有所收獲，但是由于主體間存在認(rèn)知、知識、能力等勢差，技術(shù)在教育過程中的主體駕馭與被牽制成為一種悖論——一方面，我們認(rèn)為主體能用好生成式人工智能，開展教育活動；另一方面，相關(guān)技術(shù)可能存在的反噬作用將使教育活動失之偏頗。

在教育形態(tài)與教育資源供給層面，生成式人工智能融入教育系統(tǒng)，勢必會造成傳統(tǒng)教育形態(tài)與新教育形態(tài)的摩擦，兩種教育形態(tài)的比較與更迭引發(fā)教育系統(tǒng)的內(nèi)耗在所難免。引入生成式人工智能的本意是促進(jìn)優(yōu)質(zhì)教育資源供給均等化，促進(jìn)受教育者的全面發(fā)展，但現(xiàn)實問題是生成式人工智能的獲取成本不斷增加，如配備支持該技術(shù)的設(shè)備、購買會員資格等，甚至教育活動參與者要通過虛擬專用網(wǎng)絡(luò)（VPN）才能使用ChatGPT，這些都將增加獲取優(yōu)質(zhì)教育資源的機(jī)會成本。

教育制度適配問題也將影響生成式人工智能的運(yùn)用。實際上，教育制度一直屬于層級模式，這給產(chǎn)生于互聯(lián)網(wǎng)環(huán)境中的生成式人工智能運(yùn)行帶來了一定挑戰(zhàn)。生成式人工智能適配于扁平化的制度模式，層級模式與扁平化的制度模式發(fā)生碰撞，若不積極改革，對教育領(lǐng)域的沖擊和引發(fā)的內(nèi)部系統(tǒng)性矛盾將愈發(fā)嚴(yán)重。

總之，在教育內(nèi)部發(fā)生系統(tǒng)性變革的趨勢下，教育數(shù)字化轉(zhuǎn)型需要生成式人工智能提供更多的支持和服務(wù)，如啟發(fā)智慧、傳遞知識、知識轉(zhuǎn)移、教育服務(wù)、參與教學(xué)等。同時，生成式人工智能可能會在教育系統(tǒng)內(nèi)部變革的進(jìn)程中引發(fā)風(fēng)險，在有限的容錯空間中，如何有效規(guī)避風(fēng)險成為一個迫切的問題。

2.外源性生成邏輯

生成式人工智能教育應(yīng)用悖論的外源性生成邏輯體現(xiàn)在教育系統(tǒng)之外的趨勢、力量或組織結(jié)構(gòu)對教育系統(tǒng)的滲透，如教育科技產(chǎn)業(yè)的快速發(fā)展、社會期盼的教育系統(tǒng)性變革、新一輪工業(yè)革命等。外源性力量對教育系統(tǒng)的影響較為強(qiáng)勢，主要原因是經(jīng)濟(jì)社會發(fā)展主導(dǎo)了教育發(fā)展形態(tài)，尤其是工業(yè)革命級別的社會變革將推動教育系統(tǒng)整體的顛覆式變革，（陳曉珊、戚萬學(xué)：《“技術(shù)”何以重塑教育》，《教育研究》，2021年第10期。）例如第三次工業(yè)革命推動教育領(lǐng)域建立了現(xiàn)有的學(xué)校教育模式，培養(yǎng)了大批科技、工業(yè)等方面的人才，反哺經(jīng)濟(jì)社會快速發(fā)展。

（1）新一輪科技革命

隨著人工智能技術(shù)的快速發(fā)展，數(shù)字經(jīng)濟(jì)在整個經(jīng)濟(jì)社會中的地位不斷提升，數(shù)據(jù)要素已經(jīng)成為經(jīng)濟(jì)社會發(fā)展的重要組成部分和推動新一輪科技革命的真正驅(qū)動力量。新一輪科技革命促使第四次工業(yè)革命悄然發(fā)生，工業(yè)4.0的核心是算力和數(shù)據(jù)要素，教育應(yīng)當(dāng)與這輪工業(yè)革命同步發(fā)展。因此，教育系統(tǒng)性變革需加速推進(jìn)才能與當(dāng)下的數(shù)字經(jīng)濟(jì)社會相匹配。德國“工業(yè)4.0”戰(zhàn)略促使德國教育界改變以往的教育形態(tài)，開始全面數(shù)字化轉(zhuǎn)型，并將人工智能、大數(shù)據(jù)、云計算等新興數(shù)字技術(shù)作為教育數(shù)字化轉(zhuǎn)型的基座。我國正在積極推動教育數(shù)字化轉(zhuǎn)型，生成式人工智能與這輪教育數(shù)字化轉(zhuǎn)型高度吻合。從輔助教師教學(xué)到支持學(xué)生個性化學(xué)習(xí)，再到虛擬數(shù)字人擔(dān)任理論課程教師，數(shù)字孿生也逐漸被應(yīng)用到學(xué)生全流程學(xué)習(xí)反饋與評價過程中，這些均是新一輪科技革命驅(qū)動下生成式人工智能教育應(yīng)用快速落地的表征。我國正加速建設(shè)教育強(qiáng)國，錨定“到2035年，形成我國在諸多領(lǐng)域人才競爭比較優(yōu)勢，國家戰(zhàn)略科技力量和高水平人才隊伍位居世界前列”（《深入實施新時代人才強(qiáng)國戰(zhàn)略 加快建設(shè)世界重要人才中心和創(chuàng)新高地》，《人民日報》，2021年9月29日。）的宏偉目標(biāo)，加快建設(shè)世界重要人才中心和創(chuàng)新高地。（周洪宇：《加快建設(shè)教育強(qiáng)國、科技強(qiáng)國、人才強(qiáng)國》，《紅旗文稿》，2023年第5期。）因此，教育領(lǐng)域?qū)⑿乱淮斯ぶ悄苓\(yùn)用于教育教學(xué)的愿望更加迫切，積極吸納高新數(shù)字技術(shù)助推高質(zhì)量人才培養(yǎng)。

（2）社會期盼的教育變革

全社會對教育質(zhì)量的要求和理想需求一直驅(qū)動或某種意義上塑造著當(dāng)下的教育。（柳海民、鄒紅軍：《高質(zhì)量：中國基礎(chǔ)教育發(fā)展路向的時代轉(zhuǎn)換》，《教育研究》，2021年第4期。）尤其是對優(yōu)質(zhì)教育資源的追求成為社會各界較為關(guān)注的議題，迫使教育界在開展課題研究的同時不斷調(diào)整教育資源布局。從教育主管部門的教育政策修訂和改革，到地方基層教育單位的教研、教師進(jìn)修、教育裝備更新、教育科技運(yùn)用、師生數(shù)字素養(yǎng)等方面都出現(xiàn)了極大的改善和提升，可以說，全社會對教育的要求推動了教育領(lǐng)域的內(nèi)在變革和系統(tǒng)改造。與此同時，教育主體也不斷地通過學(xué)習(xí)、采納、引入、轉(zhuǎn)化等手段將新型教育技術(shù)轉(zhuǎn)化為教與學(xué)的生產(chǎn)力工具，促進(jìn)績效正向提升，生成了一些新的教育教學(xué)模式，如線上線下混合式教學(xué)、翻轉(zhuǎn)課堂、行動教學(xué)、數(shù)字化探究式教學(xué)等。生成式人工智能在支持和服務(wù)這些新興教育教學(xué)模式方面具有天然的優(yōu)勢，教育部門各層級、各單位、各主體等都會逐漸引入生成式人工智能提供支持服務(wù)，甚至?xí)谡n堂教學(xué)中引入生成式人工智能，輔助啟發(fā)學(xué)生的創(chuàng)造性思維和批判性思維。數(shù)字社會建設(shè)正在提速，國際社會高度重視數(shù)字社會建設(shè)，如日本提出了“社會5.0”概念。（趙繼政、崔艷偉：《“社會5.0”戰(zhàn)略構(gòu)想下的日本職業(yè)教育改革動向探究——基于日本政府及產(chǎn)業(yè)協(xié)會相關(guān)報告》，《外國教育研究》，2023年第2期。）在數(shù)字社會的浪潮下，教育數(shù)智化是必然趨勢，生成式人工智能當(dāng)仁不讓。實際上，在社會的殷切期盼下，生成式人工智能教育應(yīng)用悖論的核心問題在于教育輸出端（即培養(yǎng)的人才）能否滿足經(jīng)濟(jì)社會發(fā)展的需要。社會期盼的教育變革是積極的、主動的、向善的，要求生成式人工智能更好地服務(wù)于教育，幫助培養(yǎng)優(yōu)秀人才，在思想、行為、能力、專業(yè)、認(rèn)知等方面輔助塑造全方位發(fā)展的人才。但是生成式人工智能被社會力量驅(qū)動進(jìn)入教育應(yīng)用層面后，被教育者能否主動運(yùn)用生成式人工智能輔助自身的學(xué)習(xí)、實現(xiàn)能力的提升？在現(xiàn)有教育制度和學(xué)校教育的框架下，學(xué)習(xí)者嘗試運(yùn)用生成式人工智能完成作業(yè)、回答問題等，結(jié)果可能是惰化思維或弱化獨立自主能力，（田陽、王運(yùn)武、于燕娟：《ChatGPT類人工智能推動教育數(shù)字化變革的失范風(fēng)險及應(yīng)對策略》，《中國醫(yī)學(xué)教育技術(shù)》，2023年第3期。）效果適得其反，這些不得不引起我們的高度關(guān)注。

（3）教育科技產(chǎn)業(yè)助推

隨著教育現(xiàn)代化進(jìn)程的加速，教育科技產(chǎn)業(yè)與教育的關(guān)系越發(fā)緊密，高新技術(shù)被引入教育系統(tǒng)，促進(jìn)教育發(fā)生系統(tǒng)性變革，推動教育教學(xué)提質(zhì)增效。教育領(lǐng)域越發(fā)注重教育發(fā)展的績效性，資源投入產(chǎn)出比成為評價的一種宏觀指標(biāo)，并得到教育行政主管部門的認(rèn)可與支持，整個教育系統(tǒng)步入科技賦能的新階段。教育科技的產(chǎn)業(yè)化運(yùn)作必然會推出促進(jìn)教育數(shù)字化轉(zhuǎn)型升級的產(chǎn)品，智慧校園系統(tǒng)、智慧教室、教育云平臺、元宇宙教育空間、虛擬教研室、網(wǎng)絡(luò)在線研修等逐漸通過“產(chǎn)-學(xué)-研-用-服”一體化快速落地，并得到廣泛運(yùn)用。很多教育科技企業(yè)參與其中，在技術(shù)支持、應(yīng)用服務(wù)、模式推廣等方面發(fā)揮了較大作用，這些項目和產(chǎn)品的落地有效反哺了教育科技企業(yè)。近來，人工智能教育應(yīng)用在教育科技產(chǎn)業(yè)領(lǐng)域頗受關(guān)注，教育科技企業(yè)嘗試以人工智能技術(shù)構(gòu)建數(shù)智融通的教育數(shù)字基座，在數(shù)字基座上部署人工智能應(yīng)用，實現(xiàn)數(shù)據(jù)驅(qū)動的精準(zhǔn)教學(xué)、人機(jī)協(xié)同互動教學(xué)、仿真環(huán)境的探究式教學(xué)、實時交互的遠(yuǎn)程教學(xué)等，同時開啟智能化學(xué)習(xí)新路徑，創(chuàng)建自適應(yīng)自主學(xué)習(xí)系統(tǒng)、智能自主學(xué)習(xí)終端、互聯(lián)網(wǎng)泛在學(xué)習(xí)等自主學(xué)習(xí)系統(tǒng)平臺；嘗試運(yùn)用生成式人工智能輔助教師備課，幫助學(xué)生減輕學(xué)習(xí)負(fù)擔(dān)，提供學(xué)生心理疏導(dǎo)以及輔助高效編程等。（訊飛教育技術(shù)研究院認(rèn)知智能國家重點實驗室智能教育研究中心：《2023智能教育發(fā)展藍(lán)皮書——智能技術(shù)助推教育數(shù)字化轉(zhuǎn)型》，https：//edu.iflytek.com/views-downloads/think-tank/41。）整體來看，來自教育科技產(chǎn)業(yè)的生成式人工智能教育應(yīng)用的驅(qū)動力量是向善的，但是作為數(shù)字教育資源，這類教育產(chǎn)品難免受到資本逐利本性的影響，追逐更廣泛的商業(yè)利益，在信息安全、內(nèi)容、運(yùn)營、知識產(chǎn)權(quán)、教學(xué)模式等方面難免存在一些風(fēng)險和問題，尤其是對個人隱私和互動過程中音頻視頻信息的保護(hù)不足，有可能導(dǎo)致隱私泄露，不利于未成年人的健康成長，甚至威脅人身安全。（曾海軍、田陽：《強(qiáng)化信息安全和備案審查：優(yōu)質(zhì)在線教育資源為師生所用》，《中國教育報》，2019年11月30日。）總之，教育科技產(chǎn)業(yè)發(fā)展驅(qū)動生成式人工智能落地教育應(yīng)用，在產(chǎn)品化的過程會衍生出一些不可預(yù)見的風(fēng)險特質(zhì)，有可能釀成一定的教育風(fēng)險。

三、存在限度：生成式人工智能教育應(yīng)用悖論中的風(fēng)險類型與預(yù)期

（一） 生成式人工智能教育應(yīng)用悖論中的風(fēng)險類型

生成式人工智能教育應(yīng)用悖論表現(xiàn)為教育領(lǐng)域?qū)ζ涞姆e極應(yīng)用可能會生成教育風(fēng)險，在社會風(fēng)險框架下將給教育領(lǐng)域帶來負(fù)面影響。當(dāng)前，生成式人工智能教育應(yīng)用的主要方向是個性化教學(xué)支持服務(wù)、個性化學(xué)習(xí)支持、教學(xué)支持服務(wù)、學(xué)習(xí)監(jiān)測與反饋、課堂教學(xué)觀察與分析、智能評閱、智慧校園等，由此看來，潛在風(fēng)險主要指向教師、學(xué)生、管理者、家長等教育行為主體。生成式人工智能的風(fēng)險點將集中在私人權(quán)益受沖擊、編造偽造信息、影響信息安全、張冠李戴、錯誤混淆、情緒化逃逸、隱私保護(hù)不力、認(rèn)知偏見等方面。（馮雨奐：《ChatGPT在教育領(lǐng)域的應(yīng)用價值、潛在倫理風(fēng)險與治理路徑》，《思想理論教育》，2023年第4期。）生成式人工智能教育應(yīng)用還有可能帶來師生關(guān)系異化問題，形成知識盲區(qū)，強(qiáng)化“信息繭房”現(xiàn)象。綜合分析國內(nèi)外學(xué)者有關(guān)生成式人工智能教育應(yīng)用風(fēng)險的研究文獻(xiàn)，（苗逢春：《生成式人工智能技術(shù)原理及其教育適用性考證》，《現(xiàn)代教育技術(shù)》，2023年第11期。朱永新、楊帆：《ChatGPT/生成式人工智能與教育創(chuàng)新：機(jī)遇、挑戰(zhàn)以及未來》，《華東師范大學(xué)學(xué)報（教育科學(xué)版）》，2023年第7期。

）當(dāng)前生成式人工智能教育應(yīng)用風(fēng)險主要包括倫理風(fēng)險、教育失范風(fēng)險、“社會-物理-信息”空間交互異化風(fēng)險、個體人格情感異化風(fēng)險等。

（二） 生成式人工智能教育應(yīng)用悖論預(yù)期及存在限度闡釋

1.悖論的風(fēng)險側(cè)預(yù)期

基于社會風(fēng)險理論的分析框架，生成式人工智能教育應(yīng)用悖論中的風(fēng)險側(cè)被稱為預(yù)期風(fēng)險，即可能發(fā)生或未來某一時刻將會發(fā)生的風(fēng)險現(xiàn)象。管控風(fēng)險側(cè)的核心目標(biāo)就是遏制風(fēng)險或減少風(fēng)險導(dǎo)致的損害，需要開展探針風(fēng)險識別、風(fēng)險評估、風(fēng)險應(yīng)對策略、風(fēng)險控制等基本的風(fēng)險管理業(yè)務(wù)流程，最終實現(xiàn)規(guī)避風(fēng)險或安全度過風(fēng)險。風(fēng)險的發(fā)生不是一蹴而就的，而是具有時間累積效應(yīng)。為此，采用專家咨詢的方式進(jìn)行探索，與領(lǐng)域內(nèi)專家學(xué)者進(jìn)行電話或微信咨詢，（ 本研究咨詢了16位具有高級職稱的教育學(xué)領(lǐng)域的專家學(xué)者，他們分別來自師范類大學(xué)、綜合性大學(xué)，其中來自師范類大學(xué)的專家13位（81.25%），來自“雙一流”高校的專家10位（62.50%），具有高級職稱的專家11位（68.75%），擁有副高職稱者5位（31.25%）。從專家的學(xué)校類型、職稱、學(xué)校聲譽(yù)等方面綜合來看，提出的建議具有較高的信度和代表性。

）征詢他們對風(fēng)險分類與預(yù)期風(fēng)險的判斷。綜合專家們的回答，生成式人工智能教育應(yīng)用的預(yù)期風(fēng)險可劃分為直接風(fēng)險、早期風(fēng)險、中期風(fēng)險、長期風(fēng)險四個階段，默認(rèn)為有些風(fēng)險在生成式人工智能投入教育領(lǐng)域時就可能發(fā)生，有些風(fēng)險則是隨著應(yīng)用時間的延遲而逐步顯現(xiàn)的（表1）。

首先，90%以上的專家認(rèn)為當(dāng)下生成式人工智能教育應(yīng)用還處于初級階段。從學(xué)段方面來看，在高等教育領(lǐng)域、成人繼續(xù)教育領(lǐng)域運(yùn)用較多，在中小學(xué)中的運(yùn)用目前還處于探索之中。不過一些商業(yè)化的生成式人工智能產(chǎn)品已經(jīng)出現(xiàn)，所以風(fēng)險側(cè)的直接風(fēng)險源于產(chǎn)品技術(shù)本身局限性的可能較大。其次，從教與學(xué)的場景看，幾乎所有專家都認(rèn)為在自主學(xué)習(xí)場景中學(xué)習(xí)者會采用人工智能技術(shù)嘗試提升學(xué)習(xí)效率或作為學(xué)習(xí)輔助，當(dāng)然，商業(yè)化的應(yīng)用產(chǎn)品可以更好地幫助學(xué)習(xí)者完成學(xué)習(xí)計劃、實現(xiàn)學(xué)習(xí)目標(biāo)，其中的風(fēng)險較為隱蔽，教師、家長、管理者等不易察覺。在學(xué)習(xí)者的自主行為中，預(yù)期風(fēng)險的暴露將會延遲，因此需對這類產(chǎn)品進(jìn)行較為嚴(yán)格的審查和監(jiān)管。最后，從參與教育的主體來看，教師、管理者、家長具備更高的鑒別能力，可以直接或逐步發(fā)現(xiàn)存在的問題，自主糾正，反而需關(guān)注學(xué)生端的風(fēng)險。整體而言，所有的參與主體都面臨隱私數(shù)據(jù)、算法偏見等方面的風(fēng)險。

2.悖論風(fēng)險側(cè)存在限度闡釋

生成式人工智能教育應(yīng)用悖論的存在限度是指悖論中的預(yù)期風(fēng)險從臨界狀態(tài)演變到風(fēng)險降臨的全過程。實際上，生成式人工智能教育應(yīng)用悖論風(fēng)險側(cè)存在限度即應(yīng)用側(cè)與風(fēng)險側(cè)的博弈行為，生成式人工智能的教育變革預(yù)期是強(qiáng)烈的，而且由于其獨特的學(xué)習(xí)和生成能力，在輔助教學(xué)、語言交流、同伴協(xié)同、創(chuàng)新思維等方面有其獨到的教育價值，同時，在學(xué)習(xí)支持服務(wù)領(lǐng)域已經(jīng)出現(xiàn)了許多商業(yè)化的產(chǎn)品，疊加教育數(shù)字化轉(zhuǎn)型，在生成式人工智能應(yīng)用側(cè)已經(jīng)出現(xiàn)持續(xù)的增長。為了保證應(yīng)用側(cè)的可持續(xù)發(fā)展，就必須遏制風(fēng)險側(cè)的不利影響。應(yīng)用側(cè)與風(fēng)險側(cè)時刻對應(yīng)，理論上而言，有生成式人工智能教育應(yīng)用現(xiàn)象發(fā)生，預(yù)期風(fēng)險就有可能存在，風(fēng)險限度這一概念就會成立（圖1）。

作為一種新興數(shù)字技術(shù)，生成式人工智能運(yùn)用于教育領(lǐng)域，在教學(xué)、管理、自主學(xué)習(xí)、教育評價、教研、學(xué)校安全等方面均可采用，在未來，應(yīng)用場景將得到進(jìn)一步挖掘。因此，生成式人工智能教育應(yīng)用悖論的應(yīng)用側(cè)與風(fēng)險側(cè)將長期共存且相互作用，提醒我們時刻警惕預(yù)期風(fēng)險的發(fā)生。在采納或運(yùn)用生成式人工智能開展教育活動的時候，應(yīng)當(dāng)嘗試構(gòu)建風(fēng)險管理模型，確保教育活動的有效、穩(wěn)定、可靠、綠色、安全。

基于存在限度的風(fēng)險預(yù)期背景，生成式人工智能之所以會導(dǎo)致風(fēng)險朝著風(fēng)險臨界方向發(fā)展，歸結(jié)起來是因為生成式人工智能教育應(yīng)用悖論的存在限度中含有幾對矛盾——創(chuàng)新與傳統(tǒng)、效率與質(zhì)量、技術(shù)與道德、公平與不平等、教師與人工智能等。

關(guān)于創(chuàng)新與傳統(tǒng)的矛盾。一方面，要在傳統(tǒng)教育的各環(huán)節(jié)結(jié)構(gòu)性地融入生成式人工智能；另一方面，要探索運(yùn)用生成式人工智能促進(jìn)教育變革的發(fā)生。在這一推進(jìn)過程中，創(chuàng)新與傳統(tǒng)是辯證、動態(tài)發(fā)展的，傳統(tǒng)教育應(yīng)用的創(chuàng)新將從嵌入生成式人工智能做起，教育創(chuàng)新者會推動顛覆式的教育變革，核心思想都是讓技術(shù)發(fā)揮教育價值，促進(jìn)教育朝著更好的方向發(fā)展。但是，在嘗試新技術(shù)的時候難免要做出風(fēng)險讓渡。

關(guān)于效率與質(zhì)量的矛盾。過去，強(qiáng)化效率必然要放棄獨立自主的特性，過分追求效率可能導(dǎo)致對教育質(zhì)量的關(guān)注度下降，進(jìn)而影響學(xué)生的全面發(fā)展，長此以往，造成的風(fēng)險就是思維惰化、過度依賴等。在強(qiáng)化質(zhì)量的前提下，教育類生成式人工智能必須更加安全、可靠、穩(wěn)定，這需要大量的資源投入和教育管理部門的強(qiáng)勢介入，代價就是較高的教育成本。

關(guān)于技術(shù)與道德的矛盾。這是預(yù)期風(fēng)險中最為直接的一種，教育活動參與者的隱私信息、行為數(shù)據(jù)等暴露明顯，若處理不當(dāng)就會造成信息泄露，導(dǎo)致倫理道德困境，教育活動參與者可能面臨倫理風(fēng)險。

關(guān)于公平與不平等的矛盾。教育不公平問題將更為突出，原因在于數(shù)字技術(shù)的運(yùn)用不僅需要物質(zhì)成本，還需要提前培養(yǎng)數(shù)字素養(yǎng)，尤其是生成式人工智能越是先進(jìn)和強(qiáng)大，教育成本就越高。擁有更多資源和先進(jìn)技術(shù)的學(xué)校將獲得更多的教育資源，弱勢學(xué)校和學(xué)生可能會進(jìn)一步被邊緣化。另外，優(yōu)質(zhì)教育資源將更多地向富裕地區(qū)和家庭傾斜。

關(guān)于教師與人工智能的矛盾。教師與人工智能在教育活動中將發(fā)揮各自的優(yōu)勢，教育場景中融入生成式人工智能，教師角色隨之轉(zhuǎn)變，教師主導(dǎo)-機(jī)器輔助的格局將逐步形成。在這一過程中，要防止產(chǎn)生錯誤的信息、誤導(dǎo)性的建議或不可靠的答案。如果這些錯誤的內(nèi)容被廣泛使用，將對學(xué)生的學(xué)習(xí)產(chǎn)生嚴(yán)重的負(fù)面影響。

四、風(fēng)險治理：生成式人工智能教育應(yīng)用悖論的應(yīng)對

（一）風(fēng)險治理理念分析

生成式人工智能教育應(yīng)用悖論中的風(fēng)險側(cè)治理是一個復(fù)雜的系統(tǒng)性問題，參與主體眾多，對技術(shù)的依賴程度較高，必然與傳統(tǒng)社會治理框架下“發(fā)現(xiàn)→探索→溯源→認(rèn)知→應(yīng)對”的治理程序大不相同。首先，教育領(lǐng)域的風(fēng)險關(guān)乎人的生理和心理，影響重大。其次，教育領(lǐng)域風(fēng)險的暴露面較為廣泛，后續(xù)影響難以鑒別。再次，教育領(lǐng)域風(fēng)險不存在風(fēng)險避免、風(fēng)險轉(zhuǎn)移，只有風(fēng)險減輕或風(fēng)險接受，后續(xù)可以通過心理介入或干預(yù)實現(xiàn)轉(zhuǎn)變。最后，教育領(lǐng)域風(fēng)險是無法包容的，這給風(fēng)險策略提出嚴(yán)峻挑戰(zhàn)。

風(fēng)險治理要考慮教育領(lǐng)域的特殊性和教育領(lǐng)域生成式人工智能應(yīng)用的多類態(tài)特征，生成式人工智能不僅會被教師、學(xué)生、管理者、家長等直接使用，還會作為底層技術(shù)基座被打造成新的教育服務(wù)應(yīng)用。當(dāng)下，生成式人工智能技術(shù)已經(jīng)被用于認(rèn)知服務(wù)、教學(xué)服務(wù)、課后輔導(dǎo)、學(xué)伴支持、個性化學(xué)習(xí)、語言教學(xué)等各方面，形成了多類態(tài)的教育應(yīng)用服務(wù)特色。因此，生成式人工智能教育應(yīng)用悖論的風(fēng)險側(cè)治理不能采取一刀切式的阻斷措施，傳統(tǒng)的剛性治理雖然能發(fā)揮一定的作用，但是容易“一棒子打死”；柔性治理的效果過于緩慢，在不能立即停止、避免損傷的前提下開展迂回處理并不適合教育領(lǐng)域的風(fēng)險危機(jī)處理，甚至適得其反，有可能誘發(fā)更大的危機(jī)。

韌性治理理念為生成式人工智能教育應(yīng)用悖論風(fēng)險側(cè)治理提供了新的方向。韌性治理是與剛性治理、柔性治理相對的一種治理理念，力度處于二者之間。韌性治理適用于復(fù)雜關(guān)系網(wǎng)絡(luò)結(jié)構(gòu)中的風(fēng)險治理問題?；陧g性治理理念，生成式人工智能教育應(yīng)用悖論風(fēng)險側(cè)治理需要關(guān)注人的本性，在治理全流程中尊重人的心理、生理特征，避免二次傷害。此外，生成式人工智能教育應(yīng)用悖論風(fēng)險側(cè)治理應(yīng)提前識別預(yù)期風(fēng)險，在治理進(jìn)程中應(yīng)確保穩(wěn)定性、可持續(xù)性、安全性、健康性。

（二）風(fēng)險治理對策建議

1.構(gòu)建生成式人工智能教育應(yīng)用風(fēng)險預(yù)防體系標(biāo)準(zhǔn)

生成式人工智能教育應(yīng)用風(fēng)險治理的核心在于精準(zhǔn)把控風(fēng)險發(fā)生的內(nèi)在機(jī)理，進(jìn)而有針對性地構(gòu)建應(yīng)對模式，制定多種行之有效的策略；了解機(jī)制生成機(jī)理之后，可以嘗試構(gòu)建相關(guān)標(biāo)準(zhǔn)，開展風(fēng)險預(yù)防。如同在實驗室制定安全管理辦法一樣，按照標(biāo)準(zhǔn)執(zhí)行操作，就不會觸碰風(fēng)險臨界閾，進(jìn)而避免風(fēng)險發(fā)生。針對教育領(lǐng)域生成式人工智能的應(yīng)用，應(yīng)盡快開展生成式人工智能風(fēng)險機(jī)理的研究，探索生成式人工智能教育應(yīng)用風(fēng)險的預(yù)防指標(biāo)，構(gòu)建風(fēng)險預(yù)防體系標(biāo)準(zhǔn)，從制度標(biāo)準(zhǔn)層面隔離風(fēng)險，進(jìn)而促進(jìn)生成式人工智能教育應(yīng)用生態(tài)的良性發(fā)展。

2.強(qiáng)化教育全場景數(shù)據(jù)監(jiān)管體系建設(shè)與數(shù)據(jù)池監(jiān)管

生成式人工智能教育應(yīng)用的直接風(fēng)險有可能發(fā)生在倫理層面，涉及數(shù)據(jù)隱私、算法偏見等，給教育系統(tǒng)使用生成式人工智能帶來了不小的挑戰(zhàn)。當(dāng)下，針對教育領(lǐng)域的數(shù)據(jù)確權(quán)、數(shù)字信任、隱私保護(hù)、數(shù)據(jù)要素流通等方面有待持續(xù)深入完善，在教育大模型的數(shù)據(jù)采集過程中加強(qiáng)隱私保護(hù)就顯得尤為重要。教育大模型的研發(fā)需要進(jìn)行算法設(shè)計，而算法決定了大模型的基本架構(gòu)和應(yīng)用方向，一旦算法層面出現(xiàn)誤差或存在偏見，負(fù)面影響難以估量。為此，教育主管部門有必要強(qiáng)化對教育全場景數(shù)據(jù)采集的監(jiān)管，通過數(shù)據(jù)確權(quán)、數(shù)字信任技術(shù)實現(xiàn)全流程監(jiān)管，保證隱私數(shù)據(jù)安全、涉密信息脫敏，同時制定用于訓(xùn)練教育大模型的數(shù)據(jù)采集標(biāo)準(zhǔn)，構(gòu)建教育大模型訓(xùn)練數(shù)據(jù)池，通過監(jiān)管實現(xiàn)教育全景數(shù)據(jù)的閉環(huán)管理。

3.構(gòu)建生成式人工智能教育應(yīng)用悖論風(fēng)險側(cè)預(yù)警系統(tǒng)

隨著科技的進(jìn)步，科技引發(fā)的風(fēng)險將越發(fā)強(qiáng)烈。例如在社交網(wǎng)絡(luò)興起階段，網(wǎng)絡(luò)輿情治理不夠健全，社交網(wǎng)絡(luò)平臺誘發(fā)的線上輿情轉(zhuǎn)化為線下社會事件屢見不鮮，成為互聯(lián)網(wǎng)快速發(fā)展帶來的風(fēng)險社會現(xiàn)象之一。當(dāng)下，針對生成式人工智能教育應(yīng)用悖論的風(fēng)險側(cè)治理尤為重要。生成式人工智能代表了人工智能領(lǐng)域最先進(jìn)的落地應(yīng)用，風(fēng)險預(yù)期最為強(qiáng)烈，強(qiáng)化預(yù)警系統(tǒng)有利于盡早發(fā)現(xiàn)預(yù)期風(fēng)險，偵測到風(fēng)險臨界狀態(tài)，及時實施柔性治理策略，遏制危險發(fā)生。該預(yù)警系統(tǒng)應(yīng)是多層次、多機(jī)構(gòu)、多級別的聯(lián)合預(yù)警監(jiān)測網(wǎng)絡(luò)，包含風(fēng)險預(yù)警監(jiān)測網(wǎng)站、APP、小程序等，吸納能夠熟練使用生成式人工智能的教師、管理者、家長、學(xué)生等多元主體，主動承擔(dān)風(fēng)險識別“探針”責(zé)任，發(fā)現(xiàn)風(fēng)險苗頭立即上報。上級主管部門組織應(yīng)急管理專家、技術(shù)人員、監(jiān)管人員等成立聯(lián)合預(yù)警評估組，識別風(fēng)險類型和風(fēng)險發(fā)展階段，做出合理預(yù)判后再采取進(jìn)一步措施。生成式人工智能教育應(yīng)用悖論風(fēng)險側(cè)預(yù)警系統(tǒng)應(yīng)當(dāng)做到早發(fā)現(xiàn)、早預(yù)警、早行動，避免風(fēng)險發(fā)生。

4.形成多元主體參與治理的協(xié)同聯(lián)動機(jī)制

智能網(wǎng)聯(lián)時代的風(fēng)險治理主體已經(jīng)不再局限于專門的監(jiān)管機(jī)構(gòu)或組織，傳統(tǒng)治理模式不能快速反應(yīng)、形成聯(lián)動，而且過于剛性和行政化，在教育領(lǐng)域容易形成二次傷害。教育領(lǐng)域風(fēng)險治理更需要柔性治理，通過情感維系來實現(xiàn)風(fēng)險控制。多元主體參與風(fēng)險治理能形成快速聯(lián)動機(jī)制，真正做到快速發(fā)現(xiàn)、快速治理，同時，不同治理主體的參與能讓教育活動者感受到治理過程中教育主管部門、社會組織、個體等的關(guān)注，建立情感聯(lián)系，實現(xiàn)風(fēng)險危機(jī)情緒扭轉(zhuǎn)，進(jìn)而實現(xiàn)預(yù)期風(fēng)險治理管控。為此，多元主體參與風(fēng)險治理需提供數(shù)字確權(quán)，獲取數(shù)字信任。在確保隱私數(shù)據(jù)、行為過程等安全的前提下，應(yīng)當(dāng)為多元主體參與風(fēng)險治理搭建交流溝通與行動的平臺，促使多元主體協(xié)同聯(lián)動，形成自組織力量，讓風(fēng)險治理從傳統(tǒng)行政組織層級下壓模式演進(jìn)為多元主體自組織涌現(xiàn)模式。

5.引導(dǎo)利益主體正確看待教育公益與市場行為

生成式人工智能教育應(yīng)用的推動力量一方面來自教育系統(tǒng)，另一方面來自研發(fā)利益主體，后者更期盼該項技術(shù)廣泛、深入地運(yùn)用于教育領(lǐng)域各環(huán)節(jié)、各場景，實現(xiàn)生成式人工智能與教育的全面融合發(fā)展。為此，研發(fā)生成式人工智能的利益主體會通過交流合作、商業(yè)活動、實驗探索等方式獲取教育活動數(shù)據(jù)，訓(xùn)練大模型，實現(xiàn)生成式人工智能教育應(yīng)用落地。這種運(yùn)作閉環(huán)雖然兼顧了教育的公益屬性和市場行為活動，但后者對利益主體的吸引力更大。為此，教育主管部門要加強(qiáng)對生成式人工智能教育應(yīng)用服務(wù)的利益主體進(jìn)行監(jiān)管，同時出臺合理的政策扶持引導(dǎo)相關(guān)利益主體正確處理教育公益與市場行為的關(guān)系，尊重教育規(guī)律、倫理規(guī)范等，確保生成式人工智能利益主體不會給教育系統(tǒng)造成風(fēng)險。

五、總 結(jié)

隨著教育大模型技術(shù)的進(jìn)步，生成式人工智能將在教育領(lǐng)域茁壯成長，與教育生態(tài)系統(tǒng)全面融合，成為教育生態(tài)系統(tǒng)中的底層基座技術(shù)，服務(wù)教育教學(xué)活動的方方面面。未來，生成式人工智能將成為教育現(xiàn)代化的標(biāo)志性技術(shù)特征之一，極大地提高教育教學(xué)質(zhì)量，助力我國教育數(shù)字化轉(zhuǎn)型走向縱深。但是，作為一項新興數(shù)字技術(shù)，生成式人工智能在教育領(lǐng)域的應(yīng)用還處于起步階段。相關(guān)技術(shù)的核心算法模型運(yùn)作機(jī)理依然無法解釋清楚，被科學(xué)家們比喻為“黑箱”，好在目前這個“黑箱”總體而言是向善的。構(gòu)建數(shù)據(jù)集和大規(guī)模訓(xùn)練參數(shù)可以實現(xiàn)人工智能大模型算法的有效訓(xùn)練，讓人工智能大模型具備人們期盼的能力和應(yīng)用價值。在教育領(lǐng)域，這類生成式人工智能應(yīng)用正逐步落地，而“黑箱”依然存在，高新技術(shù)的雙刃劍屬性無法避免。風(fēng)險社會理論不斷提醒人們，探索、制定針對生成式人工智能教育應(yīng)用悖論風(fēng)險側(cè)治理的對策尤為重要，很多深層次問題仍需要更多的研究者開展相關(guān)探討。

〔責(zé)任編輯：沈 丹〕

作者簡介：田陽，教育學(xué)博士，揚(yáng)州大學(xué)新聞與傳媒學(xué)院校聘教授。

基金項目：2023年江蘇省社會科學(xué)基金項目“指向初中課堂深度學(xué)習(xí)的生成式人工智能賦能機(jī)制研究”（23JYD015）；江蘇省教育科學(xué)規(guī)劃“十四五”2021年度重點課題“基于云網(wǎng)融合的江蘇數(shù)字教育資源公共服務(wù)模式研究”（C-b/2021/01/34）。