AIGC時(shí)代智能教育產(chǎn)品應(yīng)用如何監(jiān)管

摘 要：AIGC時(shí)代，智能教育產(chǎn)品驅(qū)動(dòng)并深刻影響著教育體系的數(shù)智化轉(zhuǎn)型，成為加速教育現(xiàn)代化進(jìn)程、構(gòu)建智慧教育生態(tài)的核心驅(qū)動(dòng)力。從回應(yīng)性監(jiān)管理論出發(fā)，審視智能教育產(chǎn)品應(yīng)用的內(nèi)外風(fēng)險(xiǎn)，明確事前、事中、事后監(jiān)管細(xì)節(jié)，采取從自治到律治逐步強(qiáng)化的策略，建立信用沙盒監(jiān)管主體機(jī)制，旨在構(gòu)建高階智馭的智能教育產(chǎn)品監(jiān)管體系。

關(guān)鍵詞：AIGC；智能教育產(chǎn)品；回應(yīng)性監(jiān)管理論；監(jiān)管體系

中圖分類號(hào) G434 文獻(xiàn)標(biāo)識(shí)碼 A 文章編號(hào) 1005-4634（2025）01-0020-09

2022年年底，ChatGPT一經(jīng)發(fā)布，便在全球范圍內(nèi)迅速普及并得到廣泛應(yīng)用。與此同時(shí)，中國(guó)本土的頂尖AIGC產(chǎn)品，如文心一言、云雀大模型、智譜清言等，亦如雨后春筍般涌現(xiàn)，共同推動(dòng)了人工智能從1.0時(shí)代向2.0時(shí)代——即“AIGC時(shí)代”的跨越，深刻重塑了內(nèi)容生產(chǎn)的格局與教育的未來(lái)形態(tài)。智慧教育作為AIGC時(shí)代教育的新范式，相較于工業(yè)時(shí)代的教育形態(tài)，呈現(xiàn)出本質(zhì)性的差異與革新[1]。2024年1月，教育部部長(zhǎng)懷進(jìn)鵬在2024世界數(shù)字教育大會(huì)上強(qiáng)調(diào)：“以智慧教育平臺(tái)國(guó)際版開通為契機(jī)，……打造高品質(zhì)的全球公共教育服務(wù)產(chǎn)品?！盵2]在此背景下，智能教育產(chǎn)品作為智能技術(shù)在教育領(lǐng)域應(yīng)用的核心載體，承載著推動(dòng)教育創(chuàng)新變革、引領(lǐng)教育未來(lái)發(fā)展的重要使命[3]。然而，隨著智能教育產(chǎn)品的廣泛應(yīng)用，數(shù)據(jù)使用的合規(guī)性風(fēng)險(xiǎn)[4]、內(nèi)容生成過(guò)程中的濫用隱患[5]、算法運(yùn)行的不透明性及偏見風(fēng)險(xiǎn)[6]等監(jiān)管問(wèn)題日益凸顯。如何有效監(jiān)管AIGC時(shí)代的智能教育產(chǎn)品應(yīng)用，確保其在合法、安全、倫理的軌道上運(yùn)行，已成為亟待解決的關(guān)鍵問(wèn)題。因此，本研究將從回應(yīng)性監(jiān)管理論視角出發(fā)，對(duì)AIGC時(shí)代智能教育產(chǎn)品的監(jiān)管框架進(jìn)行深入剖析，以期為智能教育產(chǎn)品的健康發(fā)展提供價(jià)值參照。

1 智能教育產(chǎn)品監(jiān)管的歷史進(jìn)路

1.1 智能教育產(chǎn)品的演進(jìn)溯源

智能教育產(chǎn)品演進(jìn)的核心在于智能技術(shù)的迭代與發(fā)展。AIGC時(shí)代的智能技術(shù)可以追溯至1943年，Warren McCulloch與Walter Pitts提出了旨在模擬人類神經(jīng)元運(yùn)作機(jī)制的數(shù)學(xué)模型[7]。隨后，Alan Turing在1947年提出“智能機(jī)器”的構(gòu)想，并于1950年通過(guò)論文《計(jì)算機(jī)器與智能》正式提出圖靈測(cè)試，為機(jī)器智能的評(píng)估確立了方法論標(biāo)準(zhǔn)[8]。1956年，達(dá)特茅斯會(huì)議正式提出“人工智能”的概念，但受限于技術(shù)和計(jì)算資源，人工智能僅停留于理論構(gòu)想層面。然而，隨著ELIZA聊天機(jī)器人的出現(xiàn)，RNN、LSTM網(wǎng)絡(luò)的引入，機(jī)器學(xué)習(xí)算法得以飛速發(fā)展。生成對(duì)抗網(wǎng)絡(luò)（GAN）、Transformer模型等技術(shù)的問(wèn)世，特別是ChatGPT等先進(jìn)生成式語(yǔ)言模型的誕生，推動(dòng)了生成式人工智能的創(chuàng)新突破。國(guó)家數(shù)據(jù)局局長(zhǎng)劉烈宏指出，大模型作為新一代人工智能技術(shù)發(fā)展的重要方向，高效賦能千行百業(yè)[9]。中國(guó)科學(xué)院副院長(zhǎng)吳朝暉認(rèn)為，需引育更多高層次人工智能創(chuàng)新人才，推動(dòng)更多產(chǎn)業(yè)政策落地落實(shí)，共同促進(jìn)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展[9]。鑒于此，教育作為國(guó)家戰(zhàn)略發(fā)展的重中之重，智能技術(shù)賦能教育領(lǐng)域成為必然趨勢(shì)。

從政策導(dǎo)向?qū)用鎭?lái)看，國(guó)務(wù)院于2017年頒布的《新一代人工智能發(fā)展規(guī)劃》提出建設(shè)人工智能學(xué)科，倡導(dǎo)形成“人工智能+X”復(fù)合專業(yè)培養(yǎng)新模式[10]。2022年，我國(guó)教育部在《義務(wù)教育信息科技課程標(biāo)準(zhǔn)》中明確將人工智能納入課程體系[11]。2024年，我國(guó)教育部啟動(dòng)人工智能賦能教育行動(dòng)，實(shí)施四項(xiàng)關(guān)鍵舉措，旨在全面推動(dòng)人工智能深度融入教育教學(xué)，加速教育模式的智能化轉(zhuǎn)型[12]。國(guó)際視野下，德國(guó)聯(lián)邦教研部發(fā)布《人工智能行動(dòng)計(jì)劃》，強(qiáng)調(diào)在教育系統(tǒng)中研究和設(shè)計(jì)基于人工智能的技術(shù)[13]。美國(guó)教育技術(shù)辦公室（U.S. Department of Education’s Office of Educational Technology）發(fā)布的《人工智能與教學(xué)的未來(lái)》報(bào)告，亦倡導(dǎo)利用先進(jìn)技術(shù)優(yōu)化教學(xué)實(shí)踐，促進(jìn)教育系統(tǒng)創(chuàng)新[14]。

從教育實(shí)踐層面來(lái)看，智能教育產(chǎn)品的應(yīng)用取得顯著成效。2020年，安徽省教育廳在高考閱卷工作中采用“人工智能輔助的在線評(píng)卷質(zhì)量監(jiān)控體系”，既有效避免了人工評(píng)卷可能出現(xiàn)的主觀性誤差、評(píng)分錯(cuò)誤等問(wèn)題，又提升了監(jiān)管效能[15]。四川省則首開先河，運(yùn)用人工智能技術(shù)回溯審查高考監(jiān)控視頻，有效維護(hù)了考試公平[16]。哈薩克斯坦阿里·法拉比國(guó)立大學(xué)在期末考核中廣泛采用數(shù)智技術(shù)，考試形式中數(shù)字化元素占比超過(guò)八成，其校長(zhǎng)Zhanseit Tuimebayev強(qiáng)調(diào)，此舉對(duì)提升高?？蒲袑?shí)力與全球競(jìng)爭(zhēng)力至關(guān)重要，是實(shí)現(xiàn)聯(lián)合國(guó)可持續(xù)發(fā)展教育目標(biāo)的重要途徑[17]。

1.2 智能教育產(chǎn)品監(jiān)管現(xiàn)行圖式架構(gòu)

在智能教育產(chǎn)品融入教育領(lǐng)域的進(jìn)程中，風(fēng)險(xiǎn)作為技術(shù)的固有屬性[18]，其技術(shù)倫理隱憂在研發(fā)、部署及監(jiān)管的全鏈條中逐漸顯現(xiàn)。首先，教學(xué)技術(shù)循環(huán)中存在的“倫理缺位”引發(fā)了教育生態(tài)倫理失衡[19]，諸如數(shù)據(jù)隱私泄露、教育技術(shù)濫用、公平機(jī)會(huì)失衡等問(wèn)題日益凸顯。其次，技術(shù)主體間交往模式的異化[20]，進(jìn)一步引發(fā)學(xué)生自主性下降、批判思維缺失，師生創(chuàng)新意識(shí)衰退及教師教學(xué)主導(dǎo)邊緣化等問(wèn)題。此外，信息資源的分配不均加劇了數(shù)字鴻溝，同時(shí)智能資源的設(shè)計(jì)與運(yùn)用也顯著缺乏人文關(guān)懷。故而，強(qiáng)化智能教育產(chǎn)品的管理監(jiān)督，確保技術(shù)倫理的落實(shí)，是當(dāng)前教育領(lǐng)域亟需應(yīng)對(duì)的關(guān)鍵議題。

在技術(shù)革新與監(jiān)管需求并驅(qū)的當(dāng)下，精準(zhǔn)把握技術(shù)創(chuàng)新與監(jiān)管的平衡點(diǎn)已成為全球矚目的核心議題。美國(guó)、英國(guó)、法國(guó)等七國(guó)集團(tuán)出臺(tái)《人工智能國(guó)際指導(dǎo)原則》及《人工智能開發(fā)者自愿行為準(zhǔn)則》，為AI全球治理貢獻(xiàn)重要參照[21]。2024年，歐盟頒布全球首部綜合性《人工智能法案》，依據(jù)風(fēng)險(xiǎn)級(jí)別實(shí)施AI模型分類監(jiān)管，明確界定責(zé)任主體及違規(guī)處罰措施[22]。我國(guó)亦積極響應(yīng)AI技術(shù)的發(fā)展態(tài)勢(shì)，工業(yè)和信息化部等四部門聯(lián)合頒布了《國(guó)家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南（2024版）》，從基礎(chǔ)共性標(biāo)準(zhǔn)、基礎(chǔ)支撐標(biāo)準(zhǔn)、關(guān)鍵技術(shù)標(biāo)準(zhǔn)、智能產(chǎn)品與服務(wù)標(biāo)準(zhǔn)、賦能新型工業(yè)化標(biāo)準(zhǔn)、行業(yè)應(yīng)用標(biāo)準(zhǔn)以及安全/治理標(biāo)準(zhǔn)七大核心領(lǐng)域入手，為AI產(chǎn)業(yè)的規(guī)范化、標(biāo)準(zhǔn)化發(fā)展奠定了堅(jiān)實(shí)基礎(chǔ)[23]。中國(guó)國(guó)家網(wǎng)信辦頒布的《生成式人工智能服務(wù)管理暫行辦法》[24]與中央網(wǎng)信辦提出的《全球人工智能治理倡議》[25]均旨在規(guī)范AIGC技術(shù)的使用邊界，以在技術(shù)創(chuàng)新與風(fēng)險(xiǎn)治理之間尋求平衡。教育領(lǐng)域，聯(lián)合國(guó)教科文組織發(fā)布的《教育與研究領(lǐng)域生成式人工智能指南》呼吁各國(guó)政府、教育機(jī)構(gòu)及社會(huì)各界共同努力，為教育領(lǐng)域人工智能技術(shù)的規(guī)范應(yīng)用創(chuàng)造有利條件[26]。2024年，世界數(shù)字教育大會(huì)的“人工智能與數(shù)字倫理”專題論壇中，全球的政策制定者與實(shí)踐領(lǐng)域的專家分享了各自國(guó)家在AI教育應(yīng)用上的成功經(jīng)驗(yàn)，并致力于探討達(dá)成全球共識(shí)的監(jiān)管路徑[27]。綜上，當(dāng)前教育領(lǐng)域雖已初步涉足人工智能應(yīng)用的監(jiān)管策略探索，但普遍聚焦于宏觀層面的原則性引導(dǎo)，導(dǎo)致實(shí)踐中常出現(xiàn)監(jiān)管不力的情況。鑒于此，應(yīng)進(jìn)一步細(xì)化和完善智能教育產(chǎn)品的監(jiān)管細(xì)則，推動(dòng)智能教育應(yīng)用的可持續(xù)發(fā)展。

2 回應(yīng)性監(jiān)管：重塑智能教育產(chǎn)品監(jiān)管框架

回應(yīng)性監(jiān)管理論（Responsive Regulation）作為當(dāng)代國(guó)際監(jiān)管理論領(lǐng)域中的核心與前沿，由美國(guó)學(xué)者Ian Ayres與澳大利亞學(xué)者John Braithwaite在其合著的《回應(yīng)性監(jiān)管：超越放松監(jiān)管的范式》中首次系統(tǒng)闡述，指出政府唱“獨(dú)角戲”的監(jiān)管模式和完全依靠市場(chǎng)調(diào)節(jié)的監(jiān)管方式都難以獲得最佳的監(jiān)管質(zhì)效，進(jìn)而提出混合政府監(jiān)管和非政府干預(yù)手段的第三條道路，即回應(yīng)性監(jiān)管[28]?；貞?yīng)性監(jiān)管理論的理論基礎(chǔ)主要包括治理術(shù)理論、法律的自創(chuàng)生理論以及回應(yīng)法理論。首先，Michel Foucault的治理術(shù)理論顛覆了傳統(tǒng)權(quán)力研究的宏觀范式，指出治理過(guò)程不僅是權(quán)力的行使，更伴隨著知識(shí)的生成與共生，主張個(gè)體通過(guò)“自我規(guī)訓(xùn)”實(shí)現(xiàn)內(nèi)在約束[29]。其次，Niklas Luhmann提出法律的自創(chuàng)生理論，主張社會(huì)架構(gòu)由一系列在規(guī)范層面封閉、認(rèn)知層面開放的子系統(tǒng)構(gòu)成，基于系統(tǒng)間的結(jié)構(gòu)耦合特性[30]，利用法律的反身機(jī)制（即自我監(jiān)管機(jī)制）達(dá)成子系統(tǒng)間的和諧整合[31]，進(jìn)而實(shí)現(xiàn)對(duì)社會(huì)系統(tǒng)內(nèi)部結(jié)構(gòu)的法律監(jiān)管。再次，Pilippe Nonet、Philip Selznick從合法性視角重新闡釋權(quán)威，主張合法性的內(nèi)涵與實(shí)效具有動(dòng)態(tài)性和情境依賴性。在此基礎(chǔ)上，他們進(jìn)一步提出：法治不僅是法律規(guī)則的集合，更是一種具有超越性價(jià)值的制度體系，其核心在于法律的獨(dú)立性以及自治型法律機(jī)構(gòu)在治理結(jié)構(gòu)中的主導(dǎo)地位[32]。

在上述理論的基礎(chǔ)上，Ian Ayres和John Braithwaite衍生出優(yōu)基監(jiān)管理論，通過(guò)“監(jiān)管工具金字塔”與“監(jiān)管策略金字塔”的監(jiān)管框架共同指導(dǎo)監(jiān)管實(shí)踐[33]，調(diào)和并融合威懾式執(zhí)法與遵從式執(zhí)法之間的內(nèi)在張力[34]，從而對(duì)傳統(tǒng)監(jiān)管模式的單一性和僵化性提出挑戰(zhàn)，倡導(dǎo)建立一種更為靈活、動(dòng)態(tài)的政府與非政府組織、私營(yíng)部門乃至公民社會(huì)之間的合作型監(jiān)管架構(gòu)，從而實(shí)現(xiàn)了回應(yīng)性監(jiān)管體系的靈活性與適應(yīng)性。

2.1 回應(yīng)性監(jiān)管手段：從柔性支持到剛性強(qiáng)制

回應(yīng)性監(jiān)管理論主張行政機(jī)構(gòu)在選擇執(zhí)法工具時(shí)，應(yīng)遵循“監(jiān)管手段金字塔”自下而上、由柔至剛的監(jiān)管邏輯框架（見圖1）。具體而言，該理論傾向于首先運(yùn)用金字塔底部那些強(qiáng)制力最弱、側(cè)重于協(xié)商與合作的勸導(dǎo)與教育手段。當(dāng)且僅當(dāng)較為柔和的手段未能達(dá)到預(yù)期效果時(shí)，行政機(jī)構(gòu)才會(huì)逐級(jí)提升監(jiān)管工具的威懾力與懲戒力度[35]154，旨在以最小干預(yù)實(shí)現(xiàn)合規(guī)目標(biāo)。然而，針對(duì)傳統(tǒng)監(jiān)管模式過(guò)于偏重制裁、忽視激勵(lì)的局限性，布雷斯維特進(jìn)一步提出了“雙重監(jiān)管工具金字塔”模型（見圖2），即在原有的“強(qiáng)制手段金字塔”前增設(shè)“支持手段金字塔”，通過(guò)優(yōu)先采用“軟”措施來(lái)激發(fā)公民精神，同時(shí)以嚴(yán)厲的懲罰作為后盾，確保監(jiān)管的威懾力。具體而言，在面對(duì)監(jiān)管挑戰(zhàn)時(shí)，監(jiān)管部門應(yīng)優(yōu)先采用由低至高的支持性手段，通過(guò)提供必要的資源、信息和指導(dǎo)，幫助被監(jiān)管者主動(dòng)遵守規(guī)定。若所有非懲罰性措施均未能奏效，監(jiān)管部門才會(huì)轉(zhuǎn)向“懲罰性金字塔”，即便在這一階段，也應(yīng)從輕微的說(shuō)服引導(dǎo)開始，逐步加強(qiáng)制裁措施[36]。

2.2 回應(yīng)性監(jiān)管策略：從自我調(diào)適至命令控制

監(jiān)管策略金字塔（見圖3）所主張的“回應(yīng)性”主要體現(xiàn)為精準(zhǔn)識(shí)別被監(jiān)管者的動(dòng)機(jī)，依據(jù)個(gè)體動(dòng)機(jī)的差異性實(shí)施差異化待遇，并選擇恰當(dāng)策略進(jìn)行有效激勵(lì)[35]35-38。該金字塔的策略實(shí)施倡導(dǎo)自主權(quán)從底層向頂層逐步收縮、從自我監(jiān)管向命令控制的監(jiān)管機(jī)制，依據(jù)行業(yè)的自律能力動(dòng)態(tài)調(diào)整監(jiān)管的強(qiáng)度。在監(jiān)管權(quán)的配置上，金字塔模型涵蓋四維策略。首要策略是鼓勵(lì)自我監(jiān)管，旨在激發(fā)個(gè)體與組織內(nèi)在的責(zé)任感與自律性。其次是強(qiáng)化型自我監(jiān)管層面，通過(guò)提升行業(yè)自律意識(shí)與能力，推動(dòng)高效的自我管理的實(shí)現(xiàn)。再次，利用酌罰式命令式監(jiān)管，對(duì)違規(guī)行為采取適度且有針對(duì)性的懲罰措施，以達(dá)到警示效果。最后，采取超罰式命令型監(jiān)管，對(duì)嚴(yán)重違法者實(shí)施重罰，確保法律法規(guī)的權(quán)威性和威懾力得以彰顯。監(jiān)管策略金字塔能夠精確匹配各種情境下的監(jiān)管要求，從而賦予監(jiān)管工作極高的靈活性與適應(yīng)性。

2.3 智能教育產(chǎn)品監(jiān)管中回應(yīng)回應(yīng)性監(jiān)管的適應(yīng)性探究

20世紀(jì)末，經(jīng)濟(jì)合作與發(fā)展組織（OECD）提倡突破傳統(tǒng)“命令控制型”監(jiān)管模式的束縛，積極探索更為智慧、靈活的監(jiān)管路徑[37]。回應(yīng)性監(jiān)管理論超越了簡(jiǎn)單的“放松監(jiān)管”與“強(qiáng)化監(jiān)管”二元對(duì)立思維，主張監(jiān)管策略應(yīng)高度適應(yīng)于被監(jiān)管對(duì)象的具體行為與特性，既保留了必要的政府干預(yù)力量，又充分激發(fā)了社會(huì)自我監(jiān)管和市場(chǎng)機(jī)制的作用，能夠精準(zhǔn)匹配智能教育產(chǎn)品的快速變化與多樣化需求，實(shí)現(xiàn)監(jiān)管效率與公正性的雙重提升。因此，將回應(yīng)性監(jiān)管嵌入智能教育產(chǎn)品監(jiān)管領(lǐng)域展現(xiàn)出顯著的耦合效應(yīng)，其理論上的契合性和實(shí)踐中的可操作性具體體現(xiàn)在以下三個(gè)方面。

首先，監(jiān)管工具動(dòng)態(tài)響應(yīng)被監(jiān)管體的隨機(jī)風(fēng)險(xiǎn)。面對(duì)新興技術(shù)與應(yīng)用模式的快速迭代，惰化思維、超綱教學(xué)、商業(yè)算法逐利等技術(shù)倫理問(wèn)題過(guò)度依賴社群舉報(bào)實(shí)施監(jiān)管[38]，造成問(wèn)題暴露后才進(jìn)行補(bǔ)救的被動(dòng)局面，凸顯了當(dāng)前監(jiān)管缺乏前瞻性和主動(dòng)性的現(xiàn)狀，因而難以有效預(yù)見并預(yù)防威脅教育發(fā)展的潛在風(fēng)險(xiǎn)。鑒于智能產(chǎn)品在教育領(lǐng)域違規(guī)使用的多樣性和復(fù)雜性，其引發(fā)事件性質(zhì)多樣、社會(huì)影響不一，回應(yīng)性監(jiān)管工具的制定摒棄“一刀切”的簡(jiǎn)單化處理，精準(zhǔn)匹配不同監(jiān)管情境下的最優(yōu)監(jiān)管主體與制度設(shè)計(jì)。同時(shí)，主張構(gòu)建風(fēng)險(xiǎn)導(dǎo)向的分級(jí)監(jiān)管體系，依據(jù)智能教育產(chǎn)品的功能特性、應(yīng)用范圍及潛在風(fēng)險(xiǎn)等因素，將其劃分為不同風(fēng)險(xiǎn)級(jí)別，并據(jù)此采取針對(duì)性的懲戒舉措，確保監(jiān)管體系的持續(xù)有效性和針對(duì)性。

其次，監(jiān)管策略高度契合監(jiān)管主體的多樣態(tài)需求。依據(jù)《國(guó)家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南（2024版）》，人工智能標(biāo)準(zhǔn)體系框架涵蓋從基礎(chǔ)共性標(biāo)準(zhǔn)（A）至智能產(chǎn)品與服務(wù)（D）等全方位領(lǐng)域[39]。這要求監(jiān)管機(jī)構(gòu)不僅需深入理解產(chǎn)品的技術(shù)架構(gòu)、功能特性及其市場(chǎng)定位，還需精準(zhǔn)把握產(chǎn)品生命周期的各個(gè)階段，強(qiáng)調(diào)多主體協(xié)同監(jiān)管的重要性。然而，智能教育產(chǎn)品監(jiān)管面臨主體單一、高技術(shù)人才短缺及算法“黑箱”復(fù)雜等挑戰(zhàn)，致使監(jiān)管難以深入全面從而存在盲區(qū)?；貞?yīng)性監(jiān)管理論力圖打破單一行政監(jiān)管的局限，推動(dòng)構(gòu)建多方協(xié)同的監(jiān)管框架，強(qiáng)調(diào)吸納產(chǎn)品開發(fā)者、終端用戶等核心利益相關(guān)方，依據(jù)效率與效果最優(yōu)原則分配監(jiān)管責(zé)任[40]，倡導(dǎo)通過(guò)政府、企業(yè)、行業(yè)機(jī)構(gòu)及專業(yè)監(jiān)管部門間的權(quán)利分配與下放，實(shí)現(xiàn)監(jiān)管權(quán)責(zé)的有限讓渡和交割[41]。

再次，監(jiān)管目標(biāo)追求高效執(zhí)行與公正裁決的雙重優(yōu)化。回應(yīng)性監(jiān)管不僅強(qiáng)調(diào)監(jiān)管工具的動(dòng)態(tài)響應(yīng)和監(jiān)管策略的多元化契合，更將高效執(zhí)行與公正裁決作為其核心監(jiān)管目標(biāo)，以確保監(jiān)管措施能夠迅速而準(zhǔn)確地落地實(shí)施。高效執(zhí)行體現(xiàn)了協(xié)同監(jiān)管機(jī)構(gòu)在智能教育產(chǎn)品領(lǐng)域面對(duì)市場(chǎng)快速變遷時(shí)的卓越勝任力，憑借敏銳洞察與靈活應(yīng)變，通過(guò)流程精簡(jiǎn)、技術(shù)創(chuàng)新及人員效能提升，確保監(jiān)管措施迅速且高效落地。公正裁決則筑就了監(jiān)管的透明度與公信力基石，要求監(jiān)管機(jī)構(gòu)秉持中立立場(chǎng)，確保決策公正無(wú)私，并構(gòu)建完善的投訴與申訴體系，迅速吸納各方聲音，保障監(jiān)管實(shí)踐具備可操作性。

3 回應(yīng)性監(jiān)管視角下智能教育產(chǎn)品應(yīng)用的雙維風(fēng)險(xiǎn)分析

3.1 智能教育產(chǎn)品研發(fā)缺陷引發(fā)的內(nèi)隱患

3.1.1 數(shù)據(jù)安全風(fēng)險(xiǎn)

智能教育產(chǎn)品的核心優(yōu)勢(shì)在于基于大數(shù)據(jù)分[HJ46x]析驅(qū)動(dòng)知識(shí)流、學(xué)習(xí)流、技術(shù)流與交互流的精準(zhǔn)整合，通過(guò)深度挖掘與分析教育數(shù)據(jù)，最大限度地釋放學(xué)習(xí)潛力。然而，大量師生的敏感信息被集中存儲(chǔ)于數(shù)據(jù)庫(kù)系統(tǒng)，面臨著技術(shù)漏洞、防護(hù)不足、數(shù)據(jù)集中存儲(chǔ)的固有脆弱性、法律法規(guī)滯后以及數(shù)據(jù)所有權(quán)歸屬爭(zhēng)議等多重挑戰(zhàn)，用戶數(shù)據(jù)防護(hù)體系一旦遭受侵襲，將集體暴露于篡改、竊取、盜用及泄露的嚴(yán)峻風(fēng)險(xiǎn)之中。相較于傳統(tǒng)的生產(chǎn)要素，數(shù)據(jù)要素在價(jià)值量化層面面臨三重特殊挑戰(zhàn)：其一，動(dòng)態(tài)演變的供需關(guān)系與高度場(chǎng)景化的應(yīng)用特征，導(dǎo)致價(jià)值評(píng)估體系呈現(xiàn)非線性特征；其二，多主體參與下的權(quán)屬邊界模糊，造成確權(quán)機(jī)制與監(jiān)管規(guī)則間的結(jié)構(gòu)性矛盾；其三，敏感信息的保護(hù)強(qiáng)度與數(shù)據(jù)流通需求之間存在內(nèi)生性沖突。此類挑戰(zhàn)不僅顯著提升了數(shù)據(jù)要素的價(jià)值計(jì)量復(fù)雜度，更引發(fā)價(jià)值衡量標(biāo)準(zhǔn)失準(zhǔn)、權(quán)責(zé)配置效能弱化、信任機(jī)制構(gòu)建困難等衍生問(wèn)題。

3.1.2 認(rèn)知偏差風(fēng)險(xiǎn)

智能教育產(chǎn)品作為教育內(nèi)容的核心供給者，其精確性與客觀性直接塑造學(xué)習(xí)者的思維模式。然而，生成式人工智能在內(nèi)容創(chuàng)作環(huán)節(jié)面臨訓(xùn)練數(shù)據(jù)集的局限性、模型粒度的不均衡以及算法設(shè)計(jì)的內(nèi)在約束，共同限制了模型處理復(fù)雜邏輯、常識(shí)及專業(yè)知識(shí)的效能，使模型易于產(chǎn)生與實(shí)際情況相悖、邏輯上難以自圓其說(shuō)的內(nèi)容，最終導(dǎo)致智能教育產(chǎn)品出現(xiàn)認(rèn)知偏差。世界經(jīng)濟(jì)論壇《2024年全球風(fēng)險(xiǎn)報(bào)告》將“誤導(dǎo)性信息”視為未來(lái)兩年的首要風(fēng)險(xiǎn)，研究顯示ChatGPT在誤導(dǎo)測(cè)試中將80%信以為真，對(duì)重大議題（如烏克蘭危機(jī)、校園槍擊案等）發(fā)表誤導(dǎo)聲明[42]。而技術(shù)研發(fā)內(nèi)部的封閉性與不透明性，導(dǎo)致監(jiān)管機(jī)構(gòu)難以窺探模型內(nèi)部邏輯與數(shù)據(jù)處理機(jī)制，引致產(chǎn)品與監(jiān)管間的信息鴻溝，從而嚴(yán)重制約了對(duì)內(nèi)容誤差的即時(shí)識(shí)別與精確校正能力。

3.1.3 道德倫理風(fēng)險(xiǎn)

大模型訓(xùn)練數(shù)據(jù)庫(kù)中的高質(zhì)中文語(yǔ)料短缺，存在社會(huì)、性別偏見及刻板印象等問(wèn)題[43]，導(dǎo)致意識(shí)形態(tài)話語(yǔ)的偏見和錯(cuò)誤[44]。在性別平等議題上，部分高級(jí)分析模型傾向于選擇“男性”作為更有可能獲得職位的群體。此外，將暴力行為與特定地域錯(cuò)誤關(guān)聯(lián)，輸出不公正且負(fù)面的地域刻板印象。當(dāng)此類包含性別、種族、宗教或地域等偏見的內(nèi)容隱匿于智能教育產(chǎn)品之中時(shí)，將與教育的核心理念產(chǎn)發(fā)生沖突，干擾學(xué)生在成長(zhǎng)過(guò)程中對(duì)世界的理性認(rèn)知，阻礙其理性思維的發(fā)展和高尚品德的培育，最終致使教育偏離育人的根本目標(biāo)。追根溯源，這一系列問(wèn)題的癥結(jié)在于對(duì)智能教育產(chǎn)品缺乏有效的倫理審查機(jī)制，使其在執(zhí)行指令時(shí)無(wú)法對(duì)自身潛在的偏見進(jìn)行甄別和糾正，從而引發(fā)深刻的科技倫理困境與人文反思[45]。因此，需維系技術(shù)創(chuàng)新優(yōu)勢(shì)與學(xué)術(shù)道德原則之間的動(dòng)態(tài)平衡狀態(tài)，防止技術(shù)優(yōu)勢(shì)淪為“教育壟斷領(lǐng)地”。

3.2 智能教育產(chǎn)品應(yīng)用不當(dāng)誘發(fā)的外隱患

3.2.1 智能產(chǎn)品用戶群體失“新”化

相較于傳統(tǒng)教育模式，智能教育產(chǎn)品憑借即時(shí)響應(yīng)與高效解決問(wèn)題的能力，克服了專家反饋的滯后性和人際溝通的局限性。盡管存在一定的決策偏差，但仍極大地滿足了師生即時(shí)滿足、低質(zhì)要求的普遍需求，進(jìn)而誘發(fā)人類本性的惰性傾向，導(dǎo)致對(duì)人工智能的過(guò)度依賴及濫用現(xiàn)象。當(dāng)人工智能成為解答問(wèn)題的“快捷鍵”時(shí)，學(xué)習(xí)即被簡(jiǎn)化為對(duì)既定知識(shí)的記憶與再現(xiàn)，教學(xué)則重歸“知識(shí)主義、灌輸主義及技術(shù)主義”[46]的價(jià)值取向，加劇了教育的功利化與工具化傾向，透露出反智主義傾向[47]。然而，當(dāng)前監(jiān)管體系存在明顯的滯后性，若不從宏觀層面加以遏制，智能產(chǎn)品用戶群體的創(chuàng)新性精神將遭受抑制，同時(shí)技術(shù)壟斷于少數(shù)“強(qiáng)勢(shì)主體”，將加劇階級(jí)固化與技術(shù)壁壘[48]，進(jìn)而對(duì)國(guó)家長(zhǎng)遠(yuǎn)發(fā)展的競(jìng)爭(zhēng)力構(gòu)成嚴(yán)峻挑戰(zhàn)。

3.2.2 標(biāo)準(zhǔn)化“編碼”違逆主觀多樣性

教育教學(xué)領(lǐng)域中，算法局限性與教育主體多樣性的矛盾加劇，過(guò)度信賴算法結(jié)論易致認(rèn)知膚淺與主體性喪失[49]。例如，江蘇某大學(xué)采用人臉識(shí)別系統(tǒng)監(jiān)控學(xué)生的學(xué)習(xí)行為，試圖通過(guò)“編碼”方式評(píng)價(jià)學(xué)生課堂表現(xiàn)，其本質(zhì)上是對(duì)教育過(guò)程進(jìn)行了過(guò)度簡(jiǎn)化和機(jī)械化的處理，催使課堂演變?yōu)橐环N形式化的表演，引發(fā)學(xué)生的反感情緒，進(jìn)而削弱教師對(duì)學(xué)生課堂真實(shí)反饋的感知。同樣，智能績(jī)效考核系統(tǒng)如Credit SPMS，其數(shù)據(jù)至上主義的評(píng)價(jià)范式，將復(fù)雜的倫理判斷簡(jiǎn)化為外顯行為指標(biāo)測(cè)評(píng)體系，導(dǎo)致道德理想建構(gòu)與職業(yè)信念培養(yǎng)等內(nèi)隱性維度被系統(tǒng)性遮蔽，割裂了道德能力培育的歷時(shí)性特征與道德精神養(yǎng)成的場(chǎng)域依存性，造成教師倫理主體性的結(jié)構(gòu)性消解。

4 回應(yīng)性監(jiān)管視角下智能教育產(chǎn)品監(jiān)管進(jìn)路

4.1 厘清“事前事中事后”監(jiān)管細(xì)則

借鑒美國(guó)“全面監(jiān)管鏈條”理念，以“事前預(yù)防、事中監(jiān)控、事后應(yīng)對(duì)”為核心，與“雙重監(jiān)管工具金字塔”模型融合，構(gòu)建出一個(gè)涵蓋預(yù)防、監(jiān)控、反饋激勵(lì)與違規(guī)懲處等全過(guò)程的“斜坡式”智能教育產(chǎn)品監(jiān)管工具框架（見圖4），旨在進(jìn)一步厘清并落實(shí)從預(yù)防到應(yīng)對(duì)各階段的監(jiān)管細(xì)則，從而實(shí)現(xiàn)對(duì)智能教育產(chǎn)品的全面、系統(tǒng)且高效的監(jiān)管。

在產(chǎn)品尚未進(jìn)入市場(chǎng)的事前預(yù)防階段，監(jiān)管方采用嚴(yán)苛的打壓與懲戒措施可能會(huì)削弱研發(fā)主體的創(chuàng)新動(dòng)力。相反，如遵循“支持手段金字塔”的監(jiān)管激勵(lì)機(jī)制，根據(jù)產(chǎn)品研發(fā)的實(shí)際進(jìn)展動(dòng)態(tài)調(diào)整激勵(lì)力度，將顯著促進(jìn)產(chǎn)品研發(fā)的良性進(jìn)展。在產(chǎn)品研發(fā)初期，政府應(yīng)采用鼓勵(lì)式教育和勸說(shuō)的方式，為研發(fā)方指引明確的方向。隨著研發(fā)進(jìn)程的推進(jìn)，對(duì)于所取得的任何細(xì)微進(jìn)步，監(jiān)管部門都應(yīng)給予及時(shí)的非正式表?yè)P(yáng)，以激發(fā)團(tuán)隊(duì)的士氣與活力。當(dāng)研發(fā)成果達(dá)到特定成就時(shí)，應(yīng)通過(guò)正式的表彰和適量的資助進(jìn)一步鞏固并擴(kuò)大激勵(lì)效果。對(duì)于那些在關(guān)鍵領(lǐng)域取得突破性進(jìn)展或展現(xiàn)出卓越創(chuàng)新能力的項(xiàng)目，政府更應(yīng)加大表彰與資助的力度，使之成為行業(yè)的標(biāo)桿與典范。最終，當(dāng)產(chǎn)品全面達(dá)標(biāo)甚至超越預(yù)期而為市場(chǎng)帶來(lái)顯著價(jià)值時(shí)，政府應(yīng)授予其最高的榮譽(yù)與獎(jiǎng)勵(lì)，以示對(duì)其卓越貢獻(xiàn)的肯定。

進(jìn)入事中和事后階段，即產(chǎn)品市場(chǎng)化的關(guān)鍵[HJ60x]階段，監(jiān)管措施需從激勵(lì)性向懲戒性轉(zhuǎn)變。為有效應(yīng)對(duì)用戶數(shù)據(jù)保護(hù)不力、實(shí)時(shí)監(jiān)控缺失等核心問(wèn)題，產(chǎn)品開發(fā)方需定期提交年度報(bào)告，全面、真實(shí)地反映產(chǎn)品的運(yùn)營(yíng)狀況，包括但不限于違規(guī)查處情況、質(zhì)量監(jiān)測(cè)結(jié)果、投訴處理效率及數(shù)據(jù)處理透明度等關(guān)鍵指標(biāo)。針對(duì)產(chǎn)品初入市場(chǎng)時(shí)可能存在的瑕疵與不足，監(jiān)管部門應(yīng)首先采取說(shuō)服教育的措施，強(qiáng)化產(chǎn)品開發(fā)者的合規(guī)意識(shí)與自我監(jiān)管能力。若違規(guī)行為初現(xiàn)端倪，監(jiān)管部門應(yīng)及時(shí)發(fā)出正式警告，明確界定違規(guī)行為的本質(zhì)、潛在法律后果及整改要求，以此作為警示并督促其迅速采取行動(dòng)。對(duì)于拒不改正的違規(guī)者，監(jiān)管部門應(yīng)依據(jù)既定法律法規(guī)，逐步采取由經(jīng)濟(jì)罰款至吊銷營(yíng)業(yè)執(zhí)照，乃至啟動(dòng)刑事追責(zé)程序等更為嚴(yán)厲的制裁措施。

4.2 實(shí)施“自治引導(dǎo)至律治強(qiáng)化”的監(jiān)管策略

為實(shí)現(xiàn)監(jiān)管效能最大化，監(jiān)管方需將監(jiān)管策略細(xì)化為相互關(guān)聯(lián)又各有側(cè)重的多維層級(jí)，針對(duì)特定監(jiān)管主體（如政府監(jiān)管機(jī)構(gòu)、第三方評(píng)估機(jī)[HJ80x]構(gòu)、企業(yè)/行業(yè)自我監(jiān)管等）的職能特性與資源稟賦進(jìn)行設(shè)計(jì)，遵循“自治引導(dǎo)至律治強(qiáng)化”的金字塔層級(jí)實(shí)施監(jiān)管策略（見圖5）。

金字塔基層監(jiān)管的核心在于激發(fā)企業(yè)的自創(chuàng)生機(jī)制。在企業(yè)維度，企業(yè)需積極肩負(fù)社會(huì)責(zé)任，視高質(zhì)量與安全性為核心競(jìng)爭(zhēng)力之所在，通過(guò)構(gòu)建完備的內(nèi)部質(zhì)量管理體系、推行用戶反饋機(jī)制等手段，將合規(guī)要求深度融入日常運(yùn)營(yíng)之中，從而培育出濃厚的合規(guī)文化，實(shí)現(xiàn)自我約束與提升，并與監(jiān)管部門形成積極的互動(dòng)關(guān)系。在用戶維度，教師、學(xué)生及教育機(jī)構(gòu)等多元產(chǎn)品用戶群體使得直接監(jiān)管面臨諸多挑戰(zhàn)，故強(qiáng)化用戶的自律意識(shí)與自我保護(hù)能力顯得尤為重要。企業(yè)作為產(chǎn)品研發(fā)的核心主體，應(yīng)當(dāng)建立健全用戶身份認(rèn)證與行為追蹤系統(tǒng)，這一舉措不僅能夠提升產(chǎn)品的安全性與個(gè)性化服務(wù)水平，更是實(shí)施合規(guī)性評(píng)估與預(yù)警的關(guān)鍵技術(shù)支撐。通過(guò)該系統(tǒng)，企業(yè)能夠敏銳地捕捉并糾正潛在的不合規(guī)行為，為智能教育行業(yè)的穩(wěn)健與可持續(xù)發(fā)展奠定牢固的基礎(chǔ)。

隨著金字塔監(jiān)管層級(jí)的上升，策略趨向靈活與細(xì)化。中層監(jiān)管聚焦行業(yè)自律與標(biāo)準(zhǔn)制定，以強(qiáng)化型自我監(jiān)管作為中堅(jiān)，監(jiān)管對(duì)象主要包括歷史上存在監(jiān)管問(wèn)題的主體及高影響力部門，此階段強(qiáng)調(diào)通過(guò)建立健全的內(nèi)部管理體系、風(fēng)險(xiǎn)管理制度實(shí)現(xiàn)高水平自我約束。Parker的“后設(shè)監(jiān)管”理念打破了政府單一的主導(dǎo)模式[50]，激發(fā)企業(yè)內(nèi)生動(dòng)力，促使其從被動(dòng)接受監(jiān)管轉(zhuǎn)向主動(dòng)尋求合規(guī)。企業(yè)需完善內(nèi)部管理體系與風(fēng)險(xiǎn)管理制度，以政企互動(dòng)推動(dòng)強(qiáng)化型自我監(jiān)管發(fā)展。以政府及第三方機(jī)構(gòu)通過(guò)抽查、要求公開內(nèi)部評(píng)估報(bào)告等手段監(jiān)督企業(yè)，同時(shí)提供政策指導(dǎo)與資源支持，強(qiáng)化政府監(jiān)管職能，提升企業(yè)自我監(jiān)管能力。

金字塔頂部包含酌罰式命令監(jiān)管與超罰式命令監(jiān)管，構(gòu)成了最嚴(yán)厲且富有策略性的層級(jí)。酌罰式命令監(jiān)管標(biāo)志著監(jiān)管體系向多元共治模式的轉(zhuǎn)型，整合監(jiān)管委員會(huì)與第三方機(jī)構(gòu)力量，依據(jù)違規(guī)行為的性質(zhì)與嚴(yán)重程度，采取靈活多樣化的命令式監(jiān)管措施，旨在實(shí)現(xiàn)違規(guī)震懾與合規(guī)引導(dǎo)的雙重目標(biāo)。而超罰式命令監(jiān)管則專門應(yīng)對(duì)極端違規(guī)情形，由具備廣泛代表性的監(jiān)管委員會(huì)負(fù)責(zé)啟動(dòng)，通過(guò)實(shí)施高額罰款、市場(chǎng)禁入等嚴(yán)厲的處罰手段，充分彰顯監(jiān)管體系的權(quán)威性與嚴(yán)肅性，為營(yíng)造健康、有序、可持續(xù)發(fā)展的教育生態(tài)提供制度支撐。

4.3 構(gòu)建“信用沙盒”監(jiān)管主體機(jī)制

為響應(yīng)回應(yīng)性監(jiān)管框架下的“分類監(jiān)管”原則，監(jiān)管方應(yīng)當(dāng)施行一種包容性與審慎性并重的監(jiān)管策略，以激勵(lì)智能教育產(chǎn)品的開發(fā)者開拓新型服務(wù)模式及產(chǎn)品創(chuàng)新領(lǐng)域，力圖構(gòu)建一個(gè)既可行又值得信賴的創(chuàng)新生態(tài)系統(tǒng)，從而達(dá)成監(jiān)管舉措與創(chuàng)新活力之間的和諧共生與良性互動(dòng)。首先，構(gòu)建政企數(shù)據(jù)共通平臺(tái)，繪制多維監(jiān)管主體信[HJ45x]用畫像。監(jiān)管部門應(yīng)全面整合智能教育產(chǎn)品運(yùn)營(yíng)方的各類信用資訊，充實(shí)信用檔案，并推行沙盒內(nèi)外全方位的精細(xì)化標(biāo)簽管理模式，為實(shí)施精準(zhǔn)化、差異化的監(jiān)管策略奠定堅(jiān)實(shí)基礎(chǔ)。其次，引入“信用沙盒”機(jī)制[51]，以動(dòng)態(tài)管理促進(jìn)監(jiān)管主體庫(kù)的互信與互通。此機(jī)制秉持靈活與嚴(yán)謹(jǐn)并施的監(jiān)管原則，依據(jù)信用風(fēng)險(xiǎn)評(píng)估分類，精心遴選非安全敏感范疇內(nèi)信譽(yù)卓越的智能教育產(chǎn)品運(yùn)營(yíng)主體，將其納入信用沙盒體系。對(duì)盒內(nèi)主體，采取包容而審慎的監(jiān)管態(tài)度，賦予其自我監(jiān)管的適度自由與主動(dòng)權(quán)，從而深化信用監(jiān)管的基石作用，而政府則退居幕后，僅承擔(dān)輔助監(jiān)督的職責(zé)。此外，構(gòu)建嚴(yán)密的越界懲戒體系，實(shí)施監(jiān)管主體權(quán)限降級(jí)策略。企業(yè)一旦逾越界限，監(jiān)管部門即刻下發(fā)整改通知，并設(shè)定整改時(shí)限。逾期不改者將依法嚴(yán)懲，被剝奪“信用沙盒”參與資格。再次，需靈活調(diào)整沙盒試點(diǎn)名錄的優(yōu)先級(jí)。緊跟技術(shù)與應(yīng)用的最新趨勢(shì)，迅速吸納具備創(chuàng)新性與前瞻性的智能教育產(chǎn)品進(jìn)入沙盒試驗(yàn)，為其打造優(yōu)越的制度土壤[52]，以激發(fā)企業(yè)的創(chuàng)新潛能，促進(jìn)智能教育領(lǐng)域的穩(wěn)健前行與繁榮發(fā)展。

參考文獻(xiàn)

[1] 中華人民共和國(guó)教育部.世界數(shù)字教育大會(huì)在京召開 加快數(shù)字化轉(zhuǎn)型深入推進(jìn)智慧教育[EB/OL].（2023-02-15）[2024-11-14].http：//www.moe.gov.cn/jyb_xwfb/xw_zt/moe_357/2023/2023_zt01/mtbd/202302/t20230215_1044860.html.

[2] 中華人民共和國(guó)教育部.教育部部長(zhǎng)懷進(jìn)鵬在2024世界數(shù)字教育大會(huì)上的主旨演講：攜手推動(dòng)數(shù)字教育應(yīng)用、共享與創(chuàng)新[EB/OL].（2024-02-01）[2024-11-14].http：//www.moe.gov.cn/jyb_xwfb/moe_176/202402/t20240201_1113761.html.

[3] 王一巖，朱陶，鄭永和.智能教育產(chǎn)品助推教育數(shù)字化轉(zhuǎn)型：價(jià)值定位、實(shí)踐邏輯與推進(jìn)策略[J].現(xiàn)代教育技術(shù)，2023，33（7）：16-24.

[4] 肖君.教育大數(shù)據(jù)[M].上海：上?？茖W(xué)技術(shù)出版社，2020：112-121.

[5] 畢文軒.生成式人工智能的風(fēng)險(xiǎn)規(guī)制困境及其化解：以ChatGPT的規(guī)制為視角[J].比較法研究，2023（3）：155-172.

[6] BURRELL J.How the machine“thinks”：understanding opacity in machinelearning algorithms[J].Big Data amp; Society，2016，3（1）：1-12.

[7] MCCULLOCH W S， PITTS W. A logical calculus of the ideas immanent in nervous acivity[J]. The Bulletin of Mathematical Biophysics，1943，5（4）：115-133.

[8] TURING A M.Computing machinery and intelligence[J].Mind，1950，59（236）：433-460.

[9] [WB]周琳.構(gòu)建人工智能創(chuàng)新生態(tài)[EB/OL].（2024-07-02）[2024-11-14].https：//www.xinhuanet.com/tech/20240702/a365f8e3fc[DW]8a42e9b31ad6bb5c92ff24/c.html.

[10] 中華人民共和國(guó)中央人民政府.國(guó)務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知[EB/OL].（2017-07-08）[2024-11-14].https：//www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm.

[11] 中華人民共和國(guó)教育部.教育部關(guān)于印發(fā)義務(wù)教育課程方案和課程標(biāo)準(zhǔn)（2022年版）的通知[EB/OL].（2022-04-08）[2024-11-14].http：//www.moe.gov.cn/srcsite/A26/s8001/202204/t20220420_619921.html.

[12] 中華人民共和國(guó)教育部.教育部發(fā)布4項(xiàng)行動(dòng)助推人工智能賦能教育[EB/OL].（2024-03-28）[2024-11-14].http：//www.moe.gov.cn/jyb_xwfb/xw_zt/moe_357/2024/2024_zt05/mtbd/202403/t20240329_1123025.html.

[13] Bundesministerium für Bildung und Forschung.BMBF-aktionsplan künstliche intelligenz[EB/OL].（2024-10-11）[2024-11-14].https：//www.bmbf.de/SharedDocs/Downloads/de/2023/230823-executive-summary-ki-aktionsplan.pdf？__blob=publicationFileamp;v=1.

[14] [JP4]Office of Educational Technology.Artificial intelligence and the future of teaching and learning[EB/OL].（2023-05-26）[2024-11-14].https：//www.ed.gov/sites/ed/files/documents/ai-report/ai-report.pdf.

[15] 央廣網(wǎng).各地高考閱卷將陸續(xù)結(jié)束記者探秘評(píng)卷現(xiàn)場(chǎng)[EB/OL].（2020-07-19）[2024-11-14].https：//baijiahao.baidu.com/s？id=1672601522564760098amp;wfr=spideramp;for=pc.

[16] 中華人民共和國(guó)中央人民政府.四川首次使用人工智能識(shí)別技術(shù)對(duì)高考考場(chǎng)監(jiān)控錄像回放倒查[EB/OL].（2020-07-16）[2024-11-14].https：//www.gov.cn/xinwen/2020-07/16/content_5527466.htm.

[17]" [WB]光明網(wǎng).用好人工智能賦能教育轉(zhuǎn)型[EB/OL].（2024-02-02）[DW][2024-11-14].https：//baijiahao.baidu.com/s？id=17897780683020[DW]90591amp;wfr=spideramp;for=pc.

[18] 趙萬(wàn)里.科學(xué)的社會(huì)建構(gòu)[M].天津：天津人民出版社，2002：26.

[19] 穆建亞，辛繼湘.教學(xué)技術(shù)的生態(tài)失衡與倫理觀照[J].課程·教材·教法，2017，37（11）：88-94.

[20] 韓小謙，梁晨.人工智能時(shí)代主體關(guān)系的異化與新構(gòu)[J].學(xué)術(shù)交流，2023（6）：5-15.

[21] [JP4]中華人民共和國(guó)商務(wù)部.七國(guó)集團(tuán)就《人工智能指導(dǎo)原則》和《行為準(zhǔn)則》達(dá)成一致[EB/OL].（2023-11-20）[2024-11-14].http：//chinawto.mofcom.gov.cn/article/ap/p/202311/20231103455166.shtml.

[22] European Commission. AI Act[EB/OL].（2024-08-01）[2024-11-14]. https：//digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.

[23] 中華人民共和國(guó)工業(yè)和信息化部，中央網(wǎng)絡(luò)安全和信息化委員會(huì)辦公室，國(guó)家發(fā)展和改革委員會(huì)，等.四部門關(guān)于印發(fā)國(guó)家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南（2024版）的通知[EB/OL].（2024-07-02）[2024-11-14].https：//www.miit.gov.cn/zwgk/zcwj/wjfb/tz/art/2024/art_e8ebf5600ec24d3db644150873712c5f.html.

[24] [WB][JP4]國(guó)家互聯(lián)網(wǎng)信息辦公室.生成式人工智能服務(wù)管理暫行辦法[EB/OL].（2023-08-30）[2024-11-14].https：//www.miit.gov.cn/gyhxxhb/[DW]jgsj/cyzcyfgs/bmgz/xxtxl/art/2023/art_4248f433b62143d8a0222a7db88[DW]73822.html.

[25] 中央網(wǎng)信辦.全球人工智能治理倡議（全文）[EB/OL].（2023-10-22）[2024-11-14].http：//ps.china-office.gov.cn/chn/zxxx/202310/t20231022_11165581.htm.

[26]" UNESCO. Guidance for generative AI in education and research[EB/OL].（2023-09-07）[2024-11-14].https：//www.unesco.org/en/articles/guidance-generative-ai-education-and-research.

[27] 中華人民共和國(guó)教育部.2024年世界數(shù)字教育大會(huì)“人工智能與數(shù)字倫理”平行會(huì)議舉行[EB/OL].（2024-02-01）[2024-11-14].http：//www.moe.gov.cn/jyb_xwfb/xw_zt/moe_357/2024/2024_zt02/pxhy/pxhy_znll/pxhy_znll_mtbd/202402/t20240201_1113906.html

[28]" AYRES I，BRAITHWAITE J.Responsive regulation：transcending the deregulation debate[M].Oxford：Oxford University Press，1992：20-35.

[29] ?？?自我技術(shù)[M].汪民安，譯，北京：北京大學(xué)出版社，2016：129.

[30] LUHMANN N.Operational closure and structural coupling：the differentiation of the legal system[J].Cardozo Law Review，1991，13：1419-1441.

[31] TEUBNER G.Substantive and reflexive elements in modern law[J].Law and Society Review，1983，17（2）：272-273.

[32] NONET P，SELZNICK P.Law and society in transition：toward responsive law[M].New York：Harper，1978：3-60.

[33] 楊炳霖.監(jiān)管治理體系建設(shè)理論范式與實(shí)施路徑研究——回應(yīng)性監(jiān)管理論的啟示[J].中國(guó)行政管理，2014（6）：47-54.

[34] 盧超.社會(huì)性規(guī)制中約談工具的雙重角色[J].法制與社會(huì)發(fā)展，2019，25（1）：144-161.

[35] AYRES I， BRAITHWAITE J. Responsive regulation： transcending the deregulation debate[M].Oxford： Oxford University Press，1992：35-38，154.

[36] BRAITHWAITE J，BRAITHWAITE V，COOKSON M，et al.Anomie and violence：non-truth and reconciliation in Indonesian peacebuilding[J].Contemporary Southeast Asia，2010（3）：491-493.

[37] 經(jīng)濟(jì)合作與發(fā)展組織.OECD國(guó)家的監(jiān)管政策：從干預(yù)主義到監(jiān)管治理[M].陳偉，譯.北京：法律出版社，2006：175-187.

[38]" 童莉莉.數(shù)字教育應(yīng)用監(jiān)管如何“向善”而行[N].中國(guó)教育報(bào)，2024-01-08（4）.

[39] 中華人民共和國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室.國(guó)家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南（2024版）[EB/OL].（2024-10-23）[2024-11-14].https：//www.cac.gov.cn/rootimages/uploadimg/1721686809515617/1721686809515617.pdf.

[40] ROBERT C， THOMAS U. Law and economics （6th ed.）[M]. Berkeley： Berkeley Law Books，2016：452.

[41] 潘琳，周榮庭.回應(yīng)性監(jiān)管視角下社會(huì)組織內(nèi)部多元協(xié)同監(jiān)管模式研究[J].華東經(jīng)濟(jì)管理，2019，33（5）：177-184.

[42] 明海英.中國(guó)科學(xué)社會(huì)網(wǎng).生成式AI在造福人類的同時(shí)暗藏哪些風(fēng)險(xiǎn)[EB/OL].（2024-07-02）[2024-11-14].https：//www.cssn.cn/skgz/bwyc/202407/t20240702_5762412.shtml.

[43] 錢明輝，李胡蓉，楊建梁.大語(yǔ)言模型可信：內(nèi)涵、影響、挑戰(zhàn)與對(duì)策[J].圖書情報(bào)工作，2024，68（20）：69-86.

[44] 吳學(xué)琴.從ChatGPT到Sora：意識(shí)形態(tài)話語(yǔ)的“真相”審視[J].思想教育研究，2024（8）：75-83.

[45] 令小雄，王鼎民，袁健.ChatGPT爆火后關(guān)于科技倫理及學(xué)術(shù)倫理的冷思考[J].新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2023，44（4）：123-136.

[46] 宣小紅，史保杰.教育學(xué)研究的熱點(diǎn)與未來(lái)展望——對(duì)2018年度人大復(fù)印報(bào)刊資料《教育學(xué)》轉(zhuǎn)載論文的分析[J].教育研究，2019（3）：49-57.

[47] 程亮.教育中的反智主義及其超越[J].湖南師范大學(xué)教育科學(xué)學(xué)報(bào)，2014（3）：7-13.

[48] 泰格馬克.生命3.0——人工智能時(shí)代人類的進(jìn)化與重生[M].汪婕舒，譯，杭州：浙江教育出版社，2018：444-458.

[49] 李金臻，夏金星，江山.人工智能教育應(yīng)用失范審視及消解策略研究[J].中國(guó)教育信息化，2023，29（12）：26-33.

[50]" PARKER C.The open corporation：effective self-regulation and democracy[M].NewYork：Cambridge University Press，2002：277-278.

[51] 胡濱，楊楷.監(jiān)管沙盒的應(yīng)用與啟示[J].中國(guó)金融，2017（2）：68-69.

[52] 張欣.生成式人工智能的數(shù)據(jù)風(fēng)險(xiǎn)與治理路徑[J].法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2023（5）：42-54.

How to regulate the application of intelligent education products in the AIGC era：based on the perspective of responsive regulation theory

LIU Rui，ZHAO Leilei

（School of Education Science，Nanjing Normal University，Nanjing，Jiangsu[KG*2]210097 China）

Abstract In the era of AIGC，intelligent education products are driving and profoundly influencing the digital transformation of the education system，becoming the core driving force for accelerating the modernization of education and building a smart education ecosystem.Starting from the theory of responsive regulation，this paper examines the internal and external risks of the application of intelligent education products，clarifies the details of supervision before，during，and after the event，adopts a strategy of gradually strengthening from autonomy to legal governance，establishes a credit sandbox supervision mechanism，and aims to build a high-level intelligent education product supervision system.

Keywords" AIGC;intelligent education products;responsive regulatory theory;supervision system

[責(zé)任編輯 孫 菊]

收稿日期2024-11-14

基金項(xiàng)目 2024年度江蘇高校哲學(xué)社會(huì)科學(xué)研究重大項(xiàng)目（2024SJZD084）

作者簡(jiǎn)介：劉睿（2002—），女，江蘇無(wú)錫人。碩士研究生，主要研究方向?yàn)橹悄芙逃?/p>

*通信作者趙磊磊（1991—），男，河南新蔡人。博士，副教授，碩士生導(dǎo)師，主要研究方向?yàn)橹悄芙逃?、教育管理?/p>