基于風(fēng)險性監(jiān)管的AIGC教育應(yīng)用倫理風(fēng)險治理研究

摘要：爆火出圈的ChatGPT為AIGC的發(fā)展帶來了重大突破，也使教育領(lǐng)域從普適走向個性、從單一走向多樣、從零散走向整合，人工智能賦能教育進(jìn)入新階段，隨之也面臨AIGC帶來的一系列倫理風(fēng)險，引起教育工作者的高度關(guān)注，需要從風(fēng)險性監(jiān)管視角來處理AIGC教育應(yīng)用的倫理風(fēng)險。該文首先從“人-技術(shù)”交互角度歸納AIGC教育應(yīng)用四類倫理風(fēng)險：算法相關(guān)倫理風(fēng)險、數(shù)據(jù)相關(guān)倫理風(fēng)險、技術(shù)相關(guān)倫理風(fēng)險和應(yīng)用相關(guān)倫理風(fēng)險。其次以風(fēng)險性監(jiān)管流程為基礎(chǔ)制定AIGC教育應(yīng)用倫理風(fēng)險的治理框架，依據(jù)治理框架對四類倫理風(fēng)險按照“歸納-運行-分級”的順序?qū)嵭斜O(jiān)管：在總結(jié)倫理風(fēng)險已有的治理依據(jù)后構(gòu)建“5W1H”監(jiān)管模型，對倫理風(fēng)險進(jìn)行編碼后實現(xiàn)高、中、低三類分級。以此系統(tǒng)化的監(jiān)管流程為應(yīng)對AIGC教育應(yīng)用倫理風(fēng)險提供借鑒，對AIGC時代賦能教育的倫理使用指南提供指向性的引領(lǐng)，推動教育領(lǐng)域這場持久變革的健康化發(fā)展。

關(guān)鍵詞：AIGC教育應(yīng)用；倫理風(fēng)險；風(fēng)險性監(jiān)管

中圖分類號：G434 文獻(xiàn)標(biāo)識碼：A

本文系全國教育科學(xué)規(guī)劃2021年度國家一般課題“教育領(lǐng)域人工智能應(yīng)用的倫理風(fēng)險與防范對策研究”（課題編號：BCA210086）研究成果。

一、引言

在2022年百度世界年度論壇中，百度創(chuàng)始人兼CEO李彥宏提出了生成式AI的新概念：AIGC（AI Generated Content），并指出在未來十年內(nèi)，“AIGC”將顛覆所有當(dāng)前的內(nèi)容制作模式。隨著生成式AI的發(fā)展趨勢朝著多模態(tài)化演進(jìn)，我國已進(jìn)入教育4.0時期，正為教育領(lǐng)域帶來新一輪的科技和產(chǎn)業(yè)革命[1]。正如，近期爆火出圈的ChatGPT為AIGC的發(fā)展帶來了重大突破，不僅革新了數(shù)字文化創(chuàng)作的生產(chǎn)范式，也改變了教育主體與人工智能之間的交互模式[2]。在技術(shù)的不斷突破和創(chuàng)新方法的推動下，GPT-4隨之問世，開啟“軟件工程3.0”新時代，谷歌的工程主管甚至表示：程序員的職業(yè)生涯將在三年內(nèi)被AIGC所終結(jié)[3]。由此，AIGC的發(fā)展速度讓教育工作者們又興奮又恐懼，驚嘆于AIGC能為教育主體提供自動生成學(xué)習(xí)成果、提供無所不能的需求、打造更為安全且有創(chuàng)意的學(xué)習(xí)環(huán)境，又擔(dān)心教育主體在AIGC營造的美好前景中丟失自我，忽視其存在的一系列倫理問題[4]。在AIGC的新機遇下，教育領(lǐng)域應(yīng)給予豐富的AIGC產(chǎn)業(yè)產(chǎn)品和應(yīng)用場景，在加快融合關(guān)鍵技術(shù)的同時鼓勵健康發(fā)展AIGC教育應(yīng)用，在AIGC教育應(yīng)用倫理風(fēng)險出現(xiàn)之前便開始實行監(jiān)管，從而更好地推動AIGC教育應(yīng)用的良序循環(huán)，在全球化的科技變革教育之際，實現(xiàn)AIGC在教育領(lǐng)域的合規(guī)布局。那么，在AIGC教育應(yīng)用倫理風(fēng)險發(fā)生之前，又該如何實施監(jiān)管呢？本文嘗試從風(fēng)險性監(jiān)管視角詳細(xì)探究。

二、AIGC教育應(yīng)用的倫理風(fēng)險現(xiàn)狀

在AIGC為教育帶來應(yīng)用潛力的同時，也可能存在一定的問題與風(fēng)險。本研究從AIGC教育應(yīng)用中“人-技術(shù)”交互的維度，分析AIGC教育應(yīng)用的倫理風(fēng)險圖譜，主要分為四類：算法相關(guān)倫理風(fēng)險、數(shù)據(jù)相關(guān)倫理風(fēng)險、技術(shù)相關(guān)倫理風(fēng)險與應(yīng)用相關(guān)倫理風(fēng)險，將其劃分為一級維度，如下頁圖1所示。在二級維度中，算法相關(guān)倫理風(fēng)險分為算法偏見與歧視、算法不透明、算法不可問責(zé)與算法濫用；數(shù)據(jù)相關(guān)倫理風(fēng)險分為泄露隱私、數(shù)據(jù)缺失與錯誤、數(shù)據(jù)誤用與數(shù)據(jù)濫用；技術(shù)相關(guān)倫理風(fēng)險分為技術(shù)依賴與技術(shù)“拜物教”；應(yīng)用相關(guān)倫理風(fēng)險分為AI生成內(nèi)容濫用、重構(gòu)師生關(guān)系、喪失自主權(quán)與無追責(zé)機制。新興技術(shù)都會經(jīng)歷從野蠻生長到安全合規(guī)的過程，AIGC亦不可避免[5]。在教育領(lǐng)域AIGC的快速應(yīng)用與實踐下，需要追求道德化的教育、真實化的教育、特殊化的教育與有溫度的教育，推動AIGC教育應(yīng)用的健康發(fā)展。

（一）算法相關(guān)倫理風(fēng)險，應(yīng)塑造道德化教育

生成式AI是一種新穎的數(shù)字技術(shù)，可以為學(xué)生快速地創(chuàng)建具有新意且逼真的視覺和動畫內(nèi)容，然而仍有可能為學(xué)生創(chuàng)作生成不準(zhǔn)確、不真實與偏見性的內(nèi)容[6]。在AIGC教育應(yīng)用算法相關(guān)的倫理風(fēng)險中，算法技術(shù)存在著刻板印象，例如性別、種族和地域偏見，都有可能對學(xué)生造成持續(xù)性的風(fēng)險侵害。其次，教育主體并不能對AIGC中算法模型進(jìn)行透徹地了解，存在著一定的模糊性，在經(jīng)濟(jì)和資本的操控下，教育領(lǐng)域想要使AIGC的算法具有可解釋性是一件困難的事情，忽視了教育主體的知情權(quán)。再者，如果出現(xiàn)AIGC應(yīng)用下算法相關(guān)的教育事故，目前并不能厘清事故的責(zé)任關(guān)系，將責(zé)任具體至個人。最終，算法模型很有可能被應(yīng)用于教育領(lǐng)域中不當(dāng)之處，導(dǎo)致學(xué)生權(quán)利受到威脅。

（二）數(shù)據(jù)相關(guān)倫理風(fēng)險，應(yīng)構(gòu)建真實化教育

數(shù)據(jù)相關(guān)的倫理風(fēng)險在人工智能賦能教育應(yīng)用中就已是常見，AIGC教育應(yīng)用中并不例外。其存在個人數(shù)據(jù)風(fēng)險和群體數(shù)據(jù)風(fēng)險之分，AIGC教育應(yīng)用時并未界定數(shù)據(jù)隱私的邊界，學(xué)生自我隱私有可能遭到泄露，缺乏精準(zhǔn)地數(shù)據(jù)保護(hù)措施。其次，AIGC教育應(yīng)用時會發(fā)生生成數(shù)據(jù)不完整和不準(zhǔn)確的情況，由此引發(fā)數(shù)據(jù)的缺失與錯誤。再次，如果AIGC將采納的學(xué)生有關(guān)數(shù)據(jù)應(yīng)用于其他地方，或者是對其不當(dāng)處理，則將違背教育初衷，數(shù)據(jù)很可能存在著欺騙性，并未對輸出數(shù)據(jù)形成事實檢查，未提供有質(zhì)量的來源保障。

（三）技術(shù)相關(guān)倫理風(fēng)險，應(yīng)追求特殊化教育

此“特殊化”非日常所理解之意，將教育領(lǐng)域看作AIGC應(yīng)用的特殊領(lǐng)域，而是指在AIGC的積極推廣下，教育需保持自身特殊化的清醒意識，不能過渡依賴技術(shù)，AIGC技術(shù)的強大力量并不能使教育忘記以人為本的初衷，堅持立德樹人的根本宗旨[7][8]。因此，在AIGC教育應(yīng)用下，教育主體不可盲目信奉A(yù)IGC帶來的都是好處，正如算法偏見與歧視、數(shù)據(jù)隱私泄露等仍需警惕。此外，AIGC熱潮下學(xué)生使用過程中可能會感受到自我行為受到技術(shù)的支配，過分依賴技術(shù)實現(xiàn)自我價值，過渡崇拜技術(shù)生成的創(chuàng)意性成果，這都是教育管理者、教師、家長需要三方協(xié)調(diào)共同解決的風(fēng)險，否則將會增長學(xué)生惰性以及降低思考問題的能力。

（四）應(yīng)用相關(guān)倫理風(fēng)險，應(yīng)做有溫度的教育

AIGC教育應(yīng)用中除特定的算法、數(shù)據(jù)與技術(shù)相關(guān)的倫理風(fēng)險，本研究將其他易出現(xiàn)的倫理風(fēng)險歸納為應(yīng)用相關(guān)倫理風(fēng)險。首先，學(xué)生通過AIGC生成自我所需的內(nèi)容，卻有可能出現(xiàn)擴大數(shù)字鴻溝現(xiàn)象，尤其是不發(fā)達(dá)地區(qū)的學(xué)生，也有可能使教師的教學(xué)重心偏移，破壞學(xué)生的價值觀，過分肯定AIGC生成內(nèi)容的價值，從而破壞教育公平性。其次，在AIGC教育應(yīng)用下，師生關(guān)系是否會遭到破壞是一直值得關(guān)注的問題，教育主體對其看法一分為二，有些學(xué)者認(rèn)為教師有可能讓渡自主權(quán)，給予學(xué)生過量的自主學(xué)習(xí)時間，造成自我地位消解，使學(xué)生情感遮蔽，進(jìn)而出現(xiàn)師生情感異化的風(fēng)險[9]。再次，教育領(lǐng)域大力倡導(dǎo)個性化學(xué)習(xí)情境下，學(xué)生很有可能喪失自主權(quán)，一言一行受到技術(shù)的監(jiān)視與監(jiān)管，并沒有準(zhǔn)確劃分“人-技術(shù)”的邊界，對學(xué)生造成網(wǎng)絡(luò)欺凌，突出顯示其道德立場，使學(xué)生的學(xué)習(xí)認(rèn)知與行為受到限制[10]。最后，如果發(fā)生有關(guān)AIGC應(yīng)用的教育事故，并無完備的事故問責(zé)機制，目前對其監(jiān)管僅是零散狀態(tài)，教師與教育管理者沒有及時的處理措施，造成事故原因無法追溯，更有可能發(fā)生無法將真實性的建議傳至有關(guān)部門，發(fā)生惡性循環(huán)。

三、風(fēng)險性監(jiān)管：AIGC教育應(yīng)用倫理風(fēng)險的治理框架

（一） 風(fēng)險性監(jiān)管

風(fēng)險性監(jiān)管是一種基于風(fēng)險的安全管理技術(shù)和方法體系，其以風(fēng)險管理理論為基本理論，為風(fēng)險進(jìn)行分級，要求以風(fēng)險分級水平，實施科學(xué)化的安全監(jiān)管。其強調(diào)“治理不應(yīng)當(dāng)以消除所有潛在的損害或更加廣泛的不利后果為目標(biāo)”，關(guān)注點應(yīng)當(dāng)為潛在的不利后果發(fā)生的概率以及影響。具體包括四個特征：（1）風(fēng)險提供了監(jiān)管的對象；（2）風(fēng)險成為了監(jiān)管的正當(dāng)依據(jù)；（3）風(fēng)險存在架構(gòu)并塑造合理的監(jiān)管組織和程序；（4）風(fēng)險塑造了責(zé)任間的關(guān)系。風(fēng)險性監(jiān)管力求做到監(jiān)管最科學(xué)、最有效、最合理，實現(xiàn)事故風(fēng)險的最小化。

風(fēng)險性監(jiān)管方法在教育應(yīng)用有很多。例如，澳大利亞職業(yè)教育與培訓(xùn)機構(gòu)出臺《風(fēng)險監(jiān)管框架》構(gòu)筑了五位一體與銜接貫通的風(fēng)險監(jiān)管模式[11]。李樹旺立足于體育實踐，精準(zhǔn)識別與評估體育的課堂風(fēng)險，從“高度優(yōu)先-日常監(jiān)控-定期評估-做好準(zhǔn)備”四種風(fēng)險防控層級實現(xiàn)體育課堂風(fēng)險的監(jiān)管[12]。馮磊通過基于風(fēng)險監(jiān)管的注冊制詳細(xì)闡述英格蘭高等教育治理的新框架，為我國高等教育普及化和現(xiàn)代化發(fā)展提供有益借鑒[13]。與此同時，其被應(yīng)用于治理在教育領(lǐng)域的倫理風(fēng)險也很廣泛。例如，趙磊磊提出在面對智慧校園智能升級帶來的倫理威脅時，需關(guān)注風(fēng)險防范與問責(zé)，創(chuàng)設(shè)智能校園的倫理風(fēng)險監(jiān)管體系，并提出恰當(dāng)?shù)拇胧14]。劉成認(rèn)為應(yīng)對人臉識別帶來的倫理風(fēng)險不僅要從應(yīng)對型治理向預(yù)見性與敏捷治理轉(zhuǎn)變，更需通過風(fēng)險監(jiān)管與技術(shù)創(chuàng)新疊加發(fā)力，提高人臉識別的信息利用率[15]。

（二）基于風(fēng)險性監(jiān)管的治理框架

由于AIGC技術(shù)的獨特性與新穎性，倫理風(fēng)險的特殊性與難控性，本文依據(jù)風(fēng)險性監(jiān)管的應(yīng)用流程制定了AIGC教育應(yīng)用倫理風(fēng)險的三層七步治理框架，分別為“歸納-運行-分級”三層治理，包括明確的治理目標(biāo)、了解已有治理依據(jù)、構(gòu)建監(jiān)管模型并編碼、實現(xiàn)風(fēng)險分級、制定分級監(jiān)管對策、實施基于風(fēng)險水平的監(jiān)管措施與實現(xiàn)風(fēng)險可接受狀態(tài)或達(dá)到治理目標(biāo)七個步驟，如圖2所示。在歸納層，根據(jù)發(fā)現(xiàn)的AIGC教育應(yīng)用倫理風(fēng)險的治理目標(biāo)總結(jié)不同國家頒布的權(quán)威性法案或其他具有權(quán)威性和代表性的相關(guān)措施；在運行層，構(gòu)建針對AIGC教育應(yīng)用倫理風(fēng)險的監(jiān)管模型，結(jié)合倫理風(fēng)險的治理依據(jù)進(jìn)行詳細(xì)的編碼，從而得出倫理風(fēng)險的不同編碼情況；在分級層，根據(jù)編碼情況，實現(xiàn)倫理風(fēng)險的級別劃分，制定分級監(jiān)管對策和實施基于風(fēng)險水平的監(jiān)管措施，最終達(dá)到實現(xiàn)風(fēng)險可接受狀態(tài)或達(dá)到治理目標(biāo)。

基于此，針對前文所述的四類AIGC教育應(yīng)用倫理，將從“歸納-運行-分級”的順序?qū)IGC教育應(yīng)用場景的倫理風(fēng)險進(jìn)行詳細(xì)地劃定，以監(jiān)管視角來衡量其效能，爭取在AIGC教育應(yīng)用倫理風(fēng)險發(fā)生之前找尋最合理可行原則，降低教育事故的風(fēng)險發(fā)生率。

四、歸納AIGC教育應(yīng)用倫理風(fēng)險的治理依據(jù)

在明晰AIGC教育應(yīng)用的倫理風(fēng)險后，通過對AIGC教育應(yīng)用倫理風(fēng)險相關(guān)的治理機制與法案等進(jìn)行統(tǒng)計與歸納，得出了歐盟、美國、英國、聯(lián)合國教科文組織四個具有代表性的國家和組織與我國本土的治理依據(jù)，如表1所示。從整體上看，目前每類倫理風(fēng)險都能有相應(yīng)治理的參考之處，關(guān)于算法偏見與歧視和算法不透明的涉及個數(shù)最多，均為10個，關(guān)于數(shù)據(jù)缺失與錯誤、技術(shù)依賴和重構(gòu)師生關(guān)系的涉及個數(shù)最少，均為1個。

共歸納總結(jié)出21個倫理風(fēng)險的治理依據(jù)：（1）《數(shù)字服務(wù)法（Digital Services Act）》（歐盟）、（2）《算法正義和在線平臺透明度法案（Algorithmic Justice and Internet Platform Transparency Act）》（美國）、（3）《人工智能倫理建議書（Recommendation on the Ethics of Artificial Intelligence）》（聯(lián)合國教科文組織）、（4）《新一代人工智能倫理規(guī)范》、（5）《可信賴的人工智能道德準(zhǔn)則（Ethics Guidelines For Trustworthy AI）》（歐盟）、（6）《AI法案（The Artificial Intelligence Act）》（歐盟）、（7）《AI白皮書（White Paper On Artificial Intelligence）》、（8）《算法問責(zé)法案（Algorithmic Accountability Act）》（美國）、（9）《中華人民共和國個人信息保護(hù)法》、（10）《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》、（11）《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、（12）《國家人工智能研究與發(fā)展戰(zhàn)略計劃（The National Artificial Intelligence Research and Development Strategic Plan）》（美國）、（13）《人工智能應(yīng)用監(jiān)管指南（Guidance for Regulation of Artificial Intelligence Applications）》（美國）、（14）《通用數(shù)據(jù)保護(hù)條例（General Data Protection Regulation， GDPR）》、（15）《民法典》、（16）《數(shù)據(jù)出境安全評估辦法》、（17）《人工智能深度合成圖像系統(tǒng)技術(shù)規(guī)范》、（18）《信息安全技術(shù)機器學(xué)習(xí)算法安全評估規(guī)范（征求意見稿）》、（19）《國家人工智能戰(zhàn)略（National AI Strategy）》（英國）、（20）《中華人民共和國數(shù)據(jù)安全法》、（21）《生成式人工智能服務(wù)管理辦法》（征求意見稿），在表格中用編號（1）—（21）來表示。

具體來說，算法相關(guān)的倫理風(fēng)險下，在算法偏見與歧視中，《數(shù)字服務(wù)法》規(guī)定大型的在線平臺有義務(wù)采取一定的措施，確保它們所使用的算法系統(tǒng)設(shè)計不會在平臺用戶之間造成歧視；《可信賴的人工智能道德準(zhǔn)則》《AI法案》《AI白皮書》《人工智能應(yīng)用監(jiān)管指南》中提到人工智能需遵守非歧視性與公平性原則，在教育領(lǐng)域亦是如此；在算法不透明中，《算法正義和在線平臺透明度法案》中指出在線平臺對算法使用和處理記錄存在保留的義務(wù)，在線平臺應(yīng)當(dāng)保留5年以備審查，《中華人民共和國個人信息保護(hù)法》提出保證信息處理的透明度和結(jié)果公平公正；在算法不可問責(zé)中，《算法正義和在線平臺透明度法案》提及在線平臺的算法審核業(yè)務(wù)，應(yīng)當(dāng)設(shè)立在線平臺的立法、調(diào)查和執(zhí)行權(quán)，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》認(rèn)為算法推薦服務(wù)的提供者不得利用算法推薦服務(wù)形式危害國家安全和社會公共利益、擾亂社會秩序、侵犯他人合法權(quán)益等活動；在算法濫用中，《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》明確指出需防范算法濫用的風(fēng)險。

數(shù)據(jù)相關(guān)的倫理風(fēng)險下，在泄露隱私中，《通用數(shù)據(jù)保護(hù)條例》認(rèn)為個人敏感數(shù)據(jù)必須經(jīng)過個人同意后才能使用，數(shù)據(jù)主體具有知情權(quán)、訪問權(quán)、更正權(quán)和刪除權(quán)等，《AI法案》中提及不能通過暴露特定人群的年齡、身體或心理殘疾等來扭曲人的行為，導(dǎo)致受到身體或心理的傷害，這對學(xué)生來說十分重要；在數(shù)據(jù)誤用與濫用中，《中華人民共和國個人信息保護(hù)法》提出需要遵循告知、同意的原則后才能使用數(shù)據(jù)，并且個人處理者應(yīng)當(dāng)對其個人信息處理活動負(fù)責(zé)，《可信賴的人工智能道德準(zhǔn)則》發(fā)出必須確保人工智能技術(shù)不會被惡意使用的要求來約束數(shù)據(jù)的誤用與濫用情況，《生成式人工智能服務(wù)管理辦法》（征求意見稿）表示用于生成式人工智能產(chǎn)品的預(yù)訓(xùn)練、優(yōu)化訓(xùn)練數(shù)據(jù)應(yīng)能保證數(shù)據(jù)的真實性、準(zhǔn)確性、客觀性和多樣性，并且不含有侵犯知識產(chǎn)權(quán)的內(nèi)容。

技術(shù)相關(guān)的倫理風(fēng)險下，《新一代人工智能倫理規(guī)范》中發(fā)出必須堅持“以人為本”的準(zhǔn)則，更好地接受倫理培訓(xùn)，加強人工智能應(yīng)用質(zhì)量的監(jiān)控；《國家人工智能研究與發(fā)展戰(zhàn)略計劃》提出仍需持續(xù)性認(rèn)識國家對人工智能研發(fā)勞動力的需求，不能一味崇拜技術(shù)。

應(yīng)用相關(guān)的倫理風(fēng)險下，在AI生成內(nèi)容濫用中，《人工智能倫理建議書》描述既需向所有國家的公眾提供充分的人工智能素養(yǎng)教育，避免出現(xiàn)數(shù)字鴻溝現(xiàn)象，也需要促進(jìn)人工智能的多樣性和公平性，從而促進(jìn)教育公平，《國家人工智能戰(zhàn)略》中指出使用人工智能時應(yīng)堅持多樣性和包容性，不可濫用；在重構(gòu)師生關(guān)系中，《人工智能倫理建議書》堅持以人為本，提出應(yīng)提前了解人工智能對人權(quán)和權(quán)利獲取的影響；在喪失自主權(quán)中，《可信賴的人工智能道德準(zhǔn)則》也明確指出需堅持人的自主性原則；在無追責(zé)機制中，《AI白皮書》中認(rèn)為需要明確的安全條款來應(yīng)對這些風(fēng)險，《國家人工智能戰(zhàn)略》中提出短期、中期和長期的人工智能管理戰(zhàn)略。

五、構(gòu)建與運行AIGC教育應(yīng)用倫理風(fēng)險的監(jiān)管模型

（一）構(gòu)建監(jiān)管模型的依據(jù)

風(fēng)險性監(jiān)管視角下，構(gòu)建AIGC教育應(yīng)用倫理風(fēng)險的“5W1H”模型，以此模型展現(xiàn)AIGC倫理風(fēng)險的監(jiān)管運行規(guī)律，如圖3所示。其中“5W1H”包括：（1）Why-AIGC教育應(yīng)用倫理風(fēng)險監(jiān)管的理論基礎(chǔ)，保障科學(xué)性運行，具體包括其本質(zhì)是什么、規(guī)律是什么與依據(jù)是什么，編碼為A，前文所述AIGC教育應(yīng)用倫理風(fēng)險現(xiàn)有的治理依據(jù)則為理論基礎(chǔ)。（2）Who-AIGC教育應(yīng)用倫理風(fēng)險監(jiān)管的主體，保障合理性運行，具體包括讓誰監(jiān)管、誰來監(jiān)管、監(jiān)管的主體是誰，編碼為B。（3）What-AIGC教育應(yīng)用倫理風(fēng)險監(jiān)管的內(nèi)容，保障系統(tǒng)性運行，具體包括監(jiān)管的客體是什么，編碼為C。（4）Where-AIGC教育應(yīng)用倫理風(fēng)險監(jiān)管的對象，保障針對性運行，具體包括監(jiān)管點是什么，編碼為D。（5）When-AIGC教育應(yīng)用倫理風(fēng)險監(jiān)管的時機，保障及時性運行，具體包括監(jiān)管對象的體系和類型，編碼為E。（6）How toAIGC教育應(yīng)用倫理風(fēng)險的監(jiān)管方法，保障有效性運行，具體包括如何實施監(jiān)管，監(jiān)管的策略和方法，編碼為F。

（二）監(jiān)管模型的可供選擇項

在“5W1H”模型中，本文在每個維度中為四類AIGC教育應(yīng)用倫理風(fēng)險提供了可供選擇的項。其中，Why包括較多依據(jù)、中等依據(jù)、較少依據(jù)三種類型，編碼為A1、A2、A3；Who包括國家、學(xué)校、教師、學(xué)生、家長、企業(yè)、社會公眾七種類型，編碼為B1、B2、B3、B4、B5、B6、B7；What包括點（全員監(jiān)管）、線（全過程監(jiān)管）、面（全面監(jiān)管）三種類型，編碼為C1、C2、C3；Where包括頒布權(quán)威性機制或法案、學(xué)校主體通力合作、提升學(xué)校主體的倫理素養(yǎng)、學(xué)校管理者實行監(jiān)督、教師具備敏銳的觀察與發(fā)現(xiàn)能力、學(xué)生具備勇于提出質(zhì)疑之處的意識、家長實行真實監(jiān)督與匯報、企業(yè)具備倫理素養(yǎng)與自我約束力、社會公眾加快輔助解決的速度九種類型，編碼為D1、D2、D3、D4、D5、D6、D7、D8、D9；When包括及時、適時、實時、隨時六種類型，編碼為E1、E2、E3、E4；How to包括控制倫理風(fēng)險、轉(zhuǎn)移倫理風(fēng)險、降低倫理風(fēng)險、消除倫理風(fēng)險、預(yù)防倫理風(fēng)險、規(guī)避倫理風(fēng)險六種類型，編碼為F1、F2、F3、F4、F5、F6。

（三）AIGC教育應(yīng)用倫理風(fēng)險的運行模式

在AIGC教育應(yīng)用的四類倫理風(fēng)險中，本文根據(jù)上文編碼，將其進(jìn)行詳細(xì)的劃分界定，共計14項，如表2所示。第一，在Why-理論基礎(chǔ)中，所有項均為1項，將已有7—10個治理依據(jù)劃分為A1，將已有4—6個治理依據(jù)劃分為A2，將已有1—3個治理依據(jù)劃分為A3，算法偏見與歧視、算法不透明的治理依據(jù)數(shù)量最多為10個；第二，在Who-監(jiān)管主體中，算法偏見與歧視和技術(shù)依賴的編碼數(shù)最多，為7個，算法不透明和數(shù)據(jù)缺失與錯誤的編碼數(shù)最少，為2個；第三，在What-監(jiān)管內(nèi)容中，算法偏見與歧視的編碼數(shù)最多，為3個，算法濫用、數(shù)據(jù)缺失與錯誤、技術(shù)“拜物教”、喪失自主權(quán)編碼數(shù)最少，為1個；第四，在Where-監(jiān)管對象中，無追責(zé)機制的編碼數(shù)最多，為9個，算法濫用的編碼數(shù)最少，為4個；第四，在When-監(jiān)管時機中，算法不透明、算法濫用、泄露隱私的編碼數(shù)最多，為3個，其余均為兩個編碼數(shù)；第五，在How to-監(jiān)管方式中，泄露隱私的編碼數(shù)最多，為5個，數(shù)據(jù)誤用、數(shù)據(jù)濫用、技術(shù)“拜物教”、技術(shù)依賴等8項的編碼數(shù)均最少，為3個。

六、劃分AIGC教育應(yīng)用倫理風(fēng)險的級別維度

本文將根據(jù)14項AIGC教育應(yīng)用倫理風(fēng)險在“5W1H”模型中每類監(jiān)管的編碼數(shù)進(jìn)行等級的劃分。在Why中，編碼為A1記為多，編碼為A3記為少；在Who中，編碼數(shù)為4—7記為多，編碼數(shù)為1—3記為少；在What中，編碼數(shù)為2—3記為多，編碼數(shù)為1記為少；在Where中，編碼數(shù)為5—9記為多，編碼數(shù)為1—4記為少；在When中，編碼數(shù)為3—4記為多，編碼數(shù)為2記為少；在How to中，編碼數(shù)為4—6記為多，編碼數(shù)為1—3記為少。從14項倫理風(fēng)險的橫向劃分來看，如下頁圖4所示。最終根據(jù)每類監(jiān)管為“多”與“少”的次數(shù)將其進(jìn)行AIGC教育應(yīng)用倫理風(fēng)險的分級。

在定級中，將六類監(jiān)管中出現(xiàn)“多”的次數(shù)為4—6次的定級為高倫理風(fēng)險，也稱為不可接受風(fēng)險；出現(xiàn)“少”的次數(shù)為4—6次的定級為低倫理風(fēng)險，也稱為有限接受風(fēng)險；其余倫理風(fēng)險定級為中倫理風(fēng)險，也稱為有限接受風(fēng)險；由此歸納得出14項AIGC教育應(yīng)用倫理風(fēng)險的定級劃分圖譜，它們具有不同的監(jiān)管內(nèi)容、級別、方式、狀態(tài)和策略，如下頁表3所示。例如，算法歧視與偏見、算法透明、算法不可問責(zé)、泄露隱私與數(shù)據(jù)濫用五種倫理風(fēng)險需要高級別監(jiān)管（一級預(yù)警），強力的監(jiān)管方式，強制終止和全面檢查的狀態(tài)以及采用否決策略；算法濫用、數(shù)據(jù)誤用、數(shù)據(jù)濫用、技術(shù)依賴等七種倫理風(fēng)險需要中等級別監(jiān)管（二級預(yù)警），較強的監(jiān)管方式，高頻率檢查的監(jiān)管狀態(tài)以及采用警告的監(jiān)管策略；喪失自主權(quán)、技術(shù)“拜物教”、數(shù)據(jù)缺失與錯誤需要一般級別監(jiān)管（三級預(yù)警），中等的監(jiān)管方式，局部限制與有限檢查的監(jiān)管狀態(tài)以及采用關(guān)注的監(jiān)管策略。通過制定分級監(jiān)管對策和實施基于風(fēng)險水平的監(jiān)管措施，最終才能達(dá)到對AIGC教育應(yīng)用的每類倫理風(fēng)險的有效治理。

七、結(jié)論與問題討論

在教育領(lǐng)域，AIGC將催生全新的體系和帶來無窮無盡的潛在應(yīng)用。學(xué)生可以利用生成式AI創(chuàng)建令人興奮的新成果，從而更好地創(chuàng)造出引人入勝的互動學(xué)習(xí)體驗，促進(jìn)學(xué)生的成長。盡管AIGC在改進(jìn)教育實踐方面具有強大的潛力，但也可能帶來一些潛在的挑戰(zhàn)，例如學(xué)習(xí)材料中摻雜的算法偏見、虛假或不準(zhǔn)確的信息、濫用生成作品獲得利益等。本文從風(fēng)險性監(jiān)管這一獨特視角，爭取在倫理風(fēng)險發(fā)生之前對其進(jìn)行有效評估：剖析了AIGC帶來的四類倫理風(fēng)險，基于風(fēng)險性監(jiān)管制定了三層七步的治理框架，分別包括歸納、運行與分級三層。在歸納中，總結(jié)目前對AIGC教育應(yīng)用倫理風(fēng)險的已有治理依據(jù)；在運行中，構(gòu)建AIGC教育應(yīng)用倫理風(fēng)險的“5W1H”監(jiān)管模型并進(jìn)行編碼；在分級中，實施對四類倫理風(fēng)險的高、中、低級別劃分，從而以不同的解決措施對其處理。通過結(jié)構(gòu)化的監(jiān)管流程，為面對未來生成式AI在教育領(lǐng)域引發(fā)的倫理風(fēng)險，提供實質(zhì)性與持續(xù)性幫助。

參考文獻(xiàn)：

[1] 王文禮，龍顯芝.推進(jìn)教育4.0建設(shè)：實現(xiàn)以人為本的復(fù)蘇[J].開放教育研究，2023，29（2）：36-45.

[2] 王佑鎂，王旦等.“阿拉丁神燈”還是“潘多拉魔盒”：ChatGPT教育應(yīng)用的潛能與風(fēng)險[J].現(xiàn)代遠(yuǎn)程教育研究，2023，35（2）：48-56.

[3] 何哲，曾潤喜等.ChatGPT等新一代人工智能技術(shù)的社會影響及其治理[J].電子政務(wù)，2023，244（4）：2-24.

[4] 楊欣.基于生成式人工智能的教育轉(zhuǎn)型圖景——ChatGPT究竟對教育意味著什么[J].中國電化教育，2023，（5）：1-8+14.

[5] 黃正艷，鄭原斌等.安全合規(guī)多標(biāo)準(zhǔn)管理體系融合與實踐[J].信息技術(shù)與標(biāo)準(zhǔn)化，2022，（5）：199-205+212.

[6] Dwivedi Y K，Kshetri N，et al.“So what if ChatGPT wrote it ” Multidisciplinary perspectives on opportunities， challenges and implications of generative conversational AI for research， practice and policy [J].International Journal of Information Management，2023，71：102642.

[7] 王鑒，姜紀(jì)壘.中國共產(chǎn)黨立德樹人教育思想的百年歷程與基本經(jīng)驗[J].教育研究，2021，42（7）：16-26.

[8] 楊欣.基于生成式人工智能的教育轉(zhuǎn)型圖景——ChatGPT究竟對教育意味著什么[J].中國電化教育，2023，（5）：1-8+14.

[9] 吳軍其，吳飛燕等.ChatGPT賦能教師專業(yè)發(fā)展：機遇、挑戰(zhàn)和路徑[J].中國電化教育，2023，（5）：15-23+33.

[10] 馮建軍.我們?nèi)绾慰创鼵hatGPT對教育的挑戰(zhàn)[J].中國電化教育，2023，（7）：1-6+13.

[11] 鄭偉，張嘉禹.澳大利亞職業(yè)教育與培訓(xùn)機構(gòu)的風(fēng)險防控與監(jiān)管——基于《風(fēng)險監(jiān)管框架》的分析[J].現(xiàn)代教育論叢，2022，248（6）：75-83+111-112.

[12] 李樹旺，李京律，梁媛等.高校體育課堂風(fēng)險識別與評估研究[J].沈陽體育學(xué)院學(xué)報，2021，40（6）：25-33.

[13] 馮磊.基于風(fēng)險監(jiān)管的注冊制——英格蘭高等教育治理新框架的構(gòu)成與特征[J].外國教育研究，2021，48（10）：69-84.

[14] 趙磊磊，蔣馨培等.困境與路徑：人工智能時代學(xué)校教育競爭力發(fā)展研究[J].杭州師范大學(xué)學(xué)報（社會科學(xué)版），2022，44（5）：70-77.

[15] 劉成，張麗.“刷臉”治理的應(yīng)用場景與風(fēng)險防范[J].學(xué)術(shù)交流，2021，328 （7）：151-162.

作者簡介：

王佑鎂：教授，博士，研究方向為智慧教育、人工智能教育、數(shù)字閱讀。

王旦：在讀碩士，研究方向為人工智能教育。

王海潔：在讀碩士，研究方向為人工智能教育。

柳晨晨：副教授，博士，研究方向為人工智能教育、數(shù)字化學(xué)習(xí)。

Research on Risk Governance of AIGC Educational Application Ethics Based on Risk Regulation

Wang Youmei， Wang Dan， Wang Haijie， Liu Chenchen

（Research Center for Big Data and Smart Education， Wenzhou University， Wenzhou 325035， Zhejiang）

Abstract： ChatGPT， which bursts out of the circle， has brought a major breakthrough in the development of AIGC， and also made the field of education move from universal to individuality， from single to diversity， from fragmentation to integration， and AIenabled education enter a new stage， and then also face a series of ethical risks brought by AIGC， which arouses great concern among educators and requires a risky regulatory perspective to deal with the ethical application of AIGC education. Risks. Firstly， the four types of ethical risks of AIGC educational applications are summarized from the perspective of “human-technology” interaction： algorithm-related ethical risks， data-related ethical risks， technology-related ethical risks and application-related ethical risks. Secondly， we formulate a governance framework for ethical risks of AIGC educational applications based on the risk-based regulatory process， and implement the regulation of the four types of ethical risks in the order of “generalization-operation-grading” based on the governance framework： after summarizing the existing governance basis for ethical risks， we construct the “5W1H” regulatory model is constructed after summarizing the existing ethical risk management basis， and the ethical risks are coded and graded into three categories： high， medium and low. This systematic regulatory process provides a reference for addressing the ethical risks of AIGC educational applications， and provides guidance for the ethical use of empowered education in the AIGC era to promote the healthy development of this lasting change in education.

Keywords： AIGC educational applications； ethical risk； risk-based riskiness regulation

責(zé)任編輯：趙云建