教育領(lǐng)域人工智能倫理研究進(jìn)展：基于活動(dòng)理論的分析框架

摘" "要：隨著人工智能在教育領(lǐng)域應(yīng)用的不斷深化，教育倫理風(fēng)險(xiǎn)問題隨之產(chǎn)生，引起了學(xué)術(shù)界的高度關(guān)注。采用活動(dòng)理論分析框架，對(duì)2012—2022年間有關(guān)教育領(lǐng)域人工智能應(yīng)用倫理風(fēng)險(xiǎn)的150篇文獻(xiàn)進(jìn)行系統(tǒng)性回顧，發(fā)現(xiàn)教育領(lǐng)域人工智能倫理研究經(jīng)歷了萌芽探索、成長(zhǎng)發(fā)生、快速發(fā)展三個(gè)階段；研究議題以安全隱私為主，但研究主體尚不明晰，對(duì)引起教育領(lǐng)域倫理問題的人工智能技術(shù)缺乏明確指向性；研究方法以定性為主，引發(fā)倫理問題的應(yīng)用場(chǎng)景相對(duì)局限，且較少針對(duì)特定教育群體；研究對(duì)倫理困境關(guān)注較多，但風(fēng)險(xiǎn)管理視角欠缺；研究成果多為單一視角的理論與現(xiàn)狀分析，缺少多理論視域的綜合研究；倫理風(fēng)險(xiǎn)的跨領(lǐng)域交叉研究和多視域理論分析，對(duì)當(dāng)下教育倫理及風(fēng)險(xiǎn)治理具有重要意義。基于主要結(jié)果及局限性，提出未來研究建議：需要重新審視人工智能與教育之間的交互作用，重塑人工智能教育應(yīng)用中的倫理規(guī)約與評(píng)價(jià)指標(biāo)；研究方法不局限于理論研究，應(yīng)在人工智能技術(shù)實(shí)踐教學(xué)中客觀收集教學(xué)案例、資料等數(shù)據(jù)，科學(xué)性和創(chuàng)新性地提出教育領(lǐng)域人工智能倫理治理策略；深入探討不同教育層級(jí)和教育領(lǐng)域的具體問題，進(jìn)而針對(duì)性地制定相關(guān)政策和法規(guī)，加強(qiáng)監(jiān)管與管理，并且提高相關(guān)人員的倫理意識(shí)和責(zé)任意識(shí)；不僅要關(guān)注教育人工智能應(yīng)用表層所涉及的倫理問題，對(duì)于更深層次的風(fēng)險(xiǎn)發(fā)生機(jī)制問題也要多加關(guān)注；加大對(duì)教育人工智能應(yīng)用倫理原則與政策的研究力度，系統(tǒng)性地思考人工智能的治理維度，通過制定倫理準(zhǔn)則，加強(qiáng)政府及相關(guān)管理部門對(duì)教育人工智能的監(jiān)管。

關(guān)鍵詞：人工智能倫理；教育人工智能；倫理風(fēng)險(xiǎn)；安全隱私；教育治理；活動(dòng)理論

中圖分類號(hào)：G434" " " " "文獻(xiàn)標(biāo)志碼：A" " " " "文章編號(hào)：1673-8454（2023）05-0053-12

一、引言

21世紀(jì)以來，人工智能與教育教學(xué)融合帶來的機(jī)遇與挑戰(zhàn)，逐漸成為學(xué)術(shù)界的研究熱點(diǎn)。2017年，國(guó)務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》提出，加快推動(dòng)人工智能技術(shù)在教育教學(xué)和管理領(lǐng)域的應(yīng)用，促進(jìn)人才培養(yǎng)模式以及教學(xué)方法改革。人臉識(shí)別、教育機(jī)器人等智能技術(shù)在教育領(lǐng)域的應(yīng)用，不僅促進(jìn)了教育教學(xué)的進(jìn)步和發(fā)展，人工智能技術(shù)與教育教學(xué)的深度融合和雙向賦能，在一定程度上也提升了教育信息化水平。與此同時(shí)，教育的“育人性”與人工智能的“技術(shù)效用性”沖突和矛盾也隨之產(chǎn)生[1]，一系列倫理風(fēng)險(xiǎn)問題逐漸引起研究界的廣泛關(guān)注。教育領(lǐng)域人工智能應(yīng)用的倫理風(fēng)險(xiǎn)不僅涉及安全隱私，還造成了人工智能與教育主體的權(quán)力嬗變、算法推薦與學(xué)生個(gè)性的發(fā)展異化、智能感知與教育數(shù)據(jù)的價(jià)值困境等問題，對(duì)教育教學(xué)的良性發(fā)展帶來一定影響。

針對(duì)人工智能應(yīng)用于教育領(lǐng)域產(chǎn)生的倫理風(fēng)險(xiǎn)，學(xué)界開始重新審視人工智能技術(shù)與人的權(quán)力邊界。國(guó)際社會(huì)普遍認(rèn)為，發(fā)展教育人工智能的同時(shí)，需要提出治理原則與措施規(guī)避倫理風(fēng)險(xiǎn)。例如，2019 年，聯(lián)合國(guó)教科文組織發(fā)布題為《北京共識(shí)——人工智能與教育》（Beijing Consensus on Artificial Intelligence and Education）的報(bào)告，提出教育人工智能倫理決策原則[2]，是對(duì)日益融合的教育人工智能倫理問題的回應(yīng)與警示；同年，歐盟人工智能專家委員會(huì)（Artificial Intelligence High-Level Expert Group on Artificial Intelligence，簡(jiǎn)稱AI HLEG）出臺(tái)《可信賴的人工智能倫理準(zhǔn)則》（Ethics Guidelines for Trustworthy AI），闡釋了可信賴的人工智能倫理框架及實(shí)現(xiàn)路徑[3]。2021年，國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能倫理規(guī)范》，強(qiáng)調(diào)將倫理道德融入人工智能全生命周期，為從事人工智能相關(guān)活動(dòng)的參與者等提供倫理指引[4]。雖然國(guó)際組織針對(duì)人工智能在教育領(lǐng)域應(yīng)用所產(chǎn)生的倫理風(fēng)險(xiǎn)，發(fā)布了一系列政策性文件，但是隨著應(yīng)用的深入推進(jìn)，倫理議題日趨多樣化，目前的研究尚停留在概念推衍、理論倡導(dǎo)層面，卻少有研究從實(shí)證的角度進(jìn)行全方位分析和挖掘。另外，針對(duì)目前學(xué)界對(duì)教育領(lǐng)域人工智能倫理所做的文獻(xiàn)綜述，大部分研究均是針對(duì)倫理問題概而不詳，缺乏一個(gè)具體而又系統(tǒng)性、綜合性的文獻(xiàn)回顧和行之有效的分析框架。

活動(dòng)理論[5]是由芬蘭學(xué)者恩格斯托姆（Engestr？觟m）完善，并以活動(dòng)為基本分析單元的探討人與客觀世界的互動(dòng)理論。它包括主體、客體、共同體、工具、規(guī)則和分工六個(gè)要素，恰好可以用來分析教育領(lǐng)域人工智能倫理問題。本研究依據(jù)活動(dòng)理論的六個(gè)要素，將教育領(lǐng)域人工智能倫理分為六個(gè)方面來進(jìn)行分析：AI技術(shù)、研究主體、研究議題、AI面向群體、AI教育應(yīng)用、研究方法。之所以選擇活動(dòng)理論為視角，在于它適用于教育領(lǐng)域人工智能倫理的議題分類。教育領(lǐng)域人工智能應(yīng)用本質(zhì)上是交互活動(dòng)，包含著主體、客體、工具、規(guī)則等多個(gè)要素，產(chǎn)生的倫理問題也涉及其中諸多要素，與活動(dòng)理論具有相似性和相通性。因此，本研究采用活動(dòng)理論分析框架，嘗試對(duì)教育領(lǐng)域人工智能倫理問題的相關(guān)研究進(jìn)行綜述，為問題分析提供一個(gè)新的理論視角，同時(shí)也為后續(xù)相關(guān)研究提供清晰明確的學(xué)術(shù)視野和框架導(dǎo)引。

二、分析框架與研究程序

（一）數(shù)據(jù)來源

本研究檢索時(shí)間范圍為2012—2022年近十年的中英文文獻(xiàn)。對(duì)于英文文獻(xiàn)的檢索，所選取數(shù)據(jù)庫主要為科學(xué)網(wǎng)（Web of Science），搜索方式為將關(guān)鍵詞“Artificial intelligence in education“or“AI in education”or“Education combined with artificial intelligence”與“Ethics”or “ethical”or“privacy”or“security”or“risks”or“moral” 進(jìn)行聯(lián)合搜索。在科學(xué)網(wǎng)進(jìn)行高級(jí)檢索，核心合集共有844篇文獻(xiàn)，通過第一輪篩選，符合條件的有63篇文獻(xiàn)（篩選方式及標(biāo)準(zhǔn)見圖1）。同時(shí)，為防止遺漏文獻(xiàn)，本研究還通過滾雪球方式，以Google Scholar數(shù)據(jù)庫中的文獻(xiàn)作為擴(kuò)充，通過閱讀題目及摘要選取22篇文獻(xiàn)。對(duì)于中文文獻(xiàn)的檢索，將關(guān)鍵詞“人工智能教育”分別與“倫理”或“隱私”或“安全”或“風(fēng)險(xiǎn)”或“道德”中的任意一個(gè)關(guān)鍵詞組合在中國(guó)知網(wǎng)上依次進(jìn)行高級(jí)檢索，排除相同文獻(xiàn)，2012—2022年間的文獻(xiàn)共有546篇，通過閱讀題目和摘要初步篩選出符合條件的101篇。

通過閱讀第一輪篩選出來的所有文獻(xiàn)摘要及全文進(jìn)行二次篩選，排除有關(guān)人工智能醫(yī)學(xué)、工程學(xué)、社會(huì)學(xué)等研究領(lǐng)域與教育倫理無關(guān)的文獻(xiàn)617篇；排除專著、會(huì)議論文、社論材料等142篇文獻(xiàn)，最后選出符合標(biāo)準(zhǔn)的英文文獻(xiàn)56篇、中文文獻(xiàn)94篇，共150篇文獻(xiàn)。

（二）理論模型、編碼過程及分析過程

本研究基于活動(dòng)理論，根據(jù)活動(dòng)理論本身的三個(gè)核心要素（主體、客體、共同體）和三個(gè)次要要素（工具、規(guī)則、分工），對(duì)教育領(lǐng)域人工智能倫理議題中的AI技術(shù)、研究議題、研究主體、研究方法、AI面向群體、AI教育應(yīng)用等六個(gè)方面進(jìn)行分類及編碼分析。圖2展示了基于第三代活動(dòng)理論的教育領(lǐng)域人工智能倫理分析框架圖?？梢园l(fā)現(xiàn)，第三代活動(dòng)理論突破了單一活動(dòng)系統(tǒng)的局限，將研究分析單元拓展到基于“潛在共享客體”的活動(dòng)系統(tǒng)網(wǎng)絡(luò)，側(cè)重于解決活動(dòng)系統(tǒng)內(nèi)或活動(dòng)系統(tǒng)之間的問題及困境[6]。圖中六大要素相互關(guān)聯(lián)，緊密相扣，闡釋了教育領(lǐng)域人工智能倫理涉及的各方面之間的關(guān)系，為后續(xù)進(jìn)行發(fā)展階段與特征分析研究奠定基礎(chǔ)。

1.AI技術(shù)

依據(jù)活動(dòng)理論當(dāng)中的要素，技術(shù)可以充當(dāng)工具來發(fā)揮本研究主題的中介作用，通過對(duì)人工智能技術(shù)的分類研究，探究其對(duì)各研究主體的影響，以及產(chǎn)生的倫理問題。參考桑德拉（Sandra）的研究，將AI技術(shù)分為人工智能神經(jīng)網(wǎng)絡(luò)、自然語言處理、機(jī)器學(xué)習(xí)、人機(jī)交互、深度學(xué)習(xí)、專家系統(tǒng)、可穿戴技術(shù)、生物特征識(shí)別和不明確[7]。其中，“不明確”指的是在文獻(xiàn)中沒有明確AI技術(shù)或者提到多個(gè)AI技術(shù)。

2.研究議題

結(jié)合活動(dòng)理論要素，本研究重點(diǎn)針對(duì)教育領(lǐng)域人工智能倫理問題，進(jìn)行歸納、分析與總結(jié)，通過對(duì)人工智能應(yīng)用于教育領(lǐng)域產(chǎn)生的倫理風(fēng)險(xiǎn)問題進(jìn)行分類，得出議題。參考張立新的研究，將議題分為技術(shù)風(fēng)險(xiǎn)、安全隱私、價(jià)值敏感性（自主性、信任、道德）、責(zé)任與問責(zé)、智能鴻溝、人機(jī)關(guān)系和不確定[8]。其中，“不確定”指在文獻(xiàn)中提到多個(gè)研究議題。

3.研究主體

針對(duì)教育領(lǐng)域人工智能倫理問題涉及的教育群體，本研究根據(jù)活動(dòng)理論要素，總結(jié)歸納各文獻(xiàn)中提及的研究對(duì)象。參考相關(guān)文獻(xiàn)將研究主體分為學(xué)前兒童、中小學(xué)生、大學(xué)生、教師、社會(huì)人士和不確定[9]。其中，“不確定”指的是研究主體有兩個(gè)以上，研究中沒有提到研究主體或者研究中的研究主體沒有說明身份。

4.研究方法

參考麥克米蘭（McMillan）等的研究，將研究方法分為定量研究、定性研究和混合研究三類[10]。其中，混合研究方法指同時(shí)運(yùn)用定量和定性兩種方法。

5.AI面向群體

依據(jù)活動(dòng)理論框架，AI面向群體對(duì)應(yīng)的是分工，指AI對(duì)教育領(lǐng)域各群體產(chǎn)生的影響。參考孟翀等的研究，將人工智能在教育中的面向群體分為人工智能對(duì)教師的影響、人工智能對(duì)學(xué)生的影響、人工智能對(duì)教師和學(xué)生共同的影響、人工智能對(duì)教育系統(tǒng)的影響以及不明確五類[11]。其中，“不明確”指在研究中沒有明確說明。

6.AI教育應(yīng)用

在活動(dòng)理論框架中，AI教育應(yīng)用對(duì)應(yīng)著共同體。人工智能對(duì)教育領(lǐng)域各大主體的影響，與人工智能在教育中應(yīng)用的教學(xué)平臺(tái)或教學(xué)系統(tǒng)緊密相關(guān)。參考崔宇路等的研究，把人工智能在教育領(lǐng)域的應(yīng)用分為五類[12]，分別為智能教學(xué)系統(tǒng)、智能學(xué)習(xí)平臺(tái)、智能教育機(jī)器人、智慧校園、不明確。其中，“不明確”指提到多種人工智能在教育領(lǐng)域的應(yīng)用。

三、教育領(lǐng)域人工智能倫理研究發(fā)展階段

本研究基于活動(dòng)理論，對(duì)2012—2022年教育領(lǐng)域人工智能倫理相關(guān)研究進(jìn)行系統(tǒng)回顧與分析。在CiteSpace軟件中選擇Timeline 視圖模塊，生成“2012—2022年我國(guó)教育領(lǐng)域人工智能倫理研究關(guān)鍵詞時(shí)間線圖譜”（見圖3）。關(guān)鍵詞時(shí)間線圖譜（Timeline View） 將聚類包含的關(guān)鍵詞按照時(shí)間順序依次展開。圖中右側(cè)是有關(guān)研究主題的關(guān)鍵詞聚類，時(shí)間線上的關(guān)鍵詞則是某個(gè)聚類中包含的熱點(diǎn)話題。其中，某關(guān)鍵詞的節(jié)點(diǎn)越大，代表著該話題在一個(gè)時(shí)間段內(nèi)廣受關(guān)注，從而可以鑒別研究熱點(diǎn)的發(fā)展趨勢(shì)。關(guān)鍵詞時(shí)間線圖譜可以直觀地反映某一時(shí)間范圍內(nèi)，某個(gè)研究領(lǐng)域研究主題的演變過程。結(jié)合關(guān)鍵詞共現(xiàn)時(shí)間線圖譜可以看出，目前我國(guó)教育領(lǐng)域人工智能倫理研究主要分為三個(gè)階段：2012—2014年缺乏關(guān)注，處于萌芽探索階段；2015—2017年初步發(fā)生，處于成長(zhǎng)發(fā)生階段；2018—2022年快速發(fā)展，處于快速發(fā)展階段。由此可見，教育領(lǐng)域人工智能倫理研究具有良好的發(fā)展前景，研究人員的關(guān)注點(diǎn)更加多元，從多角度探討倫理問題，并嘗試提出人工智能應(yīng)用在教育領(lǐng)域的倫理規(guī)約。

（一）萌芽探索階段（2012—2014年）

從圖3可以看出，在這一階段，有關(guān)教育領(lǐng)域人工智能倫理的研究并不多。結(jié)合活動(dòng)理論分析框架，AI教育應(yīng)用和研究議題作為活動(dòng)理論的主要組成要素，涉及的智能教學(xué)系統(tǒng)、智能學(xué)習(xí)平臺(tái)，以及產(chǎn)生的技術(shù)風(fēng)險(xiǎn)和安全隱私等倫理問題幾乎未出現(xiàn)。研究發(fā)現(xiàn)，這一階段人工智能在教育領(lǐng)域的應(yīng)用，主要圍繞數(shù)字化教室構(gòu)建與高校人工智能課程的初步探索。發(fā)文量明顯較少，表明教育人工智能倫理在這一時(shí)間段內(nèi)的研究深度較為欠缺。另外，研究還發(fā)現(xiàn)，這一階段的相關(guān)研究，主要集中在理論研究層面，在實(shí)踐應(yīng)用研究上較為匱乏。因此，對(duì)應(yīng)的教育人工智能倫理問題也相對(duì)很少，僅在2014年由國(guó)外作者發(fā)表了一篇相關(guān)文獻(xiàn)。該文獻(xiàn)采取定性研究方法，在國(guó)際上提出了教育人工智能倫理研究的必要性。在2008、2010年，阿內(nèi)特（Arnett）等發(fā)現(xiàn)人工智能倫理在心理領(lǐng)域研究的欠缺和失衡[13]，并引出教育領(lǐng)域的類似問題及風(fēng)險(xiǎn)。至此，相關(guān)研究開始從國(guó)際角度呼吁教育領(lǐng)域人工智能倫理探討的必要性，以彌補(bǔ)當(dāng)前缺乏關(guān)注的漏洞。

（二）成長(zhǎng)發(fā)生階段（2015—2017年）

參考教育領(lǐng)域人工智能倫理研究時(shí)間線圖譜，在這一階段，隨著技術(shù)的發(fā)展，倫理問題引發(fā)研究界的進(jìn)一步關(guān)注。2015年，一些研究者以定性研究方法探討在線教育中人工智能存在的倫理問題。相關(guān)研究討論了人工智能為學(xué)生學(xué)習(xí)帶來的便利，包括輔助教師因材施教、為學(xué)習(xí)者提供個(gè)人幫助[14]、增強(qiáng)學(xué)習(xí)者的學(xué)習(xí)體驗(yàn)等。例如，人工智能助教通過監(jiān)控學(xué)習(xí)者學(xué)習(xí)進(jìn)度并給予一定的反饋，來激發(fā)學(xué)習(xí)者繼續(xù)學(xué)習(xí)的好奇心，從而維持學(xué)習(xí)興趣[15]。不僅如此，人工智能也可以輔助教師及時(shí)察覺學(xué)生存在的問題，并提供針對(duì)性幫助[16]。另外，在相關(guān)文獻(xiàn)中，人工智能在教育中的倫理問題開始針對(duì)單個(gè)領(lǐng)域，如將人工智能納入MOOC學(xué)習(xí)者的個(gè)人自主權(quán)問題[17]。在這個(gè)階段，研究者嘗試運(yùn)用新興的道德決策框架[18]和可解釋的人工智能框架[19]，來解決人工智能在教育應(yīng)用過程中存在的倫理問題，但該階段解決方案處于理論探討的非完整階段，教育領(lǐng)域人工智能倫理問題仍然需要持續(xù)性關(guān)注。

（三）快速發(fā)展階段（2018—2022年）

2018年之后，研究者對(duì)人工智能倫理開始高度關(guān)注，并且進(jìn)行了一系列理論探討。關(guān)于教育領(lǐng)域人工智能倫理研究的文獻(xiàn)從國(guó)外延伸到國(guó)內(nèi)，尤其在2020、2021年，出現(xiàn)了國(guó)內(nèi)外并駕齊驅(qū)的趨勢(shì)。

1.混合型研究方法

通過分析研究設(shè)計(jì)和實(shí)施過程，教育人工智能倫理研究方法，從僅使用定性研究，到使用定量研究甚至混合研究方向發(fā)展。例如，里克特（Richter）運(yùn)用定量研究方法系統(tǒng)回顧人工智能在教育領(lǐng)域的應(yīng)用，并進(jìn)一步探索人工智能在高等教育應(yīng)用的倫理問題[20]。胡小勇等為厘清教育人工智能倫理的內(nèi)涵框架，對(duì)當(dāng)代大學(xué)生倫理認(rèn)知的現(xiàn)狀進(jìn)行了定量研究[21]。趙磊磊等對(duì)中小學(xué)管理者進(jìn)行了相應(yīng)研究，以分析當(dāng)前教育數(shù)據(jù)倫理風(fēng)險(xiǎn)治理的現(xiàn)狀與問題 [22]。研究者對(duì)研究主體的探索，也反映了人工智能時(shí)代對(duì)不同學(xué)段和層次人群的智能素養(yǎng)、技術(shù)的要求。

2. 多樣化研究議題

教育領(lǐng)域人工智能倫理問題的研究涉及眾多方面，如人機(jī)互信、人機(jī)共融、算法風(fēng)險(xiǎn)、道德物化、技術(shù)理性、技術(shù)倫理等。教育人工智能倫理最初關(guān)注人機(jī)關(guān)系問題。例如，有學(xué)者在研究中提出，人工智能會(huì)侵犯學(xué)生的個(gè)人自主權(quán)[23]。隨著人工智能的發(fā)展，對(duì)教育人工智能倫理的研究議題開始逐步多樣化，開始探索教育人工智能本身的安全性風(fēng)險(xiǎn)。例如，扎內(nèi)蒂（Zanetti）提出，在智能教學(xué)中，人工智能本身存在安全隱私問題，智能輔導(dǎo)系統(tǒng)可以追蹤學(xué)生的個(gè)人信息，但侵犯了學(xué)生的隱私[24]。此外，人工智能算法數(shù)據(jù)可能存在社會(huì)已有的偏見[25]，如性別、種族。教育人工智能倫理問題的研究議題逐漸多樣化，研究者開始針對(duì)不同層面的倫理問題突破困境，提高人工智能在教育領(lǐng)域應(yīng)用的有效性。

3.多維度研究方向

在人工智能時(shí)代，研究者對(duì)教育領(lǐng)域人工智能倫理進(jìn)行了多元化研究。首先，有研究者對(duì)相關(guān)問題進(jìn)行了整體探討，如將教育人工智能倫理問題分為算法歧視、安全隱私、責(zé)任與問責(zé)等，并嘗試提出倫理問題規(guī)避建議，以促進(jìn)人工智能與教育的深度融合。其次，有研究者開始就當(dāng)前國(guó)內(nèi)外提出的教育人工智能應(yīng)用規(guī)約，進(jìn)行理論分析與討論，并在此基礎(chǔ)上嘗試提出教育人工智能倫理的監(jiān)管框架。最后，有研究者關(guān)注教育人工智能倫理對(duì)教師和學(xué)生素養(yǎng)的影響，如對(duì)人工智能背景下教師角色定位及素養(yǎng)進(jìn)行探討[26]。因此，面對(duì)教育領(lǐng)域人工智能的倫理風(fēng)險(xiǎn)，眾多利益相關(guān)者需要提高技術(shù)認(rèn)知、人機(jī)協(xié)同、數(shù)據(jù)應(yīng)用、倫理安全等方面的素養(yǎng)，使人工智能在教育領(lǐng)域能夠正確健康地發(fā)展。

四、教育領(lǐng)域人工智能倫理研究特征分析

本研究對(duì)國(guó)內(nèi)外的150篇文獻(xiàn)進(jìn)行整理，結(jié)果表明，國(guó)外關(guān)于教育領(lǐng)域人工智能倫理的研究約有62%集中在歐洲。當(dāng)前，受教育領(lǐng)域各類學(xué)者以及研究人員普遍關(guān)注的倫理問題，可以概括為四個(gè)方面：情感倫理、關(guān)系倫理、算法倫理和資源倫理。研究者在相關(guān)文獻(xiàn)中提出，教學(xué)管理過程中出現(xiàn)的安全、隱私以及智能化應(yīng)用，引發(fā)學(xué)生對(duì)產(chǎn)品的情感依賴等倫理困境[27]；課堂實(shí)時(shí)環(huán)境監(jiān)測(cè)系統(tǒng)、智能教學(xué)機(jī)器等在輔助教學(xué)的同時(shí)，也削弱了教師的主體地位，侵犯了學(xué)生自由，加大了教育不公平[28]；人工智能支持的高等教育輔導(dǎo)，產(chǎn)生了眾多算法倫理問題（數(shù)據(jù)的完整性、系統(tǒng)的安全性和保密性、避免偏見、確保信任和算法的透明度）[29]。但在諸多文獻(xiàn)中，對(duì)倫理問題的關(guān)注仍舊不夠，對(duì)倫理問題的防范效果依然不彰，更未能深入考察倫理問題的可持續(xù)防范體系?；诖耍瑧?yīng)進(jìn)一步加強(qiáng)對(duì)教育領(lǐng)域人工智能倫理研究的分析，以便在教育領(lǐng)域更恰當(dāng)安全地引入和使用人工智能技術(shù)。綜合來看，關(guān)于教育領(lǐng)域人工智能倫理的研究仍在探索之中，主要包括六個(gè)方面。

（一）以安全隱私為主要研究議題

基于活動(dòng)理論分析框架，針對(duì)研究議題、研究主體、AI技術(shù)、AI教育應(yīng)用這幾個(gè)因素，在研究議題方面，主要涉及技術(shù)風(fēng)險(xiǎn)、安全隱私、價(jià)值敏感性、責(zé)任與問責(zé)、智能鴻溝、人機(jī)關(guān)系等六種?？傮w來看，討論最多的是安全隱私問題（22.76%），因?yàn)榻逃斯ぶ悄懿豢杀苊獾匦枰獙?duì)學(xué)生的個(gè)人和敏感數(shù)據(jù)進(jìn)行分析，卻難以擔(dān)保學(xué)生的數(shù)據(jù)隱私[30]，而如何在教育領(lǐng)域保證人工智能技術(shù)應(yīng)用的安全性，還需要系統(tǒng)全面的解決方案；其次是關(guān)于人工智能的責(zé)任與問責(zé)問題（12.30%）；然后是技術(shù)風(fēng)險(xiǎn)（10.57%）和價(jià)值敏感性（9.76%）；關(guān)于智能鴻溝（6.50%）和人機(jī)關(guān)系（4.06%）的研究相對(duì)較少。通過對(duì)研究議題進(jìn)行分析，可以幫助研究者明辨多元治理主體權(quán)限，構(gòu)建監(jiān)督機(jī)制及倫理道德等策略，為實(shí)現(xiàn)教育治理智能化提供支撐[31]。

（二）倫理問題研究主體模糊分散

針對(duì)受教育領(lǐng)域人工智能倫理影響較多的群體，本研究基于活動(dòng)理論將其主要?jiǎng)澐譃閷W(xué)前兒童、中小學(xué)生、大學(xué)生、教師以及社會(huì)人士。在篩選的150篇文獻(xiàn)中，教育人工智能倫理研究中大多沒有提到過研究主體（62.38%）。在提到研究主體的諸多文獻(xiàn)中，國(guó)內(nèi)大多數(shù)文獻(xiàn)以大學(xué)生為研究主體，其次是中小學(xué)生，關(guān)于學(xué)前兒童和教師的研究較少；與國(guó)內(nèi)相比，國(guó)外研究主體主要關(guān)注社會(huì)人士，文獻(xiàn)量最多?？梢姡瑖?guó)內(nèi)外大多數(shù)文獻(xiàn)探討人工智能技術(shù)對(duì)于教育系統(tǒng)的影響（48篇），然后是探討人工智能技術(shù)對(duì)教師和學(xué)生共同的影響（27篇），以及分別對(duì)教師（5篇）和學(xué)生（6篇）的影響。從個(gè)性化教育的虛擬助手，到學(xué)生或教師的跟蹤系統(tǒng)，人工智能帶來的機(jī)遇往往伴隨著倫理挑戰(zhàn)[32]。教育人工智能中的社交機(jī)器人、終身智能教師、智能輔導(dǎo)系統(tǒng)等應(yīng)用，都彰顯了人工智能對(duì)教師及學(xué)生提供的幫助與服務(wù)。因此，評(píng)鑒人工智能對(duì)教育主體的影響非常重要，包括對(duì)教學(xué)法、課程設(shè)置、自動(dòng)化教育的可能性，以及教師角色、國(guó)際發(fā)展、教育選擇的所有權(quán)和行為操縱的考慮[33]。

（三）人工智能技術(shù)缺乏明確指向性

基于活動(dòng)理論分析框架，人工智能技術(shù)作為一個(gè)工具性的因素，主要對(duì)以神經(jīng)網(wǎng)絡(luò)、自然語言處理、機(jī)器學(xué)習(xí)、人機(jī)交互、深度學(xué)習(xí)、專家系統(tǒng)、可穿戴技術(shù)、生物特征識(shí)別等為代表的技術(shù)進(jìn)行探討。教育人工智能依賴于技術(shù)的突破性進(jìn)展，對(duì)其倫理問題進(jìn)行研究，離不開對(duì)人工智能技術(shù)的探討。在國(guó)內(nèi)研究中，對(duì)于AI技術(shù)沒有明確指向性的文獻(xiàn)最為常見，大多數(shù)文獻(xiàn)都對(duì)人工智能技術(shù)進(jìn)行綜合探討，針對(duì)某一特定技術(shù)進(jìn)行研究的文獻(xiàn)較少。而機(jī)器學(xué)習(xí)是人工智能的核心，也是實(shí)現(xiàn)人工智能的手段和方法[34]，因此對(duì)機(jī)器學(xué)習(xí)進(jìn)行探討的文獻(xiàn)較多。其次是生物識(shí)別特征和自然語言處理、人工智能神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)和專家系統(tǒng)等。與國(guó)內(nèi)相比，國(guó)外關(guān)于生物特征識(shí)別和自然語言處理的研究也相對(duì)較少。為了對(duì)教育領(lǐng)域人工智能應(yīng)用的倫理困境提出合理可持續(xù)的原則和對(duì)策，針對(duì)特定人工智能技術(shù)解決更多瓶頸，對(duì)引起教育領(lǐng)域倫理問題的人工智能技術(shù)進(jìn)行深入分析值得期待。

（四）倫理問題應(yīng)用場(chǎng)景相對(duì)局限

隨著人工智能技術(shù)的發(fā)展，智能導(dǎo)學(xué)、智能閱卷、智能感知等系統(tǒng)廣泛應(yīng)用于教育教學(xué)各領(lǐng)域，產(chǎn)生了重要而深刻的影響?；诨顒?dòng)理論分析框架，本研究將AI教育應(yīng)用主要?dú)w納為智能教育機(jī)器人、智能教學(xué)系統(tǒng)、智慧校園和智能學(xué)習(xí)平臺(tái)，并且根據(jù)所查閱文獻(xiàn)進(jìn)行編碼總結(jié)。結(jié)果發(fā)現(xiàn)，在150篇文章中，國(guó)外對(duì)智能教學(xué)系統(tǒng)探討較多，其次是智能教育機(jī)器人、智能學(xué)習(xí)平臺(tái)和智慧校園。隨著人工智能技術(shù)的迅速發(fā)展，我國(guó)也開始逐步關(guān)注并推動(dòng)其在教育領(lǐng)域的應(yīng)用?！督逃畔⒒?.0行動(dòng)計(jì)劃》和《人工智能基礎(chǔ)（高中版）》的發(fā)布，標(biāo)志著教育領(lǐng)域人工智能技術(shù)應(yīng)用進(jìn)入了一個(gè)新階段。綜合來看，“智能技術(shù)進(jìn)校園”已經(jīng)成為我國(guó)教育技術(shù)發(fā)展的重點(diǎn)[35]。

（五）AI面向群體主要以AI對(duì)教育系統(tǒng)的影響為主

人工智能作為新一輪科技發(fā)展的核心力量，在教育系統(tǒng)的變革方面彰顯著巨大的潛力。2021年，聯(lián)合國(guó)教科文組織在國(guó)際人工智能與教育會(huì)議上發(fā)布的《人工智能與教育：政策制定者指南》（AI and Education： Guidance for Policymakers）報(bào)告提出，為準(zhǔn)確把握人工智能，加速發(fā)展態(tài)勢(shì)，科學(xué)應(yīng)對(duì)人工智能應(yīng)用在教育領(lǐng)域的機(jī)遇與挑戰(zhàn)，亟需建設(shè)和健全更科學(xué)的相關(guān)政策和倫理框架[36]。因此，如何制定相關(guān)政策引導(dǎo)人工智能更全面、更協(xié)調(diào)、更系統(tǒng)地促進(jìn)教育系統(tǒng)變革，是研究界面臨的挑戰(zhàn)和關(guān)注的重點(diǎn)。隨著大數(shù)據(jù)、云計(jì)算、圖像語音識(shí)別、深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等人工智能技術(shù)逐漸引入學(xué)校教育，教育系統(tǒng)在不斷拓展與創(chuàng)新智慧校園的新型模式，與此同時(shí)也應(yīng)積極應(yīng)對(duì)產(chǎn)生的倫理問題與挑戰(zhàn)，促進(jìn)人工智能與教育教學(xué)更好地融合。

（六）研究方法相對(duì)局限

本研究發(fā)現(xiàn)，國(guó)內(nèi)外關(guān)于教育領(lǐng)域人工智能倫理的研究文獻(xiàn)最常用的是定性研究方法，其次是混合研究方法。定量研究方法僅在國(guó)內(nèi)發(fā)現(xiàn)了3篇文獻(xiàn)，國(guó)外則有15篇文獻(xiàn)。由此可見，目前對(duì)于教育領(lǐng)域人工智能倫理的研究主要基于定性研究方法，而定量方法具有巨大的研究潛力，未來可以嘗試從實(shí)證角度更全面細(xì)致地對(duì)相關(guān)問題進(jìn)行深究。

五、結(jié)論與未來研究方向

基于活動(dòng)理論框架的六個(gè)要素分析，人工智能及其教育應(yīng)用的潛在影響與倫理問題日益凸顯。對(duì)此，全球業(yè)界、學(xué)界和社會(huì)團(tuán)體的專家逐漸達(dá)成一致，需要通過風(fēng)險(xiǎn)管理的方式應(yīng)對(duì)人工智能負(fù)面影響，并將其視為倫理風(fēng)險(xiǎn)加以管理與防范。綜合來看，當(dāng)前此領(lǐng)域研究仍處在探索早期，主要有兩條研究主線：①教育領(lǐng)域人工智能應(yīng)用倫理困境關(guān)注較多，但風(fēng)險(xiǎn)管理視角欠缺。②教育領(lǐng)域人工智能應(yīng)用倫理問題對(duì)策重在規(guī)范，風(fēng)險(xiǎn)防范研究薄弱。學(xué)術(shù)界對(duì)教育領(lǐng)域人工智能應(yīng)用的倫理困境提出了不少原則和對(duì)策，但如何從原則轉(zhuǎn)向?qū)嵺`，還需要探究明確的解決方案。近年來，教育領(lǐng)域人工智能應(yīng)用日趨繁榮，但倫理問題關(guān)注不夠、防范效果不彰，倫理風(fēng)險(xiǎn)理論研究嚴(yán)重滯后，基本未見倫理風(fēng)險(xiǎn)識(shí)別、分析、評(píng)估與應(yīng)對(duì)機(jī)制的系統(tǒng)性研究成果，更未能深入考察倫理風(fēng)險(xiǎn)可持續(xù)防范體系。且現(xiàn)有研究成果多為單一視角的理論與現(xiàn)狀分析，較少結(jié)合最新案例對(duì)各個(gè)風(fēng)險(xiǎn)領(lǐng)域進(jìn)行系統(tǒng)分析，尤其缺少多理論視域的綜合研究，容易造成研究的碎片化和重復(fù)性?；诖?，教育領(lǐng)域人工智能應(yīng)用倫理風(fēng)險(xiǎn)的跨領(lǐng)域交叉研究和多視域理論分析值得期待。

（一）教育領(lǐng)域人工智能倫理議題受到高度關(guān)注

本研究提出的研究議題在已發(fā)表文獻(xiàn)中被多次提到，尤其是安全隱私、數(shù)據(jù)泄露、責(zé)任與問責(zé)、技術(shù)風(fēng)險(xiǎn)等，說明關(guān)于教育人工智能應(yīng)用方面的倫理問題受到了社會(huì)各界研究人員的高度重視。例如，趙磊磊等致力于探索教育人工智能倫理的基本向度與風(fēng)險(xiǎn)消解路徑[37]；祝智庭等從人本教育人工智能視角，歸納了教育數(shù)據(jù)的隱私和安全監(jiān)管、智能導(dǎo)師與真實(shí)教師間的角色沖突、人機(jī)主導(dǎo)性波動(dòng)、學(xué)生學(xué)業(yè)的誠信度、適用程度的道德倫理問題[38]。其他倫理困境還包括人工智能與教育主體的權(quán)利嬗變、個(gè)性發(fā)展異化、人機(jī)互動(dòng)的情感危機(jī)、教育數(shù)據(jù)價(jià)值困境、數(shù)字鴻溝、社會(huì)競(jìng)爭(zhēng)和教育公平等[39]。近幾年，人工智能在教育領(lǐng)域的應(yīng)用也越來越廣泛，研究人員對(duì)教育人工智能倫理的探索源源不斷，許多學(xué)者和研究人員不僅提出了相關(guān)問題還進(jìn)行了原因剖析。在教育人工智能的設(shè)計(jì)、開發(fā)、部署和投入應(yīng)用之前，需要認(rèn)真考慮倫理原則的構(gòu)建，為在教育教學(xué)實(shí)踐過程中安全有效地應(yīng)用人工智能，奠定合適的倫理道德基礎(chǔ)[40]。

（二）教育領(lǐng)域人工智能倫理議題仍處于理論探討階段

毫無疑問，人工智能的發(fā)展對(duì)教育產(chǎn)生了深遠(yuǎn)的影響，算法偏見、數(shù)據(jù)隱私、網(wǎng)絡(luò)安全等都是教育人工智能發(fā)展帶來的負(fù)面問題和弊端[41]。伴隨著“人工智能教育熱”的不斷蔓延，當(dāng)前關(guān)于教育人工智能倫理的研究越來越多，然而這些研究尚處于理論探討階段，很少有實(shí)證研究去探索教育人工智能倫理問題。另外，針對(duì)教育人工智能倫理進(jìn)行的研究并沒有明確的指向性，大多都是針對(duì)倫理問題泛泛而談，缺少對(duì)具體倫理問題的分析與整合。在教育人工智能倫理問題的解決上，主要集中在對(duì)西方發(fā)達(dá)國(guó)家或國(guó)際組織已有原則的介紹和解讀，而缺乏在更為深刻層面上，對(duì)倫理問題規(guī)約理路的慎思[42]?？傊?，教育人工智能的倫理研究，明顯滯后于人工智能的發(fā)展與應(yīng)用[43]。因此，在未來的研究中，不僅要注重對(duì)倫理問題的理論探討，也要注重實(shí)證研究。

（三）未來的可能研究方向

可以預(yù)見，人工智能技術(shù)將更多地被應(yīng)用于日常教育教學(xué)實(shí)踐中。然而，伴隨技術(shù)的精進(jìn)，勢(shì)必會(huì)出現(xiàn)更多的挑戰(zhàn)與風(fēng)險(xiǎn)，需要研究者以及教學(xué)人員及時(shí)發(fā)現(xiàn)教學(xué)過程中的倫理問題，并嘗試運(yùn)用智能化工具與思維方式提出相應(yīng)對(duì)策。倫理問題作為教育人工智能體系中重要組成部分，理應(yīng)受到重視。在教育領(lǐng)域開展人工智能倫理教育的相關(guān)研究，并有效實(shí)施人工智能倫理教育，可有效減少教育主體在使用人工智能時(shí)造成的倫理風(fēng)險(xiǎn)，并妥善處理好自身與人工智能之間的倫理關(guān)系[44]。

本文回顧了2012—2022年教育人工智能倫理相關(guān)文獻(xiàn)，按照活動(dòng)理論分析框架的六個(gè)維度進(jìn)行系統(tǒng)性回顧。需要說明的是，本研究的分類體系以活動(dòng)理論分析框架為依據(jù)設(shè)計(jì)，分類和編碼形式會(huì)對(duì)研究結(jié)果產(chǎn)生影響。根據(jù)主要結(jié)果及局限性，提出未來本領(lǐng)域的研究建議：

第一，面對(duì)不斷出現(xiàn)的倫理風(fēng)險(xiǎn)挑戰(zhàn)，需要重新審視人工智能與教育之間的交互作用，重塑教育人工智能中的倫理規(guī)約與評(píng)價(jià)指標(biāo)，形成內(nèi)在與外在相互制約依存的道德環(huán)境，實(shí)現(xiàn)“人工智能+教育”的健康持續(xù)發(fā)展[45]。

第二，在教育人工智能倫理的相關(guān)研究中，研究方法不再局限于理論研究。建議未來研究深入到高校、中小學(xué)、學(xué)前教育各層級(jí)學(xué)校教學(xué)中，在人工智能技術(shù)實(shí)踐教學(xué)中客觀收集教學(xué)案例、資料等數(shù)據(jù)，以理論聯(lián)系實(shí)踐的研究方法，結(jié)合當(dāng)下研究狀況與國(guó)家政策，科學(xué)性和創(chuàng)新性地提出教育人工智能倫理治理策略。

第三，人工智能在教育領(lǐng)域的應(yīng)用，涉及教育的不同階段，當(dāng)前研究大多針對(duì)教育領(lǐng)域籠統(tǒng)地探討倫理。后續(xù)研究可以深入探討不同教育層級(jí)和教育領(lǐng)域的具體問題，如數(shù)據(jù)隱私保護(hù)、透明度和公正性、人機(jī)關(guān)系的平衡、責(zé)任問題等，進(jìn)而針對(duì)性地制定相關(guān)政策和法規(guī)，加強(qiáng)監(jiān)管與管理，并且提高相關(guān)人員的倫理意識(shí)和責(zé)任意識(shí)。

第四，在教育人工智能倫理的探討上，不僅要關(guān)注應(yīng)用表層所涉及的倫理問題，對(duì)于更深層次的風(fēng)險(xiǎn)發(fā)生機(jī)制問題也要多加關(guān)注。例如，教育人工智能的風(fēng)險(xiǎn)治理、技術(shù)、道德、法律等問題受到了足夠多的關(guān)注，但少有研究從道德和制度倫理兩方面對(duì)其責(zé)任進(jìn)行論述和探究，新視域下的教育人工智能風(fēng)險(xiǎn)治理體系亟待進(jìn)一步挖掘與建構(gòu)。

第五，未來的研究不僅要關(guān)注倫理問題，還要加大對(duì)教育人工智能倫理原則與政策的研究力度，系統(tǒng)性地思考人工智能的治理維度。通過制定倫理準(zhǔn)則，加強(qiáng)政府及相關(guān)管理部門對(duì)教育人工智能的監(jiān)管；加強(qiáng)人工智能師資培養(yǎng)；健全法制環(huán)境，防止濫用和不當(dāng)使用。在保護(hù)學(xué)生權(quán)益和隱私安全的同時(shí)，促進(jìn)人工智能在教育領(lǐng)域的發(fā)展與應(yīng)用，進(jìn)而建設(shè)多元共治的人工智能綜合治理體系。

參考文獻(xiàn)：

[1][37]趙磊磊，張黎，代蕊華.教育人工智能倫理：基本向度與風(fēng)險(xiǎn)消解[J].現(xiàn)代遠(yuǎn)距離教育，2021（5）：73-80.

[2]教育部.聯(lián)合國(guó)教科文組織正式發(fā)布國(guó)際人工智能與教育大會(huì)成果文件《北京共識(shí)——人工智能與教育》[EB/OL].（2019-08-28）[2022-02-28].http： / /www.moe.gov.cn/jyb _xwfb /gzdt_gzdt /s5987 /201908 /t20190828_396185.html．

[3]European Commission. European Commission’s High-Level Expert Group on Artificial Intelligence. Ethics guidelines for trustworthy AI[EB/OL].（2018）[2022-03-01].https：//ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai.

[4]科技部. 國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能倫理規(guī)范》[EB/OL].（2021-09-26）[2022-02-26].http：//www.safea.gov.cn/kjbgz/202109/t20210926_177063.html.

[5]ENGESTROM Y. Learning by Expanding：" An Activity-Theoretical Approach to Developmental Research[M]. Helsinki： Orienta-Konsultit，1987.

[6]吳剛，趙軍，蘇靜逸，等.“工作—學(xué)習(xí)”理論的創(chuàng)新與發(fā)展——第四代“文化—?dú)v史”活動(dòng)理論及應(yīng)用價(jià)值[J].遠(yuǎn)程教育雜志，2022，40（2）：86-95.

[7]GRAY S L. Artificial intelligence in schools： Towards a democratic future[J]. London Review of Education， 2020，18（21）：10-21.

[8][27]張立新，張雨露，鄭秋輝.國(guó)際人工智能應(yīng)用倫理研究及對(duì)教育應(yīng)用的啟示[J].浙江師范大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2021，46（5）：96-102.

[9]LIN H C， HWANG G J. Research trends of flipped classroom studies for medical courses： A review of journal publications from 2008 to 2017 based on the technology-enhanced learning model[J]. Interactive Learning Environments， 2019，27（8）：1011-1027.

[10]MCMILLAN J H， SCHUMACHER S. Research in Education： Evidence-Based Inquiry， MyEducationLab Series[J]. Pearson， 2010.

[11]孟翀，王以寧.教育領(lǐng)域中的人工智能：概念辨析、應(yīng)用隱憂與解決途徑[J].現(xiàn)代遠(yuǎn)距離教育，2021（2）：62-69.

[12]崔宇路，張海.教育人工智能應(yīng)用的困境、成因及對(duì)策[J].現(xiàn)代教育技術(shù)，2022，32（6）：35-42.

[13]BLANCHARD E G. Socio-cultural imbalances in AIED research： Investigations， implications and opportunities[J]. International Journal of Artificial Intelligence in Education， 2015，25（2）：204-228.

[14]WU Q， LIU S， MIAO C， et al. A social curiosity inspired recommendation model to improve precision， coverage and diversity[C]// 2016 IEEE/WIC/ACM International Conference on Web Intelligence （WI）. IEEE， 2016：240-247

[15]WU Q， HAN X， YU H， et al. The innovative application of learning companions in virtual singapura[C]// Proceedings of the 2013 international conference on Autonomous agents and multi-agent systems， 2013：1171-1172.

[16]HE J， BAILEY J， RUBINSTEIN B， et al. Identifying at-risk students in massive open online courses[C]// Proceedings of the AAAI Conference on Artificial Intelligence， 2015：11-23.

[17][23]YU H， MIAO C， LEUNG C， et al. Towards AI-powered personalization in MOOC learning[J]. npj Science of Learning， 2017，2（1）：1-5.

[18]CONITZER V， SINNOTT-ARMSTRONG W， BORG J S， et al. Moral decision making frameworks for artificial intelligence[C]// Thirty-first aaai conference on artificial intelligence， 2017.

[19]FAN X， TONI F. On computing explanations in argumentation[C]// Twenty-Ninth AAAI Conference on Artificial Intelligence， 2015.

[20]ZAWACKI-RICHTER O， MARIN V I， BOND M， et al. Systematic review of research on artificial intelligence applications in higher education-where are the educators？[J]. International Journal of Educational Technology in Higher Education， 2019，16（1）：1-27.

[21]胡小勇，黃婕，林梓柔，等.教育人工智能倫理：內(nèi)涵框架、認(rèn)知現(xiàn)狀與風(fēng)險(xiǎn)規(guī)避[J].現(xiàn)代遠(yuǎn)程教育研究，2022，34（02）：21-28，36.

[22]趙磊磊，張黎，王靖.智能時(shí)代教育數(shù)據(jù)倫理風(fēng)險(xiǎn)：典型表征與治理路徑[J].中國(guó)遠(yuǎn)程教育，2022（3）：17-25，77.

[24][30]ZANETTI M， RENDINA S， PICECI L， et al. Potential risks of artificial intelligence in education[J]. Form@ re-Open Journal per la formazione in rete， 2020，20（1）：368-378.

[25]GEBRU T， MORGENSTERN J， VECCHIONE B， et al. Datasheets for datasets[J]. Communications of the ACM， 2021，64（12）：86-92.

[26]郭炯，郝建江.智能時(shí)代的教師角色定位及素養(yǎng)框架[J].中國(guó)電化教育，2021（6）：121-127.

[28]馮銳，孫佳晶，孫發(fā)勤.人工智能在教育應(yīng)用中的倫理風(fēng)險(xiǎn)與理性抉擇[J].遠(yuǎn)程教育雜志，2020，38（3）：47-54.

[29]KOBIS L， MEHNER C. Ethical questions raised by AI-Supported mentoring in higher education[J]. Frontiers in Artificial Intelligence， 2021（4）：21.

[31]侯浩翔，鐘婉娟.人工智能視閾下教育治理的技術(shù)功用與困境突破[J].電化教育研究，2019，40（4）：37-43，58.

[32]趙磊磊，吳小凡，趙可云.責(zé)任倫理：教育人工智能風(fēng)險(xiǎn)治理的時(shí)代訴求[J].電化教育研究，2022，43（6）：32-38.

[33]SCHIFF D. Out of the laboratory and into the classroom： the future of artificial intelligence in education[J]. AI amp; society， 2021，36（1）：331-348.

[34]陳維維.多元智能視域中的人工智能技術(shù)發(fā)展及教育應(yīng)用[J].電化教育研究，2018，39（7）：12-19.

[35]肖睿，肖海明，尚俊杰.人工智能與教育變革：前景、困難和策略[J].中國(guó)電化教育，2020（4）：75-86.

[36]曾海軍，張鈺，苗苗.確保人工智能服務(wù)共同利益，促進(jìn)教育系統(tǒng)變革——《人工智能與教育：政策制定者指南》解讀[J].中國(guó)電化教育，2022（8）：1-8.

[38]祝智庭，韓中美，黃昌勤.教育人工智能（eAI）：人本人工智能的新范式[J].電化教育研究，2021，42（1）：5-15.

[39]顧小清.當(dāng)現(xiàn)實(shí)逼近想象：人工智能時(shí)代預(yù)見未來教育研究[J].開放教育研究，2021，27（1）：4-12.

[40]鄧國(guó)民，李梅.教育人工智能倫理問題與倫理原則探討[J].電化教育研究，2020，41（6）：39-45.

[41]王佑鎂，宛平，趙文竹，等.科技向善：國(guó)際“人工智能+教育”發(fā)展新路向——解讀《教育中的人工智能：可持續(xù)發(fā)展的機(jī)遇和挑戰(zhàn)》[J].開放教育研究，2019，25（5）：23-32.

[42]張立國(guó)，劉曉琳，常家碩.人工智能教育倫理問題及其規(guī)約[J].電化教育研究，2021，42（8）：5-11.

[43]李曉巖，張家年，王丹.人工智能教育應(yīng)用倫理研究論綱[J].開放教育研究，2021，27（3）：29-36.

[44]陳浩，鄭如月.近十年國(guó)內(nèi)人工智能教育倫理可視化分析[J].教育信息技術(shù)，2022（3）：64-68.

[45]馬秀麟，姜雪，賈玉娟.近十年面向人工智能教育研究的文獻(xiàn)計(jì)量分析與探索[J].中國(guó)教育信息化，2022，28（8）：35-46.

Abstract： With the deepening of application of artificial intelligence in the field of education， the issue of ethical risks in education has arisen and attracted much attention from academics. Based on the activity-theoretic analysis framework， a systematic review of 150 papers during 2012-2022 on the ethical risks of AI applications in education was conducted， and the results shows that： the research on the ethics of AI in education has gone through three stages： nascent exploration， growth and occurrence， and rapid development; the research topics are mainly safety and privacy， but the research subjects are not clear， and there is a lack of clear direction on the AI that causes ethical problems in education. From a comprehensive perspective， the current research in this field is still in the early stage， and there are more concerns about the ethical dilemmas of AI applications in education， but there is a lack of risk management perspectives， and the existing research results are mostly theoretical and status quo analysis from a single perspective， lacking comprehensive research from multiple theoretical perspectives. The cross-sectional research and multi-perspective theoretical analysis of the ethical risks of AI applications in education are of great significance to the ethics and risk governance of education nowadays. And future research recommendations are proposed： it is necessary to re-examine the interaction between artificial intelligence and education， reshape the ethical norms and evaluation indicators of artificial intelligence in educational applications; The research method is not limited to theoretical research. In the practical teaching of artificial intelligence technology， objective data such as teaching cases and materials are collected， and targeted educational AI ethical governance strategies are proposed scientifically and innovatively; Deeply explore specific issues at different levels and fields of education， and then formulate relevant policies and regulations in a targeted manner， strengthen supervision and management， and enhance the ethical and responsibility awareness of relevant personnel; Not only should we pay attention to the ethical issues involved in the surface application of artificial intelligence education， but we should also pay more attention to the deeper risk occurrence mechanism issues; Strengthen the adjustment of ethical principles and policies for the application of artificial intelligence in education， systematically consider the governance dimensions of artificial intelligence， and strengthen the supervision of education artificial intelligence by the government and relevant management departments by formulating ethical standards.

Keywords： Artificial intelligence ethics; Educational Artificial Intelligence; Ethical risks; Security and privacy; Education governance; activity theory

編輯：王曉明" "校對(duì)：李曉萍