人工智能教育應(yīng)用倫理規(guī)范指標(biāo)構(gòu)建研究

[摘 要] 倫理風(fēng)險(xiǎn)防范是開展人工智能教育應(yīng)用的重要保障，需要以完善的倫理規(guī)范指標(biāo)體系作為強(qiáng)有力的抓手。文章立足人工智能教育應(yīng)用需由“淺”入“深”、學(xué)校教育人工智能倫理規(guī)劃需從“無”到“有”和教師人工智能素養(yǎng)需由“弱”變“強(qiáng)”的迫切需求，遵循“國際參照+本土轉(zhuǎn)化+數(shù)據(jù)驗(yàn)證”的方法路線，搭建了包含8個一級指標(biāo)、21個二級指標(biāo)和63個具體指標(biāo)的人工智能教育應(yīng)用倫理規(guī)范指標(biāo)?；谝?guī)范指標(biāo)，文章提出了其應(yīng)用建議，包括遵循以人為本的價(jià)值導(dǎo)向、遵守安全可控和隱私保護(hù)的準(zhǔn)入條件、貫徹可持續(xù)發(fā)展的應(yīng)用準(zhǔn)則、秉承公平全納和相稱無害的教育宗旨、落實(shí)透明可釋和問責(zé)監(jiān)督的保障機(jī)制。

[關(guān)鍵詞] 人工智能教育應(yīng)用； 倫理風(fēng)險(xiǎn)； 倫理規(guī)范； 指標(biāo)； 學(xué)校

[中圖分類號] G434 [文獻(xiàn)標(biāo)志碼] A

[作者簡介] 楊俊鋒（1981—），男，河南平頂山人。教授，博士，主要從事智慧教育與人工智能教育應(yīng)用研究。E-mail：yjf@hznu.edu.cn。

一、引 言

2024年2月20日，教育部發(fā)布《關(guān)于開展中小學(xué)人工智能教育基地推薦工作的通知》[1]，確定了184個中小學(xué)人工智能教育基地。人工智能在中小學(xué)教育中的應(yīng)用發(fā)展迅速。然而，正如加勒特等人所言，“如果人工智能教育處于發(fā)展的嬰兒階段，那么人工智能倫理教育幾乎是一個胚胎”[2]。人工智能在促進(jìn)個性化學(xué)習(xí)、精準(zhǔn)教學(xué)、智慧管理的同時(shí)，也給教育帶來了隱私泄露、算法歧視、教育不公平加劇等風(fēng)險(xiǎn)。為應(yīng)對風(fēng)險(xiǎn)的發(fā)生，教育界積極借鑒人工智能倫理風(fēng)險(xiǎn)解決辦法，即“倫理探討—原則研究—干預(yù)研究—法律規(guī)范”四段論[3]。當(dāng)前，研究多處于第二階段，即原則研究階段，且呈現(xiàn)出了同質(zhì)化趨勢。倫理原則的遵循固然重要、必不可少，但是倫理實(shí)踐同樣重要[4]。如何將原則落地實(shí)施、轉(zhuǎn)化為實(shí)踐操作路徑，尚無有效方法[5]。本研究基于國內(nèi)外相關(guān)研究成果，立足我國人工智能教育應(yīng)用現(xiàn)狀，從為什么規(guī)范、如何規(guī)范及規(guī)范結(jié)果如何運(yùn)用三方面整體思考和構(gòu)建人工智能教育應(yīng)用倫理規(guī)范指標(biāo)。

二、人工智能教育應(yīng)用倫理規(guī)范指標(biāo)構(gòu)建的邏輯基礎(chǔ)

人工智能教育應(yīng)用倫理規(guī)范指標(biāo)的構(gòu)建，需要呼應(yīng)人工智能教育應(yīng)用中的現(xiàn)實(shí)問題，防范潛在風(fēng)險(xiǎn)。在此基礎(chǔ)上，深刻把握時(shí)代脈搏，利用人工智能促進(jìn)教育高質(zhì)量發(fā)展和實(shí)現(xiàn)優(yōu)質(zhì)均衡的數(shù)字教育，確保人工智能教育應(yīng)用向善和向優(yōu)發(fā)展。

（一）規(guī)范指標(biāo)構(gòu)建的迫切需求

人工智能教育應(yīng)用持續(xù)深化，但相伴而生的風(fēng)險(xiǎn)還需進(jìn)一步規(guī)范。人工智能教育應(yīng)用由“淺水區(qū)”轉(zhuǎn)至“深水區(qū)”，從“由點(diǎn)帶面”到“縱深交錯”。人工智能技術(shù)在教育中發(fā)揮正面效應(yīng)的同時(shí)，也帶來了負(fù)面效應(yīng)。縱觀之，倫理規(guī)范研究大多處于“呼吁”階段，提出的實(shí)踐方案浮于表面[6]，尚未制定規(guī)范框架、指導(dǎo)方針、政策法規(guī)[7]，且無評判標(biāo)準(zhǔn)。亟須開發(fā)人工智能教育應(yīng)用倫理規(guī)范指標(biāo)，檢視人工智能教育應(yīng)用是否合乎倫理。

學(xué)校人工智能教育應(yīng)用逐漸廣泛，但倫理規(guī)范仍需進(jìn)一步加強(qiáng)。2022年，我國發(fā)布《中國關(guān)于加強(qiáng)人工智能倫理治理的立場文件》，提出“堅(jiān)持倫理先行” [8]。就此，人工智能倫理規(guī)范研究如火如荼。當(dāng)前，倫理規(guī)范研究中理論研究較多，實(shí)踐落地較少。開發(fā)測評人工智能教育應(yīng)用是否合乎規(guī)范的指標(biāo)是一個突破口，學(xué)校始終秉承“倫理先行”觀念，應(yīng)用倫理規(guī)范指標(biāo)開展自查，規(guī)范技術(shù)應(yīng)用。

教師信息技術(shù)應(yīng)用能力提升明顯，但智能素養(yǎng)尚需進(jìn)一步發(fā)展。智能時(shí)代對教師的智能素養(yǎng)提出了更高水平、更深層次的要求，智能教育倫理是關(guān)鍵[9]，只有教師具備人工智能倫理素養(yǎng)，方可在規(guī)范自身技術(shù)使用的同時(shí)，促進(jìn)學(xué)生正確理解人工智能及其倫理問題[10]。然而，教師倫理素養(yǎng)受關(guān)注程度相對不足。倫理規(guī)范指標(biāo)的構(gòu)建，能為教師的技術(shù)使用提供規(guī)范參考，促進(jìn)教師智能素養(yǎng)的長效發(fā)展。

（二）規(guī)范指標(biāo)構(gòu)建的時(shí)代價(jià)值

規(guī)范指標(biāo)構(gòu)建是保障人工智能助力教育高質(zhì)量發(fā)展的“壓艙石”。新興技術(shù)加速推進(jìn)教育高質(zhì)量發(fā)展，也潛藏著阻礙其進(jìn)程的倫理風(fēng)險(xiǎn)。倫理風(fēng)險(xiǎn)規(guī)避是推動教育高質(zhì)量發(fā)展的內(nèi)在要求。教育高質(zhì)量發(fā)展不僅是為了質(zhì)量和速度，更重要的是體現(xiàn)教育的向善性與和諧性[11]。倫理規(guī)范指標(biāo)的構(gòu)建能夠及時(shí)規(guī)約倫理風(fēng)險(xiǎn)的發(fā)生，促進(jìn)技術(shù)的合理、良善使用，有效削弱技術(shù)對教育高質(zhì)量發(fā)展的阻礙作用。

規(guī)范指標(biāo)構(gòu)建是推進(jìn)教育數(shù)字化轉(zhuǎn)型朝向縱深發(fā)展的“指南針”。數(shù)字技術(shù)驅(qū)動數(shù)字化轉(zhuǎn)型的同時(shí)，也潛藏著公平、責(zé)任、透明等倫理問題。忽視倫理風(fēng)險(xiǎn)的轉(zhuǎn)型可能導(dǎo)致數(shù)字教育系統(tǒng)受到破壞而失衡，阻礙教育的可持續(xù)性發(fā)展[12]。倫理規(guī)范是推進(jìn)教育數(shù)字化轉(zhuǎn)型“良”“善”發(fā)展的方向指引。倫理規(guī)范指標(biāo)的構(gòu)建有助于及時(shí)發(fā)現(xiàn)倫理風(fēng)險(xiǎn)，采取適切措施響應(yīng)教育生態(tài)系統(tǒng)對“善”的呼吁[13]，引導(dǎo)教育數(shù)字化轉(zhuǎn)型朝向“良善”方向。

規(guī)范指標(biāo)構(gòu)建是加速學(xué)校實(shí)現(xiàn)優(yōu)質(zhì)均衡的數(shù)字教育的“防火墻”。新時(shí)代教育需以公益普惠和優(yōu)質(zhì)均衡為基本方向[14]。然而，以數(shù)據(jù)隱私泄露、算法偏見與歧視為代表的倫理風(fēng)險(xiǎn)頻發(fā)，威脅學(xué)生權(quán)益，加劇教育不公，妨礙教育的優(yōu)質(zhì)均衡發(fā)展。倫理作為數(shù)字文化的一部分，指引著高文明的數(shù)字教育，是實(shí)現(xiàn)優(yōu)質(zhì)均衡數(shù)字教育的防線。倫理規(guī)范指標(biāo)的構(gòu)建，有利于學(xué)校及時(shí)檢視并規(guī)避人工智能教育應(yīng)用潛在風(fēng)險(xiǎn)，助力優(yōu)質(zhì)均衡數(shù)字教育的實(shí)現(xiàn)。

面對人工智能應(yīng)用衍生出的倫理風(fēng)險(xiǎn)，需要提前布局，謹(jǐn)慎應(yīng)對，制定一套規(guī)范指標(biāo)[15]。在中小學(xué)人工智能教育應(yīng)用普及開來之際，倫理規(guī)范也應(yīng)當(dāng)應(yīng)時(shí)、應(yīng)勢而生，本研究旨在為中小學(xué)構(gòu)建人工智能教育應(yīng)用倫理規(guī)范指標(biāo)，促進(jìn)人工智能技術(shù)的高質(zhì)量應(yīng)用。

三、人工智能教育應(yīng)用倫理規(guī)范指標(biāo)構(gòu)建的方法路線

原則主義的“原則—實(shí)踐”思維邏輯為本研究的開展提供了理論借鑒?！皞惱韺W(xué)原則是在一定條件下針對一些實(shí)踐中遇到的問題提出和形成的”[16]，原則是行為的基本標(biāo)準(zhǔn)[17]。有必要明確基本的倫理原則，以判斷人工智能教育應(yīng)用實(shí)踐的道德合理性問題[18]。因此，本研究以倫理原則為中介，遵從“國際參照—本土轉(zhuǎn)化—數(shù)據(jù)驗(yàn)證”的方法路徑，構(gòu)建學(xué)校人工智能教育應(yīng)用倫理規(guī)范指標(biāo)。

（一）國際參照：共識性人工智能倫理原則的確立

斯坦福大學(xué)以人為本人工智能研究院于2023年發(fā)布AI Index Report 2023，發(fā)現(xiàn)濫用人工智能的事件數(shù)量正在迅速上升[19]。全球國際組織、機(jī)構(gòu)和研究界均關(guān)注人工智能倫理風(fēng)險(xiǎn)，并提出了治理舉措。梳理國際人工智能倫理治理文件發(fā)現(xiàn)，針對教育領(lǐng)域的文件較少[20]，且相關(guān)文件多強(qiáng)調(diào)遵守倫理準(zhǔn)則，卻沒有可以將其轉(zhuǎn)化為可實(shí)踐的有效方法[21]。人工智能倫理原則是教育人工智能倫理原則的基礎(chǔ)，具有參考價(jià)值，但是教育人工智能倫理是教育倫理和人工智能倫理多層交疊的產(chǎn)物，還需考慮教育的育人特性，制定一套適用于教育的倫理原則[22]。

運(yùn)用系統(tǒng)性綜述的方式分析全球人工智能倫理治理文件，歸納確立人工智能教育應(yīng)用倫理原則。以“Artificial Intelligence Principles or Guidelines”（人工智能原則或準(zhǔn)則）、“AI Principles or Guidelines”（AI原則或指南）、 “Ethical Artificial Intelligence”（合乎倫理的人工智能）、 “Ethical AI”（合乎倫理的AI）、“Responsible Artificial Intelligence”（負(fù)責(zé)任的人工智能）、“Responsible AI”（負(fù)責(zé)任的AI）、“Ethical Artificial Intelligence in Education”（教育人工智能倫理）、“Ethical AI in Education”（教育中合乎倫理的人工智能）、 “Artificial Intelligence in Education Ethical Principles or Guidelines”（人工智能教育應(yīng)用倫理原則或指南） 以及“AIED Ethical Principles or Guidelines”（AIED倫理原則或指南）為關(guān)鍵詞，檢索2000年至2023年3月期間各國、國際組織和部門等發(fā)布的人工智能倫理治理政策文件及報(bào)告，閱讀題目，選擇可獲得的文件，初步檢索識別265份樣本。經(jīng)過三輪篩選，納入17份與教育人工智能密切相關(guān)的文件，分析確立了九大人工智能教育應(yīng)用倫理原則，包括：隱私保護(hù)（Protection of Privacy）、安全可控（Robustness， Security， and Safety）、透明可釋（Transparency and Explainability）、算法公正（Non-discrimination）、公平全納（Fairness and Inclusive）、相稱無害（Proportionality and Doing No Harm）、問責(zé)監(jiān)督（Accountability）、可持續(xù)發(fā)展（Sustainability）和以人為本（Human-Centric and Well-being）。

（二）本土轉(zhuǎn)化：技術(shù)性規(guī)范相關(guān)法律法規(guī)的參考

構(gòu)建人工智能教育應(yīng)用倫理規(guī)范指標(biāo)，以原則為基礎(chǔ)，錨定教育人工智能實(shí)踐，借鑒人工智能倫理規(guī)范。參考國際人工智能倫理治理文件，以九大倫理原則為規(guī)范指標(biāo)的一級，探尋其可操作性定義?；诂F(xiàn)實(shí)問題，采用文獻(xiàn)梳理與內(nèi)容分析相融合的方法，系統(tǒng)性翻譯國際前沿資料，作出本土適應(yīng)性轉(zhuǎn)化，緊密結(jié)合我國現(xiàn)行政策，科學(xué)構(gòu)建二級、三級指標(biāo)。

二級指標(biāo)確立是為九大一級指標(biāo)轉(zhuǎn)化為可操作實(shí)踐的初步探索。首先，梳理已有研究中人工智能教育應(yīng)用倫理原則的內(nèi)涵與二級指標(biāo)，作為分析資料，統(tǒng)計(jì)頻次，初步歸類。例如：“透明可釋”概念受《教育工作者在教學(xué)中使用人工智能和數(shù)據(jù)的倫理準(zhǔn)則》[23]的啟發(fā)，提煉出可追溯性、可解釋性和可溝通性3個二級指標(biāo)，基于歐盟《可信賴的人工智能倫理準(zhǔn)則》、聯(lián)合國教科文組織《人工智能倫理問題建議書》、國際標(biāo)準(zhǔn)化協(xié)會《信息技術(shù)—人工智能—倫理和社會關(guān)注》等文件的核心思想進(jìn)行國際參照，確保了其科學(xué)性與合理性；與此同時(shí)，該準(zhǔn)則明確強(qiáng)調(diào)了實(shí)現(xiàn)多樣化、非歧視和公平性的關(guān)鍵在于關(guān)注可訪問性、通用設(shè)計(jì)、避免不公平偏見和利益相關(guān)者參與四個方面，與歐盟的《可信賴的人工智能倫理準(zhǔn)則》《可信賴的教育人工智能框架V1.0》《可信賴人工智能評估清單》《可信賴人工智能自評清單》等文件中關(guān)于“公平全納”理念的概念闡述一脈相承，將“公平全納”細(xì)分為“全納訪問設(shè)計(jì)”和“公平參與使用”。其次，對于很難尋找到學(xué)理依據(jù)的一級指標(biāo)，從現(xiàn)實(shí)出發(fā)，依據(jù)經(jīng)驗(yàn)，擬定對應(yīng)的二級指標(biāo)。例如：“隱私保護(hù)”是為解決數(shù)據(jù)泄露和個體隱私權(quán)利受損這一現(xiàn)實(shí)問題，下設(shè)二級指標(biāo)為“防止數(shù)據(jù)泄露”和“尊重主體權(quán)利”。對于“可持續(xù)發(fā)展”的探討，緊密圍繞教育領(lǐng)域的現(xiàn)實(shí)挑戰(zhàn)與需求，基于過往實(shí)踐經(jīng)驗(yàn)，提煉出促進(jìn)學(xué)校人工智能教育應(yīng)用持續(xù)發(fā)展的三大關(guān)鍵路徑，即“技術(shù)設(shè)備的持續(xù)優(yōu)化”“師生素養(yǎng)的持續(xù)提升”和“利益相關(guān)方的協(xié)同合作”，簡稱“綠色使用”“素養(yǎng)提升”和“多方協(xié)同”。

三級指標(biāo)確立是對二級指標(biāo)的具體觀測。梳理人工智能倫理治理文件及相關(guān)政策，探尋二級指標(biāo)的可操作化路徑。以“隱私保護(hù)”一級指標(biāo)下的“防止數(shù)據(jù)泄露”和“尊重主體權(quán)利”兩個二級指標(biāo)為例，以下是三級指標(biāo)的確立依據(jù)：其中，“防止數(shù)據(jù)泄露”主要分析了數(shù)據(jù)泄露可能發(fā)生的階段，包括數(shù)據(jù)采集、存儲、共享和使用等。為了防止數(shù)據(jù)泄露，學(xué)校需要在各環(huán)節(jié)嚴(yán)格控制并實(shí)施規(guī)范行為，遵守《教育部機(jī)關(guān)及直屬事業(yè)單位教育數(shù)據(jù)管理辦法》中第十、十六條的要求，采集教育數(shù)據(jù)遵循國家和教育部頒布的相關(guān)標(biāo)準(zhǔn)，按照無條件共享、有條件共享、不予共享三種類型分類存儲數(shù)據(jù)，并利用匿名化和去標(biāo)識化的方法加密處理敏感數(shù)據(jù)[24]。因此，“防止數(shù)據(jù)泄露”的三級指標(biāo)包括：學(xué)校采集數(shù)據(jù)遵循國家和教育部標(biāo)準(zhǔn)；學(xué)校按照無條件共享、有條件共享和不予共享數(shù)據(jù)三種標(biāo)準(zhǔn)來存儲數(shù)據(jù)；學(xué)校內(nèi)部共享數(shù)據(jù)時(shí)會對敏感信息進(jìn)行匿名化、去標(biāo)識化等保密處理?！白鹬刂黧w權(quán)利”主要參考我國發(fā)布的《中華人民共和國個人信息保護(hù)法》中第四十四、四十五、四十六和四十七條法規(guī)，即個人對信息處理具有知情權(quán)、決定權(quán)、查閱權(quán)、刪除權(quán)、更正權(quán)和補(bǔ)充權(quán)[25]。據(jù)此，確定“尊重主體權(quán)利”的三級指標(biāo)包括：師生及家長對個人信息處理享有知情權(quán)和決定權(quán)、查閱權(quán)和刪除權(quán)、更正權(quán)和補(bǔ)充權(quán)。其余二級指標(biāo)轉(zhuǎn)化為三級指標(biāo)的依據(jù)見表1。

最后，研究初步構(gòu)建了包括9個一級指標(biāo)、22個二級指標(biāo)和66個三級指標(biāo)的學(xué)校人工智能教育應(yīng)用倫理規(guī)范指標(biāo)。

（三）數(shù)據(jù)驗(yàn)證：基于專家視角的規(guī)范指標(biāo)的構(gòu)建

人工智能教育應(yīng)用倫理規(guī)范指標(biāo)初步構(gòu)建后，采用德爾菲法確定了其科學(xué)性、可靠性和可行性，采用層次分析法確定了權(quán)重。首先，通過兩輪德爾菲專家征詢，選擇教育信息化、倫理學(xué)、人工智能教育應(yīng)用等方向的22位專家，設(shè)計(jì)專家咨詢表，計(jì)算專家的積極系數(shù)（包括學(xué)術(shù)水平、判斷依據(jù)和熟悉程度）、權(quán)威系數(shù)和協(xié)調(diào)程度，確定學(xué)校人工智能教育應(yīng)用倫理規(guī)范指標(biāo)最終版本，包括8個一級指標(biāo)、21個二級指標(biāo)和63個三級指標(biāo)。在第一輪德爾菲專家征詢期間，有專家指出，算法公正和公平全納兩個一級指標(biāo)似有重疊，建議合并，查閱資料后，發(fā)現(xiàn)在教育教學(xué)過程中的確很難過多關(guān)注背后的算法，而更多聚焦于使用層面，即如何避免算法對學(xué)習(xí)者的歧視。因此，筆者將“算法公正”和“公平全納”合并為“公平全納”，并糅合原有的二級指標(biāo)，最終確定了“公平全納”這個一級指標(biāo)包括的三個二級指標(biāo)，即“避免算法歧視”“全納訪問設(shè)計(jì)”和“公平參與使用”。由此，人工智能教育應(yīng)用倫理規(guī)范指標(biāo)從初始版本的9個一級指標(biāo)、22個二級指標(biāo)和66個三級指標(biāo)變?yōu)榱俗罱K版本的8個一級指標(biāo)、21個二級指標(biāo)和63個三級指標(biāo)。

其次，采用層次分析法，建立層次模型，向各位專家發(fā)放各級指標(biāo)的判斷矩陣問卷，運(yùn)用yaahp軟件分析判斷矩陣結(jié)果，包括被比較指標(biāo)的相對權(quán)重、單層次一致性檢驗(yàn)和組合權(quán)重，進(jìn)而確定人工智能教育應(yīng)用倫理規(guī)范指標(biāo)權(quán)重，見表2。

四、人工智能教育應(yīng)用倫理規(guī)范指標(biāo)的應(yīng)用建議

人工智能教育應(yīng)用越來越普及，防范人工智能教育應(yīng)用倫理風(fēng)險(xiǎn)日益迫切。如何有效采用人工智能教育應(yīng)用倫理規(guī)范指標(biāo)，促進(jìn)人工智能教育應(yīng)用的良善發(fā)展？下文以8個一級指標(biāo)為切入點(diǎn)，提出具體策略，以促進(jìn)規(guī)范指標(biāo)的有效實(shí)踐，以期為學(xué)校構(gòu)建既合乎倫理又能激發(fā)技術(shù)潛力的良性生態(tài)體系。

（一）遵循以人為本的價(jià)值導(dǎo)向

以人為本是規(guī)范人工智能并促進(jìn)其長足發(fā)展的基礎(chǔ)[37]，是人工智能教育應(yīng)用的價(jià)值導(dǎo)向，學(xué)?？稍谌斯ぶ悄芗夹g(shù)/產(chǎn)品引入之初、短期實(shí)踐和長遠(yuǎn)規(guī)劃中將以人為本的價(jià)值導(dǎo)向具象化。其一，學(xué)校引入的智能技術(shù)/產(chǎn)品需符合人類價(jià)值觀。人工智能技術(shù)/產(chǎn)品設(shè)計(jì)伊始，人本人工智能致力于確保人類價(jià)值觀是人工智能系統(tǒng)開發(fā)、部署、使用和監(jiān)控的核心，確保尊重基本權(quán)利[28]。其二，學(xué)校在短期應(yīng)用人工智能技術(shù)過程中，需符合教育管理部門制定的相關(guān)標(biāo)準(zhǔn)、使用指南和自評清單，完善技術(shù)評估和管理機(jī)制，確保良性人工智能教育應(yīng)用。其三，學(xué)校在長遠(yuǎn)規(guī)劃下，需秉持以人為本的理念，發(fā)展人本人工智能，推動人工智能與人類智能的深度融合[38]；教師需不斷提升智能倫理素養(yǎng)，將其視為教育人工智能倫理風(fēng)險(xiǎn)消解的接續(xù)動力[39]。

（二）遵守安全可控和隱私保護(hù)的準(zhǔn)入條件

安全可控和隱私保護(hù)是學(xué)校引入人工智能技術(shù)/產(chǎn)品的第一道防線，是智能體進(jìn)校園的準(zhǔn)入條件，確保數(shù)據(jù)不被濫用，抵御漏洞和惡意攻擊，使得決策結(jié)果具有高準(zhǔn)確性、可靠性和可重復(fù)性[40]，保障各利益主體（如教師、家長、學(xué)生等）的權(quán)利得到尊重、保護(hù)和促進(jìn)。為確保隱私保護(hù)的落地實(shí)踐，學(xué)校在使用人工智能時(shí)，必須遵守相關(guān)的法律規(guī)定，保護(hù)利益主體的隱私權(quán)利，確保數(shù)據(jù)的安全性和合法性。為保障安全可控的實(shí)踐可為，學(xué)校在應(yīng)用人工智能時(shí)，需防止技術(shù)漏洞導(dǎo)致的安全問題以及生成內(nèi)容和資源的有害性，解決、預(yù)防和消除相關(guān)問題，確保技術(shù)和決策結(jié)果受到人的控制。

（三）貫徹可持續(xù)發(fā)展的應(yīng)用準(zhǔn)則

可持續(xù)發(fā)展是人工智能技術(shù)及其作用域的發(fā)展目標(biāo)，是人工智能在教育應(yīng)用中的準(zhǔn)則。教育系統(tǒng)作為社會子系統(tǒng)，其自身的可持續(xù)發(fā)展對社會的可持續(xù)發(fā)展至關(guān)重要。教育的目標(biāo)不應(yīng)是改變學(xué)生的行為，使其朝著預(yù)定的方向發(fā)展，而應(yīng)是使他們能夠作出知情和有意識的決定，參與可持續(xù)發(fā)展的行動[41]。學(xué)校作為實(shí)踐基地，應(yīng)向使用者貫徹“技術(shù)的可持續(xù)發(fā)展”應(yīng)用觀。第一，激發(fā)師生積極使用技術(shù)的內(nèi)生動力，讓師生切身體會技術(shù)對教、學(xué)、管、考、評的深刻變革作用，投入更多時(shí)間和精力到創(chuàng)造性活動中；第二，喚醒師生規(guī)范應(yīng)用技術(shù)的倫理自覺，教師在利用數(shù)字技術(shù)促進(jìn)學(xué)生健康發(fā)展時(shí)，學(xué)生在利用數(shù)字技術(shù)促進(jìn)自身發(fā)展時(shí)，都應(yīng)遵守倫理規(guī)范。

（四）秉承公平全納和相稱無害的教育宗旨

公平全納和相稱無害是人工智能教育應(yīng)用的基本宗旨。公平全納是實(shí)現(xiàn)教育可持續(xù)發(fā)展的途徑，是助力全球貧困消除的關(guān)鍵作用域；相稱無害是教育目標(biāo)和技術(shù)應(yīng)用相稱的保障，是促進(jìn)合乎倫理的人工智能教育應(yīng)用的必然把握。學(xué)校為落實(shí)公平全納和相稱無害，應(yīng)在人工智能技術(shù)/產(chǎn)品引入和應(yīng)用過程中采取措施。首先，在引入人工智能技術(shù)/產(chǎn)品時(shí)，學(xué)?？梢蠊?yīng)商提供訓(xùn)練數(shù)據(jù)樣本，確保技術(shù)/產(chǎn)品設(shè)計(jì)過程中收集的訓(xùn)練數(shù)據(jù)來源真實(shí)、準(zhǔn)確、無偏見且具有代表性。其次，在應(yīng)用人工智能技術(shù)時(shí)，學(xué)校需使教師明白：人機(jī)協(xié)作，綜合評判，客觀評價(jià)，施行人性化教育；技術(shù)使用并非多多益善，過度或不當(dāng)使用均會降低學(xué)習(xí)體驗(yàn)，甚至造成負(fù)面影響，需要明晰技術(shù)的強(qiáng)效域和局限域，作出理智決策。

（五）落實(shí)透明可釋和問責(zé)監(jiān)督的保障機(jī)制

透明可釋和問責(zé)監(jiān)督是人機(jī)信任的關(guān)鍵，也是技術(shù)普及的重要關(guān)注點(diǎn)。問責(zé)監(jiān)督與透明可釋密切相關(guān)，只有清晰可見的決策過程和結(jié)果，方能助力更好問責(zé)。透明可釋是人工智能教育應(yīng)用的關(guān)鍵特征，確保教育工作者了解人工智能系統(tǒng)的決策和交互過程。學(xué)校需要清晰記錄技術(shù)參與教學(xué)的全過程，確保決策的可追溯、可解釋和可溝通，提高技術(shù)的可靠性和可信度，增強(qiáng)人機(jī)信任，促進(jìn)人機(jī)協(xié)同。問責(zé)監(jiān)督是人工智能教育應(yīng)用的強(qiáng)力保障，旨在預(yù)防潛在的負(fù)面影響，并盡可能將已經(jīng)發(fā)生的負(fù)面影響降至最低。學(xué)校需要構(gòu)建公開、透明的監(jiān)督和評估制度，讓使用者全面了解技術(shù)，增強(qiáng)信任感，熟練應(yīng)用技術(shù)促進(jìn)教與學(xué)的最優(yōu)化。

五、結(jié) 束 語

人工智能技術(shù)應(yīng)用于教育日益深入，為確保教育高質(zhì)量公平發(fā)展，倫理風(fēng)險(xiǎn)的防范刻不容緩。本研究構(gòu)建了人工智能教育應(yīng)用倫理規(guī)范指標(biāo)，是原則轉(zhuǎn)化為實(shí)踐的初步探索，有助于學(xué)校規(guī)避相關(guān)倫理風(fēng)險(xiǎn)的發(fā)生。然而當(dāng)前，規(guī)范指標(biāo)仍主要聚焦于共性層面，尚未充分考慮不同水平、層級學(xué)校的特異性需求。未來研究可選取人工智能教育試點(diǎn)區(qū)域和學(xué)校，深入挖掘?qū)W校的個性化特征，針對不同學(xué)校和師生的實(shí)際情況，以規(guī)范指標(biāo)為基準(zhǔn)進(jìn)行適應(yīng)性調(diào)整。通過構(gòu)建多指標(biāo)、多層次的評估體系，更全面地了解各學(xué)校在人工智能教育應(yīng)用方面的實(shí)際情況，促進(jìn)學(xué)校制定更加個性化的人工智能教育應(yīng)用校本指南，推動學(xué)校人工智能教育應(yīng)用的健康發(fā)展，深化教育數(shù)字化轉(zhuǎn)型進(jìn)程，助推教育高質(zhì)量優(yōu)質(zhì)均衡發(fā)展。

[參考文獻(xiàn)]

[1] 教育部辦公廳. 教育部辦公廳關(guān)于開展中小學(xué)人工智能教育基地推薦工作的通知[EB/OL]. （2024-02-19）[2024-07-10]. http：//www.moe.gov.cn/srcsite/A06/s3321/202402/t20240223_1116386.html.

[2] GARRETT N， BEARD N， FIESLER C. More than "if time allows" the role of ethics in AI education[C]//MARKHAM A， POWLES J， WALSH T， et al. Proceedings of the AAAI/ACM Conference on AI， Ethics， and Society. New York： Association for Computing Machinery，2020：272-278.

[3] 余雅風(fēng)，王朝夷. 由技術(shù)倫理向法律規(guī)范演進(jìn)：國外人工智能應(yīng)用規(guī)范研究綜述[J]. 河北法學(xué)，2023，41（2）：83-101.

[4] FLORIDI L. Translating principles into practices of digital ethics： five risks of being unethical[J]. Philosophy & technology，2019，32（2）：185-193.

[5] MITTELSTADT B. Principles alone cannot guarantee ethical AI[J]. Nature machine intelligence， 2019，1（11）：501-507.

[6] 謝娟. 人工智能與教育融合創(chuàng)新之倫理內(nèi)涵及實(shí)現(xiàn)路徑[J]. 中國遠(yuǎn)程教育，2023，43（2）：1-8.

[7] HOLMES W， BEKTIK D， WOOLF B， et al. Ethics in AIED： who cares？ [C]//BITTENCOURT I， CUKUROVA M， MULDNER K， et al. 20th International Conference on Artificial Intelligence in Education. Chicago： Open Research Online， 2019：424-425.

[8] 外交部. 中國關(guān)于加強(qiáng)人工智能倫理治理的立場文件[EB/OL]. （2022-11-17）[2024-07-10]. https：//www.mfa.gov.cn/web/ziliao_674904/tytj_674911/zcwj_674915/202211/t20221117_10976728.shtml.

[9] 鄭智勇，宋乃慶. 中小學(xué)教師智能教育素養(yǎng)測評指標(biāo)體系構(gòu)建研究[J]. 中國電化教育，2023（12）：75-83.

[10] 李艷，朱雨萌，樊小雨. 青少年人工智能倫理教育的探索及啟示——以MIT為例[J]. 現(xiàn)代遠(yuǎn)距離教育，2024（1）：3-13.

[11] 廖婧茜. 基礎(chǔ)教育高質(zhì)量發(fā)展的倫理訴求及其實(shí)現(xiàn)[J]. 教育研究與實(shí)驗(yàn)，2023（4）：41-49.

[12] 趙磊磊，趙玉潔，張黎. 數(shù)字化轉(zhuǎn)型背景下教育技術(shù)倫理觀照與風(fēng)險(xiǎn)消解[J]. 中國遠(yuǎn)程教育，2023，43（12）：46-58.

[13] 劉秀秀. 技術(shù)向善何以可能：機(jī)制、路徑與探索[J]. 福建論壇（人文社會科學(xué)版），2020（8）：83-91.

[14] 國務(wù)院. 關(guān)于構(gòu)建優(yōu)質(zhì)均衡的基本公共教育服務(wù)體系的意見[EB/OL]. （2023-06-13）[2024-07-10]. https：//www.gov.cn/gongbao/2023/issue_10546/202306/content_6888957.html.

[15] 于珍. AI進(jìn)校園，邊界在哪里？[N]. 中國教育報(bào)，2019-10-24 （4）.

[16] 翟曉梅，邱仁宗. 生命倫理學(xué)導(dǎo)論[M]. 北京：清華大學(xué)出版社，2005：51.

[17] 鐵小茜，趙昆. 原則主義在醫(yī)學(xué)倫理學(xué)領(lǐng)域的出場邏輯[J]. 醫(yī)學(xué)與哲學(xué)，2023，44（6）：18-22.

[18] 陳化. 原則主義的理論進(jìn)路、倫理爭論及其啟示[J]. 醫(yī)學(xué)與哲學(xué)，2023，44（6）：1-6.

[19] MASLEJ N， FATTORINI L， BRYNJOLFSSON E， et al. Artificial intelligence index report 2023 [EB/OL].（2023-04-03）[2024-07-10]. https：//aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index-Report_2023.pdf.

[20] SCHIFF D. Education for AI， not AI for education： the role of education and ethics in national AI policy strategies[J]. International journal of artificial intelligence in education， 2022，32（3）：527-563.

[21] KIM H. Suggestions on teaching and learning AI ethics using cooperative learning method in elementary and secondary education[J]. Robotics & AI ethics， 2022，7（1）：65-75.

[22] NGUYEN A， NGO H， HONGY， et al. Ethical principles for artificial intelligence in education[J]. Education and information technologies， 2023，28（4）：4221-4241.

[23] European Commission. Ethical guidelines on the use of artificial intelligence （AI） and data in teaching and learning for educators [EB/OL]. （2022-10-25）[2024-07-11]. https：//education.ec.europa.eu/news/ethical-guidelines-on-the-use-of-artificial-intelligence-and-data-in-teaching-and-learning-for-educators.

[24] 教育部. 教育部辦公廳關(guān)于印發(fā)《教育部機(jī)關(guān)及直屬事業(yè)單位教育數(shù)據(jù)管理辦法》的通知[EB/OL]. （2018-01-23） [2024-07-14] http：//www.moe.gov.cn/srcsite/A03/s7050/201802/t20180211_327248.html．

[25] 中華人民共和國中央人民政府.中華人民共和國個人信息保護(hù)法[EB/OL]. （2021-08-20） [2024-07-14]. https：//www.gov.cn/xinwen/2021-08/20/content_5632486.htm．

[26] 國家人工智能標(biāo)準(zhǔn)化總體組 全國信標(biāo)委人工智能分委會. 人工智能倫理治理標(biāo)準(zhǔn)化指南（2023版）[EB/OL]. （2023-03-16）[2024-09-05]. http：//www.nits.org.cn/index/article/4133.

[27] Association for Computing Machinery. ACM Code of Ethics and Professional Conduct[EB/OL]. （2018-02-10） [2024-09-05]. https：//www.acm.org/code-of-ethics.

[28] European Commission. Ethics guidelines for trustworthy AI [EB/OL]. （2019-04-08）[2024-07-10]. https：//digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai.

[29] UNESCO Institute for lnformation Technologies in Education. Report on national smart education framework[EB/OL]. （2022-12-13）[2024-09-05]. https：//iite.unesco.org/publications/report-on-national-smart-education-framework/.

[30] ISO/IEC TR 24368：2022. Information technology-artificial intelligence-overview of ethical and societal concerns[EB/OL]. （2022-08-01）[2024-09-05]. https：//www.iso.org/standard/78507.html.

[31] Australian Institute for Teaching and School Leadership Limited（AITSL）. Australian professional standards for teachers[EB/OL]. （2012-07-27）[2024-09-05]. https：//www.aitsl.edu.au/standards.

[32] European Commission. The Assessment list for trustworthy artificial intelligence（ALTAI） for self assessment [EB/OL]. （2020-07-17）[2024-09-05]. https：//digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment.

[33] UNESCO. Recommendation on the ethics of artificial intelligence[EB/OL]. （2021-11-23）[2024-09-05]. https：//unesdoc.unesco.org/ark：/48223/pf0000381137.

[34] THE UNIVERSITY OF BUCKINGHAM. Interim report -towards a shared vision of ethical AI in education[EB/OL]. （2021-03-23）[2024-09-05]. https：//www.buckingham.ac.uk/research/research-in-applied-computing/the-institute-for-ethical-ai-in-education/.

[35] 中華人民共和國教育部. 教育部關(guān)于發(fā)布《中小學(xué)數(shù)字校園建設(shè)規(guī)范（試行）》的通知[EB/OL]. （2018-04-17）[2024-09-05]. http：//www.moe.gov.cn/srcsite/A16/s3342/201805/t20180502_334759.html.

[36] 中華人民共和國教育部. 《未成年人學(xué)校保護(hù)規(guī)定》[EB/OL]. （2021-06-01）[2024-09-05]. http：//www.moe.gov.cn/srcsite/A02/s5911/moe_621/202106/t20210601_534640.html.

[37] 祝智庭，韓中美，黃昌勤. 教育人工智能（eAI）：人本人工智能的新范式[J]. 電化教育研究，2021，42（1）：5-15.

[38] 祝智庭，戴嶺，趙曉偉. “近未來”人機(jī)協(xié)同教育發(fā)展新思路[J]. 開放教育研究，2023，29（5）：4-13.

[39] 李艷. 青少年人工智能倫理教育初探[N]. 浙江教育報(bào)，2023-03-03（5）.

[40] 沈苑，汪瓊. 人工智能在教育中應(yīng)用的倫理考量——從教育視角解讀歐盟《可信賴的人工智能倫理準(zhǔn)則》[J]. 北京大學(xué)教育評論，2019，17（4）：18-34，184.

[41] SINAKOUE， DONCHE V， VAN PETEGEM P. Action-orientation in education for sustainable development： teachers' interests and instructional practices[J]. Journal of cleaner production， 2022，370：133469.

Research on the Construction of Ethical Norms for Application of

Artificial Intelligence in Education

YANG Junfeng1， CHU Juan2， ZHANG Binxian3

（1.Jing Hengyi School of Education， Hangzhou Normal University， Hangzhou Zhejiang 311121;

2.School of Educational Technology， Northwest Normal University， Lanzhou Gansu 730070;

3.Faculty of Education， Beijing Normal University， Beijing 100875）

[Abstract] The prevention of ethical risks is an essential safeguard for the application of artificial intelligence in education （AIED）， which requires a perfect indicator system of ethical norms. Based on the urgent needs for the application of AIED to progress from the shallower to the deeper， for the ethical planning of AIED from scratch， and for the enhancement of teachers' artificial intelligence literacy， this paper constructs the ethical norm indicators for the application of AIED following the methodological route of "international reference + local transformation + data validation"， which includes 8 primary indicators， 21 secondary indicators and 63 specific indicators. Based on the normative indicators， this paper proposes some application suggestions， including adhering to a human-centered value orientation， complying with secure， controllable and privacy-protected access conditions， implementing the application guidelines for sustainable development， upholding the educational purpose of fairness， inclusiveness， and proportionality without harm， and establishing a guarantee mechanism of transparency， accountability and supervision.

[Keywords] Application of Artificial Intelligence in Education; Ethical Risks; Ethical Norms; Indicators; Schools