面向智慧教育的技術(shù)倫理取向與風(fēng)險(xiǎn)規(guī)約

黃榮懷 張國(guó)良 劉夢(mèng)彧

摘要：當(dāng)前，智能技術(shù)與教育的全過(guò)程融合正推動(dòng)教育方式發(fā)生深刻轉(zhuǎn)變，同時(shí)衍生出算法歧視、技術(shù)濫用、隱私泄露和教育主體錯(cuò)位等技術(shù)倫理風(fēng)險(xiǎn)，如何規(guī)避風(fēng)險(xiǎn)以最大化享受智能技術(shù)紅利成為智慧教育發(fā)展的重要議題。為此，文章首先分析技術(shù)倫理相關(guān)報(bào)告文件，刻畫智慧教育在智能技術(shù)、教育主體、教育數(shù)據(jù)和教育監(jiān)管四個(gè)向度的技術(shù)倫理取向；然后，文章剖析“教-學(xué)-管-評(píng)-練-研”六大智慧教育典型場(chǎng)景下的差異化技術(shù)倫理風(fēng)險(xiǎn)表征，將其產(chǎn)生根源歸為技術(shù)工具失信、教育實(shí)踐失范和師生素養(yǎng)不足三個(gè)層面；最后，文章從技術(shù)升級(jí)、風(fēng)險(xiǎn)管理、問(wèn)責(zé)監(jiān)管、數(shù)據(jù)流動(dòng)和素養(yǎng)提升角度給出風(fēng)險(xiǎn)防范與治理建議，助力智慧教育健康可持續(xù)發(fā)展。

關(guān)鍵詞：智慧教育；智能技術(shù)；倫理規(guī)范；風(fēng)險(xiǎn)表征；風(fēng)險(xiǎn)規(guī)約

【中圖分類號(hào)】G40-057 【文獻(xiàn)標(biāo)識(shí)碼】A 【論文編號(hào)】1009—8097（2024）02—0013—10 【DOI】10.3969/j.issn.1009-8097.2024.02.002

引言

智能技術(shù)在變革教育領(lǐng)域的同時(shí)，也衍生出算法歧視與不透明、技術(shù)濫用與依賴、數(shù)據(jù)隱私泄露、教學(xué)主體情感交流危機(jī)和權(quán)力邊界模糊等一系列倫理問(wèn)題[1][2]，這引發(fā)了國(guó)內(nèi)外社會(huì)的廣泛關(guān)注。為此，2019～2021年期間，聯(lián)合國(guó)教科文組織相繼發(fā)布《北京共識(shí)——人工智能與教育》《人工智能倫理問(wèn)題建議書》等多項(xiàng)報(bào)告[3][4]，呼吁和引領(lǐng)人工智能教育應(yīng)用的倫理規(guī)約和可持續(xù)發(fā)展。當(dāng)今時(shí)代，消解倫理風(fēng)險(xiǎn)，實(shí)現(xiàn)技術(shù)向善已成為全球教育領(lǐng)域面臨的共同挑戰(zhàn)[5]。

智能技術(shù)的教育應(yīng)用催生教育形態(tài)的進(jìn)化，智慧教育作為教育信息化發(fā)展的高端形態(tài)，契合教育數(shù)字化轉(zhuǎn)型的發(fā)展目標(biāo)，其實(shí)踐取徑的特征之一便是合乎科技倫理的技術(shù)應(yīng)用[6]。隨著新興智能技術(shù)和產(chǎn)品不斷涌現(xiàn)，其在賦能教育的同時(shí)也引發(fā)教育領(lǐng)域?qū)夹g(shù)倫理風(fēng)險(xiǎn)的擔(dān)憂，如何規(guī)避風(fēng)險(xiǎn)以最大化享受智能技術(shù)紅利成為智慧教育發(fā)展所關(guān)注的重要議題。然而，技術(shù)倫理規(guī)范的革新相較于智能技術(shù)教育應(yīng)用實(shí)踐處于滯后地位，當(dāng)前教育領(lǐng)域關(guān)于智能技術(shù)的倫理研究主要集中在原則構(gòu)建和抽象風(fēng)險(xiǎn)剖析方面，總體而言缺乏超脫智能技術(shù)影響力的全面?zhèn)惱砜蚣躘7]，難以支撐教育形態(tài)朝向具備更高技術(shù)豐富度和系統(tǒng)融合性的智慧教育的健康發(fā)展需求。面對(duì)教育政策制定者、研究者、實(shí)踐者、產(chǎn)品開(kāi)發(fā)人員和其他利益相關(guān)者對(duì)智慧教育技術(shù)倫理規(guī)范認(rèn)知與把握的差異，有必要系統(tǒng)論述面向智慧教育的技術(shù)倫理取向、風(fēng)險(xiǎn)表征、成因及其規(guī)約問(wèn)題，彌合技術(shù)倫理“應(yīng)然取向”與其風(fēng)險(xiǎn)“實(shí)然困境”的割裂差距，助力教育形態(tài)向智慧教育健康可持續(xù)發(fā)展。

一 應(yīng)然取向：面向智慧教育實(shí)踐的技術(shù)倫理規(guī)范

“倫理”一詞指人與人相處應(yīng)遵循的道德準(zhǔn)則，包括客觀的倫理關(guān)系及其外在規(guī)約[8]，其中技術(shù)倫理可界定為在技術(shù)開(kāi)發(fā)和應(yīng)用等過(guò)程中，涉及技術(shù)與人、技術(shù)與社會(huì)之間關(guān)系的道德和準(zhǔn)則[9]。2017年，國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》，提出要推動(dòng)人工智能在教學(xué)、管理、資源建設(shè)等方面的全流程應(yīng)用，實(shí)現(xiàn)日常教育和終身教育定制化[10]，而當(dāng)前智慧教育實(shí)踐面臨諸多智能技術(shù)介入教育全過(guò)程的沖擊，技術(shù)倫理風(fēng)險(xiǎn)日益擴(kuò)大化，厘清其技術(shù)倫理“應(yīng)然取向”可為其規(guī)范實(shí)踐提供共識(shí)理解和原則指導(dǎo)。

1 取向分析

近年來(lái)，許多國(guó)家和機(jī)構(gòu)均發(fā)布了包含技術(shù)倫理內(nèi)容的相關(guān)政策文件及報(bào)告，以規(guī)避智能技術(shù)帶來(lái)的負(fù)面影響。聚焦到教育領(lǐng)域，雖然相關(guān)的新興智能技術(shù)倫理報(bào)告文件不斷更新迭代，為厘清面向智慧教育實(shí)踐的技術(shù)倫理規(guī)范提供了堅(jiān)實(shí)基礎(chǔ)和前瞻指導(dǎo)，但已有研究對(duì)教育領(lǐng)域智能技術(shù)倫理原則的提煉大多趨于一致，難以跳出通用領(lǐng)域智能技術(shù)倫理規(guī)范的技術(shù)邏輯，致使教育性不足。本研究在梳理近5年7份典型教育領(lǐng)域智能技術(shù)倫理相關(guān)報(bào)告的基礎(chǔ)上，通過(guò)內(nèi)容分析提取其中的倫理關(guān)注內(nèi)容（如表1所示），以構(gòu)建更貼切智能技術(shù)教育應(yīng)用本質(zhì)、價(jià)值取向和時(shí)效性的技術(shù)倫理規(guī)范模型，發(fā)現(xiàn)教育領(lǐng)域智能技術(shù)倫理的核心關(guān)切聚焦于“智能技術(shù)”“教育主體”“教育數(shù)據(jù)”和“教育監(jiān)管”四個(gè)向度，可作為智慧教育技術(shù)倫理取向模型的一級(jí)結(jié)構(gòu)收納各項(xiàng)技術(shù)倫理要素或原則。

2 模型建構(gòu)

基于表1中技術(shù)倫理取向的內(nèi)容分析，本研究提出智慧教育技術(shù)倫理取向模型（如圖1所示），以系統(tǒng)、結(jié)構(gòu)化手段呈現(xiàn)面向智慧教育實(shí)踐的智能技術(shù)教育應(yīng)用需要關(guān)注的技術(shù)倫理規(guī)范，其最終目的是使智能技術(shù)在合乎倫理規(guī)范的基礎(chǔ)上服務(wù)于智慧教育“教-學(xué)-管-評(píng)-練-研”全流程典型應(yīng)用場(chǎng)景。

接下來(lái)，參考上述報(bào)告中的相關(guān)內(nèi)容給出各倫理取向的描述性解釋：①智能技術(shù)向度涵蓋算法技術(shù)與產(chǎn)品的可解釋、準(zhǔn)確、安全和穩(wěn)定等取向。智能技術(shù)教育應(yīng)用要考慮算法的可解釋性問(wèn)題，追求技術(shù)在輸入輸出、性能表現(xiàn)、結(jié)果生成過(guò)程中運(yùn)行原理和決策過(guò)程的可公開(kāi)、可理解和可追溯，提高可信度；同時(shí)需要考慮其分析結(jié)果和生成內(nèi)容的準(zhǔn)確性，避免出現(xiàn)虛假內(nèi)容誤導(dǎo)；安全則指在算法、人機(jī)交互設(shè)計(jì)和產(chǎn)品形態(tài)上的安全合規(guī)和不傷害特征，實(shí)現(xiàn)安全保障；穩(wěn)定體現(xiàn)為智能教育系統(tǒng)的魯棒特征，以及在應(yīng)對(duì)風(fēng)險(xiǎn)侵入情況下穩(wěn)健發(fā)揮的能力，避免出現(xiàn)技術(shù)異常結(jié)果。②教育數(shù)據(jù)向度包括數(shù)據(jù)安全、數(shù)據(jù)規(guī)范等取向。數(shù)據(jù)安全指教育數(shù)據(jù)在采集、存儲(chǔ)、使用、共享和刪除等過(guò)程中需確保數(shù)據(jù)安全，避免泄露和濫用；數(shù)據(jù)規(guī)范則需要追求數(shù)據(jù)采集、處理、存儲(chǔ)、分享的格式和業(yè)務(wù)標(biāo)準(zhǔn)化，保證數(shù)據(jù)的質(zhì)量和通用性，實(shí)現(xiàn)系統(tǒng)間數(shù)據(jù)的有序健康流動(dòng)，同時(shí)建立真實(shí)、準(zhǔn)確、客觀和多樣的教育訓(xùn)練數(shù)據(jù)集，避免數(shù)據(jù)偏見(jiàn)。③教育監(jiān)管向度關(guān)注問(wèn)責(zé)、監(jiān)管和協(xié)同治理等取向。問(wèn)責(zé)的作用在于建立法規(guī)條例，以明確智能技術(shù)在教育開(kāi)發(fā)與應(yīng)用環(huán)節(jié)中各主體的責(zé)任和義務(wù)，引導(dǎo)技術(shù)合理運(yùn)用、避免因擔(dān)責(zé)不明引發(fā)更多亂象；監(jiān)管在于實(shí)現(xiàn)智能技術(shù)教育應(yīng)用的可監(jiān)察、可評(píng)估和可管理，避免技術(shù)倫理風(fēng)險(xiǎn)治理失序；不同利益攸關(guān)方采取包容性方法開(kāi)展協(xié)同治理，有助于使技術(shù)惠益為社會(huì)全體共享并推動(dòng)其可持續(xù)發(fā)展。④教育主體向度關(guān)注公平、控制權(quán)、人的尊嚴(yán)和隱私保護(hù)等取向。公平指技術(shù)資源在不同國(guó)家或區(qū)域、種族、個(gè)體、性別、殘障情況、語(yǔ)言群體等方面的非歧視、訪問(wèn)與獲得平等的普惠表現(xiàn)；控制權(quán)體現(xiàn)在教育主體能夠根據(jù)個(gè)體意愿自由決定技術(shù)的使用和終止，以及在各使用環(huán)節(jié)實(shí)現(xiàn)對(duì)技術(shù)的管理，避免技術(shù)失控；人的尊嚴(yán)是每個(gè)人生來(lái)具備且不可侵犯的，智能技術(shù)在整個(gè)應(yīng)用生命周期中需要尊重教育主體的人權(quán)和基本自由；隱私保護(hù)指智能技術(shù)教育應(yīng)用過(guò)程中對(duì)個(gè)人隱私的接觸要合理、合規(guī)和克制，避免侵犯?jìng)€(gè)人隱私。

二 風(fēng)險(xiǎn)表征：智慧教育典型場(chǎng)景下的技術(shù)倫理風(fēng)險(xiǎn)

智能技術(shù)與教育融合帶來(lái)了諸多創(chuàng)新和便利，創(chuàng)生出智慧平安校園、機(jī)器人學(xué)伴、虛擬仿真實(shí)訓(xùn)等典型應(yīng)用[18]，在變革教學(xué)模式、學(xué)習(xí)方法、教育管理、教育評(píng)測(cè)、技能訓(xùn)練、知識(shí)生產(chǎn)方式等方面取得了顯著進(jìn)展。然而，智能技術(shù)的發(fā)展及其規(guī)?；逃龖?yīng)用也引發(fā)了一系列倫理風(fēng)險(xiǎn)問(wèn)題。教育是復(fù)雜的社會(huì)活動(dòng)，真實(shí)教育場(chǎng)景下所涉及的技術(shù)種類和業(yè)務(wù)實(shí)踐具備復(fù)雜性、多元性和場(chǎng)景異質(zhì)性的特點(diǎn)，其中的技術(shù)倫理風(fēng)險(xiǎn)也存在不同的表征形式。為此，本研究依次從“教-學(xué)-管-評(píng)-練-研”六大智慧教育典型業(yè)務(wù)場(chǎng)景切入，明晰其“實(shí)然困境”。

1 教育機(jī)器人誤用沖擊教學(xué)主導(dǎo)權(quán)與師生關(guān)系邊界

從計(jì)算機(jī)輔助教學(xué)、智能導(dǎo)師系統(tǒng)到教育機(jī)器人，技術(shù)發(fā)展促成了人機(jī)關(guān)系從輔助到協(xié)同的迭代升級(jí)[19]。然而，在教學(xué)中引入教育機(jī)器人使“師-生”二元關(guān)系向“師-機(jī)-生”三元關(guān)系轉(zhuǎn)換時(shí)，如果整合不當(dāng)，則可能會(huì)對(duì)學(xué)生的學(xué)習(xí)方式和情感發(fā)展、教師的角色和教學(xué)主導(dǎo)權(quán)產(chǎn)生負(fù)面影響。教師是學(xué)生的引導(dǎo)者和指導(dǎo)者，教育機(jī)器人在一定程度上能夠削弱甚至替代人師的角色和權(quán)力，這種教學(xué)主體錯(cuò)位會(huì)造成師生之間的人際接觸和互動(dòng)溝通減少[20]，學(xué)生可能更多地依賴機(jī)師而不是人師，導(dǎo)致師生關(guān)系、生生關(guān)系和人機(jī)關(guān)系發(fā)生結(jié)構(gòu)異化。此外，由于兒童能夠?qū)⑷祟惖恼J(rèn)知、行為和情感特征歸因于機(jī)器人[21]，而教育機(jī)器人不僅具有技術(shù)工具屬性，還具備外顯的認(rèn)知、行為和情感表現(xiàn)能力，因此這種類人屬性可能導(dǎo)致教育機(jī)器人在教學(xué)中的功能和角色邊界更加復(fù)雜。《COMEST機(jī)器人倫理報(bào)告》同樣指出，機(jī)器人技術(shù)能夠模糊人類主體和技術(shù)客體之間的界限，其中角色問(wèn)題是教育機(jī)器人的重要關(guān)注點(diǎn)，即教育機(jī)器人應(yīng)該被視為導(dǎo)師、工具還是同伴，以及教育機(jī)器人能在多大程度上取代教師[22]。目前，教育機(jī)器人正處于發(fā)展初級(jí)階段，存在教學(xué)性不足、反饋性差、感知力欠缺等問(wèn)題[23]，其負(fù)面或失控行為的道德和法律責(zé)任也面臨追責(zé)歸因問(wèn)題。

2 算法歧視阻礙學(xué)生的個(gè)性化學(xué)習(xí)和全面發(fā)展

社會(huì)發(fā)展促使教育需求正從標(biāo)準(zhǔn)化教學(xué)走向個(gè)性化學(xué)習(xí)和終身學(xué)習(xí)，教學(xué)服務(wù)也由標(biāo)準(zhǔn)化供給向個(gè)性化服務(wù)轉(zhuǎn)變[24]。智能教育系統(tǒng)致力于根據(jù)學(xué)生的能力、學(xué)習(xí)風(fēng)格等特質(zhì)提供個(gè)性化和定制化的學(xué)習(xí)內(nèi)容與路徑，然而由于程序模型的“算法歧視”，以及數(shù)據(jù)采集存在的片面和偏差問(wèn)題，致使算法在面對(duì)不同數(shù)據(jù)主體時(shí)可能會(huì)進(jìn)行區(qū)別對(duì)待，容易在資源推薦和教學(xué)決策方面產(chǎn)生能力偏見(jiàn)、性別偏見(jiàn)、種族偏見(jiàn)等歧視性后果，這將導(dǎo)致個(gè)性化學(xué)習(xí)目標(biāo)未能真正實(shí)現(xiàn)、學(xué)習(xí)結(jié)果兩極分化和教育不公平現(xiàn)象的加劇。此外，算法推薦技術(shù)還存在“信息繭房”效應(yīng)，當(dāng)學(xué)生受到“算法針對(duì)用戶興趣而有目的推薦”機(jī)制的影響，導(dǎo)致接收信息和學(xué)習(xí)的路徑單一化、觀念日趨片面化時(shí)，其固有觀念會(huì)不斷強(qiáng)化，智能技術(shù)反而可能引發(fā)學(xué)生整體的價(jià)值偏見(jiàn)和歧視[25]，不利于學(xué)生綜合素質(zhì)的全面發(fā)展。

3 教育數(shù)據(jù)管理失范增加隱私泄露與濫用風(fēng)險(xiǎn)

教育數(shù)據(jù)涵蓋教育實(shí)踐活動(dòng)所產(chǎn)生或關(guān)聯(lián)的各類數(shù)據(jù)，具備數(shù)據(jù)從產(chǎn)生、采集、擁有到使用的循環(huán)特征[26]，而智能技術(shù)對(duì)多元教育數(shù)據(jù)的大量采集和分析存在隱私侵犯、數(shù)據(jù)泄露與濫用的倫理風(fēng)險(xiǎn)。例如，在學(xué)校教育中，智慧平安校園監(jiān)控、人臉識(shí)別打卡設(shè)備乃至課堂監(jiān)測(cè)系統(tǒng)日益壓縮學(xué)生的隱私空間，“超級(jí)全景監(jiān)獄”之下一切教與學(xué)活動(dòng)開(kāi)放透明且無(wú)可遁形[27]；學(xué)生個(gè)人信息、學(xué)業(yè)成績(jī)等數(shù)據(jù)也可能遭受教務(wù)管理人員失職、未經(jīng)授權(quán)的訪問(wèn)、黑客攻擊和系統(tǒng)漏洞的安全威脅，引發(fā)數(shù)據(jù)泄露和篡改風(fēng)險(xiǎn)，影響教育主體的信息、身心和物質(zhì)安全。美國(guó)政府問(wèn)責(zé)局在2020年發(fā)布的一項(xiàng)調(diào)查表明，在99起數(shù)據(jù)泄露事件中有數(shù)千名K-12學(xué)生受到負(fù)面影響，其中學(xué)業(yè)成績(jī)和特殊教育記錄等信息是常見(jiàn)的泄露類型[28]。在線教育中，學(xué)生在教育平臺(tái)和客戶端應(yīng)用中的個(gè)人隱私數(shù)據(jù)則可能被販賣和濫用，以達(dá)成不當(dāng)?shù)纳虡I(yè)目的、決策偏見(jiàn)等。智能教育產(chǎn)品對(duì)用戶信息的不當(dāng)收集與濫用現(xiàn)象屢見(jiàn)不鮮，近年來(lái)工信部在各批次關(guān)于侵害用戶權(quán)益行為的商業(yè)APP（SDK）中曝光了大量違規(guī)收集個(gè)人信息和過(guò)度索取權(quán)限的案例，甚至還有一些學(xué)生的個(gè)人數(shù)據(jù)被用于欺詐活動(dòng)、身份盜竊或冒名頂替等違法行為。

4 過(guò)度依賴機(jī)器評(píng)測(cè)影響教師的評(píng)判能力和決策公平

教師的教學(xué)決策是影響教學(xué)實(shí)踐效果的重要因素[29]。數(shù)據(jù)驅(qū)動(dòng)的各類智能化評(píng)價(jià)工具能夠從認(rèn)知、情感、行為等多方面分析學(xué)生的學(xué)習(xí)狀態(tài)和認(rèn)知水平，形成學(xué)習(xí)者畫像，并給出學(xué)業(yè)預(yù)警、反饋建議等信息，有助于教師調(diào)整教學(xué)策略和安排進(jìn)度，簡(jiǎn)化其腦力勞動(dòng)和重復(fù)工作。然而，技術(shù)工具的自動(dòng)化、高效率容易使部分教師滋生對(duì)機(jī)器自動(dòng)化評(píng)測(cè)結(jié)果和推薦策略的過(guò)度依賴，成為被智能工具決策操縱的機(jī)械執(zhí)行者，導(dǎo)致教師忽視自身教育實(shí)踐智慧，鈍化教學(xué)情境評(píng)判能力，遮蔽自身對(duì)學(xué)生情感狀態(tài)的感知，并逐漸喪失作為教學(xué)決策者的主體性價(jià)值和角色能動(dòng)性[30]。在這種情況下，不僅教師決策的有效性難以得到保證，教師自身專業(yè)技能的發(fā)展也可能受到負(fù)面影響。此外，算法的“黑箱”特征使決策過(guò)程不透明，機(jī)器評(píng)測(cè)所使用算法和數(shù)據(jù)質(zhì)量的不可靠性也可能影響教師的決策公平。如果算法模型存在錯(cuò)誤假設(shè)、不準(zhǔn)確數(shù)據(jù)或忽略對(duì)學(xué)生個(gè)體差異和特殊情況的考慮，就可能影響機(jī)器評(píng)測(cè)結(jié)果的準(zhǔn)確性和可信度，對(duì)評(píng)估、學(xué)習(xí)路徑規(guī)劃等產(chǎn)生不當(dāng)影響，導(dǎo)致學(xué)生受挫或得到不公平對(duì)待，甚至影響其未來(lái)發(fā)展。

5 虛擬環(huán)境沉溺引發(fā)學(xué)生道德失守的隱憂

VR/AR/MR技術(shù)能夠有效降低實(shí)訓(xùn)成本、強(qiáng)化技能練習(xí)、規(guī)避真實(shí)實(shí)驗(yàn)危險(xiǎn)、跨越時(shí)空隔離限制并增強(qiáng)學(xué)習(xí)趣味性，然而虛擬環(huán)境的沉浸、臨場(chǎng)、多感官交互特征模糊了真實(shí)和虛擬的邊界，真實(shí)世界的倫理問(wèn)題可能在虛擬世界中重現(xiàn)和異化，并反過(guò)來(lái)對(duì)現(xiàn)實(shí)產(chǎn)生影響。例如，虛擬環(huán)境存在生命的有限與無(wú)限、教學(xué)主體的尊嚴(yán)問(wèn)題，但由于虛擬世界對(duì)道德行為準(zhǔn)則的遵守缺乏監(jiān)管，失去了對(duì)使用者不良操作行為及其后果的限制，容易造成道德感滑坡；虛擬環(huán)境中虛擬師生化身或代理角色的嵌入以及虛擬社交形式的出現(xiàn)，擴(kuò)展了多元教學(xué)主體間的交互關(guān)系，師生和學(xué)生群體之間可能因?yàn)樯矸莸奶摂M性而忽略社交禮儀，甚至產(chǎn)生新型欺凌；學(xué)生在虛擬現(xiàn)實(shí)環(huán)境中的虛擬自我表征也會(huì)對(duì)使用者在真實(shí)世界的表現(xiàn)產(chǎn)生影響，使用者對(duì)虛擬化身“理想”特質(zhì)的認(rèn)同感可能影響其在真實(shí)世界中的認(rèn)知、態(tài)度和行為[31]；VR教育游戲產(chǎn)生的心流體驗(yàn)也會(huì)誘發(fā)物化移情和失去自我的風(fēng)險(xiǎn)，VR的過(guò)度使用同樣容易使學(xué)生產(chǎn)生行為性依賴和技術(shù)成癮[32]。此外，VR教育產(chǎn)品開(kāi)發(fā)及其技術(shù)尚不成熟，虛擬與真實(shí)世界在參數(shù)表征方面存在差異，容易使學(xué)生產(chǎn)生客觀知識(shí)的記憶性錯(cuò)誤、操作經(jīng)驗(yàn)結(jié)果分析的錯(cuò)誤等[33]，從而出現(xiàn)認(rèn)知偏差；VR技術(shù)本身還容易觸發(fā)暈動(dòng)癥，存在對(duì)師生用戶真實(shí)本體的技術(shù)安全風(fēng)險(xiǎn)。

6 生成式AI濫用導(dǎo)致學(xué)生課業(yè)研究作弊及創(chuàng)造力退化

在教育領(lǐng)域，以ChatGPT為代表的AI大模型能夠匯聚、加工和生成個(gè)性化的學(xué)習(xí)資源[34]，然而其創(chuàng)作內(nèi)容可能存在事實(shí)性錯(cuò)誤，具有內(nèi)容誤導(dǎo)和欺騙、虛假內(nèi)容傳播等隱匿性風(fēng)險(xiǎn)，當(dāng)其不受合理約束而濫用時(shí)，容易導(dǎo)致學(xué)生課業(yè)研究作弊及創(chuàng)造力退化等問(wèn)題。例如，學(xué)生過(guò)度依賴ChatGPT這類生成式AI完成課業(yè)學(xué)習(xí)和研究，容易出現(xiàn)投機(jī)取巧、課業(yè)舞弊等現(xiàn)象，引發(fā)學(xué)術(shù)倫理問(wèn)題；學(xué)生可能會(huì)傾向或過(guò)度依賴于算法提供的推薦材料，而忽略對(duì)問(wèn)題的主動(dòng)探索和獨(dú)立思考，導(dǎo)致學(xué)習(xí)能力下降以及自身批判性思維能力和創(chuàng)造能力的退化。目前，生成式AI技術(shù)倫理風(fēng)險(xiǎn)已被各方關(guān)注，如斯坦福研究團(tuán)隊(duì)開(kāi)發(fā)了DetectGPT以避免大語(yǔ)言模型在高等教育的不良入侵；國(guó)家網(wǎng)信辦[35]于2023年7月發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，明確提出生成式AI服務(wù)提供者應(yīng)當(dāng)采取有效措施防范未成年人過(guò)度依賴或者沉迷。

三 產(chǎn)生機(jī)理：智能技術(shù)教育應(yīng)用的技術(shù)倫理風(fēng)險(xiǎn)成因

隨著智能技術(shù)介入教育多元場(chǎng)景，教育實(shí)踐中的人機(jī)協(xié)同程度不斷增強(qiáng)，本研究從“人機(jī)共教、人機(jī)共育”的分析視角，將智能技術(shù)教育應(yīng)用的技術(shù)倫理風(fēng)險(xiǎn)成因歸于“技術(shù)工具-教育實(shí)踐-師生素養(yǎng)”三個(gè)維度。

1 技術(shù)工具失信

算法設(shè)計(jì)中的偏見(jiàn)和“黑箱”特性以及智能教育產(chǎn)品的可用性局限，是技術(shù)倫理風(fēng)險(xiǎn)產(chǎn)生的核心原因：①算法本身的設(shè)計(jì)局限。首先，算法存在偏見(jiàn)。算法是技術(shù)人員思維邏輯的外延，根據(jù)人類思維方式編碼形成的分類標(biāo)注方式進(jìn)行訓(xùn)練，得到的模型也帶有人的價(jià)值觀念和偏見(jiàn)，從而映射到算法的決策行為；受限于教學(xué)活動(dòng)本身的復(fù)雜性，教育數(shù)據(jù)的采集難以保證全面性和準(zhǔn)確性，算法在訓(xùn)練過(guò)程中也可能存在帶有偏差的數(shù)據(jù)，導(dǎo)致算法歧視的固化，加劇“偏見(jiàn)進(jìn)，偏見(jiàn)出”現(xiàn)象。其次，算法存在“黑箱”特征。大規(guī)模數(shù)據(jù)驅(qū)動(dòng)的算法在神經(jīng)網(wǎng)絡(luò)模型層面包含的復(fù)雜結(jié)構(gòu)和參數(shù)數(shù)量級(jí)遠(yuǎn)超人類的理解范疇，這使算法從輸入到輸出的內(nèi)在運(yùn)行邏輯難以被人類洞悉，算法決策的透明度不夠且難以審查，可信度難以保證；教學(xué)過(guò)程是充分發(fā)揮學(xué)生與教師主觀能動(dòng)性的過(guò)程，算法對(duì)數(shù)據(jù)相關(guān)關(guān)系的刻畫也不能完全解釋實(shí)際教學(xué)中因果關(guān)系的產(chǎn)生機(jī)制。②智能教育產(chǎn)品的可用性局限。首先，教育實(shí)踐對(duì)智能教育產(chǎn)品的可用性和有效性提出了更高的要求。然而由于技術(shù)開(kāi)發(fā)與教學(xué)一線的關(guān)聯(lián)性較弱，甚至存在脫節(jié)現(xiàn)象，因此技術(shù)開(kāi)發(fā)人員難以洞察真實(shí)的教育需求，并理解教育過(guò)程，導(dǎo)致教育產(chǎn)品功能與教學(xué)實(shí)踐需求匹配程度仍然存在較大的提升空間。其次，智能教育產(chǎn)品的研發(fā)標(biāo)準(zhǔn)不明，安全性和規(guī)范性難以得到保證。多元技術(shù)疊加會(huì)導(dǎo)致安全漏洞風(fēng)險(xiǎn)的產(chǎn)生，在技術(shù)系統(tǒng)不合規(guī)、穩(wěn)定性和安全性難以抵抗風(fēng)險(xiǎn)的侵入時(shí)，便會(huì)構(gòu)成對(duì)教育主體權(quán)益的損害。

2 教育實(shí)踐失范

在智能技術(shù)介入教育生態(tài)的過(guò)程中性質(zhì)迥異的要素不斷融合，教育系統(tǒng)愈加錯(cuò)綜復(fù)雜，對(duì)教育實(shí)踐提出了更高的要求。這種情況下，技術(shù)融合教育實(shí)踐有效模式的失靈和倫理風(fēng)險(xiǎn)監(jiān)管機(jī)制的缺失會(huì)導(dǎo)致技術(shù)倫理風(fēng)險(xiǎn)不受控制：①技術(shù)融合教育實(shí)踐有效模式的失靈。新技術(shù)的不斷涌現(xiàn)和更迭，擴(kuò)展了教育實(shí)踐邊界，形成了日益多元的智能化教育場(chǎng)景。在多樣化智能技術(shù)加持的教學(xué)環(huán)境中，教學(xué)模式的選擇和應(yīng)用也更加復(fù)雜，當(dāng)教育者面臨不同的技術(shù)選擇，但缺乏有效教學(xué)模式指導(dǎo)及其開(kāi)展經(jīng)驗(yàn)支持時(shí)，在缺乏風(fēng)險(xiǎn)管理的情況下可能導(dǎo)致技術(shù)不當(dāng)整合和盲目使用等風(fēng)險(xiǎn)及其不良后果的產(chǎn)生。例如，隨著機(jī)器的智能程度不斷增強(qiáng)，其能夠處理的任務(wù)范圍不斷擴(kuò)大，教師如何在人機(jī)協(xié)同教學(xué)過(guò)程中確定與之協(xié)同的機(jī)器類型以及人機(jī)之間的角色、任務(wù)分配方案，是智能時(shí)代人機(jī)協(xié)同教學(xué)模式建構(gòu)需要考慮的重要方面[36]，其可以避免教學(xué)主體錯(cuò)位問(wèn)題的產(chǎn)生。②倫理風(fēng)險(xiǎn)監(jiān)管機(jī)制的缺失。在智能技術(shù)教育應(yīng)用中，相關(guān)的技術(shù)倫理風(fēng)險(xiǎn)監(jiān)管機(jī)制是規(guī)范技術(shù)使用和人身道德的“守門人”，如果沒(méi)有制定明確的政策和準(zhǔn)則，就可能導(dǎo)致教育機(jī)構(gòu)和教育實(shí)踐者在應(yīng)用智能技術(shù)時(shí)缺乏責(zé)任感和規(guī)范約束。近年來(lái)，風(fēng)險(xiǎn)監(jiān)管機(jī)制的缺失使不當(dāng)行為問(wèn)題日益凸顯。例如，在教育數(shù)據(jù)管理期間，教師、管理者或其他工作人員均可接觸數(shù)據(jù)，這導(dǎo)致行為規(guī)范難以統(tǒng)籌管控[37]，師生教育數(shù)據(jù)和身份信息在不知情的情況下被私自販賣的情況層見(jiàn)疊出[38]，教育領(lǐng)域問(wèn)責(zé)監(jiān)管機(jī)制的缺失無(wú)疑會(huì)造成技術(shù)應(yīng)用的灰色地帶，滋生不良違規(guī)行為。

3 師生素養(yǎng)不足

技術(shù)應(yīng)用的主體是人，師生的數(shù)字素養(yǎng)是智能技術(shù)在教育中合理運(yùn)用的關(guān)鍵。在教育實(shí)踐中應(yīng)用智能技術(shù)時(shí)，師生不僅需要具備相關(guān)的技術(shù)知識(shí)、技能等技術(shù)素養(yǎng)，還要具備相應(yīng)的態(tài)度、價(jià)值觀等倫理意識(shí)，而兩者的不足可能會(huì)引發(fā)技術(shù)倫理風(fēng)險(xiǎn)的產(chǎn)生：①師生技術(shù)知識(shí)與技能方面的技術(shù)素養(yǎng)不足。如果師生的技術(shù)知識(shí)與技能不足且缺乏相應(yīng)的素養(yǎng)教育，便不能正確、適度使用智能技術(shù)，可能出現(xiàn)過(guò)度依賴、人為失誤和能動(dòng)性被技術(shù)消解的情況；技術(shù)知識(shí)與技能的缺乏也可能導(dǎo)致教育工作者無(wú)法妥善維護(hù)技術(shù)系統(tǒng)，增加技術(shù)故障和數(shù)據(jù)泄露等風(fēng)險(xiǎn)產(chǎn)生的可能性，這些因素都會(huì)對(duì)智能技術(shù)教育應(yīng)用效果產(chǎn)生不良影響。②師生的倫理意識(shí)也在規(guī)范教育實(shí)踐中起重要作用。如果教師對(duì)智能技術(shù)倫理風(fēng)險(xiǎn)缺乏足夠的認(rèn)知了解，就可能無(wú)法正確引導(dǎo)學(xué)生使用技術(shù)促進(jìn)自身的學(xué)習(xí)和發(fā)展；而學(xué)生如果不具備較強(qiáng)的隱私保護(hù)意識(shí)，缺乏批判性思維和辨識(shí)虛假信息的能力，其心智也會(huì)被大量魚龍混雜的錯(cuò)誤不良信息所誤導(dǎo)，影響未來(lái)的行為實(shí)踐。

四 行動(dòng)建議：面向智慧教育發(fā)展的技術(shù)倫理風(fēng)險(xiǎn)規(guī)約

基于上述成因剖析，本研究提出面向智慧教育發(fā)展的技術(shù)倫理風(fēng)險(xiǎn)防范和治理建議，以期助力教育主體、智能技術(shù)與教育實(shí)踐和諧共進(jìn)發(fā)展，促成教育形態(tài)向智慧教育全方位躍遷。

1 提升智能教育產(chǎn)品的可用性

企業(yè)作為智慧教育服務(wù)的提供者，應(yīng)承擔(dān)產(chǎn)品服務(wù)和技術(shù)保障的責(zé)任，提高產(chǎn)品的可用性：①嚴(yán)格強(qiáng)化研發(fā)標(biāo)準(zhǔn)，規(guī)范智能教育產(chǎn)品的設(shè)計(jì)開(kāi)發(fā)及服務(wù)。在產(chǎn)品開(kāi)發(fā)前應(yīng)深入了解真實(shí)的教育需求和應(yīng)用條件，確定系統(tǒng)無(wú)縫集成和數(shù)據(jù)流動(dòng)所需的數(shù)據(jù)采集、傳輸、處理規(guī)范，如數(shù)據(jù)標(biāo)準(zhǔn)化、網(wǎng)絡(luò)安全通信協(xié)議、API接口等使用設(shè)計(jì)，避免產(chǎn)品功能設(shè)計(jì)冗余，以及因?yàn)槠脚_(tái)數(shù)據(jù)難互通和業(yè)務(wù)流程不連貫造成信息孤島現(xiàn)象；在產(chǎn)品開(kāi)發(fā)中完善對(duì)系統(tǒng)數(shù)據(jù)加密處理、訪問(wèn)控制與權(quán)限管理、網(wǎng)絡(luò)和系統(tǒng)安全、數(shù)據(jù)備份與恢復(fù)等技術(shù)安全保障措施的開(kāi)發(fā)；在產(chǎn)品原型形成后開(kāi)展系統(tǒng)測(cè)試與評(píng)估，及時(shí)修復(fù)漏洞問(wèn)題，保障產(chǎn)品的安全穩(wěn)定；在產(chǎn)品推廣中遵循倫理規(guī)范，保障用戶的權(quán)益和隱私。②升級(jí)智能教育產(chǎn)品中算法可解釋性的解決方案，推動(dòng)智能教育產(chǎn)品走向可信賴、負(fù)責(zé)任的技術(shù)發(fā)展方向。提高算法可解釋性需要從算法生命周期的各個(gè)步驟介入，如在訓(xùn)練數(shù)據(jù)集準(zhǔn)備環(huán)節(jié)避免數(shù)據(jù)偏見(jiàn)；在自動(dòng)化決策模型構(gòu)建中，綜合考慮學(xué)生背景、學(xué)業(yè)成績(jī)、興趣風(fēng)格等個(gè)體差異和其他特殊情況，確保決策的公正性和合理性，防范算法歧視和決策偏差；在不同教育應(yīng)用的部署場(chǎng)景中，可將全局可解釋性和局部可解釋性納入考慮范疇，為師生提供有針對(duì)性的模型性能指標(biāo)和決策因素權(quán)重等信息，提高算法的透明度。

2 加強(qiáng)技術(shù)引入教育的風(fēng)險(xiǎn)管理

學(xué)校是智慧教育的重要承擔(dān)者和建設(shè)者，通過(guò)制定智能技術(shù)風(fēng)險(xiǎn)評(píng)估與管理機(jī)制，為師生提供安全的智能教學(xué)環(huán)境：①建立風(fēng)險(xiǎn)評(píng)估與應(yīng)對(duì)機(jī)制。在技術(shù)引入前明確技術(shù)應(yīng)用的目標(biāo)和范圍，確保技術(shù)與教學(xué)目標(biāo)相契合；充分了解其適用性與局限性，明確潛在風(fēng)險(xiǎn)和應(yīng)對(duì)措施，對(duì)智能教育產(chǎn)品進(jìn)行全面的風(fēng)險(xiǎn)評(píng)估；在開(kāi)展技術(shù)的試點(diǎn)實(shí)踐時(shí)，學(xué)校應(yīng)進(jìn)行充分的準(zhǔn)備與測(cè)試，保證技術(shù)的穩(wěn)定性和可靠性，避免因技術(shù)問(wèn)題而影響師生正常教學(xué)活動(dòng)。②推廣技術(shù)管理與運(yùn)用經(jīng)驗(yàn)。學(xué)校可為新技術(shù)的應(yīng)用實(shí)踐建設(shè)良好的智能教學(xué)環(huán)境，為教師組織相關(guān)技能培訓(xùn)，培育典型智能技術(shù)教育應(yīng)用案例和實(shí)用教學(xué)模式，形成并推廣有效的智能技術(shù)管理和運(yùn)用經(jīng)驗(yàn)。

3 建立數(shù)據(jù)保護(hù)與問(wèn)責(zé)監(jiān)管機(jī)制

政府在智慧教育發(fā)展中擔(dān)負(fù)著引導(dǎo)與監(jiān)管的責(zé)任，應(yīng)提供技術(shù)倫理風(fēng)險(xiǎn)規(guī)約的頂層設(shè)計(jì)，推動(dòng)智能技術(shù)與教育有機(jī)融合與和諧共進(jìn)：①加強(qiáng)教育數(shù)據(jù)的隱私保護(hù)和使用規(guī)范。首先，建立教育數(shù)據(jù)分級(jí)分類保護(hù)制度，進(jìn)一步深化數(shù)據(jù)收集和使用規(guī)范?？紤]到教育數(shù)據(jù)種類豐富，需要提前布局?jǐn)?shù)據(jù)安全保護(hù)體系，形成數(shù)據(jù)使用規(guī)范，以確保個(gè)人隱私數(shù)據(jù)不被濫用和泄露。其次，規(guī)范訓(xùn)練數(shù)據(jù)集質(zhì)量，增強(qiáng)教育數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性和多樣性。②制定法規(guī)條例約束技術(shù)服務(wù)提供者、學(xué)校、教育機(jī)構(gòu)等主體，為智慧教育發(fā)展提供監(jiān)管措施，使問(wèn)責(zé)追溯有法可依。首先，技術(shù)快速演進(jìn)、法律法規(guī)相對(duì)滯后的情況會(huì)引發(fā)一系列社會(huì)問(wèn)題和倫理挑戰(zhàn)，相關(guān)政策以及問(wèn)責(zé)機(jī)制的建立，能夠推動(dòng)教育資源共享與整合，對(duì)違反倫理準(zhǔn)則的行為進(jìn)行嚴(yán)肅追責(zé)。其次，智慧教育的發(fā)展涉及眾多利益相關(guān)者，需要跨界協(xié)同應(yīng)對(duì)技術(shù)倫理風(fēng)險(xiǎn)，教育部門應(yīng)呼吁社會(huì)各界多方合作，在新技術(shù)規(guī)?；瘧?yīng)用前聯(lián)合各方開(kāi)展應(yīng)用試點(diǎn)，形成共識(shí)并共同行動(dòng)，在追求跨界協(xié)同的同時(shí)打破各方責(zé)任壁壘。

4 保障教育系統(tǒng)間數(shù)據(jù)的有序流動(dòng)

各教育系統(tǒng)間需要規(guī)范數(shù)據(jù)標(biāo)準(zhǔn)和共享機(jī)制，保障數(shù)據(jù)的健康流動(dòng)。教育數(shù)據(jù)標(biāo)準(zhǔn)是實(shí)現(xiàn)教育系統(tǒng)間數(shù)據(jù)流動(dòng)的基礎(chǔ)，數(shù)據(jù)共享機(jī)制是促使教育系統(tǒng)間數(shù)據(jù)健康有序流動(dòng)的保障。不同教育系統(tǒng)間的數(shù)據(jù)互通共享和整合分析需要數(shù)據(jù)具備統(tǒng)一的格式規(guī)范和共享機(jī)制，以增強(qiáng)數(shù)據(jù)互操作性和跨部門匯聚流通的能力。教育領(lǐng)域存在大量的基礎(chǔ)數(shù)據(jù)，但由于多數(shù)教育單位在建設(shè)信息管理系統(tǒng)時(shí)僅考慮本單位的使用情況或僅滿足縱向業(yè)務(wù)需求，數(shù)據(jù)在跨部門互通時(shí)存在編碼、格式和質(zhì)量的差異，致使不同數(shù)據(jù)源之間出現(xiàn)融合障礙，且在跨層級(jí)交換時(shí)流程煩瑣，增加了共享成本，滋生安全隱患[39]。因此，通過(guò)數(shù)據(jù)標(biāo)準(zhǔn)化實(shí)現(xiàn)“統(tǒng)一標(biāo)準(zhǔn)”和“一源多用”，是實(shí)現(xiàn)教育數(shù)據(jù)保護(hù)和安全共享雙贏局面的重要手段。

5 重視師生數(shù)字素養(yǎng)的培養(yǎng)與提升

師生是智慧教育的實(shí)踐者和教育數(shù)據(jù)的重要產(chǎn)生來(lái)源，提升其數(shù)據(jù)隱私保護(hù)的倫理意識(shí)和合理使用技術(shù)的技術(shù)素養(yǎng)有助于防范技術(shù)倫理風(fēng)險(xiǎn)造成不良后果：①師生需要培養(yǎng)技術(shù)素養(yǎng)和倫理意識(shí)，積極應(yīng)變，以確保智能教育產(chǎn)品在教學(xué)活動(dòng)中的合理應(yīng)用。例如，教師需要積極參與教學(xué)培訓(xùn)以掌握相關(guān)技術(shù)知識(shí)與技能，了解智能技術(shù)教育應(yīng)用中的局限性和倫理風(fēng)險(xiǎn)，培養(yǎng)對(duì)智能技術(shù)引入教學(xué)環(huán)節(jié)的審慎態(tài)度，避免技術(shù)的過(guò)度和不當(dāng)使用；學(xué)生則需要培養(yǎng)隱私保護(hù)意識(shí)，發(fā)展批判性思維能力。②師生需要在實(shí)踐中挖掘有效技術(shù)整合教學(xué)的模式和經(jīng)驗(yàn)，主動(dòng)求變，培養(yǎng)自身對(duì)人機(jī)協(xié)同教學(xué)環(huán)境的適應(yīng)性，并提高智慧教育場(chǎng)景下的人機(jī)協(xié)同能力。

參考文獻(xiàn)

[1]杜靜，黃榮懷，李政璇，等.智能教育時(shí)代下人工智能倫理的內(nèi)涵與建構(gòu)原則[J].電化教育研究，2019，（7）：21-29.

[2]胡小勇，黃婕，林梓柔，等.教育人工智能倫理：內(nèi)涵框架、認(rèn)知現(xiàn)狀與風(fēng)險(xiǎn)規(guī)避[J].現(xiàn)代遠(yuǎn)程教育研究，2022，（2）：21-28、36.

[3][11]UNESCO. Beijing consensus on artificial intelligence and education[OL].

[4]UNESCO. Recommendation on the ethics of artificial intelligence[OL].

[5]白鈞溢，于偉.超越“共識(shí)”：教育人工智能倫理原則構(gòu)建的發(fā)展方向[J].中國(guó)電化教育，2023，（6）：9-17、24.

[6]黃榮懷，劉夢(mèng)彧，劉嘉豪，等.智慧教育之“為何”與“何為”——關(guān)于智能時(shí)代教育的表現(xiàn)性與建構(gòu)性特征分析[J].電化教育研究，2023，（1）：5-12、35.

[7]張永波.智慧教育倫理觀的建構(gòu)機(jī)理研究[J].中國(guó)電化教育，2020，（3）：49-55、92.

[8]李建華.倫理與道德的互釋及其側(cè)向[J].武漢大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2020，（3）：59-70.

[9]趙磊磊，張黎，代蕊華.教育人工智能倫理：基本向度與風(fēng)險(xiǎn)消解[J].現(xiàn)代遠(yuǎn)距離教育，2021，（5）：73-80.

[10]國(guó)務(wù)院.國(guó)務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知[OL].

[12]UNESCO. Artificial intelligence in education： Challenges and opportunities for sustainable development[OL].

[13]OECD. Trustworthy artificial intelligence （AI） in education： Promises and challenges[OL].

[14]UNESCO. AI and education： guidance for policy-makers[OL].

[15]The University of Buckinham. The ethical framework for AI in education[OL].

[16]U.S. Department of Education， Office of Educational Technology. Artificial intelligence and the future of teaching and learning[OL].

[17]UNESCO. Generative AI and the future of education[OL].

[18]楊俊鋒，施高俊，莊榕霞，等.5G+智慧教育：基于智能技術(shù)的教育變革[J].中國(guó)電化教育，2021，（4）：1-7.

[19][36]黃榮懷，劉德建，阿罕默德·提利利，等.人機(jī)協(xié)同教學(xué)：基于虛擬化身、數(shù)字孿生和教育機(jī)器人場(chǎng)景的路徑設(shè)計(jì)[J].開(kāi)放教育研究，2023，（6）：4-14.

[20]Sharkey A J C. Should we welcome robot teachers？[J]. Ethics and Information Technology， 2016，18：283-297.

[21]Beran T N， Ramirez-Serrano A， Kuzyk R， et al. Understanding how children understand robots： Perceived animism in child-robot interaction[J]， International Journal Human-Computer Studies， 2011，（7-8）：539-550.

[22]UNESCO， COMEST. Report of COMEST on robotics ethics[R]. Praris： UNESCO， 2017：33.

[23]盧宇，薛天琪，陳鵬鶴，等.智能教育機(jī)器人系統(tǒng)構(gòu)建及關(guān)鍵技術(shù)——以“智慧學(xué)伴”機(jī)器人為例[J].開(kāi)放教育研究，2020，（2）：83-91.

[24]黃榮懷，劉德建，焦艷麗，等.互聯(lián)網(wǎng)教育服務(wù)產(chǎn)業(yè)研究報(bào)告[R].北京：互聯(lián)網(wǎng)智能技術(shù)及應(yīng)用國(guó)家工程實(shí)驗(yàn)室，2017：4.

[25]韋妙，何舟洋.本體、認(rèn)識(shí)與價(jià)值：智能教育的技術(shù)倫理風(fēng)險(xiǎn)隱憂與治理進(jìn)路[J].現(xiàn)代遠(yuǎn)距離教育，2022，（1）：75-82.

[26]劉三女牙，楊宗凱，李卿.教育數(shù)據(jù)倫理：大數(shù)據(jù)時(shí)代教育的新挑戰(zhàn)[J].教育研究，2017，（4）：15-20.

[27]孫立會(huì).人工智能之于教育決策的主體性信任危機(jī)及其規(guī)避[J].電化教育研究，2023，（3）：21-27、43.

[28]United States Government Accountability Office. Data security： Recent K-12 data breaches show that students are vulnerable to harm[OL].

[29]沈書生.聚焦學(xué)習(xí)決策：指向認(rèn)知發(fā)生的數(shù)據(jù)及其應(yīng)用[J].電化教育研究，2021，（11）：13-19.

[30]蔣艷雙，崔璨，劉嘉豪，等.教育領(lǐng)域中的情感計(jì)算技術(shù)：應(yīng)用隱憂、生成機(jī)制與實(shí)踐規(guī)約[J].中國(guó)電化教育，2022，（5）：91-98.

[31]高媛，劉德建，黃真真，等.虛擬現(xiàn)實(shí)技術(shù)促進(jìn)學(xué)習(xí)的核心要素及其挑戰(zhàn)[J].電化教育研究，2016，（10）：77-87、103.

[32]孫田琳子.虛擬現(xiàn)實(shí)教育應(yīng)用的倫理反思——基于伯格曼技術(shù)哲學(xué)視角[J].電化教育研究，2020，（9）：48-54.

[33]沈陽(yáng)，逯行，曾海軍.虛擬現(xiàn)實(shí)：教育技術(shù)發(fā)展的新篇章——訪中國(guó)工程院院士趙沁平教授[J].電化教育研究，2020，（1）：5-9.

[34]吳砥，李環(huán)，陳旭.人工智能通用大模型教育應(yīng)用影響探析[J].開(kāi)放教育研究，2023，（2）：19-25、45.

[35]中國(guó)網(wǎng)信網(wǎng).生成式人工智能服務(wù)管理暫行辦法[OL].

[37]張譽(yù)元，張海.數(shù)據(jù)生命周期視閾下教育數(shù)據(jù)倫理問(wèn)題及規(guī)約之徑[J].中國(guó)電化教育，2022，（10）：118-125.

[38]趙磊磊，陳祥梅.數(shù)智時(shí)代教育大數(shù)據(jù)風(fēng)險(xiǎn)：表征樣態(tài)與化解路向[J].貴州師范大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2022，（2）：72-82.

[39]楊琳，王煒，諸紀(jì)，等.面向數(shù)據(jù)共享的教育數(shù)據(jù)標(biāo)準(zhǔn)體系研究與建設(shè)實(shí)踐[J].大數(shù)據(jù)，2020，（6）：3-13.

The Technology Ethical Orientation and Risk Governance for Smart Education

Abstract： At present， the integration of intelligent technology and education is driving a profound change in the educational mode， and at the same time spawning technological ethical risks such as algorithm discrimination， technology abuse， privacy disclosure， and dislocation of educational subjects. How to avoid the risks to maximize the benefits of intelligent technology has become an essential issue in the development of smart education. Therefore， this paper firstly analyzed the related reports of technology ethics， and described the technology ethics orientations of smart education in four aspects of intelligence technology， educational subject， educational data， and educational supervision. Then， this paper analyzed the representations of differentiated technology ethical risks in six typical scenarios of “teaching-learning-management-evaluation-training-research”， and classified their root causes into three levels of untrustworthiness of technology tools， the anomie of educational practice， and the lack of teachers and students quality. Finally， the suggestions on risk prevention and governance were given in the perspectives of technology upgrading， risk management， accountability supervision， data flow， and literacy improvement to assist the sustainable and healthy development of smart education.

Keywords： smart education; intelligent technology; ethical norms; risk representation; risk governance