人工智能驅(qū)動(dòng)教育變革的倫理風(fēng)險(xiǎn)及其解蔽之路

摘要： 人工智能驅(qū)動(dòng)教育變革給教育帶來雙重影響，使教育中的機(jī)會(huì)與風(fēng)險(xiǎn)共存。盡管人工智能技術(shù)給教育帶來強(qiáng)大優(yōu)勢，能夠增強(qiáng)教育主體的能力、記錄完整的教育信息、推動(dòng)人的個(gè)性發(fā)展、以及提高教育效率。但隨著技術(shù)向度的增強(qiáng)與工具理性思維的介入，這一過程也面臨不同維度的倫理風(fēng)險(xiǎn)。人工智能驅(qū)動(dòng)教育變革的倫理風(fēng)險(xiǎn)主要表現(xiàn)為主體風(fēng)險(xiǎn)、安全風(fēng)險(xiǎn)、算法風(fēng)險(xiǎn)和技術(shù)濫用四方面。解蔽人工智能裹挾下的四重風(fēng)險(xiǎn)，推動(dòng)人工智能技術(shù)在教育變革中的價(jià)值實(shí)現(xiàn)，需回歸以人為本的價(jià)值理念，強(qiáng)化教育主體地位；建立依法規(guī)約的倫理體系，加強(qiáng)信息安全管理；遵循算法使用的倫理準(zhǔn)則，促進(jìn)個(gè)體生命發(fā)展；內(nèi)化德性為先的倫理意識，健全技術(shù)變革邊界。

關(guān)鍵詞：人工智能；教育變革；倫理風(fēng)險(xiǎn)；解蔽

中圖分類號：G434 文獻(xiàn)標(biāo)識碼：A

本文系2021年重慶市教育委員會(huì)人文社會(huì)科學(xué)研究項(xiàng)目“中小學(xué)生在線學(xué)習(xí)質(zhì)量測評研究”（項(xiàng)目編號：21SKGH269）、2023年重慶市教育委員會(huì)科學(xué)技術(shù)項(xiàng)目“基于區(qū)域教育大數(shù)據(jù)的中小學(xué)生學(xué)業(yè)水平增值評價(jià)研究”（項(xiàng)目編號：KJQN202301614）研究成果。

① 江宏為本文通訊作者。

人工智能作為具有“頭雁”效應(yīng)的變革性技術(shù)產(chǎn)物，越來越成為助推教育常進(jìn)常新的強(qiáng)大引擎，它不斷驅(qū)動(dòng)著教育領(lǐng)域的深層發(fā)展與創(chuàng)新。伴隨人工智能技術(shù)的發(fā)展與迭代，其能在教育領(lǐng)域的變革性應(yīng)用也在一定程度上影響及改變了原有的教育生態(tài)和教育秩序，特別是在教育理論、教育結(jié)構(gòu)、教育價(jià)值、教育文化與教育主體等諸多方面產(chǎn)生了系列沖擊。由此，也引發(fā)了多維度的倫理風(fēng)險(xiǎn)，此類問題的思索與回應(yīng)“將是決定人工智能在教育上乃至在未來社會(huì)能夠走多遠(yuǎn)的關(guān)鍵”[1]?；诖?，闡述人工智能驅(qū)動(dòng)教育變革的表征，系統(tǒng)而全面地審思人工智能驅(qū)動(dòng)教育變革的倫理風(fēng)險(xiǎn)，深度透析倫理風(fēng)險(xiǎn)問題生發(fā)的具體表現(xiàn)，進(jìn)而追尋倫理風(fēng)險(xiǎn)的解蔽之路，為破解當(dāng)前人工智能教育困境、推動(dòng)人工智能有效助力教育變革提供理論支持。

一、闡述：人工智能驅(qū)動(dòng)教育變革的表現(xiàn)解讀

若要明晰人工智能驅(qū)動(dòng)教育變革的倫理風(fēng)險(xiǎn)，則應(yīng)厘清當(dāng)前人工智能驅(qū)動(dòng)教育變革的表現(xiàn)及其特點(diǎn)。具體如下：

（一）人工智能驅(qū)動(dòng)教育變革的表征

人工智能在教育中的應(yīng)用既有風(fēng)險(xiǎn)又有機(jī)遇，其對教育主體、教育效率等方面的不同程度的影響必將驅(qū)動(dòng)教育系統(tǒng)的深層變革。

第一，在教育主體方面，人工智能可強(qiáng)化教育主體的能力。作為一種技術(shù)力量，人工智能在教育系統(tǒng)中的深度融入使其不斷內(nèi)化為教育主體內(nèi)在的一部分，越來越構(gòu)成人的存在本身。隨著以ChatGPT為主的生成式人工智能的出現(xiàn)，它們與傳統(tǒng)技術(shù)工具的結(jié)合能夠讓其更加“聰明”，進(jìn)而在某種意義上成為教育主體的“個(gè)人助理”[2]。

第二，在教育過程方面，人工智能可記錄完整的教育信息。在課堂場域下，人工智能能夠?yàn)榻逃黧w提供互聯(lián)互通的教育環(huán)境，通過多種方式對教育主體的相關(guān)數(shù)據(jù)進(jìn)行抓取與采集，如情感數(shù)據(jù)信息、體質(zhì)數(shù)據(jù)信息、課堂表現(xiàn)數(shù)據(jù)信息等等，進(jìn)而實(shí)現(xiàn)對教育過程的實(shí)時(shí)監(jiān)控。

第三，在教育價(jià)值方面，人工智能可推動(dòng)人的個(gè)性發(fā)展。人工智能技術(shù)與教育的深度融合，為教育提供了更多個(gè)性化的教育資源，極大豐富了教育主體的教學(xué)體驗(yàn)。通過智能化的指令輸出，師生即可獲得多元化的適配資源，這為人的個(gè)性發(fā)展提供了更自由和廣闊的空間。

第四，在教育效率方面，人工智能可有效提高教育效率。在ChatGPT的技術(shù)背景下，學(xué)生作為主體投入學(xué)習(xí)活動(dòng)的質(zhì)量是尤為重要的，它能夠在學(xué)生與人工智能有效協(xié)作的基礎(chǔ)上，“最大化自己的學(xué)習(xí)體驗(yàn)和產(chǎn)出，而不是把精力浪費(fèi)在低效、簡單、機(jī)械的任務(wù)上”[3]。

（二）人工智能驅(qū)動(dòng)教育變革的倫理特點(diǎn)

人工智能驅(qū)動(dòng)教育的變革的過程既要遵循人工智能技術(shù)本身的發(fā)展訴求，又要回歸教育以人為本的價(jià)值本質(zhì)，這種倫理特性決定了其內(nèi)在的特殊性。

第一，實(shí)現(xiàn)教師“育人”與“效率”的統(tǒng)一。教育作為育人的事業(yè)，任何的技術(shù)融入都必須遵循育人為本的價(jià)值指向。人工智能進(jìn)入教育領(lǐng)域，能夠?yàn)榻處煹挠斯ぷ鳌皽p負(fù)增效”，但并不意味著教師的教育主權(quán)就完全“讓渡”給人工智能，在注重教師工作“效率”的同時(shí)，仍要堅(jiān)守育人為本的教育本質(zhì)。也就是說，人工智能驅(qū)動(dòng)下的教育變革，必然是“育人”與“效率”的統(tǒng)一，必然是工具理性與價(jià)值理性合一的過程，這決定了效率與人的發(fā)展相統(tǒng)一理應(yīng)成為人工智能驅(qū)動(dòng)教育變革的倫理目標(biāo)，即借助教師與人工智能的有效協(xié)同實(shí)現(xiàn)更高效、更高質(zhì)量的教育教學(xué)，同時(shí)始終堅(jiān)守教育的人本立場，把“人”置于教育變革的軸心位置，從容應(yīng)對人工智能可能引發(fā)的倫理風(fēng)險(xiǎn)。

第二，實(shí)現(xiàn)學(xué)生“全面發(fā)展”與“個(gè)性發(fā)展”的統(tǒng)一。一般而言，“人的全面發(fā)展表現(xiàn)為素質(zhì)的提高與個(gè)性的自由發(fā)展”[4]，全面發(fā)展也可視作個(gè)性的全面發(fā)展，而個(gè)性的發(fā)展，也是全面發(fā)展的個(gè)性，它體現(xiàn)了人發(fā)展過程中的獨(dú)特性[5]。可見，學(xué)生的全面發(fā)展與個(gè)性發(fā)展密不可分，是學(xué)生發(fā)展“統(tǒng)一性”與“獨(dú)特性”的結(jié)合。一方面，作為一種技術(shù)手段，它在教育變革中的驅(qū)動(dòng)作用越明顯，教育系統(tǒng)對于學(xué)生全面發(fā)展的倫理要求就越高，而應(yīng)用人工智能的能力也會(huì)越來越成為學(xué)生適應(yīng)教育變革、實(shí)現(xiàn)全面發(fā)展的重要素養(yǎng)要求，在此意義上，人工智能將拓展學(xué)生全面發(fā)展的維度和范疇，幫助學(xué)生為實(shí)現(xiàn)更完整、更全面、更自由的發(fā)展而不懈付諸努力。另一方面，人工智能拓展了學(xué)生的學(xué)習(xí)空間，為每個(gè)學(xué)生提供了更為多樣化、個(gè)性化的學(xué)習(xí)資源，便于學(xué)生將更充裕的時(shí)間用于實(shí)現(xiàn)個(gè)性自由發(fā)展和個(gè)體潛能的挖掘，在提升學(xué)習(xí)體驗(yàn)的同時(shí)，也可以促進(jìn)學(xué)生更好、更全面地發(fā)展。

二、審思：人工智能驅(qū)動(dòng)教育變革的倫理風(fēng)險(xiǎn)

“倫理”一詞屬于哲學(xué)范疇，其起源最早可追溯至《禮記·樂記》，其中言“樂者，通倫理也”，此中的“倫”即人倫，意指人在親族中的血緣輩分關(guān)系，而后經(jīng)過簡化，“倫”轉(zhuǎn)義為人與人之間的關(guān)系?！袄怼眲t是處理事務(wù)時(shí)所遵循的原則及標(biāo)準(zhǔn)。倫理為“人和人相處應(yīng)當(dāng)遵守的標(biāo)準(zhǔn)與規(guī)范”[6]。在西方倫理學(xué)中，蘇格拉底、黑格爾等西方哲學(xué)家為追求自然規(guī)律，基于人“向善”的本能，主張人應(yīng)該追求一種美好的、向善的生活。所謂“善”的生活即物質(zhì)生活與精神生活內(nèi)外協(xié)和的生活，這種對美好生活所產(chǎn)生的“向善”意向即倫理[7]。人類社會(huì)步入現(xiàn)代化之后，隨著社會(huì)環(huán)境的日益復(fù)雜化，倫理的內(nèi)涵也越來越豐富和多元。綜合而言，倫理是人類在與他人、與社會(huì)產(chǎn)生交互的過程中，為平衡社會(huì)整體利益與個(gè)體利益，而產(chǎn)生的處理人與社會(huì)、自然、他者關(guān)系的價(jià)值標(biāo)準(zhǔn)、道德準(zhǔn)則和一系列的行為體系[8]。

基于此，可認(rèn)為倫理風(fēng)險(xiǎn)是“在人與人、人與社會(huì)、人與自然、人與自身的倫理關(guān)系方面由于正面或負(fù)面影響可能產(chǎn)生不確定事件或條件，尤指其產(chǎn)生的不確定的倫理負(fù)效應(yīng)，諸如倫理關(guān)系失調(diào)、社會(huì)失序、機(jī)制失控、人們行為失范、心理失衡等等”[9]。在教育領(lǐng)域中，人工智能驅(qū)動(dòng)教育變革的倫理風(fēng)險(xiǎn)與其表征和特點(diǎn)密切相關(guān)，當(dāng)人工智能在教育中發(fā)揮作用時(shí)，就不可避免地引起人與技術(shù)之間的負(fù)面不確定事件或條件。當(dāng)人工智能技術(shù)的工具理性超越教育活動(dòng)的價(jià)值理性時(shí)，相應(yīng)的倫理風(fēng)險(xiǎn)便產(chǎn)生了。因此，人工智能驅(qū)動(dòng)教育變革的倫理風(fēng)險(xiǎn)即是人工智能技術(shù)在教育中應(yīng)用時(shí)，所引起的教育主體與人工智能之間產(chǎn)生的不利影響。這種不利影響可能來自于技術(shù)本身，也可能來自于使用技術(shù)的主體自身，它會(huì)造成教育主體與人工智能技術(shù)之間的關(guān)系失調(diào)，阻礙人工智能驅(qū)動(dòng)教育變革的進(jìn)程。

三、遮蔽：人工智能驅(qū)動(dòng)教育變革的倫理風(fēng)險(xiǎn)問題

倫理風(fēng)險(xiǎn)遮蔽了人工智能驅(qū)動(dòng)教育深層變革的本體價(jià)值，唯有對其倫理風(fēng)險(xiǎn)樣態(tài)進(jìn)行全面系統(tǒng)地梳理和認(rèn)知，才能從根本上為解蔽人工智能教育應(yīng)用困境、規(guī)范人工智能教育發(fā)展培根固基?；谌斯ぶ悄茯?qū)動(dòng)教育變革的表征，發(fā)現(xiàn)人工智能在強(qiáng)化教育主體能力、記錄完整教育信息、推動(dòng)人的個(gè)性發(fā)展、提高教育效率等方面具有有利影響。但隨著人工智能在教育領(lǐng)域的深度應(yīng)用，也隨之帶來相應(yīng)的主體風(fēng)險(xiǎn)、安全風(fēng)險(xiǎn)、算法風(fēng)險(xiǎn)和技術(shù)濫用風(fēng)險(xiǎn)四個(gè)方面。

（一）主體消退：限制教育主體

人工智能時(shí)代的教育是一種“主體—技術(shù)—主體”的交往過程，其實(shí)質(zhì)是師生利用人工智能技術(shù)達(dá)成教育目標(biāo)的主體間交往活動(dòng)。作為一種主體間的交互實(shí)踐，人工智能驅(qū)動(dòng)教育變革的過程需要充分關(guān)照作為個(gè)體“人”的師生的全面發(fā)展。當(dāng)前，人工智能盡管能夠?qū)熒鷱姆彪s的任務(wù)重解放出來，但它也在一定程度上會(huì)帶來對人自身的替代，使人作為主體在教育中的價(jià)值逐漸衰退，導(dǎo)致人工智能“非人”的技術(shù)特性逐漸僭越，進(jìn)而造成師生教育主體在教育場域中的權(quán)利嬗變與“自我”消退。

其一，限制教師主體的教育教學(xué)主權(quán)。貝爾納·斯蒂格勒（Bernard Stiegler）認(rèn)為愛比米修斯在給世間各種生物分配屬性時(shí)，忘記給予人類一種天生的屬性，因他的這一“遺忘”導(dǎo)致人類在生物種系中存在天生的“原始性缺陷”。為了彌補(bǔ)人類的這種“缺陷”，不得不借助于外部的義肢裝備實(shí)現(xiàn)存在，以此彌補(bǔ)自身的天生缺陷[10]。因此，人們發(fā)明了技術(shù)這一東西，使其成為人類的外部義肢。教師作為人類也不例外，其因自身的天然“缺陷”，使其在教育活動(dòng)中需借助一定的技術(shù)彌補(bǔ)不足。在人工智能驅(qū)動(dòng)教育變革的過程中，教師這種天然的“缺陷”往往令其自身淪為技術(shù)性的存在，即人工智能技術(shù)進(jìn)入教育后，則成為教師在教育活動(dòng)中的“代具”，雖然在一定程度上彌補(bǔ)了教師能力的部分缺失，卻也使自身構(gòu)成了人的“存在本身”，從而“逐步替代教師的工作，使教師面臨生存性壓力”[11]。教師的部分職能被人工智能所替代，知識權(quán)威被逐級消減，同時(shí)，人工智能的高效、便捷也會(huì)造成教師的技術(shù)依賴，可能造成教師附庸在技術(shù)之下，使教師的部分工作“將被人工智能代替，這些人失去了工具的意義，在社會(huì)上成了一種無用的存在，淪為‘無用階層’”[12]。

其二，限制學(xué)生的學(xué)習(xí)主體性。人工智能技術(shù)的迅速迭代使學(xué)生在人工智能驅(qū)動(dòng)教育變革的過程中，面臨著被物化和被奴役的風(fēng)險(xiǎn)。當(dāng)智能技術(shù)以新的教育者的角色形態(tài)出現(xiàn)在教育場域時(shí)，學(xué)生與人工智能之間的交互逐漸頻繁，長期以往容易造成“智能”依賴。目前，不少學(xué)生把已有智能產(chǎn)品中的“小愛、小智”等智能系統(tǒng)視作戲玩的對象，倘若“有兩臺分別以學(xué)界泰斗N先生和H先生命名的教育人工智能系統(tǒng)，能夠進(jìn)行深度學(xué)習(xí)，具有自我進(jìn)化機(jī)制，加之真人語音”[13]，學(xué)生該如何擺置？當(dāng)學(xué)生借助這種人工智能系統(tǒng)學(xué)習(xí)時(shí)，內(nèi)心始終具有一種戲玩的心態(tài)，并不會(huì)認(rèn)真思考其傳授的知識內(nèi)容，且與冷冰冰的機(jī)器進(jìn)行交流，并不能讓學(xué)生產(chǎn)生情感上的慰藉，長期以往則會(huì)形成游戲心理，可能會(huì)戲玩“上癮”或沉溺其中。這種智能技術(shù)主導(dǎo)下的技術(shù)陷阱令學(xué)生的生物屬性和作為“人”的主體地位逐漸被超越，學(xué)生學(xué)習(xí)的主動(dòng)性和獨(dú)立思考的能力被削弱，情感表征以及價(jià)值觀被遮蔽甚至割裂，學(xué)生最終被迫成為“類機(jī)器”的存在，這實(shí)質(zhì)上是對教育育人本質(zhì)的僭越。

（二）安全風(fēng)險(xiǎn)：暴露信息隱私

人工智能自身所存在的技術(shù)缺陷不僅會(huì)異化教育主體的角色地位，也會(huì)引發(fā)一系列的安全風(fēng)險(xiǎn)。在其驅(qū)動(dòng)教育變革的實(shí)踐中，教育主體的個(gè)人信息與自身隱私包括行程軌跡、學(xué)業(yè)表現(xiàn)、家庭住址等，被無限放大且隨時(shí)隨處可被收集和獲取，個(gè)人隱私暴露與信息不安全成為人工智能教育發(fā)展中重要的倫理風(fēng)險(xiǎn)問題。

一方面，教育中的隱私邊界逐漸模糊化。在教育活動(dòng)中，人工智能技術(shù)往往與其它智能技術(shù)相結(jié)合，從而引起教育隱私邊界的模糊。如人工智能與大數(shù)據(jù)技術(shù)結(jié)合，就會(huì)形成基于大數(shù)據(jù)驅(qū)動(dòng)的智能化教育代理。這種智能化教育代理過于頻繁的數(shù)據(jù)挖掘使人在教育空間中的存在越來越透明化，教育教學(xué)活動(dòng)過程中所產(chǎn)生的成績、表情、情感、行為、狀態(tài)等方面的個(gè)體數(shù)據(jù)可以輕易被識別。近年來，很多學(xué)校嘗試為學(xué)生穿戴智能設(shè)備、智能校服，在社會(huì)上引發(fā)了強(qiáng)烈熱議。在可穿戴設(shè)備的使用中，由于敏感數(shù)據(jù)的收集、存儲和獲取目前尚缺乏全面系統(tǒng)的監(jiān)管，且很多智能設(shè)備往往由人工智能技術(shù)開發(fā)商自主進(jìn)行，因而社會(huì)外界許多人認(rèn)為這嚴(yán)重侵犯了學(xué)生的隱私。

另一方面，教育中的隱私安全逐漸弱化。形式各異的數(shù)據(jù)技術(shù)全面而詳細(xì)地記錄著教育場域中教育用戶的大量隱私信息，這些信息存在著被泄露、篡改或盜取的可能，用戶個(gè)體的數(shù)據(jù)安全難以得到有效保障。雖然當(dāng)前人工智能的數(shù)據(jù)收集技術(shù)已非常強(qiáng)大，但由于收集標(biāo)準(zhǔn)不統(tǒng)一、相關(guān)數(shù)據(jù)規(guī)范匱乏，加之教育用戶個(gè)體的服務(wù)器安全措施缺位、安全漏洞較多，給部分非法入侵者提供了機(jī)遇，加劇用戶信息泄露的可能性，學(xué)生作為未成熟的群體用戶，其隱私信息的泄露“影響學(xué)生的人身安全和言論自由，并且泄露的靜態(tài)信息會(huì)形成固化標(biāo)簽，有礙于用發(fā)展的眼光看待學(xué)生的成長和變化”[14]，嚴(yán)重威脅了學(xué)生的數(shù)據(jù)安全，也影響了人工智能驅(qū)動(dòng)教育變革的實(shí)踐過程。

（三）算法促逼：異化個(gè)性發(fā)展

前已述及，人工智能驅(qū)動(dòng)教育變革的重要特點(diǎn)之一即是實(shí)現(xiàn)人的“全面發(fā)展”與“個(gè)性發(fā)展”的統(tǒng)一。在某種程度上，“全面發(fā)展”體現(xiàn)學(xué)生發(fā)展的統(tǒng)一性，“個(gè)性發(fā)展”凸顯學(xué)生發(fā)展的獨(dú)特性。盡管人工智能在一定程度上對學(xué)生的發(fā)展發(fā)揮積極影響，但人工智能在教育中搜集學(xué)生發(fā)展的個(gè)人信息、為學(xué)生匹配相應(yīng)的資源等作用均具有獨(dú)特的個(gè)體性特點(diǎn)，以此通過為學(xué)生提供合適的方式促進(jìn)學(xué)生個(gè)體的個(gè)性化發(fā)展。這無疑使學(xué)生受到了人工智能的算法促逼，使其在算法促逼的技術(shù)風(fēng)險(xiǎn)下逐漸按照人工智能所設(shè)定的“發(fā)展方向”前行，從而異化了自身的個(gè)性發(fā)展，影響其發(fā)展的全面性。

首先，人工智能作為一種算法支撐的“技術(shù)范式”，對教育具有強(qiáng)大的自反性力量，這種力量構(gòu)成了對人精神和思維的宰制，異化了人的發(fā)展。隨著人工智能技術(shù)的不斷發(fā)展，算法的持續(xù)優(yōu)化，使其積極地獲得自我的自由和自覺[15]。也就是說，人工智能作為人本質(zhì)力量的表現(xiàn)和延伸，人工智能在教育中的變革性應(yīng)用越廣泛，它對于人的替代性就越深入，其“類人”屬性也就越來越強(qiáng)烈，就會(huì)越來越成為人的身體乃至生命的一部分。而技術(shù)構(gòu)成人的“存在”本身容易造成人對技術(shù)的沉溺，如基于智能算法推送所形成的智能教育設(shè)備依賴，消耗了人的大量時(shí)間和學(xué)習(xí)精力，令人陷入學(xué)習(xí)偏好模式之中而難以對其他事物產(chǎn)生興趣，這種學(xué)習(xí)偏好模式會(huì)使學(xué)生按照算法所推薦的方式進(jìn)行學(xué)習(xí)，從而導(dǎo)致學(xué)生忽視自身真正需求，淪為依賴算法學(xué)習(xí)的機(jī)器。伴隨教育元宇宙熱潮的興起，數(shù)字分身、虛擬交往等逐漸進(jìn)入到教育之中，“虛擬無害、虛擬自愿、虛擬可辨”等原則盡管是從源頭考慮避免人工智能技術(shù)對人的算法控制，但也從側(cè)面反映出技術(shù)對人精神和思維的控制，虛擬交往成癮、虛實(shí)不分等問題則始終存在，久而久之則會(huì)使人的發(fā)展產(chǎn)生異化。

其次，人工智能的算法計(jì)算具有高度量化和簡約性的程序特點(diǎn)，這種特性會(huì)造成人的個(gè)性缺失，也容易導(dǎo)致學(xué)生的同質(zhì)化發(fā)展。當(dāng)前，人工智能被廣泛應(yīng)用于師生之間的行為數(shù)據(jù)計(jì)算，即通過計(jì)算，采用“程序化”的方式設(shè)定教學(xué)過程，灌輸給學(xué)生“程序化”的知識。人工智能能夠“依憑其強(qiáng)大的‘算法’，可以準(zhǔn)確地了解到人有哪些方面的需求，能夠完美地呈現(xiàn)給人想要的和尚未意識到自己想要的一切”[16]。這導(dǎo)致對教育過程和教育主體的過分簡化，從而消解了人對教育產(chǎn)生的“神秘感”，使教育失去了本真價(jià)值和豐富內(nèi)蘊(yùn)。學(xué)生只是按照固定的程序?qū)W習(xí)，降低了獨(dú)立思考、復(fù)雜問題解決的能力和發(fā)展高階思維的權(quán)限。同時(shí)，算法的規(guī)模化使用也進(jìn)一步加劇了教育的“程序化”，使人工智能原本的個(gè)性化學(xué)習(xí)追求變成懸置，學(xué)生之間的同質(zhì)化愈加明顯?？梢?，程序化的教與學(xué)方式會(huì)使教師和學(xué)生被人工智能技術(shù)的算法規(guī)則舒服，從而使教育活動(dòng)猶如“‘普羅克拉斯提斯之床’，逐漸淪為標(biāo)準(zhǔn)化的程序操作，進(jìn)入智能技術(shù)為其打造的程序世界，走向被智能技術(shù)‘圈養(yǎng)’的道路，從而落入尤瓦爾·赫拉利（Yuval Noah Harari）所說的‘神人’設(shè)計(jì)的圈套”[17]。

最后，人工智能在驅(qū)動(dòng)教育變革的過程中，存在技術(shù)導(dǎo)致的偏向和歧視。在教育實(shí)踐中，由于算法計(jì)算的類型和程序較為單一和模式化，這就導(dǎo)致人工智能技術(shù)所表征的教育主體的教育行為數(shù)據(jù)可能并非全是“原始”數(shù)據(jù)，也可能是已經(jīng)過技術(shù)解釋的信息。偏向性的行為數(shù)據(jù)采集有時(shí)難以反映出教育主體真實(shí)的教育教學(xué)狀態(tài)，反而會(huì)固化教育主體的行為選擇，制約主體能力的發(fā)展。

（四）技術(shù)濫用：迷失教育目的

教育作為一項(xiàng)育人善業(yè)，對教育目的即“要培養(yǎng)什么樣的人”的理性追問是其應(yīng)有之義。在人工智能時(shí)代，知識傳授不再是教育奉行的圭臬，增強(qiáng)教育中“人”的關(guān)懷是教育目的的應(yīng)然價(jià)值取向，“教育中的技術(shù)更應(yīng)依托于教育場域，它必須合乎教育的價(jià)值和規(guī)律，才能在教育中持續(xù)發(fā)揮效用”[18]。但現(xiàn)實(shí)中，人工智能技術(shù)的濫用所導(dǎo)致的教育目的偏離與迷失已成為影響育人實(shí)效的主要倫理風(fēng)險(xiǎn)之一。

人工智能技術(shù)是對當(dāng)下教育本質(zhì)的主觀映射，從“技術(shù)負(fù)載價(jià)值”的角度而言，這一技術(shù)在與教育相遇之初，就體現(xiàn)了人的主觀目的?；谒惴ê蛿?shù)據(jù)驅(qū)動(dòng)的人工智能技術(shù)雖在一定程度上滿足了學(xué)生的技術(shù)需要，但對于技術(shù)桎梏的過度依賴造成了教育活動(dòng)中的價(jià)值負(fù)載，使得教師不論在哪個(gè)環(huán)節(jié)、不管需不需要使用技術(shù)，都盲目地使用人工智能技術(shù)，導(dǎo)致原本“個(gè)性化教學(xué)”的教育目標(biāo)越來越流于形式，以流程化的方式培育“數(shù)據(jù)化”的人無形中越來越成為人工智能變革教育的隱性目標(biāo)。這背離了人的自由全面發(fā)展的根本旨?xì)w，致使人的心靈、精神以及情感等人文價(jià)值被排斥在教育目的之外，促逼教師將人的發(fā)展“交給技術(shù)制造去處理”[19]，從而導(dǎo)致教育目的在技術(shù)濫用中的迷失。

此外，人工智能技術(shù)在教育中的濫用將教育活動(dòng)私人化，學(xué)生在情感匱乏的網(wǎng)絡(luò)空間中孤獨(dú)地認(rèn)知而難以得到情感的浸潤。通過數(shù)據(jù)分析，人工智能為學(xué)生打上一個(gè)個(gè)“人格標(biāo)簽”，其與教育的融合在一定程度上忽視了人在精神、情感等層面的價(jià)值實(shí)現(xiàn)，造成教育目的偏離了以人為本的價(jià)值軌道，教學(xué)過程變成追逐技術(shù)效率的過程，學(xué)校成為了訓(xùn)練知識技能的、技術(shù)化的“育人工廠”，甚至學(xué)校中的教育無法看到“人”的存在，為人工智能驅(qū)動(dòng)教育變革帶來了巨大挑戰(zhàn)。

四、解蔽：人工智能驅(qū)動(dòng)教育變革倫理風(fēng)險(xiǎn)的規(guī)避路徑

人工智能驅(qū)動(dòng)教育變革的倫理風(fēng)險(xiǎn)所引發(fā)的問題不會(huì)僅停留在技術(shù)層面，而是將會(huì)引發(fā)教育中價(jià)值導(dǎo)向等層面的危機(jī)，甚至可能會(huì)給教育帶來難以估量的消極影響。同時(shí)，教育的復(fù)雜性和特殊性也決定了正確應(yīng)對人工智能驅(qū)動(dòng)教育變革倫理風(fēng)險(xiǎn)的必要性和緊迫性。從價(jià)值理念、倫理體系、倫理準(zhǔn)則、倫理意識四層面審思和透析人工智能驅(qū)動(dòng)教育變革的倫理風(fēng)險(xiǎn)背后的種種機(jī)理、解蔽技術(shù)驅(qū)動(dòng)教育變革的實(shí)踐路向，是助推“人工智能+教育”理性蛻變的基礎(chǔ)和前提。

（一）回歸以人為本的價(jià)值理念，強(qiáng)化教育主體地位

明確的價(jià)值理念導(dǎo)向是技術(shù)變革教育的意識前提與行動(dòng)先導(dǎo)。人工智能對教育變革的本質(zhì)性影響就在于傳統(tǒng)教育思維模式與價(jià)值認(rèn)知的轉(zhuǎn)變，技術(shù)倒逼教育創(chuàng)新的這一過程如何處理好“人”與技術(shù)之間的關(guān)系事關(guān)人工智能變革教育發(fā)展的全局。從教育的本質(zhì)而言，教育是“為人”的教育，充分消除“技術(shù)理性對教育的宰制，化解由技術(shù)理性和價(jià)值理性之間的錯(cuò)位而導(dǎo)致的人之‘缺失’”[20]，促進(jìn)人更自由而全面地發(fā)展是技術(shù)變革教育應(yīng)然的價(jià)值指向。人工智能時(shí)代，“使人成為他自己”，令人活得更有意義、自由和尊嚴(yán)，理應(yīng)成為重要的教育理念轉(zhuǎn)向[21]。當(dāng)前人工智能應(yīng)用根本性的倫理風(fēng)險(xiǎn)就在于，技術(shù)裹挾下的工具理性對價(jià)值理性的僭越導(dǎo)致的主體性倫理問題，破解這一風(fēng)險(xiǎn)則需要反思傳統(tǒng)的技術(shù)思維，以一種全新的價(jià)值觀念重新審思人工智能在教育應(yīng)用中的應(yīng)然之態(tài)。在人工智能驅(qū)動(dòng)教育變革的過程中，要堅(jiān)持育人為本、技術(shù)為用的根本價(jià)值導(dǎo)向，審慎把握人工智能技術(shù)植入的“度”，避免技術(shù)壁壘、技術(shù)僭越所帶來的主體消退風(fēng)險(xiǎn)。唯有合理把握智能技術(shù)與教育結(jié)合過程中的價(jià)值平衡，進(jìn)一步強(qiáng)化教育主體地位，才能令技術(shù)存在合乎教育育人的價(jià)值和規(guī)律，最終實(shí)現(xiàn)人工智能技術(shù)與育人之唯的耦合。

一是要凸顯人本價(jià)值，推動(dòng)人工智能技術(shù)輸入從“外部植入”轉(zhuǎn)向“內(nèi)部生發(fā)”?！凹夹g(shù)從外部侵入教育是危機(jī)，從內(nèi)部生發(fā)則是契機(jī)”[22]。以智能技術(shù)倒逼教育創(chuàng)新既不足以支撐其在教育場域中的效用發(fā)揮，也不符合育人為本的價(jià)值追求，因而，人工智能技術(shù)在教育中的變革性運(yùn)用不應(yīng)采取被動(dòng)適應(yīng)和盲目迎合的態(tài)度。無論是教育目標(biāo)的制定還是教學(xué)理念的構(gòu)建，都應(yīng)該遵循以人為本的價(jià)值指向，深刻嵌入教育主體的個(gè)體生命需求，令教育積極主動(dòng)選擇“自在”的技術(shù)，避免因技術(shù)僭越、機(jī)器主導(dǎo)人的意識而被動(dòng)適應(yīng)“自由”的技術(shù)。

二是要張揚(yáng)價(jià)值理性，推進(jìn)人工智能技術(shù)輸出從“追求數(shù)據(jù)效率”轉(zhuǎn)向“育人效應(yīng)”。人工智能技術(shù)在教育中的變革性應(yīng)用能夠幫助教育主體在短時(shí)間內(nèi)完成更多任務(wù)、實(shí)現(xiàn)高效率教學(xué)。這一作用是人工智能在技術(shù)輸出上應(yīng)當(dāng)實(shí)現(xiàn)的重要“效率”標(biāo)準(zhǔn)，但不應(yīng)再是唯一的價(jià)值標(biāo)準(zhǔn)，提升教育主體作為“人”的生命質(zhì)量才應(yīng)該成為其深層次的技術(shù)邏輯。在人工智能技術(shù)的輸出中，對于技術(shù)的考量應(yīng)在致力教育問題解決的同時(shí)，超越智能技術(shù)作為器具的功用性理解，將教育主體“人”的生命發(fā)展置于一切教育活動(dòng)開展的核心目標(biāo)，以人的意識的回歸、個(gè)體潛能的開發(fā)和生命質(zhì)量提升作為自身發(fā)展的最終評價(jià)指標(biāo)，以此讓“教育活動(dòng)的邏輯真正回到人自身，使教學(xué)主體真正地完全體現(xiàn)和發(fā)揮自身的主體性”[23]，從而實(shí)現(xiàn)“器物之美”與“成人之美”的相統(tǒng)一，切實(shí)提高技術(shù)為賦能教育變革的深層“效益”。

（二）建立依法規(guī)約的倫理體系，加強(qiáng)信息安全管理

邁克·波蘭尼認(rèn)為：“人類知道的遠(yuǎn)比其能表達(dá)出來的更多”[24]。人類長期思考所表達(dá)出來的只不過是冰山一角，更何況是人工智能為基礎(chǔ)的技術(shù)呢。這就需要在人工智能驅(qū)動(dòng)教育變革時(shí)，建立依法規(guī)約的倫理體系，通過倫理體系強(qiáng)化人工智能驅(qū)動(dòng)教育變革的安全性。為此，應(yīng)在順應(yīng)育人為本價(jià)值理念的前提基礎(chǔ)上，綜合考慮人工智能驅(qū)動(dòng)教育變革的實(shí)踐需要，加強(qiáng)對人工智能技術(shù)應(yīng)用的信息安全管理。倫理體系的構(gòu)建不是一蹴而就的，需要至上而下層層推進(jìn)。作為具有較強(qiáng)技術(shù)性的系統(tǒng)工程，人工智能倫理體系的構(gòu)建應(yīng)從以下三方面著手。

首先，構(gòu)建人工智能變革教育的安全準(zhǔn)則。需要在人工智能技術(shù)應(yīng)用于教育領(lǐng)域時(shí)，提前干預(yù)人工智能應(yīng)用開發(fā)框架，將信息安全規(guī)約嵌入相關(guān)產(chǎn)品和應(yīng)用之中。通常來說，人的個(gè)人信息一旦被曝光或者侵害，就很難再通過種種事后手段進(jìn)行解救或者彌補(bǔ)。因此就要預(yù)先令人工智能技術(shù)的開發(fā)商與其他相關(guān)利益主體建立人工智能技術(shù)委員會(huì)，讓信息安全的準(zhǔn)則要求為其所知并主動(dòng)作為根本性的原則要求來對待。在設(shè)計(jì)、開發(fā)和應(yīng)用人工智能教育產(chǎn)品的各個(gè)環(huán)節(jié)都需要切實(shí)嵌入信息安全的算法準(zhǔn)則和細(xì)項(xiàng)要求。如2018年歐盟的《一般數(shù)據(jù)保護(hù)條例》（GDPR）中就對信息的主體者、保護(hù)者和處理者等的信息權(quán)利和責(zé)任進(jìn)行了界定，并規(guī)定了相應(yīng)的倫理紅線和原則[25]。

其次，構(gòu)建人工智能變革教育的信息安全預(yù)警機(jī)制。具有主動(dòng)識別性的信息安全機(jī)制的建立有助于及時(shí)發(fā)掘人工智能技術(shù)應(yīng)用中的信息安全隱患，有效規(guī)避教育主體、教育管理者的信息泄露風(fēng)險(xiǎn)。學(xué)校等育人場所應(yīng)與人工智能技術(shù)的開發(fā)應(yīng)用商達(dá)成信息安全預(yù)防的強(qiáng)烈共識，并建立透明化的信息安全協(xié)議。同時(shí)，還可建立負(fù)責(zé)檢測信息數(shù)據(jù)隱私風(fēng)險(xiǎn)的專員管理制度，設(shè)立信息安全管理的專業(yè)職位，對信息安全管理人員的個(gè)人數(shù)據(jù)素養(yǎng)包括數(shù)據(jù)保護(hù)意識、信息安全法律素養(yǎng)等進(jìn)行專項(xiàng)培訓(xùn)與指導(dǎo)，確保信息安全的有效管理。

最后，完善人工智能變革教育應(yīng)用的安全督查程序。國家層面應(yīng)嚴(yán)格審批人工智能在教育中的應(yīng)用是否具有清晰的信息安全倫理規(guī)范，在此過程中對人工智能賦能教育變革的利益取向予以嚴(yán)格把控，確保信息安全倫理規(guī)范不被利益所趨害。教育管理者需明確自身責(zé)任，為人工智能變革教育營造良好的內(nèi)部環(huán)境。師生作為課堂學(xué)習(xí)的主體，需要自覺轉(zhuǎn)變自身角色，恪守好信息安全倫理規(guī)范并及時(shí)防范可能的風(fēng)險(xiǎn)。由此建立自上而下的信息安全倫理執(zhí)行和貫徹體系，為人工智能變革教育提供系統(tǒng)、全面的安全保障。

（三）遵循算法使用的倫理準(zhǔn)則，促進(jìn)個(gè)體生命發(fā)展

人工智能技術(shù)的迭代更新速度日益加快，算法所帶來的教育倫理風(fēng)險(xiǎn)也會(huì)面臨放大或擴(kuò)充的困境，秉承個(gè)體生命發(fā)展至上的倫理準(zhǔn)則是解蔽當(dāng)前人工智能技術(shù)算法陷阱的重中之重。遵循好算法使用的這一倫理準(zhǔn)則，建立合乎個(gè)體生命發(fā)展與生命意義實(shí)現(xiàn)的算法倫理、促逼算法從善，能夠有效保持人工智能算法技術(shù)在教育領(lǐng)域中的審慎使用，規(guī)避算法引發(fā)的種種教育風(fēng)險(xiǎn)，最大程度發(fā)揮人工智能算法技術(shù)對教育的優(yōu)質(zhì)功效。

一方面，形成相應(yīng)的技術(shù)規(guī)范和倫理標(biāo)準(zhǔn)，積極尋求算法使用與社會(huì)倫理規(guī)范的契合。為此，要優(yōu)化算法設(shè)計(jì)，以生命至上的倫理導(dǎo)向引領(lǐng)人工智能在教育中的深入應(yīng)用。在此過程中，不僅要堅(jiān)持算法倫理先于算法技術(shù)的原則，在創(chuàng)制和使用人工智能技術(shù)及機(jī)器時(shí)，需要設(shè)定好確定性的算法使用的倫理準(zhǔn)則，避免技術(shù)僭越導(dǎo)致的包括算法黑箱、算法歧視等損害個(gè)體生命發(fā)展的風(fēng)險(xiǎn)；還要堅(jiān)持個(gè)體先于算法的原則，確保人工智能算法技術(shù)應(yīng)用中人的主體性，構(gòu)建以人為中心的智能技術(shù)算法倫理，以精神、情感等多方面的自由發(fā)展作為人工智能算法設(shè)計(jì)的基本原則。嚴(yán)厲禁止算法程序當(dāng)中的傷人漏洞，堅(jiān)決不允許人工智能技術(shù)損害教育中“人”的個(gè)體生命發(fā)展，以此發(fā)揮好人工智能對教育變革的深層驅(qū)動(dòng)作用。

另一方面，減少算法偏見，堅(jiān)守好教育的生命立場，將關(guān)注個(gè)體生命發(fā)展融入算法設(shè)計(jì)和使用的全過程。無論是何種算法技術(shù)，都需要對龐大的網(wǎng)絡(luò)信息進(jìn)行標(biāo)簽劃分和甄別挑選后才予以推送，如果算法技術(shù)單純以用戶的個(gè)體喜好為依據(jù)，會(huì)導(dǎo)致算法“推薦池”陷入數(shù)據(jù)偏好的陷阱之中。在使用算法時(shí)，既要關(guān)注和推送個(gè)體感興趣的信息，也要提高對個(gè)體生命發(fā)展有重要價(jià)值的信息推送權(quán)重比例，從而關(guān)注個(gè)體生命的發(fā)展，促進(jìn)個(gè)體生命在教育活動(dòng)中的豐盈，使個(gè)體發(fā)展與人工智能變革教育充分融合，進(jìn)而平衡人工智能變革教育活動(dòng)過程中的工具理性與價(jià)值理性立場。

（四）內(nèi)化德性為先的倫理意識，健全技術(shù)變革邊界

德性即教育者所擁有和踐行自主追求教育實(shí)踐內(nèi)在利益的個(gè)體品質(zhì)和精神動(dòng)能，表現(xiàn)為對教育中真、善、美的向往[26]。人工智能變革教育的倫理風(fēng)險(xiǎn)既要依賴公共理性推進(jìn)技術(shù)在教育實(shí)踐中的“善法”和“善治”，也需要運(yùn)用教育者的個(gè)體德性之善促進(jìn)人工智能技術(shù)在教育實(shí)踐中的“善用”和“善為”，唯有如此，才能從根本上健全技術(shù)變革的邊界，發(fā)揮人工智能變革教育的最大效用。

一方面，教育者應(yīng)理性把握技術(shù)尺度，將此轉(zhuǎn)化為自身向善的教學(xué)倫理和個(gè)體德性，推動(dòng)技術(shù)變革的邊界從“游離”走向“明晰”。人工智能技術(shù)運(yùn)用的尺度應(yīng)以教育對象的生命尺度為邊界，教育對象的個(gè)體生命尺度即是技術(shù)運(yùn)用的尺度，一旦游離于生命與個(gè)體的邊界之外，則會(huì)造成技術(shù)的異化和作為人的主體價(jià)值的迷失。法國技術(shù)哲學(xué)家雅克思·埃呂爾（Jacques Ellul）指出：人在技術(shù)的使用過程中，可形成以“界限”為邊界的倫理力量，這種倫理力量在一定程度上可限制自身使用技術(shù)的過程，即通過“界限”的倫理力量選擇是否要使用技術(shù)。可見，人工智能技術(shù)推動(dòng)教育變革時(shí)，教育者就應(yīng)當(dāng)以“界限”作為生命的邊界和尺度，使其成為人工智能技術(shù)變革教育的根本性倫理準(zhǔn)則，從而推動(dòng)教育者主動(dòng)擁抱那些能夠真實(shí)拓展個(gè)體生命空間、豐實(shí)個(gè)體精神世界以及能夠真正彰顯教育育人本質(zhì)的“正向”技術(shù)，抵制以犧牲個(gè)體生命發(fā)展和教育實(shí)踐內(nèi)在利益為代價(jià)的“負(fù)向”技術(shù)運(yùn)用，以此通過適度、適當(dāng)?shù)乩萌斯ぶ悄芗夹g(shù)促進(jìn)教育發(fā)展。

另一方面，教育者在技術(shù)運(yùn)用的過程中應(yīng)自覺體認(rèn)，推動(dòng)技術(shù)與教育規(guī)律的耦合性。教育者作為人工智能變革教育的重要主體，自身必須自覺意識到人工智能技術(shù)對教育變革的重要性和必然性，不斷提高自身對于人工智能技術(shù)的身份認(rèn)同和價(jià)值認(rèn)同。同時(shí)，在運(yùn)用人工智能技術(shù)輔助開展教育活動(dòng)時(shí)，提升自身的技術(shù)敏感性，不斷基于教育發(fā)展的規(guī)律來把握和調(diào)整技術(shù)運(yùn)用的形式、手段、程度和邊界，避免因盲目從眾追逐技術(shù)大潮而令技術(shù)脫節(jié)于教育實(shí)踐內(nèi)在利益需要。

隨著人工智能在教育中應(yīng)用的深化，“負(fù)責(zé)任的人工智能”應(yīng)用已成為學(xué)界的基本共識[27]。而主體風(fēng)險(xiǎn)、安全風(fēng)險(xiǎn)、算法風(fēng)險(xiǎn)和技術(shù)濫用的四重風(fēng)險(xiǎn)揭示了人工智能在“負(fù)責(zé)任”道路上的任重道遠(yuǎn)，以人本理念、倫理體系、倫理規(guī)則和倫理意識解蔽四重風(fēng)險(xiǎn)，有利于推動(dòng)人工智能驅(qū)動(dòng)教育變革的進(jìn)路。實(shí)際上，伴隨著人工智能的發(fā)展，生成式人工智能的出現(xiàn)對其驅(qū)動(dòng)教育變革的倫理向度可能產(chǎn)生了新的困境，而解決技術(shù)對教育變革帶來的影響最終還要回歸到技術(shù)本身，緊跟技術(shù)發(fā)展和迭代思考其驅(qū)動(dòng)教育變革的倫理風(fēng)險(xiǎn)，才能更好地讓技術(shù)為人類服務(wù)，為教育服務(wù)，避免技術(shù)自身對服務(wù)對象的僭越。

參考文獻(xiàn)：

[1] 唐漢衛(wèi).人工智能時(shí)代教育將如何存在[J].教育研究，2018，（11）：18-24.

[2] 厲曉婷，王傳領(lǐng).人工智能時(shí)代用戶媒介素養(yǎng)的養(yǎng)成：機(jī)遇、挑戰(zhàn)及應(yīng)對策略[J].中國編輯，2023，（9）：1-5.

[3] 李會(huì)春.ChatGPT技術(shù)熱潮下教育變革的挑戰(zhàn)和對策[J].復(fù)旦教育論壇，2023，（2）：13-23.

[4] 朱旭東，李秀云.論兒童全面發(fā)展概念的多學(xué)科內(nèi)涵建構(gòu)[J].華東師范大學(xué)學(xué)報(bào)（教育科學(xué)版），2022，（2）：1-16.

[5] 扈中平.“人的全面發(fā)展”內(nèi)涵新析[J].教育研究，2005，（5）：3-8.

[6] 顏士剛，王麗蕊.從“雙重變奏”到“良性互動(dòng)”：教育領(lǐng)域技術(shù)倫理沖突的本質(zhì)與調(diào)適[J].現(xiàn)代遠(yuǎn)程教育研究，2022，（6）：24-33.

[7] 周輔成.西方倫理學(xué)名著選輯（上卷）[M].北京：商務(wù)印書館，1964.193.

[8] 蔣潔.風(fēng)險(xiǎn)視域下人工智能倫理的主旨和原則[J].信息通信技術(shù)與政策，2019，（6）：13-16.

[9][16] 陳愛華.高技術(shù)的倫理風(fēng)險(xiǎn)及其應(yīng)對[J].倫理學(xué)研究，2006，（4）：95-99.

[10][21] [法]斯蒂格勒.裴程譯.技術(shù)與實(shí)踐：第1卷[M].南京：譯林出版社，2000.

[11] 陳濤，韓茜.教育場域中技術(shù)焦慮的形成機(jī)理及治理路向——基于馬克思“人與機(jī)器”思想的時(shí)代闡釋[J].重慶高教研究，2023，（1）：46-60.

[12] 于澤元，那明明.人工智能時(shí)代教育目的的轉(zhuǎn)向[J].中國電化教育，2022， （1）：66-72.

[13] 李子運(yùn).人工智能賦能教育的倫理思考[J].中國電化教育，2021，（11）：39-45.

[14] 李青，李瑩瑩.大數(shù)據(jù)時(shí)代學(xué)習(xí)者隱私保護(hù)問題及策略[J].中國遠(yuǎn)程教育，2018，（1）：29-36.

[15] [美]巴特拉.閭佳譯.我們最后的發(fā)明[M].北京：電子工業(yè)出版社，2016.15.

[17] 張家軍，閆君子.“道”“器”融合：教師減負(fù)的技術(shù)旨?xì)w與實(shí)現(xiàn)路徑[J].中國電化教育，2022，（12）：18-73+83.

[18] 孫田琳子，沈書生.論人工智能的教育尺度——來自德雷福斯的現(xiàn)象學(xué)反思[J].中國電化教育，2019，（11）：60-65+90.

[19] [德]馬丁·海德格爾.孫周興譯.海德格爾選集（上）[M].上海：上海三聯(lián)書店，1999.135.

[20] 董云川，韋玲.人工智能促進(jìn)高等教育發(fā)展的倫理糾偏[J].重慶高教研究，2021，（2）：51-58.

[22] 朱德全，許麗麗.技術(shù)與生命之維的耦合：未來教育旨?xì)w[J].中國電化教育，2019，（9）：1-6.

[23] 王天平.教學(xué)活動(dòng)論[M].北京：人民教育出版社，2019.115.

[24] Polanyi，M.The Tacit Dimension [M].Chicago：University of Chicago Press，2009.15.

[25] EU.General data protection regulation [EB/OL].https：//gdpr-info. eu/，2018-05-25.

[26] 宋曄.教師德性的理性思考[J].教育研究，2005，（8）：48-52.

[27] 何祎金.生成式人工智能技術(shù)治理的三重困境與應(yīng)對[J].北京工業(yè)大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2024，（1）：12-20.

作者簡介：

郭顥：副研究員，碩士，研究方向?yàn)榛A(chǔ)教育信息化。

江楠：講師，碩士，研究方向?yàn)榻逃畔⒒⒔逃郎y量與評價(jià)。

江宏：研究員，學(xué)士，研究生導(dǎo)師，考試與評價(jià)研究中心主任，研究方向?yàn)槿斯ぶ悄堋⒖荚嚺c評價(jià)、課程與教學(xué)論。

劉忠驊：正高級教師，學(xué)士，研究生導(dǎo)師，研究方向?yàn)槿斯ぶ悄?、教育測量與評價(jià)。

鄧輝映：中學(xué)高級教師，學(xué)士，研究方向?yàn)榛A(chǔ)教育。

The Ethical Risks of AI-Driver Educational Reform and the Ways to De-risk Them

Guo Hao1， Jiang Nan2， Jiang Hong3， Liu Zhonghua4， Deng Huiying3

1.Heilongjiang Institute of Teacher Development， Harbin 150080， Heilongjiang 2.Chongqing University of Education， Chongqing 400065 3.Chongqing Academy of Education Science， Chongqing 400015 4.Chongqing NO.8 Secondary School， Chongqing 400030

Abstract： Artificial Intelligence-driven education reform brings double impact on education， making opportunities and risks coexist in education. Although artificial intelligence technology brings strong advantages to education， with the enhancement of technological dimension and the intervention of instrumental rational thinking， this process also faces different dimensions of ethical risks. The ethical risks of AIdriven educational reform are mainly manifested in four aspects： subject risk， security risk， algorithm risk and technology abuse. To solve the four risks of artificial intelligence and promote the value realization of artificial intelligence technology in education reform， it is necessary to return to the people-oriented value concept and strengthen the subject position of education. Establish an ethical system according to law and strengthen information security management； Follow the ethical guidelines used by the algorithm to promote the development of individual life； Internalize the ethical consciousness of virtue first and perfect the boundary of technological change.

Keywords： Artificial Intelligence； educational reform； ethical risk； De-risk.

責(zé)任編輯：李雅瑄