人工智能教育應(yīng)用的倫理風(fēng)險(xiǎn)研究

（ 揚(yáng)州大學(xué)新聞與傳媒學(xué)院 225000）

新一代人工智能技術(shù)的飛速發(fā)展正在引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革，引發(fā)和重構(gòu)新的行業(yè)結(jié)構(gòu)和行業(yè)形態(tài)。教育是促進(jìn)人類文明發(fā)展的重要領(lǐng)域，人工智能技術(shù)在教育中的應(yīng)用正在推動(dòng)互聯(lián)網(wǎng)教育進(jìn)入“人工智能+教育”的高級(jí)階段。然而，利用人工智能技術(shù)推動(dòng)教育發(fā)展的同時(shí)，也產(chǎn)生了一系列倫理問(wèn)題，如削弱教師地位、侵犯學(xué)生自由、加大教育不平等、對(duì)教育正向價(jià)值的壓制、對(duì)教育育人價(jià)值的僭越。華東師范大學(xué)唐漢衛(wèi)教授認(rèn)為，人工智能的深入運(yùn)用將在本體意義上動(dòng)搖我們?cè)械膶?duì)教育的理解、批判和追求，從而產(chǎn)生前所未有的困惑和焦慮。本文圍繞人工智能與教育的深度融合，從倫理學(xué)的視角下審視人工智能對(duì)教育的影響，讓人工智能的應(yīng)用回歸教育本質(zhì)，讓技術(shù)運(yùn)行在符合教育規(guī)律和人認(rèn)知規(guī)律的軌道上。

一、人工智能教育應(yīng)用的含義及合理性

張坤穎等認(rèn)為只有當(dāng)人工智能輔助于教育應(yīng)用、建構(gòu)教育場(chǎng)景、重組教育中的要素或者重構(gòu)教育過(guò)程時(shí)，才屬于人工智能的教育應(yīng)用。從目標(biāo)來(lái)看，人工智能教育應(yīng)用以“育人”為最終目標(biāo)；從過(guò)程來(lái)看，人工智能教育應(yīng)用于課堂教學(xué)、學(xué)校管理、家校合作等方面；從結(jié)果來(lái)看，人工智能教育應(yīng)用實(shí)現(xiàn)了教育教學(xué)、學(xué)校管理方面的最優(yōu)化。由此可見(jiàn)，人工智能的教育應(yīng)用是人工智能與教育深度融合的產(chǎn)物。

在對(duì)人工智能教育應(yīng)用進(jìn)行倫理反思之前，需要先確認(rèn)人工智能在教育中的應(yīng)用是否具有合理性，其依據(jù)是：合乎教育自身的發(fā)展規(guī)律。首先，了解學(xué)生的真實(shí)發(fā)展水平是教育活動(dòng)開(kāi)展的前提，人工智能可以捕捉到學(xué)習(xí)者不同時(shí)間、不同地點(diǎn)的各種數(shù)據(jù)，包括面部表情、動(dòng)作、情緒等。與傳統(tǒng)教師依靠自身觀察、他人評(píng)價(jià)、傳統(tǒng)紙筆測(cè)驗(yàn)等方式相比，人工智能更能了解學(xué)生的真實(shí)發(fā)展水平；其次，尊重個(gè)性是教育的內(nèi)在要求。傳統(tǒng)教學(xué)很難為學(xué)生提供個(gè)性化服務(wù)，而人工智能的精準(zhǔn)預(yù)測(cè)使得學(xué)生的個(gè)性化發(fā)展成為可能；最后，人工智能應(yīng)用于教育使得學(xué)習(xí)打破了時(shí)空的限制，教師也可以隨時(shí)查看學(xué)生發(fā)展?fàn)顟B(tài)并及時(shí)做出干預(yù)。與此同時(shí)，家庭、學(xué)校和社會(huì)的聯(lián)系也更加緊密、教育合力不斷增強(qiáng)。

二、人工智能教育應(yīng)用產(chǎn)生倫理風(fēng)險(xiǎn)的原因分析

（一）人工智能自身的因素

人工智能教育應(yīng)用依賴于教育大數(shù)據(jù)、算法和機(jī)器學(xué)習(xí)，人們通常認(rèn)為人工智能因?yàn)闆](méi)有人為因素的介入而趨向公平。但在實(shí)踐過(guò)程中，人工智能的偏見(jiàn)或歧視卻屢見(jiàn)不鮮，如微軟公司的聊天機(jī)器人Tay在發(fā)布24小時(shí)以后就開(kāi)始變得具有種族歧視和厭惡女性。

人工智能存在偏見(jiàn)的主要原因在于算法和數(shù)據(jù)。算法是人工智能的核心要素，雖數(shù)字符號(hào)是中立的，但如果算法設(shè)計(jì)者自身抱有偏見(jiàn)，就有可能將這些偏見(jiàn)嵌入算法系統(tǒng)。另外，算法決策的基本原理是“以過(guò)去的數(shù)據(jù)預(yù)測(cè)未來(lái)的趨勢(shì)”。而教育數(shù)據(jù)存在兩個(gè)方面的問(wèn)題：一是教育數(shù)據(jù)的全面性，二是教育數(shù)據(jù)的真實(shí)性。然而，要獲取教育領(lǐng)域的全部數(shù)據(jù)卻是一大妄想。教育是培養(yǎng)人的社會(huì)活動(dòng)，我們可以利用技術(shù)收集人的行為、語(yǔ)言的變化卻無(wú)法對(duì)人的價(jià)值觀念、思維方式的變化進(jìn)行數(shù)據(jù)化處理。教育的社會(huì)性使得教育數(shù)據(jù)與其他領(lǐng)域的數(shù)據(jù)總有著千絲萬(wàn)縷的聯(lián)系，我們無(wú)法清晰的界定哪些是教育領(lǐng)域的數(shù)據(jù)。教育數(shù)據(jù)來(lái)源的多元化，也使得教育數(shù)據(jù)承載的價(jià)值既包含正向也包含負(fù)向。

（二）人工智能使用者的因素

人工智能應(yīng)用于教育，其使用者為教師和學(xué)生，本文主要從教師和學(xué)生對(duì)人工智能的認(rèn)可度以及能力素養(yǎng)兩個(gè)方面進(jìn)行分析。

教師和學(xué)生對(duì)人工智能的認(rèn)可度直接影響了人工智能在教育中的使用情況。當(dāng)前，人們對(duì)人工智能的認(rèn)識(shí)存在兩種極化：既有對(duì)人工智能的全盤肯定，也有對(duì)人工智能的全盤否定。這種理性認(rèn)識(shí)的不足在一定程度上滋生了人工智能教育應(yīng)用的倫理問(wèn)題。此外，教師和學(xué)生倫理意識(shí)不足也是導(dǎo)致人工智能教育倫理的原因之一，如缺乏隱私的保護(hù)意識(shí)。

人工智能教育應(yīng)用對(duì)教師的專業(yè)水平提出了更高的要求，不僅需要教師具備傳統(tǒng)的教育教學(xué)知識(shí)，還不要具備人工智能方面的知識(shí)以及掌握設(shè)計(jì)開(kāi)發(fā)數(shù)字化學(xué)習(xí)資源的技能。但目前的師范類教育以及教師在職培訓(xùn)，不管是理論層面還是操作層面都很少涉及有關(guān)人工智能方面的知識(shí)，教師職業(yè)素養(yǎng)與人工智能的沖突，也成為人工智能教育應(yīng)用倫理問(wèn)題出現(xiàn)的一個(gè)原因。

（三）法律制度的因素

人工智能在教育中應(yīng)用必然會(huì)出現(xiàn)一些在傳統(tǒng)教育中從未出現(xiàn)的問(wèn)題，為了維護(hù)人類的基本權(quán)利以及規(guī)范人工智能在教育中的應(yīng)用，需要制定相關(guān)的法律法規(guī)、建立各類管理機(jī)構(gòu)，以引導(dǎo)和監(jiān)督人工智能在教育教學(xué)、教育管理等各環(huán)節(jié)的規(guī)范運(yùn)行。在制度方面，我國(guó)尚未建立一套完善的與人工智能教育相關(guān)的制度。制度的建設(shè)也是一個(gè)長(zhǎng)期而復(fù)雜的過(guò)程，且需要國(guó)家相關(guān)部門、教育行業(yè)及相關(guān)領(lǐng)域與相關(guān)單位三層共同制定，而這期間又會(huì)不斷出現(xiàn)新的問(wèn)題，制度建設(shè)的滯后性導(dǎo)致了對(duì)人工智能教育應(yīng)用約束力不足。

三、人工智能教育應(yīng)用倫理風(fēng)險(xiǎn)的具體表現(xiàn)

（一）人工智能教育應(yīng)用對(duì)使用者主體性的削弱

1.削弱教師地位

目前，國(guó)內(nèi)外學(xué)者在機(jī)器人替代勞動(dòng)力研究方面都得出了比較一致的結(jié)論，即機(jī)器人的出現(xiàn)會(huì)替代某些職業(yè)或者某些任務(wù)。教師這一職業(yè)是否會(huì)消失眾說(shuō)紛紜，有學(xué)者認(rèn)為，傳統(tǒng)意義上的教師已無(wú)存在的必要。也有學(xué)者認(rèn)為，無(wú)論人工智能發(fā)展到何種程度，教師始終“在場(chǎng)”?？梢源_定的是：將人工智能應(yīng)用于教育領(lǐng)域，教師已不再高枕無(wú)憂。

當(dāng)前的教育人工智能可以幫助教師完成一些重復(fù)或輔助性的工作，未來(lái)教育人工智能還可能承擔(dān)更多的工作。因此，教育人工智能投入使用量增加的同時(shí)教師的失業(yè)率也隨之增加。楊緒輝等認(rèn)為大腦的生理局限使得信息化時(shí)代的老師是一種“缺陷”的存在，必需要借助外在代具來(lái)構(gòu)建自身的完整。教師在借助人工智能的過(guò)程中稍有不慎就會(huì)變相成為人工智能的附庸，從而導(dǎo)致教師地位下降。

2.侵犯學(xué)生自由

人工智能教育應(yīng)用需要對(duì)學(xué)生的學(xué)習(xí)過(guò)程進(jìn)行全面跟蹤、記錄，學(xué)生如同進(jìn)入一座“全景式監(jiān)獄”。在此不難發(fā)現(xiàn)，學(xué)生之所以能享受人工智能提供的便利是以隱私泄露為代價(jià)的。也許收集學(xué)生生活和學(xué)習(xí)數(shù)據(jù)的初衷是為了提供更好的精準(zhǔn)化服務(wù)，但數(shù)據(jù)不會(huì)遺忘，將那些在學(xué)生未成熟的情況下作出的欠妥的行為全盤記錄下來(lái)，很可能會(huì)給學(xué)生貼上某種具有暗示意味的“標(biāo)簽”從而影響學(xué)生的入學(xué)或求職。這不可避免的損失了學(xué)生的人格尊嚴(yán)，限制了學(xué)生的自由。

人工智能能夠?qū)W(xué)生的后續(xù)發(fā)展進(jìn)行趨勢(shì)預(yù)測(cè)，教師可以根據(jù)預(yù)測(cè)的結(jié)果進(jìn)行及時(shí)干預(yù)，從而保證更好的教育效果。但這種預(yù)測(cè)會(huì)剝奪學(xué)生自由選擇的權(quán)利，尤其隨著預(yù)測(cè)精準(zhǔn)度的不斷提高，人們對(duì)預(yù)測(cè)信任感的不斷增強(qiáng)，學(xué)生可能再也無(wú)法根據(jù)自己的意愿作出選擇，這種預(yù)測(cè)對(duì)學(xué)生的學(xué)業(yè)反而成了一種禁錮。

（二）人工智能教育應(yīng)用對(duì)教育的沖擊

1.加大教育不平等

人工智能應(yīng)用于教育旨在實(shí)現(xiàn)更高效的資源配置，有效提升教育質(zhì)量并促進(jìn)教育公平。如慕課（MOOC）被看作是全球課堂的雛形，但是這種教育資源并非均勻的在不同地區(qū)中“擴(kuò)散”，特別是在教育數(shù)據(jù)的獲取方面，不同教育系統(tǒng)、平臺(tái)間的數(shù)據(jù)沒(méi)有開(kāi)放和共享，國(guó)家和地區(qū)之間的“數(shù)據(jù)鴻溝”更加凸顯。數(shù)據(jù)獲取的不平等也就決定了數(shù)據(jù)使用的不平等，最終會(huì)擴(kuò)大教育地區(qū)間的差距。

人工智能對(duì)學(xué)生未來(lái)學(xué)習(xí)軌道的預(yù)測(cè)在一定程度上與美國(guó)、英國(guó)等國(guó)家的“分軌制”教育有異曲同工之處，它們都是在分析學(xué)生的心里特征及學(xué)習(xí)能力的基礎(chǔ)之上，結(jié)合社會(huì)發(fā)展需要，制定不同的學(xué)習(xí)路線。區(qū)別在于，人工智能提供的分流標(biāo)準(zhǔn)更加細(xì)致、分流手段更加多元。傳統(tǒng)分軌制的公平性已備受爭(zhēng)議，人工智能的預(yù)測(cè)也存在加大教育不公平的風(fēng)險(xiǎn)。

2.對(duì)教育正向價(jià)值的壓制

從人工智能教育應(yīng)用倫理產(chǎn)生的原因分析中可知，人工智能是存在偏見(jiàn)的，人工智能的使用者之間也存在不同的價(jià)值追求。因此，人工智能是負(fù)載價(jià)值的，既有正向價(jià)值也有負(fù)向價(jià)值。

教育離不開(kāi)價(jià)值的判斷和選擇，任何教育資料在呈現(xiàn)給學(xué)生之前都需經(jīng)過(guò)必要的價(jià)值審視。但因?yàn)槿斯ぶ悄茏陨淼奶匦裕蛊錈o(wú)法對(duì)所有的數(shù)據(jù)進(jìn)行價(jià)值審查。人工智能教育應(yīng)用不可避免地對(duì)學(xué)生的行為方式、思維習(xí)慣、價(jià)值觀念產(chǎn)生影響，其負(fù)向價(jià)值就會(huì)對(duì)教育產(chǎn)生干擾，與教育應(yīng)然的正向價(jià)值產(chǎn)生沖突。因此，在人工智能教育應(yīng)用中，必須始終堅(jiān)持教育的正向價(jià)值取向，仔細(xì)審視并正確處理人工智能背后的負(fù)面價(jià)值。

3.對(duì)教育育人價(jià)值的僭越

提供精準(zhǔn)的個(gè)性化服務(wù)以及將難以理解的知識(shí)精準(zhǔn)清晰的表示出來(lái)是人工智能教育應(yīng)用的目標(biāo)。也就是說(shuō)人工智能在具有育人價(jià)值的教育面前，只是一種工具的存在。

將人工智能應(yīng)用于教育不僅為教育變革帶來(lái)契機(jī)，應(yīng)當(dāng)永遠(yuǎn)注意技術(shù)是服務(wù)于教育的、是為人類更好的生存和發(fā)展的，技術(shù)本位的思想尤其值得審視與反省。事實(shí)上，在教育領(lǐng)域?qū)θ斯ぶ悄艿捻敹Y膜拜、盲目樂(lè)觀這種苗頭已經(jīng)顯現(xiàn)，人工智能甚至正成為教育中的一種新的“意識(shí)形態(tài)”。人工智能的“意識(shí)形態(tài)”地位一旦確立，其工具價(jià)值也就僭越了教育的育人價(jià)值。所以，必須將教育的育人價(jià)值作為價(jià)值判斷的標(biāo)準(zhǔn)和最終目標(biāo)。

四、結(jié)語(yǔ)

人工智能與教育的深度融合不僅要符合技術(shù)倫理、教育倫理的規(guī)范，更要符合教育的發(fā)展規(guī)律和學(xué)生的認(rèn)知規(guī)律。本文首先闡述了人工智能教育應(yīng)用的內(nèi)涵，然后對(duì)人工智能在教育領(lǐng)域應(yīng)用的合理性進(jìn)行了論證，最后探討了人工智能教育應(yīng)用可能產(chǎn)生的倫理風(fēng)險(xiǎn)以及對(duì)產(chǎn)生的原因進(jìn)行了分析。雖然本文僅在技術(shù)、教育、倫理三個(gè)方面進(jìn)行了研究，沒(méi)有設(shè)計(jì)到其他學(xué)科，分析不夠深入。其意義在于呼吁廣大的教育工作者以及技術(shù)開(kāi)發(fā)人員，在教育領(lǐng)域推進(jìn)人工智能的過(guò)程中應(yīng)當(dāng)時(shí)刻保持必要的反思，警惕人工智能在使用過(guò)程中潛在的倫理風(fēng)險(xiǎn)，避免教育技術(shù)史上由技術(shù)至上導(dǎo)致錯(cuò)誤的歷史重演。