人工智能教育應(yīng)用倫理研究論綱

李曉巖 張家年 王 丹

(1.淮北師范大學(xué) 教育學(xué)院，安徽淮北 235000；2.淮北師范大學(xué) 體育學(xué)院，安徽淮北，235000)

進(jìn)入21世紀(jì)后，伴隨著人工智能技術(shù)的巨大發(fā)展，“互聯(lián)網(wǎng)+”教育逐步升級(jí)為“人工智能+”教育，尤其是近十年來，人工智能教育應(yīng)用成為國(guó)際教育領(lǐng)域關(guān)注的熱點(diǎn)。2019年3月聯(lián)合國(guó)教科文組織(UNESCO，2019)發(fā)布的《教育中的人工智能：可持續(xù)發(fā)展的挑戰(zhàn)與機(jī)遇》，既是對(duì)人工智能教育應(yīng)用前期研究和實(shí)踐的總結(jié)，也是未來各國(guó)人工智能教育應(yīng)用發(fā)展方向的指南。習(xí)總書記指出，要高度重視人工智能對(duì)教育的深刻影響，積極推動(dòng)人工智能和教育深度融合，促進(jìn)教育變革創(chuàng)新(新華網(wǎng)，2019)。雖然人工智能目前并未對(duì)教育系統(tǒng)產(chǎn)生整體性、顛覆性的影響，但小范圍的應(yīng)用個(gè)案，如2019年BrainCo公司生產(chǎn)的“賦思頭環(huán)”在某小學(xué)的應(yīng)用，已引起人們對(duì)人工智能教育應(yīng)用的倫理?yè)?dān)憂。

人工智能教育應(yīng)用倫理屬于教育倫理學(xué)的研究范疇。其研究過程應(yīng)從“人”的角度出發(fā)，規(guī)約人在應(yīng)用人工智能過程中的行為，而非關(guān)注人工智能的利害，是本研究的出發(fā)點(diǎn)和立場(chǎng)。需注意的是，與普遍意義上的教育倫理研究主體間的道德關(guān)系不同，人工智能教育應(yīng)用倫理研究的是教育主體與具有一定主體屬性的人工智能間的道德關(guān)系。人工智能同時(shí)具有人和物的兩種屬性：一方面人工智能沒有自我意識(shí)，還是人造物；另一方面，它們又具有部分人的屬性和能力，尤其是算法上，甚至比人類更強(qiáng)(何懷宏，2018)。因而，將人工智能與教育主體并列，而不是主客體二元對(duì)立，充分考慮人工智能的復(fù)雜性，有助于把握人工智能教育應(yīng)用的本質(zhì)。

本文主要圍繞三方面展開：一是人工智能教育應(yīng)用的倫理旨趣，即研究“人”與“人工智能”間的道德關(guān)系，目的是解決教育主體應(yīng)用人工智能的倫理意圖問題；二是人工智能教育應(yīng)用的倫理原則，即研究“人”與“人工智能”間道德關(guān)系的依據(jù)，是教育主體應(yīng)用人工智能達(dá)到教育目的過程中應(yīng)遵循的道德規(guī)范；三是人工智能教育應(yīng)用的倫理實(shí)踐，即研究“人”與“人工智能”間道德關(guān)系的結(jié)果，主要探索教育主體應(yīng)用人工智能為達(dá)到教育目的而開展的道德活動(dòng)或表現(xiàn)出的道德行為。

一、“助”：人工智能教育應(yīng)用的倫理旨趣

人工智能教育應(yīng)用的倫理旨趣是人工智能教育應(yīng)用倫理理論體系的核心，是評(píng)價(jià)人工智能教育應(yīng)用善惡的準(zhǔn)繩，是確定人工智能教育應(yīng)用倫理原則和倫理認(rèn)知與行為規(guī)范的依據(jù)。研究倫理旨趣就是研究人工智能教育應(yīng)用的道德價(jià)值，是確立其價(jià)值體系、明確其價(jià)值目標(biāo)的過程。

(一)倫理旨趣在于“助”

課題組在前期研究中已界定了人工智能教育應(yīng)用的內(nèi)涵，即在教育理念的引領(lǐng)下，將人工智能技術(shù)融入教育系統(tǒng)或教育過程中，支持或幫助實(shí)現(xiàn)教育目的，促進(jìn)問題解決，優(yōu)化教育過程和推動(dòng)教育的創(chuàng)新發(fā)展(李福華等，2020)?？梢姡斯ぶ悄芙逃龖?yīng)用倫理旨趣在于“助”。

“助”凸顯了人的主體地位，彰顯了人工智能的價(jià)值追求，也體現(xiàn)了教育的本質(zhì)。雖然人工智能與人可能形成“教師—機(jī)器人—學(xué)生”的新型交互結(jié)構(gòu)(蘇明等，2019)，但二者不是平等關(guān)系。德國(guó)著名教育家卡爾·雅思貝爾斯(1991)曾言：“教育是人的靈魂的教育，而非理智知識(shí)和認(rèn)識(shí)的堆積?！比斯ぶ悄茈m然具有人的部分屬性，但并不具有人的意識(shí)。教育始于“人”，終于“人”，這決定了人工智能只能是在效率、效益、效果上助力這一過程。

研究人工智能對(duì)教育之“助”，首先要回答兩個(gè)問題，即助什么和如何助。第一個(gè)問題解決人工智能所“助”的內(nèi)容。人工智能教育應(yīng)用依據(jù)作用的領(lǐng)域可分為助學(xué)、助教、助管；第二個(gè)問題解決人工智能所“助”的方式手段。人工智能應(yīng)用依據(jù)作用的層次可分為促進(jìn)、優(yōu)化、創(chuàng)新。由此，人工智能對(duì)不同教育對(duì)象提供不同層次的助力，形成其完整的倫理旨趣(見圖1)。

圖1 人工智能教育應(yīng)用的倫理旨趣

(二)助力內(nèi)容：由點(diǎn)到面

在橫向上，人工智能對(duì)教育之“助”是由點(diǎn)到面的(見圖1)。

首先，“助”個(gè)性化學(xué)習(xí)，即指人工智能助力受教育者學(xué)習(xí)。學(xué)習(xí)是個(gè)體行為相對(duì)持久的變化，是學(xué)習(xí)者改變?cè)杏^念的過程，因此學(xué)習(xí)者個(gè)體具象為一個(gè)個(gè)點(diǎn)，在作用范圍上可視為人工智能在教育領(lǐng)域“點(diǎn)”的應(yīng)用。目前已有較多應(yīng)用的自適應(yīng)學(xué)習(xí)系統(tǒng)、自適應(yīng)學(xué)習(xí)平臺(tái)以及智適應(yīng)學(xué)習(xí)平臺(tái)等，主要通過學(xué)習(xí)分析、模式識(shí)別等技術(shù)，動(dòng)態(tài)記錄學(xué)習(xí)者的學(xué)習(xí)過程和學(xué)習(xí)狀態(tài)，診斷并分析學(xué)習(xí)中的“漏洞”，給出解決方案，提供自動(dòng)化反饋，提高學(xué)習(xí)績(jī)效；智能學(xué)伴主要通過與學(xué)習(xí)者交流、互動(dòng)和溝通的虛擬伙伴，幫助和引導(dǎo)學(xué)習(xí)者學(xué)習(xí)，記錄學(xué)習(xí)進(jìn)度、成長(zhǎng)經(jīng)歷等(張攀峰等，2014)，為學(xué)習(xí)者提供個(gè)性化學(xué)習(xí)服務(wù)。它通過智能傳感技術(shù)和動(dòng)態(tài)模型收集記錄學(xué)習(xí)者的學(xué)習(xí)、情感及生理數(shù)據(jù)，感知學(xué)習(xí)者的學(xué)習(xí)狀態(tài)和情緒變化，調(diào)整學(xué)習(xí)方案、給予學(xué)習(xí)者人文關(guān)懷。

其次，“助”精準(zhǔn)化教學(xué)，即指人工智能助力教師教學(xué)過程。在現(xiàn)存教育制度下，班級(jí)授課和小組教學(xué)仍是主要教學(xué)組織形式，由此人工智能助力教師教學(xué)的作用范圍已由學(xué)生個(gè)體的“點(diǎn)”擴(kuò)大到教師引領(lǐng)的班級(jí)和小組學(xué)生群體的“線”。云班課、雨課堂、慕課堂等智慧教學(xué)工具或平臺(tái)，貫穿于教學(xué)前的預(yù)習(xí)、教學(xué)中的互動(dòng)討論以及教學(xué)后的測(cè)試，在學(xué)習(xí)分析技術(shù)、語(yǔ)義識(shí)別技術(shù)以及模式識(shí)別技術(shù)的支持下，充分調(diào)動(dòng)學(xué)生的學(xué)習(xí)積極性，實(shí)施精準(zhǔn)教學(xué)，提高教學(xué)效率。自動(dòng)化短文評(píng)價(jià)系統(tǒng)、自動(dòng)化口語(yǔ)評(píng)測(cè)系統(tǒng)、ICT技能與程序作業(yè)的自動(dòng)化測(cè)評(píng)系統(tǒng)以及科大訊飛開發(fā)的智能測(cè)試系統(tǒng)等，依賴自然語(yǔ)言處理技術(shù)與機(jī)器學(xué)習(xí)等技術(shù)(張坤穎等，2019)，提供及時(shí)反饋，為教學(xué)決策提供更真實(shí)可靠的依據(jù)。

最后，“助”智慧化管理，即指人工智能助力教育教學(xué)管理過程。管理不僅是對(duì)教師和學(xué)生的管理，還包括對(duì)學(xué)校層面所有教育教學(xué)活動(dòng)的管理，因而其作用范圍再次擴(kuò)大到學(xué)校的“面”。智慧校園是人工智能管理應(yīng)用的典型代表，它通過模式識(shí)別技術(shù)、自然語(yǔ)言處理、機(jī)器學(xué)習(xí)以及大數(shù)據(jù)技術(shù)實(shí)現(xiàn)對(duì)教師與學(xué)生活動(dòng)的動(dòng)態(tài)管理、精準(zhǔn)管理，也為更好地服務(wù)教師和學(xué)生提供決策依據(jù)。高校學(xué)生普遍使用的一卡通管理已涉及到圖書管理系統(tǒng)、打印復(fù)印系統(tǒng)、繳費(fèi)管理系統(tǒng)、身份識(shí)別系統(tǒng)、課堂管理系統(tǒng)以及基于這些數(shù)據(jù)的師生行為軌跡分析和消費(fèi)特征分析(田麗等，2015)。

(三)助力方式：由低到高

首先是促進(jìn)，即人工智能的應(yīng)用旨在解決目前由教育制度不完備、教育資源不均衡、優(yōu)質(zhì)師資不充足等因素引起的教育問題?？梢哉f，在“促進(jìn)”層面，人工智能應(yīng)用圍繞教育教學(xué)問題解決展開，是人工智能“使能”教育的表現(xiàn)。“使能”教學(xué)理念在班級(jí)授課制下很難得到實(shí)現(xiàn)，而人工智能通過學(xué)習(xí)分析和大數(shù)據(jù)技術(shù)構(gòu)建高維學(xué)習(xí)者分析模型，可以診斷學(xué)習(xí)者的知識(shí)結(jié)構(gòu)、認(rèn)知特征、學(xué)習(xí)風(fēng)格等，在一定程度上實(shí)現(xiàn)因材施教。

其次是優(yōu)化，即在原有基礎(chǔ)上應(yīng)用人工智能優(yōu)化教育教學(xué)，提高效率?！皟?yōu)化”主要通過日常教育教學(xué)達(dá)到預(yù)期，但應(yīng)用人工智能可以更快、更好地達(dá)到目標(biāo)，是人工智能“增能”教育的表現(xiàn)。某公司開發(fā)的AI助教(北極星，2020)利用人工智能深度學(xué)習(xí)算法，精準(zhǔn)定位學(xué)習(xí)者的知識(shí)掌握程度，形成“學(xué)情畫像”，教師可以準(zhǔn)確把握學(xué)習(xí)者特征，從而設(shè)計(jì)針對(duì)性的教學(xué)；在教學(xué)過程中，AI助教提供海量?jī)?yōu)質(zhì)教育資源，可以實(shí)現(xiàn)“智能組卷閱卷、課件制作、協(xié)同教研、資源共享、學(xué)情監(jiān)測(cè)”等，自動(dòng)生成多維度考試數(shù)據(jù)統(tǒng)計(jì)報(bào)告和考情分析報(bào)告，幫助教師提升教學(xué)績(jī)效；在管理中，AI助教從多維度對(duì)教學(xué)行為數(shù)據(jù)進(jìn)行挖掘與分析，為學(xué)校教育教學(xué)管理提供決策依據(jù)，幫助家長(zhǎng)了解學(xué)情，配合學(xué)校教學(xué)。

最后是創(chuàng)新，即伴隨人工智能應(yīng)用而產(chǎn)生和形成的新的教育教學(xué)和管理模式，是人工智能“賦能”教育的表現(xiàn)。人工智能作為“類人體”的存在，進(jìn)入學(xué)校和課堂后，使教育從“批量灌溉”到“精準(zhǔn)投放”、從“固定教材”到“生成內(nèi)容”、從“流程繁復(fù)”到“過程消減”、從“總結(jié)評(píng)價(jià)”到“形成評(píng)價(jià)”(于英姿等，2020)。這使教育教學(xué)和管理必須做出改革，構(gòu)建新的模式。聯(lián)合國(guó)教科文組織研究報(bào)告提出的“雙師課堂”便可看作是其創(chuàng)新成果之一(Pedro et al.，2019)。所謂“雙師課堂”是一種由人工智能教育機(jī)器人承擔(dān)教師的部分教學(xué)任務(wù)， 并提供個(gè)性化學(xué)習(xí)服務(wù)的新型課堂模式(汪時(shí)沖等，2019)。人工智能承擔(dān)部分教學(xué)任務(wù)后，教師的角色和職能、師生關(guān)系等必然進(jìn)行調(diào)整，為新模式的構(gòu)建提供了空間。

二、知善：人工智能教育應(yīng)用的倫理原則

倫理學(xué)是從善惡角度規(guī)約行為的。研究倫理原則就是明確何種行為是善的，何種行為是惡的。人工智能教育應(yīng)用的倫理原則探討教育主體應(yīng)用人工智能達(dá)到教育目的的過程中應(yīng)遵循的道德規(guī)范，規(guī)約不道德行為。不同的教育主體因應(yīng)用人工智能的目的不同需要遵循不同的倫理原則。教育主體包括教育管理者、教師和學(xué)習(xí)者。

(一)權(quán)力規(guī)約原則

權(quán)力規(guī)約原則主要針對(duì)作為權(quán)力主體的教育管理者，要求他們?cè)趹?yīng)用人工智能的過程中要明確其權(quán)力范圍，保護(hù)被管理者的權(quán)益和尊嚴(yán)，主要體現(xiàn)在教育管理者在教育數(shù)據(jù)的收集、處理、利用過程中，除大多數(shù)學(xué)者強(qiáng)調(diào)的數(shù)據(jù)隱私保護(hù)原則外，還包括數(shù)據(jù)收集的尊重原則、數(shù)據(jù)處理的理解原則和數(shù)據(jù)利用的邊界原則。

1.尊重原則。人工智能數(shù)據(jù)能力收集有限，收集哪些數(shù)據(jù)，應(yīng)用主體具有一定的決定權(quán)。教育管理者應(yīng)用人工智能收集相關(guān)數(shù)據(jù)時(shí)，應(yīng)在尊重原則的基礎(chǔ)上實(shí)施其決定權(quán)；教師和學(xué)生等數(shù)據(jù)被收集者有權(quán)利知道個(gè)人哪些數(shù)據(jù)被收集了、何時(shí)收集的以及收集的數(shù)據(jù)將做何用；非必要數(shù)據(jù)應(yīng)給予教師和學(xué)生等主體一定的選擇權(quán)，由他們決定這些數(shù)據(jù)是否被允許收集，以及在何種范圍內(nèi)使用。尊重原則是教育管理者應(yīng)用人工智能時(shí)要遵循的首要原則，是對(duì)其權(quán)力進(jìn)行規(guī)約的道德力量，也是以人為本管理理念的體現(xiàn)。

2.理解原則。在2020年第三屆世界頂尖科學(xué)家論壇上，斯發(fā)基斯(Sifakis，2020)談到人與人工智能之間關(guān)系時(shí)強(qiáng)調(diào)，人類應(yīng)充分理解機(jī)器傳達(dá)的信息。這種理解即指要掌握這些數(shù)據(jù)的產(chǎn)生機(jī)制及其背后的理論機(jī)理。由此教育管理者才能進(jìn)行正確的分析，并在DIKW模型(Data-to-Information-to-Knowledge-to-Wisdom Model)的引導(dǎo)下，得出指導(dǎo)性和決策性結(jié)論，減少片面臆斷。當(dāng)人工智能顯示學(xué)生注意力不集中時(shí)，教育管理者要清楚人工智能判斷學(xué)生注意力的機(jī)制(通過面部、脈搏抑或腦電等)。若通過面部識(shí)別進(jìn)行判斷，要了解人工智能對(duì)注意力不集中時(shí)的面部判別標(biāo)準(zhǔn)(眼神或者表情等)，真正理解人工智能所謂的注意力不集中指的是什么，在此基礎(chǔ)上，結(jié)合課堂情境和教師教學(xué)才能得出準(zhǔn)確的結(jié)論。

3.邊界原則。獲得數(shù)據(jù)后如何利用數(shù)據(jù)與教育管理者應(yīng)用人工智能的目的直接相關(guān)。作為權(quán)力主體，教育管理者有權(quán)決定何時(shí)、何地、如何利用數(shù)據(jù)，或者說教育管理者對(duì)數(shù)據(jù)有絕對(duì)的使用權(quán)。因而，有必要對(duì)其數(shù)據(jù)利用權(quán)力設(shè)置邊界，使其在既定范圍使用，防止濫用。一方面，數(shù)據(jù)利用的邊界應(yīng)在“理”而不在“管”，不能單純用數(shù)據(jù)“管”(監(jiān)管)教師、學(xué)生乃至學(xué)校，而是以此了解需求、“理”清問題，以更好地服務(wù)師生、促進(jìn)學(xué)校發(fā)展為目的；另一方面，數(shù)據(jù)利用的邊界應(yīng)在“發(fā)展”而不在“評(píng)價(jià)”，不能以數(shù)據(jù)分析的結(jié)果作為評(píng)價(jià)教師、學(xué)生乃至學(xué)校的證據(jù)，而是以此為基礎(chǔ)提出改進(jìn)策略，促進(jìn)教師、學(xué)生、學(xué)校的發(fā)展。教育管理者通過面部識(shí)別、情緒識(shí)別等技術(shù)收集課堂教學(xué)數(shù)據(jù)，對(duì)其分析，發(fā)現(xiàn)課堂紀(jì)律較差，不能以此判定教師教學(xué)能力低，教學(xué)考核不合格，而應(yīng)以此為基礎(chǔ)，與教師討論改善課堂教學(xué)的方法，促進(jìn)師生的共同成長(zhǎng)。由此，課堂數(shù)據(jù)的收集才不會(huì)受到教師的心理抵制，更真實(shí)自然地表現(xiàn)自我，使人工智能獲得更真實(shí)、有效的數(shù)據(jù)。

(二)和諧共生原則

和諧共生原則主要針對(duì)教師而言。人工智能這一類人體的教育介入必然影響師生的課堂關(guān)系。這一倫理原則主要體現(xiàn)在教師如何平衡和協(xié)調(diào)教師—學(xué)生—人工智能三者的課堂關(guān)系，確保和諧相處，共存共生，各行其是而不逾矩，更高效地達(dá)到預(yù)期教學(xué)目標(biāo)。

1. 人本原則，即學(xué)生中心原則，這是教師應(yīng)用人工智能開展課堂教學(xué)要遵循的基本原則，也是處理教師—學(xué)生—人工智能三者關(guān)系的首要原則。澳大利亞學(xué)者塞爾溫(Selwyn，2016)教授曾指出：“危險(xiǎn)在于把數(shù)據(jù)和編碼看成提供指導(dǎo)和支持的權(quán)威而非相對(duì)依據(jù)。教育如此復(fù)雜，遠(yuǎn)非可以僅被簡(jiǎn)化為數(shù)據(jù)分析和算法。”教師利用人工智能獲取的學(xué)生學(xué)習(xí)相關(guān)數(shù)據(jù)，只能是教學(xué)設(shè)計(jì)、實(shí)施與評(píng)價(jià)的參考。一方面，人工智能本身獲取的數(shù)據(jù)有限，不可能全方位獲取學(xué)生的所有信息；另一方面，學(xué)生作為完整的個(gè)體，其自身所呈現(xiàn)出來的特征也遠(yuǎn)非數(shù)據(jù)所能涵蓋。因此，教師應(yīng)用人工智能進(jìn)行教學(xué)時(shí)，不能只見“數(shù)據(jù)”不見“人”，而要從數(shù)據(jù)中看到一個(gè)(群)正在發(fā)展中的人因何、為何呈現(xiàn)這樣的數(shù)據(jù)，要看到數(shù)據(jù)背后活躍的思維和靈動(dòng)的氣息。學(xué)生是學(xué)習(xí)的主體，教師要在這一過程中將焦點(diǎn)放在學(xué)生身上，通過數(shù)據(jù)了解和發(fā)掘其潛能，更好地促進(jìn)其素養(yǎng)的提升，而非冰冷的數(shù)據(jù)本身。

2. 適度原則，是指教師要適度應(yīng)用人工智能進(jìn)行教學(xué)，包括適時(shí)和適量。所謂適時(shí)，指教師要選擇恰當(dāng)?shù)臅r(shí)機(jī)應(yīng)用人工智能，不能隨意使用，否則將成為學(xué)生發(fā)展的障礙。扎瓦克奇-里克特(Zawacki-Richter et al.，2019)等學(xué)者對(duì)2007-2018年間發(fā)表的人工智能在高等教育領(lǐng)域的應(yīng)用研究發(fā)現(xiàn)，目前研究與教學(xué)理論聯(lián)系不緊密，提出要超越工具，重新關(guān)注學(xué)習(xí)和教學(xué)法。孔子曰：“不憤不啟，不悱不發(fā)?！比斯ぶ悄艿膽?yīng)用要遵循教育教學(xué)規(guī)律和原則，根據(jù)學(xué)生的發(fā)展需求，把握時(shí)機(jī)恰當(dāng)使用。所謂適量，即指教師控制使用人工智能的頻率，不能為了使用而使用，忽視教學(xué)目標(biāo)的達(dá)成。人工智能通過“學(xué)習(xí)者畫像”可以幫助教師更好地了解學(xué)生的知識(shí)基礎(chǔ)和學(xué)習(xí)能力，為教學(xué)目標(biāo)的確定提供依據(jù)。教學(xué)目標(biāo)的確定除受課程標(biāo)準(zhǔn)等因素影響外，學(xué)習(xí)者的非智力因素同樣重要，而這些是人工智能難以精準(zhǔn)畫像的。更重要的是，在學(xué)習(xí)者大腦發(fā)育的關(guān)鍵期過度使用認(rèn)知技術(shù)，有可能帶來不可逆轉(zhuǎn)的嚴(yán)重后果，對(duì)發(fā)展更高級(jí)的認(rèn)知技能和創(chuàng)新能力非常不利(Tuomi，2018)。

3. 關(guān)懷原則，是指教師應(yīng)用人工智能進(jìn)行教學(xué)的過程中要給予學(xué)生足夠的關(guān)注和關(guān)懷，它是處理教師—學(xué)生—人工智能關(guān)系的潤(rùn)滑劑和催化劑。美國(guó)學(xué)者諾丁斯(2011)提出：關(guān)懷倫理的最基本思想是對(duì)每一個(gè)個(gè)體的需要予以恰當(dāng)?shù)姆磻?yīng)，目的是建立并維護(hù)關(guān)心關(guān)系。一方面，教師要真正“看到”學(xué)生，透過人工智能和現(xiàn)實(shí)課堂，看到學(xué)生的需求，并給予恰當(dāng)?shù)姆磻?yīng)。教師通過人工智能的數(shù)據(jù)發(fā)現(xiàn)某學(xué)生未能掌握相關(guān)內(nèi)容，處于迷茫狀態(tài)，則需要走到學(xué)生身邊，詳細(xì)詢問情況，指導(dǎo)其學(xué)習(xí)，并通過鼓勵(lì)的眼神、手勢(shì)等給予學(xué)生情感投入和行為支持。另一方面，作為完整的個(gè)體，學(xué)生的發(fā)展不僅在于認(rèn)知和思維的發(fā)展，還有社會(huì)性交往、情感、態(tài)度和價(jià)值觀等，而目前這些方面人工智能還取代不了教師(唐漢衛(wèi)，2018)。人類具有多元智能，人工智能可以超越其中理性化的智能，卻難以超越人化的情感，人工智能更多是“智”而不是情(劉悅笛，2018)。教師需要在教學(xué)過程中消弭學(xué)生與機(jī)器交互的冰冷感，以人格魅力影響學(xué)生，以實(shí)際行為關(guān)懷學(xué)生，促進(jìn)學(xué)生健康發(fā)展。

(三)形塑自我原則

形塑自我原則是針對(duì)學(xué)習(xí)者而言的。作為被教育者，學(xué)習(xí)者是一類特殊的主體。顧建軍(2020)曾指出學(xué)生的主體性主要體現(xiàn)在對(duì)教師的主體性作用、屬性、功能進(jìn)行主體性選擇，對(duì)教師主體性作用信息的破譯與轉(zhuǎn)化，以及對(duì)教師主體作用的借鑒、創(chuàng)造與超越?？梢?，學(xué)習(xí)者主體性的體現(xiàn)依賴于教師主體作用的發(fā)揮。但人工智能加入課堂后，作為類主體，其主體作用發(fā)揮有限。利用人工智能進(jìn)行學(xué)習(xí)時(shí)，學(xué)習(xí)者占據(jù)主動(dòng)地位，可以充分發(fā)揮主觀能動(dòng)性。但學(xué)習(xí)者是正在發(fā)展中的群體，其認(rèn)知、情感、行為處于形成過程中，因而其應(yīng)用人工智能旨在形塑自我，促進(jìn)自身發(fā)展，須秉持以下倫理原則：

1. 良善原則，即指學(xué)習(xí)者在利用人工智能進(jìn)行學(xué)習(xí)時(shí)需要心存良善，將人工智能作為“人”以待之。2016年微軟聊天機(jī)器人Tay上線不久便學(xué)會(huì)了辱罵用戶、發(fā)布帶有種族歧視和性別歧視的言論，微軟為此緊急下線調(diào)整(新浪，2016)。學(xué)習(xí)者在與人工智能交互過程中，自然語(yǔ)言處理技術(shù)和深度學(xué)習(xí)技術(shù)使人工智能習(xí)得了學(xué)習(xí)者語(yǔ)言表達(dá)模式。學(xué)習(xí)者尤其是未成年人，其道德水平尚在發(fā)展中，容易在好奇心驅(qū)使下使人工智能習(xí)得不良語(yǔ)言表達(dá)。因而，學(xué)習(xí)者在與人工智能交互中，要將人工智能作為共同學(xué)習(xí)的“伙伴”，積極、平等地與其交互，使其真正成為學(xué)習(xí)助手。

2. 誠(chéng)信原則，即指學(xué)習(xí)者恰當(dāng)應(yīng)用人工智能進(jìn)行學(xué)習(xí)，不剽竊、復(fù)制人工智能的“成果”，堅(jiān)持誠(chéng)信為本。目前人工智能在許多專門領(lǐng)域已經(jīng)持平甚至超越人類，即便是在一些曾被認(rèn)為是人類所獨(dú)有的領(lǐng)域，如作詩(shī)、繪畫、唱歌等。當(dāng)學(xué)習(xí)者將家庭作業(yè)交由人工智能完成時(shí)，教師是否能夠清晰準(zhǔn)確地判斷該作業(yè)的真實(shí)性？互聯(lián)網(wǎng)時(shí)代的剽竊行為尚可通過查重等手段加以監(jiān)察，若由人工智能生成的呢？教師如何得知該作業(yè)是由學(xué)生而非人工智能完成的？解決這一問題，需要教師正確引導(dǎo)，使學(xué)習(xí)者本著對(duì)自己負(fù)責(zé)的態(tài)度，誠(chéng)信為學(xué)，認(rèn)真完成作業(yè)。這既是學(xué)生的本職要求，也是學(xué)生了解自己和提升自身學(xué)習(xí)能力的主要途徑。

3. 節(jié)制原則，即指學(xué)習(xí)者要適度節(jié)制應(yīng)用人工智能，以免過度依賴乃至上癮。一方面，人工智能的類人性，易使學(xué)習(xí)者產(chǎn)生交往客體主體化，不利于其認(rèn)知、情感的發(fā)展。另一方面，學(xué)習(xí)者應(yīng)節(jié)制應(yīng)用人工智能是由于其自制力差、心智發(fā)展尚不健全，容易在應(yīng)用人工智能過程中迷失自己，甚至沉迷于與人工智能的交互?；ヂ?lián)網(wǎng)時(shí)代的網(wǎng)絡(luò)成癮便是最好的例證。對(duì)于更智能、更個(gè)性化的人工智能，學(xué)習(xí)者將更缺乏抵抗力。

三、求真：人工智能教育應(yīng)用的倫理實(shí)踐

倫理學(xué)是一門實(shí)踐哲學(xué)，不僅涉及純粹理性的認(rèn)知和實(shí)踐理性的認(rèn)知，還涉及借助意志使認(rèn)知走向生活的實(shí)踐活動(dòng)(李志祥，2020)。人工智能教育應(yīng)用倫理只有轉(zhuǎn)化為個(gè)體的德性、行為，轉(zhuǎn)化為社會(huì)的制度，才能發(fā)揮作用，實(shí)現(xiàn)其意義。其倫理實(shí)踐具體過程為：首先是教育主體需要“由外而內(nèi)”形成倫理認(rèn)知，然后在認(rèn)知基礎(chǔ)上“由內(nèi)而外”表現(xiàn)出一定的倫理行為，最后是對(duì)倫理行為進(jìn)行規(guī)約而形成倫理制度，倫理制度又成為教育主體倫理認(rèn)知的主要內(nèi)容?？梢哉f，倫理實(shí)踐由個(gè)體走向社會(huì)，又由社會(huì)反作用于個(gè)體，二者互利共生，相互促進(jìn)。

(一)發(fā)軔于教育主體的倫理認(rèn)知

人工智能教育應(yīng)用倫理要在實(shí)踐中落地，融入日常教育教學(xué)活動(dòng)，首先需要教育主體形成倫理認(rèn)知，即教育主體要對(duì)人工智能教育應(yīng)用過程中出現(xiàn)的倫理問題、要達(dá)到的倫理目標(biāo)、應(yīng)該遵循的倫理規(guī)范以及涉及的倫理關(guān)系有清晰的認(rèn)識(shí)和把握。倫理認(rèn)知是一個(gè)“由外而內(nèi)”的過程，其中“外”主要指位于教育主體之外的、客觀存在的行為規(guī)范，這些規(guī)范可以是成文的、顯性的，如倫理規(guī)章等，也可以是不成文的、隱性的，如某些約定俗成的規(guī)約。目前人工智能教育應(yīng)用尚處于初級(jí)階段，相關(guān)倫理規(guī)范并不健全，教育主體在這一過程中只能以其他教育倫理為參照，這從另一側(cè)面折射了人工智能教育應(yīng)用倫理研究的必要性和緊迫性。“內(nèi)”是教育主體將外部行為規(guī)范內(nèi)化的過程，主要包括兩個(gè)層面：一是教育主體要意識(shí)到并了解應(yīng)該遵循怎樣的倫理規(guī)范，明晰人工智能教育應(yīng)用倫理規(guī)范的重要性和必要性，尤其是人工智能作為教育系統(tǒng)的新生物，對(duì)其倫理規(guī)范有清醒的認(rèn)識(shí)非常必要；二是教育主體要從內(nèi)心接受和認(rèn)同這些倫理規(guī)范，并融入到已有的認(rèn)知體系中，主動(dòng)遵循這些倫理規(guī)范。

(二)形成于教育主體的倫理行為

人工智能教育應(yīng)用倫理形成于教育主體應(yīng)用人工智能進(jìn)行教育教學(xué)活動(dòng)的過程中，即在這一過程中表現(xiàn)出的倫理行為，是教育主體倫理認(rèn)知的體現(xiàn)，也是遵循既定行為規(guī)范的結(jié)果。倫理行為是一個(gè)“由內(nèi)而外”的過程，是內(nèi)在的倫理認(rèn)知在理性和意志的協(xié)助下，在特定的應(yīng)用情境中激發(fā)出具體行為的過程。人工智能教育應(yīng)用的倫理行為主要體現(xiàn)在：一是主動(dòng)性，即教育主體應(yīng)用人工智能進(jìn)行教育教學(xué)時(shí)，能自覺、主動(dòng)地遵循倫理規(guī)范，按倫理制度辦事；二是情境性，即在面對(duì)特定的倫理困境時(shí)，教育主體能夠依據(jù)倫理規(guī)范提出公平、正義的解決方案；三是一致性，即教育主體能夠堅(jiān)持這些倫理規(guī)范的合道德性，在面臨任何教育情境時(shí)都能夠始終如一地遵循倫理規(guī)范。

(三)完善于社會(huì)的教育倫理制度

教育主體在應(yīng)用人工智能過程中呈現(xiàn)的倫理行為需要倫理制度的規(guī)約，尤其是正式的、成文的倫理制度。這一方面便于教育主體省察自己的行為是否合道德；另一方面便于他人對(duì)教育主體表現(xiàn)出的倫理行為進(jìn)行審查，判斷其行為是否遵循倫理規(guī)范，對(duì)不符合的行為給予一定的懲罰。人工智能教育應(yīng)用倫理制度在現(xiàn)實(shí)生活中可以有兩種表現(xiàn)方式：一種是制度倫理化，即指在現(xiàn)有的教育制度中加入人工智能教育應(yīng)用倫理的相關(guān)行為規(guī)范，與其他教育制度融為一體。這可以看作是人工智能教育應(yīng)用初級(jí)階段的表現(xiàn)方式，因?yàn)槿斯ぶ悄芙逃龖?yīng)用倫理相關(guān)研究和實(shí)踐尚不成熟，在原有教育制度的基礎(chǔ)上增補(bǔ)行為規(guī)范更易被教育主體接受。另一種是倫理制度化，即以制度的形式對(duì)人工智能教育應(yīng)用倫理實(shí)踐過程進(jìn)行規(guī)約，更具針對(duì)性和約束力。這是人工智能教育應(yīng)用發(fā)展到較高階段的表現(xiàn)形式。但目前，我國(guó)人工智能教育應(yīng)用還未形成系統(tǒng)的、體系化的倫理規(guī)范，人工智能教育應(yīng)用倫理制度化還有很長(zhǎng)的路要走。人工智能教育應(yīng)用倫理制度化，才是人工智能教育應(yīng)用倫理真正進(jìn)入實(shí)踐，成為教育主體日常教育教學(xué)活動(dòng)的準(zhǔn)則和規(guī)約。

四、討論與思考

人工智能教育應(yīng)用倫理的諸多研究存在界限不清、主體不明的問題。原因之一在于沒有明確人工智能教育應(yīng)用倫理的研究范疇。

(一)“技”與“教”：兩種研究范疇

人工智能教育應(yīng)用倫理研究的目的是讓人與人工智能和諧共處。對(duì)于這一研究也因?qū)Α叭恕焙汀叭斯ぶ悄堋碑?dāng)事雙方不同的側(cè)重而形成兩種不同的研究范疇。一種研究范疇是對(duì)人工智能進(jìn)行倫理規(guī)約，屬于技術(shù)倫理(或工程倫理)范疇，即在人工智能的設(shè)計(jì)、開發(fā)和應(yīng)用中，以人工智能自身為出發(fā)點(diǎn)和落腳點(diǎn)提出倫理要求。另一種研究范疇是對(duì)人進(jìn)行倫理規(guī)約，即對(duì)人工智能應(yīng)用領(lǐng)域的主體提出倫理要求。真正讓人與人工智能和諧相處、共存共生，僅某一研究范疇是不夠的，需要“兩條腿”走路，人和人工智能都需要進(jìn)行倫理規(guī)約。但在具體實(shí)踐和研究中，二者各有側(cè)重。歸屬為技術(shù)倫理的第一種研究范疇?wèi)?yīng)由人工智能的設(shè)計(jì)者、開發(fā)者完成，而第二種研究范疇——人工智能在教育領(lǐng)域的應(yīng)用應(yīng)由教育主體完成，因?yàn)榻處熑狈?duì)人工智能本身進(jìn)行倫理規(guī)約的專業(yè)知識(shí)和專業(yè)能力，只能在運(yùn)用人工智能過程中對(duì)其自身行為等進(jìn)行倫理規(guī)約。

(二)雜糅交錯(cuò)：人工智能教育應(yīng)用倫理研究的困境

自歐盟發(fā)布《可信賴的人工智能倫理原則》后，人工智能教育應(yīng)用倫理研究進(jìn)入新的發(fā)展階段。2019年5月國(guó)際人工智能與教育會(huì)議發(fā)布的成果文件《北京共識(shí)——人工智能與教育》，明確提出要促進(jìn)教育人工智能應(yīng)用的公平與包容、促進(jìn)性別平等、確保教育數(shù)據(jù)和算法使用合乎倫理、透明且可審核等行動(dòng)舉措(聯(lián)合國(guó)教科文組織，2019)。此后諸多學(xué)者就此展開研究。沈苑等(2019)學(xué)者基于歐盟提出的倫理框架分析了人工智能教育應(yīng)用面臨的倫理困境及采取的措施，如倫理嵌入設(shè)計(jì)、包容性測(cè)試等技術(shù)手段和多層責(zé)任分配制度、完善認(rèn)證系統(tǒng)的非技術(shù)手段等；杜靜等(2019)結(jié)合人工智能在教育領(lǐng)域的應(yīng)用現(xiàn)狀和倫理關(guān)鍵要素，提出人工智能教育應(yīng)用需遵循問責(zé)原則、隱私原則、平等原則、透明原則、不傷害原則、非獨(dú)立原則、預(yù)警原則與穩(wěn)定原則等；鄧國(guó)民等(2020)萃取一般的人工智能倫理原則和教育倫理原則的核心交集，提出福祉、是非善惡、公平正義、人權(quán)和尊嚴(yán)、自由自治以及責(zé)任和問責(zé)等教育人工智能倫理原則。這些研究表明，目前人工智能教育應(yīng)用倫理研究中技術(shù)倫理和教育倫理兩個(gè)范疇并未各行其是，而是雜糅交錯(cuò)，導(dǎo)致倫理主體不明，在倫理實(shí)踐層面很難落實(shí)，有必要將二者區(qū)分開來。教育界學(xué)者專注于教育倫理范疇的研究，不僅有利于促進(jìn)人工智能在教育領(lǐng)域發(fā)揮應(yīng)有的價(jià)值，而且也有利于教育領(lǐng)域在人工智能加持下更高效地達(dá)到教育目的。

(三)人的主體性：人工智能教育應(yīng)用倫理研究的著力點(diǎn)

人工智能究其本質(zhì)仍是一種工具、一類技術(shù)，在教育領(lǐng)域的應(yīng)用不可能改變教育的本質(zhì)和目的。雖然人工智能作為類人體，具有一定的主體性，但其主體性的發(fā)揮以及如何發(fā)揮仍取決于教育主體，在倫理維度亦是如此。教育主體在人工智能教育應(yīng)用過程中有決定權(quán)，占主動(dòng)地位，如何讓“人”與“人工智能”和諧共處同樣取決于教育主體的合道德行為。

總之，人工智能教育應(yīng)用的倫理研究明顯滯后于人工智能的發(fā)展和應(yīng)用。本文主要從教育主體出發(fā)，在教育倫理范疇內(nèi)對(duì)人工智能教育應(yīng)用倫理在“知善”和“求真”兩個(gè)層面進(jìn)行了探析，未來研究還將進(jìn)一步探索人工智能教育應(yīng)用倫理目標(biāo)層面上的“臻美”——培養(yǎng)全面發(fā)展的人。期待更多學(xué)科的跨界學(xué)者能夠在這一范疇內(nèi)，結(jié)合教育教學(xué)理論，深入系統(tǒng)地探討教育主體在應(yīng)用人工智能過程中需要遵循的倫理規(guī)范，為人工智能教育應(yīng)用倫理制度的建立建言獻(xiàn)策。

[注釋]

①人工智能教育應(yīng)用是一個(gè)多維學(xué)科的復(fù)雜融合的領(lǐng)域，其主體還包括人工智能教育應(yīng)用系統(tǒng)的開發(fā)者(包括設(shè)計(jì))、運(yùn)營(yíng)者等，屬于第一個(gè)研究范疇——技術(shù)倫理或工程倫理的研究，本文在此沒有涉及。