教育人工智能倫理：內(nèi)涵框架、認(rèn)知現(xiàn)狀與風(fēng)險規(guī)避

胡小勇 黃婕 林梓柔 黃漫婷

摘要：人工智能在賦能教育高速發(fā)展的同時，也面臨著嚴(yán)峻的倫理挑戰(zhàn)。厘清教育人工智能倫理的內(nèi)涵框架，刻畫當(dāng)代大學(xué)生倫理認(rèn)知的現(xiàn)狀，進(jìn)而提煉可行的風(fēng)險規(guī)避策略，成為重要的研究問題?；趯艺吆蛧鴥?nèi)外文獻(xiàn)的研讀，運用德爾菲法經(jīng)兩輪修訂和完善，最終確定的教育人工智能倫理內(nèi)涵框架包括“人機協(xié)同與自立自主”“學(xué)生福祉與發(fā)展”“公平與持續(xù)發(fā)展”“安全與可控可信”4個一級維度和12個二級維度。以此為基礎(chǔ)編制問卷并進(jìn)行調(diào)查分析的結(jié)果表明，大學(xué)生對教育人工智能倫理的認(rèn)知存在不均衡現(xiàn)象，在“公平與持續(xù)發(fā)展”“安全與可控可信”兩個維度上得分較低，且學(xué)歷層次、年級以及對人工智能的了解程度等均對大學(xué)生的教育人工智能倫理認(rèn)知產(chǎn)生了顯著影響。當(dāng)前教育人工智能倫理建設(shè)存在缺乏精準(zhǔn)的規(guī)范與指引、人文關(guān)懷與價值引領(lǐng)缺位、技術(shù)自身存在局限、學(xué)習(xí)資源建設(shè)粗放等難題，未來可采取樹立以立德樹人為核心價值導(dǎo)向的教育人工智能倫理建設(shè)原則、編制教育人工智能倫理規(guī)范指南、提升教師智能教育素養(yǎng)水平、以智能技術(shù)反向賦能倫理建設(shè)，以及建設(shè)公益性學(xué)習(xí)資源等策略來規(guī)避風(fēng)險。唯有將倫理規(guī)范嵌入到教育人工智能全生命周期，才能更好地構(gòu)建新型智能教育生態(tài)。

關(guān)鍵詞：教育人工智能;倫理內(nèi)涵;倫理認(rèn)知;倫理風(fēng)險;德爾菲法

中圖分類號：G434 ? 文獻(xiàn)標(biāo)識碼：A ? ?文章編號：1009-5195（2022）02-0021-09 ?doi10.3969/j.issn.1009-5195.2022.02.003

基金項目：2019年度國家社科基金重大項目“人工智能促進(jìn)未來教育發(fā)展研究”（19ZDA364）;2022年廣東省科技創(chuàng)新戰(zhàn)略專項資金（“攀登計劃”專項資金）“面向大學(xué)生的教育人工智能倫理內(nèi)涵與風(fēng)險規(guī)避對策研究”（pdjh2022b0146）。

作者簡介：胡小勇，博士，教授，博士生導(dǎo)師，華南師范大學(xué)教育人工智能研究院，華南師范大學(xué)教育信息技術(shù)學(xué)院（廣東廣州 510631）;黃婕，碩士研究生，華南師范大學(xué)教育信息技術(shù)學(xué)院（廣東廣州 510631）;林梓柔（通訊作者），博士研究生，華東師范大學(xué)教育信息技術(shù)學(xué)系（上海 200062）;黃漫婷，碩士研究生，華南師范大學(xué)教育信息技術(shù)學(xué)院（廣東廣州 510631）。

一、引言

如果人工智能變得太聰明，做出超出人類思維能力的決策怎么辦？美國前國務(wù)卿亨利·基辛格（Henry Kissinger）在《啟蒙如何終結(jié)》中提出警告，“技術(shù)革命的秩序動蕩不安，我們最終將處于依據(jù)算法和數(shù)據(jù)驅(qū)動、不受倫理道德規(guī)范的機器世界”（Kissinger，2018）。伴隨人工智能在教育領(lǐng)域中的規(guī)?；瘧?yīng)用，諸如教育隱私數(shù)據(jù)泄露、算法歧視與不透明、教育主體情感交流危機等倫理風(fēng)險已經(jīng)引起世界各國關(guān)注。美國與英國分別頒布《為人工智能的未來做好準(zhǔn)備》和《人工智能：未來決策制定的機遇與影響》政策文件，為人工智能的發(fā)展和應(yīng)用提供了路徑指引。我國也陸續(xù)出臺了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》和《新一代人工智能倫理規(guī)范》（以下簡稱《倫理規(guī)范》）等政策文件，對人工智能發(fā)展和應(yīng)用中的倫理問題進(jìn)行了規(guī)范指引。為推動人工智能在教育領(lǐng)域的健康發(fā)展，聯(lián)合國教科文組織（UNESCO）亦研制了《教育中的人工智能：可持續(xù)發(fā)展的機遇與挑戰(zhàn)》和《北京共識——人工智能與教育》（以下簡稱《北京共識》）等報告，呼吁和引領(lǐng)人工智能教育應(yīng)用的健康且可持續(xù)發(fā)展。

在此背景下，國內(nèi)已有學(xué)者對教育人工智能的倫理內(nèi)涵與特征（趙磊磊等，2021）、倫理原則（鄧國民等，2020）、倫理風(fēng)險規(guī)避的有效路徑（于英姿等，2020）等進(jìn)行了有益研討。這些研究偏向于宏觀的思辨探討，尚未有研究聚焦可操作、量化的教育人工智能倫理內(nèi)涵分析和實踐調(diào)研。大學(xué)生處于更加自由、彈性和泛在化的學(xué)習(xí)環(huán)境中，既是使用人工智能的重要群體，亦是重要的利益相關(guān)者，他們在與人工智能協(xié)同共處的過程中更容易出現(xiàn)隱私泄露、信息繭房、價值沖擊等倫理風(fēng)險。因此，本研究力圖構(gòu)建針對大學(xué)生的教育人工智能倫理內(nèi)涵框架，并開展大規(guī)模調(diào)研以探究大學(xué)生對教育人工智能倫理認(rèn)知的現(xiàn)狀。

二、當(dāng)前教育人工智能倫理研究的焦點

當(dāng)前學(xué)界對教育人工智能倫理的研究主要聚焦在倫理內(nèi)涵、倫理原則、倫理風(fēng)險規(guī)避三大方面。

1.倫理內(nèi)涵：探究教育活動中的人機倫理關(guān)系

何為倫理？倫理是指人與人相處應(yīng)遵循的道德準(zhǔn)則，它包括客觀的倫理關(guān)系及其外在規(guī)約（李建華，2020）。目前，人工智能引發(fā)的倫理風(fēng)險已受到各國政府、組織和學(xué)者的關(guān)注，并引發(fā)了其對人與技術(shù)間倫理關(guān)系的進(jìn)一步審視。例如，中國發(fā)布的《倫理規(guī)范》（中華人民共和國科學(xué)技術(shù)部，2021）和美國發(fā)布的《合乎倫理的人工智能框架》（Hogenhout，2021）均強調(diào)人工智能要為人類帶來福祉，促進(jìn)兩者和諧美好。

教育人工智能作為教育領(lǐng)域的人工智能技術(shù)及系統(tǒng)，遵循人工智能的發(fā)展理念和以人為本的教育理念，關(guān)注人與機器的協(xié)作與交互，旨在賦能教育發(fā)展與變革（徐曄，2018;郝祥軍等，2019）。面向新型人機關(guān)系的構(gòu)建，《北京共識》強調(diào)教育人工智能要以人為本，考慮其對人和教育的多重影響，形成系統(tǒng)戰(zhàn)略（中華人民共和國教育部，2019）。杜靜等（2019）指出人機如何和諧共處是教育人工智能倫理建構(gòu)的關(guān)鍵。劉三女牙等（2021）也指出，教育主體與教育人工智能之間的關(guān)系是教育人工智能倫理研究的重要內(nèi)容。綜上而言，厘清人工智能與人的關(guān)系，構(gòu)建倫理框架、規(guī)范及原則為教育主體帶來福祉（Siau et al.，2020），促進(jìn)兩者協(xié)同共生，是教育人工智能倫理內(nèi)涵研究的核心。

2.倫理原則：尊重和體現(xiàn)學(xué)生主體的發(fā)展需求

已有研究探討了人工智能倫理原則，要求從有益、安全、可釋、公平、穩(wěn)健等方面打造合乎倫理的人工智能（Hogenhout，2021），做到透明可釋、公平公正、科技向善、責(zé)任擔(dān)當(dāng)、保護(hù)隱私等（Jobin et al.，2019;AI HLEG，2019），充分體現(xiàn)了作為主體的人的發(fā)展需求。

除了遵循上述一般性的倫理原則，教育人工智能亦需遵循教育規(guī)律，尤其要考慮教育主體中學(xué)生的發(fā)展需求。對教育主體而言，教育人工智能應(yīng)以算法、關(guān)系、情感、資源為視角（趙磊磊等，2021），以仁愛為出發(fā)點，確保教育公平公正，且能最大程度地支持教育決策（鄧國民等，2020）。針對學(xué)習(xí)者，李曉巖等（2021）還提出形塑自我原則，包含良善、誠信與節(jié)制。綜上，學(xué)生作為人工智能的使用者和受用者，應(yīng)秉持善用、恰用的準(zhǔn)則，并有權(quán)力管控隱私數(shù)據(jù)（沈苑等，2019）、享受學(xué)習(xí)樂趣（Aiken et al.，2000）、依據(jù)技術(shù)做出決策（Nichols et al.，2018），從而享有更加公平且高質(zhì)量的教育，促進(jìn)自身健康、全面和個性化發(fā)展。因此，教育人工智能倫理原則須以人工智能倫理原則為基礎(chǔ)，彰顯公平、包容與數(shù)據(jù)算法使用合乎倫理的理念，尊重和凸顯學(xué)生的發(fā)展需求。

3.倫理風(fēng)險規(guī)避：技術(shù)設(shè)計與教育價值的雙向規(guī)約

教育人工智能的倫理問題百般復(fù)雜，但主要來源于兩個方面。一是技術(shù)設(shè)計與開發(fā)方面，算法易導(dǎo)致學(xué)生發(fā)展路徑固化并帶來偏見（Tuomi，2018），數(shù)據(jù)過度采集易加劇學(xué)生隱私數(shù)據(jù)泄露的風(fēng)險（李世瑾等，2021）。二是教育實踐方面，人工智能的應(yīng)用可能導(dǎo)致教育不公平問題，以及師生關(guān)系、學(xué)生與技術(shù)的關(guān)系發(fā)生異化（吳河江等，2020）。針對上述問題，一方面要明確技術(shù)開發(fā)理念，遵循教育價值引導(dǎo)下的技術(shù)規(guī)范和科學(xué)標(biāo)準(zhǔn)（馮銳等，2020），不斷優(yōu)化算法。另一方面，學(xué)生應(yīng)成為倫理的積極實踐者（羅生全等，2020），對可能出現(xiàn)的風(fēng)險持有清晰的認(rèn)知，端正態(tài)度，掌握知識，遵循規(guī)范，合理運用技術(shù)，接受他人監(jiān)督（李曉巖等，2021）。學(xué)校層面應(yīng)開設(shè)人工智能課程，從意識態(tài)度、知識理解、應(yīng)用實踐等方面滲透倫理教育（Burton et al.，2017）。但倫理風(fēng)險規(guī)避不是一蹴而就的，仍面臨嚴(yán)峻的挑戰(zhàn)與考驗。例如，面對復(fù)雜的教育場景，宏觀的人工智能倫理規(guī)范雖為教育人工智能提供了前瞻性認(rèn)識指導(dǎo)，但仍未形成公認(rèn)的規(guī)范準(zhǔn)則（沈苑等，2019），其深入應(yīng)用過程仍存在困難。另外，人工智能風(fēng)險分析研究尚不深入，難以提供預(yù)警防范;以及人工智能課程資源有限，亦為倫理原則實踐增加了難度（楊現(xiàn)民等，2018）。

綜上所述，如何從學(xué)生的倫理認(rèn)知角度破題析因、找尋對策，是支撐教育人工智能與學(xué)生協(xié)同共處，促進(jìn)學(xué)生全面發(fā)展的關(guān)鍵。因此，研究基于綜述分析，構(gòu)建了面向大學(xué)生的教育人工智能倫理內(nèi)涵框架，通過調(diào)研了解大學(xué)生對教育人工智能倫理認(rèn)知的現(xiàn)狀，并從自上而下和自下而上相結(jié)合的視角提出了倫理風(fēng)險規(guī)避對策，以期為教育人工智能助力構(gòu)建新型智能教育生態(tài)提供指導(dǎo)建議。

三、研究設(shè)計與實施

研究設(shè)計與實施分為三個階段，如圖1所示。在倫理內(nèi)涵框架制定階段，依據(jù)政策和文獻(xiàn)研究，經(jīng)過專家咨詢及多輪迭代制定并修改倫理內(nèi)涵框架。在倫理認(rèn)知現(xiàn)狀問卷設(shè)計階段，針對大學(xué)生群體制定問卷并開展預(yù)調(diào)研。在調(diào)研正式實施階段，以問卷調(diào)查為主、以訪談為輔探究大學(xué)生對教育人工智能倫理的認(rèn)知現(xiàn)狀。在此基礎(chǔ)上，研究還剖析了倫理建設(shè)難點問題，并提出相應(yīng)的對策建議。

1.倫理內(nèi)涵框架制定

研究以教育人工智能倫理內(nèi)涵為出發(fā)點，遵循人工智能倫理規(guī)范與要求，結(jié)合教育發(fā)展特征和學(xué)生發(fā)展需求，主要參考《合乎倫理的人工智能框架》，初步構(gòu)建了教育人工智能倫理內(nèi)涵框架。例如，借鑒《合乎倫理的人工智能框架》中的“有益”“公平”“數(shù)據(jù)”“安全可釋”而改編為本研究的“發(fā)展助力”“多元包容”“數(shù)據(jù)管理”“安全可靠”4個維度，同時基于智能依賴、價值沖擊等倫理風(fēng)險及形塑自我原則，提出“自主維護(hù)”維度。最終，面向大學(xué)生的教育人工智能倫理內(nèi)涵框架由自主維護(hù)、發(fā)展助力、多元包容、數(shù)據(jù)管理和安全可靠5個維度構(gòu)成，并將其進(jìn)一步細(xì)分為17個子維度，包括自主思考、自我肯定、自我約束、學(xué)習(xí)提升、健康保障、人際交往、情感引導(dǎo)、尊重差異、多元豐富、反饋說明、環(huán)境友好、數(shù)據(jù)授權(quán)、數(shù)據(jù)知情、數(shù)據(jù)保護(hù)、穩(wěn)健可靠、風(fēng)險抵御、透明可釋。

為確?？蚣艿目茖W(xué)合理性，研究采用德爾菲法，邀請16名專家開展了兩輪咨詢，以變異系數(shù)高于0.25為維度篩選標(biāo)準(zhǔn)來修改和完善框架。

在第一輪咨詢中，專家對各維度設(shè)置表示肯定，但認(rèn)為維度命名與描述仍需優(yōu)化。（1）“自主維護(hù)”：維度命名容易與“技術(shù)系統(tǒng)維護(hù)”相混淆;（2）“發(fā)展助力”：可刪除“身體健康”，并將關(guān)于學(xué)習(xí)發(fā)展的內(nèi)容納入其中;（3）“多元包容”：“環(huán)境友好”與“節(jié)省資源”表述欠佳;（4）“數(shù)據(jù)管理”與“安全可靠”：合并兩個維度的內(nèi)容。結(jié)合專家建議，研究將“環(huán)境友好”改為“可持續(xù)發(fā)展”，將“自主維護(hù)”改為“自立自主”，合并“數(shù)據(jù)管理”與“安全可靠”，并修訂部分維度的描述。

在第二輪咨詢中，專家對各維度的平均分、標(biāo)準(zhǔn)差和變異系數(shù)分別在8.19～9.38（滿分為10分）、0.86～2.01、0.09～0.23的范圍內(nèi)，表明專家意見分歧大幅減少，倫理內(nèi)涵框架構(gòu)建的科學(xué)性獲得較高認(rèn)同。同時，專家建議將“反饋解惑”刪除，維度命名還應(yīng)體現(xiàn)《倫理規(guī)范》的要求。通過進(jìn)一步優(yōu)化維度名稱及其表述，研究最終提出了涵蓋“人機協(xié)同與自立自主、學(xué)生福祉與發(fā)展、公平與持續(xù)發(fā)展、安全與可控可信”4個一級維度以及12個二級維度的倫理內(nèi)涵框架（如表1）。

2.調(diào)研對象

研究選取大學(xué)生為調(diào)研對象，主要基于兩點考慮：一是大學(xué)生是使用智能技術(shù)的主要群體，他們對教育人工智能的倫理認(rèn)知比中小學(xué)生更為深刻，且學(xué)習(xí)生活更具彈性也相對自由，但其尚未形成良好的自我管理能力（張敏等，2021），缺乏來自外界的規(guī)約，面臨較為嚴(yán)峻的倫理風(fēng)險。二是高校人工智能倫理教育推進(jìn)緩慢（任安波等，2020），因此亟需全面了解大學(xué)生群體的倫理認(rèn)知現(xiàn)狀，以為高校倫理教育改革提供證據(jù)。

3.調(diào)研設(shè)計與實施

根據(jù)已確定的面向大學(xué)生的教育人工智能倫理內(nèi)涵框架，編制調(diào)查問卷。問卷包括導(dǎo)語、基本信息及認(rèn)知現(xiàn)狀調(diào)研主體三部分。其中，認(rèn)知現(xiàn)狀調(diào)研共有23道題，題項均采用李克特5點量表。要求大學(xué)生根據(jù)實際情況作答，數(shù)值越高，表示符合程度越高。該問卷主體部分的信效度良好（Cronbach’s α=0.912，KMO=0.944，Sig.=0.000），達(dá)到了施測的要求。問卷以在線形式隨機發(fā)放，共回收3474份。在清洗數(shù)據(jù)時，刪除以下樣本：（1）問卷填寫對象不是大學(xué)生;（2）填寫時間過短;（3）有效性檢驗題未通過;（4）題項標(biāo)準(zhǔn)分|Z|>=3。最終，研究得到有效問卷2519份，有效率為72.5%?；厥盏挠行柧碇?，本?？粕?274名，研究生有245名。

四、數(shù)據(jù)結(jié)果分析

1.大學(xué)生對教育人工智能倫理認(rèn)知的畫像

從圖2可知，整體而言，大學(xué)生對教育人工智能倫理認(rèn)知的總維度得分均值為3.73分，尚未達(dá)到“比較滿意”的程度。各一級維度得分均值均高于3分，但彼此之間存在差距。其中“公平與持續(xù)發(fā)展”和“安全與可控可信”得分相對較低。由此可見，教育人工智能在設(shè)計、開發(fā)、應(yīng)用中的公平性、普惠性、安全性與可靠性還有待改善。

從“人機協(xié)同與自立自主”的二級維度得分可知（見圖3），大學(xué)生能堅守道德底線和法律底線，有意識地成為一名誠信的技術(shù)使用者，與教育人工智能實現(xiàn)基本的協(xié)同，不會輕易否認(rèn)自身價值。但他們對教育人工智能的依賴性較強，使得思考的獨立性和自主性有所降低，維度均值僅為3.53分。對數(shù)據(jù)的進(jìn)一步分析表明，近40%的大學(xué)生可能由于課業(yè)壓力大、管理能力不強等原因而面臨這方面的倫理風(fēng)險。

從“學(xué)生福祉與發(fā)展”的二級維度得分可知（見圖3），教育人工智能能夠基本滿足大學(xué)生的個性化學(xué)習(xí)需求，固化成長路徑的現(xiàn)象并不嚴(yán)重。溝通能力是智能時代大學(xué)生協(xié)同合作的重要能力。但大學(xué)生的人際交往和情感交流能力在一定程度上被削弱。統(tǒng)計得出，43%的大學(xué)生容易忽視了與他人的正常交往;35%的大學(xué)生正面臨情感交流危機。

從“公平與持續(xù)發(fā)展”的二級維度得分可知（見圖3），教育人工智能的公平性和包容性相對較弱，未能兼顧所有大學(xué)生的發(fā)展需求，對弱勢群體和特殊群體的關(guān)照不到位。同時，該維度下的“可持續(xù)發(fā)展”得分也相對更低（得分為3.50分），表明大學(xué)生不太關(guān)注教育人工智能可能帶來的環(huán)境影響，其可持續(xù)性有待加強。

從“安全與可控可信”的二級維度得分可知（見圖3），教育人工智能的安全性、可靠性、可釋性有待提高，尤其對隱私數(shù)據(jù)的保護(hù)亟待加強?！半[私保護(hù)”維度得分僅為3.37分，為所有二級維度最低得分。結(jié)合問卷與訪談分析可知，約55%的大學(xué)生正在經(jīng)受這一倫理風(fēng)險，這表明教育人工智能技術(shù)還存在缺陷，不足以提供強大的隱私安全保障。

2.不同大學(xué)生群體對教育人工智能倫理認(rèn)知差異分析

以單因素方差分析的方式對不同學(xué)歷和不同年級學(xué)生在各維度上的得分進(jìn)行了差異檢驗，結(jié)果顯示，不同學(xué)歷的大學(xué)生在“人機協(xié)同與自立自主”“安全與可控可信”兩個維度上均存在顯著差異（Sig.=0.002）。

具體而言，在“人機協(xié)同與自立自主”維度，博士生的得分遠(yuǎn)比本科和碩士生的得分要高，兩者之間的差異均達(dá)到顯著水平（見表2）?？赡艿脑蛟谟冢┦可谂c教育人工智能協(xié)同共處的過程中表現(xiàn)出更強的自我管理能力，其思考的獨立性和自主性也較強。同時，本科各年級在該維度上的得分由高到低依次為大一、大二、大四、大三;除大三與大四之間外，其余各年級之間均表現(xiàn)出顯著差異（Sig.<0.01）。結(jié)合訪談得知，大一新生相較于大三和大四的學(xué)生，也表現(xiàn)出更好的自我管理和獨立思考能力，這可能與其剛步入大學(xué)有教師的正確引導(dǎo)有關(guān)。

在“安全與可控可信”維度，除博士生與本碩生以外，其余學(xué)歷之間均存在顯著差異，按照得分由高到低依次為專科生、本科生、碩士生與博士生（見表3）。由此可見，隨著學(xué)歷的不斷提升，大學(xué)生的安全防范意識更為強烈，更能清楚認(rèn)識到人工智能在與人類共處過程中可能存在的安全隱患，因而也能更好地應(yīng)對教育人工智能倫理風(fēng)險。

3.大學(xué)生對人工智能的了解程度對其教育人工智能倫理認(rèn)知的影響分析

由圖4可知，除去對人工智能“完全不了解”的情況，隨著對人工智能了解程度的增加（從“比較不了解”到“完全了解”），大學(xué)生對教育人工智能倫理認(rèn)知的得分均值在不斷增加。這進(jìn)一步表明，對人工智能更為了解的大學(xué)生其對倫理風(fēng)險的關(guān)注度更高，能更為清晰地認(rèn)識到風(fēng)險產(chǎn)生的原因和類型，也更能有效協(xié)調(diào)彼此的關(guān)系。

五、教育人工智能倫理建設(shè)的四大難題

既然大學(xué)生對教育人工智能倫理認(rèn)知的現(xiàn)狀 不容樂觀，那么就有必要分析當(dāng)前教育人工智能倫理建設(shè)存在的難題，以便針對性地提出其倫理建設(shè)路徑。通過文獻(xiàn)梳理和調(diào)研剖析發(fā)現(xiàn)，目前教育人工智能倫理建設(shè)主要面臨四大難題。

1.教育人工智能倫理建設(shè)缺乏精準(zhǔn)的規(guī)范與指引

當(dāng)前研發(fā)者、使用者和管理者在研發(fā)、應(yīng)用、管理人工智能的過程中，對技術(shù)給社會帶來的潛在影響的考慮還不夠充分（新華社，2019）。對于智能教育企業(yè)而言，一方面，研發(fā)者缺乏必要的教育知識與經(jīng)驗，可能會無意間創(chuàng)造出阻礙人類發(fā)展的技術(shù)結(jié)構(gòu)（顏士剛，2015），進(jìn)而帶來教育數(shù)據(jù)過度收集和算法偏見等問題。另一方面，部分企業(yè)出于逐利目的而存在惡意收集、使用學(xué)生隱私數(shù)據(jù)的行為，從而對學(xué)生的安全造成威脅。此外，由于學(xué)校管理者和教師考慮欠佳，在引進(jìn)、管理與使用技術(shù)的過程中，還可能會造成數(shù)據(jù)管理不當(dāng)、學(xué)生過于依賴人工智能技術(shù)等問題。歸根到底，造成這些問題的主要原因在于當(dāng)前教育人工智能倫理建設(shè)在頂層設(shè)計層面缺乏精準(zhǔn)的規(guī)范與指引。

2.教育人工智能技術(shù)自身局限不利于倫理規(guī)約建立

教育人工智能在數(shù)據(jù)、技術(shù)和安全方面的特性限制了其倫理建設(shè)與規(guī)約。其一，教育人工智能以海量數(shù)據(jù)為支撐，以此構(gòu)建算法模型支持教育活動的開展。但在教育體系中，數(shù)據(jù)來源散亂，數(shù)據(jù)形式復(fù)雜，數(shù)據(jù)質(zhì)量不高（楊現(xiàn)民等，2018），算法模型有所欠缺，難以兼顧所有學(xué)生的發(fā)展需求。其二，包容性不高，存在技術(shù)操作繁復(fù)、智能產(chǎn)品設(shè)備要求高與快速迭代等情況，為弱勢群體、特殊群體、邊緣群體帶來困擾，甚至使其排斥、厭惡智能產(chǎn)品，可能會加劇教育的不公平。其三，技術(shù)安全保障不到位。當(dāng)前，教育人工智能的安全風(fēng)險保障主要采用被動應(yīng)急的措施，暫未能做到預(yù)警防范，技術(shù)安全保障措施亟待加強。

3.教師對學(xué)生的人文關(guān)懷與價值引領(lǐng)有所缺位

教師對學(xué)生的影響深遠(yuǎn)。因此，教師在引導(dǎo)和指導(dǎo)學(xué)生養(yǎng)成良好的技術(shù)使用習(xí)慣、提高學(xué)生智能教育素養(yǎng)、促進(jìn)學(xué)生與人工智能的人機協(xié)同發(fā)展等方面占據(jù)重要地位。調(diào)研結(jié)果表明，當(dāng)前大學(xué)生思考的獨立性和自主性有所降低，人際交往與情感交流受到?jīng)_擊，與教師、同伴之間的交流質(zhì)量有所降低。固然由于自尊心強、技術(shù)心流、便捷性等因素，學(xué)生更愿意直接求助于教育人工智能，但當(dāng)教師在學(xué)生人際交往、情感交流中缺少主動性時，也可能會進(jìn)一步加劇師生之間的“冷漠”。同時，教師對智能技術(shù)操作的不嫻熟和對倫理風(fēng)險的忽視，也可能導(dǎo)致其在教學(xué)過程中缺乏對學(xué)生的針對性指導(dǎo)和引導(dǎo)。

4.教育人工智能學(xué)習(xí)資源建設(shè)粗放

我國一直在鼓勵大中小學(xué)開設(shè)人工智能相關(guān)課程，走好人工智能普及之路。但調(diào)研發(fā)現(xiàn)，部分大學(xué)生對教育人工智能倫理問題的關(guān)注度不高，且有近80%的大學(xué)生未接觸過人工智能相關(guān)課程。大學(xué)生對人工智能倫理問題的忽視，乃至其思考獨立性和自主性下降、人際交往和情感交流弱化等問題，某種程度上也源于高校人工智能教育及倫理教育的缺失?？赡艿脑蛴卸阂皇遣糠指咝Ｈ狈θ斯ぶ悄軐W(xué)習(xí)資源建設(shè)的支持服務(wù)，不足以開展常態(tài)化的課程和活動;二是不同群體特征的大學(xué)生對教育人工智能倫理認(rèn)知現(xiàn)狀存在顯著差異，由于缺乏前期調(diào)研工作的支撐，因而資源建設(shè)存在針對性不強、質(zhì)量參差不齊的情況。

六、教育人工智能倫理建設(shè)的五條路徑

立足于當(dāng)前大學(xué)生對教育人工智能倫理認(rèn)知的現(xiàn)狀，以及教育人工智能倫理建設(shè)存在的難題，筆者提出如下倫理建設(shè)路徑。

1.正確規(guī)約以立德樹人為核心導(dǎo)向的教育人工智能倫理

立德樹人是教育的根本任務(wù)。教育人工智能的“價值取向”會對學(xué)生產(chǎn)生深刻影響，而技術(shù)的價值是由技術(shù)設(shè)計者和創(chuàng)造者共同賦能的（祝智庭，2018）。為此，應(yīng)加快落實面向設(shè)計者和創(chuàng)造者的倫理教育，要求其踐行倫理規(guī)范與準(zhǔn)則，從系統(tǒng)設(shè)計的根源上規(guī)避和減少倫理風(fēng)險的產(chǎn)生。同時，技術(shù)設(shè)計者、創(chuàng)造者應(yīng)與教育工作者保持緊密合作，結(jié)合教育需求，不斷升級改良合乎教育倫理價值的技術(shù)，使其做到可控、可靠、可信賴，從而實現(xiàn)技術(shù)理性標(biāo)準(zhǔn)與人的價值取向相一致（于英姿等，2020）。唯有夯實智能教育的發(fā)展基礎(chǔ)，才能實現(xiàn)教育“立德樹人、全面育人、公平普惠”的目標(biāo)。

2.合理編制教育人工智能倫理規(guī)范指南

當(dāng)前部分企業(yè)過度收集和利用學(xué)生隱私數(shù)據(jù)、學(xué)生利用智能工具作弊等新聞事件時有發(fā)生，已引起國家和社會的廣泛關(guān)注。教育是一個復(fù)雜的系統(tǒng)，與技術(shù)的研發(fā)、使用、管理環(huán)環(huán)相扣，每一環(huán)節(jié)都至關(guān)重要，需要更為精準(zhǔn)細(xì)致的倫理規(guī)范作為指導(dǎo)和支撐。因此，面對教育人工智能應(yīng)用過程中凸顯出來的倫理失范問題，應(yīng)在現(xiàn)有的人工智能倫理規(guī)范體系下，編制教育人工智能倫理規(guī)范指南，并圍繞倫理規(guī)范指南，出臺相應(yīng)的法律法規(guī)、責(zé)任清單和問責(zé)機制，為研發(fā)者、使用者、受用者和管理者四大主體提供正確的行動引領(lǐng)，明確技術(shù)與人的權(quán)力邊界，規(guī)范各類主體的行為。

3.提高教師智能教育素養(yǎng)水平并發(fā)揮其示范引領(lǐng)作用

技術(shù)在教育中的價值彰顯不在于技術(shù)本身，而在于其教學(xué)實踐應(yīng)用。教師在運用各類智能技術(shù)開展實踐教學(xué)的過程中，需要充分發(fā)揮其主觀能動性，做出合乎教育效益、倫理規(guī)范和技術(shù)效能的教學(xué)安排與決策。為此，提升教師的智能教育素養(yǎng)水平成為規(guī)避倫理風(fēng)險的必然選擇。一方面，智能教育要求教師秉持人本主義的教育人工智能應(yīng)用理念與原則，明確倫理與安全規(guī)范（胡小勇等，2021），不斷向深度高效的“人機協(xié)同”目標(biāo)靠攏。另一方面，教師在課程教學(xué)、教書育人過程中應(yīng)自覺融入人文與技術(shù)相結(jié)合的倫理原則和規(guī)范，引導(dǎo)學(xué)生合理合法地使用技術(shù)，正確處理、看待自身與教育人工智能的協(xié)同關(guān)系。

4.探索智能技術(shù)賦能的倫理風(fēng)險精準(zhǔn)預(yù)警機制

科技向善，一切技術(shù)都應(yīng)以某種善為目標(biāo)。當(dāng)前因技術(shù)異化而導(dǎo)致教育生態(tài)失衡問題日益嚴(yán)重，因此應(yīng)當(dāng)充分發(fā)揮人的主觀能動性，積極提出應(yīng)對舉措并付諸行動。為加強技術(shù)安全保障，企業(yè)可與國家相關(guān)部門、高校合作，充分利用智能技術(shù)賦能倫理建設(shè)，細(xì)分倫理挑戰(zhàn)風(fēng)險類型，針對不同的風(fēng)險類型制定解決預(yù)案，開發(fā)合乎倫理的風(fēng)險預(yù)警系統(tǒng)，以此持續(xù)監(jiān)測教育人工智能倫理風(fēng)險情況。一旦發(fā)現(xiàn)異樣，及時給執(zhí)法部門、教育部門、學(xué)校、教師、學(xué)生、家長等發(fā)送預(yù)警信息，從而實現(xiàn)精準(zhǔn)施策。但當(dāng)前的風(fēng)險預(yù)測分析等技術(shù)研究主要基于大數(shù)據(jù)的應(yīng)用，集中在金融、公共信息安全等領(lǐng)域，而涉及教育領(lǐng)域的智能技術(shù)風(fēng)險分析的研究很少。因此，國家相關(guān)部門和高校專家學(xué)者應(yīng)重視該領(lǐng)域的研究，不斷加快發(fā)展其風(fēng)險監(jiān)測技術(shù)。

5.建設(shè)公益性教育人工智能學(xué)習(xí)資源并鼓勵公眾學(xué)習(xí)參與

我國教育部前部長陳寶生（2019）在國際人工智能與教育大會上曾強調(diào)，要讓人工智能新技術(shù)、新知識、新變化從教學(xué)中進(jìn)入大中小學(xué)生頭腦，從職業(yè)培訓(xùn)中培養(yǎng)教師實施智能教育的能力，更要從全民科普活動中推進(jìn)全民智能教育。調(diào)研表明，大學(xué)生的教育人工智能倫理認(rèn)知現(xiàn)狀與其人工智能知識水平相關(guān)。因此，當(dāng)前應(yīng)由國家相關(guān)部門牽頭，以高校為主導(dǎo)力量，探索建設(shè)一批公益性教育人工智能學(xué)習(xí)資源，助力提升全民智能教育素養(yǎng)。倫理教育更是學(xué)習(xí)資源建設(shè)的重要一環(huán)，需要不同領(lǐng)域（如哲學(xué)、教育學(xué)、生態(tài)學(xué)、計算機科學(xué)等）的專家學(xué)者協(xié)同設(shè)計和實施，以助力倫理原則與規(guī)范的普及和實踐。

毋庸諱言，對學(xué)生的現(xiàn)在負(fù)責(zé)，就是對社會的未來發(fā)展負(fù)責(zé)。學(xué)校作為教育的重要場所，在倫理風(fēng)險規(guī)避上有著不可推卸的責(zé)任。為此，可結(jié)合不同階段的學(xué)生特性進(jìn)行施策，具體而言，中小學(xué)可將教育人工智能倫理教育融入信息技術(shù)課程和校本課程中，舉辦趣味活動激發(fā)學(xué)生學(xué)習(xí)的熱情。高?？舍槍Σ煌瑢W(xué)歷和不同年級學(xué)生的需求，將倫理教育融入計算機等必修課程或所開設(shè)的通識教育課程中，通過組織主題講座、企業(yè)學(xué)習(xí)參觀、創(chuàng)意話劇表演等活動，不斷提高大學(xué)生對倫理問題的關(guān)注度與認(rèn)知度，進(jìn)而促進(jìn)其形成正確的技術(shù)思考與行為習(xí)慣。

七、結(jié)語

人工智能時代機遇叢生，也充滿挑戰(zhàn)。著名物理學(xué)家霍金曾表示：“人工智能發(fā)展到極致時，我們將面臨著人類歷史上的最好或者最壞的事情?！保˙ritish Broadcasting Corporation，2014）教育人工智能為教育事業(yè)的發(fā)展作出了積極的貢獻(xiàn)，但也給人類帶來了嚴(yán)峻且迫切的挑戰(zhàn)。如何最大程度地規(guī)避教育人工智能的倫理風(fēng)險，穩(wěn)步推進(jìn)教育高質(zhì)量發(fā)展，是值得深入探討的問題。針對當(dāng)前倫理風(fēng)險頻發(fā)及調(diào)研工作缺失的情況，本研究面向大學(xué)生開展了教育人工智能倫理認(rèn)知現(xiàn)狀調(diào)研，剖析了教育人工智能倫理建設(shè)的難點問題，并提出了具有前瞻性和針對性的政策建議。未來研究團(tuán)隊將繼續(xù)面向中小學(xué)生深入開展調(diào)研，以更系統(tǒng)地探索其教育人工智能倫理認(rèn)知現(xiàn)狀及倫理建設(shè)難題，從而提出更全面的對策建議。但無論如何，人類都應(yīng)充分發(fā)揮其主觀能動性，直面可能產(chǎn)生的倫理風(fēng)險并將倫理規(guī)范嵌入教育人工智能的全生命周期中，不斷夯實智能教育發(fā)展和智慧社會建設(shè)的根基。

參考文獻(xiàn)：

[1]陳寶生（2019）.走好智能時代中國教育發(fā)展道路[J].中國教育網(wǎng)絡(luò)，（6）：20-21.

[2]鄧國民，李梅（2020）.教育人工智能倫理問題與倫理原則探討[J].電化教育研究，41（6）：39-45.

[3]杜靜，黃榮懷，李政璇等（2019）.智能教育時代下人工智能倫理的內(nèi)涵與建構(gòu)原則[J].電化教育研究，40（7）：21-29.

[4]馮銳，孫佳晶，孫發(fā)勤（2020）.人工智能在教育應(yīng)用中的倫理風(fēng)險與理性抉擇[J].遠(yuǎn)程教育雜志，38（3）：47-54.

[5]郝祥軍，王帆，祁晨詩（2019）.教育人工智能的發(fā)展態(tài)勢與未來發(fā)展機制[J].現(xiàn)代教育技術(shù)，29（2）：12-18.

[6]胡小勇，徐歡云（2021）.面向K-12教師的智能教育素養(yǎng)框架構(gòu)建[J].開放教育研究，27（4）：59-70.

[7]李建華（2020）.倫理與道德的互釋及其側(cè)向[J].武漢大學(xué)學(xué)報（哲學(xué)社會科學(xué)版），73（3）：59-70.

[8]李世瑾，胡藝齡，顧小清（2021）.如何走出人工智能教育風(fēng)險的困局：現(xiàn)象、成因及應(yīng)對[J].電化教育研究，42（7）：19-25.

[9]李曉巖，張家年，王丹（2021）.人工智能教育應(yīng)用倫理研究論綱[J].開放教育研究，27（3）：29-36.

[10]劉三女牙，劉盛英杰，孫建文等（2021）.智能教育發(fā)展中的若干關(guān)鍵問題[J].中國遠(yuǎn)程教育，（4）：1-7，76.

[11]羅生全，王素月（2020）.人工智能背景下的大學(xué)教學(xué)倫理重建[J].大學(xué)教育科學(xué)，（5）：96-102.

[12]任安波，葉斌（2020）.我國人工智能倫理教育的缺失及對策[J].科學(xué)與社會，10（3）：14-21.

[13]沈苑，汪瓊（2019）.人工智能在教育中應(yīng)用的倫理考量——從教育視角解讀歐盟《可信賴的人工智能倫理準(zhǔn)則》[J].北京大學(xué)教育評論，17（4）：18-34，184.

[14]吳河江，涂艷國，譚轢紗（2020）.人工智能時代的教育風(fēng)險及其規(guī)避[J].現(xiàn)代教育技術(shù)，30（4）：18-24.

[15]新華社（2019）.發(fā)展負(fù)責(zé)任的人工智能：我國新一代人工智能治理原則發(fā)布[EB/OL].[2021-07-03].http：//www.gov.cn/xinwen/2019-06/17/content_5401006.htm.

[16]徐曄（2018）.從“人工智能教育”走向“教育人工智能”的路徑探究[J].中國電化教育，（12）：81-87.

[17]顏士剛（2015）.教育技術(shù)哲學(xué)[M].北京：中國社會科學(xué)出版社：170.

[18]楊現(xiàn)民，張昊，郭利明等（2018）.教育人工智能的發(fā)展難題與突破路徑[J].現(xiàn)代遠(yuǎn)程教育研究，（3）：30-38.

[19]于英姿，胡凡剛（2020）.隱憂與消解：智能技術(shù)之于教育的倫理省思[J].遠(yuǎn)程教育雜志，38（3）：55-64.

[20]張敏，王朋嬌，孟祥宇（2021）.智能時代大學(xué)生如何破解“信息繭房”？——基于信息素養(yǎng)培養(yǎng)的視角[J].現(xiàn)代教育技術(shù)，31（1）：19-25.

[21]趙磊磊，張黎，代蕊華（2021）.教育人工智能倫理：基本向度與風(fēng)險消解[J].現(xiàn)代遠(yuǎn)距離教育，（5）：73-80.

[22]中華人民共和國教育部（2019）.聯(lián)合國教科文組織正式發(fā)布國際人工智能與教育大會成果文件《北京共識——人工智能與教育》[EB/OL].[2021-07-03].http：//www.moe.gov.cn/jyb_xwfb/gzdt_gzdt/s5987/201908/t20190828_396185.html.

[23]中華人民共和國科學(xué)技術(shù)部（2021）.《新一代人工智能倫理規(guī)范》發(fā)布[EB/OL].[2021-10-12].http：//www.most.gov.cn/kjbgz/202109/t20210926_177063.html.

[24]祝智庭（2018）.教育從不單純根據(jù)技術(shù)需求來變革[EB/OL].[2021-11-02].http：//nic.upc.edu.cn/2018/0613/c7404a

155602/pagem.htm.

[25]AI HLEG （2019）. Ethics Guidelines for Trustworthy AI[EB/OL]. [2021-07-03]. https：//op.europa.eu/en/publication-

detail/-/publication/3988569-0434-11ea-8c1f-01aa75ed71a1.

[26]Aiken， R. M.， & Epstein， R. G. （2000）. Ethical Guidelines for AI in Education： Starting a Conversation[J]. International Journal of Artificial Intelligence in Education， 11：163-176.

[27]British Broadcasting Corporation （2014）. Stephen Hawking Warns Artificial Intelligence Could End Mankind[EB/OL]. [2021-10-18]. https：//www.bbc.com/news/technology-30290540.

[28]Burton， E.， Goldsmith， J.， & Koenig， S. et al. （2017）. Ethical Considerations in Artificial Intelligence Courses[J]. AI Magazine， 38（2）：22-34.

[29]Hogenhout， L. （2021）. A Framework for Ethical AI at the United Nations[EB/OL]. [2021-07-03]. https：//unite.un.org/sites/unite.un.org/files/unite_paper_-_ethical_ai_at_the_un.pdf.

[30]Jobin， A.， Ienca， M.， & Vayena， E. （2019）. The Global Landscape of AI Ethics Guidelines[J]. Nature Machine Intelligence， 1：389-399.

[31]Kissinger， H. A. （2018）. How the Enlightenment Ends[EB/OL]. [2021-07-08]. https：//www.henryakissinger.com/articles/how-the-enlightenment-ends/.

[32]Nichols， M.， & Holmes， W. （2018）. Don’t Do Evil： Implementing Artificial Intelligence in Universities[C]// Proceedings of the European Distance and E-Learning Network （EDEN） ?Conference：110-118.

[33]Siau， K.， & Wang， W. （2020）. Artificial Intelligence （AI） Ethics： Ethics of AI and Ethical AI[J]. Journal of Database Management， 31（2）：74-87.

[34]Tuomi， I. （2018）. The Impact of Artificial Intelligence on Learning， Teaching， and Education[R]// Cabrera， M.， Vuorikari， R.， & Punie， Y. （Eds.）. Policies ?for ?the ?Future. Luxembourg： Publications Office of the European Union.

收稿日期 2021-10-12 責(zé)任編輯 劉選

Research on Ethics of Educational Artificial Intelligence： Connotation Framework，

Cognitive Status and Risk Avoidance

HU Xiaoyong， HUANG Jie， LIN Zirou， HUANG Manting

Abstract： While the artificial intelligence enables education to develop rapidly， it is also facing urgent ethical challenges. Therefore， it is important to clarify the connotation of ethics of educational artificial intelligence （EAI）， describe the status of college students’ ethical cognition and refine feasible strategies of risk avoidance. Based on the research into government policies and literature， after two rounds of revision and improvement by Delphi， an ethical connotation framework of EAI was constructed. It consists of four first-level dimensions including “man-machine coordination and independence”“well-being and development of students”“fairness and sustainable development”“safety and reliability” dimensions and twelve second-level dimensions. The questionnaire survey on the basis of this framework shows that college students’ ethical cognition of EAI is unbalanced， and they get low scores in the dimensions of “fairness and sustainable development” and “safety and reliability”. And the educational background， the grade and the understanding of AI all have a significant influence on college students’ ethical cognition of EAI. Currently， the construction of EAI ethics is confronted with difficulties such as the lack of precise norms and guidance， the absence of humanistic care and value guidance， limitations of technology and extensive construction of learning resources. In the future， strategies should be adopted to avoid ethical risks， such as standardizing the ethic of EAI correctly， developing ethical guidelines for EAI， improving intelligent education literacy for teachers， making intelligent technology support ethical construction and developing non-profit learning resources and so on. Only by embedding ethical standards into the whole lifecycle of EAI can we construct new intelligent education ecology.

Keywords： Educational Artificial Intelligence; Ethical Connotation; Ethical Cognition; Ethical Risk; Delphi Method