近十年國內(nèi)人工智能教育倫理可視化分析

陳 浩，鄭如月

（1.西北師范大學(xué)教育技術(shù)學(xué)院，甘肅蘭州 730070；2.張家川第三高級中學(xué)，甘肅天水 741000）

人工智能教育事關(guān)國家安全和未來社會發(fā)展，人工智能教育的可持續(xù)發(fā)展將加快發(fā)展伴隨每個人一生的教育、平等面向每個人的教育、適合每個人的教育、更加開放靈活的教育[1]。教育信息化在智能時代發(fā)展到智能教育新階段，智能技術(shù)與教育深度融合將賦能教育，然而在重視智能技術(shù)在教育中深入應(yīng)用的同時，還應(yīng)該重視人工智能技術(shù)可能帶來的倫理問題。2017年，國務(wù)院印發(fā)通知：“在大力發(fā)展人工智能的同時，必須高度重視可能帶來的安全風(fēng)險挑戰(zhàn)，加強(qiáng)前瞻預(yù)測與約束引導(dǎo)，最大限度降低風(fēng)險，確保人工智能安全、可靠、可控發(fā)展”。[2]對待人工智能，我們?nèi)耘f應(yīng)當(dāng)保持“樂觀＞焦慮”的態(tài)度，讓人工智能始終服務(wù)于我們的工作和生活，形成造福社會、推動發(fā)展、助力改革的無盡活力[3]。

一、數(shù)據(jù)收集

本文依據(jù)中國知網(wǎng)（CNKI）數(shù)據(jù)庫，于2020年12月7日分別以“人工智能倫理”或“人工智能教育倫理”“人工智能”和“倫理”為關(guān)鍵詞，檢索時間為十年，其他檢索條件為默認(rèn)進(jìn)行文獻(xiàn)檢索，共檢索出2010-2020年期間“人工智能”和“倫理”共92篇、“人工智能教育倫理”或“人工智能倫理”共75篇，共計165篇，剔除與本研究主題不符合、會議論文、通知等文獻(xiàn)后，最終得到有效文獻(xiàn)94篇。本文基于科學(xué)知識圖譜分析軟件CiteSpace5.6.R3對文獻(xiàn)數(shù)據(jù)進(jìn)行分析。

二、研究熱點(diǎn)分析

（一）發(fā)文統(tǒng)計量

在2010-2020年間，關(guān)于我國人工智能教育倫理的研究文獻(xiàn)數(shù)量如圖1所示。關(guān)于“人工智能教育倫理”研究在2010-2017年間國內(nèi)研究匱乏，但自2017年起，國內(nèi)關(guān)于人工智能教育倫理研究的文獻(xiàn)迅速上升。是因?yàn)?017年開始國家高度重視人工智能教育，例如：2017年《新一代人工智能發(fā)展規(guī)劃》的頒發(fā)，將其上升至國家戰(zhàn)略層面并由此確立了人工智能教育三步走戰(zhàn)略目標(biāo)；在《教育部2018年工作要點(diǎn)》中采取“人工智能+教師隊伍建設(shè)行動”等政策文件都高度關(guān)注人工智能教育。2020年發(fā)文量只統(tǒng)計到12月7日，共發(fā)表34篇。由此可以看出，我國高度重視人工智能在教育中的應(yīng)用，并已逐漸認(rèn)識到人工智能教育倫理的重要性，相信隨著人工智能教育的深入應(yīng)用，未來會有越來越多的學(xué)者開始研究人工智能教育倫理相關(guān)領(lǐng)域。

圖1 國內(nèi)人工智能教育文獻(xiàn)出版數(shù)量

（二）關(guān)鍵詞共現(xiàn)圖譜

在CiteSpace5.6.R3中，將時間跨度（Time Slicing）設(shè)置為2010-2020年，時間切片（Years Per Slice）為1，節(jié)點(diǎn)類型（NodeType）中選擇“Keyword”，閾值（Top N Per Slice）選擇為出現(xiàn)頻率最高的50個關(guān)鍵詞，最終得到由130個節(jié)點(diǎn)，180條連線的關(guān)鍵詞共現(xiàn)知識圖譜（如圖2）。關(guān)鍵詞是研究主題的集中體現(xiàn)，也是文獻(xiàn)內(nèi)容的濃縮精華，對論文關(guān)鍵詞進(jìn)行分析可梳理出該領(lǐng)域的研究熱點(diǎn)[4]。網(wǎng)絡(luò)節(jié)點(diǎn)的中心度是反映節(jié)點(diǎn)核心程度的重要指標(biāo)之一[5]，節(jié)點(diǎn)中心性與其關(guān)聯(lián)的關(guān)鍵詞成正比。

知識圖譜中，關(guān)鍵詞出現(xiàn)的越多，圓圈就越大，代表該關(guān)鍵詞是研究者普遍關(guān)注的熱點(diǎn)。由圖2可知，我國近十年內(nèi)“人工智能教育倫理”的研究熱點(diǎn)主要是“技術(shù)理性”“教育發(fā)展”“倫理原則”“高等教育”“倫理道德”等。

圖2 國內(nèi)“人工智能教育倫理”關(guān)鍵詞共現(xiàn)圖譜

（三）關(guān)鍵詞頻次及中心度分析

根據(jù)我國近十年內(nèi)“人工智能教育倫理”研究文獻(xiàn)中高頻關(guān)鍵詞及關(guān)鍵詞中心度統(tǒng)計（如表1），“人工智能、倫理、人工智能倫理、技術(shù)理性、教育發(fā)展、倫理原則、高等教育、倫理道德、教育人工智能、倫理問題”排在關(guān)鍵詞前十。其中，圓圈最多的“人工智能”詞頻出現(xiàn)高達(dá)76次。不計主題詞，從節(jié)點(diǎn)中心度來看，中心度最高的為“倫理原則”和“算法”，均為0.4，其次為“倫理道德”為0.39。從關(guān)鍵詞詞頻和中心度來看，“倫理原則”“倫理道德”和“技術(shù)理性”在“人工智能教育倫理”中至關(guān)重要。

表1 關(guān)鍵詞頻次、中心度分布

（四）研究熱點(diǎn)主題

根據(jù)上述分析結(jié)果，本研究進(jìn)行歸納分析出近十年“人工智能教育倫理”的研究主題分別為人工智能教育倫理的問題研究、人工智能教育倫理的原則構(gòu)建、人工智能教育倫理的教育體系。

1.人工智能教育倫理的問題研究

依據(jù)“技術(shù)理性、倫理道德、倫理研究、法律風(fēng)險、算法、隱私”等的研究，從而使得人工智能教育倫理的研究主題形成。近年來人工智能技術(shù)不斷發(fā)展，使教育的方式發(fā)生變化，因此更多的專家學(xué)者把目光投入到人工智能教育，并研究其所帶來的倫理道德問題。黃榮懷等人在技術(shù)悖論視角下審視了人工智能應(yīng)用于教育的倫理困境包括技術(shù)濫用引發(fā)的不端行為、數(shù)據(jù)泄露引發(fā)的隱私擔(dān)憂、智能教學(xué)機(jī)器的身份與權(quán)力邊界方面[6]。馮銳等人其在教育中倫理風(fēng)險主要表現(xiàn)在人工智能與教育主體的權(quán)利嬗變、算法推薦與學(xué)生個性的發(fā)展異化、人工情感與人機(jī)互動的情感危機(jī)、智能感知與教育數(shù)據(jù)的價值困境這四個方面[7]。鄧國明等教育人工智能面臨的倫理問題利益相關(guān)者倫理問題、技術(shù)倫理問題、社會倫理問題三個方面[8]（如表2）。

表2 教育人工智能面臨的倫理問題

人工智能的出現(xiàn)將科技與倫理關(guān)系問題的研究推向高潮，探索規(guī)避人工智能教育倫理風(fēng)險的策略也正成為教育理論與實(shí)踐的前沿問題[9]。隨著人工智能技術(shù)在教育中的應(yīng)用，引發(fā)了教師對職業(yè)的擔(dān)憂，主要擔(dān)憂是“人工智能的應(yīng)用是否會真的取代教師？當(dāng)教師遇上人工智能，究竟會發(fā)生什么？人工智能技術(shù)出現(xiàn)后，教師真的會被取代嗎？人工智能時代，還需要教師嗎？”[10]同時還會引發(fā)其他一些倫理問題，如：可能會給用戶的私人數(shù)據(jù)和隱私保護(hù)帶來潛在的風(fēng)險；模糊教師、學(xué)生和人工智能代理等角色之間的界限等[11]。教育的最終目的是育人，人工智能教育應(yīng)重點(diǎn)關(guān)注教師教學(xué)需要、學(xué)生學(xué)習(xí)需求，進(jìn)而實(shí)現(xiàn)精準(zhǔn)化教學(xué)、個性化推薦等，可見人工智能教育的實(shí)施，關(guān)鍵在“人”。因此，在人工智能技術(shù)賦能教育發(fā)展過程中，應(yīng)該對人工智能技術(shù)理性看待，避免唯技術(shù)論；同時使用者要有合乎道德倫理、法律法規(guī)的意識，注重保護(hù)教育數(shù)據(jù)不泄露、明確教師與學(xué)生的主體地位。

2.人工智能教育倫理的原則構(gòu)建

依據(jù)“人類中心主義、信任度、人類自衛(wèi)者、倫理性創(chuàng)新、倫理決策、倫理規(guī)范”等關(guān)鍵詞形成人工智能教育倫理的原則構(gòu)建主題。推進(jìn)人工智能教育應(yīng)用的倫理建構(gòu)，為人工智能教育應(yīng)用提供倫理支持，不僅是人工智能技術(shù)發(fā)展的需要，也是教育規(guī)律發(fā)展的應(yīng)然要求[12]。2019年4月，歐盟人工智能專家委員會（Artificial Intelligence High Level Expert Group on Artificial Intelligence）發(fā)布了《人工智能倫理準(zhǔn)則》，該準(zhǔn)則以“可信賴人工智能”為愿景，從“人的能動性和監(jiān)督”“技術(shù)魯棒性和安全性”“隱私和數(shù)據(jù)管理”“透明性”“多樣性、非歧視和公平性”“社會和環(huán)境福祉”“問責(zé)”這七個方面，來構(gòu)建確保人工智能足夠安全可靠的倫理準(zhǔn)則框架[13]。杜靜、黃榮懷等人歸納出面向智能教育的人工智能倫理建構(gòu)模型—“APETHICS”模型，包括問責(zé)原則（Principle of Accountability）、隱私原則（Principle of Privacy）、平等原則（Principle of Equality）、透明原則（Principle of Transparency）、不傷害原則（Principle of Noharm）、身份認(rèn)同原則（Principle of Identity）、預(yù)警原則（Principle of Precaution）、穩(wěn)定原則（Principle of Stability）八大原則[14]。

人工智能教育的應(yīng)用涉及技術(shù)層面、技術(shù)與人之間的關(guān)系等問題，人工智能教育是人工智能技術(shù)及系統(tǒng)在教育領(lǐng)域的具體應(yīng)用，需要遵循一般的人工智能倫理原則；它又是一種具體的教育教學(xué)實(shí)踐活動，需要遵循教育倫理原則[15]。隨著人工智能教育的發(fā)展，對人工智能技術(shù)的看法、信任度等直接影響其在教育中的應(yīng)用，必須制定人工智能教育倫理規(guī)則，明晰人工智能教育應(yīng)用的倫理邊界[16]。對人工智能具體能做什么和不能做什么的倫理規(guī)定不僅符合當(dāng)前時代背景下人們對人工智能技術(shù)理性使用、客觀對待的需求，也可以促進(jìn)人工智能技術(shù)與教育的深度融合，加快教育變革。

3.人工智能教育倫理的教育體系

依據(jù)“教育發(fā)展、高等教育、教育人工智能、教育倫理”等關(guān)鍵詞形成人工智能教育倫理的教育體系主題。通過高等教育研究和發(fā)展人工智能，是各國政府解決各自技能差距的主要方法之一[17]。《高等學(xué)校人工智能創(chuàng)新行動計劃》，明確地提出“構(gòu)建人工智能多層次教育體系。在中小學(xué)階段引入人工智能普及教育；不斷優(yōu)化完善專業(yè)學(xué)科建設(shè)，構(gòu)建人工智能專業(yè)教育、職業(yè)教育和大學(xué)基礎(chǔ)教育于一體的高校教育體系。”[18]我國人工智能教育體系建設(shè)目前處于起步階段，高等教育在自然語言處理、圖像識別、計算機(jī)視覺、神經(jīng)網(wǎng)絡(luò)等關(guān)鍵技術(shù)方面具有堅實(shí)基礎(chǔ)，利用人工智能技術(shù)支撐人才培養(yǎng)模式創(chuàng)新在實(shí)現(xiàn)教育現(xiàn)代化、提高教育質(zhì)量等方面具有重要意義。人工智能教育倫理作為人工智能教育體系中重要組成部分，理應(yīng)受到重視。教育領(lǐng)域開展人工智能倫理教育的相關(guān)研究，并有效實(shí)施人工智能倫理教育，可有效減少學(xué)生在使用人工智能進(jìn)行學(xué)習(xí)時可能造成的對他者的傷害，并教會學(xué)生妥善處理好自身與另一智能之間的倫理關(guān)系[19]。

三、研究發(fā)展趨勢

（一）聚類視圖分析

CiteSpace依據(jù)網(wǎng)絡(luò)結(jié)構(gòu)和聚類的清晰度，一般而言，Q值一般在[0，1)區(qū)間內(nèi)，Q＞0.3就意味著劃分出來的社團(tuán)結(jié)構(gòu)是顯著的，當(dāng)S值在0.7時，聚類是高效率令人信服的，若在0.5以上，聚類一般認(rèn)為是合理的[20]。在CiteSpace中，將Time Slicing設(shè)置為2010-2020年，Years Per Slice為1，NodeType中選擇“Keyword”，進(jìn)行聚類可視化分析（如圖3），得到Q值為0.8477，S值為0.7202，可見聚類結(jié)構(gòu)劃分是顯著且合理的。

圖3 國內(nèi)“人工智能教育倫理”聚類視圖

聚類“#0 人工智能倫理”的特征詞有“社會倫理、設(shè)計倫理、道德算法、道德哲學(xué)”等。聚類“#1 人工智能”的特征詞有“道德接受者、智能機(jī)器人、道德主體、倫理主體”等。聚類“#2 倫理”的特征詞有“人工智能、教育發(fā)展、高等教育、技術(shù)理性”等。聚類“#3 安全可控”的特征詞有“倫理規(guī)范、人工智能應(yīng)用、前瞻研究、倫理道德”等。聚類“#4 倫理建設(shè)”的特征詞有“知識庫、倫理建設(shè)、倫理問題、大腦模型、人工智能系統(tǒng)”等。聚類“#5 倫理決策”的特征詞有“人工智能、倫理框架、治理規(guī)則、倫理原則”等。聚類“#6 技術(shù)異化”的特征詞有“人工智能、智能教育、教育倫理、教育大數(shù)據(jù)、人機(jī)倫理”等。

（二）研究演進(jìn)趨勢

依據(jù)國內(nèi)“人工智能教育倫理”時區(qū)視圖，通過運(yùn)用LIR進(jìn)行聚類，共得到6個聚類。根據(jù)聚類的高頻詞頻及文獻(xiàn)研讀，將研究演進(jìn)趨勢分為：人工智能教育倫理安全、人工智能教育倫理原則構(gòu)建。

1.人工智能教育倫理安全

該研究演進(jìn)趨勢包含“#0 人工智能倫理”“#1 人工智能”“#2 倫理”“#3安全可控”“#6 技術(shù)異化”。人工智能被廣泛應(yīng)用于教育領(lǐng)域的同時，相應(yīng)地引發(fā)了人們對知識產(chǎn)權(quán)保護(hù)、數(shù)據(jù)財產(chǎn)保護(hù)、侵權(quán)責(zé)任認(rèn)定以及機(jī)器人的法律主體地位等教育法律法規(guī)問題的探討[21]。用人工智能進(jìn)行學(xué)校管理能提高決策質(zhì)量、工作效率和治理體系的精細(xì)化，但同時也迎來了人工智能潛在“不可知、不可控、不可用和不可靠”的挑戰(zhàn)[22]。人工智能教育要在安全可控的范圍內(nèi)應(yīng)用，教育的目的是培養(yǎng)社會需要的人，技術(shù)在教育中僅僅只是為了促進(jìn)教育的發(fā)展，技術(shù)使用者要重視學(xué)生以及教師的地位，不能為了技術(shù)而技術(shù)?？梢?，人工智能教育倫理安全的研究能夠更好地促進(jìn)人工智能在教育中的應(yīng)用，進(jìn)而賦能教育，實(shí)現(xiàn)教育的變革。

2.人工智能教育倫理原則構(gòu)建

該研究演進(jìn)趨勢包含“#4 倫理建設(shè)”“#5 倫理決策”。為解決人工智能發(fā)展和應(yīng)用引發(fā)的倫理問題，歐盟已將AI倫理與治理確立為未來立法工作的重點(diǎn)內(nèi)容[23]。人工智能教育倫理原則的構(gòu)建可以規(guī)范人工智能教育應(yīng)用更好地賦能教育，企業(yè)要在人工智能教育產(chǎn)品開發(fā)方面重視算法安全、隱私保護(hù)等；高校更應(yīng)該重視人工智能教育倫理方面的教育；政府應(yīng)完善相關(guān)法律體系來維護(hù)公民權(quán)益。人工智能教育倫理原則的構(gòu)建在一定程度上能夠規(guī)范技術(shù)的使用，以防止出現(xiàn)突破道德底線的問題。

四、結(jié)語

人工智能技術(shù)作為近幾年發(fā)展最快的技術(shù)，其在教育中的應(yīng)用能夠更好地賦能教育，變革教育?；贑iteSpace5.6.R3對2010年-2020年人工智能教育倫理文獻(xiàn)進(jìn)行可視化分析，發(fā)現(xiàn)國內(nèi)人工智能教育倫理的研究熱點(diǎn)主要為“技術(shù)理性、教育發(fā)展、倫理原則、高等教育、倫理道德”等，以人工智能教育倫理的問題研究、人工智能教育倫理的原則構(gòu)建、人工智能教育倫理的教育體系等為研究主題。然而人工智能教育倫理的研究近幾年來較為缺乏，具體體現(xiàn)在我國相關(guān)政策法律法規(guī)還不健全、使用者缺乏相關(guān)保護(hù)意識、相關(guān)教育不全面、研究不深入等。人工智能教育倫理的研究可以讓人們更加明確人工智能技術(shù)在教育中應(yīng)該注意的問題，合乎倫理道德的使用相關(guān)技術(shù)，以此避免出現(xiàn)不符合倫理道德的問題，進(jìn)而實(shí)現(xiàn)技術(shù)的使用出現(xiàn)“1+1＞2”的效果。