我國(guó)人工智能倫理教育的缺失及對(duì)策

（中國(guó)科學(xué)技術(shù)大學(xué)人文與社會(huì)科學(xué)學(xué)院）

一、導(dǎo) 言

新興科技發(fā)展引發(fā)了諸多倫理、法律和社會(huì)問(wèn)題。倫理是未來(lái)科學(xué)技術(shù)發(fā)展的一個(gè)重要組成部分，需將其嵌入科技發(fā)展議程之中，對(duì)從事基礎(chǔ)研究、技術(shù)開發(fā)和應(yīng)用的各類人員提出建議和要求。而如何使他們關(guān)注、接受和實(shí)踐這樣一些倫理原則和規(guī)范？無(wú)疑，倫理教育是其中至關(guān)重要的工作。倫理教育已經(jīng)成為科學(xué)教育的重要內(nèi)容，在理學(xué)類、工學(xué)類、農(nóng)學(xué)類、醫(yī)學(xué)類等專業(yè)課程中，科學(xué)倫理、工程倫理、生態(tài)環(huán)境倫理、生命倫理、醫(yī)學(xué)倫理等倫理教育一般被作為人才培養(yǎng)的重要部分。

以人工智能為例，2006 年以來(lái)，隨著以深度學(xué)習(xí)為代表的機(jī)器學(xué)習(xí)算法在機(jī)器視覺(jué)和語(yǔ)音識(shí)別等領(lǐng)域取得極大成功，人工智能迎來(lái)快速發(fā)展期。與此同時(shí)，人工智能尚處于初期發(fā)展階段，安全、倫理、隱私的政策、法律和標(biāo)準(zhǔn)問(wèn)題值得關(guān)注，不僅關(guān)系到領(lǐng)域的持續(xù)健康發(fā)展，也直接影響社會(huì)與人工智能工具交互經(jīng)驗(yàn)中對(duì)人工智能技術(shù)的信任。隨著人工智能的大力發(fā)展，各個(gè)國(guó)家在制定人工智能發(fā)展戰(zhàn)略時(shí)，也紛紛提出了人工智能發(fā)展應(yīng)該遵循的倫理原則和規(guī)范。人工智能原則和規(guī)范的普及和實(shí)踐的一項(xiàng)重要工作，是推進(jìn)人工智能倫理教育。國(guó)外高校較早便開展了這方面的工作。根據(jù)對(duì)國(guó)外目前100 多項(xiàng)人工智能相關(guān)的倫理課程統(tǒng)計(jì)，其主要內(nèi)容有以下幾個(gè)主題：法律與政策、隱私與監(jiān)控、哲學(xué)、AI 與算法等，橫跨了人工智能的科研和應(yīng)用領(lǐng)域，并且較為完整地覆蓋了人工智能的各類倫理問(wèn)題[1]。

相比之下，我國(guó)高校人工智能倫理教育發(fā)展較緩，與國(guó)家人工智能快速發(fā)展的局面和形勢(shì)難以相襯。2020 年3 月國(guó)家決定推行“新基建”，其中人工智能相關(guān)的建設(shè)被列入重點(diǎn)推進(jìn)計(jì)劃之中。以往只是存在于局部的人工智能倫理問(wèn)題可能逐步發(fā)展為全局性問(wèn)題。2020 年人工智能被列入教育部2020 年度研究生擴(kuò)招的重點(diǎn)專業(yè)。人工智能相關(guān)人才的培養(yǎng)將會(huì)是這一政策的重點(diǎn)，而作為人工智能教育中重要一環(huán)的倫理教育，其重要性也將日益凸顯。加強(qiáng)學(xué)校教育在人工智能倫理方面的投入，提高學(xué)生對(duì)人工智能倫理的關(guān)注度和認(rèn)知度，顯然對(duì)于我國(guó)人工智能未來(lái)人才的培養(yǎng)具有積極的作用。但目前，我國(guó)高校人工智能教育還面臨著許多問(wèn)題，亟待研究和解決。

二、我國(guó)高校人工智能倫理教育現(xiàn)狀

隨著我國(guó)人工智能領(lǐng)域的快速發(fā)展，人工智能倫理教育日益成為一個(gè)值得特別關(guān)注的問(wèn)題?！案咝Ｔ谏像R人工智能專業(yè)、規(guī)劃其課程的同時(shí)，應(yīng)有意識(shí)地納入人工智能倫理道德課程的學(xué)分和學(xué)時(shí)，為未來(lái)的人工智能專業(yè)人才把好舵”[2]。可以說(shuō)，高校對(duì)推進(jìn)人工智能倫理教育已有一定的認(rèn)識(shí)，但相比于生命科學(xué)、醫(yī)學(xué)等學(xué)科，人工智能的倫理課程建設(shè)明顯滯后，教育方式與人才培養(yǎng)模式不符，高校人工智能教育難以覆蓋人工智能研發(fā)人才培養(yǎng)和人工智能產(chǎn)業(yè)發(fā)展需求。

據(jù)教育部2020 年3 月公布的2019 年度普通高等學(xué)校本科專業(yè)備案和審批結(jié)果顯示，180 所高校新增了“人工智能”專業(yè)[3]。但是除了北京大學(xué)、中國(guó)科學(xué)院大學(xué)、浙江大學(xué)、西安交通大學(xué)等少數(shù)高校以外[4]，國(guó)內(nèi)目前相關(guān)的人工智能倫理類課程較少，而這導(dǎo)致了專業(yè)學(xué)習(xí)人數(shù)增加和倫理課程數(shù)量呈現(xiàn)出明顯的斷層，少量的課程并不能滿足不斷增長(zhǎng)的學(xué)生數(shù)量。

與生命倫理、醫(yī)學(xué)倫理、工程倫理相比，人工智能倫理缺乏規(guī)范化的教材，這使得教學(xué)人員在大多數(shù)情況下需要自編教材，從而缺乏對(duì)人工智能專業(yè)學(xué)生進(jìn)行統(tǒng)一的、規(guī)范的倫理教育。另外，由于案例庫(kù)的缺乏，也需要教學(xué)人員自尋案例，但由于倫理問(wèn)題的可解釋性空間較大，可能存在同一案例的不同解釋，這對(duì)于形成一般性的對(duì)人工智能倫理問(wèn)題的一致性認(rèn)知是不利的。

由于上述問(wèn)題的存在，高校人工智能教學(xué)和研究從業(yè)人員存在較為嚴(yán)重的對(duì)倫理問(wèn)題認(rèn)識(shí)不充分的情況，同時(shí)對(duì)于如何將倫理理論與實(shí)踐結(jié)合依然存在大面積的認(rèn)知空白。

人工智能的發(fā)展存在諸多不確定性因素，可能對(duì)法律系統(tǒng)、社會(huì)倫理、國(guó)際關(guān)系等造成巨大的不可控的影響。增強(qiáng)對(duì)這些問(wèn)題的認(rèn)知同時(shí)擴(kuò)大倫理教育在人工智能人才培養(yǎng)中的影響，將有助于防范不可控的消極后果，避免走“先污染后治理”的老路。

三、國(guó)外高校人工智能倫理教育概觀

相比較而言，國(guó)外高校目前人工智能倫理課程開設(shè)大學(xué)多、系所多、主題多，在課程設(shè)計(jì)等方面有不少可借鑒之處。在2020 年美國(guó)第51 屆ACM 計(jì)算機(jī)科學(xué)教育技術(shù)研討會(huì)[1]上，來(lái)自科羅拉多大學(xué)博爾德分校和馬里蘭大學(xué)的研究人員對(duì)國(guó)際上的技術(shù)倫理課程發(fā)表了一份報(bào)告，其中對(duì)高校開設(shè)人工智能相關(guān)課程進(jìn)行了統(tǒng)計(jì)分析。目前國(guó)際上已經(jīng)有90 多所高校開設(shè)了與人工智能相關(guān)的倫理課程，其中美國(guó)大學(xué)開設(shè)的數(shù)量最多。同時(shí)開設(shè)相關(guān)課程的系所呈現(xiàn)多樣化，不僅有傳統(tǒng)的計(jì)算機(jī)系開設(shè)相關(guān)的課程，比如斯坦福大學(xué)、伯克利大學(xué)等等；亦有哲學(xué)系、歷史系、法律系、經(jīng)濟(jì)學(xué)系開設(shè)相關(guān)課程等等，比如愛(ài)丁堡大學(xué)、喬治敦大學(xué)等等。除此以外，在課程內(nèi)容上，也呈現(xiàn)出多樣化的特征，涵蓋了法律與政策、隱私與監(jiān)控、哲學(xué)、AI 與算法、社會(huì)與環(huán)境影響、商業(yè)與經(jīng)濟(jì)、科研倫理等多個(gè)話題[1]。

在專業(yè)化和規(guī)范化的人工智能倫理教育上，針對(duì)與實(shí)踐相結(jié)合，培養(yǎng)人工智能研發(fā)人才，應(yīng)對(duì)產(chǎn)業(yè)發(fā)展需求，目前國(guó)外有兩種教學(xué)方式非常有借鑒意義。這兩類教學(xué)方法可以使AI 專業(yè)學(xué)生從學(xué)習(xí)階段就開始識(shí)別和解決倫理問(wèn)題，并且可以讓學(xué)生對(duì)倫理理論在實(shí)踐上形成較為直觀的認(rèn)知，從而推動(dòng)學(xué)生在倫理認(rèn)知上的深入。同時(shí)，將理論和實(shí)踐相結(jié)合，將能為學(xué)生提供識(shí)別、面對(duì)和處理倫理問(wèn)題的寶貴經(jīng)驗(yàn)，使得其在踏上工作崗位之前已經(jīng)具備了一定的處理倫理問(wèn)題的經(jīng)驗(yàn)。

1.嵌入式倫理教學(xué)

嵌入式倫理學(xué)（Embedded EthiCS）是一種將倫理學(xué)融入計(jì)算機(jī)科學(xué)教育的新方法，與以往大課類型或者單獨(dú)設(shè)立的倫理課程不同，嵌入式倫理教學(xué)方法嘗試將自身與原有課程相融合，從而使學(xué)生可以在學(xué)習(xí)特定技術(shù)的課程時(shí)，同時(shí)學(xué)習(xí)由該技術(shù)造成的相關(guān)倫理問(wèn)題。它將有效地促進(jìn)學(xué)生在學(xué)習(xí)階段養(yǎng)成倫理思考的習(xí)慣，并在將來(lái)的工作中依然能夠有良好的倫理考量，同時(shí)它能夠在避免開新課的同時(shí)滿足學(xué)生對(duì)倫理考量的需求[5]。目前哈佛大學(xué)的計(jì)算機(jī)科學(xué)課程已經(jīng)采用了此方法（見(jiàn)表1）[5]。

根據(jù)嵌入式倫理，每門課程都有一名助教，一般是哲學(xué)領(lǐng)域的博士生或博士后并且具有很強(qiáng)的倫理學(xué)知識(shí)和豐富的教學(xué)經(jīng)驗(yàn)。助教與教師課程負(fù)責(zé)人合作設(shè)計(jì)一個(gè)倫理模塊，讓學(xué)生通過(guò)特殊的問(wèn)題獲得進(jìn)行倫理思考的實(shí)際能力。這些小模塊旨在為學(xué)生提供三項(xiàng)核心道德推理技能：識(shí)別和預(yù)測(cè)計(jì)算機(jī)技術(shù)開發(fā)和使用過(guò)程中的道德問(wèn)題的能力；單獨(dú)或與他人合作對(duì)這些問(wèn)題和潛在解決方案進(jìn)行推理的能力，運(yùn)用道德哲學(xué)中的概念和原則；以及有效溝通他們對(duì)解決這些問(wèn)題的理解和方法的能力。這些單元強(qiáng)調(diào)“主動(dòng)學(xué)習(xí)”活動(dòng)和作業(yè)，教學(xué)生將所學(xué)的哲學(xué)思想應(yīng)用到具體的、現(xiàn)實(shí)的道德問(wèn)題中，如最近的道德教育研究所建議的那樣。它們旨在幫助學(xué)生在上下文中鍛煉他們新近獲得的倫理推理技能[5]。

表 1 哈佛大學(xué)計(jì)算機(jī)科學(xué)課程[5]

2.模擬倫理實(shí)驗(yàn)方法

一般實(shí)驗(yàn)是自然科學(xué)類學(xué)生較為普遍采用的教學(xué)方法之一，而這也能夠給予當(dāng)前的AI 倫理教學(xué)以一種新的視角，即如何將倫理思想與自然科學(xué)教學(xué)緊密結(jié)合起來(lái)。模擬倫理實(shí)驗(yàn)要求學(xué)生能夠?qū)⑻囟ǖ膫惱碛^點(diǎn)植入到某項(xiàng)實(shí)驗(yàn)作品的制作中，同時(shí)通過(guò)積極的反饋給與對(duì)該項(xiàng)作品以倫理上的評(píng)價(jià)，使得學(xué)生能夠通過(guò)一項(xiàng)具體的實(shí)驗(yàn)完成倫理理論與實(shí)際應(yīng)用的結(jié)合。

以微軟AI 學(xué)校（Microsoft AI School）為例，它設(shè)計(jì)了一個(gè)負(fù)責(zé)任的會(huì)話AI（Responsible Conversational AI）實(shí)驗(yàn)，通過(guò)給出一系列背景知識(shí)（諸如一般的利益相關(guān)者）以及需要注意的責(zé)任命令（Responsibility imperatives），讓學(xué)生去設(shè)計(jì)一種能夠會(huì)話的AI，同時(shí)通過(guò)考核該AI 的可靠性、易用性以及可能帶來(lái)的（負(fù)面）后果，讓學(xué)生去理解何為責(zé)任及相關(guān)的倫理原則[6]。

在上述兩種教學(xué)方法之外，國(guó)外也采用諸如游戲教學(xué)、沉浸式劇場(chǎng)等方式對(duì)學(xué)生進(jìn)行倫理教育[1]，這些教育方式都可以在很大程度上加強(qiáng)學(xué)生對(duì)人工智能倫理問(wèn)題及其后果的認(rèn)知，修補(bǔ)其知識(shí)系統(tǒng)內(nèi)可能存在的對(duì)人工智能理解上的漏洞，并且能夠有效提升學(xué)生對(duì)倫理問(wèn)題的意識(shí)與警覺(jué)性。

四、加強(qiáng)我國(guó)高校人工智能倫理教育的建議

目前國(guó)內(nèi)的教學(xué)方法多以大課講授+討論組成[7]，這對(duì)于人工智能發(fā)展和我國(guó)人工智能戰(zhàn)略發(fā)展是不夠的。我們需要提高人工智能的倫理教育水準(zhǔn)，培養(yǎng)優(yōu)秀的、具備高道德水平的人工智能人才。這就需要不斷加快課程設(shè)計(jì)，加速推進(jìn)人工智能倫理課程的設(shè)立，提升學(xué)生理論聯(lián)系實(shí)際的能力，推進(jìn)人工智能倫理的技能化訓(xùn)練進(jìn)程。針對(duì)當(dāng)前我國(guó)高校人工智能倫理教育，可以從以下幾個(gè)方面入手：

（1）人工智能倫理教材的規(guī)范化。推進(jìn)統(tǒng)一化教材的編寫工作，同時(shí)加強(qiáng)對(duì)教學(xué)人員的培訓(xùn)，提高倫理課程的質(zhì)量與深度。由于倫理問(wèn)題涉及到多個(gè)學(xué)科，需要加強(qiáng)學(xué)科間的交叉合作與研究。目前人工智能倫理涉及到哲學(xué)、法律、經(jīng)濟(jì)等多個(gè)學(xué)科領(lǐng)域，在豐富對(duì)AI 倫理問(wèn)題認(rèn)知的同時(shí)，必須加強(qiáng)多學(xué)科合作教學(xué)。

（2）高校人工智能倫理應(yīng)聚焦學(xué)生的實(shí)踐需求，加強(qiáng)對(duì)學(xué)生未來(lái)可能直接涉及的實(shí)踐中的倫理問(wèn)題的教學(xué)，借鑒國(guó)外人工智能倫理教學(xué)方法，探索實(shí)踐新的教學(xué)方法，在提高學(xué)生倫理意識(shí)的同時(shí)，加速推進(jìn)理論與實(shí)踐的深度結(jié)合，避免出現(xiàn)理論與實(shí)踐脫節(jié)的狀況[8]。

（3）人工智能倫理教育需高校與企業(yè)聯(lián)手共育。目前國(guó)內(nèi)和國(guó)際上許多企業(yè)已經(jīng)成立了人工智能倫理相關(guān)委員會(huì)或者制訂了倫理準(zhǔn)則。企業(yè)在人工智能倫理實(shí)踐中積累的經(jīng)驗(yàn)?zāi)軌驅(qū)Ω咝５膫惱砝碚摻虒W(xué)形成增益性補(bǔ)充，同時(shí)加快學(xué)生從倫理思考轉(zhuǎn)向倫理應(yīng)用的過(guò)程，推動(dòng)產(chǎn)學(xué)研一體化。

（4）對(duì)標(biāo)國(guó)際和領(lǐng)域發(fā)展，同時(shí)關(guān)注中國(guó)的人工智能倫理問(wèn)題。人工智能是一個(gè)快速發(fā)展的領(lǐng)域，這是新興科技的顯著特征。教學(xué)上需要跟蹤人工智能領(lǐng)域的最新進(jìn)展和倫理問(wèn)題，關(guān)注國(guó)際上的倫理討論焦點(diǎn)。倫理問(wèn)題有在地化（localization）特點(diǎn)，且具有強(qiáng)應(yīng)用性，需要關(guān)注中國(guó)人工智能突出的倫理問(wèn)題和應(yīng)對(duì)思路，使人工智能倫理課程更能符合中國(guó)的實(shí)踐。除此以外，由于倫理準(zhǔn)則存在相對(duì)性，這將導(dǎo)致人工智能實(shí)踐存在區(qū)域差異，需要在教學(xué)中予以強(qiáng)調(diào)，以此提高學(xué)生對(duì)倫理準(zhǔn)則的敏感性。