人工智能倫理課程建設(shè)與探索

韓煜 鄭秀峰 張影 沈才有（通訊作者） 浙江省金華高等研究院

作為引領(lǐng)未來(lái)社會(huì)發(fā)展的顛覆性技術(shù)，人工智能（Artificial Intelligence，簡(jiǎn)稱(chēng)AI）的重要性日益凸顯。它驅(qū)動(dòng)經(jīng)濟(jì)社會(huì)各行各業(yè)從數(shù)字化、網(wǎng)絡(luò)化向智能化轉(zhuǎn)型，大大提高了社會(huì)生產(chǎn)力，但它也隱藏著各類(lèi)風(fēng)險(xiǎn)和挑戰(zhàn)——就業(yè)替代、算法歧視、信息繭房、數(shù)據(jù)鴻溝、隱私泄露……因此，2021年9月，國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布《新一代人工智能倫理規(guī)范》，明確提出將倫理道德融入人工智能全生命周期，為從事人工智能相關(guān)活動(dòng)的自然人、法人和其他相關(guān)機(jī)構(gòu)等提供倫理指引。

●課程設(shè)置的必要性

隨著人工智能的普及，大家都關(guān)注其帶來(lái)的便利，而研究者則將目光放在人工智能相關(guān)法律、倫理、社會(huì)問(wèn)題上。因?yàn)槊撾x了人工智能倫理治理，人工智能技術(shù)及其產(chǎn)業(yè)就無(wú)法可持續(xù)健康發(fā)展。例如，傳統(tǒng)倫理學(xué)經(jīng)典案例——“電車(chē)難題”也更新迭代，成為人工智能領(lǐng)域的“無(wú)人車(chē)難題”。在無(wú)人車(chē)發(fā)生事故時(shí)，首先應(yīng)考慮行人的安全還是駕駛員的安全？駕駛責(zé)任如何歸屬和分配？諸如此類(lèi)的問(wèn)題引起了許多學(xué)者的關(guān)注。目前，人工智能的發(fā)展已經(jīng)超過(guò)了當(dāng)前的法律與人倫規(guī)范。因此，當(dāng)面對(duì)倫理問(wèn)題時(shí)，相關(guān)規(guī)范無(wú)法為工程師提供判斷依據(jù)，這就需要工程師自己做出決定，這也對(duì)工程師自身的素質(zhì)提出了要求——專(zhuān)業(yè)知識(shí)過(guò)硬、道德水平較高、保持倫理思維。目前，針對(duì)前兩項(xiàng)要求，人工智能專(zhuān)業(yè)的學(xué)生基本可以達(dá)到，但倫理思維對(duì)他們是一個(gè)極大的挑戰(zhàn)。因此，高等院校要及時(shí)開(kāi)展人工智能倫理課程教學(xué)，培養(yǎng)大學(xué)生的倫理道德素養(yǎng)。同時(shí)，社會(huì)也要鼓勵(lì)對(duì)工程師繼續(xù)加強(qiáng)倫理教育。

●授課內(nèi)容及授課方式

1.人工智能倫理課程內(nèi)容要點(diǎn)

人工智能倫理課程橫跨自然科學(xué)和社會(huì)科學(xué)，教師要將兩者融為一體。這就對(duì)授課教師提出了挑戰(zhàn)：既要熟悉人工智能的來(lái)龍去脈，如抖音熱門(mén)視頻背后的推薦算法、火車(chē)站入站口閘機(jī)背后的人臉識(shí)別、喚醒智能語(yǔ)音助理背后的自然語(yǔ)言處理等，又要熟悉倫理學(xué)中的功利論、道義論和美德論等內(nèi)容，還要熟悉相關(guān)法律法規(guī)。

2.案例教學(xué)法在人工智能倫理課程中的應(yīng)用

案例教學(xué)法從具體案例出發(fā)，構(gòu)建一個(gè)具體教育情景，注重引導(dǎo)學(xué)生主動(dòng)討論。其可以化抽象概念為具體情境，激發(fā)學(xué)生的學(xué)習(xí)興趣，化被動(dòng)學(xué)習(xí)為主動(dòng)討論，提升教學(xué)效率，實(shí)現(xiàn)課程思政。下面，筆者以三個(gè)案例來(lái)具體描述案例教學(xué)法在教學(xué)課程中的應(yīng)用。

（1）國(guó)家安全問(wèn)題

情境創(chuàng)設(shè)：社會(huì)相關(guān)網(wǎng)站會(huì)收集數(shù)量較大的用戶(hù)信息，包括人臉識(shí)別信息、精準(zhǔn)位置信息、身份證號(hào)等多類(lèi)敏感個(gè)人信息，如果被不法分子和別有用心的人利用，將會(huì)對(duì)我國(guó)的經(jīng)濟(jì)安全乃至政治安全造成極大的影響。另外，一些信息技術(shù)人員可能會(huì)利用網(wǎng)絡(luò)攻擊竊取關(guān)鍵網(wǎng)絡(luò)設(shè)備配置、網(wǎng)管數(shù)據(jù)、運(yùn)維數(shù)據(jù)等核心技術(shù)數(shù)據(jù)。

分析：數(shù)據(jù)是一種獨(dú)特的資產(chǎn)，其價(jià)值難以用金錢(qián)衡量。數(shù)據(jù)管理又是跨職能的任務(wù)，需要從業(yè)者具備多樣的技能和專(zhuān)業(yè)的知識(shí)。因此，研究者和從業(yè)者應(yīng)充分認(rèn)清數(shù)據(jù)對(duì)國(guó)家政治安全的挑戰(zhàn)，研究應(yīng)對(duì)之策，有效維護(hù)國(guó)家政治安全。

課程思政點(diǎn)：推進(jìn)國(guó)家安全體系和能力現(xiàn)代化，堅(jiān)決維護(hù)國(guó)家安全和社會(huì)穩(wěn)定。

（2）傳媒治理責(zé)任

情境創(chuàng)設(shè)：在社交平臺(tái)上，未被開(kāi)發(fā)的泄洪河溝——龍漕溝是一個(gè)被打上“網(wǎng)紅打卡地”標(biāo)簽的“小眾避暑勝地”。部分平臺(tái)甚至自作主張將它稱(chēng)為“龍漕溝景區(qū)”，利用算法將旅游攻略和游玩分享等內(nèi)容廣泛推送給用戶(hù)，吸引了眾多游客前去游玩。龍槽溝所在地政府曾多次發(fā)布提醒，設(shè)立欄桿和警示語(yǔ)，呼吁游客遠(yuǎn)離此處。但仍有不少游客存在僥幸心理，選擇冒險(xiǎn)游玩。結(jié)果，2022年夏天一場(chǎng)突如其來(lái)的山洪沿溝直沖而下，造成了7人遇難的嚴(yán)重事故。而在事故發(fā)生前，曾有用戶(hù)多次對(duì)旅游攻略等內(nèi)容進(jìn)行舉報(bào)，要求平臺(tái)下架相關(guān)視頻，但被置若罔聞。

分析：近幾年，新技術(shù)正在重塑傳媒業(yè)，出現(xiàn)了“萬(wàn)物皆媒，萬(wàn)眾皆媒”的形態(tài)。人工智能的融入，使得媒體的主導(dǎo)權(quán)從專(zhuān)業(yè)媒體轉(zhuǎn)移至技術(shù)平臺(tái)方，但技術(shù)方與平臺(tái)方顯然并不熟悉傳媒行業(yè)，而專(zhuān)業(yè)媒體工作者也鮮有人精通人工智能。面對(duì)這樣的挑戰(zhàn)，專(zhuān)業(yè)人員需要進(jìn)行一體化研究，形成整體解決方案。

課程思政點(diǎn)：加快構(gòu)建中國(guó)話(huà)語(yǔ)和中國(guó)敘事體系。

（3）元宇宙

情境創(chuàng)設(shè)：2021年，美國(guó)社交媒體公司FaceBook宣布改名為Meta，公司經(jīng)營(yíng)重點(diǎn)將轉(zhuǎn)向元宇宙。自此，元宇宙概念風(fēng)靡全球，眾多科技巨頭紛紛推出多種VR/AR等智能穿戴設(shè)備。而在上述設(shè)備中，人工智能技術(shù)發(fā)揮著支撐作用，讓用戶(hù)暢享娛樂(lè)等典型應(yīng)用場(chǎng)景。

但有研究者注意到，元宇宙提供的場(chǎng)景，是人工智能技術(shù)針對(duì)每個(gè)人內(nèi)心最深處的欲望量身打造的桃源秘境，用戶(hù)一旦進(jìn)入，容易流連忘返，久而久之，用戶(hù)便與現(xiàn)實(shí)世界脫軌。因而，如何讓現(xiàn)實(shí)世界與虛擬世界相互連接，合理構(gòu)建使得元宇宙有序運(yùn)轉(zhuǎn)的規(guī)則秩序，仍是個(gè)難題。

分析：科技的發(fā)展帶來(lái)的不僅是社會(huì)的進(jìn)步、生產(chǎn)力的提升，還可能造成人與人之間的關(guān)系日益淡化。

課程思政點(diǎn)：加強(qiáng)人工智能倫理研究，讓人工智能更好地服務(wù)于生活。

●線(xiàn)上課程多元化考核方式

隨著新工科建設(shè)、工程教育專(zhuān)業(yè)認(rèn)證等工作的深入開(kāi)展，課程教育改革日益關(guān)注培養(yǎng)學(xué)生的創(chuàng)新意識(shí)及思維能力。因此，傳統(tǒng)的考核評(píng)價(jià)模式需要做出相應(yīng)調(diào)整。良好的考核機(jī)制不僅要為甄別和選拔人才提供依據(jù)，更要激勵(lì)學(xué)生學(xué)習(xí)，促使學(xué)生查漏補(bǔ)缺，不斷自我完善。人工智能倫理是一門(mén)主觀性很強(qiáng)的課程，需要學(xué)生具備分析實(shí)際問(wèn)題能力，如果簡(jiǎn)單地采用筆試的方式進(jìn)行考核，為取得高分，學(xué)生勢(shì)必會(huì)采取死記硬背、考前突擊復(fù)習(xí)的方式完成學(xué)習(xí)。這樣就陷入了教師教得辛苦、學(xué)生學(xué)得難受的“死”循環(huán)。因此，需構(gòu)建科學(xué)有效的人工智能倫理線(xiàn)上課程多元化考核體系。

多元化考核指的是利用一系列方法評(píng)價(jià)學(xué)生學(xué)習(xí)結(jié)果，它具有以下特點(diǎn)：非機(jī)構(gòu)化情境、多評(píng)價(jià)主體，多重標(biāo)準(zhǔn)，多種途徑，多種方法。合理地運(yùn)用多元化考核，可以監(jiān)控教學(xué)過(guò)程管理，達(dá)到創(chuàng)新教育要求，重視學(xué)生能力和素質(zhì)培養(yǎng)，提高人才培養(yǎng)質(zhì)量，提升教師教學(xué)水平。筆者認(rèn)為，具體應(yīng)做到以下兩點(diǎn)。

1.日?？己撕推谀┛己讼嘟Y(jié)合

將考核分為期末考核、日?？己藘刹糠?，期末考核成績(jī)占30%，日?？己顺煽?jī)占70%。日?？己税记?、課前預(yù)習(xí)、課堂表現(xiàn)及課后作業(yè)等內(nèi)容，占比為2∶2∶1∶5，注重考查學(xué)生平時(shí)的學(xué)習(xí)情況。期末考核則是讓學(xué)生對(duì)某一綜合案例進(jìn)行分析，沒(méi)有標(biāo)準(zhǔn)答案，著重考查學(xué)生分析問(wèn)題、解決問(wèn)題的實(shí)踐能力。如果學(xué)生無(wú)法參加線(xiàn)下課程，可通過(guò)釘釘?shù)溶浖W(xué)習(xí)，完成考勤、預(yù)習(xí)及作業(yè)等考核內(nèi)容。

2.個(gè)人考核和團(tuán)隊(duì)考核相結(jié)合

現(xiàn)代社會(huì)日益強(qiáng)調(diào)團(tuán)隊(duì)合作的重要性，為培養(yǎng)學(xué)生的團(tuán)隊(duì)意識(shí)，學(xué)期開(kāi)始，教師引導(dǎo)學(xué)生自由組隊(duì)，形成若干個(gè)小組，組內(nèi)共同完成任務(wù)。上課前將要討論的問(wèn)題及相關(guān)資料發(fā)給小組，每次課程留出40分鐘的時(shí)間，讓學(xué)生在規(guī)定時(shí)間內(nèi)完成匯報(bào)；線(xiàn)上參與課程的學(xué)生可以通過(guò)網(wǎng)絡(luò)完成匯報(bào)。教師與其他組的學(xué)生共同參與考核過(guò)程，依照討論過(guò)程中學(xué)生在問(wèn)題分析、問(wèn)題解答和演示講解等各階段的綜合表現(xiàn)進(jìn)行考核。

●結(jié)語(yǔ)

本文對(duì)人工智能倫理課程授課內(nèi)容及授課方式進(jìn)行了介紹，深入探討如何將課程思政與案例教學(xué)法相結(jié)合，通過(guò)營(yíng)造具體的情境，增強(qiáng)學(xué)生的人工智能倫理意識(shí)。同時(shí)，針對(duì)線(xiàn)上課程的趨勢(shì)，提出了多元化考核模式，做到日常考核和期末考核相結(jié)合、個(gè)人考核和團(tuán)隊(duì)考核相結(jié)合，重點(diǎn)培養(yǎng)和考核學(xué)生的創(chuàng)新實(shí)踐能力。

目前，關(guān)于人工智能倫理課程的研究仍處于起步階段，期待越來(lái)越多的研究者投身其中，探索適合我國(guó)具體實(shí)際情況的人工智能倫理課程教學(xué)內(nèi)容及考核方式。