人工智能研究中的探索空間與倫理界限

邢晶晶

【摘? 要】 教育在人工智能的加持下，促進(jìn)了教與學(xué)效率的提高。人工智能在教育領(lǐng)域的應(yīng)用具有巨大的探索和發(fā)展空間，但是也存在著不可逾越的倫理界限。秉持發(fā)展“以人為本”的生成性人工智能，要在探索的同時不越界，做到保護(hù)隱私、尊重人格等。

【關(guān)鍵詞】 人工智能；探索空間；倫理界限

人工智能（AI）是一個技術(shù)科學(xué)領(lǐng)域，其研究和開發(fā)包括理論、方法、技術(shù)和應(yīng)用系統(tǒng)，旨在模擬和增強(qiáng)人工智能。人工智能分為強(qiáng)人工智能與弱人工智能，本質(zhì)區(qū)別在于是否擁有自主意識。人工智能賦能教育的現(xiàn)象比比皆是，比如電子書包、多媒體交互、VR虛擬等技術(shù)。以及2022年發(fā)布的聊天機(jī)器人程序GPT，其功能強(qiáng)大，甚至被學(xué)生用來“解放”頭腦和雙手，代寫作業(yè)和論文。人工智能研究需要辯證看待。要在將人工智能應(yīng)用于教育中時發(fā)揮其正向的作用，同時避免跨越其反向的邊界線。因為在涉及與人相關(guān)的研究時，人工智能技術(shù)的應(yīng)用是存在限制的。人工智能隨之帶來的一系列倫理挑戰(zhàn)，我們需要積極應(yīng)對其隱患。做到發(fā)展“以人為本”的生成性人工智能，更好地為人類服務(wù)。

一、人工智能的底層邏輯：大數(shù)據(jù)、算法和算力

我們想要知道人工智能涉及的倫理問題，就需要解開人工智能的“黑匣子”，了解人工智能的底層邏輯。為什么都是設(shè)定好的程序，預(yù)先寫好的算法，還會出問題呢？人工智能因為沒有人為因素介入通常被人們認(rèn)為是公平的。但是實際的情況并卻不如人所愿。人工智能中也會出現(xiàn)對種族的歧視和女性的厭惡，也就是說人工智能中也是存在偏見和歧視的。那么，究竟是什么原因?qū)е碌?？人工智能的偏見主要源于算法和?shù)據(jù)。它的算法和數(shù)據(jù)使得它對某些特定的種族和性別表現(xiàn)出了負(fù)面偏見。人工智能和大數(shù)據(jù)是密不可分的關(guān)系，大數(shù)據(jù)是人工智能的能量來源，而算法則是推動人工智能發(fā)展的引擎。算法是計算機(jī)根據(jù)大數(shù)據(jù)歸納得出的識別邏輯、解決問題的方法。算力是計算機(jī)處理信息的能力。隨著互聯(lián)網(wǎng)的高速發(fā)展和信息時代的運轉(zhuǎn)，產(chǎn)生的是一個數(shù)據(jù)爆炸的結(jié)局。計算成本降低與算力進(jìn)步使得處理和分析海量數(shù)據(jù)成為可能。例如當(dāng)你走進(jìn)一家4S店時，經(jīng)理似乎對你不感冒，你上前詢問理由，經(jīng)理回答：“當(dāng)你走進(jìn)門的那一刻，我們的攝像頭已經(jīng)對你進(jìn)行面部識別，你的月工資、工作單位、最高消費水平等都一覽無余。”可以說，算法在幕后重新建立了一種秩序，幾乎所有的經(jīng)濟(jì)運行流程或人們的活動都受其影響。算法社會的前提條件是將萬物都數(shù)據(jù)化，包括了人的數(shù)據(jù)化。

二、人工智能研究中的探索空間

（一）腦機(jī)接口技術(shù)

腦機(jī)接口是可以連接機(jī)器外部設(shè)備與大腦的技術(shù)。目前了解到的腦機(jī)接口技術(shù)被用來幫助高位截肢的病人開球；幫助漸凍人實現(xiàn)意念打字；以及幫助出車禍的患者實現(xiàn)意念喝水等等。這項與人工智能有關(guān)的技術(shù)在教育、醫(yī)療、娛樂、健康等領(lǐng)域都多有應(yīng)用。舉一個貼近現(xiàn)實的例子：腦機(jī)接口中最廣泛應(yīng)用的技術(shù)是“人工耳蝸”。它能夠?qū)⒔邮盏降穆曇艮D(zhuǎn)化為電信號，并將這些信號傳輸?shù)蕉佒械碾姌O上。電極通過刺激耳蝸神經(jīng)來激活大腦的聽覺功能。腦機(jī)接口技術(shù)把一些不可能變成了可能。

腦機(jī)接口技術(shù)還可以分為兩類技術(shù)路線：侵入式和非侵入式。腦科學(xué)本身就是復(fù)雜的科學(xué)，收集的腦電信號是十分微弱的且易受噪音干擾。現(xiàn)在廣泛應(yīng)用的是非侵入式技術(shù)。但是，當(dāng)一些高位截癱患者需要功能恢復(fù)時就只能依靠植入腦機(jī)接口。利用侵入式技術(shù)，可以實現(xiàn)對視聽功能的重塑，從而輔助治療帕金森病和阿爾茨海默病等疾??；而非侵入式技術(shù)則可以用于監(jiān)測和改善睡眠質(zhì)量等問題。

（二）智能化課堂

當(dāng)人工智能融入教育，是康莊大道還是荊棘密布的小路？

人工智能已經(jīng)開始進(jìn)入教育領(lǐng)域，豐富了人們的教學(xué)方式與獲取知識的方式。但是過多的碎片知識涌入、眼花繚亂的智慧學(xué)習(xí)模式，與教育的本質(zhì)是否一致？AI在學(xué)習(xí)的過程中，應(yīng)該扮演什么角色？傳統(tǒng)的課堂教學(xué)往往是老師和學(xué)生之間的互動，學(xué)生大多是被動聽課，而且教學(xué)過程中缺乏實時反饋和互動。通過人工智能技術(shù)，可以實現(xiàn)智能化課堂，提高教學(xué)質(zhì)量和效率。例如智能教室通過視頻監(jiān)控、語音識別等技術(shù)，對學(xué)生的表情、動作、語言等進(jìn)行實時監(jiān)測和分析，幫助老師更好地了解學(xué)生的狀態(tài)，調(diào)整教學(xué)內(nèi)容和方法，提高教學(xué)效果。

目前，一些大學(xué)已開始嘗試將人工智能引入課堂，與傳統(tǒng)教學(xué)方式結(jié)合，以改進(jìn)教學(xué)主體之間的互動，有效提升學(xué)生的主體性，并推動傳統(tǒng)教育向智能教育的轉(zhuǎn)變。例如利用智能終端和即時反饋系統(tǒng)改造了智慧教室，為師生提供高效的教學(xué)與學(xué)習(xí)環(huán)境，并借助語音識別和圖像識別技術(shù)為學(xué)生提供智能化的自主測評平臺等。

現(xiàn)在，智能教育平臺的類型有很多，主要包括自動化教學(xué)平臺、智能化教學(xué)平臺和在線教育平臺。自動化教學(xué)平臺主要面向教師，幫助教師實現(xiàn)課程的自動化管理和授課；智能化教學(xué)平臺主要面向?qū)W生，幫助學(xué)生實現(xiàn)課堂學(xué)習(xí)的智能化；在線教育平臺主要是面向在校學(xué)生和在職人員，幫助他們實現(xiàn)遠(yuǎn)程在線學(xué)習(xí)。

（三）個性化學(xué)習(xí)

個性化學(xué)習(xí)是指收集和分析學(xué)生的學(xué)習(xí)數(shù)據(jù)，使用人工智能描述每個學(xué)生的學(xué)習(xí)風(fēng)格和特點，然后自動調(diào)整教學(xué)內(nèi)容、方法和節(jié)奏，使每個孩子都能接受最適合自己的教育。

雖然教育倡導(dǎo)個性化教學(xué)，但教師在面對眾多學(xué)生的情況下，很難感知和分析每個學(xué)生的學(xué)習(xí)情況。因此，實施個性化教學(xué)變得較為困難。現(xiàn)有的在線教學(xué)大都不是真正的個性化教學(xué)，只是將傳統(tǒng)教室移到了手機(jī)和電腦等電子設(shè)備上，仍無法及時有效地關(guān)注學(xué)習(xí)者的學(xué)習(xí)狀況。然而，隨著人工智能的出現(xiàn)，有望有效解決這一問題。

隨著人工智能技術(shù)的普及和應(yīng)用，個性化學(xué)習(xí)資源的獲取和利用得以加速。慕課等在線教育平臺作為我國教育領(lǐng)域的重要代表，已經(jīng)積累了大量的教育數(shù)據(jù)，為廣大學(xué)習(xí)者提供了豐富的學(xué)習(xí)資源。然而，學(xué)生在挑選課程時，往往會依據(jù)個人的興趣和現(xiàn)有的知識水平進(jìn)行選擇，這一現(xiàn)象在一定程度上可能導(dǎo)致信息過載，甚至引發(fā)學(xué)生的興趣喪失。通過利用人工智能的機(jī)器學(xué)習(xí)方法，結(jié)合學(xué)生的知識水準(zhǔn)、興趣喜好、學(xué)習(xí)習(xí)慣和學(xué)習(xí)情緒等數(shù)據(jù)信息，可以對學(xué)生的行為進(jìn)行分析，對學(xué)生進(jìn)行個性化的篩選和推薦。因此，大學(xué)教育可以使用人工智能來推動學(xué)生對具有個性化的專業(yè)領(lǐng)域資源的選擇，并開展個體化的教學(xué)。

三、人工智能研究中的倫理界限

（一）隱私保護(hù)的“最后一個堡壘”

腦機(jī)接口技術(shù)涉及對個人大腦活動的數(shù)據(jù)采集和分析，如果這些數(shù)據(jù)被濫用或泄露，將對個人的隱私權(quán)產(chǎn)生威脅。因此，在使用腦機(jī)接口技術(shù)進(jìn)行教育應(yīng)用時，必須確保學(xué)生的個人隱私不受侵犯，并采取相應(yīng)的安全措施。目前人工智能的廣泛應(yīng)用已經(jīng)明顯顯示出隱私保護(hù)問題。首先，教育過程中使用腦機(jī)接口來實時監(jiān)測學(xué)生的腦波動并及時反饋，這是否真正有利于教學(xué)效率提高，還是會阻礙學(xué)生進(jìn)入高度集中的學(xué)習(xí)狀態(tài)？其次，腦機(jī)接口是否會取代傳統(tǒng)的學(xué)習(xí)方式，使學(xué)生不再需要努力學(xué)習(xí)？如果我們能夠?qū)崿F(xiàn)知識的直接傳輸，這無疑會進(jìn)一步加強(qiáng)教育的機(jī)械性和技術(shù)化程度。再次，對于腦機(jī)接口技術(shù)的操作和控制，需要建立一套完善的道德和倫理準(zhǔn)則。例如在教育應(yīng)用中使用腦機(jī)接口技術(shù)來解讀學(xué)生的思維和情感狀態(tài)，需要確保這一技術(shù)的使用是基于學(xué)生的知情同意，并且盡可能避免對學(xué)生產(chǎn)生不必要的倫理壓力。此外，教育者需要在利用腦機(jī)接口技術(shù)時充分尊重學(xué)生的選擇權(quán)，避免過度干預(yù)學(xué)習(xí)過程和結(jié)果。最后，腦機(jī)接口技術(shù)在教育應(yīng)用中的使用也需要考慮到公平和公正原則。如果腦機(jī)接口技術(shù)只被少數(shù)特定群體所掌握和應(yīng)用，將會加劇教育資源的不平等分配問題。因此，有必要建立相應(yīng)的監(jiān)管機(jī)制和教育政策，確保腦機(jī)接口技術(shù)的應(yīng)用不會加劇社會不公平問題。

（二）“全景監(jiān)獄”

首先，個人隱私和數(shù)據(jù)安全是智能化課堂面臨的重要問題。在收集學(xué)生的學(xué)習(xí)數(shù)據(jù)和行為信息時，需要確保學(xué)生的隱私得到保護(hù)，防止數(shù)據(jù)被濫用或泄露。

其次，智能化課堂還可能加劇教育不平等問題。雖然智能化技術(shù)可以提供個性化的學(xué)習(xí)內(nèi)容，但是對于那些沒有機(jī)會接觸到智能化課堂的學(xué)生來說，他們可能會面臨學(xué)習(xí)資源不足的情況，從而進(jìn)一步拉大教育差距，出現(xiàn)教育鴻溝。

再次，事實上，在智能課堂中，對學(xué)生的學(xué)習(xí)行為數(shù)據(jù)的采集屬于一種外部監(jiān)控，它涉及監(jiān)控對象的意愿度、監(jiān)控事務(wù)范圍、監(jiān)控數(shù)據(jù)的應(yīng)用去向和監(jiān)控評價質(zhì)量等方面的倫理風(fēng)險。從局限的數(shù)據(jù)調(diào)查，一般情況下會演變?yōu)槿轿弧⑷^程、全員覆蓋的常規(guī)化和合法性的數(shù)據(jù)監(jiān)督，而調(diào)查的對象也會逐步喪失其道德主體的身份，而成為數(shù)據(jù)透明的客體對象。人工智能技術(shù)對學(xué)生的學(xué)習(xí)過程進(jìn)行實時全過程監(jiān)控，記錄學(xué)生的表情、動作、語言，對學(xué)生的性格有消極的作用，會對學(xué)生造成很大的心理負(fù)擔(dān)，有侵犯學(xué)生個人隱私的嫌疑。甚至有可能將學(xué)生變?yōu)椤氨硌菪汀比烁竦娜恕?/p>

最后，智能化課堂的應(yīng)用也需要謹(jǐn)慎對待。雖然智能化技術(shù)可以提高學(xué)習(xí)效果，但是過分依賴智能化系統(tǒng)可能削弱學(xué)生的自主學(xué)習(xí)能力和創(chuàng)造力。因此，在智能化課堂的設(shè)計與實施過程中，需要充分考慮如何平衡智能化技術(shù)和傳統(tǒng)教學(xué)方法，以確保學(xué)生全面發(fā)展和個性發(fā)展的需求得到滿足。

（三）個人信息泄露的危機(jī)

師生關(guān)系冷漠化。比如慕課的大量使用，導(dǎo)致在傳統(tǒng)的教育中，教師和學(xué)生的二元關(guān)系變成了機(jī)器、學(xué)生、教師的三元關(guān)系，在空間上對教師和學(xué)生的對話產(chǎn)生了影響，使學(xué)生無法直接感受教師的情感、態(tài)度、價值觀，學(xué)生逐漸成為缺少感情色彩的知識接受者。機(jī)器是冰冷的，只有具有人文關(guān)懷的教師才是學(xué)生的引導(dǎo)者。在大數(shù)據(jù)的推送下，學(xué)生接受的信息過量，信息迷航導(dǎo)致學(xué)生壓力倍增，會損傷身心健康。個性化學(xué)習(xí)需要收集和分析大量學(xué)生的個人數(shù)據(jù)，也可能涉及敏感信息的獲取和使用，如學(xué)生的姓名、年齡、學(xué)生成績等。在個人數(shù)據(jù)的收集和使用過程中，必須確保學(xué)生數(shù)據(jù)的安全和隱私。個性化學(xué)習(xí)還可能陷入算法偏倚和認(rèn)知限制的困境。個性化學(xué)習(xí)系統(tǒng)依賴于算法來分析學(xué)生數(shù)據(jù)并做出學(xué)習(xí)推薦，但算法的設(shè)計和實現(xiàn)可能存在偏倚和錯誤。如算法可能過分關(guān)注學(xué)生的某些學(xué)科，忽略其他學(xué)科的重要性。

人工智能教育的發(fā)展促進(jìn)了大數(shù)據(jù)在教育領(lǐng)域的拓展。教育機(jī)構(gòu)利用各種數(shù)據(jù)采集設(shè)備和數(shù)據(jù)分析系統(tǒng)獲取學(xué)生的各種信息，并利用強(qiáng)大的算法對這些海量數(shù)據(jù)進(jìn)行深入分析。不僅可以對學(xué)生成績進(jìn)行排名，還可以“計算”出一個人的道德品質(zhì)、政治素養(yǎng)、思維能力、心理健康狀況、行為習(xí)慣等，甚至可以“讀懂”其隱藏的伎倆?？梢哉f，在人工智能時代，一切都有可能被記錄，一切都可以成為大數(shù)據(jù)，智能算法系統(tǒng)比我們更了解自己，人們毫無保留地暴露在數(shù)據(jù)智能分析之下。

學(xué)生在平時使用人工智能應(yīng)用時，表面是風(fēng)平浪靜的個性化學(xué)習(xí)，背后卻是將學(xué)生的所有數(shù)據(jù)收集起來被數(shù)據(jù)公司利用，被智能教育商分享和使用，甚至他們已經(jīng)創(chuàng)建了一個教育用戶數(shù)據(jù)庫。這使得數(shù)據(jù)和個人信息的“所有權(quán)”變得毫無意義。

四、結(jié)語

文章首先梳理了人工智能的底層邏輯，明晰人工智能是如何實現(xiàn)目標(biāo)的，講清楚了人工智能的操作邏輯和基本原理。人工智能在教育中的應(yīng)用越來越廣泛和深入，與教育的融合也越來越普遍。人工智能與傳統(tǒng)教育的融合推動了高等教育的改革。人工智能在教育中的應(yīng)用可以實現(xiàn)跨時空學(xué)習(xí)，提升學(xué)習(xí)和教學(xué)效率等。在人工智能的時代下，高等教育中的主體，也面臨著挑戰(zhàn)和不容忽視的倫理問題，我們必須充分利用人工智能帶來的技術(shù)優(yōu)勢，以推動社會進(jìn)步和創(chuàng)新發(fā)展。然而，我們也要著重關(guān)注倫理邊界，確保人工智能技術(shù)的教育應(yīng)用不會對人類產(chǎn)生負(fù)面影響。同時，應(yīng)以教育技術(shù)的理性態(tài)度，客觀地評估人工智能技術(shù)的效果和潛在風(fēng)險，以確保其發(fā)展符合社會的共同利益和人類價值觀。只有在正確的引導(dǎo)下，人工智能才能成為社會發(fā)展的強(qiáng)有力支撐，為人類帶來更多福祉。

參考文獻(xiàn)：

［1］ 孫佳晶，馮銳. 人工智能教育應(yīng)用的倫理風(fēng)險研究［J］. 大眾文藝. 2020（03）：248-249.

［2］ 鄭忠梅. 教育技術(shù)理性的倫理意蘊——基于Web2.0的網(wǎng)絡(luò)教育文化視角的分析［J］. 中國電化教育，2011（03）：8-11+32.

［3］ 董云川，韋玲. 人工智能促進(jìn)高等教育發(fā)展的倫理糾偏［J］. 重慶高教研究，2021，9（02）：51-58.