多模態(tài)數(shù)據(jù)融合下智能教育倫理問題及應(yīng)對(duì)策略

李曉娜 雷娜

摘要：近年來，人工智能在教育領(lǐng)域的發(fā)展取得了重大突破，其中多模態(tài)數(shù)據(jù)融合與智能教育相結(jié)合的應(yīng)用愈加廣泛，其可能引發(fā)的倫理風(fēng)險(xiǎn)也備受社會(huì)關(guān)注。本文詳細(xì)闡述了多模態(tài)數(shù)據(jù)融合下智能教育的發(fā)展現(xiàn)狀，深入剖析了智能教育可能引發(fā)的倫理問題，最后提出解決現(xiàn)有倫理困境的政策措施，以期推動(dòng)智能教育向善發(fā)展，更好地服務(wù)于人類和社會(huì)。

關(guān)鍵詞：智能教育；教育倫理；多模態(tài)數(shù)據(jù)融合；科技倫理

中圖分類號(hào)：G434? 文獻(xiàn)標(biāo)識(shí)碼：A? 論文編號(hào)：1674-2117（2023）08-0091-04

引言

在新時(shí)代背景下，人們更加關(guān)注利用智能前沿技術(shù)對(duì)傳統(tǒng)教育進(jìn)行改革，注重信息技術(shù)與教育教學(xué)融合發(fā)展，為學(xué)生和教師提供個(gè)性化服務(wù)。智能教育的快速發(fā)展，改善了教育教學(xué)環(huán)境，推動(dòng)了新的教學(xué)形式轉(zhuǎn)變，但也引發(fā)了一系列智能教育倫理問題，如智能教育的強(qiáng)大數(shù)據(jù)分析能力，可能會(huì)造成個(gè)人信息泄漏、教育主體功能的禁錮等。因此，正確認(rèn)識(shí)智能教育倫理問題并規(guī)避其風(fēng)險(xiǎn)成為當(dāng)今社會(huì)發(fā)展的重要議題。所以，本文通過分析多模態(tài)數(shù)據(jù)融合下的智能教育發(fā)展現(xiàn)狀及背后的倫理問題，提出了智能教育倫理問題的應(yīng)對(duì)策略，以期能為未來智能教育健康有序發(fā)展提供參考依據(jù)。

多模態(tài)數(shù)據(jù)融合下智能教育發(fā)展現(xiàn)狀

當(dāng)前，人工智能技術(shù)已經(jīng)進(jìn)入了一個(gè)嶄新時(shí)代，其在教育、出行、經(jīng)濟(jì)、醫(yī)療健康等諸多領(lǐng)域不斷發(fā)展突破。人工智能教育的主要思路是通過算法，利用互聯(lián)網(wǎng)、大數(shù)據(jù)信息通過計(jì)算機(jī)實(shí)現(xiàn)學(xué)生的個(gè)性化學(xué)習(xí)、自主學(xué)習(xí)和教師的輔助管理學(xué)習(xí)功能。[1]事物的存在方式是多樣的，也是多模態(tài)的，需要通過聲音、文字、圖像等多種形式呈現(xiàn)給社會(huì)大眾[2]，人工智能的學(xué)習(xí)也是多模態(tài)的，其核心主要是運(yùn)用科學(xué)技術(shù)方法來模擬與人類相似的對(duì)文本、語言和圖像的認(rèn)知。在智能教育領(lǐng)域中，多模態(tài)數(shù)據(jù)類型有很多種，前人研究中比較典型的數(shù)據(jù)分類有：Di Mitri et al（2018）[3]等人提出的運(yùn)動(dòng)和生理模態(tài)的行為數(shù)據(jù)和情境數(shù)據(jù)；穆肅（2021）[1]等將其分為數(shù)字空間數(shù)據(jù)、物理空間數(shù)據(jù)、生理體系數(shù)據(jù)、心理測(cè)量數(shù)據(jù)和環(huán)境場(chǎng)景數(shù)據(jù)這五類；而鄭永和（2022）[2]則將其分為外在行為表征數(shù)據(jù)、內(nèi)在神經(jīng)生理信息數(shù)據(jù)、人機(jī)交互數(shù)據(jù)和學(xué)習(xí)情境數(shù)據(jù)。在智能教育領(lǐng)域，多模態(tài)數(shù)據(jù)融合就是將學(xué)生外在行為特征、內(nèi)在心理神經(jīng)特征、外在環(huán)境氛圍和人機(jī)交互數(shù)據(jù)融合整理，從而描述學(xué)生的學(xué)習(xí)狀態(tài)和效果，這樣不僅可以提升數(shù)據(jù)分析的準(zhǔn)確性，還能夠提高對(duì)教育對(duì)象的精準(zhǔn)刻畫能力，及對(duì)教學(xué)效果精準(zhǔn)測(cè)評(píng)，進(jìn)而提出相應(yīng)改進(jìn)措施與方案，探索研究出更深程度的教學(xué)規(guī)律，提供更加適合用戶的服務(wù)。多模態(tài)數(shù)據(jù)融合下的智能教育運(yùn)用大數(shù)據(jù)和互聯(lián)網(wǎng)技術(shù)，全程跟蹤學(xué)生學(xué)習(xí)狀態(tài)，從多面、多維度、多視角將現(xiàn)有數(shù)據(jù)進(jìn)行整合研究，進(jìn)而對(duì)信息進(jìn)行全面分析，構(gòu)建起更有效率、更加契合學(xué)生心理行為的新型教育教學(xué)體系。[4]隨著人工智能在教育領(lǐng)域的發(fā)展，多模態(tài)數(shù)據(jù)融合將成為促進(jìn)智能教育發(fā)展的重要力量和智能教育的重要發(fā)展方向。

多模態(tài)數(shù)據(jù)融合下智能教育倫理問題

1.智能教育算法可能出現(xiàn)錯(cuò)誤或偏差

人工智能是將算法與數(shù)據(jù)處理合為一體的科學(xué)技術(shù)，算法是智能教育技術(shù)發(fā)展不可或缺的部分。由于人工智能產(chǎn)品內(nèi)部算法運(yùn)作模式與狀態(tài)具有復(fù)雜性與隱蔽性，一旦智能系統(tǒng)出現(xiàn)錯(cuò)誤或偏差，很難找出其根本原因，這將導(dǎo)致人們對(duì)人工智能技術(shù)的擔(dān)憂和不信任。[5]智能教育也是依據(jù)智能系統(tǒng)發(fā)展起來的，同樣有著類似的問題。同時(shí)，智能教育主要根據(jù)所記錄到的學(xué)習(xí)者的數(shù)據(jù)信息以及固定的評(píng)價(jià)標(biāo)準(zhǔn)和方法對(duì)學(xué)習(xí)者的學(xué)習(xí)狀態(tài)做出相應(yīng)判斷和決策[1]，這不可避免地會(huì)產(chǎn)生偏差，如數(shù)據(jù)信息的不確定性和判斷標(biāo)準(zhǔn)的偏見，這樣根據(jù)智能技術(shù)產(chǎn)生的用戶畫像來推薦學(xué)習(xí)內(nèi)容和方法，不僅容易造成對(duì)學(xué)生性別、年齡和性格等方面的偏見，還會(huì)限制學(xué)習(xí)者的創(chuàng)新性及其對(duì)多樣性內(nèi)容的需求。

2.智能教育模式缺乏師生情感互動(dòng)

智能教育是以智能系統(tǒng)為平臺(tái)搭建的數(shù)字化虛擬環(huán)境，遠(yuǎn)程交流、線上互動(dòng)成為新的交流和溝通方式，人與人之間的情感交流通過機(jī)器相互連接，可能導(dǎo)致學(xué)生之間、師生之間情感的缺失。同時(shí)。智能教育強(qiáng)調(diào)收集數(shù)據(jù)信息完成分析，發(fā)現(xiàn)教育規(guī)律，制訂教育計(jì)劃，但在此過程中收集到的數(shù)據(jù)往往不全面，如學(xué)習(xí)者和教師之間的情感數(shù)據(jù)信息無法測(cè)量[6]，從而容易忽視師生情緒狀態(tài)和感受情況，將溝通與交流、人文關(guān)懷屏蔽。此外，智能技術(shù)與教育過程結(jié)合除了改變?nèi)伺c人之間的關(guān)系，還有可能會(huì)引起人與機(jī)器之間關(guān)系的改變，如對(duì)科學(xué)技術(shù)的濫用可能會(huì)帶來學(xué)習(xí)者主動(dòng)性缺失和教學(xué)者的主觀能動(dòng)性減少的問題。[7]

3.智能教育主體地位弱化

從本質(zhì)上來說，教育實(shí)際上是人與人之間的社會(huì)實(shí)踐活動(dòng)，也是主體間的交互過程。無論是學(xué)生還是教師，都是教育教學(xué)過程的獨(dú)立個(gè)體和主體，他們有獨(dú)立思考的能力，也有自主選擇的權(quán)利。在傳統(tǒng)教學(xué)過程中，多媒體、教材等事物只是作為師生教育學(xué)習(xí)過程中的輔助工具，教師利用工具來進(jìn)行更完整的教學(xué)活動(dòng)。隨著智能教育系統(tǒng)的發(fā)展和成熟，智能教育應(yīng)用不再僅僅作為教學(xué)工具，它還可以扮演教師、學(xué)生、朋友的角色，這將會(huì)影響教育主體的地位，從而帶來倫理風(fēng)險(xiǎn)。一方面，在以往的教育教學(xué)活動(dòng)中，課上的教學(xué)活動(dòng)、課下作業(yè)的批改任務(wù)和制訂教育教學(xué)計(jì)劃都是由教師自主和協(xié)作完成，教師是教育教學(xué)過程中的主要角色。但是人工智能技術(shù)在教育領(lǐng)域的發(fā)展減輕了教師的負(fù)擔(dān)，它可以幫助教師在教學(xué)活動(dòng)中進(jìn)行決策、判斷和反饋，若過度依賴于人工智能技術(shù)，會(huì)造成教師的權(quán)威地位消減，弱化教師的職能。另一方面，如果學(xué)生個(gè)體過度依賴于人工智能，可能會(huì)減少學(xué)習(xí)的自主性，降低學(xué)生主動(dòng)探索新知的能力和創(chuàng)造力。[8]

4.智能教育信息安全難以保障

互聯(lián)網(wǎng)技術(shù)和人工智能的快速發(fā)展使人們的生活已經(jīng)離不開網(wǎng)絡(luò)，線上教育越來越普遍化，尤其是2019年新冠疫情暴發(fā)，使得在線教育的發(fā)展越來越壯大，在線教育用戶呈直線上升。據(jù)統(tǒng)計(jì)，截至2020年3月份，中國的在線用戶達(dá)到了4.20億，在線教育App設(shè)備數(shù)量達(dá)到4.30億臺(tái)。[9]這就意味著用戶資料每天都在被收集和提供給智能教育平臺(tái)，如用戶個(gè)人身份信息、學(xué)習(xí)時(shí)長、設(shè)備使用情況等，這些數(shù)據(jù)信息在網(wǎng)絡(luò)上會(huì)越來越龐大，若網(wǎng)絡(luò)防御技術(shù)不夠成熟，一旦黑客入侵將會(huì)造成巨大的數(shù)據(jù)泄露，給公民隱私帶來威脅，對(duì)人們的生產(chǎn)生活帶來不利影響，甚至有可能被不法分子利用，對(duì)用戶造成金錢或心理上的傷害。[7]

5.智能教育倫理監(jiān)管制度缺失

近年來，智能教育相關(guān)政策的制定和完善日益引起人們的重視，2016年國家出臺(tái)《“互聯(lián)網(wǎng)+”人工智能三年行動(dòng)實(shí)施方案》，2019年教育部發(fā)布《北京促進(jìn)人工智能與教育融合發(fā)展行動(dòng)計(jì)劃》。但目前國內(nèi)智能教育倫理規(guī)制法律體系尚未健全，關(guān)于智能教育技術(shù)的責(zé)任界定及監(jiān)管問題尚待解決，一旦在智能教育過程中出現(xiàn)倫理問題，責(zé)任界定無具體法律依據(jù)可以參考，教育主體的安全和利益可能會(huì)受到傷害，甚至?xí)順O大的社會(huì)負(fù)面影響。例如，在智能技術(shù)的催生下，依據(jù)數(shù)據(jù)和算法技術(shù)很容易獲得資源，數(shù)字教材發(fā)展迅速，這可能帶來盜版、抄襲等侵權(quán)問題。然而由人工智能所導(dǎo)致的知識(shí)侵權(quán)問題和責(zé)任分擔(dān)問題缺少相關(guān)法律條文約束，導(dǎo)致對(duì)相關(guān)人員利益的保護(hù)并不全面。同時(shí)，智能教育監(jiān)督管理體系不夠健全，政府部門、技術(shù)人員的監(jiān)督不夠嚴(yán)謹(jǐn)。

應(yīng)對(duì)策略

1.建立“以人為中心”的智能教育體系

首先，要樹立“以人為中心”的算法設(shè)計(jì)理念?！耙匀藶橹行摹钡闹悄芙逃惴w系更加強(qiáng)調(diào)以人類自身的需求為導(dǎo)向，在算法設(shè)計(jì)之初，依據(jù)用戶的行為習(xí)慣和用戶的反饋等信息來改進(jìn)算法，優(yōu)化和升級(jí)系統(tǒng)，以推動(dòng)用戶的個(gè)性化發(fā)展和滿足用戶多方面需求，同時(shí)要提高人工智能教育算法的可理解性和透明性，避免算法濫用和誤用。技術(shù)開發(fā)人員要與教育人員和學(xué)生個(gè)體保持緊密聯(lián)系，及時(shí)溝通并了解用戶反饋，不斷總結(jié)并修正目前所產(chǎn)生的問題，創(chuàng)造出更符合道德倫理要求的智能教育技術(shù)。其次，要保障智能教育中人的主體地位。進(jìn)一步普及智能教育知識(shí)，使教師和學(xué)生對(duì)智能教育有客觀、正確的理解和認(rèn)知，以理性的態(tài)度面對(duì)智能教育技術(shù)的發(fā)展。樹立以教師的教和學(xué)生的學(xué)為主、智能教育工具為輔的理念，呈現(xiàn)給學(xué)生更加豐富和有趣的課堂。教師要加強(qiáng)與學(xué)生的之間溝通，積極關(guān)注學(xué)生的學(xué)習(xí)狀態(tài)，注重對(duì)學(xué)生的人文關(guān)懷，既要通過智能教育大數(shù)據(jù)認(rèn)識(shí)教育規(guī)律，也應(yīng)注重收集學(xué)生個(gè)體“小數(shù)據(jù)”，發(fā)現(xiàn)和挖掘?qū)W生個(gè)性化特點(diǎn)，實(shí)現(xiàn)因材施教。

2.健全智能教育信息安全管理機(jī)制

在信息爆炸和人工智能快速發(fā)展的時(shí)代，數(shù)據(jù)信息是智能技術(shù)發(fā)展的基石，保障每個(gè)用戶的數(shù)據(jù)信息安全是當(dāng)今人工智能教育發(fā)展的關(guān)鍵問題之一。在多模態(tài)數(shù)據(jù)融合背景下，需要完善相應(yīng)信息安全管理機(jī)制，全方位、多角度保障用戶信息數(shù)據(jù)安全，確保智能教育系統(tǒng)在被用戶使用過程中的可靠性和安全性。首先，政府部門應(yīng)完善關(guān)于智能教育數(shù)據(jù)安全保護(hù)的法律法規(guī)，對(duì)教育數(shù)據(jù)的采集、分析、使用、共享和決策等進(jìn)行有效規(guī)制，明令禁止隱私泄露、數(shù)據(jù)濫用等違規(guī)行為，保障消費(fèi)者權(quán)益。其次，智能教育企業(yè)應(yīng)不斷完善智能教育數(shù)據(jù)保護(hù)措施并嚴(yán)格執(zhí)行，自覺保護(hù)用戶隱私，不惡意傳播和使用用戶數(shù)據(jù)。再次，學(xué)校要加強(qiáng)師生信息素養(yǎng)的培育以及信息安全教育培訓(xùn)，引導(dǎo)師生科學(xué)、合理地獲取及篩選教育信息資源，加深對(duì)信息倫理風(fēng)險(xiǎn)等問題的理解與思考，進(jìn)一步增強(qiáng)師生信息分辨能力和信息安全意識(shí)，提高其信息安全防護(hù)技能。同時(shí)，應(yīng)暢通信息反饋渠道，引導(dǎo)師生及時(shí)反饋智能教育資源使用中遇到的倫理問題，不斷改進(jìn)智能教育應(yīng)用成效。

3.建立智能教育倫理問題監(jiān)管體系

完善的監(jiān)管體系是促進(jìn)智能教育良性健康發(fā)展的重要支撐。第一，各地區(qū)教育主管部門及相關(guān)部門應(yīng)當(dāng)建立聯(lián)席會(huì)議制度，根據(jù)當(dāng)?shù)刂悄芙逃l(fā)展實(shí)際制訂相應(yīng)管理措施，加強(qiáng)對(duì)學(xué)校、各教育機(jī)構(gòu)和培訓(xùn)單位智能教育倫理問題的審查，嚴(yán)厲打擊智能教育發(fā)展中出現(xiàn)的違法違規(guī)行為，保障學(xué)生在相對(duì)安全可靠的環(huán)境中學(xué)習(xí)成長。第二，強(qiáng)化企業(yè)對(duì)智能教育系統(tǒng)設(shè)計(jì)中的風(fēng)險(xiǎn)評(píng)估。企業(yè)可組建區(qū)域技術(shù)管理小組，在智能教育系統(tǒng)開發(fā)設(shè)計(jì)與運(yùn)行過程中強(qiáng)化倫理審查，并制訂好相應(yīng)風(fēng)險(xiǎn)應(yīng)急處理措施，盡可能降低智能教育倫理風(fēng)險(xiǎn)。第三，學(xué)校、各教育機(jī)構(gòu)和培訓(xùn)單位應(yīng)該按照監(jiān)管要求明確，選派技術(shù)骨干力量組建智能教育倫理問題監(jiān)管團(tuán)隊(duì)，全面分析、排查、預(yù)警和化解本單位本部門智能教育系統(tǒng)面臨的潛在風(fēng)險(xiǎn)和危害。第四，強(qiáng)化教師在智能教育過程中的監(jiān)督作用。教師應(yīng)根據(jù)學(xué)生“最近發(fā)展區(qū)”對(duì)教育資源進(jìn)行鑒別和篩選，防止學(xué)生過度依賴人工智能提供的學(xué)習(xí)資源，偏離全面發(fā)展目標(biāo)。

4.完善智能教育倫理問題問責(zé)機(jī)制

在智能教育應(yīng)用中，任何一個(gè)環(huán)節(jié)出現(xiàn)問題都應(yīng)及時(shí)找到導(dǎo)致事故發(fā)生的原因和責(zé)任方，盡力規(guī)避智能教育倫理風(fēng)險(xiǎn)，因此必須不斷完善智能教育倫理問題問責(zé)機(jī)制。首先，政府部門應(yīng)制定強(qiáng)有力的法律法規(guī)政策，明確智能教育系統(tǒng)開發(fā)和運(yùn)用過程中所涉及的各項(xiàng)利益相關(guān)者如系統(tǒng)開發(fā)技術(shù)人員、開發(fā)商、用戶等的責(zé)任和義務(wù)，明確智能教育開發(fā)和應(yīng)用過程中的風(fēng)險(xiǎn)責(zé)任，并進(jìn)一步完善問責(zé)程序與問責(zé)方式，以確?？梢詫?duì)智能教育行為決策后果進(jìn)行問責(zé)，任何非法開發(fā)、濫用技術(shù)的行為都要受到相應(yīng)法律制裁。其次，合理明確的問責(zé)機(jī)制需要遵循公平、公正、透明的原則，即需要構(gòu)建一套智能教育系統(tǒng)數(shù)據(jù)記錄方案，確保智能教育系統(tǒng)工作流程透明化，以便于遇到問題能明確責(zé)任主體。另外，對(duì)算法決策過程、教師利用智能教育工具進(jìn)行教學(xué)的過程和學(xué)生學(xué)習(xí)期間的行為軌跡，也應(yīng)當(dāng)有完整的記錄保存方案，從而為可能發(fā)生的教育倫理問題問責(zé)提供準(zhǔn)確全面的資料和參考依據(jù)。

參考文獻(xiàn)：

[1]穆肅，崔萌，黃曉地.全景透視多模態(tài)學(xué)習(xí)分析的數(shù)據(jù)整合方法[J].現(xiàn)代遠(yuǎn)程教育研究，2021，33（01）：26-37+48.

[2]鄭永和，王一巖.教育與信息科技交叉研究：現(xiàn)狀、問題與趨勢(shì)[J].中國電化教育，2021（07）：97-106.

[3]Di Mitri，D.，Schneider， J.， & Specht， M. et al. From Signals to Knowledge： A Conceptual Model for Multimodal Learning Analytics[J].Journal of Computer Assisted Learning，2018，34（04）：338-349.

[4]楊彥軍，徐剛，童慧.智能學(xué)習(xí)環(huán)境中基于多模態(tài)數(shù)據(jù)的深度學(xué)習(xí)監(jiān)測(cè)研究[J].電化教育研究，2022，43（06）：68-76.

[5]王一巖，王楊春曉，鄭永和.多模態(tài)學(xué)習(xí)分析：“多模態(tài)”驅(qū)動(dòng)的智能教育研究新趨向[J].中國電化教育，2021（03）：88-96.

[6]戎翔.多模態(tài)數(shù)據(jù)融合的研究[D].南京：南京郵電大學(xué)，2012.

[7]梁冠宇.人工智能應(yīng)用于教育的倫理風(fēng)險(xiǎn)與規(guī)避[D].太原：山西大學(xué)， 2021.

[8]孫增芹，潘宇.人工智能倫理困境的突破——基于法律運(yùn)行的視角[C]//.《上海法學(xué)研究》集刊2022年第11卷——2022世界人工智能大會(huì)法治青年論壇文集，2022：161-168.

[9]于英姿，胡凡剛.隱憂與消解：智能技術(shù)之于教育的倫理省思[J].遠(yuǎn)程教育雜志，2020，38（03）：55-64.

作者簡介：李曉娜（1998—），女，河北邢臺(tái)人，河北地質(zhì)大學(xué)經(jīng)濟(jì)學(xué)院在讀碩士研究生，主要研究方向?yàn)榇髷?shù)據(jù)分析；雷娜（1982—），女，河北石家莊人，博士，河北地質(zhì)大學(xué)經(jīng)濟(jì)學(xué)院副教授，碩士生導(dǎo)師，主要研究方向?yàn)閰^(qū)域經(jīng)濟(jì)與技術(shù)創(chuàng)新。

基金項(xiàng)目：河北省省級(jí)科技計(jì)劃軟科學(xué)研究專項(xiàng)資助，“河北省科技倫理治理體系建設(shè)研究”（225576186D）。