教育場(chǎng)景中情感計(jì)算的應(yīng)用風(fēng)險(xiǎn)及其法律規(guī)制

龔善要

（東南大學(xué)法學(xué)院，江蘇 南京 211189）

研究表明，情感計(jì)算在教育場(chǎng)景中的應(yīng)用具有支持學(xué)習(xí)干預(yù)、輔助教育決策、提升學(xué)習(xí)效果與滿意度等積極功能。因而，早在2016 年，情感計(jì)算就被新媒體聯(lián)盟（New Media Consortium，NMC）發(fā)布的《地平線報(bào)告》評(píng)為長(zhǎng)期（4-5年）廣泛應(yīng)用的技術(shù)。近年來(lái)，隨著情感計(jì)算技術(shù)在教育領(lǐng)域的深度融合，情感計(jì)算被認(rèn)為是促進(jìn)教育個(gè)性化、智能化發(fā)展的重要技術(shù)支撐，成為人工智能和教育領(lǐng)域的交叉研究熱點(diǎn)[1]。然而，相較于人臉識(shí)別、語(yǔ)音識(shí)別、圖像識(shí)別等人工智能技術(shù)，教育場(chǎng)景中的情感計(jì)算不僅存在更強(qiáng)的技術(shù)漏洞、具有更為顯著的侵權(quán)風(fēng)險(xiǎn)，甚至還偏離了教育求真的終極目的，在底層技術(shù)、權(quán)利保護(hù)以及教育倫理領(lǐng)域誘發(fā)多重風(fēng)險(xiǎn)，產(chǎn)生顯著的“反噬效應(yīng)”。因此，亟須構(gòu)建一套面向情感計(jì)算的，統(tǒng)籌技術(shù)、權(quán)利、倫理多重風(fēng)險(xiǎn)的制度化規(guī)制方案。

一、教育場(chǎng)景中情感計(jì)算應(yīng)用的實(shí)踐特征

（一）教育場(chǎng)景中情感計(jì)算的技術(shù)依賴性

教育場(chǎng)景中情感計(jì)算的實(shí)踐應(yīng)用需要依靠基本情感理論、多源數(shù)據(jù)融合以及深度學(xué)習(xí)算法的支撐，因而呈現(xiàn)出顯著的技術(shù)依賴特征。首先，教育場(chǎng)景中的情感計(jì)算具有對(duì)基本情感理論的依賴性。情感計(jì)算的產(chǎn)生與應(yīng)用是基于心理學(xué)家保羅·埃克曼（Paul Ekman）在1970 年提出的基本情感理論而展開(kāi)的。根據(jù)這一理論，情感與面部表情之間具有普遍性的聯(lián)系，通過(guò)對(duì)面部表情的變化予以標(biāo)記可以識(shí)別出人們內(nèi)在情緒的變化[2]。在此基礎(chǔ)上，教育場(chǎng)景中的情感計(jì)算雖然予以了一定程度的領(lǐng)域性改造，但在底層的技術(shù)邏輯上仍然是基于基本情感理論而展開(kāi)的。例如，控制-價(jià)值理論、認(rèn)知情感理論、OCC 模型和情感動(dòng)力模型等教育情感計(jì)算模型本質(zhì)上均是基于情感與表情特征的普遍聯(lián)系而進(jìn)行的領(lǐng)域化拓展。其次，教育場(chǎng)景中情感計(jì)算的應(yīng)用依賴于對(duì)行為數(shù)據(jù)、表情數(shù)據(jù)、心理數(shù)據(jù)等多源數(shù)據(jù)的融合。有研究指出，與單模態(tài)相比，多模態(tài)下的情感計(jì)算在準(zhǔn)確率與效率上具有顯著優(yōu)勢(shì)[3]。因此，多源多模態(tài)的學(xué)習(xí)情感分析逐漸代替單一數(shù)據(jù)源的分析，數(shù)據(jù)融合成為當(dāng)前學(xué)習(xí)情感計(jì)算的有效方法[4]。事實(shí)上，隨著最近幾年可穿戴設(shè)備的快速發(fā)展，心率、血壓等生理特征的數(shù)據(jù)獲取也成為可能[5]。因而，借助攝像、錄音、眼動(dòng)儀、可穿戴設(shè)備等智能化工具實(shí)現(xiàn)對(duì)行為數(shù)據(jù)、生理數(shù)據(jù)、表情數(shù)據(jù)等多通道信息的融合計(jì)算已經(jīng)成為情感數(shù)據(jù)采集的主流手段。最后，隨著大數(shù)據(jù)與人工智能的技術(shù)進(jìn)步，情感計(jì)算開(kāi)始與卷積神經(jīng)網(wǎng)絡(luò)、貝葉斯網(wǎng)絡(luò)算法等智能化算法深度綁定，呈現(xiàn)出對(duì)算法的高度依賴性。例如，面對(duì)大規(guī)模數(shù)據(jù)集，有研究采用深度學(xué)習(xí)與機(jī)器學(xué)習(xí)算法對(duì)6.6 萬(wàn)條課程評(píng)論進(jìn)行情感分析[6]，在智能學(xué)習(xí)系統(tǒng)設(shè)計(jì)中選擇OCC 模型的事件結(jié)果評(píng)價(jià)標(biāo)準(zhǔn)，就需要借助貝葉斯網(wǎng)絡(luò)算法對(duì)學(xué)習(xí)情感進(jìn)行推理及預(yù)測(cè)[7]，在多源數(shù)據(jù)融合上也需要借助卷積神經(jīng)網(wǎng)絡(luò)提升情感計(jì)算的結(jié)果準(zhǔn)確性?？傊?，在技術(shù)層面，教育場(chǎng)景中的情感計(jì)算呈現(xiàn)出顯著的技術(shù)依賴性特征。

（二）教育場(chǎng)景中情感計(jì)算的權(quán)利侵入性

教育場(chǎng)景中情感計(jì)算的應(yīng)用本質(zhì)上是對(duì)受教育者情緒的識(shí)別，并在此基礎(chǔ)上施加干預(yù)與影響以實(shí)現(xiàn)對(duì)教育效果的提升。因此，不同于人臉識(shí)別、語(yǔ)音識(shí)別、圖像識(shí)別等技術(shù)在教育場(chǎng)景中的應(yīng)用，情感計(jì)算具有更強(qiáng)的尊嚴(yán)侵犯性與自由干預(yù)性。具體而言，從道德哲學(xué)的視角觀察，以休莫為代表的情感論者認(rèn)為，道德和道德判斷的根據(jù)在于情感[8]。甚至還有觀點(diǎn)認(rèn)為，情感不過(guò)就是思想和認(rèn)知，生氣事實(shí)上就是判斷一些人錯(cuò)誤地對(duì)待了你，并且導(dǎo)致人的尊嚴(yán)受到侵犯[9]。這也就表明，情感在一定程度上決定著道德的判斷與行為的選擇。換言之，情感與體現(xiàn)人格尊嚴(yán)的自由意志密切相關(guān)，對(duì)情感的識(shí)別、干預(yù)與影響具有強(qiáng)烈的侵入性。事實(shí)上，這一點(diǎn)從哲學(xué)思想史上也可以得到證明。如皮科在關(guān)于人的尊嚴(yán)的論述中就曾闡述到，人在本性上的自由就在于可以自由地支配自我、塑造自身。在康德那里，只有道德以及與道德相適應(yīng)的人性，才是具有尊嚴(yán)的東西[10]，體現(xiàn)自由意志的理性構(gòu)成了尊嚴(yán)的基礎(chǔ)。黑格爾在關(guān)于尊嚴(yán)的論述上認(rèn)為，尊嚴(yán)的基礎(chǔ)就在于它涉及一個(gè)為我而在的不可觸動(dòng)的領(lǐng)域[11]，也即，“尊嚴(yán)是自由和道德的自為存在及其不可觸動(dòng)的前提，人享有尊嚴(yán)，才成為自由人”[12]。也正因如此，2021 年 4 月 21 日歐盟委員會(huì)向歐洲議會(huì)和歐洲理事會(huì)提交的《關(guān)于人工智能（人工智能法案）的協(xié)調(diào)規(guī)則和修改某些聯(lián)盟立法法案的條例的提案》就將“情緒識(shí)別系統(tǒng)”視為“高風(fēng)險(xiǎn)”應(yīng)用，需要接受“從搖籃到墳?zāi)埂比芷诘膰?yán)格監(jiān)管?？傊逃龍?chǎng)景中情感計(jì)算的應(yīng)用會(huì)對(duì)受教育者的人格尊嚴(yán)與自由進(jìn)行干預(yù)，具有顯著的侵入性特征。

（三）教育場(chǎng)景中情感計(jì)算的地位關(guān)鍵性

2019 年中共中央、國(guó)務(wù)院印發(fā)的《中國(guó)教育現(xiàn)代化2035》明確指出，利用現(xiàn)代技術(shù)加快推動(dòng)人才培養(yǎng)模式改革，實(shí)現(xiàn)規(guī)?；逃c個(gè)性化培養(yǎng)的有機(jī)結(jié)合。因此，情感計(jì)算得以在教育場(chǎng)景內(nèi)廣泛應(yīng)用并呈現(xiàn)出地位的關(guān)鍵性特征。具體而言，這種關(guān)鍵性主要表現(xiàn)在如下兩個(gè)方面：一方面，以情感計(jì)算為代表的智能化技術(shù)是提升教育供給的關(guān)鍵力量。隨著信息技術(shù)的迅速發(fā)展以及對(duì)教育領(lǐng)域的不斷滲透，技術(shù)在革新傳統(tǒng)教育模式的同時(shí)，也營(yíng)造了全新的學(xué)習(xí)環(huán)境[13]，尤其是步入教育信息化2.0時(shí)代之后，大數(shù)據(jù)、區(qū)塊鏈、情感計(jì)算等人工智能技術(shù)的深入應(yīng)用不僅使得教育供給的效率得到有效提升，也提升了教育供給的精準(zhǔn)化水平。例如，新東方推出的“AI雙師課堂”就可以通過(guò)“慧眼系統(tǒng)”模型實(shí)現(xiàn)對(duì)學(xué)生高興、悲哀、驚訝、正常、憤怒等情緒的識(shí)別，進(jìn)而實(shí)現(xiàn)教學(xué)質(zhì)量的提升[14]。面向K12教育研發(fā)的EduBrain教學(xué)分析系統(tǒng)模型可以通過(guò)面部表情識(shí)別及語(yǔ)音情緒識(shí)別等情感計(jì)算技術(shù)，感知學(xué)習(xí)者上課時(shí)的情感變化，判斷學(xué)習(xí)者對(duì)當(dāng)前學(xué)習(xí)內(nèi)容的理解掌握情況以及對(duì)教師授課風(fēng)格的喜好程度，進(jìn)而實(shí)現(xiàn)個(gè)性化教學(xué)目的[15]。另一方面，情感計(jì)算是大數(shù)據(jù)智能時(shí)代增強(qiáng)教育情感互動(dòng)的關(guān)鍵技術(shù)。后疫情時(shí)代，在線教育已經(jīng)成為規(guī)?；逃虒W(xué)的有效補(bǔ)充形式，然而如何解決在線課程師生及生生間的“溫度”問(wèn)題成為當(dāng)前所必須予以解決的時(shí)代問(wèn)題[16]。事實(shí)上，情感計(jì)算技術(shù)的利用有助于促進(jìn)在線學(xué)習(xí)者和虛擬化身之間的情感交互。例如，在情感計(jì)算教育應(yīng)用的早期階段，情感計(jì)算很大程度上是為遠(yuǎn)程教育服務(wù)，“情感模型”的構(gòu)建旨在促使遠(yuǎn)程課堂的內(nèi)容與學(xué)習(xí)者的學(xué)習(xí)形式更加豐富而富有成效，促使師生情感交互的方式更加自然和諧[17]。一言以蔽之，現(xiàn)階段情感計(jì)算在教育領(lǐng)域的應(yīng)用不再局限于單一的工具輔助功能，在促進(jìn)教育供給、情感交互等領(lǐng)域，情感計(jì)算都具有無(wú)可替代的作用，呈現(xiàn)出地位的關(guān)鍵性特征。

二、教育場(chǎng)景中情感計(jì)算應(yīng)用的現(xiàn)實(shí)風(fēng)險(xiǎn)

（一）教育場(chǎng)景中情感計(jì)算的技術(shù)風(fēng)險(xiǎn)

鑒于教育領(lǐng)域情感計(jì)算對(duì)技術(shù)的依賴性特征，在現(xiàn)有的實(shí)踐中，教育場(chǎng)景中的情感計(jì)算至少在技術(shù)層面存在如下三種風(fēng)險(xiǎn)：

其一，作為情感計(jì)算底層邏輯的“基本情感理論”尚未達(dá)成共識(shí)，在此基礎(chǔ)上建構(gòu)的技術(shù)應(yīng)用也因而存有疑問(wèn)。詳言之，“基本情感理論”所構(gòu)建的情緒關(guān)聯(lián)關(guān)系并未得到廣泛的共識(shí)，面部表情、肢體行為以及生理特征與情緒之間并非絕對(duì)的一一對(duì)應(yīng)的關(guān)系。例如，有研究就揭示出憤怒、恐懼的情緒與面部表情之間就不存在顯著的對(duì)應(yīng)關(guān)系[18]，并非像理論假設(shè)的那樣具有普遍性。還有研究指出，受制于生理數(shù)據(jù)的復(fù)雜性，數(shù)據(jù)與情緒之間的關(guān)聯(lián)關(guān)系難以被有效證明[19]，用戶自身甚至都無(wú)法借用語(yǔ)言表達(dá)出自己所擁有的情緒，在此背景下，情感評(píng)估本身就極具挑戰(zhàn)性[20]，在無(wú)法準(zhǔn)確評(píng)估情感的前提下也不能實(shí)現(xiàn)精準(zhǔn)的情感識(shí)別。

其二，教育領(lǐng)域內(nèi)對(duì)情感數(shù)據(jù)的獲取并非理想狀態(tài)下的精準(zhǔn)無(wú)誤。事實(shí)上，受數(shù)據(jù)收集設(shè)備與個(gè)人生理差異的影響，情感計(jì)算的數(shù)據(jù)收集仍然面臨諸如信道噪聲、語(yǔ)音數(shù)據(jù)等因素的挑戰(zhàn)[21]。例如，智能穿戴設(shè)備對(duì)生理信息的收集主要是通過(guò)LED 閃光燈、攝像頭來(lái)實(shí)現(xiàn)對(duì)心率變化的數(shù)據(jù)采集，相較于臨床醫(yī)學(xué)的心電圖檢測(cè)而言，穿戴設(shè)備的數(shù)據(jù)采集并不能實(shí)現(xiàn)理想狀態(tài)下的準(zhǔn)確性。整體而言，現(xiàn)階段數(shù)據(jù)收集的準(zhǔn)確性尚未達(dá)到理想狀態(tài)，情感數(shù)據(jù)的收集面臨偏差風(fēng)險(xiǎn)。

其三，鑒于現(xiàn)有算法下的情感計(jì)算技術(shù)應(yīng)用難以實(shí)現(xiàn)對(duì)情感的精準(zhǔn)識(shí)別，情感計(jì)算的結(jié)果存在一定的偏差風(fēng)險(xiǎn)。例如有研究就指出，受場(chǎng)景照明、攝像機(jī)視角、圖像分辨率、背景、用戶頭部姿勢(shì)、性別和種族等環(huán)境因素的影響，目前階段的面部表情自動(dòng)識(shí)別系統(tǒng)（FER）所標(biāo)識(shí)出的情緒都呈現(xiàn)出顯著的差異性[22]。美國(guó)部分學(xué)校、監(jiān)獄、銀行安裝的由Sound intelligence公司提供的情感計(jì)算軟件在實(shí)踐的過(guò)程中就可能將諸如咳嗽這樣的粗糙、高音調(diào)的聲音誤判為具有攻擊性的情緒[23]。除此之外，還有研究指出，基于情感計(jì)算研發(fā)的Face++和Face API 兩款軟件會(huì)給特定的人群分配出更多的消極情緒得分[24]?？傊?，不論在理論基礎(chǔ)、數(shù)據(jù)采集還是算法預(yù)測(cè)的最終結(jié)果上，情感計(jì)算都不是完美無(wú)瑕的，技術(shù)本身存在顯著的風(fēng)險(xiǎn)。

（二）教育場(chǎng)景中情感計(jì)算的侵權(quán)風(fēng)險(xiǎn)

鑒于情感計(jì)算對(duì)人格尊嚴(yán)與自由的侵入性特征，情感計(jì)算的技術(shù)應(yīng)用也將引起對(duì)隱私權(quán)、個(gè)人信息權(quán)及受教育權(quán)的不當(dāng)侵入，進(jìn)而誘發(fā)顯著的侵權(quán)風(fēng)險(xiǎn)。

首先，情感計(jì)算在教育場(chǎng)景中的應(yīng)用涉嫌對(duì)學(xué)生隱私權(quán)的侵犯。從權(quán)利的客體來(lái)看，包括精神狀況、家庭狀況、身體狀況等，凡是個(gè)人不愿意公開(kāi)披露且不涉及公共利益的部分都可以成為個(gè)人隱私[25]?！敖虒W(xué)空間雖不是私人空間，但也有隱私訴求?！盵26]因此，出于對(duì)個(gè)性價(jià)值、教育價(jià)值以及自我價(jià)值的促進(jìn)與實(shí)現(xiàn)，有必要突破“家長(zhǎng)主義”的桎梏，尊重并保護(hù)學(xué)生隱私權(quán)[27]。然而，從技術(shù)運(yùn)行的邏輯上看，情感計(jì)算的實(shí)踐應(yīng)用是對(duì)學(xué)生情緒的自動(dòng)化、批量化的實(shí)時(shí)抓取與分析，這種對(duì)學(xué)生精神空間的公開(kāi)“窺探”事實(shí)上就是對(duì)隱私權(quán)的侵犯。

其次，情感計(jì)算在教育場(chǎng)景中的應(yīng)用具有對(duì)個(gè)人信息權(quán)的侵犯風(fēng)險(xiǎn)。個(gè)人信息權(quán)既有屬于隱私的內(nèi)容，也包括未必能稱作隱私的內(nèi)容，個(gè)人信息權(quán)基于隱私權(quán)而發(fā)展出個(gè)人信息自我控制的獨(dú)立淵源[28]。正因如此，《中華人民共和國(guó)個(gè)人信息保護(hù)法》（以下簡(jiǎn)稱《個(gè)人信息保護(hù)法》）、《中華人民共和國(guó)民法典》（以下簡(jiǎn)稱《民法典》）、《中華人民共和國(guó)數(shù)據(jù)安全法》（以下簡(jiǎn)稱《數(shù)據(jù)安全法》）等一系列法律也都對(duì)個(gè)人信息予以了法定化保護(hù)，尤其是《個(gè)人信息保護(hù)法》更是對(duì)未成年人的個(gè)人信息予以了特別規(guī)定。在此基礎(chǔ)上，盡管喜、怒、恐慌、驚訝等情緒并不具有識(shí)別個(gè)人身份的功能，但情感計(jì)算中智能穿戴設(shè)備所收集的心率、血壓等敏感信息數(shù)據(jù)，或者某些情感數(shù)據(jù)結(jié)合其他信息與個(gè)人身份關(guān)聯(lián)，則仍然符合我國(guó)現(xiàn)行法律規(guī)范中的“個(gè)人信息”規(guī)定[29]。因此，教育場(chǎng)景中基于情緒識(shí)別、收集和處理的情感計(jì)算技術(shù)應(yīng)用也就具有了對(duì)個(gè)人信息權(quán)的侵犯風(fēng)險(xiǎn)。

最后，情感計(jì)算在教育場(chǎng)景中的應(yīng)用可能會(huì)對(duì)公民的受教育權(quán)造成一定的侵犯風(fēng)險(xiǎn)。受教育權(quán)是憲法所規(guī)定的一項(xiàng)基本權(quán)利，具有社會(huì)屬性與自由屬性兼具的綜合屬性。其中，受教育權(quán)的自由屬性表明，公民為實(shí)現(xiàn)人格的充分發(fā)展，對(duì)個(gè)體的發(fā)展目標(biāo)和方向、學(xué)習(xí)內(nèi)容和形式等方面必須具有一定的自主決定和選擇權(quán)[30]。在尚未賦予學(xué)生、家長(zhǎng)等監(jiān)護(hù)人選擇權(quán)的前提下，情感計(jì)算的常態(tài)化應(yīng)用就有可能與教育自由的基本理念相違背，不當(dāng)剝奪受教育者學(xué)習(xí)方式的自主選擇權(quán)，進(jìn)而引發(fā)對(duì)公民受教育權(quán)的侵犯。

（三）教育場(chǎng)景中情感計(jì)算的倫理風(fēng)險(xiǎn)

情感計(jì)算在教育場(chǎng)景中所處的關(guān)鍵性地位不僅弱化了教育過(guò)程中“人”的主體性，也極有可能偏離教育求真的終極目標(biāo)，進(jìn)而誘發(fā)倫理風(fēng)險(xiǎn)。

一方面，教育場(chǎng)景中情感計(jì)算應(yīng)用的關(guān)鍵性可能會(huì)弱化教育場(chǎng)景中“人”的主體地位?，F(xiàn)代教育主張教育者和受教育者是一種主體間的交往實(shí)踐關(guān)系，二者之間廣泛存在著相互聯(lián)系與交互影響[31]。由此，教育的過(guò)程事實(shí)上也就是以語(yǔ)言為中介，圍繞教育內(nèi)容的一個(gè)交流對(duì)話的過(guò)程[32]。在這一過(guò)程中，一切的教育活動(dòng)始終以教育者和受教育者為中心而展開(kāi)，“人”是教育的主體，并掌控、操作整個(gè)教育活動(dòng)。但是，隨著情感計(jì)算在教育場(chǎng)景中的應(yīng)用，傳統(tǒng)教育中的情感表達(dá)便由“人—人”模式演變?yōu)椤叭恕夹g(shù)—人”這種新型模式，在此模式下，技術(shù)既負(fù)責(zé)對(duì)受教育者的情感收集與傳遞，又負(fù)責(zé)對(duì)教育者進(jìn)行情感的分析與反饋，教育場(chǎng)景中的教育者與受教育者不再是教育情感傳遞與反饋的直接主體，而是成為技術(shù)“中介”的服務(wù)對(duì)象。這種角色的轉(zhuǎn)變不僅讓“人（教育者和受教育者）”的主體性地位隨之弱化，開(kāi)始依賴于技術(shù)，使得技術(shù)逐漸演變?yōu)樾滦椭黧w，甚至還使得技術(shù)在“中立”“客觀”“理性”的外衣下開(kāi)始實(shí)現(xiàn)對(duì)“人”的奴役。

另一方面，教育場(chǎng)景中情感計(jì)算的關(guān)鍵性地位可能會(huì)偏離教育求真的終極目的，不利于學(xué)生的自我呈現(xiàn)與全面發(fā)展。人對(duì)社會(huì)與自然的認(rèn)知與改造并不是隨心所欲的，而是基于社會(huì)與自然運(yùn)行的規(guī)律而進(jìn)行的。對(duì)社會(huì)與自然進(jìn)行認(rèn)知與改造的前提就是準(zhǔn)確把握社會(huì)與自然的運(yùn)行規(guī)律，“而這一前提的前提，是人必須具備的求真條件”。因此，教育最為基本的職能之一便是教人求真[33]。教育是人的靈魂的教育，不是理智知識(shí)與認(rèn)知的堆積[34]，教育的本質(zhì)在于提高生命質(zhì)量和提高生命的價(jià)值，旨在通過(guò)教育提高個(gè)人的生存能力、思想品德和才能[32]，促進(jìn)人的全面發(fā)展。從功能上看，情感計(jì)算在教育場(chǎng)景中的應(yīng)用旨在通過(guò)對(duì)情感變化的捕捉與分析促進(jìn)教育方案的個(gè)性化與教學(xué)管理的科學(xué)化。但是，基于情感變化的教育方案極有可能誘發(fā)受教育者進(jìn)行情緒整飾[35]，呈現(xiàn)出積極情緒的“整飾性”情感，進(jìn)而迷惑或者迎合教育者/教育管理者的心態(tài)，阻礙學(xué)生自我的呈現(xiàn)[16]。毫無(wú)疑問(wèn)，“整飾性”的情感顯然與“求真”的教育目的不相符合。此外，現(xiàn)階段情感計(jì)算在教育場(chǎng)景中的應(yīng)用更多局限于對(duì)“理性知識(shí)與認(rèn)知”的助力，其目的僅限于幫助受教育者更好地掌握知識(shí)技能。在此背景下，情感計(jì)算在教育場(chǎng)景中的應(yīng)用難以實(shí)現(xiàn)對(duì)“人的靈魂的教育”，因而也無(wú)法促進(jìn)人的全面發(fā)展?？傊?，情感計(jì)算在教育場(chǎng)景中的關(guān)鍵性地位不僅會(huì)引發(fā)技術(shù)與權(quán)利層面的風(fēng)險(xiǎn)，還會(huì)導(dǎo)致教育的倫理風(fēng)險(xiǎn)。

三、教育場(chǎng)景中情感計(jì)算應(yīng)用風(fēng)險(xiǎn)的法律規(guī)制

不論是從底層技術(shù)層面、權(quán)利保護(hù)層面還是教育倫理層面而言，教育場(chǎng)景中情感計(jì)算的應(yīng)用風(fēng)險(xiǎn)都已是一種客觀存在。面對(duì)教育個(gè)性化、智能化發(fā)展的時(shí)代趨勢(shì)，如何實(shí)現(xiàn)情感計(jì)算的理性應(yīng)用就成為一個(gè)亟待解決的時(shí)代課題。鑒于法律通常以教義學(xué)的規(guī)則和方式為現(xiàn)實(shí)而緊迫的實(shí)踐問(wèn)題提供有效的、統(tǒng)一的答案[36]，對(duì)教育場(chǎng)景中情感計(jì)算的風(fēng)險(xiǎn)規(guī)制可以基于法律的視角展開(kāi)。

（一）基于法律規(guī)則的技術(shù)風(fēng)險(xiǎn)規(guī)制

依據(jù)凱爾森純粹法理論的觀點(diǎn)，法律是一種“法律規(guī)則的體系”，而法律規(guī)則具有防范風(fēng)險(xiǎn)的天然功能。因此，可以通過(guò)對(duì)法律最小單元的規(guī)則加以完善，實(shí)現(xiàn)對(duì)技術(shù)風(fēng)險(xiǎn)的法律規(guī)制。

通說(shuō)認(rèn)為，在邏輯結(jié)構(gòu)上，法律規(guī)則由假定、行為模式、法律后果三個(gè)部分構(gòu)成。其中，（1）假定分別指向法律規(guī)則的適用條件和行為主體的行為條件這兩個(gè)維度；（2）行為模式分別對(duì)應(yīng)可為模式、應(yīng)為模式、勿為模式三種類(lèi)型；（3）法律后果則分別指明肯定性法律后果與否定性法律后果兩個(gè)方面[37]。不難發(fā)現(xiàn)，法律規(guī)則中“假定”與“行為模式”天然地將風(fēng)險(xiǎn)事件、行為進(jìn)行了規(guī)范性預(yù)設(shè)，并通過(guò)“結(jié)果模式”對(duì)觸發(fā)的風(fēng)險(xiǎn)進(jìn)行評(píng)價(jià)，進(jìn)而實(shí)現(xiàn)對(duì)風(fēng)險(xiǎn)的規(guī)制。這也就表明，可以通過(guò)法律規(guī)則的完善實(shí)現(xiàn)對(duì)技術(shù)應(yīng)用風(fēng)險(xiǎn)的積極回應(yīng)，并在此基礎(chǔ)上予以規(guī)制。事實(shí)上，面對(duì)風(fēng)險(xiǎn)社會(huì)的到來(lái)，各個(gè)國(guó)家都開(kāi)始從技術(shù)鼓勵(lì)、政策應(yīng)對(duì)逐步走向制度規(guī)制[38]，國(guó)際社會(huì)進(jìn)入到一個(gè)前所未有的立法時(shí)代[39]。例如，我國(guó)為應(yīng)對(duì)大數(shù)據(jù)信息時(shí)代對(duì)個(gè)人信息的沖擊，相繼在《民法典》《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》等一系列法律中對(duì)個(gè)人信息予以了全面化規(guī)定。在教育領(lǐng)域，僅在2021年我國(guó)就相繼制定了《中華人民共和國(guó)家庭教育促進(jìn)法》（以下簡(jiǎn)稱《家庭教育促進(jìn)法》）、修訂了《中華人民共和國(guó)教育法》，這兩部法律都與教育密切相關(guān)。其中，《家庭教育促進(jìn)法》被認(rèn)為是適應(yīng)信息社會(huì)、促進(jìn)教育與時(shí)俱進(jìn)、對(duì)未來(lái)教育發(fā)展具有重要意義的一部重要法律[40]。因此，可以通過(guò)對(duì)法律規(guī)則的完善積極回應(yīng)教育場(chǎng)景中情感計(jì)算的技術(shù)風(fēng)險(xiǎn)。

具體而言，對(duì)于教育場(chǎng)景中情感計(jì)算應(yīng)用風(fēng)險(xiǎn)相關(guān)法律規(guī)則的完善可以分別從立法論與解釋論兩個(gè)維度展開(kāi)。在立法論上，積極、適時(shí)啟動(dòng)相關(guān)法律法規(guī)的修訂程序，通過(guò)對(duì)相關(guān)法律法規(guī)的完善回應(yīng)教育場(chǎng)景中情感計(jì)算所存在的應(yīng)用風(fēng)險(xiǎn)。例如，2020年11月美國(guó)聯(lián)邦政府就對(duì)1984 年頒布的《學(xué)生權(quán)益保護(hù)法》進(jìn)行了修訂，以增強(qiáng)對(duì)受教育者的數(shù)據(jù)隱私安全的保護(hù)。在此基礎(chǔ)上，我國(guó)也可以適時(shí)展開(kāi)對(duì)《教育法》《義務(wù)教育法》等相關(guān)法律的修訂工作，回應(yīng)技術(shù)應(yīng)用的現(xiàn)實(shí)風(fēng)險(xiǎn)。在解釋論上，通過(guò)對(duì)現(xiàn)有法律的教義學(xué)解釋，盡可能地將情感計(jì)算的技術(shù)風(fēng)險(xiǎn)納入法律法規(guī)的規(guī)范范圍。事實(shí)上，法律適用的推演過(guò)程必然與法律解釋相伴隨[41]。“法學(xué)的歷史就是法解釋的歷史，自然法學(xué)派、概念法學(xué)派、自由法學(xué)派、分析法學(xué)派等各種學(xué)派之間的區(qū)別，無(wú)非是在解釋理念與解釋方法上的區(qū)別?！盵42]對(duì)現(xiàn)行法律的解釋不僅可以增強(qiáng)法律的時(shí)代適應(yīng)性，也可以為風(fēng)險(xiǎn)的防范提供及時(shí)的規(guī)制方案。

總之，面對(duì)教育場(chǎng)景中情感計(jì)算應(yīng)用的技術(shù)風(fēng)險(xiǎn)，可以通過(guò)對(duì)法律規(guī)則的完善予以積極回應(yīng)，并在此基礎(chǔ)上實(shí)現(xiàn)對(duì)風(fēng)險(xiǎn)的規(guī)制。

（二）基于法律關(guān)系的侵權(quán)風(fēng)險(xiǎn)規(guī)制

現(xiàn)代意義上的法律關(guān)系通常是指法律調(diào)整社會(huì)所形成的權(quán)利義務(wù)關(guān)系、權(quán)力責(zé)任關(guān)系[43]。理論上，通過(guò)法律實(shí)現(xiàn)的權(quán)利和義務(wù)為個(gè)體提供了一種確定性的指引，這種指引在極大程度上有助于化解危機(jī)、消弭風(fēng)險(xiǎn)[44]。通過(guò)對(duì)一般法律關(guān)系的構(gòu)建可以實(shí)現(xiàn)對(duì)不同主體、不同類(lèi)型的權(quán)力與權(quán)利之間的制約，有助于從根本上實(shí)現(xiàn)對(duì)社會(huì)主要矛盾的化解[45]。表面上看，教育場(chǎng)景中情感計(jì)算的侵權(quán)風(fēng)險(xiǎn)是對(duì)隱私權(quán)、個(gè)人信息權(quán)以及受教育權(quán)的保護(hù)不力所致，但事實(shí)上，不同權(quán)利侵犯的背后則是對(duì)權(quán)利-義務(wù)（例如學(xué)生隱私權(quán)利-國(guó)家提供個(gè)性化教育義務(wù)）、權(quán)力-責(zé)任（學(xué)校教學(xué)管理權(quán)力-侵權(quán)責(zé)任承擔(dān)）的調(diào)配失衡。因此，對(duì)教育場(chǎng)景中情感計(jì)算侵權(quán)風(fēng)險(xiǎn)的規(guī)制可以基于權(quán)利-義務(wù)、權(quán)力-責(zé)任的法律關(guān)系而展開(kāi)。

具體而言，基于法律關(guān)系的侵權(quán)風(fēng)險(xiǎn)規(guī)制可以作出如下安排：首先，建立以事前同意為前提的權(quán)利保護(hù)制度。前文已經(jīng)提及，情感計(jì)算在教育領(lǐng)域的應(yīng)用可能會(huì)對(duì)學(xué)生的隱私權(quán)、個(gè)人信息權(quán)、受教育權(quán)等權(quán)利構(gòu)成侵犯。從法律屬性出發(fā)，上述權(quán)利一定程度上均是對(duì)人格尊嚴(yán)的保護(hù)，強(qiáng)調(diào)對(duì)自決權(quán)的保障。以個(gè)人信息權(quán)為例，個(gè)人信息權(quán)在本質(zhì)上屬于人格權(quán)的范疇，是對(duì)人格尊嚴(yán)的保護(hù)。這也就意味著，作為主體的人有權(quán)決定其個(gè)人信息是否被公開(kāi)、如何公開(kāi)以及公開(kāi)至何種程度。因此，教育場(chǎng)景中情感計(jì)算的應(yīng)用也需要建立以事前同意為中心的保護(hù)制度。在這里需要注意的是，并非所有的人都在同等程度上——尤其不是在所有年齡和所有情況下——均被賦予自我決定能力[46]，因而，除了受教育者外，教育場(chǎng)景中的情感計(jì)算也可以在家長(zhǎng)或者其監(jiān)護(hù)人同意的前提下啟動(dòng)。其次，構(gòu)建以權(quán)力規(guī)制為中心的事中監(jiān)管制度。權(quán)力規(guī)制是指通過(guò)對(duì)學(xué)校教育管理權(quán)力的監(jiān)管實(shí)現(xiàn)對(duì)侵入風(fēng)險(xiǎn)的防范。例如，公民依法享有要求國(guó)家積極提供均等的受教育條件和機(jī)會(huì)的權(quán)利[47]。一旦將情感計(jì)算作為教育準(zhǔn)入資格的參考標(biāo)準(zhǔn)，事實(shí)上也就是將情感計(jì)算的結(jié)論作為“剝奪”個(gè)人基本權(quán)利的直接依據(jù)，使得特定群體在整個(gè)社會(huì)交往環(huán)境中處于特別被動(dòng)的地位[29]。因此，通過(guò)對(duì)教育教學(xué)權(quán)力的監(jiān)管?chē)?yán)禁將情感計(jì)算應(yīng)用于教育準(zhǔn)入資格領(lǐng)域，防范情感計(jì)算的技術(shù)應(yīng)用所導(dǎo)致的對(duì)受教育權(quán)的侵犯。最后，明確侵權(quán)責(zé)任的承擔(dān)。情感計(jì)算的技術(shù)應(yīng)用在未能如實(shí)遵守法定程序的前提下也可能導(dǎo)致侵權(quán)，進(jìn)而引起對(duì)應(yīng)的賠償義務(wù)。在此背景下，需要根據(jù)情感計(jì)算的事前同意、權(quán)力監(jiān)管的不同主體來(lái)區(qū)分責(zé)任的承擔(dān)方式，實(shí)現(xiàn)對(duì)責(zé)任的精準(zhǔn)追究?？傊?，基于法律關(guān)系內(nèi)容的設(shè)定可以實(shí)現(xiàn)對(duì)教育場(chǎng)景中情感計(jì)算侵權(quán)風(fēng)險(xiǎn)的規(guī)制。

（三）基于法律原則的倫理風(fēng)險(xiǎn)規(guī)制

從倫理角度看，法律原則通常是維系社會(huì)存在的最低限度或極具共識(shí)的道德要求[48]，與規(guī)則相比，法律原則是以內(nèi)容為取向的，它所提供的是一種實(shí)質(zhì)性理由，往往都會(huì)直接或間接地表達(dá)某種政治道德價(jià)值[49]。因此，法律原則在為社會(huì)倫理原則進(jìn)入法律規(guī)范體系開(kāi)啟通道的同時(shí)，也可以將不當(dāng)?shù)姆ㄍ庖蛩刈钃跤诜审w系之外[50]，進(jìn)而實(shí)現(xiàn)對(duì)倫理風(fēng)險(xiǎn)的規(guī)制作用。在此背景下，對(duì)于教育場(chǎng)景中情感計(jì)算的倫理風(fēng)險(xiǎn)，可以通過(guò)法律原則的設(shè)定實(shí)現(xiàn)應(yīng)有的規(guī)制。例如，面對(duì)教育求真的終極目標(biāo)，可以通過(guò)合目的性原則為技術(shù)的應(yīng)用設(shè)定必要的邊界，不得將其應(yīng)用于對(duì)學(xué)生的日常管理工作。詳言之，學(xué)校教育除了日常的課堂教學(xué)外，還包括對(duì)學(xué)生的管理工作。2017 年12 月4 日由教育部印發(fā)并實(shí)施的《義務(wù)教育學(xué)校管理標(biāo)準(zhǔn)》第18 條規(guī)定，教育遵循教育規(guī)律和學(xué)生身心發(fā)展規(guī)律，幫助學(xué)生掌握科學(xué)的學(xué)習(xí)方法，養(yǎng)成良好的學(xué)習(xí)習(xí)慣。然而，情感計(jì)算在日常管理層面的大范圍應(yīng)用就可能導(dǎo)致學(xué)生故意表現(xiàn)出積極的情緒特征，養(yǎng)成“整飾性”情感，從而不利于其身心健康的發(fā)展。因此，盡管情感計(jì)算有助于實(shí)現(xiàn)教育的個(gè)性化，但出于教育求真的目的，也不應(yīng)將情感計(jì)算應(yīng)用在教學(xué)管理場(chǎng)景中。

四、結(jié)語(yǔ)

一直以來(lái)，教育始終是技術(shù)最為常態(tài)化的應(yīng)用場(chǎng)景，技術(shù)在促進(jìn)教育公平、提高教育質(zhì)量方面更是具有不可替代的功能。然而，情感計(jì)算在應(yīng)用的對(duì)象與內(nèi)容上都是以“人”為中心的，突出對(duì)人內(nèi)在情緒的感知、識(shí)別與干預(yù)，與人格尊嚴(yán)具有最為密切的聯(lián)系。在技術(shù)發(fā)展尚未完全成熟的前提下，教育領(lǐng)域?qū)η楦杏?jì)算的大范圍、常態(tài)化的應(yīng)用不僅會(huì)進(jìn)一步“放大”技術(shù)風(fēng)險(xiǎn)，而且會(huì)對(duì)人格尊嚴(yán)造成不可逆的損害。更為重要的是，在技術(shù)風(fēng)險(xiǎn)與法律風(fēng)險(xiǎn)的雙重疊加、融合下，情感計(jì)算在教育領(lǐng)域的應(yīng)用還可能對(duì)教育本身造成“反噬”效應(yīng)。因此，借助具有強(qiáng)制力的法律途徑以實(shí)現(xiàn)對(duì)情感計(jì)算教育應(yīng)用的規(guī)制就顯得極為必要。事實(shí)上，在大數(shù)據(jù)、人工智能與教育領(lǐng)域深度融合的當(dāng)下，技術(shù)應(yīng)用的積極作用與消極風(fēng)險(xiǎn)已然成為一種伴生關(guān)系，對(duì)情感計(jì)算的法律規(guī)制一定程度上也是對(duì)當(dāng)前教育領(lǐng)域技術(shù)應(yīng)用的法律層面的反思。當(dāng)然，本文主要是基于風(fēng)險(xiǎn)規(guī)制的一種法律思考，其目的在于提倡情感計(jì)算在教育領(lǐng)域的謹(jǐn)慎應(yīng)用，防止對(duì)技術(shù)應(yīng)用的盲目樂(lè)觀。事實(shí)上，如何在既有法律框架下，從教育的視角出發(fā)，實(shí)現(xiàn)技術(shù)與教育之間的雙向良性發(fā)展也尤為重要，對(duì)此亟待開(kāi)展進(jìn)一步的細(xì)化研究。