論情緒識(shí)別技術(shù)的倫理風(fēng)險(xiǎn)及其防控

謝 小 飛，吳 家 華

(安徽大學(xué) 馬克思主義學(xué)院，合肥 230601)

情緒識(shí)別(Emotion Recognition)是一種利用公眾個(gè)體的面部表情、身體姿態(tài)、語(yǔ)音語(yǔ)調(diào)等特征來(lái)進(jìn)行心理活動(dòng)監(jiān)測(cè)的新技術(shù)，它能夠捕捉到人類難以察覺(jué)的細(xì)微變化，計(jì)算出人的壓力、焦慮度、侵略性等參數(shù)，進(jìn)而通過(guò)算法完成“情緒理解”。面對(duì)情緒識(shí)別技術(shù)逐步嵌入經(jīng)濟(jì)社會(huì)生活的新情況，如何審視情緒識(shí)別技術(shù)催生的倫理風(fēng)險(xiǎn)危機(jī)，詮釋其倫理風(fēng)險(xiǎn)的生成原因，并在此基礎(chǔ)上提出規(guī)避倫理風(fēng)險(xiǎn)的實(shí)踐方案，便成為我們?cè)谌斯ぶ悄軙r(shí)代亟須回應(yīng)的焦點(diǎn)議題。

一、情緒識(shí)別技術(shù)的最新應(yīng)用進(jìn)展

德國(guó)著名社會(huì)學(xué)家烏爾里?！へ惪酥赋觯骸帮L(fēng)險(xiǎn)是不可見(jiàn)的。暗含的因果關(guān)系常常維持著或多或少的不確定性和暫時(shí)性?！盵1]這就意味著，我們只有在明確技術(shù)可行性的基礎(chǔ)之上，才能夠進(jìn)一步探討技術(shù)的倫理可接受性。因此，我們想要將情緒識(shí)別技術(shù)置于倫理層面來(lái)予以詮釋，就必須首先明晰情緒識(shí)別技術(shù)的應(yīng)用價(jià)值和最新進(jìn)展。就其應(yīng)用的最新進(jìn)展情況來(lái)看，情緒識(shí)別技術(shù)應(yīng)用領(lǐng)域十分廣泛，對(duì)于經(jīng)濟(jì)社會(huì)發(fā)展具有重要價(jià)值。

(一)為公共安全提供了強(qiáng)大的技術(shù)工具

一是在刑事審訊場(chǎng)景中，情緒識(shí)別技術(shù)能夠幫助工作人員實(shí)時(shí)掌握犯罪嫌疑人的情緒變化，顯著提高審訊效率。目前，一些審訊機(jī)關(guān)已經(jīng)推出了智慧警務(wù)系統(tǒng)，搭建起以情緒識(shí)別技術(shù)為核心的智能分析平臺(tái)。例如，江蘇省宜興市人民檢察院早在2014年就開(kāi)設(shè)了微反應(yīng)實(shí)驗(yàn)室，多次憑借情緒識(shí)別技術(shù)取得了案件的突破性進(jìn)展[2]。

二是在交通出行場(chǎng)景中，情緒識(shí)別技術(shù)能夠在駕駛員出現(xiàn)異常情緒時(shí)發(fā)出實(shí)時(shí)提醒，輔助人們安全出行。目前已有汽車廠商在車上配置了情緒感知功能[3]，一旦駕駛員出現(xiàn)疲勞、激動(dòng)、憤怒等異常情緒，這種汽車就會(huì)在第一時(shí)間發(fā)出警報(bào)來(lái)加以提醒，從而在一定程度上規(guī)避險(xiǎn)情的發(fā)生。

三是在輿論監(jiān)測(cè)場(chǎng)景中，情緒識(shí)別技術(shù)能夠協(xié)助工作人員實(shí)時(shí)“閱讀”人們的情緒變化，及時(shí)發(fā)現(xiàn)輿情風(fēng)險(xiǎn)。當(dāng)前，情緒識(shí)別技術(shù)日趨智能化、微型化、遠(yuǎn)程化，在網(wǎng)絡(luò)意識(shí)形態(tài)安全維護(hù)中發(fā)揮著重要作用。

(二)為智慧課堂提供了前沿方案

情緒識(shí)別技術(shù)可以實(shí)時(shí)監(jiān)測(cè)教學(xué)參與者的情緒狀態(tài)，對(duì)人的心理壓力和學(xué)習(xí)強(qiáng)度進(jìn)行總體性評(píng)估，反饋出教育教學(xué)的專注度和活躍度。當(dāng)前，情緒識(shí)別技術(shù)主要以“智能助教系統(tǒng)”“課堂呵護(hù)系統(tǒng)”“教學(xué)質(zhì)量監(jiān)測(cè)系統(tǒng)”等名目介入教育教學(xué)實(shí)踐。一是“智能助教系統(tǒng)”。情緒識(shí)別技術(shù)能夠直觀揭示學(xué)生的情緒狀態(tài)，幫助教師及時(shí)調(diào)整教學(xué)進(jìn)度以及教學(xué)方案，進(jìn)而顯著提升教學(xué)效率。二是“課堂呵護(hù)系統(tǒng)”。情緒識(shí)別技術(shù)能夠幫助教育者提高自身的情感連接能力，促使師生之間建立起情感依賴，進(jìn)而充分激發(fā)受教育者的想象力和創(chuàng)造力。三是“教學(xué)質(zhì)量監(jiān)測(cè)系統(tǒng)”?！爸耖g智能已經(jīng)推出了一款用于監(jiān)測(cè)老師行為的新產(chǎn)品，通過(guò)分析老師的影像，計(jì)算正向情緒占比與細(xì)分指數(shù)”[4]，這表明，情緒識(shí)別技術(shù)不僅可以用來(lái)監(jiān)測(cè)學(xué)生的學(xué)習(xí)狀態(tài)，還可為教學(xué)管理者監(jiān)管教師教學(xué)質(zhì)量提供技術(shù)支持，給教育者提供科學(xué)的教學(xué)建議。

(三)在商業(yè)領(lǐng)域建樹(shù)非凡

情緒識(shí)別技術(shù)在商業(yè)決策、商業(yè)生產(chǎn)、商業(yè)營(yíng)銷環(huán)節(jié)均已成功應(yīng)用。在商業(yè)決策環(huán)節(jié)，商業(yè)公司可以憑借情緒識(shí)別技術(shù)，盡可能地掌握潛在客戶的情緒波動(dòng)，進(jìn)而根據(jù)精準(zhǔn)的信息數(shù)據(jù)作出明智的商業(yè)決策。在商業(yè)生產(chǎn)環(huán)節(jié)，情緒識(shí)別技術(shù)不僅能夠幫助生產(chǎn)者獲得更多的商業(yè)信息，提供精準(zhǔn)的生產(chǎn)計(jì)劃，還可以實(shí)時(shí)監(jiān)管產(chǎn)業(yè)工人的情緒狀態(tài)，提高生產(chǎn)效率。在商業(yè)營(yíng)銷環(huán)節(jié)，商業(yè)公司可根據(jù)消費(fèi)者的不同情緒狀態(tài)，及時(shí)調(diào)整營(yíng)銷手段，以巧妙的營(yíng)銷策略激發(fā)潛在客戶的消費(fèi)欲望，實(shí)現(xiàn)精準(zhǔn)營(yíng)銷。當(dāng)前，包括微軟(Microsoft)、亞馬遜(Amazon)在內(nèi)的一些科技公司已在積極推廣情緒識(shí)別技術(shù)，據(jù)估計(jì)，情緒識(shí)別技術(shù)行業(yè)的市場(chǎng)價(jià)值將會(huì)高達(dá)數(shù)百億美元。[5]

(四)在醫(yī)療衛(wèi)生領(lǐng)域的應(yīng)用和發(fā)展值得期待

在醫(yī)療衛(wèi)生領(lǐng)域，情緒識(shí)別技術(shù)可以幫助醫(yī)生實(shí)時(shí)監(jiān)測(cè)患者的情緒狀態(tài)，進(jìn)而根據(jù)患者的情緒變化為其提供相應(yīng)的醫(yī)療幫助。例如，一些抑郁癥、焦慮癥患者會(huì)對(duì)心電、腦電等傳感設(shè)備產(chǎn)生心理抗拒，不利于醫(yī)生進(jìn)行疾病診療。而情緒識(shí)別技術(shù)能夠在不用患者配合的情況下悄然判斷患者的情緒狀態(tài)，從而能讓患者在較為放松的狀態(tài)下接受診療。此外，情緒識(shí)別技術(shù)還可為保持人的身心健康提供技術(shù)支持。例如，用戶可以通過(guò)情緒識(shí)別技術(shù)了解自身的焦慮水平和壓力指數(shù)，在第一時(shí)間調(diào)節(jié)自身的情緒狀態(tài)，逐漸養(yǎng)成科學(xué)健康的生活習(xí)慣。

二、情緒識(shí)別技術(shù)潛在的倫理風(fēng)險(xiǎn)

辯證地看，作為一種技術(shù)創(chuàng)新，情緒識(shí)別技術(shù)的廣泛應(yīng)用在給人類社會(huì)帶來(lái)發(fā)展機(jī)遇的同時(shí)，也會(huì)給人們的社會(huì)生活帶來(lái)諸多風(fēng)險(xiǎn)和挑戰(zhàn)。以人工智能為代表的技術(shù)發(fā)展與人類生存的倫理審思是現(xiàn)代倫理學(xué)關(guān)注的核心議題，這在科學(xué)急速發(fā)展的智能社會(huì)顯得更為突出。[6]因此，在情緒識(shí)別技術(shù)方興未艾的當(dāng)下，對(duì)其可能帶來(lái)的倫理風(fēng)險(xiǎn)加以必要的審視和反思，已經(jīng)刻不容緩。

(一)倫理關(guān)系失調(diào)風(fēng)險(xiǎn)

正如康德所言，“人，實(shí)則一切有理性者……在他的一切行為上，總要把人認(rèn)為目的”[7]。任何技術(shù)的創(chuàng)新和應(yīng)用都應(yīng)充分考慮人的尊嚴(yán)和價(jià)值，既不可給人的社會(huì)生活造成負(fù)面影響，也不可把人當(dāng)工具看待。然而，不難預(yù)見(jiàn)，情緒識(shí)別技術(shù)的無(wú)序發(fā)展必然會(huì)影響人與人之間的倫理關(guān)系，給人的社會(huì)交往帶來(lái)消極影響。

其一，情緒識(shí)別技術(shù)涉嫌侵犯人的自主性。社會(huì)實(shí)踐深刻地證明，基于外部技術(shù)而建構(gòu)的社會(huì)關(guān)系未必是真正富有自主性的倫理關(guān)系，完全掌控他人情緒的社會(huì)交往行為也未必是完美的社會(huì)交往實(shí)踐。情緒識(shí)別技術(shù)運(yùn)用于人，意味著要在一段時(shí)間內(nèi)對(duì)人進(jìn)行不停歇的監(jiān)測(cè)。這不僅會(huì)使被監(jiān)測(cè)者感到不被信任、不被尊重，還會(huì)抑制交往主體真實(shí)地表達(dá)自我的意愿和勇氣，導(dǎo)致倫理關(guān)系中人的自主性缺失。用情緒識(shí)別技術(shù)來(lái)計(jì)算和理解交往對(duì)象的潛在心理狀態(tài)，會(huì)生成一個(gè)以精準(zhǔn)識(shí)別為起點(diǎn)的技術(shù)主義陷阱，使本該自由而親密的人際倫理關(guān)系異化為壓抑而冰冷的科技倫理關(guān)系。

其二，情緒識(shí)別技術(shù)危及人的主體尊嚴(yán)。人作為擁有思維能力和溝通能力的理性存在者，理所當(dāng)然應(yīng)當(dāng)是科學(xué)技術(shù)的服務(wù)對(duì)象，而不該成為技術(shù)壓制之下他人的監(jiān)測(cè)對(duì)象或逐利工具。情緒識(shí)別技術(shù)只是人類的智慧結(jié)晶，但如果人類真賦予人工智能機(jī)器理解情緒的能力，使人的情緒變化在人工智能機(jī)器面前暴露無(wú)遺，那么人的主體尊嚴(yán)和個(gè)性發(fā)展必然會(huì)受到擠壓。人的主體尊嚴(yán)原本一直建構(gòu)在人與人之間天然而固定的倫理關(guān)系之上，而今，情緒識(shí)別技術(shù)的介入使人的情緒信息變成了“二進(jìn)制代碼”，維護(hù)人的主體尊嚴(yán)便成為一個(gè)嶄新的倫理關(guān)系難題。

其三，情緒識(shí)別技術(shù)容易誘發(fā)人的社交恐懼。情緒識(shí)別技術(shù)所造成的社交恐懼主要源于這一新興技術(shù)的潛在性和透視性。情緒識(shí)別技術(shù)的潛在性主要體現(xiàn)為這一技術(shù)能夠悄無(wú)聲息地搜集和分析人的情緒信息，這會(huì)使被監(jiān)測(cè)者產(chǎn)生強(qiáng)烈的恐懼感。而情緒識(shí)別技術(shù)的透視性則是指這一技術(shù)能夠直抵人的內(nèi)心深處，使人產(chǎn)生困惑感、迷失感以及深深的焦慮感。

(二)倫理規(guī)范失控風(fēng)險(xiǎn)

情緒識(shí)別技術(shù)把人的情緒信息作為激活本技術(shù)的關(guān)鍵，使技術(shù)介入了人本身，改變了人與技術(shù)之間邊界分明的“操作與被操作”關(guān)系，顛覆了人與人、人與社會(huì)之間的傳統(tǒng)道德，給人類社會(huì)帶來(lái)了倫理規(guī)范失控風(fēng)險(xiǎn)。

一方面是對(duì)知情同意原則的挑戰(zhàn)。《中華人民共和國(guó)個(gè)人信息保護(hù)法》明確規(guī)定，信息處理者處理個(gè)人信息時(shí)，首先需要“取得個(gè)人的同意”?？梢?jiàn)，知情同意作為一種倫理規(guī)范，因充分尊重人的自主權(quán)利而得到了人們的普遍認(rèn)可。情緒識(shí)別技術(shù)使人的情緒信息公開(kāi)化，理應(yīng)嚴(yán)格遵循知情同意原則。然而，情緒識(shí)別技術(shù)能夠悄然搜集和匯總?cè)说那榫w信息，并將人的情緒信息置于數(shù)據(jù)庫(kù)中進(jìn)行比對(duì)和分析，使被監(jiān)測(cè)者難以知曉自己的情緒信息被用于何事。這種技術(shù)目的的不確定性不僅使被監(jiān)測(cè)者的自主性難以得到尊重，還造成了對(duì)知情同意原則的嚴(yán)重挑戰(zhàn)。

另一方面是責(zé)任歸屬困境。傳統(tǒng)的責(zé)任倫理主張根據(jù)行為后果來(lái)鎖定責(zé)任主體，并在此基礎(chǔ)上開(kāi)展“對(duì)與錯(cuò)”的責(zé)任追究。然而，情緒識(shí)別技術(shù)顛覆了傳統(tǒng)的責(zé)任倫理規(guī)則，使責(zé)任規(guī)避和責(zé)任轉(zhuǎn)嫁有了更為廣闊的生成空間。究其原因，主要是情緒識(shí)別技術(shù)的可應(yīng)用領(lǐng)域極其廣泛，技術(shù)的研發(fā)者、投資者和實(shí)際運(yùn)用者之間存在著復(fù)雜的利益糾葛，任一行為主體都難以確保這一技術(shù)在實(shí)際應(yīng)用中作出最有利于人類的選擇，這就導(dǎo)致了后續(xù)的責(zé)任追溯難以鎖定明確的責(zé)任對(duì)象。

(三)倫理價(jià)值失衡風(fēng)險(xiǎn)

科學(xué)技術(shù)的不均衡發(fā)展會(huì)引發(fā)倫理價(jià)值的失衡，危及人類社會(huì)的公平正義。就最新進(jìn)展來(lái)看，情緒識(shí)別技術(shù)雖然應(yīng)用領(lǐng)域廣泛，但其核心技術(shù)仍然掌握在少數(shù)人手中，這就導(dǎo)致技術(shù)優(yōu)勢(shì)群體有可能壓迫和威脅到技術(shù)劣勢(shì)群體。在數(shù)字鴻溝加大的人工智能時(shí)代，情緒識(shí)別技術(shù)極易對(duì)社會(huì)弱勢(shì)群體造成負(fù)面影響，我們必須高度重視其潛藏的倫理價(jià)值風(fēng)險(xiǎn)。

第一，情緒識(shí)別技術(shù)所導(dǎo)致的倫理價(jià)值失衡首先表現(xiàn)為技術(shù)壟斷。憑借情緒識(shí)別技術(shù)，相關(guān)的資本占有者會(huì)將自身的資本優(yōu)勢(shì)轉(zhuǎn)化為技術(shù)優(yōu)勢(shì)，賦予社會(huì)其他成員一種“科學(xué)”的情緒標(biāo)簽。而這無(wú)疑為算法偏見(jiàn)創(chuàng)造了尋租空間，性別歧視、種族歧視、年齡歧視等一系列算法偏見(jiàn)被包裝成技術(shù)推算的“科學(xué)”結(jié)果。技術(shù)的不對(duì)稱性造成了巨大的權(quán)利不對(duì)稱，嚴(yán)重?fù)p害了社會(huì)公平正義。

第二，情緒識(shí)別技術(shù)導(dǎo)致倫理價(jià)值失衡的另一表現(xiàn)是市場(chǎng)壟斷。在情緒識(shí)別技術(shù)運(yùn)行過(guò)程中，情緒信息的生產(chǎn)者是每一位提供情緒信息的被監(jiān)測(cè)者。然而，由于被監(jiān)測(cè)者數(shù)量龐大，對(duì)于數(shù)據(jù)庫(kù)整體而言，單個(gè)的被監(jiān)測(cè)者所提供的情緒信息并不具有很大的邊際貢獻(xiàn)。因此，被監(jiān)測(cè)者通常不會(huì)去追究情緒信息的所有權(quán)、使用權(quán)問(wèn)題。這當(dāng)中的倫理價(jià)值沖突主要體現(xiàn)在，情緒信息由被監(jiān)測(cè)者生產(chǎn)，但是單個(gè)被監(jiān)測(cè)者沒(méi)有能力去使用情緒數(shù)據(jù)庫(kù)資料。而當(dāng)技術(shù)優(yōu)勢(shì)群體全盤(pán)接管了情緒數(shù)據(jù)庫(kù)之后，該群體就會(huì)在資本增殖的利益驅(qū)動(dòng)之下想方設(shè)法地實(shí)現(xiàn)自身利益的最大化，將技術(shù)壟斷轉(zhuǎn)變?yōu)槭袌?chǎng)壟斷，嚴(yán)重破壞市場(chǎng)競(jìng)爭(zhēng)的公平性。

第三，情緒識(shí)別技術(shù)所導(dǎo)致的倫理價(jià)值失衡還表現(xiàn)為社會(huì)控制的加劇。隨著情緒識(shí)別技術(shù)的迅猛發(fā)展，在不久的將來(lái)，人的一切情緒變化都可能會(huì)被當(dāng)作數(shù)據(jù)信息，接受他人的搜集、匯總和分析，這也就意味著德勒茲所預(yù)言的“控制社會(huì)”[8]加速成為現(xiàn)實(shí)。試想，當(dāng)人們置身于個(gè)體情緒完全透明化的“解析社會(huì)”之中時(shí)，人的注意力以及個(gè)體欲望必然難以擺脫技術(shù)的捕捉和調(diào)制，人的自主性也就難以避免地成為他者加強(qiáng)社會(huì)控制的犧牲品。

(四)倫理行為異化風(fēng)險(xiǎn)

美國(guó)技術(shù)哲學(xué)家唐·伊德開(kāi)創(chuàng)的后現(xiàn)象學(xué)技術(shù)哲學(xué)深入討論了人、技術(shù)、世界三者之間的四種關(guān)系，即“具身關(guān)系”“解釋關(guān)系”“它異關(guān)系”“背景關(guān)系”[9]，能夠?yàn)槲覀兩钊胩接懬榫w識(shí)別技術(shù)的倫理風(fēng)險(xiǎn)提供理論借鑒。

從“具身關(guān)系”看，情緒識(shí)別技術(shù)改變了人們參與世界的方式，在一定程度上會(huì)干擾人的倫理判斷。當(dāng)人們通過(guò)身體器官來(lái)理解他人情緒時(shí)，人們通常會(huì)基于自己的生活經(jīng)驗(yàn)和知識(shí)水平來(lái)作出相對(duì)獨(dú)立的倫理判斷。而情緒識(shí)別技術(shù)改變了理解情緒的常規(guī)方式，拓寬了人的情緒理解渠道，使人與人之間的情感交流走向間接化，這就可能導(dǎo)致人在技術(shù)的支配下逐漸失去理性思考能力而作出缺乏批判性的倫理行為。

從“解釋關(guān)系”看，當(dāng)人們根據(jù)情緒識(shí)別技術(shù)呈現(xiàn)出的數(shù)據(jù)結(jié)果來(lái)間接地理解他人情緒時(shí)，人可能會(huì)陷入一種隱蔽的被操縱狀態(tài)。在情緒識(shí)別技術(shù)運(yùn)行過(guò)程中，情緒識(shí)別機(jī)器成為人類情緒的解構(gòu)者，它向人們展現(xiàn)的是一種經(jīng)過(guò)數(shù)據(jù)處理的表象。換言之，人通過(guò)情緒識(shí)別技術(shù)而覺(jué)察到的并不是情緒本身，而是一種間接性結(jié)果。這就導(dǎo)致技術(shù)使用者隨時(shí)可能陷入一種隱蔽的被操控狀態(tài)，技術(shù)研發(fā)者、投資者甚至被監(jiān)測(cè)者都有機(jī)會(huì)利用情緒識(shí)別技術(shù)來(lái)展現(xiàn)出自己想要表達(dá)的“情緒信息”。

從“它異關(guān)系”看，情緒識(shí)別技術(shù)在運(yùn)行過(guò)程中能夠“擺置”人的倫理行為?！白馨讶藚R集到技術(shù)展現(xiàn)中，即喚起他的限定方式的全部思想、追求和努力，并使它們只集中在這一種方式的展現(xiàn)上……在我們的時(shí)代，不僅僅人，而且所有的存在者，自然和歷史，鑒于他們的存在，都處于某種要求之下?！盵10]在海德格爾看來(lái)，人在技術(shù)的支配下將逐漸成為異化的人。情緒識(shí)別技術(shù)使人成為技術(shù)的對(duì)象物，讓人的情緒成為一種象征著財(cái)富的信息資源，正在使海德格爾的憂慮部分地成為現(xiàn)實(shí)。

從“背景關(guān)系”看，情緒識(shí)別技術(shù)通常會(huì)以“不在場(chǎng)”的幕后狀態(tài)存在，對(duì)人的倫理行為產(chǎn)生隱性的影響。情緒識(shí)別機(jī)器在接受指令之后會(huì)自主識(shí)別被監(jiān)測(cè)者的情緒狀態(tài)，這日益成為人類不自覺(jué)的技術(shù)背景。然而，情緒識(shí)別技術(shù)越是隱性化，就越容易削弱人的知覺(jué)和判斷，使人日益陷入“技術(shù)繭房”之中。

三、情緒識(shí)別技術(shù)倫理風(fēng)險(xiǎn)的成因

情緒識(shí)別技術(shù)倫理風(fēng)險(xiǎn)的生成原因是復(fù)雜而多元的，其中既包括情緒識(shí)別技術(shù)本身的內(nèi)在因素，又包括社會(huì)倫理環(huán)境等外在因素。具體而言，情緒識(shí)別技術(shù)的倫理風(fēng)險(xiǎn)成因主要包括以下幾個(gè)方面：

(一)倫理觀念的相對(duì)滯后

英國(guó)社會(huì)學(xué)家安東尼·吉登斯指出：“科學(xué)也造成新的不確定性——其中許多具有全球性。對(duì)這些捉摸不定的因素，我們基本上無(wú)法用以往的經(jīng)驗(yàn)來(lái)消除?！盵11]在全球風(fēng)險(xiǎn)時(shí)代，情緒識(shí)別技術(shù)引發(fā)的倫理風(fēng)險(xiǎn)極有可能引發(fā)“蝴蝶效應(yīng)”，給人類社會(huì)造成不可預(yù)見(jiàn)的后果。然而，從時(shí)間維度看，人類社會(huì)的道德標(biāo)準(zhǔn)和價(jià)值判斷通常具有恒久的持續(xù)性、穩(wěn)定性，很難在較短時(shí)間內(nèi)作出改變來(lái)適應(yīng)新興技術(shù)的飛速發(fā)展。因此，在情緒識(shí)別技術(shù)面前，傳統(tǒng)倫理資源所提供的根深蒂固的倫理觀念自然會(huì)展現(xiàn)出一定的滯后性和局限性，以致人們對(duì)情緒識(shí)別技術(shù)的倫理風(fēng)險(xiǎn)往往缺乏足夠的警覺(jué)性和敏感度。此外，從空間維度看，“全球風(fēng)險(xiǎn)社會(huì)”使得情緒識(shí)別技術(shù)的倫理風(fēng)險(xiǎn)極可能演變?yōu)橐环N全球性問(wèn)題，這就導(dǎo)致傳統(tǒng)的區(qū)域性倫理觀念遭遇了很大的挑戰(zhàn)?？傊?，情緒識(shí)別技術(shù)與傳統(tǒng)倫理觀念之間的不對(duì)等關(guān)系導(dǎo)致了人們倫理觀念的相對(duì)滯后，加大了情緒識(shí)別技術(shù)倫理風(fēng)險(xiǎn)爆發(fā)和擴(kuò)散的機(jī)會(huì)。

(二)資本增殖的利益驅(qū)動(dòng)

情緒識(shí)別技術(shù)原本是為了滿足人的美好生活需要而誕生的新興工具手段，但是這種技術(shù)一旦被逐利者掌握，就會(huì)演變?yōu)榉?wù)于資本增殖的技術(shù)工具?！百Y本的邏輯是求利的邏輯，技術(shù)內(nèi)在追求利益和利益最大化的特點(diǎn)和資本追求增殖本性形成內(nèi)在的共契，甚至可以說(shuō)是共謀?！盵12]在市場(chǎng)經(jīng)濟(jì)中，能否取得經(jīng)濟(jì)效益是技術(shù)研發(fā)者所要考慮的首要因素。可以說(shuō)，正是由于情緒識(shí)別技術(shù)本身所具有的經(jīng)濟(jì)價(jià)值決定了這項(xiàng)技術(shù)的存活發(fā)展。然而，“技術(shù)的勝利，似乎是以道德的敗壞為代價(jià)換來(lái)的”[13]。情緒識(shí)別技術(shù)一旦蛻化為資本的附庸，就會(huì)按照資本的邏輯來(lái)運(yùn)行，忘卻其本應(yīng)服務(wù)于人類的倫理價(jià)值。如果單純把情緒識(shí)別技術(shù)看作一種獲取經(jīng)濟(jì)利益的工具，那么即便這種技術(shù)引發(fā)巨大的倫理風(fēng)險(xiǎn)，在一些逐利者看來(lái)也在所不惜。優(yōu)化情緒識(shí)別技術(shù)的用戶體驗(yàn)，使這一技術(shù)占據(jù)更廣闊的市場(chǎng)并創(chuàng)造更多的經(jīng)濟(jì)效益，才是逐利者眼中最重要的事情。這無(wú)疑會(huì)使情緒識(shí)別技術(shù)的倫理風(fēng)險(xiǎn)遭到忽視，使情緒識(shí)別技術(shù)在開(kāi)發(fā)和應(yīng)用過(guò)程中逐漸背離以人為本的科技倫理原則，引發(fā)一系列倫理風(fēng)險(xiǎn)。

(三)技術(shù)本身的不確定性

情緒識(shí)別技術(shù)的廣泛運(yùn)用讓人類理解他人情緒的方式方法有了更多的可能性。但是，情緒識(shí)別技術(shù)需要多種人工智能技術(shù)的支撐，其中主要包括人臉識(shí)別技術(shù)、語(yǔ)音監(jiān)測(cè)技術(shù)、數(shù)據(jù)處理技術(shù)等。每一項(xiàng)相關(guān)技術(shù)都成熟運(yùn)用，才能確保情緒識(shí)別技術(shù)的安全性和可靠性。多種技術(shù)的交互運(yùn)用顯著地增加了情緒識(shí)別技術(shù)本身的不確定性。而不確定性正是引發(fā)倫理風(fēng)險(xiǎn)的主要原因之一?？梢哉f(shuō)，情緒識(shí)別技術(shù)倫理風(fēng)險(xiǎn)的產(chǎn)生與該技術(shù)本身的不確定性有著千絲萬(wàn)縷的聯(lián)系。在運(yùn)用技術(shù)手段來(lái)完成對(duì)人的情緒理解之后，我們?nèi)匀恍枰谥T多不確定因素中面對(duì)各種風(fēng)險(xiǎn)。例如：情緒識(shí)別的技術(shù)結(jié)果是否具有客觀性？監(jiān)測(cè)結(jié)果能否得到科學(xué)運(yùn)用？這些不確定性的存在無(wú)疑加大了情緒識(shí)別技術(shù)倫理風(fēng)險(xiǎn)的可能性。此外，情緒識(shí)別技術(shù)使用者的自律問(wèn)題也是影響情緒識(shí)別技術(shù)倫理風(fēng)險(xiǎn)的主要因素之一。面對(duì)可能帶來(lái)巨額收益的情緒識(shí)別技術(shù)，逐利者通常會(huì)逐漸放松道德倫理層面的自我約束。這就進(jìn)一步增強(qiáng)了情緒識(shí)別技術(shù)的不確定性，使其倫理風(fēng)險(xiǎn)有了更大的生長(zhǎng)空間。

(四)倫理規(guī)約的制度缺陷

倫理規(guī)約在技術(shù)發(fā)展過(guò)程中扮演著重要的角色，能夠促使技術(shù)更好地服務(wù)于人，引導(dǎo)技術(shù)走向可持續(xù)發(fā)展。但是，由于情緒識(shí)別技術(shù)本身的不確定性，與該技術(shù)相關(guān)的倫理規(guī)約往往存在著難以避免的制度缺陷。以個(gè)人信息保護(hù)為例，應(yīng)該說(shuō)，現(xiàn)有的倫理規(guī)范較好地保障了人的信息安全，近期更是通過(guò)立法的方式構(gòu)建起大數(shù)據(jù)時(shí)代背景下個(gè)人信息保護(hù)的制度里程碑。但是，面對(duì)情緒識(shí)別技術(shù)這一新興技術(shù)，仍有諸多疑問(wèn)亟待現(xiàn)有的倫理規(guī)約作出進(jìn)一步回應(yīng)。例如：人的情緒是否屬于個(gè)人信息？人的情緒泄露是否應(yīng)該維權(quán)？情緒泄露造成的損失又該如何衡量？此外，由于情緒識(shí)別技術(shù)本身的復(fù)雜性和專業(yè)性，這一技術(shù)的運(yùn)行過(guò)程不可能像傳統(tǒng)的簡(jiǎn)單技術(shù)那樣由單一的社會(huì)成員就能夠完成，而是必須通過(guò)多人開(kāi)展團(tuán)隊(duì)合作才能完成。因此，在情緒識(shí)別技術(shù)的開(kāi)發(fā)、測(cè)試和應(yīng)用過(guò)程中，每一位技術(shù)研發(fā)者都只不過(guò)是整個(gè)技術(shù)運(yùn)轉(zhuǎn)鏈條上的一環(huán)而已。這就意味著，每一位技術(shù)研發(fā)者都是情緒識(shí)別技術(shù)倫理風(fēng)險(xiǎn)的制造者，但又都不用承擔(dān)全部的倫理風(fēng)險(xiǎn)責(zé)任，甚至不構(gòu)成獨(dú)立的責(zé)任者。這就給情緒識(shí)別技術(shù)的倫理規(guī)約帶來(lái)了責(zé)任追究的難題，導(dǎo)致了倫理風(fēng)險(xiǎn)的擴(kuò)大。

四、情緒識(shí)別技術(shù)倫理風(fēng)險(xiǎn)的防控

為了廓除情緒識(shí)別技術(shù)的倫理風(fēng)險(xiǎn)，既要更新知情同意機(jī)制，也要提高倫理失范成本，更要合理架構(gòu)法律體系，從公眾觀念、責(zé)任倫理、制度規(guī)約等方面同向推進(jìn)，形成有效防控情緒識(shí)別技術(shù)倫理風(fēng)險(xiǎn)的多維合力。

(一)更新知情同意機(jī)制，提高公眾的倫理風(fēng)險(xiǎn)感知能力

情緒識(shí)別技術(shù)所構(gòu)建的情緒理解模式讓技術(shù)使用者自以為掌握了情緒的解鎖密匙，但人類真實(shí)而復(fù)雜的情緒并不能完全轉(zhuǎn)化為數(shù)據(jù)符號(hào)，人與人之間的社會(huì)交往也并不一定需要完全透明化的情緒表達(dá)。公眾只有保持這種倫理風(fēng)險(xiǎn)感知能力，對(duì)情緒識(shí)別技術(shù)慎思明辨，才能為情緒識(shí)別技術(shù)的未來(lái)發(fā)展開(kāi)辟一條澄明之路。相反，倘若公眾對(duì)情緒識(shí)別技術(shù)倫理風(fēng)險(xiǎn)認(rèn)知較少甚至存在盲區(qū)，輕則可能產(chǎn)生技術(shù)恐慌，重則可能導(dǎo)致情緒識(shí)別技術(shù)倫理風(fēng)險(xiǎn)的加劇。因此，更新知情同意機(jī)制，革新社會(huì)倫理觀念，提高公眾的倫理風(fēng)險(xiǎn)感知能力，有助于情緒識(shí)別技術(shù)的倫理風(fēng)險(xiǎn)防控。

首先，情緒識(shí)別技術(shù)研發(fā)者一定要遵循公開(kāi)透明原則，在情緒識(shí)別程序啟動(dòng)時(shí)明確告知被監(jiān)測(cè)者即將與具備情緒識(shí)別能力的系統(tǒng)進(jìn)行交互。就好比某些通話會(huì)提醒“本次通話可能被錄音”一樣，在涉及情緒識(shí)別時(shí)，提示用戶“本次程序運(yùn)行過(guò)程中您的情緒可能被監(jiān)測(cè)”。

其次，在情緒識(shí)別技術(shù)運(yùn)行過(guò)程中，情緒識(shí)別程序要采取語(yǔ)音、圖像等多種方式，引導(dǎo)公眾尊重人的主觀能動(dòng)性和主體價(jià)值性，讓技術(shù)使用者深刻地意識(shí)到，情緒識(shí)別技術(shù)意圖通過(guò)算法歸納、數(shù)據(jù)庫(kù)對(duì)比來(lái)開(kāi)展情緒理解，僅僅是對(duì)人類情緒的簡(jiǎn)單化、低層次的復(fù)現(xiàn)。

最后，在情緒識(shí)別完成后，情緒識(shí)別程序要充分尊重被監(jiān)測(cè)者的知情同意權(quán)利，除了要明確、醒目地告知被監(jiān)測(cè)者情緒識(shí)別結(jié)果的用途，還應(yīng)當(dāng)向被監(jiān)測(cè)者披露情緒識(shí)別技術(shù)數(shù)據(jù)處理的基礎(chǔ)邏輯以及程序運(yùn)行可能給被監(jiān)測(cè)者造成的影響，將情緒識(shí)別結(jié)果的數(shù)據(jù)處置權(quán)完全賦予被監(jiān)測(cè)者本人，增進(jìn)公眾對(duì)于情緒識(shí)別技術(shù)不確定性和復(fù)雜性的理性認(rèn)識(shí)，盡可能地獲取公眾的支持和理解。

(二)提高倫理失范成本，強(qiáng)化技術(shù)研發(fā)者的風(fēng)險(xiǎn)防控意識(shí)

情緒識(shí)別技術(shù)研發(fā)者的倫理行為是由其利益動(dòng)機(jī)所決定的。因此，可通過(guò)提高倫理失范成本來(lái)強(qiáng)化情緒識(shí)別技術(shù)研發(fā)者的風(fēng)險(xiǎn)防控意識(shí)。

第一，要完善情緒識(shí)別技術(shù)相關(guān)行業(yè)的準(zhǔn)入和退出機(jī)制，以此來(lái)提高情緒識(shí)別技術(shù)研發(fā)者的倫理失范成本，維護(hù)情緒識(shí)別技術(shù)應(yīng)用市場(chǎng)的良性競(jìng)爭(zhēng)環(huán)境。完善情緒識(shí)別技術(shù)相關(guān)行業(yè)的準(zhǔn)入機(jī)制一方面是要支持和鼓勵(lì)具有創(chuàng)新能力的情緒識(shí)別技術(shù)研發(fā)機(jī)構(gòu)進(jìn)入市場(chǎng)，另一方面則是要提高情緒識(shí)別技術(shù)相關(guān)行業(yè)的準(zhǔn)入門(mén)檻，加大資格審查力度，將遵循倫理規(guī)范作為情緒識(shí)別技術(shù)應(yīng)用的前提條件，嚴(yán)把情緒識(shí)別技術(shù)相關(guān)行業(yè)的市場(chǎng)準(zhǔn)入關(guān)。完善情緒識(shí)別技術(shù)相關(guān)行業(yè)的退出機(jī)制一方面是要明確情緒識(shí)別技術(shù)相關(guān)行業(yè)退出的程序和標(biāo)準(zhǔn)，形成規(guī)范化、制度化的行業(yè)退出機(jī)制，另一方面則是要充分發(fā)揮市場(chǎng)在情緒識(shí)別技術(shù)相關(guān)行業(yè)資源配置中的決定性作用，實(shí)現(xiàn)情緒識(shí)別技術(shù)應(yīng)用市場(chǎng)生態(tài)的自我凈化。

第二，要針對(duì)情緒識(shí)別技術(shù)而建立專門(mén)的倫理審查機(jī)構(gòu)，實(shí)施嚴(yán)格的倫理審查制度，明確告知情緒識(shí)別技術(shù)研發(fā)者可能擔(dān)負(fù)的倫理風(fēng)險(xiǎn)?；趪?guó)內(nèi)外新興技術(shù)倫理風(fēng)險(xiǎn)防控的成功經(jīng)驗(yàn)，我國(guó)有必要自上而下地建立起新興技術(shù)倫理審查機(jī)構(gòu)，通過(guò)建立常態(tài)化的監(jiān)管機(jī)構(gòu)來(lái)告知和督促情緒識(shí)別技術(shù)研發(fā)者遵從技術(shù)研發(fā)的倫理規(guī)范。

第三，要通過(guò)提倡職業(yè)道德、加強(qiáng)社會(huì)監(jiān)督來(lái)提高情緒識(shí)別技術(shù)倫理失范成本。除了加強(qiáng)對(duì)專業(yè)機(jī)構(gòu)的審查工作，我們還要大力宣傳科技倫理對(duì)技術(shù)研發(fā)者個(gè)人職業(yè)生涯發(fā)展和技術(shù)高質(zhì)量發(fā)展的正負(fù)面影響，將與情緒識(shí)別技術(shù)倫理問(wèn)題類似的典型科技倫理失范案例編纂成冊(cè)并出版發(fā)行，以此來(lái)警示情緒識(shí)別技術(shù)研發(fā)者，切實(shí)強(qiáng)化他們的倫理風(fēng)險(xiǎn)防控意識(shí)。

(三)合理架構(gòu)法律體系，運(yùn)用法律來(lái)約束具體技術(shù)行為

加強(qiáng)倫理道德建設(shè)是增強(qiáng)情緒識(shí)別技術(shù)道德底蘊(yùn)、促進(jìn)該技術(shù)健康發(fā)展的重要渠道，但是我們也不能因此而忽視情緒識(shí)別技術(shù)發(fā)展的法治環(huán)境。而優(yōu)化法治環(huán)境，首先就是要合理架構(gòu)與情緒識(shí)別技術(shù)最新應(yīng)用進(jìn)展相匹配的法律體系。我國(guó)雖然已于2021年11月1日起正式施行了《個(gè)人信息保護(hù)法》，但就情緒識(shí)別技術(shù)的最新應(yīng)用進(jìn)展而言，我國(guó)針對(duì)這一領(lǐng)域的立法仍然相對(duì)滯后。情緒識(shí)別技術(shù)直接面向公民的個(gè)人敏感信息，其引發(fā)的倫理新挑戰(zhàn)已然在一定程度上打破了傳統(tǒng)的法律假設(shè)。因此，當(dāng)前我國(guó)需要加大力度，合理架構(gòu)適應(yīng)情緒識(shí)別技術(shù)最新應(yīng)用進(jìn)展的法律體系，針對(duì)情緒識(shí)別技術(shù)的具體細(xì)分領(lǐng)域而靈活地調(diào)整治理策略，以明確的法律規(guī)定來(lái)應(yīng)對(duì)情緒識(shí)別技術(shù)的不確定性。

第一，應(yīng)當(dāng)堅(jiān)持禁止性規(guī)定與賦權(quán)性規(guī)定之間的并存和聯(lián)動(dòng)。情緒識(shí)別技術(shù)本身具有極強(qiáng)的專業(yè)性和復(fù)雜性，堅(jiān)持禁止性規(guī)定與賦權(quán)性規(guī)定之間的并存和聯(lián)動(dòng)有利于增強(qiáng)司法實(shí)踐中的可操作性。對(duì)于情緒識(shí)別技術(shù)運(yùn)行過(guò)程中的被監(jiān)測(cè)者，法律應(yīng)當(dāng)作出賦權(quán)性規(guī)定，充分保障被監(jiān)測(cè)者的知情同意權(quán)利、信息支配權(quán)利以及自由自主權(quán)利。對(duì)于情緒識(shí)別技術(shù)的開(kāi)發(fā)者和實(shí)施者，法律應(yīng)當(dāng)作出相應(yīng)的禁止性規(guī)定，明確情緒識(shí)別技術(shù)運(yùn)行過(guò)程中的責(zé)任主體。

第二，應(yīng)當(dāng)堅(jiān)持公私法律制度之間的內(nèi)在協(xié)調(diào)和互補(bǔ)。我國(guó)針對(duì)情緒識(shí)別技術(shù)這一領(lǐng)域進(jìn)行立法時(shí)，應(yīng)當(dāng)做到公私兼顧，一方面憑借行政執(zhí)法來(lái)維護(hù)社會(huì)群體的公共權(quán)利，另一方面通過(guò)民事法律的介入來(lái)實(shí)現(xiàn)私權(quán)保障，對(duì)情緒識(shí)別技術(shù)運(yùn)行中的被監(jiān)測(cè)者給予民事權(quán)利保護(hù)和救濟(jì)。在明確被監(jiān)測(cè)者的權(quán)利內(nèi)容之外，還應(yīng)當(dāng)就情緒識(shí)別技術(shù)應(yīng)用紛爭(zhēng)的訴訟時(shí)效、訴訟主體、過(guò)錯(cuò)舉證責(zé)任等內(nèi)容作出明確規(guī)定，力求實(shí)現(xiàn)內(nèi)容科學(xué)、體系完備的法律安排。