情感計(jì)算的應(yīng)用困境及其法律規(guī)制

文/王祿生

我國(guó)是世界范圍內(nèi)情感計(jì)算技術(shù)最為主要的研發(fā)與應(yīng)用國(guó)之一。人臉識(shí)別、語(yǔ)音識(shí)別等前置感知智能技術(shù)的大面積應(yīng)用為情感計(jì)算技術(shù)在近年來(lái)的迅速發(fā)展鋪平了道路。相較于豐富的實(shí)踐，我國(guó)法律界對(duì)于這一技術(shù)的關(guān)注尚不充分，因此有必要對(duì)其技術(shù)邏輯、實(shí)踐應(yīng)用、現(xiàn)實(shí)困境和法律規(guī)制等重要方面展開(kāi)專門(mén)的探討。

情感計(jì)算的技術(shù)邏輯

情感計(jì)算（affective computing）意指“與情緒或其他情感現(xiàn)象有關(guān)的、產(chǎn)生于或有意影響情緒或其他情感現(xiàn)象的計(jì)算”。從語(yǔ)詞原意來(lái)看，“情感”（affect）包括“情緒”（emotion）和“心情”（mood）兩個(gè)部分，前者主要是短期的，可以通過(guò)表情來(lái)體現(xiàn)，如憤怒、悲傷、愉悅；后者則具有一定的延續(xù)性，比如好心情、壞心情。所以“情感計(jì)算”實(shí)際上是一個(gè)寬泛的概念，它包括任何與個(gè)人情緒、心情狀態(tài)相關(guān)的計(jì)算機(jī)程序，“情緒識(shí)別”是“情感計(jì)算”的有機(jī)組成部分。隨著人工智能技術(shù)的發(fā)展，情感計(jì)算日益與AI結(jié)合。典型的比如“AI+情緒識(shí)別技術(shù)”之后形成的“情緒識(shí)別智能技術(shù)”。該技術(shù)利用人臉識(shí)別、語(yǔ)音識(shí)別等“遠(yuǎn)程生物特征識(shí)別系統(tǒng)”（remote biometric identification system）提取表情、語(yǔ)音、步態(tài)、姿勢(shì)等各類生物特征（biometric data）信息，從而識(shí)別對(duì)象的情緒狀態(tài)。本文正是在人工智能的視域下探討情感計(jì)算技術(shù)，意指感知、識(shí)別、模擬、影響人類情感狀態(tài)的各類智能技術(shù)的統(tǒng)稱。

情感計(jì)算的技術(shù)邏輯大致可以分為感知（sensing）、識(shí)別（recognition）、模擬（simulation）、影響（influence）四個(gè)環(huán)節(jié)。具體而言，情感計(jì)算的第一步是通過(guò)各類傳感器（sensor）實(shí)現(xiàn)對(duì)自然人各類生物信息的“感知”，這種感知可以通過(guò)非接觸式的遠(yuǎn)程識(shí)別的方式來(lái)實(shí)現(xiàn)，也可以通過(guò)接觸式的傳感器來(lái)實(shí)現(xiàn)?，F(xiàn)階段情感計(jì)算在感知階段的數(shù)據(jù)源具有多樣性，主要是聲音、表情、肢體語(yǔ)言、姿勢(shì)等各類生物信息。在完成各類信息感知的基礎(chǔ)之上，情感計(jì)算技術(shù)將進(jìn)入“識(shí)別”環(huán)節(jié)?！白R(shí)別”要借助各類情感識(shí)別模型。識(shí)別模型的生成主要采用有監(jiān)督學(xué)習(xí)的方式。具體而言，就是依托各類基本情感理論，人為地將特定的生物信息與情感狀態(tài)關(guān)聯(lián)。在實(shí)操層面即通過(guò)人工標(biāo)注，為各類“提取特征”添加情感標(biāo)簽，如語(yǔ)速快速、響亮可能對(duì)應(yīng)恐懼、憤怒或喜悅的情感狀態(tài)。在完成了足夠多的標(biāo)注之后，深度學(xué)習(xí)技術(shù)可以通過(guò)模型訓(xùn)練形成對(duì)各類自然人生物信息特征對(duì)應(yīng)情感的識(shí)別模型。在此基礎(chǔ)上，當(dāng)有新的聲音、表情等生物信息進(jìn)入系統(tǒng)后，系統(tǒng)可以根據(jù)情感識(shí)別模型進(jìn)行識(shí)別。當(dāng)然，“識(shí)別”只是初級(jí)的應(yīng)用。該類技術(shù)的終極目標(biāo)是在“識(shí)別”基礎(chǔ)之上使得計(jì)算機(jī)具備“模擬”自然人情緒的能力，并且能夠根據(jù)不同情境，采取相應(yīng)策略來(lái)“影響”自然人的情緒，也就是讓機(jī)器具備情感智能，能夠以最佳的方式識(shí)別和調(diào)節(jié)（自己或他人）情感的能力。

情感計(jì)算的應(yīng)用觀察

情感計(jì)算主流應(yīng)用有兩類：其一是情感計(jì)算的結(jié)果作用于被識(shí)別者本人，通過(guò)改變其情感狀態(tài)而治療疾病、提高體驗(yàn)，典型的例子是利用情感計(jì)算治療自閉癥；其二是情感計(jì)算的結(jié)果作用于被識(shí)別者之外的第三人，提供各類決策輔助，比如在招聘環(huán)節(jié)使用情感計(jì)算。在醫(yī)療領(lǐng)域，許多心理和生理狀況，包括自閉、抑郁和中風(fēng)，都會(huì)影響理解、控制或交流情感的能力。情感計(jì)算已被用于評(píng)估和治療各種疾病，并改善與情感有關(guān)的交流。在教育領(lǐng)域，情感計(jì)算技術(shù)可以通過(guò)面部表情的識(shí)別來(lái)判斷學(xué)習(xí)者的情況和學(xué)習(xí)狀態(tài)。與此同時(shí)，該技術(shù)還可以讓教師了解學(xué)生的內(nèi)心感受，從而制訂更具個(gè)性化的教學(xué)方案。隨著在線教學(xué)的日益擴(kuò)展，情感計(jì)算被認(rèn)為可以提升師生互動(dòng)質(zhì)量，改善因?yàn)槿狈鹘y(tǒng)課堂學(xué)習(xí)氛圍而導(dǎo)致的厭學(xué)情緒。在就業(yè)領(lǐng)域，情感識(shí)別的使用也出現(xiàn)了激增，例如在求職者或員工不知情的情況下進(jìn)行工作能力判斷。系統(tǒng)利用求職者的電腦或手機(jī)攝像頭分析他們的面部動(dòng)作、用詞和說(shuō)話聲音，然后根據(jù)自動(dòng)生成的“就業(yè)能力”得分，將求職者進(jìn)行排名。商業(yè)領(lǐng)域的情感計(jì)算應(yīng)用旨在根據(jù)情感的識(shí)別為顧客提供更為優(yōu)質(zhì)的服務(wù)。商店可以通過(guò)軟件分析購(gòu)物者的實(shí)時(shí)圖像，以檢測(cè)情感，進(jìn)而有針對(duì)性地提供服務(wù)。此外，情感計(jì)算也開(kāi)始應(yīng)用于邊境檢查、案件偵查等執(zhí)法領(lǐng)域，利用對(duì)不特定公眾情緒的識(shí)別，發(fā)現(xiàn)異常情況、鎖定嫌疑人。

情感計(jì)算應(yīng)用的多維困境

（一）情感計(jì)算應(yīng)用的法律問(wèn)題

情感計(jì)算與人臉識(shí)別等知名的生物識(shí)別應(yīng)用不同，后者旨在識(shí)別個(gè)人，而前者則是在識(shí)別個(gè)人的基礎(chǔ)之上進(jìn)一步推斷一個(gè)人的內(nèi)在情緒。因此，情感計(jì)算的應(yīng)用會(huì)對(duì)公民基本權(quán)利造成不成比例的風(fēng)險(xiǎn)。首先，由于與人臉識(shí)別等感知智能技術(shù)在邏輯上具有前后承接性，情感計(jì)算技術(shù)的應(yīng)用對(duì)人臉等生物識(shí)別信息的處理將直接與個(gè)人信息的諸多權(quán)能形成沖突。其次，情感計(jì)算的應(yīng)用還可能對(duì)個(gè)人隱私權(quán)形成直接的侵犯。在公眾場(chǎng)合通過(guò)非接觸式的感知智能技術(shù)對(duì)公眾情感隱私的分析具有“窺探”的意味，相較于人臉識(shí)別而言具有更強(qiáng)的“侵入性”（invasive），大大超出了公眾在公開(kāi)場(chǎng)合可以保持個(gè)人情感隱私的預(yù)期。盡管基于明顯表情推斷情緒可能不足以上升到“窺探”隱私的程度，但微表情或者因刺激而短暫出現(xiàn)的面部表情則是非自愿的情感泄露（暴露真實(shí)的情感），具有明顯的隱私意涵。更不要說(shuō)借助面部血流、瞳孔擴(kuò)張等更加細(xì)微的表征而完成的對(duì)情感的“刺探”。最后，情感計(jì)算的部分應(yīng)用還與人格尊嚴(yán)、平等保護(hù)等形成沖突。在智慧招聘推行過(guò)程中，通過(guò)情感計(jì)算，將受聘人群劃分為“高情緒控制力”和“低情緒控制力”，這種帶有價(jià)值導(dǎo)向的分類無(wú)疑會(huì)對(duì)人格尊嚴(yán)形成侵犯。更為重要的是，相關(guān)情感計(jì)算應(yīng)用實(shí)質(zhì)上需要根據(jù)計(jì)算結(jié)果對(duì)不同分類的人群采取差異化、個(gè)性化的策略。此種差異化對(duì)待可能對(duì)特定人群形成歧視。

（二）情感計(jì)算應(yīng)用的倫理沖突

基礎(chǔ)倫理學(xué)高度重視人類情感，影響情感的情感計(jì)算技術(shù)被認(rèn)為會(huì)影響人的道德標(biāo)準(zhǔn)及自由意志。在經(jīng)驗(yàn)主義倫理學(xué)中，情感被視為道德判斷的根源。在大衛(wèi)·休謨和亞當(dāng)·斯密看來(lái)，所謂的錯(cuò)事，就是一種我們“道德情感”無(wú)法接受的狀況；在功利主義倫理學(xué)的視野中，基本的道德義務(wù)是使幸福感最大化。換言之，情感是我們成為道德人的核心。在上述將情感視作道德基石的哲學(xué)流派看來(lái)，情感計(jì)算應(yīng)用在影響了情感的同時(shí)也就影響了人類的道德標(biāo)準(zhǔn)。與基于情感的道德理論相比，康德認(rèn)為道德的基石是根據(jù)理智原則而不是感情來(lái)行使自由意志。按照這種觀點(diǎn)，情感計(jì)算因?yàn)榭赡苡绊懬楦?，進(jìn)而影響自由意志，因此具有深遠(yuǎn)的道德意義。具體而言，情感計(jì)算旨在模擬并影響人的自由意志，而自由意志在基礎(chǔ)道德哲學(xué)中具有神圣不可侵犯的地位。從這個(gè)角度看，情感計(jì)算影響情感的嘗試就顯得“不道德”。

（三）情感計(jì)算應(yīng)用的技術(shù)瓶頸

情感計(jì)算技術(shù)的底層依據(jù)來(lái)自“基本情感理論”（Basic Emotion Theory， BET）。該理論由心理學(xué)家保羅·?？寺≒aul Ekman）在1970年提出，認(rèn)為人們可以從面部表情中可靠地辨別出情緒狀態(tài)，并且此種表情與情緒的關(guān)聯(lián)具有跨文化的普遍性。不過(guò)，在情感計(jì)算的發(fā)展過(guò)程中，對(duì)上述假設(shè)的質(zhì)疑始終持續(xù)。第一，外在表達(dá)與內(nèi)在情感之間的關(guān)聯(lián)存在不確定性。情感計(jì)算在技術(shù)邏輯上的根本問(wèn)題在于它基于反向推理，即一個(gè)特定的生理信息被用來(lái)表示一種情緒體驗(yàn)。從計(jì)算的角度來(lái)看，所有這些來(lái)源都是生理信號(hào)，具有分析和解釋上的共同困難。一方面，相同的生理信息可能表達(dá)了不只一種情緒，而實(shí)際上理解情緒需要更多的情境細(xì)節(jié)支撐。另一方面，在強(qiáng)烈刺激的環(huán)境下，受試者的生理信號(hào)和情緒之間可以建立較為明確的關(guān)聯(lián)。但是現(xiàn)有技術(shù)尚未證明在微妙和自然的情況下可以可靠地檢測(cè)到這種反應(yīng)。第二，人們?cè)诓煌幕?、不同情況下，甚至在同一情況下，在溝通他們的情緒狀態(tài)時(shí)，存在著大量的差異。綜上所述，正是因?yàn)橥庠诒磉_(dá)與內(nèi)在情感之間的不確定性、多樣性，以及數(shù)據(jù)標(biāo)注的主觀性，現(xiàn)階段情感計(jì)算技術(shù)在準(zhǔn)確性上難以得到充分保障。

情感計(jì)算應(yīng)用的法律規(guī)制

（一）以“輕推”為限度的底線規(guī)制

情感計(jì)算應(yīng)用的法律規(guī)制需要調(diào)和倫理學(xué)對(duì)情感自主性的強(qiáng)調(diào)與情感計(jì)算以影響情感為終極目標(biāo)之間的張力。簡(jiǎn)言之，就是在綜合考量倫理困境與技術(shù)困境的基礎(chǔ)上，通過(guò)法律設(shè)定情感計(jì)算技術(shù)對(duì)個(gè)人情感影響的限度，進(jìn)而有效避免情感計(jì)算技術(shù)被濫用的風(fēng)險(xiǎn)。筆者認(rèn)為，可以借鑒行為經(jīng)濟(jì)學(xué)與行為科學(xué)成熟的理論框架，以“輕推”為限度構(gòu)建一套情感計(jì)算應(yīng)用的底線規(guī)制體系。“輕推”對(duì)應(yīng)的英文“nudge”的原始含義是指輕輕推某人，尤指用肘輕輕推某人，以引起他們的注意。它是指通過(guò)正向強(qiáng)化（positive reinforcement）和間接建議（indirect suggestions），影響群體或個(gè)人的行為和決策，但個(gè)人仍然有選擇自由。

按照上述理論框架，應(yīng)通過(guò)法律明確規(guī)范情感計(jì)算技術(shù)對(duì)人類情感的干預(yù)限度和方式。（1）情感計(jì)算應(yīng)用中施加的影響情感的措施只能以“輕推”為限度，不得直接“操縱/控制”（manipulate）情感。那種通過(guò)腦機(jī)接口（BCI）的方式直接作用于神經(jīng)進(jìn)而影響情感的方案與“輕推”的法律要求根本沖突。（2）情感計(jì)算應(yīng)用中施加的影響情感的措施不得妨礙人們的自由選擇，不禁止其他選項(xiàng)。（3）情感計(jì)算應(yīng)用中施加的影響情感的措施不能顯著增加選擇者的負(fù)擔(dān)，并且可以通過(guò)低成本的方式輕易避免。（4）情感計(jì)算應(yīng)用中施加的影響情感的措施原則上只能是“積極助推”，禁止“負(fù)面助推”。（5）對(duì)于未成年人、精神病人、殘疾人等易受傷害人群，作為法律保留事項(xiàng)，需要更為嚴(yán)格的限制和專業(yè)指導(dǎo)。通俗來(lái)講，情感計(jì)算的“輕推”就是發(fā)現(xiàn)特定主體情緒存在一定問(wèn)題，用各種策略“輕推一把”，讓他/她能夠回歸正軌。當(dāng)然，在特定情況下，比如醫(yī)療領(lǐng)域應(yīng)用情感計(jì)算時(shí)，可以適當(dāng)超越“輕推”的范疇，但需要更加謹(jǐn)慎的態(tài)度和專業(yè)的論證。

（二）以風(fēng)險(xiǎn)為基礎(chǔ)的差異規(guī)制

情感計(jì)算技術(shù)的法律規(guī)制除了以“輕推”為底線之外，還應(yīng)當(dāng)按照以風(fēng)險(xiǎn)為基礎(chǔ)的比例原則構(gòu)建一套法律規(guī)制體系。申言之，就是根據(jù)情感計(jì)算應(yīng)用可能產(chǎn)生的風(fēng)險(xiǎn)強(qiáng)度來(lái)動(dòng)態(tài)調(diào)整法律規(guī)制的類型與內(nèi)容。一方面，要合理考慮情感計(jì)算應(yīng)用對(duì)權(quán)利與倫理的影響強(qiáng)度與范圍；另一方面，嚴(yán)格按照風(fēng)險(xiǎn)的等級(jí)差異，等比例提供規(guī)制方案。對(duì)于“不可接受”的應(yīng)用直接禁止，對(duì)于“可接受”的風(fēng)險(xiǎn)則分為“高風(fēng)險(xiǎn)”“中風(fēng)險(xiǎn)”“低風(fēng)險(xiǎn)”三類進(jìn)行差異化規(guī)制。

所謂的“不可接受的風(fēng)險(xiǎn)”是指觸碰倫理禁區(qū)和價(jià)值底線的情感計(jì)算應(yīng)用。根據(jù)該技術(shù)現(xiàn)有的發(fā)展態(tài)勢(shì)來(lái)看，主要有以下三種情形：（1）試圖直接操縱、控制他人情緒的情感計(jì)算應(yīng)用；（2）追求不正當(dāng)目的的情感計(jì)算應(yīng)用，比如旨在激起特定人群積極情緒（暴力、好戰(zhàn)）的應(yīng)用；（3）濫用技術(shù)，利用人性的弱點(diǎn)，比如未成年人、精神病人在年齡、身體或精神上的脆弱性，扭曲個(gè)人情感的情感計(jì)算應(yīng)用。上述三種情形的情感計(jì)算應(yīng)用產(chǎn)生的風(fēng)險(xiǎn)在法律上屬于“不可接受”的范疇，因此應(yīng)當(dāng)完全禁止。

所謂“高風(fēng)險(xiǎn)”是指那種可能嚴(yán)重影響個(gè)人權(quán)利，尤其是教育、健康、安全等基本權(quán)利的情感計(jì)算應(yīng)用。這里的“嚴(yán)重影響”是指基于情感計(jì)算的結(jié)果直接決定個(gè)人教育、社會(huì)保障、醫(yī)療、就業(yè)、安全、健康等基本權(quán)利的有無(wú)。也就是說(shuō)，情感計(jì)算結(jié)論成為“剝奪”個(gè)人基本權(quán)利的直接依據(jù)。按照情感計(jì)算技術(shù)發(fā)展的趨勢(shì)來(lái)看，主要有以下四種情形：（1）在教育系統(tǒng)中使用情感計(jì)算技術(shù)，用于確定進(jìn)入教育機(jī)構(gòu)的資格，或?qū)?duì)特定人群情緒控制能力的評(píng)估作為接受教育的一部分或者前提；（2）在就業(yè)領(lǐng)域使用情感計(jì)算技術(shù)，用于人員的招募和甄選，決定晉升或解雇；（3）在公共服務(wù)領(lǐng)域使用情感計(jì)算技術(shù)決定個(gè)人是否獲得和享受某些必不可少的公共服務(wù)，如獲得公租房、電力、電信服務(wù)等；（4）在執(zhí)法領(lǐng)域使用情感計(jì)算技術(shù)判斷特定公眾的危險(xiǎn)程度或供述的可信度，以決定是否采用非羈押措施、緩刑等。此類應(yīng)用可能會(huì)對(duì)個(gè)人的教育、職業(yè)等權(quán)利產(chǎn)生極為深刻和廣泛的影響。加之情感計(jì)算在技術(shù)上的不穩(wěn)定性，對(duì)其應(yīng)用還可能導(dǎo)致特定群體被排斥在享受特定基本權(quán)利之外。這實(shí)際上侵犯了尊嚴(yán)和不歧視的平等與正義價(jià)值觀，導(dǎo)致特定群體在整個(gè)社會(huì)交往環(huán)境中處于特別被動(dòng)的地位，并將此種歧視以技術(shù)形式固化。對(duì)于這類“高風(fēng)險(xiǎn)”應(yīng)用需要嚴(yán)格限制，原則上禁止，只有公共服務(wù)機(jī)構(gòu)基于公共利益而展開(kāi)，且需要配合以全流程的監(jiān)管措施。

所謂的“中風(fēng)險(xiǎn)”是指那種中度影響個(gè)人權(quán)利的情感計(jì)算應(yīng)用，具體而言就是對(duì)個(gè)人權(quán)利產(chǎn)生實(shí)質(zhì)影響，但并不決定特定權(quán)利有無(wú)的狀態(tài)。盡管如此，考慮到對(duì)個(gè)人權(quán)利影響的實(shí)質(zhì)性以及現(xiàn)有技術(shù)的不穩(wěn)定性，我們?nèi)匀恍枰獙⑺麄儦w并為“中風(fēng)險(xiǎn)”應(yīng)用。比如智慧教育中基于學(xué)生的情緒識(shí)別而采用差異化的教學(xué)策略雖然影響了不同學(xué)生的受教育權(quán)，但并未作為教育的準(zhǔn)入資格條件而存在。對(duì)于“中風(fēng)險(xiǎn)”的情感智能技術(shù)，原則上可以應(yīng)用，但是要構(gòu)建一套全生命周期的監(jiān)管措施。（1）風(fēng)險(xiǎn)管理機(jī)制：構(gòu)建完備的情感計(jì)算應(yīng)用風(fēng)險(xiǎn)評(píng)估系統(tǒng)，從倫理、法律和技術(shù)三個(gè)維度綜合審查已經(jīng)發(fā)生或者可能發(fā)生的各類風(fēng)險(xiǎn)，并對(duì)各類風(fēng)險(xiǎn)發(fā)生的應(yīng)對(duì)措施做提前預(yù)案。同時(shí)，風(fēng)險(xiǎn)評(píng)估要在全生命周期內(nèi)不斷迭代與更新。（2）數(shù)據(jù)治理機(jī)制：構(gòu)建數(shù)據(jù)獲取、標(biāo)注、訓(xùn)練的治理機(jī)制，提升質(zhì)量，將風(fēng)險(xiǎn)和歧視的結(jié)果降至最低。比如在情緒識(shí)別的樣本選擇時(shí)需要考慮不同性別、民族的人群構(gòu)成，保障訓(xùn)練樣本的代表性；在數(shù)據(jù)標(biāo)注時(shí)需要統(tǒng)一培訓(xùn)，按照一致的標(biāo)準(zhǔn)。（3）技術(shù)保障機(jī)制：情感計(jì)算應(yīng)用的開(kāi)發(fā)者應(yīng)當(dāng)保障技術(shù)具有實(shí)現(xiàn)開(kāi)發(fā)目的的準(zhǔn)確性、穩(wěn)定性與安全性；要引入獨(dú)立第三方對(duì)各項(xiàng)技術(shù)的性能指標(biāo)進(jìn)行充分的測(cè)試與驗(yàn)證。（4）流程備份機(jī)制：對(duì)應(yīng)用的全過(guò)程進(jìn)行記錄以保證可追溯性。（5）信息透明機(jī)制：使用者應(yīng)當(dāng)向用戶提供清晰、充分的信息，包括技術(shù)的現(xiàn)有準(zhǔn)確性、安全性等內(nèi)容都需要在使用說(shuō)明中聲明。（6）信息備案機(jī)制：將應(yīng)用的相關(guān)信息提交相關(guān)主管機(jī)構(gòu)備案。在應(yīng)用發(fā)展過(guò)程中，要及時(shí)更新。

所謂的“低風(fēng)險(xiǎn)”是指輕度影響或者不影響個(gè)人權(quán)利的情感計(jì)算應(yīng)用。比如在情感聊天系統(tǒng)中，根據(jù)對(duì)用戶情緒的識(shí)別自動(dòng)調(diào)整聊天方式。對(duì)于低風(fēng)險(xiǎn)的應(yīng)用，法律上原則上不施加明顯的規(guī)制，只是作出最基礎(chǔ)的透明義務(wù)要求，比如明確告知用戶正在與具備情感識(shí)別功能的系統(tǒng)交互。在此基礎(chǔ)上，相關(guān)企業(yè)可以按照企業(yè)自律的方式合理選擇全流程監(jiān)管措施中的一項(xiàng)或者多項(xiàng)，以提升企業(yè)的合規(guī)能力。