情緒識(shí)別技術(shù)的倫理風(fēng)險(xiǎn)及其規(guī)避

【摘要】情緒識(shí)別技術(shù)主要通過收集表情容貌、身體動(dòng)作、語言內(nèi)容等人類個(gè)體特征來解讀人類心理活動(dòng)。這項(xiàng)技術(shù)的應(yīng)用可以在多領(lǐng)域推進(jìn)人類社會(huì)進(jìn)步，但是也給人類帶來潛在的倫理風(fēng)險(xiǎn)問題。情緒識(shí)別技術(shù)有其理論基礎(chǔ)，而從其應(yīng)用特征來看，導(dǎo)致技術(shù)風(fēng)險(xiǎn)的原因主要在于情緒識(shí)別技術(shù)仍處于初步發(fā)展階段和相關(guān)技術(shù)管理規(guī)定上的空白，正是由于對(duì)該項(xiàng)技術(shù)風(fēng)險(xiǎn)管控的認(rèn)識(shí)不足，才導(dǎo)致情緒識(shí)別技術(shù)的倫理風(fēng)險(xiǎn)。問題的解決，需要從該技術(shù)倫理觀念的更新、對(duì)于該技術(shù)市場(chǎng)的有效管控和完善已有倫理制度等出發(fā)；而從管理者的角度來看，進(jìn)一步規(guī)避該技術(shù)應(yīng)用所帶來的倫理風(fēng)險(xiǎn)，一方面需要構(gòu)建以民眾為基礎(chǔ)的知情同意機(jī)制，另一方面也需要提高情緒識(shí)別技術(shù)倫理失范的代價(jià)，更需要對(duì)該技術(shù)進(jìn)行風(fēng)險(xiǎn)分級(jí)管控。

【關(guān)鍵詞】情緒識(shí)別技術(shù)；倫理風(fēng)險(xiǎn)；技術(shù)倫理

【中圖分類號(hào)】B82 【文獻(xiàn)標(biāo)識(shí)碼】A 【文章編號(hào)】2096-8264（2024）31-0133-04

【DOI】10.20024/j.cnki.CN42-1911/I.2024.31.037

基金項(xiàng)目：江蘇師范大學(xué)研究生科研與實(shí)踐創(chuàng)新計(jì)劃項(xiàng)目“生物醫(yī)學(xué)道德增強(qiáng)的倫理可行性研究”（項(xiàng)目編號(hào)：2024XKT1063）。

情緒識(shí)別是一種新的識(shí)別技術(shù)，可以收集人類個(gè)體的表情容貌、身體動(dòng)作、語言內(nèi)容等人類個(gè)體特征來進(jìn)行解讀人類心理的活動(dòng)，這項(xiàng)技術(shù)可以通過人類的這些細(xì)節(jié)來解讀人類內(nèi)心的情緒，從而通過計(jì)算機(jī)的算法來理解人類復(fù)雜的情緒。這項(xiàng)技術(shù)可以提升機(jī)器與人類的互動(dòng)能力，使得人機(jī)交互體驗(yàn)得到進(jìn)一步優(yōu)化；同時(shí)也可以在一些領(lǐng)域內(nèi)幫助人類，如醫(yī)療、商業(yè)領(lǐng)域等。情緒識(shí)別技術(shù)在很多領(lǐng)域透露出來的潛力，一方面使得人類對(duì)未來發(fā)展前景持樂觀態(tài)度，另一方面也產(chǎn)生了很多擔(dān)心的情緒。未來情緒識(shí)別技術(shù)廣泛運(yùn)用后，其倫理風(fēng)險(xiǎn)問題必將十分突出，因此人類需要早日思考其產(chǎn)生原因，制定規(guī)則規(guī)范其使用界限，在此基礎(chǔ)上為規(guī)避情緒識(shí)別技術(shù)潛在的風(fēng)險(xiǎn)提供方案，這是人類必須聚焦的問題。

一、情緒識(shí)別技術(shù)的理論基礎(chǔ)與技術(shù)特征

比之常見的AI技術(shù)，情緒識(shí)別技術(shù)擁有其獨(dú)特的生物理論基礎(chǔ)：高級(jí)動(dòng)物在自然界進(jìn)化過程中，往往都形成了情緒的穩(wěn)定表達(dá)機(jī)制。在《人與動(dòng)物的情緒表達(dá)》中，達(dá)爾文就提到像諸如害怕、喜悅、生氣等情緒都有著一些穩(wěn)定的情緒表達(dá)，一方面體現(xiàn)在臉上的表情，另一方面體現(xiàn)在聲音的變化。從表情上來看，不同種族的人都會(huì)有相似的表情來傳達(dá)內(nèi)心的情緒；從聲音上來看，不同的聲音也代表著各種各樣的情緒，爽朗的笑聲代表著內(nèi)心的愉快，一些年輕人在很高興的時(shí)候通常會(huì)大笑不止，當(dāng)一些動(dòng)物十分難受時(shí)，它們則會(huì)痛苦地呻吟或者“流眼淚”；所以人類或者一些高等動(dòng)物都有著比較穩(wěn)定可以識(shí)別的情緒表達(dá)。

對(duì)于這種現(xiàn)象，達(dá)爾文的解釋是：情緒表達(dá)對(duì)于動(dòng)物乃至人類的生存交往具有重要作用；從人類或者動(dòng)物個(gè)體的視角來看，人類或者動(dòng)物如果處在一定的狀態(tài)下，內(nèi)心的情緒會(huì)有所反映，此時(shí)如果采取一定的行動(dòng)就可以有效的舒緩一些感覺和欲望。例如說人在不開心的時(shí)候，身體中一些激素和酶會(huì)異常分泌，而哭泣這種特定行為則有助于使人回歸常態(tài)，緩解人的不適情緒。

人類和動(dòng)物的很多基本情緒是刻在基因里的，有助于人們穩(wěn)定的保持生活習(xí)慣生存下去，這些情緒是全人類共有的。在人類的語言文字被創(chuàng)造以前，人們是通過情緒來交流和傳遞信息的，這一切都需要情緒表達(dá)是可繼承的和不易變化的。保羅·?？寺鳛樾睦韺W(xué)家也同意達(dá)爾文的看法，他認(rèn)為大自然的進(jìn)化過程，使得人類具有統(tǒng)一的基本情緒表達(dá)。他們對(duì)于情緒表達(dá)的觀點(diǎn)對(duì)后世情緒識(shí)別技術(shù)有著深遠(yuǎn)的影響，為此奠定了生物學(xué)基礎(chǔ)。

要想更好地使用情緒識(shí)別技術(shù)，就必須了解此項(xiàng)技術(shù)獨(dú)有的特征和當(dāng)今的狀況。首先，當(dāng)下的情緒識(shí)別技術(shù)較為重視人類情緒的傳達(dá)，而不是那么重視語句和情境的作用。情感計(jì)算的先驅(qū)羅莎琳德·皮卡德（Rosalind W·Picard）曾將情緒識(shí)別技術(shù)界義為：“通過觀察情緒表達(dá)以及對(duì)情緒產(chǎn)生的情境進(jìn)行推理，計(jì)算機(jī)可以像人類一樣準(zhǔn)確地推斷（人）的情緒狀態(tài)?！盵1]

機(jī)器可以對(duì)人類的情緒進(jìn)行綜合識(shí)別，不斷學(xué)習(xí)、不斷優(yōu)化。但是當(dāng)今的技術(shù)不夠發(fā)達(dá)，人類情緒也較為復(fù)雜，所以當(dāng)下的情緒識(shí)別技術(shù)主要還是著力于識(shí)別人類特有的情緒，而不是著重于語句和情境的分析。[2]

人們的情緒傳達(dá)到體外主要是通過兩類渠道，一類是情緒動(dòng)作，如人類的表情，人類的說話語氣等；另一類是通過一些生理體征來傳達(dá)，如呼吸急促、心率加快等。與之對(duì)應(yīng)的是，人工智能對(duì)人類情緒的識(shí)別方法也主要分為以下四類：第一類是識(shí)別人類的面部表情；第二類是識(shí)別人類的語氣特征；第三類是識(shí)別人類生理的特有信號(hào)；第四類則是將前面三類綜合起來，采用多進(jìn)路的識(shí)別方式，所以第四類也是當(dāng)下的熱門情緒識(shí)別方法。

情緒識(shí)別技術(shù)的應(yīng)用主要是在審訊、駕駛、教育、商業(yè)決策和醫(yī)療等領(lǐng)域，在這些實(shí)際運(yùn)用中，該項(xiàng)技術(shù)一方面提升了這些領(lǐng)域的工作效率、優(yōu)化了使用者的實(shí)際體驗(yàn)，但另一方面也帶來了許多不確定的風(fēng)險(xiǎn)。德國(guó)著名社會(huì)學(xué)家烏爾里希·貝克指出：“風(fēng)險(xiǎn)是不可見的。 暗含的因果關(guān)系常常維持著或多或少的不確定性和暫時(shí)性。”[3]27人類必須在充分了解技術(shù)風(fēng)險(xiǎn)預(yù)期的情況下，才能充分地使用這項(xiàng)技術(shù)，不然可能會(huì)造成無法預(yù)知的后果。

二、情緒識(shí)別技術(shù)倫理風(fēng)險(xiǎn)的基本表現(xiàn)

（一）倫理關(guān)系失調(diào)風(fēng)險(xiǎn)

正如康德所言：“人，實(shí)則一切有理性者……在他的一切行為上，總要把人認(rèn)為目的。”[4]一切的技術(shù)的發(fā)明和使用，首先要基于人的使用，要保證人的主體地位；如果一種技術(shù)將人奴役了，把人變成了工具，那這項(xiàng)技術(shù)一定不會(huì)被人歡迎。如果放任該項(xiàng)技術(shù)隨意發(fā)展，人與人之間的交往關(guān)系就會(huì)因其而產(chǎn)生異化：一方面，情緒識(shí)別技術(shù)會(huì)使得人失去其主體性的地位，一些人會(huì)利用這樣的技術(shù)去檢測(cè)控制其他人的情緒行為，這會(huì)使得弱勢(shì)群體喪失其主體地位，變成處于不安全狀況下的異化的人，使得人與人之間的關(guān)系產(chǎn)生很大的倫理問題；另一方面這項(xiàng)技術(shù)可能會(huì)使得人喪失其自身的社交尊嚴(yán)，如果一個(gè)人的情緒在機(jī)器的檢測(cè)下一覽無余，喜怒哀樂毫無秘密，那這個(gè)人的主體尊嚴(yán)蕩然無存，如果人與人之間的交往關(guān)系變成了各種機(jī)器識(shí)別的結(jié)果，那人就沒有了人應(yīng)該所處的地位。除此之外，情緒識(shí)別技術(shù)還會(huì)使得人類恐懼進(jìn)行交往，人一旦開始交往可能就會(huì)被機(jī)器偷偷地監(jiān)視著，機(jī)器可以在人完全不知情的情況下分析和判斷人的情緒變化，這會(huì)使得所有人都處于懷疑和被懷疑的狀態(tài)，人在這樣的狀態(tài)下十分焦慮，不知如何是好。

（二）倫理價(jià)值失衡風(fēng)險(xiǎn)

情緒識(shí)別技術(shù)目前仍然只被少數(shù)人所使用，這會(huì)導(dǎo)致?lián)碛羞@些技術(shù)的人壓迫沒有這些技術(shù)的人，這就會(huì)導(dǎo)致情緒識(shí)別技術(shù)對(duì)于社會(huì)上的處于相對(duì)弱勢(shì)的群體產(chǎn)生一定的負(fù)面影響?？恐榫w識(shí)別技術(shù)，有可能一些使用該技術(shù)的優(yōu)勢(shì)群體會(huì)利用“科學(xué)”將弱勢(shì)群體打上一些充滿歧視的標(biāo)簽，用“偽科學(xué)”來不當(dāng)獲利。與此同時(shí)，弱勢(shì)群體不斷提供著海量的情緒信息以供機(jī)器學(xué)習(xí)和進(jìn)化，但個(gè)體化的弱勢(shì)群體則是被忽視掉了，相對(duì)于海量的數(shù)據(jù)而言。這無疑隱藏著壟斷的風(fēng)險(xiǎn)，檢測(cè)者利用此不斷獲利。在未來，隨著該項(xiàng)技術(shù)的不斷發(fā)展，人類的所有情緒都可能被解讀出來，上位者利用這些去控制弱勢(shì)群體，這也就是德勒茲所預(yù)言的“控制社會(huì)”[5]。人們被技術(shù)所控制和制約，人通過技術(shù)統(tǒng)治其他人，人與人的關(guān)系也就發(fā)生了異化。

（三）倫理行為異化風(fēng)險(xiǎn)

美國(guó)技術(shù)哲學(xué)家唐·伊德開創(chuàng)的后現(xiàn)象學(xué)技術(shù)哲學(xué)深入討論了人、技術(shù)、世界三者之間的四種關(guān)系，即“具身關(guān)系”“解釋關(guān)系”“它異關(guān)系”“背景關(guān)系”。[6]這四種關(guān)系可以為我們思考情緒識(shí)別技術(shù)的潛在風(fēng)險(xiǎn)提供理論基礎(chǔ)。從“具身關(guān)系”的角度出發(fā)，情緒識(shí)別技術(shù)一定程度上讓人們與世界互動(dòng)的方式發(fā)生了變化，原來人們通過自身的生活技能和經(jīng)驗(yàn)來做出獨(dú)立判斷，現(xiàn)在則是技術(shù)加入其中，人們可能在這個(gè)過程中被技術(shù)支配，喪失人的理性，做出一些不當(dāng)行為；從“解釋關(guān)系”的角度出發(fā)，人們對(duì)于情緒識(shí)別技術(shù)的依賴，可能會(huì)出現(xiàn)很多錯(cuò)誤，例如情緒識(shí)別技術(shù)如果對(duì)人的情緒解釋出錯(cuò)，那人們看到的結(jié)果也是錯(cuò)誤的，甚至可能被有心人所利用，產(chǎn)生不良的后果；從“他異關(guān)系”的角度出發(fā)，情緒識(shí)別技術(shù)可能會(huì)使人陷入技術(shù)的控制，使人變?yōu)榧夹g(shù)的對(duì)象物，人類的情緒將會(huì)成為控制人的工具，人與人之間變得異化，人處于這種唯一的世界中無法逃離；從“背景關(guān)系”的角度出發(fā)，該項(xiàng)技術(shù)會(huì)構(gòu)成人類的生活背景，以不被注意到的方式影響人類的生存狀態(tài)，這種情況會(huì)讓人類無比依賴這項(xiàng)技術(shù)，自我束縛于其中。

三、情緒識(shí)別技術(shù)倫理風(fēng)險(xiǎn)的成因

情緒識(shí)別技術(shù)的應(yīng)用是一把雙刃劍，既會(huì)為人類社會(huì)帶來發(fā)展的機(jī)遇，也會(huì)對(duì)人類文明產(chǎn)生一定的威脅。人類的存續(xù)與人工智能發(fā)展之間的關(guān)系需要被謹(jǐn)慎思考。[7]人類應(yīng)該對(duì)于情緒識(shí)別技術(shù)帶來的潛在威脅加以關(guān)注，并提前思考和反思。

（一）識(shí)別界限問題

情緒識(shí)別技術(shù)在使用中可能會(huì)遭遇識(shí)別界限的問題：一方面從情緒識(shí)別技術(shù)的生理學(xué)基礎(chǔ)來看，情緒識(shí)別技術(shù)的理論基礎(chǔ)是基本情緒理論，只能夠識(shí)別人類的動(dòng)物的基本情緒。一些設(shè)計(jì)者在此基礎(chǔ)上越界應(yīng)用該項(xiàng)技術(shù)，比如使用振動(dòng)圖像技術(shù)記錄受試者的頭部運(yùn)動(dòng)情況，通過分析頭部運(yùn)動(dòng)的數(shù)值測(cè)試受試者的心理狀態(tài)。這項(xiàng)技術(shù)本身的原理可能是正確的，但是其應(yīng)用場(chǎng)景可能會(huì)存在一些問題：一些警察可能會(huì)將可疑人群進(jìn)行情緒識(shí)別測(cè)試，如果可疑人群沒有通過該項(xiàng)測(cè)試，就可能會(huì)被審查和限制人身自由，對(duì)其生活產(chǎn)生了重大影響。但在沒有其他證據(jù)的情況下，該項(xiàng)技術(shù)并不具有足夠的效力證明可疑人群犯罪，明顯是對(duì)該項(xiàng)技術(shù)的不合理的運(yùn)用。另一方面，一些商業(yè)開發(fā)者，會(huì)使用模糊的語言誘導(dǎo)消費(fèi)者情緒識(shí)別機(jī)器可以完全識(shí)別人類復(fù)雜行為等，夸大該產(chǎn)品的功能，將情緒識(shí)別擴(kuò)大化，產(chǎn)生不好的影響。

（二）算法問題與風(fēng)險(xiǎn)

情緒識(shí)別技術(shù)背后的邏輯是AI算法，可能會(huì)遭遇如算法可解釋性等問題：人類的情緒是可以通過語言來闡述的，而機(jī)器算法背后的緣由則是比較難以判斷的，所以在一些公眾決策上，人類很有可能會(huì)質(zhì)疑機(jī)器算法的合理性。

除了算法的可解釋性，機(jī)器情緒識(shí)別不夠準(zhǔn)確和過于準(zhǔn)確也會(huì)帶來一些風(fēng)險(xiǎn)。如在識(shí)別產(chǎn)生問題不夠準(zhǔn)確的情況下，機(jī)器情緒識(shí)別會(huì)產(chǎn)生很多的問題。原因可能是機(jī)器情緒識(shí)別的時(shí)間過短，在有限的時(shí)間內(nèi)情緒識(shí)別機(jī)器只能采集到極其有限的信息，可能會(huì)對(duì)其判斷產(chǎn)生誤導(dǎo)；與此同時(shí)，機(jī)器情緒識(shí)別主要基于機(jī)器的深度學(xué)習(xí)，深度學(xué)習(xí)就意味著這是一種統(tǒng)計(jì)學(xué)的可能性，不可能做到百分之百準(zhǔn)確，仍舊有失誤的可能性；還有就是機(jī)器情緒識(shí)別可能會(huì)面臨數(shù)據(jù)來源過于狹窄的問題，如都采用了美國(guó)人的表情特征，就會(huì)導(dǎo)致數(shù)據(jù)過于集中，在美國(guó)人情緒的識(shí)別上準(zhǔn)確率較高，對(duì)于亞洲人則不是很適用的問題；除了上述的原因，目前的情緒機(jī)器識(shí)別只會(huì)側(cè)重于人類的生理表情，而不會(huì)結(jié)合當(dāng)時(shí)的情景加以推理，如此就會(huì)出現(xiàn)很多問題，例如一個(gè)人如果喜極而泣的情況下，人類會(huì)識(shí)別為情緒過于激動(dòng)，十分喜悅，而機(jī)器則可能被人所“欺騙”，做出這個(gè)人十分難過，從而哭泣的錯(cuò)誤判斷，從而人們可以故意去欺騙機(jī)器，做出與內(nèi)心相反的表情動(dòng)作，產(chǎn)生一些風(fēng)險(xiǎn)，影響識(shí)別效果。

四、情緒識(shí)別技術(shù)風(fēng)險(xiǎn)規(guī)避基本措施

面對(duì)情緒識(shí)別技術(shù)可能導(dǎo)致的諸多倫理風(fēng)險(xiǎn)，人類要未雨綢繆，行動(dòng)起來主動(dòng)應(yīng)對(duì)，提出行之有效的應(yīng)對(duì)措施，以規(guī)避未來的不良后果。

第一，建立良好的知情同意機(jī)制，保證公眾的情緒隱私權(quán)利不受侵犯。雖然現(xiàn)在的情緒識(shí)別技術(shù)仍在快速發(fā)展，但人類的情緒十分復(fù)雜，是不能完全被情緒識(shí)別技術(shù)解讀和準(zhǔn)確傳達(dá)的，而且人與人之間也需要隱私和距離，不需要這樣完全的情緒解讀。公眾需要對(duì)情緒識(shí)別技術(shù)有著正確的認(rèn)知，才能夠有效地維護(hù)自身的權(quán)利，不被技術(shù)所控制。首先，這項(xiàng)技術(shù)的開發(fā)者要盡可能保證公開公正，在技術(shù)的使用過程中，要明確告知技術(shù)的受體正在被這項(xiàng)技術(shù)所檢測(cè)，征得對(duì)方同意后方可使用此項(xiàng)技術(shù)。其次，在技術(shù)使用的過程中，要盡可能尊重人的主體地位和價(jià)值，引導(dǎo)技術(shù)使用者尊重他人，告知他這項(xiàng)技術(shù)只是對(duì)人類情緒的簡(jiǎn)單解讀，保證人和人之間的關(guān)系。最后，在技術(shù)使用完成時(shí)，要及時(shí)告知技術(shù)受體識(shí)別的結(jié)果及結(jié)果的可能用途以及可能產(chǎn)生的影響，將權(quán)利交給技術(shù)受體本身，獲取被檢測(cè)者的支持和理解。

第二，進(jìn)一步研究和明確倫理規(guī)范的邊界，加大對(duì)倫理失范的懲戒力度。在情緒識(shí)別技術(shù)中，參與投資和研發(fā)的人員都是為了逐利而進(jìn)行活動(dòng)，所以可以通過提高倫理失范代價(jià)來調(diào)節(jié)市場(chǎng)，從而提高他們的風(fēng)險(xiǎn)防范意識(shí)。首先要進(jìn)一步完善該項(xiàng)技術(shù)市場(chǎng)的進(jìn)出機(jī)制，從而維護(hù)該市場(chǎng)的良好環(huán)境，一方面要鼓勵(lì)遵守市場(chǎng)規(guī)則的該項(xiàng)技術(shù)的研究機(jī)構(gòu)，另一方面要加大進(jìn)入該市場(chǎng)研發(fā)機(jī)構(gòu)的審查力度。其次是要針對(duì)情緒識(shí)別技術(shù)設(shè)立專門的監(jiān)督機(jī)構(gòu)，負(fù)責(zé)該項(xiàng)技術(shù)研發(fā)及應(yīng)用的倫理審查工作，與市場(chǎng)參與者溝通好要承擔(dān)的風(fēng)險(xiǎn)。最后是要大力宣揚(yáng)個(gè)人的職業(yè)道德，通過樹立榜樣和打擊違反者來提高該行業(yè)從業(yè)者的個(gè)人素質(zhì)，同時(shí)加強(qiáng)社會(huì)監(jiān)督舉報(bào)機(jī)制，強(qiáng)化社會(huì)對(duì)于情緒識(shí)別技術(shù)的潛在風(fēng)險(xiǎn)意識(shí)。

第三，建立健全法律法制，明晰約束不當(dāng)技術(shù)行為所需的司法依據(jù)。法律是倫理道德的底線，要通過架構(gòu)與該項(xiàng)技術(shù)匹配發(fā)展的法律體系，來優(yōu)化該行業(yè)的法律環(huán)境。情緒識(shí)別技術(shù)對(duì)于公眾情緒的竊取已經(jīng)突破了傳統(tǒng)法律體系的制約，所以我國(guó)需要架構(gòu)更為合適不斷進(jìn)步的法律體系，針對(duì)性地對(duì)其進(jìn)行約束和治理。一方面要令行禁止，對(duì)于情緒識(shí)別技術(shù)的不當(dāng)行為做出禁止性規(guī)定，依法追責(zé)；另一方面要充分保護(hù)被該項(xiàng)技術(shù)檢測(cè)者的權(quán)益，以法律保護(hù)民眾的權(quán)益不受損害。

相比上文的應(yīng)用場(chǎng)景而言，人與機(jī)器的互動(dòng)倫理風(fēng)險(xiǎn)較低。如果能成熟使用這項(xiàng)技術(shù)，提升情緒識(shí)別的準(zhǔn)確性，同時(shí)做好民眾隱私權(quán)益的保護(hù)，這項(xiàng)技術(shù)就可以帶來很多好的后果，這些收益將遠(yuǎn)遠(yuǎn)超過其隱含的風(fēng)險(xiǎn)。

例如已經(jīng)普及壓力識(shí)別功能的智能手表，可以幫助管理好個(gè)人的情緒和健康，有助于個(gè)人提升生活幸福感。整體來看，情緒識(shí)別機(jī)器只是提供了一些與情緒有關(guān)的識(shí)別因素，而被試者的情緒水平則是由人來參考因素做出判斷的。

雖然這樣的思路加入了人的因素，能夠較大程度上減少該技術(shù)帶來的潛在風(fēng)險(xiǎn)，但是這也很大程度上限制了該技術(shù)的進(jìn)步和發(fā)展，機(jī)器只是一個(gè)記錄的功能，而喪失了核心的判斷功能，和情緒識(shí)別技術(shù)發(fā)明的愿景不一致。

所以更好的方案是在中間找到適中的點(diǎn)，可以將機(jī)器判斷的結(jié)果作為一個(gè)優(yōu)先參考的結(jié)果，是一個(gè)提高效率的做法，再輔以使用者和被測(cè)試者的雙重確認(rèn)，但這種確認(rèn)也要考慮人力和經(jīng)濟(jì)成本，這仍是需要進(jìn)一步商榷的。

還可以依據(jù)具體情況來判斷在多大程度上依賴機(jī)器的判斷結(jié)果，如果情況越嚴(yán)峻、越復(fù)雜，就越要依賴于人做出最終判斷；反之則交給機(jī)器就可以。這樣的風(fēng)險(xiǎn)評(píng)級(jí)可以和多大程度上使用機(jī)器判斷相輔相成，綜合作用。

這種方案的優(yōu)勢(shì)首先是保留了情緒識(shí)別機(jī)器的核心功能，無論人類在多大程度上信賴機(jī)器的情緒評(píng)估結(jié)果，機(jī)器仍是在不斷學(xué)習(xí)的，仍在做著真正的情緒識(shí)別工作，是在不斷發(fā)展和進(jìn)步的，而不是只是一個(gè)記錄數(shù)據(jù)的工具。其次是確保了人在統(tǒng)治機(jī)器，決策權(quán)在人，人來做最后的決策，糾正機(jī)器可能出現(xiàn)的錯(cuò)誤，這樣可以有效降低情緒識(shí)別機(jī)器的倫理風(fēng)險(xiǎn)。

最后是可以將風(fēng)險(xiǎn)分級(jí)制度與情緒評(píng)估的可信賴度很好的結(jié)果起來，根據(jù)不同的風(fēng)險(xiǎn)級(jí)別，有針對(duì)性地治理和權(quán)衡，提升效率。情緒評(píng)估的可信賴度可以根據(jù)著風(fēng)險(xiǎn)分級(jí)的大小來同步變化，在高風(fēng)險(xiǎn)的情況下使用較弱的情緒評(píng)估可信賴度，更多相信人的判斷，避免可能出現(xiàn)的倫理風(fēng)險(xiǎn)；在中風(fēng)險(xiǎn)的情況下使用適中的情緒評(píng)估可信賴度，由人來做決策，較大程度上參考機(jī)器的情緒評(píng)估結(jié)果；在低風(fēng)險(xiǎn)的情況下則以節(jié)省人力為主，通過不斷的機(jī)器學(xué)習(xí)，提高機(jī)器情緒識(shí)別的準(zhǔn)確度和速度。

除了上面制度管理的方案外，情緒識(shí)別技術(shù)更需要技術(shù)的改進(jìn)和根據(jù)實(shí)際情況的不斷修正，要增加情緒識(shí)別數(shù)據(jù)的來源廣泛性，不斷提升其算法的準(zhǔn)確度；多應(yīng)用多模態(tài)綜合判斷的情緒識(shí)別技術(shù)，根據(jù)不同場(chǎng)景、不同設(shè)備動(dòng)態(tài)調(diào)整識(shí)別策略和動(dòng)態(tài)評(píng)估算法的準(zhǔn)確度。

五、結(jié)語

情緒識(shí)別技術(shù)是新時(shí)代革命性的科技成果，可能會(huì)改變?nèi)祟惡蜋C(jī)器互動(dòng)的傳統(tǒng)模式，有著十分廣泛的應(yīng)用愿景。人類要一方面利用好情緒識(shí)別技術(shù)帶來的優(yōu)勢(shì)，推動(dòng)社會(huì)進(jìn)步；另一方面更要注意情緒識(shí)別技術(shù)潛在的倫理風(fēng)險(xiǎn)，做到防患于未然。人類要堅(jiān)持科學(xué)的態(tài)度對(duì)待它，要在擁有科學(xué)證據(jù)的前提下判斷其可信度，既不盲目迷信它，也不盲目抵制它。

對(duì)于情緒識(shí)別技術(shù)的管理，要整體全面推進(jìn)，頂層進(jìn)行原則上的指定，中層則是負(fù)責(zé)推進(jìn)規(guī)定，底層則要靈活運(yùn)用好規(guī)定；頂層可以著重于維護(hù)弱勢(shì)群體的權(quán)益，中層可以根據(jù)情緒識(shí)別技術(shù)的實(shí)際應(yīng)用過程和應(yīng)用后果來區(qū)分不同的應(yīng)用場(chǎng)景，底層可以根據(jù)中層判斷的不同場(chǎng)景，來判斷在何種程度上信賴情緒識(shí)別的結(jié)果以及如何保護(hù)自身的權(quán)益。

人類的目標(biāo)始終是利用好新的情緒識(shí)別技術(shù)，一方面讓其為人類社會(huì)的進(jìn)步做出應(yīng)有的貢獻(xiàn)，另一方面提前避免其帶來的風(fēng)險(xiǎn)和問題。在這條路上，人類還有很遠(yuǎn)的路要走，不斷摸索，不斷改進(jìn)。

參考文獻(xiàn)：

[1]阮凱.情緒識(shí)別技術(shù)的問題、風(fēng)險(xiǎn)與規(guī)治[J].自然辯證法通訊，2023，45（02）：82-90.

[2]謝小飛，吳家華.論情緒識(shí)別技術(shù)的倫理風(fēng)險(xiǎn)及其防控[J].學(xué)術(shù)交流，2022，（11）：151-160.

[3]貝克.風(fēng)險(xiǎn)社會(huì)[M].何博聞譯.南京：譯林出版社，2004：27.

[4]康德.道德形而上學(xué)探本[M].唐鉞譯.北京：商務(wù)印書館，1957：42.

[5]德勒茲.哲學(xué)與權(quán)力的談判[M].劉漢全譯.南京：譯林出版社，2012：191.

[6]伊德.技術(shù)與生活世界——從伊甸園到塵世[M].韓連慶譯.北京：北京大學(xué)出版社，2012：95.

[7]王東，張振.人工智能倫理風(fēng)險(xiǎn)的鏡像、透視及其規(guī)避[J].倫理學(xué)研究，2021，（1）：109.

作者簡(jiǎn)介：

李仕琦，男，江蘇徐州人，碩士研究生，主要從事科技倫理方面的研究。