情感計算在數(shù)字行政治理中的應(yīng)用、風(fēng)險及規(guī)制

黃雪英

問題的提出

在政府治理領(lǐng)域中,建立“數(shù)字政府”或“數(shù)字法治政府”的呼聲愈發(fā)高漲?！吨袊ㄖ握u估報告(2021—2022)》指出,“數(shù)字法治政府”是新增的法治政府評估一級指標(biāo),而“智能高效”則是該指標(biāo)體系中的觀察點之一。(1)中國政法大學(xué)法治政府研究院:《中國法治政府評估報告(2021—2022)》,社會科學(xué)文獻出版社2023年版,第253—277頁。雖然目前各類人工智能體已經(jīng)具備了一定的自主交互能力,但缺失情感感知與情感反饋等情感要素的智能體始終無法實現(xiàn)真正的“智慧化”。在情理社會中,僅關(guān)注科學(xué)性、知識性和合法性的行政治理無法滿足現(xiàn)實需求?；谇楦兄卫碓趪抑卫碇械闹匾?數(shù)字行政治理也應(yīng)該關(guān)切情感計算技術(shù)的嵌入和運行。實際上,部分政府平臺已經(jīng)逐步將情感計算或“數(shù)據(jù)畫像”納入公共安全防范系統(tǒng)、應(yīng)急管理決策系統(tǒng)和基層網(wǎng)格化治理系統(tǒng)的建設(shè)中,(2)馬平川:《平臺數(shù)據(jù)權(quán)力的運行邏輯及法律規(guī)制》,《法律科學(xué)(西北政法大學(xué)學(xué)報)》2023年第2期。以期提升行政機關(guān)與行政相對人的深度交互體驗,提升行政機關(guān)的治理效能和服務(wù)質(zhì)量。

我國對新興技術(shù)的規(guī)制多采用回應(yīng)型立法模式,即先給予新興技術(shù)足夠的發(fā)展空間,當(dāng)技術(shù)問題累積到一定程度再進行立法規(guī)制。但是,伴隨情感計算在醫(yī)療、教育、商業(yè)、就業(yè)、執(zhí)法等領(lǐng)域的應(yīng)用拓展,(3)參見王祿生:《情感計算的應(yīng)用困境及其法律規(guī)制》,《東方法學(xué)》2021年第4期;龔善要:《教育場景中情感計算的應(yīng)用風(fēng)險及其法律規(guī)制》,《復(fù)旦教育論壇》2022年第6期;岳遠雷、徐著雨:《醫(yī)療情感計算應(yīng)用的多維困境及其法治實現(xiàn)》,《醫(yī)學(xué)與哲學(xué)》2022年第19期。技術(shù)發(fā)展與法治建設(shè)之間的張力愈發(fā)凸顯,行政治理活動中人的主體地位和數(shù)據(jù)權(quán)利受到侵害,此時亟須將行政治理活動中的情感計算納入法治化治理軌道,以最大程度實現(xiàn)技術(shù)紅利。此外,情感計算可能涉及計算科學(xué)、心理科學(xué)與認知科學(xué)等多學(xué)科的交叉內(nèi)容,行政機關(guān)工作人員綜合知識儲備的不足進一步加劇了實踐需求與理論供給之間的失衡狀態(tài),技術(shù)與行政治理的良性運轉(zhuǎn)一時無法實現(xiàn)?；诖?為化解技術(shù)與規(guī)范之間的沖突和張力,有必要在明確情感計算技術(shù)邏輯的基礎(chǔ)上,對其技術(shù)風(fēng)險和制度風(fēng)險進行規(guī)范限制。

因此,我們應(yīng)該在明確情感計算技術(shù)的運行邏輯基礎(chǔ)之上,就其在數(shù)字行政治理中的風(fēng)險進行判別、分析和預(yù)測,并在行政法治原則之下從技術(shù)本身以及技術(shù)運用兩個層面通過多種手段規(guī)避其可能存在的風(fēng)險,促進我國政府服務(wù)能力的提升,加快政府治理體系與治理能力現(xiàn)代化建設(shè)。

數(shù)字行政治理中情感計算技術(shù)的應(yīng)用

“情感計算”這一概念由皮卡德(R. W. Picard)最先提出,(4)Rosalind W. Picard, Affective Computing, Cambridge: The MIT Press, 1997.其作為人工智能技術(shù),在嵌入行政治理時也意味著人類智能體與人工智能體同時成為政務(wù)服務(wù)的提供者,(5)王張華、顏佳華:《人工智能驅(qū)動政府治理變革:技術(shù)邏輯、價值準則和目標(biāo)指向》,《天津行政學(xué)院學(xué)報》2020年第6期。從而使得人類在數(shù)字行政治理過程中能夠充分運用技術(shù)治理邏輯來增強其治理能力。

(一)情感計算技術(shù)服務(wù)于行政治理虛擬場景的搭建

數(shù)字技術(shù)的繁榮發(fā)展使傳統(tǒng)的行政治理行動得以在虛擬場景中進行,數(shù)字空間或元宇宙為實現(xiàn)跨時空行政治理奠定了基礎(chǔ)。在搭建虛擬行政治理空間的過程中,情感計算能夠有效復(fù)現(xiàn)參與者的內(nèi)心情感狀態(tài),從而使虛擬場景更具擬真性。

將情感計算嵌入行政治理場域不僅能優(yōu)化政治生態(tài),還能維系公民與行政機關(guān)的情感聯(lián)結(jié)。行政管理者在面對具體行政治理情境時,要能夠在移情過程中產(chǎn)生與他人經(jīng)歷上的一體感。(6)王鋒:《公共行政的情感之維——基于同情的理解》,《天津行政學(xué)院學(xué)報》2022年第5期。“情感治理”則意味著政府在公共治理中要重視“人”及其情感的回歸,這種對理性、制度和技術(shù)治理進行深刻反思的傾向能夠有效柔化行政治理中的剛性結(jié)構(gòu),優(yōu)化國家治理方式和手段。雖然情感治理的敘事通常由于“治理重心下沉”的需要而被局限在“社區(qū)治理”或“基層治理”等層面,(7)王麗萍:《國家治理中的情感治理:價值、邏輯與實踐》,《山東社會科學(xué)》2021年第9期。但現(xiàn)代社會的群體離散性導(dǎo)致這種情感聯(lián)結(jié)的必要性已然不僅僅體現(xiàn)在社區(qū)治理中。各級政府應(yīng)該及時了解公民的情感動向,并明晰此種情感產(chǎn)生的原因。目前,該敘事方式或話語尚未擴展至更廣的層面,原因之一就在于傳統(tǒng)行政治理與尚未成熟的數(shù)字行政治理活動對情感的感受與認知存在障礙,人力、時間等資源的有限性導(dǎo)致情感治理無法徹底展開。

情感計算可以在技術(shù)層面上有效克服行政治理在獲取、分析情感要素能力方面的闕如,使得行政治理活動不再囿于對主體外在行動的識別,更能夠直接深入到主體的個性情緒或情感維度。(8)張新寶、葛鑫:《人臉識別法律規(guī)制的利益衡量與制度構(gòu)建》,《湖湘法學(xué)評論》2021年第1期。一方面,通過情感計算技術(shù),治理主體能夠結(jié)合人類智能體與人工智能體的“雙重智慧”,增強其在現(xiàn)實治理活動中對治理對象情感狀態(tài)的認知能力,提供更具針對性和個性化的政務(wù)服務(wù),提升行政治理效能;另一方面,情感計算能夠幫助治理活動中的各方參與者在虛擬場景中獲得更真實、更具象化的體驗,使治理者能夠了解被治理者的真實情感反饋,透過傳統(tǒng)的信息媒介接觸治理對象行為背后隱藏的真實目的和深層情感需求,從而進行相應(yīng)的行動或制度調(diào)整。此外,在理想的虛擬交互場景中,情感計算是針對治理者和治理對象雙方同時進行的,這使得數(shù)字行政治理不僅能夠滿足各方的擬真性需求,還能完成對傳統(tǒng)“面對面”式行政治理模式的超越。不同于以往“政府—公民”的單向治理方式,情感計算技術(shù)的嵌入能夠幫助參與者獲致立體的、雙向的“情感藍圖”,從而強化公職人員與群眾之間的情感互動,(9)徐明強:《中國科層制的情感屬性:源流、定位與比較》,《政治學(xué)研究》2022年第5期。使治理活動的各方參與者之間能夠在內(nèi)在情緒或情感的層面形成緊密聯(lián)系?；诖?情感治理與數(shù)字行政都能夠在某種程度上超越現(xiàn)有的體系。對“人”及其情感的關(guān)切不僅要求治理者密切關(guān)注治理對象的情感狀態(tài),還要求被治理者能夠適當(dāng)理解治理者所肩負的責(zé)任。在此過程中,情感計算不僅為搭建一個和諧的虛擬治理場景提供了可能性,還為數(shù)字行政治理活動設(shè)定了限制框架:情感計算使治理者消極的情感反應(yīng)無所遁形,從而建構(gòu)了一種健康的行政治理面貌。

(二)情感計算適配行政執(zhí)法技術(shù)工具升級

在行政執(zhí)法場域,捕獲特定主體主觀情感狀態(tài)是提升執(zhí)法能力的重要環(huán)節(jié),也是提高人民群眾對于行政治理滿意度的有效途徑。然而,由于情感具有一定“神秘性”,僅憑人類智能準確獲知特定對象的完整情感狀態(tài)較為困難。因此,在數(shù)字行政治理的背景下,借助情感計算適配行政執(zhí)法技術(shù)工具升級實為必要。例如,“靈視多模態(tài)情緒研判系統(tǒng)”(針對審訊問詢場景的業(yè)務(wù)系統(tǒng))、(10)億歐:《多維度識別情緒,這家公司要打造審訊問詢的Alpha Go》,https://www.sohu.com/a/303378512_115035?！皩徲崍鼍暗臒o感知情緒檢測分析系統(tǒng)”(11)《太古計算行為分析技術(shù),讓生活更智能,更美好!》,http://www.taigusys.com/news/news145.html。等技術(shù)能夠為行政執(zhí)法提供技術(shù)助力。一方面,情感計算在行政執(zhí)法中的應(yīng)用場域多集中于審訊問詢或治理管理,能夠有效改善行政執(zhí)法多源數(shù)據(jù)融合能力和多模態(tài)情感分析能力。與單模態(tài)相比,多模態(tài)情感計算無論是在準確率還是效率上都具有顯著優(yōu)勢。(12)Sidney K. D’mello, Jacqueline Kory, “A Review and Meta-Analysis of Multimodal Affect Detection Systems”, ACM Computing Surveys, Vol.47, No.3, 2015, pp.1-36.人們往往能夠通過單模態(tài)情感條件和特性分析出特定對象的情感狀態(tài),并進一步確認對象的情感或立場特性(即反對、支持或中立)。(13)權(quán)學(xué)良等:《基于生理信號的情感計算研究綜述》,《自動化學(xué)報》2021年第8期。然而,人們在日常生活中一般也會采取多模態(tài)的方式對情感進行感知與識別,從而形成一個立體、全面、完整的認知結(jié)果。(14)例如,人們在交流時,如果在傾聽到內(nèi)容的同時也觀察到了發(fā)言者的語氣和語調(diào)以及面部表情和肢體行為,則會更加準確地理解和判斷出發(fā)言者說話的動機、意圖以及相應(yīng)的情感狀態(tài)。參見饒元等:《基于語義分析的情感計算技術(shù)研究進展》,《軟件學(xué)報》2018年第8期。情感計算將多源數(shù)據(jù)進行融合,使數(shù)字行政治理主體能夠統(tǒng)合文本、語音、視頻、生理信號等多模態(tài)信息,最大程度地復(fù)現(xiàn)執(zhí)法對象的內(nèi)心情感傾向與立場,通過提高識別準確率幫助執(zhí)法人員排除外界干擾和主觀偏見,作出更為準確和理性的決策。

另一方面,情感計算的嵌入能夠有效分擔(dān)行政人員的壓力,實現(xiàn)行政治理活動的高效化。以往的行政執(zhí)法技術(shù)工具通常僅用于收集相關(guān)決策或行動所需的信息,而具體的分析與判斷仍依賴于執(zhí)法人員的審慎決斷。然而,當(dāng)行政執(zhí)法工作面臨大量難以處理的數(shù)據(jù),或公職人員因個人和職務(wù)原因而陷入消極狀態(tài)(如身心疲倦、情緒低落等)時,相應(yīng)的執(zhí)法行動會受到極大的影響,行政相對人的切身利益可能也會因此受到損害。情感計算技術(shù)不僅能夠借助人工智能的持續(xù)性優(yōu)勢大幅降低執(zhí)法人員的時間和精力損耗、提高行政效率,還可以借助相關(guān)技術(shù)產(chǎn)品提供的科學(xué)分析提升行政執(zhí)法活動的合法性與合理性。

(三)情感計算推動行政治理的智慧化轉(zhuǎn)型

一方面,情感計算使行政治理行動更具體化,使其能夠更好地滿足建設(shè)服務(wù)型政府的需要。傳統(tǒng)行政治理模式沉浸于科層制體制內(nèi)部的政治需求和政治目標(biāo),忽視了與公眾之間的情感聯(lián)結(jié)。而情感計算能夠幫助治理主體精確剖析治理對象的情感狀態(tài),判斷情感極性、收集傾向數(shù)據(jù),從而使治理者能夠根據(jù)不同的情感反饋及時、全面地獲悉治理舉措產(chǎn)生的社會效果和影響,并在合理、合法的框架內(nèi)適當(dāng)調(diào)整治理措施。基于此,不同個體和群體的多元化需求能夠得到極大滿足,使作為獨立個體的“人”(而不是抽象的“社會”)感受到“行政為民”的力度與溫度,在個性化與凝聚力之間形成良性互動。

另一方面,情感計算推動了行政治理的內(nèi)生發(fā)展,擴充了行政治理介質(zhì)。傳統(tǒng)行政治理模式主要關(guān)注治理對象的外在行為,且“數(shù)字行政治理”的話語體系也僅僅是對“外在行為”進行了一定的延展(至數(shù)字空間)。而情感計算則更為直接地觸及人們的心靈,當(dāng)人們的情感狀態(tài)可以被感知、計算和分析時,行政治理的介質(zhì)就從外在行動擴充到了精神領(lǐng)域,治理者需要關(guān)注治理行動對被治理者內(nèi)心產(chǎn)生的效果。同時,此種精神或情感需求不能由治理者肆意假設(shè)或遐想,其實質(zhì)內(nèi)涵已然可以通過情感計算得以確證,這在一定程度上也限制了相關(guān)主體的行政權(quán)力的無序擴張。

數(shù)字行政治理中情感計算技術(shù)的風(fēng)險

情感計算存在著較多的高風(fēng)險應(yīng)用,在數(shù)字行政治理過程中亦不例外。對風(fēng)險的準確界定是進行有效規(guī)制的前提,具體而言,情感計算在數(shù)字行政治理活動中可能存在信息邊界界定困難、個人隱私數(shù)據(jù)受到侵犯、個人情感自主性被消解以及行政公權(quán)力過度擴張等風(fēng)險。

(一)模糊情感信息與生物信息的邊界

《歐盟人工智能協(xié)調(diào)規(guī)則的提案》第3條明確指出,情感識別系統(tǒng)是一種人工智能,用于根據(jù)自然人的生物特征數(shù)據(jù)識別或推斷自然人的情緒或意圖。其中,“生物特征數(shù)據(jù)”屬于“生物信息”的范疇,而“自然人的情緒和意圖”則屬于“情感信息”的范疇。然而,情感信息與生物信息具有相似性,二者的概念范圍存在交叉或重疊。具體而言,生物信息包括生物識別信息和生物反饋信息。生物識別信息能夠直接、準確地體現(xiàn)個人的生物特征,我國《信息安全技術(shù)人格信息安全規(guī)范》附錄B規(guī)定,“個人生物識別信息包括個人基因、指紋、聲紋、掌紋、耳廓、面部識別特征等”。而生物反饋信息的收集與處理則是為了識別信息主體的情感狀態(tài),具有一定的主觀性和難以辨別性。

現(xiàn)階段情感計算要在“感知”的基礎(chǔ)上實現(xiàn)對生物信息的“識別”,解析出某一生物信息當(dāng)中所蘊含的情感狀態(tài)。人工智能通過不斷積累與深度學(xué)習(xí),最終形成固定的情感識別算法模型。在后續(xù)運用過程中,即可通過輸入定向生物信息從而相應(yīng)輸出定向情感狀態(tài)。通過上述技術(shù)路徑可知,情感計算是意圖通過生物信息來揭示情感信息的技術(shù)。二者之間的從屬關(guān)系導(dǎo)致某些生物信息是否為情感信息的載體或反應(yīng)難以界定,這種情況可能導(dǎo)致行政機關(guān)信息收集范圍的肆意擴大與權(quán)力的濫用,甚至由于信息收集不準確導(dǎo)致計算結(jié)果出現(xiàn)偏差,引發(fā)決策錯誤。

(二)情感操縱侵犯個人信息的私密性

情感操縱是指網(wǎng)絡(luò)平臺在情感識別的基礎(chǔ)上向用戶投放相關(guān)信息,以利用、控制或影響用戶情緒的方式指引其作出相關(guān)決策并獲得相關(guān)利益。(15)褚婧一:《情感計算的信息隱私法律風(fēng)險及其應(yīng)對》,《交大法學(xué)》2023年第3期。情感操縱的前提是情感信息的獲取,其實現(xiàn)依賴于對情感信息的計算。然而,情感信息的本質(zhì)屬性可能與隱私權(quán)存在相似性。《民法典》第1032條第2款規(guī)定:“隱私是自然人的私人生活安寧和不愿為他人知曉的私密空間、私密活動、私密信息。”此時,自然人的某種不愿意被他人所察覺或知悉的情感可能屬于“隱私”的范疇,具有一定的秘密性和敏感性。

一方面,對情感信息的歸納計算極易侵犯行政相對人的個人隱私。雖然直接顯露在臉上的表情是一種“公共泄露”,無法達至私密的程度。但當(dāng)行政機關(guān)通過對表情的標(biāo)記、識別與分析并據(jù)此作出判斷時則極易侵犯個人信息的私密性。例如,阿爾法鷹眼通過視頻動態(tài)分析精神生理參數(shù)來監(jiān)測危險人物,即通過攝像頭采集的人體面部視頻流,分析頭部和頸部微小肌肉振動的頻率和振幅,計算出個人壓力、侵略性和焦慮度等參數(shù),甄別有自體原發(fā)性焦慮緊張狀態(tài)的潛在可疑危險人員以輔助安檢人工排查。(16)荔枝:《生物識別3.0時代,阿爾法鷹眼想用“情感計算”布局智慧安全》,https://www.sohu.com/a/137016839_114778。諸如對個人壓力、焦慮度等的揭示則具有明顯的深入性與侵入性,具有探究“隱私”的意涵,尤其是當(dāng)對情感算法進行不當(dāng)使用或者濫用時,極易產(chǎn)生侵犯隱私權(quán)的風(fēng)險。

另一方面,情感操縱會使個人失去對選擇是否公開情感信息的控制力。隱私之所以重要,在于其關(guān)乎一個完整、獨立、自決的人,而非一個固定、透明隨時被預(yù)測的人。(17)李延舜:《個人信息保護中的第三方當(dāng)事人規(guī)則之反思》,《法商研究》2022年第4期。個人對信息的控制能力表現(xiàn)在,既能控制自己的何種信息能夠被披露,又能控制自己的何種信息不被披露。美國著名隱私權(quán)學(xué)者索洛韋伊認為,隱私保護制度“應(yīng)當(dāng)是個人能夠自主選擇何種信息可以被收集與使用的制度”。(18)[美]丹尼爾·J.索洛韋伊:《隱私權(quán)與權(quán)力:計算機數(shù)據(jù)庫與信息性隱私權(quán)隱喻》,孫言譯,張民安編:《信息性隱私權(quán)研究——信息性隱私權(quán)的產(chǎn)生、發(fā)展、適用范圍和爭議》,中山大學(xué)出版社2014年版,第176頁。在情感操縱的干預(yù)下,個人不僅可能無力控制何種情感信息被以數(shù)據(jù)的形式呈現(xiàn),還有可能無力決定何種信息能夠脫離個人控制而進入公共領(lǐng)域。據(jù)此,情感操縱在數(shù)字行政治理過程中引發(fā)了極大的隱私權(quán)危機。

(三)機器情感消解個人的情感自主性

人的秉性包括智性、心性與靈性。人工智能涵蓋邏輯推理、可計算性、規(guī)則性、功利性和經(jīng)驗,總體來說是智性的體現(xiàn)。但算法能否發(fā)展出心性和靈性則是一個可想但不可及的問題。(19)於興中:《數(shù)字素養(yǎng):從算法社會到網(wǎng)絡(luò)3.0》,上海人民出版社2022年版,第51—52頁。實際上,情感計算便試圖以機器情感來對抗人的心性與靈性,即情感的自主性。從情感計算的類別化分析來看:文本情感計算包括文本信息采集、情感特征提取以及情感信息分類,在完成文本信息采集后,借助文本抓取工具獲得情感評論文本,在提取過程中轉(zhuǎn)化為計算機語言,并通過情感信息分類得出計算結(jié)果。(20)張瑞:《文本情感計算研究綜述》,《管理觀察》2017年第13期。語言情感計算是指通過對語音信號的測量、分解、分析、合成等方法進行情感方面的計算,從而使計算機具備一定程度的情感能力。如,醫(yī)療情感聊天機器人的本質(zhì)是一種由信號分析和自動語言識別、語義分析和對話策略、響應(yīng)生成和語音合成組建的自主系統(tǒng),可以通過與病人進行交互來檢測情感,確定并模擬情感答案。(21)Joachim von Braun, et al., Robotics, AI, and Humanity, Cham: Springer, 2021.面部表情情感計算與語言情感計算的運行機理基本相似,只是將所收集分析的對象變成了人臉表情模態(tài),通過對面部表情的分析來辨別其蘊含的情緒。

通過對以上不同情感計算類型運行機理的剖析,可以發(fā)現(xiàn)其核心技術(shù)邏輯在于“通過情感測量和建模的過程,從定量的方面將情感客觀化”。(22)朱敏:《情感計算展現(xiàn)強大應(yīng)用潛力》,《社會科學(xué)報》2023年1月19日。為實現(xiàn)定量的情感客觀化,需要滿足以下條件:(1)一個人的內(nèi)在情感需要能夠通過外在表現(xiàn)予以展示;(2)上述內(nèi)在情感的外在表達需要在提取上具有普遍性;(3)這種挖掘需要足夠可靠以支撐作出決策。但是,情感具有極強的主觀性和自主性,一個生理信息與某一情感之間并不具有唯一性的聯(lián)系,可能會承載多重感情。整體而言,心理生理數(shù)據(jù)非常復(fù)雜,難以證明其與情緒之間的因果關(guān)系。(23)Robert D. Ward, Philip H. Marsden, “Affective Computing: Problems, Reactions and Intentions”, Interacting with Computers, Vol.16, No.4, 2004, pp.707-713.不同的文化傳統(tǒng)與社會背景,個人的成長環(huán)境和社會經(jīng)歷,都可能對人的感情產(chǎn)生影響。況且,現(xiàn)有技術(shù)尚不成熟,無法準確地對多樣化、各有差異的情感進行標(biāo)記。故而,意圖用機器算法來對抗主觀性、自主性的情感難逃為時過早之嫌。

(四)情感計算的應(yīng)用易導(dǎo)致算法公權(quán)力過度擴張

第一,算法黑箱滋生權(quán)力濫用風(fēng)險。鑒于算法的技術(shù)性和專業(yè)性,除了少數(shù)研發(fā)人員外,外部人員很難對算法的運行有充分的了解和掌握。即使現(xiàn)下對算法黑箱危害性的認識不斷深化,并嘗試通過算法解釋權(quán)等路徑予以規(guī)制,但當(dāng)算法進行深度學(xué)習(xí)后,研發(fā)人員某種程度上可能也無法解釋算法模型的具體原理和運行路徑。權(quán)力是否合法運行、依規(guī)運行、謙抑運行等并無明確答案。況且,“一切擁有權(quán)力的人都容易濫用權(quán)力”,尤其是在缺乏有效制約的情況下,此時,“算法黑箱”的存在將容易使公權(quán)力產(chǎn)生過度擴張的危險。

第二,情感計算的監(jiān)控效力誘發(fā)權(quán)力膨脹?！扒楦杏嬎銘?yīng)用的重要假設(shè)是可以推斷內(nèi)心的真實情感,并應(yīng)當(dāng)以此為基礎(chǔ)作出決策?！?24)王祿生:《情感計算的應(yīng)用困境及其法律規(guī)制》,《東方法學(xué)》2021年第4期。當(dāng)通過情感計算能夠識別每個人的情緒時,實則是將人放置在秘密且全面的監(jiān)控中。尤其是當(dāng)通過一個人的細微生理行為如語言行為、面部表情等便可分析出此人的內(nèi)心感受、想法與偏好,此時行政權(quán)力的過度擴張就會使個人處于單向透明的不對等境況中。雖然這會給行政機關(guān)作出決策提供便利,使行政機關(guān)能夠及時發(fā)現(xiàn)有關(guān)人員的非法行為或不法舉動,從而高效便捷地進行社會治理,但此種不透明性、不對等性卻也意味著數(shù)字行政治理中權(quán)力正在被大規(guī)模無限制地使用,處于一種膨脹、異化甚至是非法治化的趨勢之中。

第三,情感計算易導(dǎo)致算法監(jiān)管的政府失靈。在數(shù)字行政治理過程中,情感計算的恰當(dāng)運用需要有準確的情感信息以及科學(xué)的算法模型作為支撐。相應(yīng)地,為了實現(xiàn)對算法的有效規(guī)制,政府應(yīng)當(dāng)掌握并審查技術(shù)提供者生成的算法運行目標(biāo)記錄、算法計算相關(guān)信息以及算法運行流程等內(nèi)容。(25)譚九生、范曉韻:《算法“黑箱”的成因、風(fēng)險及其治理》,《湖南科技大學(xué)學(xué)報(社會科學(xué)版)》2020年第6期。然而,一方面,誠如上文所言,情感信息是主觀的、多樣的,生理信號與情感信息之間的連接并不具有必然性、唯一性與普適性?；诖?政府在監(jiān)管時也無法有效及時地發(fā)現(xiàn)問題及其“病灶”。另一方面,算法黑箱的存在使得算法缺陷與漏洞通常也難以被發(fā)現(xiàn),而且政府作為“外行人”在面對算法模型時會受到專業(yè)壁壘的限制。由此,造成了政府對情感計算應(yīng)用的監(jiān)管失靈,算法在一定程度上成為行政決策的“實際做出者”,行政權(quán)力因為情感計算技術(shù)的介入而不受控制,繼而對政府的公信力產(chǎn)生消極影響。

數(shù)字行政治理中情感計算風(fēng)險的規(guī)制

情感計算是通過情感計算技術(shù)對人類情感狀態(tài)的感知、識別、模擬和影響。我們既要承認情感計算日益嵌入數(shù)字行政治理帶來的便利,也要對情感計算的風(fēng)險進行規(guī)制。

(一)規(guī)范維度:明確情感數(shù)據(jù)使用的法律指引

情感計算發(fā)揮實際效能的關(guān)鍵在于接收主體發(fā)出的情感數(shù)據(jù)并據(jù)此對個人情感和行為進行分析。數(shù)據(jù)是情感計算的基礎(chǔ),在數(shù)字行政治理中控制情感計算的風(fēng)險,首要的是進行情感數(shù)據(jù)的規(guī)制。

一方面,行政機關(guān)使用情感數(shù)據(jù)應(yīng)當(dāng)符合現(xiàn)行法律要求?；诩夹g(shù)賦權(quán)和數(shù)據(jù)賦權(quán)的邏輯,情感計算助力數(shù)字行政治理實際上擴大了行政機關(guān)的權(quán)力?；诠珯?quán)力—私權(quán)利的傳統(tǒng)理論,公權(quán)力的無序擴張必然帶來私權(quán)利保護的難題,為此應(yīng)當(dāng)保護和加強行政相對人的權(quán)利保障。(26)張婧飛、姚如許:《自動化行政視角下算法權(quán)力的異化風(fēng)險及規(guī)制》,《大連大學(xué)學(xué)報》2022年第6期。我國以《個人信息保護法》為基礎(chǔ),建立了個人信息處理的合法性條件,若情感數(shù)據(jù)落入上述規(guī)范的規(guī)制范圍內(nèi),情感數(shù)據(jù)即具備身份識別功能,此時行政機關(guān)的使用行為必然受到上述法律的調(diào)整。例如,人臉情緒數(shù)據(jù)是人臉情緒識別算法特有的一類數(shù)據(jù),這類數(shù)據(jù)的法律地位和相關(guān)主體的權(quán)利義務(wù)安排將直接規(guī)制對人臉情緒數(shù)據(jù)的收集、存儲、使用、加工、傳輸、公開、刪除等。(27)包康赟:《人臉情緒識別算法的風(fēng)險與規(guī)制》,《北方法學(xué)》2022年第1期。

另一方面,行政機關(guān)應(yīng)當(dāng)建立情感數(shù)據(jù)使用的內(nèi)部合法性審查機制。在行政治理中運用情感計算技術(shù)應(yīng)當(dāng)建立內(nèi)部的合法性審查機制,確保數(shù)字行政符合行政法治原理。該審查機制應(yīng)當(dāng)由專門機構(gòu)負責(zé),通過對情感計算算法設(shè)計者和使用者進行合法性評估、定期披露數(shù)據(jù)收集機構(gòu)使用情感數(shù)據(jù)的狀況、對違法違規(guī)使用情感數(shù)據(jù)的行為進行問責(zé)和糾正等方式實現(xiàn)動態(tài)的情感數(shù)據(jù)使用合法性控制。該專門機構(gòu)還可以建立電子監(jiān)察管理系統(tǒng),對數(shù)字行政治理中的情感數(shù)據(jù)使用進行全過程監(jiān)督,實現(xiàn)對異常數(shù)據(jù)使用、可能侵害相對人權(quán)益等進行預(yù)警。(28)查云飛:《行政裁量自動化的學(xué)理基礎(chǔ)與功能定位》,《行政法學(xué)研究》2021年第3期。此外,行政機關(guān)還應(yīng)當(dāng)從情感數(shù)據(jù)加密和安全傳輸協(xié)議、情感數(shù)據(jù)訪問限制、情感數(shù)據(jù)匿名化和去標(biāo)識化處理等維度降低個人信息被識別和追蹤的風(fēng)險。

(二)規(guī)訓(xùn)維度:嵌入人機情感協(xié)同的倫理邏輯

人工情感技術(shù)的發(fā)展面臨著生理信號的采集和通用性問題以及情感信息捕獲技術(shù)的標(biāo)記問題等。(29)之江實驗室等:《情感計算白皮書(2022年)》,https://www.zhejianglab.com/uploadfile/20221208/1670465654902617.pdf。由于情感計算的數(shù)據(jù)來源不足且質(zhì)量欠缺、情感算法設(shè)計的不完善、情感計算的應(yīng)用效果有待提升等因素,情感計算在行政治理中存在人機脫節(jié)的障礙。(30)石磊:《智能司法裁判的人機協(xié)同機制探索》,《行政與法》2022年第4期。

一方面,提高情感計算算法的透明度和可解釋性是人機情感協(xié)同的前提。實現(xiàn)人機協(xié)同以人能夠理解算法為前提,為此應(yīng)當(dāng)提高情感計算算法透明度和可解釋性。行政機關(guān)應(yīng)當(dāng)加強對情感計算算法研發(fā)和使用過程的監(jiān)管,建立算法審查制度,要求技術(shù)提供者對情感數(shù)據(jù)的收集、情感計算模型的構(gòu)建和訓(xùn)練、情感計算結(jié)果的生成等內(nèi)容進行明確,以防止算法偏見,提高情感計算的可信度和可接受性。情感計算系統(tǒng)應(yīng)當(dāng)提供清晰的解釋和邏輯推理,使得決策過程可以被人理解和評估。透明度和可解釋性的要求可以通過技術(shù)手段來實現(xiàn),比如通過公開算法原理、數(shù)據(jù)來源和訓(xùn)練過程等信息使公眾能夠了解情感計算的運行機制和結(jié)果生成過程,通過隱私設(shè)置、數(shù)據(jù)共享選項和用戶參與機制強化數(shù)據(jù)主體對個人信息的決策權(quán)和管理權(quán)。值得注意的是,從本質(zhì)上看,面向行政機關(guān)算法透明度的范圍與限度仍然要高于面向個人與社會。

另一方面,行政機關(guān)應(yīng)當(dāng)推動建立多方參與的情感計算人機交互體系。其一,情感計算技術(shù)開發(fā)者應(yīng)當(dāng)遵循法律和倫理準則,在情感計算算法和模型的設(shè)計與優(yōu)化過程中注重用戶隱私和權(quán)益的保護。其二,情感計算應(yīng)用的提供商首先應(yīng)當(dāng)將用戶隱私和信息安全放在首位,以確保情感數(shù)據(jù)的安全存儲和使用;其次應(yīng)提供明確的隱私政策和用戶協(xié)議,并給予用戶選擇和控制的權(quán)利。其三,行政機關(guān)負責(zé)明確情感計算的權(quán)責(zé)關(guān)系和監(jiān)管要求,與企業(yè)、專家學(xué)者和公眾等多元主體進行廣泛合作,共同研究和探討情感計算的規(guī)則和標(biāo)準,確保情感計算的邏輯以人為本。其四,學(xué)術(shù)界應(yīng)當(dāng)加強對情感計算的研究和探索,積極參與制定情感計算的標(biāo)準和規(guī)范,為情感計算的發(fā)展提供科學(xué)依據(jù)和指導(dǎo)。其五,用戶應(yīng)當(dāng)主動了解情感數(shù)據(jù)的收集和使用過程,選擇是否參與情感計算應(yīng)用,決定數(shù)據(jù)是否共享給第三方等。

(三)標(biāo)準維度:細化情感計算應(yīng)用的目的限度

規(guī)制數(shù)字行政治理中的情感計算風(fēng)險不僅要采取多種技術(shù)措施,關(guān)鍵是要在規(guī)范上明確情感計算的標(biāo)準,確定情感計算在行政治理中應(yīng)用的限度。

一方面,行政機關(guān)應(yīng)當(dāng)通過行政立法和政策制定為情感計算設(shè)立標(biāo)準。目前我國以《個人信息保護法》《數(shù)據(jù)安全法》《網(wǎng)絡(luò)安全法》為代表,對智能技術(shù)的應(yīng)用采用的是以數(shù)據(jù)為基礎(chǔ)的規(guī)制模式。(31)包康赟:《人臉情緒識別算法的風(fēng)險與規(guī)制》,《北方法學(xué)》2022年第1期。這種規(guī)制模式缺乏對新興技術(shù)的針對性,而行政立法和政策制定具有一定的靈活性,可以彌補此種不足。對此,行政立法和政策應(yīng)當(dāng)明確情感計算的定義、范圍和使用條件,限制情感計算的濫用和潛在風(fēng)險,強調(diào)保護個人隱私和信息安全的重要性,規(guī)定情感計算數(shù)據(jù)的收集、存儲、使用和共享的規(guī)則,以確保公眾利益和個人權(quán)益的平衡。政府部門可以制定指導(dǎo)性文件和指南,明確數(shù)字行政治理中情感計算應(yīng)用的原則和指導(dǎo)方針,提供具體的操作指引和參考。

另一方面,行政機關(guān)應(yīng)當(dāng)明確情感計算應(yīng)用的目的和限度。其一,明確情感計算的數(shù)據(jù)收集和使用范圍,確保僅收集和使用符合行政法治特定目的的相關(guān)數(shù)據(jù),并遵守相關(guān)的隱私保護法律和政策。其二,行政機關(guān)應(yīng)當(dāng)明確情感計算應(yīng)用的目的是為政府決策提供參考和改善公共服務(wù)。情感計算的結(jié)果不能直接用于制定懲罰措施或歧視個人。其三,行政機關(guān)應(yīng)避免利用情感計算結(jié)果對個體進行操控或影響。情感計算結(jié)果僅應(yīng)作為決策支持工具和參考,而不應(yīng)直接用于操縱個體情感狀態(tài)或行為。其四,行政機關(guān)應(yīng)避免情感計算結(jié)果中的偏見和歧視,避免對特定群體的情感態(tài)度或情感表達進行錯誤分類或歧視性判斷。

(四)倫理維度:廓清情感計算應(yīng)用的價值底線

2017年國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》提出要建立公開透明的人工智能監(jiān)管體系,實行設(shè)計問責(zé)和應(yīng)用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu)。對于數(shù)字行政治理而言,不論是設(shè)計問責(zé)還是應(yīng)用監(jiān)督都需要在規(guī)范上確立情感計算的價值底線與倫理禁區(qū)。

一方面,確定價值底線和倫理禁區(qū)的原則。其一,情感計算的設(shè)計者和使用者應(yīng)當(dāng)尊重個人權(quán)利和隱私,不得侵犯個人隱私權(quán)和信息安全。其二,情感計算的設(shè)計者和使用者應(yīng)該遵循公平和公正原則,不得歧視或偏袒特定個體或群體。其三,情感計算的設(shè)計者和應(yīng)用者應(yīng)當(dāng)遵循透明原則,使用戶和利益相關(guān)者能夠理解和評估情感計算的依據(jù)和可靠性。其四,情感計算的設(shè)計者和使用者應(yīng)該遵循公眾參與和民主決策原則,確保決策的合理性和公眾的意見得到充分考慮。

另一方面,加強情感計算的倫理評估和正當(dāng)性審查。在事前階段,應(yīng)當(dāng)加強對情感計算模型的預(yù)備審查。其一,應(yīng)當(dāng)對情感計算的潛在影響進行評估,包括對個人隱私、自由意志和社會公平性的影響,確保其尊重個人隱私和遵循社會公平公正原則。其二,情感計算模型應(yīng)當(dāng)經(jīng)過充分的訓(xùn)練和測試,模型的訓(xùn)練數(shù)據(jù)應(yīng)當(dāng)具有多樣性,并代表不同人群的情感表達,確保其遵循透明原則。其三,建立反饋機制,讓用戶和利益相關(guān)者可以提供對情感計算應(yīng)用的意見和建議,確保情感計算遵循公眾參與和民主決策原則。在事后階段,應(yīng)當(dāng)建立情感計算應(yīng)用監(jiān)督機制,加強行政監(jiān)督和執(zhí)法,確保情感計算的合規(guī)合法,專門設(shè)立有效的投訴和舉報機制,處理涉及情感計算濫用和違規(guī)行為的投訴和舉報。同時,通過定期的審核、現(xiàn)場檢查和獨立評估來實現(xiàn)對情感計算的監(jiān)督。

(五)技術(shù)維度:增設(shè)情感計算迭代的正當(dāng)性要求

情感計算在行政治理應(yīng)用中的倫理要求被確立之后,問題的關(guān)鍵就轉(zhuǎn)化為如何使情感計算的應(yīng)用符合倫理要求。除了采用綜合的保障機制進行外部控制之外,也可以將道德要求融入情感計算的算法迭代之中,讓算法遵循善法。(32)田海平:《讓“算法”遵循“善法”》,《光明日報》2017年9月4日。問題是人類的道德要求是蘊含了價值判斷的自然語言,其難以完全轉(zhuǎn)化為可以被智能機器理解的代碼,不過可以通過加強情感計算算法自身對道德要求的深度學(xué)習(xí)和機器訓(xùn)練,保證情感計算在應(yīng)用過程中像人一樣進行價值判斷,這是靠近科技向善這一終極理想的可能路徑。

一方面,情感計算算法迭代應(yīng)當(dāng)通過數(shù)據(jù)收集和學(xué)習(xí)提高道德判斷能力。情感計算算法可以使用大量的數(shù)據(jù)來訓(xùn)練和學(xué)習(xí),從而理解人類道德的基本原則和規(guī)則。情感計算算法在應(yīng)用時必須遵守社會規(guī)范,不能違背基本的倫理原則。由于道德判斷涉及眾多復(fù)雜的情境和價值觀,情感計算算法的訓(xùn)練數(shù)據(jù)必須具有多樣性和代表性,應(yīng)當(dāng)收集來自不同文化、社會群體和背景的數(shù)據(jù),以避免偏見和歧視。同時,應(yīng)注重平衡各種觀點和利益,以保證算法道德判斷能力的全面性和公正性,而后通過迭代更新逐漸提高情感計算算法對不同情境下的道德問題的理解和處理能力。此外,在迭代情感計算算法時,還需要建立監(jiān)管和合規(guī)機制,對違規(guī)行為進行糾正和懲罰。

另一方面,情感計算算法迭代應(yīng)當(dāng)通過倫理模型和規(guī)則更新提高道德判斷能力。倫理模型是一種用于指導(dǎo)道德決策的框架,可以基于人類倫理學(xué)理論和道德準則進行構(gòu)建。通過不斷迭代和改進這些模型,情感計算算法可以更好地理解和應(yīng)用倫理原則。為了能夠提供明確的道德規(guī)則,人類應(yīng)當(dāng)盡可能走出道德模糊地帶。(33)田海平:《讓“算法”遵循“善法”》,《光明日報》2017年9月4日。隨著社會和道德觀念的演變或者道德規(guī)則的明確化,算法可以及時更新其規(guī)則和準則,以適應(yīng)不斷變化的道德要求。目前有研究基于羅爾斯的“公平的機會平等”理論,引入“歧視指數(shù)”的概念,提出設(shè)計公平算法的方法,并證明其開發(fā)的“公平”算法沒有表現(xiàn)出結(jié)構(gòu)化的歧視行為。情感計算算法迭代應(yīng)當(dāng)通過倫理模型和規(guī)則的不斷更新來提高道德判斷的能力。

結(jié) 語

科技進步促進了人們技術(shù)應(yīng)用能力的提升,但同時也可能伴隨著技術(shù)風(fēng)險和制度風(fēng)險。情感計算本質(zhì)上是人工智能算法的一種,相比于以客觀行為數(shù)據(jù)為質(zhì)料而進行運算的智能算法,情感計算在技術(shù)上試圖通過一系列數(shù)據(jù)信息來觀測、分析甚至影響人們的情感。這對于建設(shè)服務(wù)型數(shù)字化政府,講求情理法并重的現(xiàn)代化中國具有重要意義?？梢酝茢?情感計算技術(shù)未來必將廣泛應(yīng)用于數(shù)字政府的各項服務(wù)當(dāng)中,但在此過程中還需要規(guī)避該技術(shù)運用的諸多風(fēng)險,不僅要防范技術(shù)本身對相對人權(quán)益造成損害的風(fēng)險,還要防范造成技術(shù)運用者的權(quán)力擴張風(fēng)險?？偠灾?“人始終是目的而非手段”,而“將權(quán)力關(guān)進制度的籠子里”則是一切人工智能技術(shù)與政府治理相結(jié)合應(yīng)當(dāng)遵循的基本原則。