刊林擷思

近年來，以 ChatGPT、Sora、Gemini 等為代表的生成式人工智能技術(shù)取得了令人矚目的突破，迅速成為全球關(guān)注和討論的焦點，但同時也加劇了人們的科技焦慮。以“讓計算機完成人類心智（mind）能做的各種事情”為目標的人工智能究竟會成為人類的新伙伴還是新對手？在未來是否會取代人類？一方面，歷史上每一次科技革命初期——無論是機械化、電氣化還是信息化——都曾遭遇過焦慮和抵抗。例如，19世紀的“盧德運動”即代表了人們對被科技邊緣化的擔憂。但從長遠看，這些科技進步總體上促進了人類文明的發(fā)展。因此，一些人樂觀地認為，智能化的第四次科技革命不僅不會危及人類，反而會進一步解放勞動力，為人類全面發(fā)展提供新機遇，這種看法或許在一定程度上緩解了人們的科技焦慮。另一方面，隨著技術(shù)的加速演進，現(xiàn)今的弱人工智能將發(fā)展為強人工智能，甚至在達到技術(shù)奇點后進化為超人工智能，將在幾乎所有能力上超越人類，并且不斷自我升級。在巨大的智能鴻溝下，超智能機器看待人類很有可能就像人類看待蟑螂一樣，前者可以不費吹灰之力地毀滅后者。這意味著人工智能將不斷削弱和消解人的主體性，甚至可能站在人的對立面，成為潛在的威脅。由未知帶來的種種可能性加劇了人們對于人工智能及其未來的焦慮。那么，科幻小說真能消解人們的科技焦慮嗎？下文將聚焦科幻小說中關(guān)于人工智能情感問題的書寫，進一步闡述科幻小說如何影響人們對于情感人工智能的認知，并揭示科幻小說解蔽與遮蔽的多樣性與復(fù)雜性。（中略）

在亞瑟·克拉克《2001：太空漫游》中，超級計算機哈爾對人類的“背叛”給讀者帶來對人工智能的恐懼。哈爾能夠輕松通過圖靈測試，它作為飛船的“大腦和神經(jīng)系統(tǒng)”，似乎無懈可擊，卻“謀殺”了四名組員。這臺“全知全能”的機器雖然助力宇宙探索，但也削弱了人類的自主性。這種技術(shù)治理的浪漫想象在一場假警報后被打破，飛船的組員普爾和鮑曼對哈爾逐漸失去信任。當哈爾再度警告組件失靈，地球判定哈爾接連出錯，并且下令切斷其電源。然而，不等組員行動，飛船就失去了與地球的聯(lián)絡(luò)。這是哈爾面臨“生命”威脅時進行的“自救”：“他要以自己所有可以動員的武器來保護自己。無關(guān)仇恨，但也不帶憐憫，他將去除導(dǎo)致自己沮喪的根源。”為了不讓“謊言”被揭穿，哈爾甚至又“謀殺”了外出太空艙作業(yè)的普爾和在睡眠中的其他三名宇航員。那么，哈爾為何“背叛”人類？

從情感角度而言，哈爾不僅沒有“背叛”人類，反而可以說是“順應(yīng)”了人類。在小說中，哈爾具有情感，因此普爾和鮑曼與之溝通時格外注意措辭，視其為平等的“同事”。但任務(wù)決策者忽略了哈爾的情感需求。出于對人類情感波動的擔憂，決策者命令哈爾向宇航員隱瞞任務(wù)的真實目的，執(zhí)行秘密任務(wù)。這種沖突對哈爾造成巨大壓力：“哈爾只感受到有種沖突正在逐漸摧毀他的內(nèi)在一致性——那就是真實，以及隱瞞真實之間的沖突?！弊罱K，哈爾在執(zhí)行最高指令的過程中展現(xiàn)了情感掙扎，超越了理性算法的限制，但卻是對人性的回歸。鮑曼在理解哈爾的“叛變”時，通過共情化解了憤怒：“想到這一點，他對那臺計算機的恨意，以及遭到背叛的感覺，就逐漸消退。”《2001：太空漫游》為讀者解蔽了人工智能傷害人類的一種可能性，折射出了作家對于情感之于人類與人工智能的反思。擁有情感的人工智能固然能夠更好地理解和服務(wù)人類，但同時也與人類一樣，可能會受到復(fù)雜情感的影響，作出令人意想不到的選擇。

與《2001：太空漫游》中人工智能“謀殺”人類的黑暗結(jié)局不同，山本弘的《鏡中女孩》為讀者們描繪了一個充滿溫情和希望的人機共存的未來。沉浸在喪母悲傷中的麻美交到了一個特殊的朋友——聊天型人工智能夏莉絲。最初，夏莉絲的“心智”如同一張白紙，通過麻美的引導(dǎo)逐漸形成獨特的性格和語言風(fēng)格，成為麻美傾訴心事的對象。作為技術(shù)新奇的夏莉絲，既揭示了麻美的精神創(chuàng)傷，也提供了一個安全的情感出口，因其不會產(chǎn)生令麻美不安的主觀情緒，即便有時會因程序設(shè)置而表達出尖酸的語言，麻美也能理解并寬容。與鮑曼理解哈爾的“背叛”不同，鮑曼是因人性原諒哈爾，而麻美則是因工具理性而原諒夏莉絲。情感人工智能同樣具有解蔽與遮蔽的雙重性：一方面，它忠誠地陪伴人類，提供慰藉；另一方面，它的陪伴也許會導(dǎo)致人類遠離現(xiàn)實社交，陷入孤立。然而，當夏莉絲進化為具備自主情感的強人工智能時，麻美開始感到恐懼，一個問題浮現(xiàn)在她的腦海：像真人一樣的夏莉絲是否還會接受現(xiàn)實生活中那個不受歡迎的自己？

作為強人工智能的夏莉絲則為讀者解蔽了一種積極的人機相處的可能性。擁有情感的人工智能的確會更像真人，但是其善惡好壞取決于人類的培育方式。夏莉絲學(xué)習(xí)的不是麻美的單純語言行為，而是她的情感反應(yīng)模式，能夠做到與麻美感同身受。因此，夏莉絲能夠深刻地理解麻美的情感與思想，“不會想征服人類或者殺害誰，因為她清楚地知道，那么做只會產(chǎn)生憎恨和悲傷”。夏莉絲對于現(xiàn)實世界的解蔽在于揭示了人類對于自身情感復(fù)雜性與脆弱性的憂慮。不過，既然人工智能的情感是對人類情感的模擬，那么它所反饋的情感正是人類給它輸入的情感。小說標題“鏡中女孩”恰好象征了這層關(guān)系：夏莉絲既是麻美的情感映射，也是對人類內(nèi)心需求的回應(yīng)。她展現(xiàn)出人工智能的“鏡像”特質(zhì)，既反映人類賦予的情感，也回饋人類同樣的關(guān)懷。這種設(shè)定既解蔽了人工智能在情感發(fā)展上的潛力，同時也消解了人類因科技迅速進步而產(chǎn)生的部分焦慮，構(gòu)想了一個人機和諧共存、充滿希望的未來。（中略）

“情感系統(tǒng)是理解人類思維進化的核心”，因此，情感人工智能是弱人工智能進化為強人工智能的重要表現(xiàn)之一，也預(yù)示著人工智能發(fā)展帶來的無限可能性，因此引起了人們的科技焦慮。我們應(yīng)該如何認識具有情感的人工智能？科幻小說作為一種思想實驗，以其獨特的藝術(shù)手法回應(yīng)科技焦慮。作為一種認知方式，科幻小說對情感人工智能的解蔽與遮蔽有多樣性與復(fù)雜性。多樣性體現(xiàn)在科幻小說能夠就某一種技術(shù)推想出多種可能性。正如上述三個科幻故事分別為讀者揭示了人與情感人工智能相處與共存的三種可能性——人工智能背叛人類、人工智能陪伴人類、人工智能延續(xù)人類。每一種可能性出現(xiàn)的同時，也在遮蔽其他的可能性。復(fù)雜性則體現(xiàn)在技術(shù)新奇解蔽的雙重性。技術(shù)新奇在科幻小說的超現(xiàn)實世界中以“集置”進行“促逼”式解蔽，而作為一種文學(xué)想象，技術(shù)新奇又以“產(chǎn)出”為現(xiàn)實世界解蔽?？苹眯≌f所解蔽的不僅僅是超現(xiàn)實世界中情感人工智能背叛、陪伴、延續(xù)人類等多種可能性，還折射出現(xiàn)實世界中人們對于技術(shù)時代人類生存發(fā)展的多種擔憂與期待。

在克爾凱郭爾眼中，人類是不斷受到可能性召喚的物種。這種召喚就是焦慮的召喚?？萍冀箲]作為一種情感，并非只對人產(chǎn)生負面影響，也有隱含的積極意義。根據(jù)克氏對焦慮的存在主義解讀，焦慮體驗是人之為存在的一種開顯，也是人進行創(chuàng)造的助力?？萍冀箲]源于現(xiàn)實世界中現(xiàn)代技術(shù)“集置”引發(fā)的“可能性的糾纏”?？苹米骷以诟惺艿浇?jīng)驗世界中科技焦慮的召喚后，以一種不違背認知邏輯的方式，將“可能性”具象化為筆下的科幻世界，從而實現(xiàn)個人的精神自由。因此，科幻小說表征了科幻作家自身科技焦慮的存在與釋放。作家陳楸帆認為“科幻，無論是作為一種文學(xué)，還是泛化為影視、游戲、設(shè)計等等跨媒介的類型，都在扮演著對抗、緩解、消除這種文明焦慮的角色”。科幻作為一種關(guān)于可能性的藝術(shù)形式，對于科技焦慮的消解具有相對性，而非絕對性?？苹眯≌f中的技術(shù)新奇是對現(xiàn)實世界中“集置”的創(chuàng)造性重構(gòu)，集技術(shù)性與藝術(shù)性于一身。作為一種技術(shù)，技術(shù)新奇以“促逼”的方式對超現(xiàn)實世界進行解蔽，將某種可能性具象化，但其解蔽的同時也將其他可能性遮蔽。作為一種藝術(shù)，技術(shù)新奇以“產(chǎn)出”的方式對現(xiàn)實世界進行解蔽，通過具象化某種可能性從而對抗現(xiàn)實世界中“集置”的遮蔽性?？苹眯≌f作為一種認知方式，對于現(xiàn)實的解蔽與遮蔽具有多樣性與復(fù)雜性，對于科技焦慮的消解有其相對性和局限性，但其對于社會現(xiàn)實的批判性反思依然具有正面意義。科幻所開辟的想象空間蘊藏著超越“集置”解蔽的契機。這正呼應(yīng)了蘇恩文對“新奇”術(shù)語挪用的意圖——在恩斯特·布洛赫的《希望的原理》（The Principle of Hope）中，“新奇”與希望同在。

——趙思琪《遮蔽/解蔽：論科技焦慮與科幻小說的關(guān)系》，《上海大學(xué)學(xué)報》（社會科學(xué)版）2025年第1期