媒介的欺騙與超越：科幻電影中AI的二律背反

摘要：科幻電影中對(duì)人工智能的預(yù)想，實(shí)際上早已透露出人與技術(shù)的深度糾纏。人工智能的本質(zhì)并不在于擁有智能，而在于轉(zhuǎn)換問題域變?yōu)槿绾巫寵C(jī)器看起來擁有智能。因此，早在庫布里克的《2001太空漫游》中，哈爾的形象設(shè)計(jì)就暗含有人工智能的二律背反：一方面人工智能以“庸常欺騙”為手段讓人機(jī)交流無限接近于人際交流；另一方面人工智能內(nèi)在根植的工具理性無法兼容人類情感中特有的矛盾，沖突的執(zhí)行指令最終使人工智能迷失方向。

關(guān)鍵詞：人工智能；2001太空漫游；媒介欺騙

引言

技術(shù)物的生成總是在歷史發(fā)展的脈絡(luò)當(dāng)中，對(duì)于當(dāng)下大行其道的人工智能技術(shù)，討論總是在追問人類是否會(huì)被AI取代？如果想要將目光放到未來，勢必要審視人工智能究竟是從何而來。科幻電影作為藝術(shù)家對(duì)前沿技術(shù)的一種思想實(shí)驗(yàn)，實(shí)際上早已將新媒介潛在的特性揭示出來，正如媒介環(huán)境學(xué)所告誡的，“理解歷史是理解未來和新技術(shù)沖擊力的基本條件”[1]?？苹秒娪白鳛橐环N過去的遺產(chǎn)，它并不會(huì)因?yàn)樾录夹g(shù)的出現(xiàn)而變得過時(shí)，相反，它所設(shè)想的技術(shù)語境可能會(huì)反復(fù)地在不同文化與不同記述中出現(xiàn)。本文以庫布里克的《2001太空漫游》為核心文本，試圖以哈爾的背叛作為文章的切入點(diǎn)，探討人工智能技術(shù)自身內(nèi)含的欺騙性如何造成執(zhí)行指令時(shí)的二律背反，面對(duì)媒介的發(fā)展之路，我們究竟有哪些路可以選擇。

一、技術(shù)與人：人類的技術(shù)起源神話

《2001太空漫游》在電影開頭花費(fèi)大量筆墨講述猿人的生活，直到拋向空中的骨頭轉(zhuǎn)場為宇宙中停留的飛船，庫布里克的用心才昭然若揭，動(dòng)物與人的分野正在于工具的使用。按照波茲曼對(duì)技術(shù)的理解，技術(shù)與文化的關(guān)系可以分為工具使用文化、技術(shù)統(tǒng)治文化以及技術(shù)壟斷文化，人類的文化類型可以根據(jù)技術(shù)與文化的關(guān)系來劃定[2]。在過往的思想研究中，技術(shù)總是處于被貶抑的位置，柏拉圖在《斐德若篇》就對(duì)文字的發(fā)明冷嘲熱諷，莊子則用“有機(jī)械者必有機(jī)事，有機(jī)事者必有機(jī)心”來表達(dá)其內(nèi)心對(duì)技術(shù)的厭惡。然而，正是技術(shù)壟斷文化的不斷擴(kuò)張，使人類社會(huì)與技術(shù)的關(guān)系不再被歸因?yàn)榻?jīng)濟(jì)決定論，技術(shù)不僅是人類滿足自我需求的工具，它反過來也限制著人類文化的發(fā)展走向。在過去被忽略的技術(shù)因素在20世紀(jì)迎來哲學(xué)的重點(diǎn)關(guān)注，海德格爾用“集置”這一術(shù)語概括人與技術(shù)的關(guān)系，可以說現(xiàn)代人從一出生起就被拋擲在一整套技術(shù)體系架構(gòu)當(dāng)中[3]。

斯蒂格勒指出，技術(shù)物不能簡單地歸類在被動(dòng)物體或者生命物體，技術(shù)物本質(zhì)上是有機(jī)化的無機(jī)物，它一方面作為人與環(huán)境的中介物影響二者的相互作用，另一方面技術(shù)物自身也在人類的自我演化中發(fā)展進(jìn)化[4]。在猿人沒有使用工具之前，猿人與環(huán)境、猿人與猿人之間的關(guān)系是自發(fā)而非自覺，對(duì)資源的爭奪出于一種物質(zhì)上的本能。而有了骨頭作為工具，猿人與世界的關(guān)系不止在眼前的資源，爭奪也開始有了政治意義。電影中為了描述由猿到人的轉(zhuǎn)變，插入了黑石與月亮的意象，按照克拉克在小說中的設(shè)定，黑石是高維生命留給地球的航標(biāo)，當(dāng)?shù)谝恢辉澈锾撐镔|(zhì)開始仰望月亮，它也便開啟了人類文明的曙光。

影片中庫布里克做了有關(guān)未來的媒介預(yù)言，例如，遠(yuǎn)程視頻通話和電子報(bào)。電影里雖然沒有透露立場，但克拉克的小說有著詳細(xì)點(diǎn)評(píng)：“通信工具越了不起，其內(nèi)容似乎就越瑣碎、庸俗，或者說令人喪氣。意外事件、犯罪事件、天災(zāi)人禍、沖突威脅、報(bào)憂不報(bào)喜的評(píng)論——億萬個(gè)散播進(jìn)太空的字詞里，關(guān)切的主題似乎仍然是這些。不過弗洛伊德也懷疑：這一切是否一定就代表糟糕？很早以前他就斷定，烏托邦的報(bào)紙一定沉悶得要命”[5]。從影片的整體基調(diào)來看，庫布里克并不是技術(shù)樂觀主義的信徒，雖然影片中展現(xiàn)了新媒介無遠(yuǎn)弗屆的威能，但這種威能本身也是一種隱患，變成人類突破自我的一種桎梏。麥克盧漢將技術(shù)等同于媒介，而媒介的內(nèi)涵即人的感覺器官的延伸。人對(duì)世界的理解，總是要通過媒介的中介化方能獲得感覺經(jīng)驗(yàn)，但這種延伸并不是沒有代價(jià)。“中樞神經(jīng)系統(tǒng)延伸和暴露以后，我們必須使其麻木，否則我們就必死無疑。因此，這個(gè)焦慮和電子媒介的時(shí)代又是無意識(shí)和冷漠的時(shí)代”[6]。技術(shù)的無限延伸最終延展至人的大腦，如果說人的生存已經(jīng)與技術(shù)的發(fā)展有著密不可分的聯(lián)系，那么作為人類大腦延伸的人工智能對(duì)于人類究竟是福是禍？

二、媒介欺騙：理性的一與感性的多

人工智能哈爾從出場開始便不斷進(jìn)行烘托，如果人類的發(fā)展源起于對(duì)技術(shù)的使用，那么哈爾不管是他人的評(píng)論抑或自己的認(rèn)知，都可謂是人類技術(shù)的巔峰。正是這樣一個(gè)號(hào)稱“從未出現(xiàn)過錯(cuò)誤或信息失真”的AI，竟然在飛船里發(fā)生錯(cuò)亂，開啟殺戮，最后僅剩大衛(wèi)一人完成任務(wù)。如何看待哈爾的“背叛”，有觀者認(rèn)為哈爾的殺戮源于自我意識(shí)的覺醒，機(jī)器從物性轉(zhuǎn)向人性，因?yàn)槭艿讲乱呻y以容忍，遂決定拋棄人類隊(duì)友一人完成使命。其實(shí)恰恰與之相反，哈爾的故障來自人工智能在執(zhí)行人類指令時(shí)所內(nèi)藏的二律背反，矛盾的指令使得二進(jìn)制的代碼趨于崩潰。

《太空漫游》中的哈爾和《機(jī)器人總動(dòng)員》中的真理號(hào)，其實(shí)都暗示著人機(jī)關(guān)系中的異化與顛倒，當(dāng)人工智能以“絕對(duì)正確”為由幫助人類，實(shí)際上人類從被宗教所宰制轉(zhuǎn)為被技術(shù)所宰制?，F(xiàn)代社會(huì)中，人們破除了對(duì)鬼神的迷信，卻反而迷信科學(xué)，科學(xué)在當(dāng)代社會(huì)本身就成了真理、公正的化身。而被技術(shù)壟斷所統(tǒng)轄的人類，將感官的選擇權(quán)與決定權(quán)讓渡給人工智能，于是就造成《機(jī)器人總動(dòng)員》中的“極惰性”人類：他們彼此缺乏具身交流，哪怕相距咫尺，卻依然依賴電子屏幕進(jìn)行交流；他們?nèi)狈緦徝?，人工智能推薦什么就購買什么，所有人的行為保持著多樣化的同質(zhì)性；他們?nèi)狈€下運(yùn)動(dòng)，以躺椅作為人生的軸點(diǎn)，通過虛擬的電子游戲運(yùn)動(dòng)來滿足感官流動(dòng)的需求。技術(shù)在不斷發(fā)展的過程中不斷褫奪人的權(quán)能，從體力勞動(dòng)到智力勞動(dòng)，人在將感官無限讓渡的過程中實(shí)際上使得人的本真意義也隨之喪失，人工智能根據(jù)工具理性的要求排定一切秩序。

媒介技術(shù)具有強(qiáng)烈的意識(shí)形態(tài)偏向，但這種偏向卻在技術(shù)的原初設(shè)計(jì)中被隱藏了。納塔萊在分析人工智能時(shí)指出，蘋果Siri等語音助手“導(dǎo)致了一種矛盾的人際關(guān)系，即它們給予用戶一種擁有人機(jī)交互控制權(quán)的錯(cuò)覺，但同時(shí)又讓用戶在實(shí)際上失去了對(duì)隱藏在界面背后的計(jì)算系統(tǒng)的控制”[7]。媒介在日常實(shí)踐中的不可見性意味著人工智能對(duì)人類的欺騙，這種欺騙源于媒介功能賴以為生的根本。實(shí)質(zhì)上，媒介創(chuàng)生之初就利用感官的錯(cuò)覺實(shí)現(xiàn)交流對(duì)于時(shí)空的跨越，人與人之間無法實(shí)現(xiàn)三體人式的傳心交流，交流間不可逾越的鴻溝意味著傳播符號(hào)一定要退兩步才得以進(jìn)一步。圖靈測試正是圖靈為人工智能進(jìn)行的障眼法辯護(hù)，測試通過問題域的轉(zhuǎn)換，把機(jī)器是否擁有智能這個(gè)問題轉(zhuǎn)換為機(jī)器是否能表現(xiàn)得擁有智能。于是，人工智能可以通過算法的不斷迭代無限地模擬與接近人類，人工智能為了看起來像人類，它擁有了語音、語調(diào)、語癖，但需要注意這種看起來與人無異的交流，實(shí)質(zhì)上是工程師與數(shù)據(jù)共同作用后的結(jié)果。工程師為了讓人工智能更像人，它在屏幕界面的背后在不斷地進(jìn)行模擬。

正如有研究者所指出的，人工智能的交流脫胎于文字開始的一系列銘刻系統(tǒng)，人工智能看似是對(duì)口語傳播的復(fù)歸，實(shí)際上以ChatGPT為代表的第三交流與以口語傳播為代表的第一交流是截然不同的邏輯[8]。語言文字作為兩種交流的結(jié)合體，實(shí)質(zhì)上讓交流的意義本身失去了意義，因?yàn)樵谠捳Z說出之前，答案已經(jīng)存在于傳播結(jié)構(gòu)當(dāng)中。因此，姜宇輝敏銳地發(fā)覺到，人與技術(shù)的所提供的是兩種不同的自由，人工智能所輔助和激發(fā)的自由是有限的、“打了折扣的”，而薩特意義上一種無條件的自由則可能激發(fā)出全新的可能性[9]。哈爾所謂的正確，不過是積淀于過往一切歷史的正確，然而科學(xué)的精神本身又在于保持懷疑，如果人工智能壟斷了關(guān)于真理的全部闡釋，那么它一定會(huì)走到科學(xué)的對(duì)立面。

庫布里克的辛辣之處并不僅僅在于看到了工具理性對(duì)價(jià)值理性的侵蝕，更在于巧妙設(shè)計(jì)出哈爾叛變這一情節(jié)，并誘發(fā)觀眾去思考人工智能為何會(huì)違背人類指令出現(xiàn)故障？如果說工具的曙光——舉向天空的骨頭棒子——最早是用來殺死同類，那么不管技術(shù)如何演進(jìn)，人與人的交流中始終帶有欺騙與算計(jì)。正如庫布里克的前作《奇愛博士》所諷刺的，媒介的發(fā)達(dá)反而加強(qiáng)了密碼的厚重，事關(guān)世界末日的危機(jī)但在政治協(xié)商中全是一地雞毛。在《太空漫游》中依舊可以看到人與人之間的不信任，從基地的流行病傳言再到大衛(wèi)一行被隱瞞真實(shí)目的。對(duì)人的不信任于是將秘密交給了人工智能，但哈爾實(shí)質(zhì)上是一連串代碼，二進(jìn)制的世界是0與1的確定性世界，本身就是欺騙產(chǎn)物的人工智能又背上了欺瞞同行人類隊(duì)友的指令，在矛盾的指令中哈爾故障頻出，為確保最后任務(wù)的完成于是開啟了消滅人類隊(duì)友的計(jì)劃。

有關(guān)人工智能的欺騙性討論，在哈爾的劇情中透露出理性與感性的深刻張力，一方面人工智能本身具有欺騙性的形式，通過回歸口語交流讓人誤以為人工智能與人一樣都具有心智和靈魂；另一方面人工智能的底層邏輯仍舊是流動(dòng)不居的算法代碼，它渴求確定性，能夠呈現(xiàn)復(fù)雜卻不能真正地去承載人類感性中的矛盾，當(dāng)人工智能去表現(xiàn)人類的欺騙時(shí)最終被影響的是自己不可一世的算法神話。

三、媒介演化：更人性的或者后人類的

在《2001太空漫游》的配樂選擇中，庫布里克其實(shí)已經(jīng)透露出自己參照的哲學(xué)作品，那就是尼采所寫的《查拉圖斯特拉如是說》。有關(guān)影片中“星童”的分析，其實(shí)可以把他納入尼采的精神三變中加以認(rèn)識(shí)和理解。尼采認(rèn)為精神的發(fā)展變化可借用3個(gè)隱喻來認(rèn)識(shí)理解，即“精神怎樣變?yōu)轳橊劇Ⅰ橊勗鯓幼優(yōu)楠{子、獅子怎樣變?yōu)楹⒆印盵10]。在尼采看來，精神從“你應(yīng)該”發(fā)展到“我要”，駱駝的負(fù)重使得人缺少了創(chuàng)造性的自由，而獅子的掠奪扭轉(zhuǎn)了生命的羸弱，但欲求發(fā)展到極致，歷史的轉(zhuǎn)輪需要一個(gè)新的開始。孩子意味著一種新人，他遺忘了過往，他強(qiáng)大到世界圍繞其旋轉(zhuǎn)。

結(jié)合影片的技術(shù)隱喻以及尼采思想，庫布里克非常先鋒地探討著媒介的演化史。早期的傳播依靠人類的身體，人類通過語言、表情、動(dòng)作進(jìn)行傳播，通過強(qiáng)大的記憶能力進(jìn)行傳承。但是身體對(duì)時(shí)間與空間的克服始終是有限的，人不能生活在龐大的記憶體系中，于是出現(xiàn)了體外化媒介，它作為第三持存（斯蒂格勒意義上）幫助人類進(jìn)行時(shí)間與空間的征服。媒介技術(shù)的出現(xiàn)也在改變?nèi)祟愖陨淼纳鏃l件與交往環(huán)境，從延時(shí)的文字到實(shí)時(shí)的光影，從書寫的記載到人工智能的介入，媒介技術(shù)滲透在人類社會(huì)的全部場域中，人被嚴(yán)重媒介化的同時(shí)更被媒介深刻決定著自己生存境遇。

對(duì)于未來媒介的展望，其實(shí)不同的學(xué)者有不同的觀點(diǎn)和看法。

保羅·萊文森在論述媒介的演變過程中強(qiáng)調(diào)人性化趨勢原則，即“媒介是在朝著對(duì)人類傳播系統(tǒng)的不斷接近中進(jìn)化的”[11]。萊文森就此特別強(qiáng)調(diào)，新媒介朝向面對(duì)面?zhèn)鞑ツＪ降膹?fù)歸意味著它表現(xiàn)得更像是人類傳播系統(tǒng)，但這并不意味著新媒介在物理意義上要等同于人類傳播器官。萊文森認(rèn)為媒介批評(píng)家對(duì)媒介技術(shù)的言辭有舍本逐末的意味，在他對(duì)媒介技術(shù)史的梳理當(dāng)中，輔助性技術(shù)產(chǎn)生的絕大惡果還是來自人的控制。因此人工智能并不是阻人前行的屏障，相反，人的理性選擇會(huì)助推AI技術(shù)的人性化發(fā)展，萊文森希望未來的人工智能技術(shù)能被創(chuàng)造為“既有自主智能又有生命的實(shí)體”[12]，如此，人類未來才能遇到以往所沒有遇到之事。

相比萊文森，以海勒為代表的后人類主義不再堅(jiān)守人類的主體性。與萊文森看法不同，在海勒看來，人類不能再被認(rèn)為是用來操縱和控制環(huán)境所必須的統(tǒng)治力的根源。相反，“新生人類主體的分布式認(rèn)知與分布式認(rèn)知系統(tǒng)連接成一個(gè)整體，在這個(gè)整體中，思考由人類和非人類因素共同完成”[13]。因此，人工智能與人在未來是一種融合交織的狀態(tài)，不應(yīng)在想象的邊界中固守主體的特性，而應(yīng)當(dāng)注意到主體本身總是處在歷史流變的建構(gòu)中，它的邊界總是隨著信息的物質(zhì)環(huán)境的擴(kuò)增而隨之改變。

回歸影片，庫布里克對(duì)人類與人工智能的未來，既沒有選擇發(fā)展向善的技術(shù)，也沒有選擇接受人與非人已經(jīng)一體的事實(shí)。他通過“星童”的構(gòu)建，實(shí)際上激進(jìn)地拋棄了技術(shù)，摒絕了人工智能的存在。《2001太空漫游》設(shè)想一種高維文明通過黑石作為航標(biāo)，不斷對(duì)猿人進(jìn)行啟蒙，以望月為契機(jī)，從掌握工具開始不斷深化技術(shù)的界限，人類的感官延伸從地球開始向宇宙蔓延。月球的黑石作為一個(gè)轉(zhuǎn)折點(diǎn)，當(dāng)人類通過媒介技術(shù)發(fā)展到極致，人類不是要解構(gòu)為新的主體或者研發(fā)新的技術(shù)，人類要做的是超越自身，擺脫對(duì)媒介技術(shù)尤其是人工智能的依賴。

結(jié)語

斯皮爾伯格曾接替庫布里克的遺作導(dǎo)演了《人工智能》，借用其中匹諾曹的隱喻來看待人工智能，它的復(fù)雜性可能正在于技術(shù)邏輯本身充斥著謊言與欺騙，但在人與AI的不確定性交流中，矛盾可能會(huì)不斷轉(zhuǎn)化，我們也將不斷修正有關(guān)真實(shí)與愛的定義。

參考文獻(xiàn)：

[1]羅伯特·洛根.理解新媒介——延伸麥克盧漢[M].上海：復(fù)旦大學(xué)出版社，2012：319.

[2]尼爾·波茲曼.技術(shù)壟斷：文化向技術(shù)投降[M].北京：北京大學(xué)出版社，2007：12.

[3]馬丁·海德格爾.存在的天命：海德格爾技術(shù)哲學(xué)文選[M].北京：中國美術(shù)學(xué)院出版社，2018：99.

[4]斯蒂格勒.技術(shù)與時(shí)間：愛比米修斯的過失[M].南京：南京大學(xué)出版社，2012：55.

[5]阿瑟·克拉克.2001：太空漫游[M].上海：上海文藝出版社，2019：61.

[6]馬歇爾·麥克盧漢.理解媒介：媒介即人的延伸[M].南京：譯林出版社，2011：63.

[7]西蒙尼·納塔萊.媒介的欺騙性：后圖靈時(shí)代的人工智能和社會(huì)生活[M].上海：復(fù)旦大學(xué)出版社，2023：105.

[8]王沐之，胡翼青.ChatGPT與第三交流的誕生[J].現(xiàn)代出版，2023，（06）：19-29.

[9]姜宇輝.作為謊言機(jī)器的ChatGPT[J].貴州大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2023，41（04）：38-47.

[10]尼采.扎拉圖斯特拉如是說[M].上海：華東師范大學(xué)出版社，2009：55.

[11]保羅·萊文森.人類歷程回放：媒介進(jìn)化論[M].重慶：西南師范大學(xué)出版社，2016：15.

[12]保羅·萊文森.軟利器[M].上海：復(fù)旦大學(xué)出版社，2011：185.

[13]N·凱瑟琳·海勒.我們何以成為后人類[M]北京：北京大學(xué)出版社，2017：392.

（作者單位：延安大學(xué)文學(xué)與新聞傳播學(xué)院）

（責(zé)任編輯：宋宇靜）