德國科幻電影《我是你的人類》中的人機關系與啟示

摘 要：德國科幻影片《我是你的人類》（Ich bin dein Mensch）由艾瑪·布拉斯拉夫斯基（Emma Braslavsky）同名短篇小說改編而成，它以極少的特效與極簡的敘事講述了女科學家阿爾瑪（Almar）和她制造的男機器人湯姆（Tom）共度一生的故事。本文基于技術倫理學視角，通過體悟影片中人與機器間相互依賴、彼此滲透、相互嵌入三個層次的關系，探討技術發(fā)展的不確定性對生理機體、社會機體以及精神機體可能產(chǎn)生的挑戰(zhàn)，并從中國哲學的觀點出發(fā)，提出“人與機器”之間的關系的發(fā)展既要合乎天道，也要合乎人道；既不能脫離了法律和倫理的約束，又不能違背人的天性。

關鍵詞：人機關系 技術倫理 《我是你的人類》

隨著現(xiàn)代科學技術的發(fā)展，大數(shù)據(jù)、人工知覺、仿生技術等技術領域迅猛發(fā)展，相關技術產(chǎn)品正在以深入且全面的方式進入到我們的現(xiàn)實生活，與我們產(chǎn)生千絲萬縷的聯(lián)系。這一現(xiàn)狀催生了一種共識：隨著技術的精進，人類終將創(chuàng)造出與其各方面極盡相似的“機器”，并與其演化出相互依賴、相互滲透、相互嵌入的復雜關系。德國愛情科幻電影《我是你的人類》正是在上述背景下應運而生的。不同于好萊塢電影《異形》中，利用象征性的造型符碼并結(jié)合先進的技術和塑造手段將怪獸形象進行夸張和戲劇化的藝術轉(zhuǎn)化，亦不同于《星際迷航》中蒙太奇拍攝手法，以科技特效創(chuàng)造“太空版速度與激情”，更有別于《吸血鬼》題材電影中對吸血鬼形象，及其文化內(nèi)涵、情感符碼等天馬行空的演繹，《我是你的人類》用極少的特效與極簡的敘事完成了對“人與機器人相處之道”這一抽象命題的深刻探討。

影片的主人公阿爾瑪是一位在柏林佩加蒙博物館（Per-gamonmuseum）工作的人類學家。當柏林的一家人工智能公司新研發(fā)的類人機器人進入最后試驗階段時，單身的阿爾瑪符合“體驗用戶”的各項條件，受邀參與產(chǎn)品調(diào)研。為了獲得研究經(jīng)費，阿爾瑪不得不以與類人機器人共同生活三周，以撰寫體驗報告為代價。于是，基于大數(shù)據(jù)和私人偏好而生的類人機器人湯姆便與阿爾瑪開啟了一段“浪漫”旅程。最初，“現(xiàn)代女性”阿爾瑪對于外形英俊，舉止儒雅的機器人湯姆完全不買單，在她看來，自己并不需要一個“唯命是從”的非人類伴侶。然而，大量“基于諸多精致算法”“系統(tǒng)發(fā)達”的湯姆很快便找到了阿爾瑪?shù)摹巴袋c”，它開始持續(xù)更新自己的程序，學會了“生氣”“拒絕”，甚至是“睡覺打呼”。他能像戀人般表達“你的眼睛就像兩個山中的湖泊，我可以沉入其中”的情話，能不需要一秒思考時間便說出“3587乘以982除以731”的答案，能像人一樣有自己“喜歡的詩”并準確背出其中的第六七行，能“思考”并闡述生命的意義在于“讓世界變得美好”…… 漸漸的，它成長為阿爾瑪?shù)睦硐氚閭H，滿足了阿爾瑪對于愛情的全部想象與渴望。阿爾瑪也從最初的極力排斥，開始慢慢發(fā)現(xiàn)湯姆作為“類人機器人”的“新鮮”“可愛”與“人性”的特質(zhì)。正如她在最終的體驗評估報告中寫道，“在人類歷史上，我們假定的進步是緩慢的，在許多情況下，進步的結(jié)果需要幾十年或幾百年才能顯現(xiàn)出來……有了完美的機器人伴侶，人類可能會沉迷于這種無條件順從、依賴的關系，享受機器人為自己量身定制的‘幸福感’，喪失了認識自我、探索自我的動力與刺激。”

那么，“人與機器”的關系究竟何為？影片中并沒有給出“最終版”答案，但從主人公阿爾瑪對類人機器人湯姆的態(tài)度轉(zhuǎn)變中，我們可以發(fā)現(xiàn)，她經(jīng)歷著“依賴 — — 滲透 — —嵌入”三個層次的轉(zhuǎn)變與遞進。

一、依賴：虛假而上癮的“人機之戀”

作為“人機關系”的最初階段，“依賴”旨在描述在物質(zhì)和精神兩個層面上，人和機器作為獨立個體，但卻彼此需要的狀態(tài)。 ① 就物質(zhì)層面來說，人們越來越依賴現(xiàn)代智能機器解決生產(chǎn)和生活中的各色難題，例如智慧城市系統(tǒng)下急救、消防、交警等多方職能部門對城市安全建設的全面保障；而在精神層面則主要表現(xiàn)在對現(xiàn)代智能產(chǎn)品及其功能的依賴，例如智能手機里有問必答的語音助手。上述兩個層面依賴的愈演愈烈，使得人們開始感受到自身逐步被周圍的世界塑造為“技術存在物”，不得不依靠技術改造自己、武裝自己。正如馬爾庫塞（Herbert Marcuse）指出，“現(xiàn)代技術確是更有效地宰制自然，但也同時成為更有效的宰制人的工具?，F(xiàn)代科技產(chǎn)生了一種不自由的、理性化的程序，讓人無法自主、自由、自己決定人生。” ② 而上述依賴產(chǎn)生的基礎，往往是人類自身某種情感的過溢或缺乏。對于影片的主人公阿爾瑪而言，則更多的源于自身情感的缺乏。

阿爾瑪曾與一個男人相愛，并懷有孩子。然而不幸的是，孩子流產(chǎn)、愛人分手并另結(jié)新歡，一次次的打擊使她將內(nèi)心漸漸封閉起來。面對這突然到來的類人機器人湯姆，無論是理智告訴她的“眼前這個男人不過是算法程式”，還是感情上即將要重新與這樣一個男人建立聯(lián)系，都讓阿爾瑪一時難以接受。一開始，她難以將自己代入戀人的身份，而是以旁觀者的角色審視湯姆這樣一個類人類機器人的設計。隨著阿爾瑪和湯姆相處時間的增加，她逐漸發(fā)現(xiàn)“人工智能”機器人并非一無是處。相反，湯姆的到來像是對阿爾瑪?shù)囊淮吻楦芯融H，讓曾經(jīng)堅信自己“飛機墜毀前最后一瞬間不會向上帝禱告”的阿爾瑪終于卸下包袱，釋放出壓抑已久的情緒。湯姆會陪伴阿爾瑪一同在工作室觀察帶有楔形文字的化石，能夠幫助阿爾瑪發(fā)現(xiàn)苦心鉆研的課題被人捷足先登的風險，可以通過自己的數(shù)據(jù)調(diào)查給阿爾瑪提供可靠線索。雖然阿爾瑪?shù)弥?年的努力付諸東流，一時間難以接受，但卻也達到了及時止損的效果。酩酊大醉后，當阿爾瑪回憶起曾經(jīng)的“傷口”而失意傷神，她對湯姆的態(tài)度也從“犯點錯吧，你就是個機器人”轉(zhuǎn)變?yōu)椤拔医裉炜梢阅媚惝攤€人嗎？”。此后，她也會替湯姆拉起半夜被掀開的被子，擔心他因著涼而“感冒”；也會躡手躡腳地走出房間，害怕吵醒“熟睡”的他；會用勺子捧著煮熟的雞蛋在流水下耐心地冷卻，試著為他做出一個完美的水煮蛋。即使阿爾瑪在理智上仍然將兩者的關系闡釋為“我正在演一出戲”，但心理上對湯姆的依賴感早已油然而生且愈演愈烈。

可見，現(xiàn)代技術為人類設定了“座架”，促逼著人把一切存在物當作技術的持存物來定制。在現(xiàn)代技術條件下，人類利用機器控制和支配自然，讓自然不斷滿足自身的一切需求。但與此同時，由于人與機器之前存在相互依賴，人類在身心享受機器的各項功能的同時，也不得不陷入了機器的擺布之中。而這種現(xiàn)代技術建構(gòu)起的發(fā)達社會，從人文意義層面上來看，“它只能是一種與人性不相容的‘病態(tài)社會’?！?③

二、滲透：欲望的“癮君子”

作為“人機關系”的第二階段，“滲透”旨在強調(diào)原本作為獨立個體的人和機器之間相互滲透，相互融合，使得傳統(tǒng)意義上二者之間的界限變得模糊不清。事實上，“滲透”并非是現(xiàn)代人機關系所特有的。早在傳統(tǒng)手工業(yè)時代，工具與人之間的相互滲透就已經(jīng)存在。人類為達到省力、耐用目的制造使用工具，使其隨之成為人最基本的生存方式和生存手段。隨著近代工業(yè)革命的興起，人們開始追求生產(chǎn)的快速化、標準化和精細化。相繼進入蒸汽時代、電氣時代，人們創(chuàng)造了“力大無窮、永不疲倦”的動力工具，并使其逐漸開始替代人的體能進行勞作。大機器時代的到來在一定程度上改變了人的生產(chǎn)方式，甚至直接導致了人類在身體上、心理上的異化?，F(xiàn)代高新技術，尤其是電子計算機、生物工程、原子能等信息和生物技術的新興技術發(fā)展，使人機關系的“滲透”程度更加深入且復雜。原本專屬于人的模式狀態(tài)下的“識別能力”和復雜情況下的“溝通能力” ④ 已經(jīng)發(fā)生了動搖。根據(jù)“感知信息 — — 檢索識別 — — 信息判斷”模式發(fā)展而來的人工智能已經(jīng)全方位地滲透到人類生產(chǎn)生活的各個環(huán)節(jié)。

影片中的類人機器人湯姆身上便凝結(jié)了上述能力。例如，他可以利用傳感技術將路況信息實時反饋完成駕駛判斷；他可以模擬人類的復雜溝通能力，與阿爾瑪進行有效對話；他甚至可以參與到阿爾瑪?shù)目茖W研究之中，并給出合理化建議。可見，在阿爾瑪與湯姆之間出現(xiàn)了一種普遍而持久、共時性與歷時性相統(tǒng)一的生活性滲透。對于上述滲透，阿爾瑪做何反應？在行為層面，阿爾瑪最終拒絕了讓湯姆成為她的終身伴侶，拒絕為了驅(qū)散人類與生俱來的孤獨感而陷入虛假且上癮的感情。她決意提前結(jié)束了這場實驗，湯姆隨之離開。但她卻在最終的體驗評估報告里對人類與類人類機器人的關系進行了深入的思考與剖析。在她看來，人類發(fā)展的漫漫長路上充斥著所謂的“進步”，但現(xiàn)世之人往往只見眼前利，未見后世弊，駭人的后果或許在數(shù)十載甚至數(shù)個世紀后才漸漸清晰。像湯姆這樣的，被設計出來代替妻子或丈夫的機器人，毫無疑問就是如此的一個“進步”。她寫到：“如果我們允許類人類機器人作為配偶，我們將創(chuàng)造一個由癮君子組成的社會。因為他們的需求會被永久的滿足，并從持續(xù)不斷的個人承認中得到滿足?！庇纱丝梢姡粋€完美的機器伴侶映射著人全部的幻想與欲望，阿爾瑪早已“著魔般”深陷其中，失去了選擇的能力。

在虛擬化條件下， 技術是以一種隱蔽的、不可見的形式對人和世界產(chǎn)生影響， 沒有可感知的具體的現(xiàn)實規(guī)定路徑。從這個意義來看， 技術雖然虛擬且不可見， 但其并不缺少實在性，既不能和“現(xiàn)實”明確聯(lián)系， 也不能同“現(xiàn)實”明晰界限， 而是產(chǎn)生一種可能的聯(lián)系和界限。 ⑤ 與此同時，技術為我們的行為創(chuàng)造了新的可能性空間，使在傳統(tǒng)行為所遇到的阻隔實現(xiàn)了時間和空間范圍內(nèi)的全面拓展，同時還包括了性質(zhì)上的重構(gòu)。在這種“智能環(huán)境”中，一方面，我們享有系統(tǒng)主動診斷和解決問題或主動提出解決方案的能力，另一方面，確保信息通信技術的自主權也突出了信息自決等基本權利。為了實現(xiàn)自身更多的欲望，我們不得不放棄部分“自主”的權力，而成為欲望的“癮君子”。

三、嵌入：人機融合的新主體

作為“人機關系”的第三階段，“嵌入”旨在說明“人”與“機”都并非獨立存在的個體，而是“機器”與“有機體”的雜糅，一種“既現(xiàn)實又虛構(gòu)”的“新型存在物”。 ⑥ 可見，這是一種機器對身體的介入。而機器在某些部位的介入一方面有利于人類的生物功能的優(yōu)化改善，另一方面還增強擴展了人類的思維認知功能。感知、感覺、思維等這些人類原本引以為傲的主觀活動，已經(jīng)逐漸可以被機器所“感知”。就如現(xiàn)階段Chat GPT向我們所展示的那樣，在生物智能和人工智能融合的“嶄新世界”中，已經(jīng)存在于人類大腦中的知識，必然會與我們所創(chuàng)造的更大容量、更快速度和更大知識共享能力的智能深度融合。

影片中的湯姆正是這樣一種類人型的“賽博格”。一方面，湯姆紳士、智慧，體貼，幾乎是人機融合、完美無缺的代表。然而另一方面，這種完美無缺卻又注定了他情感上的缺乏。湯姆不能明白阿爾瑪研究項目被人搶發(fā)了的挫敗，不能理解她因流產(chǎn)和高齡可能生不了孩子的遺憾，也對“人類不是說過愛沒有界限嗎”產(chǎn)生困惑。即使再精密的算法，再深度的學習，湯姆模擬人類情感的程序共情力始終為零，也始終無法參透人類依托于復雜人性與個體經(jīng)歷所建構(gòu)的本質(zhì)。程序能使他給出嚴謹?shù)姆治雠c準確的推斷，卻不能讓他感同身受，感受遺憾的滋味，正如他不在乎雞蛋是生是熟一樣，在湯姆眼里，只有事實，沒有感受。對于阿爾瑪而言，他的完美反而成了壁壘，使他缺乏人性，失去了人類的自私與本性，也就失掉了產(chǎn)生共鳴的基礎。他有能力做出最正確的判斷，卻不能成為感情路上情感互相支持，心智共同成長的伴侶，可以共同快樂卻很難共擔苦痛，更沒法一起承擔生命中所遇的風險與責任。

在弱人工智能時代，人類還在嘗試為實現(xiàn)自身能力的拓展而將自身的功能賦予機器。而進入強人工智能時代，人類必須面對的問題則是能否將自身的責任賦予機器，也就是說，人類能否使智能機器擁有具有責任意義的“Agent”（能動者） 屬性，具有一定的行為能力，對并自己的行為“負責”。 ⑦ 而“嵌入式”的“人機關系”常見于人與高度智能化的機器人之間。主體性哲學認為，“人之為人”的身份關鍵在于人類獨有的思維特性。 ⑧ 然而，“人機融合的雜糅體”一方面消解了思維和身體、人工與非人工間的界限，另一方面超越了性屬的界定方式。 ⑨ 在它不斷追求人類社會合法性的認同的過程中，我們應該思考，它是否也可能同時具有“道德自主性”。一方面，從技術的角度來說，通過在機器內(nèi)部植入倫理準則，可以使機器具有某種行為能力并遵守某種行為準則，從而具有道德自主性；另一方面，從康德哲學的視角出發(fā)，即使機器能夠進行價值斷送，但它無法擁有自由意志和理性，因而它無法具有道德自主性。從這個角度來看，如果讓人機整合的新主體作為責任倫理中的一個環(huán)節(jié)，受道德規(guī)范約束、做出價值判斷、承擔倫理責任，卻有助于推動人機關系的進一步發(fā)展，但同時也會由于濫用或轉(zhuǎn)嫁責任而帶來無法控制的風險。

四、人機關系的倫理啟示

影片從人機關系的三個不同層次探討了人性與科學技術的博弈。毫無疑問，這二者間任何一方肆無忌憚、無休無止的擴張都會帶來不可估量的可怕后果。物理學家霍金（Ste-phen William Hawking）曾表示，“人工智能的發(fā)展最終會成為人類終結(jié)的魔咒。一旦人類開發(fā)出人工智能，后者將以不斷增長的速度獨立啟動并重新設計自己。人類受限于自身緩慢的生物進化，無法與人工智能競爭，終將被其取代?！?⑩事實上，人機關系的變化已經(jīng)在生理機體、社會機體以及精神機體上帶來了沖擊與挑戰(zhàn)。

從形成人的生命歷程看，儒家在強調(diào)基于血緣關系的自然秩序的同時，也倡導由此及彼衍生至世間萬物的情感。對于個人的品格修養(yǎng)，儒家強調(diào)“仁義禮智信”。以人為本，人人心德謂之“仁”；因時制宜，因地制宜，因人制宜謂之“義”；處事有規(guī)，以正為本謂之“禮”；明白是非，文理密查謂之“智”；誠實守信，言行一致謂之“信”。對于人在社會的角色，儒家強調(diào)“格物致知、正心誠意、修身齊家治國平天下” 。身在家庭，整治家政，維護和睦，延續(xù)生命；身在社會，積極入世，君舟民水，善政善教。從對待外在器物的態(tài)度出發(fā)，儒家強調(diào)善用器物，所謂“工欲善其事，必先利其器” ，君子親民愛物，善將器物為自己所用以達到修身養(yǎng)性、齊家治國的目的；同時也強調(diào)人對物的主動性與選擇性，所謂“君子役物， 小人役于物”，君子以自己為主體役使萬物，不被羈絆于世俗。從社會理想來看，“使老有所終，壯有所用，幼有所長，矜、寡、孤、獨、廢疾者皆有所養(yǎng)”是為“大同”社會的基本形態(tài)。上有高堂頤養(yǎng)天年，下有兒女承歡膝下，闔家歡樂，共享天倫，顯然是一個家庭最為期望成為的樣子。從精神教化上看，“司徒修六禮以節(jié)民性，明七教以興民德”強調(diào)以知識充實自身，從而明智明德，符合人生理規(guī)律的知識獲取必然是循序漸進的過程，絕非一朝一夕，更非一勞永逸。

然而。如果人類將自身的一切功能、道德觀念、情感欲望與行為以計算的方式呈現(xiàn)于機器的運行之中，人類社會、人類的智能和心靈都將成為拉 · 梅特里筆下的“一臺巨大的計算機”。 人類的思維活動、心智都由計算機“讀”出來，而人類存在的本體論和認識論意義也就將隨之消失。 因此，“以人為本”應當成為機器設計與使用的準繩，人應該是目的，而非手段。中國傳統(tǒng)哲學中常有“天人合一”的說法，即人應該與外部世界建立起整體、和諧的關系，即“人道”與“天道”的有機交融。因此，“人與機器”之間的關系的發(fā)展既要合乎天道，也要合乎人道。這并非是說“人”與“機器”之間的關系不能如電影中相互依賴、彼此滲透、相互嵌入，而是說“人機關系”的發(fā)展不能脫離了法律和倫理的約束而帶來更難以管控的消極影響。 “人機關系”的發(fā)展不能違背人的天性，這一點值得引起人們格外的關注。

注釋：

①于雪， 王前. 人機關系：基于中國文化的機體哲學分析［J］. 科學技術哲學研究， 2017， 34 （1）： 97-102.

②Marcuse， H. One-Dimensional Man： Studies in the Ideology of Ad?vanced Industrial Society［M］. Boston： Beacon Press， 1964.

③Marcuse， H. Industrialization and capitalism in the work of Max Weber

［M］. Boston： Beacon Press， 1968.

④布萊恩約佛森， 麥卡菲， 蔣永軍譯. 第二次機器革命 ［M］. 北京： 中信出版社， 2014.

⑤王國豫， 朱雯熙. 從規(guī)范倫理到信息形而上學 — —普適計算時代的德國信息哲學與倫理學研究［J］. 哲學動態(tài)， 2017（2）： 69-77.

⑥Haraway， Donna J. Simians， Cyborgs， and Women： The Reinven?tion of Nature［M］. New York： Routledge， 1991.

⑦David， G. The machine question： critical perspectives on AI， ro?bots， and ethics［M］. London： The MIT Press， 2012.

⑧朱雯熙. 技術社會中人類主體性發(fā)展與缺失 — —以普適計算為例

［J］. 文化學刊， 2020（6）： 39-41.

⑨范芷欣. 人工智能科幻電影中人機交往的身體問題研究 ［D］. 武漢： 中南財經(jīng)政法大學， 2021.

⑩彭國翔. 人工智能最終一定是人類的威脅嗎 — —一個儒家的視角

［J］. 道德與文明， 2020（5）： 28-35.

鄭玄 （注）， 十三經(jīng)注疏， 李學勤主編. 禮記正義 ［M］. 北京：北京大學出版社， 2000.

楊伯峻. 論語譯注［M］. 北京： 中華書局， 2009.

干春松. 人工智能的發(fā)展對儒家倫理所可能帶來的影響［J］. 孔子研究， 2019（5）： 38-47.

拉·梅特里. 人是機器［M］. 北京： 商務印書館， 2010.

段偉文. 人工智能時代的價值審度與倫理調(diào)適［J］. 中國人民大學學報， 2017， 31 （6）： 98-108.

朱雯熙， 王國豫. 德國媒體在技術倫理傳播中的作用 — —以人工智能倫理傳播為例［J］. 科學與社會， 2022， 12 （4）： 120-133.

注：本文系2023年度遼寧省教育廳基本科研項目“近現(xiàn)代德語文學中的動物書寫研究”，（項目編號：JYTMS20230534）的研究成果。