《西部世界》中人工智能自我意識(shí)探究

張榮軍 李淑穎

馬克思曾指出：“意識(shí)在任何時(shí)候都只能是被意識(shí)到了的存在”。[1]馬克思認(rèn)為意識(shí)是一種承認(rèn)和認(rèn)可條件下才存在。意識(shí)具有目的性和計(jì)劃性，人正是有自我意識(shí)，才對(duì)人的思想和行為進(jìn)行調(diào)節(jié)和控制，對(duì)個(gè)人的發(fā)展乃至對(duì)世界的發(fā)展尤為重要。2016年美國喬納森·諾蘭導(dǎo)演的《西部世界》，是一部機(jī)器人自我意識(shí)覺醒，追求自由，反抗人類的故事。

一、自我意識(shí)與自由

美劇《西部世界》第一季：在未來的某一天，一座高科技人工智能的成人樂園建成。樂園內(nèi)有兩種類型的人群，即接待員——機(jī)器人;“新住民”——真人游客。程序員設(shè)定程序，接待員無法傷害“新住民”，“新住民”可以任意傷害接待員。通過一系列的劇情與游戲，提供游客滿足感。影片最后，德洛麗絲發(fā)現(xiàn)迷宮是一套代碼或程序，引導(dǎo)機(jī)器人覺醒。工作人員規(guī)劃師伯納德也向德洛麗絲解釋道：“意識(shí)不是一個(gè)由下至上的過程，而是由外至內(nèi)的過程”。簡(jiǎn)言之意識(shí)是由自我產(chǎn)生，受外界的物質(zhì)所影響。通過人的頭腦產(chǎn)生，頭腦通過對(duì)外界事物反映而產(chǎn)生意識(shí)。

第二季《西部世界》是機(jī)器人自我意識(shí)覺醒后控制人類，對(duì)人類進(jìn)行大屠殺。影片開始以伯納德為切入點(diǎn)，伯納德雖然從事制造機(jī)器人的工作，但也是人類制造出來的機(jī)器人。

第三季主要以德洛麗絲和梅芙之間的對(duì)抗為主，所有人為了尋找密鑰，開展的一系列的爭(zhēng)斗。梅芙想要尋到密鑰保護(hù)女兒，塞拉克想要借助梅芙對(duì)抗德洛麗絲，而德洛麗絲則希望人類和機(jī)器人可以共生存，和平共處。最后德洛麗絲以自己的“生命”為代價(jià)換取人類自由，也為機(jī)器人同胞換來一個(gè)安全之地。

二、價(jià)值與反思

在科幻片中，人工智能的題材，一直廣受人們關(guān)注和喜愛。當(dāng)機(jī)器人有了自我意識(shí)，人類和機(jī)器人之間的矛盾與沖突該如何處理？從宏觀到微觀來分析《西部世界》中值得拍手稱贊的地方。

第一，選題新穎。人工智能與自我意識(shí)是目前社會(huì)關(guān)注度很高的熱門話題。從人工智能發(fā)展來看，人工智能最早出現(xiàn)在1950年計(jì)算機(jī)象棋博弈;1954年圖靈測(cè)試;1956年的達(dá)特茅斯會(huì)議中，眾多科學(xué)家探討用機(jī)器模擬人類智能并首次提出人工智能這一專業(yè)術(shù)語;1959年，產(chǎn)生一般問題解決器;1964年，理解自然語言的輸入;1966年，ELIZA人機(jī)對(duì)話;1968年世界首個(gè)專家系統(tǒng)DENDRAL，誕生世界第一臺(tái)智能機(jī)器人;1976年，大規(guī)模知識(shí)庫構(gòu)建與維護(hù);1980年，非單調(diào)邏輯，計(jì)算機(jī)戰(zhàn)勝雙陸棋世界冠軍;1987年，基于行為的機(jī)器人學(xué)，自我學(xué)習(xí)雙陸棋程序;1998年，語義互聯(lián)網(wǎng)路線圖;2004年，OWL語言;2006年深度學(xué)習(xí);2011年，高層抽象特征構(gòu)建;2009年谷歌自動(dòng)駕駛汽車;2011年，沃森獲得Jeopardy冠軍，自然語言問答;2014年，機(jī)器人首次通過圖靈測(cè)試。2016年，世界圍棋比賽，機(jī)器人打敗人類，可見其具有發(fā)展的長(zhǎng)期性。從目前社會(huì)來看，人工智能普遍應(yīng)用到日常生活中家居、醫(yī)療、交通等各個(gè)領(lǐng)域，可見其具有廣泛性。

機(jī)器人的出現(xiàn)帶來機(jī)器人是否有自我意識(shí)的問題，這一問題被各領(lǐng)域?qū)W者廣泛討論?；艚鹪J(rèn)為，如果人工智能發(fā)展到一定程度，人類為了生存，只能不斷在太空探索新的居住地，并表示人工智能可能會(huì)成為人類歷史上最大的災(zāi)難，如果管理不善，會(huì)思考的機(jī)器可能會(huì)為文明劃上句號(hào)。持不同觀點(diǎn)有陳凡和程海東，他們站在馬克思主義視角認(rèn)為：“人工智能不可能獲得人一樣的主體性，其行為也不具備實(shí)踐性。因?yàn)橹黧w本質(zhì)是具有做出選擇和行為的自由，實(shí)踐是有計(jì)劃和目的的，而人工智能只能夠在既定規(guī)則的范圍內(nèi)行動(dòng)，不具備自由意志，也就不能成為真正的主體。”[2]機(jī)器人是否具有自我意識(shí)是爭(zhēng)議不斷的話題，《西部世界》選取這一熱門話題作為題材，講述機(jī)器人擁有自我意識(shí)后與人類之間的相處和矛盾，整個(gè)影片從沒有自我意識(shí)的機(jī)器人到有自我意識(shí)的機(jī)器人，擁有自我意識(shí)的機(jī)器人反抗人類，最后消滅創(chuàng)造者，解放機(jī)器人，解放人類，機(jī)器人和人類和平共處。

第二，敘事手法，影片從時(shí)間和空間兩大方面進(jìn)行敘事。時(shí)間上，按照雙線敘事，時(shí)間跨度長(zhǎng)達(dá)35年，從過去到現(xiàn)在，從年輕的威廉到年邁的威廉，帶觀眾來回穿梭在不同時(shí)間線內(nèi)，清晰地了解劇情的發(fā)展?？臻g上，從現(xiàn)實(shí)世界到虛擬世界再到現(xiàn)實(shí)世界，豐富了故事內(nèi)容和情節(jié)。

第三，影片引用了大量莎士比亞的經(jīng)典名句，“when we are born，we cry we are come to this great stage of f-f-fools.”“These violent delights have violent ends.”等豐富了影片的文化藝術(shù)色彩，使其充滿文化韻味。

第四，影片貼合現(xiàn)實(shí)生活。威廉建設(shè)的“熔爐”在西部世界中被稱作“榮耀之地”，又被稱作“世外山谷”，實(shí)際上是收集和研究客戶信息的匯集地，與當(dāng)今大數(shù)據(jù)時(shí)代相吻合。

第五，影片中出現(xiàn)“冥思”程序，冥思是指客觀存在反映在人的意識(shí)中經(jīng)過思維活動(dòng)而產(chǎn)生的結(jié)果。這是心理學(xué)中二分心智理論。因此公司管理人員給他們?cè)O(shè)定“冥思”程序，對(duì)每一個(gè)接待員的啟發(fā)都是不一樣的，為自我意識(shí)奠定基礎(chǔ)。

第六，影片兩大女主角強(qiáng)烈對(duì)比，德洛麗絲是為了自由，產(chǎn)生自我意識(shí)，并在最后為了人類自由和機(jī)器人自由選擇犧牲自己，而梅芙是為了尋找自己的女兒。梅芙的小愛和德洛麗絲的大愛形成對(duì)比，是個(gè)人利益和集體利益的對(duì)比。

影片中機(jī)器人自我意識(shí)覺醒反抗人類，存在某些疑問。如最后德洛麗絲的記憶是世間所有美好事物，而德洛麗絲的設(shè)定就是真善美。這不禁讓我們產(chǎn)生質(zhì)疑。德洛麗絲是否真的自我意識(shí)覺醒，為何自我意識(shí)覺醒后的德洛麗絲還是保持最初人類給她的設(shè)定;德洛麗絲前期的覺醒有無可能是人類設(shè)定的程序——覺醒程序，實(shí)際上德洛麗絲自我意識(shí)并沒有覺醒。

受人工智能影響，人是否會(huì)異化？人的異化是利是弊？2019年，浙江金華一小學(xué)，以通過頭環(huán)檢測(cè)學(xué)生腦電波，評(píng)判學(xué)生上課、寫作業(yè)是否集中注意力等方式監(jiān)控學(xué)生。消息一經(jīng)傳播，便引起大多數(shù)人的熱議：利用人工智能監(jiān)控學(xué)生的行為，是便于學(xué)生發(fā)展還是阻礙學(xué)生自由發(fā)展？夏少昂認(rèn)為：“人工智能技術(shù)的強(qiáng)化，不僅逾越了自然的限制，而且很有可能逾越人的限制，進(jìn)而成為主宰人、支配人、控制人的技術(shù)形式，將無法回應(yīng)人類社會(huì)發(fā)展的倫理訴求?！盵3]受人工智能束縛，人不再是“自由人”而是受枷鎖的人。人工智能時(shí)代的到來，人的異化是消極的、被動(dòng)的，被人工智能所控制。而余乃忠認(rèn)為：“人到智能人的實(shí)現(xiàn)也是一種人到非人的‘異化過程。資本主義的異化抑制人的發(fā)展，是消極被動(dòng)的;而人工智能的‘異化實(shí)現(xiàn)人的身體和精神的全面解放，是積極的和創(chuàng)造性的，體現(xiàn)了人的本質(zhì)力量?！盵4]馬克思的異化理論批判以往的哲學(xué)家們認(rèn)為他們把“人”的自我異化過程理解為歷史的動(dòng)力。他指出：“借助于這種從一開始就撇開現(xiàn)實(shí)條件的本末倒置的做法，他們就可以把整個(gè)歷史變成意識(shí)的發(fā)展過程了?！盵5]

三、人工智能是否具有自我意識(shí)及其對(duì)策

人工智能是否具有自我意識(shí)，在各個(gè)領(lǐng)域的專家和學(xué)者的激烈討論中并沒有一個(gè)確切的答案。孫偉平認(rèn)為：“隨著人工智能的突破性發(fā)展，‘機(jī)器人也會(huì)思維成為不爭(zhēng)的事實(shí)。而且，如同機(jī)械機(jī)器早已超過人的體力、速度和耐力一樣，機(jī)器思維完全可能超過人類思維能力，當(dāng)智能機(jī)器不僅在存儲(chǔ)（記憶）、運(yùn)算、傳輸?shù)确矫娉^人腦，而且在想象力、創(chuàng)造力、控制力以及情感的豐富度等方面也超過人時(shí)，它就會(huì)對(duì)人的思維本質(zhì)構(gòu)成實(shí)質(zhì)性的挑戰(zhàn)?！盵6]人工智能在某些功能方面超過人類是毋庸置疑的，2011年，機(jī)器人“沃森”戰(zhàn)勝人類。但機(jī)器人是否具有自我意識(shí)，有待商榷。從生產(chǎn)領(lǐng)域來看，以工業(yè)相機(jī)鏡頭代替人的眼睛，通過軟件和算法，對(duì)物進(jìn)行量化，處理圖像，搜集信息，從而對(duì)物進(jìn)行分類。從速度上看，機(jī)器人遠(yuǎn)遠(yuǎn)超過人類辨別速度，并且憑借超長(zhǎng)的耐力，不會(huì)因?yàn)閿?shù)量之多和工作之長(zhǎng)而感到疲倦。當(dāng)前，人工智能活躍在許多領(lǐng)域，未來，人工智能會(huì)不會(huì)完全取代人類？人工智能能擁有自我意識(shí)嗎？如若能，機(jī)器人擁有自我意識(shí)是否會(huì)和人類和諧共處？若機(jī)器人自我意識(shí)異化，控制人類，人類又該如何應(yīng)對(duì)？

人工智能的發(fā)展，利于社會(huì)進(jìn)步和人的全面發(fā)展。這種是機(jī)器人在擁有自我意識(shí)后，與人類和平共處的畫面。但存在另一種可能性，即機(jī)器人擁有自我意識(shí)異化，人工智能把人類控制，不再是為人服務(wù)。那現(xiàn)今我們研發(fā)人工智能還有何意義？筆者從情感、倫理、技術(shù)上分析機(jī)器人是否會(huì)具有自我意識(shí)，擁有自我意識(shí)的機(jī)器人有兩種可能性，其一，機(jī)器人自我意識(shí)沒有異化;其二，機(jī)器人自我意識(shí)異化后，人類該如何應(yīng)對(duì)？

（一）情感層面

人具有主體性，人的情感是自發(fā)自覺的，人的情緒變化是一種先天就有的。如嬰兒在出生時(shí)，會(huì)因?qū)χ苓叚h(huán)境不適應(yīng)而去哭泣，這是先天存在而不是通過教化形成。但目前機(jī)器人不具備這一情感，機(jī)器人所表達(dá)的情緒，首先通過人設(shè)定代碼，收集大量樣本，從而選擇出表達(dá)的情緒，這是一種被訓(xùn)練出來的情緒，不是自發(fā)自覺形成，不具有自發(fā)性。正如徐向東認(rèn)為：“人的一言一行在多數(shù)情況下都是由自我意識(shí)引導(dǎo)完成的，積極主動(dòng)，而機(jī)器所做的每一件事情都需要人事先制定好。”[7]

（二）倫理層面

1997年，克隆羊——多莉誕生?？寺⊙虻恼Q生表明同樣作為哺乳動(dòng)物的人類也可能被克隆。全球開始對(duì)未來克隆技術(shù)以及人工智能技術(shù)在社會(huì)倫理方面展開激烈爭(zhēng)議。目前機(jī)器人不具有自我意識(shí)，不具備破壞倫理的條件，反而可以推動(dòng)人類倫理道德發(fā)展。孫偉平說：“人工智能是倫理道德建設(shè)的‘助推器”。[8]智能家居以及智能教育通過在各個(gè)領(lǐng)域?qū)惱淼赖轮R(shí)的學(xué)習(xí)，在一定程度上，能有效地提高倫理道德水平。

（三）技術(shù)層面

人工智能就其本質(zhì)而言，是對(duì)人的思維進(jìn)行模擬。對(duì)人的思維的模擬可以通過兩條道路進(jìn)行：一是結(jié)構(gòu)模擬，仿照人腦的內(nèi)在結(jié)構(gòu)，制造出“類人腦”的機(jī)器;二是通過功能模擬，撇開人腦的內(nèi)部結(jié)構(gòu)，而從其功能進(jìn)程進(jìn)行模仿。[9]目前，人工智能只是對(duì)人的功能進(jìn)行模擬。在某些功能上超越人類。未來機(jī)器人是否會(huì)具有自我意識(shí)還是未知數(shù)。如若機(jī)器人擁有自我意識(shí)后，如何與人類共處？

1.互不傷害

機(jī)器人未來在眾多領(lǐng)域超過人類，那保證人類生命安全是首要前提。正是由于人類在西部世界肆無忌憚地傷害機(jī)器人，機(jī)器人才會(huì)在自我意識(shí)覺醒時(shí)，回到現(xiàn)實(shí)世界反過來傷害人類。如果人類不傷害機(jī)器人，給予機(jī)器人的都是世間美好的一面，機(jī)器人同樣不會(huì)傷害人類。

2.取長(zhǎng)補(bǔ)短

機(jī)器人在存儲(chǔ)、運(yùn)算、記憶等能力上超過人類，但在處理情感方面，機(jī)器人不如人類。在未來工作領(lǐng)域中，人類和機(jī)器人應(yīng)各自發(fā)揮所長(zhǎng)，取長(zhǎng)補(bǔ)短。機(jī)器人的精確操作能力可以從事生產(chǎn)行業(yè)，進(jìn)行大規(guī)模生產(chǎn)活動(dòng)。機(jī)器人的強(qiáng)悍分析歸納總結(jié)能力，可以從事分析師工作，對(duì)大量數(shù)據(jù)進(jìn)行快速的收集、整理、分析、歸納，得出可靠的結(jié)論。機(jī)器人的機(jī)器結(jié)構(gòu)的修復(fù)能力以及應(yīng)變能力，也可以從事高風(fēng)險(xiǎn)工作，降低工作的風(fēng)險(xiǎn)程度以及快速修復(fù)，減少人員傷亡。

3.發(fā)揮人的主體性和能動(dòng)性，積極看待科學(xué)技術(shù)發(fā)展

在科學(xué)技術(shù)迅猛發(fā)展的時(shí)代，各個(gè)國家以科學(xué)技術(shù)作為是否是先進(jìn)國家的標(biāo)準(zhǔn)，人工智能的發(fā)展是科學(xué)技術(shù)發(fā)展的必然趨勢(shì)。我們?nèi)绾稳ダ煤盟?，向前發(fā)展，這是值得認(rèn)真思考的問題。

參考文獻(xiàn)：

[1][5]馬克思，恩格斯.馬克思恩格斯選集（第1卷）[M].北京：人民出版社，2012：152，211.

[2]陳凡，程海東.人工智能的馬克思主義審視[ J ].思想理論教育，2017（11）：17-22.

[3]夏少昂.人工智能倫理問題的時(shí)代鏡像與調(diào)適[N].中國社會(huì)科學(xué)報(bào)，2019-12-03（002）.

[4]余乃忠.積極的“異化”：人工智能時(shí)代的“人的本質(zhì)力量”[ J ].南京社會(huì)科學(xué)，2018（05）：53-57.

[6]孫偉平.關(guān)于人工智能的價(jià)值反思[ J ].哲學(xué)研究，2017（10）：120-126.

[7]徐向東.聯(lián)結(jié)主義、排除主義與思想的構(gòu)成性[ J ].自然辯證法通訊，1994：5.

[8]孫偉平.人工智能是倫理道德建設(shè)的“助推器”[ J ].特區(qū)實(shí)踐與理論，2019（4）：98-101.

[9]李秀林，王于，李淮春.辯證唯物主義和歷史唯物主義原理（第五版）[M].北京：人民出版社，2020：54.