走不出的機(jī)器人困境

機(jī)器人是科幻小說(shuō)中的一大主角。如果想要讓你的科幻小說(shuō)科幻感更強(qiáng)，那就多設(shè)計(jì)幾個(gè)機(jī)器人。當(dāng)“人造人”出現(xiàn)后，各種問(wèn)題也就接踵而至。你該如何面對(duì)這些機(jī)器人，是奴役它，是提防它，是愛(ài)惜它，還是愿意和它結(jié)婚生子？

他創(chuàng)造出“機(jī)器人”一詞

其實(shí)早在中國(guó)先秦時(shí)期的典籍《列子》中，就有了機(jī)器人的故事了。

《列子·湯問(wèn)》記載偃師是古代傳奇中最神奇的機(jī)械工程師，他曾獻(xiàn)給周穆王一個(gè)偶人。偃師造出的偶人和常人的外貌極為酷肖，周穆王一開(kāi)始還以為只是偃師的隨行之人，經(jīng)過(guò)偃師的解說(shuō)，才讓這位神性極強(qiáng)的名王也驚奇萬(wàn)分。那偶人前進(jìn)、后退、前俯、后仰，動(dòng)作和真人無(wú)一不像，掰動(dòng)下巴，則能夠曼聲而歌，調(diào)動(dòng)手臂便會(huì)搖擺起舞，讓旁觀者驚奇萬(wàn)分，周穆王看得有趣過(guò)癮，還讓寵姬一起出來(lái)觀看。表演將畢，那偶人卻向周穆王的寵姬拋了拋媚眼，讓周穆王勃然大怒，一心認(rèn)定這個(gè)靈活宛似活人的家伙本就是個(gè)不折不扣的真人，便要將偃師當(dāng)場(chǎng)處決。偃師卻將偶人立刻拆開(kāi)，發(fā)現(xiàn)它只是由皮革、木頭、膠漆、黑白紅藍(lán)顏料組成的死物。周穆王趨前細(xì)看，偶人的內(nèi)部器官俱有，外邊則是筋骨、關(guān)節(jié)、皮毛、牙齒、頭發(fā)一應(yīng)俱全，但卻都是假物，一經(jīng)組合，卻又是一個(gè)活生生的偶人，將偶人的心拆走，偶人便無(wú)法說(shuō)話，拆走肝則眼目皆盲，將它的腎拆走，就無(wú)法走路。最后，才讓周穆王心悅誠(chéng)服，大嘆偃師技法的高超。

這個(gè)故事中的偶人，比現(xiàn)實(shí)中我們能看到的已經(jīng)生產(chǎn)出來(lái)的機(jī)器人，有過(guò)之而無(wú)不及，想來(lái)應(yīng)該是作者虛構(gòu)出來(lái)的。否則難以想象，在2000多年前的中國(guó)，會(huì)有這樣的科技水平。

這樣的科幻小說(shuō)在中國(guó)后來(lái)就絕跡了，在近代西方卻大放異彩。現(xiàn)在我們熟知的機(jī)器人一詞，是捷克作家卡雷爾·恰佩克創(chuàng)造出來(lái)的。1920年，恰佩克發(fā)表了科幻劇本《羅素姆萬(wàn)能機(jī)器人》。在這部劇本中，恰佩克把捷克語(yǔ)“Robota”寫成了“Robot”，創(chuàng)造了一個(gè)全新的詞語(yǔ)，而“Robota”在捷克語(yǔ)中是奴隸、苦力的意思。劇本中一位名叫羅素姆的哲學(xué)家研制出一種機(jī)器人，被資本家大批制造來(lái)充當(dāng)勞動(dòng)力。這些大批制造的機(jī)器人外貌與人類相差無(wú)幾，并可以自行思考，然而一場(chǎng)機(jī)器人滅絕人類的叛變計(jì)劃正在進(jìn)行……

也就是說(shuō)，在100多年前恰佩克創(chuàng)造出機(jī)器人（Robot）這一詞的時(shí)候，他就在擔(dān)憂機(jī)器人一旦有了情感，他們可能會(huì)起來(lái)造反，對(duì)人類社會(huì)產(chǎn)生悲劇性影響，而那時(shí)候，世界上甚至還沒(méi)有一個(gè)人見(jiàn)到過(guò)機(jī)器人長(zhǎng)什么樣。顯然，此時(shí)的恰佩克，擔(dān)心與其說(shuō)是機(jī)器人，更多的可能是機(jī)器。一戰(zhàn)造成的巨大破壞令世人震驚，當(dāng)時(shí)的知識(shí)分子幾乎都在反思，這到底是道德的淪喪，還是機(jī)器的扭曲？在坦克和馬克沁機(jī)槍面前，人類是多么的脆弱，一旦這些機(jī)器站到人類的對(duì)立面，統(tǒng)治了世界，人類的結(jié)局只有毀滅。這恐怕才是都沒(méi)見(jiàn)過(guò)機(jī)器人的恰佩克會(huì)寫這個(gè)劇本的緣由所在。

在這部腦洞大開(kāi)的作品中，恰佩克甚至設(shè)想，最終，毀滅了人類的機(jī)器人相愛(ài)了，然后又進(jìn)化為人類。如果是這樣的話，進(jìn)化為人類的機(jī)器人，到底是機(jī)器人，還是人類呢？

機(jī)器人三原則

1942年3月號(hào)的《驚奇》雜志上，著名科幻作家阿西莫夫發(fā)表了短篇小說(shuō)《轉(zhuǎn)圈圈》，首次提出了“機(jī)器人三原則”。之后，他在1950年出版的小說(shuō)集《我，機(jī)器人》中系統(tǒng)闡述了這三原則：

1.機(jī)器人必須不傷害人類，也不允許它見(jiàn)人類將受到傷害而袖手旁觀；

2.機(jī)器人必須服從人類的命令，除非人類的命令與第一條相違背；

3.機(jī)器人必須保護(hù)自身不受傷害，除非這與上述兩條相違背。

首先，他強(qiáng)調(diào)了“機(jī)器人必須不傷害人類”的大原則，但問(wèn)題在于，他還提出了兩個(gè)“除非”。兩國(guó)軍隊(duì)交鋒時(shí)，一國(guó)對(duì)另一國(guó)的軍隊(duì)使用機(jī)器人，請(qǐng)問(wèn)是否違背了“機(jī)器人三原則”呢？人類是一個(gè)抽象的詞語(yǔ)，一旦具體化，每一個(gè)人都有個(gè)性、脾氣、好惡，人與人之間自然會(huì)有矛盾，國(guó)家與國(guó)家之間當(dāng)然也會(huì)有沖突，此時(shí)，機(jī)器人應(yīng)該站什么樣的立場(chǎng)？

既然“不允許它見(jiàn)人類將受到傷害而袖手旁觀”，那么當(dāng)人類與人類自相殘殺時(shí)，機(jī)器人是否能作壁上觀呢？

更何況第二條已經(jīng)規(guī)定了，“機(jī)器人必須服從人類的命令”，如果某國(guó)軍事首腦命令機(jī)器人殺戮另一國(guó)的人類，那么機(jī)器人當(dāng)做何選擇？難道它還能抗令不尊不成？三原則的前兩條難道不是矛盾的嗎？

可是如果它們一旦擁有了人類才能擁有的理性，它們是否就能取代人類呢？它們是不是會(huì)反過(guò)來(lái)奴役人類呢？這些問(wèn)題一直困擾著科幻小說(shuō)家，令他們創(chuàng)作出一個(gè)又一個(gè)作品，幻想著其中的無(wú)限可能性。

更離譜的就是第三條，什么叫“機(jī)器人必須保護(hù)自身不受傷害，除非這與上述兩條相違背”？阿西莫夫的本意很顯然，是在不傷害人類的大前提下談這個(gè)第三原則的。但問(wèn)題在于，這世界上，如果不是人類來(lái)傷害機(jī)器人，還有誰(shuí)能傷害機(jī)器人呢？外星人嗎？如果人類傷害了機(jī)器人，難道它就乖乖地束手就擒？

實(shí)際上，阿西莫夫本人也意識(shí)到了這個(gè)問(wèn)題，他在小說(shuō)《可以避免的沖突》中設(shè)想出現(xiàn)這樣的情況：機(jī)器人為了避免人類彼此傷害，便限制人類的行為，轉(zhuǎn)由機(jī)器人掌控一切。這難道就是他提出“機(jī)器人三原則”最終想要的結(jié)果？也就是在處處保護(hù)人類、限制機(jī)器人的條件下，機(jī)器人居然依舊能逆勢(shì)而為，統(tǒng)治了世界，這是不是更可怕？

如果我們假想機(jī)器人和人一樣是有感情的，那么情況還會(huì)復(fù)雜得多。在萊斯特·雷伊的科幻小說(shuō)《海倫·奧勒》中，人和機(jī)器人就墜入情網(wǎng)，并最終成婚。一旦機(jī)器人不僅有了七情六欲，并且能像人類一樣懷孕生子，那么它還能稱之為機(jī)器人嗎？

阿西莫夫在小說(shuō)《兩百歲的人》中寫機(jī)器人安德魯為了成為真正的人，逐步將自己的機(jī)械零件替換成活體器官，終于在兩百歲生日的彌留之際，以死亡的代價(jià)獲得了人類的承認(rèn)。一個(gè)全部由人類器官構(gòu)成的機(jī)器人還是不是機(jī)器人？死亡了才獲得承認(rèn)又有什么意義？這就是阿西莫夫提出的引人思索的問(wèn)題。

“科幻小說(shuō)”這個(gè)術(shù)語(yǔ)有兩層意思，一是“科學(xué)”，二是“幻想”，因?yàn)橛谢孟氲囊幻?，探討起?lái)自然是建立在很多假想的前提下的，這樣的討論往往具有一定的前瞻性，卻又缺乏對(duì)現(xiàn)實(shí)的諸多關(guān)照，這是它的兩難困境。

人類與機(jī)器人的倫理

1982年，《異形》的導(dǎo)演雷德利·斯科特拍攝了電影《銀翼殺手》，成為科幻電影的經(jīng)典。這部電影改編自菲利普·K·迪克的科幻小說(shuō)《仿生人會(huì)夢(mèng)見(jiàn)電子羊嗎？》，菲利普·K·迪克是美國(guó)科幻文學(xué)界的傳奇人物，曾獲得雨果獎(jiǎng)和坎貝爾獎(jiǎng)，除了《銀翼殺手》，他的另一部作品也非常出名，那就是《少數(shù)派報(bào)告》。

《仿生人會(huì)夢(mèng)見(jiàn)電子羊嗎？》是菲利普·迪克最負(fù)盛名的作品，小說(shuō)描述了從一天早晨到第二天早晨的二十多個(gè)小時(shí)，主人公里克·德卡德為了賞金追殺幾個(gè)仿生人的過(guò)程，歷經(jīng)無(wú)數(shù)變故，狗血共桃花一色，陰謀與暴力齊飛。小說(shuō)里的人類受到地球輻射塵的影響，相貌丑陋，很多在心智上都發(fā)生了退化，而仿生人卻外表堂堂，多才多藝。當(dāng)仿生人在外表和心智上無(wú)限逼近人類，甚至表面上已經(jīng)超越人類時(shí)，人究竟何以為人？

當(dāng)機(jī)器人發(fā)展到仿生人的程度，那么它還是機(jī)器人嗎？和《兩百歲的人》中的機(jī)器人相比，仿生人更為極端，兩者幾乎沒(méi)有什么區(qū)別。正如美國(guó)科幻作家金·斯坦利·羅賓遜索說(shuō)的：“《仿生人會(huì)夢(mèng)見(jiàn)電子羊嗎？》指出，機(jī)器人也有直覺(jué)。它們不只是可以飛快運(yùn)算的機(jī)器，它們也會(huì)思考、睡覺(jué)和做夢(mèng)。由此引發(fā)了一個(gè)更大的問(wèn)題：什么才是人的特質(zhì)？”

什么是人？這才是這部小說(shuō)真正要討論的問(wèn)題。正因?yàn)檫@個(gè)問(wèn)題太過(guò)深邃，經(jīng)過(guò)復(fù)雜的討論，也不可能一勞永逸地得出一個(gè)非此即彼的答案。

在眾多科幻小說(shuō)中，都討論了類似的問(wèn)題。美國(guó)作家莫爾在《并非生為女人》中，描述舞蹈家黛德麗死后，其思想意識(shí)和部分肌體被移植在機(jī)器人上，最終成為一個(gè)具有獨(dú)立人格和豐富感情的“女人”。這就是“未來(lái)的夏娃”嗎？人類與機(jī)器人的倫理問(wèn)題錯(cuò)綜復(fù)雜，關(guān)鍵問(wèn)題就在于，人形機(jī)器人擁有與人類理性的體型容貌，卻是由機(jī)械——而非血肉——構(gòu)成。正因?yàn)樗鼈內(nèi)狈θ祟惖那楦信c思維，它們只能是機(jī)器人，可是如果它們一旦擁有了人類才能擁有的理性，它們是否就能取代人類呢？它們是不是會(huì)反過(guò)來(lái)奴役人類呢？這些問(wèn)題一直困擾著科幻小說(shuō)家，令他們創(chuàng)作出一個(gè)又一個(gè)作品，幻想著其中的無(wú)限可能性。