虛幻與現(xiàn)實：大眾媒體中的機器人形象對機器人倫理學(xué)的啟示

摘 要 對于機器人倫理學(xué)研究，目前主要都集中于阿西莫夫提出的“機器人學(xué)三定律”，但大眾媒體中的機器人形象，不論是小說還是影視，已遠(yuǎn)遠(yuǎn)超出了“三定律”所能規(guī)范和解釋的范疇。相反，大眾媒體中機器人的各種創(chuàng)新，從某種意義上說，很可能為目前機器人倫理學(xué)研究開辟更大的戰(zhàn)場，提供更豐富的研究依據(jù)和展望。文章對大眾媒體，如小說、影視等，做了大致梳理，借此為機器人倫理學(xué)研究提出新的切入點。

關(guān)鍵詞 機器人倫理學(xué)；“機器人學(xué)三定律”；科幻小說；科幻影片；大眾媒體

中圖分類號 G2 文獻(xiàn)標(biāo)識碼 A 文章編號 1674-6708（2019）235-0118-02

科幻作品對人類科技的推動是巨大的，其中“機器人（robot）”一詞，最早就是出現(xiàn)在文學(xué)作品中。這一詞匯誕生于荒誕劇，正式進(jìn)入英語后，便成為“機器人”的專用詞匯，機器人開發(fā)研究也隨之而來。隨著這一研究的不斷深入，科學(xué)界近年來提出了一個新的概念——機器人倫理學(xué)。作為一個專業(yè)術(shù)語的“機器人倫理學(xué)”首次由Gianmarco Veruggio提出。在他的觀念里，人類應(yīng)該在機器人引發(fā)各類危險前找出控制方法。

Veruggio認(rèn)為人類目前面臨的問題不是為一大群半智能類人機器人制定道德規(guī)范，而是那些功能遠(yuǎn)遠(yuǎn)超過人類水平的高級人工智能。在他看來，機器人、仿生人、模擬大腦什么的都無關(guān)緊要，一二十年之后將要面對的真正的大問題——為超級智能開發(fā)倫理道德[1]。

這一概念如同一顆驚雷，打破了原本的平靜，研究學(xué)者和研發(fā)專家就這一命題積極展開討論并進(jìn)行深入研究。

1 機器人倫理學(xué)發(fā)展

目前我國機器人倫理研究方面，一些學(xué)者表示，對于機器人倫理學(xué)，應(yīng)從“安全問題”“法律和倫理問題”以及“社會問題”三大問題域來提出機器人論理學(xué)[2]。還有一些學(xué)者提出，不同文化、意識形態(tài)背景下存在使用機器人的倫理標(biāo)準(zhǔn)也不盡相同[3]。但受制于目前科學(xué)技術(shù)水平，這些無異于紙上談兵，空有理論卻得不到實際證實。

與此同時，在現(xiàn)實操作中，我們發(fā)現(xiàn)人工智能在我們的生活中日益增多，不斷觸發(fā)各種倫理問題。例如，新京報在2013年5月刊登了一篇題為“聯(lián)合國討論封殺‘殺人機器人”的文章。文中提到，聯(lián)合國人權(quán)理事會特別調(diào)查員克里斯多夫·海因斯強烈反對這一研發(fā)項目，要求立即終止“殺人機器人”的研發(fā)和應(yīng)用。但這簡直就是蜉蝣撼樹。大家都知道現(xiàn)代軍事科技的一大發(fā)展趨勢便是開發(fā)和應(yīng)用“殺人機器人”，這一研究一定程度上代表了一個國家軍事科技水平。

在這種情況下，應(yīng)用倫理學(xué)研究必須認(rèn)真對待機器人的道德倫理問題，這一研究也成為一個亟待開發(fā)的新領(lǐng)域。機器人倫理問題是一個涉及到多領(lǐng)域的交叉性學(xué)科，要開發(fā)研究該領(lǐng)域，不僅需要跨學(xué)科、多層次的人才，甚至需要聯(lián)合機器人進(jìn)行研究。

有研究學(xué)者從文學(xué)作品出發(fā)，對機器人倫理學(xué)研究提出了大膽的預(yù)測，認(rèn)為機器人倫理有可能帶領(lǐng)人類倫理走向新的高度。筆者在2013年發(fā)表一篇“科學(xué)小說的生命倫理探究”的文章，指出科學(xué)小說作者應(yīng)秉持科學(xué)態(tài)度，對人類社會的未來做出有依據(jù)的預(yù)測，并永于承擔(dān)相應(yīng)的責(zé)任[4]。美國學(xué)者Susan Leigh Anderson在其“Asimovs ‘three laws of robotics and machine metaethics”一文通過分析阿西莫夫的《活了兩百歲的人》，提出機器人或許可以自己發(fā)展自我倫理學(xué)，因為倫理學(xué)并不是某種可以用計算機演算的學(xué)科[5]。這兩篇研究論文都為研究者帶來了一個新的倫理學(xué)研究方向，即基于機器人科學(xué)小說的倫理學(xué)研究。

2 美國大眾媒體中的機器人倫理發(fā)展史

從20世紀(jì)30年代開始，隨著科學(xué)的迅速發(fā)展，有關(guān)機器人的科學(xué)小說數(shù)量劇增，但大多都以鋼鐵類機器人為主題。其中貢獻(xiàn)最大的，非美國科幻小說作家艾薩克·阿西莫夫莫屬。

阿西莫夫與著名科幻編輯坎貝爾在20世紀(jì)40年代，認(rèn)為小說中機器人的“怪物”“惡魔”“毀滅者”的負(fù)面形象狀況應(yīng)得以改觀，兩人一同為機器人制定出一套基本的行為規(guī)范和道德準(zhǔn)則，試圖依靠這套標(biāo)準(zhǔn)使機器人成為人類的朋友和伙伴[6]。這套標(biāo)準(zhǔn)首先出現(xiàn)在阿西莫夫的小說《我，機器人》中，被命名為“機器人學(xué)三定律”：

第一定律：機器人不得傷害人類，也不得在人受到傷害時袖手旁觀；

第二定律：機器人必須服從人的命令，前提是不違反第一定律；

第三定律：機器人必須保護(hù)自己，前提是不違反第一、第二定律。

值得說明的是，這三定律并非完美無暇，作為補充，阿西莫夫在后續(xù)小說作品中又補充了“第零定律”，即機器人必須以人類的整體利益不受傷害為第一前提。只有在這一前提下，其它三條定律才能成立。在這一道德準(zhǔn)則指導(dǎo)下，阿西莫夫有關(guān)機器人的一系列科幻小說才得以面世。在他的筆下，機器人不是背叛人類、為害四方的惡魔，雖然這些機器人或多或少還是會受到各種心理問題的困擾，但他們一直是人類忠心耿耿的朋友和伙伴。在與人類的互動中，這些心理問題最終得到解決。而這正是阿西莫夫創(chuàng)作機器人系列小說故事情節(jié)的基礎(chǔ)。

假如阿西莫夫小說的構(gòu)想全部能夠?qū)崿F(xiàn)，那些鋼鐵機器人真有可能永遠(yuǎn)陪伴人類、臣服于人類，也根本不會出現(xiàn)“機器人與人類為敵”的情況了。但是，這三條定律并非完美，對此的質(zhì)疑之聲不絕于耳。比如波蘭科學(xué)小說作家萊姆就曾提出：按西莫夫的“機器人學(xué)三定律”幾乎是不可能做到的，它對技術(shù)的要求極高。比如按西莫夫在“機器人學(xué)三定律”中提到“機器人不得傷害人類”，要做到這一條，就必須為機器人的大腦程序安裝一種保險裝置。而這種保險裝置的工作原理是基于統(tǒng)計學(xué)和概率學(xué)的計算的，也就是說只要一個機器人有萬分之一可能性會傷害人類，為了防止這種情況出現(xiàn)，必須給它配備超高保險系數(shù)的保險裝置，其結(jié)果只能是機器人變得呆滯[7]?？梢?，“三定律”并非是萬能的。

而科幻小說作家總是喜歡大膽幻想，不會受困于技術(shù)條件，他們創(chuàng)作的機器人智能越來越高，甚至超出了人類所能控制的范圍。蘇姍妮·范·魯尹的作品《我愛機器人》中，音樂天才機器人奎因因為在學(xué)校與人類孩子的接觸，而引發(fā)機器人對自身身份的思考。奧爾迪斯的短篇小說《月光掠影》中象征人類進(jìn)化的隊伍之中，人類卻越來越少，而越來越多的是機器。甚至喬治·奧威爾在其小說《1984》中就描寫到窮人所讀的書都是機器人寫的……文學(xué)創(chuàng)作中的機器人形象層出不窮，正邪難辨。他們不再是人類的仆從，他們具有思考寫作能力，具備獨立的機器人格，要求“機器人權(quán)”……“三定律”的倫理標(biāo)準(zhǔn)越來越難以應(yīng)付這些新狀況。

同時，隨著電影技術(shù)的發(fā)展，許多機器人形象被搬上了銀幕，更為直觀，也更加生動地展現(xiàn)給世人。比如阿西莫夫的小說《我，機器人》改編的電影《機械公敵》，影片中的機器人發(fā)生叛亂并試圖控制人類。由小說《機器人會夢見電綿羊嗎？》改編的影片《銀翼殺手》，這里不僅有與人類一般無二的機器人，甚至還出現(xiàn)了人類與機器人之間的愛情。影片《機械紀(jì)元》則講述了機器人尋求自由的歷程。這些小說及影片中都涉及了統(tǒng)治與被統(tǒng)治、權(quán)利、愛情、自由等這些倫理主題。但如果僅僅展現(xiàn)這些故事情節(jié)，那你就低估了編劇和導(dǎo)演的眼光，他們試圖通過影片表面所傳達(dá)的故事，讓觀眾去體會更深層次的倫理問題，人類作為機器人創(chuàng)造者，該如何處理由科技發(fā)展而引發(fā)的倫理道德問題，從而讓科技更好地服務(wù)人類。詹姆斯·卡梅隆執(zhí)導(dǎo)的《終結(jié)者》系列電影是公認(rèn)的機器人影片的杰作，機器人正邪兩派之戰(zhàn)，在帶來極大的視覺沖擊的同時，也留下了巨大的思考空間——是非、正邪，本就是倫理道德之要素。這時的“機器人學(xué)三定律”已經(jīng)愛莫能助。按照之前的經(jīng)驗以及科學(xué)的發(fā)展，人工智能機器人、甚至類人機器人在不遠(yuǎn)的將來真的出現(xiàn)，是否應(yīng)該制定相應(yīng)的倫理學(xué)標(biāo)準(zhǔn)來制約機器人，或者說制約其研發(fā)人類，如何制定這一系列的標(biāo)準(zhǔn)和條列，就成了學(xué)者需要考慮的內(nèi)容。

3 大眾媒體對機器人倫理的啟發(fā)

鑒于對機器人倫理學(xué)研究困難之大，而確有學(xué)者借文學(xué)作品來研究倫理學(xué)，筆者在這里大膽提出一個建議：我們可以利用科學(xué)小說為實驗場所，正如阿西莫夫當(dāng)時的機器人學(xué)三定律，在小說中以科學(xué)為依據(jù)，發(fā)揮想象，提出可能的解決方法和策略。在所后的作品中對此加以改進(jìn)和完善。

機器人、類人機器人以及半機器人已成為當(dāng)今大眾文化的部分。書籍，乃是文化傳播最普遍和成本也較低的方式之一，最易為人們所接受；而電影產(chǎn)業(yè)具有全球性傳播影響力。Allmovie.com網(wǎng)站上搜索“機器人”得到的影片有百部有余，搜索“機器人和類人機器人”得到的影片超過400部。這里面有1958年的《機器人與阿茲特克木乃伊》，也有2014年的《機器紀(jì)元》。而boxofficemojo.com網(wǎng)站資料顯示，機器人電影也為電影公司帶來了相當(dāng)不錯的收益。這樣的成績無不對大眾產(chǎn)生了深遠(yuǎn)的影響力。

“人們對機器人的態(tài)度從根本上取決于對機器人的預(yù)判。由于大部分都沒有真正和機器人接觸過，他們對于機器人能力的認(rèn)知都是通過第三方渠道，比如科學(xué)小說和影視作品。人們將自己讀過小說或看過的電影中的故事情節(jié)當(dāng)作自我經(jīng)驗。”[8]因為不論是科學(xué)小說還是科幻影片都極力地塑造出一種“真實”。這一“真實性”，也是筆者認(rèn)為大眾媒體中的機器人可以成為機器人倫理學(xué)研究對象的主要依據(jù)。而在這種虛構(gòu)的“真實”之中，機器人的倫理道德取向和需求，也在一步步影響著機器人科技工作者的工作倫理，二者相輔相成，不可分割。

科幻作品中的機器人形象，是科幻作家們結(jié)合對科學(xué)技術(shù)合理的預(yù)測，大膽想象，并按照人類自身的形象創(chuàng)造出來的，滿足了人類自身“造物主”的想像。人類創(chuàng)造的機器人思考的速度更為敏捷，學(xué)習(xí)能力更強，身體各項機能遠(yuǎn)超人類……這樣的一個群里是否需要更為完善的道德規(guī)范來引領(lǐng)呢？答案當(dāng)然是肯定的，這就需要我們學(xué)者專家去開發(fā)。從某種意義上說，科幻作品中的機器人就是我們?nèi)祟惖倪M(jìn)化版，而對機器人倫理學(xué)的研究必將成為人類倫理學(xué)研究的一個重要方面。

參考文獻(xiàn)

[1]魏郎兒.為什么愛西莫夫的三定律救不了我們[N].科學(xué)人，2014-04-26.

[2]王紹源，崔文芊.國外機器人倫理學(xué)的興起及其問題域分析[J].未來與發(fā)展，2013（6）.

[3]王東浩.機器人論理問題探賾[J].未來與發(fā)展，2013（5）.

[4]魏蘭.科學(xué)小說的生命倫理探究[J].短篇小說（原創(chuàng)版），2013（2）.

[5]Susan Leigh Anderson. Asimovs “three laws of robotics” and machine metaethics[J]. AI & Soc（2008）22：477–493.

[6]黃祿善.美國通俗小說史[M].南京：譯林出版社，2003.

[7]星河.取代上帝和人類鏡像：科幻小說中的機器人題材[J].知識就是力量，2005.

[8]Ulrike Bruckenberger， Astrid Weiss， Nicole Mirnig. The Good， The Bad， The Weird： Audience Evaluation of a “Real” Robot in Relation to SF and Mass Media[J]. Lecture Notes in Computer Science （8239），2013.