你真的了解“機(jī)器人三定律”嗎？

魏然，九三學(xué)社社員，本碩畢業(yè)于北京大學(xué)，擁有多學(xué)科領(lǐng)域?qū)W位計(jì)22個(gè)。自2014年起，于北大附中高中部開設(shè)科幻文學(xué)概論、科幻影視概論等科幻系列課程。其中科幻文學(xué)概論是大陸地區(qū)公立高中正式開設(shè)的首門科幻文學(xué)通識課程，該課程設(shè)計(jì)及教學(xué)實(shí)踐的相關(guān)成果曾獲北京市基礎(chǔ)教育科學(xué)研究優(yōu)秀論文一等獎。曾擔(dān)任中國科普作家協(xié)會科普科幻教育講師團(tuán)成員、科普科幻青年之星計(jì)劃評委，全球華語科幻星云獎（大眾）評委，北京高?？苹弥R競賽命題人，有多篇作品發(fā)表于《科幻應(yīng)該這樣教》《中國教師報(bào)》《科普時(shí)報(bào)》《深圳商報(bào)》等。

喜歡科幻的同學(xué)可能都看過阿西莫夫的機(jī)器人故事，并對“機(jī)器人三定律”印象深刻。

“機(jī)器人三定律”是阿西莫夫構(gòu)想出的一套法則，距今已有差不多八十年的歷史了。按照他的設(shè)想，“三定律”作為所有機(jī)器人最底層的邏輯基礎(chǔ)，在機(jī)器人力量超過人的時(shí)候，依然能保證人類的安全和主體地位。自那以后，“三定律”被越來越多的人引用，并創(chuàng)作了大量的科幻故事。

那么，“三定律”是否已經(jīng)走出故事，來到現(xiàn)實(shí)了呢？

當(dāng)今世界，機(jī)器人的發(fā)展日新月異，在自動操控、邏輯運(yùn)算等領(lǐng)域都遠(yuǎn)遠(yuǎn)超越了人的能力。但關(guān)于引入“三定律”，科學(xué)家還沒能給出滿意的答案。通常認(rèn)為，最大的困難在于概念的理解與轉(zhuǎn)換。“三定律”使用的是人類的自然語言，而機(jī)器人本質(zhì)上只能理解由0和l組成的二進(jìn)制語言。如何把一個(gè)人類概念準(zhǔn)確轉(zhuǎn)化成機(jī)器人也能理解的內(nèi)容，是一件非常困難的事。

例如第一定律中的“傷害”應(yīng)如何定義呢？用刀切開人的皮膚，想必一定是傷害了——但這樣的話，會做手術(shù)的機(jī)器人醫(yī)生就違反了第一定律。再如“危險(xiǎn)”也是很難界定的，如果把危險(xiǎn)視為“存在死亡或受傷可能”的話，大概所有的極限運(yùn)動都會因?yàn)闄C(jī)器人的阻攔而無法開展，冬奧會或?qū)⒅皇Ｏ卤鶋匾粋€(gè)項(xiàng)目。

類似的，“命令”“目睹”“服從”“盡可能”等生活中司空見慣的詞匯，仔細(xì)想來，含義其實(shí)也很模糊，更別說如何將這些復(fù)雜的含義轉(zhuǎn)化成0和1，讓機(jī)器人理解并產(chǎn)生合理的反應(yīng)了。實(shí)際上，阿西莫夫的機(jī)器人題材作品，大都圍繞著“三定律”中的模糊地帶展開。他的短篇小說《環(huán)舞》涉及了第二和第三定律間的沖突與平衡，《第一定律》探討了第一定律前是否可能存在其他定律的問題?，F(xiàn)實(shí)中信息的不完備和歧義，與機(jī)器人理解世界所需的理想化條件之間也存在巨大的鴻溝。

一些作家和學(xué)者也意識到了這些問題，開始為“三定律”“打補(bǔ)丁”。有人修改了阿西莫夫的“三定律”，例如去掉第一定律中含義模糊的后半句。有人提出了不同版本的第四定律，如：機(jī)器人必須明確自身的機(jī)器人身份、機(jī)器人之間應(yīng)以同類相待，甚至第五、第六定律。還有人干脆提出了全新版本的三定律或四定律，建立起截然不同的機(jī)器人定律體系。阿西莫夫自己也曾在作品中提出過第零定律，位于“三定律”之前：

第零定律：機(jī)器人不得傷害人類整體，或者目睹人類整體面臨危險(xiǎn)而袖手旁觀。

但這些補(bǔ)充定律，并沒有真正解決以上問題，只是在為這些機(jī)器人故事提供獨(dú)特背景的同時(shí)，進(jìn)一步思考人與機(jī)器人之間的關(guān)系。因此，截止到目前的科學(xué)研究與機(jī)器人工程中，以上一系列“機(jī)器人定律”只能停留在故事里，在現(xiàn)實(shí)中既沒法實(shí)現(xiàn)，又難以推廣。

與此同時(shí)，機(jī)器人生產(chǎn)門檻的降低也讓“機(jī)器人定律”成為空中樓閣?！皺C(jī)器人定律”的存在依賴于一個(gè)前提，即“所有機(jī)器人都必須滿足‘機(jī)器人定律’才能運(yùn)行”——只要還有機(jī)器人不受約束，就無法實(shí)現(xiàn)保護(hù)人類安全的目的。而現(xiàn)在，企業(yè)和個(gè)人都能自行設(shè)計(jì)和組裝機(jī)器人。不需要傳說中集成了“機(jī)器人定律”的神奇芯片，機(jī)器人就能正常工作，它們都是不受“機(jī)器人定律”約束的。

既然如此，作為機(jī)器人系列定律的代表，阿西莫夫的“三定律”為什么仍廣為流傳呢？“只能看不能用”的“機(jī)器人定律”還有什么意義呢？

首先，“三定律”讓我們有機(jī)會超前思考未來。正如《終結(jié)者》中被“天網(wǎng)”所毀滅的世界，如果機(jī)器人沒有任何限制地發(fā)展下去，“機(jī)器腦”的復(fù)雜度總有一天將超過人腦，彼時(shí)誰是主宰尚未可知。因此，盡管“三定律”在當(dāng)下難以被直接應(yīng)用，但至少提醒了人類，應(yīng)為那一天的到來做好準(zhǔn)備。

其次，“三定律”還讓我們擁有了無數(shù)有趣的作品和創(chuàng)新思維的空間。機(jī)器人的故事幾十年來長盛不衰，作為科幻母題之一，自有其生存之道。而創(chuàng)立自己的機(jī)器人定律體系，相當(dāng)于憑空構(gòu)建了一套幻想世界的骨架，更富挑戰(zhàn)性，同學(xué)們有興趣試試嗎？