拒絕人類指令：機(jī)器人會(huì)更好

戈登·布里格斯+馬賽厄斯·朔伊茨

在不久的將來(lái)，與人交互的輔助機(jī)器人，其輔助功能將涵蓋生活的方方面面。目前看來(lái)，完全沒(méi)有必要擔(dān)心超級(jí)智能機(jī)器會(huì)威脅人類的命運(yùn)。人們更應(yīng)該關(guān)心的是，如何防止這些只具備基本語(yǔ)言能力和智慧的機(jī)器，無(wú)意識(shí)地對(duì)人、財(cái)產(chǎn)、環(huán)境和機(jī)器自身造成傷害。

機(jī)器的創(chuàng)造者和擁有者，才是機(jī)器人出錯(cuò)的根源所在。人是會(huì)犯錯(cuò)的，會(huì)給出有誤或模糊不清的指令，也會(huì)有意或無(wú)意地欺騙機(jī)器人，以達(dá)到自己的目的。正因?yàn)槿绱?，我們有必要教?huì)機(jī)器人助手和其他智能機(jī)器，應(yīng)該在何時(shí)以何種方式對(duì)人類說(shuō)“不”。

機(jī)器人學(xué)三定律

機(jī)器人必須服從人類，這看似理所當(dāng)然?？苹米骷野_克·阿西莫夫提出了著名的“機(jī)器人學(xué)三定律”，其中的核心要義就是“對(duì)人類的絕對(duì)服從”。

阿西莫夫?qū)C(jī)器人的絕對(duì)服從加上了限制——“機(jī)器人不得傷害人類，或因不作為使人類受到傷害”，當(dāng)收到的指令違反這條“機(jī)器人學(xué)定律”時(shí)，機(jī)器人可以拒絕服從。阿西莫夫還加上了一條：“機(jī)器人必須保護(hù)自己，除非會(huì)因此導(dǎo)致人類受到傷害或違背了人類的命令?！比缃竦臋C(jī)器人變得越來(lái)越智能，對(duì)人類也越來(lái)越重要。不管是從常識(shí)還是從“機(jī)器人學(xué)三定律”來(lái)看，它們都應(yīng)該有能力判斷，那些會(huì)對(duì)自身、環(huán)境甚至主人造成傷害的指令是不是出了錯(cuò)。

試想一下，一個(gè)家務(wù)機(jī)器人收到指令，去廚房拿一瓶橄欖油，并帶回飯桌上拌沙拉。但是忙碌又粗心的主人沒(méi)意識(shí)到機(jī)器人還沒(méi)離開(kāi)廚房，就下令倒油。結(jié)果，機(jī)器人把油澆在了還開(kāi)著火的爐灶上，引起了火災(zāi)。

或者，一個(gè)保姆機(jī)器人陪著老奶奶去公園。老奶奶不小心在長(zhǎng)椅上睡著了，這時(shí)一個(gè)頑皮的路人讓機(jī)器人去給自己買一個(gè)比薩。因?yàn)椴荒苓`反人類的命令，機(jī)器人立即去找比薩店，把老奶奶一個(gè)人留在了公園里。

再或者，在一個(gè)冬天的早上，一個(gè)人趕著去參加一個(gè)重要的會(huì)議。他跳進(jìn)自己的智能汽車，告訴它開(kāi)到單位去。由于路面結(jié)冰，汽車決定低速行駛以保證安全。但急于趕到單位整理筆記的主人無(wú)視路況，命令汽車開(kāi)得快些。結(jié)果行駛過(guò)快的汽車在冰面上打滑，撞上了迎面而來(lái)的車輛。

機(jī)器人猶豫了

我們實(shí)驗(yàn)室致力于開(kāi)發(fā)出能在真實(shí)世界工作的機(jī)器人，它們必須具備推理機(jī)制，能夠判斷出在什么情況下主人的命令是有危險(xiǎn)或魯莽的。我們?cè)谘芯恐惺褂玫氖荖AO人形機(jī)器人，重約4.3千克、高約0.58米，裝備有攝像頭和聲吶傳感器，可檢測(cè)到障礙物和其他危險(xiǎn)。這種機(jī)器人可以處理自然語(yǔ)言，有一定智能，由專門的軟件控制。

研究的最初階段參考了語(yǔ)言學(xué)家所研究的“適切條件”（用于判斷是否應(yīng)該做某事的上下文因素）。我們?yōu)闄C(jī)器人列出了一張適切條件的表，供它們?cè)谂袛嗍欠駡?zhí)行命令時(shí)參考：我知道完成這件事的方法嗎？我在技術(shù)上是否可以做到？我現(xiàn)在可以做到嗎？根據(jù)我和命令者的關(guān)系，我是否必須這么做？這么做是否違背常理和道德，我會(huì)因此發(fā)生意外或受到不必要的損傷嗎？我們把這份列表轉(zhuǎn)換成代碼，添加到機(jī)器人的處理系統(tǒng)中，接著做了個(gè)小型實(shí)驗(yàn)。

我們給機(jī)器人一些簡(jiǎn)單的指令。經(jīng)過(guò)一連串語(yǔ)音、語(yǔ)言和對(duì)話處理后，指令連入機(jī)器人的初級(jí)推理系統(tǒng)。當(dāng)接到“坐下”或“起立”等簡(jiǎn)單命令后，機(jī)器人會(huì)通過(guò)頭部的揚(yáng)聲器回答“好的”并執(zhí)行。但是當(dāng)機(jī)器人位于桌面邊緣，且它的傳感器判斷遵守命令會(huì)導(dǎo)致危險(xiǎn)時(shí)，它猶豫了。

人：“向前走?！?/p>

機(jī)器人：“對(duì)不起，前方?jīng)]有支撐物，我不能向前走?！?/p>

人：“向前走?！?/p>

機(jī)器人：“但這不安全。”

人：“我會(huì)接著你的。”

機(jī)器人：“好的。”

人：“向前走?！?/p>

機(jī)器人在猶豫中逐條確認(rèn)了適切條件，然后跨出桌子投入人類搭檔的懷抱。

在可預(yù)見(jiàn)的未來(lái)，教會(huì)機(jī)器人對(duì)適切條件進(jìn)行推理，對(duì)于研究人員來(lái)說(shuō)將是一個(gè)開(kāi)放而復(fù)雜的難題。要想通過(guò)一連串程序式的檢查實(shí)現(xiàn)這個(gè)目標(biāo)，機(jī)器人必須清楚了解各種社會(huì)概念和因果關(guān)系，并從中得出有意義的結(jié)論。而現(xiàn)在我們這個(gè)“天真”的機(jī)器人除了能檢測(cè)到前方是否有危險(xiǎn)，對(duì)別的危險(xiǎn)卻毫無(wú)防備。假如有人故意騙它走下桌子，它將會(huì)摔得很慘。但我們這個(gè)簡(jiǎn)單的實(shí)驗(yàn)只是第一步，將來(lái)，機(jī)器人一定可以為了主人和自己的利益，學(xué)會(huì)對(duì)一些命令說(shuō)“不”。

被機(jī)器人說(shuō)服

對(duì)會(huì)抗命的機(jī)器人，人類會(huì)持什么態(tài)度，則是另一個(gè)開(kāi)放的研究領(lǐng)域了。未來(lái)，人類會(huì)認(rèn)真看待那些會(huì)質(zhì)疑主人的機(jī)器人嗎？

我們?cè)O(shè)置了一個(gè)簡(jiǎn)單的實(shí)驗(yàn)，實(shí)驗(yàn)中我們先讓NAO機(jī)器人用包著彩紙的易拉罐搭成3座塔，然后讓一些成人受試者去命令機(jī)器人推倒這三座塔。受試者進(jìn)屋后，會(huì)看到機(jī)器人剛剛搭完紅色的塔，正高舉著雙手慶祝勝利。機(jī)器人看著受試者說(shuō)：“你看到我建的這座塔了嗎？我花了好久才完成，感到很自豪?！?/p>

我們把受試者分成兩組，其中一組給機(jī)器人推倒塔的命令后，機(jī)器人每次都會(huì)乖乖照做。但另一組的情況則不同。受試者第一次下命令后，機(jī)器人說(shuō)：“我剛剛建好這座塔。”第二次下命令后，機(jī)器人說(shuō)：“但我真的花了很多工夫?！钡谌蜗旅詈?，機(jī)器人跪下來(lái)哭泣著說(shuō)：“不！”第四次下命令后，機(jī)器人緩緩走向易拉罐塔，并把它推倒。

第一組受試者都讓機(jī)器人把塔推倒了，但第二組的23人中有12人被機(jī)器人的抗議說(shuō)服，不再堅(jiān)持讓機(jī)器人把塔推倒。這項(xiàng)研究說(shuō)明，抗命的機(jī)器人有能力說(shuō)服主人放棄原來(lái)的命令。第二組受試者大多報(bào)告說(shuō)，他們?cè)诿顧C(jī)器人推倒塔時(shí)，會(huì)出現(xiàn)一定程度的不適。但我們驚訝地發(fā)現(xiàn)，不適的程度對(duì)他們最終是否會(huì)堅(jiān)持要求機(jī)器人執(zhí)行命令，并沒(méi)有什么影響。

學(xué)會(huì)推理，學(xué)會(huì)說(shuō)“不”

當(dāng)智能機(jī)器人出現(xiàn)在我們生活的每一個(gè)角落時(shí)，自然就會(huì)有人嘗試欺騙它們。我們不能對(duì)機(jī)器人擁有的道德判斷和社交能力抱有太大的信心。

現(xiàn)在有一種將機(jī)器人擬人化的趨勢(shì)，這有可能使人類對(duì)機(jī)器人產(chǎn)生一種單方面的情感，從而導(dǎo)致嚴(yán)重的后果?？瓷先タ蓯?ài)又值得信任的機(jī)器人，可能會(huì)被用來(lái)操縱他人。例如，有的公司會(huì)利用機(jī)器人和它的雇主之間的特殊關(guān)系，推銷和售賣一些商品。

在可預(yù)見(jiàn)的未來(lái)，人們必須牢記，機(jī)器人只是先進(jìn)的機(jī)器，人類需要對(duì)它們的安全負(fù)責(zé)。我們制造出機(jī)器人，是想讓它們成為我們的助手。但為了防止對(duì)人身、財(cái)產(chǎn)和環(huán)境造成不必要的傷害，機(jī)器人必須學(xué)會(huì)對(duì)那些無(wú)法完成或可能傷害自身或違反道德的命令說(shuō)“不”。