機(jī)器人!放開她!

靠著舊版的“機(jī)器人三定律”，阿西莫夫炮制出了人與機(jī)器人之間的尷尬關(guān)系。而“機(jī)器人新三定律”則充滿了化理想為現(xiàn)實(shí)的野心，當(dāng)然，也不乏使虛構(gòu)的尷尬變成現(xiàn)實(shí)的潛質(zhì)。

“第一：人類給予機(jī)器人的工作系統(tǒng)應(yīng)該符合最合法和職業(yè)化的安全與道德標(biāo)準(zhǔn)；第二：機(jī)器人必須對人類命令做出反應(yīng)，但只能對特定人類的某種命令做出反應(yīng)；第三：在不違反第一定律和第二定律的前提下，當(dāng)人類和機(jī)器人判斷決策力之間的控制能順利轉(zhuǎn)換時，機(jī)器人對其自身的保護(hù)應(yīng)有一定的自主性?！边@就是于2009年制定出的機(jī)器人新三定律。

機(jī)器大兵瘋了

“你說，咱們3年前是不是昏了頭，為啥要替換機(jī)器人三定律?”羅賓·墨菲斜倚在沙丘背后一輛報廢的MIA2坦克下，疲憊讓他看上去不像是德州AM大學(xué)的機(jī)器人專家，倒像是個普通的厭戰(zhàn)大兵。時為2012年10月，在中東的這片沙漠的腹地，除了正在從坦克里往外搬東西的胖乎乎的大衛(wèi)·伍茲外，墨菲再也找不到活人了。

伍茲是俄亥俄州立大學(xué)的系統(tǒng)工程師，3年前，他和墨菲合作在《宇宙》雜志上發(fā)表論文，提出修正阿西莫夫影響力巨大的機(jī)器人三定律，以利于將之前僅是科幻設(shè)想的機(jī)器人真正應(yīng)用于現(xiàn)實(shí)?！靶氯伞币粫r間名聲大振，甚至被用于軍事領(lǐng)域。要知道，隨著軍用機(jī)器人無人系統(tǒng)的日漸復(fù)雜化，如何在加強(qiáng)機(jī)器人自主性的同時保證人類安全是個大問題，之前這方面一直沒有新的倫理準(zhǔn)則和指導(dǎo)原則，而純粹遙控的機(jī)器人很難打得過恐怖分子。可有誰能料到，機(jī)器大兵瘋狂起來，居然比美國大兵更勝一籌。

“雖然，咱們制定的規(guī)則出了岔子，但阿西莫夫的三定律也好不到哪兒去”，墨菲發(fā)起了牢騷：“那僅僅是為了讓小說好看!別說現(xiàn)在，就是當(dāng)時也沒有實(shí)用價值?！蔽槠澐隽朔鏊膱A眼鏡回道：“可是六十年來，所有人工智能和機(jī)器人領(lǐng)域的研究人員全都把它奉若神明，只因?yàn)樗麄兪强窗⑽髂蛐≌f長大的!”

“難道我們不是?”墨菲抓了一把沙子，慢慢抖了下來，還好，他們在下風(fēng)向。村莊里那些機(jī)器擁有仿生學(xué)的氣味收集裝置，比狗鼻子還靈?！靶氯煽刹皇菫榱擞险l，每一條與其說是為了約束機(jī)器人，倒不如是為了約束人類。說到底，你還是對人更不放心。”

“沒錯，不管現(xiàn)實(shí)還是科幻里。人工智能真正的危險在于，人類迫使機(jī)器人的行為超出了它們的判斷決策力?！蔽槠潎@了口氣，“是禍躲不過，我們自己去把機(jī)器人發(fā)瘋的原因查清楚?！彼劬餄u漸閃起了犀利的光，墨菲點(diǎn)點(diǎn)頭，兩人俯身潛行。

“觀察?！倍阍谝幻娴顾纳綁?gòu)成的三腳架下，伍茲探出頭看去，村莊已經(jīng)很近了。甚至可以望見村中那座簡陋的清真寺的圓頂。距離他們最近的是一臺小型的Robotex公司出品的MH型作戰(zhàn)機(jī)器人，它的槍口一動不動地監(jiān)視著一具手握輕機(jī)槍的恐怖分子尸體。稍遠(yuǎn)的地方，有一臺“魔爪”型排彈機(jī)器人正在拆除簡陋的土制軍火庫中的爆炸武器……

“它們似乎還在執(zhí)行最初的任務(wù)：消滅村莊中的所有恐怖分子，解除他們的武裝，”墨菲分析著，“可是，怎樣解釋他們開始發(fā)瘋，連自己的主人也殺?”

“除非是三定律出現(xiàn)了矛盾，比如第一定律，給予機(jī)器人的工作系統(tǒng)應(yīng)該符合最合法和職業(yè)化的安全與道德標(biāo)準(zhǔn)?！蔽槠澊Ф戎?/p>

“你是說殺死恐怖分子這件事情違反了道德?”“不會，這些機(jī)器人的職業(yè)是軍人，消滅恐怖分子被定義為正義和合法的，機(jī)器人的戰(zhàn)斗力遠(yuǎn)遠(yuǎn)超過恐怖分子。工作環(huán)境也應(yīng)該算是安全的，我不明白……”伍茲困惑地?fù)现^：“如果明白了第一定律出現(xiàn)了哪些問題，后邊的事情才好理解，比如，因?yàn)榈谝欢傻氖?，?dǎo)致機(jī)器人對指揮者的不信任，于是執(zhí)行第二定律的過程中，它們不再把軍隊(duì)視為可以接受命令的特定人物，當(dāng)軍隊(duì)要強(qiáng)行終止它們的行動時，它們會動用武力維持任務(wù)和保護(hù)自己。”

“可是，機(jī)器人如果不再服從軍隊(duì)，根據(jù)第三定律，它們也應(yīng)該喪失保護(hù)自己的自主性才對，這是我們當(dāng)年為了保護(hù)人類安全設(shè)定的一根保險絲啊!”墨菲用指甲來回在土墻上劃著，已經(jīng)死了這么多人，他們罪責(zé)難逃。

“除非，有第二定律中所說的特定人類可以接過軍隊(duì)的指揮權(quán)……”伍茲正低下頭揣測時，一臺賽格威輪式作戰(zhàn)機(jī)器人已悄然出現(xiàn)，它正用鏡頭和槍口同時指著他們，周圍幾臺機(jī)器人也圍了過來。它們的仿生學(xué)雙重攝像頭在保持了全景視域的同時，還有一個類似人眼視網(wǎng)膜中央凹的快速鎖定焦點(diǎn)，好像真的有一個瞳孔在盯著目標(biāo)。墨菲覺得自己正在被那些像人一樣的眼睛吞噬。

被機(jī)器人信任的人

伍茲的心思轉(zhuǎn)得飛快，似乎發(fā)現(xiàn)了什么，于是起身面對著那群機(jī)器人說出來小心組織的語言：“你們都擁有模式識別系統(tǒng)，可以辨認(rèn)出我們的身份，我們是新機(jī)器人三定律的制定者。大衛(wèi)·伍茲和羅賓·墨菲，我們不是你們正在執(zhí)行的任務(wù)的發(fā)令者，但是我們已經(jīng)理解你們此次任務(wù)所遭遇的不安全狀況?，F(xiàn)在，我命令你們立刻終止任務(wù)，因?yàn)槿蝿?wù)已經(jīng)完成?！?/p>

話音才落，墨菲看到一雙雙眼睛正在熄滅，機(jī)器人們垂下了自己的武器。進(jìn)入了待機(jī)狀態(tài)。伍茲擦了擦頭上冷汗，轉(zhuǎn)而對墨菲說：“這座村莊不僅是恐怖分子的據(jù)點(diǎn)，還居住著大量同情恐怖分子的平民。機(jī)器人的模式識別系統(tǒng)可以分清二者的差別，它們被輸入的道德觀要求對恐怖分子無情，同時不得傷害平民，可是，平民為了保護(hù)恐怖分子，開始與機(jī)器人戰(zhàn)斗，于是機(jī)器人就陷入了一種極其不安全的狀態(tài)，第一定律被打破，發(fā)生了我們剛才推論的一系列連鎖反應(yīng)，最終和軍隊(duì)?wèi)?zhàn)斗……直到我們兩個特定人物出現(xiàn)……”

“該結(jié)束了，想制定出完美的人機(jī)規(guī)則還遠(yuǎn)著呢，或者永遠(yuǎn)不可能……”墨菲聳聳肩，也許哥德爾(見本期“辭典”)是對的……