“機(jī)器人”不聽人指揮是福是禍?

俄裔美籍科幻大師艾西莫夫半個(gè)多世紀(jì)前曾對(duì)人類科技的未來遠(yuǎn)景做出許多預(yù)測(cè),其中有不少都已應(yīng)驗(yàn)。艾西莫夫曾預(yù)言機(jī)器人會(huì)獲得長(zhǎng)足的發(fā)展,甚至有可能反過來控制和傷害人類,因此他在40年代對(duì)人類開發(fā)機(jī)器人訂下三個(gè)鐵律,第一、機(jī)器人不能傷害人類;第二、機(jī)器人必須聽命于人類,但不能違反第一律;第三、機(jī)器人必須在不違反前述兩律的情況下才得以存在。

最近,科學(xué)界研究機(jī)器人獲得的兩項(xiàng)重大進(jìn)展,嚴(yán)重沖擊艾西莫夫的機(jī)器人三律。其中之一,是美國馬薩諸塞州布蘭迪斯大學(xué)的科學(xué)家經(jīng)由電腦模擬實(shí)驗(yàn),研發(fā)出能自行進(jìn)化和復(fù)制的機(jī)器人。另一件則是泰國科學(xué)家開發(fā)出能用激光瞄準(zhǔn)和射擊的“機(jī)器警衛(wèi)”。這種機(jī)器警衛(wèi)可以自行偵測(cè)目標(biāo)開槍射擊,也能接受主人通過網(wǎng)絡(luò)的號(hào)令,向目標(biāo)猛烈開火。這兩件事,在歐美科學(xué)界引起相當(dāng)廣泛的議論。

布蘭迪斯大學(xué)的科學(xué)家是以一些原始的機(jī)器人為基礎(chǔ),通過虛擬實(shí)驗(yàn)讓它們循達(dá)爾文理論去“進(jìn)化”,經(jīng)過數(shù)百代的演變,最后這些機(jī)器人已有辦法自行設(shè)計(jì)、制造以及測(cè)試構(gòu)造簡(jiǎn)單、能像“尺蠖”一樣匍伏前進(jìn)的機(jī)器人“后代”。盡管這些由機(jī)器人“繁衍”出來的機(jī)器人,還不如時(shí)下一般兒童玩具來得復(fù)雜,但科學(xué)家強(qiáng)調(diào)這是人工智慧的一大突破,因?yàn)檎麄€(gè)制造過程幾乎由機(jī)器人獨(dú)自完成,沒有“人”的介入。

科學(xué)家認(rèn)為,照這樣發(fā)展下去,有朝一日人類可以利用這些能夠隨環(huán)境改變而自行演化的機(jī)器人從事星際探險(xiǎn)任務(wù)。但這基本上違反艾西莫夫定下的第二律:“機(jī)器人必須聽命于人類”。機(jī)器人一旦可能隨自己的“意念”做事,它們還會(huì)聽人的號(hào)令嗎?這是很多人擔(dān)憂的事。過去好萊塢推出和機(jī)器人有關(guān)的科幻電影中,便已暴露出人們對(duì)智慧型機(jī)器人的恐懼。其中以機(jī)器人主宰未來世界為故事背景的《魔鬼終結(jié)者》可說是最典型的例子。這部電影讓不少人深信智慧型機(jī)器人終將對(duì)人類的生存構(gòu)成重大威脅。

“機(jī)器警衛(wèi)”是由曼谷“芒庫國王理工學(xué)院”的科學(xué)家所研發(fā)出來的。它配備一把手槍和一具小型攝影機(jī),手槍上有一具用來瞄準(zhǔn)的激光系統(tǒng)。這套系統(tǒng)被裝設(shè)在一具位置固定的機(jī)臺(tái)上,當(dāng)它被設(shè)為“自動(dòng)操作”時(shí),紅外線感應(yīng)器能追蹤移動(dòng)的目標(biāo);而被設(shè)為“人工操作”時(shí),“機(jī)器警衛(wèi)”能接收來自網(wǎng)絡(luò)的指令,做出“開火”的動(dòng)作。惟一的限制是使用者下達(dá)開火命令前,必須通過密碼檢驗(yàn)。

這種真實(shí)世界的機(jī)器警衛(wèi),要比電影《機(jī)器戰(zhàn)警》中的機(jī)器人墨菲簡(jiǎn)陋許多,而它所使用的科技,也遠(yuǎn)不如布蘭迪斯大學(xué)專家們用的來得復(fù)雜,但發(fā)明這套系統(tǒng)的科學(xué)家蘇拉克沙對(duì)這項(xiàng)成就似乎相當(dāng)?shù)靡??！皺C(jī)器警衛(wèi)”目前使用的是一支空氣槍,甚至可以配掛像機(jī)槍這種火力強(qiáng)大的武器。蘇拉克沙說他打算把這套系統(tǒng)發(fā)展成能追逐目標(biāo)的機(jī)器人,就像電影中的機(jī)器戰(zhàn)警一樣,蘇拉克沙還夸稱他們已擁有這樣的技術(shù)。

歐美從事機(jī)器人研究的科學(xué)家對(duì)蘇拉克沙這項(xiàng)“創(chuàng)舉”相當(dāng)震驚。英國一些科學(xué)家指出,蘇拉克沙應(yīng)該很清楚,現(xiàn)有的感測(cè)技術(shù)出錯(cuò)率還非常高,讓機(jī)器人用這種有瑕疵的科技來進(jìn)行辨識(shí)工作,本身就已經(jīng)很不智,如果讓機(jī)器人以此作為開槍的依據(jù),豈不更離譜?還有,機(jī)器人用紅外線來追蹤目標(biāo),那么只要太陽升起,機(jī)器人可能會(huì)“發(fā)瘋”而胡亂開槍,因?yàn)樘柋旧頃?huì)釋放出大量的紅外線。

而就算“機(jī)器警衛(wèi)”改由人工操作,科學(xué)家還是覺得不妥。英國德蒙佛大學(xué)電算智慧中心學(xué)者查內(nèi)基表示,用網(wǎng)絡(luò)來控制這種殺人機(jī)器,仍會(huì)出現(xiàn)許多問題,比如說網(wǎng)絡(luò)如果塞車怎么辦?假如因?yàn)槿嚩鵁o法下達(dá)開火命令倒還好,若是開火令已經(jīng)下達(dá),操作的人發(fā)現(xiàn)情況不對(duì)而要修正,這時(shí)候遇到塞車那就完蛋了。查內(nèi)基還警告,人們通過機(jī)器人頭頂上的小型攝影機(jī)所看到的東西,和機(jī)器人用槍瞄準(zhǔn)的有可能是完全不同的兩回事。換句話說,你下達(dá)開火指令,會(huì)打到什么恐怕你也不知道。 一向反對(duì)賦予機(jī)器人太多能力的英國瑞丁大學(xué)神經(jīng)機(jī)械學(xué)專家瓦維克明白地指出,“機(jī)器警衛(wèi)”徹底摧毀了艾西莫夫的機(jī)器人三律,如果不加以撥亂反正,將來會(huì)出現(xiàn)更多像蘇拉克沙這樣不負(fù)責(zé)任的科學(xué)家。如今之計(jì),最好是把艾西莫夫機(jī)器人三律制定成正式的法律,并在全球范圍內(nèi)實(shí)施。瓦維克說,機(jī)器難免會(huì)有動(dòng)作失常的時(shí)候,而這種會(huì)殺人的機(jī)器人一旦失常,后果將非常嚴(yán)重。G(林美芳)

《海外星云》(2000年31期)