何以為人——尋找《臥底機器人》

陳一諾

如果，我是說如果，在你的同學(xué)中，藏了一個機器人。如果你能成功發(fā)現(xiàn)它，就可以獲得一筆大獎。這非常誘人，也十分艱難，因為它看上去就和普通的人類小孩一樣，長得人畜無害，甚至非?？蓯郏€能和你一起瘋一起鬧，幫你做作業(yè)……我們到底該怎么分辨人和機器人呢？也就是說，什么才是人獨有的特質(zhì)呢？在《臥底機器人》中，臥底在學(xué)校的機器人小朵是怎么偽裝的？它有沒有被人類同學(xué)發(fā)現(xiàn)？故事結(jié)局又是什么呢？

本月推薦：

《臥底機器人》

作者：〔英國〕 戴維·埃德蒙茲/〔英國〕休·弗雷澤

出版社： 中信出版社

作者簡介：

戴維·埃德蒙茲，哲學(xué)家、作家。牛津大學(xué)尤希羅實踐倫理學(xué)中心高級研究員。

休·弗雷澤，英國著名兒童有聲故事網(wǎng)站創(chuàng)始人。

作品導(dǎo)讀：

小朵是一個機器人，它被科研團(tuán)隊研制出來并送進(jìn)一所學(xué)校，偽裝成人類參加一場特殊的比賽。這場比賽有很多個機器人參加，如果小朵最終沒被認(rèn)出來是機器人，那么它的研發(fā)團(tuán)隊就會獲得十億美元的獎金。

小朵自信滿滿，這源于它具有親和力的外表和無懈可擊的程序。它知道擁有朋友是偽裝的第一步，于是開始通過掃描檢索的方式和新同學(xué)交流。它嘗試著用人類的思維方式融入新班級，可機器人固有的程序設(shè)定又偶爾讓她顯得刻板固執(zhí)，甚至奇怪。這讓它好幾次都處于暴露的邊緣，幸好科研團(tuán)隊及時添加程序補丁才轉(zhuǎn)危為安。

隨著比賽中其他機器人的陸續(xù)出局，小朵勝利在望，然而它卻為了救一個人類寶寶而被棕熊壓垮?？蒲袌F(tuán)隊為了比賽能夠獲勝，立刻啟動了機器人二號，讓它來代替小朵繼續(xù)參賽。知曉了這件事情的小朵非常憤怒，它覺得自己才是小朵，唯一的小朵，而另一個機器人只是個冒牌貨。糾纏中，冒牌小朵喝下對核心機器有毒的飲料，徹底報廢，小朵得以繼續(xù)上陣贏得了比賽?？墒?，小朵卻收到獲得的獎金將用來制造更多“小朵”的噩耗，她悲憤交加，當(dāng)場暴發(fā)……

《臥底機器人》通過機器人的視角探討了人與機器人之間的關(guān)系。機器人越來越像人，可是人卻越來越追求宛若機器一樣的高度精準(zhǔn)和金剛之軀。成為機器人一樣的人，亦或是做個普通人，哪個更好，你如何評判呢？科技在進(jìn)步，當(dāng)機器人擁有了自我意識，世界又會變成什么樣子呢？如果每一個機器人都覺得自己是獨一無二的，都試圖把別的“自己”趕跑，世界會不會因此而更加混亂呢？

作品賞析：

科技與人性

作為故事的主角，也許小朵永遠(yuǎn)都無法理解人類，但是它的算法程序依然以人類的安全為優(yōu)先級。比如小朵因為和瑞奇媽媽約定了“不可以說謊話”，就把朋友瑞奇故意搞壞了自己的古董手機偽造成一場意外以便購買新手機的事情說了出來。機器人會覺得這樣是遵守了約定，但是人類小孩可能會選擇寧愿說假話也要袒護(hù)朋友，這就是程序和人類觀念之間巨大的差別。

“人類為什么要這么做？”我（小朵）問，“人類不是應(yīng)該遵守道德嗎？”

“是的，我們是應(yīng)該遵守道德?！苯淌谡f，“可是，有時候我們會考慮多方因素，權(quán)衡利弊。就比如昨晚的事，人類小孩很可能會覺得，維護(hù)和瑞奇的友誼比信守對瑞奇媽媽的承諾更重要。”

“那有沒有一種算法，可以幫我權(quán)衡違背諾言帶來的好處與壞處呢？”

教授輕聲笑了起來。“沒有可靠的算法。人類總是會為自己的行為找各種各樣的理由，眾所周知，我們有時候?qū)ψ约翰⒉徽\實?！?/p>

我不知道一個機器人是否也可以對自己不誠實，可能只有程序故障或者系統(tǒng)中有病毒的時候才會吧！

上面的選文是小朵和教授的一段對話，如上文所說，小朵堅持自己的算法并且好奇人類會怎么做，教授的話語則引人深思。人類對于對錯沒有嚴(yán)格而客觀的界定標(biāo)準(zhǔn)，更多會選擇于自己有利的那一種，所以教授自嘲人類此時的不誠實，而小朵的絕對道德就讓她成為了人群中那個異類。

道德和論理問題

當(dāng)機器人擁有越來越多的自主決策能力時，涉及到道德和倫理問題的討論就顯得尤為重要。例如書中小朵的朋友瑞奇正在為自己不擅長的網(wǎng)球比賽感到苦惱，小朵恰恰有這么一副能幫助人擁有更清晰視力的隱形眼鏡，這副神奇的眼鏡能讓瑞奇獲得冠軍。小朵決定將眼鏡給瑞奇，瑞奇擁有了超人的動態(tài)視力，這讓他輕而易舉地就超過那些艱苦訓(xùn)練了很久的選手。這種事在機器人眼中差不多是改裝了一個零部件，更新了一個程序，但是在人類的比賽中這就是作弊，是對別人極度不公平的行為。這讓我們不禁思考權(quán)責(zé)劃分、機器人與人類間的道德標(biāo)準(zhǔn)和價值觀的對比。

“你難道不因為我?guī)椭四銉鹤佣械礁吲d嗎？”我問道。

“當(dāng)然不高興，因為你欺騙了大家?！笨ㄌ啬崞战淌谡f道。

我告訴他許多運動員在比賽的時候都會戴隱形眼鏡，而瑞奇只不過是戴了效果最好的那一種，這就和打網(wǎng)球有一副昂貴的球拍是一樣的道理。

“我不這么認(rèn)為。在我看來，”卡特尼普教授說，“這就像參加自行車比賽的時候，有選手偷偷在自己車子的后輪上裝了發(fā)動機?！?/p>

上面的選文是教授得知小朵用隱形眼鏡幫助瑞奇作弊后與小朵的一段對話?？梢钥闯龃藭r機器人的道德觀和人類又有了巨大的沖突。不過與我們研究的上一個沖突相比，這次人類對于公平的判斷標(biāo)準(zhǔn)顯然更為合理。這場比賽靠的是自然人的體能和技巧，而非借助工具的改造將自己變成超越自然人的半機器人，這樣的比賽不公平，也失去了比賽的意義。機器人本就是通過科技塑造出的更強的個體，它們和需要靠自己努力學(xué)習(xí)、練習(xí)、進(jìn)步的自然人不同，所以也無法理解不斷突破自身的極限對人類的意義。

模擬小課堂

師：機器人日益普及，你們對此有什么看法？

生：我認(rèn)為人與機器人是相互依存的。機器人可以幫助我們完成一些低效勞動，提高人類的工作效率。

生：機器人的發(fā)展給我們的生活帶來了許多便利和機會。

師：機器人確實展示出了巨大的潛力。但人與機器人的關(guān)系還值得細(xì)細(xì)琢磨。你們認(rèn)為有哪些特別需要關(guān)注的方面？

生：我認(rèn)為機器人的智能程度和道德的問題需要關(guān)注。雖然機器人可以模仿人類的行為和思維，但它們?nèi)狈φ鎸嵉那楦泻偷赖屡袛?，或許會導(dǎo)致一些倫理混亂和隱私暴露的問題。

模擬親子共讀

家長：讀完《臥底機器人》，我們來討論一下是什么讓一個人成為一個獨立、有責(zé)任感的個體，即成為一個真正的人。

孩子：我認(rèn)為成為一個人的關(guān)鍵是自主和獨立。當(dāng)一個人能夠自主地作出決策、承擔(dān)責(zé)任并獨立思考時，他們才能真正成為一個人。除此之外，我覺得人還需要有正確的價值觀和道德觀念，應(yīng)該懂得區(qū)分對錯，有自己的原則和道德底線。

家長：說得很對！還有呢？

孩子：學(xué)會應(yīng)對不同的挑戰(zhàn)和困難也很重要。面對困境時，一個人要有堅持和克服困難的勇氣，不輕言放棄。還應(yīng)該與人為善，與別人建立良好的關(guān)系，尊重和關(guān)心他人，這樣才能真正融入社會。