來自古希臘的人工智能警鐘

艾德里安·梅耶（Adrienne Mayor）

作為最古老的希臘神話之一，潘多拉故事的最早記錄出現(xiàn)在距今2500多年的荷馬時(shí)代。在最原始的敘事中，潘多拉并不是受到誘惑打開封禁之罐的純真少女。相反，詩人赫西奧德告訴我們，潘多拉是“被造物，而非生命”。

承接全能神宙斯所指派任務(wù)的潘多拉，實(shí)際上是一個(gè)人形機(jī)器人，有一副迷人少女的外表。她的使命是誘騙凡人，以顯示“紅顏禍水”。

潘多拉的名字意為“所有禮物”，表明她是眾神共同的產(chǎn)物。她產(chǎn)生于赫菲斯托斯的煉爐，赫爾墨斯護(hù)送這位令人神魂顛倒的“女人”來到地球，把她包裝成厄庇墨透斯的新娘。她的嫁妝，就是那個(gè)包含了更多“禮物”的封禁的命運(yùn)之罐。

厄庇墨透斯是普羅米修斯的兄弟。“反抗巨人”普羅米修斯領(lǐng)導(dǎo)著—也有故事說是他創(chuàng)造了—人類。普羅米修斯擔(dān)心人類顯而易見的缺陷，因此教會男人和女人如何負(fù)責(zé)地使用火和其他工具。但這觸怒了暴君宙斯，了不起的技術(shù)是他眼中的禁臠。作為懲罰，宙斯將普羅米修斯綁在一塊巖石上，派出他的無人機(jī)一樣的老鷹—也產(chǎn)生自赫菲斯托斯的熔爐—啄食普羅米修斯的肝臟。

至于潘多拉，她被刻意設(shè)計(jì)出來懲罰人類接受普羅米修斯的禮物。本質(zhì)上，她是一個(gè)迷人的雌性人工智能體，沒有父母，沒有童年記憶，也沒有任何情感，不會老也不會死。她的設(shè)定是要完成一個(gè)狠毒的任務(wù)：潛伏在人間，解除罐子的封印。

但這尚不是故事的全部。帕累托告訴我們，普羅米修斯的名字意為“遠(yuǎn)見”，因?yàn)楹退麩o憂無慮的兄弟厄庇墨透斯（名字意為“向后看”）不同，他永遠(yuǎn)向前看。兄弟兩人中，普羅米修斯更加理性，也顯得更加偏執(zhí)，他試圖警告厄庇墨透斯不要接受宙斯的危險(xiǎn)禮物。但厄庇墨透斯被潘多拉迷得神魂顛倒，毫無防備地讓她走進(jìn)了他的生活。隨后，他才認(rèn)識到自己犯了一個(gè)可怕的錯誤。

因此，潘多拉的流行形象—驚恐地后退，看著各種妖魔鬼怪逃出罐子—是現(xiàn)代的發(fā)明。在古典希臘戲曲中，潘多拉的形象是一臺狡猾的機(jī)器：最著名的潘多拉瓶繪把她畫成一位年輕女性，站姿僵硬，帶著神秘莫測的微笑。

隨著AI/“機(jī)器學(xué)習(xí)”迅速演變?yōu)榧夹g(shù)“黑箱”，潘多拉的封禁之罐的象征也有了新的含義。要不了多久，AI決策系統(tǒng)的操作邏輯不但用戶無法理解，就連創(chuàng)造者也無法理解。與其他威脅一樣，AI系統(tǒng)被邪惡之徒入侵或被恐怖分子和暴君利用的可能性很大。

Facebook創(chuàng)始人馬克·扎克伯格、麻省理工學(xué)院的安德魯·邁克菲、微軟的程麗麗和其他AI樂觀派，向我們保證AI會帶來巨大的益處，但我們?nèi)匀粫唤?jīng)意地想起厄庇墨透斯。我們真的應(yīng)該信任人類能調(diào)整和解決AI所造成的問題嗎？

似乎更明智的做法是聆聽當(dāng)代普羅米修斯，如已故的史蒂芬·霍金、微軟創(chuàng)始人比爾·蓋茨，以及2017年發(fā)聲討論武器化AI和機(jī)器人的威脅的其他115位科技領(lǐng)袖。

“留給我們行動的時(shí)間已經(jīng)不多了，”他們警告，“一旦潘多拉的盒子被打開，就再也難以關(guān)上?！贝送?，這些“普羅米修斯”的擔(dān)心，受到了谷歌聯(lián)合創(chuàng)始人謝爾蓋·布林，以及喬安娜·布萊森和帕特里克·林等人工智能倫理學(xué)家的遙相呼應(yīng)。他們警告不可貿(mào)然接受AI的禮物，必須先想好如何控制它們。

最新民調(diào)表明，真正在開發(fā)AI系統(tǒng)的人，對AI的潛在益處的樂觀態(tài)度大幅下降。對AI工作原理的理解，將帶來更加現(xiàn)實(shí)的預(yù)期。不是盲目的希望，而是基于知識和經(jīng)驗(yàn)的遠(yuǎn)見，應(yīng)該決定我們?nèi)绾喂芾磉@項(xiàng)技術(shù)的發(fā)展及其與我們的關(guān)系。

本文由Project Syndicate授權(quán)《南風(fēng)窗》獨(dú)家刊發(fā)中文版。艾德里安·梅耶是斯坦福大學(xué)歷史學(xué)和科學(xué)哲學(xué)研究學(xué)者，新著《眾神與機(jī)器人：神話、機(jī)器和古代科技夢》。