人工智能會(huì)是一個(gè)要命的問題嗎？

許多人（科學(xué)家除外）在討論人工智能問題的時(shí)候，往往以“擬人化”的方式去理解人工智能，就是說，把人工智能看得太像人，或者是希望人工智能的思維像人，情感也像人，外表面目也像人，甚至幻想人工智能的價(jià)值觀能夠以人為本。令人擔(dān)心的是，擬人化的人工智能很可能事與愿違。當(dāng)然，想象人工智能類似于人，是很自然的想象，就像基督教徒相信上帝按照他的形象造人一樣，或者，類似于童話故事和動(dòng)畫片把動(dòng)物加以擬人化。也許需要想一想，為什么我們喜歡擬人化呢？是因?yàn)橛辛巳诵跃湍軌蚪涣鲉幔炕蛘呔蜁?huì)愛護(hù)人類嗎？擬人化真的有好處嗎？我在擬人化的概念里看見一種隱隱的殺機(jī)，但愿是多慮了。

就目前的情況來看，最有希望能夠做得成的人工智能估計(jì)不像人，更重要的是，人工智能沒有必要像人。也許應(yīng)該說，像人的人工智能既在成本上不經(jīng)濟(jì)，又在功用上可能適得其反。假如真的發(fā)展出了超級(jí)人工智能，它肯定不是人，只是一個(gè)更高級(jí)別的智能存在，不僅不像人，也不太可能迎合人，因?yàn)檫h(yuǎn)遠(yuǎn)勝過人的超級(jí)人工智能也許更像上帝或者撒旦，總之不像人。我們沒有理由假定所有高智能的存在必定都像人，比如，劉慈欣在《三體》系列里想象的其他智慧存在就不太像人，他們對(duì)存在有著不同的理解?，F(xiàn)代啟蒙以來，以人為中心的人文主義已經(jīng)根深蒂固，成為好像理所當(dāng)然的設(shè)定，其實(shí)人類沒有那么高級(jí)，也不完美。我很贊同孫周興的說法，尼采一百多年前就已經(jīng)宣告了人文主義的死亡，只是慢慢在死，但一定要死的。假如出現(xiàn)了超級(jí)人工智能，他們對(duì)世界一定有不同看法，而我們無法猜想他們會(huì)有什么看法，因?yàn)槌?jí)人工智能的智力超過了人。這就像豬羊魚蝦不懂人類為什么吃掉他們。擬人化只是人類的一種童話想象，只是人自己想象的萬物秩序，其實(shí)并不符合萬物存在的道理。

目前人類試圖制造的機(jī)器人會(huì)有某些擬人功能，這是為了讓機(jī)器人更好地服務(wù)于人類，比如語言對(duì)話的服務(wù)、自動(dòng)駕駛或者家庭服務(wù)之類，至于把機(jī)器人做成人類面目，在服務(wù)功能上并無意義，應(yīng)該屬于玩具功能（人類需要玩具，這是個(gè)有趣的心理學(xué)問題）。這些擬人功能是實(shí)用性的，還不是我們質(zhì)疑的那種本質(zhì)上的擬人化。所謂“本質(zhì)上的擬人化”指的是試圖制造具有人類情感、欲望和價(jià)值觀的人工智能。這就引出一個(gè)真正危險(xiǎn)的問題了。

人類貴有自知之明，那么應(yīng)該實(shí)事求是地承認(rèn)：人類并非善良的智慧生命。人類會(huì)為此事實(shí)感到慚愧嗎？人類社會(huì)的戰(zhàn)爭(zhēng)多于和平，最先進(jìn)的技術(shù)大多數(shù)來自軍工，居然還有政治學(xué)和倫理學(xué)，人類甚至試圖開發(fā)太空以便太空移民，這些有限的事實(shí)已經(jīng)足以明示人類是欲壑難填的危險(xiǎn)生物。事實(shí)上，人類苦苦宣傳善良的價(jià)值觀就已經(jīng)暴露了人類實(shí)際上有多么缺少善良。那么，假如設(shè)法讓人工智能擁有人類的欲望、情感和價(jià)值觀，其合乎邏輯的結(jié)果恐怕不是人工智能愛上人類，而更可能是變得像人類一樣自私自利，變得像人類一樣壞。在這個(gè)意義上，在本質(zhì)上擬人化的人工智能是一個(gè)非?？梢傻呐Ψ较颉Ｈ绻?jí)人工智能的心靈不像人，反而是一個(gè)相對(duì)安全的選擇（盡管仍然未必安全）。

（摘自趙汀陽：《人工智能會(huì)是一個(gè)要命的問題嗎？》，《開放時(shí)代》2018年第11期）