外刊導(dǎo)讀

《紐約客》雜志2018年5月14日號

1似人非人，你怕不怕

這篇《紐約客》的長文再次探究人工智能對人類社會的潛在影響和深遠(yuǎn)意義，它引述了大量科技界人士的研究和觀點，頗具深度，同時結(jié)合科幻小說和影視作品來解讀人工智能，不乏趣味，又充滿著浪漫的人文氣息。

一直以來，許多科學(xué)家和有識之士，包括蓋茨、馬斯克和霍金等，不斷發(fā)出警告稱，一旦人工智能進化到所謂的通用型即AGI的階段，它的智能程度遠(yuǎn)超人類，世界末日就可能隨之而來。當(dāng)人工智能進化到創(chuàng)造它的人類難以理解的階段，它好像具有了直覺和創(chuàng)造力，這時人類有種背后發(fā)涼的感覺，它可能是人類最后的發(fā)明。

本文指出，AGI離我們還有一段距離，專家們在最新調(diào)查中預(yù)計它們到來的時間點是2047年，它將為人類解決一大堆難題，但也會帶來種種風(fēng)險。像所有技術(shù)一樣，一旦人類失去對它的控制，就可能帶來災(zāi)難，比如，火，電力，汽車，核電站，當(dāng)然，也包括人工智能。奇怪的是，科幻小說的作者們并沒有預(yù)見到AGI會給人類帶來滅頂之災(zāi)，人類似乎并不擔(dān)心這個問題。有些人認(rèn)為，人類的智力與人工智能各有所長，可以是互補的，人類在AI的協(xié)助下，不會失去工作，只會更好地發(fā)揮所長。另一方面，機器也會渴望更像是人類，至少在影視作品中是這樣，它們會有人類那樣的意識，讓人類難以分辨。

本文提到，AGI系統(tǒng)要想達(dá)成我們指定的目標(biāo)就需要掌控全局，因此，它的真正危險，也許不是來源于惡意或者它出現(xiàn)自我意識，而恰恰是它的自主，這時人類的處境就好比是小孩子玩炸彈，失去了控制它的能力。那么，該怎么辦呢？是給AGI注入價值觀，還是尊重AGI，讓它自己來解決這個難題。本文認(rèn)為，這個問題的回答很可能與人類如何看待自己有關(guān)。因此，思考人工智能，可以幫助我們更好地認(rèn)識人性，不管是好的還是不好的方面。

《大西洋月刊》2018年6月號

2人工智能，是福還是禍

近來，人工智能的熱度持續(xù)攀升，領(lǐng)頭羊谷歌公司繼阿法狗在圍棋上將人類挑下馬之后，又推出人工智能個人助理，它可以替我們打電話訂餐廳，預(yù)約理發(fā)服務(wù)，雖沒有阿法狗那么轟動，但還是狠狠地刷了一次屏，因為它竟然騙過了接電話的服務(wù)員。就在這個當(dāng)口，美國德高望重的基辛格博士在《大西洋月刊》上發(fā)表了這篇文章，他特別指出，因為互聯(lián)網(wǎng)，特別是人工智能的影響，人類的歷史正在走向一個重大的轉(zhuǎn)折點，我們必須為此做好準(zhǔn)備。

基辛格表示，他本人并非技術(shù)專家，但作為一名歷史學(xué)家和一名有實戰(zhàn)經(jīng)驗的政治家，在聽取了許多技術(shù)專家的介紹，他意識到，互聯(lián)網(wǎng)特別是人工智能的技術(shù)進步正在深刻改變著現(xiàn)代人類社會的歷史進程，由啟蒙運動引領(lǐng)的理性時代的當(dāng)代世界秩序正處于變動之中，未來的世界將依賴數(shù)據(jù)和算法所驅(qū)動的機器。數(shù)據(jù)即意義，人們不再自省，幾乎不過問歷史或哲學(xué)，只要數(shù)據(jù)和算法即時有用，真理變成相對的，我們更關(guān)注信息，而不是智慧。

基辛格警告說，人工智能與之前的自動化不同，自動化只是手段，而人工智能與目的有關(guān)，它會建立起自己的目標(biāo)，特別是目前想要實現(xiàn)的可執(zhí)行多種領(lǐng)域任務(wù)的通用型人工智能。人工智能利用數(shù)據(jù)，對人類未來作出判斷，其結(jié)果有著內(nèi)在的不確定性和模糊性。這樣就產(chǎn)生了一個悖論：世界變得更透明，但它也變得越來越神秘莫測?；粮窨偨Y(jié)了三個方面的隱憂：第一，人工智能可能會得出人類不愿意看到的結(jié)果；第二，人工智能在達(dá)成既定目標(biāo)中，可能會改變?nèi)祟惖乃枷脒M程和人類的價值觀；第三，人工智能或許可達(dá)成既定目標(biāo)，但是不能解釋出其結(jié)果背后的道理來。

基辛格認(rèn)為，人工智能的決策和行動，有一天會超出人類的解讀能力，就像阿法狗下出的每一步棋，我們不僅關(guān)心輸贏，我們還關(guān)心背后的思考和意義。開發(fā)設(shè)計人工智能的科學(xué)家和工程師們追求的是科技和商業(yè)的極致，他們并沒有從人文傳統(tǒng)的視角看這個問題。因此，人工智能對人類的認(rèn)知本質(zhì)構(gòu)成威脅，假如我們不趁早準(zhǔn)備應(yīng)對，未來人類可能會面臨存在性危機?；粮裣喈?dāng)肯定地指出，假如政府不盡快行動起來，人工智能可能會終結(jié)人類的歷史。你說，基辛格是不是有點杞人憂天呢？

《科學(xué)美國人》同站2018年5月15日

3自知之明不常有

這篇《科學(xué)美國人》的文章很有意思，它總結(jié)了關(guān)于人們并不了解自己的十件事，引用許多研究說明了我們很可能并不像我們認(rèn)為的那樣理解自己。也許你會不以為然，還有誰比我自己更了解我？

好吧，下面我們把這十件事逐一做個簡單的介紹。第一，你眼中的自己是扭曲的，我們往往認(rèn)識不到自己的偏見；第二，你完全不明白自己的動機，人們的潛意識藏得很深；第三，外在表現(xiàn)說明了你的許多，因此，我們最親近的人往往看我們更準(zhǔn)確，特別是那些突出反映在行為當(dāng)中的性格特征；第四，離自己遠(yuǎn)一點看自己更清楚，我們通過獨處或冥想，讓潛意識與目標(biāo)趨于一致，可提升幸福感；第五，我們經(jīng)常高估自己，人們越無能，就越難意識到自己的無能，這就是Dunning Kruger效應(yīng)；第六，看不起自己的人更經(jīng)常有挫敗感，這與前一條并不矛盾，二者都很常見；第七，你自欺欺人卻不自知；第八，“真我”體現(xiàn)了你相對穩(wěn)定的道德觀；第九，沒有安全感的人往往行為更端正，心理學(xué)家Drazen Prelec提出了給自己發(fā)信號的理論，即我做一件事更多是做給自己看的，而不是證明給別人看的，比如，為什么有人寧愿花幾十萬買真勞力士，而不是花幾千弄一條真假難辨的仿冒品，就可以用這個理論來解釋；第十，你認(rèn)為自己可以改變，你就可以做到更好，這就是Carol Dweck著名的成長心態(tài)。

本文最后指出，獲取對自我的認(rèn)識比人們想象的更難。當(dāng)代心理學(xué)從根本上質(zhì)疑我們可以客觀地、確定地了解自己，可以明確的是，自我并不是一個物品，而是對變化中的環(huán)境不斷適應(yīng)的一個過程。

（本欄目撰文 劉虎）