李喆：認(rèn)識AI，更多是為了認(rèn)識人類自身

徐梅

李喆坐在北京大學(xué)圖書館臺階上。圖/受訪者提供

“這里面的利害遠遠超過了對索拉里斯文明的探索，因為它所牽涉的是我們自己，事關(guān)人類認(rèn)知的局限性?！?/p>

當(dāng)我在《索拉里斯星》里讀到這句話的時候，心里一震。

2023年3月22日跟李喆通話時，他提到了這本科幻小說——波蘭作家斯坦尼斯瓦夫·萊姆在上世紀(jì)六七十年代以不可思議的想象力，寫出了這個人類與外星文明相遇的故事。

索拉里斯星文明是一個類似于智能海洋文明的超級存在，充滿人類科學(xué)家不能解釋的現(xiàn)象，“這片活海洋”仿佛一個巨型大腦，它比人類文明領(lǐng)先數(shù)百萬年，但它的行為并不依照“人類的觀念”，它不建造城市和橋梁，也不造飛行器或試圖穿越太空，也不試圖征服宇宙，而是“整天忙于進行成千上萬次的‘本體自發(fā)變形”。

像不像黑匣子里不知疲倦地自主學(xué)習(xí)不斷進化的AI？

小說里萊姆寫道，承認(rèn)這片大海具有意識已經(jīng)需要極大的勇氣，跟這個會思考、擁有心理活動卻非人類觀念的龐然大物“對話”更是要逼瘋?cè)祟悺?/p>

“歸根到底，一個人只能用他自己的大腦來思考?！?/p>

“再說，就算真的和會思考的海洋實現(xiàn)了‘信息交流，人們究竟希望從中得到些什么呢？他們又能從中期待些什么呢？”

“誰知道呢？也許這樣是值得的，……我們恐怕不會對它有任何了解，但也許能夠了解一下我們自己……”

索拉里斯星上的智慧大海沉默不語，精神瀕臨崩潰的人類科學(xué)家喃喃自語。

我是跟李喆通完電話后，才看的這本小說，書上讀到的這些句子，讓我對他的思考和認(rèn)知更新有了更多理解。

李世石退役的時候，李喆在《圍棋天地》上發(fā)表了一篇文章，流傳甚廣。他在文中稱，李世石的退役標(biāo)志著充滿智慧創(chuàng)造和個人風(fēng)格的棋士時代的終結(jié)，稱之為“一個時代的退隱”。

李喆在那篇文章里借用了文學(xué)批評中“作者已死”的觀念，以此關(guān)照AI出現(xiàn)后被迫“從創(chuàng)造主體降格為模仿者”的人類頂級棋手，“作者的隱匿退出，作品的同質(zhì)化與套路化，創(chuàng)造性的消亡，新形式的缺失……如果說這些危機在文藝領(lǐng)域還只是影影綽綽地呈現(xiàn)于敏銳專業(yè)的人群心中，那么在圍棋界，這些危機在技術(shù)飛躍的這兩三年里，已經(jīng)實實在在地擺在所有人面前?！?/p>

跟李喆通話的時候，武漢大學(xué)正是櫻花盛放的時節(jié)，在這所被譽為全國最美的花園大學(xué)里，李喆給武大學(xué)生開了一門圍棋課，下棋不多討論不少，期末考試，學(xué)生并不需要在棋盤上鏖戰(zhàn)收官，而是要交一篇小文章。

李喆總是會聯(lián)系最新的新聞，讓同學(xué)們展開討論。思辨是人類最強大的認(rèn)知更新工具，而ChatGPT永遠“自信滿滿”，研究人員迄今還未攻克的一個難題是訓(xùn)練它，讓它知道自己“不知道”，遇到未知領(lǐng)域的問題，可以直接回復(fù)“我不知道”，而不是一本正經(jīng)地說瞎話。

3月份有一個重大新聞，美國棋手凱琳·佩林并非職業(yè)棋手，甚至在業(yè)余棋手中也算不上高手，然而他與頂級圍棋AI KataGo對陣竟然14勝1負，這個戰(zhàn)績令世界頂級棋手都不敢想象。

“他取勝的方式并不是人類常規(guī)的行棋思路，而是一個科技公司開發(fā)出來的，由另一個AI算出的針對AI盲點的下法?！?/p>

研究人員表示，KataGo之所以失手，可能是因為在它的對抗性演練中，并沒有經(jīng)歷過足夠多的此類下法——或者說，這種制造“包圍圈”的下法往往在剛開始時就因為浪費棋子太多，而被認(rèn)為注定落敗，所以圍棋AI也沒有意識到如果讓“包圍圈”合圍，自己就會落敗。

這個棋盤上的實驗充分顯示了AI快速部署的潛在風(fēng)險，如同開發(fā)這個擊敗頂級圍棋AI程序的美國加州科技公司FAR AI的首席執(zhí)行官所言，“我們能看到，非常龐大的AI系統(tǒng)在幾乎沒有被驗證的情況下就被大規(guī)模部署了?！?/p>

除了人工智能并非全知全能、在部署上必須慎重可控這個點，李喆更想要引導(dǎo)學(xué)生們通過這則新聞深入思考圍棋AI的思維模式與人類的差異，以此理解縱使AI可以在知識層面上迅速超過人類，人類與AI之間的學(xué)習(xí)過程仍然是復(fù)雜的、長期的。

在李喆看來，人類棋手這些年在做一個非常前沿的思維實驗，將AI所展示的下法，通過人類的思維方式進行理解，“轉(zhuǎn)化為人類的知識。”

“我們都在說人類棋手在學(xué)習(xí)AI，其實AI怎么想的，人們并不知道，它在黑匣子里運行，它的啟示是一種沉默的啟示。人類向AI學(xué)習(xí)的過程是非常漫長的，這個過程中人類會看到AI的邊界，也會更多認(rèn)識自己。”

“人類棋手與AI共存七年，你最深的感觸和思考是什么？”李喆在我們結(jié)束通話前的最后一問中陷入了長考，“我要想一下再回答你，我給你發(fā)微信吧！”

掛斷電話幾分鐘后，我的手機對話框里跳出這樣一段話——“七年來，和圍棋領(lǐng)域一樣，AI在各行業(yè)生成超越以往人類認(rèn)知的信息，這些信息之精確和高效將帶來許多外在的行業(yè)結(jié)構(gòu)變化和內(nèi)在的反思性，也引發(fā)一些焦慮不安。不安和抗拒的源頭或許關(guān)于人類思維與AI算法的對照：解AI算法 bug不易，破人類思維慣性更難?！?/p>

以下是李喆對于人類智慧與人工智能如何“接觸”的思考：

這學(xué)期開始我給學(xué)生出了一個題目：“AlphaGo之后ChatGPT又引發(fā)了一個人工智能的熱潮，為什么AI在圍棋和語言方面的應(yīng)用會引起全世界的關(guān)注？”

有一個學(xué)生交的作業(yè)寫得特別好，他說就他而言，AI最讓人感興趣的是，它就像是人類認(rèn)知世界思考問題的一面鏡子，圍棋AI甚至沒有收官的概念，只有勝率和最好的下法，恰恰反映出人類對圍棋是以自己的思維方式來認(rèn)知的。

他說就像科幻小說《索拉里斯星》里的一句話，“在人類不存在的地方也就不存在人類能夠理解的邏輯。”

這位同學(xué)說，“人類的有限性促使我們必須追求在自我的理解中實現(xiàn)最優(yōu)解，同時還要明白世界存在著各種各樣的認(rèn)知方式，對此我們必須理解和尊重?！?/p>

我上學(xué)期給他們上課的時候講了很多關(guān)于AI的算法和我們?nèi)祟愊缕宓乃季S差異性，首先是為什么AI能贏我們，其次是除了勝負以外還有什么內(nèi)容。

這里面肯定不光是輸贏，還有很多關(guān)于認(rèn)知方面的問題——我們?nèi)祟愊缕迨峭ㄟ^一個什么樣的認(rèn)知和決策結(jié)合起來的；AI下棋是怎么下的？這些異同都會反映在棋盤上。

有了AI之后，AI的下法是不是真的能被我們理解，我們所謂的理解到底是什么？這些都很值得去探討。

AI為我們展現(xiàn)并揭示出一種更真實、更正確的“認(rèn)識”或者可稱之為真理，當(dāng)然它們現(xiàn)在能力還有限，不是絕對正確。

這種揭示是一種沉默的揭示，它不會告訴你為什么。如果不告訴你為什么的話，其實它給出的知識就還不完全是一個可以直接在思維上指導(dǎo)你的一種工具，思維的重新建立，還是要人類自己來做的。

我們依靠AI先拿到一個結(jié)果，然后我們?nèi)ネ七@個過程，這和以往我們的認(rèn)知方式是相反的，而且這個過程并不是AI本身的過程，因為AI的過程我們是不知道的，我們也無法模仿。

2001年中國圍棋乙級聯(lián)賽，12歲的李喆取得五勝二負。圖/受訪者提供

我們要用人的思維模式來完成這個過程，這個過程實際上也只是對我們?nèi)祟愖约河幸饬x，對人類提高自身的認(rèn)知能力有意義。

我們這一代跨越了前AI和AI兩個時代的“過渡時期的棋手”都在做這個工作，從小學(xué)的都是傳統(tǒng)的人類整體的經(jīng)驗，加上自己個體的天賦和經(jīng)驗的結(jié)合，這是我們在AI出現(xiàn)之前的學(xué)習(xí)方式和知識獲得的方式。

AI出現(xiàn)之后，它呼喚了一種新的能力，一種在AI給出的信息和你自身的認(rèn)知之間建立起一種新的連接的能力。掌握這種能力不是一件很容易的事情，在AI的算法和人類的道理中，要建立起一個術(shù)和道的對話，這是比較困難的，是一個長期的事情，不是一下子能夠完成的。

有一種說法認(rèn)為現(xiàn)在的棋手記憶力強就會占優(yōu)，把AI的棋都背下來就贏了。這是不可能的，圍棋太復(fù)雜了，變化太多，不可能靠死記硬背學(xué)AI就行。我覺得這完全是一種誤解，是對后AI時代人類優(yōu)秀棋手的貶低，能夠把AI的棋更好地轉(zhuǎn)化為自己的理解，這個能力是很難得的，是一種很強的能力。

有趣的是，AI看似給了標(biāo)準(zhǔn)答案，但由于它沒有給出解釋，導(dǎo)致每個棋手用人類思維轉(zhuǎn)換它的時候，理解路徑都不一樣。AI的一步棋，同樣是頂尖棋手，因為他們各自的風(fēng)格不同、認(rèn)知不同，可能產(chǎn)生的理解就不同。

從這個角度來看，我也不認(rèn)同今天的棋手因為AI失去了個人風(fēng)格這個說法，我覺得這個說法是非常粗糙簡單的。打一個不那么恰當(dāng)?shù)谋确剑裉焓澜缱銐灿酗L(fēng)格化喪失的說法，但實際上每支球隊都有自己的節(jié)奏和特點，只是隨著專業(yè)化的進程，這些風(fēng)格差異更難被識別出來了。

AI時代的圍棋也是這樣，整體更快更強，但由于知識轉(zhuǎn)化過程中特別依賴于個人的思維，每個人從AI下法收獲到的東西是不一樣的，反映出來就可能是下棋質(zhì)量的高低，也有可能是風(fēng)格的不同。我認(rèn)為隨著對AI下法和信息的不同角度的理解轉(zhuǎn)化，未來或許反而是更加具有個人風(fēng)格的時代。

AI不僅對棋手提出了要求，對圍棋解說評論和寫作闡釋都提出了更高的要求，這些從業(yè)者也要具備更高的認(rèn)知轉(zhuǎn)化能力才能將棋盤上的思維撞擊闡釋得更加精彩。

我一直很遺憾，AI出來后，我們沒有利用這個工具，更生動更準(zhǔn)確地展示出棋手下棋時頭腦中的風(fēng)云變幻。都說圍棋很難，難在哪里？懂棋的人看得大呼過癮，能不能把激烈的智力戰(zhàn)斗用AI這個輔助工具更直觀地展現(xiàn)出來？這些工作都沒有做，只盯著AI的實時勝率看，太可惜了。

對于行業(yè)來說，AI改變了訓(xùn)練方式、改變了行業(yè)格局，但非?？上?，在揭示圍棋真理上，還有很多可能性沒有被實現(xiàn)出來。AI讓我們有了一個自我關(guān)照的對象，可能更能夠讓我們明白自己是什么，然后我們的能力是什么，我們的思維是什么，我們下棋的時候思維到底是什么樣子的，到底是由哪些部分組成的？厚薄、死活、輕重、官子……這些圍棋知識的性質(zhì)和區(qū)別是什么？棋感、計算、判斷，這些下棋時的基本思維，又與人的哪些認(rèn)知能力和特點有關(guān)？由于可以跟AI做對比，人類思維的長處和弱點更容易體現(xiàn)出來，這些東西都是非常有價值的。在這些重新理解和回顧認(rèn)知的基礎(chǔ)上，我們或許還可以向前一步，借助AI技術(shù)上的超越性來創(chuàng)造一些新的有效的概念，由此突破人類自身原有的思維邊界。

我們下棋到底用了什么樣的思維方式，然后我們的認(rèn)知和情緒是怎么產(chǎn)生作用的，這些東西其實是構(gòu)成人性的東西，里面有關(guān)于人本身的知識。

不管怎么樣， AI至少讓我們看到了圍棋更美的東西，我們?nèi)祟悋暹M步的速度是很慢的，我們的界限就在那里了。AI出來，打破了藩籬，讓我們對圍棋的認(rèn)知因為更接近真理而產(chǎn)生了一種美感，這種影響是不可能磨滅的，AI給我們打開了一個新世界的大門，看到了更廣闊的世界，而不是相反。

這個過程中所涉及的關(guān)于知識論和認(rèn)知科學(xué)的部分，如何利用AI這面鏡子，更深地把握人類的認(rèn)知和思考的某種真實，這是我現(xiàn)在最感興趣的問題。