認(rèn)識(shí)AI，更多是為了認(rèn)識(shí)人類(lèi)自身

徐梅

“這里面的利害遠(yuǎn)遠(yuǎn)超過(guò)了對(duì)索拉里斯文明的探索，因?yàn)樗鶢可娴氖俏覀冏约?，事關(guān)人類(lèi)認(rèn)知的局限性。”

當(dāng)我在《索拉里斯星》里讀到這句話的時(shí)候，心里一震。

2023年3月22日跟李喆通話時(shí)，他提到了這本科幻小說(shuō)——波蘭作家斯坦尼斯瓦夫·萊姆在上世紀(jì)六七十年代以不可思議的想象力，寫(xiě)出了這個(gè)人類(lèi)與外星文明相遇的故事。

索拉里斯星文明是一個(gè)類(lèi)似于智能海洋文明的超級(jí)存在，充滿人類(lèi)科學(xué)家不能解釋的現(xiàn)象，“這片活海洋”仿佛一個(gè)巨型大腦，它比人類(lèi)文明領(lǐng)先數(shù)百萬(wàn)年，但它的行為并不依照“人類(lèi)的觀念”，它不建造城市和橋梁，也不造飛行器或試圖穿越太空，也不試圖征服宇宙，而是“整天忙于進(jìn)行成千上萬(wàn)次的‘本體自發(fā)變形”。

像不像黑匣子里不知疲倦地自主學(xué)習(xí)不斷進(jìn)化的AI？

小說(shuō)里萊姆寫(xiě)道，承認(rèn)這片大海具有意識(shí)已經(jīng)需要極大的勇氣，跟這個(gè)會(huì)思考、擁有心理活動(dòng)卻非人類(lèi)觀念的龐然大物“對(duì)話”更是要逼瘋?cè)祟?lèi)。

“歸根到底，一個(gè)人只能用他自己的大腦來(lái)思考?！?/p>

“再說(shuō)，就算真的和會(huì)思考的海洋實(shí)現(xiàn)了‘信息交流，人們究竟希望從中得到些什么呢？他們又能從中期待些什么呢？”

“誰(shuí)知道呢？也許這樣是值得的，……我們恐怕不會(huì)對(duì)它有任何了解，但也許能夠了解一下我們自己……”

索拉里斯星上的智慧大海沉默不語(yǔ)，精神瀕臨崩潰的人類(lèi)科學(xué)家喃喃自語(yǔ)。

我是跟李喆通完電話后，才看的這本小說(shuō)，書(shū)上讀到的這些句子，讓我對(duì)他的思考和認(rèn)知更新有了更多理解。

李世石退役的時(shí)候，李喆在《圍棋天地》上發(fā)表了一篇文章，流傳甚廣。他在文中稱(chēng)，李世石的退役標(biāo)志著充滿智慧創(chuàng)造和個(gè)人風(fēng)格的棋士時(shí)代的終結(jié)，稱(chēng)之為“一個(gè)時(shí)代的退隱”。

李喆在那篇文章里借用了文學(xué)批評(píng)中“作者已死”的觀念，以此關(guān)照AI出現(xiàn)后被迫“從創(chuàng)造主體降格為模仿者”的人類(lèi)頂級(jí)棋手，“作者的隱匿退出，作品的同質(zhì)化與套路化，創(chuàng)造性的消亡，新形式的缺失……如果說(shuō)這些危機(jī)在文藝領(lǐng)域還只是影影綽綽地呈現(xiàn)于敏銳專(zhuān)業(yè)的人群心中，那么在圍棋界，這些危機(jī)在技術(shù)飛躍的這兩三年里，已經(jīng)實(shí)實(shí)在在地?cái)[在所有人面前?！?/p>

跟李喆通話的時(shí)候，武漢大學(xué)正是櫻花盛放的時(shí)節(jié)，在這所被譽(yù)為全國(guó)最美的花園大學(xué)里，李喆給武大學(xué)生開(kāi)了一門(mén)圍棋課，下棋不多討論不少，期末考試，學(xué)生并不需要在棋盤(pán)上鏖戰(zhàn)收官，而是要交一篇小文章。

李喆總是會(huì)聯(lián)系最新的新聞，讓同學(xué)們展開(kāi)討論。思辨是人類(lèi)最強(qiáng)大的認(rèn)知更新工具，而ChatGPT永遠(yuǎn)“自信滿滿”，研究人員迄今還未攻克的一個(gè)難題是訓(xùn)練它，讓它知道自己“不知道”，遇到未知領(lǐng)域的問(wèn)題，可以直接回復(fù)“我不知道”，而不是一本正經(jīng)地說(shuō)瞎話。

3月份有一個(gè)重大新聞，美國(guó)棋手凱琳·佩林并非職業(yè)棋手，甚至在業(yè)余棋手中也算不上高手，然而他與頂級(jí)圍棋AIKataGo對(duì)陣竟然14勝1負(fù)，這個(gè)戰(zhàn)績(jī)令世界頂級(jí)棋手都不敢想象。

“他取勝的方式并不是人類(lèi)常規(guī)的行棋思路，而是一個(gè)科技公司開(kāi)發(fā)出來(lái)的，由另一個(gè)AI算出的針對(duì)AI盲點(diǎn)的下法?！?/p>

研究人員表示，KataGo之所以失手，可能是因?yàn)樵谒膶?duì)抗性演練中，并沒(méi)有經(jīng)歷過(guò)足夠多的此類(lèi)下法——或者說(shuō)，這種制造“包圍圈”的下法往往在剛開(kāi)始時(shí)就因?yàn)槔速M(fèi)棋子太多，而被認(rèn)為注定落敗，所以圍棋AI也沒(méi)有意識(shí)到如果讓“包圍圈”合圍，自己就會(huì)落敗。

這個(gè)棋盤(pán)上的實(shí)驗(yàn)充分顯示了AI快速部署的潛在風(fēng)險(xiǎn)，如同開(kāi)發(fā)這個(gè)擊敗頂級(jí)圍棋AI程序的美國(guó)加州科技公司FARAI的首席執(zhí)行官所言，“我們能看到，非常龐大的AI系統(tǒng)在幾乎沒(méi)有被驗(yàn)證的情況下就被大規(guī)模部署了?！?/p>

除了人工智能并非全知全能、在部署上必須慎重可控這個(gè)點(diǎn)，李喆更想要引導(dǎo)學(xué)生們通過(guò)這則新聞深入思考圍棋AI的思維模式與人類(lèi)的差異，以此理解縱使AI可以在知識(shí)層面上迅速超過(guò)人類(lèi)，人類(lèi)與AI之間的學(xué)習(xí)過(guò)程仍然是復(fù)雜的、長(zhǎng)期的。

在李喆看來(lái)，人類(lèi)棋手這些年在做一個(gè)非常前沿的思維實(shí)驗(yàn)，將AI所展示的下法，通過(guò)人類(lèi)的思維方式進(jìn)行理解，“轉(zhuǎn)化為人類(lèi)的知識(shí)。”

“我們都在說(shuō)人類(lèi)棋手在學(xué)習(xí)AI，其實(shí)AI怎么想的，人們并不知道，它在黑匣子里運(yùn)行，它的啟示是一種沉默的啟示。人類(lèi)向AI學(xué)習(xí)的過(guò)程是非常漫長(zhǎng)的，這個(gè)過(guò)程中人類(lèi)會(huì)看到AI的邊界，也會(huì)更多認(rèn)識(shí)自己?！?/p>

“人類(lèi)棋手與AI共存七年，你最深的感觸和思考是什么？”李喆在我們結(jié)束通話前的最后一問(wèn)中陷入了長(zhǎng)考，“我要想一下再回答你，我給你發(fā)微信吧！”

掛斷電話幾分鐘后，我的手機(jī)對(duì)話框里跳出這樣一段話——“七年來(lái)，和圍棋領(lǐng)域一樣，AI在各行業(yè)生成超越以往人類(lèi)認(rèn)知的信息，這些信息之精確和高效將帶來(lái)許多外在的行業(yè)結(jié)構(gòu)變化和內(nèi)在的反思性，也引發(fā)一些焦慮不安。不安和抗拒的源頭或許關(guān)于人類(lèi)思維與AI算法的對(duì)照：解AI算法bug不易，破人類(lèi)思維慣性更難。”

以下是李喆關(guān)于人類(lèi)智慧與人工智能如何“接觸”的思考：

這學(xué)期開(kāi)始我給學(xué)生出了一個(gè)題目：“AlphaGo之后ChatGPT又引發(fā)了一個(gè)人工智能的熱潮，為什么AI在圍棋和語(yǔ)言方面的應(yīng)用會(huì)引起全世界的關(guān)注？”

有一個(gè)學(xué)生交的作業(yè)寫(xiě)得特別好，他說(shuō)就他而言，AI最讓人感興趣的是，它就像是人類(lèi)認(rèn)知世界思考問(wèn)題的一面鏡子，圍棋AI甚至沒(méi)有收官的概念，只有勝率和最好的下法，恰恰反映出人類(lèi)對(duì)圍棋是以自己的思維方式來(lái)認(rèn)知的。

他說(shuō)就像科幻小說(shuō)《索拉里斯星》里的一句話，“在人類(lèi)不存在的地方也就不存在人類(lèi)能夠理解的邏輯?！?/p>

這位同學(xué)說(shuō)，“人類(lèi)的有限性促使我們必須追求在自我的理解中實(shí)現(xiàn)最優(yōu)解，同時(shí)還要明白世界存在著各種各樣的認(rèn)知方式，對(duì)此我們必須理解和尊重?！?/p>

我上學(xué)期給他們上課的時(shí)候講了很多關(guān)于AI的算法和我們?nèi)祟?lèi)下棋的思維差異性，首先是為什么AI能贏我們，其次是除了勝負(fù)以外還有什么內(nèi)容。

這里面肯定不光是輸贏，還有很多關(guān)于認(rèn)知方面的問(wèn)題——我們?nèi)祟?lèi)下棋是通過(guò)一個(gè)什么樣的認(rèn)知和決策結(jié)合起來(lái)的；AI下棋是怎么下的？這些異同都會(huì)反映在棋盤(pán)上。

有了AI之后，AI的下法是不是真的能被我們理解，我們所謂的理解到底是什么？這些都很值得去探討。

AI為我們展現(xiàn)并揭示出一種更真實(shí)、更正確的“認(rèn)識(shí)”或者可稱(chēng)之為真理，當(dāng)然它們現(xiàn)在能力還有限，不是絕對(duì)正確。

這種揭示是一種沉默的揭示，它不會(huì)告訴你為什么。如果不告訴你為什么的話，其實(shí)它給出的知識(shí)就還不完全是一個(gè)可以直接在思維上指導(dǎo)你的一種工具，思維的重新建立，還是要人類(lèi)自己來(lái)做的。

我們依靠AI先拿到一個(gè)結(jié)果，然后我們?nèi)ネ七@個(gè)過(guò)程，這和以往我們的認(rèn)知方式是相反的，而且這個(gè)過(guò)程并不是AI本身的過(guò)程，因?yàn)锳I的過(guò)程我們是不知道的，我們也無(wú)法模仿。

我們要用人的思維模式來(lái)完成這個(gè)過(guò)程，這個(gè)過(guò)程實(shí)際上也只是對(duì)我們?nèi)祟?lèi)自己有意義，對(duì)人類(lèi)提高自身的認(rèn)知能力有意義。

我們這一代跨越了前AI和AI兩個(gè)時(shí)代的“過(guò)渡時(shí)期的棋手”都在做這個(gè)工作，從小學(xué)的都是傳統(tǒng)的人類(lèi)整體的經(jīng)驗(yàn)，加上自己個(gè)體的天賦和經(jīng)驗(yàn)的結(jié)合，這是我們?cè)贏I出現(xiàn)之前的學(xué)習(xí)方式和知識(shí)獲得的方式。

AI出現(xiàn)之后，它呼喚了一種新的能力，一種在AI給出的信息和你自身的認(rèn)知之間建立起一種新的連接的能力。掌握這種能力不是一件很容易的事情，在AI的算法和人類(lèi)的道理中，要建立起一個(gè)術(shù)和道的對(duì)話，這是比較困難的，是一個(gè)長(zhǎng)期的事情，不是一下子能夠完成的。

有一種說(shuō)法認(rèn)為現(xiàn)在的棋手記憶力強(qiáng)就會(huì)占優(yōu)，把AI的棋都背下來(lái)就贏了。這是不可能的，圍棋太復(fù)雜了，變化太多，不可能靠死記硬背學(xué)AI就行。我覺(jué)得這完全是一種誤解，是對(duì)后AI時(shí)代人類(lèi)優(yōu)秀棋手的貶低，能夠把AI的棋更好地轉(zhuǎn)化為自己的理解，這個(gè)能力是很難得的，是一種很強(qiáng)的能力。

有趣的是，AI看似給了標(biāo)準(zhǔn)答案，但由于它沒(méi)有給出解釋?zhuān)瑢?dǎo)致每個(gè)棋手用人類(lèi)思維轉(zhuǎn)換它的時(shí)候，理解路徑都不一樣。AI的一步棋，同樣是頂尖棋手，因?yàn)樗麄兏髯缘娘L(fēng)格不同、認(rèn)知不同，可能產(chǎn)生的理解就不同。

從這個(gè)角度來(lái)看，我也不認(rèn)同今天的棋手因?yàn)锳I失去了個(gè)人風(fēng)格這個(gè)說(shuō)法，我覺(jué)得這個(gè)說(shuō)法是非常粗糙簡(jiǎn)單的。打一個(gè)不那么恰當(dāng)?shù)谋确?，今天世界足壇也有風(fēng)格化喪失的說(shuō)法，但實(shí)際上每支球隊(duì)都有自己的節(jié)奏和特點(diǎn)，只是隨著專(zhuān)業(yè)化的進(jìn)程，這些風(fēng)格差異更難被識(shí)別出來(lái)了。

AI時(shí)代的圍棋也是這樣，整體更快更強(qiáng)，但由于知識(shí)轉(zhuǎn)化過(guò)程中特別依賴(lài)于個(gè)人的思維，每個(gè)人從AI下法收獲到的東西是不一樣的，反映出來(lái)就可能是下棋質(zhì)量的高低，也有可能是風(fēng)格的不同。我認(rèn)為隨著對(duì)AI下法和信息的不同角度的理解轉(zhuǎn)化，未來(lái)或許反而是更加具有個(gè)人風(fēng)格的時(shí)代。

AI不僅對(duì)棋手提出了要求，對(duì)圍棋解說(shuō)評(píng)論和寫(xiě)作闡釋都提出了更高的要求，這些從業(yè)者也要具備更高的認(rèn)知轉(zhuǎn)化能力才能將棋盤(pán)上的思維撞擊闡釋得更加精彩。

我一直很遺憾，AI出來(lái)后，我們沒(méi)有利用這個(gè)工具，更生動(dòng)更準(zhǔn)確地展示出棋手下棋時(shí)頭腦中的風(fēng)云變幻。都說(shuō)圍棋很難，難在哪里？懂棋的人看得大呼過(guò)癮，能不能把激烈的智力戰(zhàn)斗用AI這個(gè)輔助工具更直觀地展現(xiàn)出來(lái)？這些工作都沒(méi)有做，只盯著AI的實(shí)時(shí)勝率看，太可惜了。

對(duì)于行業(yè)來(lái)說(shuō)，AI改變了訓(xùn)練方式、改變了行業(yè)格局，但非常可惜，在揭示圍棋真理上，還有很多可能性沒(méi)有被實(shí)現(xiàn)出來(lái)。AI讓我們有了一個(gè)自我關(guān)照的對(duì)象，可能更能夠讓我們明白自己是什么，然后我們的能力是什么，我們的思維是什么，我們下棋的時(shí)候思維到底是什么樣子的，到底是由哪些部分組成的？厚薄、死活、輕重、官子……這些圍棋知識(shí)的性質(zhì)和區(qū)別是什么？棋感、計(jì)算、判斷，這些下棋時(shí)的基本思維，又與人的哪些認(rèn)知能力和特點(diǎn)有關(guān)？由于可以跟AI做對(duì)比，人類(lèi)思維的長(zhǎng)處和弱點(diǎn)更容易體現(xiàn)出來(lái)，這些東西都是非常有價(jià)值的。在這些重新理解和回顧認(rèn)知的基礎(chǔ)上，我們或許還可以向前一步，借助AI技術(shù)上的超越性來(lái)創(chuàng)造一些新的有效的概念，由此突破人類(lèi)自身原有的思維邊界。

我們下棋到底用了什么樣的思維方式，然后我們的認(rèn)知和情緒是怎么產(chǎn)生作用的，這些東西其實(shí)是構(gòu)成人性的東西，里面有關(guān)于人本身的知識(shí)。

不管怎么樣，AI至少讓我們看到了圍棋更美的東西，我們?nèi)祟?lèi)圍棋進(jìn)步的速度是很慢的，我們的界限就在那里了。AI出來(lái)，打破了藩籬，讓我們對(duì)圍棋的認(rèn)知因?yàn)楦咏胬矶a(chǎn)生了一種美感，這種影響是不可能磨滅的，AI給我們打開(kāi)了一個(gè)新世界的大門(mén)，看到了更廣闊的世界，而不是相反。

這個(gè)過(guò)程中所涉及的關(guān)于知識(shí)論和認(rèn)知科學(xué)的部分，如何利用AI這面鏡子，更深地把握人類(lèi)的認(rèn)知和思考的某種真實(shí)，這是我現(xiàn)在最感興趣的問(wèn)題。

（摘自微信公眾號(hào)“南方人物周刊”）