陳楸帆的全球飛行：從聯(lián)合國氣候大會到ChatGPT，兩大行星級議題交織

乘飛機(jī)抵達(dá)迪拜后，來參加2023年第28屆聯(lián)合國氣候變化大會的陳楸帆想，怎么把自己這一程的碳排放給抵消掉。

這場有史以來規(guī)模最大的氣候變化大會充滿了爭議，7萬多人的參與讓大會自身的碳排放就已經(jīng)不可估量。在一座沙漠中的化石燃料之城，來自167個國家和地區(qū)的領(lǐng)導(dǎo)人及官員探討如何逐步淘汰化石燃料，然而直到原定的閉幕日12月12日也未能達(dá)成全球協(xié)議，會議在激烈談判中不得不延期一天。面對全球變暖之下近年頻發(fā)的極端天氣事件，聯(lián)合國秘書長古特雷斯表示，“氣候變化是我們這一代人的生存威脅。”

作為科幻作家，陳楸帆覺得這一次的參會過程就像走在科幻片里，“很多既諷刺又現(xiàn)實的場景，讓你不停有一些反思和想法?！彼麥?zhǔn)備把這些觀察寫進(jìn)他的科幻小說。

近兩年，陳楸帆過著全世界跑的生活，2023年的行程加起來已經(jīng)可繞地球四圈。11月中旬，他受邀參加巴黎和平論壇，在一場圍繞AI未來的講座中，他說到新時期的“算法奴役”，人們被強(qiáng)化偏見的算法、放大自我的社交媒體，以及將最狹隘的觀點不斷反彈的信息孤島所包圍。在他看來，人類意識中的缺陷和弱點塑造著社會結(jié)構(gòu)、左右著政策制定，“當(dāng)這些局限性不僅是內(nèi)在的，且被科技故意操縱和放大時，其后果可能是災(zāi)難性的?！?/p>

這份活動邀請，源于2022年陳楸帆的兩本書《荒潮》《AI未來進(jìn)行式》的法語和德語譯本的出版及歐洲市場的反響。前者是講述中國電子垃圾危機(jī)和氣候不平等的小說。后者是他和李開復(fù)合著的書，兩人是在谷歌工作時的同事。

2019年，李開復(fù)找到陳楸帆，想合力完成一本展現(xiàn)20年后被AI技術(shù)深刻改變的人類社會圖景的作品。他們閱讀了海量論文，與業(yè)內(nèi)專家交流，參與AI工作坊，走訪相關(guān)創(chuàng)業(yè)公司。成書《AI未來進(jìn)行式》采用科幻小說加科技評論的形式，以合乎邏輯的方式推演人工智能將在20年后達(dá)到什么水平。

2023年，兩人再見面時，都認(rèn)為當(dāng)時的預(yù)測太保守了?！皶飳懙暮芏喙适露疾恍枰?0年，有可能5到10年就會變成現(xiàn)實?！标愰狈f。當(dāng)人們談到AI，常說應(yīng)該讓AI與人類的價值觀對齊，“但問題是人類社會內(nèi)部的價值觀都不對齊?！?/p>

“整個世界的現(xiàn)實圖景已經(jīng)高度復(fù)雜化、抽象化，它遠(yuǎn)離了我們?nèi)粘＝?jīng)驗的限度?！标愰狈X得，這正是科幻小說在技術(shù)加速年代的魅力所在。在學(xué)者楊慶祥看來，好的科幻小說善于通過技術(shù)想象展開“思想實驗”，“不停地與固化的秩序和意識形態(tài)進(jìn)行思想的交鋒，不憚于創(chuàng)造一種全新的生存方式和建構(gòu)模式——無論是在想象層面還是在實踐層面?！?/p>

接受《南方人物周刊》記者采訪時，陳楸帆剛剛落地韓國首爾，將參加另一場關(guān)于人工智能與氣候變化的峰會。幾年前，陳楸帆就開始用AI寫小說了，也親身經(jīng)歷著AI技術(shù)迭代的過程，“因為未來不會等你?！彼f。

人：人物周刊陳：陳楸帆

“超級對齊”，還是“有效加速”？

人：現(xiàn)在你和AI是什么樣的創(chuàng)作關(guān)系？

陳：它不是一蹴而就的，很多人可能會誤解為它是一鍵下單的過程，但其實整個過程里人類需要付出的勞動，一點也不比自己獨(dú)立創(chuàng)作少。因為在這過程中你需要不斷迭代、試錯，可能很多時候它不能給出特別滿意的答案，會覺得挺有挫敗感的。ChatGPT出來前，我們沒有直接跟AI對話交互的界面。

現(xiàn)在我基本上都使用現(xiàn)成的ChatGPT和其他定制化AI工具作為日常工作的輔助，比如寫郵件、起草發(fā)言稿、翻譯、整理日程表，這些都很容易完成。如果跟創(chuàng)意寫作相關(guān)，可能會用它做頭腦風(fēng)暴，它會給出很多方向，但大部分都比較平庸或者套路化。就現(xiàn)在來說，所謂的AI也是個黑盒子。它會有很多不實數(shù)據(jù)和虛假事實，你得有判斷力地使用，有選擇、有策略地提升效率，甚至打破被局限在思維慣性里的套路或刻板印象。

我覺得這也是對AI的認(rèn)知以及與AI協(xié)作不斷深入的過程，需要有這樣一個開放、積極、建設(shè)性的心態(tài)去對待它。在人機(jī)不斷交互的過程中，人類也在不斷學(xué)習(xí)，成為更好的創(chuàng)作者。如果人類用非常懶惰、被動的方式去使用AI，它就會給出讓你變得更懶惰、更被動的答案。

人：過去一年，你參加的關(guān)于人工智能的論壇中，各個國家、地區(qū)的討論側(cè)重點有哪些不同？國際上目前存在對AI具有約束力的監(jiān)管協(xié)議嗎？

陳：就我的感覺而言，歐洲主要偏重于風(fēng)險監(jiān)管，關(guān)注AI對傳統(tǒng)人本價值、人文領(lǐng)域的沖擊。這些討論會有地域性差別，也和討論者所在的行業(yè)、地位或階層有關(guān)。比如美國硅谷的聲音和美國南部普通老百姓的肯定不一樣，所以沒法一概而論。

但整個大環(huán)境是，資本一方肯定希望以更快的速度發(fā)展AI技術(shù)。所謂的“有效加速主義”，是硅谷很多大佬崇尚的一套哲學(xué)，技術(shù)盡可能快地加速，這樣能解決很多問題，即使技術(shù)發(fā)展在過程中出現(xiàn)了新問題，也可以因為加速而得到解決，從而迫使人類文明進(jìn)化到更高的維度。

另外也有更謹(jǐn)慎保守的聲音，也即“對齊主義”，要求在人類制定出監(jiān)管框架和手段前不應(yīng)盲目追求速度，因為這和研發(fā)核武器一樣，很可能會把人類文明帶入非常危險的境地。

所以11月1日，在英國舉辦的首屆全球人工智能（AI）安全峰會上有二十幾個國家聯(lián)署了一份新的AI監(jiān)管的整體性框架協(xié)議《布萊切利宣言》，這可能是第一個國際性的AI監(jiān)管框架。這個宣言主要有兩個議程，首先是識別風(fēng)險，其次是建立起對這些風(fēng)險的全球共識。然后，根據(jù)識別出來的風(fēng)險，各國制定政策來確保安全，因為各國國情、法律框架都不一樣，需要因地制宜地落實到政策層面。此外還會通過國際化合作來制定評估指標(biāo)。峰會每年都要召開，目的是構(gòu)建一個國際包容的AI前沿安全的研究網(wǎng)絡(luò)。

至少能看到包括中國、美國、英國，還有很多其他的大國和歐盟，都愿意放下地緣政治、意識形態(tài)等等分歧，圍繞人工智能安全與監(jiān)管的大問題來開展對話和合作。這意味著一個全球性的、行星級別的議題的出現(xiàn)，就和氣候變化一樣，是現(xiàn)在兩大需要全球協(xié)作的議題。

新的“中心化”，線上生活更難了嗎？

人：今年全球關(guān)于AI的討論中，有一個本質(zhì)問題是，人這個物種的獨(dú)特性，是否在AI來臨時變得岌岌可危了？《AI未來進(jìn)行式》的《幸福島》寫智能時代的機(jī)器與算法遠(yuǎn)比人類更了解自身，這可能是人們對AI感到恐懼的一個原因，即主體性被剝奪。當(dāng)一切都可以被量化后，人的自我意識還有什么主體性？

陳：這個問題其實非常復(fù)雜，可以從不同的維度來看。到底什么是最本質(zhì)的幸福？比如小說里是說如果有一種生物學(xué)指標(biāo)可以將它量化，那它就能被機(jī)器學(xué)習(xí)、讀取，甚至施加影響，這是一種非常還原論的想法。

但我覺得，到最后人類還是不可能被如此簡單機(jī)械地還原成一堆數(shù)據(jù)。因為現(xiàn)在人工智能學(xué)到的也是非常有限的數(shù)據(jù)集，比如語言文字上的數(shù)據(jù)，還包括圖像上的。但有更多更微妙復(fù)雜的、無法被量化的數(shù)據(jù)，比如情緒的變化、意識現(xiàn)在是無法被監(jiān)測到的。因為意識本身需要通過表征外化成語言文字、標(biāo)簽、聲音等等，需要一個外部化的過程。所以，當(dāng)你的意識還沒有被表征出來時，其實就無法被識別、探測和量化。

我覺得就是魯迅先生老早說過的“絕望”與“希望”的辯證法，它們一直都在互相轉(zhuǎn)化，互相依存。我不覺得人類歷史上有絕對黑暗的絕望時刻，也不會有純?nèi)还饷?、充滿希望的瞬間，而是在不停地交織作戰(zhàn)、螺旋式上升的過程。所以，最后還是取決于人類本身。不要小看每個個體，雖然力量很渺小，但是每個個體最后能夠通過這樣的講述故事的方式，凝聚起共識。這也是尤瓦爾·赫拉利說的，人類作為一個物種，其獨(dú)特的能力其實是講故事，而不是使用工具或者語言——但我在這里存疑，其他動物肯定也有講故事的能力，只不過這故事或許還不能被我們?nèi)祟愃斫?、所認(rèn)知——他認(rèn)為這是我們能夠超越個體去凝聚共識，完成更復(fù)雜、更大規(guī)模的工程的可能性。這工程可能是巨大的，比如造一座長城，或者建立起一套制度。所以我覺得人類還是有希望的，就在于我們能夠通過講故事的方式去傳遞這種希望。

人：近幾年講到算法時，一方面是實用主義的進(jìn)步語境，另一方面則是科技剝削如“算法外賣員”“短視頻算法推送”。《幸福島》講的也是一個如何讓AI更好地服務(wù)人類生活的故事，即讓AI不再只專注于優(yōu)化單一目標(biāo)函數(shù)，而轉(zhuǎn)向更豐富、更有彈性乃至更有人文屬性的函數(shù)模型，這對我們當(dāng)下已被技術(shù)滲透的生活有哪些現(xiàn)實啟發(fā)？

陳：書里很多內(nèi)容都在探討媒介對人的影響，無論是deep-fake（深度偽造）還是沉浸式虛擬環(huán)境，包括虛擬偶像數(shù)字人。其實我們已經(jīng)在進(jìn)入一個虛擬時代了，經(jīng)過疫情，很多行業(yè)加速了這個過程，現(xiàn)在大家都習(xí)慣在家上班或上課。但這個過程中也會有新的問題出現(xiàn)，包括信息的真?zhèn)伪鎰e，在未來這種AIGC（生成式人工智能）能力可能是一個非常低成本的工具，很多人只要想就能夠制造出以假亂真的信息，可能給社會帶來干擾，甚至造成不良影響和風(fēng)險。那我們怎么來防范？怎么來管控這些信息？

除此之外，當(dāng)下一代年輕人越來越習(xí)慣于虛擬社交，因為他們會覺得這種關(guān)系、這種交互過程是可控、舒適的，而且是高度定制化的。就像很多人會和AI談戀愛，因為AI可能比真實的人類更知道怎么去說話、怎么去討好對方，而真實的人很多時候做不到這樣的事，所以他會恐懼和排斥真實的社交和關(guān)系。這已經(jīng)在發(fā)生，不管是在中國還是其他國家，而這肯定會引起非常大的社會結(jié)構(gòu)變化，包括人口出生率、結(jié)婚率的下降等等。這是一個必然的過程，但我們怎樣去調(diào)整現(xiàn)有的觀念和社會結(jié)構(gòu)去適應(yīng)這個過程？

當(dāng)然，我鼓勵人必須有真實的社交，物理世界的交流和交往非常重要。因為目前虛擬數(shù)據(jù)的解析度還非常低，比如可能是720的解析度，但真人漸變可能是4K或者8K的解析度，它的信息密度是完全不一樣的。

而且，下一代已經(jīng)生活在未來了，以后代際之間的距離會越來越大，有可能隔了一代人，就是兩個世界。也就是所謂的后人類，上一代人看下一代人就覺得他們是另一個物種。我覺得這個事情可能會加速發(fā)生，甚至有可能下一代也不認(rèn)為自己是人類。我們現(xiàn)在還沒有足夠多的討論和理論工具讓我們做出一些及時的反應(yīng)，而科幻就是幫你去做準(zhǔn)備的類型。

人：你曾說短視頻短的原因，“就是把人的感官分辨率無限地切分到接近極限”，以刺激人的生物性本能作為終極目的，技術(shù)的發(fā)展讓對人的剝削進(jìn)入到一個嶄新的階段。這個年代，一個普通人面對多重算法的夾擊，是否線上生存難度也太大了？

陳：難度是很大，但可能放在沒有互聯(lián)網(wǎng)的時代也是一樣，只不過現(xiàn)在信息密度更大。比如說在報紙、電臺、電視臺的時代，其實也是一樣的，而且是更中心化的媒體權(quán)力結(jié)構(gòu)，所有的媒體都掌握在位高權(quán)重者手中，那他可以控制你讀到什么、讀不到什么。到了互聯(lián)網(wǎng)時代，大家會覺得這是一個信息民主化的過程，大家可以平等、公開、透明地獲取信息，打破了所謂的階層和權(quán)力結(jié)構(gòu)，好像是一個去中心化的過程。但經(jīng)過一段時間的發(fā)展，你會發(fā)現(xiàn)它又重新中心化了。

因為資本主義的邏輯鏈條就是要圈地，它要做大做強(qiáng)，最大程度地壟斷并且榨取剩余價值，所以又重新中心化成一個個的平臺，一個個信息孤島，由此產(chǎn)生各自的立場和偏見。所以這其實就是一個不斷地中心化、去中心化、再中心化的過程。只要人類存在一天，這個過程就不會停止，AI是這個過程中的一環(huán)而已。

現(xiàn)在的AI也是一個非常中心化的東西，你很難設(shè)想一個沒有錢、沒有數(shù)據(jù)的個體創(chuàng)業(yè)者能在這個時代靠自己搞出一個大語言模型，因為沒有錢買GPU、搞數(shù)據(jù)、訓(xùn)練機(jī)器。在之前那個草根互聯(lián)網(wǎng)時代，已經(jīng)出現(xiàn)了所謂新中心化的局面，而在即將到來的AI時代、大模型時代，會更加中心化，但這之后可能又會迎來一個新的去中心化的時代。那個是什么？我也不知道，但這個過程是不會消停的，這就是人類。

全球化的離散年代，人還需要故鄉(xiāng)嗎？

人：這兩年你在全世界跑，大多時間都在國外，跳換在不同時區(qū)間的生活是怎樣的？

陳：我感覺我這兩年也是處于一個加速度的過程。不管是去的地方、見的人，還是思考的問題都超出了之前10年甚至20年的密度。對自身精力、時間管理等等方面也提出了更高要求。我也因為這兩年去了太多地方，開始思考所謂的“在地性離散”、家鄉(xiāng)這些問題。

以前沒有如此具身地感受過，當(dāng)自己不停換地方、換語境，我就會更深切地感受到自己身上的“中國性”。不管你去到哪個地方，哪怕你換了不同的身份，但你作為中國人的標(biāo)簽是沒有辦法改變的，它從語言，到身體的感官、到記憶，是你存在的一部分，這是你無法否定也無法剝離的。

人：你覺得人還需要一個“故鄉(xiāng)”嗎，一個擁有全球視野的人，還需要與自己出生的地域和傳統(tǒng)保持一定的親密聯(lián)系嗎？

陳：還是需要的，雖然不一定需要物理上回到故鄉(xiāng)的這種在地性。在法國我認(rèn)識了一些潮汕后裔大學(xué)生，他們中有的是混血，也有柬埔寨的潮汕后裔，他們不會說潮汕話。但他們告訴我，如今在法國興起了一個運(yùn)動，這些年輕的潮汕后裔開始組織協(xié)會或自發(fā)組織，開展文化尋根活動。有位年輕導(dǎo)演叫杜來順，拍了一部動畫片講述潮汕的故事。盡管他們離開很遠(yuǎn)很久了，但他們?nèi)韵Ｍ麑ふ易陨砦幕母础?/p>

我覺得尋根的沖動是人類的本質(zhì)之一，它不會因為你走得遠(yuǎn)而消失，它會以不同的形式重生。就好像我寫在VR建一個潮汕祠堂，你的先輩們都是以這種虛擬的數(shù)字人的形式被供奉，你還可以跟他們?nèi)セ?，其實也是一種對故鄉(xiāng)的科幻式表達(dá)。

我覺得人最后還是需要回答一些最本質(zhì)的問題，那就是我是誰？我從哪里來，我要到哪里去？就這幾個問題，人是逃不掉的。