當(dāng)機(jī)器有了主體性，人該如何自處？

Yi：YiMagazine

P：彭凱平

人工智能技術(shù)以前所未有的速度進(jìn)入了你能想到的人類生活的各個方面。除了像此前歷次工業(yè)革命那樣提高一些環(huán)節(jié)的生產(chǎn)效率，人工智能試圖取代的東西還有更多—人的情感、陪伴以及深度思考。過去，這些屬性被認(rèn)為只有人這種高級生物才有，2022年11月最后一天ChatGPT發(fā)布后，這個結(jié)論被動搖了。

問題是，當(dāng)人類開始深度依賴AI，甚至把情感、陪伴、深度思考等需求都寄托于人工智能，我們的個人和社會會變得更好還是更糟？美國佛羅里達(dá)州那位14歲小男孩在向他的人工智能透露出自殺想法、得到了人工智能的挽回，但最后仍然在家中自殺身亡的事，可以都?xì)w咎于人工智能嗎？

以下是清華大學(xué)心理學(xué)系教授彭凱平對這些問題的回應(yīng)。

技術(shù)總在發(fā)展，適應(yīng)勝于憂慮

Yi：現(xiàn)在很多18到25歲的年輕人非常喜歡AI社交產(chǎn)品的陪伴，該怎么看待這一現(xiàn)象？你會感到擔(dān)憂嗎？

P：心理學(xué)家發(fā)現(xiàn)一個現(xiàn)象，Z世代（注：指1995年至2009年之間出生的人）都有一些社交依賴，他們不是利用傳統(tǒng)的社會與人際關(guān)系、生活方式調(diào)整情緒，而是更多利用社交平臺、技術(shù)產(chǎn)品去調(diào)整，這是一個全球現(xiàn)象，中國也不例外。人類社會里每次出現(xiàn)技術(shù)革命、生活方式的改變，都會帶來心理變化，我們應(yīng)該去適應(yīng)，而不是一味擔(dān)憂焦慮。在適應(yīng)環(huán)境的同時不斷成長，才是人的本質(zhì)。中國的潘光旦先生把它叫作“位育”?！拔弧钡囊馑际侨f物歸位，人有自己的位，同時人得成長。所以我不擔(dān)憂，現(xiàn)象出現(xiàn)了，心理學(xué)應(yīng)該去關(guān)注，社會應(yīng)該去努力，一起解決問題。

Yi：你覺得塑造人們心理的3個核心因素是什么？技術(shù)會不會是其中一項因素？

P：技術(shù)肯定是，因為它提供了即時反饋。孩子和父母再親近，父母有時很忙，不一定能即時回應(yīng)，但網(wǎng)上總有非?？斓幕貞?yīng)。第二，技術(shù)很大程度上讓人有了自主控制感，用戶可以選擇屏蔽，也可以選擇追求?，F(xiàn)實生活中沒有這種自主感，父母就是孩子情感最好的陪護(hù)，也可能是情感最大的影響源。但在互聯(lián)網(wǎng)技術(shù)時代，用戶可以去尋找，甚至去培養(yǎng)（社交）。小孩就有一種虛幻的自我控制感，但很多大人忽視了這種感受。第三，技術(shù)確實可以讓人跨越時空，好奇遠(yuǎn)方的人并與之建立聯(lián)系?，F(xiàn)實生活中，只有自己身邊的人（可以交往）。這是3個非常重要的心理原因，正好跟技術(shù)的優(yōu)勢完美匹配。

Yi：虛擬社交和現(xiàn)實社交之間是一種零和關(guān)系嗎？還是說兩者之間可以形成正向、良性的互動？

P：在情感需求的滿足方面，虛擬和現(xiàn)實可以互相促成，互補(bǔ)可能很重要。現(xiàn)實得不到的關(guān)懷與支持，在虛擬世界可以得到?，F(xiàn)實世界里沒有心理學(xué)家去解決心理問題，可以去網(wǎng)上找一個虛擬心理學(xué)家。

Yi：對用戶而言，現(xiàn)在用于情感陪伴的AI產(chǎn)品，其積極價值和潛在問題分別是什么？

P：積極價值就是即時滿足、多樣化、獲得不同的信息觀點。某種意義上，AI確實幫助很多人得到了情感豐富的咨詢和陪伴，AI比較耐心，提供的內(nèi)容比較豐富，反應(yīng)迅速，這些是AI情感陪伴不可替代的優(yōu)勢。

問題也有3個。第一，它不真實。在人類幾千萬年的進(jìn)化史中，人與人之間的肢體接觸非常真切，虛擬儀態(tài)無法感受到氣場，無法感到生命的活力和氣息。第二，人類溝通有一種心心相印的感受，但很多人低估了這些溝通，心理學(xué)早就發(fā)現(xiàn)55387原則（注：美國心理學(xué)家和傳播學(xué)家阿爾伯特·梅拉賓提出了一項重要理論，稱決定溝通效果的55%是非言語線索，38%是言語線索，7%是詞匯），55%的人類溝通不是靠語言，而是靠非語言溝通。而（AI）情感陪護(hù)一定是言語溝通，甚至有的時候用戶會感覺AI話嘮。第三個不同是現(xiàn)實生活中的溝通多樣、全面，而網(wǎng)絡(luò)溝通建立在算法基礎(chǔ)上，算法可能誤以為用戶有某種行為特性，進(jìn)而提供有針對性的陪伴，但這并不是真實生活的陪伴，不隨機(jī)的算法是一種保護(hù)，也是一種陷阱。人要成熟，要變化，要多樣性，而虛擬陪伴做不到這一點。

Yi：從互聯(lián)網(wǎng)到人工智能，技術(shù)帶來的心理狀態(tài)和生活方式變化是互聯(lián)網(wǎng)時代的延續(xù)嗎，還是說出現(xiàn)了一些新問題？

P：出現(xiàn)了新問題，任何形式的技術(shù)革命都有延續(xù)的部分，但是還有一些突變?；ヂ?lián)網(wǎng)有社交平臺的特性，AI最大的特性，我認(rèn)為第一是它有算法，這是以前的社交平臺可能沒有的地方。第二，它借助了過去很多知識文本，信息爆炸讓人無所適從，以前人類可以控制，現(xiàn)在完全不能控制。第三，是會有一些誤導(dǎo)，因為它根據(jù)算法和經(jīng)驗提出了一些想法，以前的社交平臺沒有遇到過，有人把它叫作涌現(xiàn)，而涌現(xiàn)不可琢磨。有人幫我做了一個虛擬彭凱平，但我不敢讓“他”上線。我本人在社交平臺上的發(fā)言有控制、有管理，但虛擬彭凱平會說什么我不知道，“他”有自我產(chǎn)生文本、語言、圖像甚至記憶的可能，這也許根本就不是我，很危險。

人容易把超越物理定律的東西當(dāng)成生物，AI就是這種東西

Yi：你認(rèn)為AI跟之前的互聯(lián)網(wǎng)一樣仍然是個工具，還是說AI也已經(jīng)有了一些主體性了？

P：有些人認(rèn)為它是工具。它確實是一個工具，可以用得很好。但是它的語言表達(dá)某種程度上有自身邏輯規(guī)律，心理學(xué)家對此比較警惕。它的邏輯規(guī)律容易讓普通人認(rèn)為它本身就是一個Agent，作為主體，有自由意志、自我意識，甚至有自我的經(jīng)歷與經(jīng)驗，這些都不是人類的真實經(jīng)驗，是它自己創(chuàng)造的，這個風(fēng)險非常大，作為心理學(xué)家和社會科學(xué)家，我更容易看到它后面的風(fēng)險。

很多搞技術(shù)的人認(rèn)為技術(shù)只是一種工具，實在不行就把電源拔掉。我個人覺得可以做到，但有很多人和AI溝通時，很容易把它當(dāng)作另外一個生物體，這是人類的心理特性，人類容易把能夠回答問題、會語言表達(dá)的（東西），當(dāng)作一個生物體，雖然它并不是。

有些人把貓、狗作為自己傾訴的對象。三四歲的小孩會抱一個毯子，把毯子生物化，視作安全的符號。電影《荒島余生》中湯姆·漢克斯把排球當(dāng)作伴侶，為了救排球把性命都搭進(jìn)去。連自然都可以生物化—我見青山多嫵媚，料青山見我應(yīng)如是。人類天生有一種把喜歡的東西升華的傾向，不會把它單純當(dāng)作工具，同理心強(qiáng)的人特別容易有這種感覺，比如小朋友、老人、婦女。說AI是工具的人，基本上是中年男性工程師。我認(rèn)為事實比他們想的要復(fù)雜。

Yi：這樣的心理機(jī)制導(dǎo)致很多人認(rèn)為AI是一個主體，但其實可能不是這樣？

P：理性上肯定不是，科學(xué)上肯定不是，技術(shù)上也不是，但人可能有這種心理。

Yi：1950年代的圖靈測試曾定義說，只要30%的受試者識別不出來對方是機(jī)器，對面就是通用人工智能?，F(xiàn)在的討論是基于大家并沒有認(rèn)識到人的心理認(rèn)知機(jī)制有把人工智能當(dāng)作生物體的風(fēng)險，所以才討論人工智能是否有主體性？

P：對，圖靈本身利用了人類的心理特性，提出來所謂的圖靈測試，其實心理機(jī)制是人類的本能。

Yi：心理學(xué)家沒有把這個常識告訴大家，為什么？

P：對，心理學(xué)家沒做，可能是不感興趣，有些心理學(xué)家在做別的研究。也有可能很多心理學(xué)家真的不懂，意識到這些問題的心理學(xué)家比較少。我曾因個人興趣對中國的情況做考察，當(dāng)年做了“生物化傾向性”的研究，討論人視外界事物為生物的傾向性到了什么地步，運(yùn)動的物體在什么情況下會被人類認(rèn)為有主觀性。我的結(jié)論是，只要不符合牛頓力學(xué)定律，就可以被看作是生物體。比如兩個球靜止，突然其中一個運(yùn)動起來，人類就感覺它是生物體，因為沒有能量轉(zhuǎn)換。但如果是另一個球一滾過來，兩球相撞后它再動，那它就不是生物體，只是球。

我用休謨的物理學(xué)觀點（注：最早研究物理和心理現(xiàn)象的都是哲學(xué)家）和我的心理學(xué)解讀回答這個問題，文章發(fā)在非常重要的心理學(xué)頂刊上（注：論文名為《物理和社會歸因的文化差異》發(fā)表在《人格與社會心理學(xué)雜志》），但沒人感興趣，沒人報道。與我合作研究的學(xué)生EricKnowles如今在紐約大學(xué)任教，非常有名。

我們共同開展了大量物體因果關(guān)系分析，證實物體運(yùn)動軌跡若違背牛頓力學(xué)定律，人類就傾向于將其視為生物體。這也意味著，當(dāng)機(jī)器超越牛頓力學(xué)定律，可以言語交流時，某種程度上就被賦予了主觀性。

深度思考、延遲滿足、專注力的喪失，是更大挑戰(zhàn)

Yi：移動互聯(lián)網(wǎng)的即時反饋對人的心理機(jī)制是很大挑戰(zhàn)，如果孩子們從小經(jīng)常被即時滿足，長大后面對現(xiàn)實中不能被即時滿足的時刻，應(yīng)對能力可能會下降？

P：對，提供即時滿足的社交平臺和人工智能存在不利影響。首先，深度思考能力會下降，人類能很快獲得信息，沒有冥思苦想，而是依賴計算機(jī)給出確定的回答。第二，延遲滿足能力下降，習(xí)慣了及時行樂，再回到通過追求、學(xué)習(xí)、修煉去得到結(jié)果可能就有點難。再一個，高度專注能力也會下降，得到的信息太多，可以玩的東西層出不窮，專注一件事的能力會有變化。已經(jīng)有心理學(xué)家開始關(guān)注這些問題了。

Yi：有沒有一些心理學(xué)方面的數(shù)據(jù)和事實？

P：大數(shù)據(jù)和人工智能比較新，心理學(xué)家有一些研究，但是有爭議。比如大家一直認(rèn)為，打游戲?qū)⒆觽兊膶W(xué)習(xí)有損害，但也有一些研究證明這對孩子的學(xué)習(xí)有幫助，起碼對考試有幫助。所以結(jié)論很難得出來。但作為心理學(xué)家，我認(rèn)為即時滿足帶來的延遲滿足能力下降、專注力不足和深度思考能力下降的趨勢比較明顯，這些都有數(shù)據(jù)和報道，數(shù)據(jù)不統(tǒng)一，但確實存在。

Yi：深度思考能力、延遲滿足能力和高度專注能力被認(rèn)為跟人的創(chuàng)造力和學(xué)習(xí)能力相關(guān)。如果這三種能力持續(xù)下降，可能人類再要取得像AI這樣的重大技術(shù)進(jìn)展的難度就會提升。應(yīng)該怎么處理這個問題？普通人應(yīng)該如何在新的技術(shù)浪潮下自處？

P：心理學(xué)家沒有提出好的方法，但也不是說沒想過方法。一種方法是精英主義，培養(yǎng)拔尖人才可能在某種程度上是應(yīng)對大規(guī)模的思維能力、情感能力下降的策略。這個思想不太符合我的普惠意識、公民意識、平權(quán)意識，現(xiàn)代文明的基礎(chǔ)是教育的普及，天才應(yīng)當(dāng)由基因決定，每個人都有機(jī)會成為天才，要看誰能脫穎而出。

第二個方法是人類專攻人工智能取代不了的能力。刷題、做數(shù)學(xué)、搞設(shè)計、內(nèi)容創(chuàng)造，機(jī)器做得很好，那人類就去做機(jī)器做不了的事，比如說美感，機(jī)器就做不到。攝影師可以捕捉到美好的光影，機(jī)器不一定能做到。人類的意義感，“感時花濺淚，恨別鳥驚心”，機(jī)器取代不了。人類有高度直覺能力，我稱為“黃金直覺”，感覺不對，但邏輯、信息上哪里不對，我說不上來。人類有一些非凡能力，我總結(jié)出來大概有6個，包括幸福感、感染力，這些機(jī)器都做不到。

還有一些極端思路，就像馬斯克這樣的科學(xué)狂人認(rèn)為所有芯片都應(yīng)該納米化，被植入人的身體里，讓人類成為外掛的超人。這種想法太可怕了，但也許他們認(rèn)為可以培養(yǎng)出這樣的超人?？茖W(xué)界、思想界也在討論，但還屬于超前的科學(xué)幻想。我也不知道這是好是壞，新的時代變化出現(xiàn)總是讓學(xué)者特別激動，因為偉大的社會事業(yè)就在眼前，會得出什么結(jié)果，學(xué)者還是有很大的責(zé)任。

Yi：這種情況下，做AI產(chǎn)品的技術(shù)公司應(yīng)該更進(jìn)一步做些什么事？他們是否意識到自己也有責(zé)任？你給他們什么建議？

P：AI公司有一個很好的覺悟：不作惡。Google還有Facebook的高管提出，技術(shù)不作惡、不傷害人類，不去取代人類工作，不剝奪人類的幸福，不干擾人類的繁殖，這些都是他們覺得能夠做到的事。

作為積極心理學(xué)家，我感覺不作惡的要求太低了，技術(shù)要讓人更加健康、幸福、智慧，這是我提出的技術(shù)向善三大原則。不能因為AI出現(xiàn)，人類就變傻。技術(shù)要幫助普及人類文明、對孩子因材施教，多去照顧他人、關(guān)心他人、成全他人，讓社會的美好體驗越來越多，這些都是積極心理學(xué)不斷提倡的。

Yi：人工智能技術(shù)不斷發(fā)展，大家心里有一些焦慮和不確定感，積極心理學(xué)作為工具箱還夠用嗎？

P：積極心理學(xué)是一個不斷發(fā)展的學(xué)科，它以前也沒有解決人類的所有問題，未來也不可能解決所有問題，它在與時俱進(jìn)，不斷探索。人類社會發(fā)展比科學(xué)發(fā)展快很多，所以說理論是灰色的，生命之樹常青。很多時候社會環(huán)境、人的變化超過了學(xué)科變化，我們在不斷努 力。

Yi：積極心理學(xué)是要更大程度地避免痛苦，這隱含著對痛苦的恐懼，但痛苦對人的心理與成長很重要，如果一直很積極、不痛苦，會成為更健康的人還是更麻木的人？

P：這是一個特別好的問題，積極心理學(xué)往往被人誤解，以為只談積極。其實積極心理學(xué)提倡3個特別重要的步驟：第一，一個人能夠積極的前提是能夠經(jīng)歷痛苦、理解痛苦、改變痛苦；第二，創(chuàng)造積極；第三，創(chuàng)造意義。真正積極的只是中間部分，前面的痛苦感受和后面的意義創(chuàng)造特別重要，中間是愉悅情緒的調(diào)節(jié)方法。積極心理學(xué)特別強(qiáng)調(diào)痛苦，痛苦至少有3個價值。人在痛苦時才會深度思考，在抑郁、悲傷的時候，才會想生活為什么這樣？第二，人類痛苦時，往往更覺人性高貴。到了最卑微、最艱難的狀態(tài)再凱旋，英雄敘事都是這樣，一帆風(fēng)順的不是英雄。我們中國人說，若沒有經(jīng)受筋骨之累、辛苦之勞，很難成就大事業(yè)。沒有痛苦的人都不知道自己偉大，沒經(jīng)歷過黑暗的人，都不知道光明是什么。第三，人會在痛苦經(jīng)驗中產(chǎn)生意義感。

從個體角度講，吃苦帶來的快樂叫內(nèi)啡肽，多巴胺引發(fā)的開心很爽，但內(nèi)啡肽是苦盡甘來的甘，比沒有苦的甜還甘，內(nèi)啡肽的刺激作用讓人產(chǎn)生強(qiáng)烈反差。作為積極心理學(xué)家，我特別反對假性積極，天天標(biāo)榜自己樂呵呵，沒有必要，還是要承認(rèn)生活的艱難，了解自己的痛苦體驗，不被痛苦擊垮。

Yi：你的說法讓人想到“文章憎命達(dá)”，生活太順的人可能表達(dá)內(nèi)容就不會太深刻？

P：對，彭老師生活很不順，大家都覺得我樂呵呵，但我也受到過誤解和攻擊，也有委屈，甚至有很多至暗時刻。我在美國留學(xué)時一貧如洗，找工作都很難。美國人喜歡亞裔女孩，不會喜歡我們這些亞裔男孩?；貒笪以庥鲞^誤解，有些人老以為我西化，甚至崇洋媚外，出現(xiàn)針對我的網(wǎng)絡(luò)暴力。但大多數(shù)人還是好的，生活的大部分時間還是很開心。