不要溫和地走進(jìn)與A I共生的時(shí)代
——追問大模型時(shí)代的人機(jī)關(guān)系

童 祁 胡曉萌

工業(yè)革命迄今，人類在數(shù)百年間逐漸習(xí)慣與機(jī)器朝夕相處，從最初的驚慌失措到現(xiàn)在的視若無睹，而今媒介成為身體的延伸，手機(jī)成為媒介的集成，機(jī)器甚至成為人身體的一部分，除了廣泛應(yīng)用于醫(yī)療的機(jī)械手臂、機(jī)械腿等，賽博格（Cyborg）、“腦機(jī)結(jié)合”也正在慢慢地從科幻故事變成現(xiàn)實(shí)……人類與機(jī)器的關(guān)系逐漸親密，機(jī)器不再僅是客體和死物。人類在恐懼中萌生幻想，對(duì)機(jī)器擁有智能、甚至成為伴侶/朋友的想象不絕如縷，不少人希冀機(jī)器擁有真正的智能和情感，進(jìn)而擁有獨(dú)立思考能力和自主性，與人類發(fā)生深層次的情感交流。

以ChatGPT為代表的人工智能（AI）大模型的發(fā)展，不僅預(yù)示著通用人工智能（GeneralArtificialIntelligence，簡(jiǎn)稱AGI）時(shí)代的加速到來，同時(shí)大大增加了將人類想象變?yōu)楝F(xiàn)實(shí)的可能性。由于人工智能在日常生產(chǎn)、生活中的應(yīng)用極大地提高了效率和便利度，生成式人工智能（GenerativeAI）眼下正引發(fā)新一輪的興奮和恐懼：當(dāng)AI與我們一起生活和工作，又或者當(dāng)AI成為我們城市的一員，這種被無所不在、無所定形的技術(shù)包圍的感覺，助推了一種對(duì)于機(jī)器智能具備自我意識(shí)既期盼又恐懼的復(fù)雜情感。

當(dāng)技術(shù)早已融入我們的日常生活，變得無所不在而又無所定形，如幽靈一般影響人們的思維、感知和行為時(shí)，或許人工智能的日?；呀?jīng)不是新鮮話題，我們卻在無意識(shí)中進(jìn)入與AI共生的時(shí)代。隨著以ChatGPT為代表的大模型浪潮和生成式人工智能的涌現(xiàn)，人工智能的商業(yè)化路徑進(jìn)一步加速，使其對(duì)普羅大眾的日常工作、消費(fèi)、娛樂等產(chǎn)生不可低估的影響。這意味著人機(jī)交互方式的革命性變革：以圖形用戶界面為代表的視覺交互發(fā)展到極致，開始轉(zhuǎn)向通過自然語言界面接入所有場(chǎng)景與人類交互。這場(chǎng)新的媒介技術(shù)革命背后，不僅是商業(yè)、政治和社會(huì)問題，也不僅是倫理、隱私和公正性問題，更涉及在人工智能和算法決策影響下人文主義可能出現(xiàn)的根本動(dòng)搖。

一、當(dāng)人工智能成為日常生活的技術(shù)背景

當(dāng)人工智能成為日常生活的一部分，人類通常不會(huì)感覺到技術(shù)的存在，這就是唐·伊德（DonIhde）所提出的四種人與技術(shù)關(guān)系中的“背景關(guān)系”。①D.Ihde,Technology and the Lifeworld: From Garden to Earth,Bloomington:IndianaUniversityPress,1990.背景關(guān)系[人→（AI/世界）]即AI作為一種技術(shù)背景，如電力、網(wǎng)絡(luò)一般成為日常生活的一部分，而人往往是在技術(shù)失效時(shí)才能意識(shí)到它的存在。當(dāng)然，在日常生活中，人與人工智能也會(huì)呈現(xiàn)另外三種關(guān)系：具身關(guān)系[（人—AI）→世界）]，即AI作為人的功能性延展，去認(rèn)知世界并實(shí)踐；詮釋關(guān)系[人→（AI—世界）]，即人類認(rèn)知世界，是經(jīng)過AI的表征、轉(zhuǎn)換或詮釋，比如推薦算法一定程度上影響和塑造了人類的認(rèn)知模式；它異關(guān)系[人→AI—（世界）]，側(cè)重技術(shù)的自主性，即AI成為認(rèn)識(shí)的客體時(shí)，透過AI展現(xiàn)的世界就變成了一種技術(shù)人工物。

那么在當(dāng)代人的日常生活中，哪些時(shí)刻是受AI影響的呢？而今這個(gè)問題也可以通過與人工智能的對(duì)話得到回答。當(dāng)問起“一個(gè)現(xiàn)代人一天中與AI進(jìn)行無意識(shí)交互的場(chǎng)景”時(shí)，ChatGPT的回答可謂相當(dāng)全面（見表1），甚至它還提醒我們：“每個(gè)人的生活習(xí)慣和需求可能有所不同，因此實(shí)際情況可能有所差異?！?/p>

表1 ChatGPT對(duì)“一個(gè)現(xiàn)代人一天中與AI進(jìn)行無意識(shí)交互的場(chǎng)景”的回答①表格內(nèi)容來自于ChatGPT（GPT-4）的回復(fù)，筆者將其按照表格形式進(jìn)行歸納。

也就是說，由生成式人工智能技術(shù)支撐的自然語言交互工具已經(jīng)可以告訴我們，人工智能正成為工作、休閑、社交甚至是睡眠的一部分，它的技術(shù)潛能覆蓋了一個(gè)人生活的方方面面。這樣的話，從更大的生存空間來看，人類生存的城市已經(jīng)成為人與機(jī)器共存的城市，或許未來將變成人與人工智能共存的城市。這意味著AI同樣“生活”在城市里，進(jìn)而成為這個(gè)城市不可或缺的成員。從ChatGPT的回答里，已經(jīng)透露出一種可能的未來，那就是，人類已經(jīng)不可避免地進(jìn)入一種與人工智能深度融合的生活狀態(tài)。

但是，面對(duì)人工智能技術(shù)的大潮襲來，在處理人與技術(shù)的關(guān)系時(shí)，需要警惕的首要風(fēng)險(xiǎn)有兩重：一是技術(shù)失效，二是技術(shù)失控。

第一，正如唐·伊德所言，深入日常生活中的技術(shù)只有在失效時(shí)才會(huì)被人們意識(shí)到其存在。而技術(shù)一旦失效，將給社會(huì)帶來不可估量的危害。2021年“7·20鄭州特大暴雨”發(fā)生后，一篇爆火的評(píng)論文章《災(zāi)后鄭州：當(dāng)一座都市忽然失去了互聯(lián)網(wǎng)》記錄了暴雨災(zāi)害之后網(wǎng)上購物、電子支付、城市交通、信息傳播等一切習(xí)以為常的生活方式全部失靈的狀況，這場(chǎng)災(zāi)害也使人們認(rèn)識(shí)到，“互聯(lián)網(wǎng)技術(shù)賦予城市的秩序失效之后，舊的秩序竟然也歸于失靈”。②杜強(qiáng)：《災(zāi)后鄭州：當(dāng)一座都市忽然失去了互聯(lián)網(wǎng)》，澎湃新聞，2021年7月24日，https://m.thepaper.cn/baijiahao_13730277。也就是說，信息時(shí)代的人類社會(huì)之所以能夠正常運(yùn)行，有賴于人類生活中疊加的算法、電力、網(wǎng)絡(luò)等各種背景性技術(shù)作為基礎(chǔ)設(shè)施和前提保障條件，一旦技術(shù)失效，社會(huì)運(yùn)轉(zhuǎn)也會(huì)失靈。進(jìn)入人工智能時(shí)代的人類社會(huì)恐怕也很難擺脫技術(shù)失效的風(fēng)險(xiǎn)。

第二，人類的生活與人工智能交融，但人工智能會(huì)不會(huì)擺脫人類的掌控而獨(dú)自運(yùn)轉(zhuǎn)？這一點(diǎn)至少在游戲中已經(jīng)實(shí)現(xiàn)。近期，美國斯坦福大學(xué)研究團(tuán)隊(duì)發(fā)布了一項(xiàng)非常有趣的研究，他們通過大語言模型做了一款沙盒游戲，里面有25個(gè)生成式智能體（GenerativeAgents）在虛擬環(huán)境中“自由生活”：這些智能體每天像人類一樣，在交互式沙盒環(huán)境中起床、做早餐、上班；它們能夠創(chuàng)造反映自身特點(diǎn)和經(jīng)驗(yàn)的日常計(jì)劃，執(zhí)行這些計(jì)劃、對(duì)此做出反應(yīng)，并在適當(dāng)?shù)臅r(shí)候調(diào)整計(jì)劃，產(chǎn)生出人意料的復(fù)雜行為（比如舉辦情人節(jié)派對(duì)）。用戶可以使用自然語言與這25個(gè)智能體進(jìn)行交互。研究團(tuán)隊(duì)指出，這項(xiàng)工作通過融合大型語言模型與計(jì)算機(jī)交互智能體，揭示了實(shí)現(xiàn)可信人類行為模擬的體系結(jié)構(gòu)和交互模式。③J.S.Park,GenerativeAgents:InteractiveSimulacraofHumanBehavior,Computer Science,April,2023.

當(dāng)人工智能可以在模擬環(huán)境下自由交互的時(shí)候，某種程度上也預(yù)示著人工智能有可能在不遠(yuǎn)的將來脫離人的掌控。不難想象，隨著技術(shù)的發(fā)展，人工智能與機(jī)器人可能會(huì)實(shí)現(xiàn)更深度的結(jié)合，而當(dāng)這種情況發(fā)生時(shí)，人類還能成為生活的主導(dǎo)者嗎？或者具體一點(diǎn)，人類能否繼續(xù)主導(dǎo)城市的秩序？在這個(gè)時(shí)候，人類生活將依靠什么來維持基本的運(yùn)轉(zhuǎn)，應(yīng)以什么樣的價(jià)值觀作為共同生活的基準(zhǔn)，將在新技術(shù)革命的推波助瀾之下成為難以回避的重要問題。在這個(gè)意義上，所謂讓人工智能與人類的價(jià)值觀保持一致的價(jià)值對(duì)齊（valuealignment）也就顯得尤為重要了。

二、當(dāng)AI進(jìn)入大模型時(shí)代

現(xiàn)代社會(huì)或者說全球化的起點(diǎn)是15世紀(jì)末的大航海時(shí)代，憑借著知識(shí)和技術(shù)的進(jìn)步、航海技術(shù)的發(fā)展，歐洲探險(xiǎn)家得以開展勘探和征服新大陸的活動(dòng)，全球生態(tài)和地緣政治就此天翻地覆。可以說，大航海時(shí)代主要實(shí)現(xiàn)了技術(shù)向空間的擴(kuò)張，伴隨而來的現(xiàn)代資本主義生產(chǎn)方式、城市化的現(xiàn)代生活都與此息息相關(guān)。

當(dāng)代信息技術(shù)發(fā)展實(shí)現(xiàn)了對(duì)時(shí)間的擴(kuò)張和瘋狂占有。我們的時(shí)間和大腦都被信息技術(shù)所承載和提供的海量信息填滿，生成式人工智能又在持續(xù)加速這種信息超載。但地球上的一天仍舊是24小時(shí)，這種矛盾使我們的生活變成了“社會(huì)時(shí)間”與“數(shù)字時(shí)間”的互動(dòng)。①H.Nowotny,In AI We Trust: Power, Illusion and Control of Predictive Algorithms,Cambridge:PolityPress,2021.未來，人工智能將成為中介，或者持續(xù)演變?yōu)闀r(shí)間與文明的“壓縮機(jī)”。從機(jī)器計(jì)算到人工智能，突破性技術(shù)不斷出現(xiàn)，人類文明也就此進(jìn)入“深度科技時(shí)代”。

大模型無疑是當(dāng)前AI技術(shù)最為重要的發(fā)展趨勢(shì)，也是AI工業(yè)化、進(jìn)入日常生活的基礎(chǔ)。隨著OpenAI公司的GPT大模型爆火，全球科技企業(yè)以及科研院所都爭(zhēng)先投入到大模型的競(jìng)賽中，人工智能如今進(jìn)入了大模型時(shí)代。AI大模型，又稱為預(yù)訓(xùn)練模型（pre-trainingmodel）、基礎(chǔ)模型（foundationmodel），即基于海量數(shù)據(jù)訓(xùn)練的、擁有巨量參數(shù)的模型，可以適應(yīng)廣泛的下游任務(wù)。這些模型基于遷移學(xué)習(xí)的思想以及深度學(xué)習(xí)領(lǐng)域的最新進(jìn)展，借助大規(guī)模應(yīng)用的計(jì)算機(jī)系統(tǒng)，展現(xiàn)了令人驚訝的“涌現(xiàn)能力”，并顯著提高了各種下游任務(wù)的性能。大模型標(biāo)志著AI技術(shù)發(fā)展的范式變革，各領(lǐng)域的數(shù)字化、智能化的系統(tǒng)，未來都將建立在大模型之上。

進(jìn)入大模型時(shí)代，也意味著AI工業(yè)化發(fā)展階段的到來，大模型為AI實(shí)現(xiàn)標(biāo)準(zhǔn)化、模塊化、自動(dòng)化提供了路徑。以人們經(jīng)常接觸到的AI智能客服為例，過去在醫(yī)療、電商、金融等各個(gè)領(lǐng)域應(yīng)用AI智能客服，每次都需要重新設(shè)計(jì)研發(fā)訓(xùn)練，其算法模型不能復(fù)用。因此，較高的技術(shù)研發(fā)成本和人力成本限制了AI智能客服的大規(guī)模應(yīng)用。而大模型則不需要針對(duì)應(yīng)用場(chǎng)景重新建構(gòu)不同的場(chǎng)景模型，也不需要重新開始訓(xùn)練算法模型，只需要在大模型的基礎(chǔ)上快速抽取生成場(chǎng)景化、定制化、個(gè)性化的小模型，實(shí)現(xiàn)在不同行業(yè)、垂直領(lǐng)域以及功能場(chǎng)景的工業(yè)流水線式部署，同時(shí)兼具按需使用和高效經(jīng)濟(jì)的優(yōu)勢(shì)。

圖1 人工智能發(fā)展時(shí)間線（胡曉萌繪制）

由此可見，大模型正在成為未來的智能技術(shù)基礎(chǔ)設(shè)施，重構(gòu)現(xiàn)有的商業(yè)模式，未來將形成“模型即服務(wù)”（Model-as-a-Service）的技術(shù)和產(chǎn)業(yè)生態(tài)。未來的數(shù)字化商業(yè)將分為大模型基礎(chǔ)設(shè)施型企業(yè)、垂直行業(yè)領(lǐng)域的小模型應(yīng)用企業(yè)以及更加貼合個(gè)人用戶的模型應(yīng)用和服務(wù)。這一生態(tài)的建立和發(fā)展，將更廣泛地賦能各行業(yè)應(yīng)用，加快社會(huì)各領(lǐng)域的數(shù)字化轉(zhuǎn)型和智能化發(fā)展，帶來全社會(huì)的生產(chǎn)效率提升。

以GPT為代表的大模型、多模態(tài)、生成算法等技術(shù)累積、融合，催生了生成式人工智能（AIGC）的爆發(fā)，而普羅大眾感知到的，主要是“模型即服務(wù)”的層面，即面向大眾用戶進(jìn)行應(yīng)用的文字、圖片、音頻、視頻等內(nèi)容生成服務(wù)?？梢哉f，作為一種新型的內(nèi)容生產(chǎn)和傳播方式，生成式人工智能可以帶來新一輪的生產(chǎn)、消費(fèi)革命，并率先在媒體、電商、游戲、影視等數(shù)字化程度高、內(nèi)容需求量大的行業(yè)中發(fā)生。

三、當(dāng)ChatGPT開啟語言交互變革

打造所謂的通用人工智能，被認(rèn)為是此次人工智能掀起革命性變革的重要原因，通用性也成為革命性技術(shù)變革的重要標(biāo)準(zhǔn)。事實(shí)上，直到計(jì)算機(jī)出現(xiàn)之后，信息技術(shù)的通用性才成為一種可能。目前人工智能同樣朝著這個(gè)標(biāo)準(zhǔn)演進(jìn)。復(fù)旦大學(xué)教授肖仰華指出，歷次技術(shù)突破都是由人類主導(dǎo)的，這本身是一種智能的結(jié)果，但通用人工智能是完全以接近甚至超越人類智能為目標(biāo)的技術(shù)，是關(guān)于智能本身的技術(shù)變革，其重要性和危險(xiǎn)性都遠(yuǎn)超從前。①肖仰華：《像天使也似魔鬼：關(guān)于通用人工智能時(shí)代科學(xué)研究的71個(gè)問題》，澎湃新聞，2023年4月4日，https://m.thepaper.cn/newsDetail_forward_22556072。

用戶在使用以ChatGPT為代表的生成式人工智能時(shí)，可以在用戶界面輸入一段人類的語言文字，它可以是完整的句子或者句子的一部分，用于提示大模型生成下一部分文本。這段提示文字就是提示詞（prompt）。如何生成既可信又有創(chuàng)造力的內(nèi)容，就成為一項(xiàng)需要不斷測(cè)試和調(diào)整的任務(wù)。不斷提示的過程，是人類與大模型通過語言進(jìn)行交互的過程，是進(jìn)行價(jià)值交換的過程，也是個(gè)人版本的GPT不斷訓(xùn)練的過程，最終讓其變?yōu)楦咚饺藢傩浴⒏蟼€(gè)人價(jià)值的工具。

自然語言處理被視為人工智能“皇冠上的明珠”，讓機(jī)器可以理解人類語言一直是無數(shù)人工智能科學(xué)家和研究者努力的方向。以ChatGPT為代表的語言模型問世，宣告了語言不再是人類文明的特權(quán)，機(jī)器同樣可以對(duì)人類語言進(jìn)行歸納、總結(jié)、應(yīng)用、舉例，并且通過人類語言（而不是曾經(jīng)的以0和1為代表的機(jī)器語言）進(jìn)行輸出。人機(jī)交互方式也從圖形交互界面擴(kuò)展到自然語言交互界面。

語言具有創(chuàng)造性，同時(shí)也具有迷惑性。GPT所展現(xiàn)的強(qiáng)大能力，使大部分用戶已經(jīng)把GPT生成的內(nèi)容視為可信任且可使用的內(nèi)容。人類對(duì)于人工智能的信任甚至超過了對(duì)自身判斷的信任，這就讓人工智能（特別是此前人工智能最為重要的應(yīng)用方向——算法推薦）成為某種權(quán)威性的存在。雖然有不少學(xué)者已經(jīng)提到算法權(quán)威所帶來的潛在危害，但隨著技術(shù)的進(jìn)步，技術(shù)的權(quán)威性在社會(huì)中也會(huì)越來越高。我們的日常生活不僅是可計(jì)算的，并且被要求高速計(jì)算，結(jié)果是，我們往往要耗費(fèi)巨大的能源、算力來換取時(shí)間，以此來適應(yīng)由加速計(jì)算帶來的加速時(shí)代。問題是，人工智能也并不總是智能的，算法也并不總是可靠的，甚至在某些關(guān)鍵的場(chǎng)景下，我們的生命是否會(huì)被迫掌握在算法手里？現(xiàn)在看來，人類對(duì)機(jī)器的聽從與適應(yīng)已經(jīng)到了無以復(fù)加的程度，太多人不斷地努力調(diào)整自己，只求不被已經(jīng)陷入加速困境的時(shí)代和技術(shù)所拋棄。

同樣，人類是否會(huì)通過語言交流與人工智能產(chǎn)生親密情感，成為一個(gè)不斷被討論的話題。事實(shí)上，與人工智能驅(qū)動(dòng)的虛擬戀人戀愛，已經(jīng)不是驚世駭俗的事情，科技公司也在不斷地開發(fā)相應(yīng)的產(chǎn)品供用戶選擇。歷史學(xué)家、哲學(xué)家赫拉利（YuvalNoahHarari）認(rèn)為，盡管沒有證據(jù)表明AI有意識(shí)或感覺，但只要AI能讓人感覺到與它們有情感連結(jié)，就足以建立人機(jī)之間的親密關(guān)系——這種不同尋常的親密關(guān)系或許就此將會(huì)改變我們的世界觀。此外他還提出了一個(gè)非常發(fā)人深省的結(jié)論：因?yàn)檎莆樟梭@人的操作、生成語言的能力，AI已經(jīng)入侵了人類文明的“操作系統(tǒng)”。②YuvalNoahHarariArguesthatAIHasHackedtheOperatingSystemofHumanCivilization,The Economist,2023-04-28,https://www.economist.com/by-invitation/2023/04/28/yuval-noah-harari-argues-that-ai-has-hacked-the-operating-system-of-humancivilisation.

四、結(jié)語：在人機(jī)共生時(shí)代持續(xù)探索人的價(jià)值

“在算法時(shí)代，蛋糕太大，大多數(shù)人也只能分到一小塊?！雹偕瘛ぐ⒈忍夭⒓獱枴ざ嗑S克：《算法小時(shí)代：從數(shù)學(xué)到生活的歷變》，任軼譯，北京：人民郵電出版社，2017年，第80頁。普通人的生活、權(quán)利越來越多地讓渡給技術(shù)，但技術(shù)發(fā)展的紅利依然會(huì)高度集中在少數(shù)人手里。進(jìn)入ChatGPT時(shí)代，人工智能成為生產(chǎn)力的一部分，可以預(yù)見的是，我們的學(xué)習(xí)模式、思維模式、問答模式、行為模式，都會(huì)被類似GPT的大模型影響。這些所有的場(chǎng)景都會(huì)基于AI大模型而建立或重構(gòu)。也就是說，我們認(rèn)知世界的方式、與機(jī)器進(jìn)行交互的方式，都會(huì)隨之發(fā)生根本性變化。

美國前國務(wù)卿基辛格認(rèn)為，ChatGPT預(yù)示著一場(chǎng)知識(shí)革命，人類需要思考和回應(yīng)人工智能對(duì)人類存在和認(rèn)知方式的深遠(yuǎn)影響，確定人機(jī)關(guān)系以及人類的道德和戰(zhàn)略角色。②HenryA.Kissinger,ChatGPTHeraldsanIntellectualRevolution,2023-02-24,https://www.henryakissinger.com/articles/chatgptheralds-an-intellectual-revolution/.這個(gè)提醒可以說發(fā)人深省。在數(shù)字時(shí)代生活，與人工智能交互，聽從算法的建議，某種程度上就是把主體性交付給算法；而算法不管有多么智能，都只是在找尋事物之間的關(guān)聯(lián)。個(gè)體越來越相信算法給出的結(jié)果，個(gè)人的生活也一并被計(jì)算，甚至被算計(jì)。這就涉及自主決策、人的主體性和算法決策（AlgorithmicDecision）以及背后的機(jī)器智能之間的持續(xù)互動(dòng)。

毫無疑問，我們正處在技術(shù)時(shí)代的拐點(diǎn)：當(dāng)人工智能成為日常生活的技術(shù)背景，當(dāng)AI技術(shù)進(jìn)入大模型時(shí)代，當(dāng)ChatGPT開啟語言交互變革……技術(shù)革命或許將又一次掀起生活領(lǐng)域的巨浪。然而從某種程度上說，所有的哲學(xué)家都在提醒我們，不要溫和地走進(jìn)與AI共生的時(shí)代，不要被技術(shù)樂觀主義和發(fā)展主義過度引誘。當(dāng)人類智力的優(yōu)越性被人工智能取代，當(dāng)人類依賴機(jī)器和算法來決定日常生活的方方面面，人類的獨(dú)特性和未來又在哪里？雖然人類已經(jīng)把生活的方方面面變成數(shù)據(jù)，但我們又不僅僅是數(shù)據(jù)。肉體、心靈、情感、行為的錯(cuò)綜復(fù)雜和多位一體，才是人之為人的意義。在人與AI共同生活的時(shí)代，如何持續(xù)反思人與機(jī)器的關(guān)系、人與人的關(guān)系，如何持續(xù)保障人的尊嚴(yán)，才是此刻必須納入討論和考量的。