生成式人工智能的技術(shù)創(chuàng)新與倫理風(fēng)險(xiǎn)

董 媛,湯書昆,2

(1.中國科學(xué)技術(shù)大學(xué) 人文與社會科學(xué)學(xué)院,安徽 合肥 230026;2.中國科學(xué)院科學(xué)傳播研究中心,安徽 合肥 230026)

2022年末,ChatGPT“橫空出世”,因“機(jī)”智若人而“驚艷”全球,一舉成為現(xiàn)象級的應(yīng)用。僅僅三個多月之后,ChatGPT創(chuàng)始機(jī)構(gòu)OpenAI又推出了“能夠產(chǎn)生更安全、更有用響應(yīng)”的GPT-4,是迄今為止最強(qiáng)大的人工智能大語言模型?，F(xiàn)代技術(shù)的特殊性從本質(zhì)上說就在于它的進(jìn)化速度[1]25。這一革命性的技術(shù)創(chuàng)新迅速掀起了新一波的AI浪潮,谷歌、百度、阿里等各大互聯(lián)網(wǎng)公司紛紛擠入“賽道”、加入“混戰(zhàn)”,相繼推出“Bard”“文心一言”“通義千問”等生成式AI產(chǎn)品。微軟也宣布將ChatGPT與旗下的Office辦公軟件、必應(yīng)(Bing)搜索引擎等所有產(chǎn)品進(jìn)行全線整合?？梢灶A(yù)見,隨著AI不斷拓展自己的能力邊界和應(yīng)用場景,由數(shù)據(jù)和算法驅(qū)動的人工智能將日益成為人們?nèi)粘Ｉ钪械臄?shù)字基礎(chǔ)設(shè)施。

技術(shù)的進(jìn)化必然伴隨著人類生存環(huán)境的改變,并與人的存在境遇密切相關(guān)。在麥克盧漢看來,一切技術(shù)都是媒介,一切媒介都是我們自己的外化和延伸[2]。約翰·杜海姆·彼得斯則將媒介(技術(shù))視為人類存在的塑造者和可能性的孕育者,它不斷地為人的生存提供新的錨點(diǎn),人類也因此能夠“為其所能為”[3]。事實(shí)上,ChatGPT正是以其“無所不能,啥都能干”的“新天選打工人”姿態(tài)迅速引爆公眾熱情,引發(fā)人們對于AIGC(人工智能生成內(nèi)容)的歡呼和遐想。當(dāng)然,與之相伴的還有諸如“AI來搶飯碗”“生成式AI將把人類帶向何方”等狼來了的憂慮與恐慌。

不可否認(rèn),技術(shù)進(jìn)步總是同時包含著善與惡,人們預(yù)期并獲得某些確定的結(jié)果,但總有一些預(yù)料之外的繼發(fā)作用[4]132,134。有些副作用引發(fā)的災(zāi)難甚至?xí)^這項(xiàng)技術(shù)創(chuàng)新所帶來的進(jìn)步本身。海德格爾對現(xiàn)代技術(shù)有著更多的憂慮,在他看來,如果把技術(shù)當(dāng)作某種中性的東西,我們就最惡劣地聽任技術(shù)擺布了[5]5。因此,面對迅速迭代的技術(shù)沖擊和充滿不確定性的未來,我們不僅要關(guān)注能用ChatGPT們做些什么,還要警惕ChatGPT們可能會對我們做些什么,既要深刻理解AIGC的技術(shù)創(chuàng)新與底層邏輯,還要看到它的技術(shù)暗面與潛在風(fēng)險(xiǎn),并思考如何適應(yīng)與應(yīng)對新的技術(shù)環(huán)境與生存境遇。這也正是本文關(guān)切的本質(zhì)問題所在。

一、ChatGPT的創(chuàng)新特質(zhì)與底層邏輯

ChatGPT這一技術(shù)物問世以來的“生命歷程”可謂高光輝煌,推出僅僅兩個多月,全球用戶就突破1億,成為史上“吸粉”最快的互聯(lián)網(wǎng)應(yīng)用。其擴(kuò)散速度之快、范圍之廣和接受度之高,都是史無前例的。20世紀(jì)60年代美國學(xué)者羅杰斯(E.M.Rogers)在《創(chuàng)新的擴(kuò)散》中指出,創(chuàng)新擴(kuò)散的四大要素分別為創(chuàng)新、溝通渠道、時間及社會系統(tǒng)[6]13。以此來分析ChatGPT的擴(kuò)散效果,不難發(fā)現(xiàn),除去商業(yè)宣傳、媒體噱頭等可能的傳播動因,其被公眾認(rèn)為的創(chuàng)新特質(zhì)以及由此激發(fā)的興奮、恐慌等強(qiáng)烈的情感沖擊,無疑匯聚成一股颶風(fēng)般強(qiáng)勁的擴(kuò)散動力。號稱能夠替代人類進(jìn)行創(chuàng)作、創(chuàng)意的ChatGPT被認(rèn)為是有望形成“思維革命”的技術(shù)創(chuàng)新,將改變?nèi)祟愃伎己吞幚韱栴}的方式方法,并由此重塑各行業(yè)生態(tài)乃至整個世界[7]。從公眾感知的層面來看,相較于過往的AI產(chǎn)品或者智能媒體,ChatGPT的技術(shù)創(chuàng)新主要體現(xiàn)在內(nèi)容生產(chǎn)主體、內(nèi)容供給方式和人機(jī)交互體驗(yàn)這三方面。

(一)內(nèi)容生產(chǎn)主體從人到機(jī)器

隨著互聯(lián)網(wǎng)技術(shù)的不斷發(fā)展,網(wǎng)絡(luò)用戶從信息終端變成了一個個節(jié)點(diǎn),交互作用和參與性得到不同程度的體現(xiàn)。迄今為止,數(shù)字化信息生產(chǎn)與傳播主要有專業(yè)生產(chǎn)內(nèi)容(PGC)、計(jì)算機(jī)生產(chǎn)內(nèi)容(CGC)、用戶生產(chǎn)內(nèi)容(UGC)和專業(yè)用戶生產(chǎn)內(nèi)容(PUGC)等幾種模式,其內(nèi)容生產(chǎn)主體分別為專業(yè)性機(jī)構(gòu)媒體、算法等輔助性技術(shù)、非專業(yè)用戶和專業(yè)用戶[8]。從根本上來說,這幾種模式的共同特點(diǎn)在于它們的內(nèi)容生產(chǎn)主體都是人或者以人為主。而ChatGPT的技術(shù)核心是生成性AI,其信息生產(chǎn)與傳播的模式為人工智能生成內(nèi)容(AIGC),它的內(nèi)容生產(chǎn)主體是機(jī)器。不可否認(rèn),機(jī)器占有數(shù)據(jù)的能力和信息處理的速度都是人所不能比的。因此,從UGC到AIGC,被視為內(nèi)容生產(chǎn)力的大變革,必將引發(fā)內(nèi)容產(chǎn)業(yè)的混戰(zhàn),改變?nèi)祟愔R的生產(chǎn)方式[9]。

(二)內(nèi)容供給方式從信息呈現(xiàn)到智能涌現(xiàn)

GPT-4擁有億萬級的神經(jīng)元網(wǎng)絡(luò),有著超強(qiáng)的算力和參數(shù)規(guī)模,可以進(jìn)行更加復(fù)雜的概率組合。加上大語言模型的強(qiáng)化訓(xùn)練,使得它具有更強(qiáng)的語詞聯(lián)想力和場景適應(yīng)性,生成的內(nèi)容匹配度相對就比較高,在一定程度上顯現(xiàn)出如同蟻群般“由小生大”、整體大于個體累加之和的“智能涌現(xiàn)”現(xiàn)象[10]。在內(nèi)容供給上,相對于谷歌、百度等傳統(tǒng)數(shù)字搜索引擎將相關(guān)信息源網(wǎng)頁一一呈現(xiàn)供人手動遴選的模糊檢索,ChatGPT能夠以類人腦的方式對搜索到的海量信息進(jìn)行內(nèi)容整合、文本分析、觀點(diǎn)提煉甚至無中生有等一系列的快速“深加工”,并以自然語言文本形式生成回答,實(shí)現(xiàn)按需輸出和精準(zhǔn)供給,極大地簡化用戶的心智勞動,從而在很大程度上解決了信息超載這一普遍的“痛點(diǎn)”問題,可以說是越來越“善解人意”。長遠(yuǎn)來看,這種新的知識調(diào)用方式不僅會改變?nèi)祟惖墨@知與求知模式[11],還將使得人與機(jī)器的知識互嵌更為深入。

(三)人機(jī)交互體驗(yàn)從主導(dǎo)感到依賴感

ChatGPT以自然語言直接問答的交互方式和響應(yīng)水平無疑契合了加速時代人們對高效率的迫切需求,也迎合了人與生俱來的便利性感知偏好。然而,任何技術(shù)的社會化落地,其實(shí)質(zhì)都是技術(shù)邏輯與社會選擇“互構(gòu)”的結(jié)果[12]。法國技術(shù)哲學(xué)家埃呂爾(Jaques El-lul)指出:“在社會中技術(shù)的活動越多,人的自主性和主動性就越少?！盵13]正如打字機(jī)賦予人們自動化書寫新能力的同時,也遮蔽了書寫和筆跡的本質(zhì),使人手喪失了本質(zhì)地位[14]235-237;無人駕駛技術(shù)在解放人們雙手的同時,也將人淪為了技術(shù)的“看護(hù)者”和輔助者。從這個角度來說,ChatGPT在增強(qiáng)人們?nèi)粘Ｔ捳Z實(shí)踐便利性和輕松度的同時,也在客觀上削弱了人類在內(nèi)容生產(chǎn)與知識創(chuàng)新上的參與權(quán)重,使得人的主體地位“屈從”于程序化的技術(shù),進(jìn)一步地將主體性讓渡于技術(shù)物,從而加速了人走向“持存物”的進(jìn)程。就像劉易斯·芒福德所說,人類不再是作為使用工具的動物來主動地發(fā)揮作用,而是成為被動的、為機(jī)器服務(wù)的動物[4]477。

需要強(qiáng)調(diào)的是,在羅杰斯“創(chuàng)新的擴(kuò)散”理論中,一個觀點(diǎn)或技術(shù)是否屬于創(chuàng)新,主要取決于人們主觀上認(rèn)為它是不是新穎的,用戶對它的認(rèn)知決定了創(chuàng)新被采用的速度[6]14,17。ChatGPT的“野蠻”擴(kuò)散在一定程度上印證了這一判斷。結(jié)合業(yè)內(nèi)人士和學(xué)界專家的觀點(diǎn),稍加分析便可發(fā)現(xiàn),人們對于ChatGPT有著未經(jīng)實(shí)踐的跟風(fēng)“神化”和不切實(shí)際的過高期許。其實(shí)從技術(shù)層面來看,人工智能并非新生事物,ChatGPT大語言模型仍是一個基于訓(xùn)練內(nèi)容進(jìn)行概率組合的傳統(tǒng)模型,其底層技術(shù)邏輯仍然是基于深度學(xué)習(xí),數(shù)據(jù)是燃料,模型是引擎,算力是加速器。雖有全息的訓(xùn)練數(shù)據(jù)集,億萬級神經(jīng)元構(gòu)成的深度神經(jīng)網(wǎng)絡(luò),以及刻畫了人類學(xué)習(xí)機(jī)制的自監(jiān)督學(xué)習(xí)和提示學(xué)習(xí),但到目前為止,ChatGPT仍有著自身的學(xué)習(xí)瓶頸和認(rèn)知缺陷。根本原因在于,雖然人類已在一定程度上知道了“我們是怎么知道的”,但我們并沒有真正揭開人類認(rèn)知的奧秘,并沒有完全理解人類的思維,尤其是創(chuàng)造性思維,即從0到1的創(chuàng)造方式是目前仍難以解釋的。因此,ChatGPT也并沒有真正把握“知其然,且知其所以然”的因果關(guān)系。總而言之,人所具有的自我意識、反思性及與之密切相關(guān)的真正意義上的自主創(chuàng)造性,是當(dāng)前階段的人工智能尚不具備的,人工智能的升級奇點(diǎn)并未來到,仍處在從量變到質(zhì)變的積累過程之中。況且,量變導(dǎo)致質(zhì)變是一種現(xiàn)象,并不是一條必然規(guī)律[15]。因此,ChatGPT并非如人們所想象的幾乎能解決所有問題,它仍然只是輔助人的工具,而不是替代人的“神器”。

二、AIGC的應(yīng)用失范與潛在風(fēng)險(xiǎn)

在可預(yù)見的未來,AIGC必將越來越普遍地嵌入人類的日常生產(chǎn)生活場景,并且很可能以其技術(shù)邏輯潛移默化地馴化乃至支配著人類,形成新的技術(shù)壟斷,在賦能生活世界的同時也導(dǎo)致更深的生活世界殖民化,甚至“蠶食”、消解人的自主性及個體差異性。麥克盧漢指出,正因人們對媒介(技術(shù))如何影響潛意識抱溫順接受的態(tài)度,才使得媒介(技術(shù))成為囚禁其使用者的無墻的監(jiān)獄[16]。因此,我們必須意識到對人工智能的盲目樂觀和對大語言模型的深度依賴潛藏著諸多問題,如果不加以自律或規(guī)制,生成式AI的快速迭代與應(yīng)用失范或?qū)槿祟悗碓捳Z生產(chǎn)和意識演化的雙重危機(jī)。

(一)淪為陳詞濫調(diào)的話語生產(chǎn)

海德格爾指出,話語在本質(zhì)上是屬于人的一種存在建構(gòu),是人的存在的展開狀態(tài)。而話語有可能變成閑言,即漫無邊際的閑聊、八卦和陳詞濫調(diào)、老生常談。那么,話語是如何變成閑言的呢?在海德格爾看來,日常話語遵循著“因?yàn)橛腥苏f是這樣,所以事情就是這樣”的邏輯,某些話只要有人曾經(jīng)說過,只要是名言警句,都可以為話語的真實(shí)性和合乎事理擔(dān)保。那些來源于囫圇吞棗的閱讀和日常生活中道聽途說的話語便以這樣“人云亦云”的方式傳達(dá)自身,或者通過人們筆墨之下的“陳詞濫調(diào)”擴(kuò)散出去。如此一來,原本立足點(diǎn)可能就不太穩(wěn)的話語經(jīng)過一道道“鸚鵡學(xué)舌”的中轉(zhuǎn),最終很可能會面目全非、根基全無。話語就這樣變成了閑言,而閑言原本就是一種封閉,它使得一切新的詰問和一切分析工作都被束之高閣[17]237-238。循著海德格爾的思路加以分析,我們不難發(fā)現(xiàn),當(dāng)下智能傳播技術(shù)的可供性,使得不假思索的“一鍵復(fù)制”“一鍵轉(zhuǎn)發(fā)”等不求甚解的“拿來主義”越來越便捷,越來越普遍,也使得話語更加容易變成陳詞濫調(diào)的閑言。于是,我們的日常話語實(shí)踐也相應(yīng)地日益成為搜索、復(fù)制的“拼貼術(shù)”和通過差異調(diào)制來掩蓋抄襲的“化妝術(shù)”,甚至連部分學(xué)術(shù)話語創(chuàng)新也在一定程度上淪為基于反檢測考量的查重、降重文字游戲。

可以推測,隨著AIGC的快速發(fā)展和廣泛應(yīng)用,出于對高效率的無度追求和自身惰性的過度放任,人們在知識調(diào)用和內(nèi)容輸出時很可能會對生成式AI產(chǎn)生越來越深的依賴,從而在不知不覺中被馴化成知識的“搬運(yùn)工”和機(jī)器的“傳聲筒”,并通過人與AI話語的互構(gòu)循環(huán),進(jìn)一步加劇陳詞濫調(diào)的生產(chǎn)和話語創(chuàng)新的匱乏。正如雅克·埃呂爾所說,所有的技術(shù)進(jìn)步都有代價(jià),比如它在客觀上限制了真正文化傳承與生成的一些必要條件,即消化吸收所要求的反思和時機(jī)。知識分子不再有時間對一本書進(jìn)行沉思了,更多是快速瀏覽的淺嘗輒止和支離破碎的斷章取義。在強(qiáng)大的人工智能加持下,我們的確在見證知識的創(chuàng)造,但它只不過是純粹量上的膚淺的變化[4]128-129。實(shí)踐表明,當(dāng)前階段的AI并無真正意義上的自主心智和自我意識,只是在算法的驅(qū)動下進(jìn)行指令執(zhí)行,提供基于數(shù)據(jù)流和語義關(guān)系的答案,難以提出有實(shí)質(zhì)創(chuàng)造性的新觀點(diǎn)?；蛟S我們可將AIGC想象成公共資料庫和共享大腦 ,有著相同的資源儲備和生產(chǎn)模式,它必將在一定程度上消除個體間知識素材、加工與生成的差異性,進(jìn)而使人們的話語生產(chǎn)陷入某種“千篇一律”。比如ChatGPT是在預(yù)訓(xùn)練的階段進(jìn)行監(jiān)督學(xué)習(xí),模擬人腦逐層抽象的模式,從訓(xùn)練數(shù)據(jù)集的大量原始文本中提取共性的意義結(jié)構(gòu)和文字之間的概率關(guān)聯(lián),再結(jié)合人類反饋強(qiáng)化學(xué)習(xí),學(xué)會使用自然語言與人類聊天的“套路”,在對話中生成類人化的響應(yīng)文本。筆者親測發(fā)現(xiàn),ChatGPT能夠基于單次會話語境做出一定的情境理解,也能夠基于不同的用戶“畫像”對同一問題給出不盡相同的回答,可以說已初步具有“舉一反三”的強(qiáng)化學(xué)習(xí)能力。然而,其技術(shù)邏輯決定了它的響應(yīng)仍只是一種基于程序的數(shù)據(jù)處理。也就是說,雖然它回答問題是類人化的,但其類人的水平還很有限。具有完美能力的圖靈機(jī)恐怕也回答不了超出程序能力的“怪問題”[15]。那些只可意會不可言傳的理解,那些靈機(jī)一動的智慧閃現(xiàn),目前人工智能還做不到,而創(chuàng)新卻往往產(chǎn)生于那些沉思之后的靈光乍現(xiàn)。就此而言,目前人工智能與人類的差別仍是從0到1的“銀河系”。

此外,我們還必須關(guān)注的是,人工智能生成內(nèi)容首要的、決定性的起點(diǎn)是數(shù)據(jù),而包羅萬象、良莠不齊的互聯(lián)網(wǎng)信息是ChatGPT類AI訓(xùn)練數(shù)據(jù)集的重要來源,有相當(dāng)一部分為UGC(用戶生產(chǎn)內(nèi)容),即便有人工智能訓(xùn)練師的把關(guān),也難以避免“幸存者偏差”。因此,當(dāng)下算法偏見依然是人工智能的“阿喀琉斯之踵”。見識決定認(rèn)知,訓(xùn)練數(shù)據(jù)的質(zhì)量水平和偏差不僅會助長陳詞濫調(diào)的循環(huán)傳播,還可能造成“振振有詞地胡說八道”等以訛傳訛的智能行為偏差。事實(shí)上也的確如此,諸如ChatGPT和“文心一言”等一本正經(jīng)地講述“林黛玉倒拔垂楊柳”、生成各種“奇葩”圖片等人工“智障”表現(xiàn)便遭到了人們的“群嘲”,甚至在社交媒體上掀起了一陣話語狂歡。業(yè)界和學(xué)界普遍認(rèn)為,盡管GPT-4回答的準(zhǔn)確性大幅提高,但可靠性依然是ChatGPT類大語言模型的一大瓶頸,也是它們有用性的最大障礙。至于未來有可能出現(xiàn)的具有自主意識的強(qiáng)人工智能乃至超級人工智能,我們可以拭目以待,卻不能只是靜觀其變。總之,把自己的思想擱在一邊,隨時隨地去打開一個APP,那是對自我的遺忘。不管技術(shù)如何變遷,只有當(dāng)我們能夠掙脫陳詞濫調(diào)、以訛傳訛的話語漩渦,富于洞見的思想和智慧才能夠自由流淌、綻放光芒。

(二)囿于“時間客體”的意識演化

首先,對AIGC的過度依賴將加劇個體意識的趨同化。斯蒂格勒在《技術(shù)與時間》中指出,當(dāng)某一客體的時間流與以該客體為對象的意識流相互重合,該客體即為“時間客體”。程序工業(yè)(即文化工業(yè)),尤其是廣播電視信息傳媒工業(yè),大量地生產(chǎn)著音樂旋律、電視節(jié)目等時間客體,它們的共同特征在于被無數(shù)個“意識”同時收聽或收看。在智能傳播時代,各種移動終端觸手可及,人們更是被算法瞄準(zhǔn),落入“用戶歸檔”的漁網(wǎng)之中,幾乎完全被畫像、被預(yù)測和被掌控。于是,越來越多的人似乎難以避免地沉溺于信息“巨流”之中,在各類“屏幕”和短視頻、電影、網(wǎng)絡(luò)游戲、直播等新型時間客體上消磨的時間越來越多,諸多意識的時間流共時化特征也隨之愈加明顯。然而,人的意識從本質(zhì)上來說本應(yīng)是歷時性和個性化的,它應(yīng)當(dāng)是自由的、特別的,是必然屬于個體自己的[18]1-5。按照麥克盧漢對熱媒介和冷媒介所作的區(qū)分與界定,相對于閱讀書籍,短視頻、電影等顯然屬于“高清晰度”、要求參與度低的熱媒介。而ChatGPT類的AIGC因其“直給”的內(nèi)容提供方式和即時響應(yīng)模式,同樣也應(yīng)歸于要求接受者完成信息少的熱媒介[19]37。因此,當(dāng)人們卻越來越慣于將自己的意識附著在各種時間客體,附著在自己現(xiàn)實(shí)生活之外的一段段流動的時間上,實(shí)際上是在任由他者操縱著自己的視覺、聽覺神經(jīng)和時間意識,從而將自己變成沒有視野的獨(dú)眼怪物。與此同時,人們也越來越在沉溺于“他者的時間”中忘記了自我,或許還遺失了自我(遺失了自我的時間以及個性)[18]11。在約翰·密爾看來,個性是人類福祉的因素之一。早在十九世紀(jì)五六十年代,他便注意到了現(xiàn)代商業(yè)社會所帶來的平庸化與趨同化傾向,人們讀著、聽著、看著相同的東西,去相同的地方,以致不易看出個性如何還能保住其根據(jù)[20]。可以想象,在社會日益加速和時間普遍匱乏的語境之下,隨著ChatGPT逐漸向移動端滲透,AIGC將越來越深刻地嵌入日常話語實(shí)踐,這種沉溺于“時間客體”的現(xiàn)象將更為嚴(yán)重,珍視自我個性的意識也必然會隨之漸漸弱化,我們自身中一切個人性的東西將愈發(fā)被磨成一律。

其次,過度依賴AIGC或?qū)⒃斐扇四X思考功能的惰化甚至退化。眾所周知,為了完成某項(xiàng)工作,人類通常會通過資料查找、數(shù)據(jù)學(xué)習(xí)進(jìn)行強(qiáng)化訓(xùn)練。如今,這些數(shù)據(jù)集也被用于訓(xùn)練AI。把AIGC集成到office之類的常用辦公產(chǎn)品中,人們便如同擁有了一位個人數(shù)字助理(微軟將此描述為副駕駛)。于是,一個更加高效、輕松的工作狀態(tài)便自然而然地成為我們的想象和期許。其實(shí)日常生活中早已司空見慣的是,“眾里尋他千百度”的思考求索簡化為“百度一下”,動動腦筋變?yōu)閯觿邮种?、動動嘴巴。我們就這樣漸漸習(xí)慣于將大腦的思考能力讓渡給各種技術(shù)工具,將其作為知識獲取和解決問題的重要甚至首要途徑。斯蒂格勒將人類對技術(shù)這種“身外之物”的依賴稱為“代具性”。在他看來,由于愛比米修斯的過失,人是一種固有的“缺陷存在”“力不若牛,走不若馬”,必須依賴代具而生存[1]311。然而,包括AIGC在內(nèi)的各種代具都不只是會帶來便利和節(jié)省腦力,還可能會蠶食人們的思考能力,渾然不覺地接管我們選擇的權(quán)利。任何一種新的技術(shù),都要引進(jìn)一種新的尺度,能夠不可抗拒地改變?nèi)说母泄俦嚷屎透兄Ｊ健１热绯獧C(jī)就是一種使國民胸腔縮小的玩具[19]17,30,335。盧梭甚至視技術(shù)為人類背離自身本性的根源。面對ChatGPT的沖擊,來自紐約大學(xué)等高校的教授及諸多學(xué)者們紛紛警告:“AI會讓學(xué)生大腦萎縮,要像躲避瘟神一樣躲開ChatGPT!”實(shí)際上,腦科學(xué)研究也表明,構(gòu)成我們思想的物理和物質(zhì)條件的人腦永遠(yuǎn)是個“半成品”,一直處在被塑造和建構(gòu)的過程之中。與人工智能的深度學(xué)習(xí)一樣,我們的大腦也同樣遵循著“用進(jìn)廢退”的規(guī)律。如海德格爾所言,在沉思中,一個貫穿我們當(dāng)下所作所為的空間才得以開啟自身。當(dāng)我們?nèi)褙炞⒂诓豢筛F盡的值得追問之物,不懈地追問與求索,這凝思式的逗留過程之中便蘊(yùn)含著無數(shù)的“遇見”,每一次“相遇”都可能碰撞出智慧的火花。沉思的道路總是不斷變化,從各不相同的位置出發(fā),并相應(yīng)地有著各自的響應(yīng)與抵達(dá)[5]69-71。

最后,過度依賴AIGC將促使人類的記憶進(jìn)一步外化。技術(shù)的發(fā)展推動著各有記憶可供性的媒介不斷出現(xiàn)。書寫曾經(jīng)充當(dāng)了通用的存儲媒介,后來我們將數(shù)據(jù)流刻錄到唱片和膠片上,隱沒于黑盒子之中,轉(zhuǎn)換為數(shù)字技術(shù)和人工智能的代碼指令。人類的記憶形態(tài)就這樣隨著技術(shù)的發(fā)展從具身的“生物記憶”和“內(nèi)部記憶”越來越外化[21]1,也越來越疏離于我們自己?；乩詹粺o悲傷地?cái)嘌?當(dāng)我們擁有了留聲機(jī)、電影等可以記載并復(fù)制聲音和光學(xué)數(shù)據(jù)中時間流的存儲技術(shù),人類的記憶能力就一定會退化。它的“解放”即它的完結(jié)[14]11。諸如照片、視頻、唱片、電影膠片、書籍等能夠?qū)⑽覀兊牡谝挥洃?感知)和第二記憶(回憶)記錄并留存下來的數(shù)據(jù)存儲介質(zhì)或技術(shù)物都是斯蒂格勒所謂的“第三持留”(或第三記憶)[18]20。這些技術(shù)性的“第三持留”在一定程度上保證了我們記憶的持久性甚至永恒性。從表面上來看,記憶的外化有效轉(zhuǎn)移了個體的記憶負(fù)擔(dān),釋放了人腦的內(nèi)存空間,是人類在記憶術(shù)加持下對“健忘”這一先天性缺憾的彌補(bǔ)與對抗。但實(shí)際上,記憶是個體經(jīng)驗(yàn)不斷被沖刷、過濾、內(nèi)化和沉淀的身體性盈余,是主體自我建構(gòu)的重要環(huán)節(jié)?；诖?可以說當(dāng)下無處不在的“云存儲”記憶外化技術(shù)和AIGC意識代具,在接替人腦記憶角色的同時,也不可避免地將其記憶功能逐漸簡化乃至退化。此外,記憶的永恒性也同時意味著遺忘之不可能性,而遺忘的終結(jié)又何嘗不是記憶的價(jià)值消解?在某種意義上,生命中的遺忘和被他人遺忘是自由的同義詞,我們都是這樣經(jīng)歷著、銘記著、遺忘著、前行著。對個體而言,永不消逝和無法抹去的記憶或許是生命中不可承受之重,它讓我們失去了必要時揮別過往的灑脫和自由,從而束縛著我們當(dāng)下及未來的自我想象與主體建構(gòu)[21]133。

三、AI時代的主體性危機(jī)與人機(jī)關(guān)系

人的主體性是人工智能時代一個關(guān)鍵議題,主要擔(dān)憂在于對AI和自主智能系統(tǒng)的高度依賴是否會從根本上削弱人在認(rèn)知和決策上的主導(dǎo)地位[22]。的確,與淪為“陳詞濫調(diào)”的話語生產(chǎn)和囿于“時間客體”的意識演化風(fēng)險(xiǎn)相勾連,我們還應(yīng)當(dāng)對人工智能可能引發(fā)的危機(jī)有著更深的遠(yuǎn)慮,對AIGC應(yīng)用失范可能造成人主體性的逐漸消解保持著高度的關(guān)注與警惕。換言之,我們在話語、注意力、思考和記憶等方面對技術(shù)的依賴性增長可能會造成自我個性化的喪失,使得人的屬性漸漸被技術(shù)屬性所淹沒,從而使得“我”失去了“人之為人”的本質(zhì)豐富性,成為一個“近乎不存在”的空泛概念。如漢娜·阿倫特所說,如果知識與思想已然分道揚(yáng)鑣,我們也就變成了機(jī)器的奴隸,變成了無思想的生物[23]。在海德格爾看來,現(xiàn)代技術(shù)的本質(zhì)是“座架”,人及世間萬物都按照“座架”規(guī)定的解敝方式解蔽自身。人雖然是技術(shù)的使用者,但從根本上來看卻是技術(shù)賦予使命的執(zhí)行者[5]22。技術(shù)的置造,讓世界井然有序而又千篇一律。被拋于世的此在與其他存在者的共處同在消除了人們彼此之間的差別和特色,此在成為差不多的“常人”,并在“常人”的宰制下“沉淪”于世,隨大流地過著差不多的生活,“常人”對文學(xué)藝術(shù)怎樣閱讀怎樣判斷,我們就怎樣閱讀怎樣判斷[17]180。斯蒂格勒也指出,一味地沉入技術(shù)世界是一種靈魂的沉淪,而沉淪是一種遺忘。他甚至悲觀地認(rèn)為,在當(dāng)今的技術(shù)時代,技術(shù)的力量具有毀滅整個人類的危險(xiǎn)[1]95,104。真若如此,作為技術(shù)發(fā)明者的人,實(shí)際上便有了自我毀滅的力量。由此,我們可以看出不同時空的人們面對技術(shù)僭越時共同的身份焦慮,以及個體價(jià)值被消解的“存在之痛”和意義危機(jī)。在吉登斯看來,“個人之無意義感”正是晚期現(xiàn)代性導(dǎo)致的基本心理問題[24]。

在數(shù)字分身、數(shù)字永生等概念層出不窮的當(dāng)下,人工智能帶來的沖擊無疑倒逼著我們?nèi)シ此己妥穯柸酥疄槿说囊?guī)定性,也就是去尋求那個貫穿并且支配著每一個人之為人的東西。其實(shí),這一終極追問始終伴隨著人類。柏拉圖將人視為沒有羽毛兩足直立的動物?！盾髯印し窍唷吩?“然則人之所以為人者,非特以二足而無毛也,以其有辨也?！薄盾髯印ね踔啤吩?“力不若牛,走不若馬,而牛馬為用,何也?曰:人能群,彼不能群也?！瘪R克思在《關(guān)于費(fèi)爾巴哈的提綱》中指出,人的本質(zhì)在其現(xiàn)實(shí)性上,是一切社會關(guān)系的總和。在法國哲學(xué)家帕斯卡爾看來,“人只不過是一根葦草,是自然界最脆弱的東西,但他是一根能思想的葦草。”[25]著名的圖靈測試,在對機(jī)器與人的區(qū)別上,關(guān)注的主要是語言和理性兩個方面[26]。稍加分析便可發(fā)現(xiàn),在古今中外這些關(guān)于人之為人的眾說紛紜中,人們更為關(guān)注的是人的社會屬性,尤其是語言和思想之于人的重要性。?？抡J(rèn)為人與世界的關(guān)系實(shí)質(zhì)上是一種話語關(guān)系,話語和權(quán)力不可分離。事實(shí)上,當(dāng)前人們對于AIGC的擔(dān)憂便恰恰在于它已然“侵入”了人類的語言和思想領(lǐng)域,從而切中了人類主體性的要害。

意大利學(xué)者保羅·貝南蒂(Paolo Benanti)指出,語言歸根結(jié)底是一種交流技術(shù)。有了它,人就能“發(fā)明”自己,把自己想象和創(chuàng)造的結(jié)果傳播開來[27]?！妒ソ?jīng)》中巴別塔的故事,正是語言之于人類存在重要性的生動注腳。在海德格爾看來,語言是存在的家園,它是人存在的揭示、澄明與到達(dá)[28],是思想的載體和驅(qū)動器,所有思想道路都以某種非同尋常的方式貫穿于語言之中[5]5。實(shí)際上,語言不僅是人際交流不可或缺的中介,也是我們一切心理活動的載運(yùn)工具。比如在深度思考的狀態(tài)下,個體的內(nèi)在意識自由流淌,舊認(rèn)知與新信息充分碰撞、交融,當(dāng)下體驗(yàn)與過往記憶自由穿梭、勾連,原有的固化體系被悄無聲息、了無痕跡地解構(gòu)與重構(gòu),日常生活中的困惑與煩惱得以化解或拋卻。就此而言,沉思甚或遐思是人與自我的無聲交流與深層對話,也是個體認(rèn)知的梳理和思想的升華,它就像一種液態(tài)黏合劑,作用于人類有機(jī)體的自我動態(tài)整合與情緒自洽,從而讓人的自我意識和主體性得以不斷增強(qiáng),真正有別于被數(shù)據(jù)和算法操控的純?nèi)焕硇缘墓杌铩?/p>

當(dāng)下的問題在于,技術(shù)的僭越讓我們的語言、思維和行動模式都日益陷入某種程度上的機(jī)械化,以至于人之為人的本質(zhì)規(guī)定性面臨強(qiáng)勁的挑戰(zhàn)。雖然目前還處于弱人工智能階段,但隨著各大巨頭卷入“混戰(zhàn)”,強(qiáng)人工智能時代或許就在不遠(yuǎn)的未來,甚至超級人工智能也并非不可能。屆時,劉易斯·芒福德的擔(dān)憂或?qū)⒆兂涩F(xiàn)實(shí):機(jī)器體系趨向規(guī)律性和完全的自動化,最終隔斷了機(jī)器與人類聯(lián)系的臍帶,使它變成了一種絕對[29]265。換言之,對于當(dāng)下大量存在的意識代具化和技術(shù)壟斷,如果人類再不有意識地加以克制與規(guī)制,我們不但面臨意識演化的風(fēng)險(xiǎn),最終人的意識恐將皈依于機(jī)器之心,進(jìn)而產(chǎn)生新的意義上的“人之死”。就此而言,ChatGPT所預(yù)示的通用人工智能(AGI)就不再僅僅是由大語言模型所打造的新工具,而且預(yù)示著一種統(tǒng)攝一切的新存在,或者說開啟了通向新存在的大門[30]。當(dāng)然,這種“新存在”并非必然意味著更好的存在,它促使我們?nèi)ニ伎既祟愒撊绾慰创粩嘤楷F(xiàn)、加速迭代的人工智能數(shù)碼物和技術(shù)物的存在,并選擇該以怎樣的姿態(tài)與它們共生共處。

技術(shù)與人類相伴而生,異常古老,正是技術(shù)標(biāo)識了漫長的人類史前時期,如新石器時代、舊石器時代等[4]2。若從人類中心主義的觀念出發(fā),人是機(jī)器的完全尺度,人和技術(shù)之間是控制與被控制的二元對立關(guān)系[31]。然而,面對“幾乎什么都能做”的人工智能,人類正逐漸喪失原有的控制力,到處蔓延著被僭越和被替代的焦慮。同時,以人工智能和生物技術(shù)為核心的現(xiàn)代技術(shù),正在加速推動人類身體和精神的雙重技術(shù)化[32]。棲居于技術(shù)理性甚囂塵上、自然人類文明及其精神表達(dá)系統(tǒng)逐漸式微的人類世界,我們必須以一種“to be or not to be”的反思姿態(tài)去直面數(shù)字生命的存在,去構(gòu)建新生態(tài)下的人機(jī)關(guān)系。實(shí)際上,人造技術(shù)物不只是人類征服自然的工具,也是人類經(jīng)驗(yàn)與存在的積極建構(gòu)者和非人類行動者。從“谷登堡人”到“機(jī)器新娘”“圖靈人”,從“沙發(fā)土豆”到“手機(jī)人”“網(wǎng)絡(luò)繭兒”,在這一系列稱謂的比方和隱喻里,我們可以窺見人與技術(shù)的糾葛和博弈由來已久,二者可謂是互為鏡鑒、共同演進(jìn)。當(dāng)下,人與智能機(jī)器正日益互嵌互構(gòu)成為共生體,“人機(jī)共生”乃至“人機(jī)一體”成為未來趨勢。因此,我們應(yīng)當(dāng)打破非此即彼的替代思維,建立起人與技術(shù)協(xié)作進(jìn)化、相得益彰的共生思維。OpenAI近期將公司主頁標(biāo)語從“形塑未來的技術(shù)”改成“創(chuàng)造造福全人類的安全人工智能”(Creating safe artificial intelligence that benefits all of humanity)便充分體現(xiàn)了這樣一種科技向善的自覺意識和實(shí)踐作為。

四、結(jié)語

以ChatGPT為代表的AIGC在內(nèi)容生產(chǎn)和供給方式上的技術(shù)特質(zhì)高度契合著日常生活不斷加速語境下人們對于效率的崇尚與追求,因而一經(jīng)問世便迅速受到人們的“熱捧”。然而,如果不對AIGC的狂飆式擴(kuò)散和應(yīng)用加以密切關(guān)注與必要的規(guī)制,毫無顧忌地任由人工智能“篡權(quán)”、宰制,我們或?qū)⒚媾R話語、意識和存在等多重危機(jī),甚至最終失去人之為人的根基。然而,必須強(qiáng)調(diào)的是,我們對于技術(shù)的批判從來不是為了逃避或拋棄,而恰恰是一種對自身存在境遇的直面和沉思,這種沉思也是一種追問,其實(shí)任何的追問都是為了尋求,尋求一種人與技術(shù)的自由關(guān)系。換言之,沉思乃是對于值得追問的東西的泰然任之[5]69。因此,我們應(yīng)當(dāng)順應(yīng)日常生活深度媒介化的客觀現(xiàn)實(shí)與“人機(jī)協(xié)作”“人機(jī)一體”的未來趨勢,拋卻二元對立的替代思維,秉承和合共生的理念,泰然自若地看待生成式人工智能既可賦能又有負(fù)能的一體兩面,提升數(shù)字素養(yǎng),高揚(yáng)人文精神,共同致力于科技向善,合力構(gòu)筑美好數(shù)字生活新圖景。

人類一直生活在人造物與自然物混雜的、不斷變化著的環(huán)境之中?？v觀人類技術(shù)發(fā)展史,每一次技術(shù)的變革或崛起都會帶來不同程度的焦慮、恐慌甚至抵抗。柏拉圖曾焦慮于文字即將替代口語,“你發(fā)明的文字使習(xí)字人的心靈患上健忘癥,因?yàn)樗麄儾辉偈褂米约旱挠洃?他們會相信外在的文字,記不得自己?！盵33]《莊子·天地篇》中記述了一位老農(nóng)拒用新的取水裝置“桔槔”,而堅(jiān)持“鑿隧而入井,抱甕而出灌”的寓言故事。麥克盧漢指出“電力技術(shù)問世初期產(chǎn)生的結(jié)果是焦慮”[19]44?；乩談t向我們展示了被作家們用文字記錄下的對留聲機(jī)、電影和打字機(jī)的恐慌情緒,這些都成了現(xiàn)代的我們對未來充滿恐慌的真實(shí)寫照[14]2。新近來襲的ChatGPT類AIGC也不例外,它給人們帶來了被“解救”的歡喜,也激發(fā)了被取代的恐懼。長遠(yuǎn)來看,快速迭代的AIGC必然對人類的生活場域與生存境遇產(chǎn)生更加具有顛覆性的影響。在一次又一次的技術(shù)變革和沖擊下,我們仿佛成了技術(shù)焦慮循環(huán)中的西西弗斯。或許,我們可以聽取劉易斯·芒福德的建議,不必在面對機(jī)器體系時如此懦弱,也不必以無用和可悲的方法去逃避機(jī)器體系,畢竟機(jī)器體系的規(guī)律是人發(fā)現(xiàn)的,機(jī)器體系的實(shí)體是人創(chuàng)造的,機(jī)器體系的節(jié)奏是人根據(jù)生活中的管理技藝而預(yù)訂的[29]279?？傊?面對ChatGPT這類更高效、更便捷的技術(shù)形態(tài),既不無度放任人工智能的失范應(yīng)用,也不讓過度的憂慮遮蔽了它們所攜帶的諸多可能性。未來,人工智能是否會具有自主意識與自由意志,這是一個有待驗(yàn)證或見證的問題。可以肯定的是,人類在既往的各種不確定性面前都表現(xiàn)出了“行到水窮處,坐看云起時”的樂觀與曠達(dá)。