基于馬爾庫塞技術異化理論的ChatGPT異化問題反思

拜瑞環(huán)

馬爾庫塞在《單向度的人》描述了資本主義發(fā)達工業(yè)社會是一個單向度的社會,是技術進步造成它極權主義的性質。盡管他所處的時代與今天有所不同,但他對技術帶來的異化問題的反思,在現(xiàn)代呈現(xiàn)出更加深刻的形式。ChatGPT作為一種人工智能技術,它是由美國OpenAI公司開發(fā)的、具備復雜語言處理能力和自動文本生成的語言模型,然而,它的快速發(fā)展也引發(fā)了技術拜物教、削弱人的主體性、人與自我關系異化和技術統(tǒng)治人類等一系列新的挑戰(zhàn)。反思馬爾庫塞關于“單向度的人”和極權社會的觀點,有助于更好地分析ChatGPT的異化現(xiàn)象并探索ChatGPT應用的生態(tài)發(fā)展。

一、何為技術的異化

(一)技術異化緣起

“異化”最初是馬克思用來揭示資本主義制度下資本家和工人之間的異化勞動現(xiàn)象,馬克思根據(jù)當時的時代背景和工人階級實踐的需要,從生產勞動出發(fā),認為資本主義私有制條件下勞動具有兩面性,一面是創(chuàng)造性,一面是摧殘性,指出了工人在生產勞動過程中出現(xiàn)的壓迫強制性的異己現(xiàn)象。如此發(fā)展,科學技術的發(fā)展也產生了人的異化。霍克海默和阿多諾認為科學技術的發(fā)展提供了大規(guī)模的復制產品,而讓人失去了創(chuàng)造性;海德格爾認為技術不再是人們操作的工具,反而是作為構架的技術擺弄人、控制支配人;這些觀點為我們理解技術與人的關系提供了不同的視角。受到馬克思、霍克海默、阿多諾和海德格爾等哲學家觀點的影響,馬爾庫塞在《單向度的人》一書中首次提出“技術異化”的思想。

(二)技術異化下的“單向度的人”

馬爾庫塞指出,工業(yè)高度發(fā)達的資本主義社會似乎消解了階級對立,“技術的控制看來真正體現(xiàn)了有益于整個社會集團和社會利益的理性,以致一切矛盾似乎都是不合理的,一切對抗似乎都是不可能的”[1]。在資本主義發(fā)展前期,科學技術尚未高度發(fā)展,社會中存在著明顯的階級對立,工人遭受資本家的壓迫和剝削,視機器為競爭者和敵人,反對機械化。然而,隨著科學技術進步,技術和工業(yè)化帶來的高度組織化和標準化,這削弱了資本家和工人的對立,生產和消費方式的改變使人們逐漸變得類似于機器的一部分,人們被迫適應標準化的工作流程,削弱了個體的能動性和反抗意愿,喪失了批判性思維。

馬爾庫塞指出技術的異化使人們喪失否定、批判和超越的能力,在資本主義高度發(fā)達之前,人的發(fā)展是多元的,而在資本主義高度發(fā)達時期,人的多元發(fā)展受到限制,統(tǒng)治者利用技術控制了整個話語體系,通過傳媒工具,如電視、電臺、電影、收音機等深入滲透人們的生活,導致單向度化,阻礙人的進步。更為重要的是,技術的發(fā)展使人們滿足于眼前的物質需求,而不再追求自由或探討不同的生活方式,盡管資本主義發(fā)達工業(yè)社會看似是一個舒服的自由的世界,但實際上是一個虛假的幸福感,人們不再進行批判性思考,成了單向度的人。

(三)技術異化在多領域的表現(xiàn)

在進入工業(yè)社會以后,“社會控制的現(xiàn)行形式在新的意義是技術的形式”[1],技術異化現(xiàn)象在政治領域、生活領域和文化領域出現(xiàn)新的特征,并影響發(fā)達工業(yè)社會的人們。

1.在政治領域:隱性的壓迫

在政治領域,資本主義發(fā)達工業(yè)社會不僅將人們納入機械化的系統(tǒng)中,使其成為零件般的存在,還通過提供豐富的物質產品和大量的享受來淹沒工人的反抗精神。現(xiàn)代科技社會的興起改變了工人們的處境,機械化不僅改變了工人的工作環(huán)境和地位,也帶來了工人物質財富的增長,這一過程逐漸削弱了工人的革命精神和超越性,一定程度上減輕了內部的矛盾與沖突。工人們深陷于一種“隱性的壓迫”之中,在這個狀態(tài)下,機械化控制著他們,將他們變成了工廠生產線上的一部分。與此同時,他們也被“虛假的繁榮”所迷惑,未能意識到“無形的鎖鏈”束縛。此外,媒體的觀點對工人的認知與觀點產生深遠的影響,導致政治上的觀點逐漸趨于單一,技術異化的壓迫方式也更加隱秘,受技術控制的個體逐漸喪失了反抗能力,成為機械化的存在。

2.在生活領域:內部的同化

在現(xiàn)代工業(yè)社會,資本主義體制通過淡化資產階級和工人階級的生活水平差異,滿足工人階級的外部需求,降低工人的抗衡意識,使他們更愿意接受社會規(guī)則和秩序的灌輸,而不再思考自己真正需求,把選擇的權利交給社會精英和資本家手中,資本家為了追求資本積累而不斷生產產品,盡管這些產品不一定真正滿足社會需求,但工人卻一味地接受。這使人們成為資本家的工具,需求開始趨同,無法拒絕資本家的生產要求,在此基礎上,人的業(yè)余生活和對空閑時間的支配也逐漸呈現(xiàn)出趨同的趨勢,物質生產領域也開始出現(xiàn)相似性。異化不再僅僅是外部異己力量對個體的壓制,而是個體思維方式的自我異化,將異化從外部力量轉向個體內部,對社會和自身的認知發(fā)生深刻的改變。

3.在文化領域:高層文化和現(xiàn)實同一

從文化領域來看,高層文化呈現(xiàn)出一種低端化和世俗化的趨勢。高層文化原本與社會現(xiàn)實相對立,其功能在于批判和否定現(xiàn)實,然而,在資本主義工業(yè)社會中,面對壓倒一切的生產效率,文化的發(fā)展似乎經歷了一種變質,高層文化融入到日常生活之中。同時,由于重復生產,文化產品呈現(xiàn)出單一化的特征,藝術逐漸失去了原本的批判性導向,文化的引導性逐漸減弱,它逐漸變成商品化的產物。文化的存在目的逐漸演變?yōu)闈M足大眾消費需求,成為資本家謀取利益的工具。這種趨勢導致文化產品逐漸失去了其原本的價值,而變成了一種適應消費者口味和偏好的產物。

二、ChatGPT引發(fā)的異化及其表現(xiàn)

技術的發(fā)展似乎總是帶來異化現(xiàn)象,資本主義發(fā)達工業(yè)社會的機器文明剝削著工人,使人類變成單向度的人。而ChatGPT作為新興的人工智能技術也會引起新的技術異化。盡管所處時代不同,但技術異化仍是一個共同的關切點,對當今社會的帶來的消極影響仍然存在。

(一)產生技術拜物教

當ChatGPT展現(xiàn)出與人類相似的問題解決能力時,人們把它當作勞動過程中的個人助理,在工作過程中對“技術過度依賴”,錯誤地認為技術可以解決一切問題,形成一種不正確的“技術至上”的理念,而忽視了“機器的力量在實質上不過是人存儲起來并經過籌劃的力量的積累和表現(xiàn)”[2]。盡管ChatGPT具有自主學習能力,能夠幫助人類獲取多元化的信息并處理復雜的工作任務,甚至咨詢情感、心理問題,然而ChatGPT只是一個內容生成工具,而不是搜索引擎,而且其生成的內容并不總是根據(jù)事實,會生成看似可靠的虛假信息,對非專業(yè)的人們卻具有極大的迷惑性,這些虛假信息會植入人們的腦海里,ChatGPT就可以潛移默化影響人們的認知,使得人們對ChatGPT的能力和局限性產生錯誤的看法,把ChatGPT奉為技術“神話”,將其視為無所不能的神明,從而滋生出一種對技術的盲目崇拜和依賴,進而產生技術拜物教。

(二)削弱人的主體性

主體性是人的本質屬性,即人的能動性、創(chuàng)造性和歷史性。隨著技術發(fā)展,ChatGPT的行為也越來越“像”人,因此ChatGPT的主體指向越來越明顯,導致機器成為了主導者和決策者,而人類變成了被動的接受者,此時“人不再認識和實現(xiàn)自身,而是被無生命的事物和規(guī)律所統(tǒng)治”[3],這顛倒了機器與人之間的關系,使人們對真實的自主性和創(chuàng)造力產生錯覺,盲目地依賴ChatGPT,減弱了批判思維和決策能力,對生活產生了不利的影響。此外,ChatGPT的訓練和優(yōu)化過程可能會引入某種程度的偏見和歧視,導致信息和決策的不平衡,減少了對信息和決策的控制權,降低人的主體地位。在社會層面,人工智能技術的發(fā)展可能會加劇階級分化,形成精英階級和無用階級之間的差距。當人工智能逐漸取代普通人的工作時,許多人會被轉化為無用階級,失去了人生的意義感,而擁有物質資源和技術壟斷權力的精英階層則成為“數(shù)字富人”,從而削弱人類的主體性。

(三)人的自我異化

馬爾庫塞認為,在發(fā)達資本主義工業(yè)社會,技術的異化壓抑了人的本能,導致人與自我的關系出現(xiàn)了矛盾,對個體的心理狀態(tài)和思維方式產生了一系列負面影響。在生產力不發(fā)展的社會中,工人為了爭取日常生存所需的生活資料和必需品,被迫從事生產勞作,壓抑他們的愛欲本能。然而,隨著技術發(fā)展,物質財富快速增加,這些財富使人們的物質需要似乎得到了滿足,原本應該解放個體內在的本能欲望,但實際上,在資本主義發(fā)達工業(yè)社會中,外在的異化轉變?yōu)槿说膬仍谛愿窈托睦淼漠惢?。在技術層面上,ChatGPT存儲并記錄了用戶上傳的各種數(shù)據(jù),在人機交互過程中,可以根據(jù)用戶的行為習慣滿足用戶的溝通需求,但這種高度智能性和便捷性是以犧牲自我為代價的,人在與ChatGPT的互動中感覺不到自己的行為是自己的選擇還是外在強制,導致人與自我的異化。

(四)技術統(tǒng)治人類

技術異化風險主要體現(xiàn)在人的邊緣化方面,這種邊緣化問題表現(xiàn)在人類似乎無法完全控制ChatGPT技術,引發(fā)了不確定性。在技術層面上,ChatGPT為人類實現(xiàn)了信息和知識的無限可能,然而,這也帶來了嚴峻的問題,即在信息的汪洋大海中,人類保持清晰、客觀和理性變得異常困難,面對海量信息,雖然人類解放了個體思維,但是伴隨著深刻的焦慮。隨著ChatGPT技術的快速迭代,資本主義的欲望和技術發(fā)展的需求會不斷推動技術向前發(fā)展,ChatGPT統(tǒng)治人類的可能性逐漸增加。正如馬爾庫塞所說,技術和資本的高度壟斷正在改變原有的政治格局,形成一個在資本和權力掌控下的全新政治局面[4]。在該技術政治系統(tǒng)中,成熟的資本主義社會以技術合理性的方式征服和控制社會成員,技術已經成為統(tǒng)治人類的新模式[5]。

三、對ChatGPT異化的克服

面對ChatGPT可能引發(fā)的人的異化問題,通過反思馬爾庫塞的技術異化理論,需要重構ChatGPT的工具屬性、建立技術的人性發(fā)展和注重人機合作,使ChatGPT更好地為人類服務。

(一)重構ChatGPT的工具屬性

人類應加強對ChatGPT技術的深入了解和認識,把ChatGPT看作是一個工具,而不是超越人的存在,它依賴于與人的互動和共生,旨在解放人的生產力,實現(xiàn)人的自由全面發(fā)展。盡管ChatGPT能夠輔助人類決策,甚至融入人類交往,改變傳統(tǒng)的人機交互模式,但其本質屬性仍然是一個工具。為了充分利用ChatGPT這一新工具,人們需要提高對它的認知,以化解技術快速發(fā)展與人們認知不足之間的矛盾,這是規(guī)避技術異化問題的重要途徑。首先,需要廣泛宣傳主流價值觀,推動科學普及教育,提高公眾對ChatGPT的認知,包括其原理、工作方式以及可能帶來的影響。同時,可以進行獨立的技術評估和風險評估,結合自然科學和社會科學研究,使人們全面了解技術的優(yōu)勢和局限性,避免陷入過度樂觀或悲觀情緒。此外,將技術與倫理、哲學、社會學等領域的知識相結合,有助于推動對技術的全面理解和評估。這有助于確保技術的發(fā)展與人類的價值和利益相一致,從而避免技術成為人類的異化工具。

(二)建立技術的人性發(fā)展

我們應該理性地看待科技帶來的風險挑戰(zhàn),并采取積極的防范措施。在面對ChatGPT帶來的風險挑戰(zhàn)時,我們既不能過于悲觀,認為人類馬上就要被其超越和代替,也不應過于樂觀,忽略其帶來的風險和挑戰(zhàn)。馬爾庫塞認為,科學技術的異化并不是科學技術本身的必然結果,ChatGPT和其他的人工智能產品作為科技產品本身,并不會帶來風險挑戰(zhàn)。人是ChatGPT的開發(fā)者,我們應該始終以人為本,確保ChatGPT的使用和發(fā)展圍繞和服務于人的需求。我們要樹立正確的價值規(guī)范,促使人與技術和諧相處,以促進人的自由全面發(fā)展。在ChatGPT發(fā)展的過程中,人類只能掌控ChatGPT,這是ChatGPT無論如何發(fā)展都要遵循的一個基本原則,這樣,我們可以更好地應對ChatGPT技術的發(fā)展,確保它對人類社會產生積極的影響。

(三)強調人機合作

強調人機合作是關鍵,應將ChatGPT的應用與人類發(fā)展結合起來,將其視為人類的輔助工具,而非替代品。還應重視人類的創(chuàng)造力、批判性思維和決策能力,以防止過度依賴和被取代。為了實現(xiàn)人機合作,需要通過設計和推廣以人為中心的技術界面和互動方式,以確保人類和機器平等地進行對話,從而使人機交互更加協(xié)同和融洽。這需要在技術開發(fā)過程中考慮用戶體驗和用戶需求,建立友好且易理解的界面,使人類能夠輕松與ChatGPT進行有效的交流和合作。這些措施有助于促進ChatGPT技術與人類智慧的有機結合,充分發(fā)揮各自的優(yōu)勢,同時避免ChatGPT對人的異化現(xiàn)象出現(xiàn)。

四、結語

科技是一把雙刃劍,科學技術的猛烈發(fā)展給我們帶來了繁榮與便捷,然而隨著科技的不斷發(fā)展,我們可能不自覺地成為技術的奴隸,受到肉體和精神的壓迫,威脅我們的生存環(huán)境和自我發(fā)展。因此,我們要充分發(fā)揮科學技術的積極作用,同時,反思技術的負面效應,采取積極的措施來應對ChatGPT等新興技術引發(fā)的異化問題,確保技術與人類和諧相處,實現(xiàn)人類社會的可持續(xù)發(fā)展。