人工智能技術(shù)異化及其本質(zhì)探源

人工智能（AI）技術(shù)的廣泛應(yīng)用在促進(jìn)社會(huì)進(jìn)步的同時(shí)，負(fù)面效應(yīng)凸顯。例如，機(jī)器人應(yīng)用導(dǎo)致失業(yè)現(xiàn)象、網(wǎng)絡(luò)應(yīng)用導(dǎo)致網(wǎng)癮現(xiàn)象，AI應(yīng)用導(dǎo)致貧富差距現(xiàn)象、AI算法導(dǎo)致歧視現(xiàn)象、大數(shù)據(jù)的應(yīng)用導(dǎo)致隱私泄露、人類精神生活退化現(xiàn)象，等等，這些都是隨著AI技術(shù)的應(yīng)用帶來的社會(huì)問題。AI的應(yīng)用本來是為了造福人類、解放人類，幫助人類獲得自由的，卻導(dǎo)致人類依賴機(jī)器，受機(jī)器控制，產(chǎn)生異化現(xiàn)象。

馬克思的勞動(dòng)異化理論

“異化”一詞來源于拉丁語alienatio，原意是讓渡、疏遠(yuǎn)、脫離等。最早在神學(xué)中使用，用來表示信徒疏遠(yuǎn)上帝。后來逐漸應(yīng)用到政治學(xué)領(lǐng)域和社會(huì)學(xué)領(lǐng)域。馬克思在批判和吸收黑格爾的異化思想、費(fèi)爾巴哈的人本主義異化理論的基礎(chǔ)上建立起勞動(dòng)異化理論。馬克思吸收和超越了黑格爾的“異化”與勞動(dòng)之間的辯證關(guān)系，他結(jié)合資本主義大生產(chǎn)，揭示出異化的本質(zhì)是勞動(dòng)異化，從而形成了勞動(dòng)異化思想。

馬克思認(rèn)為，異化是人類在發(fā)展過程中創(chuàng)造的物質(zhì)的或精神的東西，它成為異己的存在力量，并反過來控制、奴役人類自身。在馬克思看來，異化包含兩層含義：一是勞動(dòng)異化必須從主體出發(fā)產(chǎn)生客體，二是客體與主體相對(duì)立并成為異己的統(tǒng)治主體的力量。馬克思主要從勞動(dòng)產(chǎn)品（勞動(dòng)結(jié)果）與勞動(dòng)者相異化、生產(chǎn)活動(dòng)（勞動(dòng)過程）與勞動(dòng)者相異化、勞動(dòng)者與他的類本質(zhì)相異化以及人與人相異化四個(gè)方面闡釋了他的勞動(dòng)異化理論。下面我們就從上述四個(gè)方面來分析馬克思勞動(dòng)異化理論的具體表現(xiàn)。

馬克思勞動(dòng)異化理論的第一個(gè)部分——?jiǎng)趧?dòng)結(jié)果同勞動(dòng)者相異化指的是物的異化，馬克思異化理論的后三個(gè)部分指的是人的異化。在馬克思勞動(dòng)異化理論中，不管是勞動(dòng)結(jié)果、勞動(dòng)過程還是人的類本質(zhì)異化都是人的“自我異化”，馬克思勞動(dòng)異化理論由人的自我異化和人與人的異化兩個(gè)層面構(gòu)成。馬克思把勞動(dòng)異化的根源歸為私有制和機(jī)器化大生產(chǎn)，生產(chǎn)資料資本家占有，勞動(dòng)者失去生產(chǎn)資料，機(jī)器化大生產(chǎn)的生產(chǎn)方式導(dǎo)致了勞動(dòng)異化的出現(xiàn)。人類創(chuàng)造出機(jī)器本來是為了使人的生產(chǎn)和生活變得更美好，但機(jī)器卻成為了“它者”，成為了異己的力量，人類被機(jī)器控制，受機(jī)器約束。在步入AI時(shí)代的今天，AI技術(shù)讓機(jī)器取代人的勞動(dòng)成為可能，如果模擬出人類智能，機(jī)器甚至將取代人的主體性地位。如果這些可能變?yōu)楝F(xiàn)實(shí)，那么人類將失去自由意志，失去幸福，AI的“利維坦”將使人類生活變成“敵托邦”。

AI技術(shù)異化——馬克思異化理論的新呈現(xiàn)方式

AI是繼蒸汽機(jī)發(fā)明、電氣技術(shù)、網(wǎng)絡(luò)技術(shù)應(yīng)用之后的第四次工業(yè)革命。蒸汽機(jī)技術(shù)的應(yīng)用實(shí)現(xiàn)了物質(zhì)的自由移動(dòng)，電氣技術(shù)的應(yīng)用實(shí)現(xiàn)了能量的自由轉(zhuǎn)換，網(wǎng)絡(luò)技術(shù)的應(yīng)用實(shí)現(xiàn)了信息的自由傳遞，AI技術(shù)的發(fā)展與前三次工業(yè)革命具有同樣的顛覆性作用，它的應(yīng)用促進(jìn)了社會(huì)進(jìn)步和人類發(fā)展，但也帶來一些意想不到的后果：越來越遠(yuǎn)離人類的控制，也就是AI技術(shù)的異化。

1.AI算法與算法設(shè)計(jì)者的分離

AI算法是AI算法設(shè)計(jì)者的勞動(dòng)產(chǎn)品，然而在現(xiàn)實(shí)中，由于研發(fā)設(shè)計(jì)AI算法的生產(chǎn)資料即資本并不掌握在算法設(shè)計(jì)者的手中，AI算法設(shè)計(jì)者不占有AI算法，算法設(shè)計(jì)者也沒有隨意修改或支配算法的權(quán)利，算法設(shè)計(jì)者能夠擁有的只有算法的部分使用權(quán)。算法設(shè)計(jì)者創(chuàng)造了AI算法，但是算法的所有權(quán)、支配權(quán)、使用權(quán)都不屬于算法設(shè)計(jì)者。AI算法與算法設(shè)計(jì)者相疏離。算法設(shè)計(jì)者設(shè)計(jì)的算法越完美，AI產(chǎn)品就越智能，在生活中的應(yīng)用就越廣泛，就越背離它的創(chuàng)造者，并成為設(shè)計(jì)者的敵對(duì)力量。

2.AI機(jī)器加深了人的自我異化危機(jī)

隨著AI機(jī)器被廣泛地應(yīng)用到人類生活的各種場(chǎng)景中，人的技能對(duì)生產(chǎn)的影響越來越小，相較于傳統(tǒng)的機(jī)器生產(chǎn)，AI機(jī)器加深了勞動(dòng)異化的廣度和深度。

首先是機(jī)器取代人的危機(jī)。AI機(jī)器因其技術(shù)優(yōu)勢(shì)（決策速度快、準(zhǔn)確率高、不受環(huán)境影響等）正在人類的生產(chǎn)和生活中被廣泛應(yīng)用。工業(yè)機(jī)器人因其高效、自動(dòng)化、智能化的特點(diǎn)正在取代生產(chǎn)線上從事簡(jiǎn)單重復(fù)性勞動(dòng)的工人，便捷、快速的移動(dòng)支付正在取代銀行雇員，醫(yī)療機(jī)器人正在取代醫(yī)生的診斷和治療工作，家政機(jī)器人已經(jīng)登堂入室取代家政人員的工作，無人機(jī)正在取代從事危險(xiǎn)、繁重以及瑣碎的低智能工作的“蜘蛛人”、分揀工，等等。勞動(dòng)作為人的最基本的能力和權(quán)利，卻面臨著被機(jī)器剝奪的危險(xiǎn)。人類正在逐步喪失部分勞動(dòng)能力和勞動(dòng)機(jī)會(huì)。

其次是機(jī)器控制人的危機(jī)。AI技術(shù)控制人的現(xiàn)象已悄然出現(xiàn)。各種智能手機(jī)和智能APP猶如“技術(shù)多巴胺”控制了部分網(wǎng)民的生活，AI技術(shù)像鴉片一樣讓人類癡迷，深陷其中不能自拔，“技術(shù)成癮”正在控制部分人的行為、情緒、心理、社交等。AI控制人的精神世界，讓人沉溺、上癮，大量侵占人的休閑時(shí)間，使人的精神在泛娛樂化、泛消費(fèi)主義化的大眾文化中日益被物化和匱乏化，人類的精神的自由豐富性被消解。

AI機(jī)器加深了人的自我異化危機(jī)，無論是AI取代人的勞動(dòng)還是控制人的心理和行為，都使人處在一種受支配的和不自由的生產(chǎn)關(guān)系中，在這種生產(chǎn)關(guān)系中，勞動(dòng)是被動(dòng)的、外在的，不屬于勞動(dòng)者自己，并反過來控制人類自身的力量。

3.AI機(jī)器加深人的主體性危機(jī)

AI技術(shù)發(fā)展正在潛移默化地改變著人的認(rèn)知方式、思維方式和生活方式，以及人類的自由勞動(dòng)，人類對(duì)自然界的改造、人類精神世界的拓展以及人類能力的提升的無限可能性正在被AI技術(shù)消解和取代，面臨著主體被異化的危機(jī)。人的類本質(zhì)同人相異化，智能時(shí)代的人的類本質(zhì)同人的異化主要表現(xiàn)在以下三個(gè)方面：

首先，AI技術(shù)導(dǎo)致人的精神危機(jī)。隨著AI技術(shù)對(duì)于人類生活和生產(chǎn)的全面介入導(dǎo)致人的精神異化。人們獲取信息咨詢的主要渠道是通過AI算法，基于大數(shù)據(jù)的AI算法可以提供個(gè)性化服務(wù)，一方面能夠高效便捷地幫助人篩選出最優(yōu)信息，滿足其個(gè)性化需要的偏好。另一方面?zhèn)€性化算法也容易使“信息繭房（Information Cocoons）”效應(yīng)擴(kuò)大，信息繭房使人囿于封閉窄化的信息環(huán)境中，加深人思想認(rèn)知的片面化和單一化，使人的主體性喪失，人的自由意志被物化，人成為單向度的人。

其次，AI機(jī)器導(dǎo)致人的能力危機(jī)。AI機(jī)器超強(qiáng)計(jì)算能力、數(shù)據(jù)處理能力、邏輯分析能力和完美的記憶能力等，在節(jié)省了使用者的時(shí)間，提升勞動(dòng)者效率的同時(shí)，又極大助長(zhǎng)了勞動(dòng)者的惰性，將本來屬于人的能力轉(zhuǎn)移給了機(jī)器，人只需簡(jiǎn)單的操作就能獲取想要的結(jié)果，機(jī)器替代人做判斷、分析和決策，機(jī)器取代人類成為理性判斷和分析決策的主體，人類的學(xué)習(xí)、記憶、分析、歸納、思辨等能力逐漸被機(jī)器做取代。

再次，AI算法剝奪了人類尊嚴(yán)。人臉識(shí)別、步態(tài)識(shí)別技術(shù)能夠快速地捕捉識(shí)別人位置和信息，使人無處藏身；醫(yī)療數(shù)據(jù)、人類基因編碼讓人的身體信息赤裸裸地展示，人類正穿著“皇帝的新裝”集體裸奔，AI可以跟據(jù)人的大腦波動(dòng)圖來分析和解讀人的想法和行為，人最引以為傲的理性思維能力在機(jī)器面前一覽無遺，人的尊嚴(yán)自由在智能機(jī)器面前喪失殆盡。

4.AI機(jī)器加深人的交往危機(jī)

在AI環(huán)境下人與人的關(guān)系也發(fā)生了異化，人的交往逐漸被置于智能機(jī)器的控制下，人成為透明人。

首先，交往危機(jī)表現(xiàn)在交往的透明性。AI算法使得每個(gè)個(gè)體成為透明人，人類交往也變得透明，無隱私可言。家庭住址、旅游地點(diǎn)、收入以及其他個(gè)人的隱私等在AI時(shí)代不是隱私，AI時(shí)代的交往根據(jù)不同的利益關(guān)系形成不同的小團(tuán)體，形成“網(wǎng)絡(luò)巴爾干（Cyber-balkanization）”維護(hù)本群體利益，過濾和抵制非本群體利益，有可能導(dǎo)致AI時(shí)代的群體極化行為。

其次，交往危機(jī)表現(xiàn)在交往的虛擬性。AI機(jī)器還正在使人喪失“現(xiàn)實(shí)性”。傳統(tǒng)意義上集中在一起的、有機(jī)的、統(tǒng)一性的勞動(dòng)模式被消解，離群索居的“宅”生活、工作模式可能性得以彰顯。勞動(dòng)者成為了機(jī)器控制下的孤立個(gè)體。

再次，交往危機(jī)表現(xiàn)在交往的疏離性。網(wǎng)絡(luò)的便捷性使人的工作時(shí)間無限地?cái)D壓人的自由支配時(shí)間，網(wǎng)絡(luò)全面地支配和控制人的自由時(shí)間，使人陷入社交恐懼之中，加深了人與人間的疏離。

AI技術(shù)異化的本質(zhì)分析

1.數(shù)據(jù)主義盛行

AI的基礎(chǔ)是數(shù)據(jù)、算法和算力。數(shù)據(jù)主義者認(rèn)為全人類是單一的數(shù)據(jù)處理系統(tǒng)，一切皆數(shù)據(jù),《未來簡(jiǎn)史》的作者尤瓦爾·赫拉利（Y.N.Harari）認(rèn)為“數(shù)據(jù)主義”盛行導(dǎo)致“人文主義”的崩塌，數(shù)據(jù)已經(jīng)滲透到人類的生產(chǎn)、生活的方方面面，大數(shù)據(jù)已經(jīng)撼動(dòng)了世界的方方面面，從商業(yè)科技到醫(yī)療、政府、教育、經(jīng)濟(jì)、人文以及社會(huì)的其他各個(gè)領(lǐng)域。萬物皆數(shù)據(jù)，數(shù)據(jù)經(jīng)過分析和挖掘成為推動(dòng)社會(huì)發(fā)展特別是經(jīng)濟(jì)發(fā)展的新動(dòng)力，整個(gè)社會(huì)的生產(chǎn)方式、經(jīng)營方式、治理方式、思維方式等發(fā)生根本性改變。首先，生產(chǎn)數(shù)據(jù)化?；诖髷?shù)據(jù)驅(qū)動(dòng)的個(gè)性化算法系統(tǒng)被廣泛地應(yīng)用到了經(jīng)濟(jì)生活的各個(gè)領(lǐng)域，改變了企業(yè)傳統(tǒng)的生產(chǎn)、銷售模式。數(shù)據(jù)分析挖掘系統(tǒng)能使企業(yè)從繁雜的數(shù)據(jù)資源中洞察到消費(fèi)者的真實(shí)需求，幫助企業(yè)進(jìn)行有效的質(zhì)量管理提升、服務(wù)改進(jìn)和精準(zhǔn)化營銷，以促進(jìn)消費(fèi)，提升盈利空間。大數(shù)據(jù)已經(jīng)成為企業(yè)提升自身競(jìng)爭(zhēng)力的核心要素，“數(shù)字化經(jīng)濟(jì)”正在對(duì)經(jīng)濟(jì)進(jìn)行模式轉(zhuǎn)型。大數(shù)據(jù)在提升政府政策決策的科學(xué)性、執(zhí)行的透明性、實(shí)施的有效性方面發(fā)揮了優(yōu)勢(shì)作用，對(duì)完善政府權(quán)力監(jiān)督，實(shí)現(xiàn)政府信息共享和透明提供了極大助力?！皵?shù)字化治理”正在成為政府和社會(huì)的共識(shí)。其次，社會(huì)數(shù)據(jù)化，數(shù)字化技術(shù)的發(fā)展，整個(gè)社會(huì)正在成為以數(shù)據(jù)為支撐和鏈接的共同體。數(shù)據(jù)化社會(huì)使智能算法系統(tǒng)在更廣泛的領(lǐng)域發(fā)揮重要的作用，數(shù)據(jù)挖掘、數(shù)據(jù)洞察經(jīng)由智能算法滲入到社會(huì)生活的各個(gè)場(chǎng)景中。數(shù)據(jù)成為可以不斷創(chuàng)造財(cái)富的資源，甚至成為控制社會(huì)的權(quán)力，數(shù)據(jù)搜集者通過互聯(lián)網(wǎng)技術(shù)等收集、積累并占有大量的數(shù)據(jù)，形成數(shù)據(jù)壟斷，用數(shù)據(jù)來獲取最大化的商業(yè)價(jià)值和利潤。大數(shù)據(jù)不但創(chuàng)造了經(jīng)濟(jì)財(cái)富，還可以通過個(gè)性化推送干擾到國家選舉，大數(shù)據(jù)是人們獲得新的認(rèn)知、創(chuàng)造新的價(jià)值的源泉；大數(shù)據(jù)還是改變市場(chǎng)、組織機(jī)構(gòu)，以及政府與公眾關(guān)系的方法。不但如此，大數(shù)據(jù)的發(fā)展改變了人類的認(rèn)知，之前人類通過揭示自然界的因果關(guān)系來尋找宇宙奧秘，現(xiàn)在人類通過大數(shù)據(jù)相關(guān)來找到事物間的關(guān)聯(lián)。數(shù)據(jù)主義以其前所未有的優(yōu)勢(shì)在改變著人類關(guān)系、人與自然的關(guān)系，剝奪了人類的生存空間和自由交流，限制了人類精神的解放，導(dǎo)致了“技術(shù)霸權(quán)”和數(shù)據(jù)異化現(xiàn)象出現(xiàn)，數(shù)據(jù)異化必然會(huì)導(dǎo)致以數(shù)據(jù)為驅(qū)動(dòng)的AI的異化。

2.客體主體化

人工智能主要思路是模仿人的智能和模仿人的智能控制下的行為。AI機(jī)器在行為、認(rèn)知、交互等方面都表現(xiàn)出了明顯的類似于人的判斷力和創(chuàng)造性，而能動(dòng)的認(rèn)識(shí)和改造世界正是人的主體性之所在。智能機(jī)器的存在形式逐漸轉(zhuǎn)化成了具有主體生命結(jié)構(gòu)和本質(zhì)力量的某些因素，而擁有了主體的功能和屬性，表現(xiàn)出了明顯的主體化趨勢(shì)。機(jī)器一旦產(chǎn)生出和人類一樣甚至超出人類的有自主意識(shí)的思維，那么人作為主體的地位將受到嚴(yán)重的挑戰(zhàn)。

3.算法權(quán)力化

算法是AI的核心。算法決定了機(jī)器的性質(zhì)和功能。當(dāng)前，整個(gè)自然和人類社會(huì)的很多方面都被納入到了基于大數(shù)據(jù)的智能算法的控制之下，算法正在逐漸成為人類社會(huì)生活的主導(dǎo)性力量，“一切皆算法”“算法崇拜”等正在成為主流的認(rèn)知。從微觀層面的個(gè)人生活到中觀層面的社會(huì)經(jīng)濟(jì)運(yùn)行再到宏觀層面的國家戰(zhàn)略，無不滲透著基于大數(shù)據(jù)的智能算法的痕跡，整個(gè)社會(huì)和自然界被置于智能算法的框架之下，算法高效、精準(zhǔn)的分析挖掘數(shù)據(jù)的預(yù)測(cè)、判斷和決策能力正在重塑著人們的思維方式、行為方式和生存方式，也在重塑著整個(gè)社會(huì)的運(yùn)行模式和治理模式，算法權(quán)力化成為必然。

開發(fā)AI機(jī)器的資本和技術(shù)掌握在少數(shù)人手中，資本雇傭具有算法設(shè)計(jì)能力的人為其工作，算法設(shè)計(jì)能力可以通過學(xué)習(xí)獲得，但必須要有非常強(qiáng)悍的數(shù)學(xué)和計(jì)算機(jī)知識(shí)，這使一些優(yōu)秀的算法設(shè)計(jì)者可以優(yōu)先占有更多的社會(huì)資源，將自己的智能轉(zhuǎn)化為資本，成為AI行業(yè)社會(huì)分工的上層。然而，因?yàn)樗惴ㄔO(shè)計(jì)的門框又非常高，大部分普通人可能終身都難以了解其運(yùn)行原理，處于被動(dòng)的被算法控制、操縱的社會(huì)生產(chǎn)生活中，“算法鴻溝”不斷加深。

算法的權(quán)利實(shí)際掌握在數(shù)據(jù)或者科技寡頭手中，并形成行業(yè)壟斷，割裂了其他企業(yè)或者資本進(jìn)入該行業(yè)的途徑和機(jī)會(huì)。算法設(shè)計(jì)者可以通過對(duì)算法設(shè)計(jì)模型的選擇，引導(dǎo)和控制個(gè)人和群體的行為，甚至重塑他們對(duì)世界的認(rèn)知，以達(dá)到最有利于自身利益的目的。算法權(quán)利因其算法霸權(quán)影響范圍日益廣泛，因算法設(shè)計(jì)者或主導(dǎo)者的偏好、利益訴求及“算法黑箱”而導(dǎo)致的算法歧視、算法不公平和算法濫用必然導(dǎo)致AI異化。

4.工具理性的泛濫與價(jià)值理性的缺失

導(dǎo)致AI異化的原因是復(fù)雜的和多方面的，但其源頭在于技術(shù)理性和價(jià)值理性的背離。工具理性強(qiáng)調(diào)的是人類通過理性的計(jì)算而自由選擇手段的合理性和有效性，而不管目的是否恰當(dāng)，工具理性只關(guān)注效率、功用、計(jì)算和手段，法蘭克福學(xué)派學(xué)者批評(píng)了馬克斯·韋伯的工具理性，工具理性導(dǎo)致技術(shù)理性霸權(quán)，消解了人生存的價(jià)值基礎(chǔ)。工具理性和技術(shù)理性成為理性的化身，知識(shí)即技術(shù)，技術(shù)的本質(zhì)是工具，人類可以憑借技術(shù)依靠理性來征服和控制自然，并最終達(dá)到人類的自由和完善。馬爾庫塞認(rèn)為技術(shù)理性正在轉(zhuǎn)化為技術(shù)拜物教，把科學(xué)技術(shù)作為意識(shí)形態(tài)控制人類。必須用批判理性代替技術(shù)理性。價(jià)值理性注重行為本身的價(jià)值，而非注重行為手段和結(jié)果。在價(jià)值理性中，人是終極目的，價(jià)值理性凸顯人存在的意義。隨著AI的發(fā)展，價(jià)值理性日趨缺失。技術(shù)在創(chuàng)造巨大的物質(zhì)財(cái)富的同時(shí)，并沒有如人們所期待的那樣帶來人類的全面解放，反而使人類陷入了深刻的異化危機(jī)之中。AI機(jī)器作為人所創(chuàng)造的技術(shù)人造物，智能化程度越高、功用越強(qiáng)大，在失控的情況下對(duì)人類造成的破壞可能就越大，這種破壞反映在人身上就是使人自身異化為非人。

技術(shù)因其內(nèi)在規(guī)律的不可知性，人類理性認(rèn)識(shí)的有限性以及技術(shù)風(fēng)險(xiǎn)的不可預(yù)測(cè)性導(dǎo)致技術(shù)后果的不確定性，技術(shù)理性難以把握。1980年，科林格里奇（David Collingridge）在《技術(shù)的社會(huì)控制》中提出科林格里奇困境（Collingridge dilemma）來表明技術(shù)對(duì)人類的控制，由于技術(shù)發(fā)展不可知性導(dǎo)致技術(shù)失去控制，致使AI異化的本質(zhì)呈現(xiàn)了出自身的復(fù)雜性和獨(dú)特性。

綜上所述，人工智能異化是馬克思主義異化的當(dāng)代表現(xiàn)，我們?cè)噲D深入挖掘人工智能異化內(nèi)涵的基礎(chǔ)是挖掘人工智能的本質(zhì)，從而規(guī)范人工智能的發(fā)展。