“失控”與“無為”：走向一種合伙人式的人機(jī)關(guān)系

陶曉　陳世丹

〔摘要〕 人工智能的突破式進(jìn)步印證了凱文·凱利有關(guān)未來機(jī)器“失控”式自主發(fā)展的預(yù)言，引發(fā)了人們對被機(jī)器奴役甚至毀滅的恐懼。文章借助解構(gòu)主義、凱文·凱利提及的“無為”之治及其他學(xué)者所論述的人機(jī)合作、共同進(jìn)化的設(shè)想，通過分析機(jī)器失控發(fā)展對傳統(tǒng)二元人機(jī)觀和主體概念的沖擊，旨在指出在真實(shí)與虛擬界限消解、“人”的概念不斷刷新的后人類時代，傳統(tǒng)二元人機(jī)觀已經(jīng)過時，且將帶來新的人機(jī)關(guān)系危機(jī)。人類需從視機(jī)器為客體及他者的思維轉(zhuǎn)向多元動態(tài)的后現(xiàn)代主體觀，從單一主體的中心式掌控轉(zhuǎn)向共進(jìn)、權(quán)力共享的合伙人式的人機(jī)關(guān)系，如此才有助于維護(hù)和諧的人機(jī)互動，而人類對機(jī)器失控式發(fā)展的恐懼最終也將迎刃而解。

〔關(guān)鍵詞〕 人工智能;人機(jī)關(guān)系;主體;后人類主義;合伙人關(guān)系

〔中圖分類號〕TP18〔文獻(xiàn)標(biāo)識碼〕A〔文章編號〕1008-2689（2019）05-0070-08

2016年3月15日，谷歌公司研造的人工智能系統(tǒng)阿爾法圍棋（AlphaGo，又譯阿爾法狗）以4∶1的絕對優(yōu)勢戰(zhàn)勝世界圍棋冠軍李世石（LeeSe-dol）。這場引人矚目的人機(jī)大戰(zhàn)瞬間卷起一陣科技風(fēng)暴，引發(fā)了人們對人工智能（AI）的密切關(guān)注。隨后，2017年5月27日，中國頂尖圍棋選手柯潔又以0∶3敗給了阿爾法狗。其實(shí)早在20年前，人工智能在國際象棋領(lǐng)域就已經(jīng)擊敗了世界冠軍。相對于國際象棋的計(jì)算來說，圍棋走位的可能性更為復(fù)雜，其計(jì)算是3的361次冪，也就是1的后面要加768個0，所以圍棋不可能在原有的方法論上通過計(jì)算機(jī)的計(jì)算能力來完成[1]。就在阿爾法狗勝利前幾個月，當(dāng)被問要用多長時間才能讓一臺電腦擊敗一流的圍棋選手時，專家們的回答是大約要等10年。因此在圍棋界對于人工智能能否戰(zhàn)勝人類普遍持不樂觀預(yù)期的背景下，阿爾法狗的表現(xiàn)可謂顛覆了大眾的認(rèn)知。阿爾法狗的深度神經(jīng)網(wǎng)絡(luò)繞過了計(jì)算機(jī)的計(jì)算能力這一壁壘，它采用和人腦一樣的工作方式，直觀判斷最合理的下一步。在如此復(fù)雜的圍棋規(guī)則面前，人工智能具有與人類相似的思維模式和高質(zhì)量的落子判斷能力是極為不易的。人工智能的顛覆性表現(xiàn)使得人類長期以來自封的“萬物的尺度”之榮耀及生物鏈中至高無上的地位受到了極大的挑戰(zhàn)，不得不開始反思宇宙中自身所處的位置。面對人工智能的“失控”式發(fā)展和未來擁有自我意識的機(jī)器人出現(xiàn)的可能性，人們不禁產(chǎn)生了擔(dān)心被機(jī)器奴役甚至毀滅的恐懼。人類應(yīng)該把權(quán)力牢牢攥在手中繼續(xù)掌控機(jī)器他者，還是選擇另外一種權(quán)力讓渡的共進(jìn)模式來實(shí)現(xiàn)“無為”而治的智慧？這值得一番哲學(xué)層面的研究和思索。

一、“失控”對傳統(tǒng)二元人機(jī)觀的沖擊

從后現(xiàn)代的文化視閾下來看，人工智能的勝利挑戰(zhàn)了人類自封的中心和主體地位，呈現(xiàn)出一種去中心化的變革力量，其發(fā)展趨勢必將指向后人類主義時代，未來具有人類智慧乃至情感的類人機(jī)器人的出現(xiàn)將繼續(xù)模糊人機(jī)關(guān)系，呈現(xiàn)“失控”式發(fā)展模式。美國《連線》（Wired）雜志的創(chuàng)始主編、網(wǎng)絡(luò)文化（cyberculture）的發(fā)言人、觀察者和預(yù)言家凱文·凱利（KevinKelly）早在1994年出版的《失控》（OutofControl：TheRiseofNeo-BiologicalCivilization）一書中便預(yù)言道，將生物智慧釋放到人造機(jī)器之中后，他們將很快獲得自治力、適應(yīng)力及創(chuàng)造力，也隨之失去人類的控制，人類將不再完全擁有自己最得意的創(chuàng)造物[2]（4）。以阿爾法狗為例，阿爾法狗之所以有著強(qiáng)大的應(yīng)變能力和處理能力依靠的是深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)、蒙特卡洛樹搜索（MonteCarloTreeSearch）[3]。深度學(xué)習(xí)是指通過合適的矩陣數(shù)量，將多層組織鏈接一起形成神經(jīng)網(wǎng)絡(luò)“大腦”進(jìn)行精準(zhǔn)復(fù)雜的處理。強(qiáng)化學(xué)習(xí)則是通過不斷反復(fù)試驗(yàn)，將變化無常的動態(tài)情況與對應(yīng)動作相匹配。蒙特卡洛樹搜索則是一種基于蒙特卡洛算法（MonteCarlomethod）的啟發(fā)式搜索技術(shù)。阿爾法狗通過上百萬盤的棋盤對戰(zhàn)來獲取經(jīng)驗(yàn)教訓(xùn)，并通過多次高強(qiáng)度對戰(zhàn)不斷優(yōu)化了策略判斷能力，因此它能夠變得越來越足智多謀。其經(jīng)驗(yàn)豐富的人類對手也無法預(yù)測它的下一步落子會是怎樣的路數(shù)。

目前國內(nèi)外學(xué)界對人機(jī)關(guān)系在技術(shù)層面的探討大都聚焦于人機(jī)互動、完善機(jī)器設(shè)計(jì)以便增強(qiáng)人對機(jī)器的信任、人機(jī)合作機(jī)制的構(gòu)建及推進(jìn)對人工智能的整合應(yīng)用等，而人工智能在工業(yè)、醫(yī)學(xué)、法律、新聞、藝術(shù)、文學(xué)等領(lǐng)域的突破式進(jìn)展也捷報(bào)頻傳，深度學(xué)習(xí)和大數(shù)據(jù)技術(shù)使得機(jī)器在一定程度上開始獲得自主的發(fā)展，其舉動愈來愈難以被預(yù)測?？梢?，目前機(jī)器發(fā)展的確是在沿著凱文·凱利所預(yù)言的呈指數(shù)式發(fā)展，并將逐漸超越人類所能掌控的范圍。

人工智能如果正確應(yīng)用到人類自身能力受限的領(lǐng)域?qū)粩啻龠M(jìn)世界的進(jìn)步，但是與此同時，機(jī)器表現(xiàn)出的超越人類的能力也引發(fā)了人們的恐慌，有關(guān)機(jī)器與人類爭奪地球統(tǒng)治權(quán)的科幻電影不斷上演，如《機(jī)器人戰(zhàn)爭》（Transmorphers：FallofMan）、《環(huán)太平洋》（PacificRim）、《終結(jié)者》（TheTerminator）等，都表達(dá)了人們對于未來人工智能發(fā)展的擔(dān)憂和警惕。

面對人工智能的“失控”式發(fā)展，人類應(yīng)該恐懼嗎？借助解構(gòu)主義的視角，可以看到人類對人工智能之所以產(chǎn)生恐懼的原因是擔(dān)心自身喪失主宰世界的中心地位，畏懼被機(jī)器掌控甚至奴役、毀滅的命運(yùn)。解構(gòu)主義于20世紀(jì)60年代緣起于法國，雅克德里達(dá)（JacquesDerrida）這位解構(gòu)主義的領(lǐng)袖不滿于西方幾千年來貫穿至今的本體論，對傳統(tǒng)的不容置疑的教條、權(quán)威、形式及概念等發(fā)起挑戰(zhàn)，對自柏拉圖以來的西方“在場的形而上學(xué)”傳統(tǒng)或邏各斯中心主義（logocentrism）大加責(zé)難。邏各斯（logos）即真理的聲音或上帝之言，是不可質(zhì)疑的中心和最高等級的形而上存在，因此它暗含了語言（真理）的在場，而語言持有者的身份使得人類得以自封為認(rèn)知主體，并借助語言人為建構(gòu)起來一套等級秩序或中心來解釋外界現(xiàn)實(shí)。世間萬物的名字以及各種概念都是人類通過語言構(gòu)建的，人類因而將自身的存在與真理內(nèi)在地聯(lián)系在一起。德里達(dá)將任何依賴于絕對牢靠的基礎(chǔ)、高于一切的原則和等級結(jié)構(gòu)森嚴(yán)的思想體系統(tǒng)統(tǒng)稱為“在場的形而上學(xué)”，他認(rèn)為邏各斯中心主義是一種典型的“在場的形而上學(xué)”，這種形而上學(xué)是以真/假、實(shí)在/虛構(gòu)、客觀/主觀等無數(shù)二元對立來建構(gòu)起來的，前者為占據(jù)中心地位并具有優(yōu)先等級的邏各斯，后者為前者的派生或否定，是低一級的存在。作為人類語言的構(gòu)造物，此種種對立在西方哲學(xué)史中長期存在，具有抹殺系統(tǒng)差異性的潛在力量。德里達(dá)反對邏各斯中心主義思想，主張解構(gòu)等級秩序、內(nèi)在中心的存在[4]（351-370）。他認(rèn)為，世界上并不存在絕對的真理、普遍的規(guī)律、超驗(yàn)的意義和絕對的精神，并借助延異、差異、補(bǔ)充、撒播等概念通過對結(jié)構(gòu)主義語言學(xué)的解構(gòu)否定了邏各斯的存在，揭露建立在二元對立基礎(chǔ)上的等級結(jié)構(gòu)中的內(nèi)在矛盾，從而消解二元對立的合理性，進(jìn)而顛覆它。人工智能的勝利挑戰(zhàn)了長期以來人類自封的至高無上的地位，機(jī)器這個一直以來被人類封為工具性的、第二位的存在展示出了超越第一位的存在—人類—的智慧，沖擊了舊有的等級結(jié)構(gòu)。因此，人們不僅在智力層面感受到了機(jī)器的挑戰(zhàn)，也被迫開始重新思考自身在社會和宇宙中的位置，囿于人類中心主義思想的人群更是陷入了擔(dān)心自身地位難保的恐慌。

但從另外一方面來講，類人機(jī)器人的發(fā)展也是以人為模型而創(chuàng)建的，人工智能的勝利只是意味著機(jī)器在復(fù)雜性操作上超越了人類的能力，其存在的局限性仍在暗示人類才是主導(dǎo)世界的中心，人/機(jī)二元對立仍然存在。在邏各斯中心主義的影響下，機(jī)器一直被認(rèn)為是人的工具，甚至有時候被片面認(rèn)為是統(tǒng)治自然、征服他國的武器，因此即使阿爾法狗打敗了李世石、柯潔這樣的人類頂尖棋手，機(jī)器仍然被認(rèn)為是需要被征服、被控制的他者存在。機(jī)器通過深度學(xué)習(xí)掌握了越來越多的類人本領(lǐng)，但是這一切都是以人為前提進(jìn)行定義的，其掌握的知識目前也只是局限在人的認(rèn)知領(lǐng)域。

人機(jī)關(guān)系的不平等因而體現(xiàn)在了這種等級森嚴(yán)的二元對立中。德里達(dá)嚴(yán)厲譴責(zé)道：“在傳統(tǒng)二元對立中，兩個對立項(xiàng)并非和平共處，而是處于一個鮮明的等級秩序中。其中一項(xiàng)在邏輯、價(jià)值方面占據(jù)了強(qiáng)制性位置，它統(tǒng)治著另一項(xiàng)。”[5]（41）長期以來，人機(jī)二元關(guān)系中前者居于中心、基準(zhǔn)地位，是第一原則，后者是從屬的、負(fù)面的、消極的、第二位的，因此人/機(jī)的對立實(shí)則就是自我/他者的對立。這種二元對立的思維模式使得人們常常以人類中心主義思維指導(dǎo)自己的行為，將機(jī)器作為輔助自己獲得利益的工具。

盡管目前人工智能尚處在初步發(fā)展階段，但是如科幻電影和小說所描述的那樣，假如將來人類和機(jī)器已經(jīng)難以通過外觀和常識進(jìn)行辨別，假如類人機(jī)器人已經(jīng)具有了自己的情感和智慧，且面對人類這種不承認(rèn)機(jī)器主體地位的態(tài)度，已經(jīng)能夠進(jìn)行情感認(rèn)知的新型機(jī)器人是否有可能做出極端行為呢？在1968年上映的經(jīng)典科幻電影《2001太空漫游》（2001：ASpaceOdyssey）中，宇宙飛船上的計(jì)算機(jī)HAL面臨著兩難選擇：程序指令要求它調(diào)查木星附近的人造物，但不許向宇航員透露任務(wù)的真正目的。為了解決這個矛盾，HAL殺害了宇航員，可見它已經(jīng)具有了自我意識。進(jìn)一步來說，就如同人與人之間的關(guān)系一樣，機(jī)器對人類的關(guān)系實(shí)質(zhì)上也是人對機(jī)器態(tài)度的反映，可以為敵，也可為友。韓國導(dǎo)演郭在容的電影《我的機(jī)器人女友》便講述了人和機(jī)器人戀愛的故事。斯蒂芬·斯皮爾伯格（StevenAllanSpielberg）導(dǎo)演的電影《人工智能》（ArtificialIntelligence）中，機(jī)器人小孩大衛(wèi)與人類之間產(chǎn)生了親情般的關(guān)愛，然而莫妮卡在不需要它的時候?qū)⑺鼟仐?，深深地傷害了大衛(wèi)的內(nèi)心，導(dǎo)致它在尋找自我存在價(jià)值的過程中嚴(yán)重受挫。由科幻小說改編而來的電影《銀翼殺手》（BladeRunner）也講述了人類與仿生機(jī)器人的怨恨情仇。人類派遣被稱為“人造人”的生化機(jī)器人執(zhí)行地外殖民地任務(wù)，并為其設(shè)定了四年生命期，這引發(fā)了其中幾個渴望生存的人造人的叛逃，它們偷渡回地球希冀獲得延長生命的方法，被拒絕后將制造它們的人類父親泰瑞博士（Dr.Tyrell）殺死。人類仍將這些具有了類人智慧和情感的機(jī)器人視為工具進(jìn)行操控，甚至強(qiáng)迫派遣退休警察瑞克·戴克（RickDeckard）去殺死違規(guī)的舊一代人造人，以便確保自身地位。然而影片結(jié)尾，被追殺的人造人卻救了警察一命，展示了超越冷血人類的情感和“人性”，執(zhí)行任務(wù)的戴克也與泰瑞博士的助理、人造人瑞秋（Rachael）的情愫與日俱增。當(dāng)類人機(jī)器人已經(jīng)無法從外表、行為及情感與人類區(qū)分之時，人類是否需要重新定義人機(jī)關(guān)系并重新審視機(jī)器人的倫理和情感權(quán)利呢？如果人類堅(jiān)持人類中心主義，繼續(xù)將機(jī)器視為他者和工具，無視將來很可能具有自我意識的機(jī)器的主體存在和倫理需求，無疑將會導(dǎo)致人機(jī)之間的對立和沖突，甚至很可能會招致機(jī)器的反抗甚至謀殺。

解構(gòu)主義的目的不是為了摧毀二元對立中的某一方，也不是僅僅為了消解這兩個元素，而是希望雙方達(dá)到一種平衡和共存的模式，這其實(shí)也是后現(xiàn)代主義語境下世界未來的多元發(fā)展趨勢。因此，面對著未來機(jī)器具有自我意識的可能性，人類需要提前轉(zhuǎn)變根深蒂固的人類中心主義思維模式，走出自我/他者、人類/機(jī)器的主客體二元對立，尊重未來類人機(jī)器人的主體價(jià)值以及情感、倫理需求，而非僅僅利用機(jī)器為自己謀取利益，一味謀求索取和服務(wù)，這也有助于最大程度上避免對科技理性的過度推崇和不道德利用。

二、正視“失控”，擁抱后現(xiàn)代主體觀

從古希臘時期開始，無論是普羅泰戈拉的“人是萬物的尺度”，還是蘇格拉底的“認(rèn)識你自己”，亦或是笛卡爾開啟的理性時代，“主體”問題一直是哲學(xué)界爭論最多的概念之一。人們所使用的“主體”一詞從來就沒有與“人”的概念相分離。目前流行的對“主體”一詞的各種定義主要可以作以下羅列：1.主體是認(rèn)識活動和實(shí)踐活動的承擔(dān)者，而客體是認(rèn)識和實(shí)踐的對象;2.主體是自我確認(rèn)、自我認(rèn)識、自我決定、自我實(shí)現(xiàn)的存在;3.主體是賦予一切存在以存在，并且是一切存在的尺度和準(zhǔn)繩的存在者;4.主體是與其他主體共在的交互主體。不難看出，以上四項(xiàng)定義都是以“人”為背景的[6]（1）。對人的主體地位的不斷頌揚(yáng)雖然極大地推動了經(jīng)濟(jì)基礎(chǔ)的發(fā)展，但是人類過度膨脹的主人翁思維卻帶來了深遠(yuǎn)的負(fù)面影響。人類視自然為工具，為經(jīng)濟(jì)利益肆意消耗地球資源;視他國為他者，為領(lǐng)土權(quán)益深陷殘暴的戰(zhàn)爭與殺戮。二戰(zhàn)后“迷惘的一代”的出現(xiàn)讓人們開始反思理性主體的弊端，法蘭克福學(xué)派、結(jié)構(gòu)主義、后現(xiàn)代主義者等都從各種角度對傳統(tǒng)的單一主體定義進(jìn)行了否定，掀起了對主體的批判和解構(gòu)的狂風(fēng)。

阿爾法狗打敗了被認(rèn)為是宇宙萬物靈長的人類，在最大程度上沖擊了人類長久以來自封的主體地位，向人類宣布人類智慧的有限性，挑戰(zhàn)了人類對自身生物鏈最高層地位的傳統(tǒng)認(rèn)知。?？碌闹黧w哲學(xué)為我們指明了這種挑戰(zhàn)背后的積極意義。?？吕^承和發(fā)展了尼采“上帝已死”的觀點(diǎn)，對主體提出了歷史和社會層面的批判，主張消除主體的中心和特權(quán)地位，倡導(dǎo)多元化，反對先驗(yàn)主體。?？隆叭酥馈钡挠^點(diǎn)本質(zhì)上就是反對人類中心主義和人本主義。

傳統(tǒng)意義上的“主體”概念是人為構(gòu)建的，后現(xiàn)代語境下這種被認(rèn)為是自然存在的概念已被揭開了其偽客觀的面紗。阿爾法狗的勝利已經(jīng)開始促使人們重新思索人的意識與機(jī)器的意識，重新思索主體的定義，進(jìn)而反思未來具有人類智慧和情感的機(jī)器人是否應(yīng)該被賦予主體地位甚至倫理權(quán)利。20世紀(jì)80年代末90年代初美國認(rèn)知心理學(xué)家內(nèi)瑟爾（UlricNeisser）提出了關(guān)于自我的五個重要方面，這也是建造具有自我意識的機(jī)器人的依據(jù)：1.生態(tài)或物理環(huán)境中的自我，2.人際認(rèn)知的自我，3.跨時間的延伸的自我，4.觀念性的自我，5.私密的自我[7]。持有這種觀點(diǎn)的研究者認(rèn)為自我不應(yīng)被看作一種本質(zhì)，而是應(yīng)該被看作一種過程。這個過程就像一部正在體內(nèi)運(yùn)行的虛擬機(jī)，像一個程序在計(jì)算機(jī)中運(yùn)行時的狀態(tài)一樣。他們認(rèn)為大腦活動的各類模式構(gòu)成了一系列的過程，從中產(chǎn)生了人類的自我。當(dāng)人類停止思考或進(jìn)入夢鄉(xiāng)時，自我就消逝了。當(dāng)人類從夢中醒來，這些過程又在當(dāng)初戛然而止的地方重新激活，于是產(chǎn)生了主觀上的連續(xù)性。

當(dāng)機(jī)器能夠通過自我學(xué)習(xí)闡釋他人行為的時候，這種機(jī)器是否具有了主體性了呢？學(xué)界對此仍有很多的爭論。一種爭論就是自我意識（self-consciousness）和自我覺知（self-awareness）之間的分歧本部分論述受中國人民大學(xué)哲學(xué)院劉曉力教授啟發(fā)，特此致謝。。比起非人類生物，人類不僅能夠通過感官感知自己和世界的存在，而且能意識到自己所處的物理環(huán)境和心理狀態(tài)，能思考正在感受著的某些事物，能反思自己的情緒和個性，能覺知自己的思想和行為，并對未來有所思考和籌劃。

盡管目前圖靈機(jī)概念下的人工智能只是基本實(shí)現(xiàn)了“人際認(rèn)知的自我”或（和）“生態(tài)或物理環(huán)境中的自我”，只具有圖靈機(jī)的意識，只能在某些特定領(lǐng)域進(jìn)行深度學(xué)習(xí)，還處于人工意識發(fā)展的低級階段（weakartificialconsciousness），但是人工智能神經(jīng)網(wǎng)絡(luò)的指數(shù)式發(fā)展使得機(jī)器在日益趨近人腦的功能，很多人工智能創(chuàng)作的音樂及新聞稿已成功通過了圖靈測試，無法與人類的作品相區(qū)分。大約在2029年左右計(jì)算機(jī)主存配置將達(dá)到能與人腦相匹配的存儲空間，在此滿足對人腦功能進(jìn)行模擬的基本條件之上，實(shí)現(xiàn)具有高級人工意識（strongartificialconsciousness）的機(jī)器則指日可待[8]。美國哥倫比亞大學(xué)的工程師在2019年初已研發(fā)出一種初步實(shí)現(xiàn)了自我覺知的機(jī)器臂，不到35個小時的訓(xùn)練便使機(jī)器臂形成了身份認(rèn)知，能夠?qū)χ車h(huán)境和任務(wù)作出高準(zhǔn)確率的反應(yīng)，且能及時發(fā)現(xiàn)并修復(fù)自身結(jié)構(gòu)的損壞之處。其研發(fā)人員表示，自我覺知是機(jī)器人超越目前局限、獲得更多通用能力的關(guān)鍵一步[9]?？紤]到人類智慧漫長的發(fā)展歷程，有理由相信未來人工智能很有可能會發(fā)展到能夠像人一樣思考、感知甚至有情感的狀態(tài)。因此，人類必須要提前跨越人類例外論，重新審視機(jī)器的主體性，反思機(jī)器的倫理存在和主體價(jià)值。

不容忽視的是，類人機(jī)器人的研發(fā)和出現(xiàn)雖然刷新了人和主體的概念、消解了人機(jī)二元對立，但是面對著科技的日新月異，應(yīng)該警惕科技理性固化人類中心主義的潛在風(fēng)險(xiǎn)。純粹的科技理性具有內(nèi)在的無限擴(kuò)張性，對其盲目崇拜容易帶來而且已經(jīng)帶來了很多生態(tài)、倫理、心靈的危機(jī)，如基因編輯嬰兒事件的出現(xiàn)。更重要的是，僅僅依靠創(chuàng)造了后人類的先進(jìn)科學(xué)技術(shù)其實(shí)并不能解決很多科技發(fā)展帶來的問題，相反，人類由于在人工智能的幫助下對世界有了越來越強(qiáng)大的掌控能力，這很容易促使人類的主體欲望過度膨脹，加速自身的異化速度，人類生命的自然性和神圣性也將被徹底地異化，造成后現(xiàn)代主義所批判的科技與人文的分離?？萍祭硇宰呱线@樣的發(fā)展道路會使得已經(jīng)被模糊化的主體概念重新陷入客觀化，這種客觀化的自我認(rèn)知不僅不能解決科技帶來的一系列問題，反而會加重科技理性主導(dǎo)下的發(fā)展帶來的生態(tài)、倫理、法律、心靈等方面的危機(jī)。因此，人類應(yīng)在倫理框架內(nèi)對未來科技的發(fā)展和應(yīng)用進(jìn)行一番辯證的審視和反思，應(yīng)“將科技用在有助于人類進(jìn)步的方面，而不是應(yīng)用到有可能給世界帶來災(zāi)難性后果的領(lǐng)域”[8]。

面對后人類時代的即將到來，人們應(yīng)該理智地跳出以自我為中心的思維模式，從倫理、哲學(xué)等角度重新審視人機(jī)關(guān)系，解構(gòu)主義也為此提供了應(yīng)對危機(jī)的思路。對二元對立的消解是解構(gòu)的第一步，第二步則是通過分析對立面背后的邏輯徹底消解這樣的等級結(jié)構(gòu)，解構(gòu)必須“實(shí)現(xiàn)對經(jīng)典二元對立的顛覆并整個地取代那個系統(tǒng)”[10]（329）。在毀掉了結(jié)構(gòu)的確定性、封閉性、中心性、統(tǒng)一性和壓迫性之后，解構(gòu)主義提出了一個幾近全新的、開放的、非中心化的、充滿差異的、無限流動的概念，意義不再是單一的、一成不變的，而是多重的、不穩(wěn)定的和擴(kuò)張的[11]。這也是后現(xiàn)代社會的特點(diǎn)。

后現(xiàn)代社會中，人機(jī)關(guān)系也將是一個動態(tài)的發(fā)展過程，人類需要認(rèn)真反思人機(jī)關(guān)系帶來的時代挑戰(zhàn)，在后人類時代到來之前，人類目前最應(yīng)該做的不是為了擺脫恐懼而將權(quán)力牢牢掌控在自己手里，而應(yīng)該走出人機(jī)對立的二元觀，重構(gòu)一種新型的后現(xiàn)代人機(jī)觀，即人類不再視自身為世界的主人和主體、機(jī)器為工具性的他者和客體，而是接納機(jī)器的“失控”式發(fā)展，尊重未來類人機(jī)器人的倫理和主體存在，并讓渡部分主體權(quán)力。這有助于人類跳出人機(jī)主客體之分，重新審視“主體”和“人”的定義，走向一種基于差異的多元化的后現(xiàn)代主體觀，從而為后人類時代建構(gòu)權(quán)力共享的合伙人式人機(jī)關(guān)系[2]（331）做好價(jià)值層面的鋪墊。

當(dāng)人類的“自我”做好了再定位，即從高高在上的對機(jī)器的主宰者位置走到與機(jī)器他者亦或是機(jī)器主體平等的位置上，人類與機(jī)器實(shí)現(xiàn)共同掌控、共同進(jìn)步的互動關(guān)系之時，可以預(yù)見未來擁有人類思想和情感的機(jī)器人也將無需經(jīng)歷眾多科幻作品所預(yù)想的被人類壓迫、利用、奴役最終被迫奮起反抗或復(fù)仇的結(jié)局，當(dāng)二元對立的等級結(jié)構(gòu)被破除之時，和諧的人機(jī)關(guān)系才能獲得最徹底的實(shí)現(xiàn)。這也正是凱文·凱利眼中老子“無為”思想的智慧，對此下文將做進(jìn)一步的闡釋。

三、從中心式掌控到“無為”的互動式共進(jìn)

作為人工智能發(fā)展的典型代表，阿爾法狗的勝利預(yù)示著人工智能的巨大潛力。未來機(jī)器人的發(fā)展和存在必將對人類現(xiàn)有的思想和生活繼續(xù)產(chǎn)生重大的沖擊，人們已經(jīng)開始對未來“后人類”的存在方式提出種種理論和構(gòu)想?！白詈唵蔚刂v，后人類可以被定義為人類和智能技術(shù)越來越互相纏繞的狀況?！盵12]計(jì)算機(jī)、人工智能、生物技術(shù)等的進(jìn)步直接促使了后人類主義（posthumanism）的產(chǎn)生，機(jī)器人越來越具備人的特性，從而在此背景下解構(gòu)了“人”的概念。未來機(jī)器人的發(fā)展必將擁有更多類人的智能、情感和自我意識，而人自身也將通過與科技或與其他生物內(nèi)嵌擁有更多超越自然人類的能力，成為后生物性的存在?！叭恕钡母拍畹哪：呀?jīng)是后現(xiàn)代社會發(fā)展的必然走向，人機(jī)之間關(guān)系該何去何從？

作為機(jī)器人研究的權(quán)威科學(xué)家，漢斯·莫拉維克在其1988年出版的著作《智力兒童》（MindChildren：TheFutureofRobotandHumanIntelligence）中便指出人類正在經(jīng)歷一個生物與后生物智慧之間邊界在逐漸消散的歷史分水嶺，他堅(jiān)信機(jī)器將在推斷、計(jì)算、觀察、互動及行動能力方面趕超人類。機(jī)器智慧與人類智慧平起平坐僅僅是開始，人工智能一旦掌握了自我提升及創(chuàng)造后代的能力，其對宇宙的探索便將超出人類的想象及控制[13]（100-102）。在這樣一種“后生物性的世界”（apostbiologicalworld）[13]（1）中，這些勢不可擋的“智力兒童”將成為主宰。為此，莫拉維克認(rèn)為人們應(yīng)該審視人工智能的未來發(fā)展可能帶來的一些變化和潛在危險(xiǎn)，提醒人們要在思想上做好準(zhǔn)備，去面對這種可信又奇妙的后生物性的未來。在1999年出版的《機(jī)器人：從單純的機(jī)器到超驗(yàn)的頭腦》（Robot：MereMachinetoTranscendentMind）中，他繼續(xù)詳細(xì)地闡述了智能機(jī)器人將超越人類的可能性。機(jī)器人只需經(jīng)過幾個世代的進(jìn)化，就可以達(dá)到對演化了400多萬年的人類大腦計(jì)算及推斷功能的模擬，其對圍棋算法的掌握便是典型的例子。雖然機(jī)器人目前在最簡單的觀察和行動能力上仍不及人類的孩童，但是莫拉維克認(rèn)為50年之內(nèi)計(jì)算機(jī)就會在信息處理能力上超越人類，到時人類會進(jìn)一步讓它們在觀察和行動能力方面向人類看齊。神經(jīng)科學(xué)的一些證據(jù)也表明機(jī)器獲得意識具有極大的可能性，因此莫拉維克對于機(jī)器人能否會擁有意識是持肯定態(tài)度的[14]（121-123）。作為人類后代的“智力兒童”將在目前人類的大部分知識和思考領(lǐng)域中占據(jù)優(yōu)勢地位，第四代機(jī)器人及其后繼者會擁有卓越的推理能力及人類的觀察和行為能力，甚至?xí)谏鐣鱾€領(lǐng)域取代人類[14]（125）。這種智能后代將使每種行為都轉(zhuǎn)換為純思考的網(wǎng)絡(luò)進(jìn)行的運(yùn)作，“智力之火”將全面統(tǒng)治宇宙[14]（12-14）。但是持未來主義論的莫拉維克對這種變化并不擔(dān)心，他認(rèn)為與此同時，人類也可以創(chuàng)造出被馴化的溫和機(jī)器人來照顧、保護(hù)人類，人們應(yīng)該為此提前規(guī)劃并為將來的“退休”做好準(zhǔn)備[14]（13）。

凱文·凱利也提到自動化的歷史就是一條從人類控制到自動控制的單向通道。人們正在以盡可能更快的速度通過技術(shù)網(wǎng)絡(luò)把世界聯(lián)系起來，人類個體的思維和意識將被納入到人工智能的分布式系統(tǒng)中，經(jīng)過技術(shù)改造的世界將成為自我管理、自我繁衍、自我認(rèn)知的“活系統(tǒng)”（vivisystems）[2]（3），并被賦予不可逆轉(zhuǎn)的自我，即人類的自我以外的第二類自我。而這些第二類自我是在人類掌控之外的，是失控的。但是凱利對此并不擔(dān)憂，在他看來，這會使我們滿懷敬畏[2]（4），而且如同基因的去中心化網(wǎng)絡(luò)結(jié)構(gòu)看似無序?qū)崉t內(nèi)嵌著有序一樣，給機(jī)器自由恰恰是一種尊崇老子“上德”“無為”的智慧，“睿智的控制體現(xiàn)為無控制或自由”，人類看似放棄了單一主體的中心式掌控，實(shí)則是一種智慧的控制，人類應(yīng)該為有尊嚴(yán)地退居二位做好心理準(zhǔn)備[2]（126-127）。在未來的賽博格世界中，人類將與自己創(chuàng)造的人工智能成為一種“合伙人”關(guān)系，二者對世界的掌控權(quán)是賽博格式的共享的控制模式（Co-control，Cyborgiancontrol）[2]（331），凱利因此對未來新生物科技將帶來的益處也持樂觀態(tài)度[2]（472）。此外，在追溯了人機(jī)互動的歷史演進(jìn)過程之時，美國人類工程學(xué)家PeterAHancock也指出理想的人機(jī)關(guān)系并不是人主宰或者奴役機(jī)器的過程，而是人機(jī)共同進(jìn)化與進(jìn)步的和諧關(guān)系[15]（78）。

近幾年，越來越多的中國學(xué)者也對未來機(jī)器人發(fā)展有可能引發(fā)的變革做了探討。如“人工智能帶來的倫理與社會挑戰(zhàn)”一文便提到人工智能的發(fā)展可能會引發(fā)機(jī)器權(quán)利爭論，指出倘若人與機(jī)器人建立了情感聯(lián)系，我們可能需要以人道方式對待它們，人工智能假如獲得了道德自主性，將給現(xiàn)有的社會秩序和倫理規(guī)范帶來強(qiáng)烈沖擊[16]?！叭斯ぶ悄艿淖晕乙庾R何以可能”一文則指出具有人類情感、欲望和價(jià)值觀的機(jī)器人將“放大或增強(qiáng)人類的沖突、矛盾和戰(zhàn)爭”，須讓人工智能遠(yuǎn)離人性的權(quán)力意志才能保障世界平安[17]?！叭藱C(jī)關(guān)系的哲學(xué)反思”一文則通過對各種軟件的交互特性的詳細(xì)分析，總結(jié)出人機(jī)關(guān)系應(yīng)該是一種“融合、共生與共同演進(jìn)的關(guān)系”，未來更接近人際關(guān)系[18]，這呼應(yīng)了凱文·凱利20多年前提出的“共同進(jìn)化”（coevolution）的設(shè)想，但是與本文側(cè)重于探討人機(jī)關(guān)系已經(jīng)及即將萌生的危機(jī)及對策不同的是，其結(jié)尾并未明確指出真正威脅人類的是人類自身怎樣的轉(zhuǎn)變。

總體而言，后人類主義對后人類的思考大致可以分為三個階段：第一個階段，動態(tài)平衡階段。在這個時期，對后人類的思考和爭論集中在人類和機(jī)器人的平衡和控制，比如阿西莫夫（IsaacAsimov）提出的著名的機(jī)器人三定律就從保護(hù)人類利益的角度來限制機(jī)器人的行為，試圖用完善的理性來規(guī)定機(jī)器人。這種對待機(jī)器人的價(jià)值觀仍然處于人類中心主義的范疇之內(nèi)[19]（1）。而實(shí)際上，機(jī)器人的發(fā)展已經(jīng)打破了阿西莫夫的定律[15]（82）。第二個階段，反思階段。在這個時期，人們強(qiáng)調(diào)機(jī)器人擁有像人一樣的特征和意義，出現(xiàn)了“機(jī)器人存在主義”一說，作為人和機(jī)器結(jié)合的電子人成為這個時期的熱點(diǎn)。人們開始關(guān)注電子人的地位及其產(chǎn)生的問題。這個時期人類在人工智能方面對機(jī)器人的定義仍然是在人類中心主義范疇之內(nèi)的，但是開始預(yù)設(shè)到未來機(jī)器人的發(fā)展對倫理、法律、心理等將帶來的沖擊，開始審視機(jī)器人的主體問題。第三個階段，是虛擬階段。在這個時期，后人類被設(shè)想為虛擬空間中的生命形式，是電子人的一種極端發(fā)展，被認(rèn)為是完成了進(jìn)化的最高階段[19]（1）。他們將“開啟宇宙探索，尋找地外文明，在太陽系死亡之時繼續(xù)延續(xù)下去，掌控黑洞能量，以光速傳遞在其他星球生存的信息”[8]?？梢哉f這個時期人類這個概念又多出了電子人的維度，自我/他者、人類/機(jī)器之間的關(guān)系已經(jīng)模糊，類人機(jī)器人主體意義上的存在、價(jià)值和需求將得到承認(rèn)，這正是推崇多義性和多元化的“后”時代的典型體現(xiàn)。

在倫理層面，由于機(jī)器的自我意識是個哲學(xué)問題[17]（3）[8]，本文認(rèn)為面對著未來可能擁有人類情感與智慧的類人機(jī)器人，人們應(yīng)借鑒列維納斯（EmmanuelLévinas）的他者倫理，尊重機(jī)器的倫理存在并承擔(dān)起對類人機(jī)器人這個“絕對他者”的絕對責(zé)任，應(yīng)學(xué)習(xí)莫拉維克的“退休”精神，并像凱文·凱利所設(shè)想的“無為”而治一樣，與自己創(chuàng)造的人工智能形成一種權(quán)力共享、互動式共進(jìn)的合伙人關(guān)系。如此才能以更為完善的人機(jī)觀預(yù)測并及時應(yīng)對后人類時代人機(jī)關(guān)系可能發(fā)生的危機(jī)，人機(jī)力量才會處于平衡的互動狀態(tài)。

此外，后人類主義走到第三階段時，由于個體知識的疆域和主體自由的獲得將通過科技的加持受到保障，人類憑借理性和計(jì)算就可以解決一切問題，因此該階段的人類對認(rèn)識世界的能力和理性的力量充滿了絕對的信心。需警惕的是，對理性的絕對信心應(yīng)得到倫理、法律等層面的重新審視，否則易走向?qū)硇粤α康倪^度崇拜和信仰，那時后人類主義的科技理性即蛻變?yōu)橐环N唯理性主義[19]（26）。而一個純粹科技理性的文化形態(tài)與后現(xiàn)代語境下多元文化并存的理念是相悖的，因此又會走向理性/非理性、真理/謬誤等之爭，引發(fā)信仰和人文精神危機(jī)。再進(jìn)一步說，這種狀態(tài)下的社會文化將認(rèn)同更多的知識，推崇更大的控制權(quán)，全球化也會促使不同民族和文化趨同這個價(jià)值觀。倘若后人類時代人類都吸收相同的信息，采取相同的思考模式，這樣標(biāo)準(zhǔn)化的人類本質(zhì)上實(shí)則退化成了馬爾庫塞（HerbertMarcuse）所描述的“單向度的人”，在對科技和模式化的頂禮膜拜中失去了否定性思維和批判的能力。

四、結(jié)語

阿爾法狗的勝利為未來“失控”式人工智能的發(fā)展吹響了號角，其積極意義不僅是讓人們意識到未來人工智能迅猛發(fā)展在促進(jìn)社會生產(chǎn)力方面的巨大可能性，更重要的是它讓人們重新審視主體的定義，反思傳統(tǒng)的人/機(jī)（自我/他者）二元對立觀及根深蒂固的人類中心主義思維模式，同時引發(fā)對后人類主義的思考及“人”的概念再定義，順應(yīng)了后現(xiàn)代多元主體觀的趨勢。但與此同時，人工智能的勝利刺痛了一部分仍囿于人類中心主義思想的人群，類人機(jī)器人的發(fā)展前景及對人類中心地位的挑戰(zhàn)引發(fā)了人們的警惕和恐懼，這從前瞻性地描述人機(jī)關(guān)系相愛或相殺的大量科幻作品中即可得以管窺。這些科幻作品大多描繪的是人類仍將具有類人智慧或情感的機(jī)器視作工具性的客體，為了自身利益而隨意犧牲后者，從而引發(fā)后者的心理問題或報(bào)復(fù)。借助解構(gòu)主義的視角，可以發(fā)現(xiàn)人類對人工智能產(chǎn)生恐懼的根源仍在于主客體二分，在于仍將自身視作萬物的中心，將機(jī)器視作可被隨意丟棄的工具、需要征服的他者或者潛在的敵人，“習(xí)慣于用一種對立甚至敵對的眼光去審視人類模仿自己而創(chuàng)造的各種人工智能產(chǎn)物”[20]。在人機(jī)邊緣已經(jīng)模糊的后人類時代，這種人機(jī)觀顯然已經(jīng)漸趨過時，將威脅人機(jī)之間的和諧共存。面對后人類時代的即將到來，人類應(yīng)跳出傳統(tǒng)的二元對立人機(jī)觀，轉(zhuǎn)向尊重類人機(jī)器人的主體性存在、擁抱機(jī)器他者的倫理地位并承擔(dān)起對機(jī)器他者的絕對責(zé)任的新型人機(jī)觀，以“無為”的態(tài)度構(gòu)建人與機(jī)器為“合伙人”的平衡、和諧的互動式后現(xiàn)代生態(tài)關(guān)系，這也是后現(xiàn)代倫理的時代呼喚。

〔參考文獻(xiàn)〕

[1] 雷軍.人機(jī)圍棋大戰(zhàn)：讓人類走向新紀(jì)元[J].中國經(jīng)濟(jì)報(bào)告，2016，（4）：113-114.

[2] Kelly，K.OutofControl：TheRiseofNeo-BiologicalCivilization[M].Reading：Addison-Wesley，1994.

[3] 周志華.AlphaGo專題介紹[J].自動化學(xué)報(bào)，2016，42（5）：670.

[4] Derrida，J.WritingandDifference[M].Trans.AlanBass.Chicago：TheUniversityofChicagoPress，1978.

[5] Derrida，J.Positions[M].Trans.AlanBass.Chicago：TheUniversityofChicagoPress，1981.

[6] 潘志恒.主體與存在[M].廈門：廈門大學(xué)出版社，2015.

[7] Neisser，U.Fivekindsofself-knowledge[J].PhilosophicalPsychology，1988，1（1）：35-59.

[8] Buttazzo，G.Artificialconsciousness：Hazardousquestions（andanswers）[J].ArtificialIntelligenceinMedicine，2008，44（2）：139-146.

[9] Evarts，H.AStepClosertoSelf-AwareMachines[EB/OL].（2019-01-30）[2019-07-05].https：//engineering.columbia.edu/press-releases/lipson-self-aware-machines.

[10] Derrida，J.MarginsofPhilosophy[M].Trans.AlanBass.Sussex：TheHarvesterPress，1982.

[11] 湯建龍.德里達(dá)解構(gòu)主義評析[J].科學(xué)技術(shù)與辯證法，2003，20（5）：30-33，41.

[12] 陳世丹.西方文論關(guān)鍵詞：后人文主義[J].外國文學(xué)，2019，（3）：95-104.

[13] Moravec，H.MindChildren：TheFutureofRobotandHumanIntelligence[M].Cambridge：HarvardUniversityPress，1988.

[14] Moravec，H.Robot：MereMachinetoTranscendentMind[M].NewYork：OxfordUniversityPress，1999.

[15] Hancock，P.A.Onthefutureofhybridhuman-machinesystems[A].InWise，J.A.，etal.（eds.）.VerificationandValidationofComplexSystems：HumanFactorsIssues.NATOASISeries（SeriesF：ComputerandSystemsSciences），Vol.110[C].Berlin/Heidelberg：Springer-verlag，1993：61-85.

[16] 周程，和鴻鵬.人工智能帶來的倫理與社會挑戰(zhàn)[J].人民論壇，2018，（2）：26-28.

[17] 趙汀陽.人工智能的自我意識何以可能？[J].自然辯證法通訊，2019，41（1）：1-8.

[18] 陳鵬.人機(jī)關(guān)系的哲學(xué)反思[J].哲學(xué)分析，2017，8（5）：40-50，196-197.

[19] 金宇.后人類主義的審視和反思[D].浙江：浙江大學(xué)，2006.

[20] 畢丞.人類為什么不會被人工智能取代？[J].北京科技大學(xué)學(xué)報(bào)（社會科學(xué)版），2019，35（2）：102-108.

（責(zé)任編輯：夏 雪）

“OutofControl”and“NoMindaboutControl”：

TowardsaPartnershipRelationshipbetweenHumanandMachine

TAOXiao，CHENShi-dan

（SchoolofForeignLanguages，RenminUniversityofChina，Beijing100872，China）

Abstract：Theground-breakingadvancingofartificialintelligencehasechoedtheprophecyofKevinKellythatmachinewillgo“outofcontrol”ofhumansinitsautonomousdevelopment，incurringhumansfeartobeenslavedordestroyedbythemachine.BasedonDerridasdeconstruction，thewisdomof“nomindaboutcontrol”mentionedbyKevinKelly，andhuman-machinecooperationorsymbiosisandcoevolutionproposedbyotherscholars，throughtheanalysisofhowtheout-of-controldevelopmentofthemachinedecomposesthetraditionalhuman-machinebinaryoppositionandthedefinitionofthesubject，thepaperaimstopointoutthatagainstthebackdropoftheposthumanerainwhichtheboundarybetweentherealandthesimulacrumiseffacedandthedefinitionof“human”isconstantlybeingrefreshed，thetraditionalbinaryoppositionalviewofhumanandmachineisoutofmodeandwillbringaboutnewrelationshipcrises.Concerningthis，humansneedtogetoutofthementalitytoregardthemachineastheobjectandtheother，turntoembracethevariantanddynamicpostmodernsubjects，aswellastotransitfromthecenteredcontrolbythesinglesubject—thehumans—toapartnershiprelationshipbetweenhumanandmachinefeaturedbycoevolutionandco-control.Onlyinthiswaycanaharmonioushuman-machineinteractionbemaintained，thusintheendmeltingthehumansfeartowardstheout-of-controldevelopmentofthemachine.

Keywords：artificialintelligence;human-machinerelationship;subject;posthumanism;partnership