王洪喆:上篇的討論使我產(chǎn)生一個感覺,套用《三體》的情節(jié),今天的確有一個東西被“鎖死”了,不是自然科學,也不是人文精神,恰恰是政治經(jīng)濟學。當代政治經(jīng)濟學在處理信息時代的問題上推進很有限。今天要去重新激活人文精神,討論智能技術的未來與現(xiàn)代主義、社會主義和資本主義的關系,作為基座的政治經(jīng)濟學就必須要發(fā)展。有人說,我們今天能否把某項技術先停下來?這是有先例的,克隆技術“多利羊”誕生時,真的引發(fā)了廣泛的討論,克隆人也確實停了下來。但它是怎么停下來的?不是只從宗教和倫理問題出發(fā)說不要克隆技術,而是有人文和政治經(jīng)濟學學者介入了技術發(fā)展方向和可能性的辯論。討論的結(jié)果是,胚胎干細胞可以繼續(xù)研究,但沒有必要造克隆人,克隆人的社會后果是技術所不能應對的。因此,某種新技術要不要或能不能停下來,取決于是否能對技術路線的社會構造(techno-social)有一個介入性的討論和干預,必須是人文社會科學和工程學相結(jié)合的討論,僅僅講舊的政治經(jīng)濟學,或僅僅講人機對抗,這兩種路線恐怕都是無效的。人是一切社會關系的總和,我們今天面對人與機器的命題,是否有能力把它轉(zhuǎn)譯、還原成人與人之間的社會關系、不平等的技術起源問題,這是人文精神、政治經(jīng)濟學和科技研究的交叉才能把握的。現(xiàn)在是技術的社會創(chuàng)新和應用蓬勃發(fā)展,但相關的研究很滯后。如何才能對這些技術化進程背后的生產(chǎn)關系和社會關系變遷有整體把握,就需要政治經(jīng)濟學與科技研究的深度結(jié)合。
王東賓:上世紀九十年代討論人文精神,是在人文精神面對市場經(jīng)濟挑戰(zhàn)的背景下進行的。對應今天在人工智能的背景下討論新人文精神,上一次討論還是在人類物種范疇之內(nèi)的。如此,今天的討論應該把“新-人文精神”這個詞重新斷一下,就是“‘新人-文精神”,“人類”與“后人類”時代之間加一個“新人”,這樣可能更契合主題且更具啟發(fā)性。人工智能時代提“新人”,是因為人類歷史上第一次對“人”這個物種范疇產(chǎn)生了懷疑,而且高度警惕乃至悚懼這一物種范疇邊界的打破。過去“人”的邊界十分清晰,“人乃萬物之靈”。而基因技術打破這種邊界,一下子失去對人與萬物邊界的控制。失控的情況有兩種:一種是知道它是什么但控制不了,另一種是不知道是什么而失控。人工智能過了臨界點(“奇點”)之后的世界是什么樣子,為未可知且難以想象,這個才讓人恐懼。
且不討論人工智能未來在智能上能否超越人類,有一點就足以擊潰人類的自信。全世界人類聯(lián)合起來,尚且是一個遙不可及的夢想,然而必要時“全世界機器人聯(lián)合起來”大概瞬間即可實現(xiàn)。別說跟機器人玩對抗,人類內(nèi)部聯(lián)合起來都還達不到,可機器人瞬間突破了所有人類合作的局限性和劣根性,盡顯人工智能的“高明”之處。這是人工智能對人類自信的第一重挑戰(zhàn)。
第二重挑戰(zhàn)來自倫理層面。我認為討論人工智能時代的新人文精神,首當其沖的就是倫理問題。當人類給機器人立法時,第一原則是要求機器人任何情況下都不能傷害人類?;仡^來看,為何人類可以傷害人類,作為“人造物”,一旦邁過奇點,人類在倫理水平上已自慚形穢。
當然,人類總是在自信的沖擊中涅槃升華。當人與人工智能不斷比對時,雙方在倫理水平、道德水平上的差距反而是對人類的一種有力刺激。現(xiàn)實中,作為一個社群概念的人類往往是讓人很絕望的。人工智能的危機到來還稍遠點,還存在想象的時空,但人類作為種群,幾乎天天面對生存壓力、人口壓力和環(huán)境壓力這些實實在在的全球化難題。如此一來就會發(fā)現(xiàn),人工智能作為一面鏡子,會成為一種鏡像影射人類社會現(xiàn)存的問題,有利于促進我們更深刻地反思人類的困境,包括經(jīng)濟、社會、環(huán)境的困境,亦包括倫理、智能的局限性。在這一面鏡子前,“新人”或已若隱若現(xiàn)。
當把視角重新拉回到人類作為社群概念時,我們會發(fā)現(xiàn),所有人工智能對應的是“無人”—“無人機”“無人駕駛”等。本來還有所謂“高科技無產(chǎn)階級的形成”,而進入人工智能時代,似乎連成為無產(chǎn)階級的資格都失去了。這時就出現(xiàn)一個巨大的困境:不僅中產(chǎn)階級趨于消失,成為無產(chǎn)階級似乎也求而不得。人工智能包括大數(shù)據(jù)、云計算在內(nèi)都是需要巨量投資的領域,亦是巨富云集的領域?!皵?shù)字鴻溝”衍化為“智能鴻溝”,進而形成“財富鴻溝”?!傍櫆稀钡牧硪恢貎?nèi)涵就是階層固化,難以逾越。不少討論是關于對抗時代人類的逃亡問題,那么最直接的問題就是人類不平等,關鍵在于諾亞方舟的船票即使是三等艙,何人能支付得起?女王的狗和窮人誰逃誰留?
再往現(xiàn)實走一點,就是人工智能的“產(chǎn)權”問題:誰控制人工智能?當人工智能成為一個“種群”前,還未形成自我意識的時候,這個風箏的線掌握在誰手里?于此階段,人借助人工智能控制人,這才是我們需要考慮的更直接的大問題,也就是做無產(chǎn)階級而不可得的困境,無論從經(jīng)濟上還是從人的價值上。
這種背景下,就要從人與人工智能的對抗思維回到馮象老師提到的一項經(jīng)濟政策:基本收入。無疑,人工智能的時代會大幅度削減工作崗位,盡管沒有削減工作本身。人工智能將一定程度上改變勞動邏輯:人的神圣性與勞動和工作之間并不存在必然的聯(lián)系,人工智能讓我們發(fā)現(xiàn)其實人的存在本身就具有神圣性,就具有存在的價值。人工智能可以解放勞動,人可以不經(jīng)由工作獲取收入而可以更全面地發(fā)展自己,進而從事更具創(chuàng)造性的活動。換言之,更高形式的勞動。這個邏輯就需要基本收入政策的支撐。當你有基本收入支撐時,你可能迸發(fā)出更為豐富的想象力,有足夠的時間思考人文精神和倫理價值。其中,包括將來怎么控制人工智能,怎么實現(xiàn)對人工智能的超越,怎么讓人工智能更好地服務于人類。從這個角度來看,人工智能時代的基本社會經(jīng)濟政策就是基本收入,要實現(xiàn)這項基本政策的話,就要重構資本、產(chǎn)權、市場、經(jīng)濟手段和經(jīng)濟運行模式等方面,需要社會體系思維方式的整體變革。這也是我們今日討論新人文精神的價值所在。
羅崗:剛才東賓講的新人-文精神很重要,他在“人”和“后人類”之間加了一個“新人”,恰恰因為人工智能、基因技術等新技術的出現(xiàn),使得人們被迫在一種非人類中心主義的體制下思考人的本質(zhì)是什么,被迫反思人是何種存在以及這種存在與機器處于怎樣的關系。所以這個“新”有點像動詞,“更新”了對人的理解,逼迫人類對人進行“重新理解”。
戴錦華:說新人,很自然對應著舊人,舊人就是我們現(xiàn)在說的人。所以不光思考人類面對人工智能的問題,不光是思考所謂的未來,不管是近未來還是遠未來,還要思考歷史,主要是二十世紀歷史。
歷史,尤其是現(xiàn)代歷史如此清晰地建立了人類中心的位置,如此強烈地要替代上帝或至高無上的神的位置。把人放在這個位置之后,也就攜帶著這樣的想象,即用什么樣的手段可以創(chuàng)造更好的人類。對于我來說,這是沒法處理的,大概也因為在歐洲批判主義和后結(jié)構主義的脈絡中你很難處理本質(zhì)性的命題。我無法把握其本質(zhì)的概念卻始終在不斷地形塑,我覺得我現(xiàn)在已經(jīng)倒退回ABC,每天在課堂上講趨利避害是人性,舍生取義也是人性。在這個意義上,我們談新人,因為“后人”是如趙柔柔說的建立在與“人”相對立之上的,而“新人”在所有的語詞文化歷史傳統(tǒng)中,都是比“人”更完美、更完善的自我。我們講這樣的“新人”并通過它重新回到人與人的時候,無法回避的是人類整體提升和人類不斷墮落這樣一個不斷循環(huán)、彼此矛盾的參照系統(tǒng)。我沒有辦法繞開人性的深淵,它深不可測,在二十世紀展示得夠清晰了,二十一世紀還在繼續(xù)展示。
吳子楓:新人的問題還涉及新的反抗政治或新的政治空間。今天的技術發(fā)展,使得我們這樣的實踐不大可能在一個民族國家內(nèi)部來構想。目前人工智能和互聯(lián)網(wǎng)的發(fā)展越發(fā)召喚人們,必須要有一個康德所謂的永久和平,這個永久和平要求人類有一個普遍意志,它不可能局限在一個民族國家的內(nèi)部。
羅崗:“新人”是資本全球化所創(chuàng)造的,有理論家稱之為“諸眾”?!爸T眾”的內(nèi)涵很有彈性,既包括所謂“高科技無產(chǎn)階級”也涵蓋如“失地農(nóng)民”、非法移民等“棄民”,而如何釋放“諸眾”的政治能量,也涉及大家討論較多的社會基本收入和全球薪資權等問題,甚至直接與“大同世界”也即共產(chǎn)主義的構想有關。
王洪喆:我很質(zhì)疑“諸眾”論述的政治經(jīng)濟學基礎。這一構想的自治(自動)主義與二十世紀的革命政治有很大區(qū)別,新的路線擱置了先鋒黨和文化政治,質(zhì)疑文化領域斗爭的必要性,把二十世紀階級分析的方法、斗爭策略、組織原則、屬于工業(yè)時代的解放訴求當作陳舊、笨重的觀念敬而遠之,認為新的技術和普遍智力協(xié)作的釋放,加上社會財富的極大豐富,“大同世界”遠景就會自動到來,這是我比較懷疑的。
社會財富是否會在近未來極大豐富,這個問題也需要考量。比如像里夫金“零邊際成本社會”的說法建立在新能源取之不盡、用之不竭的基礎上。短期來看,達到零邊際成本的僅僅是精神產(chǎn)品,如電影拷貝可以被無限復制,但精神產(chǎn)品也需要物質(zhì)技術進行制作和播放,比如手機;即使VR普及了,也需要大量自然資源生產(chǎn)VR設備。對于物質(zhì)產(chǎn)品而言,能源和環(huán)境承載力的限制,使得其難以實現(xiàn)零邊際成本。比如坐一次飛機,技術再先進,消耗的能源都是巨大的。馬克思早就提示,資本通過投資技術升級來生產(chǎn)相對剩余人口,同時也要制造出相對貧困。那么相對貧困的持續(xù)再生產(chǎn)面對資源的絕對有限性,如何讓那些已經(jīng)占有財富的人,把他的財富吐出來,實現(xiàn)足以支持人自由發(fā)展的全民基本工資呢?我覺得在比較近的未來,如果缺少整體性的政治化進程,這樣的前景是很難想象的。
利求同:新型人機關系還會引發(fā)一個不可忽視的問題,即市場中信息極度不對稱的固化。主流西方經(jīng)濟學把供求雙方信息掌握的不對稱現(xiàn)象,看成是隨機發(fā)生的,誰強誰弱,因人因事因地因時而異。這種信息不對稱的隨機性,為供求博弈的效用跟合理性,以及自由競爭等一系列經(jīng)濟學基本假設提供了理論支持,是市場經(jīng)濟的一塊基石??墒牵斯ぶ悄芤劳写髷?shù)據(jù),給人們生活帶來便利和舒適的代價,卻是不可避免地扼殺了信息不對稱的隨機性。智能時代,因為高端技術對人力、物力和政治力量的依賴,信息優(yōu)勢自然集中到了政府和商業(yè)巨鱷等強勢集團手里,公眾和弱勢群體就成了透明體,毫無議價能力的數(shù)據(jù)提供方。一個固化了的信息不對稱的經(jīng)濟體里,是沒有公平可言的,任何市場競爭都不可能有序,而維持法治。事實上,信息優(yōu)勢如果形成了壟斷,信息不對稱的隨機性便無從談起,市場經(jīng)濟的意識形態(tài)基礎也就被掏空了。所以,有大局觀和長期戰(zhàn)略的企業(yè)家如馬云,也意識到了人工智能的歷史作用不是別的,正是做市場經(jīng)濟的掘墓人(參見拙文《大數(shù)據(jù)智能時代,醫(yī)改何處去?》)。
羅崗:這就是比爾·蓋茨說的“無摩擦資本主義”,本來資本主義會有損耗,但大資本現(xiàn)在掌握了大數(shù)據(jù),讓它變得無損耗了。
王東賓:信息不對稱確實會使消費者變得更加弱勢,因為他們對平臺后臺信息的了解幾乎為零,而消費者對于平臺來說相當于透明人。這種情形下就不存在競爭的問題,市場就完全失效了,平臺可以點對點定價,根據(jù)掌握的充足信息給不同人定不同的價格,消費者剩余完全由平臺方獲取,這就是平臺經(jīng)濟信息不對稱導致不平等的潛在威脅。然而,悲觀中也有樂觀,當前的這種信息極度不對稱,其不平等程度遠遠超越十九世紀,所以有可能迸發(fā)出新的革命動力,比如“點”共產(chǎn)主義或數(shù)字共產(chǎn)主義的誕生。博士階段我曾經(jīng)從游擊隊、群眾路線的角度來研究“開源”的發(fā)展史。“開源”的操作系統(tǒng)比微軟的操作系統(tǒng)晚十年左右,當時微軟等大型廠商試圖壟斷技術市場,一部分工程師或?qū)<蚁胪黄扑膲艛?,尋求新的產(chǎn)業(yè)制度安排,所以“開源”模式誕生?!伴_源”正是在發(fā)展態(tài)勢嚴重不平衡、一方形成絕對優(yōu)勢的情況下迸發(fā)出的革命性萌芽?!伴_源”作為一種機制或新的產(chǎn)業(yè)安排,經(jīng)過近二十年的發(fā)展,到二○一○年前后呈現(xiàn)出超越“閉源”操作系統(tǒng)、獲致技術優(yōu)勢的趨勢,例如目前絕大多數(shù)超級計算及操作系統(tǒng)全部是用“開源”的系統(tǒng),互聯(lián)網(wǎng)巨頭—如亞馬遜、谷歌等—它們的操作系統(tǒng)、技術系統(tǒng)也都是“開源”的。在這種斗爭中,劣勢方突破的方式就是尋求“開源”開放,通過新的產(chǎn)權和制度安排去尋求弱者聯(lián)合起來的動力源。它恰恰是在不平等加劇、一方存在絕對優(yōu)勢的態(tài)勢中所迸發(fā)出來的新的數(shù)字革命或“點”共產(chǎn)主義革命。
趙柔柔:我對有一些討論還沒有完全把握住,想作為問題提出來。信息不對稱其實形成了一種絕對的不對稱性,但這也許反而帶來了相對美好的前景,可以在極度不對稱的情況下迎來徹底的變革。比如王東賓以“開源”為例,指出新人在新的動力機制下出現(xiàn)是可能的,但我的困惑在于,這種新人在這種信息極度不對稱的狀況下怎么進行動員?他們怎樣才能政治覺醒進入新的組織形式?怎樣才能夠使依托新的組織形式的政治成為可能?他們?nèi)绻軌蚍纯?,那反抗的動力和起點可能是什么?我能想象的就是回到舊的人道主義,就是保護隱私,覺得我們的隱私受侵犯了,所以要對抗。但就我周圍的人來講,他們并沒有覺得自己的隱私被侵犯對他們來說是種傷害,他們覺得無所謂,用我的隱私好了,沒有什么問題。我不在乎會引發(fā)什么更大的問題,我拿到既得利益就好,這種情況下怎么辦?
王東賓:“開源”作為一種機制,實際上失敗率比較高,大量的“開源”項目還沒有成長起來就已經(jīng)死掉了,因為人與人之間的合作、信任是很難的問題,比如有人會將“開源”項目據(jù)為己有、不再公開。但“開源”至少保證了一點,作為一種可能機制,它向全世界公開,任何個體或組織能夠通過它去實現(xiàn)自身價值。而這個代碼在網(wǎng)絡世界開源之后,日積月累將形成一種生態(tài)系統(tǒng),能為幾十萬人、幾百萬人的小國家提供獨特的系統(tǒng),形成多樣性的、有價值的東西。所以說,開源作為一種現(xiàn)象—而非一種組織—很難被消滅,即使被“收編”了很多,但它還能茁壯成長。或者說,“星星之火,可以燎原”。
九十年代前后,“開源”還處于游擊隊狀態(tài),然而到了二○一○年,它已經(jīng)“從西柏坡走出來要進北京了”,成為正規(guī)軍了。這時候,它的力量已經(jīng)強大到可以與微軟抗衡,而且自身也受到資本很大的誘惑,但它還可以堅持基本路線。為什么呢?因為它用產(chǎn)權把自己捆住,正如尤利西斯,“開源”用產(chǎn)權邏輯逆轉(zhuǎn)了產(chǎn)權邏輯,可以抵制住“海妖”的誘惑,使得“開源”代碼很難再回到私有產(chǎn)權的封閉狀態(tài)。這是開放的產(chǎn)權邏輯,當然它的倫理邏輯、理念邏輯依然存在,需要不斷地回顧與詮釋。這就是為什么時至今日,我們要依然回顧九十年代“開源”剛剛誕生時的哲學和理念,乃至進一步把這個哲學和理念一直追溯到五十年代計算機剛剛誕生時,那一批科學先哲們倡導的開放、共享、合作的理念。這種哲學與理念上的資源,一直存在于“開源”應用里面。需要注意的是,人工智能也產(chǎn)生于同一時代。這個視角也可以回應,為什么一九九三、一九九四年討論人文精神,過了二十年之后我們還要深刻討論新人文精神:人類不可能一勞永逸,需要不斷革命,才能不斷超越自身的局限性。
王行坤:其實資本想不斷逃離勞動來擺脫對勞動進行管理的任務,以便輕松獲取剩余價值,所以資本家更愿意當金融資本家,而不是產(chǎn)業(yè)資本家。金融資本可以說是資本逃脫勞動或者對抗勞動的一種形態(tài),而智能的機器體系則可以說是資本真正擺脫勞動的一個潛在因素。所以只要成本允許,資本家更有意愿去發(fā)展更為智能的機器體系。我們可以想象一下,如果真的實現(xiàn)完全的智能化、自動化,不需要人類任何的勞動就可以創(chuàng)造出財富來,馬克思所說的勞動價值論還有效嗎?到底是什么在創(chuàng)造價值呢?當然在當前情況下還不太可能,還是需要勞動。但人的勞動所創(chuàng)造的價值,和整個智能機器體系所創(chuàng)造的財富相比越來越顯得微不足道,這樣造成的結(jié)果是什么?是大多數(shù)人被排斥出生產(chǎn)體系,越來越成為多余的。在《政治經(jīng)濟學批評大綱》中,馬克思看到未來財富的尺度是所有個人的發(fā)達的生產(chǎn)力,而不再是直接勞動或勞動時間,從而看到了共產(chǎn)主義的可能。所謂個人發(fā)達的生產(chǎn)力即是個人在各方面的發(fā)展,成為“社會個體”。這的確可以更新我們對“人”的理解。但問題是,那些多余的人如何成為“社會個體”?那些留在智能機器體系以及服務業(yè)的人,一方面的確像意大利自主論者所說的發(fā)展了自身的“一般智能”,但另一方面,他們被資本所吸納的不光是體力勞動和腦力勞動,同時還有情感和精神,也就是說今天存在的不光有勞動異化,同時也有情感異化。資本增殖所吸納的要素越來越多,或者說資本增殖的手段越來越多。在這樣的情況下,勞動者怎樣組織起來去面對資本?怎樣談個人的解放?這是一個大問題。
王洪喆:這恰恰是勞動價值論需要被重新認識的方面。之前的馬克思主義分析方法忽視了技術路線斗爭本身是勞動價值分析的一部分。資本吸納和剝削勞動者,勞動者要反抗,所以自動機器體系的路線是要不斷把活勞動排除出去。但馬克思提示我們,其實工人和機器一樣,是“現(xiàn)代的產(chǎn)物”,是資本主義同時創(chuàng)造了“新人”和“新機器”。資本主義為了應對工人的反抗,寧愿通過自動化再把自己制造出來的工人排斥出去,這就造成了生產(chǎn)力的巨大浪費。因此在一種非剝削的經(jīng)濟體或共同體中,其實更有效率的技術路線反而是人機結(jié)合的,不是排斥人的技能,而是通過機器把人的能力進一步激發(fā)出來的路線,用諾伯特·維納的話說“像人一樣去使用人(human use of human being)”。
所以今天要破除一個迷思,認為人類的技術進步在各個方面很均衡。其實不是這樣,恰恰是因為選擇了一條把勞動者排除出去的路線,所以人工智能、機器學習和大數(shù)據(jù)獲得大量投入。然而維納早在五十年代就設想的控制論最能讓人類社會受益的領域,即不同通訊系統(tǒng)之間的溝通,在機器系統(tǒng)和生物系統(tǒng)之間的接口技術,并未獲得大的進展。維納曾經(jīng)致力于研發(fā)讓工傷工人恢復勞動能力的“波士頓手臂”,還有將觸覺信號轉(zhuǎn)換成聽覺信號、讓聾啞人重新獲得語言能力的“聽力手套”,這些項目因沒有更多的資源投入紛紛擱淺。錢學森也曾經(jīng)提出,通過技術增強人的能力和共產(chǎn)主義設想是相通的,不就是人的全面發(fā)展嘛。
吳子楓:我很贊同洪喆的觀點,我們文人學者討論人工智能,不能從純技術的角度,而更應該從技術路線斗爭的角度來展開。在討論人工智能和技術問題時,應該同時反對兩種傾向:一方面要反對唯科學技術論、唯生產(chǎn)力決定論,這種工業(yè)黨的觀點相信技術的發(fā)展可以自動地帶來一個好世界;另一方面要反對對科學技術的浪漫主義批判,這種浪漫化的人文主義觀點把科學技術的進步本身當作是社會危機的源頭。相反,我們需要在歡迎和支持科學技術發(fā)展的同時,強調(diào)生產(chǎn)關系對生產(chǎn)力的優(yōu)先性,這就包括強調(diào)技術路線對技術本身的優(yōu)生性。
戴錦華:目前社會上占據(jù)主導的是最廉價、最古老的發(fā)展主義信念,我們堅信技術問題由技術解決,發(fā)展問題由發(fā)展解決。在這種情形下我們會冒進,會把所有新技術提供的可能性,在未經(jīng)任何準備和考量下去采用。對于我來說,不是技術本身提供的可能性,而是它可能帶給我們的問題,我們是真的完全不經(jīng)抵抗,不做準備,沒有任何質(zhì)疑的。這種面對所有的臨界突破時的無知、勇敢、愚蠢的狀態(tài),剛好是整個二十世紀歷史的成就或者遺產(chǎn)的負面應用。所以現(xiàn)在特別危險,別說快車道超車,我們繼續(xù)駕駛會出什么事都不知道。
(上下篇整理者:楊宸)