“物理-邏輯性”與“生物-文化性”之間：人工智能技術(shù)的文化邊界

陳 鵬

一、極限技術(shù)：技術(shù)本身成為絕對主體

數(shù)學(xué)家用奇點(Singularity)來表示趨近無限的數(shù)值變化，比如任何一個自然數(shù)除以一個越來越接近于零的數(shù)，其結(jié)果將“激增”(比如指數(shù)式增長)而趨近于無限大。在天體物理學(xué)中，如果一個大質(zhì)量恒星經(jīng)歷超新星爆炸會最終變成體積接近于零、密度無窮大的點，這就是“奇點”，即黑洞。這個奇點是一個體積無限小、密度無限大、引力無限大、時空曲率無限高、熱量無限高的“點”，一切已知物理定律均在這個點失效。因此，奇點概念可以理解成趨近無限或無限制的一種極致變化或極致狀態(tài)，它標(biāo)志著終極變化的極限點或臨界點。

一些學(xué)者提出了人工智能技術(shù)發(fā)展的奇點理論。人工智能專家?guī)炱濏f爾(Ray Kurzweil)認(rèn)為：超級人工智能技術(shù)正以加速的方式發(fā)展，到未來某一個時候會以指數(shù)的方式爆炸式地增長，技術(shù)變革的速度將不再受限于人類智能的增長速度，這時人工智能將大大超越人類智能，機(jī)器人也將成為人類“進(jìn)化的繼承者”和“思想的繼承者”。這種人工智能將超越并接管人類智能，使更高級的智能在宇宙產(chǎn)生，并將這種智能由地球推廣至整個宇宙。①[美]庫茲韋爾：《奇點臨近》，李慶誠等譯，機(jī)械工業(yè)出版社2011年版，第11-15頁?！捌纥c”不僅是指機(jī)器智能全面超越人類智能的那一刻，更是一種智能開始高速無限制增長的那一刻。英國數(shù)學(xué)家谷德(L.J.Good)用“智能爆炸”來描述這一過程：

一個超級智能機(jī)器可以設(shè)計比它更好的機(jī)器，然后就會誘發(fā)產(chǎn)生“智能爆炸”，屆時人類的智能將會被遠(yuǎn)遠(yuǎn)落下，第一個超級智能機(jī)器，將是人類需要做出的最后一個發(fā)明。②[英]卡魯姆·蔡斯(Calum Chance)：《人工智能革命》，張堯然譯，機(jī)械工業(yè)出版社2018年版，第115頁。

這確實是技術(shù)發(fā)展的奇點狀態(tài)或無限制狀態(tài)。這個無限制可以從兩方面來理解：一是它自身的發(fā)展擺脫了人類的限制；二是自身的發(fā)展是獲得了自身優(yōu)化的機(jī)制，它成為一切技術(shù)的技術(shù)。

技術(shù)是人類用來完成某種實踐、實現(xiàn)某種目的的工具或手段，一個“技術(shù)-產(chǎn)品”具有自身的結(jié)構(gòu)和功能，但它終究是由人設(shè)計、制造并加以運(yùn)用的，技術(shù)的屬人性是技術(shù)的本質(zhì)之一。對于人類來說，雖然技術(shù)的異化總在以某種方式某種程度存在著，但是，無論如何，技術(shù)本身沒有主體性，技術(shù)“是什么”“做什么”完全由人類來決定。可是，當(dāng)超級人工智能技術(shù)出現(xiàn)以后，此種技術(shù)超越了自身的工具性，其自身具備了某種系統(tǒng)的智能的主體性。對于人類來說，這可能是技術(shù)發(fā)展的終極異化。

在這個意義上，此種技術(shù)不再是一種簡單的技術(shù)，而是智能主體自身，這樣的技術(shù)真正成為一種“極限技術(shù)”或“臨界技術(shù)”。從技術(shù)上說，它成為一切技術(shù)的技術(shù)，即它能設(shè)計、制造出任何技術(shù)；從主體上說，它具有了自我認(rèn)知、自我優(yōu)化、自我設(shè)計的主體性機(jī)制。以前是“人類智能-制造-技術(shù)”，現(xiàn)在是“超級技術(shù)-制造-技術(shù)”，技術(shù)本身超越人類智能而成為智能主體。

如果把視野再放寬一些，此種“主體再造”的極限技術(shù)可以包括三種類型：生物技術(shù)(生物過程的干預(yù)技術(shù)，如克隆人、基因編輯、遺傳工程等)、人工智能技術(shù)(高級智能計算機(jī)技術(shù))和人機(jī)合成技術(shù)(生物技術(shù)與計算機(jī)技術(shù)的某種結(jié)合)。人機(jī)合成技術(shù)可能有更大的空間，諸如生物定制、意識永生、記憶編輯、超級大腦、各種意義上的賽博人等等。這三類技術(shù)都威脅到自然人類的生命文化進(jìn)程，都觸及人類文化的終極邊界。本文主要聚焦超級人工智能技術(shù)所觸及的文化邊界問題，它的問題實質(zhì)是人造智能機(jī)器成為絕對主體，從而可能引發(fā)對生物性“生命-文化”的徹底消解，而超級生物技術(shù)所引發(fā)的則是生物性自然演化的常態(tài)秩序被打亂。無論如何，這樣一類技術(shù)所涉及的邊界問題已不再是一般的法律邊界、倫理邊界、應(yīng)用邊界問題，而是已涉及自然人類如何可持續(xù)生存的終極問題。此類極限技術(shù)的出現(xiàn)逼使我們必須重新思考技術(shù)的本質(zhì)、人性的本質(zhì)以及技術(shù)的文化邊界問題。

二、人工智能的根本風(fēng)險：“物理-邏輯性”對“生物-文化性”的消解

本文所討論的不是一般意義上的通用人工智能，也不是從技術(shù)上討論人工智能技術(shù)奇點的可能性問題，而是分析其奇點狀態(tài)所可能引致的文化風(fēng)險。本文有兩個方面的設(shè)定：一是在人工智能技術(shù)方面有一個比較強(qiáng)的設(shè)定，就是超級人工智能最終能成為無所不能的自我設(shè)計、自我制造的絕對技術(shù)主體或智能主體；另一個就是文化方面的價值設(shè)定，即人類生物-文化進(jìn)程的唯一性。我們將文化分為“物理-邏輯”智能與“生物-文化”生命兩個方向，前一個方向是物理的、邏輯的、智能的，后一個方向是以自然人類生命有機(jī)性為基礎(chǔ)的整體文化歷程；前一個方向在后一個方向的過程中孕育、發(fā)展出來，最后可能形成超越的獨(dú)立系統(tǒng)，反過來支配后者，而后者有其無可替代的獨(dú)特性、唯一性。

根據(jù)超級人工智能的強(qiáng)度，其文化風(fēng)險可以分為三個層次。第一層：人性的弱化。我們所理解的人性，不是要素化的本質(zhì)主義立場，而是以自然生命為基礎(chǔ)的社會文化歷史總體，這是一個整體主義和歷史主義的人性立場。此所謂人性的弱化在實質(zhì)上是人性的單向智能化，人性的發(fā)展因此失去了整體性應(yīng)有的內(nèi)在均衡，比如技術(shù)化對自然進(jìn)程、理性化對藝術(shù)直覺、邏輯化對感性生命的弱化。第二層：自然人類被替代、被主宰。這是超級智能支配、控制了自然人類，溫和一點說是人工智能全面超越了人類智能，人類由此失去了最關(guān)鍵的主體性話語權(quán)。第三層：自然人類被消滅或被終結(jié)。這是“物理-邏輯性”替代了“生物-文化性”，其結(jié)果是自然人類的文化進(jìn)程被“機(jī)-電智能”所替代，基于生物有機(jī)性的文明被毀滅。

有學(xué)者提出這個進(jìn)程標(biāo)志著“技術(shù)統(tǒng)治時代”的來臨，這是從自然人類文明到“類人文明”的時代過渡或反轉(zhuǎn)，“類人”根本上就是“技術(shù)人”。因為今天的人類已經(jīng)算不上嚴(yán)格意義上的“自然人類”了。比如，由技術(shù)工業(yè)制造出來的化工產(chǎn)品和藥物所導(dǎo)致的環(huán)境激素，已經(jīng)在整體上改變了包括人類在內(nèi)的地球動物的體液環(huán)境和體液構(gòu)成，就此而言，碳基生命的根基已經(jīng)被動搖。①孫周興：《技術(shù)統(tǒng)治與類人文明》，《開放時代》2018年第6期。超級人工智能不是改變了人性，而是發(fā)展出了另一類主體，這一類主體由于沒有多少生物-文化的“弱點”、“缺陷”，而又同時具有非凡的強(qiáng)度，面對這樣的超級主體，自然人類文明變得不堪一擊。

超級人工智能的文化風(fēng)險可以被總體描述為“物理-邏輯性”對“生物-文化性”的削弱、支配甚至消滅，或者理解為非生物智能對自然人類生命文化的超越。當(dāng)人工智能戰(zhàn)勝人類智能，人工意識取代人類意識，就會造就一個后生物學(xué)的世界?！拔锢?邏輯性”對“生物-文化性”的支配和超越至少包括三個要點：一是自然人類文明(生命、文化、歷史)的整體性及其生物脆弱性。人類文化主體不僅是智能主體，也是一個生命文化主體，它是以身體作為基質(zhì)或基礎(chǔ)載體的每個人的文化活動的總和。自然人類文化系統(tǒng)一方面是歷史的、社會的，一方面也是生物性或具身性的。然而，這個生物性、有機(jī)性的身體既是神奇的，也是脆弱的，它無法對抗物理性的穩(wěn)定和持久。二是人工智能的“物理-邏輯性”。我們之所以稱人工智能技術(shù)具有一種“物理-邏輯”的文化類型，是要強(qiáng)調(diào)其物理性與智能性的結(jié)合，或者說是“算法(軟件、邏輯性)-機(jī)器(硬件、物理性)”的結(jié)合。其物理性是其機(jī)電性，它的基質(zhì)或“身體”是非生物性的機(jī)器；其智能性是指它的邏輯系統(tǒng)或算法系統(tǒng)，在某種意義上電腦智能就等同于算法，幾乎任何活動機(jī)制都可以被表達(dá)成某種算法。這個超級人工智能一方面是一種特別的機(jī)器，一方面它是絕對的、無所不能的智能主體，這個智能主體不再是生物性的。三是超級“物理-邏輯”智能對于人類生命文化形態(tài)無與倫比的智能優(yōu)勢和強(qiáng)度優(yōu)勢。

庫茲韋爾在書中反復(fù)強(qiáng)調(diào)此種非生物智能對人類智能的優(yōu)勢：這是一種特殊的機(jī)器智能，它可以瞬間處理數(shù)億單位的海量信息，是人腦處理速度的300萬倍。機(jī)器之間可以高速傳遞和無限復(fù)制信息，可以共享人機(jī)文明的所有信息。計算機(jī)可以綜合生物智能和非生物智能，最終可以實現(xiàn)自我設(shè)計、自我制造。大腦由基因支配，有容量的限制，而計算機(jī)智能可以自我架構(gòu)，不斷突破容量的限制。人類的情感能力也可以被未來的機(jī)器智能所理解并掌握?？傊磥砩镏悄芤巡徽純?yōu)勢。②庫茲韋爾：《奇點臨近》，李慶誠等譯，機(jī)械工業(yè)出版社2011年版，第12-14頁。

在《人工智能的未來》一書中，庫茲韋爾這樣描寫遺傳算法和數(shù)碼大腦：

遺傳算法的關(guān)鍵是：人類并不直接將解決方案編程，而是讓其在模擬競爭和改善的重復(fù)過程中自行找到解決方案。生物進(jìn)化力量雖強(qiáng)大但是過程卻太過緩慢，所以為提高其智能，我們要大大加快其進(jìn)化速度。計算機(jī)能在幾個小時或者幾天之內(nèi)完成數(shù)代的進(jìn)化，但有時我們會故意讓其花費(fèi)數(shù)周時間完成模擬百千代的進(jìn)化，但是我們只需要重復(fù)這種過程一次。一旦這種模擬進(jìn)化開始，我們就可以用這種高度進(jìn)化、高度完善的機(jī)制快速解決實際問題。在這一過程中我們采用兩種智能方法：利用遺傳算法模擬生物進(jìn)化，得出最優(yōu)機(jī)制；利用隱馬爾可夫?qū)蛹壞Ｐ湍M人類學(xué)習(xí)過程中起重要作用的大腦皮質(zhì)結(jié)構(gòu)。③庫茲韋爾：《人工智能的未來》，盛楊燕譯，浙江人民出版社2016年版，第144頁。

人工智能的思維方式和運(yùn)行機(jī)制是還原論、物理主義、邏輯主義(形式化)和功能主義的。對此過程可以簡要概括如下：把活動(任何意義上的)還原(或表征)為功能，再把功能還原為邏輯機(jī)制或算法；再通過機(jī)器(微電子技術(shù)使之成為可能)來實現(xiàn)這一算法機(jī)制。這里蘊(yùn)含了一系列的還原(化約)過程，結(jié)果是實現(xiàn)對任何活動的數(shù)字化(亦是機(jī)器化)模擬，因此，人工智能實質(zhì)上就是“功能-算法”模型。庫茲韋爾如此描述大腦模擬：

無論是藍(lán)腦計劃，還是莫哈的新皮質(zhì)模擬計劃，這些仿生大腦計劃的最終目的都可歸結(jié)為一點——完善和確定一個功能模型。與人腦水平相當(dāng)?shù)娜斯ぶ悄苤饕捎帽緯杏懻摰哪Ｐ汀δ芩惴Ｐ?。但是精?xì)到分子程度的模擬可以幫助我們完善此模型。20世紀(jì)八九十年代的語音識別技術(shù)發(fā)展過程中，只要能夠了解聽覺神經(jīng)及早期聽覺皮質(zhì)負(fù)責(zé)的實際信號傳遞，我們就能精簡算法?！灰獡碛姓鎸嵈竽X的詳細(xì)數(shù)據(jù)，我們就能模擬出生物學(xué)意義上的大腦。①庫茲韋爾：《人工智能的未來》，盛楊燕譯，浙江人民出版社2016年版，第125頁，第238頁。

這個智能系統(tǒng)是獨(dú)立的、自成主體的，它可以模擬直至優(yōu)化人類的所有智能，而且可以做到全面的、徹底的信息互聯(lián)(甚至萬物互聯(lián))。這個技術(shù)在本質(zhì)上是純粹智能的，它不僅可以模擬、優(yōu)化、集成人類的智能，而且可以將人類的非智能活動加以模式化處理而整合成其智能的一部分，諸如無理由改變目標(biāo)、隨機(jī)判斷、日常語言生成、情感反應(yīng)、審美反應(yīng)等也可以通過算法來表現(xiàn)。

這個物理-算法系統(tǒng)是單向智能化、邏輯化的，是表征主義、功能主義的，它對于自然人類文明的所有活動都可以運(yùn)用算法來還原、表征甚至優(yōu)化。如同“中文房子”，它或許無法真正“理解”語言，但是它可以熟練地、高效地運(yùn)用語言。超級人工智能不僅具有智能-功能優(yōu)勢，而且避免了人類身體的各種限制(如衰老、疾病、對環(huán)境的苛刻要求等)，也能避免人類情感上的各種脆弱性(如惰性、倦怠、猶豫、勾心斗角等)。如庫茲韋爾所說，生物基質(zhì)是美妙的，但我們正在創(chuàng)造一個更強(qiáng)大且更持久的非生物的系統(tǒng)基質(zhì)。②庫茲韋爾：《人工智能的未來》，盛楊燕譯，浙江人民出版社2016年版，第125頁，第238頁。

三、整體主體：“生物-文化”系統(tǒng)的內(nèi)在均衡

這個非生物性替代生物性的風(fēng)險隨著人工智能技術(shù)的不斷發(fā)展而加劇。到奇點降臨，自然人類只能期盼這個超級人工智能是“友善的”而非“邪惡的”，靜等人工智能的道德素質(zhì)來決定人類的命運(yùn)。為避免如此結(jié)局，無論如何我們需要對人工智能技術(shù)的發(fā)展加以一定程度的管控。為了確保自然人類文明的可持續(xù)發(fā)展，就必須維持人類文明即“生物-文化”過程的內(nèi)在均衡，這個內(nèi)在均衡是智能與非智能、機(jī)器與生命、理性與非理性、還原主義與整體主義等等的整合，在其進(jìn)程中，人類生物文明的安全性將是一個重要的主導(dǎo)原則。

人類文明不是單向的智能文明(技術(shù)化、工具化、機(jī)器化、模式化、形式化、功能化等)，在這個線索主導(dǎo)下的文化只能是器化、物化的文明。人類文明是在整體自然環(huán)境中，基于自然生命機(jī)體的社會、文化總體歷史進(jìn)程，它是自然的生物文化、生命文化、智能文化的過程總體或創(chuàng)造整體。提出“物理-邏輯”與“生物-文化”的兩分，并不是要將兩者完全對立起來，而實際上前者始終是后者的一個重要部分，而且在大部分情況下一直是主導(dǎo)性的、最有力量的一個部分。人類作為文化主體的一個主要內(nèi)涵也正是按照某種目的、理想通過表征、還原、符號化、邏輯化來改造這個世界。只是在這個文化進(jìn)程中，技術(shù)化、智能化、信息化的發(fā)展越來越變得無可阻擋，以至于其他意義上的變化顯得無足輕重。

馬爾庫塞早就指出現(xiàn)代社會人性異化的根源在于科學(xué)技術(shù)和“文化工業(yè)”，在這個文化工業(yè)進(jìn)程中，人成了機(jī)器，機(jī)器倒成了主人。技術(shù)追求、技術(shù)意識和技術(shù)管理深入到人們的思維和習(xí)慣當(dāng)中，技術(shù)合理性成為人們的生活信條、政治統(tǒng)治的合法邏輯，人們陷入技術(shù)崇拜。在技術(shù)時代下，人自身被物化、機(jī)器化、技術(shù)化。馬爾庫塞呼吁情感革命和感性解放，主張以新的感性世界反對現(xiàn)代文明所帶來的壓迫、奴役，提出以藝術(shù)激發(fā)幻想和美好記憶，創(chuàng)造出直觀而非邏輯的、感性而非理性的審美形式，構(gòu)建一個由“享樂原則”而非“現(xiàn)實原則”主導(dǎo)的新感性世界。③楊彩、胡軍華：《馬爾庫塞技術(shù)異化理論探析》，《理論界》2019年第6期。

馬爾庫塞所展示的是感性文化對智能文化的批判或抗衡，但是人類文化整體不能以單一的“藝術(shù)-感性”原則來主導(dǎo)，就像不能以單一的技術(shù)智能原則來主導(dǎo)一樣。而且這種人文立場的辯護(hù)仍然可能是表征主義、功能主義、還原主義的，它是以審美、道德、信仰、情感等要素來對治機(jī)械、形式、邏輯、算法等特征。這并非沒有意義，但是對于超級人工智能來說，這些所謂人文特征仍然可以在功能表現(xiàn)上加以表征、模擬，而且“水平”會相當(dāng)高。比如計算機(jī)可以寫詩、作畫，可以表現(xiàn)得比許多人更有信念、更堅定等等。對人類生命文化的徹底辯護(hù)必須以實體主義、整體主義為基礎(chǔ)。

在此，福山的生物保守主義立場值得關(guān)注。針對新興生物技術(shù)(如克隆人、人體干細(xì)胞研究、基因工程、神經(jīng)藥理學(xué)等)對人類生物的危害，福山提出應(yīng)采取嚴(yán)格的規(guī)約措施。在這些極端生物技術(shù)的支配下，原本神秘的、由自然規(guī)律設(shè)定和支配的人性，將變成可以人為設(shè)定、改變和支配的對象，人性的獨(dú)特性將不復(fù)存在。由此，福山提出人性應(yīng)是人類作為一個物種典型的行為和特征的總和。①[美]弗朗西斯·福山：《我們的后人類未來——生物技術(shù)革命的后果》，黃立志譯，廣西師范大學(xué)出版社2016年版，第131頁。福山所強(qiáng)調(diào)的是人性行為的獨(dú)特性、綜合性和整體性，他認(rèn)為假使人類具有獨(dú)特性的“X因子”，這個X

因子不能夠被還原為自主選擇、理性、語言、社交能力、感覺、情感、意識，或任何被提出當(dāng)作人的尊嚴(yán)之基石的其他特質(zhì)。那么什么是這個“X因子”呢?

福山?jīng)]有明確說出這個“X因子”是什么，實際上他也無需指定這個X因子，他想用X因子來承載人性的獨(dú)特性，只是這個“X因子”的提法仍然會陷入某種還原主義。福山本想批判還原主義，他不承認(rèn)人性的獨(dú)特性能被還原成任何具體的某種因素、要素或某種特質(zhì)。沿著這個線索，我們可以說，人性的獨(dú)特性就在于人性本身，就在于人類行為的整體性或總體性，即整個人性行為的綜合。人性的典型性不是人性典型特征的綜合，而是整個“生物-文化”行為的綜合。所以，這個“X因子”不是某種要素，也不是某些要素的結(jié)合，而是人類行為的整體。

實際上，還原主義是不可缺乏的，沒有還原主義就沒有絕大部分的科學(xué)、創(chuàng)造和主體，但是徹底的物理還原主義立場會對生物文明帶來致命威脅。因此，我們在智能主體、技術(shù)主體不斷發(fā)展的同時，必須維持生物主體、文化主體與之的均衡，而更進(jìn)一層，就需要建立維持兩種文化、兩種主體之間均衡的那個更完整的主體，我們稱之為“整體主體”。比如，以人文思維來批判科學(xué)思維是一個方面，更重要的是我們需要一種整體思維來整合、均衡科學(xué)與人文兩種文化。這個整體主體是理性的，因為它要對整體性不斷作出自我理解、自我判斷；這個整體主體也注定具有某種保守性，因為這個整體性是維持均衡、克制單極化的結(jié)果，整體主體的使命即在于防止任何文化X因子的單極化挺進(jìn)；同時，這個整體主體又要是創(chuàng)造的、發(fā)展的，因為它要適應(yīng)整個文明進(jìn)程。從運(yùn)作機(jī)制來說，這個人類文化整體主體的實效性將取決于人類命運(yùn)共同體的不斷強(qiáng)化。

這個文化的整體性是生物性與非生物性的均衡，而且生物性(基于身體性的有機(jī)性、生命性)要處于某種主導(dǎo)地位。為什么要保護(hù)且適度突出生物性尤其是高級生物性，或者至少以生物性為基體呢?一個可以提出的理由是：生物性是神奇、脆弱而且是唯一的。當(dāng)以生物性的人類身體為基體的文明被摧毀，我們無法確保在茫茫宇宙中還能再產(chǎn)生此種生物性及其文明，我們無法確定此種“生物-文化性”是宇宙歷程中必然產(chǎn)生的環(huán)節(jié)。在另一個意義上，保護(hù)生物性，實質(zhì)上是保持這個整體的有機(jī)的生命創(chuàng)化歷程，至少從目前來看，自然人類文化的所有價值和內(nèi)容都離不開實質(zhì)性身體(基體、基質(zhì))，離開這個身體、這個具身性，所有的文化創(chuàng)造將沒有內(nèi)容，也沒有意義。

人類已經(jīng)進(jìn)入一個技術(shù)爆炸的時代，信息技術(shù)、納米技術(shù)、微電子技術(shù)、互聯(lián)網(wǎng)技術(shù)、人工智能技術(shù)、生物技術(shù)等都在迅猛發(fā)展，而且這些技術(shù)正在進(jìn)行前所未有的整合，如果我們沒有把握在自然人類文化內(nèi)在均衡的前提下控制技術(shù)的突進(jìn)甚至接近奇點，那么就必須在人類共同體的框架下采取實際措施來管控技術(shù)的單極化推進(jìn)，尤其是極限類技術(shù)的迅猛發(fā)展。