人工智能意識的可及性及其倫理前置

[摘要]傳統(tǒng)哲學理論認為機器不存在意識和認知能力。智能科技急速迭代進化，對類腦科學研究需求迫切，兩者疊加影響使得機器意識研究成為當今的理論前沿和學術熱點。機器意識研究可以深化物質與意識的關系，借助科學佐證與技術細節(jié)，必將深化哲學的科學性與前沿性。作為一種技術構想，機器意識是一種基于某種哲學思想來探討機器是否真正擁有意識與機器意識的本質及建構的理論和方法。以“生物算法”為基礎的人類意識，最終將會被以形式化算法為基礎的人工智能充分模擬?？梢灶A見，隨著人工智能矛盾運動的慣性推力，人工智能意識在不久后將可能成為現(xiàn)實。然而，人工智能并非人類“終結者”。將倫理置為機器意識發(fā)展的前置條件，是應對其風險的時代之需。

[關鍵詞]機器意識；可及性；腦智外現(xiàn)；覺知內顯；倫理前置

[作者簡介]陳萬球，長沙理工大學科技哲學與科技倫理治理創(chuàng)新研究中心教授。

*本文系國家社會科學基金重點項目“人工智能自我意識的可能性及其倫理問題研究”（21AZX017）、國家社會科學基金重大項目“當代科技領域道德問題研究”（22ZD044）的階段性成果。

意識是自古以來最熟稔、最神秘、最令人困擾的哲學概念之一。因而，對人工智能終極目的實現(xiàn)而言，機器意識的探討是繞不開的前沿性難題。智能機器人是否有意識？從非決定派到決定派激烈之爭彰顯了問題的重要性。

一、機器意識的有無之爭：從結構說到功能說

人工智能是機器發(fā)展的最新形式，是20世紀人類最偉大的發(fā)明之一，它正在迅速而深刻地改變世界和人自身。人工智能系統(tǒng)（如情感機器人、無人機、人機混合增強智能、人臉識別系統(tǒng)、腦機融合技術、自主智能系統(tǒng)等）正在大量、快速地普及應用，對人類社會產生了全方位、深層次的影響，成為學界持續(xù)關注和討論的熱點問題。其中最前沿也最引發(fā)爭議的乃是“人工智能意識”問題。具有自我意識的智能體可能引發(fā)顛覆性的社會倫理問題，對此不能無視，必須積極主動應對。

關于智能機器是否具有意識問題的研究始于20世紀50年代。1950年，“人工智能之父”英國數(shù)學家阿蘭·麥席森·圖靈（Alan Mathison Turing）在《計算機器與智能》中首次提出了被后人稱為“圖靈測試”（Turning Test）的方法。1955年美國數(shù)學家約翰·馮·諾依曼（John von Neumann）在《計算機與人腦》中，革命性地詮釋了計算機數(shù)學運算與人腦意識的關系。進入21世紀，學界圍繞機器是否具有意識或認知能力展開激烈討論，主要分為兩派，即非決定派和決定派。

非決定派基于“結構說”，認為意識是生命結構的產物，人工智能不是生命體，強調意識與生命系統(tǒng)的不可分割性，所以人工智能永遠不可能產生意識?；谏窠浛茖W的研究，他們認為大腦的感知、決策和行為是通過最小化預測誤差來實現(xiàn)的，而這些預測最終是為了維持生物體的內穩(wěn)態(tài)（homeo？stasis）。這意味著意識的產生與生物體維持自身生存的需求密切相關。甚至連最簡單的生命形式，比如單細胞生物，都需要與外界交換物質來維持內穩(wěn)態(tài)。從生物自然主義的視角來看，這種生物過程是意識形成的先決條件。意識不僅僅依賴于計算功能，更與生物過程中的代謝、物理限制和動態(tài)變化密切相關。非決定派反復論證，人工智能不可能發(fā)展出具有自主意識的機器人，意識是人類的獨有特征，人之外的事物永遠不可能擁有意識。代表人物國外有約翰·塞爾（John Searle）、羅杰·彭羅斯（Roger Penrose）、蘇珊·布萊克摩爾（Susan Blackmore），國內有陳凡、王煥超、韓東屏等。1980年，約翰·塞爾在《心智、大腦和程序》一文中提出著名的“中文房間”思想實驗用以駁斥“圖靈測試”的合理性，認為機器是物質，永遠不可能具備獨立反思能力。塞爾從研究中得出結論：意識是一種生物現(xiàn)象，在某種程度上與膽汁分泌可以相提并論[1]（111）。所以，在生物體之外是不可能產生意識的。數(shù)學家羅杰·彭羅斯篤信，AI與自我意識之間有著不可逾越的鴻溝。布萊克摩爾則認為，尋求機器意識是對機器人研究的誤導，創(chuàng)造一個意識的機器主體是不可能的[2]（183）。在國內，陳凡認為，自我意識是以人的主體性為基礎對自我與對象之間關系的確認和反思，目前來看，AI并不具有自我意識[3]（19）。AI的關鍵不在于“智能”，而在于是否具備“意識”，從目的論的角度來說，AI永遠都不會擁有意識，因為智能機器人存在四條無法跨越的鴻溝，即不能知道不在場的人、不能知道昨天和明天、不能自創(chuàng)新編碼、不能用軟件重建硬件[4]（256-257）。在陳俊秀等看來，機器意識在理論上的可能性和技術上的可行性均存有疑問[5]（110）。如果把情感、表達力、意志力、想象力和注意力等五大特征作為判斷機器是否具有意識的依據(jù)，則機器人很難具有像人一樣的意識[6]（4-5）。韓東屏認為，強人工智能即使具有意識，在功能方面，它也永遠不可能完全達到人的意識水平[7]（1）。

決定派基于“功能說”，認為意識不通過生命體結構產生，只要通過模擬、深度學習等就可以獲得認知和意識。只要系統(tǒng)具備了與人類大腦相似的功能，無論物質基礎是什么，意識便有可能產生。可以舉忒休斯悖論加以說明。假設我們逐漸更換一艘木船上的每一塊木板，直到最終所有木板都被替換，那么這艘船還是原來的那艘船嗎？計算功能主義者會進一步推導，如果我們將人類大腦中的每一個神經元替換為功能等價的硅基算法，或通過仿真完全復制大腦的神經網絡，那么這種“硅基大腦”是否可以被認為具有意識？計算功能主義的支持者相信，只要系統(tǒng)的計算功能等同于人類大腦，無論其物質基礎是碳基的還是硅基的，都有可能產生意識。他們甚至認為，隨著人工智能的發(fā)展必然會出現(xiàn)擁有自主意識和自由意志的智能機器，只是時間尚不確定，代表人物有雷·庫茲韋爾（Ray Kurzweil）、斯蒂芬·威廉·霍金（Stephen William Hawking）、趙汀陽、孫偉平等。庫茲韋爾認為，隨著技術“奇點”的到來，會出現(xiàn)擁有自我意識的“超人工智能”?；艚鹫J為，人工智能的發(fā)展是20世紀最偉大的事件，自主機器人也必然會出現(xiàn)。強人工智能（Strong AI）會真正擁有人類最寶貴的東西——“自我意識”。趙汀陽認為，就技術趨勢而言，人工智能發(fā)展出自我意識具備極高的可能性[8]（2）。實際上，自我意識是目前人工智能發(fā)展的瓶頸所在，但不少人相信它一定會取得突破。當機器人可以理解并能夠回答“我是誰”“我從哪里來”這些問題，就意味著機器人具有了人類同樣的自我意識。傳統(tǒng)哲學認為，“會思維”是人的本質，隨著智能機器人的進步，“機器會思維”將成為不爭的事實[9]（122）。目前已有科學家證明人工智能可以形成自我意識。在強人工智能時代，機器自我意識可能會產生，智能機器人可以在算法外獨立實施行為[10]（167）。

上述非決定派與決定派的論證，為機器意識的實現(xiàn)提供了重要的理論前提和思考元素。我們認為：機器意識的實現(xiàn)并非一種理論假設和空中樓閣，而是一種基于科學技術發(fā)展的合乎規(guī)律的預期。

二、機器意識的可及性：從直覺到內隱

機器意識并不是一個異想天開、庸人自擾的問題。人工智能意識離我們有多遠呢？機器意識是指機器具有算法之外的獨立的思考和認知能力。如果機器實施的行為以自我意志為轉移，具有相對獨立性，機器就具有意識。從人與技術的關系看，機器意識是人的本質的投射，從直覺到內隱，反映出機器意識的發(fā)展規(guī)律性特征。

1.新興技術的涌現(xiàn)不斷增強智能機器的“感性”

一些與人工智能自我意識產生強相關的新興技術將格外引人關注。神經認知科學技術、深度學習技術、腦機融合技術、人工生物合成智能機器人、量子技術等技術變革的現(xiàn)實涌現(xiàn)，將不斷增強智能機器的“感性”。作為“心智的生物基礎”的神經認知科學是解決意識難問題的新范式，腦和認知科學前沿技術的突破，使人工智能意識的誕生成為可能。更重要的是，不僅腦智是模塊化的，意識覺知也是如此。在理解覺知機制后研發(fā)意識覺知模塊，從而在真正意義上實現(xiàn)和人類感同“心”受的機器意識。深度學習技術利用海量數(shù)據(jù)訓練多層神經網絡，模擬人的意識和行為，從而可能產生意識。在未來幾年，機器將變得更加智能，并利用無人監(jiān)督的深度學習作出更復雜的決策。腦機融合技術正在成為人工智能意識產生的新動力。腦機融合的方向為：一是從機到腦，通過電子信號刺激人腦，再傳輸感覺信息或模擬神經功能；二是從腦到機，即通過大腦操控設備，通過腦信號進行虛擬現(xiàn)實的交互，腦電操控機器軀體等。腦機接口技術是新一代人機交互和人機混合智能的核心技術，能使機器借用人類意識進行“意識”，提高“自我感性”。

相比之下，更有希望的發(fā)展方向則是量子技術。意識與量子系統(tǒng)有著天然的聯(lián)系。量子計算具有比經典計算更強的計算能力與描述能力，能實現(xiàn)巨量計算和解決極其復雜的計算困難，且具有真正的不確定性，能突破預先編程的限制，因而更適合描述復雜的意識現(xiàn)象?？梢?，量子技術是最有希望實現(xiàn)人工智能意識發(fā)展突破的新方向。

2.類腦智能技術與生物技術的矛盾運動使智能意識成為可能

類腦智能技術使人類意識在可解析道路上邁出了一大步，人類腦神經網絡的新發(fā)現(xiàn)又推動機器算法與機器網絡的革命。人工智能的進化主要在于算法，腦機融合技術、生物智能與機器智能的充分結合，通過構建腦機混合機器實現(xiàn)大腦與機器的協(xié)同，在算法革命的推動下，最終實現(xiàn)機器意識。未來人工智能的類人與非類人發(fā)展路徑之爭不僅帶來智能發(fā)展的更多選擇，也表明類腦智能技術與生物技術的矛盾運動驅動著智能體自我意識的可能性發(fā)展。事實上，腦科學大量已有進展尚未在人工智能領域得到有效利用。例如，目前人工神經網絡所用的神經元模型，還是1943年的麥卡洛克-皮茨（M-P）模型，訓練的理論依據(jù)，還是1949年提出的赫布學習規(guī)則（Hebb Learning Rule）。在腦科學領域，有許多與智能行為密切相關的認知范式、神經活動機理等“寶藏”等待人工智能領域研究者開發(fā)和利用。大腦的結構和功能極為復雜，關于腦科學的重大突破一旦出現(xiàn)，將極力改變現(xiàn)狀。腦科學的三大發(fā)展方向，一是理解大腦；二是防止大腦的衰退以及腦疾病的產生；三是模擬人腦，創(chuàng)造具有人一樣的意志、人一樣的認知和人一樣的意識的機器。基于腦科學與認知科學的人工智能，正是要借助腦科學與認知科學來逆向工程生物智能以洞悉自然演化的機制，從而指明機器智能的進化道路，最終以觸達智能的未來時。

3.技術史的演進邏輯隱含智能機器產生自我意識的可能

智能機器意識的產生是人的進化過程：智能機器是人進化的一部分，是人克服自身器官局限的結果。在馬克思所處的時代，雖然智能機器尚未出現(xiàn)，但智能機器、智能器官等問題已經進入馬克思的論域。這可以從馬克思“機器體系和科學發(fā)展以及資本主義勞動過程的變化”的闡述中看出。馬克思指出，自動的機器體系“是由自動機，由一種自行運轉的動力推動的。這種自動機是由許多機械器官和智能器官組成的，因此，工人自己只是被當作自動的機器體系的有意識的肢體”[11]（773）。在這里，自動的機器體系作為最完善、最適當?shù)臋C器體系形式，是由“機械器官”和“智能器官”組成的。在馬克思看來，機器本身是一個不斷發(fā)展的辯證否定過程，當機器發(fā)展到最完備和最適當?shù)男问綍r，必然會出現(xiàn)有“智能器官”的智能機器。那么，馬克思講的機器的組成部分“智能器官”是被合理地理解為“工人”，還是被理解為工人之外的“人工智能”的萌芽呢？筆者認為，馬克思的本意是指“人”成為機器的智能器官，作為機器有意識的智能器官。換言之，在馬克思看來，人是機器的大腦。

從技術演進的邏輯看，技術進步時而平穩(wěn)，時而加速，奇點史揭示了技術發(fā)展的突變性及其邏輯。研究表明，技術奇點的到來在邏輯上是完全可能的[12]（94）。人工智能的發(fā)展史既有量變特點，也有奇點特點。人工智能的進化邏輯是從弱人工智能到強人工智能和超人工智能，相應地，機器意識的發(fā)展過程也可能是從弱人工智能意識即體現(xiàn)在機器外部行為的交互性（腦智外現(xiàn)），到強人工智能意識或者超人工智能意識接近于人類的意識，即具有主體知覺意義上的意識能力（覺知內顯）。這樣，隨著人工智能范式轉移，更多、更優(yōu)的方法將不斷地助力解決以往技術無法跨越意識革命的門檻的問題。從自我意識發(fā)展角度分析人工智能演進軌跡，人工智能意識產生發(fā)展的圖景，可以表現(xiàn)為無意識—低級類腦意識—類腦意識—超類腦意識的階段演進邏輯。超類腦意識是人工智能自我意識發(fā)展的高階階段，人工智能在此階段可能突破人類工具理性的設置。這種邏輯預示著人工智能意識發(fā)展到高階階段自我意識的可能。

4.智能發(fā)展矛盾運動推動智能機器意識走向可能

事物的內在矛盾運動推動事物的發(fā)展。智能機器是否出現(xiàn)自我意識也要從智能發(fā)展的矛盾運動中去考察。多重矛盾運動推動智能技術的發(fā)展，推動智能體自我意識呈現(xiàn)螺旋式進升，推動人工智能擁有自我意識走向可能。

數(shù)字技術的有限性與無限性的矛盾運動，推動數(shù)字技術不斷跨越，為智能體的自我意識產生奠定可能性基礎。數(shù)字技術是當代信息技術的階進迭代，是人工智能發(fā)展依賴的最主要技術。根據(jù)波普爾的表述，世界上存在三種“無限”：（1）物質世界的無限；（2）精神世界的無限；（3）物化的精神產品的無限。人類技術的發(fā)展是從機械化到電氣化，從信息化到數(shù)字化。如今數(shù)字技術的發(fā)展，數(shù)字內容與數(shù)字產品的無限，新技術的不斷涌現(xiàn)，成就了技術發(fā)展的無限性。從發(fā)展歷程和技術構成來看，數(shù)字技術存在技術突破的無限性，如數(shù)字技術的三次飛躍，數(shù)字技術方興未艾，人的一切皆可數(shù)字化、智能化，從這個意義上講，數(shù)字技術的發(fā)展是無限的、沒有終止的、無止境的。數(shù)字技術的有限性是指數(shù)字技術在一定的歷史條件下，受到當下技術發(fā)展物質條件的制約，它既在當下又超越當下，它既處于“此時”的技術中，也處于“未來”的技術發(fā)展圖景中，從這個意義上說，數(shù)字技術又是有限的，存在技術瓶頸的階段性。因此，有限超越無限形成不斷的發(fā)展最終推動數(shù)字技術的發(fā)展，彼此矛盾推動數(shù)字技術的不斷跨越，為智能體的自我意識產生奠定可能性基礎。從這個意義上說，智能機器出現(xiàn)意識就不可避免。

人腦的生物進化與人的活動進化的矛盾運動。人類歷史是“社會人的生產器官的形成史”。人工智能是大工業(yè)的結果，也是人腦及身體的產物。智能環(huán)境下的海量信息已經遠超人腦的承受度。為適應人腦及其延伸（機器腦）對海量信息處理的需要，“新腦”或人腦的延伸器官必然產生，也會沿著自我意識方向發(fā)展，逐步進化出一種超適應性。人機融合可以達到1+1>2的效果，人類的智慧將被人工智能放大，就像哈勃望遠鏡一樣，可以推進人類文明的進步。蔡恒進指出：“我們已然賦予機器某種偏狹的意識，假以時日，通過混合、迭代等方式，機器總有一天會進化出同人類一樣的、甚至更為復雜的意識?！盵13]（24）

此外，人的自由本質與資本的矛盾運動，推動智能機器產生意識成為可能。智能機器發(fā)展過程也是人的自由本質的實現(xiàn)過程，智能機器對人類勞動具有解放性的一面。同時，人工智能也是資本的“吞噬點”，資本積聚推動了智能機器的發(fā)展，也植入了資本的偏見。而兩者的對抗與反噬推動了智能機器向更高階運動，智能體自我意識的兩面性契合了這種需求。

三、機器意識的倫理前置：從一次元到高次元

機器人的出現(xiàn)帶來機器的意識問題。馬克思曾指出：“意識在任何時候都只能是被意識到了的存在。”[14]（152）如前所述，技術迭代進步，使機器意識從直覺到內隱，從可能走向現(xiàn)實。人類總是在不停嘗試，尋求其他可能性。然而問題在于，可能性本身包含了眾多不確定的因子，一旦開啟即相當于打開了潘多拉魔盒。為此，人類需要對其可能性保持一種高度的倫理覺醒和倫理前置。可喜的是，近年來這種覺醒聲音在哲學倫理學界一直不絕于耳。這里存在兩個極為重要的問題：為何倫理應作為機器意識發(fā)展的前置條件？如何實現(xiàn)機器意識的倫理前置？從前者看，是因為機器意識帶來的系列高風險：安全風險、主體性風險、人機關系風險等。

人類安全始終是人們擔心的首要問題。人工智能奇點論預言：人工智能將會全面超越人類，繼而威脅、奴役甚至毀滅人類?；艚?、馬斯克、比爾·蓋茨等都對AI的未來發(fā)展憂心忡忡。霍金直言不諱：人工智能和基因編輯，已經預示了新技術的危險正在逼近臨界點，即正在逼近否定文明的意義甚至是自取滅亡的極限。他贊揚AI的發(fā)展是20世紀最偉大的事件，同時指出自主AI的出現(xiàn)也是人類的最大危險。馬斯克認為，具有自我意識的AI對人的存在具有顛覆性毀滅風險。在國內，2016年趙汀陽撰文《終極問題：智能的分叉》引發(fā)了學界關注。他指出，目前的人工智能尚屬于圖靈機概念，尚未具有主體性。如果試圖開發(fā)一種高于人的存在，這種努力直接就把人類的命運置于“存在還是毀滅”（to be or not to be）的抉擇境地。AI危險之處不是能力，而是自我意識[15]（65）。AI獲得自我意識，反過來取代、控制或統(tǒng)治人類，智能機器將成為人類的掘墓人。我們生活的時代正處于機器崛起的前夜，作為人類智慧延長的AI，在快速進化之后會導致能力與責任的極度不匹配，可能會將世界帶入深壑。

主體性問題亦同樣令人憂慮。一旦AI發(fā)展出自我意識，人-機界限將會消失，AI將會和人一樣具有主體性。智能機器在滿足自主性、意向性和責任的情況下可以視為道德主體。人工智能發(fā)展成為具有主體性和自由意志的超圖靈機，這樣超級智能是一個有著反思能力和自主性的主體，這是人類的“遠憂”[16]（8）。人工智能的主體性與人類主體性存在巨大差異。技術的迭代進步加速人-機界限模糊，沖擊著人的主體地位，使主體性問題凸顯為時代難題。AI的演進方向是逐漸消除與人類的邊界，成為與人類一樣的主體。如果思維還原為機器運算能夠成功實施，主體的內在意向就投射為外部意志，機器就成了另一種主體性[15]（65）。

具有自我意識的AI的器性與人性有什么區(qū)別？是向善還是向惡？隨著AI和機器學習技術的發(fā)展，智能機器必將擁有自我思維，那么智能機器的本性將挑戰(zhàn)人性[17]（14）。隨著具有自我意識的智能系統(tǒng)面世，人與強人工智能，誰優(yōu)誰劣？余乃忠認為，AI具備自我意識、了解行為意義，那么人類與智能機器的關系將發(fā)生變化，誰主沉浮，難以估量[18]（100）。

智能時代的人機關系問題引發(fā)深層憂慮。如果自主機器人出現(xiàn)，必須重新定義人-機倫理關系問題。AI的高效率會加劇人對資源掌握的分化，進而導致人類社會更大的階級差異。AI的應用范圍極其廣闊，AI正在解構傳統(tǒng)的人倫關系。具有自主意識的AI大規(guī)模進入日常生活領域，自然人與智能AI的沖突不可避免。人機融合一旦成為現(xiàn)實，擁有自我意識的新人工智能體就會產生“我是誰”“我思故我在”等身份認同上的困擾與沖突。

智能機器的道德責任問題。愛因斯坦曾經說過：在我們這個時代，科學家具有無比沉重的道義責任。如果人工智能產生了像人一樣的自主性，那么必然要承擔相關道義責任。人類作為技術主體，當然應當承擔人工智能技術后果的“第一責任”?！拔磥碓趺礃印睕Q定于我們“現(xiàn)在怎么做”。人類應該對人工智能的研究、應用和管理真正地負起責任來。值得慶幸的是，“負責任的人工智能”業(yè)已成為社會的共識。人之外的“第二主體”——人工智能，能否承擔人之外的道德責任呢？擁有自主意識的智能體承擔“準道德責任”或“第二責任”（the second responsibility），這是必然的。

機器意識的風險絕不僅僅局限于上述分析。機器意識的風險是復雜多元的，包括但不限于人工智能倫理沖突、對人類智能的影響、社會實驗的倫理關切、機器意識的道德問題以及對倫理道德的影響等。它是隨著“弱人工智能—強人工智能—超人工智能”的技術發(fā)展軌跡逐步產生和不斷累積的。人工智能所蘊含的技術風險存在一個逐步顯現(xiàn)并演化的過程。隨著機器人在各個領域的決策越來越多，從被動工具變成人類的代理者，需要建立新的倫理范式，將人類社會的倫理規(guī)范延伸到智能機器，傳統(tǒng)的倫理框架可能不再適用，需要重新考慮人與機器的關系，以及如何在新的技術環(huán)境中維護倫理原則。機器意識帶來的顛覆性變革不再局限于某一領域，而是實現(xiàn)全領域、全技術要素的突破與跨越，讓單一系統(tǒng)的“安全邊界”消失，因而蘊含著極大的錯誤疊加與連鎖反應的風險，一旦這些系統(tǒng)性錯誤降臨，就會被傳導和放大，產生非線性疊加錯誤，給整個人類社會帶來巨大的威脅和沖擊，各種技術風險從一元到高元疊加升級，推動了機器意識“倫理大變局”。

那么，如何實現(xiàn)機器意識的倫理前置呢？可以從技術的倫理前置和社會的倫理前置兩個角度進行分析。

技術的倫理前置：責任內嵌。鑒于技術與人類行為之間的深刻聯(lián)系，人類應當擔負起對應的責任和義務，也就是進行面向未來的技術評估。在開放發(fā)展的價值導向下，我們迫切地需要將道德責任的模式從因果關系轉變?yōu)闃藴守熑?。不管是從倫理的角度還是從道德的角度來看，它首先表現(xiàn)為一種“實踐性”的存在，是一個用于規(guī)范行為的規(guī)則體系。換句話說，倫理和道德的核心價值在于為實踐提供指導并規(guī)范道德主體的行為和言論?？萍紕?chuàng)新和倫理體系的共同目標是增進人類福祉。近年來，國內外都在探索的“負責任創(chuàng)新”（responsible research and innovation）技術發(fā)展模式，通過合理安排參與主體、調整特定的溝通流程、促使治理參與者改變或提高對新興技術風險的認知，并在預測、反思、協(xié)商和反饋等多個框架內，致力將道德、法律和社會因素整合到創(chuàng)新的全過程。這一明確并加強了技術研發(fā)主體在社會責任和道德規(guī)范方面的“倫理前置”機制，在規(guī)范技術創(chuàng)新應用方面的效果明顯優(yōu)于“事后補救”的現(xiàn)有倫理審查方式。實現(xiàn)科技創(chuàng)新中的“倫理內嵌”是倫理前置的核心要素。在一個以價值為核心的世界中，人的生命被視為最高的價值，它只應被視為其他價值的追求，而不應被用作實現(xiàn)其他目的的手段。人的生命不應被視為可交換的等價物，我們必須維護人的尊嚴，并始終將人的價值作為基本目標和前置條件。

社會的倫理前置：綜合施策。針對智能機器倫理風險，國內外目前已形成的應對的社會倫理前置策略有：一是政府加強應對，將人工智能發(fā)展放在國家層面進行規(guī)劃，如美國啟動“國家機器人計劃”，我國啟動“中國腦計劃”。二是學界加強機器意識倫理風險研討。很多學者認為，人工智能自我意識及其實踐將會引起許多重要而有趣的問題。解決機器倫理風險，在國際學術界有較大影響力的是自上而下的道德編碼和自下而上的道德學習的機器設計思路。這兩種設計各有局限，前者存在選擇何種倫理價值嵌入以及如何應對復雜道德場景的問題，后者存在沒有倫理指導系統(tǒng)，僅憑機器學習，輸入機器的道德敏感數(shù)據(jù)會得出何種結果的問題，值得學界密切關注。三是爭取民眾廣泛支持，吸引公眾參與，積極穩(wěn)妥地引導人工智能技術始終在符合人類利益的軌道上發(fā)展。面對新技術發(fā)展的不確定性，需要超越狹隘利益局限，引導社會廣泛參與，以更好地應對危機。四是健全技術治理機制。應當謹慎研發(fā)人工智能技術，對機器能力進行治理限制，尤其是限制它們的自主意識和綜合能力，在法律、政策和倫理框架下運用該技術。在全球范圍內，多個國家和地區(qū)已經建立了自己的人工智能倫理治理框架，如我國的《人工智能倫理治理標準化指南》、歐盟的《人工智能法案》、美國的《人工智能風險管理框架》等。

機器意識雖然在目前顯現(xiàn)度還不夠，短時間難以實現(xiàn)，但是人類應未雨綢繆，實時跟進，保持對人工智能發(fā)展過程中所蘊含的技術風險的警惕。

結語

庫茲韋爾在《靈魂機器的時代》中預言：“21世紀結束之前，人類將不再擁有地球上’萬物之靈’的頭銜，不再能主宰地球?！盵19]（1）當前的人工智能處在尚不具備意識的弱人工智能階段。誠然，即使強人工智能和超人工智能出現(xiàn)自我意識和認知，我們也堅信：人始終是智能行為的總開關，機器背后的真正主人始終是人類。因此，在人類紀，急切呼喚對技術的研發(fā)和應用進行全方位有效的公共性制衡的原則，為實現(xiàn)“倫理邏輯”與“技術邏輯”的協(xié)同耦合提供紓解之道[20]（45-52）。

[參考文獻]

[1]約翰·塞爾.意識的奧秘[M].劉葉濤，譯.南京：南京大學出版社，2009.

[2]布萊克摩爾.人的意識[M].耿海燕，李奇，等校譯.北京：中國輕工業(yè)出版社，2008.

[3]陳凡，程海東.人工智能的馬克思主義審視[J].思想理論教育，2017（11）.

[4]楊偉國，吳俊豪，岑寶蘭.從信息視野初探人工智能與意識的鴻溝[C]//中國科學技術協(xié)會.提高全民科學素質、建設創(chuàng)新型國家：2006中國科協(xié)年會論文集.香港京港學術交流中心，香港浸會大學，北京師范大學珠海分校，2006.

[5]陳俊秀，李立豐.“機器意識”何以可能：人工智能時代“機器不能被騙”立場之堅守[J].大連理工大學學報（社會科學版），2020，41（6）.

[6]ALEKSANDER I，DUNMALL B. Axioms and Tests for the Presence of Minimal Consciousness in Agents I：Preamble[J].Journal of Consciousness Studies，2003，10（4/5）.

[7]韓東屏.智能機器人意識問題的各種解答與我見[J].自然辯證法通訊，2021，43（4）.

[8]趙汀陽.人工智能的自我意識何以可能？[J].自然辯證法通訊，2019，41（1）.

[9]孫偉平.關于人工智能的價值反思[J].哲學研究，2017（10）.

[10]吳允鋒.人工智能時代侵財犯罪刑法適用的困境與出路[J].法學，2018（5）.

[11]馬克思，恩格斯.馬克思恩格斯選集：第2卷[M].北京：人民出版社，2012.

[12]梅劍華.人工智能與因果推斷：兼論奇點問題[J].哲學研究，2019（6）.

[13]蔡恒進.論智能的起源、進化與未來[J].人民論壇·學術前沿，2017（20）.

[14]馬克思，恩格斯.馬克思恩格斯選集：第1卷[M].北京：人民出版社，2012.

[15]趙汀陽.終極問題：智能的分叉[J].世界哲學，2016（5）.

[16]趙汀陽.人工智能“革命”的“近憂”和“遠慮”：一種倫理學和存在論的分析[J].哲學動態(tài)，2018（4）.

[17]林命彬.哲學視角下智能機器在自我意識和行為意義上的突破[J].黑龍江社會科學，2016（6）.

[18]余乃忠.自我意識與對象意識：人工智能的類本質[J].學術界，2017（9）.

[19]雷·庫茲韋爾.靈魂機器的時代：當計算機超過人類智能時[M].沈志彥，祁阿紅，王曉冬，譯.上海：上海譯文出版社，2002.

[20]陳萬球，付圣瑩.人工智能教育的倫理風險探賾[J].長沙理工大學學報（社會科學版），2024，39（3）.

（責任編輯：孫保學）