善抑或惡：人工智能的根本倫理問題

唐代興

〔中圖分類號〕TP18 〔文獻(xiàn)標(biāo)識碼〕A 〔文章編號〕0447-662X（2022）06-0076-12

人工智能技術(shù)的研發(fā)與運(yùn)用，引發(fā)出許多倫理問題和倫理憂慮，對其倫理問題及憂慮予以倫理考察，就形成“人工智能倫理學(xué)”（Ethics of Artificial Intelligence），包括人工智能“機(jī)器倫理學(xué)”（Machine Ethics）和“機(jī)器人倫理學(xué)”（Robot-Ethics）。前者側(cè)重探究人工智能產(chǎn)品的功能釋放如何合倫理，其基本任務(wù)是探討制定機(jī)器的行為規(guī)范和邊界約束;后者側(cè)重于研究人工智能技術(shù)的研發(fā)如何合倫理，其基本任務(wù)是研究制定人類研發(fā)主體的行為規(guī)范和邊界約束。由于研發(fā)人工智能技術(shù)與研發(fā)人工智能機(jī)之間客觀地存在因果關(guān)系，機(jī)器人倫理學(xué)必然構(gòu)成機(jī)器倫理學(xué)的指導(dǎo)之學(xué)，所以人們在研究人工智能倫理學(xué)時，越來越將重心轉(zhuǎn)向人工智能研發(fā)的倫理思考，由此形成國內(nèi)的人工智能設(shè)計倫理研究①和人工智能道德算法研究，①這兩個維度的探討拓展了人工智能倫理的研究領(lǐng)域，推動了人工智能道德哲學(xué)②的產(chǎn)生和人工智能社會倫理研究的鋪開。③ 人工智能技術(shù)研發(fā)與不斷更新的產(chǎn)品的社會化運(yùn)用所引發(fā)的倫理問題，本質(zhì)上既不是技術(shù)研發(fā)的問題，也不是產(chǎn)品的問題，而是人的問題，這意味著人工智能的倫理研究還得回到倫理的原點(diǎn)上來。

人類倫理的原點(diǎn)既不是物也不是社會，而是人。人工智能引發(fā)的現(xiàn)實(shí)的或潛在的倫理問題都是人的問題，具體地講是人的存在及敞開與他者構(gòu)成的關(guān)聯(lián)取向及邊界問題，生成這些問題以及求解這些問題的原發(fā)機(jī)制，卻是天賦人的本性的內(nèi)凝和外播。以此觀之，將人工智能倫理定義為機(jī)器倫理和機(jī)器人倫理，實(shí)是前設(shè)了人的非在場視角。當(dāng)人處于非在場狀態(tài)，對人工智能倫理問題的審視和思考，往往漂浮于半空之中缺少落地的實(shí)在而呈舍本逐末取向。所以，討論人工智能的倫理問題，必須有人的在場，從“人”出發(fā)審查人工智能技術(shù)及產(chǎn)品運(yùn)用引發(fā)出來的所有倫理問題，才能真正找到問題產(chǎn)生的根源而予以對癥的倫理診斷，以求真正的救治之方。

在原發(fā)存在狀態(tài)，人是一普通的地球生物，它與眾物一樣順應(yīng)生物本性而適應(yīng)自然的生變。在繼發(fā)存在進(jìn)程中，人從物演變成為人的基本形態(tài)學(xué)方式是“兩腳走路，兩手做事”。④ 手與腳在功能上的分責(zé)實(shí)是將人予以了兩分：“雙腳走路，是自然地存在;雙手做事，是人力的存在。從雙腳行走到雙手做事，生成起一個邏輯，開創(chuàng)出一種結(jié)構(gòu)，更建構(gòu)一種秩序：這個邏輯，是人從自然物到人的邏輯，展開為從腳到手的進(jìn)化;這種結(jié)構(gòu)，是人從自然物到人的時間進(jìn)程，或者說歷史結(jié)構(gòu)，展開為從腳的本能運(yùn)動到手意識地安排事務(wù);這種秩序，是人從自然物到人的存在秩序，展開為本原性自然存在的世界與人質(zhì)性質(zhì)的存在世界的生成性聯(lián)結(jié)，使自然存在的世界和人質(zhì)存在的世界最終淪為技術(shù)化存在的世界?！雹龠@是因?yàn)槭峙c腳的功能分責(zé)，既推動大腦快速發(fā)育，也激活人的想望性存在，這種想望性存在就是按照人自己的方式和欲求存在?；谶@種“按照自己的方式和欲求存在”的想望不斷放大，人被兩個根本問題牢牢地套住并為此展開永不能停息的努力，這就是從不間斷地解決存在安全和生活保障的問題，由是只能無限地延長自己的手臂即功能，即發(fā)展技術(shù)：技術(shù)是人的手臂的無限延長方式。技術(shù)的功能呈現(xiàn)是開辟存在安全和生活保障的道路，但在本質(zhì)層面，卻是人將自己從物的世界中剝離出來而走向人。所以，“技術(shù)是從自然轉(zhuǎn)化到人的目的的媒介。其特點(diǎn)是，將生物學(xué)上有缺陷的人保持在‘自然’之中?！雹诘厍蛏系乃猩锒即嬖谏飳W(xué)的缺陷。這種缺陷由兩個方面規(guī)定：一是由生命規(guī)定，即地球上所有的生物都是生命的存在物，而生命存在物既是向死而生的存在物，也是需要資源滋養(yǎng)才可存活的存在物。由此兩個方面的生命制約因素，構(gòu)成了地球生物的根本生物學(xué)缺陷。二是地球生物是物種化的生命存在物，生物的物種化存在既賦予生命存在物自身特質(zhì)與個性，也規(guī)定了生命存在物的限度與邊界。生物的生命化和物種化從兩個方面規(guī)定了生物的生物學(xué)缺陷，這既是一種普遍的存在論缺陷，也是一種存在敞開生存的正常的生存論缺陷。唯有當(dāng)人這一物種的進(jìn)化（遺傳變異）遭遇一些至今都不可知的偶然因素的激活從“自然轉(zhuǎn)化到人”時，才將其原本正常的缺陷突顯出來成為非正常的即需要去改變或縮小的一種“缺陷”，所以“人的生物學(xué)缺陷……（引發(fā)）技術(shù)的無條件性將會自行出現(xiàn)。人無外乎就是一個技術(shù)的動物，倘若"拋棄技術(shù)，他失去的將不僅是對自身負(fù)擔(dān)的消除，而且是自身存在的基礎(chǔ)。”③

從根本上講，“技術(shù)是從自然轉(zhuǎn)化到人的目的的媒介”這一表述道出了技術(shù)的人本性質(zhì)：技術(shù)是一道門檻，跨進(jìn)這道門檻，人這個動物就朝人的方向轉(zhuǎn)化，不再是純粹的物，而成為人，成為“既是物在形式”又是“人在形式”的人。④ 這是因?yàn)椤皬纳飳W(xué)上說，我們屬于人這個物種，此物種通過進(jìn)化而成，并且只是細(xì)微地同高等動物有所區(qū)別。從精神科學(xué)和文化科學(xué)的觀點(diǎn)上說，人具有意識和理智，發(fā)明了文字并建立了諸如法治國家這樣的社會組織機(jī)構(gòu)。因此，人和技術(shù)可以用兩種互補(bǔ)的方式進(jìn)行考察——依附于自然的束縛和擺脫了自然的束縛。人具有符號方面的能力，如語言、技術(shù)和宗教。自古以來，宗教的目的就是為了革除這樣一個認(rèn)識，即我們完全聽命于大自然的擺布而且終不免一死;技術(shù)的作用則是利用自然的過程，達(dá)到進(jìn)一步對自然進(jìn)行掌控的目的。人類的技術(shù)就是有計劃地進(jìn)行改造后的自然，人就是有計劃地重塑自己的自然環(huán)境和自身自然本性的一種動物。”⑤

從發(fā)生學(xué)講，技術(shù)構(gòu)成人由物到人的標(biāo)志。從生存論講，技術(shù)構(gòu)成人的自我重塑的方式，即通過“利用自然”來“重塑自己的自然環(huán)境和自身的自然本性”，這是技術(shù)誕生的動機(jī)，也是技術(shù)發(fā)展的目的，這一動機(jī)和目的最為實(shí)在地落實(shí)在對兩個根本“存在缺陷”的努力解決上：第一個存在缺陷是存在的無安全性，它源于兩個方面：一是來源于生物世界生物的威脅，二是來源于自然世界的生變運(yùn)動;第二個存在缺陷是生活的無保障性，具體表征為生存資源的無現(xiàn)成性、匱乏性和謀求必付出高成本的代價。技術(shù)就是解決人的存在安全和生活保障的根本社會方式，也是在更新的生存處境中不斷地解決其存在安全和生活保障的基本工具，因?yàn)榧夹g(shù)武裝了人的“生存能力”，“將自然改變?yōu)榉?wù)于自己的生活之物”。在物理層面，技術(shù)“改變自然”的實(shí)際成果是“重塑了自己的自然環(huán)境”，即不斷地解決存在安全和生活保障——因?yàn)槿恕鞍凑兆约旱姆绞胶陀蟠嬖凇钡南胪麩o限度無止境，激發(fā)人解決存在安全和生活保障的水準(zhǔn)也敞開為無限變化的進(jìn)程，從而導(dǎo)致存在安全和生活保障問題成為“人成為人”的永恒生存問題。在精神層面，技術(shù)“改變自然”的實(shí)際成果是“重塑了自身的自然本性”，即它的“總概念叫作文明，文明世界就是人的世界?！?/p>

由于技術(shù)的動機(jī)和目的是通過“利用自然”亦即改造自然來“重塑自己的自然環(huán)境和自身的自然本性”，所以它始終是合倫理的。人類從動物進(jìn)化為人類，經(jīng)歷舊石器技術(shù)、新石器技術(shù)再向農(nóng)牧社會的手工制作技術(shù)以及工業(yè)社會的機(jī)械生產(chǎn)技術(shù)演進(jìn)，技術(shù)倫理尚未產(chǎn)生，其根本原因是通過利用自然來“重塑自己的自然環(huán)境和自身的自然本性”的技術(shù)，始終絕對忠誠地服務(wù)于人而體現(xiàn)完全的合倫理性。技術(shù)的發(fā)展從合倫理性向倫理問題滋生的方向展開，既是創(chuàng)造技術(shù)的人出了問題，也由此推動技術(shù)本身出了問題，只有當(dāng)技術(shù)與人相向敞開為問題時，技術(shù)合倫理性的歷史格局才被打破而不得不將技術(shù)倫理問題突顯出來予以生活的和理論的雙重關(guān)注。

從技術(shù)角度觀，技術(shù)引發(fā)出倫理問題，可能源于兩種情況。一種情況是技術(shù)通過“利用自然”來服務(wù)于人，逾越了人與生物或人與自然的邊界;一種情況是技術(shù)的研發(fā)和運(yùn)用擴(kuò)大了“利用自然”來服務(wù)于人的動機(jī)，抑或是技術(shù)的研發(fā)和運(yùn)用改變了“利用自然”來服務(wù)于人的動機(jī)。前一種情況的具體表征是技術(shù)“改變自然”突破了人與生物、人與自然之間共生存在的邊界，逾越了技術(shù)“利用自然”來服務(wù)于人的合倫理的限度。由于技術(shù)對自身動機(jī)的逾越而造成人的存在與自然的對立、人的生存發(fā)展制造出來的環(huán)境死境化日益明顯和普遍，致使由技術(shù)引發(fā)出來的倫理問題被環(huán)境的倫理所遮蔽，即人們往往關(guān)注環(huán)境的倫理問題而忽視技術(shù)的倫理問題，但在本質(zhì)上，一切形態(tài)的環(huán)境問題都是技術(shù)問題，所有方面的環(huán)境倫理問題最終都是技術(shù)的倫理問題，因?yàn)槿藢Νh(huán)境的破壞是通過延長的手臂——技術(shù)來實(shí)現(xiàn)的。后者的突出表征是現(xiàn)代臨床醫(yī)學(xué)技術(shù)引發(fā)出來的倫理問題：從技術(shù)的倫理問題顯形化這個角度觀，技術(shù)的倫理問題最初在臨床醫(yī)學(xué)技術(shù)中呈現(xiàn)，但并不等于說臨床醫(yī)學(xué)技術(shù)必然會產(chǎn)生倫理問題，中國傳統(tǒng)醫(yī)學(xué)在其發(fā)展過程產(chǎn)生的諸如按摩、推拿、針灸、藥石等治療技術(shù)，弘大古希臘醫(yī)學(xué)傳統(tǒng)的西醫(yī)體系中不斷涌現(xiàn)出來的諸如手術(shù)技術(shù)、診斷技術(shù)、治療技術(shù)等醫(yī)療技術(shù)，都沒有出現(xiàn)倫理的問題，無論中西，傳統(tǒng)醫(yī)學(xué)倫理的目光都聚焦在醫(yī)護(hù)主體的職業(yè)倫理以及醫(yī)患關(guān)系方面。臨床醫(yī)學(xué)技術(shù)出現(xiàn)倫理問題，恰恰是通過墮胎、遺傳控制等技術(shù)的臨床運(yùn)用而呈現(xiàn)。這就出現(xiàn)一個問題，為什么在墮胎、遺傳控制等技術(shù)未產(chǎn)生之前運(yùn)用于臨床醫(yī)學(xué)中的諸多技術(shù)沒有生發(fā)出倫理問題，而墮胎、遺傳控制等技術(shù)的臨床運(yùn)用會滋生出倫理問題？這就涉及技術(shù)的動機(jī)和目的定位。如前所述，技術(shù)是為了提升人的生存能力，其構(gòu)造是以改造和征服自然為目的——通過利用自然來“重塑自己的自然環(huán)境和自身的自然本性”。這一動機(jī)和目的可具體表述為如下三個維度的硬性規(guī)定：

第一，技術(shù)開發(fā)的對象是指向自然的，而不是指向人的。具體來講，技術(shù)是“利用自然”來服務(wù)于人，其實(shí)質(zhì)是通過改變自然（和自然物）的性質(zhì)、狀貌、結(jié)構(gòu)的方式來服務(wù)于人的存在，使人的存在安全和生活保障得到根本的或更好的解決。

第二，技術(shù)改變自然只是手段，其目的是從兩個方面服務(wù)于人的存在：一是重塑人得以存在的自然環(huán)境，使自然環(huán)境人化，也就是馬克思所講的使“自然人化”;二是重塑人自身的自然本性，使人獲得本性上的文質(zhì)彬彬，成為有尊嚴(yán)地存在且有意識地追求高貴生活的文明人。

第三，技術(shù)通過改變自然（或自然物）的方式實(shí)現(xiàn)“重塑自己的自然環(huán)境和自身的自然本性”的過程，就是不斷解決或更高水準(zhǔn)地解決其存在安全和生活保障的過程。

以此觀之，當(dāng)技術(shù)改變其動機(jī)和目的時，必然導(dǎo)致技術(shù)與倫理之“合”的分離，即當(dāng)技術(shù)通過“利用自然”來服務(wù)人轉(zhuǎn)向通過“利用人”來服務(wù)人時，其倫理問題必然出現(xiàn)。臨床醫(yī)學(xué)中的中醫(yī)按摩、推拿、針灸、藥石技術(shù)和西醫(yī)手術(shù)技術(shù)、診斷技術(shù)、治療技術(shù)的運(yùn)用之所以未突顯倫理問題，是因?yàn)樗羞@些技術(shù)都是通過“利用自然”事物、資源、物質(zhì)條件來恢復(fù)人的健康，而產(chǎn)生于20世紀(jì)70年代臨床醫(yī)學(xué)中的墮胎技術(shù)、遺傳控制技術(shù)之所以導(dǎo)致倫理問題的產(chǎn)生，①是因?yàn)閴櫶ゼ夹g(shù)、遺傳技術(shù)是通過“利用人體”來解決人的生命問題，這種改造人身體的技術(shù)方式對人類技術(shù)產(chǎn)生了根本性質(zhì)的逆轉(zhuǎn)，即技術(shù)既違背人的生命倫理，也違背生物倫理和自然倫理。因?yàn)樵诖嬖谑澜缋?，生命的誕生或死亡不是由人的權(quán)力決定的。通過技術(shù)來決定生命的誕生和死亡，從根本上違背了生命倫理和宇宙自然的律法。同樣，人的遺傳（或變異）也不是人的權(quán)力所致和職責(zé)所司，它所遵從的是宇宙自然的律法和世界進(jìn)化的法則。世界的進(jìn)化法則本質(zhì)上是生物世界的生態(tài)平衡法則，包括生物世界物種間的生態(tài)平衡和物種內(nèi)部的生態(tài)平衡。通過技術(shù)的方式進(jìn)行遺傳控制，實(shí)是干擾和破壞生物世界的進(jìn)化法則，從根本上違背了自然倫理。從人的角度看，無論墮胎還是遺傳控制，都是人自為狂妄地通過技術(shù)來逾越宇宙自然的律法和世界進(jìn)化的法則，其行為從根本上喪失了人的本性。

以此觀人工智能技術(shù)之所以從它誕生始就伴隨倫理問題，并隨其研發(fā)的全面鋪開而倫理問題更為普遍、更加緊迫，其根本原因仍然是人工智能作為一種新的技術(shù)方式從根本上違背了技術(shù)的動機(jī)與目的，但這種違背在最終意義上卻是人自身逾越技術(shù)的邊界而踏上自我毀滅的不歸路，這可用馬克思的異化理論來表述，那就是人在存在本質(zhì)上的異化催生了技術(shù)對自身動機(jī)和目的的異化，如不予以有力的阻止，最終會突破人作為自然人和作為生物人的雙重生態(tài)容量極限而達(dá)于自毀。

人工智能（Artificial Intelligence）技術(shù)產(chǎn)生于20世紀(jì)50年代，至今不到70年，在經(jīng)歷了兩次局部性發(fā)展（即1956—1969年與1980—1992年）和兩次間歇性的低谷之后，于2006年后才開啟全面發(fā)展進(jìn)程，這主要得益于四個方面條件的逐漸具備：一是人工智能深度學(xué)習(xí)（deep learning）理論的誕生和計算機(jī)深度學(xué)習(xí)模型的建構(gòu);二是大數(shù)據(jù)和云計算從兩個不同方面為人工智能研發(fā)提供了近乎無限的計算能力和分析方法，打破了阻礙人工智能發(fā)展的兩個主要瓶頸;三是移動終端和物聯(lián)網(wǎng)等技術(shù)的開發(fā)和全面推廣，為人工智能提供了創(chuàng)新的社會空間和未來前景;四是由于前三個條件的具備而形成科學(xué)界倡議、政府資助、企業(yè)和大學(xué)攜手合作的人工智能研發(fā)、推廣、運(yùn)用的市場機(jī)制。由此四個方面互為推力，人工智能技術(shù)不再只是一種新技術(shù)，而是經(jīng)濟(jì)、政治、軍事、教育等領(lǐng)域鋪開綜合實(shí)力競爭的社會方式。人工智能技術(shù)本身爆發(fā)出來的經(jīng)濟(jì)、政治、軍事、教育潛力在促使它成為全球經(jīng)濟(jì)、政治、軍事、教育等綜合實(shí)力競爭的方式時，所帶動起來的危機(jī)也是前所未有的，這種前所未有的危機(jī)在更深刻的維度上將人工智能的根本倫理問題突顯了出來，以求正視。正視人工智能技術(shù)的根本倫理問題，必須超越人工智能帶來的個人生活便利和社會發(fā)展好處這兩個方面的實(shí)利觀念，盡可能從人工智能技術(shù)本身出發(fā)來審視其對技術(shù)動機(jī)的逾越所帶來的根本的存在論誤導(dǎo)。

人工智能技術(shù)開發(fā)的是一類新型的物質(zhì)實(shí)體，使之“具備人的大腦能力”，②構(gòu)成人工智能技術(shù)的動機(jī)和目的?；谶@一動機(jī)和目的，人工智能同時從理論和操作兩個維度向生物人腦進(jìn)軍，對其展開“研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能（human intelligence）”，③是探究“擴(kuò)展人類智能”及“制造智能機(jī)器的科學(xué)與工程”的“理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)”。④ 人工智能作為一種前所未有的新技術(shù)，它對自身的動機(jī)和目的定位呈現(xiàn)出如下規(guī)定性，理解和把握了這些規(guī)定性，才能真正理解人工智能及其滋生的全部倫理問題的根源。

首先，人工智能作為一種前所未有的新技術(shù)，是一種生物工藝學(xué)技術(shù)。

生物工藝學(xué)（biotechnology）也稱為生物工程學(xué)（biological engineering），它產(chǎn)生于20世紀(jì)70年代，指“凡是以生物為對象的一般工程學(xué)都可納入生物工藝學(xué)之內(nèi)”。由于biotechnology一詞在英語里既可用于表示生物，亦可用于表征生物技術(shù)學(xué)，所以它的適用范圍相當(dāng)廣泛，包括了世界人口快速增長、資源匱乏、環(huán)境污染等嚴(yán)峻挑戰(zhàn)所引發(fā)的所有生命領(lǐng)域關(guān)注的一切問題，①也指基因工程“包括DNA配對、血液檢查和遺傳密碼等內(nèi)容”。② 以此觀之，生物工藝學(xué)獲得廣狹含義的指涉性，廣義的生物工藝學(xué)技術(shù)是關(guān)于生物世界之生物的工程學(xué)技術(shù)，狹義的生物工藝學(xué)技術(shù)是指以人的生物身體為開發(fā)對象的生物學(xué)工程學(xué)技術(shù)，本文所論屬于后者。

社會和科學(xué)的發(fā)展趨勢向正集中于形成一種新的人的自我概念，并對解釋人類自身有一種新的構(gòu)想?，F(xiàn)存的對于“人”的觀念，即人的“自然”外貌和人的“自然”性格，正在被一種不斷滋長的觀念所取代，這一新觀念認(rèn)為人可以重新創(chuàng)造自我，……主張一個人應(yīng)僅僅按照他自己所希望的那樣去構(gòu)造一個新的自我，從他過去的經(jīng)歷和遺傳密碼的束縛中解放出來。

人類正進(jìn)化到達(dá)爾文未曾預(yù)想到的新階段。遺傳重組的潛勢或許正在迅速推進(jìn)我們超越達(dá)爾文的自然進(jìn)化說而進(jìn)入人工進(jìn)化的大膽領(lǐng)域。人類社會不久將向生物工藝學(xué)走去，生物工藝學(xué)將使得我們可以為使人類向更高層次進(jìn)化作直接的選擇。這一新的“演化工藝”階段將把我們帶入更深層的優(yōu)生學(xué)，我們的下一代將真正成為“純”人類的最后一代。

人有權(quán)利決定重新構(gòu)造自己的肉體的這一新觀念已經(jīng)很快得到了普遍認(rèn)可，但社會上仍然存在一些無法得出結(jié)論的問題，例如關(guān)于人工流產(chǎn)的權(quán)利。對此問題的激烈爭論，實(shí)際上是對如何看待即將降世的“自然”生命的限制的爭論。除了爭論人工流產(chǎn)權(quán)問題，還有對安樂死和選擇自殺權(quán)利等等問題。這些僅僅是一個大規(guī)模社會論戰(zhàn)的開始，即關(guān)于人是否有自由的權(quán)利去使用新的生物工藝學(xué)，以完全控制自己的肉體使其生命過程更具價值的問題。③

以人的生物身體和生命為資源開發(fā)對象的生物工藝學(xué)技術(shù)，是“既指‘完全控制自己的肉體’重構(gòu)人的生物本性、生物結(jié)構(gòu)、生物功能的社會方式，也指探討人如何完全控制自己的肉體、重構(gòu)自己的生物本性、生物結(jié)構(gòu)、生物功能的規(guī)律、原理、方法、手段的技術(shù)學(xué)問。僅前者言，生物工藝學(xué)的通俗說法是生物技術(shù)方式。就后者論，生物工藝學(xué)即是生物技術(shù)學(xué)，對認(rèn)知科學(xué)（cognitive science）、納米技術(shù)（nanotechnology）、生物技術(shù)（biotechnology）、信息技術(shù)（informa tiontechnology）的理論探討，實(shí)際上是生物工藝學(xué)核心內(nèi)容的探討;將認(rèn)知科學(xué)、納米技術(shù)、生物技術(shù)、信息技術(shù)會聚起來予以整合研究，亦屬于生物技術(shù)學(xué)，這種整合研究所形成的會聚技術(shù)（NBIC），就是生物技術(shù)方法?！雹芫唧w地講，以人的生物身體為資源開發(fā)對象的生物工藝學(xué)技術(shù)，是以計算機(jī)為運(yùn)演工具，以會聚技術(shù)為認(rèn)知方法，以大數(shù)據(jù)為分析方法，以基因工程和人工智能為兩翼形態(tài)學(xué)呈現(xiàn)的技術(shù)體系。

其次，人工智能作為一種生物工藝學(xué)技術(shù)，是以人的生物大腦為開發(fā)對象。

人的身體中有兩個因素至為根本，這就是人的生物基因和生物大腦，它從兩個不同方面構(gòu)筑起人特有的存在方式。這種“特有存在方式”是指人的存在既絕非自然的存在，又絕非非自然的存在，而是既是自然的存在，又是非完全自然的存在。由于前者，人作為一種人文的——或者說文化的和文明的——存在，始終與自然關(guān)聯(lián)，并始終保持物性、自然天性;因?yàn)楹笳撸俗鳛橐环N自然的——或者說生物的——存在，始終朝向文化和文明的方向?qū)⒆约撼ㄩ_為人。由于后者，人成為一種“人在形式”而必須“按照自己的方式和欲求存在的想望”創(chuàng)造和發(fā)展;因?yàn)榍罢?，人成為一種“物在形式”而必須遵從物的本性和自然的天性有限度地創(chuàng)造和有節(jié)制地發(fā)展。

比較言之，人的生物基因是人體中進(jìn)化得最慢的一種要素。它之所以進(jìn)化得最慢，因?yàn)樗侨诉@一生命存在與宇宙、與自然、與地球上萬物生命保持最密切關(guān)聯(lián)的紐帶，如果它也與人體其他部分同步進(jìn)化，人類將與自然徹底脫鉤而成為純粹的人類，人也完全可以不遵循宇宙律法、自然法則和生命原理而自行其事。不僅如此，如果人體生物基因也與其他要素同步進(jìn)化，整個生物世界的秩序?qū)⒈恢匦掳才牛祟愐矊⒖赡軓氐椎馗淖冏约旱谋拘?。作為生物工藝學(xué)技術(shù)的基因工程向地球生物世界鋪開，其結(jié)果是人類獲得自由創(chuàng)造生物物種的能力和權(quán)力，地球生物世界被迫迅速地變亂秩序，今日之地球生物（也包括微生物）世界的生態(tài)日趨惡劣的狀況及態(tài)勢，正好拉開了生物世界以及整個存在世界秩序變亂的序幕。作為生物工藝學(xué)技術(shù)的基因工程向人的生物世界鋪開，加速其人體基因編輯，破解人生命的創(chuàng)造密碼，其最終的形態(tài)學(xué)呈現(xiàn)就是人可以運(yùn)用基因技術(shù)自由地制造人，掌握基因技術(shù)的人、組織或利益團(tuán)體，可以在始端創(chuàng)造自己所需要的各種等級、各種功能、各種成色的人，人類存在體系將面臨徹底的重構(gòu)。

與此不同，人的生物大腦是人體中進(jìn)化得最快的一種要素。人不斷進(jìn)化的大腦，以其更為開放和更為深度的雙重方式會通宇宙的智慧、自然的真理、萬物生命的知識而持續(xù)向前地成就人，包括不斷地成就人的視野、人的認(rèn)知、人的境界、人的光榮和光輝。在地球生物世界里，從材料、結(jié)構(gòu)、組織及其生命方式等各方面看，人這一物種與生物世界其他生物并沒有根本的區(qū)別，正如布里吉特·法爾肯堡在《互補(bǔ)視角：自然主義VS理想主義》中指出的那樣，人類物種“只是細(xì)微地同高等動物有所區(qū)別”，①這種“細(xì)微”的區(qū)別就是其大腦進(jìn)化方式和進(jìn)化速度使人類在宇宙世界中獨(dú)樹一幟，成為上帝的殊榮和驕傲，因?yàn)橥ㄟ^不斷進(jìn)化的大腦，人類創(chuàng)造了自己，創(chuàng)造出了屬于人類的神性存在和生存之愛、承傳開新的文化和文明，并因此而照亮了宇宙，賦予了存在世界的神韻和生命世界的永恒魅力。

如果說進(jìn)化得最慢的人體生物基因，使人始終佇立于宇宙自然之中，扎根于大地和生物世界，享有存在的依據(jù)和生存的根基，那么進(jìn)化得最快的人體生物大腦，卻使人源源不斷地獲得動力源泉、智慧源泉、知識源泉和愛的源泉。人工智能將人的生物大腦作為資源開發(fā)對象，以計算機(jī)為運(yùn)算工具，通過會聚技術(shù)和大數(shù)據(jù)分析方法來模擬、延伸、擴(kuò)展人的大腦工作原理，其主觀的努力有二：一是增強(qiáng)人探索存在世界的大腦能力;二是開辟生存發(fā)展的新資源以重新激活疲軟的市場。但其客觀的后果卻是機(jī)器超越甚至取代人的生物大腦，最終解構(gòu)人類這一生物物種在宇宙中的獨(dú)特地位和在自然世界里的神性存在，使人這種具有生存之愛和承傳開新文化與文明的高貴生命物種最終消失在人造的機(jī)器世界之中而淪為一物，宇宙將重新墮入黑暗，存在世界將喪失神韻，生命世界的魅力將不復(fù)存在。

最后，人工智能技術(shù)作為一種新技術(shù)，必將全面擴(kuò)張其物本主義。

無論從已有的起點(diǎn)看，還是從可能造成的最終結(jié)局觀，基因工程和人工智能都是反人本的物本主義技術(shù)方式，雖然這兩種生物工藝學(xué)技術(shù)方式在功能上分別給予人類以更多的便利和好處，但其已經(jīng)給予的或可能給予的所有便利和好處，都不能抵消它的反人本性質(zhì)和物本主義追求。比較來看，基因工程的反人本追求呈現(xiàn)為對人生命的神性內(nèi)容的完全抽取，使之成為技術(shù)的制作物。在基因技術(shù)沒有產(chǎn)生之前，人作為向死而生的生命，“因生而活，為活而生且生生不息”的人生進(jìn)程蘊(yùn)含一種平常中的偉大、苦難中的倔強(qiáng)希望和孤獨(dú)中的愛與同情和悲憫，這是因?yàn)槿说纳弥谔?、受之于地、承之于血脈且最終形之于父母：對人類來講，任何個體生命的形成并來到這個世界上，都是天地人的共鑄共生共育的結(jié)果，即使是離開人間，也同樣以天地人同悲的方式相挽相送相悼相念?；蚬こ贪讶水?dāng)作器物來擺弄和制作，人可通過技術(shù)而被制造，也可運(yùn)用技術(shù)而使之短命或長壽，更可因此而使之不顧善惡甚至喪失善惡，倫理、道德、善惡等必然在這一技術(shù)面前失去應(yīng)有的功能與光彩。

與此不同，人工智能的反人本追求呈現(xiàn)為對體現(xiàn)個性、人格和情感特征的人性的消解，使之成為技術(shù)的承載物，人將越來越在存在和生存的兩個維度被日益發(fā)展的人工智能技術(shù)硬性地規(guī)訓(xùn)為共性的存在物：在人工智能技術(shù)沒有產(chǎn)生之前，人與技術(shù)、人與技術(shù)物之間的關(guān)系，只是一種外在化的功能關(guān)系，這種外在化的功能關(guān)系通過“用”而獲得實(shí)質(zhì)性定義，即只有人需要使用這一技術(shù)或技術(shù)工具時，它才與人發(fā)生直接的關(guān)聯(lián)性而獲得被使用的功能。比如，張三犁地時，犁才被張三所用;犁地的活兒終止，犁與張三之間“用”的關(guān)系自然解除。同時，人與技術(shù)、人與技術(shù)物之間的“用”，是由人的需要引發(fā)，所以人與技術(shù)、人與技術(shù)物之間“用”的功能關(guān)系的形成是人向技術(shù)、人向技術(shù)物的召喚，具體的技術(shù)、技術(shù)物均是應(yīng)人之召而來締結(jié)成“用”的關(guān)系。所以，在人與技術(shù)、人與技術(shù)物之間，人始終是絕對的主體，技術(shù)、技術(shù)物始終是承受主體支配的受體。

以此為參照觀人工智能，它卻呈反向鋪開，從根本上改變?nèi)伺c技術(shù)、人與技術(shù)物之間“用”的關(guān)系格局。這種改變?nèi)諠u從三個方面敞開：一是人與人工智能技術(shù)、人與智能物之間的關(guān)系，已不是單純的“用”的外在功能關(guān)系，而是越發(fā)構(gòu)成一種內(nèi)在性的存在關(guān)系。比如電話機(jī)，它是外在地存在著，只有當(dāng)打電話時才用它;與此不同，置入身體的芯片卻是內(nèi)在地存在，你用不用它都存在于你的身體之中。即使其技術(shù)或技術(shù)物并非置于你的身體中，它也仍然內(nèi)在地存在于你的身體中，天網(wǎng)是一個典型的例子，小區(qū)里、大街上、市場中或者高速路上的攝像器，以及公共場所的人臉識別等，從物理形態(tài)學(xué)講，這些都是外在化于人的存在物，但卻內(nèi)在地存在于每個個體的生命和生活中，無論走到哪里，你都無所逃遁，這就是真正意義上的“天網(wǎng)恢恢，疏而不漏”。二是人與人工智能技術(shù)、人與人工智能物之間“用”的功能關(guān)系形成主客顛倒模式，在人工智能全面挺進(jìn)的進(jìn)程中，將不再是人對技術(shù)、技術(shù)物的召喚，而是技術(shù)、技術(shù)物“不請自來”地反客為主。在這種主客顛倒模式中，人工智能技術(shù)、技術(shù)物成為召喚者，人成為應(yīng)召者。典型的生活例子是手機(jī)，大多數(shù)人每日的生活無時不在等待“在手”的那一機(jī)的召喚，一旦有任何間隙，人的本能行動就是看手機(jī)，哪怕是處于繁忙之中也會忍不住地不時翻閱手機(jī)，人就是這樣成為智能手機(jī)的俘虜卻樂在其中而不知情。人工智能化的體溫檢測是另一例子，當(dāng)具有設(shè)定權(quán)的人或機(jī)構(gòu)一旦設(shè)定進(jìn)入何種情景化的時空場域就成為風(fēng)險對象，那么無論你身體有無感染，只要你不慎經(jīng)歷了這一被設(shè)定的時空場域，就會毫無疑問地成為必須接受再檢測的潛在風(fēng)險對象甚至被隔離的對象。三是在傳統(tǒng)的技術(shù)和技術(shù)物時代，人是技術(shù)、技術(shù)物的絕對主體，這一主體定位決定了人在任何時候都呈現(xiàn)個性，具有對技術(shù)、技術(shù)物的主體權(quán)和對技術(shù)、技術(shù)物的使用或不使用的個性選擇及其使用權(quán)。人工智能技術(shù)卻反客為主，在更多的時候、更多的生活情景中成為人的主體，并以共性的和剛性的傲慢方式規(guī)訓(xùn)人放棄個性、放棄選擇、放棄主體性。比如上班簽到，人工簽到方式和智能打卡方式之間的根本區(qū)別，就是前者具有一定選擇性和個性化表達(dá)，后者卻是千篇一律的共性方式。人臉識別技術(shù)是另一例子，一旦你的工作區(qū)域或生活小區(qū)安裝了人臉識別，不管你愿意不愿意，每天進(jìn)出都得一遍又一遍地被識別，而且并不征求任何個體的意見，所有人的那一張張被反復(fù)識別的臉及其臉面變化的狀態(tài)總是不知不覺地作為信息被收集。這種已經(jīng)將人馴化為習(xí)以為常之機(jī)械反映物的人工智能識別，不僅使人的個性完全被共性解構(gòu)，而且人的權(quán)利侵犯也成為“合法秩序”建構(gòu)的普遍方式。

技術(shù)，開啟人從物向人的道路，并成為解決人的存在安全和生活保障的根本社會方式。技術(shù)的這一人本定位服務(wù)于人并以此督促人為過上更好生活而努力，很自然地成為最為強(qiáng)勁的動力推動技術(shù)無阻礙地向前鋪開。在這一自我鋪開的歷史進(jìn)程中，無論手工技術(shù)還是機(jī)械技術(shù)從未引發(fā)倫理的質(zhì)疑。在人類認(rèn)識史上，技術(shù)始終是好的，是合法的，二戰(zhàn)期間兩大陣營不遺余力地研發(fā)各種形式的新式殺傷武器，包括原子彈之類的核武器以及各種形式的細(xì)菌培養(yǎng)技術(shù)，就是二戰(zhàn)之后的現(xiàn)代人類進(jìn)程中全球范圍內(nèi)公開的核軍備競賽以及國際社會大大小小不同等級和級別的病毒實(shí)驗(yàn)室對各種新式技術(shù)的研發(fā)，即使引發(fā)質(zhì)疑，也是質(zhì)疑技術(shù)研發(fā)主體（比如企業(yè)、政府機(jī)構(gòu)或國家）?！凹夹g(shù)總是好的”這一絕對主流觀念，從技術(shù)誕生開始便一直伴隨技術(shù)發(fā)展的歷史而根深蒂固，即使有所懷疑或反思，也微不足道。海德格爾曾從技術(shù)本性角度考察技術(shù)的“座架”功能，埃呂爾對“技術(shù)自主”性的思考，芒福德提出“巨機(jī)器”的社會理論以及法蘭克福學(xué)派提出“科技異化”，揭示“技術(shù)的解放力量轉(zhuǎn)而成了解放的桎梏”，①技術(shù)不僅造就了單向度的社會，也生產(chǎn)出“單向度的人”的反思。但這些反思技術(shù)的理性思考及其由此形成的理論，相對于社會市場以及人的生活對技術(shù)的需求而言，其作用甚微，發(fā)展技術(shù)既是進(jìn)步的標(biāo)志，也是社會正能量的象征，更是絕對合法和合德的代名詞。技術(shù)界和實(shí)業(yè)界的“技術(shù)無罪”論②和為技術(shù)界、實(shí)業(yè)界無限度地開發(fā)新技術(shù)鼓掌與歡呼的“技術(shù)向善”論，③也很自然地具有廣闊的市場平臺和深厚的傳統(tǒng)土壤。雖然如此，人工智能（包括基因工程）帶動起來的根本社會問題終究會引來廣泛的正視，這種正視將“技術(shù)向善”或“技術(shù)向惡”的問題突顯出來。

技術(shù)“向善”或“向惡”的問題，與技術(shù)“有罪”或“無罪”的問題互為證明：技術(shù)向善意味著技術(shù)“無罪”，技術(shù)“無罪”也意味著技術(shù)“向善”;反之亦然。然而，技術(shù)到底是向善（無罪）還是向惡（有罪），不能以技術(shù)的功能為判斷論據(jù)，應(yīng)該以技術(shù)開發(fā)的“度”為判斷依據(jù)，技術(shù)開發(fā)的“度”是由技術(shù)的動機(jī)和目的所規(guī)定和標(biāo)識，它規(guī)定人類的技術(shù)沒有抽象的善或惡的問題，更沒有抽象的“技術(shù)中性”問題：技術(shù)始終帶有傾向性，或者善或者惡，這種或善或惡的傾向性是具體的技術(shù)的動機(jī)和目的投射。以此審視人工智能，其根本的倫理困境敞開為如下兩個方面：

第一個方面：人工智能開發(fā)逾度帶動的倫理困境。如前所述，技術(shù)作為人從物走向人并不斷使人成為人的社會方式，它得以產(chǎn)生的動機(jī)和目的，就是通過“利用自然”來服務(wù)于人。技術(shù)的這一動機(jī)和目的構(gòu)成技術(shù)研發(fā)之“度”，在其度內(nèi)，技術(shù)研發(fā)就呈善的朝向;逾越其度，技術(shù)研發(fā)就呈惡的朝向。比如二戰(zhàn)期間德國法西斯研發(fā)的毒氣技術(shù)，日本法西斯研發(fā)的細(xì)菌技術(shù)，其無論在動機(jī)上還是在目的上都不是服務(wù)于人，而是要?dú)埡拖麥缛?，并通過殘害和消滅人來實(shí)現(xiàn)法西斯主義者征服世界、統(tǒng)治世界的帝國野心，所以無論從哪個角度審查這些技術(shù)，它都是惡的，其所呈現(xiàn)出來的也必定只是惡。以此觀人工智能技術(shù)的研發(fā)，它的動機(jī)和目的本身逾越了技術(shù)自身之度，因?yàn)槿斯ぶ悄芗夹g(shù)不是“利用自然”來服務(wù)于人，而是利用人的生物大腦來服務(wù)于人，即將人的生物大腦作為資源開發(fā)的對象來予以研發(fā)，并以此開拓新資源市場，建構(gòu)新的經(jīng)濟(jì)增長方式，探求新的社會發(fā)展方式和競爭力。所以，在人工智能技術(shù)研發(fā)的動機(jī)和目標(biāo)體系中，人不是主體，而是客體，是有待開發(fā)的物;其也不是以服務(wù)人為目的，而是將人變成以實(shí)現(xiàn)社會發(fā)展為目的的手段和工具。人工智能這種以開發(fā)人的生物大腦來促進(jìn)社會發(fā)展的技術(shù)方式，從根本上顛倒了技術(shù)“‘利用自然’服務(wù)于人”的倫理關(guān)系。在這種被顛倒的倫理關(guān)系中，其根本的倫理困境不是人工智能機(jī)器是否具有主體性的問題，也不是人工智能研發(fā)主體如何合倫理的問題，而是人工智能技術(shù)本身如何合人、合人性的問題。要解決這個問題，需要將其顛倒了的倫理關(guān)系重新顛倒過來，使人成為人工智能技術(shù)的主體。因?yàn)榧夹g(shù)產(chǎn)生于人從物的世界里面走出來而成為人的需要，是使（動物的）人成為（文化和文明）人的根本方式、手段和工具。技術(shù)與人之間的這一原本性定格要求人必須成為技術(shù)的主體，成為技術(shù)服務(wù)的主體，技術(shù)只能成為人成就自己和不斷成就自己的工具、手段、方式。人是技術(shù)的主體這一本原性認(rèn)知和意識必須構(gòu)成人工智能技術(shù)開發(fā)的動機(jī)和目的設(shè)定的坐標(biāo)。

然而，對人工智能技術(shù)來講，要它將業(yè)已顛倒了的倫理關(guān)系重新顛倒過來，唯一正確的方式是中止人工智能技術(shù)的研發(fā)，但這在事實(shí)上不可能。面對其不可能中止的狀況，退而求其次的辦法只能是將“開發(fā)人的生物大腦來促進(jìn)社會發(fā)展”的人工智能研發(fā)限制在人的生物大腦的智商層面，即將人工智能技術(shù)研發(fā)的最后邊界嚴(yán)格地限定在人的生物大腦的智商領(lǐng)域，禁止窺視人的情商機(jī)制和心商秘密。只有如此，才可真正保障人在人工智能技術(shù)研發(fā)和運(yùn)用兩個方面的主體地位。這需要奠定兩個方面的基礎(chǔ)性認(rèn)知：一是人的生物大腦的構(gòu)成及其人本進(jìn)化的功能體系;二是人工智能研發(fā)突破邊界約束可能造成的最終后果。

首先看人的生物大腦的構(gòu)成及進(jìn)化敞開其人本取向的功能體系。在人的身體體系中，進(jìn)化得最快的生物大腦，其物質(zhì)實(shí)體（即物理形態(tài)和生物形態(tài)）是人腦，其精神實(shí)體卻是內(nèi)駐于人腦中的心智，它由智商、情商、心商三部分構(gòu)成。在人的心智構(gòu)成中，智商主精神，其核心是意識和思維;情商主情感，其核心是以情緒鋪展形態(tài)和導(dǎo)向機(jī)制的潛意識和無意識;心商主心靈，其核心是自由意志、靈魂和生命激情。① 從主體觀，人從物向人進(jìn)化從而使人成為真正意義的人，就是心智的開啟（即“啟蒙”）。但在心智開啟的歷程中，智商是最初進(jìn)化的部分，因?yàn)橹巧叹佑谌说男闹潜韺?，也是人與存在世界、人與物、人與變化和運(yùn)動直接交道、直接對接、直接應(yīng)對的主體性構(gòu)成，人謀求現(xiàn)實(shí)的存在安全和生活保障，要求智商的快速進(jìn)化和發(fā)展，所以，智商的進(jìn)化和發(fā)展從根本上決定了人謀求存在安全和生活保障的程度和水準(zhǔn)，人的智商進(jìn)化得越快、發(fā)展的水準(zhǔn)越高，人謀求解決存在安全和生活保障的水平就越高。在人的心智領(lǐng)域，進(jìn)化得最緩慢的是人的心商，因?yàn)樾纳淌侨说男闹侵凶顖?jiān)硬、最頑強(qiáng)、最具有自我持存的不變性的部分。從存在世界的“變中不變”和“不變中變”之現(xiàn)象與本體交互運(yùn)動角度審視人的心智世界，它既體現(xiàn)“不變中變”的現(xiàn)象性，也體現(xiàn)“變中不變”的本體性，而智商卻更多地體現(xiàn)心智世界中“不變中變”的因素，與此不同，心商則更多地體現(xiàn)心智世界中“變中不變”的因素。心商之所以具有如此的自我持存的不變性，是因?yàn)樗芤灾庇^的方式直接交道、直接對接、直接應(yīng)對自然世界中的本體存在、宇宙世界中的神韻存在、生命世界中的靈性常在的永恒結(jié)構(gòu)、元本體。所以，它構(gòu)成人最終獲得神性而與萬物本質(zhì)區(qū)別的根本方面。比較言之，在人的心智世界里，進(jìn)化所成的智商是人獲得人性而成為人的根本標(biāo)志，進(jìn)化所成的心商卻是人獲得神性而成為大人的根本標(biāo)志。在智商與心商相向生生共運(yùn)存在的框架結(jié)構(gòu)中，情商的進(jìn)化取決于智商進(jìn)化與心商進(jìn)化的會通程度，智商進(jìn)化與心靈進(jìn)化的會通程度越高，情商的進(jìn)化速度越快、水準(zhǔn)越高;反之，智商進(jìn)化與心商進(jìn)化的會通程度越低，甚至其進(jìn)化各行其道或相互撕裂，情商的進(jìn)化總是處于自我扭曲或被迫扭曲的狀態(tài)，在這種存在狀態(tài)中，生物性的本能沖動往往取代心商而構(gòu)成行為的決策機(jī)制。心商居于人心智世界的至深領(lǐng)域，通過情商而與智商發(fā)生關(guān)聯(lián)并釋放功能。人的智商始終向存在世界敞開，啟動意識和思維應(yīng)對外部世界的不息變化，處理來自外部世界的各種信息，將以為有用的內(nèi)容向情商世界輸送，通過情商的稽查而將有用的信息運(yùn)達(dá)于心商領(lǐng)域予以鑄造;同時，智商面對存在世界謀求解決存在安全和生活保障等根本問題而需要心商的定奪，也要經(jīng)歷情商打開智商與心商的會商通道，心商構(gòu)成智商的最終決策機(jī)制，但又通過情商而賦予智商執(zhí)行的個性和方法。

其次看人工智能無限制開發(fā)人的生物大腦的進(jìn)路及其后果?？陀^地看，人工智能的歷史雖然很短，但發(fā)展已跨越“弱人工智能”（Artificial Narrow Intelligence）階段而快速研發(fā)強(qiáng)人工智能（Artificial General Intelligence）并向超人工智能（Artificial Super Intelligence）方向進(jìn)發(fā)。人工智能研發(fā)的“弱”階段，實(shí)是模擬人的生物大腦的邏輯運(yùn)演規(guī)律階段;人工智能從“弱”起步進(jìn)入“強(qiáng)”的領(lǐng)域，其主攻方向是模擬人的生物大腦的抽象思維原理及破譯其內(nèi)在運(yùn)行密碼。人工智能研發(fā)一旦進(jìn)入探究人的抽象思維原理和破譯的人抽象思維運(yùn)行密碼的領(lǐng)域，也就必然直逼人的情感—心靈領(lǐng)域。目前，人工智能研發(fā)已向人的情商領(lǐng)域邁進(jìn)，并在人工情感方面下功夫，不僅要努力破解人的情感運(yùn)行的機(jī)制和密碼，更企圖破譯人的心靈密碼。從人工智能研發(fā)的進(jìn)程及態(tài)勢觀，其雄心勃勃的不可逆方向就是徹底攻破人成為人的最終防線，即掌握人的心靈機(jī)制并破譯人的心商密碼?？陀^地看，“意識地思維是人區(qū)別動物的根本標(biāo)志，但相對人造物智能機(jī)器言，意識地思維構(gòu)筑起人的第一道防線;人性的情感，則構(gòu)筑起人的第二道防線;內(nèi)聚神性意向的心靈卻構(gòu)筑起人的第三道防線。人工智能研發(fā)從弱人工智能向強(qiáng)人工智能方向鋪開，表明人工智能機(jī)從邏輯思維（概念、判斷、推理）起步獲得了抽象思維（分析、歸納、綜合）能力，突破了人的第一道防線：世界頂尖圍棋大師敗給AlphaGo，不僅表明在圍棋上，人類永遠(yuǎn)戰(zhàn)勝不了AlphaGo，更重要的是，當(dāng)研發(fā)者為智能機(jī)設(shè)計了學(xué)習(xí)程序，它可通過程序性學(xué)習(xí)而迅速具備自主性的深度學(xué)習(xí)能力，這種深度學(xué)習(xí)能力的迅速提升意味著智能機(jī)將走向?qū)θ四X之‘智’的整體性超越而進(jìn)入人的‘情感’領(lǐng)域?！溥M(jìn)軍方向，是進(jìn)入人的情商與心商的領(lǐng)域，探索其情感和心靈的邊界，也即是探索人成為人的情感邊界和人成為神的心靈邊界。人工智能的這一努力，展示了人類自身的根本存在危機(jī)。因?yàn)椋瑥?qiáng)人工智能的研發(fā)如果不遭遇人設(shè)條件阻礙的話，其不可逆方向是必然突破人的最后防線而獲得心靈功能，這時候，生物人類的時代將必然地結(jié)束?！雹?/p>

綜上，將人工智能研發(fā)限定在智商領(lǐng)域，是為了保證人工智能技術(shù)只成為人的服務(wù)工具，人始終在技術(shù)面前保持主體地位。以此觀之，將人工智能研發(fā)設(shè)定在人的智商領(lǐng)域的實(shí)質(zhì)，是確立人工智能的限度開發(fā)法則，在人與智能技術(shù)、人與智能機(jī)器之間劃一條明確的、在任何情況下絕不能突破的“紅線”。這條“紅線”就是人類在人工智能技術(shù)和智能機(jī)器面前的“絕對安全線”，一旦突破這條紅線，人工智能研發(fā)就有可能攻破人的情感防線和心靈防線，破譯人的情商密碼和心商密碼，作為與萬物區(qū)別而享有神性存在光榮的人類，就會不可逆轉(zhuǎn)地淪陷于人工智能機(jī)器的奴役之中，AlphaGo血洗世界圍棋高手造成人間再無圍棋冠軍的結(jié)局，或許構(gòu)成人工智能無限制研發(fā)必然導(dǎo)致人類未來淪陷于機(jī)器奴役的預(yù)告方式。

確立以人的智商為邊界的限度開發(fā)法則，實(shí)是從三個方面規(guī)訓(xùn)人工智能技術(shù)的研發(fā)：第一，人工智能技術(shù)研發(fā)必須將所有智能產(chǎn)品的自主性能力降低到最低限度。這一“最低限度”是指所研發(fā)出來的智能產(chǎn)品只能成為“一般意義的上手工具”，它可具有嚴(yán)格程序設(shè)計的邏輯思維能力，而不應(yīng)該具有抽象思維的能力和任何形式的自主性調(diào)整能力，即不能賦予它“一旦機(jī)器的一部分啟動，那么該機(jī)器就根據(jù)外部環(huán)境進(jìn)行自我反饋運(yùn)行，而具備在一定時間內(nèi)不受外部控制的能力”。② 第二，人工智能研發(fā)必須嚴(yán)格禁止勘探人類存在的邊界，即絕不能賦予智能機(jī)器勘探人類存在的身體邊界、精神邊界和心靈邊界的能力。如果人工智能研發(fā)無視這一人的身心邊界法則，那么所研發(fā)出來的智能產(chǎn)品“將相當(dāng)迅速地取代我們的存在。”①其三，人工智能研發(fā)必須禁止賦予智能產(chǎn)品制定規(guī)則的潛能和使其潛能轉(zhuǎn)換成規(guī)則的能力。因?yàn)閺母局v，人類與人工智能的防線，目前有兩個：一是制定規(guī)則，二是探索邊界。人工智能目前不能制定規(guī)則，是在按照人制定出來的規(guī)則行事，但并不意味著它始終會按照人的規(guī)則行事，因?yàn)槟壳叭蛐愿偁庨_發(fā)人工智能技術(shù)正在不遺余力地攻克人的情感領(lǐng)域和心靈世界，在這種狀況下，人類的盲目樂觀會使其喪失有限度地發(fā)展人工智能的理智，因而，也就從根本上不能保證無限制研發(fā)的人工智能有制定規(guī)則的能力。反之，能保證人工智能不具備制定規(guī)則的能力的唯一的絕對前提，就是人工智能技術(shù)的研發(fā)只能限定在人的智商領(lǐng)域，其基本方法是嚴(yán)格地限制智能產(chǎn)品的自主學(xué)習(xí)能力。

第二個方面：人工智能技術(shù)運(yùn)用逾度帶動的倫理困境。人工智能研發(fā)逾度必然帶動人工智能技術(shù)運(yùn)用的逾度，其逾度造成的倫理困境敞開為兩個維度：一種是可能性維度，即人工智能研發(fā)若不制定共守的限度法則，不設(shè)定共守的研發(fā)邊界，其自由競爭研發(fā)一旦跨越人的智商邊界而破譯人的情感密碼和心靈密碼，必然使其技術(shù)運(yùn)用沒有邊界，最終將造成人工智能奴役人亦沒有限度。一種是現(xiàn)實(shí)性維度，人工智能研發(fā)即或遵從共守的限度法則并設(shè)定共守的邊界——將人工智能技術(shù)限定在模擬人的智商領(lǐng)域——也并不能保證人能在任何時候避免淪為工具的命運(yùn)而成為人工智能技術(shù)的主體。這是因?yàn)槿斯ぶ悄苁遣煌谝郧暗娜魏渭夹g(shù)方式的智能技術(shù)，是智能工具，這一特點(diǎn)使人工智能具有更為廣泛的甚至是沒有限度和邊界的使用范圍。使用者一旦無限度地使用它，它就會發(fā)揮無限度無邊界的功能。當(dāng)有限和有邊界的人工智能技術(shù)和智能工具通過人為而發(fā)揮無限度無邊界的功能時，既可拓展服務(wù)人的范圍，為人的存在和生活提供更多的便利和好處，更可能強(qiáng)制性地限制、扭曲人的存在和生活，使人工智能技術(shù)淪為奴役人的工具。以道德增強(qiáng)為例，現(xiàn)有的人工智能技術(shù)已經(jīng)無意地在某些方面實(shí)現(xiàn)了個體和社會兩個維度的道德增強(qiáng)。入夜偷盜以及在各種公共場所（比如機(jī)場、車站、公交車上、商店等）的行竊，在過去是屢禁難止，但自從有了天網(wǎng)，有了遍布于商店、居住小區(qū)、大街小巷的攝像頭，公共場所的扒手和夜間入室的小偷幾乎絕跡。這種現(xiàn)象表明人工智能技術(shù)的運(yùn)用確實(shí)可以起到增強(qiáng)個人道德和社會道德的作用。又比如，亂吐亂扔是國人幾千年難改的惡習(xí)，如果在現(xiàn)有的天網(wǎng)體系中設(shè)定一個亂吐亂扔的自動懲罰算法機(jī)制，很快就會改變這樣的社會惡習(xí)。同樣，貪污腐敗是一個令人異常頭痛的社會痼疾，如果運(yùn)用現(xiàn)有的人工智能技術(shù)設(shè)計出一套自動化的監(jiān)察系統(tǒng)，難以醫(yī)治的貪腐毒瘤也會得到根治。

對人工智能技術(shù)的正當(dāng)運(yùn)用，可以增強(qiáng)道德，提升社會文明。反之，對人工智能技術(shù)的逾度運(yùn)用，則可能解構(gòu)道德，降低社會文明，并且扭曲人性，破壞平等和公正，消滅隱私，降解人的生存、自由和幸福指數(shù)。比如人臉識別、攝像頭監(jiān)控等技術(shù)若被無邊界地運(yùn)用，可能會造成如上各種狀況的出現(xiàn)，人工智能技術(shù)與人的主體存在之間必然產(chǎn)生倫理上的矛盾和沖突，解決此一倫理上的矛盾和沖突實(shí)是相當(dāng)困難，因?yàn)檫@并不只是一個技術(shù)與倫理的問題，而是關(guān)聯(lián)社會各因素產(chǎn)生聯(lián)動制約效應(yīng)的問題，不僅要求設(shè)計共守的人工智能研發(fā)邊界法則，也要求建立共守的人工智能技術(shù)運(yùn)用邊界法則，以不傷害人共通的人性，在此基礎(chǔ)上確保法權(quán)范圍內(nèi)的個性自由和隱私權(quán)利。當(dāng)然這更需要以之為基本要求的相關(guān)制度的構(gòu)建和法律建設(shè)。從根本講，只有將人工智能技術(shù)的研發(fā)和運(yùn)用作為根本的制度和法律問題納入以權(quán)利為準(zhǔn)則的制度體系和以法權(quán)為準(zhǔn)則的法律體系的建設(shè)之中，探求人工智能研發(fā)和運(yùn)用所面臨的根本倫理困境的解決之道才獲得可能性。

作者單位：四川師范大學(xué)倫理學(xué)研究所

責(zé)任編輯：王曉潔