芻論人工智能倫理問題的內(nèi)涵與性質(zhì)

文/伍敏敏（中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院）

當(dāng)前，人工智能正深深地影響著人類生活的方方面面，其不僅發(fā)揮著積極的正向作用，同時(shí)，也為人類社會(huì)的發(fā)展帶來了不確定性，體現(xiàn)為人工智能不斷模糊著物理世界和個(gè)人的界限，延伸出復(fù)雜的倫理、法律和安全問題。面對(duì)正在開啟的“人工智能紀(jì)元”，我們應(yīng)當(dāng)堅(jiān)持審慎、預(yù)見的眼光來看待，正視由此帶來的倫理問題，深入研究人工智能倫理問題的基礎(chǔ)理論，廓清內(nèi)涵，分析性質(zhì)，以期為解決人工智能倫理問題提供一定的啟示。

1 人工智能倫理的內(nèi)涵

1.1 人工智能

關(guān)于人工智能，目前學(xué)界尚無統(tǒng)一的定義，“下一個(gè)一般性的定義幾乎是不可能的，因?yàn)橹悄芩坪跏且粋€(gè)包含著許多的信息處理和信息表達(dá)技能的混合體”[1]。另外，人工智能的不斷發(fā)展和加速進(jìn)步也使人們很難明確界定其內(nèi)涵。通過對(duì)人工智能的發(fā)展及相關(guān)研究文獻(xiàn)進(jìn)行探索，發(fā)現(xiàn)早期大多學(xué)者以“智能”定義人工智能，后期則大都傾向以“智能體”（agents，智能主體、智能代理等）來定義。

以“智能”定義人工智能，可以在人工智能的起源上找到答案。人工智能的先驅(qū)之一圖靈在提出通用圖靈機(jī)的設(shè)想時(shí)，就希望它能成為“思考的機(jī)器”：一方面，能夠做通常需要智能才能完成的有意義的事情；另一方面，可以模擬以生理為基礎(chǔ)的心智過程[2]。1956年，被稱為人類歷史上第一次智能研討會(huì)在美國(guó)達(dá)特茅斯學(xué)院召開，約翰·麥卡錫、馬文·明斯基、納撒尼爾·羅徹斯特和克勞德·香農(nóng)等會(huì)議發(fā)起人指出，從學(xué)習(xí)與智能可以得到精確描述這一假定出發(fā)，人工智能的研究可以制造出模仿人類的機(jī)器，使其能讀懂語言，創(chuàng)建抽象概念，解決目前人們的各種問題，并自我完善[3]。在此會(huì)議上，約翰·麥卡錫提議用人工智能作為這一交叉學(xué)科的名稱，同時(shí)，也標(biāo)志著人工智能學(xué)科的誕生。因此，有人把約翰·麥卡錫稱為“人工智能之父”。 從此伊始，“人工智能”不絕于耳，滲透進(jìn)了人類社會(huì)的各個(gè)方面，推動(dòng)了人工智能學(xué)科的發(fā)展，同時(shí)也促進(jìn)了學(xué)者關(guān)于人工智能領(lǐng)域的研究。

“智能”的概念分為兩個(gè)部分——“智慧”和“能力”，從感知到記憶再到思維的過程，稱之為“智慧”，智慧的結(jié)果導(dǎo)致了語言和行為的產(chǎn)生，而將語言和行為的表達(dá)過程，稱之為“能力”。廣義地講，人工智能技術(shù)是關(guān)于人造物的智能行為，這種智能行為一般包括知覺、學(xué)習(xí)、推理、交流以及在復(fù)雜環(huán)境中的行為[4]，還包括與智能行為相關(guān)的各種腦力勞動(dòng)，比如記憶、情感、判斷、證明、識(shí)別、設(shè)計(jì)、思考等思維活動(dòng)，可用某種物化了的機(jī)器予以人工地實(shí)現(xiàn)[5]。從學(xué)科的角度而言，美國(guó)斯坦福大學(xué)人工智能研究中心尼爾遜教授認(rèn)為，“人工智能是關(guān)于知識(shí)的學(xué)科——怎樣表示知識(shí)以及怎樣獲得知識(shí)并使用知識(shí)的科學(xué)”[6]，麻省理工學(xué)院的溫斯頓教授則認(rèn)為，“人工智能就是研究如何使計(jì)算機(jī)去做過去只有人才能做的智能工作”[7]。一般認(rèn)為，人工智能是在計(jì)算機(jī)科學(xué)、控制論、信息學(xué)、神經(jīng)心理學(xué)、哲學(xué)、語言學(xué)等多種學(xué)科研究的基礎(chǔ)上發(fā)展起來的一門綜合性的邊緣學(xué)科[8]，其本質(zhì)是計(jì)算，因?yàn)闊o論其研究方法還是成果形態(tài)都離不開計(jì)算[9]。從工程的角度來說，人工智能技術(shù)就是通過用人工的方法使機(jī)器具有與人類智慧有關(guān)的功能，它是人類智慧在機(jī)器上的實(shí)現(xiàn)[10]。

以“智能體”定義人工智能，可以追溯到羅素和諾維格發(fā)表的《人工智能——一種現(xiàn)代方法（第一版）》文章中，他們認(rèn)為，人工智能是對(duì)能夠從環(huán)境中獲取感知并執(zhí)行行動(dòng)的智能體的描述和構(gòu)建，每個(gè)這樣的智能體都實(shí)現(xiàn)了把一個(gè)感知序列映射到行動(dòng)的函數(shù)[11]。文中還對(duì)人工智能分為四大類：一是像人一樣行動(dòng)的系統(tǒng)（圖靈測(cè)試方法），二是像人一樣思考的系統(tǒng)（認(rèn)知模型方法），三是理性地思考的系統(tǒng)（思維法則方法），四是理性地行動(dòng)的系統(tǒng)（理性智能體方法）。如果將人工智能研究視為理性智能體的設(shè)計(jì)過程，則更具概括性并更經(jīng)得起科學(xué)檢驗(yàn)。在內(nèi)涵上，智能體一詞源于拉丁文agere，意為“去做”，在日常生活中有施動(dòng)者或能動(dòng)者的意思；基于人工智能的智能體則可以在工程層面“正確地行動(dòng)”或“理性地行動(dòng)”，是遵循合理性的理性智能體?；谌斯ぶ悄艿睦硇灾悄荏w的設(shè)計(jì)目標(biāo)是使機(jī)器通過自身的行動(dòng)獲得最佳結(jié)果，或者在不確定的情況下，尋求最佳的期望值[11]。其中的合理性與理性主要指技術(shù)與工程上的合理性或理性，即一個(gè)系統(tǒng)或智能體能在其所知的范圍內(nèi)正確行事。而且，這種合理性或理性往往是有限的而非完美的，并可以通過人工實(shí)現(xiàn)，亦即西蒙在《人工科學(xué)》中所探討的有限理性?；谌斯ぶ悄艿闹悄荏w或理性智能體是理解人工智能的核心概念，亦應(yīng)是人工智能時(shí)代的價(jià)值審度與倫理調(diào)適的關(guān)鍵[12]。

綜上所述，本文認(rèn)為，雖然人工智能目前尚未形成一個(gè)統(tǒng)一的、公認(rèn)的定義，但依然達(dá)成了以下共識(shí)：其一，在人工智能大發(fā)展前的漫長(zhǎng)歲月中，人工智能首先被定義為計(jì)算機(jī)科學(xué)的一個(gè)分支， 或者以計(jì)算機(jī)科學(xué)為主的交叉邊緣學(xué)科，這些概念解釋更加強(qiáng)調(diào)它的學(xué)科屬性；其二，定義均強(qiáng)調(diào)其具有利用計(jì)算機(jī)研究和模擬人類智力活動(dòng)規(guī)律的性質(zhì)[13]。據(jù)此，可以給人工智能一個(gè)通俗的解釋，即人工智能是讓計(jì)算機(jī)系統(tǒng)具備類似于人類具有的推理能力、自主學(xué)習(xí)能力、自主解決問題的能力，是研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué)。

1.2 人工智能倫理

對(duì)人工智能倫理內(nèi)涵的界定，除了對(duì)人工智能內(nèi)涵的廓清外，還需對(duì)倫理進(jìn)行深入研究，以便更好地了解和掌握人工智能倫理的概念和意旨。

“倫理”具有多層意思，通常指事物的條理，或指人倫道德之理。一方面反映客觀事物的本來之理；另一方面也寄托了人們對(duì)同類事物應(yīng)該具有的共同本質(zhì)的理想，這種理想付諸于人類社會(huì)的生產(chǎn)和生活實(shí)踐之中，產(chǎn)生出調(diào)節(jié)人類行為的行為規(guī)范。倫理學(xué)作為古老的學(xué)科存在，具有中方和西方倫理學(xué)之分。傳統(tǒng)的西方倫理學(xué)可區(qū)分為理性主義、經(jīng)驗(yàn)主義和宗教倫理學(xué)等三大理論系統(tǒng)，各個(gè)系統(tǒng)遵循不同的道德原則。19世紀(jì)后期，西方倫理學(xué)由古典倫理學(xué)向現(xiàn)代倫理學(xué)轉(zhuǎn)變[14]?！爸袊?guó)倫理學(xué)”是一文化特殊性概念。它立足中華民族的生活世界，以中華民族的運(yùn)思與認(rèn)知方式，用中華民族的語言概念，圍繞普遍問題，揭示普遍之理[15]。中國(guó)倫理學(xué)同樣經(jīng)歷了一個(gè)從古至今的蛻變過程，形式上與西方倫理學(xué)具有一定的差別。古代的中國(guó)倫理學(xué)可以劃分為先秦創(chuàng)始時(shí)代、漢唐繼承時(shí)代和宋明理學(xué)時(shí)代等三個(gè)歷史階段，具有儒學(xué)倫理學(xué)、佛學(xué)倫理思想、道家倫理思想等三大學(xué)派之分。當(dāng)前，在我國(guó)發(fā)展著的中國(guó)倫理學(xué)一個(gè)基于中國(guó)特色、問題導(dǎo)向和中國(guó)經(jīng)驗(yàn)的新的倫理學(xué)范式，它有別于傳統(tǒng)的馬克思主義倫理學(xué)，也不是中國(guó)傳統(tǒng)倫理學(xué)的當(dāng)代延續(xù)，更不是西方倫理學(xué)的中國(guó)化，而是立足于我國(guó)社會(huì)主義探索與實(shí)踐、與民族文化高度融合的產(chǎn)物[16]。中國(guó)倫理學(xué)植根于中國(guó)道德土壤，倡導(dǎo)人際與社會(huì)的和諧共生，兼顧個(gè)人主體性與社會(huì)實(shí)在性；是立足于當(dāng)代中國(guó)實(shí)踐，結(jié)合自身的社會(huì)、文化特點(diǎn)，進(jìn)行一系列的道德實(shí)踐，形成的豐富經(jīng)驗(yàn)總結(jié)；是著眼于中國(guó)重大問題，對(duì)接中國(guó)重大需求、解決中國(guó)重大問題的內(nèi)在驅(qū)動(dòng)力。

倫理學(xué)發(fā)展至今，一直被認(rèn)為是人類的專屬，亦即只有“智人種”的人才符合“道德行為體”的適格主體。然而，隨著科學(xué)技術(shù)的不斷發(fā)展，機(jī)器人技術(shù)研發(fā)得到了飛速提升，具有自治型的人工智能體在人類的日常生活中隨處可見。由此，基于計(jì)算科學(xué)發(fā)展起來的人工智能對(duì)哲學(xué)領(lǐng)域尤其是倫理道德領(lǐng)域產(chǎn)生了革命性的影響，使人類不得不對(duì)現(xiàn)今的認(rèn)知科學(xué)以及人工智能進(jìn)行不斷地解構(gòu)和建構(gòu)。當(dāng)前流行的“智能與精神要素不必囿于人類和其他自然物種”的新思想，正是人工智能對(duì)倫理道德進(jìn)行重塑的真實(shí)寫照。19世紀(jì)初，英國(guó)哲學(xué)家杰里米·邊沁（Jeremy Bentham）認(rèn)為，“當(dāng)人類把語言能力和感受性的標(biāo)準(zhǔn)覆蓋到一切物時(shí)，偉大的時(shí)代就要來臨了……”[17]，預(yù)言人工智能的發(fā)展將對(duì)倫理學(xué)產(chǎn)生的重大影響。

研究人工智能倫理內(nèi)涵，不得不先研究機(jī)器人倫理。因?yàn)椋环矫嫒斯ぶ悄軅惱韺＜以谠缙诖蠖际窍葟难芯繖C(jī)器人倫理開始的；另一方面，機(jī)器人內(nèi)在地包含于人工智能，人工智能屬于大的范疇，研究好機(jī)器人倫理將為人工智能倫理研究起到奠基的作用。2002年，機(jī)器人專家Gianmarco Veruggio認(rèn)為，“機(jī)器人倫理學(xué)是一門應(yīng)用倫理學(xué)，其目標(biāo)是發(fā)展可被不同的社會(huì)團(tuán)體和信仰共享的科學(xué)、技術(shù)、文化的工具，這些工具能夠促進(jìn)和鼓勵(lì)機(jī)器人學(xué)的發(fā)展，使機(jī)器有利于人類社會(huì)和個(gè)人，并且防止機(jī)器人的誤用對(duì)人類造成傷害”。當(dāng)前學(xué)術(shù)界對(duì)機(jī)器人倫理尚未形成統(tǒng)一的概念界定，但普遍認(rèn)為應(yīng)當(dāng)包括三個(gè)方面：一是指該機(jī)器人的研發(fā)者和制造者本身的倫理，即機(jī)器人專家本身所具有的職業(yè)道德；二是指機(jī)器人本身所具有的道德編程代碼，這些編碼決定了機(jī)器人的行為是否超越了道德行為準(zhǔn)則本身；三是指機(jī)器人通過學(xué)習(xí)推理從而形成自身的一套倫理規(guī)范，這種行為具有自發(fā)性和自我選擇性。亞倫·斯洛曼( Aaron Sloman) 認(rèn)為，“未來機(jī)器人能夠思考和具有感知力”，號(hào)召人們關(guān)注機(jī)器（人）的倫理地位問題，并把機(jī)器人納入道德行為體的考察范疇內(nèi)。他在倫理學(xué)框架內(nèi)討論了感知性的倫理意義，認(rèn)為感知性是判斷一個(gè)道德行為體的重要依據(jù)[18]。據(jù)此，我們認(rèn)為人工智能倫理不僅包括機(jī)器人倫理的三個(gè)方面，而且更具抽象性、深層性，是包括所有具有自治型智能機(jī)器的倫理道德問題，其所研究主體最為關(guān)鍵的在于，該人工智能體具有感知能力和自覺道德推理能力。

2 人工智能倫理問題的性質(zhì)

“問題”通常有兩種含義，一是對(duì)某種現(xiàn)存社會(huì)現(xiàn)象的描述，諸如“分配問題”“國(guó)際”“社會(huì)發(fā)展問題”等；二是特指在社會(huì)發(fā)展過程中，存在與社會(huì)發(fā)展趨勢(shì)相背離的負(fù)面效應(yīng)，諸如“環(huán)境問題”“恐怖主義問題”“糧食安全問題”等。人工智能倫理問題不是對(duì)人工智能與倫理關(guān)系的社會(huì)現(xiàn)象描述，而是特指在人工智能發(fā)展過程中所產(chǎn)生的對(duì)人類社會(huì)倫理道德的負(fù)向影響，是有違現(xiàn)行人類社會(huì)倫理道德標(biāo)準(zhǔn)原則的問題。

首先，人工智能倫理問題是人工智能活動(dòng)、發(fā)展過程中產(chǎn)生的倫理道德問題。人工智能活動(dòng)、發(fā)展過程是一種特定的過程與結(jié)果的結(jié)合，是計(jì)算機(jī)學(xué)科下特定的計(jì)算法則、代碼等知識(shí)體系與人工智能體作為倫理道德主體行動(dòng)過程的有機(jī)統(tǒng)一，既受人類社會(huì)文化價(jià)值觀的作用，又會(huì)對(duì)人類社會(huì)文化價(jià)值觀產(chǎn)生反作用的特殊活動(dòng)形式。人工智能活動(dòng)及其發(fā)展過程不僅包括科學(xué)技術(shù)的應(yīng)用與實(shí)踐，還事關(guān)人類的生存方式與倫理秩序，將會(huì)極大影響人類的責(zé)任、人道、和諧、正義等倫理價(jià)值追求。因此，人工智能倫理問題，既包括人類在研發(fā)人工智能技術(shù)活動(dòng)過程中所產(chǎn)生的倫理問題，諸如研發(fā)人員的道德責(zé)任、計(jì)算代碼的倫理制約等；還包括人工智能技術(shù)衍生出來的人工智能體是否與人類具有同樣的“智人種”的倫理主體存在，兩類不同“體”共存于一個(gè)世界里而產(chǎn)生的倫理問題。前者是人工智能活動(dòng)過程造成的倫理問題，后者則是人工智能發(fā)展結(jié)果所產(chǎn)生的倫理問題，二者在不同層面上存在著不一樣的倫理負(fù)載。

其次，人工智能倫理問題特指與人類社會(huì)倫理發(fā)展相沖突的問題。隨著科學(xué)技術(shù)的不斷進(jìn)步，人類對(duì)于改造自身存在條件的愿望愈發(fā)強(qiáng)烈，人工智能技術(shù)的發(fā)展以及人工智能體的出現(xiàn)不僅是人類探索自然實(shí)踐活動(dòng)的應(yīng)然，也是客觀世界發(fā)展的實(shí)然。作為應(yīng)然與實(shí)然統(tǒng)一體的人，突破了原有的架構(gòu)體系，形成了人與人工智能體相結(jié)合的“人”，一方面促進(jìn)了人類社會(huì)倫理的進(jìn)步，另一方面也與當(dāng)下人類社會(huì)倫理的發(fā)展形成相沖突的局面。人工智能技術(shù)活動(dòng)及其派生出來的人工智能體不是脫離人類社會(huì)的純粹活動(dòng)與實(shí)踐，而是存在于人類社會(huì)生活中并對(duì)人類社會(huì)生活產(chǎn)生影響的活動(dòng)與實(shí)踐。人類在從事人工智能技術(shù)活動(dòng)行為時(shí)，同其他科學(xué)技術(shù)活動(dòng)行為一樣，是一種關(guān)涉“責(zé)任”的行為。在談及人類同人工智能體的關(guān)系時(shí)，則區(qū)分為“主體說”和“客體說”兩種理論認(rèn)識(shí)。持“主體說”的學(xué)者把人工智能體當(dāng)作是同人類一樣具有社會(huì)倫理主體地位，目的在于彌補(bǔ)人類的不足與缺失；持“客體說”的學(xué)者則把人工智能體看成是人類探索自然的技術(shù)手段，目的在于更好地服務(wù)人類。然而，無論是“責(zé)任”行為，還是“主客體”不同理論分說，都必將對(duì)人類社會(huì)倫理的構(gòu)建產(chǎn)生莫大的影響，進(jìn)而使人工智能發(fā)展違背其本質(zhì)，產(chǎn)生難以避免的倫理問題。

3 結(jié)語

人工智能倫理問題是人工智能技術(shù)負(fù)向效應(yīng)的一個(gè)方面。當(dāng)前，越來越多的人把下一次生產(chǎn)力飛躍的突破口寄希望于人工智能。究其原因，主要在于人工智能不僅可極大提高生產(chǎn)力，節(jié)省人力資源成本，而且還可提高能源利用率，節(jié)省自然資源成本，促進(jìn)社會(huì)的不斷進(jìn)步，實(shí)現(xiàn)人類的進(jìn)一步解放。然而，事事均有利弊，更何況科學(xué)技術(shù)本身就是把“雙刃劍”，我們?cè)诳吹饺斯ぶ悄芙o人類帶來的極大便利之外，還要認(rèn)真探究其產(chǎn)生的諸多問題，以便更好地規(guī)避問題，推動(dòng)人類社會(huì)發(fā)展。具體而言，人工智能可能引發(fā)的問題有如：軍事戰(zhàn)爭(zhēng)頻發(fā)且無法控制、失業(yè)率劇增且無法避免、人才爭(zhēng)奪白熱化并趨于壟斷、人類精神文化生活退化、貧富分化加劇、社會(huì)動(dòng)蕩不安等，其中很重要的一個(gè)方面就是人工智能所產(chǎn)生的倫理問題，而這一問題是人類社會(huì)發(fā)展無法回避，且必須給予足夠重視，搶抓時(shí)間重構(gòu)社會(huì)倫理體系的重大問題。