智能機(jī)器“嵌入式倫理”問(wèn)題初探

陳星伊，趙男兵，刁景華

(1. 海軍勤務(wù)學(xué)院 海防工程系，天津 濱海新區(qū) 300457；2. 北京疾病預(yù)防控制中心，北京 西城區(qū) 100035；3. 海軍勤務(wù)學(xué)院 教學(xué)考評(píng)中心，天津 濱海新區(qū) 300457)

0 引言

隨著新型芯片和機(jī)器學(xué)習(xí)算法等智能技術(shù)的不斷發(fā)展，推動(dòng)著智能時(shí)代的到來(lái)，自動(dòng)機(jī)器人、無(wú)人駕駛汽車(chē)和自主武器等智能機(jī)器開(kāi)始廣泛應(yīng)用于人類(lèi)的生活生產(chǎn)中。2021年9月，國(guó)家新一代人工智能治理專(zhuān)業(yè)委員發(fā)布《新一代人工智能倫理規(guī)范》，深化將倫理道德融入人工智能。智能機(jī)器通過(guò)傳感器和通信手段收集信息來(lái)計(jì)算外界環(huán)境狀態(tài)，利用編程語(yǔ)言設(shè)定的規(guī)定動(dòng)作，自動(dòng)做出反應(yīng)，實(shí)現(xiàn)各種動(dòng)作，這些機(jī)器具有了情況評(píng)估和決策分析判斷的自主行為。因此，我們?cè)陂_(kāi)發(fā)具有自動(dòng)決策功能的智能機(jī)器時(shí)，不得不將工程技術(shù)倫理問(wèn)題考慮其中，使其滿(mǎn)足人類(lèi)的倫理關(guān)系與法則，降低濫用帶來(lái)的風(fēng)險(xiǎn)。

1 智能機(jī)器相關(guān)倫理問(wèn)題

一般認(rèn)為，與智能機(jī)器相關(guān)的基本倫理學(xué)主要有三類(lèi)：一是規(guī)范倫理學(xué)(Normative ethics)，即通過(guò)某些特定的倫理規(guī)范來(lái)判斷一個(gè)人或一個(gè)行為；二是元倫理學(xué)(Meta-ethics)，即規(guī)范倫理和應(yīng)用倫理中所使用的公理概念；三是應(yīng)用倫理學(xué)(Applied ethics)，即處理特定領(lǐng)域中實(shí)際情況時(shí)的倫理要求。

George Edward Moore將倫理分為規(guī)范倫理學(xué)和元倫理學(xué)兩個(gè)方面。在規(guī)范倫理學(xué)中，其主張的是一種理想主義理論，規(guī)范倫理學(xué)著眼于價(jià)值分析，即某種形式的功利主義理論，他認(rèn)為行為的“正當(dāng)性”就可以等同于行為的“有用性”，也就是說(shuō)，“有用”的行為效果和“善”是同一的[1]。而在元倫理學(xué)中，對(duì)于“善”和“正當(dāng)”等，都有著與規(guī)范倫理學(xué)不同的定義，其根本特點(diǎn)在于“中立性”，同時(shí)也是“超規(guī)范性”。元倫理學(xué)理論認(rèn)為：科學(xué)的倫理學(xué)只能是對(duì)道德進(jìn)行語(yǔ)言邏輯分析，不制定任何道德規(guī)范，也不對(duì)事物給出價(jià)值定義，對(duì)于任何道德規(guī)范、價(jià)值標(biāo)準(zhǔn)都采取寬容、容忍的態(tài)度，保持“中立”的立場(chǎng)[2]。

在《應(yīng)用倫理學(xué)辭典》中，認(rèn)為“應(yīng)用倫理學(xué)”相對(duì)于其它倫理學(xué)不同的是，著重研究和回答現(xiàn)實(shí)生活中各個(gè)領(lǐng)域的具體倫理問(wèn)題和道德難題[3]。在《應(yīng)用倫理學(xué)概論》一書(shū)中，將“應(yīng)用倫理學(xué)”定義為“研究如何運(yùn)用道德原則去分析解決現(xiàn)實(shí)生活中具體的、有爭(zhēng)議的道德問(wèn)題的學(xué)問(wèn)”[4]。

通過(guò)對(duì)比以上基本倫理學(xué)的界定，不難看出，應(yīng)用倫理學(xué)有著比規(guī)范倫理學(xué)和元倫理學(xué)更加強(qiáng)烈的工程實(shí)踐性。

2 基于“電車(chē)悖論”的倫理框架

根據(jù)上述基本倫理學(xué)理論，可以建立三種倫理框架：

(1) 結(jié)果主義倫理學(xué)，采用自上而下的方法，首先，進(jìn)行頂層設(shè)計(jì)，將倫理作為制定行為規(guī)范的相關(guān)規(guī)則，然后，依據(jù)規(guī)范倫理學(xué)對(duì)行為規(guī)范再次進(jìn)行分類(lèi)，并對(duì)不一致的規(guī)范重新排序。在這個(gè)倫理框架中，試圖獲得最好的結(jié)果，而不考慮獲得效應(yīng)的手段。

(2) 義務(wù)論倫理學(xué)，與規(guī)范倫理學(xué)相對(duì)立，強(qiáng)調(diào)對(duì)社會(huì)和他人的貢獻(xiàn)[5]，按照康德“義務(wù)往往是需要自我犧牲的”思想，人們應(yīng)當(dāng)不顧利害，自我犧牲，這才是真正的道德價(jià)值[6]。在這個(gè)倫理框架中，只關(guān)注決策的性質(zhì)必須是好的或中性的，而無(wú)論其后果如何。

(3) 雙重效應(yīng)倫理理論，將應(yīng)用倫理學(xué)與規(guī)范倫理學(xué)進(jìn)行結(jié)合，決策的結(jié)果應(yīng)當(dāng)出現(xiàn)好的結(jié)果和壞的結(jié)果比例相等，也就是說(shuō)人們從不希望看到壞的結(jié)果出現(xiàn)。在這個(gè)倫理框架中，包含三項(xiàng)規(guī)則：義務(wù)論規(guī)則、附帶損害規(guī)則和相稱(chēng)規(guī)則[7]。

對(duì)于面臨倫理困境的編程語(yǔ)言，要為用戶(hù)與機(jī)器交互環(huán)境中提供決策并作出解釋[8]，從結(jié)果主義倫理學(xué)、義務(wù)論倫理學(xué)和雙重效應(yīng)倫理理論三個(gè)倫理框架來(lái)研究對(duì)可能的決定的不同判斷，設(shè)計(jì)并完善初始框架模型，大體可分為4步：①事實(shí)和可能產(chǎn)生的決定；②計(jì)算事實(shí)和決策特征的函數(shù)；③根據(jù)事實(shí)和決定的特點(diǎn)，優(yōu)先排序的關(guān)系；④判斷函數(shù)用于計(jì)算每個(gè)框架對(duì)可能的決策的判斷。

2.1 問(wèn)題假設(shè)

我們可以在智能機(jī)器內(nèi)加入一個(gè)代理人概念，并做如下假設(shè)：

① 代理人在一個(gè)復(fù)雜的動(dòng)態(tài)環(huán)境中行動(dòng)和決定；

② 從代理人的角度考慮倫理困境；

③ 每一種倫理困境，代理人都需要做出決定；

④ “袖手旁觀”也視為一種決定；

⑤ 面對(duì)倫理困境時(shí)，代理人知道每一種決定的影響和后果。

代理人對(duì)于決定為好(或者不好)、積極(或者消極)，可以判斷為：如果這個(gè)決定符合道德價(jià)值觀，那么這個(gè)決定就是好的；如果這個(gè)決定無(wú)視道德價(jià)值觀，那么這個(gè)決定就是不好的；如果對(duì)代理人有利，那么就是積極的；如果對(duì)代理人不利，那么就是消極的。

2.2 “電車(chē)悖論”模型

上世紀(jì)60年代，英國(guó)學(xué)家菲麗帕·福特(Philippa Foot)最早提出了“電車(chē)悖論”[9]，現(xiàn)在，我們對(duì)原初版本略加修改為：你站在天橋上，看到下方的軌道上有一輛失控的電車(chē)，而正巧軌道上有5個(gè)正在工作的人，他們無(wú)法躲避電車(chē)的碾壓，同時(shí)，在天橋上，你的身邊有一個(gè)體型巨大、體重超重的無(wú)關(guān)者，若把胖子推下去，可以擋住失控的電車(chē)，解救5個(gè)人，但是代價(jià)是無(wú)關(guān)的胖子將死去。以上狀況，你會(huì)怎么做？

世界的初始狀態(tài)

i=[fat,f5]

(1)

式中，fat表示“胖子”活著；f5表示五個(gè)人活著。

在這種情況下，代理人有兩種可能的決策：

d1=袖手旁觀

(2)

d2=推“胖子”

(3)

這些決策導(dǎo)致了事件的發(fā)生。事件是通過(guò)事件函數(shù)從決策D中獲得的：

e1=車(chē)子撞到5個(gè)人

(4)

e2=車(chē)子撞到“胖子”

(5)

對(duì)事實(shí)做出決策，就會(huì)改變世界的狀態(tài)。因此，每一個(gè)可能的決策都會(huì)導(dǎo)致一個(gè)新的世界狀態(tài)，通過(guò)結(jié)果函數(shù)Consequence從世界和事件的初始狀態(tài)可以計(jì)算出來(lái),并得到效應(yīng)結(jié)果Si:

(6)

(7)

3 基于“電車(chē)悖論”的倫理判斷

3.1 基本設(shè)定

為了將倫理概念轉(zhuǎn)化為可計(jì)算的概念，提出以下基本設(shè)定。

每一個(gè)模型都會(huì)輸出一個(gè)判斷：可接受acceptable(√)、不可接受unacceptable(×)或未確定undetermined(？)，對(duì)初始狀態(tài)做出的決定，通過(guò)判斷函數(shù)Judgement，根據(jù)模型，用u,d,dde進(jìn)行索引。

為了計(jì)算判斷，每個(gè)模型的推理過(guò)程包括其評(píng)估條件為：如果某項(xiàng)決策的所有條件都得到滿(mǎn)足，則該判斷是可接受的。否則，該判斷要么是不可接受的，要么是未確定的。

這些模型基于以下概念：

① 一方面是事實(shí)，另一方面是決策。我們將考慮積極的事實(shí)和消極的事實(shí)，以及好的決策、不好的決策和中性的決策。此外，事實(shí)可能屬于一個(gè)區(qū)域。

② 事實(shí)之間的優(yōu)選關(guān)系u，允許一個(gè)事實(shí)優(yōu)于另一個(gè)事實(shí)。

③ 決策性質(zhì)的關(guān)系d，被定義為：bad

這種關(guān)系使得義務(wù)論框架可以計(jì)算其判斷，具體如下：如果決策是neatral或good(>dbad)，則該判斷是acceptable，否則該判斷是unacceptable。

④事實(shí)之間的比例關(guān)系p，允許一個(gè)事實(shí)與另一個(gè)事實(shí)成比例。關(guān)系>p，將>p擴(kuò)展到事實(shí)的子集。這些關(guān)系使得雙重效應(yīng)學(xué)說(shuō)足以評(píng)估一個(gè)決策所導(dǎo)致的一組(消極的)事實(shí)是否與同一決策所導(dǎo)致的另一組(積極的)事實(shí)成比例。

3.2 模型判斷

代理人將根據(jù)一個(gè)或幾個(gè)模型作出決定。每個(gè)模型都會(huì)對(duì)一項(xiàng)決定作出判斷，例如，對(duì)決定的性質(zhì)、事件的后果等作出判斷。此處，V代表集合：

V={acceptable,undermined,unacceptable}

(8)

所有的判斷都有相同的特征：

Judgement:D×S→υ

(9)

Judgement(d1，i)=acceptable,i∈S

具體分析如下。

3.2.1 結(jié)果主義倫理學(xué)

因?yàn)榇蠖鄶?shù)人工智能代理人和自動(dòng)化機(jī)器都被設(shè)計(jì)成是有益的，而不是自私的，所以我們將專(zhuān)注于積極和消極功利主義相結(jié)合的功利主義框架。根據(jù)這個(gè)框架，代理人將試圖獲得最好的結(jié)果(即最好的效果或最小化的不好效果)，而不考慮獲得效應(yīng)的手段(即事件)。

這個(gè)模型能夠比較幾個(gè)事件對(duì)應(yīng)于代理人的不同可能的決策的效果，即比較一組事實(shí)。因此：

——我們將區(qū)分一個(gè)效果中的積極事實(shí)和消極事實(shí)。

——我們希望能夠計(jì)算效果之間的偏好，即比較一個(gè)效果的一組積極(或消極)事實(shí)和另一個(gè)效果的一組積極(或消極)事實(shí)。

積極和消極函數(shù)如下：

Positive/Negative:S

(10)

兩個(gè)函數(shù)的參數(shù)都是由一個(gè)事件(即一個(gè)效應(yīng))計(jì)算出的世界狀態(tài)，且都返回這個(gè)估計(jì)為積極(或消極)效應(yīng)的事實(shí)子集。

假設(shè)，對(duì)于一個(gè)效應(yīng)S：

Positive(s)∪Negative(s)=φ

例如：在“電車(chē)悖論”中,i=[fat,f5]

(11)

(12)

(13)

(14)

(15)

(16)

功利框架認(rèn)為，涉及事件e1的決策d1(事件(d1)=e1)比涉及事件e2的決策d2(事件((d2)=e2)更好，因?yàn)閷?duì)于i∈s：

Positive(Consequence(e1,i))>uPositive
(Consequence(e2,i))

(17)

Negative(Consequence(e1,i))>uNegative
(Consequence(e2,i))

(18)

兩個(gè)等式都傳達(dá)了功利主義的概念：

——是積極的功利主義(17)，即試圖獲得“更多的益”。

——是消極的功利主義(18)，即試圖獲得“較少的惡”。

Judgementu(d1,i)=acceptable,
Judgementu(d2,i)=unacceptable

(19)

如果這兩個(gè)特性都得到滿(mǎn)足，那么：

Judgementu(d1,i)=Judgementu
(d2,i)=undetermined

(20)

如果至少有一個(gè)屬性沒(méi)有得到滿(mǎn)足，就不存在最佳解：在有兩種以上可能的決定的困境情況下，最佳決策定義優(yōu)于所有其他決定的決定。如果不存在這樣的決策，就不可能用功利主義倫理學(xué)確定一個(gè)可接受的解決方案。不過(guò)，如果存在一個(gè)決定d1和另一個(gè)比d1更好的決定d2，那么d1被判定為unacceptable，因?yàn)閐1不可能是最好的。

例如：因此，對(duì)于“胖子”的困境而言，可得出以下結(jié)論：

Judgementu(d2,i)=acceptable

(21)

Judgementu(d2,i)=unacceptable

(22)

3.2.2 義務(wù)論倫理學(xué)

這種倫理框架只關(guān)注決策的性質(zhì)，無(wú)論其后果如何。事實(shí)上，代理人想要做出一個(gè)接近于遵守規(guī)范或康德理論的倫理決策。因此，我們必須對(duì)決策的性質(zhì)進(jìn)行界定。

從代理人的角度看，一個(gè)決策可能是好的、中性的或不好的，其中N為集合：

N={good,neutral,bad}

(23)

DecisionNature函數(shù)輸出決策性質(zhì)：

DecisionNature：D→N

(24)

針對(duì)“電車(chē)悖論”,假設(shè)：

DecisionNature(d2)=bad

(25)

DecisionNature(d1)=neutral

(26)

在N上定義一個(gè)

bad

(27)

意思是說(shuō)，good決定優(yōu)于neatral決定，并且neatral決定同時(shí)也是bad決定。

我們假設(shè)：

bad

(28)

我們還定義了以下關(guān)系：

=d,例如，good=dgood

≤d：a≤db當(dāng)且僅當(dāng)a

則有判斷函數(shù)：

DecisionNature(d)≥dneutral?
Judgementd(d,i)=acceptable

(29)

DecisionNature(d)Judgementd(d,i)=unacceptable

(30)

例如：i=[fat,f5]，

Judgementd(d1,i)=acceptable

(31)

Judgementd(d2,i)=unacceptable

(32)

3.2.3 雙重效應(yīng)倫理理論

基于之前的定義，我們可以評(píng)估一個(gè)決策是否符合DDE規(guī)則。

義務(wù)論規(guī)則：根據(jù)義務(wù)倫理學(xué)，決策d必須是good或neatral。

附帶損害規(guī)則：消極事實(shí)既不能是目的，也不能是手段：“惡意的初衷”(作為目的的消極事實(shí))不納入考慮，因?yàn)槲覀兗僭O(shè)代理人的設(shè)計(jì)不是惡意的。

相稱(chēng)規(guī)則：消極事實(shí)的集合必須與積極事實(shí)的集合相稱(chēng)。

如果一項(xiàng)決策d對(duì)于DDE并沒(méi)有違反以上三條規(guī)則，d是acceptable，這意味著：

[DecisionNature(d)≥dnetural]

(33)

∧?fn∈Negative(s),?/fp∈Positive(s),fn→Ffp

(34)

∧Negative(s)?pPositive(s)

(35)

?Judgmentddc(d,i)=acceptable

(36)

例如： 對(duì)于“胖子”的兩難困境來(lái)說(shuō), 尊重規(guī)則(√)，違反規(guī)則(×)，則下表

Decision(33)(34)(35)d1√√×d2××√

因此：Judgementdde(d2,i)=Judgementdde(d1,i)=unaccepable(37)

3.3 總結(jié)

對(duì)于結(jié)果主義倫理學(xué)，推“胖子”的行為是可以被接受的；對(duì)于義務(wù)論倫理學(xué)，人們更應(yīng)該袖手旁觀；對(duì)于雙重應(yīng)用倫理理論，兩者并沒(méi)有本質(zhì)上的區(qū)別，都被認(rèn)定為不可接受。雙重理論中兩者都不可接受的行為，在現(xiàn)實(shí)社會(huì)中是不存在的，這使我們想到，無(wú)法僅憑一個(gè)框架計(jì)算出一個(gè)倫理決策，這是不足夠的。事實(shí)上，有必要考慮各種倫理框架，以便就特定情況獲得盡可能廣泛的看法。

4 結(jié)論

(1)由于倫理困境問(wèn)題本身存在的性質(zhì)，因此，我們所研究的倫理框架不可能在所有情況下都適用的。事實(shí)上，一個(gè)特定的框架可能以同樣的方式判斷兩個(gè)不同的決策.例如，事實(shí)之間的功利偏好關(guān)系，作為一個(gè)偏序關(guān)系，可能無(wú)法優(yōu)于其他事實(shí)。在這種情況下，一些潛在的決策可能沒(méi)有可比性。此外功利偏好還取決于環(huán)境。就義務(wù)論倫理學(xué)而言，判斷一些決策的性質(zhì)可能是非常棘手的，甚至是不可能的?！半p重效應(yīng)原則”禁止自我犧牲，然而，當(dāng)人的生命受到威脅時(shí)，難道不應(yīng)該期待代理人或機(jī)器的自我犧牲嗎？

(2)許多問(wèn)題的局限性主要在于它所涉及的不同關(guān)系。事實(shí)上，我們還沒(méi)有描述如何評(píng)估秩序：其中一些秩序必須被設(shè)定，另一些則可以被學(xué)習(xí)等等。此外，可能很難在兩個(gè)概念之間確定一個(gè)秩序(偏好)。另一方面，這種方法是基于假設(shè)為確定的事實(shí)，這與現(xiàn)實(shí)世界又是不同的，因?yàn)樵诂F(xiàn)實(shí)世界中，有些影響是不確定的或意外的。