機(jī)器模仿倫理性決策的風(fēng)險(xiǎn)與應(yīng)對(duì)進(jìn)路分析

王楠

摘 要：文章以無(wú)人駕駛技術(shù)為例，提出機(jī)器模仿倫理性決策時(shí)的三個(gè)層次的風(fēng)險(xiǎn)，第一個(gè)層次為人-機(jī)關(guān)系風(fēng)險(xiǎn)，第二個(gè)層次為人-機(jī)-第三方關(guān)系風(fēng)險(xiǎn)，第三個(gè)層次為人-機(jī)-社會(huì)價(jià)值體系風(fēng)險(xiǎn)，同時(shí)對(duì)風(fēng)險(xiǎn)應(yīng)對(duì)的進(jìn)路進(jìn)行梳理，從研發(fā)與研發(fā)管制、法律制度、國(guó)際協(xié)調(diào)機(jī)制三個(gè)方面進(jìn)行說(shuō)明。

關(guān)鍵詞：倫理與道德；人工智能；決策

中圖分類(lèi)號(hào)：U463 文獻(xiàn)標(biāo)志碼：A 文章編號(hào)：2095-2945（2018）32-0016-03

Abstract： Taking unmanned driving technology as an example， this paper puts forward three levels of risks in ethical decision making of machine imitation： the first level is the risk of man-machine relationship， and the second level is the risk of human-machine-third party relationship. The third level of human-machine-social value system risk， at the same time to sort out the approach to the risk response， from the R&D; and R&D; control， legal system， international coordination mechanism three aspects.

Keywords： ethics and morality； artificial intelligence； decision making

1 異于傳統(tǒng)技術(shù)工程倫理的人工智能倫理

2017年見(jiàn)證了人工智能（AI）開(kāi)發(fā)應(yīng)用的極速成長(zhǎng)，如果僅僅將AI視為人類(lèi)技術(shù)環(huán)境中的一項(xiàng)正在崛起的構(gòu)成要素，與人類(lèi)文明進(jìn)程中的各項(xiàng)技術(shù)要素具有相同屬性的話(huà)，結(jié)合對(duì)技術(shù)史的簡(jiǎn)單回顧，或?qū)⒊醪秸J(rèn)為AI的形成、發(fā)展與應(yīng)用是歷史的必然：自19世紀(jì)中后葉電氣技術(shù)革命開(kāi)啟的系統(tǒng)自動(dòng)化的探索歷經(jīng)百年積累，與計(jì)算科學(xué)等相關(guān)學(xué)科不斷演進(jìn)、互動(dòng)，從計(jì)算機(jī)的誕生到互聯(lián)網(wǎng)通信技術(shù)的全球普及，由云計(jì)算、大數(shù)據(jù)至今日AI日臻穩(wěn)健成熟，不斷更迭的智能算法、對(duì)無(wú)法想象的量級(jí)數(shù)據(jù)的超速處理能力正以一種前所未有的方式驅(qū)動(dòng)AI在全球各個(gè)行業(yè)的應(yīng)用與布局。

致力于AI與Robotics技術(shù)市場(chǎng)咨詢(xún)的Tractica預(yù)測(cè)：由AI直接或間接應(yīng)用帶來(lái)的全球市場(chǎng)收益將由2016年的14億美元急劇增長(zhǎng)為2025年的368億美元，其門(mén)戶(hù)網(wǎng)站亦發(fā)布215項(xiàng)AI用例描述，橫跨政府公共部門(mén)與私營(yíng)部門(mén)，涉及ICT、交通運(yùn)輸、醫(yī)療診斷與護(hù)理、金融市場(chǎng)預(yù)測(cè)、消費(fèi)品市場(chǎng)、新聞傳媒、能源與制造業(yè)，甚至SNS領(lǐng)域（social bots）。

伴隨“弱”人工智能的普遍使用與“強(qiáng)”人工智能的進(jìn)一步開(kāi)發(fā)，智能機(jī)器系統(tǒng)（intelligent machine systems）無(wú)疑將成為第四次科技革命的主要?jiǎng)幽苤?，但這不是故事的全部，沿用社會(huì)學(xué)家Merton教授的觀點(diǎn)，科學(xué)是一種社會(huì)建制，是社會(huì)的子系統(tǒng)，與政治、經(jīng)濟(jì)、文化、社會(huì)、法律處于互動(dòng)過(guò)程中，面對(duì)AI用例的拓展與應(yīng)用，人類(lèi)文明的生產(chǎn)、工作、生活方式將被“重塑”，人類(lèi)生存與發(fā)展質(zhì)量被迅速提高的同時(shí)，其帶有危險(xiǎn)性的另一面已投射下無(wú)法忽視的陰影，人機(jī)關(guān)系（human-machine relations）復(fù)雜性的發(fā)展速度超出我們想象，此時(shí)對(duì)AI倫理性思考的迫切程度是空前的，人們必須同時(shí)掌握AI作為顛覆性技術(shù)對(duì)人類(lèi)社會(huì)文化價(jià)值體系、倫理道德規(guī)范的沖擊，人機(jī)關(guān)系的持續(xù)發(fā)展與變化有無(wú)可能反向侵蝕倫理道德體系？ 能否在研發(fā)環(huán)節(jié)運(yùn)用強(qiáng)大的算法將AI潛在的非道德行為風(fēng)險(xiǎn)最小化？

需要注意到，AI的倫理性探討超越傳統(tǒng)技術(shù)工程倫理的共性范圍，基于以下原因：第一，有研究將納米技術(shù)、生物技術(shù)、合成生物與機(jī)器人歸并為科技社會(huì)發(fā)展的新范疇，與之關(guān)聯(lián)的已有科學(xué)技術(shù)學(xué)科邊界變得不再清晰，這一點(diǎn)不僅體現(xiàn)在技術(shù)的研發(fā)、設(shè)計(jì)本身，倫理性評(píng)價(jià)亦呈現(xiàn)前所未有的復(fù)雜性與跨學(xué)科特征；第二，人工智能不斷將物理世界和個(gè)人的界限模糊化，延伸出復(fù)雜的倫理、法律和安全問(wèn)題。

假設(shè)對(duì)AI的倫理性探討有以下三種態(tài)度：第一，認(rèn)為AI技術(shù)本身尚未成熟，與其相關(guān)的倫理性話(huà)題多見(jiàn)諸科幻作品，應(yīng)將注意力用于技術(shù)突破方面；第二，基于學(xué)術(shù)界對(duì)AI風(fēng)險(xiǎn)分時(shí)期的判斷，將目光鎖定遠(yuǎn)期風(fēng)險(xiǎn)，如AI異化和對(duì)人類(lèi)社會(huì)的反噬；第三，目前最為棘手的問(wèn)題是已經(jīng)部署并應(yīng)用與生產(chǎn)生活的AI系統(tǒng)潛藏的真實(shí)風(fēng)險(xiǎn)，不應(yīng)立即被“未來(lái)”擔(dān)憂(yōu)稀釋對(duì)近期問(wèn)題的關(guān)注。

本文持有第三種態(tài)度，AI用例的應(yīng)用的深入已將人類(lèi)個(gè)體、機(jī)器與社會(huì)間的交互關(guān)系變得更復(fù)雜，不止于技術(shù)變革，這些前所未有的變化或?qū)?lái)持續(xù)動(dòng)態(tài)的社會(huì)變遷，雖同樣涉及故障率、系統(tǒng)安全、失業(yè)風(fēng)險(xiǎn)等方面，異于傳統(tǒng)技術(shù)工程倫理的人工智能倫理呈現(xiàn)更多維度。

2 無(wú)人駕駛技術(shù)的倫理性風(fēng)險(xiǎn)

哈佛大學(xué)的研究機(jī)構(gòu)Berkman Klein Center將自動(dòng)駕駛作為三項(xiàng)核心AI用例之一進(jìn)行倫理與法律框架探討，認(rèn)為最常見(jiàn)、發(fā)生最頻繁的人機(jī)互動(dòng)是駕駛者-駕駛工具構(gòu)成的自動(dòng)化系統(tǒng)。

從Beneficial AI的角度衡量無(wú)人駕駛，其技術(shù)可行性達(dá)成的條件為：無(wú)人駕駛系統(tǒng)在非干預(yù)的情況下不存在失靈風(fēng)險(xiǎn)；系統(tǒng)對(duì)道路狀況的自動(dòng)判斷的準(zhǔn)確性、反應(yīng)速度、敏捷程度和對(duì)不確定性的抵御能力均高于具有高超駕駛技能的人類(lèi)駕駛者；面對(duì)道德困境（moral dilemma），能夠做出符合人類(lèi)社會(huì)倫理規(guī)范（codes of ethics）的決策。

由此推導(dǎo)出無(wú)人駕駛技術(shù)的倫理風(fēng)險(xiǎn)：

（1）人-機(jī)交互-機(jī)器故障或系統(tǒng)出錯(cuò)。2016年5月，美國(guó)佛羅里達(dá)州，Joshua Brown在駕駛特斯拉Model S時(shí)發(fā)生車(chē)禍身亡。當(dāng)時(shí)，他的Model S在Autopilot模式下與一輛卡車(chē)相撞。這起事故引發(fā)了對(duì)自動(dòng)駕駛系統(tǒng)安全的質(zhì)疑。美國(guó)交通安全委員會(huì)（NTSB）發(fā)布了500頁(yè)的調(diào)查結(jié)果。報(bào)告指出，在這段37分鐘的行程中，Brown被要求手握方向盤(pán)。然而，他只在25秒的時(shí)間里這樣做，從官方調(diào)查結(jié)果來(lái)看，事故責(zé)任更多指向未接受系統(tǒng)安全提示的Brown本人。但據(jù)其他渠道信息顯示，Brown駕駛的Model S使用的是可見(jiàn)光感攝像機(jī)獲取道路圖像，通過(guò)后臺(tái)計(jì)算機(jī)系統(tǒng)做出實(shí)時(shí)路況判斷，而與其相撞的卡車(chē)恰好為白色，混合進(jìn)明媚的弗羅里達(dá)州道路環(huán)境的背景色調(diào)，導(dǎo)致系統(tǒng)未能識(shí)別，這與官方調(diào)查結(jié)果相異。對(duì)于事故的成因我們暫不深究，但需要格外警醒，雖處于萌芽階段，無(wú)人駕駛技術(shù)進(jìn)入公共道路體系后究竟該如何制定與之匹配的事故責(zé)任劃分制度（Accident Liability Regime），如何以Beneficial AI為導(dǎo)向通過(guò)無(wú)人駕駛技術(shù)有效降低人控駕駛行為的事故率，如何在全新的道路交通駕駛技術(shù)環(huán)境下做出理性的倫理與法律制度調(diào)整與補(bǔ)充。

（2）人-機(jī)-第三方相互作用-道德困境時(shí)的抉擇。與人類(lèi)駕駛者面臨的道德困境相似，自動(dòng)控制軟件面臨“生死”難題時(shí)如何決策成為Robo-Ethics領(lǐng)域廣泛爭(zhēng)論的問(wèn)題，科技倫理學(xué)者往往選用經(jīng)典的思想實(shí)驗(yàn)-電車(chē)難題（Trolley Problem），并引入權(quán)變變量使決策情境適度復(fù)雜化（Belay， 2015；Gogoll & Muller， 2017；Sparrow & Howard， 2017），例如在兩側(cè)軌道無(wú)法知曉來(lái)襲電車(chē)的1人與5人（此時(shí)假設(shè)1人與5人是無(wú)差異的同質(zhì)性個(gè)體）的基礎(chǔ)上，將受威脅個(gè)體特征納入考慮，如一側(cè)的1人為兒童，又如出現(xiàn)動(dòng)物的情形，有時(shí)將該問(wèn)題演化為“隧道”難題，依然將決策內(nèi)容設(shè)計(jì)為“生”或“死”的困境。有關(guān)“電車(chē)難題”的倫理學(xué)爭(zhēng)論大大量文獻(xiàn)有時(shí)被稱(chēng)為“trolleyology”（“電車(chē)難題學(xué)”）。（Gogoll & Muller 2017）

爭(zhēng)論的哲學(xué)根源往往在于Kantian Ethics（康德倫理學(xué)）的 Deontology（義務(wù)論）考慮與Utilitarianism（效用主義或功利主義）考慮的差異，二者存在競(jìng)爭(zhēng)關(guān)系。以義務(wù)論的透鏡來(lái)看，個(gè)體的任何決策與行動(dòng)不以所處情況的變化而轉(zhuǎn)移，一切以是否符合道德要求作為決策依據(jù)，康德認(rèn)為人是目的性存在?！澳愕男袆?dòng)，要把你自己人身中的人性，和其他人身中人性，在任何時(shí)候都看作是目的，永遠(yuǎn)不能只看作是手段?！薄懊總€(gè)有理性的東西都須服從這樣的規(guī)律，不論是誰(shuí)在任何時(shí)候都不應(yīng)把自己和他人僅僅當(dāng)作工具，而應(yīng)該永遠(yuǎn)看作自身就是目的。”面對(duì)“電車(chē)難題”，義務(wù)論者會(huì)認(rèn)為無(wú)論如何選擇，均會(huì)導(dǎo)致剝奪生命的情況出現(xiàn)，這是義務(wù)論者無(wú)法接受的，但此時(shí)若選擇不采取任何行動(dòng)，一定程度演化為“間接殺人”。以功利主義的透鏡來(lái)看，個(gè)體面對(duì)道德困境時(shí)的行動(dòng)依據(jù)在于對(duì)備擇決策（alternative decision）的損益分析，以此優(yōu)化效用值，此時(shí)功利主義者將生命“換算為效用值”，對(duì)生命價(jià)值進(jìn)行比較，這一點(diǎn)與道德哲學(xué)中的前者，即義務(wù)論的觀點(diǎn)完全背離。

不同價(jià)值立場(chǎng)的人將作出不同選擇，當(dāng)無(wú)人駕駛汽車(chē)的自動(dòng)化系統(tǒng)作為決策主體時(shí)，它的價(jià)值判斷一定程度體現(xiàn)程序設(shè)計(jì)者的價(jià)值選擇，此時(shí)的矛盾超出human-prioritizing（優(yōu)先人類(lèi)）的程序設(shè)計(jì)原則能夠掌控的范圍，程序設(shè)計(jì)者需要首先將“義務(wù)論”與“功利主義”兩種取向發(fā)展互動(dòng)的動(dòng)態(tài)特征嵌入編程本身。

有研究者認(rèn)為“電車(chē)難題”在無(wú)人駕駛情境下的倫理困境不僅僅涉及哲學(xué)爭(zhēng)議，心理學(xué)亦占據(jù)一席之地，例如個(gè)體認(rèn)知、感知、情感、情緒等變量在道德性決策中的作用。對(duì)意識(shí)的模仿屬于“強(qiáng)”人工智能技術(shù)范疇，本文認(rèn)為機(jī)器無(wú)法替代人的主體性，算法無(wú)法使其具備生物性特征。

（3）人-機(jī)-社會(huì)價(jià)值體系相互作用-同質(zhì)化風(fēng)險(xiǎn)。對(duì)無(wú)人駕駛倫理風(fēng)險(xiǎn)的考量并未止步于對(duì)故障率與“電車(chē)難題”的思辨，從技術(shù)實(shí)現(xiàn)的角度考慮，無(wú)論無(wú)人駕駛系統(tǒng)做出何種決策，它僅僅是在模仿人腦的決策過(guò)程，模仿由算法來(lái)實(shí)現(xiàn)，算法能否體現(xiàn)優(yōu)先人類(lèi)福祉的原則與社會(huì)普遍的價(jià)值取向和行為規(guī)范？即便能夠在算法開(kāi)發(fā)中找到并體現(xiàn)合理的社會(huì)價(jià)值共識(shí)，這種被動(dòng)的價(jià)值趨同（value convergence）可能引發(fā)宏觀層面的困境：第一，預(yù)先嵌入的、程序化的倫理觀念可能使人的價(jià)值判斷和生活理念趨于同質(zhì)化和平整化；第二，對(duì)現(xiàn)行主流社會(huì)道德價(jià)值體系的顛覆性沖擊。

3 風(fēng)險(xiǎn)應(yīng)對(duì)進(jìn)路

3.1 研發(fā)與研發(fā)管制

對(duì)無(wú)人駕駛技術(shù)而言，設(shè)計(jì)者無(wú)法保證在緊急突發(fā)情況下，自動(dòng)控制系統(tǒng)能百分之百做到在倫理上“對(duì)”的選擇，而且不受使用者干預(yù)。Baruch指出無(wú)人駕駛在保障安全這一技術(shù)環(huán)節(jié)上亟待突破，在出現(xiàn)單點(diǎn)失誤（singlepoint failure）之時(shí)，系統(tǒng)仍可以同步調(diào)查其他關(guān)鍵信息流，并隔離該失誤，完成AI重新配置的過(guò)程，直至得到修理，Baruch認(rèn)為有了這一技術(shù)保障，Brown也許不會(huì)死，他駕駛的Model S也許會(huì)慢慢停下來(lái)，僅僅因?yàn)閭鞲邢到y(tǒng)出現(xiàn)單點(diǎn)失誤。另一問(wèn)題在于，引擎制造商是否需要像飛行棋引擎制造商那樣實(shí)時(shí)監(jiān)測(cè)所有出廠引擎的表現(xiàn)，提供在線服務(wù)。

從研發(fā)管制的角度講，政府作為關(guān)鍵的利益相關(guān)人（stakeholder）需要對(duì)行業(yè)技術(shù)標(biāo)準(zhǔn)和最佳實(shí)踐找尋方面進(jìn)行管制，并在此過(guò)程中采用多邊對(duì)話(huà)的機(jī)制，將倫理學(xué)者、風(fēng)投方、設(shè)計(jì)商、軟件工程師、制造商、行銷(xiāo)商、消費(fèi)者、公民社會(huì)組織等納入對(duì)話(huà)，構(gòu)建AI Partnership。

一些非政府組織已有所作為，2017年“生命未來(lái)研究所”通過(guò)產(chǎn)學(xué)研聯(lián)合方式制定的“阿西洛馬人工智能原則” 拓展了阿西莫夫“機(jī)器人三原則”，列出了23條準(zhǔn)則，包括科研問(wèn)題、倫理價(jià)值和長(zhǎng)期問(wèn)題。

3.2 法律制度

作為對(duì)無(wú)人駕駛技術(shù)倫理風(fēng)險(xiǎn)的回應(yīng)，很多研究呼吁有針對(duì)性的法律調(diào)整與補(bǔ)充，最終通過(guò)立法來(lái)正式化。Gogoll & Muller （2017）認(rèn)為在比較mandatory ethics setting（MES）與personal ethics settings（PES）之后，應(yīng)選擇更為強(qiáng)制性的倫理預(yù)設(shè)，因?yàn)镻ES會(huì)進(jìn)一步陷入囚徒困境，將MES制度化的需求亦在于相應(yīng)法律制度的形成。Belay（2015）基于無(wú)人駕駛技術(shù)情境下商業(yè)相關(guān)者（制造商、使用者、保險(xiǎn)業(yè)者）的責(zé)任探討，提出具有實(shí)踐啟發(fā)的立法框架（legislation framework），指出不應(yīng)與現(xiàn)行的侵權(quán)法（tort law）有明顯背離，這一點(diǎn)可以通過(guò)采取在倫理上處于中立的“自我保全”的設(shè)計(jì)出發(fā)點(diǎn)來(lái)實(shí)現(xiàn)，同時(shí)加入“reasonableness standards”調(diào)整消費(fèi)者對(duì)技術(shù)的過(guò)高期待。

3.3 國(guó)際協(xié)調(diào)機(jī)制

IEEE已發(fā)布《以倫理為基準(zhǔn)的設(shè)計(jì)指南》，從體現(xiàn)人權(quán)、優(yōu)先人類(lèi)福祉和自然環(huán)境、削弱人工智能風(fēng)險(xiǎn)和負(fù)面影響為出發(fā)點(diǎn)，發(fā)展為人類(lèi)利益、責(zé)任、透明、教育和意識(shí)的四個(gè)基本原則，在實(shí)現(xiàn)路徑方面，提出三階段的實(shí)踐過(guò)程：第一，將倫理規(guī)則嵌入AI系統(tǒng)識(shí)別特定的規(guī)范和價(jià)值；第二，嵌入AI系統(tǒng)；第三，評(píng)估與現(xiàn)有人類(lèi)規(guī)范價(jià)值的一致性和兼容性，將從AI國(guó)際技術(shù)標(biāo)準(zhǔn)研制的角度對(duì)研發(fā)、生產(chǎn)、市場(chǎng)化行為進(jìn)行約束。

技術(shù)的可流動(dòng)性是目前全球化過(guò)程中的重要特征，當(dāng)我們加入“跨國(guó)”這個(gè)權(quán)變因素時(shí)，對(duì)無(wú)人駕駛技術(shù)倫理風(fēng)險(xiǎn)的考量將變得更為復(fù)雜，必須考慮不同國(guó)別背景下的文化價(jià)值體系對(duì)無(wú)人駕駛技術(shù)的隱性的倫理審視：AI技術(shù)的擴(kuò)散會(huì)對(duì)財(cái)富不平等起到修補(bǔ)作用（affirmative actions）還是說(shuō)它不僅沒(méi)有再分配的性質(zhì)，甚至?xí)谠谢A(chǔ)上增加不平等的程度？這一問(wèn)題不是AI獨(dú)有的跨國(guó)倫理問(wèn)題，是所有技術(shù)全球化都必須考慮的，進(jìn)而要求國(guó)際組織，如WTO、ILO等開(kāi)啟對(duì)話(huà)機(jī)制，盡可能減少無(wú)人駕駛技術(shù)等AI領(lǐng)域發(fā)展初期可能引起的不平等。

參考文獻(xiàn)：

[1]齊昆鵬.2017人工智能：技術(shù)、倫理與法律研討會(huì)在京召開(kāi)[J].科學(xué)與社會(huì)，2017，7（2）.

[2]謝惠媛.民用無(wú)人駕駛技術(shù)的倫理反思——以無(wú)人駕駛汽車(chē)為例[J].自然辯證法研究，2017，33（9）.

[3]Baruch，J.（2016） Steer Driverless Cars Towards Full Automation[J]. Nature， 2016，536：127.

[4]Belay，N.（2015）Robot Ethics and Self-Driving Cars： How Ethical Determinations in Software Will Require a New legal Framework[J].The Journal of the Legal Profession，2015，40：199-130.

[5]Crawford，K.&Calo;，R.（2016） There is a Blind Spot in AI Research[J].Nature， 2016，538：311-313.

[6]Funk，M.（2016） Patrick Lin， Keith Abney， and George A. Bekey （eds.）： Robot Ethics： The Ethical and Social Implications of Robotics[J].Ethical Theory & Moral Practice， 2016，19：547-548.

[7]Gogoll，J.&Muller;，J.F. （2017） Autonomous Cars： In Favor of a Mandatory Ethics Setting[J]. Sci Eng Ethics，2017，23：681-700.

[8]https：//www.tractica.com/research/artificial-intelligence-use-cases/

[9]https：//cyber.harvard.edu/research/ai/usecases

[10]http：//auto.163.com/17/0620/15/CNCQGH3C000884NK.html

[11]http：//www.ctoutiao.com/129735.html

[12]Sparrow，R. & Howard，M.（2017） When Human Beings are like Drunk Robots： Driverless Vehicles， Ethics， and the Future of Transport[J].Transportation Research Part C 80， 2017：206-215.