該由誰(shuí)去指導(dǎo)算法的決策？

馬克·埃斯波斯托 謝慈銘（Terence Tse） 約書(shū)亞·恩特斯明格 奧德麗·讓

過(guò)去幾年間，由麻省理工學(xué)院主辦的“道德機(jī)器”研究，調(diào)查了公眾對(duì)人工智能應(yīng)用程序在各類(lèi)設(shè)定中該如何表現(xiàn)的偏好。數(shù)據(jù)的一個(gè)結(jié)論是，當(dāng)自動(dòng)駕駛汽車(chē)遇到生死攸關(guān)的情景時(shí)，人們認(rèn)為它該如何應(yīng)對(duì)的觀點(diǎn)，在很大程度上會(huì)取決于此人來(lái)自何處，以及人們對(duì)事故所涉及的行人或乘客的了解。

例如，在自動(dòng)駕駛版本的經(jīng)典“手推車(chē)難題”中，有些人可能更喜歡汽車(chē)在傷害他人之前撞到一個(gè)已被定罪的殺人兇手，或者撞到老年人而不是小孩。還有一些人可能認(rèn)為，自動(dòng)駕駛汽車(chē)應(yīng)該簡(jiǎn)單地?cái)S骰子，以防止以數(shù)據(jù)為導(dǎo)向的歧視。

一般來(lái)說(shuō)，此類(lèi)窘境都是事后保留給警方或法官去調(diào)查和決斷的。但在自動(dòng)駕駛的情況下，選擇將在幾毫秒內(nèi)完成，意味著幾乎沒(méi)有足夠的時(shí)間來(lái)作出明智的決定。重要的不是我們所知道的，而是汽車(chē)所知道的。那么問(wèn)題在于自動(dòng)駕駛應(yīng)該對(duì)周?chē)娜苏加惺裁葱畔?？企業(yè)是否應(yīng)被允許去適用不同的道德體系，以追求競(jìng)爭(zhēng)優(yōu)勢(shì)？

請(qǐng)考慮以下情況：一輛中國(guó)車(chē)與美國(guó)車(chē)有不同的工廠設(shè)定標(biāo)準(zhǔn)，但假設(shè)這輛中國(guó)車(chē)正在美國(guó)行駛，并即將與一輛美國(guó)車(chē)發(fā)生不可避免的碰撞。倘若中國(guó)汽車(chē)駕駛員的道德偏好不同于美國(guó)汽車(chē)駕駛員，那么哪個(gè)系統(tǒng)應(yīng)該占上風(fēng)？

除了基于文化的道德偏好差異外，還必須考慮各國(guó)數(shù)據(jù)法規(guī)的差異。例如中國(guó)制造的汽車(chē)可能會(huì)獲得社會(huì)評(píng)分?jǐn)?shù)據(jù)，從而使其決策算法能夠納入美國(guó)汽車(chē)制造商所無(wú)法獲取的額外輸入。更豐富的數(shù)據(jù)可以帶來(lái)更好、更一致的決策，但擁有這一優(yōu)勢(shì)是否就該允許一個(gè)系統(tǒng)去凌駕于另一個(gè)系統(tǒng)？

很顯然，在自動(dòng)駕駛車(chē)輛大規(guī)模上路之前，我們需要確定算法決策的責(zé)任究竟落在哪里，是市政當(dāng)局、國(guó)家政府還是多邊機(jī)構(gòu)？更重要的是，我們需要新的框架來(lái)管理這個(gè)商業(yè)和國(guó)家的交叉點(diǎn)。

不難想象，所有自動(dòng)駕駛車(chē)輛制造商都會(huì)簡(jiǎn)單地宣傳自己那套系統(tǒng)會(huì)將駕駛員的生命置于首位，或是允許用戶切換自身的道德設(shè)置。為了防止這種“公地悲劇”，必須建立在自動(dòng)駕駛車(chē)輛決策之間進(jìn)行通信和協(xié)調(diào)的框架。但是，在不同文化背景下開(kāi)發(fā)此類(lèi)系統(tǒng)時(shí)，政策制定者和企業(yè)將必須面對(duì)不同的主權(quán)、隱私和個(gè)人自治的文化概念。

這將引發(fā)額外的挑戰(zhàn)，因?yàn)槿斯ぶ悄芟到y(tǒng)無(wú)法容忍歧義。從頭開(kāi)始設(shè)計(jì)人工智能應(yīng)用程序需要非常明確；無(wú)論效果如何，這些系統(tǒng)只會(huì)按照你告訴它們的方式行事。這意味著企業(yè)、政府和其他提供商在編寫(xiě)針對(duì)不同情況的響應(yīng)規(guī)則時(shí)，需要做出明確的抉擇。

但在這一切發(fā)生之前，政策制定者們需要訂立算法問(wèn)責(zé)制的范圍，以確定應(yīng)該把哪些決策留給企業(yè)或個(gè)人（如有的話）。那些屬于國(guó)家職權(quán)范圍的責(zé)任，必須經(jīng)由辯論商討來(lái)決定。雖然無(wú)法拿出一個(gè)最終解決方案，但我們需要?jiǎng)?chuàng)建一些至少能促進(jìn)自動(dòng)駕駛車(chē)輛之間通信以及“裁決算法爭(zhēng)議和道路事故”的系統(tǒng)。

鑒于在設(shè)計(jì)決策算法時(shí)需要明確性，因此有必要建立一個(gè)國(guó)際機(jī)構(gòu)來(lái)制定標(biāo)準(zhǔn)。這種算法問(wèn)責(zé)制的標(biāo)準(zhǔn)，必須能被應(yīng)用于管理許多領(lǐng)域。最終，我們必須決定的首要問(wèn)題是，企業(yè)是否有權(quán)為算法決策設(shè)計(jì)另一套道德框架。在我們看來(lái)，它們是不應(yīng)該有的。

在這個(gè)人工智能時(shí)代，全球價(jià)值鏈的某些組成部分最終會(huì)實(shí)現(xiàn)自動(dòng)化，此時(shí)它們將不再被視為企業(yè)追求競(jìng)爭(zhēng)優(yōu)勢(shì)的領(lǐng)域。確定和裁決算法問(wèn)責(zé)制的過(guò)程，應(yīng)該就處于這樣一個(gè)領(lǐng)域。無(wú)論以什么方式我們都將作出決定，而且最好是統(tǒng)一并盡可能民主地解決。

本文由Project Syndicate授權(quán)《南風(fēng)窗》獨(dú)家刊發(fā)中文版。馬克·埃斯波斯托，霍特國(guó)際商學(xué)院和哈佛大學(xué)商業(yè)和經(jīng)濟(jì)學(xué)教授；謝慈銘，歐洲高等商學(xué)院倫敦分校教授；約書(shū)亞·恩特斯明格，Nexus FrontierTech研究員；奧德麗·讓?zhuān)琁n Silico Veritas藥業(yè)公司創(chuàng)始人。