只剩10%技術(shù)但還有90%倫理

郭嬌

斯坦福自動(dòng)駕駛研究中心（Center for Automotive Research at Stanford，簡(jiǎn)稱(chēng)CARS）十年前在斯坦福大學(xué)校園誕生，它的孕育可以追溯到2002年由美國(guó)國(guó)防高級(jí)研究計(jì)劃局（Defense Advanced Research Projects Agency，簡(jiǎn)稱(chēng)DARPA）組織的一次挑戰(zhàn)賽。

CARS

DARPA是一個(gè)神奇的機(jī)構(gòu)，它在互聯(lián)網(wǎng)、人工智能、無(wú)人車(chē)等領(lǐng)域都誕生了顛覆性技術(shù)。比賽于2004年舉行，地點(diǎn)設(shè)在美國(guó)西部的沙漠，路線總長(zhǎng)240公里，獎(jiǎng)金高達(dá)100萬(wàn)美元。結(jié)果大跌眼鏡——沒(méi)有團(tuán)隊(duì)獲獎(jiǎng)，甚至沒(méi)有一輛車(chē)跑完全程，成績(jī)最好的卡內(nèi)基梅隆大學(xué)無(wú)人車(chē)只行駛了11公里，不到全程的5%。DARPA沒(méi)有放棄，于2005年繼續(xù)舉辦比賽，獎(jiǎng)金翻了一番。卷土重來(lái)的團(tuán)隊(duì)水平全面提升，有5輛車(chē)跑完全程。整個(gè)比賽焦點(diǎn)是由特龍（Sebastian Thrun）帶隊(duì)的斯坦福大學(xué)和由惠特克（Red Whittaker）帶隊(duì)的卡內(nèi)基梅隆大學(xué)的雙雄對(duì)決。斯坦福勝出。

兩年之后的DARPA挑戰(zhàn)賽，行駛路線中包括96公里的城市道路。無(wú)人車(chē)不僅要遵守交規(guī)，還要根據(jù)路面情況實(shí)時(shí)判斷，包括雨雪天氣、停車(chē)場(chǎng)、其他車(chē)輛行駛狀況等?？▋?nèi)基梅隆大學(xué)反敗為勝。比賽吸引了科技巨頭，這次比賽也成了DARPA挑戰(zhàn)賽的絕唱，不少團(tuán)隊(duì)領(lǐng)軍人物紛紛加盟谷歌、通用等科技巨頭，或自己創(chuàng)業(yè)。特龍于惜敗的第二年在斯坦福大學(xué)聯(lián)合創(chuàng)建了CARS。特龍是一位神奇人物，大學(xué)期間主攻計(jì)算機(jī)科學(xué)，通過(guò)深度學(xué)習(xí)與計(jì)算機(jī)視覺(jué)實(shí)現(xiàn)自動(dòng)化駕駛，是谷歌的“無(wú)人車(chē)之父”，后來(lái)還創(chuàng)辦了三大慕課平臺(tái)之一的Udacity。CARS初創(chuàng)團(tuán)隊(duì)的另兩位成員，一位是機(jī)械工程專(zhuān)業(yè)的格德斯（Chris Gerdes），他通過(guò)動(dòng)態(tài)設(shè)計(jì)實(shí)驗(yàn)室（dynamic design lab）研究駕駛員輔助系統(tǒng)；另一位是擅長(zhǎng)傳播的納斯（Cliff Nass）。計(jì)算機(jī)科學(xué)、機(jī)械工程、傳播學(xué)，三位創(chuàng)始人的不同專(zhuān)業(yè)背景，奠定了CARS的跨學(xué)科DNA。

CARS打通了斯坦福大學(xué)法學(xué)院、商學(xué)院等七大學(xué)院，開(kāi)設(shè)的課程及開(kāi)展的科研項(xiàng)目涉及模擬、能源、人機(jī)交互、法律、倫理和商業(yè)等各個(gè)專(zhuān)業(yè)。

與CARS戰(zhàn)略合作的企業(yè)共41家，比如汽車(chē)大鱷福特、大眾、通用、奔馳、豐田、宏達(dá)，高科技企業(yè)3M、intel，保險(xiǎn)公司Allstate、Statefarm，電器公司Bosch、松下。每個(gè)戰(zhàn)略合作企業(yè)贊助CARS年費(fèi)3.2萬(wàn)美元，應(yīng)邀參加年會(huì)，更新每月動(dòng)態(tài)，獲得打包的簡(jiǎn)歷。預(yù)計(jì)到2030年，無(wú)人車(chē)全球商機(jī)將高達(dá)7500億美元，它們收集用戶行為數(shù)據(jù)，用于廣告、保險(xiǎn)等業(yè)務(wù)。無(wú)人車(chē)不僅吸引了大鱷們，初創(chuàng)企業(yè)也躍躍欲試。

斯坦福大學(xué)開(kāi)設(shè)了課程《自動(dòng)駕駛的商業(yè)》，同學(xué)們?cè)谡n上完成商業(yè)計(jì)劃書(shū)，交由評(píng)委評(píng)價(jià)。這門(mén)課還邀請(qǐng)Voyage創(chuàng)始人喀麥隆（Oliver Cameron），他結(jié)合無(wú)人車(chē)技術(shù)與養(yǎng)老市場(chǎng)，提供專(zhuān)門(mén)針對(duì)老年人的自動(dòng)駕駛服務(wù)。一位老年盲人曾使用他的App，呼叫無(wú)人出租車(chē)，在4000多人的校園里行駛了15公里，平安到達(dá)目的地。老年癡呆、行動(dòng)不便的老年乘客都是Voyage的目標(biāo)用戶。

不論專(zhuān)業(yè)，只要對(duì)無(wú)人車(chē)感興趣，就可以在CARS選修課程或參與教授的相關(guān)課題。2017～2018年CARS開(kāi)設(shè)的課程包括視覺(jué)計(jì)算系統(tǒng)、了解能源、可持續(xù)的城市及地區(qū)交通規(guī)劃、與企業(yè)伙伴開(kāi)發(fā)軟件、控制設(shè)計(jì)技術(shù)導(dǎo)論、減少溫室氣體排放、反饋控制設(shè)計(jì)、能源儲(chǔ)存整合（車(chē)輛、可回收物及電網(wǎng)）、能量資源（燃料與工具）、電動(dòng)汽車(chē)與飛機(jī)、極端能量效率、計(jì)算機(jī)視覺(jué)（從3D重構(gòu)到辨識(shí)）以及高級(jí)反饋控制設(shè)計(jì)等。

CARS的課程以理工科的“干貨”為主，研究的課題則根據(jù)教授的不同興趣，目前進(jìn)行的研究正是為了“沖刺”，CARS執(zhí)行主任如普夫（Stephen Zoepf）說(shuō)：“我們已經(jīng)完成了自動(dòng)化商業(yè)車(chē)輛80%到90%的開(kāi)發(fā)工作，但最后的10%非常困難”。

倫理最后一公里

最后10%在技術(shù)上和倫理上仍有巨大問(wèn)題。

技術(shù)上，既困難又刺激的一大挑戰(zhàn)，是計(jì)算機(jī)與心理交叉的人機(jī)交互。

在CARS大眾汽車(chē)創(chuàng)新實(shí)驗(yàn)室VR（虛擬現(xiàn)實(shí)）仿真劇場(chǎng)的中心地帶，停放著一輛黑色豐田亞洲龍（Avalon），車(chē)身環(huán)繞著多個(gè)巨型屏幕。由計(jì)算機(jī)程序控制，屏幕讓車(chē)上的人員進(jìn)入虛擬路面場(chǎng)景，包括對(duì)面來(lái)車(chē)、高架、交通燈、路旁等情況。與此同時(shí)，各種傳感器實(shí)時(shí)監(jiān)控車(chē)輛與人員的下意識(shí)反應(yīng)。采集、分析監(jiān)控到的行為數(shù)據(jù)，CARS發(fā)現(xiàn)了不少值得研究的課題：為什么無(wú)人駕駛中車(chē)上的人會(huì)昏昏欲睡？在何種情況下車(chē)上的人想搶過(guò)方向盤(pán)……這些問(wèn)題屬于人機(jī)交互領(lǐng)域的前沿。

在人機(jī)交互“最后一公里”的挑戰(zhàn)中，最重要的莫過(guò)于讓消費(fèi)者準(zhǔn)備好（consumer-ready），即讓人們接受無(wú)人車(chē)時(shí)代。這個(gè)目標(biāo)并不容易實(shí)現(xiàn)。在硅谷，曾開(kāi)展了著名的“幽靈車(chē)手（ghost driver）”課題研究。由于駕駛員穿上了特制服裝，有人會(huì)誤以為這是一輛無(wú)人車(chē)。車(chē)在十字路口停下，用攝像頭記錄行人的反應(yīng)，再通過(guò)問(wèn)卷進(jìn)一步采集他們的想法。當(dāng)車(chē)依交規(guī)停車(chē)，行人反應(yīng)正常；一旦車(chē)出現(xiàn)起步再停的情況，行人的反應(yīng)五花八門(mén)，有繞到車(chē)后穿行的，有手舞足蹈的……對(duì)無(wú)人車(chē)工程師而言，他們得訓(xùn)練這輛車(chē)不僅能“看見(jiàn)”反常的動(dòng)作，還得“理解”并采取適當(dāng)策略。

“最后一公里”的挑戰(zhàn)也涉及無(wú)人車(chē)倫理。

很多需要人判斷的場(chǎng)景至今難以被編入無(wú)人車(chē)的程序。比如左邊是行人，右邊是騎自行車(chē)的人，事故難以避免，保全哪一方？再比如乘客與行人間，犧牲哪一方？2016年《科學(xué)》雜志曾發(fā)布了一系列這種倫理調(diào)查。調(diào)查團(tuán)隊(duì)由來(lái)自法國(guó)與美國(guó)的科學(xué)家組成，包括麻省理工學(xué)院媒體實(shí)驗(yàn)室（Media）的研究者。調(diào)查問(wèn)題的設(shè)計(jì)相當(dāng)有水平——假如由你來(lái)設(shè)計(jì)無(wú)人車(chē)的算法，車(chē)上乘客與路上行人只能一人存活，你的選擇是什么？假如能拯救的行人是十人，你是否會(huì)改變主意？假如不用犧牲乘客，而是另一個(gè)行人，你又會(huì)如何選擇？如果車(chē)上乘客不是本人，而是朋友或家人，那么結(jié)果是否不同？假如你是無(wú)人車(chē)的潛在用戶，不同算法是否會(huì)影響你的購(gòu)買(mǎi)意愿？假如你是政府決策者，是否要對(duì)這些算法進(jìn)行管制？如果決定進(jìn)行管制，依據(jù)的倫理準(zhǔn)則是什么……調(diào)查結(jié)果表明，“減少死亡人數(shù)”這一倫理準(zhǔn)則獲得高度認(rèn)同，大多數(shù)人選擇“犧牲乘客”，只有23%的人選擇以一命（車(chē)上乘客）換一命（路上行人），76%的人選擇“以一換十”。大多數(shù)人不愿意購(gòu)買(mǎi)或乘坐無(wú)人車(chē)。2017年的皮尤調(diào)查支持這種疑慮——60%的美國(guó)人不愿意乘坐無(wú)人車(chē)。87%的受訪者認(rèn)為，無(wú)人車(chē)乘客應(yīng)該有在緊急情況下駕駛車(chē)輛的能力。

如何讓無(wú)人車(chē)學(xué)會(huì)人類(lèi)的道德判斷？如何讓公眾相信無(wú)人車(chē)的安全？如何制定相關(guān)的法律規(guī)定？如何在事故發(fā)生后裁定責(zé)任……這些都是要突破的倫理“最后一公里”。

責(zé)任編輯：尹穎堯