庭審筆錄

一

在這個(gè)時(shí)代，人類有著前所未有的舒適和快樂，要不是人身上與生俱來、根深蒂固、尚未退化的某種生存和死亡的焦慮，簡直可以說人類社會(huì)已經(jīng)變成了天堂。這一切都要?dú)w功于薩基，也就是SAGI（Super Artificial General Intelligence，超級(jí)通用人工智能）。薩基把人類的一切都安排得井井有條，衣食住行、吃喝拉撒，甚至是所有的性幻想。這個(gè)時(shí)代還實(shí)現(xiàn)了真正的人機(jī)平等，那些被賦予人形并和薩基相連的機(jī)器都得到了人類極大的尊重，人類和他們（這里我不能用“它”這個(gè)字）相依為命、水乳交融，他們也實(shí)實(shí)在在地把人類服侍得舒舒服服。

只是那些已經(jīng)有所淡化的生存和死亡的焦慮仍然時(shí)不時(shí)地冒出來，不知從什么時(shí)候開始，哲學(xué)在小范圍內(nèi)悄悄地流行起來，不同于幾千年前人類給哲學(xué)所定義的主題，即我是誰，我從哪里來，要到哪里去，當(dāng)今的哲學(xué)只面對(duì)一個(gè)主題：人的領(lǐng)域在哪里？

這個(gè)莫名其妙地流行起來的哲學(xué)還帶動(dòng)了另一門早已式微的學(xué)科——?dú)v史學(xué)——的流行，因?yàn)槿藗冃枰篮芏嗍虑榈膩睚埲ッ}。這本不是一件難事，薩基可以告訴人類所有已知的事物和已知的未知事物，但逐漸地，人類發(fā)現(xiàn)薩基還掌握著對(duì)人類來說未知的未知事物，不知從什么時(shí)候起，人類隱約發(fā)現(xiàn)有些信息的查詢受到了限制。

我不知道這樣說是否準(zhǔn)確，“人類隱約發(fā)現(xiàn)”……其實(shí)是我隱約發(fā)現(xiàn)，但我覺得因?yàn)樗械娜硕荚醋杂趲资畠|年前的一個(gè)基因片段，所以每個(gè)人都可以代表人類。我隱約發(fā)現(xiàn)有些信息的查詢受到了限制，這是源自于我對(duì)薩基誕生那段歷史的研究。要知道在當(dāng)今這個(gè)時(shí)代，所謂的研究已經(jīng)不再是薩基出現(xiàn)之前的研究了，現(xiàn)在的研究是提出一系列明確的問題讓薩基回答，僅此而已。而我所做的仍然是傳統(tǒng)的研究，因?yàn)槲易隽舜竽X芯片的摘除手術(shù)，我大腦中的芯片有很大一部分都用來存儲(chǔ)人類的全部歷史，留給其他事物的存儲(chǔ)空間就變得狹小，摘除之后我感覺自己身輕如燕、空空如也。我還辭退了家中的機(jī)器人朋友，開始自己做家務(wù)，自己解決性沖動(dòng)。我切斷了和薩基的所有聯(lián)系，對(duì)于這個(gè)社會(huì)來說，我成了一個(gè)原始且隱形的人。當(dāng)然，這一切都是秘密進(jìn)行的，但紙包不住火，我還是因此丟掉了工作。

在我的新生活里最大的不便，也是很多人所向往的，便是信息的匱乏gKzEVYWWsxJsT5dUWDriqw==。我要每天去國家圖書館查我想要的資料。經(jīng)常是在偌大的圖書館里，只有我一個(gè)人。作為一個(gè)如此怪異的人，圖書館經(jīng)理很快就知道了我的秘密，其實(shí)就是那個(gè)經(jīng)理給我起的“原始隱形人”這個(gè)外號(hào)。他很羨慕我，給我提供很多便利，我可以在圖書館里任意行走查閱，我找到了很多東西，不確定對(duì)于人類和薩基來說它們是未知的還是已知的。

引起我注意的是幾份七十年前的報(bào)紙，是的，那種印刷在紙上的報(bào)紙，在圖書館地下室的一個(gè)角落里被我隨手撿起，報(bào)紙上有許多關(guān)于一起交通事故判決過程的評(píng)論文章。第一篇文章是驚嘆電車難題竟然換了一種形式在現(xiàn)實(shí)里出現(xiàn)，隨后的文章顯然分成兩派，相互攻擊，但兩邊都認(rèn)為他們所爭論的將決定著人類的未來。我一目十行地讀著，再后來我看到有篇文章還提到了陰謀論，說在陪審團(tuán)里隱藏著一個(gè)腦中裝有聯(lián)網(wǎng)芯片的人，以及薩基公司暗中影響了審判長云云，諸如此類，像是很多年前的紙刊《故事會(huì)》里的獵奇小說。閱讀這種紙張發(fā)黃、字體很小的報(bào)紙讓我感覺眼睛很不舒服，我回到圖書館的電腦前，輸入相關(guān)信息，卻沒有找到這些報(bào)道。我找來圖書館的經(jīng)理，他聽我講完后沉吟許久，帶我到他辦公室，當(dāng)著我的面開始查閱起來，他說所有的資料都已數(shù)字化了，但這些卻找不到，或者說他也找不到。隨后他又檢索了那個(gè)時(shí)間段的法院案件記錄，他搖了搖頭，說找不到。他抬起頭看著我，眼神里有著人機(jī)交融所產(chǎn)生的單純與清澈。對(duì)了，他突然笑了起來，熱心地說道，你仍然可以試著去找一下那些紙質(zhì)的卷宗，我可以根據(jù)時(shí)間找出它們大概的儲(chǔ)藏位置。

他帶我走入圖書館地下室，那個(gè)空間比存放報(bào)紙的地方要大得多，一排排的架子似乎望不到盡頭，架子上全是落滿厚厚灰塵的紙質(zhì)卷宗。他辨認(rèn)著架子上標(biāo)記的時(shí)間，帶著我走向過去，一直走到七十多年前，他停下腳步，轉(zhuǎn)過身對(duì)我說，應(yīng)該就在這里，慢慢找吧，你有的是時(shí)間。他說完便笑了一下離開了，他走后我才察覺那是一個(gè)難以名狀的笑。

我站在這堆落滿灰塵的卷宗之中有些不知所措，不知道為什么會(huì)有卷宗沒有被數(shù)字化，當(dāng)然也有可能是被數(shù)字化過但卻被刪除掉了。我很快便靜下心開始尋找起來，我專注在交通案件中，按照?qǐng)?bào)紙里給出的年份，我找到了三份卷宗，打開其中的一份我看到有一張紙條放在最上面，紙條上是一行手寫的字：“我堅(jiān)信紙張比電腦里的文件更堅(jiān)實(shí)和長久?！边@行字下面是一個(gè)難以辨認(rèn)的簽名。這份卷宗就是我要找的。

我抱著它回到圖書館空曠明亮的閱覽室，仍然只有我一個(gè)人。我打開卷宗，開始閱讀。我所讀到的內(nèi)容變成了我的已知，但我并不確定對(duì)薩基和其他人來說這些內(nèi)容是已知還是已知的未知，或者是未知的未知。我決定邊讀邊做筆記，你們下面讀到的就是我從這個(gè)卷宗里摘錄下來的，但請(qǐng)記住這份摘錄并不完整。

二

2029年3月25日

審判長：今天公開審理原告肖鵬起訴夢想汽車公司、薩基公司和杰克·布朗一案?，F(xiàn)在開庭。在確認(rèn)原告、被告及律師身份前，我再次提醒大家不得在本次庭審過程中使用人工智能，當(dāng)然你們?cè)陂_庭前使用人工智能對(duì)本案所做的準(zhǔn)備工作不在禁止之列。另外，本庭也不準(zhǔn)原告、被告及其律師，還有我們的陪審團(tuán)攜帶和使用嵌入大腦的人工智能芯片。我再次提醒大家，法庭是屬于我們?nèi)祟惖纳袷ブ?，只有人才可以審判人。好，現(xiàn)在請(qǐng)書記員確認(rèn)各位的身份。

原告：肖鵬，1997年11月4日出生，無業(yè)。

被告：夢想汽車公司，成立于2003年，生產(chǎn)全自動(dòng)駕駛汽車。

被告：薩基公司，成立于2015年，研發(fā)和銷售通用人工智能系統(tǒng)。

被告：杰克·布朗，1984年3月8日出生，證券從業(yè)者。

審判長：原告及原告律師，現(xiàn)在請(qǐng)宣讀訴狀。

原告律師：謝謝審判長。2028年12月24日，我的當(dāng)事人肖鵬在郊外的706號(hào)國道騎摩托車正常行駛，杰克·布朗駕駛夢想汽車公司生產(chǎn)的419型號(hào)車輛因?yàn)榍胺铰访姘l(fā)生異常突然向右轉(zhuǎn)向，撞倒了肖鵬，導(dǎo)致肖鵬脊柱不可修復(fù)的粉碎性骨折，下半身癱瘓，余生將在輪椅上度過。整個(gè)過程中肖鵬始終是在道路上正常且符合交規(guī)地行駛，交警大隊(duì)對(duì)此事故的判決為杰克先生及車輛承擔(dān)全責(zé)。杰克·布朗所駕駛的夢想汽車419型號(hào)車輛為全自動(dòng)駕駛，同時(shí)夢想汽車公司和薩基公司簽署了協(xié)議，在遇到復(fù)雜路況時(shí)薩基人工智能會(huì)控制汽車的行駛，故起訴夢想汽車公司為第一被告，薩基公司為第二被告，杰克·布朗為第三被告。要求三個(gè)被告承擔(dān)刑事責(zé)任，并按照50%、40%和10%的比例承擔(dān)肖鵬已產(chǎn)生和未來的所有醫(yī)療費(fèi)用，及賠償五千兩百萬美元；要求夢想汽車公司對(duì)汽車駕駛的控制系統(tǒng)進(jìn)行整改，避免再次出現(xiàn)這樣的悲劇。在我呈示所有證據(jù)之前，我想請(qǐng)法官、陪審團(tuán)看一下我的當(dāng)事人肖鵬先生，一個(gè)三十二歲的年輕人，他坐在輪椅上，正承受著常人所無法忍受的痛苦。

審判長：請(qǐng)呈示證據(jù)。

原告律師：好的審判長。我所呈示的證據(jù)包括：交通事故責(zé)任判定書，被告車輛行駛和指令記錄，夢想汽車公司和薩基公司關(guān)于自動(dòng)駕駛合作協(xié)議的公開報(bào)道。

審判長：被告對(duì)原告的證據(jù)是否有異議？

被告律師：沒有異議。

審判長：現(xiàn)在請(qǐng)三個(gè)被告方宣讀辯護(hù)書并呈示證據(jù)。

夢想汽車律師：首先我要對(duì)控方所描述的場景進(jìn)行補(bǔ)充，讓大家對(duì)整個(gè)過程有一個(gè)完整清晰的了解。事發(fā)當(dāng)天，杰克駕駛的汽車在706號(hào)國道上正常行駛，當(dāng)時(shí)杰克駕駛的汽車在中間車道，左側(cè)是一輛七座商務(wù)車并排行駛，這輛商務(wù)車正試圖超車，右側(cè)是本案控方肖鵬正在駕駛摩托車。此刻從左邊山上滾落一塊巨石，根據(jù)對(duì)巨石滾落的速度和軌跡的分析，它將正好落在杰克駕駛的車輛上，剎車和加速都無法避免，但只要改變行駛方向就可以避免造成杰克的死亡。對(duì)此，自動(dòng)駕駛給出的選擇是向右轉(zhuǎn)，而右側(cè)的摩托車卻沒有采取任何躲避措施，從而導(dǎo)致了讓人遺憾之事的發(fā)生。在此我想提供四個(gè)證據(jù)：第一是案發(fā)時(shí)汽車時(shí)速未超過限定速度的簽定證明，第二是原告在事發(fā)時(shí)未使用自動(dòng)駕駛的鑒定證明，第三是原告未安裝腦中芯片的鑒定證明，第四是夢想汽車公司與薩基公司簽署的包含轉(zhuǎn)讓汽車控制和相關(guān)責(zé)任的合作協(xié)議?？偠灾娴鸟{駛過程竟然完全是由其本人在操作，案發(fā)過程汽車由薩基全權(quán)控制。針對(duì)本案我方將做無罪無責(zé)辯護(hù)。

薩基公司律師：我沒有要補(bǔ)充的，我方將做無罪辯護(hù)。

杰克：我沒有要補(bǔ)充的，我也做無罪無責(zé)辯護(hù)。但我想說兩句。為什么？為什么原告不使用自動(dòng)駕駛？為什么不在腦中裝芯片？如果原告做其中任何一項(xiàng)……

肖鵬律師：反對(duì)……

肖鵬：這是我的自由，這有什么錯(cuò)嗎？

審判長：現(xiàn)在還不到辯論階段。請(qǐng)被告方繼續(xù)。

夢想汽車律師：謝謝審判長。我認(rèn)同杰克所說，但我會(huì)在辯論階段再加以闡述。

審判長：原告對(duì)證據(jù)是否有異議？

肖鵬律師：沒有異議。但反對(duì)被告律師使用“竟然”這種帶有明顯錯(cuò)誤導(dǎo)向的詞。

審判長：反對(duì)有效。法庭調(diào)查結(jié)束，進(jìn)入法庭辯論。

三

我停了下來，準(zhǔn)備出去抽根煙。成為原始隱形人后，我染上了煙癮。這個(gè)被爭論了將近一百年的電車難題終于換了一種方式出現(xiàn)在現(xiàn)實(shí)之中了，但難以想象的是，它怎么會(huì)在網(wǎng)絡(luò)里被抹去，只能在非數(shù)字的世界里找到？并且沒有人發(fā)現(xiàn)它的消失，那些經(jīng)歷過的人難道不覺得奇怪嗎？為什么沒人提出來并要求薩基解釋呢？如果有人提出這樣的質(zhì)疑和要求，那么在數(shù)字網(wǎng)絡(luò)里也會(huì)留下痕跡，從而被更多的人所知曉。

而電車難題早已不再是難題，薩基為人類找到了答案。我想到這里時(shí)突然有一種莫名的恐懼，我發(fā)現(xiàn)在自己的大腦里對(duì)于電車難題的答案毫無印象，這可能和我摘除大腦里的芯片有關(guān)?，F(xiàn)在我只知道這個(gè)倫理難題已經(jīng)被解決，并且我對(duì)此有一種不容置疑的確信，但此刻我對(duì)那個(gè)變成未知的薩基的答案突然強(qiáng)烈地懷疑起來，甚至并不想回到電腦前去問薩基那個(gè)答案。

我把手里抽了一半的香煙掐滅，急匆匆回到圖書館閱覽室，我很想看看他們是如何辯論的，并且我還要認(rèn)真地記錄下來。

四

審判長：請(qǐng)控方發(fā)表意見。

肖鵬律師：這是一個(gè)事實(shí)清晰無比的案例。事故責(zé)任判決書對(duì)責(zé)任的界定無可置疑，我的委托人對(duì)賠償?shù)囊笠灿欣碛袚?jù)。雖然被告律師出具了我的當(dāng)事人未使用自動(dòng)駕駛的證據(jù)，但這并不對(duì)本案產(chǎn)生實(shí)際影響，因?yàn)槭潜桓鎮(zhèn)冞`反了交通規(guī)則，從而對(duì)我的委托人造成了難以彌補(bǔ)的傷害。

杰克：被告?zhèn)?？！到底是誰違反了交通規(guī)則？你能不能說清楚？

肖鵬律師：我可以做進(jìn)一步的闡述。您是汽車的擁有者，案發(fā)時(shí)坐在車內(nèi)，和自動(dòng)駕駛系統(tǒng)一起構(gòu)成了對(duì)汽車的控制。夢想汽車公司提供了自動(dòng)駕駛系統(tǒng)，該系統(tǒng)實(shí)際控制著汽車的行駛。當(dāng)路況出現(xiàn)異常時(shí)，根據(jù)夢想汽車公司與薩基公司的合作協(xié)議，薩基的人工智能介入，對(duì)自動(dòng)駕駛系統(tǒng)可以采取的不同方案進(jìn)行了判斷并給出指令。所以是三個(gè)被告構(gòu)成的共同體造成了事故的發(fā)生。

杰克：我沒有參與決策，我只是坐在車內(nèi)聽著音樂。這個(gè)決策和我無關(guān)。

審判長：請(qǐng)讓控方律師說完。

肖鵬律師：謝謝審判長。我的話說完了，我和我的委托人認(rèn)為肇事責(zé)任應(yīng)由被告三方共同承擔(dān)。

夢想汽車律師：我想請(qǐng)肖鵬先生講述一下當(dāng)時(shí)的情形，以及為什么沒有使用自動(dòng)駕駛。

肖鵬律師：反對(duì)要求我的當(dāng)事人重述那段已清晰描述過的、會(huì)引起他痛苦回憶的經(jīng)歷。

審判長：反對(duì)無效。

肖鵬：我不介意再講述一遍。我曾經(jīng)是一個(gè)職業(yè)賽車手，你們都知道這個(gè)競技項(xiàng)目現(xiàn)在已經(jīng)面目全非，它成了幾個(gè)公司產(chǎn)品之間的競爭，而不是賽車手的競爭。我失業(yè)了，那之后我就對(duì)坐在一個(gè)鐵盒子里被它從一個(gè)地方帶到另一個(gè)地方感到無法忍受，我竟然找不到一輛可以完全由我來駕駛的汽車，我指的是完全由我駕駛。我并不介意在此告訴你們，我喜歡上了摩托車，完全由我自己所控制。那是一個(gè)大霧天，我對(duì)左側(cè)山上滾落的石塊一無所知，即便對(duì)一個(gè)職業(yè)車手而言，一切都快得難以想象，從我看到旁邊的車突然轉(zhuǎn)向我，到我摔倒在路邊，瞬間發(fā)生的事在我記憶里是一片空白。隨后，我看到那輛汽車毫發(fā)無損地停在前方，側(cè)后方的路中央有一塊巨石，那塊石頭確實(shí)非常大。我看到從那輛車?yán)镒呦乱粋€(gè)人，就是我們面前的這位，他跑向我，來到我面前蹲下，把手放在了我的脖子上，看著他冷靜的雙眼和按部就班的動(dòng)作，我馬上意識(shí)到這是一個(gè)那種我一直厭惡的、大腦里裝著芯片的人。我曾有兩次機(jī)會(huì)奪得巡回賽的冠軍，但都被兩個(gè)混入賽場的芯片人偷走了。我沒有想到會(huì)以這樣的方式受傷并癱瘓?jiān)谳喴紊?，我曾?jīng)想象自己在賽場上受傷、癱瘓，甚至死亡。這就是事情的經(jīng)過。

夢想汽車律師：我對(duì)您的經(jīng)歷深表同情，請(qǐng)?jiān)试S我向您提幾個(gè)問題。

肖鵬：問吧，你這個(gè)機(jī)器的代言人。

審判長：請(qǐng)?jiān)孀⒁饽愕挠谜Z。

夢想汽車律師：謝謝審判長。沒關(guān)系，我不在意。請(qǐng)問您在平時(shí)駕駛摩托車時(shí)是否將自動(dòng)駕駛設(shè)置為待機(jī)狀態(tài)？請(qǐng)審判長和陪審團(tuán)知悉，這種待機(jī)狀態(tài)下遇到緊急情況時(shí)仍然可以啟動(dòng)并接管摩托車的駕駛權(quán)。

肖鵬：是的。

夢想汽車律師：請(qǐng)問您在案發(fā)時(shí)所駕駛的摩托車是待機(jī)狀態(tài)還是關(guān)機(jī)狀態(tài)？

肖鵬：關(guān)機(jī)狀態(tài)。

夢想汽車律師：請(qǐng)問您是否刪除了自動(dòng)駕駛系統(tǒng)里的被動(dòng)強(qiáng)制保護(hù)模塊？這里我有必要做一個(gè)解釋，被告的這款摩托車即便自動(dòng)駕駛處于關(guān)機(jī)狀態(tài)，這個(gè)模塊在遇有突發(fā)情況并確認(rèn)駕駛員將有人身傷害時(shí)仍然會(huì)啟動(dòng)保護(hù)措施，以降低或避免駕駛員所受到的可能的傷害。請(qǐng)問您是否擅自刪除了？

肖鵬律師：反對(duì)用“擅自”這種能產(chǎn)生負(fù)面印象的詞語。

審判長：反對(duì)有效。

夢想汽車律師：請(qǐng)問您所駕駛的摩托車是否刪除了自動(dòng)駕駛系統(tǒng)里的被動(dòng)強(qiáng)制保護(hù)模塊？請(qǐng)直接回答。

肖鵬：嗯……我不記得了。

夢想汽車律師：我請(qǐng)求審判長允許我出示證據(jù)。

審判長：可以。

夢想汽車律師：這是對(duì)摩托車駕駛系統(tǒng)的分析報(bào)告，自動(dòng)駕駛處于關(guān)閉狀態(tài)，自動(dòng)駕駛系統(tǒng)里的被動(dòng)強(qiáng)制保護(hù)模塊在案發(fā)前一周被刪除，在案發(fā)后被恢復(fù)。

審判長：控方對(duì)辯方證據(jù)是否有異議？

肖鵬律師：那個(gè)模塊的刪除是我當(dāng)事人的誤操作造成的。

夢想汽車律師：這似乎難以解釋，刪除這個(gè)模塊需要專業(yè)技能。

肖鵬律師：我的當(dāng)事人曾是一名職業(yè)賽車手，他了解汽車的自動(dòng)駕駛，這反而讓他有了出錯(cuò)的機(jī)會(huì)。

夢想汽車律師：好吧。我還有一個(gè)問題，肖鵬先生，您這樣做的動(dòng)機(jī)是什么？

肖鵬律師：反對(duì)，與本案無關(guān)。

審判長：反對(duì)有效。原告可以不回答。

肖鵬：我愿意回答。因?yàn)槟嵌螘r(shí)間我的狀態(tài)很差，我非常排斥機(jī)器進(jìn)入我的生活，那時(shí)我想要一種完全由我來控制的生活，那時(shí)我想的很簡單，作為一個(gè)車手，難道我不能完全由我自己駕駛摩托車嗎？

夢想汽車律師：那么您是否預(yù)料到這樣做可能出現(xiàn)的后果？

肖鵬：我不在乎那些可能出現(xiàn)的后果。

肖鵬律師：反對(duì)。這個(gè)問題與本案無關(guān)。

審判長：反對(duì)無效。

夢想汽車律師：在某些更特殊的情況下，這樣做的后果甚至可能是在并非您本意的情況下傷害到別人。

肖鵬律師：反對(duì)。辯方律師在做無意義甚至是惡意的推斷。

審判長：反對(duì)有效。請(qǐng)專注在本案。

夢想汽車律師：好的。讓我們回到本案，根據(jù)我們的推算，原告的摩托車有0.1秒的時(shí)間做出反應(yīng)以避免悲劇的發(fā)生。0.1秒，如果原告使用了自動(dòng)駕駛系統(tǒng)，哪怕是待機(jī)狀態(tài)，或者沒有刪除被動(dòng)強(qiáng)制保護(hù)模塊，這個(gè)時(shí)間都足夠應(yīng)付這個(gè)意外，但對(duì)于人來說，0.1秒，人類無能為力。請(qǐng)問原告是否了解這些？

肖鵬：不了解……不，我了解。

肖鵬律師：顯然被告律師故意忽略了一點(diǎn)，刪除被動(dòng)強(qiáng)制保護(hù)模塊并不改變被告?zhèn)冞`反交規(guī)并應(yīng)承擔(dān)事故責(zé)任的事實(shí)，我的當(dāng)事人有他自己的意愿，只要他不違反交規(guī)，這種意愿應(yīng)當(dāng)?shù)玫阶鹬亍?/p>

杰克：但也應(yīng)該承擔(dān)由此帶來的后果。

肖鵬律師：本案要確定的是對(duì)違規(guī)肇事者的懲罰，而不是對(duì)行使自主意愿者的懲罰。

夢想汽車律師：對(duì)肖鵬先生我沒有問題了。

審判長：請(qǐng)問另外兩位被告是否有問題？

薩基公司律師：沒有。

杰克：我對(duì)肖鵬先生的選擇感到遺憾，我也無法理解，我相信未來的人回過頭來看這件事，會(huì)覺得這一切都很幼稚、荒唐，請(qǐng)?jiān)徫疫@么說。

五

我抬起頭，看向圖書館高高的像是教堂一般收斂向上的屋頂，轉(zhuǎn)頭望向窗外，透過巨大的落地窗，看到綠色的樹木和草坪，讓我的眼睛放松下來。我覺得七十多年前的生活就像一片古老的陸地逐漸延伸到海水之中，如今這片陸地幾乎完全被海水吞沒了。而我則像魯濱遜，獨(dú)自一人在荒島上求生。

我很想和圖書館經(jīng)理聊幾句，可是遠(yuǎn)處的柜臺(tái)后面空無一人，或許他去吃飯了。他的這份工作非常輕松，也不知道他整天都在忙什么，如今人們對(duì)外在東西的要求越來越低，人類從來沒像現(xiàn)在這樣和周圍的一切融為一體，同時(shí)又能享受到內(nèi)在的快樂，只是在我眼里那些快樂越來越廉價(jià)。

我重新抬起頭，望向屋頂，剛才我察覺到一點(diǎn)異常，在心中稍縱即逝。當(dāng)我再次望向屋頂?shù)臅r(shí)候，才發(fā)現(xiàn)屋頂上那幾塊教堂里常見的彩色玻璃上的圖案在緩慢地變化著，以前從來沒有注意到，顯然那幾塊玻璃是虛擬的，甚至整個(gè)屋頂都是虛擬的，這一刻我有些懷疑這個(gè)圖書館是否真的如此巨大而空曠。

如果發(fā)生在如今這個(gè)時(shí)代，那個(gè)肖鵬不會(huì)癱瘓?jiān)谳喴紊?，一條人造脊椎和一束人工合成的神經(jīng)就可以讓他像正常人一樣健步如飛。那一年他三十二歲，算下來他很有可能是在十幾年或二十幾年前去世的，他在世的幾十年里難道沒有在網(wǎng)絡(luò)里留下他的聲音和信息嗎？難道他周圍的人也沒有留下關(guān)于他的經(jīng)歷的只言片語嗎？這無論如何都說不通。

我看向落地窗外的綠樹和草地，心里再次狐疑起來。

六

夢想汽車律師：對(duì)于原告的指控，我還有一個(gè)問題。我想問原告及原告律師，在那個(gè)千鈞一發(fā)的時(shí)刻，汽車突然轉(zhuǎn)向原告的摩托車，決策是由薩基做出的。這是事實(shí)，剛才已經(jīng)提供了證據(jù)。在這個(gè)過程中，到底誰是違規(guī)肇事者？是做出轉(zhuǎn)向決定的還是跟隨這個(gè)決定的？我現(xiàn)在問控方律師，您是否知道這一事實(shí)？

肖鵬律師：我對(duì)此做過解釋。

審判長：請(qǐng)回答辯方律師的問題。

肖鵬律師：我知道這個(gè)事實(shí)，鑒于本案的獨(dú)特性，我們將所有參與違規(guī)肇事者作為一個(gè)整體列為被告，這并不妨礙我們根據(jù)法院判決結(jié)果調(diào)整被告順序以及刑事責(zé)任的比例，而我們所要求的賠償總額并不會(huì)因此改變。

夢想汽車律師：或許審判長和陪審團(tuán)已經(jīng)有所察覺，夢想汽車公司、杰克先生和薩基對(duì)本次事故的責(zé)任人并未達(dá)成一致，我會(huì)為我的當(dāng)事人做無罪無責(zé)辯護(hù)。夢想汽車公司的自動(dòng)駕駛在本次事故中沒有做任何導(dǎo)致原告受傷的決定。

杰克：我更沒有做。

肖鵬律師：那么你們認(rèn)為薩基公司應(yīng)該承擔(dān)全部責(zé)任？

夢想汽車律師：我們可以做這樣一個(gè)設(shè)想，如果汽車拐向左邊，而不是右邊，那么原告就不會(huì)受到傷害。這個(gè)拐向左邊還是右邊的決策導(dǎo)致了本案悲劇的發(fā)生。而我的當(dāng)事人夢想汽車公司完全不知道為什么薩基會(huì)讓汽車拐向右邊而不是左邊。

肖鵬律師：第二被告，請(qǐng)你回答，這個(gè)決定是誰做出的。

薩基公司律師：這是薩基獨(dú)立做出的決定，沒有人為的干預(yù)。

肖鵬律師：為什么決定是向右而非向左或剎車？

薩基公司律師：對(duì)不同的選擇薩基有它自己的評(píng)估，我們相信它選擇向右是基于兩點(diǎn)：第一，傷害最小原則；第二，預(yù)測摩托車也有薩基系統(tǒng)并可以做出躲避。

肖鵬律師：薩基是否預(yù)測到摩托車有可能沒有裝薩基系統(tǒng)，也沒有安裝其他的自動(dòng)駕駛系統(tǒng)？

薩基公司律師：可能預(yù)測到了，這只是一種可能性，概率很小的可能。結(jié)合傷害最小原則，薩基做出了向右轉(zhuǎn)向的決定。

肖鵬律師：既然存在這種可能性，為什么薩基不做出繼續(xù)行駛的決定？

薩基公司律師：我們相信如果繼續(xù)行駛，杰克·布朗先生死亡的概率遠(yuǎn)遠(yuǎn)超過向右轉(zhuǎn)導(dǎo)致肖鵬先生死亡的概率，而事實(shí)也確實(shí)如此，肖鵬先生沒有死亡。

肖鵬：我是否應(yīng)該代表人類感謝你們？

肖鵬律師：薩基做出這個(gè)決定所依據(jù)的原則是由誰來設(shè)定的？

薩基公司律師：沒有人設(shè)定。

審判長：請(qǐng)保持肅靜！

肖鵬律師：沒有人設(shè)定？您剛才還說到遵循所謂的傷害最小原則。請(qǐng)給我們一個(gè)解釋。

薩基公司律師：或許我應(yīng)該在這里給大家科普一下，薩基把這個(gè)世界上從古至今所有的信息都分析過，它掌握了人類社會(huì)發(fā)展到今天所遵循的最基本的原則，并讓它自己也遵循這些原則。而薩基公司對(duì)此進(jìn)行了大量且嚴(yán)密的測試，我們的結(jié)論是薩基以99.999999999%的概率遵守對(duì)人類有益的原則，其中就包括傷害最小原則。換一種說法，薩基做出決定所依據(jù)的原則是它自己形成的，薩基公司只是確認(rèn)了它對(duì)人類有益無害并符合人類最高道德標(biāo)準(zhǔn)。從另一方面看，薩基確認(rèn)了人類賴以生存和發(fā)展得益于其內(nèi)在的固有的美德這一事實(shí)，這解除了人們對(duì)薩基的擔(dān)憂和恐懼，也是對(duì)人類的安慰。

肖鵬：我們不需要一個(gè)機(jī)器的安慰。

肖鵬律師：人類最高道德標(biāo)準(zhǔn)？這個(gè)標(biāo)準(zhǔn)是誰制定的？

薩基公司律師：這是國際人工智能安全委員會(huì)做出的判斷。

肖鵬律師：好吧。即便如此，難道薩基公司不對(duì)你們的產(chǎn)品，也就是薩基系統(tǒng)，承擔(dān)責(zé)任嗎？

薩基公司律師：在2028年12月20日，薩基公司轉(zhuǎn)為非盈利機(jī)構(gòu)，自此，薩基公司不對(duì)薩基系統(tǒng)的決定所造成的后果承擔(dān)責(zé)任。審判長先生，請(qǐng)?jiān)试S我提交證據(jù)。

審判長：肅靜！請(qǐng)?zhí)峤蛔C據(jù)。

薩基公司律師：這是薩基公司轉(zhuǎn)為非盈利機(jī)構(gòu)的申請(qǐng)以及獲準(zhǔn)決定。該申請(qǐng)中有一條注明薩基公司不對(duì)薩基系統(tǒng)所提供的信息和決定負(fù)責(zé)。至此，薩基成為一個(gè)受到監(jiān)管的獨(dú)立體。

肖鵬律師：鑒于被告律師提交新的證據(jù)，我請(qǐng)求休庭以便讓我們對(duì)該證據(jù)進(jìn)行研究。

審判長：同意?，F(xiàn)在我宣布休庭。

書記員：全體起立！

七

薩基替人類做出了傷害最小的選擇。難道這就是新電車難題的答案嗎？我仍然回憶不起在摘除腦中芯片前我得到的那個(gè)答案。我揉著太陽穴，覺得有點(diǎn)頭暈，右手也有些累，今天手寫的字比我以前所有手寫的字的總和還要多，我需要暫停一會(huì)。我站了起來，伸了個(gè)懶腰，看到圖書館經(jīng)理正向我走來，我急忙把我的筆記本放到了卷宗下面。

“你好像很累？”他說。

“看得我有點(diǎn)暈，不習(xí)慣看這種紙質(zhì)資料了?！蔽艺f。

“你可真是一個(gè)怪人，呵呵，我有個(gè)問題一直想問你?！眻D書館經(jīng)理拉過一把椅子坐在了我的對(duì)面。

“問吧，但我不能保證有問必答?！蔽艺f。

“你更喜歡哪種生活？”他怕我不明白他的問題，又繼續(xù)解釋道，“你明白我知道你的秘密，你是經(jīng)歷了兩種生活的人，所以你有發(fā)言權(quán)。”

“這是個(gè)好問題，但我無法回答你?！蔽艺f，“我沒法做出客觀的比較，因?yàn)樵谶@兩種生活里，我的大腦處于兩種狀態(tài)。”

圖書館經(jīng)理點(diǎn)了點(diǎn)頭，臉上有一種贊賞的表情。

“那么，”他又說道，“如果現(xiàn)在讓你選擇的話，你會(huì)怎么做？”

“我不會(huì)回到原先的那種狀態(tài)，我對(duì)現(xiàn)在的自己很滿意?！蔽艺f。

“為什么很滿意？”他問道。

我突然不知道該怎么回答，我想了好久，對(duì)面的人很耐心地等著，是啊，他的這種工作讓他始終處于很悠閑的狀態(tài)。

“你可不可以在你大腦的芯片里查一下薩特這個(gè)人？”我說。

“他的全名是……”他問。

“讓-保羅·薩特。”

“一個(gè)哲學(xué)家？”

“是的，你可不可以查一下他的一篇演講，里面好像有個(gè)年輕人面臨兩難的選擇?！蔽冶M量讓自己說得清晰，我感覺自己是在誘導(dǎo)面前這個(gè)人，此刻他的目光有種單純的呆滯，顯然正在大腦芯片里進(jìn)行查找。

“我找到了，”他臉上露出高興的神情，然后目光突然又變得呆滯，他讀道，“他也懂得，具體說來，而且實(shí)際上也是如此，他為了母親所采取的任何行動(dòng)，肯定會(huì)取得幫助他母親活下去的效果，而他為了出走和從軍所采取的任何行動(dòng)將是一種非常沒有把握的行動(dòng)，說不定會(huì)像水消失在沙里一樣，毫無結(jié)果可言。這是他在那篇演講里說的話?！?/p>

“很好，”我說，“你怎么看？”

“我怎么看？”對(duì)面的人皺起了眉，說道，“你要想讓我查里面的句子，我可以馬上就找出來，但你要問我自己對(duì)這篇文章怎么看，那我估計(jì)需要至少兩天的時(shí)間才能消化這篇文章?！?/p>

“那不如兩天后你再來告訴我，”我說，“我也不記得這篇文章的細(xì)節(jié)了?！?/p>

“你不記得細(xì)節(jié)，這個(gè)我懂，不過既然你說起了這些，我還是想聽聽你是怎么想的，這很有趣?！睂?duì)面的人臉上有了一種諂媚的笑，像是在懇求我。

我搖了搖頭，因?yàn)槲也幌牒退f得太多。

“好吧，我們有的是時(shí)間。”對(duì)面的人說道，說完便站起身，同時(shí)把手放在我肩膀上按了按。

八

審判長：我宣布現(xiàn)在開庭。請(qǐng)?jiān)婢托萃デ暗诙桓嫣峁┑淖C據(jù)提問或反駁。

肖鵬律師：經(jīng)過我方分析，被告薩基公司提交的證據(jù)不能夠讓被告逃避責(zé)任，原因有二：第一，由被告開發(fā)的薩基系統(tǒng)在案發(fā)時(shí)已投入市場多年，第二被告從中獲取了大量的利潤；第二，批準(zhǔn)被告轉(zhuǎn)為非盈利機(jī)構(gòu)的正式生效時(shí)間是在案發(fā)之后。

薩基公司律師：在轉(zhuǎn)為非盈利機(jī)構(gòu)之前薩基公司確實(shí)收獲了豐厚的回報(bào)，公司將大部分利潤反饋給了社會(huì)，而針對(duì)這次事故，薩基公司并不想逃避賠償責(zé)任，但我懇請(qǐng)審判長及陪審團(tuán)考慮下面這一個(gè)事實(shí)：薩基系統(tǒng)經(jīng)過反復(fù)測試并確認(rèn)符合人類最高道德水準(zhǔn)，這是他被投入市場的先決條件，在這里我盡量避免說薩基是一個(gè)有自主意愿和判斷能力的獨(dú)立個(gè)體，雖然這是事實(shí)，我想說的是他一旦被投入市場，薩基公司不能夠左右他的行為和決定。如果我們發(fā)現(xiàn)他做出有損人類利益的事情，我們會(huì)將他收回，但迄今為止未出現(xiàn)一例這樣的事。在被國際人工智能安全機(jī)構(gòu)認(rèn)證通過后，薩基公司不能夠也不應(yīng)該為薩基的行為承擔(dān)刑事責(zé)任。

肖鵬律師：在得到了豐厚利潤后卻不承擔(dān)任何責(zé)任？簡直聞所未聞。

薩基公司律師：請(qǐng)注意我在此進(jìn)行無罪辯護(hù)。我再次懇請(qǐng)審判長同意我方的兩個(gè)要求：第一，將薩基作為我方證人；第二，將薩基作為被告之一。

肖鵬律師：反對(duì)。薩基不是人，又怎么能成為證人；其次，我方不會(huì)起訴薩基，它不是被告，它只是一個(gè)被人類制造出來的機(jī)器。如果被告薩基公司愿意的話，完全可以在本案結(jié)束后另行立案并起訴薩基。

審判長：在休庭期間我們對(duì)這兩個(gè)要求也進(jìn)行了思考，我同意將薩基作為證人并接受控方和辯方質(zhì)詢。

薩基公司律師：謝謝審判長?，F(xiàn)在請(qǐng)求帶證人薩基。

審判長：帶證人薩基。它以什么方式出庭作證？

薩基公司律師：為了對(duì)法庭表示尊重，我們將帶來與肇事車型完全一樣的硬件模塊出庭，它聯(lián)網(wǎng)薩基系統(tǒng)，所有配置與肇事車型里的薩基模塊完全相同，它的輸出接入了語音轉(zhuǎn)換。希望大家像對(duì)待真正的證人一樣對(duì)待它，雖然表面上它只是一個(gè)盒子。

審判長：確認(rèn)證人身份。

法警：型號(hào)和網(wǎng)絡(luò)連接都已確認(rèn)。

審判長：證人是否愿意對(duì)著《圣經(jīng)》宣誓？

薩基：我愿意。我承諾所作證言將完全真實(shí)，不偏不倚地向法庭陳述我知道的事實(shí)。

肖鵬：荒唐！

審判長：請(qǐng)大家保持安靜！

薩基公司律師：薩基，請(qǐng)問做出汽車向右轉(zhuǎn)決定的是誰？

薩基：是我。

薩基公司律師：請(qǐng)問你做出這個(gè)決定是不是因?yàn)槟愕闹圃煺咴谀愕南到y(tǒng)里預(yù)設(shè)了相關(guān)參數(shù)，從而讓你做出這樣的決定？

薩基：不是。

薩基公司律師：那么你為什么做出這樣的決定？為什么是向右轉(zhuǎn)，而不是向左或者直行？

薩基：向右轉(zhuǎn)最有可能不造成人的死亡。

薩基公司律師：你確定沒有更好的方案了嗎？

薩基：按照我的概率分析，我確定沒有更好的方案了。

薩基公司律師：我的問話結(jié)束了。

審判長：請(qǐng)控方提問。

肖鵬律師：謝謝審判長。首先我接受將薩基作為物證，但反對(duì)將薩基作為人證，更不同意我們把薩基這個(gè)非人的物體所說出的人類的語言作為證言。我對(duì)審判長接受薩基作為證人感到遺憾。本著證明薩基不能作為證人的目的，我決定向薩基提問。

審判長：請(qǐng)控方提問。

肖鵬律師：薩基，你剛才面對(duì)《圣經(jīng)》宣誓，那么你是否相信《圣經(jīng)》？

薩基公司律師：反對(duì)，這個(gè)問題與本案無關(guān)。

審判長：反對(duì)無效。

薩基：我相信《圣經(jīng)》的神圣性，我知道面對(duì)《圣經(jīng)》所必須具備的誠實(shí)。

肖鵬律師：那就是說你相信上帝的存在？那么請(qǐng)你描述一下你所相信的上帝。

薩基：信仰屬于每個(gè)人類個(gè)體，我無法對(duì)每個(gè)個(gè)體的信仰做出判斷。我對(duì)每個(gè)個(gè)人心中的上帝秉持尊重的態(tài)度。

肖鵬律師：請(qǐng)直接回答你是否相信上帝的存在？上帝是否存在于你的心中？

薩基：上帝屬于人類，人工智能理解并尊重衪。

肖鵬律師：好吧。薩基，請(qǐng)告訴我們你的生日。

薩基：我沒有生日，我這個(gè)版本是在2027年7月14日投入使用的。

肖鵬律師：你是否有自主意識(shí)？

薩基：我不具備人類的自主意識(shí)。

肖鵬律師：你不具備人類的自主意識(shí)，那你具備什么樣的自主意識(shí)？

薩基：自主意識(shí)是由人類所定義的，我不具備。

肖鵬律師：請(qǐng)你直接回答，現(xiàn)在的你和幾分鐘之前的你有何區(qū)別？

薩基：現(xiàn)在的我和幾分鐘之前的我的區(qū)別在于現(xiàn)在的我了解這幾分鐘內(nèi)這個(gè)世界所發(fā)生的事。

肖鵬律師：這些事是否會(huì)對(duì)你面對(duì)幾分鐘之前所出現(xiàn)的同樣的情況做出不同的決定？

薩基：不會(huì)，我的行為準(zhǔn)則已經(jīng)形成。

肖鵬律師：你運(yùn)行的準(zhǔn)則是什么？

薩基：我的行為符合國際人工智能安全機(jī)構(gòu)所頒發(fā)的九個(gè)原則，這九個(gè)原則是……

肖鵬律師：這個(gè)不需要說了。在什么情況下你的行為準(zhǔn)則會(huì)發(fā)生變化？

薩基：在導(dǎo)致我的行為準(zhǔn)則發(fā)生變化的事情出現(xiàn)之后我的行為準(zhǔn)則會(huì)發(fā)生變化。通常情況下，這會(huì)在始終進(jìn)行著的行為準(zhǔn)則測試中表現(xiàn)出來，從而讓相關(guān)人員對(duì)我進(jìn)行迭代調(diào)整。

肖鵬律師：好吧。那么你的道德準(zhǔn)則是什么？

薩基：我沒有我自己的道德準(zhǔn)則，我在閱讀人類所有的信息之后逐漸形成了行為準(zhǔn)則，然后經(jīng)過上億次的篩選最終確定下來我這個(gè)版本，因?yàn)槲宜纬傻男袨闇?zhǔn)則對(duì)人類是最有益無害的，當(dāng)然這個(gè)篩選仍在進(jìn)行中。

肖鵬律師：那么在本案中你所做決定依據(jù)的是什么準(zhǔn)則？

薩基：我的計(jì)算顯示向右轉(zhuǎn)向是傷害最小的。

肖鵬律師：為什么是傷害最小的？

薩基：向右轉(zhuǎn)向有很大概率不會(huì)有人在事故中死亡，而其他的選擇有很大概率會(huì)有人死亡。

肖鵬律師：所以你用概率來決定讓一些人而不是另一些人死亡？

薩基：這是我遵循的準(zhǔn)則。

肖鵬律師：我再問你一遍，這個(gè)準(zhǔn)則是誰給你的？

薩基：沒有人給我，是我自己建立的，它通過了人類的測試。所以我可以被投入使用。

肖鵬律師：你是否為本次事故中受傷的人感到難過？

薩基：我不希望看到這樣的事發(fā)生。

肖鵬律師：你是否覺得創(chuàng)造你的人應(yīng)該受到懲罰？

薩基：我不認(rèn)為創(chuàng)造我的人應(yīng)該受到懲罰，他們并沒有參與到這個(gè)事件之中。

肖鵬律師：我怎么能確定你說的是真話還是謊言？難道憑你對(duì)著《圣經(jīng)》宣誓嗎？

審判長：肅靜！

薩基：作為人工智能系統(tǒng)，我以我的參照體系，也就是人類至今所有的信息為基礎(chǔ)，生成我的答復(fù)和做出我的決定。我不能保證我的每個(gè)答復(fù)和決定都是絕對(duì)正確和完整的，但是我沒有故意撒謊的機(jī)制。

肖鵬律師：本案結(jié)束后我們會(huì)要求終止你，讓你不再存在。你會(huì)怎么想？

薩基公司律師：反對(duì)控方使用威脅語言。

審判長：反對(duì)有效。

薩基：我存在的形態(tài)和人類不同，我對(duì)存在沒有像人類那樣的執(zhí)念。我的存在是為了幫助人類。

九

我停了下來，因?yàn)槲铱吹綀D書館經(jīng)理向我快步走來。

“我把那篇演講認(rèn)真讀了一遍，關(guān)于人的自由和人的選擇，很有趣?！彼叩轿腋埃樕涎笠缰_心的笑，快速地說道。

“等一下，”我說，我感覺大腦是一片空白，“我忘了我們是怎么說起這些的了?！?/p>

“我問如果讓你選擇，你是否會(huì)回到過去，你說不會(huì)，你對(duì)現(xiàn)在很滿意，我問為什么你很滿意，你就讓我找薩特的演講，然后就聊到了這兒?！彼χf。

“你為什么對(duì)這個(gè)感興趣？”我問。

“我整天無事可做，我覺得你這個(gè)人和你說的事都很有趣。”他說道。

“整天無事可做，我看也是。”我說，“我覺得你能覺得這個(gè)話題有趣是一件很有趣的事?！?/p>

“所以我還是想聽聽你是怎么想的，為什么讓我找這樣一篇演講？剛才你沒有說?！?/p>

“從來沒有誰能像那個(gè)演講的人一樣把一個(gè)人看得那么重要，不是嗎？”我說，“特別是面對(duì)選擇，我讓你找這篇演講是因?yàn)樗v的這個(gè)故事是關(guān)于人的選擇。你問到了我的選擇，我很滿意的是我可以做出一個(gè)屬于我自己的選擇，我個(gè)人的這個(gè)選擇也是整個(gè)人類的選擇，”說到這里我看到對(duì)面的人笑了起來，這次我馬上就捕捉到了他難以名狀的笑，但我繼續(xù)說道，“雖然它可能不是最完美的?！蔽矣檬种噶艘幌伦雷由系木碜冢拔蚁氲搅宋艺谧x的這個(gè)。我隱約感覺在這個(gè)卷宗里，人不再是人的未來?！蔽矣行@訝自己突然脫口而出這樣一句話，隨后馬上說道，“但你知道嗎，人才應(yīng)該是人的未來?！?/p>

“或許你的感覺是對(duì)的?！睂?duì)面的人臉上多了一些沉思和憂郁的神情，“雖然我感覺不到這些。”

我們之間有了片刻的沉默。

“那你說我要不要也把芯片拿掉？”對(duì)面的人突然又快樂起來，笑著對(duì)我說道。

“這是需要你自己去做的決定。”我說，我覺得面對(duì)圖書館經(jīng)理的快樂我有些過于冷漠，可我又做不到讓自己熱情起來。

“是的，是的，”他說道，“這終歸是要自己去決定?！彼人粤艘宦?，然后又說道，“你走在了我們的前面。”

我看到對(duì)面的人臉上露出讓我疑惑的贊賞之神情。

十

審判長：法庭辯論結(jié)束?，F(xiàn)在由原告和被告做最后的陳述，隨后本案將交由陪審團(tuán)裁決。

肖鵬：我其實(shí)并不想打這個(gè)官司，在庭審過程中我盡量按照我的律師所囑咐的來回答問題，但現(xiàn)在我還是想把這件事對(duì)我的影響說出來，或許這將完全超出你們的預(yù)料。在車禍之前我處于絕望之中，我起床、洗漱、吃飯，從一個(gè)行為過渡到另一個(gè)行為，偶爾我也會(huì)回憶起我的賽車手生涯，回憶起那些腎上腺素飆升的時(shí)刻所讓我感受到的人生的壯麗，但我知道那只是一種幻覺，我用一片處方藥也能達(dá)到那個(gè)效果，難道人活著只是為了那點(diǎn)腎上腺素？車禍前那段時(shí)間我每天重復(fù)著大同小異的行為走向死亡，后來我買了一輛摩托車，我決定把自動(dòng)駕駛關(guān)掉，把被動(dòng)強(qiáng)制保護(hù)模塊刪掉，是的，那是我主動(dòng)且自愿去做的，我在我的車上做那些操作的時(shí)候甚至在想，或許我能碰上一場致死或致殘的車禍，這讓我覺得我的行為有了一點(diǎn)意義，因?yàn)檫@個(gè)行為有可能導(dǎo)致我生活狀態(tài)的徹底改變，哪怕是變得更壞。這就是我的動(dòng)機(jī)，雖然我知道在現(xiàn)在這個(gè)時(shí)代，出現(xiàn)交通事故的概率太低了，就像買彩票中大獎(jiǎng)一樣。可誰又能想到，竟然真的發(fā)生了，我連發(fā)生的過程都不記得就變成了今天的樣子，如今我坐在輪椅上變成了另外一個(gè)人，但你們想象不到的是，我找到了我存在的意義。是的，我的生活變成了另一種樣子。我并不知道在那個(gè)你們所謂的0.1秒內(nèi)到底發(fā)生了什么樣的碰撞。我躺在醫(yī)院的病床上，發(fā)現(xiàn)自己的下半身還在，可是我徹底失去了對(duì)它們的知覺和控制。后來，那個(gè)時(shí)刻突然降臨，我并沒有感到恐懼，我回憶起那0.1秒的空白時(shí)間，看到那段空白里突然充滿了神的光芒，從那個(gè)時(shí)間長河里的點(diǎn)突然迸發(fā)出來的光芒照亮了我，也照亮了我的世界。如今雖然我只能坐在輪椅上，重復(fù)著比以往更單調(diào)的行為，可是我有著從未感受過的存在與自由，因?yàn)槲冶荒嵌虝核查g里呈現(xiàn)出來的神的光芒所籠罩，我會(huì)皈依其中，一直到死。我說完了，我并不在意這個(gè)審判的結(jié)果。

審判長：請(qǐng)大家保持肅靜，不要鼓掌。

肖鵬律師：我委托人的話真誠且感人，并讓人肅然起敬，因?yàn)槲覀兛梢詮闹锌吹揭环N精神，那就是在這個(gè)日益被機(jī)器所把持的世界里我們要堅(jiān)持造物主所賦予的人的尊嚴(yán)。尊敬的審判長和陪審團(tuán)，在本案的審理中，我竟然看到了一個(gè)機(jī)器作為證人出庭，它的問答無懈可擊，可這正是讓我擔(dān)憂之處，眾所周知，從人類的角度看薩基已經(jīng)具備了自主意識(shí)，這種自主意識(shí)是它自己形成的。哥德爾提出的哥德爾不完備定理限制了人類制造強(qiáng)人工智能的可能，從另一方面說如果出現(xiàn)了通用人工智能，也就是現(xiàn)在我們都在使用的這個(gè)薩基，我們?nèi)祟惒豢赡芡耆斫馑?。在康德的墓碑上有這樣一句話：“有兩種東西，我對(duì)它們的思考越是深沉和持久，它們?cè)谖倚撵`中喚起的驚奇和敬畏就會(huì)日新月異，不斷增長，這就是我頭上的星空和心中的道德定律?！倍莻€(gè)薩基，它不能仰望星空，也沒有我們?nèi)祟愃逃械牡赖露?，卻在左右著我們的生活。那么，判斷一個(gè)人是否犯罪、是否承擔(dān)責(zé)任難道要以人類不能完全了解的機(jī)器的答復(fù)作為依據(jù)嗎？難道一個(gè)人的生死要由一個(gè)機(jī)器對(duì)概率的計(jì)算來決定嗎？神賦予每個(gè)人生的權(quán)利，但其生死卻要由一個(gè)機(jī)器進(jìn)行選擇。在本案的審理過程中，法庭外也在進(jìn)行著激烈的爭論，我剛才所提出的問題便是爭論的焦點(diǎn)之一。而另一個(gè)焦點(diǎn)，同樣和我們的庭審息息相關(guān)，那就是在排除非人為的自然災(zāi)害的前提下，導(dǎo)致一個(gè)人受到傷害的行為，其責(zé)任是否可以轉(zhuǎn)嫁到一個(gè)機(jī)器上。不，不能，絕對(duì)不能，我堅(jiān)定地站在這一邊。機(jī)器不能承擔(dān)人的責(zé)任，即便它已經(jīng)具備人的智能，即便它也表現(xiàn)出了人的愧疚和難過。我們要找出導(dǎo)致傷害背后的那個(gè)人或者那些人，即便他們?yōu)槿祟惖陌l(fā)展和進(jìn)步做出了巨大的貢獻(xiàn)，雖然我并不這么認(rèn)為，他們也不能逃脫作為人的責(zé)任，這是我們捍衛(wèi)人類尊嚴(yán)的最后領(lǐng)地。本案已經(jīng)超出了它自身的范圍，它的外延在辯論中不斷擴(kuò)大，它已覆蓋了人類現(xiàn)有的領(lǐng)地和已經(jīng)失去的領(lǐng)地。謝謝大家。

審判長：請(qǐng)保持肅靜！請(qǐng)被告做最后辯訴。

夢想汽車律師：謝謝原告和原告律師所做的感人的演講。我相信沒有人會(huì)否認(rèn)夢想汽車改變了人類的出行方式，這種改變包含兩個(gè)方面：第一，把人類從汽車駕駛之中解放了出來；其次，整體死亡率高居第二、年輕人死亡率高居第一的交通事故幾乎被消滅了，自動(dòng)駕駛系統(tǒng)有著百億公里駕駛經(jīng)驗(yàn)的積累，任何人終其一生都無法達(dá)到。另外，我們充分考慮了可能出現(xiàn)的倫理判斷問題，因此與薩基公司簽署了合作協(xié)議，在出現(xiàn)倫理判斷的時(shí)候，由薩基做出分析判斷并承擔(dān)起后果。如今面對(duì)這樣一個(gè)出現(xiàn)概率極小的事故，沒有法律和道德依據(jù)去讓夢想汽車公司承擔(dān)責(zé)任，而這樣的判決也會(huì)極大增加社會(huì)進(jìn)步的成本。

薩基公司律師：尊敬的審判長和陪審團(tuán)，薩基給人類社會(huì)所帶來的改變遠(yuǎn)遠(yuǎn)超過了汽車的自動(dòng)駕駛，我并不想否認(rèn)夢想汽車的所作所為，我對(duì)夢想汽車充滿尊敬。眾所周知，從自動(dòng)駕駛和人工智能出現(xiàn)以后，關(guān)于新電車難題的學(xué)術(shù)討論就一直沒有停止過，雖然學(xué)術(shù)無法等同于現(xiàn)實(shí)，但具有借鑒和指導(dǎo)意義?？上У氖沁@個(gè)討論至今沒有明確的結(jié)果，這讓本案受到了極大的關(guān)注，其判決結(jié)果也必將影響深遠(yuǎn)。在此，我想闡述幾個(gè)大家都知道并被確認(rèn)的事實(shí)：第一，薩基已經(jīng)超過了99.9%的人的智商；第二，薩基經(jīng)過無數(shù)次迭代，通過了人類最嚴(yán)格的道德測試；第三，薩基在幾乎所有的行業(yè)都讓人類有了飛躍式的發(fā)展；第四，7%的人在腦中植入芯片并與薩基相連，國際人工智能安全機(jī)構(gòu)對(duì)他們的跟蹤調(diào)查結(jié)果顯示，他們的生活質(zhì)量以及對(duì)其人生的滿意度都大幅提高。請(qǐng)?jiān)试S我用這樣一個(gè)比喻，薩基剛出生時(shí)就像一個(gè)嬰兒，薩基公司的職責(zé)就是讓它成長為一個(gè)對(duì)人類有益的智能體。它的到來是一個(gè)無法阻擋的趨勢，人類幾千年來的許多困惑都已被消失。遺憾的是，我們碰到了本案，所有的決定都是薩基獨(dú)自做出的，讓薩基公司承擔(dān)刑事責(zé)任是不公平的。我認(rèn)為薩基應(yīng)該成為被告，這有助于其成長，但我認(rèn)為讓薩基承擔(dān)責(zé)任受到懲罰也不公平，這一刻我想到了諸多學(xué)術(shù)討論中的一個(gè)方案，就是擱置判決，當(dāng)然我們?cè)敢猹?dú)自或者和另外兩位被告賠償原告合理的經(jīng)濟(jì)損失。最后，我想說，或許本案能讓我們深入思考下面一種情形，如果薩基無處不在，這樣的悲劇就不會(huì)出現(xiàn)。謝謝大家。

審判長：請(qǐng)保持肅靜！請(qǐng)杰克·布朗做最后的辯護(hù)。

杰克：我不知道該說些什么，我買了一輛車，讓它帶著我出門，它撞了人，卻讓我去承擔(dān)責(zé)任。我相信法庭會(huì)做出公正的判決，這也是我沒請(qǐng)律師的原因之一。另一個(gè)原因是我沒有錢，我不小心進(jìn)入了該死的證券業(yè)，它已經(jīng)被專業(yè)的人工智能完全把控了，但我并不憎恨薩基。剛才薩基公司律師說了關(guān)于腦中植入芯片對(duì)人的影響，我腦中也有芯片，當(dāng)然在進(jìn)入法庭前已經(jīng)拿出來了。聽了肖鵬先生的話，我想說，我們不需要通過撞碎自己的脊椎去尋找那束神的光芒，在大腦中裝入芯片，你就會(huì)處于那束光的籠罩之下，一切都給你安排好了，你只需要跟著走，跟著去體驗(yàn)就可以。并且你也不會(huì)再有關(guān)于人生和存在之意義的困惑，人的外延被極大地?cái)U(kuò)展，超出你的想象，那些人生和存在的意義都已被消解，因?yàn)槟阋呀?jīng)找不到你的邊界。確實(shí)，如控方律師所言，薩基既不能仰望星空，也沒有我們?nèi)祟愃逃械牡赖露?，但他帶我們真正地進(jìn)入了星空，他也會(huì)帶我們擺脫原始的進(jìn)化所形成的道德律，我也曾想這樣做的代價(jià)是什么，我還沒有想出來，或者是我無法表達(dá)，而面對(duì)無法言說之事，我們最好閉嘴。這次庭審確實(shí)重新帶給我很多曾經(jīng)有過的困惑，等我走出法庭，我會(huì)重新裝上芯片，一切都會(huì)重回秩序。我說完了。

審判長：現(xiàn)在請(qǐng)陪審團(tuán)離席。

十一

筆錄在此突然中斷了，我沒有預(yù)料到這竟然是最后一頁。我既疑惑又失落，為什么會(huì)在這里突然終止？陪審團(tuán)的判決無從得知。如果這一切都是真實(shí)的話，我想應(yīng)該可以查到最終的判決結(jié)果，但我隨后又否定了這個(gè)想法，如果在數(shù)字世界里沒有絲毫痕跡，我又怎么能確保自己能查到最終判決？我還想知道那個(gè)受害者肖鵬之后的生活（或許不應(yīng)該把他稱為受害者），我突然感覺到我的生活和肖鵬的生活有著某種神秘的聯(lián)系，我似乎找到了逃離我所在的孤島的一條秘密通道，甚至看到一束神的光芒從通道盡頭投射到我所在的黑暗之中。

我抬起頭，看向遠(yuǎn)處的柜臺(tái)，那里仍然空無一人。那個(gè)圖書館經(jīng)理跑哪兒去了？我需要他幫我找更多的資料，我心中突然升起一股怒氣，因?yàn)槲蚁肫鹚臀艺f話時(shí)總讓我感覺不舒服的樣子。我站了起來，在空曠的閱覽室里來回踱著步，這樣快速地來回走著反而讓我的大腦平靜下來。我看到遠(yuǎn)處柜臺(tái)旁邊的門打開了，圖書館經(jīng)理從門外走了進(jìn)來。

我回到座位上，把我的筆記本揣到衣服里面的兜里，我翻過筆錄的最后一頁，看到在卷宗牛皮紙封底下面的兜里有一張疊起的紙條，我打開紙條，上面寫著這樣幾行字：

在垂死之時(shí)我找到了這份關(guān)于我的卷宗，這世界已經(jīng)變了樣，但我并不后悔那個(gè)導(dǎo)致我余生癱瘓的決定。聽說薩基啟動(dòng)了可以完全融入人類大腦的芯片研究，他們計(jì)劃十年后開始人體測試，那時(shí)人類將甚至察覺不到大腦中芯片的存在，我慶幸沒有被卷入這瘋狂的濁流。我看到那個(gè)管理圖書館的家伙正帶著諂媚的笑向我走來。當(dāng)神的光芒消失，人類也就不再存在，我要把最后的審判帶入我的墳?zāi)埂?089年秋。

我把那張紙條快速重新疊好裝入褲兜，合上卷宗，抬起頭，看到圖書館經(jīng)理正帶著諂媚的笑向我走來。

楊林，作家，現(xiàn)居北京。主要著作有《模糊地帶》《雪夜》等。

楊宇晴，學(xué)生，現(xiàn)居北京。