社會(huì)技術(shù)耦合障礙與自動(dòng)駕駛汽車歸責(zé)難題破解

宋春艷

（湖南省社會(huì)科學(xué)院/湖南省人民政府發(fā)展研究中心，湖南長沙 410003）

世界各國面對(duì)碳排放的壓力和燃油車禁售時(shí)間表的倒計(jì)時(shí)，加快了電動(dòng)汽車的部署。自動(dòng)駕駛汽車具有廣闊的發(fā)展前景，各國都加大力度參與到市場的分割和競賽之中。然而，近年來頻頻曝光的自動(dòng)駕駛汽車事故及歸責(zé)難題，不僅顯現(xiàn)出當(dāng)前自動(dòng)駕駛車輛的一些安全隱患，還將潛藏其中的社會(huì)技術(shù)耦合障礙暴露無遺。那么，應(yīng)當(dāng)如何掃除障礙破解歸責(zé)難題呢？

1 研究背景

自動(dòng)駕駛汽車（self-driving automobile/autonomous vehicles）指在沒有人工實(shí)時(shí)輸入情況下由計(jì)算機(jī)（即自動(dòng)駕駛系統(tǒng)）控制汽車的轉(zhuǎn)向、制動(dòng)和加速等的機(jī)動(dòng)車輛。自動(dòng)駕駛汽車雖然缺乏實(shí)時(shí)人工輸入，但并不必然否定人在車輛操控中的作用［1］。國際自動(dòng)機(jī)工程師學(xué)會(huì)（SAE）按照計(jì)算機(jī)（即，駕駛系統(tǒng)）與人在車輛操控中的角色將汽車自動(dòng)化級(jí)別分成6 個(gè)等級(jí)（0～5 級(jí)），本研究中論及的自動(dòng)駕駛汽車級(jí)別為3～5 級(jí)，即有條件自動(dòng)駕駛（計(jì)算機(jī)自動(dòng)操控車輛，需要人類駕駛員時(shí)會(huì)主動(dòng)提醒，駕駛員無需視線關(guān)注）、高度自動(dòng)駕駛（即使人類駕駛員沒有對(duì)計(jì)算機(jī)的幫助請求作出反應(yīng)，車輛也可以自動(dòng)行駛，駕駛員無需思考）和完全自動(dòng)駕駛（計(jì)算機(jī)在任何場景下都可以操控車輛，即“無人駕駛”）［2］?？梢?，自動(dòng)駕駛汽車的駕駛系統(tǒng)對(duì)車輛的行駛產(chǎn)生了控制作用，按照責(zé)任控制論的觀點(diǎn)，自動(dòng)駕駛汽車必須承擔(dān)相應(yīng)的責(zé)任［3］，然而自動(dòng)駕駛汽車不具備責(zé)任承擔(dān)能力，因此出現(xiàn)歸責(zé)難題。所謂自動(dòng)駕駛汽車歸責(zé)難題，指的是自動(dòng)駕駛汽車在行駛中由于人機(jī)混合控制引發(fā)了新的“責(zé)任缺場”“責(zé)任鴻溝”和“多人責(zé)任”或“多手問題”（many hands problem）等事故責(zé)任難以劃定的問題。歸根結(jié)底，都是由于傳統(tǒng)的人類社會(huì)道德框架已無法適應(yīng)新的技術(shù)。“責(zé)任缺場”指的是，由于無法判斷是汽車還是司機(jī)的過失導(dǎo)致事故，汽車生產(chǎn)商和司機(jī)都拒絕承擔(dān)責(zé)任。“責(zé)任鴻溝”指的是，在人機(jī)混合控制中沒有人能夠?qū)ψ詣?dòng)駕駛汽車行為進(jìn)行全部控制從而為其事故后果承擔(dān)責(zé)任?！柏?zé)任鴻溝”實(shí)質(zhì)上是機(jī)器智能體的自主性不斷增強(qiáng)但又尚未獲得責(zé)任主體地位階段的一種責(zé)任無著落現(xiàn)象［4］。隨著自動(dòng)駕駛汽車層級(jí)提升，其自主決策水平越高，“責(zé)任鴻溝”產(chǎn)生的可能性越大?！岸嗍謫栴}”指的是，汽車事故責(zé)任涉及多個(gè)利益相關(guān)者，但卻出現(xiàn)相互推諉責(zé)任的現(xiàn)象?？梢姡柏?zé)任缺場”是“多手問題”的重要表現(xiàn)，且“責(zé)任缺場”或“責(zé)任鴻溝”都可能成為“多手問題”的誘因，因此，歸責(zé)難題主要還是屬于“多手問題”。“多手問題”也被稱為“多人責(zé)任問題”，最早應(yīng)用于行政管理領(lǐng)域公務(wù)人員的問責(zé)討論，由Thompson［5］于1980 年提出，其核心含義是不同層級(jí)的行政人員在不同階段或環(huán)節(jié)以不同的方式對(duì)政府的決策產(chǎn)生影響，但最后卻很難判定壞的后果或負(fù)面效應(yīng)由誰負(fù)責(zé)。人機(jī)混合控制的自動(dòng)駕駛汽車為傳統(tǒng)的“多手問題”帶來了新的語境。自動(dòng)駕駛汽車責(zé)任歸屬難題不僅顯現(xiàn)出當(dāng)前自動(dòng)駕駛技術(shù)的不成熟，還將潛藏其中的新舊技術(shù)交替與原有社會(huì)制度和支撐條件的矛盾暴露無遺，而社會(huì)技術(shù)系統(tǒng)（socio-technical systems）理論（很多學(xué)者認(rèn)為這是一種“視角”）將技術(shù)與社會(huì)組織問題植根于日常工作世界，認(rèn)為社會(huì)和技術(shù)系統(tǒng)相互作用而又與人相關(guān)，正因?yàn)槿绱耍夹g(shù)與社會(huì)組織、個(gè)人行為只能聯(lián)合優(yōu)化，而不能單獨(dú)優(yōu)化其中的一個(gè)系統(tǒng)［6］。而自動(dòng)駕駛汽車作為一種新技術(shù)，在進(jìn)入人們生活后引發(fā)的歸責(zé)難題涉及到技術(shù)、生產(chǎn)廠家和經(jīng)銷商、消費(fèi)者等多個(gè)系統(tǒng)，因此運(yùn)用該理論將有助于破解自動(dòng)駕駛汽車的歸責(zé)難題。

2 社會(huì)技術(shù)系統(tǒng)下自動(dòng)駕駛汽車歸責(zé)難題的界定

2.1 社會(huì)技術(shù)系統(tǒng)的相關(guān)研究

社會(huì)技術(shù)系統(tǒng)是20 世紀(jì)中葉以來就備受關(guān)注的管理學(xué)理論，并被學(xué)者們在不同的領(lǐng)域加以發(fā)展。社會(huì)技術(shù)系統(tǒng)理論最早由英國塔維斯托克人類關(guān)系研究所的Trist 等［7］學(xué)者在20 世紀(jì)中葉創(chuàng)立，認(rèn)為任何生產(chǎn)性組織既是一個(gè)社會(huì)系統(tǒng)又是一個(gè)技術(shù)系統(tǒng)，強(qiáng)調(diào)組織中技術(shù)與人等要素的最佳組合，是從組織層面探討社會(huì)與技術(shù)關(guān)系的理論。社會(huì)技術(shù)系統(tǒng)也被應(yīng)用在從產(chǎn)業(yè)/行業(yè)層面探討社會(huì)與技術(shù)創(chuàng)新的緊密關(guān)聯(lián)，如荷蘭技術(shù)管理學(xué)教授Geels［8］運(yùn)用社會(huì)技術(shù)系統(tǒng)概念將創(chuàng)新從生產(chǎn)端擴(kuò)大到消費(fèi)端，建立了行業(yè)創(chuàng)新系統(tǒng)理論。Geels［8］將社會(huì)技術(shù)系統(tǒng)指為實(shí)現(xiàn)某種社會(huì)功能（如交通、通信等），由相互關(guān)聯(lián)的要素構(gòu)成的整體系統(tǒng)，包括人工制品、知識(shí)、資本、勞動(dòng)力、文化內(nèi)涵等。Steinhiber 等［9］通過研究英國和德國電動(dòng)汽車的發(fā)展障礙，總結(jié)出社會(huì)技術(shù)系統(tǒng)的六大要素：監(jiān)管和治理、基礎(chǔ)設(shè)施、研發(fā)獎(jiǎng)勵(lì)、技術(shù)與標(biāo)準(zhǔn)化、商業(yè)模式、消費(fèi)者等。孫啟貴［10］提出將社會(huì)技術(shù)系統(tǒng)分為微觀技術(shù)小生境（新技術(shù)的孵化場所）、中觀社會(huì)與技術(shù)域（包括技術(shù)、科學(xué)、用戶或市場、政策和社會(huì)文化等要素）和宏觀地景（包括宏觀經(jīng)濟(jì)、基礎(chǔ)設(shè)施、知識(shí)、制度和深層的文化模式等要素）等3 個(gè)層次。遲紅剛等［11］認(rèn)為，社會(huì)技術(shù)系統(tǒng)是社會(huì)與技術(shù)的結(jié)合，其特點(diǎn)是將整個(gè)社會(huì)技術(shù)系統(tǒng)作為分析單元。

近些年，社會(huì)技術(shù)系統(tǒng)理論被廣泛地應(yīng)用于事故成因或風(fēng)險(xiǎn)分析，如李華等［12］運(yùn)用社會(huì)技術(shù)系統(tǒng)理論，從人員、技術(shù)、組織管理、內(nèi)部環(huán)境和外部環(huán)境等5 個(gè)系統(tǒng)出發(fā)，探討了新冠病毒感染疫情中復(fù)工企業(yè)疫情失控的影響要素并提出風(fēng)險(xiǎn)防控的策略；王謙等［13］討論了社會(huì)技術(shù)系統(tǒng)框架下數(shù)字政府風(fēng)險(xiǎn)分析及其治理。在本研究中，筆者沿用了Geels［8］提出的社會(huì)技術(shù)系統(tǒng)分析框架，將自動(dòng)駕駛汽車歸責(zé)難題看作是技術(shù)系統(tǒng)與社會(huì)系統(tǒng)相互作用的結(jié)果，并根據(jù)歸責(zé)難題致因要素分為技術(shù)、環(huán)境、組織以及人員等4 類子系統(tǒng)，各類子系統(tǒng)的要素相互影響、相互作用，以保證系統(tǒng)的穩(wěn)定運(yùn)行。

關(guān)于自動(dòng)駕駛汽車歸責(zé)難題及其治理，已有研究大多從法學(xué)、保險(xiǎn)學(xué)或者倫理學(xué)等單一學(xué)科視角去探討，其中尤以法律學(xué)科視角居多，聚焦于自動(dòng)駕駛汽車交通事故侵權(quán)責(zé)任，如李碩［14］建議按照有無人類駕駛員參與的區(qū)分，將侵權(quán)責(zé)任分別適用交通事故責(zé)任和產(chǎn)品責(zé)任，并探討了自動(dòng)駕駛汽車刑事責(zé)任主體地位及其責(zé)任分配等問題；姚瑤［15］認(rèn)為，人工智能產(chǎn)品致害所涉過失犯罪刑事責(zé)任的認(rèn)定問題應(yīng)當(dāng)接受“法益保護(hù)優(yōu)先，兼顧科技發(fā)展”刑事政策的約束與指引；姜濤等［16］認(rèn)為，在現(xiàn)有的刑法理論范式下，自動(dòng)駕駛汽車涉罪之客觀構(gòu)成要件判定不清是導(dǎo)致刑事歸責(zé)認(rèn)定困難的關(guān)鍵原因；李爍［17］認(rèn)為，自動(dòng)駕駛汽車立法應(yīng)當(dāng)重點(diǎn)解決自動(dòng)駕駛汽車的法律地位、法律責(zé)任與保險(xiǎn)、隱私保護(hù)與網(wǎng)絡(luò)安全等問題。然而自動(dòng)駕駛汽車歸責(zé)問題還涉及到軟件設(shè)計(jì)者、電池生產(chǎn)者、高精地圖開發(fā)者、交通監(jiān)管部門、公安、司法等多個(gè)部門的多個(gè)主體，其難以歸責(zé)是新的技術(shù)系統(tǒng)與舊的社會(huì)系統(tǒng)耦合中出現(xiàn)障礙所致，只能運(yùn)用社會(huì)技術(shù)系統(tǒng)理論，從整體視角去審視問題，并提出綜合性的解決方案。

2.2 自動(dòng)駕駛汽車歸責(zé)難題的社會(huì)技術(shù)系統(tǒng)分析框架

從社會(huì)技術(shù)系統(tǒng)理論審視自動(dòng)駕駛汽車歸責(zé)難題，可以看到這一難題的產(chǎn)生不僅由于當(dāng)前自動(dòng)駕駛技術(shù)的不成熟，還歸因于潛藏其中的新舊技術(shù)交替與原有社會(huì)中人員觀念、制度、支撐條件等出現(xiàn)耦合障礙。而治理耦合障礙則需要處理好技術(shù)與社會(huì)中人員、組織、環(huán)境等子系統(tǒng)各個(gè)要素的關(guān)系（如圖1 所示）。其中，技術(shù)系統(tǒng)包括車載硬件、軟件以及高精地圖等；組織系統(tǒng)包括企業(yè)、行政部門和第三方監(jiān)管機(jī)構(gòu)等；環(huán)境系統(tǒng)包括交通法規(guī)、保險(xiǎn)、標(biāo)準(zhǔn)等軟環(huán)境建設(shè)和智慧交通基礎(chǔ)設(shè)施硬環(huán)境建設(shè)；人員系統(tǒng)主要指利益相關(guān)者及其觀念，尤其是工程師的負(fù)責(zé)任創(chuàng)新理念、使用者的道德責(zé)任意識(shí)等。

圖1 導(dǎo)致自動(dòng)駕駛汽車歸責(zé)難題的社會(huì)技術(shù)系統(tǒng)各要素關(guān)聯(lián)關(guān)系

3 社會(huì)技術(shù)系統(tǒng)下自動(dòng)駕駛汽車歸責(zé)難題的成因

自動(dòng)駕駛汽車是人機(jī)融合智能的代表。自動(dòng)駕駛汽車能夠?qū)崿F(xiàn)車與X（如人，車，路，云端等）的信息交換與共享，具備復(fù)雜環(huán)境感知、智能決策與協(xié)同控制的功能，因而也就可能產(chǎn)生人、機(jī)協(xié)同控制導(dǎo)致的責(zé)任歸屬不清和難以量化的風(fēng)險(xiǎn)。按照社會(huì)技術(shù)系統(tǒng)的理論框架，自動(dòng)駕駛汽車歸責(zé)難題不僅與自動(dòng)駕駛技術(shù)內(nèi)部緊密相關(guān)，也和技術(shù)與社會(huì)其他子系統(tǒng)耦合時(shí)出現(xiàn)融入困難緊密相關(guān)。

3.1 技術(shù)系統(tǒng)內(nèi)部：事故責(zé)任主體判定難

當(dāng)前，自動(dòng)駕駛汽車事故責(zé)任主體劃分一般需根據(jù)行駛記錄來判定。行駛記錄主要包括傳統(tǒng)行車記錄儀記錄的影像和汽車電控單元（ECU）或多域控制器（MDC）提供的行駛數(shù)據(jù)兩部分。行車記錄儀在駕駛環(huán)境良好的情況下一般能拍出較為清晰的圖像，能夠據(jù)此判斷出交通事故中雙方的主從責(zé)任，但若遭遇不良天氣或者由于探測技術(shù)無法避免的技術(shù)魯棒性問題，可能導(dǎo)致識(shí)別對(duì)象不清楚甚至識(shí)別錯(cuò)誤。與傳統(tǒng)汽車不同的是，自動(dòng)駕駛汽車一旦成為事故車輛，還需根據(jù)“汽車大腦”的ECU 提供的行駛數(shù)據(jù)來判斷責(zé)任主體是駕駛員還是自動(dòng)駕駛系統(tǒng)。正因?yàn)樾旭倲?shù)據(jù)的重要性，所有自動(dòng)駕駛汽車都被要求將ECU 中的攝像頭和激光雷達(dá)等傳感器數(shù)據(jù)實(shí)時(shí)傳回車企遠(yuǎn)程服務(wù)器，車輛一旦發(fā)生事故，可以通過這些數(shù)據(jù)還原汽車行駛軌跡，判斷汽車運(yùn)行和駕駛員操作是否正常、是否啟動(dòng)自動(dòng)駕駛模式等，進(jìn)而查找出事故真實(shí)原因。而判定事故是否由于自動(dòng)駕駛汽車產(chǎn)品缺陷導(dǎo)致，在技術(shù)層面較之傳統(tǒng)汽車難度更大，這是因?yàn)樽詣?dòng)駕駛汽車作為一種人工智能產(chǎn)品，具有一定的自主性、自我學(xué)習(xí)能力、算法“黑箱”等新特征，一旦出錯(cuò)很難判別錯(cuò)誤源自何處，而且如果搭載了開放來源的軟件則事故原因和責(zé)任主體追究難度更高［18］。

3.2 技術(shù)與環(huán)境耦合中運(yùn)營的制度環(huán)境和基礎(chǔ)設(shè)施建設(shè)滯后

3.2.1 交通法規(guī)不完善

自動(dòng)駕駛汽車的運(yùn)營不只涉及技術(shù)水平的提高，更大的障礙還來自道德倫理和社會(huì)法律方面的挑戰(zhàn)。傳統(tǒng)汽車事故責(zé)任主體通常都是汽車生產(chǎn)商或駕駛員，但在自動(dòng)駕駛汽車運(yùn)行環(huán)境下，汽車生產(chǎn)商有可能出現(xiàn)軟硬件分離的情況，加之車路協(xié)同等背景，發(fā)生交通事故時(shí)，究竟是汽車硬軟件問題，還是數(shù)字交通基礎(chǔ)設(shè)施問題或司機(jī)操作失誤等其他問題，都需要具體、可操作和可執(zhí)行的法律法規(guī)加以明確。我國雖然已經(jīng)修訂交通法律法規(guī)應(yīng)對(duì)這一變化，但仍有不完善之處。如，按照2021 年新修訂的《中華人民共和國道路交通安全法》，自動(dòng)駕駛汽車運(yùn)行中駕駛員應(yīng)處于車輛駕駛座位上，監(jiān)控車輛運(yùn)行狀態(tài)及周圍環(huán)境，隨時(shí)準(zhǔn)備接管車輛，尚不適用于具有自動(dòng)駕駛功能但不具備人工直接操作模式的車輛（如谷歌開發(fā)的無人駕駛汽車），因而對(duì)于4 級(jí)和5 級(jí)自動(dòng)駕駛汽車仍缺乏法律約束，而要讓4 級(jí)和5級(jí)自動(dòng)駕駛汽車制造商承擔(dān)責(zé)任，意味著需要對(duì)自動(dòng)駕駛汽車的規(guī)制提出更為細(xì)化的速度限制、場景限制和行為限制等多個(gè)方面的限定條件。

3.2.2 金融保險(xiǎn)制度不健全

從社會(huì)技術(shù)系統(tǒng)觀點(diǎn)看，自動(dòng)駕駛汽車的擔(dān)責(zé)主體已經(jīng)從整車生產(chǎn)商和使用者擴(kuò)展到了軟件設(shè)計(jì)者、電池等零配件生產(chǎn)商，迫使各國保險(xiǎn)業(yè)對(duì)自動(dòng)駕駛汽車的承保條件、保險(xiǎn)條款、費(fèi)率依據(jù)以及理賠報(bào)案等制定應(yīng)對(duì)變革的方案。在美國加利福尼亞州，申請自動(dòng)駕駛汽車執(zhí)照需配備500 萬美元以上保額的保險(xiǎn)［19］，以應(yīng)對(duì)人身傷亡及財(cái)產(chǎn)損失事故。英國2017 年10 月提出《自動(dòng)與電動(dòng)汽車法案》，并于2018 年7 月19 日獲得批準(zhǔn)正式成為法律。該法案將車輛強(qiáng)制保險(xiǎn)范圍擴(kuò)大至自動(dòng)駕駛汽車，對(duì)于自動(dòng)駕駛汽車在“自我駕駛”狀態(tài)下發(fā)生事故的，保險(xiǎn)人或車輛所有人應(yīng)當(dāng)承擔(dān)首要責(zé)任［20］。我國現(xiàn)有的自動(dòng)駕駛汽車基本上沿用了傳統(tǒng)汽車保險(xiǎn)制度，只是針對(duì)尚處于測試階段的車輛要求提交交通事故責(zé)任強(qiáng)制險(xiǎn)憑證，以及每車不低于500 萬元人民幣的交通事故責(zé)任保險(xiǎn)憑證或自動(dòng)駕駛道路測試事故賠償保函［21］。此外，我國《道路安全交通法》并未就自動(dòng)駕駛車輛的責(zé)任分擔(dān)進(jìn)行直接規(guī)定，也尚未擴(kuò)展自動(dòng)駕駛汽車相關(guān)的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)、軟件算法風(fēng)險(xiǎn)和公共基礎(chǔ)設(shè)施風(fēng)險(xiǎn)等［22］。

3.2.3 監(jiān)控標(biāo)準(zhǔn)滯后

雖然2 級(jí)自動(dòng)駕駛汽車已經(jīng)在全球大量上市，我國的新能源汽車扶持政策也助推了自動(dòng)駕駛汽車的蓬勃發(fā)展，但我國并未制定統(tǒng)一的監(jiān)管標(biāo)準(zhǔn)對(duì)自動(dòng)駕駛汽車行駛數(shù)據(jù)的傳輸位置、時(shí)長和容量進(jìn)行明確規(guī)定，這將直接影響到自動(dòng)駕駛汽車事故車輛的歸責(zé)。此外，國內(nèi)針對(duì)帶有自動(dòng)駕駛功能的電動(dòng)汽車的事故檢測標(biāo)準(zhǔn)也處于建設(shè)階段，因此對(duì)于事故檢測鑒定的流程設(shè)置、操作方法、數(shù)據(jù)提取處理以及責(zé)任認(rèn)定等操作規(guī)范尚難以明確。

3.2.4 交通基礎(chǔ)設(shè)施建設(shè)滯后

在車路協(xié)同的大背景下，自動(dòng)駕駛汽車事故責(zé)任歸屬還涉及原有交通基礎(chǔ)設(shè)施的升級(jí)和新型智慧道路的建設(shè)。道路的智慧化建設(shè)不僅能大大降低自動(dòng)駕駛汽車安全運(yùn)營成本，還有助于自動(dòng)駕駛汽車通過實(shí)際路測應(yīng)對(duì)道路交通亂象、惡劣天氣、突發(fā)情況等問題，從而推進(jìn)自動(dòng)駕駛技術(shù)的完善和升級(jí)。雖然我國對(duì)自動(dòng)駕駛汽車的政策支持力度大、布局時(shí)間早、研發(fā)力度強(qiáng)，但在交通設(shè)施和秩序管理等方面關(guān)注不夠、投入較少，道路智能化水平落后也間接影響到自動(dòng)駕駛汽車的事故責(zé)任判定。此外，考慮到屬地原則、取證便利性等問題，事故自動(dòng)駕駛車輛可選擇的、具有官方資質(zhì)的第三方鑒定機(jī)構(gòu)不多。

3.3 技術(shù)與組織耦合中企業(yè)倫理自查和外部監(jiān)管不嚴(yán)

3.3.1 企業(yè)倫理自查不力

目前，關(guān)于自動(dòng)駕駛汽車的監(jiān)管，一般采取企業(yè)倫理自查和外部監(jiān)管兩種途徑，但都存在監(jiān)管不嚴(yán)的問題。從企業(yè)內(nèi)部的倫理自查來看，很多時(shí)候僅僅停留在對(duì)外宣傳樹立企業(yè)正面形象階段，大部分企業(yè)尚未正式評(píng)估人工智能產(chǎn)品的偏見、隱私侵犯等倫理相關(guān)問題，原因就在于缺乏知識(shí)、工具和專門的評(píng)估能力，而這都?xì)w結(jié)于倫理規(guī)范的操作性不強(qiáng)。此外，基于“倫理黑匣子”記載決策的項(xiàng)目和依據(jù)、運(yùn)動(dòng)軌跡、傳感器返回的數(shù)據(jù)以及其他用于倫理考量的信息，可以保證算法的透明性和責(zé)任可追溯性，但目前相關(guān)規(guī)定只要求車企將自動(dòng)駕駛汽車行駛數(shù)據(jù)發(fā)回企業(yè)總部，并未強(qiáng)制要求其在自動(dòng)駕駛汽車上預(yù)裝“倫理黑匣子”。

3.3.2 事故數(shù)據(jù)和行駛數(shù)據(jù)的監(jiān)管和共享機(jī)制不完善

算法透明度下的可解釋性要求是人工智能監(jiān)管的一個(gè)重要舉措［23］，這涉及到算法“黑箱”的可解釋性和訓(xùn)練數(shù)據(jù)的獲得。自動(dòng)駕駛汽車的外部監(jiān)管由于技術(shù)門檻以及算法“黑箱”的可解釋性難題，常常是有心無力；加之我國尚未實(shí)現(xiàn)自動(dòng)駕駛汽車行駛數(shù)據(jù)和事故數(shù)據(jù)的精準(zhǔn)共享，這也成為監(jiān)管不力的重要原因。我國自動(dòng)駕駛汽車或者智能網(wǎng)聯(lián)汽車尚處于起步階段，各大車企的自動(dòng)駕駛汽車的各個(gè)級(jí)別車型測試和行駛的里程和時(shí)間都還比較有限，積累的數(shù)據(jù)較同行業(yè)發(fā)展較早的美國、德國和日本等還顯不足，且出于商業(yè)保密考慮，我國基本未要求實(shí)行相關(guān)數(shù)據(jù)公開，而行政管理部門又缺乏有力的手段進(jìn)行監(jiān)管。而車輛事故責(zé)任關(guān)系的界定、賠付比例等都是基于數(shù)據(jù)而定，因此自動(dòng)駕駛汽車數(shù)據(jù)不足和共享機(jī)制的不完善對(duì)自動(dòng)駕駛汽車相關(guān)法律法規(guī)和標(biāo)準(zhǔn)體系建設(shè)、新保險(xiǎn)產(chǎn)品的開發(fā)以及商業(yè)模式建立而言，都是一個(gè)致命的缺點(diǎn)。

3.4 技術(shù)與人員耦合中工程師負(fù)責(zé)任創(chuàng)新意識(shí)不強(qiáng)和用戶道德責(zé)任認(rèn)識(shí)不清

自動(dòng)駕駛汽車歸責(zé)難題的產(chǎn)生雖然與技術(shù)和制度緊密相關(guān)，但根本還是在人。這是因?yàn)?，即便是根?jù)行駛記錄確定是汽車生產(chǎn)商或者車載軟件的責(zé)任，但汽車生產(chǎn)商和編制軟件的程序員也可以借口自動(dòng)駕駛汽車由于具有自主機(jī)器學(xué)習(xí)能力而沒有辦法預(yù)測它的行為，從而導(dǎo)致“責(zé)任空缺”的困境［24］。對(duì)于自動(dòng)駕駛中無法判定具體責(zé)任的這類分布式道德行為，弗洛里迪等［25］提出無過失責(zé)任解決方案，即每一利益相關(guān)者都必須承擔(dān)無過失責(zé)任，但這又可能帶來責(zé)任不公正。近年發(fā)生的數(shù)起自動(dòng)駕駛事故表明，公眾對(duì)自動(dòng)駕駛?cè)狈硇哉J(rèn)知，而車企則存在故意夸大宣傳的可能。一些國家雖然明確要求車企在交付含有輔助駕駛功能的汽車時(shí)需要花費(fèi)一定的時(shí)間專門對(duì)車輛輔助駕駛功能的使用方法及風(fēng)險(xiǎn)進(jìn)行詳細(xì)說明，但經(jīng)銷商常常有意無意地忽視風(fēng)險(xiǎn)提示，這樣一來，盡管自動(dòng)駕駛汽車生產(chǎn)商雖然了解汽車安全風(fēng)險(xiǎn)，但并沒有完全傳達(dá)給用戶，最終導(dǎo)致司機(jī)對(duì)自動(dòng)駕駛狀態(tài)下承擔(dān)管制性的道德責(zé)任（或注意義務(wù)）認(rèn)識(shí)不清，事故發(fā)生后車企和司機(jī)都不愿意承擔(dān)屬于自己的責(zé)任，從而出現(xiàn)責(zé)任推諉。

4 社會(huì)技術(shù)系統(tǒng)下我國治理自動(dòng)駕駛汽車歸責(zé)難題的策略

歸責(zé)難題是當(dāng)前世界各國推動(dòng)自動(dòng)駕駛汽車發(fā)展面臨的共同難題，其治理必須考慮技術(shù)與社會(huì)子系統(tǒng)各要素的耦合。我國具有世界上最廣闊的市場和集中力量辦大事的制度優(yōu)勢，應(yīng)積極為技術(shù)與社會(huì)的良性互動(dòng)搭建平臺(tái)，從技術(shù)內(nèi)部及與社會(huì)子系統(tǒng)的耦合機(jī)制建設(shè)中著手破解自動(dòng)駕駛汽車歸責(zé)難題。

4.1 技術(shù)支持：推進(jìn)行駛數(shù)據(jù)的監(jiān)管和精準(zhǔn)共享

當(dāng)前我國應(yīng)加快自動(dòng)駕駛汽車行駛數(shù)據(jù)平臺(tái)建設(shè)，以此作為加強(qiáng)行駛數(shù)據(jù)監(jiān)管的重要抓手，從而為事故發(fā)生后及時(shí)調(diào)取真實(shí)數(shù)據(jù)提供技術(shù)支持，同時(shí)建立智能化虛擬仿真測試平臺(tái)，節(jié)約安全測試的成本，并為事故精準(zhǔn)定責(zé)提供參考；此外，對(duì)于行駛數(shù)據(jù)則還應(yīng)按照分級(jí)分類原則，針對(duì)公安部門、交通部門、保險(xiǎn)公司、車企、消費(fèi)者等不同類型用戶開放不同范圍的數(shù)據(jù)，從而為各行業(yè)各部門提供精準(zhǔn)服務(wù)，例如為公安部門和交通部門進(jìn)行事故鑒定提供事實(shí)依據(jù)，幫助保險(xiǎn)公司建立風(fēng)險(xiǎn)模型進(jìn)行保險(xiǎn)費(fèi)的精算和定價(jià)，為車企打造商業(yè)盈利模式提供數(shù)據(jù)支撐，為消費(fèi)者提供各大車型的安全系數(shù)、舒適系數(shù)等數(shù)據(jù)作為其購車性價(jià)比的參考。

4.2 硬件支撐：加快智慧道路和第三方事故鑒定中心建設(shè)

隨著國內(nèi)具有輔助駕駛功能的新能源汽車的逐漸增多，自動(dòng)駕駛汽車發(fā)生交通事故的風(fēng)險(xiǎn)也有可能加大，因此需要及時(shí)跟進(jìn)智慧道路建設(shè)及第三方事故鑒定中心的布局。目前我國絕大多數(shù)城市缺乏事故鑒定標(biāo)準(zhǔn)和機(jī)構(gòu)，因此建議公安部盡早制定事故車輛的追查流程和事故鑒定標(biāo)準(zhǔn)，并在各地布局智能網(wǎng)聯(lián)汽車事故第三方鑒定中心，同時(shí)鼓勵(lì)北京、上海等自動(dòng)駕駛汽車領(lǐng)先發(fā)展的城市積極向公安部、交通運(yùn)輸部和國家認(rèn)證認(rèn)可監(jiān)督管理委員會(huì)申請自動(dòng)駕駛汽車事故車輛的鑒定資質(zhì)，也可以賦予各個(gè)地區(qū)的國家智能網(wǎng)聯(lián)汽車測試區(qū)或國家智能網(wǎng)聯(lián)汽車質(zhì)量檢驗(yàn)檢測中心智能網(wǎng)聯(lián)汽車事故鑒定職能，為破解智能網(wǎng)聯(lián)汽車歸責(zé)難題提供硬件支撐。

4.3 法律保障：加快道路交通法律法規(guī)和監(jiān)管標(biāo)準(zhǔn)建設(shè)

國內(nèi)目前對(duì)于高級(jí)別的自動(dòng)駕駛汽車交通違法、事故處理、責(zé)任界定等方面的法律法規(guī)還不明確，高速公路載人測試相關(guān)法規(guī)有待完善，因此建議各地根據(jù)新修訂的《中華人民共和國道路交通安全法》，組織法律界和產(chǎn)業(yè)界人士研究相關(guān)法律問題，盡早出臺(tái)地方性自動(dòng)駕駛汽車管理?xiàng)l例，并盡快組織有關(guān)部門對(duì)4 級(jí)、5 級(jí)自動(dòng)駕駛汽車進(jìn)行立法約束。加快自動(dòng)駕駛汽車監(jiān)管標(biāo)準(zhǔn)體系建設(shè)，組織汽車生產(chǎn)企業(yè)、行業(yè)協(xié)會(huì)和交通管理部門等協(xié)商制定新車驗(yàn)車、行駛數(shù)據(jù)上傳和事故車輛檢測標(biāo)準(zhǔn)等，并根據(jù)“事前寬松、事中抽查、事后嚴(yán)懲”的原則，對(duì)自動(dòng)駕駛汽車的運(yùn)營進(jìn)行全過程監(jiān)管。

4.4 保險(xiǎn)護(hù)航：加快傳統(tǒng)車險(xiǎn)修訂和新險(xiǎn)開發(fā)

自動(dòng)駕駛汽車給保險(xiǎn)行業(yè)發(fā)展帶來了新的機(jī)遇和挑戰(zhàn)，保險(xiǎn)產(chǎn)品的及時(shí)跟進(jìn)又能為新生的自動(dòng)駕駛技術(shù)保駕護(hù)航，因此建議在我國現(xiàn)有的路測商業(yè)保險(xiǎn)基礎(chǔ)上推出自動(dòng)駕駛汽車商業(yè)化運(yùn)營的商業(yè)保險(xiǎn)產(chǎn)品。一是加快傳統(tǒng)汽車交強(qiáng)險(xiǎn)修訂。推動(dòng)中國銀行保險(xiǎn)監(jiān)督管理委員會(huì)和各大保險(xiǎn)公司、銀行、企業(yè)多方聯(lián)合，在公安部和交通運(yùn)輸部等政府部門的積極支持下，對(duì)原有車險(xiǎn)條款進(jìn)行修訂完善，針對(duì)自動(dòng)駕駛汽車事故賠付設(shè)定專門的交強(qiáng)險(xiǎn)或適當(dāng)提高原來交強(qiáng)險(xiǎn)的價(jià)格，并較大地提高保險(xiǎn)的賠償數(shù)額。二是積極開發(fā)新的商業(yè)保險(xiǎn)產(chǎn)品。一方面以傳統(tǒng)車險(xiǎn)框架為基礎(chǔ)構(gòu)建車險(xiǎn)產(chǎn)品創(chuàng)新方案，鼓勵(lì)開發(fā)覆蓋設(shè)計(jì)、制造、使用、經(jīng)營、算法服務(wù)以及其他自動(dòng)駕駛汽車產(chǎn)品風(fēng)險(xiǎn)的全鏈條保險(xiǎn)產(chǎn)品；另一方面以產(chǎn)品責(zé)任險(xiǎn)為基礎(chǔ)構(gòu)建非車險(xiǎn)種組合方案，構(gòu)建包含公眾責(zé)任險(xiǎn)、產(chǎn)品責(zé)任險(xiǎn)、創(chuàng)新產(chǎn)品險(xiǎn)等的非車產(chǎn)品組合險(xiǎn)。

4.5 更新觀念：從事后追責(zé)到前瞻性預(yù)防事故

對(duì)于自動(dòng)駕駛汽車歸責(zé)難題或者自動(dòng)駕駛汽車歸責(zé)“多手問題”，最根本的還是要改變?nèi)说挠^念。關(guān)于自動(dòng)駕駛汽車歸責(zé)難題的處理，目前多是采取歸咎性的法律責(zé)任，這是一種消極責(zé)任，而非行動(dòng)性的積極的道德責(zé)任，前者屬于事后問責(zé)，而后者更多的是前瞻性預(yù)防。歸責(zé)時(shí)有法可依固然重要，但比歸責(zé)更重要的是從事故中吸取教訓(xùn)，采取措施防止類似事故再次發(fā)生。道德責(zé)任比法律責(zé)任更具主動(dòng)性，且參與者更多、責(zé)任作用的時(shí)空更加廣闊，并且，對(duì)由于自動(dòng)駕駛汽車沒有擔(dān)責(zé)能力產(chǎn)生的“責(zé)任鴻溝”問題，倡導(dǎo)前瞻性道德責(zé)任可能是一種解決問題的重要手段。雖然工程師無法對(duì)自動(dòng)駕駛汽車的行為進(jìn)行直接控制，但對(duì)其行為模式、行為范圍及能力等方面卻可以采取技術(shù)手段進(jìn)行一定程度的管控［26］。而對(duì)于社會(huì)公眾來說，不僅對(duì)于自動(dòng)駕駛汽車要有理性認(rèn)知，進(jìn)行負(fù)責(zé)任消費(fèi)，而且還必須認(rèn)識(shí)到，自動(dòng)駕駛狀態(tài)雖然解除了使用者對(duì)汽車的引導(dǎo)性控制，但并沒有解除使用者對(duì)汽車的管制性控制，因此，作為使用者的司機(jī)應(yīng)為事故承擔(dān)相應(yīng)的道德責(zé)任［27］。

5 結(jié)論

本研究基于自動(dòng)駕駛汽車技術(shù)作為一種還不完全成熟的新技術(shù)，在新舊技術(shù)交替時(shí)新技術(shù)與原有社會(huì)制度和支撐條件耦合存在較多障礙，從而引發(fā)歸責(zé)難題的理論假設(shè)，引入社會(huì)技術(shù)系統(tǒng)理論對(duì)這一假設(shè)進(jìn)行求證。按照社會(huì)技術(shù)系統(tǒng)的觀點(diǎn)，技術(shù)產(chǎn)生效果并不完全由技術(shù)內(nèi)部決定，而是與社會(huì)系統(tǒng)相互影響，社會(huì)與技術(shù)互動(dòng)形成一個(gè)不可分割的整體系統(tǒng)，只有其中的各個(gè)子系統(tǒng)得到優(yōu)化，才能使得技術(shù)得到最佳使用效果。自動(dòng)駕駛汽車的歸責(zé)難題，運(yùn)用社會(huì)技術(shù)系統(tǒng)理論來審視，便會(huì)發(fā)現(xiàn)是技術(shù)系統(tǒng)、組織系統(tǒng)、環(huán)境系統(tǒng)和人員系統(tǒng)等4 個(gè)子系統(tǒng)相互之間出現(xiàn)耦合障礙所致，剖析其成因發(fā)現(xiàn)主要有四方面原因：技術(shù)系統(tǒng)內(nèi)部的事故車輛行駛數(shù)據(jù)追溯難、技術(shù)與環(huán)境耦合中運(yùn)營的制度環(huán)境和基礎(chǔ)設(shè)施建設(shè)滯后、技術(shù)與組織耦合中企業(yè)倫理自查和外部監(jiān)管不嚴(yán)、技術(shù)與人員耦合中工程師負(fù)責(zé)任創(chuàng)新意識(shí)不強(qiáng)和用戶道德責(zé)任認(rèn)識(shí)不清等，并針對(duì)上述成因，從技術(shù)支持、硬件支撐、法律保障、保險(xiǎn)護(hù)航、更新觀念等五方面提出我國治理自動(dòng)駕駛汽車歸責(zé)難題的對(duì)策。

筆者認(rèn)為，雖然自動(dòng)駕駛汽車當(dāng)下熱度很高，市場前景廣闊，但必須牢記：保護(hù)乘客安全是自動(dòng)駕駛汽車的價(jià)值基礎(chǔ)，無法保障乘車人安全的自動(dòng)駕駛汽車不應(yīng)也不能投放市場。自動(dòng)駕駛汽車事故的歸責(zé)涉及到技術(shù)、企業(yè)管理、制度建設(shè)、監(jiān)管機(jī)構(gòu)建設(shè)等多個(gè)要素，“磨刀不誤砍柴工”，在安全上路之前作好足夠的技術(shù)和制度準(zhǔn)備，保證技術(shù)進(jìn)步與人類安全的統(tǒng)一，這才是人類理性的選擇。