• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    自動(dòng)駕駛的風(fēng)險(xiǎn)類型與法律規(guī)制

    2024-05-10 11:15:32劉艷紅
    關(guān)鍵詞:生產(chǎn)者駕駛員自動(dòng)

    劉艷紅

    人工智能技術(shù)的迭代升級(jí)意味著自動(dòng)駕駛汽車成為整個(gè)人工智能產(chǎn)業(yè)的“領(lǐng)航者”,包括腦機(jī)結(jié)合、情感計(jì)算、避險(xiǎn)算法在內(nèi)的諸多人工智能前沿科技被應(yīng)用于自動(dòng)駕駛汽車,寄希望于將人類駕駛汽車時(shí)的情感狀態(tài)投射于自動(dòng)駕駛過程中,〔1〕參見王祿生:《情感計(jì)算的應(yīng)用困境及其法律規(guī)制》,《東方法學(xué)》2021 年第4 期。從而最大程度上發(fā)揮出自動(dòng)駕駛汽車的行駛潛能。對于自動(dòng)駕駛汽車而言,傳統(tǒng)的“機(jī)械功能汽車”正逐步向“人工智能汽車”進(jìn)化,其原因在于人工智能汽車對非結(jié)構(gòu)化環(huán)境的高適應(yīng)性,但是這同時(shí)也引發(fā)了關(guān)于自動(dòng)駕駛的安全監(jiān)管、道德倫理、風(fēng)險(xiǎn)類型以及責(zé)任認(rèn)定等一系列未知的問題,〔2〕參見翁岳暄、[德]多尼米克·希倫布蘭德:《汽車智能化的道路:智能汽車、自動(dòng)駕駛汽車安全監(jiān)管研究》,《科技與法律》2014 年第4 期;周佑勇:《智能技術(shù)驅(qū)動(dòng)下的訴訟服務(wù)問題及其應(yīng)對之策》,《東方法學(xué)》2019 年第5 期。當(dāng)前自動(dòng)駕駛汽車的最新算法已經(jīng)簡化至19 個(gè)控制神經(jīng)元的單一算法,并嘗試學(xué)習(xí)將高維度的內(nèi)容輸入映射到駕駛指令之中,〔3〕See Mathias Lechner et al.,Neural Circuit Policies Enabling Auditable Autonomy,Nature Machine Intelligence,Vol.10:2,p.642-643(2020).而這種高度且復(fù)雜的智能化技術(shù)會(huì)增加人工智能汽車交通肇事的歸責(zé)難度,并對當(dāng)前的法律體系構(gòu)成了極大的挑戰(zhàn)。對于自動(dòng)駕駛的法律規(guī)制,以往的研究重點(diǎn)集中在責(zé)任主體的認(rèn)定以及歸責(zé)模式的構(gòu)建,對責(zé)任主體的認(rèn)定存在爭議:肯定說承認(rèn)自動(dòng)駕駛汽車作為責(zé)任主體,并追究其具體責(zé)任,從而更新責(zé)任規(guī)則?!?〕參見鄭志峰:《自動(dòng)駕駛汽車的交通事故侵權(quán)責(zé)任》,《法學(xué)》2018 年第4 期。否定說則認(rèn)為自動(dòng)駕駛所應(yīng)用的人工智能缺乏自由意志,并不具備刑事責(zé)任能力,〔5〕康蘭平、王紫函:《自動(dòng)駕駛汽車交通犯罪中刑法規(guī)制研究》,《東南法學(xué)》2021 年第1 期。人工智能技術(shù)得出的結(jié)論是基于海量數(shù)據(jù)擬合的概率結(jié)果,缺乏內(nèi)在情緒或情感基礎(chǔ)的人工智能機(jī)體并不具有人性、尊嚴(yán)以及人格等人之屬性,所以提倡賦予其法律主體的觀點(diǎn)顯然有悖于現(xiàn)代法的要義?!?〕劉艷紅:《人工智能法學(xué)的“時(shí)代三問”》,《東方法學(xué)》2021 年第5 期。折中說則大多將自動(dòng)駕駛汽車比照為“電子人”,希望借助擬制法律人格來有限地處理現(xiàn)實(shí)情境中的問題,〔7〕參見袁曾:《基于功能性視角的人工智能法律人格再審視》,《上海大學(xué)學(xué)報(bào)》(社會(huì)科學(xué)版)2020 年第1 期。但是伴隨自動(dòng)駕駛場景的愈發(fā)復(fù)雜多樣,折中說的論點(diǎn)自然難以為繼。實(shí)際上,上述不同觀點(diǎn)的碰撞都是學(xué)界研究視角失衡引發(fā)的“泡沫化”爭議,只要明確人工智能的法律地位是為了解決權(quán)利能力與義務(wù)承擔(dān)問題,并解決權(quán)利與義務(wù)的分配問題,也就隨之解決了法律責(zé)任的承擔(dān)問題?!?〕參見劉艷紅:《人工智能法學(xué)研究的反智化批判》,《東方法學(xué)》2019 年第5 期。囿于人工智能技術(shù)終究是人類智慧在技術(shù)領(lǐng)域的具體投射,而非具有真實(shí)智慧的責(zé)任主體,為了貫徹“使人成為人,并尊敬他人為人”的價(jià)值理念,〔9〕參見[德]黑格爾:《法哲學(xué)原理》,范楊、張企泰譯,商務(wù)印書館2019 年版,第53 頁。本文堅(jiān)持自動(dòng)駕駛汽車責(zé)任主體否定論,并在此基礎(chǔ)上對自動(dòng)駕駛汽車的法律問題展開更進(jìn)一步的研究,基于對自動(dòng)駕駛的風(fēng)險(xiǎn)進(jìn)行類型化區(qū)分,再探討當(dāng)處于不同階段和情境時(shí)自動(dòng)駕駛汽車的法律規(guī)制路徑構(gòu)建,通過合理的刑事歸責(zé)體系,消弭自動(dòng)駕駛汽車的刑事風(fēng)險(xiǎn),在維護(hù)司法公正的同時(shí)保證自動(dòng)駕駛汽車整體產(chǎn)業(yè)的正常發(fā)展。

    一、自動(dòng)駕駛汽車事故法律責(zé)任認(rèn)定困境

    自動(dòng)駕駛汽車是指通過搭載先進(jìn)傳感器等裝置,通過人工智能等新興技術(shù)實(shí)現(xiàn)自動(dòng)駕駛功能,逐步成為智能交通移動(dòng)終端的新一代汽車。我國的自動(dòng)駕駛汽車產(chǎn)業(yè)發(fā)展迅速,但法律體系并未完全跟上技術(shù)產(chǎn)業(yè)的迭代升級(jí),存在一定的法律規(guī)制漏洞。雖然從整體上看,自動(dòng)駕駛汽車可以顯著降低事故發(fā)生率,根據(jù)替代安全評(píng)估模型(SSAM)顯示,隨著自動(dòng)駕駛汽車滲透率的提高,道路交通的安全水平也隨之提高,〔10〕See Kareem Othman,Exploring the Implications of Autonomous Vehicle:A Comprehensive Review,Innovative Infrastructure Solutions,Vol.7:1,p.165(2022).但這不意味著自動(dòng)駕駛汽車能夠?qū)崿F(xiàn)道路交通安全的高枕無憂,事實(shí)上,在自動(dòng)駕駛汽車投入的磨合階段仍然存在一定的交通肇事風(fēng)險(xiǎn)。2020 年10 月11 日,百度宣布其無人駕駛出租車服務(wù)(Robotaxi)在北京開放運(yùn)營,覆蓋了海淀、亦莊等15 個(gè)測試站點(diǎn)。隨后,重慶、武漢兩地政府部門也率先發(fā)布自動(dòng)駕駛?cè)珶o人商業(yè)化試點(diǎn)政策,百度也獲得全國首批無人化示范運(yùn)營資格?!?1〕參見崔呂萍:《自動(dòng)駕駛拿到路權(quán)更要安全》,《人民政協(xié)報(bào)》2022 年8 月16 日。基于此次獲批,百度將被允許使用車內(nèi)無安全員的自動(dòng)駕駛車輛在社會(huì)道路上開展商業(yè)化服務(wù),從而提供自動(dòng)駕駛的完整解決方案。值得注意的是,商業(yè)化的成功并不能掩蓋法律規(guī)制體系的缺漏,當(dāng)前我國的法律規(guī)范體系對于自動(dòng)駕駛技術(shù)的迅速發(fā)展整體上呈現(xiàn)滯后的態(tài)勢。構(gòu)建合理的自動(dòng)駕駛汽車法律責(zé)任規(guī)制體系的前提是結(jié)合技術(shù)特征對其進(jìn)行合理分級(jí)。根據(jù)2022年3 月1 日實(shí)施的《汽車駕駛自動(dòng)化分級(jí)》(GB/T 40429-2021),我國汽車駕駛自動(dòng)化等級(jí)分為0 級(jí)駕駛自動(dòng)化(應(yīng)急輔助)、1 級(jí)駕駛自動(dòng)化(部分駕駛輔助)、2 級(jí)駕駛自動(dòng)化(組合駕駛輔助)、3 級(jí)駕駛自動(dòng)化(有條件自動(dòng)駕駛)、4 級(jí)駕駛自動(dòng)化(高度自動(dòng)駕駛)、5級(jí)駕駛自動(dòng)化(完全自動(dòng)駕駛),〔12〕其中,0 至2 級(jí)為駕駛輔助,系統(tǒng)輔助人類執(zhí)行動(dòng)態(tài)駕駛?cè)蝿?wù),駕駛主體仍為駕駛員;3 至5 級(jí)為自動(dòng)駕駛,系統(tǒng)在設(shè)計(jì)運(yùn)行條件下代替人類執(zhí)行動(dòng)態(tài)駕駛?cè)蝿?wù),當(dāng)功能激活時(shí),駕駛主體是系統(tǒng)。參見鄭敏慧:《汽車駕駛自動(dòng)化分級(jí)有據(jù)可依》,《中國交通報(bào)》2022 年5 月5 日。這一分級(jí)標(biāo)準(zhǔn)的提出為構(gòu)建自動(dòng)駕駛汽車的類型化規(guī)制體系提供了規(guī)范基礎(chǔ),而法律規(guī)制的重心則集中在3-5 級(jí)的自動(dòng)駕駛汽車。

    伴隨著自動(dòng)駕駛汽車產(chǎn)業(yè)的發(fā)展,與自動(dòng)駕駛汽車相關(guān)的法律規(guī)范也在不斷地創(chuàng)設(shè)與完善。2022 年8 月1 日,《深圳經(jīng)濟(jì)特區(qū)智能網(wǎng)聯(lián)汽車管理?xiàng)l例》(下文簡稱《深圳條例》)開始施行,這是國內(nèi)首次立法對智能網(wǎng)聯(lián)汽車的準(zhǔn)入登記、上路行駛等事項(xiàng)作出具體規(guī)定,并支持L3 級(jí)自動(dòng)駕駛汽車上路?!?3〕參見陳曉慧:《無人駕駛汽車可持牌上路 〈深圳經(jīng)濟(jì)特區(qū)智能網(wǎng)聯(lián)汽車管理?xiàng)l例〉下月起實(shí)施》,《深圳商報(bào)》2022 年7 月6 日。2023 年8 月7 日,江蘇省十四屆人大常委會(huì)發(fā)布了《江蘇省道路交通安全條例》(下文簡稱《江蘇條例》),其中將有條件自動(dòng)駕駛汽車、高度自動(dòng)駕駛汽車和完全自動(dòng)駕駛汽車進(jìn)行了分類管理,賦予高度自動(dòng)駕駛汽車駕駛員更高的注意義務(wù)。事實(shí)上,早在2021 年3 月的《道路交通安全法(修訂建議稿)》中就明確具有自動(dòng)駕駛功能的汽車進(jìn)行道路測試和通行的相關(guān)要求,并規(guī)定了違法和事故責(zé)任分擔(dān)規(guī)定。但2021年4 月修訂后的《中華人民共和國道路交通安全法》(下文簡稱《道路交通安全法》)對于自動(dòng)駕駛汽車的分級(jí)與事故責(zé)任承擔(dān)并未作出相關(guān)規(guī)定,因此導(dǎo)致自動(dòng)駕駛汽車事故的法律責(zé)任認(rèn)定仍然存在爭議。目前的爭議點(diǎn)在于自動(dòng)駕駛汽車導(dǎo)致事故后,對具體的自動(dòng)駕駛風(fēng)險(xiǎn)僅作概括性地描述,并不符合汽車運(yùn)行的實(shí)際情況,而后續(xù)的自動(dòng)駕駛汽車的法律規(guī)制體系存在整體性的缺失,將會(huì)導(dǎo)致對自動(dòng)駕駛汽車的監(jiān)管陷入無序化的尷尬境地。

    二、自動(dòng)駕駛汽車的風(fēng)險(xiǎn)類型認(rèn)定

    自動(dòng)駕駛技術(shù)的發(fā)展貫穿自動(dòng)駕駛汽車的生產(chǎn)階段和應(yīng)用階段,其所引發(fā)的風(fēng)險(xiǎn)也不局限于生產(chǎn)者或使用者本身,而可能擴(kuò)散至整個(gè)社會(huì)。〔14〕參見孔祥穩(wěn):《面向人工智能風(fēng)險(xiǎn)的行政規(guī)制革新——以自動(dòng)駕駛汽車的行政規(guī)制為中心而展開》,《行政法學(xué)研究》2020 年第4 期;周佑勇:《論智能時(shí)代的技術(shù)邏輯與法律變革》,《東南大學(xué)學(xué)報(bào)》(哲學(xué)社會(huì)科學(xué)版)2019 年第5 期。換言之,其網(wǎng)聯(lián)化、高效率、規(guī)模化特性通常會(huì)產(chǎn)生社會(huì)性的影響。依據(jù)《深圳條例》第3 條規(guī)定,自動(dòng)駕駛汽車是指由自動(dòng)駕駛系統(tǒng)替代人的操作在道路上安全行駛的汽車,包括有條件自動(dòng)駕駛、高度自動(dòng)駕駛和完全自動(dòng)駕駛?cè)N類型,對應(yīng)L3、L4 和L5 級(jí)三種自動(dòng)化水平等級(jí)。其中L5 完全自動(dòng)駕駛汽車不需要人工操作,系統(tǒng)可以完成駕駛員在所有道路環(huán)境下的動(dòng)態(tài)駕駛?cè)蝿?wù)。而L3 和L4級(jí)都有駕駛員參與,只是參與的程度不同。鑒于自動(dòng)駕駛汽車存在技術(shù)水平的差異,所以在生產(chǎn)階段和應(yīng)用階段存在不同的風(fēng)險(xiǎn)類型。

    (一)生產(chǎn)階段的制造風(fēng)險(xiǎn)與測試風(fēng)險(xiǎn)

    自動(dòng)駕駛汽車的初衷之一是人們希望通過自動(dòng)駕駛減少駕駛員錯(cuò)誤幾率,進(jìn)而降低事故發(fā)生率?!?5〕See Bryant Walker Smith,Automated Driving and Product Liability,Michigan State Law Review,No.1,p.15(2017).2018 年《道路機(jī)動(dòng)車輛生產(chǎn)企業(yè)及產(chǎn)品準(zhǔn)入管理辦法》提出對因采用新技術(shù)、新工藝、新材料等原因,不能滿足本辦法規(guī)定的準(zhǔn)入條件的,企業(yè)可以提出相關(guān)準(zhǔn)入條件豁免申請,這為智能網(wǎng)聯(lián)、自動(dòng)駕駛車輛的準(zhǔn)入做好了鋪墊,也鼓勵(lì)、促進(jìn)了技術(shù)創(chuàng)新和新型產(chǎn)業(yè)生態(tài)形成。2021 年《關(guān)于加強(qiáng)智能網(wǎng)聯(lián)汽車生產(chǎn)企業(yè)及產(chǎn)品準(zhǔn)入管理的意見》要求加強(qiáng)汽車數(shù)據(jù)安全、網(wǎng)絡(luò)安全、軟件升級(jí)、功能安全和預(yù)期功能安全管理,保證產(chǎn)品質(zhì)量和生產(chǎn)一致性,推動(dòng)智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)高質(zhì)量發(fā)展。由此助力汽車智能化、網(wǎng)聯(lián)化發(fā)展,但同時(shí)也在生產(chǎn)階段涌現(xiàn)出數(shù)據(jù)安全、網(wǎng)絡(luò)安全、交通安全等一系列安全風(fēng)險(xiǎn)問題。

    在自動(dòng)駕駛汽車生產(chǎn)階段的風(fēng)險(xiǎn)相對較為集中。首先是自動(dòng)駕駛汽車的制造風(fēng)險(xiǎn),自動(dòng)駕駛汽車作為生產(chǎn)產(chǎn)品,必須符合產(chǎn)品準(zhǔn)入和產(chǎn)品流通的相關(guān)規(guī)定,如果不能符合規(guī)定要求,則是一種新形態(tài)的產(chǎn)品安全風(fēng)險(xiǎn),在人工智能技術(shù)的加持下,這一風(fēng)險(xiǎn)的狀態(tài)不穩(wěn)定且影響范圍較廣。以《刑法》第140-149 條的規(guī)定為例,對于生產(chǎn)、銷售偽劣商品的行為,構(gòu)成犯罪的應(yīng)當(dāng)承擔(dān)刑事責(zé)任。在生產(chǎn)階段,不符合產(chǎn)品質(zhì)量安全標(biāo)準(zhǔn)或產(chǎn)品質(zhì)量存在問題的汽車,存在潛在的事故風(fēng)險(xiǎn),自動(dòng)駕駛汽車的生產(chǎn)者、銷售者需要承擔(dān)相應(yīng)的法律責(zé)任。但從“制造”的狹義角度而言,鑒于自動(dòng)駕駛汽車在生產(chǎn)階段的制造風(fēng)險(xiǎn)不屬于測試場景和上路場景下的風(fēng)險(xiǎn),而僅限于制造層面,需承擔(dān)產(chǎn)品質(zhì)量責(zé)任較為合理,刑法規(guī)制的介入需要慎重?;凇兑?guī)定》第19 條、第54 條,自動(dòng)駕駛汽車的生產(chǎn)者、銷售者應(yīng)當(dāng)對其生產(chǎn)、銷售的產(chǎn)品質(zhì)量安全負(fù)責(zé),建立完善產(chǎn)品質(zhì)量安全追溯機(jī)制。自動(dòng)駕駛汽車與人們的出行安全息息相關(guān),保障系統(tǒng)技術(shù)的安全,應(yīng)是“企業(yè)一切技術(shù)研發(fā)、商業(yè)化推廣的出發(fā)點(diǎn)”〔16〕許亞杰:《“主駕無人”車首度獲批 自動(dòng)駕駛發(fā)展進(jìn)入快車道》,《中國青年報(bào)》2022 年5 月12 日。。由于制造風(fēng)險(xiǎn)所帶來的自動(dòng)駕駛汽車缺陷及損害,駕駛員可以依法向生產(chǎn)者、銷售者請求賠償。與此同時(shí),與自動(dòng)駕駛應(yīng)用階段相對應(yīng),自動(dòng)駕駛汽車的主動(dòng)安全系統(tǒng)的制造風(fēng)險(xiǎn)同樣存在。在自動(dòng)駕駛汽車技術(shù)的自動(dòng)化升級(jí)中,自動(dòng)駕駛系統(tǒng)應(yīng)當(dāng)可以意識(shí)到其他車輛是否減速、預(yù)測到其他車輛是否會(huì)闖紅燈,并立即采取規(guī)避行動(dòng),〔17〕Smith,Automated Driving,p.63.這種對于主動(dòng)安全系統(tǒng)的期待已經(jīng)逐漸從安全員的監(jiān)督轉(zhuǎn)向“真正的人工智能處理”,所以作為自動(dòng)駕駛汽車的重要模塊,在生產(chǎn)階段就應(yīng)該事先設(shè)定好編程程序來應(yīng)對每一種可能出現(xiàn)的風(fēng)險(xiǎn),〔18〕參見[德]弗蘭克·彼得·舒斯特:《自動(dòng)駕駛中的應(yīng)急算法——一個(gè)對刑法學(xué)的挑戰(zhàn)》,張正昕譯,《中國政法大學(xué)學(xué)報(bào)》2021 年第5 期。而這一模塊的生產(chǎn)安全風(fēng)險(xiǎn)也成為自動(dòng)駕駛汽車能否真正被納入現(xiàn)有公共交通秩序的“命門”。在蔚來測試車事件中,一輛蔚來測試自動(dòng)駕駛車于3 樓墜下,導(dǎo)致兩名試車員死亡,原因是在發(fā)生突發(fā)情況時(shí),超聲波雷達(dá)未能與車輛的緊急剎車系統(tǒng)相關(guān)聯(lián)并做出有效的反應(yīng),而無論是對車輛測試可能存在危險(xiǎn)的預(yù)測和把控,還是對員工生命健康權(quán)利的保護(hù),蔚來公司都應(yīng)當(dāng)承擔(dān)確保不發(fā)生測試安全事故的注意義務(wù),〔19〕范昕茹:《蔚來“飯圈”危機(jī)四伏!》,《IT 時(shí)報(bào)》2022 年7 月1 日。自動(dòng)駕駛汽車存在制造上的防御性駕駛主動(dòng)安全系統(tǒng)缺陷,意味著自動(dòng)駕駛汽車生產(chǎn)者的產(chǎn)品責(zé)任的增加。而從刑法視角來看,生產(chǎn)商也可能需要對間接故意殺人、危害道路交通等罪承擔(dān)刑事責(zé)任?!?0〕[德]弗蘭克·彼得·舒斯特:《自動(dòng)駕駛下生產(chǎn)商的刑事責(zé)任》,李倩譯,《蘇州大學(xué)學(xué)報(bào)》(法學(xué)版)2021 年第3 期。

    其次,在自動(dòng)駕駛汽車出廠上路流通行駛之前,需要在指定道路路段進(jìn)行自動(dòng)駕駛功能測試活動(dòng),并存在測試風(fēng)險(xiǎn),但目前我國對測試風(fēng)險(xiǎn)并未有所規(guī)定。《規(guī)定》第19 條規(guī)定在測試階段發(fā)生交通違法或交通事故等情形,按照國家有關(guān)主管部門關(guān)于道路測試和示范應(yīng)用的規(guī)定處理。自動(dòng)駕駛汽車需要通過制定道路路段的功能測試才能逐步完善安全性能并由此實(shí)現(xiàn)商業(yè)應(yīng)用,而目前發(fā)生的很多自動(dòng)駕駛汽車肇事案例,均存在于測試風(fēng)險(xiǎn)中。但由此帶來的問題是,我國法規(guī)中并未規(guī)定自動(dòng)駕駛汽車在高速公路、城市快速路、高架橋等場景中進(jìn)行測試,因此企業(yè)無法更全面檢測汽車的自動(dòng)駕駛系統(tǒng)功能。我國《道路交通安全法》在2021 年3 月的修訂建議稿首次涉及“自動(dòng)駕駛”內(nèi)容,其中第155 條中提出,具有自動(dòng)駕駛功能的汽車開展道路測試,應(yīng)當(dāng)在封閉的道路場地內(nèi)測試合格,取得臨時(shí)汽車車牌,并且按照規(guī)定在指定的時(shí)間和區(qū)域內(nèi)展開測試。經(jīng)測試合格的自動(dòng)駕駛汽車依照有關(guān)法律規(guī)定準(zhǔn)予生產(chǎn)、進(jìn)口和銷售。如果需要上路行駛的,應(yīng)當(dāng)申請機(jī)動(dòng)車車牌號(hào)。第2 款則是對測試風(fēng)險(xiǎn)后的責(zé)任承擔(dān)有了較為明確的劃分,規(guī)定為“發(fā)生道路交通安全違法行為或者交通事故的,應(yīng)當(dāng)依法確定駕駛員、自動(dòng)駕駛系統(tǒng)開發(fā)單位的責(zé)任,并依照有關(guān)法律、法規(guī)確定損害賠償責(zé)任。構(gòu)成犯罪的,依法追究刑事責(zé)任。”但是該修訂內(nèi)容并未通過,這意味著我國自動(dòng)駕駛汽車上路仍存在難題,其并未受到《道路交通安全法》的規(guī)制與保護(hù)?!兜缆方煌ò踩ā芬择{駛者對交通工具的控制過錯(cuò)為中心構(gòu)建相應(yīng)的責(zé)任體系,與智能駕駛汽車的核心發(fā)展路徑存在不同,由此帶來應(yīng)用中的空白和抵牾。〔21〕參見許中緣:《論智能汽車侵權(quán)責(zé)任立法——以工具性人格為中心》,《法學(xué)》2019 年第4 期。目前北京、上海、重慶、深圳等自動(dòng)駕駛汽車公共道路測試也為普通的道路測試,因此在后續(xù)應(yīng)用中存在較大風(fēng)險(xiǎn)。值得期待的是,這種道路測試上的風(fēng)險(xiǎn)會(huì)隨著立法進(jìn)步而有所改善。比如《規(guī)定》第21 條嘗試性規(guī)定道路測試主體可以申請開展高速公路、城市快速路等特殊道路測試的條件,主要包括道路測試達(dá)到規(guī)定里程以及符合相關(guān)技術(shù)要求且未發(fā)生因車輛原因造成的安全事故,那么未來也可以適當(dāng)擴(kuò)大自動(dòng)駕駛道路測試范圍,協(xié)同推進(jìn)自動(dòng)駕駛新技術(shù)創(chuàng)新和落地?!?2〕李碩:《完善法律體系,以政策創(chuàng)新助推自動(dòng)駕駛規(guī)模化應(yīng)用》,《每日經(jīng)濟(jì)新聞》2022 年3 月10 日。

    (二)應(yīng)用階段的過失風(fēng)險(xiǎn)與故意風(fēng)險(xiǎn)

    在自動(dòng)駕駛汽車的應(yīng)用階段,主要存在過失風(fēng)險(xiǎn)與故意風(fēng)險(xiǎn),并因此衍生出對應(yīng)的事故責(zé)任和保險(xiǎn)責(zé)任的認(rèn)定問題。在我國汽車交通事故中,傳統(tǒng)的事故責(zé)任與保險(xiǎn)責(zé)任均以人為主體進(jìn)行責(zé)任承擔(dān)與損失賠償?!缎谭ā返?33 條交通肇事罪規(guī)定“違反交通運(yùn)輸管理法規(guī),因而發(fā)生重大事故,致人重傷、死亡或者使公私財(cái)產(chǎn)遭受重大損失的……”,人作為責(zé)任主體構(gòu)成該罪并承擔(dān)刑責(zé),重傷、死亡的對象均為人,而且保險(xiǎn)責(zé)任也多針對人的傷亡和汽車的損毀程度展開。但并未討論自動(dòng)駕駛汽車系統(tǒng)“死亡”之情形,或者更確切地說是并未涉及自動(dòng)駕駛汽車或系統(tǒng)損毀消失的情形。例如醉駕主體駕駛普通汽車撞向自動(dòng)駕駛汽車致其車毀人亡,是否對自動(dòng)駕駛系統(tǒng)承擔(dān)相應(yīng)責(zé)任的問題暫無定論。自動(dòng)駕駛系統(tǒng)尤其是高等級(jí)的自動(dòng)化系統(tǒng)的研發(fā)所耗成本巨大,保險(xiǎn)責(zé)任與事故主體責(zé)任卻難以認(rèn)定?!兜缆方煌ò踩ā芬?guī)定機(jī)動(dòng)車的駕駛員是人類,并未將中高級(jí)的自動(dòng)駕駛汽車系統(tǒng)認(rèn)定為駕駛員,也沒有辦法真正實(shí)現(xiàn)無人駕駛的測試和應(yīng)用,由此對自動(dòng)駕駛汽車的安全事故責(zé)任判定存在障礙。此外,自動(dòng)駕駛系統(tǒng)的出現(xiàn)使得機(jī)動(dòng)車保險(xiǎn)中的駕駛員內(nèi)涵產(chǎn)生混亂。而“人機(jī)協(xié)同擴(kuò)大了機(jī)動(dòng)車責(zé)任保險(xiǎn)的風(fēng)險(xiǎn)對象和風(fēng)險(xiǎn)因素,從而改變了保險(xiǎn)人厘定費(fèi)率的基礎(chǔ)?!薄?3〕王春梅:《人機(jī)協(xié)同視域下中國自動(dòng)駕駛汽車責(zé)任保險(xiǎn)立法構(gòu)設(shè)》,《上海師范大學(xué)學(xué)報(bào)》(哲學(xué)社會(huì)科學(xué)版)2022 年第3 期。換句話說,自動(dòng)駕駛汽車的投保主體、投保方式、投保費(fèi)率也難以明確。

    自動(dòng)駕駛汽車的生產(chǎn)者具有對汽車的安全管理義務(wù),尤其是對自動(dòng)駕駛汽車的使用算法安全保持監(jiān)控、封閉管理和及時(shí)維護(hù)。當(dāng)自動(dòng)駕駛汽車存在嚴(yán)重危險(xiǎn)時(shí),應(yīng)當(dāng)啟動(dòng)應(yīng)急裝置,并對事故發(fā)生原因進(jìn)行精確判斷,而在具體事故中,系統(tǒng)過失風(fēng)險(xiǎn)與駕駛員或安全員的過失風(fēng)險(xiǎn)存在競合,對于相關(guān)責(zé)任的認(rèn)定也不相同。在美國亞利桑那州坦佩市優(yōu)步(Uber)自動(dòng)駕駛汽車案件中,涉及自動(dòng)駕駛汽車的致死情形。2018 年3 月18 日,伊萊恩·赫茨伯格(Elaine Herzberg)推著自行車橫穿馬路時(shí)被一輛正在行駛中的優(yōu)步自動(dòng)駕駛汽車撞死?!?4〕See Alexandra DeArman,The Wild,Wild West:A Case Study of Self-Driving Vehicle Testing in Arizona,Arizona Law Review,Vol.61:4,p.984(2019).拉斐拉·巴斯克斯(Rafaela Vasquez)為Uber 公司為這輛無人駕駛汽車所指派的安全員,也是該自動(dòng)駕駛汽車車內(nèi)的指定司機(jī),他當(dāng)時(shí)正在車內(nèi)收看電視節(jié)目《美國之聲》,因此分散了注意力,未能及時(shí)觀察到伊萊恩,進(jìn)而導(dǎo)致了慘劇的發(fā)生。屬地檢察官指控該自動(dòng)駕駛車輛的安全員存在過失殺人的嫌疑。該安全員的職責(zé)包括監(jiān)控重要的車輛等診斷信息,并在系統(tǒng)出現(xiàn)故障時(shí)人工操作干預(yù)。一方面,拉斐拉被智能手機(jī)分散注意力,沒有注意路面情況,并未盡到安全管理義務(wù),在發(fā)生行人過馬路這一事件時(shí),沒有做到及時(shí)處理相關(guān)信息并實(shí)行人工駕駛干預(yù)。另一方面,對自動(dòng)駕駛系統(tǒng)的識(shí)別能力存疑。在該車輛撞到行人的前幾秒中,系統(tǒng)是否能夠精確識(shí)別人物或者汽車并作出相應(yīng)反應(yīng)。在該案中,為了減少誤報(bào)可能性,優(yōu)步公司對自動(dòng)駕駛系統(tǒng)進(jìn)行設(shè)定,使其不會(huì)進(jìn)行突然的緊急停車。系統(tǒng)檢測到伊萊恩發(fā)生車禍的前6 秒走到了馬路上,系統(tǒng)判斷碰撞即將發(fā)生時(shí),它為了避免突然停車,選擇了進(jìn)一步識(shí)別而非啟動(dòng)剎車?!?5〕Christopher B.Emch,Why the Birth of Autonomous Driving Is the Death of Our "Right" to Drive,Pace Law Review,Vol.40:2,p.293(2020).基于該過失風(fēng)險(xiǎn),存在以下問題需要進(jìn)一步厘清并進(jìn)行法律規(guī)制。該案中的優(yōu)步自動(dòng)駕駛車輛為測試車輛,在測試車輛中存在有安全員,也即車輛的指定駕駛員,而安全員又受雇于優(yōu)步公司。與普通駕駛員不同之處在于安全員具有特定義務(wù),產(chǎn)品生產(chǎn)者在此處可能也存在有雇傭責(zé)任?;跈z察官的認(rèn)定,事故的可能原因是“指定駕駛員未能監(jiān)控駕駛環(huán)境和自動(dòng)駕駛系統(tǒng)的操作,因?yàn)槠湓谡麄€(gè)行駛過程中都被個(gè)人手機(jī)分散了視覺注意力?!薄?6〕Matthew Wansley,The End of Accidents,UC Davis Law Review,Vol.55:1,p.311(2023).此外,優(yōu)步對于該自動(dòng)駕駛系統(tǒng)的“不充分的安全風(fēng)險(xiǎn)評(píng)估程序”“對車輛運(yùn)營商的監(jiān)管不力”以及“缺乏足夠的機(jī)制來解決運(yùn)營商在自動(dòng)化方面的自滿情緒”也導(dǎo)致了這起事故的發(fā)生?!?7〕Ibid.有專家認(rèn)為一方面需要不斷完善自動(dòng)駕駛汽車的道路規(guī)范與上路標(biāo)準(zhǔn),另一方面也可以在自動(dòng)駕駛車輛中配備有遇到緊急狀況后能讓公安警察隨時(shí)關(guān)停的按鍵。〔28〕董天意:《Robotaxi 被警察截停后逃逸 道路規(guī)范與駕駛標(biāo)準(zhǔn)需盡快完善》,《每日經(jīng)濟(jì)新聞》2022 年4 月14 日。本文認(rèn)為,受雇傭關(guān)系影響,安全員應(yīng)當(dāng)承擔(dān)過失責(zé)任。因?yàn)樽詣?dòng)駕駛汽車處于測試狀態(tài),系統(tǒng)也屬于不斷完善更新階段,因此該事故應(yīng)由疏忽大意的安全員承擔(dān)責(zé)任。換言之,人類司機(jī)本可能在應(yīng)有的時(shí)間范圍內(nèi)采取剎車行為,但是其被外部因素干擾,放松了對于自動(dòng)駕駛汽車的安全監(jiān)管,并未履行安全管理義務(wù)。

    三、風(fēng)險(xiǎn)類型下自動(dòng)駕駛汽車的法律規(guī)制路徑展開

    基于自動(dòng)駕駛汽車在生產(chǎn)階段和應(yīng)用階段存在制造風(fēng)險(xiǎn)、測試風(fēng)險(xiǎn)等一系列風(fēng)險(xiǎn)情形,自動(dòng)駕駛汽車的歸責(zé)過程實(shí)際上受到社會(huì)系統(tǒng)與技術(shù)系統(tǒng)相互作用的影響,并因不同部分之間相互影響而產(chǎn)生歸責(zé)難題,如技術(shù)系統(tǒng)內(nèi)部的復(fù)雜博弈導(dǎo)致責(zé)任主體的認(rèn)定出現(xiàn)混淆等。〔29〕參見宋春艷:《社會(huì)技術(shù)耦合障礙與自動(dòng)駕駛汽車歸責(zé)難題破解》,《科技管理研究》2023 年第16 期。鑒于此,對自動(dòng)駕駛汽車的法律規(guī)制應(yīng)充分考慮社會(huì)系統(tǒng)與技術(shù)系統(tǒng)的復(fù)合影響,從責(zé)任主體確定、過失責(zé)任競合認(rèn)定、故意犯罪責(zé)任承擔(dān)等方面構(gòu)建法律規(guī)制路徑。

    (一)前提:自動(dòng)駕駛系統(tǒng)責(zé)任主體之否定

    從技術(shù)層面而言,自動(dòng)駕駛汽車是運(yùn)用人工智能技術(shù)將汽車由人工操控的機(jī)械產(chǎn)品逐步轉(zhuǎn)變?yōu)殡娮有畔⑾到y(tǒng)控制的智能產(chǎn)品。從產(chǎn)業(yè)層面而言,自動(dòng)駕駛汽車的發(fā)展促成了汽車與相關(guān)產(chǎn)業(yè)的全面融合,未來將呈現(xiàn)智能化、網(wǎng)絡(luò)化、平臺(tái)化發(fā)展特征。從應(yīng)用層面而言,汽車將由單純的交通運(yùn)輸工具,逐漸轉(zhuǎn)變?yōu)橹悄芤苿?dòng)空間和應(yīng)用終端,成為新興業(yè)態(tài)重要載體。自動(dòng)駕駛汽車所依賴的自動(dòng)駕駛系統(tǒng)屬于人工智能產(chǎn)品,它本身不具有法律上的可解釋性,因?yàn)槠洳痪邆淙说淖杂梢庵?,而承?dān)責(zé)任的主體一定是自由意志下的人類行為?!?0〕參見劉艷紅:《人工智能的可解釋性與AI 的法律責(zé)任問題研究》,《法制與社會(huì)發(fā)展》2022 年第1 期。在具體運(yùn)行過程中,不論是采用符號(hào)計(jì)算主義還是聯(lián)結(jié)主義,當(dāng)前自動(dòng)駕駛汽車的人工智能技術(shù)都無法解決語義的理解和生成問題,無法逾越語義鴻溝成為責(zé)任主體否定論的強(qiáng)力依據(jù)?!?1〕王鋼:《人工智能刑事責(zé)任主體否定》,《蘇州大學(xué)學(xué)報(bào)》(法學(xué)版)2022 年第4 期。鑒于自動(dòng)駕駛汽車無法意識(shí)到自己行為能夠給人類或法益造成損害,因此其不具備歸責(zé)可能,應(yīng)當(dāng)將其解釋為自動(dòng)駕駛汽車生產(chǎn)者、銷售者或駕駛者的解釋義務(wù)或責(zé)任,而人類違反這些義務(wù)的行為是違反了相關(guān)法律法規(guī)的規(guī)定,這不是容許的風(fēng)險(xiǎn)并具有違法性,構(gòu)成主體歸責(zé)的前提。在責(zé)任承擔(dān)層面,盡管自動(dòng)駕駛汽車的生產(chǎn)者都增強(qiáng)了人工智能系統(tǒng)的可解釋性功能,但是算法的認(rèn)知仍然應(yīng)解釋為人類認(rèn)知,應(yīng)當(dāng)落實(shí)算法安全主體責(zé)任,深入剖析算法模型的解釋可能性,而充分發(fā)揮算法解釋權(quán)同時(shí)也是在維護(hù)個(gè)人自主和尊嚴(yán)?!?2〕張恩典:《超越算法知情權(quán):算法解釋權(quán)理論模式的反思與建構(gòu)》,《東南法學(xué)》2022 年第1 期。鑒于目前自動(dòng)駕駛汽車中系統(tǒng)決策的算法特征,也更多體現(xiàn)于對不同主體責(zé)任承擔(dān)的影響。

    如果自動(dòng)駕駛汽車具有自動(dòng)學(xué)習(xí)系統(tǒng),那么它將從自己的日常運(yùn)行過程決策中獲得知識(shí)和技能,同時(shí)針對交通環(huán)境的特征和駕駛員的選擇中進(jìn)行學(xué)習(xí),不斷優(yōu)化自身算法,并且這種自動(dòng)化和智能化學(xué)習(xí)算法將在實(shí)踐中得到進(jìn)一步的檢驗(yàn),〔33〕See Melinda Florina Lohmann,Liability Issues concerning Self-Driving Vehicles,European Journal of Risk Regulation,Vol.7:2,p.337(2017).而這則意味著責(zé)任歸屬的判斷成為一項(xiàng)更具挑戰(zhàn)性的任務(wù)。在美國山景城特斯拉案件中,自動(dòng)駕駛系統(tǒng)過失情形就是由人的過失所致,特斯拉Model X 行駛在加州山景城附近的高速公路上,其撞上中間隔離欄后發(fā)生起火,隨后這輛特斯拉又被車道后方駛來的車輛相繼撞上,最后司機(jī)被送到醫(yī)院后因傷重不治而亡?!?4〕Alexander B.Lemann,The Duty to Warn in the Age of Automation,Kentucky Law Journal,Vol.110:3,p.471(2022).當(dāng)自動(dòng)駕駛系統(tǒng)功能打開后,汽車可以識(shí)別車道標(biāo)記,保持恒定速度自動(dòng)駕駛,并根據(jù)前方的交通狀況減速。涉事司機(jī)曾在事故發(fā)生前15 分鐘接到系統(tǒng)警報(bào),但在他撞上高速公路的減震器和混凝土護(hù)欄之前的最后六秒內(nèi),他的手沒有放回到方向盤上。在該案的調(diào)查中,美國國家運(yùn)輸安全委員會(huì)發(fā)現(xiàn),自動(dòng)駕駛的各種系統(tǒng)都沒有在事故中發(fā)生故障,該情形已完全超出自動(dòng)駕駛汽車的能力范圍。因此,在某些情形中,涉及自動(dòng)駕駛汽車的死亡事件的發(fā)生并不是因?yàn)樽詣?dòng)駕駛技術(shù)未能按照設(shè)計(jì)的方式運(yùn)行,而是因?yàn)槿祟愇茨茏鹬睾统姓J(rèn)該技術(shù)已知的局限性?!?5〕Christopher B.Emch,Why the Birth of Autonomous Driving Is the Death of Our“Right” to Drive,Pace Law Review,Vol.40:2,p.292(2020).與之相近,英國政府發(fā)布新的自動(dòng)駕駛政策文件《互聯(lián)和自動(dòng)化出行2025:在英國實(shí)現(xiàn)自動(dòng)駕駛汽車的利益》(Connected &Automated Mobility 2025:Realising the benefits of self-driving vehicles in the UK),其中提到自動(dòng)駕駛汽車的安全目標(biāo)要求其安全水平與稱職、謹(jǐn)慎的人類駕駛員(competent and careful human driver)相當(dāng)。自動(dòng)駕駛汽車將被期望遵守《道路交通法》《公路法》等相關(guān)規(guī)定,但這并不意味著它們應(yīng)該復(fù)制一個(gè)稱職和謹(jǐn)慎的人類司機(jī)在任何情況下會(huì)采取的行動(dòng)?!?6〕Policy paper by Centre for Connected and Autonomous Vehicles,Connected &Automated Mobility 2025:Realising the benefits of self-driving vehicles in the UK”,Published on 19 August 2022,p.12,35.

    通過梳理域外實(shí)踐與規(guī)范可以發(fā)現(xiàn),自動(dòng)駕駛系統(tǒng)的決策并非追求絕對完美,而只需達(dá)到人類駕駛員同等水平即認(rèn)定為具有安全性?!胺芍黧w需要對自己的行為承擔(dān)法律責(zé)任就需要其行為本身必須可被解釋?!薄?7〕劉艷紅、龔善要:《網(wǎng)絡(luò)服務(wù)提供者對AI 決策的刑事歸責(zé)研究》,《廣西大學(xué)學(xué)報(bào)》(哲學(xué)社會(huì)科學(xué)版)2022年第3 期。在我國的規(guī)范文件中,《道路交通安全法(修訂建議稿)》第155 條規(guī)定,自動(dòng)駕駛汽車的責(zé)任承擔(dān)主要分為駕駛員責(zé)任與自動(dòng)駕駛系統(tǒng)開發(fā)單位的責(zé)任,責(zé)任承擔(dān)主體為駕駛員和自動(dòng)駕駛系統(tǒng)開發(fā)單位,而《規(guī)定》第53 條也認(rèn)定賠償責(zé)任主體為駕駛員、車輛所有人、管理人、生產(chǎn)者或銷售者。2022 年2 月15 日施行的《上海市智能網(wǎng)聯(lián)汽車測試與應(yīng)用管理辦法》(以下簡稱《上海辦法》)第43 條“責(zé)任認(rèn)定與承擔(dān)”規(guī)定,自動(dòng)駕駛汽車在自動(dòng)駕駛模式下發(fā)生交通事故并造成損害,由開展智能網(wǎng)聯(lián)汽車測試與應(yīng)用活動(dòng)的單位依法先行承擔(dān)相應(yīng)的賠償責(zé)任,并可依法向相關(guān)責(zé)任方追償。由此可見,在規(guī)范層面,我國對于自動(dòng)駕駛汽車的責(zé)任主體地位持否定的態(tài)度,自動(dòng)駕駛交通肇事將回歸傳統(tǒng)的歸責(zé)路徑,強(qiáng)調(diào)對駕駛者或者生產(chǎn)者的事后追責(zé)。

    (二)自動(dòng)駕駛汽車導(dǎo)致事故的民事責(zé)任認(rèn)定

    自動(dòng)駕駛汽車作為人工智能化新生事物,給既有法律秩序與法律框架帶來一系列挑戰(zhàn),并導(dǎo)致交通肇事的事后歸責(zé)路徑需要重新構(gòu)建?!?8〕參見胡銘:《數(shù)字法學(xué):定位、范疇與方法》,《政法論壇》2022 年第3 期。自動(dòng)駕駛汽車本身并非適格的責(zé)任主體,因而事后歸責(zé)主要集中在自動(dòng)駕駛汽車的生產(chǎn)者、駕駛員等主體之間的民事責(zé)任分配。

    1.駕駛員過失責(zé)任

    否定自動(dòng)駕駛汽車的過失責(zé)任主體資格后,對于自動(dòng)駕駛汽車駕駛員過失風(fēng)險(xiǎn)所致的民事責(zé)任存在以下幾種觀點(diǎn)爭議。第一,交通事故侵權(quán)責(zé)任說的觀點(diǎn)認(rèn)為駕駛員應(yīng)當(dāng)承擔(dān)傳統(tǒng)意義上的道路交通事故侵權(quán)責(zé)任,對于自動(dòng)駕駛汽車的判斷仍然沒有擺脫傳統(tǒng)機(jī)械性視角的窠臼和“物品”的定位,認(rèn)為駕駛員應(yīng)該主導(dǎo)駕駛的進(jìn)行,在自動(dòng)駕駛汽車上路后,按下自動(dòng)駕駛模式“開始”鍵的人應(yīng)當(dāng)承擔(dān)隨后的一切后果?!?9〕參見李碩:《自動(dòng)駕駛汽車交通事故侵權(quán)的責(zé)任認(rèn)定》,《學(xué)習(xí)與實(shí)踐》2022 年第11 期。第二,參照雇主替代責(zé)任說的觀點(diǎn)認(rèn)為自動(dòng)駕駛汽車好比是駕駛員雇傭的司機(jī),當(dāng)車輛按照駕駛員的指示運(yùn)行時(shí),如果其違反道路交通規(guī)則并發(fā)生交通事故,由駕駛員承擔(dān)責(zé)任。自動(dòng)駕駛汽車發(fā)生事故后,作為“雇傭”(購買)車輛的駕駛員(消費(fèi)者)負(fù)有對于發(fā)生事故的自動(dòng)駕駛汽車或系統(tǒng)連帶責(zé)任,甚至可以考慮引入機(jī)動(dòng)車保有人的嚴(yán)格責(zé)任?!?0〕馮玨:《自動(dòng)駕駛汽車致?lián)p的民事侵權(quán)責(zé)任》,《中國法學(xué)》2018 年第6 期。第三,參照動(dòng)物侵權(quán)責(zé)任說的觀點(diǎn)認(rèn)為自動(dòng)駕駛汽車與犬類相似,兩者都能在沒有人類控制和干預(yù)的情況下思考、行動(dòng)或引起損害。依據(jù)《民法典》第1245-1246 條的規(guī)定,由動(dòng)物飼養(yǎng)人或者管理人承擔(dān)相應(yīng)的侵權(quán)責(zé)任,并認(rèn)為既然我國民法典可以將飼養(yǎng)動(dòng)物致害責(zé)任納入危險(xiǎn)責(zé)任范疇,那么對于自動(dòng)駕駛汽車保有人實(shí)行危險(xiǎn)責(zé)任也無不妥?!?1〕參見鄭志峰:《自動(dòng)駕駛汽車交通事故責(zé)任的立法論與解釋論》,《東方法學(xué)》2021 年第3 期。在美國Lewis v.Amorous 案中,訴訟的焦點(diǎn)在于汽車應(yīng)當(dāng)與兇猛的動(dòng)物歸為一類,以及與這類動(dòng)物主人的責(zé)任有關(guān)的法律是否應(yīng)該適用。〔42〕Lewis v.Amorous,59 S.E.338,340(Ga.Ct.App.1907).上訴法院認(rèn)為可怕的并非汽車的兇猛,而是那些駕駛汽車的人的兇猛,因?yàn)樵谌祟惛深A(yù)之前,汽車通常是無害的,人們應(yīng)當(dāng)害怕的不再是汽車背后的人類,而是失去控制的汽車。

    交通事故侵權(quán)責(zé)任說的缺陷在于,在車輛自主控制階段,系統(tǒng)能夠自行監(jiān)測駕駛環(huán)境,承擔(dān)駕駛?cè)蝿?wù),無需使用人實(shí)施任何駕駛行為,駕駛員并不實(shí)際控制汽車的運(yùn)行,讓其承擔(dān)責(zé)任顯然不公。同時(shí),老年人、未成年人、盲人等原本不適宜開車的群體將成為自動(dòng)駕駛汽車的使用人,如果將這部分群體界定為駕駛員進(jìn)而讓其承擔(dān)交通事故侵權(quán)責(zé)任顯然不妥。雇主替代責(zé)任說的核心框架在于駕駛員雇主與自動(dòng)駕駛汽車之間的責(zé)任關(guān)系,前提是預(yù)設(shè)自動(dòng)駕駛汽車具有法律人格。其直接弊端在于法律配套的空白狀態(tài)使得該觀點(diǎn)的社會(huì)接受度處于未知狀態(tài),而賦予自動(dòng)駕駛汽車法律人格顯然會(huì)引發(fā)更多的爭議,法律人格的定義和邊界在相當(dāng)長的一段時(shí)間內(nèi)都存在爭議,即使已有的結(jié)論也可能因?yàn)榧夹g(shù)的迭代升級(jí)而被推翻,導(dǎo)致歸責(zé)路徑不具有穩(wěn)定性。動(dòng)物侵權(quán)責(zé)任說的觀點(diǎn)同樣不合理,因?yàn)樽詣?dòng)駕駛汽車和動(dòng)物之間存在較大差異,動(dòng)物侵權(quán)與交通事故侵權(quán)在歸責(zé)原則、構(gòu)成要件、責(zé)任主體等方面都難以相提并論,參照動(dòng)物侵權(quán)規(guī)則處理并不符合法理。事實(shí)上,德國道路安全委員會(huì)就曾經(jīng)認(rèn)定自動(dòng)駕駛汽車交通肇事的責(zé)任不應(yīng)該歸咎于駕駛員,當(dāng)自動(dòng)駕駛汽車超過一定的自動(dòng)化程度之后,坐在駕駛位上的駕駛員就無可爭議地失去了駕駛?cè)说姆缮矸?,其無法對自動(dòng)駕駛汽車進(jìn)行實(shí)質(zhì)上的掌控,進(jìn)而無法承擔(dān)交通法規(guī)所規(guī)定的駕駛責(zé)任。〔43〕Vgl.von Bodungen/ Hoffmann:Autonomes Fahren-Haftungsverschiebung entlang der Supply Chain?(1.Teil),NZV,2016,S.451.因此,目前完全的駕駛員過失責(zé)任與自動(dòng)駕駛汽車事故民事責(zé)任承擔(dān)相去甚遠(yuǎn),而作為一切行為的起點(diǎn),自動(dòng)駕駛汽車事故的過失責(zé)任由自動(dòng)駕駛系統(tǒng)算法失敗引起,應(yīng)當(dāng)由其生產(chǎn)者承擔(dān),而非其他任何第三方或人工智能平臺(tái)負(fù)責(zé),〔44〕See John Armour &Horst Eidenmuller,Self-Driving Corporations?,Harvard Business Law Review,Vol.10:1,p.111(2019).所以歸責(zé)路徑也應(yīng)該回歸到生產(chǎn)者的視角。

    2.生產(chǎn)者過失責(zé)任

    自動(dòng)駕駛系統(tǒng)過失風(fēng)險(xiǎn)所帶來的生產(chǎn)者責(zé)任的法律規(guī)制問題,是因?yàn)樵谧詣?dòng)駕駛系統(tǒng)缺陷中判斷生產(chǎn)者責(zé)任具有一定難度,需要更多關(guān)注生產(chǎn)者對自動(dòng)駕駛汽車的注意義務(wù)。在國內(nèi)首起特斯拉車禍致死案中,高某駕駛特斯拉轎車在高速公路行駛,因前車躲避障礙物,該車未能及時(shí)躲避而直接撞上一輛正在作業(yè)的道路清掃車,致使該司機(jī)不幸身亡?!?5〕參見左茂軒:《從特斯拉到蔚來:如何逃離自動(dòng)駕駛“死亡魔咒”?》,《21 世紀(jì)經(jīng)濟(jì)報(bào)道》2021 年8 月17 日。雖然經(jīng)交警認(rèn)定,事故中的司機(jī)高某負(fù)主要責(zé)任,但是高某父親卻堅(jiān)持認(rèn)為特斯拉夸大宣傳的自動(dòng)駕駛功能才是車禍的元兇,請求法院向特斯拉美國公司調(diào)取事故車輛的駕駛狀態(tài)數(shù)據(jù),并要求對事故發(fā)生時(shí)特斯拉轎車是否開啟了自動(dòng)駕駛功能進(jìn)行司法鑒定。雖然最終確認(rèn)高某所駕駛的特斯拉轎車在事發(fā)時(shí)處于自動(dòng)駕駛狀態(tài),但對于自動(dòng)駕駛狀態(tài)下的車輛未能識(shí)別前方車輛是否構(gòu)成質(zhì)量缺陷、事故應(yīng)當(dāng)由駕駛員還是特斯拉承擔(dān)責(zé)任等核心問題,至今仍無定論。

    對于生產(chǎn)者過失責(zé)任的判斷,當(dāng)前主要有三種觀點(diǎn):一般過失侵權(quán)說認(rèn)為,在全自動(dòng)駕駛階段,自動(dòng)駕駛汽車是政府承認(rèn)的合法交通工具,使用人不應(yīng)為自己在汽車運(yùn)行中打電話、發(fā)短信等行為承擔(dān)過失侵權(quán)責(zé)任,而是應(yīng)該由汽車生產(chǎn)者承擔(dān)責(zé)任。引起自動(dòng)駕駛汽車的交通事故的責(zé)任承擔(dān)多為過失風(fēng)險(xiǎn),主要與自動(dòng)駕駛系統(tǒng)的自動(dòng)化程度與反應(yīng)水平直接相關(guān),自動(dòng)駕駛汽車在道路中的行駛行為雖然是自動(dòng)化的,但遇到不同交通環(huán)境場景中的意外情形如果做出反應(yīng),是需要生產(chǎn)者對系統(tǒng)發(fā)出指令和決定進(jìn)行人工智能學(xué)習(xí)的。〔46〕參見曾粵興、高正旭:《論人工智能技術(shù)的刑法歸責(zé)路徑》,《治理研究》2022 年第3 期。由于自動(dòng)駕駛系統(tǒng)的原因?qū)е陆煌ㄊ鹿?,主要產(chǎn)生過失侵權(quán)責(zé)任,而消費(fèi)者或駕駛者基于信賴原則,完全信任或基本信任自動(dòng)駕駛系統(tǒng)的操作,所以事故后果應(yīng)該歸咎于自動(dòng)駕駛汽車“辜負(fù)”了其所宣傳的“值得信賴”,自然應(yīng)由生產(chǎn)者承擔(dān)相應(yīng)的民事侵權(quán)責(zé)任。第二,產(chǎn)品責(zé)任說認(rèn)為,當(dāng)自動(dòng)駕駛汽車發(fā)生交通事故時(shí),最有可能的原因就是系統(tǒng)出現(xiàn)故障,而非使用人存在過錯(cuò)。尤其是自動(dòng)駕駛汽車事故的發(fā)生大多是人工智能或者算法技術(shù)的不穩(wěn)定所引起的系統(tǒng)性故障,所以駕駛員并無法施加實(shí)際影響,而是生產(chǎn)者在調(diào)試和設(shè)計(jì)算法時(shí)應(yīng)該盡到審慎的注意義務(wù),并且對產(chǎn)品的設(shè)計(jì)缺陷承擔(dān)刑事責(zé)任。第三,參照電梯侵權(quán)責(zé)任說認(rèn)為,自動(dòng)駕駛汽車與電梯運(yùn)行十分相似,可參照電梯侵權(quán)規(guī)則,將自動(dòng)駕駛汽車的生產(chǎn)者認(rèn)定為公共承運(yùn)人(Common Carrier),由其承擔(dān)侵權(quán)責(zé)任。該觀點(diǎn)以駕駛員或使用人失去汽車控制為前提,一旦發(fā)生“電梯事故”,則由電梯生產(chǎn)者承擔(dān)責(zé)任。在電梯生產(chǎn)者承擔(dān)責(zé)任后,通過對事故的再次檢測分析,可能進(jìn)行二次責(zé)任劃分。

    梳理以上觀點(diǎn)可以發(fā)現(xiàn)其都各有優(yōu)缺點(diǎn)。鑒于自動(dòng)駕駛技術(shù)是一項(xiàng)高風(fēng)險(xiǎn)的新技術(shù),對其適用一般過失侵權(quán)責(zé)任說,既不利于救濟(jì)受害人,也無法有效激勵(lì)生產(chǎn)者完善自動(dòng)駕駛技術(shù)。參照電梯侵權(quán)說責(zé)任觀點(diǎn)是基于電梯總是處在一個(gè)封閉的環(huán)境中運(yùn)行的客觀環(huán)境,運(yùn)行環(huán)境的單一意味著其責(zé)任判斷的相對恒定,但是在自動(dòng)駕駛汽車的復(fù)雜運(yùn)行環(huán)境下,這一觀點(diǎn)顯然不符合實(shí)際情況。鑒于此,基于產(chǎn)品責(zé)任說追究生產(chǎn)者的責(zé)任相較而言是比較穩(wěn)妥的歸責(zé)方案,在自動(dòng)駕駛汽車事故的責(zé)任認(rèn)定中,將關(guān)注重心置于自動(dòng)駕駛汽車初始的系統(tǒng)性能的好壞,對于自動(dòng)駕駛汽車硬件設(shè)施的裝配以及軟件程序的調(diào)試,都是生產(chǎn)者在生產(chǎn)自動(dòng)駕駛汽車過程中應(yīng)盡的避免事故發(fā)生的注意義務(wù),注意義務(wù)不再是個(gè)案判斷中具體駕駛員的注意義務(wù),而主要是生產(chǎn)者的注意義務(wù)?!?7〕參見郭澤強(qiáng):《人工智能時(shí)代權(quán)利與責(zé)任歸屬的域外經(jīng)驗(yàn)與啟示》,《國外社會(huì)科學(xué)》2020 年第5 期。對于生產(chǎn)者而言,其在生產(chǎn)的全過程中因?yàn)樽陨碓驅(qū)е碌淖詣?dòng)駕駛汽車的制造缺陷,將會(huì)在其行駛過程中造成嚴(yán)重?fù)p害,并且這類損害大多超出了一般公民的正常預(yù)期,應(yīng)當(dāng)明確由生產(chǎn)者作為責(zé)任主體,并在法人責(zé)任模式下,以相對嚴(yán)格責(zé)任的方式承擔(dān)產(chǎn)品刑事責(zé)任?!?8〕徐永偉、袁彬:《無人駕駛交通事故中的刑事責(zé)任及其分配》,《南京師大學(xué)報(bào)》(社會(huì)科學(xué)版)2022 年第3 期。面對生產(chǎn)者可能承擔(dān)苛重的責(zé)任的質(zhì)疑,應(yīng)該嘗試以刑事合規(guī)模式來推動(dòng)生產(chǎn)者預(yù)防此類風(fēng)險(xiǎn),促使生產(chǎn)者的犯罪規(guī)制模式從外部規(guī)制轉(zhuǎn)向自我管理,提前預(yù)防自動(dòng)駕駛所可能引發(fā)的風(fēng)險(xiǎn),〔49〕參見萬方:《合規(guī)計(jì)劃作為預(yù)防性法律規(guī)則的規(guī)制邏輯與實(shí)踐進(jìn)路》,《政法論壇》2021 年第6 期。實(shí)現(xiàn)合理的責(zé)任分配。

    3.駕駛員與自動(dòng)駕駛系統(tǒng)過失競合

    在目前主流的L2-L3 級(jí)自動(dòng)駕駛模式中,自動(dòng)駕駛系統(tǒng)與駕駛員可能都參與了駕駛行為,這將產(chǎn)生自動(dòng)駕駛系統(tǒng)與駕駛員關(guān)于過失責(zé)任競合的問題。以2016 年美國威利斯頓特斯拉案件為例,〔50〕Bela Csitei,Self-Driving Cars and Criminal Liability,Debreceni Jogi Muhely/ Legal Workshop of Debrecen,Vol.19:3,p.37(2020).這輛擁有自動(dòng)駕駛輔助系統(tǒng)Autopilot 的汽車與一輛拖掛卡車相撞,駕駛員當(dāng)場死亡。特斯拉認(rèn)為除了車輛故障和駕駛員疏忽之外,因?yàn)檐囕v沒有與拖車的前部或后部相撞,導(dǎo)致Model S 的安全系統(tǒng)無法避免嚴(yán)重的傷害。美國國家運(yùn)輸安全委員會(huì)總結(jié)事故的原因包括拖掛車司機(jī)沒有主動(dòng)避讓,還包括特斯拉汽車駕駛員“過于依賴”輔助駕駛功能而疏忽大意,在將近40 分鐘內(nèi)手握方向盤的時(shí)間總計(jì)只有25 秒。在該案中,存在自動(dòng)駕駛系統(tǒng)和駕駛員的過失競合情形:一方面,自動(dòng)駕駛系統(tǒng)沒有精準(zhǔn)識(shí)別將要發(fā)生的危險(xiǎn)并作出正確的防御性行為;另一方面,駕駛員由于疏忽大意的過失,沒有及時(shí)接管車輛進(jìn)而避險(xiǎn)。對于本案中駕駛員而言,由于過失很難預(yù)想到陽光照射迎面駛來的掛車白色面板進(jìn)而產(chǎn)生強(qiáng)烈的反光,使得該系統(tǒng)未能識(shí)別前方車輛,〔51〕參見周維明:《系統(tǒng)論刑法學(xué)的基本命題》,《政法論壇》2021 年第3 期。因此存在過失競合的責(zé)任。再如前述美國亞利桑那州坦佩市Uber 自動(dòng)駕駛汽車案件,自動(dòng)駕駛汽車的安全員由于收看手機(jī)節(jié)目這一疏忽大意的過失,未盡安全管理防范義務(wù),具有駕駛員過失責(zé)任。但該自動(dòng)駕駛汽車并未作出有效行動(dòng),同樣具有系統(tǒng)過失。這種情形的過失責(zé)任分配應(yīng)當(dāng)依據(jù)法條規(guī)定具體分析,以想象競合或法條競合處理,若涉及主體競合,就要依據(jù)主體的立場進(jìn)行責(zé)任劃分。

    綜合來看,自動(dòng)駕駛系統(tǒng)作為人工智能算法,是基于數(shù)據(jù)集和成熟算法模型的編程所形成,生產(chǎn)者通過運(yùn)用“卷積神經(jīng)網(wǎng)絡(luò)算法和相關(guān)算法研發(fā)并構(gòu)筑自動(dòng)駕駛汽車的感應(yīng)系統(tǒng)和決策控制系統(tǒng)”,〔52〕金夢:《立法倫理與算法正義——算法主體行為的法律規(guī)制》,《政法論壇》2021 年第1 期。但是現(xiàn)階段的自動(dòng)駕駛汽車“并不能完美應(yīng)對各種突發(fā)情況,在駕駛中可能會(huì)因?yàn)楦蓴_因素而造成傷亡”〔53〕鄭玉雙:《自動(dòng)駕駛的算法正義與法律責(zé)任體系》,《法制與社會(huì)發(fā)展》2022 年第4 期。。在責(zé)任承擔(dān)方面,駕駛員與自動(dòng)駕駛系統(tǒng)本身均不適合責(zé)任承擔(dān),因?yàn)槠溥\(yùn)行全然由自動(dòng)駕駛系統(tǒng)操控,而出現(xiàn)事故的系統(tǒng)缺陷可以追溯至生產(chǎn)者,無論是硬件缺失還是軟件不當(dāng),都應(yīng)該由自動(dòng)駕駛汽車生產(chǎn)者承擔(dān)責(zé)任。退言之,如果貿(mào)然讓駕駛員承擔(dān)責(zé)任,只會(huì)違背自動(dòng)駕駛的技術(shù)創(chuàng)新初衷,在面對交通事故的瞬間讓駕駛員恢復(fù)對自動(dòng)駕駛汽車的操縱甚至?xí)ζ涮岢龈叩淖⒁饬x務(wù)要求,而這顯然不符合自動(dòng)駕駛技術(shù)的未來發(fā)展趨勢,對駕駛員而言也過于苛刻,〔54〕Vgl.Siehe Volker Lüdemann,Stellungnahme zum Entwurf eines Gesetzes zur ?nderung des Stra?enverkehrsgesetzes(automatisiertes Fahren).Drucksache 18/11300,URL:https://www.bundestag.de/resource/blob/498594/127329cb7b1fb6fa7a65dba93c6b7e49/101_sitzung_486c-data.pdf.駕駛員在這種語境下除了選擇目的地之外大多無法控制車輛,因此很難讓他們對事故負(fù)責(zé)?!?5〕See Sven Ove Hansson,Matts-?ke Belin &Bj?rn Lundgren,Self-Driving Vehicles-an Ethical Overview,Philosophy &Technology,Vol.34,p.138(2021).事實(shí)上,當(dāng)前自動(dòng)駕駛汽車的產(chǎn)品缺陷主要有三種類型,分別是制造缺陷、設(shè)計(jì)缺陷與警示說明缺陷,〔56〕王琦:《對自動(dòng)駕駛機(jī)動(dòng)車的產(chǎn)品責(zé)任》,《中德法學(xué)論壇》2019 年第1 期。其中由生產(chǎn)者“因程序設(shè)計(jì)缺陷等原因造成的”缺陷最為頻繁,損害后果也更為嚴(yán)重,但是這種缺陷和生產(chǎn)者的生產(chǎn)過程直接相關(guān),駕駛者被排除在外,對此不存在過失?!?7〕參見魏超:《自動(dòng)駕駛汽車對生命緊急避險(xiǎn)的刑事責(zé)任》,《華東政法大學(xué)學(xué)報(bào)》2022 年第4 期。換言之,由生產(chǎn)者承擔(dān)自動(dòng)駕駛汽車交通事故的賠償責(zé)任對于“遵循產(chǎn)品責(zé)任的進(jìn)路最有效率,是法經(jīng)濟(jì)學(xué)視角下的最優(yōu)規(guī)則”〔58〕吳維錠、張瀟劍:《人工智能致第三方損害的責(zé)任承擔(dān)》,《廣東財(cái)經(jīng)大學(xué)學(xué)報(bào)》2019 年第3 期。,而這也有助于落實(shí)對自動(dòng)駕駛汽車的合規(guī)監(jiān)管,從源頭強(qiáng)化對自動(dòng)駕駛汽車技術(shù)標(biāo)準(zhǔn)的掌控,比如歐盟在2022 年8 月26 日發(fā)布了關(guān)于自動(dòng)駕駛車輛的型式認(rèn)證法規(guī)《全自動(dòng)車輛自動(dòng)駕駛系統(tǒng)(ADS)型式認(rèn)證的統(tǒng)一程序和技術(shù)規(guī)范》(Reg.(EU)2022/1426),其中就規(guī)定了自動(dòng)駕駛汽車的性能要求和合規(guī)性評(píng)估,要求生產(chǎn)者構(gòu)建“安全管理體系”以實(shí)現(xiàn)對自動(dòng)駕駛系統(tǒng)的“全生命周期”的有效管理,從而為交通肇事后的責(zé)任追究提供參照依據(jù)?!?9〕See The European Parliament and of the Council as Regards Uniform Procedures and Technical Specifications for the Type-approval of the Automated Driving System(ADS)of Fully Automated Vehicles,URL:https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32022R1426.對于目前的自動(dòng)駕駛汽車而言,大數(shù)據(jù)的自動(dòng)駕駛汽車生產(chǎn)者大多能通過自動(dòng)駕駛系統(tǒng)來控制引導(dǎo)車輛,任何自動(dòng)駕駛功能還未達(dá)到完全意義上高水平的自動(dòng)駕駛狀態(tài),〔60〕Keri Grieman,Hard Drive Crash:An Examination of Liability for Self-Driving Vehicles,Journal of Intellectual Property,Information Technology and Electronic Commerce Law,Vol.9:3,p.300(2019).相反其運(yùn)行需要生產(chǎn)者提供技術(shù)支撐甚至是云端的遠(yuǎn)程技術(shù)支持。比如基于CPSS 視角提出的5G 遠(yuǎn)程自動(dòng)駕駛系統(tǒng)解決方案已經(jīng)投入使用,〔61〕參見楊良義等:《面向5G 遠(yuǎn)程自動(dòng)駕駛的CPSS 控制系統(tǒng)研究》,《重慶理工大學(xué)學(xué)報(bào)》(自然科學(xué))2022 年第2 期。其中的運(yùn)行數(shù)據(jù)也大多被傳輸至生產(chǎn)者的后臺(tái),由生產(chǎn)者來確認(rèn)自動(dòng)駕駛汽車處于“安全駕駛”狀態(tài),在這種情境下,自動(dòng)駕駛汽車的生產(chǎn)者主導(dǎo)了運(yùn)行過程,自然也應(yīng)該承擔(dān)相應(yīng)的責(zé)任。

    對于生產(chǎn)者承擔(dān)責(zé)任的社會(huì)效果,可以引入責(zé)任保險(xiǎn)制度提供社會(huì)化救濟(jì)方式,藉此彌補(bǔ)產(chǎn)品責(zé)任制度的不足,平衡生產(chǎn)者、駕駛員與受害人之間的利益,既能及時(shí)高效地救濟(jì)受害人,又可讓生產(chǎn)者免于訴累,專注于提升自動(dòng)駕駛技術(shù)的安全性能。實(shí)際上,完全參照產(chǎn)品責(zé)任說將自動(dòng)駕駛汽車的交通事故侵權(quán)責(zé)任全部施加給生產(chǎn)者的做法,會(huì)在一定程度上阻礙自動(dòng)駕駛汽車產(chǎn)業(yè)的發(fā)展。鑒于此,應(yīng)該構(gòu)建雙層次責(zé)任保險(xiǎn)框架:第一層保險(xiǎn)由直接責(zé)任主體為分散風(fēng)險(xiǎn)而投保,第二層保險(xiǎn)采用社會(huì)救助方式,由相關(guān)主體的部分盈利轉(zhuǎn)化為共同賠償基金。同時(shí),考慮到我國民眾的保險(xiǎn)意識(shí)和投保能力等因素,自動(dòng)駕駛汽車責(zé)任保險(xiǎn)要同時(shí)承保“人”和“車”的風(fēng)險(xiǎn)。〔62〕王春梅:《人機(jī)協(xié)同視域下中國自動(dòng)駕駛汽車責(zé)任保險(xiǎn)立法構(gòu)設(shè)》,《上海師范大學(xué)學(xué)報(bào)》(哲學(xué)社會(huì)科學(xué)版)2022 年第3 期。《上海辦法》第40 條就對責(zé)任保險(xiǎn)與風(fēng)險(xiǎn)基金作出了大膽的嘗試,要求人工智能汽車的道路測試、示范應(yīng)用、示范運(yùn)營的單位應(yīng)當(dāng)按照有關(guān)規(guī)定,投保機(jī)動(dòng)車交通事故責(zé)任強(qiáng)制保險(xiǎn),并投保一定金額的商業(yè)保險(xiǎn)或者提供相應(yīng)金額的保函。實(shí)際上,汽車保險(xiǎn)業(yè)在自動(dòng)駕駛時(shí)代已經(jīng)逐漸從追究駕駛員個(gè)體責(zé)任轉(zhuǎn)向生產(chǎn)者責(zé)任上來,〔63〕參見[美]詹姆斯·M.安德森、[美]尼德黑·卡拉:《重新思考自動(dòng)駕駛變革時(shí)代的汽車保險(xiǎn)和責(zé)任制度》,馬成亮譯,《國外社會(huì)科學(xué)文摘》2019 年第1 期。所以應(yīng)該鼓勵(lì)保險(xiǎn)公司開發(fā)適應(yīng)人工智能汽車特點(diǎn)的保險(xiǎn)產(chǎn)品,以救濟(jì)受害人為中心的利益平衡為核心來構(gòu)建保險(xiǎn)制度,倡導(dǎo)多元投保主體模式來提高整體的風(fēng)險(xiǎn)控制水平,督促生產(chǎn)者通過履行跟蹤觀察義務(wù)作為人工智能汽車的預(yù)防性補(bǔ)救措施,〔64〕參見張祖陽、樊啟榮:《論我國智能汽車產(chǎn)品責(zé)任強(qiáng)制保險(xiǎn)的制度構(gòu)建》,《江漢論壇》2023 年第7 期。推動(dòng)相關(guān)社會(huì)團(tuán)體、企業(yè)等聯(lián)合設(shè)立社會(huì)風(fēng)險(xiǎn)基金,對因智能網(wǎng)聯(lián)汽車遭受人身、財(cái)產(chǎn)損失的受害者,當(dāng)其因責(zé)任無法認(rèn)定等原因不能及時(shí)得到賠償時(shí),先予補(bǔ)償。

    (三)自動(dòng)駕駛汽車導(dǎo)致事故的刑事責(zé)任認(rèn)定

    鑒于“刑法犯罪構(gòu)成理論與侵權(quán)法構(gòu)成要件理論具備高度的同構(gòu)性”〔65〕劉艷紅:《人性民法與物性刑法的融合發(fā)展》,《中國社會(huì)科學(xué)》2020 年第4 期。,并考慮到自動(dòng)駕駛汽車中控制汽車的主體呈現(xiàn)多樣化狀態(tài),在歸責(zé)時(shí)需要結(jié)合具體情形進(jìn)行考察?!?6〕參見王霖:《自動(dòng)駕駛場景下過失犯歸責(zé)困境巡檢與路徑選擇》,《河北法學(xué)》2020 年第3 期。自動(dòng)駕駛汽車無法成為交通肇事的犯罪主體,刪除數(shù)據(jù)、修改程序和永久銷毀也不能作為對自動(dòng)駕駛汽車的刑罰。自動(dòng)駕駛汽車缺乏自我意志,其所做出各類有社會(huì)意義并能接受社會(huì)評(píng)價(jià)的行為,均是人類行為與指令的延伸,〔67〕參見王樂兵:《自動(dòng)駕駛汽車的缺陷及其產(chǎn)品責(zé)任》,《清華法學(xué)》2020 年第2 期。而生產(chǎn)者通過人工智能技術(shù)不斷訓(xùn)練自動(dòng)駕駛系統(tǒng),以推動(dòng)自動(dòng)駕駛的自我學(xué)習(xí)、迭代與升級(jí)?!?8〕劉艷紅:《Web3.0 時(shí)代網(wǎng)絡(luò)犯罪的代際特征及刑法應(yīng)對》,《環(huán)球法律評(píng)論》2020 年第5 期。

    1.生產(chǎn)者的刑事責(zé)任判斷

    鑒于自動(dòng)駕駛系統(tǒng)無法承擔(dān)刑事責(zé)任,所以自動(dòng)駕駛系統(tǒng)與駕駛員無需考慮過失競合的刑事責(zé)任承擔(dān)問題,二者無法成立共同犯罪。因此,依據(jù)過失行為與結(jié)果發(fā)生之關(guān)聯(lián)分析,在使用自動(dòng)駕駛導(dǎo)致交通肇事的情形中只需找到法律責(zé)任承擔(dān)主體即可。因?yàn)樽詣?dòng)駕駛汽車生產(chǎn)階段存在制造風(fēng)險(xiǎn)與測試風(fēng)險(xiǎn),所以在該階段生產(chǎn)者生產(chǎn)、銷售不符合安全標(biāo)準(zhǔn)的自動(dòng)駕駛汽車導(dǎo)致嚴(yán)重后果的,應(yīng)當(dāng)按照生產(chǎn)、銷售不符合安全標(biāo)準(zhǔn)的產(chǎn)品罪追究刑事責(zé)任。而在應(yīng)用階段,存在過失風(fēng)險(xiǎn)與故意風(fēng)險(xiǎn),生產(chǎn)者過失未履行自動(dòng)駕駛汽車應(yīng)用安全管理義務(wù)并發(fā)生嚴(yán)重后果的,應(yīng)當(dāng)承擔(dān)刑事責(zé)任。對于自動(dòng)駕駛汽車而言,其應(yīng)該保持系統(tǒng)安全特別是算法安全,通過實(shí)時(shí)監(jiān)控、封閉管理和及時(shí)維護(hù)來預(yù)防自動(dòng)駕駛汽車運(yùn)行存在嚴(yán)重危險(xiǎn),尤其是當(dāng)車內(nèi)人員啟動(dòng)緊急處置求助按鍵時(shí),應(yīng)當(dāng)通過云端后臺(tái)對自動(dòng)駕駛汽車啟動(dòng)遠(yuǎn)程監(jiān)控或干預(yù)。對于生產(chǎn)者而言,德國學(xué)者認(rèn)為當(dāng)自動(dòng)駕駛汽車投入市場使用之后,其應(yīng)該對自動(dòng)駕駛汽車進(jìn)行全流程的監(jiān)管檢測,并通過設(shè)置固定的時(shí)間窗口(Zeitfenster)來觀察自動(dòng)駕駛汽車運(yùn)行的狀況,而在時(shí)間窗口內(nèi)謹(jǐn)慎盡職的生產(chǎn)者則不必對自動(dòng)駕駛汽車的交通肇事承擔(dān)責(zé)任?!?9〕Vgl.Lea Bachmann,Prozedurale Entlastung von Herstellern smarter Produkte im Strafrecht? ZStrR 1/2022,S.92.事實(shí)上,這種對生產(chǎn)者的責(zé)任認(rèn)定模式值得我國借鑒,設(shè)置時(shí)間窗口充分地考慮了生產(chǎn)者在第一次事故時(shí)大多缺乏可預(yù)見性,此時(shí)對謹(jǐn)慎盡職的生產(chǎn)者進(jìn)行追責(zé)不但無法起到預(yù)防效果,還會(huì)阻礙自動(dòng)駕駛汽車產(chǎn)業(yè)的長久發(fā)展,時(shí)間窗口可以在技術(shù)進(jìn)步和安全生產(chǎn)之間取得平衡,而當(dāng)自動(dòng)駕駛汽車的潛在風(fēng)險(xiǎn)經(jīng)過一定的時(shí)間窗口且可以被識(shí)別后,生產(chǎn)者必須采取合理的反應(yīng)措施來以消除實(shí)質(zhì)性的危險(xiǎn),否則就應(yīng)該承擔(dān)刑事責(zé)任?!?0〕參見蔡仙:《自動(dòng)駕駛中過失犯歸責(zé)體系的展開》,《比較法研究》2023 第4 期。例如,《深圳條例》第33 條規(guī)定了“生產(chǎn)者獲知其生產(chǎn)的產(chǎn)品可能存在危及人身、財(cái)產(chǎn)安全缺陷的,應(yīng)當(dāng)立即組織調(diào)查分析,并如實(shí)向市場監(jiān)管部門報(bào)告調(diào)查分析結(jié)果”,這種規(guī)定可在對生產(chǎn)者進(jìn)行刑法規(guī)制的同時(shí)保持刑法謙抑性,避免刑法過度介入。

    2.駕駛員的刑事責(zé)任判斷

    自動(dòng)駕駛汽車的自動(dòng)化分級(jí)與事故責(zé)任的后果密切相關(guān),而在不同自動(dòng)化等級(jí)下,自動(dòng)駕駛汽車所需履行的主體義務(wù)與法律規(guī)范的義務(wù)無法直接等同,〔71〕參見張溪瑨:《商用自動(dòng)駕駛技術(shù)監(jiān)管問題及對策——以特斯拉為例》,《中國科技論壇》2022 年第5 期。駕駛員對應(yīng)的刑事責(zé)任也因此存在差異。事實(shí)上,《江蘇條例》第85 條就規(guī)定當(dāng)有條件自動(dòng)駕駛汽車、高度自動(dòng)駕駛汽車發(fā)生交通肇事,由駕駛員承擔(dān)責(zé)任,而當(dāng)完全自動(dòng)駕駛汽車發(fā)生交通肇事,則由自動(dòng)駕駛汽車所有人、管理人承擔(dān)責(zé)任,由此可見對自動(dòng)駕駛汽車交通肇事的歸責(zé)需要考慮汽車的人工智能化程度并進(jìn)行分類處理。在通常情況下,L4-L5 級(jí)自動(dòng)駕駛汽車為高度和完全自動(dòng)化階段,由自動(dòng)駕駛系統(tǒng)完成所有駕駛操作,因此,不存在競合情形。而在L1-L3 級(jí),因?yàn)槎即嬖谌祟愸{駛者的操作,所以需要考慮使用車輛輔助駕駛功能致使交通肇事后果的責(zé)任承擔(dān)。自動(dòng)駕駛汽車的生產(chǎn)者不符合交通肇事罪的犯罪構(gòu)成,〔72〕參見皮勇:《論自動(dòng)駕駛汽車生產(chǎn)者的刑事責(zé)任》,《比較法研究》2022 年第1 期。而系統(tǒng)的設(shè)計(jì)者、生產(chǎn)者、銷售者等也都不屬于傳統(tǒng)刑法意義上交通肇事罪的主體?!?3〕陳結(jié)淼、王康輝:《論無人駕駛汽車交通肇事的刑法規(guī)制》,《安徽大學(xué)學(xué)報(bào)》(哲學(xué)社會(huì)科學(xué)版)2019 年第3 期?!缎谭ā返?33 條中要求“違反交通運(yùn)輸管理法規(guī)”以及發(fā)生重大事故造成相關(guān)人身傷亡或財(cái)物損失的嚴(yán)重后果。自動(dòng)駕駛汽車違反相關(guān)法規(guī)的行為,主要由駕駛員行駛造成,系統(tǒng)設(shè)定的內(nèi)容應(yīng)是符合法律法規(guī)的情形,而行為后果也是在行進(jìn)過程中或過程后產(chǎn)生,生產(chǎn)者的注意義務(wù)體現(xiàn)于交通行為之前,自然無法對應(yīng)刑事責(zé)任。在潘某交通肇事罪案中,潘某使用定速巡航和車道偏離糾正系統(tǒng)模式駕駛客車,與輕型貨車發(fā)生碰撞后,在向前滑行時(shí)碰撞他人并導(dǎo)致造成交通事故?!?4〕參見廣東省肇慶市高要區(qū)人民法院刑事判決書,(2021)粵1204 刑初95 號(hào)。潘某是由于過于相信車輛輔助系統(tǒng)功能,而疏忽大意駕駛車輛,并在遭遇事故時(shí)措施失當(dāng)造成車輛失控,構(gòu)成交通肇事罪。定速巡航和車道偏離糾正系統(tǒng)模式屬于L1 或L2 級(jí),主要是通過駕駛環(huán)境對方向盤和加減速中的操作提供駕駛支援,并未完全真正影響駕駛員操作車輛,屬于車輛輔助駕駛功能,所以可以追究駕駛員的過失責(zé)任。而當(dāng)車輛屬于L3 級(jí)時(shí),駕駛員具有對自動(dòng)駕駛汽車的安全監(jiān)管義務(wù),在未履行該項(xiàng)義務(wù)造成后果的情形中,應(yīng)當(dāng)依法承擔(dān)相應(yīng)的刑事責(zé)任。如果駕駛員認(rèn)為有能力在行駛中控制住汽車的,可以由其決定接管時(shí)間,同時(shí)承擔(dān)接管失敗的法律責(zé)任;如果駕駛員自認(rèn)為無法接管的,應(yīng)允許其在自動(dòng)駕駛汽車停車后接管,否則將使駕駛員陷入兩難境地,即無論是否接管汽車都要對交通事故承擔(dān)刑事責(zé)任。在L4-L5 級(jí)自動(dòng)駕駛汽車中,已經(jīng)完全由自動(dòng)駕駛系統(tǒng)完成所有的駕駛操作,人類駕駛員可以完全不參與駕駛活動(dòng)中,也因此不承擔(dān)相應(yīng)的法律責(zé)任。

    對于駕駛員的刑事歸責(zé)不能對不同程度的自動(dòng)駕駛汽車等同視之,自動(dòng)駕駛汽車的智能化程度越高,操作汽車的自然人的責(zé)任就越小。隨著更高水平的自動(dòng)駕駛汽車技術(shù)發(fā)展,駕駛員逐漸徹底成為汽車的乘客。〔75〕Csitei,Self-Driving Cars,p.39.參考域外經(jīng)驗(yàn),若自動(dòng)駕駛汽車因?yàn)榭深A(yù)見的故障而造成他人傷害或死亡,自動(dòng)駕駛汽車的駕駛員可能被判過失傷害或殺人罪,即使他們的疏忽僅僅是沒有對危險(xiǎn)事件的報(bào)告作出適當(dāng)?shù)姆磻?yīng)?!?6〕See Sabine Gless,Emily Silverman &Thomas Weigend,If Robots Cause Harm,Who Is to Blame? Self-Driving Cars and Criminal Liability,New Criminal Law Review,Vol.19:3,p.436(2016).但在L5 級(jí)汽車中,則可以不設(shè)置駕駛位,也不存在駕駛員或安全員角色,車上人員不對自動(dòng)駕駛汽車交通事故承擔(dān)刑事責(zé)任。L4 級(jí)汽車駕駛員不承擔(dān)警覺接管義務(wù),其不接管汽車也不承擔(dān)法律責(zé)任。在L4 與L5 級(jí)自動(dòng)駕駛汽車中,汽車的自動(dòng)運(yùn)行已經(jīng)高度脫離了駕駛員的掌控,駕駛員對于自動(dòng)駕駛系統(tǒng)的信賴具有相當(dāng)性與合理性,同時(shí)這種高度運(yùn)行的緊張狀態(tài)下對駕駛員提出高強(qiáng)度的接管義務(wù)也實(shí)屬“強(qiáng)人所難”,所以駕駛員在這種情形下不應(yīng)該承擔(dān)法律責(zé)任?!?7〕參見蔡仙:《人機(jī)共駕模式下的接管義務(wù)及其刑事歸責(zé)》,《蘇州大學(xué)學(xué)報(bào)》(法學(xué)版)2023 年第3 期。L3 級(jí)汽車的駕駛員負(fù)有警覺接管汽車的法律義務(wù),因?yàn)樵谶@種技術(shù)語境下,駕駛員存在操作的空間,同時(shí)其也不應(yīng)該過度信賴該技術(shù)。盡管有學(xué)者提出這種被動(dòng)接管規(guī)則有悖于自動(dòng)駕駛汽車作為替代型人工智能的設(shè)計(jì)初衷,同時(shí)與人類中心主義倫理準(zhǔn)則相悖,〔78〕參見鄭志峰:《論自動(dòng)駕駛汽車被動(dòng)接管規(guī)則》,《華東政法大學(xué)學(xué)報(bào)》2023 年第3 期。但這不符合技術(shù)發(fā)展的實(shí)際情況,L3 級(jí)汽車的駕駛?cè)藛T應(yīng)該充分地認(rèn)識(shí)到何為“有條件”的技術(shù)使用語境,如若其因未履行警覺接管義務(wù)而發(fā)生嚴(yán)重后果的,將依法承擔(dān)刑事責(zé)任。L1-L2 級(jí)汽車只具有輔助人類駕駛員控制功能,實(shí)際上仍是由人類駕駛員控制汽車,若因駕駛員存在過失導(dǎo)致嚴(yán)重交通事故,直接追究駕駛員的刑事責(zé)任。

    結(jié)語

    “堅(jiān)持法治為了人民,就是要始終把人民利益擺在最高位置”〔79〕周佑勇:《大變局下中國式民主的制度優(yōu)勢與憲法保障》,《中國法學(xué)》2023 年第1 期。。自動(dòng)駕駛汽車的發(fā)展勢不可擋,預(yù)防自動(dòng)駕駛汽車事故所帶來的公民人身權(quán)利與財(cái)產(chǎn)權(quán)利的風(fēng)險(xiǎn)顯得尤為重要。從不同風(fēng)險(xiǎn)視野下的防范路徑出發(fā),對民事責(zé)任和刑事責(zé)任進(jìn)行區(qū)分探討,并引入責(zé)任保險(xiǎn)制度作為社會(huì)化救濟(jì)方式。同時(shí),自動(dòng)駕駛汽車的生產(chǎn)者和駕駛員都應(yīng)積極履行相應(yīng)的安全管理義務(wù)和安全駕駛義務(wù),以此避免交通肇事的發(fā)生。此外,對未來算法應(yīng)用中的衍生風(fēng)險(xiǎn)防范、系統(tǒng)中的人機(jī)關(guān)系設(shè)置、系統(tǒng)的倫理決策判斷爭議等潛在問題,〔80〕參見儲(chǔ)陳城:《以利益衡量作為網(wǎng)絡(luò)領(lǐng)域刑事治理的原則》,《法學(xué)論壇》2021 年第5 期。不斷積累法律規(guī)制的經(jīng)驗(yàn)。

    猜你喜歡
    生產(chǎn)者駕駛員自動(dòng)
    基于高速公路的駕駛員換道意圖識(shí)別
    駕駛員安全帶識(shí)別方法綜述
    1月巴西生產(chǎn)者價(jià)格指數(shù)上漲3.92%
    自動(dòng)捕盜機(jī)
    2019德國IF設(shè)計(jì)大獎(jiǎng)
    基于STM32的自動(dòng)喂養(yǎng)機(jī)控制系統(tǒng)
    電子測試(2018年10期)2018-06-26 05:53:36
    家禽福利的未來:生產(chǎn)者能期待什么?
    關(guān)于自動(dòng)駕駛
    汽車博覽(2016年9期)2016-10-18 13:05:41
    一場大風(fēng)帶給生產(chǎn)者的思考
    起步前環(huán)顧四周是車輛駕駛員的義務(wù)
    公民與法治(2016年4期)2016-05-17 04:09:26
    别揉我奶头 嗯啊视频| 中文在线观看免费www的网站| 久久久精品免费免费高清| 天天一区二区日本电影三级| 男女啪啪激烈高潮av片| 午夜激情久久久久久久| 午夜爱爱视频在线播放| 秋霞伦理黄片| 欧美日韩一区二区视频在线观看视频在线 | 欧美成人一区二区免费高清观看| 晚上一个人看的免费电影| 中国美白少妇内射xxxbb| 国产激情偷乱视频一区二区| 两个人的视频大全免费| 亚洲熟妇中文字幕五十中出| 老司机影院成人| 婷婷色av中文字幕| 午夜视频国产福利| 蜜臀久久99精品久久宅男| 国产成人免费观看mmmm| 日本一二三区视频观看| 国产一级毛片在线| 搞女人的毛片| 国内揄拍国产精品人妻在线| 18禁在线无遮挡免费观看视频| 如何舔出高潮| 黄色日韩在线| 97超视频在线观看视频| 国产淫片久久久久久久久| 十八禁国产超污无遮挡网站| 精品不卡国产一区二区三区| 亚洲18禁久久av| 亚洲四区av| 国产高清三级在线| 三级国产精品欧美在线观看| a级毛片免费高清观看在线播放| 国产人妻一区二区三区在| 午夜精品一区二区三区免费看| 在线a可以看的网站| 又大又黄又爽视频免费| 最后的刺客免费高清国语| 亚洲精品乱码久久久v下载方式| 人妻制服诱惑在线中文字幕| 美女国产视频在线观看| 久久国内精品自在自线图片| 欧美潮喷喷水| 日韩欧美 国产精品| 日韩大片免费观看网站| 天堂√8在线中文| 18禁裸乳无遮挡免费网站照片| 午夜精品在线福利| 午夜精品一区二区三区免费看| 国产免费福利视频在线观看| 午夜激情久久久久久久| 国产视频内射| 国产毛片a区久久久久| 日本色播在线视频| videossex国产| 亚洲图色成人| 寂寞人妻少妇视频99o| 国产精品一区二区三区四区久久| 亚洲精品第二区| 欧美变态另类bdsm刘玥| 国产亚洲5aaaaa淫片| 嫩草影院精品99| 99热6这里只有精品| 中文字幕制服av| 极品少妇高潮喷水抽搐| 亚洲在线观看片| 国内精品宾馆在线| 成人二区视频| 色尼玛亚洲综合影院| 免费av观看视频| 波野结衣二区三区在线| 国产乱人视频| 亚洲性久久影院| 亚洲av国产av综合av卡| 亚洲综合色惰| 国产精品三级大全| 国模一区二区三区四区视频| 午夜激情欧美在线| 中文在线观看免费www的网站| 夜夜爽夜夜爽视频| 伊人久久国产一区二区| 高清在线视频一区二区三区| 成年av动漫网址| 99久久九九国产精品国产免费| 日韩中字成人| 校园人妻丝袜中文字幕| 能在线免费看毛片的网站| 99久久精品国产国产毛片| 国产精品蜜桃在线观看| 美女被艹到高潮喷水动态| 老司机影院毛片| 国产不卡一卡二| 国产高清有码在线观看视频| 秋霞在线观看毛片| 国产亚洲av片在线观看秒播厂 | 成年女人看的毛片在线观看| 国产不卡一卡二| 深爱激情五月婷婷| 好男人在线观看高清免费视频| 成人鲁丝片一二三区免费| 小蜜桃在线观看免费完整版高清| 插逼视频在线观看| 久久国产乱子免费精品| 国产成人精品婷婷| 亚洲精品影视一区二区三区av| 啦啦啦啦在线视频资源| 大又大粗又爽又黄少妇毛片口| 国产熟女欧美一区二区| 男的添女的下面高潮视频| 欧美日韩在线观看h| 男女边吃奶边做爰视频| 深爱激情五月婷婷| 嘟嘟电影网在线观看| 日韩一区二区视频免费看| 欧美日韩综合久久久久久| 搡女人真爽免费视频火全软件| 91久久精品国产一区二区三区| 美女内射精品一级片tv| 天堂影院成人在线观看| 熟妇人妻久久中文字幕3abv| 纵有疾风起免费观看全集完整版 | 亚洲精品成人av观看孕妇| 亚洲av中文字字幕乱码综合| 亚洲无线观看免费| 国产高潮美女av| 日韩大片免费观看网站| 美女主播在线视频| 免费av毛片视频| 日韩强制内射视频| 97热精品久久久久久| 精品一区二区三区人妻视频| 免费观看a级毛片全部| 国产成人福利小说| 欧美xxxx黑人xx丫x性爽| 国产精品一二三区在线看| 丝袜喷水一区| 精品少妇黑人巨大在线播放| 在线天堂最新版资源| 亚洲成人精品中文字幕电影| 少妇裸体淫交视频免费看高清| 简卡轻食公司| 成人美女网站在线观看视频| 亚洲av二区三区四区| 亚洲真实伦在线观看| 国内揄拍国产精品人妻在线| 国产午夜精品久久久久久一区二区三区| 久久这里只有精品中国| 18禁在线无遮挡免费观看视频| 亚洲av不卡在线观看| 久久亚洲国产成人精品v| 亚洲av国产av综合av卡| 美女主播在线视频| 一个人免费在线观看电影| 久久久久久久午夜电影| 国产在视频线精品| 久久久久九九精品影院| 亚洲婷婷狠狠爱综合网| 一本一本综合久久| 亚洲va在线va天堂va国产| 91久久精品国产一区二区成人| 久久97久久精品| 精品一区二区三区视频在线| 青春草视频在线免费观看| 精品熟女少妇av免费看| 久久久国产一区二区| 好男人在线观看高清免费视频| 国产精品麻豆人妻色哟哟久久 | 亚洲av福利一区| 久久99热这里只频精品6学生| 亚洲一区高清亚洲精品| 国产成人freesex在线| 男人舔女人下体高潮全视频| 久久精品久久精品一区二区三区| 麻豆av噜噜一区二区三区| 久久精品国产亚洲av天美| 黄色一级大片看看| 亚洲精品成人久久久久久| 噜噜噜噜噜久久久久久91| 男人和女人高潮做爰伦理| 天天躁日日操中文字幕| 2021少妇久久久久久久久久久| 青青草视频在线视频观看| 国产高清有码在线观看视频| 一级毛片久久久久久久久女| 97在线视频观看| 免费观看性生交大片5| 久久97久久精品| 2021少妇久久久久久久久久久| 国产精品一二三区在线看| 建设人人有责人人尽责人人享有的 | 国产亚洲av片在线观看秒播厂 | 久久久亚洲精品成人影院| 大话2 男鬼变身卡| 日韩av不卡免费在线播放| 日韩欧美精品v在线| 菩萨蛮人人尽说江南好唐韦庄| 亚洲av福利一区| 成人午夜高清在线视频| 综合色丁香网| 国产乱来视频区| 日本黄色片子视频| 国产精品国产三级国产专区5o| 亚洲美女搞黄在线观看| 天堂影院成人在线观看| 欧美一级a爱片免费观看看| 欧美极品一区二区三区四区| 国产高清三级在线| 男女边摸边吃奶| 亚洲av一区综合| 日韩一区二区三区影片| 亚洲不卡免费看| 中文资源天堂在线| av在线观看视频网站免费| 国产亚洲午夜精品一区二区久久 | 午夜精品在线福利| av在线老鸭窝| 日本-黄色视频高清免费观看| 久久精品国产自在天天线| 国产黄片视频在线免费观看| 欧美3d第一页| 欧美激情国产日韩精品一区| 日产精品乱码卡一卡2卡三| 91久久精品国产一区二区三区| 乱系列少妇在线播放| 亚洲在线自拍视频| 国产午夜福利久久久久久| 国产 亚洲一区二区三区 | 啦啦啦中文免费视频观看日本| 成人鲁丝片一二三区免费| 免费无遮挡裸体视频| 搡女人真爽免费视频火全软件| 老司机影院成人| 色综合色国产| 国产精品女同一区二区软件| 国产在线男女| 国产国拍精品亚洲av在线观看| 成年av动漫网址| 亚洲av国产av综合av卡| 亚洲精品国产av成人精品| 伊人久久精品亚洲午夜| 中国国产av一级| 一级爰片在线观看| 国产成人免费观看mmmm| 九九爱精品视频在线观看| 日韩av在线免费看完整版不卡| 日韩av在线免费看完整版不卡| 精品久久久精品久久久| 亚洲无线观看免费| 淫秽高清视频在线观看| 大又大粗又爽又黄少妇毛片口| 亚洲av成人精品一二三区| 少妇熟女欧美另类| av网站免费在线观看视频 | 十八禁网站网址无遮挡 | 日韩国内少妇激情av| 亚洲av成人av| 极品少妇高潮喷水抽搐| 久久国产乱子免费精品| 青春草国产在线视频| 亚洲av日韩在线播放| 国产成人a∨麻豆精品| 中国美白少妇内射xxxbb| 亚洲av免费在线观看| 久久久久久久国产电影| 国产午夜精品久久久久久一区二区三区| 成年人午夜在线观看视频 | 日韩大片免费观看网站| 一级黄片播放器| 亚洲无线观看免费| 亚洲av.av天堂| 日本欧美国产在线视频| 日韩成人伦理影院| 国产男人的电影天堂91| 最近最新中文字幕大全电影3| 美女主播在线视频| 欧美xxxx性猛交bbbb| 欧美日韩一区二区视频在线观看视频在线 | 亚洲精品色激情综合| 九九爱精品视频在线观看| av播播在线观看一区| 水蜜桃什么品种好| 欧美日韩一区二区视频在线观看视频在线 | 亚洲av成人av| 免费黄网站久久成人精品| 亚洲成色77777| 搡老乐熟女国产| 欧美高清性xxxxhd video| 一级毛片黄色毛片免费观看视频| 国产黄色小视频在线观看| 欧美变态另类bdsm刘玥| 男女边吃奶边做爰视频| av专区在线播放| 在线免费观看的www视频| 久久久久久久国产电影| 国产一区二区三区av在线| 最近的中文字幕免费完整| 成年女人看的毛片在线观看| 男插女下体视频免费在线播放| 久久久久久久久久成人| 18禁在线播放成人免费| 看黄色毛片网站| 五月玫瑰六月丁香| 亚洲av成人精品一区久久| 久久这里只有精品中国| 欧美成人午夜免费资源| 看非洲黑人一级黄片| 久久精品夜色国产| 国产白丝娇喘喷水9色精品| 国产精品女同一区二区软件| 免费看不卡的av| 午夜激情久久久久久久| 国产探花在线观看一区二区| 国产国拍精品亚洲av在线观看| 国产亚洲av片在线观看秒播厂 | 成人鲁丝片一二三区免费| 久久久亚洲精品成人影院| 一本一本综合久久| 国内精品美女久久久久久| 97热精品久久久久久| 99久久九九国产精品国产免费| 一个人免费在线观看电影| 国产亚洲精品av在线| 久久久精品94久久精品| 欧美变态另类bdsm刘玥| 国产精品爽爽va在线观看网站| 青春草视频在线免费观看| 丰满人妻一区二区三区视频av| 色尼玛亚洲综合影院| 久久精品国产自在天天线| 亚洲成人一二三区av| 汤姆久久久久久久影院中文字幕 | 免费观看在线日韩| 春色校园在线视频观看| 免费观看在线日韩| 在线 av 中文字幕| 日韩欧美 国产精品| 日本欧美国产在线视频| 人妻夜夜爽99麻豆av| 日本欧美国产在线视频| 国产女主播在线喷水免费视频网站 | 亚洲,欧美,日韩| 狂野欧美激情性xxxx在线观看| av专区在线播放| 国产国拍精品亚洲av在线观看| 成人美女网站在线观看视频| 高清av免费在线| 夜夜爽夜夜爽视频| 天堂√8在线中文| 国产色婷婷99| 夫妻午夜视频| 91精品一卡2卡3卡4卡| 综合色av麻豆| 国产伦理片在线播放av一区| 国产黄色小视频在线观看| 伦精品一区二区三区| 超碰av人人做人人爽久久| 人妻一区二区av| 成人漫画全彩无遮挡| 久久久欧美国产精品| 男女国产视频网站| 欧美日本视频| 国产综合精华液| 91狼人影院| 18禁在线播放成人免费| 内射极品少妇av片p| 午夜亚洲福利在线播放| 色综合色国产| 午夜老司机福利剧场| 三级男女做爰猛烈吃奶摸视频| 大片免费播放器 马上看| 免费无遮挡裸体视频| 国产精品久久久久久av不卡| 国产av码专区亚洲av| 欧美成人a在线观看| 国产精品一区二区在线观看99 | 国产一区二区三区综合在线观看 | 91久久精品国产一区二区三区| 波多野结衣巨乳人妻| 久久久久久国产a免费观看| 中文字幕久久专区| 成人特级av手机在线观看| 人人妻人人看人人澡| 噜噜噜噜噜久久久久久91| kizo精华| 久久精品久久精品一区二区三区| 亚洲av二区三区四区| videossex国产| 国产男女超爽视频在线观看| 高清欧美精品videossex| 精品熟女少妇av免费看| 国产精品一区www在线观看| 日韩人妻高清精品专区| 久久精品久久久久久久性| 国产一区二区三区av在线| 久热久热在线精品观看| 国产伦精品一区二区三区视频9| 欧美高清性xxxxhd video| 精品一区二区免费观看| 国产色爽女视频免费观看| 中文精品一卡2卡3卡4更新| 国产精品麻豆人妻色哟哟久久 | 国产成人freesex在线| 一区二区三区四区激情视频| 亚洲av二区三区四区| 性色avwww在线观看| 精品熟女少妇av免费看| 中文乱码字字幕精品一区二区三区 | 女人十人毛片免费观看3o分钟| 99久久九九国产精品国产免费| 免费观看在线日韩| 亚洲精品日本国产第一区| 欧美精品一区二区大全| 99热6这里只有精品| 成人毛片a级毛片在线播放| 水蜜桃什么品种好| 亚洲自拍偷在线| 中文字幕亚洲精品专区| 99久久中文字幕三级久久日本| 亚洲在线观看片| 国产一区二区亚洲精品在线观看| 伦精品一区二区三区| 久久6这里有精品| 国产精品一区二区在线观看99 | 三级经典国产精品| 2021少妇久久久久久久久久久| 欧美精品一区二区大全| 色视频www国产| 亚洲精品日韩av片在线观看| 精品久久久久久久久久久久久| 精品午夜福利在线看| 99久久精品一区二区三区| 嫩草影院精品99| 国产探花极品一区二区| 大片免费播放器 马上看| 亚洲电影在线观看av| 精品一区二区三区视频在线| 免费看a级黄色片| 欧美成人精品欧美一级黄| 国产精品av视频在线免费观看| 午夜久久久久精精品| 亚洲18禁久久av| 成人午夜精彩视频在线观看| 亚洲精品中文字幕在线视频 | 免费观看a级毛片全部| 亚洲精品中文字幕在线视频 | 成人无遮挡网站| 成年女人看的毛片在线观看| 久久人人爽人人片av| 亚洲精品成人久久久久久| 亚洲图色成人| 国产av不卡久久| 欧美日本视频| 美女内射精品一级片tv| 纵有疾风起免费观看全集完整版 | 中文天堂在线官网| 又爽又黄无遮挡网站| 日本wwww免费看| 丝袜喷水一区| or卡值多少钱| 国产黄片美女视频| 好男人在线观看高清免费视频| 亚洲av国产av综合av卡| 精品99又大又爽又粗少妇毛片| 国产精品一及| 波多野结衣巨乳人妻| 一个人免费在线观看电影| 国产高清不卡午夜福利| 乱系列少妇在线播放| 亚洲国产精品sss在线观看| 熟妇人妻不卡中文字幕| 亚洲av福利一区| kizo精华| 国产精品久久视频播放| 在线观看av片永久免费下载| 嘟嘟电影网在线观看| 亚洲av男天堂| 久久久久久久久中文| 亚洲欧美日韩卡通动漫| 亚洲欧美精品自产自拍| 成年免费大片在线观看| 久久久久久伊人网av| 国产激情偷乱视频一区二区| 成人午夜高清在线视频| 国产午夜福利久久久久久| 麻豆乱淫一区二区| 日韩制服骚丝袜av| 成人午夜精彩视频在线观看| 亚洲av一区综合| 国产成人freesex在线| 国产黄片视频在线免费观看| 别揉我奶头 嗯啊视频| 国产91av在线免费观看| 日韩在线高清观看一区二区三区| 看非洲黑人一级黄片| 高清毛片免费看| 日韩伦理黄色片| 99久国产av精品| 婷婷色综合大香蕉| 亚洲av免费高清在线观看| 国产精品综合久久久久久久免费| 好男人在线观看高清免费视频| 国产乱人视频| 成人av在线播放网站| 欧美精品一区二区大全| 午夜福利视频精品| 熟女电影av网| 婷婷色综合www| 亚洲第一区二区三区不卡| 91久久精品国产一区二区成人| 精品不卡国产一区二区三区| 亚洲四区av| 寂寞人妻少妇视频99o| 国产精品一区www在线观看| 日韩av在线免费看完整版不卡| 人妻系列 视频| 亚洲真实伦在线观看| 99久国产av精品| 国产精品av视频在线免费观看| 国产 一区 欧美 日韩| 亚洲美女视频黄频| 精品亚洲乱码少妇综合久久| 欧美日韩在线观看h| 久久久久久久大尺度免费视频| eeuss影院久久| 久久草成人影院| 日韩伦理黄色片| 高清毛片免费看| 黑人高潮一二区| 国产免费又黄又爽又色| 欧美精品国产亚洲| 中文在线观看免费www的网站| 色综合亚洲欧美另类图片| 亚洲国产成人一精品久久久| 免费高清在线观看视频在线观看| 成年免费大片在线观看| 亚洲熟女精品中文字幕| 国产乱来视频区| 男女下面进入的视频免费午夜| 精品国内亚洲2022精品成人| 欧美激情在线99| ponron亚洲| 精品久久久久久成人av| 亚洲精品国产成人久久av| 国产精品1区2区在线观看.| 午夜激情欧美在线| 日日撸夜夜添| 欧美人与善性xxx| 在现免费观看毛片| 少妇人妻一区二区三区视频| 国产成人精品一,二区| 欧美一区二区亚洲| 国产一级毛片七仙女欲春2| 91精品国产九色| 亚洲av成人av| 伦理电影大哥的女人| 能在线免费观看的黄片| 国产精品av视频在线免费观看| 免费看不卡的av| 国产在视频线精品| 国产精品无大码| 精品一区二区三卡| 在线观看免费高清a一片| 天天躁夜夜躁狠狠久久av| 国产在线一区二区三区精| 欧美性猛交╳xxx乱大交人| 精品熟女少妇av免费看| 特大巨黑吊av在线直播| 久久精品综合一区二区三区| 亚洲经典国产精华液单| 亚洲精品第二区| 搡女人真爽免费视频火全软件| 欧美高清成人免费视频www| 欧美成人一区二区免费高清观看| 亚洲乱码一区二区免费版| 老女人水多毛片| 国产视频首页在线观看| 大陆偷拍与自拍| 在线 av 中文字幕| 久久这里只有精品中国| 久久久久免费精品人妻一区二区| 亚洲最大成人手机在线| 国产精品无大码| 一级毛片aaaaaa免费看小| 欧美成人a在线观看| 只有这里有精品99| 免费少妇av软件| 亚洲欧美日韩卡通动漫| 国产乱人视频| 观看免费一级毛片| 国产av国产精品国产| 男人舔奶头视频| 亚洲精品国产av蜜桃| 日韩强制内射视频| 高清午夜精品一区二区三区| 99久国产av精品| 激情五月婷婷亚洲| 大陆偷拍与自拍| 亚洲精品中文字幕在线视频 | 综合色av麻豆| 人妻制服诱惑在线中文字幕| av国产久精品久网站免费入址| 久久精品夜色国产| 国产不卡一卡二| 99热这里只有是精品50| 搡老乐熟女国产| av福利片在线观看| 狂野欧美白嫩少妇大欣赏| 婷婷色综合大香蕉| 亚洲在线自拍视频| 久久综合国产亚洲精品| 熟女电影av网| 国产精品国产三级国产专区5o|