• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    自動(dòng)駕駛事故中的過失犯罪分析

    2024-12-31 00:00:00林雨佳
    關(guān)鍵詞:注意義務(wù)刑事責(zé)任自動(dòng)駕駛

    Doi:10.11835/j.issn.1008-5831.fx.2024.05.01

    歡迎按以下格式引用:林雨佳.自動(dòng)駕駛事故中的過失犯罪分析[J].重慶大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2024(6):238-249. Doi:10.11835/j.issn.1008-5831.fx.2024.05.01.

    Citation Format: LIN Yujia. The analysis of negligent crimes in automatic driving accidents[J]. Journal of Chongqing University (Social Science Edition),2024(6):238-249.Doi:10.11835/j.issn.1008-5831.fx.2024.05.01.

    摘要:

    人工智能技術(shù)的快速發(fā)展和自動(dòng)駕駛事故的發(fā)生引發(fā)了關(guān)于自動(dòng)駕駛事故中刑事責(zé)任問題的討論,其中涉及刑事責(zé)任主體、過失犯罪本質(zhì)以及注意義務(wù)等內(nèi)容,值得深入研究。自動(dòng)駕駛技術(shù)可以分為簡(jiǎn)單自動(dòng)化、部分自動(dòng)化、高度自動(dòng)化和完全自動(dòng)化。在簡(jiǎn)單自動(dòng)化以及部分自動(dòng)化情形中,自動(dòng)駕駛汽車交通事故的刑事責(zé)任承擔(dān)與普通交通事故并無二致。在高度自動(dòng)化和完全自動(dòng)化的情況下,自動(dòng)駕駛汽車的駕駛員因被限制參與駕駛操作而成為產(chǎn)品的使用者。自動(dòng)駕駛汽車作為弱人工智能產(chǎn)品尚不能成為刑事責(zé)任主體。自動(dòng)駕駛汽車的使用者不能完全免除道路交通安全責(zé)任。自動(dòng)駕駛汽車的研發(fā)者需要承擔(dān)產(chǎn)品刑事責(zé)任,此時(shí)的產(chǎn)品刑事責(zé)任包含道路交通安全責(zé)任。在我國(guó)刑法體系中,過失和故意是平行的兩種主觀心理態(tài)度,新過失論對(duì)過失犯罪的理解不符合現(xiàn)有刑法規(guī)定。過失犯罪并非舊過失論所言只考慮抽象的預(yù)見可能性。我國(guó)刑法規(guī)定中過于自信的過失是行為人在已經(jīng)預(yù)見結(jié)果的情況下沒有履行結(jié)果回避義務(wù),疏忽大意的過失是行為人在具有預(yù)見可能性的情況下沒有履行結(jié)果預(yù)見義務(wù)。自動(dòng)駕駛事故中,如果自動(dòng)駕駛汽車的使用者違反配合與保障自動(dòng)駕駛系統(tǒng)正常工作的結(jié)果回避義務(wù)致使危害結(jié)果發(fā)生成立過失犯罪。如果使用者不負(fù)有操作義務(wù)則無需承擔(dān)刑事責(zé)任。使用者的注意義務(wù)源于前置法,但不是所有前置法規(guī)定的義務(wù)都能成為過失犯罪注意義務(wù)。如果自動(dòng)駕駛汽車的研發(fā)者違反保障道路交通安全的結(jié)果預(yù)見義務(wù),致使危害結(jié)果發(fā)生,需要承擔(dān)交通過失責(zé)任。自動(dòng)駕駛系統(tǒng)在投入使用后并未脫離研發(fā)者的控制,因而自動(dòng)駕駛汽車研發(fā)者承擔(dān)的產(chǎn)品責(zé)任性質(zhì)不同于普通汽車研發(fā)者,原有汽車駕駛者承擔(dān)的交通過失責(zé)任轉(zhuǎn)移至研發(fā)者。雖然結(jié)果預(yù)見義務(wù)是主觀的,但是在實(shí)際判斷自動(dòng)駕駛汽車研發(fā)者是否違反結(jié)果預(yù)見義務(wù)的過程中需要相對(duì)客觀的標(biāo)準(zhǔn)作為參考,即研發(fā)自動(dòng)駕駛汽車當(dāng)時(shí)的科學(xué)技術(shù)水平。自動(dòng)駕駛系統(tǒng)存在算法黑箱不應(yīng)成為否定研發(fā)者結(jié)果預(yù)見義務(wù)或結(jié)果回避義務(wù)的理由。

    關(guān)鍵詞:自動(dòng)駕駛;過失犯罪;注意義務(wù);刑事責(zé)任;產(chǎn)品責(zé)任

    中圖分類號(hào):D914""文獻(xiàn)標(biāo)志碼:A""文章編號(hào):1008-5831(2024)06-0238-12

    引言

    如今,人工智能技術(shù)的快速發(fā)展有目共睹,人工智能產(chǎn)品已經(jīng)滲透社會(huì)生活的方方面面。在此背景下,人工智能技術(shù)涉及的法律問題探討得如火如荼,特別是自動(dòng)駕駛汽車方面。自動(dòng)駕駛汽車法律問題之所以受到高度關(guān)注是因?yàn)樽詣?dòng)駕駛事故已然發(fā)生,自2016年起,美國(guó)已經(jīng)發(fā)生了數(shù)十起自動(dòng)駕駛事故{"例如,2018年3月,一輛自動(dòng)駕駛的Uber汽車在美國(guó)亞利桑那州撞死了一名行人。},我國(guó)也陸續(xù)發(fā)生了數(shù)起自動(dòng)駕駛事故{"例如,自2021年以來,某自動(dòng)駕駛汽車品牌因剎車失靈、轉(zhuǎn)向故障等原因造成多起事故。},公眾對(duì)于自動(dòng)駕駛技術(shù)的信任危機(jī)由此產(chǎn)生。2017年國(guó)務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》將自動(dòng)駕駛列為重點(diǎn)發(fā)展領(lǐng)域,提出到2025年實(shí)現(xiàn)高度自動(dòng)駕駛的商業(yè)化應(yīng)用目標(biāo)?,F(xiàn)有汽車的自動(dòng)駕駛搭載率逐年提高??萍嫉陌l(fā)展在改變?nèi)藗兩畹倪^程中也迫使有關(guān)法律制度需要及時(shí)反應(yīng),自動(dòng)駕駛系統(tǒng)參與駕駛操作這一事實(shí)使我們需要重新審視交通事故中的刑事責(zé)任認(rèn)定問題。

    除故意利用自動(dòng)駕駛系統(tǒng)破壞公共安全、侵犯他人人身權(quán)利的情況外,自動(dòng)駕駛事故中大部分犯罪應(yīng)當(dāng)屬于過失犯罪。自動(dòng)駕駛事故較之普通交通事故有許多不同之處,加之過失犯罪問題本身的復(fù)雜性,使自動(dòng)駕駛事故中的過失犯罪成為一個(gè)值得研究的問題。本文擬從刑事責(zé)任主體、過失犯罪成立本質(zhì)及過失犯罪成立條件三個(gè)方面分析自動(dòng)駕駛事故中的過失犯罪。

    一、問題的背景——自動(dòng)駕駛技術(shù)分類

    理想中的自動(dòng)駕駛汽車可以通過計(jì)算機(jī)傳感系統(tǒng)了解道路交通情況,從而自動(dòng)規(guī)劃行車路線,并可以在無駕駛員的情況下到達(dá)目的地。然而現(xiàn)有自動(dòng)駕駛汽車的自動(dòng)化程度明顯不同。2021年8月,工信部發(fā)布《汽車駕駛自動(dòng)化分級(jí)》(GB/T 40429-2021),將駕駛自動(dòng)化系統(tǒng)分為6級(jí),分別是應(yīng)急輔助(0級(jí))、部分駕駛輔助(1級(jí))、組合駕駛輔助(2級(jí))、有條件自動(dòng)駕駛(3級(jí))、高度自動(dòng)駕駛(4級(jí))和完全自動(dòng)駕駛(5級(jí))。在該分級(jí)標(biāo)準(zhǔn)中,0級(jí)自動(dòng)駕駛汽車的駕駛操作由駕駛員完成,駕駛系統(tǒng)僅提供信息或短暫介入控制,屬于簡(jiǎn)單自動(dòng)化。1級(jí)和2級(jí)自動(dòng)駕駛汽車的駕駛操作由駕駛員和駕駛系統(tǒng)共同完成,屬于部分自動(dòng)化。3級(jí)和4級(jí)自動(dòng)駕駛汽車的駕駛操作在特定條件下主要由駕駛系統(tǒng)完成,此時(shí)分級(jí)標(biāo)準(zhǔn)中已經(jīng)不再采用“駕駛員”概念,采用的是“用戶”概念,用戶可以干預(yù)操作,屬于高度自動(dòng)化。5級(jí)自動(dòng)駕駛汽車的駕駛操作在任何條件下都由駕駛系統(tǒng)完成,屬于完全自動(dòng)化。

    在0級(jí)簡(jiǎn)單自動(dòng)化的情況下,自動(dòng)駕駛汽車的駕駛主體只有駕駛員,自動(dòng)駕駛系統(tǒng)參與駕駛操作只是起到了保護(hù)駕駛員的作用,一旦發(fā)生交通事故,駕駛員需要承擔(dān)的責(zé)任與發(fā)生普通交通事故并無本質(zhì)上的區(qū)別。在1級(jí)和2級(jí)部分自動(dòng)化的情況下,雖然操作自動(dòng)駕駛汽車的既有駕駛員也有駕駛系統(tǒng),但是自動(dòng)駕駛系統(tǒng)的操作受到駕駛員的監(jiān)管,駕駛員不僅要對(duì)自己的操作負(fù)責(zé)還要對(duì)駕駛系統(tǒng)的操作負(fù)責(zé),因而此時(shí)的駕駛主體仍然只有駕駛員,也是交通事故的責(zé)任主體,駕駛系統(tǒng)的參與不會(huì)改變責(zé)任承擔(dān)的方式。相比之下,在3級(jí)、4級(jí)高度自動(dòng)化和5級(jí)完全自動(dòng)化的情況下,全部駕駛操作都可以由駕駛系統(tǒng)完成,此時(shí)不存在“駕駛員”,只存在自動(dòng)駕駛汽車產(chǎn)品的“用戶”,即自動(dòng)駕駛汽車使用者。高度自動(dòng)化和完全自動(dòng)化的區(qū)別在于駕駛系統(tǒng)完成全部駕駛操作的條件不同,以及用戶是否需要作出回應(yīng)。部分4級(jí)以上的自動(dòng)駕駛汽車甚至無人工駕駛功能。

    基于此,在自動(dòng)駕駛汽車屬于0級(jí)簡(jiǎn)單自動(dòng)化和1級(jí)、2級(jí)部分自動(dòng)化的情況下,自動(dòng)駕駛事故的刑事責(zé)任承擔(dān)與普通交通事故并無二致,無需另作討論。本文主要討論的是3-5級(jí)高度自動(dòng)化和完全自動(dòng)化的情況下自動(dòng)駕駛事故中的過失犯罪問題。

    二、自動(dòng)駕駛事故中過失犯罪的責(zé)任主體

    一般認(rèn)為,普通交通事故中駕駛員需要承擔(dān)有關(guān)刑事責(zé)任。但在自動(dòng)駕駛,尤其是高度自動(dòng)化和完全自動(dòng)化的情況下,作出駕駛指令、控制車輛行駛的可能僅僅只是自動(dòng)駕駛系統(tǒng)而非使用者。此時(shí)一旦發(fā)生交通事故,刑事責(zé)任應(yīng)當(dāng)由誰來承擔(dān)?這是討論自動(dòng)駕駛事故中過失犯罪首先要解決的問題。

    (一)自動(dòng)駕駛汽車尚不能成為刑事責(zé)任主體

    對(duì)于自動(dòng)駕駛事故中的危害結(jié)果,一種可能是自動(dòng)駕駛汽車本身需要承擔(dān)刑事責(zé)任[1],由“人”承擔(dān)替代責(zé)任不可取[2]。然而,筆者認(rèn)為,就目前的人工智能技術(shù)發(fā)展情況而言,自動(dòng)駕駛汽車尚不能獨(dú)立承擔(dān)刑事責(zé)任。一般而言,刑事責(zé)任主體需要具有獨(dú)立的辨認(rèn)能力和控制能力[3]。有學(xué)者指出,人工智能產(chǎn)品可以分為只能在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為的人工智能產(chǎn)品以及可以在設(shè)計(jì)和編制的程序范圍外實(shí)施行為的人工智能產(chǎn)品;前者不具有獨(dú)立的辨認(rèn)能力和控制能力,而后者具有獨(dú)立的辨認(rèn)能力和控制能力[4]。筆者認(rèn)同此觀點(diǎn),辨認(rèn)能力和控制能力是刑事責(zé)任能力的核心,如果人工智能產(chǎn)品的操作始終符合設(shè)計(jì)和編制的程序,證明其尚不具備獨(dú)立的辨認(rèn)能力和控制能力,即不具備刑事責(zé)任能力。

    雖然自動(dòng)駕駛汽車的駕駛指令是由計(jì)算機(jī)系統(tǒng)作出的,但是計(jì)算機(jī)系統(tǒng)本身并沒有自主意識(shí)和意志,其只能根據(jù)研發(fā)者設(shè)計(jì)的程序內(nèi)容對(duì)外界刺激作出反應(yīng)。即便是5級(jí)自動(dòng)駕駛汽車,也“僅允許在其設(shè)計(jì)運(yùn)行條件下激活”{"參見:《汽車駕駛自動(dòng)化分級(jí)》(GB/T 40429-2021)第3.4.6(b)條。}。所以,目前自動(dòng)駕駛汽車所有作出的駕駛指令都在設(shè)計(jì)和編制的程序范圍內(nèi)。據(jù)此,應(yīng)當(dāng)認(rèn)為,自動(dòng)駕駛汽車屬于只能在設(shè)計(jì)和編制的程序范圍內(nèi)實(shí)施行為的人工智能產(chǎn)品,而此類人工智能產(chǎn)品不具有獨(dú)立的辨認(rèn)能力和控制能力,因此不是刑事責(zé)任主體。換言之,自動(dòng)駕駛汽車并不知道自己在“駕駛”,而是根據(jù)設(shè)計(jì)和編制的程序?qū)Φ缆返那闆r作出分析與判斷,進(jìn)而作出駕駛指令。人工智能可以分為弱人工智能和強(qiáng)人工智能,二者的本質(zhì)區(qū)別在于是否有意識(shí),強(qiáng)人工智能有意識(shí)、自我、創(chuàng)新思維[5]。應(yīng)當(dāng)承認(rèn),強(qiáng)人工智能時(shí)代尚未到來,而弱人工智能產(chǎn)品仍然對(duì)人類有強(qiáng)依附性,并且弱人工智能產(chǎn)品往往只能從事特定行業(yè)的特定工作。例如,醫(yī)護(hù)智能機(jī)器人只能被用于醫(yī)療領(lǐng)域,新聞制作機(jī)器人只能被用于新聞報(bào)道。與之相似的是,自動(dòng)駕駛汽車也只能作出與駕駛相關(guān)的指令,不會(huì)在自主的意識(shí)和意志支配下發(fā)出殺人的指令。因此,只要自動(dòng)駕駛汽車作出的駕駛指令是基于設(shè)計(jì)和編制的程序,其作為弱人工智能產(chǎn)品本身不能成為刑事責(zé)任主體。有學(xué)者根據(jù)刑罰的有效性將自動(dòng)駕駛汽車排除在責(zé)任主體的范圍之外,即刑罰無法也無須適用于自動(dòng)駕駛程序,因而自動(dòng)駕駛汽車不是刑事責(zé)任主體[6]。筆者認(rèn)為,這種觀點(diǎn)雖然和本文結(jié)論一致,但是論證的過程突破了犯罪和刑罰產(chǎn)生的先后順序。因此,否定自動(dòng)駕駛汽車刑事責(zé)任主體地位的根本原因并非刑罰不可適用,而是自動(dòng)駕駛汽車本身不能滿足刑事責(zé)任主體的基本要求。如此一來,自動(dòng)駕駛事故產(chǎn)生的刑事責(zé)任只能由自動(dòng)駕駛汽車“背后”的人來承擔(dān)。

    (二)自動(dòng)駕駛汽車的使用者仍可能承擔(dān)刑事責(zé)任

    誠(chéng)然,與普通駕駛員相比較而言,自動(dòng)駕駛汽車使用者的義務(wù)發(fā)生了較大的變化。自動(dòng)駕駛汽車的發(fā)明初衷正是希望人類能夠從駕駛者的身份中脫離出來。高度自動(dòng)化以上的自動(dòng)駕駛汽車使用者不需要操控自動(dòng)駕駛汽車,否則自動(dòng)駕駛汽車的優(yōu)越之處也蕩然無存。4級(jí)和5級(jí)自動(dòng)駕駛汽車的使用者甚至可以選擇不回應(yīng)駕駛系統(tǒng)發(fā)出的介入請(qǐng)求。在自動(dòng)駕駛汽車的使用者已經(jīng)不需要參與駕駛操作的情況下,如果自動(dòng)駕駛汽車發(fā)生交通事故,使用者的角色更像是一個(gè)“被害人”而非“行為人”,讓其承擔(dān)刑事責(zé)任似乎并不妥當(dāng)。因此,自動(dòng)駕駛事故中,使用者對(duì)于刑事責(zé)任的承擔(dān)范圍與普通駕駛員并不相同。

    但是,自動(dòng)駕駛汽車的使用者對(duì)于自動(dòng)駕駛事故并非全無責(zé)任。3級(jí)自動(dòng)駕駛汽車的使用者需要在特定情況下執(zhí)行接管,負(fù)有一定的駕駛義務(wù)。雖然這種駕駛義務(wù)的內(nèi)容不同于普通駕駛員的駕駛義務(wù),但如果自動(dòng)駕駛汽車的使用者違反了接管的駕駛義務(wù),也需要承擔(dān)相應(yīng)的刑事責(zé)任。自動(dòng)駕駛汽車的自動(dòng)化程度越高,使用者承擔(dān)的駕駛義務(wù)或操作義務(wù)隨之減少,這意味著一旦發(fā)生交通事故,自動(dòng)駕駛汽車使用者需要承擔(dān)的刑事責(zé)任范圍也隨之縮減。

    (三)自動(dòng)駕駛汽車的研發(fā)者可能承擔(dān)產(chǎn)品刑事責(zé)任

    如前文所述,自動(dòng)駕駛汽車依照研發(fā)者設(shè)定的程序進(jìn)行操作,自動(dòng)駕駛汽車是研發(fā)者生產(chǎn)的產(chǎn)品。但是我國(guó)刑法規(guī)定的產(chǎn)品犯罪中并無過失犯罪,研發(fā)者涉及的過失犯罪罪名包括重大責(zé)任事故罪、過失致人死亡罪或過失致人重傷罪、交通肇事罪以及過失以危險(xiǎn)方法危害公共安全罪。有觀點(diǎn)認(rèn)為,研發(fā)者不滿足交通過失責(zé)任所要求的對(duì)汽車物理控制的實(shí)時(shí)性、動(dòng)態(tài)性要求,因而研發(fā)者不構(gòu)成交通肇事罪[7]。筆者認(rèn)為,自動(dòng)駕駛汽車和普通汽車不同,普通汽車的研發(fā)者在汽車投入使用后確實(shí)失去了對(duì)汽車的物理控制,但是自動(dòng)駕駛汽車受到自動(dòng)駕駛系統(tǒng)的操控,自動(dòng)駕駛系統(tǒng)在汽車投入使用后并未完全脫離研發(fā)者的掌控,研發(fā)者仍然可以通過修改調(diào)整、更新升級(jí)系統(tǒng)實(shí)現(xiàn)對(duì)自動(dòng)駕駛汽車的操控。此時(shí),研發(fā)者能夠改變自動(dòng)駕駛汽車的操控,如果自動(dòng)駕駛汽車發(fā)生嚴(yán)重的交通事故,駕駛員的道路交通安全責(zé)任在一定程度上將轉(zhuǎn)變?yōu)樽詣?dòng)駕駛汽車研發(fā)者的產(chǎn)品責(zé)任,這里研發(fā)者的產(chǎn)品責(zé)任實(shí)際上對(duì)應(yīng)的是道路交通安全責(zé)任。2018年,工信部、公安部、交通運(yùn)輸部聯(lián)合發(fā)布的《智能網(wǎng)聯(lián)汽車道路測(cè)試管理規(guī)范(試行)》第25條規(guī)定:“在測(cè)試期間發(fā)生交通事故,應(yīng)當(dāng)按照道路交通安全法律法規(guī)認(rèn)定當(dāng)事人的責(zé)任,并依照有關(guān)法律法規(guī)及司法解釋確定損害賠償責(zé)任。構(gòu)成犯罪的,依法追究刑事責(zé)任。”據(jù)此規(guī)定,自動(dòng)駕駛事故的刑事責(zé)任屬于道路交通安全責(zé)任。對(duì)此,如果自動(dòng)駕駛的過程中不需要駕駛員介入駕駛操作,那么自動(dòng)駕駛事故中的刑事責(zé)任應(yīng)當(dāng)是研發(fā)者因操控自動(dòng)駕駛系統(tǒng)產(chǎn)生的交通過失責(zé)任。交通過失所針對(duì)的對(duì)象是特定多數(shù)人,而非具體特定的人,因而不構(gòu)成過失致人死亡罪或過失致人重傷罪。因交通肇事罪和過失以危險(xiǎn)方法危害公共安全罪屬于特別法和一般法的關(guān)系,優(yōu)先適用交通肇事罪。

    在人工智能時(shí)代,我們一方面要鼓勵(lì)人工智能技術(shù)的發(fā)展,另一方面要注重防范人工智能技術(shù)帶來的系統(tǒng)性風(fēng)險(xiǎn)。事實(shí)上,科技的發(fā)展必然帶來一定的技術(shù)風(fēng)險(xiǎn)?!帮L(fēng)險(xiǎn)社會(huì)”的概念由德國(guó)著名社會(huì)學(xué)家烏爾里希·貝克首次較為完整地提出。在貝克看來,在風(fēng)險(xiǎn)社會(huì)中,人類實(shí)踐活動(dòng)增多導(dǎo)致了全球性風(fēng)險(xiǎn),這對(duì)于人類的發(fā)展而言是一種明顯的威脅[8]。對(duì)此,有學(xué)者主張,面對(duì)風(fēng)險(xiǎn)社會(huì)的到來,我國(guó)在追究缺陷產(chǎn)品侵權(quán)責(zé)任的基礎(chǔ)上,有必要將產(chǎn)品責(zé)任擴(kuò)展到刑事領(lǐng)域[9]。但與之相對(duì)的,有學(xué)者指出,可以利用被允許的危險(xiǎn)理論解決自動(dòng)駕駛汽車研發(fā)者的刑事責(zé)任問題[10]。根據(jù)被允許的危險(xiǎn)理論,只要行為造成的危險(xiǎn)屬于被允許的危險(xiǎn),那么盡管行為人認(rèn)識(shí)到某種行為具有侵害法益的可能,并且實(shí)際上也造成了法益侵害,也不應(yīng)當(dāng)認(rèn)定為犯罪[11]。如果用被允許的危險(xiǎn)理論解釋自動(dòng)駕駛汽車事故中的責(zé)任認(rèn)定問題,則可能的解釋為盡管研發(fā)自動(dòng)駕駛汽車具有導(dǎo)致交通事故發(fā)生并造成嚴(yán)重危害的可能性,但由于自動(dòng)駕駛汽車給人類帶來了方便快捷,甚至在某種程度上可以減少因駕駛員疲憊而產(chǎn)生交通事故發(fā)生的概率,因而應(yīng)當(dāng)允許自動(dòng)駕駛汽車的研發(fā)者在認(rèn)識(shí)到危險(xiǎn)的情況下研發(fā)自動(dòng)駕駛汽車。依筆者之見,風(fēng)險(xiǎn)刑法理論和被允許的危險(xiǎn)理論的發(fā)展都源于科學(xué)技術(shù)變革,但是基于同一社會(huì)背景和現(xiàn)實(shí),兩者得出的最終結(jié)論可能完全不同。因此,無論是風(fēng)險(xiǎn)刑法理論還是被允許的危險(xiǎn)理論都只是代表了新科技形勢(shì)下刑法解釋的價(jià)值取向,在適用的過程中需要考慮限度、界限與范圍。一方面,科技進(jìn)步應(yīng)當(dāng)服務(wù)于人類社會(huì),自動(dòng)駕駛汽車既然是科技進(jìn)步的產(chǎn)物,理應(yīng)減少交通安全風(fēng)險(xiǎn),所以自動(dòng)駕駛汽車的研發(fā)者在設(shè)計(jì)復(fù)雜精密的自動(dòng)駕駛汽車的過程中必然有盡可能確保其安全的義務(wù),科技的復(fù)雜性不應(yīng)成為其脫罪的借口。只要滿足過失犯罪成立的條件,研發(fā)者應(yīng)當(dāng)對(duì)自動(dòng)駕駛事故中的危害結(jié)果承擔(dān)刑事責(zé)任。另一方面,研發(fā)者確實(shí)無法排除系統(tǒng)自我學(xué)習(xí)和決策的所有風(fēng)險(xiǎn),只能將風(fēng)險(xiǎn)控制在可允許的范圍之內(nèi)[12]。在此情況下,不應(yīng)因風(fēng)險(xiǎn)存在而肆意擴(kuò)大犯罪圈,打擊自動(dòng)駕駛汽車研發(fā)的活力和信心。

    綜合來看,自動(dòng)駕駛汽車的使用者和研發(fā)者都具備成為自動(dòng)駕駛事故刑事責(zé)任承擔(dān)主體的基礎(chǔ)。具體而言,使用者需要承擔(dān)道路交通安全刑事責(zé)任,而研發(fā)者需要承擔(dān)的是產(chǎn)品刑事責(zé)任,但此時(shí)產(chǎn)品刑事責(zé)任包含道路交通安全刑事責(zé)任。2021年3月公安部起草的《道路交通安全法(修訂建議稿)》中,第155條關(guān)于自動(dòng)駕駛的條款也將“駕駛?cè)恕薄白詣?dòng)駕駛系統(tǒng)開發(fā)單位”作為道路交通安全責(zé)任主體。雖然這一條款最終沒有出現(xiàn)在2021年4月修訂的《中華人民共和國(guó)道路交通安全法》中,但說明有關(guān)部門已經(jīng)對(duì)此做出了有益的嘗試。隨著自動(dòng)駕駛技術(shù)智能化程度的增加,使用者需要承擔(dān)的刑事責(zé)任范圍將隨之縮減,而自動(dòng)駕駛汽車的研發(fā)者需要承擔(dān)的刑事責(zé)任范圍可能要隨之?dāng)U大。

    三、自動(dòng)駕駛事故中過失犯罪成立的本質(zhì)

    自動(dòng)駕駛事故的刑事責(zé)任分析之所以能夠成為刑法理論持續(xù)不斷的研究熱點(diǎn),與過失犯罪理論本身存在諸多爭(zhēng)議有關(guān)。自動(dòng)駕駛事故中過失犯罪成立分析的合理性一定程度上可以成為檢驗(yàn)過失犯罪理論的“試金石”。

    (一)過失犯罪成立本質(zhì)的學(xué)說梳理

    一般認(rèn)為,關(guān)于過失犯罪成立的本質(zhì)的學(xué)說有舊過失論、新過失論、修正的舊過失論以及新新過失論。舊過失論認(rèn)為,過失犯罪成立的本質(zhì)是行為人在具有結(jié)果預(yù)見可能性的情況下違反預(yù)見義務(wù)成立過失犯罪。新過失論認(rèn)為,按照舊過失論的觀點(diǎn),只要行為人具有結(jié)果預(yù)見可能性,并因此出現(xiàn)了危害結(jié)果就需要對(duì)其承擔(dān)相應(yīng)的刑事責(zé)任,那么將導(dǎo)致人為擴(kuò)大過失犯罪范圍的結(jié)局[13]。結(jié)果預(yù)見可能性的范圍較為寬泛,例如,駕駛汽車本身就存在造成對(duì)他人生命、健康侵害的可能,那么一旦發(fā)生交通事故,駕駛員容易因?yàn)樨?fù)有結(jié)果預(yù)見義務(wù)而被直接認(rèn)定其需要承擔(dān)刑事責(zé)任。將結(jié)果預(yù)見可能性作為過失犯成立的核心判斷標(biāo)準(zhǔn)容易導(dǎo)致義務(wù)過失成立變得相當(dāng)容易[14]。例如,在競(jìng)技比賽進(jìn)行搏斗的過程中,選手顯然具有預(yù)見到傷害他人的可能性,因此從事特定業(yè)務(wù)的人承擔(dān)的刑事責(zé)任風(fēng)險(xiǎn)將遠(yuǎn)遠(yuǎn)大于一般主體。因此,新過失論認(rèn)為,過失犯罪認(rèn)定的核心應(yīng)當(dāng)從主觀的結(jié)果預(yù)見可能性發(fā)展至客觀的結(jié)果回避義務(wù),過失犯罪成立的本質(zhì)是行為人違反了結(jié)果回避義務(wù)。在新過失論下,過失不僅是責(zé)任要素,也是違法要素,過失犯的認(rèn)定存在不法和罪責(zé)兩個(gè)層次,其中罪責(zé)性的體現(xiàn)就在于對(duì)結(jié)果回避義務(wù)的違反[15]。近年來,出于限制過失犯罪范圍的考慮,越來越多的學(xué)者主張新過失論。但也有學(xué)者提出,新過失論以行為偏離規(guī)范作為過失犯認(rèn)定的核心,容易導(dǎo)致責(zé)任的認(rèn)定淪為形式,進(jìn)而使過失犯、行政犯過度擴(kuò)張[16]。

    鑒于舊過失論可能存在的缺陷,修正的舊過失論應(yīng)運(yùn)而生。例如,有學(xué)者主張結(jié)果預(yù)見可能性應(yīng)當(dāng)有具體的結(jié)果預(yù)見內(nèi)容,不應(yīng)當(dāng)是一種寬泛的結(jié)果預(yù)見可能性[17]。這種具體的結(jié)果預(yù)見可能性針對(duì)的是構(gòu)成要件結(jié)果,而非抽象的危險(xiǎn)。對(duì)具體的結(jié)果預(yù)見可能性的判斷需要考察行為人的認(rèn)知水平、行為的危險(xiǎn)程度、行為發(fā)生的客觀環(huán)境等多方面因素。在交通事故中,駕駛員不是對(duì)所有的交通事故都有結(jié)果預(yù)見可能性,而只有在具體的交通情況下或采取具體行為的情況下才可能對(duì)具體發(fā)生的結(jié)果有預(yù)見可能性。同時(shí),也有學(xué)者主張,雖然過失作為責(zé)任要素,應(yīng)該要求行為人存在預(yù)見可能性并且違反注意義務(wù),但也必須承認(rèn)在過失犯的構(gòu)造中,結(jié)果回避義務(wù)與客觀的構(gòu)成要件該當(dāng)性相關(guān)[18]。然而,有論者指出,修正的舊過失論似乎與新過失論并無明顯差別,說明不應(yīng)當(dāng)再恪守舊過失論立場(chǎng),將結(jié)果預(yù)見可能性作為過失成立的本質(zhì)[19]。此外,為了應(yīng)對(duì)風(fēng)險(xiǎn)社會(huì)中出現(xiàn)的重大事故案件,日本刑法理論中曾出現(xiàn)了新過失論。新新過失論認(rèn)為,行為人只需要對(duì)危險(xiǎn)的發(fā)生有模糊的危懼感就夠了,因而新新過失論也稱為危懼感說[20]。

    (二)自動(dòng)駕駛事故過失犯罪成立本質(zhì)的教義學(xué)解釋

    通過上述學(xué)說的梳理可以看出,舊過失論強(qiáng)調(diào)過失犯罪中行為人對(duì)結(jié)果的預(yù)見可能性,而新過失論強(qiáng)調(diào)過失犯罪中行為人的結(jié)果回避義務(wù)。從新過失論對(duì)舊過失論批判的方面而言,似乎新過失論更能解釋自動(dòng)駕駛事故中過失犯罪成立的本質(zhì),也即強(qiáng)調(diào)自動(dòng)駕駛事故中過失犯罪成立的根源在于行為人違反了其所應(yīng)當(dāng)履行的結(jié)果回避義務(wù)。實(shí)際上,舊過失論和新過失論的根本區(qū)別不在于過失所針對(duì)內(nèi)容的不同,而是對(duì)過失犯歸責(zé)結(jié)構(gòu)的理解不同。新過失論對(duì)過失犯歸責(zé)結(jié)構(gòu)的理解和《中華人民共和國(guó)刑法》(以下簡(jiǎn)稱《刑法》)第15條的規(guī)定并不相符。

    根據(jù)我國(guó)《刑法》第15條的規(guī)定,過失犯罪有兩種,一是過于自信的過失,二是疏忽大意的過失,兩者的共同之處在于都要求行為人具有結(jié)果預(yù)見義務(wù)。傳統(tǒng)刑法理論將故意和過失理解成主觀方面的內(nèi)容,故意和過失是平行的兩種主觀態(tài)度,在意識(shí)上存在不同,又因意志因素的不同,可責(zé)難性存在明顯的區(qū)分,即過失犯罪的嚴(yán)重程度低于故意犯罪,我國(guó)刑法懲罰故意犯罪為主。新過失論和我國(guó)刑法對(duì)過失犯罪的規(guī)定存在矛盾點(diǎn):其一,新過失論認(rèn)為,過失犯與故意犯的歸責(zé)結(jié)構(gòu)存在明顯不同,故意犯屬于意志歸責(zé)類型,而過失犯屬于規(guī)范歸責(zé)類型[21]。對(duì)于過失犯的認(rèn)定不應(yīng)當(dāng)依賴結(jié)果預(yù)見義務(wù)這一主觀要素,而應(yīng)當(dāng)考察行為人是否違反了標(biāo)準(zhǔn)的行為規(guī)范。因此,新過失論并未將故意和過失理解成平行的主觀心理態(tài)度,而是將過失犯理解成和故意犯完全不同的構(gòu)造,過失犯的認(rèn)定貫穿不法和罪責(zé)。新過失論對(duì)過失犯構(gòu)造的理解不符合《刑法》第15條規(guī)定。其二,新過失論將過失的判斷理解成行為對(duì)一般規(guī)范標(biāo)準(zhǔn)的違反,和我國(guó)刑法規(guī)定將過失理解成主觀心理態(tài)度存在背離。《刑法》第15條規(guī)定中的“沒有預(yù)見”和“輕信能夠避免”都是主觀心理態(tài)度的表達(dá),不涉及對(duì)行為是否違反規(guī)范的判斷。即便實(shí)踐中對(duì)行為人主觀心理態(tài)度是否屬于過失的判斷需要參考行為人當(dāng)時(shí)的行為,但最終過失的判斷還是需要落實(shí)到主觀層面,這與新過失論將過失犯的認(rèn)定直接置于客觀層面存在本質(zhì)區(qū)別。

    我國(guó)刑法對(duì)過失犯罪的判斷既不是以預(yù)見可能性作為唯一標(biāo)準(zhǔn),也不會(huì)將不具有結(jié)果回避可能性的結(jié)果歸責(zé)于行為人。僅用結(jié)果預(yù)見可能性或結(jié)果避免義務(wù)來說明我國(guó)刑法過失犯罪的本質(zhì)并不全面,我國(guó)刑法關(guān)于過失犯罪的規(guī)定并非只注重結(jié)果預(yù)見可能性,過于自信的過失成立也要求行為人違反結(jié)果回避義務(wù)。同時(shí),我國(guó)《刑法》第16條規(guī)定了不可抗力和意外事件,據(jù)此規(guī)定,危害結(jié)果如果是因?yàn)椴荒芸咕芑蛘卟荒茴A(yù)見的原因而產(chǎn)生的,行為人不構(gòu)成犯罪??梢?,我國(guó)刑法條文規(guī)定是要求行為人在具有結(jié)果預(yù)見可能性的情況下履行結(jié)果預(yù)見義務(wù),并將結(jié)果預(yù)見義務(wù)作為過失犯罪成立的門檻,同時(shí)將不具有結(jié)果回避可能性作為所有犯罪的出罪事由。我國(guó)刑法將故意和過失作為并列的兩種主觀罪過加以看待,并非新過失論,可能更接近于一種修正的舊過失論。對(duì)此,筆者認(rèn)為,修正的舊過失論與新過失論相比,可能更具備以下兩種優(yōu)勢(shì):其一,疏忽大意的過失的成立基礎(chǔ)是行為人在具有預(yù)見可能性的情況下沒有履行結(jié)果預(yù)見義務(wù)。因此若將沒有履行結(jié)果回避義務(wù)作為成立過失犯罪的本質(zhì)似乎無法解釋疏忽大意的過失。對(duì)此,有學(xué)者提出新過失論對(duì)于疏忽大意的過失的一種解釋是“在沒有認(rèn)識(shí)到自己的行為會(huì)發(fā)生危害社會(huì)結(jié)果的情況下,當(dāng)然不可能具備結(jié)果回避義務(wù)的問題”[16]。筆者認(rèn)為,按照這種解釋路徑得出的結(jié)論似乎是不需要處罰疏忽大意的過失,而事實(shí)上,刑法之所以作出關(guān)于疏忽大意的過失的規(guī)定,正是因?yàn)槠浞辖Y(jié)果預(yù)見義務(wù)的標(biāo)準(zhǔn),而非因?yàn)槠錄]有履行結(jié)果回避義務(wù)。其二,在我國(guó)刑法規(guī)定中,結(jié)果回避義務(wù)是不可抗力的基礎(chǔ)之一。換言之,如果行為人因?yàn)椴痪哂薪Y(jié)果回避義務(wù)而不受到處罰,不可抗力可以成為行為人的免責(zé)事由。因此,在我國(guó)刑法語境下,修正的舊過失論可能更具備生存的土壤。采用修正的舊過失論并不會(huì)導(dǎo)致過失犯罪范圍被不當(dāng)擴(kuò)張。舊過失論是關(guān)于“過失”本身的理論[22],除了成立過失,過失犯罪的成立還需要滿足因果關(guān)系、客觀行為等要求。據(jù)此而言,自動(dòng)駕駛事故中過失犯罪成立的本質(zhì)應(yīng)當(dāng)是行為人因?yàn)闆]有履行結(jié)果預(yù)見義務(wù)或結(jié)果回避義務(wù)而致使危害結(jié)果發(fā)生。

    四、自動(dòng)駕駛事故中過失犯罪成立的條件

    根據(jù)前文的論述,自動(dòng)駕駛事故中過失犯罪的責(zé)任主體既可能是使用者,也可能是研發(fā)者,而自動(dòng)駕駛事故中過失犯罪成立的本質(zhì)是對(duì)結(jié)果預(yù)見義務(wù)或結(jié)果回避義務(wù)的違反;并且,在自動(dòng)駕駛領(lǐng)域,使用者和研發(fā)者所需要履行的注意義務(wù)較之于普通汽車的駕駛者和研發(fā)者而言都發(fā)生了較大的改變。因此,筆者認(rèn)為,對(duì)于自動(dòng)駕駛事故中過失犯罪成立的條件需要針對(duì)這兩種不同的責(zé)任主體展開不同的討論。

    (一)自動(dòng)駕駛汽車使用者成立過失犯罪的條件

    在大部分情況下,自動(dòng)駕駛汽車的使用者對(duì)于危害結(jié)果發(fā)生的預(yù)見能力較之于普通汽車使用者而言沒有明顯變化。對(duì)于使用者而言,其注意義務(wù)的變化主要在于結(jié)果回避義務(wù)。高度自動(dòng)化的自動(dòng)駕駛汽車主要依靠自動(dòng)駕駛系統(tǒng)執(zhí)行駕駛指令,這一功能和特點(diǎn)的出現(xiàn)使許多以前不能自行駕駛汽車的人也能獨(dú)立使用汽車,因而自動(dòng)駕駛汽車對(duì)于使用者的要求總體上應(yīng)該是降低而非升高,使用者需要履行的結(jié)果回避義務(wù)也應(yīng)當(dāng)相對(duì)縮減。但是,結(jié)果回避義務(wù)的縮減不代表免責(zé),只能認(rèn)為在高度自動(dòng)化的情況下自動(dòng)駕駛汽車的使用者的結(jié)果回避義務(wù)內(nèi)容發(fā)生了重大變化。

    自動(dòng)駕駛汽車使用者注意義務(wù)來源于交通運(yùn)輸管理法律法規(guī)。一方面,根據(jù)前置法來判斷自動(dòng)駕駛汽車使用者的注意義務(wù)相對(duì)客觀。有學(xué)者指出,如果直接援引行政法規(guī)作為結(jié)果回避義務(wù)的內(nèi)容可能會(huì)導(dǎo)致過失犯的處罰范圍過大,并且可能淪為違反行政法規(guī)的結(jié)果加重犯[23]。對(duì)此,筆者認(rèn)為這種擔(dān)心可能是多余的。除了滿足違反注意義務(wù)這一條件,行為人還必須滿足其他條件才能成立過失犯罪;并且注意義務(wù)來源于前置法規(guī)定并不代表著義務(wù)內(nèi)容的完全等同。在我國(guó)刑法體系下,違反結(jié)果回避義務(wù)并不是一種客觀判斷,最終還需要落實(shí)到行為人主觀上的可責(zé)難性,即行為人不履行結(jié)果回避義務(wù)是出于主觀原因。法秩序需要相對(duì)統(tǒng)一,如果刑法中的注意義務(wù)內(nèi)容與前置法中的注意義務(wù)毫無關(guān)聯(lián),將影響刑法與其他部門法之間的銜接,造成法秩序混亂。因此,刑法的二次違法性決定了在判斷過失犯罪中的注意義務(wù)時(shí)援引前置法的內(nèi)容是合理且妥當(dāng)?shù)?。另一方面,援引前置法?guī)定來判斷自動(dòng)駕駛汽車使用者的注意義務(wù)也有利于提高自動(dòng)駕駛汽車的使用者對(duì)自己行為法律后果的預(yù)測(cè)可能性。罪刑法定原則要求行為人對(duì)自己的行為后果有相對(duì)明確的認(rèn)知?!罢麄€(gè)刑法實(shí)踐都要立基于公民包括罪犯和被害人對(duì)刑法立法及其運(yùn)作的可預(yù)知性、可等待性乃至可期盼性,即刑法對(duì)于公民而言的期待可能性或可被期待性”[24]。對(duì)刑法預(yù)測(cè)可能性的理解應(yīng)當(dāng)是實(shí)質(zhì)而非僅僅停留在刑法條文規(guī)定的理解上,因而即便是解釋過失犯罪中具體的注意義務(wù)內(nèi)容,也必須保證不超過公民在特定環(huán)境下對(duì)注意義務(wù)的理解范圍。在我國(guó)尚未專門針對(duì)自動(dòng)駕駛汽車的使用者作出特殊的規(guī)定之時(shí),自動(dòng)駕駛汽車的使用者在高度自動(dòng)化中接管操控以后,從用戶身份轉(zhuǎn)變?yōu)轳{駛員,此時(shí)需要履行的注意義務(wù)內(nèi)容可以參考駕駛員的注意義務(wù)范圍。但需要注意的是,現(xiàn)有交通運(yùn)輸管理法律法規(guī)仍然是以人工駕駛為原型,沒有考慮到自動(dòng)駕駛情形下使用者的注意義務(wù)和人工駕駛的駕駛員存在差異[25]。未來交通運(yùn)輸管理法律法規(guī)需要考慮自動(dòng)駕駛情形下使用者身份的轉(zhuǎn)變,限縮使用者的注意義務(wù)范圍,作出專門的規(guī)定。自動(dòng)駕駛汽車的使用者能夠通過這些法律法規(guī)對(duì)自己需要盡到的責(zé)任與義務(wù)有相對(duì)準(zhǔn)確的了解。

    需要注意的是,違反自動(dòng)駕駛汽車交通運(yùn)輸管理法律法規(guī)中的義務(wù)規(guī)定并不必然導(dǎo)致自動(dòng)駕駛汽車的使用者成立過失犯罪。自動(dòng)駕駛使用者的注意義務(wù)范圍應(yīng)當(dāng)小于前置法中規(guī)定的義務(wù)范圍。刑法和其他法律法規(guī)的規(guī)范目的并不相同,規(guī)范保護(hù)目的理論認(rèn)為:“盡管行為人侵害了法益,但仍需考察,其所違反的規(guī)范是否是用于保護(hù)該類法益。若否,則規(guī)范的違反并沒有對(duì)被害人造成相關(guān)的危險(xiǎn)?!保?6]那些目的并非防御危險(xiǎn),或者目的是防御危險(xiǎn),但存在多種替代措施的前置法義務(wù)規(guī)定不能成為刑法中的注意義務(wù)來源[27]。在自動(dòng)駕駛的過程中,使用者可能需要履行前置法規(guī)定的注意義務(wù)包括:其一,駕駛前的義務(wù),如具備自動(dòng)駕駛汽車駕駛資格,檢查車輛等;其二,駕駛中的義務(wù),如監(jiān)控自動(dòng)駕駛系統(tǒng)操作等;其三,駕駛后的義務(wù),如關(guān)閉自動(dòng)駕駛系統(tǒng)等。這些義務(wù)并不能必然成為使用者刑法意義上需要履行的結(jié)果回避義務(wù)。部分前置法規(guī)定的義務(wù)可以成為刑法意義上的結(jié)果回避義務(wù)。例如,在自動(dòng)駕駛系統(tǒng)發(fā)出警告時(shí),使用者需要根據(jù)系統(tǒng)指示作出反應(yīng),否則極有可能導(dǎo)致交通事故的發(fā)生。但也有部分前置法規(guī)定的義務(wù)不能成為刑法意義上的結(jié)果回避義務(wù)。例如,使用者使用安全帶的義務(wù)。筆者認(rèn)為,在考慮使用者的操作義務(wù)是否可以成為刑法意義上結(jié)果避免義務(wù)時(shí)需要考慮該義務(wù)是否能夠直接避免最終危害結(jié)果的發(fā)生。若不履行該義務(wù)將導(dǎo)致危害結(jié)果的發(fā)生,那么該義務(wù)屬于使用者需要履行的結(jié)果回避義務(wù),一旦使用者沒有履行此類結(jié)果回避義務(wù),其就需要承擔(dān)自動(dòng)駕駛事故中的過失責(zé)任。

    (二)自動(dòng)駕駛汽車研發(fā)者成立過失犯罪的條件

    誠(chéng)如前述,在自動(dòng)駕駛事故的過失犯罪認(rèn)定中,我們需要考慮自動(dòng)駕駛汽車研發(fā)者在產(chǎn)品制造過程中的產(chǎn)品刑事責(zé)任。因?yàn)樽詣?dòng)駕駛汽車的研發(fā)者并未參與實(shí)際駕駛的過程,與自動(dòng)駕駛事故現(xiàn)場(chǎng)具有一定的隔空性,所以自動(dòng)駕駛汽車的研發(fā)者無法在事故現(xiàn)場(chǎng)采取直接措施阻止危害結(jié)果的發(fā)生。但是,自動(dòng)駕駛汽車的研發(fā)者可以通過修改調(diào)整、更新升級(jí)系統(tǒng)實(shí)現(xiàn)對(duì)自動(dòng)駕駛汽車的操控。在此情況下,自動(dòng)駕駛汽車的研發(fā)者承擔(dān)產(chǎn)品過失責(zé)任的基礎(chǔ)不能排除其沒有履行相應(yīng)的結(jié)果預(yù)見義務(wù),而該結(jié)果預(yù)見義務(wù)與普通汽車的研發(fā)者相比,存在一定的不同。如果認(rèn)為自動(dòng)駕駛汽車的研發(fā)者僅需要承擔(dān)結(jié)果回避義務(wù),那么在自動(dòng)駕駛汽車研發(fā)規(guī)范尚不充足的情況下,可能會(huì)導(dǎo)致研發(fā)者在明知可能存在技術(shù)漏洞的情況下仍能避免承擔(dān)責(zé)任的不當(dāng)后果。

    首先,自動(dòng)駕駛汽車研發(fā)者的產(chǎn)品刑事責(zé)任性質(zhì)不同于普通汽車研發(fā)者。除了保障產(chǎn)品本身的質(zhì)量外,自動(dòng)駕駛汽車研發(fā)者還需要保障自動(dòng)駕駛汽車的道路交通安全。傳統(tǒng)理論認(rèn)為,產(chǎn)品刑事責(zé)任產(chǎn)生的基礎(chǔ)是生產(chǎn)企業(yè)生產(chǎn)了大規(guī)模有瑕疵的危險(xiǎn)產(chǎn)品,這些產(chǎn)品因進(jìn)入廣泛的流通領(lǐng)域而給社會(huì)安全造成了明顯的威脅。而道路交通安全刑事責(zé)任成立的前提是行為人違反了交通運(yùn)輸管理法律法規(guī)。因此,在人工智能時(shí)代到來以前,產(chǎn)品刑事責(zé)任的內(nèi)容不包含道路交通安全刑事責(zé)任的內(nèi)容。然而,因?yàn)樽詣?dòng)駕駛汽車中駕駛員身份的缺失,研發(fā)者成為了自動(dòng)駕駛汽車駕駛指令的真正“操控者”。筆者認(rèn)為,不能用被允許的危險(xiǎn)理論來理解自動(dòng)駕駛事故的原因在于,雖然研發(fā)自動(dòng)駕駛汽車是為法律法規(guī)所容許且鼓勵(lì)的行為,但這并不意味著自動(dòng)駕駛汽車的研發(fā)最終導(dǎo)致了危害結(jié)果也是被允許的。普通汽車如果因?yàn)檫`反交通運(yùn)輸管理法律法規(guī)發(fā)生交通事故,駕駛員需要承擔(dān)刑事責(zé)任是因?yàn)轳{駛員負(fù)有安全駕駛的注意義務(wù)。而普通汽車的研發(fā)者不需要對(duì)此承擔(dān)刑事責(zé)任,其注意義務(wù)的范圍僅限于保障普通汽車本身的質(zhì)量安全。簡(jiǎn)單來說,汽車沒剎住車撞死行人是駕駛員的責(zé)任,但剎車片存在問題無法剎車撞死行人則是研發(fā)者的責(zé)任。但是,如果自動(dòng)駕駛汽車因違反交通運(yùn)輸管理法律法規(guī)而發(fā)生交通事故,研發(fā)者也需要對(duì)此承擔(dān)刑事責(zé)任。其理由在于,此時(shí),可以通過操作剎車避免撞到他人的駕駛員已經(jīng)無法參與駕駛操作了。保障自動(dòng)駕駛汽車道路交通安全的責(zé)任雖不是普通意義上的道路交通安全責(zé)任[28],但這部分責(zé)任不會(huì)因?yàn)轳{駛員不再參與駕駛操作而消失,而會(huì)因?yàn)樽詣?dòng)駕駛系統(tǒng)和研發(fā)者的緊密關(guān)聯(lián)而轉(zhuǎn)移至研發(fā)者。因此,自動(dòng)駕駛汽車研發(fā)者的注意義務(wù)包含保障自動(dòng)駕駛汽車的道路交通安全的內(nèi)容。換言之,在普通汽車駕駛中,需要保障汽車道路交通安全的主體是駕駛員,但在自動(dòng)駕駛的情況下,需要保障汽車道路交通安全的主體新增了研發(fā)者。2021年7月,工信部發(fā)布《工業(yè)和信息化部關(guān)于加強(qiáng)智能網(wǎng)聯(lián)汽車生產(chǎn)企業(yè)及產(chǎn)品準(zhǔn)入管理的意見》,對(duì)自動(dòng)駕駛汽車的研發(fā)者在數(shù)據(jù)和網(wǎng)絡(luò)安全管理、軟件在線升級(jí)、產(chǎn)品管理、保障措施等方面均提出了具體的要求。說明自動(dòng)駕駛汽車不是普通的產(chǎn)品,其和研發(fā)者的關(guān)系也不會(huì)因?yàn)楫a(chǎn)品投入使用而脫離。

    其次,雖然結(jié)果預(yù)見義務(wù)是主觀的,但是在實(shí)際判斷自動(dòng)駕駛汽車研發(fā)者是否違反了結(jié)果預(yù)見義務(wù)的過程中需要相對(duì)客觀的標(biāo)準(zhǔn)作為參考,即研發(fā)自動(dòng)駕駛汽車當(dāng)時(shí)的科學(xué)技術(shù)能力。如果研發(fā)自動(dòng)駕駛汽車當(dāng)時(shí)的科學(xué)技術(shù)能力無法幫助研發(fā)者預(yù)見自動(dòng)駕駛汽車可能導(dǎo)致的危害結(jié)果,研發(fā)者已經(jīng)盡力確保自動(dòng)駕駛汽車安全[29],則應(yīng)當(dāng)認(rèn)定研發(fā)者不具有對(duì)于危害結(jié)果的預(yù)見義務(wù)。研發(fā)當(dāng)時(shí)的人工智能技術(shù)發(fā)展水平是相對(duì)清晰的標(biāo)準(zhǔn),利用這個(gè)標(biāo)準(zhǔn)來判斷研發(fā)者和使用者是否具有預(yù)見可能性相對(duì)客觀[30]。大部分國(guó)家和地區(qū)認(rèn)為,所有自動(dòng)駕駛汽車在正式上路以前都必須經(jīng)過各方面測(cè)試。在此期間,通過不斷的測(cè)試和設(shè)置不同的駕駛場(chǎng)景,研發(fā)者應(yīng)當(dāng)利用各方面的技術(shù)竭盡所能排除可能出現(xiàn)的所有故障或問題。如果前置法有行政程序的要求,如審核、批準(zhǔn)程序等,研發(fā)者也應(yīng)當(dāng)遵循[31]。同時(shí),研發(fā)科學(xué)技術(shù)產(chǎn)品的能力并非一成不變的,判斷研發(fā)科學(xué)技術(shù)產(chǎn)品能力的標(biāo)準(zhǔn)應(yīng)當(dāng)是發(fā)展和變化的動(dòng)態(tài)標(biāo)準(zhǔn)。因此,研發(fā)者對(duì)于自動(dòng)駕駛汽車必須持續(xù)關(guān)注,即使自動(dòng)駕駛汽車已經(jīng)正式上路,研發(fā)者仍然要根據(jù)發(fā)展的研發(fā)科學(xué)技術(shù)產(chǎn)品的能力來預(yù)見自動(dòng)駕駛汽車是否可能出現(xiàn)新的問題和新的風(fēng)險(xiǎn)。

    最后,算法黑箱不應(yīng)成為否定研發(fā)者結(jié)果預(yù)見義務(wù)或結(jié)果回避義務(wù)的理由。有觀點(diǎn)認(rèn)為,自動(dòng)駕駛系統(tǒng)在作出操控決策時(shí)存在算法黑箱,因而研發(fā)者無法預(yù)知自動(dòng)駕駛系統(tǒng)會(huì)作何決策,不能根據(jù)結(jié)果預(yù)見義務(wù)進(jìn)行研發(fā)者刑事責(zé)任的判斷[32]。不可否認(rèn),自動(dòng)駕駛的情形下算法黑箱確實(shí)可能成為判斷研發(fā)者刑事責(zé)任的障礙。但是,決策的具體內(nèi)容和決策的范圍,決策的可解釋性與決策的禁止性,不應(yīng)混為一談。在存在算法黑箱的情況下,判斷研發(fā)者是否具有結(jié)果預(yù)見義務(wù)或結(jié)果回避義務(wù),不是判斷研發(fā)者是否能夠預(yù)見自動(dòng)駕駛系統(tǒng)決策的具體內(nèi)容,而是判斷研發(fā)者是否具有預(yù)見或回避決策超過安全標(biāo)準(zhǔn)范圍的義務(wù)。即便自動(dòng)駕駛系統(tǒng)的決策不具有完整的可解釋性,也不妨礙決策因具有禁止性而需要對(duì)研發(fā)者進(jìn)行追責(zé)。例如,研發(fā)者設(shè)置的自動(dòng)駕駛系統(tǒng)在面對(duì)風(fēng)險(xiǎn)時(shí)作出的決策要符合道德倫理的要求,優(yōu)先保護(hù)人身安全等,如果不能符合道德倫理要求,應(yīng)當(dāng)對(duì)研發(fā)者追責(zé)[33]。同時(shí),現(xiàn)有自動(dòng)駕駛系統(tǒng)決策的可解釋程度已經(jīng)足以成為判斷因果關(guān)系有無的參考依據(jù),算法黑箱不應(yīng)成為放棄或降低自動(dòng)駕駛事故因果關(guān)系證明標(biāo)準(zhǔn)的理由[6]。如果自動(dòng)駕駛系統(tǒng)的可解釋程度已經(jīng)超出了研發(fā)者的操控范圍,那么自動(dòng)駕駛汽車的安全性將受到嚴(yán)重質(zhì)疑,不應(yīng)投入市場(chǎng)使用。因此,達(dá)到一定可解釋程度是自動(dòng)駕駛汽車安全上路,造福于人類社會(huì)的基本前提[34]。

    綜上所述,自動(dòng)駕駛汽車的使用者在許多情況下無法參與駕駛操作,但仍負(fù)有配合與保障自動(dòng)駕駛系統(tǒng)正常工作的義務(wù)。而自動(dòng)駕駛汽車的研發(fā)者不直接參與駕駛操作,但對(duì)于自己生產(chǎn)與研發(fā)的具有高風(fēng)險(xiǎn)的自動(dòng)駕駛汽車具有確保其安全、正常工作的義務(wù),該注意義務(wù)不能排除結(jié)果預(yù)見義務(wù)。同時(shí)不用過度擔(dān)心利用結(jié)果預(yù)見義務(wù)判斷研發(fā)者過失犯罪成立與否會(huì)導(dǎo)致處罰范圍過大,因?yàn)閷?duì)于研發(fā)者結(jié)果預(yù)見義務(wù)的判斷也需要相對(duì)客觀的標(biāo)準(zhǔn),并且在必要的情況下完全可以認(rèn)定為不可抗力。

    結(jié)語

    未來已來,人工智能技術(shù)的快速發(fā)展使越來越多的風(fēng)險(xiǎn)暴露在公眾的視野中。其中,自動(dòng)駕駛汽車的安全風(fēng)險(xiǎn)首當(dāng)其沖,如何防范和應(yīng)對(duì)自動(dòng)駕駛技術(shù)帶來的風(fēng)險(xiǎn)已然成為這個(gè)時(shí)代的重要命題。面對(duì)自動(dòng)駕駛事故帶來的歸責(zé)難題,我們應(yīng)當(dāng)從法理角度對(duì)自動(dòng)駕駛汽車研發(fā)者和使用者的過失犯罪問題進(jìn)行分析。人工智能技術(shù)何時(shí)能進(jìn)入強(qiáng)人工智能時(shí)代尚不得而知,就目前的弱人工智能時(shí)代而言,重視與強(qiáng)化人工智能產(chǎn)品責(zé)任主體的注意義務(wù)十分必要。自動(dòng)駕駛汽車不再需要人為駕駛并不意味不再需要人為操控,就此而言,自動(dòng)駕駛汽車的使用者仍須對(duì)自動(dòng)駕駛事故承擔(dān)一定的刑事責(zé)任。同時(shí),對(duì)于自動(dòng)駕駛汽車的研發(fā)者而言,其需要承擔(dān)的產(chǎn)品刑事責(zé)任范圍是由產(chǎn)品的特性所決定的。人工智能技術(shù)的參與使產(chǎn)品的功能和特性都發(fā)生了明顯的變化。原來需要人為操作的部分被人工智能系統(tǒng)“接管”,而人工智能系統(tǒng)同樣由研發(fā)者負(fù)責(zé)。簡(jiǎn)單而言,產(chǎn)品的功能增多,研發(fā)者需要負(fù)責(zé)的范圍也就隨之增大。因此,自動(dòng)駕駛汽車的研發(fā)者需要對(duì)自動(dòng)駕駛汽車的道路交通安全負(fù)責(zé),并承擔(dān)自動(dòng)駕駛事故中的有關(guān)刑事責(zé)任。眾所周知,刑法的規(guī)制是一把“雙刃劍”。雖然人工智能技術(shù)可能帶來一定的風(fēng)險(xiǎn),但我們不能因噎廢食,過度懲戒人工智能產(chǎn)品研發(fā)者,否則將阻礙人工智能產(chǎn)品的研發(fā)。刑法對(duì)于自動(dòng)駕駛汽車研發(fā)者的規(guī)制必須限定在合理的范圍之內(nèi)。如果自動(dòng)駕駛汽車的研發(fā)者已經(jīng)履行了相應(yīng)的注意義務(wù),應(yīng)當(dāng)盡量為其保留出罪空間。只有將自動(dòng)駕駛事故中過失犯罪的范圍控制在一定的限度內(nèi),才能兼顧自動(dòng)駕駛汽車的安全性和自動(dòng)駕駛技術(shù)的順利發(fā)展并得到公眾信任。參考文獻(xiàn):

    [1] 程龍.自動(dòng)駕駛車輛交通肇事的刑法規(guī)制[J].學(xué)術(shù)交流,2018(4):81-87.

    [2] 孫道萃.人工智能刑法主體地位的積極論:兼與消極論的答談[J].重慶大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2022(4):216-229.

    [3] 劉憲權(quán).刑法學(xué)[M].4版.上海:上海人民出版社,2016:123.

    [4] 劉憲權(quán).人工智能時(shí)代的“內(nèi)憂”“外患”與刑事責(zé)任[J].東方法學(xué),2018(1):134-142.

    [5] 舒躍育,汪李玲.人工智能發(fā)展處于弱人工智能階段[N].中國(guó)社會(huì)科學(xué)報(bào),2017-04-25(05).

    [6] 程凡卿.自動(dòng)駕駛刑事風(fēng)險(xiǎn)研究:刑事追責(zé)的困境與對(duì)策[J].比較法研究,2022(5):118-130.

    [7] 蔡仙.自動(dòng)駕駛中過失犯歸責(zé)體系的展開[J].比較法研究,2023(4):65-81.

    [8] 烏爾里?!へ惪?風(fēng)險(xiǎn)社會(huì)[M].何博聞,譯.南京:譯林出版社,2004:13.

    [9] 呂英杰.風(fēng)險(xiǎn)社會(huì)中的產(chǎn)品刑事責(zé)任[J].法律科學(xué)(西北政法大學(xué)學(xué)報(bào)),2011(6):145-153.[10] 〖ZK(#〗埃里克·希爾根多夫.自動(dòng)系統(tǒng)、人工智能和機(jī)器人:一個(gè)刑法角度的定位[J].黃笑巖,譯.法治現(xiàn)代化研究,2019(1):85-94.

    [11] 西田典之.日本刑法總論[M].劉明祥,王昭武,譯.北京:中國(guó)人民大學(xué)出版社,2007:104.

    [12] 王瑩.法律如何可能:自動(dòng)駕駛技術(shù)風(fēng)險(xiǎn)場(chǎng)景之法律透視[J].法制與社會(huì)發(fā)展,2019(6):99-112.

    [13] 周光權(quán).風(fēng)險(xiǎn)升高理論與存疑有利于被告原則:兼論“趙達(dá)文交通肇事案”的定性[J].法學(xué),2018(8):66-78.

    [14] 周光權(quán).客觀歸責(zé)與過失犯論[J].政治與法律,2014(5):16-26.

    [15] 楊猛.新舊過失理論體系的風(fēng)險(xiǎn)差異性研究:以高危領(lǐng)域失職的刑法規(guī)制為視角[J].社會(huì)科學(xué)戰(zhàn)線,2023(11):207-216.

    [16] 鄭超.過失犯的實(shí)行行為性與規(guī)范構(gòu)造[J].政治與法律,2023(5):84-102.

    [17] 北川佳世子.交通事故和過失論[C]∥黎宏,譯.高銘暄,趙秉志.過失犯罪的基礎(chǔ)理論.北京:法律出版社,2002:70.

    [18] 山口厚.論過失[J].付立慶,譯.河南省政法管理干部學(xué)院學(xué)報(bào),2010(5):39-48.

    [19] 劉艷紅.交通過失犯認(rèn)定應(yīng)以結(jié)果回避義務(wù)為基準(zhǔn)[J].法學(xué),2010(6):141-153.

    [20] 馬克昌.比較刑法原理[M].武漢:武漢大學(xué)出版社,2002:228-233.

    [21] 勞東燕.過失犯中預(yù)見可能性理論的反思與重構(gòu)[J].中外法學(xué),2018(2):304-326.

    [22] 張明楷.論過失犯的構(gòu)造[J].比較法研究,2020(5):1-21.

    [23] 西田典之.日本刑法總論[M].劉明祥,王昭武,譯.北京:中國(guó)人民出版社,2007:210.

    [24] 馬榮春.刑法的可能性:預(yù)測(cè)可能性[J].法律科學(xué)(西北政法大學(xué)學(xué)報(bào)),2013(1):86-99.

    [25] 袁國(guó)何.論自動(dòng)駕駛情形中的刑事責(zé)任[J].蘇州大學(xué)學(xué)報(bào)(法學(xué)版),2022(4):80-91.

    [26] 埃里克·希爾根多夫.因果關(guān)系與客觀歸則:原理與問題[C]∥徐凌波,譯.陳澤憲.刑事法前沿(第七卷).北京:中國(guó)人民公安大學(xué)出版社,2013:127.

    [27] 喻浩東.過失犯注意義務(wù)違反的交叉研究:兼論法秩序統(tǒng)一性原理[J].中國(guó)刑事法雜志,2023(3):50-71.

    [28] ALEXANDER H. R2DFORD:Autonomous vehicles and the legal implications of varying liability structures[J].Faulkner Law Review, 2013(1):29-58.

    [29] 龍敏.自動(dòng)駕駛交通肇事刑事責(zé)任的認(rèn)定與分配[J].華東政法大學(xué)學(xué)報(bào),2018(6):77-82.

    [30] 劉憲權(quán).人工智能時(shí)代的刑事風(fēng)險(xiǎn)與刑法應(yīng)對(duì)[J].法商研究,2018(1):3-11.

    [31] 熊波.我國(guó)人工智能刑法的行政前置性立法探析[J].重慶大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2023(2):232-245.

    [32] 彭文華.自動(dòng)駕駛汽車犯罪的歸責(zé)與歸因[J].東方法學(xué),2024(1):108-117.

    [33] 姚瑤.人工智能時(shí)代過失犯理論的挑戰(zhàn)與應(yīng)對(duì):以自動(dòng)駕駛汽車交通肇事為例[J].浙江社會(huì)科學(xué),2022(12):59-67.

    [34] 袁佩君.自動(dòng)駕駛汽車交通肇事的歸責(zé)困境及刑法應(yīng)對(duì)[J].華南理工大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2023(2):30-40.

    The analysis of negligent crimes in automatic driving accidents

    LIN Yujia

    (School of Law, Shanghai University, Shanghai 200444, P. R. China)

    Abstract:

    The rapid development of artificial intelligence technology and the occurrence of automatic driving accidents have led to a discussion on the issue of criminal liability in automatic driving accidents, involving the subject of criminal liability, the nature of the crime of negligence, and the duty of care, which is worthy of in-depth study. Automatic driving technology can be classified as simple automation, partial automation, high automation, and full automation. In the case of simple automation and partial automation, the criminal liability for traffic accidents involving self-driving cars is not different from that of ordinary traffic accidents, and there is no need for a separate discussion. In the case of high automation and full automation, the driver of a self-driving car becomes a user of the product because he is restricted from participating in driving operations. As a weak artificial intelligence product, self-driving cars cannot become the subject of criminal liability. Users of self-driving cars are not completely exempt from road traffic safety responsibilities. The developer of self-driving cars needs to bear the criminal liability of the product, and the criminal liability of the product in this case includes the responsibility for road traffic safety. Under China’s criminal law system, negligence and intent are two parallel subjective psychological attitudes, and the new negligence theory’s understanding of negligence crime does not conform to the existing criminal law provisions. The crime of negligence is not an abstract foreseeable possibility as the old negligence theory suggests. The overconfident negligence in China’s criminal law is the actor’s failure to perform the obligation to avoid the result when he foresees the result, and the negligence is the actor’s failure to perform the obligation to foresee the result when there is a possibility of foreseeing. In an automatic driving accident, if the user violates the obligation to cooperate with and ensure the normal operation of the self-driving system, resulting in the occurrence of harmful results, the crime of negligence is established. If the user is not obligated to operate, he or she is not subject to criminal liability. The user’s duty of care is derived from the precedent law, but not all the obligations stipulated in the precedent law can become the duty of care for negligence crimes. If the developer violates the obligation to foresee the consequences of ensuring road traffic safety, resulting in the occurrence of harmful results, it needs to bear the responsibility for the accident. The self-driving system has not been out of the control of the developer after it has been put into use, so the nature of product liability borne by the developer of the self-driving car is different from that of the ordinary car developer, and the liability for the accident of the original car driver is transferred to the developer. Although the obligation to foresee the results is subjective, in the process of actually judging whether the developer has violated the obligation to foresee the results, a relatively objective standard is required as a reference, that is, the scientific and technological capabilities at the time of the development of the self-driving car. The existence of algorithmic black boxes in automatic driving systems should not be a reason to deny the developer’s obligation to foresee or avoid results.

    Key words:

    automatic driving; negligent crime; duty of care; criminal responsibility; product responsibility(責(zé)任編輯"劉"琦)

    基金項(xiàng)目:

    國(guó)家社會(huì)科學(xué)基金青年項(xiàng)目“數(shù)字化時(shí)代網(wǎng)絡(luò)犯罪罪量認(rèn)定研究”(24CFX093);上海市哲學(xué)社會(huì)科學(xué)規(guī)劃課題“資本市場(chǎng)改革背景下證券共同犯罪認(rèn)定研究”(2022EFX005)

    作者簡(jiǎn)介:林雨佳,法學(xué)博士,上海大學(xué)法學(xué)院講師,Email:linyujia0922@163.com。

    猜你喜歡
    注意義務(wù)刑事責(zé)任自動(dòng)駕駛
    汽車自動(dòng)駕駛的發(fā)展
    LTE—V車路通信技術(shù)淺析與探討
    網(wǎng)絡(luò)傳銷案中傳銷管理人員的刑事責(zé)任認(rèn)定
    人間(2016年30期)2016-12-03 20:32:02
    破產(chǎn)管理人的法律責(zé)任
    論被害人過錯(cuò)行為對(duì)行為人刑事責(zé)任的影響
    環(huán)境污染侵害的刑事責(zé)任研究
    室外藝術(shù)品原作者署名權(quán)的行使規(guī)則案例分析
    資治文摘(2016年7期)2016-11-23 01:28:38
    特斯拉默默更改了官網(wǎng)上“自動(dòng)駕駛”的說明
    家用汽車(2016年9期)2016-11-04 15:04:44
    特斯拉中國(guó)官網(wǎng)不再提“自動(dòng)駕駛”
    微信平臺(tái)轉(zhuǎn)載的侵權(quán)責(zé)任研究
    商(2016年4期)2016-03-24 21:09:21
    欧美日本视频| 国产精品永久免费网站| 精品久久久久久成人av| 国产精品电影一区二区三区| kizo精华| 欧美最新免费一区二区三区| 日日啪夜夜撸| 黑人高潮一二区| 69人妻影院| 插阴视频在线观看视频| 嘟嘟电影网在线观看| 99久久精品国产国产毛片| 国产真实乱freesex| 国产精品久久久久久久久免| 一级毛片aaaaaa免费看小| 人人妻人人看人人澡| 成年女人看的毛片在线观看| 亚洲精品日韩av片在线观看| 久久精品综合一区二区三区| 久久久色成人| 免费在线观看成人毛片| 久久这里有精品视频免费| 国产av码专区亚洲av| 亚洲激情五月婷婷啪啪| 久久久成人免费电影| 久久久久久大精品| 精品无人区乱码1区二区| 久久精品国产99精品国产亚洲性色| 丰满少妇做爰视频| 国产一级毛片在线| 午夜视频国产福利| av天堂中文字幕网| 人妻夜夜爽99麻豆av| 免费av毛片视频| 国产成人精品婷婷| 亚洲自偷自拍三级| 日日撸夜夜添| 一本久久精品| 亚洲精品国产av成人精品| 久久精品国产亚洲网站| 老司机福利观看| 人妻系列 视频| 啦啦啦啦在线视频资源| 午夜亚洲福利在线播放| 熟女电影av网| 亚洲久久久久久中文字幕| 成人性生交大片免费视频hd| 精品人妻一区二区三区麻豆| 亚洲成人av在线免费| 2022亚洲国产成人精品| 村上凉子中文字幕在线| 男女国产视频网站| 秋霞在线观看毛片| av专区在线播放| 国产伦理片在线播放av一区| 欧美又色又爽又黄视频| 99在线人妻在线中文字幕| 成人午夜高清在线视频| 天堂√8在线中文| 搡女人真爽免费视频火全软件| 嫩草影院精品99| 国产真实乱freesex| 亚洲在线观看片| 成年版毛片免费区| 婷婷色综合大香蕉| 国产亚洲午夜精品一区二区久久 | 久久这里有精品视频免费| 午夜精品一区二区三区免费看| 亚洲成人精品中文字幕电影| av福利片在线观看| 天堂网av新在线| 中文字幕av在线有码专区| 大又大粗又爽又黄少妇毛片口| 乱系列少妇在线播放| 丰满少妇做爰视频| 一二三四中文在线观看免费高清| 淫秽高清视频在线观看| 欧美性猛交╳xxx乱大交人| 超碰av人人做人人爽久久| 一级毛片久久久久久久久女| av在线天堂中文字幕| 99九九线精品视频在线观看视频| 有码 亚洲区| 国产不卡一卡二| 只有这里有精品99| 国产成人精品久久久久久| 欧美激情久久久久久爽电影| 高清视频免费观看一区二区 | 能在线免费观看的黄片| 能在线免费观看的黄片| 国产午夜精品一二区理论片| 91av网一区二区| 久久精品综合一区二区三区| 中文乱码字字幕精品一区二区三区 | 亚洲欧美精品专区久久| 床上黄色一级片| videossex国产| 亚洲人与动物交配视频| 久久久久久国产a免费观看| www日本黄色视频网| 99久久精品热视频| 久久99蜜桃精品久久| 日韩一本色道免费dvd| 成人毛片60女人毛片免费| 亚洲人成网站在线播| 欧美zozozo另类| 免费观看人在逋| 国产高清视频在线观看网站| 99久久精品热视频| 日韩大片免费观看网站 | 简卡轻食公司| 成人特级av手机在线观看| 日韩av在线大香蕉| 日本免费a在线| 亚洲性久久影院| 一边摸一边抽搐一进一小说| 91久久精品国产一区二区三区| 国产精品久久久久久精品电影| 97人妻精品一区二区三区麻豆| 亚洲精品日韩av片在线观看| 高清日韩中文字幕在线| 舔av片在线| 少妇人妻一区二区三区视频| 精品国产一区二区三区久久久樱花 | 日本免费在线观看一区| 国产午夜福利久久久久久| 中文天堂在线官网| 国产亚洲5aaaaa淫片| 纵有疾风起免费观看全集完整版 | 亚洲中文字幕日韩| 国产激情偷乱视频一区二区| 欧美3d第一页| 欧美成人一区二区免费高清观看| 午夜激情福利司机影院| 天天躁夜夜躁狠狠久久av| 亚洲第一区二区三区不卡| 国产精品.久久久| 亚洲精品一区蜜桃| 亚洲精品影视一区二区三区av| 一本一本综合久久| 女人被狂操c到高潮| 亚洲久久久久久中文字幕| 97超碰精品成人国产| 两性午夜刺激爽爽歪歪视频在线观看| 黄色一级大片看看| 国产高清有码在线观看视频| 国产国拍精品亚洲av在线观看| 亚洲欧美精品专区久久| 精品国产露脸久久av麻豆 | 亚洲精品乱久久久久久| 国产成人免费观看mmmm| 国产国拍精品亚洲av在线观看| 国产一区二区亚洲精品在线观看| 国产精品av视频在线免费观看| 久久精品国产亚洲av涩爱| 尾随美女入室| av在线老鸭窝| 超碰97精品在线观看| 男插女下体视频免费在线播放| 精品免费久久久久久久清纯| 蜜臀久久99精品久久宅男| 亚洲av日韩在线播放| 插逼视频在线观看| 两性午夜刺激爽爽歪歪视频在线观看| 一个人看的www免费观看视频| 色网站视频免费| 国产av码专区亚洲av| 边亲边吃奶的免费视频| 免费观看a级毛片全部| 欧美日韩精品成人综合77777| 爱豆传媒免费全集在线观看| 变态另类丝袜制服| 26uuu在线亚洲综合色| 99热网站在线观看| av视频在线观看入口| 成人漫画全彩无遮挡| 综合色丁香网| 淫秽高清视频在线观看| 男人舔女人下体高潮全视频| 久久久a久久爽久久v久久| 天堂网av新在线| 国产精品人妻久久久久久| 国产免费又黄又爽又色| 熟妇人妻久久中文字幕3abv| 国产一区二区三区av在线| 日韩成人av中文字幕在线观看| 三级国产精品片| 亚洲在线观看片| 国产黄片美女视频| 22中文网久久字幕| 日韩欧美精品v在线| 国产成人精品婷婷| 久久99热这里只频精品6学生 | 欧美三级亚洲精品| 精品人妻一区二区三区麻豆| 99热这里只有是精品在线观看| 国产在视频线精品| 91精品伊人久久大香线蕉| 一本一本综合久久| 秋霞在线观看毛片| 又爽又黄a免费视频| 两个人视频免费观看高清| 又粗又硬又长又爽又黄的视频| 中文字幕熟女人妻在线| 欧美精品一区二区大全| 成年女人看的毛片在线观看| 国产真实伦视频高清在线观看| 免费看光身美女| 国产精品国产三级专区第一集| 少妇的逼好多水| 欧美激情在线99| 狂野欧美白嫩少妇大欣赏| 精品欧美国产一区二区三| 亚洲成人久久爱视频| 51国产日韩欧美| 桃色一区二区三区在线观看| 精品久久久久久久久久久久久| 日日摸夜夜添夜夜添av毛片| 色网站视频免费| 18禁动态无遮挡网站| 亚洲精品乱码久久久v下载方式| 成年av动漫网址| 欧美激情国产日韩精品一区| 麻豆久久精品国产亚洲av| 国产精品一区二区性色av| 亚洲av成人精品一二三区| 国产 一区精品| 国产欧美另类精品又又久久亚洲欧美| 久久久久久大精品| 男人和女人高潮做爰伦理| 国产精品久久久久久久久免| 亚洲人成网站高清观看| 99久久九九国产精品国产免费| 搞女人的毛片| 麻豆乱淫一区二区| 国产av一区在线观看免费| 少妇的逼水好多| av福利片在线观看| 亚洲国产精品合色在线| 午夜福利高清视频| 国产成人精品婷婷| av在线天堂中文字幕| 免费观看的影片在线观看| 高清毛片免费看| 久久亚洲国产成人精品v| 永久免费av网站大全| 在线免费十八禁| 亚洲熟妇中文字幕五十中出| 人妻夜夜爽99麻豆av| 免费看a级黄色片| 国产一区亚洲一区在线观看| 亚洲婷婷狠狠爱综合网| 老司机影院成人| 内地一区二区视频在线| 日韩一区二区视频免费看| 最近视频中文字幕2019在线8| 日本色播在线视频| 欧美精品国产亚洲| 亚洲婷婷狠狠爱综合网| 久久人人爽人人片av| 国产中年淑女户外野战色| 97超视频在线观看视频| 极品教师在线视频| 国产精品三级大全| 欧美一区二区国产精品久久精品| 欧美bdsm另类| 纵有疾风起免费观看全集完整版 | 国产老妇女一区| 欧美日韩精品成人综合77777| 国产精品日韩av在线免费观看| 黑人高潮一二区| 国产精品久久久久久av不卡| 亚洲国产精品成人久久小说| 国产精品久久电影中文字幕| 亚洲精品一区蜜桃| 天堂网av新在线| 精品久久久久久久人妻蜜臀av| 久久久久久久亚洲中文字幕| 国产91av在线免费观看| 99热这里只有是精品在线观看| 国产精品爽爽va在线观看网站| 欧美zozozo另类| 久99久视频精品免费| 国产精品永久免费网站| 伦理电影大哥的女人| 成年女人看的毛片在线观看| 国产精品福利在线免费观看| 美女xxoo啪啪120秒动态图| 亚洲av熟女| 国产成人福利小说| 日韩成人av中文字幕在线观看| 在线观看av片永久免费下载| 国产 一区精品| 亚洲国产欧美人成| 亚洲欧美日韩卡通动漫| 国产精品伦人一区二区| 国产爱豆传媒在线观看| 嫩草影院入口| 免费观看精品视频网站| 亚洲伊人久久精品综合 | 岛国毛片在线播放| 国产精品电影一区二区三区| 三级经典国产精品| 国产一区二区三区av在线| 成年女人永久免费观看视频| 一级毛片我不卡| 免费黄网站久久成人精品| 99久久精品国产国产毛片| 大香蕉97超碰在线| 男人狂女人下面高潮的视频| 国产成人a区在线观看| 久久久久久久久久久免费av| www日本黄色视频网| 亚洲av电影在线观看一区二区三区 | .国产精品久久| 国产精品三级大全| 在线播放国产精品三级| 人人妻人人看人人澡| 精品午夜福利在线看| 亚洲国产成人一精品久久久| 永久免费av网站大全| 最近中文字幕高清免费大全6| 中文字幕人妻熟人妻熟丝袜美| 国产精品久久久久久久电影| 国产黄色小视频在线观看| 99久久精品一区二区三区| 久久这里只有精品中国| 亚洲人与动物交配视频| 一级av片app| 国产淫片久久久久久久久| 晚上一个人看的免费电影| 中文字幕亚洲精品专区| 国产高清不卡午夜福利| 美女国产视频在线观看| av在线播放精品| 美女高潮的动态| 国产伦在线观看视频一区| 联通29元200g的流量卡| 亚洲欧美日韩东京热| 菩萨蛮人人尽说江南好唐韦庄 | 天美传媒精品一区二区| 国产探花在线观看一区二区| 美女脱内裤让男人舔精品视频| 免费看美女性在线毛片视频| 少妇熟女欧美另类| 在线a可以看的网站| 久久久精品94久久精品| 尤物成人国产欧美一区二区三区| 欧美又色又爽又黄视频| 嫩草影院精品99| 成人综合一区亚洲| 美女大奶头视频| 男插女下体视频免费在线播放| 亚洲国产精品合色在线| 亚洲av男天堂| 人妻系列 视频| 国产老妇女一区| 免费观看人在逋| 日本一本二区三区精品| 久久久久国产网址| 少妇裸体淫交视频免费看高清| 亚洲美女搞黄在线观看| 汤姆久久久久久久影院中文字幕 | 插逼视频在线观看| 97在线视频观看| a级毛色黄片| 三级国产精品欧美在线观看| 青青草视频在线视频观看| 天堂av国产一区二区熟女人妻| 亚洲欧洲国产日韩| 一级黄片播放器| 一区二区三区高清视频在线| 久久精品久久精品一区二区三区| 国产av一区在线观看免费| www日本黄色视频网| 热99re8久久精品国产| 黄色日韩在线| 久久国产乱子免费精品| 国产美女午夜福利| 久久久久免费精品人妻一区二区| 国产一区二区在线av高清观看| 久久精品国产鲁丝片午夜精品| 亚洲乱码一区二区免费版| 丰满少妇做爰视频| 国产精品国产高清国产av| 亚洲自拍偷在线| 熟女人妻精品中文字幕| 我的老师免费观看完整版| 国产黄a三级三级三级人| 国产大屁股一区二区在线视频| 日韩中字成人| 成人二区视频| av福利片在线观看| 嫩草影院新地址| 乱码一卡2卡4卡精品| 亚洲自拍偷在线| 最近手机中文字幕大全| 亚洲人成网站在线观看播放| 精品人妻偷拍中文字幕| 91av网一区二区| 久99久视频精品免费| 18+在线观看网站| 国产亚洲91精品色在线| 日韩亚洲欧美综合| 亚洲精品456在线播放app| 亚洲精品自拍成人| 精品欧美国产一区二区三| 国产精品一区二区在线观看99 | 级片在线观看| 国产三级中文精品| 丰满乱子伦码专区| 亚洲国产精品久久男人天堂| 我的老师免费观看完整版| 免费看美女性在线毛片视频| 国产亚洲精品av在线| 国产高清不卡午夜福利| 男插女下体视频免费在线播放| 网址你懂的国产日韩在线| 亚洲成人中文字幕在线播放| 久久99热6这里只有精品| 欧美三级亚洲精品| 狠狠狠狠99中文字幕| 国产午夜精品论理片| 亚洲怡红院男人天堂| 日本欧美国产在线视频| 搞女人的毛片| av在线播放精品| 看片在线看免费视频| 日本猛色少妇xxxxx猛交久久| 久久人妻av系列| 亚洲欧美精品专区久久| 麻豆av噜噜一区二区三区| 国产白丝娇喘喷水9色精品| 日本免费a在线| 国产成人freesex在线| 国产视频首页在线观看| 国产成人freesex在线| av又黄又爽大尺度在线免费看 | 简卡轻食公司| 中文天堂在线官网| 男人的好看免费观看在线视频| 人人妻人人看人人澡| or卡值多少钱| 日韩在线高清观看一区二区三区| 久久久久久大精品| a级一级毛片免费在线观看| 在线免费观看的www视频| 蜜桃久久精品国产亚洲av| 国产爱豆传媒在线观看| 我的女老师完整版在线观看| 男人的好看免费观看在线视频| 国产精品麻豆人妻色哟哟久久 | 身体一侧抽搐| 麻豆久久精品国产亚洲av| 成人特级av手机在线观看| 又爽又黄无遮挡网站| 大话2 男鬼变身卡| 国产亚洲最大av| 国产亚洲一区二区精品| 国产日韩欧美在线精品| 国产精品电影一区二区三区| 精品熟女少妇av免费看| 亚洲中文字幕日韩| 成人漫画全彩无遮挡| 国产v大片淫在线免费观看| 日本免费在线观看一区| 亚洲18禁久久av| 毛片女人毛片| 国产午夜福利久久久久久| 日韩精品有码人妻一区| 亚洲国产欧美人成| 欧美性感艳星| 在线免费观看不下载黄p国产| 尾随美女入室| 亚洲欧洲国产日韩| 午夜福利在线观看吧| 看黄色毛片网站| 成人特级av手机在线观看| 中国美白少妇内射xxxbb| 一级二级三级毛片免费看| 亚洲人成网站在线观看播放| 美女xxoo啪啪120秒动态图| 亚洲国产日韩欧美精品在线观看| 综合色av麻豆| 国产精品国产高清国产av| 亚洲高清免费不卡视频| 欧美潮喷喷水| 嫩草影院精品99| 中国美白少妇内射xxxbb| www.色视频.com| 国产91av在线免费观看| 欧美日韩在线观看h| 亚洲欧美中文字幕日韩二区| 免费看光身美女| 国产精品,欧美在线| 成人鲁丝片一二三区免费| 22中文网久久字幕| 91久久精品国产一区二区成人| 麻豆成人av视频| 欧美成人a在线观看| 亚洲电影在线观看av| 国产中年淑女户外野战色| 91aial.com中文字幕在线观看| 精品久久久久久成人av| 高清日韩中文字幕在线| 久久久久久久久中文| 九九热线精品视视频播放| 国产精品人妻久久久久久| 天美传媒精品一区二区| 国语自产精品视频在线第100页| 最后的刺客免费高清国语| 永久免费av网站大全| 热99re8久久精品国产| 少妇丰满av| 日本一本二区三区精品| 免费播放大片免费观看视频在线观看 | 国产片特级美女逼逼视频| 亚洲av中文字字幕乱码综合| 国产三级在线视频| 国产精品美女特级片免费视频播放器| 成年版毛片免费区| 一边摸一边抽搐一进一小说| 国产精品熟女久久久久浪| 久久久午夜欧美精品| 欧美成人精品欧美一级黄| 黄色配什么色好看| 国产精品久久视频播放| 国产精品乱码一区二三区的特点| 草草在线视频免费看| 亚洲最大成人手机在线| 免费观看精品视频网站| 97人妻精品一区二区三区麻豆| 亚洲国产最新在线播放| 少妇的逼水好多| 国产伦精品一区二区三区视频9| 男人狂女人下面高潮的视频| 中文字幕av成人在线电影| 亚洲aⅴ乱码一区二区在线播放| 欧美变态另类bdsm刘玥| 免费av毛片视频| 国产亚洲av片在线观看秒播厂 | 日韩大片免费观看网站 | 国产一区亚洲一区在线观看| 嫩草影院精品99| 亚洲欧美日韩东京热| 亚洲精品自拍成人| 最后的刺客免费高清国语| 天堂中文最新版在线下载 | 高清在线视频一区二区三区 | 久久久久久久久大av| 国产精品久久久久久精品电影小说 | 国产精品久久久久久精品电影小说 | 嫩草影院新地址| 精品久久久噜噜| .国产精品久久| 在线观看美女被高潮喷水网站| 97超碰精品成人国产| 高清日韩中文字幕在线| 国产成人aa在线观看| 日韩人妻高清精品专区| 日本-黄色视频高清免费观看| 精品人妻熟女av久视频| 国产免费男女视频| АⅤ资源中文在线天堂| 成人亚洲精品av一区二区| 亚洲av男天堂| 国产久久久一区二区三区| 精品久久久久久久久亚洲| 欧美xxxx性猛交bbbb| 九草在线视频观看| 中文字幕久久专区| 亚洲av日韩在线播放| 欧美区成人在线视频| 日韩强制内射视频| av在线老鸭窝| 亚洲av免费在线观看| 日本一本二区三区精品| 国产精品人妻久久久影院| 有码 亚洲区| 午夜免费男女啪啪视频观看| 91精品一卡2卡3卡4卡| 国产男人的电影天堂91| 国产精品三级大全| a级毛片免费高清观看在线播放| 国产精品永久免费网站| 久久欧美精品欧美久久欧美| 亚洲精品影视一区二区三区av| 亚洲中文字幕一区二区三区有码在线看| av女优亚洲男人天堂| 亚洲精品日韩在线中文字幕| 女的被弄到高潮叫床怎么办| 黑人高潮一二区| 中文字幕av在线有码专区| 欧美区成人在线视频| 亚洲精品日韩av片在线观看| 亚洲国产欧美在线一区| 三级毛片av免费| 国产在线男女| 国产成人精品婷婷| 国产精品人妻久久久久久| 一区二区三区四区激情视频| 又爽又黄无遮挡网站| 国产不卡一卡二| 国产精品久久电影中文字幕| 亚洲最大成人av| 伊人久久精品亚洲午夜| 能在线免费看毛片的网站| 国产色婷婷99| 亚洲自偷自拍三级| kizo精华| 卡戴珊不雅视频在线播放| 两性午夜刺激爽爽歪歪视频在线观看| 欧美成人a在线观看| 国产老妇女一区| 欧美激情在线99|