• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    自動駕駛汽車交通肇事之刑事責(zé)任的歸屬路徑

    2022-06-01 16:52:48季金升韓文蕾
    關(guān)鍵詞:自動駕駛人工智能

    季金升 韓文蕾

    [摘要]自動駕駛汽車在給人們帶來便利的同時也引發(fā)了肇事后刑事責(zé)任的歸屬問題?!镀囻{駛自動化分級》推薦性國家標(biāo)準(zhǔn)的發(fā)布標(biāo)志著中國版駕駛自動化分級標(biāo)準(zhǔn)正式確立?;谛谭ǖ淖陨韺傩院同F(xiàn)實意義的考慮,自動駕駛汽車不能成為承擔(dān)刑事責(zé)任的主體。用戶在不同的駕駛場景中擔(dān)任不同角色,未盡到相應(yīng)的安全注意義務(wù)的,承擔(dān)過失責(zé)任。自動駕駛汽車進(jìn)入流通領(lǐng)域前即存在產(chǎn)品缺陷的,生產(chǎn)商不承擔(dān)過失責(zé)任,但應(yīng)對其規(guī)定嚴(yán)格責(zé)任;故意生產(chǎn)不符合安全標(biāo)準(zhǔn)的汽車的,構(gòu)成生產(chǎn)不符合安全標(biāo)準(zhǔn)的產(chǎn)品罪。自動駕駛汽車投入流通后發(fā)現(xiàn)產(chǎn)品缺陷,生產(chǎn)商未盡到監(jiān)督、管理義務(wù)的,應(yīng)以不作為的過失行為追究其刑事責(zé)任。

    [關(guān)鍵詞]《汽車駕駛自動化分級》;人工智能;自動駕駛;注意義務(wù);嚴(yán)格責(zé)任

    [中圖分類號]D924.3[文獻(xiàn)標(biāo)志碼]A[文章編號]2095-0292(2022)02-0045-07

    2021年8月20日,市場監(jiān)管總局(標(biāo)準(zhǔn)委)發(fā)布GB/T 40429-2021《汽車駕駛自動化分級》推薦性國家標(biāo)準(zhǔn)(以下簡稱《分級》),將于2022年3月1日起實施。該標(biāo)準(zhǔn)對汽車駕駛自動化功能的分級問題作了規(guī)定,具體包括相關(guān)術(shù)語和定義、分級原則、技術(shù)要求等。這是我國汽車駕駛自動化發(fā)展過程中的里程碑事件,標(biāo)志著我國即將擁有由官方制定的汽車駕駛自動化分級標(biāo)準(zhǔn)。明確的分級標(biāo)準(zhǔn)將有助于相關(guān)企業(yè)更有針對性地開展研發(fā)工作,也將推動各類自動駕駛汽車的量產(chǎn)進(jìn)程。

    作為人工智能在交通領(lǐng)域的最新應(yīng)用,自動駕駛汽車具有極大的社會價值,能夠“大幅降低交通事故的發(fā)生、緩解交通擁堵、增強(qiáng)人們的移動性、提升時間利用效率” [1](P17-18) 。盡管駕駛自動化技術(shù)日趨成熟,但其廣泛應(yīng)用所帶來的法律問題同樣不容忽視。自動駕駛汽車交通肇事后,各相關(guān)主體的刑事責(zé)任應(yīng)當(dāng)如何劃分與承擔(dān)?對此,學(xué)界存在是否需要修改現(xiàn)行刑法以解決該問題的爭論①。本文認(rèn)為,自動駕駛汽車肇事刑事責(zé)任的歸屬問題并未突破現(xiàn)有的刑事法律規(guī)范與理論。本文擬基于中國版駕駛自動化分級標(biāo)準(zhǔn),對這一論斷進(jìn)行分析,并力求在現(xiàn)行刑事法律規(guī)范內(nèi)尋找針對該問題的解決方案。

    一、問題的背景:駕駛自動化與功能等級

    近年來,隨著技術(shù)研發(fā)的不斷深入,自動駕駛汽車在各方面取得突破性進(jìn)展。但是,對于何謂駕駛自動化,并沒有統(tǒng)一的定義。自市場監(jiān)管總局(標(biāo)準(zhǔn)委)發(fā)布《分級》開始,駕駛自動化的定義及其相關(guān)術(shù)語終于由官方確定下來。所謂駕駛自動化(driving automation),即“車輛以自動的方式持續(xù)地執(zhí)行部分或全部動態(tài)駕駛?cè)蝿?wù)的行為”。

    關(guān)于自動駕駛汽車的技術(shù)等級,目前國內(nèi)外存在一些不同的標(biāo)準(zhǔn),其中國際上所普遍采用的分級標(biāo)準(zhǔn)由國際汽車工程師學(xué)會(SAE)制定國際汽車工程師學(xué)會(SAE)將自動駕駛技術(shù)分為六級,分別是L0無自動化(No Automation)、L1駕駛輔助(Driver Assistance)、L2部分自動化(Partial Automation)、L3有條件的自動駕駛(Conditional Automation)、L4高度自動化(High Automation)、L5完全自動化(Full Automation)。?!斗旨墶返陌l(fā)布,意味著中國終于有了自己的自動駕駛分級標(biāo)準(zhǔn)?;隈{駛自動化分級原則駕駛自動化的分級原則具體包括:(1)駕駛自動化系統(tǒng)能夠執(zhí)行動態(tài)駕駛?cè)蝿?wù)的程度;(2)駕駛自動化系統(tǒng)在執(zhí)行動態(tài)駕駛?cè)蝿?wù)中的角色分配;(3)駕駛自動化系統(tǒng)是否存在設(shè)計運(yùn)行范圍限制。,《分級》將駕駛自動化劃分為6個等級:應(yīng)急輔助(0級)0級駕駛自動化不是無駕駛自動化,而是可感知環(huán)境,并提供提示信息或短暫介入車輛控制以輔助駕駛員避險(如車道偏離預(yù)警、前向碰撞預(yù)警、自動緊急制動、車道偏離抑制等緊急情況下提供的輔助功能)。但是還不具備目標(biāo)和事件探測與響應(yīng)能力的功能(如定速巡航、電子穩(wěn)定性控制等),不在駕駛自動化功能的范圍內(nèi)。、部分駕駛輔助(1級)對于1級駕駛自動化,駕駛員和駕駛自動化系統(tǒng)共同執(zhí)行全部動態(tài)駕駛?cè)蝿?wù),并監(jiān)管駕駛自動化系統(tǒng)的行為和執(zhí)行適當(dāng)?shù)捻憫?yīng)或操作(如車道居中控制、自適應(yīng)巡航控制等功能)。、組合駕駛輔助(2級)2級駕駛自動化和1級駕駛自動化都是駕駛輔助,不同點(diǎn)在于1級無法同時持續(xù)執(zhí)行車輛橫向或縱向運(yùn)動控制。因此,將1級駕駛自動化命名為“部分駕駛輔助”,將2級駕駛自動化命名為“組合駕駛輔助”。、有條件自動駕駛(3級)、高度自動駕駛(4級)、完全自動駕駛(5級),見表1。

    根據(jù)中國版駕駛自動化分級標(biāo)準(zhǔn),雖然從0~5級的整個階段都可以稱為駕駛自動化,但是,0~2級駕駛自動化依然是由駕駛員主導(dǎo)的自動化,駕駛自動化系統(tǒng)只是起輔助作用。3級駕駛自動化是一個具有特殊意義的過渡性階段。進(jìn)入這一階段后,駕駛自動化系統(tǒng)在其設(shè)計運(yùn)行條件內(nèi)可以持續(xù)地執(zhí)行全部動態(tài)駕駛?cè)蝿?wù)(dynamic driving task),但是在系統(tǒng)發(fā)出介入請求和發(fā)生明顯的動態(tài)駕駛?cè)蝿?wù)相關(guān)的車輛故障時,動態(tài)駕駛?cè)蝿?wù)后援用戶必須及時執(zhí)行動態(tài)駕駛?cè)蝿?wù)成為駕駛員。4級、5級駕駛自動化才是以汽車自主行駛為主的真正意義上的自動化。在這兩個等級下,系統(tǒng)可以在其設(shè)計運(yùn)行條件內(nèi)甚至任何可行駛條件下(商業(yè)和法規(guī)因素等限制除外)持續(xù)地執(zhí)行全部動態(tài)駕駛?cè)蝿?wù)并自動執(zhí)行最小風(fēng)險策略(minimal risk maneuver)。換言之,在系統(tǒng)發(fā)出介入請求時,即使用戶不作響應(yīng),系統(tǒng)都能夠自動使車輛事故風(fēng)險達(dá)到可接受的狀態(tài)。

    在起草過程中,中國版駕駛自動化分級標(biāo)準(zhǔn)充分考慮到了國內(nèi)外現(xiàn)有相關(guān)標(biāo)準(zhǔn)的統(tǒng)一和協(xié)調(diào),因而與國際汽車工程師學(xué)會(SAE)的分級標(biāo)準(zhǔn)基本一致,但也有少部分根據(jù)我國國情進(jìn)行了調(diào)整。比如,《分級》將0級駕駛自動化稱之為“應(yīng)急輔助”,而非 SAE 版的“無駕駛自動化”;在3級明確增加了對駕駛員接管能力監(jiān)測和風(fēng)險減緩策略的要求,以減少實際操作中的安全風(fēng)險 [2](P4) 。另外,中國版駕駛自動化分級標(biāo)準(zhǔn)的規(guī)定更加詳細(xì),不僅規(guī)定了駕駛自動化的術(shù)語和定義、分級原則,還規(guī)定了各等級的技術(shù)要求等,因此適用性更強(qiáng),也更加符合中國產(chǎn)業(yè)發(fā)展現(xiàn)狀。本文將立足于中國版駕駛自動化分級標(biāo)準(zhǔn)展開探討。

    二、自動駕駛汽車刑事責(zé)任主體地位問題

    (一)學(xué)界對自動駕駛汽車作為刑事責(zé)任主體的爭議

    當(dāng)自動駕駛汽車交通肇事時,刑法是否應(yīng)追究自動駕駛汽車這個人工智能體的刑事責(zé)任?對該問題的回答決定了在探討自動駕駛汽車交通肇事的刑事責(zé)任承擔(dān)時,是否應(yīng)當(dāng)將自動駕駛汽車納入到討論中來。目前學(xué)界對該問題的爭論甚為激烈,歸納起來主要有肯定說與否定說兩種截然對立的觀點(diǎn)。

    肯定說認(rèn)為,自動駕駛汽車應(yīng)當(dāng)具有刑事責(zé)任主體地位。有學(xué)者從人格責(zé)任出發(fā),主張自動駕駛汽車在其專業(yè)領(lǐng)域范圍內(nèi)可以產(chǎn)生思維能力,從而能夠辨認(rèn)和控制自己的行為,也有一定的自我意識和刑罰感知能力,因而可以通過“永久銷毀”這一刑罰類型來使自動駕駛汽車承擔(dān)刑事責(zé)任[3](P82-84) 。還有學(xué)者主張類比單位擬制人工智能具有刑事主體地位,“將現(xiàn)階段刑法中刑事責(zé)任主體增加為自然人、單位和人工智能體” [4](P111) 。

    否定說與上述觀點(diǎn)相反。有學(xué)者認(rèn)為,當(dāng)前的弱人工智能產(chǎn)品還沒有自我意識或者自我反思的能力,無法區(qū)分不法和罪責(zé),更不能承擔(dān)針對人類設(shè)定的刑罰,因此其實施的純粹物理行為不能被視為與人類行為具有同等意義,不能讓自動駕駛汽車自行承擔(dān)刑事責(zé)任[5](P185) 。還有學(xué)者認(rèn)為,犯罪的行為主體只能是自然人和單位,而自動駕駛汽車既非人類亦非單位;由于自動駕駛汽車缺乏人類的意志,因此通過制裁自動駕駛汽車無法起到防止其再次范圍的效果,有違刑罰的特殊預(yù)防功能 [6](P132) 。因此,自動駕駛汽車不能成為承擔(dān)刑事責(zé)任的主體。

    (二)自動駕駛汽車刑事責(zé)任主體地位之否定

    根據(jù)我國刑法有關(guān)規(guī)定和理論,犯罪主體是指實施危害社會的行為并依法應(yīng)負(fù)刑事責(zé)任的自然人和單位。由此可知,在我國刑法中,犯罪主體只能是自然人和單位。刑法的自身屬性決定了自動駕駛汽車無法具有刑事責(zé)任主體地位。

    1. 刑事責(zé)任能力的欠缺

    “刑事責(zé)任能力是犯罪主體的核心和關(guān)鍵要件” [7](P84) ,可以分為行為辨認(rèn)能力與控制能力。在當(dāng)前弱人工智能背景下,自動駕駛汽車不可能具有自主意識,罔論具有辨認(rèn)和控制自己行為的能力。那么,對于強(qiáng)人工智能而言,該問題的討論是否會有不同的答案?有學(xué)者認(rèn)為,強(qiáng)人工智能產(chǎn)品具有獨(dú)立的辨認(rèn)能力和控制能力,它能夠“在自主意識和意志的支配下獨(dú)立作出決策并實施行為” [8](P92) 。姑且不論未來人類是否有能力制造出來具有強(qiáng)人工智能的自動駕駛汽車,即使能夠制造出來,恐怕也沒有人敢于將自己的生命安全交給一臺能夠脫離程序,具有自主意識的汽車。實際上,與仿生機(jī)器人等強(qiáng)人工智能產(chǎn)品不同,自動駕駛汽車畢竟只是一種交通運(yùn)輸工具,雖然其可能具有一定的自主學(xué)習(xí)能力,但“其有限的自主學(xué)習(xí)不過是程序與算法的預(yù)先設(shè)定,并不是意志自由的體現(xiàn)” [9](P104) 。而且這種能力還被限制在交通運(yùn)輸功能范圍內(nèi),比如辨認(rèn)各種路況、交通標(biāo)志以及控制各種駕駛行為,卻不可能具有完全責(zé)任能力,駕駛員與自動駕駛汽車充其量也只是人和工具的關(guān)系,后者自然不能成為承擔(dān)刑事責(zé)任的主體。

    2. 刑罰功能難以實現(xiàn)

    刑罰功能是指國家制定、適用、執(zhí)行刑罰所直接產(chǎn)生的社會效應(yīng),包括威懾功能、安撫補(bǔ)償功能和教育感化功能等 [10](P518) 。在我國現(xiàn)行刑罰體系下,任何一種刑罰制度對于自動駕駛汽車而言都是毫無意義的。人工智能既無生命也無獨(dú)立財產(chǎn),更沒有類似于人類對于行動自由或財富積累的權(quán)利需求,因此現(xiàn)行刑罰不能對其進(jìn)行有效的處罰 [11](P73) 。有學(xué)者甚至進(jìn)一步提出針對強(qiáng)人工智能產(chǎn)品的刑罰體系初步設(shè)計構(gòu)想,具體包括刪除數(shù)據(jù)、修改程序、永久銷毀三類刑罰 [12](P142) 。但是,刪除數(shù)據(jù)和修改程序本質(zhì)上只是一種修理方式,卻無法被視為一種刑罰措施;另外,駕駛員與自動駕駛汽車只是人和工具的關(guān)系,因此永久銷毀與其說是在處罰自動駕駛汽車,不如說是在處罰人,實際上損害的是自動駕駛汽車用戶的利益,何況自動駕駛汽車并不具備對刑罰之痛苦的感知能力。因此,對于自動駕駛汽車這種人工智能進(jìn)行懲處無法實現(xiàn)刑罰的功能。

    3. 類比單位犯罪之做法的否定

    追究單位刑事責(zé)任的理論根據(jù)在于法人實在說,與個人一樣,法人也屬于現(xiàn)實的社會實體,法人機(jī)構(gòu)及其代表人以法人名義實施的行為應(yīng)視同法人的直接行為,因此法人具有權(quán)利能力和行為能力,可以成為犯罪主體[13](P98) 。單位犯罪是為了單位謀取利益,由單位的決策機(jī)構(gòu)決定,由直接責(zé)任人員實施的,換言之,其本質(zhì)上依然是由自然人進(jìn)行決策并執(zhí)行的行為。我國刑法對單位犯罪的處罰以雙罰制為原則,以單罰制為例外。但是,自動駕駛汽車只是一種工具,其活動受控于人,不需要對其本身適用刑罰;另外,對自動駕駛汽車單獨(dú)處刑不僅存在前述刑罰的痛苦本質(zhì)缺位問題,還可能使得研發(fā)者和提供者推卸社會責(zé)任,不利于未來人工智能系統(tǒng)的發(fā)展[14](P157-158) 。因此,不應(yīng)將自動駕駛汽車認(rèn)定為刑事責(zé)任主體。

    4. “未雨綢繆”理念過于超前

    持肯定說的學(xué)者大都秉持著一種“未雨綢繆”的研究理念,積極探討未來世界的強(qiáng)人工智能乃至超強(qiáng)人工智能給法律帶來的挑戰(zhàn),進(jìn)而提出應(yīng)對之道,以求做到有備無患。但是,既有成果往往過于“關(guān)注人工智能‘未來刑法學(xué)’甚至是‘科幻刑法學(xué)’,桎梏于人工智能的主體化與否,無法有效地為人工智能犯罪的刑法評價與預(yù)防提供理論支撐” [15](P40) 。經(jīng)過近幾年的實際探索,車企逐漸明晰高等級自動駕駛技術(shù)的量產(chǎn)難度,變得更加務(wù)實:當(dāng)前,國內(nèi)主流車企大多已經(jīng)推出2級自動駕駛量產(chǎn)車型實際上,現(xiàn)階段市場上銷售的自動駕駛汽車所搭載的包括車道偏離預(yù)警、前碰撞預(yù)警、自動緊急制動、車輛識別、車道線識別等功能即為2級及以下駕駛自動化,尚未達(dá)到中國版駕駛自動化分級標(biāo)準(zhǔn)對于3級及以上駕駛自動化等級的技術(shù)要求。,鑒于4級自動駕駛技術(shù)所存在的安全、成本、技術(shù)、路權(quán)等難點(diǎn),未來幾年車企將會重點(diǎn)研發(fā)3級自動駕駛技術(shù) [16](P61) ??梢园l(fā)現(xiàn),3級駕駛自動化(有條件自動駕駛)與4級駕駛自動化(高度自動駕駛)之間尚且存在一條“難以逾越的鴻溝”,更不必說更高級的強(qiáng)人工智能產(chǎn)品了,因此上述“未雨綢繆”的理念顯得過于超前,反而給人一種“杞人憂天”之感,實不可取。

    綜上,自動駕駛汽車不能成為承擔(dān)刑事責(zé)任的主體,當(dāng)自動駕駛汽車交通肇事時,刑法不能追究自動駕駛汽車這個人工智能體的刑事責(zé)任,而應(yīng)在現(xiàn)行刑事法律規(guī)范內(nèi),尋求追究其他主體的刑事責(zé)任。

    三、自動駕駛汽車交通肇事的刑事責(zé)任承擔(dān)

    (一)自動駕駛汽車用戶刑事責(zé)任的類型化分析這里僅討論自動駕駛事故中用戶構(gòu)成過失犯罪的問題,不討論用戶故意利用自動駕駛汽車構(gòu)成故意犯罪的情況。

    在汽車駕駛自動化的語境下,用戶(user)是指與駕駛自動化相關(guān)的人類角色的統(tǒng)稱。在駕駛自動化系統(tǒng)激活后,用戶在不同等級的駕駛自動化系統(tǒng)中擔(dān)任的角色不同。具體來說,0~3級駕駛自動化中用戶由傳統(tǒng)/遠(yuǎn)程駕駛員轉(zhuǎn)變?yōu)閯討B(tài)駕駛?cè)蝿?wù)后援用戶,直至4級、5級完全轉(zhuǎn)變?yōu)槌丝突蛘{(diào)度員調(diào)度員(dispatcher),是指在車輛無駕駛員操作的條件下,通過激活駕駛自動化系統(tǒng)以實現(xiàn)車輛調(diào)度服務(wù)但不執(zhí)行動態(tài)駕駛?cè)蝿?wù)的用戶。的角色,見表2。本文以此為根據(jù),把駕駛自動化的功能等級劃分為輔助駕駛場景、有條件自動駕駛場景、自主駕駛場景三種類型,作為探討用戶刑事責(zé)任的基礎(chǔ)。

    1. 輔助駕駛場景下用戶的刑事責(zé)任

    輔助駕駛場景,包括0級駕駛自動化(應(yīng)急輔助)、1級駕駛自動化(部分駕駛輔助)、2級駕駛自動化(組合駕駛輔助)。這是指在駕駛過程中,用戶擁有對汽車駕駛的主導(dǎo)權(quán),駕駛自動化系統(tǒng)僅為駕駛輔助。該場景下,用戶擔(dān)任傳統(tǒng)駕駛員或遠(yuǎn)程駕駛員的角色,需要執(zhí)行全部或者系統(tǒng)沒有執(zhí)行的其余動態(tài)駕駛?cè)蝿?wù),包括駕駛決策、車輛照明及信號裝置控制等。此外,用戶必須監(jiān)管駕駛自動化系統(tǒng),并在需要時介入以確保車輛安全,此時系統(tǒng)應(yīng)當(dāng)立即解除控制權(quán)。

    由于0~2級駕駛自動化并非真正意義上的自動駕駛,因此在此場景下構(gòu)成交通肇事罪與傳統(tǒng)的交通肇事罪并無區(qū)別,即在發(fā)生交通肇事之后,應(yīng)當(dāng)認(rèn)定用戶是否履行了安全駕駛的注意義務(wù),能否構(gòu)成交通肇事罪。如果事后查明事故的發(fā)生是由駕駛自動化系統(tǒng)發(fā)生故障引起的,那么就不能追究用戶的刑事責(zé)任,而應(yīng)具體討論生產(chǎn)者和銷售者的責(zé)任問題。

    2. 有條件自動駕駛場景下用戶的刑事責(zé)任

    有條件自動駕駛場景,即3級駕駛自動化(有條件自動駕駛)。該場景下,在駕駛自動化系統(tǒng)激活前,用戶的角色仍然是駕駛員,有權(quán)決定何時開啟駕駛自動化系統(tǒng),并且在駕駛自動化系統(tǒng)激活后成為動態(tài)駕駛?cè)蝿?wù)后援用戶。當(dāng)收到介入請求時或者發(fā)生車輛其他系統(tǒng)失效時,動態(tài)駕駛?cè)蝿?wù)后援用戶應(yīng)當(dāng)及時執(zhí)行動態(tài)駕駛?cè)蝿?wù)接管。該場景又稱為“人機(jī)混駕”,即用戶與駕駛自動化系統(tǒng)共同駕駛車輛,因此其情形相對較復(fù)雜,需要分情況討論。

    首先,在駕駛員激活駕駛自動化系統(tǒng)之前,需要駕駛員手動駕駛汽車,因此其承擔(dān)的注意義務(wù)與上述駕駛輔助場景下的駕駛員沒有差別。如果駕駛員的行為符合我國《刑法》第133條關(guān)于交通肇事罪的規(guī)定,就能夠以該罪追究其刑事責(zé)任。

    其次,在駕駛員激活駕駛自動化系統(tǒng)后,駕駛自動化系統(tǒng)開啟。雖然此時系統(tǒng)在設(shè)計運(yùn)行條件內(nèi)能夠執(zhí)行全部動態(tài)駕駛?cè)蝿?wù),但是用戶的角色轉(zhuǎn)變?yōu)閯討B(tài)駕駛?cè)蝿?wù)后援用戶,仍然需要保持一定的警覺性。在系統(tǒng)發(fā)出介入請求或出現(xiàn)車輛其他系統(tǒng)失效時,其必須及時執(zhí)行動態(tài)駕駛?cè)蝿?wù)接管,使車輛事故風(fēng)險達(dá)到可接受的狀態(tài)。因此,這種情形下用戶仍然應(yīng)當(dāng)承擔(dān)一定的注意義務(wù)。有學(xué)者將此時用戶的注意義務(wù)歸納為三個方面:一是對自動駕駛汽車的自動駕駛功能進(jìn)行正確操作與使用的義務(wù);二是對自動駕駛汽車的接管義務(wù);三是對自動駕駛汽車的警覺義務(wù)[17]。如果用戶因違反上述注意義務(wù)而引發(fā)重大交通事故的,應(yīng)當(dāng)承擔(dān)刑事責(zé)任。

    自動駕駛汽車未發(fā)出介入請求而發(fā)生重大交通事故時,用戶是否應(yīng)當(dāng)承擔(dān)刑事責(zé)任?有學(xué)者認(rèn)為,在HA(高度自動駕駛)等級該學(xué)者在文章中討論相關(guān)問題時,采用的是我國國家制造強(qiáng)國建設(shè)戰(zhàn)略咨詢委員會制定的自動駕駛汽車等級劃分標(biāo)準(zhǔn),分為DA、PA、HA、FA四個等級,因此這里的HA(高度自動駕駛)等級實際上對應(yīng)的是3級駕駛自動化(有條件自動駕駛)。的自動駕駛汽車發(fā)出警報之前,駕駛?cè)瞬⒉恍枰P(guān)注汽車的駕駛安全問題,因此也就沒有安全注意義務(wù)和結(jié)果回避義務(wù),如果發(fā)生了交通事故,不能追究駕駛?cè)说男淌仑?zé)任 [18](P126) 。本文不贊同這種觀點(diǎn)。根據(jù)《分級》,在有條件自動駕駛場景下,駕駛自動化系統(tǒng)激活后,雖然動態(tài)駕駛?cè)蝿?wù)后援用戶可將視線轉(zhuǎn)移至非駕駛相關(guān)的活動,但仍需保持一定的警覺性。對明顯的外部刺激(如:救護(hù)車警笛等)進(jìn)行適當(dāng)?shù)捻憫?yīng),決定是否以及如何實現(xiàn)最小風(fēng)險狀態(tài),并判斷是否達(dá)到最小風(fēng)險狀態(tài)。換言之,在駕駛自動化系統(tǒng)發(fā)出介入請求之前,用戶需要關(guān)注汽車的駕駛安全。即使系統(tǒng)未發(fā)出介入請求,用戶也應(yīng)當(dāng)履行自己的安全駕駛注意義務(wù),否則就要承擔(dān)相應(yīng)的責(zé)任。

    當(dāng)然,這并非是對用戶規(guī)定嚴(yán)格責(zé)任,否則駕駛自動化就失去了存在的意義。這里要求的是,在駕駛自動化系統(tǒng)未發(fā)出介入請求的情況下,如果用戶已經(jīng)預(yù)見到系統(tǒng)失效卻未及時執(zhí)行動態(tài)駕駛?cè)蝿?wù)接管,以致引發(fā)重大交通事故,就可以構(gòu)成過失犯罪。值得注意的是,這里的用戶在本身存在重大過失時才能夠承擔(dān)過失責(zé)任。因為在有條件自動駕駛場景下,應(yīng)當(dāng)允許用戶對駕駛自動化系統(tǒng)保留合理信賴,在駕駛時保持“一定”警惕而非“高度”警惕,因此這里可以排除成立疏忽大意的過失,而考慮是否成立過于自信的過失。至于系統(tǒng)未發(fā)出介入請求而發(fā)生交通事故,自動駕駛汽車的生產(chǎn)商(包括研發(fā)者和生產(chǎn)者)是否應(yīng)當(dāng)承擔(dān)刑事責(zé)任,將在下文進(jìn)行討論。

    值得注意的是,駕駛自動化系統(tǒng)在發(fā)出介入請求后,需要繼續(xù)執(zhí)行動態(tài)駕駛?cè)蝿?wù)一定的時間供動態(tài)駕駛?cè)蝿?wù)后援用戶接管。如果系統(tǒng)發(fā)出介入請求的時間與發(fā)生交通事故的時間間隔過短,即使用戶能夠及時執(zhí)行動態(tài)駕駛?cè)蝿?wù)接管,也無法避免交通事故的發(fā)生,那么此時用戶因不具有結(jié)果回避可能性從而缺乏注意義務(wù),也就不能追究其刑事責(zé)任。關(guān)于自動駕駛汽車的生產(chǎn)商的責(zé)任承擔(dān)問題,將在下文中一并分析。

    3. 自主駕駛場景下用戶的刑事責(zé)任

    自主駕駛場景,包括4級駕駛自動化(高度自動駕駛)、5級駕駛自動化(完全自動駕駛)。該場景下,在駕駛自動化系統(tǒng)激活前,用戶的角色是駕駛員或調(diào)度員,有權(quán)決定是否開啟駕駛自動化系統(tǒng),并且在駕駛自動化系統(tǒng)激活后成為乘客或調(diào)度員。這時用戶無須執(zhí)行動態(tài)駕駛?cè)蝿?wù)或接管,也無須決定是否及如何實現(xiàn)最小風(fēng)險狀態(tài),且不需要判斷是否達(dá)到最小風(fēng)險狀態(tài)。在系統(tǒng)發(fā)出介入請求時,即使乘客沒有響應(yīng),系統(tǒng)也可以自動執(zhí)行風(fēng)險減緩策略并最終使車輛事故風(fēng)險達(dá)到可接受的狀態(tài)。

    在駕駛自動化系統(tǒng)激活前,自主駕駛場景下用戶的刑事責(zé)任承擔(dān)與上述兩種場景下的駕駛員并無區(qū)別,在此不再贅述。在駕駛自動化系統(tǒng)激活后,用戶就不再承擔(dān)任何動態(tài)駕駛?cè)蝿?wù)和動態(tài)駕駛?cè)蝿?wù)接管,其注意義務(wù)已被轉(zhuǎn)移給駕駛自動化系統(tǒng),自然不需要承擔(dān)相關(guān)刑事責(zé)任。不過,這并不意味著完全排除用戶承擔(dān)過失犯罪刑事責(zé)任的可能性,用戶仍然擔(dān)負(fù)著正確使用駕駛自動化功能的注意義務(wù)。比如,在駕駛自動化系統(tǒng)激活前,用戶必須確認(rèn)裝備駕駛自動化系統(tǒng)的車輛狀態(tài)是否可以使用。如果用戶未經(jīng)確認(rèn)即開啟駕駛自動化系統(tǒng),導(dǎo)致系統(tǒng)錯誤介入擾亂車輛正常行駛而發(fā)生重大交通事故,則應(yīng)當(dāng)承擔(dān)刑事責(zé)任。

    (二)自動駕駛汽車生產(chǎn)商的刑事責(zé)任

    目前為止,人工智能還只是一個輔助工具,“自動駕駛的侵權(quán)問題,歸根結(jié)底還是可以在自動駕駛方案的提供者、汽車廠商或者使用者之間進(jìn)行歸責(zé)而解決” [19](P44) 。如上所述,自動駕駛汽車不能成為承擔(dān)刑事責(zé)任的主體,上文也已經(jīng)討論了用戶(使用者)的刑事責(zé)任問題。自動駕駛汽車交通肇事后,如何追究“背后主體”的刑事責(zé)任,成為學(xué)界討論的熱點(diǎn)問題。

    1. 自動駕駛汽車進(jìn)入流通領(lǐng)域前存在產(chǎn)品缺陷的情況

    自動駕駛汽車因本身存在產(chǎn)品缺陷引發(fā)交通事故后,對于能否追究生產(chǎn)商的刑事責(zé)任,學(xué)界存在一定的爭論??隙ㄕ撜哒J(rèn)為,生產(chǎn)商具有風(fēng)險控制義務(wù),在自動駕駛汽車尚未進(jìn)入流通領(lǐng)域時應(yīng)當(dāng)進(jìn)行全面完善的實質(zhì)檢查,如因過失未履行該義務(wù)而導(dǎo)致發(fā)生交通事故的,生產(chǎn)商應(yīng)當(dāng)承擔(dān)交通肇事罪的刑事責(zé)任 [20](P76) 。否定論者認(rèn)為,由于自動駕駛汽車的設(shè)計者、生產(chǎn)者和銷售者“對具體的駕駛違章行為所致具體肇事結(jié)果不可能預(yù)見和避免,無法對具體肇事結(jié)果產(chǎn)生注意義務(wù),因而不能構(gòu)成交通肇事罪” [21](P36) 。

    本文贊成否定說?!斑^失犯的注意義務(wù)并非一般的、抽象的注意義務(wù)” [5](P186) ,而是對某一具體行為所導(dǎo)致的具體結(jié)果的注意義務(wù)。在研發(fā)和生產(chǎn)過程中,生產(chǎn)商無法預(yù)見到自動駕駛汽車進(jìn)入流通領(lǐng)域后可能發(fā)生的所有意外情況,也就無法在研發(fā)生產(chǎn)過程中編寫毫無漏洞的程序運(yùn)行規(guī)則。在駕駛過程中,只有用戶可能對某一具體的肇事行為及肇事結(jié)果具有預(yù)見和避免的可能性,而生產(chǎn)商不具有這種可能性,也就無法認(rèn)定其存在預(yù)見和避免義務(wù)。因此,在進(jìn)入流通領(lǐng)域前,如果生產(chǎn)商生產(chǎn)的自動駕駛汽車符合國家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn),即使發(fā)生了上述無法預(yù)見的意外情況,也無法認(rèn)定生產(chǎn)商違反注意義務(wù),更不能追究其過失責(zé)任。但是,如果生產(chǎn)商故意生產(chǎn)不符合保障人身、財產(chǎn)安全的國家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)的自動駕駛汽車,造成嚴(yán)重后果的,應(yīng)當(dāng)以生產(chǎn)不符合安全標(biāo)準(zhǔn)的產(chǎn)品罪追究其刑事責(zé)任。

    自動駕駛汽車的生產(chǎn)商都是擁有人工智能技術(shù)的大型車企,從經(jīng)濟(jì)效益和未來發(fā)展等各方面考慮,基本上都不可能故意生產(chǎn)不符合安全標(biāo)準(zhǔn)的自動駕駛汽車,因此自動駕駛汽車本身的產(chǎn)品缺陷幾乎只能存在于生產(chǎn)商因過失而生產(chǎn)的不合格產(chǎn)品之上,但是對該種過失行為,現(xiàn)行刑法并無對應(yīng)的罪名進(jìn)行規(guī)制,此時被害人的權(quán)益就無法得到保障。本文認(rèn)為,可以考慮對自動駕駛汽車的生產(chǎn)商規(guī)定嚴(yán)格責(zé)任,使得生產(chǎn)商在研發(fā)生產(chǎn)過程中嚴(yán)格遵守操作規(guī)范,生產(chǎn)符合安全標(biāo)準(zhǔn)的自動駕駛汽車,防止生產(chǎn)商辯稱自己存在過失而逃脫罪責(zé),以維護(hù)被害人權(quán)益。當(dāng)然,嚴(yán)格責(zé)任并非絕對責(zé)任,如果生產(chǎn)商能夠證明其研發(fā)生產(chǎn)的自動駕駛汽車符合相關(guān)的安全標(biāo)準(zhǔn)(如GB/T 40429-2021《汽車駕駛自動化分級》推薦性國家標(biāo)準(zhǔn)),即使發(fā)生了難以預(yù)見的損害后果,也可以免除生產(chǎn)商的刑事責(zé)任。

    2. 自動駕駛汽車投入流通后發(fā)現(xiàn)產(chǎn)品缺陷的情況

    在自動駕駛汽車投入流通后,生產(chǎn)商應(yīng)當(dāng)持續(xù)關(guān)注汽車運(yùn)行情況。一旦發(fā)現(xiàn)汽車存在缺陷的,應(yīng)當(dāng)及時采取警示、召回等補(bǔ)救措施。進(jìn)行這種監(jiān)督和管理,是生產(chǎn)商的義務(wù),這種義務(wù)來源于監(jiān)督過失理論。

    監(jiān)督過失理論源自20世紀(jì)60年代的日本,是指“某人因過失直接造成法益侵害結(jié)果后,對負(fù)有應(yīng)對該人予以監(jiān)督之義務(wù)的人追究過失責(zé)任” [22](P42-42) 。有學(xué)者認(rèn)為,生產(chǎn)商對使用者應(yīng)當(dāng)如何使用汽車不存在過失犯罪的監(jiān)督、管理義務(wù),正如工業(yè)機(jī)器的生產(chǎn)商也不可能對購買者安全地使用機(jī)器具有監(jiān)督、管理義務(wù)一樣 [21](P42-43) 。本文不贊同這種觀點(diǎn),因為自動駕駛汽車這種人工智能產(chǎn)品不同于工業(yè)機(jī)器。如上所述,在交通運(yùn)輸功能范圍內(nèi),自動駕駛汽車可能具有一定的自主學(xué)習(xí)能力,它能夠自動更新升級。因此,在自動駕駛汽車投入流通后,一旦發(fā)現(xiàn)汽車存在缺陷的,生產(chǎn)商有義務(wù)進(jìn)行警示和召回。如果生產(chǎn)商未盡到上述義務(wù)以致造成重大交通事故的,應(yīng)當(dāng)對損害結(jié)果承擔(dān)過失責(zé)任。

    四、結(jié)語

    未來已來,世界正處于方興未艾的人工智能時代,自動駕駛汽車的出現(xiàn)和發(fā)展給人們的生活帶來便利的同時,也伴隨著一系列風(fēng)險。就自動駕駛汽車交通肇事而言,賦予車輛刑事責(zé)任主體地位,與刑法自身屬性不符,而且過于超前,尚不具有現(xiàn)實意義。我們不能盲目開展“泛人工智能化研究” [23](P121) ,而應(yīng)當(dāng)立足于基本刑法理論,尋求在實體法體系內(nèi)追究自動駕駛交通肇事相關(guān)主體的刑事責(zé)任。對于自動駕駛汽車的用戶而言,主要根據(jù)其在不同場景下是否盡到相應(yīng)的注意義務(wù)來判斷其刑事責(zé)任。至于自動駕駛汽車的生產(chǎn)商,除非故意生產(chǎn)不符合安全標(biāo)準(zhǔn)的自動駕駛汽車可能構(gòu)成生產(chǎn)不符合安全標(biāo)準(zhǔn)的產(chǎn)品罪外,由于自動駕駛汽車本身存在產(chǎn)品缺陷而引發(fā)交通事故的,不應(yīng)以交通肇事罪定罪處罰。但應(yīng)對生產(chǎn)商適用嚴(yán)格責(zé)任,以增強(qiáng)其社會責(zé)任感,維護(hù)被害人權(quán)益。另外,根據(jù)監(jiān)督過失理論,在自動駕駛汽車投入流通后,生產(chǎn)商仍然需要承擔(dān)一定的監(jiān)督和管理義務(wù),若因未盡到上述義務(wù)以致引發(fā)重大交通事故,則應(yīng)刺破駕駛自動化系統(tǒng)面紗,追究生產(chǎn)商的刑事責(zé)任。

    [參考文獻(xiàn)]

    [1]鄭志峰.自動駕駛汽車的交通事故侵權(quán)責(zé)任[J].法學(xué),2018(4).

    [2]陳建中,吳發(fā)勇,王建偉.自動駕駛系統(tǒng)量產(chǎn)測試評價體系探究[J].中國汽車,2020(8).

    [3]程龍.自動駕駛車輛交通肇事的刑法規(guī)制[J].學(xué)術(shù)交流,2018(4).

    [4]馬治國,田小楚.論人工智能體刑法適用之可能性[J].華中科技大學(xué)學(xué)報:社會科學(xué)版,2018(2).

    [5]江溯.自動駕駛汽車對法律的挑戰(zhàn)[J].中國法律評論,2018(2).

    [6]王德政.人工智能時代的刑法關(guān)切:自動駕駛汽車造成的犯罪及其認(rèn)定[J].重慶大學(xué)學(xué)報:社會科學(xué)版,2020(3).

    [7]高銘暄,馬克昌.刑法學(xué):第八版[M].北京:北京大學(xué)出版社,2017.

    [8]劉憲權(quán).人工智能時代的刑事責(zé)任演變:昨天、今天、明天[J].法學(xué),2019(1).

    [9]王瑩.法律如何可能?——自動駕駛技術(shù)風(fēng)險場景之法律透視[J].法制與社會發(fā)展,2019(6).

    [10]張明楷.刑法學(xué):第五版[M].北京:法律出版社,2016.

    [11]時方.人工智能刑事主體地位之否定[J].法律科學(xué)(西北政法大學(xué)學(xué)報),2018(6).

    [12]劉憲權(quán).人工智能時代的“內(nèi)憂”“外患”與刑事責(zé)任[J].東方法學(xué),2018(1).

    [13]周光權(quán).刑法總論:第三版[M].北京:中國人民大學(xué)出版社,2016.

    [14]皮勇.人工智能刑事法治的基本問題[J].比較法研究,2018(5).

    [15]于沖.刑事合規(guī)視野下人工智能的刑法評價進(jìn)路[J].環(huán)球法律評論,2019(6).

    [16]張男.中國高級自動駕駛產(chǎn)業(yè)發(fā)展六大趨勢(2020-2023)[J].智能網(wǎng)聯(lián)汽車,2020(4).

    [17]龍敏.自動駕駛交通肇事刑事責(zé)任的認(rèn)定與分配[J].華東政法大學(xué)學(xué)報,2018(6).

    [18]牛天寶.通過現(xiàn)有規(guī)范解決自動駕駛汽車肇事之刑事責(zé)任歸屬問題[J].法學(xué)雜志,2020(3).

    [19]莊永廉,黃京平,高艷東,鐘福雄,劉傳稿.人工智能與刑事法治的未來[J].人民檢察,2018(1).

    [20]盧有學(xué),竇澤正.論刑法如何對自動駕駛進(jìn)行規(guī)制——以交通肇事罪為視角[J].學(xué)術(shù)交流,2018(4).

    [21]周銘川.論自動駕駛汽車交通肇事的刑事責(zé)任[J].上海交通大學(xué)學(xué)報:哲學(xué)社會科學(xué)版,2019(1).

    [22][日]前田雅英.刑法總論講義:第六版[M].曾文科,譯.北京:北京大學(xué)出版社,2017.

    [23]劉艷紅.人工智能法學(xué)研究的反智化批判[J].東方法學(xué),2019(5).

    The Path of Attribution of Criminal Liability for

    Traffic Accidents Caused by Self-Driving VehiclesJI Jin-sheng HAN Wen-lei

    (1.China-EU School of Law, China University of Political?Science and Law, Beijing 100088, China;

    2.School of Public Policy and?Administration, Northwestern Polytechnical University, Xi’an 710129, China)

    Abstract:Self-driving vehicle brings convenience to people while causing the identification and attribution of criminal responsibility after causing accidents. The release of the "Taxonomy of Driving Automation for Vehicles" (recommended national standard) marks that the Chinese version of the automatic driving classification standard is formally established. Based on the consideration of the criminal law's own attributes and practical significance, the self-driving vehicle can not be the subject of criminal responsibility. Users play different roles in different driving scenes and fail to fulfill the corresponding safety care obligations shall be liable for negligence. Before the self-driving vehicle enters the circulation area, there are product defects and the producer does not undertake the fault liability. However, the producer should be strictly responsible for its provisions. The intentional production of vehicles that do not meet the safety standards constitutes the crime of producing products that do not meet the safety standards. If the self-driving vehicle is found to be defective after the product is put into circulation, the manufacturer fails to fulfill his obligations of supervision and management. He shall be prosecuted for his criminal liability in the negligence act of omission.

    Key words:Taxonomy of Driving Automation for Vehicles; artificial intelligence; self-driving; duty of care; strict liability

    [責(zé)任編輯孫蘭瑛]

    猜你喜歡
    自動駕駛人工智能
    我校新增“人工智能”本科專業(yè)
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    “自動駕駛”熱潮背后的擔(dān)心和疑慮
    汽車周刊(2017年5期)2017-06-06 14:02:49
    汽車自動駕駛的發(fā)展
    基于自動駕駛下的車道規(guī)劃對交通擁堵的改善
    LTE—V車路通信技術(shù)淺析與探討
    移動通信(2016年24期)2017-03-04 22:12:26
    特斯拉默默更改了官網(wǎng)上“自動駕駛”的說明
    家用汽車(2016年9期)2016-11-04 15:04:44
    下一幕,人工智能!
    全区人妻精品视频| 成人国产综合亚洲| 此物有八面人人有两片| 亚洲专区中文字幕在线| 美女高潮喷水抽搐中文字幕| 午夜福利在线观看吧| 国产精品久久久久久久久免 | 免费看日本二区| 天堂av国产一区二区熟女人妻| 国产精品98久久久久久宅男小说| 久久精品国产亚洲av香蕉五月| 18禁美女被吸乳视频| 国产中年淑女户外野战色| 天堂网av新在线| 中文亚洲av片在线观看爽| 一区福利在线观看| 国产精品久久视频播放| 最近最新中文字幕大全电影3| 亚洲色图av天堂| av国产免费在线观看| 偷拍熟女少妇极品色| 国产欧美日韩一区二区精品| 波多野结衣巨乳人妻| 中文亚洲av片在线观看爽| 色综合亚洲欧美另类图片| 偷拍熟女少妇极品色| 99热6这里只有精品| 精品久久久久久久人妻蜜臀av| 色哟哟哟哟哟哟| 日韩欧美三级三区| 亚洲成av人片免费观看| 国产又黄又爽又无遮挡在线| 亚洲一区二区三区色噜噜| 丰满人妻一区二区三区视频av | 久久精品亚洲精品国产色婷小说| 97人妻精品一区二区三区麻豆| 国产精品精品国产色婷婷| 狂野欧美白嫩少妇大欣赏| 啦啦啦韩国在线观看视频| 国产一区二区三区视频了| 高清日韩中文字幕在线| 美女cb高潮喷水在线观看| 精品久久久久久成人av| 午夜两性在线视频| www.999成人在线观看| 高清毛片免费观看视频网站| 欧美一级a爱片免费观看看| 成年女人看的毛片在线观看| 美女高潮喷水抽搐中文字幕| 国产淫片久久久久久久久 | 中文字幕久久专区| 国产久久久一区二区三区| 久久久久国内视频| 日韩有码中文字幕| 性欧美人与动物交配| av黄色大香蕉| 看免费av毛片| 免费av观看视频| 波野结衣二区三区在线 | 久久天躁狠狠躁夜夜2o2o| 欧美在线一区亚洲| 亚洲国产精品合色在线| 中亚洲国语对白在线视频| 麻豆国产97在线/欧美| 国产精品一区二区三区四区免费观看 | 18+在线观看网站| 亚洲欧美日韩东京热| 久久精品国产综合久久久| 亚洲va日本ⅴa欧美va伊人久久| 一个人看视频在线观看www免费 | 91在线精品国自产拍蜜月 | 欧美日本视频| 国产在视频线在精品| 在线视频色国产色| 国产成人系列免费观看| 丁香欧美五月| www日本黄色视频网| 国产精品av视频在线免费观看| av国产免费在线观看| 美女黄网站色视频| 国产亚洲欧美在线一区二区| 长腿黑丝高跟| 俄罗斯特黄特色一大片| 日韩av在线大香蕉| 亚洲人成电影免费在线| 99久久综合精品五月天人人| 高潮久久久久久久久久久不卡| 无限看片的www在线观看| 岛国在线观看网站| 亚洲中文字幕一区二区三区有码在线看| 午夜福利高清视频| 日韩欧美精品v在线| www日本黄色视频网| 两个人的视频大全免费| av福利片在线观看| 欧美日韩综合久久久久久 | 国产一区二区三区视频了| 午夜影院日韩av| 深爱激情五月婷婷| 欧洲精品卡2卡3卡4卡5卡区| 不卡一级毛片| 国产精品日韩av在线免费观看| 国产精品嫩草影院av在线观看 | 精品久久久久久久末码| 中文字幕久久专区| 亚洲自拍偷在线| 免费大片18禁| 欧洲精品卡2卡3卡4卡5卡区| 国产高潮美女av| 欧美性猛交黑人性爽| 非洲黑人性xxxx精品又粗又长| 日日摸夜夜添夜夜添小说| ponron亚洲| 长腿黑丝高跟| 成年女人毛片免费观看观看9| 国产探花极品一区二区| 国产高清激情床上av| а√天堂www在线а√下载| 亚洲欧美精品综合久久99| 国内精品一区二区在线观看| 美女高潮喷水抽搐中文字幕| 可以在线观看的亚洲视频| 日韩欧美在线乱码| 成人三级黄色视频| 男插女下体视频免费在线播放| 亚洲av成人精品一区久久| 国产高潮美女av| 久久久精品欧美日韩精品| 夜夜夜夜夜久久久久| 亚洲欧美日韩东京热| 九九久久精品国产亚洲av麻豆| a在线观看视频网站| 欧美一级a爱片免费观看看| 每晚都被弄得嗷嗷叫到高潮| 国产精品精品国产色婷婷| 少妇的丰满在线观看| 手机成人av网站| 国产91精品成人一区二区三区| 国产成人影院久久av| 中文字幕久久专区| 搡老岳熟女国产| 久久精品91无色码中文字幕| 精品久久久久久久人妻蜜臀av| 亚洲美女黄片视频| 免费看十八禁软件| 日韩欧美在线乱码| 香蕉av资源在线| 国产精华一区二区三区| 色综合婷婷激情| 美女主播在线视频| 亚洲国产精品成人久久小说| 少妇的逼水好多| 久久99精品国语久久久| 国产精品久久视频播放| 80岁老熟妇乱子伦牲交| 看非洲黑人一级黄片| 一区二区三区免费毛片| 18+在线观看网站| 3wmmmm亚洲av在线观看| 好男人在线观看高清免费视频| 亚洲国产日韩欧美精品在线观看| 99热网站在线观看| 国产精品一二三区在线看| 国产精品一区二区三区四区免费观看| 有码 亚洲区| 三级国产精品片| 欧美不卡视频在线免费观看| 国产精品日韩av在线免费观看| 国产一级毛片在线| 国产高潮美女av| 综合色丁香网| 亚洲av成人精品一区久久| 国产高潮美女av| 欧美日韩视频高清一区二区三区二| 欧美 日韩 精品 国产| 欧美日韩一区二区视频在线观看视频在线 | 深夜a级毛片| 一级毛片我不卡| 久久精品熟女亚洲av麻豆精品 | 熟女人妻精品中文字幕| 网址你懂的国产日韩在线| 国产精品一及| 啦啦啦啦在线视频资源| 成年女人看的毛片在线观看| 午夜亚洲福利在线播放| 欧美潮喷喷水| 日韩精品有码人妻一区| 国产精品一区www在线观看| 欧美+日韩+精品| 99久久精品热视频| 少妇人妻精品综合一区二区| 夫妻性生交免费视频一级片| 噜噜噜噜噜久久久久久91| 欧美极品一区二区三区四区| 亚洲精品日韩在线中文字幕| 能在线免费看毛片的网站| 国产激情偷乱视频一区二区| 亚洲av.av天堂| 午夜激情福利司机影院| 日本-黄色视频高清免费观看| 色综合站精品国产| 老师上课跳d突然被开到最大视频| 午夜福利高清视频| 一本久久精品| 十八禁网站网址无遮挡 | 国产又色又爽无遮挡免| 久久久久久久久久黄片| 亚洲精品中文字幕在线视频 | 久久6这里有精品| av在线老鸭窝| 欧美日韩精品成人综合77777| 2021少妇久久久久久久久久久| 色5月婷婷丁香| 亚洲综合色惰| 91精品国产九色| 夜夜看夜夜爽夜夜摸| 夫妻午夜视频| 极品少妇高潮喷水抽搐| 少妇人妻一区二区三区视频| 午夜爱爱视频在线播放| 最近中文字幕2019免费版| 久久久久久久午夜电影| 十八禁国产超污无遮挡网站| 婷婷色综合大香蕉| 久久精品夜色国产| 在线天堂最新版资源| 美女xxoo啪啪120秒动态图| 国产乱人偷精品视频| 精品人妻偷拍中文字幕| 一级毛片我不卡| 久久久久免费精品人妻一区二区| 欧美精品国产亚洲| 欧美成人精品欧美一级黄| 亚洲第一区二区三区不卡| 国产av国产精品国产| 黄色欧美视频在线观看| 亚洲av.av天堂| 久久精品久久久久久久性| 欧美日韩一区二区视频在线观看视频在线 | av又黄又爽大尺度在线免费看| 成年免费大片在线观看| 纵有疾风起免费观看全集完整版 | 免费av观看视频| 高清日韩中文字幕在线| 欧美日韩亚洲高清精品| 日韩av在线免费看完整版不卡| 大片免费播放器 马上看| 国产又色又爽无遮挡免| 九色成人免费人妻av| 亚洲精品国产av蜜桃| av网站免费在线观看视频 | 国产伦理片在线播放av一区| 精品久久国产蜜桃| 免费少妇av软件| 美女大奶头视频| 五月天丁香电影| 欧美激情久久久久久爽电影| 国产高清国产精品国产三级 | 亚洲人成网站在线播| 国产永久视频网站| 亚洲欧美清纯卡通| 久久久久久久久久久免费av| 一级毛片久久久久久久久女| 国产激情偷乱视频一区二区| 欧美精品国产亚洲| 日本一本二区三区精品| 亚洲av.av天堂| 欧美 日韩 精品 国产| 日韩av不卡免费在线播放| 亚洲综合精品二区| 色综合色国产| 一区二区三区四区激情视频| 日韩成人伦理影院| 色综合站精品国产| 成人欧美大片| 又粗又硬又长又爽又黄的视频| 三级国产精品片| 亚洲av日韩在线播放| 久久韩国三级中文字幕| 日韩国内少妇激情av| 精品久久久久久久久av| 亚洲在线观看片| 久久精品久久久久久噜噜老黄| 三级毛片av免费| 亚洲欧美精品自产自拍| 午夜福利视频精品| www.av在线官网国产| 国产精品爽爽va在线观看网站| 国产综合懂色| 久久精品国产自在天天线| 日韩一区二区三区影片| 在线观看av片永久免费下载| 毛片女人毛片| 美女脱内裤让男人舔精品视频| 日本免费a在线| 天堂av国产一区二区熟女人妻| 免费av毛片视频| 久久久久久久大尺度免费视频| 亚洲精品久久久久久婷婷小说| 高清欧美精品videossex| 成年版毛片免费区| 日韩av在线大香蕉| 九草在线视频观看| 国产黄色小视频在线观看| 亚洲丝袜综合中文字幕| 中文精品一卡2卡3卡4更新| 高清在线视频一区二区三区| 国产精品av视频在线免费观看| 成人二区视频| 亚洲精品日韩av片在线观看| 国产单亲对白刺激| 国产精品无大码| 国产美女午夜福利| 两个人的视频大全免费| 成年人午夜在线观看视频 | 一个人观看的视频www高清免费观看| 日韩在线高清观看一区二区三区| 国产精品爽爽va在线观看网站| 青春草视频在线免费观看| 99久久精品热视频| 国产乱人偷精品视频| 久久久久精品久久久久真实原创| 久热久热在线精品观看| 国产一区二区三区av在线| 免费黄色在线免费观看| 身体一侧抽搐| 亚洲四区av| 国产高清不卡午夜福利| 午夜老司机福利剧场| 国内精品一区二区在线观看| 成人午夜高清在线视频| 伦理电影大哥的女人| 最近中文字幕高清免费大全6| 中国美白少妇内射xxxbb| 九色成人免费人妻av| 一级爰片在线观看| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 国产成人精品一,二区| 婷婷六月久久综合丁香| 伊人久久国产一区二区| 日本wwww免费看| 久久久久久久大尺度免费视频| 国产精品无大码| 久久99热6这里只有精品| 亚洲av中文av极速乱| 久久久色成人| 国产精品一区二区性色av| 日韩欧美精品免费久久| 国产老妇女一区| 欧美成人一区二区免费高清观看| 欧美最新免费一区二区三区| 大片免费播放器 马上看| 白带黄色成豆腐渣| 国产成人a∨麻豆精品| 国产一区二区三区综合在线观看 | 国产一区二区亚洲精品在线观看| a级一级毛片免费在线观看| 亚洲av成人av| 成人午夜精彩视频在线观看| 欧美另类一区| 午夜视频国产福利| 美女xxoo啪啪120秒动态图| 中国美白少妇内射xxxbb| 18禁在线播放成人免费| 看免费成人av毛片| 91精品伊人久久大香线蕉| 看十八女毛片水多多多| 亚洲婷婷狠狠爱综合网| 国产精品久久久久久久电影| 久久国内精品自在自线图片| 三级国产精品欧美在线观看| 最近2019中文字幕mv第一页| 午夜日本视频在线| 婷婷色av中文字幕| 亚洲精品成人久久久久久| 男人狂女人下面高潮的视频| 最新中文字幕久久久久| 高清毛片免费看| 日韩精品有码人妻一区| 亚洲天堂国产精品一区在线| 国产精品一及| 十八禁国产超污无遮挡网站| 床上黄色一级片| 国产伦精品一区二区三区四那| 国产黄a三级三级三级人| 可以在线观看毛片的网站| 亚洲av成人av| 18+在线观看网站| 成人漫画全彩无遮挡| 国产精品不卡视频一区二区| 一夜夜www| 日本熟妇午夜| 91精品伊人久久大香线蕉| av天堂中文字幕网| 高清欧美精品videossex| 寂寞人妻少妇视频99o| 午夜精品在线福利| 中文天堂在线官网| 天堂俺去俺来也www色官网 | 少妇熟女欧美另类| 97人妻精品一区二区三区麻豆| 嘟嘟电影网在线观看| 美女大奶头视频| 亚洲精品国产av蜜桃| 亚洲国产av新网站| 亚洲天堂国产精品一区在线| 少妇的逼好多水| 99久久精品一区二区三区| 欧美另类一区| 亚洲伊人久久精品综合| 国产在视频线在精品| 亚州av有码| 免费人成在线观看视频色| 久久久久久久午夜电影| 人妻一区二区av| 午夜亚洲福利在线播放| 老司机影院毛片| 国产亚洲av嫩草精品影院| 午夜福利网站1000一区二区三区| 51国产日韩欧美| 亚洲乱码一区二区免费版| 亚洲国产成人一精品久久久| 99久久中文字幕三级久久日本| 国产免费又黄又爽又色| 嫩草影院精品99| 国产伦在线观看视频一区| 搡老妇女老女人老熟妇| 久久久久久久久久久免费av| 亚洲四区av| 中文字幕av成人在线电影| 久久99热6这里只有精品| 精品久久久久久久久亚洲| 熟妇人妻不卡中文字幕| 爱豆传媒免费全集在线观看| 看黄色毛片网站| 偷拍熟女少妇极品色| 日韩国内少妇激情av| 嫩草影院入口| 欧美xxⅹ黑人| 麻豆乱淫一区二区| 国产一区二区三区av在线| 精品99又大又爽又粗少妇毛片| 欧美日韩精品成人综合77777| 久久精品久久久久久久性| 久久久久久九九精品二区国产| 又大又黄又爽视频免费| xxx大片免费视频| 国产久久久一区二区三区| 汤姆久久久久久久影院中文字幕 | 又爽又黄a免费视频| 亚洲怡红院男人天堂| 男人狂女人下面高潮的视频| 亚洲乱码一区二区免费版| 国产精品一区www在线观看| 日韩一本色道免费dvd| 狂野欧美白嫩少妇大欣赏| 午夜福利在线在线| 久久精品国产亚洲网站| 国产午夜精品久久久久久一区二区三区| 三级国产精品片| 深夜a级毛片| 成人亚洲精品av一区二区| 国产高潮美女av| 大香蕉97超碰在线| 夜夜看夜夜爽夜夜摸| 乱系列少妇在线播放| av在线观看视频网站免费| 91精品国产九色| 七月丁香在线播放| 久久这里有精品视频免费| 在线观看美女被高潮喷水网站| 黄色日韩在线| 成年人午夜在线观看视频 | 成年人午夜在线观看视频 | 最近2019中文字幕mv第一页| 精品久久久久久久久亚洲| 国产大屁股一区二区在线视频| 国产亚洲午夜精品一区二区久久 | 国产一区二区在线观看日韩| 国产成人精品一,二区| 乱人视频在线观看| 亚洲色图av天堂| 久久国内精品自在自线图片| 只有这里有精品99| 伊人久久国产一区二区| 国国产精品蜜臀av免费| 伦理电影大哥的女人| 精品欧美国产一区二区三| 亚洲av国产av综合av卡| 午夜精品国产一区二区电影 | 舔av片在线| 成人亚洲精品一区在线观看 | 国产成人福利小说| 搞女人的毛片| 最近手机中文字幕大全| 国产亚洲5aaaaa淫片| 亚洲av电影不卡..在线观看| 亚洲国产精品专区欧美| 日韩欧美一区视频在线观看 | 欧美三级亚洲精品| 麻豆乱淫一区二区| 久久久久久伊人网av| 美女被艹到高潮喷水动态| 青青草视频在线视频观看| 人人妻人人澡人人爽人人夜夜 | 国产精品一区二区在线观看99 | 美女脱内裤让男人舔精品视频| 最近的中文字幕免费完整| av国产免费在线观看| 亚洲av成人精品一区久久| 偷拍熟女少妇极品色| 99视频精品全部免费 在线| 精品人妻熟女av久视频| 国产一区二区在线观看日韩| 啦啦啦韩国在线观看视频| 午夜亚洲福利在线播放| 永久网站在线| 亚洲一区高清亚洲精品| 国产精品一及| 久久久久免费精品人妻一区二区| 亚洲综合精品二区| 亚洲乱码一区二区免费版| 中文在线观看免费www的网站| 亚洲欧洲日产国产| 国产白丝娇喘喷水9色精品| 亚洲精品日本国产第一区| 91av网一区二区| 国产高清三级在线| 校园人妻丝袜中文字幕| 人妻夜夜爽99麻豆av| 女的被弄到高潮叫床怎么办| 国产男人的电影天堂91| 九草在线视频观看| 熟女人妻精品中文字幕| 国产伦精品一区二区三区视频9| 联通29元200g的流量卡| 丝袜美腿在线中文| 国产精品综合久久久久久久免费| 久久久久久久国产电影| 九色成人免费人妻av| 色综合色国产| 最近的中文字幕免费完整| 99久久精品热视频| 欧美日本视频| 国产亚洲av嫩草精品影院| 国产 一区精品| 内地一区二区视频在线| 高清日韩中文字幕在线| 日韩视频在线欧美| 在线免费观看的www视频| av黄色大香蕉| 在线免费观看的www视频| 人人妻人人看人人澡| 日本av手机在线免费观看| 网址你懂的国产日韩在线| 一二三四中文在线观看免费高清| 久久精品国产亚洲av涩爱| 欧美一区二区亚洲| 国产又色又爽无遮挡免| 我要看日韩黄色一级片| 国产又色又爽无遮挡免| 欧美另类一区| 天堂av国产一区二区熟女人妻| 欧美精品国产亚洲| 精品久久久噜噜| 亚洲18禁久久av| 丝袜喷水一区| 99热网站在线观看| 极品少妇高潮喷水抽搐| 中国美白少妇内射xxxbb| 国产精品三级大全| 一级爰片在线观看| 亚洲av福利一区| 日韩视频在线欧美| 午夜激情久久久久久久| 中文字幕久久专区| 高清av免费在线| 成年女人在线观看亚洲视频 | 日日撸夜夜添| 亚洲天堂国产精品一区在线| 久久久久久久久大av| 国产在视频线在精品| 国产精品一及| 真实男女啪啪啪动态图| av又黄又爽大尺度在线免费看| 亚洲在线自拍视频| 国产高清国产精品国产三级 | 国产精品一二三区在线看| 亚洲精品自拍成人| 成人亚洲精品av一区二区| 日韩三级伦理在线观看| 亚洲精品一二三| 欧美激情在线99| 国产av码专区亚洲av| 能在线免费观看的黄片| 亚洲国产精品sss在线观看| 精品人妻一区二区三区麻豆| 久久人人爽人人爽人人片va| 欧美高清成人免费视频www| 免费观看性生交大片5| 全区人妻精品视频| 乱系列少妇在线播放| 亚洲成人中文字幕在线播放| 丝瓜视频免费看黄片| 欧美精品国产亚洲| 久久久久久久久久成人| 午夜免费激情av| 午夜福利高清视频| 午夜福利成人在线免费观看| 中文精品一卡2卡3卡4更新| 欧美激情国产日韩精品一区| 少妇猛男粗大的猛烈进出视频 | 国产午夜精品久久久久久一区二区三区| 国产精品蜜桃在线观看| 亚洲18禁久久av|