• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    涉智能網(wǎng)聯(lián)汽車犯罪的刑法理論與適用

    2022-03-03 00:34:02劉憲權
    東方法學 2022年1期
    關鍵詞:智能網(wǎng)聯(lián)汽車交通肇事

    內(nèi)容摘要:智能網(wǎng)聯(lián)汽車技術的刑事風險主要有:智能網(wǎng)聯(lián)汽車因程序設置瑕疵,所引發(fā)的“內(nèi)憂”;智能網(wǎng)聯(lián)汽車受外界干擾,所引起的“外患”。智能網(wǎng)聯(lián)汽車的研發(fā)者、生產(chǎn)者面臨的刑事風險相較使用者等其他主體可能更大。在涉智能網(wǎng)聯(lián)汽車犯罪的刑事責任認定時應遵循“打折”分配原則,即根據(jù)汽車自動駕駛智能等級程度,對各相關主體所應承擔的刑事責任按照一定比例進行劃分。智能網(wǎng)聯(lián)汽車自動駕駛模式下違反交通運輸管理法規(guī)引發(fā)交通事故的,應以重大責任事故罪追究智能網(wǎng)聯(lián)汽車程序設置研發(fā)者、生產(chǎn)者的刑事責任。智能網(wǎng)聯(lián)汽車超載運輸,危害公共安全,應以危險駕駛罪追究智能網(wǎng)聯(lián)汽車所有人、管理人的刑事責任。行為人對處于自動駕駛模式下的智能網(wǎng)聯(lián)汽車使用暴力或者搶控自動駕駛程序所控制的駕駛操縱裝置,干擾智能網(wǎng)聯(lián)汽車正常行駛、危害公共安全的行為,應按妨害安全駕駛罪論處。

    關鍵詞:智能網(wǎng)聯(lián)汽車 智能等級 刑事責任分配 交通肇事 危險駕駛 妨害安全駕駛

    中圖分類號:DF61? 文獻標識碼:A? 文章編號:1674-4039-(2022)01-0053-65

    人工智能時代已然來臨,似乎已經(jīng)成為人們的共識。人工智能技術的出現(xiàn)、發(fā)展和運用,必然會影響到社會的方方面面,由此產(chǎn)生的法律問題,我們只能勇敢面對且無法加以回避。眾所周知,智能網(wǎng)聯(lián)汽車作為人工智能技術應用較早和較為成熟的一個領域,目前已處于道路測試和示范應用階段,應該在較短的時間內(nèi)會投入正式營運。智能網(wǎng)聯(lián)汽車作為新一代網(wǎng)絡通信技術與電子、汽車、交通等領域深度融合的新業(yè)態(tài),在給人類社會帶來各種利益的同時,也必然會引發(fā)一系列刑事風險和新的刑事立法、司法適用問題,其中尤以刑事責任的分配以及刑法條文具體適用等問題表現(xiàn)最為明顯。本文僅對涉智能網(wǎng)聯(lián)汽車犯罪的刑事風險和刑事責任問題展開宏觀、中觀和微觀層面的分析與研究。

    一、智能網(wǎng)聯(lián)汽車的定義及自動駕駛的分級

    在人工智能時代,智能網(wǎng)聯(lián)汽車的研發(fā)與應用是革新汽車技術、提升產(chǎn)業(yè)水平的必經(jīng)之路。2018年4月工信部、公安部、交通運輸部聯(lián)合制定了《智能網(wǎng)聯(lián)汽車道路測試管理規(guī)范(試行)》,在其指導下,上海、北京、武漢、深圳等地已相繼開展智能網(wǎng)聯(lián)汽車自動駕駛功能示范應用?!? 〕隨著智能網(wǎng)聯(lián)汽車技術的不斷升級,應用范圍的不斷擴大,2021年1月工信部與有關部門發(fā)布了《智能網(wǎng)聯(lián)汽車道路測試與示范應用管理規(guī)范(試行)》征求意見稿,公開向社會各界征求意見。2021年3月公安部公布的道路交通安全法(修訂建議稿)中也專設條文對自動駕駛內(nèi)容作了一些規(guī)定。一些地方也相繼開展了相關條例的制定,深圳率先推出了《深圳經(jīng)濟特區(qū)智能網(wǎng)聯(lián)汽車管理條例(征求意見稿)》(以下簡稱“深圳條例”) 〔2 〕。在此基礎上,2021年7月27日工信部、公安部、交通運輸部在原征求意見稿的基礎上,聯(lián)合頒布了《智能網(wǎng)聯(lián)汽車道路測試與示范應用管理規(guī)范(試行)》(以下簡稱“規(guī)范”)。

    規(guī)范第37條第1款對智能網(wǎng)聯(lián)汽車的定義作了明確規(guī)定。智能網(wǎng)聯(lián)汽車是指搭載先進的車載傳感器、控制器、執(zhí)行器等裝置,并融合現(xiàn)代通信與網(wǎng)絡技術,實現(xiàn)車與X(人、車、路、云端等)智能信息交換、共享,具備復雜環(huán)境感知、智能決策、協(xié)同控制等功能,可實現(xiàn)安全、高效、舒適、節(jié)能行駛,并最終可實現(xiàn)替代人來操作的新一代汽車。從定義中可知,智能網(wǎng)聯(lián)汽車融合了電子控制技術、人工智能技術、互聯(lián)網(wǎng)技術、通信技術等多項新興產(chǎn)業(yè)技術。不同于傳統(tǒng)的帶有部分自動化功能的智能汽車,智能網(wǎng)聯(lián)汽車實際上是集多種高新技術于一體,可代替自然人駕駛員完成對環(huán)境的感知、對路況的判斷以及對車輛控制的智能機器人。

    關于智能網(wǎng)聯(lián)汽車自動駕駛的分級,國際上采用的標準是國際機動車工程師學會(Society of Automotive Engineers,以下簡稱“SAE”)發(fā)布的自動駕駛分級標準。SAE將自動駕駛劃分為L0—L5級別?!? 〕L0級別不具備自動化功能;L1級別為駕駛支援,其只能實現(xiàn)例如自動控制加減速,從而與前車保持安全距離等極小部分的自動化功能;L2級別為部分自動化駕駛,擁有部分自動駕駛功能,但仍要求駕駛人員監(jiān)控駕駛環(huán)境,保持對車輛的控制;L3級別為附條件自動駕駛,是指在特定模式下,自動駕駛系統(tǒng)可以完成部分駕駛任務,但駕駛人必須隨時準備好在汽車發(fā)出要求時對車輛進行接管;L4級別為高度自動駕駛,是指在特定模式下,即便人類駕駛員無法根據(jù)汽車響應對車輛進行接管,自動駕駛系統(tǒng)仍在應對幾乎所有的駕駛任務;L5級別為完全自動駕駛,是指在任何路況、環(huán)境和條件下,自動駕駛系統(tǒng)可以完成所有駕駛任務,并且無須駕駛人員的接管。

    我國關于汽車駕駛自動化分級的最新標準則是2021年8月20日由國家市場監(jiān)督管理總局、中國國家標準化管理委員會發(fā)布的《汽車駕駛自動化分級》(以下簡稱“分級”),該標準自2022年3月1日起實施。分級將汽車駕駛自動化等級劃分為6個級別,分別為0級—5級。0級駕駛自動化(應急輔助)系統(tǒng)不能持續(xù)執(zhí)行動態(tài)駕駛任務中的車輛橫向或縱向運動控制,但具備持續(xù)執(zhí)行動態(tài)駕駛任務中的部分目標和事件探測與響應的能力。1級駕駛自動化(部分駕駛輔助)系統(tǒng)在其設計運行條件下持續(xù)地執(zhí)行動態(tài)駕駛任務中的車輛橫向或縱向運動控制,且具備與所執(zhí)行的車輛橫向或縱向運動控制相適應的部分目標和事件探測與響應的能力。2級駕駛自動化(組合駕駛輔助)系統(tǒng)在其設計運行條件下持續(xù)地執(zhí)行動態(tài)駕駛任務中的車輛橫向和縱向運動控制,且具備與所執(zhí)行的車輛橫向和縱向運動控制相適應的部分目標和事件探測與響應的能力。3級駕駛自動化(有條件自動駕駛)系統(tǒng)在其設計運行條件下持續(xù)地執(zhí)行全部動態(tài)駕駛任務。4級駕駛自動化(高度自動駕駛)系統(tǒng)在其設計運行條件下持續(xù)地執(zhí)行全部動態(tài)駕駛任務并自動執(zhí)行最小風險策略。5級駕駛自動化(完全自動駕駛)系統(tǒng)在任何可行駛條件下持續(xù)地執(zhí)行全部動態(tài)駕駛任務并自動執(zhí)行最小風險策略?!? 〕

    分析上述SAE發(fā)布的自動駕駛分級標準以及分級所作的劃分等級,我們不難發(fā)現(xiàn),國際上采用的是“六分法”標準與我國采用的是“六分法”標準實質(zhì)是相同的。在SAE標準下其實只有L3、L4、L5三個級別才能稱之為是真正意義上的自動駕駛。而SAE標準下L3、L4、L5三個級別與我國分級中的3級(有條件自動駕駛)、4級(高度自動駕駛)、5級(完全自動駕駛)三個等級,能夠一一對應匹配。就此而言,我們有理由認為,我國在分級中所展示的汽車駕駛自動化分級標準與國際通用的SAE標準只是提法上略有不同,基本內(nèi)容并無二致,不存在標準不統(tǒng)一的情形。

    筆者認為,雖然智能網(wǎng)聯(lián)汽車等級的稱謂在不同文件中有所不同,但實際劃分標準則沒有本質(zhì)的區(qū)別。如果智能網(wǎng)聯(lián)汽車具有自動駕駛功能且人類可以或多或少程度不同地參與操作的,就屬于“人機混駕模式”;如果智能網(wǎng)聯(lián)汽車具有自動駕駛功能但人類不可以直接參與操作的,就屬于“完全自駕模式”。但是,無論是“人機混駕模式”還是“完全自駕模式”,均屬于以互聯(lián)網(wǎng)、大數(shù)據(jù)、云計算、類腦智能等技術為支撐的智能網(wǎng)聯(lián)汽車,只是“智能”所占的比重存在高低不同而已。智能網(wǎng)聯(lián)汽車這一重大技術革新的出現(xiàn)和發(fā)展,毫無疑問將同時蘊含著巨大的刑事風險。智能網(wǎng)聯(lián)汽車中“智能”所占的不同比重,又勢必會影響刑事責任的認定與承擔。

    二、智能網(wǎng)聯(lián)汽車技術的刑事風險

    在人工智能時代,計算機逐漸代替人們的部分工作,認知水平不斷提高,并通過不斷滲透、多方位影響的沉浸環(huán)境,分析用戶需求、改變用戶思想?!? 〕發(fā)展智能網(wǎng)聯(lián)汽車技術既是機遇,也是挑戰(zhàn)。機遇在于智能網(wǎng)聯(lián)汽車能夠大大改善人們傳統(tǒng)的駕駛方式,提升駕駛的舒適度甚至安全性,同時對于汽車產(chǎn)業(yè)的革新將產(chǎn)生巨大推動力。挑戰(zhàn)在于智能網(wǎng)聯(lián)汽車作為人工智能時代下的一個全新的產(chǎn)物,由于其融合了電子控制、人工智能、互聯(lián)網(wǎng)、通信等多項技術,因而將帶來很多在傳統(tǒng)駕駛時代根本不可能出現(xiàn)的新風險。其中,尤以刑事風險的出現(xiàn)和存在,需要引起我們高度重視。

    筆者曾較早多次提出,人工智能時代產(chǎn)生和發(fā)展的歷史是一部智能機器人的智能從無到有、從少到多的歷史,同時也是一部“機器”的因素逐步弱化,而“人”的因素逐漸增強的歷史?!爸悄堋北緛砭褪侨怂赜械?,人工智能技術便是人類創(chuàng)造了本來只有自然人才具有的“智能”的技術?!? 〕人工智能時代所孕育的智能網(wǎng)聯(lián)汽車技術,便是人類為汽車創(chuàng)造了本來只有自然人駕駛員才具有的“智能”的駕駛技術。有條件的自動駕駛已經(jīng)能夠在一定操作范圍替代自然人駕駛員的操作,即對于部分路況能夠自動掌控車輛。但是,這種掌控還是局部性或者有限的,一旦系統(tǒng)判斷智能網(wǎng)聯(lián)汽車無法繼續(xù)運行時,將通知自然人駕駛員并讓其對車輛進行掌控接管。可見,該等級的智能網(wǎng)聯(lián)汽車已經(jīng)能夠代替自然人駕駛員應對部分非復雜的路況。高度自動駕駛相較有條件自動駕駛,其能夠應對的路況更多,雖然在極少部分情況下會向自然人駕駛員提出接管車輛的請求,但其也可以在自然人駕駛員不介入的情況下作出獨立判斷掌控車輛。完全自動駕駛更是自動駕駛所達到的頂峰狀態(tài),其完全不需要自然人駕駛員的介入,該情形下的自動駕駛程序相當于取代了自然人駕駛員并完全自動掌控車輛,成為車輛行駛過程中的核心中樞。由此可知,智能網(wǎng)聯(lián)汽車技術的發(fā)展使得汽車這一傳統(tǒng)交通工具從純粹地替代人類的手腳等身體功能,幫助人類實現(xiàn)遠距離傳輸,逐步轉(zhuǎn)變?yōu)榭梢蕴娲祟惖拇竽X功能,幫助人類實現(xiàn)行車環(huán)境感知、路況判斷與車輛運行掌控。這也恰恰體現(xiàn)了隨著人工智能技術的發(fā)展,汽車智能不斷進化的特征。而這一特征完全符合人工智能時代下“機器”的因素逐步弱化,而“人”的因素逐漸增強的基本特性。隨著智能網(wǎng)聯(lián)汽車技術的不斷深化,在不久的將來,智能網(wǎng)聯(lián)汽車技術必將得到飛躍式的提升,并最終實現(xiàn)智能網(wǎng)聯(lián)汽車對自身“駕駛行為”的影響和作用逐步達到完全由車輛自身意識實現(xiàn)的“自控”,而超越現(xiàn)階段受人類設定的程序決定和控制的“他控”?,F(xiàn)在我們中有些人可能會不相信智能網(wǎng)聯(lián)汽車有完全“自控”這一天的到來,但是,我們無論如何不應該無視在人工智能時代智能網(wǎng)聯(lián)汽車技術這一發(fā)展趨勢的客觀存在。

    智能網(wǎng)聯(lián)汽車從現(xiàn)階段的“他控”轉(zhuǎn)向為未來的“自控”的過程必然伴隨著技術、數(shù)據(jù)、 〔7 〕安全和行駛等大量的風險,而這些風險一旦聚集和上升,就會引發(fā)一些刑事風險,從而對智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)的發(fā)展產(chǎn)生關鍵性的影響。由于現(xiàn)階段智能網(wǎng)聯(lián)汽車尚處于弱人工智能階段,而弱人工智能機器人具有深度學習的能力,能夠拓展原有犯罪的廣度和深度, 〔8 〕因而智能網(wǎng)聯(lián)汽車也可能隨著智能程度的發(fā)展而使傳統(tǒng)駕駛類犯罪的深度發(fā)生變化。與此同時,由于智能網(wǎng)聯(lián)汽車與互聯(lián)網(wǎng)技術、通信技術等緊密結合,因而涉智能網(wǎng)聯(lián)汽車犯罪將不再局限于傳統(tǒng)駕駛類犯罪,而可能同時拓展至產(chǎn)品犯罪、數(shù)據(jù)犯罪、信息網(wǎng)絡犯罪等其他類型,進而拓寬犯罪的廣度,并帶來更嚴峻的刑事風險。筆者認為,智能網(wǎng)聯(lián)汽車技術的刑事風險可分為“內(nèi)憂”和“外患”兩大類。所謂“內(nèi)憂”是指智能網(wǎng)聯(lián)汽車因自身程序設置瑕疵所引起的刑事風險。所謂“外患”是指智能網(wǎng)聯(lián)汽車受外界干擾,被人非法利用所引起的刑事風險。

    智能網(wǎng)聯(lián)汽車技術的刑事風險之“內(nèi)憂”主要體現(xiàn)在現(xiàn)階段智能網(wǎng)聯(lián)汽車技術尚未完全成熟,在研發(fā)過程中可能出現(xiàn)設計上的漏洞,在生產(chǎn)過程中有可能發(fā)生產(chǎn)品質(zhì)量不過關等智能網(wǎng)聯(lián)汽車自身程序設置瑕疵所導致的問題。例如,2018年3月優(yōu)步(Uber)的一輛無人駕駛汽車在美國亞利桑那州撞死了一名行人。事發(fā)時處于無人駕駛模式的汽車并沒有采取剎車或減速,也沒有采取任何躲避措施,進而導致了慘劇的發(fā)生。〔9 〕可見,即便是處于自動駕駛狀態(tài)下的智能網(wǎng)聯(lián)汽車也可能因自身程序設計或生產(chǎn)缺陷等影響,在駕駛過程中因識別功能的有限性或故障失靈而產(chǎn)生識別錯誤,進而引發(fā)刑事風險。

    智能網(wǎng)聯(lián)汽車技術的刑事風險之“外患”主要體現(xiàn)在行為人非法利用或者不恰當使用智能網(wǎng)聯(lián)汽車技術,在智能網(wǎng)聯(lián)汽車的研發(fā)、生產(chǎn)或者運用過程中存在或施加人為干擾,進而使智能網(wǎng)聯(lián)汽車成為行為人實施相關犯罪行為的對象或者工具。行為人的非法利用或者不恰當使用包括:研發(fā)者在設計智能網(wǎng)聯(lián)汽車的過程中,明知可能存在漏洞卻不補救;為追求高收益,設計不符合安全標準的智能網(wǎng)聯(lián)汽車?;蛘呤巧a(chǎn)者在生產(chǎn)過程中故意偷換原材料或者使用低于產(chǎn)品原有標準材料生產(chǎn),導致車輛在運行時發(fā)生故障,引發(fā)交通事故?;蛘呤擒囕v的使用者由于操作不當,導致智能網(wǎng)聯(lián)汽車故障,造成嚴重的社會危害?;蛘呤茄邪l(fā)者、生產(chǎn)者、使用者之外的其他人,對智能網(wǎng)聯(lián)汽車的通信系統(tǒng)或者互聯(lián)網(wǎng)系統(tǒng)發(fā)起攻擊,實施竊取智能網(wǎng)聯(lián)汽車駕駛數(shù)據(jù)或者侵犯使用者隱私等違法犯罪行為。

    區(qū)分“內(nèi)憂”與“外患”兩方面的原因在于:智能網(wǎng)聯(lián)汽車技術的“內(nèi)憂”是由于其程序設置瑕疵所引起的刑事風險,而這種程序設置瑕疵大多歸結于研發(fā)者的研發(fā)過程或生產(chǎn)者的制造過程中發(fā)生的錯誤。因而,通常情況下智能網(wǎng)聯(lián)汽車的“內(nèi)憂”刑事風險只涉及研發(fā)者、生產(chǎn)者的責任,而不涉及使用者等其他主體的責任。而智能網(wǎng)聯(lián)汽車技術的“外患”刑事風險則是由于其被人非法使用或者不恰當使用引發(fā)的,此情形下的智能網(wǎng)聯(lián)汽車相當于行為人實施犯罪的新型工具或者犯罪對象。因而“外患”涉及責任主體就更多,包含了研發(fā)者、生產(chǎn)者、使用者以及其他主體。

    綜上所述,智能網(wǎng)聯(lián)汽車技術所可能帶來的刑事風險是方方面面的,不僅涉及汽車的研發(fā)者、生產(chǎn)者,更有可能涉及使用者和其他主體。其中,研發(fā)者、生產(chǎn)者所面臨的刑事風險除了“內(nèi)憂”還有“外患”。由此可知,研發(fā)者、生產(chǎn)者需要面臨的刑事風險相較其他主體要更大。因而,筆者認為,智能網(wǎng)聯(lián)汽車的研發(fā)、生產(chǎn)和使用過程引發(fā)的刑事風險對于智能網(wǎng)聯(lián)汽車的未來發(fā)展將會產(chǎn)生至關重要的影響。

    三、涉智能網(wǎng)聯(lián)汽車犯罪的刑事責任承擔和分配

    智能網(wǎng)聯(lián)汽車雖然集各類先進技術于一身,但其本身仍屬于人工智能時代下的一種新類型的產(chǎn)品。一般而言,涉及產(chǎn)品的犯罪可被分為產(chǎn)品研發(fā)、生產(chǎn)領域的犯罪和產(chǎn)品使用領域的犯罪,因而涉智能網(wǎng)聯(lián)汽車犯罪亦可分為智能網(wǎng)聯(lián)汽車研發(fā)、生產(chǎn)領域的犯罪與智能網(wǎng)聯(lián)汽車使用領域的犯罪。

    筆者認為,在人工智能時代,我們可從智能機器人所蘊含的“人”和“機器”各自的成分考察,對不同的智能機器人進行歸類。而相關的歸類無疑為我們確立涉智能網(wǎng)聯(lián)汽車犯罪的刑事責任分擔標準奠定了基礎。如前所述,智能網(wǎng)聯(lián)汽車所蘊含的“智能”成分所占比重實際上是智能機器人所蘊含“人”的成分大小之考察點。我們假設在傳統(tǒng)有人駕駛汽車場合,法律要求自然人駕駛員履行某項注意義務所需的智能為100%,那么在智能網(wǎng)聯(lián)汽車的場合,如果智能網(wǎng)聯(lián)汽車所蘊含的智能達到50%—70%,那么,相關使用者實際所要付出的工作(或者義務)僅需剩余的30%—50%。由此可以推論:如果智能網(wǎng)聯(lián)汽車最終因違反某項注意義務造成嚴重危害結果,汽車的研發(fā)者、生產(chǎn)者可能需承擔50%—70%的刑事責任,相關使用者僅需分擔30%—50%的刑事責任。至于到底應具體承擔多少份額,需要根據(jù)不同駕駛模式下智能網(wǎng)聯(lián)汽車所蘊含的智能成分高低以及具體案情來確定。

    對于普通汽車而言,汽車研發(fā)、生產(chǎn)領域受汽車生產(chǎn)者支配,因而研發(fā)、生產(chǎn)領域產(chǎn)生的風險由汽車研發(fā)者、生產(chǎn)者負責;而汽車使用領域受汽車使用者的支配,在使用領域產(chǎn)生的風險應由使用者承擔。在普通汽車的情景下,如果因使用者的不當駕駛造成的交通事故與汽車的研發(fā)者、生產(chǎn)者并無關聯(lián),汽車的研發(fā)者、生產(chǎn)者僅需對汽車的研發(fā)、生產(chǎn)階段出現(xiàn)的問題承擔責任,例如剎車系統(tǒng)故障所造成的交通事故等汽車固有的瑕疵等問題。同理,如果因汽車研發(fā)者、生產(chǎn)者研發(fā)、生產(chǎn)的偽劣產(chǎn)品未符合相關質(zhì)量標準而造成的交通事故與汽車的使用者也無關聯(lián),汽車的使用者僅需對汽車在使用過程中因自己操作所出現(xiàn)的問題承擔責任,例如違反交通運輸管理法規(guī)所造成的交通事故等使用者人為因素導致的問題?!?0 〕可見,傳統(tǒng)的普通汽車本身的質(zhì)量安全屬于汽車研發(fā)、生產(chǎn)領域的問題,由汽車研發(fā)者、生產(chǎn)者負責,而不能由使用者負責。汽車在行駛過程中是否遵守交通運輸管理法規(guī)屬于汽車使用安全問題,由汽車使用者即駕駛人員負責,而不能由研發(fā)者、生產(chǎn)者負責。

    但是,對于智能網(wǎng)聯(lián)汽車而言,在使用領域仍會受到研發(fā)者、生產(chǎn)者的支配。這是因為智能網(wǎng)聯(lián)汽車的研發(fā)者、生產(chǎn)者既要保障智能網(wǎng)聯(lián)汽車本身的質(zhì)量符合各項安全標準,同時還需要通過程序的設置保障汽車在處于自動駕駛模式下不違反交通運輸管理法規(guī),保障車輛安全行駛。當智能網(wǎng)聯(lián)汽車處于自動駕駛階段,汽車在行駛過程中對環(huán)境的識別、對障礙物的判斷、對路況的分析等將部分或者全部由系統(tǒng)代替自然人駕駛員操作。此時的使用者對于汽車的支配力明顯降低,而該系統(tǒng)的研發(fā)者、生產(chǎn)者對于汽車使用中的支配力顯著上升。因而,智能網(wǎng)聯(lián)汽車的使用者在汽車使用領域的支配力度,遠低于普通汽車的使用者在汽車使用領域的支配力度。智能網(wǎng)聯(lián)汽車的研發(fā)者、生產(chǎn)者實施的行為不僅可以在汽車的生產(chǎn)領域具有支配力,而且其支配力可以延伸到汽車的使用領域。

    正因為如此,針對涉智能網(wǎng)聯(lián)汽車犯罪刑事責任的分配,需要結合智能網(wǎng)聯(lián)汽車的智能程度進行綜合評價。筆者認為,在分配研發(fā)者、生產(chǎn)者和使用者各方主體的刑事責任時,應貫徹“打折”分配原則。所謂“打折”分配原則是指針對智能網(wǎng)聯(lián)汽車處于自動駕駛階段發(fā)生的犯罪行為,需根據(jù)智能網(wǎng)聯(lián)汽車自動駕駛的智能程度,對各主體所應承擔的刑事責任作相應比例的劃分或分配。其中,自動駕駛的智能程度越高,研發(fā)者、生產(chǎn)者承擔的刑事責任也越多,而使用者承擔的刑事責任則將相應地減少,即涉智能網(wǎng)聯(lián)汽車犯罪的刑事責任可能需要多方主體共同承擔。刑事責任承擔的多與少,將根據(jù)汽車自動駕駛的智能程度按照一定比例折算。我們可以在數(shù)值上對自動駕駛的智能程度予以量化,峰值如果設定為100%,那么完全自動駕駛的智能程度就相當于100%,此時研發(fā)者、生產(chǎn)者在完全自動駕駛下所應承擔的刑事責任與車輛的自動駕駛的智能程度成正比,即對于智能網(wǎng)聯(lián)汽車因“內(nèi)憂”引起的犯罪行為所導致的危害結果,研發(fā)者、生產(chǎn)者承擔的刑事責任應為100%(即完全的刑事責任),而使用者則不承擔任何刑事責任。如果高度自動駕駛的智能程度為90%,研發(fā)者、生產(chǎn)者承擔的刑事責任也應為90%,使用者如果有使用不當問題的存在,則可能承擔10%的刑事責任。如果有條件自動駕駛的智能程度為80%,研發(fā)者、生產(chǎn)者承擔的刑事責任也應為80%,使用者如果有使用不當問題的存在,則可能承擔20%的刑事責任。

    筆者之所以主張引入“打折”原則對涉智能網(wǎng)聯(lián)汽車犯罪的刑事責任進行分配,理由主要有以下兩點。

    第一,“打折”原則的引入契合智能網(wǎng)聯(lián)汽車的特殊性。傳統(tǒng)的普通汽車在行駛過程中以駕駛人員為核心,駕駛人員對路況的預判是否正確等一舉一動將直接影響到汽車的正常行駛。而智能網(wǎng)聯(lián)汽車的特殊性就表現(xiàn)在:當其處于自動駕駛的模式下,汽車行駛過程中并非以駕駛人員為核心,而是以智能網(wǎng)聯(lián)汽車自動駕駛程序的運作為核心。程序的運作正常與否,直接追溯到研發(fā)者、生產(chǎn)者,因為上述主體負責汽車自動駕駛程序的設計、制造。筆者認為,智能網(wǎng)聯(lián)汽車相較普通汽車而言,特殊性主要表現(xiàn)為在汽車駕駛中直接發(fā)揮核心作用的主體有了變化,即從自然人駕駛員轉(zhuǎn)移到了研發(fā)者、生產(chǎn)者。而這一變化又必然會導致刑事責任的轉(zhuǎn)移或變化,即傳統(tǒng)駕駛模式下由自然人駕駛員承擔的刑事責任需要相應地轉(zhuǎn)移給智能網(wǎng)聯(lián)汽車的研發(fā)者、生產(chǎn)者。我們?nèi)绻侔磦鹘y(tǒng)刑事理論或刑法規(guī)定,只追究自然人駕駛員(或車輛使用者)的刑事責任,那么將無法體現(xiàn)智能網(wǎng)聯(lián)汽車代替自然人的智能作用,從而也不能準確地反映人工智能時代產(chǎn)物的特殊性,更與我國刑法“罪責自負”和“罪責刑相適應”等原則的精神相悖。就此而言,應引入適合涉智能網(wǎng)聯(lián)汽車犯罪刑事責任的“打折”分配機制,根據(jù)智能網(wǎng)聯(lián)汽車的智能程度以及不同行為主體的不同作用,進行整體的評價與衡量,合理確定研發(fā)者、生產(chǎn)者或者使用者的刑事責任。

    理論上或許有人認為,刑事責任的特點在于其“專一性”,即“不可轉(zhuǎn)移性”。由此,實際上就不應該有涉智能網(wǎng)聯(lián)汽車犯罪的刑事責任分配問題,從而也不應該適用“打折”分配原則。因為相較于刑事責任的民事責任承擔才可能有責任的轉(zhuǎn)移或分配,例如,處理民事賠償案件時,我們可以根據(jù)案件的實際情況采用“打折”分配原則,以平衡各方利益。很多人會擔心,對刑事責任的“打折”分配可能會突破傳統(tǒng)的刑法理念,從而對現(xiàn)有的刑法體系造成沖擊。對此,筆者認為,這些觀點或擔心其實是囿于傳統(tǒng)的普通汽車角度,沒有置身于人工智能時代下的智能網(wǎng)聯(lián)汽車背景來思考刑事責任的分配。由于在普通汽車駕駛類犯罪中,相關犯罪結果大多是由自然人駕駛員的不當操作所導致的,因而,承擔刑事責任的主體當然只能是自然人駕駛員。例如,自然人駕駛員因違反交通運輸管理法規(guī)而肇事的,需要承擔交通肇事罪的刑事責任。又比如,自然人駕駛員醉酒駕駛機動車,需要承擔危險駕駛罪的刑事責任。也即在普通汽車駕駛類犯罪中,刑事責任具體承擔者只能是自然人駕駛員是明確的。在此情況下,刑事責任的歸屬不能也不需要轉(zhuǎn)移,當然也沒有刑事責任的“打折”分配問題。普通汽車的研發(fā)者、生產(chǎn)者只需要對研發(fā)、生產(chǎn)的產(chǎn)品質(zhì)量安全負責;作為普通汽車的自然人駕駛員則需要對車輛使用中安全駕駛的環(huán)節(jié)負責。由于各個環(huán)節(jié)相互獨立,互不影響,而刑法也對相關環(huán)節(jié)中的刑事責任分別作了規(guī)定,因此,也就不應該有刑事責任的轉(zhuǎn)移問題。但是,在智能網(wǎng)聯(lián)汽車使用中則有很大的不同。智能網(wǎng)聯(lián)汽車的使用者不參與或者較少參與車輛的駕駛,其對于智能網(wǎng)聯(lián)汽車的支配力很弱。需要指出的是,汽車自動駕駛程序的研發(fā)者、生產(chǎn)者即便不參與后續(xù)使用智能網(wǎng)聯(lián)汽車,由于其對汽車自動駕駛程序的研發(fā)、生產(chǎn)行為直接影響到汽車的后續(xù)使用狀況,因此導致他們對于智能網(wǎng)聯(lián)汽車使用過程的支配力明顯增強,隨之實際導致使用者對智能網(wǎng)聯(lián)汽車使用過程的支配力大幅度降低。換言之,智能網(wǎng)聯(lián)汽車的出現(xiàn),客觀上導致研發(fā)者、生產(chǎn)者、使用者之間的關系發(fā)生錯位或換位,即從原來的相對獨立,轉(zhuǎn)變?yōu)楝F(xiàn)在的緊密聯(lián)系甚至互相交叉。正是由于在智能網(wǎng)聯(lián)汽車的大背景下,研發(fā)者、生產(chǎn)者、使用者之間形成了這種錯位關系,因而也帶來了刑事責任承擔上的錯位與交叉,從而在確認刑事責任時,我們不能將相關人員按原來的標準分別加以認定,而是要將他們聯(lián)系在一起,結合智能網(wǎng)聯(lián)汽車的智能程度,并根據(jù)各相關人員對智能網(wǎng)聯(lián)汽車的支配程度,綜合加以評判。智能網(wǎng)聯(lián)汽車在自動駕駛狀態(tài)下,其研發(fā)者與生產(chǎn)者在此階段所充當?shù)慕巧?,與自然人駕駛員在駕駛普通汽車中所充當?shù)慕巧珟缀鯚o異。也即當智能網(wǎng)聯(lián)汽車處于自動駕駛狀態(tài)時,汽車的研發(fā)者、生產(chǎn)者對車輛的作用力與普通汽車自然人駕駛員對車輛的作用力基本相同,那么讓研發(fā)者、生產(chǎn)者承擔或分擔普通汽車自然人駕駛員的刑事責任顯然也是據(jù)有說服力的。

    第二,“打折”原則的引入能夠有效平衡各方主體的刑事責任,警醒研發(fā)者、生產(chǎn)者在研發(fā)和制造過程中盡到充分的注意義務,從而為智能網(wǎng)聯(lián)汽車自動駕駛的設置設定技術紅線?!按蛘邸痹瓌t依據(jù)智能網(wǎng)聯(lián)汽車自動駕駛的智能程度不同,將刑事責任分配的比重進行一定比例地傾斜。當智能程度越高,研發(fā)者、生產(chǎn)者承擔的責任也越大。這就能夠促使研發(fā)者、生產(chǎn)者認真對待智能網(wǎng)聯(lián)汽車的研發(fā)、生產(chǎn)過程,而不是為了搶占市場份額,匆匆推出不合格的智能網(wǎng)聯(lián)汽車。之所以將研發(fā)者、生產(chǎn)者承擔的刑事責任比例與自動駕駛技術的智能程度設置成正比,原因在于,技術的智能程度越高,說明其替代人的大腦功能對車輛掌控的成分就越多,那么對于研發(fā)和生產(chǎn)這種技術的人的要求也要更加嚴格。因此,讓上述主體承擔與智能程度成正比的刑事責任有理有據(jù)。

    或許有人會認為,引入“打折”的原則,讓研發(fā)者、生產(chǎn)者隨自動駕駛智能程度的增加承擔遞增的刑事責任,可能會阻撓智能網(wǎng)聯(lián)汽車的創(chuàng)新與發(fā)展。筆者認為,上述觀點似乎有些杞人憂天。筆者一直強調(diào),對于人工智能時代出現(xiàn)的特有的新型犯罪,需要踐行人工智能時代刑法的前瞻性理念, 〔11 〕不能等到智能網(wǎng)聯(lián)汽車正式上路發(fā)生了交通事故或者引發(fā)了其他犯罪現(xiàn)象不知如何歸責,才想到要對涉智能網(wǎng)聯(lián)汽車犯罪的刑事責任進行分配。設定“打折”原則恰恰是體現(xiàn)了人工智能時代刑法應未雨綢繆的基本理念。試想一下,如果不采用“打折”原則,當智能網(wǎng)聯(lián)汽車在自動駕駛階段發(fā)生交通事故時,繼續(xù)讓駕駛人員承擔所有的刑事責任明顯違背了智能網(wǎng)聯(lián)汽車的設計初衷。如果不采用“打折”原則,研發(fā)者與生產(chǎn)者將可能放任智能網(wǎng)聯(lián)汽車研發(fā)或制造過程中的漏洞,或者任由車輛駕駛過程中出現(xiàn)的問題不斷爆發(fā),反而不利于汽車產(chǎn)業(yè)的未來發(fā)展。智能網(wǎng)聯(lián)汽車在解放駕駛人員手腳、大腦的同時,也需要相應解放駕駛人員承擔的刑事責任?!按蛘邸痹瓌t的引入恰恰是刑法在應對涉智能網(wǎng)聯(lián)汽車犯罪時所采取的一種提前規(guī)劃,提醒汽車的研發(fā)者、生產(chǎn)者在研發(fā)、制造車輛時,必須盡到足夠的注意義務?!按蛘邸痹瓌t的引入也使得智能網(wǎng)聯(lián)汽車從研發(fā)、到生產(chǎn)、到運行、到發(fā)生問題后的處置等一系列環(huán)節(jié),串聯(lián)起來,形成一個涉智能網(wǎng)聯(lián)汽車犯罪刑法規(guī)制的完整閉環(huán)。“打折”原則作為閉環(huán)中的最重要一節(jié),將智能網(wǎng)聯(lián)汽車自動駕駛的智能程度進行折算,以此作為衡量人的刑事責任的依據(jù),能夠有效平衡涉智能網(wǎng)聯(lián)汽車犯罪中各方主體所應承擔的刑事責任。

    四、刑法駕駛類犯罪對涉智能網(wǎng)聯(lián)汽車犯罪定性的影響

    (一)智能網(wǎng)聯(lián)汽車交通肇事行為的刑法應對

    對于傳統(tǒng)駕駛汽車所引發(fā)的交通事故而言,如果相關事故導致的結果已經(jīng)達到構罪程度,而這一結果的產(chǎn)生是由汽車本身存在安全隱患導致的,那么就應該追究汽車的研發(fā)者、生產(chǎn)者和銷售者違反產(chǎn)品質(zhì)量法的生產(chǎn)、銷售偽劣產(chǎn)品罪的刑事責任。如果事故原因是自然人駕駛員違反交通運輸管理法規(guī),那么應追究自然人駕駛員交通肇事罪的刑事責任?!?2 〕然而,智能網(wǎng)聯(lián)汽車的引入會使得傳統(tǒng)認定交通肇事罪的基本理念發(fā)生轉(zhuǎn)變。對于處于自動駕駛狀態(tài)的智能網(wǎng)聯(lián)汽車,如果存在自然人駕駛員且其無不當操作,完全是由智能網(wǎng)聯(lián)汽車的自動駕駛程序缺陷導致智能網(wǎng)聯(lián)汽車違反交通運輸管理法規(guī),造成交通事故,并達到了交通肇事罪構罪程度,那么該由誰來承擔刑事責任?

    由于處于自動駕駛狀態(tài)下的使用者大多情況并沒有在駕駛汽車,汽車的駕駛路徑與方向完全是由自動駕駛程序控制,如果追究使用者交通肇事罪的刑事責任,顯然不妥當。因為如果對沒有操控智能網(wǎng)聯(lián)汽車且行為未違反交通運輸管理法規(guī)、操作和使用規(guī)程的使用者也有被追究刑事責任的可能性,那么就等于課以使用者對智能網(wǎng)聯(lián)汽車在自動駕駛狀態(tài)下的注意義務,也等同于賦予了智能網(wǎng)聯(lián)汽車的使用者與普通汽車的自然人駕駛員相同的注意義務,這明顯違背了智能網(wǎng)聯(lián)汽車設計與生產(chǎn)的初衷,同時也從根本上與罪責自負原則相悖?!?3 〕當然,需要指出的是,智能網(wǎng)聯(lián)汽車違反交通運輸管理法規(guī)是因為程序設置上出現(xiàn)瑕疵而引發(fā)的,相關研發(fā)者、生產(chǎn)者需要承擔刑事責任,這應該是沒有爭議的。問題是以何罪名追究研發(fā)者、生產(chǎn)者的刑事責任?由于引發(fā)交通事故的原因系智能網(wǎng)聯(lián)汽車的自動駕駛程序違反交通運輸管理法規(guī),就其侵害的法益分析,以交通肇事罪論處似乎也不是沒有道理。但是,研發(fā)者、生產(chǎn)者并沒有直接在道路上駕駛車輛,交通事故又是智能網(wǎng)聯(lián)汽車在道路駕駛過程中發(fā)生的。在此情況下,如果認為研發(fā)者、生產(chǎn)者構成交通肇事罪顯然與該罪的構成要件相悖,也即以交通肇事罪追究研發(fā)者、生產(chǎn)者的刑事責任確實不妥。當然,如果我們將程序設置瑕疵歸屬為質(zhì)量問題,由此而追究研發(fā)者、生產(chǎn)者生產(chǎn)偽劣產(chǎn)品罪的刑事責任,似乎也不妥。因為我國刑法中涉產(chǎn)品質(zhì)量犯罪的相關罪名都是故意犯罪,而研發(fā)者、生產(chǎn)者對于汽車所引發(fā)的交通事故必定是持“否定”的心態(tài),絕非故意犯罪中的行為人所持的“肯定”的心態(tài)或“既不肯定也不否定”的心態(tài)。筆者認為,以生產(chǎn)偽劣產(chǎn)品罪這一故意犯罪追究研發(fā)者、生產(chǎn)者的刑事責任,在法理上和刑法具體適用上存在很多問題:其一,這一認定會出現(xiàn)主觀罪過無法準確評價的問題,即將過失犯罪認定為故意犯罪;其二,這一認定會導致具體認定罪名上的不平衡,即與傳統(tǒng)的駕駛汽車自然人駕駛員交通肇事罪認定上的嚴重差異。同樣都是違反交通運輸管理法規(guī)而導致交通事故的行為,對智能網(wǎng)聯(lián)車輛的研發(fā)者、生產(chǎn)者以故意的生產(chǎn)偽劣產(chǎn)品罪認定,而對傳統(tǒng)的有人駕駛汽車自然人駕駛員以過失的交通肇事罪認定。其三,智能網(wǎng)聯(lián)汽車的自動駕駛程序因違反交通運輸管理法規(guī)引發(fā)的交通事故,實際侵犯的法益是公共安全中的交通安全,而并非生產(chǎn)偽劣產(chǎn)品罪侵害的市場經(jīng)濟秩序。可見,從犯罪行為所侵犯的法益角度來看,該行為似乎也不宜歸入我國刑法分則第三章“破壞社會主義市場經(jīng)濟秩序罪”的相關罪名中。

    既然在認定智能網(wǎng)聯(lián)汽車因程序設置瑕疵而非使用者操作不當所引發(fā)交通事故行為性質(zhì)時,我們可能會陷入無法準確評價智能網(wǎng)聯(lián)汽車研發(fā)者、生產(chǎn)者的主觀罪過,定罪量刑不平衡以及超越犯罪行為所侵犯法益等尷尬處境,筆者認為,以重大責任事故罪追究生產(chǎn)者、研發(fā)者的過失犯罪似乎比較妥當。其原因在于,一是認定智能網(wǎng)聯(lián)汽車研發(fā)者、生產(chǎn)者構成重大責任事故罪,能夠準確評價研發(fā)者、生產(chǎn)者的主觀罪過。重大責任事故罪的主觀方面表現(xiàn)為過失,與智能網(wǎng)聯(lián)汽車研發(fā)者、生產(chǎn)者對于程序設置瑕疵所引發(fā)交通事故所持“否定”的心態(tài)相契合,能夠避免將過失犯罪以故意犯罪認定的問題出現(xiàn)。二是認定智能網(wǎng)聯(lián)汽車研發(fā)者、生產(chǎn)者構成重大責任事故罪,能夠準確評價研發(fā)者、生產(chǎn)者所實施的過失犯罪行為所侵犯的法益問題。重大責任事故罪是我國刑法分則第二章“危害公共安全罪”下的罪名,其侵犯的法益同樣也是公共安全,與智能網(wǎng)聯(lián)汽車因程序設置瑕疵而引發(fā)交通事故所指向的公共安全這一法益具有一致性。綜上所述,對于智能網(wǎng)聯(lián)汽車因自動駕駛系統(tǒng)程序設置瑕疵而引發(fā)交通事故的行為,以重大責任事故罪追究研發(fā)者、生產(chǎn)者的刑事責任,無論在刑法理論上還是在司法適用上均有較大的合理性。

    (二)智能網(wǎng)聯(lián)汽車危險駕駛行為的刑法應對

    時下,理論上對于智能網(wǎng)聯(lián)汽車是否可能涉及刑法中的危險駕駛罪較少展開討論,主要是因為相較于交通肇事行為,智能網(wǎng)聯(lián)汽車涉及危險駕駛行為的情況可能更為復雜。分析我國現(xiàn)行刑法條文的規(guī)定,我們不難發(fā)現(xiàn),危險駕駛罪的行為表現(xiàn)方式有四種:追逐競駛,情節(jié)惡劣的行為;醉酒駕駛機動車的行為;從事校車業(yè)務或者旅客運輸,嚴重超載,或者嚴重超速行駛的行為以及違反危險化學品安全管理規(guī)定運輸危險化學品,危及公共安全的行為。當智能網(wǎng)聯(lián)汽車處在自動駕駛非人為接管的狀態(tài),如果汽車的自動駕駛程序設置存在瑕疵或者由于其他原因引起了上述部分情況(例如,追逐競駛、超載、超速行駛等),是否存在刑事責任問題?誰來承擔刑事責任?

    筆者認為,對于自動駕駛程序設置瑕疵引發(fā)智能網(wǎng)聯(lián)汽車追逐競駛的行為,應具體問題具體分析。由于自動駕駛程序設置瑕疵屬于研發(fā)、生產(chǎn)過程中的問題,在此情況下,相關自動駕駛程序的研發(fā)者、生產(chǎn)者理應承擔相應的刑事責任。問題是以什么罪名追究研發(fā)者、生產(chǎn)者的刑事責任?如果參照上述將智能網(wǎng)聯(lián)汽車交通肇事行為以重大責任事故罪追究研發(fā)者、生產(chǎn)者刑事責任的思路處理,實際上就會存在一個問題,即重大責任事故罪是以“發(fā)生重大傷亡事故”或者“造成其他嚴重后果”為構成要件的。由此,以重大責任事故罪追究該情形下研發(fā)者、生產(chǎn)者的刑事責任,顯然不妥當。而危險駕駛罪屬危險犯,追逐競駛的行為構成危險駕駛罪不以造成重大傷亡事故或者其他嚴重后果為構成要件,因而現(xiàn)行刑法有關危險駕駛罪的規(guī)定可能確實很難直接規(guī)制上述追逐競駛的情形??梢姡悄芫W(wǎng)聯(lián)汽車研發(fā)者、生產(chǎn)者對于程序設置瑕疵而引發(fā)的自動駕駛車輛追逐競駛并危害公共安全的情況,在我國刑法分則第二章“危害公共安全罪”中確實很難找到相匹配的罪名。與之稍微類似的罪名絕大多數(shù)要以造成嚴重危害后果作為構罪要件,而危險駕駛罪又屬于“危險犯”,即構成該罪不需要造成危險后果?!?4 〕另外,危險駕駛罪的成立前提是在道路上駕駛機動車,而研發(fā)者、生產(chǎn)者并沒有實際在道路上駕駛機動車,因此,危險駕駛罪的規(guī)定無法直接規(guī)制智能網(wǎng)聯(lián)車輛因程序設置瑕疵而引發(fā)的追逐競駛行為。

    對此,筆者認為,在智能網(wǎng)聯(lián)汽車自動駕駛模式下,我們完全可以通過調(diào)整危險駕駛罪的相關表述,將智能網(wǎng)聯(lián)汽車的研發(fā)者和生產(chǎn)者也納入規(guī)制范圍。筆者的設想是將該罪的表述“在道路上駕駛機動車的,……”調(diào)整為“在道路上行駛的機動車,……”在通常情況下,盡管刑法設定某一個條文時會將行為主體(自然人)予以省略,但是,條文在規(guī)定相關行為時仍是以行為人為第一視角。然而,智能網(wǎng)聯(lián)汽車的出現(xiàn)使得駕駛類罪名的行為主體從自然人駕駛員轉(zhuǎn)向了智能網(wǎng)聯(lián)汽車,這就必然導致刑法設定相關犯罪內(nèi)容出現(xiàn)規(guī)制不足的局限性。如果刑法有關危險駕駛罪的規(guī)定以車為第一視角,使該罪的行為主體不局限于自然人駕駛員而是拓展至對危險駕駛行為負有直接或間接責任的人員,似乎更為合理。筆者認為,對危險駕駛罪的條文內(nèi)容作這樣的表述,一方面能夠涵蓋傳統(tǒng)危險駕駛罪的認定情形,即傳統(tǒng)駕駛模式下的責任人員就是自然人駕駛員,且不會擴大對涉普通汽車危險駕駛行為的打擊范圍;另一方面也符合智能網(wǎng)聯(lián)汽車的設定場景下,相關責任人員置換為智能網(wǎng)聯(lián)汽車自動駕駛程序設置的研發(fā)者、生產(chǎn)者。因為在智能網(wǎng)聯(lián)汽車自動駕駛模式下,與程序設置密切相關的責任人員就是研發(fā)者、生產(chǎn)者,因而以危險駕駛罪追究研發(fā)者、生產(chǎn)者的刑事責任,既準確評價了研發(fā)者、生產(chǎn)者因程序設置瑕疵所造成的對公共安全法益的侵害,又符合相關主體主觀方面所持的過失心態(tài),從而與傳統(tǒng)危險駕駛罪主觀方面的認定保持一致,同時也彌補了對這種行為刑法上沒有其他罪名加以匹配的缺陷,可謂一舉多得。

    針對醉酒駕駛的行為,由于智能網(wǎng)聯(lián)汽車本身不存在飲酒的情況,因而也就不存在醉酒駕車的情況。這里我們需要討論的是使用者醉酒是否構成危險駕駛罪。筆者認為,只要智能網(wǎng)聯(lián)汽車所具備的自動駕駛程序尚未達到完全自動駕駛的標準,車輛的使用者(或稱自然人輔助駕駛員)醉酒就需要承擔危險駕駛罪的刑事責任。換言之,在有條件自動駕駛以及高度自動駕駛等級下的智能網(wǎng)聯(lián)汽車的自然人輔助駕駛員醉酒并使用車輛的,可以構成危險駕駛罪。原因在于,上述兩種等級的智能網(wǎng)聯(lián)汽車存在提醒自然人輔助駕駛員接管駕駛的可能性,一旦程序判斷認為智能網(wǎng)聯(lián)汽車需要重新轉(zhuǎn)換為人工駕駛模式,那么駕駛人員就需要對車輛接管。即便在高度自動駕駛條件下,駕駛人員可以對汽車發(fā)出的指令不予理睬,但是該等級自動駕駛技術并非達到了100%智能,駕駛人員在一定程度上仍需要保持對周圍環(huán)境的監(jiān)測等駕駛注意義務。因而,只要駕駛人員在上述兩種情形下醉酒,仍需要承擔危險駕駛罪的刑事責任。而在完全自動駕駛條件下,智能網(wǎng)聯(lián)汽車在任何條件下都不需要人為介入對其接管,其已經(jīng)發(fā)展到了完全替代自然人駕駛員對智能網(wǎng)聯(lián)車輛進行操控。此時車輛的運行過程中不存在自然人輔助駕駛員,只存在純粹的使用者(或乘車人)。只要使用者的行為沒有妨礙到處于完全自動駕駛的智能網(wǎng)聯(lián)汽車的正常行駛,即便使用者處于醉酒狀態(tài)也不可能構成危險駕駛罪。可能會有觀點認為,在完全自動駕駛條件下允許使用者飲酒將會突破傳統(tǒng)的駕駛理念,因為通常情況下只有身體機能符合駕駛要求、意識清醒的人才有駕駛汽車的資格。一旦我們允許使用者飲酒,是否意味著也允許使用者睡覺?筆者認為,若智能網(wǎng)聯(lián)汽車的技術確實已經(jīng)達到了完全自動駕駛的標準,我們就應當予以使用者更多的自由。因為處于完全自動駕駛階段的汽車可以執(zhí)行全部的動態(tài)駕駛任務,根本不需要使用者的介入,此時的使用者對于完全自動駕駛汽車的安全行駛有著100%的信賴,其在汽車運行過程中所充當?shù)慕巧呀?jīng)從傳統(tǒng)的需要履行注意義務的駕駛人員轉(zhuǎn)變?yōu)榱思兇獾南硎芷嚢踩旭偹鶐淼谋憷氖褂谜?。這種“便利”不僅包含解放使用者的手腳,也應該包含解放使用者的大腦,而允許使用者飲酒、睡覺等即是解放使用者大腦的一種體現(xiàn)。

    我國刑法將從事校車業(yè)務或者旅客運輸,嚴重超過規(guī)定時速行駛的行為(超速)也納入危險駕駛罪之中。由于處于自動駕駛狀態(tài)下的智能網(wǎng)聯(lián)汽車的速度是由程序設定的,在沒有人為干擾的情況下,智能網(wǎng)聯(lián)汽車由于程序設置瑕疵進而超過規(guī)定時速行駛的行為,與智能網(wǎng)聯(lián)汽車追逐競駛的行為在認定犯罪行為的性質(zhì)上基本無異,目前我國刑法尚沒有合適的罪名規(guī)制這類行為。只有對危險駕駛罪刑法規(guī)定的內(nèi)容修改后,才可能以此罪名追究研發(fā)者、生產(chǎn)者的刑事責任。另外,在智能網(wǎng)聯(lián)汽車自動駕駛狀態(tài)下,對于危險駕駛罪中從事校車業(yè)務或者旅客運輸,嚴重超過額定乘員載客的行為(超載)以及違反危險化學品安全管理規(guī)定運輸危險化學品,危及公共安全的行為,如何適用?筆者認為,這兩種行為具有相似性,屬于汽車運營中裝載及運輸內(nèi)容違法的問題。由于超載和運輸危險化學品的行為,智能網(wǎng)聯(lián)汽車的研發(fā)者、生產(chǎn)者是很難控制或預料的。即便研發(fā)者、生產(chǎn)者盡到了注意義務,在汽車的研發(fā)和制造過程中已經(jīng)作了充分的提示,仍無法避免汽車使用人(通常為車輛所有人、管理人)在運行過程中出現(xiàn)超載和運輸危險化學品等違法情況。就此而言,對智能網(wǎng)聯(lián)汽車處于自動駕駛模式下的超載和運輸危險化學品的行為,我們只能追究智能網(wǎng)聯(lián)汽車的所有人、管理人危險駕駛罪的刑事責任。理由是,智能網(wǎng)聯(lián)汽車的超載和運輸危險化學品等行為并不是程序設置瑕疵引發(fā)的,而完全是汽車運營過程中汽車所有人、管理人的問題。正如前述,在智能網(wǎng)聯(lián)汽車自動駕駛模式下,自然人駕駛員已經(jīng)被智能程序所替代。但是,原本自然人駕駛員所應承擔的在駕駛過程中注意車輛是否超載,避開運輸危險化學品的注意義務實際上又無法轉(zhuǎn)移到智能網(wǎng)聯(lián)汽車的研發(fā)者、生產(chǎn)者身上。這是因為智能網(wǎng)聯(lián)汽車的研發(fā)者、生產(chǎn)者的注意義務其實僅限于保障汽車的生產(chǎn)質(zhì)量合格、程序運作正常,而不在于避免汽車在運營過程中裝載及運輸內(nèi)容的違法上。如果讓研發(fā)者、生產(chǎn)者承擔違法超額載客以及運輸危險化學品等非程序問題所造成的超載和運輸危險化學品的刑事責任,顯然突破了研發(fā)和生產(chǎn)的范圍,明顯不合理。

    筆者認為,車輛運營過程中的超載和運輸危險化學品的行為屬于汽車運營中的犯罪。對此,危險駕駛罪第2款明確規(guī)定:“機動車所有人、管理人對前款第三項、第四項行為負有直接責任的,依照前款的規(guī)定處罰。”可見,在傳統(tǒng)駕駛模式下,即便存在駕駛人員,當車輛所有人、管理人對于普通汽車超載或運輸危險化學品負有直接責任時也應承擔危險駕駛罪的刑事責任。那么在智能網(wǎng)聯(lián)汽車自動駕駛模式下,由于不存在駕駛人員,駕駛人員在車輛運營過程的注意義務就應該相應轉(zhuǎn)移到車輛的所有人和管理人身上。當智能網(wǎng)聯(lián)汽車的所有人和管理人應當預見到汽車超載或運輸危險化學品的行為可能導致智能網(wǎng)聯(lián)汽車發(fā)生危害社會的結果,因為疏忽大意沒有預見,或者已經(jīng)預見到而輕信能夠避免,以致智能網(wǎng)聯(lián)汽車因超載或運輸危險化學品而發(fā)生危害社會的結果,那么就應該承擔危險駕駛罪的刑事責任。

    (三)妨害智能網(wǎng)聯(lián)汽車安全駕駛行為的刑法應對

    針對近年來搶奪公交車方向盤的案件,刑法修正案(十一)增設了妨害安全駕駛罪。妨害安全駕駛罪是指:對行駛中的公共交通工具的駕駛人員使用暴力或者搶控駕駛操縱裝置,干擾公共交通工具正常行駛,危及公共安全,或者公共交通工具的駕駛人員在行駛中的公共交通工具上擅離職守,與他人互毆或者毆打他人,危及公共安全的行為。在智能網(wǎng)聯(lián)汽車自動駕駛模式下,智能網(wǎng)聯(lián)汽車自動駕駛程序代替了自然人駕駛員操控車輛的運行。但是,智能網(wǎng)聯(lián)汽車自動駕駛程序與自然人駕駛員對于路況的識別和判斷并不完全相同, 〔15 〕智能網(wǎng)聯(lián)汽車自動駕駛程序基于其深度學習的能力最終所形成的駕駛思維可能與自然人駕駛員存在差異。在此情況下,完全可能產(chǎn)生行為人因智能網(wǎng)聯(lián)汽車所選擇的行駛路線不符合預期路線,而要改變汽車的運行,進而對智能網(wǎng)聯(lián)汽車或者智能網(wǎng)聯(lián)汽車自動駕駛程序所控制的駕駛操控裝置加以破壞,干擾汽車正常行駛,危及公共安全的情況。那么,是否可以構成妨害安全駕駛罪?

    筆者認為,在智能網(wǎng)聯(lián)汽車自動駕駛模式下,如果行為人實施上述行為同樣可以構成妨害安全駕駛罪。這是因為自動駕駛程序?qū)χ悄芫W(wǎng)聯(lián)汽車的操控就相當于自然人駕駛員對普通汽車的操控。需要指出的是,妨害安全駕駛罪構成要件中行為人所實施犯罪行為指向的對象必須是“駕駛人員”,即只有對駕駛人員使用暴力或者搶控駕駛人員正常操控的駕駛操縱裝置,才能構成妨害安全駕駛罪。據(jù)此,有人可能會認為,在智能網(wǎng)聯(lián)汽車自動駕駛模式下,執(zhí)行駕駛行為的是程序而不是人,所以不能適用該罪名。但是,筆者認為,在智能網(wǎng)聯(lián)汽車自動駕駛模式出現(xiàn)之前,上述將妨害安全駕駛的對象限定為妨害“自然人”的安全駕駛行為本身無可厚非。因為傳統(tǒng)公共交通工具上的駕駛人員是自然人,所以行為人所實施的暴力行為或搶控行為不僅會使自然人駕駛員的生命健康受到威脅,還會妨礙自然人駕駛員在駕駛車輛時的正常判斷,從而危及公共交通工具正常行駛。但是,自動駕駛技術所掀起的汽車產(chǎn)業(yè)革命已經(jīng)從小汽車等試點領域拓展至無人駕駛公交車等領域, 〔16 〕自動駕駛技術從替代自然人駕駛員的手腳逐步發(fā)展為替代自然人駕駛員的大腦。在智能網(wǎng)聯(lián)汽車自動駕駛模式下,我們再糾結于公共交通工具上的駕駛人員是自然人還是“機器”(或者“機器人”)實際上已經(jīng)沒有多大意義了。既然智能網(wǎng)聯(lián)汽車自動駕駛程序在操控能力上可以代替自然人駕駛員(即我們實際上已經(jīng)將自動駕駛程序看作是自然人駕駛員),那么,其為何不能成為妨害安全駕駛行為的對象呢?由此,筆者認為,對自動駕駛階段的智能網(wǎng)聯(lián)汽車使用暴力或者搶控自動駕駛程序所操控的駕駛操縱裝置,干擾智能網(wǎng)聯(lián)汽車正常行駛,危及公共安全的行為,可以按妨害安全駕駛罪論處。

    筆者認為,在此情況下,唯一可能需要討論的是對“暴力”一詞的理解。眾所周知,刑法中的“暴力”指的是外力對人身體的強制。在傳統(tǒng)有人駕駛汽車的模式下,妨害安全駕駛罪中的“暴力”當然指的是外力對自然人駕駛員身體的強制。但是,在智能網(wǎng)聯(lián)汽車自動駕駛的模式下,妨害安全駕駛罪中的“暴力”就可以理解為包含外力對汽車自動駕駛程序的強制,這種強制使得自動駕駛程序受到外界干擾,發(fā)生故障,進而危及公共安全。既然技術的發(fā)展使得機器替代了自然人的大腦,我們也接受了這種設定上的突破,那么,對于“暴力”這一刑法用語為何在詞義上不能進行突破呢?

    另外,應該看到,刑法中妨害安全駕駛罪所規(guī)制的不僅是乘客對駕駛人員使用暴力或搶控駕駛操縱裝置的行為,同時還規(guī)制駕駛人員的行為,即刑法第133條之二第2款的規(guī)定:“前款規(guī)定的駕駛人員在行駛的公共交通工具上擅離職守,與他人互毆或者毆打他人,危及公共安全的,依照前款的規(guī)定處罰?!蹦敲?,在智能網(wǎng)聯(lián)汽車自動駕駛模式下,我們?nèi)绾芜m用該條該款的規(guī)定呢?筆者認為,即便我們可以將智能網(wǎng)聯(lián)汽車自動駕駛程序解釋為自然人駕駛員,但是,在目前情況下,不能將智能網(wǎng)聯(lián)汽車自動駕駛程序簡單與該條該款中的自然人駕駛員完全等同。因為,現(xiàn)時智能網(wǎng)聯(lián)汽車自動駕駛程序不具備生命和健康,即便受到暴力襲擊也不會反抗,即不會也不可能發(fā)生在遭受暴力時與他人互毆或毆打他人。由此可見,刑法有關妨害安全駕駛罪第2款的規(guī)定顯然不能適用于智能網(wǎng)聯(lián)汽車。

    應該看到,在傳統(tǒng)駕駛環(huán)境下,自然人駕駛員受到了他人施加的暴力,可能出于自衛(wèi)實施反抗,但是這種反抗與自然人駕駛員的職責相悖。因為自然人駕駛員作為車輛的掌控者,為保證車輛的行駛安全有序,需要在一定限度內(nèi)對外部的干擾予以容忍。如果其無法容忍進而采取反抗行為,違背了其應履行的職責,危及公共安全,那么就需要對其以妨害安全駕駛罪處罰。而在智能網(wǎng)聯(lián)汽車自動駕駛模式下,即便他人對智能網(wǎng)聯(lián)汽車施加暴力,智能網(wǎng)聯(lián)汽車及其控制程序不能也無法對他人進行反抗,但是智能網(wǎng)聯(lián)汽車及其控制程序會因為受到他人的暴力侵害而出現(xiàn)故障,而這些故障有可能危及公共安全中的交通安全。

    最后需要注意的是,對于智能網(wǎng)聯(lián)汽車交通肇事行為、危險駕駛行為以及妨害智能網(wǎng)聯(lián)汽車安全駕駛行為,在具體刑事責任的承擔和分配過程中也需要遵循筆者在前文提出的“打折”原則,也即需根據(jù)智能網(wǎng)聯(lián)汽車自動駕駛的智能程度,對各主體所應承擔的刑事責任作相應比例的劃分或分配。

    結? 語

    智能網(wǎng)聯(lián)汽車作為人工智能時代的新興產(chǎn)物,在給人類駕駛體驗帶來提升、給汽車產(chǎn)業(yè)帶來革新的同時,也必然伴隨著前所未有的諸多風險。一旦這些風險達到一定程度,就需要刑法的介入并對引發(fā)風險的行為予以規(guī)制。人工智能時代,刑法學研究需要前瞻性的思考,不能等到智能網(wǎng)聯(lián)汽車正式推廣出現(xiàn)問題后,再考慮完善刑事立法和刑事司法適用。我們應當未雨綢繆,提前對涉智能網(wǎng)聯(lián)汽車犯罪進行規(guī)制,杜絕“讓子彈飛一會兒”的情形在人工智能時代發(fā)生和存在。技術向善的同時,刑法也要向前。

    華東政法大學刑事法學院教授、博士生導師。

    本文系國家社會科學基金重大項目“網(wǎng)絡時代的社會治理與刑法體系的理論創(chuàng)新”(項目批準號:20&ZD199)的階段性研究成果。

    〔1〕《〈智能網(wǎng)聯(lián)汽車道路測試與示范應用管理規(guī)范(試行)〉(征求意見稿)編制說明》,載中華人民共和國工業(yè)和信息部官網(wǎng),https://www.miit.gov.cn/gzcy/yjzj/art/2021/art_bd5ef75343a44e01b3bc87cb7593bc45.html,2021年7月10日訪問。

    〔2〕需要指出的是,2021年3月公安部發(fā)布的道路交通安全法(修訂建議稿),將自動駕駛汽車分為兩種:具有自動駕駛功能且具備人工直接操作模式的汽車和具有自動駕駛功能但不具備人工直接操作模式的汽車。

    〔3〕See SAE Surface Vehicle Recommended Practice, Taxonomy and Definitions for Terms Related to Driving Automation Systems for On-Road Motor Vehicles, J3016, June 2018.

    〔4〕動態(tài)駕駛任務是指,除策略性功能外的車輛駕駛所需的感知、決策和執(zhí)行等行為,包括但不限于:車輛橫向運動控制、車輛縱向運動控制、目標和事件探測與響應、駕駛決策、車輛照明及信號裝置控制。最小風險策略是指,駕駛自動化系統(tǒng)無法繼續(xù)執(zhí)行動態(tài)駕駛任務時,所采取的使車輛達到最小風險狀態(tài)的措施。

    〔5〕參見阮晨欣、范潔:《網(wǎng)絡3.0時代未成年人權益的軟性保護》,載《青少年犯罪問題》2019年第4期。

    〔6〕參見劉憲權:《對人工智能法學研究“偽批判”的回應》,載《法學》2020年第1期。

    〔7〕大數(shù)據(jù)時代,數(shù)據(jù)就是金錢,數(shù)據(jù)就是權力,在企業(yè)的商業(yè)模式和國家的社會治理模式以數(shù)據(jù)為核心發(fā)生轉(zhuǎn)變的同時,違法犯罪行為也以數(shù)據(jù)為核心發(fā)生轉(zhuǎn)變,所以出現(xiàn)了“數(shù)據(jù)風險”的概念。參見黃麗勤、宋駿男:《未成年人數(shù)據(jù)權的二元保護研究》,載《青少年犯罪問題》2020年第4期。

    〔8〕同前注〔6〕,劉憲權文。

    〔9〕《Uber自動駕駛汽車在美國撞死行人,無人駕駛時代還有多遠?》,載汽車記者網(wǎng),https://baijiahao.baidu.com/s?id=1595424630 565849399&wfr=spider&for=pc,2021年7月10日訪問。

    〔10〕參見劉憲權:《涉人工智能產(chǎn)品犯罪刑事責任的歸屬與性質(zhì)認定》,載《華東政法大學學報》2021年第1期。

    〔11〕劉憲權、房慧穎:《涉人工智能犯罪的前瞻性刑法思考》,載《安徽大學學報(哲學社會科學版)》2019年第1期。

    〔12〕劉憲權:《智能機器人工具屬性之法哲學思考》,載《中國刑事法雜志》2020年第5期。

    〔13〕同前注〔10〕,劉憲權文。

    〔14〕參見劉憲權、周舟:《危險駕駛罪主觀方面的刑法分析》,載《東方法學》2013年第1期。

    〔15〕參見侯郭磊:《自動駕駛汽車風險的立法規(guī)制研究》,載《法學論壇》2018年第5期。

    〔16〕《智能網(wǎng)聯(lián)公交:加速體系構建,服務智慧出行》,載搜狐網(wǎng),https://www.sohu.com/a/426457772_565998,2021年7月12日訪問。

    Abstract: The criminal risks arising from the intelligent networked vehicles technology include the internal worries caused by the flaws in program setting and the external troubles caused by external interference. The criminal risks faced by the developers and producers of intelligent networked vehicles may be greater than those of users. When the liabilities involving these crimes are determined, the principle of making a discount should be applied, i.e.to divide the responsibility of each relevant subject according to the certain proportion according to the degree of the autopilot's intelligent level. If a traffic accident is caused by a violation of traffic and transportation regulations in the intelligent networked vehicle auto-driving mode, the developer and manufacturer of the intelligent networked vehicle program should be held responsible for the crime of major liability accident. If the intelligent networked vehicles are overloaded for transportation and endanger public safety, the owners and managers of intelligent networked vehicles should be held responsible for the crime of dangerous driving. If people use violence to take control or wrest the intelligent networked vehicle under the auto-driving mode, interfere with the normal driving and endanger public safety, they shall be punished for the crime of obstructing safe driving.

    Key words: intelligent networked vehicle; intelligent level; criminal responsibility distribution; traffic accident; dangerous driving; hinder safe driving

    猜你喜歡
    智能網(wǎng)聯(lián)汽車交通肇事
    在什么情況可以認定為“交通肇事后逃逸”?
    人民之聲(2019年6期)2019-08-01 01:26:16
    淺談智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)投資基金的風險控制
    商情(2018年25期)2018-07-08 14:16:14
    我國智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)的發(fā)展困境與應對策略
    基于攻擊樹的智能網(wǎng)聯(lián)汽車滲透測試方法
    國內(nèi)外智能網(wǎng)聯(lián)汽車測試場地發(fā)展分析
    科技視界(2017年29期)2018-01-18 06:10:26
    智能網(wǎng)聯(lián)汽車網(wǎng)絡架構方案研究
    汽車科技(2017年3期)2017-06-12 12:41:56
    交通肇事發(fā)生后傷者可以得到哪些賠償
    “交通運輸肇事后逃逸”的認定——以張某某交通肇事抗訴案為例
    淺析交通肇事逃逸行為
    多種刑事偵查技術認定同一起交通肇事
    西藏科技(2015年9期)2015-09-26 12:15:28
    成人欧美大片| 国产高清三级在线| 中文字幕免费在线视频6| 国产av麻豆久久久久久久| 国产乱人伦免费视频| 亚洲精品在线观看二区| 一个人免费在线观看的高清视频| 欧美zozozo另类| 国产单亲对白刺激| 中文资源天堂在线| 日韩欧美国产一区二区入口| 亚洲狠狠婷婷综合久久图片| 少妇人妻精品综合一区二区 | 免费av观看视频| 成人特级黄色片久久久久久久| 国产免费一级a男人的天堂| 不卡一级毛片| 国产私拍福利视频在线观看| 夜夜爽天天搞| 国产精品亚洲av一区麻豆| 亚洲中文日韩欧美视频| 亚洲av成人不卡在线观看播放网| 国产欧美日韩精品亚洲av| 18禁裸乳无遮挡免费网站照片| 99久久精品国产亚洲精品| 中文字幕久久专区| 国产乱人视频| 好男人在线观看高清免费视频| xxxwww97欧美| 欧美高清成人免费视频www| 国产高清视频在线播放一区| 久久久久久久久久黄片| 久久久国产成人免费| 国产综合懂色| 999久久久精品免费观看国产| 一级a爱片免费观看的视频| 中文字幕熟女人妻在线| 国产真实乱freesex| 久久国产精品人妻蜜桃| 亚洲一区二区三区色噜噜| 美女免费视频网站| 亚洲av美国av| 国产精品爽爽va在线观看网站| 国产黄a三级三级三级人| 嫩草影院精品99| 色吧在线观看| 一a级毛片在线观看| 中文字幕人成人乱码亚洲影| www.色视频.com| 亚洲精品色激情综合| 亚洲无线在线观看| 精品免费久久久久久久清纯| 最近最新免费中文字幕在线| 最后的刺客免费高清国语| 久久九九热精品免费| 18禁黄网站禁片午夜丰满| 女人被狂操c到高潮| av黄色大香蕉| 午夜免费男女啪啪视频观看 | 在线观看午夜福利视频| 99久久成人亚洲精品观看| 国产精品99久久久久久久久| 日本黄色视频三级网站网址| 丰满乱子伦码专区| 成人无遮挡网站| 免费在线观看亚洲国产| 亚洲va日本ⅴa欧美va伊人久久| av福利片在线观看| 亚洲精品一区av在线观看| 久久久成人免费电影| 国产一区二区三区在线臀色熟女| 1024手机看黄色片| 91在线观看av| 午夜福利在线在线| 亚洲av一区综合| 亚洲一区高清亚洲精品| 国产精品99久久久久久久久| 久久精品人妻少妇| 深爱激情五月婷婷| 丰满人妻熟妇乱又伦精品不卡| 国产免费男女视频| 久久这里只有精品中国| 亚洲欧美清纯卡通| 亚洲在线自拍视频| 亚洲精品一区av在线观看| 国产精品综合久久久久久久免费| 在线观看av片永久免费下载| 国产精品精品国产色婷婷| 高清日韩中文字幕在线| 观看美女的网站| 国产单亲对白刺激| 在线a可以看的网站| 国产蜜桃级精品一区二区三区| 日韩欧美一区二区三区在线观看| 99热只有精品国产| 国产高清有码在线观看视频| 级片在线观看| 91久久精品电影网| 欧美一区二区亚洲| 久久午夜亚洲精品久久| 国产在线精品亚洲第一网站| 亚洲专区中文字幕在线| 亚洲欧美日韩卡通动漫| 亚洲精品乱码久久久v下载方式| 老司机深夜福利视频在线观看| 好男人电影高清在线观看| 丰满乱子伦码专区| 精品久久久久久成人av| 亚洲一区二区三区不卡视频| 搡老岳熟女国产| 日韩av在线大香蕉| 一级黄片播放器| 国产欧美日韩精品一区二区| av天堂中文字幕网| 日本与韩国留学比较| 午夜a级毛片| 亚洲av成人av| 天堂网av新在线| 欧美最黄视频在线播放免费| 天堂网av新在线| 亚洲第一电影网av| 亚洲午夜理论影院| 伊人久久精品亚洲午夜| 亚洲中文字幕日韩| 欧美区成人在线视频| 精品一区二区三区人妻视频| 丁香欧美五月| 一二三四社区在线视频社区8| 久久这里只有精品中国| 波多野结衣高清作品| 狠狠狠狠99中文字幕| 青草久久国产| 亚洲av电影不卡..在线观看| 免费在线观看日本一区| 久久久久国产精品人妻aⅴ院| 免费av不卡在线播放| 国产蜜桃级精品一区二区三区| 日韩av在线大香蕉| 一级av片app| 亚洲av中文字字幕乱码综合| 久久香蕉精品热| 99久久精品热视频| 禁无遮挡网站| 亚洲一区二区三区不卡视频| 久久亚洲精品不卡| 久久久国产成人免费| 91狼人影院| 日本与韩国留学比较| 欧美性猛交黑人性爽| 一级黄片播放器| 成人高潮视频无遮挡免费网站| 村上凉子中文字幕在线| 成人无遮挡网站| 欧美最黄视频在线播放免费| 国产野战对白在线观看| 男人的好看免费观看在线视频| 在线播放国产精品三级| 国产亚洲精品久久久久久毛片| 搡老岳熟女国产| 国产精品三级大全| 欧美一区二区亚洲| 18禁黄网站禁片免费观看直播| 欧美潮喷喷水| 可以在线观看毛片的网站| 91狼人影院| 小说图片视频综合网站| 老熟妇仑乱视频hdxx| 国产男靠女视频免费网站| 丰满人妻一区二区三区视频av| 亚洲精品粉嫩美女一区| 亚洲性夜色夜夜综合| 国产亚洲精品久久久com| 中出人妻视频一区二区| 亚洲在线自拍视频| 欧美精品啪啪一区二区三区| 此物有八面人人有两片| 一进一出好大好爽视频| 观看美女的网站| 免费观看的影片在线观看| 色精品久久人妻99蜜桃| 男人狂女人下面高潮的视频| 国产精品永久免费网站| 中文资源天堂在线| 欧美黑人欧美精品刺激| 成年女人毛片免费观看观看9| 少妇熟女aⅴ在线视频| 久久精品国产清高在天天线| 国产视频内射| 99视频精品全部免费 在线| 有码 亚洲区| 蜜桃亚洲精品一区二区三区| 熟妇人妻久久中文字幕3abv| 国产男靠女视频免费网站| 久久久精品欧美日韩精品| 国产单亲对白刺激| 欧美一区二区精品小视频在线| 久久久久久大精品| 国产aⅴ精品一区二区三区波| 国产午夜福利久久久久久| 欧美性猛交黑人性爽| 久久久国产成人精品二区| 两人在一起打扑克的视频| 97超级碰碰碰精品色视频在线观看| 麻豆国产av国片精品| 欧美3d第一页| 99热精品在线国产| 在线国产一区二区在线| 国产极品精品免费视频能看的| 国产一级毛片七仙女欲春2| 97人妻精品一区二区三区麻豆| 18禁黄网站禁片免费观看直播| 欧美精品国产亚洲| 天天躁日日操中文字幕| 日本黄色片子视频| 亚洲av成人精品一区久久| 免费无遮挡裸体视频| 深夜a级毛片| 国产精品爽爽va在线观看网站| 男插女下体视频免费在线播放| 免费看日本二区| 国产伦在线观看视频一区| 国产午夜精品久久久久久一区二区三区 | 黄色一级大片看看| 亚洲国产欧美人成| 日本三级黄在线观看| 97碰自拍视频| 亚洲五月婷婷丁香| 日韩国内少妇激情av| 丰满人妻一区二区三区视频av| 久99久视频精品免费| 伦理电影大哥的女人| 欧美精品国产亚洲| 欧美xxxx性猛交bbbb| 搡老熟女国产l中国老女人| 2021天堂中文幕一二区在线观| 国产高清视频在线观看网站| 国产亚洲精品久久久com| 国产成人aa在线观看| 午夜久久久久精精品| 日日摸夜夜添夜夜添小说| 精品一区二区三区人妻视频| av欧美777| 久久亚洲真实| 精品日产1卡2卡| 国产精品人妻久久久久久| 99久久久亚洲精品蜜臀av| 国产精品一及| 一边摸一边抽搐一进一小说| 成人亚洲精品av一区二区| 国产伦一二天堂av在线观看| 国产av在哪里看| 亚洲av第一区精品v没综合| 日本撒尿小便嘘嘘汇集6| 美女被艹到高潮喷水动态| 亚洲 国产 在线| 最近中文字幕高清免费大全6 | 国内毛片毛片毛片毛片毛片| 成人av在线播放网站| 看免费av毛片| 免费在线观看日本一区| 日韩欧美在线乱码| 国内精品一区二区在线观看| 国产高清激情床上av| 亚洲av免费高清在线观看| 少妇熟女aⅴ在线视频| 亚洲av成人av| av在线老鸭窝| 国产精品久久久久久精品电影| 欧美激情在线99| 天堂av国产一区二区熟女人妻| eeuss影院久久| 三级毛片av免费| 国产亚洲精品久久久久久毛片| 国产一区二区三区在线臀色熟女| 亚洲久久久久久中文字幕| 亚洲 欧美 日韩 在线 免费| 在线观看美女被高潮喷水网站 | 91在线观看av| 一区二区三区高清视频在线| 精品一区二区免费观看| 美女 人体艺术 gogo| 成人特级黄色片久久久久久久| 超碰av人人做人人爽久久| 怎么达到女性高潮| 精品乱码久久久久久99久播| 天堂影院成人在线观看| 99久久精品热视频| 国产久久久一区二区三区| 自拍偷自拍亚洲精品老妇| 真人一进一出gif抽搐免费| 白带黄色成豆腐渣| 亚洲av熟女| 欧美高清成人免费视频www| www.999成人在线观看| 国产成人啪精品午夜网站| 自拍偷自拍亚洲精品老妇| 国产人妻一区二区三区在| 久久香蕉精品热| 欧美在线一区亚洲| 亚洲欧美日韩东京热| 90打野战视频偷拍视频| 午夜视频国产福利| 亚洲熟妇熟女久久| 亚洲欧美日韩高清在线视频| 成人三级黄色视频| 午夜福利视频1000在线观看| 两性午夜刺激爽爽歪歪视频在线观看| 午夜福利免费观看在线| 国产精品电影一区二区三区| 久久精品久久久久久噜噜老黄 | 日日干狠狠操夜夜爽| 欧美一级a爱片免费观看看| 日韩免费av在线播放| 免费搜索国产男女视频| 成人永久免费在线观看视频| 成年女人永久免费观看视频| 国产激情偷乱视频一区二区| 波多野结衣高清作品| 精品人妻一区二区三区麻豆 | 桃色一区二区三区在线观看| 女同久久另类99精品国产91| 久久精品综合一区二区三区| 亚洲avbb在线观看| 一区二区三区高清视频在线| 亚洲av免费高清在线观看| 三级男女做爰猛烈吃奶摸视频| 丰满乱子伦码专区| 国产在线男女| 九九热线精品视视频播放| 午夜久久久久精精品| 2021天堂中文幕一二区在线观| 51午夜福利影视在线观看| 日日夜夜操网爽| 九九久久精品国产亚洲av麻豆| 久久午夜亚洲精品久久| 少妇熟女aⅴ在线视频| 黄色视频,在线免费观看| 久久精品国产亚洲av天美| 欧美三级亚洲精品| 97人妻精品一区二区三区麻豆| 精品久久久久久久久亚洲 | 亚洲成人精品中文字幕电影| 欧美又色又爽又黄视频| 一二三四社区在线视频社区8| 天天躁日日操中文字幕| 午夜激情欧美在线| 伊人久久精品亚洲午夜| 亚洲欧美日韩无卡精品| 亚洲五月天丁香| 日本一本二区三区精品| 国产高清视频在线播放一区| 欧美一区二区国产精品久久精品| av视频在线观看入口| 淫妇啪啪啪对白视频| 国产高清视频在线播放一区| 欧美日韩乱码在线| av黄色大香蕉| 久久人人精品亚洲av| 亚洲av免费高清在线观看| 国产精品乱码一区二三区的特点| 少妇丰满av| 非洲黑人性xxxx精品又粗又长| 一个人看视频在线观看www免费| 免费av毛片视频| 少妇人妻精品综合一区二区 | 亚洲狠狠婷婷综合久久图片| 又爽又黄a免费视频| 午夜福利在线在线| 亚洲精品影视一区二区三区av| 免费人成在线观看视频色| 亚洲av免费在线观看| 国产又黄又爽又无遮挡在线| 免费电影在线观看免费观看| 亚洲人成网站高清观看| 亚洲内射少妇av| 亚洲在线观看片| 久久久久久久久久黄片| 日日夜夜操网爽| 长腿黑丝高跟| 99精品在免费线老司机午夜| 久久久久久久午夜电影| 日韩欧美在线乱码| 18禁在线播放成人免费| 国产亚洲精品综合一区在线观看| 十八禁网站免费在线| 国产又黄又爽又无遮挡在线| av在线观看视频网站免费| 国产亚洲av嫩草精品影院| 亚洲,欧美,日韩| 国产黄a三级三级三级人| 亚洲在线自拍视频| 亚洲内射少妇av| 啦啦啦韩国在线观看视频| 亚洲熟妇中文字幕五十中出| 国产av麻豆久久久久久久| 亚洲内射少妇av| 欧美潮喷喷水| 波多野结衣高清作品| 亚洲男人的天堂狠狠| 国产男靠女视频免费网站| 日本撒尿小便嘘嘘汇集6| 午夜影院日韩av| 又爽又黄无遮挡网站| 丁香欧美五月| 蜜桃久久精品国产亚洲av| 丰满的人妻完整版| 尤物成人国产欧美一区二区三区| 亚洲美女黄片视频| 日韩有码中文字幕| 欧美一区二区精品小视频在线| 91久久精品国产一区二区成人| 啦啦啦观看免费观看视频高清| 国产精品av视频在线免费观看| 成熟少妇高潮喷水视频| 久久精品国产清高在天天线| 中文字幕久久专区| 亚洲最大成人av| 成人一区二区视频在线观看| 天堂动漫精品| 蜜桃久久精品国产亚洲av| av欧美777| 国产精品永久免费网站| 亚州av有码| 中文字幕久久专区| 噜噜噜噜噜久久久久久91| 少妇的逼水好多| 综合色av麻豆| 国产探花极品一区二区| 天天躁日日操中文字幕| 亚洲国产高清在线一区二区三| 亚洲性夜色夜夜综合| 欧美bdsm另类| 免费观看的影片在线观看| 女同久久另类99精品国产91| 久久6这里有精品| 国产精品人妻久久久久久| 宅男免费午夜| 首页视频小说图片口味搜索| 国产午夜福利久久久久久| 国产精品久久视频播放| 亚洲,欧美,日韩| 婷婷色综合大香蕉| 欧美乱妇无乱码| 日日夜夜操网爽| 无遮挡黄片免费观看| 亚洲av免费高清在线观看| 欧美乱色亚洲激情| 精品久久久久久久久av| 欧美中文日本在线观看视频| 悠悠久久av| 亚洲av一区综合| 99热精品在线国产| 2021天堂中文幕一二区在线观| 深爱激情五月婷婷| 高潮久久久久久久久久久不卡| 亚洲专区中文字幕在线| 中亚洲国语对白在线视频| 好看av亚洲va欧美ⅴa在| 精品久久国产蜜桃| 国产aⅴ精品一区二区三区波| 91九色精品人成在线观看| av欧美777| 欧美3d第一页| 国产三级中文精品| 男人和女人高潮做爰伦理| 在线观看免费视频日本深夜| 丝袜美腿在线中文| 亚洲va日本ⅴa欧美va伊人久久| 亚洲精品色激情综合| www.熟女人妻精品国产| 3wmmmm亚洲av在线观看| 久久99热6这里只有精品| 每晚都被弄得嗷嗷叫到高潮| 俺也久久电影网| av天堂中文字幕网| 久久久久久久精品吃奶| 亚洲最大成人中文| 露出奶头的视频| 国产欧美日韩精品一区二区| 亚洲av免费在线观看| 久久伊人香网站| 自拍偷自拍亚洲精品老妇| 日韩 亚洲 欧美在线| 国产一级毛片七仙女欲春2| a在线观看视频网站| 伦理电影大哥的女人| 搡老妇女老女人老熟妇| 成人欧美大片| 精品午夜福利在线看| 日本一本二区三区精品| avwww免费| 国产69精品久久久久777片| 身体一侧抽搐| 男插女下体视频免费在线播放| 欧美高清成人免费视频www| 有码 亚洲区| 又黄又爽又刺激的免费视频.| 美女免费视频网站| 在线免费观看不下载黄p国产 | 三级男女做爰猛烈吃奶摸视频| 久久午夜福利片| av在线蜜桃| 国产69精品久久久久777片| 黄色女人牲交| 国产精品野战在线观看| 国产高清有码在线观看视频| 亚洲电影在线观看av| 18禁黄网站禁片午夜丰满| 国产午夜精品久久久久久一区二区三区 | 国产大屁股一区二区在线视频| 国产精品av视频在线免费观看| 午夜久久久久精精品| 丰满乱子伦码专区| 少妇高潮的动态图| 欧美成人一区二区免费高清观看| 成人高潮视频无遮挡免费网站| 久久久精品欧美日韩精品| 看免费av毛片| 亚洲av一区综合| 亚洲人成网站在线播放欧美日韩| 国产亚洲精品久久久com| 成人国产一区最新在线观看| 欧美色欧美亚洲另类二区| 亚洲精品一区av在线观看| 成熟少妇高潮喷水视频| 欧美黄色片欧美黄色片| 国产亚洲精品综合一区在线观看| 99国产综合亚洲精品| 成人国产综合亚洲| 1024手机看黄色片| 久久国产乱子免费精品| 又爽又黄a免费视频| 男女床上黄色一级片免费看| 亚洲一区二区三区不卡视频| 18美女黄网站色大片免费观看| 国产极品精品免费视频能看的| 嫁个100分男人电影在线观看| av在线蜜桃| 欧美黄色淫秽网站| 久久精品国产自在天天线| 别揉我奶头 嗯啊视频| 亚洲av免费在线观看| 日日摸夜夜添夜夜添av毛片 | 在线免费观看不下载黄p国产 | 国产精品女同一区二区软件 | 国产精品综合久久久久久久免费| 男人的好看免费观看在线视频| 国产亚洲精品久久久久久毛片| 国产真实乱freesex| 精品久久久久久,| 九色国产91popny在线| 97超视频在线观看视频| 啦啦啦韩国在线观看视频| 美女高潮喷水抽搐中文字幕| 99热精品在线国产| 嫩草影院新地址| 国产免费一级a男人的天堂| 亚洲第一欧美日韩一区二区三区| 欧美bdsm另类| 国产欧美日韩精品一区二区| 免费搜索国产男女视频| 成年女人毛片免费观看观看9| 草草在线视频免费看| 国产精品一区二区免费欧美| 国产三级黄色录像| 成人国产综合亚洲| 日本 欧美在线| 精品一区二区三区人妻视频| 成年女人毛片免费观看观看9| 搡女人真爽免费视频火全软件 | 欧美一区二区亚洲| 国产精品亚洲美女久久久| 俺也久久电影网| 日韩成人在线观看一区二区三区| 丰满人妻熟妇乱又伦精品不卡| 哪里可以看免费的av片| 白带黄色成豆腐渣| 精品熟女少妇八av免费久了| 久久精品久久久久久噜噜老黄 | 99热这里只有精品一区| 亚洲熟妇熟女久久| 国产精品98久久久久久宅男小说| 国产麻豆成人av免费视频| 91麻豆精品激情在线观看国产| 午夜视频国产福利| 十八禁人妻一区二区| 少妇人妻一区二区三区视频| 欧美潮喷喷水| 久久久久国内视频| 久久国产乱子免费精品| 免费一级毛片在线播放高清视频| 91在线精品国自产拍蜜月| 好男人电影高清在线观看| 中文在线观看免费www的网站| 国产一区二区三区在线臀色熟女| 亚洲专区国产一区二区| 美女高潮的动态| 国产国拍精品亚洲av在线观看| 黄色一级大片看看| 精品久久久久久久末码| 在线观看免费视频日本深夜| 国产淫片久久久久久久久 | 国产精品久久久久久人妻精品电影| 亚洲第一区二区三区不卡| 欧美另类亚洲清纯唯美| 国产一区二区三区在线臀色熟女| 国产视频一区二区在线看| 国产成人欧美在线观看| 亚洲内射少妇av| 国产视频一区二区在线看| 麻豆av噜噜一区二区三区| 黄色女人牲交| 国产色婷婷99| 狠狠狠狠99中文字幕| 国产一区二区三区视频了|