• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論智能汽車侵權(quán)責(zé)任立法
    ——以工具性人格為中心

    2019-03-26 06:50:47許中緣
    法學(xué) 2019年4期
    關(guān)鍵詞:駕駛者無(wú)人駕駛制造商

    ●許中緣

    “智能汽車”(“autonomous vehicles”或“self-driving cars”)〔1〕也可以將其翻譯為“無(wú)人駕駛汽車”。但基于現(xiàn)階段無(wú)人駕駛汽車均需要有駕駛者,本文特將其翻譯為“智能汽車”。但為了使用的方便,本文也采用“自動(dòng)駕駛汽車”“無(wú)人駕駛汽車”等概念,除非特別說(shuō)明,這些概念之間并沒有明顯差異。已經(jīng)從理想變成現(xiàn)實(shí)。繼 2012年美國(guó)首次為谷歌汽車頒發(fā)無(wú)人駕駛測(cè)試執(zhí)照后,智能汽車已經(jīng)成為諸多汽車生產(chǎn)商的新寵。〔2〕See CNN Wire Staff, Google Gets License to Operate Driverless Cars in Nevada, https://edition.cnn.com/2012/05/07/tech/nevada-driveless-car/,2018年8月20日訪問。智能汽車正在改善并融入市民生活,與此同時(shí),無(wú)人駕駛汽車相關(guān)立法亦相繼出臺(tái)。2017年,美國(guó)僅有6個(gè)州支持無(wú)人駕駛汽車合法化,而到2018年,這一數(shù)字已發(fā)展至33個(gè)?!?〕參見《無(wú)人駕駛汽車:這里有你應(yīng)該知道的一切》,http://www.sohu.com/a/234410934_100001185,2018年11月3日訪問。責(zé)任承擔(dān)是智能汽車立法所需解決的關(guān)鍵課題,“就自動(dòng)駕駛系統(tǒng)而言,責(zé)任必須先于向公眾部署之前得以‘解決’”,〔4〕See Jessica S.Brodsky, Autonomous Vehicle Regulation: How an Uncertain Legal Landscape May Hit the Brakes on Self-Driving Cars, Berkeley Tech.L.J.31, 2016, p.851.這關(guān)涉智能汽車技術(shù)的發(fā)展前景,立法若應(yīng)對(duì)遲緩或不周延則會(huì)“降低或者完全阻止消費(fèi)者接受高度發(fā)達(dá)智能汽車技術(shù)的意愿”?!?〕See James M.Anderson et al., Autonomous Vehicle Technology: A Guide for Policymakers, RAND Corporation, 2014, p.47.然而,美國(guó)已經(jīng)頒布的無(wú)人駕駛汽車相關(guān)立法“并沒有對(duì)智能汽車事故的責(zé)任確定進(jìn)行直接規(guī)定”?!?〕See Gary E.Marchant & Rachel A.Lindor, The Coming Collision Between Autonomous Vehicles and the Liability System,Santa Clara L.Rev.52, 2012, pp.1321-1322.其根源在于智能汽車牽涉的法律關(guān)系極為復(fù)雜,立法難以對(duì)其進(jìn)行準(zhǔn)確規(guī)范。最主要的原因是在英美法系國(guó)家,立法的缺位可以通過司法造法活動(dòng)彌補(bǔ)。即便如此,在2018年7月19日正式成為法律的英國(guó)《自動(dòng)與電動(dòng)汽車法案》(Automated and Electric Vehicles Bill,簡(jiǎn)稱AEV法案)明確規(guī)定了智能汽車所有人與保險(xiǎn)人的責(zé)任?!?〕See Automated and Electric Vehicles Bill, part 1, https://publications.parliament.uk/pa/bills/cbill/2017-2019/0112/18112.pdf,2018年11月7日訪問。2017年6月21日德國(guó)《道路交通法》(Stra?enverkehrsgesetz, StVG)進(jìn)行了修訂,對(duì)智能汽車的侵權(quán)責(zé)任作出系統(tǒng)規(guī)范?!?〕See Markus Burianski and M.Theissen, An Important Milestone as Germany Permits Automated Vehicles: Market Impact and Outlook, https://www.businesslaw-magazine.com/wp-content/uploads/sites/4/2017/09/1_Burianski_BLM_032017.pdf,2018年 7月 14日訪問。作為世界首部系統(tǒng)化地規(guī)范智能汽車侵權(quán)責(zé)任的法律,其因堅(jiān)持維護(hù)現(xiàn)行侵權(quán)責(zé)任體系而在草案公布之時(shí)便遭受諸多批評(píng)。〔9〕See Who’ll Be in the Driving Seat in Future? German Bundestag Passes Draft Bill on Automated Driving, https://www.gsk.de/uploads/media/GSK-Update_Bundestag_passes_draft_bill_on_automated_driving_01.pdf,2018年7月14日訪問。國(guó)內(nèi)外學(xué)者對(duì)智能汽車侵權(quán)責(zé)任大都持保守態(tài)度,認(rèn)為現(xiàn)有的諸如產(chǎn)品責(zé)任法、消費(fèi)者權(quán)益保護(hù)法、合同法等法律便能夠解決智能汽車責(zé)任承擔(dān)問題?!?0〕美國(guó)加州大學(xué)洛杉磯分校電氣工程和公共政策教授John Villasenor認(rèn)為“產(chǎn)品責(zé)任法提供了一個(gè)經(jīng)過時(shí)間考驗(yàn)的框架,在其他情況下已被證明適應(yīng)技術(shù)驅(qū)動(dòng)的責(zé)任問題”,他認(rèn)為同樣的框架“當(dāng)應(yīng)用于自動(dòng)駕駛汽車時(shí),同樣能夠這樣做”。同前注〔5〕,James M.Anderson等文。同樣的觀點(diǎn)參見Ryan Abbott, The Reasonable Computer: Disrupting the Paradigm of Tort Liability, Geo.Wash.L.Rev.1, 2018, pp.1-45; Richard Kelley et al., Liability in Robotics: An International Perspective on Robots as Animals, Advanced Robotics 24, 2010, p.1861; Andrea Bertolini, Robots as Products: The Case for a Realistic Analysis of Robotic Applications and Liability Rules, Law Innovation and Technology 5, 2013, p.214.我國(guó)也有如此觀點(diǎn),參見楊立新:《人工智能機(jī)器人的民法地位與自動(dòng)駕駛汽車的交通事故責(zé)任》,http://www.fxcxw.org/index.php/Home/Miaowen/artIndex/id/15969/tid/6.html,2018年6月20日訪問。但問題是現(xiàn)有立法將機(jī)器人定位為人造的機(jī)器或者工具,并沒有妥當(dāng)?shù)亟鉀Q機(jī)器人致人損害的問題。傳統(tǒng)的產(chǎn)品責(zé)任對(duì)人工智能(無(wú)人駕駛汽車)而言,在適用上已經(jīng)捉襟見肘?!?1〕See Jeffrey K.Gurney, Sue My Car Not Me: Products Liability and Accidents Involving Autonomous Vehicles, U.Ill.J.L.13,2013, p.247, p.272; Kyle Graham, Of Frightened Horses and Autonomous Vehicles: Tort Law and Its Assimilation of Inventions, Santa Clara L.Rev.51, 2012, p.1241, p.1270.筆者認(rèn)為,基于智能汽車侵權(quán)責(zé)任的獨(dú)特性,應(yīng)該確立智能汽車工具性人格,〔12〕筆者曾就為何需要確立智能機(jī)器人的工具性人格進(jìn)行闡述,參見許中緣:《論智能機(jī)器人的工具性人格》,《法學(xué)評(píng)論》2018年第5期。從而確定相應(yīng)主體的責(zé)任,這是智能汽車立法的基礎(chǔ),也是確定相關(guān)責(zé)任的前提與關(guān)鍵。

    一、現(xiàn)有立法難以有效規(guī)范智能汽車侵權(quán)責(zé)任

    智能汽車是配備“自動(dòng)技術(shù)”(autonomous technology)的車輛,這類車輛的本質(zhì)并不在于其配備了定速巡航、緊急剎車、泊車輔助、車道保持警告、車輛碰撞等系統(tǒng),而在于其不需要人工駕駛就能夠完成特定駕駛?cè)蝿?wù)。根據(jù)美國(guó)汽車工程師協(xié)會(huì)(SAE)對(duì)車輛自動(dòng)水平的定義,自動(dòng)駕駛系統(tǒng)分為五種層級(jí)?!?3〕See Bryant Walker Smith, SAE Levels of Driving Automation, http://cyberlaw.stanford.edu/blog/2013/12/sae-levels-drivingautomation,2018年7月13日訪問。其中,層級(jí)三、層級(jí)四與層級(jí)五具有“高級(jí)駕駛輔助系統(tǒng)”(Advanced Driver-Assistance Systems)、“自動(dòng)緊急介入系統(tǒng)”(Automated Emergency Intervention Systems)與“無(wú)人駕駛系統(tǒng)”(Driverless Systems)?!?4〕See Bryant Walker Smith, How Governments Can Promote Automated Driving, N.M.L.Rev.47, 2017, p.113.“高級(jí)駕駛輔助系統(tǒng)與自動(dòng)緊急介入系統(tǒng)可以描述為‘無(wú)時(shí)不在’的體系,不僅在任何時(shí)候能夠進(jìn)行駕駛,而且在任何地方均能駕駛。無(wú)人駕駛系統(tǒng)則為‘無(wú)處不在’的體系,該種系統(tǒng)能夠從事所有的駕駛行為,但局限于特定條件。”〔15〕同上注,第113頁(yè)。一個(gè)合理且有資格的駕駛者應(yīng)該知曉自動(dòng)駕駛系統(tǒng)的功能并能夠作出合理的安排?!?6〕See Mark Brady, Kylie Burn, Tania Leiman and Kieran Tranter, Automated Vehicles and Australian Personal Injury Compensation Schemes, T.L.J.24, 2017, p.41.因此,即使是具有無(wú)人駕駛系統(tǒng)的自動(dòng)駕駛汽車,也不能完全忽視甚至排除人類駕駛者所應(yīng)具有的作用。這或許是就智能汽車侵權(quán)責(zé)任不能獨(dú)立立法的緣由。不過,基于智能汽車自動(dòng)駕駛的特點(diǎn),傳統(tǒng)立法并沒有解決智能汽車侵權(quán)責(zé)任承擔(dān)問題。

    (一)既有的智能汽車致人損害責(zé)任承擔(dān)機(jī)制存在缺陷

    我國(guó)現(xiàn)有的相關(guān)立法是以人工駕駛為中心構(gòu)建的法律規(guī)范體系。傳統(tǒng)汽車誕生于18世紀(jì)的工業(yè)社會(huì),蒸汽機(jī)的笛鳴聲開啟了規(guī)范汽車運(yùn)行的立法進(jìn)程,其隨著工業(yè)化的推進(jìn)而不斷成熟。在信息化社會(huì),傳統(tǒng)工業(yè)化的法律思維已不能及時(shí)和準(zhǔn)確地回應(yīng)智能汽車所涉法律關(guān)系的調(diào)整需要。

    1.《道路交通安全法》無(wú)法確定智能汽車侵權(quán)行為的過錯(cuò)

    《道路交通安全法》以駕駛者對(duì)交通工具的控制過錯(cuò)為中心構(gòu)建相應(yīng)的責(zé)任體系,但智能汽車顯然與此不同。首先,即使理論上都認(rèn)為智能汽車比傳統(tǒng)汽車更為安全,但基于智能汽車的駕駛自主性,導(dǎo)致其行為難以預(yù)測(cè),其本身運(yùn)行的安全并沒有被廣泛接受。其次,與傳統(tǒng)汽車的人工駕駛不同,智能汽車的駕駛自主性在一定程度上切斷了傳統(tǒng)駕駛者對(duì)汽車的控制權(quán),阻斷了傳統(tǒng)駕駛者與交通事故過錯(cuò)之間的路徑聯(lián)系。因此,智能汽車的自主駕駛特征與傳統(tǒng)汽車作為駕駛工具具有本質(zhì)的不同。很多人認(rèn)為,智能汽車無(wú)論在技術(shù)上如何發(fā)達(dá),其仍是為主體服務(wù)的工具,立法無(wú)需將其與傳統(tǒng)汽車相區(qū)分。就理論而言,相關(guān)立法首先需要理順智能汽車與汽車駕駛者的關(guān)系,其涉及汽車制造商和開發(fā)者等相關(guān)主體,由此在過錯(cuò)認(rèn)定方面具有理論上的局限性,其過錯(cuò)適用標(biāo)準(zhǔn)也需重新考量。

    2.《產(chǎn)品責(zé)任法》不能確定智能汽車產(chǎn)品的缺陷

    我國(guó)司法實(shí)踐在處理產(chǎn)品責(zé)任糾紛案件時(shí),通常將產(chǎn)品缺陷與一定的產(chǎn)品質(zhì)量標(biāo)準(zhǔn)直接聯(lián)系起來(lái),以“產(chǎn)品質(zhì)量不合格”作為歸責(zé)的基礎(chǔ)。我國(guó)產(chǎn)品責(zé)任法對(duì)產(chǎn)品質(zhì)量采用的是客觀標(biāo)準(zhǔn)?!芭卸óa(chǎn)品是否存在危及人身、他人財(cái)產(chǎn)安全的不合理的危險(xiǎn),以保障人體健康,人身、財(cái)產(chǎn)安全的國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)中的安全、衛(wèi)生指標(biāo)作為判定依據(jù)?!薄?7〕張琪:《中美產(chǎn)品責(zé)任法中產(chǎn)品缺陷的比較研究》,《法制與社會(huì)發(fā)展》1999年第2期。對(duì)產(chǎn)品質(zhì)量尚未制定有關(guān)標(biāo)準(zhǔn)的,以社會(huì)普遍公認(rèn)的安全、衛(wèi)生要求作為判定產(chǎn)品是否存在缺陷的依據(jù)。然而,對(duì)于無(wú)人駕駛汽車而言,現(xiàn)有的產(chǎn)品責(zé)任法基本不可適用。

    首先,法律意義上的缺陷與技術(shù)意義上的缺陷并不一定相關(guān)。汽車組成部分的功能缺失或者沒有很好地發(fā)揮作用也不意味著構(gòu)件存在缺陷?!?8〕See Bryant Walker Smith, The Transformation of Transportation: Autonomous Vehicles, Google Cars, and Vehicles Talking to Each Other: Automated Driving and Product Liablity, Mich.St.L.Rev.37, 2017, p.42.功能缺失或者沒有很好地發(fā)揮作用具有多種因素,而駕駛者所導(dǎo)致的問題可能是最為復(fù)雜的因素,且適用產(chǎn)品責(zé)任需要受害人證明存在產(chǎn)品缺陷。然而,如果證明產(chǎn)品存在設(shè)計(jì)缺陷,受害人需要提出比該種設(shè)計(jì)更好的替代方案。同樣地,如果產(chǎn)品缺陷是源于不完全告知或警示,受害人也需證明該信息的提供存在不合理之處。但由受害人證明這些缺陷往往存在較大困難,其不僅需要耗費(fèi)大量的時(shí)間成本,也需承擔(dān)高昂的費(fèi)用。根據(jù)Westlaw所出具案例評(píng)估報(bào)告中的汽車致?lián)p索賠和人身傷害類型的各項(xiàng)數(shù)據(jù),在因車輛疏忽和產(chǎn)品責(zé)任導(dǎo)致的受害人死亡、截癱等事故中,幾乎沒有受害人基于適用產(chǎn)品責(zé)任獲得賠償?shù)陌咐??!?9〕同前注〔18〕,Bryant Walker Smith文,第 39~40頁(yè)。

    其次,產(chǎn)品缺陷責(zé)任可以適用相關(guān)的免責(zé)條款。我國(guó)產(chǎn)品責(zé)任法規(guī)定了生產(chǎn)者對(duì)產(chǎn)品缺陷的免責(zé)事由,即在產(chǎn)品投入流通時(shí)尚不存在缺陷或者依當(dāng)時(shí)的科學(xué)技術(shù)尚不能發(fā)現(xiàn)缺陷存在。而對(duì)于智能汽車而言,基于技術(shù)的先進(jìn)性與革命性,產(chǎn)品制造商更容易依據(jù)這些免責(zé)條款而豁免。

    最后,智能汽車駕駛行為的不可預(yù)測(cè)性導(dǎo)致產(chǎn)品缺陷認(rèn)定的客觀困難。智能汽車擁有多種復(fù)雜的敏感元件與控制軟件,且因數(shù)據(jù)交互與分析而產(chǎn)生行為自主性,導(dǎo)致人類很難預(yù)見機(jī)器人在何種情況下作出何種行為,〔20〕See Ryan Calo, Robotics and the Lessons of Cyberlaw, Calif.L.Rev.103, 2015, p.532.也即智能汽車的駕駛自主性將導(dǎo)致其行為的難以預(yù)測(cè)性。由此可見,汽車本身在復(fù)雜情形下如何發(fā)現(xiàn)問題與作出何種決定是開發(fā)者本身所不能預(yù)見的?!?1〕同前注〔6〕,Gary E.Marchant、Rachel A.Lindor文,第 1321 頁(yè)。而我們?cè)谂袛嗍鹿蕬?yīng)對(duì)行為是否妥當(dāng)時(shí)也并不存在“絕對(duì)理性”,只能判定行為人是否履行合理注意義務(wù)并基于此作出相對(duì)合理之行為;同理,對(duì)于智能汽車本身作出的各種行為,人們也很難說(shuō)該決定存在缺陷。

    就我國(guó)傳統(tǒng)侵權(quán)法領(lǐng)域而言,《道路交通安全法》能夠指向侵權(quán)人的過錯(cuò),《產(chǎn)品責(zé)任法》也能夠認(rèn)定產(chǎn)品缺陷與確定制造商、銷售商的嚴(yán)格責(zé)任。但智能汽車運(yùn)行的智能性以及所涉法律關(guān)系的復(fù)雜性導(dǎo)致既有的法律規(guī)范不敷其用。筆者認(rèn)為,智能駕駛系統(tǒng)行為的難以預(yù)測(cè)性導(dǎo)致了產(chǎn)品缺陷認(rèn)定的模糊性。

    確實(shí),對(duì)于智能汽車造成損害的情形,也可以按照制造商與消費(fèi)者之間的合同進(jìn)行調(diào)整,但制造商一般均會(huì)通過嚴(yán)格限制消費(fèi)者的權(quán)利或者豁免己方責(zé)任的方式避免承擔(dān)責(zé)任。比如,特斯拉汽車的使用指南就明確指出“自動(dòng)緊急剎車系統(tǒng)主要是幫助避免追尾,但系統(tǒng)具有局限性,因此不可能總是能夠探測(cè)到危險(xiǎn)或者提供相關(guān)警告”。該種規(guī)定要求駕駛者在使用自動(dòng)駕駛系統(tǒng)技術(shù)時(shí),仍然需要持續(xù)地把握交通狀況與及時(shí)采取避免碰撞的措施?!?2〕See National Highway Traffic Safety Administration, Automatic Vehicle Control Systems, https://static.nhtsa.gov/odi/inv/2016/INCLA-PE16007-7876.PDF,2018年3月5日訪問。該種風(fēng)險(xiǎn)分配的規(guī)定實(shí)則排除制造商的主要義務(wù),基于現(xiàn)有技術(shù)的非標(biāo)準(zhǔn)性,該種責(zé)任豁免并不能為我國(guó)合同法規(guī)范所認(rèn)可。〔23〕同上注。

    (二)將類推理論適用于智能汽車侵權(quán)責(zé)任的承擔(dān)存有不足

    基于工具主義的立法難以構(gòu)建智能汽車侵權(quán)責(zé)任體系?!?4〕See Kevin Funkhouser, Paving the Road Ahead: Autonomous Vehicles, Products Liability, and the Need for a New Approach,Utah L.Rev.2013, 2013, p.441.但諸多學(xué)者認(rèn)為,對(duì)于無(wú)人駕駛汽車致人損害的問題可以適用類推(analogize)規(guī)則。

    1.電梯理論。有學(xué)者主張無(wú)人駕駛汽車與電梯一樣,其所有人應(yīng)該保障汽車駕駛的安全性,并對(duì)因汽車構(gòu)件缺陷、操作失誤導(dǎo)致的損害承擔(dān)責(zé)任?!?5〕See Kyle Colonna, Autonomous Cars & Tort Liability, 4 Case W.Reserve J.L.Tech.& Internet 81, 2012, pp.91-92.但事實(shí)上,電梯與智能汽車有諸多不同。首先,行為人只有在極為特殊的情況下才能對(duì)電梯運(yùn)行進(jìn)行控制;而智能汽車的駕駛者在一定程度上具有控制能力,甚至可在智能駕駛系統(tǒng)難以應(yīng)對(duì)緊急危險(xiǎn)時(shí)奪回對(duì)汽車的駕駛控制權(quán)。其次,就電梯致人損害而言,應(yīng)由其管理者或者所有人承擔(dān)責(zé)任,除非存在產(chǎn)品缺陷,制造商或者銷售商對(duì)此并不承擔(dān)責(zé)任;但對(duì)于無(wú)人駕駛汽車致人損害而言,制造商有可能需要承擔(dān)責(zé)任。最后,電梯一般不具有自我感應(yīng)與調(diào)節(jié)功能,而無(wú)人駕駛汽車能夠感應(yīng)和適應(yīng)周圍的復(fù)雜環(huán)境并作出相應(yīng)調(diào)整?!?6〕See Prateek Bansal & Kara M.Kockelman, Forecasting Americans’ Long-Term Adoption of Connected and Autonomous Vehicle Technologies, Transportation Research Part A.95, 2017, pp.49-63.因此,將無(wú)人駕駛汽車與電梯作簡(jiǎn)單類比是不合理的。

    2.汽車與飛機(jī)或輪船的自動(dòng)駕駛系統(tǒng)理論。無(wú)人駕駛汽車與飛機(jī)或輪船皆具自動(dòng)駕駛系統(tǒng),駕駛者需要對(duì)天氣和周圍環(huán)境作出適當(dāng)反應(yīng),由此二者具有相同性。〔27〕See David King, Putting the Reins on Autonomous Vehicle Liability: Why Horse Accidents Are the Best Common Law Analogy,N.C.J.L.& Tech.19, 2017, p.141.但從中推斷無(wú)人駕駛汽車的駕駛者需要對(duì)損害承擔(dān)責(zé)任是不合理的。首先,二者的自動(dòng)駕駛系統(tǒng)存在差異,飛機(jī)或者輪船的自動(dòng)駕駛系統(tǒng)只是在簡(jiǎn)單的航線中使用,而無(wú)人駕駛汽車需要針對(duì)復(fù)雜的路面情況采取不同的應(yīng)對(duì)措施。其次,飛機(jī)與輪船的駕駛者需要經(jīng)過專業(yè)訓(xùn)練,而對(duì)自動(dòng)駕駛汽車的駕駛者不作特別的專業(yè)要求。最后,二者因失誤所導(dǎo)致的責(zé)任也不相同。飛機(jī)或者輪船的駕駛者在不當(dāng)使用自動(dòng)駕駛技術(shù)時(shí)需要承擔(dān)當(dāng)然責(zé)任,但對(duì)無(wú)人駕駛汽車駕駛者操作失誤的責(zé)任認(rèn)定則非常困難。

    3.動(dòng)物理論。有學(xué)者認(rèn)為,智能汽車侵權(quán)的責(zé)任承擔(dān),應(yīng)如同狗等飼養(yǎng)動(dòng)物致人損害由其所有者或管理者承擔(dān)責(zé)任一樣。而現(xiàn)有法律認(rèn)為無(wú)人駕駛汽車如同所有者的工具,所有者應(yīng)對(duì)智能汽車非主觀的以及不可預(yù)見的行為承擔(dān)責(zé)任。〔28〕See National Highway Traffic Safety Administration, Automated Vehicle Control Systems, https://static.nhtsa.gov/odi/inv/2016/INCLA-PE16007-7876.PDF,2018年6月5日訪問。對(duì)智能汽車適用工具主義立法確實(shí)具有一定的合理性。但是狗等飼養(yǎng)動(dòng)物并不具有人工智能的學(xué)習(xí)能力,因而其無(wú)法面對(duì)各種復(fù)雜情況。更為重要的是,狗等飼養(yǎng)動(dòng)物致人損害的責(zé)任承擔(dān)通常發(fā)生在管理者或所有者與受害人兩個(gè)主體之間,而人工智能致人損害事件中還存在制造商與銷售商兩種主體。

    4.理性汽車標(biāo)準(zhǔn)理論?!袄硇云嚇?biāo)準(zhǔn)”(reasonable car standard)理論認(rèn)為制造商應(yīng)該對(duì)無(wú)人駕駛汽車的非理性行為承擔(dān)責(zé)任?!?9〕See K.C.Webb, Products Liability & Autonomous Vehicles: Who’s Driving Whom?, 23 Rich.J.L.& Tech.9, 2016, p.34;同前注〔10〕,Ryan Abbott文,第 34頁(yè)?!?理性汽車標(biāo)準(zhǔn)”其實(shí)就是傳統(tǒng)理性人標(biāo)準(zhǔn)在無(wú)人駕駛汽車侵權(quán)責(zé)任承擔(dān)上的運(yùn)用。作為一個(gè)理性汽車,其應(yīng)該合理地預(yù)見相應(yīng)的危險(xiǎn)并采取相應(yīng)的措施?!袄硇云嚇?biāo)準(zhǔn)”免除了對(duì)駕駛者疏忽的舉證責(zé)任,認(rèn)為證明責(zé)任的標(biāo)準(zhǔn)即為理性標(biāo)準(zhǔn)。理性人標(biāo)準(zhǔn)的根源在于危險(xiǎn)預(yù)防理論,存在經(jīng)濟(jì)學(xué)基礎(chǔ)與倫理基礎(chǔ),但汽車作為工具本身并不存在預(yù)防危險(xiǎn)的經(jīng)濟(jì)學(xué)基礎(chǔ)與倫理基礎(chǔ)。此外,“理性汽車標(biāo)準(zhǔn)”是以將來(lái)的標(biāo)準(zhǔn)規(guī)范現(xiàn)存事物,缺乏標(biāo)準(zhǔn)的可預(yù)見性?!?0〕同前注〔27〕,David King文,第 146頁(yè)。

    不難發(fā)現(xiàn),類推理論下的責(zé)任體系框架仍然是建立在傳統(tǒng)主體存在過錯(cuò)的基礎(chǔ)之上,但對(duì)于具有行為自主性的智能駕駛系統(tǒng)而言,智能汽車侵權(quán)具有“生成性侵權(quán)”的特點(diǎn),其打破了傳統(tǒng)主體控制下的工具性框架,已然喪失適用傳統(tǒng)責(zé)任體系的正當(dāng)性?!皺C(jī)器人和人工智能算法建立在這些創(chuàng)新實(shí)踐的基礎(chǔ)之上。我們可以通過多重硬件、協(xié)議和軟件理解它們,由此,也為多個(gè)參與者提供了創(chuàng)新和改造的多種機(jī)會(huì)。然而,創(chuàng)新和改造的機(jī)會(huì)越多,發(fā)現(xiàn)與確定危害另一個(gè)人行為的責(zé)任就越困難?!薄?1〕See Jack M.Balkin, The Path of Robotics Law, Calif.L.Rev.Circuit 6, 2015, p.53.就智能汽車的侵權(quán)責(zé)任問題而論,并不能類推適用我國(guó)現(xiàn)行法的相關(guān)規(guī)則。

    二、智能汽車侵權(quán)責(zé)任的承擔(dān)基礎(chǔ)與路徑選擇

    (一)智能汽車侵權(quán)責(zé)任對(duì)傳統(tǒng)侵權(quán)法的挑戰(zhàn)

    第一,過錯(cuò)歸責(zé)原則難以適用。過錯(cuò)歸責(zé)是傳統(tǒng)民法上認(rèn)定侵權(quán)責(zé)任的基本原則,過錯(cuò)要素也是交通事故中主體是否需要承擔(dān)侵權(quán)責(zé)任的依據(jù)。但要認(rèn)定智能汽車制造商與開發(fā)者的過錯(cuò)是很難的。智能汽車不是使用一系列預(yù)先編寫的計(jì)算機(jī)規(guī)則對(duì)各項(xiàng)活動(dòng)進(jìn)行編程,而是依賴于“機(jī)器學(xué)習(xí)”這種技術(shù)將新數(shù)據(jù)與已有知識(shí)結(jié)構(gòu)重組,不斷改善自身性能,從而適應(yīng)安全駕駛需求。〔32〕See Harry Surden, Mary-Anne Williams, Technological Opacity, Predictability, and Self-Driving Cars, Cardozo L.Rev.38,2016, pp.54-155.因此,有學(xué)者認(rèn)為“機(jī)器學(xué)習(xí)”通過創(chuàng)建規(guī)則指導(dǎo)自身的行為,而非完全遵循由人類程序員預(yù)先編程的規(guī)則。〔33〕See Harry Surden, Machine Learning and Law, Wash.L.Rev.89, 2014, p.87.因?yàn)楦兄畔⒌膹?fù)雜性與多元性,即使某個(gè)行人被傳感器感知,也不能保證車輛的中央計(jì)算機(jī)能夠優(yōu)先考慮該特定信息并對(duì)其進(jìn)行順利操作。由此,自動(dòng)駕駛模式中侵權(quán)責(zé)任的發(fā)生可能并不因?yàn)橛?jì)算機(jī)軟件的設(shè)計(jì)和系統(tǒng)本身存在問題。如果駕駛者使用自動(dòng)駕駛技術(shù)本身并沒有問題,但是智能汽車仍然發(fā)生了碰撞事故,不能認(rèn)為駕駛者本身存在過錯(cuò)?!?4〕同上注,第115頁(yè)。

    第二,合理預(yù)見規(guī)則存疑。合理預(yù)見是確立責(zé)任的基礎(chǔ),也是確定責(zé)任性質(zhì)與責(zé)任內(nèi)容的重要因素。如果駕駛者應(yīng)當(dāng)預(yù)見而沒有預(yù)見,則具有過錯(cuò),應(yīng)對(duì)其行為承擔(dān)責(zé)任。合理預(yù)見的前提是理性人標(biāo)準(zhǔn),每個(gè)具有理性的主體能夠?qū)ζ湫袨榛蛘呤芷渲涞男袨轭A(yù)見結(jié)果,違反此種預(yù)見義務(wù)應(yīng)承擔(dān)相應(yīng)的責(zé)任。智能汽車的可預(yù)見性是通過算法實(shí)現(xiàn)的,但算法的運(yùn)行過程具有不透明性?!?5〕同前注〔32〕,Harry Surden、Mary-Anne Williams文,第 128頁(yè)。

    第三,可歸責(zé)性基礎(chǔ)出現(xiàn)動(dòng)搖??蓺w責(zé)性是現(xiàn)代侵權(quán)法過錯(cuò)責(zé)任原則與無(wú)過錯(cuò)責(zé)任原則確立的基礎(chǔ)。而自動(dòng)駕駛責(zé)任體系在一定程度上完全忽視了可歸責(zé)性的內(nèi)容?!?6〕See Alexander Hevelke & Julian Nida-Rümelin, Responsibility for Crashes of Autonomous Vehicles: An Ethical Analysis,Science and Engineering Ethics, http://link.springer.com/article/10.1007%2Fs11948-014-9565-5,2018年7月15日訪問。無(wú)過錯(cuò)責(zé)任并非不考慮過錯(cuò),而是因?yàn)榛谔囟ㄕ呖剂?,適用過錯(cuò)責(zé)任原則并不利于防范與控制風(fēng)險(xiǎn),出于“有利于保護(hù)受害人,也有利于督促責(zé)任人采取措施預(yù)防損害”〔37〕王利明:《侵權(quán)責(zé)任法研究》上卷,中國(guó)人民大學(xué)出版社2010年版,第259頁(yè)。的考慮,令特定主體在侵權(quán)發(fā)生時(shí)承擔(dān)責(zé)任。因?yàn)槿斯ぶ悄茉谔厥馇闆r下能自主作出反應(yīng),這就使得其行為具有不可預(yù)測(cè)性,而且第三人的行為將會(huì)影響人工智能運(yùn)行從而出現(xiàn)不可預(yù)測(cè)的危險(xiǎn),由此導(dǎo)致可歸責(zé)性成為責(zé)任承擔(dān)需要解決的問題。

    第四,原因理論中斷。在傳統(tǒng)汽車致人損害的交通事故中,由駕駛者承擔(dān)責(zé)任,但在智能汽車啟動(dòng)自動(dòng)駕駛模式時(shí),駕駛者對(duì)汽車的控制權(quán)大大降低,由此導(dǎo)致法律適用的困難。盡管對(duì)無(wú)人駕駛汽車可以適用產(chǎn)品缺陷責(zé)任,但必須證明該種缺陷是明確的。但正如傳統(tǒng)汽車、飛機(jī)和輪船在運(yùn)行之初所產(chǎn)生的各種缺陷一樣,智能汽車的產(chǎn)品缺陷是正在路上的一個(gè)概念。〔38〕See Jordan Fowler, Trail-Blazing an Industry: The Potential Effects and Defects of Autonomous Vehicles and the Need for Legislation in Texas, Tex.Tech.L.Rev.49, 2017, p.903.而且智能汽車致人損害有可能是多種因素所導(dǎo)致的結(jié)果,比如道路維護(hù)不夠、天氣條件不佳、其他駕駛者的不當(dāng)操作、行人的過失行為等均有可能成為損害發(fā)生的原因?!?9〕See Sophia H.Duffy and Jamie Patrick Hopkins, Sit, Stay, Drive: The Future of Autonomous Car Liability, SMU Sci.& Tech.L.Rev.16, 2013, p.462.

    第五,比較過失理論發(fā)生危險(xiǎn)。在侵權(quán)責(zé)任中,考慮到受害人與加害人的過失,根據(jù)比較過失進(jìn)行責(zé)任分擔(dān)。這就要求被告證明受害人的損失是因?yàn)榧雍θ说男袨榫哂小敖槿朐颉保╥ntervening cause)或者存在“近因”(proximate cause)?!?0〕See Paul T.Hayden, Butterfield Rides Again: Plaintiff’s Negligence as Superseding or Sole Proximate Cause in Systems of Pure Comparative Responsibility, Loy.L.A.L.Rev.33, 2000, p.894.比較過失分配其實(shí)就是確定了雙方的責(zé)任?!?1〕See Cornelius J.Peck, Washington’s Partial Rejection and Modification of the Common Law Rule of Joint and Several Liability, Wash.L.Rev.62, 1987, p.233, p.238.智能汽車侵權(quán)往往是由多種因素造成的,而如果適用比較過失分擔(dān)責(zé)任勢(shì)必導(dǎo)致汽車致人損害責(zé)任的邊界模糊,很有可能導(dǎo)致無(wú)人承擔(dān)責(zé)任。因此,對(duì)于無(wú)人駕駛汽車的侵權(quán)責(zé)任應(yīng)限制適用比較過失理論。不過,在人工智能致人損害的案件中,如果根據(jù)比較過失,開發(fā)者只需證明受害人自身存在過錯(cuò),并根據(jù)介入原因理論要求受害人自行承擔(dān)該損害所導(dǎo)致的責(zé)任,則開發(fā)者無(wú)需承擔(dān)相應(yīng)的責(zé)任。但是若法官不考慮介入原因理論,則將令開發(fā)者承擔(dān)幾乎全部的責(zé)任。因此,有學(xué)者認(rèn)為在人工智能致人損害的案件中,對(duì)“比較過錯(cuò)與日漸消失的介入原因理論而言并不是很好的消息”?!?2〕See Weston Kowert, The Foreseeability of Human-Artificial Intelligence Interactions, Tex.L.Rev.96, 2017, p.201.

    (二)智能汽車侵權(quán)的責(zé)任主體

    目前,關(guān)于智能汽車致人損害的責(zé)任問題,主要存在制造商責(zé)任與駕駛者責(zé)任兩種觀點(diǎn)。

    其一,“制造商責(zé)任說(shuō)”。有學(xué)者提出應(yīng)該制定“人工智能發(fā)展條例”(the Artificial Intelligence Development Act,簡(jiǎn)稱AIDA),且應(yīng)該根據(jù)該條例設(shè)置人工智能產(chǎn)品核準(zhǔn)機(jī)構(gòu)。對(duì)于經(jīng)過核準(zhǔn)的人工智能產(chǎn)品,制造商承擔(dān)有限的侵權(quán)責(zé)任,而對(duì)于未經(jīng)核準(zhǔn)用于商業(yè)銷售或者使用的人工智能產(chǎn)品,制造商應(yīng)該承擔(dān)嚴(yán)格的連帶侵權(quán)責(zé)任?!?3〕See Matthew U.Scherer, Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies, Harv.J.L.& Tech.29, 2016, pp.391-393.也有學(xué)者認(rèn)為,智能汽車的制造商在大多數(shù)情況下應(yīng)對(duì)無(wú)人駕駛模式下所導(dǎo)致的損害承擔(dān)責(zé)任,因?yàn)榇藭r(shí)汽車是處于制造商的科技手段操縱之下,而不是由傳統(tǒng)的駕駛者操縱。〔44〕同前注〔11〕,Jeffrey K.Gurney文,第 265頁(yè);同前注〔6〕,Gary E.Marchant、Rachel A.Lindor文,第 1321頁(yè)、第 1329頁(yè)。盡管沃爾沃公司首席執(zhí)行官Samuelsson在一份新聞稿中承諾當(dāng)汽車處于自主運(yùn)行模式時(shí),公司將承擔(dān)全部責(zé)任,〔45〕See Chris Ziegler, Volvo Says It Will Take the Blame If One of Its Self-Driving Cars Crashes, http://www.theverge.com/2015/10/7/9470551/volvo-self-driving-car-liability, 2018年7月18日訪問。但并非所有汽車制造商都贊同Samuelsson的立場(chǎng)。

    其二,“駕駛者責(zé)任說(shuō)”。該種觀點(diǎn)認(rèn)為,責(zé)任的產(chǎn)生在于駕駛者的操作錯(cuò)誤,而非在于無(wú)人駕駛汽車的制造商。汽車所有人或者使用人應(yīng)該承擔(dān)責(zé)任,因?yàn)槠溥^于相信或錯(cuò)誤使用智能汽車的性能?!?6〕See Dylan Le Valley, Comment, Autonomous Vehicle Liability—Application of Common Carrier Liability, 36 Seattle U.L.Rev.5,2013, p.9.侵權(quán)法學(xué)者羅伯特?帕特森認(rèn)為:“自動(dòng)駕駛汽車如同所有者雇傭的司機(jī)……如果汽車違反了交通規(guī)則……所有者應(yīng)該對(duì)此情形承擔(dān)責(zé)任。”〔47〕See Robert W.Peterson, New Technology—Old Law: Autonomous Vehicles and California’s Insurance Framework, Santa Clara L.Rev.52, 2012, p.1359.該種觀點(diǎn)認(rèn)為,如果將車定義為一個(gè)叫“杰維斯”的人,或許更能夠得到理解?!?8〕同上注。

    相較傳統(tǒng)駕駛模式而言,智能汽車對(duì)法律關(guān)系帶來(lái)的最大挑戰(zhàn)是駕駛主體的轉(zhuǎn)變。一方面,傳統(tǒng)的人類駕駛者將由原來(lái)的駕駛者與責(zé)任承擔(dān)者的角色轉(zhuǎn)變?yōu)檩o助駕駛角色,相應(yīng)地,其承擔(dān)責(zé)任的比例及情形將發(fā)生改變;另一方面,隨著智能駕駛系統(tǒng)逐漸從人類駕駛者手中取得汽車控制權(quán),該系統(tǒng)逐漸取代人類駕駛者的地位,這就要求前者比后者具有更高的駕駛能力。因此,汽車制造商的角色轉(zhuǎn)變也對(duì)其在法律關(guān)系中的責(zé)任承擔(dān)產(chǎn)生影響。與傳統(tǒng)汽車的駕駛者、所有者和制造商相比,智能汽車致人損害導(dǎo)致的責(zé)任遠(yuǎn)比傳統(tǒng)汽車更為復(fù)雜,需要進(jìn)一步明確汽車制造商、駕駛者與開發(fā)者之間的權(quán)利與義務(wù)關(guān)系,從而確定責(zé)任。

    1.制造商的安全義務(wù)

    對(duì)于自動(dòng)駕駛汽車的制造商而言,其除了提供合格的產(chǎn)品之外,還需要承擔(dān)相應(yīng)的安全保障與風(fēng)險(xiǎn)預(yù)防義務(wù),具體如下。

    一是最低程度的安全保障義務(wù)。智能汽車的制造商要承擔(dān)自動(dòng)駕駛模式下的風(fēng)險(xiǎn)警示義務(wù),具體包括以下兩個(gè)方面。(1)復(fù)雜環(huán)境下的風(fēng)險(xiǎn)應(yīng)對(duì)義務(wù)。即在復(fù)雜的外部環(huán)境下,如在惡劣天氣、彎路、夜間等情形下,以最低程度的智能技術(shù)確保車輛的安全行駛。(2)人工介入的提醒義務(wù)。在復(fù)雜環(huán)境以及人工智能不能對(duì)周圍復(fù)雜環(huán)境作出準(zhǔn)確識(shí)別的情況下,智能汽車應(yīng)該發(fā)出相應(yīng)的警示,使得駕駛者明確地認(rèn)識(shí)到周圍環(huán)境的復(fù)雜性并對(duì)自動(dòng)駕駛模式作出調(diào)整。

    二是風(fēng)險(xiǎn)預(yù)防義務(wù)。其具體包括三個(gè)方面的內(nèi)容。(1)防范錯(cuò)誤操作的風(fēng)險(xiǎn)。對(duì)于無(wú)人駕駛汽車,制造商有義務(wù)防止對(duì)產(chǎn)品的不正當(dāng)使用而帶來(lái)的不可預(yù)測(cè)的傷害。〔49〕同前注〔11〕,Jeffrey K.Gurney文,第 269頁(yè)。(2)簡(jiǎn)單且方便的介入措施。對(duì)于智能汽車而言,由于駕駛者并沒有如同駕駛傳統(tǒng)汽車一樣的應(yīng)有注意,因此智能汽車應(yīng)為駕駛者提供簡(jiǎn)便的服務(wù),便于駕駛者安全、迅速地奪回對(duì)智能汽車的控制權(quán)。這就要求智能汽車能夠提供易懂的語(yǔ)言,同時(shí)應(yīng)給予駕駛者必要的反應(yīng)時(shí)間。(3)最低限度的風(fēng)險(xiǎn)預(yù)防措施。如果駕駛者不能及時(shí)地處理各種風(fēng)險(xiǎn),智能汽車應(yīng)能夠及時(shí)地自動(dòng)采取風(fēng)險(xiǎn)預(yù)防措施,避免損害的發(fā)生,比如發(fā)出安全警示、降低車速乃至完全停止行駛。

    2.開發(fā)者的合理研發(fā)義務(wù)

    智能汽車采用GPS、激光雷達(dá)、照相、超聲波感應(yīng)、移動(dòng)互聯(lián)網(wǎng)等技術(shù)手段,通過結(jié)合汽車對(duì)汽車(vehicle-to-vehicle)和汽車對(duì)基礎(chǔ)設(shè)施(vehicle-to-infrastructure)的連接技術(shù),在運(yùn)行中獲得實(shí)時(shí)路況、道路信息、行人信息等一系列交通信息,提高駕駛安全性,減少擁堵,提升交通通行效率。開發(fā)者的法定義務(wù)在于要在現(xiàn)有科技水平的基礎(chǔ)上完成對(duì)上述技術(shù)的研發(fā)和整合,使智能汽車能夠達(dá)到自主識(shí)別、自動(dòng)駕駛、自我安全保護(hù)的行駛狀態(tài);同時(shí),也應(yīng)當(dāng)對(duì)智能汽車存在的危險(xiǎn)性進(jìn)行明確提示。

    智能汽車所導(dǎo)致的問題可以進(jìn)一步追及至開發(fā)者。人工智能是開發(fā)者創(chuàng)造出來(lái)的,致人損害應(yīng)由開發(fā)者承擔(dān)責(zé)任,從工具主義立場(chǎng)出發(fā)確有一定的道理。但人工智能在被設(shè)計(jì)或者被制造之后,能夠自我學(xué)習(xí)和自我感知,并能夠進(jìn)行相應(yīng)的獨(dú)立判斷,事實(shí)上已經(jīng)脫離人的控制,因而在一定程度上導(dǎo)致了行為因果關(guān)系的中斷。根據(jù)傳統(tǒng)的替代原因理論(superseding cause doctrine),在駕駛者使用車輛過程中,開發(fā)者有可能失去對(duì)人工智能的控制,而根據(jù)近因(proximate cause)理論,開發(fā)者不需要再對(duì)人工智能的侵權(quán)行為承擔(dān)責(zé)任?!?0〕See David C.Vladeck, Machines Without Principals: Liability Rules and Artificial Intelligence, Wash.L.Rev.89, 2014, p.135.主張開發(fā)者免除侵權(quán)責(zé)任并非意味著其不需要承擔(dān)注意義務(wù),而是在嚴(yán)格承擔(dān)責(zé)任與促進(jìn)科技創(chuàng)新方面進(jìn)行博弈后的結(jié)果,在豁免其侵權(quán)責(zé)任的同時(shí),寄予更高的道德與技術(shù)期望。主張其侵權(quán)責(zé)任豁免的根源在于試圖不在法律層面阻礙智能汽車的技術(shù)進(jìn)步,而是推動(dòng)智能汽車產(chǎn)業(yè)的發(fā)展與商業(yè)化普及。

    3.駕駛者的謹(jǐn)慎義務(wù)

    與傳統(tǒng)的人工駕駛模式相比,在智能駕駛環(huán)境下人類駕駛者脫離了對(duì)汽車的控制權(quán),真正運(yùn)行的是智能駕駛系統(tǒng)。因此,在該種情形下,要求人類駕駛者對(duì)自動(dòng)駕駛汽車承擔(dān)侵權(quán)責(zé)任可能導(dǎo)致不公平。相應(yīng)地,無(wú)人駕駛模式下人類駕駛者所承擔(dān)的安全義務(wù)更為復(fù)雜,包括如下內(nèi)容。

    一是安全駕駛的注意義務(wù)。智能汽車的駕駛者應(yīng)該對(duì)車輛的行駛過程保持足夠的注意和警惕,但對(duì)其注意義務(wù)程度的要求遠(yuǎn)沒有傳統(tǒng)汽車駕駛者那么高,前者只要保持合理的謹(jǐn)慎即可。法律不能強(qiáng)制所有的制造商要求每個(gè)駕駛者像傳統(tǒng)汽車駕駛者一樣專注,否則無(wú)人駕駛汽車將毫無(wú)競(jìng)爭(zhēng)力。事實(shí)上,德國(guó)的智能汽車立法已確認(rèn)了智能汽車駕駛者與傳統(tǒng)汽車駕駛者不同的注意義務(wù)。

    二是適時(shí)介入義務(wù)。智能汽車在避免人工錯(cuò)誤所致風(fēng)險(xiǎn)的同時(shí),卻可能帶來(lái)機(jī)器錯(cuò)誤導(dǎo)致的比人工錯(cuò)誤更為嚴(yán)重的危險(xiǎn),故借助人工干預(yù)克服智能機(jī)器所帶來(lái)的危險(xiǎn)是一種客觀需要。當(dāng)智能駕駛系統(tǒng)發(fā)出警告時(shí),駕駛者應(yīng)及時(shí)介入對(duì)智能汽車的管控,奪回對(duì)智能汽車的控制權(quán)。但由于要求人工介入依然存在困難,因此智能汽車需要具備可供人工奪回控制權(quán)的能力,這是智能汽車制造商所必須面對(duì)和解決的問題,也是立法需要認(rèn)真面對(duì)的課題。

    三是風(fēng)險(xiǎn)預(yù)防義務(wù)。智能汽車的駕駛者是風(fēng)險(xiǎn)預(yù)防的主體,在車輛各種運(yùn)行情況下,均要做好風(fēng)險(xiǎn)預(yù)防。首先,駕駛者應(yīng)該及時(shí)更新軟件,避免軟件更新不及時(shí)所帶來(lái)的安全隱患。其次,智能汽車的駕駛者除了需要在特定情形下保證車輛的安全運(yùn)行,還需要對(duì)汽車自身的風(fēng)險(xiǎn)承擔(dān)相應(yīng)的預(yù)防義務(wù),比如在復(fù)雜外部環(huán)境下不應(yīng)啟動(dòng)自動(dòng)駕駛模式等。

    (三)智能汽車侵權(quán)責(zé)任的承擔(dān)基礎(chǔ)

    關(guān)于自動(dòng)駕駛模式下智能汽車侵權(quán)責(zé)任的承擔(dān)基礎(chǔ),持產(chǎn)品責(zé)任論者贊成適用嚴(yán)格責(zé)任。的確,采用嚴(yán)格責(zé)任機(jī)制能夠解決受害人的賠償問題。但由此又產(chǎn)生一個(gè)問題,即應(yīng)由何者承擔(dān)嚴(yán)格責(zé)任,是駕駛者、制造商還是開發(fā)者?

    關(guān)于駕駛者的嚴(yán)格責(zé)任。由駕駛者對(duì)智能汽車的行為承擔(dān)嚴(yán)格責(zé)任,原因在于智能汽車致人損害通常是由駕駛者的不當(dāng)行為所引起,駕駛者能更好地控制風(fēng)險(xiǎn)的發(fā)生。“侵權(quán)法通常阻礙技術(shù)革新,鼓勵(lì)不思進(jìn)取的制造商?!薄?1〕同前注〔11〕,Kyle Graham文,第1241頁(yè)、第1266頁(yè)。而且對(duì)駕駛者采用嚴(yán)格責(zé)任原則能減少制造商的責(zé)任承擔(dān),促進(jìn)制造商的技術(shù)革新。美國(guó)也有學(xué)者認(rèn)為,參照美國(guó)的計(jì)算機(jī)法,自動(dòng)駕駛汽車作為所有人的交通工具,所有人理應(yīng)對(duì)此承擔(dān)責(zé)任?!?2〕同前注〔39〕,Sophia H.Duffy、Jamie Patrick Hopkins文,第 467頁(yè)。

    關(guān)于制造商的嚴(yán)格責(zé)任。有學(xué)者認(rèn)為提高智能汽車的侵權(quán)責(zé)任,有利于促進(jìn)智能汽車制造商提供更加安全的產(chǎn)品。〔53〕同前注〔11〕,Jeffrey K.Gurney文,第 269頁(yè)。但也有學(xué)者表示反對(duì),認(rèn)為“從長(zhǎng)期來(lái)看,將系統(tǒng)生產(chǎn)者解釋為自動(dòng)汽車駕駛者的解釋論構(gòu)造會(huì)導(dǎo)致機(jī)動(dòng)車責(zé)任轉(zhuǎn)移給生產(chǎn)者,使生產(chǎn)者負(fù)擔(dān)過重的責(zé)任。從技術(shù)進(jìn)步的角度來(lái)看,這種責(zé)任的移轉(zhuǎn)并不合理,需要通過立法予以糾正”?!?4〕馮潔語(yǔ):《人工智能技術(shù)與責(zé)任法的變遷——以自動(dòng)駕駛技術(shù)為考察》,《比較法研究》2018年第2期。

    筆者認(rèn)為,在自動(dòng)駕駛模式下,智能汽車的駕駛者、制造商和開發(fā)者都不應(yīng)當(dāng)承擔(dān)嚴(yán)格責(zé)任。首先,對(duì)智能汽車適用嚴(yán)格責(zé)任有違其責(zé)任基礎(chǔ)。嚴(yán)格責(zé)任的基礎(chǔ)是危險(xiǎn)責(zé)任,將人工智能本身視為高度危險(xiǎn)物品有違人類開發(fā)人工智能是為了增加社會(huì)運(yùn)行安全、促進(jìn)社會(huì)高效運(yùn)轉(zhuǎn)的初衷,也不符合人工智能的現(xiàn)實(shí)發(fā)展?fàn)顩r。其次,對(duì)智能汽車適用嚴(yán)格責(zé)任有違其基本原理。美國(guó)法院最初采用嚴(yán)格的產(chǎn)品責(zé)任是因?yàn)槠鋾?huì)促使制造商提供更安全的產(chǎn)品,制造商也更可能比消費(fèi)者有能力避免損害發(fā)生。但對(duì)智能汽車適用嚴(yán)格責(zé)任并不能達(dá)到上述效果,對(duì)其適用嚴(yán)格責(zé)任并不合理。基于嚴(yán)格責(zé)任的基本原理,無(wú)論是由駕駛者、開發(fā)者抑或制造商承擔(dān)嚴(yán)格責(zé)任,都對(duì)人工智能的進(jìn)一步發(fā)展極為不利,嚴(yán)重影響人工智能的開發(fā)與利用。最后,適用嚴(yán)格責(zé)任會(huì)導(dǎo)致各主體間的責(zé)任分擔(dān)面臨困難。這可能涉及制造商與程序開發(fā)者、銷售商及駕駛者之間的責(zé)任,而要求這些主體分擔(dān)責(zé)任存在困難,并將導(dǎo)致各主體之間的相互推諉。責(zé)任邊界的不清晰不僅會(huì)導(dǎo)致受害人難以獲得有效救濟(jì),而且對(duì)于無(wú)人駕駛汽車的制造商、程序開發(fā)者與銷售商而言,其將陷入漫長(zhǎng)的訴訟中,從而也會(huì)加大其運(yùn)行成本。“在智能機(jī)器人缺乏工具性人格的情況下,我們可能忽視智能機(jī)器人所存在的真正問題,并無(wú)法建立相應(yīng)的責(zé)任承擔(dān)與責(zé)任分配機(jī)制,可能會(huì)進(jìn)一步擴(kuò)大道德風(fēng)險(xiǎn)?!薄?5〕同前注〔12〕,許中緣文。綜上,筆者認(rèn)為,對(duì)智能汽車致人損害適用嚴(yán)格責(zé)任不具有客觀基礎(chǔ)。

    “雖然無(wú)論何時(shí)引入新技術(shù),在未來(lái)某些時(shí)候發(fā)生某種損害的風(fēng)險(xiǎn)都是可預(yù)見的,但如果法律希望將責(zé)任分配給人類和公司,機(jī)器人和人工智能系統(tǒng)導(dǎo)致的損害可能會(huì)使傳統(tǒng)的可預(yù)見性概念變得緊張。無(wú)過錯(cuò)責(zé)任是一種傳統(tǒng)的解決方案,但它可能會(huì)扼殺發(fā)展中技術(shù)的創(chuàng)新。”〔56〕同前注〔31〕,Jack M.Balkin文,第 52頁(yè)。有學(xué)者認(rèn)為,智能汽車承擔(dān)侵權(quán)責(zé)任的基礎(chǔ)在于疏忽。只有將疏忽責(zé)任作為智能汽車承擔(dān)侵權(quán)責(zé)任的歸責(zé)原則,才能推動(dòng)自動(dòng)化的快速改進(jìn),也才能減少事故。〔57〕同前注〔10〕,Ryan Abbott文,第 34 頁(yè)。筆者贊同該種觀點(diǎn)。不過,這涉及智能機(jī)器人的主體性人格問題。智能汽車的侵權(quán)責(zé)任從嚴(yán)格責(zé)任轉(zhuǎn)向疏忽責(zé)任,制造商將在證明智能汽車侵權(quán)方面比自然人具有更為安全的優(yōu)勢(shì)。同時(shí)需要建立智能汽車疏忽責(zé)任的判斷標(biāo)準(zhǔn),而疏忽責(zé)任的判斷標(biāo)準(zhǔn)涉及智能汽車合理技術(shù)標(biāo)準(zhǔn)的建立,這一標(biāo)準(zhǔn)應(yīng)隨著智能汽車的發(fā)展而不斷發(fā)展。

    不過,遺憾的是,法律對(duì)智能機(jī)器人地位的回應(yīng)還處在工具主義的路徑上。如何對(duì)機(jī)器人進(jìn)行定位,關(guān)涉智能汽車的未來(lái)發(fā)展命運(yùn)。“我們應(yīng)該避免機(jī)器人謬論(Android Fallacy),機(jī)器人,哪怕是非常高級(jí)的機(jī)器人,僅僅是工具。它們不過是將來(lái)的工具,也應(yīng)該根據(jù)此種定位進(jìn)行相應(yīng)立法?!薄?8〕See Neil M.Richards and William D.Smart, How Should the Law Think about Robots, Robot Law, 2016, p.20.筆者認(rèn)為,基于工具主義的法律規(guī)范將會(huì)掉入機(jī)器人具有人之特性的陷阱從而導(dǎo)致出現(xiàn)矛盾情形,智能汽車侵權(quán)責(zé)任立法需要解決工具主義視角下實(shí)現(xiàn)自動(dòng)駕駛技術(shù)所導(dǎo)致的問題。

    三、智能汽車侵權(quán)責(zé)任承擔(dān)的立法構(gòu)建

    (一)確立智能汽車侵權(quán)責(zé)任承擔(dān)的中心:工具性人格

    縱觀民事主體發(fā)展的歷史脈絡(luò)可以發(fā)現(xiàn),從“人可非人”到“非人可人”的歷史演變闡釋了民事主體只是滿足社會(huì)需要的法律形式。從古羅馬法到近代歐陸民法再到現(xiàn)代社會(huì)化民法,民事主體的范圍在不斷擴(kuò)大。

    倫理性人格是近代民法發(fā)展的產(chǎn)物。自然人并非天生就具有民事主體資格,同時(shí)每個(gè)民事主體也并不都是平等的。在奴隸制時(shí)代,法律僅承認(rèn)少數(shù)的“上等人”和“自由人”為民事主體。在中世紀(jì),隨著“天賦人權(quán)”思想的興起,民事主體范圍進(jìn)一步擴(kuò)大,但《法國(guó)民法典》在頒布初期仍然保留丈夫?qū)ζ拮拥臋?quán)利,妻子在民法上還未享有完整的權(quán)利,這就是“人可非人”的體現(xiàn)。在16世紀(jì)啟蒙運(yùn)動(dòng)興起后,隨著歐洲封建社會(huì)的解體和新社會(huì)力量的出現(xiàn),“倫理性要素”與“法律人格”實(shí)質(zhì)性地相結(jié)合,所有人都享有平等的法律人格。

    功利主義推動(dòng)倫理性法律人格的轉(zhuǎn)變?!胺侨丝扇恕钡墓髁x推動(dòng)經(jīng)濟(jì)性法律人格的出現(xiàn),如公司、合伙企業(yè)等。傳統(tǒng)的法律人格基于倫理性而存在,但隨著團(tuán)體組織在社會(huì)生活中扮演的角色越來(lái)越重要,法律必須對(duì)此作出反應(yīng),基于現(xiàn)實(shí)需求,團(tuán)體需要人格化。盡管對(duì)民事主體資格的承認(rèn)需要考慮倫理性,但隨著社會(huì)的不斷發(fā)展,倫理性因素不斷被弱化,隨之凸顯的則是財(cái)產(chǎn)和責(zé)任基礎(chǔ)的獨(dú)立性及社會(huì)功能的重要性。民法上確認(rèn)法人的民事主體人格,實(shí)質(zhì)上是源自于功利主義的動(dòng)因。民事主體的衡量標(biāo)準(zhǔn)在于法律接納該類主體應(yīng)滿足社會(huì)效益最大化和當(dāng)事人利益最大化的要求,或者至少不會(huì)對(duì)特定人群的利益產(chǎn)生不利影響,即法律對(duì)該類主體的承認(rèn)不會(huì)產(chǎn)生“負(fù)外部性”〔59〕參見房紹坤、張旭昕:《我國(guó)民法典編纂中的主體類型》,《法學(xué)雜志》2016年第12期。,這便是判斷主體適格性的“主體經(jīng)濟(jì)性標(biāo)準(zhǔn)”??梢哉f(shuō)從倫理性人格向經(jīng)濟(jì)學(xué)人格的轉(zhuǎn)變?yōu)橹悄芷嚨闹黧w論鋪平了道路。

    人工智能技術(shù)的發(fā)展需要具體人格的登場(chǎng),這進(jìn)一步豐富了現(xiàn)代民法的主體制度內(nèi)容。“賦予人工智能有限人格,其本質(zhì)還是為人類生活服務(wù)的工具,這是人工智能發(fā)展的首要原則,也是建立人工智能監(jiān)管整體框架的首要指導(dǎo)原則?!薄?0〕袁曾:《智能機(jī)器人有限法律人格審視》,《東方法學(xué)》2017年第5期。事實(shí)上,對(duì)人工智能法律人格的確認(rèn)并不會(huì)對(duì)人類社會(huì)的倫理性產(chǎn)生威脅,也不會(huì)損害以人為中心的法律主體制度。相反,這恰恰是以人類為中心建立起來(lái)的相應(yīng)制度體系,有助于避免具體人格的缺失而導(dǎo)致規(guī)則的無(wú)所依存,進(jìn)而促使人工智能更好地發(fā)展和服務(wù)于人類社會(huì)?!?1〕同前注〔12〕,許中緣文。人工智能雖然具有法律人格,但歸根到底依舊是由人類創(chuàng)造并服務(wù)于人類社會(huì)發(fā)展的智慧型工具,這從根本上決定了其發(fā)展必須遵循“以人為本”的原則。因此,人工智能的發(fā)展不可能凌駕于人類之上,法律必須在公民權(quán)利與新興技術(shù)發(fā)展之間尋求平衡?!?2〕參見楊芳:《德國(guó)一般人格權(quán)中的隱私保護(hù)信息自由原則下對(duì)自決觀念的限制》,《東方法學(xué)》2016年第6期。

    有學(xué)者認(rèn)為,目前階段的人工智能沒有自主目的,不會(huì)反思也不會(huì)提出問題,無(wú)法進(jìn)行因果性思考,沒有自己的符號(hào)系統(tǒng),顯然不具備人類心靈的獨(dú)特思維能力,而僅根據(jù)建立在“感知—思考—行動(dòng)”基礎(chǔ)上的人工智能所謂的“自主性”,不能合乎法理地得出應(yīng)賦予自動(dòng)駕駛汽車以法律人格的結(jié)論。人類社會(huì)之所以可以由法律進(jìn)行調(diào)整并構(gòu)建秩序,是由于人的理性決定了法律能夠通過規(guī)范人們的行為調(diào)整社會(huì)關(guān)系,而智能機(jī)器是否能理解法律的行止要求?〔63〕參見馮玨:《自動(dòng)駕駛汽車致?lián)p的民事侵權(quán)責(zé)任》,《中國(guó)法學(xué)》2018年第6期。筆者認(rèn)為,自主性包括人工智能已具備的自我判斷能力和決策能力,雖然目前人工智能還不存在自我意識(shí),但“自我思考”也是人工智能技術(shù)的發(fā)展方向之一。法律應(yīng)當(dāng)具有前瞻性,慮及技術(shù)發(fā)展的方向和趨勢(shì),不應(yīng)局限于當(dāng)前的實(shí)然狀態(tài)思考問題。關(guān)于人工智能缺乏理性的問題,筆者認(rèn)為理性并不是工具性人格的本質(zhì)屬性,權(quán)利與義務(wù)才是其認(rèn)定標(biāo)準(zhǔn)。對(duì)于自然人而言,不論是人格還是權(quán)利能力都并非通過法律技術(shù)手段所賦予,而是基于倫理性而存在,法律只是對(duì)其予以承認(rèn)。在法人制度上,《德國(guó)民法典》在確立法人人格時(shí)創(chuàng)造了“權(quán)利能力”概念,其并不具備倫理學(xué)上的“人”的所有特性,而只有權(quán)利能力?!?4〕參見[德]卡爾?拉倫茨:《德國(guó)民法通論》上冊(cè),王曉曄、邵建東等譯,法律出版社2003年版,第57頁(yè)。也就是說(shuō),民事主體其實(shí)就是具有法律權(quán)利并承擔(dān)法律責(zé)任的主體?!?5〕See Berg J., Of Elephants and Embryos: A Proposed Framework for Legal Personhood, Hastings Law Journal 59, 2007, p.369.作為人工智能產(chǎn)品代表的智能汽車,其與傳統(tǒng)汽車最大的區(qū)別在于當(dāng)面對(duì)道路環(huán)境的諸多復(fù)雜情形時(shí),智能汽車能夠自我學(xué)習(xí)從而完成各種復(fù)雜任務(wù)?!?6〕See Adam Rosenberg, Strict Liability: Imagining a Legal Framework for Autonomous Vehicles, Tul.J.Tech.& Intell.Prop.20,2017, p.205.智能汽車的“理性”體現(xiàn)在對(duì)道路狀況的判斷選擇和對(duì)特殊情況的緊急處理上,而法律對(duì)智能汽車的規(guī)范意義在于發(fā)生侵權(quán)行為時(shí)的責(zé)任歸屬,而不在于事前對(duì)其行為進(jìn)行指引。在主體與客體二元標(biāo)準(zhǔn)下,確定智能汽車的工具性人格具有非常重要的作用。在自動(dòng)駕駛模式下,由于智能汽車相對(duì)于傳統(tǒng)汽車的異質(zhì)性,即使其他責(zé)任主體履行了各自的義務(wù),也有可能發(fā)生侵權(quán)行為。此時(shí)的責(zé)任主體應(yīng)當(dāng)為智能汽車,此為其工具性人格的體現(xiàn)。此種責(zé)任與安全的平衡才能更加推動(dòng)智能汽車產(chǎn)業(yè)的發(fā)展,促進(jìn)科技創(chuàng)新與市場(chǎng)化應(yīng)用。

    (二)均衡智能汽車侵權(quán)責(zé)任承擔(dān)的立法價(jià)值

    立法價(jià)值是法律所預(yù)設(shè)的功能實(shí)現(xiàn),也是確定法律責(zé)任的前提問題。與傳統(tǒng)汽車相比,智能汽車不僅能夠?yàn)橄M(fèi)者帶來(lái)更多的自由、安全與便利,且基于其采用鋰電動(dòng)力控制,更能節(jié)省資源和更加環(huán)保?;谧杂?、安全與效益原則,智能汽車應(yīng)是汽車工業(yè)未來(lái)的發(fā)展方向。智能汽車自身的價(jià)值與智能汽車立法所需要實(shí)現(xiàn)的價(jià)值二者之間既有聯(lián)系也有區(qū)分??萍嫉目焖侔l(fā)展使得大部分消費(fèi)者在短時(shí)間內(nèi)很難對(duì)智能汽車具有足夠的認(rèn)知,導(dǎo)致智能汽車的上述優(yōu)勢(shì)無(wú)法切實(shí)得到實(shí)現(xiàn)?!?7〕同前注〔5〕,James M.Anderson等書,第 135頁(yè)。而現(xiàn)實(shí)中關(guān)于智能汽車交通事故的新聞?lì)l頻出現(xiàn),更是加劇了這一緊張關(guān)系。安全是促進(jìn)智能駕駛汽車進(jìn)一步市場(chǎng)化的根本要素,對(duì)于消費(fèi)者而言,智能汽車產(chǎn)品的安全性是其首要關(guān)注點(diǎn),這也成為相關(guān)立法規(guī)制的首要目標(biāo)。

    基于科技發(fā)展的局限性與階段性,智能汽車并不能保證百分之百安全。智能汽車互聯(lián)技術(shù)并沒有達(dá)到應(yīng)有水平,基礎(chǔ)設(shè)施建設(shè)也尚未實(shí)現(xiàn)智能化改造?,F(xiàn)有智能汽車大多停留在GPS、激光雷達(dá)、照相、超聲波感應(yīng)等技術(shù)層面上,主要限定在美國(guó)汽車工程師協(xié)會(huì)(SAE)定義的第三、第四層級(jí),距離完全實(shí)現(xiàn)智能汽車的第五層級(jí)尚有很大的一段距離。調(diào)查顯示,盡管尼桑智能汽車在2016年每行駛247英里便需要人工介入一次,這比2015年其每行駛15英里就需要人工介入一次有較大改進(jìn),但駕駛事故還是經(jīng)常出現(xiàn)。〔68〕See Alex Davies, Numbers Don’t Lie, Self Driving Cars Are Getting Good, http://www.wired.com/2017/02/california-dmvautonomous-car-disengagement/,2018年7月15日訪問。根據(jù)推測(cè),智能汽車駕駛者有17秒的時(shí)間奪回對(duì)車輛的控制權(quán),但如果沒有成功奪回控制權(quán),則車輛仍會(huì)繼續(xù)之前的行為從而發(fā)生危險(xiǎn)。盡管生產(chǎn)商格拉斯公司(Waymo)在2016年3月已經(jīng)實(shí)現(xiàn)了1.4百萬(wàn)英里的智能汽車安全駕駛,但是蘭德公司認(rèn)為“無(wú)人駕駛汽車要證明其安全性,至少需要駕駛275百萬(wàn)英里沒有事故才能證明是安全的”?!?9〕同前注〔66〕,Adam Rosenberg文,第 212頁(yè)。

    與安全相對(duì)應(yīng)的是智能汽車侵權(quán)責(zé)任承擔(dān)問題。智能駕駛系統(tǒng)的主動(dòng)性同樣為所有者責(zé)任與產(chǎn)品責(zé)任的法律適用帶來(lái)挑戰(zhàn)。但基于智能駕駛系統(tǒng)的強(qiáng)大社會(huì)效應(yīng),智能汽車侵權(quán)行為責(zé)任體系應(yīng)當(dāng)本著鼓勵(lì)技術(shù)創(chuàng)新與應(yīng)用的目標(biāo)進(jìn)行構(gòu)建。因此,立法應(yīng)及時(shí)回應(yīng)無(wú)人駕駛汽車所產(chǎn)生的問題,以積極促進(jìn)自動(dòng)駕駛技術(shù)的提高。責(zé)任的不確定性使得智能汽車制造商對(duì)產(chǎn)品責(zé)任所導(dǎo)致的成本也難以預(yù)見和確定,進(jìn)而導(dǎo)致系統(tǒng)的推遲使用。同樣,保險(xiǎn)公司會(huì)因此拒絕為軟件開發(fā)提供保險(xiǎn)服務(wù),或者要求支付更高的保險(xiǎn)費(fèi)用。這將導(dǎo)致自動(dòng)駕駛系統(tǒng)不能及時(shí)實(shí)現(xiàn)市場(chǎng)化利用,也將推高自動(dòng)駕駛汽車的售價(jià)。安全與責(zé)任兩者看似分離,實(shí)則緊密相連、相互影響。保障智能汽車的安全性有助于責(zé)任的明晰,同時(shí)責(zé)任的分配能夠促進(jìn)智能汽車制造商開發(fā)出更為安全的產(chǎn)品,基于責(zé)任的激勵(lì)更能夠?qū)崿F(xiàn)自動(dòng)駕駛汽車的運(yùn)行安全。

    (三)規(guī)范智能汽車侵權(quán)責(zé)任承擔(dān)的立法技術(shù)

    1.確立智能汽車的技術(shù)層級(jí)劃分與立法統(tǒng)一處理

    基于自動(dòng)駕駛軟件開發(fā)與相應(yīng)基礎(chǔ)設(shè)施建設(shè)等各方面的因素,完全自動(dòng)駕駛汽車完全實(shí)現(xiàn)商業(yè)化應(yīng)用尚待一定時(shí)日。即使在美國(guó),自動(dòng)駕駛車輛也只能在特定環(huán)境下低速行駛。無(wú)論是高級(jí)駕駛輔助系統(tǒng)還是自動(dòng)緊急介入系統(tǒng),其實(shí)現(xiàn)人機(jī)交互在目前都非常困難,由人工駕駛過渡到完全自動(dòng)駕駛也需要駕駛者有足夠時(shí)間充分意識(shí)到改變駕駛環(huán)境的必要性。〔70〕同前注〔14〕,Bryant Walker Smith文,第 110頁(yè)。基于此,有學(xué)者認(rèn)為由于作為第五層級(jí)的完全自動(dòng)駕駛汽車目前還未出現(xiàn),故不需要制定相應(yīng)法律對(duì)智能汽車進(jìn)行規(guī)范。筆者對(duì)此不能茍同,理由主要體現(xiàn)在以下三個(gè)方面。

    第一,責(zé)任的確定應(yīng)該為智能汽車的發(fā)展奠定基礎(chǔ)。當(dāng)下自動(dòng)駕駛系統(tǒng)尚處于第三、第四層級(jí)上,第五層級(jí)即完全自動(dòng)駕駛目標(biāo)尚未實(shí)現(xiàn)。與第五層級(jí)完全自動(dòng)駕駛技術(shù)不同的是,第三、第四層級(jí)還存在人工駕駛的因素,但這只是量的差異而不是質(zhì)的區(qū)別。故立法應(yīng)著眼于第五層級(jí)智能汽車的法律規(guī)范,而不應(yīng)僅僅針對(duì)第三、第四層級(jí)的智能汽車。需強(qiáng)調(diào)的是這并非主張僅僅針對(duì)第五層級(jí)的完全自動(dòng)駕駛汽車進(jìn)行立法,否則又會(huì)導(dǎo)致第三、第四層級(jí)的智能汽車與第五層級(jí)的完全自動(dòng)駕駛汽車在法律規(guī)范上出現(xiàn)割裂。

    第二,第五層級(jí)智能汽車也應(yīng)配備人工駕駛裝置。由于汽車不僅僅是交通工具,也是人類實(shí)現(xiàn)行為自由的一個(gè)工具。為了適應(yīng)人們的自由選擇需要,第五層級(jí)的智能汽車也應(yīng)該配備人工駕駛裝置。因?yàn)榧词故峭耆詣?dòng)駕駛的汽車,也有可能出現(xiàn)不能預(yù)見的危險(xiǎn)情形,為了實(shí)現(xiàn)對(duì)汽車的控制權(quán),需要配備人工操作裝置。谷歌的無(wú)人駕駛汽車能夠在人群密集、路況復(fù)雜以及惡劣天氣的環(huán)境中保持良好運(yùn)行,但當(dāng)控制系統(tǒng)出現(xiàn)問題或者不能夠自我決定時(shí),語(yǔ)言指揮系統(tǒng)則要求駕駛者奪回對(duì)汽車的控制權(quán)?!?1〕同前注〔5〕,James M.Anderson等書,第 58~59頁(yè)。2017年修訂后的德國(guó)《道路交通法》便明確要求當(dāng)汽車進(jìn)入高度自動(dòng)或完全自動(dòng)駕駛模式時(shí),駕駛者可把對(duì)方向盤與剎車的控制權(quán)交給汽車,但駕駛者必須坐在方向盤后以保證在自動(dòng)駕駛系統(tǒng)出現(xiàn)問題時(shí)可及時(shí)地切換到人工駕駛模式。在此種情況下,智能汽車的第三、第四和第五層級(jí)只是自動(dòng)駕駛技術(shù)發(fā)展的不同層級(jí),就法律規(guī)范而言,規(guī)范的客體仍然具有相似性。

    第三,就現(xiàn)有規(guī)范智能汽車的立法而言,基本上是對(duì)第三、第四和第五層級(jí)的智能汽車進(jìn)行統(tǒng)一規(guī)范。就對(duì)智能汽車最新進(jìn)行立法的美國(guó)內(nèi)華達(dá)州而言,其所規(guī)范的智能汽車包括第三、第四和第五層級(jí)的智能汽車。盡管德國(guó)《道路交通法》關(guān)于無(wú)人駕駛的法律規(guī)范主要是針對(duì)第三、第四層級(jí)的智能汽車,針對(duì)第五層級(jí)智能汽車的規(guī)范尚不確定,但是就現(xiàn)有立法而言,其中已經(jīng)蘊(yùn)含了對(duì)智能汽車的統(tǒng)一規(guī)范。

    2.妥當(dāng)區(qū)分自動(dòng)駕駛與人工駕駛

    智能汽車很可能并非都是完全自主駕駛的,加上存在人的因素,因此很難確定事故的真正原因。由于無(wú)人駕駛汽車擁有復(fù)雜敏感元件與多種軟件控制系統(tǒng),基于其所具有的機(jī)器人特征,自動(dòng)駕駛汽車本身在復(fù)雜情形下能夠發(fā)現(xiàn)問題與作出決定,而這些是開發(fā)者本身所不能預(yù)見的。〔72〕同前注〔4〕,Jessica S.Brodsky文,第 862頁(yè)。因此,立法上也不宜一概地要求智能汽車的駕駛者承擔(dān)責(zé)任或者由制造商承擔(dān)責(zé)任,更不能簡(jiǎn)單類推適用于傳統(tǒng)汽車的交通事故責(zé)任規(guī)則令車主承擔(dān)責(zé)任,而是應(yīng)該根據(jù)智能汽車的類型確定不同的責(zé)任規(guī)則。

    一是人工駕駛情形下的責(zé)任規(guī)則。智能汽車不排除人工駕駛情形,而對(duì)智能汽車在人工駕駛情形下的立法規(guī)范與傳統(tǒng)汽車并無(wú)任何差異。因此,在人工駕駛情形下,傳統(tǒng)車輛侵權(quán)責(zé)任的相關(guān)規(guī)定當(dāng)然適用于無(wú)人駕駛汽車。

    二是自動(dòng)駕駛情形下的責(zé)任規(guī)則。對(duì)于自動(dòng)駕駛汽車而言,車輛通過攝像機(jī)、雷達(dá)傳感器和激光測(cè)距儀識(shí)別路上障礙物,并使用詳細(xì)的地圖進(jìn)行導(dǎo)航。以谷歌無(wú)人駕駛汽車和百度無(wú)人駕駛汽車為典型,該種無(wú)人駕駛汽車真正實(shí)現(xiàn)了駕駛者與車輛的分離?!?3〕See Peter Valdes-Dapena, Thrilled and Bummed by Google’s Self-Driving Car, http://money.cnn.com/2012/05/17/autos/googledriverless-car/index.htm,2018年8月15日訪問。在此種情形下,應(yīng)該適用自動(dòng)駕駛汽車侵權(quán)責(zé)任承擔(dān)規(guī)則。

    基于人工駕駛與自動(dòng)駕駛情形下侵權(quán)責(zé)任的差異性,智能汽車有必要配備記載車輛運(yùn)行狀況的“黑匣子”,進(jìn)而通過“黑匣子”確定事故發(fā)生時(shí)汽車是處于自動(dòng)駕駛狀態(tài)還是處于人工駕駛狀態(tài),并以此作為確立侵權(quán)責(zé)任的基礎(chǔ)。美國(guó)內(nèi)華達(dá)州、佛羅里達(dá)州與加利福利亞州的相關(guān)立法即要求智能汽車安裝至少能夠記錄車輛碰撞之前30秒時(shí)汽車駕駛信息的“黑匣子”,并且要求至少將該記錄保存3年。德國(guó)《道路交通法》也要求智能汽車須安裝“黑匣子”,以記錄系統(tǒng)運(yùn)作不同階段的具體信息,進(jìn)而明確交通事故責(zé)任。此外,美國(guó)加利福利亞州還要求智能汽車配備能夠干預(yù)駕駛者開啟與關(guān)閉自動(dòng)駕駛系統(tǒng)的可視設(shè)備。〔74〕同前注〔38〕,Jordan Fowler文,第 919~920 頁(yè)。

    (四)構(gòu)建智能汽車侵權(quán)責(zé)任承擔(dān)的立法框架

    一是智能汽車自動(dòng)駕駛模式下侵權(quán)責(zé)任的認(rèn)定。首先,應(yīng)當(dāng)明確責(zé)任主體。智能汽車在人工駕駛模式下的侵權(quán)主體,與傳統(tǒng)汽車侵權(quán)無(wú)異,在此不作贅述。智能汽車在自動(dòng)駕駛模式下的侵權(quán)主體包括制造商、開發(fā)者和駕駛者三類。如前所述,在自動(dòng)駕駛模式下采用嚴(yán)格責(zé)任將導(dǎo)致眾多問題,故其責(zé)任基礎(chǔ)應(yīng)當(dāng)由嚴(yán)格責(zé)任轉(zhuǎn)向疏忽責(zé)任。在制造商、開發(fā)者及駕駛者對(duì)自己的義務(wù)存在疏忽時(shí),應(yīng)當(dāng)認(rèn)定其承擔(dān)責(zé)任。其次,應(yīng)當(dāng)明確各主體的義務(wù)。制造商應(yīng)有最低程度的安全保障義務(wù)及風(fēng)險(xiǎn)預(yù)防義務(wù),開發(fā)者應(yīng)有合理研發(fā)及明確提示的義務(wù),在出現(xiàn)問題和故障時(shí),制造商及開發(fā)者還負(fù)有汽車運(yùn)行系統(tǒng)保障和維護(hù)的義務(wù)。目前新能源汽車的維修(例如更換電池)費(fèi)用甚至高于購(gòu)買新車的費(fèi)用,〔75〕參見《電動(dòng)汽車換電池 費(fèi)用堪比買新車?》,http://www.sohu.com/a/256862451_413748,2018年11月2日訪問。在智能汽車的保障和維修中應(yīng)當(dāng)積極避免此類問題。駕駛者應(yīng)負(fù)有較高的注意義務(wù)及適時(shí)介入義務(wù)。當(dāng)然,在現(xiàn)實(shí)生活中常常存在汽車所有者與駕駛者不是同一人的情況,但這不妨礙對(duì)駕駛者的義務(wù)和責(zé)任進(jìn)行分析。汽車所有者應(yīng)當(dāng)承擔(dān)何種責(zé)任取決于所有者與駕駛者的關(guān)系及駕駛者資質(zhì)等因素,例如雇傭、租賃、偷盜、酒駕、無(wú)證駕駛等,這些因素都會(huì)影響所有者是否承擔(dān)相應(yīng)責(zé)任及其責(zé)任份額,因而需具體問題具體分析,本文在此不作假設(shè)及論述。

    二是智能汽車自動(dòng)駕駛模式下侵權(quán)責(zé)任的承擔(dān)。對(duì)于發(fā)展趨勢(shì)不可逆轉(zhuǎn)的一項(xiàng)新生事物,在平衡其責(zé)任承擔(dān)與鼓勵(lì)創(chuàng)新發(fā)展的過程中,應(yīng)當(dāng)秉持鼓勵(lì)創(chuàng)新的理念構(gòu)建其責(zé)任承擔(dān)規(guī)則。為此,筆者認(rèn)為應(yīng)當(dāng)建立智能汽車保險(xiǎn)與基金制度。保險(xiǎn)是解決使用先進(jìn)技術(shù)帶來(lái)不可預(yù)料結(jié)果的必備工具,也是分擔(dān)風(fēng)險(xiǎn)與責(zé)任的必備措施。2016年英國(guó)保險(xiǎn)公司Adrian Flux率先推出針對(duì)自動(dòng)駕駛汽車的保險(xiǎn)政策;〔76〕See Insurer Launches UK’s First Driverless Car Policy, https://www.theguardian.com/business/2016/jun/07/uk-driverless-carinsurance-policy-adrian-flux,2018年11月4日訪問。2017年10月,英國(guó)提出《自動(dòng)與電動(dòng)汽車法案》(Automated and Electric Vehicles Bill,簡(jiǎn)稱AEV法案),2018年7月19日,AEV法案獲得御準(zhǔn)(Royal Assent)正式成為法律。〔77〕See Automated and Electric Vehicles Act 2018, http://www.legislation.gov.uk/ukpga/2018/18/contents,2018年 11月 4日訪問。對(duì)于智能汽車而言,保險(xiǎn)是為其“保駕護(hù)航”的一項(xiàng)重要制度。隨著自動(dòng)駕駛技術(shù)層級(jí)的提高,人工駕駛的介入將會(huì)越來(lái)越少,此時(shí)駕駛者仍然需要購(gòu)買特定的保險(xiǎn),該保險(xiǎn)的標(biāo)的是作為駕駛者在駕駛智能汽車過程中所應(yīng)分擔(dān)的損失。其保險(xiǎn)賠付應(yīng)當(dāng)具備以下幾個(gè)條件:一是智能汽車處于人工駕駛模式;二是在車輛發(fā)生事故時(shí)已投保;三是被保險(xiǎn)人或其他人因事故而遭受損失;四是該損失是由駕駛者的疏忽而不是故意造成的。此外,制造商、開發(fā)者和駕駛者可以為智能汽車設(shè)置相應(yīng)的風(fēng)險(xiǎn)基金,在承認(rèn)智能汽車工具性人格的基礎(chǔ)上,以該基金作為智能汽車的責(zé)任財(cái)產(chǎn),用以解決自動(dòng)駕駛時(shí)的損害賠償責(zé)任承擔(dān)問題。前文分析了智能汽車制造商、開發(fā)者及駕駛者各自的義務(wù),在因疏忽未履行其義務(wù)的情況下,各主體均存在相應(yīng)的責(zé)任。但由于對(duì)具體責(zé)任份額的認(rèn)定存在極大的困難,會(huì)導(dǎo)致各主體之間相互推諉,訴訟成本較高,且若由各個(gè)主體自行承擔(dān)責(zé)任也不利于人工智能技術(shù)的提高及智能汽車的市場(chǎng)普及。因此,在自動(dòng)駕駛模式下,該責(zé)任應(yīng)全部歸由智能汽車承擔(dān),并由該風(fēng)險(xiǎn)基金賠付。

    四、結(jié)語(yǔ)

    “我們距離將機(jī)器人和AI代理人視為具有自我意識(shí)的享有權(quán)利或承擔(dān)責(zé)任的實(shí)體還有很長(zhǎng)的路要走。因此,法律的關(guān)鍵問題——至少在這個(gè)早期歷史階段——是當(dāng)機(jī)器人和人工智能實(shí)體創(chuàng)造利益或造成損害時(shí)如何在人類中分配權(quán)利和義務(wù)?!薄?8〕同前注〔31〕,Jack M.Balkin文,第 46頁(yè)。推進(jìn)自動(dòng)駕駛汽車產(chǎn)業(yè)發(fā)展的最終落腳點(diǎn)還是要加強(qiáng)對(duì)自動(dòng)駕駛汽車的立法。事實(shí)上,德國(guó)《道路交通法》在其“技術(shù)創(chuàng)新前言”部分試圖通過規(guī)范智能汽車駕駛者的權(quán)利與義務(wù)進(jìn)而引導(dǎo)該領(lǐng)域發(fā)展,其不僅成為全歐洲第一部關(guān)于自動(dòng)駕駛汽車的立法,更是一項(xiàng)針對(duì)傳統(tǒng)汽車技術(shù)的革命?!?9〕同前注〔8〕,Markus Burianski、M.Theissen 文。面對(duì)與傳統(tǒng)事物具有本質(zhì)差異的新生事物,法律應(yīng)該發(fā)揮應(yīng)有的規(guī)范和引導(dǎo)功能。2017年7月8日,中國(guó)國(guó)務(wù)院提出了《新一代人工智能發(fā)展規(guī)劃》,明確應(yīng)大力發(fā)展智能運(yùn)輸工具,其為我國(guó)智能汽車立法提供了良好契機(jī)。2018年1月18日,人工智能標(biāo)準(zhǔn)化論壇在北京召開會(huì)議并發(fā)布了《人工智能標(biāo)準(zhǔn)化白皮書(2018版)》,進(jìn)一步推動(dòng)了我國(guó)人工智能技術(shù)的研究和發(fā)展。鑒于此,我國(guó)應(yīng)該積極制定引導(dǎo)智能汽車行業(yè)發(fā)展的立法,確立智能汽車的工具性人格,妥善調(diào)整智能汽車制造商、開發(fā)者與駕駛者之間的法律關(guān)系,為智能汽車產(chǎn)業(yè)的發(fā)展提供法規(guī)范上的指引。

    猜你喜歡
    駕駛者無(wú)人駕駛制造商
    我們村的無(wú)人駕駛公交
    一位制造商一架軍機(jī)(美國(guó)篇)
    無(wú)人駕駛車輛
    科學(xué)(2020年3期)2020-11-26 08:18:28
    無(wú)人駕駛公園
    受挫的汽車制造商在通向全新未來(lái)的十字路口止步不前
    發(fā)明電波感應(yīng)器防止開車瞌睡
    美國(guó)最差司機(jī)在哪里
    海外星云(2016年15期)2016-08-04 22:16:17
    天翌全系列衛(wèi)星天線制造商
    高通24億美元收購(gòu)芯片制造商CSR
    新面部表情監(jiān)控系統(tǒng) 防止駕駛者開車打瞌睡
    久久久久精品国产欧美久久久| 色播在线永久视频| 我的亚洲天堂| 成人18禁高潮啪啪吃奶动态图| 亚洲avbb在线观看| 自拍欧美九色日韩亚洲蝌蚪91| 狂野欧美激情性xxxx| 欧美日韩亚洲国产一区二区在线观看| 国产精品亚洲av一区麻豆| 国产精品 欧美亚洲| 香蕉久久夜色| 91字幕亚洲| 国产成年人精品一区二区 | 人妻丰满熟妇av一区二区三区| 国产精品国产高清国产av| 亚洲精品一区av在线观看| 国产精品九九99| 久久九九热精品免费| 国产片内射在线| 亚洲国产精品合色在线| 美女午夜性视频免费| 日韩欧美免费精品| 老司机午夜福利在线观看视频| 脱女人内裤的视频| 麻豆成人av在线观看| 亚洲成人精品中文字幕电影 | 黑人猛操日本美女一级片| 免费日韩欧美在线观看| 国产不卡一卡二| 天堂中文最新版在线下载| 夜夜夜夜夜久久久久| 9191精品国产免费久久| 国产野战对白在线观看| 中文字幕人妻丝袜制服| 精品久久蜜臀av无| 欧美日韩精品网址| 亚洲精品一二三| 色精品久久人妻99蜜桃| 欧美黑人精品巨大| 天天添夜夜摸| x7x7x7水蜜桃| 午夜福利影视在线免费观看| 亚洲伊人色综图| 久久久久久大精品| 一进一出抽搐动态| 免费在线观看日本一区| 99国产极品粉嫩在线观看| 成人免费观看视频高清| 亚洲免费av在线视频| 亚洲国产欧美网| 好男人电影高清在线观看| av有码第一页| 无人区码免费观看不卡| 久久精品亚洲精品国产色婷小说| 日韩精品免费视频一区二区三区| 18美女黄网站色大片免费观看| 欧洲精品卡2卡3卡4卡5卡区| 欧美不卡视频在线免费观看 | 亚洲国产中文字幕在线视频| 精品国产超薄肉色丝袜足j| a级片在线免费高清观看视频| 免费人成视频x8x8入口观看| 免费av中文字幕在线| 国产乱人伦免费视频| 亚洲国产看品久久| 中亚洲国语对白在线视频| 亚洲avbb在线观看| 午夜激情av网站| 久热这里只有精品99| 交换朋友夫妻互换小说| 成人18禁高潮啪啪吃奶动态图| 亚洲熟女毛片儿| 1024香蕉在线观看| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲av片天天在线观看| 色在线成人网| 亚洲av熟女| 高清av免费在线| 美女国产高潮福利片在线看| 国产一区在线观看成人免费| a在线观看视频网站| 久久影院123| 日韩中文字幕欧美一区二区| 女生性感内裤真人,穿戴方法视频| 69精品国产乱码久久久| 热re99久久国产66热| 97碰自拍视频| cao死你这个sao货| 久久人人爽av亚洲精品天堂| 黑人巨大精品欧美一区二区蜜桃| 亚洲aⅴ乱码一区二区在线播放 | 久久久国产精品麻豆| 亚洲人成伊人成综合网2020| 欧美日韩瑟瑟在线播放| 国产精品久久久av美女十八| 宅男免费午夜| 国产欧美日韩精品亚洲av| 电影成人av| 国产激情久久老熟女| 九色亚洲精品在线播放| 欧美日本中文国产一区发布| 可以免费在线观看a视频的电影网站| 老司机深夜福利视频在线观看| 亚洲国产精品sss在线观看 | 亚洲一区中文字幕在线| 亚洲视频免费观看视频| 99热国产这里只有精品6| 美女福利国产在线| 美女午夜性视频免费| 老鸭窝网址在线观看| 免费av中文字幕在线| 丰满饥渴人妻一区二区三| 99国产精品免费福利视频| 精品熟女少妇八av免费久了| 一本大道久久a久久精品| 国产又爽黄色视频| 这个男人来自地球电影免费观看| 自拍欧美九色日韩亚洲蝌蚪91| 亚洲精品久久午夜乱码| 国产成人av激情在线播放| 女人精品久久久久毛片| 中文字幕色久视频| 天堂影院成人在线观看| 精品国产国语对白av| 欧美日韩av久久| 欧美日韩亚洲高清精品| 国产一区在线观看成人免费| 久久精品人人爽人人爽视色| av网站免费在线观看视频| 欧美色视频一区免费| 久久草成人影院| 人人澡人人妻人| 亚洲va日本ⅴa欧美va伊人久久| 自线自在国产av| 99精国产麻豆久久婷婷| 男女高潮啪啪啪动态图| 日本免费一区二区三区高清不卡 | 国产精品秋霞免费鲁丝片| 亚洲自偷自拍图片 自拍| 一区福利在线观看| 久久九九热精品免费| 真人做人爱边吃奶动态| av欧美777| 黄片大片在线免费观看| 无限看片的www在线观看| 日韩精品免费视频一区二区三区| 99热国产这里只有精品6| 午夜福利影视在线免费观看| 深夜精品福利| 99久久人妻综合| 99精国产麻豆久久婷婷| 亚洲精品国产色婷婷电影| 两性午夜刺激爽爽歪歪视频在线观看 | 美女 人体艺术 gogo| 伦理电影免费视频| 亚洲成人久久性| 黄色视频,在线免费观看| 精品欧美一区二区三区在线| 黄网站色视频无遮挡免费观看| 成人免费观看视频高清| 色尼玛亚洲综合影院| 老汉色∧v一级毛片| 国产精品爽爽va在线观看网站 | 日韩欧美免费精品| 精品第一国产精品| 久久人人精品亚洲av| 久久精品91无色码中文字幕| 午夜91福利影院| 久久狼人影院| 久99久视频精品免费| 两性午夜刺激爽爽歪歪视频在线观看 | 久久性视频一级片| 91九色精品人成在线观看| 一级a爱片免费观看的视频| a级毛片在线看网站| 91麻豆av在线| 国产精品久久久久成人av| 午夜a级毛片| 制服诱惑二区| 亚洲av五月六月丁香网| 90打野战视频偷拍视频| 欧美大码av| 黑人巨大精品欧美一区二区蜜桃| a在线观看视频网站| 在线国产一区二区在线| 在线免费观看的www视频| 热99re8久久精品国产| 国产精品国产高清国产av| 天堂动漫精品| 美女扒开内裤让男人捅视频| 伊人久久大香线蕉亚洲五| 亚洲七黄色美女视频| 9色porny在线观看| 亚洲成人免费av在线播放| 色精品久久人妻99蜜桃| 久久精品亚洲精品国产色婷小说| 国产一区二区三区综合在线观看| 亚洲精品国产一区二区精华液| 国产一区二区三区视频了| 日韩欧美免费精品| 一级毛片精品| 亚洲视频免费观看视频| 久久草成人影院| 国产无遮挡羞羞视频在线观看| 久久中文字幕人妻熟女| 精品国产乱子伦一区二区三区| 亚洲成人免费av在线播放| 国产成人影院久久av| 热re99久久国产66热| 两个人免费观看高清视频| 一级作爱视频免费观看| 侵犯人妻中文字幕一二三四区| 欧美日韩中文字幕国产精品一区二区三区 | 久久香蕉激情| 变态另类成人亚洲欧美熟女 | 无人区码免费观看不卡| 天堂俺去俺来也www色官网| 免费高清在线观看日韩| xxxhd国产人妻xxx| 99re在线观看精品视频| 免费在线观看亚洲国产| 在线观看免费视频日本深夜| 精品免费久久久久久久清纯| 看黄色毛片网站| 国产精品国产av在线观看| bbb黄色大片| 国产精品1区2区在线观看.| 啦啦啦 在线观看视频| 亚洲精品国产一区二区精华液| 国产欧美日韩一区二区三区在线| 丝袜人妻中文字幕| 欧美日韩瑟瑟在线播放| 黄色视频,在线免费观看| 最近最新中文字幕大全电影3 | 亚洲欧美一区二区三区久久| 国产一区二区三区综合在线观看| 久久午夜综合久久蜜桃| 久久亚洲精品不卡| 女人精品久久久久毛片| 91字幕亚洲| 亚洲一区二区三区欧美精品| 欧美精品啪啪一区二区三区| 亚洲av日韩精品久久久久久密| 亚洲精品国产色婷婷电影| 涩涩av久久男人的天堂| 18禁黄网站禁片午夜丰满| 变态另类成人亚洲欧美熟女 | 十分钟在线观看高清视频www| 精品一区二区三区视频在线观看免费 | 97超级碰碰碰精品色视频在线观看| 亚洲欧美精品综合一区二区三区| 天堂中文最新版在线下载| xxx96com| 国产成人欧美| 久久精品国产清高在天天线| 亚洲人成77777在线视频| 国产精华一区二区三区| 精品高清国产在线一区| 男女床上黄色一级片免费看| 国内久久婷婷六月综合欲色啪| 男人舔女人的私密视频| 国产色视频综合| 久久精品亚洲熟妇少妇任你| 亚洲狠狠婷婷综合久久图片| 午夜免费鲁丝| 久久中文看片网| 婷婷丁香在线五月| 国产亚洲精品第一综合不卡| 欧美日韩福利视频一区二区| 亚洲一区二区三区色噜噜 | 一区二区三区国产精品乱码| 一二三四社区在线视频社区8| 老司机福利观看| 午夜精品国产一区二区电影| 亚洲五月婷婷丁香| 麻豆成人av在线观看| 天堂中文最新版在线下载| 日日爽夜夜爽网站| 99国产精品免费福利视频| 国产成人啪精品午夜网站| 亚洲精品一区av在线观看| 麻豆国产av国片精品| 欧美日韩av久久| 国产有黄有色有爽视频| 在线观看舔阴道视频| 国产精品一区二区三区四区久久 | 日韩av在线大香蕉| 久久精品亚洲熟妇少妇任你| 黄色视频,在线免费观看| 国产99久久九九免费精品| 一进一出好大好爽视频| 久久伊人香网站| 亚洲成人精品中文字幕电影 | av电影中文网址| a级片在线免费高清观看视频| 成人三级做爰电影| 村上凉子中文字幕在线| 亚洲成a人片在线一区二区| 欧美日韩亚洲高清精品| 久久久国产成人免费| 亚洲欧美日韩另类电影网站| 中文字幕另类日韩欧美亚洲嫩草| 91精品国产国语对白视频| 国产91精品成人一区二区三区| 成熟少妇高潮喷水视频| 国产成人系列免费观看| 麻豆国产av国片精品| 黑人巨大精品欧美一区二区mp4| 日本免费a在线| 精品高清国产在线一区| 视频区欧美日本亚洲| 高潮久久久久久久久久久不卡| 黄色女人牲交| 国产av一区在线观看免费| 亚洲国产精品999在线| 波多野结衣一区麻豆| 国产亚洲精品久久久久久毛片| 日本a在线网址| 在线观看舔阴道视频| 国产精品九九99| 我的亚洲天堂| 免费高清视频大片| 精品第一国产精品| 免费在线观看完整版高清| 国产精品 欧美亚洲| 99re在线观看精品视频| 一级片'在线观看视频| 波多野结衣av一区二区av| 人人妻人人澡人人看| 身体一侧抽搐| 桃红色精品国产亚洲av| 亚洲成人免费电影在线观看| 日韩大码丰满熟妇| 欧美成人午夜精品| 亚洲人成电影观看| 欧美成人午夜精品| 大香蕉久久成人网| 夜夜看夜夜爽夜夜摸 | 国产精品久久久久成人av| 亚洲狠狠婷婷综合久久图片| 欧美日韩国产mv在线观看视频| videosex国产| 亚洲av成人一区二区三| 亚洲av日韩精品久久久久久密| 日日夜夜操网爽| 一二三四社区在线视频社区8| 久久热在线av| 岛国视频午夜一区免费看| 成人影院久久| 亚洲第一青青草原| 9色porny在线观看| 99国产精品免费福利视频| 国产在线精品亚洲第一网站| 99热只有精品国产| 日韩大尺度精品在线看网址 | 午夜精品在线福利| 悠悠久久av| 午夜精品在线福利| 成人av一区二区三区在线看| 欧美日韩一级在线毛片| 精品电影一区二区在线| 国产精品美女特级片免费视频播放器 | 色哟哟哟哟哟哟| 99riav亚洲国产免费| 一二三四在线观看免费中文在| 一个人观看的视频www高清免费观看 | 免费观看精品视频网站| 黄色视频不卡| 精品国产乱子伦一区二区三区| 男女床上黄色一级片免费看| 亚洲 欧美一区二区三区| 中文字幕人妻丝袜一区二区| 日日夜夜操网爽| 国产黄a三级三级三级人| 国产99久久九九免费精品| 久久精品影院6| 99精品在免费线老司机午夜| 美女高潮到喷水免费观看| 国产99久久九九免费精品| 老汉色av国产亚洲站长工具| 日日爽夜夜爽网站| 亚洲狠狠婷婷综合久久图片| 一本大道久久a久久精品| 日本免费a在线| 超碰成人久久| 电影成人av| 久热爱精品视频在线9| 一边摸一边抽搐一进一小说| 妹子高潮喷水视频| av福利片在线| av天堂在线播放| 两人在一起打扑克的视频| 欧美日本亚洲视频在线播放| 老司机福利观看| 午夜a级毛片| 免费av中文字幕在线| 一进一出好大好爽视频| 午夜免费鲁丝| 90打野战视频偷拍视频| 欧美日韩福利视频一区二区| 99久久久亚洲精品蜜臀av| 99香蕉大伊视频| 精品电影一区二区在线| 操美女的视频在线观看| 久久国产精品男人的天堂亚洲| 一级片'在线观看视频| 国产主播在线观看一区二区| 搡老乐熟女国产| 日韩欧美三级三区| 日日夜夜操网爽| 国产免费现黄频在线看| 中文字幕精品免费在线观看视频| 交换朋友夫妻互换小说| 日韩中文字幕欧美一区二区| 在线观看免费午夜福利视频| 免费看a级黄色片| 成人国语在线视频| 午夜a级毛片| 亚洲精品国产色婷婷电影| 欧美黄色片欧美黄色片| 91精品国产国语对白视频| 久久久精品欧美日韩精品| 又黄又粗又硬又大视频| 亚洲精华国产精华精| 久久国产精品影院| 制服诱惑二区| 婷婷精品国产亚洲av在线| 久久久国产成人精品二区 | 我的亚洲天堂| videosex国产| 欧美性长视频在线观看| 中亚洲国语对白在线视频| 日韩中文字幕欧美一区二区| 国产欧美日韩综合在线一区二区| 无遮挡黄片免费观看| 91麻豆av在线| 欧美老熟妇乱子伦牲交| 国产精品野战在线观看 | av免费在线观看网站| 在线观看午夜福利视频| 欧美日韩亚洲高清精品| 女人精品久久久久毛片| 久热这里只有精品99| xxx96com| 精品久久久久久久毛片微露脸| 免费在线观看视频国产中文字幕亚洲| 国产精品久久视频播放| 黄色 视频免费看| 三级毛片av免费| 波多野结衣av一区二区av| www.精华液| 亚洲av美国av| 麻豆一二三区av精品| 欧美日韩乱码在线| 麻豆成人av在线观看| 亚洲色图 男人天堂 中文字幕| 欧美老熟妇乱子伦牲交| 亚洲色图综合在线观看| 欧美激情高清一区二区三区| 亚洲av五月六月丁香网| 如日韩欧美国产精品一区二区三区| 一进一出抽搐gif免费好疼 | 日本 av在线| 最近最新中文字幕大全电影3 | 女人被躁到高潮嗷嗷叫费观| 性少妇av在线| 两个人免费观看高清视频| 人人妻人人添人人爽欧美一区卜| 免费高清在线观看日韩| 777久久人妻少妇嫩草av网站| 在线观看免费日韩欧美大片| av欧美777| 黑人欧美特级aaaaaa片| 视频区欧美日本亚洲| 久久精品亚洲熟妇少妇任你| 一区二区三区精品91| ponron亚洲| 国产单亲对白刺激| 亚洲精品一二三| 国产1区2区3区精品| 欧美日韩亚洲综合一区二区三区_| 午夜激情av网站| 欧美日韩视频精品一区| 村上凉子中文字幕在线| 国产人伦9x9x在线观看| 亚洲av日韩精品久久久久久密| 不卡av一区二区三区| 欧美成人性av电影在线观看| 日韩中文字幕欧美一区二区| 老司机午夜十八禁免费视频| 男人舔女人下体高潮全视频| 一级毛片女人18水好多| 91av网站免费观看| 亚洲人成网站在线播放欧美日韩| 女警被强在线播放| 久久狼人影院| 日韩大尺度精品在线看网址 | 在线av久久热| 一进一出好大好爽视频| 精品高清国产在线一区| 一个人观看的视频www高清免费观看 | 国产成+人综合+亚洲专区| 中亚洲国语对白在线视频| 一进一出抽搐gif免费好疼 | 国产蜜桃级精品一区二区三区| 人人妻人人添人人爽欧美一区卜| 欧美激情高清一区二区三区| 亚洲中文字幕日韩| 亚洲欧美激情综合另类| 另类亚洲欧美激情| 亚洲中文日韩欧美视频| 男女下面插进去视频免费观看| 在线观看www视频免费| aaaaa片日本免费| 80岁老熟妇乱子伦牲交| 一区二区三区国产精品乱码| 久久亚洲真实| 大型黄色视频在线免费观看| 欧洲精品卡2卡3卡4卡5卡区| 亚洲中文av在线| 美女国产高潮福利片在线看| 99香蕉大伊视频| 国产一区在线观看成人免费| 免费观看精品视频网站| 亚洲欧美一区二区三区黑人| 欧美亚洲日本最大视频资源| 欧美一级毛片孕妇| 国产欧美日韩精品亚洲av| 两性午夜刺激爽爽歪歪视频在线观看 | 午夜91福利影院| 18美女黄网站色大片免费观看| 自线自在国产av| 夫妻午夜视频| 久久久久久大精品| 亚洲专区国产一区二区| 精品久久久久久电影网| 免费av毛片视频| 成人精品一区二区免费| 色精品久久人妻99蜜桃| 亚洲av成人不卡在线观看播放网| 日韩欧美在线二视频| 久久香蕉国产精品| 午夜激情av网站| 视频区图区小说| 一区福利在线观看| 在线观看免费高清a一片| 欧美在线一区亚洲| 日韩免费av在线播放| 亚洲男人的天堂狠狠| 五月开心婷婷网| 水蜜桃什么品种好| 久久这里只有精品19| 他把我摸到了高潮在线观看| 久久久久久久久中文| 视频在线观看一区二区三区| 国产男靠女视频免费网站| 最新美女视频免费是黄的| 丝袜美腿诱惑在线| 亚洲成人免费电影在线观看| 亚洲成国产人片在线观看| 亚洲久久久国产精品| 757午夜福利合集在线观看| 成人黄色视频免费在线看| 国产真人三级小视频在线观看| 国产激情欧美一区二区| 老鸭窝网址在线观看| 日韩精品青青久久久久久| 国产高清videossex| av在线天堂中文字幕 | 人成视频在线观看免费观看| 亚洲全国av大片| 黄色丝袜av网址大全| 极品教师在线免费播放| 妹子高潮喷水视频| 成熟少妇高潮喷水视频| 成人免费观看视频高清| 亚洲五月色婷婷综合| 性少妇av在线| 国产成年人精品一区二区 | 成年人黄色毛片网站| 国产一区在线观看成人免费| 在线观看免费高清a一片| 久久精品成人免费网站| 亚洲成人免费av在线播放| 精品国产乱子伦一区二区三区| 99国产精品一区二区蜜桃av| 91字幕亚洲| 国产高清国产精品国产三级| 男女之事视频高清在线观看| 欧美一区二区精品小视频在线| 国产精品永久免费网站| 亚洲九九香蕉| 亚洲成人久久性| 色尼玛亚洲综合影院| 香蕉丝袜av| 国产一区二区三区视频了| 精品久久久久久成人av| 嫩草影院精品99| 亚洲精品国产区一区二| 欧美中文综合在线视频| 淫秽高清视频在线观看| 精品国产超薄肉色丝袜足j| 人妻久久中文字幕网| 国产亚洲欧美在线一区二区| 久久香蕉精品热| 亚洲欧美精品综合久久99| 视频区欧美日本亚洲| 黄网站色视频无遮挡免费观看| 婷婷丁香在线五月| 久久久久久大精品| 精品国产亚洲在线| 亚洲精品国产一区二区精华液| 国产一区二区三区在线臀色熟女 | 欧美丝袜亚洲另类 | 中亚洲国语对白在线视频|