• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論自動駕駛汽車的發(fā)展風險抗辯

    2023-10-16 11:50:26
    西南政法大學學報 2023年1期
    關鍵詞:生產(chǎn)者科學技術自動

    景 荻

    (西南政法大學 人工智能法學院,重慶 401120)

    一、問題的提出

    自動駕駛汽車是人工智能最為典型的應用場景,也是我國汽車產(chǎn)業(yè)實現(xiàn)彎道超車的重要契機。近年來,為推進自動駕駛汽車的發(fā)展,中央層面相繼發(fā)布了《智能網(wǎng)聯(lián)汽車道路測試管理規(guī)范(試行)》《智能網(wǎng)聯(lián)汽車道路測試與示范應用管理規(guī)范(試行)》《關于加強智能網(wǎng)聯(lián)汽車生產(chǎn)企業(yè)及產(chǎn)品準入管理的意見》《汽車數(shù)據(jù)安全管理若干規(guī)定(試行)》等系列法律規(guī)范,北京、上海、深圳等地方層面也在積極開展自動駕駛汽車的道路測試和示范應用。而自2022年10月以來,工信部更是先后發(fā)布《道路機動車輛生產(chǎn)準入許可管理條例(征求意見稿)》《關于開展智能網(wǎng)聯(lián)汽車準入和上路通行試點工作的通知(征求意見稿)》,明確提出推動自動駕駛汽車產(chǎn)品準入和上路通行試點,自動駕駛汽車的大規(guī)模商業(yè)化落地迫在眉睫。

    自動駕駛汽車不同于傳統(tǒng)汽車,需要立法者為其配置系統(tǒng)的法律規(guī)則。其中,如何妥當解決自動駕駛汽車引發(fā)的侵權責任問題是重中之重。從侵權責任的框架出發(fā),自動駕駛汽車引發(fā)的事故損害主要涉及兩類責任,一類是機動車交通事故責任,一類是產(chǎn)品責任。相較于機動車交通事故責任,主張由自動駕駛汽車生產(chǎn)者一方承擔產(chǎn)品責任的觀點更具共識,已得到廣泛的認可。①參見馮玨:《自動駕駛汽車致?lián)p的民事侵權責任》,載《中國法學》2018年第6期,第124頁。一方面,無論自動駕駛汽車如何智能,其始終屬于產(chǎn)品的范疇,適用產(chǎn)品責任理所當然。另一方面,自動駕駛汽車在運行過程中極大地剔除了“人”的因素,事故發(fā)生的原因更多地來自于“車”的原因,適用產(chǎn)品責任可以激勵生產(chǎn)者一方提升“車”的性能。②參見鄭志峰:《自動駕駛汽車交通事故責任的立法論與解釋論——以民法典相關內(nèi)容為視角》,載《東方法學》2021年第3期,第158頁?;诖?產(chǎn)品責任成為解決自動駕駛汽車侵權責任問題最主要的責任模型。

    根據(jù)我國《民法典》第1202條以及第1203條規(guī)定,產(chǎn)品責任屬于無過錯責任,受害人無需就生產(chǎn)者一方是否存在過錯承擔舉證責任,但需要證明產(chǎn)品存在缺陷。根據(jù)《產(chǎn)品質(zhì)量法》第46條規(guī)定,所謂產(chǎn)品缺陷是指產(chǎn)品本身不符合保障人體健康和人身、財產(chǎn)安全的國家標準、行業(yè)標準,或者存在危及人身、他人財產(chǎn)安全的不合理危險,即確立了國家或行業(yè)標準和不合理危險兩個判斷標準。與此同時,產(chǎn)品責任并非絕對責任,生產(chǎn)者一方可以通過主張法定的免責事由予以抗辯。例如,《產(chǎn)品質(zhì)量法》第41條明確規(guī)定,生產(chǎn)者享有三種免責事由,分別是未將產(chǎn)品投入流通、產(chǎn)品投入流通時引起損害的缺陷尚不存在以及將產(chǎn)品投入流通時的科學技術水平尚不能發(fā)現(xiàn)缺陷的存在。其中,第三種免責事由即著名的發(fā)展風險抗辯。

    具體到自動駕駛汽車的產(chǎn)品責任,學者們多圍繞自動駕駛系統(tǒng)產(chǎn)品缺陷的證明展開分析,有關自動駕駛汽車生產(chǎn)者一方能否以及如何主張發(fā)展風險抗辯的問題尚未充分討論。事實上,發(fā)展風險抗辯對于自動駕駛汽車乃至所有的人工智能產(chǎn)品都有重要意義,是調(diào)和生產(chǎn)者一方和受害人一方利益沖突的關鍵,從而在在兩者之間尋求一種權利和義務的平衡,進而推動新技術產(chǎn)業(yè)的發(fā)展。③參見胡元聰:《人工智能產(chǎn)品發(fā)展風險抗辯制度的理論沖突與平衡協(xié)調(diào)》,載《中南大學學報(社會科學版)》2020年第6期,第75頁。為此,本文將針對自動駕駛汽車如何適用發(fā)展風險抗辯這一主題展開探討,力求構(gòu)建一套有益于技術發(fā)展和社會福祉的責任認定與抗辯規(guī)則。

    二、自動駕駛汽車適用發(fā)展風險抗辯的正當性

    (一)發(fā)展風險抗辯的立法考察

    發(fā)展風險抗辯是指如果產(chǎn)品依照其投入流通時的科學技術水平不被認為有缺陷,那么即使一段時間以后的新科學技術水平認定產(chǎn)品存在缺陷,生產(chǎn)者也不需要承擔責任。④參見冉克平:《產(chǎn)品責任理論與判例研究》,北京大學出版社2014年版,第286-287頁。

    各國對于發(fā)展風險抗辯的立法態(tài)度并不一致。歐洲層面,1976年《關于統(tǒng)一成員國有關缺陷產(chǎn)品責任的法律、法規(guī)和行政性規(guī)定的理事會指令〈草案〉》(《歐同體產(chǎn)品責任指令(草案)》)對發(fā)展風險抗辯事由持否定態(tài)度,第2條第2款規(guī)定即使根據(jù)產(chǎn)品投入流通時的科技發(fā)展情況認為產(chǎn)品不存在缺陷,生產(chǎn)者仍然要承擔責任。然而,這一規(guī)定并沒有得到廣泛認同。隨后1985年出臺的《歐同體產(chǎn)品責任指令》第7條(e)款肯定了生產(chǎn)者的發(fā)展風險抗辯,但第15條第1款b項規(guī)定允許成員國就該條款作出保留。①參見涂永前、韓曉琪:《論產(chǎn)品責任之發(fā)展風險抗辯》,載《西南民族大學學報(人文社會科學版)》2010 年第 10 期,第106頁。目前,大部分歐洲國家的國內(nèi)立法與指令保持一致,但也有一些國家采取了不同做法,如芬蘭、盧森堡就在國內(nèi)法中排除了發(fā)展風險抗辯事由的適用;法國對此選擇了折衷的解決方法,即原則上生產(chǎn)者可以采用發(fā)展風險抗辯,但對于人體產(chǎn)品特別是血液和血液產(chǎn)品和“對進入流通后10年出現(xiàn)的缺陷未采取相應的措施制止損害發(fā)生”的情況作了例外規(guī)定。②參見[德]克雷斯蒂安·馮·巴爾:《歐洲比較侵權行為法》(下卷),焦美華譯,法律出版社2004年版,第503頁。與此類似,西班牙、德國等國家都采用了原則上適用發(fā)展風險抗辯事由,同時輔之以特殊產(chǎn)品例外規(guī)定的折衷模式。③參見李蔚:《論產(chǎn)品的發(fā)展風險責任及其抗辯》,載《法學評論》1998年第6期,第66-67頁。

    在美國,發(fā)展風險抗辯指的是工藝水平(state of the art)抗辯,主要適用于過失產(chǎn)品責任中。④See Edward C. Sobota, Product Liability Reform Proposals: The State of the Art Defense, 43 Albany Law Review 941,944-945(1979).這種產(chǎn)生于判例和立法的抗辯制度,其通常的主題是:如果產(chǎn)品出售時危險是不知悉、不可預防的,那么法院不太情愿將責任適用于生產(chǎn)商,即不愿讓生產(chǎn)商為他們無法控制的風險負責任。⑤參見[美]戴維·G.歐文:《產(chǎn)品責任法》,董春華譯,中國政法大學出版社2012年版,第218頁。在1965年美國《第二次侵權法重述》第402A條確認產(chǎn)品責任的嚴格責任屬性后,發(fā)展風險抗辯被許多法院視為一種過失抗辯而拒絕采用。然而,隨著產(chǎn)品責任糾紛的急劇增加,產(chǎn)品責任的嚴格責任屬性受到質(zhì)疑,各州對于發(fā)展風險抗辯的態(tài)度逐漸回暖。⑥參見賀琛:《我國產(chǎn)品責任法中發(fā)展風險抗辯制度的反思與重構(gòu)》,載《法律科學》2016年第3期,第136頁。隨后,1998年美國《第三次侵權法重述:產(chǎn)品責任》對于生產(chǎn)者的責任使用了“合理性”這一規(guī)則,使得發(fā)展風險抗辯存在適用的空間。⑦參見[美]戴維·G.歐文:《產(chǎn)品責任法》,董春華譯,中國政法大學出版社2012年版,第230頁??傮w而言,美國判例和成文立法中顯示出的共同思想是不愿要求產(chǎn)品制造者承擔在產(chǎn)品投入市場時無法知道或無法避免的風險引起的責任。⑧參見李俊、馬春才:《歐美發(fā)展風險抗辯制度及其啟示》,載《河南社會科學》2018年第12期,第23頁。

    我國對于發(fā)展風險抗辯持較為寬松的立場,1993年制定《產(chǎn)品質(zhì)量法》時,就明確將發(fā)展風險抗辯作為生產(chǎn)者的免責事由之一,隨后的三次修訂都沒有改變這一態(tài)度。2009年《侵權責任法》并未就產(chǎn)品責任的抗辯事由作出明確規(guī)定,一定程度上導致了法解釋上的困難,即是否應當認為《侵權責任法》通過不予規(guī)定的方式已經(jīng)排除了產(chǎn)品的發(fā)展風險抗辯。⑨參見梅瑞琦:《論產(chǎn)品發(fā)展風險責任》,載陳小君主編:《私法研究》第17卷,法律出版社2015年版,第248頁。對此,學界主流觀點認為,《侵權責任法》并未對產(chǎn)品責任的抗辯事由另作規(guī)定,表明《產(chǎn)品質(zhì)量法》規(guī)定的發(fā)展風險抗辯繼續(xù)適用。⑩參見王利明:《侵權責任法研究》,中國人民大學出版社2016年第2版,第252-253頁;程嘯:《侵權責任法》(第三版),法律出版社2020年版,第583-584頁。隨后,《民法典》侵權責任編有關產(chǎn)品責任的規(guī)定,基本延續(xù)了原《侵權責任法》的立場。此外,從我國司法實踐來看,發(fā)展風險抗辯通常被認為是生產(chǎn)者的一項法定免責事由,是產(chǎn)品責任糾紛中法院審理的重要事項。?參見最高人民法院(2018)最高法民再420號民事判決書,最高人民法院(2015)民申字第1746號民事裁定書,北京市第一中級人民法院(2022)京01民終4340號民事判決書等。

    (二)發(fā)展風險抗辯的正當依據(jù)

    學界圍繞發(fā)展風險抗辯存在不少爭議,主要質(zhì)疑可以歸納為三點:一是發(fā)展風險抗辯與產(chǎn)品責任的無過錯責任性質(zhì)矛盾;二是發(fā)展風險抗辯無法激勵生產(chǎn)者提升產(chǎn)品性能;三是發(fā)展風險抗辯不利于受害人救濟。①參見李蔚:《論產(chǎn)品的發(fā)展風險責任及其抗辯》,載《法學評論》1998年第6期,第67-68頁;涂永前、韓曉琪:《論產(chǎn)品責任之發(fā)展風險抗辯》,載《西南民族大學學報(人文社會科學版)》2010 年第 10 期,第107-108頁;冉克平:《產(chǎn)品責任理論與判例研究》,北京大學出版社2014年版,第290-291頁。有學者就明確主張,對于自動駕駛汽車不應適用發(fā)展風險抗辯。一方面,自動駕駛技術仍在不斷完善之中,絕對的安全只是一種理想狀態(tài),具有發(fā)生事故的可能性是必然的。從這個意義上說,自動駕駛的風險是可知的,不存在適用發(fā)展風險抗辯的可能。另一方面,從安全相關性來看,對自然人的生命、健康具有重大影響或基于目前科技水平難以估算其風險的產(chǎn)品,實不宜適用發(fā)展風險抗辯。②參見韓旭至:《自動駕駛事故的侵權責任構(gòu)造——兼論自動駕駛的三層保險結(jié)構(gòu)》,載《上海大學學報( 社會科學版)》2019年第2期,第96-97頁。

    本文認為,發(fā)展風險抗辯是產(chǎn)品責任的必要組成部分,對于自動駕駛汽車等人工智能產(chǎn)品來說不僅正當而且必要。

    第一,發(fā)展風險抗辯契合產(chǎn)品責任的無過錯責任性質(zhì)。有觀點指出,發(fā)展風險抗辯源自于過失產(chǎn)品責任制度,與生產(chǎn)者的過失認定直接相關,預設的前提是生產(chǎn)者對于產(chǎn)品負有合理的注意義務。③參見賀琛:《我國產(chǎn)品責任法中發(fā)展風險抗辯制度的反思與重構(gòu)》,載《法律科學》2016年第3期,第136頁。然而,現(xiàn)代產(chǎn)品責任早已經(jīng)從過失責任變?yōu)闊o過錯責任,生產(chǎn)者一方是否存在過失不再重要,發(fā)展風險抗辯似乎也失去了適用空間。對此,筆者認為,發(fā)展風險抗辯與產(chǎn)品責任的無過錯責任屬性并不沖突。一方面,產(chǎn)品責任的無過錯責任屬性背后依然存在過失的元素。④參見鄭志峰:《自動駕駛汽車的私法挑戰(zhàn)與應對研究》,中國法制出版社2022年版,第183頁。在討論產(chǎn)品責任的嚴格責任屬性時,許多學者都持有異議,認為產(chǎn)品責任與過錯責任在“很大程度上是同一的”,或者“或多或少相同”。⑤參見[英]肯·奧立芬特著:《產(chǎn)品責任: 歐洲視角的比較法評論》,王竹、王毅純譯,載《北方法學》2014年第4期,第6-7頁。對此,有學者就指出,“當原告試圖以無過錯責任為基礎而不以過失理論尋求對所謂的缺陷產(chǎn)品造成的損害進行賠償時,他仍然需要負擔這樣的舉證責任,即當生產(chǎn)者喪失所有權和控制權時,產(chǎn)品缺陷已經(jīng)存在。而在依據(jù)過失理論進行索賠時,原告通常也需要通過舉證證明說服陪審團認定產(chǎn)品缺陷是因為生產(chǎn)者的過失造成的。因此,雖然無過錯責任排除了讓陪審團相信過失存在的必要性,但并沒有在任何實質(zhì)上改變原告的證明問題,原告對于嚴格責任的證明要求通常會產(chǎn)生過失的認定。“⑥See Page Keeton, Manufacturer’s Liability: The Meaning of Defect in the Manufacture and Design of Products, 20 Syracuse Law Review 559,563(1969).

    另一方面,發(fā)展風險抗辯針對的是產(chǎn)品缺陷要件,而非過失要件,產(chǎn)品責任的無過錯責任屬性并不排斥發(fā)展風險抗辯。發(fā)展風險抗辯事由的運用在某種程度上具有過失的影子,而產(chǎn)品責任是典型的無過錯責任,這種抵牾的出現(xiàn)顯然會消解產(chǎn)品責任規(guī)則體系內(nèi)部的協(xié)調(diào)性。對此,我們需要重新審視發(fā)展風險抗辯,即該抗辯更多地是針對產(chǎn)品缺陷的抗辯,而非過失的抗辯。從《產(chǎn)品質(zhì)量法》的規(guī)定來看,發(fā)展風險抗辯的內(nèi)容為“將產(chǎn)品投入流通時的科學技術水平尚不能發(fā)現(xiàn)缺陷存在的”,其重點在于產(chǎn)品缺陷的認定,而非生產(chǎn)者是否存在過失。由此觀之,產(chǎn)品責任的無過錯責任屬性并不排斥發(fā)展風險抗辯。同樣,對于自動駕駛汽車來說,發(fā)展風險抗辯主要針對的是產(chǎn)品缺陷的認定,即自動駕駛汽車的安全性能是否滿足現(xiàn)有科學技術水平的要求。①See GaryMarchant & Rida Bazzi, Autonomous Vehicles and Liability: What Will Juries Do,26 Boston University Journal of Science and Technology Law 67,90(2020).至于生產(chǎn)者一方是否有過錯,并不是發(fā)展風險抗辯適用的重點。

    第二,發(fā)展風險抗辯有助于促進技術革新。有觀點認為,否定發(fā)展風險抗辯可以創(chuàng)造一個更加安全的社會,最大程度刺激生產(chǎn)者提高產(chǎn)品性能。反之,允許生產(chǎn)者享有發(fā)展風險抗辯會讓其抱有僥幸,反而不利于技術進步。②參見李蔚:《論產(chǎn)品的發(fā)展風險責任及其抗辯》,載《法學評論》1998年第6期,第68頁。對此,筆者認為,科技的發(fā)展需要給生產(chǎn)者配置適當?shù)呢熑?以便平衡受害人救濟與生產(chǎn)者的利益。如果責任配置過重,那么生產(chǎn)者一方將失去創(chuàng)新的動力。從歷史上看,航空行業(yè)、疫苗行業(yè)、核能行業(yè)的發(fā)展都曾因為責任配置過重而受到抑制,隨后不得不進行責任制度的改革。與此同時,汽車行業(yè)中的安全氣囊、安全帶的例子也充分說明了配置過重的責任規(guī)則只會對新技術的發(fā)展產(chǎn)生負面影響。③參見鄭志峰:《自動駕駛汽車的交通事故侵權責任》,載《法學》2018年第4期,第24頁。對于生產(chǎn)者一方來說,產(chǎn)品不因嗣后出現(xiàn)的更先進、更安全的產(chǎn)品而被認定為具有缺陷,這可以間接地鼓勵生產(chǎn)者進行技術創(chuàng)新。而技術的創(chuàng)新會增加全社會的福利,消費者也因技術創(chuàng)新而獲得更安全、更優(yōu)質(zhì)的產(chǎn)品。④參見周友軍:《民法典編纂中產(chǎn)品責任制度的完善》,載《法學評論》2018年第2期,第144頁。

    具體到自動駕駛汽車等人工智能產(chǎn)品,產(chǎn)品責任對于生產(chǎn)者與受害人雙方利益的平衡至關重要,而這種平衡許多時候都要通過產(chǎn)品責任的構(gòu)成要件與免責事由的博弈來體現(xiàn)。具體來說,產(chǎn)品責任不要求受害人舉證證明生產(chǎn)者存在過失,核心要件在于產(chǎn)品缺陷的認定,而產(chǎn)品缺陷的本質(zhì)在于是否存在不合理危險。對此,發(fā)展風險抗辯可以實現(xiàn)產(chǎn)品缺陷認定的動態(tài)平衡,通過現(xiàn)有科技水平的引入來協(xié)助劃分出合理危險與不合理危險,進而確保產(chǎn)品責任的適用維持在一個各方都能接受的水平上。從這個角度看,發(fā)展風險抗辯作為一項免責事由,可以一定程度緩和產(chǎn)品責任的嚴格責任屬性帶來的弊端,避免產(chǎn)品責任從嚴格責任走向絕對責任。⑤參見范小華:《發(fā)展風險抗辯制度及其啟示》,載《法律適用》2013年第5期,第47頁。相反,如果不允許生產(chǎn)者援引發(fā)展風險抗辯,那么就會過分加重生產(chǎn)者的責任,致使生產(chǎn)者無法輕裝上陣,在技術研發(fā)和產(chǎn)品革新方面畏手畏腳。特別是對于自動駕駛汽車等人工智能產(chǎn)品來說,生產(chǎn)者投入的成本是十分高昂的。如果生產(chǎn)者在當時科學技術水平之下盡到最大努力卻依然無法避免產(chǎn)品缺陷的出現(xiàn),此時要求生產(chǎn)者承擔產(chǎn)品責任并不公平??傊?發(fā)展風險抗辯的適用不僅不會影響技術的發(fā)展,反而有助于生產(chǎn)者革新技術。

    第三,發(fā)展風險抗辯不會不當阻礙對受害人的救濟。有學者認為,產(chǎn)品責任之所以采取嚴格責任本質(zhì)上在于風險損失的分擔,生產(chǎn)者可以通過提高產(chǎn)品價格來彌補賠償發(fā)展風險所致?lián)p害的成本,適用發(fā)展風險抗辯會減損嚴格責任原則,使得消費者承擔不合理的負擔。⑥參見梅瑞琦:《論產(chǎn)品發(fā)展風險責任》,載陳小君主編:《私法研究》第17卷,法律出版社2015年版,第261頁。對此,筆者認為,發(fā)展風險抗辯并不會過分加重受害人的救濟負擔。一方面,產(chǎn)品責任并非絕對責任,受害人并非只要有損害就會得到救濟,生產(chǎn)者始終存在援引免責事由的可能。從產(chǎn)品責任肩負的使命來看,風險損失的分擔自然非常重要,但這種風險的分散也需要合理有序。發(fā)展風險抗辯的存在,有助于構(gòu)建一套平衡各方利益的風險分散機制。如果不承認發(fā)展風險抗辯,諸如自動駕駛汽車等具有高風險但卻有高價值的新技術將無法順利投入市場,最終消費者和企業(yè)都會遭受損失。例如,對于自動駕駛汽車等人工智能產(chǎn)品來說,生產(chǎn)者常常需要通過購買保險來分散風險,而保險成本的高低不僅會影響生產(chǎn)者的經(jīng)營成本,還關系到受害人的救濟。①參見鄭志峰:《論自動駕駛汽車的責任保險》,載《荊楚法學》2022年第5期,第49頁。而從已有的情況來看,在無過錯責任領域,只要存在發(fā)展風險抗辯,保險費就不會大幅上漲,相反如果引入絕對責任,保險費將有實質(zhì)性的提升,最終不利于受害人的救濟。②參見梅瑞琦:《論產(chǎn)品發(fā)展風險責任》,載陳小君主編:《私法研究》第17卷,法律出版社2015年版,第248頁。

    另一方面,發(fā)展風險抗辯的適用具有嚴格的條件,要求生產(chǎn)者生產(chǎn)的自動駕駛汽車必須達到一個非常高的科技水平標準,這從根本上保障了產(chǎn)品的安全性。與此同時,發(fā)展風險抗辯的適用存在動態(tài)調(diào)節(jié)的空間,完全可以通過具體案件的適用來平衡受害人救濟與生產(chǎn)者利益。此外,發(fā)展風險抗辯還存在諸多配套制度,如后續(xù)跟蹤觀察義務、勤勉警示制度、產(chǎn)品召回制度等。即使生產(chǎn)者證明生產(chǎn)的自動駕駛汽車符合發(fā)展風險抗辯,如果違反了后續(xù)的義務,依然需要承擔賠償責任。退一萬步說,即使生產(chǎn)者援引發(fā)展風險抗辯免除產(chǎn)品責任,損害也并非由單個的受害人獨自承擔。對此,我們完全可以考慮在發(fā)展風險抗辯制度適用之后,貫徹“共享人工智能發(fā)展成果,分攤?cè)斯ぶ悄馨l(fā)展風險”的損害救濟分攤理念,合理解決消費者受到侵害帶來的損害救濟分攤難題。③參見胡元聰:《人工智能產(chǎn)品發(fā)展風險抗辯后的損害救濟分攤機制研究》,載《政法論叢》2020年第3期,第129頁。

    三、自動駕駛汽車發(fā)展風險抗辯的適用困境

    發(fā)展風險抗辯的適用具有嚴格的條件,至少包括科學技術水平的判斷時間點、判斷標準以及適用范圍三個方面。在自動駕駛汽車產(chǎn)品責任中,發(fā)展風險抗辯的適用存在諸多難題。

    (一)科學技術水平的判斷時間點

    實踐中,科學技術水平是持續(xù)發(fā)展的,通常會隨著時間的推移而不斷提高。對此,我們需要確定發(fā)展風險抗辯究竟采取的是哪個時間點的科學技術水平。

    從理論上看,科學技術水平的時間點截取存在多種可能,包括產(chǎn)品投入流通時、產(chǎn)品為生產(chǎn)者控制時以及產(chǎn)品制造設計時等。對此,各國對于發(fā)展風險抗辯中的科學技術水平時間點的選擇并不完全一致。例如,在歐洲,《歐同體產(chǎn)品責任指令》采取的是“產(chǎn)品投入流通時”,德國、法國等也持同一立場。④參見[德]埃爾溫·多伊奇、[德]漢斯-于爾根·阿倫斯:《德國侵權法》,葉名怡、溫大軍譯,中國人民大學出版社2016年版,第136頁;《法國民法典》(下冊),羅結(jié)珍譯,法律出版社2005年版,第1117頁。在美國,法院存在兩種不同的做法:一種觀點認為應當依照產(chǎn)品進入市場時的標準,另外一種觀點則認為應該依照案件審理時的標準。⑤參見[美]文森特·R·約翰遜:《美國侵權法》,趙秀文譯,中國人民大學出版社2004年版,第211頁。對此,我國《產(chǎn)品質(zhì)量法》采取的是投入流通時,具體指最初的生產(chǎn)者將產(chǎn)品投入市場,至于之后的批發(fā)商、零售商是否將產(chǎn)品投入流通,并不影響投入流通時間點的認定。⑥參見王利明:《侵權責任法研究》(第2版),中國人民大學出版社2016年版,第249頁。

    將產(chǎn)品投入流通時作為判斷科學技術水平的時間點具有一定的合理性,但能否適用于自動駕駛汽車不無疑問。一方面,自動駕駛汽車作為人工智能技術的具體應用,具有高度智能屬性,能夠在沒有人干預的情況下自主學習,進而不斷升級迭代。這意味著自動駕駛汽車的產(chǎn)品本身就處于不斷發(fā)展中,并非在投入流通后一成不變,與傳統(tǒng)產(chǎn)品存在根本的區(qū)別。對此,如果僅僅以投入流通時作為判斷科學技術水平的時間點,難以適應自動駕駛汽車自主學習的技術特征。另一方面,以產(chǎn)品投入流通時作為判斷科學技術水平的時間點暗含著這樣一種假定,即生產(chǎn)者只能對其控制時間內(nèi)的產(chǎn)品缺陷負責,如果在生產(chǎn)者控制期間的科學技術水平不足以發(fā)現(xiàn)產(chǎn)品缺陷的,那么產(chǎn)品缺陷屬于發(fā)展風險產(chǎn)生的,不應當由生產(chǎn)者承擔責任。然而,與傳統(tǒng)汽車不同的是,自動駕駛汽車具有明顯的數(shù)據(jù)化、網(wǎng)絡化特征,是軟件定義汽車的典型產(chǎn)品,自動駕駛汽車投入流通后依然需要生產(chǎn)者持續(xù)提供后續(xù)服務,以便確保自動駕駛系統(tǒng)的軟件持續(xù)更新。如此一來,生產(chǎn)者對于自動駕駛汽車的控制實際上具有持續(xù)性,并不止于投入流通時。

    (二)科學技術水平的判斷標準

    在確定科學技術水平的判斷時間點后,我們還需要確定判斷科學技術水平的具體標準。對此,存在國內(nèi)標準與國際標準、行業(yè)標準與最安全標準等不同觀點。有學者認為,對于人工智能產(chǎn)品發(fā)展風險抗辯的適用,應當采取所謂的“國際標準”,即以世界科學范圍內(nèi)最新最先進的技術標準為準,如此可以要求生產(chǎn)者及時跟蹤和了解世界范圍內(nèi)的最先進技術,最大程度確保人工智能產(chǎn)品的安全性能并提高產(chǎn)品的國際競爭力,助推我國人工智能產(chǎn)業(yè)的高質(zhì)量發(fā)展。①參見胡元聰:《我國人工智能產(chǎn)品責任之發(fā)展風險抗辯制度構(gòu)建研究》,載《湖湘論壇》2020年第1期,第71-72頁。也有觀點指出,當前各個國家都在大力發(fā)展自動駕駛汽車,技術發(fā)展良莠不齊。而自動駕駛汽車作為一項新技術,人們對于其安全性能期待非常高,那么對于自動駕駛汽車安全性能的標準判斷,可以采用世界最先進的水平,而不是某一個國家或者國內(nèi)的安全標準。②參見張力、李倩:《高度自動駕駛汽車交通事故侵權責任構(gòu)造分析》,載《浙江社會科學》2018年第8期,第42頁。

    主張對自動駕駛汽車等人工智能產(chǎn)品適用國際最新最先進的技術標準自然有其合理性,但具體適用存在諸多困境。一方面,什么是世界最新最先進的科學技術水平并不好確定。對此,起碼可以追問:究竟是實驗室或者理論研究中的科學技術水平,還是已經(jīng)在產(chǎn)業(yè)實踐中得到廣泛應用的科學技術水平?是生產(chǎn)者盡到注意義務獲得的科學技術水平,還是客觀存在的科學技術水平?是所有產(chǎn)品都存在不為人知的風險,還是具體的單個產(chǎn)品中存在無法發(fā)現(xiàn)的風險?③參見梅瑞琦:《論產(chǎn)品發(fā)展風險責任》,載陳小君主編:《私法研究》第17卷,法律出版社2015年版,第256-260頁。顯然,不同標準的科學技術水平是不一樣的,甚至有時候差別很大。司法實踐中,為了確定科學技術水平,各方不得不動用大量的人力、物力去尋求專業(yè)人士的意見。至于陪審團等普通人士,可能根本不具有理解科學知識概念的能力,更不用說去解決這樣一個復雜的爭點。④參見[美]戴維·G.歐文:《產(chǎn)品責任法》,董春華譯,中國政法大學出版社2012年版,第226頁。另一方面,主張適用世界最新最先進的科學技術水平的觀點,其預設的前提是存在一個較為確定的科學技術水平,但這種做法對于日新月異的新技術產(chǎn)品可能并不適用,忽視了自動駕駛汽車行業(yè)尚處于初級階段的發(fā)展現(xiàn)狀。具體來說,當前智能技術發(fā)展極為迅速,尤其是機器學習下的技術發(fā)展已難以預測,常常會超出人類預設的規(guī)則,生產(chǎn)者在將自動駕駛汽車投入流通時,沒有辦法確保產(chǎn)品采取的就是世界最新最先進的科學技術。因此,從技術前沿性來看,自動駕駛汽車很難適用發(fā)展風險抗辯。⑤參見韓旭至:《自動駕駛事故的侵權責任構(gòu)造——兼論自動駕駛的三層保險結(jié)構(gòu)》,載《上海大學學報( 社會科學版)》2019年第2期,第96-97頁。

    (三)發(fā)展風險抗辯的適用范圍

    發(fā)展風險抗辯是否適用于所有的產(chǎn)品類型存在不同觀點。有學者認為,對于食品、藥品、血液等特殊領域,因為直接關系到消費者的生命和身體健康,應當取消發(fā)展風險抗辯的適用。①參見范小華:《發(fā)展風險抗辯制度及其啟示》,載《法律適用》2013年第5期,第48頁。比較法層面,德國在藥品方面限制發(fā)展風險抗辯的適用,法國則在人體產(chǎn)品(特別是血液產(chǎn)品)中排除其適用。②參見賀琛:《我國產(chǎn)品責任法中發(fā)展風險抗辯制度的反思與重構(gòu)》,載《法律科學》2016年第3期,第142頁。具體到自動駕駛汽車領域,有學者就明確提出,考慮到自動駕駛汽車對于人們生命健康的重要影響,故應當排除適用發(fā)展風險抗辯。③參見韓旭至:《人工智能的法律回應:從權利法理到致害責任》,法律出版社2021年版,第150頁。

    筆者認為,發(fā)展風險抗辯不應當將自動駕駛汽車排除在外。首先,我國《產(chǎn)品質(zhì)量法》并未明確限制發(fā)展風險抗辯適用的產(chǎn)品范圍。其次,自動駕駛汽車最大的社會價值在于安全性,能夠大幅減少交通事故的發(fā)生。雖然現(xiàn)階段自動駕駛汽車的發(fā)展不太成熟,但等到自動駕駛汽車可以大規(guī)模上市流通時,其產(chǎn)品的安全性能必然是得到保障的。最后,自動駕駛汽車確實帶來了產(chǎn)品缺陷認定的難題,對此可以通過降低舉證難度來保護受害人。但是這種產(chǎn)品責任適用的擴大不能超越產(chǎn)品質(zhì)量責任本身的界限,仍然需要以缺陷為基礎,以發(fā)展風險抗辯為免責事由。④參見殷秋實:《智能汽車的侵權法問題與應對》,載《法律科學》2018年第5期,第50頁。當然,需要思考的是,按照2021年發(fā)布的國標《汽車駕駛自動化分級》的規(guī)定,自動駕駛汽車包括有條件自動駕駛、高度自動駕駛以及完全自動駕駛?cè)齻€階段,是否都能適用發(fā)展風險抗辯不無疑問。

    與此同時,產(chǎn)品缺陷可以分為不同的類別,至少包括制造缺陷、設計缺陷以及警示缺陷三種,發(fā)展風險抗辯是否適用于所有的缺陷類型也值得思考。例如,在美國法上,發(fā)展風險抗辯僅適用于產(chǎn)品設計缺陷和警示缺陷,風險的可知性并不是制造缺陷案件的組成部分。⑤參見丹·B·多布斯:《侵權法(下冊)》,馬靜、李昊、李妍、劉成杰譯,中國政法大學出版社2014年版,第891頁。德國法則傾向于認為發(fā)展風險抗辯僅適用于設計缺陷。⑥參見馮潔語: 《人工智能技術與責任法的變遷——以自動駕駛技術為考察》,載《比較法研究》2018年第 2期,第149頁。對此,德國聯(lián)邦最高普通法院考察《產(chǎn)品責任法》第1條第2款第5項有關發(fā)展風險抗辯規(guī)定的產(chǎn)生歷史和目的,指出該項抗辯免除的只是研發(fā)的風險,因此,不適用于制造缺陷,只有設計缺陷才能滿足這一抗辯的條件。⑦參見[德]馬克西米利安·??怂?《侵權行為法》,齊曉琨譯,法律出版社2006年版,第309頁。而從我國《產(chǎn)品質(zhì)量法》的規(guī)定來看,似乎并沒有限制發(fā)展風險抗辯適用的缺陷類型。對于自動駕駛汽車來說,同樣需要明確發(fā)展風險抗辯究竟適用于哪些缺陷類型。

    四、自動駕駛汽車發(fā)展風險抗辯規(guī)則的構(gòu)建

    發(fā)展風險抗辯具有鼓勵技術革新、增加消費者福利的作用,但如果適用過于寬松一方面會不利于受害人的救濟,另一方面,生產(chǎn)者過于輕松被免除責任,自然也失去了革新技術的壓力。為此,需要明確發(fā)展風險抗辯的具體適用規(guī)則。

    (一)發(fā)展風險抗辯的適用要件

    對于自動駕駛汽車,發(fā)展風險抗辯的適用需要注意如下規(guī)則:

    1.科學技術水平判斷時間點的選取。如上文所述,科學技術水平的判斷時間點存在不同的做法,大多數(shù)國家都是以產(chǎn)品投入流通時為時間點。我國《產(chǎn)品質(zhì)量法》也采取這一立場。筆者認為,對于自動駕駛汽車發(fā)展風險抗辯的適用,應當考慮自動駕駛汽車具有自主學習能力的技術特征,同時兼顧自動駕駛汽車的未來應用場景,確立“產(chǎn)品投入流通時+算法系統(tǒng)重大升級時”這一雙重判斷標準。

    其一,產(chǎn)品投入流通時標準的適用。通常來說,產(chǎn)品投入流通時是指產(chǎn)品初次投入流通,如甲公司將生產(chǎn)的自動駕駛汽車委托乙公司銷售、贈送給乙公司、出售給乙公司等,這些都屬于脫離生產(chǎn)者控制的情形,并不一定是將自動駕駛汽車銷售給消費者才算投入流通。與此同時,投入流通時既可以是將產(chǎn)品投入市場時,如生產(chǎn)者將生產(chǎn)的自動駕駛汽車直接銷售給消費者,也可以是指以提供服務的形式投入市場時,如生產(chǎn)者利用生產(chǎn)的自動駕駛汽車向社會提供自動駕駛出租車服務。對于自動駕駛汽車來說,其作為人工智能技術與傳統(tǒng)汽車的結(jié)合,是集硬件、軟件、服務于一體的產(chǎn)品。①參見楊潔:《論智能汽車產(chǎn)品缺陷認定及其責任承擔》,載《東南大學學報(哲學社會科學版)》2020年第6期,第109頁。對于諸如輪胎、方向盤、發(fā)動機等硬件是否存在缺陷的判斷可以繼續(xù)適用傳統(tǒng)關于發(fā)展風險抗辯的時間點,因為這些部件并不會因為時間的經(jīng)過而自行升級更新。

    其二,算法系統(tǒng)重大升級時標準的適用。與傳統(tǒng)汽車不同,自動駕駛汽車具有自主學習能力,能夠不斷更新迭代,生產(chǎn)者一方在提供持續(xù)服務過程中對此顯然是有認識的。故此,對于自動駕駛汽車來說,發(fā)展風險抗辯的適用不能固守產(chǎn)品投入流通時這一固定的時間點,對于出現(xiàn)算法系統(tǒng)重大升級的情形,應當更新科學技術水平的判斷時間點。例如,某公司2023年將一款自動駕駛汽車投入流通,其算法系統(tǒng)初始的智能安全等級為1級,此后五年內(nèi)經(jīng)過三次重要更新升級,算法系統(tǒng)的智能安全等級已經(jīng)達到6級。對此,考慮到自動駕駛系統(tǒng)本身具備自我學習升級的能力,同時生產(chǎn)者又在持續(xù)不斷的主動更新自動駕駛系統(tǒng),這都使得自動駕駛系統(tǒng)在五年的使用過程中發(fā)生巨大的變化,故不應當再以產(chǎn)品投入流通時的科學技術水平來判斷,而應當以算法系統(tǒng)最新一次重大升級時作為判斷科學技術水平的時間點。②參見景荻:《自動駕駛汽車侵權責任研究》,西南政法大學2019年博士學位論文,第152頁。

    2.科學技術水平判斷標準的界定。對于自動駕駛汽車采取何種標準來判斷科學技術水平,本質(zhì)上是在確定對生產(chǎn)者提出何種程度的注意義務。如果采取世界最新最為先進的科學技術水平,那么意味著生產(chǎn)者必須負擔最高程度的注意義務,不僅要了解世界最新最先進的科學技術水平,同時將其落實到自己的產(chǎn)品中來避免可能存在的不合理危險。

    筆者認為,對于自動駕駛汽車發(fā)展風險的判斷應當采取“行業(yè)慣行做法”,即行業(yè)標準。首先,行業(yè)慣行做法是可以獲得的科學技術水平,對于生產(chǎn)者具有指導和激勵作用。至于世界最新最先進的科學技術水平標準,雖然聽上去更加安全,但對其判斷是非常困難的,缺乏操作性。司法實踐中,法院很難去判斷什么是世界最新最先進的科學技術水平,所能做的不過是通過直接把涉案產(chǎn)品和同類產(chǎn)品在安全性上進行比較,從而對是否存在缺陷做出清晰的判斷。③參見賀琛:《我國產(chǎn)品責任法中發(fā)展風險抗辯制度的反思與重構(gòu)》,載《法律科學》2016年第3期,第142頁。這一操作本質(zhì)上是回歸行業(yè)慣行做法。其次,世界最新最先進的科學技術水平對于生產(chǎn)者提出了過高的要求。例如,一項在國際性的英語刊物上發(fā)表的研究成果,要求國內(nèi)的生產(chǎn)者了解這一研究成果是不合理的。同樣,一項在中文刊物上發(fā)表的研究成果,要求歐洲的生產(chǎn)者獲得這一研究成果也是不合適的。①參見梅瑞琦:《論產(chǎn)品發(fā)展風險責任》,載陳小君主編:《私法研究》第17卷,法律出版社2015年版,第257頁。如果要求生產(chǎn)者必須了解世界最新最先進的科學技術水平,那么勢必會讓生產(chǎn)者耗費巨大的成本。最后,采取世界最新最先進的科學技術水平對于我國自動駕駛汽車產(chǎn)業(yè)的發(fā)展并不一定有利,不僅會讓國內(nèi)的自動駕駛汽車廠商望而生畏,還可能會間接強化歐美等汽車強國的技術話語權。基于此,筆者認為,采取行業(yè)慣行做法的標準更加適合。當然,為了充分保障消費者的利益,應當及時督促行業(yè)標準進行更新。

    3.發(fā)展風險抗辯適用范圍的展開。筆者認為,發(fā)展風險抗辯原則上適用于有條件自動駕駛汽車與高度自動駕駛汽車,對于完全自動駕駛汽車應當謹慎適用。具體來說,不同級別的自動駕駛汽車風險程度不同,應當相應地設置發(fā)展風險認定的門檻。在自動駕駛汽車行業(yè)的發(fā)展初期,首先投入市場流通的往往是有條件自動駕駛汽車,公眾對于這種新技術的安全期待處于相對一般的水平,發(fā)展風險的認定應當相應地更為寬松。在自動駕駛技術較為成熟后,高度自動駕駛汽車將會逐漸占領市場,此時由于自動駕駛技術的安全性已經(jīng)在市場中得到了證明,公眾對于高度自動駕駛汽車的安全水平自然有更高的期待,那么在發(fā)展風險的認定上理當提高門檻。至于完全自動駕駛汽車,由于其預設的場景是自動駕駛系統(tǒng)能夠應對一切駕駛環(huán)境,相關的科學技術水平高度發(fā)達,公眾對于這一類產(chǎn)品的安全期待非常高,因而在發(fā)展風險的認定上應大幅提高門檻,限制發(fā)展風險抗辯的適用。

    與此同時,發(fā)展風險抗辯一般適用于設計缺陷與警示缺陷,但并不針對制造缺陷。因為制造缺陷僅是與設計的背離問題,與科學技術無關。②參見周友軍:《民法典編纂中產(chǎn)品責任制度的完善》,載《法學評論》2018年第2期,第144頁。這一點對于自動駕駛汽車也是適用的。其一,設計缺陷的適用。司法實踐中,受害人一方需要舉證證明自動駕駛汽車存在設計缺陷,首先需要適用國家標準、行業(yè)標準,如果沒有相應的技術標準,則需要進行不合理危險的判斷。對此,學界常常援引風險效用標準與消費者的合理期待標準來輔助判斷。③參見王樂兵:《自動駕駛汽車的缺陷及其產(chǎn)品責任》,載《清華法學》2020年第2期,第101頁。在此過程中,如果受害人一方能夠舉證證明自動駕駛汽車存在產(chǎn)品缺陷,則生產(chǎn)者一方需要負擔證明不合理危險屬于發(fā)展風險,進而主張抗辯。其二,警示缺陷的適用。通常來說,諸如汽車等耐用產(chǎn)品的生產(chǎn)者總是可以預見產(chǎn)品可能造成的損害風險,進而有義務做出相應的警示,故幾乎不存在發(fā)展風險抗辯的適用空間。不可預見的風險主要出現(xiàn)在藥品、化學品等不穩(wěn)定的產(chǎn)品中,這些產(chǎn)品常常會發(fā)生意外的損害。然而,即使在這些有毒物質(zhì)案件中,如果生產(chǎn)商已經(jīng)進行了合理的測試和實驗室分析,那么真正不可預見的危險也是很罕見的。④參見[美]戴維·G.歐文:《產(chǎn)品責任法》,董春華譯,中國政法大學出版社2012年版,第222-223頁。筆者認為,對于自動駕駛汽車而言,發(fā)展風險抗辯適用于警示缺陷是完全可能的。具言之,與傳統(tǒng)汽車不同,自動駕駛汽車屬于人工智能產(chǎn)品,算法系統(tǒng)具有自主“思考”的能力,導致其有能力違反被給予的“規(guī)則”,以人們意想不到的方式行為。⑤參見司曉、曹建峰:《論人工智能的民事責任:以自動駕駛汽車和智能機器人為切入點》,載《法律科學》2017年第5期,第169頁。這種不可預測性使得生產(chǎn)者要想完全警示自動駕駛汽車的風險變得困難,對于完全超出科學技術水平之外的警示風險,理應有適用發(fā)展風險抗辯的空間。

    (二)發(fā)展風險抗辯的配套規(guī)則

    發(fā)展風險抗辯制度存在天然的局限性。有觀點就指出,發(fā)展風險抗辯在免除生產(chǎn)者責任的同時,有將消費者作為無償?shù)娜梭w實驗的材料使用之嫌,因而是存在問題的。①參見[日]吉村良一:《日本侵權行為法》,張挺譯,中國人民大學出版社2013年版,第208頁。更為嚴重的是,生產(chǎn)者通過主張發(fā)展風險抗辯免除責任后,產(chǎn)品引發(fā)的損害成本將由受害人個體獨自承擔,這顯然是不公平的。對此,筆者認為,發(fā)展風險抗辯的適用需要平衡生產(chǎn)者一方與受害人一方的利益,配備風險跟蹤機制與風險分攤機制,最大程度規(guī)避發(fā)展風險抗辯的消極影響。

    1.風險跟蹤機制。發(fā)展風險抗辯能夠讓生產(chǎn)者放下包袱,集中精力革新技術,免除承擔因當時技術水平所限導致的缺陷而引發(fā)的責任。但問題是自動駕駛汽車等產(chǎn)品投入流通后使用的期限是很長的,隨著投入流通的時間越來越長,科學技術水平也會不斷發(fā)展提高,生產(chǎn)者很可能已經(jīng)能夠發(fā)現(xiàn)自動駕駛汽車產(chǎn)品中存在的缺陷,同時可以通過技術等手段避免損害的發(fā)生,那么生產(chǎn)者就有義務這樣做?;诖?我們需要對發(fā)展風險抗辯設置配套措施,以免生產(chǎn)者借機逃避自己的責任,任由存在不合理危險的產(chǎn)品在市場中流通。對此,通常認為,生產(chǎn)者需要負擔跟蹤觀察義務。

    各國都普遍承認跟蹤觀察義務,如法國通過與發(fā)展風險抗辯相互結(jié)合的形式確立了產(chǎn)品跟蹤觀察義務,即生產(chǎn)者沒有盡到該義務不能援引發(fā)展風險抗辯。②參見周友軍:《民法典編纂中產(chǎn)品責任制度的完善》,載《法學評論》2018年第2期,第145頁。我國《民法典》第1206條也明確規(guī)定生產(chǎn)者應當承擔產(chǎn)品跟蹤觀察義務,在產(chǎn)品投入流通后發(fā)現(xiàn)存在缺陷的,應當及時采取停止銷售、警示、召回等補救措施。對于自動駕駛汽車,生產(chǎn)者需要負擔跟蹤觀察義務,否則應當承擔相應的侵權責任。③參見楊立新:《人工類人格:智能機器人的民法地位——兼論智能機器人致人損害的民事責任》,載《求是學刊》2018年第4期,第95頁。其一,負擔跟蹤觀察義務的主體是自動駕駛汽車的生產(chǎn)者、銷售者,其應最大程度確保自動駕駛汽車的持續(xù)安全。其二,跟蹤觀察義務的對象為自動駕駛汽車產(chǎn)品整體,但應當突出自動駕駛系統(tǒng)的重要性,同時也包括其他硬件和軟件部分。其三,跟蹤觀察義務的期限應當界定為自動駕駛汽車的使用期限,只要自動駕駛汽車在法定或者約定的有效使用期限內(nèi),生產(chǎn)者、銷售者就需要負擔跟蹤觀察義務。其四,跟蹤觀察義務的履行與消費者的配合息息相關,消費者應當主動配合協(xié)助,在生產(chǎn)者發(fā)出警示后停止使用自動駕駛汽車或者及時更新算法系統(tǒng),在生產(chǎn)者采取召回等補救措施時及時協(xié)助召回。

    2.風險分攤機制。發(fā)展風險抗辯為生產(chǎn)者提供了免責的可能,但隨之而來的是受害人遭受的損害該如何分擔的問題。按照傳統(tǒng)侵權法理論,生產(chǎn)者一方舉證發(fā)展風險抗辯后,受害人將獨自承擔損失,這顯然不妥。具體來說,對于發(fā)展風險造成的損害,全然由生產(chǎn)者承擔固然不合適,但由受害人獨自承擔也有失公平。相較于生產(chǎn)者,受害人顯然更加值得保護,法律在賦予生產(chǎn)者發(fā)展風險抗辯的同時,理當關注受害人的救濟,否則兩邊利益明顯失衡,久而久之會導致發(fā)展風險抗辯被司法變相抵制或者架空。為此,我們需要為發(fā)展風險抗辯配套風險分攤機制。

    從侵權法的發(fā)展來看,現(xiàn)代侵權法更加注重分配正義,這種法律方案試圖賠償在相關共同生活領域內(nèi)遭受損害的所有受害人,包含了那些不應由個人負責或者難以由個人負責的事故損害中公平的要求。①參見黃本蓮:《事故損害分擔研究——侵權法的危機與未來》,法律出版社2014年版,第116-117頁。面對人工智能時代的到來,這種社會化分擔的思想顯得越來越重要。一方面,人工智能社會本來就是高風險社會,各種新技術層出不窮,在加劇物理空間風險的同時,還帶來了前所未有的數(shù)字空間風險,而社會所有群體都是風險的制造者、參與者。因此,基于人工智能產(chǎn)品帶來的風險應該在國家、社會、生產(chǎn)者、設計者和消費者之間進行合理分攤。②參見胡元聰:《人工智能產(chǎn)品發(fā)展風險抗辯后的損害救濟分攤機制研究》,載《政法論叢》2020年第3期,第122-123頁。另一方面,人工智能技術本身具有巨大的社會價值,這種社會價值并非只有生產(chǎn)者享受,而是由全社會共同受益。隨著自動駕駛汽車不斷取代傳統(tǒng)汽車,每年將會拯救數(shù)百萬人的生命,同時還有助于解決環(huán)境污染、交通擁堵、特殊群體出行等各種社會問題。③參見[美]胡迪·利普森、梅爾芭·庫曼:《無人駕駛》,林露茵、金陽譯,文匯出版社2017年版,第2頁。故此,對于發(fā)展風險引發(fā)的損害理當建立一個社會化的風險分攤機制。

    至于風險分攤機制的具體構(gòu)建,關鍵在于充分調(diào)動各方力量。其一,對于國家而言,可以考慮設置專門的人工智能產(chǎn)品風險救濟基金,以便在特殊情況下為適用發(fā)展風險抗辯后的受害人提供救濟。例如,2020年歐盟《關于人工智能系統(tǒng)運行的責任立法倡議》就提出,“在特殊情況下,如果賠償金大大超過了本條例所規(guī)定的最高限額,則應鼓勵會員國在有限的時間內(nèi)設立特別賠償基金,以滿足這些案件的特殊需要?!雹軈⒁姟稓W洲議會和理事會關于人工智能系統(tǒng)運行責任條例(立法動議、提案及解釋性陳述)》,席斌譯,載梁慧星主編:《民商法論叢》第72卷,社會科學文獻出版社2021年版,第370-371頁。其二,對于生產(chǎn)者而言,考慮到自動駕駛汽車的高風險屬性,理當強制生產(chǎn)者購買責任保險,以便在一定范圍內(nèi)解決無法適用產(chǎn)品責任的受害人的損害分擔問題。如果責任保險不足以賠償受害人造成的損失,還應當考慮由生產(chǎn)者給予消費者適當?shù)难a償。畢竟生產(chǎn)者通過生產(chǎn)自動駕駛汽車產(chǎn)品獲得了巨大的收益,對于發(fā)展風險所生損害的分攤理當扮演重要角色。其三,對于消費者來說,其既是自動駕駛汽車的受害人,同時也是自動駕駛汽車的受益人,理當參與損害分擔。對此,可以考慮根據(jù)消費者的主觀過失來相應限制其尋求的賠償數(shù)額。⑤參見胡元聰:《人工智能產(chǎn)品發(fā)展風險抗辯后的損害救濟分攤機制研究》,載《政法論叢》2020年第3期,第122-123頁。

    五、結(jié)語

    在過去的100多年里,汽車被視為人類最偉大的發(fā)明之一。汽車幾乎征服了世界的每個角落,是左右現(xiàn)代社會發(fā)展的重要角色,幾乎沒有什么能夠撼動汽車的支配地位。而自動駕駛汽車的出現(xiàn),將引領汽車新的發(fā)展方向,直接推動汽車行業(yè)邁入一個全新的時代。⑥參見鄭志峰:《自動駕駛汽車的私法挑戰(zhàn)與應對研究》,中國法制出版社2022年版,第45頁。考慮到自動駕駛汽車蘊含的巨大社會價值,各國都在搶占自動駕駛汽車行業(yè)發(fā)展的高地,出臺一系列有關自動駕駛汽車的法律政策。其中,如何為自動駕駛汽車配置妥當?shù)呢熑我?guī)則顯得異常重要,直接關系到自動駕駛汽車能否順利投入市場。

    作為人工智能技術在汽車領域的具體應用,自動駕駛汽車與傳統(tǒng)汽車最根本的區(qū)別在于高度智能屬性,即自動駕駛汽車具有自主性和自我學習能力。這種高度智能屬性使得自動駕駛汽車難以適用于現(xiàn)有的責任規(guī)則,無論是機動車交通事故責任還是產(chǎn)品責任規(guī)則,都面臨著諸多適用上的難題。而隨著使用人一方越來越多地將駕駛權力轉(zhuǎn)移給自動駕駛系統(tǒng),產(chǎn)品責任在解決自動駕駛汽車的責任問題上逐漸占據(jù)更為重要的位置。①See Bryant Walker Smith, Automated Driving and Product Liability,1 Michigan State Law Review 1,45(2017).此種背景下,如何追究自動駕駛汽車生產(chǎn)者一方的產(chǎn)品責任成為重點。對此,一方面,我們需要解決自動駕駛汽車產(chǎn)品缺陷的認定難題,提高受害人救濟的可能性;另一方面,我們也需要為生產(chǎn)者一方配置適當?shù)拿庳熓掠?以便激勵生產(chǎn)者提升產(chǎn)品的安全性能。從鼓勵技術革新、救濟受害人的目的出發(fā),理應承認自動駕駛汽車生產(chǎn)者的發(fā)展風險抗辯,同時更新發(fā)展風險抗辯的具體適用要件,配置風險跟蹤機制、風險分攤機制,最大程度地兼顧各方利益。

    猜你喜歡
    生產(chǎn)者科學技術自動
    《晉控科學技術》征稿簡則
    同煤科技(2024年1期)2024-05-12 15:11:52
    《晉能科學技術》征稿簡則
    同煤科技(2023年5期)2023-11-29 05:35:40
    《中國空間科學技術》征稿簡則
    2021年CCF科學技術獎獲獎項目名單(2)
    1月巴西生產(chǎn)者價格指數(shù)上漲3.92%
    自動捕盜機
    學生天地(2020年5期)2020-08-25 09:09:08
    2019德國IF設計大獎
    基于STM32的自動喂養(yǎng)機控制系統(tǒng)
    電子測試(2018年10期)2018-06-26 05:53:36
    家禽福利的未來:生產(chǎn)者能期待什么?
    關于自動駕駛
    汽車博覽(2016年9期)2016-10-18 13:05:41
    日本一二三区视频观看| 久久久久久久亚洲中文字幕| 国产精品福利在线免费观看| 黄片无遮挡物在线观看| 国产精品国产三级国产av玫瑰| 激情五月婷婷亚洲| 国产精品久久久久成人av| 国产精品久久久久久精品电影小说 | 国产亚洲最大av| 亚洲精品久久午夜乱码| 欧美精品亚洲一区二区| 欧美成人精品欧美一级黄| 国产色婷婷99| 免费大片黄手机在线观看| 男女免费视频国产| 插逼视频在线观看| 国产成人一区二区在线| 亚洲在久久综合| 99re6热这里在线精品视频| 亚洲欧美精品自产自拍| 亚洲一区二区三区欧美精品| 大陆偷拍与自拍| 人妻少妇偷人精品九色| 水蜜桃什么品种好| 建设人人有责人人尽责人人享有的 | 精品久久国产蜜桃| 男女边吃奶边做爰视频| 欧美少妇被猛烈插入视频| 亚洲精品国产成人久久av| 国产精品精品国产色婷婷| 久久ye,这里只有精品| 少妇裸体淫交视频免费看高清| 亚洲精品久久午夜乱码| 亚洲精品久久午夜乱码| 91精品国产国语对白视频| 亚洲欧美清纯卡通| 老司机影院成人| 久久人人爽人人片av| 特大巨黑吊av在线直播| tube8黄色片| 国产伦精品一区二区三区四那| 国产午夜精品一二区理论片| 女人久久www免费人成看片| 99精国产麻豆久久婷婷| 身体一侧抽搐| 午夜日本视频在线| av播播在线观看一区| 国产一区二区在线观看日韩| 菩萨蛮人人尽说江南好唐韦庄| xxx大片免费视频| 久久久精品94久久精品| 一级毛片电影观看| 一级二级三级毛片免费看| 欧美一区二区亚洲| 午夜福利视频精品| 国产人妻一区二区三区在| 久久人人爽人人片av| 久久99热6这里只有精品| 成年av动漫网址| 国产大屁股一区二区在线视频| 男人添女人高潮全过程视频| 蜜桃在线观看..| 国产男女超爽视频在线观看| 交换朋友夫妻互换小说| 午夜福利在线在线| av免费观看日本| 丰满人妻一区二区三区视频av| 国产国拍精品亚洲av在线观看| 麻豆国产97在线/欧美| 国产黄片视频在线免费观看| 插阴视频在线观看视频| 久久国内精品自在自线图片| 狂野欧美白嫩少妇大欣赏| 日本黄色片子视频| 国产一级毛片在线| 伊人久久国产一区二区| 亚洲av成人精品一区久久| 亚洲人成网站在线观看播放| 欧美激情国产日韩精品一区| 成人亚洲欧美一区二区av| 免费观看在线日韩| 中文欧美无线码| 色婷婷av一区二区三区视频| 色哟哟·www| 精品少妇久久久久久888优播| 亚洲精品,欧美精品| 男女免费视频国产| 一区二区三区精品91| 亚洲综合色惰| 日韩三级伦理在线观看| 黑人猛操日本美女一级片| 亚洲精品久久午夜乱码| 高清欧美精品videossex| 少妇人妻精品综合一区二区| 蜜桃亚洲精品一区二区三区| 国产 一区 欧美 日韩| 亚洲欧美成人精品一区二区| 夜夜看夜夜爽夜夜摸| 久久国产乱子免费精品| 九色成人免费人妻av| 女人十人毛片免费观看3o分钟| 女性被躁到高潮视频| 熟妇人妻不卡中文字幕| 亚洲人成网站在线观看播放| 插逼视频在线观看| 自拍偷自拍亚洲精品老妇| 美女国产视频在线观看| 久久ye,这里只有精品| av国产久精品久网站免费入址| 国产成人aa在线观看| 伊人久久国产一区二区| 小蜜桃在线观看免费完整版高清| 色综合色国产| 久久99精品国语久久久| 亚洲国产精品专区欧美| 国产亚洲欧美精品永久| 久久人人爽av亚洲精品天堂 | 国产成人午夜福利电影在线观看| 五月开心婷婷网| 久久热精品热| 草草在线视频免费看| 国产一区亚洲一区在线观看| 成人漫画全彩无遮挡| 日韩免费高清中文字幕av| 久久精品久久久久久久性| 国产一区有黄有色的免费视频| 中国美白少妇内射xxxbb| 插逼视频在线观看| 国产精品无大码| 国产成人精品婷婷| 国产高清有码在线观看视频| 大香蕉97超碰在线| 国产精品伦人一区二区| 精品一品国产午夜福利视频| 成人免费观看视频高清| 日日啪夜夜撸| 亚洲av男天堂| 青春草亚洲视频在线观看| 最后的刺客免费高清国语| 婷婷色av中文字幕| 亚洲国产毛片av蜜桃av| 欧美人与善性xxx| 一级毛片黄色毛片免费观看视频| 中文欧美无线码| 亚洲av福利一区| 久久97久久精品| 黄色视频在线播放观看不卡| 亚洲不卡免费看| 国产又色又爽无遮挡免| 日本-黄色视频高清免费观看| 日本av免费视频播放| 又粗又硬又长又爽又黄的视频| 国产成人免费无遮挡视频| 国产人妻一区二区三区在| 久久国产精品男人的天堂亚洲 | 九九在线视频观看精品| 久久99精品国语久久久| 亚洲自偷自拍三级| 一二三四中文在线观看免费高清| 免费黄色在线免费观看| 精品久久久噜噜| 久久国产精品大桥未久av | 国产精品福利在线免费观看| 日韩三级伦理在线观看| 免费观看性生交大片5| av女优亚洲男人天堂| 中文字幕免费在线视频6| 午夜视频国产福利| 日本免费在线观看一区| 日韩中字成人| 国产视频首页在线观看| 欧美日韩视频高清一区二区三区二| 欧美成人a在线观看| 妹子高潮喷水视频| 国产成人午夜福利电影在线观看| 日本免费在线观看一区| 日本vs欧美在线观看视频 | 亚洲,一卡二卡三卡| 熟女人妻精品中文字幕| 国产精品麻豆人妻色哟哟久久| 午夜免费观看性视频| 日韩电影二区| 亚洲久久久国产精品| 国产一区二区三区综合在线观看 | 国产精品无大码| 男女边吃奶边做爰视频| 亚洲精品国产av成人精品| 99热这里只有精品一区| 欧美日本视频| 国产成人精品久久久久久| 国产伦精品一区二区三区视频9| 国产高清国产精品国产三级 | 国内揄拍国产精品人妻在线| 少妇的逼好多水| 久久国内精品自在自线图片| 直男gayav资源| 亚洲国产日韩一区二区| 久久国产乱子免费精品| 超碰av人人做人人爽久久| 久久精品夜色国产| 欧美97在线视频| 国产成人精品久久久久久| 国产精品秋霞免费鲁丝片| 观看美女的网站| 国产精品99久久99久久久不卡 | 亚洲成人av在线免费| 精华霜和精华液先用哪个| 久久人人爽av亚洲精品天堂 | 亚洲av欧美aⅴ国产| 五月玫瑰六月丁香| 久久99热这里只频精品6学生| 99热全是精品| 秋霞伦理黄片| 成人毛片60女人毛片免费| 国产成人91sexporn| 欧美xxxx黑人xx丫x性爽| 午夜精品国产一区二区电影| 亚洲性久久影院| 男女啪啪激烈高潮av片| 大片电影免费在线观看免费| 日韩免费高清中文字幕av| 久久精品国产a三级三级三级| 日韩国内少妇激情av| 亚洲av中文av极速乱| 91久久精品国产一区二区三区| 在线 av 中文字幕| 少妇精品久久久久久久| 制服丝袜香蕉在线| 九色成人免费人妻av| 性色avwww在线观看| 欧美3d第一页| 日韩成人伦理影院| 日韩欧美 国产精品| 最近最新中文字幕免费大全7| 亚洲国产最新在线播放| av线在线观看网站| 国产精品.久久久| 视频区图区小说| 亚洲婷婷狠狠爱综合网| 欧美极品一区二区三区四区| 熟女电影av网| 我的女老师完整版在线观看| 老司机影院成人| 97超碰精品成人国产| 亚洲激情五月婷婷啪啪| 亚洲一级一片aⅴ在线观看| 春色校园在线视频观看| 国产免费又黄又爽又色| 国产精品一区二区在线观看99| 少妇人妻 视频| 国产精品久久久久久av不卡| 嘟嘟电影网在线观看| 黄色配什么色好看| 日韩伦理黄色片| 国产av国产精品国产| 晚上一个人看的免费电影| 免费大片黄手机在线观看| 精华霜和精华液先用哪个| 久久99热这里只频精品6学生| 国产一级毛片在线| 女人久久www免费人成看片| 视频区图区小说| 国产免费视频播放在线视频| 欧美成人午夜免费资源| 女性生殖器流出的白浆| 亚洲国产av新网站| 精品久久久精品久久久| 免费黄频网站在线观看国产| 夜夜看夜夜爽夜夜摸| 啦啦啦在线观看免费高清www| 亚洲精品日本国产第一区| 秋霞伦理黄片| 亚洲精品日韩在线中文字幕| 欧美性感艳星| 美女视频免费永久观看网站| 日韩,欧美,国产一区二区三区| 最黄视频免费看| 成人无遮挡网站| av黄色大香蕉| 午夜福利网站1000一区二区三区| 高清av免费在线| 水蜜桃什么品种好| 国产伦理片在线播放av一区| 久久国产乱子免费精品| 人人妻人人添人人爽欧美一区卜 | 国产探花极品一区二区| 欧美bdsm另类| 美女福利国产在线 | 我的老师免费观看完整版| 国产视频首页在线观看| 午夜老司机福利剧场| 丝袜喷水一区| 欧美精品人与动牲交sv欧美| 国产精品精品国产色婷婷| 欧美极品一区二区三区四区| 久久女婷五月综合色啪小说| 欧美精品国产亚洲| 秋霞在线观看毛片| 国产欧美亚洲国产| 久久久久久伊人网av| 国产淫片久久久久久久久| 尾随美女入室| 久久久成人免费电影| 少妇人妻精品综合一区二区| 精品酒店卫生间| av又黄又爽大尺度在线免费看| 国产人妻一区二区三区在| 麻豆成人av视频| 18禁裸乳无遮挡动漫免费视频| 在现免费观看毛片| 国产又色又爽无遮挡免| av免费观看日本| 18禁裸乳无遮挡免费网站照片| 亚洲人成网站高清观看| 91午夜精品亚洲一区二区三区| 视频中文字幕在线观看| 精品99又大又爽又粗少妇毛片| 免费观看av网站的网址| 一级片'在线观看视频| a级毛色黄片| 一个人免费看片子| 日韩中文字幕视频在线看片 | 人人妻人人爽人人添夜夜欢视频 | 亚洲欧美日韩另类电影网站 | 久久精品国产a三级三级三级| 最近中文字幕2019免费版| 国产亚洲午夜精品一区二区久久| 亚洲精品国产av蜜桃| 成人毛片60女人毛片免费| 嫩草影院新地址| 最后的刺客免费高清国语| 国产成人一区二区在线| 亚洲国产av新网站| 国模一区二区三区四区视频| 国产色婷婷99| 亚洲精品久久久久久婷婷小说| 亚洲欧美日韩卡通动漫| 99久久综合免费| 一本—道久久a久久精品蜜桃钙片| 久久精品国产自在天天线| 亚洲av电影在线观看一区二区三区| 韩国高清视频一区二区三区| 美女中出高潮动态图| 欧美日韩视频精品一区| 亚洲高清免费不卡视频| 大又大粗又爽又黄少妇毛片口| 国产精品偷伦视频观看了| 国产高清有码在线观看视频| 久久久a久久爽久久v久久| 国产亚洲5aaaaa淫片| 最近中文字幕高清免费大全6| 高清在线视频一区二区三区| 天天躁夜夜躁狠狠久久av| 综合色丁香网| 亚洲图色成人| 久久精品人妻少妇| 欧美zozozo另类| 美女中出高潮动态图| 久久99精品国语久久久| 国模一区二区三区四区视频| 少妇的逼水好多| 亚洲欧洲国产日韩| 久久久久网色| 久久精品国产亚洲av涩爱| 国产精品国产三级国产av玫瑰| 狂野欧美白嫩少妇大欣赏| 亚洲国产日韩一区二区| 国产精品免费大片| 欧美 日韩 精品 国产| 国产成人精品久久久久久| 天堂8中文在线网| 亚洲国产精品国产精品| freevideosex欧美| 天天躁日日操中文字幕| 中文字幕久久专区| 久久国产乱子免费精品| 国内精品宾馆在线| 人妻一区二区av| 高清日韩中文字幕在线| 国产中年淑女户外野战色| 亚洲国产日韩一区二区| 国产国拍精品亚洲av在线观看| 99热这里只有是精品在线观看| 国产av精品麻豆| 99九九线精品视频在线观看视频| 久久久久久久久久久丰满| 亚洲精品视频女| 国语对白做爰xxxⅹ性视频网站| 国产伦理片在线播放av一区| xxx大片免费视频| 亚洲国产成人一精品久久久| 亚洲av欧美aⅴ国产| 毛片一级片免费看久久久久| 成年女人在线观看亚洲视频| av国产免费在线观看| 国产 精品1| 看十八女毛片水多多多| 欧美国产精品一级二级三级 | 亚洲国产精品成人久久小说| 日韩,欧美,国产一区二区三区| 大码成人一级视频| 亚洲av不卡在线观看| 天天躁夜夜躁狠狠久久av| 国产精品久久久久久av不卡| 国产av一区二区精品久久 | 一级毛片我不卡| 国产探花极品一区二区| 久久久精品94久久精品| av黄色大香蕉| 亚洲成人中文字幕在线播放| 国产老妇伦熟女老妇高清| 亚洲国产精品999| 一级片'在线观看视频| 亚洲精品一区蜜桃| 免费人妻精品一区二区三区视频| 午夜老司机福利剧场| 一个人看视频在线观看www免费| 黑人高潮一二区| 国产一级毛片在线| 午夜福利网站1000一区二区三区| 国产av国产精品国产| 蜜桃在线观看..| 97超视频在线观看视频| 中文字幕免费在线视频6| 久久久亚洲精品成人影院| 成人无遮挡网站| 亚洲久久久国产精品| 啦啦啦在线观看免费高清www| 亚洲人成网站在线播| 欧美亚洲 丝袜 人妻 在线| 亚洲综合精品二区| 看免费成人av毛片| 丰满乱子伦码专区| 久久久a久久爽久久v久久| 国产精品福利在线免费观看| 国产老妇伦熟女老妇高清| 黄色日韩在线| 男女边吃奶边做爰视频| 精品亚洲成国产av| 91aial.com中文字幕在线观看| 国产淫片久久久久久久久| av天堂中文字幕网| 综合色丁香网| av专区在线播放| 亚州av有码| 午夜老司机福利剧场| 欧美日本视频| 一本色道久久久久久精品综合| 中文字幕亚洲精品专区| 交换朋友夫妻互换小说| 成人无遮挡网站| 国产精品.久久久| 国产精品女同一区二区软件| 精品视频人人做人人爽| 亚洲国产av新网站| 少妇的逼水好多| av天堂中文字幕网| 日本av手机在线免费观看| 久久这里有精品视频免费| 丰满人妻一区二区三区视频av| 成年免费大片在线观看| 我的老师免费观看完整版| 一级毛片我不卡| 女人久久www免费人成看片| 成人18禁高潮啪啪吃奶动态图 | 亚洲精品日韩av片在线观看| 下体分泌物呈黄色| 亚洲电影在线观看av| 久久韩国三级中文字幕| 中文资源天堂在线| 日本猛色少妇xxxxx猛交久久| 老师上课跳d突然被开到最大视频| 少妇被粗大猛烈的视频| 色视频www国产| 亚洲av国产av综合av卡| 日韩亚洲欧美综合| 大陆偷拍与自拍| 啦啦啦中文免费视频观看日本| 欧美老熟妇乱子伦牲交| 亚洲国产欧美人成| 久久久久久久亚洲中文字幕| 天天躁夜夜躁狠狠久久av| 91在线精品国自产拍蜜月| 蜜桃在线观看..| 在线观看一区二区三区| 成年人午夜在线观看视频| 熟女电影av网| 国产免费一区二区三区四区乱码| 国产欧美亚洲国产| 久久精品久久精品一区二区三区| 欧美变态另类bdsm刘玥| 一本色道久久久久久精品综合| 国产在线一区二区三区精| 久久精品国产自在天天线| 久久精品久久久久久久性| 国产亚洲5aaaaa淫片| 亚洲欧美一区二区三区国产| 纵有疾风起免费观看全集完整版| 王馨瑶露胸无遮挡在线观看| 黄色一级大片看看| 18禁在线播放成人免费| 欧美变态另类bdsm刘玥| 男女边吃奶边做爰视频| 联通29元200g的流量卡| 大码成人一级视频| 亚洲国产毛片av蜜桃av| av免费在线看不卡| 极品少妇高潮喷水抽搐| 九九久久精品国产亚洲av麻豆| 纯流量卡能插随身wifi吗| 五月伊人婷婷丁香| 香蕉精品网在线| 中文欧美无线码| 人妻系列 视频| 国产亚洲5aaaaa淫片| 人妻系列 视频| 日日啪夜夜撸| 99热6这里只有精品| 日韩一本色道免费dvd| 久久久久精品性色| 成人毛片60女人毛片免费| 国内精品宾馆在线| 制服丝袜香蕉在线| 2021少妇久久久久久久久久久| 插逼视频在线观看| 精品久久久久久久末码| 欧美激情极品国产一区二区三区 | 99久国产av精品国产电影| 国产男女超爽视频在线观看| 天天躁日日操中文字幕| 五月开心婷婷网| 青青草视频在线视频观看| 国产精品人妻久久久久久| 丰满乱子伦码专区| 久久这里有精品视频免费| 亚洲内射少妇av| 联通29元200g的流量卡| 啦啦啦在线观看免费高清www| 亚洲第一av免费看| 午夜激情久久久久久久| 精品一品国产午夜福利视频| 国产精品欧美亚洲77777| 亚洲av中文字字幕乱码综合| 免费av中文字幕在线| 国产在线男女| 狂野欧美激情性xxxx在线观看| 亚洲人成网站在线观看播放| 成人影院久久| 高清视频免费观看一区二区| 午夜免费鲁丝| 国产欧美亚洲国产| 91精品国产国语对白视频| 国产白丝娇喘喷水9色精品| 在线观看免费高清a一片| 夫妻性生交免费视频一级片| 午夜老司机福利剧场| 美女脱内裤让男人舔精品视频| 亚洲精品国产av成人精品| 欧美日韩一区二区视频在线观看视频在线| 欧美日韩国产mv在线观看视频 | 国产高清有码在线观看视频| 日韩,欧美,国产一区二区三区| 亚洲aⅴ乱码一区二区在线播放| 亚洲av二区三区四区| 美女内射精品一级片tv| 色网站视频免费| 最近手机中文字幕大全| 久久人妻熟女aⅴ| av女优亚洲男人天堂| freevideosex欧美| 亚洲av综合色区一区| 少妇被粗大猛烈的视频| 老熟女久久久| 亚洲一级一片aⅴ在线观看| 黄色欧美视频在线观看| 久久久国产一区二区| 国产av一区二区精品久久 | 久久久久性生活片| 亚洲熟女精品中文字幕| 纯流量卡能插随身wifi吗| 精品一区二区免费观看| 乱码一卡2卡4卡精品| 国产男人的电影天堂91| 国产淫语在线视频| 91久久精品国产一区二区三区| 人妻一区二区av| 少妇猛男粗大的猛烈进出视频| 国产av精品麻豆| 国产片特级美女逼逼视频| 婷婷色麻豆天堂久久| 蜜桃亚洲精品一区二区三区| 亚洲伊人久久精品综合| 亚洲人成网站高清观看| 多毛熟女@视频| 91精品一卡2卡3卡4卡| 少妇裸体淫交视频免费看高清| 色综合色国产| 最近手机中文字幕大全| 成人毛片60女人毛片免费| 建设人人有责人人尽责人人享有的 | 午夜视频国产福利| 一级二级三级毛片免费看| 久久久久国产网址| 精品久久久精品久久久| 高清黄色对白视频在线免费看 | 中文字幕久久专区| 成人影院久久| 大香蕉久久网| 最后的刺客免费高清国语| 亚洲av欧美aⅴ国产| 美女高潮的动态| 国产精品秋霞免费鲁丝片| 夜夜爽夜夜爽视频| 精品一区在线观看国产| 亚洲最大成人中文|