• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能汽車(chē)侵權(quán)責(zé)任研究

    2021-01-20 11:17:28詹慧敏謝天長(zhǎng)
    關(guān)鍵詞:銷售商生產(chǎn)商自主性

    詹慧敏,謝天長(zhǎng)

    (1.福建師范大學(xué) 法學(xué)院,福建 福州350117;2.福建工程學(xué)院 法學(xué)院,福建 福州350118)

    2018年3月18日,在美國(guó)“優(yōu)步”公司的一次測(cè)試中,一輛以自動(dòng)駕駛模式運(yùn)行的沃爾沃XC90 撞倒了一名女子并致其死亡。事故發(fā)生時(shí),車(chē)內(nèi)有一名女性安全員,不過(guò)在撞擊發(fā)生前她未能控制并停下車(chē)輛。檢察官的公開(kāi)信認(rèn)為,針對(duì)“優(yōu)步”公司的刑事責(zé)任“沒(méi)有依據(jù)”,但建議應(yīng)該對(duì)安全員做進(jìn)一步調(diào)查。該案件也引發(fā)了大眾對(duì)于人工智能汽車(chē)是否有主體資格、責(zé)任主體范圍和認(rèn)定規(guī)則是否具有特殊性等問(wèn)題的關(guān)注。因其復(fù)雜性、特殊性,學(xué)界至今尚未形成統(tǒng)一觀點(diǎn)。

    一、人工智能汽車(chē)智能差異性及其影響

    人工智能是研究、開(kāi)發(fā)用于模擬、延伸和拓展人的智能的理論、方法、技術(shù)應(yīng)用系統(tǒng)的一門(mén)科學(xué),根據(jù)智能化程度學(xué)者將人工智能概括為五個(gè)等級(jí)[1]。人工智能汽車(chē)是將人工智能運(yùn)用于駕駛技術(shù)的汽車(chē),根據(jù)人工智能化的程度不同,具體應(yīng)用在汽車(chē)駕駛技術(shù)上也使得人工智能汽車(chē)展現(xiàn)出不同的自動(dòng)化程度。不同智能程度的人工智能汽車(chē)對(duì)汽車(chē)駕駛員的控制能力、認(rèn)知意識(shí)能力具有不同程度的影響。

    (一)人工智能汽車(chē)的智能差異性

    目前全球汽車(chē)行業(yè)公認(rèn)的兩個(gè)分級(jí)制度分別是由美國(guó)高速公路安全管理局(簡(jiǎn)稱NHTSA)和國(guó)際自動(dòng)機(jī)工程師學(xué)會(huì)(簡(jiǎn)稱SAE)提出的,二者對(duì)人工智能汽車(chē)劃分的自動(dòng)化標(biāo)準(zhǔn),如表1所示。

    除了L0 等級(jí)的汽車(chē)之外,L1 至L5 等級(jí)的汽車(chē)從廣義上來(lái)講都屬于人工智能汽車(chē)。根據(jù)是否有人工干預(yù),將其概括為干預(yù)性人工智能汽車(chē)(L1、L2、L3)和自主性人工智能汽車(chē)(L4、L5)。干預(yù)性人工智能汽車(chē)由于智能化程度不高,仍需要人類保持注意力,以備不時(shí)之需;自主性人工智能汽車(chē)則處于完全自動(dòng)化階段,所有駕駛皆由自主性人工智能汽車(chē)完成,人類僅需要簡(jiǎn)單操作。

    (二)人工智能汽車(chē)智能差異性的影響

    不同智能化程度的人工智能汽車(chē)使得汽車(chē)駕駛員的控制能力和認(rèn)知能力也隨之發(fā)生改變。在科學(xué)實(shí)驗(yàn)探究個(gè)體的差異化影響時(shí),一般都會(huì)設(shè)置對(duì)照實(shí)驗(yàn)組,探尋不同自變量下因變量的數(shù)據(jù)差異。比照科學(xué)實(shí)驗(yàn)的思路,人工駕駛汽車(chē)為干預(yù)性人工智能汽車(chē)和自主性人工智能汽車(chē)的參照物,自變量為人工智能汽車(chē)的智能程度,因變量為汽車(chē)駕駛員的控制能力和認(rèn)知能力。人工智能汽車(chē)駕駛員的控制能力和認(rèn)知能力在干預(yù)性、自主性人工智能汽車(chē)中具有顯著不同。

    1.控制能力不同

    控制能力主要是一種對(duì)外在因素的掌控能力,在具體情境下,表現(xiàn)為駕駛員對(duì)汽車(chē)進(jìn)行的管理和支配,并使得汽車(chē)的使用狀態(tài)與自己的使用目的相匹配的一種狀態(tài)。汽車(chē)駕駛員對(duì)不同程度自動(dòng)化的人工智能汽車(chē)的控制能力,隨著自動(dòng)化程度不同呈現(xiàn)出動(dòng)態(tài)性變化。

    在人工駕駛汽車(chē)的行駛模式下,汽車(chē)的行駛過(guò)程由駕駛員全程控制,駕駛員的操作與其控制目的重合。在干預(yù)性人工智能汽車(chē)的行駛模式下,汽車(chē)受到駕駛員不同程度的控制。在L1階段,除了部分性能由智能系統(tǒng)支配外,對(duì)于汽車(chē)的駕駛操作絕大部分由駕駛員完成,此時(shí)駕駛員的操作與其控制目的高度重合。在L2、L3 階段,絕大部分的駕駛操作由智能系統(tǒng)控制。雖然在此意義上,駕駛員并未負(fù)責(zé)對(duì)汽車(chē)駕駛的操作,但在緊急情況下駕駛員可以通過(guò)緊急制動(dòng)控制車(chē)輛,也就是說(shuō)此時(shí)車(chē)輛并未脫離駕駛員的控制。人工駕駛汽車(chē)與干預(yù)性人工智能汽車(chē)都處于駕駛員的控制之下,仍是人為因素對(duì)侵權(quán)責(zé)任起主導(dǎo)性作用。

    表1 人工智能汽車(chē)劃分的自動(dòng)標(biāo)準(zhǔn)

    與人工駕駛汽車(chē)大為不同的是,在自主性人工智能汽車(chē)的駕駛模式下,沒(méi)有人工駕駛員進(jìn)行掌控。在這種狀態(tài)下,汽車(chē)內(nèi)智能系統(tǒng)模擬人工的思維模式已經(jīng)較為成熟,對(duì)汽車(chē)駕駛行為的控制和控制目的都由智能系統(tǒng)自發(fā)性控制。此時(shí)智能系統(tǒng)的行為,從外在表征上來(lái)看相當(dāng)于原來(lái)駕駛員所承擔(dān)的角色已經(jīng)脫離了人為的控制。

    2.認(rèn)知意識(shí)不同

    認(rèn)知意識(shí)存在于腦與物質(zhì)世界的交互作用之中。當(dāng)意識(shí)出現(xiàn)時(shí),現(xiàn)象內(nèi)容隨之出現(xiàn);當(dāng)現(xiàn)象內(nèi)容消失時(shí),意識(shí)也隨之消失[2]。即只有在人腦中先出現(xiàn)認(rèn)知意識(shí),才能感知現(xiàn)象內(nèi)容(物質(zhì)世界)。雖然認(rèn)知意識(shí)是先于行為發(fā)生的心理預(yù)期,但是認(rèn)知意識(shí)仍然只有在腦與物質(zhì)世界產(chǎn)生交互作用時(shí)才會(huì)產(chǎn)生。

    人工駕駛模式體現(xiàn)為人腦與物質(zhì)世界關(guān)于汽車(chē)操縱的交互作用。在干預(yù)性人工智能汽車(chē)的駕駛操作中,雖然有智能系統(tǒng)與物質(zhì)世界的互動(dòng),不全然是人腦與物質(zhì)世界的交互作用,但是在這一駕駛模式下,駕駛員仍需一直注意路面的駕駛情況,以備不時(shí)之需。即使是在智能系統(tǒng)的駕駛模式之下,人腦與物質(zhì)世界關(guān)于汽車(chē)操縱的交互作用并未停止。從某種程度上來(lái)說(shuō),在人工駕駛模式與干預(yù)性人工智能汽車(chē)的駕駛模式下,駕駛員的認(rèn)識(shí)意識(shí)并無(wú)差別。在自主性人工智能汽車(chē)的駕駛模式下,所有的駕駛操作都由智能系統(tǒng)完成,體現(xiàn)的是智能系統(tǒng)與物質(zhì)世界關(guān)于操縱汽車(chē)的交互作用。此時(shí)并無(wú)傳統(tǒng)意義上的駕駛員,汽車(chē)使用者的大腦并未與物質(zhì)世界產(chǎn)生關(guān)于操縱汽車(chē)的交互作用,所以汽車(chē)使用者沒(méi)有關(guān)于汽車(chē)駕駛操作的認(rèn)知意識(shí)。

    人工智能汽車(chē)智能化程度促使汽車(chē)駕駛員的控制能力和認(rèn)知意識(shí)呈現(xiàn)出不同形態(tài),控制能力與認(rèn)知意識(shí)是判定駕駛員責(zé)任的重要形成因素。在人工駕駛汽車(chē)與干預(yù)性人工智能汽車(chē)的駕駛模式下,駕駛員對(duì)汽車(chē)的控制能力和認(rèn)知意識(shí)趨同,所以干預(yù)性人工智能汽車(chē)與人工駕駛汽車(chē)承擔(dān)的法律責(zé)任不應(yīng)做區(qū)分。在自主性人工智能汽車(chē)的駕駛模式中,汽車(chē)使用者對(duì)汽車(chē)的駕駛失去了控制,也沒(méi)有對(duì)汽車(chē)駕駛操作的認(rèn)知意識(shí),不宜將其與原有汽車(chē)的侵權(quán)責(zé)任統(tǒng)一化。

    二、自主性人工智能汽車(chē)侵權(quán)責(zé)任的理論不足

    關(guān)于自主性人工智能汽車(chē)是否具有主體的資格,學(xué)界目前主要存在兩種觀點(diǎn):否認(rèn)人工智能產(chǎn)品的主體地位即認(rèn)為人工智能產(chǎn)品是客體,主要有“產(chǎn)品說(shuō)”“動(dòng)物說(shuō)”;承認(rèn)人工智能產(chǎn)品具有主體地位即認(rèn)為人工智能具有電子人格、工具性人格[3]或者代理人地位等?!爸黧w說(shuō)”“客體說(shuō)”雖然都能在一定層面上反映自主性人工智能汽車(chē)的特性,但是“主體說(shuō)”中自主性人工智能汽車(chē)作為獨(dú)立主體的前提無(wú)法滿足,單一“客體說(shuō)”也無(wú)法涵括責(zé)任主體。

    (一)自主性人工智能汽車(chē)無(wú)法成為獨(dú)立主體

    從法律層面上來(lái)講,對(duì)主體資格的創(chuàng)設(shè)主要考慮行為主體是否具有自主意識(shí),如無(wú)民事行為、限制民事行為以及完全民事行為的劃分,都是基于對(duì)主體意識(shí)辨認(rèn)能力的劃分。當(dāng)然也有基于責(zé)任能力進(jìn)行主體創(chuàng)設(shè),如法人的設(shè)立。人工智能既不可能成為利益的負(fù)擔(dān)者,也不可能成為主體,因?yàn)樗粫?huì)犯錯(cuò)誤,或者說(shuō)它會(huì)“出錯(cuò)”但不會(huì)“犯錯(cuò)誤”[4]。在現(xiàn)有的法律制度中,自主性人工智能汽車(chē)擁有自主意識(shí)或者承擔(dān)責(zé)任的行為能力是賦予自主性人工智能汽車(chē)電子主體資格的基礎(chǔ)性要求。在目前的科技發(fā)展水平階段,自主性人工智能汽車(chē)中的智能系統(tǒng)的操作行為是依靠運(yùn)算規(guī)則建立起來(lái)的,無(wú)法獨(dú)立自主與外界進(jìn)行交流,不具備人類的思考能力和條件反射。當(dāng)突發(fā)事件超出智能系統(tǒng)運(yùn)算規(guī)則的范圍時(shí),自主性人工智能汽車(chē)的操作完全可能陷入癱瘓。即智能系統(tǒng)感受質(zhì)與行為嚴(yán)格關(guān)聯(lián)的缺失,導(dǎo)致自主性人工智能汽車(chē)具有不完全自主表達(dá)意識(shí)?,F(xiàn)代法人責(zé)任能力有賴于其財(cái)產(chǎn)的獨(dú)立,法人以其資產(chǎn)承擔(dān)相應(yīng)的民事、行政、刑事責(zé)任。自主性人工智能汽車(chē)并無(wú)設(shè)立資本,亦非以取得利潤(rùn)為目的,與法人相比無(wú)獨(dú)立的資產(chǎn)可供承擔(dān)相應(yīng)的法律責(zé)任。自主性人工智能汽車(chē)自主表達(dá)意識(shí)能力的缺失以及責(zé)任能力的缺位使其無(wú)法作為獨(dú)立主體承擔(dān)法律責(zé)任。

    (二)單一“客體說(shuō)”無(wú)法涵括責(zé)任主體

    相較而言,“客體說(shuō)”能夠較好地化解“主體說(shuō)”因意識(shí)能力與責(zé)任能力缺陷而產(chǎn)生的尷尬,具有較強(qiáng)的可行性。但在“客體說(shuō)”中又有“產(chǎn)品說(shuō)”與“動(dòng)物說(shuō)”的區(qū)別。“產(chǎn)品說(shuō)”以產(chǎn)品責(zé)任建立的歸責(zé)體系,排除了所有人、使用者的責(zé)任;“動(dòng)物說(shuō)”以風(fēng)險(xiǎn)責(zé)任建立的歸責(zé)體系,排除了生產(chǎn)商、銷售商的責(zé)任。

    1.“產(chǎn)品說(shuō)”

    “產(chǎn)品說(shuō)”認(rèn)為自動(dòng)駕駛機(jī)動(dòng)車(chē)是“人工智能+機(jī)動(dòng)車(chē)”的輪式智能機(jī)器人,無(wú)論其人工智能發(fā)展到何種程度,其基本屬性仍然是產(chǎn)品,是物的范疇[5],因此自主性人工智能汽車(chē)侵權(quán)責(zé)任是交通事故責(zé)任與產(chǎn)品責(zé)任的累加。普通汽車(chē)與干預(yù)性人工智能汽車(chē)交通事故責(zé)任的承擔(dān)基礎(chǔ)建立于汽車(chē)駕駛?cè)说倪^(guò)錯(cuò)上,自主性人工智能汽車(chē)的所有人、使用者對(duì)汽車(chē)的控制能力、認(rèn)知意識(shí)不同于普通汽車(chē)、干預(yù)性人工智能汽車(chē),其過(guò)錯(cuò)無(wú)限趨于零,無(wú)法通過(guò)原有的交通事故責(zé)任進(jìn)行追責(zé)。在“產(chǎn)品說(shuō)”的理論下,自主性人工智能汽車(chē)的所有人、使用者難以被納入責(zé)任體系。

    2.“動(dòng)物說(shuō)”

    “動(dòng)物說(shuō)”認(rèn)為智能汽車(chē)侵權(quán)的責(zé)任應(yīng)該如同貓狗等飼養(yǎng)動(dòng)物致人損害由其所有者、管理者承擔(dān)責(zé)任一樣[6]。自主性人工智能汽車(chē)與動(dòng)物一樣都具有一定的危險(xiǎn)性,所有者、管理者需要進(jìn)行風(fēng)險(xiǎn)防范?!皠?dòng)物說(shuō)”較為合理闡述了自主性人工智能汽車(chē)的所有者、管理者的責(zé)任依據(jù),卻排除了因產(chǎn)品缺陷致害的生產(chǎn)商、銷售商主體。

    生產(chǎn)商、銷售商、所有人和使用者都是自主性人工智能汽車(chē)侵權(quán)的責(zé)任主體,無(wú)論是“產(chǎn)品說(shuō)”還是“動(dòng)物說(shuō)”都限縮了責(zé)任主體的范圍。自主性人工智能汽車(chē)的侵權(quán)責(zé)任為多重責(zé)任的結(jié)合體,以“產(chǎn)品責(zé)任+類動(dòng)物責(zé)任”的混合客體說(shuō)進(jìn)行解釋,才能涵攝自主性人工智能汽車(chē)侵權(quán)的責(zé)任主體。

    三、自主性人工智能汽車(chē)“混合客體說(shuō)”的責(zé)任基礎(chǔ)

    生產(chǎn)商、銷售商與所有人、使用者產(chǎn)生侵權(quán)責(zé)任的基礎(chǔ)不同。生產(chǎn)商、銷售商具有安全保障義務(wù),因產(chǎn)品缺陷致害,需要承擔(dān)侵權(quán)責(zé)任。所有人、使用者需要對(duì)自主性人工智能汽車(chē)的危險(xiǎn)性進(jìn)行風(fēng)險(xiǎn)防范,因管理不當(dāng)導(dǎo)致交通事故時(shí)需要就此承擔(dān)侵權(quán)責(zé)任。

    (一)生產(chǎn)商、銷售商的責(zé)任基礎(chǔ)

    在傳統(tǒng)的產(chǎn)品責(zé)任歸責(zé)理論中,以合同相對(duì)性原則、擔(dān)保責(zé)任、過(guò)失責(zé)任進(jìn)行追責(zé)。隨著經(jīng)濟(jì)社會(huì)的迅速發(fā)展,傳統(tǒng)的歸責(zé)理論已經(jīng)不能滿足社會(huì)發(fā)展的需求,格林曼訴尤巴電器公司案[7]突破了以過(guò)錯(cuò)為基礎(chǔ)的歸責(zé)體系,確立了嚴(yán)格責(zé)任。

    1.生產(chǎn)商的嚴(yán)格責(zé)任

    與傳統(tǒng)的嚴(yán)格責(zé)任不同,有學(xué)者認(rèn)為采用過(guò)錯(cuò)責(zé)任能有效激勵(lì)人工智能產(chǎn)品企業(yè)創(chuàng)新,促使消費(fèi)者采取防范措施[8]。在高度發(fā)達(dá)的市場(chǎng)經(jīng)濟(jì)社會(huì)中,消費(fèi)者和生產(chǎn)商信息不對(duì)稱的缺陷日漸凸顯。自主性人工智能汽車(chē)的運(yùn)行系統(tǒng)具有專業(yè)性,一般的消費(fèi)者無(wú)法自主掌握人工智能汽車(chē)的操縱技能,只能通過(guò)對(duì)產(chǎn)品說(shuō)明書(shū)的研習(xí)開(kāi)啟自主性人工智能汽車(chē)的運(yùn)行。美國(guó)佛羅里達(dá)州和密歇根州分別通過(guò)新的法案,移除了自動(dòng)駕駛車(chē)輛中必須有駕駛員的規(guī)定,要求研究人員能夠在必要時(shí)實(shí)現(xiàn)對(duì)車(chē)輛的管控,或者車(chē)輛能夠減速或者停車(chē)[9]。對(duì)于自主性人工智能汽車(chē)的管控,生產(chǎn)商和消費(fèi)者的信息配置明顯失衡。自主性人工智能汽車(chē)的生產(chǎn)經(jīng)營(yíng)者可以投保產(chǎn)品責(zé)任險(xiǎn)來(lái)轉(zhuǎn)嫁風(fēng)險(xiǎn),提高自身的市場(chǎng)競(jìng)爭(zhēng)優(yōu)勢(shì)。生產(chǎn)商處于優(yōu)勢(shì)地位,掌握較為豐富的信息資源,而且產(chǎn)品的設(shè)計(jì)、制造是導(dǎo)致危險(xiǎn)的最大風(fēng)險(xiǎn)源,從公平、效率的角度來(lái)看,生產(chǎn)商應(yīng)當(dāng)繼續(xù)承擔(dān)嚴(yán)格責(zé)任,才能更好地保障消費(fèi)者權(quán)益。

    2.銷售商嚴(yán)格責(zé)任的擴(kuò)張

    《產(chǎn)品質(zhì)量法》第四十二條規(guī)定,由于銷售者過(guò)錯(cuò)存在產(chǎn)品缺陷,造成人身、他人財(cái)產(chǎn)損失,承擔(dān)賠償責(zé)任。學(xué)界認(rèn)為此條款為銷售商過(guò)錯(cuò)責(zé)任條款。根據(jù)《民法典》第一千二百零三條的有關(guān)規(guī)定,因產(chǎn)品缺陷造成他人損害,被侵權(quán)人可以向生產(chǎn)者或者銷售者請(qǐng)求賠償。根據(jù)該條文,生產(chǎn)商、銷售商對(duì)外作為一個(gè)整體,向消費(fèi)者承擔(dān)賠償責(zé)任,所以有的學(xué)者認(rèn)為銷售商的歸責(zé)原則屬于嚴(yán)格責(zé)任的擴(kuò)張。《產(chǎn)品質(zhì)量法》第四十二條是銷售商承擔(dān)侵權(quán)責(zé)任的基礎(chǔ),也是生產(chǎn)商和銷售商責(zé)任分擔(dān)時(shí)的責(zé)任依據(jù)。消費(fèi)者對(duì)自主性人工智能汽車(chē)的產(chǎn)品缺陷的認(rèn)知存在信息偏在,《民法典》第一千二百零三條關(guān)于生產(chǎn)商、銷售商承擔(dān)連帶責(zé)任的規(guī)定有其合理性,相比于弱勢(shì)的消費(fèi)者,銷售商具有較強(qiáng)的專業(yè)知識(shí)與經(jīng)濟(jì)實(shí)力同生產(chǎn)商對(duì)抗,保障消費(fèi)者權(quán)益,就銷售商實(shí)際承擔(dān)責(zé)任的效果而言,銷售商適用的責(zé)任為嚴(yán)格責(zé)任的擴(kuò)張。

    (二)所有人、使用者的責(zé)任基礎(chǔ)

    自主性人工智能汽車(chē)與動(dòng)物具有一定程度上的相似性,二者由于不成熟意志具有一定程度的自主性,難以工具論斷,又因其缺乏倫理道德判斷能力,難以成為獨(dú)立主體。自主性人工智能汽車(chē)又因該特征具有一定的危險(xiǎn)性。動(dòng)物飼養(yǎng)人、管理人對(duì)動(dòng)物的危險(xiǎn)性有注意義務(wù),類似地,自主性人工智能汽車(chē)的所有人、管理人需要對(duì)汽車(chē)的危險(xiǎn)性進(jìn)行風(fēng)險(xiǎn)防范。

    1.自主性人工智能汽車(chē)的類動(dòng)物性

    動(dòng)物具有一定程度的意識(shí),能夠自主行動(dòng)。自主性人工智能汽車(chē)與動(dòng)物類似,經(jīng)過(guò)設(shè)計(jì)者的程序設(shè)計(jì),自主性人工智能汽車(chē)中的智能系統(tǒng)已經(jīng)學(xué)會(huì)類人化的汽車(chē)操控,此時(shí)智能系統(tǒng)中的操縱意識(shí)獨(dú)立于汽車(chē)操縱者,不受制于人。基于動(dòng)物和自主性人工智能汽車(chē)的不成熟意識(shí),經(jīng)常會(huì)“自陷風(fēng)險(xiǎn)”,導(dǎo)致侵權(quán)責(zé)任的發(fā)生。動(dòng)物飼養(yǎng)人、管理人具有約束動(dòng)物和人工智能汽車(chē)的可能性,應(yīng)當(dāng)承擔(dān)一定的注意義務(wù),當(dāng)其無(wú)法履責(zé)時(shí),應(yīng)當(dāng)承當(dāng)相關(guān)責(zé)任。

    情感是道德的基礎(chǔ)。對(duì)于動(dòng)物來(lái)說(shuō),其所擁有的本能是當(dāng)受人類的主動(dòng)攻擊時(shí),出于恐懼而失控。這是因?yàn)閯?dòng)物缺少了高級(jí)的情感體驗(yàn),無(wú)法進(jìn)行倫理價(jià)值衡量,不會(huì)選擇隱忍自己的行為??傊?,動(dòng)物不具有道德倫理判斷的能力。與動(dòng)物相類似,自主性人工智能汽車(chē)的智能系統(tǒng)是由人類所編輯的,也有一些基礎(chǔ)性的價(jià)值選擇,但是也不具有道德倫理判斷的能力。在“優(yōu)步”公司自動(dòng)駕駛汽車(chē)肇事案中,根據(jù)有關(guān)證據(jù)顯示,事發(fā)當(dāng)時(shí),自動(dòng)駕駛汽車(chē)的操作規(guī)范沒(méi)有違反相應(yīng)的交通規(guī)范,而是行人的行為違反了交通規(guī)則。即便是行人不遵守交通規(guī)則,但是生命的價(jià)值無(wú)法估量,根據(jù)基礎(chǔ)的道德倫理,在這種情景之下也應(yīng)當(dāng)禮讓行人。由于自主性人工智能汽車(chē)自身道德倫理判斷的缺位,導(dǎo)致了交通事故的發(fā)生。不成熟意識(shí)、倫理道德判斷能力的缺失是自主性人工智能汽車(chē)與動(dòng)物共有的特征。上述特征促使動(dòng)物、自主性人工智能汽車(chē)在面臨風(fēng)險(xiǎn)的時(shí)候喪失了自控能力,導(dǎo)致了侵權(quán)責(zé)任的產(chǎn)生。

    2.所有人、使用者的無(wú)過(guò)錯(cuò)責(zé)任

    動(dòng)物的飼養(yǎng)人、管理人對(duì)其管控下的動(dòng)物具有一定的注意義務(wù),需要對(duì)其進(jìn)行管控、約束,對(duì)動(dòng)物所具有的危險(xiǎn)性負(fù)責(zé)。基于動(dòng)物所具有的特殊危險(xiǎn)性,各國(guó)法律多將飼養(yǎng)動(dòng)物致害責(zé)任置于危險(xiǎn)責(zé)任體系中[10]。自主性人工智能汽車(chē)的不成熟意志、倫理道德判斷能力缺乏,致使其形成與動(dòng)物類似的特殊危險(xiǎn)性,自主性人工智能汽車(chē)致害責(zé)任也應(yīng)置于危險(xiǎn)責(zé)任體系中。

    應(yīng)根據(jù)人工駕駛汽車(chē)對(duì)機(jī)動(dòng)車(chē)和行人威脅風(fēng)險(xiǎn)系數(shù)的高低,分別設(shè)立過(guò)錯(cuò)責(zé)任和無(wú)過(guò)錯(cuò)責(zé)任。人工駕駛汽車(chē)的駕駛以駕駛員的意志為基礎(chǔ),針對(duì)機(jī)動(dòng)車(chē)、行人遵守不同的駕駛規(guī)則,其注意義務(wù)是不同的;自主性人工智能汽車(chē)的駕駛由智能系統(tǒng)進(jìn)行管控,其駕駛行為由汽車(chē)本身替代,無(wú)論是針對(duì)機(jī)動(dòng)車(chē)駕駛還是行人,自主性人工智能汽車(chē)的所有人、使用者的管控行為并無(wú)本質(zhì)性區(qū)別,注意義務(wù)一致。因此自主性人工智能汽車(chē)對(duì)機(jī)動(dòng)車(chē)、行人侵權(quán)的責(zé)任基礎(chǔ)一致,都是來(lái)自其風(fēng)險(xiǎn)防范不當(dāng),而非所有人、使用者自身行為?!睹穹ǖ洹返谝磺Ф偎氖鍡l確立了飼養(yǎng)動(dòng)物原則上適用無(wú)過(guò)錯(cuò)責(zé)任,我國(guó)法學(xué)界支持動(dòng)物致害適用無(wú)過(guò)錯(cuò)責(zé)任,主要基于以下兩點(diǎn)理由:首先動(dòng)物具有危險(xiǎn)性;其次侵權(quán)責(zé)任人是獲利方,理應(yīng)賠償受損方[11]。自主性人工智能汽車(chē)因其類動(dòng)物性具有危險(xiǎn),自主性人工智能汽車(chē)為所有人、使用者提供交通便利,滿足動(dòng)物致害歸責(zé)的要素,故自主性人工智能汽車(chē)應(yīng)適用無(wú)過(guò)錯(cuò)責(zé)任。

    四、自主性人工智能汽車(chē)的責(zé)任認(rèn)定

    自主性人工智能汽車(chē)造成交通事故的原因紛繁復(fù)雜,不能用產(chǎn)品責(zé)任一概而論,應(yīng)根據(jù)自主性人工智能汽車(chē)在不同責(zé)任主體中的作用、特性對(duì)其資格定位,并確定責(zé)任認(rèn)定思路。生產(chǎn)商、銷售商因自主性人工智能汽車(chē)銷售而獲取利潤(rùn),自然應(yīng)承擔(dān)產(chǎn)品不安全性引起的產(chǎn)品責(zé)任。自主性人工智能汽車(chē)的所有人和使用者因自主性人工智能汽車(chē)獲取生活便利,理應(yīng)承擔(dān)因自主性人工智能汽車(chē)駕駛不當(dāng)帶來(lái)的風(fēng)險(xiǎn)。

    (一)產(chǎn)品責(zé)任的認(rèn)定思路

    從產(chǎn)品責(zé)任的設(shè)立來(lái)看,在出售復(fù)雜的機(jī)器和化學(xué)品時(shí),現(xiàn)代生產(chǎn)商促使間接消費(fèi)者信賴產(chǎn)品的安全性,生產(chǎn)商應(yīng)該對(duì)他們的缺陷產(chǎn)品導(dǎo)致的傷害對(duì)消費(fèi)者負(fù)侵權(quán)之嚴(yán)格責(zé)任[12]。自主性人工智能汽車(chē)雖然具有一套復(fù)雜、精細(xì)的智能系統(tǒng),但其仍然屬于加工、制造、用于銷售的產(chǎn)品,滿足《產(chǎn)品質(zhì)量法》第二條關(guān)于產(chǎn)品屬性的定義,對(duì)自主性人工智能汽車(chē)的生產(chǎn)者、銷售者以產(chǎn)品責(zé)任進(jìn)行追責(zé)似無(wú)可厚非。

    1.產(chǎn)品缺陷

    《產(chǎn)品質(zhì)量法》第二十六條第二款規(guī)定了產(chǎn)品質(zhì)量應(yīng)當(dāng)具備滿足國(guó)家、行業(yè)雙重標(biāo)準(zhǔn),具備其應(yīng)當(dāng)具備的使用性能,但對(duì)產(chǎn)品存在使用性能的瑕疵作出說(shuō)明的除外?!度毕萜?chē)產(chǎn)品召回管理?xiàng)l例》(以下簡(jiǎn)稱《管理?xiàng)l例》)第三條對(duì)汽車(chē)產(chǎn)品缺陷做出了定義,凡是由于設(shè)計(jì)、制造、標(biāo)識(shí)等原因?qū)е碌脑谕慌?、型?hào)或者類別的汽車(chē)產(chǎn)品中普遍存在的不符合保障人身、財(cái)產(chǎn)安全的國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)的情形或者其他危及人身、財(cái)產(chǎn)安全的不合理的危險(xiǎn)的質(zhì)量問(wèn)題就屬于產(chǎn)品缺陷。結(jié)合二者定義,自動(dòng)性人工智能汽車(chē)的產(chǎn)品缺陷核心內(nèi)涵有以下兩項(xiàng)要求:第一,產(chǎn)品存在不合理危險(xiǎn);第二,產(chǎn)品違反國(guó)家或行業(yè)標(biāo)準(zhǔn)的有關(guān)規(guī)定。

    根據(jù)《管理?xiàng)l例》第三條的有關(guān)規(guī)定,自動(dòng)性人工智能汽車(chē)的產(chǎn)品缺陷主要有以下三種類型:設(shè)計(jì)缺陷、制造缺陷、警示缺陷。設(shè)計(jì)缺陷是指自主性人工智能汽車(chē)在最初設(shè)計(jì)時(shí)由于未考慮全面,而使產(chǎn)品在使用中存在的一些潛在的缺陷,促使該產(chǎn)品存在不合理危險(xiǎn)。應(yīng)當(dāng)注意的是,該設(shè)計(jì)缺陷根據(jù)目前的科學(xué)技術(shù)是可以發(fā)現(xiàn)的缺陷,否則就要納入《產(chǎn)品質(zhì)量法》第四十一條的免責(zé)事由中。設(shè)計(jì)缺陷具體表現(xiàn)為人工智能系統(tǒng)的算法和決策行為不符合理性標(biāo)準(zhǔn)等。制造缺陷指產(chǎn)品在制造過(guò)程中,因質(zhì)量管理不善、技術(shù)水平差等原因而使產(chǎn)品生產(chǎn)偏離設(shè)計(jì)目的,具體表現(xiàn)為自主性人工智能汽車(chē)傳感器、攝像頭等零部件存在功能認(rèn)知障礙,導(dǎo)致各零部件之間不能協(xié)調(diào)運(yùn)作,造成損害后果。警示缺陷是缺乏適當(dāng)?shù)淖灾餍匀斯ぶ悄芷?chē)產(chǎn)品風(fēng)險(xiǎn)警示和正確使用方法的指導(dǎo),具體表現(xiàn)為汽車(chē)操縱者對(duì)自主性人工智能汽車(chē)的功能缺乏了解,導(dǎo)致汽車(chē)駕駛陷入不合理危險(xiǎn)。

    2.損害后果

    汽車(chē)作為高度危險(xiǎn)性的交通工具,侵權(quán)責(zé)任事故有別于一般的工業(yè)產(chǎn)品,其侵權(quán)責(zé)任保障體系更為完善。在自主性人工智能汽車(chē)的語(yǔ)境下,侵權(quán)者已經(jīng)不僅僅局限于肇事駕駛員的范圍,還應(yīng)包含生產(chǎn)商、銷售商。生產(chǎn)商、銷售商應(yīng)承擔(dān)因自主性人工智能汽車(chē)產(chǎn)品缺陷引起的人身、產(chǎn)品自身以及產(chǎn)品外其他財(cái)產(chǎn)價(jià)值的損害后果。人身權(quán)益損害包含醫(yī)療費(fèi)、護(hù)理費(fèi)等人身財(cái)產(chǎn)損害和精神損害,被侵權(quán)者需要達(dá)到輕傷以上才能申請(qǐng)精神損害賠償,在普通汽車(chē)交通事故責(zé)任中,視肇事司機(jī)違章的主觀惡性加重精神損害賠償,自主性人工智能汽車(chē)生產(chǎn)商無(wú)法適用該條款加重精神損害賠償。《消費(fèi)者權(quán)益保護(hù)法》第五十五條的三倍賠償規(guī)定被認(rèn)為是精神損害賠償,在生產(chǎn)商、銷售商提供產(chǎn)品時(shí)候存在欺詐行為時(shí),因該行為導(dǎo)致的自主性人工智能汽車(chē)交通事故,可以適用該條款加重精神損害賠償。財(cái)產(chǎn)損失包含直接財(cái)產(chǎn)損失和間接財(cái)產(chǎn)損失,直接財(cái)產(chǎn)損失是指因發(fā)生事故而造成的汽車(chē)車(chē)輛本身的損失,車(chē)載貨物、汽車(chē)使用者以及行人等隨身攜帶的財(cái)產(chǎn)所遭受的損害,間接損失是指因汽車(chē)車(chē)輛等財(cái)產(chǎn)無(wú)法使用而造成的財(cái)產(chǎn)權(quán)益的減少以及部分情形下因發(fā)生交通事故而造成的車(chē)輛貶值損失。

    3.因果關(guān)系

    我國(guó)通常以大陸法系的“相當(dāng)因果關(guān)系”作為判斷標(biāo)準(zhǔn),即判斷自主性人工智能汽車(chē)產(chǎn)品缺陷是否足以引起損害后果,該標(biāo)準(zhǔn)以生活經(jīng)驗(yàn)為判斷,產(chǎn)品缺陷與損害后果的聯(lián)系只要達(dá)到“蓋然性”即達(dá)到證明要求,其相比英美的近因理論的“支配性”要求更有利于保障被侵權(quán)人的權(quán)益。自主性人工智能汽車(chē)通過(guò)數(shù)據(jù)分析、測(cè)算實(shí)現(xiàn)自主駕駛,交通事故的產(chǎn)生是由于操作不當(dāng)、智能系統(tǒng)故障還是零部件生產(chǎn)不當(dāng),都有賴于事故產(chǎn)生時(shí)對(duì)數(shù)據(jù)的采集、分析,才能明晰何種產(chǎn)品缺陷與損害結(jié)果之間的因果關(guān)系。德國(guó)《自動(dòng)駕駛法》已經(jīng)明確規(guī)定所有自動(dòng)駕駛汽車(chē)內(nèi)部都要安裝“黑匣子”[13]?!昂谙蛔印钡倪\(yùn)用能夠較大限度地復(fù)原事故發(fā)生時(shí)的場(chǎng)景,有助于事故現(xiàn)場(chǎng)的數(shù)據(jù)收集,輔助交通事故的責(zé)任認(rèn)定。在“黑匣子”的輔助下,操作不當(dāng)、制造缺陷都可以通過(guò)勘定而明確因果關(guān)系,而智能系統(tǒng)的設(shè)計(jì)缺陷卻不易認(rèn)定。智能系統(tǒng)通過(guò)深度學(xué)習(xí),習(xí)得相應(yīng)的操作指令,通過(guò)“黑匣子”只能獲取數(shù)據(jù)的輸入和輸出信息,無(wú)法獲取智能系統(tǒng)的運(yùn)算過(guò)程,難以證成人工智能系統(tǒng)設(shè)計(jì)缺陷與損害后果存在因果關(guān)系的“蓋然性”,該缺陷是否構(gòu)成《產(chǎn)品質(zhì)量法》的免責(zé)事由也有待商榷。侵權(quán)責(zé)任意在讓被侵權(quán)者得到補(bǔ)償,因果關(guān)系的難以認(rèn)定使得補(bǔ)償懸而未決,被侵權(quán)者的權(quán)利無(wú)法得到充分保障。生產(chǎn)商要確保產(chǎn)品安全使用的性能,即便不能證明產(chǎn)品缺陷與損害后果的因果關(guān)系,也應(yīng)當(dāng)在公平責(zé)任的范圍內(nèi)履責(zé),此外通過(guò)實(shí)施強(qiáng)制保險(xiǎn),一方面保障被侵權(quán)者的權(quán)益,另外一方面轉(zhuǎn)嫁智能系統(tǒng)缺陷導(dǎo)致的風(fēng)險(xiǎn)。

    4.責(zé)任分擔(dān)

    自主性人工智能汽車(chē)的流通主要依賴于設(shè)計(jì)、制造、銷售三個(gè)環(huán)節(jié),自主性人工智能汽車(chē)的智能系統(tǒng)的設(shè)計(jì)滿足人類對(duì)汽車(chē)自主駕駛的需求,生產(chǎn)商的制造將設(shè)計(jì)付諸實(shí)施,銷售則是自主性人工智能汽車(chē)生產(chǎn)與其投入使用的溝通媒介。我國(guó)目前的責(zé)任主體只有生產(chǎn)商、銷售商。鑒于人工智能系統(tǒng)的不穩(wěn)定性,有學(xué)者提出將人工智能系統(tǒng)的設(shè)計(jì)者納入責(zé)任主體的范圍內(nèi)。為了增強(qiáng)權(quán)利保障路徑,有的國(guó)家規(guī)定設(shè)計(jì)者、生產(chǎn)者、銷售者的不真正連帶責(zé)任,如韓國(guó)區(qū)分雇主責(zé)任和承攬人責(zé)任[14]。由于信息不對(duì)稱,被侵權(quán)者無(wú)法擁有足夠的知識(shí)同技術(shù)與人工智能系統(tǒng)設(shè)計(jì)者抗衡,最終可能使得求償過(guò)程陷入僵局。被侵權(quán)者向自主性人工智能汽車(chē)的成品生產(chǎn)者和銷售者求償具有實(shí)踐上的制度優(yōu)越性,相較于弱勢(shì)的被侵權(quán)者,成品生產(chǎn)商、銷售者都有較強(qiáng)的經(jīng)濟(jì)優(yōu)勢(shì)可以與人工智能系統(tǒng)設(shè)計(jì)者抗衡,同時(shí)成品生產(chǎn)商可以基于二者的合同約定對(duì)設(shè)計(jì)者進(jìn)一步索賠。自主性人工智能汽車(chē)的智能系統(tǒng)雖然有其特殊性,但是未能改變被侵權(quán)者的弱勢(shì)地位,仍然應(yīng)該由生產(chǎn)者和銷售商承擔(dān)不真正連帶責(zé)任。

    (二)類動(dòng)物責(zé)任的認(rèn)定思路

    從本質(zhì)上來(lái)說(shuō),所有人、使用者并無(wú)主觀上的過(guò)錯(cuò),但由于自主性人工智能汽車(chē)有危險(xiǎn)性,需將其納入危險(xiǎn)責(zé)任體系,對(duì)所有人、使用者進(jìn)行規(guī)制,從而保障被侵權(quán)者權(quán)益。自主性人工智能汽車(chē)所有者、使用者侵權(quán)責(zé)任的認(rèn)定與動(dòng)物責(zé)任類似,需要從侵權(quán)行為、損害后果因果關(guān)系、責(zé)任分擔(dān)等多重方面進(jìn)行考慮,損害后果、因果關(guān)系已經(jīng)在前文詳細(xì)敘述,故不再贅述。

    1.侵權(quán)行為的定性

    自主性人工智能汽車(chē)的侵權(quán)行為可能由汽車(chē)的自發(fā)行為所引起,也可能是受外界刺激引起的。不論何種侵權(quán)行為,汽車(chē)所有人需要提示汽車(chē)存在的缺陷,所有人、使用者使用汽車(chē)時(shí)也應(yīng)在責(zé)任范圍內(nèi)妥善管理汽車(chē)。《民法典》第九章對(duì)動(dòng)物飼養(yǎng)人、管理人的侵權(quán)行為做了不同層面的規(guī)定,動(dòng)物飼養(yǎng)人、管理人總體上適用無(wú)過(guò)錯(cuò)責(zé)任。第一千二百四十六條規(guī)定當(dāng)飼養(yǎng)人、管理人違反規(guī)定,未采取妥善措施承擔(dān)責(zé)任,可以視被侵權(quán)人的過(guò)錯(cuò)減輕責(zé)任。禁止飼養(yǎng)動(dòng)物名錄一般由法律規(guī)定,《民法典》第一千二百四十七條規(guī)定禁止飼養(yǎng)烈性動(dòng)物,否則承擔(dān)侵權(quán)責(zé)任,無(wú)免責(zé)事由。自主性人工智能汽車(chē)的危險(xiǎn)性雖然堪比烈性動(dòng)物,但是法律后果的評(píng)價(jià)還需要考慮責(zé)任公平分配問(wèn)題?!睹穹ǖ洹返谝磺Ф偎氖鶙l中規(guī)定,飼養(yǎng)人、管理人因侵權(quán)行為違反操作準(zhǔn)則,應(yīng)承受否定性法律后果;《民法典》第一千二百四十七條中規(guī)定,飼養(yǎng)人、管理人若違反法律規(guī)范,則應(yīng)接受更為嚴(yán)厲的法律否定評(píng)價(jià)。自主性人工智能汽車(chē)的所有人、管理人需要遵守一定的準(zhǔn)則,履行相應(yīng)的管理職責(zé),適用《民法典》第一千二百四十六條中的邏輯思路評(píng)價(jià)自主性人工智能汽車(chē)所有人、使用者的侵權(quán)行為更為適宜。

    2.責(zé)任分擔(dān)

    根據(jù)《民法典》第一千二百零九條的有關(guān)規(guī)定,人工駕駛汽車(chē)的所有人與駕駛?cè)酥g責(zé)任分擔(dān)關(guān)系一般由機(jī)動(dòng)車(chē)駕駛?cè)顺袚?dān)責(zé)任,機(jī)動(dòng)車(chē)所有人有法釋〔2012〕19號(hào)第一條規(guī)定的知道導(dǎo)致交通事故的機(jī)動(dòng)車(chē)缺陷、駕駛?cè)藷o(wú)駕駛資格、駕駛?cè)艘蝻嬀频仍虿荒馨踩{駛汽車(chē)等情形,承擔(dān)相應(yīng)的責(zé)任。動(dòng)物飼養(yǎng)人、管理人之間的責(zé)任分擔(dān)關(guān)系為“擇一責(zé)任”而非“不真正連帶責(zé)任”,即動(dòng)物侵權(quán)責(zé)任由動(dòng)物的保有人承擔(dān)責(zé)任。人工駕駛汽車(chē)的安全行駛有賴于汽車(chē)的安全性能、駕駛?cè)说囊庵竞图寄埽斯ゑ{駛汽車(chē)的所有人需要審慎對(duì)待機(jī)動(dòng)車(chē)的缺陷,保障汽車(chē)的使用性能,相比之下動(dòng)物飼養(yǎng)人對(duì)動(dòng)物的危險(xiǎn)性無(wú)法進(jìn)行事前審查,不能對(duì)其加以苛責(zé)。雖然自主性人工智能汽車(chē)具有類動(dòng)物性(其駕駛不以駕駛?cè)说囊庵竞图寄転榛A(chǔ)),但是自主性人工智能汽車(chē)的所有人還需要在能力范圍內(nèi)保障汽車(chē)的安全性能,所以當(dāng)自主性人工智能汽車(chē)的所有人知道機(jī)動(dòng)車(chē)存在缺陷而未履行注意義務(wù)時(shí),就應(yīng)當(dāng)承擔(dān)相應(yīng)的責(zé)任,否則該侵權(quán)責(zé)任由汽車(chē)使用者承擔(dān)。

    (三)類動(dòng)物責(zé)任與產(chǎn)品責(zé)任的結(jié)合運(yùn)用

    由設(shè)計(jì)缺陷、制造缺陷、警示缺陷引起的交通事故,被侵權(quán)人可以自主選擇產(chǎn)品責(zé)任或者類動(dòng)物責(zé)任進(jìn)行追責(zé)。自主性人工智能汽車(chē)的所有者、使用者只有在因不當(dāng)操作引起的交通事故中才需要承擔(dān)終局責(zé)任,當(dāng)其不當(dāng)操作未落入警示標(biāo)識(shí)的范圍內(nèi),從某種程度上來(lái)說(shuō)亦屬于產(chǎn)品缺陷導(dǎo)致的侵權(quán)責(zé)任。由產(chǎn)品缺陷引起的交通事故,當(dāng)自主性人工智能汽車(chē)的所有者、使用者先行賠付后,取得被侵權(quán)者對(duì)生產(chǎn)者、銷售者求償?shù)膫鶛?quán),所有者、使用者可以通過(guò)對(duì)生產(chǎn)者、銷售者的追償,彌補(bǔ)自身?yè)p失。

    人工智能汽車(chē)侵權(quán)責(zé)任不可一概而論,需要結(jié)合人工智能汽車(chē)發(fā)展階段進(jìn)行判定。干預(yù)性人工智能汽車(chē)(L1、L2、L3)的致害行為中,駕駛員的控制能力、認(rèn)知意識(shí)仍占據(jù)主導(dǎo)作用,可以酌情考量智能因素的影響,但不宜改變歸責(zé)方式。當(dāng)較為高級(jí)階段的人工智能汽車(chē)(L4、L5)致害時(shí),不能一味以產(chǎn)品責(zé)任或者類動(dòng)物責(zé)任進(jìn)行追責(zé),應(yīng)該以“產(chǎn)品責(zé)任+類動(dòng)物責(zé)任”進(jìn)行追責(zé),結(jié)合實(shí)際情況,合理分配各責(zé)任主體的責(zé)任。

    猜你喜歡
    銷售商生產(chǎn)商自主性
    基于網(wǎng)絡(luò)平臺(tái)市場(chǎng)的銷售商促銷競(jìng)爭(zhēng)策略研究
    具有風(fēng)險(xiǎn)規(guī)避銷售商的供應(yīng)鏈退貨政策協(xié)調(diào)模型
    生產(chǎn)商名錄
    生產(chǎn)商名錄
    生產(chǎn)商名錄
    英語(yǔ)學(xué)習(xí)的自主性及其教學(xué)應(yīng)用
    實(shí)用英語(yǔ)教材與藝術(shù)生自主性培養(yǎng)
    生產(chǎn)商名錄
    發(fā)揮主體作用,加強(qiáng)高中數(shù)學(xué)復(fù)習(xí)的自主性
    維護(hù)科學(xué)的自主性
    videossex国产| 最新中文字幕久久久久| 熟妇人妻久久中文字幕3abv| 婷婷色av中文字幕| 一个人观看的视频www高清免费观看| 婷婷六月久久综合丁香| eeuss影院久久| 大型黄色视频在线免费观看| 成人特级黄色片久久久久久久| 午夜免费男女啪啪视频观看| 国产日韩欧美在线精品| 青春草国产在线视频 | 免费看日本二区| 最后的刺客免费高清国语| 色综合站精品国产| 国产午夜精品久久久久久一区二区三区| 国产极品精品免费视频能看的| 久久久久久久久久成人| 中文字幕人妻熟人妻熟丝袜美| 久久草成人影院| 美女 人体艺术 gogo| 男人的好看免费观看在线视频| 91久久精品国产一区二区三区| 日韩精品有码人妻一区| 日韩av不卡免费在线播放| 午夜福利在线观看免费完整高清在 | 日韩大尺度精品在线看网址| 欧美另类亚洲清纯唯美| 久久久久性生活片| 18禁在线无遮挡免费观看视频| 99久久中文字幕三级久久日本| 亚洲欧美日韩无卡精品| 午夜福利在线观看免费完整高清在 | 在线观看免费视频日本深夜| 三级男女做爰猛烈吃奶摸视频| 国产熟女欧美一区二区| 国产精品久久久久久亚洲av鲁大| 免费观看a级毛片全部| 少妇被粗大猛烈的视频| 成人毛片60女人毛片免费| 内射极品少妇av片p| 中文字幕av在线有码专区| 国产精品野战在线观看| 联通29元200g的流量卡| 精品久久久久久久人妻蜜臀av| 亚洲av中文字字幕乱码综合| 国产精品一二三区在线看| 一区二区三区四区激情视频 | 国产精品久久久久久精品电影小说 | 国产片特级美女逼逼视频| 99久久精品国产国产毛片| 亚洲精品456在线播放app| 美女xxoo啪啪120秒动态图| 日产精品乱码卡一卡2卡三| av在线观看视频网站免费| 女同久久另类99精品国产91| 日韩,欧美,国产一区二区三区 | 级片在线观看| 少妇裸体淫交视频免费看高清| 乱人视频在线观看| 国产精品,欧美在线| 22中文网久久字幕| a级一级毛片免费在线观看| 伦精品一区二区三区| 黄色欧美视频在线观看| 99久久人妻综合| 女的被弄到高潮叫床怎么办| 国产黄色视频一区二区在线观看 | 亚洲最大成人av| 亚州av有码| 草草在线视频免费看| 精品午夜福利在线看| 国产精品,欧美在线| 欧美日韩在线观看h| 国产三级中文精品| 国产午夜福利久久久久久| 国产白丝娇喘喷水9色精品| 可以在线观看毛片的网站| 色尼玛亚洲综合影院| 国产精品蜜桃在线观看 | 日本在线视频免费播放| 秋霞在线观看毛片| 国产老妇伦熟女老妇高清| 毛片一级片免费看久久久久| 免费大片18禁| a级毛片免费高清观看在线播放| 搡老妇女老女人老熟妇| 深夜精品福利| 成人国产麻豆网| 久久人人精品亚洲av| 又粗又爽又猛毛片免费看| 色哟哟哟哟哟哟| 成人高潮视频无遮挡免费网站| 在线国产一区二区在线| 免费观看精品视频网站| 国产色爽女视频免费观看| 别揉我奶头 嗯啊视频| 欧美成人精品欧美一级黄| 久久精品国产亚洲网站| 最近的中文字幕免费完整| 久久九九热精品免费| 99国产精品一区二区蜜桃av| 中国国产av一级| 长腿黑丝高跟| 国国产精品蜜臀av免费| 日韩欧美三级三区| 久久久久久大精品| 免费看美女性在线毛片视频| 69人妻影院| 亚洲av一区综合| 久久6这里有精品| 美女cb高潮喷水在线观看| 美女cb高潮喷水在线观看| 乱系列少妇在线播放| 日韩一区二区三区影片| 精品久久久久久成人av| 久久精品国产鲁丝片午夜精品| 色尼玛亚洲综合影院| 观看免费一级毛片| 青春草视频在线免费观看| 免费av观看视频| 国产白丝娇喘喷水9色精品| 日本黄大片高清| 99久久久亚洲精品蜜臀av| 亚洲成人中文字幕在线播放| 国产 一区精品| 亚洲成人精品中文字幕电影| 美女大奶头视频| 五月伊人婷婷丁香| 在线免费观看的www视频| 国产亚洲91精品色在线| a级毛片免费高清观看在线播放| 国产一区亚洲一区在线观看| av免费在线看不卡| 99久久中文字幕三级久久日本| 亚洲精品国产成人久久av| av在线天堂中文字幕| 日本免费a在线| 搡老妇女老女人老熟妇| 毛片一级片免费看久久久久| 在现免费观看毛片| 麻豆乱淫一区二区| 久久精品国产鲁丝片午夜精品| 日本熟妇午夜| 久久精品国产亚洲av涩爱 | 国产一区亚洲一区在线观看| 丰满乱子伦码专区| 国产高清有码在线观看视频| 国产高清有码在线观看视频| 六月丁香七月| 亚洲欧美日韩高清专用| 美女高潮的动态| 91精品国产九色| 国产乱人偷精品视频| 久久精品国产鲁丝片午夜精品| 99久久人妻综合| 99热这里只有是精品50| 不卡视频在线观看欧美| 亚洲第一区二区三区不卡| 只有这里有精品99| 久久精品国产自在天天线| 久久婷婷人人爽人人干人人爱| 一边亲一边摸免费视频| 免费看美女性在线毛片视频| 国产精品久久视频播放| 久久精品国产99精品国产亚洲性色| 91精品国产九色| 亚洲人成网站在线播| 直男gayav资源| 日韩大尺度精品在线看网址| 国产午夜精品论理片| 两个人的视频大全免费| 18禁黄网站禁片免费观看直播| 久久精品国产清高在天天线| 国产精品爽爽va在线观看网站| 一个人观看的视频www高清免费观看| 久久九九热精品免费| 韩国av在线不卡| 久久精品国产亚洲av天美| 97超碰精品成人国产| 美女脱内裤让男人舔精品视频 | av.在线天堂| 国产乱人视频| 亚洲欧美精品专区久久| 久久精品国产自在天天线| 99久久中文字幕三级久久日本| 长腿黑丝高跟| 18禁在线播放成人免费| 久久6这里有精品| 99久国产av精品国产电影| 国产美女午夜福利| 人妻久久中文字幕网| 国产 一区 欧美 日韩| 真实男女啪啪啪动态图| 赤兔流量卡办理| 日韩国内少妇激情av| 三级经典国产精品| 成人亚洲欧美一区二区av| 1000部很黄的大片| 波多野结衣高清无吗| 18禁黄网站禁片免费观看直播| 3wmmmm亚洲av在线观看| 国产一区亚洲一区在线观看| 国产视频首页在线观看| 夜夜爽天天搞| 日本欧美国产在线视频| 99热这里只有是精品在线观看| 国产在视频线在精品| 国产av麻豆久久久久久久| 99视频精品全部免费 在线| 深夜a级毛片| 精品久久久久久久久av| 校园人妻丝袜中文字幕| 日本一二三区视频观看| 干丝袜人妻中文字幕| 精品久久久久久久人妻蜜臀av| 国语自产精品视频在线第100页| 永久网站在线| 成人毛片a级毛片在线播放| av天堂在线播放| 久久精品国产亚洲av香蕉五月| 亚洲精品国产成人久久av| 午夜精品在线福利| 国产精品蜜桃在线观看 | 91精品一卡2卡3卡4卡| 国产精品一区二区三区四区免费观看| 日本黄色视频三级网站网址| 中文欧美无线码| 又粗又硬又长又爽又黄的视频 | 亚洲av免费高清在线观看| 少妇人妻精品综合一区二区 | 午夜视频国产福利| av天堂中文字幕网| 久久99精品国语久久久| 99久久中文字幕三级久久日本| 舔av片在线| 午夜福利视频1000在线观看| 老司机福利观看| 日韩大尺度精品在线看网址| 国产伦理片在线播放av一区 | 最好的美女福利视频网| 久久久久久久久大av| 舔av片在线| 最近手机中文字幕大全| 成人二区视频| 国内精品久久久久精免费| 搞女人的毛片| 不卡一级毛片| 我的女老师完整版在线观看| 久久精品国产亚洲av香蕉五月| 有码 亚洲区| 日韩av在线大香蕉| 亚洲国产色片| 国产精品蜜桃在线观看 | 1000部很黄的大片| 国产成人91sexporn| 欧美日韩乱码在线| 少妇熟女欧美另类| 天堂av国产一区二区熟女人妻| 精品一区二区三区人妻视频| 午夜a级毛片| 少妇的逼好多水| 久久午夜福利片| 老司机福利观看| 国产午夜精品论理片| 一进一出抽搐gif免费好疼| 亚洲美女视频黄频| 一夜夜www| 韩国av在线不卡| 国产成人a区在线观看| 黄色配什么色好看| 国产av在哪里看| 日韩制服骚丝袜av| 最近中文字幕高清免费大全6| 久久久色成人| 国产 一区 欧美 日韩| 波野结衣二区三区在线| 日日撸夜夜添| 美女xxoo啪啪120秒动态图| 一本久久中文字幕| 成熟少妇高潮喷水视频| 成年版毛片免费区| 久久亚洲精品不卡| 麻豆成人午夜福利视频| 日韩视频在线欧美| 在线观看66精品国产| 亚洲国产精品sss在线观看| 国产一区二区亚洲精品在线观看| 免费观看的影片在线观看| 真实男女啪啪啪动态图| 亚洲中文字幕日韩| 久久久久久久久久黄片| 国产片特级美女逼逼视频| 赤兔流量卡办理| 亚洲成人精品中文字幕电影| 免费看美女性在线毛片视频| 桃色一区二区三区在线观看| av专区在线播放| 精品人妻偷拍中文字幕| 成人午夜高清在线视频| 高清毛片免费看| 久久鲁丝午夜福利片| 亚洲欧美精品专区久久| 特级一级黄色大片| 久久精品久久久久久噜噜老黄 | 亚洲国产精品sss在线观看| 中文字幕熟女人妻在线| 人妻少妇偷人精品九色| 国产探花在线观看一区二区| 日本黄色视频三级网站网址| 国产私拍福利视频在线观看| 一本一本综合久久| av在线老鸭窝| 成人特级黄色片久久久久久久| 国产高清激情床上av| 校园人妻丝袜中文字幕| 麻豆乱淫一区二区| 青春草视频在线免费观看| 国产爱豆传媒在线观看| 国产av不卡久久| 久久精品国产亚洲网站| 看黄色毛片网站| 国产精品1区2区在线观看.| 深夜精品福利| 99久国产av精品国产电影| 国产精品乱码一区二三区的特点| 天堂√8在线中文| 99热6这里只有精品| 大又大粗又爽又黄少妇毛片口| 日本-黄色视频高清免费观看| 深夜精品福利| 精品人妻熟女av久视频| 午夜免费男女啪啪视频观看| 97人妻精品一区二区三区麻豆| 毛片一级片免费看久久久久| 欧美另类亚洲清纯唯美| 国产免费男女视频| 欧美精品一区二区大全| 中文字幕熟女人妻在线| 老女人水多毛片| 日本五十路高清| 69人妻影院| 国产亚洲av片在线观看秒播厂 | 国产乱人视频| 久久精品国产清高在天天线| 亚洲最大成人av| 最近2019中文字幕mv第一页| 联通29元200g的流量卡| 天堂中文最新版在线下载 | av在线蜜桃| 一区二区三区四区激情视频 | 国产亚洲精品av在线| 老师上课跳d突然被开到最大视频| 免费观看在线日韩| 国产一区二区三区在线臀色熟女| 久久精品国产鲁丝片午夜精品| 2022亚洲国产成人精品| 高清毛片免费观看视频网站| 一卡2卡三卡四卡精品乱码亚洲| 成人毛片60女人毛片免费| 久久6这里有精品| 成人午夜精彩视频在线观看| 国产成人91sexporn| 校园人妻丝袜中文字幕| 热99re8久久精品国产| 可以在线观看毛片的网站| 日日摸夜夜添夜夜添av毛片| 亚洲精品亚洲一区二区| 国产 一区精品| 美女xxoo啪啪120秒动态图| 一级av片app| 婷婷亚洲欧美| 婷婷六月久久综合丁香| 美女内射精品一级片tv| 国产91av在线免费观看| 婷婷亚洲欧美| 草草在线视频免费看| 午夜免费激情av| 成人美女网站在线观看视频| 国产女主播在线喷水免费视频网站 | 久久久久久伊人网av| 久久九九热精品免费| 国内精品久久久久精免费| 亚洲精品乱码久久久久久按摩| 狂野欧美激情性xxxx在线观看| 夜夜夜夜夜久久久久| 成人高潮视频无遮挡免费网站| 欧美日韩精品成人综合77777| 91久久精品国产一区二区成人| 免费黄网站久久成人精品| 国产白丝娇喘喷水9色精品| 99久久精品热视频| 高清毛片免费观看视频网站| 成人美女网站在线观看视频| 久久热精品热| 一级二级三级毛片免费看| 特大巨黑吊av在线直播| 三级男女做爰猛烈吃奶摸视频| 亚洲18禁久久av| 国产精品嫩草影院av在线观看| 亚洲av中文字字幕乱码综合| 亚洲精品久久久久久婷婷小说 | 12—13女人毛片做爰片一| 国产一区二区激情短视频| 青春草国产在线视频 | 只有这里有精品99| 嫩草影院新地址| 国内久久婷婷六月综合欲色啪| 99视频精品全部免费 在线| 国产亚洲91精品色在线| 久久人人爽人人片av| 一个人看视频在线观看www免费| 亚洲美女视频黄频| 国产亚洲精品久久久com| 看片在线看免费视频| 五月伊人婷婷丁香| 在线观看午夜福利视频| 国内精品久久久久精免费| 2022亚洲国产成人精品| 日韩av在线大香蕉| 99久久成人亚洲精品观看| 国产极品精品免费视频能看的| 国国产精品蜜臀av免费| 女人被狂操c到高潮| .国产精品久久| 乱人视频在线观看| 亚洲久久久久久中文字幕| 亚洲一区二区三区色噜噜| 欧美性感艳星| 亚洲国产精品久久男人天堂| 成人特级黄色片久久久久久久| 亚洲欧洲日产国产| 亚洲精品456在线播放app| 天堂中文最新版在线下载 | 此物有八面人人有两片| 亚洲国产精品成人综合色| 国产精品永久免费网站| 一区二区三区高清视频在线| 噜噜噜噜噜久久久久久91| 中出人妻视频一区二区| 熟女电影av网| 九九热线精品视视频播放| 亚洲欧美精品综合久久99| 成人特级黄色片久久久久久久| 成人特级av手机在线观看| 国产v大片淫在线免费观看| 日本黄大片高清| 嫩草影院精品99| 别揉我奶头 嗯啊视频| 国内少妇人妻偷人精品xxx网站| 日韩成人av中文字幕在线观看| 国产av一区在线观看免费| 22中文网久久字幕| 岛国在线免费视频观看| 国产成人a区在线观看| 村上凉子中文字幕在线| 一本久久精品| 在线国产一区二区在线| 99久国产av精品国产电影| 国产久久久一区二区三区| 国内少妇人妻偷人精品xxx网站| 69人妻影院| 国产欧美日韩精品一区二区| 久久久午夜欧美精品| 美女内射精品一级片tv| 欧美变态另类bdsm刘玥| 国产精品av视频在线免费观看| 在现免费观看毛片| 久久久久国产网址| a级毛片a级免费在线| 日本在线视频免费播放| 亚洲激情五月婷婷啪啪| 久久午夜福利片| 免费av观看视频| 久久精品国产清高在天天线| 人妻系列 视频| 国产精品久久久久久久电影| 激情 狠狠 欧美| 午夜久久久久精精品| 99国产极品粉嫩在线观看| 亚洲高清免费不卡视频| 国产成人午夜福利电影在线观看| 日韩欧美一区二区三区在线观看| 99热全是精品| 午夜福利在线观看免费完整高清在 | 能在线免费看毛片的网站| 一个人看视频在线观看www免费| 有码 亚洲区| 国产亚洲av片在线观看秒播厂 | 超碰av人人做人人爽久久| 老师上课跳d突然被开到最大视频| 日产精品乱码卡一卡2卡三| 久久九九热精品免费| 精品少妇黑人巨大在线播放 | 亚洲18禁久久av| 精品久久久久久成人av| 午夜福利在线在线| 午夜免费激情av| 久久鲁丝午夜福利片| 色综合站精品国产| 国产色婷婷99| 99热网站在线观看| 成年av动漫网址| 黄片无遮挡物在线观看| 1024手机看黄色片| 在线天堂最新版资源| 毛片一级片免费看久久久久| 亚洲无线观看免费| 男女边吃奶边做爰视频| av黄色大香蕉| 国产真实伦视频高清在线观看| 国产精品一区www在线观看| 在线天堂最新版资源| 国产精品久久久久久av不卡| 内射极品少妇av片p| 国产视频首页在线观看| 青春草国产在线视频 | 91麻豆精品激情在线观看国产| 国产v大片淫在线免费观看| 国产极品天堂在线| 国产精品久久久久久精品电影小说 | 波多野结衣高清作品| 日本在线视频免费播放| av国产免费在线观看| 99热6这里只有精品| 两个人的视频大全免费| 插阴视频在线观看视频| 国产精品一区二区三区四区免费观看| 嫩草影院精品99| 99久久精品一区二区三区| 亚洲熟妇中文字幕五十中出| 中文字幕人妻熟人妻熟丝袜美| 最新中文字幕久久久久| 国产精品伦人一区二区| 亚洲精品久久久久久婷婷小说 | 亚洲国产欧美人成| 国产成人精品一,二区 | 特大巨黑吊av在线直播| 最好的美女福利视频网| 能在线免费观看的黄片| 免费观看在线日韩| 国产成人影院久久av| 三级男女做爰猛烈吃奶摸视频| 91在线精品国自产拍蜜月| 亚洲国产日韩欧美精品在线观看| 亚洲精品粉嫩美女一区| 亚洲在线自拍视频| 97超视频在线观看视频| 国产乱人偷精品视频| 一区福利在线观看| 人妻久久中文字幕网| 精品人妻视频免费看| 日本黄色片子视频| 久久精品人妻少妇| 在线免费十八禁| 免费观看在线日韩| 日本一二三区视频观看| 99视频精品全部免费 在线| 国模一区二区三区四区视频| 国产老妇女一区| 一区二区三区免费毛片| 国产精品一区二区在线观看99 | 午夜福利成人在线免费观看| 97人妻精品一区二区三区麻豆| 干丝袜人妻中文字幕| 日本与韩国留学比较| 美女 人体艺术 gogo| ponron亚洲| 国产美女午夜福利| 大型黄色视频在线免费观看| 能在线免费观看的黄片| 天天躁夜夜躁狠狠久久av| 熟女人妻精品中文字幕| 91久久精品电影网| 亚洲成人久久爱视频| 91久久精品电影网| 国产精品久久久久久精品电影小说 | 国产精品一及| 亚洲第一电影网av| www.色视频.com| 国产av一区在线观看免费| 精品一区二区免费观看| 色尼玛亚洲综合影院| 草草在线视频免费看| 别揉我奶头 嗯啊视频| 国产精品av视频在线免费观看| 免费黄网站久久成人精品| 精品国产三级普通话版| 内地一区二区视频在线| 久久这里只有精品中国| 色尼玛亚洲综合影院| 丰满的人妻完整版| 男女那种视频在线观看| 精品午夜福利在线看| 国产成人a区在线观看| 一边亲一边摸免费视频| 一级毛片aaaaaa免费看小| 麻豆国产97在线/欧美| 免费一级毛片在线播放高清视频| 97在线视频观看| 在线国产一区二区在线| 我要看日韩黄色一级片| 国产成人一区二区在线| 国产高清有码在线观看视频| 少妇高潮的动态图| 亚洲五月天丁香| 日本成人三级电影网站| 午夜免费激情av| 精品一区二区三区人妻视频| 亚洲欧美中文字幕日韩二区| 国内精品美女久久久久久| 人妻少妇偷人精品九色| 日本五十路高清| 蜜桃亚洲精品一区二区三区| av国产免费在线观看|