• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    自動(dòng)駕駛汽車的產(chǎn)品責(zé)任探析

    2022-05-30 10:48:04張鵬飛
    汽車與安全 2022年10期
    關(guān)鍵詞:生產(chǎn)者智能網(wǎng)自動(dòng)

    張鵬飛

    摘 要:伴隨著第四次工業(yè)革命的來臨,人工智能作為一項(xiàng)新興技術(shù)逐漸進(jìn)入大眾的視野,自動(dòng)駕駛汽車就是人工智能產(chǎn)品的標(biāo)志性代表之一。隨著高度自動(dòng)駕駛技術(shù)和完全自動(dòng)駕駛技術(shù)的實(shí)現(xiàn),道路交通事故的發(fā)生將不再限制于駕駛?cè)说鸟{駛操作,而更多考慮的是自動(dòng)駕駛汽車本身存在的產(chǎn)品缺陷,而責(zé)任主體的轉(zhuǎn)移必然需要修改或完善現(xiàn)行法律以予以規(guī)制,因此,明晰自動(dòng)駕駛汽車的產(chǎn)品責(zé)任,盡快完善立法,刻不容緩。

    關(guān)鍵字:自動(dòng)駕駛汽車;產(chǎn)品責(zé)任;產(chǎn)品缺陷

    當(dāng)前,伴隨著第四次工業(yè)革命的來臨,人工智能作為一項(xiàng)新興技術(shù)逐漸進(jìn)入大眾的視野和人們的生活,自動(dòng)駕駛汽車作為人們?nèi)粘=煌ǔ鲂械膶?shí)用性人工智能產(chǎn)品之一,具有很好的發(fā)展?jié)摿?。伴隨著其發(fā)展技術(shù)的逐漸成熟,高度自動(dòng)化和完全自動(dòng)化駕駛技術(shù)已成為現(xiàn)實(shí),隨之而來的事故責(zé)任認(rèn)定問題也逐漸凸顯,其責(zé)任認(rèn)定主體由原來的機(jī)動(dòng)車駕駛?cè)艘环睫D(zhuǎn)向了汽車的制造方,產(chǎn)品責(zé)任成為自動(dòng)駕駛汽車致人損害事故的主要責(zé)任路徑之一。[1]本文從產(chǎn)品責(zé)任的角度出發(fā),結(jié)合《產(chǎn)品質(zhì)量法》和《民法典》的有關(guān)規(guī)定,根據(jù)自動(dòng)駕駛汽車的特點(diǎn)和法律性質(zhì),對其產(chǎn)品缺陷及產(chǎn)品責(zé)任的適用問題進(jìn)行分析,旨在為自動(dòng)駕駛技術(shù)領(lǐng)域的發(fā)展提供綿薄之力,亦為保護(hù)自動(dòng)駕駛汽車消費(fèi)者的合法權(quán)益和人工智能領(lǐng)域的立法提供經(jīng)驗(yàn)借鑒。

    1自動(dòng)駕駛汽車的特征及其法律性質(zhì)

    自動(dòng)駕駛汽車具有不同于傳統(tǒng)駕駛汽車的自主性,可以實(shí)現(xiàn)無人駕駛?,F(xiàn)有的《民法典》與《產(chǎn)品質(zhì)量法》尚未對自動(dòng)駕駛汽車的質(zhì)量及責(zé)任進(jìn)行明確的法律規(guī)定,人工智能以及大量軟件和程序在自動(dòng)駕駛汽車上的應(yīng)用賦予了它們不同于傳統(tǒng)汽車的特點(diǎn),由此產(chǎn)生的問題是,人工智能技術(shù)在汽車上的應(yīng)用是否會改變汽車的“產(chǎn)品”屬性和產(chǎn)品缺陷的識別,從而影響其責(zé)任的承擔(dān)。

    1.1自動(dòng)駕駛汽車的特征

    自動(dòng)駕駛汽車是借助人工智能、大數(shù)據(jù)、衛(wèi)星導(dǎo)航系統(tǒng)等軟件系統(tǒng)及傳感器、攝像機(jī)、雷達(dá)系統(tǒng)等硬件系統(tǒng)組合而成的集感知、決策和控制等功能于一體的自主交通工具。根據(jù)我國2022年3月1日實(shí)施的《汽車駕駛自動(dòng)化分級》的國家推薦標(biāo)準(zhǔn)(GB/T 40429―2021),自動(dòng)駕駛汽車主要有5個(gè)分級,依次為0級應(yīng)急輔助、1級部分駕駛輔助、2級組合駕駛輔助、3級有條件自動(dòng)駕駛、4級高度自動(dòng)駕駛、5級完全自動(dòng)駕駛,其中,除0級是由駕駛?cè)诉M(jìn)行動(dòng)態(tài)控制,1級是由駕駛?cè)撕拖到y(tǒng)共同控制外,2級-5級全部是由系統(tǒng)進(jìn)行動(dòng)態(tài)控制??梢哉f,2-5級自動(dòng)駕駛系統(tǒng)將基本替代人類駕駛?cè)说臎Q策機(jī)制,由人工智能系統(tǒng)在其設(shè)計(jì)運(yùn)行條件下持續(xù)作出與車輛控制行動(dòng)有關(guān)的動(dòng)態(tài)駕駛決策[2]。相較于傳統(tǒng)汽車,自動(dòng)駕駛汽車的特點(diǎn)就是其具有較大的自主性,能夠根據(jù)其所搭載的人工智能軟件和大數(shù)據(jù)庫來對駕駛速度、路況、信號燈、交通標(biāo)識、交通規(guī)則等進(jìn)行自主決策,從而替代人類駕駛?cè)诉M(jìn)行獨(dú)立駕駛,與人類的大腦相似,人工智能能夠根據(jù)程序的設(shè)定而進(jìn)行超強(qiáng)的大數(shù)據(jù)計(jì)算,從而實(shí)現(xiàn)車輛駕駛的自主性,最終保證車輛正常運(yùn)行。

    1.2自動(dòng)駕駛汽車的法律性質(zhì)

    對于產(chǎn)品責(zé)任法意義上的 “產(chǎn)品”,通常系經(jīng)過加工、制作用于銷售的各類有形動(dòng)產(chǎn),目前《產(chǎn)品質(zhì)量法》的規(guī)定中原則上不包括無形動(dòng)產(chǎn)。而對于自動(dòng)駕駛汽車這一具有自主性的產(chǎn)品,其又是通過人工智能軟件替代人類駕駛?cè)俗龀鱿鄳?yīng)的駕駛決策,因此,“算法”就決定了自動(dòng)駕駛汽車功能的發(fā)揮和駕駛安全。故而,類似于人工智能軟件程序等無形的智力產(chǎn)品是否構(gòu)成法律意義上的 “產(chǎn)品” 以及其創(chuàng)造者是否承擔(dān)產(chǎn)品責(zé)任,我國《民法典》《產(chǎn)品質(zhì)量法》《消費(fèi)者權(quán)益保護(hù)法》等均未明確規(guī)定。從世界范圍內(nèi)的規(guī)定來看,《關(guān)于產(chǎn)品責(zé)任的法律適用公約》規(guī)定,“在本公約的范圍內(nèi):(1)‘產(chǎn)品一詞應(yīng)包括天然產(chǎn)品和工業(yè)產(chǎn)品,而不論是未加工還是加工過的,是動(dòng)產(chǎn)還是不動(dòng)產(chǎn)。”由此可以進(jìn)行分析:首先,自動(dòng)駕駛汽車屬于工業(yè)產(chǎn)品,其次,其屬于動(dòng)產(chǎn),再次,其搭載的人工智能軟件應(yīng)當(dāng)視為對該工業(yè)產(chǎn)品的“加工”。故而,根據(jù)《關(guān)于產(chǎn)品責(zé)任的法律適用公約》的規(guī)定,自動(dòng)駕駛汽車仍然屬于產(chǎn)品的范疇。

    此外,即便單獨(dú)從軟件的角度來看,自動(dòng)駕駛汽車所裝載的人工智能軟件實(shí)際和我們在市面上所看到的游戲程序的性質(zhì)一樣,游戲程序無法單獨(dú)體現(xiàn)其功能,需要依附于電腦或手機(jī)這樣的實(shí)體載體上,才能發(fā)揮其效用,而自動(dòng)駕駛汽車所搭載的人工智能軟件也是一個(gè)道理,其必須依附于汽車這一載體才能發(fā)揮其效用,由此可見,就單獨(dú)的軟件角度而言,其所搭載的人工智能軟

    件系統(tǒng)應(yīng)當(dāng)被定義為是“商業(yè)軟件”,理所當(dāng)然屬于產(chǎn)品的范疇。

    2產(chǎn)品責(zé)任適用于自動(dòng)駕駛汽車致?lián)p事故的困境

    自動(dòng)駕駛汽車作為一項(xiàng)新興技術(shù),現(xiàn)有的法律制度無法對其進(jìn)行全面的規(guī)制。因其具有高度的復(fù)雜性和自主性,可能使得現(xiàn)行法在產(chǎn)品缺陷的判定標(biāo)準(zhǔn)、責(zé)任主體的范圍、舉證責(zé)任等方面進(jìn)行具體適用時(shí)面臨難題。

    2.1產(chǎn)品缺陷的判定標(biāo)準(zhǔn)不明晰

    在產(chǎn)品缺陷的判定標(biāo)準(zhǔn)上,根據(jù)現(xiàn)行《產(chǎn)品質(zhì)量法》第46條的規(guī)定得出兩個(gè)標(biāo)準(zhǔn),一是不合理的危險(xiǎn)標(biāo)準(zhǔn),關(guān)于該標(biāo)準(zhǔn)《產(chǎn)品質(zhì)量法》46條并未對其進(jìn)行具體定義,通說認(rèn)為主要包括四種不同的類型,分別是制造缺陷、設(shè)計(jì)缺陷與警示說明缺陷。二是國家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn),是指產(chǎn)品缺陷判斷的技術(shù)性標(biāo)準(zhǔn)。此外,在學(xué)理上也有兩個(gè)標(biāo)準(zhǔn),一是“單一標(biāo)準(zhǔn)說”,該學(xué)說認(rèn)為,《產(chǎn)品質(zhì)量法》后半段中的國家標(biāo)準(zhǔn)和行業(yè)標(biāo)準(zhǔn)只是不合理危險(xiǎn)標(biāo)準(zhǔn)的參考,要認(rèn)定產(chǎn)品缺陷唯一標(biāo)準(zhǔn)應(yīng)當(dāng)是前半段的不合理危險(xiǎn)標(biāo)準(zhǔn)。[3]二是“雙重標(biāo)準(zhǔn)說”,而該學(xué)說認(rèn)為技術(shù)型標(biāo)準(zhǔn)和不合理危險(xiǎn)標(biāo)準(zhǔn)應(yīng)當(dāng)兼而有之,一同作為缺陷的認(rèn)定依據(jù)。[4]據(jù)此分析,對于自動(dòng)駕駛汽車而言,如果單純適用 “國家或行業(yè)標(biāo)準(zhǔn)”來判定產(chǎn)品是否存在缺陷容易導(dǎo)致生產(chǎn)者以其產(chǎn)品符合法定標(biāo)準(zhǔn)而免責(zé),致使生產(chǎn)者和消費(fèi)者之間的權(quán)利義務(wù)關(guān)系失衡,不利于消費(fèi)者權(quán)益保護(hù);此外,如果單純的適用“不合理危險(xiǎn)標(biāo)準(zhǔn)”,則其標(biāo)準(zhǔn)又具有抽象性,無法根據(jù)具體的條文來予以規(guī)制,也無法規(guī)范自由裁量權(quán)的行使。因此,需要完善和細(xì)化自動(dòng)化駕駛汽車產(chǎn)品缺陷的不合理的危險(xiǎn)標(biāo)準(zhǔn)并盡快明確自動(dòng)化駕駛汽車的國家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)。

    2.2責(zé)任主體的范圍尚不明確

    我國現(xiàn)行的《民法典》和《產(chǎn)品質(zhì)量法》規(guī)定了生產(chǎn)者承擔(dān)的是嚴(yán)格責(zé)任,銷售者承擔(dān)的是過錯(cuò)責(zé)任,這就確立了生產(chǎn)者和銷售者是產(chǎn)品責(zé)任的主體。隨著人工智能時(shí)代的來臨,上述責(zé)任在適用方面將面臨著新的難題。智能機(jī)器人的廣泛應(yīng)用,涉及到眾多需要亟待明晰的問題,一款自動(dòng)駕駛汽車的形成需要經(jīng)過成品與半成品制造商、零件供應(yīng)商、智能系統(tǒng)的軟件開發(fā)商、互聯(lián)網(wǎng)供應(yīng)商、輔助智能應(yīng)用(如地圖軟件、語音導(dǎo)航軟件)系統(tǒng)的設(shè)計(jì)者以及GB/T 40429―2021中提到的調(diào)度員(dispatcher)。那么在自動(dòng)駕駛的情形下,如何確定最終的產(chǎn)品責(zé)任?與傳統(tǒng)的缺陷相比,人工智能存在新的缺陷,即算法缺陷,而這種缺陷又具有隱蔽性和不可預(yù)測性等特點(diǎn),其發(fā)展和認(rèn)知往往源于設(shè)計(jì)者的局限性,并且由于其具有學(xué)習(xí)能力,有時(shí)其甚至?xí)^設(shè)計(jì)者的認(rèn)知,其最終責(zé)任主體的劃分是一個(gè)難題。

    2.3 責(zé)任的最終歸屬難以厘定

    除了自動(dòng)駕駛汽車責(zé)任主體尚不明確外,在發(fā)生交通事故后,最終侵權(quán)責(zé)任的歸屬也難以厘定。即便自動(dòng)駕駛汽車的汽車感應(yīng)的視野寬廣度與反應(yīng)速度均優(yōu)于人類,按理說不存在人類駕駛?cè)诉^失駕駛行為。[5]但問題是,當(dāng)自動(dòng)駕駛汽車行駛于道路上發(fā)生無法處置的應(yīng)急狀況時(shí),對駕駛?cè)税l(fā)出警示通知,此時(shí)為了避免事故的發(fā)生,駕駛?cè)诵枰诙虝r(shí)間內(nèi)明晰路況并快速做出反應(yīng),此時(shí),如果仍然無法避免事故的發(fā)生,最終的責(zé)任將如何歸屬?此外,在非完全自動(dòng)駕駛(L2-L4)的狀態(tài)下,駕駛?cè)诵枰獣r(shí)刻坐在駕駛座上,并保持相對應(yīng)的注意力以避免事故的發(fā)生,那么如何對駕駛?cè)说淖⒁饬x務(wù)進(jìn)行量化,即當(dāng)事故發(fā)生后如何厘定產(chǎn)品責(zé)任和駕駛?cè)素?zé)任也成為一個(gè)難題。根據(jù)《中華人民共和國道路交通安全法》第76條動(dòng)車發(fā)生交通事故造成人身傷亡、財(cái)產(chǎn)損失的,由保險(xiǎn)公司在機(jī)動(dòng)車第三者責(zé)任強(qiáng)制保險(xiǎn)責(zé)任限額范圍內(nèi)予以賠償; 不足的部分,按照下列規(guī)定承擔(dān)賠償責(zé)任:(一)機(jī)動(dòng)車之間發(fā)生交通事故的,由有過錯(cuò)的一方承擔(dān)賠償責(zé)任;雙方都有過錯(cuò)的,按照各自過錯(cuò)的比例分擔(dān)責(zé)任。(二)機(jī)動(dòng)車與非機(jī)動(dòng)車駕駛?cè)?、行人之間發(fā)生交通事故,非機(jī)動(dòng)車駕駛?cè)?、行人沒有過錯(cuò)的,由機(jī)動(dòng)車一方承擔(dān)賠償責(zé)任;有證據(jù)證明非機(jī)動(dòng)車駕駛?cè)恕⑿腥擞羞^錯(cuò)的,根據(jù)過錯(cuò)程度適當(dāng)減輕機(jī)動(dòng)車一方的賠償責(zé)任;機(jī)動(dòng)車一方?jīng)]有過錯(cuò)的,承擔(dān)不超過百分之十的賠償責(zé)任?!睹穹ǖ洹返谝磺Ф僖皇龡l與《道路交通安全法》的規(guī)定相似,也并為對汽車的產(chǎn)品責(zé)任和駕駛?cè)说呢?zé)任進(jìn)行細(xì)分,只是規(guī)定是機(jī)動(dòng)車一方的責(zé)任由交強(qiáng)險(xiǎn)和商業(yè)險(xiǎn)先行賠付。由此可見,現(xiàn)行《民法典》和《道路交通安全法》主要是站在以傳統(tǒng)汽車和駕駛?cè)说慕嵌热ダ宥ㄘ?zé)任,該規(guī)定不能適用于L2以上級別的自動(dòng)駕駛汽車。對于自動(dòng)駕駛汽車的責(zé)任歸屬,我國還需要出臺具體法律予以完善。

    2.4消費(fèi)者舉證困難

    自動(dòng)駕駛汽車與傳統(tǒng)的汽車不同,其產(chǎn)生事故的原因往往具有非常強(qiáng)的技術(shù)性和隱蔽性,有時(shí)甚至僅僅是一個(gè)小小文件或軟件程序間協(xié)調(diào)調(diào)動(dòng)之間的錯(cuò)誤,需要對類似波音737-MAX飛機(jī)一樣的“算法黑箱”進(jìn)行解析,消費(fèi)者由于缺乏專業(yè)性,很難解析其中的內(nèi)容,其在取證時(shí)耗費(fèi)的時(shí)間不僅巨大,甚至可能需要專門聘請行業(yè)專家進(jìn)行檢驗(yàn)檢測,時(shí)間成本和經(jīng)濟(jì)成本較高,且不確定性較大,大大增加了消費(fèi)者的舉證壓力和舉證難度,不利于維權(quán)工作的開展。

    3解決自動(dòng)駕駛汽車產(chǎn)品責(zé)任適用的對策

    自動(dòng)駕駛汽車勢必成為時(shí)代的潮流,解決其在生產(chǎn)和使用過程中所遇到的法律難題顯得尤為重要,尤其是自動(dòng)駕駛汽車內(nèi)部所搭載的人工智能系統(tǒng),幾乎決定了汽車全部行駛功能,而人工智能系統(tǒng)的穩(wěn)定性直接與生產(chǎn)商存在密切的聯(lián)系。因此,如前文所述,有必要明晰自動(dòng)駕駛汽車的產(chǎn)品缺陷判斷標(biāo)準(zhǔn),確定產(chǎn)品責(zé)任的主體范圍以及消費(fèi)者和生產(chǎn)者的舉證責(zé)任。

    3.1明確和細(xì)化產(chǎn)品缺陷的判定標(biāo)準(zhǔn)

    自動(dòng)駕駛技術(shù)的出現(xiàn),使得責(zé)任之間發(fā)生了轉(zhuǎn)化,由原來的駕駛?cè)素?zé)任轉(zhuǎn)化為自動(dòng)駕駛汽車生產(chǎn)商的責(zé)任。因此,關(guān)于生產(chǎn)商應(yīng)當(dāng)承擔(dān)的責(zé)任成為學(xué)界的熱議話題。如前所述,筆者認(rèn)為,“單一標(biāo)準(zhǔn)說”太過于片面,若單純的采用“不合理的危險(xiǎn)”作為標(biāo)準(zhǔn),那么不合理危險(xiǎn)的標(biāo)準(zhǔn)太過于抽象,不利于消費(fèi)者維權(quán)?!半p重標(biāo)準(zhǔn)說”的認(rèn)定更為合理,即雙重標(biāo)準(zhǔn)說”認(rèn)為,不合理的危險(xiǎn)標(biāo)準(zhǔn)與強(qiáng)制性標(biāo)準(zhǔn),同時(shí)作為產(chǎn)品缺陷的認(rèn)定依據(jù)。在當(dāng)前的技術(shù)條件下,自動(dòng)駕駛汽車的感知、識別和決策系統(tǒng)等均存在不同程度的技術(shù)不成熟情況,從而影響到了駕駛安全,但這種情況應(yīng)當(dāng)結(jié)合國家和行業(yè)出臺的相應(yīng)標(biāo)準(zhǔn)進(jìn)行考量,本文對于國家標(biāo)準(zhǔn)和行業(yè)標(biāo)準(zhǔn)暫不予論述,僅結(jié)合前文提到的不合理危險(xiǎn)的產(chǎn)品缺陷的判定標(biāo)準(zhǔn)予以細(xì)化。產(chǎn)品責(zé)任缺陷主要包括三種不同的類型,即制造缺陷、設(shè)計(jì)缺陷、警示說明缺陷,以下結(jié)合自動(dòng)駕駛汽車予以具體論述。

    3.1.1制造缺陷

    制造缺陷主要是指產(chǎn)品在生產(chǎn)制造過程中偏離其預(yù)期設(shè)計(jì),即便是生產(chǎn)商在制造和推廣產(chǎn)品時(shí)已盡到了全部注意義務(wù)。對于制造缺陷,美國采取的是“消費(fèi)者期待標(biāo)準(zhǔn)”,即如果產(chǎn)品不符合普通的消費(fèi)者的期待標(biāo)準(zhǔn),則為缺陷產(chǎn)品,都應(yīng)承擔(dān)嚴(yán)格責(zé)任。典型的制造缺陷如物理缺陷、產(chǎn)品損壞或安裝錯(cuò)誤。在這方面,一些學(xué)者認(rèn)為“制造缺陷不太可能適用于自動(dòng)駕駛車輛”[6],本文對此觀點(diǎn)持否定態(tài)度。事實(shí)上,無論自動(dòng)駕駛技術(shù)多么先進(jìn)和復(fù)雜,其無非是由硬件和軟件兩部分組成,離不開“既定設(shè)計(jì)原則”和“故障原則”的認(rèn)定,只要自動(dòng)駕駛汽車的產(chǎn)品性能偏離它或者產(chǎn)生故障,其仍然存在制造缺陷的可能性,可就此對其生產(chǎn)廠商提起制造缺陷之訴。

    3.1.2設(shè)計(jì)缺陷

    設(shè)計(jì)缺陷主要是指生產(chǎn)者或銷售者對產(chǎn)品最初進(jìn)行設(shè)計(jì)時(shí)應(yīng)當(dāng)對設(shè)計(jì)缺陷進(jìn)行預(yù)見并避免,但因?yàn)槭韬龌蛘呤д`而沒有發(fā)現(xiàn),致使產(chǎn)品具有潛在不合理的危險(xiǎn),最終導(dǎo)致?lián)p害結(jié)果的發(fā)生。與制造缺陷僅僅關(guān)注產(chǎn)品自身性能相比,設(shè)計(jì)缺陷的判斷需要綜合多種因素對產(chǎn)品設(shè)計(jì)進(jìn)行復(fù)雜的 “消費(fèi)者期望標(biāo)準(zhǔn)”或 “風(fēng)險(xiǎn)—效用標(biāo)準(zhǔn)”分析,主要包含自動(dòng)駕駛汽車行業(yè)內(nèi)其他同類產(chǎn)品的情況、產(chǎn)品生產(chǎn)時(shí)的最新科技水平、消費(fèi)者可以預(yù)期的安全程度、社會效益和成本、替代設(shè)計(jì)的技術(shù)可得性及其成本等。[7]只有在綜合考慮這些因素的基礎(chǔ)上,才能夠?qū)ψ詣?dòng)駕駛技術(shù)的風(fēng)險(xiǎn)和效用做出相對全面客觀的評估,進(jìn)而判斷其是否具有缺陷。但是,就產(chǎn)品的自身性能角度而言,自動(dòng)駕駛汽車設(shè)計(jì)的初衷是通過數(shù)據(jù)分析和共享,從而使車輛做出最佳的駕駛決策,減少交通事故和人身傷亡,而自動(dòng)駕駛軟件的設(shè)計(jì)缺陷或“算法黑箱”使自動(dòng)駕駛汽車本質(zhì)上具有不安全性,相比于人類駕駛?cè)藢﹀e(cuò)誤的自我修正,自動(dòng)駕駛軟件因設(shè)計(jì)錯(cuò)誤所造成的損失是不可避免的。因此,對其軟件設(shè)計(jì)中的明顯漏洞,就“消費(fèi)者期望標(biāo)準(zhǔn)”而言,應(yīng)當(dāng)直接認(rèn)定為設(shè)計(jì)缺陷。

    3.1.3警示缺陷

    警示缺陷也被稱為是指示缺陷或經(jīng)營缺陷,主要是指產(chǎn)品在危險(xiǎn)方面的說明警告不充分或不適當(dāng)致使產(chǎn)品產(chǎn)生不合理的危險(xiǎn)。教育或者警示主要指向生產(chǎn)者的行為,而非產(chǎn)品本身,因此對警示缺陷的認(rèn)定應(yīng)當(dāng)根據(jù)一般人的理性標(biāo)準(zhǔn),判斷警示是否足夠具體和明確,從而使產(chǎn)品的普通消費(fèi)者知曉相關(guān)危險(xiǎn)。因此,產(chǎn)品警示的是否充分是生產(chǎn)者是否承擔(dān)損害賠償責(zé)任的分水嶺。就自動(dòng)駕駛汽車而言,其警示的重點(diǎn)應(yīng)當(dāng)放在自動(dòng)駕駛系統(tǒng)軟件或算法上,生產(chǎn)者應(yīng)當(dāng)對人工智能做出駕駛決策的原理和方式、其潛在的駕駛風(fēng)險(xiǎn)做出明顯地警示并提供相應(yīng)的指引。生產(chǎn)者應(yīng)當(dāng)對自動(dòng)駕駛系統(tǒng)予以說明,尤其是 “算法黑箱”進(jìn)行警示和說明,從而使消費(fèi)者不會對人工智能產(chǎn)生盲目的自信。這就能使得駕駛?cè)四軌驎r(shí)刻保持警惕,從而不放棄對車輛的控制。因此,在自動(dòng)駕駛模式下,若系統(tǒng)未向用戶發(fā)出警示和接管請求而發(fā)生事故,便可排除用戶過失,直接推定產(chǎn)品存在缺陷而成立產(chǎn)品責(zé)任。[8]

    3.2擴(kuò)大產(chǎn)品責(zé)任的主體范圍

    自動(dòng)駕駛汽車的生產(chǎn)制造可能涉及車體結(jié)構(gòu)制造和軟件算法編程等多方參與,情況較為復(fù)雜,應(yīng)當(dāng)對生產(chǎn)者和銷售者產(chǎn)品責(zé)任的主體范圍應(yīng)當(dāng)進(jìn)行適當(dāng)?shù)恼{(diào)整。適當(dāng)擴(kuò)大生產(chǎn)者的認(rèn)定范圍,即應(yīng)當(dāng)對生產(chǎn)者進(jìn)行廣義理解,主要包括所有直接或間接參與汽車硬件生產(chǎn)的制造商及零部件供應(yīng)商及汽車人工智能駕駛軟件的設(shè)計(jì)者和軟件后臺的監(jiān)管者、網(wǎng)絡(luò)運(yùn)營商、電子地圖的提供商及其他參與汽車軟件設(shè)計(jì)運(yùn)營的技術(shù)人員。上述生產(chǎn)者應(yīng)當(dāng)承擔(dān)不真正的連帶責(zé)任,在向受害人承擔(dān)賠償責(zé)任后,可以向最終的責(zé)任人進(jìn)行追償。

    3.3進(jìn)一步完善相關(guān)責(zé)任的最終歸屬

    除進(jìn)一步擴(kuò)大產(chǎn)品責(zé)任的主體范圍外,還要進(jìn)一步對侵權(quán)責(zé)任的最終歸屬進(jìn)行完善,發(fā)揮法律填補(bǔ)損害之機(jī)能,讓車輛交通事故的受害者能夠獲得相應(yīng)的補(bǔ)償。在以5G、人工智能等新技術(shù)引領(lǐng)的第四次工業(yè)革命中,要發(fā)揮法律的規(guī)范作用,盡快對《道路交通安全法》《產(chǎn)品質(zhì)量法》等相關(guān)法律進(jìn)行完善,按照《國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》 (國發(fā)〔2017〕35號),“在互聯(lián)網(wǎng)健全公開透明的人工智能監(jiān)管體系,實(shí)行設(shè)計(jì)問責(zé)和應(yīng)用監(jiān)督并重的雙層監(jiān)管結(jié)構(gòu),實(shí)現(xiàn)對人工智能算法設(shè)計(jì)、產(chǎn)品開發(fā)和成果應(yīng)用等的全流程監(jiān)管?!辈⑶乙l(fā)揮好交強(qiáng)險(xiǎn)、產(chǎn)品責(zé)任險(xiǎn)等保險(xiǎn)的雙層聯(lián)動(dòng)和配合機(jī)制,合理的制定損害分散制度,讓受害人之權(quán)益能夠首先得到保障,即便在最終責(zé)任無法確定歸屬的情況下,也可以沿用《民法典》第一千一百七十二條之規(guī)定,平均承擔(dān)責(zé)任。

    3.4由生產(chǎn)者承擔(dān)主要舉證責(zé)任

    由于自動(dòng)駕駛汽車作為新興的高科技產(chǎn)品,其內(nèi)部構(gòu)造、制作的工藝流程、軟件的復(fù)雜程度以及軟件運(yùn)行的“算法黑箱”均難以被消費(fèi)者所知曉,現(xiàn)有的舉證責(zé)任的分配是由受害人舉證包括受到的傷害、產(chǎn)品缺陷存在、使用了缺陷產(chǎn)品、傷害是使用缺陷產(chǎn)品造成的、產(chǎn)品的生產(chǎn)者或者銷售者等,對于自動(dòng)駕駛汽車而言,要讓受害人舉證證明產(chǎn)品的缺陷存在以及傷害是由缺陷產(chǎn)品造成的,明顯過于苛刻,可能會嚴(yán)重增加消費(fèi)者的維權(quán)成本,受害人的損失可能因舉證困難而難以獲得有效救濟(jì),造成損失。因此,為合理的分配自動(dòng)駕駛汽車產(chǎn)品缺陷致人損害案件中因果關(guān)系證明的舉證責(zé)任,可以采取因果關(guān)系倒置舉證責(zé)任,由生產(chǎn)者承擔(dān)自動(dòng)駕駛汽車的缺陷與損害之間不存在因果關(guān)系的舉證責(zé)任,即由生產(chǎn)者對自動(dòng)駕駛汽車的行動(dòng)軌跡和操作情況予以解析,證明自動(dòng)駕駛的情況下是否存在人為干預(yù)的情況。這樣做一方面可以督促生產(chǎn)者加大對產(chǎn)品質(zhì)量的審核,另一方面也充分保證的消費(fèi)者的利益。

    4結(jié)論

    如今,人工智能逐漸走入人們的生活,給人們的生活和工作帶來的諸多便利,一批批新興行業(yè)正在冉冉升起,在弱人工智能時(shí)代,智能機(jī)器人可以代替人們做一些基礎(chǔ)性、操作性的工作,而強(qiáng)人工智能時(shí)代,智能機(jī)器人能夠具有自我思考能力和自主學(xué)習(xí)意識,能夠進(jìn)行獨(dú)立思考,以幫助人類解決一些復(fù)雜的問題。然而,“事物均有兩面性”,我們應(yīng)當(dāng)肯定人工智能給我們帶來的便利,同時(shí)也應(yīng)當(dāng)明確其在對人類產(chǎn)生損害時(shí)所承擔(dān)責(zé)任的主體,尤其是現(xiàn)在主流通說是人工智能不能成為責(zé)任承擔(dān)的主體,那么就應(yīng)當(dāng)由其生產(chǎn)者,即其成品制造者、軟件制造商等來承擔(dān)責(zé)任。就自動(dòng)駕駛汽車而言,其未來的發(fā)展趨勢已經(jīng)逐漸能夠取代人類駕駛?cè)说牟僮餍袨椋湮磥碓诮煌ㄊ鹿手兴a(chǎn)生的損害后果將不僅僅是簡單的侵權(quán)責(zé)任糾紛,而應(yīng)當(dāng)考慮自動(dòng)駕駛汽車本身的產(chǎn)品質(zhì)量問題,責(zé)任的主體的轉(zhuǎn)移必然需要修改或完善現(xiàn)行法律,現(xiàn)行《產(chǎn)品質(zhì)量法》規(guī)定較為模糊,在實(shí)踐中對“不合理危險(xiǎn)標(biāo)準(zhǔn)”難以把握,缺陷認(rèn)定標(biāo)準(zhǔn)尚未明確規(guī)定,無法有效適用于自動(dòng)駕駛汽車的產(chǎn)品責(zé)任問題,需要對其進(jìn)行完善以保護(hù)消費(fèi)者的合法權(quán)益。

    參考文獻(xiàn)

    [1] 吳漢東.人工智能時(shí)代的制度安排與法律規(guī)制[J].法律科學(xué),2017(5): 128-136.

    [2] Surden H,Williams M A . Technological Opacity,Predictability,and Self-Driving Cars[J]. Social Science Electronic Publishing.

    [3] 王利明,周友軍,高圣平.侵權(quán)責(zé)任法疑難問題研究[M].北京:中國法制出版社,2012:371.

    [4] 徐海濤.汽車產(chǎn)品責(zé)任糾紛案件的審判實(shí)踐與學(xué)理評析[J].法律適用,2017(23):66-74.

    [5] 陳磊.自動(dòng)駕駛汽車交通事故侵權(quán)責(zé)任問題研究[J].中國科技論壇,2019 (12):146-155. DOI:10.13580/j.cnki.fstc.2019.12.018.

    [6] 付新華.自動(dòng)駕駛汽車事故:責(zé)任歸屬、法律適用與“雙層保險(xiǎn)框架”的構(gòu)建[J].華東政法大學(xué)學(xué)報(bào),2018,21(4):65-77.

    [7] 王樂兵.自動(dòng)駕駛汽車的缺陷及其產(chǎn)品責(zé)任[J].清華法學(xué),2020,14(02):93-112.

    [8] 張力,李倩.高度自動(dòng)駕駛汽車交通侵權(quán)責(zé)任構(gòu)造分析[J].浙江社會科學(xué),2018(8):35-43.

    《深圳經(jīng)濟(jì)特區(qū)智能網(wǎng)聯(lián)汽車管理?xiàng)l例》發(fā)布

    2022年7月,《深圳經(jīng)濟(jì)特區(qū)智能網(wǎng)聯(lián)汽車管理?xiàng)l例》(以下簡稱《條例》)獲深圳市七屆人大常委會第十次會議表決通過。自2022年8月1日起施行?!稐l例》全面貫徹中央戰(zhàn)略部署,在與國家法律、法規(guī)、規(guī)章相銜接的基礎(chǔ)上,在國內(nèi)首次對智能網(wǎng)聯(lián)汽車的準(zhǔn)入登記、上路行駛等事項(xiàng)作出具體規(guī)定,是國內(nèi)首部關(guān)于智能網(wǎng)聯(lián)汽車管理的法規(guī)。

    《條例》的出臺填補(bǔ)了國內(nèi)智能網(wǎng)聯(lián)汽車法律的空白,有望為國家層面及其他城市推出相關(guān)政策提供參考,從而進(jìn)一步推動(dòng)L3+自動(dòng)駕駛的落地。法律和政策的支持是自動(dòng)駕駛商業(yè)化運(yùn)營的前提。

    在使用管理方面,《條例》對L3、L4、L5級別的自動(dòng)駕駛分別定義為有條件自動(dòng)駕駛、高度自動(dòng)駕駛、完全自動(dòng)駕駛?cè)齻€(gè)技術(shù)等級,對不同等級的車輛都做了明確要求。有條件自動(dòng)駕駛和高度自動(dòng)駕駛的智能網(wǎng)聯(lián)汽車,應(yīng)當(dāng)具有人工駕駛模式和相應(yīng)裝置,并配備駕駛?cè)?。完全自?dòng)駕駛的智能網(wǎng)聯(lián)汽車可以不具有人工駕駛模式和相應(yīng)裝置,可以不配備駕駛?cè)?。但是,無駕駛?cè)说耐耆詣?dòng)駕駛智能網(wǎng)聯(lián)汽車只能在市公安機(jī)關(guān)交通管理部門劃定的區(qū)域、路段行駛。同時(shí)還明確了駕駛?cè)说牧x務(wù)和企業(yè)的服務(wù)要求,自動(dòng)駕駛系統(tǒng)提出動(dòng)態(tài)駕駛?cè)蝿?wù)接管請求時(shí),相關(guān)駕駛?cè)嗽趹?yīng)當(dāng)響應(yīng)接管請求并立即接管車輛;智能網(wǎng)聯(lián)汽車生產(chǎn)者應(yīng)當(dāng)為車輛配置自動(dòng)駕駛模式外部指示燈,智能網(wǎng)聯(lián)汽車產(chǎn)品生產(chǎn)者、銷售者應(yīng)當(dāng)建立健全產(chǎn)品售后服務(wù)機(jī)制,保障人身財(cái)產(chǎn)安全。

    在權(quán)責(zé)認(rèn)定方面,《條例》規(guī)定,有駕駛?cè)说闹悄芫W(wǎng)聯(lián)汽車發(fā)生交通違法或者有責(zé)任的事故,由駕駛?cè)顺袚?dān)違法和賠償責(zé)任;完全自動(dòng)駕駛的智能網(wǎng)聯(lián)汽車,在無駕駛?cè)似陂g發(fā)生交通違法或者有責(zé)任的事故,原則上由車輛所有人、管理人承擔(dān)違法和賠償責(zé)任,但對違法行為人的處罰不適用駕駛?cè)擞浄值挠嘘P(guān)規(guī)定。智能網(wǎng)聯(lián)汽車監(jiān)測的車輛狀態(tài)和周邊環(huán)境可以作為事故責(zé)任認(rèn)定的重要依據(jù)。交通事故中,因智能網(wǎng)聯(lián)汽車存在缺陷造成損害的,車輛駕駛?cè)嘶蛘咚腥恕⒐芾砣艘勒丈鲜鲆?guī)定賠償后,可以依法向生產(chǎn)者、銷售者請求賠償。

    猜你喜歡
    生產(chǎn)者智能網(wǎng)自動(dòng)
    1月巴西生產(chǎn)者價(jià)格指數(shù)上漲3.92%
    自動(dòng)捕盜機(jī)
    5G賦能智能網(wǎng)聯(lián)汽車
    2019德國IF設(shè)計(jì)大獎(jiǎng)
    智能網(wǎng)聯(lián)硬實(shí)力趨強(qiáng)
    汽車觀察(2018年12期)2018-12-26 01:05:26
    迎戰(zhàn)智能網(wǎng)聯(lián)大爆發(fā)
    汽車觀察(2018年10期)2018-11-06 07:05:20
    基于STM32的自動(dòng)喂養(yǎng)機(jī)控制系統(tǒng)
    電子測試(2018年10期)2018-06-26 05:53:36
    家禽福利的未來:生產(chǎn)者能期待什么?
    關(guān)于自動(dòng)駕駛
    汽車博覽(2016年9期)2016-10-18 13:05:41
    一場大風(fēng)帶給生產(chǎn)者的思考
    亚洲精品日韩在线中文字幕| 国产老妇女一区| 你懂的网址亚洲精品在线观看| 亚洲激情五月婷婷啪啪| 各种免费的搞黄视频| 偷拍熟女少妇极品色| 久久韩国三级中文字幕| 晚上一个人看的免费电影| 亚洲av成人精品一区久久| 亚洲,欧美,日韩| 三级男女做爰猛烈吃奶摸视频| freevideosex欧美| 国国产精品蜜臀av免费| 18禁在线播放成人免费| 男人和女人高潮做爰伦理| 国产精品人妻久久久影院| 国国产精品蜜臀av免费| 国产在视频线精品| 国产乱人偷精品视频| 特级一级黄色大片| 欧美亚洲 丝袜 人妻 在线| 亚洲国产欧美在线一区| 久久久久九九精品影院| 亚洲国产精品国产精品| 国产精品99久久久久久久久| 夜夜看夜夜爽夜夜摸| 26uuu在线亚洲综合色| 男女国产视频网站| 国产免费一区二区三区四区乱码| 18禁动态无遮挡网站| 久久这里有精品视频免费| 成人亚洲欧美一区二区av| 深夜a级毛片| 有码 亚洲区| 欧美日韩国产mv在线观看视频 | 三级国产精品片| 成人综合一区亚洲| 国产精品一区二区在线观看99| 2021天堂中文幕一二区在线观| 国产男人的电影天堂91| 性插视频无遮挡在线免费观看| 国产中年淑女户外野战色| 中文在线观看免费www的网站| 日韩成人伦理影院| 国产亚洲5aaaaa淫片| 麻豆国产97在线/欧美| 免费观看的影片在线观看| 蜜桃久久精品国产亚洲av| 国产毛片在线视频| 亚洲激情五月婷婷啪啪| 777米奇影视久久| av卡一久久| 国产亚洲一区二区精品| 亚洲,欧美,日韩| 亚洲精品自拍成人| 国产av不卡久久| 性色avwww在线观看| 国产精品久久久久久久久免| 欧美日本视频| 亚洲第一区二区三区不卡| 日韩制服骚丝袜av| 大片免费播放器 马上看| 成人二区视频| 久久久欧美国产精品| 国产女主播在线喷水免费视频网站| 九九久久精品国产亚洲av麻豆| 国产黄片视频在线免费观看| 麻豆乱淫一区二区| 国产精品不卡视频一区二区| 日韩人妻高清精品专区| 精品午夜福利在线看| 久久午夜福利片| 成人亚洲精品av一区二区| 欧美日本视频| freevideosex欧美| 欧美少妇被猛烈插入视频| 好男人在线观看高清免费视频| 男女那种视频在线观看| 国产爱豆传媒在线观看| 成人特级av手机在线观看| 美女cb高潮喷水在线观看| 99热这里只有精品一区| 国产成人freesex在线| 男女边摸边吃奶| 国产黄a三级三级三级人| 老司机影院成人| 男女那种视频在线观看| 永久网站在线| 中国三级夫妇交换| 国产亚洲av嫩草精品影院| 成人亚洲精品av一区二区| 亚洲无线观看免费| 亚洲一区二区三区欧美精品 | 日韩,欧美,国产一区二区三区| av在线观看视频网站免费| 国产精品三级大全| 少妇人妻精品综合一区二区| 精品视频人人做人人爽| av在线蜜桃| 国产成人精品婷婷| 久久精品夜色国产| 秋霞伦理黄片| 寂寞人妻少妇视频99o| 亚洲国产av新网站| 色播亚洲综合网| 蜜桃亚洲精品一区二区三区| 亚洲,欧美,日韩| 五月伊人婷婷丁香| 免费观看无遮挡的男女| 久久精品国产a三级三级三级| 九草在线视频观看| 免费不卡的大黄色大毛片视频在线观看| 91久久精品国产一区二区成人| 国产精品蜜桃在线观看| 欧美最新免费一区二区三区| 日韩制服骚丝袜av| 久久6这里有精品| 久久久久国产精品人妻一区二区| 美女高潮的动态| 欧美+日韩+精品| 免费高清在线观看视频在线观看| 在线观看美女被高潮喷水网站| 性色av一级| 国产成人一区二区在线| 国产黄频视频在线观看| 噜噜噜噜噜久久久久久91| 最近的中文字幕免费完整| 联通29元200g的流量卡| 久久热精品热| 欧美一区二区亚洲| 中文字幕制服av| 黄色一级大片看看| 日日撸夜夜添| 大香蕉97超碰在线| av专区在线播放| 身体一侧抽搐| 亚洲欧洲日产国产| 国产中年淑女户外野战色| 18+在线观看网站| 男人舔奶头视频| 丰满乱子伦码专区| 99久久九九国产精品国产免费| 久久热精品热| av在线天堂中文字幕| 韩国高清视频一区二区三区| 国产黄片美女视频| 日韩三级伦理在线观看| 亚洲欧美清纯卡通| 大又大粗又爽又黄少妇毛片口| 1000部很黄的大片| av一本久久久久| 最近2019中文字幕mv第一页| 人妻一区二区av| 国产 一区精品| 亚洲精品久久午夜乱码| 午夜精品国产一区二区电影 | 狂野欧美激情性xxxx在线观看| 亚洲成人久久爱视频| 日韩一区二区视频免费看| 日韩av不卡免费在线播放| 国产一区二区亚洲精品在线观看| 麻豆精品久久久久久蜜桃| 伊人久久精品亚洲午夜| 日韩三级伦理在线观看| 狂野欧美白嫩少妇大欣赏| 日韩在线高清观看一区二区三区| 欧美日韩在线观看h| 少妇裸体淫交视频免费看高清| 久热久热在线精品观看| 久久久久国产网址| 国产欧美另类精品又又久久亚洲欧美| 久久精品夜色国产| 国产一区二区三区综合在线观看 | 精品久久久久久久末码| 久久精品熟女亚洲av麻豆精品| 亚洲精品乱码久久久久久按摩| 狂野欧美激情性xxxx在线观看| 国产69精品久久久久777片| www.av在线官网国产| 一区二区av电影网| 国产人妻一区二区三区在| 看黄色毛片网站| 亚洲精品乱码久久久久久按摩| av一本久久久久| 国产亚洲一区二区精品| 国产熟女欧美一区二区| 91久久精品国产一区二区三区| 啦啦啦啦在线视频资源| 一个人看视频在线观看www免费| eeuss影院久久| 午夜福利视频精品| 国产淫语在线视频| 精品人妻视频免费看| 亚洲aⅴ乱码一区二区在线播放| 亚洲不卡免费看| 美女脱内裤让男人舔精品视频| 精品午夜福利在线看| 男人爽女人下面视频在线观看| 欧美变态另类bdsm刘玥| 97人妻精品一区二区三区麻豆| 亚洲aⅴ乱码一区二区在线播放| 精品人妻一区二区三区麻豆| 纵有疾风起免费观看全集完整版| 视频中文字幕在线观看| 99热这里只有是精品50| 国产午夜精品久久久久久一区二区三区| 午夜亚洲福利在线播放| 亚洲精品乱码久久久v下载方式| 色网站视频免费| 亚洲精品乱久久久久久| 99热这里只有是精品在线观看| 人妻制服诱惑在线中文字幕| 一级片'在线观看视频| 一级黄片播放器| 国产毛片a区久久久久| 色吧在线观看| 人妻少妇偷人精品九色| 色综合色国产| 91久久精品国产一区二区三区| 亚洲国产成人一精品久久久| av网站免费在线观看视频| 久久久久久久精品精品| 成年女人在线观看亚洲视频 | 亚洲人成网站在线播| 亚洲欧美一区二区三区黑人 | 国产男女内射视频| 九九爱精品视频在线观看| 欧美精品一区二区大全| 一二三四中文在线观看免费高清| 99热这里只有是精品50| 美女主播在线视频| 人妻少妇偷人精品九色| 国产毛片a区久久久久| 亚洲自偷自拍三级| 亚洲av不卡在线观看| 99精国产麻豆久久婷婷| 搡老乐熟女国产| 国产v大片淫在线免费观看| 国产男女超爽视频在线观看| 亚洲欧洲日产国产| 极品少妇高潮喷水抽搐| 自拍偷自拍亚洲精品老妇| 国产av国产精品国产| 国产久久久一区二区三区| 日韩人妻高清精品专区| 一个人观看的视频www高清免费观看| 在线观看一区二区三区激情| 欧美bdsm另类| 国产老妇伦熟女老妇高清| 一个人看视频在线观看www免费| 3wmmmm亚洲av在线观看| 久久午夜福利片| 丝袜喷水一区| 1000部很黄的大片| 久久久久久国产a免费观看| 建设人人有责人人尽责人人享有的 | 久久精品久久精品一区二区三区| 成人美女网站在线观看视频| 哪个播放器可以免费观看大片| 大香蕉97超碰在线| 久久女婷五月综合色啪小说 | 国产大屁股一区二区在线视频| 日韩av不卡免费在线播放| 丝袜美腿在线中文| 久久久精品免费免费高清| 草草在线视频免费看| 国产黄色视频一区二区在线观看| 国产精品一区二区三区四区免费观看| 男女国产视频网站| 国产免费又黄又爽又色| 99久久精品热视频| 国产精品久久久久久精品古装| 寂寞人妻少妇视频99o| 国产av国产精品国产| 中文字幕久久专区| 亚洲欧美成人综合另类久久久| 狂野欧美白嫩少妇大欣赏| 国产精品.久久久| 国产黄a三级三级三级人| 亚洲美女搞黄在线观看| 97人妻精品一区二区三区麻豆| 国产伦精品一区二区三区四那| 精品人妻视频免费看| 好男人在线观看高清免费视频| 亚洲欧美日韩东京热| 亚洲av福利一区| 欧美xxxx性猛交bbbb| 看免费成人av毛片| 嫩草影院精品99| 亚洲图色成人| 久久久午夜欧美精品| 亚洲精品影视一区二区三区av| kizo精华| 色哟哟·www| 精品亚洲乱码少妇综合久久| 少妇人妻一区二区三区视频| 禁无遮挡网站| 亚洲色图av天堂| 国产黄a三级三级三级人| 99久久人妻综合| 免费看a级黄色片| 春色校园在线视频观看| 亚洲色图av天堂| 男女国产视频网站| 成人一区二区视频在线观看| 久久99蜜桃精品久久| 成人无遮挡网站| 91精品一卡2卡3卡4卡| 日韩三级伦理在线观看| 又爽又黄a免费视频| 国产精品福利在线免费观看| 在线免费观看不下载黄p国产| 免费观看在线日韩| 亚洲国产最新在线播放| 黄色配什么色好看| 亚洲最大成人av| 日本三级黄在线观看| 亚洲欧美一区二区三区黑人 | 成人特级av手机在线观看| 免费黄频网站在线观看国产| 黄片wwwwww| 免费黄色在线免费观看| 免费观看在线日韩| 大香蕉97超碰在线| 最近中文字幕2019免费版| 日韩成人av中文字幕在线观看| 青春草视频在线免费观看| 日韩制服骚丝袜av| 成年av动漫网址| 国产精品福利在线免费观看| 少妇 在线观看| 亚洲电影在线观看av| av国产精品久久久久影院| 午夜视频国产福利| 久久久国产一区二区| 久久精品国产鲁丝片午夜精品| 亚洲成人精品中文字幕电影| 久久精品久久久久久久性| 国产免费福利视频在线观看| av卡一久久| 天天一区二区日本电影三级| 久久人人爽av亚洲精品天堂 | 日韩人妻高清精品专区| av女优亚洲男人天堂| 精品国产一区二区三区久久久樱花 | 亚洲精品色激情综合| 中文字幕亚洲精品专区| 日产精品乱码卡一卡2卡三| 简卡轻食公司| 国产精品一区二区性色av| 少妇猛男粗大的猛烈进出视频 | 欧美成人一区二区免费高清观看| 大陆偷拍与自拍| 欧美zozozo另类| 国产探花极品一区二区| 日本av手机在线免费观看| 国产在线男女| 噜噜噜噜噜久久久久久91| 一级毛片aaaaaa免费看小| 九九久久精品国产亚洲av麻豆| 欧美成人精品欧美一级黄| 亚洲精品,欧美精品| 国产片特级美女逼逼视频| 你懂的网址亚洲精品在线观看| 丝袜美腿在线中文| 久久久久久久久久成人| 欧美一区二区亚洲| 欧美变态另类bdsm刘玥| 欧美国产精品一级二级三级 | 亚洲精品乱码久久久v下载方式| 哪个播放器可以免费观看大片| 国产亚洲一区二区精品| 国产精品成人在线| 亚洲精品中文字幕在线视频 | 欧美人与善性xxx| 激情五月婷婷亚洲| 国产午夜精品一二区理论片| 久久久久久久午夜电影| 欧美高清成人免费视频www| av一本久久久久| 午夜视频国产福利| 日韩强制内射视频| 欧美老熟妇乱子伦牲交| 成人漫画全彩无遮挡| 看黄色毛片网站| 噜噜噜噜噜久久久久久91| 赤兔流量卡办理| 国产亚洲最大av| 人人妻人人看人人澡| 欧美国产精品一级二级三级 | 精品人妻一区二区三区麻豆| 亚洲av免费在线观看| 老女人水多毛片| 高清日韩中文字幕在线| tube8黄色片| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 国产亚洲5aaaaa淫片| 亚洲精品成人av观看孕妇| 蜜臀久久99精品久久宅男| 日韩一区二区三区影片| 国产黄频视频在线观看| 如何舔出高潮| 少妇人妻 视频| 直男gayav资源| 国产成人免费观看mmmm| 欧美成人精品欧美一级黄| 免费观看a级毛片全部| 久久精品久久久久久久性| 国产精品无大码| 婷婷色av中文字幕| 视频区图区小说| 免费黄网站久久成人精品| 少妇人妻 视频| 高清在线视频一区二区三区| 最近最新中文字幕免费大全7| 国产 一区 欧美 日韩| 日韩大片免费观看网站| 国产精品麻豆人妻色哟哟久久| 国产精品久久久久久精品电影| 尤物成人国产欧美一区二区三区| 在线观看三级黄色| 亚洲欧美成人精品一区二区| 黄色怎么调成土黄色| 亚洲最大成人中文| 一二三四中文在线观看免费高清| 免费av不卡在线播放| 天天躁日日操中文字幕| 99视频精品全部免费 在线| 国产在视频线精品| 国产乱人视频| 国产v大片淫在线免费观看| 国产精品av视频在线免费观看| 国产乱人偷精品视频| av又黄又爽大尺度在线免费看| 午夜免费观看性视频| 国产亚洲最大av| 伊人久久精品亚洲午夜| 午夜老司机福利剧场| 国产午夜福利久久久久久| 亚洲国产色片| 国产精品福利在线免费观看| av线在线观看网站| 在线观看三级黄色| 日日摸夜夜添夜夜添av毛片| 久久97久久精品| 精品国产一区二区三区久久久樱花 | 亚洲aⅴ乱码一区二区在线播放| av天堂中文字幕网| 丝袜脚勾引网站| 亚洲久久久久久中文字幕| 久久国产乱子免费精品| 新久久久久国产一级毛片| 99久久中文字幕三级久久日本| 男人添女人高潮全过程视频| 嫩草影院精品99| 欧美激情久久久久久爽电影| 久久国内精品自在自线图片| 男女啪啪激烈高潮av片| 极品教师在线视频| 高清日韩中文字幕在线| 国产在线男女| 国产高清有码在线观看视频| 你懂的网址亚洲精品在线观看| 国产精品99久久99久久久不卡 | 熟妇人妻不卡中文字幕| 国产男人的电影天堂91| 中国美白少妇内射xxxbb| 久久97久久精品| 国产精品久久久久久久电影| 午夜激情福利司机影院| 视频区图区小说| 精品久久久噜噜| 国产精品爽爽va在线观看网站| 国产欧美亚洲国产| 国产精品熟女久久久久浪| 国产极品天堂在线| 欧美高清性xxxxhd video| 精品午夜福利在线看| 欧美老熟妇乱子伦牲交| 王馨瑶露胸无遮挡在线观看| 在线观看av片永久免费下载| 亚洲精品456在线播放app| 国产精品一及| 日韩欧美一区视频在线观看 | 舔av片在线| 网址你懂的国产日韩在线| 国产亚洲av嫩草精品影院| 2022亚洲国产成人精品| 丝瓜视频免费看黄片| 啦啦啦在线观看免费高清www| 18+在线观看网站| 一个人观看的视频www高清免费观看| 永久网站在线| 美女高潮的动态| 日日撸夜夜添| 少妇的逼水好多| 亚洲,一卡二卡三卡| 高清午夜精品一区二区三区| 日韩一区二区三区影片| 99热网站在线观看| 看黄色毛片网站| 色播亚洲综合网| 两个人的视频大全免费| 香蕉精品网在线| 成人国产av品久久久| 一级a做视频免费观看| 搞女人的毛片| 午夜福利视频1000在线观看| 自拍偷自拍亚洲精品老妇| 97在线人人人人妻| 搡老乐熟女国产| av福利片在线观看| 国产中年淑女户外野战色| 一区二区av电影网| 波多野结衣巨乳人妻| 少妇猛男粗大的猛烈进出视频 | 女的被弄到高潮叫床怎么办| 国产成年人精品一区二区| 日韩在线高清观看一区二区三区| 国模一区二区三区四区视频| 日日啪夜夜撸| av黄色大香蕉| 久久久精品94久久精品| .国产精品久久| 午夜激情福利司机影院| 久久久成人免费电影| 国产伦精品一区二区三区四那| 欧美激情在线99| 制服丝袜香蕉在线| 欧美 日韩 精品 国产| 爱豆传媒免费全集在线观看| 久久精品国产亚洲av涩爱| 亚洲精品国产av成人精品| 2021天堂中文幕一二区在线观| 国产亚洲av片在线观看秒播厂| 亚洲精品国产色婷婷电影| 夫妻性生交免费视频一级片| 欧美xxxx性猛交bbbb| 亚洲国产av新网站| 亚洲精品一二三| 日韩欧美精品免费久久| 日本与韩国留学比较| 日本一本二区三区精品| 亚洲精品久久午夜乱码| 亚洲av日韩在线播放| 亚洲av不卡在线观看| 精品久久国产蜜桃| .国产精品久久| 少妇熟女欧美另类| 亚洲av.av天堂| 日日摸夜夜添夜夜添av毛片| 毛片女人毛片| 国产精品无大码| 国产色婷婷99| 久久6这里有精品| 在线观看av片永久免费下载| 亚洲国产精品国产精品| 欧美性感艳星| 大话2 男鬼变身卡| 久久久久久久国产电影| 国产亚洲午夜精品一区二区久久 | 五月天丁香电影| 欧美bdsm另类| 少妇的逼水好多| 一区二区三区乱码不卡18| 免费高清在线观看视频在线观看| 又黄又爽又刺激的免费视频.| 久久99热这里只频精品6学生| 大话2 男鬼变身卡| 99热这里只有精品一区| 亚洲最大成人av| av.在线天堂| 久热久热在线精品观看| 亚洲欧洲日产国产| 国产老妇女一区| 成人二区视频| 亚洲欧洲日产国产| 国产老妇女一区| 一级av片app| 精品久久久久久久久av| 国产高清不卡午夜福利| 亚洲成人一二三区av| 777米奇影视久久| 国产白丝娇喘喷水9色精品| 韩国av在线不卡| av又黄又爽大尺度在线免费看| 黄色配什么色好看| 久久人人爽人人片av| 国产成年人精品一区二区| 色综合色国产| 青春草国产在线视频| xxx大片免费视频| 三级经典国产精品| 美女高潮的动态| 国产男女内射视频| 99精国产麻豆久久婷婷| 免费看日本二区| 亚洲国产欧美人成| 99精国产麻豆久久婷婷| 嘟嘟电影网在线观看| 日韩av免费高清视频| 伦理电影大哥的女人| 亚洲欧美日韩另类电影网站 | 激情五月婷婷亚洲| 99视频精品全部免费 在线| 如何舔出高潮| 日韩强制内射视频| 国产精品一区二区性色av| 直男gayav资源| 日韩成人av中文字幕在线观看| 在线观看av片永久免费下载| 久久久a久久爽久久v久久| 91久久精品国产一区二区成人| 自拍偷自拍亚洲精品老妇| 一级毛片aaaaaa免费看小|