• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能的侵權(quán)責(zé)任研究

    2020-05-11 11:49:02范悅
    青年與社會 2020年8期
    關(guān)鍵詞:侵權(quán)責(zé)任人工智能

    范悅

    摘 要:人工智能技術(shù)的應(yīng)用和普及給民法帶來了前所未有的挑戰(zhàn),對人工智能產(chǎn)品的民事主體資格認(rèn)定、智能機器人侵權(quán)的歸責(zé)原則、責(zé)任分配、責(zé)任承擔(dān)等問題進(jìn)行研究,能夠有效緩解人工智能帶給社會的各類風(fēng)險,文章將重點討論人工智能的侵權(quán)責(zé)任問題,對國內(nèi)外的研究情形進(jìn)行了仔細(xì)的比較,分析人工智能產(chǎn)品在法律上的主體資格,并從責(zé)任主體、歸責(zé)原則、責(zé)任形態(tài)和應(yīng)對機制等維度對人工智能的侵權(quán)責(zé)任內(nèi)涵進(jìn)行設(shè)想,探究應(yīng)對人工智能發(fā)展的更好的責(zé)任承擔(dān)方式。

    關(guān)鍵詞:人工智能;侵權(quán)責(zé)任 ;法律主體資格;歸責(zé)原則

    近幾年人工智能的發(fā)展形勢迅猛,我們的社會逐漸進(jìn)入“智能時代”,隨著人工智能技術(shù)的發(fā)展,有關(guān)人工智能的產(chǎn)品也層出不窮、滲入社會的每個角落:無人駕駛技術(shù)、人臉及語音識別系統(tǒng)、智能醫(yī)療設(shè)備、以及各種智能家居電器的出現(xiàn)。人工智能產(chǎn)品的逐漸應(yīng)用,也給我們帶來了一連串的法律問題,人工智能損毀財物、致人傷亡的問題也日益增多,人工智能產(chǎn)品致?lián)p致害時,侵權(quán)責(zé)任如何分配、如何承擔(dān)已經(jīng)成為一個亟待解決的法律問題,需要我們審慎仔細(xì)的研究。

    一、人工智能產(chǎn)品的法律主體資格

    (一)國外的發(fā)展情形

    2010年11月,日本機器人“帕羅”曾以作為寵物的身份取得了日本某個城市的戶籍資格。2017年10月,沙特阿拉伯將該國的公民身份給予了香港某個機器人公司生產(chǎn)的機器人“索菲亞”。但是據(jù)報道,索菲亞的公民身份似乎只是象征意義,是為了吸引公眾對人工智能技術(shù)的關(guān)注。至于索菲亞能否會擁有某些公民權(quán)利、沙特有關(guān)方面在未來是否會出臺一個專屬于機器人的權(quán)利體系,目前尚不得而知。2017年2月,歐洲的議會曾有人提議要給予人工智能機器人特定的權(quán)利、義務(wù)和責(zé)任。在研究領(lǐng)域,一些學(xué)者持樂觀態(tài)度,認(rèn)為在未來智能機器人最終會享受到人類的某些法律權(quán)利。

    (二)國內(nèi)的研究狀況

    國內(nèi)對于人工智能法律主體資格的研究盡管有不同觀點,但是大多數(shù)持否定說,人工智能其本身還只是一臺供人類驅(qū)使的機器暫時不能擁有完全的法律人格。少數(shù)肯定說認(rèn)為,在未來人工智能將能夠人類大腦一樣進(jìn)行生物學(xué)的思維,屆時可以擬制人工智能機器人具有某些特殊的法律資格。還有學(xué)者提議給予人工智能機器人特殊的人格,例如電子人格、虛擬人格。另外由于目前人工智能發(fā)展的參差不一,還有研究主張將人工智能技術(shù)分為強、弱兩類,同時應(yīng)對兩類不同的人工智能的法律主體資格進(jìn)行分類研究。強人工智能具有與人類相似的思維模式和一定自主意識,能夠多維分析和解決問題;弱人工智能只限于解決某領(lǐng)域的具體問題。但是從當(dāng)下人工智能技術(shù)發(fā)展的層次來分析,無論強、弱人工智能技術(shù)的思維都不可能與人類媲美,因此都暫時不能成為民事主體。更有學(xué)者依據(jù)人工智能的智能程度將其劃分為三類,根據(jù)三類人工智能其自主性和人類干預(yù)的程度不同,其法律地位也有所不同。

    從以上的分析和比較中,雖然我們大致可以窺探出,在未來人工智能機器人的擁有類人化的思維能力和方式時,很有可能獲得一定程度的民事主體資格。但是目前人工智能技術(shù)下研發(fā)的智能機器人并不能擁有真正像人類一樣的民事主體資格。因此如果對目前階段人工智能的屬性進(jìn)行界定,則其屬性應(yīng)該是“物”而非“人類”,所以應(yīng)適用有關(guān)客體的法律規(guī)范。

    二、人工智能產(chǎn)品的侵權(quán)責(zé)任

    鑒于人工智能在生活中應(yīng)用的領(lǐng)域越來越廣,人工智能機器人不當(dāng)?shù)牟僮?,很可能會給他人帶來一些財產(chǎn)損失,甚至是傷亡的后果。因此我們有必要明確人工智能產(chǎn)品致傷致?lián)p的情況下,民事責(zé)任如何承擔(dān)。

    (一)人工智能侵權(quán)責(zé)任主體

    (1)分階段的責(zé)任體系。2016年下半年,聯(lián)合國兩個組織:教科文組織與科學(xué)知識與技術(shù)倫理委員會,一起公布了一份關(guān)于機器人倫理的方案,提出采取責(zé)任分擔(dān)的形式,對人工智能機器人造成的損失進(jìn)行分類,按照產(chǎn)品制造、產(chǎn)品設(shè)計、產(chǎn)品銷售等過程中出現(xiàn)的不同過失情況,讓所有參與到人工智能機器人發(fā)明、授權(quán)、銷售過程中的人來分別承擔(dān)責(zé)任。

    (2)保險和基金。2017年中旬德國參議院通過了第一部涉及無人駕駛汽車的法案,該法案的規(guī)定在發(fā)生交通事故時,根據(jù)不同的情形確定責(zé)任歸屬:如果汽車在由普通人駕駛時,發(fā)生交通事故,由駕駛?cè)顺袚?dān)事故責(zé)任;在系統(tǒng)自動駕駛階段出現(xiàn)的交通事故,則由汽車生產(chǎn)方承擔(dān)責(zé)任。但是《中國科學(xué)報》認(rèn)為,由人工智能汽車造成的交通事故,除了以上兩個責(zé)任承擔(dān)主體之外還需要得到保險商的支持。還有學(xué)者提出,對于質(zhì)量符合安全標(biāo)準(zhǔn)的智能機器人帶來的損害,可以借鑒歐盟法律事務(wù)委員會提出的設(shè)立賠償基金的方式,在無法證明產(chǎn)品是否有缺陷的狀況下,通過基金賠償受害者的損失。

    (二)人工智能侵權(quán)歸責(zé)原則

    (1)國外的人工智能歸責(zé)方式。到2015年12月,在美國已有十幾個州確定了人工智能汽車的法律制定項目,九個州的相關(guān)制度已經(jīng)實施。東南部某州的法律明確規(guī)定,如果車輛系統(tǒng)被擅自修改成自動駕駛的模式,車輛原來的生產(chǎn)商將不對修改后的自動駕駛系統(tǒng)造成的事故承擔(dān)責(zé)任,當(dāng)然如果有證據(jù)證明在改造前車輛已經(jīng)存在質(zhì)量隱患,原來的生產(chǎn)商還應(yīng)該承擔(dān)責(zé)任。

    2016年歐盟的法律事務(wù)委員會提議,要設(shè)立有關(guān)人工智能機器人的民事法律法案,認(rèn)為智能機器人已經(jīng)不是單純的工具和產(chǎn)品,鑒于智能機器人實施侵害的原因不易探查,不能還遵循傳統(tǒng)理論,只追究生產(chǎn)者、銷售者、使用者的責(zé)任,還應(yīng)該讓人工智能機器人自己承擔(dān)一部分責(zé)任,當(dāng)然前提是給予智能機器人“電子人”獨特的法律地位。

    相對而言,歐盟的模式比美國更具有前瞻性,原因在于美國是依據(jù)當(dāng)前人工智能技術(shù)的發(fā)展,而歐盟則看好人工智能機器人的將來,對其有較高的預(yù)期,但是卻沒有規(guī)定人工智能機器人該如何承擔(dān)責(zé)任。鑒于各方爭議不斷,歐盟、美國等也對原先的方案進(jìn)行了調(diào)整:由于生產(chǎn)者其對產(chǎn)品的控制力較強,因此應(yīng)承擔(dān)嚴(yán)格責(zé)任;又因為銷售者和使用者對產(chǎn)品的控制力較為薄弱,所以分別承擔(dān)過錯責(zé)任。

    (2)完善的責(zé)任分配體系。鑒于目前階段的人工智能產(chǎn)品還無法完全像人類大腦一樣進(jìn)行思維且無法承擔(dān)實際的法律責(zé)任,因此其性質(zhì)歸屬是“物”而非“人”,所以人工智能機器人在致人傷亡和對財產(chǎn)造成損失時,無法承擔(dān)實際的法律責(zé)任和受到實際的法律制裁,承擔(dān)法律責(zé)任的只能是人工智能產(chǎn)品的生產(chǎn)者、所有者或使用者。因此人工智能產(chǎn)品的責(zé)任承擔(dān)方式應(yīng)效仿產(chǎn)品責(zé)任,在產(chǎn)品出現(xiàn)質(zhì)量問題時,明確產(chǎn)生該問題的因果關(guān)系,建立完善的責(zé)任分配體系進(jìn)行歸責(zé)。

    (3)過錯推定。有學(xué)者指出應(yīng)根據(jù)對人工智能的不同分類實行不同的責(zé)任原則。例如:屬于人造程序的、不具有人類外觀的人工智能產(chǎn)品,如阿法狗這類人工智能的功能主要在于語音識別、智能搜索、大數(shù)據(jù)處理等。由于這類人工智能還屬于人類的工具,它們可以類比產(chǎn)品責(zé)任——過錯推定責(zé)任,因人工智能機器人的質(zhì)量問題給消費者造成的損害,推定生產(chǎn)者、運輸者、銷售者沒有負(fù)擔(dān)起各自的注意義務(wù),當(dāng)然若能夠證明不是因為自己的過錯,也可以免除法律責(zé)任。

    (4)無過錯歸責(zé)。有學(xué)者主張由于目前階段的人工智能產(chǎn)品仍然在人類的控制范圍之類,屬于“產(chǎn)品”,因此不必著急另立新法,甚至修改民法相關(guān)理論。另一方面對人工智能機器人應(yīng)用嚴(yán)格的無過錯歸責(zé)原則,能夠督促人工智能產(chǎn)品的設(shè)計者和生產(chǎn)者,盡最大努力防止在智能機器人的設(shè)計和生產(chǎn)過程中出現(xiàn)的各種意外狀況,從而避免人工智能產(chǎn)品在超出人類控制范圍內(nèi)帶給人類社會難以想象的損害。但是筆者認(rèn)為無過錯歸責(zé)的形式毫無疑問會抑制人工智能的發(fā)展,所以完全的無過錯原則過于絕對,并不適合將來人工智能的進(jìn)步和更新。

    (5)技術(shù)中立。當(dāng)人工智能產(chǎn)品能夠自主學(xué)習(xí)、具有高度自我意識且無人操作的情形時,過錯規(guī)則原則將無法適用。技術(shù)中立歸責(zé)認(rèn)為,技術(shù)存在的潛在風(fēng)險是人類為了社會進(jìn)步肯定會經(jīng)歷的,即在技術(shù)的研制階段不具有非正當(dāng)目的的情況下,技術(shù)的創(chuàng)制和進(jìn)步不應(yīng)歸為有罪,技術(shù)存在的潛在風(fēng)險不能歸責(zé)于技術(shù)的研發(fā)者。在此情況下,如果按照無過錯原則將責(zé)任風(fēng)險分配給生產(chǎn)、銷售方,不僅有違公平原則,還會限制制造方和研究人員的積極性,嚴(yán)重者甚至?xí)钄嗳斯ぶ悄墚a(chǎn)品的推廣。

    另有學(xué)者主張技術(shù)中立規(guī)則雖然可能導(dǎo)致規(guī)避責(zé)任的現(xiàn)象出現(xiàn),但也會產(chǎn)生替代責(zé)任,這種替代責(zé)任類似于代理關(guān)系和雇傭關(guān)系中的替代責(zé)任。但這種替代責(zé)任的實質(zhì)還是將智能機器人造成的損害歸為:所有人或使用人沒有承擔(dān)起善良管理的責(zé)任而造成的損害。筆者認(rèn)為一個完備的社會體系就需要新型人工智能保險和賠償基金的支持,銷售者在出售人工智能產(chǎn)品時,應(yīng)配以全面的應(yīng)急保險和賠償基金,以支撐在侵害來源無法判斷情況下受害者的索賠請求。

    (三)人工智能侵權(quán)的責(zé)任形態(tài)

    有學(xué)者主張在目前的人工智能技術(shù)水平中,人工智能機器人還處于“產(chǎn)品”階段,其致人損害的責(zé)任形態(tài)歸為不真正連帶責(zé)任。《侵權(quán)責(zé)任法》第四十三條的設(shè)定,因為產(chǎn)品不合格造成損害的,不僅可以向制造方尋求賠償,還可以向銷售者尋求賠償;若產(chǎn)品不合格的原因是由制造方引起的,銷售者賠償后可以向制造方追究;若是因為銷售者的原因,制造方賠償后可以向銷售者追究。相對于人工智能產(chǎn)品,還要在加上設(shè)計者作為責(zé)任主體。

    人工智能產(chǎn)品造成了他人損害,這種損害不僅包含對他人的人身造成的傷害,還涉及對他人的財產(chǎn)造成的物質(zhì)損害。在探究人工智能侵權(quán)的組成要件和因果聯(lián)系時,可以參考一般產(chǎn)品侵權(quán)的構(gòu)成要件:

    (1)人工智能產(chǎn)品已步入流通領(lǐng)域,處在應(yīng)用過程中。如果該人工智能產(chǎn)品并沒有經(jīng)銷售者進(jìn)入使用者手中,發(fā)生致?lián)p致害時,則不能按照嚴(yán)格責(zé)任原則,向生產(chǎn)者和銷售者追責(zé)。例如使用者通過盜竊、搶奪等非正當(dāng)方式得到的人工智能產(chǎn)品,當(dāng)人工智能產(chǎn)品出現(xiàn)侵權(quán)事故,在此種情況下,不能向生產(chǎn)者和銷售者追責(zé)。

    (2)人工智能機器人客觀上作出了一定行為。此“行為”應(yīng)該是廣義上的行為,如果該行為是因為設(shè)計者或者生產(chǎn)者的原因,則應(yīng)向設(shè)計方和生產(chǎn)方追責(zé);如果是因為使用者的不當(dāng)使用,則應(yīng)向使用方追責(zé);如果是因為人工智能產(chǎn)品基于自己的自主意識所作出的判斷做出的行為,可以向智能機器人追責(zé),例如在智能機器人有財產(chǎn)的情形下,對其進(jìn)行處罰,無論是因為誰的原因,都可以歸為此處的行為。

    (3)引發(fā)了他人的人身損害或財物損失。此處的“他人”可以既可以指第三人,也可以是使用者,甚至可以包括未來可能獲得一定法律地位的人工智能機器人。如果學(xué)者們認(rèn)為人工智能機器人不應(yīng)當(dāng)獲得法律主體地位,則可將人工智能機器人歸為此處的“財產(chǎn)”。

    (4)人工智能產(chǎn)品實施的行為和損害后果之間存在因果聯(lián)系。辨明因果聯(lián)系是確定侵權(quán)賠償?shù)那疤?,因果?lián)系理論要求在原因和結(jié)果之間存在引起與被引起這樣一種關(guān)系。如果損害后果和人工智能產(chǎn)品的行為沒有因果關(guān)系,我們就不能對其歸責(zé),不能將此侵害歸為“人工智能侵害”。

    (四)人工智能侵權(quán)的應(yīng)對機制

    人工智能產(chǎn)品的通用規(guī)則,具體如下:

    人工智能產(chǎn)品的通用規(guī)則指的是,在人工智能領(lǐng)域可以適用的和一般產(chǎn)品相似的法律規(guī)則。當(dāng)前人工智能技術(shù)還處于低端人工智能水平,且人工智能機器人還在科學(xué)家的掌控范圍之內(nèi)。按照楊立新教授的觀點,不必著急另立新法,可將普通的產(chǎn)品規(guī)則應(yīng)用于人工智能機器人領(lǐng)域,因此對人工智能產(chǎn)品的制造方推行嚴(yán)格責(zé)任、對銷售方、使用方應(yīng)用過錯責(zé)任。具體來說:

    (1)因為產(chǎn)品的質(zhì)量問題引起他人傷亡、財物受損的,制造方都應(yīng)該肩負(fù)起賠償義務(wù),當(dāng)然這種嚴(yán)格責(zé)任并不是一定絕對的,如果制造方具有以下幾種條件之一的,就不用承擔(dān)賠償義務(wù):并沒有把人工智能產(chǎn)品放入銷售領(lǐng)域;人工智能產(chǎn)品進(jìn)入銷售時其并不具有導(dǎo)致該損害的產(chǎn)品質(zhì)量問題;即使將人工智能產(chǎn)品銷售給顧客時,但以當(dāng)時的研究能力并不能找出該產(chǎn)品存在的質(zhì)量問題。

    (2)對銷售方推行過錯推定原則:如果人工智能產(chǎn)品致?lián)p致害是因為銷售者的過錯,則該銷售方必須肩負(fù)起賠償義務(wù),但是如果銷售方有能力表明該產(chǎn)品的質(zhì)量問題并不是因為自己的原因,則不必承擔(dān)賠償責(zé)任。如果銷售方?jīng)]有能力說明該人工智能產(chǎn)品的制造方,就必須肩負(fù)起賠償義務(wù)??梢婁N售方具有提出證據(jù)的責(zé)任,不然就要肩負(fù)賠償義務(wù)。對于使用放的責(zé)任和義務(wù),側(cè)重體現(xiàn)在對人工智能產(chǎn)品的使用過程中,例如改裝行為,經(jīng)過改裝后的人工智能產(chǎn)品致?lián)p致害時,可以免除生產(chǎn)方、銷售方的責(zé)任。

    (3)鑒于人工智能系統(tǒng)的復(fù)雜性,在無法法判斷產(chǎn)品的缺陷原因是設(shè)計者、生產(chǎn)者、銷售者、還是使用者時,可以適用連帶責(zé)任;另一方面在特定情況下,例如設(shè)計者、生產(chǎn)者、銷售者和使用者都能夠證明自己不存在過錯,還可以考慮技術(shù)中立原則,當(dāng)然技術(shù)中立極易導(dǎo)致規(guī)避責(zé)任的情況發(fā)生,因此應(yīng)該被嚴(yán)格限制。

    (五)人工智能機器人的特殊規(guī)則

    人工智能機器人和普通產(chǎn)品不同,其包含的大量的個人信息,數(shù)據(jù)處理過程異常復(fù)雜,因此不能僅僅依靠對待一般產(chǎn)品的通用規(guī)則進(jìn)行規(guī)制,我們必須根據(jù)其特點,制定相應(yīng)的規(guī)則體系并根據(jù)人工智能發(fā)展的不同情況,不斷進(jìn)行修正。

    (1)在人工智能產(chǎn)品的發(fā)展進(jìn)程中,人的控制占較小比重、智能機器人的自主性較強時,可以參考?xì)W盟的做法,給予智能機器人特殊的法律資格。這種“電子人”具有一定的“機器人權(quán)利”、“機器人義務(wù)”和“機器人責(zé)任”。例如“電子人”在侵害普通他人或者其他“電子人”姓名權(quán)、肖像權(quán)、隱私權(quán)的時候,可以責(zé)令該施害“電子人”終止侵害、消除不良影響、賠禮道歉、彌補損失等,同時可以對其程序設(shè)定進(jìn)行修改,在一定期限內(nèi)限制其自由表達(dá),嚴(yán)重者可以永久刪除該類智能機器人的數(shù)據(jù),召回、銷毀該類機器人。

    (2)在人工智能機器人銷售時,同時應(yīng)附有強制責(zé)任保險、賠償基金這樣的“套餐業(yè)務(wù)”。有學(xué)者認(rèn)為強制責(zé)任保險和賠付基金的設(shè)立,是把智能機器人歸于“物”的表示,將弱化人工智能機器人自己的賠付能力,使得智能機器人自己的賠償變的沒有意義。其實不然,筆者認(rèn)為多維的損害賠償形式共存,可以有效的兜底智能機器人所造成的損害,同時也可以減輕各方的壓力。作為普通人尚且為自己購買各種養(yǎng)老、醫(yī)療保險,智能機器人也可以在強制責(zé)任保險之外,為自己購買各種商業(yè)保險,不僅在致他人財產(chǎn)損失、人身損害的時候多一道保護(hù),同時在受到其他智能機器人的侵害時亦可以獲得對方保險的賠償。

    (3)為了追求高效和智能化,人工智能機器人將會儲存大量的信息,例如無人駕駛汽車系統(tǒng),包含著使用者的家庭住址、工作單位地點、經(jīng)常去的目的地、甚至帶有行車記錄儀的無人駕駛汽車將會從車上人員的談話中收集大量信息。因此有必要對個人信息進(jìn)行特別的保護(hù),防止信息泄露導(dǎo)致的隱私權(quán)受侵害。筆者建議在技術(shù)層面要強制在人工智能系統(tǒng)中建立信息保護(hù)的程序,從預(yù)防信息泄露到信息泄露后的自動、及時的補救措施,一應(yīng)俱全;同時還需要提前設(shè)定隱私權(quán)保護(hù)的法條,在信息的收集、使用、處理、定期銷毀和維護(hù)等方面明確生產(chǎn)者和銷售者的售后服務(wù)和職責(zé)。

    三、結(jié)語

    綜上所述,雖然當(dāng)前的人工智能技術(shù)還處于“弱人工智能”水平,尚不具有法律主體資格,但是在未來,人工智能機器人最終會獲得一定的權(quán)利,肩負(fù)起屬于他們的義務(wù)和有限的責(zé)任。

    “4-2-1”的家庭格局中的獨生子女,不僅要工作,還要生兒育女、贍養(yǎng)老人,壓力之大可以想象,我們對智能機器人的需求會愈來愈多,人工智能機器人必將會滲入我們社會生活的各個角落,甚至發(fā)展為我們社會中不可缺失的一個重要組成部分?!八麄儭笨赡馨缪菡吒鞣N角色,智能管家、家庭醫(yī)生、保姆、司機、親密朋友,甚至是寵物,即使是現(xiàn)在的人工智能技術(shù),以上幾種角色,智能機器人已經(jīng)可以實現(xiàn),伴隨著科技的不斷進(jìn)步,人工智能技術(shù)也一定會越來越超前。所以,我們在進(jìn)行有關(guān)人工智能機器人的法律設(shè)定時,除了要考慮到機器人在日常生活中,因為不同角色造成的損害可能適用不同的賠償方式或是承擔(dān)不同的損害責(zé)任以及“他們”可能和其他普通人或是其他智能機器人之間產(chǎn)生的各種糾紛和損害事故之外,還要考慮因為人工智能技術(shù)的不斷進(jìn)步所帶來的新的挑戰(zhàn)。

    鑒于人們對人工智能產(chǎn)品的需求可能會越來越多,不僅科技人員要提高人工智能的技術(shù)水平,立法者和其他法律從業(yè)人員也要提高防范意識,時刻關(guān)注人工智能技術(shù)的發(fā)展,注意國際間的交流,研制出一套類型化的應(yīng)對機制并根據(jù)實際情形適時作出修正,以應(yīng)對人工智能不斷發(fā)展,從而更好的造福于人類。

    參考文獻(xiàn)

    [1] 陳莉.人工智能產(chǎn)品民事主體資格及侵權(quán)責(zé)任研究[J].武漢冶金管理干部學(xué)院學(xué)報,2018(06).

    [2] 騰訊研究院、中國信通院互聯(lián)網(wǎng)法律研究中心、騰訊 AILab、騰訊開放平臺.人工智能[M].中國人民大學(xué)出版社,2017.

    [3] 許輝猛,王飛翔.人工智能侵權(quán)責(zé)任認(rèn)定[J].長安大學(xué)學(xué)報:社會科學(xué)版,2018(07).

    [4] 楊立新.人工類人格:智能機器人的民法地位——兼論智能機器人致人損害的民事責(zé)任[J].求實學(xué)刊,2018(04).

    [5] 楊立新.從民法通則到民法總則:中國當(dāng)代民法的歷史性跨越[J].中國社會科學(xué),2018(02).

    [6] 環(huán)球網(wǎng)國際新聞.德國通過首部關(guān)于自動駕駛汽車的法律[EB/OL].http://world.huanqiu.com/hot/201705/10663821.htm.

    猜你喜歡
    侵權(quán)責(zé)任人工智能
    我校新增“人工智能”本科專業(yè)
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    云計算LaaS模式中著作權(quán)侵權(quán)責(zé)任探析
    第三人干擾婚姻關(guān)系之法律認(rèn)定
    消費欺詐的構(gòu)成要件及侵權(quán)責(zé)任問題研究
    法制博覽(2016年12期)2016-12-28 13:29:59
    論人工智能產(chǎn)品侵權(quán)行為責(zé)任認(rèn)定
    商(2016年33期)2016-11-24 23:34:02
    網(wǎng)約出租車交通事故責(zé)任認(rèn)定
    法制博覽(2016年11期)2016-11-14 09:46:13
    論侵權(quán)責(zé)任的違法性要件
    商(2016年27期)2016-10-17 06:45:36
    国产白丝娇喘喷水9色精品| 日韩欧美一区视频在线观看 | 久久久久久久久久久免费av| 麻豆成人av视频| 日韩在线高清观看一区二区三区| 国产日韩欧美在线精品| 丝袜喷水一区| 黄色欧美视频在线观看| 极品少妇高潮喷水抽搐| 久久精品人妻少妇| 日韩一本色道免费dvd| 在线a可以看的网站| 一个人看视频在线观看www免费| 特级一级黄色大片| 日韩,欧美,国产一区二区三区| 联通29元200g的流量卡| 精品视频人人做人人爽| 成年女人在线观看亚洲视频 | 寂寞人妻少妇视频99o| 亚洲经典国产精华液单| 国产男女超爽视频在线观看| 国产永久视频网站| 午夜日本视频在线| 亚洲精品,欧美精品| 久久精品久久久久久噜噜老黄| 777米奇影视久久| 国产精品人妻久久久影院| 在线观看av片永久免费下载| 人妻夜夜爽99麻豆av| 交换朋友夫妻互换小说| 久久久亚洲精品成人影院| 神马国产精品三级电影在线观看| 日韩欧美 国产精品| 免费观看av网站的网址| 欧美最新免费一区二区三区| 免费观看在线日韩| 国产高潮美女av| 亚洲一区二区三区欧美精品 | 中文字幕久久专区| 国产精品国产三级专区第一集| 欧美少妇被猛烈插入视频| 国产精品一区www在线观看| 成人综合一区亚洲| 日日啪夜夜撸| 精品一区在线观看国产| 婷婷色av中文字幕| 网址你懂的国产日韩在线| 欧美日韩精品成人综合77777| 在线观看美女被高潮喷水网站| 美女高潮的动态| 赤兔流量卡办理| 中文字幕av成人在线电影| 高清av免费在线| 日韩亚洲欧美综合| 日韩欧美一区视频在线观看 | 欧美三级亚洲精品| 中国三级夫妇交换| 日韩 亚洲 欧美在线| 成人午夜精彩视频在线观看| 一区二区三区精品91| 青春草亚洲视频在线观看| 黄色视频在线播放观看不卡| 中国美白少妇内射xxxbb| 国产精品偷伦视频观看了| 听说在线观看完整版免费高清| 少妇熟女欧美另类| 国产精品一区二区三区四区免费观看| 亚洲欧洲国产日韩| 在现免费观看毛片| 国产毛片在线视频| 国产伦精品一区二区三区视频9| 男男h啪啪无遮挡| 亚洲精品乱码久久久v下载方式| 国产男女超爽视频在线观看| 色哟哟·www| 欧美xxxx黑人xx丫x性爽| 丰满少妇做爰视频| 国产精品一二三区在线看| 成人欧美大片| 国产真实伦视频高清在线观看| 久久综合国产亚洲精品| 久久精品国产a三级三级三级| 亚洲av中文字字幕乱码综合| 久久久久久久久久人人人人人人| 少妇丰满av| 大片电影免费在线观看免费| 国产在视频线精品| 热99国产精品久久久久久7| 久久精品国产亚洲av天美| 免费av不卡在线播放| 国产成人免费观看mmmm| 水蜜桃什么品种好| 日韩,欧美,国产一区二区三区| 最新中文字幕久久久久| 日韩亚洲欧美综合| 一个人看视频在线观看www免费| 少妇丰满av| 一级片'在线观看视频| 91精品伊人久久大香线蕉| 久久精品国产亚洲av天美| 插逼视频在线观看| 亚洲精品国产成人久久av| 亚洲成人一二三区av| 人妻制服诱惑在线中文字幕| 亚洲欧美成人综合另类久久久| 日韩欧美精品免费久久| 免费av观看视频| 国产真实伦视频高清在线观看| 91久久精品国产一区二区成人| 直男gayav资源| 亚洲国产高清在线一区二区三| 亚洲av男天堂| 激情 狠狠 欧美| 国产精品嫩草影院av在线观看| 欧美潮喷喷水| 日韩中字成人| 免费观看的影片在线观看| 成年女人在线观看亚洲视频 | 99久久人妻综合| 国产精品久久久久久久电影| 噜噜噜噜噜久久久久久91| 国产精品伦人一区二区| 国产高清不卡午夜福利| 综合色av麻豆| 久久精品国产a三级三级三级| 精品熟女少妇av免费看| 听说在线观看完整版免费高清| 香蕉精品网在线| 三级男女做爰猛烈吃奶摸视频| 777米奇影视久久| 在线免费观看不下载黄p国产| 亚洲无线观看免费| 亚洲av男天堂| 高清欧美精品videossex| 欧美 日韩 精品 国产| 欧美 日韩 精品 国产| 18禁动态无遮挡网站| 国产在线男女| 国产午夜福利久久久久久| 国产亚洲5aaaaa淫片| 精品久久久久久久久av| 日日摸夜夜添夜夜爱| 国产 一区精品| 午夜激情久久久久久久| 国产成人a∨麻豆精品| 久久精品夜色国产| 中文字幕亚洲精品专区| 少妇的逼水好多| 人人妻人人澡人人爽人人夜夜| 亚洲精品日韩av片在线观看| 亚洲欧洲日产国产| 色婷婷久久久亚洲欧美| 中文字幕人妻熟人妻熟丝袜美| 亚洲欧美日韩东京热| 国产黄色免费在线视频| 麻豆国产97在线/欧美| 国产亚洲av嫩草精品影院| 99久久人妻综合| 精品酒店卫生间| 亚洲精品日韩av片在线观看| 亚洲av一区综合| 国产精品熟女久久久久浪| 国产又色又爽无遮挡免| 欧美bdsm另类| 日韩 亚洲 欧美在线| 亚洲国产日韩一区二区| 有码 亚洲区| 美女视频免费永久观看网站| 国产女主播在线喷水免费视频网站| 18禁在线播放成人免费| 久久久a久久爽久久v久久| 亚洲精品日韩在线中文字幕| 男插女下体视频免费在线播放| 午夜视频国产福利| 色吧在线观看| 超碰97精品在线观看| 亚洲成人av在线免费| 有码 亚洲区| 欧美日韩亚洲高清精品| 精品人妻偷拍中文字幕| 卡戴珊不雅视频在线播放| 精品久久久噜噜| 少妇人妻一区二区三区视频| 国产片特级美女逼逼视频| 欧美+日韩+精品| 国产精品一及| 少妇熟女欧美另类| av在线蜜桃| 黄色怎么调成土黄色| 国产综合懂色| 国产精品成人在线| 黄色视频在线播放观看不卡| 九九在线视频观看精品| 亚洲精品久久午夜乱码| 赤兔流量卡办理| 亚洲怡红院男人天堂| 久久精品夜色国产| 夫妻性生交免费视频一级片| 一级毛片久久久久久久久女| 免费人成在线观看视频色| 欧美日韩精品成人综合77777| 五月天丁香电影| 欧美+日韩+精品| 亚洲精品色激情综合| 欧美3d第一页| 男女啪啪激烈高潮av片| 精品久久久精品久久久| 日韩国内少妇激情av| av又黄又爽大尺度在线免费看| 久久精品久久久久久久性| 美女脱内裤让男人舔精品视频| 91久久精品国产一区二区三区| 久久精品国产亚洲av天美| tube8黄色片| 天天一区二区日本电影三级| 美女国产视频在线观看| 嘟嘟电影网在线观看| 高清午夜精品一区二区三区| 久久97久久精品| 久久精品熟女亚洲av麻豆精品| 日本午夜av视频| 国产老妇伦熟女老妇高清| 日韩国内少妇激情av| 日韩av免费高清视频| 欧美高清性xxxxhd video| 中文字幕av成人在线电影| 大片免费播放器 马上看| kizo精华| 夫妻午夜视频| 又黄又爽又刺激的免费视频.| av播播在线观看一区| 亚洲四区av| 看免费成人av毛片| 在线观看国产h片| av在线老鸭窝| 亚洲怡红院男人天堂| a级毛色黄片| 国产成人精品久久久久久| 精品少妇久久久久久888优播| 中文字幕久久专区| 丰满人妻一区二区三区视频av| 婷婷色av中文字幕| 免费高清在线观看视频在线观看| 国产人妻一区二区三区在| 免费av不卡在线播放| 国产精品精品国产色婷婷| 久久久久久久亚洲中文字幕| 亚洲美女视频黄频| 欧美成人精品欧美一级黄| 欧美精品人与动牲交sv欧美| 午夜福利视频1000在线观看| 在线a可以看的网站| 视频中文字幕在线观看| 欧美高清成人免费视频www| 最近最新中文字幕免费大全7| 婷婷色av中文字幕| 亚洲精品,欧美精品| 亚洲精品日本国产第一区| 网址你懂的国产日韩在线| 国产精品精品国产色婷婷| 夜夜爽夜夜爽视频| 亚洲精品乱久久久久久| 涩涩av久久男人的天堂| 日本wwww免费看| 国产视频内射| 91午夜精品亚洲一区二区三区| 精品久久久精品久久久| 老司机影院毛片| 亚洲精品久久午夜乱码| 欧美+日韩+精品| 男女边吃奶边做爰视频| 成人美女网站在线观看视频| 成人国产av品久久久| 亚洲精品久久久久久婷婷小说| 一本久久精品| 国产精品一区二区在线观看99| 噜噜噜噜噜久久久久久91| 99热这里只有是精品50| 国产爱豆传媒在线观看| 国产av不卡久久| 美女内射精品一级片tv| 国产v大片淫在线免费观看| 国产一区二区三区综合在线观看 | 欧美日韩一区二区视频在线观看视频在线 | 国产成人精品婷婷| a级毛色黄片| 波野结衣二区三区在线| 五月玫瑰六月丁香| 久久久久国产精品人妻一区二区| 日韩国内少妇激情av| 99热网站在线观看| 日本欧美国产在线视频| 欧美老熟妇乱子伦牲交| 97在线视频观看| 老女人水多毛片| 精品国产乱码久久久久久小说| 人妻系列 视频| 久久久久久九九精品二区国产| 日本一二三区视频观看| 全区人妻精品视频| 能在线免费看毛片的网站| 人妻制服诱惑在线中文字幕| 国产高清有码在线观看视频| 伊人久久精品亚洲午夜| 日本爱情动作片www.在线观看| 免费看不卡的av| 国产成人福利小说| 青春草视频在线免费观看| 美女国产视频在线观看| 国产日韩欧美亚洲二区| 亚洲综合色惰| 国产 一区 欧美 日韩| 在线观看一区二区三区| 亚洲精品国产av蜜桃| 国产精品福利在线免费观看| 色视频www国产| 纵有疾风起免费观看全集完整版| 国产老妇伦熟女老妇高清| av.在线天堂| 一区二区三区免费毛片| 三级男女做爰猛烈吃奶摸视频| 亚洲,一卡二卡三卡| 人人妻人人爽人人添夜夜欢视频 | 日韩欧美精品v在线| 一级黄片播放器| 寂寞人妻少妇视频99o| 国语对白做爰xxxⅹ性视频网站| 成年版毛片免费区| 性插视频无遮挡在线免费观看| 看免费成人av毛片| 在线观看免费高清a一片| 免费看光身美女| 欧美一区二区亚洲| 91狼人影院| 99九九线精品视频在线观看视频| 亚洲国产精品999| 久久ye,这里只有精品| 人妻 亚洲 视频| 中文精品一卡2卡3卡4更新| 国产亚洲av片在线观看秒播厂| 久久99热这里只有精品18| 国产爽快片一区二区三区| 亚洲熟女精品中文字幕| 美女视频免费永久观看网站| 日韩中字成人| 久久精品国产亚洲av天美| 国内揄拍国产精品人妻在线| 直男gayav资源| 国产精品av视频在线免费观看| 欧美日韩亚洲高清精品| 亚洲欧美成人综合另类久久久| 欧美极品一区二区三区四区| 99久久精品热视频| 国产综合懂色| 久久人人爽人人爽人人片va| 久久久精品免费免费高清| 国产精品人妻久久久影院| 久久久a久久爽久久v久久| 色吧在线观看| 精品一区二区三卡| 成人特级av手机在线观看| 国产欧美日韩精品一区二区| 欧美另类一区| 亚洲性久久影院| 少妇裸体淫交视频免费看高清| 人人妻人人爽人人添夜夜欢视频 | 少妇被粗大猛烈的视频| 高清毛片免费看| 国产伦精品一区二区三区视频9| 日本三级黄在线观看| 精品久久久久久电影网| 伊人久久国产一区二区| 亚洲精品色激情综合| 天堂网av新在线| 啦啦啦在线观看免费高清www| 国产日韩欧美在线精品| 欧美国产精品一级二级三级 | 免费少妇av软件| 啦啦啦在线观看免费高清www| 日韩电影二区| 激情 狠狠 欧美| 亚洲无线观看免费| 欧美zozozo另类| 成人免费观看视频高清| 亚洲欧美清纯卡通| 纵有疾风起免费观看全集完整版| 国产中年淑女户外野战色| 蜜臀久久99精品久久宅男| 天堂俺去俺来也www色官网| 亚洲自拍偷在线| 香蕉精品网在线| 久久精品久久久久久噜噜老黄| 高清毛片免费看| 七月丁香在线播放| 日韩视频在线欧美| 嫩草影院精品99| 久久久久久久久久成人| av卡一久久| 老司机影院毛片| 男插女下体视频免费在线播放| 国产成人精品久久久久久| 国产人妻一区二区三区在| 久久精品人妻少妇| 热re99久久精品国产66热6| 亚洲精品久久久久久婷婷小说| 国产精品熟女久久久久浪| 成人免费观看视频高清| 亚洲av电影在线观看一区二区三区 | 亚洲精品,欧美精品| 婷婷色av中文字幕| 九九久久精品国产亚洲av麻豆| 老师上课跳d突然被开到最大视频| 亚州av有码| 成人综合一区亚洲| 亚洲av电影在线观看一区二区三区 | 国产男女内射视频| 18+在线观看网站| 一级二级三级毛片免费看| 伦精品一区二区三区| 69av精品久久久久久| 国产男女超爽视频在线观看| 中文乱码字字幕精品一区二区三区| 国产乱人视频| 干丝袜人妻中文字幕| 3wmmmm亚洲av在线观看| 亚洲天堂国产精品一区在线| 2018国产大陆天天弄谢| 国产成人一区二区在线| 国产精品久久久久久av不卡| 在线看a的网站| 51国产日韩欧美| 黄片无遮挡物在线观看| 99热这里只有精品一区| 亚洲国产精品专区欧美| 亚洲三级黄色毛片| 超碰av人人做人人爽久久| 伦理电影大哥的女人| 毛片一级片免费看久久久久| 精品熟女少妇av免费看| 久久人人爽人人片av| 国产 一区精品| 久久精品国产a三级三级三级| 亚州av有码| 少妇的逼水好多| 嫩草影院新地址| 99精国产麻豆久久婷婷| 日韩 亚洲 欧美在线| 国产一区二区三区av在线| 丝瓜视频免费看黄片| 亚洲自偷自拍三级| 91精品一卡2卡3卡4卡| 嫩草影院新地址| 大陆偷拍与自拍| 亚洲国产精品成人久久小说| av在线观看视频网站免费| 女的被弄到高潮叫床怎么办| 亚洲av男天堂| 另类亚洲欧美激情| 亚洲欧美日韩卡通动漫| 精品熟女少妇av免费看| 建设人人有责人人尽责人人享有的 | 欧美日韩一区二区视频在线观看视频在线 | 一级二级三级毛片免费看| 免费黄频网站在线观看国产| 九九在线视频观看精品| 特级一级黄色大片| 久久综合国产亚洲精品| 国产伦理片在线播放av一区| 国产亚洲最大av| 国产在线男女| a级毛片免费高清观看在线播放| 赤兔流量卡办理| 成人漫画全彩无遮挡| 99re6热这里在线精品视频| 国产精品精品国产色婷婷| 在线精品无人区一区二区三 | 国产av不卡久久| 观看免费一级毛片| 精品午夜福利在线看| 欧美一级a爱片免费观看看| 大码成人一级视频| 亚洲三级黄色毛片| 欧美国产精品一级二级三级 | 免费在线观看成人毛片| 亚洲欧美精品专区久久| 又爽又黄无遮挡网站| 国产一区二区三区av在线| 美女视频免费永久观看网站| 26uuu在线亚洲综合色| 精品99又大又爽又粗少妇毛片| 日韩伦理黄色片| 免费黄网站久久成人精品| 亚洲精品日韩av片在线观看| 久久精品久久久久久久性| 蜜臀久久99精品久久宅男| 国产中年淑女户外野战色| 国产黄频视频在线观看| 男人狂女人下面高潮的视频| 视频区图区小说| 欧美成人午夜免费资源| 久久99热这里只有精品18| 丝瓜视频免费看黄片| 免费播放大片免费观看视频在线观看| 亚洲精品乱码久久久v下载方式| 亚洲av男天堂| 国产日韩欧美在线精品| 一级片'在线观看视频| 18+在线观看网站| 国产黄片视频在线免费观看| www.av在线官网国产| 国产免费视频播放在线视频| 99久久九九国产精品国产免费| 欧美日韩国产mv在线观看视频 | 自拍偷自拍亚洲精品老妇| 如何舔出高潮| 免费av毛片视频| 国产成人a区在线观看| 一级a做视频免费观看| 日韩欧美一区视频在线观看 | 免费看a级黄色片| 亚洲成人一二三区av| eeuss影院久久| 日本三级黄在线观看| 久久久成人免费电影| 亚洲人成网站高清观看| 精品久久久久久久久av| 日韩在线高清观看一区二区三区| 黄色怎么调成土黄色| 三级经典国产精品| 99久久精品国产国产毛片| 人妻夜夜爽99麻豆av| 国产乱来视频区| 久久久午夜欧美精品| 午夜福利视频1000在线观看| 亚洲av二区三区四区| 欧美一区二区亚洲| 欧美97在线视频| 久久久成人免费电影| 最近最新中文字幕大全电影3| av又黄又爽大尺度在线免费看| 国产欧美日韩一区二区三区在线 | 免费电影在线观看免费观看| 精品99又大又爽又粗少妇毛片| 菩萨蛮人人尽说江南好唐韦庄| 精品一区二区三卡| 99久久中文字幕三级久久日本| 中文字幕人妻熟人妻熟丝袜美| 99久久中文字幕三级久久日本| 日韩视频在线欧美| 亚洲最大成人av| 精品酒店卫生间| 久久国内精品自在自线图片| 精品人妻偷拍中文字幕| 91精品国产九色| 亚洲av.av天堂| 久久精品国产a三级三级三级| 日韩中字成人| 久久久久性生活片| 美女主播在线视频| 男女那种视频在线观看| 夫妻午夜视频| 精品少妇黑人巨大在线播放| 亚洲va在线va天堂va国产| 身体一侧抽搐| 久久久久性生活片| 亚洲怡红院男人天堂| 天堂网av新在线| 激情五月婷婷亚洲| www.av在线官网国产| 日本欧美国产在线视频| 91午夜精品亚洲一区二区三区| 女人被狂操c到高潮| 国产一区二区在线观看日韩| 涩涩av久久男人的天堂| 亚州av有码| 欧美潮喷喷水| 亚洲av一区综合| 夫妻性生交免费视频一级片| 男人和女人高潮做爰伦理| 日韩人妻高清精品专区| 成年免费大片在线观看| 国产一区二区在线观看日韩| 亚洲天堂国产精品一区在线| 日韩av免费高清视频| 久久久久久久久久成人| 一区二区三区免费毛片| av网站免费在线观看视频| 国产精品一二三区在线看| 久久精品久久久久久噜噜老黄| 亚洲国产成人一精品久久久| 丰满人妻一区二区三区视频av| 国产淫语在线视频| 久久久精品欧美日韩精品| 黄色配什么色好看| 亚洲va在线va天堂va国产| 免费观看在线日韩| 99热全是精品| 菩萨蛮人人尽说江南好唐韦庄| 一级毛片aaaaaa免费看小| 亚洲av一区综合| 国产av码专区亚洲av| 简卡轻食公司| av免费观看日本| 天堂网av新在线| 国产精品女同一区二区软件| 色网站视频免费| 久久久色成人| 精品人妻视频免费看| 国产大屁股一区二区在线视频| 国产亚洲最大av| 成人免费观看视频高清| 国产老妇伦熟女老妇高清| 国产 一区精品| 国产成人精品一,二区| 嫩草影院精品99|