• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    電子商務(wù)中人工智能體的民事責(zé)任研究
    ——以“電子代理人”為例

    2020-01-18 20:34:34張沁芊
    關(guān)鍵詞:民事責(zé)任代理人設(shè)計(jì)者

    張沁芊

    (蘇州大學(xué) 王健法學(xué)院,江蘇 蘇州 215006)

    二十一世紀(jì)以來,計(jì)算機(jī)技術(shù)和通信技術(shù)的結(jié)合與發(fā)展引發(fā)了商業(yè)運(yùn)行模式的深刻變革,電子商務(wù)飛速崛起。與此同時(shí),隨著深度學(xué)習(xí)技術(shù)的發(fā)展和大數(shù)據(jù)的應(yīng)用,人工智能得到了極大程度的發(fā)展?;谏淌陆灰椎碾娮踊l(fā)展趨勢,以電子代理人為代表的人工智能體逐漸應(yīng)用于電子商務(wù)領(lǐng)域。一些商家開始使用電子代理人開展商事活動(dòng),這種智能化的交易系統(tǒng)能夠獨(dú)立完成特定任務(wù),自動(dòng)處理數(shù)據(jù)電文,訂立甚至履行合同。[1]人工智能體能夠減少人力投入,降低交易成本,提升交易效率,推動(dòng)電子商務(wù)的發(fā)展,但也引發(fā)了一系列民事法律后果歸屬問題。由于電子商務(wù)有著異于傳統(tǒng)商務(wù)的特性,人工智能的發(fā)展更是具有極大的不確定性,傳統(tǒng)民法制度有時(shí)會左支右絀。一旦人工智能發(fā)展至強(qiáng)人工智能階段,現(xiàn)行民法體系可能會面臨不可小視的理論沖擊。對于電子商務(wù)中人工智能體帶來的民法挑戰(zhàn),應(yīng)在合理著眼未來的基礎(chǔ)上注重責(zé)任歸屬的理論設(shè)計(jì)。

    一、人工智能與電子商務(wù)的融合發(fā)展

    人工智能是一門新技術(shù)科學(xué),其目的是模擬、延伸和擴(kuò)展人的智能,以實(shí)現(xiàn)某些腦力勞動(dòng)的自動(dòng)化。人工智能自上個(gè)世紀(jì)五十年代誕生以來經(jīng)歷了兩次繁榮和兩次低谷,進(jìn)入低谷的原因主要是由于計(jì)算機(jī)硬件的落后。[2]目前我們正處于第三個(gè)繁榮時(shí)期,計(jì)算機(jī)的性能已經(jīng)足以支撐更大程度、更多領(lǐng)域的人工智能的發(fā)展,而且由于網(wǎng)絡(luò)的高速和便捷,“大數(shù)據(jù)”變得易于獲取,分布式系統(tǒng)也逐漸普及。人工智能將逐漸與互聯(lián)網(wǎng)相結(jié)合,不局限于單一領(lǐng)域和單一主機(jī),采用分布式計(jì)算的人工智能和互聯(lián)網(wǎng)領(lǐng)域的人工智能將逐漸成為其發(fā)展方向。

    人工智能主要包括為完成某項(xiàng)特定功能而設(shè)計(jì)的弱人工智能和具有類似人類思想的強(qiáng)人工智能,前者的例子有蘋果私人助手Siri、淘寶等交易平臺的機(jī)器人客服以及前不久在圍棋上戰(zhàn)勝人類的AlphaGo等等。弱人工智能普遍具有局限性,不具有自我意識并且應(yīng)用領(lǐng)域較為單一,但隨著技術(shù)的進(jìn)步,其呈現(xiàn)出一種融合發(fā)展的態(tài)勢,未來的弱人工智能將是多領(lǐng)域人工智能的結(jié)合,可以更加自然地與人交互并能夠處理多領(lǐng)域?qū)崉?wù)。強(qiáng)人工智能則具有比較鮮明的自我意識,具有主動(dòng)性并且不受某個(gè)領(lǐng)域的約束,具有一定的不可控性。目前計(jì)算機(jī)行業(yè)中還沒有公開普及型的強(qiáng)人工智能產(chǎn)品,但I(xiàn)BM、微軟、谷歌等行業(yè)巨頭都投入了巨大的人力物力,完成強(qiáng)人工智能的研發(fā)只是時(shí)間問題,當(dāng)這種具有情感的“機(jī)器”應(yīng)用于具體行業(yè)時(shí),勢必會引起新的法律變革。

    上世紀(jì)九十年代,計(jì)算機(jī)網(wǎng)絡(luò)技術(shù)發(fā)展迅速,人們開始使用電子通信手段進(jìn)行交易,電子商務(wù)這一新興交易模式開始起步。[3]隨著技術(shù)的革新和互聯(lián)網(wǎng)的應(yīng)用,電子商務(wù)在二十一世紀(jì)飛速發(fā)展。對于電子商務(wù)的概念,理論界目前沒有普遍接受的確切定義,可從廣義和狹義兩個(gè)層面理解。廣義的電子商務(wù)是指一切以電子技術(shù)手段進(jìn)行的、一切與商業(yè)有關(guān)的活動(dòng)。其中的“電子技術(shù)”包括但不限于電子通信與電子計(jì)算技術(shù),其中的“商務(wù)”包括不論是契約型或非契約型的一切商務(wù)性質(zhì)的關(guān)系所引起的種種事項(xiàng)。[4]狹義的電子商務(wù)是指以互聯(lián)網(wǎng)為運(yùn)行平臺的交易活動(dòng),其將“電子”限定為計(jì)算機(jī)網(wǎng)絡(luò)技術(shù),將“商務(wù)”限定為需要訂立合同或契約的交易活動(dòng),而非單純的信息傳遞。

    隨著電子商務(wù)的持續(xù)發(fā)展,商業(yè)模式不斷創(chuàng)新,其應(yīng)用范圍和市場規(guī)模不斷擴(kuò)展,人們開始尋求各種自動(dòng)化的商事工具,來應(yīng)對持續(xù)增長的商事規(guī)模。由此,人工智能逐漸應(yīng)用于電子商務(wù)領(lǐng)域,這些人工智能體能夠有效地降低商事成本,增加交易方便度,極大地推動(dòng)了電子商務(wù)的發(fā)展。但由于電子商務(wù)和人工智能所依托的網(wǎng)絡(luò)環(huán)境的自由化和計(jì)算機(jī)技術(shù)的復(fù)雜化,人工智能體的應(yīng)用引發(fā)了一系列民事責(zé)任的承擔(dān)問題,并可能在人工智能快速發(fā)展的同時(shí)愈演愈烈。

    二、人工智能體的民法挑戰(zhàn):以“電子代理人”為例

    人工智能體在電子商務(wù)活動(dòng)中的功能主要包括智能消費(fèi)客服、推薦與個(gè)性化預(yù)測、營銷效果預(yù)測等等。其中,作為人工智能體之一的電子代理人,是人工智能在電子商務(wù)中最具代表性的應(yīng)用,基本涵蓋了電子商務(wù)中人工智能體的共性功能與特征,從電子代理人入手能夠更加全面地剖析人工智能體潛在的民事責(zé)任歸屬問題。

    1.電子代理人的應(yīng)用現(xiàn)狀與發(fā)展前景。“電子代理人”(Electronic Agent)一詞最初源于美國法學(xué)會發(fā)布的《統(tǒng)一計(jì)算機(jī)信息交易法》(UCITA,1999),該法第102條將電子代理人定義為:“電子代理人是一種計(jì)算機(jī)程序、電子化手段或其他自動(dòng)化手段,其能獨(dú)立地做出行為、對電子信息和履行做出回應(yīng),在此過程中無需人工介入?!敝?,美國《統(tǒng)一電子交易法》(UETA,1999)在該條款的基礎(chǔ)上稍加改動(dòng),對其定義為:“電子代理人是指一種計(jì)算機(jī)程序、電子化手段或其他自動(dòng)化手段,其能獨(dú)立地做出行為、全部或部分地對電子記錄和履行做出回應(yīng),無需人工檢查或操作?!贝撕蟮拿绹度蚝腿珖虅?wù)電子簽名法》(E-SIGN,2000)和《統(tǒng)一商法典》(UCC)買賣篇(2003年修改)都沿用了《統(tǒng)一電子交易法》的定義。此外,加拿大《統(tǒng)一電子商務(wù)法》(UECA,1999)對電子代理人作出的定義為:“電子代理人是一種計(jì)算機(jī)程序,或任何電子化手段,其被用來做出行為、全部或部分地對電子文件和履行做出回應(yīng),在此過程中不需要自然人的檢查。”聯(lián)合國貿(mào)法會在其發(fā)布的《電子簽名統(tǒng)一規(guī)則(草案)》(DURES,1999)中提出了“電子代理人”(Electronic Agent)一詞,從而在世界范圍內(nèi)確定了此概念。

    由此可見,電子代理人在電子商務(wù)中得到了廣泛的應(yīng)用和認(rèn)可,在理論界已被逐漸推廣為通用的術(shù)語,雖然各國法律對電子代理人概念的表述不盡相同,但這些定義的實(shí)質(zhì)相同。通過這些定義可發(fā)現(xiàn),電子代理人是一種能夠獨(dú)立回應(yīng)、處理電子數(shù)據(jù)的自動(dòng)化工具,具有智能性、交互性等特征。[5]智能性是指電子代理人能夠主動(dòng)做出某些行為,或?qū)邮盏降碾娮訑?shù)據(jù)做出判斷和回應(yīng)。在實(shí)際應(yīng)用中,根據(jù)不同的預(yù)設(shè)程序,低智能的電子代理人可為“被代理人”提供選擇性建議,高智能的電子代理人可為“被代理人”直接做出決定。交互性是指電子代理人在運(yùn)作過程中能依特定語言與不同對象進(jìn)行通信,完成既定任務(wù),其交互對象主要包括自然人和其他電子代理人。

    目前,電子商務(wù)中的人工智能體仍然停留在弱人工智能的初級階段。以電子代理人為例,它們雖然能夠在運(yùn)作過程中做出主動(dòng)性表達(dá)和被動(dòng)性回應(yīng),代替人工管理交易、解決問題,并在一定程度上學(xué)習(xí)現(xiàn)有規(guī)律,但仍需要設(shè)計(jì)者預(yù)設(shè)程序,需要使用者的不斷指示,不能完全獨(dú)立地應(yīng)對新情況。電子代理人沒有獨(dú)立的意思表達(dá)能力,只能在被代理人提前設(shè)定的意思范圍內(nèi)做出表達(dá),在很多非程序化的具體交易過程中,電子代理人尚無法替代人類的高度智能進(jìn)行綜合性判斷。

    在人工智能深入研究的趨勢下,強(qiáng)人工智能是人工智能發(fā)展的最終目標(biāo),電子商務(wù)終將邁入認(rèn)知商務(wù)時(shí)代,人工智能體在電子商務(wù)領(lǐng)域中的應(yīng)用將有進(jìn)一步的突破。[6]在大數(shù)據(jù)時(shí)代,人工智能體將接觸和處理更多數(shù)據(jù),一個(gè)強(qiáng)人工智能電子代理人將具有類似人的情感,具有主動(dòng)性和相當(dāng)強(qiáng)大的推理能力?;趶?qiáng)大的實(shí)時(shí)洞察和認(rèn)知能力,強(qiáng)人工智能電子代理人能夠預(yù)測未來,實(shí)時(shí)同步地開展行動(dòng),甚至完全不需要人工參與。

    與目前的電子代理人相比,強(qiáng)人工智能電子代理人將更加智能化、個(gè)性化與精確化。首先,強(qiáng)人工智能電子代理人可以開展分析,幫助商家進(jìn)行客戶分析和商品銷售規(guī)劃,優(yōu)化營銷、銷售和價(jià)值鏈服務(wù)。其次,強(qiáng)人工智能電子代理人可以提前為客戶著想,了解他們的需求,以人性化方式與客戶深入互動(dòng)。再次,強(qiáng)人工智能電子代理人可以精確推斷出交易雙方的需求和能力,結(jié)合習(xí)慣喜好等因素自主選擇交易目標(biāo),從交易的預(yù)測到交易的開始,再到交易的結(jié)束,強(qiáng)人工智能電子代理人可通過人工智能選取最高效的、最令交易雙方滿意的解決方案,實(shí)現(xiàn)效益的最大化。最后,強(qiáng)人工智能電子代理人交易的安全性和及時(shí)性也可通過其人工智能得到保障,強(qiáng)人工智能電子代理人通過對海量數(shù)據(jù)的分析和學(xué)習(xí),將學(xué)習(xí)規(guī)避風(fēng)險(xiǎn)和注重實(shí)效,而不再是被動(dòng)應(yīng)對。

    2.電子代理人的民事責(zé)任歸屬問題。電子商務(wù)中的人工智能體以計(jì)算機(jī)網(wǎng)絡(luò)為依托,開展大量的商事活動(dòng),以電子代理人為代表的人工智能體作為電子商務(wù)活動(dòng)中的重要角色,其運(yùn)行涉及多方主體,包括設(shè)計(jì)者、服務(wù)提供商和使用者,這些主體對電子代理人均擁有不同程度的控制權(quán)。在一般情況下,電子代理人的行為效力歸屬較為明晰,但由于網(wǎng)絡(luò)的虛擬化和自由化程度較高,且人工智能技術(shù)正處于急速發(fā)展的狀態(tài),在特殊情況下,電子代理人行為后果的責(zé)任承擔(dān)相對復(fù)雜,下面予以分述。

    (1)正常情況下的民事責(zé)任歸屬。對于正常情況下電子代理人活動(dòng)的效力歸屬,在目前涉及電子代理人的法律中,已作出了較為明確的規(guī)定。如我國《電子商務(wù)法》第48條第1款規(guī)定,電子商務(wù)當(dāng)事人使用自動(dòng)信息系統(tǒng)訂立或者履行合同的行為對使用該系統(tǒng)的當(dāng)事人具有法律效力;聯(lián)合國貿(mào)法會《電子商務(wù)示范法》第13條第2款指出,對于數(shù)據(jù)電文的歸屬,就發(fā)端方與接收方之間而言,數(shù)據(jù)電文由發(fā)端方的自動(dòng)信息系統(tǒng)發(fā)送時(shí),視為發(fā)端方的數(shù)據(jù)電文;美國《統(tǒng)一計(jì)算機(jī)信息交易法》第107條第4款規(guī)定,任何人如使用其選擇的電子代理人進(jìn)行簽章、履行或訂立協(xié)議,包括意為同意的表示,應(yīng)受該電子代理人操作的約束,即使個(gè)人對電子代理人的操作或操作的結(jié)果不知道或沒有審查。

    電子代理人是按照一定范式運(yùn)作的自動(dòng)化交易系統(tǒng),電子代理人在其編程技術(shù)結(jié)構(gòu)的范圍內(nèi)接受使用者的授權(quán),按照設(shè)計(jì)者預(yù)設(shè)的運(yùn)行模式,從事網(wǎng)上交易行為。一般情況下,電子代理人通常按部就班地進(jìn)行締約、履約等日常工作,不出現(xiàn)任何差錯(cuò),不會超過預(yù)定范圍自主作出意思表示。在傳統(tǒng)代理制度中,代理人在代理權(quán)限內(nèi)所做行為的后果歸屬于被代理人。電子代理人正常運(yùn)行時(shí),可以正確執(zhí)行使用者的真實(shí)意志,屬于在代理權(quán)限范圍內(nèi)做出“代理行為”,因而此類活動(dòng)的行為效力應(yīng)歸屬于使用者。[7]

    (2)異常情況下的民事責(zé)任歸屬。電子代理人的運(yùn)作涉及多方主體,各方主體對電子代理人的活動(dòng)均有一定的影響力,一旦電子代理人活動(dòng)異常,其法律后果歸屬往往難以確定,現(xiàn)行民法對此尚無具體詳盡的規(guī)定。

    一方面,電子代理人可能會導(dǎo)致交易行為錯(cuò)誤。電子代理人是一個(gè)虛擬程序,交易主體無法采用傳統(tǒng)的當(dāng)面交流方式,而需使用電子產(chǎn)品的終端進(jìn)行交流。由于電子環(huán)境具有較強(qiáng)的不可控性,電子代理人的活動(dòng)極易受影響。因此,電子代理人時(shí)常出現(xiàn)錯(cuò)誤的交易行為,主要包括兩種情況。第一,電子代理人會出現(xiàn)締約錯(cuò)誤,原因可能來自使用者、程序設(shè)計(jì)者或黑客。例如,在委托授權(quán)階段,若使用者對交易的對象、數(shù)量、質(zhì)量等產(chǎn)生了認(rèn)識錯(cuò)誤,或在鍵入交易數(shù)據(jù)時(shí)出現(xiàn)了輸入錯(cuò)誤,則會對電子代理人進(jìn)行錯(cuò)誤授權(quán),做出不真實(shí)的意思表示,導(dǎo)致電子代理人締約錯(cuò)誤。在此種情形下,對于使用者的認(rèn)識錯(cuò)誤,可按照傳統(tǒng)合同法的相關(guān)規(guī)則解決。而對于輸入性錯(cuò)誤,使用者是否能夠主張變更或撤銷合同,考慮到電子商務(wù)的便捷性和舉證的困難性,學(xué)界對此并無通說。若合同被判定為不成立、無效或被變更、撤銷,對于交易相對人的信賴?yán)娴膿p失,使用者理應(yīng)承擔(dān)締約過失責(zé)任。但若使用者的過失是由于電子代理人未設(shè)置合理的提醒程序,那么使用者能否提出抗辯,并要求由程序設(shè)計(jì)者來承擔(dān)交易相對人的損失,法律并未作出規(guī)定,此時(shí)締約錯(cuò)誤的責(zé)任歸屬難以確定。第二,電子代理人會出現(xiàn)履約錯(cuò)誤,原因可能是其自身存在程序漏洞或遭到黑客入侵。在電子代理人自身存在程序漏洞的情況下,根據(jù)合同相對性原理,電子代理人引起的違約責(zé)任應(yīng)由其使用者承擔(dān),再由使用者向設(shè)計(jì)者追責(zé)。但在電子代理人遭到黑客入侵的情況下,由于黑客具有極強(qiáng)的隱蔽性,難以追責(zé),是否應(yīng)將黑客入侵視為不可抗力而對使用者部分或全部免責(zé),此時(shí)不同的理論選擇會使電子代理人違約責(zé)任的最終承擔(dān)者有所差異。

    另一方面,電子代理人在運(yùn)行異常的情況下,除了會因交易錯(cuò)誤損害交易主體的財(cái)產(chǎn)權(quán)等權(quán)利外,還存在其他侵權(quán)可能性。電子代理人承載著相當(dāng)龐大的信息數(shù)據(jù),這些信息數(shù)據(jù)可能涉及交易主體的人身權(quán)和財(cái)產(chǎn)權(quán)。而電子代理人的系統(tǒng)安全漏洞、數(shù)據(jù)加密程度、病毒或黑客入侵等因素都可能導(dǎo)致這些信息丟失,或被篡改、破壞,從而產(chǎn)生侵權(quán)后果。由于電子代理人涉及的主體較多,對于此類侵權(quán)后果的責(zé)任歸屬問題,應(yīng)該如何確定責(zé)任主體,如何適用歸責(zé)原則,傳統(tǒng)的歸責(zé)原則能否同樣適用于電子代理人,學(xué)者的觀點(diǎn)多有不同,各國法律對此也未作出明確規(guī)定。

    三、電子商務(wù)中人工智能體的民事責(zé)任承擔(dān)

    根據(jù)前文關(guān)于電子代理人民事責(zé)任歸屬問題的論述可知,目前人工智能體在電子商務(wù)中的應(yīng)用帶來了大量的民事責(zé)任承擔(dān)問題,對于此類民事責(zé)任應(yīng)如何歸責(zé),現(xiàn)行民法尚無具體規(guī)定,隨著人工智能技術(shù)的發(fā)展,這些問題會進(jìn)一步凸顯。除了在計(jì)算機(jī)領(lǐng)域進(jìn)行技術(shù)完善外,現(xiàn)行民法也必須正視和解決此類問題,明確不同情況下的民事責(zé)任承擔(dān)。如前所述,人工智能體依據(jù)其是否擁有思維而被分為弱人工智能體與強(qiáng)人工智能體,對于不同類型的人工智能體導(dǎo)致的法律后果,應(yīng)分別規(guī)定不同的民事責(zé)任承擔(dān)方式。

    1.弱人工智能體應(yīng)用中的民事責(zé)任。弱人工智能體的智能化程度具有局限性,只能在設(shè)計(jì)者的編程范圍內(nèi)以及使用者的指令范圍內(nèi)開展活動(dòng),其活動(dòng)能力是基于計(jì)算機(jī)程序或自動(dòng)化手段的本質(zhì)而存在的,并沒有獨(dú)立的意思表達(dá)能力,本質(zhì)上只是一種交易工具。對于弱人工智能體正常的締約、履約等行為,應(yīng)將其效力歸屬于弱人工智能體的使用者,對于弱人工智能體運(yùn)行異常時(shí)的錯(cuò)誤交易行為和侵權(quán)行為,其責(zé)任歸屬情況較為復(fù)雜,現(xiàn)有法律并未作出具體規(guī)定。由于弱人工智能體活動(dòng)異常的成因較多,不同成因必然導(dǎo)致不同的法律后果和法律救濟(jì),本文擬從異常原因角度進(jìn)行責(zé)任歸屬的理論設(shè)計(jì)。

    (1)使用者行為錯(cuò)誤。使用者的行為錯(cuò)誤主要表現(xiàn)為輸入性錯(cuò)誤,對弱人工智能體做出了不正確的授權(quán),致使弱人工智能體錯(cuò)誤締約,由此訂立的合同存在意思表示瑕疵。對此情形下的責(zé)任歸屬判定,應(yīng)更深入地分析使用者出現(xiàn)行為錯(cuò)誤的原因,考慮使用者做出該錯(cuò)誤行為時(shí)弱人工智能體是否給出了提醒程序。若弱人工智能體提供了醒目的提醒界面,使用者完全是由于自身的失誤致使行為出錯(cuò),則締約錯(cuò)誤的責(zé)任應(yīng)歸屬于使用者;[8]若弱人工智能體未設(shè)置提醒程序,或提醒程序設(shè)置不合理,無法對使用者作出醒目提示以使其避免或更改錯(cuò)誤,此時(shí)該締約錯(cuò)誤可能涉及程序設(shè)計(jì)者的過錯(cuò),屬于程序技術(shù)缺陷的討論范疇。

    (2)程序技術(shù)缺陷。弱人工智能體若自身存在程序缺陷,極易使其承載的信息數(shù)據(jù)在存儲或傳輸?shù)倪^程中丟失或出錯(cuò),這不僅會導(dǎo)致上文提到的締約錯(cuò)誤,還會導(dǎo)致履約錯(cuò)誤以及信息數(shù)據(jù)的泄露,影響電子交易和信息安全,引發(fā)締約過失責(zé)任、違約責(zé)任和侵權(quán)責(zé)任的承擔(dān)問題。

    對于弱人工智能體因自身技術(shù)缺陷產(chǎn)生的締約過失責(zé)任,應(yīng)由使用者承擔(dān)。締約過失責(zé)任是指在合同訂立過程中,一方因違背其依據(jù)誠實(shí)信用原則所產(chǎn)生的義務(wù),而致另一方的信賴?yán)娴膿p失,對此應(yīng)承擔(dān)損害賠償責(zé)任。[9]在弱人工智能體存在程序缺陷的情況下(如缺少合理的提醒程序),若使用者也存在一定過錯(cuò),在操作系統(tǒng)時(shí)未盡注意義務(wù),做出了錯(cuò)誤的意思表示,導(dǎo)致合同不成立、無效、被撤銷等等而損害交易相對人的信賴?yán)妫褂谜邞?yīng)承擔(dān)締約過失責(zé)任。由于弱人工智能體存在程序缺陷,未合理規(guī)避使用者可能出現(xiàn)的操作錯(cuò)誤,使用者對其自身的損失,可向負(fù)責(zé)弱人工智能體程序技術(shù)的第三人追責(zé)。

    對于弱人工智能體因自身技術(shù)缺陷產(chǎn)生的違約責(zé)任,按照合同相對性規(guī)則,使用者需承擔(dān)直接責(zé)任。但此時(shí)使用者的違約是由弱人工智能體的程序技術(shù)缺陷引起的,因此,使用者可向第三人追責(zé)。需要說明的是,此處的第三人在理論上包括人工智能體的程序設(shè)計(jì)者和程序運(yùn)營商,但在實(shí)際情況中,運(yùn)營商通常自行研發(fā)人工智能體,設(shè)計(jì)者與運(yùn)營商合二為一,且即使運(yùn)營商選擇弱人工智能體外包,其技術(shù)更新與日常維護(hù)也是由外包的程序設(shè)計(jì)者負(fù)責(zé)。因此本文只將設(shè)計(jì)者作為責(zé)任歸屬的討論對象,若二者出現(xiàn)分離,具體的追責(zé)方式可根據(jù)產(chǎn)品質(zhì)量的相關(guān)規(guī)定解決。

    對于弱人工智能體因自身技術(shù)缺陷產(chǎn)生的侵權(quán)責(zé)任,應(yīng)推定弱人工智能體的程序設(shè)計(jì)者存在過錯(cuò),若設(shè)計(jì)者無法證明自己沒有過錯(cuò),應(yīng)當(dāng)承擔(dān)侵權(quán)責(zé)任。此處選擇適用過錯(cuò)推定原則來確定責(zé)任承擔(dān)者的理由是,弱人工智能體的活動(dòng)具有自動(dòng)性且涉及較多技術(shù)問題,被侵權(quán)人難以證明設(shè)計(jì)者在程序設(shè)計(jì)中存在的過錯(cuò),容易出現(xiàn)無人擔(dān)責(zé)的情況,而過錯(cuò)推定原則在一定程度上可以保障被侵權(quán)人的權(quán)利救濟(jì)。[10]此外,若設(shè)計(jì)者能夠證明被侵權(quán)人對損害的發(fā)生也有過錯(cuò),例如被侵權(quán)人未及時(shí)下載安裝弱人工智能體的更新補(bǔ)丁,未盡必要注意義務(wù),存在一定過錯(cuò),則可減輕設(shè)計(jì)者的責(zé)任。

    (3)黑客惡意入侵。弱人工智能體活動(dòng)異常的另一可能原因是黑客入侵,黑客會惡意攻擊或利用病毒侵害弱人工智能體,破壞信息數(shù)據(jù)的完整性和正確性,使弱人工智能體出現(xiàn)系統(tǒng)運(yùn)行混亂、信息數(shù)據(jù)被篡改等情況,對交易秩序和信息安全造成重大破壞,導(dǎo)致締約過失責(zé)任、違約責(zé)任和侵權(quán)責(zé)任的產(chǎn)生。

    對于弱人工智能體因黑客入侵而產(chǎn)生的締約過失責(zé)任,應(yīng)由使用者承擔(dān)責(zé)任。在黑客入侵的情況下,若由于使用者未及時(shí)更新弱人工智能體的安全補(bǔ)丁,導(dǎo)致弱人工智能體無法抵御黑客入侵,則使用者存在過錯(cuò),需要對由此產(chǎn)生的交易相對人的信賴?yán)鎿p失承擔(dān)賠償責(zé)任。使用者對其自身的損失,可按照侵權(quán)責(zé)任規(guī)則向黑客追責(zé)。

    對于弱人工智能體因黑客入侵而產(chǎn)生的違約責(zé)任,按照合同相對性原則,使用者需承擔(dān)直接責(zé)任。但使用者是因黑客的入侵而違約,對于自身的損失,其可按照相關(guān)規(guī)則向黑客追責(zé)。但若該黑客的攻擊活動(dòng)屬于無法預(yù)見、無法避免、無法克服的客觀情況,則使用者應(yīng)按照傳統(tǒng)合同法的規(guī)定,根據(jù)不可抗力的影響,部分或全部地免除責(zé)任。

    對于弱人工智能體因遭到黑客入侵而產(chǎn)生的侵權(quán)責(zé)任,由于黑客具有極強(qiáng)的隱蔽性,應(yīng)根據(jù)黑客的追蹤情況考慮不同的責(zé)任歸屬。在成功追蹤黑客并確定其身份的情況下,應(yīng)按照過錯(cuò)責(zé)任原則判定其承擔(dān)侵權(quán)責(zé)任。同時(shí),就弱人工智能體的設(shè)計(jì)者而言,若其知曉黑客的入侵活動(dòng)卻無合理舉措的,應(yīng)承擔(dān)相應(yīng)的民事責(zé)任;若其在接到被侵權(quán)人通知后未及時(shí)采取必要措施的,應(yīng)對損失的擴(kuò)大部分與黑客承擔(dān)連帶責(zé)任。[11]在黑客難以追蹤、無法確定身份的情況下,被侵權(quán)人的權(quán)利得不到救濟(jì),此時(shí)應(yīng)推定弱人工智能體的程序存在安全漏洞,推定其設(shè)計(jì)者存在過錯(cuò)。若設(shè)計(jì)者無法證明自己沒有過錯(cuò),就應(yīng)承擔(dān)侵權(quán)責(zé)任;若設(shè)計(jì)者證明自己已履行防范義務(wù),該黑客的入侵活動(dòng)屬于無法預(yù)見、無法避免、無法克服的情況,則其不承擔(dān)責(zé)任,此時(shí)可考慮按照公平責(zé)任原則由雙方分擔(dān)損失。

    2.強(qiáng)人工智能體應(yīng)用中的民事責(zé)任。強(qiáng)人工智能體的智能化程度較高,一旦人工智能體發(fā)展到強(qiáng)人工智能的階段,其信息搜集能力和交易快捷度將會有質(zhì)的提升,具有主動(dòng)性和一定的不可控性。一方面,強(qiáng)人工智能體能夠在預(yù)設(shè)的程序范圍內(nèi)進(jìn)行活動(dòng),此時(shí)的民事責(zé)任承擔(dān)與弱人工智能體的民事責(zé)任承擔(dān)方式無異。另一方面,強(qiáng)人工智能體能夠在預(yù)設(shè)程序范圍外根據(jù)自我分析作出即時(shí)自動(dòng)決策,此時(shí)強(qiáng)人工智能體具備獨(dú)立的意思表示,不宜將其引發(fā)的責(zé)任歸結(jié)于使用者、設(shè)計(jì)者等相關(guān)主體,應(yīng)考慮由強(qiáng)人工智能體自身承擔(dān)相應(yīng)的民事責(zé)任。

    強(qiáng)人工智能體具有強(qiáng)大的判斷分析能力,能夠積極主動(dòng)地進(jìn)行認(rèn)知和預(yù)測,自行處理委托事務(wù),強(qiáng)人工智能體的行為具有獨(dú)立性,應(yīng)承擔(dān)自己行為引發(fā)的法律后果。部分學(xué)者提出將其認(rèn)定為有行為能力但無權(quán)利能力的主體,[12]這實(shí)際上仍然是工具論的延伸,并沒有解決強(qiáng)人工智能體的責(zé)任承擔(dān)問題。一方面,強(qiáng)人工智能體可以根據(jù)自我判斷為使用者衡量利弊,可獨(dú)立做出意思表示,進(jìn)行商事活動(dòng),該行為本質(zhì)與自然人一致。另一方面,當(dāng)強(qiáng)人工智能體并不按照設(shè)計(jì)者預(yù)設(shè)的程序進(jìn)行活動(dòng)時(shí),其在運(yùn)行過程中的行為是使用者和設(shè)計(jì)者都無法預(yù)測的。若仍適用現(xiàn)有理論否認(rèn)法律主體資格,認(rèn)為強(qiáng)人工智能體是沒有權(quán)利能力和行為能力的交易工具,那么相關(guān)主體可能會承擔(dān)過多不可測的風(fēng)險(xiǎn),不利于糾紛的解決和強(qiáng)人工智能體的應(yīng)用。因此,應(yīng)考慮法律擬制賦予其法律主體資格,將其視為一般自然人,則其從事的民事行為,就能夠適用民事制度的相關(guān)規(guī)定,在行為的方式、效力、后果歸屬上都將有完備的理論解釋。強(qiáng)人工智能體在具備法律主體資格的情況下,若由于缺少財(cái)產(chǎn)而無法擔(dān)責(zé),將不利于糾紛的解決。此時(shí)可以考慮設(shè)立強(qiáng)人工智能體注冊機(jī)構(gòu),由設(shè)計(jì)者或運(yùn)營商向注冊機(jī)構(gòu)交付一定財(cái)產(chǎn),使強(qiáng)人工智能體擁有一定的獨(dú)立財(cái)產(chǎn)以承擔(dān)相應(yīng)的民事責(zé)任,強(qiáng)人工智能體日后運(yùn)行所獲的利潤也可相應(yīng)納入其獨(dú)立資本中。

    此外,人工智能體的應(yīng)用審查機(jī)制也應(yīng)得到嚴(yán)格規(guī)范。在認(rèn)知商務(wù)時(shí)代,強(qiáng)人工智能體具有極高的數(shù)據(jù)搜集分析能力,自由化程度高,如果不對其研發(fā)加以控制,極可能有被惡意利用的強(qiáng)人工智能體,出現(xiàn)由于強(qiáng)人工智能體因其行為的獨(dú)立性而需自行承擔(dān)相關(guān)后果,其設(shè)計(jì)者或操控者可能會以此逃避法律責(zé)任。因此,必須建立人工智能體的程序?qū)彶闄C(jī)制,加強(qiáng)對人工智能體研發(fā)環(huán)節(jié)、驗(yàn)收試用環(huán)節(jié)、市場運(yùn)營環(huán)節(jié)的監(jiān)督與管理工作,防止存在安全性問題的人工智能體投入應(yīng)用于電子商務(wù)領(lǐng)域。與此同時(shí),還應(yīng)設(shè)定合理的人工智能體智能化程度劃分標(biāo)準(zhǔn),用以判定某具體人工智能體是否能夠成為法律關(guān)系主體,從而適用不同的民事責(zé)任承擔(dān)方式。

    四、結(jié) 語

    我國電子商務(wù)領(lǐng)域目前應(yīng)用的人工智能體為弱人工智能體,雖然尚不足以對民事法律帶來顛覆性的挑戰(zhàn),但相較于傳統(tǒng)交易活動(dòng),已經(jīng)出現(xiàn)了許多難以解決的民事糾紛。隨著人工智能技術(shù)的進(jìn)一步發(fā)展,人工智能體的智能化程度必將進(jìn)一步提高,雖然強(qiáng)人工智能體目前尚未問世,但面對日新月異的科學(xué)技術(shù),我們必須著眼于可能出現(xiàn)的民事法律問題,思考相應(yīng)的制度規(guī)范。由于電子商務(wù)領(lǐng)域是人工智能技術(shù)應(yīng)用的典型領(lǐng)域,本文只對人工智能體在電子商務(wù)領(lǐng)域可能引發(fā)的民事責(zé)任歸屬問題進(jìn)行探討。但人工智能體的應(yīng)用范圍極其廣泛,人工智能體在其他領(lǐng)域內(nèi)的應(yīng)用所產(chǎn)生的民事責(zé)任應(yīng)如何歸結(jié),仍有待進(jìn)一步研究。

    猜你喜歡
    民事責(zé)任代理人設(shè)計(jì)者
    2020德國iF設(shè)計(jì)獎(jiǎng)
    中華全國專利代理人協(xié)會簡介
    專利代理(2019年3期)2019-12-30 08:23:54
    中華全國專利代理人協(xié)會簡介
    專利代理(2019年4期)2019-12-27 00:56:54
    2019德國IF設(shè)計(jì)大獎(jiǎng)
    中華全國專利代理人協(xié)會推薦的2018年第四期訴訟代理人名單
    專利代理(2019年1期)2019-04-13 02:10:50
    民事責(zé)任能力問題的探討
    商情(2012年48期)2017-11-08 19:33:32
    2016年第一期訴訟代理人名單
    專利代理(2016年1期)2016-05-17 06:14:38
    楊敬:深水區(qū)醫(yī)改設(shè)計(jì)者
    深水區(qū)醫(yī)改設(shè)計(jì)者
    “友好專家證人”的民事責(zé)任①——基于Pace v. Swerdlow案之分析
    看免费成人av毛片| 欧美极品一区二区三区四区| 99久国产av精品国产电影| 亚洲精品色激情综合| 久久精品熟女亚洲av麻豆精品 | 国产色婷婷99| 久久精品国产亚洲网站| 中文乱码字字幕精品一区二区三区 | 丰满乱子伦码专区| 久久久久久久午夜电影| 美女黄网站色视频| 亚洲精品色激情综合| 国产一区亚洲一区在线观看| 久久精品久久久久久噜噜老黄| 久久精品国产自在天天线| 欧美日韩精品成人综合77777| 九九久久精品国产亚洲av麻豆| 草草在线视频免费看| 91av网一区二区| 黄片无遮挡物在线观看| 黄片无遮挡物在线观看| 国产一区二区三区av在线| 蜜臀久久99精品久久宅男| 神马国产精品三级电影在线观看| 91久久精品电影网| 日韩人妻高清精品专区| 亚洲精品亚洲一区二区| 亚洲欧美精品专区久久| 日本色播在线视频| av在线观看视频网站免费| 少妇人妻一区二区三区视频| 自拍偷自拍亚洲精品老妇| 纵有疾风起免费观看全集完整版 | 免费黄频网站在线观看国产| 久久久久网色| 欧美日韩国产mv在线观看视频 | 国产av码专区亚洲av| 国产永久视频网站| 蜜臀久久99精品久久宅男| 精品久久久久久久久亚洲| 3wmmmm亚洲av在线观看| 久久久久久伊人网av| 日韩av免费高清视频| 狂野欧美激情性xxxx在线观看| 一级毛片电影观看| 激情五月婷婷亚洲| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 免费无遮挡裸体视频| 国产黄片美女视频| 国产男女超爽视频在线观看| 最近中文字幕2019免费版| 国产免费福利视频在线观看| 国产免费福利视频在线观看| 2022亚洲国产成人精品| 少妇人妻一区二区三区视频| 日本色播在线视频| 中文欧美无线码| 久久这里只有精品中国| 我的女老师完整版在线观看| 亚洲国产精品sss在线观看| 日韩伦理黄色片| 国产一区二区在线观看日韩| 亚洲av男天堂| 亚洲国产欧美在线一区| 亚洲最大成人av| 在线观看免费高清a一片| 久久久久精品性色| 欧美丝袜亚洲另类| 免费看日本二区| 极品教师在线视频| 成人高潮视频无遮挡免费网站| 十八禁国产超污无遮挡网站| 国产一区有黄有色的免费视频 | av在线蜜桃| 亚洲乱码一区二区免费版| 亚洲av中文av极速乱| 国产午夜精品久久久久久一区二区三区| 国产一区二区在线观看日韩| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 你懂的网址亚洲精品在线观看| 精品人妻偷拍中文字幕| 国产午夜精品久久久久久一区二区三区| 精品久久久久久电影网| 国产精品久久久久久精品电影| 97超视频在线观看视频| 成人国产麻豆网| 五月玫瑰六月丁香| 国国产精品蜜臀av免费| 麻豆国产97在线/欧美| 听说在线观看完整版免费高清| 久久韩国三级中文字幕| 欧美成人一区二区免费高清观看| 99久国产av精品国产电影| a级毛色黄片| 亚洲久久久国产精品| 性高湖久久久久久久久免费观看| 丝袜美腿诱惑在线| 国产成人精品久久二区二区91 | 亚洲在久久综合| 黄色一级大片看看| 色94色欧美一区二区| 亚洲成人av在线免费| 免费女性裸体啪啪无遮挡网站| 一级毛片黄色毛片免费观看视频| 制服丝袜香蕉在线| 天天操日日干夜夜撸| 亚洲人成电影观看| 国产精品秋霞免费鲁丝片| 午夜激情久久久久久久| av天堂久久9| 亚洲色图综合在线观看| 亚洲 欧美一区二区三区| 夜夜骑夜夜射夜夜干| 久久久久国产精品人妻一区二区| 婷婷成人精品国产| 久久久久久久亚洲中文字幕| 国产精品香港三级国产av潘金莲 | av国产精品久久久久影院| 又黄又粗又硬又大视频| 老司机亚洲免费影院| 黄网站色视频无遮挡免费观看| 熟妇人妻不卡中文字幕| 美女中出高潮动态图| 中文字幕人妻丝袜一区二区 | 久热这里只有精品99| 精品一品国产午夜福利视频| 久久精品国产亚洲av涩爱| 成年人免费黄色播放视频| 久久精品人人爽人人爽视色| 国产精品 国内视频| 少妇被粗大猛烈的视频| 成年女人毛片免费观看观看9 | 观看美女的网站| 性色avwww在线观看| 国产成人欧美| 美女午夜性视频免费| 尾随美女入室| 久久久国产精品麻豆| 十八禁网站网址无遮挡| 巨乳人妻的诱惑在线观看| 欧美变态另类bdsm刘玥| 不卡视频在线观看欧美| 视频在线观看一区二区三区| 美女主播在线视频| 有码 亚洲区| 久久国产亚洲av麻豆专区| 又黄又粗又硬又大视频| 高清不卡的av网站| 婷婷色综合www| 一边摸一边做爽爽视频免费| 黑人巨大精品欧美一区二区蜜桃| 美女午夜性视频免费| 女性生殖器流出的白浆| 边亲边吃奶的免费视频| 欧美日韩视频精品一区| 2018国产大陆天天弄谢| 卡戴珊不雅视频在线播放| 亚洲一区中文字幕在线| 中文字幕亚洲精品专区| 久久婷婷青草| 国产av码专区亚洲av| 国产 一区精品| 欧美中文综合在线视频| 午夜日韩欧美国产| 国产精品久久久久久久久免| 赤兔流量卡办理| 熟女电影av网| 99香蕉大伊视频| 成人影院久久| 最近手机中文字幕大全| 性色av一级| 国产精品国产av在线观看| 欧美精品一区二区大全| 欧美bdsm另类| 9色porny在线观看| 下体分泌物呈黄色| 精品99又大又爽又粗少妇毛片| 国产精品国产av在线观看| 成人毛片60女人毛片免费| 一本色道久久久久久精品综合| 国产av国产精品国产| 久久久久久久大尺度免费视频| 99国产精品免费福利视频| 不卡视频在线观看欧美| 少妇人妻精品综合一区二区| 韩国av在线不卡| 日韩,欧美,国产一区二区三区| 欧美日韩精品成人综合77777| 午夜日韩欧美国产| 三上悠亚av全集在线观看| 看十八女毛片水多多多| 爱豆传媒免费全集在线观看| 99久久精品国产国产毛片| 国产乱人偷精品视频| 狠狠婷婷综合久久久久久88av| 只有这里有精品99| 中国国产av一级| 香蕉精品网在线| 两个人免费观看高清视频| 亚洲av欧美aⅴ国产| av一本久久久久| 最近的中文字幕免费完整| 亚洲欧美成人精品一区二区| 高清黄色对白视频在线免费看| 人人妻人人澡人人看| 观看美女的网站| 免费黄网站久久成人精品| 亚洲成色77777| 国产一区二区三区av在线| 在线观看一区二区三区激情| 日韩精品免费视频一区二区三区| 免费女性裸体啪啪无遮挡网站| 极品人妻少妇av视频| 亚洲成人手机| 亚洲三区欧美一区| 午夜福利乱码中文字幕| 欧美激情高清一区二区三区 | 欧美日韩一区二区视频在线观看视频在线| 最黄视频免费看| 久久影院123| 日韩一区二区三区影片| 亚洲精品久久成人aⅴ小说| 欧美xxⅹ黑人| 少妇人妻久久综合中文| 亚洲 欧美一区二区三区| 久久久久久免费高清国产稀缺| 国产av一区二区精品久久| 亚洲欧美精品自产自拍| 一级毛片 在线播放| 少妇猛男粗大的猛烈进出视频| 热re99久久精品国产66热6| 久久精品aⅴ一区二区三区四区 | 亚洲一级一片aⅴ在线观看| 精品少妇内射三级| 伊人久久国产一区二区| 欧美97在线视频| 美女午夜性视频免费| 黑丝袜美女国产一区| av免费观看日本| 日本午夜av视频| 久久午夜综合久久蜜桃| 激情五月婷婷亚洲| 午夜福利影视在线免费观看| 日本91视频免费播放| 99精国产麻豆久久婷婷| 最新中文字幕久久久久| 亚洲成人手机| 在线亚洲精品国产二区图片欧美| 精品人妻熟女毛片av久久网站| 久久99蜜桃精品久久| 啦啦啦在线观看免费高清www| 日本欧美国产在线视频| tube8黄色片| 国产成人精品在线电影| 免费观看a级毛片全部| 午夜免费鲁丝| 一级a爱视频在线免费观看| 久久精品aⅴ一区二区三区四区 | xxx大片免费视频| 日韩欧美精品免费久久| 99久久人妻综合| 国产男女超爽视频在线观看| 日本vs欧美在线观看视频| 午夜福利影视在线免费观看| 十八禁高潮呻吟视频| 国产精品一区二区在线观看99| 日韩一卡2卡3卡4卡2021年| 久久精品久久精品一区二区三区| 国产日韩欧美视频二区| 亚洲成av片中文字幕在线观看 | 久久青草综合色| 亚洲国产欧美日韩在线播放| 高清视频免费观看一区二区| 人人妻人人爽人人添夜夜欢视频| 国产精品国产av在线观看| 免费黄网站久久成人精品| 国产一级毛片在线| 亚洲国产最新在线播放| av卡一久久| av又黄又爽大尺度在线免费看| 亚洲美女视频黄频| 一区在线观看完整版| 久久久久视频综合| 热99国产精品久久久久久7| 男人添女人高潮全过程视频| 天天操日日干夜夜撸| 91久久精品国产一区二区三区| 亚洲精品成人av观看孕妇| 两个人免费观看高清视频| 婷婷色麻豆天堂久久| 国产精品一区二区在线不卡| 国产无遮挡羞羞视频在线观看| 亚洲,欧美精品.| 国产精品国产三级专区第一集| 国产综合精华液| 18禁观看日本| 精品酒店卫生间| 亚洲国产av新网站| 国产在视频线精品| 国产成人精品一,二区| 90打野战视频偷拍视频| 亚洲av男天堂| 国产精品久久久久成人av| 一区福利在线观看| 2022亚洲国产成人精品| 日韩成人av中文字幕在线观看| 国产一级毛片在线| 欧美激情极品国产一区二区三区| 欧美日韩精品成人综合77777| av卡一久久| 91成人精品电影| 欧美精品人与动牲交sv欧美| 一级毛片电影观看| 国产无遮挡羞羞视频在线观看| 国产探花极品一区二区| 少妇猛男粗大的猛烈进出视频| 亚洲av免费高清在线观看| 在线观看人妻少妇| 亚洲一区二区三区欧美精品| 久久热在线av| 成人二区视频| 国产在线免费精品| 亚洲伊人久久精品综合| 亚洲精品国产av成人精品| 一区福利在线观看| 91aial.com中文字幕在线观看| 人人妻人人添人人爽欧美一区卜| 久久久久久久国产电影| av.在线天堂| 免费av中文字幕在线| 国产精品蜜桃在线观看| 叶爱在线成人免费视频播放| 777米奇影视久久| 久久人人爽人人片av| 黄色配什么色好看| 日日撸夜夜添| 97人妻天天添夜夜摸| 少妇的逼水好多| 黄片无遮挡物在线观看| 91精品伊人久久大香线蕉| 波多野结衣av一区二区av| 男女啪啪激烈高潮av片| 色视频在线一区二区三区| 精品亚洲乱码少妇综合久久| 成年美女黄网站色视频大全免费| 亚洲精品国产色婷婷电影| 婷婷色av中文字幕| 国产免费现黄频在线看| 亚洲精品乱久久久久久| 久久久久国产精品人妻一区二区| 亚洲精品美女久久av网站| 日韩一卡2卡3卡4卡2021年| a 毛片基地| a级片在线免费高清观看视频| 国产精品一国产av| 丝袜美足系列| 亚洲三级黄色毛片| 欧美亚洲 丝袜 人妻 在线| 91精品国产国语对白视频| 精品亚洲成国产av| 午夜福利网站1000一区二区三区| 熟女少妇亚洲综合色aaa.| 晚上一个人看的免费电影| 黑丝袜美女国产一区| 国产精品免费大片| 国产精品免费视频内射| 午夜福利,免费看| 免费在线观看黄色视频的| 亚洲欧美清纯卡通| 久久婷婷青草| 亚洲美女黄色视频免费看| 夜夜骑夜夜射夜夜干| 国产淫语在线视频| 电影成人av| 色播在线永久视频| 精品一品国产午夜福利视频| 26uuu在线亚洲综合色| 下体分泌物呈黄色| 日本黄色日本黄色录像| 啦啦啦在线观看免费高清www| 激情视频va一区二区三区| 国产免费现黄频在线看| 精品午夜福利在线看| 亚洲成人一二三区av| 精品国产露脸久久av麻豆| 久久久国产一区二区| 婷婷成人精品国产| 亚洲经典国产精华液单| 丰满乱子伦码专区| 国产成人欧美| 国产免费福利视频在线观看| 成人漫画全彩无遮挡| 久久久a久久爽久久v久久| 超色免费av| 一级毛片我不卡| 国产成人午夜福利电影在线观看| 精品国产一区二区久久| 777久久人妻少妇嫩草av网站| 成人免费观看视频高清| √禁漫天堂资源中文www| 女的被弄到高潮叫床怎么办| 久久人妻熟女aⅴ| 国产一区二区 视频在线| 欧美成人精品欧美一级黄| av网站免费在线观看视频| 91精品国产国语对白视频| 久久久久久久亚洲中文字幕| 国产一区二区三区av在线| 在现免费观看毛片| 久久鲁丝午夜福利片| 亚洲精品乱久久久久久| 免费黄色在线免费观看| 欧美最新免费一区二区三区| 免费久久久久久久精品成人欧美视频| 三级国产精品片| 在线天堂最新版资源| 国产人伦9x9x在线观看 | 91国产中文字幕| 亚洲欧美清纯卡通| 中文字幕人妻丝袜一区二区 | 亚洲伊人久久精品综合| 水蜜桃什么品种好| 国产高清不卡午夜福利| 国产片内射在线| 一个人免费看片子| 欧美人与性动交α欧美精品济南到 | 免费不卡的大黄色大毛片视频在线观看| 天堂俺去俺来也www色官网| 丝袜美腿诱惑在线| 久久ye,这里只有精品| 亚洲伊人色综图| 汤姆久久久久久久影院中文字幕| av国产久精品久网站免费入址| 少妇被粗大的猛进出69影院| 精品国产一区二区久久| 最近2019中文字幕mv第一页| 国产男女超爽视频在线观看| 成人18禁高潮啪啪吃奶动态图| 少妇精品久久久久久久| 香蕉国产在线看| 成年人午夜在线观看视频| 亚洲久久久国产精品| av不卡在线播放| 黄片小视频在线播放| 五月伊人婷婷丁香| 99久国产av精品国产电影| 国产精品不卡视频一区二区| 女人精品久久久久毛片| 天堂俺去俺来也www色官网| 欧美xxⅹ黑人| 啦啦啦在线免费观看视频4| 国产不卡av网站在线观看| 一本—道久久a久久精品蜜桃钙片| 欧美人与性动交α欧美软件| 宅男免费午夜| 亚洲成国产人片在线观看| 一边摸一边做爽爽视频免费| 国产成人精品无人区| 亚洲 欧美一区二区三区| 80岁老熟妇乱子伦牲交| 各种免费的搞黄视频| 中文字幕亚洲精品专区| 免费人妻精品一区二区三区视频| 777久久人妻少妇嫩草av网站| 亚洲人成77777在线视频| 国产一区二区 视频在线| 亚洲少妇的诱惑av| 观看av在线不卡| 丰满饥渴人妻一区二区三| 久久免费观看电影| 日韩欧美精品免费久久| 日韩熟女老妇一区二区性免费视频| 亚洲情色 制服丝袜| 亚洲精品久久成人aⅴ小说| 99久久中文字幕三级久久日本| 亚洲精品中文字幕在线视频| 日韩av不卡免费在线播放| 亚洲国产最新在线播放| 亚洲中文av在线| 综合色丁香网| 在线观看免费视频网站a站| 中文字幕色久视频| 天天躁夜夜躁狠狠躁躁| 欧美人与性动交α欧美精品济南到 | 夫妻午夜视频| 国产亚洲av片在线观看秒播厂| 免费在线观看黄色视频的| 蜜桃国产av成人99| 2022亚洲国产成人精品| 国产老妇伦熟女老妇高清| 精品国产露脸久久av麻豆| 热re99久久国产66热| 国产成人精品一,二区| av网站免费在线观看视频| 在线观看免费高清a一片| 人妻一区二区av| 国产一区二区 视频在线| h视频一区二区三区| 制服诱惑二区| 一级毛片我不卡| 亚洲成色77777| 高清av免费在线| 婷婷成人精品国产| 婷婷色麻豆天堂久久| 777久久人妻少妇嫩草av网站| 国产av码专区亚洲av| 91精品伊人久久大香线蕉| 十八禁网站网址无遮挡| 久久热在线av| 免费在线观看完整版高清| 一级毛片电影观看| 一区二区日韩欧美中文字幕| av又黄又爽大尺度在线免费看| 久久精品国产鲁丝片午夜精品| 欧美日韩一级在线毛片| 超碰97精品在线观看| 91国产中文字幕| 欧美成人午夜精品| 汤姆久久久久久久影院中文字幕| 国产精品免费视频内射| 成人毛片60女人毛片免费| 久久国内精品自在自线图片| 国产精品av久久久久免费| 久久 成人 亚洲| 欧美激情极品国产一区二区三区| 久久青草综合色| 人人妻人人爽人人添夜夜欢视频| 亚洲欧洲精品一区二区精品久久久 | 精品一区二区免费观看| 亚洲图色成人| 日韩制服骚丝袜av| 成年av动漫网址| 亚洲av成人精品一二三区| 女的被弄到高潮叫床怎么办| 69精品国产乱码久久久| 久热久热在线精品观看| 亚洲av中文av极速乱| 秋霞在线观看毛片| 亚洲精品,欧美精品| 天堂俺去俺来也www色官网| 两性夫妻黄色片| 热re99久久精品国产66热6| freevideosex欧美| 777久久人妻少妇嫩草av网站| 国产成人精品无人区| 久久久久网色| 午夜福利网站1000一区二区三区| 免费日韩欧美在线观看| 在线看a的网站| 男人爽女人下面视频在线观看| 男女免费视频国产| 亚洲欧美清纯卡通| 你懂的网址亚洲精品在线观看| av卡一久久| 美女高潮到喷水免费观看| 黄色怎么调成土黄色| 久久av网站| 男女国产视频网站| 宅男免费午夜| 色视频在线一区二区三区| 人妻一区二区av| 人人澡人人妻人| 岛国毛片在线播放| 国产av国产精品国产| 久久精品人人爽人人爽视色| 一区二区三区乱码不卡18| 狠狠婷婷综合久久久久久88av| 一本久久精品| 国产成人精品久久久久久| 免费日韩欧美在线观看| 成人毛片60女人毛片免费| 性色avwww在线观看| 国产av码专区亚洲av| av电影中文网址| 你懂的网址亚洲精品在线观看| 亚洲综合精品二区| 狠狠婷婷综合久久久久久88av| 一区二区三区乱码不卡18| 久久人妻熟女aⅴ| a级毛片黄视频| 欧美精品人与动牲交sv欧美| 男人爽女人下面视频在线观看| 久久久久久久久久久免费av| 精品少妇内射三级| www.av在线官网国产| 啦啦啦中文免费视频观看日本| 亚洲成色77777| 国产免费一区二区三区四区乱码| 午夜福利在线免费观看网站| 春色校园在线视频观看| 亚洲av日韩在线播放| 美女国产高潮福利片在线看| 日韩人妻精品一区2区三区| 啦啦啦啦在线视频资源| 亚洲熟女精品中文字幕| 午夜精品国产一区二区电影| 久久久久精品久久久久真实原创| 韩国精品一区二区三区| 一本色道久久久久久精品综合| 久久久久久久亚洲中文字幕| 久久久国产一区二区| 亚洲欧美成人精品一区二区| 在线观看国产h片| 国产在线视频一区二区| 在线观看免费高清a一片| 最近中文字幕2019免费版| 又黄又粗又硬又大视频| 电影成人av| 亚洲三区欧美一区| 街头女战士在线观看网站| 久久久久久久国产电影| 国产国语露脸激情在线看| 国产亚洲精品第一综合不卡| 国产亚洲欧美精品永久| 久久这里有精品视频免费|