• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    電子商務(wù)中人工智能體的民事責(zé)任研究
    ——以“電子代理人”為例

    2020-01-18 20:34:34張沁芊
    關(guān)鍵詞:民事責(zé)任代理人設(shè)計(jì)者

    張沁芊

    (蘇州大學(xué) 王健法學(xué)院,江蘇 蘇州 215006)

    二十一世紀(jì)以來,計(jì)算機(jī)技術(shù)和通信技術(shù)的結(jié)合與發(fā)展引發(fā)了商業(yè)運(yùn)行模式的深刻變革,電子商務(wù)飛速崛起。與此同時(shí),隨著深度學(xué)習(xí)技術(shù)的發(fā)展和大數(shù)據(jù)的應(yīng)用,人工智能得到了極大程度的發(fā)展?;谏淌陆灰椎碾娮踊l(fā)展趨勢,以電子代理人為代表的人工智能體逐漸應(yīng)用于電子商務(wù)領(lǐng)域。一些商家開始使用電子代理人開展商事活動(dòng),這種智能化的交易系統(tǒng)能夠獨(dú)立完成特定任務(wù),自動(dòng)處理數(shù)據(jù)電文,訂立甚至履行合同。[1]人工智能體能夠減少人力投入,降低交易成本,提升交易效率,推動(dòng)電子商務(wù)的發(fā)展,但也引發(fā)了一系列民事法律后果歸屬問題。由于電子商務(wù)有著異于傳統(tǒng)商務(wù)的特性,人工智能的發(fā)展更是具有極大的不確定性,傳統(tǒng)民法制度有時(shí)會左支右絀。一旦人工智能發(fā)展至強(qiáng)人工智能階段,現(xiàn)行民法體系可能會面臨不可小視的理論沖擊。對于電子商務(wù)中人工智能體帶來的民法挑戰(zhàn),應(yīng)在合理著眼未來的基礎(chǔ)上注重責(zé)任歸屬的理論設(shè)計(jì)。

    一、人工智能與電子商務(wù)的融合發(fā)展

    人工智能是一門新技術(shù)科學(xué),其目的是模擬、延伸和擴(kuò)展人的智能,以實(shí)現(xiàn)某些腦力勞動(dòng)的自動(dòng)化。人工智能自上個(gè)世紀(jì)五十年代誕生以來經(jīng)歷了兩次繁榮和兩次低谷,進(jìn)入低谷的原因主要是由于計(jì)算機(jī)硬件的落后。[2]目前我們正處于第三個(gè)繁榮時(shí)期,計(jì)算機(jī)的性能已經(jīng)足以支撐更大程度、更多領(lǐng)域的人工智能的發(fā)展,而且由于網(wǎng)絡(luò)的高速和便捷,“大數(shù)據(jù)”變得易于獲取,分布式系統(tǒng)也逐漸普及。人工智能將逐漸與互聯(lián)網(wǎng)相結(jié)合,不局限于單一領(lǐng)域和單一主機(jī),采用分布式計(jì)算的人工智能和互聯(lián)網(wǎng)領(lǐng)域的人工智能將逐漸成為其發(fā)展方向。

    人工智能主要包括為完成某項(xiàng)特定功能而設(shè)計(jì)的弱人工智能和具有類似人類思想的強(qiáng)人工智能,前者的例子有蘋果私人助手Siri、淘寶等交易平臺的機(jī)器人客服以及前不久在圍棋上戰(zhàn)勝人類的AlphaGo等等。弱人工智能普遍具有局限性,不具有自我意識并且應(yīng)用領(lǐng)域較為單一,但隨著技術(shù)的進(jìn)步,其呈現(xiàn)出一種融合發(fā)展的態(tài)勢,未來的弱人工智能將是多領(lǐng)域人工智能的結(jié)合,可以更加自然地與人交互并能夠處理多領(lǐng)域?qū)崉?wù)。強(qiáng)人工智能則具有比較鮮明的自我意識,具有主動(dòng)性并且不受某個(gè)領(lǐng)域的約束,具有一定的不可控性。目前計(jì)算機(jī)行業(yè)中還沒有公開普及型的強(qiáng)人工智能產(chǎn)品,但I(xiàn)BM、微軟、谷歌等行業(yè)巨頭都投入了巨大的人力物力,完成強(qiáng)人工智能的研發(fā)只是時(shí)間問題,當(dāng)這種具有情感的“機(jī)器”應(yīng)用于具體行業(yè)時(shí),勢必會引起新的法律變革。

    上世紀(jì)九十年代,計(jì)算機(jī)網(wǎng)絡(luò)技術(shù)發(fā)展迅速,人們開始使用電子通信手段進(jìn)行交易,電子商務(wù)這一新興交易模式開始起步。[3]隨著技術(shù)的革新和互聯(lián)網(wǎng)的應(yīng)用,電子商務(wù)在二十一世紀(jì)飛速發(fā)展。對于電子商務(wù)的概念,理論界目前沒有普遍接受的確切定義,可從廣義和狹義兩個(gè)層面理解。廣義的電子商務(wù)是指一切以電子技術(shù)手段進(jìn)行的、一切與商業(yè)有關(guān)的活動(dòng)。其中的“電子技術(shù)”包括但不限于電子通信與電子計(jì)算技術(shù),其中的“商務(wù)”包括不論是契約型或非契約型的一切商務(wù)性質(zhì)的關(guān)系所引起的種種事項(xiàng)。[4]狹義的電子商務(wù)是指以互聯(lián)網(wǎng)為運(yùn)行平臺的交易活動(dòng),其將“電子”限定為計(jì)算機(jī)網(wǎng)絡(luò)技術(shù),將“商務(wù)”限定為需要訂立合同或契約的交易活動(dòng),而非單純的信息傳遞。

    隨著電子商務(wù)的持續(xù)發(fā)展,商業(yè)模式不斷創(chuàng)新,其應(yīng)用范圍和市場規(guī)模不斷擴(kuò)展,人們開始尋求各種自動(dòng)化的商事工具,來應(yīng)對持續(xù)增長的商事規(guī)模。由此,人工智能逐漸應(yīng)用于電子商務(wù)領(lǐng)域,這些人工智能體能夠有效地降低商事成本,增加交易方便度,極大地推動(dòng)了電子商務(wù)的發(fā)展。但由于電子商務(wù)和人工智能所依托的網(wǎng)絡(luò)環(huán)境的自由化和計(jì)算機(jī)技術(shù)的復(fù)雜化,人工智能體的應(yīng)用引發(fā)了一系列民事責(zé)任的承擔(dān)問題,并可能在人工智能快速發(fā)展的同時(shí)愈演愈烈。

    二、人工智能體的民法挑戰(zhàn):以“電子代理人”為例

    人工智能體在電子商務(wù)活動(dòng)中的功能主要包括智能消費(fèi)客服、推薦與個(gè)性化預(yù)測、營銷效果預(yù)測等等。其中,作為人工智能體之一的電子代理人,是人工智能在電子商務(wù)中最具代表性的應(yīng)用,基本涵蓋了電子商務(wù)中人工智能體的共性功能與特征,從電子代理人入手能夠更加全面地剖析人工智能體潛在的民事責(zé)任歸屬問題。

    1.電子代理人的應(yīng)用現(xiàn)狀與發(fā)展前景。“電子代理人”(Electronic Agent)一詞最初源于美國法學(xué)會發(fā)布的《統(tǒng)一計(jì)算機(jī)信息交易法》(UCITA,1999),該法第102條將電子代理人定義為:“電子代理人是一種計(jì)算機(jī)程序、電子化手段或其他自動(dòng)化手段,其能獨(dú)立地做出行為、對電子信息和履行做出回應(yīng),在此過程中無需人工介入?!敝?,美國《統(tǒng)一電子交易法》(UETA,1999)在該條款的基礎(chǔ)上稍加改動(dòng),對其定義為:“電子代理人是指一種計(jì)算機(jī)程序、電子化手段或其他自動(dòng)化手段,其能獨(dú)立地做出行為、全部或部分地對電子記錄和履行做出回應(yīng),無需人工檢查或操作?!贝撕蟮拿绹度蚝腿珖虅?wù)電子簽名法》(E-SIGN,2000)和《統(tǒng)一商法典》(UCC)買賣篇(2003年修改)都沿用了《統(tǒng)一電子交易法》的定義。此外,加拿大《統(tǒng)一電子商務(wù)法》(UECA,1999)對電子代理人作出的定義為:“電子代理人是一種計(jì)算機(jī)程序,或任何電子化手段,其被用來做出行為、全部或部分地對電子文件和履行做出回應(yīng),在此過程中不需要自然人的檢查。”聯(lián)合國貿(mào)法會在其發(fā)布的《電子簽名統(tǒng)一規(guī)則(草案)》(DURES,1999)中提出了“電子代理人”(Electronic Agent)一詞,從而在世界范圍內(nèi)確定了此概念。

    由此可見,電子代理人在電子商務(wù)中得到了廣泛的應(yīng)用和認(rèn)可,在理論界已被逐漸推廣為通用的術(shù)語,雖然各國法律對電子代理人概念的表述不盡相同,但這些定義的實(shí)質(zhì)相同。通過這些定義可發(fā)現(xiàn),電子代理人是一種能夠獨(dú)立回應(yīng)、處理電子數(shù)據(jù)的自動(dòng)化工具,具有智能性、交互性等特征。[5]智能性是指電子代理人能夠主動(dòng)做出某些行為,或?qū)邮盏降碾娮訑?shù)據(jù)做出判斷和回應(yīng)。在實(shí)際應(yīng)用中,根據(jù)不同的預(yù)設(shè)程序,低智能的電子代理人可為“被代理人”提供選擇性建議,高智能的電子代理人可為“被代理人”直接做出決定。交互性是指電子代理人在運(yùn)作過程中能依特定語言與不同對象進(jìn)行通信,完成既定任務(wù),其交互對象主要包括自然人和其他電子代理人。

    目前,電子商務(wù)中的人工智能體仍然停留在弱人工智能的初級階段。以電子代理人為例,它們雖然能夠在運(yùn)作過程中做出主動(dòng)性表達(dá)和被動(dòng)性回應(yīng),代替人工管理交易、解決問題,并在一定程度上學(xué)習(xí)現(xiàn)有規(guī)律,但仍需要設(shè)計(jì)者預(yù)設(shè)程序,需要使用者的不斷指示,不能完全獨(dú)立地應(yīng)對新情況。電子代理人沒有獨(dú)立的意思表達(dá)能力,只能在被代理人提前設(shè)定的意思范圍內(nèi)做出表達(dá),在很多非程序化的具體交易過程中,電子代理人尚無法替代人類的高度智能進(jìn)行綜合性判斷。

    在人工智能深入研究的趨勢下,強(qiáng)人工智能是人工智能發(fā)展的最終目標(biāo),電子商務(wù)終將邁入認(rèn)知商務(wù)時(shí)代,人工智能體在電子商務(wù)領(lǐng)域中的應(yīng)用將有進(jìn)一步的突破。[6]在大數(shù)據(jù)時(shí)代,人工智能體將接觸和處理更多數(shù)據(jù),一個(gè)強(qiáng)人工智能電子代理人將具有類似人的情感,具有主動(dòng)性和相當(dāng)強(qiáng)大的推理能力?;趶?qiáng)大的實(shí)時(shí)洞察和認(rèn)知能力,強(qiáng)人工智能電子代理人能夠預(yù)測未來,實(shí)時(shí)同步地開展行動(dòng),甚至完全不需要人工參與。

    與目前的電子代理人相比,強(qiáng)人工智能電子代理人將更加智能化、個(gè)性化與精確化。首先,強(qiáng)人工智能電子代理人可以開展分析,幫助商家進(jìn)行客戶分析和商品銷售規(guī)劃,優(yōu)化營銷、銷售和價(jià)值鏈服務(wù)。其次,強(qiáng)人工智能電子代理人可以提前為客戶著想,了解他們的需求,以人性化方式與客戶深入互動(dòng)。再次,強(qiáng)人工智能電子代理人可以精確推斷出交易雙方的需求和能力,結(jié)合習(xí)慣喜好等因素自主選擇交易目標(biāo),從交易的預(yù)測到交易的開始,再到交易的結(jié)束,強(qiáng)人工智能電子代理人可通過人工智能選取最高效的、最令交易雙方滿意的解決方案,實(shí)現(xiàn)效益的最大化。最后,強(qiáng)人工智能電子代理人交易的安全性和及時(shí)性也可通過其人工智能得到保障,強(qiáng)人工智能電子代理人通過對海量數(shù)據(jù)的分析和學(xué)習(xí),將學(xué)習(xí)規(guī)避風(fēng)險(xiǎn)和注重實(shí)效,而不再是被動(dòng)應(yīng)對。

    2.電子代理人的民事責(zé)任歸屬問題。電子商務(wù)中的人工智能體以計(jì)算機(jī)網(wǎng)絡(luò)為依托,開展大量的商事活動(dòng),以電子代理人為代表的人工智能體作為電子商務(wù)活動(dòng)中的重要角色,其運(yùn)行涉及多方主體,包括設(shè)計(jì)者、服務(wù)提供商和使用者,這些主體對電子代理人均擁有不同程度的控制權(quán)。在一般情況下,電子代理人的行為效力歸屬較為明晰,但由于網(wǎng)絡(luò)的虛擬化和自由化程度較高,且人工智能技術(shù)正處于急速發(fā)展的狀態(tài),在特殊情況下,電子代理人行為后果的責(zé)任承擔(dān)相對復(fù)雜,下面予以分述。

    (1)正常情況下的民事責(zé)任歸屬。對于正常情況下電子代理人活動(dòng)的效力歸屬,在目前涉及電子代理人的法律中,已作出了較為明確的規(guī)定。如我國《電子商務(wù)法》第48條第1款規(guī)定,電子商務(wù)當(dāng)事人使用自動(dòng)信息系統(tǒng)訂立或者履行合同的行為對使用該系統(tǒng)的當(dāng)事人具有法律效力;聯(lián)合國貿(mào)法會《電子商務(wù)示范法》第13條第2款指出,對于數(shù)據(jù)電文的歸屬,就發(fā)端方與接收方之間而言,數(shù)據(jù)電文由發(fā)端方的自動(dòng)信息系統(tǒng)發(fā)送時(shí),視為發(fā)端方的數(shù)據(jù)電文;美國《統(tǒng)一計(jì)算機(jī)信息交易法》第107條第4款規(guī)定,任何人如使用其選擇的電子代理人進(jìn)行簽章、履行或訂立協(xié)議,包括意為同意的表示,應(yīng)受該電子代理人操作的約束,即使個(gè)人對電子代理人的操作或操作的結(jié)果不知道或沒有審查。

    電子代理人是按照一定范式運(yùn)作的自動(dòng)化交易系統(tǒng),電子代理人在其編程技術(shù)結(jié)構(gòu)的范圍內(nèi)接受使用者的授權(quán),按照設(shè)計(jì)者預(yù)設(shè)的運(yùn)行模式,從事網(wǎng)上交易行為。一般情況下,電子代理人通常按部就班地進(jìn)行締約、履約等日常工作,不出現(xiàn)任何差錯(cuò),不會超過預(yù)定范圍自主作出意思表示。在傳統(tǒng)代理制度中,代理人在代理權(quán)限內(nèi)所做行為的后果歸屬于被代理人。電子代理人正常運(yùn)行時(shí),可以正確執(zhí)行使用者的真實(shí)意志,屬于在代理權(quán)限范圍內(nèi)做出“代理行為”,因而此類活動(dòng)的行為效力應(yīng)歸屬于使用者。[7]

    (2)異常情況下的民事責(zé)任歸屬。電子代理人的運(yùn)作涉及多方主體,各方主體對電子代理人的活動(dòng)均有一定的影響力,一旦電子代理人活動(dòng)異常,其法律后果歸屬往往難以確定,現(xiàn)行民法對此尚無具體詳盡的規(guī)定。

    一方面,電子代理人可能會導(dǎo)致交易行為錯(cuò)誤。電子代理人是一個(gè)虛擬程序,交易主體無法采用傳統(tǒng)的當(dāng)面交流方式,而需使用電子產(chǎn)品的終端進(jìn)行交流。由于電子環(huán)境具有較強(qiáng)的不可控性,電子代理人的活動(dòng)極易受影響。因此,電子代理人時(shí)常出現(xiàn)錯(cuò)誤的交易行為,主要包括兩種情況。第一,電子代理人會出現(xiàn)締約錯(cuò)誤,原因可能來自使用者、程序設(shè)計(jì)者或黑客。例如,在委托授權(quán)階段,若使用者對交易的對象、數(shù)量、質(zhì)量等產(chǎn)生了認(rèn)識錯(cuò)誤,或在鍵入交易數(shù)據(jù)時(shí)出現(xiàn)了輸入錯(cuò)誤,則會對電子代理人進(jìn)行錯(cuò)誤授權(quán),做出不真實(shí)的意思表示,導(dǎo)致電子代理人締約錯(cuò)誤。在此種情形下,對于使用者的認(rèn)識錯(cuò)誤,可按照傳統(tǒng)合同法的相關(guān)規(guī)則解決。而對于輸入性錯(cuò)誤,使用者是否能夠主張變更或撤銷合同,考慮到電子商務(wù)的便捷性和舉證的困難性,學(xué)界對此并無通說。若合同被判定為不成立、無效或被變更、撤銷,對于交易相對人的信賴?yán)娴膿p失,使用者理應(yīng)承擔(dān)締約過失責(zé)任。但若使用者的過失是由于電子代理人未設(shè)置合理的提醒程序,那么使用者能否提出抗辯,并要求由程序設(shè)計(jì)者來承擔(dān)交易相對人的損失,法律并未作出規(guī)定,此時(shí)締約錯(cuò)誤的責(zé)任歸屬難以確定。第二,電子代理人會出現(xiàn)履約錯(cuò)誤,原因可能是其自身存在程序漏洞或遭到黑客入侵。在電子代理人自身存在程序漏洞的情況下,根據(jù)合同相對性原理,電子代理人引起的違約責(zé)任應(yīng)由其使用者承擔(dān),再由使用者向設(shè)計(jì)者追責(zé)。但在電子代理人遭到黑客入侵的情況下,由于黑客具有極強(qiáng)的隱蔽性,難以追責(zé),是否應(yīng)將黑客入侵視為不可抗力而對使用者部分或全部免責(zé),此時(shí)不同的理論選擇會使電子代理人違約責(zé)任的最終承擔(dān)者有所差異。

    另一方面,電子代理人在運(yùn)行異常的情況下,除了會因交易錯(cuò)誤損害交易主體的財(cái)產(chǎn)權(quán)等權(quán)利外,還存在其他侵權(quán)可能性。電子代理人承載著相當(dāng)龐大的信息數(shù)據(jù),這些信息數(shù)據(jù)可能涉及交易主體的人身權(quán)和財(cái)產(chǎn)權(quán)。而電子代理人的系統(tǒng)安全漏洞、數(shù)據(jù)加密程度、病毒或黑客入侵等因素都可能導(dǎo)致這些信息丟失,或被篡改、破壞,從而產(chǎn)生侵權(quán)后果。由于電子代理人涉及的主體較多,對于此類侵權(quán)后果的責(zé)任歸屬問題,應(yīng)該如何確定責(zé)任主體,如何適用歸責(zé)原則,傳統(tǒng)的歸責(zé)原則能否同樣適用于電子代理人,學(xué)者的觀點(diǎn)多有不同,各國法律對此也未作出明確規(guī)定。

    三、電子商務(wù)中人工智能體的民事責(zé)任承擔(dān)

    根據(jù)前文關(guān)于電子代理人民事責(zé)任歸屬問題的論述可知,目前人工智能體在電子商務(wù)中的應(yīng)用帶來了大量的民事責(zé)任承擔(dān)問題,對于此類民事責(zé)任應(yīng)如何歸責(zé),現(xiàn)行民法尚無具體規(guī)定,隨著人工智能技術(shù)的發(fā)展,這些問題會進(jìn)一步凸顯。除了在計(jì)算機(jī)領(lǐng)域進(jìn)行技術(shù)完善外,現(xiàn)行民法也必須正視和解決此類問題,明確不同情況下的民事責(zé)任承擔(dān)。如前所述,人工智能體依據(jù)其是否擁有思維而被分為弱人工智能體與強(qiáng)人工智能體,對于不同類型的人工智能體導(dǎo)致的法律后果,應(yīng)分別規(guī)定不同的民事責(zé)任承擔(dān)方式。

    1.弱人工智能體應(yīng)用中的民事責(zé)任。弱人工智能體的智能化程度具有局限性,只能在設(shè)計(jì)者的編程范圍內(nèi)以及使用者的指令范圍內(nèi)開展活動(dòng),其活動(dòng)能力是基于計(jì)算機(jī)程序或自動(dòng)化手段的本質(zhì)而存在的,并沒有獨(dú)立的意思表達(dá)能力,本質(zhì)上只是一種交易工具。對于弱人工智能體正常的締約、履約等行為,應(yīng)將其效力歸屬于弱人工智能體的使用者,對于弱人工智能體運(yùn)行異常時(shí)的錯(cuò)誤交易行為和侵權(quán)行為,其責(zé)任歸屬情況較為復(fù)雜,現(xiàn)有法律并未作出具體規(guī)定。由于弱人工智能體活動(dòng)異常的成因較多,不同成因必然導(dǎo)致不同的法律后果和法律救濟(jì),本文擬從異常原因角度進(jìn)行責(zé)任歸屬的理論設(shè)計(jì)。

    (1)使用者行為錯(cuò)誤。使用者的行為錯(cuò)誤主要表現(xiàn)為輸入性錯(cuò)誤,對弱人工智能體做出了不正確的授權(quán),致使弱人工智能體錯(cuò)誤締約,由此訂立的合同存在意思表示瑕疵。對此情形下的責(zé)任歸屬判定,應(yīng)更深入地分析使用者出現(xiàn)行為錯(cuò)誤的原因,考慮使用者做出該錯(cuò)誤行為時(shí)弱人工智能體是否給出了提醒程序。若弱人工智能體提供了醒目的提醒界面,使用者完全是由于自身的失誤致使行為出錯(cuò),則締約錯(cuò)誤的責(zé)任應(yīng)歸屬于使用者;[8]若弱人工智能體未設(shè)置提醒程序,或提醒程序設(shè)置不合理,無法對使用者作出醒目提示以使其避免或更改錯(cuò)誤,此時(shí)該締約錯(cuò)誤可能涉及程序設(shè)計(jì)者的過錯(cuò),屬于程序技術(shù)缺陷的討論范疇。

    (2)程序技術(shù)缺陷。弱人工智能體若自身存在程序缺陷,極易使其承載的信息數(shù)據(jù)在存儲或傳輸?shù)倪^程中丟失或出錯(cuò),這不僅會導(dǎo)致上文提到的締約錯(cuò)誤,還會導(dǎo)致履約錯(cuò)誤以及信息數(shù)據(jù)的泄露,影響電子交易和信息安全,引發(fā)締約過失責(zé)任、違約責(zé)任和侵權(quán)責(zé)任的承擔(dān)問題。

    對于弱人工智能體因自身技術(shù)缺陷產(chǎn)生的締約過失責(zé)任,應(yīng)由使用者承擔(dān)。締約過失責(zé)任是指在合同訂立過程中,一方因違背其依據(jù)誠實(shí)信用原則所產(chǎn)生的義務(wù),而致另一方的信賴?yán)娴膿p失,對此應(yīng)承擔(dān)損害賠償責(zé)任。[9]在弱人工智能體存在程序缺陷的情況下(如缺少合理的提醒程序),若使用者也存在一定過錯(cuò),在操作系統(tǒng)時(shí)未盡注意義務(wù),做出了錯(cuò)誤的意思表示,導(dǎo)致合同不成立、無效、被撤銷等等而損害交易相對人的信賴?yán)妫褂谜邞?yīng)承擔(dān)締約過失責(zé)任。由于弱人工智能體存在程序缺陷,未合理規(guī)避使用者可能出現(xiàn)的操作錯(cuò)誤,使用者對其自身的損失,可向負(fù)責(zé)弱人工智能體程序技術(shù)的第三人追責(zé)。

    對于弱人工智能體因自身技術(shù)缺陷產(chǎn)生的違約責(zé)任,按照合同相對性規(guī)則,使用者需承擔(dān)直接責(zé)任。但此時(shí)使用者的違約是由弱人工智能體的程序技術(shù)缺陷引起的,因此,使用者可向第三人追責(zé)。需要說明的是,此處的第三人在理論上包括人工智能體的程序設(shè)計(jì)者和程序運(yùn)營商,但在實(shí)際情況中,運(yùn)營商通常自行研發(fā)人工智能體,設(shè)計(jì)者與運(yùn)營商合二為一,且即使運(yùn)營商選擇弱人工智能體外包,其技術(shù)更新與日常維護(hù)也是由外包的程序設(shè)計(jì)者負(fù)責(zé)。因此本文只將設(shè)計(jì)者作為責(zé)任歸屬的討論對象,若二者出現(xiàn)分離,具體的追責(zé)方式可根據(jù)產(chǎn)品質(zhì)量的相關(guān)規(guī)定解決。

    對于弱人工智能體因自身技術(shù)缺陷產(chǎn)生的侵權(quán)責(zé)任,應(yīng)推定弱人工智能體的程序設(shè)計(jì)者存在過錯(cuò),若設(shè)計(jì)者無法證明自己沒有過錯(cuò),應(yīng)當(dāng)承擔(dān)侵權(quán)責(zé)任。此處選擇適用過錯(cuò)推定原則來確定責(zé)任承擔(dān)者的理由是,弱人工智能體的活動(dòng)具有自動(dòng)性且涉及較多技術(shù)問題,被侵權(quán)人難以證明設(shè)計(jì)者在程序設(shè)計(jì)中存在的過錯(cuò),容易出現(xiàn)無人擔(dān)責(zé)的情況,而過錯(cuò)推定原則在一定程度上可以保障被侵權(quán)人的權(quán)利救濟(jì)。[10]此外,若設(shè)計(jì)者能夠證明被侵權(quán)人對損害的發(fā)生也有過錯(cuò),例如被侵權(quán)人未及時(shí)下載安裝弱人工智能體的更新補(bǔ)丁,未盡必要注意義務(wù),存在一定過錯(cuò),則可減輕設(shè)計(jì)者的責(zé)任。

    (3)黑客惡意入侵。弱人工智能體活動(dòng)異常的另一可能原因是黑客入侵,黑客會惡意攻擊或利用病毒侵害弱人工智能體,破壞信息數(shù)據(jù)的完整性和正確性,使弱人工智能體出現(xiàn)系統(tǒng)運(yùn)行混亂、信息數(shù)據(jù)被篡改等情況,對交易秩序和信息安全造成重大破壞,導(dǎo)致締約過失責(zé)任、違約責(zé)任和侵權(quán)責(zé)任的產(chǎn)生。

    對于弱人工智能體因黑客入侵而產(chǎn)生的締約過失責(zé)任,應(yīng)由使用者承擔(dān)責(zé)任。在黑客入侵的情況下,若由于使用者未及時(shí)更新弱人工智能體的安全補(bǔ)丁,導(dǎo)致弱人工智能體無法抵御黑客入侵,則使用者存在過錯(cuò),需要對由此產(chǎn)生的交易相對人的信賴?yán)鎿p失承擔(dān)賠償責(zé)任。使用者對其自身的損失,可按照侵權(quán)責(zé)任規(guī)則向黑客追責(zé)。

    對于弱人工智能體因黑客入侵而產(chǎn)生的違約責(zé)任,按照合同相對性原則,使用者需承擔(dān)直接責(zé)任。但使用者是因黑客的入侵而違約,對于自身的損失,其可按照相關(guān)規(guī)則向黑客追責(zé)。但若該黑客的攻擊活動(dòng)屬于無法預(yù)見、無法避免、無法克服的客觀情況,則使用者應(yīng)按照傳統(tǒng)合同法的規(guī)定,根據(jù)不可抗力的影響,部分或全部地免除責(zé)任。

    對于弱人工智能體因遭到黑客入侵而產(chǎn)生的侵權(quán)責(zé)任,由于黑客具有極強(qiáng)的隱蔽性,應(yīng)根據(jù)黑客的追蹤情況考慮不同的責(zé)任歸屬。在成功追蹤黑客并確定其身份的情況下,應(yīng)按照過錯(cuò)責(zé)任原則判定其承擔(dān)侵權(quán)責(zé)任。同時(shí),就弱人工智能體的設(shè)計(jì)者而言,若其知曉黑客的入侵活動(dòng)卻無合理舉措的,應(yīng)承擔(dān)相應(yīng)的民事責(zé)任;若其在接到被侵權(quán)人通知后未及時(shí)采取必要措施的,應(yīng)對損失的擴(kuò)大部分與黑客承擔(dān)連帶責(zé)任。[11]在黑客難以追蹤、無法確定身份的情況下,被侵權(quán)人的權(quán)利得不到救濟(jì),此時(shí)應(yīng)推定弱人工智能體的程序存在安全漏洞,推定其設(shè)計(jì)者存在過錯(cuò)。若設(shè)計(jì)者無法證明自己沒有過錯(cuò),就應(yīng)承擔(dān)侵權(quán)責(zé)任;若設(shè)計(jì)者證明自己已履行防范義務(wù),該黑客的入侵活動(dòng)屬于無法預(yù)見、無法避免、無法克服的情況,則其不承擔(dān)責(zé)任,此時(shí)可考慮按照公平責(zé)任原則由雙方分擔(dān)損失。

    2.強(qiáng)人工智能體應(yīng)用中的民事責(zé)任。強(qiáng)人工智能體的智能化程度較高,一旦人工智能體發(fā)展到強(qiáng)人工智能的階段,其信息搜集能力和交易快捷度將會有質(zhì)的提升,具有主動(dòng)性和一定的不可控性。一方面,強(qiáng)人工智能體能夠在預(yù)設(shè)的程序范圍內(nèi)進(jìn)行活動(dòng),此時(shí)的民事責(zé)任承擔(dān)與弱人工智能體的民事責(zé)任承擔(dān)方式無異。另一方面,強(qiáng)人工智能體能夠在預(yù)設(shè)程序范圍外根據(jù)自我分析作出即時(shí)自動(dòng)決策,此時(shí)強(qiáng)人工智能體具備獨(dú)立的意思表示,不宜將其引發(fā)的責(zé)任歸結(jié)于使用者、設(shè)計(jì)者等相關(guān)主體,應(yīng)考慮由強(qiáng)人工智能體自身承擔(dān)相應(yīng)的民事責(zé)任。

    強(qiáng)人工智能體具有強(qiáng)大的判斷分析能力,能夠積極主動(dòng)地進(jìn)行認(rèn)知和預(yù)測,自行處理委托事務(wù),強(qiáng)人工智能體的行為具有獨(dú)立性,應(yīng)承擔(dān)自己行為引發(fā)的法律后果。部分學(xué)者提出將其認(rèn)定為有行為能力但無權(quán)利能力的主體,[12]這實(shí)際上仍然是工具論的延伸,并沒有解決強(qiáng)人工智能體的責(zé)任承擔(dān)問題。一方面,強(qiáng)人工智能體可以根據(jù)自我判斷為使用者衡量利弊,可獨(dú)立做出意思表示,進(jìn)行商事活動(dòng),該行為本質(zhì)與自然人一致。另一方面,當(dāng)強(qiáng)人工智能體并不按照設(shè)計(jì)者預(yù)設(shè)的程序進(jìn)行活動(dòng)時(shí),其在運(yùn)行過程中的行為是使用者和設(shè)計(jì)者都無法預(yù)測的。若仍適用現(xiàn)有理論否認(rèn)法律主體資格,認(rèn)為強(qiáng)人工智能體是沒有權(quán)利能力和行為能力的交易工具,那么相關(guān)主體可能會承擔(dān)過多不可測的風(fēng)險(xiǎn),不利于糾紛的解決和強(qiáng)人工智能體的應(yīng)用。因此,應(yīng)考慮法律擬制賦予其法律主體資格,將其視為一般自然人,則其從事的民事行為,就能夠適用民事制度的相關(guān)規(guī)定,在行為的方式、效力、后果歸屬上都將有完備的理論解釋。強(qiáng)人工智能體在具備法律主體資格的情況下,若由于缺少財(cái)產(chǎn)而無法擔(dān)責(zé),將不利于糾紛的解決。此時(shí)可以考慮設(shè)立強(qiáng)人工智能體注冊機(jī)構(gòu),由設(shè)計(jì)者或運(yùn)營商向注冊機(jī)構(gòu)交付一定財(cái)產(chǎn),使強(qiáng)人工智能體擁有一定的獨(dú)立財(cái)產(chǎn)以承擔(dān)相應(yīng)的民事責(zé)任,強(qiáng)人工智能體日后運(yùn)行所獲的利潤也可相應(yīng)納入其獨(dú)立資本中。

    此外,人工智能體的應(yīng)用審查機(jī)制也應(yīng)得到嚴(yán)格規(guī)范。在認(rèn)知商務(wù)時(shí)代,強(qiáng)人工智能體具有極高的數(shù)據(jù)搜集分析能力,自由化程度高,如果不對其研發(fā)加以控制,極可能有被惡意利用的強(qiáng)人工智能體,出現(xiàn)由于強(qiáng)人工智能體因其行為的獨(dú)立性而需自行承擔(dān)相關(guān)后果,其設(shè)計(jì)者或操控者可能會以此逃避法律責(zé)任。因此,必須建立人工智能體的程序?qū)彶闄C(jī)制,加強(qiáng)對人工智能體研發(fā)環(huán)節(jié)、驗(yàn)收試用環(huán)節(jié)、市場運(yùn)營環(huán)節(jié)的監(jiān)督與管理工作,防止存在安全性問題的人工智能體投入應(yīng)用于電子商務(wù)領(lǐng)域。與此同時(shí),還應(yīng)設(shè)定合理的人工智能體智能化程度劃分標(biāo)準(zhǔn),用以判定某具體人工智能體是否能夠成為法律關(guān)系主體,從而適用不同的民事責(zé)任承擔(dān)方式。

    四、結(jié) 語

    我國電子商務(wù)領(lǐng)域目前應(yīng)用的人工智能體為弱人工智能體,雖然尚不足以對民事法律帶來顛覆性的挑戰(zhàn),但相較于傳統(tǒng)交易活動(dòng),已經(jīng)出現(xiàn)了許多難以解決的民事糾紛。隨著人工智能技術(shù)的進(jìn)一步發(fā)展,人工智能體的智能化程度必將進(jìn)一步提高,雖然強(qiáng)人工智能體目前尚未問世,但面對日新月異的科學(xué)技術(shù),我們必須著眼于可能出現(xiàn)的民事法律問題,思考相應(yīng)的制度規(guī)范。由于電子商務(wù)領(lǐng)域是人工智能技術(shù)應(yīng)用的典型領(lǐng)域,本文只對人工智能體在電子商務(wù)領(lǐng)域可能引發(fā)的民事責(zé)任歸屬問題進(jìn)行探討。但人工智能體的應(yīng)用范圍極其廣泛,人工智能體在其他領(lǐng)域內(nèi)的應(yīng)用所產(chǎn)生的民事責(zé)任應(yīng)如何歸結(jié),仍有待進(jìn)一步研究。

    猜你喜歡
    民事責(zé)任代理人設(shè)計(jì)者
    2020德國iF設(shè)計(jì)獎(jiǎng)
    中華全國專利代理人協(xié)會簡介
    專利代理(2019年3期)2019-12-30 08:23:54
    中華全國專利代理人協(xié)會簡介
    專利代理(2019年4期)2019-12-27 00:56:54
    2019德國IF設(shè)計(jì)大獎(jiǎng)
    中華全國專利代理人協(xié)會推薦的2018年第四期訴訟代理人名單
    專利代理(2019年1期)2019-04-13 02:10:50
    民事責(zé)任能力問題的探討
    商情(2012年48期)2017-11-08 19:33:32
    2016年第一期訴訟代理人名單
    專利代理(2016年1期)2016-05-17 06:14:38
    楊敬:深水區(qū)醫(yī)改設(shè)計(jì)者
    深水區(qū)醫(yī)改設(shè)計(jì)者
    “友好專家證人”的民事責(zé)任①——基于Pace v. Swerdlow案之分析
    一区二区三区四区激情视频 | 美女cb高潮喷水在线观看| 国内精品美女久久久久久| 伦精品一区二区三区| 精品99又大又爽又粗少妇毛片 | 日日摸夜夜添夜夜添小说| 欧美高清性xxxxhd video| 国内精品久久久久久久电影| 色综合站精品国产| av在线蜜桃| 少妇高潮的动态图| 免费人成在线观看视频色| 99久久成人亚洲精品观看| 91麻豆av在线| 日韩亚洲欧美综合| 日韩欧美三级三区| 日韩一本色道免费dvd| 欧美激情国产日韩精品一区| 国产精品野战在线观看| 久久国产精品人妻蜜桃| 欧美丝袜亚洲另类 | 欧美潮喷喷水| 日本一本二区三区精品| 亚洲男人的天堂狠狠| 久久午夜亚洲精品久久| 少妇裸体淫交视频免费看高清| 国产私拍福利视频在线观看| 黄色女人牲交| 少妇丰满av| 中文亚洲av片在线观看爽| 国产精品电影一区二区三区| 亚洲男人的天堂狠狠| 亚洲avbb在线观看| 内地一区二区视频在线| 丝袜美腿在线中文| 在线免费观看的www视频| 成人国产一区最新在线观看| 婷婷精品国产亚洲av| 麻豆一二三区av精品| 国产久久久一区二区三区| 麻豆精品久久久久久蜜桃| 日韩欧美精品免费久久| 中文字幕熟女人妻在线| 亚洲精品亚洲一区二区| 国产精品嫩草影院av在线观看 | 亚洲av第一区精品v没综合| 他把我摸到了高潮在线观看| 久久欧美精品欧美久久欧美| 亚洲精品一卡2卡三卡4卡5卡| 精品久久久久久久人妻蜜臀av| 亚洲av电影不卡..在线观看| 久久久色成人| 嫩草影院新地址| 亚洲国产欧洲综合997久久,| 成人三级黄色视频| 两个人的视频大全免费| 又黄又爽又免费观看的视频| 窝窝影院91人妻| 中文字幕免费在线视频6| 国内精品久久久久久久电影| 亚洲人成伊人成综合网2020| 男人和女人高潮做爰伦理| 有码 亚洲区| 在线观看一区二区三区| 婷婷精品国产亚洲av在线| 亚洲专区中文字幕在线| 精品人妻1区二区| av天堂中文字幕网| 欧美激情国产日韩精品一区| 中文资源天堂在线| 亚洲午夜理论影院| 精品久久久久久久久久免费视频| 久久亚洲真实| 91久久精品国产一区二区三区| 亚洲精品日韩av片在线观看| 色噜噜av男人的天堂激情| 国产精品无大码| 一本精品99久久精品77| 国产成人aa在线观看| 国产成人aa在线观看| 国产高清有码在线观看视频| 欧美激情在线99| 日本 欧美在线| 91久久精品国产一区二区成人| 亚洲最大成人av| 嫩草影院精品99| 亚洲自偷自拍三级| 男女下面进入的视频免费午夜| 九九久久精品国产亚洲av麻豆| 国产精品av视频在线免费观看| 国产精品福利在线免费观看| 欧美精品啪啪一区二区三区| 人人妻人人看人人澡| 免费在线观看日本一区| 波多野结衣巨乳人妻| 成人二区视频| 成人av在线播放网站| 春色校园在线视频观看| 中国美女看黄片| 欧美在线一区亚洲| 男女之事视频高清在线观看| 亚洲最大成人av| 久久精品影院6| 91麻豆精品激情在线观看国产| 午夜福利18| 一级黄色大片毛片| 免费看光身美女| 免费av观看视频| 午夜精品一区二区三区免费看| 免费黄网站久久成人精品| 韩国av在线不卡| 亚洲国产色片| 久久国内精品自在自线图片| 久久精品国产亚洲网站| 亚洲美女搞黄在线观看 | 女人十人毛片免费观看3o分钟| 舔av片在线| 亚洲av日韩精品久久久久久密| 波多野结衣高清作品| 日日撸夜夜添| 国产精品免费一区二区三区在线| 午夜福利在线在线| 午夜影院日韩av| 少妇被粗大猛烈的视频| www.色视频.com| 亚洲精品色激情综合| 日韩人妻高清精品专区| 国产一级毛片七仙女欲春2| 91久久精品电影网| 国产一区二区三区av在线 | 嫁个100分男人电影在线观看| 嫁个100分男人电影在线观看| bbb黄色大片| 精品日产1卡2卡| 夜夜夜夜夜久久久久| 美女免费视频网站| 18禁黄网站禁片免费观看直播| 国产三级在线视频| 黄色女人牲交| 亚洲内射少妇av| 麻豆国产97在线/欧美| 99热网站在线观看| 一进一出好大好爽视频| 久久人人爽人人爽人人片va| 草草在线视频免费看| 国内揄拍国产精品人妻在线| 免费不卡的大黄色大毛片视频在线观看 | 亚洲成人免费电影在线观看| 国产精品一区二区三区四区免费观看 | 51国产日韩欧美| 一本一本综合久久| 午夜亚洲福利在线播放| 久久久精品欧美日韩精品| 91在线精品国自产拍蜜月| 性色avwww在线观看| 乱系列少妇在线播放| 欧美一区二区亚洲| 欧美一区二区国产精品久久精品| 有码 亚洲区| 极品教师在线免费播放| 91在线精品国自产拍蜜月| 亚洲黑人精品在线| 午夜福利在线观看吧| 久久国内精品自在自线图片| 国产亚洲精品久久久com| 国产成人aa在线观看| 1024手机看黄色片| 桃红色精品国产亚洲av| 亚洲四区av| 在线免费十八禁| 热99re8久久精品国产| xxxwww97欧美| 男人狂女人下面高潮的视频| 特大巨黑吊av在线直播| 成熟少妇高潮喷水视频| 欧美极品一区二区三区四区| 校园春色视频在线观看| 别揉我奶头 嗯啊视频| 久久精品国产鲁丝片午夜精品 | 亚洲专区中文字幕在线| 日日啪夜夜撸| 精品人妻视频免费看| 黄片wwwwww| 久久久久久伊人网av| 美女高潮喷水抽搐中文字幕| 亚洲18禁久久av| 精品免费久久久久久久清纯| 日韩亚洲欧美综合| 精品久久久久久久末码| 性色avwww在线观看| 国产亚洲av嫩草精品影院| 成年女人毛片免费观看观看9| 欧美最黄视频在线播放免费| 看免费成人av毛片| 精品福利观看| 国产熟女欧美一区二区| 少妇人妻一区二区三区视频| 亚洲国产欧洲综合997久久,| 露出奶头的视频| 国国产精品蜜臀av免费| 99热网站在线观看| 色综合亚洲欧美另类图片| 久久久久久大精品| 最后的刺客免费高清国语| 桃色一区二区三区在线观看| 国内久久婷婷六月综合欲色啪| 国产v大片淫在线免费观看| 18禁黄网站禁片午夜丰满| 午夜激情福利司机影院| 亚洲avbb在线观看| 亚洲欧美日韩高清在线视频| 搞女人的毛片| 999久久久精品免费观看国产| 日韩中字成人| 色哟哟·www| 免费搜索国产男女视频| 嫁个100分男人电影在线观看| 欧美中文日本在线观看视频| 国产在线精品亚洲第一网站| 日韩在线高清观看一区二区三区 | 黄色日韩在线| 91午夜精品亚洲一区二区三区 | 一本久久中文字幕| 夜夜爽天天搞| 午夜福利视频1000在线观看| 国产v大片淫在线免费观看| 99久久精品一区二区三区| 欧美+日韩+精品| 欧美+日韩+精品| 亚洲人成网站在线播放欧美日韩| 国产乱人视频| 精品久久久久久久末码| 国产一区二区亚洲精品在线观看| 亚洲黑人精品在线| 麻豆成人午夜福利视频| 午夜激情福利司机影院| 欧美极品一区二区三区四区| 国产在线精品亚洲第一网站| 欧美高清成人免费视频www| 国产黄片美女视频| 久久久久久九九精品二区国产| av在线观看视频网站免费| 亚洲美女视频黄频| 男女边吃奶边做爰视频| 国产高清有码在线观看视频| 毛片女人毛片| 国产69精品久久久久777片| 中文字幕人妻熟人妻熟丝袜美| 国产在线男女| 亚洲专区国产一区二区| 久久欧美精品欧美久久欧美| 国产高清激情床上av| 国产精品日韩av在线免费观看| 91在线精品国自产拍蜜月| 在现免费观看毛片| 免费黄网站久久成人精品| 老师上课跳d突然被开到最大视频| 欧美日韩国产亚洲二区| 亚洲av二区三区四区| av国产免费在线观看| 亚洲性夜色夜夜综合| av视频在线观看入口| 在线观看午夜福利视频| 在线观看午夜福利视频| 成人亚洲精品av一区二区| 国产伦一二天堂av在线观看| 成人国产一区最新在线观看| 99热只有精品国产| 国国产精品蜜臀av免费| 99国产精品一区二区蜜桃av| 又爽又黄无遮挡网站| 午夜日韩欧美国产| 日韩欧美国产一区二区入口| 99久久中文字幕三级久久日本| 美女高潮喷水抽搐中文字幕| 色哟哟·www| 毛片一级片免费看久久久久 | 色尼玛亚洲综合影院| 不卡视频在线观看欧美| 人人妻人人澡欧美一区二区| 日韩精品有码人妻一区| 亚洲av免费在线观看| 听说在线观看完整版免费高清| 99精品久久久久人妻精品| 在线播放国产精品三级| 婷婷亚洲欧美| 男女下面进入的视频免费午夜| 国产高清有码在线观看视频| 国产精品久久久久久久久免| 美女被艹到高潮喷水动态| 国产亚洲精品久久久久久毛片| 99热网站在线观看| 在线观看美女被高潮喷水网站| 午夜福利视频1000在线观看| 亚洲avbb在线观看| 国产探花极品一区二区| 久久人人精品亚洲av| 国产伦人伦偷精品视频| 亚洲成人久久爱视频| 精品人妻熟女av久视频| 午夜激情欧美在线| 真实男女啪啪啪动态图| 婷婷亚洲欧美| 日本色播在线视频| 一a级毛片在线观看| 国产黄a三级三级三级人| 成人无遮挡网站| 一级av片app| 欧美日本视频| 成人av一区二区三区在线看| 高清日韩中文字幕在线| 天天躁日日操中文字幕| 免费看av在线观看网站| 日日摸夜夜添夜夜添av毛片 | 狂野欧美激情性xxxx在线观看| 午夜精品在线福利| 如何舔出高潮| 亚洲国产日韩欧美精品在线观看| 熟女电影av网| 色噜噜av男人的天堂激情| a级毛片a级免费在线| 麻豆国产av国片精品| 国产色爽女视频免费观看| 欧美日韩瑟瑟在线播放| 午夜福利在线在线| 精品久久久久久久久av| 亚洲欧美清纯卡通| 老女人水多毛片| 婷婷亚洲欧美| 亚洲精品在线观看二区| 十八禁网站免费在线| 国产精品嫩草影院av在线观看 | 精品福利观看| 亚洲精品一区av在线观看| 色哟哟·www| 能在线免费观看的黄片| 九色国产91popny在线| 国产精品一区二区性色av| 色哟哟·www| 国产69精品久久久久777片| 少妇熟女aⅴ在线视频| 亚洲 国产 在线| 美女高潮喷水抽搐中文字幕| 久久久久九九精品影院| 精品一区二区三区av网在线观看| 国产乱人视频| 国产黄色小视频在线观看| 三级毛片av免费| 日韩av在线大香蕉| 一本久久中文字幕| 国产在视频线在精品| 国产视频一区二区在线看| 伦理电影大哥的女人| 亚洲真实伦在线观看| 国产黄色小视频在线观看| 一卡2卡三卡四卡精品乱码亚洲| 黄色日韩在线| 国产成人福利小说| 久久久色成人| 校园春色视频在线观看| 亚洲va日本ⅴa欧美va伊人久久| 国产午夜精品久久久久久一区二区三区 | 午夜激情福利司机影院| 91狼人影院| avwww免费| 亚洲国产精品成人综合色| 精品99又大又爽又粗少妇毛片 | 91久久精品国产一区二区三区| 亚洲欧美激情综合另类| 欧美日本视频| 欧美又色又爽又黄视频| 国产一区二区激情短视频| 两人在一起打扑克的视频| 久久久久国产精品人妻aⅴ院| 高清日韩中文字幕在线| 国产麻豆成人av免费视频| 国产av麻豆久久久久久久| 搡老熟女国产l中国老女人| 国内精品美女久久久久久| 舔av片在线| 蜜桃久久精品国产亚洲av| 身体一侧抽搐| АⅤ资源中文在线天堂| 99riav亚洲国产免费| 最近最新中文字幕大全电影3| 国内精品美女久久久久久| 国产一区二区激情短视频| 韩国av在线不卡| 国产精品乱码一区二三区的特点| 久久精品久久久久久噜噜老黄 | 国内毛片毛片毛片毛片毛片| 日本爱情动作片www.在线观看 | 可以在线观看的亚洲视频| 国内精品久久久久精免费| 午夜福利在线观看免费完整高清在 | 俄罗斯特黄特色一大片| 99热这里只有是精品在线观看| 伦精品一区二区三区| 婷婷色综合大香蕉| 亚洲黑人精品在线| 一本精品99久久精品77| av天堂中文字幕网| 亚洲美女视频黄频| 国产亚洲精品久久久com| 国产精品人妻久久久久久| 国产不卡一卡二| 亚洲国产精品成人综合色| 成年女人毛片免费观看观看9| 成人永久免费在线观看视频| 18禁黄网站禁片免费观看直播| 一个人观看的视频www高清免费观看| 老女人水多毛片| 亚洲真实伦在线观看| www.www免费av| 国产色爽女视频免费观看| 国产免费一级a男人的天堂| 亚洲av成人av| 日本黄色片子视频| 日本成人三级电影网站| 深爱激情五月婷婷| 一本精品99久久精品77| 国产高潮美女av| 长腿黑丝高跟| 99在线视频只有这里精品首页| 亚洲中文日韩欧美视频| 久久国产乱子免费精品| 性色avwww在线观看| 亚洲国产日韩欧美精品在线观看| 国产精品av视频在线免费观看| 欧美xxxx性猛交bbbb| 国内精品一区二区在线观看| 久久婷婷人人爽人人干人人爱| 18禁裸乳无遮挡免费网站照片| 亚洲人成网站高清观看| 国产男靠女视频免费网站| 欧美xxxx黑人xx丫x性爽| 最近最新中文字幕大全电影3| 三级国产精品欧美在线观看| 日本a在线网址| 欧美最黄视频在线播放免费| www日本黄色视频网| 久久午夜亚洲精品久久| 成人高潮视频无遮挡免费网站| 他把我摸到了高潮在线观看| 麻豆精品久久久久久蜜桃| 亚洲经典国产精华液单| 波多野结衣高清作品| 99久国产av精品| 国产乱人视频| 最近最新免费中文字幕在线| 国产精品野战在线观看| eeuss影院久久| 丰满的人妻完整版| 国内毛片毛片毛片毛片毛片| 国产精品永久免费网站| 欧美一区二区精品小视频在线| 午夜亚洲福利在线播放| 男女那种视频在线观看| 日本五十路高清| 一本久久中文字幕| 人妻制服诱惑在线中文字幕| 国产免费av片在线观看野外av| 一进一出抽搐动态| 黄色一级大片看看| 亚洲综合色惰| 欧美xxxx性猛交bbbb| 精品福利观看| 亚洲av免费在线观看| 午夜影院日韩av| 精品久久久久久久末码| 麻豆一二三区av精品| 少妇丰满av| 国产人妻一区二区三区在| 又黄又爽又免费观看的视频| 亚洲内射少妇av| 国产单亲对白刺激| 99视频精品全部免费 在线| 狠狠狠狠99中文字幕| 精品国内亚洲2022精品成人| 色综合亚洲欧美另类图片| 干丝袜人妻中文字幕| 日韩一本色道免费dvd| 超碰av人人做人人爽久久| 日本三级黄在线观看| 久久热精品热| av视频在线观看入口| 国产av麻豆久久久久久久| avwww免费| xxxwww97欧美| 欧美一区二区精品小视频在线| 嫩草影院入口| 国产精品乱码一区二三区的特点| 国产黄a三级三级三级人| 国产精品久久电影中文字幕| 人人妻人人澡欧美一区二区| 久9热在线精品视频| 欧美日韩综合久久久久久 | 午夜福利在线观看吧| 亚洲精华国产精华液的使用体验 | 国产视频内射| 国产精品1区2区在线观看.| 少妇裸体淫交视频免费看高清| 日日夜夜操网爽| 久久久久久久久大av| 午夜福利成人在线免费观看| 神马国产精品三级电影在线观看| 一本一本综合久久| 国产精品一区二区三区四区免费观看 | 日韩,欧美,国产一区二区三区 | 国内毛片毛片毛片毛片毛片| 可以在线观看毛片的网站| 精品乱码久久久久久99久播| 日本在线视频免费播放| 亚洲成人中文字幕在线播放| 97超级碰碰碰精品色视频在线观看| 22中文网久久字幕| 毛片女人毛片| 麻豆成人av在线观看| 69人妻影院| 午夜免费男女啪啪视频观看 | 久久久久久伊人网av| 日本黄色片子视频| 999久久久精品免费观看国产| 夜夜爽天天搞| 熟妇人妻久久中文字幕3abv| 噜噜噜噜噜久久久久久91| 99精品在免费线老司机午夜| 精品一区二区免费观看| 啦啦啦啦在线视频资源| 欧美一区二区精品小视频在线| 久久午夜福利片| 国产毛片a区久久久久| 我要搜黄色片| 午夜免费男女啪啪视频观看 | 高清日韩中文字幕在线| 日本在线视频免费播放| 国产三级在线视频| 真人一进一出gif抽搐免费| 女同久久另类99精品国产91| 日韩av在线大香蕉| 一个人看视频在线观看www免费| 久久久久久大精品| av专区在线播放| 国产精品一区二区三区四区久久| 国产在视频线在精品| 日本 av在线| 色av中文字幕| 久久国产乱子免费精品| aaaaa片日本免费| 国产乱人视频| 人妻少妇偷人精品九色| 亚洲国产高清在线一区二区三| 最近最新免费中文字幕在线| 欧美激情久久久久久爽电影| 免费大片18禁| 欧美高清成人免费视频www| 亚洲内射少妇av| 老女人水多毛片| 九九久久精品国产亚洲av麻豆| 99久国产av精品| 国产三级在线视频| 美女 人体艺术 gogo| 成人毛片a级毛片在线播放| 免费观看的影片在线观看| 三级男女做爰猛烈吃奶摸视频| 久久久久久久精品吃奶| 搞女人的毛片| 免费大片18禁| 国产午夜精品论理片| 综合色av麻豆| 看片在线看免费视频| 精品久久久久久久久av| 久久久精品大字幕| 88av欧美| 亚洲人成网站高清观看| 国产91精品成人一区二区三区| 日本在线视频免费播放| 最新中文字幕久久久久| 91精品国产九色| 搡老岳熟女国产| 久久草成人影院| 国产 一区精品| 男人狂女人下面高潮的视频| 午夜福利18| 成人二区视频| 国产真实伦视频高清在线观看 | 永久网站在线| 好男人在线观看高清免费视频| 大型黄色视频在线免费观看| 国产日本99.免费观看| 国产一区二区三区av在线 | 欧美日韩精品成人综合77777| 亚洲欧美精品综合久久99| 精华霜和精华液先用哪个| 欧美3d第一页| 国产一区二区三区av在线 | 五月伊人婷婷丁香| 亚洲人成网站在线播| 国产免费av片在线观看野外av| 国产av一区在线观看免费| 久久中文看片网| 老女人水多毛片| 99热只有精品国产| 国内精品久久久久精免费| 少妇的逼好多水| 99久久精品一区二区三区| 狂野欧美激情性xxxx在线观看| 国产午夜精品论理片| 一区二区三区四区激情视频 | 男女视频在线观看网站免费| 波野结衣二区三区在线| videossex国产| 亚洲电影在线观看av| 成人av在线播放网站| 国产av在哪里看|