• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    大數(shù)據(jù)時(shí)代下智能化算法侵權(quán)的認(rèn)定規(guī)則

    2023-11-06 01:41:10解庭峰
    中阿科技論壇(中英文) 2023年9期
    關(guān)鍵詞:控制者決策智能化

    解庭峰

    (安徽大學(xué)法學(xué)院,安徽 合肥 230039)

    1 問題的提出

    在大數(shù)據(jù)時(shí)代,智能化算法不僅可以針對(duì)用戶的興趣愛好進(jìn)行個(gè)性化推送,還可以用于推測(cè)人的財(cái)務(wù)狀況和工作能力等情況,除此之外還被應(yīng)用于互聯(lián)網(wǎng)搜索、產(chǎn)品推薦、自動(dòng)駕駛等多個(gè)領(lǐng)域,其在現(xiàn)代的政治、經(jīng)濟(jì)領(lǐng)域已經(jīng)產(chǎn)生了巨大的影響,深刻改變了人們的行為模式和商業(yè)的經(jīng)營(yíng)模式。但智能化算法造成的負(fù)面影響也屢見報(bào)端,比如近期廣州一女子地鐵照片被人工智能(AI)“一鍵脫衣”[1];OpenAI推出的人工智能ChatGPT在與用戶溝通過程中頻頻發(fā)表種族歧視和性別歧視言論等[2]。如何規(guī)避智能化算法的負(fù)面效應(yīng),對(duì)智能化算法的使用進(jìn)行合理規(guī)制,是進(jìn)一步發(fā)展智能化算法需要解決的重要問題。

    在現(xiàn)有的算法侵權(quán)糾紛案件中,存在兩種觀點(diǎn),一種觀點(diǎn)認(rèn)為智能化算法的控制人應(yīng)當(dāng)對(duì)算法侵權(quán)承擔(dān)相應(yīng)的民事侵權(quán)責(zé)任,但對(duì)其為何要承擔(dān)侵權(quán)責(zé)任,適用的是何種歸責(zé)原則并沒有一致意見。另一種觀點(diǎn)則認(rèn)為智能化算法的控制人無需承擔(dān)侵權(quán)責(zé)任,其理論依據(jù)為算法黑箱。國(guó)內(nèi)學(xué)界主張以算法透明和算法解釋進(jìn)行分析,從技術(shù)角度探究智能化算法的決策過程,從而避免算法黑箱問題[3],但此種方式并不能解決智能化算法決策的歸責(zé)問題。故本文嘗試以現(xiàn)有的法律規(guī)范來分析智能化算法侵權(quán)行為,從而確定智能化算法侵權(quán)情形下的歸責(zé)原則和認(rèn)定侵權(quán)的構(gòu)成要件。

    2 智能化算法的侵害形式

    智能化算法的決策基礎(chǔ)是可以數(shù)據(jù)化的概念,對(duì)無法數(shù)據(jù)化的信息智能化算法不具有處理的能力,現(xiàn)實(shí)世界的復(fù)雜性在算法的輸入階段就被簡(jiǎn)化了,由此得出的算法決策模式自然與真實(shí)的場(chǎng)景相去甚遠(yuǎn)。而且智能化算法運(yùn)作的底層邏輯就是自我編程,一方面存在外部數(shù)據(jù)輸入的片面性,另一方面智能化算法具有學(xué)習(xí)功能,在運(yùn)行中會(huì)不斷修正計(jì)算結(jié)果,難以實(shí)時(shí)監(jiān)測(cè),因此人類并不能理解算法決策的過程和其邏輯,其自我優(yōu)化的方向也可能與控制者的意圖不同。由此就產(chǎn)生了智能化算法造成損害的問題。

    智能化算法構(gòu)成侵害的形式包括:對(duì)個(gè)人的犯罪風(fēng)險(xiǎn)和財(cái)務(wù)風(fēng)險(xiǎn)進(jìn)行大數(shù)據(jù)算法評(píng)估形成算法標(biāo)簽;對(duì)不同的個(gè)體采取差別化對(duì)待形成的算法歧視;利用算法個(gè)性化推送和檢索過濾等方式影響個(gè)人的意思形成與行為抉擇的算法操縱;此外還包括算法因設(shè)計(jì)缺陷和輸入數(shù)據(jù)的片面性或第三人濫用而作出錯(cuò)誤決策[4]。上述算法侵權(quán)形式首先會(huì)對(duì)個(gè)人的人身或財(cái)產(chǎn)權(quán)益造成損害,且由于智能化算法的應(yīng)用具有系統(tǒng)性和規(guī)模性,因此又會(huì)對(duì)整個(gè)社會(huì)造成巨大的負(fù)面影響。

    3 智能化算法控制者擔(dān)責(zé)的義務(wù)基礎(chǔ)

    智能化算法的決策范圍是有限的,算法的使用環(huán)境、如何設(shè)計(jì)算法模型以及如何利用算法的輸出結(jié)果都在控制者的預(yù)知范圍之內(nèi)。對(duì)人臉識(shí)別技術(shù)的應(yīng)用即是如此,在管理較為寬松的場(chǎng)景,如小區(qū)、校園通過人臉識(shí)別管理進(jìn)出人員,對(duì)人臉識(shí)別技術(shù)的精度并無過高的要求。但在金融領(lǐng)域或執(zhí)法領(lǐng)域應(yīng)用人臉識(shí)別技術(shù)就需要其具備極高的精度和準(zhǔn)確度,因?yàn)橹灰四樧R(shí)別出錯(cuò),就可能造成個(gè)人的人身或財(cái)產(chǎn)損失。因此控制者有提供與使用場(chǎng)景相符的算法的義務(wù)。總而言之,即便是在算法越發(fā)智能化的大數(shù)據(jù)時(shí)代,算法控制者對(duì)最終決策的產(chǎn)生仍然有不可替代的影響力,算法控制者擔(dān)責(zé)的義務(wù)基礎(chǔ)就在于此。

    3.1 智能化算法應(yīng)具備合法性

    首先,智能化算法本身應(yīng)當(dāng)具備合法性。任何在設(shè)計(jì)之初就以侵犯他人合法權(quán)益從而謀取利益為目的的算法都應(yīng)當(dāng)明令禁止,如網(wǎng)約車平臺(tái)所使用的“殺熟”算法利用大數(shù)據(jù)信息對(duì)不同消費(fèi)者區(qū)別定價(jià)侵犯了消費(fèi)者的合法權(quán)益。其次,中立算法的應(yīng)用場(chǎng)景應(yīng)當(dāng)具備合法性。若本身中立的算法被用于違法目的,則此時(shí)該算法也就不具備合法性。如某男子利用深度合成技術(shù)①的換臉功能合成自己與女明星親吻的視頻,更有甚者使用深度合成技術(shù)制作淫穢視頻。該種算法本身不合法或應(yīng)用場(chǎng)景不合法,說明算法控制者的主觀意圖必然不具備正當(dāng)性。

    3.2 用于算法訓(xùn)練的數(shù)據(jù)應(yīng)具有合理性

    智能化算法具有機(jī)器學(xué)習(xí)功能,通過對(duì)輸入數(shù)據(jù)進(jìn)行識(shí)別與分析,從而在面對(duì)相似類型的數(shù)據(jù)時(shí)可以作出相應(yīng)的決策。輸入數(shù)據(jù)須滿足以下條件:首先,數(shù)據(jù)必須真實(shí)且完整。如果輸入的數(shù)據(jù)存在瑕疵或者不完整,那么必然會(huì)導(dǎo)致算法作出的決策出現(xiàn)誤差,因此必須保證輸入到智能化算法中的數(shù)據(jù)真實(shí)且完整②。其次,用于算法訓(xùn)練的數(shù)據(jù)要與算法的應(yīng)用場(chǎng)景相契合。任何算法都具有特定的目的和應(yīng)用場(chǎng)景,只有符合具體的應(yīng)用場(chǎng)景的數(shù)據(jù)才能用于算法的訓(xùn)練。最后,在算法訓(xùn)練過程中需要人為地對(duì)數(shù)據(jù)進(jìn)行歸類和糾正。算法在對(duì)數(shù)據(jù)進(jìn)行分類和標(biāo)簽化的過程中有出現(xiàn)錯(cuò)誤的可能性,就會(huì)導(dǎo)致原來真實(shí)、完整的數(shù)據(jù)可能不具有合理性,因此有必要采用人工干預(yù)的方式對(duì)算法進(jìn)行引導(dǎo)。

    3.3 智能化算法應(yīng)具備可控性

    由于算法黑箱的存在,智能化算法在輸入數(shù)據(jù)、分析數(shù)據(jù)和作出決策的過程中存在造成損害的可能性,與此具有一定相似性的是飼養(yǎng)的動(dòng)物,動(dòng)物和智能化算法一樣,均具有一定的不可控性和危險(xiǎn)性,針對(duì)飼養(yǎng)的動(dòng)物,相關(guān)法律法規(guī)規(guī)定動(dòng)物飼養(yǎng)人必須對(duì)飼養(yǎng)的動(dòng)物進(jìn)行有效控制,防止其對(duì)他人造成損害。而智能化算法一旦應(yīng)用于網(wǎng)絡(luò),與之接觸的人以百萬計(jì),就更需要控制者對(duì)其進(jìn)行有效控制。為了對(duì)智能化算法進(jìn)行有效監(jiān)督和控制,可以鼓勵(lì)非營(yíng)利的第三方機(jī)構(gòu)介入其中,要求算法控制者進(jìn)行算法認(rèn)證[5]?,F(xiàn)在用于算法認(rèn)證的工具是算法測(cè)試,該工具的適用不需要算法的程序設(shè)計(jì)和底層代碼,而是通過對(duì)算法運(yùn)算反推來進(jìn)行測(cè)試。

    4 智能化算法控制者的主觀意志解析

    智能化算法的編寫和運(yùn)作流程包括建立算法模型、進(jìn)行數(shù)字化編碼、輸入數(shù)據(jù)信息并訓(xùn)練算法、輸出結(jié)果。智能化算法所輸出的結(jié)果取決于設(shè)計(jì)者在建構(gòu)算法時(shí)的主觀目的、輸入的數(shù)據(jù)樣本、學(xué)習(xí)階段用戶提供的數(shù)據(jù)信息等多重因素。判斷算法控制者是否對(duì)算法所造成的損害具備主觀意志需要對(duì)控制者在各個(gè)階段的主觀狀態(tài)都有所了解,包括設(shè)計(jì)算法模型時(shí)具備明確的目標(biāo)、在算法運(yùn)行階段知曉算法運(yùn)作進(jìn)程、能夠預(yù)見算法在運(yùn)作過程中產(chǎn)生的逃逸風(fēng)險(xiǎn)。

    4.1 由算法的設(shè)計(jì)目的可知算法控制者的主觀意志

    智能化算法自身不具有構(gòu)建算法模型的能力,是算法控制者基于其應(yīng)用要求來確定目標(biāo)、指令和用于機(jī)器學(xué)習(xí)的訓(xùn)練數(shù)據(jù),且算法控制者可以任意設(shè)定算法的分析邊界,算法對(duì)邊界內(nèi)的因素予以考慮,忽略邊界外的因素,從而限定運(yùn)算結(jié)果。比如,“if … then”是最基本的算法規(guī)則,“if”是算法控制者預(yù)設(shè)的算法分析邊界,“then”則是算法控制者的決策目標(biāo)。在網(wǎng)絡(luò)招聘算法中,如果設(shè)定的算法包含“若候選人患有乙肝,則候選人不合格”的運(yùn)算邏輯,該算法就體現(xiàn)了算法控制者對(duì)乙肝人群的歧視。因此即便存在算法黑箱,算法控制者亦明確知曉算法的設(shè)計(jì)目的,由此便可得知算法控制者的主觀意志。

    4.2 由算法訓(xùn)練進(jìn)程可知算法控制者的主觀意志

    智能化算法的機(jī)器學(xué)習(xí)包括監(jiān)督學(xué)習(xí)和非監(jiān)督學(xué)習(xí)兩種形式,算法控制者會(huì)根據(jù)算法的目標(biāo)和類型選擇其中一種學(xué)習(xí)形式。若用于算法訓(xùn)練的數(shù)據(jù)中已經(jīng)包含了決策結(jié)果的相關(guān)特征,則采用監(jiān)督學(xué)習(xí)形式較為適宜。監(jiān)督學(xué)習(xí)所使用的數(shù)據(jù)都是已標(biāo)簽化的數(shù)據(jù),算法控制者能夠把控機(jī)器學(xué)習(xí)過程,也就對(duì)該算法具有更強(qiáng)的控制能力。但如果用于算法訓(xùn)練的數(shù)據(jù)是尚未標(biāo)簽化的數(shù)據(jù),算法則要對(duì)雜亂的數(shù)據(jù)進(jìn)行聚類,就需要采用非監(jiān)督學(xué)習(xí)形式。該種學(xué)習(xí)形式需要智能化算法自行分析數(shù)據(jù)進(jìn)行機(jī)器學(xué)習(xí),在數(shù)據(jù)存在瑕疵或偏見的情況下,利用該數(shù)據(jù)訓(xùn)練的算法就必然會(huì)存在瑕疵或帶有偏向性。此外在算法設(shè)計(jì)過程中,若以單一、簡(jiǎn)單的數(shù)據(jù)作為學(xué)習(xí)樣本,智能化算法會(huì)將單一特征當(dāng)作整體性特征,形成算法偏見。當(dāng)學(xué)習(xí)樣本是龐大而多變的數(shù)據(jù)時(shí)智能化算法會(huì)降低偏見,卻可能會(huì)將大量正確卻無關(guān)的數(shù)據(jù)納入其中。算法控制者是選擇監(jiān)督學(xué)習(xí)還是非監(jiān)督學(xué)習(xí),選取單一、簡(jiǎn)單的學(xué)習(xí)樣本還是龐大、多變的學(xué)習(xí)樣本都體現(xiàn)了算法控制者對(duì)算法訓(xùn)練進(jìn)程的了解和控制,進(jìn)而可知算法控制者的主觀意志。

    4.3 由算法逃逸風(fēng)險(xiǎn)可知算法控制者的主觀意志

    算法逃逸是指算法運(yùn)行出乎算法控制者的預(yù)料,產(chǎn)生了預(yù)設(shè)目標(biāo)之外的結(jié)果。智能化算法具有機(jī)器學(xué)習(xí)的功能,是一個(gè)對(duì)外界數(shù)據(jù)開放的系統(tǒng)。因此智能化算法會(huì)受到外部數(shù)據(jù)的影響,出現(xiàn)算法逃逸的情況。出現(xiàn)算法逃逸一般存在兩種原因:一是算法在設(shè)計(jì)或?qū)W習(xí)階段存在不足,在機(jī)器學(xué)習(xí)階段輸入數(shù)據(jù)較為單一或算法設(shè)計(jì)層面存在紕漏。如2020年10月,在蘇格蘭足球冠軍聯(lián)賽中,智能轉(zhuǎn)播系統(tǒng)誤將裁判的光頭識(shí)別為足球,導(dǎo)致攝像頭總是追隨著這位裁判,該比賽也因此成為一場(chǎng)被高科技?xì)У舻谋荣?。二是外界存在?shù)據(jù)干擾,并且往往攻擊安全性最薄弱的環(huán)節(jié),即算法學(xué)習(xí)系統(tǒng)。對(duì)于具有機(jī)器學(xué)習(xí)功能的算法而言,輸入數(shù)據(jù)出現(xiàn)輕微變動(dòng),都可能導(dǎo)致算法的學(xué)習(xí)結(jié)果與設(shè)想結(jié)果大相徑庭。作為智能化算法的控制者必然知曉算法存在的逃逸風(fēng)險(xiǎn)可能會(huì)侵害用戶的合法權(quán)益。

    綜上所述,智能化算法控制者知曉算法的設(shè)計(jì)目的、算法的訓(xùn)練過程以及算法在具體應(yīng)用場(chǎng)景中可能出現(xiàn)的負(fù)面效應(yīng)。盡管由于算法黑箱的存在,難以判定智能化算法控制者對(duì)算法侵權(quán)是否有明確的主觀過錯(cuò),但在智能化算法存在安全風(fēng)險(xiǎn)并可能損害用戶權(quán)益的情況下,算法控制者未采取相應(yīng)的糾正措施,這就為對(duì)智能化算法控制者進(jìn)行歸責(zé)提供了相應(yīng)的依據(jù)。

    5 智能化算法控制者的行為與損害結(jié)果的因果關(guān)系

    侵害行為和損害結(jié)果之間存在因果關(guān)系是認(rèn)定侵權(quán)責(zé)任的關(guān)鍵要素,但智能化算法決策的產(chǎn)生過程和推演邏輯因算法黑箱的存在而無從得知。因此智能化算法控制者的行為與損害結(jié)果之間因果關(guān)系的認(rèn)定要比普通侵權(quán)案件中因果關(guān)系的認(rèn)定復(fù)雜得多。傳統(tǒng)學(xué)說中有多種認(rèn)定因果關(guān)系的理論,如法規(guī)目的說、近因理論、相當(dāng)因果關(guān)系說等。判斷智能化算法控制者的行為與損害結(jié)果之間因果關(guān)系選擇何種理論應(yīng)結(jié)合算法的特性。鑒于智能化算法的自我學(xué)習(xí)特性、內(nèi)部的復(fù)雜性和算法黑箱的存在,筆者認(rèn)為以相當(dāng)因果關(guān)系說作為判斷標(biāo)準(zhǔn)較為適宜。相當(dāng)因果關(guān)系說主張構(gòu)成損害的原因需滿足兩個(gè)條件:一是該原因是損害發(fā)生的必要條件,該條件的檢驗(yàn)方法一般為“若無,則不”,即若無此行為,就不會(huì)發(fā)生損害[6]。二是該原因?qū)е聯(lián)p害的發(fā)生存在高度的蓋然性。即以一般理性人能夠預(yù)見或應(yīng)當(dāng)預(yù)見該原因會(huì)導(dǎo)致?lián)p害發(fā)生,和一般人雖不能預(yù)見但因行為人的職業(yè)而能夠預(yù)見或應(yīng)當(dāng)預(yù)見該原因會(huì)導(dǎo)致?lián)p害發(fā)生。

    5.1 算法模型缺陷和損害結(jié)果之間的直接因果關(guān)系

    算法控制者所設(shè)計(jì)的智能化算法本身存有缺陷是造成損害結(jié)果的直接原因。從智能化算法的外部觀察,智能化算法似乎是中立性的技術(shù)工具,但若算法控制者設(shè)計(jì)的算法本身所追求的目標(biāo)違反法律法規(guī)或通過侵犯他人權(quán)益而獲益,此時(shí)智能化算法作出的決策必然會(huì)造成損害結(jié)果。如典型的大數(shù)據(jù)“殺熟”算法、信息繭房式的推薦算法以及違法收集個(gè)人隱私信息的算法等,其設(shè)計(jì)初衷就在于侵犯他人權(quán)益,無論其內(nèi)部決策過程如何,該智能化算法的控制者設(shè)計(jì)算法的行為與最終的損害結(jié)果都存在直接的因果關(guān)系。

    5.2 數(shù)據(jù)瑕疵和損害結(jié)果之間存在間接因果關(guān)系

    數(shù)據(jù)是智能化算法進(jìn)行決策的基礎(chǔ),智能化算法的決策和數(shù)據(jù)的特征選擇、訓(xùn)練數(shù)據(jù)的標(biāo)簽、目標(biāo)變量等因素相關(guān),不準(zhǔn)確、不全面的數(shù)據(jù)都有可能造成數(shù)據(jù)瑕疵。數(shù)據(jù)瑕疵分為以下兩種情況:一是數(shù)據(jù)固有瑕疵,智能化算法在繁雜的大數(shù)據(jù)中提取出的數(shù)據(jù)要素必然帶有社會(huì)對(duì)事實(shí)的普遍認(rèn)知,如果這些普遍認(rèn)知本身具有偏見性,那么智能化算法處理后的數(shù)據(jù)必然也會(huì)存在相應(yīng)的瑕疵。二是數(shù)據(jù)標(biāo)注和處理瑕疵。智能化算法在進(jìn)行機(jī)器學(xué)習(xí)的過程中需要先對(duì)收集到的數(shù)據(jù)進(jìn)行標(biāo)簽化處理從而建立變量之間的相關(guān)性,數(shù)據(jù)的分類、數(shù)據(jù)的標(biāo)簽化及對(duì)數(shù)據(jù)標(biāo)簽化的糾偏都有可能導(dǎo)致數(shù)據(jù)出現(xiàn)瑕疵,從而造成算法作出的決策致人損害。

    6 探索智能化算法侵權(quán)的認(rèn)定規(guī)則

    前文對(duì)傳統(tǒng)侵權(quán)責(zé)任歸責(zé)原則中的構(gòu)成要件進(jìn)行的分析表明,盡管智能化算法存在很強(qiáng)的技術(shù)性,但仍未超出現(xiàn)有的侵權(quán)法律體系范疇。但傳統(tǒng)責(zé)任理論在面對(duì)算法黑箱、機(jī)器學(xué)習(xí)、自動(dòng)決策等新型技術(shù)時(shí),也存在一些適用上的難題,因此有必要針對(duì)智能化算法的技術(shù)特性選擇合適的歸責(zé)原則,并對(duì)其進(jìn)行一定的限制和修改,為解決智能化算法侵權(quán)的歸責(zé)問題構(gòu)建適當(dāng)?shù)呢?zé)任承擔(dān)方式。

    6.1 一般侵權(quán)責(zé)任條款適用檢視

    一般侵權(quán)責(zé)任原則要求受害方證明構(gòu)成侵權(quán)的全部要件,但算法黑箱的存在使得受害人難以證明智能化算法控制人存在主觀過錯(cuò)和其行為與損害結(jié)果之間存在因果關(guān)系,而且智能化算法控制人了解智能化算法的運(yùn)作原理并且能夠?qū)χ悄芑惴ㄟM(jìn)行技術(shù)控制,因此為保障受害人合法權(quán)益,有學(xué)者主張利用算法解釋權(quán)③制度要求智能化算法控制人對(duì)算法的決策原理進(jìn)行披露[7]。但筆者認(rèn)為算法解釋權(quán)制度無法解決一般侵權(quán)責(zé)任條款在智能化算法侵權(quán)的適用困境。

    首先,智能化算法是智能化算法控制者投入大量金錢和時(shí)間研發(fā)的產(chǎn)物,往往是智能化算法控制者掌握的核心技術(shù)秘密。將智能化算法認(rèn)定為商業(yè)秘密是學(xué)界和司法實(shí)務(wù)界普遍持有的觀點(diǎn)。而且在保護(hù)智能化算法相關(guān)的商業(yè)秘密和支持算法解釋權(quán)之間,法官往往會(huì)選擇保護(hù)公司的商業(yè)秘密。如在一例大數(shù)據(jù)“殺熟”案件中,原告主張美團(tuán)通過大數(shù)據(jù)“殺熟”技術(shù)向其多收取1元的配送費(fèi),要求美團(tuán)承擔(dān)侵權(quán)責(zé)任,在該案中法院未要求美團(tuán)對(duì)其算法進(jìn)行解釋,而是判定由原告承擔(dān)全部的舉證責(zé)任④。因?yàn)槿绻ㄔ簭?qiáng)制算法控制者公開并解釋算法決策可能會(huì)導(dǎo)致企業(yè)商業(yè)秘密的泄露,因此在司法實(shí)踐中要求算法控制者對(duì)算法決策進(jìn)行解釋不具有可行性,但也引起了使算法不透明合法化的爭(zhēng)議[8]。其次,對(duì)算法的事后解釋也并不能完全解釋算法黑箱。智能化算法作出決策的算法邏輯與智能化算法控制者的決策邏輯并不一定相同,即便通過算法解釋權(quán)受害人能夠知曉算法內(nèi)部的運(yùn)行邏輯,智能化算法控制者還是能夠以算法黑箱來抗辯。最后,受害方對(duì)智能化算法的理解能力有限,無法對(duì)解釋結(jié)果進(jìn)行有效分析和判斷。假設(shè)法院通過算法解釋權(quán),算法解釋權(quán)制度要求智能化算法控制者解釋智能化算法決策的運(yùn)作邏輯,只憑一般受害人對(duì)智能化算法的理解水平很難找出算法模型缺陷或者數(shù)據(jù)瑕疵,更遑論證明智能化算法控制者的侵權(quán)責(zé)任。即便受害人聘請(qǐng)相關(guān)專業(yè)人士協(xié)助舉證,也極難證明其中微小的數(shù)據(jù)瑕疵與損害結(jié)果之間存在因果關(guān)系,還會(huì)極大地加重受害人的訴訟負(fù)擔(dān)。故一般侵權(quán)責(zé)任條款不能解決智能化算法侵權(quán)歸責(zé)問題。

    6.2 適用產(chǎn)品責(zé)任規(guī)則的可行性分析

    6.2.1 形式要件:智能化算法的產(chǎn)品屬性

    我國(guó)《產(chǎn)品質(zhì)量法》將產(chǎn)品界定為“經(jīng)過加工、制作,用于銷售的產(chǎn)品”,智能化算法是否屬于產(chǎn)品,需以立法界定的產(chǎn)品概念來判斷。首先,“加工、制作”所指的是通過人的介入來改變物質(zhì)的行為,智能化算法是人為設(shè)計(jì)的產(chǎn)物,當(dāng)然滿足“加工、制作”這一要件。其次,“銷售”是指以營(yíng)利為目的將產(chǎn)品交由用戶使用的行為,現(xiàn)如今將智能化算法提供給用戶有多種方式,其中與實(shí)物相結(jié)合通過售賣的方式提供給用戶,自然屬于銷售行為。而對(duì)于包含算法的軟件供用戶免費(fèi)下載并使用是否屬于銷售則頗具迷惑性。事實(shí)上,軟件的免費(fèi)下載和使用并非真正的免費(fèi),在大數(shù)據(jù)時(shí)代,平臺(tái)的訪問量、用戶數(shù)量以及用戶在平臺(tái)上的行為所產(chǎn)生的數(shù)據(jù)就是核心競(jìng)爭(zhēng)力,用戶使用軟件的行為本身就是在向經(jīng)營(yíng)者支付費(fèi)用。最后,產(chǎn)品的范疇是否限于有體物?在民法學(xué)說中對(duì)物的定義就包含了有體物和無體物兩種形式,電磁波也被認(rèn)定為物。通過電磁波進(jìn)行運(yùn)作的智能化算法自然也屬于物。并且在大數(shù)據(jù)時(shí)代,產(chǎn)品已經(jīng)不再局限于硬件設(shè)施,軟件也具備產(chǎn)品屬性,如有的算法已經(jīng)可以作為虛擬裝置申請(qǐng)專利。因此,智能化算法可以被看作智能化算法控制者提供的一項(xiàng)電子產(chǎn)品。

    6.2.2 實(shí)質(zhì)要件:智能化算法適用產(chǎn)品責(zé)任規(guī)則的理論基礎(chǔ)

    產(chǎn)品致人損害適用的是嚴(yán)格責(zé)任歸責(zé)原則。我國(guó)一般稱嚴(yán)格責(zé)任為無過錯(cuò)責(zé)任,無過錯(cuò)責(zé)任原則的發(fā)展經(jīng)歷了漫長(zhǎng)的歷史演進(jìn),而產(chǎn)品責(zé)任從適用一般的過錯(cuò)原則轉(zhuǎn)變?yōu)檫m用無過錯(cuò)責(zé)任原則,源于法學(xué)界對(duì)產(chǎn)品責(zé)任的新的認(rèn)識(shí)。首先,民法并非純粹的交易法,其同時(shí)也保護(hù)自然人的生命和健康等人格權(quán)益,以免產(chǎn)品消費(fèi)者受到因產(chǎn)品導(dǎo)致的傷害。因此在法律層面產(chǎn)品提供者就負(fù)有保證產(chǎn)品不具有危險(xiǎn)性的保證義務(wù),即使其已經(jīng)盡到了一定的注意義務(wù)。其次,隨著科學(xué)技術(shù)的發(fā)展,產(chǎn)品的內(nèi)部結(jié)構(gòu)越發(fā)復(fù)雜,一般人很難證明產(chǎn)品存在瑕疵,若仍適用過錯(cuò)原則,受害人將難以舉證。只有采取無過錯(cuò)責(zé)任原則,由最了解產(chǎn)品的生產(chǎn)者來舉證,才符合公平原則的要求[9]。

    綜上所述,智能化算法相比于普通產(chǎn)品具有更復(fù)雜的內(nèi)部結(jié)構(gòu),受害人基本沒有舉證的能力和條件。并且由智能化算法控制者承擔(dān)舉證責(zé)任同樣存在相應(yīng)的義務(wù)基礎(chǔ)和主觀意志基礎(chǔ),因此智能化算法侵權(quán)適用產(chǎn)品責(zé)任規(guī)則并無理論上的阻礙。目前國(guó)外已經(jīng)出現(xiàn)要對(duì)智能化算法侵權(quán)適用產(chǎn)品責(zé)任規(guī)則的聲音,歐洲議會(huì)曾在相關(guān)會(huì)議中提出要撤銷對(duì)新興數(shù)字技術(shù)適用的舉證責(zé)任的規(guī)則,轉(zhuǎn)而適用產(chǎn)品責(zé)任規(guī)則。未來我國(guó)可以結(jié)合智能化算法的監(jiān)管經(jīng)驗(yàn),以《民法典》的產(chǎn)品責(zé)任條款為歸責(zé)基礎(chǔ),再輔之以行政管理規(guī)范,針對(duì)智能化算法侵權(quán)構(gòu)建多元協(xié)同的法律責(zé)任機(jī)制。

    注釋:

    ①合成技術(shù)是指利用以深度學(xué)習(xí)、虛擬現(xiàn)實(shí)為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等信息的技術(shù)。

    ②《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第14條:深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強(qiáng)訓(xùn)練數(shù)據(jù)管理,采取必要措施保障訓(xùn)練數(shù)據(jù)安全。

    ③指當(dāng)算法所輸出的自動(dòng)化結(jié)果對(duì)算法相對(duì)人產(chǎn)生法律上或其他方面的重大影響時(shí),算法相對(duì)人有權(quán)要求算法背后的行為人對(duì)該結(jié)果的來源進(jìn)行解釋。

    ④劉權(quán)、北京三快科技有限公司侵權(quán)責(zé)任糾紛二審民事判決書,湖南省長(zhǎng)沙市中級(jí)人民法院(2019)湘01民終9501號(hào)民事判決書。

    猜你喜歡
    控制者決策智能化
    智能化戰(zhàn)爭(zhēng)多維透視
    軍事文摘(2022年19期)2022-10-18 02:41:14
    為可持續(xù)決策提供依據(jù)
    印刷智能化,下一站……
    從“控制者”變身“隱形人”
    論人工智能的刑事責(zé)任能力與追究
    決策為什么失誤了
    淺談中小學(xué)財(cái)務(wù)人員角色轉(zhuǎn)換的緊迫性
    數(shù)據(jù)控制者的權(quán)利與限制
    基于“物聯(lián)網(wǎng)+”的智能化站所初探
    石油石化演進(jìn)智能化
    能源(2015年8期)2015-05-26 09:15:56
    三级男女做爰猛烈吃奶摸视频| 亚洲一区高清亚洲精品| 欧美另类亚洲清纯唯美| 内射极品少妇av片p| 久久精品人妻少妇| 男女国产视频网站| 好男人在线观看高清免费视频| 午夜精品国产一区二区电影 | 能在线免费看毛片的网站| 亚洲精品456在线播放app| 青春草视频在线免费观看| 国产老妇女一区| 久久99蜜桃精品久久| 国产精品日韩av在线免费观看| 国内精品宾馆在线| 国产成人精品一,二区| 老司机影院毛片| 国产一区二区在线观看日韩| 嫩草影院入口| 亚洲精品乱码久久久v下载方式| 亚洲无线观看免费| 少妇人妻一区二区三区视频| 免费观看性生交大片5| 桃色一区二区三区在线观看| 国产精品不卡视频一区二区| 亚洲精品亚洲一区二区| 最近视频中文字幕2019在线8| 亚洲欧美日韩高清专用| 国产色爽女视频免费观看| av福利片在线观看| 亚洲av.av天堂| 亚洲欧美日韩卡通动漫| 99热这里只有精品一区| 一级黄色大片毛片| 97超视频在线观看视频| 久久久色成人| 国产精品野战在线观看| 2022亚洲国产成人精品| av在线播放精品| 啦啦啦啦在线视频资源| 99久久九九国产精品国产免费| 少妇人妻一区二区三区视频| 天天躁日日操中文字幕| 99久久人妻综合| 国产精品国产高清国产av| av免费观看日本| 一个人免费在线观看电影| 国产亚洲一区二区精品| 高清视频免费观看一区二区 | 噜噜噜噜噜久久久久久91| 能在线免费观看的黄片| 美女被艹到高潮喷水动态| 麻豆久久精品国产亚洲av| 国产欧美另类精品又又久久亚洲欧美| 精品一区二区三区视频在线| 国产又色又爽无遮挡免| 91午夜精品亚洲一区二区三区| 日本猛色少妇xxxxx猛交久久| 99久国产av精品国产电影| 十八禁国产超污无遮挡网站| 国产成人精品久久久久久| 亚州av有码| 午夜福利视频1000在线观看| 国产成人a区在线观看| 亚洲第一区二区三区不卡| 久久久久久久久久黄片| 插阴视频在线观看视频| 欧美97在线视频| 国产极品精品免费视频能看的| 日韩三级伦理在线观看| 99久久精品国产国产毛片| 亚洲在线自拍视频| 亚洲欧美精品自产自拍| 国产亚洲最大av| 午夜激情福利司机影院| 国产午夜精品论理片| 欧美日本亚洲视频在线播放| 国产免费视频播放在线视频 | .国产精品久久| 久久这里只有精品中国| 男人和女人高潮做爰伦理| 午夜精品一区二区三区免费看| 国产一级毛片七仙女欲春2| av又黄又爽大尺度在线免费看 | 一个人看的www免费观看视频| 日韩中字成人| 天天躁日日操中文字幕| 亚洲三级黄色毛片| 九九在线视频观看精品| 有码 亚洲区| 欧美xxxx性猛交bbbb| 3wmmmm亚洲av在线观看| av.在线天堂| 午夜福利在线观看免费完整高清在| 国产女主播在线喷水免费视频网站 | 毛片女人毛片| 久久久久性生活片| 男人狂女人下面高潮的视频| 免费黄网站久久成人精品| 夜夜爽夜夜爽视频| 欧美97在线视频| 国产精品1区2区在线观看.| 亚洲乱码一区二区免费版| 久久综合国产亚洲精品| 在线播放国产精品三级| 亚洲国产高清在线一区二区三| 国产亚洲91精品色在线| a级毛色黄片| 精品少妇黑人巨大在线播放 | 真实男女啪啪啪动态图| 91午夜精品亚洲一区二区三区| 91久久精品国产一区二区三区| 午夜激情福利司机影院| 成人高潮视频无遮挡免费网站| 男人舔女人下体高潮全视频| 亚洲国产精品成人久久小说| 两性午夜刺激爽爽歪歪视频在线观看| 婷婷六月久久综合丁香| 欧美色视频一区免费| 天堂av国产一区二区熟女人妻| 日本与韩国留学比较| 两个人视频免费观看高清| 亚洲人成网站在线播| 在线观看66精品国产| 免费不卡的大黄色大毛片视频在线观看 | 成人av在线播放网站| 免费一级毛片在线播放高清视频| 亚洲成人中文字幕在线播放| 国产精品久久视频播放| 午夜免费男女啪啪视频观看| 亚洲av成人精品一二三区| 男插女下体视频免费在线播放| 久久精品熟女亚洲av麻豆精品 | av国产免费在线观看| 亚洲国产精品成人综合色| 天堂影院成人在线观看| 亚洲精品日韩在线中文字幕| 久久6这里有精品| 高清在线视频一区二区三区 | 成人无遮挡网站| 夜夜爽夜夜爽视频| 免费看a级黄色片| 嫩草影院新地址| 日韩欧美国产在线观看| 蜜臀久久99精品久久宅男| 69人妻影院| 欧美成人午夜免费资源| 日韩av在线免费看完整版不卡| 免费观看人在逋| 99久久人妻综合| 麻豆久久精品国产亚洲av| 国产精品精品国产色婷婷| 中文字幕免费在线视频6| 九九在线视频观看精品| 深爱激情五月婷婷| 国产精品麻豆人妻色哟哟久久 | 精品久久久久久久久av| 18禁动态无遮挡网站| 在线a可以看的网站| 床上黄色一级片| 国产视频内射| 老司机影院毛片| 有码 亚洲区| 如何舔出高潮| 边亲边吃奶的免费视频| 亚洲高清免费不卡视频| 欧美高清成人免费视频www| 精品久久久久久久久亚洲| 国模一区二区三区四区视频| a级一级毛片免费在线观看| 日韩欧美精品v在线| videossex国产| 一级毛片aaaaaa免费看小| 亚洲成人精品中文字幕电影| 亚洲国产色片| 免费无遮挡裸体视频| 亚洲国产欧美在线一区| 精品久久久久久成人av| 国产精品国产三级专区第一集| 天天躁日日操中文字幕| 亚洲av中文字字幕乱码综合| 久久婷婷人人爽人人干人人爱| 麻豆成人午夜福利视频| 在线a可以看的网站| 一级毛片电影观看 | 久久欧美精品欧美久久欧美| 毛片一级片免费看久久久久| 亚洲精华国产精华液的使用体验| 亚洲一级一片aⅴ在线观看| 久久人人爽人人片av| 一个人看的www免费观看视频| 日本猛色少妇xxxxx猛交久久| 91精品国产九色| 亚洲中文字幕一区二区三区有码在线看| 久久久精品欧美日韩精品| 亚洲国产精品国产精品| 91av网一区二区| 亚洲av免费高清在线观看| 国产成人一区二区在线| 国产av不卡久久| 建设人人有责人人尽责人人享有的 | 亚洲怡红院男人天堂| 在现免费观看毛片| 久久鲁丝午夜福利片| 五月玫瑰六月丁香| 欧美高清性xxxxhd video| 三级国产精品欧美在线观看| 天天躁日日操中文字幕| 97超碰精品成人国产| 菩萨蛮人人尽说江南好唐韦庄 | 国产午夜福利久久久久久| 青青草视频在线视频观看| 国产综合懂色| www日本黄色视频网| 精品欧美国产一区二区三| 天天一区二区日本电影三级| 综合色av麻豆| 亚洲在线自拍视频| www.色视频.com| 国产成人aa在线观看| 国语自产精品视频在线第100页| 久久精品综合一区二区三区| 蜜桃久久精品国产亚洲av| 久久精品人妻少妇| 亚洲欧美日韩高清专用| 国产精品1区2区在线观看.| 99热网站在线观看| 简卡轻食公司| 免费av观看视频| 亚洲乱码一区二区免费版| 久久久久久久久久黄片| 亚洲五月天丁香| 蜜桃久久精品国产亚洲av| 成人午夜精彩视频在线观看| 在线a可以看的网站| 91av网一区二区| 国产黄a三级三级三级人| 丰满少妇做爰视频| 久久精品国产鲁丝片午夜精品| 亚洲成av人片在线播放无| 亚洲色图av天堂| 五月伊人婷婷丁香| 国产黄色小视频在线观看| 麻豆成人午夜福利视频| 在线播放无遮挡| av免费在线看不卡| 一卡2卡三卡四卡精品乱码亚洲| 成人毛片a级毛片在线播放| 日韩av在线大香蕉| 天天一区二区日本电影三级| av在线天堂中文字幕| 久久久久久久亚洲中文字幕| 婷婷六月久久综合丁香| 能在线免费看毛片的网站| 国产一区二区亚洲精品在线观看| 91在线精品国自产拍蜜月| 亚洲欧美精品综合久久99| 边亲边吃奶的免费视频| 国内精品宾馆在线| 看十八女毛片水多多多| av视频在线观看入口| 亚洲av中文字字幕乱码综合| 久久人人爽人人爽人人片va| 国产乱人偷精品视频| 久久99蜜桃精品久久| 国产片特级美女逼逼视频| 人人妻人人澡人人爽人人夜夜 | 久久精品影院6| 亚洲美女搞黄在线观看| 精品久久久久久久久亚洲| 中文字幕精品亚洲无线码一区| 九九在线视频观看精品| 欧美xxxx黑人xx丫x性爽| 搞女人的毛片| 中国国产av一级| 精品久久久噜噜| 最新中文字幕久久久久| 18禁动态无遮挡网站| 亚洲精品久久久久久婷婷小说 | av天堂中文字幕网| 69av精品久久久久久| 久久久久免费精品人妻一区二区| 有码 亚洲区| av在线老鸭窝| 日日撸夜夜添| 尤物成人国产欧美一区二区三区| 久久精品夜夜夜夜夜久久蜜豆| 三级国产精品片| 国内精品美女久久久久久| 亚洲av电影在线观看一区二区三区 | 亚洲欧美日韩东京热| 中文欧美无线码| av卡一久久| 精品久久久久久久久久久久久| 中文亚洲av片在线观看爽| 久久人人爽人人爽人人片va| 99热6这里只有精品| 亚洲无线观看免费| 亚洲av成人精品一二三区| 久久久色成人| 日日摸夜夜添夜夜添av毛片| 国产精品福利在线免费观看| 精品久久久久久久久av| 好男人在线观看高清免费视频| 91精品一卡2卡3卡4卡| 成人国产麻豆网| 国产亚洲精品久久久com| 黄色欧美视频在线观看| 2022亚洲国产成人精品| av在线天堂中文字幕| 人妻少妇偷人精品九色| 国产成人精品一,二区| 中文字幕av成人在线电影| 69人妻影院| 国产一区有黄有色的免费视频 | 夜夜爽夜夜爽视频| 91久久精品电影网| 综合色丁香网| 久久精品国产鲁丝片午夜精品| 男女啪啪激烈高潮av片| 久久精品夜色国产| 久久欧美精品欧美久久欧美| 麻豆乱淫一区二区| 国产三级在线视频| 久久99热6这里只有精品| 日韩av在线免费看完整版不卡| 国产淫片久久久久久久久| 高清午夜精品一区二区三区| 男人的好看免费观看在线视频| 国产精品1区2区在线观看.| 欧美zozozo另类| 国产伦在线观看视频一区| 噜噜噜噜噜久久久久久91| 国产精品野战在线观看| 男女国产视频网站| 亚洲国产日韩欧美精品在线观看| 欧美一区二区亚洲| 精品少妇黑人巨大在线播放 | 人体艺术视频欧美日本| 午夜老司机福利剧场| 波野结衣二区三区在线| 好男人视频免费观看在线| 欧美不卡视频在线免费观看| 日韩av在线大香蕉| .国产精品久久| 天天躁日日操中文字幕| 精品国产一区二区三区久久久樱花 | 蜜桃久久精品国产亚洲av| 哪个播放器可以免费观看大片| 国产精品一二三区在线看| 汤姆久久久久久久影院中文字幕 | 99热这里只有精品一区| 久久婷婷人人爽人人干人人爱| 成年av动漫网址| 男人舔女人下体高潮全视频| 久久久久久久久久久丰满| 精品国产三级普通话版| 国产久久久一区二区三区| 最新中文字幕久久久久| 99久久成人亚洲精品观看| 精品久久久久久电影网 | 少妇的逼好多水| 大又大粗又爽又黄少妇毛片口| 亚洲精品色激情综合| 久久久久久久亚洲中文字幕| 国产男人的电影天堂91| 国产伦精品一区二区三区四那| 久久精品影院6| 成人综合一区亚洲| 久久久久久国产a免费观看| 联通29元200g的流量卡| 亚洲国产欧美人成| 欧美日本视频| 午夜亚洲福利在线播放| 99热这里只有是精品50| 哪个播放器可以免费观看大片| 久久韩国三级中文字幕| 国产成人精品一,二区| 国产精品福利在线免费观看| 国产免费视频播放在线视频 | 欧美不卡视频在线免费观看| 高清av免费在线| 中文字幕免费在线视频6| 中文字幕av成人在线电影| 一区二区三区免费毛片| 十八禁国产超污无遮挡网站| 大话2 男鬼变身卡| 夫妻性生交免费视频一级片| 色综合亚洲欧美另类图片| 亚洲av免费高清在线观看| 久久久久久久久中文| 亚洲av.av天堂| 精品欧美国产一区二区三| 麻豆一二三区av精品| 黄片wwwwww| av卡一久久| 亚洲av成人精品一区久久| 永久网站在线| 丰满乱子伦码专区| 成年av动漫网址| 国内精品美女久久久久久| 欧美一区二区国产精品久久精品| 欧美高清性xxxxhd video| 麻豆久久精品国产亚洲av| 精品免费久久久久久久清纯| 亚洲三级黄色毛片| 黄片wwwwww| 99久久精品国产国产毛片| 欧美不卡视频在线免费观看| 人妻夜夜爽99麻豆av| 免费不卡的大黄色大毛片视频在线观看 | 99久久精品热视频| a级毛色黄片| 成人毛片60女人毛片免费| 少妇猛男粗大的猛烈进出视频 | 插阴视频在线观看视频| 日韩,欧美,国产一区二区三区 | 欧美97在线视频| 精品一区二区免费观看| 国产精品国产三级国产专区5o | 日韩高清综合在线| av在线亚洲专区| 日韩大片免费观看网站 | 国产精品99久久久久久久久| 美女黄网站色视频| 久久草成人影院| 欧美精品一区二区大全| 好男人视频免费观看在线| 欧美日本视频| АⅤ资源中文在线天堂| 国产久久久一区二区三区| 国产 一区精品| 少妇人妻精品综合一区二区| 欧美最新免费一区二区三区| 精品一区二区免费观看| 久久久色成人| 精品久久久久久久人妻蜜臀av| 国内揄拍国产精品人妻在线| 99久久精品国产国产毛片| 九草在线视频观看| 国产黄a三级三级三级人| 久久精品国产99精品国产亚洲性色| 黄色配什么色好看| 免费不卡的大黄色大毛片视频在线观看 | 久久久久久大精品| 亚洲美女搞黄在线观看| 国产色爽女视频免费观看| 欧美色视频一区免费| 亚洲色图av天堂| 亚洲av一区综合| 乱人视频在线观看| 国产精品永久免费网站| 久久久久久九九精品二区国产| 国产精品久久久久久av不卡| 欧美日本视频| 国产av不卡久久| 乱码一卡2卡4卡精品| 搡女人真爽免费视频火全软件| 久99久视频精品免费| 午夜福利在线观看免费完整高清在| 亚洲va在线va天堂va国产| 岛国毛片在线播放| 亚洲精品国产成人久久av| av线在线观看网站| 高清日韩中文字幕在线| 可以在线观看毛片的网站| 青青草视频在线视频观看| .国产精品久久| 在现免费观看毛片| 亚洲成人精品中文字幕电影| 亚洲天堂国产精品一区在线| 日韩三级伦理在线观看| 国产 一区 欧美 日韩| 亚洲欧洲国产日韩| 麻豆av噜噜一区二区三区| 边亲边吃奶的免费视频| 午夜免费激情av| 波野结衣二区三区在线| 91久久精品国产一区二区成人| 97超碰精品成人国产| 九九热线精品视视频播放| 成人午夜精彩视频在线观看| 99在线人妻在线中文字幕| 国产成人a区在线观看| 亚洲一级一片aⅴ在线观看| 精品久久久久久久久久久久久| 亚洲美女视频黄频| 亚洲久久久久久中文字幕| 久久久久精品久久久久真实原创| 精品无人区乱码1区二区| 日韩av在线免费看完整版不卡| 国产人妻一区二区三区在| 边亲边吃奶的免费视频| 欧美色视频一区免费| 人妻夜夜爽99麻豆av| 国产精品美女特级片免费视频播放器| 亚洲国产精品sss在线观看| 亚洲天堂国产精品一区在线| 中文字幕熟女人妻在线| 国产高清不卡午夜福利| 中文字幕精品亚洲无线码一区| 男人舔女人下体高潮全视频| 免费人成在线观看视频色| 搡老妇女老女人老熟妇| 亚洲中文字幕一区二区三区有码在线看| 国产乱来视频区| www.色视频.com| 欧美变态另类bdsm刘玥| 性插视频无遮挡在线免费观看| 一区二区三区高清视频在线| 中文字幕亚洲精品专区| 九色成人免费人妻av| 欧美激情国产日韩精品一区| 午夜免费激情av| 亚洲精品,欧美精品| 中文字幕免费在线视频6| 亚洲av成人精品一二三区| 国产在线一区二区三区精 | 国产亚洲91精品色在线| 老女人水多毛片| 七月丁香在线播放| eeuss影院久久| 欧美成人精品欧美一级黄| av免费观看日本| 干丝袜人妻中文字幕| 免费观看a级毛片全部| 免费看av在线观看网站| 黄片无遮挡物在线观看| 啦啦啦啦在线视频资源| 国产 一区精品| 成人毛片a级毛片在线播放| 人妻少妇偷人精品九色| 又粗又爽又猛毛片免费看| 韩国av在线不卡| 亚洲欧美精品专区久久| 特大巨黑吊av在线直播| www日本黄色视频网| 亚洲人成网站在线播| 亚洲av成人精品一二三区| 在线播放国产精品三级| 美女黄网站色视频| 国产色婷婷99| 欧美性猛交黑人性爽| 亚洲无线观看免费| 久久精品久久精品一区二区三区| 99久久九九国产精品国产免费| 18禁在线无遮挡免费观看视频| 精品国产一区二区三区久久久樱花 | 毛片女人毛片| 亚洲成人中文字幕在线播放| 美女被艹到高潮喷水动态| 男女视频在线观看网站免费| 婷婷色麻豆天堂久久 | 国产亚洲最大av| 色网站视频免费| 桃色一区二区三区在线观看| 国产成年人精品一区二区| 五月伊人婷婷丁香| av专区在线播放| 欧美成人a在线观看| 男女啪啪激烈高潮av片| 级片在线观看| 国产精品女同一区二区软件| 亚洲国产高清在线一区二区三| 成人二区视频| 床上黄色一级片| 国产精品.久久久| 非洲黑人性xxxx精品又粗又长| 亚洲成人中文字幕在线播放| 色尼玛亚洲综合影院| 国产精品一区二区三区四区久久| 可以在线观看毛片的网站| 男女国产视频网站| 亚洲欧美成人精品一区二区| 超碰av人人做人人爽久久| 色综合色国产| 18禁裸乳无遮挡免费网站照片| 两个人的视频大全免费| 少妇人妻精品综合一区二区| 亚洲国产精品sss在线观看| 欧美成人午夜免费资源| 亚洲av免费在线观看| 免费一级毛片在线播放高清视频| 久久综合国产亚洲精品| 国语自产精品视频在线第100页| 大香蕉97超碰在线| 汤姆久久久久久久影院中文字幕 | 欧美色视频一区免费| 日日啪夜夜撸| 女的被弄到高潮叫床怎么办| 国产成人91sexporn| 一级毛片aaaaaa免费看小| 美女xxoo啪啪120秒动态图| www.av在线官网国产| 日本一二三区视频观看| 亚洲精品自拍成人| 晚上一个人看的免费电影| 高清日韩中文字幕在线| 成人一区二区视频在线观看| 久久久久久大精品| 国产探花极品一区二区| 午夜老司机福利剧场| 日本免费一区二区三区高清不卡| 成人二区视频| 日韩大片免费观看网站 | 22中文网久久字幕| 久久久国产成人精品二区| 国产成人91sexporn| 看片在线看免费视频| 一个人免费在线观看电影| 国产精品1区2区在线观看.| 中文乱码字字幕精品一区二区三区 | 欧美区成人在线视频| 国产精品一区www在线观看| 亚洲国产精品sss在线观看|