• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    AIGC服務(wù)提供者版權(quán)侵權(quán)責(zé)任研究

    2024-01-01 00:00:00朱開鑫

    摘" "要: 生成式人工智能的興起引發(fā)了網(wǎng)絡(luò)版權(quán)領(lǐng)域新的侵權(quán)糾紛類型與平臺責(zé)任關(guān)注。在版權(quán)直接侵權(quán)層面,AIGC服務(wù)提供者并不必然構(gòu)成演繹權(quán)侵權(quán),但發(fā)生“模型記憶”時(shí)受信息網(wǎng)絡(luò)傳播權(quán)規(guī)制;在版權(quán)間接侵權(quán)層面,AIGC服務(wù)提供者版權(quán)替代責(zé)任的認(rèn)定依賴于用戶直接侵權(quán)的成立。內(nèi)容呈現(xiàn)模式的封閉性決定了AIGC版權(quán)侵權(quán)判定的特殊性,但內(nèi)容輸出量級的放大效應(yīng)客觀增加了社會整體的版權(quán)侵權(quán)風(fēng)險(xiǎn)。為此,需要聚焦AIGC服務(wù)提供者注意義務(wù)的具體情形,設(shè)定科學(xué)的事前、事中與事后版權(quán)保護(hù)措施體系。

    關(guān)鍵詞: AIGC;版權(quán);信息網(wǎng)絡(luò)傳播權(quán);演繹權(quán);直接侵權(quán);間接侵權(quán);注意義務(wù)

    中圖分類號:TP18;D9" "文獻(xiàn)標(biāo)識碼:A 文章編號:1004-8634(2024)06-0039-(11)

    DOI:10.13852/J.CNKI.JSHNU.2024.06.004

    生成式人工智能(AIGC)的快速崛起和廣泛應(yīng)用,使得對網(wǎng)絡(luò)服務(wù)提供者版權(quán)侵權(quán)責(zé)任的關(guān)注由傳統(tǒng)的內(nèi)容傳播領(lǐng)域轉(zhuǎn)向全新的內(nèi)容生成領(lǐng)域。此前,網(wǎng)絡(luò)服務(wù)提供者版權(quán)侵權(quán)責(zé)任的歸責(zé)與否,在于是否幫助了侵權(quán)內(nèi)容的傳播。AIGC作為全新的網(wǎng)絡(luò)服務(wù)類型,涉及的則是侵權(quán)內(nèi)容的生成。由此,AIGC模式下存在哪些版權(quán)侵權(quán)類型,對應(yīng)的AIGC服務(wù)提供者責(zé)任應(yīng)當(dāng)如何判定,是AIGC時(shí)代版權(quán)領(lǐng)域亟待解決的全新議題。

    一、國內(nèi)外AIGC服務(wù)領(lǐng)域版權(quán)侵權(quán)糾紛凸顯

    1.國外AIGC領(lǐng)域版權(quán)侵權(quán)訴訟大量涌現(xiàn)

    2022年11月30日,美國人工智能公司Open AI發(fā)布ChatGPT,短短2個(gè)月,用戶量便超過1億,成為互聯(lián)網(wǎng)歷史上增長最快的應(yīng)用,本輪生成式人工智能的變革由此興起,美國也成為AIGC版權(quán)侵權(quán)糾紛出現(xiàn)最早也最為突出的國家。據(jù)不完全統(tǒng)計(jì),自2022年11月至2023年12月,共發(fā)生12起AIGC服務(wù)提供者被訴案件,1 其中最具代表性且訴訟進(jìn)程最快的當(dāng)數(shù)2023年1月13日在加州北區(qū)法院受理的Andersen等三位藝術(shù)家起訴Stable Diffusion、Midjourney、DreamUp等AIGC平臺的版權(quán)侵權(quán)集體訴訟(以下簡稱“Stable Diffusion版權(quán)案”)。2

    梳理該案件可以看到,在AIGC內(nèi)容輸出階段,版權(quán)人的訴請主要有三:由于AIGC輸出的內(nèi)容完全依賴于對語料庫中被訓(xùn)練版權(quán)作品的學(xué)習(xí),所以每次輸出的圖像均構(gòu)成演繹權(quán)侵權(quán)(對應(yīng)我國版權(quán)法上的改編權(quán)侵權(quán));用戶使用版權(quán)人姓名作為提示詞,生成與版權(quán)人作品高度相似的內(nèi)容并加以傳播,構(gòu)成版權(quán)直接侵權(quán);AIGC服務(wù)提供者在產(chǎn)品研發(fā)時(shí),要么知道、要么放任自身的服務(wù)具備可以被用戶用來生成侵權(quán)內(nèi)容的功能,所以構(gòu)成版權(quán)間接侵權(quán)。

    2023年10月30日,加州法院針對被告提起的“駁回原告起訴動議”做出裁定,認(rèn)定原告的上述三類侵權(quán)指控均不成立。1 首先,法庭認(rèn)為構(gòu)成演繹作品應(yīng)當(dāng)與在先作品存在表達(dá)層面的實(shí)質(zhì)性相似,而原告卻強(qiáng)調(diào)AIGC的輸出內(nèi)容不管以何種方式“參考”在先作品,都應(yīng)被認(rèn)定為演繹權(quán)侵權(quán)。其次,法庭認(rèn)為原告未能舉證用戶利用AIGC服務(wù)生成的圖像與自身作品存在實(shí)質(zhì)性相似部分。再次,法庭認(rèn)為版權(quán)間接侵權(quán)的成立必須以直接侵權(quán)為前提,但基于上述兩項(xiàng)原因原告未能滿足這一前置條件。

    2.國內(nèi)AIGC平臺版權(quán)侵權(quán)責(zé)任首案獲判

    2024年2月8日,廣州互聯(lián)網(wǎng)法院就國內(nèi)“大模型服務(wù)商版權(quán)侵權(quán)責(zé)任第一案”適用簡易程序做出判決。2 原告上海新創(chuàng)華公司享有奧特曼美術(shù)作品的國內(nèi)版權(quán)授權(quán),被告Tab平臺則向公眾提供AI文生圖服務(wù)。原告經(jīng)測試發(fā)現(xiàn),被告平臺可以輸出和自身作品相同或相似的奧特曼圖片,故向廣州互聯(lián)網(wǎng)法院提起版權(quán)侵權(quán)訴訟。3 原告主張被告構(gòu)成復(fù)制權(quán)、改編權(quán)與信網(wǎng)權(quán)侵權(quán)。在責(zé)任承擔(dān)方面,法院認(rèn)定被告負(fù)有停止侵權(quán)與損害賠償兩類義務(wù):對于停止侵權(quán),鑒于被告僅為AIGC服務(wù)提供者而非模型訓(xùn)練者,因而無法承擔(dān)刪除訓(xùn)練數(shù)據(jù)集中涉案作品的義務(wù),但要求被告需要進(jìn)一步采取“關(guān)鍵詞過濾”等措施,防止后續(xù)生成與涉案作品實(shí)質(zhì)性相似的內(nèi)容;對于損害賠償,鑒于被告未能履行AIGC服務(wù)提供者應(yīng)具備的“建立投訴舉報(bào)機(jī)制的義務(wù)”“提示用戶侵權(quán)風(fēng)險(xiǎn)的義務(wù)”“對生成物進(jìn)行顯著標(biāo)識的義務(wù)”等合理的注意義務(wù),法院認(rèn)定被告具有過錯(cuò),故應(yīng)當(dāng)承擔(dān)損害賠償責(zé)任。

    2024年6月20日,北京互聯(lián)網(wǎng)法院在線開庭審理了四起插畫師起訴AI繪畫軟件開發(fā)運(yùn)營者的版權(quán)侵權(quán)案件。原告提出的主張是,被告抓取原告作品輸入AI模型的行為,侵犯了原告的復(fù)制權(quán);涉案AI繪畫軟件提供原告作品與其他圖片雜糅、混合產(chǎn)生新圖的技術(shù)服務(wù),侵犯了原告的改編權(quán),等等。截至2024年11月,該案仍在審理中。4

    3.AIGC服務(wù)提供者版權(quán)侵權(quán)責(zé)任的聚焦

    需要說明的是,本文對AIGC服務(wù)提供者版權(quán)侵權(quán)責(zé)任的探討,聚焦于“內(nèi)容生成階段”,即用戶使用AIGC服務(wù)生成版權(quán)侵權(quán)內(nèi)容的情形下,AIGC服務(wù)提供者對此應(yīng)如何承擔(dān)責(zé)任的問題。至于“模型訓(xùn)練階段”,AIGC模型開發(fā)者未獲授權(quán)利用他人作品進(jìn)行模型訓(xùn)練優(yōu)化應(yīng)當(dāng)承擔(dān)何種版權(quán)責(zé)任的問題,并非本文討論的范圍。5

    在“內(nèi)容生成階段”,圍繞AIGC服務(wù)提供者需要探討的版權(quán)侵權(quán)情形,主要有兩大方面:一是涉及版權(quán)直接侵權(quán)領(lǐng)域,這主要出現(xiàn)在AIGC服務(wù)提供者在生成內(nèi)容時(shí),盡管使用者并無侵權(quán)的主觀意圖,但服務(wù)提供者仍可能面臨版權(quán)侵權(quán)責(zé)任的問題。二是涉及版權(quán)間接侵權(quán)領(lǐng)域,這指的是當(dāng)使用者故意利用AIGC服務(wù)生成侵權(quán)內(nèi)容時(shí),AIGC服務(wù)提供者所應(yīng)承擔(dān)的侵權(quán)責(zé)任問題。本文將聚焦上述兩類具體侵權(quán)責(zé)任類型展開論述,并從AIGC服務(wù)提供者合理的注意義務(wù)著眼,建構(gòu)科學(xué)可行的AIGC服務(wù)提供者版權(quán)保護(hù)措施體系。

    二、版權(quán)直接侵權(quán)語境下AIGC服務(wù)提供者責(zé)任論證

    所謂“版權(quán)直接侵權(quán)”,是指行為人直接從事版權(quán)法專有權(quán)利規(guī)制范疇的行為。6 從國內(nèi)外司法實(shí)踐來看,目前AIGC服務(wù)提供者版權(quán)直接侵權(quán)主要集中于兩類情形:一是大模型每次輸出的內(nèi)容是否均構(gòu)成演繹權(quán)侵權(quán),這是基于大模型訓(xùn)練高度依賴對在先作品的學(xué)習(xí)而引發(fā)的質(zhì)疑;二是“模型記憶”情形下,大模型可能會直接輸出和被訓(xùn)練作品相同或相似的內(nèi)容,進(jìn)而落入信息網(wǎng)絡(luò)傳播權(quán)1 規(guī)制的范疇。

    1.AIGC輸出內(nèi)容并非絕對構(gòu)成演繹權(quán)侵權(quán)

    從美國相關(guān)司法實(shí)踐來看,以作家和畫家為代表的版權(quán)人針對AIGC服務(wù)提供者提起的系列版權(quán)侵權(quán)訴訟中,第一個(gè)主張便是AIGC輸出的所有內(nèi)容均構(gòu)成演繹權(quán)侵權(quán)。在前述“Stable Diffusion版權(quán)案”中,原告認(rèn)為Stable Diffusion模型唯一做的事情就是通過內(nèi)容處理技術(shù)將語料庫中的他人作品圖像(latent image)“拼合”(interpolate)為混合圖像(hybrid image)。作為“一個(gè)21世紀(jì)的拼貼工具”(a 21st-century collage tool),Stable Diffusion系統(tǒng)生成的任何一張輸出圖像,都是從被訓(xùn)練的版權(quán)人作品中演繹而來,其自身沒有內(nèi)容創(chuàng)作貢獻(xiàn)。

    在美國,對于演繹作品(derivative work)的規(guī)定最早始于《1909年版權(quán)法》,是指“根據(jù)一部或一部以上的已有作品創(chuàng)作完成的作品”。2 因此,一個(gè)新內(nèi)容要被視為演繹作品,就必須與原作品存在內(nèi)容上的相關(guān)性,并以某種方式“復(fù)制”原作品的獨(dú)創(chuàng)性表達(dá)?!吨鳈?quán)法》對應(yīng)存在改編權(quán)的規(guī)定,即“改變作品,創(chuàng)作出具有獨(dú)創(chuàng)性的新作品的權(quán)利”。改編權(quán)強(qiáng)調(diào)在已有作品的基礎(chǔ)上經(jīng)過創(chuàng)造性勞動而派生出來新的作品。因此,構(gòu)成改編作品需要與原作品在表達(dá)層面具備實(shí)質(zhì)相似,或者說改編作品需要利用原作品的獨(dú)創(chuàng)性表達(dá)。3

    在“Stable Diffusion版權(quán)案”中,原告的訴請存在明顯的成立障礙。因?yàn)樵鎻?qiáng)調(diào)“不管以何種方式參考(reference)在先作品,新作品都應(yīng)被認(rèn)定為演繹作品”,但未能舉證被告產(chǎn)品輸出的內(nèi)容和自身作品在表達(dá)層面存在相似性。從判例法角度看,美國法院長久以來一直堅(jiān)持新作品必須包含原作品的實(shí)質(zhì)性部分,才能被視為演繹作品。4 由此,加州北區(qū)法院在2023年10月30日的裁定中,駁回了原告此項(xiàng)演繹權(quán)侵權(quán)主張,認(rèn)為原告未能提供初步證據(jù)表明被告產(chǎn)品輸出的任一內(nèi)容和自身作品存在相同或相似。

    2.AIGC原則上不會輸出與語料作品相同的內(nèi)容

    長久以來,各界關(guān)于大模型內(nèi)容生成機(jī)制最常見的誤解之一便是,用作模型訓(xùn)練的作品內(nèi)容會被“復(fù)制存儲”在模型參數(shù)之中,進(jìn)而會被根據(jù)用戶的提示詞觸發(fā)原樣輸出。例如,在美國特拉華州法院2023年2月3日受理的“Getty Images訴Stable Diffusion版權(quán)侵權(quán)案”中,原告便主張“Stable Diffusion模型會直接復(fù)制并時(shí)常生成輸出與Getty自身圖片高度相同的內(nèi)容”。但在2023年7月12日美國國會“人工智能與版權(quán)問題聽證會”上,Stability AI則針鋒相對地表示,“Stable Diffusion模型不會拼貼(collage)或縫合(stitch)被訓(xùn)練作品的具體內(nèi)容,也并非作為現(xiàn)有作品的‘搜索引擎’而直接輸出復(fù)制內(nèi)容”。5

    從AIGC技術(shù)原理來看,雖然AIGC模型建立在對海量語料內(nèi)容的訓(xùn)練基礎(chǔ)之上,但正常狀態(tài)下并不會復(fù)制輸出任何字面意義上的語料內(nèi)容。在模型訓(xùn)練階段,大模型會分解語料庫中被訓(xùn)練的作品內(nèi)容,將其轉(zhuǎn)換為模型參數(shù),類似于人類大腦中神經(jīng)網(wǎng)絡(luò)的組成部分。對于“文生圖模型”來講,其訓(xùn)練學(xué)習(xí)的是在先圖像中的基礎(chǔ)視覺結(jié)構(gòu),如形狀、紋理,還有圖案;對于“文生文模型”而言,其訓(xùn)練學(xué)習(xí)的是人類語言系統(tǒng)的基本結(jié)構(gòu),像不同語境下詞語、句子、段落、文章在被創(chuàng)作組合過程中體現(xiàn)的復(fù)雜樣式。在內(nèi)容生成階段,AIGC大模型可以通過將使用者輸入的提示詞分解為加權(quán)標(biāo)記,在統(tǒng)計(jì)學(xué)中的自回歸等原理下,調(diào)取模型參數(shù),進(jìn)一步生成全新的內(nèi)容表達(dá)。6

    2023年12月27日,備受國內(nèi)外AIGC行業(yè)關(guān)注的“《紐約時(shí)報(bào)》訴OpenAI與微軟案”在美國紐約南區(qū)法院受理。原告在起訴狀中便主張,ChatGPT會直接輸出和自身文章高度相似的內(nèi)容,包括逐字逐句的復(fù)制。1 但緊隨其后,被告OpenAI于2024年1月8日通過官網(wǎng)回應(yīng)并質(zhì)疑道:“看起來他們(《紐約時(shí)報(bào)》)故意操縱提示詞,包括大量的文章長篇摘錄,誘導(dǎo)我們模型輸出重復(fù)內(nèi)容。但即使在這樣的提示詞下,我們的模型通常也不會像《紐約時(shí)報(bào)》暗示的那樣行為,這表明他們要么指示模型重復(fù),要么從多次嘗試中挑選他們希望故意得到的內(nèi)容。”2 2024年2月8日,在廣州互聯(lián)網(wǎng)法院判決的國內(nèi)“大模型服務(wù)商版權(quán)侵權(quán)責(zé)任第一案”中,原告也是采取了和《紐約時(shí)報(bào)》類似的侵權(quán)發(fā)現(xiàn)手段,通過輸入“和自身作品相關(guān)的提示詞”,主動監(jiān)測被告平臺能否輸出侵權(quán)內(nèi)容,并最終成功舉證被告構(gòu)成復(fù)制權(quán)與改編權(quán)侵權(quán)。然而根據(jù)OpenAI針對《紐約時(shí)報(bào)》起訴的抗辯,如果大模型產(chǎn)品輸出和版權(quán)人相同或相似的內(nèi)容是原告刻意制造的,而非廣大使用者正常生成的,那么該行為是否缺乏實(shí)際損害或即便構(gòu)成損害也程度極為有限同樣值得關(guān)注。

    3.AIGC“模型記憶”時(shí)構(gòu)成信息網(wǎng)絡(luò)傳播權(quán)侵權(quán)

    只有在非正常狀況下,AIGC模型才會輸出和被訓(xùn)練語料作品一致的內(nèi)容。計(jì)算機(jī)科學(xué)領(lǐng)域稱之為“模型記憶”(memorization)。這被認(rèn)為是AIGC模型的一個(gè)需要修復(fù)的“bug”,而非正常的功能狀態(tài)。當(dāng)發(fā)生“模型記憶”時(shí),AIGC平臺會輸出和被訓(xùn)練語料相同或高度相似的內(nèi)容,即使用戶輸入的是無侵權(quán)誘導(dǎo)風(fēng)險(xiǎn)的提示詞。此時(shí),AIGC平臺在版權(quán)法上的身份是直接的內(nèi)容提供者(Internet Content Provider,縮寫ICP)而非被動的技術(shù)服務(wù)者(Internet Service Provider,縮寫ISP)。若未獲得相應(yīng)的授權(quán),便會構(gòu)成復(fù)制權(quán)、改編權(quán)以及信息網(wǎng)絡(luò)傳播權(quán)侵權(quán)等。

    對于復(fù)制權(quán)與改編權(quán)的侵權(quán)評價(jià)標(biāo)準(zhǔn),理論和實(shí)務(wù)界并不存在過多爭議,因此本部分主要聚焦于信息網(wǎng)絡(luò)傳播權(quán)侵權(quán)判斷標(biāo)準(zhǔn)的討論。值得關(guān)注的是,在廣州互聯(lián)網(wǎng)法院審理的國內(nèi)“大模型服務(wù)商版權(quán)侵權(quán)責(zé)任第一案”中,法院最終也僅是判定前兩類侵權(quán)成立,并沒有對被告信息網(wǎng)絡(luò)傳播權(quán)侵權(quán)做出具體認(rèn)定。根據(jù)我國《著作權(quán)法》規(guī)定,“信息網(wǎng)絡(luò)傳播權(quán)即以有線或者無線方式向公眾提供,使公眾可以在其選定的時(shí)間和地點(diǎn)獲得作品的權(quán)利”,但理論界和實(shí)務(wù)界對于信息網(wǎng)絡(luò)傳播權(quán)侵權(quán)的判定一直存在較為激烈的探討,并出現(xiàn)了“用戶感知標(biāo)準(zhǔn)”“實(shí)質(zhì)性替代標(biāo)準(zhǔn)”“服務(wù)器標(biāo)準(zhǔn)”等多個(gè)判定標(biāo)準(zhǔn)。從司法實(shí)踐來看,“服務(wù)器標(biāo)準(zhǔn)”目前的認(rèn)可度較高,它需要滿足兩項(xiàng)條件:一是將特定作品上傳到服務(wù)器之中;二是使不特定的用戶可以在自己選定的時(shí)間和地點(diǎn)獲取上述作品。3

    “模型記憶”情形下,AIGC平臺輸出被訓(xùn)練語料作品的行為之所以落入信息網(wǎng)絡(luò)傳播權(quán)的規(guī)制范疇,是因?yàn)椋阂环矫妫捎谳敵龅膬?nèi)容和訓(xùn)練語料中的作品相同或高度相似,所以AIGC服務(wù)提供者相當(dāng)于“將相關(guān)的作品內(nèi)容提前存儲于自身服務(wù)器之中”;另一方面,雖然AIGC服務(wù)提供者和用戶是通過“一對一”的封閉模式進(jìn)行內(nèi)容交互,但實(shí)際存在向不特定用戶輸出同一“記憶”內(nèi)容的現(xiàn)實(shí)可能,相當(dāng)于“使得不特定主體可以通過交互方式獲得特定作品”。

    “模型記憶”問題應(yīng)當(dāng)說是在大模型技術(shù)發(fā)展過程中,一個(gè)正在通過技術(shù)逐漸完善而被努力克服的問題。Open AI在針對《紐約時(shí)報(bào)》版權(quán)侵權(quán)起訴的回應(yīng)中表示,“內(nèi)容復(fù)制是大模型致力于徹底消除的錯(cuò)誤,但當(dāng)特定內(nèi)容在訓(xùn)練數(shù)據(jù)中出現(xiàn)不止一次時(shí),這種情況就會出現(xiàn)”。國外相關(guān)研究表明,“模型記憶”發(fā)生的原因有三:第一,模型語料庫中存在大量重復(fù)的作品內(nèi)容;第二,與特定文本描述相關(guān)聯(lián)的語料內(nèi)容過于單一;第三,相較于模型參數(shù)的規(guī)模,訓(xùn)練語料規(guī)模明顯不足。例如,當(dāng)與特定圖像模式描述相匹配的內(nèi)容語料過于單一,或眾多語料內(nèi)容之間僅有細(xì)微差別時(shí),Stable Diffusion等文生圖模型便很容易輸出和被訓(xùn)練語料高度近似的內(nèi)容。4

    三、版權(quán)間接侵權(quán)語境下AIGC服務(wù)提供者責(zé)任探討

    整體來看,AIGC平臺符合“技術(shù)中立性”的要求,提供的僅是一種被動的技術(shù)服務(wù),用戶如何利用其服務(wù)進(jìn)行內(nèi)容生成,決定了版權(quán)侵權(quán)的發(fā)生與否。由此,對于AIGC服務(wù)提供者版權(quán)責(zé)任的探討,需要首先思考版權(quán)直接侵權(quán)下,用戶利用AIGC服務(wù)生成侵權(quán)內(nèi)容的情形,進(jìn)而判斷版權(quán)間接侵權(quán)下,AIGC服務(wù)提供者對于用戶直接侵權(quán)行為需要承擔(dān)何種程度的替代責(zé)任問題。

    1.AIGC內(nèi)容生成機(jī)制符合“技術(shù)中立性”要求

    談到“技術(shù)中立性”原則,不得不提及美國版權(quán)法上具有里程碑意義的“索尼案”。1 該案確立了版權(quán)領(lǐng)域“間接侵權(quán)責(zé)任”判定的基礎(chǔ):對于任何一項(xiàng)技術(shù)的價(jià)值,都可以在“工具性”和“目的性”兩個(gè)維度上理解,索尼的意圖原本不過是發(fā)明一種中立的錄像工具,技術(shù)如何被使用最終在于人的目的。換句話說,作為價(jià)值的善或惡,被中立論者從技術(shù)身上剝離下來,“赤裸”的技術(shù)本身仍然可以是純粹的、無偏見的。2 “技術(shù)中立原則”對于信息技術(shù)產(chǎn)業(yè)的發(fā)展進(jìn)步尤為重要,并被稱為“電子時(shí)代的自由大憲章”。

    生成式人工智能的基本原理和技術(shù)特點(diǎn),使得其與傳統(tǒng)網(wǎng)絡(luò)傳播領(lǐng)域的服務(wù)提供者在侵權(quán)責(zé)任判定上存在本質(zhì)區(qū)別。從內(nèi)容生成角度來看,一方面,AIGC平臺本身不會主動輸出任何內(nèi)容。AIGC平臺輸出的內(nèi)容都是由使用者通過“提示詞”觸發(fā),調(diào)取經(jīng)過預(yù)訓(xùn)練后形成的模型參數(shù)“DIY”(Do It Yourself)而成;另一方面,AIGC平臺不會事前存儲后續(xù)將要輸出的內(nèi)容,因?yàn)榇竽P蛢?nèi)部存儲的模型參數(shù),不是訓(xùn)練語料庫中的作品內(nèi)容本身,而是學(xué)習(xí)相關(guān)作品內(nèi)容后獲得的語言表達(dá)、圖像表達(dá)的內(nèi)在趨勢、模式和相關(guān)性等。從內(nèi)容傳播角度來看,一方面,AIGC平臺生成的內(nèi)容不會向不特定第三方主體展示,AIGC平臺輸出的內(nèi)容都是通過“一對一”問答的形式存在于封閉的用戶交互界面中,除非使用者主動進(jìn)行后續(xù)的傳播、擴(kuò)散,否則第三人無法直接獲取相關(guān)內(nèi)容;另一方面,AIGC平臺也不會主動公開傳播使用者生成的內(nèi)容,對于生成內(nèi)容是否進(jìn)行公開傳播以及采用何種方式進(jìn)行傳播,是由使用者而非AIGC服務(wù)提供者享有最終的決定控制權(quán)。

    從上述模型機(jī)制來看,AIGC平臺對外提供的是一種通用型的內(nèi)容生成服務(wù),符合“技術(shù)中立性”原則。在廣州互聯(lián)網(wǎng)法院審理的國內(nèi)“大模型服務(wù)商版權(quán)侵權(quán)責(zé)任第一案”中,判決明確表示:“生成式人工智能具有一定的工具性,既可以用于合法目的,也可以用于非法目的……賠償損失責(zé)任的承擔(dān)需要考慮被告的過錯(cuò)問題?!币蚨诩夹g(shù)中立視角下,不應(yīng)將單純的技術(shù)服務(wù)與責(zé)任承擔(dān)直接掛鉤,需要論證服務(wù)提供者的具體過錯(cuò)情形。作為內(nèi)容生成領(lǐng)域的一項(xiàng)通用技術(shù)服務(wù),即使用戶存在利用AIGC服務(wù)實(shí)施侵權(quán)行為的可能性,也不應(yīng)直接推定AIGC服務(wù)提供者存在過錯(cuò)并因此承擔(dān)侵權(quán)損害賠償責(zé)任。

    2.用戶使用方式?jīng)Q定生成內(nèi)容版權(quán)侵權(quán)與否

    從實(shí)踐來看,使用者利用AIGC服務(wù)生成版權(quán)侵權(quán)內(nèi)容主要存在兩類情形:一類是使用者向AIGC平臺輸入了具有“侵權(quán)誘導(dǎo)屬性”的提示詞,進(jìn)而導(dǎo)致版權(quán)侵權(quán)內(nèi)容的生成。例如,用戶可能出于獲取與特定版權(quán)人或特定作品相關(guān)的內(nèi)容目的,向AIGC平臺輸入某位作家、畫家或某部作品的名稱以及類似“仿照”“參照”“改編”等侵權(quán)誘導(dǎo)提示詞。在此情形下,使用者經(jīng)由AIGC平臺生成的內(nèi)容存在對在先作品復(fù)制權(quán)、改編權(quán)等的侵害風(fēng)險(xiǎn)。但此時(shí)還需要注意,若使用者只是利用AIGC服務(wù)生成與在先版權(quán)人“風(fēng)格”相同的內(nèi)容,則未必構(gòu)成版權(quán)侵權(quán)。3 另一類是使用者向AIGC平臺輸入未經(jīng)授權(quán)的作品,并指示其在此基礎(chǔ)上進(jìn)行加工或再創(chuàng)作。此時(shí),使用者經(jīng)由AIGC平臺生成的內(nèi)容可能構(gòu)成對他人作品復(fù)制權(quán)或改編權(quán)的侵害。實(shí)踐中最為常見的便是“圖生圖”的情形,即使用者向AIGC平臺輸入特定的美術(shù)作品,并要求大模型在此基礎(chǔ)上加以調(diào)整、修改以形成新的圖像內(nèi)容。若用戶未獲得該美術(shù)作品的相應(yīng)授權(quán),且生成的新內(nèi)容仍可以體現(xiàn)出原作品的獨(dú)創(chuàng)性表達(dá),此時(shí)新的演繹作品便存在版權(quán)侵權(quán)的現(xiàn)實(shí)風(fēng)險(xiǎn)。

    值得注意的是,大模型之所以容易被使用者誘導(dǎo)進(jìn)行侵權(quán)內(nèi)容的生成,和模型內(nèi)容生成機(jī)制固有的“奉承”(sycophantic)特征密切相關(guān)。Google、DeepMind、Anthropic等大模型廠商的最新研究表明,“奉承”是AIGC模型的共性問題。因?yàn)樵谀P陀?xùn)練階段,AIGC行業(yè)目前普遍采用基于“人類反饋的強(qiáng)化學(xué)習(xí)”方法,涉及的價(jià)值對齊、模型微調(diào)等具體過程均是以人類反饋評分作為獎(jiǎng)勵(lì)機(jī)制。在與人類的內(nèi)容交互中,大模型往往被訓(xùn)練為傾向于服從人類的指令。1 由此對于大模型而言,順應(yīng)人類指令的重要性在一定程度上會超過對內(nèi)容本身正確與否、風(fēng)險(xiǎn)有無的關(guān)注,這便導(dǎo)致使用者存在通過誘導(dǎo)性提示詞利用AIGC服務(wù)生成版權(quán)侵權(quán)內(nèi)容的可能。

    3.AIGC服務(wù)提供者“版權(quán)替代責(zé)任”的判定要件

    對于使用者利用AIGC服務(wù)從事的版權(quán)直接侵權(quán)行為,AIGC服務(wù)提供者也可能面臨版權(quán)法上“間接侵權(quán)責(zé)任”的承擔(dān)風(fēng)險(xiǎn)。在美國判例法體系下,“替代侵權(quán)”和“幫助侵權(quán)”“教唆侵權(quán)”共同構(gòu)成了版權(quán)間接侵權(quán)的完整體系。2間接侵權(quán)與直接侵權(quán)相對,指侵權(quán)人雖然沒有直接從事版權(quán)法上專有權(quán)利規(guī)制的行為,但為之提供了一定的助成條件。3在我國,最高人民法院于2012年頒布的《關(guān)于審理侵害信息網(wǎng)絡(luò)傳播權(quán)民事糾紛案件適用法律若干問題的規(guī)定》第7條對于“版權(quán)幫助侵權(quán)、教唆侵權(quán)”加以規(guī)定;4對于“版權(quán)替代責(zé)任”則散見于上述規(guī)定第9條和11條中。5

    目前來看,在國外發(fā)生的大模型版權(quán)侵權(quán)案件中,版權(quán)人均主張AIGC服務(wù)提供者需要承擔(dān)版權(quán)替代侵權(quán)責(zé)任。例如,在美國加州北區(qū)法院2023年6月28日受理的“ChatGPT版權(quán)第一案”中,兩名作家的主張是:Open AI有權(quán)利和能力控制用戶利用ChatGPT生成侵權(quán)內(nèi)容,并從中獲得了經(jīng)濟(jì)利益,因而構(gòu)成版權(quán)替代侵權(quán)。又如,在前述“Stable Diffusion版權(quán)案”中,三位藝術(shù)家也主張被告對個(gè)人用戶的版權(quán)直接侵權(quán)負(fù)有替代侵權(quán)責(zé)任:用戶使用被告的AIGC服務(wù)生成圖像時(shí),在提示詞中使用了版權(quán)人的名字,并將生成的內(nèi)容作為版權(quán)人的作品加以傳播利用;被告明知其產(chǎn)品設(shè)計(jì)易于被用于制作上述“贗品”,但罔顧這一事實(shí)并直接或間接獲利,所以應(yīng)承擔(dān)版權(quán)替代侵權(quán)責(zé)任。

    依據(jù)版權(quán)法理論,構(gòu)成版權(quán)替代侵權(quán)責(zé)任的行為人需要滿足兩項(xiàng)基本要求,即“具有監(jiān)督版權(quán)侵權(quán)行為的權(quán)力和能力”且“從這些行為中獲取了直接經(jīng)濟(jì)利益”,但更為重要的是,版權(quán)替代侵權(quán)責(zé)任的成立必須以版權(quán)直接侵權(quán)為前提條件。62023年10月30日,在加州北區(qū)法院針對“Stable Diffusion版權(quán)案”的裁定中,已經(jīng)駁回了三位藝術(shù)家的版權(quán)替代侵權(quán)主張。法院依據(jù)的理由是:原告未能舉證說明被告產(chǎn)品輸出的內(nèi)容與其具體的版權(quán)作品存在內(nèi)容層面的實(shí)質(zhì)性相似,即認(rèn)定本案中作為替代侵權(quán)責(zé)任成立前提的版權(quán)直接侵權(quán)指控缺乏基本證據(jù)。1

    四、AIGC服務(wù)提供者版權(quán)保護(hù)注意義務(wù)分析

    對于AIGC服務(wù)提供者版權(quán)注意義務(wù)的探討,一方面需要思考,基于AIGC模式下內(nèi)容交互呈現(xiàn)的封閉性,版權(quán)侵權(quán)行為的判定存在天然的特殊性;另一方面需要注意,AIGC模式下內(nèi)容輸出規(guī)模的指數(shù)級擴(kuò)張對于社會整體版權(quán)侵權(quán)風(fēng)險(xiǎn)的影響。由此,應(yīng)當(dāng)從前述AIGC服務(wù)提供者版權(quán)直接侵權(quán)與間接侵權(quán)的具體場景出發(fā),對其版權(quán)保護(hù)注意義務(wù)進(jìn)行類型化分析。

    1.AIGC內(nèi)容呈現(xiàn)的封閉性決定了侵權(quán)判定的特殊性

    值得注意的是,生成式人工智能內(nèi)容輸出模式的固有特征,決定了在其版權(quán)侵權(quán)與否的判定上存在天然的特殊性。我們首先需要思考用戶利用AIGC服務(wù)生成內(nèi)容的行為,究竟是一種版權(quán)法規(guī)制的“公開傳播”行為,還是一種不受版權(quán)規(guī)制的“私人使用”行為?目前來看,無論是“文生文”還是“文生圖”領(lǐng)域的AIGC產(chǎn)品,生成的內(nèi)容都是以對話形式存在于封閉的用戶交互界面之中,因此原則上可以被認(rèn)定為是一種非公開的個(gè)人使用行為。22023年9月25日,美國特拉華州地方法院就“湯森路透訴Ross人工智能版權(quán)侵權(quán)案”3做出裁定:“如果對于作品的利用未‘向公眾公開’,從既有聯(lián)邦法院判決來看,即使是逐字逐句的‘全文復(fù)制’也一直被認(rèn)為是‘合理使用’?!?在我國,根據(jù)《著作權(quán)法》中關(guān)于“合理使用”具體情形的規(guī)定,第一條便是對于作品“個(gè)人使用”行為的侵權(quán)責(zé)任豁免。實(shí)際上,在前文論述1984年的“索尼案”中也存在相似情形。美國聯(lián)邦最高法院在最終判決中表示,用戶的錄制行為具有個(gè)人娛樂性質(zhì),不構(gòu)成版權(quán)侵權(quán)而屬于合理使用的豁免范疇。5

    在實(shí)踐中,只有使用者將利用AIGC平臺生成的內(nèi)容,通過第三方內(nèi)容傳播平臺等其他途徑進(jìn)一步公開利用,才會落入版權(quán)法的規(guī)制范疇。否則,即使生成內(nèi)容存在版權(quán)法上的侵權(quán)風(fēng)險(xiǎn),也只會停留在用戶自身賬號的交互界面內(nèi)。版權(quán)人實(shí)際上無從發(fā)現(xiàn)侵權(quán)行為,也就不涉及后續(xù)的維權(quán)和進(jìn)一步的侵權(quán)責(zé)任承擔(dān)問題。整體來看,AIGC模式下用戶直接生成內(nèi)容的行為,是否落入版權(quán)法規(guī)制的直接侵權(quán)范疇仍存在較高程度的疑問,由此,AIGC服務(wù)提供者是否需要就此承擔(dān)侵權(quán)替代責(zé)任更有待論證。

    2.AIGC輸出規(guī)模的放大效應(yīng)提升了整體版權(quán)侵權(quán)風(fēng)險(xiǎn)

    一方面,生成式人工智能未來或?qū)⒊蔀橥ㄓ玫膬?nèi)容生產(chǎn)工具,進(jìn)而顛覆整個(gè)版權(quán)行業(yè)的創(chuàng)作生態(tài)。在傳統(tǒng)版權(quán)領(lǐng)域,內(nèi)容生成、知識創(chuàng)作是手工生產(chǎn)模式,高度依賴于專業(yè)技能與經(jīng)驗(yàn)傳承。生成式人工智能的發(fā)展正在使知識與人快速解耦,并推動整個(gè)版權(quán)創(chuàng)作形態(tài)的轉(zhuǎn)變,即從依賴“大腦構(gòu)思+手工操作”向“人類構(gòu)思、篩選+機(jī)器生成”轉(zhuǎn)變。自2022年起,生成式人工智能技術(shù)逐步發(fā)展成熟,并被廣泛運(yùn)用于文字撰稿、語音處理、美術(shù)制圖、視頻剪輯、虛擬主播等各個(gè)內(nèi)容的創(chuàng)作領(lǐng)域,形成產(chǎn)業(yè)化。6

    另一方面,生成式人工智能帶來了全新的認(rèn)知革命,“人類創(chuàng)作”正日益被“AI生成”所趕超和替代。在生成式人工智能技術(shù)的興起之前,創(chuàng)作一直被視為人類專屬領(lǐng)域,作為作品制度基石的“獨(dú)創(chuàng)性智力表達(dá)”只能由人完成,別無替代。生成式人工智能憑借“涌現(xiàn)能力”重塑創(chuàng)作邏輯,基于大規(guī)模語料和深度學(xué)習(xí)算法,可以用遠(yuǎn)超人類的創(chuàng)作效率,不間斷地輸出高質(zhì)量的文章、圖片、音樂、影視動畫等多模態(tài)內(nèi)容。

    研究發(fā)現(xiàn),ChatGPT在2023年1月的內(nèi)容輸出能力為3.1億單詞每分鐘;谷歌公司此前統(tǒng)計(jì)過,自1440年古登堡印刷機(jī)發(fā)明以來,人類社會總共出版約1.298億本書,每本書估算5萬單詞,總共約有6.5萬億單詞。因而,按照ChatGPT在2023年初的內(nèi)容生產(chǎn)能力,每14天便可以輸出相當(dāng)于人類歷史上全部印刷作品的內(nèi)容總量。1 因此,在可以預(yù)見的未來,即使AIGC平臺具備“技術(shù)中立性”特征,即便AIGC模式下侵權(quán)行為的發(fā)生是一個(gè)小概率事件,但在輸出規(guī)模的放大效應(yīng)后,客觀上還是存在提升社會整體版權(quán)侵權(quán)風(fēng)險(xiǎn)的可能。

    3.AIGC服務(wù)提供者直接與間接侵權(quán)下的注意義務(wù)

    注意義務(wù)作為侵權(quán)責(zé)任的判定依據(jù),需要我們分析特定行為在客觀上引起或增加了何種程度的版權(quán)侵權(quán)風(fēng)險(xiǎn),以及從理性人角度判斷,若希望避免侵權(quán)責(zé)任的承擔(dān),則需要采取何種程度的應(yīng)對義務(wù)和措施。2在英美法系國家,注意義務(wù)源于英國“蝸牛案”(“多諾休訴斯蒂文案”),3該案奠定了侵權(quán)責(zé)任判定中的“近鄰性原則”,即“人們在行為時(shí)負(fù)有義務(wù)不能損害那些預(yù)見會受到其行為影響的、同其有密切關(guān)系的人”。在大陸法系國家,注意義務(wù)源于德國三起典型案件——“枯樹案”“獸醫(yī)案”和“撒鹽案”,著眼于對“交往安全義務(wù)”的分析,強(qiáng)調(diào)侵權(quán)責(zé)任的認(rèn)定需要分析行為人對“危險(xiǎn)控制和防免的可能性”以及受害人對“行為人的信賴期待”。4

    網(wǎng)絡(luò)空間與現(xiàn)實(shí)空間最大的不同之處就在于其是依靠網(wǎng)絡(luò)信息技術(shù)架構(gòu)出的虛擬存在。網(wǎng)絡(luò)服務(wù)提供者是網(wǎng)絡(luò)平臺的架構(gòu)者、控制者與經(jīng)營者,當(dāng)用戶利用網(wǎng)絡(luò)服務(wù)提供者的技術(shù)產(chǎn)品或服務(wù)從事版權(quán)侵權(quán)行為時(shí),若沒能盡到技術(shù)上可行、經(jīng)濟(jì)上合理的注意義務(wù),其就應(yīng)當(dāng)承擔(dān)此種不作為侵權(quán)帶來的替代責(zé)任。5 從我國司法實(shí)踐看,對于網(wǎng)絡(luò)服務(wù)提供者注意義務(wù)的判定,可以落腳于“侵權(quán)預(yù)見性”和“侵權(quán)控制力”兩項(xiàng)基本標(biāo)準(zhǔn)。6 對于AIGC服務(wù)提供者版權(quán)注意義務(wù)的論證探討,還是應(yīng)當(dāng)落腳到前述版權(quán)直接侵權(quán)與間接侵權(quán)情形的具體分析。

    第一,版權(quán)直接侵權(quán)情形下AIGC服務(wù)提供者注意義務(wù)的判斷。通過前文分析可以得出,當(dāng)AIGC平臺出現(xiàn)“模型記憶”時(shí),其內(nèi)容生成行為落入版權(quán)法“信息網(wǎng)絡(luò)傳播權(quán)”的規(guī)制范疇。在此情形,一旦輸出未經(jīng)授權(quán)的版權(quán)內(nèi)容,AIGC服務(wù)提供者便需要承擔(dān)直接侵權(quán)責(zé)任??梢哉f,在直接侵權(quán)下,AIGC服務(wù)提供者原則上承擔(dān)的是一種較高的版權(quán)保護(hù)注意義務(wù),除非享有法定的免責(zé)事由,否則便需要在事前采取措施避免侵權(quán)內(nèi)容的輸出。但值得注意的是,在當(dāng)下產(chǎn)業(yè)發(fā)展階段,若強(qiáng)行要求AIGC服務(wù)提供者承擔(dān)事前避免輸出版權(quán)侵權(quán)內(nèi)容的義務(wù),則可能使其背負(fù)技術(shù)上難以承受之重。7 一方面,“模型記憶”并非AIGC服務(wù)提供者故意為之的一類行為,并且是一種小概率的意外事件,8 所以很難在事前加以預(yù)見;另一方面,鑒于訓(xùn)練數(shù)據(jù)中的作品海量、模型參數(shù)海量以及內(nèi)容生成機(jī)制固有的隨機(jī)性等內(nèi)在技術(shù)原因,AIGC服務(wù)提供者很難完全予以事前避免。這類似于此前網(wǎng)絡(luò)服務(wù)提供者不可能對海量的傳播內(nèi)容侵權(quán)與否加以事前審查;AIGC服務(wù)提供者也不可能完全對海量的生成內(nèi)容版權(quán)侵權(quán)與否進(jìn)行事前的過濾。

    第二,版權(quán)間接侵權(quán)情形下,AIGC服務(wù)提供者注意義務(wù)的判斷。當(dāng)用戶利用自身服務(wù)生成侵權(quán)內(nèi)容并加以后續(xù)傳播時(shí),AIGC服務(wù)提供者承擔(dān)的僅是對應(yīng)的間接侵權(quán)責(zé)任。前文已論證,原則上AIGC平臺因?yàn)椴⒉簧婕吧蓛?nèi)容的公開傳播,除非用戶將侵權(quán)內(nèi)容在第三方傳播平臺加以分發(fā)、利用,否則并不存在版權(quán)法規(guī)制的侵權(quán)行為。只是基于AIGC服務(wù)提供者自身強(qiáng)大的內(nèi)容生成輸出能力,有可能提升社會整體版權(quán)侵權(quán)風(fēng)險(xiǎn),我們才認(rèn)為從價(jià)值衡量角度要求其采取相應(yīng)的版權(quán)保護(hù)措施。在此情形下,相較于直接侵權(quán)用戶甚至后續(xù)的第三方傳播平臺,AIGC服務(wù)提供者承擔(dān)的版權(quán)注意義務(wù)程度較低。從可預(yù)見性角度來講,AIGC服務(wù)提供者對于用戶如何利用自身服務(wù)進(jìn)行內(nèi)容生成不存在準(zhǔn)確的預(yù)期,僅能通過平臺使用規(guī)則等手段提示用戶避免從事侵權(quán)行為;從侵權(quán)控制力角度來看,AIGC服務(wù)提供者對于侵權(quán)內(nèi)容是否傳播以及如何傳播的控制力十分有限。此外,AIGC服務(wù)提供者由于不擁有版權(quán)作品素材比對庫,因而對于用戶輸入的文字、圖片等內(nèi)容以及在此基礎(chǔ)上改編輸出的衍生內(nèi)容是否存在侵權(quán),也難以進(jìn)行實(shí)質(zhì)性的事前審核判斷。

    五、AIGC服務(wù)提供者版權(quán)保護(hù)措施的體系建構(gòu)

    生成式人工智能技術(shù)發(fā)展帶來的一個(gè)總體趨勢,使得對于網(wǎng)絡(luò)服務(wù)提供者版權(quán)責(zé)任的關(guān)注,從“內(nèi)容傳播”領(lǐng)域轉(zhuǎn)向“內(nèi)容生成”領(lǐng)域。需要基于技術(shù)變革、產(chǎn)業(yè)發(fā)展以及版權(quán)保護(hù)等多重維度,立足AIGC服務(wù)提供者版權(quán)注意義務(wù)的具體實(shí)際,搭建科學(xué)的版權(quán)保護(hù)措施體系。

    1.AIGC服務(wù)提供者版權(quán)保護(hù)措施設(shè)定的價(jià)值考量

    回溯1998年“避風(fēng)港制度”的誕生背景,互聯(lián)網(wǎng)的迅猛發(fā)展賦予作品此前難以想象的傳播效率與規(guī)模,但網(wǎng)絡(luò)服務(wù)商群體面對新技術(shù)引發(fā)的侵權(quán)不確定性卻“踟躕不前”。為了把握發(fā)展先機(jī),美國頒布《數(shù)字千年版權(quán)法》并率先創(chuàng)設(shè)“避風(fēng)港制度”,通過給予內(nèi)容傳播服務(wù)提供者一定條件下的版權(quán)侵權(quán)責(zé)任豁免,明確了行業(yè)整體的行為預(yù)期。更重要的是,通過“通知—?jiǎng)h除”等具體規(guī)則在版權(quán)人和網(wǎng)絡(luò)服務(wù)提供者之間搭建起應(yīng)對在線版權(quán)侵權(quán)的有效合作機(jī)制。1

    可以說,正是“避風(fēng)港制度”對于內(nèi)容傳播領(lǐng)域網(wǎng)絡(luò)服務(wù)提供者靈活寬松的侵權(quán)責(zé)任設(shè)置,才孕育了美國當(dāng)下在全球信息服務(wù)行業(yè)的領(lǐng)先地位。時(shí)至今日,面對生成式人工智能帶來的新一輪技術(shù)變革,版權(quán)法似乎又遇到了當(dāng)年創(chuàng)設(shè)“避風(fēng)港制度”時(shí)同樣的問題境遇,只是從“內(nèi)容傳播領(lǐng)域”轉(zhuǎn)向了“內(nèi)容生成領(lǐng)域”。內(nèi)容傳播領(lǐng)域網(wǎng)絡(luò)服務(wù)提供者的版權(quán)責(zé)任規(guī)則較為傳統(tǒng),而內(nèi)容生成領(lǐng)域網(wǎng)絡(luò)服務(wù)提供者的版權(quán)責(zé)任判定則是一個(gè)全新的議題。2 長久以來,網(wǎng)絡(luò)服務(wù)提供者版權(quán)保護(hù)措施的設(shè)定,除立足于通過保護(hù)權(quán)利以激勵(lì)創(chuàng)作之外,更需要服從于技術(shù)進(jìn)步、產(chǎn)業(yè)發(fā)展以及全社會知識內(nèi)容的傳播分享等更高維度的價(jià)值。究其原因在于,版權(quán)作為法律上人為創(chuàng)設(shè)的權(quán)利體系,不同于物權(quán)等自然權(quán)利,天然遵從于人類社會的價(jià)值判斷。生成式人工智能被稱為百年不遇、堪比工業(yè)革命一般的新技術(shù)浪潮。有學(xué)者直言,“與各種風(fēng)險(xiǎn)相比,AIGC最大的風(fēng)險(xiǎn)是技術(shù)落后的風(fēng)險(xiǎn)”。3 因此,對于AIGC服務(wù)提供者版權(quán)保護(hù)措施的設(shè)定,也應(yīng)側(cè)重于鼓勵(lì)技術(shù)與產(chǎn)業(yè)創(chuàng)新的價(jià)值取向,而非強(qiáng)化對于行業(yè)主體的制裁懲戒。

    2.AIGC服務(wù)提供者版權(quán)保護(hù)措施的可行性論證

    AIGC服務(wù)提供者應(yīng)當(dāng)采取何種程度的版權(quán)侵權(quán)應(yīng)對舉措,成為當(dāng)下理論界和實(shí)務(wù)界高度關(guān)注的新興議題。4 落實(shí)到前述AIGC服務(wù)提供者版權(quán)直接侵權(quán)與間接侵權(quán)情形下注意義務(wù)的具體裁量,需要聚焦以下三個(gè)層面的問題探討:

    一是技術(shù)層面,AIGC服務(wù)提供者能否通過“調(diào)整模型參數(shù)”和“刪除語料庫中被訓(xùn)練素材”來避免版權(quán)侵權(quán)?從AIGC技術(shù)原理來看,在完成模型參數(shù)訓(xùn)練后,不論是版權(quán)人要求AIGC服務(wù)提供者避免輸出該特定作品,還是不許對其特定作品加以訓(xùn)練,借助于“調(diào)整模型參數(shù)的路徑”都不再可行。因?yàn)锳IGC模型訓(xùn)練的基本機(jī)制決定了其無法將特定作品內(nèi)容對應(yīng)的特定模型參數(shù)加以單獨(dú)刪除或改變,除非用剔除侵權(quán)作品后的新語料數(shù)據(jù)集對該模型加以再次整體訓(xùn)練,但從產(chǎn)業(yè)實(shí)際和技術(shù)成本角度出發(fā),因個(gè)別版權(quán)人的特定作品便加以模型大規(guī)模的重練,并不符合社會整體的成本考量。1 在實(shí)踐中,版權(quán)人可以通知并要求AIGC服務(wù)提供者刪除其語料庫中的特定被訓(xùn)練作品,2 然而從技術(shù)效果來看該行為已經(jīng)喪失了實(shí)際意義。因?yàn)槭潞蟮恼Z料內(nèi)容刪除行為,不會對已經(jīng)訓(xùn)練好了的模型參數(shù)和模型后續(xù)可能輸出的內(nèi)容產(chǎn)生任何影響,但可以在訓(xùn)練新模型或優(yōu)化既有模型之前,根據(jù)版權(quán)人的通知避免對特定作品內(nèi)容加以訓(xùn)練,這一問題實(shí)際落入各界關(guān)注的一個(gè)焦點(diǎn)問題,即大模型訓(xùn)練前是否以及如何為版權(quán)人提供“模型訓(xùn)練退出機(jī)制”的問題。3

    二是規(guī)則層面,AIGC服務(wù)提供者能否借鑒“避風(fēng)港制度”下既有的義務(wù)機(jī)制來應(yīng)對版權(quán)侵權(quán)?一方面,AIGC服務(wù)提供者難以履行此前“避風(fēng)港制度”下的“通知—?jiǎng)h除”義務(wù)。AIGC服務(wù)提供者即使收到版權(quán)人發(fā)出的侵權(quán)通知,也無法直接刪除特定用戶賬號中的侵權(quán)內(nèi)容,因?yàn)樵撉謾?quán)內(nèi)容存儲在用戶本地設(shè)備而非AIGC平臺的服務(wù)器之中。4 在之前的內(nèi)容傳播領(lǐng)域,網(wǎng)絡(luò)服務(wù)提供者之所以可以對用戶侵權(quán)內(nèi)容采取刪除、屏蔽等直接應(yīng)對措施,原因在于其提供的服務(wù)中包括內(nèi)容存儲。實(shí)踐中,用戶首先會將特定內(nèi)容上傳到平臺服務(wù)器中,因而平臺服務(wù)提供者有權(quán)利和有能力移除涉嫌的版權(quán)侵權(quán)內(nèi)容。另一方面,AIGC服務(wù)提供者仍可以采取與其實(shí)際能力相匹配的版權(quán)保護(hù)必要措施。 當(dāng)版權(quán)人根據(jù)特定的侵權(quán)內(nèi)容溯源到特定的AIGC平臺后,服務(wù)提供者可以通知涉嫌侵權(quán)的用戶自行刪除或不再傳播該侵權(quán)內(nèi)容。AIGC服務(wù)提供者也可以根據(jù)用戶侵權(quán)行為的具體情況,采取必要的處置措施,如以類似“三振出局”的方式,對于故意侵權(quán)用戶按照侵權(quán)程度、次數(shù)和主觀惡性加以使用限權(quán)、暫停服務(wù)和關(guān)閉賬戶等懲戒手段。

    三是預(yù)防層面,AIGC服務(wù)提供者能否通過搭建和版權(quán)人之間的合作機(jī)制來克服版權(quán)侵權(quán)?一方面,需要思考能否通過搭建“輸出內(nèi)容過濾機(jī)制”來預(yù)防AIGC版權(quán)侵權(quán),這類似于建立像目前AIGC行業(yè)針對“黃恐暴內(nèi)容”采取的過濾機(jī)制,通過內(nèi)嵌技術(shù)插件或模型,把版權(quán)人的作品內(nèi)容轉(zhuǎn)換成一定的技術(shù)過濾規(guī)則代碼,進(jìn)而預(yù)防可能的版權(quán)侵權(quán)行為發(fā)生。從實(shí)操角度來看,該舉措主要涉及技術(shù)上過濾比例的問題。舉例來講,過濾掉80%相同作品內(nèi)容的技術(shù)或許可以達(dá)到,但要求過濾掉100%相同內(nèi)容的技術(shù)機(jī)制可能難以實(shí)現(xiàn)。此外,版權(quán)侵權(quán)過濾機(jī)制的建立還需要AIGC服務(wù)提供者能夠建立輸出內(nèi)容侵權(quán)比對庫,這便需要版權(quán)人事前向其提供自身版權(quán)作品作為比對素材。另一方面,需要評估能否通過建立“輸入提示詞過濾機(jī)制”來避免AIGC版權(quán)侵權(quán)。與“輸出內(nèi)容過濾機(jī)制”相類似,該路徑需要解決的問題也是與版權(quán)人合作建立科學(xué)的提示詞比對庫。目前AIGC產(chǎn)品針對知名IP,也會自動識別用戶提示詞中的敏感關(guān)鍵詞,并拒絕輸出對應(yīng)的可能侵權(quán)內(nèi)容。但值得注意的是,提示詞過濾舉措本身存在較大的“誤傷”概率風(fēng)險(xiǎn),即可能會在非侵權(quán)情形下,影響用戶對AIGC產(chǎn)品服務(wù)的正常使用。

    3.AIGC領(lǐng)域事前、事中與事后的版權(quán)保護(hù)措施

    事前,AIGC服務(wù)提供者應(yīng)當(dāng)履行版權(quán)侵權(quán)提示、搭建投訴機(jī)制以及內(nèi)容輸出標(biāo)記三項(xiàng)義務(wù)。首先,AIGC服務(wù)提供者需要通過“用戶協(xié)議”等方式要求使用者尊重他人知識產(chǎn)權(quán):一是避免輸入容易誘發(fā)版權(quán)侵權(quán)的提示詞指令;二是避免上傳版權(quán)侵權(quán)素材進(jìn)行二次創(chuàng)作;三是在對生成內(nèi)容進(jìn)行后續(xù)公開傳播利用前,加以必要的侵權(quán)風(fēng)險(xiǎn)把關(guān)。其次,AIGC服務(wù)提供者需要建立侵權(quán)投訴舉報(bào)機(jī)制,只有如此版權(quán)人在發(fā)現(xiàn)侵權(quán)行為后,才能啟動后續(xù)的“通知—必要措施”等流程。目前來看,國內(nèi)外主流AIGC平臺基本已經(jīng)建立了這類機(jī)制。最后,AIGC服務(wù)提供者還需要對大模型生成的內(nèi)容進(jìn)行必要的打標(biāo)處理,以方便版權(quán)人發(fā)現(xiàn)侵權(quán)行為后,能夠通過該標(biāo)識溯源通知AIGC服務(wù)提供者,進(jìn)而采取必要的侵權(quán)應(yīng)對舉措。上述三項(xiàng)要求,在廣州互聯(lián)網(wǎng)法院判決的國內(nèi)“大模型服務(wù)商版權(quán)侵權(quán)責(zé)任第一案”中也被認(rèn)定為AIGC服務(wù)提供者應(yīng)盡到的合理注意義務(wù)。

    事中,AIGC服務(wù)提供者收到版權(quán)人侵權(quán)通知后,應(yīng)當(dāng)采取可行的版權(quán)保護(hù)必要措施。當(dāng)版權(quán)人通過侵權(quán)內(nèi)容中包含的標(biāo)識溯源到特定的AIGC平臺后,AIGC服務(wù)提供者雖然無法對用戶生成的原始侵權(quán)內(nèi)容加以直接刪除,但可以要求侵權(quán)用戶自行刪除侵權(quán)內(nèi)容并不再進(jìn)一步擴(kuò)散,同時(shí)可以依據(jù)自身知識產(chǎn)權(quán)保護(hù)規(guī)則,分析侵權(quán)用戶的具體情形,采取警告、限制特定功能權(quán)限、一段時(shí)間暫停服務(wù)或者永久關(guān)閉賬號等處罰舉措。

    事后,應(yīng)鼓勵(lì)A(yù)IGC服務(wù)提供者采取技術(shù)和成本上可行的措施,避免再次生成相同的侵權(quán)內(nèi)容?;谇笆龇治?,目前AIGC領(lǐng)域的侵權(quán)屏蔽舉措仍存在較大的技術(shù)和實(shí)操困難。因此,AIGC服務(wù)提供者對應(yīng)的版權(quán)保護(hù)義務(wù),一方面只能是倡議性的而非強(qiáng)制性的,另一方面只能是行為導(dǎo)向性的而非結(jié)果導(dǎo)向性的。我國2023年8月15日生效的《生成式人工智能服務(wù)管理暫行辦法》對于更為嚴(yán)格的公法內(nèi)容安全領(lǐng)域,尚未要求AIGC服務(wù)提供者采取面向未來的過濾屏蔽舉措的強(qiáng)制要求。1 因此,應(yīng)鼓勵(lì)A(yù)IGC服務(wù)提供者在技術(shù)可行的范圍,根據(jù)版權(quán)人提供的版權(quán)作品內(nèi)容,采取文本、圖像相似性比對,以及重點(diǎn)提示詞過濾拒答等技術(shù)和機(jī)制,預(yù)防后續(xù)可能的版權(quán)侵權(quán)行為,并需要思考如何豁免AIGC服務(wù)提供者由此可能產(chǎn)生的“誤傷”責(zé)任。

    Research on Copyright Infringement Liability of AIGC Service Provider

    ZHU Kaixin

    Abstract: The rise of generative artificial intelligence has triggered new types of copyright infringement disputes and concerns about platform liability in the field of online copyright. In terms of direct copyright infringement, AIGC service providers do not necessarily constitute an infringement of derivative right, however, when “model memory” occurs, it is regulated by the right to network information dissemination. In terms of indirect copyright infringement, the determination of" copyright vicarious liability for AIGC service providers depends on the establishment of direct infringement by the user. The closed nature of content presentation patterns determines the particularity of copyright infringement determination in AIGC, but the amplification effect of content output volume objectively increases the overall risk of copyright infringement in society. Therefore, it is necessary to focus on the specific circumstances of the duty of care for AIGC service providers and establish a scientific system of copyright protection measures in advance, during, and after the provision of services.

    Key words: AIGC; copyright; right to network information dissemination; derivative right; direct infringement; indirect infringement; duty of care

    (責(zé)任編輯:蘇建軍)

    作者簡介:朱開鑫,騰訊研究院高級研究員,國家版權(quán)局網(wǎng)絡(luò)版權(quán)產(chǎn)業(yè)研究基地研究員(北京 100101)。

    1 梳理來看,在這些AIGC服務(wù)提供者版權(quán)侵權(quán)案件中,原告涉及軟件代碼工程師、畫家、作家、商業(yè)圖片庫商(Getty Images)、記者、音樂出版商等版權(quán)人,被告則涉及GitHub、Stability AI、Midjourney、Deviant、Open AI、Meta、Alphabet、Anthropic等AIGC領(lǐng)域的研發(fā)、服務(wù)廠商。

    2 在三位原告提起訴訟后,2023年4月18日,三位被告分別針對原告的指控提交了駁回原告訴訟的動議;2023年10月30日,加州北區(qū)法院就被告動議作出裁決,僅保留原告針對Stable Diffusion模型訓(xùn)練直接侵權(quán)的起訴,其他主張被駁回但給予30天修正再提交的機(jī)會。2023年11月29日原告提交修訂版起訴狀。See Andersen v. Stability AI Ltd. (3:23-cv-00201) District Court, N.D. California.

    1 雖然加州北區(qū)法庭在裁定中支持了被告的駁回起訴動議,但允許原告補(bǔ)充相關(guān)證據(jù)材料后重新提起訴訟。

    2 (2024)粵0192民初113號。

    3 本案判決,將大模型相關(guān)的“模型訓(xùn)練”(模型訓(xùn)練商版權(quán)責(zé)任)以及“生成內(nèi)容可版權(quán)性”兩項(xiàng)核心法律爭議略過,聚焦內(nèi)容輸出階段、AIGC服務(wù)提供者版權(quán)侵權(quán)責(zé)任的認(rèn)定。

    4 《北京互聯(lián)網(wǎng)法院開庭審理全國首例涉及AI繪畫大模型訓(xùn)練著作權(quán)侵權(quán)案》,https://mp.weixin.qq.com/s/cyskAz1cASBaNIYQpGpGsA,最后訪問日期 2024 年 11月 8日。

    5 現(xiàn)實(shí)產(chǎn)業(yè)實(shí)踐中,AIGC服務(wù)提供者與AIGC模型研發(fā)者存在多種關(guān)系:既可能存在身份上的重合關(guān)系,例如Open AI既作為GPT大模型的研發(fā)者,也是ChatGPT、GPT4等平臺的服務(wù)提供者;也可分屬不同的法律主體,例如微軟是通過API接口,調(diào)用Open AI旗下GPT模型的方式作為AIGC服務(wù)提供者;又如Midjourney是在Stability AI研發(fā)的Stable Diffusion模型的基礎(chǔ)上進(jìn)一步訓(xùn)練、調(diào)整后向公眾提供AIGC服務(wù)。

    6 王遷:《知識產(chǎn)權(quán)法教程》,中國人民大學(xué)出版社2021年版,第14頁。

    1 我國《著作權(quán)法》上的“信息網(wǎng)絡(luò)傳播權(quán)”大致對應(yīng)美國版權(quán)法上發(fā)行、展示及表演等權(quán)利,源于《伯爾尼公約》中的“向公眾傳播權(quán)”(communication to the public)。

    2 《美國版權(quán)法》第101條“定義”規(guī)定:“演繹作品”指根據(jù)一部或一部以上的已有作品創(chuàng)作完成的作品,如譯文、樂曲整理、改編成的戲劇、改變成的小說、改編成的電影、錄音作品、藝術(shù)復(fù)制品、節(jié)本以及縮寫本,或者依此改寫、改變或改編作品的任何其他形式。由編輯修訂、注釋、詳解或其他修改作為整體構(gòu)成獨(dú)創(chuàng)作品的,視為“演繹作品”。

    3 吳漢東:《知識產(chǎn)權(quán)法》,法律出版社2021年版,第210頁。

    4 美國第九巡回法院在“Litchfield v. Spielberg 案”中駁回了原告的類似主張,強(qiáng)調(diào)前后內(nèi)容之間需要“實(shí)質(zhì)性相似”才構(gòu)成演繹侵權(quán);“Vault Corp v. Quaid Software Ltd 案”判決也認(rèn)為,構(gòu)成衍生侵權(quán)作品必須以某種形式包含受版權(quán)保護(hù)作品的一部分,必須在實(shí)質(zhì)上與受版權(quán)保護(hù)的作品相似。

    5 See “Artificial Intelligence and Intellectual Property-Part II:Copyright”Subcommittee Hearing,https://www.judiciary.senate.gov/artificial-intelligence-and-intellectual-property_part-ii-copyright,最后訪問時(shí)間2024年3月4日。

    6 以ChatGPT為例,其大模型通過海量文本的學(xué)習(xí),建立一個(gè)統(tǒng)計(jì)模型,用來估計(jì)文本序列中每個(gè)詞語或字符出現(xiàn)的概率,生成的是具有相似統(tǒng)計(jì)特征的新文本而非對訓(xùn)練語料內(nèi)容的復(fù)制重現(xiàn)。

    1 See The New York Times Company v. Microsoft Corporation, 1:23-cv-11195, (S.D.N.Y.).

    2 參見OpenAI回應(yīng)《紐約時(shí)報(bào)》版權(quán)侵權(quán)起訴的聲明,https://openai.com/blog/openai-and-journalism,最后訪問時(shí)間2024年3月4日。

    3 《最高人民法院關(guān)于審理侵害信息網(wǎng)絡(luò)傳播權(quán)民事糾紛案件適用法律若干問題的規(guī)定》第3條規(guī)定:“……人民法院應(yīng)當(dāng)認(rèn)定其構(gòu)成侵害信息網(wǎng)絡(luò)傳播權(quán)行為……通過上傳到網(wǎng)絡(luò)服務(wù)器、設(shè)置共享文件或者利用文件分享軟件等方式,將作品、表演、錄音錄像制品置于信息網(wǎng)絡(luò)中,使公眾能夠在個(gè)人選定的時(shí)間和地點(diǎn)以下載、瀏覽或者其他方式獲得的,人民法院應(yīng)當(dāng)認(rèn)定其實(shí)施了前款規(guī)定的提供行為?!?/p>

    4 2023年5月4日,美國埃默里大學(xué)Matthew Sag研究團(tuán)隊(duì)發(fā)表“Copyright Safety for Generative AI”論文,對模型記憶的產(chǎn)生原因做了詳細(xì)說明,本文在此僅做初步摘錄引用,具體參見SSRN: https://ssrn.com/abstract=4438593,最后訪問時(shí)間2024年3月4日。

    1 1975年,索尼發(fā)明了能夠讓用戶隨時(shí)錄制或播放電視節(jié)目的Betamax錄像機(jī)。該錄像機(jī)在美國銷售之后,美國環(huán)球電影公司和迪士尼公司將索尼告上了法庭,認(rèn)為其提供Betamax錄像機(jī)給消費(fèi)者使用、錄制享有版權(quán)電影的行為,侵犯了他們的版權(quán)?!八髂岚浮钡膶徖砬昂髿v時(shí)八年,并上訴至美國聯(lián)邦最高法院。

    2 參見劉博涵:《“技術(shù)中立”消亡史》,https://www.guokr.com/article/456743/,最后訪問日期2024年3月4日。

    3 長久以來的基本共識是,版權(quán)法并不保護(hù)藝術(shù)風(fēng)格,因?yàn)楦鶕?jù)“思想表達(dá)二分法”,其屬于思想范疇,除非生成的內(nèi)容在風(fēng)格之外,仍然與在先作品在具體表達(dá)層面存在實(shí)質(zhì)性的相同或相似。例如2023年8月北京知識產(chǎn)權(quán)法院在“比利時(shí)畫家Christian與某國內(nèi)畫家版權(quán)侵權(quán)案”一審判決中指出,“美術(shù)作品的主題、風(fēng)格和素材的選擇本身只是美術(shù)作品中的思想,并不受著作權(quán)法的保護(hù)”。參見(2019)京73民初1376號判決書。

    1 參見Anthropic發(fā)表的企業(yè)論文“Towards Understanding Sycophancy in Language Models”,https://www.anthropic.com/news/towards-understanding-sycophancy-in-language-models,最后訪問時(shí)間2024年3月4日。

    2 經(jīng)過立法和司法實(shí)踐的長期發(fā)展完善,美國法上版權(quán)間接侵權(quán)責(zé)任的類型劃分和概念內(nèi)涵至今已趨于成熟和定型,通過對比分析《數(shù)字千年版權(quán)法》出臺前后的相關(guān)判例便可得出上述結(jié)論。舉例來說,加州地方法院在1995年審理的“RTC v. Netcom案”中以及第九巡回法庭在2001年審理的“A&M v. Napster 案”中都將著作權(quán)間接侵權(quán)責(zé)任明確劃分為幫助侵權(quán) (Contributory Infringement)、教唆侵權(quán) (Inducement Infringement)以及替代責(zé)任 (Vicarious Liability) 三大類,并對上述三種著作權(quán)間接侵權(quán)責(zé)任的內(nèi)涵做出了一致的認(rèn)定。即上述兩判決都將幫助侵權(quán)責(zé)任歸納為由“知道要件”和“幫助要件”組成,將教唆侵權(quán)責(zé)任的成立歸結(jié)為被告存在可歸責(zé)的侵權(quán)目的,將替代責(zé)任歸納為由“控制力要件”和“直接獲益要件”組成。

    3 按照版權(quán)法上“直接侵權(quán)、間接侵權(quán)二分理論”,內(nèi)容提供和技術(shù)服務(wù)的區(qū)分同版權(quán)直接侵權(quán)和間接侵權(quán)的區(qū)分相對應(yīng),但只有前者才屬于版權(quán)法定的內(nèi)容提供行為,也只有前者的行為才會受到版權(quán)直接侵權(quán)的規(guī)制。對于技術(shù)服務(wù)行為,只有當(dāng)網(wǎng)絡(luò)服務(wù)提供者未履行必要注意義務(wù)且存在過錯(cuò)時(shí),才會就其助成行為承擔(dān)損害賠償責(zé)任,理論界將其稱為版權(quán)間接侵權(quán)。

    4 《最高人民法院關(guān)于審理侵害信息網(wǎng)絡(luò)傳播權(quán)民事糾紛案件適用法律若干問題的規(guī)定》第7條規(guī)定: “網(wǎng)絡(luò)服務(wù)提供者以言語、推介技術(shù)支持、獎(jiǎng)勵(lì)積分等方式誘導(dǎo)、鼓勵(lì)網(wǎng)絡(luò)用戶實(shí)施侵害信息網(wǎng)絡(luò)傳播權(quán)行為的,人民法院應(yīng)當(dāng)認(rèn)定其構(gòu)成教唆侵權(quán)行為; 網(wǎng)絡(luò)服務(wù)提供者明知或者應(yīng)知網(wǎng)絡(luò)用戶利用網(wǎng)絡(luò)服務(wù)侵害信息網(wǎng)絡(luò)傳播權(quán),未采取刪除、屏蔽、斷開鏈接等必要措施,或者提供技術(shù)支持等幫助行為的,人民法院應(yīng)當(dāng)認(rèn)定其構(gòu)成幫助侵權(quán)行為?!?/p>

    5 《最高人民法院關(guān)于審理侵害信息網(wǎng)絡(luò)傳播權(quán)民事糾紛案件適用法律若干問題的規(guī)定》第9條規(guī)定:“人民法院應(yīng)當(dāng)根據(jù)網(wǎng)絡(luò)用戶侵害信息網(wǎng)絡(luò)傳播權(quán)的具體事實(shí)是否明顯,綜合考慮以下因素,認(rèn)定網(wǎng)絡(luò)服務(wù)提供者是否構(gòu)成應(yīng)知:(一)基于網(wǎng)絡(luò)服務(wù)提供者提供服務(wù)的性質(zhì)、方式及其引發(fā)侵權(quán)的可能性大小,應(yīng)當(dāng)具備的管理信息的能力……”第11條規(guī)定:“網(wǎng)絡(luò)服務(wù)提供者從網(wǎng)絡(luò)用戶提供的作品、表演、錄音錄像制品中直接獲得經(jīng)濟(jì)利益的,人民法院應(yīng)當(dāng)認(rèn)定其對該網(wǎng)絡(luò)用戶侵害信息網(wǎng)絡(luò)傳播權(quán)的行為負(fù)有較高的注意義務(wù)……”。

    6 李明德:《美國知識產(chǎn)權(quán)法》,法律出版社2019年版,第392頁。

    1 此外,三位原告也未就被告有權(quán)利和能力監(jiān)督個(gè)體用戶的侵權(quán)行為,并從該等侵權(quán)活動中獲得直接經(jīng)濟(jì)利益做任何實(shí)質(zhì)性舉證。

    2 當(dāng)然在例外情形下,即發(fā)生“模型記憶”問題時(shí),AIGC平臺輸出的內(nèi)容雖然仍是通過“一對一”的封閉交互模式進(jìn)行,但因?yàn)榇嬖谙虿惶囟ㄓ脩糨敵鐾弧坝洃泝?nèi)容”的現(xiàn)實(shí)可能,因此構(gòu)成版權(quán)法規(guī)制的“公開傳播”行為,前文在AIGC服務(wù)提供者直接侵權(quán)部分已做分析。

    3 Thomson Reuters Enterprise Center GMBH and West Publishing Corp., v. Ross Intelligence Inc., Memorandum Opinion, Sep. 25, 2023, Case No. 1:20-cv-613-SB.

    4 Authors Guild, 804 F.3d at 221; see also A.V.ex rel. Vanderhye v.iParadigms, LLC, 562 F.3d 630, 638-640, 642 (4th Cir. 2009).

    5 因?yàn)橛脩衾肂etamax錄像機(jī)錄制的電視節(jié)目,最終目的是在家庭范圍內(nèi)供自身及家庭成員觀看,并不涉及相關(guān)作品內(nèi)容的公開傳播利用行為。

    6 朱開鑫:《生成式人工智能對版權(quán)體系影響的思考——技術(shù)、產(chǎn)業(yè)和制度三個(gè)面向》,《版權(quán)理論與實(shí)務(wù)》2024年第1期。

    1 《[ChatGPT]GPT-3.5+ChatGPT :圖解概述》,https://architect.pub/gpt-35-chatgpt-illustrated-overview,最后訪問日期2024年3月4日。

    2 環(huán)建芬:《人工智能工作物致人損害民事責(zé)任探析》,《上海師范大學(xué)學(xué)報(bào)(哲學(xué)社會科學(xué)版)》2019年第2期。

    3 See Donoghue v Stevenson, [1932] AC 562.

    4 張民安:《侵權(quán)法報(bào)告》(第1卷),中信出版社2005年版,第 87 頁。

    5 朱開鑫:《網(wǎng)絡(luò)版權(quán)間接侵權(quán)研究》,《法學(xué)家》2019年第6期。

    6 較為經(jīng)典的案例為 2015 年到 2016 年間最高人民法院集中審理的“蘋果 APP store 網(wǎng)絡(luò)著作權(quán)侵權(quán)”系列案件。最高人民法院在案件審理的過程,根據(jù)蘋果公司的在線服務(wù)特征以及被侵害信息的基本特征,認(rèn)為蘋果公司負(fù)有較高程度注意義務(wù)。具體來講,蘋果公司不僅能夠?qū)τ谏姘窤PP的研發(fā)和運(yùn)營進(jìn)行控制,而且長久以來從涉案APP中獲得了直接的經(jīng)濟(jì)收益。最高人民法院認(rèn)為,根據(jù)蘋果公司 APP store 的運(yùn)營模式,其對于涉案 APP 的侵權(quán)行為具有高度的可預(yù)見性和高度的控制力。

    7 王若冰:《論生成式人工智能侵權(quán)中服務(wù)提供者過錯(cuò)的認(rèn)定——以“現(xiàn)有技術(shù)水平”為標(biāo)準(zhǔn)》,《比較法研究》2023第5期。

    8 2023年3月,在一項(xiàng)以Stable Diffusion等AIGC擴(kuò)散生成模型為研究對象的實(shí)驗(yàn)中,馬里蘭大學(xué)和紐約大學(xué)的聯(lián)合研究團(tuán)隊(duì)指出:利用Stable Diffusion模型生成的內(nèi)容與數(shù)據(jù)集作品相似度超過50%的可能性達(dá)到了1.88%。

    1 從版權(quán)人保護(hù)角度而言,相較于傳統(tǒng)的版權(quán)侵權(quán)訴訟,“避風(fēng)港制度”為版權(quán)人提供了高效、及時(shí)、便捷的維權(quán)途徑。版權(quán)人發(fā)現(xiàn)侵權(quán)內(nèi)容,平臺則迅速響應(yīng)侵權(quán)通知,采取刪除屏蔽斷開鏈接等必要措施。

    2 司曉:《奇點(diǎn)來臨:ChatGPT時(shí)代的著作權(quán)法走向何處——兼回應(yīng)相關(guān)論點(diǎn)》,《探索與爭鳴》2023第5期。

    3 王利明:《生成式人工智能侵權(quán)的法律應(yīng)對》,《中國應(yīng)用法學(xué)》2023年第5期。

    4 邵紅紅:《生成式人工智能版權(quán)侵權(quán)治理研究》,《出版發(fā)行研究》2023年第6期。

    1 AIGC模型訓(xùn)練成本非常高昂,最主要的成本在于硬件和人力資源:訓(xùn)練一個(gè)大模型除需要使用超級計(jì)算機(jī)和大量的GPU資源,還需要由數(shù)據(jù)科學(xué)家、軟件工程師和NLP專家組成的團(tuán)隊(duì)來進(jìn)行模型調(diào)試和優(yōu)化。根據(jù)OneFlow估算,GPT-3訓(xùn)練一次的成本約為139.8萬美元;對于一些更大的LLM模型(如擁有2800億參數(shù)的Gopher和擁有5400億參數(shù)的PaLM)采用同樣的計(jì)算公式。可以得出,訓(xùn)練成本介于200萬美元至1200萬美元之間。參見《ChatGPT算力需求是如何擴(kuò)張的》,https://mp.weixin.qq.com/s/7oy1cvLSfByOFbrT79Ykqg,最后訪問日期2024年3月4日。

    2 此時(shí),需要AIGC服務(wù)提供者溝通上游的AIGC模型研發(fā)者來實(shí)現(xiàn)版權(quán)人的該項(xiàng)訴求。

    3 研究發(fā)現(xiàn)對于模型訓(xùn)練,國內(nèi)外廠商均強(qiáng)調(diào)適用“合理使用制度”,但域外大模型廠商已經(jīng)探索給予版權(quán)人事前“選擇退出”的渠道:OpenAI在 AI 行業(yè)中率先提供了一個(gè)簡單基于“robots協(xié)議”的退出機(jī)制;Adobe開發(fā)了一種名為“Content Credentials”的功能,它使藝術(shù)家能夠附加一個(gè)“do-not-train”標(biāo)簽防止自身作品被訓(xùn)練,該標(biāo)簽將隨著內(nèi)容的傳播而傳遞。

    4 這類似于社交類APP的用戶聊天記錄和歷史信息,因?yàn)榇嬖谟谟脩糇陨淼氖謾C(jī)或電腦等設(shè)備終端,所以運(yùn)營平臺本身實(shí)際無法保存、導(dǎo)出和控制上述記錄和信息。

    1 該《暫行辦法》第14條規(guī)定:AIGC服務(wù)提供者發(fā)現(xiàn)違法內(nèi)容(大致對標(biāo)模型“記憶”引發(fā)的版權(quán)直接侵權(quán)情形),需要采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改,但未強(qiáng)調(diào)效果層面的具體要求;AIGC服務(wù)提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動(大致對標(biāo)用戶不當(dāng)使用引發(fā)的版權(quán)間接侵權(quán)),更是僅要求采取警示、限制功能、暫?;蛘呓K止向其提供服務(wù)等處置措施,未涉及面向未來的侵權(quán)屏蔽要求。

    国产精品av久久久久免费| 大香蕉久久网| 性色av一级| 亚洲婷婷狠狠爱综合网| 91久久精品国产一区二区三区| 欧美bdsm另类| 观看av在线不卡| 久久精品亚洲av国产电影网| 成人毛片a级毛片在线播放| 成人亚洲欧美一区二区av| 久久久国产精品麻豆| 久久鲁丝午夜福利片| 成年人免费黄色播放视频| 午夜福利,免费看| tube8黄色片| 丁香六月天网| 精品亚洲成国产av| 熟妇人妻不卡中文字幕| 亚洲国产成人一精品久久久| 999久久久国产精品视频| 欧美成人精品欧美一级黄| 国产精品国产三级国产专区5o| 韩国av在线不卡| 天堂俺去俺来也www色官网| 欧美日韩精品网址| 国产成人aa在线观看| 国产黄色视频一区二区在线观看| 亚洲欧美中文字幕日韩二区| 国产精品熟女久久久久浪| 五月天丁香电影| 9热在线视频观看99| 亚洲欧美一区二区三区国产| 国产成人aa在线观看| 少妇熟女欧美另类| 国产亚洲一区二区精品| 日韩中文字幕欧美一区二区 | 亚洲中文av在线| 岛国毛片在线播放| 久久久久国产网址| 美女高潮到喷水免费观看| 黄色配什么色好看| 久久国产精品大桥未久av| 国产精品一区二区在线观看99| 精品酒店卫生间| 美女高潮到喷水免费观看| 捣出白浆h1v1| 高清视频免费观看一区二区| 国产一区二区三区综合在线观看| 看免费成人av毛片| 日韩,欧美,国产一区二区三区| 九草在线视频观看| 久久精品人人爽人人爽视色| 国产成人精品在线电影| 波野结衣二区三区在线| 免费高清在线观看日韩| 丝袜美腿诱惑在线| 午夜福利在线观看免费完整高清在| 天天操日日干夜夜撸| 母亲3免费完整高清在线观看 | 日日撸夜夜添| 爱豆传媒免费全集在线观看| 爱豆传媒免费全集在线观看| 久久久久视频综合| 高清av免费在线| xxx大片免费视频| 国产成人精品婷婷| 欧美国产精品一级二级三级| 日韩av免费高清视频| 国产男女内射视频| 男女边吃奶边做爰视频| 精品一区在线观看国产| 啦啦啦视频在线资源免费观看| 天天躁日日躁夜夜躁夜夜| 性色avwww在线观看| 美女国产高潮福利片在线看| 在线免费观看不下载黄p国产| 超碰97精品在线观看| 伊人久久国产一区二区| 精品亚洲成国产av| 久久精品aⅴ一区二区三区四区 | 天堂中文最新版在线下载| 边亲边吃奶的免费视频| 欧美亚洲 丝袜 人妻 在线| 香蕉国产在线看| 一区在线观看完整版| 精品国产乱码久久久久久小说| 可以免费在线观看a视频的电影网站 | 日韩人妻精品一区2区三区| 欧美精品一区二区大全| 精品人妻偷拍中文字幕| 观看av在线不卡| 女人精品久久久久毛片| 免费av中文字幕在线| 在线观看美女被高潮喷水网站| 国产1区2区3区精品| 在线 av 中文字幕| 亚洲三区欧美一区| 免费看不卡的av| 久久毛片免费看一区二区三区| 国产精品不卡视频一区二区| 人人妻人人爽人人添夜夜欢视频| 色94色欧美一区二区| 亚洲国产精品一区二区三区在线| 一级,二级,三级黄色视频| 亚洲熟女精品中文字幕| 性少妇av在线| 国产男女内射视频| 国产高清国产精品国产三级| 9色porny在线观看| 校园人妻丝袜中文字幕| 天天躁日日躁夜夜躁夜夜| 美女国产高潮福利片在线看| 国产精品99久久99久久久不卡 | 国产日韩欧美视频二区| av线在线观看网站| 成年动漫av网址| 女人久久www免费人成看片| 午夜福利网站1000一区二区三区| 国产精品一国产av| 中文精品一卡2卡3卡4更新| 亚洲精品国产色婷婷电影| 久久韩国三级中文字幕| 97精品久久久久久久久久精品| 久久精品国产a三级三级三级| 国产午夜精品一二区理论片| 色网站视频免费| 欧美精品一区二区大全| 国产精品成人在线| 色吧在线观看| 伦理电影免费视频| 午夜老司机福利剧场| 在线免费观看不下载黄p国产| 国产爽快片一区二区三区| 亚洲第一av免费看| 欧美人与善性xxx| 中文字幕另类日韩欧美亚洲嫩草| 美女大奶头黄色视频| av福利片在线| 啦啦啦在线观看免费高清www| 啦啦啦在线免费观看视频4| 日韩免费高清中文字幕av| 国产无遮挡羞羞视频在线观看| 老女人水多毛片| 人妻 亚洲 视频| 国产高清不卡午夜福利| freevideosex欧美| 日韩制服骚丝袜av| 国产亚洲最大av| 欧美 亚洲 国产 日韩一| 晚上一个人看的免费电影| 国产精品久久久av美女十八| 看免费成人av毛片| 亚洲四区av| 国产精品国产三级国产专区5o| 91成人精品电影| 人妻一区二区av| 亚洲国产精品一区二区三区在线| 少妇人妻 视频| 9色porny在线观看| 色婷婷久久久亚洲欧美| 18禁动态无遮挡网站| 另类亚洲欧美激情| 欧美激情高清一区二区三区 | 又大又黄又爽视频免费| 9色porny在线观看| 不卡av一区二区三区| 欧美 日韩 精品 国产| 日韩精品免费视频一区二区三区| 成年人免费黄色播放视频| 一级,二级,三级黄色视频| 七月丁香在线播放| 最近中文字幕高清免费大全6| 久久精品夜色国产| 少妇精品久久久久久久| 不卡视频在线观看欧美| 午夜日本视频在线| av免费观看日本| xxx大片免费视频| 久久久久久久精品精品| 国产老妇伦熟女老妇高清| 久久精品国产鲁丝片午夜精品| 在线精品无人区一区二区三| 成人毛片60女人毛片免费| 亚洲av.av天堂| 久久精品久久精品一区二区三区| 久久久久国产精品人妻一区二区| 久久久久久久亚洲中文字幕| 亚洲,欧美,日韩| 伦理电影大哥的女人| 18在线观看网站| 国产精品亚洲av一区麻豆 | 久久综合国产亚洲精品| 一区二区三区乱码不卡18| 熟妇人妻不卡中文字幕| 捣出白浆h1v1| freevideosex欧美| 亚洲综合色网址| 国产1区2区3区精品| 超碰97精品在线观看| 午夜影院在线不卡| 亚洲国产毛片av蜜桃av| 亚洲第一青青草原| 国产又色又爽无遮挡免| 欧美日本中文国产一区发布| 91午夜精品亚洲一区二区三区| 99热国产这里只有精品6| 在线观看国产h片| 波野结衣二区三区在线| 亚洲精品视频女| 十分钟在线观看高清视频www| 久久久久久久精品精品| 韩国高清视频一区二区三区| 国产精品香港三级国产av潘金莲 | 免费日韩欧美在线观看| 国产精品蜜桃在线观看| 精品少妇黑人巨大在线播放| 国产极品天堂在线| 欧美中文综合在线视频| 日本欧美国产在线视频| 亚洲伊人色综图| 夫妻性生交免费视频一级片| 中文字幕人妻熟女乱码| 男女边吃奶边做爰视频| 亚洲四区av| 丁香六月天网| 90打野战视频偷拍视频| 国产国语露脸激情在线看| 我的亚洲天堂| 亚洲五月色婷婷综合| 精品视频人人做人人爽| 在线看a的网站| 亚洲精品乱久久久久久| 久久午夜福利片| 亚洲成人一二三区av| 亚洲,欧美精品.| 最新的欧美精品一区二区| 久久久国产一区二区| av电影中文网址| 黑人巨大精品欧美一区二区蜜桃| 十八禁网站网址无遮挡| 91午夜精品亚洲一区二区三区| 亚洲av福利一区| 中文字幕精品免费在线观看视频| 伊人久久大香线蕉亚洲五| 国产欧美亚洲国产| 黄片无遮挡物在线观看| 亚洲精品国产色婷婷电影| 少妇人妻精品综合一区二区| 久久毛片免费看一区二区三区| 精品福利永久在线观看| 成人国语在线视频| 卡戴珊不雅视频在线播放| 99热全是精品| 亚洲视频免费观看视频| 麻豆av在线久日| 97在线视频观看| 日韩免费高清中文字幕av| 十八禁高潮呻吟视频| 色网站视频免费| 各种免费的搞黄视频| av女优亚洲男人天堂| 久久婷婷青草| 久久久久久久久久久久大奶| 国产激情久久老熟女| 亚洲一区中文字幕在线| 国产免费又黄又爽又色| 黄频高清免费视频| 少妇的丰满在线观看| 最近手机中文字幕大全| videos熟女内射| 人体艺术视频欧美日本| 亚洲精品乱久久久久久| 丰满少妇做爰视频| 国产野战对白在线观看| 大陆偷拍与自拍| 日韩一卡2卡3卡4卡2021年| 亚洲综合精品二区| 国产xxxxx性猛交| 纵有疾风起免费观看全集完整版| 欧美中文综合在线视频| 久久精品夜色国产| 黄片小视频在线播放| 91国产中文字幕| av在线播放精品| 黑人巨大精品欧美一区二区蜜桃| 叶爱在线成人免费视频播放| 精品国产一区二区久久| 国产在视频线精品| 欧美在线黄色| 在线看a的网站| 免费久久久久久久精品成人欧美视频| 久久久久网色| 蜜桃在线观看..| 99香蕉大伊视频| av卡一久久| 国产成人精品一,二区| 人成视频在线观看免费观看| 久久热在线av| 婷婷成人精品国产| 亚洲国产日韩一区二区| 日韩不卡一区二区三区视频在线| 大片免费播放器 马上看| 欧美在线黄色| 日韩av不卡免费在线播放| 亚洲欧洲精品一区二区精品久久久 | 亚洲国产精品成人久久小说| 欧美av亚洲av综合av国产av | 亚洲国产精品一区二区三区在线| 午夜久久久在线观看| 亚洲欧美日韩另类电影网站| 人人妻人人爽人人添夜夜欢视频| 国产精品无大码| 卡戴珊不雅视频在线播放| 欧美av亚洲av综合av国产av | 精品福利永久在线观看| 伦理电影免费视频| 另类精品久久| 色网站视频免费| 亚洲av福利一区| 三级国产精品片| 国产在线视频一区二区| 看非洲黑人一级黄片| 午夜91福利影院| 亚洲精品久久成人aⅴ小说| 91aial.com中文字幕在线观看| 国产av国产精品国产| 999久久久国产精品视频| 午夜福利在线观看免费完整高清在| 成人影院久久| 国产欧美日韩一区二区三区在线| 人体艺术视频欧美日本| 激情五月婷婷亚洲| 国产精品一二三区在线看| 日韩熟女老妇一区二区性免费视频| 国产97色在线日韩免费| 超色免费av| 国产一区二区 视频在线| 婷婷色av中文字幕| 亚洲成色77777| 又粗又硬又长又爽又黄的视频| 性色av一级| 大陆偷拍与自拍| 日本猛色少妇xxxxx猛交久久| 亚洲成人一二三区av| 欧美激情高清一区二区三区 | 久久久精品94久久精品| 国产无遮挡羞羞视频在线观看| 国产av精品麻豆| 国产亚洲午夜精品一区二区久久| 亚洲三区欧美一区| 女人久久www免费人成看片| 一级片'在线观看视频| 三级国产精品片| 久久久久国产网址| av片东京热男人的天堂| 久久久久国产精品人妻一区二区| 看免费成人av毛片| 一本—道久久a久久精品蜜桃钙片| 99热全是精品| 国产免费现黄频在线看| 免费久久久久久久精品成人欧美视频| 建设人人有责人人尽责人人享有的| 日本黄色日本黄色录像| 菩萨蛮人人尽说江南好唐韦庄| 国产老妇伦熟女老妇高清| 99re6热这里在线精品视频| 亚洲国产av新网站| 久久久久精品性色| 99re6热这里在线精品视频| 免费不卡的大黄色大毛片视频在线观看| 亚洲五月色婷婷综合| 久久女婷五月综合色啪小说| 成年女人毛片免费观看观看9 | 中文字幕亚洲精品专区| 久久人妻熟女aⅴ| 国产综合精华液| 一级爰片在线观看| 国产精品国产三级专区第一集| 9191精品国产免费久久| av视频免费观看在线观看| 精品国产乱码久久久久久小说| 国产片特级美女逼逼视频| 免费大片黄手机在线观看| 亚洲成国产人片在线观看| 激情视频va一区二区三区| 你懂的网址亚洲精品在线观看| 久久综合国产亚洲精品| videos熟女内射| 国产黄频视频在线观看| 国产精品久久久久成人av| 在线天堂中文资源库| xxx大片免费视频| 999精品在线视频| 国产免费福利视频在线观看| 青青草视频在线视频观看| 涩涩av久久男人的天堂| 免费高清在线观看视频在线观看| 久久午夜福利片| 国产毛片在线视频| 色吧在线观看| 丝袜在线中文字幕| 欧美日韩一区二区视频在线观看视频在线| 青青草视频在线视频观看| 欧美精品高潮呻吟av久久| 波多野结衣一区麻豆| a级毛片黄视频| 亚洲中文av在线| 精品一区在线观看国产| 亚洲图色成人| 欧美日韩成人在线一区二区| 中文字幕精品免费在线观看视频| 亚洲久久久国产精品| 午夜激情久久久久久久| 成年av动漫网址| freevideosex欧美| av电影中文网址| 亚洲第一青青草原| 成人国产av品久久久| 成人黄色视频免费在线看| 国产老妇伦熟女老妇高清| 国产精品.久久久| 中文字幕最新亚洲高清| 午夜福利视频在线观看免费| 欧美精品一区二区免费开放| www日本在线高清视频| www.av在线官网国产| 国产片内射在线| 少妇精品久久久久久久| 国产国语露脸激情在线看| 麻豆乱淫一区二区| 永久网站在线| 91精品国产国语对白视频| 热99久久久久精品小说推荐| 日韩三级伦理在线观看| 国产爽快片一区二区三区| 国产极品天堂在线| av电影中文网址| 亚洲av电影在线进入| 国产亚洲最大av| 美女午夜性视频免费| 国产精品秋霞免费鲁丝片| 另类精品久久| 免费高清在线观看日韩| 精品第一国产精品| 国产一区有黄有色的免费视频| 看非洲黑人一级黄片| 韩国av在线不卡| 午夜福利网站1000一区二区三区| 精品卡一卡二卡四卡免费| 久久精品国产亚洲av涩爱| 欧美另类一区| 国产一区有黄有色的免费视频| 成人国产麻豆网| 日韩中文字幕欧美一区二区 | 欧美亚洲日本最大视频资源| 久久久亚洲精品成人影院| 欧美 亚洲 国产 日韩一| 久久女婷五月综合色啪小说| 午夜影院在线不卡| 最新的欧美精品一区二区| 欧美 亚洲 国产 日韩一| 九草在线视频观看| 国产视频首页在线观看| 日韩视频在线欧美| 日本wwww免费看| 婷婷色av中文字幕| 纵有疾风起免费观看全集完整版| 一区二区三区乱码不卡18| 性高湖久久久久久久久免费观看| 黄色怎么调成土黄色| 亚洲精华国产精华液的使用体验| 一本色道久久久久久精品综合| 自线自在国产av| 成人手机av| 欧美日韩av久久| 免费观看在线日韩| 久久久久国产一级毛片高清牌| 久久精品久久久久久久性| 日韩av在线免费看完整版不卡| 春色校园在线视频观看| 十八禁网站网址无遮挡| 激情五月婷婷亚洲| 日韩视频在线欧美| av片东京热男人的天堂| 自线自在国产av| 国产熟女午夜一区二区三区| 丝袜脚勾引网站| 大话2 男鬼变身卡| 咕卡用的链子| 午夜福利在线免费观看网站| 美女xxoo啪啪120秒动态图| 成人午夜精彩视频在线观看| xxx大片免费视频| 精品亚洲乱码少妇综合久久| 五月伊人婷婷丁香| 热re99久久精品国产66热6| 国产精品国产三级专区第一集| a级毛片黄视频| 肉色欧美久久久久久久蜜桃| 美女福利国产在线| 久久精品国产亚洲av涩爱| 在线观看国产h片| 蜜桃在线观看..| 搡老乐熟女国产| 亚洲欧美成人精品一区二区| 黑人猛操日本美女一级片| 高清在线视频一区二区三区| 极品人妻少妇av视频| 欧美日韩亚洲高清精品| 如日韩欧美国产精品一区二区三区| 国产黄色视频一区二区在线观看| 最近最新中文字幕大全免费视频 | 欧美xxⅹ黑人| 王馨瑶露胸无遮挡在线观看| 美女高潮到喷水免费观看| 国产av国产精品国产| 亚洲,欧美,日韩| 中国国产av一级| 国产不卡av网站在线观看| 欧美国产精品一级二级三级| 国产色婷婷99| 自拍欧美九色日韩亚洲蝌蚪91| 国产一区有黄有色的免费视频| 18禁裸乳无遮挡动漫免费视频| 精品亚洲成a人片在线观看| 又大又黄又爽视频免费| 18禁动态无遮挡网站| 国产一区二区三区av在线| 999精品在线视频| 五月伊人婷婷丁香| 18禁动态无遮挡网站| 看非洲黑人一级黄片| 超碰97精品在线观看| 中文欧美无线码| 亚洲成人一二三区av| 男人操女人黄网站| 热re99久久精品国产66热6| 亚洲色图 男人天堂 中文字幕| 免费看av在线观看网站| 午夜av观看不卡| 老汉色∧v一级毛片| 如日韩欧美国产精品一区二区三区| 性色av一级| av免费观看日本| 三上悠亚av全集在线观看| 日韩精品有码人妻一区| 国产深夜福利视频在线观看| 亚洲国产av新网站| 国产野战对白在线观看| 极品人妻少妇av视频| videos熟女内射| av片东京热男人的天堂| 午夜福利视频在线观看免费| 26uuu在线亚洲综合色| 精品少妇一区二区三区视频日本电影 | 伦理电影大哥的女人| 久久97久久精品| 久久久国产精品麻豆| 黄色毛片三级朝国网站| 90打野战视频偷拍视频| 午夜91福利影院| 中文字幕另类日韩欧美亚洲嫩草| 免费在线观看视频国产中文字幕亚洲 | 成年动漫av网址| 一边亲一边摸免费视频| 日韩一区二区视频免费看| www.熟女人妻精品国产| 免费在线观看完整版高清| 91在线精品国自产拍蜜月| 看免费成人av毛片| 看免费av毛片| 色94色欧美一区二区| 一区二区三区乱码不卡18| 久久99一区二区三区| 少妇人妻精品综合一区二区| 一区二区三区精品91| 激情视频va一区二区三区| 波多野结衣一区麻豆| 狠狠精品人妻久久久久久综合| av免费观看日本| 成年av动漫网址| 中国三级夫妇交换| 精品国产一区二区三区四区第35| 午夜久久久在线观看| 国产午夜精品一二区理论片| 97在线视频观看| 91精品三级在线观看| 日日摸夜夜添夜夜爱| 日韩,欧美,国产一区二区三区| 美女福利国产在线| 大陆偷拍与自拍| 不卡av一区二区三区| 男女啪啪激烈高潮av片| 国产亚洲一区二区精品| 制服诱惑二区| 国产深夜福利视频在线观看| 各种免费的搞黄视频| 考比视频在线观看| 人人澡人人妻人| 亚洲中文av在线| 一本大道久久a久久精品| 永久网站在线| 亚洲欧美精品综合一区二区三区 | 国产精品亚洲av一区麻豆 | 久久国产精品男人的天堂亚洲| 日本猛色少妇xxxxx猛交久久| 18禁国产床啪视频网站| 亚洲,一卡二卡三卡| 国产欧美亚洲国产| 黄色毛片三级朝国网站| 欧美日韩一区二区视频在线观看视频在线| 老司机影院成人| 欧美日韩成人在线一区二区| 久久久久久久大尺度免费视频| 十分钟在线观看高清视频www|