• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    生成式人工智能機(jī)器學(xué)習(xí)的版權(quán)困境及其制度因應(yīng)

    2024-11-21 00:00:00吳家煦來小鵬
    編輯之友 2024年11期

    【摘要】生成式人工智能機(jī)器學(xué)習(xí)所引發(fā)的著作權(quán)法爭議,本質(zhì)是傳統(tǒng)版權(quán)產(chǎn)業(yè)與新興人工智能產(chǎn)業(yè)之間的利益分配爭議。機(jī)器學(xué)習(xí)行為類型化的技術(shù)特征以及合理使用制度步驟式的適用邏輯,決定了對該問題應(yīng)當(dāng)按照分類分步的思路進(jìn)行處理。在前置的行為定性問題上,機(jī)器學(xué)習(xí)可分為非表達(dá)型和表達(dá)型兩類,前者屬于非作品性使用無侵權(quán)責(zé)任;后者因?qū)儆谧髌沸允褂枚淙胫鳈?quán)專有權(quán)利控制范疇,存在侵權(quán)使用與合理使用之分。在后續(xù)的規(guī)則設(shè)置問題上,基于經(jīng)濟(jì)分析路徑,非商業(yè)性目的的機(jī)器學(xué)習(xí)符合“三步檢驗法”標(biāo)準(zhǔn),屬于合理使用范疇;商業(yè)性目的的機(jī)器學(xué)習(xí)雖不滿足合理使用條件,但仍能通過產(chǎn)業(yè)主體間私人自治的版權(quán)規(guī)則構(gòu)建實現(xiàn)合法化轉(zhuǎn)型。

    【關(guān)鍵詞】生成式人工智能 機(jī)器學(xué)習(xí) 作品性使用 合理使用 法定許可

    【中圖分類號】G230 【文獻(xiàn)標(biāo)識碼】A 【文章編號】1003-6687(2024)11-096-09

    【DOI】 10.13786/j.cnki.cn14-1066/g2.2024.11.013

    以ChatGPT為代表的生成式人工智能的誕生,不僅預(yù)示著一場新的智力革命的到來,更因其所展現(xiàn)的巨大應(yīng)用潛力而被視作推動第四次信息科技革命的“技術(shù)奇點(diǎn)”。生成式人工智能以數(shù)據(jù)、算法和算力作為核心要素,依賴于以數(shù)據(jù)挖掘分析技術(shù)為底色的機(jī)器學(xué)習(xí),通過數(shù)據(jù)投喂進(jìn)行模型訓(xùn)練進(jìn)而實現(xiàn)算法升級和技術(shù)躍遷。海量數(shù)據(jù)輸入下的機(jī)器學(xué)習(xí)模型訓(xùn)練,使得生成式人工智能在事實上具備系統(tǒng)科學(xué)領(lǐng)域所定義的“涌現(xiàn)能力”。①然而,機(jī)器在學(xué)習(xí)過程中被“喂養(yǎng)”的除了源于公有領(lǐng)域的數(shù)據(jù)資源外,還不可避免地大規(guī)模涉及受著作權(quán)法保護(hù)的作品內(nèi)容。這導(dǎo)致生成式人工智能在帶來廣闊產(chǎn)業(yè)發(fā)展前景的同時,也引發(fā)了有關(guān)著作權(quán)合法性的擔(dān)憂。2023年7月,超15000名美國作家協(xié)會會員聯(lián)合發(fā)布署名公開信,要求OpenAI等人工智能公司不得未經(jīng)許可利用作品進(jìn)行A780fbc7c077d3bba247c54ff42696c7aI模型訓(xùn)練,并且還應(yīng)當(dāng)對之前的作品使用行為進(jìn)行財產(chǎn)性補(bǔ)償。[1]2024年3月,由于未經(jīng)新聞出版機(jī)構(gòu)許可使用受著作權(quán)保護(hù)的內(nèi)容訓(xùn)練聊天機(jī)器人,谷歌被法國市場監(jiān)管機(jī)構(gòu)處以2.5億歐元罰款,成為全球首家因訓(xùn)練數(shù)據(jù)而受到處罰的人工智能公司,對此谷歌稱監(jiān)管機(jī)構(gòu)并未充分考慮當(dāng)前人工智能開發(fā)商摸索新路的艱難處境。[2]在我國,以被喻為全球AIGC平臺侵權(quán)第一案的“奧特曼案”為代表,審理法院認(rèn)定未經(jīng)許可利用作品進(jìn)行人工智能模型訓(xùn)練并提供生成式服務(wù)的行為構(gòu)成著作權(quán)侵權(quán)。①

    技術(shù)的變革本身雖蘊(yùn)含生機(jī)與希望,但同時也充斥著風(fēng)險與挑戰(zhàn)。[3]生成式人工智能一方面因具有重要經(jīng)濟(jì)意義和創(chuàng)新價值而廣受青睞,另一方面卻因如影隨形的復(fù)雜著作權(quán)問題而沖擊著現(xiàn)有法律秩序??梢哉f,生成式人工智能的出現(xiàn)不僅是一次重大的科技革命,更引領(lǐng)著一場深刻的社會變革。對于這樣一個新興事物所引發(fā)的著作權(quán)問題,應(yīng)警惕避免陷入技術(shù)治理上的“科林格里奇困境”。[4]既不應(yīng)在技術(shù)發(fā)展的早期階段就過早地實施控制,以致阻礙技術(shù)生產(chǎn)力的進(jìn)一步發(fā)展;也不應(yīng)等到技術(shù)已經(jīng)深度融入整個經(jīng)濟(jì)社會結(jié)構(gòu)后才施加干預(yù),導(dǎo)致治理成本大幅提升乃至所產(chǎn)生的負(fù)面效應(yīng)已無法消除。機(jī)器學(xué)習(xí)是生成式人工智能的關(guān)鍵技術(shù),對于機(jī)器學(xué)習(xí)過程中使用作品所導(dǎo)致的著作權(quán)法爭議,在因應(yīng)路徑上須以對技術(shù)運(yùn)行原理的拆解為前提,同時結(jié)合著作權(quán)制度的適用邏輯,厘清究竟何種情形下的機(jī)器學(xué)習(xí)作品使用行為與既有規(guī)范存在合法性沖突,在此基礎(chǔ)上探求如何調(diào)整和構(gòu)建相應(yīng)的版權(quán)規(guī)則,以更好地解決爭議,從而有效化解人工智能時代技術(shù)發(fā)展與合規(guī)需求之間的矛盾。

    一、機(jī)器學(xué)習(xí)著作權(quán)法爭議的檢視與解構(gòu)

    生成式人工智能作為新質(zhì)生產(chǎn)力的典型代表,其所引發(fā)的高關(guān)注度使得當(dāng)前有關(guān)機(jī)器學(xué)習(xí)著作權(quán)問題的討論進(jìn)入白熱化。已有研究雖然從多個角度對該問題進(jìn)行了不同闡釋,但囿于理論層面共識的缺乏以及制度層面規(guī)則的缺失,致使相關(guān)爭議仍存在很大不確定性。鑒于此,有必要回歸對于機(jī)器學(xué)習(xí)著作權(quán)法爭議本身的檢視與反思,從中梳理出爭議背后的實質(zhì)焦點(diǎn)并加以解構(gòu),從而為后續(xù)研究錨定方向。

    1. 機(jī)器學(xué)習(xí)著作權(quán)法爭議的檢視反思

    當(dāng)前,有關(guān)生成式人工智能機(jī)器學(xué)習(xí)行為定性及其制度安排的討論仍處于爭議之中,尚未形成共識。在理論探討上,目前主要存在以下四種觀點(diǎn)。其一,合理使用說。該觀點(diǎn)認(rèn)為,鑒于人工智能技術(shù)對促進(jìn)經(jīng)濟(jì)發(fā)展具有重要意義,為避免因海量侵權(quán)糾紛引發(fā)技術(shù)治理上的過度控制,導(dǎo)致人工智能產(chǎn)業(yè)發(fā)展受到“寒蟬效應(yīng)”的影響而遭遇阻滯,有必要將機(jī)器學(xué)習(xí)納入著作權(quán)合理使用范圍以使之實現(xiàn)合法化轉(zhuǎn)型。[5]在相應(yīng)的學(xué)理分析上,該觀點(diǎn)主要基于“轉(zhuǎn)換性使用”理論,主張機(jī)器學(xué)習(xí)作品使用行為所指向的并非作品的獨(dú)創(chuàng)性表達(dá)部分,也不以再現(xiàn)作品的文學(xué)藝術(shù)科學(xué)價值為目的,屬于在功能或目的上具備轉(zhuǎn)換性的“非表達(dá)性使用”,足以構(gòu)成合理使用。[6]其二,法定許可說。該觀點(diǎn)同樣主張機(jī)器學(xué)習(xí)作品使用行為具有經(jīng)濟(jì)意義上的正當(dāng)性,但認(rèn)為相較于合理使用制度對技術(shù)進(jìn)步的傾斜保護(hù),法定許可制度能夠在有效解決機(jī)器學(xué)習(xí)著作權(quán)問題的同時,更好地兼顧權(quán)利保護(hù)與技術(shù)發(fā)展之間的平衡,故可考慮將機(jī)器學(xué)習(xí)納入法定許可范疇以實現(xiàn)合法化轉(zhuǎn)型。[7]其三,許可使用說。該觀點(diǎn)認(rèn)為,機(jī)器學(xué)習(xí)作品使用行為不僅會影響作品的正常利用,還會導(dǎo)致著作權(quán)人一直以來通過許可轉(zhuǎn)讓獲取收益的商業(yè)邏輯陷入失靈,致使內(nèi)容生產(chǎn)端因喪失經(jīng)濟(jì)激勵而走向枯竭。故從保障著作權(quán)人利益的角度出發(fā),不應(yīng)將機(jī)器學(xué)習(xí)納入合理使用或法定許可范疇,而須沿襲“先許可后使用”的傳統(tǒng)模式,否則即構(gòu)成侵權(quán)。[8]其四,排除控制說。不同于前述諸觀點(diǎn),該觀點(diǎn)主張機(jī)器學(xué)習(xí)對作品的利用屬于著作權(quán)控制之外的行為,并不會對著作權(quán)人利益造成削弱。應(yīng)當(dāng)將機(jī)器學(xué)習(xí)作品使用行為從著作權(quán)專有權(quán)利控制范疇中予以排除,無須適用著作權(quán)制度進(jìn)行“先進(jìn)后出”式的分析來為之抗辯,從而迎合人工智能的發(fā)展。[9]

    縱觀當(dāng)前對于生成式人工智能機(jī)器學(xué)習(xí)著作權(quán)問題的探討,大多圍繞產(chǎn)業(yè)主體間的利益博弈展開,基于促進(jìn)人工智能產(chǎn)業(yè)發(fā)展或維護(hù)傳統(tǒng)版權(quán)產(chǎn)業(yè)利益的不同考量,通過理論及現(xiàn)實層面的正當(dāng)性證成,尋求與既有制度的適配。但這一論述邏輯僅僅是對機(jī)器學(xué)習(xí)著作權(quán)問題的一種直觀反映和機(jī)械分析,一方面在技術(shù)層面上忽略了對機(jī)器學(xué)習(xí)使用作品的技術(shù)過程還原,另一方面在制度層面上缺乏對版權(quán)規(guī)則適用理念的剖析。正因如此,實踐中有關(guān)機(jī)器學(xué)習(xí)著作權(quán)問題的諸多討論,才會陷入執(zhí)著于對現(xiàn)有著作權(quán)制度進(jìn)行改造或重構(gòu),試圖以此將機(jī)器學(xué)習(xí)完全納入既有制度框架從而一勞永逸地解決問題的誤區(qū)。這種“一刀切”的做法,不僅無法有效回應(yīng)和兼顧不同產(chǎn)業(yè)主體的利益訴求,更無益于化解機(jī)器學(xué)習(xí)著作權(quán)法爭議上的僵局。

    2. 機(jī)器學(xué)習(xí)著作權(quán)法爭議的本質(zhì)解構(gòu)

    世界銀行2023年發(fā)布的生成式人工智能報告顯示,全球生成式人工智能產(chǎn)業(yè)市場預(yù)計將于2026年達(dá)到65億美元,然而傳統(tǒng)版權(quán)產(chǎn)業(yè)不僅未能從中分得相應(yīng)的利益,其原有市場還因此受到強(qiáng)烈擠占和沖擊。[10]可見,生成式人工智能機(jī)器學(xué)習(xí)的著作權(quán)法爭議,本質(zhì)上是傳統(tǒng)版權(quán)產(chǎn)業(yè)與新興人工智能產(chǎn)業(yè)之間的利益分配爭議,其直接影響到后者當(dāng)前發(fā)展模式的合法性以及未來發(fā)展生態(tài)的塑造。對于這樣一個涉及經(jīng)濟(jì)、政治、科技等諸多方面的復(fù)雜問題,若是僅以全有或全無的兩極化態(tài)度來簡單對待,不加區(qū)分地認(rèn)定所有機(jī)器學(xué)習(xí)行為都構(gòu)成或不構(gòu)成著作權(quán)侵權(quán),進(jìn)而判定都適用或不適用合理使用規(guī)則,很可能造成爭議的進(jìn)一步加劇。

    應(yīng)當(dāng)認(rèn)識到,在技術(shù)層面上,目前實踐中已經(jīng)發(fā)展出多種類多形態(tài)的生成式人工智能,不同的機(jī)器學(xué)習(xí)類型對于作品使用行為的差異,表現(xiàn)在從工作機(jī)制到運(yùn)行結(jié)果的各個方面;在法律層面上,合理使用規(guī)則的適用前提在于存在落入著作權(quán)專有權(quán)利控制范疇的侵權(quán)使用行為,這是探討是否構(gòu)成合理使用的重要基礎(chǔ),作品使用行為若不構(gòu)成侵權(quán)自然也就無須設(shè)置相應(yīng)的合理使用規(guī)則。[11]因此,機(jī)器學(xué)習(xí)行為類型化的技術(shù)特征以及合理使用規(guī)則遞進(jìn)式的適用邏輯,決定了對該問題的回答應(yīng)分解為兩項子問題,按照“兩步走”的方式進(jìn)行階梯式處理。具體而言,首先是前置的行為定性問題,即是否所有類型的機(jī)器學(xué)習(xí)行為都落入著作權(quán)專有權(quán)利控制范疇涉嫌侵權(quán),這決定了是否存在進(jìn)一步適用合理使用規(guī)則的前提與必要;其次是后續(xù)的規(guī)則設(shè)置問題,即是否所有落入著作權(quán)專有權(quán)利控制范疇涉嫌侵權(quán)的機(jī)器學(xué)習(xí)行為都滿足合理使用規(guī)則的適用條件,這決定了其最終能否實現(xiàn)合法化轉(zhuǎn)型。遵循這一分類分步的思路,對上述兩個問題依次展開論述,以在有效維持產(chǎn)業(yè)主體間利益平衡的基礎(chǔ)上,科學(xué)合理地應(yīng)對生成式人工智能機(jī)器學(xué)習(xí)所引發(fā)的著作權(quán)法爭議。

    二、前置問題:機(jī)器學(xué)習(xí)行為的著作權(quán)法定性

    生成式人工智能機(jī)器學(xué)習(xí)著作權(quán)問題的妥善解決,首先有賴于準(zhǔn)確界定機(jī)器學(xué)習(xí)過程中使用作品行為的法律性質(zhì)。實踐中是否所有類型的機(jī)器學(xué)習(xí)行為都必然落入著作權(quán)專有權(quán)利控制范疇涉嫌侵權(quán),對這一前置性問題的回答將直接決定后續(xù)版權(quán)規(guī)則設(shè)置的走向。解決這一問題也就意味著明確是否有必要通過合理使用規(guī)則的適用來完成機(jī)器學(xué)習(xí)行為的合法化轉(zhuǎn)型。

    1. 機(jī)器學(xué)習(xí)行為定性的分析基礎(chǔ):“作品性使用”概念的引入

    機(jī)器學(xué)習(xí)依托數(shù)據(jù)“喂養(yǎng)”開展模型訓(xùn)練,其使用的海量數(shù)據(jù)既包括處于公有領(lǐng)域的資源素材,也包含受著作權(quán)保護(hù)的作品內(nèi)容。對已經(jīng)進(jìn)入公有領(lǐng)域的資源素材的使用不會受到著作權(quán)法的限制,而對于版權(quán)作品的使用是否將導(dǎo)致所有類型的機(jī)器學(xué)習(xí)行為都落入著作權(quán)專有權(quán)利控制范疇構(gòu)成侵權(quán),對這一問題的判斷關(guān)鍵在于準(zhǔn)確認(rèn)定機(jī)器學(xué)習(xí)對于作品的不同使用方式,是否都屬于著作權(quán)法意義上的使用。換言之,只有當(dāng)機(jī)器學(xué)習(xí)作品使用行為屬于著作權(quán)法意義上的使用,此時該行為才可能因涉嫌侵權(quán)而具有進(jìn)一步討論是否滿足合理使用標(biāo)準(zhǔn)的必要,否則便不存在侵權(quán)爭議,即在機(jī)器學(xué)習(xí)過程中能夠自由地使用作品。

    有學(xué)者通過借鑒商標(biāo)法領(lǐng)域內(nèi)商標(biāo)性使用和非商標(biāo)性使用的劃分理念,將著作權(quán)法領(lǐng)域中的使用行為區(qū)分為作品性使用和非作品性使用,并指出只有在作品性使用情形下才存在討論構(gòu)成侵權(quán)使用抑或合理使用的必要。[12]在商標(biāo)法語境下,商標(biāo)性使用是指對于商標(biāo)識別來源功能的利用行為。反之,描述性使用等非基于商標(biāo)識別來源功能的使用行為則是非商標(biāo)性使用,此時由于不構(gòu)成商標(biāo)法意義上的使用,故也就不存在進(jìn)一步分析是否構(gòu)成合理使用的侵權(quán)前提。[13]同理,在著作權(quán)法范疇中,作品性使用是指對作品進(jìn)行著作權(quán)法意義上的使用,即通過利用作品中的獨(dú)創(chuàng)性表達(dá)以再現(xiàn)其文學(xué)藝術(shù)科學(xué)價值。非作品性使用則是一種技術(shù)性使用,是指將作品作為一種工具進(jìn)行功能性利用,以便獲得其中不受著作權(quán)保護(hù)的事實性信息等相關(guān)要素。[14]而作品中的獨(dú)創(chuàng)性表達(dá)部分并未被使用,其文學(xué)藝術(shù)科學(xué)價值也不會得到再現(xiàn)。由于非作品性使用并不屬于著作權(quán)法意義上的使用,相應(yīng)的也就不存在落入著作權(quán)專有權(quán)利控制范疇進(jìn)而涉嫌侵權(quán)的可能,此時合理使用規(guī)則也因適用前提的缺失而不再有出場的必要。基于該思路,可將“作品性使用”這一概念運(yùn)用至人工智能領(lǐng)域,用以分析機(jī)器學(xué)習(xí)使用作品行為的著作權(quán)法定性問題。

    2. 類型化視角下機(jī)器學(xué)習(xí)行為定性分析

    生成式人工智能機(jī)器學(xué)習(xí)在技術(shù)流程上以數(shù)據(jù)輸入環(huán)節(jié)為開端,以針對學(xué)習(xí)資料的提取分析環(huán)節(jié)為核心,但最終是否存在內(nèi)容輸出環(huán)節(jié)則因具體類型的不同有所差異?;跈C(jī)器學(xué)習(xí)的這一工作特征,可以依據(jù)有無表達(dá)性內(nèi)容的輸出將其劃分為非表達(dá)型機(jī)器學(xué)習(xí)與表達(dá)型機(jī)器學(xué)習(xí),進(jìn)而對不同機(jī)器學(xué)習(xí)行為的著作權(quán)法定性進(jìn)行類型化分析。[15]

    非表達(dá)型機(jī)器學(xué)習(xí)即無表達(dá)性內(nèi)容輸出的機(jī)器學(xué)習(xí)類型。其目的通常在于提取分析作品中不受著作權(quán)保護(hù)的事實性信息,實際上只是將作品當(dāng)作其模型訓(xùn)練的工具加以利用,屬于系統(tǒng)運(yùn)行過程中不具有著作權(quán)法意義的非作品性使用,因不觸及作品中的獨(dú)創(chuàng)性表達(dá)而不存在落入著作權(quán)專有權(quán)利控制范疇構(gòu)成侵權(quán)的可能。實踐中許多生成式人工智能機(jī)器學(xué)習(xí)都屬于該類型,譬如目前廣泛應(yīng)用的人臉自動識別系統(tǒng)。人臉自動識別系統(tǒng)通過大量收集新聞報道中含有人物形象的拍攝圖片,從中提取人臉要素作為數(shù)據(jù)資料進(jìn)行算法訓(xùn)練。新聞圖片通常都享有著作權(quán),但由于此類非表達(dá)型機(jī)器學(xué)習(xí)僅僅提取其中的人類面部生理特征這一不受著作權(quán)保護(hù)的事實性信息,而非為了利用具有創(chuàng)造性的內(nèi)容表達(dá)以輸出并再現(xiàn)其藝術(shù)價值,不會影響作品的正常利用及形成替代性競爭,故該作品使用行為屬于不具有著作權(quán)法意義的非作品性使用,能夠自由使用作品而不涉及著作權(quán)侵權(quán)。應(yīng)當(dāng)意識到,不同于傳統(tǒng)物權(quán)所具有的絕對排他性,功能主義視角下的著作權(quán)并非禁絕所有接觸和使用作品行為的專有權(quán)利,而是意在控制針對作品獨(dú)創(chuàng)性表達(dá)部分的相關(guān)利用行為。[16]因此,非表達(dá)型機(jī)器學(xué)習(xí)對于作品的非作品性使用并不觸及著作權(quán)專有權(quán)利,亦不構(gòu)成侵權(quán)。

    表達(dá)型機(jī)器學(xué)習(xí)是存在表達(dá)性內(nèi)容輸出的機(jī)器學(xué)習(xí)類型,旨在吸收利用作品中具有獨(dú)創(chuàng)性的表達(dá)特征,進(jìn)而輸出并再現(xiàn)作品的文學(xué)藝術(shù)科學(xué)價值,這顯然屬于著作權(quán)法意義上的作品性使用,可能因落入著作權(quán)專有權(quán)利控制范疇而存在侵權(quán)使用與合理使用之分。實踐中屬于該類型的生成式人工智能機(jī)器學(xué)習(xí)同樣常見,如微軟于2014年啟動開發(fā)的“下一個倫勃朗”(The Next Rembrandt)項目,通過將畫家倫勃朗的畫作作為學(xué)習(xí)資料進(jìn)行模型訓(xùn)練,創(chuàng)作出仿照倫勃朗的繪畫風(fēng)格但又不同于原作的新畫作。[17]該類表達(dá)型機(jī)器學(xué)習(xí)對于作者創(chuàng)作風(fēng)格和作品內(nèi)容的模仿與展現(xiàn),本質(zhì)上是對作為作品核心部分的作者個性化表達(dá)的使用,明顯屬于著作權(quán)法意義上的作品性使用行為,可能對原作的著作權(quán)在市場上產(chǎn)生競爭乃至替代效果。當(dāng)然,倫勃朗早在1669年逝世,其畫作也因早已進(jìn)入公有領(lǐng)域而能夠被自由使用,故不會存在侵權(quán)爭議。但倘若該類表達(dá)型機(jī)器學(xué)習(xí)所使用的是其他仍處于著作權(quán)保護(hù)期限內(nèi)的作品,那么就可能因此落入著作權(quán)專有權(quán)利控制范疇,繼而存在構(gòu)成侵權(quán)使用或合理使用的判斷空間。

    可見,關(guān)于生成式人工智能機(jī)器學(xué)習(xí)的著作權(quán)法定性問題不可一概而論,并非所有類型的機(jī)器學(xué)習(xí)行為都可能落入著作權(quán)專有權(quán)利控制范疇構(gòu)成侵權(quán),應(yīng)當(dāng)根據(jù)機(jī)器學(xué)習(xí)使用作品的不同方式,以及是否存在表達(dá)型內(nèi)容的輸出進(jìn)行類型化分析。具體而言,非表達(dá)型機(jī)器學(xué)習(xí)由于對作品的非作品性使用行為不具有著作權(quán)法意義,故不構(gòu)成侵權(quán),也不會引起爭議。而表達(dá)型機(jī)器學(xué)習(xí)則涉及對作品獨(dú)創(chuàng)性表達(dá)的利用與再現(xiàn),屬于著作權(quán)法意義上的作品性使用,因此落入著作權(quán)專有權(quán)利控制范疇,有待進(jìn)一步判斷究竟是侵權(quán)使用,抑或是合理使用。因此,生成式人工智能機(jī)器學(xué)習(xí)的著作權(quán)法爭議,實際上圍繞基于作品性使用的表達(dá)型機(jī)器學(xué)習(xí)而展開。同樣,后續(xù)關(guān)于機(jī)器學(xué)習(xí)行為的版權(quán)規(guī)則設(shè)置問題的討論,亦應(yīng)該以該類型機(jī)器學(xué)習(xí)為中心。

    三、后續(xù)問題:機(jī)器學(xué)習(xí)行為的版權(quán)規(guī)則設(shè)置

    如前所述,在所有的機(jī)器學(xué)習(xí)類型中,只有表達(dá)型機(jī)器學(xué)習(xí)因?qū)儆谧髌沸允褂枚淙胫鳈?quán)專有權(quán)利控制范疇。然而是否所有的表達(dá)型機(jī)器學(xué)習(xí)均能夠納入合理使用范疇,該問題將最終決定其究竟是侵權(quán)使用,還是因滿足合理使用條件而具備行為合法性,無須承擔(dān)侵權(quán)責(zé)任。合理使用規(guī)則不是現(xiàn)代科技的對立物,現(xiàn)代科技也不是合理使用規(guī)則的“掘墓人”。[18]對于機(jī)器學(xué)習(xí)行為的版權(quán)規(guī)則設(shè)置,應(yīng)當(dāng)在嚴(yán)格遵循合理使用規(guī)則適用邏輯的基礎(chǔ)上作出相應(yīng)判斷。

    1. 機(jī)器學(xué)習(xí)適用合理使用規(guī)則的梯度分析

    我國現(xiàn)行著作權(quán)法對于合理使用規(guī)則適用標(biāo)準(zhǔn)的建構(gòu),遵循《伯爾尼公約》的“三步檢驗法”,①即應(yīng)當(dāng)符合特定且特殊情形、不得影響原作品的正常使用、不得不合理地?fù)p害原作品著作權(quán)人的合法權(quán)益。針對機(jī)器學(xué)習(xí)行為是否適用合理使用規(guī)則的判斷,也應(yīng)按照該標(biāo)準(zhǔn)逐步展開階梯式分析。

    (1)關(guān)于第一步,是否“符合特定且特殊情形”,即行為在目的或范圍上是否具有可預(yù)見性與合目的性。[19]具體到本土法源,應(yīng)按照《中華人民共和國著作權(quán)法》(以下簡稱《著作權(quán)法》)合理使用制度的列舉式規(guī)定,判斷相關(guān)行為能否納入某種合理使用法定情形當(dāng)中。在2010年修正后的《著作權(quán)法》所列舉的十二種合理使用法定情形中,機(jī)器學(xué)習(xí)行為表面上看似滿足個人學(xué)習(xí)研究或教學(xué)科研兩類合理使用情形的要求,實則卻缺少納入的解釋空間。原因在于,在兩類合理使用情形的主體限制性要件上,個人學(xué)習(xí)研究情形強(qiáng)調(diào)個人使用,適用主體僅限于自然人而不包括法人或其他組織。但人工智能開發(fā)的系統(tǒng)性和復(fù)雜性所導(dǎo)致的巨額成本,決定了其事實上無法由個人單獨(dú)完成。教學(xué)科研情形則強(qiáng)調(diào)適用于高校、科研院所等科研教育公共機(jī)構(gòu),無法涵蓋具有商業(yè)性質(zhì)的企業(yè)主體,這意味著作為人工智能開發(fā)重要力量的廣大企業(yè)被排除在外,顯然有悖于實際。[20]

    面對該問題,目前主要有兩條解決路徑可供選擇。一是經(jīng)過第三次修訂后的《著作權(quán)法》,在合理使用制度的立法模式上實現(xiàn)了由完全封閉向相對開放的轉(zhuǎn)變,第十三項“法律、行政法規(guī)規(guī)定的其他情形”的增設(shè),為將機(jī)器學(xué)習(xí)行為納入合理使用范疇提供了可能。在具體操作上,可借助《中華人民共和國著作權(quán)法實施條例》修訂的契機(jī),在其中增加關(guān)于機(jī)器學(xué)習(xí)使用作品的專門例外規(guī)定,從而完成與合理使用兜底條款的對接,使兜底條款由象征性的宣示意義轉(zhuǎn)化為真正具備司法適用上的實踐價值。[21]二是鑒于人工智能時代背景下機(jī)器學(xué)習(xí)的重要創(chuàng)新價值與社會意義,可考慮通過修訂《著作權(quán)法》的方式,專門增設(shè)機(jī)器學(xué)習(xí)合理使用法定情形,從而為人工智能的發(fā)展提供更加完善的制度保障。從機(jī)器學(xué)習(xí)日益成為當(dāng)今信息生產(chǎn)過程中的基礎(chǔ)性技術(shù)手段這一發(fā)展趨勢來看,將其納入合理使用范圍確有必要。但需要明確的是,無論作何選擇,機(jī)器學(xué)習(xí)行為最終能否適用著作權(quán)合理使用規(guī)則,均以其是否通過“三步檢驗法”后續(xù)兩個步驟的考察為前提。

    (2)關(guān)于“三步檢驗法”中的后兩步,對兩個“不得”要件,世貿(mào)組織裁決委員會在其作出的權(quán)威解釋中,采用經(jīng)濟(jì)意義上的分析路徑對二者分別進(jìn)行了闡述。①所謂“不得影響原作品的正常使用”,是指對于原作品的利用不得與著作權(quán)人通過行使法定權(quán)利以獲取經(jīng)濟(jì)利益的市場行為相抵觸。為確保原作品著作權(quán)人行使法定權(quán)利所獲取的經(jīng)濟(jì)利益能夠穩(wěn)定地歸于其自身,對于原作品的利用不得與原作品著作權(quán)在市場上形成競爭乃至替代關(guān)系。[22]為了防止因合理使用制度的適用范圍變得過寬而損害著作權(quán)人的經(jīng)濟(jì)利益,造成著作權(quán)法對作品創(chuàng)作的激勵功能被削弱,應(yīng)當(dāng)統(tǒng)籌考慮原作品著作權(quán)在市場上的既有利益和預(yù)期收益兩個方面。此外,考慮到技術(shù)發(fā)展對于作品使用方式的影響與改變,這里的正常使用在范圍上也不能一成不變,既要包括當(dāng)下已有的傳統(tǒng)使用方式,也要涵蓋未來可能的潛在使用方式。所謂“不得不合理地?fù)p害原作品著作權(quán)人的合法權(quán)益”,是指在不違背利益平衡精神的前提下,允許對原作品的利用行為在一定合理范圍內(nèi)可以對原作品著作權(quán)人的經(jīng)濟(jì)利益造成適當(dāng)減損。該要件的存在事實上起到了一定的緩和作用,意在確保原作品著作權(quán)人的經(jīng)濟(jì)利益不會遭受過度損害的同時,盡可能地將合理范圍內(nèi)的作品利用行為納入其中,從而化解著作權(quán)人與使用者之間的矛盾,以及避免造成合理使用制度的適用范圍被不當(dāng)限縮。[23]關(guān)于作品使用行為對著作權(quán)人造成的利益損害是否合理的問題,可以借助比例原則進(jìn)行判斷,具體包括四個方面:一是目的正當(dāng)性,即所實施的行為應(yīng)具有正當(dāng)目的;二是手段適當(dāng)性,即所采取的限制性手段應(yīng)能夠促成目的的實現(xiàn);三是手段必要性,即所采取的限制性手段應(yīng)是所有手段中造成損害負(fù)擔(dān)最小的一種;四是損益相稱性,即實施行為所獲得的收益與造成的損害之間應(yīng)保持均衡。[24]

    遵循上述思路,在經(jīng)濟(jì)分析視角下,對于機(jī)器學(xué)習(xí)行為是否滿足“三步檢驗法”中兩個“不得”要件的考察,有必要依據(jù)是否具有商業(yè)性目的的經(jīng)濟(jì)標(biāo)準(zhǔn)進(jìn)行分類判斷。首先,關(guān)于第二步“不得影響原作品的正常使用”,由于非商業(yè)性目的的機(jī)器學(xué)習(xí)主要應(yīng)用于科學(xué)研究、社會治理等公共事業(yè)領(lǐng)域,因此并不會阻礙著作權(quán)人行使專有權(quán)利,即通過作品進(jìn)行獲利,也不會與原作品在著作權(quán)市場中形成競爭或替代關(guān)系。而商業(yè)性目的的機(jī)器學(xué)習(xí),則出于逐利動機(jī)應(yīng)用于各種形式的營利活動中,所產(chǎn)生的獨(dú)立著作權(quán)市場利益將擠占原作品既有的著作權(quán)市場利益,與后者形成競爭或替代關(guān)系。另外還要看到,將作品作為學(xué)習(xí)資料進(jìn)行算法訓(xùn)練雖然不是傳統(tǒng)的作品使用方式,但當(dāng)下迅猛發(fā)展的人工智能技術(shù)使其注定成為未來不可或缺的一種重要的作品使用方式,這也為著作權(quán)人開拓潛在的著作權(quán)市場提供了新的空間。[25]因此,無論是基于對當(dāng)前還是對未來的考量,商業(yè)性目的的機(jī)器學(xué)習(xí)都會影響著作權(quán)人對作品的正常使用。

    其次,關(guān)于第三步“不得不合理地?fù)p害原作品著作權(quán)人的合法權(quán)益”,按照比例原則的分析進(jìn)路,一是在使用目的的正當(dāng)性上,非商業(yè)性目的的機(jī)器學(xué)習(xí)往往立足于增進(jìn)社會福祉之理念,廣泛應(yīng)用于社會治理等公共事業(yè)方面,其公益目的具有明顯的正當(dāng)性。而商業(yè)性目的的機(jī)器學(xué)習(xí)則以追求私人利益和市場競爭優(yōu)勢為目的,其損害原作品著作權(quán)人合法利益的行為難謂正當(dāng)。二是在目的實現(xiàn)手段的適當(dāng)性上,根據(jù)市場失靈理論,當(dāng)著作權(quán)人與使用者為達(dá)成交易所付出的成本顯著高于該筆交易所能帶來的收益時,便無法依賴市場機(jī)制促成自愿交易。[26]為維護(hù)知識產(chǎn)品市場的運(yùn)行秩序以促進(jìn)作品傳播,著作權(quán)法通過設(shè)置合理使用制度對市場交易障礙進(jìn)行糾正,從而保證那些必要的或有益于社會的作品使用行為不至于因高昂的交易成本無法實施。[27]非商業(yè)性目的的機(jī)器學(xué)習(xí)可應(yīng)用于公共事業(yè)領(lǐng)域以推動社會福利增加,其非營利特性使得著作權(quán)人往往因無法獲取相匹配的收益而選擇拒絕交易,繼而導(dǎo)致交易成本不斷攀升并形成交易壁壘,最終出現(xiàn)市場失靈。為使有益于社會的作品使用行為不因交易成本過高而無法實施,通過限制著作權(quán)人的復(fù)制權(quán)等部分專有權(quán)利,將非商業(yè)性目的的機(jī)器學(xué)習(xí)納入合理使用的做法應(yīng)被看作是適當(dāng)?shù)摹5蜕虡I(yè)性目的的機(jī)器學(xué)習(xí)而言,其營利特性的存在使之不具備納入合理使用的適當(dāng)性。三是在手段之于目的的必要性上,并非要絕對化地將所有類型的機(jī)器學(xué)習(xí)行為都納入合理使用范疇,而是在對機(jī)器學(xué)習(xí)行為進(jìn)行類型化區(qū)分的基礎(chǔ)上,僅考慮在特定情形下(即僅限于非商業(yè)性目的的表達(dá)型機(jī)器學(xué)習(xí))適用合理使用規(guī)則,從而讓著作權(quán)人盡可能承受最小權(quán)利限制和利益負(fù)擔(dān),同時,也與合理使用制度內(nèi)含非商業(yè)性使用要件的理念相契合。[28]四是在造成損害與獲得收益的相稱性上,從公益和私益的價值位階對比來看,非商業(yè)性目的的機(jī)器學(xué)習(xí)在帶來科技創(chuàng)新進(jìn)步與社會福利增加的同時,并未過多擠占著作權(quán)人利用作品獲得收益的市場空間,對著作權(quán)人造成的較小利益減損是成比例、可接受而非不計代價的,故符合相稱性要求。而商業(yè)性目的的機(jī)器學(xué)習(xí),在追求私人利益的同時雖然也可能在一定程度上起到了促進(jìn)創(chuàng)新的附帶性作用,但與其對著作權(quán)人造成的市場替代和利益損害規(guī)模相比,兩者之間難以相稱。

    綜上,在按照經(jīng)濟(jì)分析思路對機(jī)器學(xué)習(xí)行為進(jìn)行類型化區(qū)分的基礎(chǔ)上,依照“三步檢驗法”標(biāo)準(zhǔn),非商業(yè)性目的的機(jī)器學(xué)習(xí)符合特定且特殊情形,既不與原作品的正常利用相抵觸,也不會不合理地?fù)p害原作品著作權(quán)人的合法權(quán)益,滿足合理使用規(guī)則的適用條件,有必要納入合理使用范疇以保障其創(chuàng)新價值的釋放。而商業(yè)性目的的機(jī)器學(xué)習(xí),由于其不符合“三步檢驗法”的要求,因此不是合理使用的情形。

    2. 非合理使用情形下機(jī)器學(xué)習(xí)的版權(quán)規(guī)則安排

    商業(yè)性目的的機(jī)器學(xué)習(xí)雖然無法滿足“三步檢驗法”標(biāo)準(zhǔn)而不適用合理使用的規(guī)則,但多元化的版權(quán)規(guī)則框架仍為其提供了實現(xiàn)合法化轉(zhuǎn)型的其他可行路徑。換言之,合理使用制度的適用缺位,反倒為著作權(quán)人與人工智能開發(fā)商就非合理使用情形下機(jī)器學(xué)習(xí)行為的版權(quán)規(guī)則安排,留下了進(jìn)一步探索和互動的合作空間。

    作為與合理使用相并列的一項著作權(quán)限制制度,法定許可同樣對著作權(quán)人之于作品的人身權(quán)利部分予以限制,準(zhǔn)許使用者在未經(jīng)著作權(quán)人許可的情況下以特定方式利用作品,從而為作品傳播使用活動提供便利。但不同于合理使用的是,一方面法定許可表現(xiàn)出了對帶有商業(yè)性目的的作品使用行為的接納。也正因如此,法定許可要求使用者應(yīng)當(dāng)向著作權(quán)人支付報酬以實現(xiàn)對后者財產(chǎn)權(quán)利的確認(rèn)和尊重。[29]另一方面法定許可還允許著作權(quán)人通過事先聲明的方式進(jìn)行權(quán)利保留,從而將作品排除在適用范疇之外。這種保留選擇空間的立法安排,實際上暗含了立法者對于著作權(quán)人與使用者可以就許可條件進(jìn)行協(xié)商約定的認(rèn)同。[30]相較于合理使用,法定許可在消除市場流轉(zhuǎn)障礙、提升作品使用效率的同時,也保證了著作權(quán)人利益的實現(xiàn),從而有效維持不同主體間的利益平衡。此外,法定許可的法律特征還表明,私人自治歷來都是一種最基礎(chǔ)最直接的糾紛化解渠道,具備適用上的優(yōu)先性,縱使是在相關(guān)法定規(guī)則的設(shè)置中也不可或缺。可見,在面對生成式人工智能機(jī)器學(xué)習(xí)所引發(fā)的著作權(quán)法糾紛時,除了寄希望于法定規(guī)則的完善,也應(yīng)重視私立規(guī)則的重要作用。對此,可考慮以法定許可作為制度藍(lán)本,構(gòu)建基于產(chǎn)業(yè)主體間私人自治的“準(zhǔn)法定許可”版權(quán)規(guī)則。

    以利益平衡原則為核心,基于產(chǎn)業(yè)主體私人合作的“準(zhǔn)法定許可”版權(quán)自治規(guī)則的構(gòu)建,主要由基礎(chǔ)性許可規(guī)則與附加性限制規(guī)則兩部分組成。首先,關(guān)于基礎(chǔ)性許可規(guī)則的安排可參照著作權(quán)法定許可制度的相關(guān)規(guī)定,即生成式人工智能開發(fā)商出于機(jī)器學(xué)習(xí)訓(xùn)練數(shù)據(jù)目的,可以在事先未獲得著作權(quán)人許可的情況下使用作品。如此一來,便保證了機(jī)器學(xué)習(xí)使用作品的穩(wěn)定性和持續(xù)性,使人工智能開發(fā)商追求技術(shù)進(jìn)步與產(chǎn)業(yè)發(fā)展的需求得到回應(yīng)。其次,關(guān)于附加性限制規(guī)則的設(shè)置,為使著作權(quán)人利益得以實現(xiàn),延續(xù)其在以往許可使用模式下獲取收益的目標(biāo),同時為尊重著作權(quán)人對作品的處置自由以及實現(xiàn)對人工智能開發(fā)商使用作品行為的監(jiān)管,有必要針對未經(jīng)許可的機(jī)器學(xué)習(xí)作品使用行為施加一定義務(wù)或限制,具體包括以下幾方面。

    (1)付酬義務(wù)。著作權(quán)制度旨在合理回報人類的智力勞動,私人自治版權(quán)規(guī)則的構(gòu)建亦如是。[31]遵循該設(shè)計目標(biāo),人工智能開發(fā)商未經(jīng)許可使用作品進(jìn)行機(jī)器學(xué)習(xí)的,應(yīng)當(dāng)向著作權(quán)人支付相應(yīng)報酬。對于報酬的標(biāo)準(zhǔn)確定及其給付,一是可以通過強(qiáng)化著作權(quán)集體管理組織在其中的作用,由其在廣泛征求著作權(quán)人意見并吸納部分著作權(quán)人直接參與的基礎(chǔ)上,會同人工智能開發(fā)商依據(jù)市場行情協(xié)商確定付酬標(biāo)準(zhǔn)并代為給付。[32]我國目前已經(jīng)形成了五大著作權(quán)集體管理組織,行業(yè)范圍覆蓋音樂、音像、文字等多個方面。著作權(quán)集體管理組織的介入,一方面能夠保障著作權(quán)人的談判地位和利益實現(xiàn),降低其交易風(fēng)險與監(jiān)督成本;另一方面也有利于減輕人工智能開發(fā)商的搜尋成本和協(xié)商成本,從而提升其所追求的作品使用效率。當(dāng)然,就當(dāng)下著作權(quán)集體管理組織的傳統(tǒng)運(yùn)行機(jī)制而言,為適應(yīng)人工智能時代的發(fā)展需要,有必要在內(nèi)部運(yùn)行透明度、許可費(fèi)用分配效率、協(xié)商促進(jìn)配套機(jī)制等方面做出相應(yīng)的調(diào)整與改進(jìn)。[33]二是考慮到如今網(wǎng)絡(luò)內(nèi)容平臺作為數(shù)字作品的主要生產(chǎn)聚集地,已經(jīng)事實上成為機(jī)器學(xué)習(xí)所需優(yōu)質(zhì)數(shù)據(jù)資源的重要來源。故人工智能開發(fā)商還可通過與內(nèi)容平臺建立合作,依托內(nèi)容平臺與著作權(quán)人之間的服務(wù)協(xié)議同著作權(quán)人達(dá)成合意,按照著作權(quán)集體管理組織確定的付酬標(biāo)準(zhǔn),在未經(jīng)許可但支付報酬的情況下使用作品。

    (2)披露義務(wù)。對于著作權(quán)人有關(guān)作品使用情況的知情權(quán)和監(jiān)督權(quán)的保障,是決定其是否進(jìn)一步主張權(quán)利保留或權(quán)利救濟(jì),以及確保人工智能開發(fā)商依法依約使用作品的重要基礎(chǔ),故有必要就機(jī)器學(xué)習(xí)的版權(quán)數(shù)據(jù)訓(xùn)練情況進(jìn)行公開披露。在具體要求上,可參考?xì)W盟《人工智能法案》關(guān)于人工智能模型訓(xùn)練的相關(guān)透明度義務(wù),要求未經(jīng)許可使用作品進(jìn)行機(jī)器學(xué)習(xí)的人工智能開發(fā)商,應(yīng)當(dāng)在實際使用前的一定合理期限內(nèi),對擬使用的作品名稱及其作者、擬使用的目的及方式、擬付酬標(biāo)準(zhǔn)等詳細(xì)情況進(jìn)行事先公告,以提升作品利用過程的透明性。[34]

    (3)作品使用限制。為保證著作權(quán)人的作品處置自由以及尊重私人主體之間的自治空間,當(dāng)著作權(quán)人作出權(quán)利保留的聲明,明確表示不得將作品用作機(jī)器學(xué)習(xí)時,人工智能開發(fā)商的作品使用行為就理應(yīng)受到限制。對于作品使用限制的具體設(shè)置,可借鑒谷歌數(shù)字圖書館計劃中的“選擇退出”(Opt-out)機(jī)制并將之分為兩類。①一是事先退出,即在前述披露公告期內(nèi)若著作權(quán)人表示不同意,人工智能開發(fā)商不得使用其作品進(jìn)行機(jī)器學(xué)習(xí)。二是事后退出,即在披露公告期限屆滿后人工智能開發(fā)商使用作品進(jìn)行機(jī)器學(xué)習(xí)但著作權(quán)人表示不同意,人工智能開發(fā)商應(yīng)當(dāng)立即將作品從數(shù)據(jù)庫中刪除,同時按照之前公告的付酬標(biāo)準(zhǔn)向著作權(quán)人支付使用作品期間的報酬。

    另外,在責(zé)任承擔(dān)與權(quán)利救濟(jì)上,若著作權(quán)人發(fā)現(xiàn)人工智能開發(fā)商未經(jīng)許可使用作品且未支付報酬,或是人工智能開發(fā)商未按照約定使用作品或支付報酬,可仿照“通知—刪除”規(guī)則下的處理程序,通知人工智能開發(fā)商立即將作品從數(shù)據(jù)庫中刪除并支付使用作品期間的報酬。人工智能開發(fā)商在接到通知后應(yīng)當(dāng)立即采取相應(yīng)措施,或是選擇與著作權(quán)人進(jìn)行協(xié)商達(dá)成合意,轉(zhuǎn)而進(jìn)入版權(quán)自治私立規(guī)則的適用范疇。若人工智能開發(fā)商未能及時采取措施或是與著作權(quán)人達(dá)成相關(guān)合意,則著作權(quán)人有權(quán)提起訴訟,通過與法定程序的銜接來實現(xiàn)對自身權(quán)利的救濟(jì)以及對人工智能開發(fā)商責(zé)任的追究。

    面對傳統(tǒng)授權(quán)使用模式的制度性失靈以及合理使用法定規(guī)則的適用性困難,基于產(chǎn)業(yè)主體間私人自治的“準(zhǔn)法定許可”版權(quán)規(guī)則,為非合理使用情形下的機(jī)器學(xué)習(xí)行為提供了實現(xiàn)合法化轉(zhuǎn)型的可行路徑。在具體設(shè)計上,“準(zhǔn)法定許可”版權(quán)規(guī)則以維持利益平衡為核心理念,集法定許可制度權(quán)利限制之“剛”與私人自治機(jī)制靈活適用之“柔”于一身。通過貫徹“促進(jìn)加限制”的二元價值取向,既保證了機(jī)器學(xué)習(xí)技術(shù)發(fā)展對于作品使用效率的追求,又回應(yīng)了著作權(quán)人為了獲得創(chuàng)作激勵而對作品許可利益的關(guān)切,從而有效彌合人工智能開發(fā)商與著作權(quán)人關(guān)于非合理使用情形下機(jī)器學(xué)習(xí)行為的著作權(quán)法爭議。

    結(jié)語

    生成式人工智能的快速勃興,正引領(lǐng)著一場有關(guān)信息生產(chǎn)和知識創(chuàng)造的技術(shù)革命,在進(jìn)一步解放人類精神生產(chǎn)力的同時,也打破了以往作品利用模式下的產(chǎn)業(yè)利益互動格局,引發(fā)有關(guān)機(jī)器學(xué)習(xí)使用作品的著作權(quán)法爭議,沖擊與重塑著傳統(tǒng)著作權(quán)制度的底層邏輯。我國于2023年7月出臺的《生成式人工智能服務(wù)管理暫行辦法》中明確強(qiáng)調(diào),生成式人工智能模型訓(xùn)練應(yīng)以對知識產(chǎn)權(quán)的尊重為前提。

    生成式人工智能機(jī)器學(xué)習(xí)的著作權(quán)問題兼具技術(shù)和制度兩個面向,一方面技術(shù)的發(fā)展需要法律制度不斷作出調(diào)整以涵蓋出現(xiàn)的新問題,另一方面法律制度的協(xié)調(diào)又能夠反過來推動技術(shù)進(jìn)一步發(fā)展。關(guān)于生成式人工智能機(jī)器學(xué)習(xí)的著作權(quán)法爭議,其本質(zhì)是傳統(tǒng)版權(quán)產(chǎn)業(yè)與新興人工智能產(chǎn)業(yè)之間的利益分配分歧。解決問題的正確思路是始終秉持實現(xiàn)產(chǎn)業(yè)主體間利益平衡的基本理念,結(jié)合生成式人工智能機(jī)器學(xué)習(xí)的技術(shù)特征以及著作權(quán)相關(guān)法規(guī)制度的適用邏輯,在遵循階梯式分析進(jìn)路的基礎(chǔ)上,對機(jī)器學(xué)習(xí)作品使用行為的不同情形作出關(guān)于著作權(quán)合法性的準(zhǔn)確判定,據(jù)此分別設(shè)置合理版權(quán)規(guī)則,采取相應(yīng)的規(guī)制舉措。唯有如此,方能在有效緩和產(chǎn)業(yè)主體利益沖突的基礎(chǔ)上,實現(xiàn)技術(shù)發(fā)展與權(quán)利保障之間的共贏。

    參考文獻(xiàn):

    [1] Authors Guild. More Than 15000 Authors Sign Authors Guild Letter Calling On AI Industry Leaders to Protect Writers[EB/OL].[2023-07-18].https://authorsguild.org/news/thousands-sign-authors-guild-letter-calling-on-ai-industry-leaders-to-protect-writers/.

    [2] David Meyer. Google Becomes the First AI Company To Be Fined Over Training Data[EB/OL].[2024-03-20].https://fortune.com/2024/03/20/google-250-million-euro-fine-france-news-publishers-ai-bard-gemini-training-data/.

    [3] 劉少軍,聶琳峰. 數(shù)字藏品版權(quán)的功能、困境與治理[J]. 北京聯(lián)合大學(xué)學(xué)報(人文社會科學(xué)版),2023(1):51-61.

    [4] David Collingridge. The Social Control of Technology[M]. New York:Palgrave Macmillan Press,1980: 11.

    [5] 吳漢東. 人工智能生成作品的著作權(quán)法之問[J]. 中外法學(xué),2020(3):653-673.

    [6] Matthew Sag. The New Legal Landscape for Text Mining and Machine Learning[J]. Journal of the Copyright Society of the USA, 2019(2): 346-365.

    [7] 劉友華,魏遠(yuǎn)山. 機(jī)器學(xué)習(xí)的著作權(quán)侵權(quán)問題及其解決[J]. 華東政法大學(xué)學(xué)報,2019(2):68-79.

    [8] 馬忠法,肖宇露. 論人工智能學(xué)習(xí)創(chuàng)作的合理使用[J]. 山東科技大學(xué)學(xué)報(社會科學(xué)版),2020(5):32-38,47.

    [9] 劉曉春. 生成式人工智能數(shù)據(jù)訓(xùn)練中的“非作品性使用”及其合法性證成[J]. 法學(xué)論壇,2024(3):67-78.

    [10] World Bank Group. Publication: Generative Artificial Intelligence[EB/OL].[2023-07-07].https://openknowledge.worldbank.org/entities/publication/4f623641-ba34-4f0d-9a7d-105f02a5ee00.

    [11] 魏遠(yuǎn)山. 生成式人工智能訓(xùn)練數(shù)據(jù)的著作權(quán)法因應(yīng):確需設(shè)置

    合理使用規(guī)則嗎?[J/OL].圖書情報知識,1-11[2024-10-23].http://kns.cnki.net/kcms/detail/42.1085.G2.20240515.1112.002.html.

    [12] Abraham Drassinower. What's Wrong with Copying?[M].Cambridge: Harvard Universitr2P0cOEguBNIiP+YujRMkg==y Press, 2015: 87-88.

    [13] 李安. 機(jī)器學(xué)習(xí)作品的著作權(quán)法分析——非作品性使用、合理使用與侵權(quán)使用[J]. 電子知識產(chǎn)權(quán),2020(6):60-70.

    [14] Edward Lee. Technological Fair Use[J]. Southern California Law Review, 2010(4): 797-874.

    [15] Benjamin Sobel. Artificial Intelligence's Fair Use Crisis[J]. Columbia Journal of Law & the Arts, 2017(41): 45-98.

    [16] 徐小奔,楊依楠. 論人工智能深度學(xué)習(xí)中著作權(quán)的合理使用[J]. 交大法學(xué),2019(3):32-42.

    [17] Shlomit Yanisky-Ravid. Generating Rembrandt: Artificial Intelligence, Copyright, and Accountability in the 3A Era: The Human-like Authors Are Already Here: A New Model[J].Michigan State Law Review, 2017(4):659-726.

    [18] 吳漢東. 著作權(quán)合理使用制度研究(第四版)[M]. 北京:中國人民大學(xué)出版社,2020:200.

    [19] 張陳果. 解讀“三步檢驗法”與“合理使用”——《著作權(quán)法(修訂送審稿)》第43條研究[J]. 環(huán)球法律評論,2016(5):5-24.

    [20] 張金平. 人工智能作品合理使用困境及其解決[J]. 環(huán)球法律評論,2019(3):120-132.

    [21] 萬勇.人工智能時代著作權(quán)法合理使用制度的困境與出路[J]. 社會科學(xué)輯刊,2021(5):93-102.

    [22] 熊琦.“視頻搬運(yùn)”現(xiàn)象的著作權(quán)法應(yīng)對[J]. 知識產(chǎn)權(quán),2021(7):39-49.

    [23] 熊琦. 著作權(quán)合理使用司法認(rèn)定標(biāo)準(zhǔn)釋疑[J]. 法學(xué),2018(1):182-192.

    [24] 張翔. 刑法體系的合憲性調(diào)控——以“李斯特鴻溝”為視角[J]. 法學(xué)研究,2016(4):41-60.

    [25] 李安. 機(jī)器學(xué)習(xí)的版權(quán)規(guī)則:歷史啟示與當(dāng)代方案[J]. 環(huán)球法律評論,2023(6):97-113.

    [26] Wendy J Gordon. Fair Use as Market Failure: A Structural and Economic Analysis of the Betamax Case and Its Predecessors[J].Columbia Law Review, 1982(8): 1600-1657.

    [27] 劉禹. 機(jī)器利用數(shù)據(jù)行為構(gòu)成著作權(quán)合理使用的經(jīng)濟(jì)分析[J]. 知識產(chǎn)權(quán),2024(3):107-126.

    [28] 馮曉青,胡夢云. 合理使用視野下“私人復(fù)制”著作權(quán)問題研究[J]. 南都學(xué)壇,2011(6):78-86.

    [29] 馮曉青. 知識產(chǎn)權(quán)法前沿問題研究[M]. 北京:中國政法大學(xué)出版社,2023:390.

    [30] 熊琦. 著作權(quán)法定許可制度溯源與移植反思[J]. 法學(xué),2015(5):72-81.

    [31] 司曉. 奇點(diǎn)來臨:ChatGPT時代的著作權(quán)法走向何處——兼回應(yīng)相關(guān)論點(diǎn)[J]. 探索與爭鳴,2023(5):79-86,178-179.

    [32] 張平. 人工智能生成內(nèi)容著作權(quán)合法性的制度難題及其解決路徑[J]. 法律科學(xué)(西北政法大學(xué)學(xué)報),2024(3):18-31.

    [33] 張惠彬,王懷賓. 版權(quán)優(yōu)先還是技術(shù)優(yōu)先?——法國應(yīng)對AIGC版權(quán)風(fēng)險的趨勢及啟示[J]. 編輯之友,2024(5):103-112.

    [34] 高雅文,來小鵬. 生成式人工智能語料版權(quán)問題研究[J]. 出版廣角,2024(5):27-34.

    The Copyright Dilemma and Institutional Responses of Generative Artificial Intelligence Machine Learning

    WU Jia-xu, LAI Xiao-peng(Civil, Commercial and Economic Law School, China University of Political Science and Law, Beijing 100088, China)

    Abstract: The copyright law dispute caused by generative artificial intelligence machine learning is essentially a dispute over the distribution of interests between the traditional copyright industry and the emerging artificial intelligence industry. The technical characteristics of machine learning behavior typification and the applicable logic of fair use of institutional steps determine that the problem should be handled in a step-by-step approach based on proper classification. Machine learning can be divided into two categories in the qualitative problem of pre-existing behavior: non-expressive and expressive. The former belongs to non-derivative use without infringement liability; The latter falls under the exclusive control of copyright due to its belonging to derivative use, and there is a distinction between infringing use and fair use. In the subsequent rule setting issue, based on the perspective of economic analysis, non-commercial machine learning meets the "three-step test" criteria to constitute fair use. Although machine learning for commercial purposes doesn’t meet the requirements of fair use, it can still achieve legal transformation through the construction of private autonomy copyright rules among industry entities.

    Key words: generative artificial intelligence; machine learning; derivative use; fair use; statutory license

    (責(zé)任編輯:張君)

    基金項目:科技部國家重點(diǎn)研究計劃項目“知識產(chǎn)權(quán)司法保護(hù)與跨部門協(xié)同服務(wù)關(guān)鍵技術(shù)研究”(2022YFC3303000);北京市法學(xué)會2023年市級法學(xué)研究課題“算法安全綜合治理體系建構(gòu)研究”(BLS2023B010)

    作者信息:吳家煦(1997— ),男,福建三明人,中國政法大學(xué)民商經(jīng)濟(jì)法學(xué)院博士研究生,主要研究方向:知識產(chǎn)權(quán)法、數(shù)據(jù)法;來小鵬(1960— ),男,陜西西安人,中國政法大學(xué)民商經(jīng)濟(jì)法學(xué)院教授、博士生導(dǎo)師,主要研究方向:知識產(chǎn)權(quán)法、數(shù)據(jù)法。

    ① “涌現(xiàn)能力”是指當(dāng)人工智能模型訓(xùn)練參數(shù)達(dá)到一定量級后,定量上的變化導(dǎo)致行為發(fā)生質(zhì)變,其性能表現(xiàn)產(chǎn)生無法解釋的顯著提升,致使其突然具備語言理解、邏輯推理、生成創(chuàng)造等方面的強(qiáng)大能力。

    ① 參見廣州互聯(lián)網(wǎng)法院(2024)粵0192民初113號民事判決書。

    ① 《伯爾尼公約》第九條第二款規(guī)定:“本聯(lián)盟成員國法律有權(quán)允許在某些特殊情況下復(fù)制上述作品,只要這種復(fù)制不致?lián)p害作品的正常使用也不致無故危害作者的合法利益。”

    ① 參見Report of the WTO Panel, United States-Section 110(5) of the US Copyright Act, WT/DS160/R(June 15, 2000)。

    ① 參見Field v. Google Inc. 412 F. Supp. 2d 1116 (D. Nev. 2006)。

    人体艺术视频欧美日本| 少妇的逼好多水| kizo精华| 中文字幕制服av| 99久国产av精品国产电影| 18禁在线播放成人免费| 国产精品一及| 中文天堂在线官网| 精品久久久久久成人av| 性色avwww在线观看| 97在线视频观看| 伦精品一区二区三区| 久久人人爽人人片av| 超碰av人人做人人爽久久| 看非洲黑人一级黄片| 国产高潮美女av| 国产成人午夜福利电影在线观看| 青春草国产在线视频| 天天躁日日操中文字幕| 美女黄网站色视频| 成年女人看的毛片在线观看| 久久99热6这里只有精品| 一个人免费在线观看电影| 日本-黄色视频高清免费观看| 少妇的逼水好多| 欧美极品一区二区三区四区| 一区二区三区免费毛片| 有码 亚洲区| 91av网一区二区| av在线蜜桃| 18+在线观看网站| 欧美成人午夜免费资源| 亚洲欧美一区二区三区国产| 久久久成人免费电影| 成人毛片60女人毛片免费| 精品久久久久久久人妻蜜臀av| 99热6这里只有精品| 一级毛片电影观看 | 亚洲av男天堂| 免费看光身美女| 又黄又爽又刺激的免费视频.| 少妇熟女欧美另类| 国产成人免费观看mmmm| 少妇熟女aⅴ在线视频| 亚洲人成网站高清观看| 久久久久网色| 国产视频首页在线观看| 在线观看一区二区三区| 亚洲av日韩在线播放| 97超碰精品成人国产| 五月玫瑰六月丁香| 两个人的视频大全免费| 免费一级毛片在线播放高清视频| 三级毛片av免费| 观看美女的网站| 床上黄色一级片| 九九久久精品国产亚洲av麻豆| 内射极品少妇av片p| 九九爱精品视频在线观看| 亚洲欧美一区二区三区国产| 色吧在线观看| 国产亚洲5aaaaa淫片| 波野结衣二区三区在线| 国产午夜精品一二区理论片| 国产综合懂色| 免费在线观看成人毛片| 男人和女人高潮做爰伦理| 综合色丁香网| 国产欧美另类精品又又久久亚洲欧美| 亚洲精品自拍成人| 欧美日韩综合久久久久久| 久热久热在线精品观看| 能在线免费观看的黄片| 一个人观看的视频www高清免费观看| 久久久精品欧美日韩精品| 亚洲精品久久久久久婷婷小说 | 亚洲av电影不卡..在线观看| 欧美色视频一区免费| 一夜夜www| 国产亚洲午夜精品一区二区久久 | 在线a可以看的网站| av专区在线播放| 最近最新中文字幕大全电影3| 亚洲国产色片| 亚洲综合精品二区| 国产精品女同一区二区软件| 免费观看a级毛片全部| 国产亚洲5aaaaa淫片| 欧美日本视频| 成人一区二区视频在线观看| 国产av一区在线观看免费| 亚洲人成网站在线播| 麻豆av噜噜一区二区三区| 日本欧美国产在线视频| 欧美zozozo另类| 最近视频中文字幕2019在线8| 久久久久久久午夜电影| 亚洲精品乱码久久久久久按摩| 国产成人精品久久久久久| 欧美日韩国产亚洲二区| 日韩一区二区视频免费看| 别揉我奶头 嗯啊视频| 久久精品国产99精品国产亚洲性色| 成人性生交大片免费视频hd| 一个人免费在线观看电影| 青春草亚洲视频在线观看| 天堂√8在线中文| 丰满人妻一区二区三区视频av| 国产伦精品一区二区三区视频9| 国内少妇人妻偷人精品xxx网站| 国产午夜福利久久久久久| 人妻制服诱惑在线中文字幕| 国产成人午夜福利电影在线观看| 免费观看精品视频网站| 蜜桃久久精品国产亚洲av| 乱系列少妇在线播放| 午夜精品在线福利| 日韩高清综合在线| 一二三四中文在线观看免费高清| 听说在线观看完整版免费高清| 亚州av有码| 午夜福利高清视频| 亚洲电影在线观看av| 免费无遮挡裸体视频| 久久亚洲国产成人精品v| 国产又黄又爽又无遮挡在线| 麻豆av噜噜一区二区三区| 亚洲欧美一区二区三区国产| 午夜免费激情av| 色播亚洲综合网| av在线天堂中文字幕| 国产亚洲午夜精品一区二区久久 | 日韩欧美 国产精品| 日韩一区二区视频免费看| 又黄又爽又刺激的免费视频.| 床上黄色一级片| 久久久久精品久久久久真实原创| 日本免费一区二区三区高清不卡| 高清视频免费观看一区二区 | 在线观看一区二区三区| 国产精品综合久久久久久久免费| 欧美日韩综合久久久久久| 欧美人与善性xxx| 久久久欧美国产精品| 国产又黄又爽又无遮挡在线| 亚洲美女搞黄在线观看| 国产老妇伦熟女老妇高清| 美女cb高潮喷水在线观看| 国产亚洲av嫩草精品影院| 欧美成人a在线观看| 欧美成人a在线观看| 国产亚洲最大av| 久久久久久国产a免费观看| 亚洲国产欧洲综合997久久,| 99久久中文字幕三级久久日本| 少妇丰满av| 欧美日韩精品成人综合77777| 村上凉子中文字幕在线| 神马国产精品三级电影在线观看| 高清视频免费观看一区二区 | 亚洲aⅴ乱码一区二区在线播放| 国产亚洲最大av| 久久人人爽人人爽人人片va| 色哟哟·www| 国产一区二区在线av高清观看| 国产高清视频在线观看网站| 久久精品国产自在天天线| 亚洲av中文av极速乱| 国产午夜精品久久久久久一区二区三区| 欧美日韩在线观看h| 亚洲乱码一区二区免费版| eeuss影院久久| 国产不卡一卡二| 亚洲激情五月婷婷啪啪| 边亲边吃奶的免费视频| 国产乱人视频| 在线观看av片永久免费下载| 日本免费一区二区三区高清不卡| 午夜福利在线观看免费完整高清在| 身体一侧抽搐| 国产免费福利视频在线观看| 国产高潮美女av| 亚洲精品久久久久久婷婷小说 | av在线亚洲专区| 精品久久久久久成人av| 极品教师在线视频| 91精品国产九色| 特大巨黑吊av在线直播| 一级av片app| 成年免费大片在线观看| 在线免费观看不下载黄p国产| 久久久国产成人免费| 国产人妻一区二区三区在| 在线免费十八禁| 熟女人妻精品中文字幕| 午夜福利在线观看吧| 春色校园在线视频观看| 一本久久精品| 亚洲av免费高清在线观看| 人妻少妇偷人精品九色| 久久精品夜色国产| 免费黄色在线免费观看| 国产精品三级大全| 国产一区二区亚洲精品在线观看| 日本午夜av视频| 亚洲精品乱码久久久久久按摩| av在线观看视频网站免费| 91精品一卡2卡3卡4卡| 免费av观看视频| 欧美+日韩+精品| 国产黄片美女视频| 国产乱人视频| 国产男人的电影天堂91| 狠狠狠狠99中文字幕| 狂野欧美白嫩少妇大欣赏| 观看免费一级毛片| .国产精品久久| 少妇人妻一区二区三区视频| 一边亲一边摸免费视频| 欧美激情在线99| 久久精品久久久久久久性| 观看免费一级毛片| 精品国产露脸久久av麻豆 | 一卡2卡三卡四卡精品乱码亚洲| 99热精品在线国产| 波野结衣二区三区在线| av在线观看视频网站免费| 国产欧美另类精品又又久久亚洲欧美| 国产成人a∨麻豆精品| 欧美一区二区精品小视频在线| 搡女人真爽免费视频火全软件| 日韩成人av中文字幕在线观看| 国产黄色视频一区二区在线观看 | 丝袜美腿在线中文| 精品久久久久久久久av| 超碰av人人做人人爽久久| 成人午夜高清在线视频| 欧美xxxx黑人xx丫x性爽| 深爱激情五月婷婷| 综合色丁香网| 国产免费视频播放在线视频 | 看免费成人av毛片| 成人高潮视频无遮挡免费网站| 国产黄片美女视频| 永久免费av网站大全| av播播在线观看一区| 色综合亚洲欧美另类图片| 国产欧美另类精品又又久久亚洲欧美| 久久久久久大精品| 69人妻影院| 国产在视频线精品| 亚洲人与动物交配视频| 在线免费观看不下载黄p国产| 99热全是精品| 亚洲av熟女| 岛国在线免费视频观看| 久久午夜福利片| 亚洲最大成人av| 成年女人永久免费观看视频| 日本五十路高清| 少妇丰满av| 日韩大片免费观看网站 | 日本黄色视频三级网站网址| 欧美区成人在线视频| 精品熟女少妇av免费看| 亚洲真实伦在线观看| 日本色播在线视频| 婷婷色综合大香蕉| 日日撸夜夜添| 国产精品日韩av在线免费观看| 我要看日韩黄色一级片| 美女xxoo啪啪120秒动态图| 丝袜美腿在线中文| 高清av免费在线| 99在线人妻在线中文字幕| 一级二级三级毛片免费看| av卡一久久| 久久久国产成人免费| 国产片特级美女逼逼视频| 国产精品熟女久久久久浪| 国产精品嫩草影院av在线观看| 色视频www国产| 99久国产av精品| 国产 一区 欧美 日韩| a级毛色黄片| av卡一久久| 精品欧美国产一区二区三| 中文字幕精品亚洲无线码一区| 一级av片app| 亚洲精品乱码久久久v下载方式| 国产探花在线观看一区二区| 日韩欧美在线乱码| 亚洲成av人片在线播放无| 最近中文字幕2019免费版| 国产精品综合久久久久久久免费| 自拍偷自拍亚洲精品老妇| 免费电影在线观看免费观看| 亚洲av成人av| 一级毛片久久久久久久久女| 亚洲精品影视一区二区三区av| 99久久精品国产国产毛片| 成年免费大片在线观看| 亚洲av电影不卡..在线观看| videos熟女内射| 久久亚洲国产成人精品v| 久久久久国产网址| 精品国产露脸久久av麻豆 | 两性午夜刺激爽爽歪歪视频在线观看| 日韩国内少妇激情av| 国语自产精品视频在线第100页| 亚洲电影在线观看av| 国产免费一级a男人的天堂| 久久精品人妻少妇| 我要看日韩黄色一级片| 国产精品女同一区二区软件| 成人二区视频| 亚洲,欧美,日韩| 国产午夜精品久久久久久一区二区三区| 两个人视频免费观看高清| 欧美成人免费av一区二区三区| 九九在线视频观看精品| 色综合站精品国产| 如何舔出高潮| 久久久久国产网址| 国内揄拍国产精品人妻在线| 99久久无色码亚洲精品果冻| 蜜桃亚洲精品一区二区三区| 免费看光身美女| 国内揄拍国产精品人妻在线| 少妇猛男粗大的猛烈进出视频 | 特大巨黑吊av在线直播| 寂寞人妻少妇视频99o| 久久久精品欧美日韩精品| 精品久久久久久久久久久久久| 日韩人妻高清精品专区| 国产成人a∨麻豆精品| 麻豆一二三区av精品| 亚洲综合色惰| 又爽又黄无遮挡网站| 国产精品一区二区性色av| 校园人妻丝袜中文字幕| av在线老鸭窝| 精品人妻视频免费看| 99在线视频只有这里精品首页| 国产成人精品一,二区| 国产免费一级a男人的天堂| 国产一区二区在线av高清观看| 卡戴珊不雅视频在线播放| 久久久久久久午夜电影| 91久久精品电影网| 亚洲图色成人| 搡老妇女老女人老熟妇| 五月伊人婷婷丁香| 久久久亚洲精品成人影院| 97超视频在线观看视频| 一本一本综合久久| 亚洲av成人精品一区久久| 天天躁夜夜躁狠狠久久av| 午夜亚洲福利在线播放| 久久久久久久久久久丰满| 最近中文字幕2019免费版| 国产一区亚洲一区在线观看| 亚洲国产色片| 免费av观看视频| 国产精品无大码| 99国产精品一区二区蜜桃av| 久久精品夜色国产| 一级爰片在线观看| 日韩av在线免费看完整版不卡| 午夜亚洲福利在线播放| 在线播放国产精品三级| 国产精品1区2区在线观看.| 天堂√8在线中文| 秋霞在线观看毛片| 欧美激情国产日韩精品一区| 日本色播在线视频| 亚洲欧美清纯卡通| 99久久精品一区二区三区| 亚洲国产精品sss在线观看| 好男人视频免费观看在线| 少妇的逼水好多| 黄片wwwwww| 国产精华一区二区三区| 欧美潮喷喷水| 日韩中字成人| 国产精华一区二区三区| 日日摸夜夜添夜夜添av毛片| 国产精品无大码| 丰满少妇做爰视频| 国产探花在线观看一区二区| 五月伊人婷婷丁香| 99在线视频只有这里精品首页| 不卡视频在线观看欧美| 成人国产麻豆网| 久久久色成人| 欧美日韩国产亚洲二区| 亚洲怡红院男人天堂| 熟女人妻精品中文字幕| 熟妇人妻久久中文字幕3abv| 热99在线观看视频| 能在线免费看毛片的网站| 午夜免费男女啪啪视频观看| 97人妻精品一区二区三区麻豆| 毛片一级片免费看久久久久| 中文字幕人妻熟人妻熟丝袜美| 边亲边吃奶的免费视频| 中文字幕熟女人妻在线| 亚洲不卡免费看| av在线蜜桃| 69人妻影院| 啦啦啦观看免费观看视频高清| 日本免费一区二区三区高清不卡| 一区二区三区四区激情视频| 国产91av在线免费观看| 欧美一区二区精品小视频在线| 日本av手机在线免费观看| 午夜久久久久精精品| 欧美又色又爽又黄视频| 国模一区二区三区四区视频| 欧美变态另类bdsm刘玥| 亚洲美女视频黄频| 久久精品夜色国产| 国产精品.久久久| av又黄又爽大尺度在线免费看 | 亚洲av中文字字幕乱码综合| 国产亚洲5aaaaa淫片| 91在线精品国自产拍蜜月| 十八禁国产超污无遮挡网站| 国产真实伦视频高清在线观看| 精品一区二区三区视频在线| 伦理电影大哥的女人| 一级毛片电影观看 | 人妻制服诱惑在线中文字幕| 国产成人福利小说| 直男gayav资源| 久久热精品热| 亚洲五月天丁香| 国产成人一区二区在线| 久久久久久久久大av| 国产视频内射| 三级国产精品欧美在线观看| 久久精品久久精品一区二区三区| 99热精品在线国产| 村上凉子中文字幕在线| 国产老妇伦熟女老妇高清| 久久鲁丝午夜福利片| 变态另类丝袜制服| 99久久人妻综合| 91aial.com中文字幕在线观看| 亚洲最大成人手机在线| 日本熟妇午夜| 国国产精品蜜臀av免费| 亚洲国产精品国产精品| 又粗又爽又猛毛片免费看| 亚洲精品一区蜜桃| ponron亚洲| 欧美激情在线99| 国产又色又爽无遮挡免| 免费av毛片视频| 嘟嘟电影网在线观看| 91午夜精品亚洲一区二区三区| 91久久精品国产一区二区成人| 亚洲人成网站在线观看播放| 亚洲av.av天堂| 嘟嘟电影网在线观看| 久久热精品热| 亚洲欧美清纯卡通| 色5月婷婷丁香| 色综合站精品国产| 久久久久久久亚洲中文字幕| 最新中文字幕久久久久| 中文字幕精品亚洲无线码一区| 欧美三级亚洲精品| 在线观看美女被高潮喷水网站| 精品国内亚洲2022精品成人| 菩萨蛮人人尽说江南好唐韦庄 | 内射极品少妇av片p| 国国产精品蜜臀av免费| 在线播放国产精品三级| 国产不卡一卡二| 91精品国产九色| 久久久午夜欧美精品| 亚洲国产最新在线播放| 黄色配什么色好看| 淫秽高清视频在线观看| 免费观看精品视频网站| 日韩欧美三级三区| 国产91av在线免费观看| 日本与韩国留学比较| 日韩高清综合在线| 少妇熟女aⅴ在线视频| 午夜精品国产一区二区电影 | 日韩欧美 国产精品| 91精品伊人久久大香线蕉| 久久久久久久久中文| 国产成年人精品一区二区| 九九爱精品视频在线观看| 国产精品国产三级专区第一集| 国产亚洲精品久久久com| 少妇熟女aⅴ在线视频| 国产精品爽爽va在线观看网站| 国产在视频线在精品| 亚洲欧美成人综合另类久久久 | 纵有疾风起免费观看全集完整版 | 男女下面进入的视频免费午夜| 欧美xxxx性猛交bbbb| 高清午夜精品一区二区三区| 亚洲高清免费不卡视频| 中国美白少妇内射xxxbb| 亚洲熟妇中文字幕五十中出| 老师上课跳d突然被开到最大视频| 国内揄拍国产精品人妻在线| 一级av片app| 国产极品天堂在线| 国产亚洲av嫩草精品影院| 亚洲色图av天堂| 两个人视频免费观看高清| 日日摸夜夜添夜夜添av毛片| 床上黄色一级片| 啦啦啦韩国在线观看视频| 亚洲一级一片aⅴ在线观看| 亚洲精品乱码久久久v下载方式| 亚洲国产精品sss在线观看| 又爽又黄无遮挡网站| 欧美日韩在线观看h| 国产精品一区www在线观看| 欧美日韩一区二区视频在线观看视频在线 | 国产免费一级a男人的天堂| 插阴视频在线观看视频| 国产精品1区2区在线观看.| 国产精品久久久久久av不卡| 搞女人的毛片| 久久久久久大精品| 黄色欧美视频在线观看| 在线免费观看的www视频| 久久人妻av系列| 欧美bdsm另类| 人妻少妇偷人精品九色| 亚洲欧美精品自产自拍| 亚洲四区av| 国产成人精品久久久久久| 美女内射精品一级片tv| 夫妻性生交免费视频一级片| 亚洲av熟女| 国产成人一区二区在线| 天堂√8在线中文| 欧美潮喷喷水| 99在线人妻在线中文字幕| 国产淫语在线视频| 亚洲18禁久久av| 99热这里只有是精品50| 免费电影在线观看免费观看| 国产久久久一区二区三区| 少妇被粗大猛烈的视频| 一级av片app| 美女大奶头视频| 国产精品嫩草影院av在线观看| 高清视频免费观看一区二区 | 免费播放大片免费观看视频在线观看 | 色吧在线观看| 中文字幕精品亚洲无线码一区| 内射极品少妇av片p| 久久精品国产自在天天线| 麻豆av噜噜一区二区三区| 亚洲精品乱码久久久久久按摩| 午夜福利视频1000在线观看| 成人高潮视频无遮挡免费网站| 欧美性猛交黑人性爽| 国产淫语在线视频| 免费不卡的大黄色大毛片视频在线观看 | 欧美精品国产亚洲| 中文字幕亚洲精品专区| 黄片无遮挡物在线观看| 国产精品一二三区在线看| 国产av在哪里看| 51国产日韩欧美| 日韩欧美 国产精品| 国产亚洲精品久久久com| 99视频精品全部免费 在线| 久久午夜福利片| 日韩,欧美,国产一区二区三区 | 波多野结衣巨乳人妻| 欧美性猛交黑人性爽| 欧美97在线视频| 99久久中文字幕三级久久日本| 亚洲国产精品国产精品| 国产成人91sexporn| 欧美极品一区二区三区四区| 汤姆久久久久久久影院中文字幕 | 亚洲18禁久久av| 老女人水多毛片| 亚洲自偷自拍三级| 午夜精品一区二区三区免费看| 精品久久久久久电影网 | 美女大奶头视频| 久热久热在线精品观看| 免费观看a级毛片全部| 建设人人有责人人尽责人人享有的 | 最近视频中文字幕2019在线8| 国产成人午夜福利电影在线观看| 一级毛片电影观看 | 国内精品美女久久久久久| 日韩亚洲欧美综合| 精品国产露脸久久av麻豆 | 精品久久久久久电影网 | 美女大奶头视频| 亚洲国产成人一精品久久久| 少妇丰满av| 欧美成人午夜免费资源| 精品国产三级普通话版| 尤物成人国产欧美一区二区三区| 亚洲一级一片aⅴ在线观看| 亚洲av成人精品一区久久| 亚洲18禁久久av| 久久久久久久亚洲中文字幕|