• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    生成式人工智能機(jī)器學(xué)習(xí)中的著作權(quán)風(fēng)險(xiǎn)及其化解路徑

    2024-01-12 04:20:12詹愛嵐田一農(nóng)
    電子知識(shí)產(chǎn)權(quán) 2023年11期
    關(guān)鍵詞:著作權(quán)人機(jī)器人工智能

    文 / 詹愛嵐 田一農(nóng)

    近年來,人工智能,尤其是生成式人工智能(Generative Artificial Intelligence,下文簡(jiǎn)稱“生成式AI”)的快速發(fā)展,給文學(xué)、繪畫、音樂、計(jì)算機(jī)編程等領(lǐng)域帶來了巨大的沖擊。生成式AI 技術(shù)更是入選了世界經(jīng)濟(jì)論壇(World Economic Forum, WEF)“2023 十大新興技術(shù)”,成為未來三到五年內(nèi)對(duì)世界影響最大、推動(dòng)第四次產(chǎn)業(yè)革命的新興核心技術(shù)之一。1. World Economic Forum: Top 10 Emerging Technologies of 2023, at https://www3.weforum.org/docs/WEF_Top_10_Emerging_Technologies_of_2023.pdf, last visited on September 4,2023.與此同時(shí),當(dāng)“創(chuàng)作”開始變得普羅大眾,這種智能型“創(chuàng)作”給傳統(tǒng)著作權(quán)理論帶來的挑戰(zhàn)也日益凸顯。完善生成式AI 的監(jiān)管和法律規(guī)制已迫在眉睫,如何平衡好產(chǎn)業(yè)發(fā)展與權(quán)利保護(hù)問題,已成為當(dāng)下的重點(diǎn)。作為一種基于機(jī)器學(xué)習(xí)的人工智能技術(shù),生成式AI 通過大規(guī)模數(shù)據(jù)集的學(xué)習(xí)訓(xùn)練生成新的內(nèi)容。因此,生成式AI 的“創(chuàng)作”,“前端”涉及機(jī)器學(xué)習(xí)所使用訓(xùn)練素材(即文字、音樂、繪畫等作品)的著作權(quán)保護(hù)問題,“后端”則涉及“創(chuàng)作”成果(即人工智能生成物)的可著作權(quán)問題。隨著“ChatGPT”和“文心一言”等國(guó)內(nèi)外生成式AI 產(chǎn)品的相繼面世和快速迭代,AI 大模型已然成為各國(guó)競(jìng)爭(zhēng)的戰(zhàn)略“高地”。然而,當(dāng)產(chǎn)業(yè)界在為生成式AI 的“超車”發(fā)展積極添柴加火的時(shí)候,客觀認(rèn)識(shí)和分析機(jī)器學(xué)習(xí)所涉訓(xùn)練素材中面臨的著作權(quán)風(fēng)險(xiǎn),努力尋求應(yīng)對(duì)和化解的路徑同樣具有重要的理論價(jià)值與現(xiàn)實(shí)意義。

    一、風(fēng)險(xiǎn)源起:生成式AI 中機(jī)器學(xué)習(xí)的著作侵權(quán)風(fēng)險(xiǎn)高

    生成式AI 的工作原理是通過大量數(shù)據(jù)學(xué)習(xí)總結(jié)出規(guī)律與結(jié)構(gòu),進(jìn)而通過固定模型與操作者指令生成新的內(nèi)容。在能夠產(chǎn)生成果之前,從大量的數(shù)據(jù)運(yùn)算中總結(jié)規(guī)律的過程便是機(jī)器學(xué)習(xí)環(huán)節(jié)。“機(jī)器學(xué)習(xí)之父”Arthur Samuel 將機(jī)器學(xué)習(xí)定義為“在不直接針對(duì)問題進(jìn)行編程的情況下,賦予計(jì)算機(jī)學(xué)習(xí)能力的研究領(lǐng)域(Field of Study That Gives Computers the Ability to Learn Without Being Explicitly Programmed)”。2. See Samuel, Arthur L:Some Studies in Machine Learning Using the Game of Checkers, IBM Journal of Research and Development, Vol.3:210, pp.210-229(1959).因此,作為人工智能科學(xué)的一個(gè)分支,機(jī)器學(xué)習(xí)利用數(shù)據(jù)和算法,通過模型訓(xùn)練學(xué)習(xí)、模仿人類學(xué)習(xí)的方式來逐步提高自身決策的準(zhǔn)確性。3. 參見汪榮貴、楊娟、薛麗霞:《機(jī)器學(xué)習(xí)及其應(yīng)用》,機(jī)械工業(yè)出版社2019年版,第2 頁。機(jī)器學(xué)習(xí)的過程簡(jiǎn)單分為三個(gè)階段:(1)數(shù)據(jù)收集輸入階段,收錄其他作品數(shù)據(jù)并編輯成自身的數(shù)據(jù)庫;(2)機(jī)器學(xué)習(xí)階段,選擇最優(yōu)算法搭建模型并進(jìn)行模型質(zhì)量評(píng)估,以便判斷是否固定該模型;(3)輸出階段,最終模型會(huì)根據(jù)使用者輸入的數(shù)據(jù)及指令產(chǎn)出人工智能生成物。具體過程如圖1 所示。

    圖1 機(jī)器學(xué)習(xí)流程圖

    數(shù)據(jù)的獲取是機(jī)器學(xué)習(xí)的開端,人工智能通過大量分析獲取數(shù)據(jù)的過程被稱為機(jī)器閱讀。4. 參見焦和平:《人工智能創(chuàng)作中數(shù)據(jù)獲取與利用的著作權(quán)風(fēng)險(xiǎn)及化解路徑》,載《當(dāng)代法學(xué)》2022年第4 期,第128-140 頁。此階段人工智能開發(fā)者可以通過開源數(shù)據(jù)庫、他人合法授權(quán)、使用進(jìn)入公共領(lǐng)域的作品等方式避免著作權(quán)糾紛,本文便不再贅述。而目前以下幾種能獲取受著作權(quán)保護(hù)的作品方式因未經(jīng)原作者許可,極易侵犯他人著作權(quán):(1)通過網(wǎng)絡(luò)爬蟲協(xié)議爬??;(2)網(wǎng)絡(luò)平臺(tái)企業(yè)通過服務(wù)協(xié)議條款取得用戶的授權(quán)許可;(3)未經(jīng)授權(quán)將他人非數(shù)據(jù)作品數(shù)字化;(4)未經(jīng)許可直接扒竊數(shù)據(jù)庫或個(gè)人數(shù)據(jù)。

    數(shù)據(jù)收集完成進(jìn)入學(xué)習(xí)階段后,人工智能會(huì)逐一分析素材的所有元素,包括類型、布局結(jié)構(gòu)、內(nèi)在的思想情感、作者的表達(dá)風(fēng)格等。就如同在人腦中構(gòu)思反饋的過程延伸到電腦之中。電腦提取這些作品中的用詞、排版、結(jié)構(gòu)、主題等分為不同大類小類并標(biāo)注關(guān)鍵詞,再不斷完善循環(huán)這一過程,做到自我更新、迭代升級(jí)。而在這一過程中又會(huì)對(duì)他人享有著作權(quán)的作品進(jìn)行無數(shù)次的拆解、排列、重新組合,這涉及了對(duì)作品的改編、翻譯、匯編等行為,要視具體情況分析是否侵權(quán)。如果未經(jīng)著作權(quán)人許可,則一定會(huì)對(duì)其改編權(quán)、匯編權(quán)等合法權(quán)利產(chǎn)生侵犯。

    綜上可見,沒有獲得著作權(quán)人授權(quán)的版權(quán)素材,無論是在數(shù)據(jù)錄入階段還是后續(xù)的機(jī)器學(xué)習(xí)階段,都具有極高的侵權(quán)風(fēng)險(xiǎn)。實(shí)踐中,美國(guó)已經(jīng)發(fā)生了多起針對(duì)生成式AI 在機(jī)器學(xué)習(xí)中涉嫌侵犯訓(xùn)練素材著作權(quán)的糾紛,包括:2023年1—2月,針對(duì)AI 圖像生成平臺(tái)Stable Diffusion;Midjourney和DreamUp的著作權(quán)集體訴訟、5. Andersenv. Stability AI Ltd. et al, 3:23-CV-00201;Getty Images (US), Inc. v. Stability AI, Inc.1:23-cv-00135..2023年6月,針對(duì)AI 文本生成平臺(tái)ChatGPT 的多起著作權(quán)集體訴訟。6. Tremblay, P.& Awad, Mv. OpenAI, Inc., 3:23-cv-03223.

    二、侵權(quán)分析:機(jī)器學(xué)習(xí)中的具體著作權(quán)風(fēng)險(xiǎn)

    人工智能的著作權(quán)風(fēng)險(xiǎn)貫穿了從機(jī)器學(xué)習(xí)階段到作品產(chǎn)出階段的始終,在這一過程中涉及了對(duì)素材作品復(fù)制、改編等權(quán)利的妨害,即便該數(shù)據(jù)是合法獲取的。7. 參見劉友華、魏遠(yuǎn)山:《機(jī)器學(xué)習(xí)的著作權(quán)侵權(quán)問題及其解決》,載《華東政法大學(xué)學(xué)報(bào)》2019年第2 期,第73-75 頁。

    (一)機(jī)器學(xué)習(xí)在數(shù)據(jù)收集過程中對(duì)作品復(fù)制權(quán)的侵犯

    機(jī)器學(xué)習(xí)對(duì)于他人作品復(fù)制權(quán)的侵犯可以分為兩個(gè)階段,首先是在數(shù)據(jù)收集階段的侵權(quán),也就是機(jī)器閱讀環(huán)節(jié)的復(fù)制行為,這一環(huán)節(jié)往往牽涉到大量收錄他人未授權(quán)的作品。根據(jù)《中華人民共和國(guó)著作權(quán)法》(以下簡(jiǎn)稱《著作權(quán)法》)第十條第五款規(guī)定,8. 《中華人民共和國(guó)著作權(quán)法》第十條第五款:復(fù)制權(quán),即以印刷、復(fù)印、拓印、錄音、錄像、翻錄、翻拍、數(shù)字化等方式將作品制作一份或者多份的權(quán)利。已明確將數(shù)據(jù)爬取、文本作品轉(zhuǎn)化等收集素材的方式都列入《著作權(quán)法》的規(guī)制。一方面,人工智能在建立自己的數(shù)據(jù)庫時(shí)需要對(duì)他人作品的數(shù)據(jù)進(jìn)行復(fù)制,如果這些輸入的數(shù)據(jù)中涵蓋了原作者未授權(quán)的作品,那么該復(fù)制行為就侵犯了受著作權(quán)法保護(hù)的原作品的復(fù)制權(quán)。另一方面,除去對(duì)原作品素材的直接復(fù)制之外,人工智能開發(fā)者還會(huì)將紙質(zhì)版作品的內(nèi)容掃描轉(zhuǎn)化成電子介質(zhì)儲(chǔ)存到數(shù)據(jù)庫當(dāng)中,且未經(jīng)過其作品的著作權(quán)人許可或支付報(bào)酬。以上行為都已經(jīng)構(gòu)成了侵犯復(fù)制權(quán)的組成要件,侵犯了原作者的復(fù)制權(quán)。

    其次,對(duì)于機(jī)器學(xué)習(xí)環(huán)節(jié)的復(fù)制,即作品產(chǎn)出前的行為是否構(gòu)成侵權(quán)。學(xué)理上主流觀點(diǎn)認(rèn)為機(jī)器學(xué)習(xí)階段的模型建立是伴隨著服務(wù)器內(nèi)的數(shù)據(jù)轉(zhuǎn)碼產(chǎn)生的,是一種臨時(shí)的、不具有侵害性的客觀行為。并不是所有的復(fù)制行為都會(huì)侵犯復(fù)制權(quán),必須結(jié)合復(fù)制后的行動(dòng)來判斷。如果在復(fù)制后產(chǎn)生了出售、展覽等變現(xiàn)行為獲取收益,才屬于《著作權(quán)法》所明令禁止的復(fù)制行為。立法上,我國(guó)在起草《信息網(wǎng)絡(luò)傳播權(quán)保護(hù)條例》時(shí),臨時(shí)復(fù)制的法律性質(zhì)也是焦點(diǎn)問題之一,最終對(duì)該行為的侵權(quán)定性也并未出現(xiàn)在正式官方文本中。9. 參見萬勇:《人工智能時(shí)代著作權(quán)法合理使用制度的困境與出路》,載《社會(huì)科學(xué)輯刊》2021年第5 期,第93-102 頁。其他國(guó)家,如美國(guó)的Cablevision 公司侵權(quán)案中,法院也認(rèn)為被告對(duì)于原告影像數(shù)據(jù)的復(fù)制在存儲(chǔ)器內(nèi)停留的時(shí)間只有十秒,且該時(shí)間也符合當(dāng)時(shí)此項(xiàng)技術(shù)運(yùn)行的合理時(shí)間,根據(jù)合理使用四要素法判斷不構(gòu)成對(duì)他人著作權(quán)的非法妨害、不干涉他人著作權(quán)的行使。綜上,臨時(shí)復(fù)制不構(gòu)成對(duì)復(fù)制權(quán)的侵害,故本文所提到的機(jī)器學(xué)習(xí)的復(fù)制權(quán)侵權(quán)行為僅僅針對(duì)生成式人工智能在數(shù)據(jù)收集及數(shù)據(jù)庫建立時(shí)的復(fù)制行為。

    (二)機(jī)器學(xué)習(xí)在數(shù)據(jù)處理過程中對(duì)作品改編權(quán)的侵犯

    改編權(quán)即改變作品,創(chuàng)作出具有獨(dú)創(chuàng)性的新作品的權(quán)利。改編權(quán)的構(gòu)成要件有兩個(gè):其一,行為上利用了原作品的獨(dú)創(chuàng)性表達(dá);其二,結(jié)果上創(chuàng)作出具有獨(dú)創(chuàng)性的新作品。就生成式AI 而言,判斷機(jī)器學(xué)習(xí)是否侵犯原作者改編權(quán)的關(guān)鍵,是考察其對(duì)原作品表達(dá)的“利用程度”。即如果最終生成物保有原作品的獨(dú)創(chuàng)性表達(dá)較高時(shí),便構(gòu)成對(duì)原作品的改編。

    改編權(quán)的侵權(quán)分析,需從機(jī)器學(xué)習(xí)的方式入手。根據(jù)機(jī)器學(xué)習(xí)素材的錄入、抓取是否具有針對(duì)性、唯一性,可將機(jī)器學(xué)習(xí)分為一般機(jī)器學(xué)習(xí)和特殊機(jī)器學(xué)習(xí)。10. 參見李安:《機(jī)器學(xué)習(xí)作品的著作權(quán)法分析——非作品性使用、合理使用與侵權(quán)使用》,載《電子知識(shí)產(chǎn)權(quán)》2020第6 期,第60-70 頁。

    一般機(jī)器學(xué)習(xí),是指在已收集的龐雜的信息庫中進(jìn)行分析挑選,根據(jù)使用者的指令對(duì)照數(shù)據(jù)進(jìn)行生成,不會(huì)是在某個(gè)藍(lán)本上直接完成修改。其產(chǎn)出作品的風(fēng)格、外觀也是五花八門,并非使用者能嚴(yán)格控制的。這類作品往往都帶有很強(qiáng)的創(chuàng)新性,即使屬于改編范疇也缺乏比對(duì)目標(biāo),所以一般的機(jī)器學(xué)習(xí)對(duì)改編權(quán)幾乎沒有影響,除非生成物中保留了某些作品的基本獨(dú)創(chuàng)表達(dá)。

    特殊機(jī)器學(xué)習(xí),是指使用特定素材庫進(jìn)行的訓(xùn)練,如加州大學(xué)教授戴維·柯普設(shè)計(jì)的EMI(Experiments in Musical Intelligence),專門投喂巴赫的音樂作品,模仿巴赫的風(fēng)格創(chuàng)作。該程序創(chuàng)作出的作品在音樂節(jié)上使得80%以上的聽眾認(rèn)為這就是巴赫的作品。但由于巴赫的音樂作品早已進(jìn)入公共領(lǐng)域,不會(huì)引發(fā)著作權(quán)糾紛。不過如果巴赫還在世的話,那么根據(jù)該程序所模仿的巴赫獨(dú)創(chuàng)性風(fēng)格所占其生成物的比重以及對(duì)原有市場(chǎng)可能產(chǎn)生的替代性來判斷,勢(shì)必會(huì)侵犯原作者的改編權(quán)。作品的獨(dú)創(chuàng)性表達(dá)是作者思想的延伸,特殊的機(jī)器學(xué)習(xí)本質(zhì)上就是在不碰觸獨(dú)創(chuàng)性表達(dá)的同時(shí)最大程度去接近原作者的思想范疇,并用自己的方式進(jìn)行表達(dá)。但原作者的思想和表達(dá)往往是緊密相連的,并且特殊機(jī)器學(xué)習(xí)由于其素材的限定也決定了必然要受到原作者表達(dá)的約束。因此此類生成物基本上都會(huì)因與原作品過度相似而產(chǎn)生替代性,存在侵犯原作者改編權(quán)的風(fēng)險(xiǎn)。

    三、理論探源:生成式AI 中的“非表達(dá)性使用”與“轉(zhuǎn)換性使用”

    各國(guó)為緩和人工智能發(fā)展與著作權(quán)保護(hù)之間的矛盾,試圖突破原有的著作權(quán)合理使用框架,為人工智能使用他人版權(quán)作品的免責(zé)性尋找新的法定依據(jù)。其中既有法律上的調(diào)整,如歐盟的“文本與數(shù)據(jù)挖掘例外”的明文規(guī)定,11. 歐洲議會(huì)和歐洲理事會(huì)2019年4月17日關(guān)于數(shù)字單一市場(chǎng)版權(quán)和相關(guān)權(quán)的指令,歐盟官方網(wǎng)站https://eur-lex.europa.eu/eli/dir/2019/790/oj,最后訪問日期:2023年10月25日。也有理論上的突破,如美國(guó)的“轉(zhuǎn)換性使用原則”的現(xiàn)實(shí)適用。12. 例如2010年的甲骨文公司訴谷歌公司案:Oracle America, Inc. v. Google Inc.,3:10-cv-03561、2015年的作家協(xié)會(huì)訴谷歌圖書館案:Authors Guild v. Google, Inc., No. 13-4829、2019年的新思科技公司訴英韌科技公司案:Synopsys, Inc.v.InnoGrit, Corp.,5:19-cv-02082,都是法官通過“轉(zhuǎn)換性使用”及“四要素”法判斷被告是否構(gòu)成合理使用??紤]到目前我國(guó)司法實(shí)踐中法官依靠“三步分析法”并結(jié)合實(shí)際自主裁判較多,13. 例如2014年上海美術(shù)電影制片廠訴新影公司案:(2014)普民三(知)初字第258 號(hào)、2016年向佳紅訴樂視影業(yè)公司《九層妖塔》字體侵權(quán)案:(2016)京0105 民初50488 號(hào)、2021 天津字節(jié)跳動(dòng)網(wǎng)絡(luò)有限公司訴天津啟閱科技有限公司等著作權(quán)侵權(quán)案:(2021)津03 民初4293 號(hào),法官都是采用判斷是否構(gòu)成“合理使用”的“三步檢驗(yàn)法”,結(jié)合是否影響到著作權(quán)人的利益判斷是否構(gòu)成合理使用。故若能從理論方面論證人工智能使用作品的合理性,則會(huì)比法律改制節(jié)約更多的司法成本。對(duì)此,筆者從合理使用的兩個(gè)基礎(chǔ)理論,即“非表達(dá)性使用”“轉(zhuǎn)換性使用”出發(fā),嘗試能否為生成式AI 合理使用他人作品提供理論支持。

    (一)“非表達(dá)性使用”對(duì)于機(jī)器學(xué)習(xí)的免責(zé)分析

    根據(jù)薩格教授的觀點(diǎn),所謂“表達(dá)性使用”是指使用者的目的就是利用原作品獨(dú)創(chuàng)的表達(dá)方式,既包含了原作的藝術(shù)價(jià)值也會(huì)威脅到原作品的市場(chǎng)價(jià)值,14. See Matthew Sag.The New Legal Landscape for Text Mining and Machine Learning, Journal of the Copyright Society of the USA,Vol.66:291,p.291-367(2019).會(huì)產(chǎn)生對(duì)原作者權(quán)利的侵犯?!胺潜磉_(dá)性使用”則是指人工智能并非利用原作品的獨(dú)創(chuàng)性表達(dá),而是為了方便檢索、數(shù)據(jù)分析以及其他采取皆非傳統(tǒng)著作權(quán)法意義上的復(fù)制、改編、傳播、匯編的使用方式,15. 參見徐小奔、楊依楠:《論人工智能深度學(xué)習(xí)中著作權(quán)的合理使用》,載《交大法學(xué)》2019年第3 期,第32-42 頁。不可能生成對(duì)原作具有市場(chǎng)替代性的新作品,也不會(huì)威脅到原著作權(quán)人的合法利益。例如人臉智能識(shí)別系統(tǒng)對(duì)不同攝影作品人臉特征的采集,包括五官形狀、膚色等生理特征進(jìn)行數(shù)據(jù)模型構(gòu)建來優(yōu)化人臉?biāo)夭膸?,?duì)于其他具有獨(dú)創(chuàng)性的拍照角度、姿勢(shì)等元素則不會(huì)觸及。故人工智能對(duì)他人作品的“非表達(dá)性使用”是基于其作品的“工具性”價(jià)值而非“表達(dá)性”價(jià)值,其存在作用對(duì)于新作品整體而言也只是讓他人能獲得更好的實(shí)用性體驗(yàn)。

    實(shí)踐中,此理論的難點(diǎn)在于如何判斷是否利用了原作品的獨(dú)創(chuàng)性表達(dá)。如美國(guó)作家協(xié)會(huì)訴谷歌圖書館項(xiàng)目案,16. 谷歌將大量由原作者享有著作權(quán)的圖書通過文字掃描錄入數(shù)據(jù)庫的方式建立起了一個(gè)網(wǎng)上的數(shù)字圖書館,并將這些已經(jīng)數(shù)字化的作品的名稱、關(guān)鍵詞以及標(biāo)識(shí)性的片段輸入搜索系統(tǒng)方便游客瀏覽檢索。美國(guó)作家協(xié)會(huì)認(rèn)為谷歌未經(jīng)許可為數(shù)字圖書提供的掃描及檢索方法構(gòu)成了對(duì)著作權(quán)的侵權(quán),此案經(jīng)過十年的爭(zhēng)議最終維持了谷歌圖書不侵害著作權(quán)的判決,并經(jīng)過聯(lián)邦最高法院不予受理原告上訴后徹底結(jié)束。該案法官認(rèn)為圖書館復(fù)制圖書部分內(nèi)容的目的并非產(chǎn)生替代原作品的市場(chǎng)價(jià)值而是方便群眾檢索圖書信息,不會(huì)對(duì)原作者的利益造成“本質(zhì)性的”損害(這里不能以完全不存在損害為訴的利益,因?yàn)橐部赡軙?huì)存在通過檢索部分內(nèi)容就讓讀者失去了購買的欲望或讀者已經(jīng)通過閱讀該部分內(nèi)容得到了足夠的信息)。綜上,人工智能的“非表達(dá)性使用”不屬于著作權(quán)法規(guī)制的侵權(quán)事項(xiàng),所以目前規(guī)制的應(yīng)是根據(jù)“三步檢驗(yàn)法”可能會(huì)對(duì)原作品產(chǎn)生關(guān)聯(lián)或替代,可能侵害原作者合法利益、產(chǎn)生市場(chǎng)替代性威脅的“表達(dá)性使用”。

    (二)“轉(zhuǎn)換性使用”對(duì)于機(jī)器學(xué)習(xí)的免責(zé)分析

    “轉(zhuǎn)換性使用”是一個(gè)衍生于美國(guó)四要素判斷標(biāo)準(zhǔn)的概念,17. 美國(guó)著作權(quán)法第107 條將合理使用制度規(guī)定為:包括為了批評(píng)、評(píng)論、新聞報(bào)道、教學(xué)、研究等目的使用作品復(fù)制件、錄制品或以其他任何手段使用作品。在確定在特定情況下使用某一作品是否合理時(shí),應(yīng)考慮以下因素:(1)使用的目的和性質(zhì);(2)受版權(quán)保護(hù)的作品的性質(zhì);(3)使用部分占原著作權(quán)作品的量和實(shí)質(zhì)程度;(4)使用對(duì)作品潛在市場(chǎng)或價(jià)值的影響。于1990年由美國(guó)法官皮埃爾·勒威爾首次提出,并將其定義為“如果二次使用為原作增加了新的價(jià)值——即如果被引用的原作品被用作原材料,轉(zhuǎn)換性地創(chuàng)作出新的信息、新的美感、新的視角和理解,那么這種行為是合理使用制度試圖保護(hù)的”?!稗D(zhuǎn)換性使用”首次被正式采用是在1994年美國(guó)聯(lián)邦法院審理的Campbell 訴 Acuff-Rose 音樂公司案中,聯(lián)邦最高法院判定被告2 Live Crew 的滑稽模仿作品構(gòu)成美國(guó)著作權(quán)法第107 條意義上的合理使用。這里筆者認(rèn)為聯(lián)邦最高法院判斷的基礎(chǔ)是新作品已經(jīng)達(dá)到了讓群眾能夠輕易感受到其區(qū)別于原作的獨(dú)創(chuàng)內(nèi)容,使得與原作品之間的聯(lián)系因轉(zhuǎn)換性的提高而減弱。此種減弱不僅體現(xiàn)在受著作權(quán)法保護(hù)的表達(dá)方面,也體現(xiàn)在不受保護(hù)的思想情感方面,屬于“內(nèi)容上的轉(zhuǎn)換性使用”。因此如果具有“內(nèi)容上的轉(zhuǎn)換性使用”的作品,當(dāng)他們的獨(dú)特性表達(dá)或內(nèi)容不具有足夠的創(chuàng)新性時(shí),即使新作品因市場(chǎng)流通所具有的價(jià)值遠(yuǎn)遠(yuǎn)超過了原作品本身的價(jià)值,也不能代表該作品沒有侵犯原著作權(quán)人的利益。18. 參見楊書林:《作品轉(zhuǎn)換性使用規(guī)則研究》,西南科技大學(xué)2022年碩士學(xué)位論文。是否具有獨(dú)創(chuàng)性,是法官判斷生成物是否屬于“轉(zhuǎn)換性使用”的重要標(biāo)準(zhǔn)。

    “轉(zhuǎn)換性使用”的本質(zhì)并沒有脫離四要素分析法的范圍——確保在原作者市場(chǎng)份額不受影響的情況下盡可能保證他人通過“轉(zhuǎn)換性使用”創(chuàng)作出更多優(yōu)質(zhì)產(chǎn)品、開發(fā)更多新客戶。其中新作品所表達(dá)內(nèi)容、目的、功能的“新”在哪里,“新”到什么程度難以一言以蔽之。哪怕是其發(fā)源地美國(guó)也僅僅是將該理論作為一塊很好的“磚頭”,哪里需要堵哪里。如果所有問題第一步都能通過“轉(zhuǎn)換性使用”來判斷的話,那么實(shí)則是在淡化法律的作用。所以目前筆者認(rèn)為不應(yīng)該將“轉(zhuǎn)換性使用”視為解決一切問題的萬能法寶,或許將其作為一項(xiàng)兜底性條款是最好的選擇。研究中的優(yōu)先級(jí)也應(yīng)后置于“合理使用”“法定許可”的可行性分析以及我國(guó)三步檢驗(yàn)法判斷標(biāo)準(zhǔn)。

    四、中國(guó):生成式AI 的立法監(jiān)管進(jìn)展

    (一)我國(guó)生成式AI 立法現(xiàn)狀

    鑒于人工智能產(chǎn)業(yè)發(fā)展的“雙刃劍”屬性,各國(guó)對(duì)人工智能的立法規(guī)制基本持審慎的態(tài)度。如何在促進(jìn)產(chǎn)業(yè)發(fā)展的同時(shí)有效規(guī)制風(fēng)險(xiǎn)是立法者最為關(guān)注的問題。我國(guó)在大力推進(jìn)生成式AI 產(chǎn)業(yè)發(fā)展的同時(shí),對(duì)相關(guān)立法持同樣態(tài)度。截至2023年,我國(guó)針對(duì)生成式AI 機(jī)器學(xué)習(xí)規(guī)則在立法上尚無明確法條。無論是《著作權(quán)法》中第二十四條的合理使用規(guī)定,還是先后頒布的《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律法規(guī),都只是對(duì)人工智能技術(shù)和算法濫用問題規(guī)定了較為詳細(xì)的法定義務(wù)和監(jiān)管體系,其重心更多是放在社會(huì)利益的保護(hù)方面。而關(guān)于人工智能學(xué)習(xí)階段內(nèi)對(duì)個(gè)體作者享有的著作權(quán)的侵權(quán)保護(hù)、利益補(bǔ)償?shù)热晕瓷婕啊?023年被稱之為“生成式AI 的爆發(fā)之年”,我國(guó)立法者開始逐漸重視生成式AI 的行為規(guī)制。2023年1月10日正式實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》標(biāo)志著我國(guó)首次對(duì)生成式AI 的深度合成技術(shù)進(jìn)行規(guī)制。其中第十四條第二款規(guī)定:深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的,應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人,并取得其單獨(dú)同意。在此規(guī)定下,一方面保證了被編輯者的知情權(quán),確保其人格權(quán)不受侵犯,為日后可能行使的權(quán)利救濟(jì)夯實(shí)基礎(chǔ);另一方面令生成物在相關(guān)權(quán)利人許可的前提下產(chǎn)出,避免了“前端”權(quán)利瑕疵帶來的后續(xù)侵權(quán)風(fēng)險(xiǎn)。但從生成式AI 整體發(fā)展的角度來看,僅對(duì)深度合成技術(shù)進(jìn)行法律規(guī)制所產(chǎn)生的輻射范圍遠(yuǎn)遠(yuǎn)不夠,還需要更具前瞻性的立法為產(chǎn)業(yè)發(fā)展護(hù)航。為此,進(jìn)一步制定的《生成式人工智能服務(wù)管理辦法》于2023年8月15日起正式實(shí)施,作為我國(guó)甚至于全球首部針對(duì)生成式AI 的專項(xiàng)立法,無疑為日后的進(jìn)一步立法和司法實(shí)踐提供了重要的基礎(chǔ)。

    (二)最新立法:《生成式人工智能服務(wù)管理辦法》仍舊存在漏洞

    《生成式人工智能服務(wù)管理辦法》(以下簡(jiǎn)稱《管理辦法》)相比于前述相關(guān)立法的成效更加顯著。如第七條規(guī)定人工智能提供者應(yīng)當(dāng)對(duì)生成式AI 產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé)。用于生成式AI 產(chǎn)品的預(yù)訓(xùn)練、優(yōu)化訓(xùn)練數(shù)據(jù),應(yīng)滿足使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型。涉及知識(shí)產(chǎn)權(quán)的,不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)。采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量,增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性等。此外,該《管理辦法》還規(guī)定了安全等級(jí)評(píng)估、算法模型備案、數(shù)據(jù)信息來源公開等制度,明確使用者、開發(fā)者等不同主體的法律責(zé)任,確保生成式AI 在遵循創(chuàng)新與尊重著作權(quán)的原則下健康發(fā)展。

    但是,在《管理辦法》中還是能發(fā)現(xiàn)許多缺漏。如對(duì)第七條的解讀,只要是合法作品,并獲得原作者授權(quán)的,就可以納入機(jī)器學(xué)習(xí)的數(shù)據(jù)庫之中。我國(guó)也尚未明確機(jī)器學(xué)習(xí)是納入合理使用制度、法定許可制度或以其他方式提供保護(hù)。在上位法態(tài)度尚未明確時(shí),《管理辦法》基于現(xiàn)行法律規(guī)定將機(jī)器學(xué)習(xí)素材的使用局限于“原作者許可”模式,未曾考慮到未來一段時(shí)間內(nèi)因“原作者許可”模式運(yùn)行效率較低,以及可能造成的算法偏見導(dǎo)致對(duì)生成式AI良好發(fā)展勢(shì)頭的遏制。本質(zhì)上其實(shí)是淡化了知識(shí)產(chǎn)權(quán)制度的利益平衡原則在人工智能領(lǐng)域的適用。其次,第七條只針對(duì)合法作品的保護(hù),忽視了機(jī)器學(xué)習(xí)對(duì)違禁、違法作品的使用問題。違禁、違法作品,系指“依法禁止出版、傳播的作品”19. 參見金耀:《淺析違禁作品的內(nèi)涵與保護(hù)》,載《中國(guó)版權(quán)》2011年第6 期,第30-32 頁。,對(duì)于違禁、違法作品,我國(guó)依舊承認(rèn)其享有著作權(quán)。且第二項(xiàng)規(guī)定“不能含有侵犯知識(shí)產(chǎn)權(quán)的內(nèi)容”將復(fù)雜問題簡(jiǎn)單化。產(chǎn)業(yè)實(shí)踐中機(jī)器學(xué)習(xí)無論是通過網(wǎng)絡(luò)爬蟲技術(shù),還是對(duì)他人享有的合法數(shù)據(jù)的直接使用,都是在侵犯著作權(quán)的邊緣行走。因此,迫切需要選擇合適的路徑來規(guī)制這些行業(yè)中盛行的行為。

    (三)司法實(shí)踐對(duì)立法需求依舊迫切

    綜上,我國(guó)對(duì)于生成式AI 機(jī)器學(xué)習(xí)的立法現(xiàn)狀雖在進(jìn)步但進(jìn)展速度緩慢,仍然無法依靠成文法來緩解當(dāng)下其可能侵犯著作權(quán)的燃眉之急。這導(dǎo)致目前我國(guó)的司法實(shí)踐中針對(duì)此類問題還是多依靠法官的自由心證,甚至可能引發(fā)“同案不同判”的后果。如2018年北京菲林律師事務(wù)所訴北京百度網(wǎng)訊科技有限公司一案中,法院認(rèn)為涉案的文章是通過人工智能軟件分析獲得的報(bào)告,不具有獲得《著作權(quán)法》保護(hù)的屬性,20. 參見北京互聯(lián)網(wǎng)法院(2018)京0391 民初239 號(hào)民事判決書。而在2023年11月27日北京互聯(lián)網(wǎng)法院卻認(rèn)可了人工智能生成圖片的作品屬性以及著作權(quán)歸屬。21. 參見北京互聯(lián)網(wǎng)法院(2023)京0491 民初11279 號(hào)民事判決書。雖然兩起案件在作品類型方面有所差異,但在說理部分北京互聯(lián)網(wǎng)法院均是引用《著作權(quán)法》及其實(shí)施條例作為法律依據(jù)。相同的法條卻引申出不同的解釋,既無益于日后的司法裁判,又有損法律的準(zhǔn)確性、權(quán)威性。雖然我國(guó)目前尚無關(guān)于生成式AI 在機(jī)器學(xué)習(xí)過程侵犯他人著作權(quán)(即“前端”)的判例,但根據(jù)司法實(shí)踐中對(duì)“后端”的裁判過程也可管中窺豹。如此,在后端的裁判結(jié)果尚且有分歧的狀態(tài)下,對(duì)前端的侵權(quán)行為尋求判斷標(biāo)準(zhǔn)、保護(hù)措施、救濟(jì)渠道等似乎是無稽之談。故筆者認(rèn)為當(dāng)下我國(guó)已經(jīng)嚴(yán)格規(guī)制了生成式AI 使用者的應(yīng)盡義務(wù),但缺少明確對(duì)原著作權(quán)人保護(hù)與補(bǔ)償?shù)臈l款,應(yīng)盡快明確生成式AI 使用者依法使用他人作品數(shù)據(jù)的法律依據(jù),究竟是采用美國(guó)的“轉(zhuǎn)換性使用”理論,還是“合理使用”等制度模式,方可明晰接下來的立法方向。對(duì)此,下文的國(guó)外立法模式或許能給予我們一些新的啟發(fā)。

    五、歐盟:生成式AI 的立法監(jiān)管進(jìn)展

    (一)《單一數(shù)字市場(chǎng)版權(quán)指令》:“文本數(shù)據(jù)與挖掘的例外”

    歐盟一直致力于引領(lǐng)全球數(shù)字立法治理,早在2016年歐盟委員會(huì)就以營(yíng)造服務(wù)于互聯(lián)網(wǎng)發(fā)展的環(huán)境為目的公布了《單一數(shù)字市場(chǎng)版權(quán)指令》草案,并于2019年正式頒布《單一數(shù)字市場(chǎng)版權(quán)指令》。該指令以適應(yīng)互聯(lián)網(wǎng)時(shí)代的發(fā)展和變化為首要目的,對(duì)機(jī)器學(xué)習(xí)的前提條件“文本數(shù)據(jù)與挖掘”進(jìn)行了規(guī)制。指令第2 條對(duì)適用主體進(jìn)行了定義和限制:“研究機(jī)構(gòu)”應(yīng)當(dāng)符合:以非營(yíng)利為基礎(chǔ),或?qū)⑺欣麧?rùn)再投資于其科學(xué)研究;或者出于為成員國(guó)所承認(rèn)的公共利益而進(jìn)行研究。在此基礎(chǔ)上第3 條明確允許了科研機(jī)構(gòu)和文化遺產(chǎn)機(jī)構(gòu)為科學(xué)研究目的進(jìn)行文本和數(shù)據(jù)挖掘,對(duì)其合法獲取的作品或其他內(nèi)容進(jìn)行復(fù)制與提取的行為。可見該法主要目的是服務(wù)于科研人員,而忽視了版權(quán)人和商業(yè)主體的利益。一方面該法案對(duì)非商業(yè)主體利用他人作品的行為劃定了標(biāo)準(zhǔn),包括復(fù)制品應(yīng)當(dāng)妥善存儲(chǔ),確保研究結(jié)果準(zhǔn)確性和完整性等;另一方面它的“狹隘性”忽視了基于商業(yè)目的而投入研究的主體的重要性。盡管指令第4條從行為方式角度進(jìn)一步闡明:任何主體“以文本和數(shù)據(jù)挖掘?yàn)槟康模瑢?duì)合法獲取的作品或其他內(nèi)容進(jìn)行復(fù)制與提取的行為”,隱晦地表達(dá)了對(duì)以商業(yè)營(yíng)利為目的的主體的許可,但仍被人詬病不能滿足歐盟的科技企業(yè)在新興的人工智能化浪潮之中取得相對(duì)于其他國(guó)家企業(yè)的優(yōu)勢(shì)地位。因?yàn)樵摋l第三款規(guī)定了作品權(quán)利人可以用適當(dāng)方式對(duì)作品的使用進(jìn)行保留的權(quán)利,這可能會(huì)導(dǎo)致在實(shí)踐中出現(xiàn)原創(chuàng)作者聯(lián)合聲明保留權(quán)利以抵制生成式AI 學(xué)習(xí)及創(chuàng)作的尷尬局面。綜上可以看出早期歐盟對(duì)人工智能立法方向還是以促進(jìn)科技發(fā)展為主,在立法態(tài)度上格外謹(jǐn)慎,并不認(rèn)可商業(yè)性主體的使用行為,同時(shí)也禁止將通過利用他人作品產(chǎn)生的生成物或復(fù)印件提供給公眾。最后,該指令也并未對(duì)如何使用受版權(quán)保護(hù)的文本和數(shù)據(jù)訓(xùn)練基礎(chǔ)模型的行為做出明確規(guī)定,難以適應(yīng)新一輪人工智能發(fā)展規(guī)制。

    (二)《數(shù)據(jù)治理法》:“數(shù)據(jù)中介機(jī)構(gòu)”與“數(shù)據(jù)流通共享”

    2022年4月6日歐洲議會(huì)通過《數(shù)據(jù)治理法》,力求促進(jìn)不同經(jīng)濟(jì)參與者之間的數(shù)據(jù)共享(包括商業(yè)秘密、個(gè)人數(shù)據(jù)和受知識(shí)產(chǎn)權(quán)保護(hù)的數(shù)據(jù))。相比于2018年公布的《通用數(shù)據(jù)保護(hù)條例》對(duì)個(gè)人數(shù)據(jù)的嚴(yán)格保護(hù),該法將數(shù)據(jù)視為一種可供流通的財(cái)產(chǎn)加以規(guī)制。其中企業(yè)或者個(gè)人對(duì)他人數(shù)據(jù)進(jìn)行使用必須通過數(shù)據(jù)中介服務(wù)提供者加以實(shí)現(xiàn)。該法規(guī)定:明確數(shù)據(jù)共享服務(wù)商業(yè)務(wù)范圍并實(shí)行登記制,規(guī)定從事數(shù)據(jù)持有者和潛在數(shù)據(jù)用戶之間中介服務(wù)或者數(shù)據(jù)合作社服務(wù)的,為該法規(guī)定的數(shù)據(jù)共享服務(wù)商,并要求其向主管部門提交登記。同時(shí)數(shù)據(jù)服務(wù)商要確保服務(wù)的程序和價(jià)格公平透明和非歧視性,可見歐盟立法態(tài)度逐漸開始兼顧保護(hù)與流通兩種屬性。人工智能企業(yè)可以在數(shù)據(jù)中介機(jī)構(gòu)上通過數(shù)據(jù)交易使用他人數(shù)據(jù)或是素材且不必經(jīng)過他人同意,同時(shí)數(shù)據(jù)提供者又能獲取合理的經(jīng)濟(jì)補(bǔ)償,形式上符合我國(guó)法定許可制度的模式。但一方面,該法案的經(jīng)濟(jì)補(bǔ)償機(jī)制尚未完善,數(shù)據(jù)持有人的補(bǔ)償落實(shí)困難;另一方面,在缺少強(qiáng)制命令或激勵(lì)政策的支持下,數(shù)據(jù)持有人缺少加入共享平臺(tái)的意愿。本法案的目的還是在各主體“自愿”“共享”的基礎(chǔ)上設(shè)立義務(wù)來促進(jìn)數(shù)據(jù)流通,但目前看來若無額外激勵(lì),數(shù)據(jù)持有者并不具有分享的意愿。22. 《歐盟數(shù)據(jù)治理的新發(fā)展》,https://www.chinacourt.org/article/detail/2022/11/id/6994275.shtml,最后訪問日期:2023年10月1日。

    (三)《人工智能法案》草案:生成式AI 供應(yīng)者作為義務(wù)主體下的合理使用

    對(duì)此,歐盟委員會(huì)于2023年6月14日正式通過了《人工智能法案》草案,該法案立足于人工智能領(lǐng)域技術(shù)應(yīng)用,有望成為全球首個(gè)關(guān)于人工智能的法案。該法案進(jìn)一步限定了生成式AI 產(chǎn)物供應(yīng)者的義務(wù),其中第28 條規(guī)定:人工智能系統(tǒng)中使用基礎(chǔ)模型,專門用于以不同程度的自主性生成復(fù)雜的文本、圖像、音頻或視頻等內(nèi)容(“生成式人工智能”)的供應(yīng)者,以及將基礎(chǔ)模型專門用于生成式人工智能系統(tǒng)的供應(yīng)者還應(yīng)當(dāng):(a)遵守第52 條要求的“透明度義務(wù)”23. “透明度”是指人工智能系統(tǒng)的開發(fā)和使用方式應(yīng)允許適當(dāng)?shù)目勺匪菪院涂山忉屝?,同時(shí)使人類意識(shí)到他們與人工智能系統(tǒng)的交流或互動(dòng),以及適當(dāng)告知用戶該人工智能系統(tǒng)的能力和限制,并告知受影響的人他們的權(quán)利。。(b)訓(xùn)練,并在適用的情況下,設(shè)計(jì)和研發(fā)基礎(chǔ)模型,以確保有足夠的保障措施,防止產(chǎn)生違反歐盟法律的內(nèi)容,符合普遍公認(rèn)的行業(yè)先進(jìn)實(shí)踐,并不損害基本權(quán)利,包括言論自由。(c)在不影響國(guó)家或歐盟版權(quán)立法的情況下,記錄并公開提供受版權(quán)法保護(hù)的訓(xùn)練數(shù)據(jù)使用情況的足夠詳細(xì)的摘要??梢钥闯鲈摲ò傅膽B(tài)度從法定許可主義又偏向到了合理使用主義,在行為主體使用生成式AI 的過程中只要盡到了上述義務(wù)即可將該產(chǎn)出的基礎(chǔ)模型向市場(chǎng)提供或自己使用。本次立法在一定程度上保證了原作者的著作權(quán),通過公示其作品元素在人工智能運(yùn)作中的作用,全程記錄任何用于本次訓(xùn)練AI 系統(tǒng)所使用的文本、圖像、視頻和音樂的版權(quán)材料,并且通過技術(shù)手段保障本次訓(xùn)練素材的隱私性和安全性。這樣可以使得原作者知曉自己的作品被哪些AI 進(jìn)行模型訓(xùn)練,以保有自身是否決定維權(quán)且獲取收益的權(quán)利。

    縱觀歐盟的整個(gè)人工智能立法進(jìn)程可以看出立法者在“合理使用”和“法定許可”之間徘徊不定。筆者認(rèn)為造成這一結(jié)果的原因是“非商業(yè)性主體”原則與人工智能發(fā)展之間的矛盾難以調(diào)和。單憑科研機(jī)構(gòu)等非商業(yè)主體進(jìn)行人工智能的研發(fā)困難重重,它需要大量的流通數(shù)據(jù)以及市場(chǎng)反饋來優(yōu)化升級(jí)。商業(yè)性主體可以憑借其市場(chǎng)占有份額及龐大的客戶量滿足上述需求,若將商業(yè)主體排除在外或是對(duì)其加以繁瑣的鐐銬,都會(huì)限制人工智能的發(fā)展。但同時(shí)商業(yè)性主體本身的盈利性必然會(huì)損害其他著作權(quán)人的合法權(quán)益,是盡量確保二者間的利益平衡,又或者為保障我國(guó)人工智能發(fā)展而暫時(shí)降低著作權(quán)上的保護(hù)力度,這需要立足于我國(guó)人工智能產(chǎn)業(yè)與科技創(chuàng)新的現(xiàn)實(shí)需求,在借鑒國(guó)外立法的同時(shí)也要正視本國(guó)國(guó)情。

    六、生成式AI 機(jī)器學(xué)習(xí)中著作權(quán)風(fēng)險(xiǎn)的化解路徑

    為了順應(yīng)國(guó)家發(fā)展戰(zhàn)略考量,必須給予人工智能技術(shù)研發(fā)一定政策上的支持,要確保此類制度安排盡可能簡(jiǎn)潔、高效。筆者贊同目前的兩種制度方案,即法定許可制度和合理使用制度,下面將逐一展開具體分析。

    (一)法定許可:理想主義的選擇

    法定許可的贊同者認(rèn)為要想確保優(yōu)質(zhì)作品的產(chǎn)出,就必須優(yōu)先考慮創(chuàng)作者的利益。24. 參見劉友華、魏遠(yuǎn)山:《機(jī)器學(xué)習(xí)的著作權(quán)侵權(quán)問題及其解決》,載《華東政法大學(xué)學(xué)報(bào)》2019年第2 期,第68-79 頁。人工智能創(chuàng)作本身并不具備產(chǎn)生“新作品”的能力,如果任憑人工智能剝奪作品權(quán)利人的應(yīng)得利益,那么就會(huì)磨滅人類創(chuàng)作者的激情,等同“殺雞取卵”。法定許可制度可以在保證著作權(quán)人利益的同時(shí)服務(wù)于推動(dòng)人工智能發(fā)展的國(guó)家政策,較合理使用制度來說更具有合理性。支持該理論的學(xué)者對(duì)于該制度的初步構(gòu)想是,25. 參見高陽、胡丹陽:《機(jī)器學(xué)習(xí)對(duì)著作權(quán)合理使用制度的挑戰(zhàn)與應(yīng)對(duì)》,載《電子知識(shí)產(chǎn)權(quán)》2020年第10 期,第13-25 頁。建立一個(gè)類似于歐盟在《數(shù)據(jù)治理法》中設(shè)想的“個(gè)人數(shù)據(jù)共享中介機(jī)構(gòu)”,要求使用主體將其欲使用的作品進(jìn)行登記付費(fèi),讓企業(yè)與個(gè)人在此機(jī)構(gòu)的指引和幫助下合理使用他人享有著作權(quán)的作品數(shù)據(jù)。正如前文所說機(jī)器學(xué)習(xí)所需要的作品是一個(gè)龐大的數(shù)量,每一個(gè)作品都代表一位著作權(quán)人,如果單憑企業(yè)去進(jìn)行協(xié)商聯(lián)絡(luò),帶來的時(shí)間、經(jīng)濟(jì)上的壓力是不言而喻的。因此通過官方的平臺(tái)進(jìn)行作品登記,并向權(quán)利人支付報(bào)酬既可以提升交易效率、降低成本,又可以保證機(jī)器學(xué)習(xí)在獲得大量素材的同時(shí)兼顧原著作權(quán)人利益。

    但筆者認(rèn)為雖然從模式構(gòu)建上法定許可制度可以完美地解決目前人工智能機(jī)器學(xué)習(xí)和著作權(quán)人沖突的問題。但立足于實(shí)際,無論是起步階段還是后續(xù)的維護(hù)都存在著難以克服的困難,比如:一、著作權(quán)人登記是否強(qiáng)制?沒有著作權(quán)人的“孤兒作品”如何處理?二、目前的區(qū)塊鏈技術(shù)不足以支撐保證數(shù)據(jù)的絕對(duì)安全,技術(shù)的桎梏暫時(shí)無法滿足框架的搭建。三、法定許可的利益分配方案如何劃定且由誰監(jiān)督執(zhí)行?如果缺少高效公平的分配體系與監(jiān)督體系,著作權(quán)人應(yīng)得的利益仍舊難以保障。綜上,筆者認(rèn)為至少根據(jù)我國(guó)現(xiàn)狀來看,法定許可制度還只是一個(gè)理想型的方案,缺少實(shí)施的可能性。

    (二)合理使用:現(xiàn)實(shí)主義的選擇

    相對(duì)于法定許可制度,合理使用最大的優(yōu)勢(shì)就在于其實(shí)施的現(xiàn)實(shí)可能性以及不必支付報(bào)酬的屬性。目前除了科研院所、研發(fā)機(jī)構(gòu)等國(guó)家財(cái)力支撐的主體,還需要其他商業(yè)主體承擔(dān)技術(shù)開發(fā)、研究等工作。商業(yè)性質(zhì)的大型科技研發(fā)企業(yè)已經(jīng)成為人工智能研發(fā)主力。對(duì)此,參考?xì)W盟許可商業(yè)性主體在不損害著作權(quán)人合法權(quán)利的情況下對(duì)數(shù)據(jù)加以利用,并不禁止以營(yíng)利為目的的使用方式或許是當(dāng)下最好的選擇。在兼顧滋養(yǎng)人工智能創(chuàng)作產(chǎn)業(yè)的土壤肥沃的同時(shí)也確保以人為核心的著作權(quán)理念不被破壞。由于我國(guó)的人工智能技術(shù)尚處于起步階段,基于合理使用制度下的免費(fèi)使用無疑能為人工智能技術(shù)的研發(fā)節(jié)約更多的成本,滿足人工智能開發(fā)主體的研發(fā)需求。同時(shí)若能借鑒歐盟在《人工智能法案》草案中規(guī)定的生成式AI 創(chuàng)作者的“素材公示義務(wù)”,則在人工智能產(chǎn)出時(shí)也有助于將原著作權(quán)人的作品與口碑推向其他市場(chǎng),為原著作權(quán)人帶來潛在的收益。此外我國(guó)的合理使用制度還有著良好的立法與實(shí)踐基礎(chǔ),不但在新通過的《著作權(quán)法》中明確了“三步檢驗(yàn)法”的模式,且在實(shí)踐中也支持商業(yè)性主體以營(yíng)利為目的的使用。如上海美術(shù)電影制片廠訴新影公司案中,新影公司以“黑貓警長(zhǎng)”等卡通作品中的人物形象完善電影海報(bào)吸引顧客觀看,從而達(dá)到獲利的目的,法院也并沒有因?yàn)槠渖虡I(yè)性行為而認(rèn)定其侵權(quán)。故運(yùn)用合理使用制度來解決機(jī)器學(xué)習(xí)的著作權(quán)問題有著良好的現(xiàn)實(shí)基礎(chǔ)。最后,從著作權(quán)法追求“利益平衡”的角度來看,達(dá)成原作者“個(gè)人利益”與社會(huì)“公共利益”之間的平衡是雙方矛盾和解的前提。但現(xiàn)有《著作權(quán)法》從文本上看對(duì)生成式AI 大規(guī)模使用他人數(shù)據(jù)的行為仍持一種抵觸態(tài)度,其規(guī)定更加偏向于著作權(quán)人一方。具體表現(xiàn)為,生成式AI 在機(jī)器學(xué)習(xí)中稍有不慎就會(huì)觸碰到“個(gè)人利益”的邊界(如前文所提到的具體侵權(quán)風(fēng)險(xiǎn)),若只是機(jī)械地保護(hù)原作者的權(quán)益,顯然不利于該技術(shù)在“公共利益”方面帶來的效益,有悖于“利益平衡原則”。所以有必要對(duì)利益平衡的雙方價(jià)值重新進(jìn)行考量,避免因版權(quán)或成本問題使得生成式AI 缺少成長(zhǎng)的養(yǎng)分而引發(fā)“算法歧視”“非法剽竊信息”等惡劣行徑。故相比于法定許可制度的“等價(jià)交易”方式,在當(dāng)下生成式AI 的“發(fā)展起步階段”合理使用制度的免費(fèi)使用屬性更有利于“私人利益”與“公共利益”之間達(dá)成平衡。

    當(dāng)然,合理使用制度也存在著缺陷,一方面,《著作權(quán)法》第二十四條第十三項(xiàng)關(guān)于合理使用的兜底條款仍然存在問題。因?yàn)槠湟?guī)定的是“法律法規(guī)規(guī)定的其他情形”,這一前置條件使得合理使用的范圍急劇縮小,只有在其他法律法規(guī)中確定了相關(guān)合理使用的條款時(shí),才可以適用第十三項(xiàng)的要求并結(jié)合三步檢驗(yàn)法進(jìn)行判斷。而我國(guó)目前法律法規(guī)中具有相關(guān)規(guī)范的數(shù)量較少,26. 參見高陽、胡丹陽:《機(jī)器學(xué)習(xí)對(duì)著作權(quán)合理使用制度的挑戰(zhàn)與應(yīng)對(duì)》,載《電子知識(shí)產(chǎn)權(quán)》2020年第10 期,第13-25 頁。且都是依照《著作權(quán)法》中的合理使用內(nèi)容做出的相似規(guī)定,如果沒有在后續(xù)新頒布的法律法規(guī)中滿足生成式AI 機(jī)器學(xué)習(xí)的這種“其他情形”,就會(huì)陷入“先有雞還是先有蛋”的困境,故只依靠這些重復(fù)內(nèi)容來進(jìn)行判斷無法達(dá)成目的。另一方面合理使用制度無論再怎樣設(shè)定傾向于著作權(quán)人的條款在本質(zhì)上都是侵害其著作權(quán)的。不但原作者的復(fù)制權(quán)、改編權(quán)、傳播權(quán)等均有被侵權(quán)的風(fēng)險(xiǎn),且依靠其作品產(chǎn)出的產(chǎn)品一定程度上還會(huì)對(duì)原有作品產(chǎn)生替代作用,會(huì)極大地?fù)p害著作權(quán)人的合法權(quán)益,消磨其創(chuàng)作的熱情。不但不利于我國(guó)文化市場(chǎng)的長(zhǎng)期穩(wěn)定發(fā)展,還會(huì)反作用到人工智能領(lǐng)域,使得人工智能開發(fā)企業(yè)陷入無素材可用的尷尬境地。

    七、結(jié)論

    當(dāng)前大模型競(jìng)爭(zhēng)時(shí)代,在各界呼吁平衡人工智能產(chǎn)業(yè)發(fā)展與著作權(quán)保護(hù)之時(shí),亟待探索化解機(jī)器學(xué)習(xí)中的著作權(quán)風(fēng)險(xiǎn)的最優(yōu)路徑。雖然法定許可無論從長(zhǎng)遠(yuǎn)發(fā)展,還是合理性上均優(yōu)于合理使用制度,但是現(xiàn)階段尚不具備實(shí)踐基礎(chǔ)。知識(shí)產(chǎn)權(quán)制度的工具屬性與利益平衡宗旨,使其天然具備利益衡量下的社會(huì)總體福利最優(yōu)路徑選擇。合理使用路徑便是當(dāng)下人工智能發(fā)展戰(zhàn)略下的最優(yōu)解,歐盟的選擇亦是如此。未來,待區(qū)塊鏈技術(shù)發(fā)展到一定階段,且我國(guó)人工智能產(chǎn)業(yè)已奠定良好的競(jìng)爭(zhēng)基礎(chǔ)時(shí),機(jī)器學(xué)習(xí)訓(xùn)練素材的使用規(guī)則可以逐漸轉(zhuǎn)向法定許可。

    猜你喜歡
    著作權(quán)人機(jī)器人工智能
    著作權(quán)轉(zhuǎn)讓聲明
    著作權(quán)轉(zhuǎn)讓聲明
    機(jī)器狗
    機(jī)器狗
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    未來機(jī)器城
    電影(2018年8期)2018-09-21 08:00:06
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    無敵機(jī)器蛛
    久久久久久亚洲精品国产蜜桃av| 久久精品夜夜夜夜夜久久蜜豆 | 人人妻,人人澡人人爽秒播| 亚洲三区欧美一区| 国产精品免费视频内射| 12—13女人毛片做爰片一| 男女做爰动态图高潮gif福利片| 在线天堂中文资源库| 一本久久中文字幕| svipshipincom国产片| 韩国av一区二区三区四区| 天天躁夜夜躁狠狠躁躁| 久久久国产精品麻豆| 亚洲一卡2卡3卡4卡5卡精品中文| 成人一区二区视频在线观看| 不卡一级毛片| 亚洲精品国产精品久久久不卡| 这个男人来自地球电影免费观看| xxx96com| 久久香蕉精品热| 丁香欧美五月| 国产精品久久久久久人妻精品电影| 成人国语在线视频| 女性被躁到高潮视频| 亚洲国产精品999在线| 国产一区二区三区在线臀色熟女| aaaaa片日本免费| 国产精品野战在线观看| 国产精品影院久久| 国内毛片毛片毛片毛片毛片| 很黄的视频免费| 亚洲精品av麻豆狂野| 丝袜在线中文字幕| 女性生殖器流出的白浆| 日韩有码中文字幕| 国产亚洲精品av在线| 大型黄色视频在线免费观看| av有码第一页| 女警被强在线播放| netflix在线观看网站| 亚洲全国av大片| 国产午夜精品久久久久久| 国产欧美日韩一区二区精品| 色播在线永久视频| 亚洲国产毛片av蜜桃av| 久久久久久久精品吃奶| 国产高清videossex| 精品福利观看| 亚洲激情在线av| 1024视频免费在线观看| 亚洲人成网站高清观看| 中文亚洲av片在线观看爽| 久久天堂一区二区三区四区| 好男人在线观看高清免费视频 | 国产一区二区三区在线臀色熟女| 少妇的丰满在线观看| 国产伦一二天堂av在线观看| 午夜福利欧美成人| 欧美zozozo另类| 国产亚洲欧美精品永久| 国产精品99久久99久久久不卡| 日韩精品免费视频一区二区三区| 男男h啪啪无遮挡| 成人av一区二区三区在线看| 欧美性猛交╳xxx乱大交人| 很黄的视频免费| 亚洲国产日韩欧美精品在线观看 | 国产久久久一区二区三区| 久久久久国产精品人妻aⅴ院| 一级a爱片免费观看的视频| 亚洲七黄色美女视频| 欧美一级毛片孕妇| 亚洲色图av天堂| 男女做爰动态图高潮gif福利片| 中亚洲国语对白在线视频| 国产av一区在线观看免费| 一级a爱视频在线免费观看| 少妇被粗大的猛进出69影院| 成人手机av| 黄片播放在线免费| 亚洲中文字幕一区二区三区有码在线看 | 日本三级黄在线观看| 婷婷精品国产亚洲av| 欧美黑人精品巨大| 午夜福利在线观看吧| 亚洲天堂国产精品一区在线| 国产爱豆传媒在线观看 | 黄色片一级片一级黄色片| 亚洲av片天天在线观看| avwww免费| 啪啪无遮挡十八禁网站| 亚洲国产精品久久男人天堂| 99久久久亚洲精品蜜臀av| 女生性感内裤真人,穿戴方法视频| 久久久国产成人免费| 波多野结衣巨乳人妻| 最好的美女福利视频网| 免费搜索国产男女视频| 我的亚洲天堂| 99久久久亚洲精品蜜臀av| 成人亚洲精品一区在线观看| 一卡2卡三卡四卡精品乱码亚洲| 亚洲色图av天堂| 亚洲激情在线av| tocl精华| 天堂影院成人在线观看| 熟妇人妻久久中文字幕3abv| 久久亚洲真实| 欧美色视频一区免费| 女人被狂操c到高潮| 日本三级黄在线观看| 成人国产综合亚洲| www日本黄色视频网| 久久香蕉国产精品| 亚洲aⅴ乱码一区二区在线播放 | 色播亚洲综合网| 日本三级黄在线观看| 动漫黄色视频在线观看| 黑丝袜美女国产一区| 欧美丝袜亚洲另类 | 免费看a级黄色片| 久久久久亚洲av毛片大全| 久久人妻福利社区极品人妻图片| 伦理电影免费视频| 伊人久久大香线蕉亚洲五| 国产一区二区在线av高清观看| aaaaa片日本免费| 色婷婷久久久亚洲欧美| 18禁国产床啪视频网站| 精品无人区乱码1区二区| 国产精品亚洲美女久久久| avwww免费| 大香蕉久久成人网| 精品卡一卡二卡四卡免费| 丁香欧美五月| 欧美人与性动交α欧美精品济南到| 色综合婷婷激情| 丁香欧美五月| 又大又爽又粗| 久久久久免费精品人妻一区二区 | 热99re8久久精品国产| 欧美 亚洲 国产 日韩一| 午夜福利欧美成人| 午夜免费激情av| 99国产精品99久久久久| 丁香欧美五月| 久久九九热精品免费| 日日爽夜夜爽网站| 97人妻精品一区二区三区麻豆 | 日韩国内少妇激情av| 国产蜜桃级精品一区二区三区| 青草久久国产| 国产免费男女视频| 亚洲精品美女久久av网站| 免费在线观看亚洲国产| 日韩中文字幕欧美一区二区| 免费观看人在逋| www.熟女人妻精品国产| 男女午夜视频在线观看| 久久九九热精品免费| 精品卡一卡二卡四卡免费| 国产又色又爽无遮挡免费看| 黄色片一级片一级黄色片| 国产99久久九九免费精品| 亚洲精品中文字幕在线视频| 久久人妻av系列| 国产精品99久久99久久久不卡| 国产蜜桃级精品一区二区三区| 十八禁人妻一区二区| 亚洲av电影不卡..在线观看| 无限看片的www在线观看| 亚洲国产毛片av蜜桃av| 狠狠狠狠99中文字幕| 桃色一区二区三区在线观看| 9191精品国产免费久久| 伊人久久大香线蕉亚洲五| 成人亚洲精品一区在线观看| 久久人妻av系列| av中文乱码字幕在线| 亚洲精华国产精华精| 国产精品电影一区二区三区| 色综合亚洲欧美另类图片| 亚洲成人久久爱视频| 欧美 亚洲 国产 日韩一| 久久中文看片网| 国产麻豆成人av免费视频| 亚洲一区中文字幕在线| 亚洲av成人av| 国产久久久一区二区三区| 国产99白浆流出| 欧美日韩亚洲综合一区二区三区_| 亚洲第一欧美日韩一区二区三区| 国产午夜福利久久久久久| 久久久精品欧美日韩精品| 国产激情久久老熟女| 悠悠久久av| 精品免费久久久久久久清纯| 欧美久久黑人一区二区| 搡老岳熟女国产| 青草久久国产| 欧美精品亚洲一区二区| 国产精品精品国产色婷婷| 国产精品永久免费网站| 欧美av亚洲av综合av国产av| 国产真实乱freesex| 人妻制服诱惑在线中文字幕| 久久人人爽人人爽人人片va| 国产91av在线免费观看| 婷婷精品国产亚洲av在线| 在线观看午夜福利视频| 国产成人freesex在线 | 色尼玛亚洲综合影院| ponron亚洲| 99久久无色码亚洲精品果冻| 免费一级毛片在线播放高清视频| 丰满的人妻完整版| 在线免费十八禁| 国产av麻豆久久久久久久| 精品人妻熟女av久视频| 久久天躁狠狠躁夜夜2o2o| 国产精品伦人一区二区| 欧美不卡视频在线免费观看| 国产蜜桃级精品一区二区三区| 禁无遮挡网站| 99久久精品一区二区三区| 又粗又爽又猛毛片免费看| 97超视频在线观看视频| 国产中年淑女户外野战色| 欧美+日韩+精品| 久久99热这里只有精品18| 欧美色视频一区免费| 久久亚洲国产成人精品v| 男人舔女人下体高潮全视频| 一区二区三区免费毛片| 午夜久久久久精精品| 免费在线观看影片大全网站| 久久久久久久午夜电影| 麻豆av噜噜一区二区三区| 亚洲最大成人中文| 国产精品久久久久久精品电影| 最后的刺客免费高清国语| 欧美一级a爱片免费观看看| 日本黄大片高清| 久久久久久伊人网av| videossex国产| 日韩欧美国产在线观看| av在线蜜桃| 成人三级黄色视频| 日日摸夜夜添夜夜添av毛片| .国产精品久久| 天堂√8在线中文| 日韩 亚洲 欧美在线| 国产午夜精品论理片| 亚洲国产精品sss在线观看| 偷拍熟女少妇极品色| 成年免费大片在线观看| 日本黄大片高清| 观看美女的网站| 国产精品久久久久久久久免| 久久九九热精品免费| 午夜精品在线福利| 国产精品一区二区免费欧美| 国产三级中文精品| 老司机影院成人| 大香蕉久久网| 91在线精品国自产拍蜜月| 午夜视频国产福利| 国产黄a三级三级三级人| 99热这里只有精品一区| 欧美日韩精品成人综合77777| 99久国产av精品国产电影| 大又大粗又爽又黄少妇毛片口| 久久国产乱子免费精品| 一级毛片我不卡| 日本一本二区三区精品| 日韩制服骚丝袜av| 99久国产av精品| 波多野结衣高清无吗| 男人和女人高潮做爰伦理| 黄色配什么色好看| 欧美性感艳星| 美女被艹到高潮喷水动态| 久久久久久久久大av| 精品日产1卡2卡| 人人妻人人澡欧美一区二区| 午夜激情福利司机影院| 99久久久亚洲精品蜜臀av| 欧美成人一区二区免费高清观看| h日本视频在线播放| 免费大片18禁| 国产成人一区二区在线| 国产一区二区三区在线臀色熟女| 国产av麻豆久久久久久久| 在线免费观看的www视频| 蜜桃久久精品国产亚洲av| 亚洲自拍偷在线| 成人性生交大片免费视频hd| 两个人的视频大全免费| 亚洲va在线va天堂va国产| 欧美不卡视频在线免费观看| 日韩欧美免费精品| 亚洲性久久影院| 亚洲内射少妇av| 中文在线观看免费www的网站| 少妇丰满av| 女人被狂操c到高潮| 国产三级中文精品| 非洲黑人性xxxx精品又粗又长| 精品熟女少妇av免费看| 毛片女人毛片| 不卡一级毛片| 欧美色视频一区免费| 亚洲国产高清在线一区二区三| 天天躁日日操中文字幕| 国产精品1区2区在线观看.| 精品免费久久久久久久清纯| 搞女人的毛片| 观看美女的网站| 亚洲欧美成人精品一区二区| 淫秽高清视频在线观看| 亚洲精华国产精华液的使用体验 | 亚洲最大成人av| 国产av麻豆久久久久久久| 国产精品一区二区三区四区久久| 欧美一级a爱片免费观看看| 色吧在线观看| 国产高清三级在线| 五月玫瑰六月丁香| 国产探花在线观看一区二区| 少妇的逼好多水| 老女人水多毛片| 色综合亚洲欧美另类图片| 欧美另类亚洲清纯唯美| 色噜噜av男人的天堂激情| 成年女人毛片免费观看观看9| av在线观看视频网站免费| 51国产日韩欧美| 91久久精品电影网| 国产麻豆成人av免费视频| 成人av一区二区三区在线看| 国产精品美女特级片免费视频播放器| 成人毛片a级毛片在线播放| 国产精品嫩草影院av在线观看| 夜夜看夜夜爽夜夜摸| 中国美女看黄片| .国产精品久久| av卡一久久| 国产成人影院久久av| 国产高清不卡午夜福利| 插阴视频在线观看视频| av天堂中文字幕网| 99riav亚洲国产免费| 免费av不卡在线播放| 国产精品久久久久久av不卡| h日本视频在线播放| 久久韩国三级中文字幕| 一级黄色大片毛片| 最后的刺客免费高清国语| 女同久久另类99精品国产91| 国产亚洲精品久久久com| 你懂的网址亚洲精品在线观看 | av在线播放精品| 成人永久免费在线观看视频| 日本a在线网址| 内射极品少妇av片p| 综合色丁香网| 日韩精品中文字幕看吧| 一区二区三区免费毛片| 精品熟女少妇av免费看| 人妻少妇偷人精品九色| 亚洲av中文av极速乱| 国产黄色视频一区二区在线观看 | 亚洲av五月六月丁香网| 嫩草影院入口| 国产亚洲精品久久久久久毛片| 国产成人影院久久av| 国产精品久久久久久久电影| 麻豆国产av国片精品| 国产女主播在线喷水免费视频网站 | 亚洲欧美成人精品一区二区| 观看美女的网站| 免费看光身美女| 一区二区三区四区激情视频 | 成人国产麻豆网| 亚洲国产精品久久男人天堂| 亚洲一级一片aⅴ在线观看| 久久人妻av系列| 日本精品一区二区三区蜜桃| 成人欧美大片| 国产精品精品国产色婷婷| 搡老熟女国产l中国老女人| 偷拍熟女少妇极品色| 欧美激情国产日韩精品一区| 欧美在线一区亚洲| 国产亚洲精品久久久久久毛片| 禁无遮挡网站| 精品人妻偷拍中文字幕| 麻豆乱淫一区二区| 精品人妻视频免费看| 亚洲av不卡在线观看| 草草在线视频免费看| 直男gayav资源| 免费电影在线观看免费观看| 天堂网av新在线| 床上黄色一级片| 午夜视频国产福利| 日本免费a在线| 伊人久久精品亚洲午夜| 国产成人a∨麻豆精品| 小说图片视频综合网站| 久久久国产成人免费| 国产免费一级a男人的天堂| 亚洲国产精品成人久久小说 | 亚洲无线在线观看| 搞女人的毛片| 美女内射精品一级片tv| 亚洲中文字幕一区二区三区有码在线看| 亚洲欧美日韩高清专用| 久久欧美精品欧美久久欧美| 蜜桃亚洲精品一区二区三区| 99久久精品热视频| 中文字幕久久专区| 激情 狠狠 欧美| 久久久久久久久久成人| 毛片一级片免费看久久久久| 中文亚洲av片在线观看爽| 1024手机看黄色片| 婷婷精品国产亚洲av在线| 又爽又黄无遮挡网站| 国内揄拍国产精品人妻在线| av在线老鸭窝| 综合色av麻豆| 国产精品国产高清国产av| 一边摸一边抽搐一进一小说| 国产高清视频在线播放一区| 日本撒尿小便嘘嘘汇集6| 成人三级黄色视频| 天堂影院成人在线观看| 女生性感内裤真人,穿戴方法视频| 欧美日本视频| 日日干狠狠操夜夜爽| 熟妇人妻久久中文字幕3abv| 亚洲精品粉嫩美女一区| 午夜激情福利司机影院| 中文字幕精品亚洲无线码一区| 国内精品一区二区在线观看| 国产一区二区激情短视频| 国产av一区在线观看免费| av国产免费在线观看| 欧美色欧美亚洲另类二区| 亚洲国产高清在线一区二区三| 欧美在线一区亚洲| 特级一级黄色大片| 丰满乱子伦码专区| 精品一区二区三区av网在线观看| 国产男靠女视频免费网站| 一本久久中文字幕| 熟妇人妻久久中文字幕3abv| 黑人高潮一二区| 欧美国产日韩亚洲一区| 亚洲精品成人久久久久久| 久久精品国产亚洲网站| 国产精品1区2区在线观看.| 日日干狠狠操夜夜爽| 日韩成人伦理影院| 久久天躁狠狠躁夜夜2o2o| 黄色日韩在线| 亚洲综合色惰| 性欧美人与动物交配| 日本免费一区二区三区高清不卡| 女人十人毛片免费观看3o分钟| 日日摸夜夜添夜夜添av毛片| 变态另类丝袜制服| av在线老鸭窝| 菩萨蛮人人尽说江南好唐韦庄 | 麻豆成人午夜福利视频| 国产成人精品久久久久久| 男人的好看免费观看在线视频| 大型黄色视频在线免费观看| 午夜福利成人在线免费观看| 亚州av有码| 国产在线男女| 免费搜索国产男女视频| 不卡一级毛片| 久久久国产成人精品二区| 免费av毛片视频| 成人欧美大片| 欧美zozozo另类| 亚洲第一区二区三区不卡| 热99re8久久精品国产| 国产一区二区在线观看日韩| 国内精品久久久久精免费| 俄罗斯特黄特色一大片| 欧美区成人在线视频| 别揉我奶头~嗯~啊~动态视频| 亚洲国产精品sss在线观看| 午夜久久久久精精品| 亚洲无线在线观看| 黄色日韩在线| 热99re8久久精品国产| 男人舔女人下体高潮全视频| 免费人成在线观看视频色| 国产精品女同一区二区软件| 高清午夜精品一区二区三区 | 久久亚洲国产成人精品v| 六月丁香七月| 亚洲精品亚洲一区二区| 亚洲图色成人| 色综合站精品国产| 人人妻人人澡人人爽人人夜夜 | 在线天堂最新版资源| 非洲黑人性xxxx精品又粗又长| 最新中文字幕久久久久| 中文字幕久久专区| 两个人视频免费观看高清| 精品熟女少妇av免费看| 又爽又黄无遮挡网站| 在线免费观看的www视频| 搡老熟女国产l中国老女人| 97热精品久久久久久| 波多野结衣高清无吗| 亚洲图色成人| or卡值多少钱| 99视频精品全部免费 在线| 最近的中文字幕免费完整| 午夜a级毛片| 可以在线观看毛片的网站| 两个人视频免费观看高清| av在线蜜桃| 99久国产av精品| 长腿黑丝高跟| 色综合色国产| 狂野欧美白嫩少妇大欣赏| 久久精品夜夜夜夜夜久久蜜豆| 国产av麻豆久久久久久久| 少妇猛男粗大的猛烈进出视频 | 亚洲精品国产成人久久av| 黄色日韩在线| 99热全是精品| 我的女老师完整版在线观看| 成人永久免费在线观看视频| 免费观看的影片在线观看| 欧美日韩在线观看h| 最近最新中文字幕大全电影3| 狂野欧美激情性xxxx在线观看| 亚洲成人av在线免费| 美女 人体艺术 gogo| 日韩欧美一区二区三区在线观看| 少妇的逼水好多| 97热精品久久久久久| 国产男靠女视频免费网站| 真实男女啪啪啪动态图| 男女之事视频高清在线观看| 精品一区二区三区人妻视频| 午夜精品国产一区二区电影 | 两个人视频免费观看高清| 一区二区三区高清视频在线| 亚洲av不卡在线观看| 女生性感内裤真人,穿戴方法视频| 网址你懂的国产日韩在线| 国产中年淑女户外野战色| 国产私拍福利视频在线观看| 久久久久久国产a免费观看| 国产精品一区二区三区四区免费观看 | 国产在线男女| 亚洲精品久久国产高清桃花| 亚洲美女黄片视频| 亚洲三级黄色毛片| 欧美激情在线99| 身体一侧抽搐| 亚洲av不卡在线观看| 97在线视频观看| 女同久久另类99精品国产91| 欧美3d第一页| 久久人人爽人人爽人人片va| h日本视频在线播放| 麻豆精品久久久久久蜜桃| 亚洲精品色激情综合| 日韩国内少妇激情av| 能在线免费观看的黄片| 99热网站在线观看| 内射极品少妇av片p| 亚洲欧美中文字幕日韩二区| 搡女人真爽免费视频火全软件 | 国产精品一区二区三区四区久久| 国产毛片a区久久久久| 非洲黑人性xxxx精品又粗又长| 国产精品免费一区二区三区在线| 欧美绝顶高潮抽搐喷水| 1024手机看黄色片| 日韩制服骚丝袜av| 欧美人与善性xxx| 国产人妻一区二区三区在| 国产蜜桃级精品一区二区三区| 亚洲性久久影院| 在线免费十八禁| 国产精品久久久久久精品电影| 熟妇人妻久久中文字幕3abv| 人妻少妇偷人精品九色| 91麻豆精品激情在线观看国产| 伊人久久精品亚洲午夜| 国产黄色视频一区二区在线观看 | 欧美bdsm另类| 99久久成人亚洲精品观看| 久久久久国产精品人妻aⅴ院| 色哟哟·www| 欧美+日韩+精品| 精品久久久久久久末码| 国产熟女欧美一区二区| 精品一区二区三区视频在线| 亚洲精品一区av在线观看| 成熟少妇高潮喷水视频| 在线免费观看的www视频| 91在线观看av| 亚洲高清免费不卡视频|