• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    生成式人工智能訓練數據獲取的版權障礙及反壟斷進路

    2025-07-30 00:00:00譚袁
    科技與法律 2025年3期
    關鍵詞:服務提供者許可人工智能

    中圖分類號:D923 文獻標志碼:A 文章編號:2096-9783(2025)03-0081-12

    生成式人工智能作為人工智能發(fā)展的最新階段和集大成者,正成為國際競爭的新陣地。2017年7月,國務院印發(fā)《新一代人工智能發(fā)展規(guī)劃》,明確我國應將人工智能發(fā)展放在國家戰(zhàn)略層面系統布局、主動謀劃,牢牢把握人工智能發(fā)展新階段國際競爭的戰(zhàn)略主動①。此后,為落實規(guī)劃要求,工業(yè)和信息化部、科技部等部門出臺了一系列政策。2023年和2024年,人工智能法草案連續(xù)兩年被納入國務院年度立法工作計劃。

    美國、歐盟和日本等國家和地區(qū)也已開始制定以通用人工智能為核心的第四次工業(yè)革命發(fā)展戰(zhàn)略,促進生成式人工智能的落地應用1]。2023年5月23日,美國白宮發(fā)布《國家人工智能研發(fā)戰(zhàn)略計劃》,旨在確保美國在研發(fā)和應用可信賴的人工智能系統方面繼續(xù)處于領導地位[2。2024年3月,歐洲議會通過《人工智能法案》,意在引領人工智能領域的監(jiān)管。2022年4月,日本政府發(fā)布《人工智能戰(zhàn)略 2022) ,以指導日本人工智能技術的戰(zhàn)略發(fā)展。

    生成式人工智能產業(yè)的發(fā)展以高質量的訓練數據為基礎,訓練數據在整個生成式人工智能研發(fā)過程中具有無可取代的重要性3。然而,這些優(yōu)質的訓練數據往往是受版權保護的作品。如果生成式人工智能服務提供者無法獲得這些作品來訓練大模型,則無法保證生成式人工智能的先進性。為了解決生成式人工智能發(fā)展過程中訓練數據獲取所面臨的版權障礙,歐盟和美國通過制定新的規(guī)則或對現行版權法進行解釋的方式尋求突破。然而,歐盟所制定的新的規(guī)則設定了諸多例外規(guī)定,為版權人禁止生成式人工智能服務提供者獲取數據留下了很大的空間。同時,生成式人工智能對版權作品的使用方式難以契合傳統版權法中的合理使用原則,因此,版權法在解決生成式人工智能服務提供者獲取訓練數據的問題上,存在局限性。

    生成式人工智能服務提供者無法獲得版權作品,也可能因版權人等從事壟斷行為所致。對此,需要依據反壟斷法進行有效規(guī)制,避免因壟斷行為而阻礙生成式人工智能服務提供者獲取必要的版權作品。反壟斷可以成為解決這種版權障礙的一種補充性方案。不過同樣需要注意的是,反壟斷規(guī)制本身也面臨諸多挑戰(zhàn)。壟斷行為的認定并非易事。從實踐角度來看,目前尚無依據反壟斷對生成式人工智能訓練數據獲取障礙實施規(guī)制的經驗。生成式人工智能訓練數據所涉及的版權問題,當前主要為版權法學者所關注,相關探討也主要集中在版權法領域。無論是國內還是國際,均沒有基于反壟斷法的規(guī)制實踐。國內反壟斷法學者對涉及生成式人工智能問題的關注,主要集中在生成式人工智能本身所可能引發(fā)的壟斷風險上[4-5],雖然也有學者關注到數據、模型、人才和算力等關鍵資源領域的壟斷行為可能會阻礙生成式人工智能的發(fā)展,但并未探討訓練數據獲取方面涉及版權的壟斷問題。

    知識產權法和反壟斷法之間具有非常密切的關聯性,知識產權本身就是一種法定壟斷。盡管與專利相關的反壟斷問題隨著標準必要專利相關產業(yè)的發(fā)展而受到廣泛關注,但版權反壟斷由于在很長一段時間內缺乏實踐而被忽視。即便是生成式人工智能產業(yè)已經發(fā)展得如火如荼,其中可能涉及的版權反壟斷問題也鮮受關注。學術界最先關注的是人工智能生成內容的作品性認定問題,對產業(yè)界首先遭遇的訓練數據合法性指控問題研究較少7],這與訓練數據在生成式人工智能中的重要地位不相適應8。根據知識產權反壟斷發(fā)展規(guī)律,版權反壟斷問題也是一種必然會出現的問題。生成式人工智能產業(yè)的發(fā)展,不僅為版權反壟斷提供了難得的契機,也為理論界深人探討版權反壟斷問題提供了重要的時代背景。

    一、生成式人工智能發(fā)展的訓練數據需求及版權障礙

    自2022年夏天以來,生成式人工智能應用逐漸進入大眾化階段,由最早的\"文生圖\"(text-to-image)應用發(fā)展到“文生文\"(text-to-text)應用。生成式人工智能之所以能夠在全球范圍內取得成功,主要得益于其規(guī)?;?、平臺化和數據化。2024年2月15日,OpenAI發(fā)布了基于“文生視頻\"(text-to-video)技術的大模型工具Sora,將生成式人工智能的發(fā)展推進到新的階段。生成式人工智能的發(fā)展依賴海量高質量數據的“投喂”,而這些數據往往受版權保護,導致生成式人工智能獲取訓練數據面臨巨大的版權障礙。

    (一)生成式人工智能發(fā)展的訓練數據需求

    生成式人工智能實現了由代碼定義型到數據訓練型的技術迭代,通過輸入海量數據進行模型訓練,以生成類似于人類思維創(chuàng)作文本的內容,其運作大體包括三個階段,即數據輸入、機器訓練和結果生成[10]。生成式人工智能發(fā)展的基本保證和必要條件就是需要獲得大量的訓練數據,這是大語言模型能夠獲得生成、推理、預測等能力的基礎。生成式人工智能的發(fā)展對訓練數據在量和質方面都有較高要求。

    一方面,訓練數據的“量\"對生成式人工智能的發(fā)展至關重要。生成式人工智能的發(fā)展需要大量的訓練數據,只有通過海量的學習、嘗試,生成式人工智能才能夠歸納總結出若干模型、風格與規(guī)則12。例如,文本到圖像生成模型StableDiffusion使用非營利組織LAION收集的三個大型數據集進行訓練,包括58.5億個圖像-文本對。自然語言處理模型GPT-3從45TB原始數據中過濾出570GB數據進行訓練,這些數據包括網站抓取數據集、網頁文本數據集、圖書語料庫和英語維基百科,共設置了1750億個參數8。而GPT-4的參數量則已經達到了百萬億級,隨著GPT技術的迭代,其技術模型參數和數據量也在不斷倍增[13]。海量的數據需求,契合了生成式人工智能所具有的涌現性、泛化性和通用性三大區(qū)別于傳統人工智能的技術特征[14]。訓練數據越廣泛,越有助于降低生成式人工智能的錯誤率[15]。尺度定律表明,隨著模型參數量和訓練數據量的提升,模型的能力也會不斷攀升,這促使以GPT-4o為代表的生成式人工智能模型在功能性和有用性上取得了巨大突破[。可見,海量的數據有助于提升模型的訓練效果,增強模型的理解能力,提升生成內容的質量,對生成式人工智能的發(fā)展具有不可或缺的價值。

    另一方面,訓練數據的“質\"對生成式人工智能的發(fā)展尤為關鍵。生成式人工智能的發(fā)展不僅依賴于海量的訓練數據,而且還取決于這些數據的質量。本質上而言,生成式人工智能就是通過大量學習人類的語言以及藝術創(chuàng)作規(guī)則、模式等,生成符合人類語言習慣并具有審美價值的內容[7。如果輸入模型的數據本身是低質量的,那么最終生成的內容也將同樣低質量,無法契合用戶的需求。這將產生所謂的“垃圾進,垃圾出\"(garbage in,garbage out)問題[8]。如果輸入的數據是錯誤的、不完整的或者低質量的,那么無論算法或模型有多先進,最終生成的結果也很有可能同樣是錯誤的、不完整的或者低質量的。高質量的數據可以更好地模擬客觀世界,將其作為訓練數據可以增強模型能力[19]。因此,訓練數據的質量在很大程度上決定了生成內容的效果和可靠性。以Sora為例,其可根據指令生成時長達1分鐘的高質量連貫視頻,在全球引發(fā)了廣泛關注,其之所以能夠取得巨大成功,與其使用高度描述性字幕短視頻等優(yōu)質樣本具有直接關系[20]。然而,我國當前面臨訓練數據尤其是高質量中文數據不足的困境,限制了生成式人工智能技術的發(fā)展[21]。中文領域優(yōu)質數據缺失嚴重,例如,就可供直接爬取的網頁數據而言,在規(guī)模排名世界前100萬的互聯網網站中,中文網站僅占 1.3% ,而英文網站占比則達到了 59.3% ,正是基于這種困境,有觀點主張打破版權壁壘,充分利用我國大規(guī)模且高質量的作品,以解決我國優(yōu)質訓練數據不足的問題,滿足我國人工智能發(fā)展的數據需求[22]。我國《生成式人工智能服務管理暫行辦法》也要求生成式人工智能服務提供者“采取有效措施提高訓練數據質量,增強訓練數據的真實性、準確性、客觀性、多樣性\"②

    受版權保護的作品之所以是生成式人工智能優(yōu)質的訓練數據,是因為其具有豐富的語言結構、創(chuàng)意性表達和思想內容[23]。生成式人工智能服務提供者能否在競爭中占據優(yōu)勢,在很大程度上取決于其是否能夠獲得大量高質量的訓練數據。由于這種優(yōu)質訓練數據往往是受版權保護的作品,這意味著生成式人工智能服務提供者在獲取優(yōu)質數據時將面臨版權障礙。

    (二)訓練數據獲取的版權障礙

    作為生成式人工智能發(fā)展所需要的訓練數據,不僅來源于公共領域的作品數據,而且也來源于尚在版權保護范圍內的作品數據。相比于其他數據,作品數據是典型的高質量數據資料,具有無與倫比的算法訓練價值24。如果生成式人工智能模型無法使用受版權保護的作品,則這些模型的價值將大大降低。正如OpenAI在提交給美國眾議院通信和數字特別委員會的文件中明確指出:由于現在的版權幾乎涵蓋了所有的人類表達,包括博客文章、照片、論壇帖子、軟件代碼片段等,因此如果生成式人工智能模型不使用受版權保護的內容,就不可能訓練領先的人工智能模型。如果僅將訓練數據限定為一個多世紀前創(chuàng)作的、已進人公共領域的書籍和畫作,盡管這可能會是一個有趣的實驗,但無法提供能夠滿足如今公眾所需求的人工智能系統[25]。然而,生成式人工智能服務提供者在獲取作品數據時仍面臨著版權方面的障礙,這既包括未經許可使用這些作品數據可能面臨的侵權風險,也包括獲得版權許可所面臨的實際困難。

    1.未經許可使用版權作品所面臨的侵權風險將阻礙生成式人工智能的發(fā)展

    對于受版權保護的作品,生成式人工智能服務提供者在尋求將其作為訓練數據時,應當獲得版權人的許可。如果生成式人工智能使用這些數據時未經版權人授權,有可能會侵害版權[26。具體而言,生成式人工智能在發(fā)展過程中,在通過爬蟲技術等手段爬取版權作品數據時,可能侵犯版權人的復制權,在訓練數據輸人階段,為了將所收集的版權作品轉碼為結構化數據,又可能涉及侵犯版權人的改編權、匯編權、翻譯權等[7]。

    生成式人工智能訓練數據獲取和使用過程中所涉及的版權侵權風險,也引起了監(jiān)管機構的關注和重視。2023年5月,美國版權局舉行了關于人工智能和視覺藝術的玲聽會議,關注訓練數據使用版權作品的問題③。我國更是直接作出了明確規(guī)定。2023年7月,國家網信辦等七部門共同發(fā)布的《生成式人工智能服務管理暫行辦法》第七條規(guī)定,“生成式人工智能服務提供者應當依法開展預訓練、優(yōu)化訓練等訓練數據處理活動”,“不得侵害他人依法享有的知識產權”。2024年3月1日,全國網絡安全標準化委員會發(fā)布《生成式人工智能服務安全基本要求》,其中對識別語料內容涉及知識產權侵權作出了具體規(guī)定④。包括我國在內的主要國家和地區(qū)都在人工智能立法中要求生成式人工智能服務提供者主動披露訓練數據中涉及版權作品的信息

    從全球來看,已經出現了諸多版權人起訴生成式人工智能企業(yè)的訴訟。2023年1月,美國蓋帝圖像有限公司(GettyImages)在倫敦高等法院起訴人工智能企業(yè) Stability AI侵犯蓋帝圖像所擁有的版權內容[27]。藝術家針對StabilityAI等提起集體訴訟,指控Stabili-ty AI等復制、轉換和利用他們作品。2023年6月,文學作家針對OpenAI提起集體訴訟,指控OpenAI在未獲授權的情況下利用這些作家的版權作品訓練其ChatGPT?。2023年12月,《紐約時報》提起訴訟,指控OpenAI的ChatGPT和微軟的Copilot未經許可使用其內容開發(fā)生成式人工智能產品,這些產品接受了數百萬條《紐約時報》內容的訓練,并利用這些材料為用戶生成答案[28]。在我國也出現了類似的案件。2024年1月,擁有奧特曼系列形象版權獨占授權的上海某文化發(fā)展公司選擇將人工智能生成網站Tab(化名)訴至廣州互聯網法院,理由是Tab未經授權即擅自利用原告享有權利的作品訓練其大模型并生成實質性相似的圖片[29]。如無法有效解決訓練數據版權問題,生成式人工智能的發(fā)展就始終存在“阿喀琉斯之踵”。

    2.主動尋求獲得版權許可存在實際困難

    由于生成式人工智能自身的技術特性,決定其依據傳統版權許可模式尋求獲得許可時將面臨諸多實際困難。

    其一,識別版權人并與其取得聯系存在困難。大多數生成式人工智能服務提供者并未主動披露其訓練數據中所包含的版權作品情況。不過,即便版權作品在訓練數據中所占比例較低,但鑒于訓練數據的海量規(guī)模,其中所涉及的版權作品數量也將十分龐大。由于訓練數據的來源可能不明確或不可追溯,因此被用作訓練數據的作品的版權人確切身份可能很難確定,從而無法獲得有效的版權許可[8。同時,即便生成式人工智能服務提供者主觀上具有向版權人尋求獲得授權的意愿,由于版權人數量眾多,因此逐一向所有版權人尋求許可,在實踐中也將面臨極大的困難。要求生成式人工智能服務提供者從“海量作者”中點對點地獲得“海量作品\"的“海量許可\"在現實中幾乎不太可能[30。盡管集體管理組織可以發(fā)揮一定作用,互聯網平臺理論上也可以發(fā)展一些對接機制,但仍然存在許多非常突出的困難[31]。

    其二,許可成本高昂。即便生成式人工智能服務提供者能夠識別版權人并與之取得聯系,每個版權人哪怕僅收取數額極少的許可費,累積的總許可費可能仍然是一個巨大的金額,超出生成式人工智能服務提供者所能夠承受的范圍。如果訓練數據都必須獲得作品版權人許可、向其支付報酬、指明作者姓名或者作品名稱,即使大型企業(yè)也很難做到,遑論初創(chuàng)企業(yè)[32。除了這種直接的許可費用成本外,與數量眾多的版權人進行許可談判,也會產生極高的交易成本,經過權衡之后,生成式人工智能服務提供者最終可能不得不放棄繼續(xù)研發(fā),這將造成社會福利損失。

    其三,版權法本身的復雜性進一步加劇了這種困難。由于版權的地域性割裂,這導致同一作品在不同地區(qū)的版權保護情況也可能不同,需要考慮全球范圍內的版權法律規(guī)定,極大的增加了訓練數據合規(guī)的難度[33]

    二、訓練數據獲取的版權法路徑及其局限性

    為了解決生成式人工智能發(fā)展中的訓練數據版權問題,歐盟和美國都從版權法內部尋找可能的解決途徑,但仍然面臨較大的局限性。

    (一)版權法路徑的嘗試

    1.歐盟制定專門法

    2019年4月17日,歐洲議會和歐盟理事會制定了《數字化單一市場版權指令》(以下簡稱《指令》)?!吨噶睢返?條和第4條是關于文本和數據挖掘(textanddatamining)的特別規(guī)定,旨在適應數字和跨境環(huán)境下的版權例外要求,為人工智能數據訓練行為提供合理使用的依據7。不過,這兩條規(guī)定針對的對象并不相同。

    第3條規(guī)定的豁免僅限于研究機構和文化遺產機構為科學研究目的所展開的文本和數據挖掘行為,因此是一種非商業(yè)使用。與生成式人工智能訓練數據獲取相關的是該《指令》第4條對基于文本和數據挖掘目的而使用作品的行為進行豁免的規(guī)定。該條貫徹的是“閱讀權應當是挖掘權”的理念,認為文本和數據挖掘的行為等同于人類閱讀文本獲取信息的行為,因而機器閱讀也應該像人類閱讀一樣不構成侵權[34]。與第3條規(guī)定不同,第4條規(guī)定的豁免并不限于非商業(yè)使用。該條第1款規(guī)定,如果他人基于文本和數據挖掘之目的而對能夠合法訪問的作品等進行復制和摘錄的話,則成員國應當對版權人的權利作出例外或限制性規(guī)定。第2款規(guī)定,他人依據第1款所進行的復制和摘錄,可以在為實現文本和數據挖掘目的所必需的期限內予以保留。不過,第3款也對他人所享有的這種復制和摘錄的權利進行了限制。該款規(guī)定,只有當第1款所規(guī)定的作品等的使用尚未被版權人通過適當的方式予以明確保留(expresslyre-served),如對線上公開提供的內容以機器可讀的方式進行保留的情況下,第1款所規(guī)定的例外或限制才可適用。

    《指令》第4條實際上為生成式人工智能模型訓練的文本數據挖掘創(chuàng)設了版權例外規(guī)則,實現了作品使用從“選擇一進人\"到“選擇一退出\"的轉變,顛覆了事前授權模式[35。這為人工智能數據訓練行為提供了合理使用的依據。不過這仍然只是一種有限的合理使用。因為《指令》保留了版權人“選擇退出權”,在版權人明確保留對其作品選擇退出權的情況下,生成式人工智能的提供者若想使用這些作品就必須獲得版權人的授權[1]。

    2.解釋版權法中的合理使用原則

    美國選擇通過解釋版權法中的合理使用原則來應對新的數字背景下技術發(fā)展對版權作品使用的需求。美國《版權法》規(guī)定,在個案中認定是否構成合理使用時,應當考量四個方面的因素:(1)使用的目的及其性質;(2)受版權保護的作品的性質;(3)對受版權保護作品使用的數量及其程度;(4)這種使用行為對于受版權保護作品的潛在市場或價值的影響

    美國法院在谷歌案中,將谷歌對書籍進行數字化的行為解釋為符合美國《版權法》的合理使用行為。在作家協會訴谷歌公司(AuthorsGuildv.Googleinc)案中,谷歌啟動圖書項目計劃,與幾家主要的研究型圖書館合作,將其藏書數字化,通過編入索引以創(chuàng)建一個“所有語言的所有圖書的虛擬卡片目錄”,使讀者們能夠在線進行檢索。作家協會提起訴訟指控谷歌構成版權侵權。法院認為谷歌對版權作品的使用是一種轉換性使用,其向公眾展示的內容有限,所披露的內容也并沒有對版權作品形成重要的市場替代,并且被告的商業(yè)性質和盈利動機也并不構成否定合理使用的正當理由。生成式人工智能模型在學習過程中對版權作品的使用,與創(chuàng)造性使用版權作品之間存在明顯不同,法院可能將其認定為是一種轉換性使用,并構成合理使用,正如谷歌將書籍進行數字化那樣[25]。

    生成式人工智能服務提供者也主張,將受版權保護的作品用作生成式人工智能的訓練數據,這僅僅是一種暫時且非消耗性的使用,并沒有實質性干擾版權人的版權,因此,這種使用應當構成美國法中的合理使用[3。生成式人工智能對版權作品的復制本身可能非常短暫,以至短暫到不構成侵權。至于短暫到何種程度才不構成版權法上的復制,CartoonNetwork訴CSC案提供了一定的指導標準。在該案中,原告認為被告的遠程存儲數字視頻錄像系統在未經授權的情況下將原告版權作品存儲在數據緩沖區(qū)內,“復制”了受版權保護的作品,構成版權侵權行為。被告則認為,存儲在緩沖區(qū)中的數據并未持續(xù)足夠長的時間,因此不滿足版權法中關于“固定”的要求,不構成“復制”。美國第二巡回上訴法院認為,原告版權作品在被告緩沖區(qū)中存儲的時間不超過1.2秒,這一時間過短從而不滿足版權法中關于“固定”的要求,因而不構成\"復制\"①。生成式人工智能將版權作品進行復制以用作訓練數據可能與之類似,也是非常短暫的[37],因此也可能不構成版權法上的復制。

    美國多次運用合理使用原則以應對新技術所帶來的挑戰(zhàn),合理使用的先例經驗使得美國技術開發(fā)市場更具有活力,促使技術公司和資本家對新技術進行投資,而無需擔心陷入著作權糾紛的風險[15]。

    (二)版權法方案的局限性

    1.難以直接豁免

    生成式人工智能對版權作品的使用難以直接被豁免。即便歐盟《指令》第4條規(guī)定了豁免條款,但該條第3款同時允許版權人以適當的方式作出保留。這意味著,如果數量眾多的版權人都作出保留,則生成式人工智能服務提供者將無法依據第4條所規(guī)定的豁免條款使用版權作品。事實上,生成式人工智能服務提供者也無法一一核驗版權人是否作出過這種保留,因為版權人數量眾多,而且其作出的保留形式多樣,逐一判斷是否構成《指令》所規(guī)定的保留也不具有可行性。此外,歐盟版權法通常也并不禁止版權人通過合同、技術或其他方式限制生成式人工智能服務提供者獲取或利用版權作品[38]。

    為生成式人工智能的發(fā)展“開綠燈”,對其使用版權作品的行為進行豁免,雖然能夠在短期內促進生成式人工智能的發(fā)展,但從長遠來看最終會削弱生成式人工智能發(fā)展的基礎。如果生成式人工智能提供者可以無條件使用他人受版權法所保護的作品,無疑會損害作品創(chuàng)作者的積極性,導致作品創(chuàng)作水平的低下,最終又會反噬生成式人工智能的發(fā)展。如何處理好二者之間的關系,在既確保我國生成式人工智能國家戰(zhàn)略實現的同時,又保護版權人的基本利益,是我國生成式人工智能發(fā)展過程中面臨的亟須解決的問題。

    2.難以被認定為合理使用

    我國最高人民法院也提出了認定合理使用的四要素,與美國《版權法》第107條所規(guī)定的四要素基本相同。生成式人工智能服務提供者將版權作品用作訓練數據,很難被認定為符合版權法中的合理使用認定標準。

    第一,“作品使用行為的性質和目的\"要素在實踐中主要可以歸結為判斷版權作品的使用是否構成一種\"轉換性使用”?!稗D換性使用\"分析的是新作品是否僅僅是“取代\"原版權作品的對象,還是相反增加了一些新的東西,具有更進一步的目的或者特征,用新的表達、含義或者信息改變了原版權作品。有觀點認為,生成式人工智能在“輸人\"階段的作品使用具有隨機性、非接觸性、非感知性的特征,具有“私人使用”“合理借鑒\"\"轉換性使用\"的成分,因此構成一種合理使用[12。但是,明晰訓練階段生成式人工智能大模型使用作品的目的,必須統合考慮后續(xù)內容輸出行為,經訓練后的生成式人工智能大模型并不能完全排除對既有作品獨創(chuàng)性表達的“模仿\"和“借鑒”,就使用作品的目的和性質而言,并不構成一種目的性轉換[29]。況且,轉換性使用在理論上并不周延,在適用中也存在模糊性,有些轉換性使用可能并不具有合理使用的條件,因為這種使用是版權人獨占權利范圍內的使用[39]

    第二,“被使用作品的性質\"要素是從被使用的版權作品的內容構成分析是否構成合理使用?!氨皇褂米髌返男再|\"要素將作品構成中的主題、題材、體裁、概念、原理和客觀事實等列為“不受保護的要素”,而將結構、情節(jié)、典型人物、事件的塑造表達和表現等作為\"受保護的要素”,從而界定合理使用的對象[40]。然而,生成式人工智能大模型學習的對象是作品構成的所有要素,既包括“不受保護的要素”也包括“受保護的要素”,在作品的抽象表達和具體表達諸因素中閱讀和模仿人類審美標準和思想表達方法[40]。正是基于此,生成式人工智能所生成的內容,才更符合人類的思維習慣和審美標準。因此,由于生成式人工智能模型也會使用版權作品中“受保護的要素”,因此很難被認定為合理使用。

    第三,“被使用部分的數量和質量\"要素是從引用作品的數量和質量兩方面展開分析,是一個定量和定性雙重考慮的指標。生成式人工智能對版權作品的使用無論是從量還是從質的角度來看,都遠遠超出了合理使用的范疇。傳統版權法合理使用的“少量使用\"要求與生成式人工智能技術發(fā)展的需要相悖,生成式人工智能技術的本質決定其進行創(chuàng)作時必須使用海量的數據。同時,生成式人工智能會通過篩選而使用版權作品中最為核心的內容。事實上,這也是為什么生成式人工智能需要使用版權作品的重要原因,因為生成式人工智能并非僅需要使用處于公共領域中的海量的數據,而且還需要使用大量高質量數據,而這些大多是版權作品?;诖?,生成式人工智能在該要素分析下很難被認定為是一種合理使用。

    第四,“使用對作品潛在市場或價值的影響\"要素考慮的是生成式人工智能所生成的內容是否會直接與被用作訓練數據的版權作品相競爭。生成式人工智能能夠模仿版權人作品的風格,所生成的作品與版權作品不僅能夠“形似”,而且還能夠做到“神似”。美國唱片業(yè)協會(RIAA)起訴生成式人工智能初創(chuàng)公司Udio和Suno“竊取藝術家畢生的作品,提取作品的核心內容然后重新包裝,與原創(chuàng)作品競爭,這種做法很不公平。[4II”生成式人工智能的成本很低,這進一步使得版權人無法在量上與其展開競爭。例如,專業(yè)攝影項目耗資往往在數萬美元,但人工智能生成器可以在幾秒內生成風格相似的照片[42]??梢?,生成式人工智能所生成的作品,無論是在“量”還是“質”方面,都能夠實現對原版權作品的超越,嚴重影響了版權人作品的市場價值,損害了版權人的利益。該要素關注的是生成式人工智能的輸出而非版權作品的輸入階段。但是,如果生成式人工智能在輸入階段沒有將作者的版權作品作為訓練數據,則其在輸出階段通常也不會生成與版權作品相同或相似的內容。因此,侵權的源頭仍然在輸入階段,不能將輸入階段與輸出階段割裂來看。在該要素下,輸人階段對版權作品的使用難以構成合理使用。

    從國家戰(zhàn)略角度看,生成式人工智能作為國際競爭的又一重要領域。有學者認為有必要探索合適的方式來減少我國人工智能產業(yè)發(fā)展中的數據獲取方面的版權授權阻礙,減輕我國人工智能企業(yè)在國際競爭中遭受國內法對其版權合規(guī)束縛[43]。盡管如此,這并不意味著可以為了支持生成式人工智能的發(fā)展而全然不顧其使用版權作品所可能引發(fā)的侵權風險,或者對現有版權制度進行顛覆性調整以順應生成式人工智能對版權作品獲取的需要。生成式人工智能的長遠發(fā)展,離不開妥善處理好版權作品獲取過程中的版權爭議。歐盟試圖引入豁免制度,美國司法機關則嘗試通過法律解釋適用合理使用原則。這些都是在現行版權法制度框架內為生成式人工智能獲取版權作品所作的努力。這能夠在一定程度上為生成式人工智能服務提供者使用版權作品尋找到某種程度的合理依據,但依然在版權法制度內部面臨爭議和質疑:生成式人工智能對版權作品的使用是否構成版權法上的合理使用并沒有共識,直接對生成式人工智能服務提供者的使用進行豁免也會帶來更大的問題。

    筆者并非否定從版權法制度內部解決生成式人工智能版權糾紛的可能性,相反,筆者認為這主要是版權法問題,應當通過對現行版權法制度和理論進行調整和創(chuàng)新而得以解決。應當注意的是,版權法并非唯一選擇,其具有局限性。正如有學者所指出的,雖然版權原則最初的目的是促進科學和藝術的發(fā)展,但隨著版權制度在新場景和新領域中的擴張,它在很多方面已經限制了作品的文化影響以及對作品的保存與獲取[25]。其他法律在其適用的范圍內,也能夠發(fā)揮獨特的價值。版權作為一種知識產權,其具有壟斷的本質,因而版權也具有構成壟斷并被濫用的可能。當版權人及相關權利人濫用版權,針對生成式人工智能服務提供者實施壟斷行為,則落入了反壟斷法的調整范圍。在這種特定情形下,反壟斷法就能夠成為一種重要的補充,是一種解決生成式人工智能版權糾紛的制度供給選擇。

    三、訓練數據獲取的反壟斷路徑

    生成式人工智能訓練數據獲取過程中,有可能出現版權人濫用版權從事壟斷行為的潛在風險,亟須展開前瞻性研究。版權人可能從事三種壟斷行為,即達成壟斷協議,濫用市場支配地位,實施具有或者可能具有排除、限制競爭效果的經營者集中。版權人單獨或共同實施的壟斷行為,將損害版權作品許可市場的競爭秩序,不當阻礙生成式人工智能服務提供者依法獲取訓練數據,影響生成式人工智能行業(yè)的發(fā)展。反壟斷法實施機構應當為生成式人工智能服務提供者依法獲取版權作品許可提供有效的反壟斷保障。

    具有市場支配地位的版權人濫用市場支配地位拒絕許可版權作品是訓練數據獲取過程中典型的壟斷行為,其他類型的壟斷行為也會直接或間接阻礙生成式人工智能服務提供者獲取訓練數據。

    (一)版權人達成壟斷協議

    版權人之間可能達成壟斷協議以限制生成式人工智能服務提供者獲取版權作品。此外,版權人之間

    還可能就價格、數量等達成壟斷協議。壟斷協議可以是版權人自行達成的,也可以是在相關版權行業(yè)組織的主導下達成的。

    1.聯合抵制壟斷協議

    版權人之間可能達成壟斷協議聯合拒絕許可版權作品,這將致使生成式人工智能服務提供者無法獲得足夠數量或優(yōu)質的版權作品,從而影響生成式人工智能的發(fā)展。版權人數量眾多且分散,達成壟斷協議的難度較大。不過,技術的發(fā)展使其成為可能。例如,某些有影響力的版權人通過互聯網發(fā)布倡議,其他版權人進行附和,能夠在某些具體事項上達成一致。壟斷協議也可以由行業(yè)協會組織本行業(yè)內的版權人所達成。

    版權人之間達成聯合抵制壟斷協議,自的在于集體懲戒未滿足版權人要求的生成式人工智能服務提供者,或者以此強制要求其同意更有利于版權人的條款等。由于生成式人工智能對版權作品的使用具有低密度性,即單個版權作品對生成式人工智能的價值較小甚至微不足道44,因此,僅靠少數的版權人達成聯合抵制交易,無法對生成式人工智能服務提供者形成有效威懾。但版權人數量不是決定性的,關鍵看其所掌握的版權資源的數量和質量。

    2023年7月18日,美國作家協會向OpenAI等美國知名人工智能公司發(fā)布了一封公開信,超過15000名作者署名支持,要求生成式人工智能企業(yè)在使用版權作品前獲得版權人許可,并進行合理補償45。作家協會代表會員發(fā)聲固然有其正當性,但如果超出一定限度,則可能構成壟斷協議。如果作家協會因生成式人工智能企業(yè)不同意支付過高許可費而拒絕其使用版權作品,則可能涉嫌構成聯合抵制壟斷協議。

    2.固定價格壟斷協議

    作為訓練數據,同類型版權作品之間具有替代性,存在價格競爭。版權人之間可能就版權作品的許可價格展開協商并達成壟斷協議,以迫使生成式人工智能服務提供者支付更高許可費。這消除了版權人之間的價格競爭,也提高了生成式人工智能服務提供者的研發(fā)成本。

    在實踐中,相關版權協會組織可能組織版權人達成固定價格壟斷協議,譬如在許可談判中代表會員向生成式人工智能服務提供者提出統一的許可價格,或者在訴訟中提出統一的賠償費用。2024年6月24日,美國唱片業(yè)協會(RIAA)代表三家大型音樂出版商針對生成式人工智能初創(chuàng)企業(yè)Udio和Suno提起訴訟,RIAA嘗試索取每件音樂作品最高達15萬美元的賠償費用[46]。暫且不論Udio和Suno的使用行為是否構成合理使用,僅就RIAA就每件音樂作品提出高達15萬美元的賠償費用而言,就存在構成固定音樂作品許可價格的嫌疑。

    3.限定版權作品數量壟斷協議

    版權法賦予了版權人對其作品使用方式的廣泛自主權,其可以根據自己意愿,決定是否許可他人使用其作品,以及許可使用的地域范圍和期間等?!吨腥A人民共和國著作權法》第二十六條并沒有明確規(guī)定版權人有權決定許可數量,因為該條主要針對的是版權人單一作品的許可情形。如果版權人擁有多項作品,則其自然享有許可其中一項或幾項作品的權利,即有權決定許可的數量。但是,如果版權人之間就許可數量達成一致,則超出了依法行使版權的范圍而構成版權濫用。此外,版權人之間還可能就許可版權的類型達成協議,如限定許可優(yōu)質版權作品。

    在生成式人工智能訓練數據獲取這一背景下,版權人和生成式人工智能服務提供者之間不太可能達成縱向壟斷協議,因為生成式人工智能服務提供者獲取版權作品的目的是訓練模型,而非向第三人進行轉售。

    (二)版權人濫用市場支配地位

    版權人行為構成濫用市場支配地位的前提是其具有市場支配地位,但在生成式人工智能背景下,這一要件的證明存在困難,因為生成式人工智能所需要的訓練數據往往是海量的,單一版權人很難擁有數量如此之多的版權作品。即便版權人所擁有的是數量較少但質量很高的版權作品,生成式人工智能服務提供者也很難證明為什么特定版權人所擁有的版權作品對其訓練模型如此重要以至無法從其他版權人那里獲取。

    不過,生成式人工智能背景下,版權人仍可能被證明具有市場支配地位。一方面,相關市場可能被界定得很狹窄。例如,生成式人工智能服務可能是個性化的,此時其模型所需要“喂養(yǎng)”的訓練數據也就會相對狹窄,擁有該領域內版權作品的版權人很有可能就具有市場支配地位。優(yōu)質內容版權數據在AI模型研發(fā)及應用中的弱替代性,使數據優(yōu)勢企業(yè)具有排斥競爭的能力[47。在AI生成音樂領域,擁有優(yōu)質音樂資源的市場主體很可能就具有市場支配地位。事實上,在司法實踐中,法院就曾認定中國音像著作權集體管理協會具有市場支配地位。另一方面,同一領域內的多個版權人可能共同具有市場支配地位,或者由某些互聯網平臺或少數經營者所擁有。目前許多互聯網用戶發(fā)布的內容都集中在互聯網平臺上,很多紙質圖書、膠片電影等的數字化副本也會被為數不多的數據庫服務商收集起來[48]。在這種情況下,版權人或相關經營者仍可能被認定具有市場支配地位。

    與生成式人工智能訓練數據獲取相關的版權濫用行為主要為,版權人濫用市場支配地位拒絕許可、以不公平高價許可版權以及在許可過程中進行搭售或附加不合理條件。

    1.濫用市場支配地位拒絕許可

    具有市場支配地位的版權人拒絕向生成式人工智能服務提供者許可版權作品,使得生成式人工智能發(fā)展所依賴的海量和優(yōu)質數據無法被獲取,將直接損害生成式人工智能行業(yè)的發(fā)展。

    其一,拒絕許可行為將導致生成式人工智能服務提供者無法獲得足夠數量的版權作品訓練數據。在獨家許可商業(yè)模式等因素的推動下,我國數字音樂、網絡視頻、學術文獻等內容行業(yè)版權資源集中的趨勢日漸凸顯:數字音樂領域,頭部平臺曲庫和獨家資源的市場占有率超過 80% ;學術文獻領域,頭部企業(yè)收錄了 95% 以上的中文學術文獻[49。掌握大量版權作品的數字內容平臺,沒有正當理由拒絕進行許可,將阻礙這些領域中生成式人工智能的發(fā)展。版權人拖延或拒絕許可,將使得人工智能生產內容的科學、可信程度大打折扣,削弱人工智能生產內容對于公眾的價值[50]

    其二,拒絕許可行為將使得生成式人工智能服務提供者無法獲得優(yōu)質的版權作品訓練數據。優(yōu)質的影視作品和音樂作品等,是確保生成式人工智能生成內容質量的重要保障。就訓練數據而言,其質量至關重要,低質量的數據不可避免地存在大量錯誤和噪音,高質量的數據無論是對大模型自身服務目標還是“智能涌現\"目標的實現都具有重要價值51]。以數字音樂為例,最為核心的音樂曲目大概只有3萬首,卻占據了 90% 的市場播放份額,音樂平臺之間雖然達成各自 99% 以上獨家音樂的“轉授權”合作,但卻并未對僅占 1% 的核心音樂進行授權[52]。

    反壟斷法可以要求版權人向生成式人工智能服務提供者進行許可,以使其能夠使用版權作品,這將是版權例外方式的一種重要補充[38]。當版權作品權人具有市場支配地位,并且沒有正當理由拒絕向生成式人工智能服務提供者許可版權時,就可能構成濫用市場支配地位。依據反壟斷法對這種涉嫌濫用市場支配地位拒絕許可的行為進行規(guī)制,是一種可行的方式。受版權保護的作品的價值只有在其被使用的情況下才能夠得以體現。在數字化背景下,生成式人工智能的發(fā)展需要獲得大量優(yōu)質的版權作品。法律制度應當促進版權作品的許可,以此來推動技術進步。

    2.濫用市場支配地位以不公平高價進行許可

    具有市場支配地位的版權人可能提出過高許可報價,這涉嫌構成不公平高價濫用行為。版權人實施不公平高價濫用行為主要有兩方面動機。

    一是單純進行剝削。生成式人工智能服務提供者所生成的內容并不會直接與版權人的作品展開競爭,版權人向生成式人工智能服務提供者收取過高許可費的目的單純就是為了獲得更高的經濟利益?!都~約時報》曾主張,OpenAI應就其獲取新聞報道的行為支付數十億美元,這要么會導致后者承擔極高的許可成本,要么承擔高額賠償,最終將迫使其放棄使用作品訓練模型[35]。在新技術的利用者尚未取得收益之前就要求他們支付很高的許可費,很可能扼殺新的技術,社會也無法最終從新技術中獲益[34]。版權人的行為在客觀上可能具有排除、限制競爭的效果,如版權人僅向部分生成式人工智能服務提供者收取過高許可費,這就會不當干擾不同生成式人工智能服務提供者之間的公平競爭,而且也不利于生成式人工智能行業(yè)的整體發(fā)展。

    二是排除、限制競爭。生成式人工智能提供者所生成的內容直接與版權人的作品競爭,并很有可能形成一種強有力的替代,從而嚴重影響版權人作品的市場價值?;诖?,版權人會通過向生成式人工智能服務提供者索取過高的許可費,以期借此提高其成本,使其在與自己的競爭中處于劣勢,從而排除或限制生成式人工智能服務的競爭。在該情形下,版權人主觀上就具有強烈的排除、限制競爭的動機。

    在認定版權人是否構成濫用市場支配地位實施不公平高價時,需避免直接認定版權人所收取的某具體許可費率過高,否則將涉嫌構成政府定價或司法定價,而是應當盡可能采用相對間接的方法來認定其不公平性,如是否存在重復收費,是否對已過保護期的版權作品收取許可費等。

    3.濫用市場支配地位搭售或附加不合理條件

    具有市場支配地位的版權人在向生成式人工智能服務提供者進行許可時,可能從事搭售或者附加其他不合理條件行為。

    盡管版權人因其版權作品而具有市場支配地位,但這并不意味著版權人的所有版權作品對于生成式人工智能服務提供者都有價值。強制被許可人購買對其并無價值的版權作品,將會增加被許可人的成本,從而影響被許可人的競爭能力。此外,版權人強制性的一攬子許可政策也可能違背被許可人的意愿,影響其競爭能力。

    在生成式人工智能訓練數據獲取過程中,版權人可能附加與生成式人工智能技術特點相悖的不合理條件。例如,為了獲得高質量的訓練數據,生成式人工智能企業(yè)往往需要經過清洗、過濾、劃分增強等清理過程將原始數據轉化為可供模型訓練的數據[53],如果版權人對生成式人工智能企業(yè)的這種必要技術操作進行不合理限定,則可能構成附加不合理條件行為。版權人在進行許可時,應當尊重符合生成式人工智能發(fā)展規(guī)律的技術要求。

    (三)版權人之間進行的集中

    版權行業(yè)的相關經營主體之間所進行的經營者集中,會使得版權作品集中在少數經營者手中。2021年7月24日,國家市場監(jiān)管總局對騰訊收購中國音樂集團股權違法實施經營者集中進行處罰,集中發(fā)生時,以音樂版權核心資源占有率計算,騰訊和中國音樂集團的曲庫數量分別為1210萬、821萬,其中獨家曲庫為314萬、130萬,曲庫和獨家資源的市場占有率均超過 80% 。集中后,音樂版權市場實現了高度集

    中的狀態(tài)。

    版權人之間進行的集中并不直接、必然影響生成式人工智能服務提供者獲取版權作品。相反,從某種意義上來說,相比于高度分散的海量版權,通過經營者集中所形成的相對集中的版權作品分布狀態(tài),更有利于生成式人工智能服務提供者與數量更少的版權權利人展開許可談判,降低談判成本。但是,這種集中本身將改變市場競爭結構,提高市場集中度,極大地改變生成式人工智能服務提供者與版權人之間的力量對比,從而增加生成式人工智能服務提供者獲取版權作品的難度。版權人之間進行的集中也可能形成或增強市場支配地位,從而使得集中后具有市場支配地位的版權人能夠濫用這種地位從事損害市場競爭秩序的行為。

    鑒于此,反壟斷執(zhí)法機構也應當對涉及版權的經營者集中保持高度關注,考慮版權的集中對于生成式人工智能獲取版權作品訓練數據可能產生的影響,附加可以有效解決競爭關注的限制性條件,如要求合并后的經營者以合理條件向生成式人工智能服務提供者許可其版權作品等。不過,對版權人之間集中展開反壟斷也面臨挑戰(zhàn),版權作品行業(yè)所涉及的營業(yè)額相對較低,可能很難達到經營者集中申報標準;對未達到申報標準的經營者集中,要證明其具有排除、限制競爭效果的難度也更大。

    四、結語

    在全球產業(yè)競爭背景下,我國應當大力支持生成式人工智能的發(fā)展,從而在下一代新興技術競爭中占據有利地位。生成式人工智能的發(fā)展需要獲取大量的版權作品以用作訓練數據,傳統版權法具有解決版權作品訓練數據獲取障礙的可能,但也存在局限性。作為一種補充,反壟斷法對解決版權作品訓練數據獲取過程中所可能存在的壟斷問題能夠發(fā)揮獨特價值。不過,也應當堅持利益平衡原則,注重保護版權人的利益,促使版權人創(chuàng)作更好、更多的優(yōu)質版權作品,這也是生成式人工智能能夠得到高質量發(fā)展的基礎。同時,也應當注意反壟斷自身具有其局限性。盡管當前生成式人工智能尚處于發(fā)展的早期階段,涉及的壟斷問題并未反映出來,但結合壟斷行為的發(fā)展規(guī)律,對生成式人工智能發(fā)展中訓練數據獲取可能存在的壟斷問題展開前瞻性研究,進行理論儲備,仍然具有價值。由于實踐中尚未出現版權人從事壟斷行為的具體案件,因此本文的研究更多的是依據反壟斷法對版權人可能從事的壟斷行為展開理論探討,梳理可能的壟斷行為情形。反壟斷執(zhí)法機構針對這些壟斷行為開展執(zhí)法,人民法院審理相關案件,能夠有效解決生成式人工智能服務提供者因壟斷行為而面臨版權訓練數據的獲取障礙。

    參考文獻:

    [1]何煉紅,朱曦青.論人工智能數據公共領域深度共享機制的構建[J].中南大學學報(社會科學版),2024,30(6): 33-48.

    [2]National Science and Technology Council.National Atrifi-cial Intelligence Research and Development StrategicPlan 2023 Updated[EB/OL]. (2023-05-23) [2024-01-05].https: //www. whitehouse. gov/wp-content/uploads/2023/05/National-Artificial-Intelligence-Research-and-Development-Strategic-Plan-2023-Update. pdf.

    [3]李愛君.訓練數據主體權益保護的新型數據財產權構建[J].政法論叢,2023(6):73-85.

    [4]李希梁,張欽昱.生成式人工智能的反壟斷規(guī)制[J].電子政務,2024(5):53-63.

    [5]雷昊楠.生成式人工智能的競爭風險、監(jiān)管邏輯與反壟斷應對[J].中國科技論壇,2024(7):64-74.

    [6]王健,吳宗澤.生成式人工智能反壟斷論綱[J].法治研究,2024(6):130-147.

    [7]張平.人工智能生成內容著作權合法性的制度難題及其解決路徑[J].法律科學(西北政法大學學報),2024,42(3): 18-31.

    [8]張濤.生成式人工智能訓練數據集的法律風險與包容審慎規(guī)制[J].比較法研究,2024(4):86-103.

    [9]MEZEIP.A Saviour or A dead end?Reservation of rightsin the age of generative AI[J]. European Intellectual Prop-ertyReview,2024,46(7):461-469.

    [10]謝宜璋.生成式人工智能作品訓練的版權爭議與解決[J].中國編輯,2024(11):38-46.

    [11]胡泳,劉純懿.大語言模型\"數據為王\":訓練數據的價值、迷思與數字傳播的未來挑戰(zhàn)[J].西北師大學報(社會科學版),2024,61(3):43-54.

    [12]林秀芹.人工智能時代著作權合理使用制度的重塑[J].法學研究,2021,43(6):170-185.

    [13]曾森.生成式人工智能與國家治理信息機制變革:以ChatGPT為例[J].理論月刊,2024(8):82-94.

    [14]孫曉華,車天琪,伊珺瑤,等.人工智能大模型、范式沖擊與科技創(chuàng)新變革[J/OL].大連理工大學學報(社會科學版),1-13.

    [15]熊琦,陳子懿.美國人工智能模型訓練合理使用認定的成案經驗研究[J].科技與法律(中英文),2024(6):11-23.

    [16]陳慧敏,朱姿伊,金兼斌.知識生產視域下生成式人工智能信任的復合框架、作用機制與未來進路[J].中國編輯,2024(12):60-69.

    [17]孫靖洲.人工智能訓練的版權困境及其出路:模塊化許可機制探析[J].知識產權,2024(11):94-111.

    [18] YU P K. The algorithmic divide and Equality in the ageof artificial intelligence[J].Florida Law Review,2020,72:331-389.

    [19]張凌寒.加快建設人工智能大模型中文訓練數據語料庫[J].人民論壇·學術前沿,2024,(13):57-71.

    [20]郭亞軍,周家華,李天祥,等.以Sora為代表的AI生成視頻大模型對圖書館的影響[J].圖書館論壇,2024,44(11): 110-119.

    [21]張新寶.生成式人工智能訓練語料的個人信息保護研究[J].中國法學,2024(6):86-107.

    [22]顧男飛,方舟之.ChatGPT等生成式人工智能使用作品的合理邊界與侵權規(guī)制[J].數字圖書館論壇,2023,19(7): 1-8.

    [23]張舒琳,王健宇.生成式人工智能使用作品的著作權困局與紓解對策[J].出版廣角,2024(20):75-80.

    [24]李安.機器學習的版權規(guī)則:歷史啟示與當代方案[J].環(huán)球法律評論,2023,45(6):97-113.

    [25]MANTEGNA M. Artificial:Why copyright is not theright policy tool to deal with generative AI[J]. Yale LawJournal Forum,2024,133: 1126-1174.

    [26]王利明.生成式人工智能侵權的法律應對[J].中國應用法學,2023(5):27-38.

    [27] Getty Images Statement[EB/OL]. (2023-01-17)[2024-10-12]. https: //newsroom. gettyimages. com/en/getty-images/getty-images-statement.

    [28]袁真富,夏子軒.機器學習中作品利用的著作權補償金制度研究[J].科技與出版,2024(7):28-36.

    [29]王志文.AIGC大模型數據訓練版權規(guī)制的終端轉向[J].北京理工大學學報(社會科學版),2024,26(5):64-75.

    [30]焦和平.人工智能創(chuàng)作中數據獲取與利用的著作權風險及化解路徑[J].當代法學,2022,36(4):128-140.

    [31]張吉豫,汪賽飛.大模型數據訓練中的著作權合理使用研究[J].華東政法大學學報,2024,27(4):20-33.

    [32]周漢華.論我國人工智能立法的定位[J].現代法學,2024,46(5):17-217.

    [33]袁鋒.人工智能服務提供者的版權侵權責任研究[J].湖南大學學報(社會科學版),2024,38(6):149-157.

    [24]封旭生成式人「知能在機哭學習由的會珊田問題[J].暨南學報(哲學社會科學版),2024,46(3):79-95.

    [35]黃玉燁,楊依楠.論生成式人工智能版權侵權“雙階”避風港規(guī)則的構建[J].知識產權,2024(11):37-58.

    [36] TORRANCE A W, TOMLINSON B. Training is every-thing:Artificial intelligence,copyright,and \"fairtrain-ing\"[J].DickinsonLawReview,2023,128(1):233-256.

    [37] NEILL A, THOMAS J, LEE E. Framework for applyingcopyright law to the training of textual generative artifi-cial intelligence[J].TexasIntellectual PropertyLawJour-nal,2024,32(3): 225-248.

    [38]VESALAJ. Developingatrificial intelligence-based con-tent creation:Are EU copyright and antitrust law fit forpurpose?[J]. International Review of Intellectual Prop-ertyand CompetitionLaw,2023,54(3):351-380.

    [39]吳漢東.人工智能生成作品的著作權法之問[J].中外法學,2020,32(3): 653-673.

    [40]吳漢東.數據信息分析合理性認定的版權規(guī)則[J].中國版權,2024(3):5-19.

    [41]“AI公司回應被美三大唱片公司聯合起訴:合法使用,未侵權\"[EB/OL].(2024-08-05)[2024-12-02].https://m.thepaper.cn/newsDetail_forward_28311262.

    [42]錢童心.擔憂生計被剝奪上萬名藝術家對AI公司發(fā)起集體訴訟[N].第一財經日報,2024-01-23(9).

    [43]陶乾.基礎模型訓練的著作權問題:理論澄清與規(guī)則適用[J].政法論壇,2024,42(5):152-164.

    [44]王文敏.人工智能對著作權限制與例外規(guī)則的挑戰(zhàn)與應對[J/0L].法律適用,2022,(11):152-162.https://knshtbprolcnkihtbprolnet-p.libdb.ucass.edu.cn/kcms/detail/21.1383.C.20240708.1628.002.html.

    [45]More than 15 OOO Authors Sign Authors Guild LetterCalling on AI Industry Leaders to Protect Writers[EB/OL].(2023-07-18)[2024-09-07]. https: //authorsguild.org/news/thousands-sign-authors-guild-letter-calling-on-ai-industry-leaders-to-protect-writers/.

    [46]“AI公司回應被美三大唱片公司聯合起訴:合法使用,未侵權”[EB/0L]. (2024-08-05)[2024-07-09].https://m.thepaper.cn/newsDetail_forward_28311262.

    [47]曾田.人工智能時代內容數據集中反壟斷風險與公私合作治理[J].中國出版,2024(15):46-52.

    [48]劉禹.機器利用數據行為構成著作權合理使用的經濟分析[J].知識產權,2024(3):107-126.

    [49]郭玉新,左添熠.版權濫用規(guī)制中平臺主體責任的生成及實現[J].中國市場監(jiān)管研究,2023(9):46-51.

    [50]刁佳星,馮曉青.人工智能生成內容的著作權法問題分析框架與紓解方案[J].河北大學學報(哲學社會科學版),2024,49(2):137-149.

    [51]姚佳.人工智能的訓練數據制度——以“智能涌現”為觀察視角[J].貴州社會科學,2024(2):51-57.

    [52]謝南希.從數字音樂獨家版權案看版權濫用的規(guī)制路徑[J].電子知識產權,2022(10):26-36.

    [53]王海洋.生成式AI訓練數據的法律風險及其元規(guī)制[J].浙江社會科學,2024(9):50-158.

    Copyright Barriers in Generative AI Training Data Acquisition and the Anti-Monopoly Solution

    Tan Yuan

    (School ofLaw,University of Chinese Academy of Social Sciences,Beijing102488,China)

    Abstract:Thedevelopmentof generativeartificial intelligence requires acquiringalargeamountof copyrighted works to serve as trainingdata,butacquiring copyrighted worksfaces copyrightbarriers.TheEuropean Unionand the United States seek solutions within the copyrightlaw system through the formulation of newrules orlegal interpretations,but there are stillmanylimitations.As an intellctual property,copyright alsohas amonopolistic nature.Copyright holders mayalsoabuse theirrights to excludeorrestrictcompetition,which becomes anobstacle for generative artificial intelligence to obtain copyrighted works.For acts thatconstitute monopolies,regulation underthe Anti-Monopoly law can serve as an important supplement to solve the obstacles in obtaining copyright works outside the Copyright Law. Keywords: generative artificial intelligence; training data; copyright barriers; fair use; anti-monopoly

    猜你喜歡
    服務提供者許可人工智能
    不確定性環(huán)境下專利開放許可激勵策略演化分析
    采礦許可證到期后繼續(xù)開采行為的刑法定性
    數據強制許可制度的構建
    檢察風云(2025年14期)2025-08-04 00:00:00
    美國數字音樂版權授權模式分析
    傳媒(2025年13期)2025-08-03 00:00:00
    美國城市空中交通運行體系研究
    無人機(2025年1期)2025-07-21 00:00:00
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    IT經理世界(2018年20期)2018-10-24 02:38:24
    數讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    南風窗(2016年19期)2016-09-21 16:51:29
    嫩草影视91久久| 在线观看66精品国产| 无限看片的www在线观看| av不卡在线播放| 国产在视频线精品| netflix在线观看网站| 午夜91福利影院| 老司机亚洲免费影院| 老司机在亚洲福利影院| 欧美日韩精品网址| 亚洲五月色婷婷综合| 黄网站色视频无遮挡免费观看| 麻豆乱淫一区二区| 国产精品亚洲一级av第二区| 水蜜桃什么品种好| 一进一出抽搐gif免费好疼 | 99精品在免费线老司机午夜| 国产精品一区二区在线不卡| 很黄的视频免费| bbb黄色大片| 婷婷丁香在线五月| 操美女的视频在线观看| 99热网站在线观看| 亚洲成国产人片在线观看| 女人被狂操c到高潮| 免费不卡黄色视频| 日本vs欧美在线观看视频| 操美女的视频在线观看| 自拍欧美九色日韩亚洲蝌蚪91| 欧美成人免费av一区二区三区 | 黄片大片在线免费观看| 国产精品久久久久久人妻精品电影| 久久久国产精品麻豆| 日韩三级视频一区二区三区| 亚洲精品美女久久av网站| 大陆偷拍与自拍| 免费观看人在逋| 99热只有精品国产| 午夜福利,免费看| 另类亚洲欧美激情| 人人妻人人爽人人添夜夜欢视频| 国产午夜精品久久久久久| 久久久国产精品麻豆| 精品免费久久久久久久清纯 | 亚洲av片天天在线观看| 一级毛片高清免费大全| 中文字幕精品免费在线观看视频| 色老头精品视频在线观看| 欧美国产精品va在线观看不卡| 老司机在亚洲福利影院| 亚洲成人免费电影在线观看| 欧美日韩亚洲高清精品| av天堂在线播放| 亚洲第一av免费看| 国产主播在线观看一区二区| 国产免费av片在线观看野外av| 免费在线观看完整版高清| 亚洲熟妇中文字幕五十中出 | 日韩欧美一区视频在线观看| 欧美午夜高清在线| 久久天堂一区二区三区四区| 一二三四社区在线视频社区8| 欧美日韩中文字幕国产精品一区二区三区 | 欧美精品高潮呻吟av久久| 免费少妇av软件| 久久久精品免费免费高清| 日本精品一区二区三区蜜桃| 亚洲性夜色夜夜综合| 国产精品 国内视频| 亚洲五月婷婷丁香| bbb黄色大片| 免费av中文字幕在线| 成人18禁在线播放| 很黄的视频免费| 久久性视频一级片| 麻豆av在线久日| tocl精华| 99热网站在线观看| 一边摸一边抽搐一进一出视频| tube8黄色片| 老司机影院毛片| 欧美日韩一级在线毛片| 精品第一国产精品| 热re99久久国产66热| 午夜91福利影院| 黑人猛操日本美女一级片| 人妻久久中文字幕网| 亚洲精品乱久久久久久| 国产亚洲欧美精品永久| 国产成+人综合+亚洲专区| 国产在线一区二区三区精| 久久香蕉国产精品| 黄色片一级片一级黄色片| 丝袜美足系列| tube8黄色片| 亚洲av熟女| 91麻豆av在线| 色老头精品视频在线观看| 欧美av亚洲av综合av国产av| 久久精品91无色码中文字幕| 精品少妇久久久久久888优播| 国产成人欧美| 日韩欧美免费精品| 欧美黄色淫秽网站| 久久久久国产精品人妻aⅴ院 | 高清av免费在线| 中文字幕精品免费在线观看视频| av视频免费观看在线观看| 麻豆av在线久日| 黄片播放在线免费| 久久久久久免费高清国产稀缺| 99在线人妻在线中文字幕 | 精品亚洲成国产av| 免费人成视频x8x8入口观看| 国产精品永久免费网站| 亚洲欧美一区二区三区久久| 国产亚洲精品一区二区www | 成人18禁高潮啪啪吃奶动态图| 国产aⅴ精品一区二区三区波| 男男h啪啪无遮挡| 精品卡一卡二卡四卡免费| 成年版毛片免费区| 美女视频免费永久观看网站| 99国产极品粉嫩在线观看| 精品亚洲成a人片在线观看| 91精品三级在线观看| 中文字幕人妻丝袜制服| 中文欧美无线码| 无人区码免费观看不卡| 两人在一起打扑克的视频| 丰满人妻熟妇乱又伦精品不卡| 国产人伦9x9x在线观看| 久久 成人 亚洲| 岛国在线观看网站| 在线观看66精品国产| 麻豆成人av在线观看| 建设人人有责人人尽责人人享有的| 国产精品影院久久| 男女床上黄色一级片免费看| 国产一区二区三区在线臀色熟女 | 丝袜美腿诱惑在线| 欧美乱妇无乱码| 久久久久视频综合| 啦啦啦在线免费观看视频4| 国产精品一区二区精品视频观看| 亚洲精品在线观看二区| 80岁老熟妇乱子伦牲交| 午夜福利一区二区在线看| 国产精品一区二区在线观看99| 中亚洲国语对白在线视频| 中文字幕色久视频| 久久这里只有精品19| av视频免费观看在线观看| 国产av精品麻豆| 性少妇av在线| 亚洲精品久久午夜乱码| 欧美精品啪啪一区二区三区| 999久久久精品免费观看国产| 国产高清激情床上av| 母亲3免费完整高清在线观看| 国产成人av教育| 国产单亲对白刺激| 国产伦人伦偷精品视频| 日韩人妻精品一区2区三区| 久久九九热精品免费| 欧美成人免费av一区二区三区 | 久热爱精品视频在线9| 亚洲少妇的诱惑av| 国产欧美亚洲国产| 18在线观看网站| 精品欧美一区二区三区在线| 免费一级毛片在线播放高清视频 | 啪啪无遮挡十八禁网站| 亚洲五月天丁香| 国产成人av教育| av一本久久久久| 亚洲 欧美一区二区三区| 国产精品1区2区在线观看. | 一个人免费在线观看的高清视频| 51午夜福利影视在线观看| 99国产精品一区二区蜜桃av | 国产成人免费无遮挡视频| 欧美人与性动交α欧美软件| 少妇 在线观看| 亚洲专区中文字幕在线| 国产欧美日韩一区二区三| 国产精品av久久久久免费| 亚洲色图 男人天堂 中文字幕| 国内久久婷婷六月综合欲色啪| 亚洲中文日韩欧美视频| 妹子高潮喷水视频| 午夜福利乱码中文字幕| 两个人免费观看高清视频| 天堂中文最新版在线下载| 99热国产这里只有精品6| 久久久久久久久免费视频了| 9热在线视频观看99| 国产真人三级小视频在线观看| 国产亚洲欧美在线一区二区| 超色免费av| 亚洲国产中文字幕在线视频| 一本综合久久免费| 婷婷成人精品国产| 欧美老熟妇乱子伦牲交| a级毛片在线看网站| 人妻久久中文字幕网| 又黄又爽又免费观看的视频| 一级a爱片免费观看的视频| 天天添夜夜摸| 日韩有码中文字幕| 精品国产乱子伦一区二区三区| 亚洲熟女毛片儿| 热99久久久久精品小说推荐| 亚洲精品自拍成人| 久久久久视频综合| 亚洲自偷自拍图片 自拍| 女人高潮潮喷娇喘18禁视频| 国产一区二区三区在线臀色熟女 | 欧美黄色淫秽网站| 亚洲国产欧美网| 大型黄色视频在线免费观看| 老汉色av国产亚洲站长工具| 午夜福利在线观看吧| 欧美一级毛片孕妇| 亚洲欧美一区二区三区久久| 嫩草影视91久久| 中文字幕另类日韩欧美亚洲嫩草| 最近最新免费中文字幕在线| 亚洲一区高清亚洲精品| netflix在线观看网站| 国产野战对白在线观看| 成年动漫av网址| 日本精品一区二区三区蜜桃| 中亚洲国语对白在线视频| 色尼玛亚洲综合影院| 女性被躁到高潮视频| 亚洲国产毛片av蜜桃av| 久久人妻福利社区极品人妻图片| 日韩一卡2卡3卡4卡2021年| 久久 成人 亚洲| 欧美+亚洲+日韩+国产| 国产免费现黄频在线看| 人人妻人人澡人人看| 久久 成人 亚洲| ponron亚洲| 亚洲精品国产精品久久久不卡| 中文字幕人妻熟女乱码| 啦啦啦视频在线资源免费观看| 老熟妇仑乱视频hdxx| 一级a爱片免费观看的视频| 亚洲av日韩在线播放| 免费av中文字幕在线| 国产一区二区三区视频了| 人人妻人人澡人人爽人人夜夜| 日本撒尿小便嘘嘘汇集6| 一级毛片女人18水好多| 亚洲欧美日韩另类电影网站| 欧美av亚洲av综合av国产av| 天天添夜夜摸| 久久久久久亚洲精品国产蜜桃av| 一本综合久久免费| 丁香欧美五月| a级毛片在线看网站| 国产片内射在线| 91九色精品人成在线观看| av天堂在线播放| 亚洲欧美一区二区三区黑人| 成人三级做爰电影| 下体分泌物呈黄色| 一进一出好大好爽视频| 久久久久国内视频| 午夜久久久在线观看| 欧美日韩精品网址| a级片在线免费高清观看视频| 最近最新免费中文字幕在线| 成人18禁在线播放| 亚洲五月色婷婷综合| 亚洲,欧美精品.| 午夜亚洲福利在线播放| 女人被狂操c到高潮| 免费在线观看视频国产中文字幕亚洲| 国产淫语在线视频| 亚洲精品自拍成人| 国产精品永久免费网站| 热re99久久精品国产66热6| 欧美黑人欧美精品刺激| 69精品国产乱码久久久| 高潮久久久久久久久久久不卡| 女人被躁到高潮嗷嗷叫费观| 老汉色av国产亚洲站长工具| 午夜精品久久久久久毛片777| 国产aⅴ精品一区二区三区波| 三上悠亚av全集在线观看| 叶爱在线成人免费视频播放| 中出人妻视频一区二区| 老司机深夜福利视频在线观看| 国产在线观看jvid| 交换朋友夫妻互换小说| 国产高清国产精品国产三级| 一区二区三区激情视频| 日本精品一区二区三区蜜桃| 精品国产一区二区久久| 午夜福利影视在线免费观看| 一区福利在线观看| 欧美成狂野欧美在线观看| 啦啦啦视频在线资源免费观看| 亚洲成人免费av在线播放| 啪啪无遮挡十八禁网站| 黄色怎么调成土黄色| 国产深夜福利视频在线观看| 在线看a的网站| 国产aⅴ精品一区二区三区波| 老熟妇仑乱视频hdxx| 欧美日韩乱码在线| 色尼玛亚洲综合影院| 亚洲国产欧美日韩在线播放| 极品教师在线免费播放| 亚洲国产中文字幕在线视频| 欧美日韩黄片免| 露出奶头的视频| 校园春色视频在线观看| 亚洲中文字幕日韩| 亚洲人成77777在线视频| 亚洲第一欧美日韩一区二区三区| 又紧又爽又黄一区二区| 啦啦啦 在线观看视频| 在线观看日韩欧美| 午夜福利在线观看吧| 美女扒开内裤让男人捅视频| 精品电影一区二区在线| 中文字幕人妻丝袜制服| 精品国内亚洲2022精品成人 | 久久中文看片网| 国产成人一区二区三区免费视频网站| 亚洲av片天天在线观看| 日韩 欧美 亚洲 中文字幕| 久久精品91无色码中文字幕| 亚洲av片天天在线观看| 在线永久观看黄色视频| 亚洲精品乱久久久久久| 少妇粗大呻吟视频| 国产精品 国内视频| 欧美日韩国产mv在线观看视频| 1024香蕉在线观看| 色综合欧美亚洲国产小说| 大型黄色视频在线免费观看| cao死你这个sao货| 丰满迷人的少妇在线观看| 乱人伦中国视频| 久久午夜亚洲精品久久| 757午夜福利合集在线观看| 国产一区二区激情短视频| 欧美成人免费av一区二区三区 | 极品教师在线免费播放| 精品少妇久久久久久888优播| 国产在线观看jvid| 麻豆国产av国片精品| 岛国在线观看网站| 久久久国产精品麻豆| 制服人妻中文乱码| av线在线观看网站| 大香蕉久久成人网| 欧美性长视频在线观看| 日韩欧美一区二区三区在线观看 | 又黄又爽又免费观看的视频| 精品国产国语对白av| 亚洲精品久久成人aⅴ小说| 午夜精品久久久久久毛片777| 国产免费男女视频| 亚洲片人在线观看| 午夜精品在线福利| 不卡av一区二区三区| 91成年电影在线观看| www.熟女人妻精品国产| 亚洲 国产 在线| 嫁个100分男人电影在线观看| 黑人操中国人逼视频| 99国产极品粉嫩在线观看| 丝袜人妻中文字幕| 搡老熟女国产l中国老女人| 亚洲精品久久成人aⅴ小说| 国产成人av教育| 777久久人妻少妇嫩草av网站| 成人免费观看视频高清| 搡老乐熟女国产| 国产又爽黄色视频| 国产av又大| 精品国产国语对白av| 黄色女人牲交| 视频区图区小说| 欧美激情久久久久久爽电影 | 女性被躁到高潮视频| 天堂动漫精品| 极品人妻少妇av视频| 国产精品亚洲一级av第二区| 两性夫妻黄色片| 动漫黄色视频在线观看| 麻豆国产av国片精品| 久久久久久人人人人人| 久久午夜亚洲精品久久| 伊人久久大香线蕉亚洲五| 精品久久久久久电影网| 亚洲美女黄片视频| 欧美另类亚洲清纯唯美| 国产一卡二卡三卡精品| 最近最新中文字幕大全电影3 | 多毛熟女@视频| 两个人免费观看高清视频| 国产高清videossex| 亚洲视频免费观看视频| 免费观看精品视频网站| 日韩熟女老妇一区二区性免费视频| 亚洲av片天天在线观看| 51午夜福利影视在线观看| 亚洲午夜精品一区,二区,三区| 亚洲精华国产精华精| 亚洲熟女毛片儿| 男人操女人黄网站| 91字幕亚洲| 精品无人区乱码1区二区| 18禁观看日本| 国产亚洲欧美98| 无遮挡黄片免费观看| 久久久国产一区二区| 午夜福利乱码中文字幕| 91老司机精品| 亚洲av电影在线进入| 美国免费a级毛片| 免费女性裸体啪啪无遮挡网站| av不卡在线播放| 大型av网站在线播放| 精品福利观看| 久久久久国内视频| 中文字幕制服av| 操美女的视频在线观看| 久久精品熟女亚洲av麻豆精品| √禁漫天堂资源中文www| 亚洲,欧美精品.| av国产精品久久久久影院| 国产亚洲欧美在线一区二区| 国产免费男女视频| 这个男人来自地球电影免费观看| 国产高清视频在线播放一区| 黄色片一级片一级黄色片| 亚洲成人免费av在线播放| 久久久国产一区二区| 亚洲视频免费观看视频| 精品少妇久久久久久888优播| 岛国毛片在线播放| 亚洲自偷自拍图片 自拍| 啪啪无遮挡十八禁网站| 国产亚洲av高清不卡| 久9热在线精品视频| 91字幕亚洲| 久久精品国产99精品国产亚洲性色 | 午夜福利免费观看在线| 国产精品久久久久成人av| 久久久久久久精品吃奶| 精品少妇一区二区三区视频日本电影| 国产无遮挡羞羞视频在线观看| 精品人妻1区二区| bbb黄色大片| 两个人看的免费小视频| 国产精品二区激情视频| 咕卡用的链子| 黑丝袜美女国产一区| 一本大道久久a久久精品| 99国产精品一区二区蜜桃av | 日本精品一区二区三区蜜桃| 亚洲情色 制服丝袜| 十八禁网站免费在线| 91在线观看av| 人成视频在线观看免费观看| av不卡在线播放| 国产精品 国内视频| 国产一区二区三区视频了| 成人手机av| 国产精品影院久久| av网站在线播放免费| 在线视频色国产色| 最新美女视频免费是黄的| 五月开心婷婷网| av国产精品久久久久影院| 久久中文字幕一级| 麻豆成人av在线观看| 麻豆av在线久日| 欧美日韩亚洲高清精品| 777米奇影视久久| 天天躁狠狠躁夜夜躁狠狠躁| av天堂久久9| 日韩三级视频一区二区三区| av国产精品久久久久影院| 成在线人永久免费视频| 又紧又爽又黄一区二区| 嫁个100分男人电影在线观看| 纯流量卡能插随身wifi吗| 最新在线观看一区二区三区| 日本五十路高清| 校园春色视频在线观看| 亚洲精品美女久久av网站| 精品卡一卡二卡四卡免费| 国产一区二区三区在线臀色熟女 | 无限看片的www在线观看| 亚洲精品自拍成人| 91字幕亚洲| 久久久久视频综合| 一a级毛片在线观看| 黄色a级毛片大全视频| 久久人妻福利社区极品人妻图片| 欧美性长视频在线观看| 国产色视频综合| 日本五十路高清| 国产成人一区二区三区免费视频网站| 久久亚洲精品不卡| 窝窝影院91人妻| 精品人妻熟女毛片av久久网站| 王馨瑶露胸无遮挡在线观看| 电影成人av| 激情在线观看视频在线高清 | 麻豆成人av在线观看| 日本一区二区免费在线视频| 亚洲精品在线观看二区| 黄色丝袜av网址大全| 亚洲中文av在线| 91精品国产国语对白视频| 久久99一区二区三区| 热re99久久精品国产66热6| 免费观看a级毛片全部| 啦啦啦免费观看视频1| 亚洲欧美日韩高清在线视频| 国产有黄有色有爽视频| 岛国在线观看网站| 99精品久久久久人妻精品| 十八禁高潮呻吟视频| 成年女人毛片免费观看观看9 | 大陆偷拍与自拍| 国产精品免费视频内射| x7x7x7水蜜桃| 久久亚洲精品不卡| 久久国产精品人妻蜜桃| 日韩欧美免费精品| 激情视频va一区二区三区| 一级作爱视频免费观看| 国产一区在线观看成人免费| 人人澡人人妻人| 国产欧美日韩一区二区三| 久久午夜综合久久蜜桃| 亚洲男人天堂网一区| 日日爽夜夜爽网站| 91成年电影在线观看| 咕卡用的链子| 51午夜福利影视在线观看| 97人妻天天添夜夜摸| 日韩有码中文字幕| 久久久精品免费免费高清| 丰满人妻熟妇乱又伦精品不卡| 亚洲精品粉嫩美女一区| 成年人午夜在线观看视频| 久久久国产成人免费| 韩国精品一区二区三区| 正在播放国产对白刺激| 精品国产乱码久久久久久男人| 91在线观看av| 国产成人精品无人区| 999精品在线视频| 两人在一起打扑克的视频| 亚洲专区中文字幕在线| 高清在线国产一区| 久久中文字幕一级| 身体一侧抽搐| 久99久视频精品免费| 日韩成人在线观看一区二区三区| 免费在线观看日本一区| 视频区欧美日本亚洲| 麻豆成人av在线观看| 久久久久久亚洲精品国产蜜桃av| a级片在线免费高清观看视频| 看免费av毛片| 电影成人av| 免费看a级黄色片| 欧美黄色淫秽网站| 亚洲精品美女久久av网站| 欧美日韩精品网址| 极品人妻少妇av视频| 一a级毛片在线观看| 老司机福利观看| 久久久国产欧美日韩av| 欧美成人免费av一区二区三区 | 三级毛片av免费| 日韩精品免费视频一区二区三区| 欧美久久黑人一区二区| 99国产精品一区二区蜜桃av | 欧美日韩成人在线一区二区| 国产成人系列免费观看| 啦啦啦视频在线资源免费观看| av网站免费在线观看视频| 日韩中文字幕欧美一区二区| 狂野欧美激情性xxxx| 大香蕉久久网| 老熟妇乱子伦视频在线观看| 桃红色精品国产亚洲av| 精品国产一区二区三区四区第35| 欧美最黄视频在线播放免费 | 狠狠狠狠99中文字幕| 亚洲欧美激情在线| 可以免费在线观看a视频的电影网站| 捣出白浆h1v1| 欧美日韩精品网址| 久9热在线精品视频| 国产蜜桃级精品一区二区三区 | 天堂√8在线中文| 亚洲色图av天堂| 操美女的视频在线观看| 免费看a级黄色片| 国产亚洲欧美精品永久|