• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    生成式人工智能繪畫著作權侵權與規(guī)制路徑研究

    2025-05-19 00:00:00王卓群
    西部學刊 2025年7期
    關鍵詞:人工智能

    A Study on Copyright Infringement and Regulation Paths for Generative Artificial Intelligence Painting

    Wang Zhuoqun

    (School of Artificial Intelligence andLaw,Southwest Universityof Political ScienceandLaw,Chongqing 401120)

    Abstract:Generativeartificialintellgence(A)paintinghsdeveloedapidlyandbecomeidespreadbringingwithitteriskof copyrightinfringeentichsaroadsocialipact.TetchicalcharacteristicsofgenerativeAIpaintingicudedeepagapbilitiesandrelianceonmassiveamountsoftrainingdata.Combiningdomesticandinteratioaljudicialcases,copyightifrngentan bedividedintotwocategoris:infringementofexistingcopyightholdersbyrainigdataandinfringeentfacedbygeneratieAworks, suchasmisapropratioThreareanydiultisineprocessofgulatingopightinfringentcludingiguityinetei ningcopyrightoershipofgenerativeAworks,videntarydifcisinrainingdatainfringementcases,ndtelackofectivegov eranceftragdaesTtielyatergtdlaeoloaliovaiglatioiisd idetifyAIpaintingcopyghtsbasedontheorigialcontributiosofusers,exploretheuleofreversedburdnofproofinraningdatainfringement cases,and strengthen the governance of the source and content of training data.

    Keywords: generative AI painting; copyright; copyright infringement; training data

    近年來,生成式人工智能繪畫獲得了一定的發(fā)展。2022年美國科羅拉多州藝術博覽會上,游戲設計師杰森·艾倫利用生成式人工智能繪畫工具Midjourney生成繪畫,并經(jīng)Photoshop等軟件潤色后產(chǎn)生了畫作《太空歌劇院》,生成式人工智能繪畫正式走入大眾視野。該技術歷經(jīng)多次迭代,憑借其低成本、高效率的特點,已實現(xiàn)了在平面設計、游戲美術等具體領域的實踐應用[1]。但技術具有兩面性,生成式人工智能繪畫在帶來便利的同時,也因其技術特點,不可避免地挑戰(zhàn)傳統(tǒng)著作權法規(guī)則,引發(fā)諸多侵權風險,不僅嚴重損害著作權人合法權益,也不利于技術可持續(xù)發(fā)展。

    未來將是以人工智能驅動的社會,為兼顧發(fā)展和安全,各國日益注重研究生成式人工智能的規(guī)范問題。2024年8月歐盟《人工智能法案》正式生效,這是全球首部全面監(jiān)管人工智能的法律,新加坡、印度等國也制定了人工智能監(jiān)管法律文件。當前,我國高度重視人工智能的發(fā)展與監(jiān)管,國家層面已初步建立相關法律規(guī)范,于2023年相繼發(fā)布《生成式人工智能服務管理暫行辦法》(以下簡稱“《辦法》”)、《生成式人工智能服務安全基本要求(征求意見稿)》(以下簡稱“《要求》”),“人工智能法草案”也已連續(xù)兩年被列入國務院立法計劃,民間層面也產(chǎn)生了《人工智能法學者建議稿》。但當前關于生成式人工智能繪畫的治理規(guī)則仍不完善,存在著作權認定等方面的空白和爭議?;诖耍疚膹纳墒饺斯ぶ悄芾L畫自身技術原理出發(fā),結合國內外既有司法案例,對其著作權侵權做類型化分析,厘清當前規(guī)制存在的問題,提出可行的規(guī)制路徑,以期豐富生成式人工智能繪畫著作權相關理論,為審理相關侵權案件提供參考,保障生成式人工智能繪畫技術與產(chǎn)業(yè)持續(xù)健康發(fā)展。

    一、生成式人工智能繪畫的技術原理

    要探究生成式人工智能繪畫的著作權侵權風險,首先需回歸其技術原理。生成式人工智能繪畫其內涵在于以大量圖像訓練數(shù)據(jù)為基礎,依托算法生成全新圖像,本質上是對人類智能的模擬。生成式人工智能繪畫基于其自身技術原理,區(qū)別于畫筆等傳統(tǒng)工具,具備深度學習能力與較高的自主性,同時需收集海量的訓練數(shù)據(jù),這些技術特征使其存在著作權侵權風險。

    (一)具備深度學習能力

    起步階段的生成式人工智能繪畫始于二十世紀后期。1973年,藝術家HaroldCohen創(chuàng)造了AARON程序,以此引導機械臂在畫布上完成繪畫,這是世界首個繪畫機器人[2]

    隨著技術的發(fā)展,人工智能逐漸具備深度學習能力。2014年誕生了生成式對抗網(wǎng)絡,即一種用于無監(jiān)督機器學習的強大神經(jīng)網(wǎng)絡,包括生成網(wǎng)絡與判別網(wǎng)絡,前者負責生成逼真圖像,后者負責辨別圖像真實性[3],通過二者的不斷對抗與競爭,實現(xiàn)生成“真假難辨”的高質量圖像。2021年,來自OpenAI的語言圖像對比學習預訓練模型能夠訓練AI對文字和圖片的匹配能力,使其“理解”圖像內容,大大提升了生成圖像的準確性。

    目前生成式人工智能繪畫普遍依托的是CLIP和擴散模型算法。擴散模型的圖像生成過程主要包括兩部分,即先對圖像逐步增加噪聲,使其最終成為完全模糊不清的高斯噪聲,再通過神經(jīng)網(wǎng)絡學習由高斯噪聲逐步去噪,最終恢復原始圖像,相較于其他模型,擴散模型所生成的圖像質量更高、更具多樣性[4]

    深度學習能力將引發(fā)著作權問題。綜觀生成式人工智能繪畫發(fā)展歷程,可發(fā)現(xiàn)其深度學習能力愈來愈強。生成式人工智能繪畫過去是對素材的拼接,目前主流生成式人工智能繪畫工具即便依舊無法真實理解圖像,但其本質上是從大量數(shù)據(jù)中尋找并學習規(guī)律,根據(jù)融合特定提示詞所要求的特征以生成全新圖像,此過程體現(xiàn)了人工智能較高的自主性。這使得生成式人工智能繪畫與傳統(tǒng)繪畫相去甚遠,產(chǎn)生了著作權上的主體性爭議,即圖像創(chuàng)作者究竟是生成式人工智能本身還是其使用者或其他主體,由此導致難以認定生成式人工智能繪畫是否應受著作權法保護。因此當生成式人工智能繪畫自身遭受盜用等侵權行為時,難以對其有效規(guī)制。

    (二)依托海量訓練數(shù)據(jù)

    訓練生成式人工智能繪畫軟件需收集龐大的圖像數(shù)據(jù)。數(shù)據(jù)是人工智能的重要支撐,生成式人工智能的內容生成程序以數(shù)據(jù)為基礎與首要環(huán)節(jié),輸入數(shù)據(jù)的數(shù)量與質量決定輸出內容的質量[5]。故目前各類生成式人工智能繪畫算法模型均依靠大規(guī)模數(shù)據(jù)集進行訓練,以2022年OpenAI推出的文生圖系統(tǒng)DALL-E2為例,其官網(wǎng)表明該系統(tǒng)的整個數(shù)據(jù)集共包含數(shù)億張圖像。

    訓練數(shù)據(jù)集存在著作權侵權風險,生成式人工智能繪畫訓練數(shù)據(jù)集所收集的圖像數(shù)據(jù),除開源的公共訓練數(shù)據(jù)外,更多的是來自他人受著作權法保護的作品。然而針對該部分在先作品,目前大部分生成式人工智能繪畫平臺通常未經(jīng)著作權人許可,也未支付報酬,而是直接將其納入數(shù)據(jù)庫,從而達到學習特定畫師畫風等目的。此類“喂圖洗稿”行為已然侵犯在先著作權,嚴重侵害相關主體合法權益,這也正是生成式人工智能繪畫一直以來為人們所詬病的主要原因之一。若不能依法、有效規(guī)制此類侵權行為,保障在先著作權,將可能極大打消人們的創(chuàng)作積極性,也將進一步加劇人們對人工智能工具的抵觸心理。

    二、生成式人工智能繪畫著作權侵權的類型化分析

    生成式人工智能繪畫在為生產(chǎn)生活帶來便利的同時,也引發(fā)了諸多侵權事件,且國內外均存在相關司法實踐。生成式人工智能繪畫因其低成本、高效率、操作簡便等特征,吸引人們廣泛使用,由此激發(fā)了新的文化繁榮,卻也使既有文化陷入危機[,盜用、篡改等著作權侵權行為大量出現(xiàn),不利于生成式人工智能繪畫產(chǎn)業(yè)的可持續(xù)健康發(fā)展?!掇k法》第四條要求提供和使用生成式AI服務應尊重知識產(chǎn)權,但尚未明確規(guī)定生成式AI所涉及的著作權侵權類型。因而可依據(jù)被侵權主體的不同,將生成式人工智能繪畫相關著作權侵權行為分為兩大類,以實現(xiàn)針對性治理。

    (一)訓練數(shù)據(jù)對在先著作權人的侵權

    當前,生成式人工智能繪畫訓練數(shù)據(jù)集廣泛存在侵犯在先著作權的情況。在互聯(lián)網(wǎng)時代,許多畫師選擇將自己的作品發(fā)布至網(wǎng)絡,但該行為卻無形中為生成式人工智能繪畫平臺收集訓練數(shù)據(jù)大開便利之門。畫師發(fā)布繪畫作品的同時,可能會詳細標注角色名稱、發(fā)型、服飾等各類細節(jié),這導致其作品成為天然的人工智能訓練數(shù)據(jù),甚至省去了人工標注成本[7]。生成式人工智能繪畫平臺在收集此類圖像數(shù)據(jù)時,往往并未事先取得著作權人同意,也未支付報酬,通常是在畫師完全不知情的情況下完成數(shù)據(jù)收集的,嚴重侵害著作權人的著作權。目前,國內外均存在相關司法判決。

    2023年美國法院對藝術家集體起訴生成式人工智能繪畫軟件開發(fā)公司的著作權侵權案作出了判決①。該案原告SarahAndersen等三位藝術家代表自己和其他眾多藝術家起訴StabilityAI等三家公司,主張其未經(jīng)授權使用數(shù)十億張受版權保護的圖像用以訓練程序,要求其承擔侵權責任。法院以原告訴狀和舉證缺乏充分性、具體性為由,駁回其大部分指控,僅支持了Andersen對于StabilityAI直接版權侵權的訴訟請求,并允許原告修正訴狀,以明確哪一被告侵犯了哪些作品。該案最新進展為2024年8月,法院部分批準、部分駁回了該案的第一次修正申訴動議,準予原告繼續(xù)追究相關索賠的權利②。該案可為我國未來的相關理論與實踐提供參考,但需要注意的是2023年的判決中對于原告舉證責任的要求較高,未來我國審判相關案件可在此方面進行優(yōu)化與調整。

    我國首例生成式人工智能繪畫平臺著作權侵權案于2024年2月8日作出判決。本案原告上海新創(chuàng)華公司經(jīng)案外人授權,在授權期限及范圍內享有奧特曼系列作品著作權,主張被告AI公司未經(jīng)許可將該系列作品作為模型訓練數(shù)據(jù),并生成實質性相似的圖片。法院認定被告在提供生成式AI服務過程中生成案涉奧特曼相關圖像,構成侵犯原告著作權,但對于原告將案涉素材從訓練數(shù)據(jù)中刪除的訴訟請求,因案涉大模型由第三方服務商提供,被告并未實際進行模型訓練,故法院未予支持③。該判決對日后審理相關侵權案件具有重要的參考意義,但從訓練數(shù)據(jù)中刪除案涉素材這一請求該如何實現(xiàn)仍有待理論與實踐的進一步探索。

    (二)生成式人工智能繪畫自身面臨的著作權侵權

    生成式人工智能繪畫工具的使用者也可能成為被侵權主體,即生成式人工智能繪畫自身也面臨著著作權侵權風險。生成式AI自主性程度更高,使得人們對于生成式人工智能繪畫能否受到著作權法保護一直爭議不斷,導致當前大量存在對生成式人工智能繪畫的盜用等侵權行為,且現(xiàn)有法律規(guī)范難以對其有效治理。為保障技術持續(xù)健康發(fā)展,有效保障各方合法權益,應尋求合適的方式對其規(guī)制,對于是否應賦予生成式人工智能繪畫以著作權保護,自前各國態(tài)度存在較大差異,我國應基于國情探索規(guī)制方式。

    2023年我國判決了首例生成式人工智能繪畫著作權侵權案。本案原告李某某使用生成式人工智能繪畫工具生成案涉圖像,主張被告劉某某未經(jīng)許可使用該圖像且刪去了原告的署名水印。法院認為,原告在生成案涉圖像的過程中,不斷調整提示詞與參數(shù)等指令,該過程體現(xiàn)了原告的智力投入,且原告系獨立完成,具有獨創(chuàng)性,故認定案涉圖像屬于美術作品,并因案涉圖像是基于原告智力投入而直接產(chǎn)生,將著作權歸屬于原告④。該判決首次通過司法實踐支持人工智能生成物著作權,具有開創(chuàng)性意義,但因生成式人工智能繪畫著作權問題尚未明確,人們對其仍存在諸多爭議。

    美國版權局裁定否認生成式人工智能繪畫的版權保護。2023年美國版權局在一回復信函中稱,漫畫《黎明的扎麗亞》的作者卡什塔諾娃獲得了其中文字、編排等書籍部分的版權,但該版權保護不適用于其中由生成式人工智能繪畫工具Midjourney產(chǎn)生的生成式人工智能繪畫部分。其認為,版權保護僅適用于由人類創(chuàng)作的圖像,由于使用者完全無法預見AI的生成結果,故人工智能生成物不能獲得版權保護。該觀點于我國而言具有參考價值,盡管我國首例判決支持賦予生成式人工智能繪畫以著作權保護,但未來仍需具體分析,不宜對其一味進行否定或肯定。

    三、生成式人工智能繪畫的著作權侵權規(guī)制問題

    法律具有滯后性。分析既有判決可以發(fā)現(xiàn),無論是訓練數(shù)據(jù)集的侵權還是生成式人工智能繪畫自身遭受的侵權,在對其進行法律規(guī)制的過程中總是面臨各種問題,包括生成式人工智能繪畫著作權認定不明確、訓練數(shù)據(jù)集侵權舉證困難、數(shù)據(jù)來源與內容安全存在不足等。盡管司法實踐中已對此做了開創(chuàng)性的探索,也出臺了初步的法律規(guī)定,但仍有待進一步明確與完善。

    (一)生成式人工智能繪畫著作權認定不明確

    生成式人工智能繪畫著作權問題一直以來并無定論。生成式人工智能繪畫的技術特征使其不同于畫筆、相機等傳統(tǒng)工具,較強的自主性導致難以準確判斷生成內容究竟是由人類還是人工智能產(chǎn)生,進而存在著作權認定困境,相關主體維權困難。生成式人工智能繪畫著作權認定的不明確主要體現(xiàn)在兩方面,即其是否能夠成為作品以及具體保護方式。

    生成式人工智能繪畫能否成為著作權法意義上的作品,主要看其是否屬于智力成果且具有獨創(chuàng)性。生成式人工智能繪畫的生成過程中,使用者僅需輸入指令,輸出內容由大模型算法隨機產(chǎn)生,使用者無法預見,因而存在其是由人類還是生成式AI產(chǎn)生的爭議。在李某某訴劉某某案中,法院認為,第一,使用者設計人物呈現(xiàn)方式、選擇指令等過程存在其智力投入,屬于使用者的智力成果;第二,其多次調整指令的過程體現(xiàn)了其審美選擇與個性,且生成內容會因指令的改變而不同,故認定案涉圖像具備獨創(chuàng)性要件,構成著作權法意義上的作品。但有學者持反對意見,主張依據(jù)《著作權法實施條例》第三條第一款,直接產(chǎn)生作品的智力活動才是著作權法意義上的創(chuàng)作,而生成式人工智能繪畫產(chǎn)生過程中,人類只是對生成式AI發(fā)出了指令,其自由意志并不能決定最終輸出內容,該行為應屬間接而非直接產(chǎn)生作品,故不屬于創(chuàng)作行為,生成式人工智能繪畫不能成為作品[8]

    生成式人工智能繪畫的具體保護方式也存在諸多爭論。我國該領域的研究較外國起步晚,美國的PamelaSamuelson教授早在1986年就提出了計算機生成作品的五種知識產(chǎn)權歸屬方式,并最終論證了其作者應是計算機用戶[9]。我國學者對此眾說紛紜,存在公共領域說[10]、“代理人\"制度說[1]、允許事先意思自治說[12]、鄰接權說[13]等觀點。

    為兼顧技術發(fā)展與權利保障,需要對生成式人工智能繪畫著作權問題予以明確。面對現(xiàn)實存在的生成式人工智能繪畫盜用等侵權行為,只有明確著作權認定標準,才能使公眾知曉自己是否享有著作權以及如何維權,也能為法院審理案件提供準確的法律依據(jù)。

    (二)訓練數(shù)據(jù)集侵權舉證困難

    訓練數(shù)據(jù)集侵權案中,著作權人存在舉證困難。一方面,其原因在于著作權人自身。與作為數(shù)據(jù)收集和使用者的AI平臺相比,大部分著作權人對技術原理并不熟悉,也不具備實際接觸大模型訓練數(shù)據(jù)的能力,相對而言處在弱勢地位,難以獲取切實有效的證據(jù)證明哪些在先作品遭受了侵權,存在舉證困難。另一方面,其原因主要在于生成式人工智能繪畫的技術特征。生成式人工智能繪畫軟件勢必要收集海量圖像作為訓練數(shù)據(jù),其中必然包含大量受著作權法保護的在先作品,但基于其自主性與深度學習能力,輸出結果的產(chǎn)生過程本質上是對規(guī)律的學習。該過程具有高度概括性與抽象性,難以分辨具體參考了哪一在先作品[7],因而著作權人難以舉證證明生成內容構成對在先作品的實質性相似,進而導致難以認定生成內容是否構成侵權,以及構成對哪個在先作品的侵權。

    目前國內外既有案例對著作權人舉證責任要求不一。首先,美國Andersen訴StabilityAI案2023年的判決中對原告舉證責任要求過高,該案原告主張被告未經(jīng)授權,對其作品中的版權信息做了刪除或修改,法院認為原告舉證不充分,原告應說明其所認為的被刪除或修改作品的具體版權信息,并明確每個被告在該項下的責任。可見該判決對著作權人的舉證責任要求較為嚴苛,需進行調整以平衡各方利益[14]

    其次,我國新創(chuàng)華公司訴AI公司案對舉證責任的分配相對合理。該案法院因奧特曼系列作品知名度高,認定被告存在接觸可能。又因被告生成的案涉圖像系部分或完全復制了奧特曼系列作品的獨創(chuàng)性表達,多個關鍵特征高度相似,認定案涉生成圖像與奧特曼系列作品構成實質性相似,判決被告構成侵犯原告復制權、改編權。可見該判決并未對原告舉證責任做過高要求,相對合理,更有助于權利人維權。

    (三)訓練數(shù)據(jù)集缺乏有效治理

    訓練數(shù)據(jù)合規(guī)是規(guī)制生成式人工智能繪畫著作權侵權的重要途徑之一,但自前大多生成式人工智能繪畫平臺的訓練數(shù)據(jù)集缺乏有效治理,使得面對訓練數(shù)據(jù)侵權時存在規(guī)制難題。當前技術開發(fā)者主要通過五種途徑獲取AI訓練數(shù)據(jù),包括自行采集、公開數(shù)據(jù)集采集、模擬產(chǎn)生、數(shù)據(jù)爬取、第三方購買,前三者合法合規(guī)但成本高,后兩者成本低卻不合規(guī),倫理與法律風險較大[15]。AI訓練數(shù)據(jù)集目前仍缺乏有效治理,主要表現(xiàn)在數(shù)據(jù)來源與內容的安全性缺乏保障,這是引發(fā)訓練數(shù)據(jù)侵權的最主要原因。

    一是數(shù)據(jù)來源安全性治理不足。目前大多AI技術開發(fā)者認為其首要任務在于突破技術難題與行業(yè)瓶頸[15],因而存在AI平臺明知會引發(fā)法律風險,卻仍選擇爬取數(shù)據(jù)以訓練AI的情況,新創(chuàng)華公司訴AI公司案便是典型的未經(jīng)許可爬取數(shù)據(jù)而引發(fā)侵權的例子。因此,有必要進一步規(guī)范訓練數(shù)據(jù)的來源,為技術開發(fā)者劃定法律邊界,盡可能從源頭上防范訓練數(shù)據(jù)侵權。

    二是數(shù)據(jù)內容安全性治理不足。因訓練數(shù)據(jù)來源的治理不足,使得當前大量生成式人工智能繪畫服務提供者利用爬蟲腳本,爬取眾多已發(fā)表或未發(fā)表的作品,甚至直接在繪畫作品網(wǎng)站盜取其中全部作品用作訓練素材[16],嚴重侵犯相關主體的著作權。長遠來看,若不能有效限制處于強勢地位的服務提供者大肆攫取繪畫作品資源,將造成提供者與著作權人之間利益的失衡,不僅會嚴重打擊人們的創(chuàng)作積極性,也會因此禁錮生成式人工智能繪畫技術的發(fā)展[16],因為該技術的發(fā)展需以人類創(chuàng)造創(chuàng)新為基礎。

    四、生成式人工智能繪畫的著作權侵權規(guī)制路徑

    技術是一把雙刃劍,增進人類福祉是科技的出發(fā)點和落腳點[17]。生成式人工智能繪畫著作權侵權是新型法律問題,各國均處于探索階段。面對當前大量存在的生成式人工智能繪畫著作權侵權,既不能過于保守而無法保障著作權人的合法權益,也不宜過于激進致使阻礙技術進步,因而本文基于前述兩種侵權類型,提出三方面規(guī)制路徑建議,為我國在人工智能生成物著作權領域的法律制度體系構建提供參考。

    (一)以使用者獨創(chuàng)性貢獻認定著作權

    為有效規(guī)制生成式人工智能繪畫自身所面臨的著作權侵權,應明確其著作權認定標準。生成式AI正處于快速發(fā)展階段,不宜過早修法或立法,而應通過釋法及司法實踐,為生成式人工智能繪畫探尋合適的著作權認定標準,一如北京互聯(lián)網(wǎng)法院此前做出的初步探索,以明確權利邊界,遏制侵權行為。

    認定生成式人工智能繪畫著作權的關鍵在于判斷其是否滿足獨創(chuàng)性標準,且必須堅持具體分析,因此應當以使用者的具體獨創(chuàng)性貢獻為認定標準。首先,生成式人工智能繪畫必須具有獨創(chuàng)性才能獲得著作權。著作權法旨在保障權利、鼓勵創(chuàng)新,具備獨創(chuàng)性的智力成果才能受著作權法保護。其次,生成式人工智能繪畫的獨創(chuàng)性貢獻來自使用者。技術開發(fā)者的獨創(chuàng)性貢獻僅體現(xiàn)在特定軟件程序上,對于具體生成式人工智能繪畫的產(chǎn)生并無具體的貢獻。生成式人工智能繪畫基于使用者給定的指令而產(chǎn)生,因此若特定生成式人工智能繪畫足以具備獨創(chuàng)性,則該獨創(chuàng)性貢獻應當來自使用者。

    簡單的文生圖不應受到著作權法保護,應納人公共領域。如僅輸人提示詞“一只貓”而生成圖像,此類由簡單指令產(chǎn)生的生成式人工智能繪畫不應獲得著作權,因其不具備獨創(chuàng)性。著作權法保護的是表達,但該過程無論是提示詞或生成內容均不存在任何具備獨創(chuàng)性的表達,理應無法獲得版權保護,應將其納入公共領域,供公眾免費使用,且版權制度旨在促進知識的公開與傳播[18]

    能夠體現(xiàn)使用者獨創(chuàng)性表達的生成式人工智能繪畫應受著作權保護,著作權歸屬應優(yōu)先尊重當事人意思自治。生成式人工智能繪畫既存在人工智能的貢獻,也包含人類的貢獻。提示詞與參數(shù)、主題、最終選擇等均由使用者決定,可見使用者的判斷在該過程中具有重要作用[9],且體現(xiàn)了使用者獨創(chuàng)性表達。故當人類貢獻足以滿足最低獨創(chuàng)性標準時,應賦予生成式人工智能繪畫以著作權保護。在李某某訴劉某某案中,原告多次調整指令,雖其提示詞與參數(shù)大多是他人事先選定的,使得使用者的貢獻并沒有表面上體現(xiàn)出來的大,但這并不妨礙使用者的選擇符合最低獨創(chuàng)性標準[19],因而被告未經(jīng)許可的使用構成著作權侵權。再如美國《藜明的扎麗亞》,其作者首先從故事中總結關鍵詞,基于此形成生成式人工智能繪畫圖像[19]。該過程體現(xiàn)了使用者對生成內容的安排與設計,即便使用者無法準確預測輸出結果,但該調整過程已使生成式人工智能繪畫愈發(fā)確定與具體,其中蘊含著使用者的獨創(chuàng)性表達,除非抄襲,否則他人難以生成與其構成實質性相似的圖片,故理應保護使用者的表達與創(chuàng)作,賦予其著作權,以預防或減少盜用等著作權侵權行為。至于具體的著作權歸屬路徑,由于目前生成式AI仍在快速發(fā)展,若現(xiàn)階段就通過立法將著作權賦予其中一方,可能會減損其他主體的創(chuàng)作熱情,因此應遵循意思自治原則,最大限度平衡各方主體的權益。

    (二)探索數(shù)據(jù)侵權舉證責任倒置規(guī)則

    在訓練數(shù)據(jù)集侵權案件中,為緩解著作權人的舉證困難,應當重新分配舉證責任,適當加大作為服務提供者的AI平臺的舉證責任。面對生成式人工智能繪畫技術,顯然掌握著訓練數(shù)據(jù)的AI平臺處于優(yōu)勢地位,而被侵權的自然人或中小型企業(yè)通常相對弱勢,難以獲得強有力的侵權證據(jù)[14],存在維權困難,如難以舉證證明訓練數(shù)據(jù)集具體侵犯了哪一或哪些作品的著作權。故需調整舉證規(guī)則,加大AI平臺舉證責任,以平衡雙方的權利義務。

    可探索相關案件中的舉證責任倒置規(guī)則。舉證責任倒置旨在減輕或免除原告的舉證責任,其內在原理之一在于原告存在舉證障礙[20],該規(guī)則的構成要素包括原告舉證困難與社會反應強烈兩方面[21]。生成式人工智能繪畫訓練數(shù)據(jù)集著作權侵權案符合這兩個構成要素,因此可考慮適用該規(guī)則。其一,訓練數(shù)據(jù)侵權案件中原告舉證困難。訓練數(shù)據(jù)留存于服務提供者的數(shù)據(jù)系統(tǒng)中,因而侵權行為與加害后果等證據(jù)均掌握在服務提供者手中[22],著作權人無法實際接觸其系統(tǒng),不具備相關舉證能力。此時可將舉證責任倒置,若服務提供者無法舉證證明訓練數(shù)據(jù)并不構成對著作權人的侵權,則服務提供者即生成式人工智能繪畫平臺應當承擔相應侵權責任,如此可有效減輕原告舉證困難,同時起到督促AI平臺自覺尊重他人知識產(chǎn)權的作用。

    其二,社會反應強烈。生成式人工智能繪畫的訓練數(shù)據(jù)侵權一直以來廣受詬病,平臺能夠輕易盜取辛苦創(chuàng)作的作品并最終用于盈利,全然不顧法律規(guī)定,侵權行為頻發(fā),已引起廣泛且強烈的社會反應。在此情況下,為維護處于弱勢地位的著作權人合法權益,保障生成式AI技術持續(xù)健康有序發(fā)展,對AI平臺舉證責任做更高要求是合理且必要的,構建舉證責任倒置規(guī)則,有助于平衡發(fā)展與安全。

    此外,AI平臺具備相應舉證能力。其一,訓練數(shù)據(jù)集掌握在AI平臺系統(tǒng)中時,對于相關數(shù)據(jù)是否侵犯在先著作權,AI平臺理應基于其控制力而具備舉證能力。如美國Andersen訴StabilityAI案中,顯然收集并掌握訓練數(shù)據(jù)的StabilityAI公司更加有能力舉證證明其數(shù)據(jù)是否侵犯原告著作權,以及侵犯了原告何種作品的著作權。因此,該案原告即著作權人的舉證責任過重,與其舉證能力不相符。其二,若AI平臺使用的訓練數(shù)據(jù)集由第三方供應商所提供,如我國李某某訴劉某某案,則其應為使用了具有權利瑕疵的訓練數(shù)據(jù)而承擔相應責任,相對于被侵權的著作權人而言,AI平臺更有可能獲得數(shù)據(jù)是否侵權的證據(jù)。故應由AI平臺舉證證明訓練數(shù)據(jù)并未侵權,否則其將承擔不利后果??梢?,在訓練數(shù)據(jù)集侵權案件中采用舉證責任倒置規(guī)則,能夠契合雙方當事人舉證能力,有助于幫助著作權人有效維權,同時起到督促生成式人工智能繪畫平臺自覺尊重他人知識產(chǎn)權,從根源上減少或預防訓練數(shù)據(jù)的著作權侵權事件。

    (三)加強數(shù)據(jù)來源與內容的安全治理

    為有效規(guī)制訓練數(shù)據(jù)集,防范著作權侵權行為,應加強對訓練數(shù)據(jù)的來源安全與內容安全治理。訓練數(shù)據(jù)侵權事件頻發(fā),歸根結底是在于對數(shù)據(jù)的治理不足。根據(jù)《要求》第五條,訓練語料即訓練數(shù)據(jù)的安全要求可分為來源安全、內容安全與標注安全,其中與訓練數(shù)據(jù)著作權侵權息息相關的主要是數(shù)據(jù)來源與數(shù)據(jù)內容,因此有必要加強該兩方面的安全治理。

    加強數(shù)據(jù)來源安全治理,可構建國家或行業(yè)層面的開源訓練數(shù)據(jù)集。訓練數(shù)據(jù)是人工智能產(chǎn)業(yè)發(fā)展的基石,但當前大模型往往依靠低質量的爬取數(shù)據(jù)用以訓練,欠缺高質量訓練數(shù)據(jù),既制約生成式AI產(chǎn)業(yè)進一步發(fā)展[23],又導致潛在的著作權侵權。就生成式人工智能繪畫產(chǎn)業(yè)而言,治理數(shù)據(jù)來源安全的一個有效途徑是構建開源數(shù)據(jù)集。其一,國家層面,2023年發(fā)布的《數(shù)字中國建設整體布局規(guī)劃》提供了政策支持,其提出構建國家數(shù)據(jù)管理體制機制[24]??上仍诓糠值貐^(qū)或部分生成式人工智能繪畫公司試點,組建著作權集體管理組織,統(tǒng)一開發(fā)開源訓練數(shù)據(jù)集[23]。其二,行業(yè)層面,可通過優(yōu)惠政策激勵大型AI平臺企業(yè)或相關研發(fā)者自主開發(fā)開源數(shù)據(jù)集。經(jīng)典的AI公開數(shù)據(jù)集如CIFAR數(shù)據(jù)集,匯總了眾多彩色圖像的經(jīng)典數(shù)據(jù)[15],可用于監(jiān)督學習訓練。通過構建開源的公共訓練數(shù)據(jù)集,能夠以低成本獲取高質量訓練數(shù)據(jù),同時有效避免了爬取與侵權行為,確保訓練數(shù)據(jù)來源可追溯,有效保障數(shù)據(jù)來源安全。

    加強數(shù)據(jù)內容安全治理,監(jiān)督AI平臺尊重他人知識產(chǎn)權。無論是我國李某某訴劉某某案或是美國Andersen訴StabilityAI案,糾紛的根源均在于AI平臺未能充分尊重他人在先著作權,未經(jīng)許可便擅自使用他人在先作品,因此規(guī)制此類侵權的重點在于督促生成式人工智能繪畫平臺尊重他人知識產(chǎn)權。其一,應要求AI平臺獲取他人在先作品必須征得著作權人同意并支付報酬。AI平臺獲取訓練數(shù)據(jù)不應納人合理使用范疇,若僅是為研發(fā)數(shù)據(jù)集且免費向公眾開放,可適用合理使用規(guī)則,但大多AI平臺獲取數(shù)據(jù)的最終目的是牟利,故應征得同意并支付報酬。短期來看雖會使開發(fā)生成式人工智能繪畫系統(tǒng)成本增加,但長遠來看,生成式人工智能繪畫終究無法實現(xiàn)從零到一的過程,必須依賴于既有的人類作品,也只有蘊含了思想情感的人類作品才能實現(xiàn)高質量創(chuàng)新。故若為了短期利益而放任AI平臺不征得同意也不支付報酬而獲取數(shù)據(jù),最終將會大幅削減人類創(chuàng)新熱情,隨著高質量作品的減少,生成式人工智能繪畫技術也無法實現(xiàn)進一步發(fā)展,既不利于著作權保護,也不利于技術發(fā)展。其二,可設立投訴舉報機制?!兑蟆返谖鍡l規(guī)定應建立著作權投訴舉報渠道,便于著作權人及時維權,同時也使AI平臺得以適用避風港規(guī)則,有助于及時制止著作權侵權與減少損失。

    五、結語

    生成式人工智能繪畫快速發(fā)展并普及,要求法律規(guī)范與時俱進,緊跟時代發(fā)展的腳步。生成式人工智能繪畫因其技術特征,存在著作權侵權風險,根據(jù)被侵權主體的不同,可分為針對在先著作權人的侵權與針對生成式人工智能繪畫自身的侵權。觀察國內外司法實踐可以發(fā)現(xiàn),目前在治理其著作權侵權的過程中存在諸多困境,如生成式人工智能繪畫著作權認定不明確、訓練數(shù)據(jù)集侵權的舉證困難、訓練數(shù)據(jù)集缺乏有效治理,為此可依據(jù)使用者獨創(chuàng)性貢獻認定著作權、探索數(shù)據(jù)侵權舉證責任倒置規(guī)則、加強數(shù)據(jù)來源與內容的安全治理。依法有效預防與治理生成式人工智能繪畫著作權侵權風險,有助于保障著作權,維護并一定程度上激發(fā)人們的創(chuàng)作創(chuàng)新熱情,同時能夠促進生成式人工智能技術的可持續(xù)發(fā)展,推動其在合規(guī)收集更多高質量人類作品的基礎上實現(xiàn)自身的發(fā)展與進步,助力中國特色社會主義法律體系建設,以及中國式現(xiàn)代化的推進?,F(xiàn)階段中國、美國、歐盟是生成式人工智能領域的主要參與者[15],在該領域的國際競爭中,要想爭取優(yōu)勢,我國需堅持立足國情,探索具有中國特色的生成式人工智能監(jiān)管規(guī)則體系,與司法實踐相輔相成,通過完善立法為實踐提供法律依據(jù),并在實踐當中對既有規(guī)則的不足之處加以解釋和完善,以實現(xiàn)推動技術大力發(fā)展,同時兼顧權利保障。

    參考文獻:

    [1]羅霄.2023生成式AI圖像模型年報[J].藝術學研究,2024(1):145-152.

    [2]楊宇鶴.AI繪畫的演化、影響與思辨[J].傳媒,2023(17):52-55.

    [3]WANGKF,GOUC,DUANYJ,etal.GenerativeAdversarialNetworks:Introductionand Outlook[J].IEEE/CAA Journal ofAutomaticaSinica,2017(4):588-598.

    [4]劉澤潤,尹宇飛,薛文灝,等.基于擴散模型的條件引導圖像生成綜述[J].浙江大學學報(理學版),2023(6):651-667.

    [5]劉少軍,聶琳峰.人工智能生成內容的著作權法之辯[J].南昌大學學報(人文社會科學版),2024(1):107-118.

    [6]劉書亮.論AI繪畫對文化創(chuàng)意領域的影響[J].當代動畫,2023(2) :91-95.

    [7]聶洪濤,馬可可.生成式人工智能繪畫侵權的樣態(tài)分析與規(guī)制路徑[J].行政與法,2023(12):86-98.

    [8]王遷.再論人工智能生成的內容在著作權法中的定性[J].政法論壇,2023(4):16-33.

    [9]SAMUELSON P.Allocating Ownership Rights in Computer-Generated Works[J].University ofPitsburgh Law Review,1986(4) :1185-1228.

    [10]張金平.論人工智能生成物可版權性及侵權責任承擔[J].南京社會科學,2023(10):77-89.

    [11]王雪喬.人工智能生成物的知識產(chǎn)權保護立法研究[J].湖南科技大學學報(社會科學版),2020(2):96-102.

    [12]鄭遠民,賀栩溪.結果視角下人工智能生成物的保護路徑檢討[J].科技與法律,2020(3):14-21.

    [13]林秀芹,郭壬癸.人工智能對知識產(chǎn)權正當性理論的挑戰(zhàn)與應對[J].知識產(chǎn)權,2023(11):78-102.

    [14]臧志彭,丁悅琪.中國AIGC著作權侵權法律規(guī)制的優(yōu)化路徑[J].出版廣角,2023(24):21-27.

    [15]高澤晉.潘多拉的魔盒:人工智能訓練數(shù)據(jù)的來源、使用與治理——面向100位AI開發(fā)者的扎根研究[J].新聞記者,2022(1) :86-96.

    [16]馬歌塬.法理視域下AI繪畫的未來:自由與控制的平衡[J].智能科學與技術學報,2023(3):424-430.

    [17]汪鵬程.科技向善的法治保障及其德治捍衛(wèi)[J].自然辯證法研究,2023(10):122-127.

    [18]吳午東.人工智能生成內容與傳統(tǒng)版權制度的分歧[J].山東社會科學,2020(7):36-42.

    [19]蔣.論人工智能生成內容的可版權性:以用戶的獨創(chuàng)性表達為視角[J].知識產(chǎn)權,2024(1):36-67.

    [20]安晨曦.舉證責任倒置:一個迷思概念的省思——以知識產(chǎn)權侵權訴訟的舉證責任分配為中心[J].湖北社會科學,2015(11) :168-175.

    [21]葉自強.舉證責任倒置規(guī)則的構成要素與適用[J].河北法學,2011(5):71-75.

    [22]郭少飛,李彤.數(shù)據(jù)侵權責任認定難題及其克服:以抖音群控案為例[J].求是學刊,2022(4):137-149.

    [23]種曉明,孔正毅.AIGC數(shù)據(jù)供給側視角下我國出版業(yè)版權資產(chǎn)的開發(fā)[J].出版發(fā)行研究,2023(8):29-36.

    [24]中共中央國務院印發(fā)《數(shù)字中國建設整體布局規(guī)劃》[N].人民日報,2023-02-28(1).

    作者簡介:王卓群(2001—),女,漢族,遼寧本溪人,單位為西南政法大學人工智能法學院,研究方向為人工智能法學。

    (責任編輯:王寶林)

    猜你喜歡
    人工智能
    我校新增“人工智能”本科專業(yè)
    用“小AI”解決人工智能的“大”煩惱
    汽車零部件(2020年3期)2020-03-27 05:30:20
    當人工智能遇見再制造
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    AI人工智能解疑答問
    人工智能與就業(yè)
    基于人工智能的電力系統(tǒng)自動化控制
    人工智能,來了
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    人工智能來了
    學與玩(2017年12期)2017-02-16 06:51:12
    日日夜夜操网爽| 在线观看一区二区三区| 亚洲人成77777在线视频| 中国美女看黄片| 性少妇av在线| 欧美最黄视频在线播放免费 | 国产精品香港三级国产av潘金莲| 久久人妻福利社区极品人妻图片| av福利片在线| 男女高潮啪啪啪动态图| 国产精品98久久久久久宅男小说| 久久亚洲精品不卡| 18禁美女被吸乳视频| 精品国产一区二区久久| 黄片播放在线免费| 精品一区二区三区视频在线观看免费 | 久久国产精品男人的天堂亚洲| 一个人免费在线观看的高清视频| x7x7x7水蜜桃| 亚洲情色 制服丝袜| 黄色成人免费大全| 亚洲视频免费观看视频| 免费看十八禁软件| 久久国产精品人妻蜜桃| 国产无遮挡羞羞视频在线观看| 日韩欧美一区二区三区在线观看| 中国美女看黄片| 欧美中文综合在线视频| 又紧又爽又黄一区二区| 亚洲片人在线观看| 亚洲一区二区三区欧美精品| 正在播放国产对白刺激| 手机成人av网站| 日韩成人在线观看一区二区三区| 99国产综合亚洲精品| 国产成人av教育| 国产99久久九九免费精品| 成人特级黄色片久久久久久久| 久热这里只有精品99| 国产精品久久久久久人妻精品电影| 国产单亲对白刺激| a级毛片黄视频| 国产成人系列免费观看| 人成视频在线观看免费观看| 久久久国产一区二区| 两性午夜刺激爽爽歪歪视频在线观看 | 男人的好看免费观看在线视频 | 久久久国产精品麻豆| 后天国语完整版免费观看| 久久国产精品人妻蜜桃| 三上悠亚av全集在线观看| 一二三四社区在线视频社区8| 男人的好看免费观看在线视频 | 亚洲av日韩精品久久久久久密| 国产亚洲精品久久久久5区| 亚洲专区字幕在线| 性欧美人与动物交配| 一级作爱视频免费观看| 国产麻豆69| 性少妇av在线| 级片在线观看| 国产99久久九九免费精品| 日日爽夜夜爽网站| 欧美乱码精品一区二区三区| 曰老女人黄片| 999精品在线视频| 亚洲精品一区av在线观看| 欧美av亚洲av综合av国产av| 日韩欧美一区二区三区在线观看| 女性生殖器流出的白浆| 亚洲七黄色美女视频| 国产成人影院久久av| 黄色片一级片一级黄色片| 精品日产1卡2卡| 99精品在免费线老司机午夜| 在线十欧美十亚洲十日本专区| 色老头精品视频在线观看| 国产高清激情床上av| 亚洲精品中文字幕一二三四区| 久久草成人影院| 超碰成人久久| 亚洲,欧美精品.| 桃红色精品国产亚洲av| 国产成人免费无遮挡视频| 亚洲专区中文字幕在线| 黄频高清免费视频| 黑人欧美特级aaaaaa片| 少妇粗大呻吟视频| 亚洲人成77777在线视频| 老司机午夜十八禁免费视频| 岛国在线观看网站| 99热只有精品国产| 国产麻豆69| 欧美乱色亚洲激情| 一区二区日韩欧美中文字幕| 桃红色精品国产亚洲av| 丁香六月欧美| 波多野结衣高清无吗| 日韩视频一区二区在线观看| av片东京热男人的天堂| 欧美乱色亚洲激情| 免费在线观看完整版高清| 久久九九热精品免费| 可以在线观看毛片的网站| 久久人人97超碰香蕉20202| 视频区欧美日本亚洲| 性少妇av在线| 欧美国产精品va在线观看不卡| 丁香欧美五月| 一区二区三区精品91| 精品国内亚洲2022精品成人| 巨乳人妻的诱惑在线观看| 精品福利永久在线观看| 精品国产乱子伦一区二区三区| 亚洲精品中文字幕在线视频| 叶爱在线成人免费视频播放| 多毛熟女@视频| 午夜两性在线视频| 成人免费观看视频高清| 亚洲avbb在线观看| 每晚都被弄得嗷嗷叫到高潮| 久久99一区二区三区| svipshipincom国产片| 亚洲欧美激情在线| 精品久久久久久久毛片微露脸| 国产97色在线日韩免费| 久热爱精品视频在线9| 精品乱码久久久久久99久播| 国产精品美女特级片免费视频播放器 | xxx96com| 午夜影院日韩av| 亚洲七黄色美女视频| 丰满人妻熟妇乱又伦精品不卡| 热re99久久精品国产66热6| 在线天堂中文资源库| 精品一区二区三区四区五区乱码| 日韩精品中文字幕看吧| 日本精品一区二区三区蜜桃| 久久草成人影院| 久热爱精品视频在线9| 久久精品影院6| 日本wwww免费看| 一本综合久久免费| 国产主播在线观看一区二区| 美女高潮到喷水免费观看| 国产精品美女特级片免费视频播放器 | 色精品久久人妻99蜜桃| 99香蕉大伊视频| 欧洲精品卡2卡3卡4卡5卡区| 9热在线视频观看99| 国产xxxxx性猛交| 亚洲久久久国产精品| 69av精品久久久久久| 亚洲人成电影观看| 操出白浆在线播放| 高清在线国产一区| 久久精品国产综合久久久| 一边摸一边做爽爽视频免费| 涩涩av久久男人的天堂| 日本精品一区二区三区蜜桃| av网站免费在线观看视频| 国产精品秋霞免费鲁丝片| 久久人妻av系列| 久久精品亚洲精品国产色婷小说| 每晚都被弄得嗷嗷叫到高潮| 欧美激情 高清一区二区三区| 欧美成人性av电影在线观看| 精品久久久久久成人av| 日韩免费av在线播放| 亚洲精品中文字幕一二三四区| 91大片在线观看| ponron亚洲| 中文字幕人妻丝袜制服| 欧美大码av| 自线自在国产av| 亚洲七黄色美女视频| 久久人妻av系列| 日本五十路高清| 免费搜索国产男女视频| 精品高清国产在线一区| 欧美午夜高清在线| 亚洲一区高清亚洲精品| 女人被躁到高潮嗷嗷叫费观| 亚洲aⅴ乱码一区二区在线播放 | 久久精品国产亚洲av高清一级| 久久久久精品国产欧美久久久| 午夜激情av网站| 欧美 亚洲 国产 日韩一| 日本撒尿小便嘘嘘汇集6| 首页视频小说图片口味搜索| 男男h啪啪无遮挡| 日本五十路高清| 日日干狠狠操夜夜爽| 桃色一区二区三区在线观看| 最新美女视频免费是黄的| 国产99久久九九免费精品| 变态另类成人亚洲欧美熟女 | 三上悠亚av全集在线观看| 亚洲精品粉嫩美女一区| 免费搜索国产男女视频| 国产欧美日韩一区二区精品| 这个男人来自地球电影免费观看| 国产激情久久老熟女| 中文字幕高清在线视频| 少妇 在线观看| 人人妻,人人澡人人爽秒播| 叶爱在线成人免费视频播放| 国产激情欧美一区二区| 男女下面进入的视频免费午夜 | 99在线人妻在线中文字幕| 成熟少妇高潮喷水视频| 黑人巨大精品欧美一区二区蜜桃| 日韩大码丰满熟妇| 久久精品亚洲熟妇少妇任你| 五月开心婷婷网| 欧美日韩亚洲国产一区二区在线观看| 久久人人97超碰香蕉20202| 久久天躁狠狠躁夜夜2o2o| 国产1区2区3区精品| 男人舔女人下体高潮全视频| 三级毛片av免费| 又紧又爽又黄一区二区| 高清黄色对白视频在线免费看| 夜夜躁狠狠躁天天躁| 在线视频色国产色| 很黄的视频免费| 久热爱精品视频在线9| 日韩视频一区二区在线观看| 国产精品一区二区免费欧美| avwww免费| 久99久视频精品免费| 激情在线观看视频在线高清| 大陆偷拍与自拍| 久久久久久久久免费视频了| 国产蜜桃级精品一区二区三区| 99久久国产精品久久久| 热re99久久精品国产66热6| 亚洲av第一区精品v没综合| 人人妻人人添人人爽欧美一区卜| 亚洲欧美日韩无卡精品| 久久香蕉激情| 精品国产亚洲在线| 一级片免费观看大全| 美女福利国产在线| 亚洲男人天堂网一区| www国产在线视频色| 欧美日韩亚洲高清精品| 中文欧美无线码| 岛国在线观看网站| 中文字幕另类日韩欧美亚洲嫩草| 国产精品野战在线观看 | 在线观看免费高清a一片| 欧美黑人精品巨大| 久久香蕉激情| 在线播放国产精品三级| 亚洲精华国产精华精| 一进一出抽搐动态| 咕卡用的链子| 国产91精品成人一区二区三区| 亚洲一码二码三码区别大吗| 正在播放国产对白刺激| 超碰97精品在线观看| 欧美日韩中文字幕国产精品一区二区三区 | 亚洲 国产 在线| 黄色视频,在线免费观看| 成熟少妇高潮喷水视频| 亚洲人成网站在线播放欧美日韩| 长腿黑丝高跟| 免费不卡黄色视频| 欧美不卡视频在线免费观看 | 18禁裸乳无遮挡免费网站照片 | 妹子高潮喷水视频| 午夜免费观看网址| 中文字幕色久视频| 久久久久亚洲av毛片大全| 亚洲人成电影观看| 在线观看免费视频日本深夜| 久久99一区二区三区| netflix在线观看网站| www.999成人在线观看| 免费av中文字幕在线| 亚洲成人精品中文字幕电影 | 夜夜看夜夜爽夜夜摸 | 亚洲av成人一区二区三| 成人免费观看视频高清| 精品久久久久久久久久免费视频 | 久久精品国产99精品国产亚洲性色 | 亚洲五月色婷婷综合| 亚洲七黄色美女视频| 精品卡一卡二卡四卡免费| 欧美黄色片欧美黄色片| 久久国产精品人妻蜜桃| 欧美午夜高清在线| 亚洲精品国产一区二区精华液| 男女午夜视频在线观看| 日本wwww免费看| 亚洲国产欧美日韩在线播放| 狠狠狠狠99中文字幕| 黄片播放在线免费| 欧美一区二区精品小视频在线| 免费高清视频大片| 国产欧美日韩综合在线一区二区| 麻豆一二三区av精品| ponron亚洲| 国产成人精品无人区| 一进一出抽搐动态| 国产精品久久久久成人av| 午夜福利免费观看在线| 亚洲中文日韩欧美视频| 国产一区二区在线av高清观看| 天堂影院成人在线观看| 在线观看一区二区三区| 国产激情久久老熟女| 丁香欧美五月| 色综合欧美亚洲国产小说| 热re99久久精品国产66热6| 少妇裸体淫交视频免费看高清 | 久久狼人影院| 美女扒开内裤让男人捅视频| 日韩 欧美 亚洲 中文字幕| av片东京热男人的天堂| www.自偷自拍.com| 三级毛片av免费| 12—13女人毛片做爰片一| 国产精品成人在线| 欧美成人午夜精品| 亚洲五月婷婷丁香| 日韩中文字幕欧美一区二区| 又大又爽又粗| 九色亚洲精品在线播放| 母亲3免费完整高清在线观看| 在线十欧美十亚洲十日本专区| 日韩欧美免费精品| 韩国av一区二区三区四区| 国产午夜精品久久久久久| 国产日韩一区二区三区精品不卡| 18禁国产床啪视频网站| 欧美一级毛片孕妇| 久久久久国产精品人妻aⅴ院| 成年人黄色毛片网站| 夜夜夜夜夜久久久久| 国产精品野战在线观看 | 黄色毛片三级朝国网站| 欧美日韩黄片免| 国产在线精品亚洲第一网站| 成人18禁高潮啪啪吃奶动态图| 欧美人与性动交α欧美软件| 日本 av在线| 青草久久国产| 看黄色毛片网站| 国产真人三级小视频在线观看| 中文欧美无线码| 国产欧美日韩一区二区精品| 很黄的视频免费| 水蜜桃什么品种好| 日本黄色日本黄色录像| 国产单亲对白刺激| 一区二区三区激情视频| 黑丝袜美女国产一区| av网站在线播放免费| 国产精品98久久久久久宅男小说| 国产一区二区在线av高清观看| 精品日产1卡2卡| 每晚都被弄得嗷嗷叫到高潮| 亚洲av第一区精品v没综合| netflix在线观看网站| 一个人免费在线观看的高清视频| 搡老熟女国产l中国老女人| 成人亚洲精品一区在线观看| 搡老熟女国产l中国老女人| 99国产综合亚洲精品| 欧美乱码精品一区二区三区| 日本a在线网址| 免费在线观看视频国产中文字幕亚洲| 51午夜福利影视在线观看| 日韩国内少妇激情av| 亚洲七黄色美女视频| 日韩精品中文字幕看吧| 久久精品成人免费网站| 一区二区三区激情视频| 中文字幕人妻熟女乱码| 嫩草影视91久久| 热99re8久久精品国产| 久久人人97超碰香蕉20202| 国产成人一区二区三区免费视频网站| 神马国产精品三级电影在线观看 | 丰满饥渴人妻一区二区三| 久久精品亚洲av国产电影网| 欧美成人午夜精品| 久久中文字幕一级| 极品教师在线免费播放| 中文欧美无线码| 看免费av毛片| 黄色女人牲交| 午夜老司机福利片| 亚洲精品一卡2卡三卡4卡5卡| 十八禁网站免费在线| 欧美丝袜亚洲另类 | 免费久久久久久久精品成人欧美视频| 午夜精品国产一区二区电影| 久久人妻熟女aⅴ| av片东京热男人的天堂| 夜夜看夜夜爽夜夜摸 | 久久午夜综合久久蜜桃| 色在线成人网| 嫁个100分男人电影在线观看| 黄色怎么调成土黄色| av中文乱码字幕在线| 日本免费a在线| 色尼玛亚洲综合影院| 亚洲国产毛片av蜜桃av| 午夜老司机福利片| 悠悠久久av| 丝袜人妻中文字幕| 亚洲欧美一区二区三区久久| 欧美日本中文国产一区发布| 伦理电影免费视频| 免费看a级黄色片| 国产精品成人在线| 老司机亚洲免费影院| 国产一区二区三区综合在线观看| 欧美丝袜亚洲另类 | 国产一区二区在线av高清观看| 欧美一级毛片孕妇| 亚洲一区二区三区色噜噜 | 精品久久久久久成人av| 999精品在线视频| av超薄肉色丝袜交足视频| 欧美乱码精品一区二区三区| 99re在线观看精品视频| 在线看a的网站| 久久伊人香网站| 色在线成人网| 欧美黄色淫秽网站| 纯流量卡能插随身wifi吗| 日韩大码丰满熟妇| 免费在线观看视频国产中文字幕亚洲| 午夜福利在线免费观看网站| 美女福利国产在线| 亚洲第一青青草原| 欧美一级毛片孕妇| 国产亚洲精品第一综合不卡| 亚洲一卡2卡3卡4卡5卡精品中文| 成年版毛片免费区| 在线观看66精品国产| 久久久久久大精品| 亚洲国产中文字幕在线视频| 亚洲专区中文字幕在线| 母亲3免费完整高清在线观看| 一级毛片精品| avwww免费| e午夜精品久久久久久久| 日本黄色视频三级网站网址| 国产成人精品无人区| 午夜91福利影院| 欧美老熟妇乱子伦牲交| 自拍欧美九色日韩亚洲蝌蚪91| 神马国产精品三级电影在线观看 | 51午夜福利影视在线观看| 久久热在线av| 精品久久久久久,| 国产成人影院久久av| 国产高清国产精品国产三级| 一边摸一边抽搐一进一出视频| 欧美黄色片欧美黄色片| 午夜影院日韩av| 久久久久九九精品影院| 欧美国产精品va在线观看不卡| 国产欧美日韩精品亚洲av| 操美女的视频在线观看| 欧美 亚洲 国产 日韩一| 欧美午夜高清在线| 69精品国产乱码久久久| 欧美人与性动交α欧美软件| 国产一卡二卡三卡精品| 极品人妻少妇av视频| 女同久久另类99精品国产91| 免费观看人在逋| 黄色a级毛片大全视频| 日本五十路高清| 亚洲国产欧美一区二区综合| www日本在线高清视频| 欧美激情高清一区二区三区| 国产精品永久免费网站| 久热这里只有精品99| 欧美另类亚洲清纯唯美| 欧美+亚洲+日韩+国产| 亚洲国产欧美一区二区综合| 欧美激情久久久久久爽电影 | 国产伦人伦偷精品视频| 久久精品国产综合久久久| 午夜亚洲福利在线播放| 免费在线观看视频国产中文字幕亚洲| 少妇裸体淫交视频免费看高清 | 免费日韩欧美在线观看| 叶爱在线成人免费视频播放| 脱女人内裤的视频| 国产成年人精品一区二区 | 国产一区在线观看成人免费| 免费不卡黄色视频| 亚洲国产精品sss在线观看 | 欧美日韩av久久| 日日干狠狠操夜夜爽| 女性被躁到高潮视频| 男女下面插进去视频免费观看| 9热在线视频观看99| 久久精品成人免费网站| 久久香蕉精品热| 午夜福利在线观看吧| 国产99白浆流出| 国产欧美日韩综合在线一区二区| 亚洲 国产 在线| 久99久视频精品免费| 亚洲全国av大片| 99热国产这里只有精品6| 国产精品影院久久| 最新在线观看一区二区三区| 成人av一区二区三区在线看| 麻豆国产av国片精品| 日本黄色视频三级网站网址| 久久九九热精品免费| 男人舔女人的私密视频| 日本撒尿小便嘘嘘汇集6| 欧美av亚洲av综合av国产av| www国产在线视频色| 美女午夜性视频免费| 人妻久久中文字幕网| 80岁老熟妇乱子伦牲交| 正在播放国产对白刺激| 亚洲成人国产一区在线观看| 50天的宝宝边吃奶边哭怎么回事| 久久精品影院6| 国产成人免费无遮挡视频| 国产成人精品在线电影| av电影中文网址| 高清黄色对白视频在线免费看| 国产精品1区2区在线观看.| 亚洲人成电影观看| 老熟妇仑乱视频hdxx| 操美女的视频在线观看| 一区福利在线观看| av天堂久久9| 国产精品二区激情视频| xxxhd国产人妻xxx| 欧美日韩中文字幕国产精品一区二区三区 | 99国产综合亚洲精品| 亚洲国产精品合色在线| 这个男人来自地球电影免费观看| 欧美日韩黄片免| x7x7x7水蜜桃| 久久狼人影院| 丰满迷人的少妇在线观看| 免费高清视频大片| 色播在线永久视频| 男女下面插进去视频免费观看| 国产亚洲av高清不卡| 欧美日韩福利视频一区二区| 人人妻,人人澡人人爽秒播| 校园春色视频在线观看| 80岁老熟妇乱子伦牲交| 免费观看精品视频网站| 99精国产麻豆久久婷婷| 岛国在线观看网站| 在线观看午夜福利视频| 亚洲精品国产区一区二| 国产欧美日韩综合在线一区二区| 免费看a级黄色片| www.精华液| 国产欧美日韩精品亚洲av| 国产伦一二天堂av在线观看| 免费搜索国产男女视频| 亚洲欧美日韩另类电影网站| 黄片大片在线免费观看| 亚洲一区二区三区色噜噜 | 精品日产1卡2卡| 亚洲av美国av| 99久久99久久久精品蜜桃| 中文字幕人妻丝袜制服| 黑人巨大精品欧美一区二区mp4| 国产精品成人在线| 嫩草影视91久久| 色综合欧美亚洲国产小说| 丰满的人妻完整版| 亚洲 欧美一区二区三区| 亚洲欧美一区二区三区黑人| 亚洲精品在线美女| 久久精品91无色码中文字幕| 又紧又爽又黄一区二区| 一边摸一边抽搐一进一小说| 亚洲人成网站在线播放欧美日韩| 免费在线观看黄色视频的| 村上凉子中文字幕在线| 人妻久久中文字幕网| 亚洲视频免费观看视频| 一级毛片精品| 51午夜福利影视在线观看| 精品少妇一区二区三区视频日本电影| 欧美人与性动交α欧美精品济南到| 乱人伦中国视频| 欧美成人免费av一区二区三区| 亚洲av美国av| 91在线观看av| 色精品久久人妻99蜜桃| 欧美一区二区精品小视频在线| 久久草成人影院| 亚洲,欧美精品.| 亚洲国产欧美网| 1024视频免费在线观看| 天天躁夜夜躁狠狠躁躁| 成熟少妇高潮喷水视频| 中文字幕人妻丝袜一区二区| 在线观看舔阴道视频| 亚洲七黄色美女视频| 亚洲熟女毛片儿| 无人区码免费观看不卡|