• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    深度偽造內(nèi)容著作權(quán)侵權(quán)問題研究

    2022-02-04 13:19:51華劼
    關(guān)鍵詞:制作者音視頻著作權(quán)法

    文 / 華劼

    一、問題的提出

    深度偽造內(nèi)容(Deepfake)是近年來與人工智能技術(shù)緊密結(jié)合的技術(shù)所產(chǎn)生的新現(xiàn)象,通常是利用人工智能深度學(xué)習(xí)創(chuàng)建的音視頻或圖像,這類音視頻或圖像的創(chuàng)建通過換臉或場景更改從而改變原音視頻或圖像的內(nèi)容實(shí)現(xiàn)。1Ice J. Defamatory Political Deepfakes and the First Amendment. Case Western Reserve Law Review, 2019, 70(2): 427.人工智能技術(shù)中的生成性對抗網(wǎng)絡(luò)(generative adversarial networks, GANs)是創(chuàng)建深度偽造內(nèi)容的底層工具,同時(shí)包含生成算法和判別算法,生成算法用于生成與數(shù)據(jù)訓(xùn)練集中原數(shù)據(jù)文件相似的新音視頻或圖像,判別算法通過分析新生成文件是否來源于已有數(shù)據(jù)訓(xùn)練集以識(shí)別新文件的真實(shí)性,這兩類算法交互作用,在判別算法的作用下,生成算法不斷提高生成文件以假亂真的程度。2Langa J. Deepfakes, Real Consequences: Crafting Legislation to Combat Threat Posed by Deepfakes. Boston University Law Review, 2021, 101(2): 764-765.深度偽造一詞源于Reddit網(wǎng)某用戶網(wǎng)名,該用戶于2017年9月30日發(fā)布了演員梅西·威廉姆斯的臉部虛擬視頻,并隨后公開了他用于創(chuàng)造換臉視頻的技術(shù)源代碼。3Caldera E. Reject the Evidence of Your Eyes and Ears: Deepfakes and the Law of Virtual Replicants. Seton Hall Law Review,2019, 50(1): 185.深度偽造進(jìn)而開始指代以“換臉”技術(shù)為代表的一類讓公眾難以識(shí)別新生成文件真?zhèn)蔚募夹g(shù)和由此生成的音視頻或圖像。

    深度偽造帶來的“非同意色情”、4“非同意色情”又稱“非自愿色情”,將受害者的臉放入情色視頻中,受害者事先對含有自己臉部特征的情色深度偽造的制作并不知情。虛假新聞、名譽(yù)破壞、敲詐勒索、5制作“非同意色情”或破壞名譽(yù)的深度偽造,利用受害者無法證偽的技術(shù)劣勢和害怕其隱私和名譽(yù)受損的心理,對受害者進(jìn)行敲詐勒索。虛假證據(jù)、惡性商業(yè)競爭、6通過發(fā)布競爭企業(yè)高管的虛假負(fù)面消息等途徑實(shí)現(xiàn)。負(fù)面社會(huì)消息、恐怖主義等現(xiàn)象引發(fā)了對個(gè)人和社會(huì)兩個(gè)層面的危害,包括侵犯個(gè)人的隱私權(quán)、個(gè)人信息利益、名譽(yù)權(quán)、財(cái)產(chǎn)權(quán)和人身安全,危及司法證據(jù)的效力、商業(yè)活動(dòng)的良性競爭、政府公信力、國內(nèi)社會(huì)穩(wěn)定,以及國與國之間的外交安全。這些危害引發(fā)立法者和法學(xué)學(xué)者對深度偽造的高度關(guān)注。我國2021年1月1日起施行的《民法典》第1019條在對肖像權(quán)進(jìn)行保護(hù)時(shí)已考慮到深度偽造帶來的潛在危害,規(guī)定任何組織或個(gè)人不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)?!睹穹ǖ洹返?034和1035條規(guī)定包括生物識(shí)別信息在內(nèi)的自然人的個(gè)人信息受法律保護(hù)。國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局發(fā)布的于2020年1月1日起施行的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》,針對網(wǎng)絡(luò)音視頻信息服務(wù)提供者基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用上線音視頻信息服務(wù)規(guī)定了安全評估機(jī)制、標(biāo)識(shí)非真實(shí)信息機(jī)制、非真實(shí)音視頻鑒別機(jī)制、辟謠機(jī)制。網(wǎng)絡(luò)音視頻信息服務(wù)提供者和使用者不得利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播虛假新聞信息。任何組織和個(gè)人不得利用網(wǎng)絡(luò)音視頻信息服務(wù)以及相關(guān)信息技術(shù)從事危害國家安全、社會(huì)穩(wěn)定、侵害他人名譽(yù)權(quán)、肖像權(quán)、隱私權(quán)、知識(shí)產(chǎn)權(quán)和其他合法權(quán)益的活動(dòng)。7《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》第九至十三條。2021年11月1日起施行的《個(gè)人信息保護(hù)法》建立個(gè)人信息保護(hù)制度,規(guī)定處理個(gè)人信息的一系列原則,明確自然人的個(gè)人信息受法律保護(hù),任何組織、個(gè)人不得侵害自然人的個(gè)人信息權(quán)益。以上立法僅涉及不得利用深度偽造技術(shù)侵害肖像權(quán)、名譽(yù)權(quán)、個(gè)人信息、知識(shí)產(chǎn)權(quán)的原則性規(guī)定以及網(wǎng)絡(luò)服務(wù)提供者平臺(tái)管理的具體行政規(guī)則。我國學(xué)者從宏觀視野針對深度偽造的技術(shù)和法律風(fēng)險(xiǎn)提出規(guī)則應(yīng)對和治理路徑,其中雖有論述涉及知識(shí)產(chǎn)權(quán)保護(hù),但未深入分析。

    本文擬從深度偽造內(nèi)容著作權(quán)侵權(quán)角度入手,詳細(xì)分析以下四個(gè)問題:(一)深度偽造內(nèi)容對原音視頻或圖像的利用是否侵犯了原文件的著作權(quán),如果侵權(quán),侵犯了何種權(quán)利;(二)制作深度偽造內(nèi)容能否落入合理使用范疇,而使得深度偽造內(nèi)容制作者免除侵權(quán)責(zé)任;(三)新生成的深度偽造內(nèi)容是否受著作權(quán)保護(hù);(四)如果存在侵權(quán),技術(shù)提供者、深度偽造內(nèi)容制作者、傳播者應(yīng)分別就侵權(quán)行為承擔(dān)何種責(zé)任。

    二、深度偽造內(nèi)容是否侵權(quán)以及侵犯何種權(quán)利

    著作權(quán)侵權(quán)遵循接觸加實(shí)質(zhì)性相似的判定模式,即涉嫌侵權(quán)者接觸過或有可能接觸原作品,在接觸成立的基礎(chǔ)上,新創(chuàng)作物與原作品相似,原作品滿足著作權(quán)保護(hù)要件,具有獨(dú)創(chuàng)性、可復(fù)制性以及屬于具體的表達(dá)。深度偽造內(nèi)容利用原音視頻或圖像制作,原音視頻或圖像構(gòu)成具體的表達(dá)也可復(fù)制,如果其屬于制作者獨(dú)立完成且投入一定程度智力勞動(dòng)產(chǎn)生的成果,則具有獨(dú)創(chuàng)性,能夠受到著作權(quán)法保護(hù)。制作深度偽造內(nèi)容無疑對原音視頻或圖像有接觸,判定深度偽造內(nèi)容是否構(gòu)成侵權(quán)的關(guān)鍵點(diǎn)在于其是否與原作品構(gòu)成實(shí)質(zhì)性相似。

    著作權(quán)法對實(shí)質(zhì)性相似并無準(zhǔn)確定義,司法實(shí)踐中發(fā)展出四類判定實(shí)質(zhì)性相似的方法。第一類為“普通觀察者”測試法,即從普通理性人角度看待前后兩部作品是否相似,看普通觀察者是否能忽略兩部作品的差異,從審美角度將兩部作品視為相同。第二類為“整體概念和感覺”測試法,即從作品特定信息中傳遞出的整體感覺看待前后兩部作品的相似度。8Roth Greeting Cards v. United Card Co., 429 F.2d 1106 (9th Cir., 1970).第三類為“內(nèi)外兩步驟”測試法,外部測試法從客觀角度比較前后兩部作品在主題、場景、素材等方面的相似度,在運(yùn)用外部測試法時(shí),需區(qū)分受著作權(quán)保護(hù)和不受著作權(quán)保護(hù)的元素,可以采用專家意見;內(nèi)部測試法更強(qiáng)調(diào)從目標(biāo)觀眾角度整體上感覺兩部作品在表達(dá)上的相似度。9Sid & Marty Kroftt TV Productions, Inc. v. McDonald’s Corporation, 562 F.2d 1157 (9th Cir., 1977).第四類為“抽象-過濾-比較”測試法,即首先運(yùn)用抽象法對原告作品中抽象的思想和原創(chuàng)性的表達(dá)進(jìn)行區(qū)分,其次運(yùn)用過濾法將不受著作權(quán)保護(hù)的思想從作品中分離出來,最后將原告作品中剩下的受著作權(quán)保護(hù)的表達(dá)與被告作品進(jìn)行比較。10華劼:《美術(shù)作品實(shí)質(zhì)性近似的判定——以西班牙Kukuxumusu案為切入點(diǎn)》,載《中國版權(quán)》2017年第6期,第53頁。這四類實(shí)質(zhì)性相似判定方法著力點(diǎn)雖然有別,但都強(qiáng)調(diào)對原被告作品中的獨(dú)創(chuàng)性表達(dá)進(jìn)行比較,從普通理性人角度觀察兩者的相似性程度。

    目前深度偽造內(nèi)容多為換臉視頻或圖像,將擬偽造人物的臉部覆蓋于原視頻或圖像之上,同時(shí)利用了擬偽造人物的音視頻,對該人物的面部表情和聲音進(jìn)行深度學(xué)習(xí)模仿。原視頻或圖像既有可能是影視劇片段,例如用楊冪臉部覆蓋94版《射雕英雄傳》朱茵飾演的黃蓉一角,也有可能是人物面對鏡頭說唱片段,例如偽造美國演員金·卡戴珊(Kim Kardashian)臉部進(jìn)行說唱的視頻。相對于影視劇片段,面對鏡頭訪談或說唱片段的人物姿勢和背景相對單調(diào),獨(dú)創(chuàng)性程度不高。我國2021年6月1日起施行的《著作權(quán)法》仍就視頻獨(dú)創(chuàng)性高低區(qū)分視聽作品和錄像制品,影視劇屬于獨(dú)創(chuàng)性程度高的視聽作品,其著作權(quán)由影視劇制作者享有,獨(dú)創(chuàng)性程度不高的說唱可歸為錄像制品,受鄰接權(quán)保護(hù),權(quán)利歸屬于錄像制品制作者。深度偽造內(nèi)容僅進(jìn)行換臉處理的情形下,新生成視頻或圖像僅與原視頻人物臉部不同,視頻其余部分仍相同,會(huì)構(gòu)成實(shí)質(zhì)性相似,侵犯原視聽作品制作者或錄像制品制作者的復(fù)制權(quán)。至于新生成視頻或圖像是否具有獨(dú)創(chuàng)性,從而侵犯原制作者的改編權(quán),本文將在第四部分結(jié)合新生成視頻或圖像的可版權(quán)性詳細(xì)分析。如果深度偽造內(nèi)容在網(wǎng)絡(luò)平臺(tái)傳播,還同時(shí)侵犯原制作者的信息網(wǎng)絡(luò)傳播權(quán)。對擬偽造人物的面部表情和聲音進(jìn)行數(shù)據(jù)挖掘和深度學(xué)習(xí)模仿,需要利用與該人物相關(guān)的音視頻或圖像,雖然這類音視頻或圖像并不出現(xiàn)在最終生成的深度偽造內(nèi)容中,但未經(jīng)授權(quán)對此類音視頻或圖像的大規(guī)模復(fù)制仍會(huì)侵犯制作者享有的復(fù)制權(quán)。

    此外,對影視劇人物進(jìn)行換臉的深度偽造內(nèi)容還涉及是否侵犯原劇中演員的表演者權(quán)這一問題?,F(xiàn)有研究對深度偽造內(nèi)容會(huì)侵犯演員表演者權(quán)的結(jié)論屬于對著作權(quán)理論的錯(cuò)誤理解。11賈章范:《〈民法典〉視野下深度偽造技術(shù)的法律風(fēng)險(xiǎn)與規(guī)則應(yīng)對》,載《東北農(nóng)業(yè)大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版)》2021年第1期,第75頁?!吨鳈?quán)法》雖然賦予表演者鄰接權(quán),表演者對其表演享有保護(hù)表演形象不受歪曲的權(quán)利,12《著作權(quán)法》第三十九條第一款第(二)項(xiàng)。但是影視作品中的表演者并不能對其在劇中的表演單獨(dú)享有權(quán)利,因?yàn)椤吨鳈?quán)法》規(guī)定視聽作品中影視作品的著作權(quán)由制作者享有,編劇、導(dǎo)演、詞曲作者僅享有署名權(quán)。13《著作權(quán)法》第十七條第一款。雖然法律并未提及表演者能否單獨(dú)行使權(quán)利,但根據(jù)“舉重以明輕”的法律解釋方法,《著作權(quán)法》對鄰接權(quán)人的保護(hù)水平不會(huì)高于狹義著作權(quán)人,既然編劇、導(dǎo)演等著作權(quán)人都不能對影視作品行使權(quán)利,演員等鄰接權(quán)人也不能對影視作品行使權(quán)利。14王遷:《著作權(quán)法》,中國人民大學(xué)出版社2015年版,第304頁。因此,深度偽造內(nèi)容并不會(huì)侵犯表演者鄰接權(quán)。

    三、深度偽造內(nèi)容是否落入合理使用范疇

    合理使用制度是針對著作權(quán)侵權(quán)的抗辯。某一使用作品行為落入合理使用范疇并不意味著該行為不構(gòu)成侵權(quán),而是該行為因落入法定免責(zé)事由范疇,行為人無需承擔(dān)侵權(quán)責(zé)任。因此,合理使用適用的前提是存在侵權(quán)。《著作權(quán)法》第24條窮盡式列舉了十三類合理使用情形,前十二類為具體情形,第十三類為半開放性條款“法律、行政法規(guī)規(guī)定的其他情形”。目前規(guī)定有著作權(quán)合理使用的法律僅有《著作權(quán)法》一部,行政法規(guī)有《著作權(quán)法實(shí)施條例》《信息網(wǎng)絡(luò)傳播權(quán)保護(hù)條例》《計(jì)算機(jī)軟件保護(hù)條例》三部與著作權(quán)相關(guān)法規(guī),這三部法規(guī)涉及合理使用的條款有限且不可能經(jīng)常修訂。因此,我國著作權(quán)法雖然歷經(jīng)三次修訂,但合理使用制度仍保留封閉式立法模式,并未賦予法院較大的自由裁量權(quán)。前十二類合理使用情形中與制作深度偽造內(nèi)容可能相關(guān)的情形包括為個(gè)人學(xué)習(xí)、研究或欣賞,使用他人已發(fā)表作品;15《著作權(quán)法》第二十四條第一款第(一)項(xiàng)。為科學(xué)研究,少量復(fù)制已發(fā)表作品,供科研人員使用。16《著作權(quán)法》第二十四條第一款第(六)項(xiàng)。但制作深度偽造內(nèi)容并不符合這兩類情形,深度偽造內(nèi)容在網(wǎng)絡(luò)平臺(tái)的傳播突破了為個(gè)人學(xué)習(xí)、研究或欣賞的限度,即使為科學(xué)研究目的進(jìn)行深度偽造也僅限于少量復(fù)制他人作品,而深度偽造內(nèi)容對擬偽造人物表情及聲音的學(xué)習(xí)模仿需要大量音視頻或圖像文件作支撐,不符合少量復(fù)制的條件,同時(shí)深度偽造內(nèi)容的平臺(tái)傳播也未滿足這項(xiàng)條款中不得出版發(fā)行的要求。由此看來,制作深度偽造內(nèi)容似乎無法落入我國《著作權(quán)法》規(guī)定的合理使用范疇。

    但是,著作權(quán)合理使用封閉式立法模式早已受到學(xué)者和司法實(shí)務(wù)者的質(zhì)疑,認(rèn)為現(xiàn)有窮盡式的合理使用情形含有諸多條件,不足以應(yīng)對科技發(fā)展帶來的新問題。17參見王遷:《〈著作權(quán)法〉修改:關(guān)鍵條款的解讀與分析(上)》,載《知識(shí)產(chǎn)權(quán)》2021年第1期;蔣舸:《論著作權(quán)法的“寬進(jìn)寬出”結(jié)構(gòu)》,載《中外法學(xué)》2021年第2期;李楊:《著作權(quán)合理使用制度的體系構(gòu)造與司法互動(dòng)》,載《法學(xué)評論》2020年第4期。司法實(shí)踐也在借鑒吸收域外經(jīng)驗(yàn)的基礎(chǔ)上不斷對現(xiàn)有合理使用情形進(jìn)行突破。最高人民法院于2011年發(fā)布的《關(guān)于充分發(fā)揮知識(shí)產(chǎn)權(quán)審判職能作用推動(dòng)社會(huì)主義文化大發(fā)展大繁榮和促進(jìn)經(jīng)濟(jì)自主協(xié)調(diào)發(fā)展若干問題的意見》第8條已吸收域外開放式判定合理使用的四要素分析法,提出法院判定合理使用時(shí)可“考慮作品使用行為的性質(zhì)和目的、被使用作品的性質(zhì)、被使用部分的數(shù)量和質(zhì)量、使用對作品潛在市場或價(jià)值的影響等”四個(gè)要素。其中第一和第四個(gè)要素在合理使用判定時(shí)起著決定性作用,因?yàn)榈诙刂斜皇褂米髌范际鞘馨鏅?quán)保護(hù)的,無論其受版權(quán)保護(hù)程度高低,都不利于認(rèn)定合理使用,這一要素在綜合平衡四要素時(shí)所起作用可忽略不計(jì);第三要素既要考查被使用部分占原作品整體比例,又要考查被使用部分是否為原作品的核心表達(dá),但這一要素可被第四要素吸收,因?yàn)楫?dāng)被使用部分占原作品比例小或不為核心表達(dá)時(shí),通常意味使用不會(huì)對原作品市場產(chǎn)生影響。在考查第一要素“使用行為的性質(zhì)和目的”時(shí)需要進(jìn)一步考慮使用是否具有轉(zhuǎn)換性,即新作品是否僅僅取代了原作品,還是基于進(jìn)一步的目的或不同特征增加了新內(nèi)容,改變原作品而采用了新的表達(dá)方式、含義和信息,也就是說,使用原作品創(chuàng)作新作品的目的和性質(zhì)是否以及在何種程度上是轉(zhuǎn)換性的,新作品的轉(zhuǎn)換性越強(qiáng),例如商業(yè)性等不利于認(rèn)定合理使用的其他因素的重要性就越小。18Campbell v. Acuff-Rose Music, 510 U.S. 569 (1994).第一要素通常又與第四要素緊密相關(guān),因?yàn)樾伦髌肪哂修D(zhuǎn)換性意味著其不太可能替代原作品,從而不可能對原作品現(xiàn)有或潛在市場產(chǎn)生影響。19參見Cariou v. Prince, 714 F.3d 694 (2d Cir., 2013); Blanch v. Koons, 467 F.3d 244 (2d Cir., 2006).

    近十年司法實(shí)踐中,轉(zhuǎn)換性使用成為我國合理使用判定中經(jīng)常提及的要素。提及合理使用的司法判決主要分為三類,第一類是對文字作品的大規(guī)模復(fù)制,典型判決是谷歌案。谷歌全文掃描原告作品后將片段提供給北京分公司谷翔,后者在其網(wǎng)站上為公眾提供可供檢索的作品片段,一二審法院均認(rèn)定谷翔通過網(wǎng)絡(luò)平臺(tái)提供作品片段的行為構(gòu)成轉(zhuǎn)換性合理使用,因?yàn)槭褂迷髌返男再|(zhì)和目的在于方便公眾進(jìn)行檢索,轉(zhuǎn)換了讓公眾欣賞內(nèi)容的原作品創(chuàng)作目的。二審北京市高級人民法院進(jìn)一步認(rèn)為如果復(fù)制全文僅為了后續(xù)提供片段檢索,則復(fù)制全文也應(yīng)視為轉(zhuǎn)換性合理使用。20北京市第一中級人民法院(2011)一中民初字第1321號(hào)民事判決書;北京市高級人民法院(2013)高民終字第1221號(hào)民事判決書。在上海玄霆娛樂信息科技有限公司、北京樂觸無限軟件技術(shù)有限公司等訴無錫天下九九文化發(fā)展有限公司、張牧野案中,被告在其制作的網(wǎng)絡(luò)游戲中使用原告享有著作權(quán)的《鬼吹燈》小說部分文字內(nèi)容用于引導(dǎo)玩家游戲,被告在侵權(quán)訴訟中抗辯其對原告作品的使用屬于轉(zhuǎn)換性合理使用,但被上海知識(shí)產(chǎn)權(quán)法院否定,認(rèn)為涉案游戲單純再現(xiàn)原告作品中的大量文字內(nèi)容不構(gòu)成轉(zhuǎn)換性合理使用。21上海知識(shí)產(chǎn)權(quán)法院(2017)滬73民終324號(hào)民事判決書。第二類是對美術(shù)作品等圖像的復(fù)制,在上海美術(shù)電影制片廠訴浙江新影年代文化傳播有限公司、華誼兄弟上海影院管理有限公司案中,上海知識(shí)產(chǎn)權(quán)法院判定在電影海報(bào)中使用縮小的80年代代表性卡通圖案用以反映電影時(shí)代背景構(gòu)成轉(zhuǎn)換性合理使用。22上海知識(shí)產(chǎn)權(quán)法院(2015)滬知民終字第730號(hào)民事判決書。在陳紅英訴北京奇虎科技有限公司案中,上海知識(shí)產(chǎn)權(quán)法院支持了將縮略圖用于引擎檢索的轉(zhuǎn)換性,但該縮略圖不能鏈接商業(yè)廣告。23上海知識(shí)產(chǎn)權(quán)法院(2020)滬73民終30號(hào)民事判決書。在李向暉訴廣州華多網(wǎng)絡(luò)科技有限公司案和馬建明訴廣州網(wǎng)易計(jì)算機(jī)系統(tǒng)有限公司案中,華多將原告拍攝的無錫三國影視城照片用于介紹其開發(fā)的三國游戲網(wǎng)絡(luò)文章中,網(wǎng)易將原告拍攝的某音樂家照片用于該音樂家死訊報(bào)道中,雖然被告均主張對原告照片使用的轉(zhuǎn)換性,但廣州知識(shí)產(chǎn)權(quán)法院和上海知識(shí)產(chǎn)權(quán)法院分別認(rèn)為被告并未使用照片的縮略圖,且使用原告作品并不具備必要性,三國影視城照片與介紹三國游戲文章的關(guān)聯(lián)度不大,有關(guān)音樂家的報(bào)道中也并不一定要出現(xiàn)音樂家的照片。24廣東省高級人民法院(2017)粵73民終85號(hào)民事判決書;上海知識(shí)產(chǎn)權(quán)法院(2017)滬73民終181號(hào)民事判決書。第三類是網(wǎng)絡(luò)游戲直播。在三起游戲直播案中,廣東省高級人民法院、廣州知識(shí)產(chǎn)權(quán)法院、廣州互聯(lián)網(wǎng)法院均否認(rèn)了玩家操作游戲過程中進(jìn)行直播的轉(zhuǎn)換性,認(rèn)為直播實(shí)質(zhì)性呈現(xiàn)了游戲畫面內(nèi)容,不合理地?fù)p害游戲著作權(quán)人的利益。25廣東省高級人民法院(2018)粵民終137號(hào)民事判決書;廣州互聯(lián)網(wǎng)法院(2019)粵0192民初1756號(hào)民事判決書;廣州知識(shí)產(chǎn)權(quán)法院(2019)粵73知民初252號(hào)之一民事裁定書。由此可見,我國法院雖然借鑒吸收了轉(zhuǎn)換性合理使用判定,但對轉(zhuǎn)換性的認(rèn)定局限于使用作品目的的轉(zhuǎn)換性,即支持非表達(dá)性地使用作品進(jìn)行搜索引擎類數(shù)據(jù)庫創(chuàng)建,或使用圖像能與表明背景等目的緊密關(guān)聯(lián)。

    深度偽造內(nèi)容對兩類作品進(jìn)行了復(fù)制,一類是被換臉處理的原音視頻或圖像,另一類是用于模擬擬偽造人物表情和聲音的相關(guān)音視頻或圖像。對后一類作品的使用旨在從音視頻或圖像中提取能夠合成擬偽造人物表情和聲音的數(shù)據(jù),而不會(huì)呈現(xiàn)原音視頻或圖像的具體內(nèi)容,這類使用類似于大規(guī)模復(fù)制原作品后創(chuàng)建用于引擎搜索的數(shù)據(jù)庫,屬于對原作品非表達(dá)性地使用,使用性質(zhì)和目的有別于讓公眾欣賞作品內(nèi)容的原目的,構(gòu)成轉(zhuǎn)換性合理使用。對前一類作品的使用會(huì)呈現(xiàn)除原人物臉部以外的其他內(nèi)容,且制作深度偽造內(nèi)容的目的與創(chuàng)作原音視頻或圖像一樣,都是為了讓公眾欣賞其中的表達(dá)性內(nèi)容,因此使用前一類作品難以構(gòu)成轉(zhuǎn)換性合理使用。雖然深度偽造內(nèi)容有可能對原音視頻或圖像進(jìn)行諧謔,但我國法院判決呈現(xiàn)的轉(zhuǎn)換性合理使用尚無法涵蓋戲謔嘲諷類使用作品情形,除非這類戲謔嘲諷同時(shí)介紹、評論原作品或說明某一問題,可落入《著作權(quán)法》列舉的第二項(xiàng)合理使用范疇。

    四、深度偽造內(nèi)容有無受著作權(quán)法保護(hù)的可能

    深度偽造內(nèi)容侵犯原音視頻或圖像的著作權(quán)并不必然意味深度偽造內(nèi)容不能受著作權(quán)保護(hù)。深度偽造內(nèi)容是否能作為視聽作品或美術(shù)作品、攝影作品受著作權(quán)保護(hù)的關(guān)鍵在于深度偽造內(nèi)容是否具有獨(dú)創(chuàng)性。深度偽造內(nèi)容因其使用了原作品的部分內(nèi)容表達(dá),不屬于完全獨(dú)立創(chuàng)造出的智力成果,但如果其有顯著區(qū)別于原作品的新的表達(dá)、含義、內(nèi)容,這些新的表達(dá)、含義、內(nèi)容屬于達(dá)到一定程度的智力創(chuàng)造,則深度偽造內(nèi)容可視為具有獨(dú)創(chuàng)性的演繹作品。侵權(quán)演繹作品滿足著作權(quán)保護(hù)作品的條件,仍應(yīng)受著作權(quán)保護(hù),只不過侵權(quán)演繹作品創(chuàng)作者不能在原作品著作權(quán)人未授權(quán)的情況下積極許可他人使用該侵權(quán)演繹作品。深度偽造內(nèi)容將擬偽造人物臉部覆蓋于原作品之上,通過機(jī)器深度學(xué)習(xí)重現(xiàn)擬偽造人物的表情和話語,讓擬偽造人物說出從未說過的話,應(yīng)視為具有獨(dú)創(chuàng)性的創(chuàng)作。

    深度偽造內(nèi)容屬于演繹作品意味著使用原音視頻或圖像不僅會(huì)侵犯原作品復(fù)制權(quán),還會(huì)侵犯原作品改編權(quán)。改編權(quán)從產(chǎn)生之初便和復(fù)制權(quán)緊密聯(lián)系在一起,因?yàn)楦木幖热换谠髌?,定?huì)對原作品部分內(nèi)容進(jìn)行復(fù)制,與改編者的獨(dú)創(chuàng)內(nèi)容整合后,產(chǎn)生改編作品。改編權(quán)近似于對復(fù)制權(quán)的延伸。復(fù)制權(quán)使著作權(quán)人掌控的僅是原作品首次發(fā)行后進(jìn)入的市場,而改編權(quán)能使著作權(quán)人享有從作品所有相關(guān)市場獲取收益的機(jī)會(huì)。改編權(quán)影響著著作權(quán)人一開始投資創(chuàng)作作品的程度,如果著作權(quán)人知道他能就翻譯、節(jié)略、整合、以其小說為基礎(chǔ)創(chuàng)作影視作品等發(fā)放許可和收取許可費(fèi),在創(chuàng)作之初他會(huì)投入更多的資金和智力勞動(dòng)去創(chuàng)作和宣傳作品,因?yàn)樗诖龔母嗟氖袌霁@取回報(bào),而不僅僅從銷售原文小說這一單一市場獲取收益。26華劼:《改編權(quán)權(quán)利范圍及立法模式研究》,載《南京大學(xué)學(xué)報(bào)(哲學(xué)·人文科學(xué)·社會(huì)科學(xué))》2017年第6期,第50頁。改編權(quán)所要阻止的并不是未經(jīng)授權(quán)創(chuàng)作的新作品對原作品的替代,而是未經(jīng)授權(quán)創(chuàng)作的新作品對經(jīng)授權(quán)創(chuàng)作的改編作品的替代。那么深度偽造內(nèi)容是否屬于原音視頻或圖像著作權(quán)人預(yù)期作品會(huì)進(jìn)入的市場呢?在深度偽造技術(shù)產(chǎn)生之前,音視頻或圖像著作權(quán)人不可能預(yù)期其作品會(huì)被換臉處理,但著作權(quán)人對作品的合理預(yù)期市場并不是一成不變的。正如游戲開發(fā)者和運(yùn)營者面對游戲直播帶來的巨額收益,會(huì)逐漸將開發(fā)游戲的預(yù)期市場從銷售游戲延伸至游戲直播,面對深度偽造技術(shù)帶來的機(jī)遇與挑戰(zhàn),音視頻或圖像著作權(quán)人也可能將作品合理市場預(yù)期延伸至深度偽造領(lǐng)域?,F(xiàn)實(shí)中已出現(xiàn)影視劇主演因失德被封殺時(shí),用深度偽造技術(shù)進(jìn)行換臉處理以使影視劇能順利播出的情形。

    五、深度偽造技術(shù)提供者、深度偽造內(nèi)容制作者及傳播者是否以及如何承擔(dān)侵權(quán)責(zé)任

    深度偽造技術(shù)是一項(xiàng)中立的技術(shù),該技術(shù)本身并不存在危害性,該技術(shù)對個(gè)人和社會(huì)產(chǎn)生的正負(fù)面影響取決于使用者利用技術(shù)產(chǎn)生成品的目的。深度偽造雖然有不利于個(gè)人權(quán)利和社會(huì)穩(wěn)定的一面,但也能產(chǎn)生積極效應(yīng),例如研究者和博物館等文化機(jī)構(gòu)可利用深度偽造技術(shù)復(fù)原逝者聲音相貌,讓人們緬懷逝去的親人,讓文化機(jī)構(gòu)能更生動(dòng)地展示藝術(shù)家的一生。深度偽造技術(shù)可用于多種有益途徑,例如匿名處理易受攻擊資源,生成多種語言的語音請?jiān)笗?,生成保護(hù)患者隱私的合成核磁共振圖像,合成新聞報(bào)道,改進(jìn)視頻游戲畫面,依據(jù)舊圖像制作動(dòng)畫,以及制作同人小說等。27Geddes K. Ocularcentrism and Deepfakes: Should Seeing Be Believing? Fordham Intellectual Property, Media and Entertainment Law Journal, 2021, 31(4): 1044-1045.深度偽造技術(shù)通常通過開放源代碼工具28例如,微軟的開放源代碼開發(fā)平臺(tái)GitHub就存儲(chǔ)了大多數(shù)制作深度偽造的工具?;蛟试S用戶上傳照片等數(shù)據(jù)并利用用戶界面自動(dòng)創(chuàng)建深度偽造的服務(wù)平臺(tái)29類似平臺(tái)有 Faceapp、Zao、Deepnude、Snapchat、TikTok 等。等途徑提供給制作者,深度偽造的技術(shù)提供者無法預(yù)估技術(shù)被后續(xù)利用的目的,不應(yīng)為后續(xù)不當(dāng)利用深度偽造技術(shù)的行為承擔(dān)侵權(quán)責(zé)任。

    深度偽造內(nèi)容制作者指直接制作深度偽造音視頻或圖像的個(gè)人或組織。由于制作者屬于原視聽作品或美術(shù)、攝影作品的直接使用者,其直接實(shí)施了侵犯原作品著作權(quán)的行為,應(yīng)當(dāng)承擔(dān)直接侵權(quán)責(zé)任。但要求深度偽造內(nèi)容制作者承擔(dān)侵權(quán)責(zé)任存在一定難度,主要在于深度偽造內(nèi)容制作者多為平臺(tái)用戶,其真實(shí)身份不明,平臺(tái)出于保護(hù)用戶隱私和個(gè)人信息的目的,未必會(huì)積極配合著作權(quán)人公開侵權(quán)者身份。我國《民法典》及《著作權(quán)法》并未規(guī)定權(quán)利人可以要求平臺(tái)披露涉嫌侵權(quán)者的真實(shí)身份。僅有《信息網(wǎng)絡(luò)傳播權(quán)保護(hù)條例》規(guī)定著作權(quán)行政管理部門為查處侵犯信息網(wǎng)絡(luò)傳播權(quán)的行為,可以要求平臺(tái)提供涉嫌侵權(quán)用戶的姓名或名稱、聯(lián)系方式、網(wǎng)絡(luò)地址等資料。30《信息網(wǎng)絡(luò)傳播權(quán)保護(hù)條例》第十三條。平臺(tái)無正當(dāng)理由拒絕提供或者拖延提供涉嫌侵權(quán)用戶真實(shí)信息的,由著作權(quán)行政管理部門予以警告;情節(jié)嚴(yán)重的,沒收主要用于提供網(wǎng)絡(luò)服務(wù)的計(jì)算機(jī)等設(shè)備。31《信息網(wǎng)絡(luò)傳播權(quán)保護(hù)條例》第二十五條。該行政規(guī)定并未對正當(dāng)理由的范圍加以界定和解釋,保護(hù)用戶隱私是否能作為正當(dāng)理由使平臺(tái)有權(quán)拒絕提供用戶真實(shí)信息并不確定。由行政部門以強(qiáng)制手段要求平臺(tái)提供資料能快速有效撕破面紗,掌握涉嫌侵權(quán)用戶真實(shí)身份,但卻存在濫用行政權(quán)力侵害用戶隱私的風(fēng)險(xiǎn)。我國香港地區(qū)采用法院指令程序撕破平臺(tái)用戶面紗,當(dāng)權(quán)利人有真實(shí)意愿就侵權(quán)行為提起訴訟時(shí)才能向法院申請指令,由法院頒發(fā)指令要求平臺(tái)披露涉嫌侵權(quán)內(nèi)容的真實(shí)來源。32Angela Wang & Co.: Application for Norwich Pharmacal Relief in respect of Online Infringement of Copyright. https://www.hg.org/legal-articles/ip-law-application-for-norwich-pharmacal-relief-in-respect-of-online-infringement-of-copyrightchina-7729, 最后訪問日期:2022年4月30日。雖然法院指令程序可能延長披露用戶真實(shí)身份的時(shí)間,但卻能較好平衡權(quán)利人、平臺(tái)和用戶三方的權(quán)益,值得我國大陸地區(qū)借鑒。

    深度偽造內(nèi)容傳播者指網(wǎng)絡(luò)平臺(tái),尤其是充斥深度偽造內(nèi)容的社交媒體平臺(tái)。制作者對其上傳深度偽造內(nèi)容的行為承擔(dān)直接侵權(quán)行為,這里的傳播者責(zé)任主要分析不直接制作和上傳深度偽造內(nèi)容,但卻為深度偽造內(nèi)容傳播提供存儲(chǔ)和擴(kuò)散空間的平臺(tái)責(zé)任?!睹穹ǖ洹芳啊缎畔⒕W(wǎng)絡(luò)傳播權(quán)保護(hù)條例》為平臺(tái)責(zé)任規(guī)定了通知?jiǎng)h除規(guī)則,網(wǎng)絡(luò)用戶利用網(wǎng)絡(luò)服務(wù)實(shí)施侵權(quán)行為,權(quán)利人有權(quán)通知平臺(tái)采取刪除、屏蔽、斷開鏈接等必要措施,平臺(tái)接到通知后應(yīng)當(dāng)及時(shí)將通知轉(zhuǎn)送相關(guān)用戶,并根據(jù)平臺(tái)服務(wù)類型采取相應(yīng)的必要措施,未及時(shí)采取必要措施的,對損害擴(kuò)大部分與用戶承擔(dān)連帶責(zé)任。33《民法典》第一千一百九十五條;《信息網(wǎng)絡(luò)傳播權(quán)保護(hù)條例》第十四至十五條。平臺(tái)知道或應(yīng)當(dāng)知道存在侵權(quán)行為的,未采取必要措施也應(yīng)與用戶承擔(dān)連帶責(zé)任。34《民法典》第一千一百九十七條。由于深度偽造內(nèi)容不易識(shí)別,判定平臺(tái)在何種情形下應(yīng)當(dāng)知道存在侵權(quán)行為有難度。目前平臺(tái)采用的智能算法運(yùn)作下的內(nèi)容過濾機(jī)制能主動(dòng)篩查可能侵權(quán)的用戶上傳內(nèi)容,卻未必能有效篩查深度偽造內(nèi)容,因?yàn)閮?nèi)容過濾機(jī)制依賴于算法比對用戶上傳內(nèi)容和正版作品數(shù)據(jù)庫中作品樣本的匹配度,35參見崔國斌:《論網(wǎng)絡(luò)服務(wù)商版權(quán)內(nèi)容過濾義務(wù)》,載《中國法學(xué)》2017年第2期,第215頁。深度偽造內(nèi)容因演員臉部等關(guān)鍵部分不同于原作品,且其真?zhèn)螣o法辨識(shí),無法像普通侵權(quán)內(nèi)容一樣落入內(nèi)容過濾機(jī)制的自動(dòng)篩查范圍內(nèi)。真?zhèn)螣o法辨識(shí)會(huì)導(dǎo)致包括平臺(tái)在內(nèi)的社會(huì)公眾將真實(shí)內(nèi)容視為偽造,將深度偽造內(nèi)容視為真實(shí)信息。平臺(tái)應(yīng)采用更有效的措施辨識(shí)深度偽造內(nèi)容,包括與事實(shí)核查組織或團(tuán)體合作,通過切斷深度偽造內(nèi)容制作者和傳播者的廣告投放,破壞制作和傳播深度偽造內(nèi)容的經(jīng)濟(jì)激勵(lì),改進(jìn)排序算法和內(nèi)容調(diào)節(jié)算法,36內(nèi)容調(diào)節(jié)算法旨在根據(jù)內(nèi)容的確切屬性或一般特征識(shí)別、匹配、預(yù)測或分類某些內(nèi)容(如文本、音頻、圖像或視頻)。參見Gorwa R, Binns R and Katzenbach C.: Algorithmic Content Moderation: Technical and Political Challenges in the Automation of Platform Governance. Big Data and Society, 2020, https://journals.sagepub.com/doi/full/10.1177/2053951 719897945, 最后訪問日期:2022年4月30日。提高檢測和刪除機(jī)器運(yùn)行賬戶的能力,投資研發(fā)深度偽造內(nèi)容檢測技術(shù),修訂平臺(tái)服務(wù)條款遏制深度偽造內(nèi)容的傳播等。37Yamaoka-Enkerlin A. Disrupting Disinformation: Deepfakes and the Law. New York University Journal of Legislation and Public Policy, 2020, 22(3): 741-742.

    六、結(jié)論

    深度偽造基于人工智能技術(shù)中的生成算法和識(shí)別算法,能生成換臉或場景更換的音視頻或圖像內(nèi)容。深度偽造內(nèi)容涉及對兩類受著作權(quán)保護(hù)作品的未經(jīng)授權(quán)使用,一類是被換臉處理的原音視頻或圖像,另一類是用于模擬擬偽造人物表情和聲音的相關(guān)音視頻或圖像。對這兩類作品的未經(jīng)授權(quán)使用都涉及對原作品或音像制品內(nèi)容表達(dá)的復(fù)制,會(huì)侵犯原作品或制品權(quán)利人的復(fù)制權(quán)。同時(shí),經(jīng)改動(dòng)后的深度偽造內(nèi)容雖增加了具有獨(dú)創(chuàng)性的新內(nèi)容,但會(huì)落入原作品權(quán)利人對其作品的合理預(yù)期市場范圍內(nèi),侵犯原作品權(quán)利人的改編權(quán)。一旦深度偽造內(nèi)容在網(wǎng)絡(luò)平臺(tái)傳播,還會(huì)侵犯原作品或制品權(quán)利人的信息網(wǎng)絡(luò)傳播權(quán)。

    我國第三次修訂后的《著作權(quán)法》權(quán)利限制與例外制度雖仍采用封閉式立法模式,但域外合理使用四要素平衡法與轉(zhuǎn)換性合理使用規(guī)則已被我國法院借鑒用于判定法律規(guī)定之外的合理使用情形。如果用四要素平衡法與轉(zhuǎn)換性使用規(guī)則對兩類作品的使用進(jìn)行分析,可得出前一類難以構(gòu)成合理使用,而后一類構(gòu)成轉(zhuǎn)換性合理使用的結(jié)論,因?yàn)閷η耙活愖髌返氖褂脮?huì)實(shí)質(zhì)性呈現(xiàn)除原人物臉部以外的其他內(nèi)容,與原作品構(gòu)成實(shí)質(zhì)性相似,且制作深度偽造內(nèi)容的目的與創(chuàng)作原作品的目的都是使公眾欣賞表達(dá)性內(nèi)容,而對后一類作品的使用旨在從原作品中提取能夠合成擬偽造人物生理特征的數(shù)據(jù),屬于對原作品非表達(dá)性地使用,具有使用目的上的轉(zhuǎn)換性。

    對前一類作品使用的著作權(quán)侵權(quán)責(zé)任應(yīng)由深度偽造內(nèi)容的制作者承擔(dān)直接侵權(quán)責(zé)任,由對深度偽造內(nèi)容傳播負(fù)有注意義務(wù)卻未盡責(zé)的網(wǎng)絡(luò)平臺(tái)承擔(dān)間接侵權(quán)責(zé)任,由于深度偽造內(nèi)容難以被平臺(tái)所采用的內(nèi)容過濾機(jī)制篩查,平臺(tái)應(yīng)采用更有效的措施識(shí)別深度偽造內(nèi)容。鑒于深度偽造技術(shù)的中立性,深度偽造技術(shù)提供者無法預(yù)估技術(shù)被后續(xù)利用的情況,不應(yīng)為他人后續(xù)不當(dāng)利用行為承擔(dān)侵權(quán)責(zé)任。

    猜你喜歡
    制作者音視頻著作權(quán)法
    Sugar Painting 糖畫
    新《著作權(quán)法》視域下視聽作品的界定
    3KB深圳市一禾音視頻科技有限公司
    卷雪茄
    WIFI音視頻信號(hào)傳輸?shù)年P(guān)鍵問題探究
    電子制作(2018年12期)2018-08-01 00:48:06
    紀(jì)錄片倫理問題的幾個(gè)維度
    戲劇之家(2018年3期)2018-05-24 05:06:52
    高速公路整合移動(dòng)音視頻系統(tǒng)應(yīng)用
    論版權(quán)轉(zhuǎn)讓登記的對抗效力——評著作權(quán)法修改草案(送審稿)第59條
    論對“一臺(tái)戲”的法律保護(hù)——以《德國著作權(quán)法》為參照
    古人怎樣制作瓷器
    久久精品国产亚洲av高清一级| 好男人电影高清在线观看| 午夜精品国产一区二区电影| 亚洲第一青青草原| 精品福利永久在线观看| 国产成人免费观看mmmm| 天天躁日日躁夜夜躁夜夜| 悠悠久久av| 两个人免费观看高清视频| 中文字幕另类日韩欧美亚洲嫩草| 夜夜夜夜夜久久久久| 脱女人内裤的视频| 丝袜在线中文字幕| 人妻一区二区av| 久久精品国产亚洲av高清一级| 夜夜夜夜夜久久久久| 精品高清国产在线一区| 免费在线观看影片大全网站| 欧美日本中文国产一区发布| 一区在线观看完整版| 欧美大码av| 久久久久国产精品人妻aⅴ院 | 亚洲色图 男人天堂 中文字幕| 日韩欧美在线二视频 | 亚洲国产欧美一区二区综合| 久久久国产成人精品二区 | 99久久人妻综合| 天堂动漫精品| 久久久国产成人免费| 搡老乐熟女国产| 色老头精品视频在线观看| 新久久久久国产一级毛片| 国产三级黄色录像| 午夜老司机福利片| 亚洲一区二区三区不卡视频| tube8黄色片| 久久国产精品大桥未久av| 久久久精品国产亚洲av高清涩受| 精品高清国产在线一区| 村上凉子中文字幕在线| 18禁美女被吸乳视频| 两人在一起打扑克的视频| 看片在线看免费视频| 老汉色∧v一级毛片| 黄片小视频在线播放| a级毛片在线看网站| av网站在线播放免费| 久久精品国产综合久久久| 一进一出抽搐gif免费好疼 | 操美女的视频在线观看| 老司机亚洲免费影院| 午夜福利视频在线观看免费| 久久精品国产亚洲av高清一级| 精品久久蜜臀av无| 亚洲色图av天堂| 欧美在线黄色| av超薄肉色丝袜交足视频| av网站在线播放免费| 成年人午夜在线观看视频| 在线视频色国产色| 亚洲一码二码三码区别大吗| 国内久久婷婷六月综合欲色啪| 欧美激情久久久久久爽电影 | 国产一区二区三区视频了| 亚洲成人国产一区在线观看| 精品熟女少妇八av免费久了| 在线观看舔阴道视频| 日韩免费av在线播放| 欧美日本中文国产一区发布| 国产麻豆69| 看片在线看免费视频| 悠悠久久av| 国产91精品成人一区二区三区| 麻豆av在线久日| 在线播放国产精品三级| 国产99白浆流出| 99精品欧美一区二区三区四区| tocl精华| 日日夜夜操网爽| 欧美日韩瑟瑟在线播放| 美女午夜性视频免费| 免费观看人在逋| 性少妇av在线| 欧美激情久久久久久爽电影 | 怎么达到女性高潮| 老司机影院毛片| 日韩精品免费视频一区二区三区| 国产一区二区三区综合在线观看| 免费在线观看亚洲国产| 欧美性长视频在线观看| 久热这里只有精品99| 久久亚洲真实| 看免费av毛片| 女人高潮潮喷娇喘18禁视频| 天堂中文最新版在线下载| 可以免费在线观看a视频的电影网站| av不卡在线播放| 老熟妇仑乱视频hdxx| 久久久水蜜桃国产精品网| 国产色视频综合| 怎么达到女性高潮| 无遮挡黄片免费观看| 国产伦人伦偷精品视频| 一级片'在线观看视频| 成年版毛片免费区| 精品乱码久久久久久99久播| 热99re8久久精品国产| 精品高清国产在线一区| 国产xxxxx性猛交| 丝袜美腿诱惑在线| av网站在线播放免费| 久热爱精品视频在线9| 两个人免费观看高清视频| 麻豆av在线久日| 欧美久久黑人一区二区| 伊人久久大香线蕉亚洲五| 亚洲精品美女久久久久99蜜臀| 欧美成狂野欧美在线观看| 国产成人av激情在线播放| 久久久久久免费高清国产稀缺| 美女高潮喷水抽搐中文字幕| 日韩一卡2卡3卡4卡2021年| 91在线观看av| 日韩精品免费视频一区二区三区| 男人操女人黄网站| 黄色怎么调成土黄色| 999久久久国产精品视频| 极品教师在线免费播放| 国产精品久久电影中文字幕 | 中文字幕人妻丝袜一区二区| 精品熟女少妇八av免费久了| 色婷婷久久久亚洲欧美| 国产成人系列免费观看| 一夜夜www| 国产男女内射视频| 12—13女人毛片做爰片一| 国产精品一区二区在线观看99| 免费在线观看亚洲国产| 国产亚洲av高清不卡| 免费在线观看完整版高清| 成人手机av| 国产激情欧美一区二区| 国产野战对白在线观看| a在线观看视频网站| 精品第一国产精品| 日本五十路高清| 香蕉丝袜av| 国产成人欧美在线观看 | 69精品国产乱码久久久| av电影中文网址| 久久精品国产亚洲av香蕉五月 | 亚洲中文日韩欧美视频| 欧美精品高潮呻吟av久久| 在线免费观看的www视频| 中亚洲国语对白在线视频| 国产aⅴ精品一区二区三区波| 精品一区二区三区视频在线观看免费 | 最近最新中文字幕大全电影3 | 电影成人av| 久久国产精品人妻蜜桃| 午夜福利视频在线观看免费| 国产精品偷伦视频观看了| 啦啦啦视频在线资源免费观看| 99久久人妻综合| 国产成人精品久久二区二区91| 女人被狂操c到高潮| 欧美不卡视频在线免费观看 | 丝袜人妻中文字幕| 热re99久久国产66热| 国产一区有黄有色的免费视频| 人成视频在线观看免费观看| 国精品久久久久久国模美| 亚洲少妇的诱惑av| 99riav亚洲国产免费| 丁香六月欧美| 国产免费av片在线观看野外av| 久久久国产成人免费| 高清欧美精品videossex| 99热网站在线观看| 久久精品国产综合久久久| 日韩精品免费视频一区二区三区| 精品国产一区二区久久| 免费日韩欧美在线观看| 美女高潮到喷水免费观看| 男人操女人黄网站| 女性被躁到高潮视频| 亚洲精品一二三| 亚洲人成电影免费在线| 手机成人av网站| 欧美黄色片欧美黄色片| 日本wwww免费看| 老熟妇乱子伦视频在线观看| 美女高潮到喷水免费观看| 婷婷丁香在线五月| 老司机靠b影院| 日韩视频一区二区在线观看| 国产精品免费大片| 午夜精品国产一区二区电影| 一边摸一边抽搐一进一小说 | 黄频高清免费视频| 最近最新中文字幕大全电影3 | 欧美日韩福利视频一区二区| 国产成+人综合+亚洲专区| 久久精品国产亚洲av香蕉五月 | 在线观看一区二区三区激情| 久久性视频一级片| av不卡在线播放| 91精品三级在线观看| 亚洲一区高清亚洲精品| 18禁观看日本| 午夜福利在线观看吧| 久久青草综合色| 亚洲美女黄片视频| 欧美日韩一级在线毛片| 777久久人妻少妇嫩草av网站| 99国产精品免费福利视频| 国产欧美日韩综合在线一区二区| 成年人午夜在线观看视频| 亚洲av成人av| 黑人猛操日本美女一级片| 日韩欧美国产一区二区入口| 青草久久国产| 欧美国产精品va在线观看不卡| 久久中文看片网| cao死你这个sao货| av天堂久久9| 精品电影一区二区在线| 日韩大码丰满熟妇| 美女福利国产在线| 亚洲精品国产区一区二| 亚洲黑人精品在线| xxx96com| 欧美亚洲日本最大视频资源| 男女免费视频国产| 精品高清国产在线一区| 深夜精品福利| 国产男女内射视频| 亚洲国产精品sss在线观看 | 欧美成人免费av一区二区三区 | av超薄肉色丝袜交足视频| 国产精品一区二区免费欧美| 精品亚洲成国产av| 青草久久国产| 又紧又爽又黄一区二区| 久久中文字幕人妻熟女| 亚洲欧美日韩高清在线视频| 两个人免费观看高清视频| 午夜老司机福利片| 身体一侧抽搐| a级毛片在线看网站| 中文字幕高清在线视频| 久久中文看片网| 狂野欧美激情性xxxx| 日本黄色视频三级网站网址 | 亚洲中文字幕日韩| 亚洲国产精品一区二区三区在线| 搡老熟女国产l中国老女人| 狂野欧美激情性xxxx| 不卡一级毛片| 麻豆av在线久日| 午夜91福利影院| 国产欧美日韩一区二区三| 女人被狂操c到高潮| 超碰97精品在线观看| 中文字幕另类日韩欧美亚洲嫩草| 色综合婷婷激情| 久久中文看片网| 可以免费在线观看a视频的电影网站| 成人av一区二区三区在线看| 久久精品91无色码中文字幕| 国产成+人综合+亚洲专区| 日本黄色日本黄色录像| 在线播放国产精品三级| 在线视频色国产色| av片东京热男人的天堂| 亚洲全国av大片| 最新的欧美精品一区二区| 久久国产亚洲av麻豆专区| 亚洲片人在线观看| 在线av久久热| 新久久久久国产一级毛片| 亚洲精品自拍成人| 高清欧美精品videossex| 国产精品.久久久| 法律面前人人平等表现在哪些方面| 国产欧美日韩一区二区三区在线| 91国产中文字幕| a级毛片黄视频| 国产三级黄色录像| 国产激情欧美一区二区| 日本精品一区二区三区蜜桃| 国产精品久久电影中文字幕 | 国产亚洲欧美98| 日本黄色视频三级网站网址 | 久久婷婷成人综合色麻豆| a级毛片在线看网站| 亚洲一区二区三区不卡视频| 色94色欧美一区二区| 久久国产精品人妻蜜桃| 国产免费av片在线观看野外av| 国产精品亚洲av一区麻豆| 12—13女人毛片做爰片一| 18在线观看网站| 老司机亚洲免费影院| 成在线人永久免费视频| 亚洲 欧美一区二区三区| 精品一品国产午夜福利视频| 欧美另类亚洲清纯唯美| 巨乳人妻的诱惑在线观看| 99久久国产精品久久久| 亚洲欧美激情在线| 日韩人妻精品一区2区三区| 99久久99久久久精品蜜桃| 亚洲熟妇中文字幕五十中出 | 亚洲五月色婷婷综合| 久久久久久久午夜电影 | 身体一侧抽搐| 18在线观看网站| 女性被躁到高潮视频| 亚洲性夜色夜夜综合| 久久久久久久久免费视频了| 欧美老熟妇乱子伦牲交| 欧美国产精品一级二级三级| 两个人免费观看高清视频| 亚洲第一欧美日韩一区二区三区| 涩涩av久久男人的天堂| 免费在线观看黄色视频的| 黄色成人免费大全| av网站免费在线观看视频| 无限看片的www在线观看| 欧美日韩中文字幕国产精品一区二区三区 | 亚洲精品国产精品久久久不卡| 色尼玛亚洲综合影院| 精品亚洲成国产av| 国产成人免费观看mmmm| 免费黄频网站在线观看国产| 极品人妻少妇av视频| 国产精品久久久久久精品古装| 老鸭窝网址在线观看| 不卡av一区二区三区| 99在线人妻在线中文字幕 | 一个人免费在线观看的高清视频| 国精品久久久久久国模美| 亚洲av成人av| 一级毛片女人18水好多| 18禁国产床啪视频网站| 丰满人妻熟妇乱又伦精品不卡| 国产欧美日韩一区二区三区在线| 日本一区二区免费在线视频| 天天躁夜夜躁狠狠躁躁| 国产成人av教育| 精品一区二区三区视频在线观看免费 | 国产午夜精品久久久久久| av天堂久久9| 国产真人三级小视频在线观看| 国产成人一区二区三区免费视频网站| 亚洲精品中文字幕在线视频| 嫁个100分男人电影在线观看| 亚洲 欧美一区二区三区| 国产主播在线观看一区二区| svipshipincom国产片| 欧美在线黄色| 中出人妻视频一区二区| 精品国产一区二区三区四区第35| 欧洲精品卡2卡3卡4卡5卡区| avwww免费| 中文字幕色久视频| 极品少妇高潮喷水抽搐| 日本vs欧美在线观看视频| 九色亚洲精品在线播放| 午夜福利在线观看吧| 九色亚洲精品在线播放| 一边摸一边抽搐一进一小说 | 三级毛片av免费| 欧美亚洲日本最大视频资源| 亚洲人成电影免费在线| 丝瓜视频免费看黄片| 后天国语完整版免费观看| 亚洲午夜精品一区,二区,三区| 交换朋友夫妻互换小说| 变态另类成人亚洲欧美熟女 | av欧美777| 欧美一级毛片孕妇| 啦啦啦免费观看视频1| 亚洲第一欧美日韩一区二区三区| 国产又色又爽无遮挡免费看| 欧洲精品卡2卡3卡4卡5卡区| 欧美午夜高清在线| 免费观看精品视频网站| 天堂动漫精品| 国产1区2区3区精品| 久久久国产精品麻豆| 91大片在线观看| 宅男免费午夜| 精品少妇久久久久久888优播| a级片在线免费高清观看视频| 丰满人妻熟妇乱又伦精品不卡| 80岁老熟妇乱子伦牲交| www.熟女人妻精品国产| 99re6热这里在线精品视频| 50天的宝宝边吃奶边哭怎么回事| 19禁男女啪啪无遮挡网站| 精品少妇久久久久久888优播| 亚洲av成人av| 免费一级毛片在线播放高清视频 | 国产精品久久久人人做人人爽| 多毛熟女@视频| 午夜福利乱码中文字幕| 久久热在线av| 美女高潮喷水抽搐中文字幕| 99国产精品99久久久久| 一本一本久久a久久精品综合妖精| 人人澡人人妻人| 他把我摸到了高潮在线观看| 久久影院123| 人妻一区二区av| av国产精品久久久久影院| 亚洲av成人av| 日日爽夜夜爽网站| 国产精品.久久久| 99久久99久久久精品蜜桃| 免费观看人在逋| 色婷婷久久久亚洲欧美| 18禁裸乳无遮挡免费网站照片 | 中亚洲国语对白在线视频| 女同久久另类99精品国产91| 99精品久久久久人妻精品| 成人国产一区最新在线观看| 欧美黄色淫秽网站| 精品电影一区二区在线| 亚洲免费av在线视频| 久久久国产欧美日韩av| 亚洲精品国产一区二区精华液| 丰满的人妻完整版| 亚洲精品国产色婷婷电影| 午夜福利一区二区在线看| 男女高潮啪啪啪动态图| 亚洲精品久久成人aⅴ小说| 欧美国产精品一级二级三级| 国产欧美日韩精品亚洲av| 久久午夜综合久久蜜桃| 久久香蕉国产精品| netflix在线观看网站| 日本a在线网址| 97人妻天天添夜夜摸| 满18在线观看网站| 久久久精品区二区三区| 日韩大码丰满熟妇| 亚洲全国av大片| e午夜精品久久久久久久| 涩涩av久久男人的天堂| 成人18禁在线播放| 亚洲男人天堂网一区| 日日爽夜夜爽网站| 欧美激情高清一区二区三区| 老司机在亚洲福利影院| 成年人黄色毛片网站| 色婷婷久久久亚洲欧美| 最近最新中文字幕大全免费视频| 亚洲五月色婷婷综合| 欧美成狂野欧美在线观看| 亚洲av成人不卡在线观看播放网| 欧美黄色淫秽网站| 久久天堂一区二区三区四区| 日日夜夜操网爽| 国内毛片毛片毛片毛片毛片| 九色亚洲精品在线播放| tocl精华| 久久精品国产a三级三级三级| 可以免费在线观看a视频的电影网站| 黄色女人牲交| 91老司机精品| 叶爱在线成人免费视频播放| 国产精品99久久99久久久不卡| 久久性视频一级片| 国产深夜福利视频在线观看| 成年女人毛片免费观看观看9 | 高清av免费在线| av视频免费观看在线观看| 亚洲精品久久午夜乱码| 国内毛片毛片毛片毛片毛片| 精品少妇一区二区三区视频日本电影| a在线观看视频网站| 久久久久久人人人人人| 女人被狂操c到高潮| 午夜福利一区二区在线看| 国产精品电影一区二区三区 | 黄色 视频免费看| 国产麻豆69| 在线观看免费视频网站a站| 成人18禁高潮啪啪吃奶动态图| 亚洲熟妇中文字幕五十中出 | 一级a爱片免费观看的视频| 国产片内射在线| 成年人免费黄色播放视频| 高清欧美精品videossex| 午夜福利在线观看吧| 天天躁夜夜躁狠狠躁躁| 亚洲综合色网址| 精品一品国产午夜福利视频| 亚洲色图综合在线观看| 性色av乱码一区二区三区2| 精品少妇一区二区三区视频日本电影| 日韩有码中文字幕| 精品久久久久久,| 欧美大码av| 午夜福利免费观看在线| 两性午夜刺激爽爽歪歪视频在线观看 | 国产av又大| 日韩欧美国产一区二区入口| 美女扒开内裤让男人捅视频| 精品国产一区二区三区四区第35| 欧美日韩亚洲国产一区二区在线观看 | 亚洲精品粉嫩美女一区| 亚洲精品av麻豆狂野| 老司机影院毛片| 少妇 在线观看| 日韩有码中文字幕| 在线观看免费视频网站a站| 精品国产乱子伦一区二区三区| 大陆偷拍与自拍| 国产精品亚洲一级av第二区| 操出白浆在线播放| 精品一区二区三卡| 精品少妇久久久久久888优播| 免费女性裸体啪啪无遮挡网站| 国产精品99久久99久久久不卡| 欧美人与性动交α欧美精品济南到| 午夜影院日韩av| 中文字幕最新亚洲高清| 精品久久久久久久毛片微露脸| 欧美激情久久久久久爽电影 | 丝袜人妻中文字幕| 老熟女久久久| 欧美国产精品一级二级三级| 国产亚洲欧美在线一区二区| 欧美日韩精品网址| 国产极品粉嫩免费观看在线| av在线播放免费不卡| 国产精品一区二区免费欧美| 午夜亚洲福利在线播放| 亚洲三区欧美一区| 亚洲精品乱久久久久久| 18禁国产床啪视频网站| 天天躁日日躁夜夜躁夜夜| 黄片大片在线免费观看| 国产亚洲精品第一综合不卡| 国产人伦9x9x在线观看| 国产免费现黄频在线看| 黑人巨大精品欧美一区二区mp4| 欧美日韩福利视频一区二区| 国产高清激情床上av| 国产成人免费无遮挡视频| 国产精品 国内视频| 久久人人97超碰香蕉20202| 中文字幕色久视频| 久久久水蜜桃国产精品网| 欧美国产精品va在线观看不卡| 免费观看a级毛片全部| 日本欧美视频一区| 中文字幕av电影在线播放| а√天堂www在线а√下载 | 久久久国产一区二区| 99在线人妻在线中文字幕 | 欧美色视频一区免费| 波多野结衣av一区二区av| 久久久久精品国产欧美久久久| 露出奶头的视频| 又黄又爽又免费观看的视频| 黄色片一级片一级黄色片| 精品国产一区二区三区四区第35| 在线观看免费高清a一片| 亚洲精品中文字幕一二三四区| 亚洲精品国产区一区二| 熟女少妇亚洲综合色aaa.| 国产三级黄色录像| 国产精品亚洲一级av第二区| 夜夜夜夜夜久久久久| 91精品三级在线观看| 757午夜福利合集在线观看| 国产熟女午夜一区二区三区| 亚洲第一av免费看| 美女福利国产在线| 日韩大码丰满熟妇| 亚洲第一av免费看| 丁香六月欧美| 天天添夜夜摸| 亚洲精品成人av观看孕妇| 国产区一区二久久| 99在线人妻在线中文字幕 | av福利片在线| 欧美黑人精品巨大| 香蕉久久夜色| 亚洲熟女精品中文字幕| 久久久精品免费免费高清| av电影中文网址| 男人操女人黄网站| 国产免费av片在线观看野外av| 韩国av一区二区三区四区| 老鸭窝网址在线观看| 午夜免费成人在线视频| 黄色怎么调成土黄色| 亚洲av欧美aⅴ国产| 国产野战对白在线观看| 黄色怎么调成土黄色| 最近最新免费中文字幕在线| 日韩制服丝袜自拍偷拍| 亚洲情色 制服丝袜| 久久中文字幕一级| 纯流量卡能插随身wifi吗| 国产精品久久电影中文字幕 | 国产精品电影一区二区三区 | 嫩草影视91久久| 成人18禁高潮啪啪吃奶动态图| 大型av网站在线播放|