• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能與版權(quán)

    2023-04-29 00:44:03熊琦
    中國版權(quán) 2023年3期
    關(guān)鍵詞:獨創(chuàng)性

    熊琦

    關(guān)鍵詞:人工智能內(nèi)容;計算機生成內(nèi)容;獨創(chuàng)性;涵攝

    一、問題的提出

    進(jìn)入21世紀(jì)后,得益于計算機運算能力和大數(shù)據(jù)技術(shù)的快速提升,人工智能借助數(shù)據(jù)驅(qū)動的機器學(xué)習(xí)已經(jīng)取得重要突破,從而得以在更為廣泛的領(lǐng)域被適用。如果說2016年來自谷歌的深腦公司(DeepMind)的人工智能阿爾法狗(AlphaGo)戰(zhàn)勝人類頂級圍棋棋手帶來的認(rèn)知沖擊還限于特定智力競技領(lǐng)域,那么從2022年開始,以O(shè)penAI的ChatGPT和谷歌公司的Bard等為代表的生成式人工智能(Generative Artificial Intelligence),則已經(jīng)能夠在文字、繪畫和軟件等領(lǐng)域以達(dá)到普通人的水準(zhǔn)完成文本生成,也標(biāo)志著人類社會進(jìn)入了繼個人電腦和互聯(lián)網(wǎng)之后信息時代的第三次飛躍期。生成式人工智能的特點,不再如傳統(tǒng)搜索引擎一般為用戶提供盡可能準(zhǔn)確的知識來源,而是以論證的方式回應(yīng)用戶要求并生成新的內(nèi)容。更為重要的是,用戶利用人工智能進(jìn)行內(nèi)容生成只需要通過輸入自然語言即可完成,這種近似對話和搜索的使用方式,極大降低了使用門檻,使得普通人能夠借助生成式人工智能獲得創(chuàng)作各種類型作品的能力。生成式人工智能中最受關(guān)注的ChatGPT上線兩個月后用戶數(shù)就已突破1億,成為歷史上用戶數(shù)增長最快的應(yīng)用軟件,其根據(jù)用戶發(fā)出的提示來協(xié)助完成的各類作品已經(jīng)充斥網(wǎng)絡(luò)。

    生成式人工智能的普及,在版權(quán)領(lǐng)域再度引發(fā)兩類問題的討論:一為人工智能生成的內(nèi)容是否屬于作品并受《著作權(quán)法》的保護(hù);二為如果該內(nèi)容屬于作品,應(yīng)如何認(rèn)定其歸屬。與技術(shù)上的日新月異不同,全球版權(quán)立法在經(jīng)歷了從機器介入內(nèi)容生成到人工智能生成內(nèi)容的漫長歷史后,關(guān)于人類與獨創(chuàng)性來源的立場卻始終如一。從源起于19世紀(jì)末攝影設(shè)備介入創(chuàng)作后首次出現(xiàn)的機器與創(chuàng)作關(guān)聯(lián)性之爭,到20世紀(jì)末“計算機生成作品”(Computer-Generated Works)權(quán)利歸屬的成文法定義,再到今天針對人工智能生成內(nèi)容的版權(quán)認(rèn)定,司法機關(guān)、行政機關(guān)和學(xué)界的主流判斷,都堅持只有人類才能擁有作者身份,無論是機器、計算機還是人工智能,都不得視為作者。借助機器且以隨機或自動運行的機械過程所生成的內(nèi)容,因為其中缺乏人類智力活動的參與,該內(nèi)容也不得被視為作品。而且現(xiàn)有《著作權(quán)法》也足以應(yīng)對來自人工智能生成內(nèi)容的挑戰(zhàn),無須專門設(shè)計全新的制度來解決問題。在司法實踐中,我國法院也明確認(rèn)可了人類創(chuàng)作在人工智能生成內(nèi)容可版權(quán)性認(rèn)定中的必要性。但當(dāng)人工智能生成內(nèi)容與他人作品構(gòu)成實質(zhì)性相似時,侵權(quán)行為的歸責(zé)又必須追溯到侵權(quán)作品的主體。這種技術(shù)進(jìn)步與規(guī)范守成之間的差異,以及拒絕保護(hù)和確權(quán)需求之間的悖論,都需要我們再次審視現(xiàn)有規(guī)則及其解釋路徑,探尋兼具符合版權(quán)立法目標(biāo)和滿足技術(shù)迭代需求的權(quán)利配置安排。但從機器介入創(chuàng)作的技術(shù)史與制度史中已經(jīng)可以發(fā)現(xiàn),《著作權(quán)法》之所以堅持以既有的客體判定和權(quán)利歸屬傳統(tǒng)來涵攝機器與創(chuàng)作的關(guān)系,目的始終是激勵人在作品創(chuàng)作和傳播中的核心作用,并在權(quán)利歸屬的認(rèn)定上確保法律關(guān)系的穩(wěn)定性。因此,以既有的獨創(chuàng)性標(biāo)準(zhǔn)認(rèn)定人工智能生成內(nèi)容的可版權(quán)性,并正確區(qū)分該作品在人工智能算法設(shè)計者和使用者之間的權(quán)利歸屬,前提都在于認(rèn)定人與創(chuàng)作行為的關(guān)聯(lián)性。

    有鑒于此,與技術(shù)領(lǐng)域所追求的及時創(chuàng)新不同,人工智能生成內(nèi)容版權(quán)確權(quán)的科學(xué)性依據(jù)需要從歷史中探尋。首先,只有通過梳理世界范式下的《著作權(quán)法》在司法實踐中涵攝機器與創(chuàng)作關(guān)系的歷史,方能正確理解《著作權(quán)法》為何始終強調(diào)自然人的智慧在作品形成中的不可替代性,以及為何以既有的權(quán)利歸屬規(guī)則來涵蓋人工智能的設(shè)計者和使用者。其次,對人工智能生成內(nèi)容在法定和意定兩個層面明確權(quán)利配置安排,不但關(guān)系到權(quán)利歸屬的厘清是否能夠反哺作品創(chuàng)作與傳播,使人工智能的介入不會影響文化與科學(xué)領(lǐng)域的創(chuàng)新,更涉及人工智能生成內(nèi)容在權(quán)利變動過程中各方利益和責(zé)任的明晰。

    二、《著作權(quán)法》涵攝機器介入創(chuàng)作的歷史與立場

    關(guān)于人工智能生成內(nèi)容給《著作權(quán)法》帶來的挑戰(zhàn),可回溯到20世紀(jì)計算機的普及。早有學(xué)者在20世紀(jì)90年代預(yù)言,計算機與版權(quán)沖突的核心將會體現(xiàn)在計算機生成作品這個問題上。針對這一問題,同一時期的主流研究者則始終堅持自《伯爾尼公約》延續(xù)而來的傳統(tǒng)解釋,即只有自然人才能具備作者身份。在真正進(jìn)入人工智能時代,特別是通用人工智能興起后,這樣的論斷雖然遭遇了越來越多挑戰(zhàn),但收到的回應(yīng)仍然是對既有作品可版權(quán)性判定傳統(tǒng)的堅持,即作品的獨創(chuàng)性中必須體現(xiàn)人的貢獻(xiàn)。事實上,人工智能對《著作權(quán)法》的挑戰(zhàn),可以視為機器介入創(chuàng)作的歷史延續(xù)。雖然機器介入、計算機介入和人工智能介入的程度和方式存在差異,但全球范圍內(nèi)的版權(quán)法制及相關(guān)司法實踐,都無一例外堅持了自然人才能具備作者身份的立場。這種自《伯爾尼公約》以來即圍繞人來構(gòu)建的作者體系,并未因為在創(chuàng)作中不斷加入機器的因素而得到改變,所以相比科學(xué)界和媒體熱鬧非凡的討論,法律界對人工智能生成內(nèi)容的應(yīng)對顯得更為冷靜和一以貫之,在司法裁判和版權(quán)管理上,人工智能被視為作者的嘗試始終沒有獲得認(rèn)可,由自然人創(chuàng)作完成仍應(yīng)是作品可版權(quán)性的必要條件。

    《著作權(quán)法》歷史上首先遭遇機器介入的挑戰(zhàn),來自攝影設(shè)備在攝影作品創(chuàng)作過程中所起作用的討論。由于攝影設(shè)備取代了攝影師之手來實現(xiàn)作品在載體上的呈現(xiàn)和固定,機器是否承擔(dān)了一部分的創(chuàng)作在當(dāng)時成為討論的焦點。當(dāng)時,對于作品獨創(chuàng)性的判定標(biāo)準(zhǔn)中,有觀點認(rèn)為,應(yīng)該將創(chuàng)意的實施和執(zhí)行納入作者創(chuàng)作行為的考量,法律不應(yīng)保護(hù)未經(jīng)實施的創(chuàng)意。換言之,版權(quán)的取得,需要將構(gòu)想通過具體實施加以展現(xiàn)。作者不能僅僅貢獻(xiàn)創(chuàng)意,更要將創(chuàng)意具體化方可視為實施了創(chuàng)作行為。針對攝影設(shè)備的使用,法院則認(rèn)為,雖然攝影設(shè)備在拍攝攝影作品過程中可以部分替代手工操作,但拍攝光線、角度等要素的選擇,仍然是攝影師創(chuàng)意的體現(xiàn)。因此,即使創(chuàng)意部分的勞動因機器的替代而與固定創(chuàng)意的勞動相區(qū)分,但只要作者能夠預(yù)見和決定生成的結(jié)果,即可視為構(gòu)成創(chuàng)作。

    在針對攝影作品中創(chuàng)作行為認(rèn)定的判例中,法院已初步形成了通過兩個必要條件來考量作品獨創(chuàng)性與創(chuàng)作行為的關(guān)聯(lián):一為“構(gòu)想”(conception),即創(chuàng)作者首先形成具象化的創(chuàng)意,構(gòu)建作品可辨識的元素和風(fēng)格等,屬于創(chuàng)作中的構(gòu)成智力創(chuàng)造的精神活動部分,也是在后期作品成型后判定其是否具有獨創(chuàng)性的基礎(chǔ);二為“實施”(execution),即創(chuàng)作者將“構(gòu)想”具體化于表達(dá)的過程,包括但不限于以文字、畫面或旋律等方式展現(xiàn)不同類型的獨創(chuàng)性表達(dá),屬于將創(chuàng)作最終固定的環(huán)節(jié)。在邏輯關(guān)系上,“構(gòu)想”必須實際實施方能視為創(chuàng)作的完成,任何一個環(huán)節(jié)的缺失,即會視為不構(gòu)成創(chuàng)作行為。針對機器設(shè)備的介入,法院則認(rèn)為機器參與的僅僅是“實施”的那一部分,而無法代替人類完成“構(gòu)想”。而且對于“實施”而言,機器設(shè)備的使用并不意味著人類的實施行為被取代,而是作為人類的輔助性工具,完成機械性的勞動。這種輔助性的認(rèn)定,是基于創(chuàng)作者對實施結(jié)果的控制力。換言之,創(chuàng)作者只要對創(chuàng)作結(jié)果具有預(yù)見性和可控性,機器在實施環(huán)節(jié)的介入則不影響作者身份的確認(rèn)。

    隨著技術(shù)的日益復(fù)雜,機器介入創(chuàng)作的爭議再次集中出現(xiàn)在20世紀(jì)80年代的計算機生成內(nèi)容上。與早期類似攝影設(shè)備那種由人全程操縱參與創(chuàng)作行為的機器不同,計算機生成內(nèi)容中的“生成”,意指由軟件自行決定表達(dá)內(nèi)容的特色和風(fēng)格。具言之,計算機生成內(nèi)容的特殊性體現(xiàn)在兩個方面:第一,計算機軟件設(shè)計完成后,該程序即可自行實施內(nèi)容生成,軟件設(shè)計者不再直接參與其中。這一特征意味著計算機生成不同于以辦公軟件和繪圖軟件為代表的計算機輔助,在前者中內(nèi)容的生成是計算機軟件獨立運行的結(jié)果,而在后者中計算機對人類而言只具有工具性意義,其本質(zhì)功能等同于畫筆或其他輔助創(chuàng)作的機械設(shè)備。第二,軟件使用者的使用行為可能對計算機生成內(nèi)容的結(jié)果造成影響。計算機并不會主動生成內(nèi)容,而是需要使用者輸入指令來激活。例如,在電腦游戲畫面的生成上,電腦游戲玩家雖然沒有直接決定具體畫面的內(nèi)容,但其操作的不同會使游戲軟件生成不同畫面。

    針對這一現(xiàn)象,1988年英國在《版權(quán)、外觀設(shè)計和專利法》(Copyright,Designs and Patents Act 1988)中增加了一條“計算機生成作品”,專指在沒有人類介入的情形下通過運行計算機軟件所生成的作品,也仍然把該類作品的作者認(rèn)定為實施必要操作使作品得以生成的自然人。這一立法亦象征著機器介入創(chuàng)作的方式從機械的輔助性工具提升成能夠自動生成的獨立設(shè)備。但即使如此,在涉及“計算機生成作品”的判例中,“實施必要操作的人”被認(rèn)定為計算機軟件的設(shè)計者,因為計算機生成的內(nèi)容乃是來自計算機軟件的預(yù)先設(shè)定。換言之,“完全由計算機生成的作品”仍然被解釋為軟件設(shè)計者通過程序?qū)嵤╊A(yù)設(shè)的結(jié)果。雖然計算機所生成的內(nèi)容極為多元和多變,但生成的規(guī)則和邏輯必然受原程序的局限,所以作品的構(gòu)思應(yīng)歸于計算機軟件的設(shè)計者。

    在涉及計算機生成內(nèi)容構(gòu)成畫面或圖形,特別是電腦游戲畫面的權(quán)利歸屬問題上,有觀點認(rèn)為,電子游戲運行中呈現(xiàn)出來的視聽畫面是基于玩家的操作生成,而并非游戲軟件設(shè)計者所能預(yù)期或控制的結(jié)果,因此游戲軟件設(shè)計者不得對該畫面主張版權(quán)。之所以有此判斷,原因在于該觀點認(rèn)為游戲畫面所呈現(xiàn)出來的結(jié)果并非軟件設(shè)計者“實施”的結(jié)果,而且由于游戲每次運行時呈現(xiàn)的畫面并不相同,軟件設(shè)計者對畫面缺乏可控性,無法滿足判定創(chuàng)作行為來源的“構(gòu)想”和“實施”兩個要件。但法院卻指出,游戲玩家(軟件使用者)的操作行為并非創(chuàng)作,而是對游戲軟件中已儲存畫面的選擇,類似于對不同頻道電視畫面的選擇,其對作品的獨創(chuàng)性沒有任何智力或勞動上的貢獻(xiàn),不應(yīng)視為作者。基于法院的認(rèn)知,游戲玩家的操作行為并非對“構(gòu)想”的“實施”行為,所有操作所呈現(xiàn)出來的畫面,已經(jīng)在游戲軟件中存在,軟件設(shè)計者仍然保有對呈現(xiàn)結(jié)果的預(yù)見性,這種可預(yù)見性就成為認(rèn)定軟件設(shè)計者能夠保證實施結(jié)果可控的標(biāo)準(zhǔn)。

    由上可見,從攝影設(shè)備到計算機軟件介入作品創(chuàng)作,技術(shù)手段顯然不可同日而語,但在《著作權(quán)法》的適用上,人類對作品生成的智力貢獻(xiàn)永遠(yuǎn)都是重點。域外優(yōu)先立法和做出審判的國家,一直以是否獨立形成構(gòu)想,以及是否能夠預(yù)期實施創(chuàng)作的結(jié)果為標(biāo)準(zhǔn)來確定作者身份。隨著機器介入程度的不斷提升,法院對構(gòu)想和實施的解釋也呈現(xiàn)出新的變化,在解釋何謂“構(gòu)想”時,不要求創(chuàng)作者必須先形成一個完整且準(zhǔn)確的表達(dá),在解釋何謂“實施”時,也強調(diào)不要求對結(jié)果有完全的控制力,而是以可預(yù)期為標(biāo)準(zhǔn)來認(rèn)定作者對實施結(jié)果的把控。這種以構(gòu)想和實施來涵攝機器介入創(chuàng)作時作品獨創(chuàng)性來源的判斷要件,既保持了判定標(biāo)準(zhǔn)的穩(wěn)定性,又靈活地將獨創(chuàng)性來源與自然人對應(yīng),堅持將機器視為人類創(chuàng)作的輔助工具這一核心判斷。

    三、涵攝能否延續(xù):人工智能生成內(nèi)容的特點與版權(quán)認(rèn)定

    生成式人工智能的廣泛運用,帶來了明顯不同于以往計算機生成內(nèi)容的特點。如前所述,無論是立法上還是判例中,對計算機生成內(nèi)容的認(rèn)知都是“通過操作軟件實現(xiàn)的穩(wěn)定輸出,程序設(shè)計者對該結(jié)果是可預(yù)見的”,因此所生成內(nèi)容并未超出計算機軟件設(shè)計者的預(yù)期。但生成式人工智能的突出特點,就在于其具備了深度學(xué)習(xí)的能力,使計算機得以基于對海量數(shù)據(jù)的分類和整理而從中提煉出所學(xué)習(xí)數(shù)據(jù)的典型特征和表達(dá)風(fēng)格,最終在上述數(shù)據(jù)所構(gòu)建的場景中生成類似特征和風(fēng)格的新內(nèi)容,并由此脫離原程序的設(shè)定。以現(xiàn)今引起廣泛討論的文本生成、圖像生成和視頻生成人工智能為例,用戶僅需要以“提示”的方式輸入其所需內(nèi)容的描述和要求,人工智能就會自動調(diào)用其通過深度學(xué)習(xí)獲得的數(shù)據(jù),再經(jīng)過多次調(diào)整和修正后生成與用戶描述盡可能接近的內(nèi)容。以圖像生成人工智能軟件Midjourney和文本生成人工智能軟件ChatGPT為例,兩者生成內(nèi)容的方式,都是使用者首先輸入一段描述所需內(nèi)容的提示文本,待人工智能根據(jù)提示輸出一項或多項內(nèi)容后,使用者基于已生成的內(nèi)容調(diào)整提示文本,以引導(dǎo)人工智能生成新的內(nèi)容,如此反復(fù)直到使用者獲得滿意的結(jié)果。

    具言之,人工智能生成內(nèi)容的整個實現(xiàn)過程,可歸納為三個必要階段,先后分別是人工智能算法設(shè)計,機器學(xué)習(xí)和內(nèi)容生成。在三個階段中,僅有第一階段完全由人類以程序設(shè)計者的身份完成人工智能的算法模型,而且該算法模型已經(jīng)借助計算機軟件的方式在《著作權(quán)法》中得到承認(rèn)和保護(hù)。第二階段的機器學(xué)習(xí),人工智能就已經(jīng)可以通過對海量同類型數(shù)據(jù)進(jìn)行分析來找到其中的共性特征和風(fēng)格,人類僅在為訓(xùn)練人工智能模型而提供數(shù)據(jù)時,通過數(shù)據(jù)標(biāo)注和評分機制提升生成內(nèi)容質(zhì)量和準(zhǔn)確性時參與其中。到最后第三階段的內(nèi)容生成,人工智能就直接以用戶的簡要提示為指導(dǎo),再基于對海量同類型數(shù)據(jù)分析中獲取的共性特征和元素來生成新的內(nèi)容。很顯然,在第二和第三階段,人工智能的設(shè)計者和使用者都只能看到輸入的數(shù)據(jù)和輸出的內(nèi)容,但無法直接理解生成的過程中人工智能如何進(jìn)行具體選擇和取舍,導(dǎo)致該過程成為一個“黑箱”。因此,比起建立在完全執(zhí)行程序設(shè)計基礎(chǔ)上的計算機生成內(nèi)容,人工智能生成內(nèi)容與程序既定設(shè)計之間的關(guān)聯(lián)性更為疏遠(yuǎn),程序設(shè)計者無法解釋算法黑箱中產(chǎn)生的內(nèi)容。人類在創(chuàng)作時從抽象到具體的構(gòu)思和從無到有的實施過程,被人工智能算法以文本與圖像之間的關(guān)聯(lián)規(guī)律所替代。也正因為如此,有觀點即認(rèn)為由于人對創(chuàng)作過程喪失了控制力,人工智能生成內(nèi)容就不應(yīng)被視為作品。

    美國版權(quán)局在2023年撤銷以人工智能生成漫畫版權(quán)登記的一封回復(fù)函中就明確指出,用戶用提示語的方式引導(dǎo)圖像生成人工智能軟件Midjourney生成的18頁漫畫不具有可版權(quán)性,因為圖像生成過程中缺乏人的創(chuàng)作,而是由Midjoumey隨機生成。沒有作者參與創(chuàng)作的原因是作者對生成的結(jié)果不可預(yù)期。但美國版權(quán)局又同時認(rèn)為,如果藝術(shù)家能夠把控這種圖像生成工具的實施過程,即可享有所生成圖像的版權(quán)。在2023年3月頒布的《人工智能參與生成作品的版權(quán)登記指南》中,美國版權(quán)局再次強調(diào),以收到“提示”的方式生成內(nèi)容,由于使用者缺乏對創(chuàng)作實施階段的把控,凸顯獨創(chuàng)性的具體構(gòu)思都是由人工智能所選擇和決定,所以該內(nèi)容不應(yīng)被視為作品。換言之,上述判定標(biāo)準(zhǔn)仍然延續(xù)了19世紀(jì)末機器首次介入創(chuàng)作時以“構(gòu)想”和“實施”作為創(chuàng)作行為來源的思路。我國法院對人工智能生成內(nèi)容可版權(quán)性的判斷,同樣將人類創(chuàng)作與作品獨創(chuàng)性的關(guān)聯(lián)作為認(rèn)定依據(jù),一方面仍然以傳統(tǒng)的作品構(gòu)成要件來判斷人工智能生成內(nèi)容的可版權(quán)性;另一方面同樣強調(diào)人在作品獨創(chuàng)性中的貢獻(xiàn)。由此可見,司法機關(guān)和行政機關(guān)迄今為止對人工智能生成內(nèi)容可版權(quán)性的認(rèn)定,仍集中于創(chuàng)作是否來源于自然人。但在裁判結(jié)果上,由于生成式人工智能技術(shù)的迭代,自2018年開始美國就已陸續(xù)出現(xiàn)不保護(hù)以提示方式生成內(nèi)容版權(quán)的裁決,這說明自然人在如今的生成式人工智能中更加難以與創(chuàng)作相關(guān)聯(lián),仍然是回歸對獨創(chuàng)性來源的判斷。之所以延續(xù)百余年來以作品獨創(chuàng)性與人的關(guān)聯(lián)來涵攝人工智能生成內(nèi)容的傳統(tǒng),而不考慮進(jìn)行立法論上的創(chuàng)新,主要原因在于兩點:

    第一,從規(guī)范層面出發(fā),在人工智能生成內(nèi)容的可版權(quán)性認(rèn)定中堅持自然人對獨創(chuàng)性的貢獻(xiàn),是維持確權(quán)和侵權(quán)體系穩(wěn)定的需要。作品作為《著作權(quán)法》中的核心概念,其必須來源于人的創(chuàng)作一直是應(yīng)有之義。雖然《伯爾尼公約》沒有對何謂作者加以明確界定,但從體系解釋的角度出發(fā),人作為作者也在關(guān)于收益對象和精神權(quán)利等大量條款中得到確認(rèn)。所以即使是非大陸法系國家,非自然人也是以“視為作者”的擬制方式被認(rèn)定為更需要激勵且行使權(quán)利更有效率的主體。各國《著作權(quán)法》及歷史上的相關(guān)典型判例,也始終將人對獨創(chuàng)性的貢獻(xiàn)視為客體認(rèn)定的必要前提。正因為如此,無論是現(xiàn)在的人工智能生成內(nèi)容還是計算機生成內(nèi)容,都因為缺乏人的創(chuàng)作而不被認(rèn)為是作品。之所以堅持以既有規(guī)范涵攝對人工智能生成內(nèi)容的可版權(quán)性判斷,從法教義學(xué)的角度看主要是為了保障版權(quán)法基本功能的實現(xiàn)。在客體認(rèn)定上,如果因為內(nèi)容來源于人工智能就采取差異化的判定標(biāo)準(zhǔn),甚至將其排除在作品范疇之外,只會導(dǎo)致法律適用的混亂。當(dāng)同一作品會因來源于人工智能還是人而存在是否受《著作權(quán)法》保護(hù)的差異時,就會出現(xiàn)大量以署名的方式宣稱自己是該作品的作者,以規(guī)避《著作權(quán)法》對人工智能生成內(nèi)容的排除,司法實踐中不得不耗費大量資源去認(rèn)定該內(nèi)容是否來源于人工智能,以此確定能否將該內(nèi)容視為作品。另外,由于人工智能在深度學(xué)習(xí)和內(nèi)容生成過程中會大量借鑒已有的同類作品,一旦生成內(nèi)容與訓(xùn)練所輸入的內(nèi)容出現(xiàn)實質(zhì)性相似,原作品權(quán)利人將因為人工智能生成內(nèi)容被歸入公共領(lǐng)域而無法向任何人追責(zé),大規(guī)模內(nèi)容生成反而遮蓋了大規(guī)模侵權(quán)的現(xiàn)實。因此,人工智能技術(shù)雖然有著突飛猛進(jìn)的發(fā)展,但其生成內(nèi)容與人類創(chuàng)作行為相關(guān)聯(lián)的需求,則因?qū)嵺`中確權(quán)和侵權(quán)認(rèn)定的需要而不可動搖。

    第二,從效用層面出發(fā),人工智能生成內(nèi)容并未完全解決版權(quán)市場失靈問題,賦權(quán)相關(guān)主體仍然是激勵創(chuàng)作和傳播的有效手段。對人工智能在生成內(nèi)容問題上的獨立判斷,不符合《著作權(quán)法》的立法目標(biāo)。自現(xiàn)代《著作權(quán)法》產(chǎn)生以來,其立法目標(biāo)始終是通過賦權(quán)來激勵人對作品創(chuàng)作和傳播,但對于人工智能生成內(nèi)容是否還需要激勵這一問題,學(xué)界已有不同觀點。首先,人工智能生成內(nèi)容的常態(tài)化,意味著普通網(wǎng)絡(luò)用戶都能通過該渠道來進(jìn)行創(chuàng)作,形成了“用戶創(chuàng)造內(nèi)容”(UGC)與“人工智能生成內(nèi)容”(AIGC)疊加的社會現(xiàn)象。本來“用戶創(chuàng)造內(nèi)容”就已經(jīng)因為內(nèi)容生成門檻的降低而造成網(wǎng)絡(luò)上同質(zhì)化內(nèi)容數(shù)量激增;生成式人工智能的普及,進(jìn)一步降低了創(chuàng)作門檻,使得內(nèi)容不再是稀缺資源。既然不再稀缺,作為賦權(quán)正當(dāng)性前提所預(yù)設(shè)的版權(quán)市場失靈也就得到了緩解,是否仍應(yīng)通過賦權(quán)來激勵創(chuàng)作和傳播就需要重新考量。更有學(xué)者認(rèn)為,如果一視同仁地將人工智能生成內(nèi)容視為作品,將破壞《著作權(quán)法》所構(gòu)建的激勵機制,鼓勵更多的人工智能而非人來完成創(chuàng)作。既然對人工智能設(shè)計者的激勵已通過賦予其軟件版權(quán)來實現(xiàn),就無須進(jìn)行重復(fù)激勵。但需要注意的是,海量作品的存在自“用戶創(chuàng)造內(nèi)容”普及甚至互聯(lián)網(wǎng)時代到來后就已成為常態(tài),并非因為生成式人工智能的廣泛適用。同時,內(nèi)容數(shù)量的增加并不是不存在市場失靈的理由。激勵的功能不僅僅是實現(xiàn)作品從無到有的轉(zhuǎn)變,更重要的意義還在于提升創(chuàng)作和傳播質(zhì)量,以及彌補因傳播技術(shù)轉(zhuǎn)換而導(dǎo)致的傳統(tǒng)版權(quán)市場失靈。在版權(quán)制度變革的歷史中,每當(dāng)作品借助新興傳播技術(shù)形成新版權(quán)市場時,《著作權(quán)法》基本都以賦權(quán)方式涵蓋新的傳播渠道來保證激勵的延續(xù)性,以新的收益渠道來彌補因傳播渠道的替代所導(dǎo)致的傳統(tǒng)市場的萎縮。由于生成內(nèi)容的質(zhì)量取決于人工智能算法和訓(xùn)練的質(zhì)量,更與訓(xùn)練輸入的內(nèi)容質(zhì)量相關(guān),這種激勵機制的轉(zhuǎn)移也意味著持續(xù)鼓勵對硬件和訓(xùn)練數(shù)據(jù)的投資以及對算法的改進(jìn)。

    既然繼續(xù)以涵攝的方式去說明自然人是否對人工智能生成內(nèi)容存在獨創(chuàng)性貢獻(xiàn),就仍要回到人工智能生成內(nèi)容三個階段中是否包含了人對“構(gòu)想”和“實施”的貢獻(xiàn)這個基礎(chǔ)邏輯上。事實上,正如創(chuàng)作攝影作品和視聽作品時無須要求創(chuàng)作者理解攝影設(shè)備內(nèi)部運作原理一樣,人工智能的設(shè)計者或使用者亦無須知曉被訓(xùn)練后的人工智能如何通過數(shù)據(jù)之間關(guān)聯(lián)生成新的內(nèi)容。深度學(xué)習(xí)之所以能夠賦予機器以智能化,原因在于其能夠通過已輸入的訓(xùn)練數(shù)據(jù)和樣本去尋找和確定數(shù)據(jù)中的規(guī)律和范式,由此優(yōu)化形成一個新的模型來探索解決特定問題的新路徑,使人工智能獲得了對新數(shù)據(jù)進(jìn)行分類和整合的能力。換言之,人工智能并非如自然人一般去理解語言或圖形的含義,而是通過對海量數(shù)據(jù)的學(xué)習(xí)來發(fā)現(xiàn)其中的規(guī)律,并以此生成內(nèi)容。其中探尋規(guī)律和范式的方法,則仍然是由人工智能的設(shè)計者所決定。深度學(xué)習(xí)階段是人工智能能夠生成內(nèi)容的前提,但人工智能的學(xué)習(xí)和分析方式與人類截然不同。人工智能并非如人類一般通過語法和詞義來理解被輸入的數(shù)據(jù),而是把詞語在訓(xùn)練中出現(xiàn)的概率和訓(xùn)練者的評價作為標(biāo)準(zhǔn)。在此過程中,人工智能對輸出數(shù)據(jù)的評價,其實是學(xué)習(xí)人類評估輸出數(shù)據(jù)質(zhì)量的結(jié)果所形成的一個反饋模型。人工智能的設(shè)計者和訓(xùn)練者如何選擇數(shù)據(jù)樣本范圍以及如何對算法反饋結(jié)果進(jìn)行標(biāo)注,事實上決定了人工智能生成內(nèi)容的方式和范圍,最終來判斷反饋結(jié)果好壞的,仍然只能是人。

    可以認(rèn)為,生成式人工智能的運用,并沒有完全排除人在創(chuàng)作中的地位。即使在實施階段人工智能已基本取代人的參與,但在構(gòu)思階段仍然是人基于算法設(shè)計和數(shù)據(jù)選擇在發(fā)揮作用。人工智能算法模型和訓(xùn)練數(shù)據(jù)的差異,對所生成內(nèi)容的風(fēng)格會起到重要影響。訓(xùn)練數(shù)據(jù)的來源和人工標(biāo)注的偏好,都會決定所生成內(nèi)容的風(fēng)格和質(zhì)量。而上述訓(xùn)練的完成,都是人工智能設(shè)計者直接主導(dǎo)和安排的結(jié)果。有鑒于此,以“構(gòu)想”和“實施”的過程來涵攝人工智能生成內(nèi)容,人工智能的設(shè)計者仍然通過決定人工智能的核心代碼、訓(xùn)練數(shù)據(jù)來源和偏好,以及自身發(fā)展方向來決定“構(gòu)想”,因此應(yīng)該將人工智能的設(shè)計者視為作者,實踐中由于計算機軟件的開發(fā)設(shè)計者眾多,所以版權(quán)一般由作為人工智能投資者的法人享有。直接否定人工智能生成內(nèi)容的可版權(quán)性,不但會導(dǎo)致作品判定要件上的雙標(biāo),還會破壞《著作權(quán)法》長期構(gòu)建的激勵功能。

    四、涵攝如何延續(xù):版權(quán)歸屬的類別與界定方法

    將人工智能生成內(nèi)容的作者認(rèn)定為人工智能的設(shè)計者,僅僅是在初始權(quán)利配置上的安排。但生成式人工智能軟件在設(shè)計完成后,目標(biāo)是向普通的網(wǎng)絡(luò)用戶提供服務(wù),相當(dāng)于給已經(jīng)帶來作品數(shù)量井噴的“用戶創(chuàng)造內(nèi)容”加上了生成式人工智能的技術(shù)之翼,也由此出現(xiàn)了原作品權(quán)利人、人工智能設(shè)計者與使用者三方之間的版權(quán)配置問題。一方面有權(quán)利人認(rèn)為,人工智能生成的內(nèi)容中包含了其作品,因此向人工智能的設(shè)計者和所有者提起版權(quán)侵權(quán)訴訟;另一方面有人工智能的使用者認(rèn)為,自己的“提示”才是作品的獨創(chuàng)性來源,所以應(yīng)將其視為權(quán)利人。由此可見,除了需要明確人工智能生成內(nèi)容的版權(quán)歸屬外,還需梳理日常使用人工智能來生成內(nèi)容所形成的復(fù)雜權(quán)利關(guān)系。

    針對人工智能生成內(nèi)容中與作為訓(xùn)練數(shù)據(jù)的他人作品構(gòu)成實質(zhì)性相似的問題,直接涉及原作品權(quán)利人、人工智能設(shè)計者和使用者三方的法律關(guān)系。在實踐中,人工智能需要幫助使用者生成具有某種特定風(fēng)格或者包含某種特定場景的作品,而人工智能之所以有能力生成上述作品,主要是設(shè)計者或訓(xùn)練者在訓(xùn)練過程中向其提供了包含海量同類型作品的數(shù)據(jù)庫。在內(nèi)容生成的過程中,人工智能時常會不可避免地直接使用數(shù)據(jù)庫中的作品的片段,其中不乏包含原作品獨創(chuàng)性元素的部分,由此產(chǎn)生了原作品權(quán)利人與所生成新作品權(quán)利人之間的版權(quán)爭議?,F(xiàn)今已有不少權(quán)利人通過集體訴訟要求人工智能設(shè)計者就內(nèi)容生成中出現(xiàn)的實質(zhì)性相似問題承擔(dān)侵權(quán)責(zé)任,網(wǎng)絡(luò)上以“AI歌手”面目出現(xiàn)的生成式人工智能模型,甚至大量對音樂作品和錄音制品直接使用。同時,由于內(nèi)容生成后多數(shù)都存在不同形式的公開傳播,不符合版權(quán)合理使用中個人使用、介紹評論與說明、學(xué)習(xí)研究或者免費表演等法定情形,所以只有事前獲得許可方能合法使用。

    然而,由于人工智能訓(xùn)練所需的作品數(shù)量眾多且權(quán)利關(guān)系復(fù)雜,人工智能設(shè)計者根本無法在合理成本內(nèi)完成包括確權(quán)、協(xié)商和履行監(jiān)督在內(nèi)的所有合同環(huán)節(jié)。在版權(quán)制度史上,一般通過以集體管理模式實現(xiàn)權(quán)利集中的方式解決許可成本過高的問題。但傳統(tǒng)集體管理模式的實現(xiàn),需要“權(quán)利人、集體管理組織、使用者”之間具有穩(wěn)定的法律關(guān)系,權(quán)利人為職業(yè)作者,使用者為廣播組織和出版社等以相對固定方式和范圍傳播作品的商業(yè)機構(gòu)。相比之下,現(xiàn)今“用戶創(chuàng)造內(nèi)容”和“人工智能生成內(nèi)容”結(jié)合的商業(yè)模式,無論是作為訓(xùn)練數(shù)據(jù)的作品來源,還是生成后的作品使用方式,都早已超出職業(yè)化創(chuàng)作和傳播的范疇,不但主體數(shù)量都過于分散,而且使用目的也更為多元,集體管理所需的那種穩(wěn)定的繼續(xù)性合同關(guān)系無法形成。在此前提下,為了規(guī)避人工智能生成內(nèi)容可能出現(xiàn)的侵權(quán)風(fēng)險,人工智能設(shè)計者采取了在“最終用戶服務(wù)協(xié)議”中納入格式條款的方式來明確版權(quán)歸屬。

    以ChatGPT和Midjourney兩款生成式人工智能軟件的“最終用戶服務(wù)協(xié)議”為例,兩者都對所生成內(nèi)容的版權(quán)做了明確的歸屬約定。Midjourney的協(xié)議區(qū)分了付費與非付費用戶。針對付費用戶,Midjourney在格式條款中規(guī)定所生成內(nèi)容的所有權(quán)利歸于使用者享有,但排除其中可能存在的他人作品版權(quán)。針對免費用戶,Midjoumey則規(guī)定使用者不享有所生成內(nèi)容的版權(quán),但Midjourney會通過“知識共享協(xié)議”以非商業(yè)使用為限允許使用者自由使用該內(nèi)容。ChatGPT雖然并未區(qū)分付費和免費用戶,但同樣將所生成內(nèi)容的所有權(quán)利讓與給了使用者,也同時聲明排除他人作品的版權(quán)和用戶輸入類似提示所生成的同質(zhì)化內(nèi)容。上述權(quán)利配置的目的主要體現(xiàn)在兩個方面:第一,幫助人工智能設(shè)計者規(guī)避內(nèi)容生成過程中可能出現(xiàn)的侵權(quán)風(fēng)險。如果將版權(quán)讓與使用者,使用者在使用作品時如果被發(fā)現(xiàn)與已有作品存在實質(zhì)性相似,責(zé)任將由使用者承擔(dān)。第二,解決人工智能生成內(nèi)容可能出現(xiàn)的雷同問題。在多數(shù)用戶共同使用的情況下,人工智能很可能針對類似提示給予相似的回應(yīng)。設(shè)計者在合同條款中事先告知使用者其可能不是唯一輸入某種提示并獲得結(jié)果的用戶,并排除該部分版權(quán)的讓與,可以避免不同使用者之間出現(xiàn)版權(quán)爭議。

    對于以“提示”引導(dǎo)人工智能生成內(nèi)容的使用者而言,留給使用者的空間僅是在已生成的多個內(nèi)容中進(jìn)行選擇和調(diào)整,或者針對已生成的內(nèi)容再次提示改動的意見。這種提示其實類似于電腦游戲畫面的玩家通過操作形成游戲畫面,操作行為僅僅是通過輸入指令將已有的代碼轉(zhuǎn)化為畫面。由于其并未貢獻(xiàn)畫面中的獨創(chuàng)性元素,該畫面的版權(quán)仍然屬于游戲軟件的設(shè)計者。在美國版權(quán)局駁回Midjourney生成漫畫版權(quán)登記申請的回復(fù)中就明確指出,由于人工智能使用者輸入的提示語過于抽象,所以更類似于委托創(chuàng)作中的委托,而非真實參與創(chuàng)作。但如果使用者在生成的內(nèi)容上增加了額外的獨創(chuàng)性表達(dá),則構(gòu)成對作品的改編。但由于無法判定人工智能所生成的內(nèi)容中是否包含他人作品,眾多使用者也難以就改編問題與人工智能設(shè)計者或原作品權(quán)利人達(dá)成合意,所以仍需要回到人工智能設(shè)計者格式合同的解決路徑上。首先,在使用者僅以提示方式生成作品的情況下,人工智能設(shè)計者與使用者之間的關(guān)系納入委托作品的范圍,使用者作為委托人,根據(jù)“最終用戶服務(wù)協(xié)議”中的格式條款取得所生成作品的版權(quán)。其次,人工智能設(shè)計者或所有者應(yīng)該在沒有合同約定的前提下被視為已生成內(nèi)容的作者,但如果所生成內(nèi)容中包含了他人作品的獨創(chuàng)性元素,設(shè)計者或使用者在以法定權(quán)利項使用該作品前,必須取得原作品權(quán)利人的許可。這種版權(quán)法定配置與合同安排相結(jié)合的模式的優(yōu)勢性體現(xiàn)在:一方面法定配置可以避免無主作品大量涌入市場而損害對創(chuàng)作者的正向激勵;另一方面合同安排則可以控制“用戶創(chuàng)造內(nèi)容”和“人工智能創(chuàng)造內(nèi)容”疊加帶來的高額許可成本。

    五、結(jié)論

    在大數(shù)據(jù)、算法和硬件計算能力顯著提升的背景下,生成式人工智能已經(jīng)有能力完全介入人類的所有創(chuàng)作領(lǐng)域。然而《著作權(quán)法》多年來不斷沉淀的獨創(chuàng)性解釋,仍然可以將人工智能生成內(nèi)容“教義化”到既有的權(quán)利配置體系中。正如德國馬克斯普朗克創(chuàng)新與競爭研究所在其針對人工智能知識產(chǎn)權(quán)問題的“立場聲明”中所言,從現(xiàn)階段看,專門為人工智能生成內(nèi)容創(chuàng)設(shè)新的法律規(guī)范既無必要,也不合理。無論是作為具體構(gòu)想來源的算法及其生成步驟,還是在數(shù)據(jù)庫訓(xùn)練中通過監(jiān)督和標(biāo)注對生成風(fēng)格和內(nèi)容的控制,都意味著人工智能在被設(shè)計和訓(xùn)練階段的安排可以視為與創(chuàng)作行為具有直接關(guān)聯(lián)?!吨鳈?quán)法》自攝影技術(shù)介入創(chuàng)作時在司法審判中所形成的自然人與創(chuàng)作的關(guān)聯(lián)性判斷規(guī)則,可以涵攝從機器介入到人工智能介入的歷史階段,人類被認(rèn)為是創(chuàng)作的唯一來源的論斷,在今天也并未因生成式人工智能的到來而被推翻。但由于海量生成內(nèi)容中尚無法避免出現(xiàn)作為訓(xùn)練數(shù)據(jù)的作品元素,所以在人工智能軟件的“最終用戶服務(wù)協(xié)議”中對權(quán)利歸屬做出合理安排,是現(xiàn)階段避免侵權(quán)風(fēng)險的必要途徑。

    (作者系華中科技大學(xué)法學(xué)院教授、博士研究生導(dǎo)師)

    猜你喜歡
    獨創(chuàng)性
    懸而未決
    AIGC的著作權(quán)分級保護(hù)
    秦智(2024年9期)2024-12-31 00:00:00
    論非獨創(chuàng)性數(shù)據(jù)庫的鄰接權(quán)保護(hù)模式
    試論我國作品獨創(chuàng)性的司法認(rèn)定標(biāo)準(zhǔn)
    法制博覽(2018年25期)2018-01-22 15:29:21
    文學(xué)作品的抄襲認(rèn)定法律問題
    對微博版權(quán)客體的認(rèn)定與思考
    出版廣角(2016年18期)2016-12-03 16:14:40
    塊數(shù)據(jù)環(huán)境下數(shù)字版權(quán)的認(rèn)定研究
    淺析著作權(quán)中的幾點問題
    錦州店鋪以及街(路)命名的文化內(nèi)涵與功能分析
    議作品之獨創(chuàng)性*
    国产亚洲精品久久久久5区| 日本av手机在线免费观看| www日本在线高清视频| 少妇粗大呻吟视频| 人妻一区二区av| 最近最新中文字幕大全免费视频| 亚洲综合色网址| 精品久久久精品久久久| 精品亚洲乱码少妇综合久久| 90打野战视频偷拍视频| 国产国语露脸激情在线看| 黄色丝袜av网址大全| 色老头精品视频在线观看| videos熟女内射| 国产在线免费精品| 三级毛片av免费| 黄色怎么调成土黄色| 9热在线视频观看99| 免费黄频网站在线观看国产| 91成年电影在线观看| 精品熟女少妇八av免费久了| 真人做人爱边吃奶动态| 国产精品影院久久| 久久人妻福利社区极品人妻图片| 性少妇av在线| 夜夜骑夜夜射夜夜干| 精品亚洲乱码少妇综合久久| 黄频高清免费视频| 2018国产大陆天天弄谢| 久热爱精品视频在线9| 久久精品熟女亚洲av麻豆精品| 国产亚洲精品久久久久5区| 日本vs欧美在线观看视频| 日日爽夜夜爽网站| 亚洲精品在线观看二区| 国内毛片毛片毛片毛片毛片| 国产单亲对白刺激| 欧美日韩精品网址| 18禁国产床啪视频网站| 丝袜人妻中文字幕| 黄片播放在线免费| 久久久久久人人人人人| 90打野战视频偷拍视频| 一本—道久久a久久精品蜜桃钙片| 99久久99久久久精品蜜桃| 国产高清视频在线播放一区| 岛国毛片在线播放| 午夜老司机福利片| 亚洲自偷自拍图片 自拍| 97在线人人人人妻| 日韩欧美三级三区| 久久午夜亚洲精品久久| 国产精品电影一区二区三区 | 天天躁夜夜躁狠狠躁躁| 亚洲精品粉嫩美女一区| 菩萨蛮人人尽说江南好唐韦庄| 日日夜夜操网爽| 美女视频免费永久观看网站| 欧美日本中文国产一区发布| 亚洲熟女精品中文字幕| 日日摸夜夜添夜夜添小说| 久久久久久久国产电影| 成在线人永久免费视频| 久久久久国产一级毛片高清牌| 精品久久久精品久久久| 97在线人人人人妻| 国产成人精品久久二区二区91| 欧美一级毛片孕妇| 色老头精品视频在线观看| 国产精品香港三级国产av潘金莲| a在线观看视频网站| 最近最新中文字幕大全电影3 | 狠狠精品人妻久久久久久综合| 捣出白浆h1v1| 人人妻人人澡人人看| 精品高清国产在线一区| 18禁观看日本| 国产伦人伦偷精品视频| svipshipincom国产片| 国产精品99久久99久久久不卡| 国产av一区二区精品久久| 久久天躁狠狠躁夜夜2o2o| av一本久久久久| 国产精品亚洲一级av第二区| 中文字幕人妻丝袜一区二区| 性少妇av在线| 97人妻天天添夜夜摸| av欧美777| 视频在线观看一区二区三区| 成人影院久久| 免费日韩欧美在线观看| 午夜视频精品福利| 韩国精品一区二区三区| 国产又爽黄色视频| 久久精品国产亚洲av香蕉五月 | 日本黄色日本黄色录像| 国产福利在线免费观看视频| 老司机午夜十八禁免费视频| svipshipincom国产片| 黄色丝袜av网址大全| 免费在线观看日本一区| 99国产精品99久久久久| 在线十欧美十亚洲十日本专区| 九色亚洲精品在线播放| 久久婷婷成人综合色麻豆| 午夜福利视频在线观看免费| 精品一区二区三卡| 高清视频免费观看一区二区| 国产成人精品无人区| 法律面前人人平等表现在哪些方面| 午夜激情av网站| 80岁老熟妇乱子伦牲交| 国产欧美日韩综合在线一区二区| 欧美国产精品va在线观看不卡| 精品国产一区二区三区四区第35| 在线观看免费日韩欧美大片| 午夜91福利影院| 无遮挡黄片免费观看| 少妇裸体淫交视频免费看高清 | 久久精品国产亚洲av高清一级| 色综合欧美亚洲国产小说| 在线观看66精品国产| 美女高潮喷水抽搐中文字幕| 两人在一起打扑克的视频| 又黄又粗又硬又大视频| 黄片小视频在线播放| 久9热在线精品视频| 大片免费播放器 马上看| 精品亚洲成a人片在线观看| 亚洲七黄色美女视频| 午夜久久久在线观看| 国产视频一区二区在线看| 精品少妇黑人巨大在线播放| 精品久久久久久电影网| 少妇 在线观看| 高清视频免费观看一区二区| 亚洲第一欧美日韩一区二区三区 | 少妇裸体淫交视频免费看高清 | 国产成人影院久久av| 一级毛片女人18水好多| 在线观看人妻少妇| 精品福利永久在线观看| 怎么达到女性高潮| 免费少妇av软件| 久久天躁狠狠躁夜夜2o2o| 精品国产乱子伦一区二区三区| 伊人久久大香线蕉亚洲五| 一夜夜www| 免费av中文字幕在线| 亚洲精品在线美女| 黄频高清免费视频| 国产99久久九九免费精品| 新久久久久国产一级毛片| 天天操日日干夜夜撸| 国产一区二区 视频在线| 国产欧美日韩一区二区三区在线| 俄罗斯特黄特色一大片| 黄色a级毛片大全视频| 嫩草影视91久久| 性色av乱码一区二区三区2| 国产精品 欧美亚洲| 久久久久久免费高清国产稀缺| 国产三级黄色录像| 法律面前人人平等表现在哪些方面| 国产一区二区三区视频了| 亚洲性夜色夜夜综合| 成人三级做爰电影| www.自偷自拍.com| 中国美女看黄片| 91精品国产国语对白视频| tube8黄色片| 麻豆av在线久日| 啦啦啦视频在线资源免费观看| 少妇精品久久久久久久| 亚洲色图 男人天堂 中文字幕| 亚洲午夜理论影院| 国产视频一区二区在线看| 五月开心婷婷网| 狂野欧美激情性xxxx| 国产精品亚洲一级av第二区| 天堂中文最新版在线下载| 美女扒开内裤让男人捅视频| 老司机在亚洲福利影院| 欧美在线黄色| 19禁男女啪啪无遮挡网站| 中文字幕人妻丝袜制服| 别揉我奶头~嗯~啊~动态视频| 国产人伦9x9x在线观看| 色婷婷久久久亚洲欧美| 热re99久久精品国产66热6| h视频一区二区三区| 一个人免费在线观看的高清视频| 男女边摸边吃奶| 成人国语在线视频| 日日夜夜操网爽| 日本黄色视频三级网站网址 | 精品免费久久久久久久清纯 | 丝袜在线中文字幕| 老鸭窝网址在线观看| 精品国内亚洲2022精品成人 | 久久中文看片网| 三级毛片av免费| 国产精品1区2区在线观看. | 欧美亚洲 丝袜 人妻 在线| 丝袜美足系列| 亚洲男人天堂网一区| 亚洲免费av在线视频| 久热爱精品视频在线9| 露出奶头的视频| svipshipincom国产片| 欧美+亚洲+日韩+国产| 人成视频在线观看免费观看| 99久久99久久久精品蜜桃| 少妇被粗大的猛进出69影院| 一本色道久久久久久精品综合| 麻豆乱淫一区二区| 久久精品国产亚洲av高清一级| 日本av手机在线免费观看| 巨乳人妻的诱惑在线观看| 日本av免费视频播放| 又黄又粗又硬又大视频| 19禁男女啪啪无遮挡网站| 亚洲精品国产一区二区精华液| 黄色 视频免费看| 99国产精品一区二区蜜桃av | 伊人久久大香线蕉亚洲五| 亚洲国产欧美一区二区综合| 成人精品一区二区免费| 国产免费av片在线观看野外av| 精品久久久久久电影网| 女人被躁到高潮嗷嗷叫费观| 母亲3免费完整高清在线观看| 国产成人免费无遮挡视频| 在线观看免费视频网站a站| 女警被强在线播放| 欧美成人午夜精品| 免费观看人在逋| 黑人欧美特级aaaaaa片| 午夜福利乱码中文字幕| 国产成人欧美在线观看 | 捣出白浆h1v1| 制服人妻中文乱码| 亚洲美女黄片视频| 久久久国产成人免费| 精品福利观看| 黄频高清免费视频| 亚洲av成人一区二区三| 十八禁网站网址无遮挡| 久久人妻av系列| tube8黄色片| 中文字幕人妻熟女乱码| 黄网站色视频无遮挡免费观看| 免费观看人在逋| 国产精品电影一区二区三区 | 亚洲av美国av| av网站在线播放免费| 久久国产精品影院| 国产在线视频一区二区| 丰满人妻熟妇乱又伦精品不卡| av线在线观看网站| 麻豆国产av国片精品| 手机成人av网站| 午夜福利免费观看在线| 99精品在免费线老司机午夜| 深夜精品福利| 欧美精品av麻豆av| 国产高清激情床上av| 日韩一卡2卡3卡4卡2021年| 中文亚洲av片在线观看爽 | 自拍欧美九色日韩亚洲蝌蚪91| 纯流量卡能插随身wifi吗| av超薄肉色丝袜交足视频| 99九九在线精品视频| 人妻一区二区av| 美女扒开内裤让男人捅视频| 亚洲第一av免费看| 国产97色在线日韩免费| 午夜免费成人在线视频| 国产精品秋霞免费鲁丝片| 亚洲成人免费电影在线观看| 久久人妻福利社区极品人妻图片| 国产精品欧美亚洲77777| 丝袜人妻中文字幕| 黄片大片在线免费观看| 国产精品久久电影中文字幕 | 精品国产一区二区三区久久久樱花| 99久久精品国产亚洲精品| 久久精品亚洲精品国产色婷小说| 国产高清视频在线播放一区| 久久久水蜜桃国产精品网| 18禁黄网站禁片午夜丰满| 国产成人一区二区三区免费视频网站| 国产成人免费无遮挡视频| 日韩精品免费视频一区二区三区| 久久久国产精品麻豆| 欧美一级毛片孕妇| 一边摸一边做爽爽视频免费| 国产三级黄色录像| 男女高潮啪啪啪动态图| 日本五十路高清| 久久精品亚洲av国产电影网| 又黄又粗又硬又大视频| 久久久水蜜桃国产精品网| 精品午夜福利视频在线观看一区 | 欧美激情极品国产一区二区三区| 精品午夜福利视频在线观看一区 | 19禁男女啪啪无遮挡网站| 青草久久国产| 少妇猛男粗大的猛烈进出视频| 搡老岳熟女国产| 亚洲人成电影观看| 两性午夜刺激爽爽歪歪视频在线观看 | 久久久久视频综合| 精品国产超薄肉色丝袜足j| 国产av精品麻豆| 91老司机精品| 亚洲少妇的诱惑av| 1024香蕉在线观看| 一级片'在线观看视频| 久久久精品区二区三区| 久久毛片免费看一区二区三区| 欧美日韩一级在线毛片| 五月天丁香电影| 日韩熟女老妇一区二区性免费视频| 男女高潮啪啪啪动态图| 一个人免费看片子| 69精品国产乱码久久久| 成年人午夜在线观看视频| 老司机影院毛片| 久久热在线av| 久久国产精品男人的天堂亚洲| 国产精品美女特级片免费视频播放器 | 国产激情久久老熟女| 999久久久精品免费观看国产| 亚洲中文av在线| 法律面前人人平等表现在哪些方面| 下体分泌物呈黄色| 日韩精品免费视频一区二区三区| 国产成人精品无人区| 欧美精品av麻豆av| 免费在线观看影片大全网站| 美女午夜性视频免费| 国产一区有黄有色的免费视频| 久久国产精品大桥未久av| 少妇的丰满在线观看| 亚洲精品国产区一区二| 亚洲欧美一区二区三区黑人| 777米奇影视久久| 成年人午夜在线观看视频| 国产日韩欧美在线精品| 亚洲av国产av综合av卡| xxxhd国产人妻xxx| 国产成人系列免费观看| 嫁个100分男人电影在线观看| 精品少妇内射三级| 午夜福利一区二区在线看| 国产成人av教育| 亚洲欧美精品综合一区二区三区| 亚洲中文av在线| 国产精品久久电影中文字幕 | 法律面前人人平等表现在哪些方面| 午夜精品国产一区二区电影| 亚洲国产精品一区二区三区在线| 精品国内亚洲2022精品成人 | 国产精品香港三级国产av潘金莲| 亚洲欧洲日产国产| 国产精品久久久人人做人人爽| svipshipincom国产片| 精品人妻在线不人妻| 免费久久久久久久精品成人欧美视频| 国产高清激情床上av| 多毛熟女@视频| 久久精品国产亚洲av香蕉五月 | 国产亚洲av高清不卡| 亚洲精华国产精华精| 亚洲色图av天堂| 国产精品 国内视频| 亚洲专区国产一区二区| 国产黄频视频在线观看| 悠悠久久av| 99精品久久久久人妻精品| 每晚都被弄得嗷嗷叫到高潮| 无人区码免费观看不卡 | www.精华液| 人妻 亚洲 视频| 欧美国产精品一级二级三级| 久久精品aⅴ一区二区三区四区| 午夜成年电影在线免费观看| 亚洲第一青青草原| 日本av手机在线免费观看| 捣出白浆h1v1| 精品国产国语对白av| 亚洲av电影在线进入| 午夜91福利影院| 肉色欧美久久久久久久蜜桃| 久久久久网色| 久久精品91无色码中文字幕| 一级黄色大片毛片| 青草久久国产| 伊人久久大香线蕉亚洲五| 极品人妻少妇av视频| 无遮挡黄片免费观看| 777米奇影视久久| 精品一品国产午夜福利视频| 久久国产精品人妻蜜桃| 大香蕉久久网| 国产成+人综合+亚洲专区| 狠狠狠狠99中文字幕| 激情在线观看视频在线高清 | 久久久久精品国产欧美久久久| 18禁国产床啪视频网站| 99精品在免费线老司机午夜| 国产av精品麻豆| 欧美性长视频在线观看| 夜夜爽天天搞| 久久久久久免费高清国产稀缺| 69精品国产乱码久久久| 女人高潮潮喷娇喘18禁视频| 熟女少妇亚洲综合色aaa.| 国产精品国产av在线观看| 黑人欧美特级aaaaaa片| 久久精品人人爽人人爽视色| 亚洲专区字幕在线| 老鸭窝网址在线观看| 亚洲成人免费电影在线观看| 国产欧美日韩综合在线一区二区| 久久久国产欧美日韩av| 多毛熟女@视频| 精品乱码久久久久久99久播| 91精品国产国语对白视频| 国产av精品麻豆| 五月天丁香电影| 亚洲精品自拍成人| 国产亚洲av高清不卡| 国产欧美日韩一区二区精品| 久久精品国产a三级三级三级| 女人精品久久久久毛片| 日韩精品免费视频一区二区三区| 久久人人爽av亚洲精品天堂| 老司机影院毛片| 热99国产精品久久久久久7| 天天影视国产精品| 国产成人啪精品午夜网站| 亚洲精品一二三| 久久久久久久久免费视频了| 日韩熟女老妇一区二区性免费视频| 欧美日韩国产mv在线观看视频| 久久人妻福利社区极品人妻图片| 9热在线视频观看99| 欧美日韩成人在线一区二区| 999久久久国产精品视频| 国产成人免费观看mmmm| 国产av一区二区精品久久| 天堂8中文在线网| 大香蕉久久网| 在线十欧美十亚洲十日本专区| 亚洲一区二区三区欧美精品| 每晚都被弄得嗷嗷叫到高潮| 成人国语在线视频| 国产不卡av网站在线观看| av国产精品久久久久影院| 亚洲九九香蕉| 又紧又爽又黄一区二区| 99精品久久久久人妻精品| 丁香六月天网| 男女高潮啪啪啪动态图| 国产在线免费精品| www日本在线高清视频| 十八禁人妻一区二区| 午夜精品国产一区二区电影| 777米奇影视久久| 宅男免费午夜| 午夜福利视频精品| 在线看a的网站| 午夜两性在线视频| 精品久久久久久电影网| 久久精品aⅴ一区二区三区四区| 黄色a级毛片大全视频| 久久国产精品大桥未久av| 亚洲午夜精品一区,二区,三区| 亚洲人成电影观看| 黄色a级毛片大全视频| 宅男免费午夜| 王馨瑶露胸无遮挡在线观看| 亚洲国产欧美一区二区综合| 久久久久久久大尺度免费视频| 成人国语在线视频| 黄片小视频在线播放| 丝袜美足系列| av超薄肉色丝袜交足视频| 悠悠久久av| 少妇的丰满在线观看| 国产精品免费一区二区三区在线 | 久久久久网色| 后天国语完整版免费观看| 国产野战对白在线观看| 亚洲精品国产色婷婷电影| 岛国毛片在线播放| 欧美激情久久久久久爽电影 | 丝瓜视频免费看黄片| 久久久久国产一级毛片高清牌| 黄片小视频在线播放| 99九九在线精品视频| 男女边摸边吃奶| 大型黄色视频在线免费观看| 国产精品久久电影中文字幕 | 亚洲av第一区精品v没综合| 日韩中文字幕欧美一区二区| 亚洲人成伊人成综合网2020| h视频一区二区三区| 国产精品电影一区二区三区 | www.精华液| 19禁男女啪啪无遮挡网站| 757午夜福利合集在线观看| tocl精华| 啦啦啦免费观看视频1| 9色porny在线观看| 国产亚洲精品久久久久5区| 建设人人有责人人尽责人人享有的| aaaaa片日本免费| 久热这里只有精品99| 在线观看免费高清a一片| 久久99一区二区三区| 美女视频免费永久观看网站| 777米奇影视久久| 十八禁网站免费在线| 国产在视频线精品| 在线观看免费日韩欧美大片| 无遮挡黄片免费观看| 国产精品一区二区免费欧美| 国产有黄有色有爽视频| 动漫黄色视频在线观看| 可以免费在线观看a视频的电影网站| 亚洲第一青青草原| 中文字幕精品免费在线观看视频| 国产精品成人在线| 免费黄频网站在线观看国产| 我的亚洲天堂| 满18在线观看网站| 女人被躁到高潮嗷嗷叫费观| 国产精品免费大片| 亚洲中文av在线| 亚洲精品一卡2卡三卡4卡5卡| 午夜老司机福利片| kizo精华| 一本大道久久a久久精品| 91国产中文字幕| 日韩成人在线观看一区二区三区| 国产一区二区 视频在线| 少妇裸体淫交视频免费看高清 | 窝窝影院91人妻| 欧美在线一区亚洲| 男人舔女人的私密视频| √禁漫天堂资源中文www| av有码第一页| 亚洲五月色婷婷综合| 精品久久久久久电影网| 欧美激情 高清一区二区三区| 国产成+人综合+亚洲专区| 香蕉国产在线看| 国产日韩欧美在线精品| 窝窝影院91人妻| 久久免费观看电影| 极品少妇高潮喷水抽搐| 国产成人av激情在线播放| 久久99一区二区三区| 狠狠精品人妻久久久久久综合| 色尼玛亚洲综合影院| 亚洲性夜色夜夜综合| 动漫黄色视频在线观看| 亚洲综合色网址| 国产精品.久久久| 女同久久另类99精品国产91| 成人国语在线视频| 亚洲精品美女久久av网站| 精品福利观看| 99热网站在线观看| 人人妻人人爽人人添夜夜欢视频| 岛国在线观看网站| 国产极品粉嫩免费观看在线| 久久毛片免费看一区二区三区| 午夜福利影视在线免费观看| 欧美日韩视频精品一区| 久久狼人影院| 精品国产国语对白av| 欧美乱妇无乱码| 日韩视频在线欧美| 国产成人精品久久二区二区免费| 免费人妻精品一区二区三区视频| 国产成人系列免费观看| 免费一级毛片在线播放高清视频 | 国产精品影院久久| 国产精品一区二区免费欧美| cao死你这个sao货| 乱人伦中国视频| 精品第一国产精品| 18禁美女被吸乳视频| 亚洲国产成人一精品久久久| 国产精品 欧美亚洲| 日韩欧美免费精品| 亚洲国产欧美日韩在线播放| 国产精品 欧美亚洲| 精品国产乱码久久久久久男人| 建设人人有责人人尽责人人享有的| 色综合欧美亚洲国产小说| 国产成人精品在线电影| 久久久久久免费高清国产稀缺| 亚洲avbb在线观看| 久久中文字幕人妻熟女| 女人被躁到高潮嗷嗷叫费观| 成人影院久久| 日本a在线网址| 91字幕亚洲| 丰满迷人的少妇在线观看| 欧美在线一区亚洲|