• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    生成式人工智能版權(quán)問題研究

    2023-04-29 13:19:57馮曉青沈韻
    中國(guó)版權(quán) 2023年2期
    關(guān)鍵詞:生成式人工智能合理使用

    馮曉青 沈韻

    關(guān)鍵詞:生成式人工智能;人工智能創(chuàng)作內(nèi)容;可版權(quán)性;版權(quán)歸屬;合理使用

    一、問題的提出:從決策式人工智能到生成式人工智能

    近期,美國(guó)人工智能研發(fā)公司Open AI公開發(fā)布一款名為ChatGPT的聊天機(jī)器人,憑借其高效、智能、準(zhǔn)確的生成內(nèi)容,迅速在全球范圍內(nèi)引發(fā)討論熱潮。ChatGPT以深度學(xué)習(xí)、大模型、人類反饋(RLHF)等信息技術(shù)為支撐,通過模擬人類語言邏輯與溝通表達(dá)習(xí)慣,實(shí)現(xiàn)以文字對(duì)話形式與人類用戶的在線互動(dòng)交談。相關(guān)對(duì)話內(nèi)容具有高度個(gè)性化與智能特征,甚至達(dá)到與人類語言表達(dá)無異的程度。實(shí)踐中,ChatGPT被廣泛應(yīng)用于各種應(yīng)用場(chǎng)景,例如,在線客服、智能搜索、代碼生成、文章撰寫等。

    ChatGPT本質(zhì)上是模擬或再現(xiàn)人類智力以生成全新內(nèi)容的文本生成模型,是一種典型的生成式人工智能。ChatGPT的成功“出圈”也表明,從決策式到生成式人工智能,人工智能領(lǐng)域正在發(fā)生變革性升級(jí)。在生成式人工智能誕生之前,人工智能模型以決策式人工智能為主。決策式人工智能根據(jù)輸入數(shù)據(jù)進(jìn)行處理、分析,輸出自主化決策結(jié)果,以算法推薦、自動(dòng)駕駛為典型的應(yīng)用場(chǎng)景。決策式人工智能旨在實(shí)現(xiàn)初步的分析功能,長(zhǎng)期作為人類生產(chǎn)活動(dòng)的輔助工具而存在。伴隨神經(jīng)網(wǎng)絡(luò)、大數(shù)據(jù)、深度學(xué)習(xí)技術(shù)的快速發(fā)展,人工智能領(lǐng)域迎來跨越式發(fā)展,出現(xiàn)了生成式人工智能這一新型人工智能模型。相較于決策式人工智能,生成式人工智能以更復(fù)雜的算法架構(gòu)作為技術(shù)支撐,具有模擬或再現(xiàn)人類思維過程與智力水平的技術(shù)功能。生成式人工智能以人工智能創(chuàng)作內(nèi)容(AIGC)為核心,通過算法賦予機(jī)器自我學(xué)習(xí)與進(jìn)化能力,能夠相對(duì)自主地輸出原創(chuàng)性內(nèi)容。

    生成式人工智能作為人工智能新范式,已經(jīng)逐漸替代決策式人工智能,成為一項(xiàng)人工智能領(lǐng)域的通用技術(shù),在技術(shù)應(yīng)用環(huán)節(jié)驅(qū)動(dòng)人工智能生成內(nèi)容的開發(fā)。目前,生成式人工智能已經(jīng)成為信息時(shí)代的關(guān)鍵技術(shù),賦能不同產(chǎn)業(yè)以及不同領(lǐng)域的發(fā)展,成為數(shù)字經(jīng)濟(jì)與產(chǎn)業(yè)革命的底層支撐。以生成式人工智能為代表的新技術(shù),正在改變傳統(tǒng)的內(nèi)容生產(chǎn)方式,導(dǎo)致版權(quán)保護(hù)面臨一定的問題與挑戰(zhàn)。生成式人工智能在版權(quán)領(lǐng)域引發(fā)的新問題主要集中在:一是生成式人工智能的主體資格認(rèn)定。生成式人工智能是否可以獲得和人類作者相同的法律主體地位,需要結(jié)合制度規(guī)范、基礎(chǔ)理論等多方面進(jìn)行論述。二是生成式人工智能創(chuàng)作內(nèi)容的法律屬性及其保護(hù)問題。理論與實(shí)務(wù)界在人工智能創(chuàng)作內(nèi)容是否構(gòu)成作品這一問題上尚未達(dá)成共識(shí)。明確生成式人工智能創(chuàng)作內(nèi)容的作品屬性,是構(gòu)建人工智能時(shí)代版權(quán)制度的前提。版權(quán)保護(hù)需要以人工智能創(chuàng)作內(nèi)容的可版權(quán)性為基礎(chǔ),進(jìn)一步分析其權(quán)利歸屬。三是生成式人工智能的版權(quán)侵權(quán)判定。生成式人工智能的不同技術(shù)階段面臨著不同的版權(quán)侵權(quán)風(fēng)險(xiǎn),其侵權(quán)責(zé)任承擔(dān)與豁免規(guī)則需要加以明晰。關(guān)于生成式人工智能的版權(quán)保護(hù),應(yīng)當(dāng)在不動(dòng)搖版權(quán)制度根基的原則下,化解人工智能新范式給傳統(tǒng)作品市場(chǎng)及版權(quán)保護(hù)帶來的巨大沖擊,充分回應(yīng)人工智能時(shí)代的文化產(chǎn)業(yè)保護(hù)需求。

    二、生成式人工智能的主體資格認(rèn)定

    伴隨生成式人工智能的普及,人工智能從輔助走向創(chuàng)造,對(duì)人類獨(dú)一無二的創(chuàng)作主體地位造成挑戰(zhàn)。人工智能時(shí)代,生成式人工智能能夠在沒有人類干預(yù)的情況下自主生成創(chuàng)造性內(nèi)容,因而生成式人工智能成為“創(chuàng)作”發(fā)生的真正動(dòng)因。版權(quán)制度需要回應(yīng)的首要問題即生成式人工智能是否可以成為著作權(quán)法意義上的法律主體。結(jié)合既有版權(quán)制度規(guī)范及其基礎(chǔ)理論體系,賦予人工智能以法律主體地位,既缺乏現(xiàn)實(shí)基礎(chǔ),也不符合民法制度的價(jià)值取向。

    (一)既有制度規(guī)范下生成式人工智能主體資格的否定

    《著作權(quán)法》第九條規(guī)定,著作權(quán)人是指“作者”以及“其他依照本法享有著作權(quán)的自然人、法人或者非法人組織”。結(jié)合《著作權(quán)法》第二條對(duì)享有著作權(quán)主體范疇的限定,著作權(quán)主體應(yīng)當(dāng)僅包括“中國(guó)公民、法人或者非法人組織”以及符合特定要求的“外國(guó)人、無國(guó)籍人”。因此,我國(guó)實(shí)在法下的著作權(quán)主體只能是自然人或由自然人集合形成的法定組織。既有著作權(quán)制度規(guī)范以自然人作者為原則、以自然人集合擬制作者為例外,遵循“人類中心主義”的基本理念。一直以來,《著作權(quán)法》是以自然人為創(chuàng)作主體而構(gòu)建起來的,將人類視為獨(dú)一無二的創(chuàng)作主體。無論是作者概念還是權(quán)利歸屬,版權(quán)保護(hù)均建立在存在人類作者的前提之上。生成式人工智能盡管已經(jīng)獲得強(qiáng)大的自主學(xué)習(xí)能力,具備高度智能化特征,但其本質(zhì)上并非自然人,因而無法成為符合《著作權(quán)法》規(guī)定的權(quán)利主體。

    不僅生成式人工智能主體資格在我國(guó)存在實(shí)在法方面的否定,從世界范圍來看,作者的自然人屬性也已經(jīng)成為普遍共識(shí)?!侗Wo(hù)文學(xué)和藝術(shù)作品伯爾尼公約》(以下簡(jiǎn)稱《伯爾尼公約》)第六條之二規(guī)定了只有自然人才可能享有的作者精神權(quán)利,由此可以推斷出《伯爾尼公約》對(duì)于作者自然人屬性的默示性規(guī)定。遵循《伯爾尼公約》,作者需要是“人”,這是各國(guó)版權(quán)法中一個(gè)長(zhǎng)期的假設(shè)。在英美法系方面,澳大利亞法院明確提出,對(duì)于原創(chuàng)文學(xué)作品,必須確定聲稱保護(hù)的具體作品以及這些作品的人類作者。德國(guó)作為大陸法系的代表性國(guó)家,根據(jù)其《著作權(quán)法》第7條的規(guī)定,著作權(quán)的主體必須是賦予作品以獨(dú)創(chuàng)性的人。因此,從國(guó)內(nèi)外版權(quán)制度規(guī)范來看,作者的自然人屬性并不存在爭(zhēng)議。生成式人工智能不能被賦予法律主體地位,否則將導(dǎo)致與既有版權(quán)制度規(guī)范的現(xiàn)實(shí)沖突。

    (二)民事基礎(chǔ)理論下生成式人工智能主體資格的否定

    基于法律制度的現(xiàn)實(shí)判斷,生成式人工智能主體在既有版權(quán)制度下不能成為適格權(quán)利主體。然而,隨著生成式人工智能的廣泛應(yīng)用,是否有必要將此類非人形態(tài)擬制為一種單獨(dú)的權(quán)利主體類型,使其能夠被納入人工智能時(shí)代的版權(quán)制度?歐盟提出確立人工智能的“電子人格”法律地位,將其擬制為新型權(quán)利主體。沙特阿拉伯也曾授予“索非亞”智能機(jī)器人以公民資格。然而,從民事基礎(chǔ)理論出發(fā),生成式人工智能的法律主體擬制有悖于傳統(tǒng)民事法理與價(jià)值取向,不可能具備版權(quán)主體資格。

    一方面,生成式人工智能不具有人格屬性,不符合將非人形態(tài)擬制為法律主體的傳統(tǒng)法理。盡管民法存在將法人這一非人形態(tài)擬制為法律主體的先例,但生成式人工智能與具備團(tuán)體人格屬性的法人存在本質(zhì)區(qū)別。法人作為一種無生命團(tuán)體,其人格的形成源于自然人共同意志的聯(lián)合。自然人的個(gè)人意志通過法人制度下的法定程序被轉(zhuǎn)化為一種共同意志。在共同意志的決定下,法人可以對(duì)外實(shí)施具體的法律行為。然而,無論是生成式人工智能整體本身還是其系統(tǒng)內(nèi)部的算法模塊單元,都不具備獨(dú)立意識(shí)。生成式人工智能所謂的選擇與判斷行為,無非是遵循特定算法模型自主運(yùn)行的結(jié)果,依賴于人類指令的輸入與算法模型的預(yù)先搭建。

    另一方面,生成式人工智能作為由計(jì)算機(jī)程序開發(fā)者創(chuàng)造出的對(duì)象,應(yīng)當(dāng)嚴(yán)格遵循民事基礎(chǔ)理念下的“人一物”二元對(duì)立論。追溯至羅馬法時(shí)代的民法最基本理念,市民社會(huì)的基本構(gòu)成被嚴(yán)格二元?jiǎng)澐譃槿伺c物。除了人之外的所有物質(zhì)構(gòu)成,都屬于物的范疇。生成式人工智能是由人類開發(fā)設(shè)計(jì)出來的。計(jì)算機(jī)程序開發(fā)者通過算法架構(gòu)模型的搭建、超大型數(shù)據(jù)集合的訓(xùn)練,使得生成式人工智能具備生成創(chuàng)造性內(nèi)容的技術(shù)功能。由于人類智力勞動(dòng)的投入,生成式人工智能本身構(gòu)成《著作權(quán)法》第三條的“計(jì)算機(jī)程序”作品,屬于可以被人類支配與使用的客體范疇。如果僅僅因?yàn)樯墒饺斯ぶ悄苣軌驅(qū)崿F(xiàn)“創(chuàng)作”行為而將其擬制為法律主體,將有悖于主客體不可互換的基本理念,導(dǎo)致人與物二者之間界限的混淆,造成對(duì)民法最根本基礎(chǔ)理念的毀滅性打擊。

    三、生成式人工智能創(chuàng)作內(nèi)容的法律屬性及其保護(hù)問題

    生成式人工智能不具有版權(quán)主體資格,但并不意味著其創(chuàng)作內(nèi)容當(dāng)然不構(gòu)成作品,不可以獲得版權(quán)保護(hù)。主體與客體應(yīng)當(dāng)是兩個(gè)相互平行的問題,各自遵循獨(dú)立的評(píng)判因素與判斷標(biāo)準(zhǔn)。以生成式人工智能不具有主體資格直接否定對(duì)其創(chuàng)作內(nèi)容的版權(quán)保護(hù),將會(huì)向公共領(lǐng)域釋放大量具有作品外觀的創(chuàng)造性內(nèi)容,不僅會(huì)在公共領(lǐng)域嚴(yán)重泛濫,而且導(dǎo)致版權(quán)制度作為一種滿足投資者預(yù)期回報(bào)的激勵(lì)機(jī)制的失靈。具體而言,生成式人工智能創(chuàng)作內(nèi)容的版權(quán)保護(hù)問題,需要以分析相關(guān)創(chuàng)作內(nèi)容具有可版權(quán)性為前提。在生成式人工智能創(chuàng)作內(nèi)容構(gòu)成受版權(quán)保護(hù)作品的基礎(chǔ)之上,我們應(yīng)進(jìn)一步分析其后續(xù)的版權(quán)歸屬問題,從而確定作品之上利益的最佳分配方式、促進(jìn)發(fā)揮作品的經(jīng)濟(jì)效益。

    (一)生成式人工智能創(chuàng)作內(nèi)容的可版權(quán)性

    《著作權(quán)法》第三條將作品定義為“文學(xué)、藝術(shù)和科學(xué)領(lǐng)域內(nèi)具有獨(dú)創(chuàng)性并能以一定形式表現(xiàn)的智力成果”,提出包括“特定領(lǐng)域”“以一定形式表現(xiàn)”在內(nèi)的作品形式要件以及“獨(dú)創(chuàng)性”實(shí)質(zhì)要件。生成式人工智能創(chuàng)作內(nèi)容屬于文學(xué)、藝術(shù)領(lǐng)域,借助文字、圖像、視頻等形式可被人類感知與欣賞。通常而言,相關(guān)創(chuàng)作內(nèi)容符合作品的形式要件。因此,生成式人工智能創(chuàng)作內(nèi)容的可版權(quán)性問題集中于“獨(dú)創(chuàng)性”這一作品的實(shí)質(zhì)要件。以下將從兩方面探討生成式人工智能創(chuàng)作內(nèi)容的可版權(quán)性:一是從生成式人工智能創(chuàng)作內(nèi)容的生產(chǎn)機(jī)制來看,生成式人工智能創(chuàng)作內(nèi)容與人類創(chuàng)造智力成果共享內(nèi)在邏輯;二是生成式人工智能創(chuàng)作內(nèi)容具有與人類作品一致的外在表達(dá)形式。

    1.基于內(nèi)在生產(chǎn)機(jī)制的可版權(quán)性

    生成式人工智能并非對(duì)人類智力的簡(jiǎn)單執(zhí)行,而是能夠模擬與再現(xiàn)人類作者的創(chuàng)作思維。根據(jù)世界知識(shí)產(chǎn)權(quán)組織的定義,“人工智能生成的”即“人工智能自主創(chuàng)造的”內(nèi)容,是指“在沒有人類干預(yù)的情況下由人工智能生成的內(nèi)容”。與“人工智能輔助完成的”內(nèi)容加以區(qū)分,后者需要大量人類干預(yù)和引導(dǎo)。因此,與決策式人工智能不同,此前的決策式人工智能只能根據(jù)程序開發(fā)者設(shè)計(jì)的既定算法,以海量數(shù)據(jù)為對(duì)象執(zhí)行使用者輸入的命令,最終在可預(yù)測(cè)范圍內(nèi)輸出自動(dòng)化決策結(jié)果;生成式人工智能則能夠從海量數(shù)據(jù)中自主構(gòu)建算法模型,獨(dú)立抓取相關(guān)素材以完成創(chuàng)造性內(nèi)容的輸出。

    從生成式人工智能創(chuàng)作內(nèi)容的生產(chǎn)機(jī)制來看,深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)作為支撐生成式人工智能的底層技術(shù),模擬與再現(xiàn)了人類創(chuàng)作的基本思維。生成式人工智能通過對(duì)海量數(shù)據(jù)的識(shí)別、處理與分析,基于深度學(xué)習(xí)自主歸納數(shù)據(jù)背后的規(guī)律與要素,不斷更新與進(jìn)化自身算法模型,最終生成脫離既定算法預(yù)設(shè)的創(chuàng)造性內(nèi)容。上述“模擬大腦”的過程,與人類作者學(xué)習(xí)、構(gòu)思并完成創(chuàng)作的思維過程沒有本質(zhì)差異。為執(zhí)行相同功能而開發(fā)的不同生成式人工智能,由于內(nèi)部算法架構(gòu)的不同,能夠生成具有個(gè)性的創(chuàng)造性內(nèi)容。即使是特定的生成式人工智能,在其每一次運(yùn)行中也都會(huì)面臨數(shù)據(jù)的自主選擇與分析,進(jìn)而生成差異性結(jié)果。⑿以ChatGPT為例,由于神經(jīng)網(wǎng)絡(luò)技術(shù)的隨機(jī)性,ChatGPT能夠自主判斷溝通主體的真實(shí)需求,根據(jù)對(duì)話指令的上下文邏輯以及用戶的即時(shí)反饋,生成不同的文字內(nèi)容。因此,生成式人工智能創(chuàng)作內(nèi)容具有相當(dāng)大的選擇與判斷空間,不同的創(chuàng)作內(nèi)容呈現(xiàn)高度的隨機(jī)性與自主性。生成式人工智能借助其運(yùn)行機(jī)制,再現(xiàn)了人類作者的創(chuàng)作過程,最終創(chuàng)作出一種類人的創(chuàng)造性智力成果。

    版權(quán)制度不保護(hù)“猴子自拍”“海豚表演”等非人主體創(chuàng)作的智力成果,成為質(zhì)疑生成式人工智能創(chuàng)作內(nèi)容獲得版權(quán)保護(hù)的主要依據(jù)之一。然而,忽視生成式人工智能內(nèi)在生產(chǎn)機(jī)制而否定其創(chuàng)作內(nèi)容可版權(quán)性的觀點(diǎn)不足采納。首先,動(dòng)物“創(chuàng)作”成果缺乏人類智力的投入,而生成式人工智能創(chuàng)作內(nèi)容卻與人類智力活動(dòng)密切相關(guān)。生成式人工智能的算法開發(fā)、機(jī)器學(xué)習(xí)以及內(nèi)容生成等各階段,都離不開自然人的參與。生成式人工智能的技術(shù)核心即人類反饋(RLHF)方法,本質(zhì)上所體現(xiàn)的依然是人類價(jià)值觀的輸出。人類基于自身偏好設(shè)置期望目標(biāo)并評(píng)判算法輸出結(jié)果,決定著算法模型的修正與進(jìn)化方向。其次,版權(quán)制度無法激勵(lì)動(dòng)物以及機(jī)器,但不同于動(dòng)物“作品”,激勵(lì)機(jī)器的開發(fā)與投資者顯得尤為重要。至少就目前而言,生成式人工智能創(chuàng)作內(nèi)容的生成需要人類開發(fā)、改進(jìn)、分配和使用人工智能,并傳播由此技術(shù)生成的創(chuàng)作內(nèi)容。版權(quán)保護(hù)的激勵(lì)可以在這些人類活動(dòng)中發(fā)揮其應(yīng)有的作用。⒂不同于版權(quán)制度在激勵(lì)動(dòng)物產(chǎn)出更多“作品”方面的無效,生成式人工智能背后龐大的人類主體可以獲得版權(quán)的正向激勵(lì),鼓勵(lì)有利知識(shí)存量增長(zhǎng)的原創(chuàng)性內(nèi)容的創(chuàng)作。

    2.基于外在表達(dá)形式的可版權(quán)性

    版權(quán)制度對(duì)作品概念存在主觀與客觀兩個(gè)方面的理解。主觀判斷標(biāo)準(zhǔn)以作者個(gè)性為核心,認(rèn)為作品應(yīng)當(dāng)體現(xiàn)作者思想、情感、精神等主觀因素??陀^判斷標(biāo)準(zhǔn)則強(qiáng)調(diào)作品的固有屬性,只要作品的表達(dá)在客觀上不同于既有作品,就認(rèn)為作品具有獨(dú)創(chuàng)性。對(duì)于由人類作者創(chuàng)作的作品而言,無論是遵循對(duì)獨(dú)創(chuàng)性概念的客觀或是主觀理解,并不會(huì)影響作品的版權(quán)保護(hù)基礎(chǔ)。二者之間能夠進(jìn)行相互補(bǔ)充與印證。然而,在分析生成式人工智能創(chuàng)作內(nèi)容的可版權(quán)性問題時(shí),理論界首次意識(shí)到其創(chuàng)作背后沒有人類。對(duì)此,版權(quán)制度有必要重新審視對(duì)作品以及獨(dú)創(chuàng)性概念的理解,明確一種合理有效的作品判斷標(biāo)準(zhǔn),以此為框架分析生成式人工智能創(chuàng)作內(nèi)容的可版權(quán)性。

    受到強(qiáng)調(diào)文本意義的“結(jié)構(gòu)主義”、去中心化的后現(xiàn)代主義思潮、以讀者為中心的“受眾反應(yīng)論”等基礎(chǔ)理論發(fā)展的影響,客觀判斷標(biāo)準(zhǔn)正在逐步取代主觀判斷標(biāo)準(zhǔn),成為理解作品獨(dú)創(chuàng)性概念的主要方式。根據(jù)世界知識(shí)產(chǎn)權(quán)組織的權(quán)威解釋,獨(dú)創(chuàng)性是指“作品是作者自己的創(chuàng)作,完全不是或基本不是從另一作品抄襲來的”。上述對(duì)獨(dú)創(chuàng)性概念的理解遵循客觀主義理念,從外在表達(dá)角度來評(píng)判作者的貢獻(xiàn),而不是調(diào)查作者的內(nèi)心精神活動(dòng)。在客觀主義理念下,計(jì)算機(jī)軟件、模型作品、數(shù)據(jù)庫等具備功能性作品可以成為版權(quán)適格客體,盡管這些作品實(shí)際上并不展現(xiàn)作者個(gè)性因素。事實(shí)上,作品是創(chuàng)作者的創(chuàng)作成果,而創(chuàng)作行為本身是一種事實(shí)行為,是一種客觀存在的事實(shí),無關(guān)創(chuàng)作者的主觀心態(tài)或意識(shí)。正如版權(quán)制度并不否定由兒童隨手涂鴉形成的繪畫構(gòu)成作品的可能性。⒄因此,獨(dú)創(chuàng)性是一種客觀概念,旨在保護(hù)作品本身所具有的創(chuàng)造力,而不是創(chuàng)造力的具體來源。

    在生成式人工智能領(lǐng)域構(gòu)建作品客觀判斷標(biāo)準(zhǔn)框架,具有更重要的現(xiàn)實(shí)意義。一方面,創(chuàng)作者內(nèi)心的思想情感和心理活動(dòng)無從把握,能被感知到的只有作品客觀的外在表達(dá)。作品的主觀因素難以衡量,創(chuàng)作者的意圖大多時(shí)候是隱藏且未知的。⒅無論是立法還是司法,都應(yīng)當(dāng)免除法官對(duì)主觀因素的查明義務(wù),防止法律陷入美學(xué)分析風(fēng)險(xiǎn)。美國(guó)弗蘭克法官曾舉例,復(fù)制者因?yàn)橐暳Σ缓谩⒓∪馊毕莼蚶茁曮@嚇而導(dǎo)致畫作偏離原有作品,產(chǎn)生足夠明顯的差異。該復(fù)制者可以將這種差異視為原創(chuàng)作品并據(jù)此獲得版權(quán)。⒆另一方面,版權(quán)制度執(zhí)行主觀判斷標(biāo)準(zhǔn),識(shí)別作品中作者個(gè)性投入的過程將導(dǎo)致巨大成本。尤其隨著生成式人工智能成為不可或缺的內(nèi)容生產(chǎn)方式,市場(chǎng)中充斥著由人與非人主體創(chuàng)作的作品。主體的故意隱瞞與署名標(biāo)注不充分,都將導(dǎo)致分類成本的激增。相比之下,采取獨(dú)創(chuàng)性客觀判斷標(biāo)準(zhǔn),是一種更行之有效的作品判定方式。

    版權(quán)制度采用客觀的獨(dú)創(chuàng)性概念,而生成式人工智能可以很容易地滿足作品構(gòu)成要件。一旦拋棄對(duì)作者個(gè)性等主觀因素的考量,由于生成式人工智能進(jìn)行了對(duì)數(shù)據(jù)素材的自主選擇和加工,生成式人工智能創(chuàng)作內(nèi)容不構(gòu)成對(duì)既有作品的抄襲、剽竊或篡改,當(dāng)然和原創(chuàng)性人類作品一樣具有可版權(quán)性。實(shí)踐中越來越多的事例表明,生成式人工智能創(chuàng)造內(nèi)容與人類作品在外觀上并無明顯差異。據(jù)有關(guān)新聞報(bào)道,美國(guó)近89%的大學(xué)生使用ChatGPT撰寫論文,甚至一舉拿下課程最高分;以色列總統(tǒng)在近兩萬名觀眾面前發(fā)表由ChatGPT自動(dòng)撰寫的演講稿?;谌斯ぶ悄軇?chuàng)作內(nèi)容所具有的版權(quán)客體外觀表征,已經(jīng)有國(guó)家認(rèn)可人工智能創(chuàng)作內(nèi)容的可版權(quán)性。例如,日本在人工智能創(chuàng)作內(nèi)容的版權(quán)保護(hù)上提出“相同對(duì)待”原則。⒇除可被明顯區(qū)分為人工智能創(chuàng)作內(nèi)容的情形,版權(quán)制度對(duì)人工智能創(chuàng)作內(nèi)容與人類作品予以相同對(duì)待,共同授予版權(quán)保護(hù)。

    (二)生成式人工智能創(chuàng)作內(nèi)容的版權(quán)歸屬

    生成式人工智能尚不具備版權(quán)主體資格,但其創(chuàng)作內(nèi)容符合可版權(quán)性要求。為了構(gòu)建以“作品一作者”構(gòu)造為核心的完整法律關(guān)系,版權(quán)制度需要確定生成式人工智能創(chuàng)作內(nèi)容之上的版權(quán)歸屬主體。圍繞生成式人工智能創(chuàng)作內(nèi)容的版權(quán)歸屬,理論與實(shí)務(wù)界主要提出以下四種解決路徑:一是“開發(fā)者說”,即版權(quán)歸屬創(chuàng)造生成式人工智能程序的算法開發(fā)者。二是“數(shù)據(jù)提供者說”。生成式人工智能創(chuàng)作內(nèi)容依賴海量數(shù)據(jù)的“喂養(yǎng)”,數(shù)據(jù)提供者享有版權(quán)保護(hù)利益。三是“使用者說”,即由最終用戶行使相關(guān)創(chuàng)作內(nèi)容的版權(quán)。四是“投資者說”。生成式人工智能作為大型公司或研究團(tuán)隊(duì)推出的創(chuàng)新性產(chǎn)品或服務(wù),應(yīng)當(dāng)由相關(guān)群體組織擁有創(chuàng)作內(nèi)容的產(chǎn)權(quán)。

    根據(jù)版權(quán)制度的基本原理,版權(quán)應(yīng)當(dāng)歸屬對(duì)作品作出實(shí)質(zhì)性貢獻(xiàn)的人。例如,英國(guó)版權(quán)法將對(duì)計(jì)算機(jī)創(chuàng)作“完成必要安排的人”視為作者。分析生成式人工智能的技術(shù)原理,由于生成式人工智能創(chuàng)作內(nèi)容以使用者訪問系統(tǒng)并輸入指令為觸發(fā)條件,使用者為機(jī)器創(chuàng)作作出必要的安排。缺少使用者的操作,機(jī)器創(chuàng)作活動(dòng)根本不會(huì)發(fā)生。從創(chuàng)作內(nèi)容來看,使用者實(shí)質(zhì)性地影響最終創(chuàng)作內(nèi)容的生成。雖然生成式人工智能創(chuàng)作內(nèi)容具有很強(qiáng)的自主性,但輸出內(nèi)容的主題類型仍然受到使用者給定指令范圍的限制,表達(dá)特征、語料風(fēng)格也受到使用者的直接控制。因此,創(chuàng)作內(nèi)容的觸發(fā)條件、主題類型和語料風(fēng)格的設(shè)置均由使用者完成,使用者作出更為直接的創(chuàng)作貢獻(xiàn)。實(shí)踐中,版權(quán)歸屬的“使用者說”已經(jīng)得到不少智能軟件的推廣。根據(jù)Open AI公司頒布的《共享與發(fā)布政策》文件顯示,ChatGPT要求“發(fā)布內(nèi)容的署名為用戶個(gè)人姓名或公司名稱”,并建議在合理位置標(biāo)注“在生成文字內(nèi)容時(shí),作者已經(jīng)根據(jù)自己的喜好審查、編輯和修改表述,并對(duì)公布內(nèi)容承擔(dān)最終責(zé)任”。

    在構(gòu)建以使用者為主導(dǎo)版權(quán)歸屬規(guī)則的同時(shí),也不應(yīng)當(dāng)忽視生成式人工智能可能涉及的其他利益主體。以投資者為例,生成式人工智能的研發(fā)涉及算法設(shè)計(jì)、數(shù)據(jù)標(biāo)注、模型訓(xùn)練、修正校驗(yàn)等技術(shù)環(huán)節(jié),需要大量資金與昂貴設(shè)備的支持。投資者需要針對(duì)復(fù)雜的技術(shù)環(huán)節(jié)進(jìn)行人員與物資上的統(tǒng)籌安排,并最終承擔(dān)可能的研發(fā)失敗風(fēng)險(xiǎn)。因此,投資者參與也是生成式人工智能創(chuàng)作內(nèi)容的關(guān)鍵因素。版權(quán)制度需要以開放的規(guī)則設(shè)計(jì)容納對(duì)投資者利益的保護(hù)。鑒于此,生成式人工智能創(chuàng)作內(nèi)容的版權(quán)歸屬應(yīng)當(dāng)遵循約定優(yōu)先原則,允許圍繞生成式人工智能的相關(guān)主體以用戶條款、委托合同、合作協(xié)議等方式就版權(quán)歸屬等權(quán)益分配事項(xiàng)進(jìn)行事先約定。

    四、生成式人工智能的版權(quán)侵權(quán)責(zé)任判定

    生成式人工智能依靠文本和數(shù)據(jù)挖掘(TDM)技術(shù)完成機(jī)器學(xué)習(xí)過程。為生成符合人類語言邏輯和表達(dá)習(xí)慣的文字內(nèi)容,生成式人工智能需要將海量文字作品以可被機(jī)器識(shí)別的數(shù)據(jù)形式錄入算法系統(tǒng),以此形成龐大的數(shù)字化作品數(shù)據(jù)庫供生成式人工智能進(jìn)行下一步的數(shù)據(jù)標(biāo)注與模型訓(xùn)練。據(jù)不完全統(tǒng)計(jì),ChatGPT擁有相當(dāng)龐大的專門語料庫,其訓(xùn)練集涉及超過兩千萬的對(duì)話記錄,涵蓋英文、中文等多種語言。微軟公司開發(fā)的AI“小冰”的數(shù)據(jù)庫涵蓋自1920年代以來超過500位中國(guó)詩人的所有作品。生成式人工智能以獲取和利用既有作品為基礎(chǔ),必然涉及潛在的版權(quán)侵權(quán)風(fēng)險(xiǎn)。生成式人工智能可能構(gòu)成對(duì)何種著作權(quán)的侵害?如果使用作品行為構(gòu)成版權(quán)侵權(quán),應(yīng)當(dāng)由誰承擔(dān)相關(guān)的侵權(quán)責(zé)任?傳統(tǒng)版權(quán)領(lǐng)域的合理使用等版權(quán)侵權(quán)豁免是否可以適用于生成式人工智能?這些都是人工智能時(shí)代版權(quán)制度亟待解決的問題。

    (一)生成式人工智能的版權(quán)侵權(quán)認(rèn)定

    強(qiáng)化機(jī)器學(xué)習(xí)能力離不開對(duì)既有作品的大規(guī)模獲取與利用,其中的作品使用方式多元,可能侵害不同的權(quán)利內(nèi)容:一是復(fù)制權(quán)。生成式人工智能需要將受版權(quán)保護(hù)的作品轉(zhuǎn)換并制作為一份或者多份數(shù)字格式文件,存儲(chǔ)并形成數(shù)據(jù)作品庫,以便后續(xù)的文本和數(shù)據(jù)挖掘。這種數(shù)字化作品過程涉及對(duì)原作者復(fù)制權(quán)的侵犯。二是改編權(quán)。盡管生成式人工智能可能創(chuàng)作出具有獨(dú)創(chuàng)性的新作品,但如果該作品是在保留他人既有作品的基礎(chǔ)上進(jìn)行的演繹,仍然屬于侵害改編權(quán)的行為。三是匯編權(quán)。如果生成式人工智能經(jīng)過自主選擇或編排,匯集既有作品或者作品的片段而形成新作品,將會(huì)侵害不同作者的匯編權(quán)。四是信息網(wǎng)絡(luò)傳播權(quán)。通常而言,生成式人工智能的“機(jī)器學(xué)習(xí)”與“模型創(chuàng)建”位于智能系統(tǒng)內(nèi)部層面,不與公眾發(fā)生直接接觸;然而,隨著信息傳輸、大數(shù)據(jù)等計(jì)算機(jī)技術(shù)的廣泛應(yīng)用,數(shù)據(jù)集合容易在互聯(lián)網(wǎng)領(lǐng)域得到公開,使得公眾在其選定的時(shí)間和地點(diǎn)獲得相關(guān)數(shù)字化作品,相關(guān)情形可能侵犯原作者的信息網(wǎng)絡(luò)傳播權(quán)。

    關(guān)于生成式人工智能的侵權(quán)責(zé)任承擔(dān),應(yīng)當(dāng)結(jié)合具體侵權(quán)行為的發(fā)生原因加以判斷。如果生成式人工智能的原始算法架構(gòu)存在缺陷,例如,算法只是針對(duì)既有作品執(zhí)行同義詞或語序替換,這種“洗稿器”本身即構(gòu)成版權(quán)侵權(quán)工具,應(yīng)當(dāng)由生成式人工智能開發(fā)者承擔(dān)最終的侵權(quán)責(zé)任。如果是因?yàn)橛脩舻牟划?dāng)使用行為導(dǎo)致生成式人工智能創(chuàng)作出侵權(quán)作品,相關(guān)輸出內(nèi)容超出生成式人工智能開發(fā)者的控制和預(yù)期,那么該用戶應(yīng)當(dāng)作為直接責(zé)任人承擔(dān)相應(yīng)的版權(quán)侵權(quán)責(zé)任。

    (二)生成式人工智能的版權(quán)侵權(quán)豁免

    生成式人工智能獲取與利用受版權(quán)保護(hù)作品構(gòu)成轉(zhuǎn)換性使用,可以援引合理使用作為侵權(quán)豁免。法院在“谷歌案”中認(rèn)為,以實(shí)現(xiàn)圖書信息檢索服務(wù)功能為目的的片段式提供作品的行為構(gòu)成合理使用。這種轉(zhuǎn)換性使用行為旨在實(shí)現(xiàn)新的功能或創(chuàng)造新的價(jià)值,由于沒有再現(xiàn)作品本身的文學(xué)藝術(shù)價(jià)值或?qū)崿F(xiàn)其內(nèi)在的表意功能,不會(huì)對(duì)作者對(duì)其作品的正常使用造成影響,亦不會(huì)不合理地?fù)p害作者的合法利益。因此,如果生成式人工智能以實(shí)現(xiàn)機(jī)器學(xué)習(xí)功能為目的而獲取和利用作品,由于沒有對(duì)相關(guān)作品市場(chǎng)價(jià)值造成實(shí)質(zhì)性影響,將獲得合理使用的版權(quán)侵權(quán)豁免。隨著深度學(xué)習(xí)、大數(shù)據(jù)技術(shù)的成熟與完善,生成式人工智能對(duì)學(xué)習(xí)素材提出更高的數(shù)量要求。立法界已經(jīng)意識(shí)到在合理使用方面增設(shè)機(jī)器學(xué)習(xí)例外的必要性。如歐盟在《數(shù)字化單一市場(chǎng)版權(quán)指令》序言倡導(dǎo)“采取措施解決有關(guān)文本和數(shù)據(jù)挖掘的法律不確定性”;并通過第4條制定“文本和數(shù)據(jù)挖掘的例外或限制”,賦予相關(guān)主體“為文本和數(shù)據(jù)挖掘目的而對(duì)合法可訪問的作品和其他客體進(jìn)行復(fù)制和摘取的權(quán)利例外或限制”。為此,我國(guó)也需要盡快構(gòu)建生成式人工智能的版權(quán)侵權(quán)豁免制度,準(zhǔn)確劃分生成式人工智能獲取和利用作品的合法邊界,從而推動(dòng)人工智能創(chuàng)新的數(shù)據(jù)流動(dòng)與共享,助力人工智能產(chǎn)業(yè)的長(zhǎng)足發(fā)展。

    (作者馮曉青系中國(guó)政法大學(xué)教授、博士研究生導(dǎo)師;沈韻系中國(guó)政法大學(xué)知識(shí)產(chǎn)權(quán)法專業(yè)博士研究生)

    猜你喜歡
    生成式人工智能合理使用
    生成式人工智能的教育啟示:讓每個(gè)人成為他自己
    挑戰(zhàn)·融合·變革:“ChatGPT與未來教育”會(huì)議綜述
    生成式人工智能時(shí)代的政治傳播走向
    黨政研究(2023年3期)2023-05-29 01:10:39
    生成式人工智能重塑教育及教師應(yīng)對(duì)之道
    人機(jī)共生時(shí)代國(guó)際傳播的理念升維與自主敘事體系構(gòu)建
    生成式人工智能的教育應(yīng)用與展望
    信息自由與版權(quán)法的變革
    室外藝術(shù)品原作者署名權(quán)的行使規(guī)則案例分析
    資治文摘(2016年7期)2016-11-23 01:28:38
    淺析如何正確使用多媒體進(jìn)行高中政治教學(xué)
    南北橋(2016年10期)2016-11-10 17:24:59
    “非遺”圖像——淺談非物質(zhì)文化遺產(chǎn)的圖片拍攝
    国内毛片毛片毛片毛片毛片| 极品少妇高潮喷水抽搐| 男女高潮啪啪啪动态图| 国产av又大| 亚洲人成电影免费在线| xxxhd国产人妻xxx| 午夜日韩欧美国产| 一级a爱视频在线免费观看| 国产精品99久久99久久久不卡| 久热爱精品视频在线9| 国产野战对白在线观看| 久久久国产精品麻豆| 欧美精品一区二区免费开放| av网站在线播放免费| 精品国产国语对白av| 无限看片的www在线观看| 少妇粗大呻吟视频| 啦啦啦免费观看视频1| 一个人免费在线观看的高清视频 | 久久久久精品国产欧美久久久 | 大香蕉久久网| 人成视频在线观看免费观看| 夜夜夜夜夜久久久久| 丁香六月欧美| 亚洲熟女毛片儿| 国产精品久久久久久精品古装| 天天躁夜夜躁狠狠躁躁| 少妇精品久久久久久久| 欧美成狂野欧美在线观看| 最近最新中文字幕大全免费视频| 亚洲性夜色夜夜综合| 人人妻人人澡人人爽人人夜夜| 国产在线免费精品| 国产三级黄色录像| 俄罗斯特黄特色一大片| 亚洲性夜色夜夜综合| 亚洲精品中文字幕一二三四区 | 国产精品自产拍在线观看55亚洲 | 精品一品国产午夜福利视频| 成人av一区二区三区在线看 | 国产精品 国内视频| 亚洲人成电影观看| 精品国产乱码久久久久久小说| 亚洲天堂av无毛| 汤姆久久久久久久影院中文字幕| 亚洲av国产av综合av卡| 嫁个100分男人电影在线观看| 大香蕉久久成人网| 波多野结衣一区麻豆| 中文字幕人妻熟女乱码| 99久久精品国产亚洲精品| 中文字幕av电影在线播放| 妹子高潮喷水视频| 国产精品九九99| 久9热在线精品视频| 国产一区二区 视频在线| 久热爱精品视频在线9| 欧美黑人精品巨大| 日韩人妻精品一区2区三区| 亚洲avbb在线观看| 又紧又爽又黄一区二区| 久久中文看片网| 亚洲精品日韩在线中文字幕| 久久久久久久久免费视频了| 亚洲三区欧美一区| 精品少妇黑人巨大在线播放| 大香蕉久久成人网| 99国产精品99久久久久| 少妇精品久久久久久久| 亚洲精品自拍成人| 国产精品一区二区免费欧美 | 别揉我奶头~嗯~啊~动态视频 | 欧美激情高清一区二区三区| 亚洲精品国产一区二区精华液| 国产老妇伦熟女老妇高清| 亚洲第一av免费看| 亚洲一区二区三区欧美精品| xxxhd国产人妻xxx| 精品人妻1区二区| 黄色视频,在线免费观看| 精品久久久久久电影网| 成年人午夜在线观看视频| 欧美97在线视频| 亚洲七黄色美女视频| 久久久久视频综合| 精品少妇一区二区三区视频日本电影| 日韩欧美一区二区三区在线观看 | 成年动漫av网址| 人成视频在线观看免费观看| 中文字幕最新亚洲高清| 亚洲中文字幕日韩| 国产免费现黄频在线看| 人人妻人人澡人人看| 黄色毛片三级朝国网站| 亚洲伊人色综图| 亚洲人成77777在线视频| 免费不卡黄色视频| 亚洲欧美清纯卡通| 啦啦啦免费观看视频1| 在线看a的网站| 熟女少妇亚洲综合色aaa.| 亚洲午夜精品一区,二区,三区| 青春草视频在线免费观看| 日日夜夜操网爽| 老司机在亚洲福利影院| 亚洲第一青青草原| 国产国语露脸激情在线看| 国产免费一区二区三区四区乱码| 亚洲国产毛片av蜜桃av| 一级,二级,三级黄色视频| 国产片内射在线| 建设人人有责人人尽责人人享有的| 亚洲第一青青草原| 极品人妻少妇av视频| 在线观看舔阴道视频| 悠悠久久av| 欧美日本中文国产一区发布| e午夜精品久久久久久久| 国产成+人综合+亚洲专区| 少妇精品久久久久久久| 免费高清在线观看视频在线观看| 久久青草综合色| 国产欧美日韩一区二区三区在线| 90打野战视频偷拍视频| 可以免费在线观看a视频的电影网站| 老司机影院成人| 国产免费av片在线观看野外av| 丝袜人妻中文字幕| 日本av手机在线免费观看| 国产精品免费视频内射| 麻豆乱淫一区二区| 国产日韩一区二区三区精品不卡| av在线播放精品| 97精品久久久久久久久久精品| 欧美日韩亚洲高清精品| 久久久久久久大尺度免费视频| 伊人久久大香线蕉亚洲五| 一区福利在线观看| 大香蕉久久网| 久久久久国内视频| 两人在一起打扑克的视频| 9色porny在线观看| 欧美激情久久久久久爽电影 | 午夜久久久在线观看| 亚洲欧美一区二区三区久久| 成人av一区二区三区在线看 | 久久ye,这里只有精品| 午夜91福利影院| 国产一区有黄有色的免费视频| 高清黄色对白视频在线免费看| svipshipincom国产片| 黄色怎么调成土黄色| 精品免费久久久久久久清纯 | 精品久久蜜臀av无| 日韩大片免费观看网站| 国产成人啪精品午夜网站| 99久久99久久久精品蜜桃| 妹子高潮喷水视频| 久热这里只有精品99| 一个人免费在线观看的高清视频 | 国产精品一区二区在线不卡| 午夜福利影视在线免费观看| 久久久久国产精品人妻一区二区| 啦啦啦免费观看视频1| 精品国产乱码久久久久久男人| 别揉我奶头~嗯~啊~动态视频 | 午夜福利在线免费观看网站| 久久ye,这里只有精品| 中文字幕制服av| 中文字幕人妻丝袜制服| 看免费av毛片| 美女中出高潮动态图| 国产黄频视频在线观看| 亚洲精品国产av成人精品| 日韩精品免费视频一区二区三区| 日韩有码中文字幕| 一二三四在线观看免费中文在| 人妻一区二区av| 国产成人一区二区三区免费视频网站| 在线十欧美十亚洲十日本专区| 午夜福利一区二区在线看| 国产熟女午夜一区二区三区| 欧美国产精品va在线观看不卡| 在线永久观看黄色视频| 日韩制服骚丝袜av| 狂野欧美激情性bbbbbb| av有码第一页| 久久久久视频综合| 日韩中文字幕欧美一区二区| 色94色欧美一区二区| 亚洲综合色网址| 国产视频一区二区在线看| 性高湖久久久久久久久免费观看| 正在播放国产对白刺激| 欧美精品高潮呻吟av久久| 18在线观看网站| 久久 成人 亚洲| 亚洲成人免费av在线播放| 18在线观看网站| 亚洲成人手机| 国产91精品成人一区二区三区 | 亚洲成人手机| 亚洲国产精品999| 美女主播在线视频| 欧美性长视频在线观看| 亚洲成av片中文字幕在线观看| 高清黄色对白视频在线免费看| 国产高清videossex| 国产精品1区2区在线观看. | 99国产极品粉嫩在线观看| 亚洲国产欧美一区二区综合| 亚洲 欧美一区二区三区| 国产成人系列免费观看| 久久精品亚洲av国产电影网| 国产精品久久久久久精品电影小说| 精品人妻熟女毛片av久久网站| 日韩制服骚丝袜av| 动漫黄色视频在线观看| 久久精品国产亚洲av高清一级| 中文字幕最新亚洲高清| 啦啦啦免费观看视频1| 欧美成狂野欧美在线观看| 国产成人精品久久二区二区免费| 亚洲av美国av| 久久久久久亚洲精品国产蜜桃av| 欧美 日韩 精品 国产| 肉色欧美久久久久久久蜜桃| 亚洲精品av麻豆狂野| 丝袜在线中文字幕| 肉色欧美久久久久久久蜜桃| 精品少妇久久久久久888优播| 91成人精品电影| a在线观看视频网站| 欧美日韩国产mv在线观看视频| 91成人精品电影| 99国产精品一区二区蜜桃av | 香蕉国产在线看| 亚洲avbb在线观看| 91精品伊人久久大香线蕉| 大片电影免费在线观看免费| 亚洲欧美清纯卡通| 久久人人97超碰香蕉20202| kizo精华| 亚洲av国产av综合av卡| 国产成人啪精品午夜网站| 一本久久精品| 国产成人系列免费观看| 美女脱内裤让男人舔精品视频| 操美女的视频在线观看| 亚洲自偷自拍图片 自拍| 丝袜喷水一区| 免费女性裸体啪啪无遮挡网站| 一本色道久久久久久精品综合| 天天躁日日躁夜夜躁夜夜| www.自偷自拍.com| 90打野战视频偷拍视频| 日韩一卡2卡3卡4卡2021年| 在线观看免费高清a一片| 每晚都被弄得嗷嗷叫到高潮| 亚洲黑人精品在线| 一本综合久久免费| 欧美日本中文国产一区发布| av天堂久久9| 精品亚洲成国产av| 99香蕉大伊视频| 水蜜桃什么品种好| 日本a在线网址| 国产一区二区 视频在线| 欧美精品高潮呻吟av久久| 麻豆国产av国片精品| 久久久久网色| 肉色欧美久久久久久久蜜桃| 9191精品国产免费久久| 欧美激情极品国产一区二区三区| 淫妇啪啪啪对白视频 | 久久免费观看电影| 色老头精品视频在线观看| 午夜福利免费观看在线| 久久久久久久精品精品| 亚洲精品一二三| 日韩中文字幕视频在线看片| 国产野战对白在线观看| 亚洲国产av影院在线观看| 啦啦啦啦在线视频资源| 欧美精品人与动牲交sv欧美| 在线十欧美十亚洲十日本专区| 国产一区二区激情短视频 | 成人免费观看视频高清| 亚洲欧美日韩高清在线视频 | 午夜福利在线观看吧| 人妻人人澡人人爽人人| 色94色欧美一区二区| 久久人人爽av亚洲精品天堂| 久久天堂一区二区三区四区| 自拍欧美九色日韩亚洲蝌蚪91| 日韩欧美国产一区二区入口| 国产精品偷伦视频观看了| 热99国产精品久久久久久7| 成人免费观看视频高清| 一级毛片精品| 十八禁网站免费在线| 免费久久久久久久精品成人欧美视频| 国产日韩欧美亚洲二区| av福利片在线| 国产高清视频在线播放一区 | 狠狠精品人妻久久久久久综合| 久久精品成人免费网站| 亚洲欧美精品综合一区二区三区| 母亲3免费完整高清在线观看| 亚洲欧美一区二区三区久久| 欧美激情极品国产一区二区三区| 久久青草综合色| 欧美老熟妇乱子伦牲交| 国产片内射在线| 精品视频人人做人人爽| 中文精品一卡2卡3卡4更新| av在线app专区| 香蕉国产在线看| 亚洲欧美日韩另类电影网站| 国产成人精品无人区| 免费一级毛片在线播放高清视频 | 最近最新免费中文字幕在线| av不卡在线播放| 亚洲av日韩精品久久久久久密| 国产片内射在线| 美女中出高潮动态图| 一本色道久久久久久精品综合| av线在线观看网站| 亚洲欧美成人综合另类久久久| 欧美亚洲日本最大视频资源| 后天国语完整版免费观看| 久热爱精品视频在线9| 男女下面插进去视频免费观看| av电影中文网址| videosex国产| 王馨瑶露胸无遮挡在线观看| 久久女婷五月综合色啪小说| 亚洲国产欧美网| 岛国毛片在线播放| 久久国产亚洲av麻豆专区| 亚洲国产精品999| 国产片内射在线| 亚洲精品久久成人aⅴ小说| 精品久久蜜臀av无| 美女午夜性视频免费| 各种免费的搞黄视频| 精品亚洲乱码少妇综合久久| 国产精品秋霞免费鲁丝片| 美女视频免费永久观看网站| 亚洲熟女精品中文字幕| 欧美亚洲日本最大视频资源| 久久久国产成人免费| 欧美成人午夜精品| 亚洲激情五月婷婷啪啪| 日韩一区二区三区影片| 亚洲av国产av综合av卡| 亚洲三区欧美一区| 成年人黄色毛片网站| 国产亚洲一区二区精品| 欧美精品一区二区免费开放| 动漫黄色视频在线观看| 91国产中文字幕| 侵犯人妻中文字幕一二三四区| 性色av乱码一区二区三区2| 黑人操中国人逼视频| 国产成人精品在线电影| 天天躁日日躁夜夜躁夜夜| 久久国产精品大桥未久av| 精品高清国产在线一区| 国产av精品麻豆| 9191精品国产免费久久| 亚洲九九香蕉| 又黄又粗又硬又大视频| 叶爱在线成人免费视频播放| 热99国产精品久久久久久7| 国内毛片毛片毛片毛片毛片| av不卡在线播放| 日本a在线网址| 老司机亚洲免费影院| 黄频高清免费视频| 国产精品熟女久久久久浪| 黄频高清免费视频| 美女国产高潮福利片在线看| 美女大奶头黄色视频| 一边摸一边抽搐一进一出视频| 男女免费视频国产| 在线十欧美十亚洲十日本专区| 国产免费福利视频在线观看| 久久久久网色| 午夜福利在线观看吧| 又紧又爽又黄一区二区| 久久九九热精品免费| 脱女人内裤的视频| 免费少妇av软件| 老司机福利观看| 日本欧美视频一区| 欧美中文综合在线视频| 国产精品国产av在线观看| 搡老乐熟女国产| 国产欧美日韩一区二区三 | 欧美av亚洲av综合av国产av| 午夜激情久久久久久久| 欧美变态另类bdsm刘玥| 9色porny在线观看| 岛国毛片在线播放| 搡老熟女国产l中国老女人| 国产亚洲精品久久久久5区| 亚洲va日本ⅴa欧美va伊人久久 | 一本综合久久免费| 永久免费av网站大全| 美女国产高潮福利片在线看| 这个男人来自地球电影免费观看| 亚洲自偷自拍图片 自拍| 久久久水蜜桃国产精品网| 欧美日韩亚洲国产一区二区在线观看 | 9热在线视频观看99| 国产av精品麻豆| 精品国内亚洲2022精品成人 | 日韩有码中文字幕| 在线 av 中文字幕| 人人妻人人澡人人爽人人夜夜| 高潮久久久久久久久久久不卡| 免费在线观看完整版高清| 免费av中文字幕在线| 男女无遮挡免费网站观看| 女人精品久久久久毛片| 纯流量卡能插随身wifi吗| 最近最新免费中文字幕在线| 免费在线观看日本一区| 少妇被粗大的猛进出69影院| 18禁黄网站禁片午夜丰满| 女性被躁到高潮视频| 男女床上黄色一级片免费看| 一本—道久久a久久精品蜜桃钙片| 各种免费的搞黄视频| 999久久久精品免费观看国产| 亚洲欧美一区二区三区黑人| 国精品久久久久久国模美| 精品一品国产午夜福利视频| 菩萨蛮人人尽说江南好唐韦庄| 精品国产超薄肉色丝袜足j| 亚洲七黄色美女视频| 日日夜夜操网爽| kizo精华| 久久久久视频综合| 天天躁夜夜躁狠狠躁躁| 人成视频在线观看免费观看| 午夜日韩欧美国产| 亚洲成av片中文字幕在线观看| √禁漫天堂资源中文www| 精品亚洲成a人片在线观看| av福利片在线| 黄网站色视频无遮挡免费观看| 国产成人精品无人区| 美国免费a级毛片| 五月开心婷婷网| 午夜免费鲁丝| 热99久久久久精品小说推荐| 大码成人一级视频| 新久久久久国产一级毛片| 亚洲人成电影免费在线| 久久久久久免费高清国产稀缺| 最近最新免费中文字幕在线| 亚洲欧美日韩另类电影网站| av福利片在线| 国产精品久久久av美女十八| 国产高清国产精品国产三级| 久久久水蜜桃国产精品网| 欧美日韩国产mv在线观看视频| 天堂中文最新版在线下载| 黄色视频在线播放观看不卡| 日本av免费视频播放| www.自偷自拍.com| 高清av免费在线| 国产欧美日韩一区二区三 | 男女无遮挡免费网站观看| 亚洲av电影在线观看一区二区三区| 精品少妇黑人巨大在线播放| 一区二区三区乱码不卡18| 啪啪无遮挡十八禁网站| 超碰97精品在线观看| 国产麻豆69| 在线观看一区二区三区激情| 国产日韩一区二区三区精品不卡| 色94色欧美一区二区| 在线十欧美十亚洲十日本专区| 这个男人来自地球电影免费观看| 亚洲 国产 在线| 色综合欧美亚洲国产小说| 亚洲成人国产一区在线观看| 大片免费播放器 马上看| 国产福利在线免费观看视频| 超碰97精品在线观看| 少妇人妻久久综合中文| 精品视频人人做人人爽| 色视频在线一区二区三区| 国产一区二区三区在线臀色熟女 | 又大又爽又粗| 18禁观看日本| 久久久国产一区二区| 美女高潮喷水抽搐中文字幕| 99九九在线精品视频| 国产精品 国内视频| 每晚都被弄得嗷嗷叫到高潮| 可以免费在线观看a视频的电影网站| 久久久欧美国产精品| 亚洲色图综合在线观看| 亚洲av日韩在线播放| 热re99久久精品国产66热6| 99久久精品国产亚洲精品| 久久精品国产亚洲av香蕉五月 | 丰满人妻熟妇乱又伦精品不卡| 啦啦啦 在线观看视频| 高清欧美精品videossex| av线在线观看网站| 亚洲人成电影免费在线| 亚洲国产欧美日韩在线播放| 亚洲精品久久久久久婷婷小说| 欧美激情久久久久久爽电影 | 999久久久精品免费观看国产| 国产精品成人在线| 热re99久久精品国产66热6| 国产黄频视频在线观看| 又紧又爽又黄一区二区| 国产精品久久久久久人妻精品电影 | 免费av中文字幕在线| 在线天堂中文资源库| 不卡av一区二区三区| 成人手机av| 在线观看人妻少妇| 一级毛片电影观看| 国产精品.久久久| 亚洲国产精品成人久久小说| 中文欧美无线码| 丝瓜视频免费看黄片| 多毛熟女@视频| 窝窝影院91人妻| 多毛熟女@视频| 欧美精品高潮呻吟av久久| 国产97色在线日韩免费| 新久久久久国产一级毛片| 免费不卡黄色视频| 日本91视频免费播放| 一本色道久久久久久精品综合| 丝袜喷水一区| 亚洲第一欧美日韩一区二区三区 | 久久久久网色| 亚洲av欧美aⅴ国产| 国产精品99久久99久久久不卡| 精品福利永久在线观看| 国产精品99久久99久久久不卡| 男女边摸边吃奶| 婷婷色av中文字幕| 女人精品久久久久毛片| 天天影视国产精品| 高清av免费在线| 黄色a级毛片大全视频| 欧美黑人精品巨大| 欧美大码av| 日本黄色日本黄色录像| 色视频在线一区二区三区| 国产一区二区三区综合在线观看| 久久 成人 亚洲| 国产精品自产拍在线观看55亚洲 | 90打野战视频偷拍视频| 搡老熟女国产l中国老女人| 国产免费福利视频在线观看| 老司机在亚洲福利影院| 丝袜人妻中文字幕| 在线观看www视频免费| 操出白浆在线播放| 91字幕亚洲| 国产成人免费观看mmmm| 国产成人系列免费观看| 2018国产大陆天天弄谢| 青春草视频在线免费观看| 国产亚洲午夜精品一区二区久久| 久久精品aⅴ一区二区三区四区| 久久久精品94久久精品| 亚洲精品一二三| 一本大道久久a久久精品| 亚洲熟女精品中文字幕| 精品一区二区三卡| 日日夜夜操网爽| 母亲3免费完整高清在线观看| 丝瓜视频免费看黄片| 搡老乐熟女国产| 性色av乱码一区二区三区2| 欧美 日韩 精品 国产| 777米奇影视久久| 国产亚洲欧美在线一区二区| 国产精品1区2区在线观看. | 免费高清在线观看日韩| 久久久精品区二区三区| 色综合欧美亚洲国产小说| 性高湖久久久久久久久免费观看| 秋霞在线观看毛片| 中文字幕色久视频| 国产亚洲欧美在线一区二区| 亚洲专区国产一区二区| 国产精品亚洲av一区麻豆| 亚洲久久久国产精品| 欧美精品啪啪一区二区三区 | 亚洲精品在线美女| 亚洲国产欧美在线一区| 国产精品.久久久| 黄网站色视频无遮挡免费观看| 自拍欧美九色日韩亚洲蝌蚪91| 成人免费观看视频高清| 天堂俺去俺来也www色官网| 欧美日韩亚洲国产一区二区在线观看 | 91精品国产国语对白视频| 色精品久久人妻99蜜桃| 亚洲成人免费av在线播放| 亚洲精品av麻豆狂野|