• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能生成內(nèi)容著作權(quán)有關(guān)問(wèn)題研究

    2023-06-22 11:42:09孫曉麒
    中國(guó)版權(quán) 2023年6期

    孫曉麒

    關(guān)鍵詞:人工智能生成物;人工智能底層邏輯;人格主義要素;著作權(quán)歸屬

    根據(jù)中國(guó)信息通信研究院發(fā)布的《人工智能生成內(nèi)容(AIGC)白皮書(2022年)》所示,AIGC技術(shù)已經(jīng)被廣泛應(yīng)用于音頻、文本、圖像等不同模態(tài)數(shù)據(jù)中,AIGC與傳媒、電商、影視、娛樂(lè)等不同領(lǐng)域結(jié)合,不斷衍生出多種新鮮的作品。而隨著OpenAI發(fā)布生成式預(yù)訓(xùn)練語(yǔ)言模型ChatGPT的火熱以及普及,人工智能的應(yīng)用已經(jīng)逐步走入普通人的生活,昭示著人工智能時(shí)代已經(jīng)到來(lái)。

    但技術(shù)的突破性發(fā)展必然會(huì)對(duì)現(xiàn)行的法律制度帶來(lái)種種挑戰(zhàn)。2020年,深圳市南山區(qū)人民法院開庭審理了我國(guó)首例人工智能創(chuàng)作物著作權(quán)糾紛案:深圳市騰訊計(jì)算機(jī)系統(tǒng)有限公司訴上海盈某科技有限公司侵害著作權(quán)及不正當(dāng)競(jìng)爭(zhēng)糾紛一案。原告騰訊公司團(tuán)隊(duì)自主研發(fā)的Dream wIiter軟件,可根據(jù)數(shù)據(jù)搜集與分析等技術(shù)支持批量撰寫財(cái)經(jīng)類新聞報(bào)道,能根據(jù)不同受眾群體自動(dòng)生成差異化、不同風(fēng)格與版本的新聞報(bào)道。2018年8月20日,騰訊公司在騰訊證券網(wǎng)站上首次發(fā)表了標(biāo)題為《午評(píng):滬指小幅上漲0.11%報(bào)2671.93點(diǎn)通信運(yùn)營(yíng)、石油開采等板塊領(lǐng)漲》的財(cái)經(jīng)報(bào)道文章,末尾注明“本文由騰訊機(jī)器人DeamWIiter自動(dòng)撰寫”。而被告上海盈某科技有限公司運(yùn)營(yíng)的“網(wǎng)貸之家”網(wǎng)站當(dāng)日同樣發(fā)布了與騰訊公司的標(biāo)題和內(nèi)容完全—致的文章。深圳市南山區(qū)人民法院認(rèn)為,人工智能技術(shù)自動(dòng)生成的創(chuàng)作物屬于著作權(quán)法的保護(hù)范圍,騰訊公司主創(chuàng)團(tuán)隊(duì)在數(shù)據(jù)服務(wù)、觸發(fā)寫作、人工智能校驗(yàn)與分發(fā)等技術(shù)處理環(huán)節(jié)中投入了大量成本,而被告卻將原文—字不差投放在網(wǎng)頁(yè)上,以此獲得收益,這一行為侵害了原告依法享有的信息網(wǎng)絡(luò)傳播權(quán),應(yīng)承擔(dān)相應(yīng)的民事責(zé)任。

    從深圳市南山區(qū)人民法院的判決來(lái)看,首先法院認(rèn)定了人工智能技術(shù)自動(dòng)生成的創(chuàng)作物在著作權(quán)法保護(hù)的范疇內(nèi),這是當(dāng)今學(xué)界相對(duì)集中的一種觀點(diǎn)。其核心理由在于,人工智能技術(shù)自動(dòng)生成的創(chuàng)作物屬于民事法律關(guān)系中“智力成果”這一客體,且具有一定獨(dú)創(chuàng)性以及可復(fù)制性,所以使得人工智能技術(shù)自動(dòng)生成的創(chuàng)作物符合法律意義上的“作品”。但是,對(duì)這種著作權(quán)的歸屬在學(xué)界卻眾說(shuō)紛紜。有學(xué)者認(rèn)為,人工智能創(chuàng)作物著作權(quán)應(yīng)歸屬于人工智能編程者,因?yàn)榫幊陶邉?chuàng)造了人工智能,這是人工智能創(chuàng)作的前提和基礎(chǔ)。另—個(gè)較集中的觀點(diǎn)認(rèn)為,人工智能創(chuàng)作物著作權(quán)應(yīng)歸屬于人工智能設(shè)備的使用者。與此同時(shí),還有觀點(diǎn)認(rèn)為,人工智能創(chuàng)作物著作權(quán)應(yīng)歸屬于人工智能本身。

    本文認(rèn)為,對(duì)于人工智能創(chuàng)作物是否在著作權(quán)保護(hù)的范疇內(nèi),以及其著作權(quán)具體歸屬等問(wèn)題的討論,既涉及復(fù)雜的法律問(wèn)題,又涉及人類社會(huì)最前沿的技術(shù)問(wèn)題,需要從法律與技術(shù)緊密結(jié)合的角度考察。為避免研究中出現(xiàn)技術(shù)與法律“兩張皮”現(xiàn)象,在對(duì)相關(guān)基本法理深入研討的基礎(chǔ)上,還應(yīng)當(dāng)對(duì)人工智能創(chuàng)作作品的底層邏輯及其過(guò)程做進(jìn)一步的剖析。

    一、人工智能創(chuàng)作文字、藝術(shù)作品的底層邏輯

    吳漢東教授對(duì)人工智能的著作權(quán)保護(hù)問(wèn)題有過(guò)系統(tǒng)的總結(jié),他將人工智能創(chuàng)作分成三個(gè)階段,包括“數(shù)據(jù)輸入—機(jī)器學(xué)習(xí)—結(jié)果輸出”。其中,數(shù)據(jù)輸入階段的數(shù)據(jù)挖掘,意味著對(duì)已有作品自動(dòng)化、批量化的“閱讀”,是著作權(quán)法中的合理使用;學(xué)習(xí)階段的“算法創(chuàng)作”,實(shí)際上是“機(jī)器作者”與人類作者的共同創(chuàng)作;輸出階段的“生成內(nèi)容”,具有思想表現(xiàn)形式和人格主義等作品構(gòu)成要素的,可以受著作權(quán)法保護(hù),其權(quán)利由參與創(chuàng)作或投資的自然人或法人行使。

    從三個(gè)階段的具體內(nèi)容看,第一階段的數(shù)據(jù)輸入是人工智能進(jìn)行創(chuàng)作的基礎(chǔ)和前提。在數(shù)據(jù)訓(xùn)練的創(chuàng)作方式中,“大量的數(shù)據(jù)構(gòu)成機(jī)器學(xué)習(xí)的訓(xùn)練數(shù)據(jù)庫(kù),成為算法創(chuàng)作(如寫作、音樂(lè)制作)的主要原料與素材”。第二階段的機(jī)器學(xué)習(xí)包括最基礎(chǔ)的機(jī)器學(xué)習(xí)以及深度學(xué)習(xí)。在基礎(chǔ)的機(jī)器學(xué)習(xí)中,算法從輸入數(shù)據(jù)中尋找模式,并使用這些模式來(lái)進(jìn)行預(yù)測(cè)或決策,而無(wú)需人為介入。機(jī)器學(xué)習(xí)的技術(shù)包括但不限于線性回歸、邏輯回歸、支持向量機(jī)、梯度提升機(jī)、聚類算法、主成分分析等統(tǒng)計(jì)學(xué)及數(shù)據(jù)分析學(xué)技術(shù)。而深度學(xué)習(xí)模擬人類真實(shí)大腦的運(yùn)作體系,構(gòu)建出一種神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),特別是具有很多隱藏層的深度神經(jīng)網(wǎng)絡(luò)。這些深度神經(jīng)網(wǎng)絡(luò)可以從大量數(shù)據(jù)中學(xué)習(xí)更加復(fù)雜的模式,從而更好地根據(jù)算法要求完成任務(wù),并且在自然語(yǔ)言處理、圖像處理、語(yǔ)音識(shí)別等領(lǐng)域取得了突出的成果。第三階段的結(jié)果輸出主要是對(duì)于第一階段的數(shù)據(jù)收集、算法規(guī)則整理和第二階段的深度學(xué)習(xí)模型、情感計(jì)算框架等綜合運(yùn)用的結(jié)果。第三階段的生成內(nèi)容是本文討論的重點(diǎn),即它是否是著作權(quán)法上具有思想表達(dá)外觀的作品。這一判定,需要從人工智能創(chuàng)作的底層邏輯人手,并結(jié)合其創(chuàng)作物的類別分類進(jìn)行討論。從其創(chuàng)作物的類別看,三個(gè)階段在創(chuàng)作文字、圖片與音頻方面也存在著一定的差異。

    (一)人工智能創(chuàng)作文字作品的底層邏輯及創(chuàng)作過(guò)程

    人工智能在創(chuàng)作文字類作品時(shí),主要運(yùn)用到自然語(yǔ)言處理(NLP)的深度學(xué)習(xí)模型。其中最廣泛使用的是Tansformer模型,其主要特性是使用了一種名叫“注意力機(jī)制”(Attention Mechanism)的技術(shù),允許模型在處理—個(gè)詞或一句話時(shí),能夠?qū)φ麄€(gè)輸入的不同部分分配不同的注意力,使模型能夠更好地理解詞語(yǔ)的上下文。

    以通過(guò)人工智能創(chuàng)作論文為例。使用者在使用人工智能軟件如ChatGPT創(chuàng)作論文前,人工智能已經(jīng)通過(guò)深度學(xué)習(xí)模組進(jìn)行了大量的文本數(shù)據(jù)訓(xùn)練,學(xué)習(xí)了如何在不同的語(yǔ)境下正確地使用單詞和語(yǔ)法。訓(xùn)練好的模型可以預(yù)測(cè)接下來(lái)可能出現(xiàn)的詞語(yǔ)。例如,給定一個(gè)詞或者句子的開頭,模型會(huì)生成一個(gè)概率分布,描述接下來(lái)可能出現(xiàn)的每個(gè)詞的概率。而后,人工智能會(huì)根據(jù)預(yù)測(cè)的概率分布選擇接下來(lái)的詞,并且會(huì)兼顧生成文本的多樣性。在使用者規(guī)定了論文題目、核心觀點(diǎn)及要求后,人工智能會(huì)在數(shù)據(jù)庫(kù)中根據(jù)要求,大量搜集獲取相關(guān)內(nèi)容,而后通過(guò)編碼上下文信息來(lái)生成連貫的文本。通常情況下,預(yù)訓(xùn)練的模型會(huì)被微調(diào),以滿足特定的任務(wù)需求,如寫作論文等。這個(gè)過(guò)程涉及使用一小部分任務(wù)特定的數(shù)據(jù)來(lái)“教”模型完成特定的任務(wù),如保持一致的論述、引用相關(guān)研究或遵守特定的寫作風(fēng)格。

    從人工智能模型創(chuàng)作論文的邏輯以及過(guò)程可以看出,人工智能模型并不真正理解它們正在寫的內(nèi)容,它們只是學(xué)習(xí)并復(fù)制訓(xùn)練數(shù)據(jù)中的模式,通過(guò)概率分布以及合理化排列組合后,將數(shù)據(jù)庫(kù)中其他人的觀點(diǎn)以及信息內(nèi)容糅合后展示出來(lái)。

    (二)人工智能創(chuàng)作圖片作品的底層邏輯及創(chuàng)作過(guò)程

    人工智能在創(chuàng)作圖像類作品時(shí)的邏輯和流程與其創(chuàng)作文本類作品時(shí)有所不同。比如,人工智能在生成藝術(shù)圖片或原畫類作品時(shí),主要運(yùn)用的是生成對(duì)抗網(wǎng)絡(luò)(GANs)技術(shù)。GANs技術(shù)的核心包含兩部分——生成器和鑒別器。生成器的任務(wù)是產(chǎn)生看起來(lái)像真實(shí)的圖像,而鑒別器的任務(wù)是嘗試區(qū)分生成的圖形和真實(shí)的圖像。訓(xùn)練過(guò)程中,生成器試圖“欺騙”鑒別器,使其無(wú)法區(qū)分生成的圖像和真實(shí)的圖像,而鑒別器則不斷學(xué)習(xí)如何更好地識(shí)別生成的圖像。在這個(gè)“博弈”過(guò)程中,生成器和鑒別器的性能會(huì)不斷得到提高,從而使人工智能生成更加真實(shí)的圖片或原畫。

    除了GANs技術(shù)之外,人工智能生成原畫還使用了一種稱為“神經(jīng)風(fēng)格轉(zhuǎn)移”的技術(shù)。這種技術(shù)可以抓取一個(gè)圖像(例如著名的藝術(shù)作品)的風(fēng)格,并將其應(yīng)用到另一個(gè)圖像上。這可以用于生成具有特定藝術(shù)風(fēng)格的原畫。同時(shí),為了讓模型“理解”和復(fù)制各種原畫風(fēng)格,需要使用大量的原畫圖像來(lái)進(jìn)行訓(xùn)練。這可能包括各種不同風(fēng)格和主題的原畫,以便模型可以學(xué)習(xí)到這些風(fēng)格的共性和差異。

    在具體生成圖像、原畫等藝術(shù)作品階段,當(dāng)使用者規(guī)定了圖像內(nèi)容等要求后,人工智能的生成器通常會(huì)從一個(gè)隨機(jī)噪聲向量開始生成圖像。這個(gè)向量在每次生成圖像時(shí)都會(huì)改變,這樣就可以生成各種各樣的圖像。噪聲向量通過(guò)多層神經(jīng)網(wǎng)絡(luò)(即生成器)進(jìn)行非線性轉(zhuǎn)換,生成最終的圖像。網(wǎng)絡(luò)的參數(shù)在訓(xùn)練過(guò)程中不斷被優(yōu)化,使得生成的圖像最終盡可能地接近真實(shí)的圖像。

    (三)人工智能創(chuàng)作音頻作品的底層邏輯及創(chuàng)作過(guò)程

    深度學(xué)習(xí)模型,特別是循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)和變分自編碼器( VAE),常用于人工智能創(chuàng)作音樂(lè)。它們可以學(xué)習(xí)和生成時(shí)間序列數(shù)據(jù),這使得它們特別適合處理音樂(lè),因?yàn)橐魳?lè)是隨時(shí)間展開的。在RNN中,模型被訓(xùn)練來(lái)理解音樂(lè)序列中的模式和結(jié)構(gòu)。例如,模型可能會(huì)學(xué)習(xí)到某種和弦進(jìn)程通常會(huì)引出某種旋律線,或者某種節(jié)奏模式通常會(huì)出現(xiàn)在某種樂(lè)種中。一旦模型訓(xùn)練好,就可以使用它來(lái)生成新的音樂(lè)。在變分自編碼器(VAE)中,模型被訓(xùn)練來(lái)學(xué)習(xí)數(shù)據(jù)的低維表示(或“潛在空間”),然后從這個(gè)空間中采樣以生成新的實(shí)例。在音樂(lè)創(chuàng)作的背景中,這意味著模型可以學(xué)習(xí)到音樂(lè)的某些核心特性,并能生成包含這些特陛的新音樂(lè)。例如,神經(jīng)網(wǎng)絡(luò)可以被訓(xùn)練來(lái)根據(jù)給定的樂(lè)器和旋律生成和聲,或者按照某種風(fēng)格來(lái)編寫旋律。同時(shí),也有一些新的技術(shù)如GANs和Transformer模型正在被探索用于音樂(lè)生成。值得注意的是,雖然這些技術(shù)可以產(chǎn)生令人印象深刻的結(jié)果,但人工智能創(chuàng)作的音樂(lè)仍然需要人類的指導(dǎo)和輸入,特別是在藝術(shù)性和表達(dá)陛方面。而且,雖然m可以學(xué)習(xí)到音樂(lè)的一些模式和結(jié)構(gòu),但它并不真正理解音樂(lè)的情感和文化含義。

    二、人工智能創(chuàng)作物是否構(gòu)成著作權(quán)法意義上的“作品”

    在了解人工智能的底層邏輯以及創(chuàng)作過(guò)程后,我們可以更直觀地考量人工智能創(chuàng)作物是否構(gòu)成著作權(quán)法意義上的“作品”。我國(guó)《著作權(quán)法》所稱的作品,是指“文學(xué)、藝術(shù)和科學(xué)領(lǐng)域內(nèi)具有獨(dú)創(chuàng)性并能以一定形式表現(xiàn)的智力成果”。其中最核心的一個(gè)要素便是獨(dú)創(chuàng)性,它是作品成為著作權(quán)客體的首要條件。所謂獨(dú)創(chuàng)性,是指由作者獨(dú)立構(gòu)思而成的,作品的內(nèi)容或者表現(xiàn)形式完全或基本不同于他人已經(jīng)發(fā)表的作品,即不是抄襲、剽竊、篡改他人的作品。而在司法實(shí)踐中,不同法系和不同國(guó)家因立法價(jià)值各異,對(duì)獨(dú)創(chuàng)性的判斷有所不同。英美法系對(duì)獨(dú)創(chuàng)性的要求相對(duì)較低,英國(guó)只要求作品必須是獨(dú)立完成而非復(fù)制抄襲,美國(guó)在司法實(shí)踐中衍生出了少量創(chuàng)造性(modicum of creativit)的獨(dú)創(chuàng)性判斷標(biāo)準(zhǔn)。而以法國(guó)和德國(guó)為代表的大陸法系中,側(cè)重作者與作品之間的人格聯(lián)系,對(duì)獨(dú)創(chuàng)性的要求也相對(duì)更加嚴(yán)格。其中,德國(guó)對(duì)獨(dú)創(chuàng)性的要求最高,不僅要求創(chuàng)作應(yīng)體現(xiàn)作者的個(gè)性和創(chuàng)造性,還要求創(chuàng)作要有一定水準(zhǔn),即超出一般人平均水平的智力創(chuàng)作水準(zhǔn)。我國(guó)對(duì)于獨(dú)創(chuàng)性判定的司法實(shí)踐介于英美法系與大陸法系之間,綜合來(lái)看,是以作品是否具有獨(dú)創(chuàng)性的兩個(gè)構(gòu)成要件,即獨(dú)立完成和創(chuàng)造性,來(lái)判定該作品是否具備獨(dú)創(chuàng)性。

    (一)對(duì)于人工智能創(chuàng)作的文字類作品的判定

    在文字類作品中,所謂“創(chuàng)作者的個(gè)性”便是指文章的觀點(diǎn),即帶有創(chuàng)作者主觀感情色彩的論點(diǎn)。德國(guó)哲學(xué)家康德曾說(shuō)過(guò),作品是人格的反映,作品本質(zhì)上是作者的意志。黑格爾也指出,諸如學(xué)問(wèn)、知識(shí)、藝術(shù)等,是一種內(nèi)部的精神的東西,作品在本質(zhì)上表現(xiàn)了作者個(gè)人的獨(dú)特性。著作權(quán)法規(guī)定了自然人的主體中心地位,將其作為權(quán)利原始主體、完整主體,即第一著作權(quán)人。這是因?yàn)?,只有自然人才是作品的真正?chuàng)作者。作品是人類的創(chuàng)作成果,表達(dá)的是人類的思想情感。

    從人工智能模型創(chuàng)作文本類作品的邏輯以及過(guò)程可以看出,人工智能通過(guò)數(shù)據(jù)庫(kù)整合資源,自我學(xué)習(xí)的過(guò)程與人類閱讀學(xué)習(xí)的過(guò)程并無(wú)本質(zhì)區(qū)別。但是人類在創(chuàng)作作品過(guò)程中會(huì)有思考以及觀點(diǎn)輸出,而人工智能則是通過(guò)概率分布以及合理化組合的過(guò)程,將整合的信息轉(zhuǎn)化成語(yǔ)句進(jìn)行輸出。這一過(guò)程的確是獨(dú)立完成的過(guò)程,但在創(chuàng)造性這一構(gòu)成要件上,雖然其滿足了英美法系中對(duì)于創(chuàng)造性的最低程度的要求,但如果以對(duì)獨(dú)創(chuàng)性要求相對(duì)嚴(yán)格的法國(guó)、德國(guó)等大陸法系國(guó)家來(lái)看,其不能體現(xiàn)出創(chuàng)作者的個(gè)性。

    那么人工智能生成物是否是獨(dú)立完成且具備創(chuàng)造性呢?對(duì)此,應(yīng)當(dāng)辯證地分析。英國(guó)學(xué)者安德烈斯·瓜達(dá)穆茲(Andres Guadamuz)認(rèn)為人工智能已經(jīng)不再是簡(jiǎn)單的工具,它們?cè)趧?chuàng)作的過(guò)程中會(huì)自主地做出一個(gè)又一個(gè)決定,這其中并沒(méi)有人為的干涉。在Andres Guadamuz的原文中,他用到的在描述人工智能的行為時(shí)用到的詞匯是“make decisions”?!癉ecision”直譯過(guò)來(lái)是“決定、判斷”,而如果我們結(jié)合人工智能進(jìn)行文字類作品創(chuàng)作的底層邏輯來(lái)看的話,我們會(huì)發(fā)現(xiàn)它確實(shí)在創(chuàng)作過(guò)程中不停地做出判斷。但這些判斷是基于數(shù)據(jù)、算法、邏輯的絕對(duì)理性的判斷,例如“此時(shí)的語(yǔ)句是否通順”“此時(shí)的數(shù)據(jù)是否準(zhǔn)確”“此時(shí)文章的邏輯是否順”等。在沒(méi)有人為干涉的情況下,眾多絕對(duì)理性的判斷并不會(huì)最終導(dǎo)向一個(gè)由人工智能自主生成的觀點(diǎn)。因此,即使現(xiàn)在人工智能技術(shù)獲得了突破性進(jìn)展,但普遍觀點(diǎn)仍認(rèn)為,對(duì)人工智能而言,其在進(jìn)行文字類作品創(chuàng)作的過(guò)程中,并不會(huì)賦予創(chuàng)作的文章任何觀點(diǎn),因?yàn)槿斯ぶ悄鼙旧聿⒉痪邆涓星榧八枷氲戎饔^意識(shí)。

    基于以上分析,我們可以得出一個(gè)基本的結(jié)論:當(dāng)使用者只提出話題而不做具體限定,并且不闡述任何主觀偏向性觀點(diǎn)時(shí),人工智能只會(huì)根據(jù)數(shù)據(jù)庫(kù)中的信息,將內(nèi)容整合,一一羅列,這種情形顯然不能滿足獨(dú)創(chuàng)性的要求。例如學(xué)生為完成一篇探討法律制度的論文,決定使用ChatGPT人工智能平臺(tái)幫其生成論文。如果學(xué)生僅在平臺(tái)中輸入“請(qǐng)生成一篇探討法律制度的論文”,人工智能會(huì)根據(jù)自身數(shù)據(jù)庫(kù)中的信息,將多方觀點(diǎn)糅合,生成一篇看似邏輯通順的論文,此時(shí)這篇文章未有作者主觀觀點(diǎn)及個(gè)性化選擇、安排,不應(yīng)受著作權(quán)法的保護(hù)。

    當(dāng)使用者將其個(gè)人觀點(diǎn)具體賦予到人工智能上時(shí),人工智能會(huì)基于使用者的觀點(diǎn),創(chuàng)作出具體的論文或其他形式的文字類作品。這種情況下,人工智能創(chuàng)作的文字類作品,就包含了使用者的觀點(diǎn),相應(yīng)的便體現(xiàn)出了使用者的個(gè)性化安排,因此具備了獨(dú)創(chuàng)性,應(yīng)當(dāng)屬于法律意義上的“作品”,受到著作權(quán)法的保護(hù)。例如學(xué)生在使用ChatGPT撰寫論文時(shí),明確提出了自己的論點(diǎn),并且根據(jù)人工智能生成的框架,進(jìn)一步填充了自己的想法。此時(shí)人工智能生成的論文便具備了這名學(xué)生的個(gè)人特色,因此具備獨(dú)創(chuàng)性,屬于著作權(quán)法保護(hù)的對(duì)象。

    但是,如果我們將這種判定方式帶回深圳市騰訊計(jì)算機(jī)系統(tǒng)有限公司訴上海盈某科技有限公司侵害著作權(quán)及不正當(dāng)競(jìng)爭(zhēng)糾紛一案中,便會(huì)發(fā)現(xiàn)—些問(wèn)題。Dream Writer軟件創(chuàng)作出來(lái)的財(cái)經(jīng)分析新聞是否有使用者的主觀觀點(diǎn)呢?財(cái)經(jīng)分析類的新聞?lì)愃朴跀?shù)據(jù)分析報(bào)告與時(shí)事新聞的結(jié)合,按理來(lái)說(shuō)這類作品并不會(huì)涉及創(chuàng)作者的主觀觀點(diǎn),因此不應(yīng)成為著作權(quán)法保護(hù)的對(duì)象,但為什么卻可以使用著作權(quán)法保護(hù)該作品的權(quán)益呢?

    在傳統(tǒng)創(chuàng)作過(guò)程中,作者直接創(chuàng)作出作品。但在人工智能創(chuàng)作模式中,是由公司或自然人創(chuàng)造出人工智能雛形,而后又投入大量資源訓(xùn)練人工智能,使其成為成熟體,最后是人工智能與自然人共同創(chuàng)作或由人工智能獨(dú)立創(chuàng)作出作品。在這一過(guò)程中,公司或自然人創(chuàng)造出人工智能雛形這一階段應(yīng)該是專利法保護(hù)的范疇,但后續(xù)的公司或自然人投入資源訓(xùn)練人工智能及使用人工智能進(jìn)行創(chuàng)作這兩個(gè)階段應(yīng)作為一個(gè)整體進(jìn)行考量,來(lái)判定最終生成物是否是著作權(quán)法保護(hù)的對(duì)象。

    公司和自然人投入資源訓(xùn)練人工智能這一階段,其中所謂的資源主要指的是數(shù)據(jù)資源。但并不是所有數(shù)據(jù)資源都是可用的,而是需要定向選擇出合適的數(shù)據(jù),而后再將數(shù)據(jù)“喂養(yǎng)”給人工智能。例如Dream writer軟件的主要應(yīng)用方向是撰寫財(cái)經(jīng)類新聞,那么在投入數(shù)據(jù)時(shí),就會(huì)選擇大量的財(cái)經(jīng)相關(guān)的數(shù)據(jù),供人工智能深度學(xué)習(xí)。在定向選擇數(shù)據(jù)時(shí),其本質(zhì)類似于為圖畫選取風(fēng)格,屬于加入創(chuàng)作者的主觀想法的行為。因此,在這種情況下,如果我們將創(chuàng)作者對(duì)人工智能雛形進(jìn)行定向訓(xùn)練,而后使用人工智能創(chuàng)作這一行為作為一個(gè)整體的過(guò)程去看待,那么在創(chuàng)作過(guò)程中確實(shí)加入了人格的因素,因此最終的生成物仍然具備獨(dú)創(chuàng)性,屬于著作權(quán)法保護(hù)的對(duì)象。

    (二)對(duì)于人工智能創(chuàng)作的圖像、原畫及音頻等藝術(shù)類作品的判定

    與通過(guò)數(shù)據(jù)的挖掘及“理性的計(jì)算”來(lái)進(jìn)行文字類作品的創(chuàng)作不同,人工智能在創(chuàng)作圖像、原畫及音頻等藝術(shù)類作品時(shí),通過(guò)“情感的計(jì)算”及“博弈學(xué)習(xí)”展現(xiàn)出了更強(qiáng)的創(chuàng)作屬性。

    人工智能通過(guò)生成器和鑒別器之間的相互“博弈”來(lái)進(jìn)行圖像、原畫類作品的創(chuàng)作。其創(chuàng)作最初是生成一個(gè)隨機(jī)的噪聲向量,而后通過(guò)多次對(duì)噪聲向量的定向非線性轉(zhuǎn)換,來(lái)繪制出符合使用者要求的照片或原畫。其本質(zhì)與藝術(shù)家拿起畫筆進(jìn)行繪畫創(chuàng)作并沒(méi)有區(qū)別?!半S機(jī)的噪聲向量”就好比是在畫紙上最初的畫點(diǎn),而“定向的非線性轉(zhuǎn)換”則是基于最初的畫點(diǎn),通過(guò)畫筆繪畫成完整圖案的過(guò)程。同時(shí),在創(chuàng)作過(guò)程中,人工智能還會(huì)通過(guò)“神經(jīng)風(fēng)格轉(zhuǎn)移”技術(shù)提煉其他作品的風(fēng)格,并賦予到自身創(chuàng)造的作品上,使其具有一定程度的獨(dú)創(chuàng)性。

    人工智能創(chuàng)作音頻類作品時(shí)雖然使用了不同的深度學(xué)習(xí)模組,但是底層邏輯卻十分相似,同樣用到了類似生成對(duì)抗網(wǎng)絡(luò)(GANs)的“博弈學(xué)習(xí)”理念,并加入了與“神經(jīng)風(fēng)格轉(zhuǎn)移”技術(shù)類似的、專門用于學(xué)習(xí)其他音樂(lè)作品旋律規(guī)律及風(fēng)格的模組——循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)和變分自編碼器(VAE)。所以,人工智能創(chuàng)作音頻類作品在本質(zhì)上與其創(chuàng)作圖像類作品時(shí)類似,因此人工智能創(chuàng)作出來(lái)的音頻類作品同樣可以具備獨(dú)創(chuàng)性。

    人工智能創(chuàng)作圖像、音頻類作品的過(guò)程是最典型的人類與人工智能共同創(chuàng)作的過(guò)程。它顛覆了傳統(tǒng)的“人類創(chuàng)作中心主義”,即“創(chuàng)作者等于自然人”的限定。法學(xué)界的一些學(xué)者將人類與人工智能共同創(chuàng)作的過(guò)程稱為“賽博格”(Cyborg),是Cybemetic(“控制論的”)和Oranism(“有機(jī)體”)的組合詞,早先常見(jiàn)于國(guó)外的一些科幻類作品。法學(xué)界引入“賽博格”這一理念,便是為了討論自然人與機(jī)器人(人工智能)之間的關(guān)系。例如在人工智能創(chuàng)作圖片、音頻類作品的過(guò)程中,需要使用者人為地對(duì)其創(chuàng)作過(guò)程提出一定程度的要求,如需要描繪什么景物,畫風(fēng)或曲風(fēng)是什么風(fēng)格等,而人工智能根據(jù)人類的要求自主進(jìn)行一定程度的創(chuàng)作。這一過(guò)程中,雖然本質(zhì)上與人類使用畫筆作畫譜曲沒(méi)有區(qū)別,但在實(shí)質(zhì)上,人類在創(chuàng)作過(guò)程中相當(dāng)于人工智能的輔助。這一實(shí)質(zhì)便是很多人質(zhì)疑人工智能創(chuàng)作物是否具有獨(dú)創(chuàng)性的原因。這種“非人類中心主義”的創(chuàng)作過(guò)程便是“賽博格”的核心概念。

    不可否認(rèn)的是,在這一過(guò)程中,人類依然是與人工智能共同進(jìn)行創(chuàng)作,人工智能的最終產(chǎn)物必須是基于使用者的觀點(diǎn)與要求,以此才具備獨(dú)創(chuàng)性。如果純粹任由人工智能自由創(chuàng)作,使用者不添加任何要求與限制,那么與人工智能創(chuàng)作文字類作品時(shí)討論的情況類似,此時(shí)人工智能自主創(chuàng)作的產(chǎn)物并不具備獨(dú)特的人格與主觀特點(diǎn),因此不具備獨(dú)創(chuàng)性。但是在目前絕大部分人工智能創(chuàng)作的圖片、音頻類生成物的案例中,很少存在純粹由人工智能自由創(chuàng)作出來(lái)的產(chǎn)物,因其隨機(jī)性強(qiáng),而且商業(yè)價(jià)值較低。

    基于上述特點(diǎn),人工智能創(chuàng)作的圖像、原畫、音頻等藝術(shù)類作品具備獨(dú)創(chuàng)性,應(yīng)當(dāng)屬于法律意義上的“作品”并受著作權(quán)法保護(hù)。

    三、人工智能創(chuàng)作物的著作權(quán)歸屬判斷

    目前,學(xué)界關(guān)于人工智能創(chuàng)作物著作權(quán)的歸屬存在較大爭(zhēng)議,主要的爭(zhēng)論焦點(diǎn)在于該著作權(quán)應(yīng)歸屬于人工智能設(shè)計(jì)者,還是所有者,抑或是使用者。目前較為普遍的觀點(diǎn)認(rèn)為,不應(yīng)歸屬于人工智能設(shè)計(jì)者。因?yàn)閺氖袌?chǎng)的角度來(lái)看,如果人工智能設(shè)計(jì)者享有著作權(quán),市場(chǎng)化程度就會(huì)降低,這將削弱研發(fā)的積極性。所以,將人工智能創(chuàng)作物歸屬于人工智能所有者或?qū)嶋H使用者,更符合理論和實(shí)踐的要求。

    在智能畫圖工具M(jìn)idjourney的服務(wù)條款中明確寫道:“在現(xiàn)行法律允許的程度內(nèi),您在使用服務(wù)時(shí)所創(chuàng)建的所有圖像歸您所有?!監(jiān)penAI的使用條款中也有相關(guān)內(nèi)容,“在我們雙方之間,以及所適用法律許可的范圍內(nèi),您擁有對(duì)全部輸入的所有權(quán)。受限于您對(duì)本條款的遵守,OpenAI在此將其在輸出中的所有權(quán)利、所有權(quán)和權(quán)益轉(zhuǎn)讓給您?!?/p>

    吳漢東教授認(rèn)為機(jī)器介入創(chuàng)作,在技術(shù)原理上表現(xiàn)為一系列的數(shù)據(jù)挖掘、分析和運(yùn)算,以模仿甚至取代人類創(chuàng)造性的智力活動(dòng)。這種機(jī)器智能與人類的心性和心智是不同的,它是一種“理性的計(jì)算”及“情感的計(jì)算”,從而表現(xiàn)了類人化的意志能力。正是如此,人工智能不再是物質(zhì)存在的輔助創(chuàng)作工具,而可能是與人類作者合作的“創(chuàng)作機(jī)器”或者說(shuō)相對(duì)獨(dú)立的“機(jī)器作者”。因此,他提出,對(duì)于人機(jī)合一完成的作品,應(yīng)構(gòu)建“機(jī)器作者”與人類作者的二元?jiǎng)?chuàng)作主體結(jié)構(gòu),而著作權(quán)歸屬也應(yīng)建構(gòu)“作者一著作權(quán)人”的二元權(quán)利主體結(jié)構(gòu)?;凇八惴▌?chuàng)作”的事實(shí),未來(lái)法律可以擬制“機(jī)器作者”,但卻不能認(rèn)定智能機(jī)器的著作權(quán)人資格,著作權(quán)人應(yīng)是自然人或自然人的集合體。最終應(yīng)以創(chuàng)作者權(quán)屬模式或者投資者權(quán)屬模式,基于對(duì)作品創(chuàng)作的實(shí)質(zhì)性貢獻(xiàn)來(lái)決定具體的著作權(quán)歸屬。

    人工智能之所以能創(chuàng)作出體現(xiàn)使用者主觀觀點(diǎn)的文字類作品,是因?yàn)槿斯ぶ悄茉谏晌恼碌倪^(guò)程中,基于使用者的觀點(diǎn),通過(guò)信息資源整合、詞語(yǔ)概率分布及定向排列等方式,對(duì)使用者的觀點(diǎn)內(nèi)容進(jìn)行擴(kuò)展,最終形成完整的文章。所以在考量作品著作權(quán)歸屬時(shí),應(yīng)參考創(chuàng)作者權(quán)屬模式。因使用者對(duì)于特定作品創(chuàng)作做出的實(shí)質(zhì)性貢獻(xiàn)更多,故而著作權(quán)應(yīng)歸屬于人工智能使用者。

    但此時(shí)我們?nèi)孕杩紤]兩個(gè)問(wèn)題。

    第一,對(duì)于諸如財(cái)務(wù)分析報(bào)告、時(shí)事熱點(diǎn)、新聞報(bào)道等文字作品,在創(chuàng)作過(guò)程中,由于使用者沒(méi)有添加任何主觀感情色彩的觀點(diǎn),最終人工智能創(chuàng)造物的著作權(quán)歸屬,則應(yīng)參考投資者權(quán)屬模式,具體可適用法人作品或職務(wù)作品的有關(guān)規(guī)定,來(lái)確定著作權(quán)的歸屬。

    第二,人工智能使用者的個(gè)人獨(dú)創(chuàng)性貢獻(xiàn)與人工智能的貢獻(xiàn)在其生成物中的比例問(wèn)題。如果在一篇文章中,使用者僅僅提供了一句話的觀點(diǎn)輸出,而剩余部分均由人工智能完成,那么此時(shí)我們是否仍然要將文章的著作權(quán)歸屬到使用者身上。國(guó)外有些大學(xué)規(guī)定學(xué)生在使用人工智能寫文章時(shí),必須標(biāo)明文章具體哪部分內(nèi)容由人工智能完成。本文認(rèn)為,如果人工智能在創(chuàng)作過(guò)程中的比重遠(yuǎn)大于使用者個(gè)人觀點(diǎn)表達(dá)輸出的比重,可以參考著作權(quán)中共同創(chuàng)作的情況,綜合考慮創(chuàng)作者權(quán)屬模式與投資者權(quán)屬模式來(lái)劃分最終生成物的著作權(quán)歸屬。

    人工智能創(chuàng)作的圖像、音頻等藝術(shù)類作品著作權(quán)歸屬的判定方式與文字類作品相同,但是具體情況相對(duì)更加復(fù)雜。與進(jìn)行文字類作品創(chuàng)作時(shí)不同,人工智能在創(chuàng)作圖像、原畫類作品時(shí),通過(guò)“神經(jīng)風(fēng)格轉(zhuǎn)移”的技術(shù)進(jìn)行深度學(xué)習(xí),它使得人工智能可以透徹地分析另一件圖像類作品的風(fēng)格,并快速應(yīng)用,從而制作出與該風(fēng)格一致的全新的圖像或原畫。在進(jìn)行音頻類作品創(chuàng)作時(shí),又有如變分自編碼器(VAE)的模組來(lái)提取其他音樂(lè)的風(fēng)格并進(jìn)行模仿。

    我國(guó)《著作權(quán)法》的法律規(guī)定遵循著“思想-表達(dá)二分原則”(Idea-Expression Divide),即具體的“表達(dá)”,如特定的文字、藝術(shù)作品等,可以受到著作權(quán)法保護(hù)。但是相對(duì)寬泛的“思想”,或者說(shuō)概念,通常是不能被著作權(quán)法保護(hù)的。圖像、原畫或者音樂(lè)的風(fēng)格屬于“思想”的范疇,不受著作權(quán)法的保護(hù)。但是,當(dāng)人工智能基于原作的風(fēng)格,制作出與原作風(fēng)格一致的全新的圖像或原畫時(shí),便形成了對(duì)于“思想”的“表達(dá)”,此時(shí)需要考慮人工智能創(chuàng)作物是否對(duì)原作構(gòu)成了著作權(quán)侵權(quán)。在著作權(quán)的侵權(quán)判定中,一種名叫“整體觀感法”(也稱兩步分析法Two-step Test)被廣泛應(yīng)用?!罢w觀感法”是基于普通理性人的觀點(diǎn)主觀上進(jìn)行著作權(quán)侵權(quán)的判定,如果觀察者認(rèn)為“作品整體觀感”實(shí)質(zhì)性相似,法院即可認(rèn)定原被告作品關(guān)于某一思想的表達(dá)是相似的。

    基于“思想一表達(dá)二分原則”與“整體觀感法”,如果人工智能基于某一在著作權(quán)法保護(hù)范疇內(nèi)的圖像、原畫類作品的風(fēng)格,創(chuàng)作出與該風(fēng)格一致的全新的圖像或原畫,則可能需要考慮是否構(gòu)成著作權(quán)侵權(quán)?;蛘哒f(shuō),此時(shí)人工智能創(chuàng)作物的著作權(quán)應(yīng)歸屬于圖像或原畫作品的原作者。但如果人工智能基于某一籠統(tǒng)的風(fēng)格,如抽象派、印象派風(fēng)格等進(jìn)行創(chuàng)作,因?yàn)轱L(fēng)格屬于“思想”的范疇,并不在著作權(quán)保護(hù)范圍內(nèi),所以此時(shí)人工智能創(chuàng)作物的著作權(quán)應(yīng)歸屬于人工智能的使用者。

    四、小結(jié)

    未來(lái)時(shí)代,著作權(quán)法的發(fā)展趨勢(shì)是在工具理性和價(jià)值理性的統(tǒng)一中尋求平衡。社會(huì)學(xué)家馬克斯·韋伯的警示提醒我們,高度技術(shù)化的社會(huì)可能會(huì)讓人類陷入“技術(shù)知識(shí)的囚室”。然而,人工智能的發(fā)展需要走出這個(gè)“囚室”,追求具有廣泛社會(huì)價(jià)值的技術(shù)理性。同時(shí),著作權(quán)法也需要順應(yīng)時(shí)代變革,在法律制度的重構(gòu)中堅(jiān)守其立法目標(biāo),實(shí)現(xiàn)激勵(lì)創(chuàng)新和規(guī)制風(fēng)險(xiǎn)的制度理性。

    在面對(duì)人工智能生成物的著作權(quán)相關(guān)問(wèn)題時(shí),將人類技術(shù)理性與制度理性相結(jié)合或許是最好的回答。這意味著我們需要建立一套能夠適應(yīng)人工智能時(shí)代的著作權(quán)法體系,既能妥善地保護(hù)創(chuàng)作者和權(quán)利人的合法權(quán)益,又能更好地促進(jìn)人工智能技術(shù)的創(chuàng)新和應(yīng)用。這樣的法律體系應(yīng)該確保人工智能創(chuàng)作物的著作權(quán)歸屬合理,充分考慮人工智能使用者的貢獻(xiàn)和投入,同時(shí)不忽視人工智能設(shè)計(jì)者的努力和技術(shù)創(chuàng)新。

    人工智能作為一項(xiàng)復(fù)雜的技術(shù)領(lǐng)域,其創(chuàng)作過(guò)程和產(chǎn)物涉及多個(gè)學(xué)科的交叉,需要法學(xué)領(lǐng)域與科學(xué)技術(shù)領(lǐng)域的深度融合。構(gòu)建適用于人工智能的相對(duì)健全的法律體系,需要法學(xué)研究者在充分了解人工智能科學(xué)技術(shù)的理論基礎(chǔ)和技術(shù)邏輯的基礎(chǔ)上,更精準(zhǔn)地評(píng)判其法律屬性。理解人工智能技術(shù)的原理、機(jī)制和邏輯,有助于我們更準(zhǔn)確地確定人工智能生成作品的創(chuàng)造性、獨(dú)創(chuàng)性以及對(duì)原作的侵權(quán)情況。同時(shí),科學(xué)技術(shù)特別是人工智能技術(shù)的發(fā)展正在對(duì)現(xiàn)行的法律制度構(gòu)成持續(xù)性的挑戰(zhàn),需要學(xué)界積極研究思考如何調(diào)整和完善相關(guān)法律制度。通過(guò)技術(shù)邏輯分析和法學(xué)原理的結(jié)合,可以更好地理解和解決人工智能生成作品的著作權(quán)法問(wèn)題,促進(jìn)法律制度與技術(shù)發(fā)展的有機(jī)銜接。當(dāng)然,還應(yīng)重視社會(huì)價(jià)值導(dǎo)向問(wèn)題,確保人工智能生成的作品符合社會(huì)倫理和法律規(guī)范,不侵犯他人的權(quán)益,不傳播虛假信息或有害內(nèi)容。

    人工智能時(shí)代的著作權(quán)法需要與技術(shù)的發(fā)展同步更新,以適應(yīng)新興的創(chuàng)作方式和著作權(quán)保護(hù)需求。我國(guó)已經(jīng)重視到人工智能生成物的重要性,以及進(jìn)行相關(guān)制度建構(gòu)的必要性,2023年5月23日國(guó)家互聯(lián)網(wǎng)信息辦公室2023年第12次室務(wù)會(huì)會(huì)議審議通過(guò)《生成式人工智能服務(wù)管理暫行辦法》(以下簡(jiǎn)稱《辦法》),并經(jīng)國(guó)家發(fā)展和改革委員會(huì)等六部委同意,于2023年7月10日公布,于2023年8月15日起施行?!掇k法》廣泛吸納各方利益相關(guān)者的意見(jiàn)和建議,從人工智能訓(xùn)練階段開始,對(duì)數(shù)據(jù)、資源合理使用,創(chuàng)作者行為規(guī)范、生成物版權(quán)保護(hù)等領(lǐng)域都予以了初步規(guī)范,力求在公正與效率之間實(shí)現(xiàn)最佳的平衡。

    但客觀地看,隨著技術(shù)發(fā)展的日新月異,再詳盡的制度設(shè)計(jì),依然難以避免會(huì)在具體的細(xì)節(jié)方面出現(xiàn)新的漏洞和缺陷,仍需要通過(guò)人類技術(shù)理性與制度理性的結(jié)合,不斷尋找適應(yīng)人工智能生成作品著作權(quán)保護(hù)的最佳解決方案。同樣,我們也相信在法律的引導(dǎo)下,人工智能能夠走出野蠻生長(zhǎng)的誤區(qū),在保護(hù)創(chuàng)作者和權(quán)利人權(quán)益的同時(shí),更好地為社會(huì)創(chuàng)造價(jià)值。

    av天堂中文字幕网| h日本视频在线播放| 午夜视频国产福利| 久久这里有精品视频免费| 国产成人精品一,二区| 国产欧美日韩精品一区二区| 国产有黄有色有爽视频| 3wmmmm亚洲av在线观看| 校园人妻丝袜中文字幕| 人妻少妇偷人精品九色| av专区在线播放| 欧美三级亚洲精品| 爱豆传媒免费全集在线观看| 欧美激情在线99| 秋霞在线观看毛片| 国产午夜精品一二区理论片| 神马国产精品三级电影在线观看| 欧美性猛交╳xxx乱大交人| 国产精品久久久久久精品电影小说 | 亚洲欧美中文字幕日韩二区| 国产免费又黄又爽又色| 亚洲第一区二区三区不卡| eeuss影院久久| 激情 狠狠 欧美| 久久久久精品性色| 亚洲在线观看片| 美女脱内裤让男人舔精品视频| 日本午夜av视频| 成人特级av手机在线观看| 精品久久久精品久久久| 又爽又黄a免费视频| 久久久久国产网址| 久久精品国产自在天天线| 美女xxoo啪啪120秒动态图| 黄色视频在线播放观看不卡| 少妇的逼水好多| 交换朋友夫妻互换小说| 精品午夜福利在线看| 成人无遮挡网站| 熟妇人妻不卡中文字幕| 99精国产麻豆久久婷婷| 国产成人精品婷婷| 一本一本综合久久| 国产又色又爽无遮挡免| 国产黄频视频在线观看| 精品少妇久久久久久888优播| 亚洲成人一二三区av| 欧美+日韩+精品| av在线观看视频网站免费| a级毛片免费高清观看在线播放| 国产人妻一区二区三区在| 黄色欧美视频在线观看| 久久久久久九九精品二区国产| 一本色道久久久久久精品综合| 一区二区三区乱码不卡18| 中文字幕免费在线视频6| www.av在线官网国产| 91久久精品电影网| 国产精品爽爽va在线观看网站| 精品人妻熟女av久视频| 高清视频免费观看一区二区| 黄片wwwwww| 日产精品乱码卡一卡2卡三| 国产欧美另类精品又又久久亚洲欧美| 麻豆成人午夜福利视频| 亚洲精华国产精华液的使用体验| 自拍偷自拍亚洲精品老妇| 日本猛色少妇xxxxx猛交久久| 婷婷色综合www| 晚上一个人看的免费电影| av线在线观看网站| 成人亚洲精品av一区二区| 国产成人a区在线观看| 91精品一卡2卡3卡4卡| 一个人看视频在线观看www免费| 久久女婷五月综合色啪小说 | 只有这里有精品99| 亚洲av成人精品一二三区| 爱豆传媒免费全集在线观看| 97在线视频观看| 午夜免费鲁丝| 天天躁日日操中文字幕| 在线 av 中文字幕| 美女视频免费永久观看网站| 精品亚洲乱码少妇综合久久| tube8黄色片| 国产毛片在线视频| 国产熟女欧美一区二区| 亚洲欧美精品专区久久| 亚洲国产欧美在线一区| 亚洲,一卡二卡三卡| 久久久久久久大尺度免费视频| 人妻制服诱惑在线中文字幕| 中国三级夫妇交换| 男人和女人高潮做爰伦理| 成人一区二区视频在线观看| 街头女战士在线观看网站| 欧美一区二区亚洲| 又爽又黄a免费视频| 天堂中文最新版在线下载 | 直男gayav资源| 国产高清不卡午夜福利| 色哟哟·www| 国产乱来视频区| 国产探花极品一区二区| 国产精品久久久久久精品电影| 午夜福利视频1000在线观看| 国产成人午夜福利电影在线观看| 99热国产这里只有精品6| 最后的刺客免费高清国语| 国产日韩欧美在线精品| 自拍偷自拍亚洲精品老妇| 国产黄片视频在线免费观看| 九九爱精品视频在线观看| 免费看不卡的av| 天美传媒精品一区二区| a级毛片免费高清观看在线播放| 亚洲高清免费不卡视频| 亚洲四区av| 美女视频免费永久观看网站| 日韩一区二区视频免费看| 亚洲av二区三区四区| 男人舔奶头视频| 亚洲精品色激情综合| 亚洲最大成人av| 春色校园在线视频观看| 国产69精品久久久久777片| 观看免费一级毛片| 看免费成人av毛片| 男女啪啪激烈高潮av片| 亚洲精品色激情综合| 欧美成人一区二区免费高清观看| 美女视频免费永久观看网站| 国产精品不卡视频一区二区| 日本与韩国留学比较| 偷拍熟女少妇极品色| 午夜精品国产一区二区电影 | av免费在线看不卡| 国产精品国产三级国产专区5o| 亚洲欧美日韩东京热| 日日撸夜夜添| 麻豆乱淫一区二区| 国产熟女欧美一区二区| 国国产精品蜜臀av免费| 久热久热在线精品观看| 身体一侧抽搐| 国产精品女同一区二区软件| 久久久a久久爽久久v久久| 欧美精品一区二区大全| 久久精品久久精品一区二区三区| 国产免费又黄又爽又色| 国产一区二区在线观看日韩| 日韩 亚洲 欧美在线| 熟女av电影| 99热国产这里只有精品6| 毛片女人毛片| 看免费成人av毛片| 男女边吃奶边做爰视频| 狠狠精品人妻久久久久久综合| 日本免费在线观看一区| 欧美性猛交╳xxx乱大交人| 亚洲久久久久久中文字幕| 亚洲欧美一区二区三区黑人 | 国产亚洲午夜精品一区二区久久 | 菩萨蛮人人尽说江南好唐韦庄| 国产亚洲精品久久久com| 亚洲精华国产精华液的使用体验| 成人国产av品久久久| 三级国产精品欧美在线观看| 视频中文字幕在线观看| 老师上课跳d突然被开到最大视频| 男的添女的下面高潮视频| 少妇裸体淫交视频免费看高清| 免费黄网站久久成人精品| 人妻夜夜爽99麻豆av| 天美传媒精品一区二区| 可以在线观看毛片的网站| av国产免费在线观看| 2021少妇久久久久久久久久久| 80岁老熟妇乱子伦牲交| 日韩伦理黄色片| 国产精品嫩草影院av在线观看| 亚洲国产精品999| 亚洲综合色惰| 免费看av在线观看网站| 日本午夜av视频| 久久6这里有精品| 久久精品国产亚洲网站| 看黄色毛片网站| 国产女主播在线喷水免费视频网站| av免费在线看不卡| 精品久久久久久久末码| 中文字幕免费在线视频6| 99re6热这里在线精品视频| 日日啪夜夜撸| 久久久久久国产a免费观看| 好男人在线观看高清免费视频| tube8黄色片| 亚洲成人av在线免费| 美女国产视频在线观看| 国精品久久久久久国模美| 91精品国产九色| 国产一区二区三区综合在线观看 | 午夜福利在线在线| 日韩av不卡免费在线播放| 国产一区二区在线观看日韩| 免费大片18禁| 六月丁香七月| www.色视频.com| 欧美成人a在线观看| 建设人人有责人人尽责人人享有的 | 国产色爽女视频免费观看| 五月开心婷婷网| 3wmmmm亚洲av在线观看| 国产精品女同一区二区软件| 日韩 亚洲 欧美在线| 小蜜桃在线观看免费完整版高清| 午夜福利网站1000一区二区三区| 中国三级夫妇交换| 春色校园在线视频观看| 国产乱人偷精品视频| 黄色一级大片看看| 久久精品国产自在天天线| 国产av国产精品国产| 国产精品蜜桃在线观看| 欧美激情国产日韩精品一区| av播播在线观看一区| 我要看日韩黄色一级片| 国产精品一二三区在线看| 精品酒店卫生间| 久久久久久久午夜电影| tube8黄色片| 亚洲天堂av无毛| 国产成人免费无遮挡视频| 热re99久久精品国产66热6| 久久精品久久精品一区二区三区| 麻豆乱淫一区二区| 亚洲在久久综合| 五月伊人婷婷丁香| 综合色丁香网| 黄色视频在线播放观看不卡| 亚洲欧美成人精品一区二区| 自拍偷自拍亚洲精品老妇| 视频中文字幕在线观看| 成年免费大片在线观看| 另类亚洲欧美激情| 久久久午夜欧美精品| 狂野欧美激情性xxxx在线观看| 51国产日韩欧美| 国产又色又爽无遮挡免| 久久久亚洲精品成人影院| 成人特级av手机在线观看| 免费在线观看成人毛片| 91狼人影院| 亚洲熟女精品中文字幕| 一个人观看的视频www高清免费观看| 久久久久久久大尺度免费视频| 网址你懂的国产日韩在线| 国产精品久久久久久精品电影| 国内精品宾馆在线| 小蜜桃在线观看免费完整版高清| av在线观看视频网站免费| 欧美激情在线99| 免费黄网站久久成人精品| 精品国产一区二区三区久久久樱花 | 久久人人爽人人片av| 网址你懂的国产日韩在线| 国产av不卡久久| 性色av一级| 日韩,欧美,国产一区二区三区| 一级毛片 在线播放| 男人和女人高潮做爰伦理| 美女被艹到高潮喷水动态| 亚洲精品久久久久久婷婷小说| 国产成人免费无遮挡视频| 在线观看一区二区三区激情| 两个人的视频大全免费| 成人特级av手机在线观看| 成人二区视频| 成年版毛片免费区| 亚洲伊人久久精品综合| 亚洲va在线va天堂va国产| 精品久久久噜噜| 91午夜精品亚洲一区二区三区| av一本久久久久| 亚洲不卡免费看| 日韩欧美精品v在线| av女优亚洲男人天堂| 久久女婷五月综合色啪小说 | 日韩电影二区| 777米奇影视久久| 亚洲久久久久久中文字幕| 街头女战士在线观看网站| 国产精品99久久99久久久不卡 | 国产视频内射| 国产高潮美女av| 18禁裸乳无遮挡免费网站照片| 亚洲最大成人中文| 精品少妇久久久久久888优播| 国产精品国产av在线观看| 在线观看三级黄色| 国产高清三级在线| 国产成年人精品一区二区| 亚洲精品一区蜜桃| 日本wwww免费看| 免费看av在线观看网站| 日韩欧美精品v在线| 亚洲欧美日韩另类电影网站 | 国产精品无大码| 水蜜桃什么品种好| 日韩一本色道免费dvd| 亚洲精品日本国产第一区| 在线免费十八禁| 日日摸夜夜添夜夜添av毛片| 久久久精品94久久精品| 乱码一卡2卡4卡精品| 国产亚洲5aaaaa淫片| 毛片一级片免费看久久久久| 久久久欧美国产精品| 久久久a久久爽久久v久久| 老司机影院毛片| 国产成人免费观看mmmm| 成年女人在线观看亚洲视频 | 激情 狠狠 欧美| 国产探花在线观看一区二区| 九色成人免费人妻av| 亚洲久久久久久中文字幕| h日本视频在线播放| xxx大片免费视频| 99热这里只有是精品在线观看| 亚洲最大成人中文| 97超视频在线观看视频| 建设人人有责人人尽责人人享有的 | 国产亚洲av嫩草精品影院| 欧美高清成人免费视频www| 黄片wwwwww| 亚洲国产色片| 人妻制服诱惑在线中文字幕| av又黄又爽大尺度在线免费看| 97精品久久久久久久久久精品| 在线精品无人区一区二区三 | 激情 狠狠 欧美| 尤物成人国产欧美一区二区三区| 久久久午夜欧美精品| 我要看日韩黄色一级片| 久久99热这里只有精品18| 亚洲国产最新在线播放| 精品久久久噜噜| 欧美日韩精品成人综合77777| 日韩免费高清中文字幕av| 老女人水多毛片| 成年版毛片免费区| 亚州av有码| 久久精品夜色国产| 九草在线视频观看| 国产成人福利小说| 特大巨黑吊av在线直播| 国产黄片美女视频| 精品一区在线观看国产| videos熟女内射| 自拍偷自拍亚洲精品老妇| 偷拍熟女少妇极品色| 久久精品国产a三级三级三级| 永久网站在线| 久久精品久久精品一区二区三区| 成人美女网站在线观看视频| 神马国产精品三级电影在线观看| 日韩成人av中文字幕在线观看| tube8黄色片| 国产一区二区三区av在线| 亚洲四区av| 久久精品国产亚洲av涩爱| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 亚洲三级黄色毛片| 欧美少妇被猛烈插入视频| 亚洲av中文字字幕乱码综合| 国产亚洲最大av| 亚洲av中文字字幕乱码综合| 亚洲av电影在线观看一区二区三区 | 久久久久久伊人网av| av在线app专区| 国产伦精品一区二区三区视频9| 精品99又大又爽又粗少妇毛片| 看非洲黑人一级黄片| 欧美极品一区二区三区四区| 又大又黄又爽视频免费| 国产综合懂色| 777米奇影视久久| 大又大粗又爽又黄少妇毛片口| 国产黄a三级三级三级人| 青春草视频在线免费观看| 高清av免费在线| 99久久精品一区二区三区| 国产精品三级大全| 国产又色又爽无遮挡免| 午夜免费鲁丝| 国产精品一区二区在线观看99| 性插视频无遮挡在线免费观看| 免费av不卡在线播放| 久久午夜福利片| 国产有黄有色有爽视频| 国产精品熟女久久久久浪| 国产女主播在线喷水免费视频网站| 国产人妻一区二区三区在| 亚洲激情五月婷婷啪啪| 又爽又黄无遮挡网站| 看非洲黑人一级黄片| av线在线观看网站| 五月玫瑰六月丁香| 午夜免费观看性视频| 久久ye,这里只有精品| 人妻 亚洲 视频| 一本色道久久久久久精品综合| 免费看av在线观看网站| 国产熟女欧美一区二区| 色视频在线一区二区三区| 成年av动漫网址| 日韩一本色道免费dvd| 插阴视频在线观看视频| 欧美激情久久久久久爽电影| 国产一区二区亚洲精品在线观看| 久久久久久久久久久丰满| 亚洲精品日韩av片在线观看| 亚洲欧美日韩另类电影网站 | 男人爽女人下面视频在线观看| 一区二区三区免费毛片| 真实男女啪啪啪动态图| 亚洲真实伦在线观看| 毛片女人毛片| 亚洲,欧美,日韩| 日本wwww免费看| 麻豆精品久久久久久蜜桃| av.在线天堂| 亚洲欧美日韩卡通动漫| 国产伦精品一区二区三区四那| 99久久精品热视频| 国产精品蜜桃在线观看| 只有这里有精品99| 成年av动漫网址| 中国三级夫妇交换| 亚洲人成网站在线观看播放| 国产高清有码在线观看视频| 色网站视频免费| 成年人午夜在线观看视频| 午夜福利高清视频| 免费看日本二区| 亚洲国产av新网站| 国产色爽女视频免费观看| 亚洲欧洲日产国产| 亚洲性久久影院| 毛片一级片免费看久久久久| av在线蜜桃| 99热全是精品| 亚洲精品成人久久久久久| 777米奇影视久久| 99久久精品一区二区三区| 欧美一区二区亚洲| 欧美最新免费一区二区三区| 久久久久精品性色| 欧美日韩视频精品一区| av在线app专区| 精品久久久久久久久av| 日本熟妇午夜| 亚洲va在线va天堂va国产| 欧美精品人与动牲交sv欧美| 国产精品一区二区性色av| 国产中年淑女户外野战色| av播播在线观看一区| 亚洲精品乱码久久久v下载方式| 亚洲精品色激情综合| 国产成人午夜福利电影在线观看| 91久久精品国产一区二区成人| 人体艺术视频欧美日本| 黄色视频在线播放观看不卡| 精品人妻偷拍中文字幕| 欧美日韩亚洲高清精品| 国产一区亚洲一区在线观看| 日日摸夜夜添夜夜添av毛片| 一区二区三区免费毛片| 在线观看av片永久免费下载| 特大巨黑吊av在线直播| av又黄又爽大尺度在线免费看| 18+在线观看网站| 亚洲色图综合在线观看| 亚洲欧美精品自产自拍| 日本黄色片子视频| 高清日韩中文字幕在线| 人妻 亚洲 视频| 亚洲欧美日韩卡通动漫| 在线看a的网站| 日韩一区二区三区影片| 九九久久精品国产亚洲av麻豆| 国产成人精品一,二区| 99九九线精品视频在线观看视频| 成人亚洲欧美一区二区av| 男人爽女人下面视频在线观看| av播播在线观看一区| 伊人久久国产一区二区| 91久久精品国产一区二区三区| 免费看光身美女| 一级毛片我不卡| 男女边摸边吃奶| 特大巨黑吊av在线直播| 一级片'在线观看视频| 熟女av电影| 欧美xxxx黑人xx丫x性爽| 欧美精品一区二区大全| 成人亚洲精品av一区二区| 啦啦啦在线观看免费高清www| 欧美日本视频| 欧美成人一区二区免费高清观看| 亚洲av中文av极速乱| 欧美成人午夜免费资源| 一级毛片电影观看| 久久久久久久久久久免费av| 亚洲成人久久爱视频| 男女下面进入的视频免费午夜| 大又大粗又爽又黄少妇毛片口| 日本爱情动作片www.在线观看| 亚洲第一区二区三区不卡| 色视频www国产| 99久久中文字幕三级久久日本| 在线播放无遮挡| 丰满少妇做爰视频| 神马国产精品三级电影在线观看| 97在线人人人人妻| 听说在线观看完整版免费高清| 亚洲经典国产精华液单| 乱系列少妇在线播放| 男女下面进入的视频免费午夜| 欧美潮喷喷水| 天天躁日日操中文字幕| 亚洲av中文av极速乱| 国产乱人偷精品视频| 久久ye,这里只有精品| 九草在线视频观看| 久久午夜福利片| 三级男女做爰猛烈吃奶摸视频| 亚洲综合精品二区| 久久久久久久久久人人人人人人| 一级毛片我不卡| 国产成人午夜福利电影在线观看| 久久女婷五月综合色啪小说 | 亚洲高清免费不卡视频| 欧美人与善性xxx| 久久99热这里只频精品6学生| 看免费成人av毛片| av在线播放精品| 五月开心婷婷网| 国模一区二区三区四区视频| 免费观看av网站的网址| 亚洲成人久久爱视频| 国产精品偷伦视频观看了| 亚洲精品第二区| 三级国产精品欧美在线观看| 久久久久精品性色| 日韩欧美 国产精品| 色婷婷久久久亚洲欧美| 日韩欧美 国产精品| 韩国av在线不卡| 男女下面进入的视频免费午夜| 国产一区有黄有色的免费视频| 一本色道久久久久久精品综合| a级一级毛片免费在线观看| 免费大片18禁| 亚洲色图av天堂| 99视频精品全部免费 在线| 好男人视频免费观看在线| 女人久久www免费人成看片| 一区二区三区四区激情视频| 亚洲精华国产精华液的使用体验| 亚洲av福利一区| 精品视频人人做人人爽| 欧美精品国产亚洲| 午夜免费观看性视频| 欧美一区二区亚洲| 黄色配什么色好看| 国产免费视频播放在线视频| 女人久久www免费人成看片| 亚洲精品国产av成人精品| 身体一侧抽搐| 国产成人aa在线观看| 神马国产精品三级电影在线观看| 日本黄色片子视频| 日本熟妇午夜| 欧美日韩在线观看h| 男人狂女人下面高潮的视频| 深夜a级毛片| 成人亚洲精品av一区二区| 亚洲欧洲国产日韩| 国产 一区 欧美 日韩| 亚洲欧洲日产国产| 中文资源天堂在线| 欧美zozozo另类| 插逼视频在线观看| 简卡轻食公司| 国产午夜精品久久久久久一区二区三区| 国产精品伦人一区二区| 日韩精品有码人妻一区| 国产色爽女视频免费观看| 久久久精品94久久精品| 你懂的网址亚洲精品在线观看| 女的被弄到高潮叫床怎么办| 国产精品爽爽va在线观看网站| 天堂中文最新版在线下载 | 大陆偷拍与自拍| 久热久热在线精品观看| 精品一区在线观看国产| 天堂中文最新版在线下载 | 97人妻精品一区二区三区麻豆| 日韩欧美一区视频在线观看 | 久久精品久久精品一区二区三区| 亚洲激情五月婷婷啪啪| 国产成人精品一,二区| 美女内射精品一级片tv|