• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能創(chuàng)作物版權(quán)歸屬問題及其應(yīng)對(duì)策略

    2020-03-11 23:10:42
    廣西社會(huì)科學(xué) 2020年4期
    關(guān)鍵詞:主體人工智能創(chuàng)作

    (北京大學(xué) 法學(xué)院,北京 100871)

    當(dāng)前,人工智能已經(jīng)成為社會(huì)關(guān)注和學(xué)術(shù)議論的焦點(diǎn)。宏觀層面,人工智能連續(xù)三年寫入政府報(bào)告,已經(jīng)上升為國家發(fā)展戰(zhàn)略,引領(lǐng)著新一輪的工業(yè)革命。微觀層面,人工智能不僅在語音識(shí)別、機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘等領(lǐng)域?qū)崿F(xiàn)重大的技術(shù)突破,更是大舉進(jìn)入人類藝術(shù)創(chuàng)作的世界。如,谷歌人工智能軟件可以自動(dòng)生成音樂唱片,百度、騰訊等公司紛紛啟用人工智能參與新聞創(chuàng)作,微軟“小冰”獨(dú)立創(chuàng)作的詩歌集《陽光失了玻璃窗》已經(jīng)出版發(fā)行,而人工智能創(chuàng)作的畫作“Portrait of Edmond De Belamy”以43.25萬美元的拍賣價(jià)格出售。當(dāng)人工智能的創(chuàng)作內(nèi)容具有一定的經(jīng)濟(jì)價(jià)值和發(fā)展?jié)摿?,版?quán)法層面如何回應(yīng)成為實(shí)踐中的熱點(diǎn)問題。

    21世紀(jì)以來,計(jì)算機(jī)軟件廣泛滲透在文學(xué)藝術(shù)作品的開發(fā)創(chuàng)作中。但是,傳統(tǒng)計(jì)算機(jī)軟件的生成內(nèi)容很大程度上依賴于程序員的創(chuàng)造性輸入,并未引發(fā)關(guān)于作品性質(zhì)以及版權(quán)歸屬的激烈爭(zhēng)論。而今,人工智能的出現(xiàn)以及機(jī)器學(xué)習(xí)軟件的快速發(fā)展深刻改變了藝術(shù)作品的生產(chǎn)和傳播過程,引發(fā)文學(xué)創(chuàng)新的顛覆性變化。在大數(shù)據(jù)的支持下,結(jié)合深度學(xué)習(xí)算法的成功應(yīng)用,人工智能逐步孕育出獨(dú)立的邏輯思維和價(jià)值判斷。人工智能現(xiàn)已在文學(xué)創(chuàng)作、音樂和影視領(lǐng)域表現(xiàn)出獨(dú)特的想象力和創(chuàng)造力。此時(shí),我們需要重新思考計(jì)算機(jī)和人類在版權(quán)創(chuàng)作之間的互動(dòng)關(guān)系,重新平衡技術(shù)產(chǎn)業(yè)發(fā)展與人類文化創(chuàng)新。有鑒于此,本文首先梳理當(dāng)前人工智能創(chuàng)作物上的學(xué)術(shù)爭(zhēng)議,然后考察可行的版權(quán)歸屬模式并進(jìn)行類型化分析,最后從制度層面提出人工智能創(chuàng)作物版權(quán)歸屬的合理化方案。

    一、人工智能創(chuàng)作物的理論爭(zhēng)議

    目前,人工智能創(chuàng)作物在版權(quán)法中的爭(zhēng)議主要體現(xiàn)在兩個(gè)方面:一是客體方面,人工智能創(chuàng)作物是否屬于作品;二是主體方面,人工智能創(chuàng)作物的版權(quán)歸屬。

    首先,版權(quán)客體。本文認(rèn)為版權(quán)客體中的“獨(dú)創(chuàng)性”認(rèn)定應(yīng)當(dāng)堅(jiān)持客觀標(biāo)準(zhǔn),符合“最低限度的獨(dú)創(chuàng)性”的人工智能創(chuàng)作表達(dá)即可成為作品,這里并不存在“主體身份”的判斷。主流觀點(diǎn)基本認(rèn)可,“人工智能雖然不是人,但其創(chuàng)作物應(yīng)該納入版權(quán)客體予以保護(hù)”[1]。既然我們承認(rèn)人工智能創(chuàng)作內(nèi)容在表現(xiàn)形式上與人類創(chuàng)作內(nèi)容并無明顯的區(qū)別,那么在作品客體認(rèn)定中再以是否屬于“人類創(chuàng)作”作為獨(dú)創(chuàng)性的判斷標(biāo)準(zhǔn)毫無意義,實(shí)際上混淆了版權(quán)客體屬性和版權(quán)主體歸屬之間的法律區(qū)別,也不具有司法實(shí)踐中的可操作性。事實(shí)上,法院對(duì)于“獨(dú)創(chuàng)性”的認(rèn)定要求并不高,只要體現(xiàn)了作者某種程度上的選擇和安排,具有客觀識(shí)別的差異性,就能被認(rèn)為具有獨(dú)創(chuàng)性。獨(dú)創(chuàng)性的判定,應(yīng)當(dāng)是隨著技術(shù)和藝術(shù)實(shí)踐的發(fā)展而不斷變化的。僵硬地將智力成果局限在“自然人”的身份中,排斥人工智能創(chuàng)作內(nèi)容的保護(hù),無法解決新技術(shù)條件下的資源配置,損害人工智能技術(shù)的進(jìn)步與創(chuàng)新。進(jìn)一步而言,獨(dú)創(chuàng)性判斷需要法院結(jié)合具體作品類型、作品特征進(jìn)行個(gè)案分析,人工智能軟件學(xué)習(xí)能力的差異會(huì)影響最終創(chuàng)造性勞動(dòng)的水平。比如,體育類、天氣類或者財(cái)經(jīng)類新聞報(bào)道,人工智能軟件完成的是事實(shí)排列組合,并按照固定套路進(jìn)行文本寫作,這種創(chuàng)作不存在選擇判斷的環(huán)節(jié),不具備獨(dú)創(chuàng)性。但是,部分人工智能應(yīng)用可以在機(jī)器學(xué)習(xí)之后提煉出相對(duì)復(fù)雜的邏輯結(jié)構(gòu),形成深刻的內(nèi)容表達(dá),這就具有獲得版權(quán)保護(hù)的可能性。整體上,人類在人工智能作品創(chuàng)造環(huán)節(jié)中的作用根據(jù)應(yīng)用場(chǎng)景的不同而各不相同,徹底地將人工智能創(chuàng)作物排除出版權(quán)客體名錄并不可取。實(shí)踐中,部分人工智能創(chuàng)作物已經(jīng)在出版市場(chǎng)、娛樂市場(chǎng)中證明了藝術(shù)價(jià)值和市場(chǎng)潛力,因而具有獲得版權(quán)保護(hù)的可行性與必要性。

    其次,版權(quán)主體。在確定人工智能創(chuàng)作物可版權(quán)性的基礎(chǔ)上,爭(zhēng)議的關(guān)鍵在于版權(quán)歸屬問題,即當(dāng)多個(gè)主體對(duì)同一作品的產(chǎn)生作出智力貢獻(xiàn)時(shí)誰享有版權(quán)?這涉及創(chuàng)作物版權(quán)利益的合理分配,按照著作權(quán)法第十一條規(guī)定,對(duì)作品作出創(chuàng)作性貢獻(xiàn)的人被視為作者,從而享有作品之上的權(quán)利。但是,為了滿足現(xiàn)實(shí)社會(huì)治理的需要,法人或其他組織在部分情形下也可能會(huì)被視為作者。據(jù)此而言,現(xiàn)行法律一定程度上承認(rèn)了作者身份是擬制的,作者并不等于實(shí)際的創(chuàng)作者,創(chuàng)造僅是權(quán)屬判斷的依據(jù)之一,應(yīng)當(dāng)綜合考慮資本、效用等因素。因此,在人工智能創(chuàng)作的問題上,是由人工智能計(jì)算機(jī)、人工智能使用者、人工智能開發(fā)者或者人工智能投資者來主導(dǎo)版權(quán)層面的利益分配,值得進(jìn)一步研究。目前,堅(jiān)持作者權(quán)理論的學(xué)者認(rèn)為“思想與情感表達(dá)局限于自然人,創(chuàng)造力應(yīng)當(dāng)是人類獨(dú)有的,版權(quán)保護(hù)必須來源于人類創(chuàng)作”[2]。有學(xué)者從生成內(nèi)容獨(dú)創(chuàng)性的角度認(rèn)為“人工智能創(chuàng)作無法獲得法律保護(hù),應(yīng)當(dāng)歸于公有領(lǐng)域”[3]。也有學(xué)者主張“人工智能創(chuàng)作物版權(quán)應(yīng)當(dāng)全部歸屬于人工智能投資者”[4]?!胺墒且豁?xiàng)社會(huì)工程,社會(huì)環(huán)境的不斷變化要求法律最大限度地平衡相互沖突的利益?!盵5]如果我們意識(shí)到作者個(gè)性僅是解決信息資源分配的中介,那么我們會(huì)更加注重在新的技術(shù)條件下怎樣分配資源利益更為合理,并據(jù)此確定權(quán)利歸屬。毫無疑問,未來的文化創(chuàng)作必將是人類與人工智能的有機(jī)結(jié)合,由此產(chǎn)生的文化作品將會(huì)成為社會(huì)生活中的重要組成部分。人工智能產(chǎn)業(yè)發(fā)展需要法律建構(gòu)層面作出回應(yīng),如何最大限度地實(shí)現(xiàn)政策目標(biāo),如何實(shí)現(xiàn)多層級(jí)的社會(huì)利益平衡,這就需要重新反思版權(quán)歸屬的理論和人工智能創(chuàng)作的實(shí)踐。本文對(duì)于版權(quán)主體的討論并不拘泥現(xiàn)有的法律文本,而是從版權(quán)歸屬理論出發(fā)開展合理的分類討論并提出應(yīng)對(duì)方案。

    二、版權(quán)歸屬:從事實(shí)作者到法律作者

    版權(quán)權(quán)利歸屬問題實(shí)質(zhì)上是版權(quán)權(quán)利界定以及利益分配的核心問題。在計(jì)算機(jī)不斷進(jìn)入人類智力領(lǐng)域,不斷提升作品創(chuàng)作性層級(jí)的同時(shí),法律應(yīng)當(dāng)如何回應(yīng)?回顧版權(quán)法的制度演進(jìn),版權(quán)法從誕生之日起就在不斷適應(yīng)技術(shù)的發(fā)展和進(jìn)步。正是以古德堡印刷機(jī)為代表的傳播技術(shù)的變革,引領(lǐng)了版權(quán)制度在歐洲各國的興起;而以互聯(lián)網(wǎng)為代表的數(shù)字技術(shù)的發(fā)展,改變了版權(quán)制度中的侵權(quán)認(rèn)定規(guī)則;人工智能技術(shù)的出現(xiàn)實(shí)質(zhì)上要求我們重新梳理版權(quán)歸屬的理論問題,快速發(fā)展的科學(xué)技術(shù)與長期處于回應(yīng)狀態(tài)的版權(quán)制度之間存在強(qiáng)烈的變革需求。

    在版權(quán)制度發(fā)展的初期,受洛克勞動(dòng)權(quán)理論的影響,“作品歸屬作者”的概念是普遍接受的觀點(diǎn)。世界上第一部版權(quán)法《安娜女王法令》明確規(guī)定作者是版權(quán)保護(hù)的主體。按照洛克的觀點(diǎn)“版權(quán)建立在創(chuàng)造原創(chuàng)東西的獨(dú)特個(gè)體的概念之上”[6],勞動(dòng)是財(cái)產(chǎn)正當(dāng)性取得的基礎(chǔ),作者的智力勞動(dòng)是作品(無形財(cái)產(chǎn))認(rèn)定的關(guān)鍵,只有真正在創(chuàng)作中實(shí)際付出智力勞動(dòng)的人才能享有勞動(dòng)果實(shí)。在文化生產(chǎn)的初期,自然人主體是主要的文化產(chǎn)品生產(chǎn)者以及藝術(shù)活動(dòng)傳播者,勞動(dòng)權(quán)理論作為私權(quán)歸屬的標(biāo)準(zhǔn)具有合理性,創(chuàng)作成果應(yīng)當(dāng)賦予實(shí)際貢獻(xiàn)智力勞動(dòng)的主體。然而,進(jìn)入現(xiàn)代社會(huì)后,抽象物層面中的創(chuàng)作勞動(dòng)和智力貢獻(xiàn)缺乏量化的標(biāo)準(zhǔn),何種形式或者說多大程度的智力勞動(dòng)可以獲得產(chǎn)權(quán)保護(hù)存在不確定性。比如,針對(duì)戲劇、電影等新興藝術(shù)作品,多個(gè)主體都在作品的生產(chǎn)中付出了勞動(dòng),那么誰可以被認(rèn)定為作者?這說明勞動(dòng)權(quán)理論在解釋現(xiàn)代文化生產(chǎn)創(chuàng)作路徑中存在的缺陷,部分財(cái)產(chǎn)權(quán)利的歸屬無法用勞動(dòng)貢獻(xiàn)程度來證明。正如法經(jīng)濟(jì)學(xué)研究者波斯納所言,“知識(shí)產(chǎn)權(quán)在何種程度上可以被認(rèn)定為其所有權(quán)人付出勞動(dòng)所得的獨(dú)占性果實(shí),并不清楚”[7]。

    伴隨著19世紀(jì)浪漫主義思潮,“作品體現(xiàn)人格”的觀念在德國、法國等大陸法系國家興起。黑格爾在《法哲學(xué)原理》中指出,“當(dāng)我占有某物時(shí),理智立即推想到,不僅我所直接占有的東西是我的,而且與此有聯(lián)系的東西也是我的”[8],從黑格爾的觀點(diǎn)出發(fā),財(cái)產(chǎn)是人格在現(xiàn)實(shí)世界實(shí)現(xiàn)自我的方式,作者基于人格對(duì)其作品享有財(cái)產(chǎn)權(quán)利和精神權(quán)利。換言之,作者獲得版權(quán)的正當(dāng)性是因?yàn)樽髌飞习鴦?chuàng)作者的人身屬性,作者和作品之間有緊密聯(lián)系。當(dāng)然,個(gè)人主義的作者觀在當(dāng)代也遭受了諸多批判,福柯指出,“作者觀念的出現(xiàn)形成了文化哲學(xué)史上‘個(gè)人化’的特權(quán)時(shí)期。似乎從被置入這個(gè)以財(cái)產(chǎn)體系為特征的社會(huì)的那一刻起,作者便開始通過重新發(fā)掘過去的話語體系以充實(shí)自己地位,系統(tǒng)地進(jìn)行越界行為”[9]。一定程度上,人格權(quán)的存在無形中擴(kuò)大了著作權(quán)的行使范圍,與規(guī)?;奈幕a(chǎn)不相匹配。

    20世紀(jì)中期,文化產(chǎn)業(yè)的快速發(fā)展改變了作品生產(chǎn)和傳播的方式,職務(wù)作品或者法人作品規(guī)則的出現(xiàn)改變了傳統(tǒng)勞動(dòng)權(quán)、人格權(quán)的理論觀念。例如,針對(duì)電影作品,美國法和中國法都以特殊規(guī)定的方式,認(rèn)定電影作品的著作權(quán)由制片者享有,版權(quán)創(chuàng)作和版權(quán)歸屬實(shí)現(xiàn)了法律層面的分割。針對(duì)軟件作品,《計(jì)算機(jī)軟件保護(hù)條例》規(guī)定:“軟件著作權(quán)屬于軟件開發(fā)者”。權(quán)利人獲得了作品的經(jīng)濟(jì)權(quán)利并不是因?yàn)樗苯觿?chuàng)作完成了作品,而是因?yàn)樗M織文化生產(chǎn)活動(dòng)并承擔(dān)了相應(yīng)的法律責(zé)任。此外,2014年公布的著作權(quán)法(修訂草案送審稿)第十五條也提出允許“作出投資”的法人在特定情形下被視為作者。這種轉(zhuǎn)變符合當(dāng)前知識(shí)產(chǎn)權(quán)基礎(chǔ)理論的演化,激勵(lì)理論代替了勞動(dòng)權(quán)理論成為版權(quán)法的價(jià)值基礎(chǔ)和制度目標(biāo)。按照激勵(lì)理論,知識(shí)產(chǎn)權(quán)制度的立法目的是通過授予創(chuàng)造者的一定期間內(nèi)的排他權(quán)以激勵(lì)創(chuàng)新,提升社會(huì)福利。有學(xué)者直言“版權(quán)的目的絕不是為了給予作者回報(bào),法律這樣做是為了實(shí)現(xiàn)它的最終目的——促使作者將其創(chuàng)造的天才的產(chǎn)品公諸于世”[10]。因此,版權(quán)歸屬的制度方案應(yīng)當(dāng)確保能夠激勵(lì)更多的、更有價(jià)值的創(chuàng)造性成果的生產(chǎn)和傳播。還有學(xué)者強(qiáng)調(diào)“產(chǎn)業(yè)發(fā)展是知識(shí)產(chǎn)權(quán)法的立法目標(biāo),知識(shí)產(chǎn)權(quán)制度是創(chuàng)新產(chǎn)業(yè)發(fā)展的法律保障”[11]。本文認(rèn)為激勵(lì)理論更大程度地回應(yīng)了版權(quán)法律建構(gòu)的合理性,避免了作品貢獻(xiàn)程度或者說原始作者身份的討論,確保促進(jìn)科學(xué)和實(shí)用藝術(shù)進(jìn)步的主體成為權(quán)利人。

    因此,在人工智能創(chuàng)作物版權(quán)歸屬的判斷上,我們既要分析各個(gè)主體在作品生產(chǎn)環(huán)節(jié)中的貢獻(xiàn),也要充分考慮文化產(chǎn)業(yè)的發(fā)展、人工智能技術(shù)的進(jìn)步,確保實(shí)現(xiàn)最佳的社會(huì)效益。法律層面的作者并不一定是完成創(chuàng)造性勞動(dòng)的人,而是最符合版權(quán)法立法目的的人,最大限度促進(jìn)作品生產(chǎn)和傳播的人。當(dāng)存在多個(gè)主體共同實(shí)施創(chuàng)作行為,如何認(rèn)定權(quán)利人?這實(shí)際上是價(jià)值判斷問題,而非事實(shí)判斷問題。我們關(guān)注的并非人工智能創(chuàng)作物事實(shí)上的作者,而是人工智能創(chuàng)作物法律上的歸屬者。

    三、人工智能創(chuàng)作物的版權(quán)歸屬

    人工智能創(chuàng)作物版權(quán)歸屬之上的利益分配,關(guān)系著人工智能產(chǎn)業(yè)的可持續(xù)發(fā)展。如果按照科斯定理,交易成本為零時(shí),初始的法定授權(quán)并不重要,私人談判即可以實(shí)現(xiàn)效率的最大化。然而,現(xiàn)實(shí)情況下,交易成本的存在不可避免,所以人工智能創(chuàng)作物版權(quán)歸屬會(huì)直接決定作品市場(chǎng)利益的分配,影響文化產(chǎn)業(yè)的創(chuàng)新。因此,本文從理論構(gòu)建的角度出發(fā),分析可行的版權(quán)歸屬方案。

    (一)人工智能使用者

    如果計(jì)算機(jī)軟件僅限于輔助人類實(shí)現(xiàn)創(chuàng)意,那么軟件使用者享有創(chuàng)作物的版權(quán)毫無爭(zhēng)議,即使用戶對(duì)于作品的貢獻(xiàn)非常有限。例如,使用者用抖音對(duì)照片和短視頻的“一鍵生成”,作品的版權(quán)仍然歸屬于使用者。這是因?yàn)榘鏅?quán)法對(duì)于獨(dú)創(chuàng)性的要求并不高,人工智能使用者在利用軟件創(chuàng)作過程中對(duì)相關(guān)素材的選擇、編排和篩選足以達(dá)到現(xiàn)行法律要求的獨(dú)創(chuàng)性門檻。

    在目前的技術(shù)語境下,大部分的人工智能軟件仍然扮演著輔助工具的角色,并未擺脫人類控制,因而應(yīng)當(dāng)依照衍生作品的邏輯將創(chuàng)造內(nèi)容的版權(quán)歸屬于實(shí)際使用者,軟件作品的版權(quán)歸屬于實(shí)際開發(fā)者。例如,在語音識(shí)別、機(jī)器翻譯等軟件中,人工智能仍然需要根據(jù)使用者提供的初始信息或者使用者的應(yīng)用操作生成后續(xù)的作品。在整個(gè)作品生產(chǎn)鏈中,使用者真正點(diǎn)燃了創(chuàng)作的火焰,開啟了智能軟件創(chuàng)作的進(jìn)程。盡管內(nèi)容最終呈現(xiàn)環(huán)節(jié)并不存在使用者的參與,但是在創(chuàng)作初期使用者完成了選擇和判斷,作品整體創(chuàng)作仍然是在使用者預(yù)期范圍之內(nèi)。這種情形下,對(duì)于軟件開發(fā)者或者投資者而言,使用者的數(shù)據(jù)輸入是不可預(yù)測(cè)的,其對(duì)于初始軟件的權(quán)利不能涵蓋后續(xù)創(chuàng)作內(nèi)容部分的權(quán)利。部分學(xué)者在討論人工智能創(chuàng)作的問題上,將人工智能輔助創(chuàng)作與人工智能獨(dú)立創(chuàng)作等同,認(rèn)為“應(yīng)當(dāng)完全使用投資原則,將人工智能創(chuàng)作內(nèi)容權(quán)利歸屬于投資者”[12],這種觀點(diǎn)沒有理解人工智能發(fā)展的階段性,忽略人工智能應(yīng)用本身的多樣性,人工智能創(chuàng)作物權(quán)利歸屬應(yīng)當(dāng)結(jié)合具體應(yīng)用場(chǎng)景分類討論。

    (二)人工智能計(jì)算機(jī)

    早期,我們并不相信機(jī)器都能獨(dú)立完成創(chuàng)作,認(rèn)為作品生產(chǎn)不能脫離人類的智力參與。例如,在Burrow-Giles Lithographic Co.v.Sarony案中,法院認(rèn)為“作者是真正創(chuàng)作作品的人,相機(jī)拍攝照片,但是構(gòu)圖來自攝影師”①Burrow-Giles Lithographic Co.v.Sarony,111 U.S.53(1884).。按照法院的思路,照相機(jī)完成的是機(jī)械化的工作,而人類完成的是創(chuàng)造性的工作。美國版權(quán)作品新技術(shù)應(yīng)用委員會(huì)(CONTU)在1978年發(fā)布的報(bào)告更是直接指出:“計(jì)算機(jī)本質(zhì)上與照相機(jī)、打字機(jī)并無區(qū)別,只能按照人類指示的方式完成既定的工作,無法在沒有人類干預(yù)的情形下獨(dú)立創(chuàng)作完成作品”②National Commission on New Technological Uses of Copyrighted Works(1978),http://eric.ed.gov/PDFS/ED160122.pdf.。

    隨著人工智能技術(shù)的發(fā)展,這一問題逐步復(fù)雜化,人工智能軟件程序可能具有獨(dú)立創(chuàng)造完成作品的能力,人類創(chuàng)作與機(jī)器創(chuàng)作之間的界限逐漸模糊?,F(xiàn)代人工智能算法程序要求機(jī)器從數(shù)據(jù)中深度學(xué)習(xí),并完成個(gè)性化的選擇和判斷。雖然程序員可以設(shè)置參數(shù)或者輸入數(shù)據(jù),但是人工智能創(chuàng)作作品的過程已經(jīng)非常接近于人類智力勞動(dòng)的范式。不同于傳統(tǒng)的計(jì)算機(jī)程序,人工智能能夠脫離外部干預(yù)完成創(chuàng)造性的決策。比如,人工智能軟件通過學(xué)習(xí)數(shù)千幅倫勃朗的畫作,分析倫勃朗的繪畫特征,憑借自己的想象力,創(chuàng)作全新的藝術(shù)作品。該畫作并非套用模板規(guī)則后的指令性輸出,程序員并未進(jìn)行事先的選擇和設(shè)定,而是完全由人工智能通過學(xué)習(xí)再獨(dú)立創(chuàng)作完成。整個(gè)過程并不具有可預(yù)期性,主要是人工智能的獨(dú)特創(chuàng)意,并非對(duì)現(xiàn)有作品的模仿復(fù)制。如果按照著作權(quán)法中關(guān)于獨(dú)創(chuàng)性規(guī)定,個(gè)性化的選擇和判斷是由人工智能完成的,而非人類的干預(yù)介入。

    理論上,人工智能作為版權(quán)主體是最符合傳統(tǒng)知識(shí)產(chǎn)權(quán)法中“我造即我有”的理念,承認(rèn)人工智能版權(quán)主體的身份具有直覺上的正當(dāng)性。部分國家的法律正在往這個(gè)方向變革,比如,沙特授予機(jī)器人索菲亞沙特公民的身份,歐盟議會(huì)也在考慮賦予人工智能“特殊的法律身份”[13]。然而,本文認(rèn)為即使賦予人工智能法律主體身份也不能徹底解決版權(quán)利益分配的問題。以美國“猴子自拍案”為例,動(dòng)物保護(hù)組織(PETA)和攝影師斯萊特都認(rèn)可猴子“Naruto”是真正的拍攝者,但爭(zhēng)議焦點(diǎn)在于版權(quán)市場(chǎng)的利益分割。本案中,上訴法院并沒有直接回答照片權(quán)屬的問題,而是強(qiáng)調(diào)猴子并不享有訴訟的主體資格,PETA不能代理其行使法定權(quán)益③Naruto v.Slater,888 F.3d 418(2018).。該案最終在庭外和解,攝影師斯萊特同意將版權(quán)收益的25%交給PETA用于野生猴子的保護(hù)。從該案可以看出,猴子是否具有法律人格并不重要,誰有權(quán)代替猴子行使經(jīng)濟(jì)權(quán)利才是問題的關(guān)鍵。即,賦予動(dòng)物形式意義的法律人格,并不是解決版權(quán)歸屬問題的最終答案。

    因此,人工智能能否被認(rèn)定為民事主體并非人工智能創(chuàng)作物歸屬問題的合理切入點(diǎn)。即使我們承認(rèn)人工智能作為版權(quán)作者,那么由誰來分配創(chuàng)作物上的經(jīng)濟(jì)利益,誰有資格禁止未經(jīng)授權(quán)使用作品的行為?從目前的發(fā)展來看,人工智能尚不能獨(dú)立行使民事權(quán)利以及承擔(dān)民事責(zé)任。美國學(xué)者薩繆爾森進(jìn)一步指出“賦予機(jī)器排他權(quán)違背知識(shí)產(chǎn)權(quán)激勵(lì)創(chuàng)新的制度目標(biāo),機(jī)器創(chuàng)造生產(chǎn)作品并不需要激勵(lì)”[14],人工智能作為法律主體并不能實(shí)現(xiàn)激勵(lì)產(chǎn)業(yè)發(fā)展的政策目標(biāo)。當(dāng)然,我們不能排除未來人工智能可以發(fā)展到強(qiáng)人工智能或者超人工智能的層次,徹底改變?nèi)祟惖恼J(rèn)知,成為獨(dú)立的法律關(guān)系主體①關(guān)于強(qiáng)人工智能或者超人工智能定義或者預(yù)測(cè)存在非常強(qiáng)主觀性,本文并不作過多評(píng)價(jià)。深度學(xué)習(xí)教授理查德·薩頓認(rèn)為,我們現(xiàn)在還沒有強(qiáng)人工智能算法,或許在2030年可以實(shí)現(xiàn)。參見史蒂芬·盧奇、丹尼·科佩克《人工智能》,林賜譯,人民郵電出版社2018版,第124頁。。但在這之前,人工智能計(jì)算機(jī)作為版權(quán)法意義上的權(quán)利主體并不具有法律價(jià)值。

    (三)人工智能開發(fā)者

    對(duì)于人工智能深度學(xué)習(xí)后創(chuàng)作完成的內(nèi)容,人工智能開發(fā)者付出了相當(dāng)程度的勞動(dòng)貢獻(xiàn)。如前文提及的人工智能畫作,軟件開發(fā)者需要搜尋大量作品、編輯相關(guān)數(shù)據(jù),最終促使人工智能軟件創(chuàng)作出令人滿意的畫作。法院在部分領(lǐng)域允許軟件開發(fā)者享有軟件生成內(nèi)容版權(quán),比如,在網(wǎng)易與YY直播著作權(quán)糾紛案件中,法院認(rèn)定用戶生成的游戲片段或者游戲畫面的版權(quán)屬于開發(fā)者,“游戲系統(tǒng)的開發(fā)者已預(yù)設(shè)了游戲的角色、場(chǎng)景、人物、音樂及其不同組合,包括人物之間的關(guān)系、情節(jié)推演關(guān)系,不同的動(dòng)態(tài)畫面只是不同用戶在預(yù)設(shè)系統(tǒng)中的不同操作/選擇之呈現(xiàn)結(jié)果,用戶在動(dòng)態(tài)畫面的形成過程中無著作權(quán)法意義上的創(chuàng)作勞動(dòng)”②粵知法著民初字第16號(hào)判決書(2015)。。法院重申軟件生成內(nèi)容仍然屬于軟件開發(fā)者的事前設(shè)計(jì),游戲軟件使用者并沒有智力勞動(dòng)的貢獻(xiàn)。

    然而,游戲領(lǐng)域的判決結(jié)論是否可以延伸到人工智能領(lǐng)域?將開發(fā)者認(rèn)定為權(quán)利人的決定似乎回避了人工智能創(chuàng)作過程的特殊性。一般情況下,人工智能開發(fā)者即是相關(guān)算法程序的設(shè)計(jì)者,其對(duì)于人工智能軟件技術(shù)的投入和研發(fā)是后續(xù)作品存在的基礎(chǔ)。毫無疑問,開發(fā)者對(duì)機(jī)器學(xué)習(xí)算法的貢獻(xiàn)確保了人工智能創(chuàng)作物最終的實(shí)現(xiàn)。但是,簡單地將所有創(chuàng)作利益分撥給開發(fā)者,可能破壞原軟件作品和新創(chuàng)作作品的關(guān)系,忽略人工智能技術(shù)的特殊性。事實(shí)上,游戲領(lǐng)域作品開發(fā)仍然是調(diào)用原系統(tǒng)的范圍,核心在于程序代碼的既定輸出;而人工智能創(chuàng)作物屬于神經(jīng)網(wǎng)絡(luò)深度學(xué)習(xí)后獨(dú)立創(chuàng)作的新作品,核心在于文學(xué)、藝術(shù)領(lǐng)域的獨(dú)創(chuàng)性表達(dá)。在新作品的創(chuàng)作過程中,開發(fā)者僅在編程算法中貢獻(xiàn)了智力勞動(dòng),機(jī)器學(xué)習(xí)的獨(dú)創(chuàng)性表達(dá)來源于人工智能本身。可以想象,人工智能技術(shù)進(jìn)步在某種程度上促成了轉(zhuǎn)折點(diǎn)——突破了事先定義的規(guī)則,形成獨(dú)立的創(chuàng)作物。因此,對(duì)人工智能的勞動(dòng)并不等同于對(duì)人工智能創(chuàng)作內(nèi)容的勞動(dòng)。具言之,人工智能開發(fā)者并沒有實(shí)質(zhì)性參與新作品的創(chuàng)作,作為版權(quán)主體并不具有合理性。

    (四)人工智能投資者

    人工智能獨(dú)立完成的創(chuàng)作物是大數(shù)據(jù)和深度學(xué)習(xí)的成果,是人工智能本身的獨(dú)創(chuàng)性表達(dá)。在這個(gè)過程中,人工智能投資者、開發(fā)者、使用者以及人工智能本身都對(duì)作品生產(chǎn)作出或多或少的貢獻(xiàn),從創(chuàng)造角度判斷版權(quán)主體并不容易。相反,從投資、效用的角度,人工智能投資者作為版權(quán)主體是現(xiàn)階段合理的制度安排。賦予投資者版權(quán)主體的身份,能夠確保企業(yè)收回前期巨額的市場(chǎng)投入,促進(jìn)創(chuàng)作物迅速進(jìn)入版權(quán)市場(chǎng),在社會(huì)大眾之間傳播和分享。不管是從“促進(jìn)作品傳播”還是從“降低交易成本”角度,投資者作為版權(quán)主體是最適合產(chǎn)業(yè)發(fā)展的配置,能夠?qū)崿F(xiàn)社會(huì)效益的最大化。上述邏輯結(jié)論是從激勵(lì)理論出發(fā),對(duì)人工智能創(chuàng)作主體進(jìn)行的法律擬制。部分國家法律已經(jīng)采用上述思路,比如,英國1988年《版權(quán)、設(shè)計(jì)和專利法》第九條第三節(jié)規(guī)定:“對(duì)于計(jì)算機(jī)生成的文字、戲劇、音樂或藝術(shù)作品,對(duì)該作品的創(chuàng)作進(jìn)行必要安排的人視為作者”。該法強(qiáng)調(diào)的是“必要安排的人”,實(shí)際上也就是組織完成此次文化創(chuàng)作活動(dòng)的人。

    一般而言,人工智能投資者多為大型企業(yè)。在人工智能獨(dú)立創(chuàng)作過程中,企業(yè)招募軟件開發(fā)者、匯總數(shù)據(jù)資料、調(diào)試智能系統(tǒng)、推廣創(chuàng)作成品,實(shí)質(zhì)性地組織文化生產(chǎn)活動(dòng),其他主體僅參與部分工作。這種情況下,投資者是真正有意愿將作品傳播分享給社會(huì)大眾的主體,也是真正激勵(lì)人工智能產(chǎn)業(yè)發(fā)展的主體。實(shí)踐中,部分人工智能投資者可能直接控制軟件開發(fā)團(tuán)隊(duì),比如,谷歌旗下的英國人工智能公司Deeep Mind,這種情形下區(qū)分版權(quán)主體身份意義不大,不存在交易成本的問題。但是,當(dāng)開發(fā)者、使用者人數(shù)眾多時(shí),投資者享有智能創(chuàng)作物的版權(quán)可以確保版權(quán)主體的唯一性,外部被許可人可以迅速尋找到權(quán)利人,提高版權(quán)許可的效率,降低版權(quán)交易的成本。

    (五)公有領(lǐng)域。人工智能創(chuàng)作物回歸公有領(lǐng)域的思路暗合了人工智能生成內(nèi)容不能獲得法律保護(hù)的觀點(diǎn)。有學(xué)者認(rèn)為“人工智能都是應(yīng)用算法、規(guī)則和模板的結(jié)果,不能體現(xiàn)創(chuàng)作者獨(dú)特的個(gè)性,并不能被認(rèn)定為作品”[15]??紤]到人工智能軟件開發(fā)過程中大量利用現(xiàn)有圖像、歌曲和文字作品進(jìn)行學(xué)習(xí)訓(xùn)練,部分場(chǎng)景下人工智能創(chuàng)作內(nèi)容僅是人類藝術(shù)資料庫的匹配和再現(xiàn),確實(shí)不具有版權(quán)保護(hù)的價(jià)值。然而,鑒于人工智能產(chǎn)業(yè)已經(jīng)成為經(jīng)濟(jì)新增長點(diǎn),成為國家發(fā)展戰(zhàn)略,如果相關(guān)創(chuàng)作內(nèi)容不能獲得法律保護(hù),人工智能的產(chǎn)業(yè)創(chuàng)新和技術(shù)發(fā)展必然會(huì)受到?jīng)_擊。人工智能產(chǎn)業(yè)化的過程需要花費(fèi)相當(dāng)大的前期成本,如果不能確保投資者的利益機(jī)會(huì),則會(huì)降低企業(yè)在這方面的投資意愿,社會(huì)公眾也會(huì)因此喪失接觸到最新智能創(chuàng)作內(nèi)容的機(jī)會(huì),不利于提升社會(huì)福利和促進(jìn)文化傳播。

    進(jìn)一步而言,公有領(lǐng)域的制度安排不具有可操作性,大量由人工智能獨(dú)立創(chuàng)作完成的內(nèi)容被隨意使用,可能誘使投機(jī)行為的出現(xiàn),引發(fā)版權(quán)爭(zhēng)議。簡言之,由于獲得人工智能創(chuàng)作內(nèi)容的成本為零,基于創(chuàng)作內(nèi)容而產(chǎn)生的版權(quán)交易、許可、轉(zhuǎn)讓必然會(huì)受到影響。為解決上述問題,一定程度的產(chǎn)權(quán)化是合理的制度安排。從經(jīng)濟(jì)學(xué)角度出發(fā),法律需要在初始權(quán)利歸屬中作出明確的規(guī)定,避免無謂的法律紛爭(zhēng),降低潛在的交易成本,提高社會(huì)的運(yùn)行效率。

    四、版權(quán)歸屬的合理化方案

    人工智能的版權(quán)歸屬應(yīng)當(dāng)放棄以創(chuàng)作為依據(jù),而以激勵(lì)文化創(chuàng)新(投資)和降低作品交易成本(效用)作為判斷標(biāo)準(zhǔn)。具體而言,對(duì)于人工智能輔助人類完成的作品,應(yīng)以人工智能使用者作為版權(quán)主體;對(duì)于人工智能獨(dú)立完成的創(chuàng)作物,應(yīng)以人工智能投資者作為版權(quán)主體。在具體情形下可能需要分別討論。以微軟“小冰”為例,“小冰”與使用者互動(dòng)創(chuàng)作生成的語言對(duì)話作品的版權(quán)應(yīng)當(dāng)歸屬于特定使用者;而“小冰”深度學(xué)習(xí)獨(dú)立創(chuàng)作的詩歌集的版權(quán)應(yīng)當(dāng)歸屬于微軟公司。要滿足這樣的制度理念,在現(xiàn)有版權(quán)法規(guī)則下有三種改進(jìn)方式:

    第一,重新解釋版權(quán)法的現(xiàn)有規(guī)則。有學(xué)者提議“借鑒早已存在且運(yùn)作成熟的法人作品制度安排,將人工智能投資者視為版權(quán)人”[16]。這種方案優(yōu)點(diǎn)在于并不需要改變現(xiàn)有的法律規(guī)范,而將人工智能創(chuàng)作物認(rèn)定為投資者組織意志的產(chǎn)物,最大限度保障投資者的商業(yè)利益,避免實(shí)際創(chuàng)作者是否為自然人的討論,確保價(jià)值觀念和行為準(zhǔn)則的穩(wěn)定性。按照法人作品的規(guī)定,人工智能作品的版權(quán)完全歸于法人所有,降低企業(yè)的投資風(fēng)險(xiǎn)和創(chuàng)新成本。然而,人工智能創(chuàng)造物本身的特殊性可能導(dǎo)致法人作品的解釋和證明存在困難,無法根據(jù)作品屬性進(jìn)行權(quán)利歸屬的合理判斷。傳統(tǒng)上,法人作品要求符合“由單位主持創(chuàng)作”“代表單位意志”以及“作品產(chǎn)生的責(zé)任由單位負(fù)擔(dān)”的要件。一般而言,法人作品的前提是參與創(chuàng)作的自然人與法人有勞動(dòng)合同的關(guān)系。但是,將法人作品的實(shí)踐標(biāo)準(zhǔn)直接映射到人工智能創(chuàng)作物問題上并不匹配,“組織”“意志”和“責(zé)任”等要素如何解讀存在模糊性,增加司法操作的難度,可能導(dǎo)致部分人工智能輔助用戶創(chuàng)作生成的內(nèi)容也被認(rèn)定為法人作品,無限制擴(kuò)大投資者的權(quán)利范圍,因此需要重新解釋版權(quán)法的規(guī)則。

    第二,設(shè)置鄰接權(quán)保護(hù)人工智能創(chuàng)作物。鄰接權(quán)制度更為靈活,可以根據(jù)保護(hù)需要實(shí)現(xiàn)個(gè)性化設(shè)計(jì)。參照?qǐng)D書版式設(shè)計(jì)或者錄音錄像制品的權(quán)利主體條款,規(guī)定“人工智能投資者對(duì)于人工智能軟件獨(dú)立創(chuàng)作生成內(nèi)容,享有許可他人復(fù)制、發(fā)行、通過信息網(wǎng)絡(luò)向公眾傳播并獲得報(bào)酬的權(quán)利”。鄰接權(quán)保護(hù)規(guī)則充分利用了現(xiàn)有的版權(quán)法框架,避免對(duì)法人作品的重新解釋,弱化單獨(dú)立法帶來的理論沖擊,還可以根據(jù)技術(shù)發(fā)展、社會(huì)政策協(xié)調(diào)具體規(guī)則的設(shè)計(jì)。本文認(rèn)為短期之內(nèi)設(shè)立鄰接權(quán)明確人工智能創(chuàng)作內(nèi)容的版權(quán)歸屬以及相應(yīng)權(quán)利內(nèi)容應(yīng)當(dāng)是可行路徑。

    第三,人工智能創(chuàng)作物的單獨(dú)立法。日本擬建立人工智能創(chuàng)作物的注冊(cè)登記制度,確保企業(yè)有權(quán)禁止他人使用登記在冊(cè)的人工智能創(chuàng)作物。部分歐洲學(xué)者建議“參照《關(guān)于數(shù)據(jù)庫法律保護(hù)的指令》,賦予投資者防止第三方對(duì)人工智能創(chuàng)作內(nèi)容進(jìn)行擷取/反復(fù)利用的權(quán)利,保護(hù)期限為創(chuàng)作完成當(dāng)年起5年”[17]。單獨(dú)立法的方式可以確保人工智能創(chuàng)作內(nèi)容的權(quán)利客體、權(quán)利歸屬、保護(hù)期限以及侵權(quán)責(zé)任等實(shí)現(xiàn)靈活的處理,及時(shí)預(yù)防人工智能對(duì)于現(xiàn)有法律制度的沖擊,確保投資者、使用者和社會(huì)公眾之間的利益平衡。但反對(duì)者認(rèn)為“單獨(dú)立法的起步成本高,脫離現(xiàn)有版權(quán)體制,需要重新設(shè)立登記機(jī)構(gòu)、監(jiān)管規(guī)則和執(zhí)行機(jī)制等”[18]。鑒于人工智能技術(shù)的突破式發(fā)展,從技術(shù)理性角度法律需要作出全面的回應(yīng),提供倫理指引,保障社會(huì)發(fā)展的穩(wěn)定性。長遠(yuǎn)而言,人工智能單獨(dú)立法的社會(huì)收益大于潛在的社會(huì)成本,契合人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展的政策導(dǎo)向?,F(xiàn)有版權(quán)制度在解決人工智能權(quán)屬創(chuàng)作物問題上很難將輔助者和投資者完全區(qū)分,如果未來要確保權(quán)利行使過程中的有效性和合理性,單獨(dú)的人工智能法案可能是合理選擇,以便實(shí)現(xiàn)人類創(chuàng)作與機(jī)器創(chuàng)作的分野而治。單獨(dú)立法的方案實(shí)質(zhì)上是面向未來時(shí)代的法律規(guī)范演化,有效平衡人與人工智能之間的相互關(guān)系,避免人工智能可能導(dǎo)致的社會(huì)動(dòng)蕩,保障法治社會(huì)在新技術(shù)革命背景下的轉(zhuǎn)型升級(jí)。

    值得注意的是,本文討論的人工智能創(chuàng)作物版權(quán)歸屬針對(duì)的是初始權(quán)利分配的問題,并不涉及實(shí)踐中的權(quán)屬轉(zhuǎn)讓約定?,F(xiàn)實(shí)情況下,軟件投資者、開發(fā)者與使用者之間都可能達(dá)成關(guān)于權(quán)屬轉(zhuǎn)讓的合同,形成雙方合意的法律安排。比如,人工智能投資者可以與使用者達(dá)成共同創(chuàng)作的合意,共同享有創(chuàng)作物的版權(quán)?,F(xiàn)行版權(quán)法、合同法中關(guān)于權(quán)屬轉(zhuǎn)讓的規(guī)則在人工智能時(shí)代并不存在適用障礙,本文對(duì)此不進(jìn)行詳細(xì)的闡釋。

    總之,隨著計(jì)算機(jī)技術(shù)的發(fā)展以及機(jī)器學(xué)習(xí)能力的提升,人類智力創(chuàng)作和人工智能創(chuàng)作之間的區(qū)別越來越模糊。人工智能的觸角已經(jīng)不僅局限于體力勞動(dòng)的范圍,它正在向文學(xué)藝術(shù)創(chuàng)造領(lǐng)域發(fā)起挑戰(zhàn)。本文無意討論人工智能能否作為民事主體的問題,而是重點(diǎn)分析人工智能創(chuàng)作物版權(quán)歸屬的合理化方案??v觀版權(quán)制度的現(xiàn)代化發(fā)展,版權(quán)歸屬的理論基礎(chǔ)已經(jīng)從勞動(dòng)權(quán)理論、智力貢獻(xiàn)標(biāo)準(zhǔn)以及人格權(quán)理論中走出來,激勵(lì)理論成為判定權(quán)利歸屬正當(dāng)性的主要依據(jù)。從激勵(lì)理論出發(fā),將版權(quán)賦予真正能夠生產(chǎn)和傳播人工智能創(chuàng)作物的主體以及真正實(shí)現(xiàn)創(chuàng)新激勵(lì)的主體,才是最明智的做法。因此,對(duì)于人工智能輔助人類完成的創(chuàng)作物,應(yīng)以人工智能使用者作為版權(quán)主體;對(duì)于人工智能獨(dú)立完成的創(chuàng)作物,應(yīng)以人工智能投資者作為版權(quán)主體。短期來看,設(shè)置鄰接權(quán)制度,保障投資者的利益;長遠(yuǎn)來看,未來的人工智能法案需要明確權(quán)利主體的身份,協(xié)調(diào)人類創(chuàng)作與智能創(chuàng)造之間的關(guān)系,維護(hù)社會(huì)和諧發(fā)展的進(jìn)程。

    猜你喜歡
    主體人工智能創(chuàng)作
    論自然人破產(chǎn)法的適用主體
    創(chuàng)作之星
    創(chuàng)作(2020年3期)2020-06-28 05:52:44
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    《一墻之隔》創(chuàng)作談
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    關(guān)于遺產(chǎn)保護(hù)主體的思考
    論多元主體的生成
    創(chuàng)作心得
    小說月刊(2014年1期)2014-04-23 09:00:04
    乱人伦中国视频| 美女主播在线视频| avwww免费| 纯流量卡能插随身wifi吗| 欧美日韩国产mv在线观看视频| 精品免费久久久久久久清纯 | 国产精品三级大全| 国产成人精品久久二区二区91 | 久久精品国产a三级三级三级| 在线观看免费高清a一片| 最黄视频免费看| 国产男女超爽视频在线观看| 成年人午夜在线观看视频| 在线观看三级黄色| 叶爱在线成人免费视频播放| 亚洲精品第二区| 9色porny在线观看| 欧美变态另类bdsm刘玥| 亚洲国产欧美一区二区综合| 国产成人系列免费观看| 在现免费观看毛片| 黑人猛操日本美女一级片| 在线观看免费日韩欧美大片| 国产精品国产av在线观看| 蜜桃国产av成人99| 久久精品亚洲熟妇少妇任你| 观看美女的网站| av片东京热男人的天堂| 亚洲av中文av极速乱| 热99久久久久精品小说推荐| 国产深夜福利视频在线观看| 成年人午夜在线观看视频| 大片免费播放器 马上看| 免费久久久久久久精品成人欧美视频| 永久免费av网站大全| 欧美人与善性xxx| 亚洲成人免费av在线播放| 韩国av在线不卡| 成人漫画全彩无遮挡| 国产熟女午夜一区二区三区| 高清黄色对白视频在线免费看| 欧美人与善性xxx| 亚洲伊人色综图| 成年人午夜在线观看视频| 国产精品欧美亚洲77777| 观看av在线不卡| 中文字幕人妻丝袜制服| 中文字幕人妻丝袜一区二区 | 久久久久精品人妻al黑| 涩涩av久久男人的天堂| 免费日韩欧美在线观看| 国产精品一区二区在线不卡| 99热网站在线观看| 成人手机av| 中文字幕人妻丝袜制服| 精品少妇黑人巨大在线播放| 三上悠亚av全集在线观看| 777久久人妻少妇嫩草av网站| 精品少妇内射三级| 高清av免费在线| 美女主播在线视频| 高清黄色对白视频在线免费看| 亚洲中文av在线| 另类亚洲欧美激情| 韩国精品一区二区三区| 成年人午夜在线观看视频| 丝袜美足系列| 两个人看的免费小视频| 免费不卡黄色视频| 亚洲一区二区三区欧美精品| 一本一本久久a久久精品综合妖精| 丝袜喷水一区| 成年av动漫网址| 一级黄片播放器| 超碰成人久久| 免费观看性生交大片5| 日日撸夜夜添| 最新的欧美精品一区二区| 免费高清在线观看日韩| 亚洲精品久久成人aⅴ小说| 欧美精品亚洲一区二区| 亚洲av电影在线观看一区二区三区| bbb黄色大片| 人成视频在线观看免费观看| 国产伦人伦偷精品视频| 亚洲人成网站在线观看播放| 美女视频免费永久观看网站| 欧美国产精品va在线观看不卡| 亚洲av电影在线观看一区二区三区| 午夜激情久久久久久久| 国产精品国产三级国产专区5o| 我的亚洲天堂| 成人国产av品久久久| 日日爽夜夜爽网站| 久久综合国产亚洲精品| 在线观看国产h片| 美女扒开内裤让男人捅视频| 99热国产这里只有精品6| 久久久久久久久久久久大奶| 亚洲第一区二区三区不卡| 亚洲少妇的诱惑av| 在线 av 中文字幕| 我要看黄色一级片免费的| 女人爽到高潮嗷嗷叫在线视频| 国产男女内射视频| 中文精品一卡2卡3卡4更新| 男人操女人黄网站| 伦理电影大哥的女人| 91成人精品电影| 国产一级毛片在线| 成年人午夜在线观看视频| 精品一区二区三区av网在线观看 | 一本久久精品| xxx大片免费视频| 精品国产一区二区久久| 亚洲一卡2卡3卡4卡5卡精品中文| 国产av码专区亚洲av| 看免费成人av毛片| 美女午夜性视频免费| 日韩一区二区三区影片| 在线观看国产h片| 欧美日韩亚洲国产一区二区在线观看 | 国产一区二区在线观看av| 亚洲七黄色美女视频| 亚洲男人天堂网一区| 91成人精品电影| 亚洲图色成人| 久久久久久人人人人人| 亚洲三区欧美一区| 黄色视频在线播放观看不卡| 国产免费视频播放在线视频| 啦啦啦在线免费观看视频4| 欧美精品av麻豆av| 成人国产麻豆网| 成人毛片60女人毛片免费| 国产不卡av网站在线观看| av在线老鸭窝| 18禁观看日本| 亚洲四区av| 丝袜美足系列| av国产久精品久网站免费入址| 热re99久久国产66热| 欧美日韩国产mv在线观看视频| 国产视频首页在线观看| 国产精品三级大全| 亚洲欧洲日产国产| 国产精品人妻久久久影院| 午夜老司机福利片| av福利片在线| 99香蕉大伊视频| 人人妻人人澡人人看| 日韩大码丰满熟妇| 高清黄色对白视频在线免费看| 欧美激情高清一区二区三区 | 日韩制服骚丝袜av| 午夜老司机福利片| 午夜老司机福利片| 久久这里只有精品19| 国产国语露脸激情在线看| 亚洲色图 男人天堂 中文字幕| 最新的欧美精品一区二区| 成人手机av| 亚洲精品视频女| 亚洲激情五月婷婷啪啪| 国产黄色免费在线视频| 日韩av在线免费看完整版不卡| 免费高清在线观看日韩| 9热在线视频观看99| 一区二区三区四区激情视频| 亚洲国产最新在线播放| 最近2019中文字幕mv第一页| 亚洲专区中文字幕在线 | 最近最新中文字幕大全免费视频 | 如日韩欧美国产精品一区二区三区| 日韩精品有码人妻一区| 大片电影免费在线观看免费| 看免费av毛片| 老司机影院成人| 亚洲精品中文字幕在线视频| 亚洲少妇的诱惑av| 国产伦理片在线播放av一区| 精品国产露脸久久av麻豆| 久久免费观看电影| 亚洲伊人久久精品综合| 国产视频首页在线观看| 99九九在线精品视频| 在线免费观看不下载黄p国产| 欧美 日韩 精品 国产| 国产又爽黄色视频| 中文字幕人妻丝袜一区二区 | 国产免费一区二区三区四区乱码| 国产精品一区二区精品视频观看| 精品国产超薄肉色丝袜足j| 波多野结衣av一区二区av| 国产成人一区二区在线| 美女脱内裤让男人舔精品视频| 欧美亚洲 丝袜 人妻 在线| 亚洲国产av新网站| 亚洲国产精品一区三区| 亚洲自偷自拍图片 自拍| 99香蕉大伊视频| 国产成人欧美在线观看 | 大话2 男鬼变身卡| 最黄视频免费看| svipshipincom国产片| 91精品伊人久久大香线蕉| 少妇人妻精品综合一区二区| 老熟女久久久| 亚洲,欧美,日韩| 欧美日韩综合久久久久久| 久久99精品国语久久久| 中国三级夫妇交换| 亚洲 欧美一区二区三区| 久久久久精品性色| 亚洲av成人不卡在线观看播放网 | 久久久久久久精品精品| 曰老女人黄片| 乱人伦中国视频| 久久av网站| 亚洲七黄色美女视频| 又大又黄又爽视频免费| 免费av中文字幕在线| 免费日韩欧美在线观看| 91成人精品电影| 国产男女超爽视频在线观看| 免费在线观看黄色视频的| 天美传媒精品一区二区| 黄网站色视频无遮挡免费观看| 80岁老熟妇乱子伦牲交| 欧美精品人与动牲交sv欧美| 国产精品人妻久久久影院| 日韩欧美精品免费久久| 亚洲av在线观看美女高潮| 日韩,欧美,国产一区二区三区| 十八禁人妻一区二区| 多毛熟女@视频| 男人爽女人下面视频在线观看| 在线观看人妻少妇| 美女脱内裤让男人舔精品视频| 菩萨蛮人人尽说江南好唐韦庄| 国产av国产精品国产| 久久久精品区二区三区| 亚洲第一青青草原| 亚洲精品,欧美精品| av一本久久久久| 午夜激情av网站| 亚洲国产看品久久| 国产成人精品久久久久久| 成人国产av品久久久| 日本欧美国产在线视频| 免费黄频网站在线观看国产| 一级毛片黄色毛片免费观看视频| 日韩一卡2卡3卡4卡2021年| 亚洲国产欧美网| 日韩制服丝袜自拍偷拍| 美女高潮到喷水免费观看| 婷婷色综合大香蕉| 亚洲色图综合在线观看| 欧美亚洲日本最大视频资源| 久久av网站| 如日韩欧美国产精品一区二区三区| 国产一区二区 视频在线| 黄网站色视频无遮挡免费观看| 亚洲欧美成人精品一区二区| 一级,二级,三级黄色视频| www.熟女人妻精品国产| 九色亚洲精品在线播放| 国产精品国产av在线观看| 汤姆久久久久久久影院中文字幕| 在线观看国产h片| 热re99久久精品国产66热6| 宅男免费午夜| 18在线观看网站| 久久影院123| 免费看av在线观看网站| 高清视频免费观看一区二区| 一区二区三区精品91| 丰满迷人的少妇在线观看| 久久精品久久久久久久性| 国产精品二区激情视频| 制服诱惑二区| 中文字幕av电影在线播放| 韩国精品一区二区三区| 精品国产一区二区三区久久久樱花| 国产97色在线日韩免费| 99久国产av精品国产电影| 国产成人系列免费观看| 满18在线观看网站| 精品久久蜜臀av无| 美女国产高潮福利片在线看| 精品视频人人做人人爽| 午夜日本视频在线| 综合色丁香网| 男人舔女人的私密视频| 久久国产精品大桥未久av| 七月丁香在线播放| 日本欧美国产在线视频| 欧美黑人精品巨大| 日韩 亚洲 欧美在线| 美女视频免费永久观看网站| 国产一区二区激情短视频 | 香蕉国产在线看| 久久 成人 亚洲| 黑人巨大精品欧美一区二区蜜桃| 午夜福利在线免费观看网站| 国产成人欧美在线观看 | 在线观看国产h片| 国产成人欧美| 五月开心婷婷网| 日韩大片免费观看网站| a级毛片黄视频| 亚洲成人国产一区在线观看 | av片东京热男人的天堂| www日本在线高清视频| 一区二区日韩欧美中文字幕| 超色免费av| 日本爱情动作片www.在线观看| 日韩制服丝袜自拍偷拍| 免费观看av网站的网址| √禁漫天堂资源中文www| 久久精品久久久久久久性| 女人久久www免费人成看片| 成人国产av品久久久| 另类精品久久| 黄色视频不卡| 中国三级夫妇交换| 九色亚洲精品在线播放| 99re6热这里在线精品视频| 精品国产一区二区久久| 色婷婷久久久亚洲欧美| 欧美老熟妇乱子伦牲交| 人人妻人人澡人人看| 不卡av一区二区三区| 国产av一区二区精品久久| 亚洲天堂av无毛| 国产在视频线精品| av视频免费观看在线观看| 哪个播放器可以免费观看大片| 欧美日韩国产mv在线观看视频| 青春草视频在线免费观看| 最新的欧美精品一区二区| 黄色毛片三级朝国网站| 亚洲欧美色中文字幕在线| 纵有疾风起免费观看全集完整版| 9色porny在线观看| 高清在线视频一区二区三区| 国产成人精品久久二区二区91 | 美女视频免费永久观看网站| 大陆偷拍与自拍| 国产精品三级大全| 欧美 日韩 精品 国产| 一级毛片黄色毛片免费观看视频| 国产精品欧美亚洲77777| 欧美 日韩 精品 国产| 你懂的网址亚洲精品在线观看| 夫妻午夜视频| 亚洲精品国产av蜜桃| 久久精品国产亚洲av高清一级| 成人影院久久| 亚洲美女搞黄在线观看| 午夜福利网站1000一区二区三区| av天堂久久9| 久久人人97超碰香蕉20202| 高清黄色对白视频在线免费看| 人人澡人人妻人| 精品亚洲成国产av| 汤姆久久久久久久影院中文字幕| 男男h啪啪无遮挡| 一区二区日韩欧美中文字幕| 欧美日韩福利视频一区二区| 夜夜骑夜夜射夜夜干| 欧美老熟妇乱子伦牲交| 精品一区二区免费观看| 国产 精品1| 亚洲国产日韩一区二区| 久久久久国产一级毛片高清牌| 国产亚洲一区二区精品| 国产av码专区亚洲av| 久久影院123| 男女午夜视频在线观看| 亚洲精品久久久久久婷婷小说| 国产1区2区3区精品| 精品一品国产午夜福利视频| 亚洲天堂av无毛| 女性被躁到高潮视频| 宅男免费午夜| 最近最新中文字幕免费大全7| 国产日韩欧美视频二区| 精品国产一区二区三区久久久樱花| 国产亚洲最大av| 伊人久久大香线蕉亚洲五| 亚洲av欧美aⅴ国产| 日日爽夜夜爽网站| 秋霞伦理黄片| 国产精品秋霞免费鲁丝片| 一级a爱视频在线免费观看| www.av在线官网国产| 亚洲欧洲日产国产| 国产深夜福利视频在线观看| 1024视频免费在线观看| 99久久99久久久精品蜜桃| 亚洲精品一二三| 成人国产av品久久久| 国产野战对白在线观看| 十八禁人妻一区二区| 一本大道久久a久久精品| 亚洲在久久综合| av又黄又爽大尺度在线免费看| 国产成人欧美| 电影成人av| 亚洲婷婷狠狠爱综合网| 国产不卡av网站在线观看| 女人精品久久久久毛片| 精品国产超薄肉色丝袜足j| 大话2 男鬼变身卡| 国产成人免费无遮挡视频| 日韩一区二区视频免费看| 最黄视频免费看| 最近的中文字幕免费完整| 最近中文字幕2019免费版| 精品一区二区三区av网在线观看 | 日韩精品免费视频一区二区三区| 国产一区二区在线观看av| 飞空精品影院首页| 久久99精品国语久久久| 黄色视频在线播放观看不卡| 天堂中文最新版在线下载| 色播在线永久视频| 在线天堂中文资源库| 亚洲情色 制服丝袜| 国产精品久久久人人做人人爽| 又粗又硬又长又爽又黄的视频| 伊人久久国产一区二区| 观看av在线不卡| 麻豆乱淫一区二区| 久久久久久久久久久久大奶| 2021少妇久久久久久久久久久| 午夜福利免费观看在线| 亚洲色图综合在线观看| 国产成人一区二区在线| 男女高潮啪啪啪动态图| 欧美97在线视频| 爱豆传媒免费全集在线观看| 精品国产一区二区久久| 国产无遮挡羞羞视频在线观看| 久久久亚洲精品成人影院| 男人爽女人下面视频在线观看| av.在线天堂| 人妻人人澡人人爽人人| 亚洲av电影在线进入| 黄色毛片三级朝国网站| 久久久久精品人妻al黑| 青青草视频在线视频观看| 蜜桃在线观看..| 欧美中文综合在线视频| 精品一区二区三卡| 中文字幕色久视频| 久久久国产欧美日韩av| 日韩一卡2卡3卡4卡2021年| 精品午夜福利在线看| 三上悠亚av全集在线观看| 国产精品一国产av| 久久精品久久久久久久性| 最新的欧美精品一区二区| 最近的中文字幕免费完整| 久久久久久久久久久久大奶| 成年人午夜在线观看视频| 成年美女黄网站色视频大全免费| 美国免费a级毛片| 国产成人精品在线电影| 国产成人a∨麻豆精品| 黄色一级大片看看| 亚洲,一卡二卡三卡| 成年人免费黄色播放视频| 日本爱情动作片www.在线观看| 欧美黑人欧美精品刺激| 国产精品一区二区在线不卡| 国产又色又爽无遮挡免| 一级毛片电影观看| 欧美变态另类bdsm刘玥| 欧美另类一区| 午夜影院在线不卡| 亚洲av福利一区| 国产成人系列免费观看| 中文字幕色久视频| 国产一区有黄有色的免费视频| 国产成人欧美在线观看 | 亚洲成人一二三区av| 香蕉国产在线看| 欧美亚洲日本最大视频资源| 成人黄色视频免费在线看| 老汉色∧v一级毛片| av在线观看视频网站免费| 黄网站色视频无遮挡免费观看| av在线观看视频网站免费| 韩国高清视频一区二区三区| 在线观看免费日韩欧美大片| 日韩中文字幕欧美一区二区 | 成人国产av品久久久| 波野结衣二区三区在线| 9191精品国产免费久久| 老司机影院毛片| 好男人视频免费观看在线| 成人亚洲欧美一区二区av| 王馨瑶露胸无遮挡在线观看| 欧美日韩综合久久久久久| 亚洲精品国产av成人精品| 天堂中文最新版在线下载| 女性被躁到高潮视频| 国产精品久久久久久人妻精品电影 | 亚洲四区av| 国产福利在线免费观看视频| 国产精品久久久久久精品电影小说| 欧美精品人与动牲交sv欧美| 97精品久久久久久久久久精品| 亚洲av国产av综合av卡| 久久久精品区二区三区| 亚洲天堂av无毛| 久久久久久人妻| 日本vs欧美在线观看视频| av在线老鸭窝| 久久久国产一区二区| 日韩一区二区视频免费看| 亚洲精品国产色婷婷电影| 午夜福利一区二区在线看| 成人影院久久| 中文字幕人妻丝袜一区二区 | 成人亚洲精品一区在线观看| netflix在线观看网站| 狠狠婷婷综合久久久久久88av| 欧美国产精品va在线观看不卡| 中文天堂在线官网| 狂野欧美激情性bbbbbb| 国产精品偷伦视频观看了| 婷婷色av中文字幕| 久久久久精品久久久久真实原创| 老熟女久久久| 各种免费的搞黄视频| 在线观看免费视频网站a站| 中文字幕最新亚洲高清| 欧美黑人欧美精品刺激| 国产1区2区3区精品| 国产av精品麻豆| 在线 av 中文字幕| 午夜日本视频在线| 亚洲精品国产区一区二| 亚洲欧洲国产日韩| 少妇精品久久久久久久| 夫妻午夜视频| 人人妻人人爽人人添夜夜欢视频| 黄色毛片三级朝国网站| 国产有黄有色有爽视频| 丝袜脚勾引网站| 丝袜人妻中文字幕| 亚洲精品国产区一区二| 亚洲美女视频黄频| 搡老岳熟女国产| www.熟女人妻精品国产| 99国产精品免费福利视频| 国产1区2区3区精品| 精品国产乱码久久久久久男人| 亚洲欧美中文字幕日韩二区| 超色免费av| 国产爽快片一区二区三区| 亚洲免费av在线视频| 日韩一区二区视频免费看| 国产精品女同一区二区软件| 亚洲av日韩精品久久久久久密 | 亚洲,一卡二卡三卡| 国产熟女欧美一区二区| 777久久人妻少妇嫩草av网站| 两性夫妻黄色片| 亚洲av在线观看美女高潮| 成人三级做爰电影| 18禁国产床啪视频网站| 一二三四中文在线观看免费高清| 大陆偷拍与自拍| 9热在线视频观看99| 国产精品无大码| 国产乱人偷精品视频| 免费久久久久久久精品成人欧美视频| 欧美激情 高清一区二区三区| 啦啦啦中文免费视频观看日本| 精品国产露脸久久av麻豆| 777久久人妻少妇嫩草av网站| 国产一区二区三区av在线| 久久精品国产a三级三级三级| 一级片'在线观看视频| 黄片小视频在线播放| 精品少妇内射三级| 国产女主播在线喷水免费视频网站| 国产亚洲一区二区精品| 国产一区二区在线观看av| 成年动漫av网址| 亚洲精品久久午夜乱码| 国产有黄有色有爽视频| 免费黄色在线免费观看| 亚洲天堂av无毛| 波多野结衣av一区二区av| 成人影院久久| 人人妻人人澡人人爽人人夜夜| a级毛片黄视频| 亚洲熟女精品中文字幕| 亚洲成人免费av在线播放| 亚洲精品国产色婷婷电影| 成人免费观看视频高清| 亚洲一区中文字幕在线| 亚洲色图 男人天堂 中文字幕| 精品亚洲成国产av| 久久ye,这里只有精品| 久久久国产精品麻豆| 国产精品久久久久久精品电影小说| 成人黄色视频免费在线看| 国产一区有黄有色的免费视频| 青春草亚洲视频在线观看|