• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能生成物的著作權(quán)法保護初探

    2017-01-25 23:31:35
    知識產(chǎn)權(quán) 2017年9期
    關(guān)鍵詞:著作權(quán)法人工智能人類

    劉 影

    人工智能生成物的著作權(quán)法保護初探

    劉 影

    根據(jù)人工智能創(chuàng)作過程對人的依賴程度,將人工智能生成物類型化為來自于人類的生成物(第一類生成物)和非來自于人類的生成物(第二類生成物)。從解釋論的角度來看,第一類生成物可以受到現(xiàn)行著作權(quán)法的保護,而第二類生成物不滿足構(gòu)成作品的要件。從立法論的角度來看,應(yīng)基于激勵理論來考慮第二類生成物著作權(quán)法保護的必要性,但存在一些制度設(shè)計上的障礙。出于促進產(chǎn)業(yè)發(fā)展的政策考量,在人工智能技術(shù)成熟到一定階段時,有必要打破現(xiàn)行著作權(quán)法的規(guī)定給予第二類生成物著作權(quán)法上的保護。

    人工智能 人工智能生成物 知識產(chǎn)權(quán) 著作權(quán)法

    一、問題的提出

    圖靈在1950年發(fā)表的論文《計算機器與智能》(Computing Machinery and Intelligence)中,首次從行為主義角度提出“機器能思考嗎?”這一問題。人工智能(Artificial Intelligence, 縮寫為AI)概念在1956年美國的一次夏季會議(達特茅斯會議)上正式提出。經(jīng)六十余載發(fā)展,人工智能技術(shù)經(jīng)歷了從概念到不斷發(fā)展的成長歷程。伴隨2006年深度學(xué)習(xí)概念的提出,人工智能成為未來技術(shù)發(fā)展的新趨勢①阿爾法狗圍棋(AlphaGo)是一款圍棋人工智能程序,由谷歌(Google)旗下DeepMind公司的戴密斯?哈薩比斯、大衛(wèi)?席爾瓦、黃士杰與他們的團隊開發(fā),其主要工作原理是深度學(xué)習(xí)。2016年3月,該程序與圍棋世界冠軍、職業(yè)九段選手李世石進行人機大戰(zhàn),以4:1總比分獲勝,引發(fā)世人關(guān)注與熱議。,甚至上升為國家政治意識②2015年國務(wù)院印發(fā)的《關(guān)于積極推進“互聯(lián)網(wǎng)+”行動的指導(dǎo)意見》中將人工智能列為“互聯(lián)網(wǎng)+”11項重點推進領(lǐng)域之一。。技術(shù)是一把雙刃劍,雖然人類有望通過人工智能從重復(fù)性腦力活動中解放出來,但是一旦人工智能技術(shù)發(fā)展到一個臨界點,則存在發(fā)生自我進化的可能性。具言之,人工智能通過深度學(xué)習(xí)對人和動物大腦進行仿生模擬,在大數(shù)據(jù)支持下,可以具有邏輯和思維,進而形成自己的價值判斷。為此,有人(如霍金、比爾?蓋茨等)擔(dān)憂人工智能未來可能會脫離人類的控制范圍而成為人類的競爭對手甚至是敵人??茖W(xué)技術(shù)是人的創(chuàng)造物,是人類認識世界、改造世界的工具和手段③李桂花著:《科技的文化》,吉林人民出版社2004年版,第200頁。。只要科學(xué)技術(shù)發(fā)展堅持人的主體性,技術(shù)本身就只能作為客體而存在。因此,為保證人工智能技術(shù)在人類可控范圍內(nèi)發(fā)展,需要前瞻構(gòu)建出一套從技術(shù)到產(chǎn)業(yè)、從社會到倫理、從政策到法律的監(jiān)管規(guī)則。

    知識產(chǎn)權(quán)制度對人類智力成果提供保護。著作權(quán)法保護的客體是自然人創(chuàng)作的具有獨創(chuàng)性的作品。人工智能亦可進行文學(xué)藝術(shù)創(chuàng)作活動,不同于傳統(tǒng)計算機的創(chuàng)作過程,人工智能是以海量數(shù)據(jù)為基礎(chǔ),在此基礎(chǔ)之上不斷學(xué)習(xí)訓(xùn)練,未來可能不再依賴于硬件和事先定義的規(guī)則。換言之,未來的人工智能創(chuàng)作不是開發(fā)者告訴程序如何創(chuàng)作,而是算法本身通過數(shù)據(jù)訓(xùn)練,自己學(xué)會如何創(chuàng)作。日本公立函館未來大學(xué)松原仁教授組建的人工智能團隊通過人工智能創(chuàng)作出小說《電腦寫小說的一天》,并入圍“星新一獎”比賽初審。這部小說的創(chuàng)作,人的貢獻度為80%,人工智能的貢獻度為20%④《人口知能は小説を書けるのか~人とAIによる共同創(chuàng)作の現(xiàn)在と展望》:參見http://pc.watch.impress.co.jp/docs/news/769364.html.??梢钥闯?,目前人工智能創(chuàng)作還依賴于人類,扮演人類創(chuàng)作道具的角色。而事實上,自20世紀50年代計算機技術(shù)興起之后,各國即已對機器創(chuàng)作作品的法律屬性進行過討論,并在計算機僅作為協(xié)助創(chuàng)作的工具而存在這一點上達成共識⑤美國有關(guān)討論See Register of Copyrights,68th Annual Report of The Register of Copyrights(1966),p.4.轉(zhuǎn)自熊琦:《人工智能生成內(nèi)容的著作權(quán)認定》,載《知識產(chǎn)權(quán)》2017年第3期,第3頁注釋?。日本有關(guān)討論參見平成5年11月文化廳發(fā)布的《著作権審議會第9小委員會(コンピュータ創(chuàng)作物関係)報告書》:參見http://www.cric.or.jp/db/report/h5_11_2/h5_11_2_main.html#1_1.。因此,對于依然不能脫離人類控制的人工智能生成物的著作權(quán)法保護問題,可依照計算機衍生作品的邏輯。但是,人工智能創(chuàng)作對人的依賴程度會隨著技術(shù)的發(fā)展而有所改變,不排除在不久之未來人工智能可獨立進行創(chuàng)作的可能性。因此,在討論人工智能創(chuàng)作生成的作品(以下簡稱人工智能生成物)時,有必要根據(jù)人工智能創(chuàng)作過程對人的依賴程度對其類型化,由此就會產(chǎn)生如下問題:從解釋論的角度來看,在現(xiàn)行著作權(quán)法框架下如何評價類型化后的人工智能生成物;從立法論的角度來看,是否有必要對類型化后的人工智能生成物(非直接來自于人的創(chuàng)作)進行保護,如有必要,應(yīng)如何保護。本文主要圍繞以上兩個問題而展開,并在文末給出本人就人工智能生成物著作權(quán)法保護這一問題進行論證后得出的初步結(jié)論。

    二、人工智能生成物的類型與特征

    智能是人類所特有的區(qū)別于一般生物的主要特征,通常被解釋為人類認識客觀事物并運用知識解決實際問題的能力⑥張仰森著:《人工智能原理與應(yīng)用》,高等教育出版社2004年版,第1-3頁。。人工智能研究的一個主要目標是使機器能夠勝任一些通常需要人類的智能才能完成的復(fù)雜工作⑦同注釋⑥,第4頁。。深度學(xué)習(xí)是一種需要大型神經(jīng)網(wǎng)絡(luò)的深層次結(jié)構(gòu),是對人和動物大腦進行仿生模擬的過程,通過特定算法并以大數(shù)據(jù)作為模型不斷訓(xùn)練,進而發(fā)現(xiàn)規(guī)律并形成經(jīng)驗⑧孫志軍、薛磊、許陽明、王正:《深度學(xué)習(xí)研究綜述》,載《計算機應(yīng)用研究》2012年第8期。。制約人工智能發(fā)展的限制條件有神經(jīng)網(wǎng)絡(luò)、大數(shù)據(jù)和算法⑨同注釋⑧。。神經(jīng)網(wǎng)絡(luò)在深度學(xué)習(xí)過程中充當(dāng)模擬人類大腦的角色。目前大型神經(jīng)網(wǎng)絡(luò)的技術(shù)發(fā)展已經(jīng)可以為深度學(xué)習(xí)提供支撐,一旦數(shù)據(jù)和算法這兩個制約條件也被突破,人工智能技術(shù)可能很快會發(fā)生自我進化。這就意味著,人工智能創(chuàng)作通過不斷從案例和數(shù)據(jù)中訓(xùn)練學(xué)習(xí)的算法,無需再像傳統(tǒng)計算機一樣依賴于硬件和事先定義的規(guī)則,進而實現(xiàn)獨立創(chuàng)作。但是需要注意的是,在發(fā)生自我進化前,人工智能創(chuàng)作依然依賴于人類,也即人工智能仍是人類創(chuàng)作的輔助工具,在這個意義上,人工智能創(chuàng)作物可視為傳統(tǒng)的計算機衍生作品。而人工智能一旦發(fā)生自我進化,將不再依賴于人類而獨立進行創(chuàng)作,這時就出現(xiàn)了如何看待人類主體和智能機器主體之間關(guān)系的難題。本文以人工智能創(chuàng)作是否發(fā)生進化為界限,將人工智能生成物類型化為:1.來自于人類的生成物(以下簡稱第一類生成物),可理解為傳統(tǒng)意義上的計算機衍生作品,人工智能仍作為人類創(chuàng)作的輔助工具;2.非來自于人類的創(chuàng)作物(以下簡稱第二類生成物),人工智能創(chuàng)作無需人類事先定義規(guī)則,作為獨立的創(chuàng)作主體。

    如果從人工智能的工作機理來看,可以發(fā)現(xiàn)人工智能生成物具有如下特征:首先,人工智能的創(chuàng)作過程是經(jīng)數(shù)據(jù)解析后再根據(jù)算法而創(chuàng)作出例如音樂、繪畫、小說等作品的,無論是人工智能生成物抑或人類創(chuàng)作的作品,在本質(zhì)上都屬于信息的范疇,其外部表現(xiàn)與人類創(chuàng)作物并無明顯區(qū)別。其次,得益于摩爾定律的發(fā)展,計算機硬件計算能力大幅提升,例如,2016年單張英偉達游戲顯卡就有了2002年之前最強大的超級計算機擁有的能力,特別是通過云服務(wù)和神經(jīng)網(wǎng)絡(luò),極大地提升了神經(jīng)網(wǎng)絡(luò)生成結(jié)果的速度和準確率,進而確保人工智能可在短時間內(nèi)快速學(xué)習(xí)后作出更具效率的判斷,有此作為保障,人類需要花費較長時間才能創(chuàng)作完成的作品,人工智能在極短時間內(nèi)就可以批量完成??梢钥闯觯噍^于人類創(chuàng)作物,人工智能生成物的主要特征為,在外部表現(xiàn)上與人類創(chuàng)作物難以區(qū)分,而在產(chǎn)量上又遠高于人類。

    三、現(xiàn)行著作權(quán)法下的解釋論

    前面已將人工智能生成物類型化為第一類生成物和第二類生成物。事實上,第一類生成物與計算機衍生作品類似,由人類事先定義規(guī)則,計算機作為提高人類創(chuàng)作效率的工具存在,關(guān)于計算機衍生作品的可版權(quán)性等問題的討論由來已久,并已就一些基本問題達成共識⑩例如,計算機軟件的可版權(quán)性問題,具體參照崔國斌著:《著作權(quán)法原理與案例》,清華大學(xué)出版社2014年版,第190-214頁。。因此,在對第一類生成物進行討論時,本文僅就一些傳統(tǒng)計算機衍生作品的既有結(jié)論作一簡要梳理,除此以外,不予過多探討。對于第二類生成物,從技術(shù)發(fā)展來看,人工智能目前還未達到完全脫離人類控制獨立進行創(chuàng)作的階段,但是從技術(shù)和產(chǎn)業(yè)發(fā)展的角度考慮,有必要前瞻考慮第二類生成物的可版權(quán)性等著作權(quán)法問題,這也是本部分討論的重點。

    (一)第一類生成物

    著作權(quán)法保護的客體是作品,而著作權(quán)法意義上的作品是指人的思想或感情的獨創(chuàng)性表達。在這一點上,計算機衍生作品曾經(jīng)備受爭議,所幸各國討論的結(jié)果已就該問題達成一致。如美國“新技術(shù)時代作品使用方式考察委員會”于1978年發(fā)布最終調(diào)研報告,認為計算機程序僅作為被動性協(xié)助創(chuàng)作的工具存在,未直接參與創(chuàng)作行為?同注釋⑤,熊琦:《人工智能生成內(nèi)容的著作權(quán)認定》,《知識產(chǎn)權(quán)》2017年第3期,第5頁。。又如日本文化廳1993年發(fā)布的“著作權(quán)審議會第9小委員會(計算機創(chuàng)作物關(guān)聯(lián))報告書”中,認為計算機系統(tǒng)作為人創(chuàng)造性表達的“道具”而被使用?同注釋⑤,《著作権審議會第9小委員會(コンピュータ創(chuàng)作物関係)報告書》,第9頁。。計算機衍生作品最終被認定為來源于人的創(chuàng)作而非計算機,進而認定具有著作權(quán)法意義上的可版權(quán)性。這一結(jié)論可以適用于本文類型化后的第一類生成物,也即未發(fā)生自我進化的人工智能生成物仍屬于直接來自于人類的創(chuàng)作物,屬于現(xiàn)行著作權(quán)法保護的客體范圍。值得指出的是,日本發(fā)布的報告書中亦提到,目前人工智能和各領(lǐng)域自動化不能完全代替人類的創(chuàng)作行為,通常只是將計算機作為道具而使用,但對技術(shù)的把握仍在進行中,隨著技術(shù)的發(fā)展,計算機的角色從輔助工具轉(zhuǎn)換為創(chuàng)作主體,則有必要重新審視計算機衍生作品的可版權(quán)性問題。如果第一類生成物屬于現(xiàn)行著作權(quán)法保護的客體范圍,那么在作者的認定上,仍可遵循計算機衍生作品的一般邏輯。綜言之,從解釋論的角度看,第一類生成物具有可版權(quán)性,屬于著作權(quán)法保護的客體范圍,權(quán)利主體的認定與計算機衍生作品具有邏輯上的一致性,因此受到現(xiàn)行著作權(quán)法的保護。

    (二)第二類生成物

    人工智能依賴于神經(jīng)網(wǎng)絡(luò),神經(jīng)網(wǎng)絡(luò)通過多層感知器實現(xiàn)點與點的連接,多層感知器可分為三層:輸入層(input layer)、隱藏層(hidden layer)以及輸出層(output layer)。輸入層接收輸入模式,輸出層包含一個分類列表或輸入模式可以映射的輸出信號,隱藏層提取輸入數(shù)據(jù)中的顯著特征,具有有關(guān)輸出的預(yù)測能力?[加]西蒙漢金著:《神經(jīng)網(wǎng)絡(luò)與機器學(xué)習(xí)》,申富饒、徐燁、鄭俊、晁靜譯,機械工業(yè)出版社2011年版。。根據(jù)神經(jīng)網(wǎng)絡(luò)的工作機理,可將人工智能創(chuàng)作理解為數(shù)據(jù)收集、提取特征量進行加工、輸出的過程。我國現(xiàn)行《著作權(quán)法》規(guī)定,構(gòu)成著作權(quán)法語境下的作品需要具備如下要件:1.思想或情感的表達;2.具有獨創(chuàng)性的表達;3.屬于文學(xué)、藝術(shù)或者科學(xué)領(lǐng)域的作品。前面已提及,人工智能生成物的特點之一在于外部表現(xiàn)上與人類創(chuàng)作物難以區(qū)分,鑒于這一特點,第二類生成物和第一類生成物與人類創(chuàng)作物一樣,均屬于表達,因此不屬于不受著作權(quán)法保護的思想范圍。人工智能生成物所屬領(lǐng)域問題,第二類生成物并未超出文學(xué)、藝術(shù)或者科學(xué)領(lǐng)域,因此第二類生成物也未違反要件3。在解釋人工智能生成物是否構(gòu)成著作權(quán)法保護的作品時,最具爭議的問題要集中在要件1和2,也即第二類生成物是否屬于思想或情感的范圍,以及是否具有獨創(chuàng)性。

    關(guān)于要件2,獨創(chuàng)性要求作品是獨立完成且具有最低限度的創(chuàng)造性,但獨立創(chuàng)作不應(yīng)是作品是否應(yīng)該受到保護的理由,最低限度的創(chuàng)造性才是,獨立創(chuàng)作是權(quán)利歸屬或侵權(quán)認定的判斷要素?喬麗春:《“獨立創(chuàng)作”作為“獨創(chuàng)性”內(nèi)涵的證偽》,載《知識產(chǎn)權(quán)》2011年第7期,第35-38頁。。最低限度的創(chuàng)造性只是一種質(zhì)的要求,并沒有準確的定量或定性標準。一般來說,偏向人格權(quán)說的學(xué)者強調(diào)作品應(yīng)該通過可感知的形式體現(xiàn)個性。但是,作為功能性作品的計算機程序、數(shù)據(jù)庫等作品,未必包含作者個性,由于職務(wù)需要而完成的作品中也很難說是反映了著作權(quán)人的個性。在著作權(quán)人是法人的情況下,強調(diào)法人個性這種觀念本身是存在問題的。對此,日本學(xué)者中山信弘從確保文化多樣性的角度對獨創(chuàng)性要件的意義進行了重新解構(gòu)?[日]中山信弘著譯:《軟件的法律保護》,郭建新譯,大連理工大學(xué)出版社1988年9月第1版。。第二類生成物在外部表現(xiàn)上與人類創(chuàng)作物并無太大區(qū)別,又鑒于著作權(quán)法對創(chuàng)作物獨創(chuàng)性只要求最低標準,如果從確保文化多樣性的角度來考慮第二類生成物的著作權(quán)法保護,不能絕對排除其屬于作品范圍的可能性。事實上,對于機器是否具有創(chuàng)作天賦這一問題,有著作認為,計算機富有創(chuàng)造力,卻缺乏人類擁有的現(xiàn)實世界的經(jīng)驗,因此它們的思維具有不連貫性?[美]雷·庫茲韋爾著:《機器之心》,胡曉姣、張溫卓瑪、吳純潔譯,中信出版集團2016年版,第205頁。。一系列旨在測試世界上最好的人工智能系統(tǒng)和人類智商之間的勝負關(guān)系的試驗表明,人工智能的智力目前已經(jīng)達到4歲兒童的水平?http://tech.163.com/api/15/1010/09/B5IBVLOE00094P0U.html.。在現(xiàn)行《著作權(quán)法》的規(guī)定下,4歲兒童的作品并未被排除在保護范圍外。換言之,作品創(chuàng)作主體思維的縝密性或連貫性并不能直接推導(dǎo)出作品不受保護的結(jié)論。

    關(guān)于要件1,思想或情感的表達這一要件的判斷往往會變成對思想和表達進行二分的過程,其主要目的在于排除對于思想或情感這類抽象的思維方式的保護,而只保護人類演繹、聯(lián)想后形成自己觀點、立場后的表達。對于第二類生成物,其主要基于大數(shù)據(jù)分析、內(nèi)容理解和自然語言生成等技術(shù)實現(xiàn),基本創(chuàng)作流程分為數(shù)據(jù)采集、數(shù)據(jù)分析、自動創(chuàng)作等環(huán)節(jié)。從第二類生成物的創(chuàng)作過程可以看出,計算機可以完成邏輯性較強的工作,因為邏輯建立在清楚而簡單的規(guī)則之上,但是思想或情感卻很難用機械的方式解釋,因此對于第二類生成物來說,很難想象其可以像人類一樣表達自己的觀點和立場。事實上,如何讓一臺機器人擁有一顆人類一樣的心靈,也是人工智能領(lǐng)域的專家們最為艱難的課題。即使第二類生成物可以脫離人類獨立進行創(chuàng)作,但在文義解釋上,也很難認定其是思想或情感的表達。

    綜上所述,第二類生成物在解釋論上很難構(gòu)成現(xiàn)行著作權(quán)法意義上的作品,因此也不存在作者認定的問題。但是,第二類生成物的產(chǎn)生是技術(shù)進步帶給人類文化的一種新的表現(xiàn)形式,在不久之未來,第二類生成物可能會存在于甚至是大量存在于人類社會,起到繁榮人類文明的作用。著作權(quán)法的立法目的是通過保護創(chuàng)作者的權(quán)利、促進作品的創(chuàng)作和傳播來實現(xiàn)促進文化創(chuàng)新的目的,因此有必要從立法論的角度來審視第二類生成物著作權(quán)法保護的可能性。

    四、人工智能生成物立法論上的探討

    (一)第二類生成物著作權(quán)法保護的必要性

    一般來說,知識產(chǎn)權(quán)正當(dāng)性依據(jù)主要分為自然權(quán)論和激勵理論兩種觀點。英國思想家洛克的自然權(quán)論中貫穿一個最樸素的邏輯,因為有勞動,所以要保護。暫且不論洛克的自然權(quán)論所受到的詬病,其至少為我們提供一個基本信念:每個人的勞動成果都應(yīng)該得到尊重。另一方面,激勵理論內(nèi)在邏輯是,如果過度寬容免費使用,對于模仿者太過有利,從而可能導(dǎo)致意欲對創(chuàng)作活動進行投資的先行者的數(shù)量減少。為防止這種問題發(fā)生,應(yīng)該考慮在一定程度上禁止免費使用?[美]Robert P.Merges et al,Intellectual Property in the New Technological Age,2-24(4th ed.,2006).。將兩種主要理論進行比較可知,洛克的自然權(quán)說針對已經(jīng)發(fā)生的勞動成果而言,也即知識由智力創(chuàng)作者生產(chǎn),如不尊重作為知識產(chǎn)權(quán)源泉的智力創(chuàng)作者,則知識之源可能面臨枯竭的危險。但從知識產(chǎn)權(quán)制度的價值目標來看,相較于自然權(quán)論,面向未來的激勵理論更為符合社會整體價值。從提高社會整體福利這一點來看,激勵理論作為說明知識產(chǎn)權(quán)正當(dāng)化的根據(jù)更具說服力。這是因為,如果對搭便車行為不加以制止,則不能確保投資者的投資回收機會,會導(dǎo)致致力于知識創(chuàng)造的人的創(chuàng)作意愿減弱,公眾會因為知識總量的萎縮而蒙受不利。

    從立法論的角度來考慮第二類生成物著作權(quán)法保護的必要性時,基于自然權(quán)論進行解釋存在一定難度。這是因為,洛克的自然權(quán)論是以人生而為人的自然權(quán)為出發(fā)點,而現(xiàn)階段人工智能顯然還不具有可與自然人等同的人權(quán),因此很難將自然權(quán)論作為賦予第二類生成物一定期限著作權(quán)保護的正當(dāng)性基礎(chǔ)。當(dāng)然,人工智能技術(shù)通過類人模仿而具有一定程度的“人性”,是否應(yīng)賦予人工智能以“人權(quán)”,這樣的討論已出現(xiàn)?[美]庫茲韋爾著:《奇點臨近》,李慶誠、董振、田源譯,機械工業(yè)出版社2011年版,第80頁。。但是,即使存在賦予人工智能人權(quán)的可能性,可在一定程度上將人工智能生成物與人類創(chuàng)作物等同視之,但也只能將自然權(quán)論作為解釋第二類生成物是否受著作權(quán)保護的消極理由,而非積極理由?日本學(xué)者田村善之認為,人們創(chuàng)造了某種物這一命題,通過以實現(xiàn)效率為目標的知識產(chǎn)權(quán),成為使制約他人自由獲得正當(dāng)化的消極根據(jù)。。那么,基于激勵理論來解釋是否妥當(dāng)呢?人工智能的應(yīng)用前景十分廣闊,未來所能帶來的利益不可估量,但其產(chǎn)業(yè)化過程又需要耗費相當(dāng)大的投資。因此,從確保相關(guān)人員獲得投資回報機會的角度來看,應(yīng)該肯定給予第二類生成物制度上保護的必要性。

    另一方面,如果不給予第二類生成物制度上的保護,可能會導(dǎo)致僭稱內(nèi)容問題?[日]福井健策:《人工智能和著作權(quán)2.0——機器人創(chuàng)作的擴大如何改變著作權(quán)制度》,載《コピライト》2015年第652期,第16-17頁。。具言之,人工智能生成物外部表現(xiàn)上與人類創(chuàng)作的作品難以區(qū)分,這一特點容易誘使一些人對第二類生成物主張權(quán)利的投機行為。僭稱內(nèi)容問題更容易存在于對于一些有價值的第二類生成物的二次利用上。例如,人工智能獨自創(chuàng)作的小說,其作為第二類生成物而存在,有人想要將此小說拍成電影,如果這部小說本身不享有任何權(quán)利,那么最后拍攝成功的電影也將由此失去享有電影著作權(quán)的權(quán)利基礎(chǔ),而一些投機者會因此對原本不享有著作權(quán)的作品主張權(quán)利。僭稱內(nèi)容問題直接導(dǎo)致本不應(yīng)受著作權(quán)法保護的客體受到保護,實際不存在的著作權(quán)人或本來不具備資格的人享有作者的權(quán)利。這會帶來如下后果:第一,在權(quán)利人實際不存在的情況下,著作權(quán)法規(guī)定的權(quán)利存續(xù)期間變得半虛構(gòu)化;第二,一旦相關(guān)業(yè)者覺察到僭稱內(nèi)容問題的存在,會對內(nèi)容相關(guān)許可業(yè)務(wù)風(fēng)險有所顧忌,而第二類生成物與人類創(chuàng)作物難以區(qū)分,業(yè)者則不得已只能在風(fēng)險之下進行許可業(yè)務(wù),由此一來會給整體內(nèi)容許可業(yè)務(wù)帶來萎縮效果;再者,由于很難從外部表現(xiàn)上鑒定一個作品是第二類生成物還是人類創(chuàng)作物,因此只要知情者不告發(fā),僭稱行為被揭發(fā)的可能是很小的。綜合以上考慮,有學(xué)者認為,解決此問題的對策是從根本上滅殺僭稱行為的誘因?[日]奧邨弘司:《人工智能生成內(nèi)容與著作權(quán)——以著作物性為中心》,載《Patent》2017年第2期,第15頁。。也即賦予第二類生成物與第一類生成物同樣的著作權(quán)保護,這樣就可達到祛除病灶之效果。

    (二)第二類生成物著作權(quán)立法上的主要問題

    以上從積極理由和消極理由兩方面來說明了第二類生成物著作權(quán)法保護的必要性。從結(jié)論來看,基于激勵理論來討論是否賦予第二類生成物財產(chǎn)權(quán)更具合理性。從確保人工智能產(chǎn)業(yè)投資回報機會的角度看,有必要給予第二類生成物著作權(quán)法上的保護。但是,如果給予第二類生成物以著作權(quán)法保護,在立法上存在以下幾個問題需要探討。

    第一,作品的要件認定。前面已提及,即使人工智能發(fā)生進化脫離人類控制進行獨立創(chuàng)作,但是鑒于思想或情感為人類所特有,在這個意義上,第二類生成物很難突破其可被認定為是思想或情感的表達的藩籬?日本知識產(chǎn)權(quán)戰(zhàn)略本部發(fā)布的《知識產(chǎn)權(quán)推進計劃2016》對該問題亦持否定態(tài)度。http://www.kantei.go.jp/jp/singi/titeki2/kettei/chizaikeikaku20160509.pdf#search=%27%E7%9F%A5%E7%9A%84%E8%B2%A1%E7%94%A3%E6%8E%A8%E9%80%B2%E8%A8%88%E7%94%BB2016%27,參見第8頁。。因此,如果給予第二類生成物著作權(quán)法保護首先需要修改作品的認定要件。讓機器主體具有思想、信念、欲望、情感等這些自然人才有的特征進而使其成為真正的智能主體,是人工智能技術(shù)發(fā)展的愿景。從技術(shù)發(fā)展的角度來看,我們試圖設(shè)想如下場景:一臺機器人給我們發(fā)來“今天很開心”這樣一則消息,以此來表達他/她的情感,并試圖與我們進行互動。在這種情況下,思想或情感將不再是人類的特權(quán)。如果實現(xiàn)這一技術(shù)愿景的可能性不完全被排除,結(jié)合著作權(quán)法促進文化創(chuàng)新的立法目的,再來考慮作品認定要件,思想或情感的表達主體則無需桎梏于自然人,因為生物大腦所能產(chǎn)生的信息和人工智能所能產(chǎn)生的并無本質(zhì)區(qū)別。雖然這與洛克的自然權(quán)論相違背,但在技術(shù)發(fā)展所帶來的產(chǎn)業(yè)利益面前,重新進行制度設(shè)計顯然可以為人類社會帶來更多福祉。

    第二,權(quán)利歸屬。如果人工智能具有人類一樣的思維,可以通過獨立創(chuàng)作來表達自己的情感,心智創(chuàng)作的主體則不再限于人類,因為人工智能一樣可以做到。那么,人工智能是否同自然人一樣可以成為其生成物的權(quán)利主體,也即如何認定人工智能主體的法律地位這一問題自然就成了立法論探討上的邏輯歸屬。雖然在技術(shù)上的確存在“智能代人”的可能性,但是如果從人類主體與智能主體的關(guān)系來看,我們并不愿看到二者最后發(fā)展成競爭關(guān)系或?qū)龟P(guān)系的結(jié)果,而是期冀著一個人機協(xié)同的美好未來。在人機協(xié)同的策略設(shè)計中,為避免機器失控,有必要打破算法黑箱,引入機器算法的“倫理審計”,厘清其中的價值、利益、權(quán)利、責(zé)任與義務(wù),并在規(guī)則制定上確保人類的絕對控制權(quán)。對此,英國《機器人和機器系統(tǒng)的倫理設(shè)計和應(yīng)用指南》中提到,人類是負責(zé)任的主體,而不是機器人,應(yīng)確保找到某一機器人責(zé)任人的可能性?Robots and Robotic Devices: Guide to the Ethical Design and Application of Robots and Robotic Systems, BS 8611:2016, British Standards Inst.,2016; shop.bsigroup.com/Product Detail?pid=000000000030320089.。因此,在探討人工智能技術(shù)的發(fā)展是否可能帶來權(quán)利主體轉(zhuǎn)移這一問題時,我們也應(yīng)克服擬人思維所帶來的陷阱,不應(yīng)將人工智能想象成為同人類并列的法律主體。

    如果人工智能不能作為權(quán)利義務(wù)的主體,而出于產(chǎn)業(yè)發(fā)展的政策考量,又有必要給予第二類生成物以著作權(quán)法保護,那么應(yīng)如何對權(quán)利歸屬做出現(xiàn)實安排呢?現(xiàn)行《著作權(quán)法》確定著作權(quán)歸屬的一般原則是作者享有著作權(quán)?現(xiàn)行《著作權(quán)法》第11條第1款。。作為一般原則的例外,還存在職務(wù)作品這種著作權(quán)人并非原始創(chuàng)作主體的制度安排?現(xiàn)行《著作權(quán)法》第16條。。一般來說,職務(wù)作品的創(chuàng)作事實上代表單位的意志而進行。熊琦教授認為,從保護投資者利益的角度出發(fā),人工智能生成內(nèi)容在著作權(quán)法上也可視為代表設(shè)計者或訓(xùn)練者意志的創(chuàng)作行為,將人工智能的所有者視為作者在制度上不存在障礙?同注釋⑤,熊琦:《人工智能生成內(nèi)容的著作權(quán)認定》,載《知識產(chǎn)權(quán)》2017年第3期,第8頁。。但是第二類生成物的創(chuàng)作并不依賴于人類事先設(shè)定的規(guī)則,將此過程解釋為代表設(shè)計者或訓(xùn)練者意志的創(chuàng)作行為未免有些牽強。在現(xiàn)行著作權(quán)法框架下,電影作品的權(quán)利歸屬亦是出于政策考量而做出的制度安排?現(xiàn)行《著作權(quán)法》第15條。。立法者之所以選擇了一種對投資方也即制片人最為有利的規(guī)則,其理由主要有兩點:一是確保投資者的回報機會;二是考慮參與到電影創(chuàng)作過程中的人員較多,避免權(quán)利被過度分割而影響市場化?崔國斌著:《著作權(quán)法:原理與案例》,北京大學(xué)出版社2014年版,第332頁。。這兩點理由對于第二類生成物的權(quán)利歸屬規(guī)則的設(shè)計同樣適用。首先,確保投資者的回報機會已經(jīng)在前面重點論述過,理應(yīng)予以考慮。第二點理由也適用,這是因為第二類生成物的創(chuàng)作是人工智能的開發(fā)者、人工智能系統(tǒng)的所有者、人工智能系統(tǒng)的使用者等眾多人共同努力的結(jié)果。因此,第二類生成物的權(quán)利也存在被過度分割的風(fēng)險。有基于此,應(yīng)將第二類生成物的權(quán)利設(shè)計為歸屬于對第二類生成物的創(chuàng)作負有責(zé)任的一方。這樣一來,人工智能的所有者便成為最具可能性的選項。但是,一般來說,著作權(quán)分為著作財產(chǎn)權(quán)和著作人格權(quán)。在上述人工智能的所有人是非自然人而是法人的情況下,第二類生成物存在著作人格權(quán)沒有享有主體的問題。鑒于第二類生成物原本不存在人格利益,因此可以將自然人享有的發(fā)表權(quán)、修改權(quán)以及保持作品完整權(quán)用著作財產(chǎn)權(quán)來替代。另外,關(guān)于署名權(quán)的問題,可考慮將作品原始歸屬于發(fā)表第二類生成物的責(zé)任人,也即人工智能的所有者。

    第三,國際保護。作為保護文學(xué)和藝術(shù)作品的國際公約,《伯爾尼公約》并沒有直接規(guī)定作品一定為人類所創(chuàng)作,但是第3條第1款確定了國民的概念,也即本條約所保護的作品,其作者應(yīng)是能夠成為權(quán)利義務(wù)主體的國民。換言之,第二類生成物并不在公約的保護范圍內(nèi)。《伯爾尼公約》于1886年簽訂,其滯后于一百多年后人類所關(guān)注的新技術(shù)進展,實屬當(dāng)然。但是,為了更好地促進技術(shù)發(fā)展,制度設(shè)計應(yīng)隨著人類社會的進步而變更,因此有必要在國際條約上也給予相應(yīng)的回應(yīng)。

    (三)第二類生成物著作權(quán)法保護的風(fēng)險

    第二類生成物著作權(quán)立法,不僅存在上述制度設(shè)計上的問題,還可能因為前面提及的人工智能生成物的自身特點,而產(chǎn)生如下風(fēng)險:第一,反公地悲劇(The Tragedy of Anticommons)?See Michael A.Heller,The Tragedy of Anticommons:Property in the Transition from Marx to Markets,111 Harv.L.Rev.621()1998, Michael A.Heller&Rebecca S.Eisenberg,Can Patents Stifle Innovation?The Anti-commons in Biomedical Research,280 Sci.698(1998).。該理論來自于公地悲劇(Commons Theory),如果牧草地任人使用,則會導(dǎo)致濫墾或濫捕,其結(jié)果是造成土地荒廢。相反,反公地悲劇是指權(quán)利的過多存在會阻礙利用,進而導(dǎo)致創(chuàng)新停滯。人工智能在產(chǎn)量上遠高于人類,假設(shè)現(xiàn)行著作權(quán)法沖破權(quán)利客體上的制度障礙,給予第二類生成物著作權(quán)法保護,將直接導(dǎo)致著作權(quán)大量存在的問題。大量碎片化權(quán)利的存在,會增加知識產(chǎn)權(quán)許可的交易成本,進而阻礙作品的使用,這與知識產(chǎn)權(quán)法促進使用的立法初衷不符。同時,大量人工智能作品的存在會導(dǎo)致表達的選擇范圍受限,創(chuàng)作者出于對著作權(quán)人權(quán)利行使的擔(dān)憂,創(chuàng)作活動也會由此而受到影響。第二,過剩保護問題。著作權(quán)法對獨創(chuàng)性標準的要求不同于專利法,只需要達到最低的創(chuàng)造性即可。由此,第二類生成物大量存在的情況下,這些人工智能作品很可能是類似或相近作品,如果給予這些作品同樣的著作權(quán)保護強度,會導(dǎo)致一些獨創(chuàng)性不高的作品享有過剩的權(quán)利。

    結(jié) 論

    人工智能有望替代諸多人類腦力勞動,除可以進行作為本文討論對象的小說、音樂、繪畫等創(chuàng)作活動,亦可進行發(fā)明創(chuàng)造活動。在這種情況下,如何評價人工智能發(fā)明的可專利性及權(quán)利歸屬等問題,本文暫不予涉獵,留作日后單獨討論。而根據(jù)本文的討論,作為人工智能生成物的第一類生成物可遵循計算機程序的著作權(quán)法保護的邏輯,其屬于現(xiàn)行著作權(quán)法保護的客體范圍,可以受到現(xiàn)行著作權(quán)法的保護。另一方面,作為人工智能生成物的第二類生成物在解釋論上,很難認定其滿足現(xiàn)行著作權(quán)法受保護的要件。但是,出于對促進產(chǎn)業(yè)發(fā)展的考慮,應(yīng)確保人工智能相關(guān)人員能夠回收其資本投入和智力投入的機會,因此,當(dāng)產(chǎn)業(yè)發(fā)展到一定規(guī)模,人工智能可實現(xiàn)獨立創(chuàng)作時,有必要修改現(xiàn)行著作權(quán)法的相關(guān)規(guī)定,給予這類生成物以制度上的保護。但是,在制度設(shè)計上應(yīng)確保人的主體性與控制權(quán),避免陷入擬人思維的陷阱。此外,應(yīng)考慮到反公地悲劇問題,應(yīng)賦予第二類生成物相對排他權(quán),也即在碎片化權(quán)利大量存在的情況下,限制第二類生成物的著作權(quán)人肆意行使停止侵害的權(quán)利。再者,為防止過剩保護問題,應(yīng)充分利用現(xiàn)行著作權(quán)法中獨創(chuàng)性標準這一政策杠桿,僅給予高于一定創(chuàng)作高度的第二類生成物以著作權(quán)法保護,而非一刀切式的保護。

    國際上也存在為人工智能單獨立法(sui generis)的討論?同注釋?,《知識產(chǎn)權(quán)推進計劃2016》。2016年5月,歐盟議會法律事務(wù)委員會(JURI)發(fā)布《就機器人民事法律規(guī)則向歐盟委員會提出立法建議的報告草案》(Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics),同年 10 月,發(fā)布研究成果《歐盟機器人民事法律規(guī)則》(European Civil Law Rules in Robotics),推進人工智能法律研究,包括可能的立法和監(jiān)管措施,未來將成為歐盟立法議程的一個核心,是否會為人工智能單獨立法仍屬未知。。但是,回顧過去國際上對計算機程序、DNA相關(guān)發(fā)明及商業(yè)模式知識產(chǎn)權(quán)保護的討論,從結(jié)果來看,都沒有采取單獨立法路徑。這是因為,在經(jīng)濟一體化背景下,產(chǎn)業(yè)發(fā)展依賴于知識產(chǎn)權(quán)的全球化保護,如果當(dāng)初美國對計算機程序采取單獨立法,而他國并未對計算機程序單獨立法,或者即使單獨立法但并未采取與美國同樣的保護標準,會導(dǎo)致計算機軟件僅在美國域內(nèi)可以得到有效保護,隨之帶來的是美國計算機軟件產(chǎn)業(yè)在國際上的競爭力被削弱的后果。我們在探討是否為人工智能單獨立法時,既要考慮到本土化問題,也應(yīng)考慮到全球化背景對產(chǎn)業(yè)發(fā)展的影響問題。根據(jù)高盛的研究報告,中國和美國將是未來人工智能領(lǐng)域的領(lǐng)跑者,如果中國對人工智能單獨立法,則可能會導(dǎo)致中國保護標準與國外不相接洽的問題,進而造成人工智能產(chǎn)業(yè)在國內(nèi)固步自封的后果。因此,在現(xiàn)行知識產(chǎn)權(quán)法框架下討論人工智能生成物的保護問題,對中國來說更具現(xiàn)實意義。

    According to the degree of reliance on human being, artificial intelligence (AI) product can be classified into two kinds: the product originated from human being (the first category product)and the product not originated from human being (the second category product). From the perspective of interpretative theory, the first category product is protected by the existing Copyright Law, and the second category product are not works. From the perspective of legislation theory, the necessity of giving copyright protection for the second category product should be based on the incentive theory, but there are some obstacles in system design. Considering the industry development policy, the second category product should also be given copyright protection when necessary.

    arti ficial intelligence; arti ficial intelligence generated content; intellectual property; Copyright Law

    劉影,法學(xué)博士,中國科學(xué)院科技戰(zhàn)略咨詢研究院,助理研究員

    猜你喜歡
    著作權(quán)法人工智能人類
    新《著作權(quán)法》視域下視聽作品的界定
    人類能否一覺到未來?
    人類第一殺手
    好孩子畫報(2020年5期)2020-06-27 14:08:05
    1100億個人類的清明
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    論版權(quán)轉(zhuǎn)讓登記的對抗效力——評著作權(quán)法修改草案(送審稿)第59條
    下一幕,人工智能!
    論對“一臺戲”的法律保護——以《德國著作權(quán)法》為參照
    乱人伦中国视频| 欧美日本中文国产一区发布| 久久免费观看电影| 一边亲一边摸免费视频| 好男人视频免费观看在线| 亚洲中文字幕日韩| 免费在线观看完整版高清| 亚洲九九香蕉| 一级毛片 在线播放| 亚洲精品久久午夜乱码| 老汉色∧v一级毛片| 巨乳人妻的诱惑在线观看| 波野结衣二区三区在线| 在线观看免费午夜福利视频| 人人澡人人妻人| 亚洲精品第二区| 国产日韩欧美亚洲二区| 你懂的网址亚洲精品在线观看| 久久精品久久久久久噜噜老黄| 久久热在线av| 国产精品国产三级国产专区5o| 成年动漫av网址| 国产伦人伦偷精品视频| 啦啦啦在线观看免费高清www| netflix在线观看网站| 中文字幕制服av| 欧美人与善性xxx| 丝袜人妻中文字幕| 久久久久久久久免费视频了| 亚洲成人免费电影在线观看 | 欧美大码av| 亚洲欧美清纯卡通| 亚洲欧美色中文字幕在线| 成在线人永久免费视频| 两人在一起打扑克的视频| 丁香六月欧美| 亚洲欧美一区二区三区国产| 男女午夜视频在线观看| 美女脱内裤让男人舔精品视频| 亚洲欧洲国产日韩| 搡老乐熟女国产| 久久综合国产亚洲精品| 国产精品国产三级国产专区5o| 啦啦啦啦在线视频资源| 两个人免费观看高清视频| 性色av乱码一区二区三区2| 极品人妻少妇av视频| 日日夜夜操网爽| 丝袜在线中文字幕| 美女高潮到喷水免费观看| 亚洲天堂av无毛| 亚洲情色 制服丝袜| 国产精品免费视频内射| 午夜福利,免费看| 汤姆久久久久久久影院中文字幕| 青青草视频在线视频观看| 一级黄片播放器| 国产av一区二区精品久久| 99国产精品一区二区蜜桃av | 赤兔流量卡办理| 一级片免费观看大全| 国产精品人妻久久久影院| 一本久久精品| 久久久国产欧美日韩av| 久久99一区二区三区| 少妇的丰满在线观看| 国产在视频线精品| avwww免费| 欧美在线一区亚洲| 日本猛色少妇xxxxx猛交久久| 中文乱码字字幕精品一区二区三区| 又黄又粗又硬又大视频| 久久国产精品男人的天堂亚洲| 精品国产乱码久久久久久男人| 两人在一起打扑克的视频| 国产免费一区二区三区四区乱码| 久久精品国产a三级三级三级| 国产一区二区三区综合在线观看| bbb黄色大片| 日日摸夜夜添夜夜爱| 久久久久久久大尺度免费视频| 久久精品国产亚洲av涩爱| 青草久久国产| 国产免费视频播放在线视频| 国产成人欧美| 天天添夜夜摸| 亚洲综合色网址| 亚洲欧美中文字幕日韩二区| 久久天堂一区二区三区四区| 国产黄色免费在线视频| 日日夜夜操网爽| 亚洲专区中文字幕在线| videosex国产| 色综合欧美亚洲国产小说| 老司机影院成人| 久久狼人影院| av网站免费在线观看视频| 男女边吃奶边做爰视频| 蜜桃国产av成人99| 最近中文字幕2019免费版| 成人国产av品久久久| 精品一区二区三区四区五区乱码 | 国产成人一区二区在线| 日本wwww免费看| 午夜日韩欧美国产| 国产xxxxx性猛交| 国产女主播在线喷水免费视频网站| 美女扒开内裤让男人捅视频| 免费看av在线观看网站| 国产在线视频一区二区| 国产欧美日韩综合在线一区二区| av电影中文网址| 国产在线观看jvid| 免费高清在线观看视频在线观看| 国产成人免费无遮挡视频| 成年av动漫网址| 波野结衣二区三区在线| 夫妻午夜视频| 亚洲精品中文字幕在线视频| 色网站视频免费| 一级毛片 在线播放| 五月天丁香电影| 成人午夜精彩视频在线观看| 美女主播在线视频| 免费日韩欧美在线观看| 亚洲,欧美精品.| 亚洲天堂av无毛| 亚洲中文日韩欧美视频| 美女午夜性视频免费| 老鸭窝网址在线观看| 国产片内射在线| 亚洲精品在线美女| 精品国产乱码久久久久久男人| 亚洲综合色网址| 亚洲精品第二区| 十八禁网站网址无遮挡| 狂野欧美激情性xxxx| 手机成人av网站| 日韩视频在线欧美| 国产一区二区激情短视频 | 高清黄色对白视频在线免费看| 91麻豆av在线| 免费看av在线观看网站| 国产精品av久久久久免费| 狂野欧美激情性xxxx| a 毛片基地| 免费在线观看完整版高清| 最黄视频免费看| 9191精品国产免费久久| 欧美精品高潮呻吟av久久| 亚洲国产欧美一区二区综合| 国产精品一区二区在线不卡| 亚洲专区中文字幕在线| 国产欧美日韩精品亚洲av| 欧美xxⅹ黑人| 久久精品久久久久久噜噜老黄| 亚洲欧洲日产国产| 欧美国产精品va在线观看不卡| 亚洲欧美中文字幕日韩二区| 亚洲一区中文字幕在线| 极品人妻少妇av视频| 久久久久国产精品人妻一区二区| 精品国产国语对白av| av在线播放精品| 捣出白浆h1v1| 久久精品国产亚洲av涩爱| 久久久精品免费免费高清| 亚洲视频免费观看视频| 精品人妻1区二区| 午夜免费成人在线视频| 一区二区日韩欧美中文字幕| 国产免费现黄频在线看| 久久免费观看电影| 七月丁香在线播放| 国产高清videossex| 大片免费播放器 马上看| 久久久久久免费高清国产稀缺| 成年动漫av网址| 少妇裸体淫交视频免费看高清 | 50天的宝宝边吃奶边哭怎么回事| 女人高潮潮喷娇喘18禁视频| 一区二区三区精品91| 91精品伊人久久大香线蕉| 巨乳人妻的诱惑在线观看| 91国产中文字幕| 一级毛片我不卡| 久久久精品免费免费高清| av福利片在线| 一级黄色大片毛片| 免费高清在线观看日韩| 亚洲情色 制服丝袜| 国产日韩欧美亚洲二区| 波多野结衣一区麻豆| 最近手机中文字幕大全| 国产不卡av网站在线观看| 欧美激情极品国产一区二区三区| 一边亲一边摸免费视频| 日韩制服丝袜自拍偷拍| 国产成人影院久久av| 91精品国产国语对白视频| 青春草视频在线免费观看| 波多野结衣一区麻豆| 日韩免费高清中文字幕av| 免费看不卡的av| 亚洲欧洲国产日韩| 建设人人有责人人尽责人人享有的| 视频区欧美日本亚洲| 国产一区二区在线观看av| 午夜福利视频精品| 男女边吃奶边做爰视频| 亚洲av国产av综合av卡| 99热国产这里只有精品6| 黑人猛操日本美女一级片| 国产成人免费无遮挡视频| 欧美日韩精品网址| 精品人妻一区二区三区麻豆| 黄色视频不卡| 国产精品一国产av| 久久久精品94久久精品| a 毛片基地| 国产真人三级小视频在线观看| 老司机影院毛片| 国产国语露脸激情在线看| 丰满迷人的少妇在线观看| 狂野欧美激情性bbbbbb| av在线app专区| 人人妻人人澡人人爽人人夜夜| 日本猛色少妇xxxxx猛交久久| 三上悠亚av全集在线观看| 大话2 男鬼变身卡| 精品国产国语对白av| 91麻豆精品激情在线观看国产 | 男女边吃奶边做爰视频| 亚洲国产毛片av蜜桃av| bbb黄色大片| 一级a爱视频在线免费观看| 国产精品一区二区在线观看99| 国产高清videossex| 精品人妻一区二区三区麻豆| 欧美日韩福利视频一区二区| 日韩一区二区三区影片| 精品国产一区二区三区久久久樱花| 在线观看国产h片| 十八禁高潮呻吟视频| 一区二区三区精品91| 不卡av一区二区三区| 老汉色av国产亚洲站长工具| 搡老乐熟女国产| 天天躁狠狠躁夜夜躁狠狠躁| 人人妻人人澡人人看| 久热爱精品视频在线9| 国产男女超爽视频在线观看| 国产99久久九九免费精品| 一区福利在线观看| 一本—道久久a久久精品蜜桃钙片| 国产成人欧美| 一区二区三区精品91| 久久精品亚洲熟妇少妇任你| 人体艺术视频欧美日本| 欧美乱码精品一区二区三区| 美女高潮到喷水免费观看| 丰满人妻熟妇乱又伦精品不卡| 午夜免费成人在线视频| 国产欧美日韩综合在线一区二区| 国产精品久久久久久精品古装| 久久99一区二区三区| 美女福利国产在线| 日本黄色日本黄色录像| 黑人欧美特级aaaaaa片| 80岁老熟妇乱子伦牲交| 欧美精品一区二区免费开放| a 毛片基地| 人体艺术视频欧美日本| av在线播放精品| 久久天堂一区二区三区四区| 国产精品欧美亚洲77777| 97在线人人人人妻| 久久精品久久久久久噜噜老黄| 一级黄片播放器| 亚洲av日韩在线播放| 午夜日韩欧美国产| 黄色一级大片看看| 制服人妻中文乱码| 精品人妻在线不人妻| 国产成人91sexporn| 免费看av在线观看网站| 青草久久国产| 日韩中文字幕欧美一区二区 | 亚洲欧美激情在线| cao死你这个sao货| 婷婷色综合www| 亚洲中文av在线| 中国国产av一级| 亚洲第一av免费看| 一级毛片 在线播放| 纯流量卡能插随身wifi吗| 国产精品国产三级专区第一集| 国产片特级美女逼逼视频| 99精国产麻豆久久婷婷| 99久久99久久久精品蜜桃| 99re6热这里在线精品视频| 欧美少妇被猛烈插入视频| 在线观看一区二区三区激情| 国产成人免费观看mmmm| av线在线观看网站| 久久久精品国产亚洲av高清涩受| 自线自在国产av| 亚洲美女黄色视频免费看| 狂野欧美激情性bbbbbb| 一级,二级,三级黄色视频| 亚洲自偷自拍图片 自拍| 成人亚洲精品一区在线观看| 99国产精品99久久久久| 国产一区二区激情短视频 | 欧美 日韩 精品 国产| 一区二区三区精品91| 国产精品一区二区精品视频观看| 99国产精品一区二区蜜桃av | 又大又爽又粗| 99热全是精品| 亚洲人成电影观看| 黄网站色视频无遮挡免费观看| 精品福利永久在线观看| 午夜激情av网站| 成年美女黄网站色视频大全免费| 2021少妇久久久久久久久久久| 国产免费现黄频在线看| 午夜日韩欧美国产| 久久国产精品大桥未久av| 免费一级毛片在线播放高清视频 | av视频免费观看在线观看| 成人三级做爰电影| 天天影视国产精品| 久久久国产一区二区| 丝袜喷水一区| 狂野欧美激情性xxxx| 国产野战对白在线观看| 国产成人欧美在线观看 | 午夜福利免费观看在线| 亚洲av片天天在线观看| 亚洲av日韩精品久久久久久密 | 蜜桃在线观看..| 夫妻午夜视频| 午夜免费男女啪啪视频观看| 精品一区在线观看国产| 18禁观看日本| 国产欧美日韩综合在线一区二区| 成年av动漫网址| av福利片在线| 亚洲av成人不卡在线观看播放网 | 亚洲中文日韩欧美视频| 夫妻性生交免费视频一级片| 久久精品国产综合久久久| 视频区欧美日本亚洲| 啦啦啦视频在线资源免费观看| 亚洲精品美女久久久久99蜜臀 | 国产熟女欧美一区二区| 亚洲自偷自拍图片 自拍| 一级毛片黄色毛片免费观看视频| 丰满少妇做爰视频| 性色av乱码一区二区三区2| 日韩免费高清中文字幕av| 美女脱内裤让男人舔精品视频| av国产久精品久网站免费入址| 看十八女毛片水多多多| 99久久99久久久精品蜜桃| 人人妻人人澡人人爽人人夜夜| 男男h啪啪无遮挡| 成人免费观看视频高清| 午夜日韩欧美国产| 精品国产乱码久久久久久男人| 一区二区三区乱码不卡18| 黑丝袜美女国产一区| 欧美日韩国产mv在线观看视频| 午夜福利在线免费观看网站| 婷婷色综合www| 免费女性裸体啪啪无遮挡网站| 最近手机中文字幕大全| 99国产精品一区二区蜜桃av | 国产一区二区三区av在线| 婷婷色av中文字幕| 精品国产乱码久久久久久小说| 悠悠久久av| 久9热在线精品视频| 飞空精品影院首页| 亚洲av成人精品一二三区| 好男人电影高清在线观看| 欧美日韩一级在线毛片| 99久久人妻综合| 少妇人妻久久综合中文| 国产日韩欧美在线精品| 熟女少妇亚洲综合色aaa.| 国产淫语在线视频| 中文字幕最新亚洲高清| 十八禁网站网址无遮挡| 亚洲成人手机| 亚洲九九香蕉| a级毛片黄视频| 久久免费观看电影| 妹子高潮喷水视频| 久久精品久久久久久噜噜老黄| 丝瓜视频免费看黄片| 久久精品久久久久久噜噜老黄| 自线自在国产av| 性少妇av在线| 男女午夜视频在线观看| 一级片'在线观看视频| 亚洲精品久久成人aⅴ小说| 国产精品三级大全| 18禁国产床啪视频网站| 免费在线观看日本一区| 国产男女超爽视频在线观看| 免费日韩欧美在线观看| 婷婷色麻豆天堂久久| 黄网站色视频无遮挡免费观看| 日本av免费视频播放| 午夜精品国产一区二区电影| 午夜老司机福利片| 天天躁狠狠躁夜夜躁狠狠躁| √禁漫天堂资源中文www| 91麻豆精品激情在线观看国产 | 考比视频在线观看| 黄色怎么调成土黄色| 一区二区三区激情视频| 亚洲激情五月婷婷啪啪| 亚洲精品日本国产第一区| 美女高潮到喷水免费观看| 亚洲av电影在线观看一区二区三区| 新久久久久国产一级毛片| 亚洲五月婷婷丁香| 亚洲国产最新在线播放| avwww免费| 七月丁香在线播放| 蜜桃国产av成人99| 1024视频免费在线观看| 老司机深夜福利视频在线观看 | 亚洲国产精品999| 一级毛片女人18水好多 | 国产精品一区二区精品视频观看| 国产色视频综合| 久久久久久久国产电影| 国产成人欧美在线观看 | 啦啦啦在线免费观看视频4| 大香蕉久久网| 亚洲欧美清纯卡通| 亚洲激情五月婷婷啪啪| 女人被躁到高潮嗷嗷叫费观| 亚洲伊人久久精品综合| 精品国产一区二区三区四区第35| 伦理电影免费视频| 国产三级黄色录像| 2021少妇久久久久久久久久久| 一级片免费观看大全| 热re99久久精品国产66热6| 国产极品粉嫩免费观看在线| 国产精品久久久av美女十八| 中文字幕最新亚洲高清| 大香蕉久久网| 热99国产精品久久久久久7| 亚洲激情五月婷婷啪啪| 亚洲免费av在线视频| 欧美精品高潮呻吟av久久| 欧美中文综合在线视频| www.999成人在线观看| 亚洲av片天天在线观看| 欧美精品一区二区大全| 老汉色∧v一级毛片| 亚洲伊人久久精品综合| 久久亚洲精品不卡| 日本av手机在线免费观看| 天天添夜夜摸| 一二三四在线观看免费中文在| 亚洲美女黄色视频免费看| 亚洲av成人不卡在线观看播放网 | a级毛片黄视频| 在线观看免费日韩欧美大片| 欧美+亚洲+日韩+国产| 各种免费的搞黄视频| 午夜免费男女啪啪视频观看| 脱女人内裤的视频| 天堂中文最新版在线下载| 亚洲欧美日韩另类电影网站| 黄色片一级片一级黄色片| 免费少妇av软件| 伦理电影免费视频| videosex国产| 丝袜脚勾引网站| 日本色播在线视频| 少妇精品久久久久久久| av天堂久久9| 久久精品人人爽人人爽视色| 五月天丁香电影| 国产精品成人在线| 91成人精品电影| www.熟女人妻精品国产| 亚洲中文av在线| 亚洲精品日本国产第一区| 国产精品成人在线| 丁香六月天网| 搡老乐熟女国产| 90打野战视频偷拍视频| 国产精品99久久99久久久不卡| 免费观看a级毛片全部| videos熟女内射| 久久久精品94久久精品| 久久久国产精品麻豆| 曰老女人黄片| 99精品久久久久人妻精品| 国产在线观看jvid| 欧美日韩亚洲高清精品| 国产成人欧美在线观看 | 咕卡用的链子| 国产黄色免费在线视频| 国产在线一区二区三区精| www.精华液| 日本黄色日本黄色录像| 色婷婷久久久亚洲欧美| 欧美精品一区二区免费开放| 成人国产一区最新在线观看 | 国产欧美日韩精品亚洲av| 一本大道久久a久久精品| 亚洲精品久久久久久婷婷小说| 久久精品国产a三级三级三级| 国产精品三级大全| 亚洲av日韩精品久久久久久密 | 中文字幕另类日韩欧美亚洲嫩草| 亚洲欧美日韩另类电影网站| 老司机午夜十八禁免费视频| 午夜福利乱码中文字幕| 久久精品久久精品一区二区三区| 日本a在线网址| 蜜桃国产av成人99| 婷婷丁香在线五月| 国产一区二区三区综合在线观看| 女性被躁到高潮视频| 91国产中文字幕| 涩涩av久久男人的天堂| 亚洲情色 制服丝袜| 久久人妻福利社区极品人妻图片 | 菩萨蛮人人尽说江南好唐韦庄| av视频免费观看在线观看| 亚洲成人手机| 最新的欧美精品一区二区| 国产在线一区二区三区精| 久久久久精品国产欧美久久久 | 亚洲精品自拍成人| 亚洲av在线观看美女高潮| 精品一区在线观看国产| 国产av精品麻豆| 国产精品国产三级国产专区5o| 七月丁香在线播放| 欧美黑人欧美精品刺激| 老司机影院成人| 欧美人与性动交α欧美精品济南到| 亚洲欧美色中文字幕在线| 人人妻人人添人人爽欧美一区卜| 亚洲七黄色美女视频| 国产高清视频在线播放一区 | 亚洲精品第二区| 色婷婷av一区二区三区视频| 久久av网站| 不卡av一区二区三区| 麻豆国产av国片精品| 国产真人三级小视频在线观看| 日日夜夜操网爽| 日韩人妻精品一区2区三区| 日韩制服丝袜自拍偷拍| 欧美大码av| 狠狠婷婷综合久久久久久88av| 性色av一级| 亚洲综合色网址| 亚洲中文av在线| 亚洲精品成人av观看孕妇| e午夜精品久久久久久久| 高清视频免费观看一区二区| 免费日韩欧美在线观看| 日本一区二区免费在线视频| 久久精品熟女亚洲av麻豆精品| 国产成人a∨麻豆精品| 又大又爽又粗| tube8黄色片| 欧美大码av| 性高湖久久久久久久久免费观看| 一本大道久久a久久精品| 欧美成狂野欧美在线观看| 久久精品熟女亚洲av麻豆精品| 99久久综合免费| 亚洲五月婷婷丁香| 精品国产一区二区三区四区第35| 91精品伊人久久大香线蕉| 欧美日韩成人在线一区二区| 日本欧美视频一区| 热re99久久国产66热| 成人手机av| 日本欧美视频一区| 亚洲成人手机| 香蕉国产在线看| avwww免费| 一级毛片我不卡| 麻豆国产av国片精品| 午夜福利一区二区在线看| 亚洲精品国产av成人精品| 精品熟女少妇八av免费久了| 免费看不卡的av| av不卡在线播放| 在线观看免费午夜福利视频| 蜜桃在线观看..| 国产老妇伦熟女老妇高清| 久久久精品国产亚洲av高清涩受| 人妻一区二区av| 水蜜桃什么品种好| 亚洲精品乱久久久久久| 国产亚洲欧美在线一区二区| 韩国高清视频一区二区三区| 日韩av免费高清视频|