• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能生成物的法律性質(zhì)及著作權(quán)侵權(quán)風(fēng)險(xiǎn)化解

    2024-05-23 14:41:45東村仁臧可
    河南科技 2024年6期
    關(guān)鍵詞:獨(dú)創(chuàng)性

    東村仁 臧可

    摘 要:【目的】對(duì)人工智能生成物的法律屬性進(jìn)行準(zhǔn)確定位,尋找人工智能生成物的潛在風(fēng)險(xiǎn)化解路徑?!痉椒ā繌姆蓪用娣治鋈斯ぶ悄苌晌锏漠a(chǎn)生來(lái)源及過(guò)程,揭示人工智能生成物的本質(zhì)。【結(jié)果】從人工智能“數(shù)據(jù)訓(xùn)練”創(chuàng)作方式和機(jī)器學(xué)習(xí)階段分析來(lái)看,人工智能不具備民事主體資格,但其作品具有可版權(quán)性的可能性,應(yīng)被賦予一定權(quán)利?!窘Y(jié)論】賦予人工智能享有署名權(quán)的權(quán)利,以“使人工智能生成物成型確定下來(lái)”為分界線,在自然人范圍內(nèi)確定權(quán)屬和責(zé)任承擔(dān)者進(jìn)行權(quán)利安排。運(yùn)用實(shí)質(zhì)性相似規(guī)則和市場(chǎng)替代標(biāo)準(zhǔn)化解人工智能生成物復(fù)制權(quán)和改編權(quán)侵權(quán)風(fēng)險(xiǎn),同時(shí)適用過(guò)錯(cuò)原則,相應(yīng)配置人工智能設(shè)計(jì)者、使用者“防抄襲設(shè)計(jì)義務(wù)”注意義務(wù)。

    關(guān)鍵詞:人工智能生成物;獨(dú)創(chuàng)性;實(shí)質(zhì)性相似;過(guò)錯(cuò)推定

    中圖分類(lèi)號(hào):D923.41? ? ?文獻(xiàn)標(biāo)志碼:A? ? ?文章編號(hào):1003-5168(2024)06-0116-08

    DOI:10.19968/j.cnki.hnkj.1003-5168.2024.06.023

    The Legal Nature of Artificial Intelligence Products and the Resolution of Copyright Infringement Risk

    DONG Cunren1 ZANG Ke2

    (1.College of Intellectual Property, Henan University of Economics and Law, Zhengzhou 450046, China;

    2. School of Law, Northwest Normal University, Lanzhou 730070, China)

    Abstract:[Purposes] This paper aims to accurately locate the legal attributes of artificial intelligence products and find the potential risk resolution path of artificial intelligence products. [Methods] The nature of artificial intelligence products is revealed through legal analysis of the source and process of artificial intelligence products. [Findings] From the analysis of the creation method of artificial intelligence "data training" and the machine learning stage, artificial intelligence does not have the qualification of civil subject, but the works have the possibility of copyright, which should be granted certain rights. [Conclusions] This paper gives artificial intelligence the right to enjoy the right of signature, and with "the formation of artificial intelligence products to be determined" as the dividing line, this paper? determines the ownership and responsibility bearers within the scope of natural persons to arrange the rights. The substantive similarity rules and market substitution standards are used to resolve the risk of infringement of reproduction rights and adaptation rights of artificial intelligence products. At the same time, the principle of fault is applied, and the duty of care of "anti-plagiarism design obligations" of artificial intelligence designers and users is configured accordingly.

    Keywords:artificial intelligence products;originality;substantial similarity; presumption of fault

    0 引言

    人工智能擁有極強(qiáng)的學(xué)習(xí)能力,在進(jìn)行數(shù)據(jù)整合和模型建立后能夠產(chǎn)出大量高質(zhì)量的文字、繪畫(huà)等生成物。人工智能的廣泛應(yīng)用以及它本身所具有的特性,給傳統(tǒng)著作權(quán)法帶來(lái)了巨大的挑戰(zhàn)。根據(jù)目前的人工智能發(fā)展水平,人工智能需要在被“喂養(yǎng)”海量作品并進(jìn)行機(jī)器學(xué)習(xí)后,才會(huì)形成人工智能生成物,因此有必要對(duì)人工智能進(jìn)行著作權(quán)法研究。在著作權(quán)法背景下,人工智能侵權(quán)行為相較于人類(lèi)作品侵權(quán)情況更為復(fù)雜,人工智能學(xué)習(xí)作品獲取渠道的合法性和創(chuàng)作出的產(chǎn)物的可版權(quán)性值得研究。人工智能未經(jīng)規(guī)范地獲取、使用受著作權(quán)法保護(hù)的作品可能會(huì)侵犯人類(lèi)作者的著作權(quán),導(dǎo)致人工智能和人類(lèi)作者之間的關(guān)系失衡,從而引發(fā)侵權(quán)糾紛。在認(rèn)識(shí)到人工智能是文藝創(chuàng)作的創(chuàng)造性工具的前提下,對(duì)人工智能主體資格、權(quán)利歸屬有相對(duì)準(zhǔn)確的定位,能更好地適用著作權(quán)法對(duì)人工智能生成物進(jìn)行法律規(guī)范,促進(jìn)版權(quán)市場(chǎng)健康發(fā)展。

    1 人工智能的工具性和非主體性

    以人工智能的特征為切入點(diǎn),對(duì)人工智能侵權(quán)進(jìn)行研究有一定的現(xiàn)實(shí)意義。應(yīng)當(dāng)從人工智能的屬性入手,按照侵權(quán)要件確定人工智能在著作權(quán)法體系中的法律地位和侵權(quán)主體資格。

    1.1 人工智能的工具性

    1.1.1 人工智能生成物的形成過(guò)程。人工智能是一種智能化的機(jī)器。根據(jù)我國(guó)著作權(quán)法第二條和著作權(quán)法實(shí)施條例第三條規(guī)定,在嚴(yán)格意義上,只有自然人做出創(chuàng)作行為,其創(chuàng)作成果才有可能成為受著作權(quán)法保護(hù)的作品,法人或非法人組織屬于著作權(quán)特殊主體,機(jī)器則完全被排除在著作權(quán)法規(guī)定的主體之外。然而在人工智能時(shí)代,隨著科技進(jìn)步,人工智能創(chuàng)作路徑在不斷變化,機(jī)器不再單純是減輕人類(lèi)體力勞動(dòng)的輔助性工具,而是能和計(jì)算機(jī)、互聯(lián)網(wǎng)、神經(jīng)科學(xué)等科技手段結(jié)合,從事文案及代碼撰寫(xiě)、繪畫(huà)設(shè)計(jì)、數(shù)字或文字閱讀處理等有一定難度活動(dòng)的工具。

    從人工智能創(chuàng)作的發(fā)展階段來(lái)看,總體上有兩種人工智能創(chuàng)作方式。第一種是“代碼定義”,通過(guò)程序代碼賦予機(jī)器人類(lèi)的思維方式或思維結(jié)構(gòu),使其完成某種作品的創(chuàng)作[1],即事先向機(jī)器輸入包含人類(lèi)創(chuàng)作思維要素的代碼編程。由于機(jī)器只是執(zhí)行固定程序,因此在這一技術(shù)路徑下機(jī)器對(duì)最終生成物的貢獻(xiàn)度不高。第二種是“數(shù)據(jù)訓(xùn)練”,通過(guò)計(jì)算機(jī)算法對(duì)海量數(shù)據(jù)進(jìn)行數(shù)據(jù)分析和建模,進(jìn)而“模仿”人類(lèi)創(chuàng)作的過(guò)程產(chǎn)出生成物。Mitchellt[2]在技術(shù)層面上對(duì)機(jī)器學(xué)習(xí)做出了明確的界定:“假定一個(gè)計(jì)算機(jī)程序從一個(gè)經(jīng)驗(yàn)E中學(xué)會(huì)并完成一個(gè)工作T,那么,機(jī)器學(xué)習(xí)就是為了提升一個(gè)工作 T的執(zhí)行能力P,并且當(dāng)一個(gè)工作經(jīng)歷E累積時(shí),它的執(zhí)行能力P將會(huì)得到提升?!痹谶@個(gè)概念中,“經(jīng)驗(yàn)”其實(shí)就是一種機(jī)器可閱讀的“數(shù)據(jù)”,即“經(jīng)驗(yàn)”是機(jī)器可讀形式的“數(shù)據(jù)”。吳漢東[1]把數(shù)據(jù)訓(xùn)練的過(guò)程分為數(shù)據(jù)輸入—機(jī)器學(xué)習(xí)—結(jié)果輸出,其以機(jī)器學(xué)習(xí)為技術(shù)支撐,實(shí)現(xiàn)在智力創(chuàng)造活動(dòng)中。在數(shù)據(jù)輸入階段,人工智能對(duì)數(shù)據(jù)進(jìn)行儲(chǔ)存和分析,這些可供機(jī)器進(jìn)行分析建模的數(shù)據(jù)多是受著作權(quán)法保護(hù)的作品,機(jī)器要么對(duì)其進(jìn)行數(shù)字化副本處理,要么直接挖掘已數(shù)字化的作品。隨后輸入算法系統(tǒng),然后進(jìn)入核心階段,即機(jī)器學(xué)習(xí)階段,用訓(xùn)練集和測(cè)試集反復(fù)進(jìn)行算法訓(xùn)練和模擬。最后進(jìn)入“算法創(chuàng)作”的輸出階段,生成內(nèi)容集算法編程、搭建神經(jīng)網(wǎng)絡(luò)、建立輸出模型等。這不僅是對(duì)技術(shù)的綜合運(yùn)用,更可能是具有創(chuàng)造性的發(fā)揮,因此很可能成為著作權(quán)法所稱(chēng)的具有思想表達(dá)外觀的作品。

    對(duì)于機(jī)器學(xué)習(xí)階段,Sobel和Benjamin[3]以機(jī)器輸出內(nèi)容中是否含有表達(dá)性?xún)?nèi)容為標(biāo)準(zhǔn),將機(jī)器學(xué)習(xí)橫向分類(lèi)為表達(dá)型機(jī)器學(xué)習(xí)和非表達(dá)型機(jī)器學(xué)習(xí)。對(duì)于表達(dá)型機(jī)器學(xué)習(xí),國(guó)內(nèi)學(xué)者將之細(xì)分為普通型和特殊型。普通型不以特定作者為對(duì)象,特殊型則專(zhuān)門(mén)向特定作者學(xué)習(xí)[4]。用于普通型機(jī)器學(xué)習(xí)的算法訓(xùn)練數(shù)據(jù)來(lái)源于眾多作者的作品。例如:2015年谷歌“Inbox”郵箱推出的“智能回復(fù)”服務(wù)產(chǎn)品,該服務(wù)產(chǎn)品選取了11 000余本愛(ài)情小說(shuō)來(lái)訓(xùn)練算法,目的是讓該產(chǎn)品能夠?qū)懗龌顫娪哪?、風(fēng)格多變的語(yǔ)句;巴黎索尼計(jì)算機(jī)科學(xué)實(shí)驗(yàn)室用音樂(lè)家巴赫(Bach)的300首歌曲來(lái)訓(xùn)練其人工智能系統(tǒng),“創(chuàng)作”出具有巴赫風(fēng)格的音樂(lè)作品,報(bào)道顯示有超過(guò)50%的被測(cè)試人員認(rèn)為自己聽(tīng)到的就是巴赫的曲子。非表達(dá)型機(jī)器學(xué)習(xí)不輸出表達(dá)性?xún)?nèi)容,進(jìn)行作品復(fù)制并非為了學(xué)習(xí)作品中的表達(dá)性要素,而只是搜集事實(shí)信息。這些信息來(lái)源局限于某一固定方面。例如,人臉識(shí)別系統(tǒng)搜集大量人臉照片,僅學(xué)習(xí)照片中的顯示人臉面部特征的要素以便準(zhǔn)確識(shí)別人臉,這個(gè)過(guò)程既沒(méi)有表達(dá)性輸入和輸出,作品復(fù)制亦未向公眾傳播。

    1.1.2 人工智能本質(zhì)上屬于創(chuàng)作工具。人工智能擁有持續(xù)進(jìn)階的學(xué)習(xí)能力,采用數(shù)據(jù)訓(xùn)練方式的人工智能擁有一定的自主性,其輸出過(guò)程并非按照預(yù)先設(shè)定好的編程進(jìn)行,而是在特定領(lǐng)域或事務(wù)中不受外界干擾,部分或完全自主運(yùn)行,只有少部分需要人類(lèi)接管。深度學(xué)習(xí)環(huán)節(jié)正是人工智能實(shí)現(xiàn)一定自主性的關(guān)鍵。人工智能能夠通過(guò)海量數(shù)據(jù)學(xué)習(xí)以及非既定性訓(xùn)練歸納出規(guī)律,并以此處理改造產(chǎn)出可能超出預(yù)期的“作品”。圖靈測(cè)試相信在人機(jī)對(duì)話中,如果計(jì)算機(jī)可以成功欺騙人類(lèi),則認(rèn)為該機(jī)器擁有人的認(rèn)知與理解能力。也就是說(shuō)只要機(jī)器的宏觀功能與人類(lèi)的智力行為是相同的,就可以用“智能”一詞來(lái)描述這一功能。這是一種認(rèn)知科學(xué)上高度的功能主義觀點(diǎn),即認(rèn)為心智與大腦的關(guān)系可等價(jià)于程序與硬件的關(guān)系。20世紀(jì)80年代,美國(guó)哲學(xué)家John Searle設(shè)計(jì)了著名的思想實(shí)驗(yàn)“中文房間”(Chinese room),在這個(gè)實(shí)驗(yàn)中,計(jì)算機(jī)始終掌握的是無(wú)意義的字符,而非有意義的語(yǔ)義。他認(rèn)為不可能通過(guò)某種程序操作從語(yǔ)言形式(syntax)中得到語(yǔ)義內(nèi)容(semantic)。目前人工智能仍處于弱人工智能階段,還沒(méi)有脫離人類(lèi)對(duì)其的控制,總是被人為設(shè)定的運(yùn)行過(guò)程所限制,且受輸入信息的約束。人工智能缺乏必要的認(rèn)知情感與理性判斷,是用來(lái)解釋理論的科研工具。人工智能對(duì)數(shù)據(jù)訓(xùn)練所積累的規(guī)律的應(yīng)用只是在模擬人類(lèi)實(shí)踐過(guò)程,顯然這并不必然意味著人工智能的思考和決策過(guò)程完全等同于人類(lèi)。因此,我們應(yīng)當(dāng)在承認(rèn)人工智能自主性的基礎(chǔ)上重新認(rèn)識(shí)其工具性。

    1.2 人工智能的非主體性

    人工智能“數(shù)據(jù)訓(xùn)練”的創(chuàng)作方式和表達(dá)型機(jī)器學(xué)習(xí)的技術(shù)路徑已表明,人工智能能夠利用數(shù)據(jù)挖掘和分析來(lái)模仿人類(lèi)創(chuàng)造性的智力活動(dòng),這是類(lèi)人化的表現(xiàn)。從這個(gè)層面上來(lái)說(shuō),人工智能不再是純機(jī)械性工具,而可能成為相對(duì)獨(dú)立的“機(jī)器作者”或者說(shuō)擔(dān)任輔助創(chuàng)作的角色,與人類(lèi)作者合作創(chuàng)作。人工智能到底能否成為法律主體,主要取決于其是否具備責(zé)任能力,能夠?qū)ζ湫袨樨?fù)責(zé),承擔(dān)侵權(quán)責(zé)任。有觀點(diǎn)認(rèn)為,自然人法律人格的確立以理性意志為基礎(chǔ),但仍存在例外。因?yàn)樽匀蝗酥写嬖谥罅糠抢硇?、精神紊亂、意志力低下的人群,并且,法人法律人格的擬制在法律上亦能夠被承認(rèn),賦予新型法律主體法律人格不一定需要該主體具有精神能力和意志力,因此應(yīng)承認(rèn)人工智能的法律人格[5]。本文認(rèn)為,從民事主體基礎(chǔ)理論和法哲學(xué)基礎(chǔ)來(lái)看,人工智能不具有也不應(yīng)有法律人格,應(yīng)將其作為權(quán)利客體來(lái)看待,從哲學(xué)角度也只能將其看作是人實(shí)現(xiàn)目的的手段和工具。

    1.2.1 人工智能沒(méi)有民事權(quán)利能力。法律規(guī)定了法律主體的民事權(quán)利和義務(wù),指引法律主體能做什么和不能做什么。人工智能因受到技術(shù)限制而缺乏規(guī)范認(rèn)知能力甚至沒(méi)有法律意識(shí),讓人工智能意識(shí)到自己有選擇的自由并感知法律壓力,不具有現(xiàn)實(shí)意義,因此也很難做出相應(yīng)的決策和調(diào)整。

    1.2.2 人工智能沒(méi)有民事行為能力?!叭绻f(shuō)民事權(quán)利能力是主體存在的必要條件,則民事行為能力就是作為主體的充分要件?!保?]人工智能沒(méi)有自然人生理上的本能追求,對(duì)外表現(xiàn)出的是人工智能設(shè)計(jì)者的意思表示,人工智能無(wú)法產(chǎn)生從事民事活動(dòng)的動(dòng)機(jī)。

    1.2.3 人工智能沒(méi)有民事責(zé)任能力。人工智能無(wú)法真正理解人類(lèi)社會(huì)中的抽象概念和規(guī)范,因此無(wú)法識(shí)別貨幣符號(hào)的價(jià)值和理解“財(cái)產(chǎn)支配、賠償”的含義。部分學(xué)者主張采取“保險(xiǎn)責(zé)任制度”和“賠償基金制度”,在保額或基金范圍內(nèi)向受害人予以賠償[7]。這僅是人工智能致?lián)p而承擔(dān)責(zé)任的思路,不能將保險(xiǎn)金額和基金視為人工智能的獨(dú)立財(cái)產(chǎn)。

    法人或非法人組織作為非人類(lèi)主體被法律賦予人格并擬制成為作者,這一著作權(quán)立法模式使得部分學(xué)者主張效仿法人擬制制度建立人工智能擬制制度?!胺ㄈ恕边@個(gè)概念由《德國(guó)民法典》首次創(chuàng)制,在法律上對(duì)滿足特定條件的團(tuán)體賦予權(quán)利能力,使其具備民事主體資格[8]。這其實(shí)是種擬制人格方式,即在法律框架之內(nèi)將團(tuán)體人格化。法人在法律上代表著人類(lèi)團(tuán)體意志的一種獨(dú)立性,因此其具有獨(dú)立人格,能夠以自己的名義締結(jié)法律關(guān)系,由法人機(jī)構(gòu)行使權(quán)利和履行義務(wù)。法人統(tǒng)一于民事權(quán)利、義務(wù)和責(zé)任。法人有獨(dú)立于團(tuán)體成員且能夠被法人獨(dú)立支配的財(cái)產(chǎn)并承擔(dān)財(cái)產(chǎn)責(zé)任,相比之下,人工智能沒(méi)有可持有和處理的財(cái)產(chǎn)。即便如此,法人仍必須建立在人類(lèi)的基礎(chǔ)之上,是自然人的集合體。人工智能產(chǎn)業(yè)鏈條上都是獨(dú)立存在的主體,例如,人工智能設(shè)計(jì)者、購(gòu)買(mǎi)者以及使用者,這些主體不同于公司的董事、監(jiān)事、高級(jí)管理人員等基于一個(gè)相同目的和意向而具有緊密聯(lián)系。

    綜上,人與人工智能是一種控制與被控制的主客體關(guān)系。人工智能屬于權(quán)利客體“物”的范疇,它能為特定人所支配,滿足人類(lèi)生產(chǎn)生活需要,直接賦予人工智能法律主體資格會(huì)違反主客體轉(zhuǎn)換的原理。我們應(yīng)當(dāng)將人工智能看作人類(lèi)實(shí)現(xiàn)一定目的的智能工具,它具備強(qiáng)大的計(jì)算機(jī)功能,能夠高效地處理大量數(shù)據(jù),還擁有類(lèi)人的智慧,可以處理復(fù)雜任務(wù),甚至自主地做出決策。因此,在適用法律方面必須充分考慮該系統(tǒng)的特殊性,采用除“直接進(jìn)入公共領(lǐng)域”和“人格擬制”外的方法解決人工智能侵權(quán)問(wèn)題。

    2 人工智能生成物的可版權(quán)性與權(quán)利歸屬

    即使是人類(lèi)創(chuàng)作的內(nèi)容,也必須先符合法律規(guī)定的作品構(gòu)成要件,才能成為著作權(quán)法保護(hù)的對(duì)象,人工智能生成物更應(yīng)如此。2022年文本描述自動(dòng)生成圖片(Text-to-Image)的AI繪畫(huà)知名度急劇增加,一幅由MidJourney生成的數(shù)字油畫(huà)獲得了Colorado博覽會(huì)藝術(shù)比賽的第一名。以目前人工智能發(fā)展平均程度來(lái)看,人工智能生成物在外觀上和人類(lèi)作品幾乎完全一致,因此它是否可以成為著作權(quán)法的保護(hù)對(duì)象,重在其獨(dú)創(chuàng)性的有無(wú)。

    2.1 人工智能生成物可版權(quán)性探討

    2.1.1 實(shí)務(wù)案例對(duì)可版權(quán)性的考察。我國(guó)實(shí)務(wù)界關(guān)于人工智能生成物可版權(quán)性的討論,主要集中在該類(lèi)客體是否具有獨(dú)創(chuàng)性,是否構(gòu)成著作權(quán)法意義上的作品。北京互聯(lián)網(wǎng)法院和深圳南山區(qū)法院在2018年和2020年先后審結(jié)了兩個(gè)均被稱(chēng)為“人工智能著作權(quán)第一案”的北南兩大案件,兩案對(duì)人工智能生成文章作品做出了截然不同的判決。

    兩起案件都屬于著作權(quán)侵權(quán)糾紛案件,雙方糾紛產(chǎn)生焦點(diǎn)以及法院審理方向均一致。原告主張涉案文章系作品,侵害相關(guān)著作權(quán),法院就原告是否為本案適格主體部分,分別判斷涉案文章是否構(gòu)成文字作品。北京互聯(lián)網(wǎng)法院認(rèn)為涉案文章不構(gòu)成作品,其具有一定獨(dú)創(chuàng)性,然而具備獨(dú)創(chuàng)性并非構(gòu)成文字作品的充分條件①。法院在判決書(shū)中認(rèn)為,涉案軟件開(kāi)發(fā)者(所有者)承擔(dān)軟件開(kāi)發(fā),不涉及具體使用,軟件用戶也僅提交了關(guān)鍵詞進(jìn)行搜索,均未傳遞兩者思想、感情的獨(dú)創(chuàng)性表達(dá);涉案文章采用軟件的“可視化”功能自動(dòng)生成,該分析報(bào)告外觀形式符合文字作品要求,其內(nèi)容也是軟件對(duì)相關(guān)數(shù)據(jù)進(jìn)行智能選擇與分析后輸出的,但是根據(jù)現(xiàn)行法律規(guī)定,文字作品應(yīng)由自然人創(chuàng)作完成,自然人創(chuàng)作完成仍應(yīng)是著作權(quán)法上作品的必要條件。由于分析報(bào)告不是自然人創(chuàng)作的,因此,即使威科先行庫(kù)“創(chuàng)作”的分析報(bào)告具有獨(dú)創(chuàng)性,該分析報(bào)告仍不是著作權(quán)法意義上的作品,依然不能認(rèn)定威科先行庫(kù)是該篇報(bào)告的作者并享有著作權(quán)法規(guī)定的相關(guān)權(quán)利。兩年后的南山區(qū)法院在面臨同樣的問(wèn)題時(shí),從兩方面判斷涉案文章是否屬于作品:首先,從Dreamwriter軟件生成文章的外在表現(xiàn)上,認(rèn)為其具有一定獨(dú)創(chuàng)性;其次,從生成過(guò)程來(lái)分析,認(rèn)為其體現(xiàn)了創(chuàng)作者的個(gè)性化選擇、判斷及技巧等因素,主創(chuàng)團(tuán)隊(duì)運(yùn)用該軟件在數(shù)據(jù)輸入、觸發(fā)條件設(shè)定、模板和語(yǔ)料風(fēng)格取舍上的安排與選擇,屬于與涉案文章的特定表現(xiàn)形式之間具有直接聯(lián)系的智力活動(dòng)。法院認(rèn)為在具體認(rèn)定創(chuàng)作行為時(shí),具有決定性的因素應(yīng)當(dāng)是相關(guān)創(chuàng)作行為能否被認(rèn)為是智力活動(dòng),以及該行為與作品的特定表現(xiàn)形式之間是否具有真正關(guān)聯(lián)②。人工智能的文章生成技術(shù)在兩年后會(huì)發(fā)生較大變化,Dreamwriter軟件的搜集素材、決定表達(dá)的主題、寫(xiě)作風(fēng)格以及具體的語(yǔ)句形式都可以改變。有關(guān)生成內(nèi)容的可選擇范圍相較于前案應(yīng)當(dāng)是擴(kuò)大的,也就是說(shuō)人工智能在文章生成過(guò)程中,其自主性行為對(duì)最終生成物的影響比例在增加,獨(dú)創(chuàng)性的可能性會(huì)更大。南山區(qū)法院明確了人工智能獨(dú)創(chuàng)性的判斷步驟,在審理此類(lèi)案件時(shí)做出了創(chuàng)新及探索,但法院僅說(shuō)明人工智能寫(xiě)作軟件的主創(chuàng)團(tuán)隊(duì)利用該軟件的創(chuàng)作行為是智力活動(dòng),由相關(guān)人員的智力活動(dòng)符合著作權(quán)法規(guī)定倒推軟件生成的文字內(nèi)容具有獨(dú)創(chuàng)性,并沒(méi)有闡明人工智能具有獨(dú)立的創(chuàng)作能力的正當(dāng)性來(lái)源。

    2.1.2 人工智能生成物具有可版權(quán)性。自然人是創(chuàng)作作品的作者,獨(dú)創(chuàng)性是自然人的創(chuàng)作思維在作品中的表現(xiàn)形式。人工智能沒(méi)有著作權(quán)法上的法律主體資格,但這是否意味著因自由意志是人類(lèi)獨(dú)有而否定人工智能的創(chuàng)作能力?Disco Diffusion是2022年2月爆火的AI圖像生成程序,可以根據(jù)描述的場(chǎng)景關(guān)鍵詞渲染對(duì)應(yīng)的圖片。人工智能會(huì)根據(jù)描述詞語(yǔ)的不同,生成不同風(fēng)格的圖片,即盡管數(shù)據(jù)庫(kù)在短時(shí)間內(nèi)沒(méi)有更新,但根據(jù)描述差異,相同素材也會(huì)形成不同結(jié)果。人工智能具有一定的自主性已經(jīng)表明,具有深度學(xué)習(xí)能力的人工智能已經(jīng)能夠擺脫“機(jī)械的延伸”這一刻板評(píng)價(jià),深度學(xué)習(xí)能力可以認(rèn)為是人工智能生成物具有獨(dú)創(chuàng)性的源泉。人工智能以現(xiàn)代神經(jīng)科學(xué)為基礎(chǔ),通過(guò)計(jì)算機(jī)建立結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)來(lái)仿生人類(lèi)神經(jīng)信號(hào)從樹(shù)突傳遞到軸突再到軸突末梢的過(guò)程。人工智能對(duì)輸入數(shù)據(jù)的權(quán)值進(jìn)行求和,然后計(jì)算出非線性函數(shù),以提供給使用者最為合理的結(jié)果。因此能夠高度模擬人類(lèi)創(chuàng)作思維的人工智能創(chuàng)作與人類(lèi)創(chuàng)作有一定的相似性,使得人們不會(huì)直接否定人工智能創(chuàng)作。自由意志的存否并非通過(guò)科學(xué)檢驗(yàn)和證據(jù)驗(yàn)證的事實(shí)判斷[9]。獨(dú)創(chuàng)性不能完全理解成“人工智能生成物和人類(lèi)作品的表達(dá)有區(qū)別之處”,其內(nèi)容的表達(dá)體現(xiàn)著對(duì)于創(chuàng)作要素的能動(dòng)性運(yùn)用,人工智能生成內(nèi)容與人類(lèi)智力成果在生成過(guò)程中享有共同內(nèi)在邏輯,兩者在表現(xiàn)形式上則同樣具有共同外在邏輯,何況人工智能自身本就是人智力活動(dòng)的產(chǎn)物,因此它產(chǎn)生的內(nèi)容天然具備人類(lèi)智力成果的特征[10]。

    ChatGPT是美國(guó)人工智能研究實(shí)驗(yàn)室OpenAI于2022年11月30日發(fā)布的一款聊天機(jī)器人程序,其可以流暢地與用戶對(duì)話,也可以編寫(xiě)和調(diào)試計(jì)算機(jī)程序,對(duì)用戶提供的數(shù)據(jù)進(jìn)行分析總結(jié)。2023年1月巴黎政治大學(xué)宣布禁止使用ChatGPT等一切基于AI的工具,旨在防止學(xué)術(shù)剽竊。ChatGPT引入了RLHF(基于人類(lèi)反饋的強(qiáng)化學(xué)習(xí))新技術(shù),能夠?qū)崿F(xiàn)算法自動(dòng)優(yōu)化,盡管它的目標(biāo)任務(wù)和系統(tǒng)基礎(chǔ)仍然由人類(lèi)設(shè)定,但ChatGPT能根據(jù)使用者需求隨時(shí)改變檢索條件,從而增加數(shù)據(jù)結(jié)果的隨機(jī)性,使其更加不可預(yù)測(cè)。再結(jié)合人工智能學(xué)習(xí)過(guò)程,在算法創(chuàng)作過(guò)程中,機(jī)器深度學(xué)習(xí)能力是使人工智能脫離人類(lèi)的事先預(yù)設(shè)而實(shí)現(xiàn)個(gè)性化表達(dá)的真正源頭,或算法自由實(shí)現(xiàn)了人工智能的個(gè)性化表達(dá),且這是人工智能獨(dú)立完成的。具體而言:

    ①人工智能生成物含有人格要素?!八枷氡磉_(dá)二分法”屬于版權(quán)制度的基本原理之一,版權(quán)保護(hù)的范圍是作品中含有的思想的特定表達(dá),不能夠擴(kuò)展至作品中包含或體現(xiàn)的思想,然而思想在作品中所體現(xiàn)的程度大小只能通過(guò)表達(dá)來(lái)倒推。思想與表達(dá)僅通過(guò)外在形式連接,作者思想和人格在表達(dá)中的體現(xiàn)程度無(wú)法像“思想體現(xiàn)作者人格”所說(shuō)的一樣完整,思想體現(xiàn)人格只是理想狀態(tài)下對(duì)人格是否在作品中有所體現(xiàn)的描述,這僅是應(yīng)然層面,并非實(shí)際狀態(tài)下實(shí)然層面上的描述。因此,著作權(quán)認(rèn)定并不一定要只注重“思想”和“人格”的單一性,不應(yīng)以此為由否認(rèn)人工智能生成物成為作品的可能性[11]。人工智能基于前期設(shè)計(jì)能夠形成觀點(diǎn)或價(jià)值判斷、依照用戶要求對(duì)輸出內(nèi)容進(jìn)行修改、可以對(duì)一些不懷好意的需求拒絕提供服務(wù),這些都是人工智能人格的外在體現(xiàn)。

    ②作品是否構(gòu)成實(shí)質(zhì)性相似是獨(dú)創(chuàng)性的重要標(biāo)準(zhǔn)。各類(lèi)人工智能運(yùn)行同一程序,因算法架構(gòu)不同能夠解析出不同策略,再采取該策略產(chǎn)生最佳結(jié)果。因此,人工智能生成物具有作品外觀,且內(nèi)容和原件作品不同,生成物吸收人類(lèi)作品的創(chuàng)作特征。加之世界知識(shí)產(chǎn)權(quán)組織對(duì)作品獨(dú)創(chuàng)性的規(guī)定是“作品是作者自己的創(chuàng)作,完全不是從另一作品抄襲來(lái)的”,本文認(rèn)為可將人工智能生成物視為作品。創(chuàng)作者身份不應(yīng)成為版權(quán)保護(hù)作品的必要條件,著作權(quán)法更應(yīng)以實(shí)質(zhì)標(biāo)準(zhǔn)以及評(píng)價(jià)標(biāo)準(zhǔn)進(jìn)行考量:“機(jī)器作品”與他人作品不構(gòu)成“實(shí)質(zhì)性相似”;以人類(lèi)讀者為基礎(chǔ)的“一般社會(huì)公眾”認(rèn)可,并不需要為了刻意將其與人類(lèi)作者相區(qū)別而另設(shè)標(biāo)準(zhǔn)。

    綜上所述,人工智能生成物只要滿足獨(dú)創(chuàng)性要求、具有和人類(lèi)作品相似的外觀、有不同于人類(lèi)作品的思想表達(dá),在一般公眾眼中難以區(qū)分是機(jī)器作品還是人類(lèi)作品,即可認(rèn)為其具有可版權(quán)性。在人工智能時(shí)代,傳統(tǒng)制度中的“作者—著作權(quán)人”的著作權(quán)法結(jié)構(gòu)應(yīng)當(dāng)增添新的涵義,以便著作權(quán)法及時(shí)對(duì)社會(huì)新事物給予回應(yīng),平衡人工智能生成物和人類(lèi)作品的關(guān)系。

    2.2 人工智能生成物權(quán)利歸屬

    2.2.1 學(xué)界觀點(diǎn)。關(guān)于人工智能生成物的權(quán)屬問(wèn)題,我國(guó)學(xué)者從人工智能表達(dá)個(gè)性、最低限度創(chuàng)造性原則、版權(quán)市場(chǎng)利益平衡等多個(gè)方面提出不同的見(jiàn)解。主要觀點(diǎn)如下:

    著作權(quán)歸屬于人工智能開(kāi)發(fā)者。在著作權(quán)權(quán)屬模式的證成中,對(duì)人工智能的作者主體資格與生成物客體資格進(jìn)行適當(dāng)分離。在機(jī)器作者與人類(lèi)之間建立起一種可以被虛擬出來(lái)的委托創(chuàng)作的契約。如果機(jī)器作者創(chuàng)造出了具有獨(dú)創(chuàng)性的作品,那么這時(shí)著作權(quán)就會(huì)被分配給人工智能系統(tǒng)的開(kāi)發(fā)設(shè)計(jì)者,從而實(shí)現(xiàn)對(duì)作品版權(quán)的最初授權(quán)[9]。

    著作權(quán)歸屬參照法人作品規(guī)定或按委托作品處理。在人機(jī)合成創(chuàng)作中,無(wú)論是“機(jī)器作者”還是人類(lèi)作者,都為作品做出了實(shí)質(zhì)性貢獻(xiàn)。因此,從著作權(quán)法角度看,人工智能生成物可以被認(rèn)為是代表設(shè)計(jì)者的意志而進(jìn)行的一種創(chuàng)作行為的創(chuàng)作成果[12],因此按照法人作品規(guī)定確定其權(quán)利歸屬。

    著作權(quán)側(cè)重保護(hù)投資人的利益。當(dāng)法律應(yīng)該對(duì)人工智能生成物進(jìn)行某種程度的保護(hù),但同時(shí)也要將人類(lèi)作品和人工智能生成物在法律保護(hù)上的不同之處表現(xiàn)出來(lái)時(shí),人工智能生成物的權(quán)利就是為了保護(hù)投資者利益而存在的鄰接權(quán)[13]。

    從民法學(xué)角度解釋著作權(quán)權(quán)利歸屬,即“知識(shí)財(cái)產(chǎn)孳息”,指生成物是獨(dú)立于原物(即人工智能)所生之新物(即知識(shí)財(cái)產(chǎn)孳息)。該觀點(diǎn)采用羅馬法上的“原物主義”原則與日耳曼法上的“生產(chǎn)主義原則”,將人工智能創(chuàng)作物的權(quán)利歸屬于人工智能的開(kāi)發(fā)者、使用者或者所有者[14]。

    2.2.2? 權(quán)利主體創(chuàng)作主體相分離。人工智能無(wú)法成為民法上的權(quán)利主體,人工智能生成物卻有法律保護(hù)的必要,應(yīng)當(dāng)建立創(chuàng)作主體和權(quán)利主體分離的路徑,破除人工智能生成物法律保護(hù)的首個(gè)障礙。傳統(tǒng)主客體一致標(biāo)準(zhǔn)強(qiáng)調(diào)作品是作者意志的外化,在作者中心主義模式下摒棄作者身份承認(rèn)作品的獨(dú)創(chuàng)性是不成立的?!邦~頭出汗”理論是版權(quán)法的基本原則之一,即創(chuàng)作時(shí)付出勞動(dòng)即可獲得版權(quán)。隨著立法和司法的發(fā)展,1991年美國(guó)“Feist電話號(hào)碼簿案”的法官認(rèn)為盡管對(duì)電話號(hào)碼簿的搜集和整理排序工作投入了精力和成本,但這種投入并不是人的智力創(chuàng)造性活動(dòng),達(dá)不到創(chuàng)作活動(dòng)所需要的最低限度的創(chuàng)造性,故不具有獨(dú)創(chuàng)性,重新確立了最低限度創(chuàng)造性原則。從這個(gè)理論分析來(lái)看,人工智能生成物更不可能達(dá)到獨(dú)創(chuàng)性的標(biāo)準(zhǔn),人工智能也無(wú)法因創(chuàng)作作品而享有著作權(quán)。而讀者中心主義站在作者中心主義的對(duì)立面,認(rèn)為作品脫離作者落入讀者手中后,其意義是由讀者賦予的。讀者中心主義理論沖擊了著作權(quán)法制度中“作者—著作權(quán)人”的結(jié)構(gòu),認(rèn)為沒(méi)有確定作者身份依舊不影響對(duì)作品獨(dú)創(chuàng)性的判斷。如孤兒作品無(wú)法確定作者但仍受著作權(quán)法保護(hù)。這是證成創(chuàng)作主體和權(quán)利主體相分離正當(dāng)性的有利觀點(diǎn)。在人工智能生成物能夠成為作品的前提下,作者未必是第一著作權(quán)人,也就是說(shuō)人工智能不作為第一著作權(quán)人,但仍可以受著作權(quán)法保護(hù)。人工智能生成物涉及多方主體,人工智能開(kāi)發(fā)者、所有者和使用者都與人工智能生成物有密切聯(lián)系,其可能參與了作品產(chǎn)生的一個(gè)或多個(gè)階段。受人工智能主體限制,著作權(quán)法要完整保護(hù)作者和作品權(quán)利,就要對(duì)第一作者以外的其他主體也實(shí)施保護(hù)。

    在現(xiàn)有著作權(quán)法制度下,賦予人工智能署名權(quán)是最佳選擇。著作權(quán)法激勵(lì)創(chuàng)作的指向?qū)ο蟮臋?quán)利人只能是自然人和法人。當(dāng)下人工智能多由法人組織充當(dāng)主要開(kāi)發(fā)者,公司或無(wú)組織自然人擔(dān)任使用者,在這種情形下,以“使人工智能生成物成型確定下來(lái)”為分界線確定權(quán)利范圍和責(zé)任承擔(dān)者。人工智能并不天然具備創(chuàng)作動(dòng)機(jī),其創(chuàng)作動(dòng)機(jī)和深度學(xué)習(xí)的標(biāo)準(zhǔn)是由人類(lèi)提前植入規(guī)定的。人工智能以完成人類(lèi)指令為起點(diǎn),以滿足人類(lèi)需求為終點(diǎn)進(jìn)行有限創(chuàng)作??梢?jiàn)創(chuàng)作作品的最終內(nèi)核部分是由人類(lèi)全權(quán)掌控確定成型的,因此開(kāi)發(fā)者、所有者以及使用者可能是享有人工智能生成物著作權(quán)權(quán)利的主體,但投資者不符合著作權(quán)法中作品所有者的相關(guān)規(guī)則;設(shè)計(jì)者創(chuàng)造了人工智能,但并沒(méi)有參與人工智能后續(xù)選擇材料、深度學(xué)習(xí)、創(chuàng)作模擬至輸出的過(guò)程,因此不能對(duì)人工智能生成物享有著作權(quán);使用者若只是單純使用該系統(tǒng),未對(duì)成果形成任何實(shí)質(zhì)性貢獻(xiàn),也不能享有同樣的權(quán)利。本文認(rèn)為,應(yīng)當(dāng)借鑒合作作品的權(quán)利分配思路,根據(jù)具體情況分別判斷。人工智能等同于多個(gè)利益主體的代表,例如,其背后的實(shí)際控制者、用戶和投資者,實(shí)際上扮演著一種“固定”作品的“合作者”角色,進(jìn)行篩選素材、歸納總結(jié)、預(yù)測(cè)結(jié)論、情感模擬等工作[15]。將人工智能擬制成名義上的作者進(jìn)而賦予署名權(quán),人工智能系統(tǒng)開(kāi)發(fā)者、所有者以及使用者根據(jù)實(shí)質(zhì)貢獻(xiàn)比例大小進(jìn)行利益分配和責(zé)任承擔(dān)。

    3 人工智能生成物的著作權(quán)風(fēng)險(xiǎn)與解決思路

    人工智能創(chuàng)作著作權(quán)侵權(quán)的最主要困境是,機(jī)器學(xué)習(xí)中數(shù)據(jù)訓(xùn)練作品獲取和使用的合法性問(wèn)題。對(duì)作品進(jìn)行挖掘、處理、抓取等行為性質(zhì)是合法還是侵權(quán),決定了后續(xù)機(jī)器學(xué)習(xí)和輸出行為是否具有正當(dāng)性,同時(shí)也關(guān)乎人工智能技術(shù)發(fā)展趨勢(shì)。著作權(quán)法不應(yīng)固守只以自然人創(chuàng)作為中心的理念,應(yīng)該調(diào)整機(jī)器作者和人類(lèi)作者之間的關(guān)系,同時(shí)把握人類(lèi)在人工智能開(kāi)發(fā)、創(chuàng)作以及完善中的主導(dǎo)和引領(lǐng)作用,在著作權(quán)法變革中堅(jiān)持立法目標(biāo)和制度價(jià)值取向。

    3.1 風(fēng)險(xiǎn)預(yù)估:實(shí)質(zhì)性相似規(guī)則與市場(chǎng)替代

    發(fā)生復(fù)制權(quán)侵權(quán)可能性最高的階段是人工智能生成輸出階段。在人工智能創(chuàng)作中,雖然最終輸出的生成內(nèi)容具備了一定的獨(dú)創(chuàng)性,但是它依然維持了數(shù)據(jù)庫(kù)中某一作品或一些作品的基本表達(dá),這應(yīng)該是一種改編作品,這種創(chuàng)作行為如沒(méi)有得到著作權(quán)人許可并向其支付報(bào)酬,那么就有可能侵犯改編權(quán)[16]。根據(jù)人工智能對(duì)數(shù)據(jù)的利用情況來(lái)看,可以分為“利用多人作品”和“利用同一人作品”兩種。前者如《陽(yáng)光失了玻璃窗》,這是一首由微軟公司的“小冰”在對(duì)1926年以后500余名當(dāng)代詩(shī)人的作品進(jìn)行深度學(xué)習(xí)后寫(xiě)成的詩(shī);后者如由微軟開(kāi)發(fā)的“下一個(gè)倫勃朗”人工智能,該人工智能通過(guò)深度學(xué)習(xí)倫勃朗的346幅畫(huà)創(chuàng)作出了與原畫(huà)相似度極高的繪畫(huà)作品。二者都侵犯了作品改編權(quán),區(qū)別在于前一個(gè)行為侵犯了不同作者創(chuàng)作的不同作品,后一個(gè)則侵犯了同一作者的多部作品。人工智能最終生成的內(nèi)容和供機(jī)器學(xué)習(xí)的作品內(nèi)容實(shí)質(zhì)性相似度較高,根據(jù)“接觸+實(shí)質(zhì)性相似”標(biāo)準(zhǔn)進(jìn)行判定或構(gòu)成侵權(quán),進(jìn)一步采用“思想表達(dá)二分法”進(jìn)行判斷,構(gòu)成相似的要素是思想而非表達(dá),也不能認(rèn)為其是侵權(quán)。判斷實(shí)質(zhì)性相似規(guī)則中的主體標(biāo)準(zhǔn)和客體標(biāo)準(zhǔn)在實(shí)踐中主觀性較強(qiáng),妨礙了初步判定侵權(quán)結(jié)論的一致性。對(duì)于文學(xué)作品或者音樂(lè)作品應(yīng)當(dāng)以“一般公眾”作為判斷主體,以便將判斷主體標(biāo)準(zhǔn)客觀化[17]。也就是建立相關(guān)人工智能算法,訓(xùn)練算法對(duì)主體運(yùn)用和創(chuàng)造水平的判斷能力,判斷內(nèi)容包括綜合提取作品片段程度以及使用范圍等方面。人工智能能夠精準(zhǔn)適用整體觀察法和抽象過(guò)濾法,并且減少先入為主對(duì)于判斷的影響,對(duì)創(chuàng)作物與原作品的相似程度進(jìn)行智能化、精確化和客觀化的比對(duì),成為合理適用相似性規(guī)則的技術(shù)支撐。

    人工智能數(shù)據(jù)輸入階段是容易被忽略的一個(gè)階段,數(shù)據(jù)輸入同樣也存在侵權(quán)風(fēng)險(xiǎn)。數(shù)據(jù)輸入是人工智能生成物產(chǎn)生的前序環(huán)節(jié),類(lèi)似人類(lèi)學(xué)習(xí)過(guò)程中“學(xué)習(xí)他人”的方法,人工智能要事先搜集海量數(shù)字化作品進(jìn)行分析建模,提取作品中對(duì)創(chuàng)作有價(jià)值的概念、結(jié)構(gòu)、規(guī)則、模式等進(jìn)行深度學(xué)習(xí)。人工智能挖掘可供訓(xùn)練的作品大體有兩種途徑:一是掃描作品原件后將其轉(zhuǎn)化成機(jī)器可讀形式,如谷歌數(shù)字圖書(shū)館掃描世界范圍內(nèi)的圖書(shū)是為了建立一個(gè)集成式數(shù)據(jù)庫(kù),用于人工智能進(jìn)行文獻(xiàn)翻譯、語(yǔ)言搜索等創(chuàng)作需要。二是在互聯(lián)網(wǎng)上直接抓取已經(jīng)數(shù)字化的作品。機(jī)器學(xué)習(xí)的新型“復(fù)制依賴(lài)型”技術(shù)大致包括“接觸、提取、挖掘、使用”4個(gè)環(huán)節(jié)。以機(jī)器學(xué)習(xí)挖掘紙質(zhì)作品為例,第一步用影像技術(shù)將書(shū)本按頁(yè)轉(zhuǎn)換成電子圖片;第二步用光學(xué)字符識(shí)別技術(shù)將文字從電子圖片中識(shí)別出來(lái),然后將其轉(zhuǎn)換成二進(jìn)制形式的數(shù)據(jù)集;第三步把轉(zhuǎn)換好的數(shù)據(jù)集拷貝進(jìn)人工智能計(jì)算機(jī)系統(tǒng)為后續(xù)使用提供來(lái)源。從現(xiàn)行《著作權(quán)法》第十條第一款第(五)項(xiàng)在原有7種復(fù)制類(lèi)型基礎(chǔ)上專(zhuān)門(mén)增加了“數(shù)字化”復(fù)制方式可以看出,這兩種數(shù)據(jù)輸入方式均屬于法律規(guī)定的數(shù)字化復(fù)制,即對(duì)作品進(jìn)行原封不動(dòng)的全文復(fù)制并保存復(fù)制件,這同樣是一種侵權(quán)行為[18],而恰恰這種復(fù)制行為在人工智能學(xué)習(xí)過(guò)程中是必不可少的。

    為防止人工智能侵犯著作權(quán),對(duì)其大量獲得作品資料的行為進(jìn)行限制,機(jī)器學(xué)習(xí)的作品集會(huì)因此減少,從而導(dǎo)致算法偏見(jiàn)。缺乏高質(zhì)量作品的作品集本身就可能不全面或者帶有偏見(jiàn),人工智能的學(xué)習(xí)模式會(huì)加劇這種片面。機(jī)器需要規(guī)模巨大、種類(lèi)豐富的數(shù)據(jù)進(jìn)行學(xué)習(xí),如果學(xué)習(xí)作品需要事先取得許可,由此產(chǎn)生的較高許可成本會(huì)打擊一些人工智能開(kāi)發(fā)者的積極性。人工智能拓展了作品的使用方式,但若不及時(shí)有效干預(yù)可能會(huì)極大損害人類(lèi)作者權(quán)利。將市場(chǎng)替代作為侵權(quán)認(rèn)定標(biāo)準(zhǔn)符合著作權(quán)法對(duì)保護(hù)著作權(quán)人壟斷市場(chǎng)利益、平衡著作權(quán)人利益和社會(huì)利益以及促進(jìn)科技發(fā)展的立法目標(biāo),即當(dāng)侵權(quán)行為對(duì)版權(quán)人市場(chǎng)影響較小時(shí),法院很可能不認(rèn)定其為侵權(quán)。在2015年“谷歌圖書(shū)館”案件中,法院從谷歌圖書(shū)館對(duì)著作權(quán)作品的利用角度出發(fā),全面考量了其對(duì)數(shù)字化圖書(shū)館的利用目標(biāo),并以此為依據(jù)得出結(jié)論:谷歌圖書(shū)館對(duì)版權(quán)人作品的“碎片化”搜索能力缺乏一致性、完整性,無(wú)法替代原創(chuàng)作品成果,且對(duì)版權(quán)人擁有的潛在市場(chǎng)收益影響不大,從而判定谷歌圖書(shū)館使用版權(quán)作品的目的和數(shù)字圖書(shū)館整體功能為“正當(dāng)利用”,不構(gòu)成“侵權(quán)”。在判定侵權(quán)時(shí),可以用市場(chǎng)替代標(biāo)準(zhǔn)來(lái)彌補(bǔ)實(shí)質(zhì)性相似原則的不足[19]。

    3.2 侵權(quán)風(fēng)險(xiǎn)承擔(dān)方法:過(guò)錯(cuò)責(zé)任原則

    當(dāng)人工智能程序的開(kāi)發(fā)者同時(shí)也是使用者時(shí),理應(yīng)對(duì)該人工智能程序享有著作權(quán),有權(quán)控制該程序的發(fā)表、發(fā)行和傳播。如果一個(gè)程序開(kāi)發(fā)者在對(duì)一個(gè)受版權(quán)保護(hù)的作品進(jìn)行編碼后,將其植入一個(gè)程序中,它所生成的內(nèi)容融合了這個(gè)程序所產(chǎn)生的可被辨認(rèn)的實(shí)質(zhì)性表達(dá),那么在這種情形下,這個(gè)內(nèi)容的版權(quán)應(yīng)該歸這個(gè)程序的開(kāi)發(fā)者所有[20]。而對(duì)于人工智能生成物,則要看人工智能生成過(guò)程。如果人工智能生成物依賴(lài)于使用者輸入指令(無(wú)指令無(wú)輸出內(nèi)容的人工智能,無(wú)法自主生成具有獨(dú)創(chuàng)性的內(nèi)容),必須經(jīng)過(guò)使用者進(jìn)行數(shù)據(jù)篩選后才能輸出內(nèi)容(但輸出過(guò)程并非對(duì)命令進(jìn)行簡(jiǎn)單轉(zhuǎn)譯,符合人工智能可版權(quán)性的個(gè)性化表達(dá)標(biāo)準(zhǔn)),這時(shí)使用者既是人工智能的激活因素,也是使“人工智能生成物成型確定下來(lái)”的人。如人工智能深度學(xué)習(xí)功能支持對(duì)使用者提供的初始數(shù)據(jù)庫(kù)之外的數(shù)據(jù)進(jìn)行學(xué)習(xí),由此產(chǎn)生的生成物可屬于上述情況。反之,若使用者只是按下生成的按鍵而不參與任何輸出內(nèi)容的形成過(guò)程,則不能認(rèn)定其對(duì)人工智能作品有實(shí)質(zhì)性貢獻(xiàn)。承擔(dān)責(zé)任的重要基礎(chǔ)在于行為人具有過(guò)錯(cuò),使用者并不是在任何情況下都無(wú)須承擔(dān)責(zé)任。

    3.2.1 設(shè)計(jì)者的過(guò)錯(cuò)推定。對(duì)人工智能進(jìn)行訓(xùn)練的人工智能開(kāi)發(fā)者作為預(yù)防人工智能創(chuàng)作失控的第一環(huán),理應(yīng)履行一定的“防抄襲設(shè)計(jì)義務(wù)”(Obligation of Copy Prevention by design)的注意義務(wù)。它來(lái)源于隱私保護(hù)領(lǐng)域中的“隱私設(shè)計(jì)”(Privacy by Design)[21]。當(dāng)今社會(huì)中數(shù)據(jù)信息使用和隱私保護(hù)間的沖突日益加劇,相關(guān)領(lǐng)域的“隱私設(shè)計(jì)”理念也逐漸時(shí)興,這就要求網(wǎng)絡(luò)產(chǎn)品和服務(wù)的提供者在其提供的系統(tǒng)中全面建立隱私保護(hù)理念,其中涉及系統(tǒng)開(kāi)發(fā)目標(biāo)、設(shè)計(jì)流程和操作步驟等。并要求遵循主動(dòng)保護(hù)、默認(rèn)保護(hù)、嵌入保護(hù)等原則,使人類(lèi)社會(huì)對(duì)抄襲的道德譴責(zé)能夠在算法層面轉(zhuǎn)化成為實(shí)在的法律規(guī)制。

    3.2.2 使用者的過(guò)錯(cuò)推定。人工智能使用者責(zé)任認(rèn)定源于人工智能工具屬性和自主性的交互關(guān)系。使用者既不應(yīng)因開(kāi)發(fā)者未合理獲取學(xué)習(xí)數(shù)據(jù)而侵權(quán),也不應(yīng)因?qū)W習(xí)數(shù)據(jù)合法、算法創(chuàng)作過(guò)程自主進(jìn)行而不對(duì)生成物承擔(dān)侵權(quán)責(zé)任,即人工智能使用者不在設(shè)計(jì)者可見(jiàn)范圍內(nèi)啟動(dòng)人工智能創(chuàng)作,人工智能的使用方式和場(chǎng)景由其指令直接決定,并且使用者基于許可能夠從人工智能生成物中直接獲益。因此人工智能使用者應(yīng)履行銜接流程的監(jiān)管和控制義務(wù),及時(shí)遏制侵權(quán)行為的苗頭。

    4 結(jié)語(yǔ)

    人工智能是科技理性和人類(lèi)智慧的有機(jī)結(jié)合,對(duì)人工智能的肯定既是對(duì)人類(lèi)科技發(fā)展的支持,也是對(duì)人類(lèi)意志的贊賞。具有深度學(xué)習(xí)能力的人工智能兼具工具性和創(chuàng)作自主性,雖不具有法律主體資格,但仍可根據(jù)獨(dú)創(chuàng)性標(biāo)準(zhǔn)承認(rèn)其生成物為作品并給予著作權(quán)法保護(hù)。人工智能的特殊性會(huì)導(dǎo)致復(fù)制權(quán)等著作權(quán)侵權(quán)問(wèn)題,無(wú)救濟(jì)則無(wú)權(quán)利,事先確定好權(quán)利歸屬才能更好地解決侵權(quán)問(wèn)題。侵權(quán)責(zé)任的認(rèn)定關(guān)乎創(chuàng)作者和作品傳播者的激勵(lì),應(yīng)當(dāng)適用過(guò)錯(cuò)責(zé)任原則??茖W(xué)技術(shù)向著作權(quán)法提出了新的挑戰(zhàn),我們應(yīng)該正確對(duì)待人類(lèi)智力活動(dòng)和人工智能的關(guān)系,在維護(hù)法律穩(wěn)定性的前提下用謙抑的方式實(shí)現(xiàn)法律與科技的良性互動(dòng)。

    注釋?zhuān)?/p>

    ①參見(jiàn)北京互聯(lián)網(wǎng)法院民事判決書(shū)(2018)京0491民初239號(hào)。

    ②參見(jiàn)深圳市南山區(qū)人民法院民事判決書(shū)(2019)粵0305民初14010號(hào)。

    參考文獻(xiàn):

    [1]吳漢東.人工智能生成作品的著作權(quán)法之問(wèn)[J].中外法學(xué),2020,32(3):653-673.

    [2]MITCHELLT M. Machine Learning[M].New York: McGraw-Hill,1997:22.

    [3]SOBEL S,BENJAMIN L W. Artificial Intelligence's Fair Use Crisis[J].Columbia Journal of Law & the Arts,2017,41(1):49-79.

    [4]李安.機(jī)器學(xué)習(xí)作品的著作權(quán)法分析:非作品性使用、合理使用與侵權(quán)使用[J].電子知識(shí)產(chǎn)權(quán),2020(6):60-70.

    [5]驍克.論人工智能法律主體的法哲學(xué)基礎(chǔ)[J].政治與法律,2021(4):109-121.

    [6]郭明瑞,房紹坤.《民法》[M].北京:高等教育出版社,2021.

    [7]劉洪華.人工智能法律主體資格的否定及其法律規(guī)制構(gòu)想[J].北方法學(xué),2019,13(4):56-66.

    [8]李揚(yáng),李曉宇.康德哲學(xué)視點(diǎn)下人工智能生成物的著作權(quán)問(wèn)題探討[J].法學(xué)雜志,2018,39(9):43-54.

    [9]徐小奔.論算法創(chuàng)作物的可版權(quán)性與著作權(quán)歸屬[J].東方法學(xué),2021(3):41-55.

    [10]孫正樑.人工智能生成內(nèi)容的著作權(quán)問(wèn)題探析[J].清華法學(xué),2019,13(6):190-204.

    [11]孫山.人工智能生成內(nèi)容著作權(quán)法保護(hù)的困境與出路[J].知識(shí)產(chǎn)權(quán),2018(11):60-65.

    [12]熊琦.人工智能生成內(nèi)容的著作權(quán)認(rèn)定[J].知識(shí)產(chǎn)權(quán),2017(3):3-8.

    [13]許明月,譚玲.論人工智能創(chuàng)作物的鄰接權(quán)保護(hù):理論證成與制度安排[J].比較法研究,2018(6):42-54.

    [14]黃玉燁,司馬航.孳息視角下人工智能生成作品的權(quán)利歸屬[J].河南師范大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),2018,45(4):23-29.

    [15]郭萬(wàn)明.人工智能生成成果的法律性質(zhì)及著作權(quán)保護(hù)[J].出版發(fā)行研究,2022(5):58-64.

    [16]焦和平.人工智能創(chuàng)作中數(shù)據(jù)獲取與利用的著作權(quán)風(fēng)險(xiǎn)及化解路徑[J].當(dāng)代法學(xué),2022,36(4):128-140.

    [17]劉強(qiáng),孫青山.人工智能創(chuàng)作物著作權(quán)侵權(quán)問(wèn)題研究[J].湖南大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2020,34(3):140-146.

    [18]詹啟智.論僅復(fù)制未發(fā)行侵權(quán)行為賠償數(shù)額的確定[J].科技與出版,2016(9):63-66.

    [19]曾田.人工智能創(chuàng)作的版權(quán)侵權(quán)問(wèn)題研究[J].河北法學(xué),2019,37(10):176-189.

    [20]陶乾.論著作權(quán)法對(duì)人工智能生成成果的保護(hù):作為鄰接權(quán)的數(shù)據(jù)處理者權(quán)之證立[J].法學(xué),2018(4):3-15.

    [21]初萌.人工智能對(duì)版權(quán)侵權(quán)責(zé)任制度的挑戰(zhàn)及應(yīng)對(duì)[J].北方法學(xué),2021,15(1):138-150.

    猜你喜歡
    獨(dú)創(chuàng)性
    懸而未決
    版權(quán)視域下游戲領(lǐng)域非典型虛擬作品的獨(dú)創(chuàng)性探討
    論非獨(dú)創(chuàng)性數(shù)據(jù)庫(kù)的鄰接權(quán)保護(hù)模式
    試論我國(guó)作品獨(dú)創(chuàng)性的司法認(rèn)定標(biāo)準(zhǔn)
    法制博覽(2018年25期)2018-01-22 15:29:21
    文學(xué)作品的抄襲認(rèn)定法律問(wèn)題
    對(duì)微博版權(quán)客體的認(rèn)定與思考
    出版廣角(2016年18期)2016-12-03 16:14:40
    塊數(shù)據(jù)環(huán)境下數(shù)字版權(quán)的認(rèn)定研究
    淺析著作權(quán)中的幾點(diǎn)問(wèn)題
    錦州店鋪以及街(路)命名的文化內(nèi)涵與功能分析
    議作品之獨(dú)創(chuàng)性*
    在线免费观看的www视频| 欧美午夜高清在线| 国产精品久久久久久亚洲av鲁大| 成人永久免费在线观看视频| 两个人看的免费小视频| 国产视频内射| 少妇的丰满在线观看| 欧美色欧美亚洲另类二区| 亚洲欧美一区二区三区黑人| 国内少妇人妻偷人精品xxx网站 | 一边摸一边抽搐一进一小说| 亚洲欧美一区二区三区黑人| a级毛片a级免费在线| 国产精品日韩av在线免费观看| 天堂动漫精品| 国产不卡一卡二| 国产真人三级小视频在线观看| 此物有八面人人有两片| 亚洲 国产 在线| 免费在线观看影片大全网站| 三级男女做爰猛烈吃奶摸视频| 国产精品国产高清国产av| 在线十欧美十亚洲十日本专区| 亚洲自偷自拍图片 自拍| 国产成人精品久久二区二区免费| 国产aⅴ精品一区二区三区波| 女人被狂操c到高潮| 99久久精品国产亚洲精品| 国产成人一区二区三区免费视频网站| 黄色片一级片一级黄色片| 一本一本综合久久| 成人手机av| 中亚洲国语对白在线视频| 最近最新免费中文字幕在线| 中国美女看黄片| 人成视频在线观看免费观看| 亚洲av第一区精品v没综合| 丝袜美腿诱惑在线| 久久久久久久午夜电影| 天堂动漫精品| 亚洲精品色激情综合| av天堂在线播放| 成人av一区二区三区在线看| 99久久久亚洲精品蜜臀av| 午夜两性在线视频| 一二三四在线观看免费中文在| 免费无遮挡裸体视频| 精品福利观看| 女同久久另类99精品国产91| 午夜激情av网站| 国产精品国产高清国产av| 国产精品一区二区精品视频观看| 成人高潮视频无遮挡免费网站| 91在线观看av| 99精品在免费线老司机午夜| 可以在线观看毛片的网站| 久久人妻av系列| 国产av一区在线观看免费| 亚洲av电影不卡..在线观看| 色综合欧美亚洲国产小说| 亚洲av电影不卡..在线观看| 美女扒开内裤让男人捅视频| 久久精品国产99精品国产亚洲性色| 国产欧美日韩一区二区精品| 久久香蕉激情| 最近在线观看免费完整版| 欧美成狂野欧美在线观看| 久久午夜亚洲精品久久| 黄片大片在线免费观看| 亚洲国产欧美一区二区综合| 老鸭窝网址在线观看| 久久精品成人免费网站| a在线观看视频网站| 成人午夜高清在线视频| 九九热线精品视视频播放| 成在线人永久免费视频| 叶爱在线成人免费视频播放| 亚洲精品美女久久av网站| 国产蜜桃级精品一区二区三区| 男人舔女人下体高潮全视频| 99re在线观看精品视频| 欧美av亚洲av综合av国产av| 欧美在线黄色| 久久亚洲精品不卡| 男女做爰动态图高潮gif福利片| 日韩 欧美 亚洲 中文字幕| 精品国产美女av久久久久小说| 亚洲,欧美精品.| 亚洲av日韩精品久久久久久密| 午夜亚洲福利在线播放| 亚洲国产精品成人综合色| 午夜福利视频1000在线观看| 十八禁人妻一区二区| 18禁裸乳无遮挡免费网站照片| 亚洲av熟女| 母亲3免费完整高清在线观看| 男人的好看免费观看在线视频 | 99国产精品一区二区三区| 亚洲午夜精品一区,二区,三区| 在线观看免费视频日本深夜| 国产99白浆流出| 999久久久国产精品视频| 日韩成人在线观看一区二区三区| 国产精品一区二区三区四区久久| 日韩欧美三级三区| 久久久精品欧美日韩精品| 亚洲va日本ⅴa欧美va伊人久久| 欧美精品啪啪一区二区三区| 亚洲最大成人中文| 亚洲成人免费电影在线观看| 欧美一区二区精品小视频在线| 波多野结衣高清无吗| 18禁黄网站禁片免费观看直播| 中文字幕人成人乱码亚洲影| 黄色女人牲交| 男女床上黄色一级片免费看| 亚洲av电影在线进入| 少妇裸体淫交视频免费看高清 | 美女 人体艺术 gogo| 中出人妻视频一区二区| 国产成人啪精品午夜网站| 怎么达到女性高潮| 中文字幕高清在线视频| 黑人操中国人逼视频| 久久精品亚洲精品国产色婷小说| 欧美精品亚洲一区二区| 精品一区二区三区视频在线观看免费| 老熟妇仑乱视频hdxx| 最好的美女福利视频网| 国产一区在线观看成人免费| 他把我摸到了高潮在线观看| 国产欧美日韩精品亚洲av| 欧美午夜高清在线| 99国产精品99久久久久| 神马国产精品三级电影在线观看 | 精品免费久久久久久久清纯| 色综合婷婷激情| 中文在线观看免费www的网站 | 一级a爱片免费观看的视频| 久久精品国产亚洲av香蕉五月| 日韩欧美三级三区| 精品久久久久久久毛片微露脸| 99久久无色码亚洲精品果冻| 日韩大码丰满熟妇| 麻豆成人午夜福利视频| 精品一区二区三区四区五区乱码| 91麻豆av在线| 国产又黄又爽又无遮挡在线| 久久久久久久久中文| 人人妻人人看人人澡| 日本熟妇午夜| 在线观看66精品国产| ponron亚洲| 国产野战对白在线观看| 久久这里只有精品中国| 19禁男女啪啪无遮挡网站| 岛国在线免费视频观看| 日本一二三区视频观看| 热99re8久久精品国产| av片东京热男人的天堂| 国内久久婷婷六月综合欲色啪| 脱女人内裤的视频| 欧美乱色亚洲激情| 亚洲熟女毛片儿| 欧美日本亚洲视频在线播放| 国产精品久久久久久精品电影| 老汉色av国产亚洲站长工具| 日韩av在线大香蕉| 国产欧美日韩一区二区精品| 人妻久久中文字幕网| 夜夜躁狠狠躁天天躁| 一本综合久久免费| 午夜两性在线视频| 亚洲国产精品999在线| 亚洲,欧美精品.| 久久久国产精品麻豆| 色精品久久人妻99蜜桃| 很黄的视频免费| 午夜久久久久精精品| 好看av亚洲va欧美ⅴa在| 在线观看www视频免费| 国产一区在线观看成人免费| 久久久水蜜桃国产精品网| 精品免费久久久久久久清纯| 久久久久九九精品影院| 欧美丝袜亚洲另类 | 午夜a级毛片| 亚洲熟妇中文字幕五十中出| 国内毛片毛片毛片毛片毛片| 嫁个100分男人电影在线观看| 国产成人一区二区三区免费视频网站| 美女扒开内裤让男人捅视频| 国产av麻豆久久久久久久| 亚洲成人久久性| 日韩精品免费视频一区二区三区| 黄色视频,在线免费观看| 麻豆国产av国片精品| 亚洲avbb在线观看| 亚洲专区字幕在线| 精品国产亚洲在线| 亚洲国产精品999在线| 亚洲精品美女久久av网站| 老鸭窝网址在线观看| 好男人在线观看高清免费视频| 国产精品久久电影中文字幕| 一本大道久久a久久精品| 免费一级毛片在线播放高清视频| 女同久久另类99精品国产91| 老司机午夜十八禁免费视频| 色尼玛亚洲综合影院| 欧美精品啪啪一区二区三区| 国产精品综合久久久久久久免费| 久久这里只有精品中国| a级毛片a级免费在线| 国产精华一区二区三区| 成熟少妇高潮喷水视频| 成人精品一区二区免费| 在线观看66精品国产| 啦啦啦免费观看视频1| 久久香蕉国产精品| 18美女黄网站色大片免费观看| 国内精品久久久久久久电影| 成人18禁高潮啪啪吃奶动态图| 一级毛片精品| 在线观看免费视频日本深夜| av在线播放免费不卡| 舔av片在线| 日韩大码丰满熟妇| 久久久久国产一级毛片高清牌| 窝窝影院91人妻| 不卡一级毛片| 国产私拍福利视频在线观看| 狠狠狠狠99中文字幕| e午夜精品久久久久久久| 中文字幕久久专区| 麻豆成人av在线观看| 免费高清视频大片| 在线观看免费午夜福利视频| 丁香六月欧美| 18禁观看日本| 99精品欧美一区二区三区四区| 欧美黑人巨大hd| 亚洲av电影不卡..在线观看| 又黄又粗又硬又大视频| 成人av一区二区三区在线看| 91麻豆精品激情在线观看国产| 亚洲一码二码三码区别大吗| 午夜激情福利司机影院| 淫妇啪啪啪对白视频| 精品少妇一区二区三区视频日本电影| 婷婷精品国产亚洲av在线| 亚洲精品粉嫩美女一区| a在线观看视频网站| 欧美国产日韩亚洲一区| 99re在线观看精品视频| 亚洲中文字幕一区二区三区有码在线看 | 免费在线观看完整版高清| 美女扒开内裤让男人捅视频| 亚洲国产日韩欧美精品在线观看 | 最近在线观看免费完整版| 国产精品 欧美亚洲| 国产精品国产高清国产av| 啦啦啦免费观看视频1| 亚洲九九香蕉| 老司机午夜十八禁免费视频| 亚洲 欧美一区二区三区| 日本成人三级电影网站| 日本 av在线| 亚洲av熟女| 成熟少妇高潮喷水视频| 在线十欧美十亚洲十日本专区| 亚洲欧美日韩无卡精品| 亚洲人成77777在线视频| 国产成人av教育| 免费观看精品视频网站| 欧美三级亚洲精品| 岛国视频午夜一区免费看| 亚洲精品久久国产高清桃花| 特大巨黑吊av在线直播| 中文资源天堂在线| 99热这里只有是精品50| 亚洲欧美日韩东京热| 18禁黄网站禁片免费观看直播| av视频在线观看入口| 精品日产1卡2卡| 搞女人的毛片| 2021天堂中文幕一二区在线观| 99精品久久久久人妻精品| 老司机福利观看| 日韩国内少妇激情av| 国产野战对白在线观看| 精品久久久久久久毛片微露脸| 三级毛片av免费| 99国产精品99久久久久| 99久久久亚洲精品蜜臀av| 哪里可以看免费的av片| 欧美乱妇无乱码| 欧美一级a爱片免费观看看 | 亚洲男人天堂网一区| 免费看十八禁软件| 国产成人啪精品午夜网站| 亚洲欧美精品综合一区二区三区| 国产一区二区在线观看日韩 | 熟女少妇亚洲综合色aaa.| 少妇熟女aⅴ在线视频| 精品人妻1区二区| 俄罗斯特黄特色一大片| 国产精品亚洲av一区麻豆| 国产亚洲精品一区二区www| 久久欧美精品欧美久久欧美| 听说在线观看完整版免费高清| 首页视频小说图片口味搜索| 一区二区三区国产精品乱码| 亚洲av成人不卡在线观看播放网| 19禁男女啪啪无遮挡网站| 日韩有码中文字幕| 99国产精品99久久久久| av中文乱码字幕在线| 亚洲一码二码三码区别大吗| 久久精品国产99精品国产亚洲性色| 岛国在线观看网站| 午夜a级毛片| cao死你这个sao货| 美女扒开内裤让男人捅视频| 久热爱精品视频在线9| 他把我摸到了高潮在线观看| 高清毛片免费观看视频网站| 级片在线观看| 国产精品99久久99久久久不卡| 国产91精品成人一区二区三区| 日本 欧美在线| 中文在线观看免费www的网站 | 在线观看午夜福利视频| 一本精品99久久精品77| 国产一区二区三区视频了| 国产一区二区在线av高清观看| 女警被强在线播放| 又黄又粗又硬又大视频| 午夜福利欧美成人| 一级片免费观看大全| 制服人妻中文乱码| 日本黄大片高清| 露出奶头的视频| 欧美中文综合在线视频| 女同久久另类99精品国产91| 免费高清视频大片| 久久精品国产99精品国产亚洲性色| 国产精品乱码一区二三区的特点| 欧美午夜高清在线| 成年人黄色毛片网站| 搡老熟女国产l中国老女人| 久久99热这里只有精品18| 给我免费播放毛片高清在线观看| 国产伦在线观看视频一区| 久久婷婷人人爽人人干人人爱| 99riav亚洲国产免费| 精品久久久久久久人妻蜜臀av| 午夜福利在线在线| 日本免费a在线| 成人三级做爰电影| 亚洲午夜精品一区,二区,三区| 亚洲激情在线av| 久9热在线精品视频| 9191精品国产免费久久| 男女午夜视频在线观看| av视频在线观看入口| 正在播放国产对白刺激| 两个人的视频大全免费| 久久久久久久午夜电影| 国产区一区二久久| 在线观看66精品国产| 长腿黑丝高跟| 精品日产1卡2卡| 两个人的视频大全免费| 舔av片在线| 熟女少妇亚洲综合色aaa.| 亚洲精品在线美女| videosex国产| 性欧美人与动物交配| 在线观看66精品国产| 床上黄色一级片| 亚洲一区高清亚洲精品| 免费无遮挡裸体视频| 99热只有精品国产| 欧美日韩一级在线毛片| 99国产精品一区二区三区| 国产精品一及| 午夜精品在线福利| 一区二区三区国产精品乱码| 亚洲国产看品久久| 制服诱惑二区| 熟妇人妻久久中文字幕3abv| 免费av毛片视频| 午夜老司机福利片| 亚洲欧美日韩东京热| 欧美黄色片欧美黄色片| 亚洲成人久久爱视频| 在线十欧美十亚洲十日本专区| 99热只有精品国产| 两人在一起打扑克的视频| 黑人巨大精品欧美一区二区mp4| 国产午夜精品久久久久久| 可以免费在线观看a视频的电影网站| 一级黄色大片毛片| 九九热线精品视视频播放| 99热这里只有精品一区 | 最近最新中文字幕大全电影3| 老熟妇仑乱视频hdxx| 男女之事视频高清在线观看| 50天的宝宝边吃奶边哭怎么回事| 午夜影院日韩av| 亚洲五月婷婷丁香| 久久久久免费精品人妻一区二区| 久久精品aⅴ一区二区三区四区| 99在线视频只有这里精品首页| 两性午夜刺激爽爽歪歪视频在线观看 | 久久中文字幕一级| 99热这里只有精品一区 | 99热这里只有精品一区 | 长腿黑丝高跟| 无人区码免费观看不卡| 亚洲色图av天堂| xxxwww97欧美| 日日爽夜夜爽网站| 国内揄拍国产精品人妻在线| 亚洲欧美日韩高清专用| 韩国av一区二区三区四区| 免费av毛片视频| 久久久精品国产亚洲av高清涩受| 国产精品乱码一区二三区的特点| 国产一区二区在线av高清观看| 国产v大片淫在线免费观看| 精品国产亚洲在线| 俄罗斯特黄特色一大片| 制服人妻中文乱码| 村上凉子中文字幕在线| 毛片女人毛片| 日韩精品中文字幕看吧| 国产精品,欧美在线| 成年女人毛片免费观看观看9| 亚洲 欧美 日韩 在线 免费| 国产高清有码在线观看视频 | 成年版毛片免费区| 国产亚洲欧美在线一区二区| 欧美中文综合在线视频| 又粗又爽又猛毛片免费看| 亚洲精华国产精华精| 日日夜夜操网爽| 丰满的人妻完整版| 亚洲欧美激情综合另类| 精品国产亚洲在线| 久久精品国产亚洲av高清一级| 怎么达到女性高潮| 国内揄拍国产精品人妻在线| 三级毛片av免费| 亚洲熟女毛片儿| 香蕉丝袜av| 国产99久久九九免费精品| 国内揄拍国产精品人妻在线| xxxwww97欧美| 亚洲国产高清在线一区二区三| 国产一区二区三区在线臀色熟女| 亚洲国产中文字幕在线视频| 此物有八面人人有两片| 午夜免费激情av| 欧美乱码精品一区二区三区| 天堂动漫精品| 老司机福利观看| 国产三级中文精品| 国产精品久久视频播放| 香蕉久久夜色| 国产午夜精品久久久久久| 观看免费一级毛片| 国产一区二区在线观看日韩 | 老司机深夜福利视频在线观看| 久久香蕉国产精品| 级片在线观看| 2021天堂中文幕一二区在线观| 国产真实乱freesex| 国产亚洲精品久久久久久毛片| 岛国在线免费视频观看| 一级毛片高清免费大全| av在线播放免费不卡| 国产麻豆成人av免费视频| 精品不卡国产一区二区三区| 国产伦人伦偷精品视频| 成人欧美大片| 美女高潮喷水抽搐中文字幕| 99热这里只有精品一区 | 怎么达到女性高潮| 在线观看一区二区三区| av片东京热男人的天堂| 国产高清视频在线播放一区| 久久久久国内视频| 免费在线观看视频国产中文字幕亚洲| 中文字幕人妻丝袜一区二区| 99热这里只有精品一区 | 国产精品野战在线观看| 亚洲激情在线av| 欧美日韩亚洲国产一区二区在线观看| 男人舔女人的私密视频| 欧美成狂野欧美在线观看| 三级男女做爰猛烈吃奶摸视频| 国产伦人伦偷精品视频| 久久久久久久久中文| 哪里可以看免费的av片| 脱女人内裤的视频| 国产av不卡久久| 日韩大尺度精品在线看网址| 国产av不卡久久| 精品久久久久久久久久久久久| 搡老岳熟女国产| e午夜精品久久久久久久| 老熟妇仑乱视频hdxx| 男人的好看免费观看在线视频 | 久久中文字幕一级| 国产激情欧美一区二区| 国产主播在线观看一区二区| 国产视频内射| 大型黄色视频在线免费观看| 男人的好看免费观看在线视频 | 中文字幕熟女人妻在线| 亚洲 欧美一区二区三区| 18禁国产床啪视频网站| 黄色丝袜av网址大全| 男女下面进入的视频免费午夜| 又爽又黄无遮挡网站| av天堂在线播放| 久久久精品国产亚洲av高清涩受| 国产爱豆传媒在线观看 | 国产一区二区三区视频了| tocl精华| 久久久久久免费高清国产稀缺| 高清毛片免费观看视频网站| 国语自产精品视频在线第100页| 亚洲av熟女| 亚洲自偷自拍图片 自拍| 亚洲无线在线观看| 亚洲 欧美一区二区三区| 88av欧美| 日本一本二区三区精品| 久久99热这里只有精品18| 99久久综合精品五月天人人| 波多野结衣高清无吗| 女警被强在线播放| 老熟妇仑乱视频hdxx| 香蕉国产在线看| 一边摸一边做爽爽视频免费| 又大又爽又粗| 动漫黄色视频在线观看| 黄片大片在线免费观看| 亚洲中文字幕日韩| 18禁裸乳无遮挡免费网站照片| 欧美精品亚洲一区二区| 欧美性猛交╳xxx乱大交人| 中文字幕av在线有码专区| 90打野战视频偷拍视频| 国产亚洲精品av在线| 久久人妻福利社区极品人妻图片| 成人精品一区二区免费| 91成年电影在线观看| 人妻丰满熟妇av一区二区三区| 黄色视频不卡| 国内久久婷婷六月综合欲色啪| 99re在线观看精品视频| 成人亚洲精品av一区二区| avwww免费| 日韩 欧美 亚洲 中文字幕| 成年女人毛片免费观看观看9| 人人妻人人澡欧美一区二区| 97超级碰碰碰精品色视频在线观看| 999久久久国产精品视频| 亚洲一卡2卡3卡4卡5卡精品中文| 国产爱豆传媒在线观看 | 国产高清视频在线播放一区| 日韩有码中文字幕| 波多野结衣高清无吗| aaaaa片日本免费| 一级a爱片免费观看的视频| 99热这里只有精品一区 | 每晚都被弄得嗷嗷叫到高潮| 欧美日韩福利视频一区二区| 伊人久久大香线蕉亚洲五| 美女 人体艺术 gogo| 亚洲成人精品中文字幕电影| 成人亚洲精品av一区二区| 久久婷婷人人爽人人干人人爱| 制服人妻中文乱码| 亚洲熟妇熟女久久| 午夜日韩欧美国产| 亚洲av第一区精品v没综合| 欧美日韩瑟瑟在线播放| 丝袜人妻中文字幕| 999精品在线视频| 日本一区二区免费在线视频| 亚洲精品一区av在线观看| 色综合欧美亚洲国产小说| 国产av一区二区精品久久| 精品久久久久久久久久免费视频| 国产精品九九99| 久久久久久久久中文| 国产伦人伦偷精品视频| 老司机在亚洲福利影院| 久久久久九九精品影院| 少妇粗大呻吟视频| 精品一区二区三区四区五区乱码| 亚洲国产精品999在线| 国产成人啪精品午夜网站| 18禁国产床啪视频网站| 日日夜夜操网爽| 亚洲人成77777在线视频| 久久精品亚洲精品国产色婷小说| 亚洲aⅴ乱码一区二区在线播放 | 免费看十八禁软件| 亚洲精品中文字幕在线视频|