• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能生成內(nèi)容的可版權(quán)性審思及路向

    2024-07-17 00:00:00王耀國李慧瑤
    理論導(dǎo)刊 2024年7期

    摘 要:當(dāng)前,以ChatGPT為代表的生成式人工智能迅速迭代發(fā)展,并在文本、圖像、音視頻等多樣內(nèi)容的理解與生成中廣泛應(yīng)用,在極大提高相關(guān)作品產(chǎn)出效率的同時,也引發(fā)了大量關(guān)于人工智能生成內(nèi)容(AIGC)的可版權(quán)性爭議。我國現(xiàn)行著作權(quán)法律法規(guī)對人工智能生成內(nèi)容的可版權(quán)性尚無明確規(guī)定,須更深入地審思生成式人工智能的“主體性”資格、相關(guān)生成內(nèi)容的“獨創(chuàng)性”與“價值性”、知識產(chǎn)權(quán)制度的本意與本質(zhì)等問題。將法理與馬克思勞動價值論相結(jié)合,要在堅持保障人的主體地位、注重各方利益衡平下合法保護各方權(quán)益。

    關(guān)鍵詞:人工智能;可版權(quán)性;法理;勞動價值論

    中圖分類號:D92 文獻(xiàn)標(biāo)志碼:A 文章編號:1002-7408(2024)07-0102-07

    以ChatGPT為代表的生成式人工智能實現(xiàn)了對文本、圖像、語音、視頻等多模態(tài)內(nèi)容的理解和生成,當(dāng)前許多組織和個人已將其應(yīng)用于相關(guān)作品的“創(chuàng)作”過程中,以代替人類創(chuàng)作者的部分勞動。就結(jié)果呈現(xiàn)而言,這無疑極大地提高了文本、圖像、音視頻等作品的產(chǎn)出效率,助推社會文化產(chǎn)品數(shù)量的井噴式增長,展現(xiàn)出文化作品生產(chǎn)的嶄新樣態(tài)。同時,許多有待澄明之處也潛藏于這一樣態(tài)中,如相關(guān)知識產(chǎn)權(quán)歸屬問題的系列論辯:能夠“創(chuàng)作”文字、音樂、繪畫等生成物的人工智能是否應(yīng)獲得作者身份,我們應(yīng)當(dāng)以人、擬制人還是人的工具對其加以審視?人工智能生成內(nèi)容是否可以成為著作權(quán)法意義上“作品”?如果人工智能生成物是著作權(quán)法意義上的作品,那么該“作品”的權(quán)利歸屬應(yīng)當(dāng)如何界定?將法理與馬克思勞動價值論的視域相結(jié)合,解決生成式人工智能及生成物可版權(quán)性的這一系列問題,有助于我們對之進(jìn)行全面審視和辯證論析。

    一、人工智能生成內(nèi)容版權(quán)爭議的法理思考

    對人工智能生成物版權(quán)問題進(jìn)行思考與論辯,根源于深切的現(xiàn)實需要。2023年,北京互聯(lián)網(wǎng)法院針對AI生成圖片著作權(quán)侵權(quán)糾紛一案作出一審判決,審理認(rèn)為:利用人工智能生成內(nèi)容是人類利用工具的結(jié)果,該案涉及的畫作經(jīng)由作者“多次調(diào)適”,體現(xiàn)了作者的審美選擇和判斷,因此北京互聯(lián)網(wǎng)法院判定涉案圖片具備“獨創(chuàng)性”要素,屬于作品,原告是涉案圖片的作者,享有涉案圖片的著作權(quán)①。而在2023年9月,美國游戲設(shè)計師杰森·艾倫利用人工智能生成創(chuàng)作《太空歌劇院》并申請版權(quán)登記,最終則被美國版權(quán)局拒絕②。面對人工智能生成物的版權(quán)爭議,兩項不同判決的現(xiàn)實矛盾引起關(guān)注和審思。對此,需要從法律與法理的視角對人工智能生成物的版權(quán)問題進(jìn)行分析和判斷。

    (一)生成式人工智能的“主體”資格審思

    人工智能生成物的可版權(quán)性爭議之一在于人工智能的“主體性”,即生成式人工智能的“作者”身份認(rèn)定爭議。對此,需要從人工智能的法律主體問題入手,這是探討人工智能生成物版權(quán)問題的基礎(chǔ)。

    我國著作權(quán)法對作者身份有著明確界定,根據(jù)《中華人民共和國著作權(quán)法》(下稱《著作權(quán)法》)第11條規(guī)定:“創(chuàng)作作品的自然人是作者。由法人或者非法人組織主持,代表法人或者非法人組織意志創(chuàng)作,并由法人或者非法人組織承擔(dān)責(zé)任的作品,法人或者非法人組織視為作者?!睋?jù)此條可知,我國著作權(quán)法中受到承認(rèn)的作者僅有自然人、法人和非法人組織三種,生成式人工智能顯然不包含在內(nèi)。此外,我國的勞動保護法體系也只將自然人作為保護對象。但是,法律本身具有一定的滯后性,《著作權(quán)法》最新修訂為2020年,此時生成式人工智能的研發(fā)和應(yīng)用遠(yuǎn)未達(dá)到當(dāng)前規(guī)模,修訂也并未涉及人工智能生成物的版權(quán)相關(guān)問題。因此,僅依靠現(xiàn)有法律文本對人工智能作者身份進(jìn)行“一刀切”式否決,難以形成對生成式人工智能版權(quán)問題的有效論斷,對人工智能的主體資格審視還應(yīng)從著作權(quán)法的立法目的方面進(jìn)行深度探討。

    《著作權(quán)法》第1條明確闡釋保護著作權(quán)、保護相關(guān)權(quán)、鼓勵作品創(chuàng)作和傳播及促進(jìn)社會主義文化、科學(xué)事業(yè)發(fā)展繁榮四項立法目的。從形式上看,人工智能生成內(nèi)容似乎具備“作品”的形式,但僅以外部形式作為作品的判斷標(biāo)準(zhǔn)顯然與著作權(quán)法的立法目的和現(xiàn)代法理精神不符。以著名的美國獼猴自拍案件為例③,該案的判決中,美國兩級法院均否認(rèn)獼猴作者身份,并認(rèn)定獼猴自拍照為不受著作權(quán)法保護的作品,判決理由是《美國版權(quán)法》只保護“人”的創(chuàng)作成果。生成式人工智能同獼猴一樣,都屬于“非人”的范疇,人工智能的核心是計算機程序、算法與數(shù)據(jù)庫等,“更不可能受到著作權(quán)法的‘激勵’”[1]。將人工智能視為著作權(quán)法的主體提供保護的論斷,顯然與著作權(quán)法的立法目的不符。因此,無論是基于現(xiàn)有法律框架,或回歸著作權(quán)法的立法目的,都難以認(rèn)定人工智能的作者身份。

    (二)人工智能生成內(nèi)容的“獨創(chuàng)性”辨析

    獨創(chuàng)性意指作品獨立構(gòu)思而成的屬性,就其詞義而言,可以分為“獨”和“創(chuàng)”兩個層面,即經(jīng)獨立構(gòu)思形成并具有創(chuàng)造性,這是著作權(quán)法的核心概念,也是判斷“作品”成立最為實質(zhì)的要件?!吨腥A人民共和國著作權(quán)法實施條例》(下稱《條例》)第2條規(guī)定:“著作權(quán)法所稱作品,指文學(xué)、藝術(shù)和科學(xué)領(lǐng)域內(nèi)具有獨創(chuàng)性并能以某種有形形式復(fù)制的智力成果?!笨梢?,著作權(quán)法保護的對象“作品”應(yīng)當(dāng)具備以下條件:其一,應(yīng)屬于文學(xué)、藝術(shù)和科學(xué)領(lǐng)域;其二,具備一定的表現(xiàn)形式,并能夠以一定形式傳播;其三,屬于智力創(chuàng)作成果。顯然,人工智能生成物滿足前兩項要件,即在文學(xué)、藝術(shù)和科學(xué)等特定領(lǐng)域,并可以通過一定形式表達(dá)和傳播,但“屬于智力創(chuàng)作成果”這一要件能否滿足則存在爭論。

    其一,人工智能生成內(nèi)容是否具備“獨”的屬性。按照我國著作權(quán)法的規(guī)定,作品是作者獨立創(chuàng)作的。“獨”是指獨立構(gòu)思,獨立完成并展現(xiàn)作者的獨特個性。那么,人工智能生成物可否作為人工智能的獨立構(gòu)思并展現(xiàn)其獨特個性?在當(dāng)前弱人工智能階段,人工智能生成物還無法滿足“獨”這一要件。原因在于,首先,人工智能生成“作品”離不開人的參與。生成式人工智能能夠投放于生產(chǎn),離不開前期工程師對算法的開發(fā)與研制。同時,人工智能能否生成大量的“作品”取決于原本存在于公共領(lǐng)域的人類知識的豐富程度。因此,如果將人工智能完成人類的“創(chuàng)作”指令行為視為創(chuàng)作,則忽略了其生成內(nèi)容所必須依賴的人類社會與公共領(lǐng)域根基。其次,人工智能生成“作品”離不開數(shù)據(jù)的喂養(yǎng)。人工智能的飛速發(fā)展離不開智能時代三要素——算法、算力和算據(jù)?!捌渲兴銚?jù)是指原始數(shù)據(jù)通過清洗、加工、增強、泛化、預(yù)訓(xùn)練、知識抽取、脫敏、加密等操作后可直接用于計算輸入的元素數(shù)依據(jù)”[2],是人工智能生成“作品”的信息基礎(chǔ)。生成式人工智能的生成內(nèi)容本質(zhì)上是依托現(xiàn)有信息庫中的文本、圖像等信息素材,進(jìn)行重新組合排列得出的,其所有的信息來源全部來自于“公共領(lǐng)域”海量的信息供給。如果沒有這些公共領(lǐng)域原始數(shù)據(jù)的“喂養(yǎng)”,那么無論其有多強大的“學(xué)習(xí)”能力,也難以生成所謂“作品”。

    其二,人工智能生成內(nèi)容是否具有“創(chuàng)”的屬性。“創(chuàng)”即創(chuàng)作之意,內(nèi)含“主觀能動”的意蘊,要求作品應(yīng)具有思想內(nèi)核。雖然著作權(quán)法采取“思想表達(dá)二分法”(即著作權(quán)只保護表達(dá)不保護思想)的認(rèn)定原則,但“作品”的本質(zhì)應(yīng)當(dāng)是作者某一方面思想的表達(dá),體現(xiàn)作者的思想和意志。意識是人腦的機能,而人工智能的底層邏輯在于數(shù)據(jù)與算法,人工智能與人腦的區(qū)別之一就在于人工智能僅有算法邏輯而缺少人類的整體性思維。以ChatGPT為代表的生成式人工智能本質(zhì)上是基于現(xiàn)有數(shù)據(jù)注入、算法的構(gòu)建以及人類偏好所共同搭建構(gòu)成的,其“創(chuàng)作”過程缺乏自身的主動性、想象力和“作者”情感,生成的內(nèi)容難免具有不同程度的“同質(zhì)性”。在此視角下,人工智能的“作品”生成活動只能視為創(chuàng)作輔助活動?!稐l例》第3條明確規(guī)定:“為他人創(chuàng)作進(jìn)行組織工作,提供咨詢意見、物質(zhì)條件,或者進(jìn)行其他輔助活動,均不視為創(chuàng)作?!?/p>

    綜上,“獨”與“創(chuàng)”應(yīng)當(dāng)體現(xiàn)作者的個性與選擇,表達(dá)的是作者的思想,人工智能“創(chuàng)作行為”只能看作契合人的需要的機械過程,與“作品獨創(chuàng)性”的聯(lián)系并不明顯。

    (三)生成式人工智能的“擬制人格”檢視

    2017年,沙特授予人工智能機器人索菲亞公民身份。這是否說明,可以通過人為立法賦予人工智能主體身份?人工智能能否參考法人人格的規(guī)定,通過法律擬制成為著作權(quán)法的權(quán)利主體?

    其一,擬制人格的規(guī)范目的。在我國,擬制人格主要應(yīng)用于公司法人制度,目的在于解決權(quán)利主體及其行為能力、法律責(zé)任等系列問題。因此,“公民”身份并不是其作為法律主體的關(guān)鍵,能否獨立地行使公民權(quán)利、履行公民義務(wù)才是作為法律主體的關(guān)鍵?!吨鳈?quán)法》第11條第三款將法人或者非法人組織“視為作者”,法人能夠被賦予擬制人格是因為其擁有獨立財產(chǎn),能夠獨立地行使權(quán)利、履行義務(wù)并以其財產(chǎn)獨立承擔(dān)民事責(zé)任。人工智能是否能類比法人制度建立擬制人格?根據(jù)前文分析,能否獨立行使權(quán)利、承擔(dān)責(zé)任是法人能夠享有法律人格的重要條件。不同于法人,以著作權(quán)為例,如索菲亞、微軟小冰等一般的人工智能尚可能享受一定的署名權(quán),但是著作財產(chǎn)權(quán)卻無從安置,人工智能本身并沒有獨立行使權(quán)利、履行義務(wù)并承擔(dān)責(zé)任的可能,其不存在獨立財產(chǎn),無法像法人一樣以獨立財產(chǎn)承擔(dān)責(zé)任。國際醫(yī)學(xué)期刊編輯委員會(ICMJE)就作者身份問題提出四項標(biāo)準(zhǔn),其中第4條為:“同意對研究工作全面負(fù)責(zé),確保與論文任何部分的準(zhǔn)確性或誠信有關(guān)的質(zhì)疑得到恰當(dāng)?shù)恼{(diào)查和解決?!保?]這一標(biāo)準(zhǔn)表明作者必須具備對作品負(fù)責(zé)的完整能力。將人工智能擬制為“人”,在一定程度上并不能滿足“擬制人格”設(shè)置初衷。

    其二,擬制人格的賦予基礎(chǔ)。法人按照法律或者章程規(guī)定的議事方式或者表決方式進(jìn)行決議,決議代表團體的意志。團體的獨立意志是法人與他人形成法律關(guān)系的核心要素,“團體獨立意志是團體擁有和維持獨立財產(chǎn)的主觀可能性”[4]。法人是自然人權(quán)利的擴張和延伸,在法人團體意志的背后必然體現(xiàn)自然人的意志。法人本身就具有人的意志,這是能夠賦予法人擬制人格的基礎(chǔ)。生成式人工智能顯然不具備“自然人的意志”這一內(nèi)核,因此難以參照法人人格的規(guī)定賦予人工智能擬制人格,也無法通過法律擬制獲得作者身份。

    綜上,法律層面上確立人工智能的主體地位仍然應(yīng)采取審慎的態(tài)度。以ChatGPT為代表的生成式人工智能,不具備獨立的人格與思想,不能直接認(rèn)定其為創(chuàng)作主體;因其無獨立財產(chǎn),也無法以其財產(chǎn)獨立承擔(dān)責(zé)任,在法律上便無法同公司法人一樣賦予其擬制法律人格。

    二、人工智能生成內(nèi)容版權(quán)爭議的馬克思勞動價值論思考

    生成式人工智能在現(xiàn)有法律體系下是否成為知識產(chǎn)權(quán)的主體?對此,有必要引入馬克思勞動價值理論,從“勞動”“勞動者”“價值”等概念出發(fā),辨析人工智能主體性以及人工智能生成內(nèi)容的獨創(chuàng)性等相關(guān)問題,為人工智能生成內(nèi)容的可版權(quán)性提供參考。

    (一)基于馬克思勞動價值論的人工智能“主體性”論析

    勞動主體是馬克思勞動價值論的核心命題,勞動對象、勞動關(guān)系等均圍繞勞動主體展開。當(dāng)前,人工智能在許多研究與應(yīng)用中被貼上“類人性”“類意識”等標(biāo)簽,模糊了其與人的主體性界限。對此,需要基于馬克思勞動價值論,在生成式人工智能的活動性質(zhì)、人工智能的“勞動者”身份、人工智能活動能否稱之為“勞動”等方面進(jìn)行探討。

    其一,人工智能并非勞動者。人工智能的發(fā)展盡管給人類勞動主體地位帶來一定挑戰(zhàn),在人工智能技術(shù)的不斷發(fā)展下,簡單體力勞動甚至部分腦力勞動被人工智能替代,但這并不能說明人工智能替代人類成為勞動主體。人工智能對人類勞動的替代仍屬于自蒸汽機誕生以來,科技發(fā)展變革引發(fā)的“勞動主體性悖論”[5]的范疇。按照馬克思的觀點,人是勞動的唯一主體,勞動是人的本質(zhì)屬性,“勞動創(chuàng)造了人本身”[6]。人工智能的算法程序本質(zhì)是人類為了滿足自身需要創(chuàng)造并受人類支配的產(chǎn)物。人工智能無論如何發(fā)展,都僅是人類器官的外部延伸。有學(xué)者指出“人工智能是儲存在機器中的大腦”[7],我們無法將人的大腦認(rèn)定為勞動者,自然也無法將人工智能這一“機器大腦”認(rèn)定為勞動者。

    其二,人工智能生成內(nèi)容的過程并非勞動。馬克思認(rèn)為:“勞動首先是人和自然之間的過程,是人以自身的活動來中介、調(diào)整和控制人和自然之間的物質(zhì)變換的過程?!保?]207-208“勞動過程的簡單要素是:有目的的活動或勞動本身,勞動對象和勞動資料。”[8]208按照馬克思的觀點,勞動概念包含目的性、勞動對象與勞動資料這三個要素。生成式人工智能按照預(yù)設(shè)指令生成操作者所需要的“作品”的過程看似具有“目的”,但這種“目的”本質(zhì)上是虛假而不成立的,因為其目的性體現(xiàn)在勞動者有目的的勞動過程中。如同蜜蜂建房與建筑師建房,其本質(zhì)區(qū)別在于“最蹩腳的建筑師從一開始就比最靈巧的蜜蜂高明的地方,是他在用蜂蠟建筑蜂房以前,已經(jīng)在自己的頭腦中把它建成了”[8]208。ChatGPT等弱人工智能接受的指令活動與蜜蜂完成蜂巢建筑的活動并無二致,本質(zhì)上是其內(nèi)生性的“本能”,即人工智能生成內(nèi)容的過程是按照人類預(yù)設(shè)的指令完成的機械活動。另外,馬克思在勞動中引入了“意志”這一要素,“必須使他的意志服從這個目的”[8]208。在馬克思主義的語境下,勞動主體應(yīng)當(dāng)具備意志這一關(guān)鍵要素,體現(xiàn)為:一是自我認(rèn)知,即意識到自己是勞動主體;二是主觀能動性,即能夠脫離人類的指令進(jìn)行主觀能動的創(chuàng)作。顯然,人工智能的“創(chuàng)作目的”只是人為設(shè)定的程序使然,和人工智能本身的意志無關(guān)。當(dāng)前的人工智能既無法意識到自己是“勞動”主體,也不具備自主決策權(quán),更無法脫離人類的指令進(jìn)行自由創(chuàng)作,因此不能稱其具有“目的”。與人類的意志相比,“弱人工智能的目的只是機械的目的”。

    (二)基于馬克思勞動價值論的人工智能生成內(nèi)容“價值”論析

    人工智能生成物是否具有馬克思勞動價值論意義的“價值”?要探討此問題,必須結(jié)合人工智能生成物在版權(quán)視域下的新表征,明晰“價值”的范疇,并明確人工智能在價值生產(chǎn)中的作用與本質(zhì)。為此,一是要論辯人工智能生成內(nèi)容的價值與使用價值,二是要辨析人工智能“創(chuàng)造價值”和“轉(zhuǎn)移價值”的區(qū)別。

    其一,從價值生成的角度而言,以ChatGPT為代表的生成式人工智能在生成“作品”的過程中并未將人類勞動時間凝結(jié)其中,因此并沒有創(chuàng)造新的價值。不可否認(rèn)的是,就結(jié)果層面而言,人工智能的生成內(nèi)容具有“使用價值”,而且由于“使用價值總是構(gòu)成財富的物質(zhì)的內(nèi)容”[8]49,人工智能創(chuàng)造收益是不可忽視的。馬克思勞動價值理論認(rèn)為,商品價值是由社會必要勞動時間決定的,商品的生產(chǎn)過程是勞動過程和價值形成過程的統(tǒng)一,價值是凝結(jié)在商品中的無差別人類勞動,與“使用價值”并不等同。人工智能在價值生產(chǎn)中實質(zhì)上作為不變資本而存在,本質(zhì)上屬于勞動資料的范疇。將人工智能應(yīng)用于“創(chuàng)作”領(lǐng)域,文字生成的效率極大提高,個別勞動生產(chǎn)率遠(yuǎn)遠(yuǎn)高于社會必要勞動生產(chǎn)率,因而能獲得較大的剩余價值。但我們要看到,勞動是價值的唯一源泉,卻“并不是它所生產(chǎn)的使用價值即物質(zhì)財富的唯一源泉”[8]56,將收益等同于價值的說法實則混淆了價值與交換價值,并模糊了價值與財富的概念界限。

    其二,人工智能的作用在于轉(zhuǎn)移價值。馬克思在《資本論》中明確提出機器不能創(chuàng)造價值,機器的作用在于把自身價值轉(zhuǎn)移到生產(chǎn)的產(chǎn)品之上。人工智能本身凝結(jié)了人類的一般勞動,如果僅僅關(guān)注人工智能的使用價值而忽視了人工智能本身的價值,就容易掩蓋人工智能生產(chǎn)資料的本質(zhì)。如前所述,人工智能本身就是一種商品,具有一定的價值,這部分價值由人工智能研發(fā)的組織管理、算法設(shè)計等一系列人類勞動產(chǎn)生。而人工智能“創(chuàng)作”的過程就是人工智能研發(fā)完成后作為生產(chǎn)資料投入生產(chǎn)領(lǐng)域生產(chǎn)新“商品”的過程,即生產(chǎn)出新的凝結(jié)“人類價值”勞動產(chǎn)品的過程。在此過程中,人工智能充當(dāng)不變資本發(fā)揮勞動工具的功能,在“創(chuàng)造”新商品的過程中進(jìn)行價值轉(zhuǎn)移而不產(chǎn)生任何增值。因此,人工智能的“作品”生成活動無法直接創(chuàng)造價值,人工智能生成物的“價值”不過是人類在人工智能研發(fā)過程中的價值轉(zhuǎn)移。由此可見,ChatGPT等生成式人工智能所產(chǎn)生的“作品”,本質(zhì)上仍然是復(fù)雜的人類勞動產(chǎn)生價值的轉(zhuǎn)移。如果將人工智能生成內(nèi)容過程視為創(chuàng)作過程,則混淆了創(chuàng)造價值和轉(zhuǎn)移價值。

    三、人工智能生成內(nèi)容版權(quán)爭議的本質(zhì)及其發(fā)展路向

    人工智能生成內(nèi)容可版權(quán)性的爭議,離不開對著作權(quán)的爭取。著作權(quán)作為私權(quán)利的一種,核心特征在于排他性,但是作為知識產(chǎn)權(quán)保護客體的“信息”,具有流動性、公共性、以人為本的應(yīng)然特性,這要求我們以人的“在場”為目的和核心,從平衡社會公益和私權(quán)利的視角展開分析。

    (一)沖突本質(zhì):知識公有與私權(quán)保護的博弈

    知識公有與私權(quán)保護的衡平是知識產(chǎn)權(quán)從確立到不斷完善過程中的一項追求,也是發(fā)達(dá)國家與發(fā)展中國家、消費者與企業(yè)展開系列合作與博弈的內(nèi)容。1709年的《安娜法令》提出了“二元立法”原則,要求在知識產(chǎn)權(quán)制度的起步階段強調(diào)對作者私權(quán)保護的同時,給予其他利益主體與公共利益必要的關(guān)懷與保留。隨著壟斷BdLcUP2i8IH2qHtiCudUjZQU3jrFLhPfeChore9+/rc=資本主義時代的到來,知識成為重要生產(chǎn)要素,與資本增殖的連結(jié)愈發(fā)緊密,現(xiàn)代意義的國際知識產(chǎn)權(quán)制度逐漸形成。但是,隨著科技創(chuàng)新的不斷發(fā)展,特別是人工智能在知識產(chǎn)權(quán)方面的應(yīng)用,新的利益沖突愈發(fā)凸顯。當(dāng)資本主義發(fā)展進(jìn)入壟斷資本主義時期,知識產(chǎn)權(quán)制度異化為資本的工具,國際知識產(chǎn)權(quán)領(lǐng)域私權(quán)與公權(quán)博弈日益激烈。1989年之前,美國一直拒絕加入《伯爾尼公約》,拒絕承擔(dān)對所有外國作品提供以國民待遇為基礎(chǔ)的保護義務(wù)。在后TRIPs時代,發(fā)達(dá)國家追求更高水平的知識產(chǎn)權(quán)保護,以美國、日本、歐盟成員國等為首的發(fā)達(dá)國家首先提出《反假冒貿(mào)易協(xié)定》(ACTA),以實現(xiàn)進(jìn)一步強化知識產(chǎn)權(quán)執(zhí)法的目標(biāo),各國在衡量自身利益中呈現(xiàn)出“非合作博弈”的傾向。顯然,隨著發(fā)達(dá)國家主導(dǎo)科技創(chuàng)新與發(fā)展,知識產(chǎn)權(quán)的二元立法價值取向與公共利益衡平仍無法擺脫資本的逐利本質(zhì)。知識產(chǎn)權(quán)博弈困境的根本原因是私有制在知識領(lǐng)域的具象化,即知識公有需要與知識私有化的矛盾。資本的逐利本性導(dǎo)致了知識產(chǎn)權(quán)制度的異化趨向,在一定程度上背離了促進(jìn)知識傳播和文化發(fā)展的使命。

    馬克思在《1857—1858年經(jīng)濟學(xué)手稿》中指出:“另一種不費資本分文的生產(chǎn)力,是科學(xué)力量。資本只有通過使用機器(部分也通過化學(xué)過程)才能占有這種科學(xué)力量。”[9]資本家利用技術(shù)手段大幅提高個別勞動生產(chǎn)率獲得超額剩余價值,知識產(chǎn)權(quán)制度以公開換保護的做法,使得資本家在保護期內(nèi)能夠防止其他資本家復(fù)制仿制等,從而在保護期內(nèi)阻斷社會勞動生產(chǎn)率的提高,實現(xiàn)超額剩余價值。人工智能的應(yīng)用則加劇了這一矛盾。人工智能使得數(shù)據(jù)的大量生產(chǎn)、相關(guān)作品的爆發(fā)增長成為可能。當(dāng)人工智能生成物成為知識生產(chǎn)的主要方式,“數(shù)據(jù)”要素即成為重要的生產(chǎn)要素。在知識產(chǎn)權(quán)的國家化保護中,掌握科技創(chuàng)新的發(fā)達(dá)國家及企業(yè)一定程度上也就形成了要素壟斷。如果將人工智能生成物認(rèn)定為“作品”,發(fā)展中國家以及較為落后的企業(yè)要么面臨高額的許可費用,要么止步于較低的生產(chǎn)效率。同樣,如果賦予人工智能以獨立的主體地位,那么人工智能的擁有者,即其所有權(quán)人則可以進(jìn)一步以資本和數(shù)據(jù)強化對人的剝削與宰治。賦予人工智能生成物著作權(quán)無疑加速了人類公有知識“私有化”的進(jìn)程。人工智能生成物可版權(quán)性的爭議是資本邏輯主導(dǎo)下,以知識產(chǎn)權(quán)為展現(xiàn)形式的財產(chǎn)私有制與知識公有化需要的矛盾。

    (二)價值路向:堅持保障人的主體地位

    生成式人工智能的廣泛應(yīng)用,對人的勞動主體地位和作品的歸屬原則提出了新的挑戰(zhàn)。知識產(chǎn)權(quán)制度誕生于技術(shù)革新的時代背景之下,建立初衷是保護創(chuàng)造成果,激勵創(chuàng)新創(chuàng)造。從應(yīng)然的角度看,人工智能技術(shù)的革新和應(yīng)用是為了將人類從繁重的勞動中解放出來,為人的自由全面發(fā)展創(chuàng)造技術(shù)條件。創(chuàng)制法律的目的在于以法律規(guī)范保障人的權(quán)益,彰顯人的價值。無論科技如何發(fā)展,必須明確的是,人工智能的發(fā)展過程是自然人為了滿足自身主體需要不斷探索世界并改造世界的過程,科技的發(fā)展應(yīng)服務(wù)于人,法律的創(chuàng)制也應(yīng)服務(wù)于人。在人工智能生成物的可版權(quán)性方面,應(yīng)當(dāng)強調(diào)人的主體地位,并捍衛(wèi)人類勞動的價值與尊嚴(yán)。因此,應(yīng)當(dāng)堅持以人為本的價值指向,推動完善知識產(chǎn)權(quán)制度,促進(jìn)實質(zhì)公平。

    馬克思勞動價值論和剩余價值學(xué)說是厘清人工智能本質(zhì)的理論前提。馬克思勞動異化理論的核心并非批判技術(shù)本身,而是通過異化勞動揭示私有制的起源,本質(zhì)是對資本主義生產(chǎn)方式之下資本宰治技術(shù)的批判。著作權(quán)法應(yīng)堅持以人為本的價值取向,構(gòu)建共有、共建、共享的知識產(chǎn)權(quán)制度。將人工智能視為作者將會引發(fā)主體異化的風(fēng)險。必須明確,“活勞動”是創(chuàng)造價值的唯一源泉,生成式人工智能由人類所創(chuàng)造,其目的是為了解放人類而非替代人類,無論其“智能化”程度如何,其目的和歸宿只能是服務(wù)于人類,實現(xiàn)人類福祉。

    (三)發(fā)展路徑:注重各方的利益衡平與權(quán)益保護

    基于保護創(chuàng)新的需要,對人工智能及其衍生的“作品”加以保護,仍然十分重要。對此,應(yīng)當(dāng)回歸知識產(chǎn)權(quán)法的立法目的,在平衡好公益與私益的基礎(chǔ)上,兼顧保護創(chuàng)新和維護公共利益,合法維護人工智能開發(fā)者、使用者的權(quán)利,以立法目的、社會公平以及人類福祉為指引,在保護創(chuàng)新需要的同時推進(jìn)知識的共享,促進(jìn)人類知識的繁榮。

    其一,注重公共利益與知識產(chǎn)權(quán)保護的利益衡平。利益衡平理論是現(xiàn)代知識產(chǎn)權(quán)制度的理論基礎(chǔ),意指在面對各種利益沖突時,基于公平導(dǎo)向,對相沖突的各方利益進(jìn)行綜合考量取舍并通過法律的形式予以確認(rèn)。人工智能生成物的知識產(chǎn)權(quán)保護應(yīng)該受到公共利益的限制與衡平。人工智能生成物所需要的數(shù)據(jù)資料來自于公共知識領(lǐng)域,知識產(chǎn)品不具有排他性和競爭性,因此我們必須衡平好公共利益與私益,并以此推動文化的傳播與繁榮。對知識產(chǎn)品的保護不足或者過度保護,會引發(fā)“公地悲劇”與“反公地悲劇”?!肮乇瘎 泵枋隽耸袌鰺o序競爭導(dǎo)致公共資源枯竭的現(xiàn)象,而“反公地悲劇”則反映了公共資源由于受到約束被限制開發(fā)而導(dǎo)致浪費的問題。“反公地悲劇”在專利申請領(lǐng)域尤為明顯,其主要表現(xiàn)為“專利螳螂”(專利流氓)、“專利叢林”和“許可費堆積(膨脹)”等[10]。同樣,在著作權(quán)領(lǐng)域,在人工智能的高效訓(xùn)練、生產(chǎn)過程中,難免產(chǎn)生許多“低質(zhì)低效”的“作品”,如對其進(jìn)行著作權(quán)益歸屬認(rèn)定,人類創(chuàng)作者在進(jìn)行原創(chuàng)的過程中也將不得不穿過人工智能生成物的“專利叢林”,使得相關(guān)創(chuàng)作更加繁瑣,這與著作權(quán)法的立法目的背道而馳。

    其二,立足著作權(quán)法的立法目的,合法維護各方權(quán)益。一方面,知識產(chǎn)權(quán)法屬于民法范疇,我國著作權(quán)法有著“以著作權(quán)屬于作者為原則,以特殊規(guī)定為補充,以合同約定為例外”的著作權(quán)歸屬原則,其中法人作品、職務(wù)作品、委托作品等均適用特殊規(guī)定。因此,應(yīng)當(dāng)充分考慮利益雙方意愿,在不違反憲法及現(xiàn)行法律法規(guī)的基礎(chǔ)上落實以上原則。此外,還可以利用技術(shù)手段(如水印和格式條款),直接對人工智能生成物的權(quán)屬進(jìn)行劃分,正如《生成式人工智能服務(wù)管理暫行辦法》第9條第二款所要求的,“提供者應(yīng)當(dāng)與注冊其服務(wù)的生成式人工智能服務(wù)使用者簽訂服務(wù)協(xié)議,明確雙方權(quán)利義務(wù)”。另一方面,確定人工智能生成物的權(quán)利歸屬,必須充分考量公平要素。應(yīng)當(dāng)維護人工智能開發(fā)者權(quán)益,使得人工智能生成物獲得一定法律保護,以補償研發(fā)投資和生產(chǎn)費用,確保開發(fā)者在合理空間內(nèi)獲得部分利潤。開發(fā)者和使用者獲得一定的版權(quán)收益,能夠激勵科技創(chuàng)新和人工智能的研發(fā),有助于將收益返還于制造者、投資者或者開發(fā)者,達(dá)到激勵人工智能研制創(chuàng)新的效果。對于他人的使用則應(yīng)當(dāng)給予一定的合理使用空間,網(wǎng)絡(luò)平臺應(yīng)當(dāng)盡到事先審查、風(fēng)險提示與監(jiān)管的義務(wù)。對于無法找到權(quán)利人的“作品”,則可以參照“孤兒作品”管理制度來對人工智能生成物的權(quán)利進(jìn)行保護。除此之外,對于版權(quán)保護應(yīng)當(dāng)規(guī)定一定的時效,時效過后,則應(yīng)當(dāng)進(jìn)入公共領(lǐng)域成為公共資源,促進(jìn)人類社會知識繁榮。

    結(jié)語

    隨著智能算法的迭代升級,基于ChatGPT等生成式人工智能的“作品”逐漸增多。當(dāng)前,相關(guān)生成內(nèi)容的“獨創(chuàng)性”要素判定復(fù)雜,人工智能的“作者身份”認(rèn)定等也尚存爭論,引發(fā)了大量關(guān)于人工智能生成內(nèi)容知識產(chǎn)權(quán)權(quán)利歸屬的探討。本文基于法理學(xué)與馬克思勞動價值論的視角,認(rèn)為生成式人工智能與自然人勞動者在“作品創(chuàng)作”上存在明顯差異,無法直接認(rèn)定生成式人工智能的勞動者身份,亦不能給予其法律擬制人格。但基于保護創(chuàng)新的需要,應(yīng)從立法目的、執(zhí)行成本以及利益衡平的角度出發(fā),在尊重各方主體意思自治的基礎(chǔ)上,對人工智能生成作品加以保護。

    注釋:

    ① 參見李某與劉某侵害著作權(quán)糾紛案——“AI文生圖”著作權(quán)案,北京互聯(lián)網(wǎng)法院(2023)京0491民初11279號民事判決書。

    ② Second Request for Reconsideration for Refusal to Register Thétre D’opéra Spatial (SR # 1-11743923581; Correspondence ID: 1-5T5320R), United States Copyright Offce (Sep. 5, 2023)。

    ③ 2011年,來自英國的攝影師大衛(wèi)·斯萊特在印度尼西亞叢林中拍攝時,相機被一只黑獼猴奪去并拍下了自己的照片。2014年、2015年斯萊特與維基共享資源網(wǎng)站、美國動物福利組織(PETA)就該照片猴子能否擁有版權(quán)發(fā)生糾紛。美國版權(quán)局與舊金山法院作出判決,稱該照片不受版權(quán)保護。

    參考文獻(xiàn):

    [1]王遷.再論人工智能生成的內(nèi)容在著作權(quán)法中的定性[J].政法論壇,2023,41(4):16-33.

    [2]柴華,鄭亮,翟云.算據(jù):實現(xiàn)低碳計算的一種路徑[J].信息通信技術(shù)與政策,2022(3):34-39.

    [3]學(xué)術(shù)研究實施與報告和醫(yī)學(xué)期刊編輯與發(fā)表的推薦規(guī)范[EB/OL].https://wwwicmjeorg/recommendations/translations/chinese2023pdf.

    [4]馬俊駒.法人制度的歷史演進(jìn)、理論建構(gòu)和中國課題[J].武漢理工大學(xué)學(xué)報(社會科學(xué)版),2023,36(1):1-20.

    [5]陽倩,李霞飛.人工智能背景下“勞動主體性悖論”破解路徑探析[J].河南工程學(xué)院學(xué)報(社會科學(xué)版),2024,39(1):6-12.

    [6]馬克思恩格斯全集:第26卷[M].北京:人民出版社,2014:759.

    [7]吳雨星.弱人工智能時代馬克思勞動價值論的堅持與闡釋[J].東南學(xué)術(shù),2022,287(1):66-74.

    [8]馬克思恩格斯全集:第44卷[M].北京:人民出版社,2001.

    [9]馬克思恩格斯全集:第31卷[M].北京:人民出版社,1998:168.

    [10]朱與墨,楊豐寧.專利領(lǐng)域“私地悲劇”的防控及治理[J].高科技與產(chǎn)業(yè)化,2023,29(1):56-61.

    【責(zé)任編輯:未央】

    基金項目:安徽省“三全育人”試點省建設(shè)暨高校思想政治工作能力提升計劃項目“《原理》課詮釋馬克思主義和中華優(yōu)秀傳統(tǒng)文化相結(jié)合的邏輯框架研究”(sztsjh-2022-2-17);安徽高校人文社會科學(xué)研究重點項目“浸潤與突破:馬克思主義和中華優(yōu)秀傳統(tǒng)文化相結(jié)合的生活向度研究”(SK2021A0207)。

    作者簡介:王耀國(1997—),男,山東濰坊人,華東師范大學(xué)馬克思主義學(xué)院博士研究生,華東師范大學(xué)公民發(fā)展與現(xiàn)代德育研究中心青年研究員,研究方向:社會發(fā)展與現(xiàn)代德育;李慧瑤(1999—),女,濟南人,同濟大學(xué)馬克思主義學(xué)院碩士研究生,研究方向:思想政治教育、習(xí)近平法治思想。

    日韩欧美一区视频在线观看 | 18+在线观看网站| 一级片'在线观看视频| 新久久久久国产一级毛片| 男女下面进入的视频免费午夜| 国产老妇伦熟女老妇高清| 欧美三级亚洲精品| 日日摸夜夜添夜夜爱| 国产精品.久久久| 国产av国产精品国产| 岛国毛片在线播放| 国精品久久久久久国模美| www.av在线官网国产| 一区二区三区四区激情视频| 亚洲国产日韩一区二区| 一级二级三级毛片免费看| 国产毛片在线视频| 日本av手机在线免费观看| 国产成人精品福利久久| 最近中文字幕2019免费版| 国产欧美亚洲国产| av在线app专区| 97精品久久久久久久久久精品| 亚洲色图综合在线观看| 国产精品一区二区在线不卡| 大香蕉久久网| 日韩欧美 国产精品| 少妇人妻精品综合一区二区| freevideosex欧美| 成人二区视频| 成人国产麻豆网| 国产在线男女| 99国产精品免费福利视频| 99热这里只有是精品50| 少妇熟女欧美另类| 久久6这里有精品| 国产亚洲91精品色在线| 自拍偷自拍亚洲精品老妇| 色婷婷av一区二区三区视频| av专区在线播放| 国产黄片视频在线免费观看| 99精国产麻豆久久婷婷| 国产黄色视频一区二区在线观看| 亚洲熟女精品中文字幕| 久久精品国产亚洲av天美| 最近最新中文字幕免费大全7| 精品视频人人做人人爽| 欧美日韩视频高清一区二区三区二| 女人久久www免费人成看片| av网站免费在线观看视频| 噜噜噜噜噜久久久久久91| 内射极品少妇av片p| 欧美成人a在线观看| 欧美日韩综合久久久久久| 亚洲av免费高清在线观看| 国产爱豆传媒在线观看| 狂野欧美激情性bbbbbb| 26uuu在线亚洲综合色| 亚洲人成网站高清观看| 伦理电影免费视频| 国产在线免费精品| 国内精品宾馆在线| 日本与韩国留学比较| 精品亚洲乱码少妇综合久久| 国产精品欧美亚洲77777| 免费大片黄手机在线观看| 我要看黄色一级片免费的| 国产精品国产三级专区第一集| 亚洲精品国产av蜜桃| 777米奇影视久久| 免费看光身美女| 国产片特级美女逼逼视频| 街头女战士在线观看网站| 国产日韩欧美亚洲二区| a级毛片免费高清观看在线播放| 欧美激情极品国产一区二区三区 | 高清毛片免费看| kizo精华| 全区人妻精品视频| 秋霞在线观看毛片| av免费在线看不卡| 亚洲无线观看免费| 久久国内精品自在自线图片| 亚洲欧美精品专区久久| 国产亚洲av片在线观看秒播厂| 国产精品精品国产色婷婷| 老司机影院毛片| a级毛色黄片| 国产欧美另类精品又又久久亚洲欧美| 亚洲,欧美,日韩| 国产精品嫩草影院av在线观看| 成人黄色视频免费在线看| 精品久久久噜噜| 少妇猛男粗大的猛烈进出视频| 欧美精品一区二区大全| 99热这里只有精品一区| 免费av中文字幕在线| 欧美最新免费一区二区三区| 免费在线观看成人毛片| 一级毛片 在线播放| 一个人看视频在线观看www免费| 99久久精品国产国产毛片| 深夜a级毛片| 久久精品熟女亚洲av麻豆精品| 日日摸夜夜添夜夜爱| 日日啪夜夜撸| 精品亚洲成国产av| 久久青草综合色| 日韩av不卡免费在线播放| 深夜精品福利| 欧美人与性动交α欧美软件| 欧美人与性动交α欧美精品济南到| 精品国产一区二区三区四区第35| 丁香六月欧美| 在线观看免费日韩欧美大片| 日韩视频在线欧美| 成年av动漫网址| 宅男免费午夜| 久久亚洲精品不卡| 国产精品一区二区在线不卡| 欧美黄色淫秽网站| 久久这里只有精品19| 男女免费视频国产| 午夜影院在线不卡| 国产在视频线精品| 久久这里只有精品19| 国产精品.久久久| 每晚都被弄得嗷嗷叫到高潮| 久久国产精品人妻蜜桃| 国产黄色免费在线视频| 美女午夜性视频免费| 女人爽到高潮嗷嗷叫在线视频| 少妇人妻 视频| 啦啦啦在线观看免费高清www| 18禁裸乳无遮挡动漫免费视频| 中文字幕人妻熟女乱码| 日本色播在线视频| 免费人妻精品一区二区三区视频| 中国美女看黄片| 波多野结衣一区麻豆| 亚洲久久久国产精品| 啦啦啦啦在线视频资源| 黄色a级毛片大全视频| 大香蕉久久成人网| 亚洲男人天堂网一区| 欧美成人午夜精品| 日本猛色少妇xxxxx猛交久久| 叶爱在线成人免费视频播放| 老熟女久久久| 精品高清国产在线一区| 午夜老司机福利片| 国产欧美亚洲国产| 飞空精品影院首页| 久久国产精品人妻蜜桃| 青草久久国产| 在线精品无人区一区二区三| 免费看av在线观看网站| 人人澡人人妻人| 91精品国产国语对白视频| 在线观看免费午夜福利视频| 在线天堂中文资源库| 丝袜在线中文字幕| 久久99热这里只频精品6学生| 国产精品一国产av| 19禁男女啪啪无遮挡网站| 少妇粗大呻吟视频| 啦啦啦视频在线资源免费观看| 国产欧美日韩综合在线一区二区| 19禁男女啪啪无遮挡网站| 亚洲 国产 在线| 悠悠久久av| kizo精华| 久久久久精品人妻al黑| 婷婷成人精品国产| 国产99久久九九免费精品| 又大又黄又爽视频免费| 看十八女毛片水多多多| 波多野结衣一区麻豆| 欧美久久黑人一区二区| 亚洲五月色婷婷综合| 欧美日韩视频高清一区二区三区二| 亚洲熟女精品中文字幕| 成人免费观看视频高清| 精品人妻1区二区| 最近手机中文字幕大全| 国产精品人妻久久久影院| av网站免费在线观看视频| 亚洲视频免费观看视频| 国产无遮挡羞羞视频在线观看| 久久99热这里只频精品6学生| 亚洲欧洲国产日韩| 精品国产乱码久久久久久男人| 日韩电影二区| 天堂俺去俺来也www色官网| xxxhd国产人妻xxx| 亚洲欧美成人综合另类久久久| 久久中文字幕一级| 欧美黑人精品巨大| 999精品在线视频| 精品卡一卡二卡四卡免费| 首页视频小说图片口味搜索 | 91麻豆av在线| 久久女婷五月综合色啪小说| 日韩制服丝袜自拍偷拍| 2021少妇久久久久久久久久久| 国产精品 欧美亚洲| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲av电影在线进入| 国产淫语在线视频| 亚洲av综合色区一区| 王馨瑶露胸无遮挡在线观看| 可以免费在线观看a视频的电影网站| 一级片免费观看大全| 男女床上黄色一级片免费看| av线在线观看网站| 97人妻天天添夜夜摸| 黑人欧美特级aaaaaa片| 黄色片一级片一级黄色片| 精品亚洲成国产av| av国产久精品久网站免费入址| 男人操女人黄网站| 黄频高清免费视频| 国产不卡av网站在线观看| 中文字幕亚洲精品专区| 不卡av一区二区三区| 久久综合国产亚洲精品| 性少妇av在线| 亚洲一区二区三区欧美精品| 国产三级黄色录像| avwww免费| 亚洲国产成人一精品久久久| 不卡av一区二区三区| 婷婷色av中文字幕| 男女床上黄色一级片免费看| 美女脱内裤让男人舔精品视频| 国产精品久久久久久人妻精品电影 | 亚洲第一青青草原| 日韩制服丝袜自拍偷拍| 午夜两性在线视频| 天天躁日日躁夜夜躁夜夜| 亚洲情色 制服丝袜| 中文精品一卡2卡3卡4更新| 麻豆国产av国片精品| 一级片免费观看大全| 久久国产精品大桥未久av| 亚洲第一青青草原| 日本欧美视频一区| 欧美日韩亚洲高清精品| 亚洲欧美激情在线| 亚洲成人国产一区在线观看 | 激情五月婷婷亚洲| 91老司机精品| av国产久精品久网站免费入址| 亚洲欧美一区二区三区国产| 久久久久久人人人人人| 丁香六月天网| 自线自在国产av| 欧美激情 高清一区二区三区| 超色免费av| 黑人欧美特级aaaaaa片| 黑人巨大精品欧美一区二区蜜桃| 亚洲三区欧美一区| 欧美 亚洲 国产 日韩一| av在线播放精品| 国产精品 欧美亚洲| av片东京热男人的天堂| 制服诱惑二区| 欧美xxⅹ黑人| 久久久国产精品麻豆| a级片在线免费高清观看视频| 波多野结衣av一区二区av| 日韩中文字幕欧美一区二区 | 91精品三级在线观看| av欧美777| 男女午夜视频在线观看| 飞空精品影院首页| 亚洲专区国产一区二区| 亚洲精品国产av成人精品| 久久精品久久精品一区二区三区| 91麻豆av在线| 免费不卡黄色视频| 婷婷色综合大香蕉| 这个男人来自地球电影免费观看| 最近中文字幕2019免费版| 亚洲国产日韩一区二区| 91麻豆精品激情在线观看国产 | 五月开心婷婷网| a级片在线免费高清观看视频| 精品视频人人做人人爽| 免费观看人在逋| 捣出白浆h1v1| 亚洲,欧美精品.| 男人添女人高潮全过程视频| av天堂在线播放| 纯流量卡能插随身wifi吗| 亚洲欧美激情在线| 黄色视频在线播放观看不卡| 精品久久久精品久久久| 亚洲,一卡二卡三卡| 欧美大码av| 国产片内射在线| 婷婷丁香在线五月| 国产97色在线日韩免费| 久久这里只有精品19| 精品熟女少妇八av免费久了| 只有这里有精品99| 一级,二级,三级黄色视频| 99国产精品一区二区蜜桃av | 免费黄频网站在线观看国产| 韩国精品一区二区三区| 亚洲国产成人一精品久久久| 免费看av在线观看网站| 午夜两性在线视频| 久久国产精品影院| 亚洲欧美精品综合一区二区三区| 老司机亚洲免费影院| 我要看黄色一级片免费的| 午夜91福利影院| 精品卡一卡二卡四卡免费| 午夜福利视频精品| 美女福利国产在线| 男男h啪啪无遮挡| av在线播放精品| 免费在线观看日本一区| 亚洲欧美日韩高清在线视频 | 成年av动漫网址| 伊人久久大香线蕉亚洲五| 中文字幕亚洲精品专区| 每晚都被弄得嗷嗷叫到高潮| 丝袜在线中文字幕| 欧美日韩亚洲高清精品| 亚洲精品国产av蜜桃| 自线自在国产av| 亚洲av在线观看美女高潮| 亚洲精品一区蜜桃| 亚洲少妇的诱惑av| 丁香六月天网| 午夜影院在线不卡| 男人添女人高潮全过程视频| 精品视频人人做人人爽| 久久精品aⅴ一区二区三区四区| 一区福利在线观看| 精品人妻在线不人妻| 赤兔流量卡办理| 亚洲精品一二三| 高清视频免费观看一区二区| 国产精品二区激情视频| 老汉色av国产亚洲站长工具| 美女高潮到喷水免费观看| 波野结衣二区三区在线| 国产熟女欧美一区二区| 男女免费视频国产| 日韩一本色道免费dvd| 波野结衣二区三区在线| 精品国产乱码久久久久久男人| 久久九九热精品免费| 精品国产国语对白av| 黑人巨大精品欧美一区二区蜜桃| www.999成人在线观看| 男女边摸边吃奶| 国产精品免费大片| 久久精品亚洲熟妇少妇任你| videos熟女内射| 考比视频在线观看| 黄色一级大片看看| 中文字幕人妻丝袜制服| 亚洲激情五月婷婷啪啪| 免费观看a级毛片全部| e午夜精品久久久久久久| 2018国产大陆天天弄谢| 国产人伦9x9x在线观看| 日日夜夜操网爽| 一级毛片我不卡| 国产精品一区二区精品视频观看| 国产日韩欧美视频二区| 欧美 日韩 精品 国产| 精品亚洲成a人片在线观看| 国产av国产精品国产| 丰满饥渴人妻一区二区三| 成人午夜精彩视频在线观看| 亚洲国产精品一区二区三区在线| 国产精品亚洲av一区麻豆| 天天躁日日躁夜夜躁夜夜| 男女午夜视频在线观看| 亚洲国产精品一区二区三区在线| 天堂8中文在线网| 夜夜骑夜夜射夜夜干| 中国美女看黄片| 一区二区av电影网| 欧美国产精品一级二级三级| 男男h啪啪无遮挡| 777久久人妻少妇嫩草av网站| 欧美亚洲日本最大视频资源| 亚洲专区中文字幕在线| 国产xxxxx性猛交| 99国产精品免费福利视频| 精品久久久久久久毛片微露脸 | 最近手机中文字幕大全| 99热全是精品| 久久人人97超碰香蕉20202| 欧美97在线视频| 亚洲,欧美,日韩| 少妇裸体淫交视频免费看高清 | 又粗又硬又长又爽又黄的视频| 久久国产精品人妻蜜桃| 久久久久久久精品精品| 欧美 亚洲 国产 日韩一| 妹子高潮喷水视频| 无遮挡黄片免费观看| 亚洲av美国av| 成年美女黄网站色视频大全免费| 只有这里有精品99| 国产成人免费观看mmmm| 青春草亚洲视频在线观看| 亚洲av片天天在线观看| 秋霞在线观看毛片| 国产日韩欧美亚洲二区| 国产一卡二卡三卡精品| 亚洲av电影在线进入| 超色免费av| 亚洲精品乱久久久久久| 精品少妇久久久久久888优播| 免费在线观看视频国产中文字幕亚洲 | 交换朋友夫妻互换小说| 欧美日韩一级在线毛片| 欧美国产精品一级二级三级| 精品卡一卡二卡四卡免费| 国产欧美日韩一区二区三区在线| 精品人妻熟女毛片av久久网站| 亚洲综合色网址| 中文字幕制服av| 中文字幕人妻丝袜制服| 又大又黄又爽视频免费| 中文字幕最新亚洲高清| 日本欧美国产在线视频| 国产爽快片一区二区三区| 久久精品aⅴ一区二区三区四区| 国产精品一区二区在线观看99| 亚洲精品日韩在线中文字幕| 少妇人妻久久综合中文| 国产成人av激情在线播放| 美女国产高潮福利片在线看| 好男人电影高清在线观看| 热99久久久久精品小说推荐| 精品国产乱码久久久久久男人| 一区在线观看完整版| 国产精品三级大全| 一本久久精品| 欧美+亚洲+日韩+国产| 亚洲成av片中文字幕在线观看| 纵有疾风起免费观看全集完整版| 日本wwww免费看| 91老司机精品| 亚洲精品成人av观看孕妇| 久久狼人影院| 亚洲七黄色美女视频| 一本—道久久a久久精品蜜桃钙片| 大片免费播放器 马上看| 少妇粗大呻吟视频| 亚洲男人天堂网一区| 久久天躁狠狠躁夜夜2o2o | 亚洲精品中文字幕在线视频| 亚洲人成网站在线观看播放| 国产伦人伦偷精品视频| 性少妇av在线| 亚洲成人手机| 黄色 视频免费看| a级片在线免费高清观看视频| 交换朋友夫妻互换小说| 狂野欧美激情性xxxx| netflix在线观看网站| 男人舔女人的私密视频| 国产色视频综合| 精品国产一区二区久久| 人人澡人人妻人| 日韩一区二区三区影片| 午夜福利一区二区在线看| 国产女主播在线喷水免费视频网站| 女人精品久久久久毛片| 王馨瑶露胸无遮挡在线观看| 一级黄片播放器| 精品国产一区二区三区四区第35| 亚洲九九香蕉| 免费不卡黄色视频| 大片免费播放器 马上看| 欧美日韩亚洲高清精品| 91精品三级在线观看| 日本av免费视频播放| 人人澡人人妻人| 性色av一级| 亚洲成av片中文字幕在线观看| 日韩av在线免费看完整版不卡| 亚洲欧洲日产国产| 秋霞在线观看毛片| 纵有疾风起免费观看全集完整版| 天天躁日日躁夜夜躁夜夜| 深夜精品福利| 亚洲国产欧美在线一区| 欧美亚洲日本最大视频资源| 国产伦人伦偷精品视频| 天堂8中文在线网| 欧美av亚洲av综合av国产av| 国产精品成人在线| 天天躁日日躁夜夜躁夜夜| 搡老岳熟女国产| 久久天躁狠狠躁夜夜2o2o | 国产亚洲精品第一综合不卡| 免费女性裸体啪啪无遮挡网站| 久久精品久久久久久噜噜老黄| 亚洲精品国产一区二区精华液| 五月天丁香电影| 亚洲精品国产av蜜桃| 性高湖久久久久久久久免费观看| 色婷婷av一区二区三区视频| 欧美乱码精品一区二区三区| 免费少妇av软件| 久久免费观看电影| 91老司机精品| 男人舔女人的私密视频| 久久人妻福利社区极品人妻图片 | 又紧又爽又黄一区二区| 国产精品 国内视频| 在现免费观看毛片| 视频区欧美日本亚洲| 久久国产精品人妻蜜桃| 国产真人三级小视频在线观看| 久久精品久久久久久噜噜老黄| 亚洲三区欧美一区| 男女免费视频国产| 国产成人a∨麻豆精品| 国产91精品成人一区二区三区 | 中文字幕亚洲精品专区| 99精国产麻豆久久婷婷| 亚洲欧洲日产国产| 国产成人欧美| 狠狠婷婷综合久久久久久88av| 丰满人妻熟妇乱又伦精品不卡| 亚洲精品国产区一区二| 夫妻性生交免费视频一级片| 午夜激情久久久久久久| 国产精品国产三级国产专区5o| 看免费成人av毛片| 女人精品久久久久毛片| 国产精品一区二区精品视频观看| www.999成人在线观看| 国产精品亚洲av一区麻豆| 九色亚洲精品在线播放| 男女床上黄色一级片免费看| 精品久久久久久电影网| 97人妻天天添夜夜摸| 岛国毛片在线播放| av网站在线播放免费| 亚洲精品国产区一区二| 黄频高清免费视频| 精品一区二区三区av网在线观看 | 亚洲欧美色中文字幕在线| 久久99精品国语久久久| 国产成人a∨麻豆精品| 人妻 亚洲 视频| 亚洲人成电影免费在线| 成年人午夜在线观看视频| 国产在线视频一区二区| xxx大片免费视频| 超碰97精品在线观看| 久久人妻熟女aⅴ| 久久综合国产亚洲精品| 一个人免费看片子| 久久99精品国语久久久| 国产黄色视频一区二区在线观看| 免费看十八禁软件| 97精品久久久久久久久久精品| 欧美日韩成人在线一区二区| 日韩 亚洲 欧美在线| 亚洲激情五月婷婷啪啪| 精品少妇内射三级| 另类亚洲欧美激情| av片东京热男人的天堂| 国产亚洲一区二区精品| 国产熟女欧美一区二区| 中国国产av一级| www.自偷自拍.com| 欧美亚洲 丝袜 人妻 在线| 麻豆乱淫一区二区| 在线观看免费日韩欧美大片| 另类精品久久| 婷婷色综合大香蕉| 国产视频一区二区在线看| 性高湖久久久久久久久免费观看| 免费av中文字幕在线| 999精品在线视频| 精品福利永久在线观看| 国产成人精品久久二区二区免费| 80岁老熟妇乱子伦牲交| 一本—道久久a久久精品蜜桃钙片| 999精品在线视频| 母亲3免费完整高清在线观看| 男男h啪啪无遮挡| 91麻豆精品激情在线观看国产 | xxxhd国产人妻xxx| 男人添女人高潮全过程视频| 亚洲国产av新网站| 日韩中文字幕欧美一区二区 | 国产人伦9x9x在线观看| 天天躁狠狠躁夜夜躁狠狠躁| 欧美人与性动交α欧美精品济南到| 老司机在亚洲福利影院| 香蕉丝袜av| 啦啦啦在线免费观看视频4| 精品一区二区三卡| 国产成人av教育| 亚洲精品在线美女| 国产女主播在线喷水免费视频网站| 美女福利国产在线| 深夜精品福利| 亚洲欧洲精品一区二区精品久久久|