• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能作者資格之證偽

    2021-09-10 13:16劉春霖李祎璠
    關(guān)鍵詞:客體人工智能

    劉春霖 李祎璠

    摘 要:人工智能因具有“深度學(xué)習(xí)”能力,擁有類似人類的“智能”,它是否能夠成為“作者”而對自己“創(chuàng)作”的作品享有權(quán)利,是當(dāng)前著作權(quán)法面臨的一大難題。對于人工智能作者資格的認(rèn)定,應(yīng)從現(xiàn)有著作權(quán)理論出發(fā),重新審視作者資格與法律主體的關(guān)系,以尋求人工智能作者資格的證成路徑。作者資格表現(xiàn)為法律作者與作品之間的聯(lián)接,對其認(rèn)定本質(zhì)上是一種價值判斷。法律主體是法律作者的外延概念,一方面,直接賦予人工智能法律主體資格欠缺實證基礎(chǔ)和歷史正當(dāng)性基礎(chǔ);另一方面,人工智能也因法律和法理上的邏輯矛盾不能類比法人成為擬制主體。在“法典化”時代,對人工智能的定位應(yīng)為法權(quán)模型中的法律關(guān)系客體,不宜成為作者。

    關(guān)鍵詞:人工智能;客體;法律主體資格;擬制主體;作者

    中圖分類號:D923.41 文獻(xiàn)標(biāo)識碼:A DOI:10.7535/j.issn.1671-1653.2021.02.005

    Falsification of Artificial Intelligence Author Qualification

    LIU Chun-lin, LI Yi-fan

    (School of Law, Hebei University of Economics and Business, Shijiazhuang 050061, China)

    Abstract:Due to its deep learning ability and human-like intelligence,whether artificial intelligence can be an "author" and enjoy the right to its "created" works is a big problem faced by the current copyright law.The author qualification of artificial intelligence should be ascertained from the existing copyright theory,and the relationship between author qualification and legal subject should be rethought examined,so as to seek the way to prove the author qualification of artificial intelligence.Author qualification is the connection between legal author and works,which is essentially a value judgment.The legal subject is the extension concept of the legal author.On the one hand,it is lack of empirical basis and historical legitimacy basis to give artificial intelligence legal subject qualification directly;on the other hand,because of the logical contradiction between law and jurisprudence,artificial intelligence cannot be compared with legal person as the subject of fiction.In the age of codification,the orientation of artificial intelligence should be the object of legal relations in the model of legal rights,but not the author.

    Key words:Artificial Intelligence (AI);object;qualification of legal subject;artificial main body; author

    繼1956年達(dá)特茅斯會議這一標(biāo)志性事件之后,人工智能歷經(jīng)了60多年的發(fā)展歷程,仍呈突進(jìn)發(fā)展之勢?!吧疃葘W(xué)習(xí)”能力使得獨立思考和程序算法之間的界限愈加模糊,也逐漸使人工智能擺脫輔助性工具地位。人工智能兼具“智能”和“創(chuàng)造性”,不僅顛覆了原有知識產(chǎn)權(quán)法權(quán)結(jié)構(gòu)下的主客體之分,更給作者資格的認(rèn)定帶來挑戰(zhàn)。解決人工智能生成物的法律屬性界定和權(quán)屬問題,應(yīng)重新審視現(xiàn)有著作權(quán)理論下作者資格認(rèn)定的路徑和標(biāo)準(zhǔn),明確法律主體和作者資格認(rèn)定的關(guān)系,在現(xiàn)有法律關(guān)系體系下對人工智能進(jìn)行恰當(dāng)?shù)闹骺腕w定位。

    一、問題的提出

    技術(shù)的每一次變革都將會給著作權(quán)法帶來巨大的挑戰(zhàn)。人工智能技術(shù)的突破性進(jìn)展逐漸打破了人與機(jī)器在自主創(chuàng)作領(lǐng)域之間的界限。2019年5月6日《法制日報》刊登《全國首例人工智能生成內(nèi)容著作權(quán)案宣判》一文,人工智能生成物能否認(rèn)定為作品的問題再次被推向熱潮[1]。北京互聯(lián)網(wǎng)法院北京菲林律師事務(wù)所訴被告北京百度網(wǎng)訊科技有限公司侵害署名權(quán)、保護(hù)作品完整權(quán)、信息網(wǎng)絡(luò)傳播權(quán)糾紛一案,針對人工智能生成內(nèi)容的著作權(quán)糾紛已經(jīng)做出了判決,法院認(rèn)為,雖然智能軟件生成此類“作品”與自然人創(chuàng)作的作品在內(nèi)容、形式和表達(dá)方式上難以區(qū)分,但根據(jù)目前的產(chǎn)業(yè)及科技的發(fā)展水平,不宜對現(xiàn)有的民法主體基本規(guī)范予以突破。涉案文章是威科先行庫利用輸入的關(guān)鍵詞通過算法、規(guī)則和模板的結(jié)合而生成,某種意義上講可認(rèn)定為“創(chuàng)作”,但即使該涉案文章具有獨創(chuàng)性,由于威科先行庫并非是自然人,不能認(rèn)為威科先行庫是作者并享有相關(guān)著作權(quán)①。人工智能生成物的權(quán)益分配,不僅事關(guān)現(xiàn)有著作權(quán)法立法框架的變革,更事關(guān)法律調(diào)整對象基本法理的突破,成為法律理論與實務(wù)屆亟待解決的現(xiàn)實問題。

    理論研究上,大部分學(xué)者從我國現(xiàn)行著作權(quán)法入手探討作者資格的認(rèn)定問題,認(rèn)為著作權(quán)意義上的作者只能是自然人或其他法律擬制主體。對于人工智能能否成為作者的問題,學(xué)者們的觀點莫衷一是。一方面,肯定說主張可以從法律擬制作者的角度進(jìn)行分析,認(rèn)為賦予人工智能獨立主體資格存在合理性,可借助法人制度探討人工智能可以具有權(quán)利能力。民事主體的范圍不是一個封閉的體系,權(quán)利主體不僅局限于生物學(xué)意義上的“人”[2](P140)。也有學(xué)者認(rèn)為人工智能具有獨立自主的行為能力,有資格享有法律權(quán)利并承擔(dān)責(zé)任義務(wù),理應(yīng)具有法律人格,并主張賦予人工智能有限的法律人格,對此可以積極借鑒域外立法[3](P50)。從域外現(xiàn)有的立法趨勢來看,歐盟已經(jīng)試圖通過法律途徑對人工智能進(jìn)行主體定位[4](P54)。歐盟法律事務(wù)委員會已經(jīng)向歐盟提議將人工智能擬制為“電子人”,對其進(jìn)行登記,并賦予一定的權(quán)利義務(wù)。另一方面,否定說的論證角度更為多樣。有學(xué)者從激勵理論進(jìn)行了分析,認(rèn)為知識產(chǎn)權(quán)的立法目的是通過授予創(chuàng)造者排他權(quán)以鼓勵創(chuàng)新,如果無需通過激勵也可創(chuàng)新,則無激勵的必要,也就無需授予其權(quán)利[5](P156)。從康德哲學(xué)觀視角來看,基于主客二分法原理,法律主體與客體不能置換,因此人工智能作為客體不能成為法律主體;人工智能也不能類推適用法人主體資格制度,因其不具備意思能力和行為能力,沒有獨立的財產(chǎn),不能獨自承擔(dān)法律責(zé)任,欠缺成為法律主體資格的要件[6](P43)。

    立法者在制定《著作權(quán)法》之初始料未及“非人類主體”能夠“創(chuàng)作”出類似于人類創(chuàng)作的作品,因此忽略了對非人類主體創(chuàng)作主體資格的認(rèn)定。2020年11月11日,十三屆全國人大常委會第二十三次會議表決通過《關(guān)于修改〈著作權(quán)法〉的決定》,然而此次修法也僅僅是在《民法典》使用“非法人組織”概念的基礎(chǔ)上將原來“其他組織”的表述進(jìn)行訂正,但作者資格認(rèn)定依然尚不明晰。隨著商業(yè)版權(quán)業(yè)的迅速發(fā)展,非自然人“創(chuàng)作”的趨勢增強,并且更加地依賴投入資本的支撐[7](P103)。當(dāng)下作品的人格性被逐漸削弱,重新審視作者資格的判定標(biāo)準(zhǔn)和路徑具有重要的理論價值和現(xiàn)實價值。

    二、人工智能的屬性定位

    (一)法律人格的形成回溯

    從“人可非人”到“非人可人”,法律人格的演變體現(xiàn)了民法觀念、價值的改變。自然人并非天然具有民事主體資格,每個民事主體也并非完全平等。在“人可非人”的奴隸制時期,法律主體資格的取得主要取決于“他是怎樣的人”,法律承認(rèn)的主體僅限于少數(shù)的“上等人”和“自由人”。中世紀(jì)時期,“天賦人權(quán)”觀念深入人心,人的存在是為了證明上帝的偉大。16世紀(jì)啟蒙運動后,古典自然法思想占據(jù)主導(dǎo)地位,“法律主體”與“倫理人格”相結(jié)合,“法律人格”概念應(yīng)運而生。此時法律主體之間也達(dá)到了最為抽象化的平等,自然人法律主體資格的取得僅取決于“他是人”[8](P122)。

    “非人可人”是功利主義視角下基于現(xiàn)實需求的產(chǎn)物。早在羅馬時期,寺院、醫(yī)院已經(jīng)作為民事主體而存在。因此,民事主體是法律的產(chǎn)物,而不是民事主體創(chuàng)造了法律。法人制度的確立,實質(zhì)仍然是自然人利益的延伸。公司的利益相關(guān)者在公司的某些具體行為中享有特定的權(quán)利義務(wù),出于保護(hù)這些特定主體權(quán)利義務(wù)的需要,法律應(yīng)賦予此類商業(yè)團(tuán)體法律主體資格。隨著團(tuán)體組織在經(jīng)濟(jì)生活中的角色越來越重要,民事主體的倫理性因素已經(jīng)逐漸被弱化,擁有獨立的財產(chǎn)、能夠獨立承擔(dān)責(zé)任以及其他社會功能已經(jīng)成為考量民事主體資格的重要因素。

    “人生而平等”并非在任何時代都平等地適用于每個人。在奴隸制時代,不平等的社會背景讓“人可非人”被認(rèn)為是具有歷史正當(dāng)性的公理或自然秩序,并為當(dāng)時的實證法所認(rèn)可。而在后人看來,這本身就是對“人生而平等”自然法則的違背,是“惡法”[9](P154)。為了改變部分人淪為“客體”的社會現(xiàn)狀,人類開始了漫長的“為權(quán)利而斗爭”,由此,“人人平等”越來越具有普遍應(yīng)然性,這一自然法則成為了日益普惠的實際成果。

    有學(xué)者認(rèn)為,人工智能已經(jīng)不再是傳統(tǒng)意義上的輔助性工具,其已經(jīng)具備獨立創(chuàng)造能力并能夠做出實質(zhì)性貢獻(xiàn),可以借鑒法人擬制主體制度將人工智能擬制為法律主體[5](P164)。法人被擬制成法律主體大致基于以下原因:一是商品經(jīng)濟(jì)發(fā)展的結(jié)果。為了適應(yīng)經(jīng)濟(jì)投資制度的需要,法律賦予團(tuán)體權(quán)益以維護(hù)其利益;二是自然人權(quán)利能力的延伸。法人具體行為的實施、權(quán)利義務(wù)的實現(xiàn)、責(zé)任的承擔(dān),最終都要由具體的自然人來完成。法人“創(chuàng)作”實質(zhì)上仍是自然人的創(chuàng)作,承認(rèn)法人作者并不違背實際創(chuàng)作人原則[10](P56);三是法人具有意識、財產(chǎn)和責(zé)任承擔(dān)上的獨立性,擬制成為法律主體并不超越法律主體的內(nèi)涵[11](P19)。

    (二)人工智能法律人格的證成困境

    1.人工智能的“自主性”與自然人難以等同

    人工智能無法參照人類改變自身奴隸命運的斗爭史而享有“人格”。人工智能從未展開改造自然的活動,也不曾努力為爭取權(quán)利而斗爭。理論上也不存在人工智能可以獲得主體地位的自然法公理。有人認(rèn)為,強人工智能時代即將來臨,應(yīng)當(dāng)考慮有條件地賦予人工智能有限法律主體資格[3](P57)。然而,如果因為人工智能能夠“自主”選取素材進(jìn)行“創(chuàng)作”,就認(rèn)為它與人的思維能力相同或等同,從而主張賦予其法律主體資格,這其實陷入了邏輯誤區(qū)。

    首先,人工智能的“自主決策”并不能與人的決策能力進(jìn)行同質(zhì)性比較。技術(shù)應(yīng)服務(wù)于人而非凌駕于人。現(xiàn)代科技都在力求提高技術(shù)的運行高效性,以更好地服務(wù)于人類為己任,而非追求社會規(guī)范意義上的“人格” [12](P361)。創(chuàng)造和檢驗工具自動化運行能力的標(biāo)準(zhǔn),并不能適用于主體資格的檢驗。此外,假設(shè)賦予了人工智能法律主體資格,而忽視人類技術(shù)開發(fā)的意義甚至喧賓奪主,是典型的“人類因素”逐步消失的異化表現(xiàn)。其次,強人工智能時代是否可以到來難以預(yù)料。在思想、語言和情感方面,人工智能與人類存在著不可逾越的鴻溝[13](P98)。人腦中的神經(jīng)元共有800億個[14](P10)。大腦的運作具有系統(tǒng)性,人類對大腦是如何實現(xiàn)協(xié)同運作發(fā)展,如何產(chǎn)生情感和意識還知之甚少。實證主義認(rèn)為,人類現(xiàn)有的任何規(guī)則皆是在遵循客觀規(guī)律的基礎(chǔ)上針對現(xiàn)實存在而設(shè)計,而不是針對推測的“事實”,我們不能對“烏托邦”進(jìn)行立法。

    2.法律擬制主體路徑的邏輯悖論

    就目前的人工智能發(fā)展水平來說,人工智能欠缺自主意識,沒有獨立財產(chǎn),尚不具備享有權(quán)利、履行義務(wù)和承擔(dān)責(zé)任的能力,如果強行賦予其擬制主體的資格,難免會導(dǎo)致法理上的邏輯悖論。

    其一,與主客體不能置換的哲學(xué)原理相悖??档抡J(rèn)為,人與物的關(guān)系是目的與手段的關(guān)系,人是目的,而物是手段。人的尊嚴(yán)和自由是建立法秩序的根基,是法律主體制度的基礎(chǔ),如果人從主體轉(zhuǎn)換成為客體,那么將會砸斷現(xiàn)有法律秩序的“四梁八柱”。人工智能歸根結(jié)底是人的創(chuàng)造物,是“物”的范疇,只能處于被支配、被處分的從屬地位。

    其二,與法律調(diào)整社會關(guān)系的基本法理相悖。法律的調(diào)整對象是社會關(guān)系,即調(diào)整社會資源在各社會主體間的分配。倘若法律賦予人工智能法律主體的地位,則勢必顛覆法律調(diào)整對象的基本法理,物(人工智能)與人乃至物與物(人工智能與人工智能)之間的關(guān)系也成了法律的調(diào)整對象,法律規(guī)范與技術(shù)規(guī)范間將難覓“楚河漢界”。事實上,在對人工智能侵權(quán)行為進(jìn)行責(zé)任認(rèn)定問題的研討中,大部分學(xué)者都認(rèn)為最終責(zé)任的承擔(dān)主體仍為人類,法律本質(zhì)上規(guī)制的仍是人的行為。

    其三,與知識產(chǎn)權(quán)制度的設(shè)立宗旨相悖。知識產(chǎn)權(quán)基于激勵理論而生,即為了促進(jìn)科技發(fā)展和作品的創(chuàng)作與傳播,法律通過賦予發(fā)明者或創(chuàng)作者某些經(jīng)濟(jì)利益來激勵其創(chuàng)造。然而就現(xiàn)階段而言,人工智能的本質(zhì)仍屬于機(jī)器,不具備情感意識。這意味著人工智能無法領(lǐng)會作品帶來的精神權(quán)益,也無法享受法律賦予的物質(zhì)利益,賦予人工智能排他權(quán)或其他著作權(quán)利益并無實際意義。

    三、現(xiàn)有理論框架下作者資格認(rèn)定的路徑

    (一)作者資格的認(rèn)定是一種價值判斷

    作者資格的認(rèn)定是相關(guān)主體原始取得著作權(quán)的前提,同時也是智力創(chuàng)造活動的結(jié)果[15](P10-13)。這意味著在著作權(quán)主體和客體之間建立聯(lián)系,不失為認(rèn)定作者資格的一種可行方法。根據(jù)我國《著作權(quán)法》規(guī)定,作者是能夠原始取得完整著作權(quán)的主體。根據(jù)權(quán)利主體自然屬性的不同,可以將作者分為自然人作者和非自然人作者。當(dāng)然,其中最具爭議的莫過于非自然人作者的認(rèn)定。作者權(quán)體系將“人格價值觀”作為立法的哲學(xué)基礎(chǔ),認(rèn)為作品應(yīng)體現(xiàn)人格精神,反映人的個性;而版權(quán)體系受“重商主義”影響,更加注重保護(hù)作品帶來的經(jīng)濟(jì)利益,作品成為了財產(chǎn)利益的代名詞。我國《著作權(quán)法》在沿用作者權(quán)體系“人格價值觀”理論的基礎(chǔ)上,也吸收了版權(quán)體系的部分做法,認(rèn)為作品只能由自然人創(chuàng)作,法人和其他組織在滿足一定條件下可以視為“作者”,從而享有部分著作權(quán)。

    從《著作權(quán)法》保護(hù)的主體角度來看,“作者”包含了兩類主體:一是主體經(jīng)由實際創(chuàng)作作品而成為作者,即事實作者。法人因不能“創(chuàng)作”而無法成為事實上的作者,所以事實作者實際上只能是自然人;二是主體被法律明確賦予作者資格,即擬制作者。實際上,無論是實際創(chuàng)作人還是擬制作者,都屬于法律作者。需要注意的是,無論是事實作者還是擬制作者,并非必然成為法律作者,只有經(jīng)過法律確認(rèn)才能成為規(guī)范意義上的作者,并因此享有著作權(quán)②[16](P70)。 即便是自然人作者,在著作權(quán)誕生之前,其“事實作者”身份實際上并無法律意義。

    從《著作權(quán)法》保護(hù)的客體角度來看,作品應(yīng)滿足獨創(chuàng)性的實質(zhì)要件。起初在獨創(chuàng)性語境下的作者僅局限于自然人,即事實作者。然而在20世紀(jì)之后,受到后現(xiàn)代主義的影響,作品的本質(zhì)逐漸從“主體本位”向“文本本位”轉(zhuǎn)變,作品的“人格印記”逐漸淡化。人們現(xiàn)在的社會需求更主要體現(xiàn)在游戲、軟件、數(shù)據(jù)庫、產(chǎn)品和工程設(shè)計圖等功能性、實用性作品上[17](P13)。因此,在獨創(chuàng)性與作者資格分離的情形下,作者資格問題的討論應(yīng)結(jié)合具體情形做出價值判斷,而不應(yīng)僅僅聚焦于規(guī)范意義上的事實作者。

    (二)作者資格是法律作者與作品之間的聯(lián)接

    縱觀作者資格的演變過程,大致經(jīng)歷了事實作者、擬制作者和推定作者三個階段。事實作者基于創(chuàng)作事實即可獲得作者資格③[18](P130-145)。隨著版權(quán)產(chǎn)業(yè)和傳播技術(shù)的發(fā)展,作品的創(chuàng)作與傳播分工更為精細(xì),雇主的組織和投資對于作品的傳播起到了主要作用[19](P84)。為了維護(hù)投資方利益,進(jìn)一步促進(jìn)作品的傳播與利用,雇主可因其資金投入和其他物質(zhì)安排獲得擬制作者地位。除此之外,為了降低交易成本,《著作權(quán)法》還規(guī)定了作品署名制度,即在無相反證據(jù)時推定在作品上署名的主體為作者,而無論其為自然人還是法人。

    法律確認(rèn)作者資格無非是基于實際創(chuàng)作、必要投入和署名推定三個事實。作者資格作為法律作者與作品之間的連接點,是作品歸屬于作者的正當(dāng)性依據(jù)。雖然作者資格的認(rèn)定受社會背景、哲學(xué)基礎(chǔ)和立法政策等因素的影響,其表現(xiàn)形式在不同時期千差萬別,但總體都表現(xiàn)為著作權(quán)主體與客體之間的聯(lián)系。著作權(quán)誕生初期,大部分作品基于創(chuàng)作事實獲得,此時取得作者資格的法律表征可體現(xiàn)為“自然人—實際創(chuàng)作—作品”的過程。在隨后版權(quán)產(chǎn)業(yè)擴(kuò)大化的背景下,則產(chǎn)生了“自然人/法人—必要投入—作品”這種新的連接點。作品署名亦然。此時作者資格的判斷已轉(zhuǎn)變?yōu)閼?yīng)然的價值選擇。英國表現(xiàn)得尤為明顯,英國《版權(quán)法》中區(qū)分作品的不同類型,分別規(guī)定作者“應(yīng)當(dāng)”為出版人、提供收入電纜節(jié)目服務(wù)的人、制作廣播的人、其他廣播的制作人或?qū)︿浺艋蛴捌谱髦匾才懦袚?dān)責(zé)任的人等④。

    (三)法律主體是作者資格的外延

    私法主體的哲學(xué)基礎(chǔ)是理性,如果認(rèn)為作者等同于法律主體,那么二者的主體范疇?wèi)?yīng)當(dāng)一致。然而從演變過程看來,作者資格的認(rèn)定比法律主體更為嚴(yán)格,除了以理性、意志為判斷要素之外,作者資格的認(rèn)定更傾向于在不同階段服務(wù)于不同的價值目標(biāo)。

    作者資格在過去很長一段時間只賦予自然人。法人主體資格的確認(rèn)是其成為作者的前提,但法人起初并未成為法律規(guī)范上的作者。1709年《安娜女王法》的出臺將保護(hù)的重點由出版商轉(zhuǎn)向了作者,各國著作權(quán)法的價值取向轉(zhuǎn)變?yōu)楸Wo(hù)和鼓勵用智力進(jìn)行創(chuàng)作的人。由此,自然人被認(rèn)為是創(chuàng)造力來源的立法理念一直被延續(xù)下來并影響著作者的認(rèn)定,此時的作者實際上小于法律主體的范疇。目前部分作者權(quán)體系國家仍然固守自然人創(chuàng)作的觀點,只承認(rèn)自然人的作者資格⑤[20](P216)。

    法人作者資格的承認(rèn)與法律主體資格的確認(rèn)存在時間上的錯位。法人的概念最早始于德國民法,但其《著作權(quán)法》并未隨之確立其作者資格。第二次工業(yè)革命后,著作權(quán)的商業(yè)化特征逐漸顯現(xiàn)。在這一時期,電影、音樂制品、錄音錄像和其他類型的作品獲得了極大豐富,電視、廣播和互聯(lián)網(wǎng)對作品的傳播大有裨益。新類型作品的創(chuàng)作對不同環(huán)節(jié)創(chuàng)作者的精細(xì)化提出了更高的要求,多種形式的企業(yè)間合作成為了這一時期作品創(chuàng)作和傳播的主要推動力。1909年美國《版權(quán)法》最早規(guī)定了雇主可以成為作者,但也僅僅是做了原則性規(guī)定,并沒有明確界定雇主作品和雇傭作品,也沒有區(qū)分合同關(guān)系和雇傭關(guān)系。⑥投資者大多只能通過合同獲得著作權(quán)利益。進(jìn)入工業(yè)社會后,傳統(tǒng)著作權(quán)理論難以適應(yīng)文化產(chǎn)業(yè)的發(fā)展,直到1976年美國《版權(quán)法》再次修改,細(xì)化了關(guān)于“雇傭作品”的具體規(guī)則,雇主的作者資格才真正確立[19](P82)。在作者權(quán)體系國家,即便是一直堅持“實際創(chuàng)作人為作者”和“精神權(quán)利不可轉(zhuǎn)讓”的法國和德國,在面臨產(chǎn)業(yè)界的壓力下也不得不做出立法調(diào)整⑦。

    四、人工智能“創(chuàng)作”背景下作者資格的確認(rèn)

    (一)“主客體”序格下的人工智能

    哲學(xué)對人類社會結(jié)構(gòu)最本質(zhì)的解讀在于“主體”與“客體”概念的界定和結(jié)構(gòu)設(shè)置。在馬克思看來,作為主體的人具有兩方面的特性:一是人通過自身的天賦、才能和欲望等表現(xiàn)出生命力和自然力;二是人的主體性需要通過對立存在來感知和確證。人之外的一切事物均具有對象性和客觀性。而所謂對象性和客觀性都是相較于主體而言的,只要有對象存在于主體之外,那么該對象就是客觀的另一個現(xiàn)實,另一個他物[21](P167-169)。

    人工智能以客觀存在物的形式存在著,符合馬克思主義哲學(xué)中客體的構(gòu)成要素——對象性和客觀性。如果將其視為主體,則缺乏兩個構(gòu)成性要素:一是物質(zhì)性。該物質(zhì)性并非指純物質(zhì)形態(tài),而是指自然物質(zhì)性,即主體本身能夠體現(xiàn)自然力的作用,同時也擁有主體意識。然而人工智能并非天然具有天賦、才能和欲望,也不能產(chǎn)生與人類等同的情感和思維[22](P34-37)。二是自我意識。主體與客體在自我感知的維度上存在明顯差別。雖然目前人工智能已經(jīng)可以實現(xiàn)人機(jī)互動并可在具體環(huán)境下對人類的行為做出反應(yīng),但也只是算法和程序運行的結(jié)果。計算機(jī)語言在具體的模式匹配和回溯過程中不產(chǎn)生自我意識,更不用說情感的揣摩和智力的升華。

    自然法的“服從規(guī)則”是自然界的一切存在物所必須遵循的序格,萬事萬物無一例外地服從于此[23](P122)。在科技革命時代,人工智能亦應(yīng)遵守“服從規(guī)則”。首先,在自然法下,任何人均不是“造物主”。人的主體地位是通過認(rèn)識自然并改造自然的自主實踐取得的,是歷史的產(chǎn)物;與此同時,自然界的其他之物皆是為人所用的。人類能夠支配工具的自然理性是“服從規(guī)則”的應(yīng)有之義,任何違反該理性規(guī)則的行為都被認(rèn)為是“非正義”[24](P35-36)。因此,如果主張賦予人工智能主體資格,則有違自然法秩序下的“主客體”序格。其次,能力只有被問及主體時才有意義。能力屬于主體,脫離了主體去探討能力僅僅是對現(xiàn)象的描述,正如同單純地討論平等是否平等,財富是否是富一樣[25](P212)。即使人工智能在某些方面展現(xiàn)出了超脫的“智慧”,也不能脫離人類去探討人工智能是否“智能”。

    (二)“客體工具論”下的人工智能

    無論是自然法的“服從規(guī)則”,還是馬克思主義哲學(xué)中關(guān)于以人類主體為中心的“主客體”序格,都必須通過一般性法律規(guī)則的制定和實施才能成為現(xiàn)實的社會秩序。抽象化的法律主體是有感知、語言和訴求能力的權(quán)利享有者和義務(wù)承擔(dān)者[26](P161)??腕w是主體的意志所指向的對象,具有服從性、對象性和目標(biāo)性,如民法上的物、行為、人格利益等[27](P139)。生活中的社會關(guān)系需要轉(zhuǎn)化為法權(quán)模式中的“對應(yīng)性存在方”才能被法律所規(guī)制。主體是法律規(guī)則設(shè)計的目的,規(guī)制客體是實現(xiàn)法律目的的手段。

    對人工智能進(jìn)行法律規(guī)制的首要前提是將其轉(zhuǎn)化為法權(quán)結(jié)構(gòu)中的主體或客體。首先,從技術(shù)目標(biāo)來看,人工智能被創(chuàng)造的目的是為了實現(xiàn)人類利益的最大化,能夠被人類更好地支配并服務(wù)于人的發(fā)展。其次,從技術(shù)特性來看,人工智能具有效用性、服從性和可支配性,符合法權(quán)結(jié)構(gòu)中客體的要求。再次,從技術(shù)實現(xiàn)來看,人工智能具有超越人類的數(shù)據(jù)儲存和計算能力,反映了其工具屬性,同時也正是人類改造客觀世界能力的體現(xiàn)。更何況,人工智能還未具有主體才擁有的感知能力、語言能力和訴求能力。

    如果實現(xiàn)人工智能“主體化”,則不能達(dá)到人工智能“主體化”之實效。部分人過分放大了人工智能的法律風(fēng)險,試圖利用技術(shù)“主體化”的偽裝以逃脫法律規(guī)制,有將人工智能技術(shù)帶來的技術(shù)風(fēng)險遁入法律主體的排他性庇護(hù)之嫌。但即便是人工智能被賦予了法律主體資格,法律規(guī)制的實質(zhì)仍是以人工智能為客體的人與人的關(guān)系,而非人與物之間的關(guān)系。只有將人工智能定位為法律關(guān)系的客體,才能有效地規(guī)制機(jī)器背后利用技術(shù)改造和影響社會的人的行為。

    (三)主體資格缺位下的權(quán)屬確認(rèn)

    傳統(tǒng)觀點往往從權(quán)利主體的角度孤立地看待作者,只將來源于人的智力創(chuàng)造成果納入著作權(quán)保護(hù)的范疇,那么當(dāng)智力成果源于非人類時,將會陷入因權(quán)利主體缺位而權(quán)利無法歸依的邏輯怪圈。而現(xiàn)實是,著作權(quán)理論的注意力已逐漸從創(chuàng)造主體轉(zhuǎn)移到創(chuàng)造對象本身,如易繼明教授主張獨創(chuàng)性標(biāo)準(zhǔn)應(yīng)為客觀性標(biāo)準(zhǔn),僅從創(chuàng)作物客體本身判斷是否符合獨創(chuàng)性,而無須關(guān)注創(chuàng)作過程[28](P140)。在未來的科技前沿,勢必會實現(xiàn)計算機(jī)代替人類創(chuàng)造信息或產(chǎn)品,屆時如果仍單純地以創(chuàng)作主體作為作者資格的認(rèn)定標(biāo)準(zhǔn),將無法適應(yīng)信息化時代的發(fā)展要求。

    對于作者權(quán)體系國家而言,著作權(quán)的關(guān)注點從創(chuàng)造主體到創(chuàng)造對象的轉(zhuǎn)變并不意味著放棄對“人格價值觀”的堅守,而是更加注重創(chuàng)造對象本身對文化進(jìn)步和經(jīng)濟(jì)發(fā)展的貢獻(xiàn)。我國尚未建立起完善的信息產(chǎn)權(quán)法律制度,此種思維方式的轉(zhuǎn)變有利于我們應(yīng)對信息化發(fā)展中不斷產(chǎn)生的知識產(chǎn)權(quán)新客體和新權(quán)利問題。在難以根據(jù)創(chuàng)作主體性質(zhì)進(jìn)行作者資格認(rèn)定時,分析法律作者與作品之間的聯(lián)接因素將會有利于化解此類作品的權(quán)利歸屬難題。

    如前所述,作者與作品之間存在實際創(chuàng)作、必要投入和作品署名三個聯(lián)接因素。在法律主體缺位的語境下,英國《1988年版權(quán)、外觀設(shè)計和專利法案》明確規(guī)定了計算機(jī)“創(chuàng)作”的作品可以受到著作權(quán)法的保護(hù),并且將著作權(quán)歸屬于為計算機(jī)生成作品而做出“必要安排”的自然人。人工智能的本質(zhì)是法律關(guān)系的客體,無法基于“實際創(chuàng)作”讓其“作者”身份獲得承認(rèn)。而在“必要投入”和“作品署名”兩個聯(lián)接因素之間進(jìn)行衡量時,顯然“必要投入”更能為人工智能與其創(chuàng)作物在“作者—作品”之間建立連接提供正當(dāng)性依據(jù),那么借鑒英國的“必要安排”規(guī)定,將投資者認(rèn)定為人工智能“作品”背后的作者應(yīng)是較為妥當(dāng)?shù)倪x擇。

    五、結(jié)語

    人工智能在諸多領(lǐng)域展現(xiàn)出驚人的“創(chuàng)造力”足以令人類驚艷?!睹绹鏅?quán)法》明確只保護(hù)來自于人類的智力創(chuàng)造活動的成果,直接排除了人工智能成為作者的可能。由于缺乏歷史的正當(dāng)性基礎(chǔ)和實證基礎(chǔ),人工智能無法沿用自然人作者資格的確認(rèn)路徑,也因法理上的邏輯矛盾無法成為擬制作者。人工智能能否成為法律主體最終還是要在馬克思主義哲學(xué)“主體—客體”序格下遵從自然法“服從規(guī)則”進(jìn)行求解。如果僅因人工智能擁有“類人思維”而賦予其主體資格,則與社會歷史性相悖。拋開主體因素,人工智能“作品”被賦予產(chǎn)權(quán)并不影響激勵理論效用的發(fā)揮,最關(guān)鍵的問題在于,在目前的科技水平下如何對人工智能進(jìn)行“作品”權(quán)利歸屬的妥當(dāng)安排。在此過程中,人類需要做的只是“讓人更像人,讓機(jī)器更像機(jī)器”,未來才能更好地與人工智能和平共處。

    注? 釋:

    ①參見北京互聯(lián)網(wǎng)法院(2018)京0491民初239號民事判決書。

    ②需要說明的是,實際創(chuàng)作人的地位將逐漸讓步于擬制作者,作者資格也逐漸與獨創(chuàng)性無涉,職務(wù)作品、委托作品和計算機(jī)軟件等規(guī)則設(shè)計正是這一趨勢的重要體現(xiàn)。

    ③從英國1709年《安娜女王法》出臺至19世紀(jì)上半葉,在農(nóng)耕經(jīng)濟(jì)的社會背景下,作品的完成僅需創(chuàng)作人,幾乎無需他人的幫助與合作。

    ④英國雖長期不區(qū)分版權(quán)與鄰接權(quán),卻仍然反映了作者資格的價值判斷屬性。

    ⑤德國《著作權(quán)法》規(guī)定該法所稱著作僅指個人的智力創(chuàng)作;西班牙《知識產(chǎn)權(quán)法》明確規(guī)定“創(chuàng)作作品的自然人是作者”。他們不承認(rèn)法人作者資格的主要理由在于:著作權(quán)法以保護(hù)和鼓勵創(chuàng)作為宗旨,認(rèn)可法人擬制主體的作者資格不利于保護(hù)和鼓勵那些真正從事智力活動創(chuàng)作的自然人。

    ⑥1909年《美國版權(quán)法》第26條規(guī)定:“作者應(yīng)包含受雇作品的雇主。”

    ⑦法國直接吸收了擬制作者制度,《法國版權(quán)法》中明確規(guī)定雇傭作品的作者為雇主,雇主因此享有作者的所有權(quán)利?!兜聡鏅?quán)法》也承認(rèn)了電影制作者享有作者的部分專屬權(quán)利,法人的作者資格在事實上已得到了承認(rèn)。

    參考文獻(xiàn):

    [1]全國首例“人工智能”生成內(nèi)容著作權(quán)案一審宣判[EB/OL].http://www.iprdaily.cn /article_21660.Html,2019-04-30.

    [2]石冠彬.論智能機(jī)器人創(chuàng)作物的著作權(quán)保護(hù)——以智能機(jī)器人的主體資格為視角[J].東方法學(xué),2018,(3).

    [3]袁 曾.人工智能有限法律人格審視[J].東方法學(xué),2017,(5).

    [4]胡裕嶺.歐盟率先提出立法動議[J].環(huán)球法制,2017,(2).

    [5]梁志文.論人工智能創(chuàng)造物的法律保護(hù)[J].法律科學(xué)(西北政法大學(xué)學(xué)報),2017,(5).

    [6]李 揚,李曉宇.康德哲學(xué)視點下人工智能生成物的著作權(quán)問題探討[J].法學(xué)雜志,2018,(9).

    [7]張 玲.署名權(quán)主體規(guī)則的困惑及思考[J].中國法學(xué),2017,(2).

    [8]尹 田.論自然人的法律人格與權(quán)利能力[J].法制與社會發(fā)展,2002,(1).

    [9][意]彼得羅·彭梵得.黃 風(fēng),譯.羅馬法教科書[M].北京:中國政法大學(xué)出版社,2005.

    [10]李 揚.知識產(chǎn)權(quán)法基本原理Ⅱ——著作權(quán)法(修訂版)[M].北京:中國社會科學(xué)出版社,2013.

    [11]尹 田.民法基本原則與調(diào)整對象立法研究[J].法學(xué)家,2016,(5).

    [12]Matthew U.Scherer.Regulating Artificial Intelligence Systems:Risks,Challenges,Competencies,and Strategies[J].Harvard Journal of Law & Technology,2016,(29).

    [13][英]瑪格麗特·博登.孫詩惠,譯.人工智能的本質(zhì)與未來[M].北京:中國人民大學(xué)出版社,2017.

    [14][美]尼 克.人工智能簡史[M].北京:人民郵電出版社,2017.

    [15]吳漢東.關(guān)于知識產(chǎn)權(quán)本體、主體與客體的重新認(rèn)識——以財產(chǎn)所有權(quán)為比較研究對象[J].法學(xué)評論,2000,(5).

    [16]王 果.試論作者資格從本體論到資格論的轉(zhuǎn)變[J].電子知識產(chǎn)權(quán),2016,(5).

    [17][澳]彼得·德霍斯.周 林,譯.知識財產(chǎn)法哲學(xué)[M].北京:商務(wù)印書館,2008.

    [18]孫新強.論作者權(quán)體系的崩潰與重建——以法律現(xiàn)代化為視角[J].清華法學(xué),2014,(2).

    [19]熊 琦.著作權(quán)法中投資者視為作者的制度安排[J].法學(xué),2010,(9).

    [20]吳漢東,等.知識產(chǎn)權(quán)基本問題研究[M].北京:中國人民大學(xué)出版社,2005.

    [21][德]弗里德里?!ざ鞲袼?,卡爾·馬克思.中共中央編譯局,編譯.馬克思恩格斯全集(第42卷)[M].北京:人民出版社,1960.

    [22]鄭祥福.人工智能的四大哲學(xué)問題[J].科學(xué)技術(shù)與辯證法,2005,(5).

    [23][愛爾蘭]約翰·莫里斯·凱利.王笑紅,譯.西方法律思想簡史[M].北京:法律出版社,2010.

    [24]Samuel Pufendorf.On the Duty of Man and Citizen According to Natural Law[J].The Cambridge Law Journal 1991,(52).

    [25][英]洛 克.關(guān)文運,譯.人類理解論 (上冊)[M].北京:商務(wù)印書館,1959.

    [26]張文顯.法理學(xué)(第三版)[M].北京:高等教育出版社、北京大學(xué)出版社,2007.

    [27][日]近江幸治.渠 濤,等,譯.民法講義Ⅰ[M].北京:北京大學(xué)出版社,2015.

    [28]易繼明.人工智能創(chuàng)作物是作品嗎?[J].法律科學(xué) (西北政法大學(xué)報),2017,(5).

    收稿日期:2020-11-06

    基金項目:河北省高等學(xué)校人文社會科學(xué)研究重點項目(SD2021046)

    作者簡介:劉春霖(1966-),男,河北南宮人,河北經(jīng)貿(mào)大學(xué)研究生學(xué)院黨委書記,法學(xué)院教授,碩士生導(dǎo)師, 博士,主要從事知識產(chǎn)權(quán)法研究;李祎璠(1996-),女,河北秦皇島人,河北經(jīng)貿(mào)大學(xué)法學(xué)院2018級民商法學(xué)專業(yè)碩士研究生。

    猜你喜歡
    客體人工智能
    淺議犯罪客體
    人工智能之父
    2019:人工智能
    人工智能與就業(yè)
    數(shù)讀人工智能
    論《天地玄黃》背后的眼
    思想政治教育主客體關(guān)系新探
    試析期貨法律關(guān)系
    下一幕,人工智能!
    下一幕,人工智能!
    国产乱来视频区| 午夜福利网站1000一区二区三区| 精品久久久噜噜| 国产深夜福利视频在线观看| 亚洲精品国产av蜜桃| 中文字幕亚洲精品专区| 免费黄色在线免费观看| 国产精品嫩草影院av在线观看| 日韩欧美精品免费久久| 狂野欧美白嫩少妇大欣赏| 自线自在国产av| 人人妻人人看人人澡| 亚洲国产日韩一区二区| 哪个播放器可以免费观看大片| 欧美国产精品一级二级三级 | 男女啪啪激烈高潮av片| 国产 一区精品| 噜噜噜噜噜久久久久久91| 日本欧美国产在线视频| 久久精品熟女亚洲av麻豆精品| av福利片在线观看| 丰满人妻一区二区三区视频av| 国产成人免费无遮挡视频| 青春草国产在线视频| 男女无遮挡免费网站观看| 国产欧美亚洲国产| 亚洲欧美精品专区久久| 美女xxoo啪啪120秒动态图| 丝袜脚勾引网站| 亚洲精品一区蜜桃| 亚洲成色77777| 欧美日韩视频精品一区| 免费观看性生交大片5| 亚洲欧美一区二区三区国产| 99久久精品一区二区三区| 国产熟女欧美一区二区| 爱豆传媒免费全集在线观看| 久久国内精品自在自线图片| 一级爰片在线观看| 亚洲欧美精品自产自拍| 国产一区亚洲一区在线观看| 国产老妇伦熟女老妇高清| 中文字幕人妻熟人妻熟丝袜美| 内射极品少妇av片p| 婷婷色麻豆天堂久久| 一边亲一边摸免费视频| 免费黄色在线免费观看| 欧美+日韩+精品| 只有这里有精品99| 国产黄片视频在线免费观看| 美女视频免费永久观看网站| 不卡视频在线观看欧美| 免费播放大片免费观看视频在线观看| av国产久精品久网站免费入址| 精品99又大又爽又粗少妇毛片| 99国产精品免费福利视频| 午夜日本视频在线| 国产高清国产精品国产三级| 国产淫片久久久久久久久| 又黄又爽又刺激的免费视频.| 人体艺术视频欧美日本| 亚洲国产欧美在线一区| 国产 精品1| 男人添女人高潮全过程视频| 一级,二级,三级黄色视频| 又粗又硬又长又爽又黄的视频| 免费观看的影片在线观看| 日日啪夜夜爽| 国产精品人妻久久久久久| 国产淫语在线视频| 一本—道久久a久久精品蜜桃钙片| 国产一区二区在线观看日韩| 26uuu在线亚洲综合色| 欧美精品人与动牲交sv欧美| 久久99精品国语久久久| 久久国产乱子免费精品| 草草在线视频免费看| 亚洲av福利一区| 色哟哟·www| 亚洲精品国产色婷婷电影| 国产日韩一区二区三区精品不卡 | 久久免费观看电影| 国产精品无大码| 日日撸夜夜添| 国产老妇伦熟女老妇高清| 99久久人妻综合| 亚洲丝袜综合中文字幕| 啦啦啦中文免费视频观看日本| 免费观看a级毛片全部| 草草在线视频免费看| 肉色欧美久久久久久久蜜桃| 91久久精品电影网| 国产黄色免费在线视频| 少妇丰满av| xxx大片免费视频| 高清av免费在线| 成年美女黄网站色视频大全免费 | 在线免费观看不下载黄p国产| 欧美日韩av久久| 色网站视频免费| 午夜精品国产一区二区电影| 青春草亚洲视频在线观看| xxx大片免费视频| 青青草视频在线视频观看| 国产免费一区二区三区四区乱码| 国产片特级美女逼逼视频| 国产乱来视频区| 蜜桃久久精品国产亚洲av| 亚洲三级黄色毛片| 国产精品99久久久久久久久| 久久久国产精品麻豆| 久久免费观看电影| 亚洲美女视频黄频| 欧美少妇被猛烈插入视频| 最近的中文字幕免费完整| 97超碰精品成人国产| 亚洲av中文av极速乱| 人人澡人人妻人| 丝袜在线中文字幕| 免费观看在线日韩| 一级a做视频免费观看| 国产乱来视频区| 日韩,欧美,国产一区二区三区| 亚洲av成人精品一二三区| av国产久精品久网站免费入址| tube8黄色片| 日韩一本色道免费dvd| 成人漫画全彩无遮挡| 如何舔出高潮| 欧美xxⅹ黑人| 少妇裸体淫交视频免费看高清| 熟妇人妻不卡中文字幕| av.在线天堂| 亚洲精品色激情综合| 成年人午夜在线观看视频| 国产成人午夜福利电影在线观看| 日韩伦理黄色片| 一区二区三区乱码不卡18| 成人综合一区亚洲| 免费人妻精品一区二区三区视频| 一区二区三区乱码不卡18| 日韩电影二区| 国产黄频视频在线观看| 国产精品久久久久成人av| 日韩精品免费视频一区二区三区 | 丰满饥渴人妻一区二区三| 日本黄色日本黄色录像| 啦啦啦在线观看免费高清www| 黄色视频在线播放观看不卡| 看免费成人av毛片| 97超视频在线观看视频| 亚洲国产欧美日韩在线播放 | 国产精品嫩草影院av在线观看| 国产成人午夜福利电影在线观看| 欧美日韩精品成人综合77777| 亚洲国产最新在线播放| 欧美人与善性xxx| 亚洲av成人精品一二三区| 日本欧美国产在线视频| 亚洲国产日韩一区二区| 国国产精品蜜臀av免费| 熟妇人妻不卡中文字幕| 久久久久久久久久久久大奶| 免费观看性生交大片5| 中文在线观看免费www的网站| 成人毛片60女人毛片免费| 搡老乐熟女国产| 欧美日韩亚洲高清精品| 亚洲欧美一区二区三区黑人 | 亚洲成人av在线免费| 在线观看三级黄色| 亚洲欧美日韩另类电影网站| 美女脱内裤让男人舔精品视频| 一级a做视频免费观看| 国产精品久久久久久精品古装| h日本视频在线播放| 极品人妻少妇av视频| 熟女人妻精品中文字幕| 国产精品一区二区在线观看99| 国产男人的电影天堂91| 亚洲精品中文字幕在线视频 | 久久精品久久精品一区二区三区| 久久狼人影院| 日韩制服骚丝袜av| 国产美女午夜福利| 欧美区成人在线视频| 97在线视频观看| 午夜精品国产一区二区电影| 国产免费一级a男人的天堂| 偷拍熟女少妇极品色| av黄色大香蕉| 欧美日韩视频精品一区| 国产亚洲精品久久久com| 国产精品不卡视频一区二区| 日韩三级伦理在线观看| 亚洲国产欧美日韩在线播放 | 国产69精品久久久久777片| 国产黄片美女视频| 在线观看国产h片| 久久99热6这里只有精品| 亚洲精品一二三| 亚洲精品日韩在线中文字幕| 国产高清国产精品国产三级| 一级av片app| 99国产精品免费福利视频| 免费播放大片免费观看视频在线观看| 啦啦啦视频在线资源免费观看| 亚洲图色成人| 精品国产露脸久久av麻豆| 国产精品国产三级专区第一集| 精品久久久久久电影网| 在线精品无人区一区二区三| 亚洲精品视频女| 777米奇影视久久| 成人无遮挡网站| 中文字幕免费在线视频6| 亚洲在久久综合| 91午夜精品亚洲一区二区三区| 日韩av免费高清视频| 美女cb高潮喷水在线观看| 亚洲国产成人一精品久久久| 日韩一本色道免费dvd| 国产精品久久久久久av不卡| 亚洲无线观看免费| 一级a做视频免费观看| 久久久久久人妻| 日韩av不卡免费在线播放| 美女福利国产在线| 国产成人一区二区在线| 国产亚洲欧美精品永久| 蜜桃久久精品国产亚洲av| 91午夜精品亚洲一区二区三区| 亚洲婷婷狠狠爱综合网| 欧美老熟妇乱子伦牲交| 自拍欧美九色日韩亚洲蝌蚪91 | 国产精品国产三级国产av玫瑰| 亚洲欧美日韩另类电影网站| 国产探花极品一区二区| 日本wwww免费看| 色婷婷久久久亚洲欧美| 欧美高清成人免费视频www| 人人妻人人澡人人看| 亚洲欧美日韩另类电影网站| 我的老师免费观看完整版| 一区二区三区四区激情视频| 欧美变态另类bdsm刘玥| 99热网站在线观看| 嘟嘟电影网在线观看| 永久免费av网站大全| 亚洲欧美日韩卡通动漫| 国产伦在线观看视频一区| 各种免费的搞黄视频| 欧美 日韩 精品 国产| 国产永久视频网站| 亚洲av免费高清在线观看| 十八禁网站网址无遮挡 | 欧美激情国产日韩精品一区| 伦理电影免费视频| 久久婷婷青草| 国产精品人妻久久久影院| 亚洲人成网站在线播| 汤姆久久久久久久影院中文字幕| videossex国产| 成人美女网站在线观看视频| 91午夜精品亚洲一区二区三区| 亚洲精品国产成人久久av| 国产 精品1| 尾随美女入室| 亚洲天堂av无毛| 国产精品女同一区二区软件| 51国产日韩欧美| 久久国产精品男人的天堂亚洲 | 乱系列少妇在线播放| 中文资源天堂在线| 亚洲精品久久久久久婷婷小说| a级毛片免费高清观看在线播放| 午夜激情福利司机影院| 久久久国产欧美日韩av| 国产精品一区二区三区四区免费观看| 日本av免费视频播放| 22中文网久久字幕| 日韩精品有码人妻一区| av卡一久久| 国产精品久久久久久精品古装| 欧美+日韩+精品| 天堂中文最新版在线下载| 色婷婷av一区二区三区视频| 久久精品国产自在天天线| freevideosex欧美| 午夜免费鲁丝| 国产欧美日韩一区二区三区在线 | 丝袜喷水一区| 最近中文字幕2019免费版| 免费高清在线观看视频在线观看| 少妇丰满av| 国产亚洲午夜精品一区二区久久| 在线观看免费高清a一片| 最近2019中文字幕mv第一页| 成人影院久久| 9色porny在线观看| 久久午夜福利片| 热re99久久精品国产66热6| 国产成人午夜福利电影在线观看| 天天操日日干夜夜撸| 日日撸夜夜添| 中文字幕av电影在线播放| 麻豆精品久久久久久蜜桃| 欧美变态另类bdsm刘玥| 亚洲av国产av综合av卡| av在线播放精品| 国产精品蜜桃在线观看| 精品少妇黑人巨大在线播放| 国产伦精品一区二区三区视频9| 国产高清有码在线观看视频| 丰满饥渴人妻一区二区三| 欧美日韩一区二区视频在线观看视频在线| 99久久精品热视频| 成年人午夜在线观看视频| 日韩电影二区| 寂寞人妻少妇视频99o| a级毛片免费高清观看在线播放| 熟女人妻精品中文字幕| 亚洲人成网站在线播| 日日啪夜夜爽| 久久国产精品大桥未久av | 久久午夜福利片| 午夜激情福利司机影院| 午夜免费观看性视频| 精品一品国产午夜福利视频| av有码第一页| 69精品国产乱码久久久| 国产亚洲最大av| 男男h啪啪无遮挡| 久久久久久久久久久丰满| 欧美老熟妇乱子伦牲交| 免费看光身美女| 国产精品国产三级专区第一集| 午夜激情久久久久久久| 国产片特级美女逼逼视频| 熟女av电影| 亚洲精品亚洲一区二区| 国产欧美亚洲国产| 亚洲国产av新网站| 在现免费观看毛片| 久久久国产欧美日韩av| 色网站视频免费| 精品久久久久久久久亚洲| 少妇裸体淫交视频免费看高清| 亚洲人成网站在线播| 日韩视频在线欧美| 日本-黄色视频高清免费观看| 成人国产av品久久久| 国产极品粉嫩免费观看在线 | av福利片在线| 亚洲成人手机| 国产乱来视频区| av视频免费观看在线观看| 日韩av不卡免费在线播放| 啦啦啦视频在线资源免费观看| 中文在线观看免费www的网站| 久久久久久久久久久免费av| 国产精品偷伦视频观看了| 91在线精品国自产拍蜜月| av在线老鸭窝| 在线精品无人区一区二区三| 大话2 男鬼变身卡| 国产精品成人在线| 国产欧美另类精品又又久久亚洲欧美| 日韩免费高清中文字幕av| 亚洲av在线观看美女高潮| 国产精品麻豆人妻色哟哟久久| 成人亚洲精品一区在线观看| 国产黄频视频在线观看| 99热网站在线观看| 一区二区三区四区激情视频| 99热全是精品| 男人添女人高潮全过程视频| 制服丝袜香蕉在线| 如日韩欧美国产精品一区二区三区 | 在线观看美女被高潮喷水网站| 少妇人妻一区二区三区视频| 少妇丰满av| 亚洲精品国产色婷婷电影| 美女内射精品一级片tv| 久久精品久久久久久久性| 美女视频免费永久观看网站| 久久国产精品男人的天堂亚洲 | 我的老师免费观看完整版| a级毛片在线看网站| 欧美日韩在线观看h| 丰满人妻一区二区三区视频av| 免费av中文字幕在线| 少妇猛男粗大的猛烈进出视频| 久久精品夜色国产| 男女无遮挡免费网站观看| 亚洲第一区二区三区不卡| 最新中文字幕久久久久| 国产精品三级大全| 在线 av 中文字幕| 人妻一区二区av| 国产免费一级a男人的天堂| 一级a做视频免费观看| 最后的刺客免费高清国语| 在线观看www视频免费| 国产精品蜜桃在线观看| 在线亚洲精品国产二区图片欧美 | 街头女战士在线观看网站| 欧美国产精品一级二级三级 | 一区二区三区免费毛片| 人妻系列 视频| 国产日韩欧美在线精品| 99久久精品一区二区三区| 国产伦精品一区二区三区四那| 天天躁夜夜躁狠狠久久av| 成人特级av手机在线观看| 三级国产精品片| 国产熟女欧美一区二区| 少妇裸体淫交视频免费看高清| 欧美成人午夜免费资源| 九九在线视频观看精品| 久久久久久久久大av| 久久国产亚洲av麻豆专区| 亚洲欧美日韩另类电影网站| h视频一区二区三区| 免费观看在线日韩| 久久精品国产自在天天线| av国产精品久久久久影院| 精品亚洲乱码少妇综合久久| 国产av码专区亚洲av| 日本色播在线视频| 午夜老司机福利剧场| 在线观看一区二区三区激情| 女人久久www免费人成看片| av免费在线看不卡| 亚洲综合精品二区| 99久久精品一区二区三区| 美女脱内裤让男人舔精品视频| 亚洲精品国产av成人精品| 老司机影院成人| 在线免费观看不下载黄p国产| 中文字幕人妻熟人妻熟丝袜美| 久久精品熟女亚洲av麻豆精品| 大又大粗又爽又黄少妇毛片口| 日韩制服骚丝袜av| 在线 av 中文字幕| 成人午夜精彩视频在线观看| 日韩制服骚丝袜av| 国产精品一区www在线观看| 99精国产麻豆久久婷婷| 色哟哟·www| 久久精品国产鲁丝片午夜精品| 欧美日本中文国产一区发布| 视频区图区小说| 日日爽夜夜爽网站| 高清在线视频一区二区三区| 老司机影院毛片| 亚洲,一卡二卡三卡| 亚洲性久久影院| 草草在线视频免费看| 国产一级毛片在线| 日韩一本色道免费dvd| 日日摸夜夜添夜夜爱| 国产成人一区二区在线| 国产成人免费观看mmmm| 亚洲国产欧美日韩在线播放 | 亚洲精品一区蜜桃| 日韩精品有码人妻一区| 一本一本综合久久| 欧美精品人与动牲交sv欧美| 久久久久精品性色| 日韩av不卡免费在线播放| 一级av片app| 亚洲精品自拍成人| 熟妇人妻不卡中文字幕| 中文精品一卡2卡3卡4更新| 亚洲图色成人| 国产精品免费大片| av黄色大香蕉| 婷婷色综合大香蕉| 精品亚洲成a人片在线观看| 亚洲天堂av无毛| 精品亚洲成国产av| 观看av在线不卡| 国产日韩欧美亚洲二区| 免费av中文字幕在线| 免费人成在线观看视频色| 成人18禁高潮啪啪吃奶动态图 | av黄色大香蕉| 99热国产这里只有精品6| 亚洲第一av免费看| 色婷婷av一区二区三区视频| 赤兔流量卡办理| 在线观看免费日韩欧美大片 | 18禁在线播放成人免费| 夜夜爽夜夜爽视频| 亚洲欧洲精品一区二区精品久久久 | 亚洲在久久综合| 成人无遮挡网站| 男的添女的下面高潮视频| 国产精品久久久久久久久免| 国产精品人妻久久久影院| 熟女av电影| av国产久精品久网站免费入址| 久久久久久久久久久久大奶| 三上悠亚av全集在线观看 | 午夜视频国产福利| 卡戴珊不雅视频在线播放| 天堂中文最新版在线下载| 日韩一区二区三区影片| 亚洲综合色惰| 在线播放无遮挡| 99九九在线精品视频 | 国产精品久久久久久av不卡| 人人妻人人澡人人爽人人夜夜| 中文乱码字字幕精品一区二区三区| 中文字幕人妻丝袜制服| 少妇猛男粗大的猛烈进出视频| 亚洲精品aⅴ在线观看| 99久国产av精品国产电影| 黄片无遮挡物在线观看| 色视频www国产| 在线观看av片永久免费下载| 日韩免费高清中文字幕av| 久久av网站| 黑人高潮一二区| 久久久a久久爽久久v久久| 色婷婷av一区二区三区视频| 熟女av电影| 亚洲va在线va天堂va国产| 欧美亚洲 丝袜 人妻 在线| 新久久久久国产一级毛片| a级毛片免费高清观看在线播放| 久久这里有精品视频免费| 国产高清有码在线观看视频| 日本黄色日本黄色录像| 一级二级三级毛片免费看| 一个人看视频在线观看www免费| 国产亚洲午夜精品一区二区久久| 日本黄色日本黄色录像| 久久ye,这里只有精品| 成人午夜精彩视频在线观看| 视频中文字幕在线观看| 亚洲精华国产精华液的使用体验| 好男人视频免费观看在线| 国产黄片美女视频| 在线免费观看不下载黄p国产| 男女边摸边吃奶| 高清在线视频一区二区三区| 18禁裸乳无遮挡动漫免费视频| 晚上一个人看的免费电影| 日本色播在线视频| 中文乱码字字幕精品一区二区三区| 精华霜和精华液先用哪个| 在线观看www视频免费| 亚洲自偷自拍三级| 亚洲三级黄色毛片| 亚洲精品日韩av片在线观看| 国产淫语在线视频| 国产成人精品婷婷| 国产欧美亚洲国产| av国产精品久久久久影院| 麻豆成人av视频| 欧美日韩视频高清一区二区三区二| 日韩,欧美,国产一区二区三区| 久久99精品国语久久久| 亚洲国产成人一精品久久久| 久久精品国产自在天天线| 国产av一区二区精品久久| 日本猛色少妇xxxxx猛交久久| 黄色一级大片看看| 高清不卡的av网站| 九草在线视频观看| 好男人视频免费观看在线| 性高湖久久久久久久久免费观看| 欧美精品亚洲一区二区| freevideosex欧美| 欧美精品高潮呻吟av久久| 丰满人妻一区二区三区视频av| 91精品国产九色| 男女边吃奶边做爰视频| 日日摸夜夜添夜夜添av毛片| 亚洲av免费高清在线观看| 我的老师免费观看完整版| 亚洲美女搞黄在线观看| 最黄视频免费看| 熟妇人妻不卡中文字幕| 中国国产av一级| a级片在线免费高清观看视频| 国产在视频线精品| 亚洲欧美一区二区三区黑人 | 国产日韩欧美亚洲二区| 久久综合国产亚洲精品| 欧美xxⅹ黑人| a 毛片基地| 亚洲国产av新网站| 国产精品麻豆人妻色哟哟久久| 国产精品女同一区二区软件| 两个人的视频大全免费| 国产精品99久久99久久久不卡 | 一区二区三区精品91| 午夜免费鲁丝| 男女无遮挡免费网站观看| 国产成人91sexporn| 国产一区有黄有色的免费视频| 亚洲成人av在线免费| 免费观看性生交大片5| 国产精品.久久久| 欧美日韩视频高清一区二区三区二| 人妻制服诱惑在线中文字幕| 男女国产视频网站| 十八禁网站网址无遮挡 | 少妇人妻精品综合一区二区| 亚洲怡红院男人天堂| 婷婷色av中文字幕| 精品一区二区免费观看|