• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能對知識產(chǎn)權(quán)制度的挑戰(zhàn)與破解
    ——洛克“財產(chǎn)權(quán)勞動學說”視角下的路徑選擇

    2020-02-20 20:30:14
    云南社會科學 2020年6期
    關鍵詞:人工智能

    劉 鑫

    近年來,隨著人工智能技術的不斷進步,人工智能逐步具備了自主生成文藝作品和發(fā)明成果等智力創(chuàng)造物的能力,并呈現(xiàn)出超強的發(fā)展?jié)摿ΑH斯ぶ悄苊撾x人類控制與干預的自主性,是其與傳統(tǒng)技術相比的根本區(qū)別所在,這一屬性也賦予了其代替人類獨立完成創(chuàng)造性工作的能力。①Matthew U.Scherer,Regulating Artificial Intelligence Systems:Risks,Challenges,Competencies,and Strategies,Harv.J.L.& Tech.29,no.2 (2016):363-369.從美國Thaler博士和Koza 博士分別以人工神經(jīng)網(wǎng)絡和基因編程為基礎發(fā)明了能夠生成專利技術方案的人工智能Creativity Machine 和Invention Machine,到IBM 公司研發(fā)出了能夠為用戶創(chuàng)制個性化菜單的Watson智能機器人,各種人工智能軟件和產(chǎn)品的出現(xiàn),打破了一直以來人類對于智力創(chuàng)造活動的壟斷。②Ryan Abbott,I Think,Therefore I Invent:Creative Computers and the Future of Patent Law,Boston College Law Review 57,no.4 (2016):1084-1086.無獨有偶,隨著人工智能在日常生活中自主進行諸如詩歌撰寫、樂曲譜寫、新聞創(chuàng)作、圖畫繪制、技術研發(fā)等創(chuàng)造性活動的日益增多,人工智能創(chuàng)造物的知識產(chǎn)權(quán)保護問題也開始進入人們的視野,并引起了學界的廣泛關注與熱烈討論。尤其是人工智能的法律地位確認問題引發(fā)了學者們的激烈論辯,涉及人工智能工具人格及虛擬人格的相關建議蜂擁而至。③龍文懋:《人工智能法律主體地位的法哲學思考》,《法律科學(西北政法大學學報)》2017 年第5 期;彭誠信、陳吉棟:《論人工智能體法律人格的考量要素》,《當代法學》2019 年第2 期。在此基礎上,很多學者從著作權(quán)法的基本原則與制度框架出發(fā)探究了人工智能生成內(nèi)容的著作權(quán)保護問題;④易繼明:《人工智能創(chuàng)造物是作品嗎?》,《法律科學(西北政法大學學報)》2017 年第5 期;王遷:《論人工智能生成的內(nèi)容在著作權(quán)法中的定性》,《法律科學(西北政法大學學報)》2018 年第5 期;熊琦:《人工智能生成內(nèi)容的著作權(quán)認定》,《知識產(chǎn)權(quán)》2017 年第3 期。同時,還有一些學者從專利法的基本原則與制度框架出發(fā)討論了人工智能生成發(fā)明成果的專利保護問題。①朱雪忠、張廣偉:《人工智能產(chǎn)生的技術成果可專利性及其權(quán)利歸屬研究》,《情報雜志》2018 年第2 期;劉鑫:《人工智能生成技術方案的專利法規(guī)制——理論爭議、實踐難題與法律對策》,《法律科學(西北政法大學學報)》2019年第5 期。然而,人工智能給知識產(chǎn)權(quán)制度所帶來的挑戰(zhàn),并不僅僅局限于法律規(guī)制的層面,更深層次的則是對財產(chǎn)權(quán)基礎理論下知識產(chǎn)權(quán)制度框架的重大沖擊。雖然已有學者以康德哲學為視角,對人工智能創(chuàng)造物的著作權(quán)問題進行探討,但康德“主客體統(tǒng)一認識論”和“人是目的”的哲學理論僅能服務于人工智能主體資格的分析,并不能為人工智能創(chuàng)造物知識產(chǎn)權(quán)保護的正當性提供充分的理論依據(jù)。②李楊、李曉宇:《康德哲學視點下人工智能生成物的著作權(quán)問題探討》,《法學雜志》2018 年第9 期。因此,若要深度挖掘人工智能對知識產(chǎn)權(quán)制度的影響,須以財產(chǎn)權(quán)理論為基礎展開分析。為此,不妨以洛克“財產(chǎn)權(quán)勞動學說”為理論依據(jù),力求厘清知識產(chǎn)權(quán)在該學說理論體系下受到人工智能挑戰(zhàn)所顯現(xiàn)出的制度失靈問題,并分別從理論與規(guī)則層面探尋有效的應對策略。

    作為重要的財產(chǎn)權(quán)基礎理論,“財產(chǎn)權(quán)勞動學說”由英國17 世紀的哲學家約翰·洛克(John Locke)所創(chuàng)設,并對后世產(chǎn)生深遠影響。該學說以自然權(quán)利為基礎,依據(jù)“共有”“勞動”“需求”3個要素,有效證成了土地等有形財產(chǎn)私有的合理性與正當性,其中,“共有”是財產(chǎn)權(quán)私有的前提條件,即“土地和一切低等動物為一切人所共有,但是每個人對自己的人身享有一種所有權(quán)”;③[英]洛克:《政府論》(下篇),葉啟芳、瞿菊農(nóng)譯,北京:商務印書館,1964 年,第19 頁?!皠趧印笔秦敭a(chǎn)權(quán)私有的核心條件,即個人的勞動把個人財產(chǎn)與人類共有財產(chǎn)區(qū)別開來;④[美]羅伯特·P.墨杰斯等:《新技術時代的知識產(chǎn)權(quán)法》,齊筠等譯,北京:中國政法大學出版社,2003 年,第2 頁?!靶枨蟆眲t是財產(chǎn)權(quán)私有的限制條件,即個人占有財產(chǎn)應以自身生存與發(fā)展的需要為限度,同時應當留有足夠多、同樣好的東西給其他人共有。⑤[英]洛克:《政府論》(下篇),第19—21 頁。隨著文藝作品、技術發(fā)明等無形財產(chǎn)的日漸增多,“財產(chǎn)權(quán)勞動學說”常常被予以擴大解釋,用于論證著作權(quán)、專利權(quán)等知識產(chǎn)權(quán)的正當性,并以“共有”“勞動”“需求”三個要素分別佐證了知識產(chǎn)權(quán)取得標準、歸屬規(guī)則、限制機制的合理性與可行性,從而使客體非物質(zhì)的知識產(chǎn)權(quán)能夠在“財產(chǎn)權(quán)勞動學說”的理論指引下有序運行。⑥吳漢東:《知識產(chǎn)權(quán)總論》,北京:中國人民大學出版社,2013 年,第145 頁;易繼明:《評財產(chǎn)權(quán)勞動學說》,《法學研究》2000 年第3 期;Justin Hughes,The Philosophy of Intellectual Property,Georgetown Law Journal77,no.2(1988):pp.287-366.然而,當下具備自主創(chuàng)造能力的人工智能卻給既有以“財產(chǎn)權(quán)勞動學說”三要素為導向而建立起來的知識產(chǎn)權(quán)制度帶來挑戰(zhàn),人工智能主體資格的缺失性和智力創(chuàng)造方式的特殊性遠超出了“財產(chǎn)權(quán)勞動學說”理論釋義所能調(diào)適的范疇,知識產(chǎn)權(quán)法在規(guī)制人工智能創(chuàng)造物過程中的制度失靈也隨之顯現(xiàn)。為此,不僅需要結(jié)合人工智能的自主創(chuàng)造特點對傳統(tǒng)“財產(chǎn)權(quán)勞動學說”進行解釋論層面的梳理,更需要立足人工智能的基本屬性,以“財產(chǎn)權(quán)勞動學說”三要素為出發(fā)點,對既有知識產(chǎn)權(quán)法律規(guī)則進行立法論層面的再造。

    一、“財產(chǎn)權(quán)勞動學說”證成知識產(chǎn)權(quán)正當性的理論釋義

    洛克“財產(chǎn)權(quán)勞動學說”作為證成財產(chǎn)權(quán)正當性的基礎理論,最初僅僅論證了有形財產(chǎn)權(quán)的正當性,而未涉及知識產(chǎn)權(quán)等無形財產(chǎn)權(quán)。但這并不是因為該理論存在缺陷,不能適應知識產(chǎn)權(quán)的客體非物質(zhì)特性,而是由于在洛克的時代知識產(chǎn)權(quán)還未出現(xiàn)。隨著人類創(chuàng)造能力的不斷提升,著作權(quán)、專利權(quán)等知識產(chǎn)權(quán)相繼產(chǎn)生,學者們便將以體力勞動為基礎論證有形財產(chǎn)權(quán)正當性的“財產(chǎn)權(quán)勞動學說”延伸到腦力勞動之上來論證知識產(chǎn)權(quán)的正當性。⑦Douglas G.Baird,Common Law Intellectual Property and the Legacy of International News Service v.Associated Press,University of Chicago Law Review50,no.2 (1983):p.413.為此,有必要分別從洛克“財產(chǎn)權(quán)勞動學說”論證財產(chǎn)權(quán)正當性的“共有”“勞動”“需求”三要素出發(fā),梳理出“財產(chǎn)權(quán)勞動學說”證成知識產(chǎn)權(quán)制度正當性的理論解釋路徑。

    (一)知識產(chǎn)權(quán)正當性證成中的“共有”要素

    洛克“財產(chǎn)權(quán)勞動學說”是建立在財產(chǎn)由全人類所共有的初始狀態(tài)之上的。從財產(chǎn)共有中積極共有與消極共有的分類①積極共有是指資源由全體共有權(quán)人所共同,任何人要對共有物享有權(quán)利都必須經(jīng)過全體共有權(quán)人同意;消極共有則是指資源不屬于任何人,任何人都可以對該資源行使權(quán)利。參見[澳]彼得·德霍斯:《知識財產(chǎn)法哲學》,周林譯,北京:商務印書館,2008 年,第3 頁。來看,洛克“財產(chǎn)權(quán)勞動學說”中的共有是一種建立在人類高度自覺假設之上的消極共有,即“誰改變了天然的自然產(chǎn)品在自然中的狀態(tài),誰就因此取得了它們的所有權(quán)”②[英]洛克:《政府論》(下篇),第25 頁。。作為知識產(chǎn)權(quán)保護客體的作品、發(fā)明等知識產(chǎn)品,在被賦予財產(chǎn)權(quán)利之前,無疑也是全人類所共有的財富,任何人都可以自由地獲取并利用。③Tom G.Palmer,Are Patents and Copyrights Morally Justified-the Philosophy of Property Rights and Ideal Objects,Harvard Journal of Law & Public Policy13,no.3 (1990):822.而知識產(chǎn)權(quán)的產(chǎn)生也是基于作者或發(fā)明人等知識產(chǎn)品的生產(chǎn)者對共有狀態(tài)下的“思想”“信息”等內(nèi)容的加工與創(chuàng)新。這樣看來,知識產(chǎn)權(quán)的產(chǎn)生前提是與洛克“財產(chǎn)權(quán)勞動學說”消極共有模式完全契合的。但在實踐中,人們對財產(chǎn)權(quán)的追求并不總是在高度自覺的基礎之上,人類趨利的本性往往會誘發(fā)對知識產(chǎn)品的激烈爭奪。由此,為實現(xiàn)洛克“財產(chǎn)權(quán)勞動學說”知識產(chǎn)權(quán)正當性的有效證成,有必要將洛克“財產(chǎn)權(quán)勞動學說”的理論前提從消極共有改為積極共有,并將著作權(quán)法上之“獨創(chuàng)性”、專利法上之“新穎性”“創(chuàng)造性”等權(quán)利的取得標準作為全體共有人同意的推定。

    (二)知識產(chǎn)權(quán)正當性證成中的“勞動”要素

    洛克“財產(chǎn)權(quán)勞動學說”將勞動作為財產(chǎn)產(chǎn)生的根據(jù),即“一個人使任何東西脫離自然所提供的和那個東西所處的狀態(tài),這個人就已經(jīng)在那個東西上摻進他的勞動,加進了他自己的某種東西,因而使它成為他的財產(chǎn)”④[英]洛克:《政府論》(下篇),第19 頁。。而且,隨著人類文明的發(fā)展,人類生存無法再完全依靠對共有資源自然取得的方式進行,勞動在財產(chǎn)創(chuàng)造中的作用不斷凸顯,以“勞動”為核心要素的洛克“財產(chǎn)權(quán)勞動學說”也日漸成為證成財產(chǎn)權(quán)正當性的主流理論。知識產(chǎn)權(quán)作為財產(chǎn)權(quán)譜系中的重要組成部分,雖無法像有形財產(chǎn)權(quán)一樣被有形地占有和轉(zhuǎn)讓,但也是基于作者、發(fā)明人等知識產(chǎn)品生產(chǎn)者的創(chuàng)造性勞動而符合法律保護標準,并脫離自然狀態(tài)而成為一項私有財產(chǎn)權(quán)利的。由此,可以說,對知識產(chǎn)品生產(chǎn)者知識產(chǎn)權(quán)的授予也是以其在知識產(chǎn)品創(chuàng)造中所付出的勞動為依據(jù)的,因而“勞動”無疑也是知識產(chǎn)權(quán)的正當性證成中核心要素。但是,必須注意的是,由于知識產(chǎn)品產(chǎn)生的偶然性和知識產(chǎn)品仿制的便捷性,作為知識產(chǎn)權(quán)歸屬依據(jù)的“勞動”并不是所有生成作品、發(fā)明等知識產(chǎn)品的勞動,而是在競爭中勝出的勞動。⑤劉鑫:《專利制度的哲學基礎及其正當性分析》,《佛山科學技術學院學報(社會科學版)》2016 年第2 期。

    (三)知識產(chǎn)權(quán)正當性證成中的“需求”要素

    洛克“財產(chǎn)權(quán)勞動學說”中的“需求”不僅僅意味著對某一個體財產(chǎn)權(quán)私有需求的滿足,而是所有人以自身生存發(fā)展為基礎的財產(chǎn)權(quán)訴求都應得到滿足。因而,為使所有人通過占有財產(chǎn)以保障自身生存發(fā)展的需求都得以滿足,就必須對財產(chǎn)權(quán)私有的范疇予以必要的限制。為此,洛克提出了 “禁止浪費”和“足夠保留”兩個限制條件,即個人在占有財產(chǎn)時應以自身生存與發(fā)展的需要為限度,并須留有足夠多、同樣好的東西給其他人共有,因為“上帝創(chuàng)造的東西不是供人們糟蹋和敗壞的”。⑥[英]洛克:《政府論》(下篇),第21 頁。在知識產(chǎn)權(quán)正當性證成中,“需求”要素同樣具有至關重要的作用,權(quán)利的行使仍然受到“禁止浪費” 和“足夠保留”兩個條件的限制。誠然,知識產(chǎn)品作為無形財產(chǎn)并不會像有形財產(chǎn)一樣存在稀缺性,進而出現(xiàn)利用上的嚴重沖突,⑦Tom G.Palmer,Are Patents and Copyrights Morally Justified-the Philosophy of Property Rights and Ideal Objects,Harvard Journal of Law & Public Policy13,no.3 (1990):pp.850-851.但是當法律通過權(quán)利擬制在知識產(chǎn)品之上賦予財產(chǎn)權(quán)利而形成知識產(chǎn)權(quán)后,便產(chǎn)生了一種人為制造的“強制性稀缺”,使權(quán)利人形成對知識產(chǎn)品的獨占與壟斷。⑧熊琦:《著作權(quán)激勵機制的法律構(gòu)造》,北京:中國人民大學出版社,2011 年,第22 頁。如若不對知識產(chǎn)權(quán)的行使加以必要的限制,知識產(chǎn)權(quán)人往往會不顧其他知識共有人的需求而濫用權(quán)利,致使他人平等進行創(chuàng)造及獲取知識的機會遭受嚴重損害。⑨Wendy J.Gordon,A Property Right in Self-Expression:Equality and Individualism in the Natural Law of Intellectual Property,Yale Law Journal102,no.7 (1993):p.1540.

    二、“財產(chǎn)權(quán)勞動學說”理論指引下的知識產(chǎn)權(quán)制度失靈

    面對客體非物質(zhì)的知識產(chǎn)權(quán),“財產(chǎn)權(quán)勞動學說”在進行適當?shù)恼{(diào)整與解釋后即可實現(xiàn)有效的理論證成,并成為知識產(chǎn)權(quán)制度建構(gòu)與運行的理論指引。然而,隨著人工智能生成智力成果的不斷增多,“財產(chǎn)權(quán)勞動學說”在論證知識產(chǎn)權(quán)正當性的過程中,不僅需在客體層面克服知識產(chǎn)權(quán)制度的特殊性,還將面臨主體層面的全新挑戰(zhàn)。作為人類創(chuàng)造物的人工智能,其本身即為一種權(quán)利客體,而人工智能創(chuàng)造物則是客體生成的次級客體。對人工智能創(chuàng)造物這一次級客體進行知識產(chǎn)權(quán)保護,無疑是對傳統(tǒng)財產(chǎn)權(quán)理論主、客體框架的重大挑戰(zhàn),進而引發(fā)“財產(chǎn)權(quán)勞動學說”理論框架下的知識產(chǎn)權(quán)制度失靈。①吳漢東:《人工智能時代的制度安排與法律規(guī)制》,《法律科學(西北政法大學學報)》2017 年第5 期。無論是“共有”要素指引下的權(quán)利取得標準,“勞動”要素指引下的權(quán)利歸屬規(guī)則,還是“需求”要素指引下的權(quán)利限制機制都無出其右,勢必面臨著制度失靈的難題與困境。

    (一)“共有”要素指引下權(quán)利取得標準的失效

    在人工智能生成作品、發(fā)明等智力成果的過程中,人工智能超強的文本數(shù)據(jù)挖掘能力使其創(chuàng)造物能夠輕而易舉地滿足權(quán)利取得標準,進而獲得知識產(chǎn)權(quán)保護。例如,在人工智能生成文學藝術作品時,快速地文獻檢索與文本替換使人工智能具備輕易克服相似表達的能力,并促使著作權(quán)法上的獨創(chuàng)性標準發(fā)生由來源效力到受眾效用的演化。②梁志文:《論人工智能創(chuàng)造物的法律保護》,《法律科學(西北政法大學學報)》2017 年第5 期。與此同時,在人工智能創(chuàng)造發(fā)明成果時,“數(shù)據(jù)+算法”的高效運行模式也使人工智能擁有快速規(guī)避現(xiàn)有技術的能力,進而使專利授權(quán)的新穎性限制形同虛設;③劉鑫:《人工智能生成技術方案的專利法規(guī)制——理論爭議、實踐難題與法律對策》,《法律科學(西北政法大學學報)》2019 年第5 期。不僅如此,人工智能超強的數(shù)據(jù)收集與處理功能更使其具備了不區(qū)分技術領域進行發(fā)明創(chuàng)造的能力,這也使設定于特定技術領域前提下專利創(chuàng)造性判斷中的一般技術人員的理性人假設失去了適用的空間。④Ryan Abbott,I Think,Therefore I Invent:Creative Computers and the Future of Patent Law,Boston College Law Review57,no.4 (2016):p.1083.如此一來,“財產(chǎn)權(quán)勞動學說”為證成知識產(chǎn)權(quán)正當性,將原本消極共有的理論前提改為積極共有,并以知識產(chǎn)權(quán)取得標準作為推定全體共有人同意條件的理論釋義目標無疑會難以達成,“共有”要素指引下權(quán)利取得標準也失去了應有的效用。概言之,人工智能的“算法+數(shù)據(jù)”運行模式使現(xiàn)行“共有”要素指引下的知識產(chǎn)權(quán)權(quán)利取得標準變得“不堪一擊”。無論是著作權(quán)中的“獨創(chuàng)性”要求,還是專利權(quán)中的“新穎性”“創(chuàng)造性”要求,這些作為推定全體共有人同意條件的權(quán)利取得標準被人工智能通過技術手段輕而易舉克服所造成的制度失靈,勢必會帶來理論層面的連鎖反應,致使人工智能生成作品、發(fā)明等智力成果的知識產(chǎn)權(quán)授權(quán)難以達到積極共有的同意水準,使“財產(chǎn)權(quán)勞動學說”下知識產(chǎn)權(quán)正當性的證成前提又回到了消極共有的理論原點。如此一來,實踐中知識產(chǎn)權(quán)被投機者濫用,私人權(quán)利侵蝕公有領域以及權(quán)利人之間爆發(fā)利益沖突等一系列的不利情形,便將失去積極共有的理論應對機制,而人工智能在這一過程中則淪為了知識產(chǎn)權(quán)濫用者手中用于達到權(quán)利取得標準的“利器”。

    (二)“勞動”要素指引下權(quán)利歸屬規(guī)則的失序

    在人工智能生成作品、發(fā)明等智力成果的過程中,人工智能無須人類干預的自主性使其能夠獨立完成相應智力成果的創(chuàng)造工作。⑤Matthew U.Scherer,Regulating Artificial Intelligence Systems:Risks,Challenges,Competencies,and Strategies,Harv.J.L.& Tech.29,no.2 (2016):pp.363-369.但是,作為人類創(chuàng)造物的人工智能本身并不具有民事法律主體資格,其為創(chuàng)造智力成果所付出的“勞動”也并非人類身體的延伸,而只是機器人先進功能的體現(xiàn)。進而言之,人工智能創(chuàng)造物的生成活動只是一種機器運轉(zhuǎn)的過程,并不是一個真正意義上的勞動過程,因為勞動是人類所特有的活動,是人類維持自身生存與發(fā)展的重要手段,馬克思主義哲學更是將勞動設定為整個人類生活的第一個基本條件,并且認為勞動創(chuàng)造了人本身。⑥[德]馬克思、恩格斯:《馬克斯恩格斯選集》(第三卷),中共中央馬克思恩格斯列寧斯大林著作編譯局編譯,北京:人民出版社,1995 年,第507—508 頁。由此看來,人工智能主體資格的缺失性無疑帶來了“勞動”要素指引下權(quán)利歸屬規(guī)則的失序,很難再以創(chuàng)造者的“勞動”作為連接點來確定人工智能生成作品、發(fā)明等智力成果的知識產(chǎn)權(quán)歸屬。誠然如此,不可否認的是,對于人工智能所生成的作品、發(fā)明等智力成果,人工智能軟件的編程者、使用者以及關鍵性數(shù)據(jù)資源的提供者都付出了各自的辛勤勞動。但也必須要格外注意的是,無論是人工智能軟件的編程者、使用者,還是關鍵性數(shù)據(jù)資源的數(shù)據(jù)提供者,他們中任何一方主體都沒有切實參與到智力成果生成的核心環(huán)節(jié)之中,并未對人工智能的創(chuàng)造活動做出直接的干預或貢獻,他們這些相關主體的勞動要素在人工智能生成作品、發(fā)明等智力成果的過程中,僅僅為創(chuàng)造工作的完成提供了間接性的輔助與支持。因此,可以說,編程者、使用者、數(shù)據(jù)提供者等相關主體雖然都為人工智能創(chuàng)造工作的有效運轉(zhuǎn)付出了勞動,但他們?nèi)魏我环剿冻龅膭趧?,對于人工智能所生成的作品、發(fā)明等智力成果而言,都是不具有決定性作用的。如此說來,編程者、使用者、數(shù)據(jù)提供者等相關主體中的任何一方也都不具備依據(jù)“勞動”要素、以自己的勞動為基礎來掌控人工智能生成作品、發(fā)明等智力成果知識產(chǎn)權(quán)的充分理由。

    (三)“需求”要素指引下權(quán)利限制機制的失衡

    在人工智能生成作品、發(fā)明等智力成果的過程中,人工智能算法驅(qū)動、數(shù)據(jù)保障的運行模式給予其遠遠高于人類的強大創(chuàng)造力,大量智力成果會被人工智能不斷生產(chǎn)出來,形成對公有領域的嚴重侵蝕,同時“需求”要素指引下的權(quán)利限制機制也時刻面臨著失衡的風險。在現(xiàn)行“需求”要素指引下的知識產(chǎn)權(quán)限制中,人工智能創(chuàng)新活動并不能被有效控制在合理的范圍內(nèi),進而突破“禁止浪費”和“足夠保留”的財產(chǎn)權(quán)正當性理論界限。雖說知識產(chǎn)品作為無形財產(chǎn)并不會像有形財產(chǎn)一樣出現(xiàn)利用上的沖突,相同相似的思想、創(chuàng)意往往是同時存在的,即使一項知識產(chǎn)品被某一個個體所占有,也總會有足夠多、同樣好的東西留給其他共有人,但人工智能在數(shù)據(jù)與算法保障下的強大創(chuàng)造力會使海量智力成果在短時間內(nèi)急速生成,進而造成公有領域的相對縮減,急劇增加其他共有人獲取足夠多、同樣好的東西的難度。實踐中,人工智能的超級創(chuàng)造能力還會被市場主體利用生成大量防御專利布局于其核心專利周邊,以提升自身的技術優(yōu)勢,甚至形成對特定市場的壟斷,這不僅背離了專利法的制度宗旨,造成了對后續(xù)創(chuàng)新的巨大阻礙,而且還會在相關市場上引發(fā)嚴重的反競爭效果。①Ben Hattenbach; Joshua Glucoft,Patents in an Era of Infinite Monkeys and Artificial Intelligence,Stanford Technology Law Review19,no.1 (2015):p.41.不僅如此,一旦人工智能被版權(quán)蟑螂、專利流氓等投機者所利用,大量的人工智能創(chuàng)造物被用于濫訴,無疑會影響知識產(chǎn)權(quán)人的日常生產(chǎn)經(jīng)營活動,擾亂正常的市場競爭秩序。②Erica Fraser,Computers as Inventors -Legal and Policy Implications of Artificial Intelligence on Patent Law,SCRIPTed:A Journal of Law,Technology and Society 13,no.3 (2016):pp.308-309.未來,隨著人工智能技術的不斷發(fā)展與普及,會有大量滿足著作權(quán)最低獨創(chuàng)性標準和專利權(quán)基本創(chuàng)造性標準的智力成果被源源不斷地生成出來,如果不依據(jù)“需求”要素的理論指引對其專門加以限制,不僅會使得人類作者不得不退出作品市場,造成著作權(quán)產(chǎn)業(yè)萎縮,③曹源:《人工智能創(chuàng)作物獲得版權(quán)保護的合理》,《科技與法律》2016 年第3 期。也會使專利權(quán)陷入不斷增加的海量文獻之中,極大地影響已授權(quán)專利的市場價值,降低權(quán)利人在專利許可與訴訟中的議價能力,造成專利市場亂局。④Alan C.Marco; Saurabh Vishnubhakat,Certain Patents,Yale Journal of Law and Technology16 (2014):p.106.

    三、人工智能自主創(chuàng)造模式下的理論梳理與規(guī)則再造

    通過對“財產(chǎn)權(quán)勞動學說”證成知識產(chǎn)權(quán)正當性理論釋義的路徑疏解與人工智能引發(fā)“財產(chǎn)權(quán)勞動學說”理論指引下知識產(chǎn)權(quán)制度失靈的問題剖析,不難發(fā)現(xiàn),為克服人工智能自主創(chuàng)造模式所帶來的新挑戰(zhàn),僅僅對“財產(chǎn)權(quán)勞動學說”展開解釋論層面的進一步調(diào)適是遠遠不夠的,知識產(chǎn)權(quán)法也必須從制度層面對人工智能的特殊法律屬性與創(chuàng)造模式做出回應,從而實現(xiàn)人工智能創(chuàng)造物知識產(chǎn)權(quán)保護與“財產(chǎn)權(quán)勞動學說”之間的理論契合。鑒于此,為避免發(fā)生“財產(chǎn)權(quán)勞動學說”理論指引下的知識產(chǎn)權(quán)制度失靈,不僅應從從理論層面對“財產(chǎn)權(quán)勞動學說”中“共有”“勞動”“需求”三個要素進行人工智能新場景下的理論深化,還應分別從三要素所對應的知識產(chǎn)權(quán)保護規(guī)則入手,通過設定人工智能創(chuàng)造物的知識產(chǎn)權(quán)取得標準、設計人工智能創(chuàng)造物的知識產(chǎn)權(quán)歸屬機制、設置人工智能創(chuàng)造物的知識產(chǎn)權(quán)限制規(guī)則三項制度調(diào)適措施,展開人工智能新場景下的法律再造。

    (一)“共有”要素之調(diào)適與權(quán)利取得標準改進

    面對“需求”要素指引下權(quán)利取得標準的失效問題,首先應結(jié)合人工智能自主創(chuàng)新的特點從理論層面對“共有”要素進行解釋論層面的調(diào)適?!柏敭a(chǎn)權(quán)勞動學說”在證成知識產(chǎn)權(quán)正當性的過程中,結(jié)合在現(xiàn)實中高度自覺假設的不適應性,為防止從知識產(chǎn)權(quán)客體非物質(zhì)特性中衍生出嚴重的權(quán)利爭奪與利益沖突,應當將理論適用前提從消極共有改為積極共有,并以知識產(chǎn)權(quán)法所設定的權(quán)利取得標準作為推定全體共有人同意的基準。人工智能雖為人類創(chuàng)造物,但其自主創(chuàng)造的智力成果與人類創(chuàng)造的智力成果并不存在本質(zhì)上的差別,二者都是非物質(zhì)性的法律客體。因而,在對人工智能創(chuàng)造物進行知識產(chǎn)權(quán)保護時,仍應堅持積極共用的理論前提。而“共有”要素指引下權(quán)利取得標準失效問題的出現(xiàn),也并非緣于人工智能所創(chuàng)造的智力成果不符合積極共用的理論框架,真正的問題在于,現(xiàn)行的知識產(chǎn)權(quán)權(quán)利取得標準不能達到對人工智能創(chuàng)造物知識產(chǎn)權(quán)保護的全體共有人同意的基準。進言之,也正是現(xiàn)有知識產(chǎn)權(quán)取得標準與人工智能創(chuàng)造模式的不適應,使知識產(chǎn)權(quán)取得標準的理論前提由有效控制機會主義行為的積極共有淪為放任、無序的消極共有,進而引發(fā)人工智能新場景下權(quán)利取得標準的失效。

    為此,有必要以“共有”要素下的積極共用為理論前提,結(jié)合人工智能的自主創(chuàng)造特點從法律層面對知識產(chǎn)權(quán)的權(quán)利取得標準進行改進,為人工智能創(chuàng)造物設定專門的權(quán)利取得標準。以人工智能生成發(fā)明成果的專利授權(quán)的“新穎性”和“創(chuàng)造性”標準為例,基于人工智能不區(qū)分技術領域的發(fā)明創(chuàng)造能力,中國現(xiàn)行《專利法》中以現(xiàn)有技術比對為運行模式的專利“新穎性”判斷標準①吳漢東等:《知識產(chǎn)權(quán)基本問題研究(分論)》,北京:中國人民大學出版社,2009 年,第245 頁。和以特定技術領域一般技術人員水平為基礎的專利“創(chuàng)造性”判斷標準②曾陳明汝:《兩岸暨歐美專利法》,北京:中國人民大學出版社,2007 年,第39—40 頁。,難以對人工智能所生成發(fā)明成果的“新穎性”和“創(chuàng)造性”予以充分且全面的判斷。③朱雪忠、張廣偉:《人工智能產(chǎn)生的技術成果可專利性及其權(quán)利歸屬研究》,《情報雜志》2018 年第2 期。相同的情況也在世界各國的專利制度實踐中存在。為應對這一問題,美國學者們率先提出了以人工智能所具有的文本數(shù)據(jù)挖掘和技術創(chuàng)造能力為基準改進專利授權(quán)標準的可行方案。一方面擴大現(xiàn)有技術檢索的深度和廣度,以智能化的檢索工具考察人工智能生成發(fā)明成果的“新穎性”④Ben Hattenbach; Joshua Glucoft,Patents in an Era of Infinite Monkeys and Artificial Intelligence,Stanford Technology Law Review19,no.1 (2015):p.45.;另一方面將現(xiàn)行專利法中的一般技術人員升級為配備超級電腦的一般技術人員,即以具備平均水平的超級電腦的數(shù)據(jù)收集和計算的能力判斷人工智能生成發(fā)明成果的“創(chuàng)造性”⑤Liza Vertinsky; Todd M.Rice,Thinking About Thinking Machines:Implications of Machine Inventors for Patent Law,B.U.J.Sci.& Tech.L.8,no.2 (2002):p.595.。不僅如此,其他知識產(chǎn)權(quán)取得標準也應根據(jù)人工智能的特殊智力成果創(chuàng)造模式進行相應調(diào)整,從而使人工智能創(chuàng)造物知識產(chǎn)權(quán)保護的理論前提回到“財產(chǎn)權(quán)勞動學說”證成知識產(chǎn)權(quán)正當性的積極共有框架之內(nèi),實現(xiàn)“共有”要素指引下的權(quán)利取得標準與人工智能自主創(chuàng)新模式之間的契合。

    (二)“勞動”要素之調(diào)適與權(quán)利歸屬規(guī)則完善

    面對“勞動”要素指引下權(quán)利歸屬規(guī)則的失序問題,首先應結(jié)合人工智能創(chuàng)造過程的特點對“勞動”要素進行理論層面的調(diào)適。如前所述,人工智能創(chuàng)造物的過程是一個機器的運轉(zhuǎn)過程,其中并沒有出現(xiàn)任何人的勞動,而編程者、使用者、數(shù)據(jù)提供者等相關主體雖付出過勞動,但這些勞動都與智力成果的創(chuàng)造過程沒有直接關系,“勞動”要素已經(jīng)失去了作為權(quán)利歸屬連接點的效用。對此,有必要展開對“財產(chǎn)權(quán)勞動學說”中“勞動”要素的擴大解釋,不再把實現(xiàn)權(quán)利配置的勞動局限在創(chuàng)造過程之內(nèi),將編程者、使用者、數(shù)據(jù)提供者等與人工智能創(chuàng)造活動相關主體的間接勞動也納入到考量范圍之中,以化解人工智能創(chuàng)造物過程中“勞動”要素缺失而帶來的知識產(chǎn)權(quán)歸屬失序。然而,新的問題也由此產(chǎn)生,即編程者、使用者、數(shù)據(jù)提供者等間接勞動主體所付出勞動孰多孰少、孰重孰輕如何衡量的問題,因為在洛克“財產(chǎn)權(quán)勞動學說”的理論框架下,“勞動”作為核心要素直接決定了財產(chǎn)權(quán)的歸屬,編程者、使用者、數(shù)據(jù)提供者等相關主體所付出勞動對于人工智能創(chuàng)造物價值、貢獻的大小直接決定了知識產(chǎn)權(quán)的歸屬。但由于實踐中編程者、使用者、數(shù)據(jù)提供者等各方主體在不同人工智能創(chuàng)造不同智力成果過程中的參與度不同,其勞動對人工智能創(chuàng)造物的影響與意義也有所差異,并不能在理論層面確定到底是哪一方的“勞動”,抑或是其中幾方的共同“勞動”促進了人工智能生成作品、發(fā)明等智力成果的生成,因而需要在具體的適用中從法律層面進行規(guī)制。

    為此,針對編程者、使用者、數(shù)據(jù)提供者等各方主體之間以“勞動”為基礎的權(quán)屬爭議,有必要為人工智能創(chuàng)造物設計專門知識產(chǎn)權(quán)歸屬規(guī)則,并通過對各方所付出“勞動”對人工智能創(chuàng)造物生成的影響或作用大小的法律判斷,決定人工智能創(chuàng)造物的知識產(chǎn)權(quán)歸屬。針對這一問題,國內(nèi)外學者從不同的角度出發(fā)提出了各自的觀點,并掀起了激烈的論爭。在編程者、使用者、數(shù)據(jù)提供者等相關主體中,編程者作為人工智能軟件的創(chuàng)造者,擁有著人工智能程序的著作權(quán),直接決定了人工智能創(chuàng)造物的生成方式和存在狀態(tài),其“勞動”對人工智能創(chuàng)造物而言是基礎性的,而且從物權(quán)孳息原理來看,人工智能創(chuàng)造物的知識產(chǎn)權(quán)作為原物(人工智能)的孳息也應由編程者所享有;①黃玉燁、司馬航:《孳息視角下人工智能生成作品的權(quán)利歸屬》,《河南師范大學學報(哲學社會科學版)》2018 年第4 期。使用者對人工智能發(fā)出了工作指令,其“勞動”直接決定了人工智能生成創(chuàng)造物的模式,而且這些創(chuàng)造物都是與使用者的需求以及經(jīng)營范圍密切相關的,可以說使用者是最易激勵與最需激勵的主體,②Pamela Samuelson,Allocating Ownership Rights in Computer-Generated Works,University of Pittsburgh Law Review47,no.4 (1986):p.1127.但其觸發(fā)啟動按鈕或接通電源的行為,并未對人工智能創(chuàng)造物做出實質(zhì)性貢獻,其只是“發(fā)現(xiàn)”了智力成果,而非“創(chuàng)造”了智力成果;③Ryan Abbott,I Think,Therefore I Invent:Creative Computers and the Future of Patent Law,Boston College Law Review 57,no.4 (2016):pp.1081、1098.數(shù)據(jù)提供者則往往為人工智能創(chuàng)造物提供關鍵的數(shù)據(jù)支撐,其“勞動”也是對最終創(chuàng)造物生成的一種實質(zhì)性輔助,其對人工智能創(chuàng)造物的影響和作用則取決于其所提供數(shù)據(jù)的重要性。④王瀚:《歐美人工智能專利保護比較研究》,《華東理工大學學報(社會科學版)》2018 年第1 期。因而,從“勞動”的影響或作用來看,編程者無疑應當對人工智能創(chuàng)造物享有更多的知識產(chǎn)權(quán)份額。但在具體的權(quán)屬規(guī)則的設計中,則應充分考慮到實踐中各方主體間利益關系的復雜性,并從人工智能創(chuàng)造物的知識產(chǎn)權(quán)歸屬過程和職務發(fā)明創(chuàng)造中雇主與雇員發(fā)明人之間關于職務發(fā)明創(chuàng)造的權(quán)利配置過程的相似性出發(fā),借鑒《專利法》職務發(fā)明權(quán)屬規(guī)則中約定模式優(yōu)先、法定規(guī)則兜底的制度安排來設計人工智能創(chuàng)造物的知識產(chǎn)權(quán)歸屬規(guī)則,允許編程者、使用者、數(shù)據(jù)提供者等各方主體對人工智能創(chuàng)造物的知識產(chǎn)權(quán)歸屬進行約定,如若約定無效或約定不成則依照法定權(quán)屬規(guī)則,將人工智能創(chuàng)造物的知識產(chǎn)權(quán)賦予付出“勞動”影響或作用最大的編程者。⑤劉鑫:《職務發(fā)明權(quán)利歸屬的立法變革與制度安排——兼評專利法修訂草案(送審稿)第6 條》,《法學雜志》2018年第2 期。如此一來,不僅編程者、使用者、數(shù)據(jù)提供者等間接“勞動”主體之間的知識產(chǎn)權(quán)爭奪可以得到順利平息,也使“勞動”要素指引下權(quán)利歸屬規(guī)則的失序問題得以有效解決。

    (三)“需求”要素之調(diào)適與權(quán)利限制機制革新

    面對“需求”要素指引下權(quán)利限制機制的失衡問題,首先也應結(jié)合人工智能算法驅(qū)動、數(shù)據(jù)保障的特點從理論層面對“需求”要素做出調(diào)適。人工智能超強的數(shù)據(jù)整合與運算能力賦予了其強大的創(chuàng)造力,文藝作品、發(fā)明創(chuàng)造等智力成果都可以被批量化地生產(chǎn)出來。由于某些市場主體對人工智能生成智力成果功能的不當利用,不僅帶來了侵蝕公有領域的負面效應,更引發(fā)了反競爭的不良效果,遠超出了“需求”要素指引下權(quán)利限制機制的控制范疇。但這并不意味著“需求”要素無法制約人工智能的自主創(chuàng)造活動,反而更需要依據(jù)“需求”要素對人工智能的自主創(chuàng)造活動進行限制,將“足夠保留”和“禁止浪費”兩項限制條件在人工智能自主創(chuàng)造活動中進行充分的貫徹,不僅在知識產(chǎn)權(quán)法內(nèi)部權(quán)利限制規(guī)范中深化“需求”要素,更要將“需求”要素貫穿于反不正當競爭和反壟斷等競爭法律法規(guī)的外部權(quán)利限制規(guī)范之中,降低人工智能創(chuàng)造物對公有領域的侵蝕效應,避免反競爭的負面效應被不斷擴大,以保證相關市場與產(chǎn)業(yè)的正常運行。①反不正當競爭法主要為知識產(chǎn)權(quán)提供補充或者兜底的保護,保護知識產(chǎn)權(quán)是反不正當競爭法傳統(tǒng)的和基本的任務;反壟斷法則對知識產(chǎn)權(quán)濫用行為進行規(guī)制,規(guī)制知識產(chǎn)權(quán)濫用是反壟斷法新興的和敏感的領域。參見王先林:《競爭法視野的知識產(chǎn)權(quán)問題論綱》,《中國法學》2009 年第4 期。

    為此,基于“需求”要素針對人工智能海量創(chuàng)新特點所進行的理論調(diào)適,法律層面也應做出相應的制度調(diào)整。不僅應在“需求”要素指引下將人工智能創(chuàng)造物納入到《著作權(quán)法》所設定的合理使用和法定許可、《專利法》所設定的強制許可等知識產(chǎn)權(quán)內(nèi)部權(quán)利限制機制的范疇之中,更應在“需求”要素指引下,以《反不正當競爭法》一般條款的基礎原則,以及《反壟斷法》中關于經(jīng)營者濫用市場支配地位的相關規(guī)定為基礎,構(gòu)建外部權(quán)利限制機制,因為知識產(chǎn)權(quán)制度的運行本身就是一種作品創(chuàng)作與技術研發(fā)的競爭機制,②吳漢東:《無形財產(chǎn)權(quán)基本問題研究》(第三版),北京:中國人民大學出版社,2013 年,第281 頁。市場主體的知識產(chǎn)權(quán)運營活動也是以市場競爭為基礎的。人工智能被不當利用所產(chǎn)生的負面效應和不良效果,歸根究底是由于市場主體企圖利用人工智能創(chuàng)造物來獲取相應的知識產(chǎn)權(quán),進而攫取更強的市場競爭地位,相應的這些問題也不是通過知識產(chǎn)權(quán)法內(nèi)部的權(quán)利限制機制完全能夠解決,③馮曉青:《知識產(chǎn)權(quán)、競爭與反壟斷之關系探析》,《法學》2004 年第3 期。還需要在競爭法律法規(guī)的運行中引入對經(jīng)營者利用人工智能生成智力成果的競爭效果評價機制,由反壟斷執(zhí)法機構(gòu)或者司法機關,對經(jīng)營者是否有利用人工智能生成智力成果以達到擴大市場支配地位的不正當行為進行評判。如果評價指標顯示經(jīng)營者具有不正當?shù)哪康?,應及時采取措施對經(jīng)營者的行為予以制止,以避免造成難以修復的市場損害,實現(xiàn)對權(quán)利的外部限制,從而使人工智能創(chuàng)造物能夠在“需求”要素中“足夠保留”和“禁止浪費”兩項限制條件下獲得合理的知識產(chǎn)權(quán)保護。

    四、結(jié)語

    人工智能技術的飛速發(fā)展,使智能創(chuàng)造活動不再為人類所壟斷,不具備法律主體資格的人工智能也可自主生成文藝作品和發(fā)明成果等智力創(chuàng)造物。隨著實踐中人工智能所生成的智力成果不斷增多,人工智能創(chuàng)造物的知識產(chǎn)權(quán)保護問題也應運而生。而人工智能主體資格的缺失性及其智力創(chuàng)造方式的特殊性,也造成人工智能創(chuàng)造物面臨著能否被給予財產(chǎn)權(quán)保護,以及如何對其進行財產(chǎn)權(quán)保護等一系列理論層面的爭議與法律層面的挑戰(zhàn)。洛克“財產(chǎn)權(quán)勞動學說”作為證成財產(chǎn)權(quán)正當性的重要理論,常常被學者所引用來論證知識產(chǎn)權(quán)制度的正當性,并成為知識產(chǎn)權(quán)制度建構(gòu)與運行的理論基礎。洛克“財產(chǎn)權(quán)勞動學說”中“共有”“勞動”“需求”3 個要素,分別論證財產(chǎn)權(quán)的產(chǎn)生、分配、限制的正當性,通過必要的理論釋義,這3 個要素在知識產(chǎn)權(quán)的正當性證成中也同樣有效,并分別為知識產(chǎn)權(quán)權(quán)利取得標準、權(quán)利歸屬規(guī)制、權(quán)利限制機制提供理論指引。人工智能自主創(chuàng)新模式的出現(xiàn)卻引發(fā)了“財產(chǎn)權(quán)勞動學說”理論指引下的知識產(chǎn)權(quán)制度失靈,無論是“共有”要素指引下的權(quán)利取得標準,“勞動”要素指引下的權(quán)利歸屬規(guī)則,還是“需求”要素指引下的權(quán)利限制機制都面臨著前所未有得挑戰(zhàn),嚴重超出了“財產(chǎn)權(quán)勞動學說”理論釋義所能調(diào)試的范疇,但這不意味著人工智能對知識產(chǎn)權(quán)制度所帶來的挑戰(zhàn)是無法破解的。知識產(chǎn)權(quán)制度源于創(chuàng)新而生,也必須基于創(chuàng)新而變。④吳漢東:《知識產(chǎn)權(quán)法的制度創(chuàng)新本質(zhì)與知識創(chuàng)新目標》,《法學研究》2014 年第3 期。在人工智能自主創(chuàng)造的新場景下,通過理論層面對“財產(chǎn)權(quán)勞動學說”三要素的調(diào)適和法律層面對三要素對應法律規(guī)則的完善,便可實現(xiàn)人工智能自主創(chuàng)新模式與“財產(chǎn)權(quán)勞動學說”指引下知識產(chǎn)權(quán)制度的協(xié)調(diào)與契合。

    猜你喜歡
    人工智能
    我校新增“人工智能”本科專業(yè)
    用“小AI”解決人工智能的“大”煩惱
    汽車零部件(2020年3期)2020-03-27 05:30:20
    當人工智能遇見再制造
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    AI人工智能解疑答問
    人工智能與就業(yè)
    基于人工智能的電力系統(tǒng)自動化控制
    人工智能,來了
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    人工智能來了
    學與玩(2017年12期)2017-02-16 06:51:12
    欧美精品人与动牲交sv欧美| 999久久久国产精品视频| av片东京热男人的天堂| av片东京热男人的天堂| 国产精品秋霞免费鲁丝片| 精品一区二区三区四区五区乱码 | 亚洲av中文av极速乱| 女人精品久久久久毛片| 中文字幕高清在线视频| 熟妇人妻不卡中文字幕| 亚洲在久久综合| 亚洲av中文av极速乱| 大片电影免费在线观看免费| www日本在线高清视频| 乱人伦中国视频| 亚洲精华国产精华液的使用体验| 交换朋友夫妻互换小说| 国产精品 欧美亚洲| 天天躁日日躁夜夜躁夜夜| 国产一级毛片在线| 国产精品二区激情视频| 街头女战士在线观看网站| svipshipincom国产片| 色婷婷久久久亚洲欧美| av在线老鸭窝| 天天添夜夜摸| 久久久久视频综合| 中文字幕高清在线视频| 国产免费一区二区三区四区乱码| 午夜精品国产一区二区电影| 观看美女的网站| 国产激情久久老熟女| 亚洲国产av影院在线观看| 男女边摸边吃奶| 大香蕉久久成人网| 少妇被粗大猛烈的视频| 最新在线观看一区二区三区 | 19禁男女啪啪无遮挡网站| 亚洲av电影在线进入| 久久鲁丝午夜福利片| 久久女婷五月综合色啪小说| 狠狠婷婷综合久久久久久88av| 国产精品 国内视频| 精品国产一区二区久久| 日日摸夜夜添夜夜爱| 国产乱来视频区| 久久天堂一区二区三区四区| 中文欧美无线码| 精品第一国产精品| 中文字幕亚洲精品专区| 黑丝袜美女国产一区| 国产精品秋霞免费鲁丝片| 午夜福利视频精品| 老司机靠b影院| 亚洲在久久综合| 你懂的网址亚洲精品在线观看| 性高湖久久久久久久久免费观看| 蜜桃在线观看..| 尾随美女入室| 亚洲视频免费观看视频| 免费在线观看完整版高清| 岛国毛片在线播放| 亚洲一码二码三码区别大吗| 日本一区二区免费在线视频| 9色porny在线观看| 999久久久国产精品视频| 美女高潮到喷水免费观看| 哪个播放器可以免费观看大片| 亚洲国产精品一区三区| 999精品在线视频| 日韩视频在线欧美| 久久国产精品大桥未久av| 精品一区二区三区四区五区乱码 | 日韩免费高清中文字幕av| 高清在线视频一区二区三区| 免费高清在线观看日韩| av又黄又爽大尺度在线免费看| 老司机影院成人| 欧美在线黄色| 国产精品久久久久久人妻精品电影 | 午夜免费鲁丝| 国产精品久久久久久久久免| 黑丝袜美女国产一区| 七月丁香在线播放| 97精品久久久久久久久久精品| 欧美变态另类bdsm刘玥| 欧美日韩成人在线一区二区| 久久青草综合色| 亚洲精品成人av观看孕妇| 欧美乱码精品一区二区三区| 超碰97精品在线观看| 久热爱精品视频在线9| 一级毛片我不卡| 51午夜福利影视在线观看| 赤兔流量卡办理| 国产不卡av网站在线观看| 国产野战对白在线观看| 日韩 欧美 亚洲 中文字幕| 19禁男女啪啪无遮挡网站| 高清黄色对白视频在线免费看| 在线观看免费日韩欧美大片| 日韩不卡一区二区三区视频在线| 国产亚洲欧美精品永久| 精品少妇久久久久久888优播| 我要看黄色一级片免费的| 国产日韩欧美视频二区| 国产欧美日韩一区二区三区在线| 精品国产一区二区三区四区第35| 亚洲精品国产av蜜桃| 哪个播放器可以免费观看大片| 日韩大码丰满熟妇| 精品国产一区二区久久| 熟女少妇亚洲综合色aaa.| 卡戴珊不雅视频在线播放| 欧美亚洲日本最大视频资源| av有码第一页| 啦啦啦在线观看免费高清www| 黄色视频在线播放观看不卡| 人妻一区二区av| 别揉我奶头~嗯~啊~动态视频 | 国产成人精品在线电影| 亚洲精品国产一区二区精华液| 色婷婷久久久亚洲欧美| h视频一区二区三区| 高清视频免费观看一区二区| 午夜av观看不卡| 爱豆传媒免费全集在线观看| 欧美日韩av久久| 亚洲精品一二三| 午夜av观看不卡| 久久久久精品国产欧美久久久 | 亚洲中文av在线| 国产在线视频一区二区| 成人国产麻豆网| 亚洲国产最新在线播放| 亚洲视频免费观看视频| 色婷婷av一区二区三区视频| 亚洲欧美中文字幕日韩二区| 亚洲精品一二三| av免费观看日本| 热re99久久国产66热| 免费少妇av软件| 这个男人来自地球电影免费观看 | 精品国产一区二区三区久久久樱花| 桃花免费在线播放| 亚洲精品第二区| 成年人免费黄色播放视频| 精品久久久久久电影网| 最近的中文字幕免费完整| 精品人妻熟女毛片av久久网站| 久久这里只有精品19| 久久精品亚洲熟妇少妇任你| 国产毛片在线视频| 精品久久久久久电影网| 久久人人爽人人片av| 亚洲男人天堂网一区| 国产精品秋霞免费鲁丝片| www日本在线高清视频| 宅男免费午夜| 日本wwww免费看| 五月天丁香电影| 1024香蕉在线观看| 国产成人91sexporn| 成年人午夜在线观看视频| 18禁国产床啪视频网站| 国产极品粉嫩免费观看在线| 欧美精品亚洲一区二区| 亚洲成色77777| 久久久久国产一级毛片高清牌| 久久人人爽人人片av| 性高湖久久久久久久久免费观看| 国产精品欧美亚洲77777| 婷婷成人精品国产| 在线看a的网站| 制服人妻中文乱码| 天天躁狠狠躁夜夜躁狠狠躁| 亚洲精品,欧美精品| 少妇猛男粗大的猛烈进出视频| 国产精品久久久av美女十八| 男人操女人黄网站| 在线 av 中文字幕| 精品酒店卫生间| 少妇的丰满在线观看| 97精品久久久久久久久久精品| 国产一区二区激情短视频 | 视频区图区小说| 99久国产av精品国产电影| 久久亚洲国产成人精品v| 亚洲欧洲国产日韩| 亚洲五月色婷婷综合| 成人免费观看视频高清| 久久久久人妻精品一区果冻| 免费少妇av软件| 国产精品无大码| 精品久久久精品久久久| 精品少妇黑人巨大在线播放| 亚洲国产中文字幕在线视频| 丝瓜视频免费看黄片| 欧美xxⅹ黑人| 91精品伊人久久大香线蕉| 日韩精品免费视频一区二区三区| 极品人妻少妇av视频| 九色亚洲精品在线播放| 午夜福利在线免费观看网站| 国产精品一区二区在线不卡| 中文字幕制服av| 亚洲av电影在线进入| 99香蕉大伊视频| 免费av中文字幕在线| 国语对白做爰xxxⅹ性视频网站| 免费看av在线观看网站| 免费黄网站久久成人精品| 欧美老熟妇乱子伦牲交| 国产成人精品无人区| 亚洲精品乱久久久久久| 国产成人免费无遮挡视频| 老司机靠b影院| 中文字幕人妻丝袜一区二区 | 男人爽女人下面视频在线观看| 国产日韩欧美在线精品| 丝袜美腿诱惑在线| 日本wwww免费看| 美女福利国产在线| 美女视频免费永久观看网站| 久久毛片免费看一区二区三区| 肉色欧美久久久久久久蜜桃| 色网站视频免费| 波多野结衣av一区二区av| 精品人妻熟女毛片av久久网站| 亚洲av中文av极速乱| 成人影院久久| 亚洲一区中文字幕在线| 久久久国产欧美日韩av| 成人亚洲精品一区在线观看| 国产女主播在线喷水免费视频网站| 中国三级夫妇交换| 亚洲综合精品二区| 韩国精品一区二区三区| 夜夜骑夜夜射夜夜干| 女的被弄到高潮叫床怎么办| 十八禁网站网址无遮挡| 欧美日韩福利视频一区二区| 国产精品成人在线| 男女下面插进去视频免费观看| 一本—道久久a久久精品蜜桃钙片| 中国国产av一级| 少妇人妻精品综合一区二区| 午夜免费观看性视频| 99精国产麻豆久久婷婷| 亚洲精品自拍成人| 亚洲精品国产一区二区精华液| 精品久久久精品久久久| 亚洲精品成人av观看孕妇| a级片在线免费高清观看视频| 纵有疾风起免费观看全集完整版| 桃花免费在线播放| 午夜福利影视在线免费观看| 涩涩av久久男人的天堂| av.在线天堂| 自拍欧美九色日韩亚洲蝌蚪91| 一本大道久久a久久精品| 国产又爽黄色视频| 中文天堂在线官网| 欧美久久黑人一区二区| 妹子高潮喷水视频| 中文字幕制服av| 久久久久久人妻| 亚洲第一青青草原| 久久国产精品大桥未久av| 又大又爽又粗| 丰满乱子伦码专区| 免费黄色在线免费观看| 人人妻人人澡人人爽人人夜夜| 国产人伦9x9x在线观看| 自线自在国产av| 国产成人精品久久久久久| www.精华液| 一边摸一边抽搐一进一出视频| 国产精品一区二区精品视频观看| 亚洲精品在线美女| 99久久人妻综合| 亚洲国产精品999| 十八禁人妻一区二区| av天堂久久9| 久久久精品区二区三区| 亚洲久久久国产精品| 欧美日韩福利视频一区二区| 午夜日韩欧美国产| 老汉色av国产亚洲站长工具| 亚洲综合色网址| 狂野欧美激情性bbbbbb| 熟女av电影| 亚洲av欧美aⅴ国产| 制服诱惑二区| av片东京热男人的天堂| 国产片内射在线| 免费黄色在线免费观看| 久久久精品免费免费高清| 国产成人精品久久久久久| 中文字幕色久视频| 亚洲精品国产av成人精品| 日韩精品免费视频一区二区三区| 亚洲一区二区三区欧美精品| 欧美日韩视频高清一区二区三区二| 欧美亚洲日本最大视频资源| 亚洲av日韩精品久久久久久密 | 99热网站在线观看| av在线播放精品| 亚洲五月色婷婷综合| 亚洲人成网站在线观看播放| 国产精品成人在线| 91精品伊人久久大香线蕉| 午夜福利一区二区在线看| 狂野欧美激情性xxxx| 亚洲精品一区蜜桃| 欧美亚洲 丝袜 人妻 在线| 毛片一级片免费看久久久久| 女的被弄到高潮叫床怎么办| 午夜福利乱码中文字幕| 国产男女超爽视频在线观看| 国产精品成人在线| 国产精品欧美亚洲77777| 亚洲精品第二区| 午夜福利一区二区在线看| 亚洲av中文av极速乱| 黄色怎么调成土黄色| 午夜福利一区二区在线看| 久久久国产一区二区| 少妇精品久久久久久久| 少妇的丰满在线观看| 日韩一区二区三区影片| 国产免费现黄频在线看| 久久久久视频综合| av一本久久久久| 在线 av 中文字幕| 欧美 日韩 精品 国产| avwww免费| 电影成人av| 久久综合国产亚洲精品| 免费黄网站久久成人精品| 国产成人精品久久二区二区91 | 婷婷色综合大香蕉| av片东京热男人的天堂| 亚洲欧洲日产国产| 精品少妇一区二区三区视频日本电影 | 中文精品一卡2卡3卡4更新| 成年人午夜在线观看视频| 欧美黑人欧美精品刺激| 国产极品粉嫩免费观看在线| 超碰成人久久| 1024香蕉在线观看| 久久久精品国产亚洲av高清涩受| 免费黄色在线免费观看| 看十八女毛片水多多多| 成年女人毛片免费观看观看9 | 久久人人爽人人片av| 日本黄色日本黄色录像| 亚洲精品乱久久久久久| 欧美日韩精品网址| 波多野结衣av一区二区av| 午夜福利免费观看在线| 亚洲欧洲国产日韩| 我要看黄色一级片免费的| 国产探花极品一区二区| 精品一区在线观看国产| 女的被弄到高潮叫床怎么办| 欧美在线一区亚洲| 最近2019中文字幕mv第一页| 亚洲七黄色美女视频| 中文字幕最新亚洲高清| 国产精品久久久久久久久免| 欧美日韩综合久久久久久| 麻豆av在线久日| 日日撸夜夜添| 黄色视频在线播放观看不卡| 天天影视国产精品| 天天躁夜夜躁狠狠久久av| 人人妻人人添人人爽欧美一区卜| 亚洲伊人色综图| 汤姆久久久久久久影院中文字幕| 久久精品久久精品一区二区三区| 十八禁高潮呻吟视频| 免费高清在线观看视频在线观看| av国产久精品久网站免费入址| 日韩视频在线欧美| 婷婷色综合大香蕉| 亚洲欧美中文字幕日韩二区| 亚洲成色77777| 多毛熟女@视频| 蜜桃国产av成人99| 女人久久www免费人成看片| 香蕉国产在线看| 国精品久久久久久国模美| 国产野战对白在线观看| 黄频高清免费视频| 一级毛片电影观看| 嫩草影视91久久| 男女下面插进去视频免费观看| 丰满迷人的少妇在线观看| av在线老鸭窝| 美女主播在线视频| 青春草国产在线视频| 国产精品成人在线| 午夜精品国产一区二区电影| av片东京热男人的天堂| 亚洲国产看品久久| 青春草亚洲视频在线观看| 久久av网站| 久久精品久久精品一区二区三区| 亚洲人成77777在线视频| 一区二区三区乱码不卡18| 男女之事视频高清在线观看 | 久久99热这里只频精品6学生| 午夜免费观看性视频| 成人国产av品久久久| 日韩不卡一区二区三区视频在线| 国产精品一区二区在线不卡| 亚洲欧美精品综合一区二区三区| 高清视频免费观看一区二区| 国产男人的电影天堂91| 麻豆精品久久久久久蜜桃| 国产精品av久久久久免费| 国产精品女同一区二区软件| 国产又爽黄色视频| 亚洲欧洲国产日韩| 日韩中文字幕欧美一区二区 | 亚洲国产精品一区二区三区在线| 久久热在线av| 久久国产精品男人的天堂亚洲| 电影成人av| 成人漫画全彩无遮挡| 中文字幕亚洲精品专区| 母亲3免费完整高清在线观看| 亚洲国产欧美网| 人妻 亚洲 视频| 国产一区二区在线观看av| 国产亚洲av高清不卡| 免费观看人在逋| 国产av国产精品国产| 赤兔流量卡办理| 国产97色在线日韩免费| 久久久久久人人人人人| 国产黄色免费在线视频| 亚洲四区av| 91成人精品电影| 黄频高清免费视频| 国产成人av激情在线播放| 老熟女久久久| 久久精品亚洲av国产电影网| 免费日韩欧美在线观看| 国产精品一区二区在线观看99| 欧美精品av麻豆av| 高清在线视频一区二区三区| 考比视频在线观看| 亚洲天堂av无毛| 青春草国产在线视频| 夫妻性生交免费视频一级片| 丁香六月欧美| 国产成人一区二区在线| 啦啦啦在线观看免费高清www| 男女午夜视频在线观看| 一区在线观看完整版| 777久久人妻少妇嫩草av网站| 大香蕉久久网| 青春草亚洲视频在线观看| 国产日韩欧美在线精品| 国产国语露脸激情在线看| 国产亚洲一区二区精品| 国产成人精品久久二区二区91 | 亚洲欧美精品综合一区二区三区| 欧美日韩亚洲综合一区二区三区_| av卡一久久| 精品人妻熟女毛片av久久网站| 国产亚洲最大av| 久久国产精品男人的天堂亚洲| 日韩一卡2卡3卡4卡2021年| 如何舔出高潮| a级毛片在线看网站| 99久久99久久久精品蜜桃| 国产不卡av网站在线观看| 中文字幕人妻熟女乱码| 亚洲欧美清纯卡通| 久久精品国产亚洲av涩爱| 欧美中文综合在线视频| 午夜福利视频在线观看免费| 69精品国产乱码久久久| 在线观看www视频免费| av网站免费在线观看视频| 亚洲一区中文字幕在线| 制服丝袜香蕉在线| 丰满少妇做爰视频| 久久婷婷青草| 国产成人91sexporn| 国产亚洲一区二区精品| 欧美激情高清一区二区三区 | 亚洲国产精品国产精品| 中文字幕人妻熟女乱码| 韩国av在线不卡| 汤姆久久久久久久影院中文字幕| 日韩 亚洲 欧美在线| 精品免费久久久久久久清纯 | 国产免费现黄频在线看| 黑人欧美特级aaaaaa片| 秋霞伦理黄片| 色综合欧美亚洲国产小说| 成年av动漫网址| 69精品国产乱码久久久| 老汉色∧v一级毛片| 亚洲精品,欧美精品| 乱人伦中国视频| svipshipincom国产片| 国产一区二区激情短视频 | 精品少妇久久久久久888优播| 香蕉丝袜av| 亚洲精品日本国产第一区| 交换朋友夫妻互换小说| 欧美精品亚洲一区二区| 国产精品.久久久| 激情五月婷婷亚洲| 一个人免费看片子| 一区二区av电影网| 妹子高潮喷水视频| 亚洲一区二区三区欧美精品| 中文字幕精品免费在线观看视频| 99精国产麻豆久久婷婷| 国产成人免费无遮挡视频| 久久av网站| 久久99热这里只频精品6学生| 十八禁网站网址无遮挡| 2021少妇久久久久久久久久久| 街头女战士在线观看网站| 亚洲成人免费av在线播放| 亚洲国产精品一区三区| 你懂的网址亚洲精品在线观看| 一区二区三区激情视频| 国产成人免费观看mmmm| 欧美变态另类bdsm刘玥| 国产日韩一区二区三区精品不卡| 人人妻人人爽人人添夜夜欢视频| 青青草视频在线视频观看| 亚洲男人天堂网一区| 亚洲成国产人片在线观看| 激情视频va一区二区三区| 国产成人精品久久二区二区91 | av不卡在线播放| 狠狠婷婷综合久久久久久88av| 欧美 亚洲 国产 日韩一| 国产成人精品无人区| 亚洲精品第二区| 国产精品秋霞免费鲁丝片| 一个人免费看片子| av网站在线播放免费| avwww免费| 色综合欧美亚洲国产小说| 涩涩av久久男人的天堂| 久久久精品国产亚洲av高清涩受| 久久久精品区二区三区| 18在线观看网站| 亚洲欧美一区二区三区国产| 男女免费视频国产| 一边摸一边抽搐一进一出视频| 人成视频在线观看免费观看| 国产 精品1| 老鸭窝网址在线观看| 久久久久国产精品人妻一区二区| 制服诱惑二区| 久久精品熟女亚洲av麻豆精品| 少妇猛男粗大的猛烈进出视频| 日韩av在线免费看完整版不卡| 黑人巨大精品欧美一区二区蜜桃| 久久午夜综合久久蜜桃| 国产av码专区亚洲av| 亚洲成人一二三区av| 大片电影免费在线观看免费| 亚洲av日韩精品久久久久久密 | 亚洲欧美一区二区三区国产| 黄片无遮挡物在线观看| 18禁观看日本| 精品一区二区三区四区五区乱码 | 久久热在线av| 精品人妻在线不人妻| 免费av中文字幕在线| 赤兔流量卡办理| 青春草亚洲视频在线观看| 久久毛片免费看一区二区三区| 欧美少妇被猛烈插入视频| 久久毛片免费看一区二区三区| 亚洲色图综合在线观看| 色精品久久人妻99蜜桃| 日本91视频免费播放| 亚洲色图综合在线观看| 久久天躁狠狠躁夜夜2o2o | 蜜桃在线观看..| 久久精品久久精品一区二区三区| 90打野战视频偷拍视频| 色播在线永久视频| 夫妻性生交免费视频一级片| 少妇猛男粗大的猛烈进出视频| 亚洲中文av在线| 精品国产国语对白av| 国产免费福利视频在线观看| 成年人午夜在线观看视频| 视频在线观看一区二区三区| 国产精品久久久久久久久免| 亚洲欧美成人综合另类久久久| 新久久久久国产一级毛片| 亚洲国产欧美在线一区| 国产一卡二卡三卡精品 | 青春草视频在线免费观看| 亚洲成人手机| 91aial.com中文字幕在线观看| 午夜福利乱码中文字幕| 国语对白做爰xxxⅹ性视频网站| 交换朋友夫妻互换小说| 亚洲av综合色区一区|