• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人機合作發(fā)明專利授權的正當性解釋及其制度因應

    2024-01-10 06:14:00馬忠法趙鶴翔
    電子知識產(chǎn)權 2023年9期
    關鍵詞:專利制度財產(chǎn)權人工智能

    馬忠法 趙鶴翔

    摘要:人機合作發(fā)明對知識產(chǎn)權法哲學基礎、《專利法》的可專利性審查以及專利侵權認定等制度帶來了嚴峻挑戰(zhàn)。人工智能對知識產(chǎn)權法哲學的影響主要表現(xiàn)于對以洛克勞動創(chuàng)造財富理論為基礎的權利論的挑戰(zhàn),現(xiàn)有研究對知識產(chǎn)權法哲學重構也多以功利主義為基礎,知識產(chǎn)權基本理論長期受到功利主義效率觀念的影響,因此,重訪洛克的勞動創(chuàng)造財富理論、康德的財產(chǎn)權理論、羅爾斯正義論,從權利論的角度為人機合作發(fā)明專利授權提供正當性解釋,很有意義。同時,與傳統(tǒng)發(fā)明專利相比,在人機合作發(fā)明中人類發(fā)明者付出了相對較少的智力勞動,應當對其專利權進行限制。根據(jù)相關理論中“信賴與充足性”“反浪費反糟?!薄叭蕫鄹郊訔l件”“權利的普遍性原則”“分配正義”等限制理由,為應對人機合作發(fā)明對專利法具體制度的挑戰(zhàn),應該完善人機合作發(fā)明授權制度,構建人機合作發(fā)明權利行使限制機制。

    關鍵詞:人工智能;人機合作發(fā)明;知識產(chǎn)權法哲學;財產(chǎn)權;專利制度

    一、引言

    隨著OpenAI 旗下的ChatGPT 這一人工智能語言模型的興起,人工智能自動生成的內(nèi)容得到了社會各界的廣泛關注,當前,ChatGPT的主要用途是根據(jù)人類使用者的指令,生成符合語言邏輯的文字,或是根據(jù)相關指令生成對應的畫作,這一技術成果的普及表明,學術界長期關注的人工智能是否享有著作權這一問題具備理論前瞻性。1 然而,長期以來,人工智能生成發(fā)明可專利性的研究存在一定的不足,為人們研究留下很多空間。統(tǒng)一感知的自動引導設備(Device for the Autonomous Bootstrappingof Unified Sentience,簡稱DABUS)生成的技術內(nèi)容在澳大利亞獲得專利保護的實踐表明,2人工智能被越來越多地應用到專利發(fā)明領域,同時,ChatGPT 等語言模型在可預見的未來,通過更新迭代的方式,完全有可能應用于化工、材料、微電子等領域的技術設備生成,生成式人工智能的發(fā)展已經(jīng)進入了快車道。因此,有必要提高對人工智能生成發(fā)明問題的重視和研究。此外,現(xiàn)有研究多從制度層面展開,鮮有涉及理論問題,即使有,也多從人工智能對知識產(chǎn)權法哲學理論的挑戰(zhàn),以及基于激勵理論與利益平衡理論的應對入手。3 筆者認為,人工智能對知識產(chǎn)權正當性的挑戰(zhàn)是根本性的,因此,有必要對知識產(chǎn)權法哲學理論進行回訪,以為人機合作的發(fā)明獲得專利權提供正當性解釋和理論依據(jù)。

    一、人機合作發(fā)明對專利法的挑戰(zhàn)

    人工智能生成發(fā)明根據(jù)機器設備的貢獻程度,可以分為輔助生成發(fā)明、人機合作生成發(fā)明、人工智能自動生成發(fā)明,4 前兩者需要人類發(fā)明者參與發(fā)明的生成,后者則依托于人工智能獨立的思維與自我意識,在弱人工智能時代,人工智能獨立生成發(fā)明在技術上尚不能實現(xiàn),因此,人工智能對以人類發(fā)明者為中心的《專利法》制度的挑戰(zhàn),以及人工智能是否可以作為專利權主體的問題,5 并非本文的研究旨趣所在。人機合作發(fā)明意指人類使用者使用數(shù)據(jù)訓練開發(fā)人工智能,使得人工智能按照使用者的需求自我成長,人類使用者與依靠算法運行的人工智能通過合作的形式共同產(chǎn)出創(chuàng)造性智力成果,人工智能在發(fā)明生成的過程中貢獻了一定而非全部的“智力勞動”,人工智能并不具備獨立的自我意識,因此所謂“合作”仍然是人類發(fā)明者在一定程度上對人工智能的使用。人工智能算法的介入使得人類發(fā)明者在發(fā)明生成中的創(chuàng)造性智力活動減少,同時因為人工智能涉及海量數(shù)據(jù),使得專利授權與侵權認定更加困難,這對現(xiàn)有知識產(chǎn)權法哲學理論以及《專利法》制度造成了巨大挑戰(zhàn)。據(jù)此,本文將就人機合作生成的發(fā)明之專利授權的正當性及其制度回應做出探討,以求教于大家。

    (一)人機合作發(fā)明對知識產(chǎn)權法哲學理論的挑戰(zhàn)

    知識產(chǎn)權法哲學的理論基礎主要包括:洛克的勞動創(chuàng)造財富理論、黑格爾人格學說、邊沁休謨的功利主義,6其中黑格爾的人格學說雖然與著作權制度具有較大的契合性,但是涉及專利制度、無形財產(chǎn)的轉讓與許可等問題則存在解釋力下降的情形,7因此,在知識產(chǎn)權法哲學理論中,以勞動創(chuàng)造財富理論為代表的權利論以及功利主義為多數(shù)說,黑格爾人格學說為少數(shù)說。洛克的勞動創(chuàng)造財富理論認為,基于個人對其人身享有所有權,則個體對通過支配其身體進行勞動產(chǎn)生的財富也應當具有所有權。8 知識產(chǎn)權學者認為,勞動的范圍不僅僅包括創(chuàng)造有體財產(chǎn)的有形勞動,也包括創(chuàng)造無形財產(chǎn)的創(chuàng)造性智力活動,同時財產(chǎn)也應從有形財產(chǎn)擴充到涵蓋無形財產(chǎn)的范疇,因此,個體對基于支配其人身進行的創(chuàng)造性智力活動而產(chǎn)生的智力成果應享有財產(chǎn)權,即知識產(chǎn)權。9 在人機合作的情況下,人類發(fā)明者借助人工智能的算法程序生成發(fā)明這一行為與傳統(tǒng)的勞動概念脫離,在生成發(fā)明的過程中涉及人工智能參與的部分,人工智能不存在人類的“身體”,也不存在“支配身體“的行為,最終創(chuàng)造性智力成果的產(chǎn)生則是依賴于另一項智力成果?人工智能開發(fā)者編寫的算法。如果認為使用人工智能的行為已經(jīng)與勞動的定義脫離,則在勞動理論下人機合作生成的發(fā)明不具備享有專利權的正當依據(jù),如果認為該種合作行為尚屬于勞動范疇,那么對于人工智能研發(fā)部分的權屬應當如何處理,在人工智能不能成為權利主體的前提下,該部分權屬只可能歸于人工智能算法編寫者或人類合作發(fā)明者,而勞動創(chuàng)造財富理論似乎難以為二者享有對應權利提供理論基礎。鑒于此,人工智能給勞動創(chuàng)造財富理論帶來了巨大難題,勞動理論似乎無法為人機合作發(fā)明中人工智能進行的研發(fā)部分的權屬提供正當性解釋。

    黑格爾的人格學說認為人的精神構造具有多種不同位階的要素,精神意志居于首要位置,且支配著其他次要位階的要素,人在實現(xiàn)自我發(fā)展的過程中,需要對外部資源進行支配,在精神意志與外部世界互動中,實現(xiàn)精神對外界財產(chǎn)的取用,從而使得財產(chǎn)成為人格的一部分。10 將上述理論應用于知識產(chǎn)權領域,無需像勞動理論一樣將無形財產(chǎn)與有形財產(chǎn)類比,知識產(chǎn)權與黑格爾哲學的契合性源于其理論核心?精神意志,黑格爾指出創(chuàng)造智力成果的才能、博學當然也為精神意志所控制,與對其他財產(chǎn)的控制不同,才能、博學內(nèi)在于自由精神,而非某種外在物,同時自由精神控制的才能與博學在表達時,往往要借助于外在物。11 雖然黑格爾的人格學說與著作權尤其是著作權中的人格權利存在著天然的契合,但是卻難以為專利權提供正當解釋,同時,因為黑格爾認為已經(jīng)構成自我人格的任何基本要素是不能轉讓與放棄的,人格學說也無法解釋技術的轉讓與許可。12 在人機合作的視域下,一方面人工智能不具備人類的精神意志,這就排除了人格學說中享有財產(chǎn)權利的可能,另一方面,使用人工智能進行發(fā)明創(chuàng)造,依托人工智能算法產(chǎn)出智力成果,在多大程度上可以歸納為個體利用精神意志控制才能、博學,同樣存在諸多問題,總之,本就飽受詬病的人格學說在人工智能時代進一步受到挑戰(zhàn)。

    功利主義的代表人物為休謨和邊沁。休謨認為人們遵守的規(guī)則的正當性來源于可以促進人類總體幸福的慣習,人們在為了私人利益遵守這些規(guī)則的同時也促進了社會總體的福利,而促進社會總體福利是私人享有權利的唯一正當性基礎。13 邊沁則進一步認為,所謂財產(chǎn)權并非天賦的自然權利,而是法律規(guī)則授予的權利。14 在知識產(chǎn)權領域,功利主義認為知識產(chǎn)權法的終極目的是促進技術的轉讓,使得盡可能多的技術成果流入公共領域,實現(xiàn)社會總體福利的最大化,因此,個人享有知識產(chǎn)權的正當性基礎源于是否有效促進了技術進步,促進智力成果的轉化,以實現(xiàn)人們社會的技術繁榮。15 在此基礎上發(fā)展出的激勵理論被認為是論證知識產(chǎn)權正當性最有力的解釋路徑,激勵理論認為人的創(chuàng)造性包含著積極性與懶惰兩個面向,人的惰性易于壓倒積極性,使得創(chuàng)造性無法表達,16 因此,知識產(chǎn)權制度通過賦予個體權利,以激勵個人的創(chuàng)新能力,從而促進社會總體福祉的增加。在人機合作的情形中,一方面,人工智能不具備人類的情感與思想,不能因為潛在利益而受到激勵而激發(fā)創(chuàng)新熱情,即使不賦予其發(fā)明權,人工智能也可以生成發(fā)明創(chuàng)造,激勵理論不能解釋人機合作中人工智能進行發(fā)明的權屬;另一方面,激勵理論所意指的功利主義的背后邏輯是社會效率,而將效率作為知識產(chǎn)權法的底層邏輯本身也存在著諸多問題??偠灾斯ぶ悄芡瑯訛榧罾碚搸砹司薮蟮碾y題。

    (二)人機合作發(fā)明對專利法制度的挑戰(zhàn)

    人機合作發(fā)明首先對客體審查形成了挑戰(zhàn),專利客體范圍的界定方式可以分為正面定義與反面定義,正面定義包括兩種路徑,一種是德國、日本等大陸法系國家對技術的概念進行闡釋,另一種是以美國為代表的判例法系國家將可專利客體進行分類與列舉;反面定義是指《專利法》設置例外,排除部分客體的可專利性。17 我國采取了正面定義與反面定義結合的方式,規(guī)定了《專利法》保護的客體包括產(chǎn)品和方法,同時要求方法專利具備可專利性的條件是具備技術性,即作用于客觀實體并產(chǎn)生效果。人機合作發(fā)明對《專利法》的二分的專利客體審查制度造成了巨大挑戰(zhàn),人類發(fā)明者在申請發(fā)明專利時意欲保護的是人機合作生成的具體機器設備,但是其可能對該種機器設備所涉及的相關領域技術并不了解,難以對該機器設備的技術特征進行高度概括,專利申請人在權利要求書中披露的可能是訓練人工智能的具體數(shù)據(jù)與方法,此種情況下,因為《專利法》采取了方法與產(chǎn)品二分的可專利客體分類方法,申請人因不能披露人工智能生成機器設備的全部技術特征而無法獲得產(chǎn)品專利,一方面這導致機器設備的相關技術方案進入公共領域,造成權利人利益的損失;另一方面,如果其他申請人不借助人工智能,申請該種機器設備的發(fā)明專利權屬于產(chǎn)品專利,與前述方法專利系不同可專利客體,因此可以進入實體審查階段,而該兩種技術方案事實上是達成相同的技術效果,正是《專利法》二分的可專利客體,導致了實體審查的困境。

    實用性審查要求發(fā)明必須能夠實現(xiàn),并達到實用程度、實現(xiàn)積極效果,18 人工智能的介入導致專利公開的技術特點更加抽象,使得熟練技術人員難以相信其技術方案可以再現(xiàn),即具有實用性。19 實踐中,實用性的認定是以本領域熟練技術人員是否可以再現(xiàn)技術為判斷標準的,而本領域技術人員是否相信該技術方案可以再現(xiàn),很大程度上取決于其公開程度,人機合作發(fā)明有架空該制度的可能,一方面,如果要求發(fā)明人公開人工智能的訓練數(shù)據(jù)與方法,那么可能非該領域技術人員也可以復現(xiàn)這一技術;另一方面,如果僅要求發(fā)明人公開人工智能最終生成的技術方案,那么當生成產(chǎn)品涉及復雜技術時,該領域技術人員或許也難以復現(xiàn)該技術。

    新穎性審查旨在于避免對已經(jīng)進入公共領域的技術方案重復授權,實踐中的做法是相同領域技術人員通過檢索將技術方案與現(xiàn)有技術進行比對,而人工智能因其復雜的算法與海量數(shù)據(jù)可以避開對現(xiàn)有技術的比照,不僅增加專利審查人員的審核難度,還可能實質地消解新穎性審查制度。20

    《專利法》的創(chuàng)造性審查要求熟練技術人員將技術方案與現(xiàn)有技術比對,判斷其是否具有實質特點與顯著進步,《專利審查指南》則要求熟練技術人員在確定最相近的現(xiàn)有技術后,確定該技術方案的區(qū)別特征與解決的技術問題,最后由本領域熟練人員確認該種技術方案是否是顯而易見的。有學者指出《專利法》與《專利審查指南》分別采取了創(chuàng)造性認定的客觀性判準與主觀性判準,《專利審查指南》規(guī)定熟練技術人員是一種抽象的人,是假設了解相關領域全部技術的人,實踐中往往是由具體的專利審查員是否相信相關技術方案是“非顯而易見”的,這一判準則趨于主觀。21 在人工智能時代,人機合作發(fā)明往往涉及多個領域的交叉知識,涉及計算機知識與化工冶金、物理、電學等領域知識的融合,一方面,這讓相關技術領域難以認定,另一方面,現(xiàn)實中不存在精通某一領域全部現(xiàn)有技術的技術人員,更加不存在精通各領域技術的人員,因此在以熟練技術人員的主觀認知認定創(chuàng)造性時,必然會增加多種不確定性。

    在人機合作產(chǎn)出技術方案的過程中,除對專利權授予的程序造成了巨大挑戰(zhàn),人機合作也可能侵犯他人的專利權,人工智能算法的復雜性為等同侵權的認定造成了巨大影響。在本領域一般技術人員的視角下,等同侵權行為實施了與權利要求書上記載的基本相同的技術手段,達到基本相同的功能。該判斷標準的關鍵在于,基于一般技術人員的技術能力,是否無需額外的創(chuàng)造性智力勞動,就可以根據(jù)被訴產(chǎn)品聯(lián)想到權利要求書記載的技術特征。22 在人工智能時代,侵權人可能通過使用現(xiàn)有發(fā)明專利的技術特點訓練人工智能,人工智能進行相應的模仿,其通過海量的數(shù)據(jù)與算法,可能采取較為隱蔽的模仿行為,本領域的一般技術人員可能難以察覺。

    人機合作發(fā)明被授予專利后,同樣面臨被侵權的可能,而人工智能的介入使得產(chǎn)品的應用產(chǎn)業(yè)鏈發(fā)生變革,專利實施主體趨于多元化,導致間接侵權認定的困難。23 以云計算技術為例,云計算技術的完整實施需要用戶、平臺提供者、服務提供者、集成商等多元主體的加入,這使得間接侵權認定復雜化,美國巡回上訴法院(CAFC)在與人工智能相關的間接侵權認定標準經(jīng)歷了判準的轉向。在審理BMCRescources,Inc. v. Paymentech,LP. 一案中,CAFC堅持傳統(tǒng)的間接侵權判準,即構成間接侵權的引誘侵權需要該引誘行為導致了直接侵權,直接侵權人需完整實施了專利法保護客體的全部技術方案。24 然而,在Akamai Techs.,Inc. v.Limelight Networks,Inc. 一案中,CAFC 推翻了原先的判準,認為即使被誘導者不構成直接侵權,仍然可以認定實施誘導行為的行為人構成間接侵權。本案最終被最高法院撤銷,最高法院認為,如果被引誘者不構成271(a)條的直接侵權,被告不可能構成271(b)款的間接侵權。隨即,CAFC 再次以全席審理的方式,認定本案中的被告構成直接侵權。25 上述審理過程可以看出,在涉及人工智能的專利間接侵權判準,CAFC 有收緊引誘侵權認定標準的趨勢,同時為了不破壞間接侵權的一般規(guī)則,在個案中不得不以直接侵權追究行為人的責任。CAFC這種審理方式蘊含著保護人工智能產(chǎn)業(yè)技術的政策性考量,同時也表明人工智能相關發(fā)明使得專利侵權的可能性提升,如何平衡多方利益,在人工智能時代保持充分靈活性,這對我國司法機關處理相關案件提出了挑戰(zhàn)。

    二、人機合作發(fā)明專利授權正當性解釋及限縮理由

    人工智能對知識產(chǎn)權法的兩大基本理論形成了重大的挑戰(zhàn),筆者認為人工智能時代知識產(chǎn)權仍具備其正當性,因此需要對知識產(chǎn)權法哲學理論進行重訪。現(xiàn)代的法哲學家大多會認同,我們在討論財產(chǎn)權理論時受到了太多功利主義思想的影響,越來越多的學者提出,當我們以效率原則作為知識產(chǎn)權法的基礎理論進行研究時,實際上僅僅是從中層層面進行討論。26本文的旨趣在于,以知識產(chǎn)權是一項財產(chǎn)權的視角,重訪知識產(chǎn)權法哲學理論,進而證成人機合作發(fā)明的專利授權的正當性。在將目光投放到洛克、康德、羅爾斯的哲學理論時,筆者發(fā)現(xiàn)他們的理論存在著一定的關聯(lián)性,沿著這一進路,可以形成一種在純粹自由主義與超級再分配范式之間的財產(chǎn)觀念,27 同時,因為財產(chǎn)權制度本身存在著諸多限制,前文提及的人工智能對專利法制度的挑戰(zhàn)也要求對人機合作發(fā)明專利權進行限縮,而這些哲學理論同樣提供了限縮的理由。

    (一)洛克:勞動的量與附加性條件

    人工智能對勞動理論的挑戰(zhàn)主要表現(xiàn)為人機合作使得勞動概念的邊界逐漸模糊,基于對人機合作發(fā)明中行為人的創(chuàng)造性智力活動是否可以定義為勞動,從而對知識產(chǎn)權理論進行懷疑,筆者認為,這是對洛克理論旨趣錯誤把握,因此,有必要再訪洛克財產(chǎn)理論以及其在知識產(chǎn)權的應用進路。洛克認為: 第一,資源共有是一個默認的前提;第二,一個人擁有自己的身體,并無可爭議地擁有其勞動;第三,個人通過勞動的形式,將共有資源“撥歸”為個人所有,以實現(xiàn)資源利用,因此產(chǎn)生了財產(chǎn)權。28 上述針對有形財產(chǎn)的權利邏輯同樣適用于知識產(chǎn)權,知識產(chǎn)權的產(chǎn)生背景基于公共領域,這與洛克所闡釋的產(chǎn)生有形財產(chǎn)的自然界具有一種對稱性,勞動在洛克的學說中兼具解釋財產(chǎn)權的正當性與厘清權利邊界的雙重作用,勞動作為判準在知識產(chǎn)權領域中同樣適用。洛克認為,個人通過“撥歸行為”,通過對客體施加努力,從而享有排他性的權利,而該權利的邊界則取決于個人付出努力的多少,即勞動的量。換言之,洛克財產(chǎn)理論的核心在于勞動量決定的個人權利與社會繁榮的關系。在這個意義上,即使財產(chǎn)權客體是非競爭性的,29 被規(guī)范賦予財產(chǎn)權的勞動行為如果能實際促進社會繁榮,賦予該財產(chǎn)權的規(guī)范即是正當?shù)?。也就是說,洛克認為財產(chǎn)權作為一種生存的自然權利是與時俱進的,即使在社會最先進最文明的狀態(tài)仍然是一項具有強制力的道德主張。30 總而言之,洛克理論的核心在于對勞動量的考察,如果錯誤地將重心關注勞動行為性質,筆者看來,這與諾齊克的“番茄汁”假設是兩種不同形式的對洛克理論的誤讀。31 當我們將目光放到勞動量這一洛克本意所關注的領域,人機合作發(fā)明專利權的正當性解釋可以如下展開:個人在訓練人工智能時付出了無差別的社會勞動,這種勞動與人工智能的算法運行相結合,產(chǎn)出的發(fā)明是勞動成果轉化的結果。因此,在人機合作與輔助發(fā)明的語境下,洛克勞動理論仍然可構成其權利正當性依據(jù),而隨著人工智能在發(fā)明產(chǎn)出中的作用不斷提升,人類發(fā)明者的勞動量與傳統(tǒng)發(fā)明發(fā)生了變化,根據(jù)勞動量確定權利邊界以及對其權利進行限制同樣關鍵。

    洛克在《政府論(下篇)》中對財產(chǎn)權提出了兩個附加性條件,即“信賴與充足性”“反浪費反糟蹋”兩個附加條件,“信賴與充足性”條件要求權利人必須給其他個體留下足夠且同樣好的財產(chǎn),“反浪費反糟?!痹瓌t要求個體只能在一定限度內(nèi)通過其勞動享有財產(chǎn)權,超出該限度的財產(chǎn)應當歸所有人共有,以避免財產(chǎn)的浪費。32 有關上述兩個條件的關系,沃爾德倫認為“信賴與充足性”是取得財產(chǎn)權的充分而不必要條件,即滿足該條件即可獲得財產(chǎn)權,但獲得財產(chǎn)權并不必然滿足充足性條件,沃爾德倫進一步指出,“反浪費反糟?!睏l件在不滿足充足性條件時才生效,亦即,即便沒有給其他人留下同樣且足夠好的財產(chǎn),如果避免了浪費,取得財產(chǎn)權仍然是正當?shù)摹?3 在專利權領域,一旦獲得授權一般就符合了“信賴與充足性”的條件,因為充分公開的要求與權利授予的時間性要求,專利法賦予了其他主體創(chuàng)造同樣好的智力成果的空間。因此,筆者認為,對于兩個附加條件應當采取嚴格解釋,即兩個附加條件都是財產(chǎn)正當性的必要條件。而“反浪費反糟?!睏l件在知識產(chǎn)權的語境下,意指智力成果未投入任何生產(chǎn)性使用,人工智能的介入使得人類發(fā)明者投入的智力勞動更少,因此有必要嚴格適用反浪費條件,對其權利進行限制。洛克《政府論(上篇)》的“仁愛附加條件”往往容易被忽視,“仁愛附加條件”表明,窮困者對其生活必需品享有某種權利,即使這種財產(chǎn)可能已經(jīng)為他人所占有,窮困者仍然有權通過個人撥歸或繼受的方式取得財產(chǎn),34 在知識產(chǎn)權領域“仁愛附加條件”解釋了強制許可制度與豁免的正當性,即當無形財產(chǎn)權涉及公共健康安全與公共利益時,政府有權通過采取必要措施保障窮困者的利益。

    (二)康德:自由意志與權利的普遍性原則

    知識產(chǎn)權學者在解釋知識產(chǎn)權的正當性時,很少使用康德的理論,使得多數(shù)人忽略了康德在財產(chǎn)權理論的貢獻,而康德的理論關注個體的自由意志,其觀念性方法與洛克的個人撥歸理論存在著協(xié)調之處,均可以作為知識產(chǎn)權法哲學由工具價值向權利與個人自由轉向的理論基礎。康德的財產(chǎn)觀認為,個體如果將個人意志束縛于對象之上,他人即有義務尊重基于該對象的權利主張。35 為了保護財產(chǎn)權權利的實現(xiàn),應當保護個體的行動自由和使用自由,因為該種自由是選擇自由的必要表現(xiàn),并且也成為整體自治的一部分。36 同時,康德認為只有人才具有自由意志,對象只能體現(xiàn)自由意志,或者說是自由意志表達的結果??档仑敭a(chǎn)論對人與對象之間關系的關注與現(xiàn)代財產(chǎn)權理論強調的人與人之間的關系格格不入,這使得近年來一些學者重新發(fā)掘了對象對于財產(chǎn)權的重要意義,37 但是筆者認為,這一類觀點有些過度工具主義化了,其忽略了康德思想的核心,即個人的自治與自由。在處理財產(chǎn)權中的效率問題時,康德理論與洛克存在著某種協(xié)調性,通過對兩種權利論的重訪可以發(fā)現(xiàn),效率不能作為一個充分的政策依據(jù),在肯定知識產(chǎn)權的客觀性、權利的真實性的基礎上,純粹功利主義計算的純粹利益價值,并不能涵蓋知識產(chǎn)權財產(chǎn)權的全部意旨,康德理論認為政策的核心應當關注權利主體的行動自由,確保促進其自治。值得注意的是,自治作為一個規(guī)范性因素,并不當然能推翻具體制度中對于效率的考量,在是否否定效率上的考量的天平中,自治的規(guī)范性價值應當作為一個具備相對更高加權比重的因素予以考量。在人機合作發(fā)明的語境下,人工智能開發(fā)者訓練人工智能的過程事實上是將其意志作用于人工智能,人工智能生成的發(fā)明是其意志表達的結果,在強人工智能未到來的時代,人工智能尚不能產(chǎn)生與人類等同的意志,其僅僅是人類意志作用的對象,而人工智能最終生成的發(fā)明,也并非單單是開發(fā)者意志獨立表達的結果,其中混合著人工智能算法編寫者的意志。從這個意義出發(fā),人工智能開發(fā)者與算法編寫者獲得知識產(chǎn)權具備正當性,只不過因為意志作用對象的不同,開發(fā)者的智力成果通過專利權予以保護,算法編寫者通過軟件著作權予以保護,38 總而言之,人機合作發(fā)明授予專利權仍具備正當性。

    康德的財產(chǎn)理論同樣考慮到了對財產(chǎn)權的限縮,通過考察其權利的普遍性原則,可以得到限縮人機合作專利權的依據(jù)??档抡J為,財產(chǎn)撥歸的個人行為應當考慮到他人權利的范圍,即他人的選擇自由,權利人在要求他人尊重自己的財產(chǎn)權利時,同樣有義務尊重他人的權利,每個個體所負有的義務聯(lián)結,形成所有權人的共同體。為了更好地闡釋所有權人共同體中每個權利人的權利邊界,需要引入“絕對命令”與“權利的普遍性原則”兩個概念。絕對命令要求合法的個人行為必須與判別正確與謬誤的理性的普遍原則相一致。39 沃爾夫對絕對命令的邏輯進行了進一步的闡釋,即一個人遵循自身理性時,同時也意味著,他認同這種理性對于其他任何處于相似情景的人,都是同樣好的理性,這種意志上的一致性,可以被普遍地表述為某種命令。40 絕對命令的運行領域具有一種道德規(guī)范下的自然法的意味,而該種邏輯轉化為實然法時,則表現(xiàn)為一種普遍化了的原則,即康德的權利的普遍化原則,換言之,法律賦予個體自由選擇的權利需要遵循以下原則,即根據(jù)一項普遍法則,該個體的自由與其他任何個體的選擇自由是并存的。41 簡言之,根據(jù)普遍理性原則,財產(chǎn)權是必然被授予的,依據(jù)權利的普遍理性原則,保障個體的意思自治的同時也要兼顧其他個體的自由,因此財產(chǎn)權也必須受到限制,該種限制在知識產(chǎn)權領域表現(xiàn)為對權利規(guī)定時效。可以看出,康德的理論為財產(chǎn)權限制提供了正當理由,但是對于限制的標準與限度并沒有明確的論據(jù),這就體現(xiàn)出洛克與康德理論的互補性,同時,為了從社會總體正義的角度考察權利限制的限度,就必須重訪羅爾斯的正義論。

    (三)羅爾斯:基本自由體系與分配正義

    羅爾斯哲學與洛克、康德理論最大的區(qū)別在于,其討論的重點不是財產(chǎn)權制度內(nèi)部的正當性,而是置于整個社會制度體系的總體財產(chǎn)制度的正當性。通過對羅爾斯正義論的考察,可以發(fā)現(xiàn)他的理論與洛克、康德共享了一個起點,即個人權利,在此基礎上,他通過高度分析的思維方法將個人權利與集體共識結合,形成了正義理論的原則。羅爾斯的正義論包括,第一性原則,或者說自由原則,每個人都擁有最廣泛的基本自由體系兼容下的類似自由體系,且每個人都對其應有平等的權利;第二性原則,或者說差別原則,第一部分指出,在正義儲存原則下,應當使得社會與經(jīng)濟的不平等適合于最小受益者的最大利益,亦即最大最小值原則,第二部分指出,應當在機會平等的條件下,向所有人開放地位和職務,亦即機會平等原則。第一性原則優(yōu)先于第二性原則,換言之,某種行為如果是第一性原則確定的基本自由,那么就不能處于促進第二性自由確定的資源平等而犧牲它。42 羅爾斯認為,無論是生來所處的社會地位,還是自然天賦才能,都不是個體所固然應當具有的,亦即,天賦才能并不是一項基于第一性原則的基本自由,因此基于天賦才能獲得的財富是第二性原則進行社會再分配的適格對象。根據(jù)第二性原則,資源上的不平等,只有服務于最小收益人群,或者至少趨向于使得最小受益人群狀況變得更好時,授予財產(chǎn)權才是正當?shù)?,否則該種財產(chǎn)就應當征收為國家所有或進入公共領域。然而,自然天賦并非總是被排除在基本自由原則之外,當其與個人自由與自治聯(lián)系起來時,存在著例外的情形,該種羅爾斯式辯護也被稱為第二性原則的修正性解釋。這個解釋涉及羅爾斯的一個模型,原初狀態(tài)與無知之幕,原初狀態(tài)是指假設一個社會的所有成員通過表決的方式對該社會基本制度達成一致意見,而這種表決同時是在無知之幕的隔絕下進行的,無知之幕隔絕了個體對自身的職業(yè)、社會地位、技能、所處代際等特點的認知,在公正程序的保障下,依靠人們的理性進行決議。43 論證知識產(chǎn)權制度的正當性,必須證明原初狀態(tài)下的羅爾斯式公民會一致認同這樣一種制度。沃爾德倫認為,羅爾斯式公民是不會認同這樣的制度的,首先在原處狀態(tài)下沒有人知道自己的才能和品位,各個體僅具備擁有創(chuàng)造性才能的可能性,其次,多數(shù)人是不可能永遠取得創(chuàng)造性成就的,創(chuàng)造型才能的人處于少數(shù)的階層,因此,這種制度必然帶來資源分配的不平等,同時,考慮到他們從該制度直接獲益的較小可能性,知識產(chǎn)權制度是不可能得到一致同意的。44 對此,筆者對這個觀點持否定態(tài)度,并認為蒂特爾鮑姆的觀點更具啟發(fā)性意義,他認為即便羅爾斯意圖將差別原則適用于社會基本結構,但個體采取他顧性行為也是正當?shù)模瑩Q言之,羅爾斯式公民在將第二性原則的平等主義精神內(nèi)部化的同時,也將第一性原則內(nèi)部化,羅爾斯理念并不排除個體進行生產(chǎn)性決定。45 簡言之,理性的人們會同意,個體憑借自由意志進行生產(chǎn)自由非常具備價值,即使該種做法導致某些資源分配的不平等,但是為實現(xiàn)個體的價值與自由目標,社會總體價值的損失也是值得且正當?shù)?,在這種條件下,原處狀態(tài)的理性人會認為,知識產(chǎn)權制度意指的職業(yè)自由與意志自治非常重要,因此要納入基本自由的范疇。概言之,在一個秩序良好的社會中,知識產(chǎn)權成為基本自由體系的組成部分。 46上述論證用來證成人機合作發(fā)明的可專利性并不會產(chǎn)生什么困難,在人工智能時代,使用人工智能進行創(chuàng)造性智力活動或是與人工智能合作辦公可能成為個體的職業(yè)規(guī)劃的內(nèi)容,同時使用人工智能的行為同樣涉及個人的意思自治,新技術的介入并不會影響認定該種智力活動屬于基本自由體系的性質,亦即,未來的羅爾斯式理性公民,并不會因為人工智能的介入產(chǎn)生什么異議。

    洛克與康德的理論雖然都提到了對財產(chǎn)權的限制,但其進路都是通過聚焦個人權利,并主張第三人的利益處于個人權利的邊緣,但現(xiàn)代哲學理論的分配正義則要求在整體社會經(jīng)濟制度中予以考量。美國知識產(chǎn)權學者莫杰思的知識產(chǎn)權模型充分體現(xiàn)了分配正義的思想,他認為,每一項知識產(chǎn)權都由兩個單元組成,包括以個人意志主導的,在知識財產(chǎn)權利中居于核心地位的個人創(chuàng)造性成果,他將此稱為受獎勵的核心;此外,還包括邊緣部分,即基于集體與社會性因素產(chǎn)生的社會貢獻,該邊緣部分代表了創(chuàng)造性成果中蘊含著,社會本身通過再分配制度以及集體中其他個體基于某些權利而可以主張享有利益的部分。莫杰思將該模型歸納為一個輸出與輸入的模型,個體在進行創(chuàng)造性智力勞動時輸入了個人原創(chuàng)性工作,輸出了對于財產(chǎn)權利的主張以及該智力成果產(chǎn)生的一系列經(jīng)濟利益,同時,社會群體也輸入了社會影響,從而輸出一種社會性主張。這種社會影響是顯而易見的,例如,沒有國家的強制力支持,個體是不可能真正享有具有對世權的財產(chǎn)權的,國家在授予財產(chǎn)權利時,事實上將國家權力部分糅合到了財產(chǎn)權中,權利人行使財產(chǎn)權時,同時也是在一定范圍內(nèi)行使國家權力。47社會制度的形成,保護了知識產(chǎn)權成果,因此社會總體也當然應當在知識成果上享有利益,概言之,分配正義并非是財產(chǎn)法的外部價值,而是內(nèi)在于財產(chǎn)法的。為了解釋個人人格與努力為什么居于該模型的核心地位,需要引入羅爾斯的個人獎賞理論,羅爾斯認為天賦并不是得到獎賞的理由,只有付出辛苦努力,開發(fā)自己的才能,才值得獲得回報,這是因為勤奮與自律在天賦這一社會因素與地位優(yōu)勢上添加了額外的東西,即個人的自由意志,個人意志對才能的發(fā)揮有著決定性的作用,因此其居于核心位置。知識產(chǎn)權核心地帶以外的空間,即邊緣地帶,作為社會影響輸入的結果,是社會再分配的適格對象。這種體現(xiàn)分配正義的再分配,在知識產(chǎn)權領域體現(xiàn)在三個階段,權利的授予、成果的利用、成果獲得利益的轉化。在授予權利階段,分配正義體現(xiàn)為對知識產(chǎn)權權利周期的限制;在成果利用階段,分配正義表現(xiàn)為專利法上試驗性使用制度;在結果產(chǎn)生利益的轉化階段,分配正義表現(xiàn)為政府的稅收制度,同時,該階段也是再分配機制的關鍵。分配正義還涉及比例原則,比例原則意指創(chuàng)造者獲得的利益與受規(guī)范保護的權利,應當與其貢獻互稱比例,該原則的另一個面向是,權利的范圍應當被界定在成比例的回報之內(nèi),超出部分的利益,應當屬于社會公眾,進行再分配。在人機合作的語境下,社會性因素在發(fā)明的生成中所占的比例不多提高,且發(fā)明人根據(jù)自由意志開發(fā)自身才能的程度也相比有所下降,因此,為了實現(xiàn)社會正義,應當對人機合作發(fā)明嚴格適用上述三個階段的限制原則,并依照這些原則完善具體的制度措施。

    三、人機合作發(fā)明的專利法制度因應

    (一)人機合作發(fā)明專利授權制度的完善

    首先,明確人機合作發(fā)明專利授權指導理論。以權利論的視角,申請人在人機合作發(fā)明中進行了創(chuàng)造性智力勞動、產(chǎn)出的智力成果體現(xiàn)了其自由意志的表達、使用人工智能進行發(fā)明以更好地發(fā)揮其才能系申請者基本自由體系的范疇,因而申請人獲得專利權具有理論基礎。

    其次,完善人機合作發(fā)明專利授權具體制度。人機合作發(fā)明使得《專利法》采用的方法與產(chǎn)品兩類客體的分類方法,使得實質審查面臨諸多挑戰(zhàn)。人們在普遍接受方法與產(chǎn)品二分的可專利客體分類方法的同時,也許忽略了《專利法》客體審查規(guī)制經(jīng)過了漫長的發(fā)展,美國專利法客體保護范圍實際上也經(jīng)歷了從單純保護實體機器設備到保護抽象步驟與發(fā)明方法的轉向,48 在人工智能技術對方法與產(chǎn)品可專利客體分類標準形成挑戰(zhàn)的當下,筆者認為,《專利法》不必堅持產(chǎn)品與方法二分的形式區(qū)分標準,而應轉向實質性的規(guī)制標準,這里可以參考德日專利法的定義標準,日本專利法認為,發(fā)明是利用自然力的技術性思想進行一定高度創(chuàng)造的結果。49《專利法》可以在堅持正面定義與反面定義結合的規(guī)制方式的基礎上,對發(fā)明的定義進行修改,亦即,在保留《專利法》第5條及第25 條的基礎上,將《專利法》第2 條修改為:“發(fā)明是指利用可控制的自然力實現(xiàn)預期效果具有技術性的方案?!蓖瑫r為了避免專利申請人對抽象思想申請專利,從而導致對技術進步的阻礙,在技術性的判準上可以接近美國專利法的整體性規(guī)制,整體性規(guī)制意指應當將專利權利要求作為一個整體對待,不應單獨考量各個要素是否具有技術性,也不應在排除現(xiàn)有要素與非技術性要素后考量剩余要素是否具有技術性,而是應當整體判斷權利要求是否符合技術性要求的構成要件。50 總之,為應對人機合作發(fā)明的挑戰(zhàn),專利法應當放棄方法與產(chǎn)品客體的區(qū)別標準,轉而對可專利客體的實質,亦即對技術性要件進行規(guī)制。人機合作對新穎性、創(chuàng)造性、實用性審查的挑戰(zhàn)主要表現(xiàn)為對專利法擬制的“本領域熟練技術人員”判斷標準的挑戰(zhàn)。人機合作發(fā)明的出現(xiàn),使得在一些情況下,其產(chǎn)出產(chǎn)品看似凝結了眾多的創(chuàng)造性智力勞動,但實則人類發(fā)明者并沒有進行必要的創(chuàng)造性智力活動,該產(chǎn)品的產(chǎn)出大部分是人工智能運行的結果,同時人工智能的復雜算法以及涉及的多領域的復合知識,為本領域技術人員進行審查工作帶來了極大的困難,在此,筆者認為有兩種規(guī)制路徑。其一,如一些學者建議,對“本領域技術人員”的擬制標準進行修正,51將本領域技術人員不僅僅擬制為掌握相關領域的全部現(xiàn)有技術,還應結合人工智能的發(fā)展水平,即認為本領域技術人員還應具備人工智能的相關知識,了解人工智能的發(fā)展情況,同時,因為人工智能作為一項技術本身具有中立性,在進行三性審查時也應當運用人工智能提供輔助作用。具體做法可以將專利審查指南“熟練技術人員”的定義修改為:“本領域技術人員是一種假設的人,假定他知曉申請日或優(yōu)先權日之前發(fā)明所屬領域所有普通技術知識,同時知曉人工智能的通常使用方法與發(fā)展現(xiàn)狀,能夠結合人工智能知曉該領域的所有現(xiàn)有技術,并且具有應用該日前之前常規(guī)實驗的手段和能力?!逼涠?,筆者認為可以將“本領域技術人員”的判準轉變?yōu)椤安捎猛ㄓ眉夹g方法”,換言之,現(xiàn)行專利法以一般技術人員為中心,強調專利授予、技術傳播、侵權認定過程中的一般化、普通化。在人工智能時代,面對人工智能海量數(shù)據(jù)與算力的挑戰(zhàn),以及未來人工智能在工作領域的普及化,專利法將“一般技術人員”的判準轉換為“采用通用技術方法”,是從以主體為判斷標準的靜態(tài)思維轉變?yōu)橐孕袨闉榕袚?jù)的動態(tài)思維模式的轉變。這種規(guī)制路徑的優(yōu)勢在于不僅僅拘泥于人工智能,從而為新技術時代的專利法提供了更多靈活性。具體可以將專利審查指南的“非顯而易見性”標準修改為:“使用通用技術方法將發(fā)明與現(xiàn)有技術比對,判斷是否存在實質性特點與顯著進步?!?/p>

    最后,完善人機合作發(fā)明專利授權配套制度。有學者提出可以增設人工智能使用披露制度,52 因為人機合作發(fā)明中人類發(fā)明者與傳統(tǒng)自然人單獨進行的發(fā)明創(chuàng)造中付出了不同的智力活動,對其權利應進行不同力度的保護,增設此機制可以便于審查員識別,提高審查效率,另外,出于對市場與公眾的角度,人工智能不同程度地參與對專利的價值及市場前景可能造成不能程度影響,披露機制可以促進信息公開透明,為專利后續(xù)實現(xiàn)生產(chǎn)以及技術轉讓許可提供制度保障。

    (二)人機合作發(fā)明專利權行使限制制度的構建

    從成果利用階段的權利限制看,筆者認為應當以如下兩個方面展開,其一是實驗性使用的法定許可。根據(jù)“仁愛附加條件”“權利的普遍性原則”,個體對他人享有財產(chǎn)權且涉及公共利益的財產(chǎn)享有利益,個人行使財產(chǎn)權時應兼顧他人的選擇自由,對專利權保護的技術方案進行試驗涉及社會技術發(fā)展的總體利益,同時進行試驗研究也是個體選擇自的范疇。《專利法》第69 條規(guī)定的例外條款為專利侵權提供了抗辯事由,其中就包括實驗性使用,《專利法》第11 條又規(guī)定了只有以“生產(chǎn)經(jīng)營為目的”使用專利才可能侵犯專利權,對這兩條款之間的關系,學界有著不同看法,53 為限制人機合作發(fā)明者的權利,筆者認為應對這兩個條款進行嚴格解釋,即《專利法》第11 條與第69 條是一般規(guī)制與特殊規(guī)制之間的關系,第11 條規(guī)定的生產(chǎn)經(jīng)營目的對第69 條的例外情況仍然適用,亦即,只有在以生產(chǎn)經(jīng)營為目的實施第69 條的實驗性使用才適用例外抗辯,不以生產(chǎn)經(jīng)營目的的實驗性行為則當然不構成侵權,因為人機合作生成發(fā)明中具有較多的社會性因素,以生產(chǎn)經(jīng)營為目的的實驗行為旨在實現(xiàn)專利的社會效益,不應當成立侵權行為。其二是針對人機合作發(fā)明下非實施主體以及利用專利實施壟斷的強制許可。根據(jù)“信賴與充足性”“反浪費反糟蹋”兩條件的關系,專利權的保護超出一定范圍,相關利益應當歸于公共所有?!秾@ā返?8 條規(guī)定了一般性的強制許可制度,行政機關可以根據(jù)有關單位與個人的申請,對于無正當理由不實施專利、利用專利形成壟斷的權利人進行強制許可。人工智能時代的到來勢必導致專利數(shù)量的激增,人工智能的應用,會導致本就出現(xiàn)專利叢林現(xiàn)象的半導體、材料領域的專利技術更趨于復雜化,而權利人利用人工智能復雜算法可能會形成不當壟斷妨礙競爭,因此,一般強制許可制度的條件下,應當積極適用對人機合作發(fā)明專利的強制許可,建立獨立的人工智能發(fā)明專利強制許可審核、執(zhí)行通道,以實現(xiàn)新技術時代的良性社會競爭。

    從成果獲得利益轉化階段的權利限制看,根據(jù)“分配正義”,知識產(chǎn)權成果的邊緣部分具有集體與社會性因素,相關利益應該通過整體性社會分配以實現(xiàn)利益平衡,人機合作發(fā)明得益于社會人工智能技術的高速發(fā)展,因此筆者認為可以由以下兩個方面對其權利進行限制。其一是對人機合作發(fā)明專利權的保護期限進行一定縮短。對專利權的保護期限進行調節(jié)是最易實現(xiàn)利益平衡原則的手段,一方面人機合作中的發(fā)明者借助了大量人工智能算法編寫者的智力成果,從保障社會公共利益福祉的角度出發(fā),對人類發(fā)明者的權利保護期限進行一定縮短,可以有效平衡相關技術開發(fā)者的利益;另一方面,人機合作存在著使得創(chuàng)新門檻降低的可能性,專利制度更容易成為科技公司知識產(chǎn)權戰(zhàn)略布局的手段,專利權人更容易怠于投入生產(chǎn),實現(xiàn)專利成果轉化,縮短人機合作發(fā)明的保護期限,可以有效刺激權利人將相關產(chǎn)品投入市場,促進技術向公共領域的流通。其二是向人機合作的發(fā)明專利權成果中額外征稅,稅收是成果利益轉化階段最為典型的法律制度,稅法雖然外在于知識產(chǎn)權法,但稅收的動態(tài)調節(jié)可以實現(xiàn)知識產(chǎn)權法的利益平衡,是知識產(chǎn)權法中比例原則對分配性要素進行再分配的外在體現(xiàn)。人機合作發(fā)明中人類發(fā)明者更大程度的依賴于公共政策,如人工智能的運行依賴于進行公共領域的底層算法,那么人機合作發(fā)明的成果中就蘊含了更多的社會性要素,通過動態(tài)的提高稅率,可以實現(xiàn)社會利益的動態(tài)平衡,從而實現(xiàn)對權利人在成果中獲得利益的限制。

    四、結語

    卷積神經(jīng)網(wǎng)絡等技術進入公共領域使得人工智能技術得到迅速發(fā)展,人工智能的介入使得人類進行創(chuàng)造性智力活動的效率大大提升,雖然這對知識產(chǎn)權法哲學理論與制度帶來巨大挑戰(zhàn),但是如果能夠明確正確的理論指導,保持知識產(chǎn)權制度的靈活性,就可以從法律制度層面促進人工智能技術的應用,為人類社會創(chuàng)造更多福祉。過分注重效率因素的功利主義思想在技術爆炸、社會轉型的時期將面臨越來越多的問題,因此,學界應當深化對于知識產(chǎn)權法哲學理論的深入研究,在價值多元時代更應注重個體權利的保護,以權利論為視角證成知識產(chǎn)權基本理論,進而指導制度變革。知識產(chǎn)權法哲學向權利論轉向的理論與制度研究,遠非本文可以涵蓋,人工智能除在生成專利方面對知識產(chǎn)權法形成挑戰(zhàn),還涉及本領域其他諸多前沿問題,如人工智能算法與大數(shù)據(jù)的保護。希望未來可以涌現(xiàn)更多相關研究成果,為人工智能時代知識產(chǎn)權保護提供理論與制度依據(jù)。

    猜你喜歡
    專利制度財產(chǎn)權人工智能
    日本專利制度和中國專利制度的對比分析
    法制博覽(2019年19期)2019-12-14 16:05:57
    證券期貨行情信息保護的數(shù)據(jù)財產(chǎn)權視角初探
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    人工智能與就業(yè)
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    下一幕,人工智能!
    南風窗(2016年19期)2016-09-21 16:51:29
    1949年以前商務印書館股東財產(chǎn)權分析
    專利制度在科技發(fā)展中的作用研究
    今日湖北(2015年17期)2015-12-03 15:52:20
    社會福利視角下的專利制度問題
    學習月刊(2015年4期)2015-07-09 03:51:54
    專利制度的兩面性
    天天躁夜夜躁狠狠躁躁| 十分钟在线观看高清视频www| 人人妻人人澡人人看| 国国产精品蜜臀av免费| 国产 精品1| 亚洲精品国产av蜜桃| 精品国产一区二区三区四区第35| 黑丝袜美女国产一区| 日产精品乱码卡一卡2卡三| 日日撸夜夜添| 咕卡用的链子| 国产亚洲精品第一综合不卡 | 少妇人妻 视频| 日韩成人av中文字幕在线观看| 久久精品夜色国产| 欧美激情 高清一区二区三区| 日韩一本色道免费dvd| 欧美精品国产亚洲| 黄色视频在线播放观看不卡| 亚洲国产看品久久| 高清黄色对白视频在线免费看| 十分钟在线观看高清视频www| 久久精品国产综合久久久 | 国产一区亚洲一区在线观看| 久久久久网色| 少妇的逼水好多| 精品福利永久在线观看| www.熟女人妻精品国产 | 免费观看a级毛片全部| 国产视频首页在线观看| 久久99热6这里只有精品| 少妇的逼水好多| 男女啪啪激烈高潮av片| 成人18禁高潮啪啪吃奶动态图| 日韩 亚洲 欧美在线| 久久婷婷青草| 日本与韩国留学比较| 久久午夜综合久久蜜桃| 激情视频va一区二区三区| 亚洲精华国产精华液的使用体验| 欧美日韩成人在线一区二区| 啦啦啦中文免费视频观看日本| 欧美亚洲日本最大视频资源| 人人妻人人澡人人爽人人夜夜| 又大又黄又爽视频免费| 午夜福利影视在线免费观看| 在线观看免费视频网站a站| 久久99一区二区三区| 国产男人的电影天堂91| 大香蕉97超碰在线| 日韩精品免费视频一区二区三区 | 亚洲国产最新在线播放| 国产精品久久久av美女十八| 精品人妻偷拍中文字幕| 美女xxoo啪啪120秒动态图| 一边摸一边做爽爽视频免费| 国产探花极品一区二区| 草草在线视频免费看| 中文字幕av电影在线播放| 国产精品久久久久久久久免| 老司机影院毛片| 亚洲国产av影院在线观看| 久久人人爽av亚洲精品天堂| 自线自在国产av| 成人免费观看视频高清| 爱豆传媒免费全集在线观看| 亚洲人与动物交配视频| 国产在线视频一区二区| 亚洲国产精品专区欧美| av不卡在线播放| 国产成人精品一,二区| 亚洲欧美一区二区三区黑人 | 亚洲欧美中文字幕日韩二区| 熟女av电影| 欧美日韩成人在线一区二区| 午夜免费鲁丝| 精品人妻一区二区三区麻豆| 精品国产露脸久久av麻豆| 七月丁香在线播放| 97人妻天天添夜夜摸| 精品人妻在线不人妻| 亚洲精品视频女| 在线观看国产h片| 天堂俺去俺来也www色官网| 欧美激情国产日韩精品一区| 菩萨蛮人人尽说江南好唐韦庄| 嫩草影院入口| 成年动漫av网址| 亚洲激情五月婷婷啪啪| av在线播放精品| 九九爱精品视频在线观看| 老司机影院毛片| 亚洲精品乱久久久久久| 五月天丁香电影| 亚洲精品久久成人aⅴ小说| 日韩av在线免费看完整版不卡| 狂野欧美激情性xxxx在线观看| 久久99热6这里只有精品| 久久精品国产亚洲av涩爱| 日韩中字成人| 欧美日韩国产mv在线观看视频| 老女人水多毛片| 亚洲欧美一区二区三区黑人 | 亚洲精品成人av观看孕妇| 亚洲欧美成人精品一区二区| 国产国语露脸激情在线看| 丰满少妇做爰视频| 午夜免费观看性视频| freevideosex欧美| 黄色毛片三级朝国网站| 日韩视频在线欧美| 国产 一区精品| 黄色毛片三级朝国网站| 精品国产一区二区三区四区第35| 男人操女人黄网站| 午夜福利影视在线免费观看| 亚洲精品一二三| 如日韩欧美国产精品一区二区三区| 最近中文字幕高清免费大全6| 狠狠精品人妻久久久久久综合| 国产成人精品在线电影| 国产精品人妻久久久影院| 9热在线视频观看99| 国产精品国产av在线观看| 国产极品天堂在线| 精品卡一卡二卡四卡免费| 久久久久久久亚洲中文字幕| 中文天堂在线官网| 人人澡人人妻人| 九九爱精品视频在线观看| 中文字幕另类日韩欧美亚洲嫩草| 亚洲欧洲日产国产| 中文字幕免费在线视频6| 黑丝袜美女国产一区| 大码成人一级视频| 国产无遮挡羞羞视频在线观看| 亚洲中文av在线| 99久久中文字幕三级久久日本| 女性被躁到高潮视频| 久久久欧美国产精品| 午夜av观看不卡| 国产精品久久久久久av不卡| 亚洲丝袜综合中文字幕| 日韩中字成人| 国产 精品1| 在线精品无人区一区二区三| 国产欧美另类精品又又久久亚洲欧美| 国产精品一二三区在线看| 国产白丝娇喘喷水9色精品| 18禁裸乳无遮挡动漫免费视频| 色婷婷久久久亚洲欧美| 免费看光身美女| 精品一区二区三区四区五区乱码 | 人体艺术视频欧美日本| 搡老乐熟女国产| 三上悠亚av全集在线观看| 欧美日韩综合久久久久久| 国产亚洲欧美精品永久| 三上悠亚av全集在线观看| 你懂的网址亚洲精品在线观看| 国产精品免费大片| 亚洲美女搞黄在线观看| 成人毛片60女人毛片免费| 国产日韩一区二区三区精品不卡| 丁香六月天网| 国产 一区精品| 咕卡用的链子| 欧美激情国产日韩精品一区| 一级片'在线观看视频| a级毛色黄片| 国产精品.久久久| 免费不卡的大黄色大毛片视频在线观看| 国产黄色视频一区二区在线观看| 久久久久久久久久人人人人人人| 久久午夜综合久久蜜桃| 国产日韩欧美在线精品| 少妇被粗大猛烈的视频| 2021少妇久久久久久久久久久| kizo精华| xxx大片免费视频| 建设人人有责人人尽责人人享有的| 国产精品一区二区在线观看99| 高清av免费在线| 欧美成人精品欧美一级黄| 精品国产一区二区三区久久久樱花| 午夜久久久在线观看| 成人二区视频| 国产永久视频网站| 99九九在线精品视频| 国产精品国产av在线观看| 亚洲欧美成人综合另类久久久| 亚洲精品日本国产第一区| 人妻一区二区av| 女人精品久久久久毛片| 欧美丝袜亚洲另类| 男女下面插进去视频免费观看 | 精品熟女少妇av免费看| 啦啦啦视频在线资源免费观看| 国产又爽黄色视频| 国产精品一国产av| 丝袜脚勾引网站| 日本黄色日本黄色录像| 黑人猛操日本美女一级片| 中文字幕制服av| 男女免费视频国产| 青青草视频在线视频观看| 丝袜喷水一区| 精品国产乱码久久久久久小说| 亚洲国产精品成人久久小说| 国产精品.久久久| 国国产精品蜜臀av免费| 久久久久久久亚洲中文字幕| 草草在线视频免费看| 51国产日韩欧美| 成人免费观看视频高清| 黄片播放在线免费| 久久久a久久爽久久v久久| 一区二区三区精品91| 一区二区三区乱码不卡18| 日韩在线高清观看一区二区三区| 一本—道久久a久久精品蜜桃钙片| 黄网站色视频无遮挡免费观看| 精品国产一区二区三区久久久樱花| 久久影院123| av黄色大香蕉| av福利片在线| 国产69精品久久久久777片| 国产av精品麻豆| av天堂久久9| 免费黄频网站在线观看国产| 免费在线观看黄色视频的| 国产黄色视频一区二区在线观看| 欧美xxⅹ黑人| 精品少妇久久久久久888优播| tube8黄色片| 91aial.com中文字幕在线观看| av不卡在线播放| 黄色配什么色好看| 两个人看的免费小视频| 精品人妻在线不人妻| 国产一区二区在线观看av| 亚洲五月色婷婷综合| 成人亚洲欧美一区二区av| 久久ye,这里只有精品| 亚洲图色成人| av播播在线观看一区| 大香蕉97超碰在线| 免费大片黄手机在线观看| 欧美少妇被猛烈插入视频| 99久久人妻综合| 亚洲精品久久久久久婷婷小说| 欧美 亚洲 国产 日韩一| 捣出白浆h1v1| 国产一级毛片在线| 超色免费av| 欧美 亚洲 国产 日韩一| 欧美激情极品国产一区二区三区 | av有码第一页| 亚洲av电影在线观看一区二区三区| 一级爰片在线观看| 亚洲综合色惰| 国产深夜福利视频在线观看| 99香蕉大伊视频| 久久久久精品性色| 你懂的网址亚洲精品在线观看| 亚洲色图综合在线观看| 99re6热这里在线精品视频| 2018国产大陆天天弄谢| av在线老鸭窝| 一级毛片 在线播放| 国产成人欧美| 街头女战士在线观看网站| 丝袜脚勾引网站| 99精国产麻豆久久婷婷| 国产精品久久久久久av不卡| 少妇高潮的动态图| 最近中文字幕高清免费大全6| 国产午夜精品一二区理论片| 亚洲成国产人片在线观看| 在线亚洲精品国产二区图片欧美| 亚洲天堂av无毛| 少妇 在线观看| 成年美女黄网站色视频大全免费| 久久韩国三级中文字幕| 欧美日本中文国产一区发布| 日韩成人av中文字幕在线观看| 午夜视频国产福利| 国产精品欧美亚洲77777| 国产色爽女视频免费观看| 中文字幕人妻熟女乱码| 亚洲精品中文字幕在线视频| 日本av免费视频播放| 51国产日韩欧美| 寂寞人妻少妇视频99o| 美女内射精品一级片tv| 女性生殖器流出的白浆| 色视频在线一区二区三区| 少妇的逼水好多| 国产成人精品婷婷| 一级爰片在线观看| 大码成人一级视频| 国产又爽黄色视频| 国产成人精品婷婷| 在线观看人妻少妇| 一本—道久久a久久精品蜜桃钙片| 免费黄网站久久成人精品| 91aial.com中文字幕在线观看| 免费黄色在线免费观看| 亚洲一区二区三区欧美精品| 侵犯人妻中文字幕一二三四区| 亚洲欧美精品自产自拍| 久久国内精品自在自线图片| 一级毛片黄色毛片免费观看视频| 99久久综合免费| 国产欧美亚洲国产| 一二三四中文在线观看免费高清| 九草在线视频观看| av国产精品久久久久影院| 尾随美女入室| 国产综合精华液| 亚洲国产看品久久| 黑人高潮一二区| 自线自在国产av| 日本与韩国留学比较| 美女国产高潮福利片在线看| 欧美日韩一区二区视频在线观看视频在线| 丝袜美足系列| 黄色配什么色好看| 久久久久久久精品精品| 蜜桃在线观看..| 精品午夜福利在线看| 丝瓜视频免费看黄片| 国产精品成人在线| 久久久久国产精品人妻一区二区| 成人毛片60女人毛片免费| 久久精品国产综合久久久 | 日日摸夜夜添夜夜爱| 18+在线观看网站| 桃花免费在线播放| 九九爱精品视频在线观看| 黄片无遮挡物在线观看| 免费黄色在线免费观看| 亚洲精品日韩在线中文字幕| 欧美精品亚洲一区二区| 国产成人精品无人区| 人妻人人澡人人爽人人| 免费av不卡在线播放| 最近中文字幕高清免费大全6| 少妇的逼水好多| 在线观看三级黄色| 国产乱人偷精品视频| 国产 一区精品| 一级黄片播放器| 午夜福利网站1000一区二区三区| 久久国内精品自在自线图片| 香蕉丝袜av| 亚洲高清免费不卡视频| 少妇高潮的动态图| 日日摸夜夜添夜夜爱| 深夜精品福利| 黄色怎么调成土黄色| 18+在线观看网站| 九色成人免费人妻av| 精品亚洲成a人片在线观看| 日韩伦理黄色片| 高清欧美精品videossex| 夫妻性生交免费视频一级片| 卡戴珊不雅视频在线播放| 亚洲久久久国产精品| 亚洲精品国产色婷婷电影| 久久精品熟女亚洲av麻豆精品| 亚洲国产av新网站| 亚洲成人一二三区av| 亚洲精品自拍成人| 最近2019中文字幕mv第一页| 亚洲av国产av综合av卡| 一级黄片播放器| 久久久久久久久久久久大奶| 午夜激情av网站| 最近最新中文字幕大全免费视频 | 日本欧美视频一区| 爱豆传媒免费全集在线观看| 亚洲国产毛片av蜜桃av| 中国三级夫妇交换| 久久久久久久亚洲中文字幕| 十分钟在线观看高清视频www| 国产在线一区二区三区精| 搡女人真爽免费视频火全软件| 欧美成人午夜免费资源| 一本—道久久a久久精品蜜桃钙片| 午夜影院在线不卡| 免费av中文字幕在线| 国产精品人妻久久久久久| 久久ye,这里只有精品| 国产伦理片在线播放av一区| 久久99热这里只频精品6学生| 亚洲国产日韩一区二区| av卡一久久| 欧美日韩综合久久久久久| 春色校园在线视频观看| 人成视频在线观看免费观看| 一二三四在线观看免费中文在 | 五月天丁香电影| 亚洲av欧美aⅴ国产| 少妇人妻精品综合一区二区| 免费高清在线观看视频在线观看| 丝袜在线中文字幕| 国产精品秋霞免费鲁丝片| 亚洲精品一区蜜桃| 国产精品人妻久久久影院| 免费人成在线观看视频色| 国国产精品蜜臀av免费| 99re6热这里在线精品视频| 中文字幕av电影在线播放| 免费av不卡在线播放| 一本大道久久a久久精品| 男女免费视频国产| 韩国av在线不卡| 如日韩欧美国产精品一区二区三区| 女人被躁到高潮嗷嗷叫费观| 国产成人免费观看mmmm| h视频一区二区三区| 91久久精品国产一区二区三区| 欧美老熟妇乱子伦牲交| 亚洲,一卡二卡三卡| 久久久久久久久久人人人人人人| 国产片特级美女逼逼视频| 久久久亚洲精品成人影院| 天堂俺去俺来也www色官网| 99香蕉大伊视频| 国产乱人偷精品视频| 精品午夜福利在线看| 80岁老熟妇乱子伦牲交| 国产综合精华液| 成人免费观看视频高清| 在现免费观看毛片| 国产极品天堂在线| 国产爽快片一区二区三区| 最近最新中文字幕免费大全7| 天天影视国产精品| 成人影院久久| 国产成人精品福利久久| 国产 精品1| av在线观看视频网站免费| 丝袜在线中文字幕| av免费在线看不卡| 赤兔流量卡办理| 黄色怎么调成土黄色| 国产成人精品在线电影| a级毛片黄视频| 国产精品国产三级专区第一集| 国产精品蜜桃在线观看| av片东京热男人的天堂| 考比视频在线观看| 精品少妇久久久久久888优播| 91午夜精品亚洲一区二区三区| 啦啦啦在线观看免费高清www| 涩涩av久久男人的天堂| 夫妻午夜视频| 国产欧美亚洲国产| 大香蕉97超碰在线| 只有这里有精品99| 久久精品国产亚洲av天美| 大码成人一级视频| 午夜福利,免费看| 美女福利国产在线| 寂寞人妻少妇视频99o| 国产日韩欧美视频二区| 搡女人真爽免费视频火全软件| 午夜影院在线不卡| 两个人看的免费小视频| 黑丝袜美女国产一区| 欧美日韩av久久| 亚洲色图 男人天堂 中文字幕 | 国产 一区精品| 亚洲国产精品国产精品| 日本猛色少妇xxxxx猛交久久| 欧美+日韩+精品| 亚洲高清免费不卡视频| 精品人妻偷拍中文字幕| 三上悠亚av全集在线观看| 久久久久视频综合| 欧美老熟妇乱子伦牲交| 99九九在线精品视频| 久久久久久久久久久久大奶| 中文字幕亚洲精品专区| 国产成人精品婷婷| 十八禁网站网址无遮挡| 2021少妇久久久久久久久久久| 汤姆久久久久久久影院中文字幕| 亚洲图色成人| 免费av中文字幕在线| 免费大片黄手机在线观看| 2021少妇久久久久久久久久久| 超色免费av| 亚洲精品一区蜜桃| 国产片内射在线| 国产一区二区激情短视频 | 成人午夜精彩视频在线观看| 看免费av毛片| 满18在线观看网站| 丝袜在线中文字幕| 在线观看三级黄色| 久久久久精品人妻al黑| 欧美国产精品va在线观看不卡| 国产极品天堂在线| av黄色大香蕉| 在线观看国产h片| 国产男女超爽视频在线观看| 熟女人妻精品中文字幕| 免费播放大片免费观看视频在线观看| 男女无遮挡免费网站观看| 日本av手机在线免费观看| 99视频精品全部免费 在线| 99热6这里只有精品| 国产精品秋霞免费鲁丝片| 精品人妻在线不人妻| 一二三四中文在线观看免费高清| 交换朋友夫妻互换小说| 女人被躁到高潮嗷嗷叫费观| 国产亚洲欧美精品永久| 国产一区二区激情短视频 | 亚洲欧美色中文字幕在线| 欧美国产精品一级二级三级| videosex国产| 少妇人妻精品综合一区二区| 精品久久久久久电影网| av视频免费观看在线观看| 国产成人a∨麻豆精品| 母亲3免费完整高清在线观看 | 精品一区二区三卡| 国精品久久久久久国模美| 久久99一区二区三区| 久热久热在线精品观看| 欧美精品国产亚洲| 国产欧美亚洲国产| 水蜜桃什么品种好| 国产一区二区在线观看av| 国产成人午夜福利电影在线观看| 9191精品国产免费久久| 2022亚洲国产成人精品| 亚洲国产成人一精品久久久| 久久精品国产自在天天线| 精品一品国产午夜福利视频| 国产精品久久久久久av不卡| 精品福利永久在线观看| 国产精品久久久久久精品古装| 亚洲精品色激情综合| 亚洲在久久综合| av不卡在线播放| 亚洲av中文av极速乱| 18禁动态无遮挡网站| 免费久久久久久久精品成人欧美视频 | 91精品三级在线观看| 久久国内精品自在自线图片| 男人操女人黄网站| 久久精品熟女亚洲av麻豆精品| 日日摸夜夜添夜夜爱| 男女啪啪激烈高潮av片| av黄色大香蕉| 欧美日韩视频高清一区二区三区二| 永久网站在线| 亚洲国产欧美日韩在线播放| 一边亲一边摸免费视频| 成人亚洲精品一区在线观看| 99热6这里只有精品| 成人国语在线视频| 人人妻人人爽人人添夜夜欢视频| 亚洲av免费高清在线观看| 波多野结衣一区麻豆| 成年女人在线观看亚洲视频| 91精品伊人久久大香线蕉| a级毛片在线看网站| 亚洲少妇的诱惑av| 视频中文字幕在线观看| 亚洲一码二码三码区别大吗| 亚洲精品国产av蜜桃| 亚洲精品国产色婷婷电影| 在线天堂最新版资源| 飞空精品影院首页| 国产精品欧美亚洲77777| 色网站视频免费| 国产亚洲一区二区精品| xxx大片免费视频| 国产精品.久久久| 久久人人爽人人片av| 亚洲精品久久午夜乱码| 天天躁夜夜躁狠狠久久av| 男女午夜视频在线观看 | 插逼视频在线观看| 国产成人欧美| 久久久精品94久久精品| av.在线天堂| 中文字幕亚洲精品专区| 狂野欧美激情性xxxx在线观看| 狠狠婷婷综合久久久久久88av| 欧美 日韩 精品 国产| 黑人猛操日本美女一级片| 国产有黄有色有爽视频| 如何舔出高潮| 亚洲欧洲精品一区二区精品久久久 | 黄色视频在线播放观看不卡| 99热网站在线观看| 捣出白浆h1v1| 国产精品熟女久久久久浪| av播播在线观看一区| av在线app专区| 男女边吃奶边做爰视频| 日韩,欧美,国产一区二区三区| 又黄又粗又硬又大视频| 亚洲精品乱码久久久久久按摩| 久久久久久久大尺度免费视频| 啦啦啦在线观看免费高清www| 99re6热这里在线精品视频| 99久久精品国产国产毛片|