• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能自主發(fā)明的社會(huì)風(fēng)險(xiǎn)及其法律應(yīng)對(duì)

    2022-03-23 06:10:28賈麗萍
    關(guān)鍵詞:專利法機(jī)器專利

    賈麗萍 曹 璨

    (福州大學(xué)法學(xué)院,福建 福州 350108)

    人工智能自主發(fā)明的出現(xiàn)顛覆了傳統(tǒng)發(fā)明機(jī)制。由于其發(fā)明過程缺少人類的干預(yù),對(duì)這種發(fā)明物應(yīng)當(dāng)如何進(jìn)行法律界定和保護(hù)引發(fā)了學(xué)界的爭(zhēng)論,對(duì)此需要選取合理的保護(hù)模式化解社會(huì)各主體對(duì)權(quán)益的爭(zhēng)奪與對(duì)責(zé)任的推諉。同時(shí),智能機(jī)器發(fā)明產(chǎn)生的專利侵權(quán)、破壞市場(chǎng)競(jìng)爭(zhēng)、違反人類倫理道德等衍生問題,亟須專利法及相關(guān)部門法的進(jìn)一步細(xì)化,以實(shí)現(xiàn)對(duì)人工智能自主發(fā)明產(chǎn)生的社會(huì)問題的合理規(guī)制。

    一、人工智能自主發(fā)明帶來的社會(huì)風(fēng)險(xiǎn)

    人工智能在與技術(shù)環(huán)境交互作用的過程中,憑借其自我進(jìn)化的“機(jī)器學(xué)習(xí)”能力,能夠獨(dú)立生成技術(shù)方案本身是一種技術(shù)現(xiàn)象,但因此涉及的新型社會(huì)關(guān)系也成為一項(xiàng)社會(huì)問題。其在保護(hù)模式、專利侵權(quán)認(rèn)定、抑制有效競(jìng)爭(zhēng)與倫理道德等問題上凸顯了技術(shù)發(fā)展的不確定性與法律保護(hù)的確定性之間的矛盾。

    (一)人工智能自主發(fā)明引發(fā)的權(quán)利保護(hù)風(fēng)險(xiǎn)

    在人工智能自主發(fā)明過程中因其發(fā)明活動(dòng)來自機(jī)器的“思維”結(jié)果,而非人類智力成果,那么對(duì)此種結(jié)果應(yīng)當(dāng)如何選擇保護(hù)模式,是機(jī)器人發(fā)明活動(dòng)對(duì)傳統(tǒng)專利法調(diào)整的社會(huì)關(guān)系產(chǎn)生的首要沖擊。機(jī)器自主發(fā)明的成果是否應(yīng)當(dāng)適用以人類為主體構(gòu)建的專利法進(jìn)行保護(hù),以及如何確定其權(quán)利主體成為學(xué)界爭(zhēng)論的焦點(diǎn),法律制度亟須做出回應(yīng)。

    (二)人工智能自主發(fā)明導(dǎo)致的專利侵權(quán)風(fēng)險(xiǎn)

    人工智能在自主發(fā)明的過程中,因其可以通過互聯(lián)網(wǎng)隨意抓取、復(fù)制大量數(shù)據(jù),而這些數(shù)據(jù)往往來源復(fù)雜,有些已受到專利法的保護(hù),其挖掘海量信息的工作過程具有侵害已有專利權(quán)的風(fēng)險(xiǎn)。但在訴訟中,多主體聯(lián)合侵權(quán)模式與公眾難以合法舉證隱蔽算法存在侵權(quán)行為的兩方面因素,共同導(dǎo)致獲取司法救濟(jì)的困難。

    1.智能機(jī)器侵權(quán)模式的認(rèn)定困境

    現(xiàn)行《中華人民共和國(guó)專利法》(以下簡(jiǎn)稱《專利法》)規(guī)定了兩類侵權(quán)行為:其一,直接侵權(quán),即“行為人的產(chǎn)品或方法具有他人專利產(chǎn)品或?qū)@椒?quán)利要求書中的全部技術(shù)特征”;①王遷:《知識(shí)產(chǎn)權(quán)法教程(第四版)》,北京:中國(guó)人民大學(xué)出版社,2014年,第360頁(yè)。其二,間接侵權(quán),即“行為人沒有直接侵害專利權(quán),但是誘使直接侵權(quán)行為發(fā)生,或者在明知或應(yīng)知的情況下為直接侵權(quán)行為提供實(shí)質(zhì)性的幫助”。②崔國(guó)斌:《專利法:原理與案例(第二版)》,北京:北京大學(xué)出版社,2016年,第579頁(yè)。兩者都是從單一行為主體的角度來規(guī)制專利侵權(quán)風(fēng)險(xiǎn)。但現(xiàn)階段人工智能生成發(fā)明的過程需要基礎(chǔ)數(shù)據(jù)提供方、技術(shù)層設(shè)計(jì)方、應(yīng)用層開發(fā)方等多主體的配合,往往其分步的行為經(jīng)過累加才構(gòu)成專利權(quán)利要求書中的全部技術(shù)特征,而現(xiàn)行法單一主體的認(rèn)定模式易導(dǎo)致法律規(guī)制的困境。

    2.智能機(jī)器發(fā)明過程中證明責(zé)任分配的難題

    在舉證責(zé)任分配問題上,因人工智能算法具備隱藏性和難以解釋性,原告很難提供證據(jù)證明被告使用了專利方法,因此具有適用舉證責(zé)任倒置的必要。而《專利法》第66 條只設(shè)置了“新產(chǎn)品制造方法”這一種舉證責(zé)任倒置的規(guī)定。當(dāng)適用到人工智能自主發(fā)明侵權(quán)問題時(shí),一方面存在著數(shù)據(jù)代碼能否被認(rèn)定為“產(chǎn)品”的困境;另一方面,司法解釋對(duì)“新產(chǎn)品”的認(rèn)定是依據(jù)技術(shù)方案是否在專利申請(qǐng)日以前為國(guó)內(nèi)外的公眾所知,③2009年《最高人民法院關(guān)于審理侵犯專利權(quán)糾紛案件應(yīng)用法律若干問題的解釋》第17條。其采用的是專利新穎性審查時(shí)認(rèn)定的結(jié)論,而不是侵權(quán)行為發(fā)生時(shí)的結(jié)論,本質(zhì)上就與訴訟中判斷的行為法益侵害性存在評(píng)判時(shí)間的不同步。因人工智能具備不間斷公布現(xiàn)有技術(shù)的能力,當(dāng)訴訟間隔過長(zhǎng)時(shí),被告方使用的技術(shù)方案在多數(shù)情況下不具備侵犯權(quán)利人專利權(quán)的情形,此時(shí)仍一律要求其適用“舉證責(zé)任倒置”,實(shí)際上不合理地加重了被告方的舉證責(zé)任。

    (三)人工智能自主發(fā)明帶來的反競(jìng)爭(zhēng)風(fēng)險(xiǎn)

    人工智能可以不間斷地生成技術(shù)方案,一部分經(jīng)過申請(qǐng)獲得了專利權(quán),而大部分以現(xiàn)有技術(shù)的形式被創(chuàng)造出來進(jìn)入公共領(lǐng)域,在提供社會(huì)公共技術(shù)的同時(shí),也帶來了后續(xù)專利權(quán)實(shí)施與流轉(zhuǎn)的風(fēng)險(xiǎn)。由于企業(yè)經(jīng)營(yíng)策略的指引,人工智能的所有者可憑借機(jī)器的快速創(chuàng)造能力,圍繞自身專利權(quán)建設(shè)“專利圍墻”——達(dá)到擴(kuò)大自身專利權(quán)范圍,防止競(jìng)爭(zhēng)對(duì)手獲得跟隨發(fā)明的目的;④Ben Hattenbach,Joshua Glucoft,“Patents in an Era of Infinite Monkeys and Artificial Intelligence”,Stanford Technology Law Review (2015),p.36.也可以圍繞競(jìng)爭(zhēng)對(duì)手的專利構(gòu)建“專利牢籠”,⑤劉鑫、覃楚翔:《人工智能時(shí)代的專利法:?jiǎn)栴}、挑戰(zhàn)與應(yīng)對(duì)》,《電子知識(shí)產(chǎn)權(quán)》2021年第1期。讓對(duì)手已獲得專利權(quán)的核心專利無(wú)法充分實(shí)施,從而使專利喪失價(jià)值。在這一過程中,存在不正當(dāng)競(jìng)爭(zhēng)和壟斷相關(guān)市場(chǎng)的反競(jìng)爭(zhēng)風(fēng)險(xiǎn),可能損害消費(fèi)者和其他經(jīng)營(yíng)者的利益。

    人工智能因具備“機(jī)器學(xué)習(xí)”的能力,在其發(fā)明過程中,能脫離初始設(shè)定自主修正程序,產(chǎn)生新的算法,再依照設(shè)定目的創(chuàng)造技術(shù)方案,這給反競(jìng)爭(zhēng)行為的規(guī)制帶來了困難。市場(chǎng)主體可以以自己對(duì)機(jī)器發(fā)明的過程并不知情,因而不具備破壞競(jìng)爭(zhēng)的主觀要素來免除法律責(zé)任。類似地,執(zhí)法機(jī)構(gòu)也因技術(shù)力量的缺陷難以認(rèn)定公開的技術(shù)方案對(duì)市場(chǎng)產(chǎn)生的限制競(jìng)爭(zhēng)效果而難以做出處理決定。同時(shí),現(xiàn)行《中華人民共和國(guó)反不正當(dāng)競(jìng)爭(zhēng)法》(以下簡(jiǎn)稱《反不當(dāng)競(jìng)爭(zhēng)法》)和《中華人民共和國(guó)反壟斷法》(以下簡(jiǎn)稱《反壟斷法》)對(duì)利用人工智能技術(shù)進(jìn)行的破壞競(jìng)爭(zhēng)行為尚無(wú)明確的法律規(guī)制依據(jù),僅就濫用知識(shí)產(chǎn)權(quán)的行為在《反壟斷法》第55條進(jìn)行了抽象性的規(guī)定。目前,明確的競(jìng)爭(zhēng)法調(diào)整依據(jù)與有效的管控手段的缺失,給法律適用的正當(dāng)性與責(zé)任認(rèn)定造成了困難,使競(jìng)爭(zhēng)法難以發(fā)揮對(duì)專利法調(diào)整外延的補(bǔ)充規(guī)制作用?,F(xiàn)行法律制度需要及時(shí)調(diào)整,以應(yīng)對(duì)產(chǎn)業(yè)主體通過人工智能自主生成海量現(xiàn)有技術(shù),破壞競(jìng)爭(zhēng)秩序的風(fēng)險(xiǎn)。

    (四)人工智能自主發(fā)明導(dǎo)致的倫理道德風(fēng)險(xiǎn)

    人工智能依賴大數(shù)據(jù),以效率為導(dǎo)向的學(xué)習(xí)模式往往無(wú)法兼顧人類的倫理價(jià)值,其生成發(fā)明的過程中存在著結(jié)構(gòu)性的倫理道德風(fēng)險(xiǎn)。一方面,人工智能算法在獲取運(yùn)用數(shù)據(jù)時(shí)側(cè)重使用關(guān)聯(lián)推理,卻忽視了人類思維中感性的價(jià)值追求。人類社會(huì)建立的基本權(quán)利、平等正義價(jià)值在目前的人工智能搜集整合數(shù)據(jù)的發(fā)明過程中缺少應(yīng)有的重視。如瑞安·艾伯特(Ryan Abott)所言:“一個(gè)機(jī)器如果沒有道德指南,就能以對(duì)人類有害的方式進(jìn)行創(chuàng)新?!雹賀yan Abbott,Hal the Inventor:Big Data and Its Use by Artificial Intelligence,in Big data is not a mono‐lith,MIT Press,2016,p.187.另一方面,當(dāng)人工智能學(xué)習(xí)數(shù)據(jù)建立模型時(shí),在現(xiàn)有的法律規(guī)定的許可模式下,市場(chǎng)主體面對(duì)許可主體過多、成本過高等問題,難以獲得合法授權(quán)。

    懷疑論者大衛(wèi)·休謨認(rèn)為,在現(xiàn)實(shí)生活中,“所有的一切推論和結(jié)論在于經(jīng)驗(yàn)”,“根據(jù)經(jīng)驗(yàn)來的一切推論都是習(xí)慣的結(jié)果,而不是理性的結(jié)果”,“這在各方面看來都不是必然的”。②〔英〕休謨:《人類理解研究》,關(guān)文運(yùn)譯,北京:商務(wù)印書館,1957年,第32、33、42頁(yè)。由此審視智能機(jī)器發(fā)明過程所隱含的法哲學(xué)問題,即通過搜集海量數(shù)據(jù)自主進(jìn)行關(guān)聯(lián)學(xué)習(xí)的進(jìn)路本身存在著后驗(yàn)概率永遠(yuǎn)不可能達(dá)到1 的認(rèn)知結(jié)構(gòu)風(fēng)險(xiǎn)。質(zhì)言之,算法對(duì)外部對(duì)象進(jìn)行數(shù)據(jù)化建模的這一過程是采用相關(guān)性的關(guān)聯(lián)推理,而這樣搭建的因果聯(lián)系無(wú)法達(dá)到100%的可靠性,而多層次的網(wǎng)絡(luò)結(jié)構(gòu)又將此類風(fēng)險(xiǎn)進(jìn)行累積。人工智能只具有部分的人類認(rèn)知能力,將簡(jiǎn)單的行為與思考模式進(jìn)行量化,但對(duì)尊嚴(yán)、幸福等價(jià)值難以感知,這增強(qiáng)了因技術(shù)風(fēng)險(xiǎn)引發(fā)的倫理風(fēng)險(xiǎn)的破壞力。

    二、人工智能自主發(fā)明社會(huì)風(fēng)險(xiǎn)的法律應(yīng)對(duì)

    科學(xué)技術(shù)是一把雙刃劍。風(fēng)險(xiǎn)這一概念本身具有文明的意涵,人們能夠通過可預(yù)見性的制度設(shè)計(jì)對(duì)不可控的事情進(jìn)行預(yù)先防范。③〔德〕烏爾里?!へ惪耍骸讹L(fēng)險(xiǎn)社會(huì)》,何博聞譯,南京:譯林出版社,2004年,第4頁(yè)。就法學(xué)領(lǐng)域而言,如何通過權(quán)利義務(wù)的安排化解智能機(jī)器生成發(fā)明過程產(chǎn)生的社會(huì)風(fēng)險(xiǎn),對(duì)保障人工智能技術(shù)的健康運(yùn)行具有重要意義。

    (一)明確專利法保護(hù)模式

    對(duì)一種可能帶來市場(chǎng)利益且會(huì)打破傳統(tǒng)科研競(jìng)爭(zhēng)地位的創(chuàng)造力機(jī)器,其發(fā)明成果保護(hù)模式的合理選擇是解決產(chǎn)業(yè)社會(huì)矛盾與制度風(fēng)險(xiǎn)的關(guān)鍵,其能夠緩解機(jī)器發(fā)明存在的現(xiàn)代性的負(fù)面影響。

    1.適用專利法保護(hù)人工智能自主發(fā)明的正當(dāng)性

    有學(xué)者提出,智能機(jī)器發(fā)明應(yīng)當(dāng)直接進(jìn)入市場(chǎng),因?yàn)槠鋺{借市場(chǎng)的領(lǐng)先地位能夠取得足夠的競(jìng)爭(zhēng)優(yōu)勢(shì)以激勵(lì)技術(shù)的發(fā)展,而機(jī)器發(fā)明因多主體共同完成發(fā)明的模式難以確定其背后需激勵(lì)的人類主體而缺乏專利保護(hù)的正當(dāng)性,不應(yīng)適用專利法保護(hù)。④Shlomit Yanisky-Ravid,Xiaoqiong Liu,“When artificial intelligence systems produce inventions: the 3A era and an alternative model for patent law”,Cardozo Law Review,2018,pp.2215-2263.但從社會(huì)風(fēng)險(xiǎn)的角度看,按照以上觀點(diǎn),智能機(jī)器發(fā)明因缺少法律授權(quán),隱含著社會(huì)沖突的可能性,會(huì)由于缺少法律制度塔建的穩(wěn)定的社會(huì)架構(gòu),加劇上下游技術(shù)鏈間的矛盾。同時(shí),秘密保護(hù)模式耗費(fèi)了本應(yīng)被投入到技術(shù)研發(fā)中的資本,阻隔了社會(huì)公眾應(yīng)當(dāng)享有的權(quán)益。因?yàn)閹缀跞魏我环N知識(shí)產(chǎn)品都或多或少參考了社會(huì)上前人的科學(xué)研究成果,⑤馮曉青:《知識(shí)產(chǎn)權(quán)法哲學(xué)》,北京:商務(wù)印書館,2003年,第89頁(yè)。而社會(huì)公眾無(wú)法享有這樣的技術(shù)成就也由此動(dòng)搖了權(quán)利人獲得財(cái)產(chǎn)利益的正當(dāng)性。本文認(rèn)為,人工智能自主發(fā)明物不應(yīng)因其特殊的發(fā)明形式被排除出專利法保護(hù)框架,具體理由如下:一方面,闡述專利制度正當(dāng)性的激勵(lì)理論仍能繼續(xù)激勵(lì)該產(chǎn)業(yè)上下游研發(fā)的積極性,保障行業(yè)效益;另一方面,機(jī)器發(fā)明模式不僅符合專利審查指南形式要求的“采用技術(shù)手段解決技術(shù)問題,以獲得符合自然規(guī)律的技術(shù)效果的方案”,①《中華人民共和國(guó)專利審查指南》第二部分第1章第2條第3款。還滿足專利制度的保護(hù)內(nèi)涵,即“與著作權(quán)制度中作者與作品的關(guān)系相比,專利制度側(cè)重于保護(hù)的是發(fā)明成果的創(chuàng)造性和實(shí)用性”。②朱雪忠、張廣偉:《人工智能產(chǎn)生的技術(shù)成果可專利性及其權(quán)利歸屬研究》,《情報(bào)雜志》2018年第2期。因此應(yīng)當(dāng)認(rèn)定人工智能發(fā)明物符合專利法適格標(biāo)的。

    2.人工智能自主發(fā)明的權(quán)利歸屬

    誠(chéng)然,我們應(yīng)認(rèn)識(shí)到,“人工智能生成發(fā)明主體資格缺失是其申請(qǐng)、獲得專利權(quán)的最大阻礙”。③孜里米拉·艾尼瓦爾、姚葉:《人工智能技術(shù)對(duì)專利制度的挑戰(zhàn)與應(yīng)對(duì)》,《電子知識(shí)產(chǎn)權(quán)》2020年第4期。在專利申請(qǐng)權(quán)、專利權(quán)歸屬等問題上,本文贊同吳漢東教授論述的“承認(rèn)‘機(jī)器發(fā)明人’這一法律事實(shí),參照職務(wù)發(fā)明專利,賦予自然人或自然人的集合以專有權(quán)利”④吳漢東:《人工智能生成發(fā)明的專利法之問》,《當(dāng)代法學(xué)》2019年第4期。的觀點(diǎn),以實(shí)現(xiàn)人工智能自主發(fā)明技術(shù)與現(xiàn)行專利法律制度間矛盾的消解媾和,化解現(xiàn)代化風(fēng)險(xiǎn)可能帶來的制度失靈,也即在認(rèn)定人工智能作為發(fā)明人的基礎(chǔ)上,將專利的申請(qǐng)和取得權(quán)分配給人類主體即“專利的實(shí)際控制者”。通過合理的制度設(shè)計(jì)確認(rèn)利益歸屬,避免各方主體爭(zhēng)搶權(quán)益、推諉責(zé)任的市場(chǎng)不穩(wěn)定風(fēng)險(xiǎn)。

    (二)明確專利侵權(quán)的法律規(guī)制路徑

    在創(chuàng)造力機(jī)器的發(fā)明過程中,其發(fā)明成果的完成需要多主體共同配合,而此種創(chuàng)造模式在不透明算法獲取數(shù)據(jù)的過程中,產(chǎn)生了依照現(xiàn)行法律難以認(rèn)定侵權(quán)主體、權(quán)利人舉證困難等風(fēng)險(xiǎn)。本文建議引入“控制與管理”規(guī)則應(yīng)對(duì)智能機(jī)器引發(fā)的分步式侵權(quán)問題,并細(xì)化舉證責(zé)任倒置的制度安排,確保權(quán)利得到及時(shí)救濟(jì)。

    1.侵權(quán)主體的認(rèn)定

    有學(xué)者建議借鑒美國(guó)司法實(shí)踐中采用的“控制與管理”規(guī)則作為現(xiàn)行法侵權(quán)認(rèn)定規(guī)則的補(bǔ)充,⑤孜里米拉·艾尼瓦爾:《人工智能發(fā)明創(chuàng)造中的專利侵權(quán)困境及其應(yīng)對(duì)》,《中國(guó)科技論壇》2021年第4期。作為多方主體聯(lián)合侵權(quán)的責(zé)任承擔(dān)依據(jù)。美國(guó)法院依照《美國(guó)法典》第35 篇第271(a)節(jié)對(duì)BMC Res 案的判決認(rèn)為:“在專利侵權(quán)的情況下,被告不能因此通過讓其他人代表其執(zhí)行一個(gè)或多個(gè)所主張的步驟來避免直接侵權(quán)的責(zé)任”。⑥BMC Res.,Inc. v. Paymentech,L.P.,498 F.3d 1373 (Fed. Cir. 2007).此即“控制與管理”規(guī)則的具體應(yīng)用。該原則用于確認(rèn)多侵權(quán)行為中的聯(lián)合主體間法律關(guān)系,并據(jù)此判斷侵權(quán)責(zé)任的承擔(dān)主體。本文認(rèn)為,此種做法可供我國(guó)借鑒。

    具體言之,將此原則應(yīng)用于人工智能專利侵權(quán)訴訟時(shí),首先應(yīng)當(dāng)考慮聯(lián)合發(fā)明中是否存在著委托代理合同,并將委托者認(rèn)定為控制者。而在沒有委托代理合同時(shí),應(yīng)當(dāng)統(tǒng)籌技術(shù)資本投入占比等多因素考量在多步驟行為中起到的控制作用,綜合判斷聯(lián)合主體的控制者,在各主體的技術(shù)資本比例難以確定的情況下,應(yīng)當(dāng)將侵權(quán)責(zé)任的風(fēng)險(xiǎn)歸屬于人工智能自主發(fā)明物的權(quán)利人,以實(shí)現(xiàn)權(quán)責(zé)一致。

    2.證明責(zé)任的分配

    前已述及,我國(guó)現(xiàn)行《專利法》第66條僅規(guī)定了“產(chǎn)品的制造方法”的證明責(zé)任倒置。但在人工智能時(shí)代,算法軟件應(yīng)當(dāng)被同等保護(hù),對(duì)軟件算法、數(shù)據(jù)傳輸改進(jìn)的新方法也應(yīng)適用舉證責(zé)任倒置。因?yàn)槿斯ぶ悄茏灾靼l(fā)明的應(yīng)用情景不只包括具備物理結(jié)構(gòu)的產(chǎn)品,也包括能夠提升計(jì)算機(jī)性能的代碼。本文建議將產(chǎn)品制造方法外延進(jìn)行擴(kuò)張,將有創(chuàng)造性的數(shù)據(jù)代碼的完成方法也列入舉證責(zé)任倒置的范圍,防止其被人工智能隨意抓取。同時(shí),對(duì)于算法產(chǎn)品的界定不應(yīng)局限于細(xì)節(jié)完全的匹配,而應(yīng)從組成結(jié)構(gòu)與功能上看是否能夠?qū)崿F(xiàn)相同的技術(shù)效果,據(jù)此評(píng)判產(chǎn)品的制造方法是否侵犯專利權(quán)。

    另外,還應(yīng)從以下幾方面細(xì)化舉證責(zé)任倒置的規(guī)定:第一,為責(zé)任倒置設(shè)置一定的期間,以化解不合理加重被告方負(fù)擔(dān)的情形。例如設(shè)置一定年限的除斥期間,當(dāng)超該年限而不行使訴權(quán),則證明責(zé)任恢復(fù)由原告承擔(dān)。第二,應(yīng)結(jié)合投入市場(chǎng)的時(shí)間綜合判斷是否應(yīng)當(dāng)?shù)怪门e證責(zé)任,“不能一概以申請(qǐng)日作為標(biāo)準(zhǔn)”。①劉強(qiáng):《技術(shù)網(wǎng)絡(luò)化背景下的專利侵權(quán)判定——以云計(jì)算技術(shù)專利權(quán)為視角》,《北方法學(xué)》2014年第2期。若產(chǎn)品沒有投入市場(chǎng),而被訴方能夠用類似的技術(shù)方案生成相同產(chǎn)品,需要證明具有較大的侵權(quán)可能性,應(yīng)適用舉證責(zé)任倒置的規(guī)定。而在產(chǎn)品已經(jīng)投入市場(chǎng)的情況下,法院應(yīng)結(jié)合權(quán)利申請(qǐng)日前技術(shù)公開情況與相關(guān)市場(chǎng)的消費(fèi)者在投入市場(chǎng)日是否見過類似質(zhì)量、功能的產(chǎn)品,綜合人工智能公開的技術(shù)方案判斷是否需要倒置證明責(zé)任。當(dāng)有較大的侵權(quán)可能性時(shí),需由權(quán)利人舉證投入市場(chǎng)的時(shí)間證明產(chǎn)品屬于新產(chǎn)品,再由被訴方承擔(dān)證明責(zé)任。

    (三)設(shè)置合理的競(jìng)爭(zhēng)法應(yīng)對(duì)措施

    為應(yīng)對(duì)市場(chǎng)主體利用人工智能低成本公開技術(shù)信息,圍繞自身或他人專利進(jìn)行現(xiàn)有技術(shù)布局,達(dá)到改變專利價(jià)值或取得壟斷地位的隱性風(fēng)險(xiǎn),本文建議以公開現(xiàn)有技術(shù)的危害程度對(duì)破壞競(jìng)爭(zhēng)秩序的行為進(jìn)行區(qū)分,完善《反不正當(dāng)競(jìng)爭(zhēng)法》《反壟斷法》的責(zé)任條款,避免“背離了知識(shí)產(chǎn)權(quán)保護(hù)人類創(chuàng)造物的目的,并破壞了知識(shí)產(chǎn)品應(yīng)有的市場(chǎng)競(jìng)爭(zhēng)秩序”。②劉強(qiáng):《人工智能對(duì)知識(shí)產(chǎn)權(quán)制度的理論挑戰(zhàn)及回應(yīng)》,《法學(xué)論壇》2019年第6期。

    1.不正當(dāng)競(jìng)爭(zhēng)行為的法律應(yīng)對(duì)

    當(dāng)運(yùn)用智能機(jī)器生成現(xiàn)有技術(shù)的行為構(gòu)成“以技術(shù)手段制約同類技術(shù)的運(yùn)用”③劉繼峰:《競(jìng)爭(zhēng)法學(xué)(第三版)》,北京:北京大學(xué)出版社,2018年,第375頁(yè)。時(shí),應(yīng)認(rèn)定為不正當(dāng)競(jìng)爭(zhēng)行為,并適用《反不正當(dāng)競(jìng)爭(zhēng)法》加以規(guī)制。一方面海量的現(xiàn)有技術(shù)可能扭曲市場(chǎng)上既有專利的價(jià)值,將人工智能技術(shù)異化為競(jìng)爭(zhēng)工具;另一方面,此種競(jìng)爭(zhēng)行為也違反了商業(yè)道德,破壞市場(chǎng)合理競(jìng)爭(zhēng)機(jī)制,具有可歸責(zé)性。

    申言之,在具體實(shí)踐中應(yīng)先適用司法手段,依照《反不正當(dāng)競(jìng)爭(zhēng)法》中“經(jīng)營(yíng)者在生產(chǎn)經(jīng)營(yíng)活動(dòng)中,應(yīng)當(dāng)遵循自愿、平等、公平、誠(chéng)信的原則,遵守法律和商業(yè)道德”的原則性的規(guī)定,結(jié)合公平競(jìng)爭(zhēng)原則,規(guī)制濫用人工智能技術(shù)侵害競(jìng)爭(zhēng)對(duì)手的不正當(dāng)競(jìng)爭(zhēng)行為。在不斷積累行政執(zhí)法素材與案件經(jīng)驗(yàn)的基礎(chǔ)上,制定人工智能反不正當(dāng)競(jìng)爭(zhēng)行為的具體規(guī)制條款,適時(shí)增設(shè)原則性規(guī)定,明確規(guī)制的正當(dāng)性。如在《專利法》第20條增加“采用不正當(dāng)競(jìng)爭(zhēng)的手段貶損他人專利權(quán)利的,依照《中華人民共和國(guó)反不正當(dāng)競(jìng)爭(zhēng)法》處理”。同時(shí)在《反不正當(dāng)競(jìng)爭(zhēng)法》第12條第4款前增設(shè)“以明顯違法的方式使用人工智能網(wǎng)絡(luò)技術(shù)侵害專利權(quán)人利益構(gòu)成破壞正常經(jīng)營(yíng)活動(dòng)的”作為具體不正當(dāng)行為的判定依據(jù)。此外,在責(zé)任認(rèn)定的過程中,本文建議對(duì)利用人工智能不間斷生成技術(shù)方案的行為采用嚴(yán)格責(zé)任原則,防止市場(chǎng)主體以人工智能具有脫離人類干預(yù)的自主創(chuàng)造能力作為免責(zé)事由逃避責(zé)任。

    2.壟斷行為的判定

    當(dāng)利用人工智能的反競(jìng)爭(zhēng)行為導(dǎo)致了限制、排除競(jìng)爭(zhēng)的消極后果,超過了運(yùn)用技術(shù)手段攻擊競(jìng)爭(zhēng)者具有的特定專利權(quán)的范圍限制時(shí),為保障消費(fèi)群體的利益、維護(hù)市場(chǎng)秩序,須對(duì)該行為適用反壟斷手段進(jìn)行規(guī)制。

    質(zhì)言之,應(yīng)當(dāng)對(duì)經(jīng)營(yíng)者利用人工智能擴(kuò)大自身權(quán)利范圍,以期獲得市場(chǎng)支配地位的情形進(jìn)行限制。通過細(xì)化《反壟斷法》設(shè)置的“經(jīng)營(yíng)者濫用知識(shí)產(chǎn)權(quán),排除、限制競(jìng)爭(zhēng)的行為”的具體規(guī)制步驟,增加以不合法手段擴(kuò)張市場(chǎng)地位的行為的反壟斷法規(guī)制路徑,“避免造成更為嚴(yán)重的市場(chǎng)危害”。④劉鑫、覃楚翔:《人工智能時(shí)代的專利法:?jiǎn)栴}、挑戰(zhàn)與應(yīng)對(duì)》,《電子知識(shí)產(chǎn)權(quán)》2021年第1期。本文建議,一方面,在人工智能反壟斷訴訟中增加責(zé)任承擔(dān)方式,按照其公布方案影響范圍的大小,由專利行政部門依申請(qǐng)給予強(qiáng)制許可或者在一定時(shí)間內(nèi)將其公布的技術(shù)方案不列入現(xiàn)有技術(shù)領(lǐng)域作為責(zé)任承擔(dān)要件。在維護(hù)實(shí)體技術(shù)投資產(chǎn)生的市場(chǎng)效益的同時(shí),保障社會(huì)公眾在市場(chǎng)交易中的選擇權(quán),維護(hù)公共利益。

    另一方面,對(duì)政府實(shí)施的反壟斷行為,反壟斷執(zhí)法部門對(duì)此類案件關(guān)注的重點(diǎn)應(yīng)為是否產(chǎn)生了技術(shù)壁壘,即判斷生成的海量現(xiàn)有技術(shù)是否導(dǎo)致經(jīng)營(yíng)者自身專利權(quán)控制了某一技術(shù)市場(chǎng),或其他企業(yè)的平等競(jìng)爭(zhēng)機(jī)會(huì)的喪失。但我國(guó)反壟斷執(zhí)法機(jī)構(gòu)對(duì)各專業(yè)領(lǐng)域海量技術(shù)方案與專利權(quán)屬之間結(jié)構(gòu)關(guān)系的專業(yè)性知識(shí),難以清楚判定是否構(gòu)成濫用行為。本文建議,可采用專利技術(shù)景觀①專利技術(shù)景觀分析包括專利數(shù)量變化趨勢(shì)、專利質(zhì)量特征與專利結(jié)構(gòu)特征三部分,分別從專利數(shù)量、質(zhì)量與技術(shù)特征三方面描述技術(shù)專利情況。Aharonson B S,Schilling M A,“Mapping the technological landscape:Measuring technology distance,technological footprints,and technology evolution”,Research Policy,2016-1,pp.81-96.追蹤相關(guān)產(chǎn)業(yè)的發(fā)展情況,以明確人工智能公開的現(xiàn)有技術(shù)是否能實(shí)際達(dá)到限制其他經(jīng)營(yíng)者參與技術(shù)市場(chǎng)競(jìng)爭(zhēng)的效果。申言之,利用技術(shù)解決技術(shù)產(chǎn)生的問題,通過人工智能技術(shù)控制監(jiān)管相關(guān)技術(shù)的各企業(yè)占有的份額,并綜合考察該經(jīng)營(yíng)者的財(cái)力和技術(shù)條件,判斷其行為是否能夠產(chǎn)生壟斷相關(guān)市場(chǎng)的風(fēng)險(xiǎn)。

    (四)提高人工智能自主發(fā)明的倫理要求

    1.提高智能算法設(shè)計(jì)的倫理要求

    “安全是人工智能時(shí)代的核心法價(jià)值。”②吳漢東:《人工智能時(shí)代的制度安排與法律規(guī)制》,《法律科學(xué)(西北政法大學(xué)學(xué)報(bào))》2017年第5期。對(duì)處于倫理道德緊張關(guān)系下的人工智能算法設(shè)計(jì)過程,本文建議盡快制定全面的人工智能算法的行業(yè)倫理標(biāo)準(zhǔn)。③吳桂德:《德國(guó)人工智能創(chuàng)造物的知識(shí)產(chǎn)權(quán)法保護(hù)及其啟示》,《電子知識(shí)產(chǎn)權(quán)》2021年第1期。保障公眾的數(shù)據(jù)權(quán)利等其他基本權(quán)益,確保人工智能發(fā)明的積極效果,實(shí)現(xiàn)算法正義。深圳市人工智能行業(yè)協(xié)會(huì)聯(lián)合多家人工智能企業(yè)發(fā)起的《新一代人工智能行業(yè)自律公約》不失為一種有效嘗試。④深圳市人工智能行業(yè)協(xié)會(huì)發(fā)布《由協(xié)會(huì)發(fā)起,首份人工智能行業(yè)自律公約公布》,2019 年8 月18 日,http://www.saiia.org.cn/index.php/2019/08/18/1212/,最后訪問時(shí)間2021年11月9日。為應(yīng)對(duì)損害人類道德的風(fēng)險(xiǎn),應(yīng)當(dāng)在算法設(shè)計(jì)的過程中加入價(jià)值保留的程序設(shè)置,以糾正算法可能帶來的決策風(fēng)險(xiǎn),由算法的程序正義實(shí)現(xiàn)實(shí)質(zhì)正義,即“在設(shè)計(jì)算法的過程中,利用代碼設(shè)定動(dòng)態(tài)因素閾值,從而實(shí)現(xiàn)對(duì)算法運(yùn)行進(jìn)行動(dòng)態(tài)監(jiān)管”。⑤郭哲:《反思算法權(quán)力》,《法學(xué)評(píng)論》2020年第6期。此外,在算法研發(fā)中關(guān)注人類福祉的價(jià)值追求,這也能在一定程度上減少算法對(duì)人類社會(huì)編制的個(gè)人信息繭房分化人類認(rèn)知結(jié)構(gòu),⑥張愛軍、王首航:《算法: 一種新的權(quán)力形態(tài)》,《治理現(xiàn)代化研究》2020 年第1 期。使“人作為目的”的人類社會(huì)的價(jià)值共識(shí)不被人工智能異化。在必要時(shí),本文建議由社會(huì)組織代替公眾進(jìn)行公益訴訟,通過質(zhì)證解釋算法的正當(dāng)性,制止算法對(duì)人類倫理價(jià)值的侵權(quán)行為。

    2.完善數(shù)據(jù)處理活動(dòng)中倫理風(fēng)險(xiǎn)的防控機(jī)制

    我國(guó)《數(shù)據(jù)安全法》第8條規(guī)定:“開展數(shù)據(jù)處理活動(dòng)……不得危害國(guó)家安全、公共利益,不得損害個(gè)人、組織的合法權(quán)益?!痹谌斯ぶ悄軘?shù)據(jù)處理過程中,應(yīng)當(dāng)樹立人類權(quán)利優(yōu)先的基本理念,充分考慮機(jī)器無(wú)法量化的差異性特征。在維護(hù)道德價(jià)值的同時(shí),也要建立適合人工智能發(fā)展的商業(yè)化數(shù)據(jù)流轉(zhuǎn)機(jī)制。

    一方面,應(yīng)加強(qiáng)人工智能算法的產(chǎn)業(yè)自主監(jiān)管。為保障人類利益,應(yīng)注重建設(shè)人工智能調(diào)取數(shù)據(jù)的法律規(guī)范與產(chǎn)業(yè)標(biāo)準(zhǔn),發(fā)揮人工智能社會(huì)組織的自治作用,本文贊同有學(xué)者提出的發(fā)揮社會(huì)責(zé)任披露機(jī)制,完善人工智能算法“元治理”的觀點(diǎn),⑦鄭智航:《人工智能算法的倫理危機(jī)與法律規(guī)制》,《法律科學(xué)(西北政法大學(xué)學(xué)報(bào))》2021年第1期。引導(dǎo)社會(huì)組織合理制定適應(yīng)不同產(chǎn)業(yè)的數(shù)據(jù)調(diào)取的行業(yè)標(biāo)準(zhǔn)或自治章程文件。對(duì)其中容易發(fā)生侵犯人類倫理道德的領(lǐng)域,可由多家產(chǎn)業(yè)主體以聯(lián)合聲明的形式向社會(huì)披露其獲取數(shù)據(jù)的目的與行為的潛在違法性以及監(jiān)督措施——包括公司內(nèi)部設(shè)置數(shù)據(jù)監(jiān)管部門與政府設(shè)置獨(dú)立的數(shù)據(jù)監(jiān)管機(jī)構(gòu)。

    另一方面,應(yīng)建立保障人類尊嚴(yán)的高效數(shù)據(jù)流轉(zhuǎn)機(jī)制。雖然我國(guó)新通過的《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》對(duì)數(shù)據(jù)保護(hù)做出了總體規(guī)定,具有劃時(shí)代的意義,但是對(duì)于具體條款仍然需要結(jié)合人工智能的技術(shù)背景進(jìn)行細(xì)化,完善數(shù)據(jù)處理的法律保護(hù)。應(yīng)通過部門法來補(bǔ)充細(xì)化數(shù)據(jù)控制者、數(shù)據(jù)處理者違法行為類型與責(zé)任,完善數(shù)據(jù)主體的更正權(quán)、清除權(quán)的行使方式,在加強(qiáng)法律監(jiān)管保障人類尊嚴(yán)的同時(shí),優(yōu)化數(shù)據(jù)處理者的權(quán)利行使途徑,加速數(shù)據(jù)資本的商業(yè)運(yùn)轉(zhuǎn)。國(guó)家數(shù)據(jù)安全工作協(xié)調(diào)機(jī)構(gòu)應(yīng)當(dāng)加快制定分類分級(jí)的標(biāo)準(zhǔn)化數(shù)據(jù)保護(hù)文件,構(gòu)建體系完備的國(guó)家數(shù)據(jù)庫(kù),以便產(chǎn)業(yè)主體進(jìn)行數(shù)據(jù)搜集時(shí),按照國(guó)家分類數(shù)據(jù)文件公布的保護(hù)要求并結(jié)合行業(yè)標(biāo)準(zhǔn)做好剔除敏感信息的處理工作,化解使用數(shù)據(jù)過程中的侵犯人類倫理風(fēng)險(xiǎn),同時(shí)加快數(shù)據(jù)價(jià)值的商業(yè)運(yùn)轉(zhuǎn)。

    三、構(gòu)建適應(yīng)人工智能自主發(fā)明治理理念的法律運(yùn)行體系

    社會(huì)風(fēng)險(xiǎn)的有效解決需要明晰的治理理念與完備的法律運(yùn)行體系,實(shí)現(xiàn)社會(huì)組織與政府的共同依法治理,并由全面的監(jiān)督體系保障法律活動(dòng)的合法性,確保人工智能技術(shù)的健康發(fā)展。

    (一)堅(jiān)持預(yù)防性治理理念

    傳統(tǒng)社會(huì)危機(jī)的治理,通常由政府行使單向的權(quán)力作出行政行為,如采取事后管控措施,或由法院通過對(duì)私人主體遭受的侵權(quán)行為進(jìn)行裁判,救濟(jì)被損害的權(quán)利。但是“人工智能因?yàn)榧夹g(shù)發(fā)展過程存在的不可預(yù)測(cè)性與潛在的不可逆性存在著威脅人類存續(xù)可能性的風(fēng)險(xiǎn)。①吳漢東、張平、張曉津:《人工智能對(duì)知識(shí)產(chǎn)權(quán)法律保護(hù)的挑戰(zhàn)》,《中國(guó)法律評(píng)論》2018年第2期。因此需要樹立預(yù)防性的風(fēng)險(xiǎn)防范理念,法治工作要圍繞政府參與、行業(yè)自律、公眾監(jiān)督三方面確保技術(shù)安全。法律體系的建設(shè)要圍繞人類利益優(yōu)先的價(jià)值理念,完善社會(huì)安全與科學(xué)理性并重的智能創(chuàng)新觀念。

    (二)構(gòu)建應(yīng)對(duì)機(jī)器自主發(fā)明的法律運(yùn)行體系

    其一,在法律制定層面,通過設(shè)立專門的人工智能發(fā)展規(guī)劃法,在確保人工智能健康安全發(fā)展的前提下,研究機(jī)器自主發(fā)明的風(fēng)險(xiǎn)規(guī)制問題。在制定該項(xiàng)法律的過程中,須發(fā)揮各部門法的協(xié)調(diào)配合,使制度資源在保障發(fā)明物積極流轉(zhuǎn)的同時(shí),對(duì)發(fā)明過程產(chǎn)生的專利法保護(hù)問題、侵權(quán)訴訟問題、市場(chǎng)競(jìng)爭(zhēng)問題和人類倫理問題統(tǒng)籌考慮,以完備的法律監(jiān)管保障人類福祉。此外,要實(shí)現(xiàn)法律法規(guī)與行業(yè)規(guī)范的有機(jī)銜接,由制定流程簡(jiǎn)便的行業(yè)規(guī)范對(duì)風(fēng)險(xiǎn)快速作出反應(yīng),再由法律法規(guī)從宏觀視角對(duì)成形的技術(shù)風(fēng)險(xiǎn)排除機(jī)制進(jìn)行歸納,運(yùn)用國(guó)家強(qiáng)制力保障落實(shí),以應(yīng)對(duì)不同層面的社會(huì)風(fēng)險(xiǎn)。

    其二,在法律適用層面,如前文所述,由于運(yùn)用智能發(fā)明機(jī)器的社會(huì)主體相較人類發(fā)明者具有快速調(diào)取跨領(lǐng)域數(shù)據(jù)的能力,可能產(chǎn)生侵害第三人利益的風(fēng)險(xiǎn)。同時(shí),產(chǎn)業(yè)主體對(duì)算法的運(yùn)算過程往往采用商業(yè)秘密保護(hù),也使得私人主體在面對(duì)具備黑箱效應(yīng)的機(jī)器發(fā)明侵犯權(quán)益時(shí),遭遇了缺乏技術(shù)手段與訴訟力量不足的困境,很難保障自身權(quán)益。針對(duì)此問題,應(yīng)當(dāng)發(fā)揮社會(huì)組織的作用,由人工智能的社會(huì)組織對(duì)機(jī)器發(fā)明過程中侵犯不特定多數(shù)人權(quán)利的案件進(jìn)行合理評(píng)估,在符合條件時(shí),代替公眾提起公益訴訟,解決權(quán)利救濟(jì)不暢的難題。

    其三,在行政執(zhí)法層面,政府須在嚴(yán)格依法的同時(shí)防止權(quán)力的過度擴(kuò)張。建立寬嚴(yán)適當(dāng)?shù)氖孪阮A(yù)防型監(jiān)管體系,在保護(hù)人類權(quán)益的前提下,避免影響機(jī)器創(chuàng)造能力的發(fā)展。服務(wù)型政府的構(gòu)建須積極轉(zhuǎn)變身份,由單方的監(jiān)管者轉(zhuǎn)向智能技術(shù)的共治者,在充分了解技術(shù)的可解釋性后,排除技術(shù)可能帶來的安全隱患,完善政策支持。政府應(yīng)主動(dòng)聯(lián)合社會(huì)第三方力量,發(fā)揮智能管理優(yōu)勢(shì),運(yùn)用智能算法擘畫機(jī)器發(fā)明領(lǐng)域的技術(shù)景觀,對(duì)智能機(jī)器發(fā)明實(shí)時(shí)監(jiān)管,并不斷優(yōu)化專利結(jié)構(gòu),抵抗外界風(fēng)險(xiǎn)。對(duì)可能涉及公共利益的高技術(shù)發(fā)明授權(quán),筆者建議制定技術(shù)影響評(píng)價(jià)表格,確保公眾對(duì)技術(shù)政策的民主參與權(quán)。

    其四,在法律監(jiān)督層面,筆者建議,一方面,應(yīng)當(dāng)注重發(fā)揮人工智能組織的源頭監(jiān)督力量,通過制定先導(dǎo)性的產(chǎn)業(yè)倫理章程和有效的自律規(guī)范,應(yīng)對(duì)高新技術(shù)對(duì)社會(huì)結(jié)構(gòu)帶來的影響,保障權(quán)利人和社會(huì)公眾的利益。另一方面,由獨(dú)立的監(jiān)管機(jī)構(gòu)監(jiān)督上述人工智能發(fā)展規(guī)劃法的實(shí)施,其職權(quán)包括但不限于,在法律實(shí)施過程中向制定機(jī)關(guān)提出風(fēng)險(xiǎn)防控意見,有權(quán)進(jìn)行關(guān)于社會(huì)組織的自律章程的備案監(jiān)督工作,以及對(duì)個(gè)人或社會(huì)組織的投訴進(jìn)行技術(shù)調(diào)查。此外,本機(jī)構(gòu)還應(yīng)與其他監(jiān)管機(jī)構(gòu)相配合,共同實(shí)現(xiàn)立法、司法、執(zhí)法層面的有力監(jiān)管,確保社會(huì)安全與科學(xué)理性并重的法治理念在法律運(yùn)行的過程中得到彰顯。

    四、結(jié)語(yǔ)

    人工智能具備獨(dú)立的思維模式,當(dāng)它被運(yùn)用到技術(shù)創(chuàng)新領(lǐng)域時(shí),會(huì)產(chǎn)生現(xiàn)行法律難以應(yīng)對(duì)的諸多社會(huì)風(fēng)險(xiǎn)。尤其是,傳統(tǒng)專利法律制度調(diào)整的人與人的社會(huì)關(guān)系在面對(duì)機(jī)器自主發(fā)明時(shí)出現(xiàn)了應(yīng)對(duì)困境。為此,應(yīng)當(dāng)確立人工智能自主發(fā)明專利保護(hù)模式的正當(dāng)性,建立明確的侵權(quán)責(zé)任判定依據(jù),完善競(jìng)爭(zhēng)法應(yīng)對(duì),加強(qiáng)技術(shù)倫理道德要求。同時(shí),在立法、司法、執(zhí)法與法律監(jiān)督四個(gè)主要方面,須建立保障人類福祉、發(fā)揮社會(huì)力量、轉(zhuǎn)變政府角色、共同協(xié)調(diào)監(jiān)督的人工智能自主發(fā)明法治治理體系,以吸收、化解人工智能自主發(fā)明所帶來的風(fēng)險(xiǎn),有效應(yīng)對(duì)新一輪智能革命所帶來的潛在的社會(huì)危機(jī)。

    猜你喜歡
    專利法機(jī)器專利
    美國(guó)新專利法下的“現(xiàn)有技術(shù)”(上)
    專利
    機(jī)器狗
    機(jī)器狗
    Fintech可專利性初探——兼議《專利法》第2條修改
    法大研究生(2019年2期)2019-11-16 00:40:08
    發(fā)明與專利
    傳感器世界(2019年4期)2019-06-26 09:58:44
    未來機(jī)器城
    電影(2018年8期)2018-09-21 08:00:06
    專利侵權(quán)行政執(zhí)法的邊界——兼論《專利法》第四次修改
    專利法第四次修訂中的兩個(gè)重要問題
    無(wú)敵機(jī)器蛛
    国产日韩欧美亚洲二区| 婷婷色麻豆天堂久久| www.色视频.com| 黄片播放在线免费| 最近的中文字幕免费完整| 精品99又大又爽又粗少妇毛片| 日韩在线高清观看一区二区三区| 在线天堂最新版资源| 日韩伦理黄色片| 多毛熟女@视频| 丰满少妇做爰视频| 国产色爽女视频免费观看| 欧美激情国产日韩精品一区| 中文欧美无线码| 夫妻午夜视频| 麻豆乱淫一区二区| 精品视频人人做人人爽| 国产精品久久久久久久电影| 亚洲成国产人片在线观看| 国产精品久久久久久av不卡| 久久精品国产a三级三级三级| 日韩,欧美,国产一区二区三区| 日产精品乱码卡一卡2卡三| 在线观看三级黄色| 国产精品熟女久久久久浪| 久久精品国产鲁丝片午夜精品| 十八禁网站网址无遮挡| 26uuu在线亚洲综合色| 天堂8中文在线网| 久久精品夜色国产| 成人午夜精彩视频在线观看| 国产精品 国内视频| 777米奇影视久久| 亚洲精品国产av成人精品| 国产在线一区二区三区精| 九草在线视频观看| av免费观看日本| 两个人看的免费小视频| 久热久热在线精品观看| videosex国产| 日本wwww免费看| 卡戴珊不雅视频在线播放| 国产精品久久久久久久久免| 免费看光身美女| 超色免费av| 多毛熟女@视频| 人妻少妇偷人精品九色| 蜜桃在线观看..| 一级,二级,三级黄色视频| 久久人人爽人人爽人人片va| 亚洲国产色片| 国产淫语在线视频| 午夜日本视频在线| www.熟女人妻精品国产 | videosex国产| 国产一区亚洲一区在线观看| 人妻少妇偷人精品九色| 久久av网站| 最新的欧美精品一区二区| 国产亚洲午夜精品一区二区久久| 亚洲欧美日韩另类电影网站| 91精品三级在线观看| 亚洲美女黄色视频免费看| av天堂久久9| 久久人人爽人人片av| 80岁老熟妇乱子伦牲交| 久久99蜜桃精品久久| 久久热在线av| 亚洲美女搞黄在线观看| 欧美日韩一区二区视频在线观看视频在线| 自拍欧美九色日韩亚洲蝌蚪91| av不卡在线播放| 在线观看一区二区三区激情| 在线看a的网站| xxx大片免费视频| 99久国产av精品国产电影| 看非洲黑人一级黄片| 亚洲精品久久午夜乱码| 国产乱人偷精品视频| 夫妻性生交免费视频一级片| 国产一区亚洲一区在线观看| 少妇熟女欧美另类| 日本黄色日本黄色录像| 哪个播放器可以免费观看大片| 97在线视频观看| 狂野欧美激情性bbbbbb| 91精品三级在线观看| 国产一区二区在线观看日韩| 亚洲精品国产av成人精品| tube8黄色片| 大话2 男鬼变身卡| www.熟女人妻精品国产 | 欧美bdsm另类| 久久国产亚洲av麻豆专区| 欧美成人午夜免费资源| 欧美日韩综合久久久久久| 一级毛片 在线播放| 我要看黄色一级片免费的| 久久久久久久亚洲中文字幕| 亚洲精品乱码久久久久久按摩| 青春草亚洲视频在线观看| 久久精品久久久久久久性| 蜜桃在线观看..| 香蕉国产在线看| 日韩av免费高清视频| 一二三四中文在线观看免费高清| 亚洲第一av免费看| 免费高清在线观看视频在线观看| 在线观看免费高清a一片| 99久久人妻综合| 在线天堂最新版资源| 又粗又硬又长又爽又黄的视频| 精品一区二区三区视频在线| 高清视频免费观看一区二区| 久久久久久伊人网av| 亚洲av免费高清在线观看| 男人添女人高潮全过程视频| 黄片无遮挡物在线观看| 美国免费a级毛片| 巨乳人妻的诱惑在线观看| 22中文网久久字幕| 国精品久久久久久国模美| 久久精品国产a三级三级三级| av.在线天堂| 多毛熟女@视频| 热re99久久精品国产66热6| 九草在线视频观看| 2018国产大陆天天弄谢| 99热这里只有是精品在线观看| 国产在线视频一区二区| 啦啦啦在线观看免费高清www| 最近2019中文字幕mv第一页| 伦理电影大哥的女人| 亚洲伊人久久精品综合| 亚洲欧美日韩另类电影网站| 成人亚洲欧美一区二区av| 国产精品人妻久久久影院| 国产精品99久久99久久久不卡 | 午夜福利视频在线观看免费| freevideosex欧美| 午夜91福利影院| 久久国产精品男人的天堂亚洲 | 九九爱精品视频在线观看| 最近中文字幕2019免费版| 国产男人的电影天堂91| 欧美成人精品欧美一级黄| 免费高清在线观看日韩| 欧美精品av麻豆av| 97在线人人人人妻| 在线观看免费日韩欧美大片| av电影中文网址| 久久久精品免费免费高清| 两性夫妻黄色片 | 亚洲精品美女久久av网站| 国产精品秋霞免费鲁丝片| 热99国产精品久久久久久7| 日韩在线高清观看一区二区三区| 女人精品久久久久毛片| 亚洲成人一二三区av| 色94色欧美一区二区| 大码成人一级视频| 欧美成人精品欧美一级黄| 国产有黄有色有爽视频| 成人漫画全彩无遮挡| 久久久久久久国产电影| 日韩一本色道免费dvd| 视频中文字幕在线观看| 一个人免费看片子| 一区在线观看完整版| 一本久久精品| 亚洲成av片中文字幕在线观看 | 91久久精品国产一区二区三区| 免费看av在线观看网站| 香蕉丝袜av| av一本久久久久| 国产精品久久久久久久久免| 日韩一本色道免费dvd| 制服丝袜香蕉在线| 国产一区亚洲一区在线观看| 精品99又大又爽又粗少妇毛片| 男女免费视频国产| 免费观看无遮挡的男女| 少妇精品久久久久久久| 国产熟女午夜一区二区三区| 亚洲人与动物交配视频| 九草在线视频观看| 精品一区二区三区四区五区乱码 | 韩国高清视频一区二区三区| av在线app专区| 亚洲第一av免费看| 国产成人精品无人区| 一区二区av电影网| 国产精品女同一区二区软件| 日韩免费高清中文字幕av| 熟妇人妻不卡中文字幕| 女人久久www免费人成看片| 欧美精品一区二区免费开放| 精品一区在线观看国产| 少妇人妻精品综合一区二区| 免费人成在线观看视频色| 精品熟女少妇av免费看| 成人国产av品久久久| 丝袜脚勾引网站| 久久精品国产亚洲av涩爱| 一本—道久久a久久精品蜜桃钙片| 亚洲精品第二区| 伊人亚洲综合成人网| 久久人人爽av亚洲精品天堂| 内地一区二区视频在线| 国产精品国产三级专区第一集| 久久精品国产综合久久久 | 国产av国产精品国产| 夜夜爽夜夜爽视频| 国产一区二区在线观看av| 亚洲精品成人av观看孕妇| 亚洲经典国产精华液单| 国产日韩一区二区三区精品不卡| 精品视频人人做人人爽| 亚洲av成人精品一二三区| 水蜜桃什么品种好| 欧美日韩一区二区视频在线观看视频在线| 久久 成人 亚洲| 两个人免费观看高清视频| 亚洲欧美成人综合另类久久久| 亚洲人与动物交配视频| 色网站视频免费| 国产精品女同一区二区软件| 精品一区二区三卡| 亚洲av.av天堂| 欧美丝袜亚洲另类| 男女边摸边吃奶| 精品少妇内射三级| 亚洲精品一二三| 18禁裸乳无遮挡动漫免费视频| 国产精品一二三区在线看| 香蕉丝袜av| 精品少妇久久久久久888优播| 天天影视国产精品| 亚洲av男天堂| 自线自在国产av| 18在线观看网站| 性色avwww在线观看| 久久av网站| 又粗又硬又长又爽又黄的视频| 狠狠精品人妻久久久久久综合| 22中文网久久字幕| 国产精品嫩草影院av在线观看| 国产一区二区三区综合在线观看 | 国产探花极品一区二区| 国产视频首页在线观看| 亚洲国产看品久久| 七月丁香在线播放| 99久久人妻综合| 香蕉国产在线看| 国产精品一区www在线观看| 免费av不卡在线播放| 亚洲av电影在线观看一区二区三区| 国产高清三级在线| 七月丁香在线播放| 亚洲美女搞黄在线观看| 日韩中字成人| 国产亚洲一区二区精品| 18在线观看网站| 国内精品宾馆在线| 成人亚洲欧美一区二区av| 黄色怎么调成土黄色| 精品一品国产午夜福利视频| 免费不卡的大黄色大毛片视频在线观看| 国产精品久久久久久精品古装| 美女大奶头黄色视频| 美女内射精品一级片tv| 性高湖久久久久久久久免费观看| 啦啦啦中文免费视频观看日本| 久久毛片免费看一区二区三区| 免费不卡的大黄色大毛片视频在线观看| 在线亚洲精品国产二区图片欧美| 成人手机av| 日韩 亚洲 欧美在线| 最近中文字幕2019免费版| 看免费av毛片| 亚洲精品美女久久久久99蜜臀 | videosex国产| 国产1区2区3区精品| 18禁国产床啪视频网站| 男女高潮啪啪啪动态图| 80岁老熟妇乱子伦牲交| 国产亚洲午夜精品一区二区久久| 精品视频人人做人人爽| 2018国产大陆天天弄谢| 男人添女人高潮全过程视频| 欧美精品国产亚洲| 国产色婷婷99| 五月玫瑰六月丁香| 欧美精品高潮呻吟av久久| 国产精品秋霞免费鲁丝片| 蜜桃国产av成人99| 亚洲熟女精品中文字幕| 999精品在线视频| a级毛片在线看网站| 国产在视频线精品| 久久国产精品大桥未久av| 最近中文字幕高清免费大全6| 亚洲精华国产精华液的使用体验| 亚洲欧洲精品一区二区精品久久久 | 精品国产乱码久久久久久小说| 黄网站色视频无遮挡免费观看| 一级片免费观看大全| 日本欧美国产在线视频| 香蕉丝袜av| 嫩草影院入口| 性高湖久久久久久久久免费观看| 久久 成人 亚洲| 国产探花极品一区二区| 看免费av毛片| 人人妻人人爽人人添夜夜欢视频| 久久综合国产亚洲精品| 亚洲国产精品999| 激情五月婷婷亚洲| 午夜免费观看性视频| 大码成人一级视频| 国产色婷婷99| 一边亲一边摸免费视频| 亚洲第一av免费看| 一级片'在线观看视频| 涩涩av久久男人的天堂| 国产精品国产三级国产av玫瑰| 天天躁夜夜躁狠狠躁躁| 久久精品久久久久久噜噜老黄| 黄色 视频免费看| 免费人妻精品一区二区三区视频| 在线观看www视频免费| 亚洲精品日韩在线中文字幕| 国产黄色视频一区二区在线观看| 午夜日本视频在线| 黄网站色视频无遮挡免费观看| 日韩av不卡免费在线播放| 亚洲成人手机| 欧美97在线视频| 免费播放大片免费观看视频在线观看| 女性被躁到高潮视频| 久久精品久久精品一区二区三区| 亚洲成人一二三区av| 欧美日韩综合久久久久久| 97在线视频观看| 国产精品蜜桃在线观看| 国产成人精品久久久久久| 日本av手机在线免费观看| 久久国产精品男人的天堂亚洲 | 国产 精品1| 少妇高潮的动态图| 国产精品免费大片| 国产无遮挡羞羞视频在线观看| 精品国产露脸久久av麻豆| 久久热在线av| 国产高清三级在线| 日本av免费视频播放| 大香蕉97超碰在线| 人人妻人人爽人人添夜夜欢视频| 一级毛片 在线播放| 韩国高清视频一区二区三区| 九九在线视频观看精品| 两个人看的免费小视频| 少妇精品久久久久久久| 国产精品成人在线| av电影中文网址| 高清视频免费观看一区二区| av又黄又爽大尺度在线免费看| 久久久精品区二区三区| 亚洲第一区二区三区不卡| 欧美日韩视频高清一区二区三区二| 国产亚洲精品第一综合不卡 | 国产欧美日韩综合在线一区二区| 亚洲精品国产av成人精品| 国产av精品麻豆| 一区二区三区乱码不卡18| 精品国产露脸久久av麻豆| av电影中文网址| 欧美日韩一区二区视频在线观看视频在线| 亚洲精品国产av成人精品| 中文字幕人妻丝袜制服| 美女国产高潮福利片在线看| 亚洲精品aⅴ在线观看| 9热在线视频观看99| 边亲边吃奶的免费视频| 一级黄片播放器| 欧美日韩成人在线一区二区| 性色av一级| 日本av免费视频播放| 国产精品久久久久久久久免| 看非洲黑人一级黄片| 久久久久久人妻| 国产一区二区在线观看av| 男女午夜视频在线观看 | 国产午夜精品一二区理论片| 两个人看的免费小视频| 欧美激情极品国产一区二区三区 | 精品福利永久在线观看| 国产精品国产三级国产专区5o| 街头女战士在线观看网站| 热re99久久精品国产66热6| 亚洲天堂av无毛| 久热久热在线精品观看| 极品人妻少妇av视频| 老女人水多毛片| 中文精品一卡2卡3卡4更新| 午夜福利乱码中文字幕| 中国国产av一级| 91精品三级在线观看| 久久 成人 亚洲| 成人亚洲欧美一区二区av| 久久国内精品自在自线图片| 男女下面插进去视频免费观看 | 看非洲黑人一级黄片| 黑人巨大精品欧美一区二区蜜桃 | 国产不卡av网站在线观看| 国产高清国产精品国产三级| 亚洲久久久国产精品| 一区二区三区四区激情视频| 九草在线视频观看| 亚洲精品国产av成人精品| 国产成人精品无人区| 侵犯人妻中文字幕一二三四区| 91国产中文字幕| 国产欧美日韩一区二区三区在线| 国产一区二区在线观看av| 国产高清三级在线| av一本久久久久| 久久久久久久久久成人| 亚洲,一卡二卡三卡| 亚洲成人av在线免费| 老司机亚洲免费影院| 中文天堂在线官网| 免费看av在线观看网站| 久久这里只有精品19| av在线老鸭窝| 精品一区在线观看国产| 国产欧美亚洲国产| 又黄又粗又硬又大视频| 一级,二级,三级黄色视频| 在线观看www视频免费| 欧美bdsm另类| 在线观看一区二区三区激情| 免费av中文字幕在线| 欧美激情 高清一区二区三区| 色视频在线一区二区三区| 国产一区二区激情短视频 | 国产免费又黄又爽又色| 亚洲精品国产色婷婷电影| 十八禁网站网址无遮挡| av电影中文网址| 久久久久久久久久久久大奶| 国产乱来视频区| 美女主播在线视频| 丁香六月天网| 亚洲精品国产色婷婷电影| 亚洲精品美女久久久久99蜜臀 | 亚洲av中文av极速乱| 99热全是精品| 亚洲熟女精品中文字幕| 国产亚洲精品第一综合不卡 | 捣出白浆h1v1| 亚洲精品国产av成人精品| 一级片免费观看大全| 天堂俺去俺来也www色官网| 人人妻人人澡人人看| 国产色爽女视频免费观看| 免费av中文字幕在线| 久久久久精品人妻al黑| 一本大道久久a久久精品| 国产永久视频网站| 如何舔出高潮| 国产一区二区在线观看av| 男人添女人高潮全过程视频| 综合色丁香网| 你懂的网址亚洲精品在线观看| 国产黄色视频一区二区在线观看| 最黄视频免费看| 一个人免费看片子| 成人18禁高潮啪啪吃奶动态图| 五月开心婷婷网| 最近手机中文字幕大全| 免费高清在线观看视频在线观看| 久久精品国产亚洲av天美| 国产男人的电影天堂91| 亚洲久久久国产精品| 日韩欧美精品免费久久| 日韩一本色道免费dvd| 女人被躁到高潮嗷嗷叫费观| 大码成人一级视频| 欧美人与善性xxx| 日韩欧美精品免费久久| freevideosex欧美| 乱人伦中国视频| 少妇的逼好多水| 精品少妇黑人巨大在线播放| 欧美人与性动交α欧美软件 | 日日啪夜夜爽| 国产片内射在线| videosex国产| 九色亚洲精品在线播放| 欧美人与性动交α欧美精品济南到 | 黄网站色视频无遮挡免费观看| 亚洲美女视频黄频| 国产av一区二区精品久久| 国精品久久久久久国模美| 永久网站在线| 亚洲成人一二三区av| av免费在线看不卡| 尾随美女入室| 日韩欧美精品免费久久| 18在线观看网站| 熟妇人妻不卡中文字幕| 国产精品三级大全| 国产白丝娇喘喷水9色精品| 老司机影院成人| 亚洲美女黄色视频免费看| 在线观看人妻少妇| 亚洲国产精品一区三区| 熟女电影av网| 热re99久久精品国产66热6| 我的女老师完整版在线观看| 久久av网站| 亚洲精品国产av成人精品| 超色免费av| 精品亚洲成国产av| 久久人人爽av亚洲精品天堂| 日本免费在线观看一区| 另类精品久久| 中国三级夫妇交换| 色5月婷婷丁香| 一级毛片我不卡| 视频在线观看一区二区三区| 日日啪夜夜爽| 成人漫画全彩无遮挡| 国产熟女欧美一区二区| 国产69精品久久久久777片| 成人国语在线视频| 亚洲久久久国产精品| 2021少妇久久久久久久久久久| 香蕉国产在线看| 日本欧美视频一区| 国精品久久久久久国模美| 精品福利永久在线观看| 日韩制服丝袜自拍偷拍| 久久ye,这里只有精品| 精品国产一区二区三区久久久樱花| 欧美成人午夜精品| 成人国语在线视频| 国产探花极品一区二区| 国产精品久久久久久精品电影小说| av福利片在线| 精品人妻在线不人妻| 亚洲婷婷狠狠爱综合网| 欧美日韩成人在线一区二区| av在线老鸭窝| av在线播放精品| 国产免费一级a男人的天堂| 久久久久久久国产电影| 色哟哟·www| 夫妻性生交免费视频一级片| 建设人人有责人人尽责人人享有的| 成人国语在线视频| 国产在线视频一区二区| 欧美日韩av久久| 精品久久久久久电影网| 国产伦理片在线播放av一区| 一本大道久久a久久精品| 波多野结衣一区麻豆| 巨乳人妻的诱惑在线观看| 免费观看无遮挡的男女| 亚洲av中文av极速乱| 久久久国产欧美日韩av| 亚洲 欧美一区二区三区| 天天躁夜夜躁狠狠久久av| 自线自在国产av| 成人18禁高潮啪啪吃奶动态图| 免费观看在线日韩| 纯流量卡能插随身wifi吗| 午夜久久久在线观看| 国产高清不卡午夜福利| 麻豆精品久久久久久蜜桃| 日韩三级伦理在线观看| 国产在线免费精品| 婷婷色av中文字幕| 国产国拍精品亚洲av在线观看| 久久精品人人爽人人爽视色| 麻豆精品久久久久久蜜桃| 精品久久蜜臀av无| 女性生殖器流出的白浆| 国产乱来视频区| 中文精品一卡2卡3卡4更新| 久久久久久久久久久免费av| 麻豆精品久久久久久蜜桃| 777米奇影视久久| videosex国产| 国产69精品久久久久777片| 国产国拍精品亚洲av在线观看| 国产精品一区二区在线观看99| 激情视频va一区二区三区| 2018国产大陆天天弄谢| 黑丝袜美女国产一区| 亚洲精品456在线播放app| 亚洲内射少妇av| 九九在线视频观看精品| 欧美成人精品欧美一级黄| 国产视频首页在线观看| 成年美女黄网站色视频大全免费| 精品99又大又爽又粗少妇毛片| 在线观看国产h片| 午夜福利网站1000一区二区三区| 亚洲伊人色综图| 久久99热这里只频精品6学生| 一级,二级,三级黄色视频| 午夜影院在线不卡| 美女内射精品一级片tv|