• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人工智能算法的可專利性問題研究

    2021-11-27 15:34:56
    創(chuàng)新科技 2021年9期
    關(guān)鍵詞:人工智能

    姚 葉

    (1.中南財(cái)經(jīng)政法大學(xué),湖北 武漢 430073;2.馬克思普朗克創(chuàng)新與競(jìng)爭(zhēng)研究所,巴伐利亞州 慕尼黑 80539)

    人工智能算法無(wú)縫滲透到人們的線上和線下生活中,悄悄地收集、分析、總結(jié)每個(gè)人現(xiàn)在所創(chuàng)造的大量數(shù)據(jù)。大數(shù)據(jù)與算法的結(jié)合似乎能夠讓我們的生活更加方便,但是卻帶來(lái)了諸多問題,歧視、侵犯隱私和違反正當(dāng)程序案件頻頻發(fā)生。例如,舉報(bào)人克里斯托弗·懷利(Christopher Wylie)指控Facebook干預(yù)公民的政治選舉;量刑軟件COMPAS因?yàn)閷?duì)黑人群體的量刑有失公允而被質(zhì)疑。對(duì)人工智能算法的解釋與控制一時(shí)間成為討論的焦點(diǎn)。

    人工智能算法能夠被授予專利權(quán)已經(jīng)具有法律規(guī)則的支撐與實(shí)踐基礎(chǔ)。在2019年新修訂的《專利審查指南》中,美國(guó)將“兩步測(cè)試法”的第一步驟進(jìn)行了更加詳細(xì)的劃分,以應(yīng)對(duì)方法發(fā)明在智能時(shí)代的沖擊。日本特許廳在2000年《專利審查基準(zhǔn)》中,對(duì)適用“工業(yè)性原則”做出新的解釋,凡使用軟件與硬件資源協(xié)調(diào)運(yùn)作以實(shí)現(xiàn)某一目的的算法運(yùn)行或信息處理,都被認(rèn)為是“利用自然規(guī)律的技術(shù)方案”[1]。我國(guó)也在《專利審查指南》中對(duì)“計(jì)算機(jī)程序本身”與“計(jì)算機(jī)程序相關(guān)的發(fā)明”進(jìn)行區(qū)分,后者并不因與計(jì)算機(jī)程序有關(guān)而被禁止授予專利權(quán)。我國(guó)《專利申請(qǐng)指南》在2017年修改時(shí)將商業(yè)方法與計(jì)算機(jī)程序作為一種專利權(quán)客體,在2020年修改時(shí)將“算法”也納入可被授予專利權(quán)的客體。

    各國(guó)企圖區(qū)分抽象思想與其應(yīng)用,構(gòu)建了抽象思想/具體應(yīng)用二分法的區(qū)分原則,為抽象思想的具體應(yīng)用而非抽象思想的可專利性進(jìn)行指引。算法是一種公共知識(shí),人類社會(huì)的發(fā)展與創(chuàng)新均依賴算法的更迭與發(fā)展,如果賦予或變相賦予某一主體對(duì)于算法的壟斷權(quán),將會(huì)遏制創(chuàng)新并侵害人類對(duì)于知識(shí)的獲得。要想在現(xiàn)有的專利制度之下實(shí)現(xiàn)利益的平衡,須從“專利客體的范圍”與“專利客體的審查標(biāo)準(zhǔn)”兩個(gè)方面入手,以下具而述之。

    1 人工智能算法特性誘發(fā)的客體判斷問題與審查標(biāo)準(zhǔn)難題

    1.1 規(guī)范分析:專利客體范圍重合

    我國(guó)《專利審查指南》規(guī)定,包含技術(shù)特征的商業(yè)模式具有獲得專利權(quán)的可能。商業(yè)模式與商業(yè)方法在我國(guó)《專利法》和《專利審查指南》中并無(wú)具體的內(nèi)涵界定,凡是在商業(yè)領(lǐng)域內(nèi)使用的智力活動(dòng)方法均可以認(rèn)為是商業(yè)模式,一旦這種方法與具體的技術(shù)特征相結(jié)合,便能夠構(gòu)成專利。如果某些人工智能算法在發(fā)展中逐漸超出了法律或法規(guī)所描述的計(jì)算機(jī)程序的商業(yè)特征,則在其被應(yīng)用于商業(yè)領(lǐng)域時(shí),申請(qǐng)者可以選擇性地將其描述為一種商業(yè)模式專利。正如國(guó)家知識(shí)產(chǎn)權(quán)局《專利審查指南》第二部分第九章修改草案6.2(1)中的舉例“一種卷積神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練方法”,卷積神經(jīng)網(wǎng)絡(luò)算法本是人工智能算法的一種,如果它能夠成為一種解決問題的方法,則其可以被申請(qǐng)為一種商業(yè)模式專利。

    事實(shí)上,通過(guò)擴(kuò)大解釋,人工智能算法雖然并沒有被明文納入知識(shí)產(chǎn)權(quán)的客體,事實(shí)上卻已經(jīng)獲得了保護(hù)。雖然這種保護(hù)方法較為繁復(fù),對(duì)企業(yè)的指導(dǎo)意義并不明顯,需要在撰寫權(quán)利要求書與說(shuō)明書時(shí)使用一定的技巧,避免被排除于可專利主題之外,但是現(xiàn)有的法律、法規(guī)不需要修改,節(jié)省了司法資源并保護(hù)了法律的確定性。這種操作的缺陷也比較明顯,例如,計(jì)算機(jī)程序與計(jì)算機(jī)軟件二分保護(hù)的現(xiàn)狀并未解決,商業(yè)模式與商業(yè)方法的概念也并未明確,《專利審查指南》對(duì)申請(qǐng)者的指引作用大大減弱。

    2020年2月生效的《專利審查指南》企圖改變這種狀態(tài),它承認(rèn)了“包含算法特征或商業(yè)規(guī)則和方法特征的技術(shù)方案”的專利客體地位?!秾@麑彶橹改稀返拇舜涡薷牟⑽磳?duì)計(jì)算機(jī)程序、商業(yè)模式的審查規(guī)則進(jìn)行修改,僅僅增加了算法、商業(yè)方法兩種技術(shù)方案為專利客體。從表面上看,這順應(yīng)了區(qū)塊鏈、大數(shù)據(jù)、人工智能的發(fā)展趨勢(shì),明確了算法與商業(yè)方法的專利主體地位,但深思后卻覺不妥。首先,《專利審查指南》忽略了算法與計(jì)算機(jī)軟件的實(shí)質(zhì)性關(guān)聯(lián),造成同一內(nèi)容多重客體保護(hù)的局面;其次,《專利審查指南》實(shí)質(zhì)上造成了商業(yè)模式與商業(yè)方法的重疊保護(hù);最后,《專利審查指南》并未對(duì)算法與商業(yè)方法的概念進(jìn)行闡釋,僅僅規(guī)定了審查基準(zhǔn),反而起到了模糊現(xiàn)有審查規(guī)則的反作用。

    1.2 具體操作:人工智能算法審查標(biāo)準(zhǔn)的問題

    在判斷某一客體的可專利性時(shí),不可避免地要根據(jù)專利法中新穎性、創(chuàng)造性、實(shí)用性的標(biāo)準(zhǔn)對(duì)這一客體進(jìn)行審查。在算法專利已經(jīng)通過(guò)客體審查后,“專利三性”的判斷決定了它是否真正地成為一種可商業(yè)化的技術(shù)方案,進(jìn)而決定其是否可以獲得授權(quán)。

    1.2.1 新穎性審查。我國(guó)《專利法》對(duì)發(fā)明的新穎性要求是該發(fā)明不屬于現(xiàn)有技術(shù),也沒有任何單位或者個(gè)人就同樣的發(fā)明在申請(qǐng)日以前向國(guó)務(wù)院專利行政部門提出過(guò)申請(qǐng),并記載在申請(qǐng)日以后公布的專利申請(qǐng)文件或者公告的專利文件中。大多數(shù)國(guó)家通過(guò)將技術(shù)方案與現(xiàn)有技術(shù)進(jìn)行比較而判斷,具體操作方法是相同領(lǐng)域的技術(shù)人員對(duì)現(xiàn)有技術(shù)進(jìn)行檢索比對(duì),判斷二者的技術(shù)特征是否相同,并采用單獨(dú)對(duì)比規(guī)則。具體而言,通過(guò)拆分人工智能生成發(fā)明技術(shù)方案,與現(xiàn)有技術(shù)方案中的每一項(xiàng)權(quán)利要求進(jìn)行比較,如果所有權(quán)利要求里包含的所有技術(shù)特征,都已經(jīng)被包含在先前公開技術(shù)方案的內(nèi)容中,則該人工智能生成發(fā)明不具有新穎性。新穎性判斷標(biāo)準(zhǔn)主要有兩種:“心理創(chuàng)造力”與“歷史創(chuàng)造力”[2]。“心理創(chuàng)造力”是指相對(duì)于個(gè)人思想或某項(xiàng)人工智能系統(tǒng)是新穎的;“歷史創(chuàng)造力”是指相對(duì)于整個(gè)歷史是新穎的,專利法上的新穎性標(biāo)準(zhǔn)主要指后者。換言之,即便某一技術(shù)方案對(duì)于某些人或者某些領(lǐng)域來(lái)說(shuō)是全新的,如果這一方案并未對(duì)歷史上的技術(shù)有任何的改進(jìn),則這一技術(shù)仍然不具有新穎性?;凇坝?xùn)練數(shù)據(jù)+預(yù)測(cè)數(shù)據(jù)”模式的人工智能算法,通過(guò)對(duì)不同的數(shù)據(jù)進(jìn)行搜集、學(xué)習(xí),最終生成涉及不同領(lǐng)域的智能發(fā)明。這為新穎性的判斷增加難度,甚至挑戰(zhàn)現(xiàn)有的新穎性審查方式。

    其一,現(xiàn)有數(shù)據(jù)庫(kù)無(wú)法進(jìn)行全面對(duì)比。專利行政部門的現(xiàn)有技術(shù)檢索能力和資源都是有限的,因此,完全地對(duì)所有的現(xiàn)有技術(shù)文獻(xiàn)進(jìn)行檢索比對(duì)是不可能的[3]。人工智能具有遠(yuǎn)超普通發(fā)明人的數(shù)據(jù)收集、整合及分析的能力,在對(duì)其生成的技術(shù)方案進(jìn)行可專利性判斷的過(guò)程中,可能使用自身的且并不公知的數(shù)據(jù)庫(kù),這會(huì)加劇專利審查的難度,也就產(chǎn)生了現(xiàn)有技術(shù)檢索難以窮盡的局面,導(dǎo)致人工智能算法可專利性審查結(jié)果存在瑕疵。

    其二,關(guān)鍵詞替換模式容易落入“現(xiàn)有技術(shù)”范圍。企業(yè)為了對(duì)自己的專利進(jìn)行防御,往往使用人工智能算法發(fā)明中的關(guān)鍵詞進(jìn)行重組,或?qū)で箨P(guān)鍵詞的反義詞等,借以在已授權(quán)專利的外圍形成一系列防御性專利。僅替換近義詞組等不太可能使改進(jìn)發(fā)明申請(qǐng)比基礎(chǔ)專利更具有新穎性,所以如果最終存在有限個(gè)數(shù)的、已經(jīng)確認(rèn)的或可預(yù)測(cè)的解決方案或成果時(shí),技術(shù)人員將更傾向于已知方案,這加劇了人工智能算法發(fā)明新穎性認(rèn)定的難度。

    1.2.2 創(chuàng)造性審查。我國(guó)《專利法》第二十二條第四款對(duì)創(chuàng)造性的標(biāo)準(zhǔn)有明確的規(guī)定,其以現(xiàn)有技術(shù)為對(duì)比樣本,判斷該發(fā)明是否具有突出的實(shí)質(zhì)性特點(diǎn)和顯著的進(jìn)步。美國(guó)法中規(guī)定審查員或法官應(yīng)當(dāng)界定發(fā)明所屬的“技術(shù)領(lǐng)域”,判斷本領(lǐng)域技術(shù)人員的技術(shù)水平以及其發(fā)明對(duì)該人是否顯而易見。美國(guó)最高法院在Graham V.Deere一案中對(duì)“非顯而易見性”中的要素制定了重要性排序。處于第一順序的是現(xiàn)有技術(shù)的范圍和內(nèi)容;處于第二順序的是現(xiàn)有技術(shù)和要求保護(hù)的發(fā)明之間的差異;處于第三順序的是相關(guān)技術(shù)中的普通技術(shù)水平;處于輔助地位的考慮因素有“商業(yè)成功、長(zhǎng)期感覺到但尚未解決的需求以及他人的失敗”“可能具有相關(guān)性”等。我國(guó)專利審查人員所采用的“創(chuàng)造性標(biāo)準(zhǔn)”具有三個(gè)步驟:確定最接近的現(xiàn)有技術(shù)、確定發(fā)明的區(qū)別特征和發(fā)明實(shí)際解決的技術(shù)問題以及判斷要求保護(hù)的發(fā)明對(duì)本領(lǐng)域的技術(shù)人員來(lái)說(shuō)是否顯而易見。人工智能算法的出現(xiàn)對(duì)上述衡量標(biāo)準(zhǔn)產(chǎn)生了不同程度的沖擊。

    其一,人工智能算法所屬發(fā)明領(lǐng)域難以確定。人工智能的發(fā)展方向可能與專利的理念恰恰相反。目前人工智能往往專注于單一領(lǐng)域,例如,AlphaGo專注于圍棋競(jìng)賽領(lǐng)域;小冰專注于文字創(chuàng)作領(lǐng)域。而人工智能算法的理想發(fā)展形態(tài)卻是創(chuàng)造跨領(lǐng)域,是更契合人類思維的算法。目前,已經(jīng)有些算法可以做到簡(jiǎn)單的契合,深度學(xué)習(xí)算法可以在車聯(lián)網(wǎng)智能控制技術(shù)、語(yǔ)音識(shí)別、醫(yī)療等領(lǐng)域得到應(yīng)用[4-6]。例如,樸素貝葉斯算法可以預(yù)測(cè)糖尿病[7-8]。很多人工智能技術(shù)的核心發(fā)明點(diǎn)在于算法方面的創(chuàng)新,但是存在能夠適用于人工智能多個(gè)領(lǐng)域的算法并不能獲得專利授權(quán)的情況,這種情況使得開發(fā)有用算法的積極性受到抑制[9]。

    其二,人工智能算法的“技術(shù)貢獻(xiàn)”程度難以確定。人工智能算法的卓越特征是運(yùn)算速度的快速提升,算法的申請(qǐng)主體極易使用技術(shù)特征模糊技術(shù)效果,掩蓋算法僅僅具有運(yùn)算速度提升的實(shí)質(zhì)性進(jìn)步。專利法的理念與目的在于促進(jìn)科技的創(chuàng)新并改善人類社會(huì)的生活條件。如何避免低價(jià)值、低效率的創(chuàng)新浪費(fèi)司法資源,就需要對(duì)“技術(shù)貢獻(xiàn)”程度進(jìn)行合理界定。

    1.2.3 實(shí)用性審查。我國(guó)《專利審查指南》認(rèn)為實(shí)用性核心內(nèi)容有三點(diǎn):一是技術(shù)方案具備“可再現(xiàn)性”,即產(chǎn)品專利能夠制造、方法專利能夠使用;二是技術(shù)方案能夠解決技術(shù)問題且符合自然規(guī)律;三是技術(shù)方案能夠產(chǎn)生積極效果。《專利審查指南》中列舉了幾個(gè)不具有實(shí)用性的例子:不具有可再現(xiàn)性、違背自然規(guī)律、利用獨(dú)一無(wú)二的自然條件的產(chǎn)品;人體或者動(dòng)物體的非治療目的的外科手術(shù)方法;測(cè)量人體或者動(dòng)物體在極限情況下的生理參數(shù)的方法。人工智能算法的發(fā)展卻對(duì)這些內(nèi)容產(chǎn)生一定程度的沖擊。

    其一,人工智能算法的“可再現(xiàn)性”不明?!翱稍佻F(xiàn)性”要求技術(shù)領(lǐng)域的一般人員,根據(jù)公開的技術(shù)內(nèi)容,不依賴任何隨機(jī)因素,能夠重復(fù)實(shí)施技術(shù)方案,并且實(shí)施結(jié)果相同。對(duì)于狹義的人工智能算法而言,即便算法是由人類參與設(shè)計(jì),但是在其運(yùn)行的過(guò)程中很容易脫離“掌控”,成為一種“黑箱”。例如,美國(guó)紐約西奈山醫(yī)院(Mount Si?nai Hopital)通過(guò)Deep Patient項(xiàng)目對(duì)70萬(wàn)病人的數(shù)據(jù)進(jìn)行訓(xùn)練,結(jié)果顯示它在預(yù)測(cè)疾病方面表現(xiàn)十分優(yōu)異;精神內(nèi)科醫(yī)生向來(lái)很難預(yù)測(cè)精神分裂,但此智能系統(tǒng)在預(yù)測(cè)精神分裂癥等精神疾病方面的表現(xiàn)出乎意料,醫(yī)生對(duì)此也難以解釋[10]。無(wú)法了解來(lái)源與機(jī)理的人工智能算法在進(jìn)行“可再現(xiàn)性”檢測(cè)時(shí)往往趨于無(wú)力。

    其二,人工智能算法的“技術(shù)特征”不明。人工智能在包括經(jīng)濟(jì)學(xué)、音樂、藝術(shù)、心理學(xué)、語(yǔ)言學(xué)和文學(xué)在內(nèi)的文科領(lǐng)域得到了廣泛的應(yīng)用。歐洲專利局(EPO)的技術(shù)上訴委員會(huì)指出,“一項(xiàng)發(fā)明的技術(shù)性特征可能在很大程度上被隱藏在非技術(shù)背景下?!迸e個(gè)簡(jiǎn)單的例子,即便某一應(yīng)用于音樂領(lǐng)域的人工智能算法采用了“技術(shù)手段”,但是其發(fā)明的“本質(zhì)”與音樂這一不具有技術(shù)性的學(xué)科有著不可分割的聯(lián)系,專利的權(quán)利要求書中也會(huì)充斥著對(duì)于音樂要素的描述。這就容易使審查官或法官對(duì)于技術(shù)性的判斷產(chǎn)生疑惑,進(jìn)而否認(rèn)該技術(shù)方案的專利性。

    其三,人工智能算法的“技術(shù)效果”不明。人工智能算法具有“雙面性”,既可以為社會(huì)帶來(lái)積極的效果和巨大的經(jīng)濟(jì)利益,又可以使社會(huì)陷入道德及倫理風(fēng)險(xiǎn)之中。狹義的人工智能算法即深度學(xué)習(xí)算法、加強(qiáng)學(xué)習(xí)算法等最為重要的特點(diǎn)便是“不可知性”,而這種不可知性可能構(gòu)成潛在風(fēng)險(xiǎn)。以COMPAS為例,Loomis在獲得量刑后起訴法院因使用COMPAS軟件而違反了刑事訴訟中的正當(dāng)程序原則,即他并未獲得個(gè)別化量刑和基于準(zhǔn)確信息量刑的權(quán)利,同時(shí)他認(rèn)為法院將他的性別作為量刑因素。盡管最高法院駁回了Loo?mis的上訴,但是由于COMPAS算法的提供者Northpointe以商業(yè)秘密為由拒絕提供量刑的依據(jù),人們開始擔(dān)憂算法的“不可知性”對(duì)人類的危害。因此,對(duì)于狹義的人工智能算法而言,它具有廣義上的“實(shí)用性”,卻因?yàn)榭赡墚a(chǎn)生一定的“非積極效果”而被認(rèn)定為不具有“實(shí)用性”。

    2 疏解:人工智能算法專利的客體確定規(guī)則與可專利性判斷標(biāo)準(zhǔn)

    2.1 修正《專利審查指南》之表達(dá)

    我國(guó)《專利審查指南》雖然在2020年對(duì)專利客體的范圍進(jìn)行了修正,但未能起到正向作用,反而會(huì)使現(xiàn)有專利客體的范圍更加模糊。誠(chéng)然,《專利審查指南》法律位階較低,約束力不強(qiáng),但是基于我國(guó)傳統(tǒng),其實(shí)質(zhì)上已經(jīng)成為指導(dǎo)專利申請(qǐng)的重要“寶典”。筆者建議,法規(guī)制定部門應(yīng)該綜合考慮算法、計(jì)算機(jī)程序、商業(yè)模式和商業(yè)方法均為含有“抽象思想”的專利客體的內(nèi)在聯(lián)系,保留算法與商業(yè)方法的專利客體地位,并對(duì)二者的概念進(jìn)行明確。需要說(shuō)明的是,這并非是排除計(jì)算機(jī)程序和商業(yè)模式的專利客體地位,二者可被算法與商業(yè)方法所包含,無(wú)須作為單獨(dú)的客體。

    2.2 人工智能算法專利授權(quán)范圍

    2.2.1 正向界定:技術(shù)領(lǐng)域、技術(shù)特征、技術(shù)高度。首先,單純的人工智能算法本身并不構(gòu)成可專利客體。如果某一方案的權(quán)利要求所保護(hù)的方案記載的數(shù)學(xué)算法在執(zhí)行過(guò)程中表示的是數(shù)值的計(jì)算過(guò)程,提供的改變也只是數(shù)值型結(jié)果,則這種方案僅僅是一種方法,屬于《專利法》第25條所規(guī)定的智力活動(dòng)的規(guī)則和方法。以“一種基于特征選擇和決策樹的網(wǎng)絡(luò)異常分類規(guī)則提取方法”(申請(qǐng)?zhí)枮?01510916818.2)為例,此發(fā)明是一種基于混合人工智能的網(wǎng)絡(luò)異常檢測(cè)方法,其利用遺傳算法進(jìn)行特征發(fā)現(xiàn),利用決策樹算法進(jìn)行決策,與單一的檢測(cè)方法相比,提高了網(wǎng)絡(luò)異常檢測(cè)的準(zhǔn)確性。這一方案在專利審查時(shí)并未獲得授權(quán),理由在于其僅僅是一種普通的提高網(wǎng)絡(luò)異常檢測(cè)準(zhǔn)確性的方法,并未解決某一領(lǐng)域的具體問題。

    其次,應(yīng)用于“技術(shù)領(lǐng)域”解決“技術(shù)問題”的算法可成為一種專利客體。以“一種基于深度學(xué)習(xí)的人臉關(guān)鍵點(diǎn)對(duì)齊算法”(申請(qǐng)?zhí)?01511028892.7)為例,此發(fā)明提供了一種基于深度學(xué)習(xí)的人臉關(guān)鍵點(diǎn)對(duì)齊算法,算法能夠在人臉識(shí)別領(lǐng)域提高準(zhǔn)確度并且提高效率,已經(jīng)具有了一定的技術(shù)特征。在一種基于貝葉斯網(wǎng)絡(luò)的網(wǎng)絡(luò)認(rèn)知自適應(yīng)算法中,貝葉斯網(wǎng)絡(luò)是一種數(shù)學(xué)模型,權(quán)利要求中的手段均是數(shù)學(xué)算法的推演,解決的也是數(shù)學(xué)問題。在其權(quán)利要求書中并未記載該方法應(yīng)用于認(rèn)知網(wǎng)絡(luò)的具體步驟或流程,故而貝葉斯網(wǎng)絡(luò)應(yīng)當(dāng)屬于一種數(shù)學(xué)方法。權(quán)利要求的主題名稱、權(quán)利要求所限定的全部?jī)?nèi)容均需要體現(xiàn)出算法的具體處理過(guò)程如何與技術(shù)領(lǐng)域相關(guān)聯(lián),并且確定算法所解決的技術(shù)問題與產(chǎn)生的技術(shù)效果。

    最后,“有益的技術(shù)效果”具有一定高度。當(dāng)人工智能僅僅使通用計(jì)算機(jī)執(zhí)行“思維步驟”時(shí),法庭拒絕此方案的專利資格。聯(lián)邦巡回法庭的裁決表明,具體改進(jìn)傳統(tǒng)技術(shù)的人工智能發(fā)明是符合專利資格的。然而,歐洲專利局(EPO)的技術(shù)上訴委員會(huì)拒絕遵循這種簡(jiǎn)單的“貢獻(xiàn)”方法,而通過(guò)在專利資格審查中有效地添加新穎性和創(chuàng)造性評(píng)估來(lái)提高“技術(shù)效果”的門檻。這一門檻不僅可以預(yù)防專利濫訴的現(xiàn)象,也能盡早駁回不符合資格的技術(shù)方案,提高行政效率。

    可見,人工智能算法相較于計(jì)算機(jī)程序算法已經(jīng)能在本質(zhì)上構(gòu)成解決具體問題的技術(shù)方案,兼具技術(shù)方案和思維規(guī)則的二重屬性[11]。人工智能算法雖然在當(dāng)代具有改變?nèi)祟惿畹木薮笞饔?,卻仍然達(dá)不到顛覆算法“思維規(guī)則為主,技術(shù)特征為輔”的屬性,而其成為專利法的客體已經(jīng)沒有任何問題。對(duì)于人工智能算法的專利權(quán)問題,如果其通過(guò)了審查部門的“專利三性”審查,則可以獲得專利權(quán)。

    2.2.2 反向排除:人工智能算法專利排除領(lǐng)域?!芭懦I(lǐng)域”可做廣義解釋與狹義解釋。前者指“不視為專利客體”與“不授予專利權(quán)”的客體,后者僅僅指因?yàn)椤皩@詫彶椤迸c“公共政策”要素之考慮而被排除于專利客體的技術(shù)方案,此處僅指后者。《專利法》對(duì)專利客體排除違背公序良俗、利用遺傳資源且依賴該遺傳資源完成的發(fā)明創(chuàng)造。專利法以對(duì)發(fā)明人的激勵(lì)為手段,促進(jìn)社會(huì)創(chuàng)新與經(jīng)濟(jì)發(fā)展,但并非所有對(duì)人類有益的事物均可以被授予專利權(quán)。人工智能算法在與具體特征相結(jié)合時(shí),其使用領(lǐng)域十分寬泛,我們應(yīng)該在維護(hù)人工智能技術(shù)發(fā)展的同時(shí),恪守專利法底線,警惕以人工智能為外觀的任何非法的技術(shù)方案不正當(dāng)獲得專利權(quán)。

    首先,有悖公共秩序、倫理道德的人工智能算法發(fā)明不應(yīng)當(dāng)獲得專利權(quán)。人工智能算法發(fā)明在實(shí)施過(guò)程中可能帶來(lái)倫理挑戰(zhàn)[12]。一方面,人工智能系統(tǒng)由人類創(chuàng)造,人類的偏見和主觀判斷反映在算法中就會(huì)對(duì)人格尊嚴(yán)具有侵犯性。人工智能算法的自動(dòng)決策若內(nèi)含“歧視”則會(huì)導(dǎo)致算法的不平等性,進(jìn)而侵犯人的法律主體地位[13];另一方面,人工智能算法在搜集個(gè)人隱私信息并加以分析、利用方面的行為對(duì)個(gè)人隱私權(quán)構(gòu)成強(qiáng)大的威脅[14]。其次,惡意制造并用于傷害人類健康的人工智能算法不應(yīng)當(dāng)被授予專利權(quán)。某些工具之生產(chǎn)目的是對(duì)某些人的身體帶來(lái)負(fù)面效果,一旦失去控制,被用作武器的人工智能算法往往會(huì)對(duì)人類生命健康造成直接的威脅。再次,破壞社會(huì)道德規(guī)范、危害公權(quán)力影響力的人工智能算法不得被授予專利權(quán)。例如,“警察POLICE”、警燈屬于警察專用標(biāo)志,代表了公安部門具有的公權(quán)力,如果允許其他任何個(gè)人或組織使用,必將影響社會(huì)正常秩序,妨礙公共利益。最后,人工智能算法在醫(yī)療領(lǐng)域的應(yīng)用值得重點(diǎn)關(guān)注。我國(guó)《專利審查指南》明確規(guī)定,疾病的診斷和治療方法不可以被授予專利。人工智能算法作為一種基礎(chǔ)層的技術(shù),在商業(yè)化使用中,往往被運(yùn)用于不同的場(chǎng)景,如醫(yī)療、交通、教育、金融、生活、零售、安防、園區(qū)、環(huán)保、政務(wù)等10個(gè)細(xì)分領(lǐng)域。在醫(yī)療場(chǎng)景中,人工智能算法通過(guò)對(duì)病人健康數(shù)據(jù)的積累,對(duì)診斷數(shù)據(jù)的了解,能夠輔助醫(yī)生在最短時(shí)間內(nèi)進(jìn)行決策,甚至能夠獨(dú)立生成醫(yī)療方案并實(shí)施,這與以往以醫(yī)生為主導(dǎo)開處方不同。人工智能算法在診斷與治療中的廣泛應(yīng)用能夠增加方法的重復(fù)利用性,原因在于即便不同人的身體具有不同的特征且需要不同的治療方法,但是對(duì)于算法而言,這些往往只是輸入不同的數(shù)據(jù),如何挑選數(shù)據(jù)、判斷數(shù)據(jù)完全根據(jù)算法內(nèi)部設(shè)置好的優(yōu)先級(jí)決定。這種判斷方法完全具有重復(fù)性。除此之外,如果將疾病的治療和診斷方法完全由機(jī)器決定,則會(huì)造成算法“黑箱”,威脅人的生命權(quán)。更為突出的是,賦予這種算法及其搭載的技術(shù)特征以專利仍然會(huì)限制醫(yī)生在診斷時(shí)對(duì)于方法的選擇。

    專利法是技術(shù)之法、創(chuàng)新之法,是界定公共領(lǐng)域與私有權(quán)利的“界碑”,也是維護(hù)公共秩序的責(zé)任之法。法律往往具有滯后性,人工智能技術(shù)的創(chuàng)新走在前頭,專利法的制度變革應(yīng)當(dāng)緊隨其后。專利制度之變革不僅需要制度供給,更需要實(shí)踐參與。換言之,《專利法》與《專利審查指南》的協(xié)同配合才是制度變革之良法。我們應(yīng)當(dāng)秉持開放的法價(jià)值觀,擴(kuò)大專利客體范圍,調(diào)試“專利三性”的尺度,也應(yīng)當(dāng)秉持安全發(fā)展、人文創(chuàng)新的思維,嚴(yán)格限制專利法的排除客體范圍。

    2.3 人工智能算法專利的審查規(guī)則

    專利客體審查是對(duì)技術(shù)方案的形式審查,“專利三性”審查是對(duì)技術(shù)方案的實(shí)質(zhì)審查。換言之,人工智能算法技術(shù)方案若想獲得專利授權(quán),首先應(yīng)當(dāng)是一項(xiàng)具有專利性的客體,然后是一種可被授予專利權(quán)的技術(shù)方案。如前所言,“專利三性”是指新穎性、創(chuàng)造性、實(shí)用性。人工智能算法與之前的專利申請(qǐng)具有很多差別,這些差別甚至對(duì)專利審查部門一直堅(jiān)持的審查標(biāo)準(zhǔn)產(chǎn)生了強(qiáng)大的沖擊。專利審查部門對(duì)這些區(qū)別視而不見不僅會(huì)造成資源的浪費(fèi),也會(huì)降低開發(fā)人員的積極性,甚至阻礙智能經(jīng)濟(jì)的發(fā)展,掣肘人類社會(huì)的進(jìn)步。

    2.3.1 新穎性審查。新穎性審查與創(chuàng)造性審查具有關(guān)聯(lián)性,后者常常以前者為基礎(chǔ)。新穎性審查要求所申請(qǐng)的技術(shù)方案不屬于現(xiàn)有技術(shù),也沒有任何單位或者個(gè)人就同樣的發(fā)明或者實(shí)用新型在申請(qǐng)日以前向?qū)@痔岢鲞^(guò)申請(qǐng),并記載在申請(qǐng)日以后(含申請(qǐng)日)公布的專利申請(qǐng)文件或者公告的專利文件中。對(duì)于新穎性的審查以對(duì)比文件為基準(zhǔn),采取單獨(dú)對(duì)比的原則。針對(duì)現(xiàn)行的新穎性標(biāo)準(zhǔn)在人工智能發(fā)明專利性判斷中的不適性,專利法應(yīng)當(dāng)合理調(diào)整新穎性的判斷標(biāo)準(zhǔn)。

    第一,對(duì)人工智能算法進(jìn)行審查的專利行政部門對(duì)現(xiàn)有技術(shù)的檢索不應(yīng)拘泥于申請(qǐng)日以前在國(guó)內(nèi)外為公眾所知曉的某一特定技術(shù)領(lǐng)域,而應(yīng)對(duì)現(xiàn)有技術(shù)進(jìn)行縮小解釋,排除僅靠詞語(yǔ)替換而生成的海量技術(shù)方案等。美國(guó)的一個(gè)網(wǎng)站“ALL Prior Art”收集專利文獻(xiàn),通過(guò)智能算法進(jìn)行整合,自動(dòng)生成潛在技術(shù)專利的權(quán)利要求書和說(shuō)明書,并將其發(fā)布在網(wǎng)站上,對(duì)已獲得專利權(quán)的專利進(jìn)行防御保護(hù)。盡管這其中的很多技術(shù)方案并不具有技術(shù)性和操作性,實(shí)際上卻極大地?cái)U(kuò)大了現(xiàn)有技術(shù)范圍,縮小了新技術(shù)方案的生成空間。人工智能算法專利與其他專利均能夠通過(guò)對(duì)公開文獻(xiàn)的替換等形成新的技術(shù)方案,在審查時(shí)對(duì)“防御專利”的信息進(jìn)行排除,有利于保留合理的“公共領(lǐng)域”,促進(jìn)人工智能算法的發(fā)展。

    第二,除涉及商業(yè)秘密之外,應(yīng)要求人工智能算法的專利申請(qǐng)人在專利申請(qǐng)材料中完全披露與人工智能生成發(fā)明有關(guān)的所有數(shù)據(jù)文獻(xiàn)。專利審查部門現(xiàn)有技術(shù)檢索數(shù)據(jù)庫(kù)與人工智能的數(shù)據(jù)庫(kù)之間的差距有逐漸擴(kuò)大的趨勢(shì),比對(duì)的不完全性會(huì)造成專利法的不確定性。《美國(guó)專利法》第112條規(guī)定,要求申請(qǐng)者在公開披露的文件中公開技術(shù)方案的獲得方式。在Case A.B.Dick Co.v.Barnett案中,上訴法院聲明應(yīng)根據(jù)有關(guān)技術(shù)的難度或新穎性以及該技術(shù)的發(fā)展來(lái)判斷披露的充分性,并根據(jù)應(yīng)用該技術(shù)所必須具備的技能的種類和程度以及所涉的特定發(fā)明來(lái)判斷是否能被授權(quán)。人工智能算法的形成過(guò)程是數(shù)據(jù)訓(xùn)練的過(guò)程,數(shù)據(jù)集的輸入決定了算法的輸出。因此,要求申請(qǐng)人披露算法所使用的數(shù)據(jù)集就是在要求其披露技術(shù)方案的形成過(guò)程,具有一定的合理性。除此之外,申請(qǐng)人對(duì)于算法使用的數(shù)據(jù)集的披露也會(huì)提高審查效率,避免勞動(dòng)力的無(wú)意義消耗。人工智能算法運(yùn)行通常依賴大量的數(shù)據(jù),所生成的技術(shù)方案也呈現(xiàn)爆炸式。這不僅增加了審查人員的負(fù)擔(dān),而且導(dǎo)致審查人員囿于數(shù)據(jù)庫(kù)的不對(duì)等而做出錯(cuò)判的決定。

    2.3.2 創(chuàng)造性審查。創(chuàng)造性被認(rèn)為是“可專利性的最終條件”,也被稱為“專利制度的守夜人”。我國(guó)專利審查人員所采用的創(chuàng)造性標(biāo)準(zhǔn)具有三個(gè)步驟:確定最接近的現(xiàn)有技術(shù)、確定發(fā)明的區(qū)別特征和發(fā)明實(shí)際解決的技術(shù)問題以及判斷要求保護(hù)的發(fā)明對(duì)本領(lǐng)域的技術(shù)人員來(lái)說(shuō)是否顯而易見。與“普通技術(shù)人員”的擬制、“相關(guān)技術(shù)領(lǐng)域”及“一般技術(shù)水平”三個(gè)要素的確定關(guān)系密切。我國(guó)《專利審查指南》規(guī)定,“普通技術(shù)人員”指一種擬制的“人”,他雖然不具有創(chuàng)造能力,但是知曉申請(qǐng)日或者優(yōu)先權(quán)日之前發(fā)明所屬技術(shù)領(lǐng)域所有的“一般技術(shù)知識(shí)”以及所屬領(lǐng)域的“現(xiàn)有技術(shù)”,并且具有應(yīng)用該日期之前常規(guī)實(shí)驗(yàn)手段的能力?!耙话慵夹g(shù)水平”這一要素以前兩個(gè)要素的確定為前提和基礎(chǔ),是實(shí)踐操作問題而非理論問題,故而不在此處討論。

    首先,技術(shù)領(lǐng)域的劃分需要謹(jǐn)慎。人工智能與人腦越相似,與技術(shù)發(fā)展的理念就越接近。事實(shí)上,人的大腦是一個(gè)有效的學(xué)習(xí)機(jī)制,并不囿于一個(gè)知識(shí)領(lǐng)域。而人工智能的理想目標(biāo)便是脫離固定領(lǐng)域的掣肘,變成具有普遍應(yīng)用性、跨技術(shù)領(lǐng)域的智能。面對(duì)這樣的發(fā)展趨勢(shì),判斷人工智能算法是否具有獨(dú)創(chuàng)性,不應(yīng)被束縛在單一技術(shù)領(lǐng)域,而是要結(jié)合申請(qǐng)文件中所涉及的所有領(lǐng)域。

    其次,“普通技術(shù)人員”所掌握的技術(shù)應(yīng)該與“現(xiàn)有技術(shù)”的發(fā)展同步。美國(guó)最高法院就明確指出,在對(duì)顯而易見性進(jìn)行考察和評(píng)估時(shí),應(yīng)考慮到最新技術(shù)。以人工智能最廣泛的應(yīng)用領(lǐng)域遺傳編程算法為例,人工智能實(shí)質(zhì)性參與算法的創(chuàng)新后,“普通技術(shù)人員”的技術(shù)水平是動(dòng)態(tài)變化的[15]。我國(guó)《專利審查指南》并未要求申請(qǐng)人說(shuō)明完成發(fā)明創(chuàng)造的方式,而是既可通過(guò)參考特定領(lǐng)域的“一般發(fā)明實(shí)踐”確定人工智能的使用程度,也可通過(guò)“行業(yè)趨勢(shì)”確定本領(lǐng)域人工智能技術(shù)的使用水平[16]。

    最后,“普通技術(shù)人員”這一擬制的“人”的設(shè)定殊為重要,原因在于人工智能算法搭配強(qiáng)大的算力呈現(xiàn)出優(yōu)秀的數(shù)據(jù)庫(kù)檢索和整合能力,在現(xiàn)有的技術(shù)審查標(biāo)準(zhǔn)下和數(shù)據(jù)庫(kù)中,極其容易被認(rèn)為具有“創(chuàng)造性”?!捌胀夹g(shù)人員”是一個(gè)擬制的“人”或是一個(gè)“概念”或“標(biāo)準(zhǔn)”,由誰(shuí)擬制?根據(jù)什么擬制?在不同的技術(shù)背景下應(yīng)該具有不同的表現(xiàn)方式。在前人工智能時(shí)代,專利申請(qǐng)往往以人為主導(dǎo),人類發(fā)現(xiàn)現(xiàn)有技術(shù)的空白并對(duì)它進(jìn)行填補(bǔ)而形成發(fā)明。這一進(jìn)程往往耗時(shí)較長(zhǎng),也更具有偶然性。但是在人工智能時(shí)代,人工智能算法依賴數(shù)據(jù)庫(kù)的廣度與更新時(shí)間進(jìn)行發(fā)明,所做的發(fā)明也往往具有范圍廣、更新快的特點(diǎn),使用原有的檢驗(yàn)標(biāo)準(zhǔn)必定不適應(yīng)現(xiàn)在的創(chuàng)新環(huán)境。在Environmental Designs,Ltd.v.Union Oil Co一案中,法院提出確定“普通技術(shù)人員”標(biāo)準(zhǔn)需要考量的幾個(gè)因素:發(fā)明人的教育水平;本領(lǐng)域遇到的問題類型;現(xiàn)有技術(shù)解決這些問題的方法;創(chuàng)新的速度;技術(shù)的成熟度以及該領(lǐng)域積極工作者的教育水平。并非所有因素都必然存在于每個(gè)案例中,在一個(gè)特定的案例中,一個(gè)或多個(gè)因素可能占主導(dǎo)地位。盡管美國(guó)法中并不因發(fā)明的方式而判斷發(fā)明的可專利性,換言之,無(wú)論是天才的“靈光乍現(xiàn)”還是技術(shù)人員的“長(zhǎng)期努力”而獲得的技術(shù)方案都應(yīng)該被授予專利權(quán),但是對(duì)于人工智能算法,這一問題則需要加入政策方面的考量。由人工智能偶然生成的技術(shù)方案并不被很多法院接受,盡管顯而易見性的評(píng)估基于客觀因素十分重要,但這并不是一項(xiàng)“鐵律”,發(fā)明人的受教育程度也十分重要?;诖耍袑W(xué)者提出應(yīng)當(dāng)提高“普通技術(shù)人員”的標(biāo)準(zhǔn),以反映現(xiàn)實(shí)條件中的“一般技術(shù)水平”[17]。亦有學(xué)者提出“普通技術(shù)人員”應(yīng)被所屬技術(shù)領(lǐng)域的“人工智能”所代替[18]。Abbott認(rèn)為,本領(lǐng)域技術(shù)人員應(yīng)該是人工智能使用者與人工智能,或僅僅是人工智能[19]。這些觀點(diǎn)并不違背我國(guó)的法律、法規(guī)或規(guī)范性文件,為我國(guó)《專利審查指南》的修改提供了方向。

    2.3.3 實(shí)用性審查。專利的實(shí)用性是指專利在產(chǎn)業(yè)中被制造或使用的可能性。滿足實(shí)用性要求的技術(shù)方案不能違背自然規(guī)律并且應(yīng)當(dāng)具有再現(xiàn)性,也應(yīng)當(dāng)產(chǎn)生預(yù)期的積極效果。人工智能算法雖有“智”性,卻也常常產(chǎn)生意料之外的負(fù)面技術(shù)效果。全盤拒絕與全盤接受并非是促進(jìn)技術(shù)進(jìn)步之良法,實(shí)用性審查標(biāo)準(zhǔn)恰好是一個(gè)有效的過(guò)濾機(jī)制。

    其一,嚴(yán)格審查實(shí)用性要件之實(shí)施效果。人工智能生成發(fā)明是否對(duì)人類社會(huì)帶來(lái)技術(shù)風(fēng)險(xiǎn),還是能夠帶來(lái)積極的技術(shù)效果和經(jīng)濟(jì)效益,關(guān)鍵在于專利實(shí)用性要件的審查。專利實(shí)用性審查是技術(shù)風(fēng)險(xiǎn)的事前監(jiān)督機(jī)制[20]。專利實(shí)用性之積極實(shí)施效果不僅要求生成發(fā)明可以創(chuàng)造經(jīng)濟(jì)效益,更重要的是要求生成發(fā)明的實(shí)施有利于社會(huì)可持續(xù)發(fā)展和人類生活,不會(huì)導(dǎo)致負(fù)面的社會(huì)效果。故而,審查機(jī)構(gòu)需要通過(guò)實(shí)用性要件中的“技術(shù)方案對(duì)社會(huì)產(chǎn)生積極效果”這一要求來(lái)審查,進(jìn)一步排除不道德、違反倫理及危害社會(huì)公共利益的人工智能算法及發(fā)明獲得專利權(quán)。

    其二,將“人類介入”因素作為判斷標(biāo)準(zhǔn)。積極實(shí)施效果的判斷往往具有抽象性和模糊性,缺乏人類參與的算法最終會(huì)脫離人類的操控。對(duì)此,有學(xué)者提出將人類參與作為衡量積極實(shí)施效果的標(biāo)準(zhǔn)之一,即要求在人工智能生成發(fā)明中有人類的參與[21]。人類的參與可以做到事前監(jiān)督、及時(shí)中止、及時(shí)審查等,在人工智能算法的整個(gè)運(yùn)行中顯示全過(guò)程、全方位的“可操控性”??梢哉f(shuō),人類的介入這一監(jiān)管方式,可以確保人工智能做出積極的、有益的價(jià)值判斷。

    3 結(jié)語(yǔ)

    人工智能算法已經(jīng)獲得專利審查部門的認(rèn)可而成為一種專利客體,它的審查標(biāo)準(zhǔn)與范圍劃定關(guān)系到對(duì)創(chuàng)新的激勵(lì)與產(chǎn)業(yè)的發(fā)展。我國(guó)《專利審查指南》的條文過(guò)于粗糙,難以對(duì)專利的審查起到實(shí)質(zhì)性的指引作用。我國(guó)應(yīng)當(dāng)明確劃分人工智能算法與商業(yè)方法等可能產(chǎn)生混淆的專利客體,正向界定人工智能算法發(fā)明的范圍,反向排除有悖公共秩序和倫理道德的人工智能算法發(fā)明、惡意制造并用于傷害人類健康的人工智能算法發(fā)明、破壞社會(huì)道德規(guī)范和危害公權(quán)力影響力的人工智能算法發(fā)明,并排除作為醫(yī)療方法的人工智能算法發(fā)明獲得專利權(quán)的可能性。同時(shí),對(duì)“專利三性”的具體評(píng)價(jià)標(biāo)準(zhǔn)進(jìn)行細(xì)化:首先,對(duì)現(xiàn)有技術(shù)進(jìn)行縮小解釋,排除僅靠詞語(yǔ)替換而生成的海量技術(shù)方案等;其次,對(duì)技術(shù)領(lǐng)域的劃分應(yīng)當(dāng)謹(jǐn)慎,“普通技術(shù)人員”所掌握的技術(shù)應(yīng)該與現(xiàn)有技術(shù)的發(fā)展同步;最后,嚴(yán)格審查實(shí)用性要件之實(shí)施效果,將“人類介入”因素作為判斷標(biāo)準(zhǔn)。

    猜你喜歡
    人工智能
    我校新增“人工智能”本科專業(yè)
    用“小AI”解決人工智能的“大”煩惱
    汽車零部件(2020年3期)2020-03-27 05:30:20
    當(dāng)人工智能遇見再制造
    2019:人工智能
    商界(2019年12期)2019-01-03 06:59:05
    AI人工智能解疑答問
    人工智能與就業(yè)
    基于人工智能的電力系統(tǒng)自動(dòng)化控制
    人工智能,來(lái)了
    數(shù)讀人工智能
    小康(2017年16期)2017-06-07 09:00:59
    人工智能來(lái)了
    日韩av不卡免费在线播放| 午夜福利在线观看免费完整高清在 | 国产人妻一区二区三区在| 国产成人aa在线观看| 欧美日韩精品成人综合77777| 伦精品一区二区三区| 在线国产一区二区在线| 色综合色国产| 日本-黄色视频高清免费观看| 国产精品亚洲一级av第二区| 精品不卡国产一区二区三区| 在线观看av片永久免费下载| 此物有八面人人有两片| 12—13女人毛片做爰片一| 真人做人爱边吃奶动态| 午夜福利成人在线免费观看| 三级毛片av免费| 国产成人影院久久av| 97热精品久久久久久| 欧美xxxx黑人xx丫x性爽| 嫩草影院精品99| 中国国产av一级| 九九热线精品视视频播放| 亚洲熟妇熟女久久| 能在线免费观看的黄片| 成人一区二区视频在线观看| 日韩av不卡免费在线播放| 国产国拍精品亚洲av在线观看| av在线播放精品| 欧美中文日本在线观看视频| 久久精品国产亚洲av涩爱 | 国产一区二区三区av在线 | 国产真实乱freesex| 亚洲av成人精品一区久久| 国产熟女欧美一区二区| 欧美精品国产亚洲| 能在线免费观看的黄片| 欧美日本视频| 18禁黄网站禁片免费观看直播| 天堂动漫精品| 日韩 亚洲 欧美在线| 成人一区二区视频在线观看| 99久久久亚洲精品蜜臀av| 亚洲熟妇中文字幕五十中出| 人妻少妇偷人精品九色| 日韩欧美在线乱码| 91av网一区二区| 观看美女的网站| 亚洲成a人片在线一区二区| 亚洲人成网站在线观看播放| 国产乱人视频| 免费观看人在逋| 啦啦啦啦在线视频资源| 日韩,欧美,国产一区二区三区 | 1000部很黄的大片| 亚洲无线在线观看| 美女高潮的动态| 熟妇人妻久久中文字幕3abv| 少妇人妻一区二区三区视频| 欧美在线一区亚洲| 精品久久久久久久久久久久久| 亚洲欧美日韩东京热| 国产 一区精品| 综合色丁香网| 老司机午夜福利在线观看视频| 国产精品人妻久久久久久| 久久久久久九九精品二区国产| 国产精品国产三级国产av玫瑰| 少妇猛男粗大的猛烈进出视频 | 婷婷精品国产亚洲av| 黄片wwwwww| 日日干狠狠操夜夜爽| 久久精品国产99精品国产亚洲性色| 成人欧美大片| 国产精品无大码| 日韩成人av中文字幕在线观看 | 九九久久精品国产亚洲av麻豆| 嫩草影院新地址| 极品教师在线视频| 中文亚洲av片在线观看爽| 国产精品一及| 久久久久久九九精品二区国产| 亚洲av.av天堂| 日韩欧美精品免费久久| 亚洲欧美日韩高清在线视频| 国产女主播在线喷水免费视频网站 | 国产69精品久久久久777片| 波多野结衣巨乳人妻| 男人舔奶头视频| 国产精品精品国产色婷婷| 欧美丝袜亚洲另类| 日韩国内少妇激情av| 精品人妻视频免费看| 男女之事视频高清在线观看| 国产av一区在线观看免费| 日本黄色视频三级网站网址| a级毛片a级免费在线| 99热这里只有是精品在线观看| 免费av观看视频| 日产精品乱码卡一卡2卡三| 国产精品女同一区二区软件| 蜜桃久久精品国产亚洲av| av福利片在线观看| 精品久久国产蜜桃| 国产精品伦人一区二区| 全区人妻精品视频| 舔av片在线| 欧美中文日本在线观看视频| 国产精品亚洲一级av第二区| 国产精品爽爽va在线观看网站| 三级毛片av免费| 国产伦一二天堂av在线观看| 91麻豆精品激情在线观看国产| 一个人观看的视频www高清免费观看| 校园春色视频在线观看| 日本成人三级电影网站| 国国产精品蜜臀av免费| 99热这里只有精品一区| 成人av一区二区三区在线看| 一个人免费在线观看电影| 亚洲人成网站在线播| 女同久久另类99精品国产91| 国产男人的电影天堂91| 久久精品国产99精品国产亚洲性色| 亚洲欧美日韩东京热| 丰满的人妻完整版| 一进一出抽搐动态| 网址你懂的国产日韩在线| 久久99热这里只有精品18| 国产亚洲精品久久久com| 小蜜桃在线观看免费完整版高清| 大型黄色视频在线免费观看| 黄色视频,在线免费观看| 一级av片app| 欧美日韩综合久久久久久| 五月玫瑰六月丁香| 99久国产av精品国产电影| 老司机福利观看| 波野结衣二区三区在线| 亚洲av成人av| 熟女人妻精品中文字幕| 国内精品久久久久精免费| 亚洲欧美精品自产自拍| 天堂动漫精品| 久久韩国三级中文字幕| 可以在线观看毛片的网站| 国产男靠女视频免费网站| 欧美zozozo另类| 乱码一卡2卡4卡精品| 久久久久久九九精品二区国产| 狂野欧美激情性xxxx在线观看| 日本撒尿小便嘘嘘汇集6| 看免费成人av毛片| 久久中文看片网| 国产成人aa在线观看| 精品少妇黑人巨大在线播放 | 欧美日本亚洲视频在线播放| 99riav亚洲国产免费| 99精品在免费线老司机午夜| avwww免费| 久久国内精品自在自线图片| 日日摸夜夜添夜夜添av毛片| 久久久久久伊人网av| 国产成人aa在线观看| 日韩国内少妇激情av| 91麻豆精品激情在线观看国产| 男人和女人高潮做爰伦理| 小蜜桃在线观看免费完整版高清| 国内揄拍国产精品人妻在线| 亚洲欧美日韩高清专用| 久久精品国产亚洲av涩爱 | 六月丁香七月| 在线播放无遮挡| 一区福利在线观看| 午夜爱爱视频在线播放| 国产成人一区二区在线| av天堂中文字幕网| 亚洲经典国产精华液单| 91精品国产九色| 国内精品一区二区在线观看| www日本黄色视频网| 亚洲五月天丁香| 老司机福利观看| 黄色日韩在线| 丰满的人妻完整版| 亚洲精品久久国产高清桃花| 精品久久久久久成人av| 少妇高潮的动态图| 色在线成人网| 深爱激情五月婷婷| 国产亚洲欧美98| 麻豆一二三区av精品| 国内少妇人妻偷人精品xxx网站| 国产一区亚洲一区在线观看| 好男人在线观看高清免费视频| 老女人水多毛片| 欧美日韩综合久久久久久| 99热只有精品国产| 精品一区二区三区视频在线| 亚洲天堂国产精品一区在线| 白带黄色成豆腐渣| 国产精品无大码| 国产一区二区激情短视频| 老司机影院成人| aaaaa片日本免费| 联通29元200g的流量卡| 久久久久国产精品人妻aⅴ院| 成人av一区二区三区在线看| avwww免费| 国产精品女同一区二区软件| 国产精华一区二区三区| 亚洲国产精品国产精品| 日韩成人伦理影院| 一进一出抽搐gif免费好疼| 三级毛片av免费| 国产精品一区www在线观看| 国产单亲对白刺激| 成人欧美大片| 一级毛片aaaaaa免费看小| 久久久久久久久久成人| eeuss影院久久| 俄罗斯特黄特色一大片| 久久久精品大字幕| 久久99热这里只有精品18| 久久精品夜色国产| 国产精品久久久久久久电影| 天美传媒精品一区二区| 美女被艹到高潮喷水动态| 男人舔女人下体高潮全视频| 久久久久性生活片| 精品熟女少妇av免费看| 免费搜索国产男女视频| 波多野结衣巨乳人妻| 国产蜜桃级精品一区二区三区| 好男人在线观看高清免费视频| 久久亚洲国产成人精品v| 国产一区二区在线观看日韩| aaaaa片日本免费| 在线a可以看的网站| 欧美性猛交黑人性爽| 精品99又大又爽又粗少妇毛片| 亚洲第一区二区三区不卡| 午夜亚洲福利在线播放| 亚洲av成人精品一区久久| 91av网一区二区| av女优亚洲男人天堂| 大香蕉久久网| 中国国产av一级| 国产色爽女视频免费观看| 亚洲国产精品sss在线观看| 国产亚洲精品久久久com| 日韩国内少妇激情av| 99在线人妻在线中文字幕| 精品久久久久久成人av| 精品人妻视频免费看| 欧美色视频一区免费| 欧美激情久久久久久爽电影| a级毛片a级免费在线| 老师上课跳d突然被开到最大视频| 日韩人妻高清精品专区| 亚洲最大成人手机在线| 日本成人三级电影网站| 在线观看美女被高潮喷水网站| 色尼玛亚洲综合影院| 亚洲精品日韩在线中文字幕 | 最后的刺客免费高清国语| 欧美日本视频| a级毛片免费高清观看在线播放| 欧美成人免费av一区二区三区| 在线天堂最新版资源| 观看美女的网站| 可以在线观看毛片的网站| 热99在线观看视频| 久久精品国产亚洲网站| 久久精品91蜜桃| 日日摸夜夜添夜夜爱| 国产精品人妻久久久久久| 亚州av有码| 午夜精品国产一区二区电影 | 国产一区二区三区av在线 | 国产成人a区在线观看| 日韩中字成人| 最新在线观看一区二区三区| 亚洲av中文av极速乱| 禁无遮挡网站| 日本成人三级电影网站| 夜夜爽天天搞| 国产精品一区二区三区四区免费观看 | 老司机午夜福利在线观看视频| 亚洲欧美精品自产自拍| 久久久久九九精品影院| 国产黄片美女视频| 日日摸夜夜添夜夜爱| 91在线观看av| 狂野欧美激情性xxxx在线观看| 国产在视频线在精品| 日韩欧美精品v在线| 简卡轻食公司| 1000部很黄的大片| 一本一本综合久久| 一级黄色大片毛片| 精品免费久久久久久久清纯| av在线亚洲专区| 床上黄色一级片| 中文字幕人妻熟人妻熟丝袜美| 最好的美女福利视频网| 亚洲人与动物交配视频| 麻豆久久精品国产亚洲av| 亚洲精品影视一区二区三区av| 18+在线观看网站| 十八禁网站免费在线| 国内久久婷婷六月综合欲色啪| 国产精品久久久久久亚洲av鲁大| 国产亚洲精品久久久com| 婷婷精品国产亚洲av| 一夜夜www| 免费一级毛片在线播放高清视频| 精品一区二区免费观看| 午夜福利成人在线免费观看| 3wmmmm亚洲av在线观看| 一级av片app| 亚洲精品在线观看二区| 日韩 亚洲 欧美在线| 日本黄大片高清| 一区二区三区免费毛片| 国产黄片美女视频| 性插视频无遮挡在线免费观看| 99久久精品一区二区三区| 免费不卡的大黄色大毛片视频在线观看 | 日韩,欧美,国产一区二区三区 | 看黄色毛片网站| 精品人妻视频免费看| videossex国产| 人妻丰满熟妇av一区二区三区| 91久久精品电影网| 亚洲欧美日韩卡通动漫| 成人欧美大片| 久久99热这里只有精品18| 久久九九热精品免费| 日韩成人伦理影院| 深夜精品福利| 99久国产av精品| 亚洲国产高清在线一区二区三| 国产成年人精品一区二区| 久久人人爽人人片av| 伦理电影大哥的女人| 免费高清视频大片| 国产精品伦人一区二区| 12—13女人毛片做爰片一| 免费人成视频x8x8入口观看| 久久精品国产亚洲av涩爱 | aaaaa片日本免费| 大型黄色视频在线免费观看| 国产麻豆成人av免费视频| 一进一出抽搐gif免费好疼| 老司机影院成人| 不卡一级毛片| 麻豆国产av国片精品| 欧美日韩一区二区视频在线观看视频在线 | 久久久久久国产a免费观看| 联通29元200g的流量卡| 97在线视频观看| 青春草视频在线免费观看| 亚洲av中文av极速乱| 能在线免费观看的黄片| 97碰自拍视频| 国产亚洲欧美98| 自拍偷自拍亚洲精品老妇| 97超级碰碰碰精品色视频在线观看| 99久久久亚洲精品蜜臀av| 亚洲欧美日韩高清专用| 精品人妻偷拍中文字幕| 日韩 亚洲 欧美在线| 日本免费一区二区三区高清不卡| 国产欧美日韩一区二区精品| 国产精品综合久久久久久久免费| 亚洲国产色片| 中文字幕av成人在线电影| 国产麻豆成人av免费视频| 嫩草影视91久久| 国产美女午夜福利| 亚洲精品一区av在线观看| 麻豆精品久久久久久蜜桃| 日本五十路高清| 日本撒尿小便嘘嘘汇集6| 最好的美女福利视频网| 欧美成人免费av一区二区三区| 亚洲自拍偷在线| 欧美3d第一页| 一区福利在线观看| 日韩欧美国产在线观看| 免费高清视频大片| 中文字幕av在线有码专区| 激情 狠狠 欧美| 欧美日韩国产亚洲二区| 99国产精品一区二区蜜桃av| 国产精品国产高清国产av| 99国产精品一区二区蜜桃av| h日本视频在线播放| 中国美女看黄片| 亚洲中文字幕日韩| 成人av在线播放网站| 国产乱人视频| 久久久国产成人精品二区| 国产 一区精品| 成人亚洲精品av一区二区| 久久这里只有精品中国| 国产成人a区在线观看| 哪里可以看免费的av片| 久久久久久久久中文| 深爱激情五月婷婷| 黄色配什么色好看| 午夜老司机福利剧场| 精品一区二区三区视频在线观看免费| 国产精华一区二区三区| 国产高潮美女av| 精品人妻熟女av久视频| 村上凉子中文字幕在线| 亚洲av电影不卡..在线观看| 久久精品国产清高在天天线| 午夜精品一区二区三区免费看| 波多野结衣高清作品| 日日摸夜夜添夜夜添小说| a级毛片a级免费在线| 成人永久免费在线观看视频| 少妇猛男粗大的猛烈进出视频 | 久久久久久久久大av| 国产在线精品亚洲第一网站| 久久久久久国产a免费观看| 久久亚洲国产成人精品v| 最近中文字幕高清免费大全6| 成人高潮视频无遮挡免费网站| 日韩成人av中文字幕在线观看 | 禁无遮挡网站| 又粗又爽又猛毛片免费看| 免费在线观看成人毛片| 18禁黄网站禁片免费观看直播| 99久国产av精品| 久久精品国产亚洲av香蕉五月| 如何舔出高潮| www.色视频.com| 天堂网av新在线| 成人特级av手机在线观看| 久久久欧美国产精品| 天美传媒精品一区二区| 欧美区成人在线视频| 老司机影院成人| 神马国产精品三级电影在线观看| 啦啦啦啦在线视频资源| 菩萨蛮人人尽说江南好唐韦庄 | 欧美成人a在线观看| av.在线天堂| 国产美女午夜福利| 精华霜和精华液先用哪个| 尤物成人国产欧美一区二区三区| 五月伊人婷婷丁香| 免费黄网站久久成人精品| 精品乱码久久久久久99久播| 欧美潮喷喷水| 亚洲av一区综合| 国语自产精品视频在线第100页| 亚洲高清免费不卡视频| 国产女主播在线喷水免费视频网站 | 白带黄色成豆腐渣| 亚洲四区av| 嫩草影视91久久| 欧美成人免费av一区二区三区| 久久精品久久久久久噜噜老黄 | 久久久国产成人精品二区| 国产精品av视频在线免费观看| 国产精品永久免费网站| 国产高清视频在线观看网站| 久久久久免费精品人妻一区二区| 日日干狠狠操夜夜爽| 国产视频一区二区在线看| 别揉我奶头~嗯~啊~动态视频| 97碰自拍视频| 国产91av在线免费观看| 国产亚洲91精品色在线| 伦精品一区二区三区| 久久午夜福利片| av在线蜜桃| 在线看三级毛片| 亚洲欧美成人综合另类久久久 | 亚洲精品乱码久久久v下载方式| www.色视频.com| 可以在线观看毛片的网站| 日韩欧美免费精品| 一级黄色大片毛片| 久久精品夜色国产| 日本 av在线| 国内精品久久久久精免费| 欧美性感艳星| 亚洲人成网站在线播放欧美日韩| 国产欧美日韩一区二区精品| 人人妻人人澡欧美一区二区| 直男gayav资源| 国产一区二区激情短视频| 日韩,欧美,国产一区二区三区 | 99国产精品一区二区蜜桃av| 亚洲一区二区三区色噜噜| 麻豆精品久久久久久蜜桃| 国产精品av视频在线免费观看| 又黄又爽又刺激的免费视频.| 国产一区亚洲一区在线观看| 国产伦在线观看视频一区| 久久午夜福利片| 天天躁夜夜躁狠狠久久av| 成熟少妇高潮喷水视频| 亚洲国产欧洲综合997久久,| 欧美+日韩+精品| 中国国产av一级| 日韩成人伦理影院| 欧美一区二区亚洲| 女的被弄到高潮叫床怎么办| av在线亚洲专区| 精品久久久久久久久av| 成人鲁丝片一二三区免费| 久久精品人妻少妇| 国产成人aa在线观看| 人人妻,人人澡人人爽秒播| 麻豆av噜噜一区二区三区| 国产av在哪里看| 最近的中文字幕免费完整| 中文亚洲av片在线观看爽| 春色校园在线视频观看| 精品不卡国产一区二区三区| 99在线视频只有这里精品首页| 亚洲人成网站在线观看播放| 久久久久久国产a免费观看| 国产精品不卡视频一区二区| 欧美性猛交╳xxx乱大交人| 中国美白少妇内射xxxbb| 日本a在线网址| 网址你懂的国产日韩在线| 毛片女人毛片| 日韩人妻高清精品专区| 非洲黑人性xxxx精品又粗又长| 国产一级毛片七仙女欲春2| 毛片女人毛片| 老熟妇仑乱视频hdxx| 欧美3d第一页| 97人妻精品一区二区三区麻豆| 一进一出抽搐动态| 一进一出抽搐gif免费好疼| 夜夜夜夜夜久久久久| 久久精品影院6| 国产欧美日韩精品一区二区| 床上黄色一级片| 国产亚洲精品综合一区在线观看| 精品久久国产蜜桃| 日日摸夜夜添夜夜添小说| 国产精品爽爽va在线观看网站| 精品久久久久久久人妻蜜臀av| 国产精品三级大全| 赤兔流量卡办理| 国产精品女同一区二区软件| 亚洲经典国产精华液单| 麻豆成人午夜福利视频| 午夜影院日韩av| 一级av片app| 男女下面进入的视频免费午夜| 午夜精品国产一区二区电影 | 一边摸一边抽搐一进一小说| 中文亚洲av片在线观看爽| 最近在线观看免费完整版| 久久热精品热| 色视频www国产| 男人舔女人下体高潮全视频| 中文在线观看免费www的网站| 菩萨蛮人人尽说江南好唐韦庄 | 一级a爱片免费观看的视频| 日本在线视频免费播放| 有码 亚洲区| 又黄又爽又免费观看的视频| 免费观看的影片在线观看| 国产爱豆传媒在线观看| 国产单亲对白刺激| 久久精品夜夜夜夜夜久久蜜豆| 国产久久久一区二区三区| 久久精品国产鲁丝片午夜精品| 波多野结衣高清无吗| 51国产日韩欧美| 久久热精品热| 又爽又黄无遮挡网站| 成人三级黄色视频| 亚洲精品乱码久久久v下载方式| 久久精品国产亚洲av香蕉五月| 亚洲国产精品国产精品| 波多野结衣高清作品| 99久久无色码亚洲精品果冻| 国产精品人妻久久久久久| 亚洲av第一区精品v没综合| 欧美激情久久久久久爽电影| 亚洲va在线va天堂va国产| 国产乱人视频| 晚上一个人看的免费电影| 成人国产麻豆网| 最近最新中文字幕大全电影3| avwww免费| 欧美国产日韩亚洲一区| 99久久中文字幕三级久久日本| 国产又黄又爽又无遮挡在线| www.色视频.com| 国产探花在线观看一区二区| 97在线视频观看| 内射极品少妇av片p| 一区二区三区四区激情视频 | 成人欧美大片| 久久综合国产亚洲精品| 国产白丝娇喘喷水9色精品| 18禁在线无遮挡免费观看视频 | 男女视频在线观看网站免费| 欧美三级亚洲精品| 欧美色欧美亚洲另类二区|