• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    論算法的法律保護(hù)模式

    2019-10-08 07:27:14孫建麗
    關(guān)鍵詞:專(zhuān)屬性保護(hù)模式發(fā)明人

    孫建麗

    (對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué) 法學(xué)院,北京 100029)

    人工智能技術(shù)快速發(fā)展的同時(shí),算法亦被廣泛運(yùn)用于電子商務(wù)等各大領(lǐng)域。然而,當(dāng)前算法技術(shù)的發(fā)展速度已經(jīng)超越了法制革新的步伐,以致現(xiàn)有立法對(duì)算法的保護(hù)性規(guī)制無(wú)法與之匹配。雖然算法在實(shí)務(wù)中被競(jìng)相運(yùn)用,但從發(fā)生學(xué)角度而言,其在我國(guó)仍屬新生事物。該研究由于受高度專(zhuān)業(yè)性和技術(shù)性限制,目前國(guó)內(nèi)法學(xué)領(lǐng)域罕有學(xué)者對(duì)算法的保護(hù)模式展開(kāi)相應(yīng)探究。另外,算法自身演進(jìn)的階段性,尤其是高階算法的難以預(yù)測(cè)性和不可控性,使得對(duì)算法的探討變得更加困難。在算法技術(shù)應(yīng)用愈發(fā)普及的當(dāng)下,應(yīng)該采用何種法律模式對(duì)算法施以保護(hù),是值得關(guān)注的重點(diǎn)問(wèn)題。

    在國(guó)內(nèi)算法法律保護(hù)模式理論研究尚屬空白且遠(yuǎn)未形成體系化的當(dāng)前,確有必要以他國(guó)為鑒。然而,截至目前,即使算法技術(shù)和立法理念均較先進(jìn)的美國(guó)對(duì)該問(wèn)題亦無(wú)定論。事實(shí)上,美國(guó)國(guó)內(nèi)現(xiàn)有兩種觀點(diǎn),一種主張采用專(zhuān)利模式給予算法保護(hù),另一種主張采用商業(yè)秘密模式給予算法保護(hù)。究竟何種法律保護(hù)模式在理論上更具優(yōu)勢(shì),還有待進(jìn)一步分析。雖然目前我國(guó)算法技術(shù)在國(guó)際上尚處跟跑階段,但仍需立法對(duì)算法的法律保護(hù)模式及時(shí)作出明確規(guī)定。通過(guò)對(duì)美國(guó)算法保護(hù)模式的利弊歸結(jié),我國(guó)可在借鑒的基礎(chǔ)上,根據(jù)國(guó)內(nèi)算法發(fā)展的特點(diǎn)和現(xiàn)狀進(jìn)行一定程度的創(chuàng)新,進(jìn)而建構(gòu)出符合國(guó)情發(fā)展的分階算法保護(hù)模式。

    一、算法的專(zhuān)利保護(hù)模式分析

    究竟該對(duì)算法采用何種法律保護(hù)模式?人工智能技術(shù)遙遙領(lǐng)先的美國(guó)曾一度對(duì)算法的保護(hù)模式展開(kāi)過(guò)積極探討。在Mayo v.Prometheus案發(fā)生之前,美國(guó)法院曾認(rèn)為算法雖然隸屬抽象觀點(diǎn)范疇,但依然應(yīng)當(dāng)采用專(zhuān)利模式給予其保護(hù)。然而,在該案發(fā)生之后,美國(guó)法院便轉(zhuǎn)變了觀點(diǎn),認(rèn)為醫(yī)療算法并非美國(guó)《專(zhuān)利法》第101條之下可被授予專(zhuān)利權(quán)的適格客體,而是一種告知醫(yī)生該采取何種行動(dòng)的自然法則,因而采用專(zhuān)利模式對(duì)算法施以保護(hù)是無(wú)效的(1)參見(jiàn)美國(guó)法院2012年Mayo v.Prometheus,132S.Ct.at 1298(citing 35 U.S.C.§101(2012)一案判決書(shū)。。隨后,2014年發(fā)生的Alice Corp.v.CLS Bank International案再次強(qiáng)化了美國(guó)最高法院的此種觀點(diǎn),認(rèn)為算法只是一種僅能在計(jì)算機(jī)中運(yùn)行的一種抽象發(fā)明,因而不可采用專(zhuān)利模式對(duì)其施以保護(hù)(2)參見(jiàn)美國(guó)法院2014年Alice Corp.Pty.v.CLS Bank Int'l,134 S.Ct.2347,2358(2014)一案判決書(shū)。。

    事實(shí)上,究竟能否采用專(zhuān)利模式對(duì)算法施以保護(hù),知識(shí)產(chǎn)權(quán)法學(xué)者對(duì)此亦有探討。世界知識(shí)產(chǎn)權(quán)組織(簡(jiǎn)稱(chēng)WIPO)總干事Francis Gurry博士認(rèn)為可采用專(zhuān)利模式對(duì)算法施以保護(hù),但需要解決專(zhuān)利申請(qǐng)時(shí)長(zhǎng)和算法新穎性之間的矛盾問(wèn)題,對(duì)此吳漢東教授也表示認(rèn)同[1]。然而,即便解決了專(zhuān)利申請(qǐng)時(shí)長(zhǎng)與算法新穎性之間的矛盾問(wèn)題,算法究竟能否在我國(guó)采用專(zhuān)利模式施以保護(hù),依舊取決于算法是否滿(mǎn)足當(dāng)前我國(guó)《專(zhuān)利法》對(duì)專(zhuān)利的法定要求。

    第一,算法是否符合專(zhuān)利之“可實(shí)施性”要求。專(zhuān)利“可實(shí)施性”要求通常表現(xiàn)為,該技術(shù)領(lǐng)域中其他技能人員無(wú)須另行實(shí)驗(yàn)即可根據(jù)專(zhuān)利說(shuō)明書(shū)將該專(zhuān)利付諸實(shí)現(xiàn)。由此,算法若要通過(guò)專(zhuān)利模式施以保護(hù),必須具備專(zhuān)利的可實(shí)施屬性。這就意味著發(fā)明人必須在專(zhuān)利說(shuō)明書(shū)中披露算法的具體操作規(guī)程。根據(jù)當(dāng)前算法發(fā)展階段性特征可知(詳見(jiàn)表1[2]),“白箱”算法和“灰箱”算法屬于低階算法,由于基本遵循計(jì)算機(jī)指令,發(fā)明人可通過(guò)披露原有計(jì)算機(jī)指令的形式展現(xiàn)這兩種算法的具體操作規(guī)程,業(yè)內(nèi)其他技能人員亦可根據(jù)發(fā)明人的具體披露通過(guò)輸入原有計(jì)算機(jī)指令的形式直接將這兩種算法付諸實(shí)現(xiàn)。然而,正如表1所示,“黑箱”算法、“感知”算法、“奇異”算法系機(jī)器自主學(xué)習(xí)的結(jié)果,已經(jīng)超越了人們當(dāng)前的認(rèn)知和控制范圍,發(fā)明人很難再就這三種高階算法的具體操作規(guī)程進(jìn)行清晰描述和披露,業(yè)內(nèi)其他技能人員也難以通過(guò)輸入原有計(jì)算機(jī)指令的方式再將這三種高階算法一一付諸實(shí)現(xiàn)。

    表1算法分類(lèi)表

    然而,我們能否采用類(lèi)似我國(guó)《專(zhuān)利法》有關(guān)保藏新生物材料樣品的方法將高階算法一一付諸實(shí)現(xiàn)呢?即將這三種高階算法賴(lài)以運(yùn)行的數(shù)據(jù)集和引發(fā)這三類(lèi)非透明學(xué)習(xí)算法生成的機(jī)器學(xué)習(xí)規(guī)則存儲(chǔ)到公用數(shù)據(jù)庫(kù)中,當(dāng)數(shù)據(jù)集和機(jī)器學(xué)習(xí)規(guī)則并行存儲(chǔ)完畢后,再由業(yè)內(nèi)其他技能人員付諸實(shí)現(xiàn)?筆者認(rèn)為,即便業(yè)內(nèi)人員能夠通過(guò)此種方法復(fù)現(xiàn)高階算法的結(jié)果,高階算法在滿(mǎn)足專(zhuān)利“可實(shí)施性”要求上仍然面臨著諸多挑戰(zhàn)。因?yàn)椴捎霉脭?shù)據(jù)庫(kù)存儲(chǔ)方式將會(huì)泄露發(fā)明人的專(zhuān)有數(shù)據(jù)集和學(xué)習(xí)算法的原有數(shù)學(xué)模型,進(jìn)而引發(fā)大規(guī)模隱私侵權(quán)現(xiàn)象和商業(yè)秘密泄露風(fēng)險(xiǎn)[3],如此將會(huì)導(dǎo)致算法引發(fā)的未知風(fēng)險(xiǎn)多于算法所要解決的問(wèn)題,客觀上缺乏實(shí)施合理性。另外,當(dāng)算法和具體領(lǐng)域如醫(yī)療結(jié)合形成高階算法時(shí),發(fā)明人通常很難對(duì)此種復(fù)合算法的特征作出精準(zhǔn)歸納與概括,并就歸納與概括的正當(dāng)性說(shuō)明理由。如果此種情形下進(jìn)行公共存儲(chǔ),于高階算法的可實(shí)施性并未有真正助益。更進(jìn)一步而言,在發(fā)明人無(wú)法就算法操作規(guī)程進(jìn)行精確歸納與概括的情況下,倘若他人能夠以該算法為基礎(chǔ)進(jìn)行新的發(fā)明,那么初始發(fā)明人的權(quán)利請(qǐng)求范圍將會(huì)受到一定程度的限制,專(zhuān)利制度對(duì)初始發(fā)明人的激勵(lì)作用也將會(huì)受到削弱。由此,通過(guò)公共存儲(chǔ)方式復(fù)現(xiàn)高階算法幾乎不具備可能性和可行性。

    通過(guò)分析可知,算法是否符合專(zhuān)利“可實(shí)施性”法定要求,不能一概而論。當(dāng)算法處在“白箱”和“灰箱”階段時(shí),發(fā)明人能夠描述、披露算法的具體操作規(guī)程,業(yè)內(nèi)其他技能人員也能夠根據(jù)發(fā)明人的描述和披露將其付諸實(shí)施。即低階算法基本上符合專(zhuān)利“可實(shí)施性”要求;然而,當(dāng)算法處在“黑箱”“可感知”和“智能化”階段時(shí),發(fā)明人在披露機(jī)器學(xué)習(xí)算法的具體操作規(guī)程上確實(shí)存有客觀障礙,其將因無(wú)法解釋和控制高階算法的自動(dòng)生成路徑,而使得高階算法很難符合專(zhuān)利“可實(shí)施性”的法定要求。

    第二,算法是否符合專(zhuān)利申請(qǐng)說(shuō)明書(shū)之“書(shū)面說(shuō)明”要求。根據(jù)我國(guó)《專(zhuān)利法》第26條和《專(zhuān)利法實(shí)施細(xì)則》第18條至第24條規(guī)定,專(zhuān)利申請(qǐng)說(shuō)明書(shū)應(yīng)當(dāng)對(duì)發(fā)明內(nèi)容及其主要技術(shù)特征做出清楚、完整的說(shuō)明。之所以對(duì)專(zhuān)利做出此種獨(dú)立要求,是為了防止授予發(fā)明人過(guò)早、過(guò)寬的專(zhuān)利權(quán),以及限制發(fā)明范圍(3)參見(jiàn)美國(guó)法院2010年Ariad Pharm.,Inc.v.Eli Lilly & Co.,598 F.3d 1351,(Fed.Cir.2010)一案判決書(shū)。。也就是說(shuō),發(fā)明人在提出專(zhuān)利申請(qǐng)時(shí)必須實(shí)際擁有該發(fā)明,并通過(guò)對(duì)發(fā)明內(nèi)容及其主要特征的清晰描述確證自己的權(quán)利范圍。然而,當(dāng)前算法能否滿(mǎn)足此種法定要求還有待商榷。誠(chéng)如表1算法分類(lèi)表所示,“白箱”算法和“灰箱”算法基本上是對(duì)計(jì)算機(jī)原有指令的充分遵循,發(fā)明人完全可對(duì)這兩種算法運(yùn)行的技術(shù)方案和具體實(shí)施方式做出清晰書(shū)面說(shuō)明,從根本上能夠符合我國(guó)《專(zhuān)利法》和《專(zhuān)利法實(shí)施細(xì)則》的上述規(guī)定。

    然而,當(dāng)算法通過(guò)深度學(xué)習(xí)能夠自動(dòng)生成新的設(shè)計(jì)路徑,進(jìn)入“黑箱”、“可感知”和“智能化”階段時(shí),已經(jīng)完全脫離人類(lèi)控制而變得不可預(yù)測(cè)和難以解釋?zhuān)瑢?dǎo)致發(fā)明人很難從整體上反映出這三種高階算法的主要技術(shù)內(nèi)容,亦難以記載構(gòu)成這三種算法的必要技術(shù)特征。正如圖1所示,發(fā)明人已經(jīng)不可能再繼續(xù)對(duì)高階算法權(quán)衡決策要素的過(guò)程進(jìn)行有效干預(yù),更難以對(duì)學(xué)習(xí)算法的內(nèi)容生成路徑和主要技術(shù)特征進(jìn)行明確描述和記載。進(jìn)一步而言,即便發(fā)明人能夠通過(guò)語(yǔ)言描述高階算法的主要內(nèi)容和技術(shù)特征,業(yè)內(nèi)其他技術(shù)人員也未必能夠復(fù)現(xiàn)出同樣的算法結(jié)果,因?yàn)樗惴ㄊ欠褡裱簧陕窂侥壳吧胁磺宄?/p>

    通過(guò)分析可知,發(fā)明人可以對(duì)“白箱”算法和“灰箱”算法的主要內(nèi)容和技術(shù)特征做出清晰、完整說(shuō)明,但無(wú)法對(duì)高階算法主要內(nèi)容和技術(shù)特征做出明確描述。事實(shí)上,發(fā)明人對(duì)高階算法不是無(wú)法做出清晰描述的問(wèn)題,而是對(duì)高階算法生成路徑存在認(rèn)知盲區(qū)問(wèn)題。由此,高階算法至少目前還無(wú)法滿(mǎn)足我國(guó)《專(zhuān)利法》和《專(zhuān)利實(shí)施細(xì)則》對(duì)發(fā)明專(zhuān)利所規(guī)定的“清楚、完整”的書(shū)面說(shuō)明要求。

    圖1 算法決策流程圖

    第三,算法是否符合專(zhuān)利之“合法性”要求。根據(jù)我國(guó)《專(zhuān)利法》第五條規(guī)定,對(duì)違反法律、社會(huì)公德或者妨害公共利益的發(fā)明創(chuàng)造,不授予專(zhuān)利權(quán),即如果算法不具備合法性,便不能通過(guò)專(zhuān)利模式施以保護(hù)。事實(shí)上,判斷算法合法與否不僅涉及計(jì)算機(jī)編程技術(shù)操作規(guī)范問(wèn)題,還涉及編程倫理與價(jià)值判斷問(wèn)題,而后者本身固有的開(kāi)放性、模糊性,間接地增加了算法合法、合理與否的判定難度。判斷算法是否合法、合理不是簡(jiǎn)單回答“是”與“非”的問(wèn)題,而是一項(xiàng)需要結(jié)合時(shí)間、地點(diǎn)、損害結(jié)果等諸多要素進(jìn)行綜合判斷的問(wèn)題。例如,算法可根據(jù)用戶(hù)瀏覽信息的偏好不斷地向其推送系列類(lèi)似題材的視頻,這種做法短期內(nèi)看似滿(mǎn)足了用戶(hù)的個(gè)性化消費(fèi)需求,但長(zhǎng)此以往卻將用戶(hù)帶入了“井蛙困境”。短期內(nèi)注意力有限的情況下,用戶(hù)僅能被鎖定在由自動(dòng)化算法推送的某類(lèi)固定信息中,當(dāng)用戶(hù)對(duì)此類(lèi)固定信息形成穩(wěn)定的閱讀習(xí)慣后,便再難以關(guān)注其他領(lǐng)域的信息或即時(shí)熱點(diǎn),久而久之,造成用戶(hù)思維固化、盲目自信,認(rèn)知結(jié)構(gòu)單一,甚至模糊或淡化對(duì)現(xiàn)實(shí)社會(huì)的真實(shí)感知[4],間接地剝奪了用戶(hù)對(duì)其他信息的“知情權(quán)”。這種情況下,短視頻推介算法的短期合理性和長(zhǎng)期道德悖反性的兩相結(jié)合,促使算法合法與否的判定難度升級(jí),至于是否授予此種算法專(zhuān)利權(quán),也將專(zhuān)利審查委員會(huì)推至兩難境地。

    除卻算法短期合理性和長(zhǎng)期道德悖反性難題外,算法合法與否的判定難度還在于對(duì)污染數(shù)據(jù)的甄別和對(duì)替代變量的審查。大數(shù)據(jù)的海量性和替代變量的任意性均對(duì)算法合法與否的識(shí)別造成了一定障礙,二者的混合存在使得算法侵權(quán)變得更加隱蔽,違法識(shí)別耗時(shí)更長(zhǎng),嚴(yán)重遲滯了算法合法與否的正常判定進(jìn)度。設(shè)若甄別污染數(shù)據(jù)和審核替代變量所用時(shí)間超過(guò)算法取得專(zhuān)利的時(shí)長(zhǎng),已取得的算法專(zhuān)利還將面臨被撤銷(xiāo)的風(fēng)險(xiǎn)。因此,算法合法與否問(wèn)題未確定之前,不宜直接通過(guò)專(zhuān)利模式對(duì)算法施以保護(hù)。

    綜上分析,“白箱”算法和“灰箱”算法簡(jiǎn)單透明,易于預(yù)測(cè)、解釋、分析和甄別,客觀上能夠滿(mǎn)足專(zhuān)利法對(duì)專(zhuān)利的法定要求,立法宜采用專(zhuān)利模式對(duì)其施以保護(hù)。然而,“黑箱”算法、“感知”算法和“奇異”算法操作規(guī)程過(guò)于精密、復(fù)雜,決策過(guò)程不再受人類(lèi)控制,也無(wú)法為人類(lèi)所清晰認(rèn)知,雖然可能具有專(zhuān)利的某些特性,但直接通過(guò)專(zhuān)利模式對(duì)這三類(lèi)高階算法施以保護(hù),將會(huì)對(duì)我國(guó)現(xiàn)行《專(zhuān)利法》及其實(shí)施細(xì)則的框架造成強(qiáng)烈沖擊。另外,雖然人工智能技術(shù)的飛速發(fā)展能夠促使算法在短時(shí)間內(nèi)快速迭代,但我國(guó)當(dāng)前專(zhuān)利制度的諸多規(guī)定并不利于通過(guò)專(zhuān)利模式對(duì)高階算法施以保護(hù)。

    二、算法的商業(yè)秘密保護(hù)模式分析

    盡管各國(guó)學(xué)者對(duì)商業(yè)秘密內(nèi)涵界定不盡一致,但通過(guò)商業(yè)秘密保護(hù)技術(shù)信息已成為國(guó)際共識(shí)。對(duì)技術(shù)信息采取保密措施使得創(chuàng)新者對(duì)技術(shù)信息享有獨(dú)占權(quán)獲取競(jìng)爭(zhēng)優(yōu)勢(shì)的同時(shí),也將包括競(jìng)爭(zhēng)者在內(nèi)的其他各方排除在該項(xiàng)技術(shù)信息的知悉范圍之外。事實(shí)上,除專(zhuān)利制度外,商業(yè)秘密是保護(hù)技術(shù)創(chuàng)新的又一重要私法制度[5]。在美國(guó)司法實(shí)踐中,技術(shù)信息的所有人通常以商業(yè)秘密為由拒絕披露算法決策過(guò)程,如銷(xiāo)售COMPAS智能風(fēng)險(xiǎn)評(píng)估系統(tǒng)的Northpointe公司為實(shí)現(xiàn)營(yíng)利目的,以商業(yè)秘密為由拒絕披露自動(dòng)化算法對(duì)服刑期間表現(xiàn)良好、符合假釋條件的Rodríguez作出“高風(fēng)險(xiǎn)”評(píng)估的決策過(guò)程[6]。

    實(shí)際上,美國(guó)法院在司法實(shí)務(wù)中已經(jīng)通過(guò)判決認(rèn)可了算法的商業(yè)秘密保護(hù)模式。如在Viacom v.You Tube案中,法院并未強(qiáng)制被告向原告提供控制You Tube.com搜索功能和谷歌Google.com網(wǎng)絡(luò)搜索工具的計(jì)算機(jī)源代碼。法院認(rèn)為,該計(jì)算機(jī)源代碼凝集了數(shù)千人多年的勞動(dòng)成果,這種商業(yè)秘密中蘊(yùn)含著巨大的商業(yè)價(jià)值,若允許他人訪問(wèn),該計(jì)算機(jī)源代碼的基本設(shè)計(jì)原理將被他人輕易知悉,如此將會(huì)給Google造成巨大的競(jìng)爭(zhēng)損失,因?yàn)椴幌馟oogle那樣,他人無(wú)需投入巨額研究資金即可獲得比較競(jìng)爭(zhēng)優(yōu)勢(shì)[7]。正如Viacom v.You Tube一案所示,盡管審查計(jì)算機(jī)源代碼是解決You Tube搜索算法是否存有提升排名等不當(dāng)行為的唯一解決方案,但是法院仍以保護(hù)商業(yè)秘密為由拒絕了原告強(qiáng)制披露被告計(jì)算機(jī)源代碼的請(qǐng)求。

    然而,算法究竟能否在我國(guó)通過(guò)商業(yè)秘密模式施以保護(hù)呢?實(shí)質(zhì)上,算法是以大數(shù)據(jù)為基礎(chǔ)解決某一問(wèn)題的策略機(jī)制。這種策略機(jī)制中包含著大數(shù)據(jù)和算法實(shí)施思想兩大要素。首先,作為基礎(chǔ)要素,大數(shù)據(jù)承載著用戶(hù)個(gè)人的隱私信息和消費(fèi)痕跡,用戶(hù)個(gè)人數(shù)據(jù)表面上看似并不涉及商業(yè)秘密,但經(jīng)過(guò)海量獲取和分析后,便呈現(xiàn)出一定的規(guī)律性。使用者可根據(jù)大數(shù)據(jù)所呈現(xiàn)出的規(guī)律作出決策,從而降低管理和其他開(kāi)支成本,獲取高額商業(yè)利潤(rùn)?,F(xiàn)實(shí)中,幾乎每個(gè)使用者都會(huì)獨(dú)立保有自己的數(shù)據(jù)庫(kù),彼此之間非但互不共享,各使用者之間反而還會(huì)采取各種反爬措施防止他人爬取自有網(wǎng)站數(shù)據(jù)。零星散亂的數(shù)據(jù)并不具有商業(yè)秘密屬性,也不具有商業(yè)價(jià)值,但當(dāng)這些數(shù)據(jù)經(jīng)過(guò)使用者加工后便成為一種營(yíng)利資本和商業(yè)財(cái)富,由此具備商業(yè)秘密屬性。

    其次,作為核心要素,算法實(shí)施的思想是算法建模的關(guān)鍵,沒(méi)有這項(xiàng)核心要素,算法建模工作就無(wú)法有序展開(kāi)。因?yàn)樗惴ńkA段必須將一定的思想目標(biāo)作為指引,并將其貫穿建模始終。否則,算法設(shè)計(jì)者無(wú)法通過(guò)有限步驟將該思想目標(biāo)付諸實(shí)施。司法實(shí)務(wù)中,純粹的思想目標(biāo)不一定是商業(yè)秘密,但是算法建模等具體操作細(xì)節(jié)、方式等仍有可能符合商業(yè)秘密之秘密性、新穎性特征,進(jìn)而具備商業(yè)秘密屬性。由此,通過(guò)分析可知,當(dāng)算法的兩大構(gòu)成要素均具備商業(yè)秘密屬性時(shí),算法就有可能通過(guò)商業(yè)秘密模式獲得法律保護(hù)。

    人工智能時(shí)代,通過(guò)商業(yè)秘密形式保護(hù)算法專(zhuān)有權(quán)不僅有利于防止他人故意侵權(quán),還有利于杜絕其他競(jìng)爭(zhēng)者的搭便車(chē)行為。然而,通過(guò)商業(yè)秘密形式保護(hù)算法專(zhuān)有權(quán)亦存有弊端,即不利于對(duì)算法所造成的實(shí)際損害進(jìn)行法律歸責(zé)[8]、無(wú)法保障公眾對(duì)信息的準(zhǔn)確獲取權(quán)、抑制社會(huì)累進(jìn)創(chuàng)新。正如本文表1所示,高階算法已經(jīng)擺脫了人類(lèi)的有效控制,人們很難再對(duì)算法決策過(guò)程和決策結(jié)果進(jìn)行相應(yīng)預(yù)測(cè)和解釋?zhuān)O(shè)若通過(guò)商業(yè)秘密形式對(duì)算法施以保護(hù),那么由算法造成的“信息繭房”風(fēng)險(xiǎn)、隱私泄露風(fēng)險(xiǎn)、歧視風(fēng)險(xiǎn)等將難以受到法律規(guī)制。因?yàn)楫?dāng)事人可直接以“商業(yè)秘密”為由拒絕他人對(duì)算法的任何審核行為,以此對(duì)算法風(fēng)險(xiǎn)導(dǎo)致的群體性侵權(quán)形成強(qiáng)力抗辯,進(jìn)而逃避相應(yīng)侵權(quán)責(zé)任的承擔(dān),最終致使我國(guó)《侵權(quán)法》損害賠償條款設(shè)置目的落空。據(jù)此,在有關(guān)算法風(fēng)險(xiǎn)規(guī)制的系列配套措施尚未出臺(tái)之前,通過(guò)商業(yè)秘密模式對(duì)算法施以保護(hù)實(shí)為變相鼓勵(lì)當(dāng)事人利用高風(fēng)險(xiǎn)算法故意實(shí)施侵權(quán)行為。

    事實(shí)上,通過(guò)商業(yè)秘密模式對(duì)算法施以保護(hù)還將進(jìn)一步削弱公眾對(duì)相關(guān)信息的獲取權(quán)。自被廣泛運(yùn)用于社會(huì)各領(lǐng)域以來(lái),算法這只“看不見(jiàn)的手”便一直統(tǒng)治著社會(huì)各領(lǐng)域[9]。通過(guò)采取精密、復(fù)雜的技術(shù)手段,算法可以決定公眾獲取信息的范圍及其閱覽量的具體排名甚或網(wǎng)絡(luò)用戶(hù)的具體訪問(wèn)權(quán)限等,此種現(xiàn)象在商事領(lǐng)域尤為突出,其不僅壟斷了公眾個(gè)人的信息視域,還沖擊了公平有序的市場(chǎng)經(jīng)濟(jì)競(jìng)爭(zhēng)秩序。通常情況下,商事算法通過(guò)無(wú)關(guān)參數(shù)的設(shè)置,在沒(méi)有任何正當(dāng)依據(jù)的前提下,可以任意提升某一商品信息排名,從而間接干擾甚或阻礙消費(fèi)者獲取其他同類(lèi)產(chǎn)品信息,嚴(yán)重削弱了消費(fèi)者正常獲取其他產(chǎn)品信息的權(quán)利。設(shè)若未來(lái)立法通過(guò)商業(yè)秘密模式對(duì)算法施以保護(hù),那么對(duì)于蘊(yùn)含不良因素或違法目的的算法展開(kāi)的審核與調(diào)查工作將永遠(yuǎn)不能形成令人信服的結(jié)論,造成算法不受法律監(jiān)管的假象,制約算法技術(shù)發(fā)展的同時(shí),也使得公眾難以獲取多元化的信息。

    另外,通過(guò)商業(yè)秘密模式對(duì)算法施以保護(hù)固然利于保護(hù)使用者的合法權(quán)益,但這也意味著社會(huì)累進(jìn)創(chuàng)新在某種程度上將會(huì)受到抑制。社會(huì)累進(jìn)創(chuàng)新必然要建立在已有算法技術(shù)的基礎(chǔ)上,而算法的商業(yè)秘密屬性決定了后續(xù)累進(jìn)創(chuàng)新幾乎不可能實(shí)現(xiàn)。因?yàn)槔圻M(jìn)創(chuàng)新者很難獲得甚或不可能獲得已被采取保密措施的有關(guān)算法技術(shù)的任何有用信息。設(shè)若算法技術(shù)一直具有保密性,社會(huì)累進(jìn)創(chuàng)新的步伐就很難向前推進(jìn)。尤其是當(dāng)作為個(gè)人的第三人欲以該已有算法為目標(biāo),對(duì)其實(shí)施技術(shù)驗(yàn)證時(shí),已有算法技術(shù)信息細(xì)節(jié)獲取難度還將進(jìn)一步升級(jí),最終導(dǎo)致第三人對(duì)算法的檢驗(yàn)工作無(wú)疾而終,徒增資源浪費(fèi)[10]。進(jìn)一步而言,一旦創(chuàng)新的源泉不能充分涌流,生產(chǎn)力的革新和社會(huì)的全面進(jìn)步就會(huì)缺乏動(dòng)力,長(zhǎng)遠(yuǎn)來(lái)看并不利于技術(shù)的快速迭代,更不利于創(chuàng)新型社會(huì)的構(gòu)建。

    人工智能時(shí)代的到來(lái)以及科技的進(jìn)步,極大地提升了人們對(duì)無(wú)形財(cái)產(chǎn)的保護(hù)意識(shí),以至于越來(lái)越多的企業(yè)傾向?qū)⑺惴ㄒ暈樽约旱纳虡I(yè)秘密,以在激烈的競(jìng)爭(zhēng)中保有更多優(yōu)勢(shì)。然而,通過(guò)商業(yè)秘密模式對(duì)算法施以規(guī)制可能會(huì)對(duì)企業(yè)形成過(guò)度保護(hù),以致縱容懷有不良動(dòng)機(jī)的使用者利用算法侵害社會(huì)公眾和其他競(jìng)爭(zhēng)者的合法權(quán)益。因此,即使未來(lái)立法通過(guò)商業(yè)秘密模式對(duì)算法施以保護(hù),也要對(duì)企業(yè)所負(fù)的促進(jìn)社會(huì)累進(jìn)創(chuàng)新責(zé)任進(jìn)行相應(yīng)規(guī)定,只是在算法技術(shù)并非十分成熟的當(dāng)前,通過(guò)商業(yè)秘密模式對(duì)算法施以保護(hù)并不是最佳選擇。

    三、本文對(duì)算法保護(hù)模式的定位

    算法是通過(guò)計(jì)算機(jī)系列清晰指令解決問(wèn)題的一種策略機(jī)制,是對(duì)人類(lèi)解決問(wèn)題思路的代碼轉(zhuǎn)化。若要從法律上對(duì)算法保護(hù)模式作出清晰界定,還需明確算法與計(jì)算機(jī)程序之間的聯(lián)系和區(qū)別。算法是解決問(wèn)題的具體思路,是對(duì)特定問(wèn)題求解步驟的描述,其必須在有限步驟內(nèi)執(zhí)行終止,并通過(guò)輸出項(xiàng)在規(guī)定時(shí)限內(nèi)反映出對(duì)輸入數(shù)據(jù)的處理結(jié)果。程序則是算法的代碼實(shí)現(xiàn),是對(duì)源代碼編譯后得到的可執(zhí)行文件,也就是說(shuō)計(jì)算機(jī)程序本質(zhì)即是算法,而算法則不一定是計(jì)算機(jī)程序。正因如此,我國(guó)《計(jì)算機(jī)軟件保護(hù)條例》第2條和第7條規(guī)定,對(duì)計(jì)算機(jī)軟件的保護(hù)目前不能擴(kuò)及軟件開(kāi)發(fā)所用的思想、原理和算法。即按照當(dāng)前法律規(guī)定,算法不是計(jì)算機(jī)軟件作品,因而不具備著作權(quán)屬性。然而,已如上文所示,通過(guò)專(zhuān)利模式和商業(yè)秘密模式對(duì)算法施以保護(hù)均存有弊端,采用知識(shí)產(chǎn)權(quán)制度對(duì)算法施以保護(hù)似乎成了不解之謎。

    究竟該通過(guò)何種模式對(duì)算法進(jìn)行妥當(dāng)保護(hù)呢?筆者認(rèn)為,算法本身即為解決問(wèn)題的一種策略,為尊重算法的客觀屬性,在目前算法尚未發(fā)展至高級(jí)智能階段的情況下,我國(guó)法律暫先宜通過(guò)專(zhuān)利模式對(duì)“白箱”算法和“灰箱”施以保護(hù),因?yàn)檫@兩種算法凝結(jié)了大量的人類(lèi)智力勞動(dòng),在不產(chǎn)生消極影響的情況下,符合專(zhuān)利新穎性、創(chuàng)新性和實(shí)用性的特征。當(dāng)前對(duì)這兩種算法授予專(zhuān)利權(quán),一方面可明確算法設(shè)計(jì)者或使用者的權(quán)利范圍,激發(fā)算法設(shè)計(jì)者、使用者的創(chuàng)新積極性,另一方面有利于對(duì)算法總體有序運(yùn)行進(jìn)行有效監(jiān)管。至于“黑箱”算法、“感知”算法和“奇異”算法,因其難以預(yù)測(cè)性、不可控性和不可解釋性,宜采用純粹或混合型非專(zhuān)屬性激勵(lì)機(jī)制對(duì)設(shè)計(jì)者或發(fā)明人施以獎(jiǎng)勵(lì),而不再特意界定其法律保護(hù)模式。

    非專(zhuān)屬性激勵(lì)機(jī)制下,政府可將津貼、獎(jiǎng)金和稅收優(yōu)惠政策作為對(duì)創(chuàng)新者的激勵(lì),即設(shè)計(jì)者、發(fā)明人以獲得政府津貼、獎(jiǎng)金和減免稅收優(yōu)惠為對(duì)價(jià),不再對(duì)使用者使用本人發(fā)明的行為施以限制。這種機(jī)制下,設(shè)計(jì)者和發(fā)明人一經(jīng)完成政府提出的特定課題,即可將發(fā)明專(zhuān)利讓渡給國(guó)家,國(guó)家隨后根據(jù)該項(xiàng)發(fā)明所創(chuàng)造的社會(huì)價(jià)值,或政府就此發(fā)明而節(jié)約的財(cái)政開(kāi)支對(duì)設(shè)計(jì)者、發(fā)明人施以獎(jiǎng)勵(lì)。創(chuàng)新領(lǐng)域?qū)嵺`表明,這種激勵(lì)方式可迅速將發(fā)明人的最新發(fā)明成果順利推向社會(huì),及時(shí)促進(jìn)全民創(chuàng)新。事實(shí)上,除采用該種純粹的非專(zhuān)屬性激勵(lì)機(jī)制外,專(zhuān)屬性和非專(zhuān)屬性創(chuàng)新混合激勵(lì)機(jī)制亦能實(shí)現(xiàn)激勵(lì)高階算法研發(fā)者的效果。

    專(zhuān)屬性和非專(zhuān)屬性創(chuàng)新混合激勵(lì)機(jī)制下,政府、高校和企業(yè)需要協(xié)同合作形成完整的創(chuàng)新合作體系。其中,政府專(zhuān)門(mén)負(fù)責(zé)為高校創(chuàng)新提供研發(fā)資金支持。高校獲取研發(fā)資金后,研發(fā)出創(chuàng)新成果時(shí),其既可以自行申請(qǐng)專(zhuān)利保護(hù),也可將創(chuàng)新成果轉(zhuǎn)讓給企業(yè)。當(dāng)高校將創(chuàng)新成果轉(zhuǎn)讓給企業(yè)后,企業(yè)在量產(chǎn)前再次進(jìn)行深入研究的,可享受政府給予的稅收優(yōu)惠。這種混合創(chuàng)新激勵(lì)機(jī)制在我國(guó)又被稱(chēng)為“產(chǎn)學(xué)研”一體化機(jī)制,是科研、教育、生產(chǎn)在功能與資源優(yōu)勢(shì)上的協(xié)同與集成化,也是技術(shù)創(chuàng)新上、中、下游的對(duì)接與耦合。這種機(jī)制下,明確的分工有利于政府、高校和企業(yè)密切配合,實(shí)現(xiàn)共研、共產(chǎn)、共享之目標(biāo)。

    不過(guò),隨著科技的飛速發(fā)展,這種機(jī)制因成果轉(zhuǎn)化周期長(zhǎng),已經(jīng)不能完全適應(yīng)企業(yè)即時(shí)創(chuàng)新的需求。正因如此,部分企業(yè)已經(jīng)開(kāi)啟了自研自產(chǎn)模式。筆者認(rèn)為,為順應(yīng)技術(shù)更新周期短的時(shí)代特點(diǎn),有必要對(duì)混合激勵(lì)機(jī)制進(jìn)行適當(dāng)調(diào)整,即當(dāng)企業(yè)通過(guò)完全自研自產(chǎn)對(duì)高階算法的更新迭代作出突出貢獻(xiàn)時(shí),政府可通過(guò)登記備案方式給予企業(yè)一定稅收優(yōu)惠,以激發(fā)企業(yè)創(chuàng)新積極性。這就要求政府在未來(lái)必須扮演好服務(wù)者的角色,及時(shí)對(duì)行政轄區(qū)內(nèi)算法創(chuàng)新能力強(qiáng)、創(chuàng)新貢獻(xiàn)大的企業(yè)施以非專(zhuān)屬性物質(zhì)激勵(lì)。

    綜上分析,筆者認(rèn)為,考慮到高階算法的非透明屬性和我國(guó)算法技術(shù)發(fā)展的現(xiàn)狀,當(dāng)前無(wú)論采用稅收、獎(jiǎng)金等純粹非專(zhuān)屬性激勵(lì)機(jī)制,還是混合激勵(lì)機(jī)制,均可使得“黑箱”算法、“感知”算法、“奇異”算法的設(shè)計(jì)者或發(fā)明人獲得相應(yīng)的物質(zhì)激勵(lì),間接實(shí)現(xiàn)與其獲得專(zhuān)利權(quán)等專(zhuān)屬性權(quán)利相當(dāng)?shù)募?lì)效果。與此同時(shí),還可免去設(shè)計(jì)者或發(fā)明人因申請(qǐng)專(zhuān)利而遭遇的高階算法不可描述、不能解釋的困難,進(jìn)而保障我國(guó)《專(zhuān)利法》現(xiàn)有框架不受強(qiáng)烈沖擊。另一方面,混合激勵(lì)機(jī)制下,由國(guó)家對(duì)這三種高階算法享有所有權(quán),商業(yè)秘密將不再是社會(huì)累進(jìn)創(chuàng)新的阻礙,全社會(huì)創(chuàng)新的活力必將會(huì)得到深度激發(fā)和充分釋放,創(chuàng)新型國(guó)家建設(shè)的步伐亦將會(huì)進(jìn)一步加快。

    由此,根據(jù)算法演進(jìn)的階段性特征和專(zhuān)利申請(qǐng)的實(shí)際情況,我國(guó)未來(lái)立法時(shí)宜根據(jù)算法類(lèi)別進(jìn)行不同規(guī)范,即通過(guò)專(zhuān)利模式對(duì)“白箱”算法和“灰箱”算法施以保護(hù),對(duì)設(shè)計(jì)者、發(fā)明人施以專(zhuān)屬性權(quán)利激勵(lì);對(duì)“黑箱”算法、“感知”算法和“奇異”算法不再界定其法律保護(hù)模式,直接歸由國(guó)家所有,但國(guó)家需要根據(jù)高階算法創(chuàng)造的社會(huì)價(jià)值或就此節(jié)約的財(cái)政開(kāi)支,對(duì)相關(guān)人員和企業(yè)施以非專(zhuān)屬性物質(zhì)激勵(lì)。

    在當(dāng)前建設(shè)人工智能強(qiáng)國(guó),推進(jìn)實(shí)施創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略的新形勢(shì)下,為促進(jìn)我國(guó)人工智能技術(shù)快速發(fā)展,亟需從法律制度方面對(duì)算法的法律保護(hù)模式展開(kāi)全方位探討。但鑒于當(dāng)前我國(guó)算法保護(hù)模式理論研究的匱缺,有必要結(jié)合美國(guó)算法司法實(shí)務(wù)經(jīng)驗(yàn),通過(guò)專(zhuān)利模式對(duì)“白箱”算法、“灰箱”算法施以保護(hù)??紤]到“黑箱”算法、“感知”算法以及“奇異”算法的難以控制性和不可預(yù)測(cè)性,未來(lái)立法可不再對(duì)其法律保護(hù)模式進(jìn)行有意規(guī)定,而直接采用非專(zhuān)屬性激勵(lì)機(jī)制對(duì)研發(fā)者、發(fā)明人施以激勵(lì)。只有結(jié)合我國(guó)算法技術(shù)發(fā)展現(xiàn)狀,我們才能積極探索出適合我國(guó)算法技術(shù)發(fā)展特征的法律保護(hù)模式。

    猜你喜歡
    專(zhuān)屬性保護(hù)模式發(fā)明人
    發(fā)明人角色識(shí)別及二元?jiǎng)?chuàng)新能力差異分析
    ——社會(huì)資本視角的解釋
    淺析發(fā)明人(或設(shè)計(jì)人)變更的常見(jiàn)問(wèn)題及建議
    搖擺撞擊洗滌裝置
    家電科技(2018年9期)2018-09-28 01:45:00
    洗衣機(jī)
    家電科技(2018年9期)2018-09-28 01:45:00
    婚禮主持文案的四種特性
    藝海(2018年2期)2018-08-29 00:04:46
    建立柴連口服液中柴胡鑒別的薄層色譜法
    高效液相色譜法定性鑒別人參口服液中人參皂苷Rg1、Re的方法研究
    論網(wǎng)絡(luò)游戲著作權(quán)的保護(hù)模式及其侵權(quán)判定標(biāo)準(zhǔn)
    CBD體系下傳統(tǒng)知識(shí)保護(hù)模式研究
    跨組織網(wǎng)絡(luò)中的知識(shí)流動(dòng)性與知識(shí)專(zhuān)屬性對(duì)創(chuàng)新績(jī)效的影響研究
    极品少妇高潮喷水抽搐| 一区二区三区精品91| 777米奇影视久久| 免费观看无遮挡的男女| 男人狂女人下面高潮的视频| 亚洲精华国产精华液的使用体验| 亚洲欧美精品自产自拍| 精品午夜福利在线看| 午夜91福利影院| 建设人人有责人人尽责人人享有的| 日韩电影二区| 天天躁夜夜躁狠狠久久av| 亚洲av男天堂| 中文字幕精品免费在线观看视频 | 夜夜骑夜夜射夜夜干| 99久久综合免费| 亚洲精品日韩av片在线观看| 久久免费观看电影| 国产精品成人在线| 国产午夜精品久久久久久一区二区三区| 久久精品国产自在天天线| 亚洲精品色激情综合| 男女国产视频网站| 亚洲色图综合在线观看| 午夜91福利影院| 欧美日韩av久久| 51国产日韩欧美| 熟妇人妻不卡中文字幕| 黄色欧美视频在线观看| 99国产精品免费福利视频| 制服丝袜香蕉在线| 国产精品免费大片| 人妻少妇偷人精品九色| 国产精品国产av在线观看| 亚洲欧美一区二区三区黑人 | 亚洲不卡免费看| 亚洲精品456在线播放app| 一级黄片播放器| 久久精品久久久久久久性| av在线app专区| 国产日韩欧美亚洲二区| 欧美一级a爱片免费观看看| kizo精华| 女性生殖器流出的白浆| 欧美xxⅹ黑人| 国产精品偷伦视频观看了| 九九久久精品国产亚洲av麻豆| √禁漫天堂资源中文www| 国产黄片视频在线免费观看| 国内精品宾馆在线| 欧美3d第一页| 免费黄频网站在线观看国产| 久久亚洲国产成人精品v| 老司机影院毛片| 免费人妻精品一区二区三区视频| 亚洲欧洲国产日韩| 成人无遮挡网站| 亚洲av在线观看美女高潮| .国产精品久久| 亚洲怡红院男人天堂| 六月丁香七月| 欧美一级a爱片免费观看看| 国产精品一区二区性色av| 国产欧美另类精品又又久久亚洲欧美| 国产精品99久久99久久久不卡 | 免费观看av网站的网址| 欧美国产精品一级二级三级 | 精华霜和精华液先用哪个| 午夜免费鲁丝| 高清在线视频一区二区三区| 国产成人精品久久久久久| 日韩中文字幕视频在线看片| 少妇 在线观看| 国产又色又爽无遮挡免| 久久国产乱子免费精品| 国产高清有码在线观看视频| 国产乱人偷精品视频| 黑丝袜美女国产一区| 少妇人妻久久综合中文| 免费观看的影片在线观看| 国产精品麻豆人妻色哟哟久久| 欧美日韩一区二区视频在线观看视频在线| 日韩中文字幕视频在线看片| 99热全是精品| 成人免费观看视频高清| 五月玫瑰六月丁香| 日本黄色片子视频| 五月开心婷婷网| 亚洲美女视频黄频| 在线 av 中文字幕| 午夜影院在线不卡| 美女大奶头黄色视频| 欧美另类一区| 亚洲精品中文字幕在线视频 | 搡老乐熟女国产| 三级国产精品片| 人妻一区二区av| 少妇人妻一区二区三区视频| 在线观看免费高清a一片| 又爽又黄a免费视频| 免费观看av网站的网址| 一级毛片电影观看| 九九爱精品视频在线观看| 成人亚洲精品一区在线观看| 国产亚洲91精品色在线| 国产黄色视频一区二区在线观看| 久久鲁丝午夜福利片| 久久精品久久久久久噜噜老黄| 精品国产国语对白av| av在线老鸭窝| 亚洲av中文av极速乱| 青青草视频在线视频观看| 丝袜在线中文字幕| 国产熟女欧美一区二区| 伦理电影免费视频| 蜜桃久久精品国产亚洲av| 色网站视频免费| 97超视频在线观看视频| 乱系列少妇在线播放| 国产精品不卡视频一区二区| 菩萨蛮人人尽说江南好唐韦庄| 美女cb高潮喷水在线观看| 亚洲av不卡在线观看| 高清毛片免费看| 18禁在线播放成人免费| 亚洲成人手机| 亚洲av综合色区一区| 中文字幕人妻熟人妻熟丝袜美| 久久亚洲国产成人精品v| 久久久久久久久久人人人人人人| 2022亚洲国产成人精品| 在线观看三级黄色| 亚洲高清免费不卡视频| 国产无遮挡羞羞视频在线观看| 秋霞伦理黄片| 中文字幕人妻丝袜制服| 精品国产乱码久久久久久小说| 99九九线精品视频在线观看视频| 精品一区二区三区视频在线| 高清毛片免费看| 内射极品少妇av片p| 日日啪夜夜撸| 国产精品免费大片| 国内精品宾馆在线| 国产欧美日韩精品一区二区| 免费播放大片免费观看视频在线观看| 国产成人aa在线观看| 国产毛片在线视频| 一本—道久久a久久精品蜜桃钙片| 国产美女午夜福利| 三级经典国产精品| 国产高清国产精品国产三级| 久久久久久久国产电影| 在线观看av片永久免费下载| 天堂8中文在线网| 国产欧美日韩一区二区三区在线 | 日本与韩国留学比较| 国产成人免费无遮挡视频| 国产日韩欧美亚洲二区| 国产精品无大码| 18禁在线无遮挡免费观看视频| 男人添女人高潮全过程视频| 日韩不卡一区二区三区视频在线| 麻豆成人午夜福利视频| 人人妻人人澡人人爽人人夜夜| 中文精品一卡2卡3卡4更新| 国产中年淑女户外野战色| 91精品一卡2卡3卡4卡| 久久国产精品大桥未久av | 成人毛片60女人毛片免费| 久久久午夜欧美精品| 亚洲国产精品专区欧美| 少妇猛男粗大的猛烈进出视频| 观看免费一级毛片| 国内少妇人妻偷人精品xxx网站| 国产精品女同一区二区软件| 免费黄频网站在线观看国产| av免费观看日本| 一级毛片我不卡| 人妻 亚洲 视频| 哪个播放器可以免费观看大片| av国产久精品久网站免费入址| av专区在线播放| av免费观看日本| 高清欧美精品videossex| 国产又色又爽无遮挡免| 亚洲精品乱久久久久久| 女的被弄到高潮叫床怎么办| 久久免费观看电影| 午夜福利影视在线免费观看| 亚洲在久久综合| 日本vs欧美在线观看视频 | av免费观看日本| 欧美 亚洲 国产 日韩一| 蜜桃在线观看..| 久久久久精品久久久久真实原创| 国产日韩欧美视频二区| 亚洲av二区三区四区| 九色成人免费人妻av| 男人狂女人下面高潮的视频| 国产成人精品久久久久久| 在线观看美女被高潮喷水网站| 久久久久久久久久久丰满| a级毛片在线看网站| av在线播放精品| 亚洲av成人精品一区久久| 国产亚洲5aaaaa淫片| 丰满少妇做爰视频| 欧美激情国产日韩精品一区| 一级a做视频免费观看| 晚上一个人看的免费电影| 在线看a的网站| 一区二区三区四区激情视频| 91精品一卡2卡3卡4卡| 亚洲av男天堂| 精品99又大又爽又粗少妇毛片| 久久久久久久久久久久大奶| 插阴视频在线观看视频| 不卡视频在线观看欧美| 国产精品一区二区在线不卡| 精品久久久噜噜| 五月伊人婷婷丁香| 下体分泌物呈黄色| 国产精品久久久久久久电影| 视频中文字幕在线观看| 一级爰片在线观看| 成人国产麻豆网| 亚洲欧美日韩另类电影网站| 免费观看在线日韩| 美女福利国产在线| 亚洲精品一二三| 十分钟在线观看高清视频www | 男的添女的下面高潮视频| 亚洲国产精品一区三区| 乱人伦中国视频| 一级,二级,三级黄色视频| 国产免费一区二区三区四区乱码| 欧美激情国产日韩精品一区| 精品一区在线观看国产| 免费少妇av软件| 26uuu在线亚洲综合色| 黄色视频在线播放观看不卡| 99视频精品全部免费 在线| 我要看日韩黄色一级片| 成人午夜精彩视频在线观看| 欧美精品国产亚洲| 在线观看人妻少妇| 久久久久精品久久久久真实原创| 99热6这里只有精品| 你懂的网址亚洲精品在线观看| 偷拍熟女少妇极品色| 精品亚洲成国产av| 国产极品粉嫩免费观看在线 | 狠狠精品人妻久久久久久综合| 天天操日日干夜夜撸| 久久国产亚洲av麻豆专区| 80岁老熟妇乱子伦牲交| 777米奇影视久久| 国产爽快片一区二区三区| 久久久午夜欧美精品| 亚洲四区av| 日韩熟女老妇一区二区性免费视频| 男女边吃奶边做爰视频| 大又大粗又爽又黄少妇毛片口| 亚洲欧美成人综合另类久久久| 少妇熟女欧美另类| 欧美精品人与动牲交sv欧美| 国内精品宾馆在线| 国产白丝娇喘喷水9色精品| 成人影院久久| 久久这里有精品视频免费| 日本vs欧美在线观看视频 | 各种免费的搞黄视频| 国产精品久久久久久久久免| 欧美亚洲 丝袜 人妻 在线| 色婷婷久久久亚洲欧美| 大香蕉久久网| 人人妻人人添人人爽欧美一区卜| 色5月婷婷丁香| 高清av免费在线| 老熟女久久久| 日韩不卡一区二区三区视频在线| 三上悠亚av全集在线观看 | 伊人久久国产一区二区| 久久精品国产自在天天线| 国产精品国产三级国产专区5o| 亚洲第一区二区三区不卡| 日日爽夜夜爽网站| 免费大片黄手机在线观看| 我要看日韩黄色一级片| 免费看不卡的av| 黑人高潮一二区| 国产欧美日韩一区二区三区在线 | 色视频在线一区二区三区| 国产av一区二区精品久久| 黑人高潮一二区| 99久久人妻综合| 91aial.com中文字幕在线观看| 久久久久精品性色| 高清黄色对白视频在线免费看 | 男女边摸边吃奶| 亚洲综合精品二区| 国产高清不卡午夜福利| 大片免费播放器 马上看| 亚洲欧美日韩东京热| 日韩强制内射视频| 另类亚洲欧美激情| 色哟哟·www| 在线观看人妻少妇| 日韩大片免费观看网站| 观看免费一级毛片| 97超视频在线观看视频| 亚洲av在线观看美女高潮| 最黄视频免费看| 男人狂女人下面高潮的视频| 精品人妻偷拍中文字幕| 久久久久网色| 大话2 男鬼变身卡| 亚洲四区av| 国产av码专区亚洲av| 黄色毛片三级朝国网站 | 最后的刺客免费高清国语| 国产精品一区二区三区四区免费观看| 中文字幕av电影在线播放| 亚洲,欧美,日韩| 搡老乐熟女国产| a级一级毛片免费在线观看| 国产精品人妻久久久影院| 十八禁高潮呻吟视频 | 成人二区视频| 如日韩欧美国产精品一区二区三区 | 欧美精品一区二区大全| av一本久久久久| 国产91av在线免费观看| 亚洲美女视频黄频| 久久精品国产鲁丝片午夜精品| 久久精品国产自在天天线| 国产精品伦人一区二区| 一区在线观看完整版| 国产69精品久久久久777片| 亚洲精品久久久久久婷婷小说| 丝袜脚勾引网站| 久久人妻熟女aⅴ| 久久韩国三级中文字幕| 秋霞伦理黄片| 欧美bdsm另类| 精品少妇内射三级| 国产免费又黄又爽又色| 欧美最新免费一区二区三区| 亚洲自偷自拍三级| 如何舔出高潮| 99精国产麻豆久久婷婷| √禁漫天堂资源中文www| 乱人伦中国视频| av播播在线观看一区| 女性被躁到高潮视频| 国产免费又黄又爽又色| 欧美日韩亚洲高清精品| 日本-黄色视频高清免费观看| 男女国产视频网站| 亚洲国产精品国产精品| 亚洲av国产av综合av卡| 大香蕉97超碰在线| 国产精品一区二区在线观看99| 偷拍熟女少妇极品色| 久久婷婷青草| 国产成人免费观看mmmm| 久久精品国产亚洲网站| 国产精品国产av在线观看| 青春草国产在线视频| 人人妻人人澡人人爽人人夜夜| 成人影院久久| 国产精品麻豆人妻色哟哟久久| 日韩伦理黄色片| 乱系列少妇在线播放| 人人妻人人澡人人爽人人夜夜| 99九九线精品视频在线观看视频| 亚洲av成人精品一区久久| 日本午夜av视频| 熟女人妻精品中文字幕| 国产av码专区亚洲av| 久久国产亚洲av麻豆专区| 精品一品国产午夜福利视频| 七月丁香在线播放| 欧美丝袜亚洲另类| 成人毛片60女人毛片免费| 人妻人人澡人人爽人人| 久久久久久久久久成人| 欧美精品国产亚洲| 久久久久久久国产电影| 国产极品天堂在线| 我要看黄色一级片免费的| 一个人看视频在线观看www免费| 国产精品欧美亚洲77777| tube8黄色片| 欧美bdsm另类| 欧美xxxx性猛交bbbb| 天堂中文最新版在线下载| 丰满迷人的少妇在线观看| 久久久国产欧美日韩av| 91午夜精品亚洲一区二区三区| 天堂8中文在线网| 精品亚洲成国产av| 国产黄色免费在线视频| 在现免费观看毛片| 美女脱内裤让男人舔精品视频| 中文字幕av电影在线播放| 精品视频人人做人人爽| 国产极品粉嫩免费观看在线 | 有码 亚洲区| 纯流量卡能插随身wifi吗| 国产午夜精品久久久久久一区二区三区| 少妇人妻精品综合一区二区| 国产有黄有色有爽视频| 久久精品久久精品一区二区三区| 尾随美女入室| 久久ye,这里只有精品| 精品一品国产午夜福利视频| 十分钟在线观看高清视频www | 日韩在线高清观看一区二区三区| 草草在线视频免费看| 久久精品久久久久久久性| 美女大奶头黄色视频| 色婷婷久久久亚洲欧美| 久久久久久久久久人人人人人人| 黄色怎么调成土黄色| 精品一品国产午夜福利视频| 观看av在线不卡| 成年人午夜在线观看视频| 精品酒店卫生间| 成人漫画全彩无遮挡| 久热这里只有精品99| 九九久久精品国产亚洲av麻豆| 久久久久精品性色| .国产精品久久| 国产av国产精品国产| 免费看不卡的av| 免费av中文字幕在线| 男人添女人高潮全过程视频| 女人精品久久久久毛片| 99热这里只有精品一区| 国产真实伦视频高清在线观看| 免费黄色在线免费观看| 男的添女的下面高潮视频| 国产片特级美女逼逼视频| 高清午夜精品一区二区三区| 毛片一级片免费看久久久久| 内射极品少妇av片p| 国产高清国产精品国产三级| 久久狼人影院| 我的女老师完整版在线观看| 亚洲精品乱码久久久v下载方式| 中文字幕制服av| 看免费成人av毛片| 国产亚洲最大av| 乱人伦中国视频| 国产精品无大码| 天堂俺去俺来也www色官网| 制服丝袜香蕉在线| 午夜福利视频精品| 国产精品不卡视频一区二区| 欧美xxⅹ黑人| 高清不卡的av网站| 国产伦精品一区二区三区四那| 久久久久久伊人网av| 超碰97精品在线观看| 两个人的视频大全免费| 一本久久精品| 亚洲经典国产精华液单| 日本av手机在线免费观看| 午夜免费观看性视频| 丰满人妻一区二区三区视频av| 在线亚洲精品国产二区图片欧美 | 久久久亚洲精品成人影院| 亚洲四区av| 黄色日韩在线| 热re99久久国产66热| 国产伦在线观看视频一区| av一本久久久久| 久久国产精品男人的天堂亚洲 | 久久久欧美国产精品| 国产亚洲欧美精品永久| 国产色爽女视频免费观看| 日韩不卡一区二区三区视频在线| 久久精品国产亚洲网站| 久久久久久久久久久久大奶| 女性被躁到高潮视频| 国产高清不卡午夜福利| 美女xxoo啪啪120秒动态图| 日韩电影二区| 国产精品国产三级国产av玫瑰| 九九爱精品视频在线观看| 亚洲精品,欧美精品| 男人爽女人下面视频在线观看| 看免费成人av毛片| 人人澡人人妻人| a级一级毛片免费在线观看| 亚洲自偷自拍三级| 免费看日本二区| 男女啪啪激烈高潮av片| 老司机亚洲免费影院| 精品酒店卫生间| 中国国产av一级| 免费少妇av软件| 18禁裸乳无遮挡动漫免费视频| 久久久久久久大尺度免费视频| 午夜日本视频在线| 男人和女人高潮做爰伦理| 久久久久久久久久久免费av| 伦理电影免费视频| 国产高清三级在线| 日韩伦理黄色片| 99热这里只有是精品在线观看| 日韩欧美 国产精品| 热re99久久国产66热| 色5月婷婷丁香| 国产亚洲最大av| 秋霞伦理黄片| 日本猛色少妇xxxxx猛交久久| 丝袜喷水一区| 亚洲综合色惰| 爱豆传媒免费全集在线观看| 免费黄网站久久成人精品| 欧美日韩精品成人综合77777| 国产69精品久久久久777片| 在线观看av片永久免费下载| 一区二区三区四区激情视频| 久久婷婷青草| 亚洲av福利一区| 麻豆乱淫一区二区| 国产白丝娇喘喷水9色精品| 久久精品久久精品一区二区三区| 亚洲,欧美,日韩| 成人特级av手机在线观看| 十八禁高潮呻吟视频 | 国产精品一区二区在线观看99| 最近中文字幕高清免费大全6| 99re6热这里在线精品视频| 国产精品女同一区二区软件| 秋霞伦理黄片| 久久久国产一区二区| 国产色爽女视频免费观看| 日韩精品有码人妻一区| 亚洲精品中文字幕在线视频 | 777米奇影视久久| 中文在线观看免费www的网站| 视频区图区小说| 亚洲人成网站在线播| 日本午夜av视频| 国产69精品久久久久777片| 亚洲av中文av极速乱| 国产 精品1| 天天操日日干夜夜撸| 最近的中文字幕免费完整| 日韩人妻高清精品专区| 成年人午夜在线观看视频| 亚洲国产精品一区二区三区在线| 美女cb高潮喷水在线观看| 欧美日韩一区二区视频在线观看视频在线| 性色avwww在线观看| 一级毛片黄色毛片免费观看视频| 日韩免费高清中文字幕av| 亚洲电影在线观看av| 日韩欧美精品免费久久| 国产av精品麻豆| 国语对白做爰xxxⅹ性视频网站| 国产av精品麻豆| 最后的刺客免费高清国语| 熟女电影av网| 国产免费一区二区三区四区乱码| 波野结衣二区三区在线| 99久久综合免费| 性高湖久久久久久久久免费观看| 国产高清有码在线观看视频| 久久久久国产网址| 国产免费视频播放在线视频| 女性生殖器流出的白浆| 亚洲国产最新在线播放| 国产精品一区二区性色av| 五月天丁香电影| 伊人亚洲综合成人网| 国产中年淑女户外野战色| 日本与韩国留学比较| 国产视频内射| 国产精品福利在线免费观看| 丰满饥渴人妻一区二区三| 国产精品偷伦视频观看了| 久久精品久久久久久久性| 国产黄频视频在线观看| 天堂俺去俺来也www色官网| 亚洲精品,欧美精品| 久久精品久久久久久久性| 欧美日韩精品成人综合77777| 国产在线一区二区三区精| 18禁裸乳无遮挡动漫免费视频| 日本欧美视频一区| √禁漫天堂资源中文www| 国产精品不卡视频一区二区| 视频中文字幕在线观看| 久久久国产精品麻豆| 日韩免费高清中文字幕av| 日韩人妻高清精品专区| 国产精品一二三区在线看| 亚洲美女黄色视频免费看| 欧美成人精品欧美一级黄| 视频区图区小说| 久久久a久久爽久久v久久| 777米奇影视久久| 另类亚洲欧美激情| 亚洲av电影在线观看一区二区三区| 中国美白少妇内射xxxbb| 久久综合国产亚洲精品| 午夜福利,免费看| 国产黄片视频在线免费观看| 波野结衣二区三区在线|