• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    網(wǎng)絡(luò)服務(wù)平臺算法推薦的著作權(quán)侵權(quán)認定規(guī)則

    2023-08-06 19:04:46任安麒
    關(guān)鍵詞:內(nèi)容用戶

    任安麒

    (中南財經(jīng)政法大學(xué) 知識產(chǎn)權(quán)研究中心,湖北 武漢 430073)

    一、問題的提出

    隨著互聯(lián)網(wǎng)技術(shù)的高速發(fā)展與移動智能終端設(shè)備的普及,中國版權(quán)市場爆發(fā)出空前的內(nèi)容需求與創(chuàng)作熱情,海量的文字、音樂、視頻等作品在網(wǎng)絡(luò)環(huán)境中被分發(fā)、瀏覽與欣賞。為了進一步優(yōu)化內(nèi)容生態(tài)、增強用戶黏性,解決全民創(chuàng)作時代的信息過載問題,智能算法推薦技術(shù)應(yīng)運而生,且被廣泛運用于各大網(wǎng)絡(luò)服務(wù)平臺。主打“千人千面”“個性化用戶推薦”的今日頭條新聞客戶端(以下簡稱“今日頭條”),通過智能推薦算法打破了傳統(tǒng)新聞分發(fā)模式,用戶數(shù)量呈指數(shù)型上漲;抖音短視頻平臺(以下簡稱“抖音”)、快手短視頻平臺(以下簡稱“快手”)等利用推薦算法快速吸引用戶,創(chuàng)造巨大經(jīng)濟價值,帶領(lǐng)中國傳統(tǒng)視頻行業(yè)進入短視頻時代。據(jù)統(tǒng)計,目前整個社會信息分發(fā)市場中,智能算法推薦型分發(fā)模式占比已超過70%[1]。傳統(tǒng)內(nèi)容分發(fā)市場的人工審核、編輯、推薦運作機制逐步被智能推薦算法所取代,這也引發(fā)了法律界及出版?zhèn)髅浇绲膿?dān)憂:個性化算法收集數(shù)據(jù)是否侵犯用戶隱私權(quán)利和數(shù)據(jù)權(quán)益?網(wǎng)絡(luò)服務(wù)平臺算法推薦侵權(quán)內(nèi)容時責(zé)任如何認定?智能推薦算法是否會產(chǎn)生“信息繭房”導(dǎo)致群體極端化?

    2018 年底,北京愛奇藝科技有限公司(以下簡稱“愛奇藝”)起訴北京字節(jié)跳動科技有限公司(以下簡稱“字節(jié)跳動”)。愛奇藝訴稱,字節(jié)跳動旗下今日頭條以短視頻形式推送影視劇《延禧攻略》劇集內(nèi)容,單片播放量逾80 萬次,嚴(yán)重損害了愛奇藝的獨家信息網(wǎng)絡(luò)傳播權(quán)[2]。庭審中,雙方爭議焦點在于智能算法推送侵權(quán)內(nèi)容,今日頭條作為網(wǎng)絡(luò)服務(wù)提供商的注意義務(wù)判斷。愛奇藝提出,今日頭條算法推薦技術(shù)先進、內(nèi)容識別結(jié)果精確,具備采取措施規(guī)避侵權(quán)的能力,但是卻對侵權(quán)內(nèi)容視而不見,有利用避風(fēng)港規(guī)則逃避責(zé)任、謀求不正當(dāng)利益之嫌。字節(jié)跳動則辯稱,今日頭條算法推薦過程不包含人工審核,且網(wǎng)絡(luò)服務(wù)平臺無主動審查義務(wù),原告訴求明顯超出法律規(guī)定的注意義務(wù)范圍和視頻行業(yè)管理水平[3]。

    此案引發(fā)了學(xué)界關(guān)于算法推薦與網(wǎng)絡(luò)服務(wù)平臺侵權(quán)認定規(guī)則的討論,主要爭議在于:算法推薦行為能否被視為網(wǎng)絡(luò)平臺的“推薦”,即如何辨析推薦算法之“主動”與法律歸責(zé)要件之“主動”的異同?網(wǎng)絡(luò)服務(wù)平臺是否對算法推薦結(jié)果有更強的信息管理能力,以及與之相應(yīng)的更高的注意義務(wù)?智能推薦算法是否包含價值判斷,網(wǎng)絡(luò)服務(wù)平臺推薦侵權(quán)內(nèi)容是否能夠依據(jù)技術(shù)中立原則免責(zé)?上述爭議主要集中于對“技術(shù)中立”原則和“注意義務(wù)”高低的判斷,而分歧主要來源于法律移植的不適應(yīng)、制度條文的不完善以及法律解釋的不一致。聚焦主要爭議點,下文擬討論以下三個問題:第一,檢視網(wǎng)絡(luò)服務(wù)平臺所稱智能推薦算法的“技術(shù)中立性”和“無價值判斷”,結(jié)合技術(shù)中立論、技術(shù)價值論、地位中立論等理論體系,探討網(wǎng)絡(luò)服務(wù)平臺是否能夠因技術(shù)中立原則免除侵權(quán)責(zé)任。第二,與信息管理能力相匹配的注意義務(wù)意味著網(wǎng)絡(luò)服務(wù)平臺承擔(dān)一定程度的審查義務(wù),是否與相關(guān)制度規(guī)定相抵觸;應(yīng)如何判斷審查義務(wù)與注意義務(wù)的種屬關(guān)系。第三,從積極層面和消極層面,判斷網(wǎng)絡(luò)服務(wù)平臺是否實施了“主動推薦”行為,是否未達到相應(yīng)的注意義務(wù)要求,進而總結(jié)網(wǎng)絡(luò)服務(wù)平臺智能推薦算法的侵權(quán)認定規(guī)則;在此基礎(chǔ)之上論述技術(shù)革新發(fā)展與權(quán)利人利益保護之間的動態(tài)平衡關(guān)系。

    二、智能推薦算法的“偽中立性”解析

    算法推薦區(qū)別于傳統(tǒng)內(nèi)容分發(fā)模式,通過收集用戶數(shù)據(jù)和內(nèi)容算法分析來進行具有針對性的信息推送,具有自動化和私人針對性的特征。基于上述特點,有學(xué)者認為,由于網(wǎng)絡(luò)服務(wù)平臺所推薦的內(nèi)容是智能算法下自動化程序的結(jié)果,平臺無須也不會對推薦內(nèi)容進行人工審查或編輯,故算法推薦的實質(zhì)是內(nèi)容選擇權(quán)由平臺向用戶的移轉(zhuǎn),因而智能推薦算法具有中立性和無價值性[4]。然而,該論述只是簡單地將傳統(tǒng)內(nèi)容分發(fā)模式與智能算法推薦模式對立,并未認識到算法推薦運行過程中用戶行為和平臺干預(yù)的相互作用??疾焖惴ǖ倪\作機制和運用實踐可知,所謂無價值性是對智能推薦算法本質(zhì)的誤判,算法推薦平臺具有“偽中立性”。

    (一) 推薦算法的運作機制及價值取向

    根據(jù)信息傳播學(xué)中的“信息熵”理論,網(wǎng)絡(luò)服務(wù)平臺進行內(nèi)容算法推薦的本質(zhì)是一個“熵降”的過程,即通過智能算法對信息進行整理、篩選與推薦,在減少信息量的同時提高信息的準(zhǔn)確性[5]。具言之,智能推薦算法的運作機制可以簡化為以下4 個環(huán)節(jié):環(huán)節(jié)1,智能算法基于標(biāo)題標(biāo)簽、內(nèi)容識別、網(wǎng)絡(luò)爬蟲等對平臺的海量信息數(shù)據(jù)庫進行識別、篩選與分類;環(huán)節(jié)2,通過智能算法對用戶進行標(biāo)簽化、繪制“用戶畫像”,目前常用的分析邏輯包括基于用戶行為內(nèi)容、基于用戶信息、基于用戶社交關(guān)系、基于用戶關(guān)聯(lián)規(guī)則等;環(huán)節(jié)3,根據(jù)上述用戶標(biāo)簽向其推薦相應(yīng)的數(shù)據(jù)庫內(nèi)容,同時還包括基于內(nèi)容熱度(評論量、點贊量、轉(zhuǎn)發(fā)量等)的流量池疊加推薦[6];環(huán)節(jié)4,通過用戶行為反饋對環(huán)節(jié)1 和環(huán)節(jié)2 中的內(nèi)容標(biāo)簽、“用戶畫像”進行修正,再根據(jù)修正后的標(biāo)簽進行內(nèi)容推薦,從而形成的推薦算法運行的閉環(huán)。

    從本體論的意義上來看,智能算法作為一種技術(shù)具有中立性與客觀性,然而,將智能推薦算法運用于內(nèi)容分發(fā)和信息傳播市場,則會表現(xiàn)出“偽中立性”的特征。首先,從上述算法運作邏輯來看,環(huán)節(jié)1和環(huán)節(jié)2 中的內(nèi)容識別、用戶標(biāo)簽等行為均有其運行的底層邏輯,而該底層邏輯無法由智能算法自動生成,只能源于算法開發(fā)者和設(shè)計者的輸入,而輸入內(nèi)容往往反映了網(wǎng)絡(luò)服務(wù)平臺的價值取向。更進一步,在上述底層邏輯的基礎(chǔ)上,智能算法又自生自發(fā)了整個體系的運作邏輯[7],其中雜糅了平臺的價值判斷,難以得出完全的中立性結(jié)論。其次,在環(huán)節(jié)3中,智能算法作為“操縱者”對平臺信息內(nèi)容進行分發(fā),所以,該分發(fā)過程中網(wǎng)絡(luò)服務(wù)提供商具有主觀目的和價值觀的事實很難被否認[8]。再次,在環(huán)節(jié)4中,平臺對內(nèi)容標(biāo)簽、“用戶畫像”進行調(diào)整,其中必然包含對智能算法的修正、優(yōu)化與完善,這也是平臺經(jīng)營者展現(xiàn)其價值取向的一個重要環(huán)節(jié)。最后,從結(jié)果論角度來看,與傳統(tǒng)的由編輯進行內(nèi)容篩選的內(nèi)容分發(fā)模式類似,在智能推薦算法的運行機制下,用戶同樣無法完全依據(jù)其主觀意愿來決定所接收的信息,智能推薦算法所隱含的內(nèi)容價值判斷標(biāo)準(zhǔn)才是影響分發(fā)內(nèi)容的決定性因素。

    (二) 智能算法推薦實踐中的“偽中立性”

    從算法的運作機制來看,網(wǎng)絡(luò)服務(wù)平臺的價值取向貫穿智能算法的底層邏輯設(shè)計、平臺信息內(nèi)容分發(fā)、對智能算法的優(yōu)化與完善等各個環(huán)節(jié);在智能算法推薦運用實踐中,亦表現(xiàn)出“偽中立性”的特征。在智能推薦算法進行底層邏輯設(shè)計之初,網(wǎng)絡(luò)服務(wù)平臺基于不同的運營目標(biāo)表現(xiàn)出不同的價值取向:抖音試圖打造覆蓋全年齡段的音樂短視頻社交平臺,重視其社交屬性,故通過智能算法構(gòu)建智能推薦流量池、通過集中推薦和疊加推薦形成“爆款”以引發(fā)社交熱點;快手著力為普通用戶營造記錄和分享生產(chǎn)生活的短視頻社區(qū),其核心價值取向在于幫助用戶發(fā)現(xiàn)更有趣的世界、分享個人獨特的幸福感,因此,快手選擇采用“瀑布流”的內(nèi)容展示模式,并通過智能算法來實現(xiàn)去中心化的篩選過程[9];而央視頻作為國家主流媒體,致力于培育有意義、有價值、有營養(yǎng)的內(nèi)容生態(tài),創(chuàng)造“有品質(zhì)的視頻社交媒體”,故在其推薦算法中加入了價值傳播因子、社會網(wǎng)絡(luò)評價體系以及與正能量相關(guān)的指標(biāo)[10]。

    在智能推薦算法使用中,網(wǎng)絡(luò)服務(wù)提供商通常會根據(jù)平臺運營狀況對平臺算法進行調(diào)整和優(yōu)化,其中必然映射出平臺經(jīng)營者的價值取向。今日頭條在行業(yè)人工智能算法交流會上明確表示,算法分發(fā)并非把所有決策都交給機器,在該過程中平臺會不斷糾偏,設(shè)計、監(jiān)督并管理算法模型[11]。今日頭條總裁也在相關(guān)致歉信中指出,會“將正確的價值觀融入技術(shù)和產(chǎn)品”,且會全面糾正算法和機器審核的缺陷,不斷強化人工運營和審核[12]。無獨有偶,快手因內(nèi)容低俗問題受到廣泛批評,在其致歉信中,快手明確表示,“社區(qū)運行用到的算法是有價值觀的,因為算法的背后是人,算法的價值觀就是人的價值觀”,并承諾將用正確的價值觀指導(dǎo)算法[13]。上述事實表明,網(wǎng)絡(luò)服務(wù)平臺并非缺乏對算法推薦結(jié)果的控制力,智能推薦算法具有價值取向性。

    (三) 基于技術(shù)價值論與地位中立論的探討

    “技術(shù)本身非善非惡,本身不包含任何觀念,既可以用于善,也可以用于惡;但技術(shù)又都有別的源頭——在人類自身之中。 ”[14]技術(shù)中立原則被運用于著作權(quán)侵權(quán)領(lǐng)域,始于美國聯(lián)邦法院1984 年的環(huán)球影業(yè)訴索尼公司案①,根據(jù)該原則,一項技術(shù)只要構(gòu)成“實質(zhì)性非侵權(quán)使用”,技術(shù)服務(wù)提供者就不必為其用戶實施的侵權(quán)行為承擔(dān)責(zé)任[15]46。具體到算法推薦行為,網(wǎng)絡(luò)服務(wù)平臺主張因智能推薦算法中立而對相關(guān)著作權(quán)侵權(quán)行為免責(zé)。但考察技術(shù)中立原則的本質(zhì)可知,“技術(shù)中立”并非決定侵權(quán)的條件或免責(zé)事由,孤立地使用該原則不合法理、缺乏邏輯,須結(jié)合侵權(quán)法具體的責(zé)任認定標(biāo)準(zhǔn)才具有應(yīng)用性[16]。相應(yīng)地,隨著理論研究的深入與司法實踐的運用,技術(shù)價值論與地位中立論也被提出,對算法推薦相關(guān)侵權(quán)責(zé)任問題具有一定的借鑒意義。

    技術(shù)價值論是相對于技術(shù)中立論提出的,二者分別產(chǎn)生于技術(shù)的社會屬性和科學(xué)屬性。根據(jù)技術(shù)價值論的觀點,技術(shù)中立原則僅具有本體論的意義,是科學(xué)技術(shù)的認知標(biāo)準(zhǔn)與理論意義的統(tǒng)一,并不能論證技術(shù)價值的中立性。申言之,技術(shù)價值論的本質(zhì)在于承認技術(shù)本身所包含的價值取向,是“內(nèi)化于技術(shù)中的社會文化價值取向和權(quán)利利益格局互動整合的結(jié)果”[17]。具體就智能算法推薦而言,固守技術(shù)中立論以排除平臺幫助侵權(quán)責(zé)任,是對技術(shù)社會屬性和價值的忽視:一方面,智能算法在研發(fā)設(shè)想、研究路徑的選擇、算法程序的編寫和實施等各個環(huán)節(jié),均不可能排除研發(fā)者的價值傾向[18]。同時,在推薦算法運行過程中又折射出用戶及社會公眾的價值追求與偏好,對算法結(jié)構(gòu)的調(diào)整亦蘊含了平臺經(jīng)營者的價值偏倚或取向,因此“技術(shù)中立性”的觀點有失偏頗。另一方面,網(wǎng)絡(luò)服務(wù)平臺通過智能算法增加用戶黏性、吸納大量資本、開拓商業(yè)版圖,獲取巨大的商業(yè)價值。作為內(nèi)容分發(fā)平臺,與傳統(tǒng)出版行業(yè)、視聽媒體行業(yè)類似,具備一定規(guī)模的算法推薦服務(wù)商開始承擔(dān)引導(dǎo)、調(diào)整與糾正社會公眾價值取向的責(zé)任,進一步印證了智能推薦算法所具有的技術(shù)價值性。

    地位中立論起源于《歐盟電子商務(wù)指令》,該指令第14 條第2 款規(guī)定,若用戶行為在網(wǎng)絡(luò)服務(wù)提供商的權(quán)力和控制之下時,則不適用“通知-刪除”規(guī)則②。其中,“權(quán)力”“控制”表明,若網(wǎng)絡(luò)服務(wù)平臺有對內(nèi)容進行修改、篩選或推薦等行為時,即違反了地位中立,不能適用技術(shù)中立原則免責(zé)[19]。簡言之,地位中立是適用技術(shù)中立原則的前提條件[20]。在中國著作權(quán)立法中,雖未明確將地位中立作為技術(shù)中立原則的必要條件,但根據(jù)《關(guān)于審理侵害信息網(wǎng)絡(luò)傳播權(quán)民事糾紛案件適用法律若干問題的規(guī)定》(以下簡稱《規(guī)定》)第12 條,當(dāng)對作品有選擇、編輯、整理、推薦等行為時,可以認定網(wǎng)絡(luò)服務(wù)提供商應(yīng)知其用戶侵權(quán)。這也在一定程度上體現(xiàn)了地位中立論的價值取向。在網(wǎng)絡(luò)服務(wù)平臺利用算法進行推薦時,平臺經(jīng)營者必然存在通過算法篩選、操控推薦內(nèi)容的行為,具有對推薦結(jié)果的完整的“控制權(quán)力”,顯然有違地位中立論。退一步講,即使平臺否認算法推薦過程中的人為干預(yù),從宏觀的結(jié)果論來看,仍表現(xiàn)為網(wǎng)絡(luò)服務(wù)平臺向不同用戶進行個性化的內(nèi)容推送,亦難以稱之為地位中立。

    三、算法推薦網(wǎng)絡(luò)服務(wù)平臺注意義務(wù)之判斷

    與技術(shù)中立免責(zé)相對應(yīng),網(wǎng)絡(luò)服務(wù)提供商的注意義務(wù)是判斷其主觀狀態(tài)的另一個重要標(biāo)準(zhǔn),亦是網(wǎng)絡(luò)服務(wù)平臺侵權(quán)責(zé)任認定的焦點與難點之一。在中國著作權(quán)法體系中,網(wǎng)絡(luò)服務(wù)提供商的注意義務(wù)包括服務(wù)過程中為保護權(quán)利人利益而必須達到的注意要求,以及對可預(yù)見風(fēng)險采取合理措施加以避免的義務(wù),即危險預(yù)見義務(wù)與危險回避義務(wù)[21]。算法推薦網(wǎng)絡(luò)服務(wù)平臺的注意義務(wù)設(shè)定,將直接影響對該平臺侵權(quán)責(zé)任的認定;而隨著學(xué)界對注意義務(wù)理論的深入研究、實踐中相關(guān)制度的適用與演進、信息傳播技術(shù)的革新,網(wǎng)絡(luò)服務(wù)平臺的注意義務(wù)也呈現(xiàn)出了新的發(fā)展趨勢。

    (一) 與信息管理能力相對應(yīng)的注意義務(wù)

    網(wǎng)絡(luò)服務(wù)提供商注意義務(wù)本質(zhì)的明確,對算法推薦平臺的注意義務(wù)高低的判斷具有重要輔助作用。從民法基礎(chǔ)理論上來看,網(wǎng)絡(luò)服務(wù)提供商注意義務(wù)乃社會公共場所的安全保障義務(wù)之延伸。具言之,傳統(tǒng)社會公共空間的經(jīng)營者、組織者或管理者對該場所具有安全保障義務(wù),應(yīng)在合理限度內(nèi)照顧他人權(quán)益;而網(wǎng)絡(luò)環(huán)境同樣具有開放性、社會性的特點,網(wǎng)絡(luò)服務(wù)提供商在某種意義上與社會公共場所經(jīng)營者具有相同的法律屬性和價值定位[22]。在共同的法律基礎(chǔ)之上,網(wǎng)絡(luò)服務(wù)提供商的注意義務(wù)可以被視為安全保障義務(wù)在網(wǎng)絡(luò)空間的延伸和續(xù)展。進一步而言,根據(jù)危險控制理論,網(wǎng)絡(luò)服務(wù)提供商與社會公共空間經(jīng)營者類似,均為侵權(quán)危險的管控者;而網(wǎng)絡(luò)服務(wù)提供商作為潛在的間接侵權(quán)人,其危險控制力顯然遠大于著作權(quán)人對危險的控制能力[15]46-47。因此,法律將注意義務(wù)分配給網(wǎng)絡(luò)服務(wù)提供商,具有經(jīng)濟上的成本優(yōu)勢[23]79。

    回歸注意義務(wù)之本質(zhì),從民法安全保障義務(wù)理論入手,“善良管理人”這一概念可以為判斷網(wǎng)絡(luò)服務(wù)提供商注意義務(wù)之高低提供借鑒。在民法語境下,“善良管理人”的注意義務(wù)要求行為人作為從事特定職業(yè)或特定社會活動的參加者,要承擔(dān)與其專業(yè)思維、認知能力相匹配的注意義務(wù)[24]。隨著將“善良管理人”注意義務(wù)引申至著作權(quán)侵權(quán)領(lǐng)域,學(xué)界和實務(wù)界逐漸發(fā)展出了“與信息管理能力相對應(yīng)的注意義務(wù)”的概念。《規(guī)定》第9 條規(guī)定,法院可以根據(jù)提供服務(wù)的性質(zhì)、方式及其引發(fā)侵權(quán)的可能性大小,以及應(yīng)當(dāng)具備的管理信息的能力來判斷網(wǎng)絡(luò)服務(wù)提供者是否構(gòu)成應(yīng)知,而“應(yīng)知”之判斷往往與注意義務(wù)高低之判斷構(gòu)成一個問題的兩個層面。故該條可以被視為“與信息管理能力相對應(yīng)的注意義務(wù)”的法律來源與依據(jù)。

    聚焦利用算法進行內(nèi)容推薦的網(wǎng)絡(luò)服務(wù)平臺,其注意義務(wù)之設(shè)定的核心在于其信息管理能力的強弱判斷?;谒惴ㄍ扑]的流程,網(wǎng)絡(luò)服務(wù)提供者對平臺內(nèi)容具有較強的信息管理能力,如前所述,在環(huán)節(jié)1 中,平臺基于智能算法會對推薦內(nèi)容進行識別、篩選與分類;在環(huán)節(jié)4 中,平臺會根據(jù)用戶反饋對算法原理、內(nèi)容標(biāo)簽進行修正。上述兩個環(huán)節(jié)中,網(wǎng)絡(luò)服務(wù)平臺均對推薦內(nèi)容具有識別、篩選和管理的能力,雖然上述過程是通過智能算法來完成,但是平臺作為算法的設(shè)計者、操作者和管理者,理應(yīng)對上述過程具有較強的信息管理能力。此外,從權(quán)利與義務(wù)對等原則的角度出發(fā),智能算法推薦平臺正是通過其強大的算法信息管理能力,實現(xiàn)對海量內(nèi)容的精準(zhǔn)識別及對關(guān)聯(lián)用戶的準(zhǔn)確推送,從而獲取巨大的經(jīng)濟利益。與此同時,在侵權(quán)判斷時又否定其信息管理能力,存在前后矛盾、逃避責(zé)任之嫌。

    (二) 審查義務(wù)與注意義務(wù)之辨

    與信息管理能力相應(yīng)的注意義務(wù)設(shè)定符合民法基礎(chǔ)理論,能夠有效協(xié)調(diào)網(wǎng)絡(luò)服務(wù)平臺的權(quán)利與義務(wù)平衡。但由于“信息管理能力”無法客觀量化且邊界模糊,法院在判決中往往難以明確注意義務(wù)的具體內(nèi)容,而是先假定網(wǎng)絡(luò)服務(wù)提供者構(gòu)成侵權(quán),再以內(nèi)涵模糊的注意義務(wù)來認定其具有主觀過錯,從而“迫使網(wǎng)絡(luò)服務(wù)提供者承擔(dān)版權(quán)審查義務(wù)”[25]。例如,最高人民法院于2019 年發(fā)布的互聯(lián)網(wǎng)司法典型案例中,法院認為,網(wǎng)絡(luò)服務(wù)平臺不能一方面享受利益,另一方面又放棄監(jiān)管、逃避審核、放任侵權(quán),而應(yīng)對相關(guān)內(nèi)容的合法性負有更高的注意義務(wù)和審核義務(wù)③。舉重以明輕,算法推薦技術(shù)乃相關(guān)平臺增加用戶黏性、獲取流量、攫取巨額利潤的主要手段之一,顯然算法推薦平臺經(jīng)營者應(yīng)承擔(dān)相應(yīng)的審核義務(wù)。

    由此引發(fā)的疑問是,對算法推薦平臺賦予審查義務(wù),是否過度提高了對網(wǎng)絡(luò)服務(wù)提供商的注意義務(wù)要求,是否與相關(guān)司法解釋相抵觸。筆者對此持否定態(tài)度:一方面,僅以《規(guī)定》第8 條第2 款論證網(wǎng)絡(luò)服務(wù)提供者不承擔(dān)審查義務(wù),是對法條的片面解讀④。該條文僅意味著“如果網(wǎng)絡(luò)服務(wù)提供者未對網(wǎng)絡(luò)用戶侵權(quán)行為主動進行審查,法院不能把這一事實本身作為依據(jù)來認定其具有過錯”[26]。結(jié)合《規(guī)定》第8 條第3 款及第9 條第4 項的“積極采取預(yù)防侵權(quán)的合理措施”可知⑤,最高人民法院傾向鼓勵網(wǎng)絡(luò)服務(wù)提供商采取事前的審查預(yù)防措施。另一方面,在學(xué)術(shù)界以及司法實踐領(lǐng)域,網(wǎng)絡(luò)服務(wù)提供商的注意義務(wù)不斷提高且與審查義務(wù)的邊界日益模糊;實際上,審查義務(wù)作為注意義務(wù)的下位概念是涵蓋其中的,因此,賦予算法推薦平臺內(nèi)容審查義務(wù)并未破壞相關(guān)司法解釋之規(guī)定⑥。

    此外,從法經(jīng)濟學(xué)的角度亦可論證算法推薦平臺審查義務(wù)的合理性來源。根據(jù)漢德公式,當(dāng)侵權(quán)人預(yù)防事故的成本(B)小于預(yù)期事故發(fā)生的可能性(P)和預(yù)期事故損失(L)的乘積時,即B<P×L時,侵權(quán)人才承擔(dān)過失侵權(quán)責(zé)任⑦,故法律不要求普通網(wǎng)絡(luò)服務(wù)提供商承擔(dān)過重的內(nèi)容審查義務(wù)。對算法推薦平臺而言:首先,平臺經(jīng)營者已投入大量資金進行算法設(shè)計,已形成較為成熟的內(nèi)容識別機制,在算法中增加著作權(quán)侵權(quán)內(nèi)容識別模塊的成本(B)相對較小。其次,隨著互聯(lián)網(wǎng)和智能設(shè)備的普及,全民創(chuàng)作、全民分享的時代來臨,隨之而來的是侵權(quán)發(fā)生可能性(P)的劇增;流量為王的時代,通過非法傳播侵權(quán)內(nèi)容以謀求巨額收益的現(xiàn)象亦屢見不鮮。最后,信息內(nèi)容碎片化與信息獲取便捷化導(dǎo)致大眾更加重視原創(chuàng)內(nèi)容的時效性,智能推薦算法加持下的侵權(quán)內(nèi)容傳播面廣、傳播速度快,加重了權(quán)利人的利益損失(L)。因此,賦予算法推薦平臺內(nèi)容審查義務(wù)符合法的經(jīng)濟學(xué)目標(biāo),能夠?qū)崿F(xiàn)效益最大化、具有合理性。

    (三) 算法推薦網(wǎng)絡(luò)服務(wù)平臺注意義務(wù)的設(shè)定

    由于算法推薦網(wǎng)絡(luò)服務(wù)提供商對其平臺內(nèi)容具有較強的信息管理能力,理應(yīng)承擔(dān)較高的注意義務(wù);賦予算法推薦平臺一定程度的信息審查義務(wù)并未違背法律解釋邏輯,且符合法經(jīng)濟學(xué)原理。仍待解決的問題是:上述注意義務(wù)的具體范圍應(yīng)如何界定?不同算法推薦平臺之間的審查義務(wù)高低應(yīng)如何區(qū)分?有學(xué)者在論述網(wǎng)絡(luò)服務(wù)提供者知識產(chǎn)權(quán)注意義務(wù)的設(shè)定時,提出了“注意義務(wù)=服務(wù)類型×行為類型×權(quán)利客體”的計算公式[23]87,筆者認為,對該公式進行修正理解或許能夠為解決上述問題提供有效的路徑。

    一方面,根據(jù)《信息網(wǎng)絡(luò)傳播權(quán)保護條例》,網(wǎng)絡(luò)服務(wù)提供者的服務(wù)類型主要包括自動接入服務(wù)、自動存儲服務(wù)、信息存儲空間服務(wù)、搜索或鏈接服務(wù)等。而根據(jù)網(wǎng)絡(luò)服務(wù)提供者對內(nèi)容的識別控制能力,其注意義務(wù)由低到高分為:基礎(chǔ)網(wǎng)絡(luò)服務(wù)、信息定位服務(wù)、信息存儲空間服務(wù)、開放平臺服務(wù)。顯然,智能算法推薦平臺為用戶提供信息存儲空間服務(wù),結(jié)合算法識別技術(shù),對內(nèi)容具有較強的控制能力,理應(yīng)承擔(dān)較高的注意義務(wù)。另一方面,權(quán)利客體,即侵權(quán)內(nèi)容的不同種類特點亦影響算法推薦平臺的注意義務(wù)設(shè)定。結(jié)合《規(guī)定》第9 條第2 項,作品的類型、知名度以及侵權(quán)信息的明顯程度直接與侵權(quán)認定相關(guān)聯(lián);根據(jù)北京市高級人民法院發(fā)布的《關(guān)于視頻分享著作權(quán)糾紛案件的審理指南》,上述參考因素還可細化為作品是否完整、是否處于檔期或熱播、熱映期,是否正處于作品制作中等⑧。

    行為類型是算法推薦平臺注意義務(wù)設(shè)定的核心影響因子,內(nèi)涵豐富,且與相關(guān)平臺著作權(quán)侵權(quán)責(zé)任的認定緊密關(guān)聯(lián):其一,是否存在直接獲益的行為?!缎畔⒕W(wǎng)絡(luò)傳播權(quán)保護條例》將未直接獲得經(jīng)濟利益作為信息存儲服務(wù)提供商的侵權(quán)免責(zé)要件之一⑨;《規(guī)定》賦予直接獲益的主體更高的注意義務(wù)⑩。因此,應(yīng)結(jié)合算法推薦平臺是否從其推薦行為中獲益以及獲得利益的數(shù)額等因素來確定其注意義務(wù)的高低。其二,根據(jù)《規(guī)定》第9 條第3 項和第10 條,主動對作品進行選擇、編輯、修改、推薦,或?qū)岵ビ耙曌髌芬栽O(shè)置榜單、目錄、索引、描述性段落、內(nèi)容簡介等方式進行推薦,均應(yīng)認定為應(yīng)當(dāng)知道用戶的侵權(quán)行為,應(yīng)承擔(dān)較高的注意義務(wù)。算法推薦平臺在內(nèi)容選擇與編輯、智能分發(fā)與推薦、榜單設(shè)置等環(huán)節(jié)所包含的人工因素越多,所承擔(dān)的注意義務(wù)亦應(yīng)相應(yīng)提高。其三,是否對重復(fù)侵權(quán)行為采取合理措施。根據(jù)《規(guī)定》第9 條第6 項,若用戶多次利用信息網(wǎng)絡(luò)服務(wù)實施侵權(quán)行為,服務(wù)提供商未采取合理措施,則可能被認定為未盡審查義務(wù)。相應(yīng)地,算法推薦平臺對持續(xù)上傳相同、相似或同類型侵權(quán)內(nèi)容的用戶也應(yīng)承擔(dān)更高的注意義務(wù)。

    四、“應(yīng)知”判斷與網(wǎng)絡(luò)服務(wù)平臺智能推薦算法侵權(quán)認定

    根據(jù)侵權(quán)責(zé)任法基本理論,過錯是網(wǎng)絡(luò)服務(wù)提供商責(zé)任認定的基礎(chǔ),具體表現(xiàn)為“知道”這一認知要件,而根據(jù)中國相關(guān)立法文件,學(xué)界普遍認同該主觀過錯認知應(yīng)包含“明知”和“應(yīng)知”兩種狀態(tài)[27]。其中,“應(yīng)知”的認定乃判斷的焦點和難點。有學(xué)者根據(jù)既有判例將“應(yīng)知”行為類型化:“積極行為”,包括整理、編輯、推薦、設(shè)置榜單等主動行為;“消極行為”,即網(wǎng)絡(luò)服務(wù)平臺未盡危險預(yù)見義務(wù)、危險回避義務(wù)等合理注意義務(wù)[28]131。上文集中論述了“應(yīng)知”判斷中的兩個難點問題,即算法推薦平臺的“偽中立性”與注意義務(wù)之設(shè)定,結(jié)合上述分析從積極行為與消極行為入手,可以總結(jié)歸納出智能算法推薦平臺侵權(quán)責(zé)任認定規(guī)則。

    (一) “偽中立性”與算法推薦積極行為認定

    對網(wǎng)絡(luò)服務(wù)提供商“應(yīng)知”認定中積極行為的規(guī)定,主要包括《規(guī)定》第9 條第3 項中的主動選擇、編輯、修改、推薦等行為,以及第10 條之“對熱播影視作品以設(shè)置榜單、目錄、索引、描述性段落、內(nèi)容簡介等方式進行推薦”。上述行為的核心在于其“主動性”,即網(wǎng)絡(luò)服務(wù)提供商主動采取相關(guān)措施進行內(nèi)容公開和分發(fā),構(gòu)成幫助侵權(quán)。從智能算法推薦的技術(shù)原理、推薦平臺的服務(wù)定位以及立法宗旨與本意來看,網(wǎng)絡(luò)服務(wù)平臺采取智能推薦算法均有構(gòu)成幫助侵權(quán)的嫌疑。

    根據(jù)智能推薦算法的技術(shù)原理,相關(guān)網(wǎng)絡(luò)服務(wù)平臺的算法具有“偽中立性”,內(nèi)含底層算法邏輯設(shè)計者的價值判斷;在運營過程中,平臺亦可對算法進行修改與操控,對推薦結(jié)果進行人為的干預(yù),顯然無法通過技術(shù)中立論免責(zé)。由此引申到算法推薦平臺的服務(wù)定位,從某種程度上來講,平臺的服務(wù)定位已從傳統(tǒng)的“網(wǎng)絡(luò)服務(wù)提供者”發(fā)展成為“信息內(nèi)容發(fā)布者”。一方面,隨著智能推薦算法技術(shù)的發(fā)展和廣泛應(yīng)用,相關(guān)平臺已逐漸舍棄“避風(fēng)港規(guī)則”下的事后處理模式,而是通過事前引導(dǎo)、積極干預(yù)用戶行為等方式進行網(wǎng)絡(luò)服務(wù)[9];另一方面,從用戶感知角度來看,算法推薦平臺已經(jīng)從傳統(tǒng)的信息網(wǎng)絡(luò)服務(wù)提供商的角色中脫離出來,轉(zhuǎn)而成為根據(jù)用戶個人喜好、標(biāo)簽設(shè)置、話題熱度等指標(biāo)“主動”推送網(wǎng)絡(luò)內(nèi)容的內(nèi)容提供者。

    從立法本意上來看,亦可論證智能算法推薦的“主動性”,從而認定其構(gòu)成幫助侵權(quán)。有學(xué)者將算法推薦行為與傳統(tǒng)網(wǎng)絡(luò)服務(wù)提供商的主動推薦行為對立起來,認為前者具有個性化和私密性,后者具有公開性和統(tǒng)一性;進一步地,公開和統(tǒng)一的特點彰顯了網(wǎng)絡(luò)服務(wù)提供商存在幫助侵權(quán)的主觀意圖[28]133。筆者認為,上述觀點是對立法本意的誤讀,立法者之所以將主動編輯、設(shè)置榜單等行為推定為“應(yīng)知”侵權(quán)事實的存在,并非基于上述行為是否公開、行為對象是否具有普遍性,其核心在于通過選擇、編輯、修改、推薦等行為可以推定網(wǎng)絡(luò)服務(wù)平臺對于侵權(quán)內(nèi)容具備認知能力,且存在內(nèi)容識別的事實行為,從而推定該平臺“應(yīng)知”侵權(quán)內(nèi)容、符合幫助侵權(quán)的過錯認定要件。易言之,智能算法推薦的個性化和私密性特點,并未改變平臺對相關(guān)內(nèi)容進行識別并主動推薦的事實,理應(yīng)認定為“主動推薦”行為,構(gòu)成幫助侵權(quán)。

    (二) 審查義務(wù)與算法推薦消極行為認定

    “應(yīng)知”判斷中積極行為認定乃基于特定行為事實的“推定知道”,但侵權(quán)法中“應(yīng)當(dāng)知道”的概念范疇顯然大于“推定知道”。更為準(zhǔn)確的“應(yīng)知”界定還包括因違反注意義務(wù)而不知他人侵權(quán)事實的幫助侵權(quán)行為,即“應(yīng)知”的消極行為認定。具體到算法推薦行為,相關(guān)網(wǎng)絡(luò)服務(wù)提供商理應(yīng)承擔(dān)較高的注意義務(wù):其一,根據(jù)侵權(quán)責(zé)任法基礎(chǔ)理論,危險的制造者或控制者應(yīng)承擔(dān)一定程度的注意義務(wù),包括危險結(jié)果預(yù)見義務(wù)和回避義務(wù)[29];智能算法平臺提供內(nèi)容發(fā)布、存儲和推薦服務(wù),為用戶侵權(quán)創(chuàng)造了客觀條件,理應(yīng)承擔(dān)注意義務(wù)以預(yù)見風(fēng)險、規(guī)避侵權(quán)。其二,有別于傳統(tǒng)網(wǎng)絡(luò)服務(wù)提供商僅擔(dān)任提供技術(shù)服務(wù)這一“中介”角色,算法推薦平臺一方面對用戶進行管理與控制[30],另一方面對內(nèi)容進行篩選和推薦,事實上形成了以平臺自身為中心的服務(wù)機制,算法推薦平臺角色定位的轉(zhuǎn)變提高了其注意義務(wù)的水平。其三,基于利益平衡、權(quán)責(zé)一致原則及公平正義基本理念,算法推薦平臺提供技術(shù)服務(wù)獲得經(jīng)濟利益,理應(yīng)負擔(dān)相應(yīng)的“不利益”——為規(guī)避危險、防范侵權(quán)而采取相應(yīng)措施所付出的必要成本,亦即理應(yīng)承擔(dān)較高的注意義務(wù)。

    注意義務(wù)的具體設(shè)定取決于網(wǎng)絡(luò)服務(wù)提供商信息管理能力的強弱,由于不同平臺的技術(shù)標(biāo)準(zhǔn)、運營模式等存在差異,是否違反注意義務(wù)從而構(gòu)成幫助侵權(quán)的認定應(yīng)在個案中具體分析。如前所述,可結(jié)合網(wǎng)絡(luò)服務(wù)提供商的服務(wù)類型、行為類型、客體類型等因素來進行綜合考量;基于算法推薦平臺的技術(shù)特點,賦予平臺一定程度的信息審查義務(wù)具備可行性與合理性。現(xiàn)階段算法推薦平臺已經(jīng)形成一套完善且高效的內(nèi)容識別系統(tǒng),這也是其運行模式的前提和基礎(chǔ),在該系統(tǒng)中增加侵權(quán)信息識別模塊,并不會耗費過多技術(shù)資源與經(jīng)濟成本。此外,智能技術(shù)推動下的侵權(quán)行為產(chǎn)生的損失遠大于審查技術(shù)的運營成本,賦予算法推薦平臺一定程度的審查義務(wù)可從源頭遏制侵權(quán)內(nèi)容的傳播,具有經(jīng)濟理性。由此可能引發(fā)的疑問也亟須解答:網(wǎng)絡(luò)服務(wù)提供商審查用戶內(nèi)容信息是否會對個人隱私產(chǎn)生威脅;過濾審查技術(shù)的不成熟可能會導(dǎo)致錯誤判斷,是否影響公眾對版權(quán)作品的合理使用;賦予技術(shù)先進的網(wǎng)絡(luò)服務(wù)提供商更高的注意義務(wù)是否合理,或?qū)⒂绊懶滦蜕虡I(yè)模式的發(fā)展。

    首先,從公共政策的視角出發(fā),為維護網(wǎng)絡(luò)版權(quán)秩序與權(quán)利人利益,對公共網(wǎng)絡(luò)空間的公開、流動、共享的信息內(nèi)容進行審查和過濾,難謂對公眾個人隱私權(quán)的侵犯[31]。同時,筆者提出的審查義務(wù)是智能推薦平臺基于機器算法的過濾機制,具有全面性、自動化、隱蔽性等特點,這種機器過濾不涉及人工干預(yù)與審查,不會系統(tǒng)地增加對用戶隱私實質(zhì)性損害的風(fēng)險。其次,受制于機器過濾技術(shù)的不完善、審查標(biāo)準(zhǔn)的不統(tǒng)一等客觀因素,必然引發(fā)對審查機制誤判、限制合理使用及轉(zhuǎn)換性使用等結(jié)果的憂慮。參照避風(fēng)港規(guī)則建立“通知-恢復(fù)”運行機制,用戶若認為機器審查結(jié)果系誤判,可通知網(wǎng)絡(luò)服務(wù)平臺,從而引入人工審查以解決上述難題[32]。任何技術(shù)的發(fā)展和運用均具有雙面性,筆者認為,以一定的錯誤概率換取對權(quán)利人智力成果財產(chǎn)的保護具有合理性。此外,隨著機器內(nèi)容識別、審查過濾機制的成熟,誤判的概率亦會逐漸降低,最終將形成較為完善的內(nèi)容審查體系和良好的網(wǎng)絡(luò)版權(quán)環(huán)境。最后,智能推薦算法的廣泛運用確實促進了網(wǎng)絡(luò)服務(wù)平臺的發(fā)展,帶來了巨大的經(jīng)濟收益,但新型商業(yè)模式的推廣運用切不可以侵犯他人合法權(quán)益為代價,否則將會對公眾創(chuàng)作、傳播作品產(chǎn)生負面影響,最終損害網(wǎng)絡(luò)服務(wù)平臺自身的效益。故賦予算法推薦平臺一定程度的審查過濾義務(wù)并不會損及公眾隱私權(quán)、言論自由以及新型商業(yè)模式的發(fā)展,具備可行性與合理性。

    五、結(jié)語

    網(wǎng)絡(luò)服務(wù)提供商著作權(quán)侵權(quán)責(zé)任認定特殊規(guī)則的本質(zhì)乃利益平衡,核心目的在于合理協(xié)調(diào)用戶、權(quán)利人以及平臺之間的權(quán)利義務(wù)關(guān)系。算法推薦平臺的底層邏輯中隱含設(shè)計者的價值取向,算法運行過程中亦存在人為干預(yù)、人工調(diào)整算法等情形,智能算法平臺具有“偽中立性”的特點,難以根據(jù)技術(shù)中立免責(zé)?;谒惴◤姶蟮膬?nèi)容識別能力,算法推薦平臺具有較強的信息管理能力,理應(yīng)承擔(dān)更高的注意義務(wù)乃至一定程度的審查義務(wù),而其具體設(shè)定則應(yīng)綜合考量平臺的服務(wù)類型、行為類型和客體種類等。從網(wǎng)絡(luò)服務(wù)提供商幫助侵權(quán)的“應(yīng)知”要件判斷,平臺的智能算法推薦行為已構(gòu)成積極行為中的“主動推薦”,構(gòu)成幫助侵權(quán);從消極行為認定的角度來看,算法推薦平臺亦應(yīng)承擔(dān)一定程度的審查過濾義務(wù)。作為調(diào)整社會關(guān)系的基本工具,與其將法律視為新型商業(yè)模式發(fā)展的阻礙,不如將其當(dāng)作網(wǎng)絡(luò)服務(wù)平臺發(fā)展的標(biāo)尺、界限和風(fēng)向標(biāo),引導(dǎo)新型商業(yè)模式朝著更加成熟完善的方向發(fā)展和進步。

    注釋:

    ①參見:Sony Corp. of America v. Universal City Studios, Inc., 464 U. S. (1984)。

    ②參見:Directive 2000/31/EC. Directive on Electronic Commerce,Article 14.2。

    ③參見:北京互聯(lián)網(wǎng)法院(2018)京0491 民初935 號民事判決書。

    ④《規(guī)定》第8 條第2 款:“網(wǎng)絡(luò)服務(wù)提供者未對網(wǎng)絡(luò)用戶侵害信息網(wǎng)絡(luò)傳播權(quán)的行為主動進行審查的,人民法院不應(yīng)據(jù)此認定其具有過錯?!?/p>

    ⑤《規(guī)定》第8 條第3 款:“網(wǎng)絡(luò)服務(wù)提供者能夠證明已采取合理、有效的技術(shù)措施,仍難以發(fā)現(xiàn)網(wǎng)絡(luò)用戶侵害信息網(wǎng)絡(luò)傳播權(quán)行為的,人民法院應(yīng)當(dāng)認定其不具有過錯。”

    ⑥審查義務(wù)本屬注意義務(wù)的范疇,具體論述參見:參考文獻[25] 。

    ⑦參見:United States v. Carroll Towing Co., 159 F. 2d 169, 1947。

    ⑧參見:北京市高級人民法院《關(guān)于視頻分享著作權(quán)糾紛案件的審理指南》第8 條。

    ⑨《信息網(wǎng)絡(luò)傳播權(quán)保護條例》第22 條:“網(wǎng)絡(luò)服務(wù)提供者為服務(wù)對象提供信息存儲空間,供服務(wù)對象通過信息網(wǎng)絡(luò)向公眾提供作品、表演、錄音錄像制品,并具備下列條件的,不承擔(dān)賠償責(zé)任:……(四)未從服務(wù)對象提供作品、表演、錄音錄像制品中直接獲得經(jīng)濟利益。”

    ⑩《規(guī)定》第11 條第1 款:“網(wǎng)絡(luò)服務(wù)提供者從網(wǎng)絡(luò)用戶提供的作品、表演、錄音錄像制品中直接獲得經(jīng)濟利益的,人民法院應(yīng)當(dāng)認定其對該網(wǎng)絡(luò)用戶侵害信息網(wǎng)絡(luò)傳播權(quán)的行為負有較高的注意義務(wù)。”

    猜你喜歡
    內(nèi)容用戶
    內(nèi)容回顧溫故知新
    內(nèi)容回顧 溫故知新
    內(nèi)容回顧溫故知新
    關(guān)注用戶
    商用汽車(2016年11期)2016-12-19 01:20:16
    主要內(nèi)容
    臺聲(2016年2期)2016-09-16 01:06:53
    關(guān)注用戶
    商用汽車(2016年6期)2016-06-29 09:18:54
    關(guān)注用戶
    商用汽車(2016年4期)2016-05-09 01:23:12
    Camera360:拍出5億用戶
    100萬用戶
    如何獲取一億海外用戶
    www.熟女人妻精品国产| 精品第一国产精品| 一级a爱片免费观看的视频| 国内毛片毛片毛片毛片毛片| 久久国产乱子伦精品免费另类| 午夜福利欧美成人| 国产主播在线观看一区二区| 人人妻,人人澡人人爽秒播| 国产又爽黄色视频| 亚洲 国产 在线| 亚洲国产欧美日韩在线播放| www.自偷自拍.com| 久久国产精品男人的天堂亚洲| 精品国产美女av久久久久小说| 日韩三级视频一区二区三区| 在线看a的网站| 国产黄a三级三级三级人| 久久久精品欧美日韩精品| 亚洲黑人精品在线| 黄色a级毛片大全视频| 欧美日韩福利视频一区二区| 国产色视频综合| 国产成人av教育| 首页视频小说图片口味搜索| 国产伦人伦偷精品视频| a在线观看视频网站| 国产区一区二久久| 在线播放国产精品三级| 人人妻人人添人人爽欧美一区卜| 99久久99久久久精品蜜桃| 老司机亚洲免费影院| 亚洲专区国产一区二区| 成人国产一区最新在线观看| 久久久久久免费高清国产稀缺| 欧美av亚洲av综合av国产av| 国产精品久久久久久人妻精品电影| www国产在线视频色| 欧美日韩国产mv在线观看视频| 午夜精品国产一区二区电影| 国产精品日韩av在线免费观看 | 电影成人av| 精品日产1卡2卡| 高清欧美精品videossex| 91成人精品电影| 国产av精品麻豆| 亚洲成a人片在线一区二区| 亚洲午夜理论影院| 一级a爱片免费观看的视频| 亚洲av第一区精品v没综合| 亚洲成国产人片在线观看| 又黄又粗又硬又大视频| 在线观看一区二区三区| 亚洲五月天丁香| www.精华液| 9热在线视频观看99| 日本欧美视频一区| 丝袜人妻中文字幕| 欧美最黄视频在线播放免费 | 老熟妇仑乱视频hdxx| 久久人妻av系列| 99国产精品一区二区三区| 嫩草影视91久久| www.999成人在线观看| av网站免费在线观看视频| 久久精品亚洲av国产电影网| 亚洲免费av在线视频| 看免费av毛片| 欧美精品啪啪一区二区三区| 老司机靠b影院| av电影中文网址| 女性被躁到高潮视频| 欧美 亚洲 国产 日韩一| 日韩中文字幕欧美一区二区| 村上凉子中文字幕在线| 亚洲熟妇中文字幕五十中出 | 亚洲欧美精品综合一区二区三区| 国产成年人精品一区二区 | 国产av在哪里看| 丝袜美腿诱惑在线| 多毛熟女@视频| 亚洲欧美精品综合一区二区三区| 老汉色av国产亚洲站长工具| 欧美黄色淫秽网站| 9热在线视频观看99| 另类亚洲欧美激情| 在线观看日韩欧美| 国产1区2区3区精品| 成人国产一区最新在线观看| 亚洲国产精品一区二区三区在线| 91大片在线观看| 精品一区二区三区视频在线观看免费 | 神马国产精品三级电影在线观看 | 一边摸一边做爽爽视频免费| 19禁男女啪啪无遮挡网站| 国产精品美女特级片免费视频播放器 | 99国产精品一区二区三区| 国产一区在线观看成人免费| 超色免费av| 午夜免费鲁丝| 久久人人精品亚洲av| 黄频高清免费视频| 中文字幕最新亚洲高清| 日韩免费av在线播放| 色综合站精品国产| 亚洲免费av在线视频| 亚洲国产精品合色在线| 88av欧美| 精品熟女少妇八av免费久了| 看黄色毛片网站| 最好的美女福利视频网| 长腿黑丝高跟| 露出奶头的视频| 97人妻天天添夜夜摸| 国产精品综合久久久久久久免费 | 高清在线国产一区| 亚洲av片天天在线观看| 丰满饥渴人妻一区二区三| 巨乳人妻的诱惑在线观看| 在线天堂中文资源库| 午夜福利在线观看吧| 欧美黄色淫秽网站| 国产1区2区3区精品| 国产亚洲精品久久久久久毛片| 亚洲自拍偷在线| 欧美激情极品国产一区二区三区| 久久久久国内视频| 自拍欧美九色日韩亚洲蝌蚪91| 窝窝影院91人妻| 亚洲 欧美 日韩 在线 免费| 亚洲全国av大片| 91大片在线观看| 韩国av一区二区三区四区| 亚洲精品一卡2卡三卡4卡5卡| 波多野结衣av一区二区av| 日韩三级视频一区二区三区| 18禁裸乳无遮挡免费网站照片 | 少妇 在线观看| 啦啦啦免费观看视频1| 免费高清在线观看日韩| 国产av又大| 制服人妻中文乱码| 亚洲va日本ⅴa欧美va伊人久久| 好男人电影高清在线观看| 日本精品一区二区三区蜜桃| 日本vs欧美在线观看视频| 亚洲一区二区三区不卡视频| 18禁国产床啪视频网站| aaaaa片日本免费| 手机成人av网站| 18禁国产床啪视频网站| 日本wwww免费看| 超碰成人久久| 国产一区二区三区综合在线观看| 性欧美人与动物交配| 国产精品1区2区在线观看.| 国产成年人精品一区二区 | 男女做爰动态图高潮gif福利片 | av网站在线播放免费| 亚洲熟女毛片儿| 国产一区二区激情短视频| 可以免费在线观看a视频的电影网站| 在线观看66精品国产| 久久香蕉国产精品| 日韩欧美在线二视频| 亚洲成人久久性| 亚洲性夜色夜夜综合| 高清av免费在线| 亚洲精品成人av观看孕妇| 女生性感内裤真人,穿戴方法视频| 女人被狂操c到高潮| www日本在线高清视频| 午夜影院日韩av| 亚洲第一av免费看| 纯流量卡能插随身wifi吗| 国产又色又爽无遮挡免费看| 日韩视频一区二区在线观看| 欧美精品一区二区免费开放| 午夜福利免费观看在线| aaaaa片日本免费| 久久人妻av系列| 妹子高潮喷水视频| 久久亚洲精品不卡| 欧美日韩乱码在线| 婷婷丁香在线五月| 999久久久国产精品视频| 一夜夜www| 精品一区二区三区av网在线观看| 欧美av亚洲av综合av国产av| 女警被强在线播放| 亚洲中文字幕日韩| 亚洲一码二码三码区别大吗| 午夜免费鲁丝| 国产成人系列免费观看| tocl精华| 香蕉久久夜色| 国产精品九九99| 国产区一区二久久| 欧美乱色亚洲激情| 看免费av毛片| 一级黄色大片毛片| 欧美在线黄色| 日日干狠狠操夜夜爽| 中文欧美无线码| 欧美大码av| 亚洲人成网站在线播放欧美日韩| 精品乱码久久久久久99久播| 国产精品成人在线| 国产亚洲欧美98| 久久久国产欧美日韩av| 宅男免费午夜| 欧美日本中文国产一区发布| 后天国语完整版免费观看| 欧美人与性动交α欧美软件| 啦啦啦 在线观看视频| 老司机福利观看| 一进一出抽搐gif免费好疼 | 亚洲精品一卡2卡三卡4卡5卡| 国产亚洲欧美在线一区二区| 成人18禁高潮啪啪吃奶动态图| 亚洲美女黄片视频| 久99久视频精品免费| 成年版毛片免费区| 欧美日韩亚洲综合一区二区三区_| 搡老乐熟女国产| 新久久久久国产一级毛片| 日韩大码丰满熟妇| 曰老女人黄片| 国产精品av久久久久免费| 级片在线观看| 男女午夜视频在线观看| 视频区图区小说| 国产精品1区2区在线观看.| 国产成人精品在线电影| 欧美大码av| 亚洲成人精品中文字幕电影 | 亚洲一区高清亚洲精品| 久久人妻熟女aⅴ| 老司机午夜十八禁免费视频| 久久午夜综合久久蜜桃| 国产精品99久久99久久久不卡| 久久香蕉国产精品| 成人18禁在线播放| 国产亚洲精品第一综合不卡| 午夜精品久久久久久毛片777| www日本在线高清视频| 国产一区二区在线av高清观看| 午夜久久久在线观看| 久久人人97超碰香蕉20202| 午夜福利在线观看吧| 香蕉久久夜色| 国产免费现黄频在线看| 国产日韩一区二区三区精品不卡| 婷婷六月久久综合丁香| 91麻豆av在线| 成人特级黄色片久久久久久久| 十八禁网站免费在线| 精品一区二区三区四区五区乱码| 韩国av一区二区三区四区| 美女大奶头视频| 午夜福利在线观看吧| 久久人人爽av亚洲精品天堂| 久久人人97超碰香蕉20202| 啪啪无遮挡十八禁网站| 亚洲欧美日韩高清在线视频| 午夜影院日韩av| 中亚洲国语对白在线视频| 久久青草综合色| 一区福利在线观看| 精品久久蜜臀av无| 伊人久久大香线蕉亚洲五| a级毛片在线看网站| 亚洲一区二区三区不卡视频| 国产一区二区三区在线臀色熟女 | 黄色女人牲交| 国产成人欧美在线观看| 韩国精品一区二区三区| 黄片大片在线免费观看| 一级a爱视频在线免费观看| 久久中文字幕一级| 国产熟女xx| 国产午夜精品久久久久久| 制服人妻中文乱码| 欧美黑人精品巨大| 成人三级做爰电影| 久久国产精品男人的天堂亚洲| 精品无人区乱码1区二区| 一区二区三区国产精品乱码| 久久精品影院6| av天堂久久9| 在线视频色国产色| 日本wwww免费看| 12—13女人毛片做爰片一| 99riav亚洲国产免费| 美女国产高潮福利片在线看| 满18在线观看网站| 欧美人与性动交α欧美软件| 中文字幕人妻丝袜制服| 亚洲自偷自拍图片 自拍| 久久精品影院6| 久久影院123| 男人舔女人下体高潮全视频| 精品午夜福利视频在线观看一区| 最好的美女福利视频网| 两人在一起打扑克的视频| 国产精品综合久久久久久久免费 | 日本撒尿小便嘘嘘汇集6| 黄色 视频免费看| 久久久久国内视频| 亚洲人成网站在线播放欧美日韩| 国产成人影院久久av| 美女国产高潮福利片在线看| 人成视频在线观看免费观看| 手机成人av网站| 一夜夜www| 欧美乱码精品一区二区三区| 免费高清在线观看日韩| 咕卡用的链子| 99国产综合亚洲精品| 久久国产亚洲av麻豆专区| 亚洲久久久国产精品| 黄色丝袜av网址大全| av在线播放免费不卡| www国产在线视频色| 精品人妻1区二区| 99久久国产精品久久久| 黑人巨大精品欧美一区二区蜜桃| 欧美日韩福利视频一区二区| 亚洲专区中文字幕在线| 一进一出抽搐动态| www.自偷自拍.com| 99久久精品国产亚洲精品| 自线自在国产av| 久99久视频精品免费| 丝袜在线中文字幕| 欧美日韩福利视频一区二区| 亚洲 国产 在线| 国产精品美女特级片免费视频播放器 | 日韩欧美国产一区二区入口| 极品人妻少妇av视频| 纯流量卡能插随身wifi吗| 麻豆国产av国片精品| 国产一区二区三区视频了| 男人的好看免费观看在线视频 | 99久久国产精品久久久| 久久久久亚洲av毛片大全| 国产欧美日韩综合在线一区二区| 嫩草影视91久久| 国产欧美日韩综合在线一区二区| 国产深夜福利视频在线观看| 精品久久久久久电影网| 新久久久久国产一级毛片| 亚洲欧美激情综合另类| 亚洲成人精品中文字幕电影 | 天天躁夜夜躁狠狠躁躁| 视频区图区小说| 久久人人97超碰香蕉20202| 国产欧美日韩综合在线一区二区| 乱人伦中国视频| 日本wwww免费看| 国产深夜福利视频在线观看| 国产亚洲欧美98| 国产野战对白在线观看| 亚洲成国产人片在线观看| 无遮挡黄片免费观看| 首页视频小说图片口味搜索| 国产一区在线观看成人免费| 欧洲精品卡2卡3卡4卡5卡区| 国产91精品成人一区二区三区| 国产精品一区二区在线不卡| 天堂动漫精品| 麻豆一二三区av精品| 成人免费观看视频高清| 精品卡一卡二卡四卡免费| 久久久国产精品麻豆| 丝袜美足系列| 91av网站免费观看| 亚洲午夜精品一区,二区,三区| 日韩欧美免费精品| 欧美精品啪啪一区二区三区| 亚洲五月天丁香| 又紧又爽又黄一区二区| 一区二区三区精品91| 久久久久久免费高清国产稀缺| 久久午夜亚洲精品久久| 午夜精品国产一区二区电影| 操美女的视频在线观看| 亚洲第一av免费看| 高清在线国产一区| 亚洲久久久国产精品| 看免费av毛片| 亚洲狠狠婷婷综合久久图片| 国产伦一二天堂av在线观看| 欧美在线一区亚洲| 变态另类成人亚洲欧美熟女 | 高潮久久久久久久久久久不卡| 人人妻人人爽人人添夜夜欢视频| 免费一级毛片在线播放高清视频 | 在线av久久热| 啦啦啦免费观看视频1| 免费久久久久久久精品成人欧美视频| 午夜免费观看网址| 黄片播放在线免费| 久久久国产精品麻豆| 欧美乱码精品一区二区三区| 久久久久久久精品吃奶| 亚洲人成网站在线播放欧美日韩| 久久香蕉激情| 欧美日本亚洲视频在线播放| 亚洲精品国产一区二区精华液| 少妇被粗大的猛进出69影院| 亚洲情色 制服丝袜| 99国产精品免费福利视频| 看免费av毛片| 大陆偷拍与自拍| 日韩国内少妇激情av| 免费人成视频x8x8入口观看| 亚洲人成网站在线播放欧美日韩| 欧美日韩一级在线毛片| av中文乱码字幕在线| 大码成人一级视频| 少妇被粗大的猛进出69影院| 免费在线观看日本一区| 日韩视频一区二区在线观看| 国产精品国产高清国产av| 亚洲精华国产精华精| 亚洲成人免费电影在线观看| 国产极品粉嫩免费观看在线| 亚洲自拍偷在线| 精品久久久久久成人av| 欧美黑人欧美精品刺激| 99国产精品99久久久久| 亚洲欧美一区二区三区黑人| 亚洲人成网站在线播放欧美日韩| 久99久视频精品免费| 涩涩av久久男人的天堂| 校园春色视频在线观看| 国产免费av片在线观看野外av| 久久热在线av| 欧美日韩中文字幕国产精品一区二区三区 | 两个人看的免费小视频| 久久久久久久午夜电影 | 丝袜人妻中文字幕| 精品电影一区二区在线| 亚洲第一欧美日韩一区二区三区| 国产蜜桃级精品一区二区三区| 我的亚洲天堂| 国产精品自产拍在线观看55亚洲| 欧美激情久久久久久爽电影 | 50天的宝宝边吃奶边哭怎么回事| 久久久精品欧美日韩精品| 亚洲va日本ⅴa欧美va伊人久久| 最近最新免费中文字幕在线| 亚洲国产欧美日韩在线播放| 欧美黄色淫秽网站| 欧美日韩中文字幕国产精品一区二区三区 | 成人三级做爰电影| 欧美激情 高清一区二区三区| 一本大道久久a久久精品| 高清黄色对白视频在线免费看| 亚洲欧美激情在线| 18禁黄网站禁片午夜丰满| 天天躁狠狠躁夜夜躁狠狠躁| 成人影院久久| 淫秽高清视频在线观看| 亚洲av五月六月丁香网| 中文欧美无线码| 亚洲av成人不卡在线观看播放网| 欧美一级毛片孕妇| 国产成年人精品一区二区 | av超薄肉色丝袜交足视频| 久久精品91蜜桃| 日本wwww免费看| 一a级毛片在线观看| 国产在线精品亚洲第一网站| av在线天堂中文字幕 | 日本免费a在线| 变态另类成人亚洲欧美熟女 | 在线观看免费高清a一片| 一夜夜www| 亚洲熟女毛片儿| 三级毛片av免费| 精品一区二区三卡| 国产在线精品亚洲第一网站| 俄罗斯特黄特色一大片| 精品少妇一区二区三区视频日本电影| 精品熟女少妇八av免费久了| 欧美在线黄色| 亚洲精品久久午夜乱码| 精品免费久久久久久久清纯| 动漫黄色视频在线观看| 色婷婷av一区二区三区视频| 国产精品国产av在线观看| 久久 成人 亚洲| 国产av精品麻豆| 国产精品国产高清国产av| 成年人黄色毛片网站| 亚洲精品一区av在线观看| 国内久久婷婷六月综合欲色啪| 日韩三级视频一区二区三区| www日本在线高清视频| 国产色视频综合| 男女午夜视频在线观看| 91大片在线观看| 免费高清在线观看日韩| 又紧又爽又黄一区二区| 精品久久久久久电影网| 精品国产美女av久久久久小说| 国产1区2区3区精品| 69av精品久久久久久| 亚洲国产欧美日韩在线播放| 99久久综合精品五月天人人| 十八禁网站免费在线| 99久久99久久久精品蜜桃| av超薄肉色丝袜交足视频| 18禁观看日本| 久久伊人香网站| 成人免费观看视频高清| 欧美精品亚洲一区二区| 久久精品成人免费网站| 少妇 在线观看| tocl精华| 久久国产精品男人的天堂亚洲| 我的亚洲天堂| 日本a在线网址| 999精品在线视频| 中出人妻视频一区二区| 国产一区二区三区综合在线观看| 老司机亚洲免费影院| 欧美色视频一区免费| 国产成人系列免费观看| 日韩大尺度精品在线看网址 | 亚洲精品国产一区二区精华液| 啦啦啦 在线观看视频| a级毛片黄视频| 日韩有码中文字幕| 婷婷六月久久综合丁香| 色播在线永久视频| 日韩大码丰满熟妇| 亚洲自拍偷在线| 人人澡人人妻人| 欧美日韩乱码在线| 丝袜在线中文字幕| 亚洲男人的天堂狠狠| 久久香蕉国产精品| 黄色成人免费大全| 久久这里只有精品19| 久久精品国产亚洲av香蕉五月| 看黄色毛片网站| 丝袜人妻中文字幕| 精品久久久久久,| 高潮久久久久久久久久久不卡| 亚洲精品中文字幕一二三四区| 免费在线观看影片大全网站| 亚洲精品国产一区二区精华液| 国产亚洲欧美在线一区二区| 国产精品免费视频内射| 亚洲成a人片在线一区二区| 欧美黄色片欧美黄色片| 热99国产精品久久久久久7| 波多野结衣一区麻豆| 日韩 欧美 亚洲 中文字幕| 免费一级毛片在线播放高清视频 | 精品第一国产精品| а√天堂www在线а√下载| 欧美日韩亚洲高清精品| 国产精品久久电影中文字幕| 90打野战视频偷拍视频| 欧美成人午夜精品| 久久久久国产一级毛片高清牌| 国产黄a三级三级三级人| 97人妻天天添夜夜摸| x7x7x7水蜜桃| 人人妻人人爽人人添夜夜欢视频| 老司机亚洲免费影院| 18禁黄网站禁片午夜丰满| 欧美午夜高清在线| 两性午夜刺激爽爽歪歪视频在线观看 | 一二三四在线观看免费中文在| 国产精品秋霞免费鲁丝片| 精品国产美女av久久久久小说| 亚洲一区二区三区不卡视频| 成人黄色视频免费在线看| 国产主播在线观看一区二区| 在线国产一区二区在线| 久久久久九九精品影院| 成人三级黄色视频| 久久国产亚洲av麻豆专区| 日韩大码丰满熟妇| 久久国产精品男人的天堂亚洲| 99国产精品99久久久久| 午夜免费激情av| 亚洲国产精品sss在线观看 | 国产精品一区二区三区四区久久 | av天堂久久9| 日本a在线网址| 欧美+亚洲+日韩+国产| 丰满迷人的少妇在线观看| 亚洲一码二码三码区别大吗| 黑人巨大精品欧美一区二区蜜桃| 丰满迷人的少妇在线观看| 男女下面插进去视频免费观看| 久久久久亚洲av毛片大全| 黄色a级毛片大全视频| 老鸭窝网址在线观看| 精品人妻1区二区| xxxhd国产人妻xxx| 老鸭窝网址在线观看| 91成人精品电影| 日日摸夜夜添夜夜添小说| 高清毛片免费观看视频网站 | 国产亚洲欧美98| 亚洲精品粉嫩美女一区| 国产亚洲精品久久久久久毛片| 人妻久久中文字幕网| 大陆偷拍与自拍|