• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    數(shù)字時代的“表達”:算法推薦的信息干預及其法治化因應

    2024-09-25 00:00:00秦前紅王雨亭
    法治研究 2024年5期

    關(guān)鍵詞:算法推薦 表達自由 通信自由 算法治理 平臺權(quán)力

    一、問題的提出:位于生活中心的算法推薦

    隨著信息技術(shù)的不斷發(fā)展,算法幾乎“無處不在”,“平臺正位于我們生活的中心”。①算法推薦一方面顯著提升了互聯(lián)網(wǎng)平臺的信息處理能力和信息二次生產(chǎn)能力,形成了規(guī)模巨大的商業(yè)效應,成為國家科技與經(jīng)濟競爭力的重要內(nèi)核;另一方面,算法推薦逐漸成長為互聯(lián)網(wǎng)平臺的主要內(nèi)容分發(fā)機制,它通過處理海量用戶信息,繪制相應用戶畫像,完成信息過濾,進行針對性內(nèi)容推薦等方式為用戶推送其所偏好的內(nèi)容,以此來提升用戶粘性,最終實現(xiàn)平臺利益最大化。算法推薦技術(shù)深刻且全面地影響著人們的“衣食住行”,為用戶打造量身定制的信息場——無論我們是否愿意承認,用戶已自愿或被動地裹挾于算法推薦之中。

    國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局發(fā)布了《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》(下文簡稱《算法推薦管理規(guī)定》),它將算法推薦活動從廣泛的互聯(lián)網(wǎng)技術(shù)中單獨抽出,制定了專門的管理規(guī)范,意味著我國對科技行業(yè)的監(jiān)管從“暫時擱置以利于開發(fā)”轉(zhuǎn)向“積極管理”的態(tài)度。同時,這也標志著我國的監(jiān)管逐步從粗放轉(zhuǎn)入精細。②當下,新聞傳播領(lǐng)域已有較多研究關(guān)注到信息繭房、回音室效應和“過濾氣泡”問題,③或因我國并非憲法訴訟國家,或因表達自由受影響的隱蔽性,法學界對算法推薦引起的“表達”風險未予足夠重視。本文的論證思路為:算法時代“表達”的內(nèi)涵與結(jié)構(gòu)是什么?規(guī)制算法推薦的現(xiàn)有規(guī)范是否實現(xiàn)了對“表達”的充分保護?若沒有,應如何保障算法推薦場域的“表達”。④

    二、算法推薦的工作原理及數(shù)字時代的“表達”

    “表達”的內(nèi)涵隨著時代變遷不斷豐富發(fā)展,尤其是算法時代的到來,一定程度上重塑了“表達”的結(jié)構(gòu)。從言論發(fā)表及傳播的過程來看,隨著互聯(lián)網(wǎng)技術(shù)的發(fā)展,傳統(tǒng)表達“發(fā)言者—表達行為—聽眾”的結(jié)構(gòu)已逐漸演變?yōu)椤鞍l(fā)言者—表達行為—中介平臺—聽眾”的模式。⑤當然,傳統(tǒng)的三方結(jié)構(gòu)并不絕對排斥中介平臺的存在,過去我們曾通過對公共運營商的非歧視要求實現(xiàn)了對電信運營商的監(jiān)管,從而可以一定程度上忽視此類傳統(tǒng)介質(zhì)的存在。然而,算法時代我們依賴新型平臺發(fā)表言論,訪問其他的發(fā)言者,而看似中立的平臺仍可能通過算法推薦服務隱秘地對言論內(nèi)容造成干預,⑥即算法時代平臺的中介行為變得更靈活、多變,對表達的保護迎來新的危機。

    (一)算法推薦的工作原理及其對“表達”的干預

    算法推薦包括數(shù)個關(guān)鍵過程(見圖1)。其中,特征工程指的是提取用戶的顯性特征與隱性特征并進行編碼,前者如年齡、性別、職業(yè),后者如用戶的偏好、習慣等,算法推薦服務商將按照需求選擇合適的推薦系統(tǒng),根據(jù)用戶特征、歷史行為等信息,為用戶生成其可能感興趣的內(nèi)容,并進一步確保最有可能引起用戶興趣的內(nèi)容位于列表的頂部。在推薦呈現(xiàn)與用戶交互后,算法推薦服務商會收集用戶對推薦的反饋,如停留時長、點擊率、購買率等信息,更新推薦算法模型,提高推薦效果。針對本文所討論的問題,我們可以進一步從算法推薦的關(guān)鍵過程中抽象出下述四個階段的信息策展過程(見表1):⑦

    大數(shù)據(jù)時代信息的指數(shù)級增長令用戶陷入“信息過載”的困境中,算法推薦一定程度上解決了“信息適配”的問題,然而我們必須提防這種個性化匹配、固定信息推送的模式對人們表達行為的侵害。如表1,算法推薦從信息聚合、信息排序、信息重組、信息推送四個完整的階段為用戶打造了“量身定制”的信息圈層,以“看不見的技術(shù)”為用戶設置了由同質(zhì)化信息構(gòu)成的信息基礎(chǔ),可能會產(chǎn)生信息窄化、認知固化、群體極化等不良后果?;谒惴ㄍ扑]的信息策展過程,它對表達行為的影響是多方面的(如圖2)。對于作為獨立個體的網(wǎng)絡用戶而言,于“前表達”階段,推薦系統(tǒng)選擇性地呈現(xiàn)信息,使用戶表達所依據(jù)的信息基礎(chǔ)受到干預與窄化,用戶可能會不斷接近自己想要的信息,回避不認同的信息,從而固化于窄化的信息世界中;⑧于“后表達”階段,推薦系統(tǒng)掌握著傳播的效率、方向與廣度,決定著用戶表達行為的影響力。即用戶獲得的信息是推薦算法服務商想讓用戶獲得的信息,而用戶能夠傳遞的信息亦是推薦算法服務商認為有價值的信息。而對于整個言論市場而言,算法推薦系統(tǒng)作為“技術(shù)中介”,改變著觀點市場的結(jié)構(gòu),它使得不同用戶所接觸到的信息存在較大差異,作為個體的用戶所觸及的信息卻較為單一,從而產(chǎn)生信息不公、社會極化等問題。

    (二)算法推薦下的表達自由:以通信自由為基石

    仰仗技術(shù)優(yōu)勢,網(wǎng)絡平臺對于網(wǎng)絡空間的言論擁有著絕對控制權(quán),能決定某些信息被用戶接收、某些信息無法被傳達至用戶、某些信息的傳播力度強、某些信息的傳播力度弱,因此平臺甚至能一定程度上決定輿論的走向,輸出特定的價值共識和觀念體系,破壞群體認同,影響網(wǎng)絡文化的良性發(fā)展,研究顯示,社交網(wǎng)絡上人們常常會肆意地發(fā)表仇恨、侮辱等言論,但在發(fā)表這些意見時,他們并未充分獲取信息,或信息本身已經(jīng)經(jīng)過了平臺的處理和篩選。⑨有學者認為,推薦算法類似乎傳統(tǒng)媒體的有償新聞,但表現(xiàn)得更為隱蔽、傳播更為廣泛。⑩在“最大化商業(yè)利潤”目標的指示下,算法推薦服務提供商可能會為它們的合作伙伴或者對自己有利的內(nèi)容提供流量優(yōu)勢,相反,對其不利或來自于其競爭對手、非合作伙伴的消息將不被保護。?

    除了平臺固有的追逐私利的目的外,平臺作為用戶行為“把關(guān)人”的角色為其實施嚴格的審查行為提供了“合法掩體”。我國互聯(lián)網(wǎng)平臺的主體責任已經(jīng)在規(guī)范和實踐層面得到落實,?為了最大程度上規(guī)避自身責任,平臺會傾向于對用戶發(fā)表的內(nèi)容進行大量且嚴格的審查,由此可能會損害用戶的言論自由和公共利益。?如果要求平臺對任何評論負責,那么平臺極有可能不允許任何評論發(fā)表。算法推薦為更隱蔽的侵權(quán)提供了可能,即流量的流向與控制幾乎是不可知的,這使得平臺屏蔽言論等侵權(quán)行為的取證愈發(fā)困難。另外,就筆者所了解到的情況,現(xiàn)有平臺在初次流量投放后,對于需要二次流量投放的內(nèi)容會率先進行內(nèi)容審查,此種內(nèi)容審核與算法推薦相結(jié)合的方式可能會使得侵權(quán)行為更不易察覺。

    傳統(tǒng)的表達自由強調(diào)保護表達行為、動作或過程本身,即要求發(fā)言者能夠自由地向聽眾傳遞信息并免受國家公權(quán)力的干預。?而在算法推薦場域,表達自由的防范對象及內(nèi)容側(cè)重均發(fā)生了一定程度上的位移——此時表達自由的內(nèi)涵應相應地轉(zhuǎn)化為“以通信自由為基礎(chǔ)的表達自由”。而傳播鏈條的演變使得言論的對抗主體不再限于國家,平臺發(fā)揮著不亞于國家的影響力。國家一方面可能隱于平臺的背后,借平臺之手行使公權(quán)力,另一方面,平臺可能自發(fā)地實際控制著某些由憲法授予國家的管理職能。值得注意的是,算法社會溝通的便利屬性使得言論發(fā)布的成本大大降低,因此言論的信息基礎(chǔ)對于培育良性的言論市場愈發(fā)重要。綜上,新型“表達”應當是以通信自由作為基礎(chǔ)的表達自由,即不僅保護發(fā)言者的表達行為,還應保障言論在中介平臺流通過程中受到保護,以確保聽眾與發(fā)言者有充足的信息基礎(chǔ)來認知言論、形成言論和發(fā)表言論。?

    (三)作為“表達”根基的“新通信自由”

    算法推薦場域的表達自由需以“通信自由”的新詮釋作為基礎(chǔ),對“通信自由”的再解釋是回答這一問題的起點。以歷時性的視角,通信自由的規(guī)定在憲法性文本中主要呈現(xiàn)為兩種表現(xiàn)形式:一是將通信自由與通信秘密并列規(guī)定,二是單獨規(guī)定通信自由或通信秘密。正是由于通信自由與通信秘密的上述密切關(guān)系,在解釋通信自由時,常常會受到通信秘密內(nèi)涵的深刻影響,譬如將通信信息局限于私人信息往來。從規(guī)范文本的演變中我們可以看到這一解讀的不足?,F(xiàn)行《憲法》關(guān)于通信秘密的規(guī)定由1954年《憲法》第90條演變而來,該條的恢復蘊含著深刻的歷史經(jīng)驗教訓。?但與此同時,該條在1954年《憲法》僅規(guī)定通信秘密的基礎(chǔ)上增列了通信自由,這表明憲法對通信權(quán)進行保護時并未否認通信自由的獨立價值。?換言之,憲法上的通信權(quán)規(guī)范本身就包含通信自由與通信秘密ea17415b6d216dce1b62afeab1ee584214d71a5db672690fda448e7998051d8b兩個部分,具有各自不同的保護側(cè)重?;仡?982年憲法制憲的史料,關(guān)于《憲法》第40 條僅能找到為數(shù)不多的制憲討論,其中并未直接涉及通信自由與通信秘密規(guī)定方式上的取舍,倒是制憲過程中一封公民來信與此密切相關(guān)。來信稱,憲法既然規(guī)定公民有言論自由,通信的自由就理所當然被保護。該來信證明,通信自由與表達自由的關(guān)聯(lián)性得到了立法者的關(guān)注。?當暫且放下通信秘密立法原旨的討論時,我們必須承認通信自由的關(guān)鍵意義在于實現(xiàn)公民言論與思想自由。從這個角度來說,公民為了滿足政治、經(jīng)濟、社會生活的各種需要而進行的各類信息傳遞、交流,都應屬于通信。?因此,在私人通信空間具有越來越強公共屬性的今天,以通信秘密的內(nèi)涵拘束通信自由,將通信自由局限于私密空間會導致表達自由的基礎(chǔ)受損,最終阻礙權(quán)利的發(fā)展。

    傳統(tǒng)意義上,我們通常會將“通信自由”理解為“點對點”的通訊自由,?然而,到了信息時代,通信主要依托互聯(lián)網(wǎng)技術(shù)完成,通信的載體、信息本身的樣態(tài)以及通信對象都發(fā)生了變化,智能通信已成為通信自由權(quán)的主要實現(xiàn)方式。具體而言,諸如微信、微博、抖音等新平臺層出不窮?!靶畔ⅰ辈辉倬窒抻谖淖?、圖像,還包括語音、視頻等方式,這些信息不再需要物理介質(zhì),而是作為數(shù)據(jù)被存檔。同時,通信對象從“點對點”走向“點對面”,一個網(wǎng)絡用戶可以同時與多個通訊對象交流,甚至可以這樣說,當公民處于網(wǎng)絡中時,他可以通過互聯(lián)網(wǎng)與整個世界相聯(lián)通。(21)綜上,通信自由的本質(zhì)在于保護人們之間互通消息這一動作,既包括信息的發(fā)出,也包括信息的接收,即信息的接收方和發(fā)送方均有不受技術(shù)裹挾進行通信的權(quán)利。其中,“自由”指的是公民依據(jù)自己的意愿與他人交流思想、互通信息,而不受第三方非法限制或干預。倘若平臺以算法推薦的方式,給予部分信息以流量,而剝奪部分信息的曝光度,就已然破壞了公民的通信自由,也就破壞了表達自由的信息基礎(chǔ)。此時即使未被給予流量的信息并未真正滅失,公民也已經(jīng)失去了“自由”獲取這些信息的權(quán)利,在事實上形成了第三方限制。強勢且隱蔽的第三方干預造成的通信自由受限,與傳統(tǒng)社會發(fā)言者因認知局限、取材困難導致的信息基礎(chǔ)受限存在根本差異。個人信息保護法草案三審的過程中,立法機關(guān)的解釋一定程度上驗證了本文的觀點。其在解釋個人信息保護法增加規(guī)定“根據(jù)憲法,制定本法”時提出,“我國憲法規(guī)定,國家尊重和保障人權(quán),公民的人格尊嚴不受侵犯,公民的通信自由和通信秘密受法律保護。制定實施本法對于保障公民的人格尊嚴和其他權(quán)益具有重要意義?!保?2)也就是說,個人信息保護法涉及憲法所保護的多重法益。其中,人格尊嚴條款為核心,通信自由和通信秘密為所涉基本權(quán)利的典型代表。

    三、算法推薦下“表達”的規(guī)范保護困境

    自算法推薦興起以來,一直有觀點認為:算法推薦本質(zhì)上仍然屬于一種基于算法的正常商業(yè)活動,只是平臺通過收集用戶的行為信息,以提供更有效的服務,算法推薦本身不會直接影響用戶的權(quán)利狀態(tài)。(23)然而,更多的觀點則持更為謹慎的態(tài)度,即算法推薦并不意味著絕對的技術(shù)中立,算法推薦服務上同時附著著多種值得保護的法益,平臺既然享有算法帶來的功能性利益,就有責任承擔相應的社會倫理要求,在合理的范圍內(nèi)承擔治理責任。在談算法推薦下的“表達”如何保護之前,我們首先需要梳理當下的保護現(xiàn)狀與規(guī)范的闕如之處。

    (一)契約責任的局限:有限的意思自治與公法屬性的權(quán)利讓渡

    對“表達”的保護首先源于契約責任,即平臺與用戶之間存在契約,平臺需要履行契約中約定的義務。筆者在梳理目前微博、小紅書、微信等平臺的網(wǎng)絡服務協(xié)議后發(fā)現(xiàn),上述服務商均僅通過個人信息保護、規(guī)制廣告行為等條款為保護表達自由提供了間接制度支持,而并未直接涉及保護用戶表達自由、通信自由的相關(guān)內(nèi)容。除了依據(jù)不足外,在算法推薦領(lǐng)域,契約責任還表現(xiàn)出兩點明顯的局限性:一是網(wǎng)絡格式合同意思自治的有限性。用戶與網(wǎng)絡平臺之間達成的互聯(lián)網(wǎng)信息服務合同在形式上表現(xiàn)為單方擬定的格式條款的集合,以繁雜、冗長、隱蔽作為特征,而用戶僅需在快速瀏覽后點擊“同意服務協(xié)議”即視為格式合同生效,用戶無法就合同的某些條款與平臺進行協(xié)商或修改。在技術(shù)便利性近乎無可取代、電商“自然壟斷”效應的今天,這種“不同意則退出”的選擇導致用戶與網(wǎng)絡服務提供商之間無法真正達成合意,而是在有限理性下草率地交出權(quán)利。(24)二是用戶與平臺之間的網(wǎng)絡服務協(xié)議所讓渡的權(quán)利具有公法屬性。網(wǎng)絡平臺與用戶簽訂的互聯(lián)網(wǎng)信息服務協(xié)議中涉及平臺向用戶提供算法推薦服務,這一協(xié)議在性質(zhì)上仍然屬于平等主體之間簽訂的民事法律合同。然而,算法推薦服務具有事實上的影響、處分公民基本權(quán)利的效果,用戶可能因算法推薦服務被剝奪信息的自由獲取通道,從而被限制表達自由、通信自由。網(wǎng)絡平臺的算法推薦規(guī)則與平臺的自由裁量權(quán)可以被看作網(wǎng)絡表達自由的規(guī)則制定與形成過程,而算法推薦服務的提供過程則可以構(gòu)成規(guī)則實施過程。在整個類似“行政”的過程中,(25)算法推薦服務提供商顯然占據(jù)著明顯的優(yōu)勢地位。因此,不應仍然對平臺適用平等民事主體之間較低的道德要求。

    值得留意的是,一方面,是否使用算法推薦服務與能否進入特定平臺幾乎是綁定關(guān)系,另一方面,算法本身能夠精準發(fā)放內(nèi)容(不限于新聞、廣告),從而將用戶置于他所感興趣、深信不疑的環(huán)境內(nèi)。心理學的研究表明,大眾在受到媒體廣泛轉(zhuǎn)發(fā)消息的影響下,甚至會舍棄自己最初的態(tài)度,選擇修正自己的觀點。我們不能寄希望于用戶對簽訂網(wǎng)絡契約(尤其是簽訂過程只需要點擊“同意用戶協(xié)議”的選項)保持謹慎的態(tài)度,或是自覺接觸多樣化信息、審慎辨別信息的真實性。(26)

    (二)立法規(guī)制的局限:走向“算法治理”的立法規(guī)制及其執(zhí)行困境

    基于此,我們需要從法定義務層面對算法推薦服務加以約束。為平臺設置合理的法定義務既能夠保證用戶的表達自由不受過度折損,又能夠保障平臺規(guī)范經(jīng)營且可持續(xù)發(fā)展。法定義務設置過程應當做好平臺營業(yè)自由權(quán)與表達自由的平衡,長期以來,我國對于表達自由,包括由傳統(tǒng)言論延伸出的網(wǎng)絡言論并未形成統(tǒng)一立法?!斗ㄖ紊鐣ㄔO實施綱要(2020-2025 年)》提出要推動現(xiàn)有法律法規(guī)延伸適用到網(wǎng)絡空間,制定對算法推薦等新技術(shù)應用的管理辦法?!毒W(wǎng)絡安全法》《電子商務法》《數(shù)據(jù)安全法》《個人信息保護法》《反壟斷法》等法律相繼制定或修改,關(guān)于算法推薦的專門規(guī)定《算法推薦管理規(guī)定》已頒布實施,政策性文件《關(guān)于加強互聯(lián)網(wǎng)信息服務算法綜合治理的指導意見》與前述立法共同構(gòu)成了算法推薦領(lǐng)域的頂層設計。隨著實踐的深入,我國對算法推薦的立法規(guī)制逐漸從“權(quán)利保護”邁向“算法治理”階段。此前,《網(wǎng)絡安全法》《電子商務法》等立法采取的是“權(quán)利保護”的思路。譬如,《電子商務法》重點規(guī)制網(wǎng)絡經(jīng)營行為,《反壟斷法》主要規(guī)制利用算法實施的壟斷行為,保護市場公平競爭。(27)這一思路的不足集中體現(xiàn)為回應性立法的滯后。2016年“魏則西案件”揭示了這一思路的局限,該案發(fā)生后,同年國家網(wǎng)信辦出臺《互聯(lián)網(wǎng)信息搜索服務管理規(guī)定》,要求平臺醒目區(qū)分自然搜索結(jié)果與付費搜索結(jié)果,并對付費信息加以顯著標識。(28)而在魏則西案之前,基于對平臺經(jīng)濟的保護和專業(yè)技術(shù)壁壘,監(jiān)管部門或主動或被動地忽視了技術(shù)所衍生的巨大風險,最終導致用戶的個人決定權(quán)被侵蝕,甚至危及健康權(quán)與生命權(quán)。

    《算法推薦管理規(guī)定》《互聯(lián)網(wǎng)彈窗信息推送服務管理規(guī)定》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》的先后出臺,標志著立法規(guī)制走向“算法治理”階段。當立法轉(zhuǎn)而更關(guān)注算法的底層邏輯時,表達自由、通信自由保護的需求開始逐漸顯露出來。綜觀現(xiàn)有規(guī)則,《算法推薦管理規(guī)定》已初步構(gòu)建起算法推薦領(lǐng)域表達自由的保護模式,是立法保護表達自由的重要里程碑,其一方面從正面規(guī)定不得通過推薦算法服務干預信息呈現(xiàn),另一方面從反面賦予用戶“刪除權(quán)”以保障算法推薦服務干預表達自由時能夠被用戶端叫停。然而,在看到進步性的同時,我們不得不承認其在執(zhí)行力上的遺憾。首先,算法推薦服務的用戶粘性可能會導致現(xiàn)有規(guī)則的失靈。以《算法推薦管理規(guī)定》第17條為例,該條可能會存在兩種不同的解釋:一是將其解釋為要求平臺同時提供推薦算法服務與未經(jīng)算法推薦的服務,供用戶自由選擇;二是解釋為平臺提供算法推薦服務的選項,但這一選項可由用戶選擇關(guān)閉,關(guān)閉后平臺將不再提供算法推薦服務。實際上,兩種情形存在明顯的差異,前者在保證用戶獲得未經(jīng)算法推薦服務的同時,也提供機會使其同時享有算法推薦服務,而后者實際上只允許用戶選擇算法推薦或拒絕算法推薦,并不會同時提供給用戶兩種路徑。一旦依據(jù)后者的理解,算法推薦服務商就可以借助其便利性及依賴性來倒逼人們選擇算法推薦服務,從而使得規(guī)范的保護目的落空。其次,基于算法的專業(yè)性和技術(shù)黑箱,交由用戶自行選擇、修改或者刪除用戶標簽,恐怕并非睿智的選擇。用戶選擇、刪除用戶標簽,看似簡單合理,實際上卻可能事倍功半。(29)質(zhì)言之,推薦算法服務的標簽與結(jié)果之間沒有直接聯(lián)系,用戶關(guān)閉某個標簽并不意味著能夠提升服務體驗。即使用戶選擇刪除部分標簽,也并不意味著能夠回到其所預期的言論空間中。另外,據(jù)筆者了解,實踐中多數(shù)算法推薦已不再采取“標簽”模式,那么“標簽”模式的立法救濟自然淪為具文。三是基于算法的不透明性及舉證困難性,規(guī)范的可執(zhí)行性將進一步削弱。以《算法推薦管理規(guī)定》第14條為例,其雖然嚴格限制了算法推薦服務的作用方式,但是囿于算法的不透明性、技術(shù)黑箱屬性,這一規(guī)范缺乏必要的執(zhí)行保障。事實上,《算法推薦管理規(guī)定》雖于2022年3月1日施行,卻仍然無法阻止第14條所述過度推薦、屏蔽信息、操縱榜單等情形的頻繁發(fā)生。四是規(guī)則運行邏輯與我國監(jiān)管體系之間存在脫節(jié)?!端惴ㄍ扑]管理規(guī)定》嘗試適用穿透式監(jiān)督從形式監(jiān)管深入實質(zhì)監(jiān)管,設置了算法備案、標簽刪除等制度。但這一邏輯與現(xiàn)有從“行為”出發(fā),考察主觀過錯、行為后果的監(jiān)管體系存在分離。(30)最后,我們還需要追問規(guī)則本身的正當性。算法推薦服務的背后是自然人權(quán)益、算法推薦服務商權(quán)益以及國家利益三者之間的平衡。(31)其中,本文所提到的以通信自由為基礎(chǔ)的表達自由構(gòu)成自然人權(quán)益的重要組成部分,而推薦算法服務提供商則享有憲法所保護的營業(yè)自由。關(guān)閉算法推薦的規(guī)則設置是否會對信息業(yè)者的商業(yè)模式造成過大沖擊,這種沖擊又是否會進一步導致三者關(guān)系的失衡,這種失衡甚至可能會違背我國憲法有意為非公有制經(jīng)濟留下的物理發(fā)展空間。(32)

    四、憲法基本權(quán)利條款介入的法理依據(jù)與制度構(gòu)想

    自由地思考與表達是現(xiàn)代民主社會的基石,算法推薦服務對信息基礎(chǔ)的侵蝕引發(fā)了我們對網(wǎng)絡平臺過度影響表達自由的擔憂。表達自由雖然是世界各國憲法及國際性文件都予以保護的一項重要基本權(quán)利,但基于憲法的特殊性,其一般不介入私人民事法律關(guān)系中,平臺與用戶之間關(guān)于表達自由的爭議能否納入憲法調(diào)整的范圍、憲法基本權(quán)利條款應發(fā)揮何種作用是本部分首先需要回答的問題。

    (一)憲法基本權(quán)利條款介入的法理依據(jù)

    從原理上說,憲法權(quán)利在介入私法關(guān)系時,態(tài)度應當是謹慎的。憲法提供高強度保障旨在縮小個人同國家之間的距離,(33)這一特質(zhì)要求它調(diào)整與普通法律不同的關(guān)系,即主要是公民與公權(quán)力之間的關(guān)系。(34)規(guī)制算法推薦場域的表達自由時,我們可以放下對憲法過度“私法”適用的提防。首先,無論是基于基本權(quán)利第三人效力理論,還是社會主義的國家與社會關(guān)系,憲法上基本權(quán)利的義務主體都并不限于國家,基本權(quán)利規(guī)范也應當在社會領(lǐng)域發(fā)揮作用。依據(jù)我國憲法上基本權(quán)利的構(gòu)造,其不只是消極對抗國家干預的防御權(quán),而是課予國家積極保護義務的“合作的”基本權(quán)利。即使認為基本權(quán)利條款是用來約束政府的,算法服務提供商對公民表達自由的侵犯也可以被理解為國家保護行動的失敗,因此國家有義務制止這種侵犯。(35)其次,以技術(shù)、經(jīng)濟等資源盤踞優(yōu)勢地位的算法服務供應商,正對公民表達自由產(chǎn)生不亞于國家公權(quán)力的威脅,平臺同樣有巨大的事實上的權(quán)力以對公民言論造成風險。(36)此時,私法已無法完成對權(quán)利的充分救濟,一項特定的憲法權(quán)利,不僅可能受到國家公權(quán)力的壓制,同樣可能受到來自社會的壓制。(37)此時,憲法權(quán)利介入表面上的民事法律關(guān)系就產(chǎn)生了意義。我們甚至可以這么說,倘若一個國家憲法條款的內(nèi)涵是一成不變的,要么意味著這個國家的發(fā)展停滯不前,要么意味著這個國家的憲法只是“紙面的憲法”。憲法的最高性與穩(wěn)定性決定了它必然是發(fā)展的、包容的,能夠統(tǒng)合不同社會發(fā)展階段的秩序,持續(xù)性地實現(xiàn)價值引領(lǐng)。最后,基本權(quán)利的框架有其永恒的價值,為權(quán)利保護提供了最高法律依據(jù)。經(jīng)濟社會快速進步的當下,建立于原有社會基礎(chǔ)上的法規(guī)范不免表現(xiàn)出一定程度上的滯后性,因此轉(zhuǎn)型中的社會不斷萌發(fā)和誕生各種“新興”權(quán)利類型。然而,在沒有厘清權(quán)利的發(fā)生邏輯時,動輒劃定新興權(quán)利,可能會造成其與原有權(quán)利體系的矛盾和沖突,頗有“疊床架屋”之感,放于以人格尊嚴為核心的基本權(quán)利譜系之中,能夠理順權(quán)利的發(fā)展邏輯,并為新興權(quán)利提供規(guī)范空間。同時,引入憲法控制并不意味著要對平臺適用與國家相同嚴苛的審查及正當化標準,換言之,這并不意味著在算法服務提供商與個人之間直接構(gòu)建起公法上的權(quán)利義務關(guān)系。(38)即盡管平臺具有強勢權(quán)力和影響力,但它們的作用與政府是不同的,這要求在引入憲法控制時,采以適當?shù)臋?quán)利義務配置模式。例如,若平臺創(chuàng)建時的目的是促進與體育賽事相關(guān)的討論,它得以配套一條規(guī)則將任何偏離主題的對話刪除,然而,這樣的規(guī)則顯然不適于由政府強加給公民。(39)

    (二)憲法基本權(quán)利條款介入的現(xiàn)實意義

    推薦算法的場景下,言論面對著兩個明顯高于個人的“公共權(quán)力”,一為平臺,二為政府。數(shù)字平臺的興起挑戰(zhàn)了傳統(tǒng)表達自由保護中政府的責任。傳統(tǒng)社會以政府公權(quán)力作為權(quán)力的中心,算法時代數(shù)字平臺經(jīng)歷了“去中心化”與“再中心化”的過程,形成了挑戰(zhàn)傳統(tǒng)憲制權(quán)力中心的“技術(shù)權(quán)力中心”。(40)基于平臺強大的功能屬性,政府賦權(quán)平臺,實現(xiàn)協(xié)同共治成為了必然選擇。這種賦權(quán)有時是顯性的,平臺通過法律“加責”承接了部分政府權(quán)力,諸如《網(wǎng)絡信息內(nèi)容生態(tài)治理規(guī)定》等法律法規(guī)采取“政府管平臺、平臺管用戶”的監(jiān)管邏輯,要求平臺行使信息內(nèi)容管理權(quán),然而,此種“加責”賦權(quán)并未進入行政授權(quán)、行政委托的框架內(nèi),其性質(zhì)是模糊的。有時賦權(quán)是隱性的,平臺在事實上分享著部分行政職權(quán),承擔行政法上的第三方義務。因技術(shù)鴻溝的存在,加之政府責任與平臺責任之間“此消彼長”的關(guān)系,政府制定規(guī)則時往往傾向于加重平臺的責任。憲法需要對“公共權(quán)力”內(nèi)部的格局作出安排,既然互聯(lián)網(wǎng)平臺“事實上”承接了部分國家權(quán)力,憲法基本權(quán)利條款的介入就具備了正當性。其介入能夠重新拉回政府在這一環(huán)節(jié)中的應然角色,這也是憲法控制較之立法控制最大的不同。具體而言,現(xiàn)有學術(shù)研究與規(guī)則制定常常止步于討論平臺在算法治理中的作用,如要求平臺做好“守門人”,主動提供“多樣性新聞”,進行“反向推薦”,然而這種角色與平臺逐利的天然屬性存在沖突,對資金雄厚的大型平臺提出上述技術(shù)要求尚屬可能,但對于起步創(chuàng)業(yè)階段的網(wǎng)絡平臺,則不免顯得強人所難。事實上,在制定保護表達自由的規(guī)則時,存在制定機關(guān)—平臺—用戶三方關(guān)系,不當強調(diào)平臺主體責任會導致政府缺位于相應監(jiān)管之中,過度壓縮平臺的權(quán)利。相對于立法者而言,平臺同屬于弱勢一方。立法者在形成規(guī)則、平衡網(wǎng)絡平臺與網(wǎng)絡用戶的利益時,享有一定的形成自由,但這種形成自由是有限的,應以比例原則和禁止保護不足原則為限。(41)綜上,憲法基本權(quán)利條款的介入能夠使得國家責任“歸位”,避免過度限制平臺權(quán)利,最終侵害用戶基本權(quán)利。

    其次,憲法確定表達自由的核心內(nèi)涵,以實現(xiàn)法秩序的安定性與統(tǒng)一性。表達自由屬于未被法定化為民事權(quán)利的基本權(quán)利,(42)我國《民法典》將表達自由的價值內(nèi)涵隱含于其規(guī)則體系之內(nèi),譬如,《民法典》第1025條通過對名譽權(quán)的合理限制來支持出于公共利益目的進行的表達。然而,這種保護模式使得表達自由的內(nèi)涵呈現(xiàn)出碎片化的特性,不利于形成表達自由的統(tǒng)一內(nèi)涵。而在討論算法推薦領(lǐng)域的表達自由時,元問題即為“表達自由與營業(yè)自由的界限劃分”,即平臺出于逐利的目的必將一定程度上干擾到用戶的表達自由,這一行為的限度究竟何在?憲法規(guī)范作為法理的最終寄托之處,(43)表達自由的價值內(nèi)核構(gòu)成平臺經(jīng)營所不能侵犯的部分?;诖?,表達自由作為未被法定化為民事權(quán)利的基本權(quán)利,明確其憲法意涵就顯得尤為重要。我們需要從憲法的終極價值上來解釋這一問題。在社會系統(tǒng)中,人所呈現(xiàn)出來的并非是將自己所有真正心理狀態(tài)都直接展露于外的所謂“真實自我”,而是根據(jù)人選擇過后的外在表現(xiàn)所呈現(xiàn)出來的個體。也即所謂的“人”與“人格”的分離。(44)推薦算法的背后,我們所提防的是隨時隨地的信息網(wǎng)絡化。因為這一過程使得原本不會留痕的溝通過程被記錄下來,人們對“人格”失去控制,不愿為人所知的言論、形象暴露無遺。表達自由的核心在于保護人的主體性,不能讓人淪為他人(包括技術(shù))意志行使和控制的客體,(45)保護人們能夠形成獨立、完整的思維,且可以決定自己的表達是否傳送至外界。換言之,倘若平臺提供推薦算法服務時,已經(jīng)左右了人的思維,且用戶無法脫離這一環(huán)境,則可視作對表達自由的侵犯,反之,倘若人并未失去自我判斷力,能夠自由選擇是否借助算法來輔佐決策,并能夠保留獲得未經(jīng)算法推薦的信息源時,可視作平臺營業(yè)自由的合理范圍。

    (三)憲法基本權(quán)利條款介入的制度構(gòu)想

    1. 以憲法基本權(quán)利條款的新內(nèi)涵指導規(guī)則體系的生成及運行

    經(jīng)由上文對推薦算法場域“表達”的闡釋,幾乎顯而易見的是,提供算法推薦服務可能會落入憲法表達自由與通信自由的保護范疇內(nèi),因此我們首先需要回到憲法表達自由與通信自由的保護及限制上來思考這一問題。憲法對表達自由及通信自由采用不同的保護模式與限制強度。(46)我國憲法為表達自由設定了概括限制下的單純法律保留,通信自由則適用加重的法律保留,且這一規(guī)定直接拘束國家機關(guān)以外的任何組織和個人,任何人都不得以任何理由侵犯公民通信自由。有學者基于此認為,法律規(guī)定尚不能成為克減通信自由的理由,更不用說當事人的意思表示或是雙方民事法律行為了。(47)然而,在通信方式、內(nèi)涵變化的今天,過于嚴格地保護通信可能反而會限制互聯(lián)網(wǎng)技術(shù)、社會經(jīng)濟的進步與發(fā)展。

    尤為需要關(guān)照的是,平臺私權(quán)力的“公私交融”屬性決定了它不適宜采取與國家相同的審查標準。平臺提供算法推薦服務,勢必于一定程度上干預信息流通的自由度與信息流向以換取經(jīng)濟利益,然而,這一技術(shù)是推動算法社會發(fā)展的齒輪,不宜削足適履,阻礙經(jīng)濟社會發(fā)展。個案中進行利益衡量時,至少有兩方面的內(nèi)容需要考慮:一是引入基本權(quán)利在本情形下的真正價值,二是算法服務提供者的特殊屬性。首先,以通信自由為基礎(chǔ)的表達自由根本旨趣在于維護表達自由的信息基礎(chǔ),保證發(fā)言的渠道受到保護,保障發(fā)言者在足夠的信息基礎(chǔ)上“說得出”,聽眾“聽得見”,且這整個過程是自由的,不受干擾的。其次,從動機上看,平臺是不會天生親近于完全地保護表達或通信的。我們所期待的僅是平臺能夠?qū)崿F(xiàn)對用戶表達自由最低限度的保障,倘若平臺對表達的干預出于合法目的,且并未實質(zhì)性阻礙表達的發(fā)展,即可被準許。另外,平臺發(fā)展規(guī)模不同,平臺設計的目的也千差萬別,我們需要結(jié)合具體個案的實際,判斷平臺所要承擔的“表達”保護義務?;谶@樣的需求,一條可能的理解路徑是這樣的:將憲法上的比例原則適度變形為合比例性分析,介入成本效益分析理論以輔助規(guī)則的制定。一方面,算法推薦下表達自由的核心范疇構(gòu)成平臺推薦算法行為所不能侵犯的部分。以《算法推薦管理規(guī)定》第17條為例,引入憲法基本權(quán)利條款進行解釋時,應理解為要求算法服務提供商賦予用戶自由選擇權(quán),既提供算法推薦服務,亦提供不經(jīng)算法推薦服務的選項。而不是以算法推薦的便捷度綁架用戶,使得用戶實際上仍然“不得不”選擇算法推薦服務,最終威脅到表達自由的信息基礎(chǔ)。另一方面,我們要合理運用非正義目的排除、手段適當、利益均衡等判斷標準,不得過度強調(diào)平臺的責任,也不得過度約束算法推薦。隨著技術(shù)的進一步發(fā)展,可考慮引入技術(shù)第三方,貫徹成本利益分析等合比例性理念,以科學的統(tǒng)計方法測算算法推薦服務對表達自由的影響強度,(48)在了解平臺技術(shù)原理和運行邏輯的基礎(chǔ)上,針對不同規(guī)模、不同內(nèi)容的平臺提出不同的風險監(jiān)管要求和具體措施,(49)在未有用戶權(quán)益受損的情形下,不主動、過度侵入平臺內(nèi)部。

    2. 將算法推薦規(guī)則納入合憲性審查、備案審查的制度體系

    算法推薦領(lǐng)域,平臺基于技術(shù)優(yōu)勢具有了類似于國家公權(quán)力的整套權(quán)力體系,(50)包括前階段的規(guī)則制定,過程中的執(zhí)行權(quán)以及諸如刪除標簽、恢復評論等類似于司法救濟的救濟權(quán)能。雖然法理學界廣泛地否認“算法即法律”的論斷,但算法與法規(guī)范一樣,能夠為不特定的對象設定權(quán)利義務,其規(guī)范屬性已不可否認。與此同時,這種話語權(quán)并不來源于憲法這一最高規(guī)范,而是源于一個相對獨立的“技術(shù)利維坦”。黨的十八屆四中全會提出“加強備案審查制度和能力建設,把所有規(guī)范性文件納入備案審查范圍”。在理解規(guī)范性文件的內(nèi)涵時,有學者主張將人民團體、企事業(yè)單位、基層組織等制定的文件同樣納入其中。(51)本文主張將合憲性審查、備案審查引入推薦算法服務的規(guī)制過程中。一方面,平臺(尤其是超大型平臺)與用戶簽訂的契約常常具有較強的“公”屬性,其用戶粘性、便利性使得即使通過粗體字等方式履行說明義務也不足以真正達成契約合意,而司法個案救濟無法實現(xiàn)對廣大用戶的利益保護,我們期待著整體性救濟的出現(xiàn)。另一方面,合憲性審查、備案審查的最終目的在于保障法治統(tǒng)一,這對于規(guī)制平臺權(quán)力,統(tǒng)合平臺秩序與傳統(tǒng)法秩序具有重大意義。因此,本文認為應謹慎地啟動平臺推薦算法服務規(guī)則的備案審查機制,區(qū)分需要進入備案審查機制的算法,并為不同內(nèi)容的算法設定不同的審查標準,對于其中具有規(guī)范屬性,且可能嚴重影響用戶表達自由等權(quán)利的規(guī)則,適用較為嚴格的審查。

    這其中,遵循合比例性與正當程序原則是最首要的要求。傳統(tǒng)的行政執(zhí)法活動中,正當程序是保護公民權(quán)利最重要的一道屏障。然而,算法推薦服務一定程度上突破了這一限制,(52)算法推薦服務在“不知不覺”中對言論施加不利影響,且用戶無法得知不利決定作出的時間、原因,即使其中部分平臺向用戶告知了內(nèi)容及理由,也僅是以既定格式的方式,常常使用戶“摸不著頭腦”,無法實現(xiàn)陳述、申辯。因此,在審查過程中,應確保平臺實施的言論限制盡量可追溯,且平臺在對言論作出實質(zhì)性影響(包括但不限于刪除、屏蔽)時應當充分告知和說明。另一方面,如卡納里斯所指出的那樣,在不具備人身內(nèi)容的基本權(quán)利的限制情形中,基本上不考慮比例原則的審查。(53)算法服務提供商雖與個人之間存在巨大的力量差異,但仍然不完全等同于傳統(tǒng)的基本權(quán)利侵害,不同的算法服務提供商之間還存在著內(nèi)部力量差別。對其合憲性審查不再恪守嚴格的比例原則,而應著重于兩個層次,一是算法推薦服務設定的目的應當不直接與表達自由保護相沖突。二是算法服務提供商已經(jīng)付出了保護表達自由的相應努力,且這種努力與表達自由可能遇到的風險是匹配的??梢愿鶕?jù)推薦算法的內(nèi)容與目標區(qū)分其對表達自由的影響程度,對于僅按照熱度簡單排序的機制,予以更寬松的審查,而對于個性化算法推薦等可能決定用戶信息基礎(chǔ)的機制,則適用更為嚴格的審查,如前者適用被動審查啟動機制,而后者匹配主動審查啟動機制。事實上,《算法推薦管理規(guī)定》已要求建立算法備案制度(性質(zhì)上屬于行政備案),可在此基礎(chǔ)上進一步建立與備案審查制度的銜接機制。(54)由主管機關(guān)擔任算法備案審查的主體,其作出審查結(jié)論時應充分聽取平臺的申辯,組織專家(包含技術(shù)專家)研討和公開聽證,處理時以溝通協(xié)商、柔性行政指導為主,平臺不愿自行糾正或涉及嚴重侵犯公民表達自由的,可以依職權(quán)采取警告、責令限期改正等措施。(55)

    午夜激情欧美在线| 深夜a级毛片| 97超视频在线观看视频| 日本a在线网址| 国产成人av教育| 亚洲三级黄色毛片| av在线蜜桃| 国产精品久久久久久精品电影| 俄罗斯特黄特色一大片| 1024手机看黄色片| 久久久久久久亚洲中文字幕| av天堂中文字幕网| 美女黄网站色视频| 久久九九热精品免费| 极品教师在线视频| 日韩精品中文字幕看吧| 午夜福利高清视频| 欧美日韩中文字幕国产精品一区二区三区| 51国产日韩欧美| 免费观看精品视频网站| 在线a可以看的网站| 少妇人妻一区二区三区视频| 深爱激情五月婷婷| 亚洲精品456在线播放app | 深夜a级毛片| or卡值多少钱| 久久久久性生活片| 欧美绝顶高潮抽搐喷水| 欧美日本亚洲视频在线播放| 黄色视频,在线免费观看| 春色校园在线视频观看| 国产在线精品亚洲第一网站| 亚洲av二区三区四区| 人人妻人人澡欧美一区二区| 美女xxoo啪啪120秒动态图| 日韩亚洲欧美综合| 观看免费一级毛片| 亚洲中文字幕一区二区三区有码在线看| 日本 av在线| 女人十人毛片免费观看3o分钟| 国产成人av教育| 成人一区二区视频在线观看| 精品一区二区三区人妻视频| 国产精品一区二区三区四区久久| www.www免费av| 欧洲精品卡2卡3卡4卡5卡区| 国产精品一区二区三区四区免费观看 | 免费在线观看影片大全网站| 99在线人妻在线中文字幕| 午夜老司机福利剧场| 中出人妻视频一区二区| 成人高潮视频无遮挡免费网站| 亚洲精品在线观看二区| 噜噜噜噜噜久久久久久91| 久久久国产成人免费| 99久久成人亚洲精品观看| 伊人久久精品亚洲午夜| 日韩中字成人| 国模一区二区三区四区视频| 国产综合懂色| 12—13女人毛片做爰片一| 国产精品免费一区二区三区在线| 18禁裸乳无遮挡免费网站照片| 精品日产1卡2卡| 看免费成人av毛片| 久久精品国产清高在天天线| 午夜免费激情av| 久久人妻av系列| 全区人妻精品视频| 色哟哟·www| 简卡轻食公司| 中国美白少妇内射xxxbb| 国产高清视频在线播放一区| 色综合站精品国产| 啦啦啦啦在线视频资源| 日韩国内少妇激情av| 日本五十路高清| 中文字幕熟女人妻在线| 国产精品一区www在线观看 | 噜噜噜噜噜久久久久久91| 乱系列少妇在线播放| 淫妇啪啪啪对白视频| 国产老妇女一区| 日日撸夜夜添| 性色avwww在线观看| 直男gayav资源| 国产精品亚洲一级av第二区| 亚洲熟妇中文字幕五十中出| 在现免费观看毛片| 搡老熟女国产l中国老女人| 波多野结衣高清无吗| 少妇的逼好多水| 可以在线观看的亚洲视频| 亚洲在线观看片| 两个人的视频大全免费| 淫秽高清视频在线观看| 极品教师在线视频| 永久网站在线| 超碰av人人做人人爽久久| 非洲黑人性xxxx精品又粗又长| 天堂av国产一区二区熟女人妻| 99久久久亚洲精品蜜臀av| 国产高清视频在线观看网站| 亚洲人与动物交配视频| 国产精品亚洲美女久久久| 国产三级在线视频| 成人无遮挡网站| 又黄又爽又刺激的免费视频.| 又紧又爽又黄一区二区| www.色视频.com| 欧美3d第一页| 天天一区二区日本电影三级| 九九久久精品国产亚洲av麻豆| 欧美黑人巨大hd| 国产aⅴ精品一区二区三区波| 日本成人三级电影网站| АⅤ资源中文在线天堂| x7x7x7水蜜桃| 白带黄色成豆腐渣| 国产国拍精品亚洲av在线观看| 欧美色视频一区免费| 久久久精品大字幕| 色在线成人网| 日韩欧美精品免费久久| 欧美最黄视频在线播放免费| 神马国产精品三级电影在线观看| 搡老妇女老女人老熟妇| 久久久久久久久久久丰满 | 亚洲欧美日韩卡通动漫| 老女人水多毛片| 成人av一区二区三区在线看| 18禁在线播放成人免费| 蜜桃久久精品国产亚洲av| 亚洲av二区三区四区| 久久99热这里只有精品18| 久久天躁狠狠躁夜夜2o2o| 久久精品国产亚洲av天美| 变态另类成人亚洲欧美熟女| 亚洲熟妇熟女久久| 老司机福利观看| 国产黄片美女视频| 男女边吃奶边做爰视频| 成人二区视频| 久久精品91蜜桃| 久久久久久国产a免费观看| 一进一出抽搐动态| 亚洲av二区三区四区| 国产私拍福利视频在线观看| 少妇人妻精品综合一区二区 | 国产高清不卡午夜福利| 色5月婷婷丁香| 精品一区二区三区人妻视频| 亚洲成人免费电影在线观看| 国产高潮美女av| 搡老岳熟女国产| www日本黄色视频网| 久久久久久伊人网av| 波多野结衣高清作品| 色哟哟·www| 女人十人毛片免费观看3o分钟| 一本久久中文字幕| 又爽又黄无遮挡网站| 美女被艹到高潮喷水动态| 国产极品精品免费视频能看的| 波多野结衣高清作品| 乱系列少妇在线播放| 国产精品不卡视频一区二区| 久久精品国产亚洲av香蕉五月| 99riav亚洲国产免费| 又黄又爽又刺激的免费视频.| 亚洲成人久久性| 日韩欧美免费精品| 欧美国产日韩亚洲一区| 精品人妻偷拍中文字幕| 日本a在线网址| 观看免费一级毛片| 91av网一区二区| 日本一二三区视频观看| 日日摸夜夜添夜夜添小说| 99国产极品粉嫩在线观看| 国产伦人伦偷精品视频| 天堂影院成人在线观看| 亚洲精品在线观看二区| 一边摸一边抽搐一进一小说| 日韩一区二区视频免费看| 自拍偷自拍亚洲精品老妇| 69av精品久久久久久| 尤物成人国产欧美一区二区三区| 精品一区二区三区视频在线观看免费| 欧美成人性av电影在线观看| 观看免费一级毛片| 国产一区二区在线观看日韩| 亚洲欧美日韩高清专用| 老司机深夜福利视频在线观看| 国产主播在线观看一区二区| 日韩 亚洲 欧美在线| 搞女人的毛片| 哪里可以看免费的av片| 特大巨黑吊av在线直播| 免费在线观看影片大全网站| 99国产精品一区二区蜜桃av| 99久久精品一区二区三区| 村上凉子中文字幕在线| 日本 欧美在线| 成人一区二区视频在线观看| 午夜a级毛片| 午夜爱爱视频在线播放| 一个人看的www免费观看视频| 精品乱码久久久久久99久播| 成年免费大片在线观看| 九九在线视频观看精品| 欧美一区二区亚洲| 亚洲三级黄色毛片| 高清日韩中文字幕在线| 亚洲人成伊人成综合网2020| 麻豆成人av在线观看| 99在线人妻在线中文字幕| 成年免费大片在线观看| 黄色日韩在线| 欧美性感艳星| 欧美潮喷喷水| 国产91精品成人一区二区三区| 人妻少妇偷人精品九色| 黄色一级大片看看| 最近视频中文字幕2019在线8| 内地一区二区视频在线| 99久久久亚洲精品蜜臀av| 日韩欧美免费精品| 赤兔流量卡办理| 亚洲美女视频黄频| 一级av片app| 日本黄大片高清| 搡老妇女老女人老熟妇| 99精品在免费线老司机午夜| 国产一区二区在线观看日韩| 18禁黄网站禁片午夜丰满| 欧美+日韩+精品| 美女高潮喷水抽搐中文字幕| 特大巨黑吊av在线直播| 大型黄色视频在线免费观看| 亚洲精华国产精华精| 欧美最黄视频在线播放免费| 草草在线视频免费看| 简卡轻食公司| 动漫黄色视频在线观看| 两个人视频免费观看高清| 成人美女网站在线观看视频| 欧美日韩精品成人综合77777| 国产精华一区二区三区| 少妇熟女aⅴ在线视频| 99热只有精品国产| 国产精品久久电影中文字幕| 波多野结衣高清无吗| 中亚洲国语对白在线视频| 欧美潮喷喷水| 久久久久久久久久黄片| 国产v大片淫在线免费观看| 欧美日韩黄片免| 欧美成人性av电影在线观看| 久久久久久久久中文| 99久久精品热视频| 欧美极品一区二区三区四区| 又粗又爽又猛毛片免费看| 一区二区三区四区激情视频 | 一级av片app| 国产高清视频在线播放一区| 成人无遮挡网站| 搞女人的毛片| 俄罗斯特黄特色一大片| 国产探花在线观看一区二区| 婷婷六月久久综合丁香| 免费看av在线观看网站| 一区二区三区高清视频在线| 国模一区二区三区四区视频| 欧美+日韩+精品| 国产一区二区激情短视频| 国产久久久一区二区三区| 此物有八面人人有两片| 男人和女人高潮做爰伦理| 亚洲,欧美,日韩| 亚洲精品粉嫩美女一区| 观看免费一级毛片| 亚洲av.av天堂| 老司机午夜福利在线观看视频| 亚洲中文字幕一区二区三区有码在线看| 久久久久久久精品吃奶| 国产午夜精品论理片| 国产精品免费一区二区三区在线| 精品99又大又爽又粗少妇毛片 | 欧美丝袜亚洲另类 | 国产视频内射| 日韩人妻高清精品专区| 日本一二三区视频观看| 亚洲经典国产精华液单| 91久久精品国产一区二区三区| 精品久久久久久久久久久久久| 国产三级在线视频| 精品无人区乱码1区二区| 熟女电影av网| 在线观看午夜福利视频| 成人国产综合亚洲| 69人妻影院| 在线播放无遮挡| 九色成人免费人妻av| 亚洲人成网站在线播| 亚洲av中文av极速乱 | 久久人人精品亚洲av| 日本欧美国产在线视频| 成人高潮视频无遮挡免费网站| 男女边吃奶边做爰视频| 亚洲在线观看片| 久久久久久伊人网av| 性欧美人与动物交配| 亚洲中文字幕一区二区三区有码在线看| 嫩草影院入口| 亚洲色图av天堂| 亚洲av第一区精品v没综合| 国产激情偷乱视频一区二区| 深夜精品福利| 真实男女啪啪啪动态图| 草草在线视频免费看| 国产69精品久久久久777片| 色哟哟哟哟哟哟| 一本久久中文字幕| 夜夜看夜夜爽夜夜摸| 精品免费久久久久久久清纯| 在线国产一区二区在线| 有码 亚洲区| 久久久久久久亚洲中文字幕| 精品国产三级普通话版| 成人二区视频| 美女大奶头视频| 久久久久性生活片| 亚洲美女黄片视频| 亚洲精品456在线播放app | 久久精品国产亚洲av天美| 色在线成人网| 免费看日本二区| 日日啪夜夜撸| 国产亚洲欧美98| 人人妻,人人澡人人爽秒播| 国内精品宾馆在线| 国产女主播在线喷水免费视频网站 | 性插视频无遮挡在线免费观看| 久久久久久久久中文| 色噜噜av男人的天堂激情| 搡老妇女老女人老熟妇| 日日啪夜夜撸| 久久久久久大精品| 亚洲欧美精品综合久久99| 亚洲va日本ⅴa欧美va伊人久久| 国产主播在线观看一区二区| 国产亚洲精品久久久com| 久久久久久久久中文| 亚洲精品日韩av片在线观看| 我要搜黄色片| 女人被狂操c到高潮| 两性午夜刺激爽爽歪歪视频在线观看| 成人国产麻豆网| 午夜精品久久久久久毛片777| 在线播放无遮挡| 国产91精品成人一区二区三区| 国产美女午夜福利| 老熟妇乱子伦视频在线观看| 99久久中文字幕三级久久日本| 国产人妻一区二区三区在| 伦精品一区二区三区| 九九久久精品国产亚洲av麻豆| 99在线视频只有这里精品首页| 亚洲成av人片在线播放无| 国内揄拍国产精品人妻在线| 日韩亚洲欧美综合| 欧美激情久久久久久爽电影| 丰满人妻一区二区三区视频av| 国产69精品久久久久777片| 男女啪啪激烈高潮av片| 国产欧美日韩一区二区精品| 国产免费一级a男人的天堂| 99riav亚洲国产免费| 一个人看的www免费观看视频| 日本a在线网址| 天天一区二区日本电影三级| а√天堂www在线а√下载| 国产精品人妻久久久久久| 国产国拍精品亚洲av在线观看| 十八禁国产超污无遮挡网站| 国产精品国产三级国产av玫瑰| 直男gayav资源| www.色视频.com| 乱码一卡2卡4卡精品| 搡女人真爽免费视频火全软件 | 午夜激情欧美在线| 免费看a级黄色片| xxxwww97欧美| 18禁黄网站禁片免费观看直播| 亚洲成a人片在线一区二区| 日韩在线高清观看一区二区三区 | 精品99又大又爽又粗少妇毛片 | 亚洲人成网站高清观看| 免费电影在线观看免费观看| 一本精品99久久精品77| 99久久中文字幕三级久久日本| 国内久久婷婷六月综合欲色啪| 久久精品久久久久久噜噜老黄 | 久久久久久久久大av| 老司机福利观看| 国内揄拍国产精品人妻在线| 亚洲精品乱码久久久v下载方式| 日韩中字成人| av黄色大香蕉| 亚洲av成人av| 91在线观看av| 国产高清有码在线观看视频| 欧美精品啪啪一区二区三区| 欧美在线一区亚洲| 精品不卡国产一区二区三区| 日本一二三区视频观看| 国内精品美女久久久久久| 一本久久中文字幕| 午夜福利高清视频| 美女高潮的动态| 亚洲成人精品中文字幕电影| 免费看av在线观看网站| av国产免费在线观看| 成年女人毛片免费观看观看9| 少妇人妻一区二区三区视频| 女的被弄到高潮叫床怎么办 | 国产色爽女视频免费观看| 色吧在线观看| a级一级毛片免费在线观看| 亚洲精品粉嫩美女一区| 久久久久久久久中文| 狂野欧美激情性xxxx在线观看| 精品久久久久久久人妻蜜臀av| 亚洲国产欧美人成| 特级一级黄色大片| 中国美女看黄片| 国产一区二区三区视频了| 国产亚洲av嫩草精品影院| 成人特级黄色片久久久久久久| 禁无遮挡网站| 亚洲精品亚洲一区二区| 日本黄色片子视频| 久久这里只有精品中国| 天堂影院成人在线观看| 日本精品一区二区三区蜜桃| 国产欧美日韩精品一区二区| 国产一区二区三区在线臀色熟女| 国产伦一二天堂av在线观看| 两个人视频免费观看高清| 少妇高潮的动态图| 禁无遮挡网站| 日日啪夜夜撸| 九九爱精品视频在线观看| 黄色女人牲交| 成人欧美大片| 制服丝袜大香蕉在线| 欧美绝顶高潮抽搐喷水| 亚洲黑人精品在线| 国产一区二区三区视频了| 成人性生交大片免费视频hd| 91午夜精品亚洲一区二区三区 | 亚洲一级一片aⅴ在线观看| 久久精品国产鲁丝片午夜精品 | 99久久精品一区二区三区| 欧美性猛交黑人性爽| 午夜日韩欧美国产| а√天堂www在线а√下载| 老熟妇乱子伦视频在线观看| 俺也久久电影网| 成人av一区二区三区在线看| 久久久久性生活片| 久久亚洲精品不卡| 中文字幕久久专区| 观看美女的网站| 国产乱人伦免费视频| 亚洲精华国产精华精| 成人特级黄色片久久久久久久| 真人一进一出gif抽搐免费| 99久久久亚洲精品蜜臀av| 狂野欧美白嫩少妇大欣赏| 日本与韩国留学比较| 91麻豆av在线| 欧美黑人欧美精品刺激| a级一级毛片免费在线观看| 欧美性猛交╳xxx乱大交人| 一个人看视频在线观看www免费| 亚洲aⅴ乱码一区二区在线播放| 在线观看66精品国产| 春色校园在线视频观看| 日韩人妻高清精品专区| 性欧美人与动物交配| 精品国产三级普通话版| 99热这里只有是精品50| 欧美性猛交黑人性爽| 成人永久免费在线观看视频| 少妇猛男粗大的猛烈进出视频 | 伦精品一区二区三区| 99国产精品一区二区蜜桃av| 中文亚洲av片在线观看爽| 午夜精品在线福利| 国产真实伦视频高清在线观看 | 变态另类丝袜制服| 亚洲欧美日韩东京热| 久久午夜福利片| 1000部很黄的大片| 91麻豆av在线| 久久精品影院6| 内射极品少妇av片p| 欧美成人a在线观看| 午夜福利在线观看免费完整高清在 | 97超视频在线观看视频| 精品久久久久久久人妻蜜臀av| 在线观看美女被高潮喷水网站| h日本视频在线播放| 嫁个100分男人电影在线观看| 欧美一区二区精品小视频在线| 久久99热6这里只有精品| 最新中文字幕久久久久| 精品久久久久久久久久免费视频| 狂野欧美激情性xxxx在线观看| 国产精品乱码一区二三区的特点| 国产成人影院久久av| 两个人的视频大全免费| 美女高潮的动态| 国产精品,欧美在线| 成人欧美大片| 色播亚洲综合网| 一区二区三区高清视频在线| 久久久国产成人精品二区| 精品国产三级普通话版| 啦啦啦观看免费观看视频高清| 国产精品精品国产色婷婷| 成年版毛片免费区| 51国产日韩欧美| 久久婷婷人人爽人人干人人爱| 天堂网av新在线| 精品免费久久久久久久清纯| 全区人妻精品视频| 女人被狂操c到高潮| 国产精品久久久久久精品电影| 成人一区二区视频在线观看| 观看美女的网站| 欧美日韩黄片免| 如何舔出高潮| 有码 亚洲区| 国产白丝娇喘喷水9色精品| 国产欧美日韩一区二区精品| 日韩欧美精品v在线| 国产在视频线在精品| 色综合站精品国产| 在线a可以看的网站| 久99久视频精品免费| 亚洲美女黄片视频| 精品一区二区三区av网在线观看| 美女xxoo啪啪120秒动态图| 在线观看66精品国产| 国产精品美女特级片免费视频播放器| 婷婷六月久久综合丁香| 免费观看精品视频网站| 免费高清视频大片| 午夜视频国产福利| 精华霜和精华液先用哪个| 亚洲精品成人久久久久久| 久久99热6这里只有精品| 久久欧美精品欧美久久欧美| 51国产日韩欧美| 精品久久久久久,| 精品99又大又爽又粗少妇毛片 | 久久九九热精品免费| 永久网站在线| 18禁黄网站禁片午夜丰满| 嫩草影视91久久| 久久草成人影院| 搡女人真爽免费视频火全软件 | 俺也久久电影网| 欧美日韩黄片免| bbb黄色大片| 亚洲 国产 在线| 久久久国产成人精品二区| av国产免费在线观看| 成熟少妇高潮喷水视频| 色噜噜av男人的天堂激情| 中文字幕免费在线视频6| 久久这里只有精品中国| 国内久久婷婷六月综合欲色啪| 日韩欧美一区二区三区在线观看| 亚洲第一电影网av| 欧美黑人欧美精品刺激| 免费在线观看日本一区| 国产国拍精品亚洲av在线观看| 欧美色欧美亚洲另类二区| 此物有八面人人有两片| 精品无人区乱码1区二区| 久久热精品热| 国产亚洲欧美98| 久久久成人免费电影| 一本精品99久久精品77| 听说在线观看完整版免费高清| 欧美日韩综合久久久久久 | av在线蜜桃| 日韩欧美在线二视频| 色综合站精品国产| av.在线天堂| 亚洲男人的天堂狠狠| 有码 亚洲区| 久久香蕉精品热| 婷婷丁香在线五月| 91久久精品国产一区二区三区| .国产精品久久| 国产单亲对白刺激| 久久人人爽人人爽人人片va| 一个人看视频在线观看www免费| 男人和女人高潮做爰伦理| 五月伊人婷婷丁香|