• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    新聞推薦系統(tǒng)中的“信息繭房”問(wèn)題:議題綜述與解決思路

    2018-07-03 05:57:48林微
    新媒體研究 2018年6期
    關(guān)鍵詞:信息繭房個(gè)性化推薦推薦系統(tǒng)

    林微

    摘 要 主要針對(duì)新聞推薦系統(tǒng),考察其中的“信息繭房”問(wèn)題并提出解決思路。通過(guò)對(duì)國(guó)內(nèi)新聞傳播學(xué)、計(jì)算機(jī)科學(xué)、情報(bào)管理學(xué)中的相關(guān)文獻(xiàn)的梳理,輔以對(duì)web of science中國(guó)外SSCI文獻(xiàn)的計(jì)量分析,介紹與“信息繭房”相關(guān)的主要議題與最新進(jìn)展。在此基礎(chǔ)上,構(gòu)建新聞在推薦系統(tǒng)情境中包含信息流和數(shù)據(jù)流的“創(chuàng)作,發(fā)布/抓取,分發(fā)/點(diǎn)擊,閱讀”流程模型,并針對(duì)這一模型,提出在內(nèi)容篩選、技術(shù)創(chuàng)新、心理考察三個(gè)角度上可能的思路,以期通過(guò)多學(xué)科、學(xué)業(yè)界的研究與實(shí)踐互動(dòng),推動(dòng)“信息繭房”問(wèn)題的解決。

    關(guān)鍵詞 信息繭房;回音室效應(yīng);個(gè)性化推薦;推薦系統(tǒng)

    中圖分類號(hào) G2 文獻(xiàn)標(biāo)識(shí)碼 A 文章編號(hào) 2096-0360(2018)06-0001-07

    1 研究緣起與概念界定

    1.1 研究緣起

    通過(guò)算法完成資訊的個(gè)性化推薦和分發(fā),正成為今天新聞業(yè)內(nèi)越來(lái)越多媒體的選擇。無(wú)論是技術(shù)出身的內(nèi)容推薦引擎“今日頭條”“一點(diǎn)資訊”、ZAKER等,還是傳統(tǒng)媒體出身的四川報(bào)業(yè)集團(tuán)與阿里巴巴合作推出的“封面新聞”、門(mén)戶網(wǎng)站的移動(dòng)端應(yīng)用“騰訊新聞”等,都將信息的“個(gè)性化推薦”作為自己的產(chǎn)品亮點(diǎn)。個(gè)性化推薦是一種信息過(guò)濾技術(shù),“個(gè)性化”是其技術(shù)目的,推薦算法是其方法。它期望通過(guò)分析大量用戶行為日志,給不同用戶提供不同的個(gè)性化頁(yè)面展示,來(lái)提高網(wǎng)站的點(diǎn)擊率和轉(zhuǎn)化率[1]4。它在不同產(chǎn)品中的應(yīng)用已由來(lái)已久。電子商務(wù)領(lǐng)域有亞馬遜被RWW(讀寫(xiě)網(wǎng))稱為“推薦系統(tǒng)之王”。影視領(lǐng)域有美國(guó)視頻公司Netflix為了更精準(zhǔn)地對(duì)用戶進(jìn)行電影推薦,自2006年起開(kāi)始舉辦著名的Netflix Prize推薦系統(tǒng)比賽,懸賞百萬(wàn)美元,希望將算法的預(yù)測(cè)準(zhǔn)確度提升10%。

    在信息閱讀領(lǐng)域,“今日頭條”是于“Google Reader”“鮮果網(wǎng)”等閱讀工具開(kāi)發(fā)的后繼實(shí)踐者。它從2013到2015年間異軍突起,迅速占取國(guó)內(nèi)大量網(wǎng)絡(luò)新聞受眾,也在2017年到2018年來(lái)遭遇數(shù)次公眾輿論質(zhì)疑。2017年9月,人民日?qǐng)?bào)連續(xù)發(fā)表3篇文章就算法推薦問(wèn)題質(zhì)問(wèn)“今日頭條”過(guò)度依賴技術(shù)導(dǎo)致用戶受困“信息繭房”。2018年1月,其陷入“麥克風(fēng)事件”。眾多網(wǎng)友質(zhì)疑“今日頭條”開(kāi)啟了手機(jī)麥克風(fēng)權(quán)限收集用戶聲音信息進(jìn)行內(nèi)容推薦,之后“今日頭條”回應(yīng)表示其技術(shù)達(dá)不到也不會(huì)去進(jìn)行這樣的信息收集。盡管“今日頭條”做出了澄清,網(wǎng)友的質(zhì)疑則側(cè)面表現(xiàn)出人們對(duì)于被自己的瀏覽歷史、社交足跡“包裹”的恐慌。

    這種“被包裹”的恐慌,是美國(guó)學(xué)者桑斯坦在其2006年出版的著作《信息烏托邦——眾人如何生產(chǎn)知識(shí)》一書(shū)中提出“信息繭房”(Information Cocoons)概念的現(xiàn)實(shí)詮釋。書(shū)中他所描述“信息繭房”由“個(gè)人日?qǐng)?bào)”形式呈現(xiàn)。人們可以借助網(wǎng)絡(luò)平臺(tái)和技術(shù)工具在海量的信息中隨意選擇自己關(guān)注的話題,完全根據(jù)自己的喜好定制報(bào)紙和雜志,即一種完全個(gè)人化的閱讀[2]。同時(shí)桑斯坦指出,在信息傳播中,因公眾自身的信息需求并非全方位的,公眾只注意自己選擇的東西和使自己愉悅的通訊領(lǐng)域,久而久之,會(huì)將自身桎梏于像蠶繭一般的“繭

    房”中。

    桑斯坦對(duì)此概念闡述的主體是用戶,側(cè)重描述基于用戶選擇的閱讀個(gè)性化。而推薦系統(tǒng)的設(shè)計(jì)意圖描述則更側(cè)重信息分發(fā)者針對(duì)用戶個(gè)體進(jìn)行的點(diǎn)對(duì)點(diǎn)的傳播個(gè)性化。

    但這兩層含義并不是相對(duì)立的關(guān)系,而是存在疊合的交集,這是因?yàn)橥扑]系統(tǒng)個(gè)性化傳播決策的執(zhí)行極大依賴著基于用戶瀏覽行為的日志數(shù)據(jù)。這一點(diǎn)將會(huì)結(jié)合新聞在推薦系統(tǒng)情境中“創(chuàng)作,發(fā)布/

    抓取,分發(fā)/點(diǎn)擊,閱讀”傳播的流程模型詳述。

    本文希望將此模型圖作為本次多學(xué)科文獻(xiàn)梳理的總結(jié),并針對(duì)模型圖的3個(gè)環(huán)節(jié),提出在內(nèi)容篩選、技術(shù)創(chuàng)新、心理考察3個(gè)角度上的應(yīng)對(duì)思路,推動(dòng)新聞推薦系統(tǒng)“信息繭房”問(wèn)題的解決。

    1.2 主要概念與辨析

    1)新聞:本文中指廣義上的信息資源,包括文字、圖片、視頻、問(wèn)答、直播等不同的形式。新聞推薦系統(tǒng)中,前臺(tái)展示的新聞主要是來(lái)源于網(wǎng)絡(luò)爬蟲(chóng)、合作媒體和自媒體創(chuàng)作[3]。網(wǎng)絡(luò)爬蟲(chóng)爬取社交媒體、門(mén)戶網(wǎng)站等信息資源;合作媒體指中央、省級(jí)、各地市、縣級(jí)及以下媒體;自媒體創(chuàng)作主要提供專業(yè)學(xué)習(xí)信息、新聞、生活休閑類等其他“長(zhǎng)尾”信息資源。

    2)算法:是一系列解決問(wèn)題的清晰指令,也可抽象理解為解決問(wèn)題的方法。理解算法的概念可以從理論與應(yīng)用層面展開(kāi)。以推薦算法為例,CF、CBF、DNN算法等屬于理論層面的數(shù)學(xué)方法,而亞馬遜、Youtube、Facebook、今日頭條等產(chǎn)品屬于算法在應(yīng)用層面的實(shí)踐成果,包含商業(yè)邏輯在內(nèi)的復(fù)雜運(yùn)作。

    3)推薦系統(tǒng)與推薦算法:Resnick等于1997年給出了推薦系統(tǒng)的定義。一個(gè)完整的推薦系統(tǒng)由用戶模型、產(chǎn)品模型與推薦算法三部分組成[4]。推薦系統(tǒng)包含推薦算法作為其核心組成部分,同時(shí)需要對(duì)所推薦的物品和用戶建模。對(duì)于一個(gè)推薦系統(tǒng)來(lái)說(shuō),推薦算法決定其類型及性能優(yōu)劣。目前主流的推薦算法有:協(xié)同過(guò)濾(CF)、基于關(guān)聯(lián)規(guī)則的推薦、基于二部圖的推薦等[5]。

    2 關(guān)于新聞推薦系統(tǒng)“信息繭房”的主要議題梳理

    中文文獻(xiàn)的參閱依循各文獻(xiàn)之間的引文網(wǎng)絡(luò),在CNKI中選取以下相關(guān)關(guān)鍵字按學(xué)科分組、以“主題”為搜索條件,選取本世紀(jì)至今(2001—2018)被引較多或影響因子較高的文獻(xiàn)進(jìn)行梳理。

    選取學(xué)科分組:新聞與傳媒、圖書(shū)情報(bào)與數(shù)字圖書(shū)館、計(jì)算機(jī)軟件及計(jì)算機(jī)應(yīng)用。

    主要使用的關(guān)鍵字包括:“信息繭房”“信息窄化”“群體極化”“回音室效應(yīng)”“個(gè)性化推薦”等。涉及其他關(guān)鍵字包括:“推薦算法”“社會(huì)化推薦系統(tǒng)”“信息偶遇”等。

    英文文獻(xiàn)搜索中,在web of science平臺(tái)中使用關(guān)鍵字Echo chamber在SSCI索引下搜索,從2001年至2018年3月3日,共得到106條文獻(xiàn)。

    2.1 新聞推薦系統(tǒng)“信息繭房”問(wèn)題背景:還未盡善的技術(shù)與大眾心理的共謀

    概念的提出者桑斯坦將“信息繭房”的產(chǎn)生背景定義在網(wǎng)絡(luò)與技術(shù)環(huán)境中。首先從計(jì)算機(jī)科學(xué)與應(yīng)用的視角下看,推薦系統(tǒng)是為了解決信息過(guò)載問(wèn)題而發(fā)展出的一套技術(shù)。

    縱觀因特網(wǎng)的發(fā)展源流,它由單個(gè)網(wǎng)絡(luò)ARPANET升級(jí)到現(xiàn)今多層次ISP結(jié)構(gòu)的互聯(lián)網(wǎng),這代表著更復(fù)雜的網(wǎng)絡(luò)層級(jí)和更大的用戶覆蓋面,帶來(lái)了更多的信息生產(chǎn)和更快的信息交互。為了解決信息過(guò)載問(wèn)題,提升人們獲取信息的效率與質(zhì)量,分類目錄、搜索引擎、推薦系統(tǒng)、智能問(wèn)答等技術(shù)應(yīng)運(yùn)而生。在具體新聞場(chǎng)景的應(yīng)用中,相應(yīng)地出現(xiàn)了以雅虎為代表的門(mén)戶網(wǎng)站、以谷歌為代表的搜索引擎、以Facebook上的Newsfeed、今日頭條等為代表的內(nèi)容智能分發(fā)工具和Quartz、微軟小冰等對(duì)話式新聞產(chǎn)品。

    新聞推薦系統(tǒng)在對(duì)搜索引擎中PageRank等經(jīng)典排序算法的繼承和改造的基礎(chǔ)上,它的特點(diǎn)在于不需要用戶表達(dá)明確的特定信息需求。不同于搜索引擎被動(dòng)等待用戶的“搜索”操作,進(jìn)行信息呈現(xiàn),推薦算法能夠主動(dòng)收集用戶的特征信息。但由于用戶沒(méi)有顯式地提出特定信息需求,新聞推薦系統(tǒng)就必須做到挖掘用戶的潛在需求,這也使“精確度”成為其系統(tǒng)優(yōu)劣的首要評(píng)價(jià)指標(biāo),為“信息繭房”問(wèn)題埋下隱憂。

    在計(jì)算機(jī)界,早在2006年就有學(xué)者意識(shí)到在推薦系統(tǒng)僅關(guān)注精確性遠(yuǎn)遠(yuǎn)不夠,可能會(huì)導(dǎo)致用戶得到一些信息量為零的“精準(zhǔn)推薦”,導(dǎo)致視野越來(lái)越狹窄的情況[6]。這種“越推越窄”的情況被稱之為計(jì)算機(jī)界的探索利用問(wèn)題,有時(shí)也稱為EE問(wèn)題(Explore & Exploit)。2011年,在ACM組織的第五屆推薦系統(tǒng)國(guó)際會(huì)議上,專門(mén)召開(kāi)了一個(gè)討論推薦系統(tǒng)多樣性的研討會(huì)(DiveES 2011)。此后,2013年國(guó)內(nèi)學(xué)界推出第一篇系統(tǒng)地對(duì)推薦系統(tǒng)多樣性進(jìn)行綜述的文章[7],在分析多樣性類型的基礎(chǔ)上,重點(diǎn)概括、比較和分析了信息物理、二次優(yōu)化、社會(huì)化網(wǎng)絡(luò)和時(shí)間感知四種提高個(gè)性化推薦多樣性的方法,期待未來(lái)更多算法的有效組合研究。此后,計(jì)算機(jī)學(xué)業(yè)界將研究重心轉(zhuǎn)移到推薦系統(tǒng)信息窄化的解決,即推薦算法的優(yōu)化與更多指標(biāo)的測(cè)試中。例如在發(fā)現(xiàn)用戶新興趣上,基于關(guān)聯(lián)規(guī)則的推薦優(yōu)于基于內(nèi)容的推薦和協(xié)同過(guò)濾推薦[5]。在測(cè)試指標(biāo)設(shè)置上,學(xué)者項(xiàng)亮總結(jié)出包括準(zhǔn)確率、覆蓋率、多樣性、新穎性、驚喜度、信任度等10余個(gè)推薦系統(tǒng)評(píng)價(jià)指標(biāo)[1]23-33。另有一批學(xué)者的研究成果發(fā)表在《復(fù)雜網(wǎng)絡(luò)觀察》《復(fù)雜系統(tǒng)與復(fù)雜性科學(xué)》等專業(yè)刊物上。

    新聞傳播學(xué)界在“信息繭房”概念提出后也很快加入討論。學(xué)者程士安等以科技進(jìn)步與傳播規(guī)律的演進(jìn)為視角,考察數(shù)字化時(shí)代的組織傳播理論時(shí),對(duì)“信息繭房”的概念進(jìn)行了組織傳播視角的重新闡述。提出通過(guò)分析新技術(shù)條件下的信息聚合與社群的構(gòu)成,看新技術(shù)條件下網(wǎng)絡(luò)組織微觀關(guān)系下的“紐帶”與“鎖扣”特征。對(duì)于基本的網(wǎng)絡(luò)結(jié)構(gòu)“結(jié)點(diǎn)與邊”(verges and edges),并不局限將“結(jié)點(diǎn)”看作單一用戶,而是聚合著某同類信息需求的人群,而“邊”既是信息聚合體內(nèi)部的構(gòu)成紐帶,也在外部連接著組織與組織,社群與社群。這使“信息繭房”的研究視域從個(gè)人的繭房,擴(kuò)大到群體的繭房。接著,文章從動(dòng)態(tài)的傳播視角,提出了“繭房的遷移”。指小“繭房”通過(guò)網(wǎng)絡(luò)游移,相似的幾個(gè)子“繭房”會(huì)在一個(gè)特定大“繭房”平臺(tái)上達(dá)成共識(shí)[8]。文章從組織傳播和網(wǎng)絡(luò)傳播的視角微觀、動(dòng)態(tài)地描述了繭房形成與變化的機(jī)理;對(duì)繭房之內(nèi)、之間聯(lián)系的研究,將網(wǎng)絡(luò)作為基本數(shù)據(jù)結(jié)構(gòu)之一所定義中物理性質(zhì)的“邊”,融入了社會(huì)心理因素的考察。這一觀點(diǎn)的提出,也進(jìn)一步明確了“信息繭房”與“群體極化”等議題之間的緊密聯(lián)系。

    在技術(shù)之外,新聞傳播界的研究著重指出了“信息繭房”形成在思想淵源、心理特性等方面的原因。2013年,新聞界期刊首先將此定義正式介紹到國(guó)內(nèi)時(shí),學(xué)者梁鋒指出“信息繭房”的思想淵源可以追溯到19世紀(jì)初法國(guó)思想家托克維爾發(fā)現(xiàn)的,民主社會(huì)天然地易于促成個(gè)人主義的生成,并隨著身份平等的推廣而擴(kuò)散[9]。學(xué)者劉華棟基于對(duì)社交媒體的觀察,認(rèn)為個(gè)人興趣引導(dǎo)人們的信息接收行為使其陷入“信息繭房”,而社交媒體使用進(jìn)一步促進(jìn)“信息繭房”的形成[10]。學(xué)者陳昌鳳等認(rèn)為信息繭房、信息偏向等問(wèn)題的產(chǎn)生與人們的“證實(shí)性偏見(jiàn)”有關(guān)[11],即人們傾向于尋找信息確認(rèn)自己的觀點(diǎn)。

    新聞傳播界往往在分析原因后提出關(guān)于“信息繭房”危害的議題探討,網(wǎng)絡(luò)是信息自由傳揚(yáng)的烏托邦抑或滋養(yǎng)極端意見(jiàn)分子的溫床,“信息繭房”與“群體極化”等社會(huì)政治議題有何關(guān)聯(lián),這是此后新聞傳播學(xué)界的一個(gè)研究方向,并綜合運(yùn)用了基于案例觀察的或?qū)嶒?yàn)設(shè)計(jì)等實(shí)證研究方法,將在本節(jié)下一小點(diǎn)再做介紹。

    情報(bào)管理學(xué)界對(duì)新聞推薦系統(tǒng)“信息繭房”問(wèn)題機(jī)制的研究起步較晚,2018年1月出版首篇網(wǎng)絡(luò)信息系統(tǒng)視角下的機(jī)制研究論文[3]。首先從內(nèi)容智能分發(fā)平臺(tái)信息資源組織方式、信息受眾用戶行為與信息運(yùn)動(dòng)方式三方面分析影響平臺(tái)信息運(yùn)動(dòng)效率的因素。在此基礎(chǔ)上探討“信息繭房”的形成機(jī)制時(shí),創(chuàng)新地使用了運(yùn)動(dòng)規(guī)律、平臺(tái)情境兩個(gè)視角。

    總的來(lái)看,新聞推薦系統(tǒng)“信息繭房”問(wèn)題的出現(xiàn),從技術(shù)發(fā)展的脈絡(luò)來(lái)看,是推薦系統(tǒng)完善過(guò)程中必然面對(duì)的難題,而動(dòng)態(tài)的網(wǎng)絡(luò)信息空間環(huán)境、復(fù)雜的個(gè)人與群體心理等因素豐富了它可歸因的維度,使得這一問(wèn)題不應(yīng)僅僅作為技術(shù)帶來(lái)個(gè)人視野的局限看待,同時(shí)奠基其他群體性社會(huì)議題的產(chǎn)生。

    2.2 新聞推薦系統(tǒng)“信息繭房”認(rèn)識(shí)現(xiàn)狀:趨于關(guān)注細(xì)節(jié)、量化的實(shí)證研究,總結(jié)從個(gè)體到社會(huì)的多層次危害分析思路

    “信息繭房”問(wèn)題提出后,計(jì)算機(jī)學(xué)界轉(zhuǎn)入問(wèn)題解決領(lǐng)域進(jìn)行算法優(yōu)化研究。目前關(guān)于“信息繭房”現(xiàn)狀的認(rèn)識(shí)主要來(lái)源于新聞傳播學(xué)界。為豐富研究素材的維度,筆者引入國(guó)外SSCI相關(guān)文獻(xiàn)的計(jì)量分析與閱讀梳理,總結(jié)得到主要關(guān)于“繭房”程度、“繭房”危害兩個(gè)研究角度。

    國(guó)內(nèi)新聞傳播學(xué)者在考量新聞推薦系統(tǒng)“信息繭房”問(wèn)題時(shí),常聯(lián)系“個(gè)性化推薦”“算法分發(fā)”“智能分發(fā)”“算法新聞”等關(guān)鍵詞,應(yīng)用新聞推薦系統(tǒng)的典型產(chǎn)品“今日頭條”是主要的研究對(duì)象。由于大部分社交媒體在信息推送設(shè)計(jì)(feed流)中也多使用到推薦系統(tǒng)技術(shù),也有學(xué)者關(guān)注社交媒體上“信息繭房”問(wèn)題。從研究方法上看,國(guó)內(nèi)針對(duì)“信息繭房”是否存在以及存在的程度如何的量化實(shí)證研究還比較少,多是基于案例觀察的質(zhì)化分析。

    學(xué)者王茜以“今日頭條”為研究對(duì)象,運(yùn)用內(nèi)容分析法,通過(guò)分析77位用戶的8 000多條新聞推送,發(fā)現(xiàn)14%的參與者收到的單一新聞?lì)愋驼急瘸^(guò)50%[12],認(rèn)為其中存在信息窄化問(wèn)題。學(xué)者王秋旭觀察微博上作為意見(jiàn)領(lǐng)袖的大V或公眾賬號(hào),其粉絲會(huì)自發(fā)性地形成一個(gè)團(tuán)體,這個(gè)團(tuán)體認(rèn)同意見(jiàn)領(lǐng)袖的言論,由此形成了一種“群體共識(shí)”[13]。

    對(duì)國(guó)外SSCI論文,以“echo chamber”做關(guān)鍵字進(jìn)行文獻(xiàn)計(jì)量分析,從分析結(jié)果來(lái)看,傳播學(xué)者們對(duì)這一問(wèn)題的關(guān)注度逐年上升(圖1)。除echo chamber外,關(guān)鍵詞還包括social media,polarization,Twitter,F(xiàn)acebook,climate change等(圖2);拓展關(guān)鍵詞包括media,polarization,networks,selective exposure,information,online,internet,communication,news,participation等(圖3)。其中拓展關(guān)鍵詞feather的詞頻也較高,多以詞組birds of a feather(人以群分物以類聚)出現(xiàn)。

    對(duì)這些字詞進(jìn)行分類可以看出,國(guó)外對(duì)這一問(wèn)題的主要研究對(duì)象是Twitter,F(xiàn)acebook等社交媒體、美總統(tǒng)選舉等事件,理論視角包括群體極化、選擇性接觸、公眾輿論等。

    考慮到推薦系統(tǒng)與搜索引擎、社交媒體的技術(shù)淵源,筆者主要選擇包含online search,social media,F(xiàn)acebook,Twitter的相關(guān)論文進(jìn)行介紹。

    在對(duì)新聞推薦系統(tǒng)“信息繭房”的存在認(rèn)定上,學(xué)者們意見(jiàn)不一,一些學(xué)者會(huì)在措辭中加入hypothesis(假設(shè))再對(duì)其進(jìn)行實(shí)證研究。F.J.Z.Borgesius 等人研究網(wǎng)站利用個(gè)性化算法為用戶篩選、推送個(gè)性化內(nèi)容,綜合運(yùn)用量化手段分析后認(rèn)為,目前還缺乏足夠的證據(jù)表明個(gè)性化算法會(huì)造成“信息繭房”或“過(guò)濾氣泡”[14]。而David Goldie等人使用文獻(xiàn)計(jì)量方法并針對(duì)社交媒體上教育政策辯論的進(jìn)行研究,認(rèn)為其中存在“回音室效應(yīng)”,即通過(guò)不斷推動(dòng)小樣本量、不具代表性的言論,也會(huì)對(duì)政策提出產(chǎn)生影響[15]。

    在考察“信息繭房”存在程度時(shí),來(lái)自MIT的學(xué)者Sagit Bar-Gill等認(rèn)為個(gè)體會(huì)由于其在網(wǎng)絡(luò)中的不同角色在“繭房”存在的程度上存在差異。學(xué)者們運(yùn)用實(shí)驗(yàn)法,構(gòu)建了名為T(mén)ED-it的在線搜索環(huán)境,用戶可以通過(guò)主題(topic)或流行度(popularity)兩個(gè)搜索維度觀看TED視頻。學(xué)者們?cè)?017年3月[16]與8月[17]分別發(fā)布兩次報(bào)告,研究發(fā)現(xiàn)高社交程度、重復(fù)先前相似內(nèi)容的、年輕(在8月發(fā)布的報(bào)告中補(bǔ)充了關(guān)于年齡的要素)閱讀者容易陷入“信息繭房”。流行的信息提高了意見(jiàn)領(lǐng)袖們的搜索排序,但并沒(méi)有拓展“非意見(jiàn)領(lǐng)袖”的信息接觸面。

    在逐漸積累關(guān)注細(xì)節(jié)、量化的實(shí)證研究后,傳播學(xué)者們總結(jié)出新聞推薦系統(tǒng)“信息繭房”從個(gè)體到社會(huì)的多層次危害分析思路。在個(gè)體層面,美國(guó)學(xué)者Kathryn Jemison和Joseph Capela在著作《回聲室效應(yīng):拉什·林博和保守主義媒體的建設(shè)》中定義“回音室效應(yīng)”為,在媒體營(yíng)造的相對(duì)較為封閉的意見(jiàn)感知環(huán)境中,意見(jiàn)相近的聲音會(huì)被不斷地重復(fù)、夸張和扭曲,從而讓處于這個(gè)封閉環(huán)境中的人對(duì)這些夸張和扭曲的極端觀點(diǎn)越來(lái)越深信不疑的現(xiàn)代傳播學(xué)現(xiàn)象[18]。群體層面,國(guó)內(nèi)傳播學(xué)者梁鋒、喻國(guó)明、陳昌鳳、劉華棟等學(xué)者結(jié)合對(duì)桑斯坦《信息烏托邦》《網(wǎng)絡(luò)共和國(guó)》等著作的提煉,闡述了“信息繭房”從個(gè)體封閉走到群體極化的后果。群體極化是指群體意見(jiàn)中某些既有的偏向,經(jīng)過(guò)商討以后,群體成員繼續(xù)沿著偏向的路線前進(jìn),最后形成極端的觀點(diǎn)。”[19]《“信息繭房”對(duì)網(wǎng)絡(luò)公共領(lǐng)域建構(gòu)的破壞》一文描述“信息繭房”的危害體現(xiàn)在“‘意見(jiàn)自由表達(dá)受阻、群體極化造成公眾理性批判的缺失、社會(huì)黏性削弱及破壞共同體維系”[20],也是從這3個(gè)層面做出的總結(jié)。

    總的來(lái)看,對(duì)“信息繭房”存在程度甚至是否存在還存在爭(zhēng)議,還需更多關(guān)注細(xì)節(jié)、量化的實(shí)證研究進(jìn)行完善。國(guó)內(nèi)傳播學(xué)者量化成果較少,王茜關(guān)于今日頭條的量化研究受樣本數(shù)量制約,其難點(diǎn)之一在于缺乏相關(guān)的公開(kāi)、真實(shí)、足夠數(shù)據(jù)量的數(shù)據(jù)集進(jìn)行研究使用。倘若收集得到真實(shí)用戶的匿名行為數(shù)據(jù)集,就可參照計(jì)算傳播學(xué)研究范式,進(jìn)行諸如學(xué)者王成軍利用Digg社區(qū)數(shù)據(jù)集,對(duì)新聞在注意力場(chǎng)中的“逃逸”問(wèn)題[21]所做的結(jié)合用戶行為模擬并進(jìn)行模型曲線擬合的數(shù)理性實(shí)證研究。難點(diǎn)之二在于新聞學(xué)研究者目前對(duì)于網(wǎng)絡(luò)科學(xué)的理論(如同質(zhì)化理論、資源依賴?yán)碚?、社?huì)影響理論)的使用依然有限[22],而學(xué)科間還未產(chǎn)生廣泛交流與討論。

    3 新聞在推薦系統(tǒng)情境中三個(gè)環(huán)節(jié)傳播的流程模型及針對(duì)性建議

    在對(duì)新聞推薦系統(tǒng)進(jìn)行了背景與現(xiàn)狀綜述的基礎(chǔ)上,筆者受上述學(xué)科視角啟發(fā),構(gòu)建新聞在推薦系統(tǒng)情境中包含信息流和數(shù)據(jù)流的“創(chuàng)作,發(fā)布/抓取,分發(fā)/點(diǎn)擊,閱讀”傳播流程模型(圖4)。這一模型指出了用戶“閱讀個(gè)性化”與新聞推薦系統(tǒng)“傳播個(gè)性化”之間的關(guān)系,并進(jìn)一步解釋了“信息繭房”問(wèn)題在現(xiàn)有技術(shù)條件下的必然和可能的突破環(huán)節(jié)。

    如圖4所示,新聞推薦系統(tǒng)中存在信息流與數(shù)據(jù)流兩個(gè)信息運(yùn)動(dòng)方向。筆者將新聞推薦系統(tǒng)內(nèi)的6個(gè)典型行為“創(chuàng)作,發(fā)布/抓取,分發(fā)/點(diǎn)擊,閱讀”劃分為3個(gè)環(huán)節(jié)。

    從信息流向來(lái)看,新聞信息從作為原始傳者的內(nèi)容生產(chǎn)者發(fā)布到數(shù)字媒體平臺(tái)上,作為中介傳者的新聞推薦系統(tǒng)抓取并推送給受眾閱讀。

    從數(shù)據(jù)流向來(lái)看,作為原始傳者的內(nèi)容生產(chǎn)者創(chuàng)作、發(fā)布內(nèi)容,其發(fā)布的新聞作為D1(數(shù)據(jù)源1)被推薦系統(tǒng)抓取,處理為產(chǎn)品模型M1。作為受者的用戶對(duì)推薦系統(tǒng)前臺(tái)(所瀏覽的新聞網(wǎng)頁(yè)等)執(zhí)行點(diǎn)擊行為,對(duì)新聞信息執(zhí)行閱讀行為。其中,前一個(gè)行為產(chǎn)生的用戶行為日志作為D2(數(shù)據(jù)源2)被處理為用戶模型M2。推薦系統(tǒng)因而扮演著二者之間的中介角色,推薦算法通過(guò)機(jī)器學(xué)習(xí),不斷優(yōu)化決策,以達(dá)到個(gè)性化的推薦決策。舉例來(lái)說(shuō),Youtube推薦算法①包含兩個(gè)機(jī)器學(xué)習(xí)目標(biāo),第一個(gè)是生成候選集,以用戶觀看歷史為輸入,使用協(xié)同過(guò)濾等技術(shù)在數(shù)以萬(wàn)計(jì)的視頻中進(jìn)行選擇;第二個(gè)神經(jīng)網(wǎng)絡(luò)則用于對(duì)視頻們進(jìn)行排序,使用邏輯回歸計(jì)算每個(gè)視頻得分,然后不斷使用A/B測(cè)試進(jìn)行

    改進(jìn)。

    通過(guò)這兩組信息運(yùn)動(dòng)流向的比較中可以發(fā)現(xiàn),用戶“閱讀個(gè)性化”與新聞推薦系統(tǒng)“傳播個(gè)性化”之間,是通過(guò)用戶“點(diǎn)擊”的數(shù)據(jù)流輸入新聞推薦系統(tǒng),推薦系統(tǒng)基于此進(jìn)行機(jī)器學(xué)習(xí)將個(gè)性化信息流輸出給用戶,達(dá)到了“傳播個(gè)性化”。因此,用戶接受的個(gè)性化信息的質(zhì)量一部分取決于原始傳者,即內(nèi)容生產(chǎn)者,另一部分很大程度上取決于作為中介傳者的推薦系統(tǒng)。在中介環(huán)節(jié),推薦算法在用戶物品關(guān)系矩陣中攫取有效信息反過(guò)來(lái)填充這個(gè)矩陣,這是一個(gè)正向自我強(qiáng)化過(guò)程,越走越窄是宿命①。如果系統(tǒng)只對(duì)探測(cè)到的用戶興趣進(jìn)行“開(kāi)采利用”,而不發(fā)現(xiàn)新的用戶興趣,將無(wú)可避免地走向“信息繭房”。

    雖然計(jì)算機(jī)學(xué)界已經(jīng)提出在推薦算法的設(shè)計(jì)中從“開(kāi)采利用”向“探索利用”優(yōu)化,但在目前仍處在研究的初期。包含3個(gè)環(huán)節(jié)的傳播流程圖啟發(fā)我們,解決新聞推薦系統(tǒng)“信息繭房”問(wèn)題,也可關(guān)注其與內(nèi)容生產(chǎn)方、與用戶之間的信息互動(dòng)。

    在與內(nèi)容的洽接環(huán)節(jié),提高內(nèi)容的廣度與質(zhì)量。目前應(yīng)用新聞推薦系統(tǒng)的媒體主要包含3類:門(mén)戶網(wǎng)站的移動(dòng)端應(yīng)用“騰訊新聞”等、內(nèi)容推薦引擎“今日頭條”“一點(diǎn)資訊”等、包含“Newsfeed”(信息流推送)的社交媒體“Facebook”“微博”等。而這些媒體對(duì)于合作媒體、自媒體、社交主頁(yè)等信息資源的采納權(quán)重不盡相同。自媒體信息質(zhì)量良莠不齊,在消息審核上仍存盲區(qū),提高新聞數(shù)據(jù)庫(kù)的準(zhǔn)入機(jī)制,加強(qiáng)與有宏觀視野、專業(yè)素養(yǎng)和社會(huì)公信力的媒體合作,是提高新聞客觀真實(shí)性、統(tǒng)括來(lái)自不同領(lǐng)域、不同階層、不同利益群體的立場(chǎng)和態(tài)度的有效舉措。

    需要注意的是,在內(nèi)容準(zhǔn)入審核時(shí)不應(yīng)局限文本信息。隨著融合媒體的發(fā)展,短視頻、直播、互動(dòng)問(wèn)答等多樣化的形式正在進(jìn)入分發(fā)平臺(tái)的融合媒體內(nèi)容端口,成為未來(lái)內(nèi)容審核新的挑戰(zhàn)。

    在于用戶間的信息互動(dòng)環(huán)節(jié),應(yīng)重視用戶心理的自省,發(fā)掘其自主能動(dòng)性。例如開(kāi)發(fā)新聞推薦系統(tǒng)的閱讀歷史可視化插件,在原有傳播流程的基礎(chǔ)上,增加推薦系統(tǒng)的一個(gè)數(shù)據(jù)輸出渠道(圖5)。

    采集了用戶行為日志的推薦系統(tǒng)不應(yīng)“壟斷”數(shù)據(jù),而應(yīng)將其算法決策轉(zhuǎn)換為給用戶的直觀提示,例如用餅圖為用戶直觀地展現(xiàn)每日閱讀的各類新聞比例。用戶的無(wú)意識(shí)行為助力的決策需要得到提示和反饋,以便使用戶認(rèn)知的不完備可以通過(guò)增強(qiáng)心理上的“自我反省”來(lái)彌補(bǔ),這也是算法“可解釋性”的基本倫理原則[23]。

    總的來(lái)說(shuō),推動(dòng)新聞推薦系統(tǒng)“信息繭房”問(wèn)題的解決:

    一是要提高新聞內(nèi)容的廣度與質(zhì)量;二是加大對(duì)推薦算法精確度以外其他指標(biāo)的考量,進(jìn)行“探索利用”嘗試;三是重視用戶心理的自省,例如開(kāi)發(fā)新聞推薦系統(tǒng)的相關(guān)插件,完善新聞推薦產(chǎn)品

    生態(tài)。

    喻國(guó)明等學(xué)者在《傳播學(xué)研究范式的創(chuàng)新:以媒介接觸與使用的研究為例——用戶媒介接觸與使用的研究范式及學(xué)術(shù)框架》[24]中指出,移動(dòng)傳播技術(shù)使傳播行為復(fù)雜化和結(jié)構(gòu)化,在考察新環(huán)境下媒介用戶的媒介接觸與使用特征時(shí),可建立起適合移動(dòng)互聯(lián)傳播環(huán)境的“時(shí)間—空間—媒介接觸行為—社會(huì)關(guān)系—心理效果”五維研究框架。解決“信息繭房”問(wèn)題,還需通過(guò)社會(huì)科學(xué)的理論研究,與自然科學(xué)的創(chuàng)新開(kāi)發(fā),共同推動(dòng)新聞推薦系統(tǒng)的發(fā)展與創(chuàng)新,同時(shí)在新的技術(shù)與媒體環(huán)境中,更進(jìn)一步認(rèn)識(shí)當(dāng)今數(shù)字化時(shí)代中新聞的責(zé)任、定位與發(fā)展

    方向。

    注釋

    ①微信公眾號(hào)“AI前線”《YouTube和今日頭條很委屈:色情暴力的鍋推薦系統(tǒng)該不該背?》http://mp.weixin.qq.com/s/jhuFVLOnbjO0-J27B3cYiA.

    參考文獻(xiàn)

    [1]項(xiàng)亮.推薦系統(tǒng)實(shí)踐[M].北京:人民郵電出版社,2012:4,23-33.

    [2]桑斯坦.信息烏托邦[M].北京:法律出版社,2008.

    [3]王益成,王萍,王美月,等.信息運(yùn)動(dòng)視角下內(nèi)容智能分發(fā)平臺(tái)突破“信息繭房”策略研究[J/OL].情報(bào)理論與實(shí)踐.[2018-01-31].http://kns.cnki.net/kcms/detail/11.1762.G3.20180131.1144.002.html.

    [4]Resnick P,Varian H R.Recommender Systems [J].Communications of the ACM,1997,40(3):56-58.

    [5]劉輝,郭夢(mèng)夢(mèng),潘偉強(qiáng).個(gè)性化推薦系統(tǒng)綜述[J].常州大學(xué)學(xué)報(bào)(自然科學(xué)版),2017,29(3):51-59.

    [6]Mcnee S M,Riedl J,Konstan J A.Being accurate is not enough[J].2006.

    [7]安維,劉啟華,張李義.個(gè)性化推薦系統(tǒng)的多樣性研究進(jìn)展[J].圖書(shū)情報(bào)工作,2013,57(20):127-135.

    [8]程士安,沈恩紹.數(shù)字化時(shí)代組織傳播理論的解釋與重構(gòu)——以科技進(jìn)步與傳播規(guī)律的演進(jìn)為視角[J].新聞大學(xué),2009(2):119-124.

    [9]梁鋒.信息繭房(information cocoons)[J].新聞前哨,2013(1):87.

    [10]劉華棟.社交媒體“信息繭房”的隱憂與對(duì)策[J].中國(guó)廣播電視學(xué)刊,2017(4):54-57.

    [11]陳昌鳳,張心蔚.信息個(gè)人化、信息偏向與技術(shù)性糾偏——新技術(shù)時(shí)代我們?nèi)绾潍@取信息[J].新聞與寫(xiě)作,2017(8):42-45.

    [12]王茜.打開(kāi)算法分發(fā)的“黑箱”——基于今日頭條新聞推送的量化研究[J].新聞?dòng)浾撸?017(9):7-14.

    [13]王秋旭.信息繭房效應(yīng)下微博群體極化現(xiàn)象分析[J].新聞研究導(dǎo)刊,2015(7):177-178.

    [14]Zuiderveen Borgesius F J,Trilling D, Moeller J,et al.Should We Worry About Filter Bubbles?[J].Social Science Electronic Publishing,2016.

    [15]Goldie,David|Linick, Matthew|Jabbar,Huriya|Lubienski,Christopher.Using Bibliometric and Social Media Analyses to Explore the “Echo Chamber” Hypothesis[J].Educational Policy,2014,28(2):281-305.

    [16]Bargill S,Gandal N.Online Exploration,Content Choice & Echo Chambers:An Experiment[J].Cepr Discussion Papers,2017.

    [17]Bargill S,Gandal N.Online Exploration When Search Topic and Popularity Ranking Are Decoupled:Insights on Echo Chambers[J].Social Science Electronic Publishing,2017.

    [18]許志源,唐維庸.2016美國(guó)大選所透射的“過(guò)濾氣泡”現(xiàn)象與啟示[J].傳媒,2017(16).

    [19]凱斯·桑斯坦,桑斯坦,英維明.網(wǎng)絡(luò)共和國(guó):網(wǎng)絡(luò)社會(huì)中的民主問(wèn)題[M].上海:上海人民出版社,2003.

    [20]胡婉婷.“信息繭房”對(duì)網(wǎng)絡(luò)公共領(lǐng)域建構(gòu)的破壞[J].青年記者,2016(15):26-27.

    [21]Wang C J,Wu L,Zhang J,et al.The Collective Direction of Attention Diffusion[J].Scientific Reports,2016(6):34059.

    [22]王成軍.計(jì)算社會(huì)科學(xué)視野下的新聞學(xué)研究:挑戰(zhàn)與機(jī)遇[J].新聞大學(xué),2017(4):26-32.

    [23]Mittelstadt B,Allo P,Taddeo M,et al.The Ethics of Algorithms:Mapping the Debate[J].

    2016(2).

    [24]喻國(guó)明,何其聰,吳文汐.傳播學(xué)研究范式的創(chuàng)新:以媒介接觸與使用的研究為例——用戶媒介接觸與使用的研究范式及學(xué)術(shù)框架[J].新聞大學(xué),2017(1):

    85-93.

    猜你喜歡
    信息繭房個(gè)性化推薦推薦系統(tǒng)
    微時(shí)代大學(xué)生“信息繭房”效應(yīng)干預(yù)
    社交媒體時(shí)代下新聞產(chǎn)需變化芻議
    新媒體研究(2017年7期)2017-05-24 19:30:03
    基于用戶偏好的信任網(wǎng)絡(luò)隨機(jī)游走推薦模型
    “信息繭房”禁錮了我們的雙眼
    今傳媒(2016年12期)2017-01-09 08:31:04
    基于鏈?zhǔn)酱鎯?chǔ)結(jié)構(gòu)的協(xié)同過(guò)濾推薦算法設(shè)計(jì)與實(shí)現(xiàn)
    基于個(gè)性化的協(xié)同過(guò)濾圖書(shū)推薦算法研究
    個(gè)性化推薦系統(tǒng)關(guān)鍵算法探討
    基于協(xié)同過(guò)濾算法的個(gè)性化圖書(shū)推薦系統(tǒng)研究
    “信息繭房”禁錮了我們的雙眼(觀察家)
    淺談Mahout在個(gè)性化推薦系統(tǒng)中的應(yīng)用
    如何舔出高潮| 亚洲精品视频女| 亚洲伊人久久精品综合| 国精品久久久久久国模美| 最近2019中文字幕mv第一页| 男女无遮挡免费网站观看| 五月开心婷婷网| 欧美日韩在线观看h| 久久人人爽人人爽人人片va| 亚洲av免费高清在线观看| 嘟嘟电影网在线观看| 久久av网站| 久久久亚洲精品成人影院| 久久久久久伊人网av| 国产精品久久久久久av不卡| 亚洲精品乱码久久久v下载方式| 亚洲最大成人中文| 久久国产乱子免费精品| 在线观看国产h片| 国产亚洲最大av| 草草在线视频免费看| 搡女人真爽免费视频火全软件| 99热国产这里只有精品6| 国产伦精品一区二区三区视频9| 免费不卡的大黄色大毛片视频在线观看| 有码 亚洲区| 狂野欧美激情性xxxx在线观看| 国产在视频线精品| 涩涩av久久男人的天堂| 国产精品久久久久久久电影| 亚洲精品色激情综合| 日韩免费高清中文字幕av| 老熟女久久久| 性高湖久久久久久久久免费观看| 搡女人真爽免费视频火全软件| av国产精品久久久久影院| 成年免费大片在线观看| 伦精品一区二区三区| av在线蜜桃| 亚洲怡红院男人天堂| 久久青草综合色| 性色av一级| 亚洲国产精品999| 男人舔奶头视频| 97在线视频观看| 狂野欧美激情性bbbbbb| 中文字幕免费在线视频6| 一个人看视频在线观看www免费| 日产精品乱码卡一卡2卡三| 男女边吃奶边做爰视频| 国产美女午夜福利| 久久久欧美国产精品| 国产乱人视频| 一级二级三级毛片免费看| 少妇 在线观看| 免费看不卡的av| 亚洲精品aⅴ在线观看| 国产精品偷伦视频观看了| 夜夜爽夜夜爽视频| 18+在线观看网站| 99re6热这里在线精品视频| 最近中文字幕2019免费版| 在线看a的网站| 色网站视频免费| av专区在线播放| 免费黄频网站在线观看国产| 亚洲三级黄色毛片| 日本黄色日本黄色录像| 国产在线视频一区二区| 精品人妻偷拍中文字幕| 男女边摸边吃奶| 日韩中字成人| 国产一区亚洲一区在线观看| 欧美国产精品一级二级三级 | 男女啪啪激烈高潮av片| 亚洲天堂av无毛| xxx大片免费视频| 中文字幕精品免费在线观看视频 | 97在线视频观看| 亚洲精品第二区| 国产午夜精品一二区理论片| 国产午夜精品久久久久久一区二区三区| 国产精品精品国产色婷婷| 少妇熟女欧美另类| 久久久久久久久久成人| 男女下面进入的视频免费午夜| 高清不卡的av网站| 中文字幕人妻熟人妻熟丝袜美| 欧美区成人在线视频| 久久久久久伊人网av| 国产精品久久久久成人av| 在线观看一区二区三区激情| 男女免费视频国产| 成人18禁高潮啪啪吃奶动态图 | 免费大片18禁| 亚洲美女搞黄在线观看| 免费观看av网站的网址| 97在线视频观看| 99热这里只有是精品在线观看| 亚洲,欧美,日韩| 亚洲熟女精品中文字幕| 久久午夜福利片| 涩涩av久久男人的天堂| 久久精品人妻少妇| 色视频在线一区二区三区| 超碰97精品在线观看| 日韩,欧美,国产一区二区三区| 日本午夜av视频| 少妇猛男粗大的猛烈进出视频| 老熟女久久久| 成年美女黄网站色视频大全免费 | 亚洲一级一片aⅴ在线观看| 亚洲av免费高清在线观看| 亚洲av中文字字幕乱码综合| 国产精品福利在线免费观看| 18禁在线无遮挡免费观看视频| av黄色大香蕉| 国产高潮美女av| 国产亚洲欧美精品永久| 少妇熟女欧美另类| 波野结衣二区三区在线| 国产亚洲欧美精品永久| 国产一级毛片在线| 精品国产露脸久久av麻豆| 久久久久视频综合| 秋霞在线观看毛片| 网址你懂的国产日韩在线| 久久久久久久久大av| 国产老妇伦熟女老妇高清| 久久久欧美国产精品| 亚洲成人中文字幕在线播放| 国产在视频线精品| 欧美老熟妇乱子伦牲交| 日韩制服骚丝袜av| 下体分泌物呈黄色| 亚洲最大成人中文| 中文精品一卡2卡3卡4更新| 日韩 亚洲 欧美在线| 日日摸夜夜添夜夜添av毛片| 日韩制服骚丝袜av| 在线免费观看不下载黄p国产| 人人妻人人爽人人添夜夜欢视频 | 啦啦啦在线观看免费高清www| 国产精品久久久久久精品电影小说 | 欧美亚洲 丝袜 人妻 在线| 久久久久久久精品精品| 国产一区有黄有色的免费视频| 成人毛片a级毛片在线播放| 狂野欧美激情性xxxx在线观看| 91精品国产九色| 国产成人精品福利久久| 国产男人的电影天堂91| 美女高潮的动态| h日本视频在线播放| 久久久久视频综合| 国产精品伦人一区二区| 亚洲国产高清在线一区二区三| 国产精品免费大片| 亚洲精品国产av蜜桃| 插逼视频在线观看| 丰满迷人的少妇在线观看| 亚洲av不卡在线观看| 亚洲国产高清在线一区二区三| 女性被躁到高潮视频| 老师上课跳d突然被开到最大视频| 亚洲伊人久久精品综合| 国产精品熟女久久久久浪| 久久久精品免费免费高清| 女性生殖器流出的白浆| 国产无遮挡羞羞视频在线观看| 乱码一卡2卡4卡精品| 亚洲国产日韩一区二区| 男女啪啪激烈高潮av片| 久久久国产一区二区| 免费观看的影片在线观看| 亚洲av成人精品一区久久| 亚洲在久久综合| 国产女主播在线喷水免费视频网站| 亚洲av欧美aⅴ国产| 久久99蜜桃精品久久| 少妇的逼好多水| 欧美xxxx性猛交bbbb| 在线观看一区二区三区激情| 黑丝袜美女国产一区| av免费观看日本| 噜噜噜噜噜久久久久久91| 亚洲国产精品成人久久小说| 老女人水多毛片| 波野结衣二区三区在线| 亚洲成人中文字幕在线播放| 亚洲av电影在线观看一区二区三区| 国产精品熟女久久久久浪| 精品亚洲成a人片在线观看 | av一本久久久久| av女优亚洲男人天堂| 国产成人精品一,二区| 国产黄片美女视频| 亚洲av国产av综合av卡| 久久影院123| a 毛片基地| 80岁老熟妇乱子伦牲交| 亚洲一区二区三区欧美精品| 亚洲精品国产色婷婷电影| 国产淫片久久久久久久久| 国产69精品久久久久777片| 男人添女人高潮全过程视频| 亚洲成人av在线免费| 看非洲黑人一级黄片| 最近中文字幕高清免费大全6| 国产 精品1| 一级毛片aaaaaa免费看小| 国产免费福利视频在线观看| 99热网站在线观看| 美女内射精品一级片tv| 在线亚洲精品国产二区图片欧美 | 国语对白做爰xxxⅹ性视频网站| 亚洲精品国产av蜜桃| 亚洲性久久影院| 亚洲av中文av极速乱| 国国产精品蜜臀av免费| 免费观看的影片在线观看| 观看免费一级毛片| 老司机影院毛片| 国产伦精品一区二区三区视频9| 久久国产亚洲av麻豆专区| 久热久热在线精品观看| 精品熟女少妇av免费看| 国产成人免费无遮挡视频| 80岁老熟妇乱子伦牲交| av又黄又爽大尺度在线免费看| 国产视频内射| 交换朋友夫妻互换小说| 午夜福利影视在线免费观看| 女人久久www免费人成看片| av一本久久久久| 中文字幕人妻熟人妻熟丝袜美| 只有这里有精品99| 久久久久网色| 在线天堂最新版资源| 黄色怎么调成土黄色| 青春草视频在线免费观看| 久久精品国产自在天天线| 在线免费十八禁| 国产黄片美女视频| 免费观看性生交大片5| 男人添女人高潮全过程视频| 99久久中文字幕三级久久日本| 最近的中文字幕免费完整| 赤兔流量卡办理| 婷婷色麻豆天堂久久| 一级毛片久久久久久久久女| 国产欧美日韩一区二区三区在线 | 热99国产精品久久久久久7| av黄色大香蕉| 高清黄色对白视频在线免费看 | 啦啦啦中文免费视频观看日本| 欧美丝袜亚洲另类| 日日摸夜夜添夜夜添av毛片| 亚洲一区二区三区欧美精品| 精品一区在线观看国产| 欧美xxxx性猛交bbbb| 亚洲精华国产精华液的使用体验| av播播在线观看一区| 久久97久久精品| 又黄又爽又刺激的免费视频.| 欧美日韩视频精品一区| 国产中年淑女户外野战色| 亚洲电影在线观看av| av一本久久久久| 亚洲精品成人av观看孕妇| 尤物成人国产欧美一区二区三区| 性高湖久久久久久久久免费观看| 最黄视频免费看| 日本爱情动作片www.在线观看| 亚洲精品国产av蜜桃| 久久久久久久久久久免费av| 99久久中文字幕三级久久日本| 麻豆成人午夜福利视频| 国产有黄有色有爽视频| av国产久精品久网站免费入址| 高清视频免费观看一区二区| 成人特级av手机在线观看| 久久久久久久久久久丰满| 日本与韩国留学比较| 国产老妇伦熟女老妇高清| 国产高清不卡午夜福利| av卡一久久| 久久av网站| 亚洲国产欧美人成| 老女人水多毛片| 国产精品国产三级专区第一集| 91精品国产国语对白视频| 内地一区二区视频在线| 网址你懂的国产日韩在线| 国产精品国产三级国产av玫瑰| 校园人妻丝袜中文字幕| 晚上一个人看的免费电影| 黄色日韩在线| 最近最新中文字幕免费大全7| 性色avwww在线观看| 久久这里有精品视频免费| 久久99蜜桃精品久久| a 毛片基地| av.在线天堂| 一二三四中文在线观看免费高清| 亚洲在久久综合| 成人影院久久| 另类亚洲欧美激情| 夫妻午夜视频| av视频免费观看在线观看| 亚州av有码| 亚洲不卡免费看| 亚洲熟女精品中文字幕| 国产精品久久久久久久久免| 久久热精品热| 91久久精品国产一区二区成人| 直男gayav资源| 午夜福利在线观看免费完整高清在| 国产成人免费观看mmmm| 亚洲精品日本国产第一区| 欧美老熟妇乱子伦牲交| 日韩伦理黄色片| 夜夜骑夜夜射夜夜干| 少妇的逼水好多| 99热国产这里只有精品6| 日韩亚洲欧美综合| 午夜福利在线观看免费完整高清在| 啦啦啦视频在线资源免费观看| 精品亚洲成国产av| 久久久亚洲精品成人影院| 在线观看国产h片| 18禁动态无遮挡网站| 成年美女黄网站色视频大全免费 | 中文字幕人妻熟人妻熟丝袜美| 男女免费视频国产| 中国国产av一级| 在线亚洲精品国产二区图片欧美 | 亚洲精品第二区| www.av在线官网国产| 亚州av有码| 国产视频内射| 国产白丝娇喘喷水9色精品| 亚洲天堂av无毛| 亚洲欧美一区二区三区黑人 | 日韩视频在线欧美| 亚洲精品久久久久久婷婷小说| 啦啦啦视频在线资源免费观看| tube8黄色片| 精品国产三级普通话版| 国产91av在线免费观看| 一区二区av电影网| 国产在线一区二区三区精| 搡女人真爽免费视频火全软件| 女的被弄到高潮叫床怎么办| 婷婷色综合大香蕉| 亚洲人成网站在线播| 国产一区二区在线观看日韩| 欧美成人精品欧美一级黄| 一区在线观看完整版| 美女视频免费永久观看网站| 在线观看一区二区三区| 精品亚洲乱码少妇综合久久| 18禁裸乳无遮挡动漫免费视频| 国产 一区 欧美 日韩| 精品久久久久久电影网| 丝袜喷水一区| 久久久久视频综合| 成年女人在线观看亚洲视频| 男女边吃奶边做爰视频| 中国美白少妇内射xxxbb| 亚洲色图av天堂| 中国三级夫妇交换| 欧美高清性xxxxhd video| 精品国产乱码久久久久久小说| 蜜桃亚洲精品一区二区三区| 黄片wwwwww| 亚洲国产成人一精品久久久| 精品久久久久久电影网| 亚洲国产毛片av蜜桃av| 午夜激情久久久久久久| 国产欧美日韩精品一区二区| 噜噜噜噜噜久久久久久91| 欧美老熟妇乱子伦牲交| 免费观看性生交大片5| 久久久久国产网址| 美女内射精品一级片tv| 你懂的网址亚洲精品在线观看| 欧美xxxx黑人xx丫x性爽| 黑丝袜美女国产一区| 97热精品久久久久久| 插逼视频在线观看| 亚洲国产色片| 午夜日本视频在线| 国产精品久久久久久精品古装| 国产黄频视频在线观看| 国产精品久久久久久久久免| 国产精品秋霞免费鲁丝片| 又爽又黄a免费视频| 成人国产av品久久久| 一级二级三级毛片免费看| 高清视频免费观看一区二区| 日日摸夜夜添夜夜爱| 看十八女毛片水多多多| 欧美成人一区二区免费高清观看| 欧美xxⅹ黑人| 国产精品99久久99久久久不卡 | 久久女婷五月综合色啪小说| 一本久久精品| 三级国产精品欧美在线观看| 熟女人妻精品中文字幕| 汤姆久久久久久久影院中文字幕| 国产无遮挡羞羞视频在线观看| 哪个播放器可以免费观看大片| 国产一级毛片在线| 视频区图区小说| 欧美成人午夜免费资源| 国产一区亚洲一区在线观看| 国产av一区二区精品久久 | 久久精品国产亚洲av天美| 美女国产视频在线观看| 美女中出高潮动态图| 精品一区在线观看国产| 欧美老熟妇乱子伦牲交| 久久精品久久精品一区二区三区| 国产高清不卡午夜福利| 老司机影院成人| 男女啪啪激烈高潮av片| 蜜桃亚洲精品一区二区三区| 亚洲av成人精品一二三区| 新久久久久国产一级毛片| 18禁裸乳无遮挡动漫免费视频| 久久久久久人妻| 深夜a级毛片| 午夜激情福利司机影院| 制服丝袜香蕉在线| 午夜老司机福利剧场| 看免费成人av毛片| 精品久久国产蜜桃| 又爽又黄a免费视频| 哪个播放器可以免费观看大片| 日韩 亚洲 欧美在线| 国产精品.久久久| 国产亚洲午夜精品一区二区久久| 国产在线一区二区三区精| 久久99蜜桃精品久久| 国产精品久久久久久精品电影小说 | 国产在线视频一区二区| 一二三四中文在线观看免费高清| 精品国产露脸久久av麻豆| 亚洲国产精品成人久久小说| 只有这里有精品99| 少妇猛男粗大的猛烈进出视频| 99精国产麻豆久久婷婷| 国产美女午夜福利| 美女主播在线视频| 国产一区有黄有色的免费视频| 夫妻午夜视频| 日韩,欧美,国产一区二区三区| 亚洲国产最新在线播放| 国产永久视频网站| 亚洲av不卡在线观看| 亚洲伊人久久精品综合| 日韩一区二区视频免费看| av免费观看日本| 久热久热在线精品观看| 99久久中文字幕三级久久日本| h视频一区二区三区| 深爱激情五月婷婷| 色网站视频免费| 国产精品久久久久久精品电影小说 | 亚洲欧美清纯卡通| 久久久午夜欧美精品| 女的被弄到高潮叫床怎么办| 黑人高潮一二区| 久久婷婷青草| 免费观看性生交大片5| 国产有黄有色有爽视频| 国产中年淑女户外野战色| 少妇被粗大猛烈的视频| 免费少妇av软件| 亚洲国产精品一区三区| av福利片在线观看| 亚洲欧美一区二区三区国产| 看非洲黑人一级黄片| 少妇精品久久久久久久| 国产精品爽爽va在线观看网站| 国产欧美亚洲国产| 日韩亚洲欧美综合| 日本av免费视频播放| av黄色大香蕉| 亚洲精品国产成人久久av| 国产精品一区二区三区四区免费观看| 男人和女人高潮做爰伦理| 国产黄色免费在线视频| 亚洲av在线观看美女高潮| 亚洲内射少妇av| 十八禁网站网址无遮挡 | 18禁动态无遮挡网站| 精品国产乱码久久久久久小说| 久久久久久久国产电影| 久久精品久久久久久噜噜老黄| 久久久久性生活片| 亚洲精品乱码久久久久久按摩| 日韩 亚洲 欧美在线| 国产永久视频网站| 国产成人aa在线观看| 男的添女的下面高潮视频| 丝袜脚勾引网站| 国产乱人视频| 麻豆乱淫一区二区| 中文天堂在线官网| 777米奇影视久久| 亚洲精品成人av观看孕妇| 成人毛片60女人毛片免费| 国语对白做爰xxxⅹ性视频网站| 久久久久久久久久人人人人人人| 久久韩国三级中文字幕| 精品一区二区三卡| 黑丝袜美女国产一区| 2021少妇久久久久久久久久久| 久久热精品热| 黄色视频在线播放观看不卡| av在线蜜桃| 久久精品国产亚洲网站| 国产精品成人在线| 亚洲精品456在线播放app| 亚洲av成人精品一二三区| 精品人妻一区二区三区麻豆| 爱豆传媒免费全集在线观看| 夜夜爽夜夜爽视频| 日韩av免费高清视频| 欧美变态另类bdsm刘玥| 伦理电影免费视频| 欧美+日韩+精品| 一二三四中文在线观看免费高清| 人妻制服诱惑在线中文字幕| 91久久精品国产一区二区成人| 欧美激情极品国产一区二区三区 | 亚洲综合精品二区| 欧美三级亚洲精品| 最近2019中文字幕mv第一页| 中文欧美无线码| 亚洲美女搞黄在线观看| 精品一区二区免费观看| 精品一区二区三卡| 成人18禁高潮啪啪吃奶动态图 | 日韩强制内射视频| 亚洲国产精品999| 久久97久久精品| 精品国产一区二区三区久久久樱花 | 免费观看的影片在线观看| av网站免费在线观看视频| 建设人人有责人人尽责人人享有的 | 国内揄拍国产精品人妻在线| 蜜桃亚洲精品一区二区三区| 亚洲av成人精品一二三区| 久久久a久久爽久久v久久| 一级片'在线观看视频| 午夜免费男女啪啪视频观看| 青春草亚洲视频在线观看| 内射极品少妇av片p| 99久久综合免费| 永久网站在线| 国产中年淑女户外野战色| 亚洲天堂av无毛| 乱码一卡2卡4卡精品| 777米奇影视久久| 欧美老熟妇乱子伦牲交| 久久99热这里只频精品6学生| 久久女婷五月综合色啪小说| 午夜福利影视在线免费观看| 成人毛片a级毛片在线播放| 亚洲精品成人av观看孕妇| 人妻夜夜爽99麻豆av| 日本一二三区视频观看| 免费av不卡在线播放| 欧美日韩国产mv在线观看视频 | 久久国内精品自在自线图片| 久久久久久久久久人人人人人人| 春色校园在线视频观看| 亚洲电影在线观看av| 下体分泌物呈黄色| 日韩av在线免费看完整版不卡| 久久久色成人| 亚洲一区二区三区欧美精品| 妹子高潮喷水视频| 3wmmmm亚洲av在线观看| av黄色大香蕉| 麻豆国产97在线/欧美| 熟女av电影| 色视频在线一区二区三区| 国产精品一区二区在线观看99| 亚洲av免费高清在线观看| freevideosex欧美| 特大巨黑吊av在线直播| 日本色播在线视频| 直男gayav资源| av又黄又爽大尺度在线免费看| 国产又色又爽无遮挡免| 欧美zozozo另类| 一级毛片黄色毛片免费观看视频| 国产精品一区www在线观看| 亚洲天堂av无毛| 最近最新中文字幕大全电影3| 国产男女内射视频| 亚洲欧美成人精品一区二区| 久久 成人 亚洲| 国产精品一区二区性色av| 欧美3d第一页| 五月玫瑰六月丁香| 中国美白少妇内射xxxbb| 啦啦啦中文免费视频观看日本| 大码成人一级视频| 欧美变态另类bdsm刘玥| 日本av手机在线免费观看|