• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    傳播學(xué)視角下算法推薦研究的學(xué)術(shù)場(chǎng)域

    2022-03-14 08:10:14丁睿豪夏德元
    新聞愛(ài)好者 2022年1期
    關(guān)鍵詞:個(gè)性化推薦算法

    丁睿豪 夏德元

    【摘要】推薦算法已經(jīng)滲入信息生產(chǎn)的各環(huán)節(jié),它帶來(lái)的技術(shù)、社會(huì)和倫理等問(wèn)題成為學(xué)界關(guān)注的焦點(diǎn)。運(yùn)用Citespace分析軟件對(duì)2010—2019年國(guó)內(nèi)新聞傳播學(xué)領(lǐng)域個(gè)性化算法推薦共453篇文獻(xiàn)進(jìn)行科學(xué)知識(shí)圖譜分析后發(fā)現(xiàn),學(xué)界有關(guān)算法推薦問(wèn)題的研究成果呈逐年上升趨勢(shì),并隨著運(yùn)用算法推薦的新聞分發(fā)平臺(tái)的崛起而出現(xiàn)爆發(fā)式增長(zhǎng);研究熱點(diǎn)相對(duì)集中于對(duì)算法推薦技術(shù)的思考、現(xiàn)象的探討以及對(duì)挑戰(zhàn)和機(jī)遇的分析。如何在技術(shù)的發(fā)展中把握主動(dòng),進(jìn)行富有前瞻性的學(xué)術(shù)研究,則成為學(xué)界未來(lái)需要努力的方向。

    【關(guān)鍵詞】算法;個(gè)性化推薦;新聞分發(fā)平臺(tái);科學(xué)知識(shí)圖譜;Citespace

    傳統(tǒng)媒體時(shí)代,專業(yè)新聞媒體把握了從新聞內(nèi)容制作到分發(fā)的絕大部分權(quán)力,受眾只能被動(dòng)接收來(lái)自專業(yè)媒體的新聞內(nèi)容,主動(dòng)權(quán)有限。而到了智能媒體時(shí)代,伴隨著網(wǎng)絡(luò)傳播技術(shù)的飛速發(fā)展而催生出的“Apple News”“今日頭條”等新聞分發(fā)平臺(tái)通過(guò)個(gè)性化推薦算法掌握用戶的興趣取向,向用戶推薦內(nèi)容,不僅打破了傳統(tǒng)媒體時(shí)代受眾的被動(dòng)局面,同時(shí)迅速占據(jù)了原本由傳統(tǒng)媒體所掌握的新聞傳播市場(chǎng),帶給整個(gè)新聞傳播業(yè)前所未有的巨變。[1]然而,個(gè)性化推薦算法的廣泛應(yīng)用也帶來(lái)了各種弊端和社會(huì)問(wèn)題,相關(guān)學(xué)者從不同角度形成了問(wèn)題意識(shí)和學(xué)科關(guān)懷,取得了豐碩的研究成果。通過(guò)對(duì)這些研究成果進(jìn)行梳理和總結(jié),揭示當(dāng)前傳播學(xué)領(lǐng)域關(guān)于算法推薦問(wèn)題研究的客觀現(xiàn)狀,對(duì)后續(xù)研究具有一定的借鑒意義。為此,本文以453篇CSSCI期刊論文為依托,利用Citespace軟件對(duì)算法推薦研究現(xiàn)狀進(jìn)行解讀,并結(jié)合關(guān)鍵文獻(xiàn)的重點(diǎn)分析,梳理出新聞傳播學(xué)領(lǐng)域算法推薦的研究脈絡(luò)和熱點(diǎn),為學(xué)者提供預(yù)測(cè)性的經(jīng)驗(yàn)參考。

    一、研究方法與數(shù)據(jù)處理

    本文采用了由美國(guó)華裔學(xué)者陳超美應(yīng)用Java語(yǔ)言開(kāi)發(fā)的信息可視化分析軟件Citespace,其主要基于共引分析理論(co-ciation)和尋徑網(wǎng)絡(luò)算法(Pathfinder)等,對(duì)特定領(lǐng)域文獻(xiàn)(集合)進(jìn)行計(jì)量,以探尋出學(xué)科領(lǐng)域演化的關(guān)鍵路徑及其知識(shí)拐點(diǎn),并通過(guò)一系列可視化圖譜的繪制來(lái)形成對(duì)學(xué)科演化潛在動(dòng)力機(jī)制的分析和學(xué)科發(fā)展前沿的探測(cè)。[2]本研究主要采用Citespace軟件中提供的作者和機(jī)構(gòu)共現(xiàn)、關(guān)鍵詞共現(xiàn)和聚類、參考文獻(xiàn)共被引等分析方法,并通過(guò)可視化知識(shí)圖譜,直觀地呈現(xiàn)出算法推薦研究領(lǐng)域的知識(shí)結(jié)構(gòu)、熱點(diǎn)領(lǐng)域以及演進(jìn)趨勢(shì)。

    為確保數(shù)據(jù)的權(quán)威性,本文選擇中國(guó)知網(wǎng)數(shù)據(jù)庫(kù)中的CSSCI期刊作為研究的數(shù)據(jù)來(lái)源。以“新聞”“出版”“傳播”等作為主題詞,輔以“智能”“算法”“推薦”“推送”“個(gè)性化”“精準(zhǔn)”等關(guān)鍵詞進(jìn)行檢索,去除明顯與本研究不符的文獻(xiàn)(如書(shū)目推薦、資訊、算法設(shè)計(jì)、系統(tǒng)實(shí)現(xiàn)、榜單等),最終共獲取453篇文獻(xiàn)。

    二、描述性統(tǒng)計(jì)分析

    2010年至2019年,學(xué)界有關(guān)算法推薦的研究成果呈逐年上升的趨勢(shì)。根據(jù)圖1可將其分為兩個(gè)階段:第一個(gè)階段為2010年至2015年,這一階段中對(duì)算法推薦問(wèn)題研究成果的發(fā)表數(shù)量共47篇,占研究樣本總量的10.4%。這一時(shí)期的國(guó)內(nèi)個(gè)性化推薦技術(shù)尚處于發(fā)展的初期階段,尚未進(jìn)入大規(guī)模應(yīng)用時(shí)期,學(xué)界對(duì)于算法推薦領(lǐng)域還未給予足夠的關(guān)注。第二階段為2016年至2019年,這一階段對(duì)算法推薦問(wèn)題研究成果的發(fā)表數(shù)量共406篇,占研究樣本總量的89.6%。這一時(shí)期中,算法推薦技術(shù)進(jìn)入實(shí)用階段,國(guó)內(nèi)“今日頭條”“一點(diǎn)資訊”等代表性的新聞分發(fā)平臺(tái)崛起,這些平臺(tái)都以算法推薦技術(shù)為核心并進(jìn)入了高速發(fā)展期,改變了人們傳統(tǒng)的新聞閱讀方式并對(duì)傳統(tǒng)媒體造成了巨大沖擊。這一前所未有的信息分發(fā)方式直接挑戰(zhàn)了傳統(tǒng)的人工編輯機(jī)制,成為巨大的社會(huì)公共話題,并投射到學(xué)界。高速增長(zhǎng)的研究成果數(shù)量,體現(xiàn)了學(xué)界對(duì)于這一研究領(lǐng)域的高度關(guān)注??傮w而言,傳播學(xué)視角下對(duì)于算法推薦問(wèn)題的研究成果數(shù)量與計(jì)算機(jī)技術(shù)及市場(chǎng)發(fā)展具有密切關(guān)聯(lián)。

    三、核心作者分布

    厘清學(xué)科領(lǐng)域的作者分布有助于把握該領(lǐng)域研究的廣度與深度。利用Citespace軟件對(duì)作者進(jìn)行共現(xiàn)分析,得到核心作者合作共現(xiàn)網(wǎng)絡(luò)圖譜。其中,Nodes(節(jié)點(diǎn))數(shù)量為213,Links(連線)數(shù)量為93,Density(密度)數(shù)量為0.0041。根據(jù)以上數(shù)據(jù)可知,算法推薦領(lǐng)域研究的作者之間合作程度較低,研究合作團(tuán)隊(duì)規(guī)模較小。圖譜數(shù)據(jù)顯示,除陳昌鳳分別與師文、霍婕合作發(fā)文4篇和3篇文獻(xiàn)以外,其余作者間基本僅合作發(fā)表過(guò)1至2篇文獻(xiàn),未形成真正意義上的合作團(tuán)隊(duì)。此外,在Citespace隨圖譜生成的Summary Table中,共顯示213位作者,其中2010—2019年之間發(fā)文量在3篇及以上的作者為陳昌鳳、張志安、喻國(guó)明、彭蘭、師文、范紅霞、匡文波、霍婕、王茜、全燕、王斌、嚴(yán)三九,共12位,僅占作者總?cè)藬?shù)的5.6%,且只有3位作者發(fā)文量在10篇以上。由此可見(jiàn),學(xué)界關(guān)于推薦算法領(lǐng)域的研究較為廣泛,但作者較為分散,且高產(chǎn)作者較少,反映出學(xué)界對(duì)于這一領(lǐng)域的研究尚不集中,且深度不夠。

    該研究領(lǐng)域內(nèi)作者文章的被引數(shù)量也是衡量核心作者的重要指標(biāo),對(duì)篩選出的文獻(xiàn)按照被引次數(shù)進(jìn)行整理,在被引次數(shù)最高的前20篇文獻(xiàn)中,彭蘭的6篇文獻(xiàn)共被引969次,喻國(guó)明的3篇文獻(xiàn)共被引389次,表明這兩位學(xué)者的學(xué)術(shù)影響力較大。精讀這些高被引文獻(xiàn)后發(fā)現(xiàn),這些作者的文章主要對(duì)于新聞分發(fā)平臺(tái)的發(fā)展現(xiàn)狀、算法推薦的運(yùn)作模式、應(yīng)用方式及其機(jī)遇和挑戰(zhàn)等問(wèn)題進(jìn)行了深入的討論,這些討論不僅描繪了該領(lǐng)域研究的大致輪廓,更為后來(lái)的深入研究奠定了扎實(shí)基礎(chǔ)。

    四、研究熱點(diǎn)領(lǐng)域分布

    (一)主題詞及關(guān)鍵詞的共現(xiàn)圖譜分析

    利用Citespace得出10年間算法推薦研究的高頻和高中心性關(guān)鍵詞,生成2010—2019年算法推薦領(lǐng)域研究主題詞、關(guān)鍵詞共現(xiàn)圖譜(見(jiàn)圖2),共生成286個(gè)節(jié)點(diǎn),446個(gè)連線,密度為0.0109。在該圖譜中,不同節(jié)點(diǎn)的大小代表其出現(xiàn)的頻次,頻次越多則越大,反之則越小;節(jié)點(diǎn)之間的連線表示彼此之間共現(xiàn)的強(qiáng)度;0.0109的密度代表推薦算法研究領(lǐng)域中節(jié)點(diǎn)之間的關(guān)系比較松散。此外,圖譜中部分節(jié)點(diǎn)的輪廓呈紫色,表明這些主題具有較高的中心性,與其他節(jié)點(diǎn)之間存在較為緊密的聯(lián)系,也是連接不同研究領(lǐng)域的關(guān)鍵節(jié)點(diǎn)。[3]

    Citespace軟件在生成圖2的過(guò)程中也會(huì)計(jì)算每個(gè)關(guān)鍵詞的頻度和中介中心性,其中以頻度為序由高到低排名前十的關(guān)鍵詞及其中介中心性分別是:人工智能(0.24)、算法(0.14)、大數(shù)據(jù)(0.28)、個(gè)性化推薦(0.26)、算法推薦(0.19)、信息繭房(0.16)、新聞生產(chǎn)(0.07)、算法新聞(0.02)、今日頭條(0.05)、新聞業(yè)(0.07)。

    Citespace聚類分析結(jié)果中,Modularity值為0.784,Silhouette值為0.8958。這表明文本聚類效果較好(見(jiàn)圖3)。其中聚類標(biāo)識(shí)詞及其輪廓值按照節(jié)點(diǎn)數(shù)由高到低排序分別為:抖音(0.869)、個(gè)性化推薦(0.994)、大數(shù)據(jù)(0.771)、個(gè)性化信息推薦(0.926)、新聞傳播(0.856)、個(gè)性化(0.925)、內(nèi)容分發(fā)(0.919)、人工智能(0.851)、新聞客戶端(0.929)、新聞分發(fā)(0.851)、算法(0.967)、算法推薦(0.912)。

    再根據(jù)高頻及高中心性關(guān)鍵詞與合并后的聚類標(biāo)識(shí)詞進(jìn)行聯(lián)系歸納,總結(jié)出算法推薦領(lǐng)域的三個(gè)主要知識(shí)群及其高頻關(guān)鍵詞:算法推薦的應(yīng)用研究(個(gè)性化推薦、算法、大數(shù)據(jù)、人工智能、新聞客戶端、微博、抖音、今日頭條、協(xié)同過(guò)濾、內(nèi)容分發(fā)、人機(jī)社交等),算法推薦的傳播效果研究(信息繭房、過(guò)濾氣泡、回音室、算法權(quán)力、權(quán)力轉(zhuǎn)移、權(quán)力結(jié)構(gòu)、新守門人、編輯缺位、社會(huì)化標(biāo)簽、信息過(guò)載等)和算法推薦的傳播倫理研究(媒介倫理、新聞從業(yè)者、算法倫理、工具理性、價(jià)值理性、倫理失范、新聞專業(yè)主義、黑箱、主流價(jià)值觀、算法偏見(jiàn)、公共性、協(xié)同治理等)。

    (二)主要研究熱點(diǎn)知識(shí)群的內(nèi)容討論

    1.算法推薦的應(yīng)用研究

    從圖譜中“人工智能”“算法”的節(jié)點(diǎn)大小可以看出,智能和算法成為算法推薦研究領(lǐng)域中最重要的組成部分。將節(jié)點(diǎn)較大的“人工智能”“算法”“個(gè)性化推薦”等節(jié)點(diǎn)中的核心文獻(xiàn)進(jìn)行研讀后,發(fā)現(xiàn)“算法推薦的應(yīng)用研究”中主要呈現(xiàn)以下重點(diǎn)。

    首先是個(gè)性化推薦的技術(shù)研究方面,主要由“算法”“大數(shù)據(jù)”“人工智能”“協(xié)同過(guò)濾”“推薦機(jī)制”等關(guān)鍵詞構(gòu)成。在媒體智能化已經(jīng)在內(nèi)容生產(chǎn)、內(nèi)容分發(fā)、內(nèi)容監(jiān)管、媒體運(yùn)營(yíng)各環(huán)節(jié)中廣泛應(yīng)用的背景下[4],個(gè)性化推薦機(jī)制的本質(zhì)是以大數(shù)據(jù)與算法為依托,對(duì)用戶行為進(jìn)行長(zhǎng)期的系統(tǒng)跟蹤與分析,從而掌握用戶的內(nèi)容偏好,為用戶提供特定場(chǎng)景下最優(yōu)化的信息需求供給匹配。[5]個(gè)性化推薦算法主要由用戶個(gè)性化信息管理、用戶興趣權(quán)重庫(kù)管理和個(gè)性化推薦三大功能模塊構(gòu)成,其技術(shù)實(shí)現(xiàn)則主要側(cè)重用戶隱性興趣的獲取、興趣權(quán)重的計(jì)算和用戶的相似性計(jì)算三個(gè)方面。[6]

    其次是個(gè)性化推薦平臺(tái)發(fā)展與運(yùn)作的研究方面,由“新媒體”“新聞客戶端”“微博”“抖音”“今日頭條”“新聞聚合”等關(guān)鍵詞構(gòu)成。近年來(lái)以個(gè)性化推薦算法為核心的新聞分發(fā)平臺(tái)高速發(fā)展,成為廣大用戶獲取新聞信息的重要渠道?!敖袢疹^條”作為占據(jù)我國(guó)移動(dòng)互聯(lián)網(wǎng)主導(dǎo)地位的新聞分發(fā)平臺(tái)之一,是個(gè)性化新聞推薦系統(tǒng)應(yīng)用的典型代表。截至2019年6月,“今日頭條”月均活躍用戶規(guī)模達(dá)2.6億,日均活躍用戶規(guī)模達(dá)1.2億。從宏觀視角來(lái)看,個(gè)性化推薦技術(shù)滿足了用戶的“長(zhǎng)尾”需求、強(qiáng)化了新聞分發(fā)平臺(tái)的內(nèi)容分發(fā)能力、提升了用戶信息選擇的地位,對(duì)新聞業(yè)務(wù)鏈進(jìn)行了重塑。[7]“Buzzfeed”“今日頭條”“一點(diǎn)資訊”等新聞分發(fā)平臺(tái),在憑借個(gè)性化推送獲得了遠(yuǎn)超普通新聞客戶端的用戶總數(shù)和使用時(shí)長(zhǎng)的同時(shí),其算法也促進(jìn)了新聞生產(chǎn)流程的自動(dòng)化,以及受眾內(nèi)容消費(fèi)方式的個(gè)人化和定制化。[8]此外,個(gè)性化推薦技術(shù)還具有改變用戶傳統(tǒng)行為模式、實(shí)現(xiàn)內(nèi)容精準(zhǔn)分發(fā)、新聞生產(chǎn)場(chǎng)域擴(kuò)張等重要意義。[9]除了新聞分發(fā)平臺(tái)以外,“抖音”這一以個(gè)性化算法為核心的短視頻平臺(tái)也引發(fā)了學(xué)界的熱烈討論,有學(xué)者從傳播學(xué)角度解構(gòu)抖音特征,認(rèn)為個(gè)性化推薦算法在向用戶推送內(nèi)容的同時(shí),也引發(fā)了用戶共鳴,促進(jìn)用戶模仿創(chuàng)作更多視頻,進(jìn)而提升用戶黏度;[10]而從互動(dòng)儀式鏈的角度出發(fā),個(gè)性化推薦還可以快速聚合符號(hào)資本與情感能量,滿足用戶的情感需求,算法由此成為平臺(tái)市場(chǎng)的核心運(yùn)行機(jī)制。[11]然而,推薦算法在現(xiàn)實(shí)使用中還存在與用戶預(yù)期效果之間的差異,主要體現(xiàn)在個(gè)性化推薦與用戶需求的矛盾以及個(gè)性化推薦與人性化傳播的矛盾。[12]

    2.算法推薦的傳播效果研究

    將圖譜中“過(guò)濾氣泡”“信息繭房”“算法權(quán)力”“權(quán)力結(jié)構(gòu)”“守門人”“主流意識(shí)形態(tài)”“推薦機(jī)制”“信息過(guò)載”等節(jié)點(diǎn)中的核心文獻(xiàn)進(jìn)行研讀后,發(fā)現(xiàn)學(xué)界對(duì)算法推薦的傳播效果研究主要關(guān)注以下幾個(gè)方面。

    首先是關(guān)于算法推薦應(yīng)用環(huán)境下所產(chǎn)生的如信息繭房、過(guò)濾氣泡、回音室、群體極化等信息窄化效果及其治理的研究。個(gè)性化推薦算法雖然為用戶帶來(lái)了便利,滿足了用戶的個(gè)性化信息需求,免去了信息過(guò)載帶來(lái)的困擾,但完全依靠機(jī)械的數(shù)據(jù)和機(jī)器的計(jì)算完成的推送內(nèi)容,會(huì)一步步將人帶向扭曲和異化的境地,用戶在不經(jīng)意間便落入了算法推送的個(gè)性化圈套之中[13],導(dǎo)致用戶“被動(dòng)”接收更多與其自身所持立場(chǎng)相似的觀點(diǎn),驅(qū)動(dòng)形成了基于算法推薦技術(shù)的“被動(dòng)”群體極化現(xiàn)象,社會(huì)隔閡不斷加深。[14]值得一提的是,學(xué)者喻國(guó)明提出了與上述結(jié)論相左的觀點(diǎn),認(rèn)為信息繭房并非由算法推薦所引起,而是在互聯(lián)網(wǎng)出現(xiàn)以前就一直存在。其本質(zhì)是由個(gè)人的選擇和注意所決定的,算法與技術(shù)不過(guò)是一種“人體的延伸”。[15]

    其次,推薦算法的廣泛應(yīng)用所導(dǎo)致的算法權(quán)力躍升與擴(kuò)張問(wèn)題也成為近年來(lái)研究的熱點(diǎn)問(wèn)題。算法所具有的高效、智能、低成本等優(yōu)勢(shì),使其取代了傳統(tǒng)編輯,將原本由人所掌握的權(quán)力轉(zhuǎn)移到了機(jī)器的手中。這種權(quán)力的轉(zhuǎn)移主要包括新聞分發(fā)權(quán)從大眾媒體向算法平臺(tái)的轉(zhuǎn)移,新聞把關(guān)向注意力經(jīng)濟(jì)的“后移”以及新聞選擇權(quán)從受眾到算法平臺(tái)的遷移三個(gè)方面。[16]技術(shù)的深度介入與算法的過(guò)濾也弱化了編輯在新聞生產(chǎn)中的作用。[17]支撐算法的大數(shù)據(jù)則將人與人、人與物、物與物的存在、屬性及關(guān)系進(jìn)行標(biāo)識(shí)和呈現(xiàn),因而實(shí)現(xiàn)了一種無(wú)所不在,滲透到生活方方面面的權(quán)力范式,在相當(dāng)大的程度上規(guī)定了人對(duì)世界的感知及其自由度,從而導(dǎo)致傳播結(jié)果的新一輪“窄化”。[18]以Facebook為代表的社交平臺(tái)進(jìn)軍新聞業(yè),在促進(jìn)社交媒體與傳統(tǒng)主流媒體融合的同時(shí),收編了傳統(tǒng)主流媒體并控制了新聞流向受眾的渠道,使其有能力進(jìn)一步控制受眾對(duì)新聞議程的認(rèn)知,曾經(jīng)由新聞專業(yè)主義主導(dǎo)的公共領(lǐng)域被權(quán)力更為集中且不透明的傳播寡頭所取代。[19]

    3.算法推薦的傳播倫理研究

    將圖譜中有關(guān)倫理緊密聯(lián)系節(jié)點(diǎn)“算法倫理”“新聞倫理”“工具理性”“價(jià)值理性”“主流價(jià)值觀”“主流意識(shí)形態(tài)”“算法偏見(jiàn)”“價(jià)值傳播”“協(xié)同治理”等文獻(xiàn)進(jìn)行研讀后,發(fā)現(xiàn)學(xué)界對(duì)算法推薦的傳播倫理研究多著力于以下方面。

    首先,是關(guān)于推薦算法中工具理性與價(jià)值理性之間平衡的研究。隨著智能化在信息傳播領(lǐng)域的盛行,推薦算法已經(jīng)具備了工具理性和科技理性的條件和特點(diǎn)。然而其功利性、利益最大化和目的至上的運(yùn)行邏輯,忽視了人的價(jià)值以及人的存在感[20],并將一些真正有價(jià)值的信息邊緣化,弱化了對(duì)理性價(jià)值的引導(dǎo)和主流價(jià)值的守望,消解了其長(zhǎng)期堅(jiān)守的社會(huì)責(zé)任,公眾和社會(huì)也會(huì)陷入價(jià)值迷失的困局。[21]工具理性還會(huì)對(duì)新聞專業(yè)主義帶來(lái)巨大挑戰(zhàn),新聞人的主體地位開(kāi)始動(dòng)搖,新聞媒體的角色被不斷分散弱化,新聞把關(guān)人的地位被算法所取代,新聞媒體的權(quán)威性被逐漸瓦解。[22]

    其次,是關(guān)于算法價(jià)值觀對(duì)社會(huì)影響的研究。學(xué)者主要關(guān)注推薦算法中隱含的偏見(jiàn)和利益取向。算法在兩方面的不透明性使其具有了“黑箱”的特征:一方面,軟件產(chǎn)品具有隱蔽性的特征,特定的權(quán)力結(jié)構(gòu)、價(jià)值觀和意識(shí)形態(tài)已經(jīng)事先被嵌入其中,軟件遮蔽下的“有限性、許可、特權(quán)和障礙”等限制不易被人察覺(jué);[23]另一方面,算法的程序?qū)崿F(xiàn)和工作原理對(duì)于開(kāi)發(fā)者、設(shè)計(jì)者而言是已知的知識(shí),而對(duì)于受眾或用戶則構(gòu)成了一個(gè)“技術(shù)黑箱”。[24]這樣的推送機(jī)制背后也滲透著利益先行的商業(yè)價(jià)值觀、公司自身的企業(yè)文化價(jià)值觀、算法設(shè)計(jì)團(tuán)隊(duì)對(duì)于人們偏好的認(rèn)知價(jià)值觀、政治經(jīng)濟(jì)等非技術(shù)力量等多層價(jià)值觀。[25]這不僅會(huì)對(duì)傳統(tǒng)的新聞價(jià)值觀形成嚴(yán)重挑戰(zhàn),還可能會(huì)在當(dāng)前的社會(huì)條件下產(chǎn)生算法審查、信息操控與平臺(tái)傾向,從而影響受眾態(tài)度。[26]此外,新聞把關(guān)權(quán)轉(zhuǎn)移與評(píng)價(jià)體系的透明化,還會(huì)在意識(shí)形態(tài)傳播方面面臨渠道轉(zhuǎn)移、話語(yǔ)更新、效果變化等一系列新問(wèn)題。[27]

    再次,在治理算法推送產(chǎn)生的倫理問(wèn)題方面,學(xué)者大多認(rèn)為“人機(jī)協(xié)同”將會(huì)是未來(lái)新聞生產(chǎn)的重要模式,也應(yīng)該是算法新聞倫理構(gòu)建中最重要的內(nèi)容[28]。效率不應(yīng)成為新聞分發(fā)平臺(tái)算法設(shè)計(jì)的唯一考慮,而需要承擔(dān)起社會(huì)環(huán)境監(jiān)測(cè)、社會(huì)整合和文化傳承等多種責(zé)任,[29]并將不作惡、不濫用的“向善”作為底線倫理,明確算法是非人類的“網(wǎng)絡(luò)行動(dòng)者”而非獨(dú)立的倫理行動(dòng)者,“人”才是算法新聞的責(zé)任主體。[30]在治理模式方面,有學(xué)者提出“算法—利益相關(guān)者”的協(xié)同治理模式,從技術(shù)圈層、社會(huì)圈層的角度探討不同利益相關(guān)者的協(xié)同治理方法;[31]還有學(xué)者從個(gè)體倫理層次、組織倫理層次和社會(huì)倫理層次厘清了具體道德行動(dòng)者的治理行動(dòng)領(lǐng)域[32]。目前,國(guó)內(nèi)對(duì)于算法推薦的治理方式主要包括:建立科學(xué)合理的算法推薦模型、建立頻道欄目分區(qū)分類管理機(jī)制、建立稿源分級(jí)分類規(guī)范機(jī)制、完善重要內(nèi)容人工審核機(jī)制、健全平臺(tái)技術(shù)監(jiān)測(cè)預(yù)警機(jī)制、建立優(yōu)質(zhì)正面內(nèi)容激勵(lì)機(jī)制、完善平臺(tái)推薦外部監(jiān)督機(jī)制、推動(dòng)個(gè)人信息保護(hù)制度化。[33]

    五、研究結(jié)論與展望

    (一)算法推薦研究熱點(diǎn)細(xì)化,深入研究趨勢(shì)明顯

    隨著時(shí)間的變化,算法推薦的研究領(lǐng)域不斷產(chǎn)生新的研究熱點(diǎn),且研究熱點(diǎn)不斷細(xì)化和深入。2010年至2013年,算法推薦的研究較少且大多集中在算法推薦概念和國(guó)外相關(guān)案例的討論上,鮮有針對(duì)國(guó)內(nèi)實(shí)際應(yīng)用的研究。而到了2014年,國(guó)內(nèi)人工智能和大數(shù)據(jù)等技術(shù)的突破性發(fā)展,使得算法推薦技術(shù)的大規(guī)模應(yīng)用成為可能,同時(shí)也引發(fā)了學(xué)者針對(duì)內(nèi)容生產(chǎn)與分發(fā)模式改變的熱烈討論。2017年到2018年,隨著“今日頭條”的上線,學(xué)界也迎來(lái)了對(duì)于算法推薦研究的高潮時(shí)期,不僅關(guān)注推薦算法和內(nèi)容分發(fā)平臺(tái)對(duì)于傳統(tǒng)新聞業(yè)的顛覆和改造,還將注意力放在因算法的廣泛使用而帶來(lái)的信息繭房等傳播效果以及更加深刻的算法倫理及其治理等諸多研究方向。綜上所述,目前我國(guó)的算法推薦研究呈現(xiàn)研究熱點(diǎn)細(xì)化,且研究不斷深入的明顯趨勢(shì)。

    (二)出現(xiàn)了以算法從業(yè)人員為研究對(duì)象的實(shí)證研究

    在收集到的文獻(xiàn)資料中,出現(xiàn)了以算法從業(yè)人員為案例的實(shí)證研究。在這些實(shí)證研究中,學(xué)者嚴(yán)三九與袁帆認(rèn)為新聞傳播領(lǐng)域的智能轉(zhuǎn)向促使諸如算法工程師等新主體參與到新聞生產(chǎn)、分發(fā)之中,因此將新聞分發(fā)平臺(tái)的算法工程師作為研究對(duì)象,運(yùn)用問(wèn)卷調(diào)查法考察了算法工程師對(duì)算法倫理問(wèn)題的了解程度、倫理問(wèn)題威脅性評(píng)估以及算法倫理問(wèn)題的改善傾向三方面。研究指出,大部分算法工程師對(duì)算法在新聞傳播領(lǐng)域引發(fā)的倫理問(wèn)題了解甚少,僅了解一些熱門事件,對(duì)倫理問(wèn)題的威脅性評(píng)估偏低且改善傾向整體偏于保守。該研究有別于在算法推薦研究領(lǐng)域中的其他大量質(zhì)化研究,采用實(shí)證研究方法考察算法從業(yè)人員在編寫算法的過(guò)程中所采取的行動(dòng),也為后來(lái)學(xué)者的研究提供了借鑒。

    (三)算法倫理及其規(guī)制研究將成為重要的研究熱點(diǎn)

    算法所構(gòu)筑的“技術(shù)黑箱”具有高度的隱蔽性,其中蘊(yùn)含著新聞分發(fā)平臺(tái)潛在的價(jià)值觀、偏見(jiàn)、導(dǎo)向以及其他不透明因素。為了打破算法黑箱,實(shí)現(xiàn)算法透明并規(guī)制算法權(quán)力,中國(guó)政府已經(jīng)采取了一系列有力措施。2017年,國(guó)務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》,出臺(tái)了一系列人工智能發(fā)展計(jì)劃,積極推動(dòng)人工智能產(chǎn)業(yè)健康發(fā)展;2019年,中國(guó)人工智能治理專業(yè)委員會(huì)發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》治理框架和行動(dòng)指南,以進(jìn)一步加強(qiáng)人工智能相關(guān)法律、倫理、標(biāo)準(zhǔn)和社會(huì)問(wèn)題研究。由此可見(jiàn),在國(guó)家相關(guān)政策的扶持下以及學(xué)界研究熱點(diǎn)不斷細(xì)化的背景下,學(xué)界對(duì)于算法治理方面的研究將不斷深入。

    (四)實(shí)證性及跨學(xué)科研究成果不足

    實(shí)證研究由于其資料收集的可靠性、認(rèn)識(shí)社會(huì)的廣泛性、研究結(jié)論的客觀性等優(yōu)勢(shì),以及其更接近學(xué)科科學(xué)化要求的研究范式和對(duì)科學(xué)的提倡,使實(shí)證主義范式成為主流范式,具有不可撼動(dòng)的學(xué)科地位。[34]然而在收集到的文獻(xiàn)中,實(shí)證量化研究的成果數(shù)量卻遠(yuǎn)不如質(zhì)化研究,少數(shù)學(xué)者在針對(duì)“信息繭房”的研究中對(duì)學(xué)界這種現(xiàn)象提出了批判。學(xué)者王茜指出,目前國(guó)內(nèi)學(xué)界有關(guān)算法分發(fā)的文獻(xiàn)以質(zhì)化研究居多,少量量化研究主要以個(gè)人觀察為主,容易受主觀因素的影響。[35]而這種主觀因素往往會(huì)導(dǎo)致學(xué)者對(duì)研究對(duì)象的誤判,從而造成學(xué)界在進(jìn)行大量研究的同時(shí)也存在著相當(dāng)?shù)恼`解,甚至產(chǎn)生實(shí)務(wù)界與學(xué)術(shù)界觀點(diǎn)大相徑庭的結(jié)果。[36]此外,在技術(shù)飛速發(fā)展的同時(shí),學(xué)界對(duì)于技術(shù)的討論卻處于相對(duì)被動(dòng)的滯后狀態(tài),較多的是針對(duì)目前主流技術(shù)的探討,而缺乏對(duì)新技術(shù)的預(yù)見(jiàn)與預(yù)判。有學(xué)者直言,傳統(tǒng)的科學(xué)理論、倫理觀和前沿的技術(shù)實(shí)踐之間的關(guān)系在不斷重構(gòu),由于技術(shù)和人文兩種文化之間的隔閡,前沿的技術(shù)倫理的討論存在一定滯后性。[37]“科林格里奇困境”也已經(jīng)指出了技術(shù)發(fā)展失控的風(fēng)險(xiǎn),即“當(dāng)不希望的后果被發(fā)現(xiàn)時(shí),技術(shù)卻往往已經(jīng)成為整個(gè)經(jīng)濟(jì)和社會(huì)結(jié)構(gòu)的一部分,以至于對(duì)它的控制十分困難”[38]。因此,如何在技術(shù)的發(fā)展中把握主動(dòng),進(jìn)行富有前瞻性的學(xué)術(shù)研究,成為學(xué)界急需克服的困難。

    [本文為國(guó)家社科基金重大項(xiàng)目“人工智能時(shí)代的新聞倫理與法規(guī)”(項(xiàng)目編號(hào)18ZDA308)的研究成果]

    參考文獻(xiàn):

    [1]夏德元.數(shù)字時(shí)代電子媒介人的崛起與出版新視界[J].學(xué)術(shù)月刊,2009,41(9):21-27.

    [2]陳悅,陳超美,劉則淵,胡志剛,王賢文.CiteSpace知識(shí)圖譜的方法論功能[J].科學(xué)學(xué)研究,2015,33(2):242-253.

    [3]李杰,陳超美.CiteSpace:科技文本挖掘及可視化[M].北京:首都經(jīng)濟(jì)貿(mào)易大學(xué)出版社,2016:78.

    [4]宋建武,黃淼.媒體智能化應(yīng)用:現(xiàn)狀、趨勢(shì)及路徑構(gòu)建[J].新聞與寫作,2018(4):5-10.

    [5]喻國(guó)明,蘭美娜,李瑋.智能化:未來(lái)傳播模式創(chuàng)新的核心邏輯——兼論“人工智能+媒體”的基本運(yùn)作范式[J].新聞與寫作,2017(3):41-45.

    [6]王娜,任婷.移動(dòng)社交網(wǎng)站中的信息過(guò)載與個(gè)性化推薦機(jī)制研究[J].情報(bào)雜志,2015,34(8):190-194+176.

    [7]喻國(guó)明,侯偉鵬,程雪梅.個(gè)性化新聞推送對(duì)新聞業(yè)務(wù)鏈的重塑[J].新聞?dòng)浾撸?017(3):9-13.

    [8]陳昌鳳,王宇琦.新聞聚合語(yǔ)境下新聞生產(chǎn)、分發(fā)渠道與內(nèi)容消費(fèi)的變革[J].中國(guó)出版,2017(12):3-7.

    [9]張瀟瀟.算法新聞個(gè)性化推薦的理念、意義及倫理風(fēng)險(xiǎn)[J].傳媒,2017(11):82-84.

    [10]邵征鋒.抖音傳播的特征、挑戰(zhàn)及未來(lái)發(fā)展趨勢(shì)探析[J].現(xiàn)代教育技術(shù),2018,28(12):80-86.

    [11]國(guó)秋華,孟巧麗.抖音的互動(dòng)儀式鏈與價(jià)值創(chuàng)造[J].中國(guó)編輯,2018(9):70-75.

    [12]于黎冰.從“今日頭條”看個(gè)性化新聞推薦系統(tǒng)的優(yōu)劣[J].傳媒,2016(19):44-45.

    [13]郝雨,李林霞.算法推送:信息私人定制的“個(gè)性化”圈套[J].新聞?dòng)浾撸?017(2):35-39.

    [14]倪萬(wàn),孫靜茹.推薦算法驅(qū)動(dòng)下“被動(dòng)”群體極化現(xiàn)象及消解[J].青年記者,2019(31):43-45.

    [15]喻國(guó)明,曲慧.“信息繭房”的誤讀與算法推送的必要:兼論內(nèi)容分發(fā)中社會(huì)倫理困境的解決之道[J].新疆師范大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),2020,41(1):127-133.

    [16]陳昌鳳,霍婕.權(quán)力遷移與人本精神:算法式新聞分發(fā)的技術(shù)倫理[J].新聞與寫作,2018(1):63-66.

    [17]劉運(yùn)來(lái).個(gè)性化推薦閱讀時(shí)代的編輯缺位及其影響[J].編輯之友,2017(9):76-79+90.

    [18]喻國(guó)明,楊瑩瑩,閆巧妹.算法即權(quán)力:算法范式在新聞傳播中的權(quán)力革命[J].編輯之友,2018(5):5-12.

    [19]史安斌,王沛楠.傳播權(quán)利的轉(zhuǎn)移與互聯(lián)網(wǎng)公共領(lǐng)域的“再封建化”:臉譜網(wǎng)進(jìn)軍新聞業(yè)的思考[J].新聞?dòng)浾撸?017(1):20-27.

    [20]陳昌鳳,石澤.技術(shù)與價(jià)值的理性交往:人工智能時(shí)代信息傳播——算法推薦中工具理性與價(jià)值理性的思考[J].新聞戰(zhàn)線,2017(17):71-74.

    [21]張藍(lán)姍,黃高原.算法推薦給媒介公共領(lǐng)域帶來(lái)的挑戰(zhàn)[J].當(dāng)代傳播,2019(3):31-33.

    [22]杜娟.走向人機(jī)協(xié)同:算法新聞時(shí)代的新聞倫理[J].新聞愛(ài)好者,2019(9):21-25.

    [23]Mager A. Algorithmic Ideology:How Capitalist Society Shapes Search Engines[J].Information,Communication & Society,2012,5(15).

    [24]張淑玲.破解黑箱:智媒時(shí)代的算法權(quán)力規(guī)制與透明實(shí)現(xiàn)機(jī)制[J].中國(guó)出版,2018(7):49-53.

    [25]陳昌鳳,霍婕.權(quán)力遷移與人本精神:算法式新聞分發(fā)的技術(shù)倫理[J].新聞與寫作,2018(1):63-66.

    [26]方師師.算法機(jī)制背后的新聞價(jià)值觀:圍繞“Facebook偏見(jiàn)門”事件的研究[J].新聞?dòng)浾撸?016(9):39-50.

    [27]張志安,湯敏.論算法推薦對(duì)主流意識(shí)形態(tài)傳播的影響[J].社會(huì)科學(xué)戰(zhàn)線,2018(10):174-182+2.

    [28]杜娟.走向人機(jī)協(xié)同:算法新聞時(shí)代的新聞倫理[J].新聞愛(ài)好者,2019(9):21-25.

    [29]彭蘭.智能時(shí)代的新內(nèi)容革命[J].國(guó)際新聞界,2018,40(6):88-109.

    [30]王仕勇,樊文波.向善向上:基于良性互動(dòng)的算法新聞治理倫理研究[J].重慶大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版),2021,27(2):225-236.

    [31]張超.社交平臺(tái)假新聞的算法治理:邏輯、局限與協(xié)同治理模式[J].新聞界,2019(11):19-28+99.

    [32]趙瑜.人工智能時(shí)代的新聞倫理:行動(dòng)與治理[J].人民論壇·學(xué)術(shù)前沿,2018(24):6-15.

    [33]方師師.算法如何重塑新聞業(yè):現(xiàn)狀、問(wèn)題與規(guī)制[J].新聞與寫作,2018(9):11-19.

    [34]實(shí)證研究的功效與局限[EB/OL].http://www.cssn.cn/shx/shx_bjtj/201404/t20140414_1065488.shtml.

    [35]王茜.論個(gè)性化信息推薦系統(tǒng)的運(yùn)作邏輯及影響[J].鄭州大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),2017,50(1):155-157.

    [36]喻國(guó)明,曲慧.“信息繭房”的誤讀與算法推送的必要:兼論內(nèi)容分發(fā)中社會(huì)倫理困境的解決之道[J].新疆師范大學(xué)學(xué)報(bào)(哲學(xué)社會(huì)科學(xué)版),2020,41(1):127-133.

    [37]陳昌鳳,霍婕.權(quán)力遷移與人本精神:算法式新聞分發(fā)的技術(shù)倫理[J].新聞與寫作,2018(1):63-66.

    [38]Collingridge D.The Social Control of Technology[M].New York:St.Martin's Press,1981.11.

    (丁睿豪為上海理工大學(xué)出版印刷與藝術(shù)設(shè)計(jì)學(xué)院碩士生;夏德元為上海理工大學(xué)出版印刷與藝術(shù)設(shè)計(jì)學(xué)院教授、互聯(lián)網(wǎng)與文化創(chuàng)意產(chǎn)業(yè)協(xié)同創(chuàng)新中心主任)

    編校:董方曉

    3911500338291

    猜你喜歡
    個(gè)性化推薦算法
    基于MapReduce的改進(jìn)Eclat算法
    Travellng thg World Full—time for Rree
    進(jìn)位加法的兩種算法
    算法初步兩點(diǎn)追蹤
    基于遠(yuǎn)程教育的個(gè)性化知識(shí)服務(wù)研究
    東方教育(2016年8期)2017-01-17 19:47:27
    基于增強(qiáng)隨機(jī)搜索的OECI-ELM算法
    基于鏈?zhǔn)酱鎯?chǔ)結(jié)構(gòu)的協(xié)同過(guò)濾推薦算法設(shè)計(jì)與實(shí)現(xiàn)
    個(gè)性化推薦系統(tǒng)關(guān)鍵算法探討
    基于協(xié)同過(guò)濾算法的個(gè)性化圖書(shū)推薦系統(tǒng)研究
    文本數(shù)據(jù)挖掘在電子商務(wù)網(wǎng)站個(gè)性化推薦中的應(yīng)用
    商(2016年34期)2016-11-24 16:28:51
    大香蕉97超碰在线| 亚洲精品一区蜜桃| 国产成人精品久久久久久| 99精国产麻豆久久婷婷| 国产精品久久久久久久电影| 少妇被粗大猛烈的视频| 日本爱情动作片www.在线观看| 狂野欧美激情性bbbbbb| 国产在线男女| 久久精品人妻少妇| 国产亚洲午夜精品一区二区久久 | 国产伦精品一区二区三区四那| 色网站视频免费| 久久久久精品久久久久真实原创| 免费观看性生交大片5| 狂野欧美白嫩少妇大欣赏| 天堂网av新在线| 最近中文字幕2019免费版| 又大又黄又爽视频免费| 性插视频无遮挡在线免费观看| 韩国av在线不卡| 国产淫语在线视频| 国内精品美女久久久久久| 99热网站在线观看| 午夜福利视频1000在线观看| 夜夜爽夜夜爽视频| 久久久久久九九精品二区国产| 亚洲综合色惰| 爱豆传媒免费全集在线观看| 亚洲自偷自拍三级| 国产黄a三级三级三级人| 王馨瑶露胸无遮挡在线观看| 99久久人妻综合| 欧美激情久久久久久爽电影| 国产一区二区三区av在线| 一级毛片 在线播放| 精品国产乱码久久久久久小说| 中国三级夫妇交换| 一级毛片我不卡| 99热这里只有精品一区| 在线天堂最新版资源| 免费av毛片视频| 大片免费播放器 马上看| 亚洲av不卡在线观看| 91狼人影院| 亚洲精品乱码久久久久久按摩| 亚洲国产精品专区欧美| 好男人视频免费观看在线| 国产爽快片一区二区三区| 天天一区二区日本电影三级| 五月伊人婷婷丁香| 九色成人免费人妻av| 国产黄片视频在线免费观看| 极品教师在线视频| 成人亚洲精品一区在线观看 | 亚洲怡红院男人天堂| 国产av国产精品国产| 欧美成人精品欧美一级黄| 伦精品一区二区三区| 日本与韩国留学比较| 中国国产av一级| 秋霞在线观看毛片| 日韩,欧美,国产一区二区三区| 亚洲自拍偷在线| 久久久精品94久久精品| 一级av片app| 色5月婷婷丁香| 国产黄频视频在线观看| 午夜福利视频精品| 午夜精品一区二区三区免费看| 三级国产精品欧美在线观看| 精品久久久久久久久av| 国产69精品久久久久777片| 熟女av电影| 蜜臀久久99精品久久宅男| 嫩草影院精品99| 色视频www国产| 亚洲性久久影院| 亚洲精品,欧美精品| 免费大片18禁| 99久久人妻综合| 大陆偷拍与自拍| 国产精品久久久久久精品电影| 亚洲va在线va天堂va国产| videos熟女内射| 色婷婷久久久亚洲欧美| 黄色欧美视频在线观看| freevideosex欧美| 69人妻影院| 国产爽快片一区二区三区| 人人妻人人澡人人爽人人夜夜| 国产精品秋霞免费鲁丝片| 王馨瑶露胸无遮挡在线观看| 一级毛片aaaaaa免费看小| 国内少妇人妻偷人精品xxx网站| 日本猛色少妇xxxxx猛交久久| 国产美女午夜福利| 成人欧美大片| 久久国产乱子免费精品| 午夜老司机福利剧场| 婷婷色av中文字幕| 成人午夜精彩视频在线观看| 夫妻性生交免费视频一级片| 哪个播放器可以免费观看大片| 看非洲黑人一级黄片| av黄色大香蕉| 尤物成人国产欧美一区二区三区| 国产成人一区二区在线| av网站免费在线观看视频| 深夜a级毛片| 国国产精品蜜臀av免费| 春色校园在线视频观看| 天堂俺去俺来也www色官网| 成人鲁丝片一二三区免费| 在线观看人妻少妇| 国产精品人妻久久久久久| 国产精品.久久久| 久久热精品热| 亚洲伊人久久精品综合| 青春草亚洲视频在线观看| 男人爽女人下面视频在线观看| 国产精品久久久久久精品古装| 欧美97在线视频| 日韩人妻高清精品专区| av在线播放精品| 极品少妇高潮喷水抽搐| 国产黄色免费在线视频| 国产黄片视频在线免费观看| 精品久久久噜噜| 中文字幕av成人在线电影| 国产高清国产精品国产三级 | 毛片女人毛片| 女的被弄到高潮叫床怎么办| 看黄色毛片网站| 一级毛片黄色毛片免费观看视频| 国产精品偷伦视频观看了| 激情 狠狠 欧美| 国产一级毛片在线| 亚洲色图av天堂| 亚洲自偷自拍三级| 亚洲成人一二三区av| 99久久九九国产精品国产免费| 菩萨蛮人人尽说江南好唐韦庄| 亚洲va在线va天堂va国产| 成人欧美大片| 26uuu在线亚洲综合色| 美女内射精品一级片tv| 国产成人午夜福利电影在线观看| 久久久久久久久大av| 在线免费十八禁| 国产伦精品一区二区三区四那| 国产午夜精品久久久久久一区二区三区| av国产精品久久久久影院| 国产大屁股一区二区在线视频| 我的老师免费观看完整版| 久久久精品欧美日韩精品| 国产爽快片一区二区三区| 亚洲欧美一区二区三区黑人 | 人妻夜夜爽99麻豆av| 日本wwww免费看| 亚洲精品久久午夜乱码| 青春草国产在线视频| 看十八女毛片水多多多| 久久久精品94久久精品| 国产爽快片一区二区三区| 国产成人精品久久久久久| 国产精品精品国产色婷婷| 蜜桃久久精品国产亚洲av| 午夜免费鲁丝| 精华霜和精华液先用哪个| 嫩草影院精品99| 免费黄色在线免费观看| 人人妻人人看人人澡| 欧美日韩视频精品一区| 少妇裸体淫交视频免费看高清| 亚洲欧美清纯卡通| 成人一区二区视频在线观看| 成年女人看的毛片在线观看| 99久久中文字幕三级久久日本| 女人十人毛片免费观看3o分钟| 亚洲欧美日韩另类电影网站 | 蜜桃久久精品国产亚洲av| 免费av不卡在线播放| 26uuu在线亚洲综合色| 国产成人a∨麻豆精品| av黄色大香蕉| 伦理电影大哥的女人| 日韩中字成人| 亚洲色图综合在线观看| 中文字幕人妻熟人妻熟丝袜美| 三级国产精品欧美在线观看| 成人国产av品久久久| 国产探花极品一区二区| 日韩制服骚丝袜av| 亚洲精品影视一区二区三区av| 免费黄网站久久成人精品| 国产熟女欧美一区二区| 最近最新中文字幕大全电影3| 午夜福利高清视频| 嫩草影院精品99| 亚洲人成网站在线播| 高清午夜精品一区二区三区| 男女边吃奶边做爰视频| 乱系列少妇在线播放| 成年av动漫网址| 日日摸夜夜添夜夜添av毛片| 国产精品成人在线| 一本久久精品| 欧美+日韩+精品| 亚洲国产精品专区欧美| 亚洲精品第二区| 三级男女做爰猛烈吃奶摸视频| a级毛片免费高清观看在线播放| 99热这里只有精品一区| 国产午夜精品久久久久久一区二区三区| 最后的刺客免费高清国语| 国产又色又爽无遮挡免| 大码成人一级视频| 日日啪夜夜爽| 亚洲成人中文字幕在线播放| 99热全是精品| 国产免费一级a男人的天堂| 91在线精品国自产拍蜜月| 午夜精品一区二区三区免费看| 亚洲成人中文字幕在线播放| 日韩一区二区三区影片| 国产av码专区亚洲av| 舔av片在线| 在线观看人妻少妇| 搡女人真爽免费视频火全软件| 97精品久久久久久久久久精品| av天堂中文字幕网| 久久精品久久精品一区二区三区| 亚洲精品一二三| 18禁裸乳无遮挡动漫免费视频 | 亚洲怡红院男人天堂| 午夜激情福利司机影院| .国产精品久久| 中国国产av一级| 亚洲人成网站高清观看| 国产精品秋霞免费鲁丝片| 韩国av在线不卡| av.在线天堂| 黄色怎么调成土黄色| 久久精品熟女亚洲av麻豆精品| 日韩精品有码人妻一区| 女人被狂操c到高潮| 麻豆久久精品国产亚洲av| 欧美激情在线99| 中文字幕免费在线视频6| 少妇高潮的动态图| 男女国产视频网站| 国产v大片淫在线免费观看| h日本视频在线播放| 嫩草影院精品99| 99热这里只有是精品50| 日日撸夜夜添| 精品99又大又爽又粗少妇毛片| 国产黄色免费在线视频| 国产精品99久久99久久久不卡 | 亚洲人与动物交配视频| 免费观看在线日韩| 久久久久性生活片| 我的老师免费观看完整版| av卡一久久| 久久久欧美国产精品| 18禁裸乳无遮挡动漫免费视频 | 自拍欧美九色日韩亚洲蝌蚪91 | 狂野欧美激情性bbbbbb| av.在线天堂| 日日摸夜夜添夜夜爱| 国产成人午夜福利电影在线观看| 黑人高潮一二区| 蜜桃久久精品国产亚洲av| 国产精品偷伦视频观看了| 国产淫片久久久久久久久| 网址你懂的国产日韩在线| 亚洲精品国产av成人精品| 精品久久久噜噜| 草草在线视频免费看| 亚洲欧美一区二区三区国产| 欧美精品一区二区大全| 亚洲精品日本国产第一区| av福利片在线观看| 国产成人a∨麻豆精品| 人人妻人人爽人人添夜夜欢视频 | 午夜日本视频在线| 最近2019中文字幕mv第一页| 国产高潮美女av| 王馨瑶露胸无遮挡在线观看| 一个人看的www免费观看视频| 一级毛片久久久久久久久女| 日韩成人伦理影院| 中国国产av一级| 亚洲丝袜综合中文字幕| 爱豆传媒免费全集在线观看| 最近最新中文字幕大全电影3| 欧美bdsm另类| 久久久久久久大尺度免费视频| av在线观看视频网站免费| 亚洲欧美中文字幕日韩二区| 国内精品美女久久久久久| videossex国产| 黄色一级大片看看| 丝袜美腿在线中文| 伦理电影大哥的女人| 少妇裸体淫交视频免费看高清| 80岁老熟妇乱子伦牲交| 一级a做视频免费观看| 乱码一卡2卡4卡精品| 少妇被粗大猛烈的视频| 亚洲av不卡在线观看| 中文欧美无线码| 亚洲精品成人av观看孕妇| 国产高潮美女av| 99久国产av精品国产电影| 久久久久久久久久人人人人人人| 欧美成人一区二区免费高清观看| 三级经典国产精品| 毛片一级片免费看久久久久| 精品酒店卫生间| 午夜免费鲁丝| 国产一区二区三区综合在线观看 | 成人二区视频| 精品人妻视频免费看| 少妇 在线观看| 男的添女的下面高潮视频| 在现免费观看毛片| 午夜福利网站1000一区二区三区| 国产片特级美女逼逼视频| 一级毛片黄色毛片免费观看视频| 最近手机中文字幕大全| 亚洲第一区二区三区不卡| 最后的刺客免费高清国语| 人人妻人人澡人人爽人人夜夜| 久久6这里有精品| 亚洲在久久综合| 搡老乐熟女国产| 国产精品国产av在线观看| 国产亚洲午夜精品一区二区久久 | 久久久久久久精品精品| 天天一区二区日本电影三级| 日日摸夜夜添夜夜爱| 国产成人freesex在线| 美女xxoo啪啪120秒动态图| 午夜免费观看性视频| 国产国拍精品亚洲av在线观看| 乱码一卡2卡4卡精品| 美女国产视频在线观看| videos熟女内射| 国产成人91sexporn| 亚洲美女搞黄在线观看| 亚洲美女视频黄频| 精品一区二区三区视频在线| 三级国产精品欧美在线观看| 午夜爱爱视频在线播放| 亚洲精品日韩在线中文字幕| 国产亚洲一区二区精品| 日本午夜av视频| 香蕉精品网在线| 日本色播在线视频| 晚上一个人看的免费电影| 国产 一区精品| 美女视频免费永久观看网站| 日韩伦理黄色片| 国产欧美日韩一区二区三区在线 | 大又大粗又爽又黄少妇毛片口| 精品一区二区三卡| 一级a做视频免费观看| 可以在线观看毛片的网站| 久久久国产一区二区| 大又大粗又爽又黄少妇毛片口| 大码成人一级视频| 可以在线观看毛片的网站| 麻豆国产97在线/欧美| 秋霞伦理黄片| 在线观看国产h片| 午夜免费男女啪啪视频观看| 美女xxoo啪啪120秒动态图| 亚洲性久久影院| 综合色丁香网| 亚洲,欧美,日韩| 麻豆国产97在线/欧美| 国产日韩欧美亚洲二区| 汤姆久久久久久久影院中文字幕| 好男人视频免费观看在线| 欧美老熟妇乱子伦牲交| 精品午夜福利在线看| 亚洲美女搞黄在线观看| 久久精品人妻少妇| 毛片一级片免费看久久久久| 国产成人午夜福利电影在线观看| 免费电影在线观看免费观看| 国产精品久久久久久久久免| 欧美精品一区二区大全| 国内精品宾馆在线| 午夜福利高清视频| 成年免费大片在线观看| 亚洲成人中文字幕在线播放| 久久精品国产a三级三级三级| 国产精品av视频在线免费观看| 久久精品国产鲁丝片午夜精品| 国产精品一及| 欧美97在线视频| 男女边吃奶边做爰视频| 人妻一区二区av| av在线播放精品| 亚洲成色77777| 插阴视频在线观看视频| 国产精品一区二区性色av| 乱系列少妇在线播放| 久久久午夜欧美精品| 欧美丝袜亚洲另类| 看非洲黑人一级黄片| 久久精品国产a三级三级三级| av免费在线看不卡| av专区在线播放| 久久ye,这里只有精品| 国产精品99久久久久久久久| 亚洲高清免费不卡视频| 三级国产精品欧美在线观看| 秋霞在线观看毛片| 精品国产乱码久久久久久小说| 直男gayav资源| 国产欧美另类精品又又久久亚洲欧美| 人妻 亚洲 视频| 偷拍熟女少妇极品色| 欧美激情久久久久久爽电影| 日韩免费高清中文字幕av| 亚洲av日韩在线播放| 久久精品夜色国产| 婷婷色综合大香蕉| 日日啪夜夜爽| 一级片'在线观看视频| 久热这里只有精品99| 美女xxoo啪啪120秒动态图| 欧美激情久久久久久爽电影| 高清欧美精品videossex| 男的添女的下面高潮视频| a级毛色黄片| 少妇被粗大猛烈的视频| 日本一本二区三区精品| 久久精品综合一区二区三区| 亚洲,欧美,日韩| 国产成人a∨麻豆精品| 国产精品久久久久久久电影| 狂野欧美白嫩少妇大欣赏| 亚洲成人精品中文字幕电影| 久久精品国产a三级三级三级| 国产一区亚洲一区在线观看| 亚洲精品一二三| 亚洲,一卡二卡三卡| 伦理电影大哥的女人| 秋霞伦理黄片| 亚洲国产av新网站| 晚上一个人看的免费电影| 只有这里有精品99| 亚洲欧美一区二区三区国产| 欧美xxⅹ黑人| 国语对白做爰xxxⅹ性视频网站| 三级经典国产精品| 亚洲精品久久午夜乱码| 18+在线观看网站| 男女边吃奶边做爰视频| 男女无遮挡免费网站观看| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 亚洲三级黄色毛片| 色吧在线观看| 亚洲美女搞黄在线观看| 黄片wwwwww| 久久久久久久大尺度免费视频| av免费观看日本| 极品教师在线视频| 亚洲成人精品中文字幕电影| 麻豆乱淫一区二区| 大陆偷拍与自拍| 街头女战士在线观看网站| 少妇被粗大猛烈的视频| 美女高潮的动态| 精品人妻视频免费看| 免费看av在线观看网站| 97人妻精品一区二区三区麻豆| 18禁动态无遮挡网站| 国产一区二区在线观看日韩| 国产91av在线免费观看| 少妇人妻一区二区三区视频| 久久精品夜色国产| 日韩一本色道免费dvd| 日本一二三区视频观看| 国产精品久久久久久久电影| 一级毛片我不卡| 欧美区成人在线视频| 搡女人真爽免费视频火全软件| 女的被弄到高潮叫床怎么办| 国产一区二区三区av在线| 免费看av在线观看网站| 中文欧美无线码| 欧美丝袜亚洲另类| 日韩人妻高清精品专区| 狂野欧美激情性bbbbbb| 国内少妇人妻偷人精品xxx网站| 在线 av 中文字幕| 国产精品久久久久久久电影| 97热精品久久久久久| 欧美最新免费一区二区三区| 午夜福利视频精品| 亚洲经典国产精华液单| 毛片一级片免费看久久久久| 三级经典国产精品| 国产成人a∨麻豆精品| 天堂中文最新版在线下载 | 国产成人freesex在线| 久久国内精品自在自线图片| 国产午夜精品久久久久久一区二区三区| 97在线人人人人妻| 中国国产av一级| 成人亚洲欧美一区二区av| 少妇 在线观看| 国产精品av视频在线免费观看| 午夜免费观看性视频| 69av精品久久久久久| 日韩欧美 国产精品| 男人狂女人下面高潮的视频| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 亚洲国产精品专区欧美| 欧美高清成人免费视频www| 久久午夜福利片| freevideosex欧美| 极品少妇高潮喷水抽搐| 啦啦啦在线观看免费高清www| 美女被艹到高潮喷水动态| 综合色av麻豆| 在线精品无人区一区二区三 | 亚洲aⅴ乱码一区二区在线播放| 国产成人精品福利久久| 毛片一级片免费看久久久久| 在线a可以看的网站| 亚洲综合精品二区| 午夜福利在线观看免费完整高清在| 精品一区二区三区视频在线| 好男人视频免费观看在线| 亚洲精品日韩在线中文字幕| 精品人妻一区二区三区麻豆| 在线观看国产h片| 在线天堂最新版资源| 韩国高清视频一区二区三区| 日韩三级伦理在线观看| 国产一区二区三区综合在线观看 | 99久久精品一区二区三区| 男男h啪啪无遮挡| 精品人妻偷拍中文字幕| 久久精品国产鲁丝片午夜精品| 狂野欧美激情性xxxx在线观看| 99精国产麻豆久久婷婷| 热re99久久精品国产66热6| 日韩大片免费观看网站| 国产伦在线观看视频一区| 亚洲av免费高清在线观看| 国产精品偷伦视频观看了| 国产成人精品一,二区| 一区二区三区四区激情视频| 日韩人妻高清精品专区| 又爽又黄a免费视频| 99九九线精品视频在线观看视频| 午夜福利在线观看免费完整高清在| 国产v大片淫在线免费观看| 少妇的逼好多水| 亚洲经典国产精华液单| 99热这里只有是精品在线观看| 成人国产麻豆网| 亚洲精华国产精华液的使用体验| 婷婷色综合www| av国产免费在线观看| 免费人成在线观看视频色| 国产成人免费无遮挡视频| 婷婷色麻豆天堂久久| 真实男女啪啪啪动态图| 久久99热这里只频精品6学生| 成人毛片a级毛片在线播放| 久久精品国产a三级三级三级| 一级二级三级毛片免费看| 日本-黄色视频高清免费观看| 国产精品伦人一区二区| 精品久久国产蜜桃| 最近中文字幕2019免费版| 一级av片app| 国产精品三级大全| 精品国产露脸久久av麻豆| 国产精品久久久久久久久免| 国国产精品蜜臀av免费| 国产成人freesex在线| 午夜老司机福利剧场| 国产乱人视频| 久热久热在线精品观看| 日本wwww免费看| 亚洲三级黄色毛片| 亚洲av电影在线观看一区二区三区 | 成年版毛片免费区| 日本欧美国产在线视频| 亚洲一区二区三区欧美精品 | 日韩中字成人| 秋霞伦理黄片| 国产在视频线精品| 少妇丰满av| 亚洲国产精品999| 成年人午夜在线观看视频| 亚洲av成人精品一二三区| 亚洲性久久影院| 熟女人妻精品中文字幕| 我的女老师完整版在线观看| 久久精品国产亚洲av涩爱| 国产淫片久久久久久久久| 亚洲av男天堂| 免费大片黄手机在线观看| 麻豆精品久久久久久蜜桃|