• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    西方社交網(wǎng)絡(luò)的政治極化與算法傳播的角色反思

    2018-12-08 09:29:26全燕
    社會科學(xué) 2018年10期
    關(guān)鍵詞:社交網(wǎng)絡(luò)民粹主義

    全燕

    摘 要:近幾年西方政治極化與社交網(wǎng)絡(luò)的選擇性親和關(guān)系日趨明顯,政治極化呈現(xiàn)出一系列新變化,并在算法傳播的推波助瀾下有泛濫網(wǎng)絡(luò)之勢。西方政治極化表現(xiàn)在社交網(wǎng)絡(luò)上是種族民粹主義的傳播和民粹政治、情感政治的崛起。其原因首先是主流媒體信譽下降為社交網(wǎng)絡(luò)崛起提供契機,而算法傳播在其中扮演了助推器的角色,它促成網(wǎng)絡(luò)集群的聚合,算法的個性化定制也為組織化政治操縱提供便利渠道。規(guī)避社交網(wǎng)絡(luò)政治極化的風(fēng)險需要加強網(wǎng)絡(luò)民主建設(shè),調(diào)整算法設(shè)計以利于民主協(xié)商的過程,同時通過提高算法透明度和可審核性的努力,使算法傳播在改善西方網(wǎng)絡(luò)政治極端對立問題上發(fā)揮積極作用。

    關(guān)鍵詞:政治極化;社交網(wǎng)絡(luò);民粹主義;算法傳播

    中圖分類號:G206.3 文獻標(biāo)識碼:A 文章編號:0257-5833(2018)10-0183-09

    政治極化(political polarization)在西方民主政治研究中是一個核心關(guān)鍵詞,指的是政治態(tài)度上的極端意識形態(tài)分歧。極化作為一種狀態(tài),描述了就某一問題、政策、立場與特定黨派或意識形態(tài)分歧方形成最大值的對立程度。①2016年美國總統(tǒng)大選和英國退歐全民公決,包括其他西方多國同時出現(xiàn)的多元民粹政治的興起,使得政治極化現(xiàn)象的討論再一次受到廣泛關(guān)注。接二連三的政治黑天鵝事件一再表明當(dāng)今西方主流國家在政治上分歧更大,社會團體在思想上相互對立更明顯。人們越來越傾向于聚集到志同道合,并且往往是半孤立的同質(zhì)群體中,這些群體在很多情況下都會轉(zhuǎn)移到政治領(lǐng)域的更極端方面。

    隨著全球政治越來越多地被兩極化立場所標(biāo)記,一個日趨凸顯的問題是存在于政治極化與社交網(wǎng)絡(luò)之間的馬克思·韋伯意義上的選擇性親和關(guān)系(elective affinity)。這二者并非互為因果,但是會相互影響和改變。社交網(wǎng)絡(luò)和政治極化之間的這種匹配來自于算法傳播為政治極化提供了一個合適的渠道。從更深一層次來看,這種伙伴關(guān)系還需要從意識形態(tài)的角度來理解。在西方,當(dāng)快速的網(wǎng)絡(luò)技術(shù)發(fā)展與深刻的經(jīng)濟危機同時發(fā)生,動搖新自由主義秩序合法性的時候,帶有民粹性質(zhì)的極化政治敘事就會與社交網(wǎng)絡(luò)聯(lián)系在一起。

    一方面,社交網(wǎng)絡(luò)被設(shè)計成普通人可以表達自我的平臺,為民粹主義運動提供了一個合適的場所;另一方面,嵌入在算法架構(gòu)的“過濾泡沫”效應(yīng)能讓心懷不滿的個體找到彼此并形成網(wǎng)絡(luò)群體,這些群體為網(wǎng)絡(luò)政治極化和網(wǎng)絡(luò)民粹主義的滋長提供了激進的支持。那么西方社交網(wǎng)絡(luò)和政治極化的選擇性親和關(guān)系如何呈現(xiàn)?算法傳播在其中起到了什么作用?如何干預(yù)算法以規(guī)避極化風(fēng)險?這些都是本研究需要回答和解決的問題。

    一、社交網(wǎng)絡(luò)算法傳播下西方政治極化現(xiàn)象的新表征

    如果要捕捉西方網(wǎng)絡(luò)政治極化潮流的邏輯本質(zhì),并探究當(dāng)前算法背景下政治極化的表現(xiàn)形式,我們首先需要超越在主流評論家中普遍流行的對政治極化的簡化理解。政治學(xué)家通常區(qū)分兩種政治極化:精英極化(elite polarization)和大眾極化(popular polarization)。精英極化指的是政治精英的兩極分化,比如政黨組織者和民選官員的兩級分化;而大眾極化指的是選民和公眾的兩極分化。但在社交網(wǎng)絡(luò)算法傳播的背景之下,這種簡單劃分已然不能涵蓋政治極化的新動態(tài)、新現(xiàn)象、新表征。與傳統(tǒng)政治極化中雙方綱領(lǐng)性議題和立場的對立有所不同,社交網(wǎng)絡(luò)上的政治極化帶有明顯的網(wǎng)絡(luò)群體極化的特征,實質(zhì)是網(wǎng)絡(luò)“暴民”對現(xiàn)實政治的越界與反叛。一方面,主導(dǎo)社交網(wǎng)絡(luò)的高度個人主義導(dǎo)致了網(wǎng)民原子化,非常有利于民粹主義運動集中融合網(wǎng)絡(luò)人群中的原子化個體;另一方面,智能算法幫助西方帶有民粹色彩的政治候選人通過過濾泡沫加劇制造意識形態(tài)的兩極分化,促進互聯(lián)網(wǎng)民粹模因的傳播,促使具有單邊極化色彩的虛假新聞擴散,使網(wǎng)絡(luò)政治極化帶有了民粹主義和民族主義色彩。散布在社交網(wǎng)絡(luò)中的有各種不滿情緒的原子化個體被算法重新捏合成為一個新的政治團體,一個具有民粹傾向的網(wǎng)絡(luò)極群,并和現(xiàn)實中的黨派斗爭、政治競選、極端化民族民主運動等裹挾在一起,呈現(xiàn)出新的極化表征。

    西方網(wǎng)絡(luò)政治極化的首要表征是互聯(lián)網(wǎng)的種族民粹主義被編入算法程序,并迅速推動了白人至上主義、仇外言論、激進主義等在整個西方世界的傳播。社交網(wǎng)絡(luò)和算法傳播為近兩年西方各國左右兩翼民粹主義運動或黑馬候選人所利用,煽動起一個又一個始自網(wǎng)絡(luò),波及世界政壇的極化政治風(fēng)潮。以美國為例,曾經(jīng)在歷史學(xué)家雷福德·洛根(Rayford Logan)眼中,吉姆·克勞法案(Jim Crow laws)中的種族隔離制度使1877至1920年的美國種族關(guān)系成為歷史最低點,而我們看到近年來美國社交網(wǎng)絡(luò)極化勢力的興起,則很可能意味著美國種族關(guān)系第二個最低點的開始。CNN時事評論員范·瓊斯就將2016年美國大選稱為“白人對抗”(Whitelash),他認(rèn)為這才是白人選民真正的政治反彈。不過這次的不同之處在于“白人對抗”在算法上被放大、被加速,并通過社交網(wǎng)絡(luò)傳播,掀起了世界各地的其他有政治極化傾向的網(wǎng)絡(luò)民族主義運動風(fēng)潮。

    新馬克思主義者厄尼斯特·拉克勞(Ernesto Laclau)認(rèn)為民粹主義是一種政治邏輯,它涉及整個政治共同體對共同的敵人,特別是對政治精英的反抗。Laclau, E., On Populist Reason. London: Verso, 2005 , p.30.這種統(tǒng)一的訴求可以根據(jù)某一特定運動的政治傾向而采取不同的形式。例如在民粹主義右翼,它傾向于采取高度排外的形式,從而使人民反對移民、少數(shù)民族和宗教少數(shù)派;在左翼民粹主義陣營中,人民的團結(jié)是通過反對不道德的特權(quán)而建立起來的,而這種特權(quán)是由貪婪的銀行家、流氓企業(yè)家和被指控剝削普通民眾的腐敗政客所體現(xiàn)出來的。Gerbaudo, P, Screti, F., “Reclaiming popular sovereignty: the vision of the state in the discourse of Podemos and the Movimento 5 Stelle”. Javnost: The Public, Vol.22, no.4, 2017, pp.320–335.這兩種民粹主義邏輯都在社交網(wǎng)絡(luò)上找到了一個有利的空間。我們可從近兩年西方政治選舉中代表民粹勢力的候選人來看,除了善于操縱社交網(wǎng)絡(luò),代表白人利益的美國共和黨領(lǐng)導(dǎo)人唐納德·特朗普之外,還有幫助投票離開歐盟的英國獨立黨前領(lǐng)導(dǎo)人奈杰爾·法拉格、法國極右翼“國民陣線”領(lǐng)袖馬林·勒龐、意大利右翼五星運動黨黨首狄馬歐、美國民主社會主義左翼領(lǐng)袖伯尼·桑德斯、西班牙左翼公民政黨Podemos的領(lǐng)導(dǎo)人巴勃羅·伊格萊西亞斯,以及英國工黨激進左翼領(lǐng)袖杰里米·科爾賓等,這些或左或右的多元民粹政治領(lǐng)袖都在各自國家的大選中,在社交網(wǎng)絡(luò)上有著令人印象深刻的表現(xiàn)。

    與各國政治領(lǐng)袖的極端政治主張相對應(yīng),社交網(wǎng)絡(luò)的平民政治極化同樣也爆發(fā)出不可小覷的破壞力。另類右翼(AltRight)就是一種主要在互聯(lián)網(wǎng)上宣傳極端保守觀點的平民極化政治運動。近年來美國另類右翼勢力的崛起既是一個經(jīng)歷了幾個世紀(jì)的種族主義的延續(xù),也是一個由算法驅(qū)動的新興政治傳播體系的一部分。2017年夏末的一個晚上,數(shù)百名極右翼者聚集在弗吉尼亞州的夏諾茨維爾,用tiki火炬為美國南北戰(zhàn)爭時期的南方聯(lián)盟總司令羅伯特·李的雕像(此雕像被認(rèn)為是奴隸制、白人至上主義的象征)辯護。這一集會被稱為“團結(jié)右翼”的集會,主要是在網(wǎng)上組織的。夏洛茨維爾事件也被認(rèn)為是美國白人民族主義極化運動通過算法傳播實現(xiàn)線下行動的開始。夏洛茨維爾集會后,特朗普重復(fù)著白人民族主義者的言論,并為美國建國奴隸主的雕像辯護。這當(dāng)然不是首位在任總統(tǒng)在白宮橢圓形辦公室公開宣揚白人至上主義,但這是第一次,白人至上的極端意識形態(tài)通過搜索引擎和社交網(wǎng)絡(luò)平臺的算法傳播,使互聯(lián)網(wǎng)成為美國另類右翼勢力集結(jié)的策源地。其實早在2008年,社交網(wǎng)絡(luò)平臺及其算法就開始改變白人民族主義者使用網(wǎng)絡(luò)的方式。算法為那些尋求種族主義觀念認(rèn)同,并企圖將新人連接到種族主義人群的人提供搜索結(jié)果,例如谷歌算法就可以提供種族主義網(wǎng)站和其他社區(qū),精準(zhǔn)投放到相應(yīng)人群中以確認(rèn)和發(fā)展他們的共同仇恨。算法加速了美國白人至上主義意識形態(tài)的傳播,就像“青蛙佩佩”(Pepe the Frog)這樣的在美國總統(tǒng)大選期間遭到右翼團體濫用的卡通人物形象,它的模因一度從4chan或Reddit等非主流網(wǎng)站流向主流新聞網(wǎng)站,就是通過算法技術(shù)進行挪移、放大、擴散,最終成為網(wǎng)絡(luò)極化政治話語的替身。

    算法加速種族或民粹主義在網(wǎng)絡(luò)的泛濫,導(dǎo)致了民粹政治、情感政治成為西方網(wǎng)絡(luò)政治極化的又一個表征。民粹政治在西方社交網(wǎng)絡(luò)的崛起,對新自由主義秩序和全球化都構(gòu)成了極大挑戰(zhàn)。或左或右的政治派別追求的是完全不同的社會愿景,卻似乎具有共同的特征:反對建制派,反對新自由主義意識形態(tài)的關(guān)鍵原則,以及代表普通人的政治主張。民粹政治的基礎(chǔ)在于算法鼓勵下個人主義文化極端盛行,并令人驚訝地成為了網(wǎng)絡(luò)政治極化的口號和武器。Nagle, A., Kill All Normies: Online Culture Wars from 4Chan and Tumblr to Trump and the AltRight. Alresford: Zero Books, 2017, p.112.PageRank是谷歌用于標(biāo)識網(wǎng)頁的等級/重要性的一種方法,是網(wǎng)頁排名的算法,也曾是谷歌發(fā)家致富的法寶。谷歌的工程師們利用這一“民主”——數(shù)億人在谷歌上搜索集合而成巨大質(zhì)量的數(shù)據(jù)來支持它的算法。這一切使得算法文化聽起來似乎是個人主義和民主公共文化的最終成就,然而正如美國《連線》雜志在2010年所解釋的那樣,PageRank被認(rèn)為是將極端個人主義納入搜索引擎的一種方式,即由數(shù)百萬人的民主決定了在網(wǎng)絡(luò)上鏈接什么,而這恰是形成網(wǎng)絡(luò)民粹政治的土壤。

    情感政治源自網(wǎng)絡(luò)中算法對網(wǎng)民情感的捕捉和預(yù)測,算法主導(dǎo)的情感控制極有可能促成社會控制手段的一種突變。目前社會理論仍在尋找足夠的詞匯來描述當(dāng)下的這一進程。研究者們嘗試使用“認(rèn)知資本主義”(cognitive capitalism)Braidotti, R., The posthuman. Malden, MA: Polity Press, 2013, p.67.、“情緒資本主義”(emotional capitalism)Illousz, E., Cold intimacies: The making of emotional capitalism. Malden, MA: Polity Press, 2007, p.234-240.、“交際資本主義”(communicative capitalism)Dean, J., Affective networks. MediaTropes, 2010, p.19-44.和“情感資本主義”(affective capitalism)Karppi, T., Khknen, L., Mannevuo, M., Pajala, M., Sihvonen, T.,“Affective capitalism: Investments and investigations”. Ephemera: Theory & Politics in Organization, Vol.16, no.9, 2016, pp.1-13.等來描述算法影響情感的能力如何轉(zhuǎn)化為資產(chǎn)、商品、服務(wù)和管理等。而情感政治就是算法影響下出現(xiàn)在社交網(wǎng)絡(luò)中令人矚目的政治現(xiàn)象。在網(wǎng)絡(luò)的世界里,意義和表征不再是政治的唯一主要領(lǐng)域,身體、感覺、情感也成為政治觀點不可簡化的核心。在政治表達異?;钴S的社交網(wǎng)絡(luò)中,算法技術(shù)的精準(zhǔn)投放使人們認(rèn)知到相異觀點的幾率嚴(yán)重下降,盡管基于事實的理性分析對每個人都有吸引力,但人們依然要尋求支持他們情感世界觀的東西,而這完全不利于團結(jié)一個有分歧的社會。

    2014年臉書的研究人員在一份學(xué)術(shù)期刊上發(fā)表了一篇研究報告,承認(rèn)故意操縱用戶的新聞信息,以顯示更多或更少的積極情緒。他們發(fā)現(xiàn),當(dāng)向人們展示消極信息時,人們更有可能發(fā)布自己的負面信息,反之亦然,最后的結(jié)果清晰表明網(wǎng)絡(luò)上的情緒感染是真實的。臉書的研究證明了一個事實,在一個數(shù)字化的環(huán)境中,算法作為一種指導(dǎo)和約束注意力的精確方法,可以輕易操縱人們的情緒。研究者發(fā)現(xiàn),算法引發(fā)意識形態(tài)導(dǎo)向的假新聞泛濫,導(dǎo)致了“真相游戲”(truth games),且只在一定程度上吸引意識形態(tài)“過濾泡沫”,并沒有準(zhǔn)確而客觀地報道事實,從而瓦解了政治的權(quán)威和嚴(yán)肅性。Harsin, J., “Regimes of post truth, post politics, and attention economies”. Communication, Culture & Critique,Vol.46, no.2, 2015, pp. 327-333.如果進一步將情緒操控與算法使用直接運用在選民身上,就可以發(fā)現(xiàn)這種大數(shù)據(jù)算法驅(qū)動情感的極端化行為已經(jīng)成為西方政治選舉的另類煽動形式。

    情感政治的典型案例是美國特朗普時代的崛起。美國大選中的特朗普利用智能算法操控社交網(wǎng)絡(luò),在支持者中發(fā)起精心打造的“讓美國再次偉大”的反體制運動,最終實現(xiàn)了他對最高權(quán)力階層的嘗試。特朗普競選團隊利用美國白人工人階級中存在的明顯反建制情緒,基于社交網(wǎng)絡(luò)所謂的反映許多潛在選民的視角,制造極端情緒化的政治對立認(rèn)同,創(chuàng)造了一場情感政治的選舉奇觀。他本人拒絕接受主流媒體的監(jiān)督批評,利用公眾對主流媒體的敵意,大肆推行他的“推特治國”方略。他的推文往往充滿情緒的煽動性,經(jīng)常以充滿情感色彩的感嘆詞結(jié)尾,比如“Sad!”“Very Sad!”“So Sad!”“Bad!”“Be Honest!”“I Will Fix It!”等,以喚起狂熱的互聯(lián)網(wǎng)人群,網(wǎng)羅了不少情感選票。

    二、政治極化與社交網(wǎng)絡(luò)選擇性親和的原因及算法扮演的角色

    研究者認(rèn)為,西方社交網(wǎng)絡(luò)提供了一個讓人有機會傳播政治極化主題的場所,比如強調(diào)人民的主權(quán)、排外排異、攻擊精英等,這些與網(wǎng)絡(luò)的平民話語有天然的親近性。Engesser, S, Ernst, N, Esser, F.,“Populism and social media: how politicians spread a fragmented ideology”. Information, Communication & Society, Vol.20, no.7, 2017, pp.1109–1126.并且社交網(wǎng)絡(luò)的交互功能和算法架構(gòu)中的非正式投票系統(tǒng)也提供了一種手段,進一步推動極化的公民意見。Gerbaudo, P., Populism 2.0. In: Trottier, D, Fuchs, C (eds) Social Media, Politics and the State: Protests, Revolutions, Riots, Crime and Policing in the Age of Facebook, Twitter and YouTube. New York: Routledge, 2014, pp. 67-87.例如具有民粹主義運動性質(zhì)的意大利五星運動和西班牙Podemos運動都是利用社交網(wǎng)絡(luò)和算法傳播,提出了自下而上的人民主權(quán)恢復(fù)的極端政治訴求。但上述研究仍未對社交網(wǎng)絡(luò),特別是算法傳播與政治極化之間密切關(guān)系的緣由做出令人信服的解釋。事實上,這一選擇性親和關(guān)系乍一看似乎確實難以有合乎邏輯的解釋。首先,民粹、群體極化一直被認(rèn)為是落后和極端社會的典型代表,例如美國的土地民粹主義和拉丁美洲的城市民粹主義等,相反,社交網(wǎng)絡(luò)和算法技術(shù)是先進的高科技社會的象征,從而使它們與民粹、極化之間的親和關(guān)系并不協(xié)調(diào)。其次,社交網(wǎng)絡(luò)通常被視為高度個人主義的表現(xiàn),算法推薦也是高度自動化的精準(zhǔn)傳播,因此更符合新自由主義及互聯(lián)網(wǎng)精神對個人自主性和自發(fā)性的崇拜,而不是導(dǎo)向政治極化的社群主義精神。但當(dāng)我們深入分析會發(fā)現(xiàn),當(dāng)代民粹主義和政治極化是一個動蕩時代的產(chǎn)物,一方面是資本主義深刻的經(jīng)濟危機,它影響著大部分人口,使他們的生活條件顯著惡化;另一方面,快速和高度顛覆性的技術(shù)創(chuàng)新重新定義了人們交流的方式和工作生活的組織方式。尤其是社交網(wǎng)絡(luò)的崛起和算法傳播的盛行,一方面沖擊了主流媒體的權(quán)威地位,另一方面為個人表達和先前被邊緣化的選民提供了渠道。這兩種趨勢的結(jié)合為網(wǎng)絡(luò)政治極化提供了一個出口,吸引了大量有政治不滿情緒的網(wǎng)民(同時也是選民)。

    1.主流媒體信譽下降與社交網(wǎng)絡(luò)崛起,為網(wǎng)絡(luò)政治極化提供土壤

    如果說社交網(wǎng)絡(luò)為政治極化提供了一個合適的渠道,那么其首先是成為人們了反對主流新聞媒體的武器。研究者認(rèn)為,Web 2.0的實現(xiàn)使社交網(wǎng)絡(luò)成為普通人直接表達自己并選擇性接觸信息的平臺,從而繞開傳統(tǒng)媒體和記者以及所有其他“不必要的調(diào)解者”(unnecessary mediators)。Nagle, A., Kill All Normies: Online Culture Wars from 4Chan and Tumblr to Trump and the AltRight. Alresford: Zero Books, 2017, pp.56-62.但這個敘述顯然是有問題的,不僅僅是因為社交網(wǎng)絡(luò)總體上是一個商業(yè)化網(wǎng)絡(luò),而且在西方,社交網(wǎng)絡(luò)已經(jīng)被谷歌和臉書等龐大的資本主義公司迅速控制,他們利潤驅(qū)動的議程其實與普通民眾的利益并無關(guān)聯(lián)。然而不可否認(rèn)的是,社交網(wǎng)絡(luò)在平民中的崇高聲譽確實需要與西方主流新聞媒體受到的批評相結(jié)合來理解。自經(jīng)濟危機以來,美國主流新聞媒體經(jīng)歷了相當(dāng)程度的信任下降。根據(jù)皮尤研究中心的數(shù)據(jù),只有18%的美國人對主流新聞機構(gòu)還持有相當(dāng)信任感。雖然主流媒體對攻擊其權(quán)威性的反擊是譴責(zé)這部分人乃政治非理性和民粹主義的表現(xiàn),但實際現(xiàn)實是公眾對老牌媒體的反感源于他們在預(yù)測2008年全球金融危機時的失敗,這一事件讓媒體扮演了“不吠的看門狗”(the watchdog that didnt bark)的角色。Starkman, D., The Watchdog That Didnt Bark: The Financial Crisis and the Disappearance of Investigative Journalism. New York: Columbia University Press, 2014, pp.213-219.越來越多的普通人開始認(rèn)為主流媒體是超級富豪和他們的政治盟友的代理人,而不是代表公眾的真實需求和利益。意大利馬克思主義者安東尼奧·葛蘭西(Antonio Gramsci)曾用“權(quán)威危機”(crisis of authority)來描述在兩次世界大戰(zhàn)期間教會和其他傳統(tǒng)機構(gòu)的合法性喪失。而今天,主流媒體也正在面臨這樣的“權(quán)威危機”。

    這種對主流媒體的不信任,在很大程度上解釋了為什么主流媒體面對來自唐納德·特朗普和杰里米·科爾賓(英國工黨激進左翼領(lǐng)袖)等民粹主義政客的猛烈抨擊時,往往顯得無所適從,反而讓這些攻擊行為為民粹政客贏得了英勇的、反建制的、特立獨行的名聲。此外,它還解釋了為什么特朗普如此輕易地將輿論對他利用假新聞網(wǎng)站的指控,轉(zhuǎn)移到主流媒體身上,并譴責(zé)主流媒體如CNN就是假新聞的代言人?;凇爸髁髅襟w不希望你知道真相”的說服,活躍在社交網(wǎng)絡(luò)中的極化行為往往表現(xiàn)為攻擊主流媒體倡導(dǎo)的政治正確和專家權(quán)威。英國退歐倡導(dǎo)者邁克爾·戈夫曾公開表示,英國人在電視辯論中“厭倦了聽取專家的意見”,更愿意通過社交網(wǎng)絡(luò)尋找持另類觀點的同伴和群體。當(dāng)然更經(jīng)常被抨擊的不是所謂專業(yè)知識,而是過去30年主導(dǎo)世界政治的自由市場意識形態(tài),即“新自由主義學(xué)說”。

    2.算法傳播促成網(wǎng)絡(luò)極群的聚合,形成政治極化的基礎(chǔ)

    網(wǎng)絡(luò)政治極化氣候的形成歸根結(jié)底與網(wǎng)絡(luò)極化人群的聚合有密切關(guān)聯(lián),算法傳播在其中起到了聚合的作用。社交網(wǎng)絡(luò)時代網(wǎng)絡(luò)人群的政治和社會話語出現(xiàn)驚人的復(fù)興,研究者發(fā)現(xiàn)在線極化群體的形式多種多樣,例如“眾包”(crowdsourcing)、“眾籌”(crowdfunding)或“群體智慧”(wisdom of crowds)等,Surowiecki, J., The Wisdom of Crowds, New York: Anchor, 2005, pp.99-105.而這些群體的形成是由社交網(wǎng)絡(luò)的算法和其綜合能力構(gòu)成的。

    首先算法的“過濾泡沫”效應(yīng)能夠?qū)⒂脩舻淖⒁饬性诜掀渑d趣的內(nèi)容上。算法會將用戶置于一個個泡沫中,他或她只會看到與以前的消費或搜索行為相匹配的信息。這些算法的目標(biāo)和功能能夠針對不同個體,使他們對某些項目的訪問比其他項目更容易獲得。這種“關(guān)注過濾”有可能促進公眾輿論的兩極分化,因為它控制了用戶對符合其現(xiàn)有意識形態(tài)立場內(nèi)容的注意力,同時將它們與其他觀點隔離開來。這種過濾泡沫趨勢的系統(tǒng)性政治影響令人擔(dān)憂,它們可能加劇政治的兩級分化。從形成政治極化的基礎(chǔ)來看,過濾泡沫可以起到人群動員的作用,有利于形成網(wǎng)絡(luò)極化群體。

    算法傳播的另一個促成網(wǎng)絡(luò)極化群體形成的因素是所謂的“網(wǎng)絡(luò)效應(yīng)”,它有使高度連接的節(jié)點變得更加緊密的趨勢。例如時間軸算法就可以立即推薦流行內(nèi)容,這些文章在發(fā)表后幾秒鐘或幾分鐘內(nèi)就能吸引大量關(guān)注。臉書頁面的管理員Kullena Khaled說這在2011年的埃及革命中起到了關(guān)鍵作用,他認(rèn)為這種影響導(dǎo)致了一種“暴民”傾向,更多的眼球?qū)D(zhuǎn)向聳人聽聞的內(nèi)容。Gardels, N.,“Wael Ghonim: we have a duty to use our social media power to speak the truth”. The World Post, Vol.32, no.6, 2016, p.43.這也許可以解釋為什么特朗普通過他的個人推特帳戶的荒唐宣傳,卻能成功吸引大量的公眾關(guān)注,前提就是算法技術(shù)往往能將公眾的視線從更嚴(yán)肅更客觀的內(nèi)容中轉(zhuǎn)移出去。

    應(yīng)該說,研究者描述的社交網(wǎng)絡(luò)的極化傾向并不一定會導(dǎo)致聳人聽聞的后果,但卻可以為漸進的政治極化目的服務(wù)。社交媒體算法中固有的焦點和聚合機制為民粹主義運動聚合網(wǎng)絡(luò)上高度分化的原子人提供了一種合適的工具。正如英國政治理論家埃內(nèi)斯托·拉克勞(Ernesto Laclau)所指出的,民粹主義運動利用“空洞的能指”(empty signifier),允許在單個平臺和活動中融合不同的需求。Laclau, E., On Populist Reason, London: Verso, 2005, pp.251-255.他們試圖克服網(wǎng)絡(luò)人群人們的階級和身份的線上分散的劣勢,讓人們意識到他們其實擁有共同的利益和共同的敵人。算法能夠使正常信息與帶極化內(nèi)容的信息獲得不成比例的可見度,而后者可以使民粹主義模因獲得病毒式傳播,數(shù)以百萬的有不滿情緒的個人(或者被剝奪了共同的組織聯(lián)系)因此聚集在一起,成為網(wǎng)絡(luò)的極化群體,使政治的單邊極化趨勢愈演愈烈。

    3.算法的個性化定制導(dǎo)致選擇性曝光,便于組織化的政治操縱

    2017年美國某機構(gòu)關(guān)于算法策略對社交網(wǎng)絡(luò)服務(wù)影響的研究設(shè)計了一項實驗,該實驗的目的是檢測可定制技術(shù)下的系統(tǒng)驅(qū)動與用戶驅(qū)動這二者在用戶點擊次數(shù)上是否有顯著差異;另外花在閱讀相同態(tài)度上的政治文章,是否比花在閱讀相悖態(tài)度的政治文章的時間有所增加。經(jīng)驗結(jié)果表明,算法定制性技術(shù)在個人意識形態(tài)傾向方面上顯著增加了選擇性曝光。該研究的最終結(jié)論是:由于算法自動化和不顯眼的操作,可定制技術(shù)在減少與避免人們在面對挑戰(zhàn)性信息產(chǎn)生認(rèn)知失調(diào)方面特別有效。與此同時,結(jié)論顯示系統(tǒng)驅(qū)動的可定制性(例如臉書信息流的算法)對用戶信息選擇性接觸的影響,比用戶自我驅(qū)動更強。Dylko I, Dolgov I, Hoffman W, et al., “The dark side of technology: an experimental investigation of the influence of customizability technology on online political selective exposure”. Computer in Human Behavior, Vol.73, no.11, 2017, pp.181-190.顯然算法的個性化定制帶來的選擇性曝光即是一種便于組織化操縱的引發(fā)意識形態(tài)兩極分化的技術(shù)方式。

    英國作家喬治·蒙博(George Monbiot)曾在《衛(wèi)報》撰文指出一家名為劍橋分析公司(Cambridge Analytica)的機構(gòu)利用算法操縱政治的做法,該公司部分股份為美國億萬富翁羅伯特·默瑟(Robert Mercer)所持有。蒙博質(zhì)疑這家公司利用背后財閥的力量,幫助美國大選和英國公投,從臉書中挖掘數(shù)據(jù),運用算法結(jié)合數(shù)據(jù)創(chuàng)建用戶個人資料,預(yù)測人們的性格和政治傾向,然后根據(jù)他們的心理特征量身定制廣告和帶有極化色彩的假新聞并進行靶向投放。盡管蒙博披露此事的說法遭到該公司的極力否認(rèn),但英國隱私監(jiān)管機構(gòu)——信息專員辦公室認(rèn)為有足夠的理由發(fā)起調(diào)查,而且正在這么做。由此可見,在西方普舉制的環(huán)境中,尤其在政治權(quán)力和影響力不均衡的情況下(比如競選籌資的多寡和媒體聯(lián)盟的導(dǎo)向),假新聞、機器人水軍、虛假的在線賬戶都會被算法創(chuàng)造出來以支持某種政治立場,網(wǎng)絡(luò)政治的兩級分化也就在這個過程中被生產(chǎn)、被激發(fā)。

    由于選擇性曝光,不同的觀點意見會在同質(zhì)化群體天然正義的壓制中迅速喪失話語權(quán)利,個人意見讓位于群體思維。算法鼓動同質(zhì)化群體的思維走向更加極端,甚至?xí)鲆曌阋宰C明他們的觀點錯誤的事實,并在整體上呈現(xiàn)出“自我延續(xù),自我加強的社會分化狀態(tài)”。Bishop B., The Big Sort: Why The Clustering of Likeminded America is Tearing Us Apart, New York: Mariner Books.2008, pp.36-40.(Bishop,2008)這不僅導(dǎo)致公眾討論的建設(shè)性變差,而且導(dǎo)致在一個社會中人們對自己的支持者持絕對正面的看法,對政治領(lǐng)域另一方的人會持非常消極的看法。算法有效過濾人們的在線體驗,識別人們的情感特征,將人們置于自身所熟悉的回聲室中,是造成兩極分化的原因,也是假新聞日益增多的關(guān)鍵因素。假新聞以社交網(wǎng)絡(luò)為集散地,聲稱自己才是真實的新聞來源,以謠言或公然的謊言為內(nèi)容物,故意傳播不準(zhǔn)確的消息。據(jù)研究,美國大選中大約62%的美國成年人選擇從社交網(wǎng)絡(luò)獲得新聞,在這段時間里,最受歡迎的假新聞算法推送遠比主流媒體報道要多得多。其中網(wǎng)民在臉書上分享的假新聞大大傾向于特朗普,共有115篇贊成特朗普的假新聞被共享3000萬次,41篇贊成希拉里的文章只共享了760萬次。Allcott H, Gentzkow M., “Social Media and Fake News in the 2016 Election”. Journal of Economic Perspectives, Vol.14, no. 2, 2017, pp. 211-236.可見算法成就的假新聞泛濫深刻影響了網(wǎng)絡(luò)民主的走向,更多是導(dǎo)向了民粹政治和極化政治。

    三、網(wǎng)絡(luò)政治極化的風(fēng)險規(guī)避與算法干預(yù)思考

    政治極化與社交網(wǎng)絡(luò)的選擇性親和關(guān)系表明,社交網(wǎng)絡(luò)的底層敘事所主導(dǎo)的價值取向與主流制度政治的主要特征(制度主義、形式理性、全球化等)背道而馳,社交網(wǎng)絡(luò)因其平民底色,更傾向于支持那些毫不隱晦的民粹主義話語和政治極化運動,也更容易被民粹和極化政治團體所利用。在這個過程中,算法傳播利用數(shù)字文化中固有的對權(quán)威和精英文化的懷疑,為網(wǎng)絡(luò)政治極化推波助瀾。

    在社交網(wǎng)絡(luò)平臺上,規(guī)避政治極化的風(fēng)險需要我們從網(wǎng)絡(luò)民主建設(shè)和算法干預(yù)的雙重角度進行思考。網(wǎng)絡(luò)民主建設(shè)是網(wǎng)絡(luò)政治走向良性發(fā)展的必經(jīng)之路,也是避免網(wǎng)絡(luò)政治極化的有效途徑。網(wǎng)絡(luò)民主的突出特征是多元性、開放性和討論性,網(wǎng)絡(luò)民主建設(shè)必須順應(yīng)網(wǎng)絡(luò)作為民主公共領(lǐng)域的這些典型特征。當(dāng)代著名政治哲學(xué)家查特爾·墨菲(Chantal Mouffe)在接受《政治學(xué)》雜志采訪時被問到如何界定民主,她回答:“當(dāng)我們承認(rèn)每一個共識都可能是霸權(quán)的暫時結(jié)果時,我們就應(yīng)該設(shè)想民主公共領(lǐng)域的性質(zhì),以期改變權(quán)力的運作方式。而這就是為什么一個多元民主的公共領(lǐng)域需要為不同意見和可以表現(xiàn)的制度留出空間的原因。它(民主公共領(lǐng)域)的生存取決于圍繞明顯多極立場所形成的開放討論,以及在多種選擇之間進行選擇的可能性?!盋astle, D., “Hearts, Minds and Radical Democracy.”Red Pepper, no.1,1998, Accessed December 4, 2014.墨菲的思想對我們的啟示在于,當(dāng)我們希望建設(shè)網(wǎng)絡(luò)民主,規(guī)避網(wǎng)絡(luò)政治極化的風(fēng)險時,首先需要考慮如何將網(wǎng)絡(luò)環(huán)境真正培育成多元民主的公共領(lǐng)域。用倡導(dǎo)多元民主論的美國政治理論家威廉·康諾利(William E. Connolly)的話來說,“我們需要促進尊重不同道德來源的多重選區(qū),這至少會提供在‘真正的選擇之間進行選擇的機會”Connolly, W., Why I Am Not A Secularist. Minneapolis: University of Minnesota Press, 1999, pp.14-16.。

    鑒于網(wǎng)絡(luò)環(huán)境下的算法傳播致力于個性化定制和目標(biāo)用戶的靶向投送,極容易忽視向用戶提供多元選擇的機會,當(dāng)被網(wǎng)絡(luò)民主主義和民粹主義利用后,也極易導(dǎo)向觀點和態(tài)度的單邊極化。如何改變這一現(xiàn)狀?如果我們的算法設(shè)計能采用協(xié)商民主的范式,照顧到多元政治主體的話語表達,那么它就會假定網(wǎng)絡(luò)政治是一個具有理性辯論和新興共識立場的辯證統(tǒng)一體。這樣的設(shè)計邏輯強調(diào)算法決策的制定應(yīng)始終是一個比賽,一個從通常對立的角度進行選擇的比賽。作為一種技術(shù)競爭的精神存在,算法應(yīng)該承擔(dān)永久的爭論,并且承認(rèn)爭論并不會導(dǎo)向極化。我們不妨從具體設(shè)計的角度重新思考這個問題:如何展示算法競爭的復(fù)雜性?一種方式可以是采用維基百科的“查看歷史”的模式,在這個模式下,即使刪除了內(nèi)容之后,后臺對內(nèi)容價值的爭論仍然可見。我們設(shè)想在谷歌、臉書、推特等平臺上,在政治立場、態(tài)度、觀點方面出現(xiàn)分歧的地方也可以采用這種方式。這至少提供了一個基于自由選擇的不同途徑,而不是重回令人失望的算法導(dǎo)向單一意識形態(tài)的困境。以此類推,為了有效避免假新聞的問題,我們還可以考慮“引入隨機的新聞故事,并確保用戶接觸到高質(zhì)量的信息,這將是一種簡單且健康的社交媒體平臺的算法調(diào)整”。Howard ,P., Is Social Media Killing Democracy? Oxford Internet Institute, 2016, pp.178-182.

    更進一步來看,如果假定一種新的算法設(shè)計給我們提供了新的知識邏輯,那么就要考慮這種知識邏輯背后呈現(xiàn)的價值觀。不同的算法設(shè)計是不同利益群體的代理,很多時候必須在沖突的數(shù)據(jù)對象之間進行選擇,也就是對價值觀的取舍。避免極化就必須認(rèn)識到不同觀點和對立價值觀的作用,就需要接受研究者稱之為“共同的游戲規(guī)則”,以及沖突和博弈是“無限的過程”的觀點。(David Howarth 2008)同時必須明白算法從根本上說是制度治理和互聯(lián)網(wǎng)知識生產(chǎn)的參與者,算法的設(shè)計需要民主正當(dāng)化其過程,例如采取以利益相關(guān)者的參與形式開放源代碼,民主化算法的設(shè)計過程或公共認(rèn)證等。Orwat C, Raabe O, Buchmann E, et al., “Software als Institution und ihre Gestaltbarkeit”. Informatik_Spektrum Vol.22, no.6, 2010, pp. 626-633.(Orwat,et al,2010)而提高算法和數(shù)據(jù)的透明度或可審核性的努力是基于這樣的假設(shè):獲取源代碼,哪怕是獲取用于培訓(xùn)機器學(xué)習(xí)模型的數(shù)據(jù)源代碼,都可以輔助我們了解在系統(tǒng)中是否存在政治偏見的問題。Diakopoulos, N., Algorithmic?Accountability Reporting: On the Investigation of Black Boxes, New York,NY: Columbia Journalism School, Tow Center for Digital Journalism, 2014, pp. 354-357.雖然描述算法的每一個流程、條件、資格和例外情況等問題不太可能被公眾全部理解,但通過形式公正的方式揭示算法是如何工作的,也就能在一定程度上印證“揭示信息處理實踐的方式對引導(dǎo)個人做出政治選擇是具有重要意義的”Nissenbaum H., “From preemption to circumvention: if technology regulates, why do we need regulation and vice versa”. Berkeley Technology Law Journal, Vol.26, no. 7, 2011, pp.1367-1386.。

    四、結(jié) 語

    美國批判社會學(xué)家丹尼爾·貝爾(Daniel Bell)等人曾在上世紀(jì)六十年代判斷說,西方世界傳統(tǒng)的意識形態(tài)分裂正在消退,政治的兩極分化正在結(jié)束,市民政治學(xué)可能會取代意識形態(tài)政治學(xué)。但爾后的批評家們認(rèn)為貝爾的“意識形態(tài)的終結(jié)論”帶著歷史的后見之明,更像是一種幻想,而不是現(xiàn)實。他們進一步論證后物質(zhì)時代的到來使西方公眾再度極化,刺激環(huán)境問題、性別平等和生活方式選擇等方面產(chǎn)生新的沖突。Dalton RJ., “Social modernization and the end of ideology debate: patterns of ideological polarization”. Japanese Journal of Political Science, Vol. 35, no.7, 2006, pp. 1-22.其導(dǎo)致的結(jié)果是“越來越不能容忍政治分歧,導(dǎo)致全國性共識不可能;政治如此分化,選舉不再只是政治競爭,而是生活方式之間的艱難選擇”Bishop B., The Big Sort: Why The Clustering of Likeminded America is Tearing Us Apart. New York: Mariner Books,2008, pp.329-331.。近兩年內(nèi)西方政壇的風(fēng)云動蕩也在證明政治極化的確沒有消失,而且在社交網(wǎng)絡(luò)的背景下呈現(xiàn)出新的表現(xiàn)形態(tài)和生成原因。把脈當(dāng)下西方網(wǎng)絡(luò)政治極化問題的實質(zhì),就需要將西方最新民粹潮流與社交網(wǎng)絡(luò)的算法傳播走向結(jié)合起來考察,揭示算法冷機制背后的人和政治的操控和選擇。

    我們同時也注意到,西方主流政治陣營的領(lǐng)導(dǎo)者有時也會利用社交網(wǎng)絡(luò)制造出一種進步的民粹形象以拉攏網(wǎng)民,從而導(dǎo)致像法國總統(tǒng)埃馬紐埃爾·馬克龍和意大利總理馬泰奧·倫齊這樣具有精明頭腦的“建制民粹主義者”誕生。另外,西班牙Podemos黨所倡導(dǎo)的左翼民粹主義倡導(dǎo)解決不平等和腐敗問題,英國工黨領(lǐng)袖杰瑞米·柯柏恩和美國左翼領(lǐng)袖伯尼·桑德斯也都有類似進步的民粹主張,他們或?qū)⒃谖磥砦鞣秸胃窬终碱I(lǐng)上風(fēng)。那么未來社交網(wǎng)絡(luò)的算法選擇是否只會偏向目前處于領(lǐng)先地位的特朗普這樣的右翼民粹主義者,還是會傾向于以解放人民姿態(tài)出現(xiàn)的左翼民粹主義形式,我們尚不得而知。但可以肯定的是,社交網(wǎng)絡(luò)將繼續(xù)成為未來幾年建制和反建制陣營之間極端化沖突的中心舞臺。

    然而無論網(wǎng)絡(luò)政治極化在社交網(wǎng)絡(luò)上的表現(xiàn)形態(tài)如何變化,所帶來的最大威脅始終在于其導(dǎo)致的網(wǎng)絡(luò)群體政治聯(lián)盟對多元民主的極大破壞。我們由探究網(wǎng)絡(luò)政治極化與社交網(wǎng)絡(luò)算法傳播之間的關(guān)系,進而提出通過干預(yù)算法傳播達到控制網(wǎng)絡(luò)政治極化的設(shè)想,也是試圖開啟西方網(wǎng)絡(luò)政治傳播研究的一個新面向。而這條研究理路依然需要結(jié)合西方現(xiàn)實政治的發(fā)展和網(wǎng)絡(luò)政治的變化,不斷進行后續(xù)研究的開拓和深挖。

    (責(zé)任編輯:李亦婷 瀟湘子)

    猜你喜歡
    社交網(wǎng)絡(luò)民粹主義
    網(wǎng)絡(luò)民粹主義對高校大學(xué)生的消極影響
    民粹主義研究的概念泛化問題及其辨正
    西方民粹主義專題研究
    黨政研究(2017年6期)2017-11-27 08:36:39
    大數(shù)據(jù)時代社交網(wǎng)絡(luò)個人信息安全問題研究
    社交網(wǎng)絡(luò)中的隱私關(guān)注及隱私保護研究綜述
    基于圖片分享為核心的社交網(wǎng)絡(luò)應(yīng)用分析
    戲劇之家(2016年19期)2016-10-31 19:44:28
    社交網(wǎng)絡(luò)自拍文化的心理解讀
    新聞前哨(2016年10期)2016-10-31 17:46:44
    新民粹主義:中東歐政治現(xiàn)象的解讀
    關(guān)于李大釗與民粹主義關(guān)系的辨析——重讀《青年與農(nóng)村》
    一種巴洛克式的民粹主義藝術(shù)
    雕塑(1999年3期)1999-06-23 07:32:12
    亚洲av不卡在线观看| 亚洲性久久影院| 色网站视频免费| 欧美日韩视频精品一区| av一本久久久久| 免费观看的影片在线观看| 在线观看www视频免费| 大又大粗又爽又黄少妇毛片口| 五月开心婷婷网| 国产精品无大码| 自拍欧美九色日韩亚洲蝌蚪91| 91久久精品国产一区二区成人| 99热全是精品| 久久久精品免费免费高清| 亚洲av二区三区四区| 伊人亚洲综合成人网| 亚洲天堂av无毛| 多毛熟女@视频| 国产老妇伦熟女老妇高清| 免费看av在线观看网站| 精品人妻熟女毛片av久久网站| 蜜臀久久99精品久久宅男| 大片电影免费在线观看免费| 色婷婷久久久亚洲欧美| av专区在线播放| 成年人免费黄色播放视频| 免费人妻精品一区二区三区视频| 黑人欧美特级aaaaaa片| 婷婷成人精品国产| h视频一区二区三区| 精品国产一区二区三区久久久樱花| 国产国语露脸激情在线看| 国产视频首页在线观看| 国产亚洲一区二区精品| 热99久久久久精品小说推荐| 国产精品偷伦视频观看了| 91久久精品国产一区二区三区| 插阴视频在线观看视频| 国产高清三级在线| 插逼视频在线观看| 精品久久蜜臀av无| 简卡轻食公司| 免费人成在线观看视频色| 国产精品久久久久久久电影| 亚洲综合色网址| 插阴视频在线观看视频| 青春草视频在线免费观看| 午夜福利在线观看免费完整高清在| 亚洲国产精品专区欧美| 高清欧美精品videossex| 精品亚洲乱码少妇综合久久| 欧美三级亚洲精品| 最近最新中文字幕免费大全7| 国产高清有码在线观看视频| 少妇的逼水好多| 人人妻人人澡人人爽人人夜夜| 日韩人妻高清精品专区| 免费av中文字幕在线| 久久久久网色| 丝袜喷水一区| 国产熟女欧美一区二区| 99热国产这里只有精品6| 黑人欧美特级aaaaaa片| 韩国av在线不卡| 大又大粗又爽又黄少妇毛片口| 日本黄大片高清| 国产精品秋霞免费鲁丝片| 免费观看无遮挡的男女| 乱码一卡2卡4卡精品| 亚洲在久久综合| 成人手机av| 国产男女内射视频| 国产亚洲一区二区精品| 久久婷婷青草| 亚洲欧美精品自产自拍| 日韩av免费高清视频| 五月天丁香电影| 黄色欧美视频在线观看| 18在线观看网站| 久久久久人妻精品一区果冻| 中文字幕精品免费在线观看视频 | 成人免费观看视频高清| 大话2 男鬼变身卡| 婷婷色综合大香蕉| 伦理电影免费视频| 能在线免费看毛片的网站| 18禁观看日本| 97超碰精品成人国产| 91久久精品电影网| 99热网站在线观看| 日日摸夜夜添夜夜爱| 国产日韩欧美视频二区| 精品视频人人做人人爽| 亚洲第一区二区三区不卡| 亚洲国产av新网站| 午夜免费鲁丝| 亚洲四区av| 午夜影院在线不卡| 99精国产麻豆久久婷婷| 99热国产这里只有精品6| 亚洲av电影在线观看一区二区三区| 美女内射精品一级片tv| 午夜激情av网站| 国产精品久久久久久久久免| 又黄又爽又刺激的免费视频.| kizo精华| 欧美最新免费一区二区三区| 午夜日本视频在线| 欧美人与性动交α欧美精品济南到 | 成人亚洲欧美一区二区av| 母亲3免费完整高清在线观看 | 香蕉精品网在线| 久久久欧美国产精品| 成人手机av| 亚洲欧美日韩卡通动漫| av在线app专区| 天堂中文最新版在线下载| 一边亲一边摸免费视频| 丝袜在线中文字幕| 久久人妻熟女aⅴ| 夫妻午夜视频| 国产爽快片一区二区三区| 夫妻性生交免费视频一级片| 一边亲一边摸免费视频| 欧美日韩亚洲高清精品| 成年美女黄网站色视频大全免费 | 看免费成人av毛片| 中国三级夫妇交换| 国产视频内射| 精品国产一区二区三区久久久樱花| 亚洲综合色网址| 一边摸一边做爽爽视频免费| 亚洲经典国产精华液单| 亚洲内射少妇av| 日本黄色片子视频| 色网站视频免费| 2018国产大陆天天弄谢| 丰满饥渴人妻一区二区三| www.av在线官网国产| 亚洲av男天堂| 国产亚洲一区二区精品| 九九在线视频观看精品| 国产高清国产精品国产三级| 久久久久久久久久久丰满| 寂寞人妻少妇视频99o| 免费av中文字幕在线| 999精品在线视频| 色94色欧美一区二区| 亚洲精品乱久久久久久| 青春草国产在线视频| av有码第一页| a级毛片免费高清观看在线播放| 欧美3d第一页| 满18在线观看网站| 最近中文字幕高清免费大全6| 精品亚洲乱码少妇综合久久| av在线观看视频网站免费| 日日爽夜夜爽网站| 日韩欧美一区视频在线观看| 欧美日韩视频精品一区| 久久国内精品自在自线图片| 久久毛片免费看一区二区三区| 哪个播放器可以免费观看大片| 能在线免费看毛片的网站| h视频一区二区三区| 欧美日韩视频精品一区| a 毛片基地| 91精品三级在线观看| 桃花免费在线播放| 亚洲精品456在线播放app| 日韩熟女老妇一区二区性免费视频| 久久久久久久久大av| 丝袜脚勾引网站| 精品少妇黑人巨大在线播放| 精品久久国产蜜桃| 十八禁高潮呻吟视频| 亚洲av欧美aⅴ国产| 搡老乐熟女国产| 99热这里只有精品一区| 人成视频在线观看免费观看| 美女内射精品一级片tv| 国产毛片在线视频| 久久久久久伊人网av| 免费黄色在线免费观看| 99国产综合亚洲精品| 51国产日韩欧美| 午夜福利,免费看| 精品一区二区免费观看| 亚洲精品中文字幕在线视频| 人妻夜夜爽99麻豆av| av一本久久久久| 九九爱精品视频在线观看| 亚洲精品aⅴ在线观看| 日本爱情动作片www.在线观看| 在线观看人妻少妇| 成人黄色视频免费在线看| 人妻人人澡人人爽人人| 亚洲精品美女久久av网站| 18禁裸乳无遮挡动漫免费视频| 99热6这里只有精品| av有码第一页| 久久综合国产亚洲精品| 大又大粗又爽又黄少妇毛片口| 日本午夜av视频| 亚洲精品日本国产第一区| 十八禁网站网址无遮挡| 男女边吃奶边做爰视频| 丝袜喷水一区| 亚洲av成人精品一二三区| 熟女人妻精品中文字幕| 国产精品久久久久久久电影| 亚洲精品av麻豆狂野| 一级毛片aaaaaa免费看小| 哪个播放器可以免费观看大片| 国产精品嫩草影院av在线观看| 午夜福利,免费看| 中国三级夫妇交换| 嘟嘟电影网在线观看| 寂寞人妻少妇视频99o| xxxhd国产人妻xxx| 另类亚洲欧美激情| 女人精品久久久久毛片| 国产欧美日韩一区二区三区在线 | 亚洲av综合色区一区| av.在线天堂| 啦啦啦中文免费视频观看日本| 国产成人精品一,二区| av免费观看日本| 女性被躁到高潮视频| 国产精品一区二区三区四区免费观看| 制服人妻中文乱码| 日本欧美视频一区| 一级毛片 在线播放| 丰满饥渴人妻一区二区三| 夜夜看夜夜爽夜夜摸| 久久久久久久精品精品| 国产精品人妻久久久久久| 十分钟在线观看高清视频www| 国产黄色视频一区二区在线观看| 亚洲成色77777| 久久影院123| 亚洲第一av免费看| 精品国产乱码久久久久久小说| 午夜激情av网站| 免费大片黄手机在线观看| 亚洲内射少妇av| 亚洲av在线观看美女高潮| 免费高清在线观看视频在线观看| 亚洲国产最新在线播放| 日本黄色日本黄色录像| 99九九线精品视频在线观看视频| 欧美变态另类bdsm刘玥| 日本vs欧美在线观看视频| 国产视频内射| 午夜福利网站1000一区二区三区| 一本大道久久a久久精品| 伊人久久精品亚洲午夜| 成人18禁高潮啪啪吃奶动态图 | 少妇人妻 视频| 亚洲五月色婷婷综合| 99精国产麻豆久久婷婷| 日本爱情动作片www.在线观看| 久久久精品免费免费高清| 国产成人免费观看mmmm| 国产免费视频播放在线视频| av线在线观看网站| 日韩中字成人| 国产黄色视频一区二区在线观看| 两个人的视频大全免费| 欧美 亚洲 国产 日韩一| 蜜桃在线观看..| 久久久久视频综合| 在线观看人妻少妇| 欧美bdsm另类| 91精品国产九色| 午夜日本视频在线| 日韩 亚洲 欧美在线| 国产av精品麻豆| 观看美女的网站| 人妻 亚洲 视频| 七月丁香在线播放| 亚洲国产成人一精品久久久| 一区在线观看完整版| 久久精品夜色国产| 成年美女黄网站色视频大全免费 | 赤兔流量卡办理| 成人国产av品久久久| 精品人妻在线不人妻| 国产精品国产三级国产av玫瑰| 久久久久久久大尺度免费视频| 国产精品 国内视频| 一本大道久久a久久精品| 久久久国产精品麻豆| 亚洲av在线观看美女高潮| 欧美日韩在线观看h| 日韩 亚洲 欧美在线| 99精国产麻豆久久婷婷| av卡一久久| 免费看光身美女| 国产高清国产精品国产三级| 日本欧美视频一区| 大码成人一级视频| 午夜影院在线不卡| 亚洲国产欧美在线一区| 九九爱精品视频在线观看| 亚洲精品,欧美精品| 国产精品久久久久久精品电影小说| 亚洲成人av在线免费| 国产av国产精品国产| 国产毛片在线视频| 欧美日韩视频高清一区二区三区二| 亚洲第一av免费看| 99热网站在线观看| 涩涩av久久男人的天堂| 99久久中文字幕三级久久日本| 亚洲成人一二三区av| 亚洲精品乱码久久久久久按摩| 免费日韩欧美在线观看| 日本-黄色视频高清免费观看| 久久97久久精品| 99国产精品免费福利视频| 国产视频首页在线观看| 亚洲欧美成人精品一区二区| 精品一区在线观看国产| 欧美一级a爱片免费观看看| 色婷婷av一区二区三区视频| 亚洲不卡免费看| 久久精品国产自在天天线| 性色av一级| 亚洲av国产av综合av卡| 青春草国产在线视频| 亚洲一区二区三区欧美精品| 在线免费观看不下载黄p国产| 中文天堂在线官网| 国产成人aa在线观看| 永久免费av网站大全| 国产亚洲精品久久久com| 亚洲人成77777在线视频| 黄色怎么调成土黄色| 一区二区日韩欧美中文字幕 | 男女免费视频国产| 美女xxoo啪啪120秒动态图| 亚洲少妇的诱惑av| 啦啦啦中文免费视频观看日本| 久久久久久久亚洲中文字幕| 亚洲天堂av无毛| 亚洲国产色片| 精品人妻熟女毛片av久久网站| 日韩大片免费观看网站| 国产精品一二三区在线看| 久久女婷五月综合色啪小说| 有码 亚洲区| 欧美 日韩 精品 国产| 大话2 男鬼变身卡| 美女xxoo啪啪120秒动态图| 高清毛片免费看| 午夜福利在线观看免费完整高清在| 亚洲精品久久午夜乱码| 亚洲图色成人| 亚洲一区二区三区欧美精品| 卡戴珊不雅视频在线播放| 秋霞伦理黄片| 日本wwww免费看| 人妻系列 视频| 免费av不卡在线播放| 国国产精品蜜臀av免费| 乱人伦中国视频| 久久99精品国语久久久| 最近的中文字幕免费完整| 三级国产精品欧美在线观看| 男人爽女人下面视频在线观看| 国产有黄有色有爽视频| 热99国产精品久久久久久7| 欧美三级亚洲精品| 简卡轻食公司| 蜜臀久久99精品久久宅男| 国产 精品1| 制服丝袜香蕉在线| 欧美日韩av久久| 日韩人妻高清精品专区| 欧美精品亚洲一区二区| 亚洲av中文av极速乱| 亚洲欧美日韩另类电影网站| 亚洲美女黄色视频免费看| 欧美3d第一页| 日韩精品有码人妻一区| videos熟女内射| 十分钟在线观看高清视频www| 免费黄频网站在线观看国产| 最近最新中文字幕免费大全7| av在线老鸭窝| 日本猛色少妇xxxxx猛交久久| 精品一品国产午夜福利视频| 青春草亚洲视频在线观看| 在线播放无遮挡| 欧美性感艳星| 亚洲中文av在线| 91精品伊人久久大香线蕉| 免费av不卡在线播放| 国语对白做爰xxxⅹ性视频网站| av.在线天堂| 国产精品熟女久久久久浪| 久久99一区二区三区| 人妻少妇偷人精品九色| 国产极品天堂在线| 欧美日韩亚洲高清精品| 日日撸夜夜添| 亚洲丝袜综合中文字幕| 青春草亚洲视频在线观看| 91精品三级在线观看| 免费大片18禁| 少妇被粗大的猛进出69影院 | 男女免费视频国产| 国产高清有码在线观看视频| 赤兔流量卡办理| 婷婷色综合大香蕉| 我要看黄色一级片免费的| 日韩精品免费视频一区二区三区 | 亚洲一区二区三区欧美精品| 王馨瑶露胸无遮挡在线观看| 亚洲欧美清纯卡通| 又黄又爽又刺激的免费视频.| 只有这里有精品99| 能在线免费看毛片的网站| 18+在线观看网站| www.色视频.com| 亚洲av综合色区一区| 在线看a的网站| 最后的刺客免费高清国语| 看免费成人av毛片| 久久久久久久精品精品| 久久这里有精品视频免费| 一级片'在线观看视频| 一个人免费看片子| 草草在线视频免费看| 亚洲国产欧美日韩在线播放| 午夜日本视频在线| 老司机亚洲免费影院| 成年人免费黄色播放视频| 久久午夜综合久久蜜桃| 国产高清三级在线| 少妇人妻 视频| 国产精品蜜桃在线观看| 国产精品成人在线| 51国产日韩欧美| 久久久国产精品麻豆| 久久99热这里只频精品6学生| 另类亚洲欧美激情| 2018国产大陆天天弄谢| 熟妇人妻不卡中文字幕| 亚洲精品日韩av片在线观看| 亚洲精品成人av观看孕妇| 91久久精品电影网| 五月天丁香电影| av.在线天堂| 性色avwww在线观看| 波野结衣二区三区在线| 亚洲,一卡二卡三卡| 亚洲在久久综合| 久久ye,这里只有精品| 国产精品人妻久久久久久| 啦啦啦中文免费视频观看日本| 亚洲成人av在线免费| 美女国产高潮福利片在线看| 如日韩欧美国产精品一区二区三区 | 特大巨黑吊av在线直播| 一本色道久久久久久精品综合| 久热这里只有精品99| 天美传媒精品一区二区| 精品国产露脸久久av麻豆| 五月天丁香电影| 久久热精品热| 三上悠亚av全集在线观看| 国产国语露脸激情在线看| 午夜影院在线不卡| 男女国产视频网站| 日韩熟女老妇一区二区性免费视频| 少妇被粗大的猛进出69影院 | 国产综合精华液| 亚洲人成77777在线视频| 国产在视频线精品| 22中文网久久字幕| 国产一级毛片在线| 亚洲一级一片aⅴ在线观看| 考比视频在线观看| 美女xxoo啪啪120秒动态图| 波野结衣二区三区在线| 国产精品99久久99久久久不卡 | 极品少妇高潮喷水抽搐| 99热这里只有是精品在线观看| 免费观看a级毛片全部| 新久久久久国产一级毛片| 国国产精品蜜臀av免费| av有码第一页| 人妻少妇偷人精品九色| 欧美bdsm另类| 日韩精品免费视频一区二区三区 | 日韩免费高清中文字幕av| 亚洲精品视频女| 国产欧美日韩一区二区三区在线 | 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 69精品国产乱码久久久| 国产高清三级在线| 男女国产视频网站| 黄色配什么色好看| 中文乱码字字幕精品一区二区三区| 国产黄色免费在线视频| 乱人伦中国视频| 一边亲一边摸免费视频| 91精品三级在线观看| 中文字幕精品免费在线观看视频 | 男女高潮啪啪啪动态图| 性高湖久久久久久久久免费观看| 黄色视频在线播放观看不卡| 亚洲色图 男人天堂 中文字幕 | 日日摸夜夜添夜夜添av毛片| 国模一区二区三区四区视频| 成人毛片a级毛片在线播放| 国产一级毛片在线| 国产成人免费观看mmmm| 亚洲国产精品999| 日韩欧美精品免费久久| av网站免费在线观看视频| 特大巨黑吊av在线直播| 日韩av免费高清视频| 九草在线视频观看| a 毛片基地| 国产 一区精品| 精品亚洲乱码少妇综合久久| 国产精品三级大全| 亚洲av二区三区四区| 久久精品夜色国产| 国产成人91sexporn| 热99久久久久精品小说推荐| 欧美日韩国产mv在线观看视频| 边亲边吃奶的免费视频| 中文字幕免费在线视频6| 欧美精品国产亚洲| 大香蕉久久网| 国产成人aa在线观看| 日本午夜av视频| 男女无遮挡免费网站观看| 91在线精品国自产拍蜜月| 亚洲av日韩在线播放| 欧美 日韩 精品 国产| 18禁裸乳无遮挡动漫免费视频| 高清视频免费观看一区二区| 国产精品久久久久久av不卡| 22中文网久久字幕| 伊人久久国产一区二区| 中文精品一卡2卡3卡4更新| 久久精品国产亚洲av涩爱| 国产精品嫩草影院av在线观看| 免费观看a级毛片全部| 青春草视频在线免费观看| 黄色毛片三级朝国网站| 久久免费观看电影| 乱人伦中国视频| 国产日韩一区二区三区精品不卡 | 男男h啪啪无遮挡| 亚洲精品日韩在线中文字幕| 亚洲少妇的诱惑av| 综合色丁香网| 边亲边吃奶的免费视频| 亚洲图色成人| 丰满迷人的少妇在线观看| 成年美女黄网站色视频大全免费 | 777米奇影视久久| www.av在线官网国产| 熟女人妻精品中文字幕| 观看av在线不卡| 久久久精品免费免费高清| videossex国产| 亚洲精品日韩在线中文字幕| 午夜福利视频在线观看免费| 亚洲国产精品一区三区| 老司机影院毛片| 五月天丁香电影| 美女主播在线视频| 赤兔流量卡办理| 国产在视频线精品| 国产 一区精品| 日韩一区二区视频免费看| 国产高清有码在线观看视频| 日韩av不卡免费在线播放| videos熟女内射| 久久青草综合色| 久久热精品热| videos熟女内射| 人人妻人人添人人爽欧美一区卜| 中文天堂在线官网| 97在线人人人人妻| 国产精品一区二区在线不卡| 国产男女超爽视频在线观看| 成人二区视频| 国国产精品蜜臀av免费| 99国产综合亚洲精品| 欧美3d第一页| 大码成人一级视频| 国产免费现黄频在线看| 久久精品国产亚洲网站| 国产欧美另类精品又又久久亚洲欧美| 黄色一级大片看看| 国产精品熟女久久久久浪| 搡女人真爽免费视频火全软件| a级片在线免费高清观看视频| av电影中文网址| 中文欧美无线码| 日韩电影二区| 最后的刺客免费高清国语| 69精品国产乱码久久久| 热99久久久久精品小说推荐| 一本一本综合久久| 日韩制服骚丝袜av| 国产一区二区三区综合在线观看 |