• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人機(jī)交互:社交機(jī)器人在新冠肺炎疫情議題架構(gòu)中的行為分析

    2020-09-26 11:13:07石韋穎何康賈全鑫
    教育傳媒研究 2020年5期
    關(guān)鍵詞:社交媒體新冠肺炎疫情

    石韋穎 何康 賈全鑫

    【內(nèi)容摘要】新冠肺炎疫情肆虐全球,社交媒體空間呈現(xiàn)出“信息疫情”的局面,信息環(huán)境高度復(fù)雜和不確定。本文探究了社交機(jī)器人在新冠肺炎議題在線討論中的參與行為。

    【關(guān)鍵詞】社交機(jī)器人;新冠肺炎疫情;社交媒體

    一、引言

    隨著新冠肺炎疫情在世界范圍內(nèi)迅速蔓延,社交媒體上涌現(xiàn)出海量的疫情相關(guān)信息,這些信息亦真亦假,有人說(shuō),這種情況構(gòu)成了網(wǎng)絡(luò)環(huán)境中的“信息疫情(Infodemic)”。作為用戶人數(shù)最多的全球化社交媒體之一,推特(Twitter)已成為當(dāng)今社會(huì)重要的數(shù)字公共領(lǐng)域,無(wú)疑也是“信息疫情”存在的主要空間。

    社交機(jī)器人是一種在社交媒體上擁有賬號(hào)并能夠承擔(dān)任務(wù),利用算法生成內(nèi)容的自主機(jī)器人,①在社交媒體上與人類用戶共同存在,②并活躍在政治選舉、公共健康議題、社會(huì)熱點(diǎn)事件等在線討論中。社交機(jī)器人會(huì)模仿人類行為與其他用戶互動(dòng),③試圖干預(yù)網(wǎng)絡(luò)輿論甚至影響人們的線下行為。在“信息疫情”的背景下,推特(Twitter)平臺(tái)上有關(guān)新冠肺炎疫情的相關(guān)討論中,社交機(jī)器人的參與情況是怎樣的?社交機(jī)器人與人類用戶之間的意見(jiàn)是否相異?社交機(jī)器人與人類用戶之間的連接和互動(dòng)情況如何?這些問(wèn)題的探討具有一定的現(xiàn)實(shí)意義。

    為解答上述問(wèn)題,本文爬取了推特(Twitter)平臺(tái)上2020年前3個(gè)月有關(guān)新冠肺炎疫情討論的推文數(shù)據(jù),對(duì)新冠肺炎疫情在線討論中社交機(jī)器人的參與行為,特別是其與人類用戶的互動(dòng)情況進(jìn)行了探究。

    二、文獻(xiàn)回顧與擬研究的問(wèn)題

    (一)社交機(jī)器人參與輿論表達(dá)

    在智能時(shí)代,包括人工智能在內(nèi)的相關(guān)互聯(lián)網(wǎng)技術(shù)對(duì)傳播領(lǐng)域乃至社會(huì)領(lǐng)域的改變已經(jīng)發(fā)生或即將發(fā)生。④社交機(jī)器人廣泛參與政治事件在線討論,實(shí)施信息操控,甚至干預(yù)輿論表達(dá)。在中美貿(mào)易談判、⑤2016年美國(guó)大選、⑥2016年英國(guó)脫歐投票、⑦2017年法國(guó)總統(tǒng)大選、⑧2018年美國(guó)中期選舉⑨等政治事件網(wǎng)絡(luò)討論中,人們均發(fā)現(xiàn)社交機(jī)器人活動(dòng)的痕跡。研究發(fā)現(xiàn)社交機(jī)器人會(huì)通過(guò)關(guān)注他人來(lái)提升自我影響力,大量散播謠言、分享垃圾信息、傳播具有黨派立場(chǎng)的消息,進(jìn)而影響選民意見(jiàn)。研究還發(fā)現(xiàn),社交機(jī)器人參與網(wǎng)絡(luò)討論的比例隨事件推進(jìn)而增長(zhǎng),在2016年美國(guó)大選3次辯論中,社交機(jī)器人參與比例從23%上升到27%,⑩在2017年德國(guó)競(jìng)選活動(dòng)中,社交機(jī)器人參與討論比例從競(jìng)選前的7.1%上升到競(jìng)選期間的9.9%。

    社交機(jī)器人同樣活躍于公共健康議題、社會(huì)熱點(diǎn)事件的線上討論,如對(duì)麻疹疫苗接種的討論、美國(guó)佛羅里達(dá)校園槍擊案爆發(fā)后的討論中均有社交機(jī)器人參與,甚至強(qiáng)化網(wǎng)絡(luò)意見(jiàn)的極化。在新冠肺炎疫情的在線討論中,亦有學(xué)者發(fā)現(xiàn)社交機(jī)器人的參與。2020年1月21日美國(guó)出現(xiàn)了該國(guó)宣稱的第一例新冠肺炎患者,2020年3月13日美國(guó)政府宣布全國(guó)進(jìn)入緊急狀態(tài),F(xiàn)errara選取這兩個(gè)時(shí)間節(jié)點(diǎn)期間有關(guān)新冠肺炎疫情的推文進(jìn)行分析,發(fā)現(xiàn)疫情期間有大量社交機(jī)器人賬號(hào)被創(chuàng)建,并且在創(chuàng)建后不久就高強(qiáng)度地投入到疫情的網(wǎng)絡(luò)討論中。本文同樣是對(duì)新冠肺炎疫情期間社交機(jī)器人參與行為的探究,但由于數(shù)據(jù)采集時(shí)間有所區(qū)別,本文首先要厘清的問(wèn)題依舊是社交機(jī)器人的參與情況,隨著事件的發(fā)展社交機(jī)器人的參與比例是否發(fā)生變化,故而提出以下研究問(wèn)題:新冠肺炎疫情在線討論中社交機(jī)器人的數(shù)量和發(fā)文量是多少?新冠肺炎疫情在線討論中社交機(jī)器人的數(shù)量是怎樣隨時(shí)間變化的?

    (二)社交機(jī)器人與人類的交互

    社交即互動(dòng)。社交機(jī)器人對(duì)人類的模擬行為,不僅是在網(wǎng)上表達(dá)和傳遞意見(jiàn),社交機(jī)器人還會(huì)與人類發(fā)生互動(dòng)行為。社交機(jī)器人與真實(shí)人類用戶互動(dòng)的過(guò)程往往也是社交機(jī)器人影響人們意見(jiàn)轉(zhuǎn)變的過(guò)程,因此成為研究的重要關(guān)注點(diǎn)。

    相關(guān)研究發(fā)現(xiàn)“人—機(jī)”互動(dòng)明顯少于“人—人”互動(dòng)比例,但“人—機(jī)”之間的交互利于信息的大范圍傳播。如Stella等人對(duì)2017年加泰羅尼亞公投事件的研究發(fā)現(xiàn),在交互模式上人類主要與人類互動(dòng)(76%),僅有19%的社交機(jī)器人主動(dòng)與人類互動(dòng),在網(wǎng)絡(luò)結(jié)構(gòu)上人類的中心地位是社交機(jī)器人的1.8倍,社交機(jī)器人傾向于與具有影響力的用戶互動(dòng)以提升自己的影響力。Shao等人對(duì)低可信度來(lái)源文章的探究也有相似發(fā)現(xiàn),在傳播初期社交機(jī)器人會(huì)通過(guò)回復(fù)、提及用戶吸引關(guān)注者,人類也往往容易受此影響并分享社交機(jī)器人發(fā)布的內(nèi)容,進(jìn)而導(dǎo)致低可信度消息滾雪球式擴(kuò)散。在騷亂或暴亂事件中,社交機(jī)器人同樣能夠引發(fā)信息大范圍的單向傳播,甚至在某些情況下與人類直接交換信息,并傾向于向人類直接傳遞恐懼信息?!叭藱C(jī)互動(dòng)”也存在著黨派差異,Luceri等人在研究中加入政治傾向性這一變量,將社交機(jī)器人劃分為保守派和自由派,發(fā)現(xiàn)保守派社交機(jī)器人與人類、與社交機(jī)器人的互動(dòng)分配更為均衡,相對(duì)而言,自由派機(jī)器人更偏向于與人類互動(dòng)。

    社交媒體上的互動(dòng)包含點(diǎn)贊、評(píng)論、轉(zhuǎn)發(fā)、提及等方式,社交機(jī)器人使用多種互動(dòng)方式達(dá)成不同傳播目的。張洪忠等對(duì)中美貿(mào)易談判議題的探究發(fā)現(xiàn),社交機(jī)器人常使用新聞?lì)愒掝}標(biāo)簽以快速傳遞信息,更頻繁地@媒體或熱點(diǎn)人物來(lái)擴(kuò)大其影響力。師文和陳昌鳳的研究發(fā)現(xiàn)在中國(guó)議題下,相比人類用戶,社交機(jī)器人更愿意通過(guò)轉(zhuǎn)發(fā)促進(jìn)信息擴(kuò)散,并通過(guò)提及人類用戶提升信息可見(jiàn)度,以期營(yíng)造意見(jiàn)氣候,但較少進(jìn)行回復(fù)和引用。由此也可見(jiàn),轉(zhuǎn)發(fā)和提及是社交機(jī)器人常用的互動(dòng)方式。

    新冠肺炎疫情期間社交媒體上充斥大量混雜的信息,疫情信息傳播情況復(fù)雜,比如疫情期間推特(Twitter)上有大量假消息被發(fā)布。信息存在極大不確定性的現(xiàn)實(shí)背景也引發(fā)對(duì)社交機(jī)器人與人類用戶互動(dòng)和連接關(guān)系的新思考,這些互動(dòng)和連接是否會(huì)呈現(xiàn)出與既有研究不同的新特點(diǎn)?本文擬以“轉(zhuǎn)發(fā)”互動(dòng)為切入點(diǎn)進(jìn)行考察,“轉(zhuǎn)發(fā)”是社交機(jī)器人最為常用的互動(dòng)方式之一,“轉(zhuǎn)發(fā)”尤其是“直接轉(zhuǎn)發(fā)”是一種基于認(rèn)同的行為,帶評(píng)論轉(zhuǎn)發(fā)還蘊(yùn)含著觀點(diǎn)的交流,相比“提及”包含更豐富的互動(dòng)訊息。本文將從信息傳播擴(kuò)散路徑著手,探究哪些人或哪類賬號(hào)是轉(zhuǎn)發(fā)推文的消息源、誰(shuí)又成為轉(zhuǎn)發(fā)傳播鏈中的關(guān)鍵節(jié)點(diǎn)或意見(jiàn)領(lǐng)袖,因而提出下列研究問(wèn)題:新冠肺炎疫情在線討論中社交機(jī)器人和人類用戶的“轉(zhuǎn)發(fā)”互動(dòng)是怎樣的?社交機(jī)器人和人類用戶“轉(zhuǎn)發(fā)”的賬號(hào)及其內(nèi)容有何差異?

    三、研究方法

    (一)數(shù)據(jù)采集與處理

    2019年12月31日,中國(guó)向世界衛(wèi)生組織通報(bào)了湖北省武漢市的一組肺炎病例,世衛(wèi)組織確認(rèn)了這是一種新型冠狀病毒,由此國(guó)際上開始正式關(guān)注新冠肺炎疫情。本文采用推特(Twitter)API獲取2020年前三個(gè)月有關(guān)新冠肺炎疫情的推文數(shù)據(jù),并在此基礎(chǔ)上構(gòu)建了一個(gè)由4萬(wàn)余條推文數(shù)據(jù)組成的小規(guī)模隨機(jī)樣本,其中包含獨(dú)立用戶4萬(wàn)多個(gè)。

    (二)社交機(jī)器人檢測(cè)

    本文采用開源工具Botometer識(shí)別社交機(jī)器人,Botometer是美國(guó)印第安納大學(xué)開發(fā)的檢測(cè)工具,使用機(jī)器學(xué)習(xí)算法進(jìn)行特征識(shí)別,操作便捷,是目前社交機(jī)器人檢測(cè)中最為廣泛使用的檢測(cè)工具。根據(jù)Botometer檢測(cè)結(jié)果將賬號(hào)二分為真實(shí)人類用戶、社交機(jī)器人。

    四、社交機(jī)器人參與疫情討論情況

    (一)社交機(jī)器人數(shù)量及其發(fā)推量均在7%左右

    經(jīng)分析發(fā)現(xiàn),4萬(wàn)多個(gè)獨(dú)立用戶中社交機(jī)器人不足3000個(gè),占比僅為6.88%。在4萬(wàn)多條推文數(shù)據(jù)中,社交機(jī)器人發(fā)布推文數(shù)量不足4000條,占比僅7.34%。

    (二)時(shí)間序列上社交機(jī)器人數(shù)量出現(xiàn)增長(zhǎng)

    在時(shí)間序列上,參與討論的社交機(jī)器人與人類用戶數(shù)量均隨時(shí)間推移大幅上升,兩者變化趨勢(shì)相似,且用戶數(shù)量峰值的出現(xiàn)時(shí)間與全球疫情發(fā)展的標(biāo)志性節(jié)點(diǎn)事件出現(xiàn)時(shí)間吻合(見(jiàn)圖1)。如圖1所示,在圖中標(biāo)記①的部分,自2020年1月21日開始參與討論的用戶數(shù)量開始增多,這一天美國(guó)境內(nèi)出現(xiàn)了當(dāng)時(shí)認(rèn)為的第一例新冠肺炎確診患者。在圖中標(biāo)記②的部分,參與討論的用戶數(shù)量劇增,并在3月12日達(dá)到峰值,3月12日參與討論的社交機(jī)器人有123個(gè)、人類用戶有1839個(gè)。在這一階段世衛(wèi)組織評(píng)估新冠肺炎為大流行病,3月9日美股年內(nèi)第一次、歷史上第二次熔斷,3月12日美股年內(nèi)第二次、歷史上第三次熔斷。圖中標(biāo)記③的部分,參與討論的用戶數(shù)量達(dá)到數(shù)據(jù)觀測(cè)期間最高峰值,3月18日社交機(jī)器人峰值數(shù)量是168個(gè),3月19日人類用戶峰值是2244個(gè)。這是由于在3月中旬疫情繼續(xù)蔓延,疫情影響繼續(xù)加劇,美股年內(nèi)第三次熔斷,特朗普發(fā)推文稱新冠病毒為“中國(guó)病毒”引發(fā)熱議。圖中標(biāo)記④的部分,盡管參與討論的用戶數(shù)量有所下降,但討論熱度仍較高,參與討論的社交機(jī)器人數(shù)量出現(xiàn)的兩次峰值分別是139個(gè)、123個(gè),在3月末這段時(shí)間確診病例不斷攀升,美國(guó)成為首個(gè)確診病例超過(guò)20萬(wàn)的國(guó)家,日本東京奧運(yùn)會(huì)因疫情而推遲。

    簡(jiǎn)言之,在新冠肺炎疫情在線討論中,盡管社交機(jī)器人數(shù)量與人類用戶存在量級(jí)上的差異,但兩者都隨時(shí)間推移明顯上升,其中參與討論的社交機(jī)器人從每日1—2個(gè)增長(zhǎng)到每日100多個(gè)。

    (三)社交機(jī)器人發(fā)布的推文中轉(zhuǎn)發(fā)推文占七成

    推文可以分為“原創(chuàng)”和“轉(zhuǎn)發(fā)”兩大類,其中“轉(zhuǎn)發(fā)”又可以細(xì)分為不帶評(píng)論轉(zhuǎn)發(fā)的直接轉(zhuǎn)發(fā)和帶評(píng)論轉(zhuǎn)發(fā)兩種。這可以從推文文本來(lái)進(jìn)行判定,在推文文本中不含有任何“RT @”的推文歸類為原創(chuàng)推文,含有“RT @”的推文是轉(zhuǎn)發(fā)推文。具體來(lái)說(shuō),如果A直接轉(zhuǎn)發(fā)B的推文,在A的推文文本中會(huì)出現(xiàn)“RT @B”,即A的推文文本由“RT @B+B的推文”構(gòu)成;如果A轉(zhuǎn)發(fā)B的推文并進(jìn)行了評(píng)論,A的推文文本由“評(píng)論+RT @B+B的推文”構(gòu)成。

    經(jīng)統(tǒng)計(jì)發(fā)現(xiàn),第一,社交機(jī)器人和人類用戶發(fā)布的推文中絕大多數(shù)是轉(zhuǎn)發(fā),原創(chuàng)推文整體較少,社交機(jī)器人發(fā)布的推文中七成以上是轉(zhuǎn)發(fā),人類用戶發(fā)布的推文中八成以上是轉(zhuǎn)發(fā);第二,在轉(zhuǎn)發(fā)的推文中,直接轉(zhuǎn)發(fā)比例遠(yuǎn)高于帶評(píng)論轉(zhuǎn)發(fā),相比社交機(jī)器人,人類用戶更傾向于帶評(píng)論轉(zhuǎn)發(fā)(見(jiàn)圖2)。從推文類型來(lái)看,轉(zhuǎn)發(fā)推文占據(jù)絕大多數(shù),用戶之間的轉(zhuǎn)發(fā)互動(dòng)十分頻繁,這也是本文選取“轉(zhuǎn)發(fā)”來(lái)考察互動(dòng)的原因之一。

    五、社交機(jī)器人和人類用戶轉(zhuǎn)發(fā)互動(dòng)情況

    社交機(jī)器人與人類用戶的轉(zhuǎn)發(fā)互動(dòng)可以通過(guò)推文文本追溯,推文文本中的“RT @”成為判斷轉(zhuǎn)發(fā)互動(dòng)關(guān)系的重要標(biāo)識(shí)。本文采用Python程序從推文文本中提取“RT @”的用戶,經(jīng)統(tǒng)計(jì)分析,社交機(jī)器人轉(zhuǎn)發(fā)推文中共“RT @”1800個(gè)用戶,其中274個(gè)是社交機(jī)器人;人類用戶轉(zhuǎn)發(fā)推文中共“RT @”14198個(gè)用戶,其中762個(gè)是社交機(jī)器人。換言之,從社交機(jī)器人發(fā)布推文追溯,社交機(jī)器人較多地轉(zhuǎn)發(fā)人類用戶發(fā)布的內(nèi)容,存在“人→機(jī)”轉(zhuǎn)發(fā)路徑(84.78%);社交機(jī)器人會(huì)轉(zhuǎn)發(fā)社交機(jī)器人發(fā)布的推文,存在“機(jī)→機(jī)”轉(zhuǎn)發(fā)路徑(15.22%)。從人類用戶發(fā)布推文追溯,“人→人”是轉(zhuǎn)發(fā)互動(dòng)中比例最高的互動(dòng)路徑(94.63%),同時(shí)也存在“機(jī)→人”轉(zhuǎn)發(fā)路徑(5.37%)(見(jiàn)圖3)。

    也就是說(shuō),在推特(Twitter)上有關(guān)新冠肺炎疫情的相關(guān)討論中,社交機(jī)器人和人類用戶之間存在交錯(cuò)相織的轉(zhuǎn)發(fā)路徑(見(jiàn)圖4)。在轉(zhuǎn)發(fā)互動(dòng)形成的擴(kuò)散網(wǎng)絡(luò)中,社交機(jī)器人類似于“擴(kuò)音器”,將人類用戶的觀點(diǎn)放大,或是二次傳播其他社交機(jī)器人發(fā)布的內(nèi)容。有少量社交機(jī)器人贏得了人類用戶的信任,發(fā)布內(nèi)容被人類轉(zhuǎn)發(fā)。

    六、“人機(jī)”轉(zhuǎn)發(fā)用戶頻次前50的比較分析

    為進(jìn)一步探究社交機(jī)器人與人類用戶在轉(zhuǎn)發(fā)互動(dòng)上的異同,我們對(duì)社交機(jī)器人轉(zhuǎn)發(fā)最多(“RT@”頻率最高)的前50個(gè)用戶、人類用戶轉(zhuǎn)發(fā)最多的前50個(gè)用戶進(jìn)行了比較分析。將兩組各50個(gè)用戶劃分身份類別(見(jiàn)圖5),其中個(gè)別無(wú)法確定身份的賬號(hào)被歸為其他類。結(jié)合賬號(hào)身份特征及其推文內(nèi)容,從兩組用戶的相同點(diǎn)、不同點(diǎn)兩方面進(jìn)行闡釋。

    (一)相同點(diǎn):媒體和政客是主要消息傳播源

    第一,媒體組織、演員或媒體工作者是主要消息來(lái)源。轉(zhuǎn)發(fā)頻率最高的前50個(gè)用戶多為媒體組織賬號(hào)、演員或媒體工作者,媒體組織賬號(hào)如CNN、《紐約時(shí)報(bào)》。演員或媒體工作者包括電視節(jié)目主持人、制片人、記者和演員,如轉(zhuǎn)發(fā)頻率最高的前三名用戶中兩位(Bill Mitchell和Charlie Kirk)都屬于媒體工作者,且兩人都是特朗普的支持者;第二,政客發(fā)布的消息被較多轉(zhuǎn)發(fā)。特朗普是轉(zhuǎn)發(fā)頻率最高的用戶。

    從相同點(diǎn)來(lái)說(shuō),轉(zhuǎn)發(fā)遵循名人效應(yīng),網(wǎng)絡(luò)大V發(fā)布的推文被轉(zhuǎn)發(fā)可能性更高。在人類用戶和社交機(jī)器人轉(zhuǎn)發(fā)頻率最高的前50個(gè)用戶中,有28個(gè)是一樣的,這也說(shuō)明人類用戶和社交機(jī)器人在參與輿論表達(dá)中關(guān)注的議題或采用的策略存在相似性。

    (二)不同點(diǎn):機(jī)器人較多轉(zhuǎn)發(fā)特朗普支持者的推文

    第一,社交機(jī)器人多轉(zhuǎn)發(fā)支持特朗普的內(nèi)容。比如,作家John Solomon稱新冠肺炎病毒為“中國(guó)病毒”的推文被社交機(jī)器人大量轉(zhuǎn)發(fā),轉(zhuǎn)發(fā)者還包括特朗普的長(zhǎng)子小唐納德·特朗普,小唐納德·特朗普本身也是社交機(jī)器人轉(zhuǎn)發(fā)較多的用戶之一。又如被轉(zhuǎn)發(fā)較多的作家Jim Hoft是支持特朗普的政論網(wǎng)站Gateway Pundit的創(chuàng)辦人。

    第二,人類用戶會(huì)轉(zhuǎn)發(fā)白宮推特(Twitter)賬號(hào)發(fā)布的消息,白宮被歸類為政府,社交機(jī)器人會(huì)轉(zhuǎn)發(fā)特朗普政治競(jìng)選團(tuán)隊(duì)推特(Twitter)賬號(hào)發(fā)布的消息。

    第三,在被社交機(jī)器人轉(zhuǎn)發(fā)最多的前50個(gè)用戶中,有兩個(gè)是社交機(jī)器人,一個(gè)是已被凍結(jié)的賬號(hào)。其中一個(gè)社交機(jī)器人是Mark Kirin,Botometer得分3.9分,它發(fā)布的推文文本是非常凌亂的、讀起來(lái)不通暢、較無(wú)邏輯,還包含大量符號(hào)表情,內(nèi)容包括中國(guó)政府將維生素C列為抗擊疫情藥物、新冠肺炎疫情死亡率遠(yuǎn)不如流感、特朗普不應(yīng)該使用“中國(guó)病毒”、不認(rèn)可新冠肺炎病毒類似于嚴(yán)重季節(jié)性流感的觀點(diǎn)等。另一個(gè)社交機(jī)器人是JoJo,Botometer得分是3.5分,其推文較多地@他人、使用話題標(biāo)簽,具體內(nèi)容涉及中國(guó)研究員申請(qǐng)藥品專利、反對(duì)特朗普言論、居家隔離等。另外,推特(Twitter)上被暫停使用的賬號(hào)和社交機(jī)器人之間存在相關(guān)性,本文研究中發(fā)現(xiàn)的用戶@StormIsUponUs雖然無(wú)法確定其賬號(hào)被凍結(jié)的具體原因,但有較高可能是個(gè)社交機(jī)器人。盡管上述兩個(gè)社交機(jī)器人都發(fā)布反對(duì)特朗普的言論,但這并不能斷定說(shuō)社交機(jī)器人都在反對(duì)特朗普。結(jié)合前文來(lái)看,疫情相關(guān)討論中既有支持特朗普的社交機(jī)器人,也有反對(duì)特朗普的。

    第四,人類用戶會(huì)轉(zhuǎn)發(fā)短期內(nèi)受到大量關(guān)注的普通人發(fā)布的推文,而社交機(jī)器人不會(huì)。人類用戶會(huì)關(guān)注到在網(wǎng)絡(luò)上迅速獲得大量點(diǎn)贊和轉(zhuǎn)發(fā)的鮮活的、真實(shí)的、平凡人的故事,比如美國(guó)姑娘Bjonda Haliti的染疫日記,網(wǎng)名為sketchy lady的女子出現(xiàn)“所有新冠病毒的癥狀”卻無(wú)法進(jìn)行病毒檢測(cè)的求助帖,又比如洛杉磯一位高中畢業(yè)生邀請(qǐng)奧巴馬為2020屆畢業(yè)生演講的請(qǐng)求。

    第五,人類用戶對(duì)疫情、健康相關(guān)消息關(guān)注更多,較多轉(zhuǎn)發(fā)專家學(xué)者發(fā)布的推文,如醫(yī)療專家Dena Grayson、前奧巴馬醫(yī)療保健主管Andy Slavitt發(fā)布的消息。

    七、結(jié)論與討論

    本文對(duì)維持(Twitter)空間有關(guān)新冠肺炎疫情討論中社交機(jī)器人的行為進(jìn)行了探究,主要有以下三點(diǎn)結(jié)論及延伸討論。

    第一,在推特(Twitter)空間有關(guān)新冠肺炎疫情討論中社交機(jī)器人數(shù)量總體占比約7%,社交機(jī)器人數(shù)量隨事態(tài)發(fā)展大幅增長(zhǎng)。盡管社交機(jī)器人參與比例從總體來(lái)看較低,但討論中少量的社交機(jī)器人仍然可以影響輿論,甚至影響線下的實(shí)際行為,如Ross等人的模擬實(shí)驗(yàn)中2%—4%的社交機(jī)器人即可反轉(zhuǎn)輿論。在Zerback等人利用社交機(jī)器人進(jìn)行的“草皮運(yùn)動(dòng)”(Online Astroturfing)實(shí)驗(yàn)中,同樣發(fā)現(xiàn)社交機(jī)器人確實(shí)能夠改變被試者的意見(jiàn)。隨著社交機(jī)器人技術(shù)的不斷進(jìn)步,社交機(jī)器人對(duì)人類行為的模擬程度更高,對(duì)社交機(jī)器人參與網(wǎng)絡(luò)輿論表達(dá)的存在及其影響需要更細(xì)致地考量,期待后續(xù)研究的推進(jìn)。

    第二,新冠肺炎疫情討論中社交機(jī)器人與人類用戶之間存在交錯(cuò)轉(zhuǎn)發(fā)的互動(dòng)模式。首先,與已有研究結(jié)論相似,社交機(jī)器人會(huì)轉(zhuǎn)發(fā)人類用戶發(fā)布的推文、機(jī)器人發(fā)布的推文,人類用戶也會(huì)轉(zhuǎn)發(fā)社交機(jī)器人發(fā)布的推文,“機(jī)→機(jī)”轉(zhuǎn)發(fā)比例高于“機(jī)→人”比例;其次,轉(zhuǎn)發(fā)互動(dòng)存在顯著的名人效應(yīng),媒體組織、演員或媒體工作者、政客是討論中的“意見(jiàn)領(lǐng)袖”。這與已有研究的發(fā)現(xiàn)有所相同也有所區(qū)別,在韓運(yùn)榮等對(duì)涉華輿論的研究中,推特(Twitter)上傳統(tǒng)媒介組織開設(shè)的賬號(hào)是議題相關(guān)信息的主要傳播者, 媒體工作者是重要的“意見(jiàn)領(lǐng)袖”,媒介及藝術(shù)工作者往往多傳播情緒性意見(jiàn)。但Hagen等人在所謂俄羅斯干涉2016年美國(guó)大選調(diào)查的在線討論中發(fā)現(xiàn)社交機(jī)器人會(huì)削弱媒體人、專家等傳統(tǒng)行動(dòng)者(Traditional Actors)的影響力,并通過(guò)放大支持特朗普的信息影響網(wǎng)絡(luò)情緒,這與本文的發(fā)現(xiàn)有所區(qū)別,本文發(fā)現(xiàn)媒體組織等依舊是社交網(wǎng)絡(luò)中具有強(qiáng)傳播力、影響力的行動(dòng)者。

    第三,推特(Twitter)空間的社交機(jī)器人較多轉(zhuǎn)發(fā)持有支持特朗普立場(chǎng)的用戶的推文,會(huì)更關(guān)注特朗普與2020年大選的相關(guān)內(nèi)容,而人類用戶會(huì)轉(zhuǎn)發(fā)專家學(xué)者對(duì)疫情的看法、普通人在疫情期間的真實(shí)經(jīng)歷。然而也并非所有的社交機(jī)器人都在支持特朗普,也有反對(duì)特朗普立場(chǎng)的社交機(jī)器人,社交媒體上的社交機(jī)器人像人類一樣擁有政治傾向性、擁有多元化的觀點(diǎn)。在社交媒體上部署這些社交機(jī)器人的個(gè)人或團(tuán)隊(duì)也是多元構(gòu)成的,一項(xiàng)對(duì)歐洲49個(gè)國(guó)家2247位歐洲通信領(lǐng)域?qū)<业恼{(diào)查發(fā)現(xiàn),有257位(11.5%)表示他們所在的組織正在使用或計(jì)劃使用社交機(jī)器人。這些機(jī)構(gòu)或組織或?qū)儆诓煌瑖?guó)家、或有著不同利益驅(qū)動(dòng)、或持有不同政治意見(jiàn),恰恰也表明了社交機(jī)器人背后使用主體的多元構(gòu)成。

    本文也存在一定的局限性。第一,轉(zhuǎn)發(fā)行為一定程度上代表著對(duì)某種觀點(diǎn)的認(rèn)同,本文沒(méi)有對(duì)轉(zhuǎn)發(fā)背后多大程度上改變了人類用戶的態(tài)度,這種影響是強(qiáng)化、弱化還是扭轉(zhuǎn)進(jìn)行探究;第二,社交媒體上的互動(dòng)除“轉(zhuǎn)發(fā)”之外還有其他形式,本文只選取較具代表性的“轉(zhuǎn)發(fā)”來(lái)分析,未來(lái)可以從其他互動(dòng)方式入手進(jìn)行補(bǔ)充完善。

    注釋:

    ①Howard P N, Woolley S, Calo R. Algorithms, bots, and political communication in the US 2016 election: The challenge of automated political communication for election law and administration. Journal of information technology & politics, 2018, 15(2): 81-93.

    ②張洪忠、段澤寧、韓秀:《異類還是共生——社交媒體中的社交機(jī)器人研究路徑探討》,《新聞界》2019年第2期。

    ③Ferrara E, Varol O, Davis C, et al. The rise of social bots. Communications of the ACM, 2016, 59(7): 96-104.

    ④喻國(guó)明:《關(guān)于智能時(shí)代新聞傳播學(xué)科建設(shè)的若干思考》,《教育傳媒研究》2020年第2期。

    ⑤張洪忠、趙蓓、石韋穎:《社交機(jī)器人在Twitter參與中美貿(mào)易談判議題的行為分析》,《新聞界》2020年第2期。

    ⑥Howard P N, Bolsover G, Kollanyi B, et al. Junk news and bots during the US election: What were Michigan voters sharing over Twitter. CompProp, OII, Data Memo, 2017.

    ⑦Bastos M T, Mercea D. The Brexit botnet and user-generated hyperpartisan news. Social Science Computer Review, 2019, 37(1): 38-54.

    ⑧Ferrara E. Disinformation and social bot operations in the run up to the 2017 French presidential election. arXiv preprint arXiv:1707.00086, 2017.

    ⑨Luceri L, Deb A, Badawy A, et al. Red bots do it better: Comparative analysis of social bot partisan behavior[C]//Companion Proceedings of The 2019 World Wide Web Conference. 2019: 1007-1012.

    ⑩Howard P, Kollanyi B, Woolley S C. Bots and automation over Twitter during the third US presidential debate. 2016.

    Keller T R, Klinger U. Social bots in election campaigns: Theoretical, empirical, and methodological implications. Political Communication, 2019, 36(1): 171-189.

    Yuan X, Schuchard R J, Crooks A T. Examining Emergent Communities and Social Bots Within the Polarized Online Vaccination Debate in Twitter. Social Media+ Society, 2019, 5(3): 2056305119865465.

    Kitzie V L, Mohammadi E, Karami A. “Life never matters in the DEMOCRATS MIND”: Examining strategies of retweeted social bots during a mass shooting event. Proceedings of the Association for Information Science and Technology, 2018, 55(1): 254-263.

    Ferrara E. # COVID-19 on Twitter: Bots, Conspiracies, and Social Media Activism. arXiv preprint arXiv:2004.09531, 2020.

    Stella M, Ferrara E, De Domenico M. Bots increase exposure to negative and inflammatory content in online social systems. Proceedings of the National Academy of Sciences, 2018, 115(49): 12435-12440.

    Shao C, Ciampaglia G L, Varol O, et al. The spread of low-credibility content by social bots. Nature communications, 2018, 9(1): 1-9.

    Ku?en E, Strembeck M. You talkinto me? Exploring Human/Bot Communication Patterns during Riot Events. Information Processing & Management, 2020, 57(1): 102126.

    師文、陳昌鳳:《分布與互動(dòng)模式:社交機(jī)器人操縱Twitter上的中國(guó)議題研究》,《國(guó)際新聞界》2020年第5期。

    Pulido C M, Villarejo-Carballido B, Redondo-Sama G, et al. COVID-19 infodemic: More retweets for science-based information on coronavirus than for false information. International Sociology, 2020: 0268580920914755.

    Ross B, Pilz L, Cabrera B, et al. Are social bots a real threat? An agent-based model of the spiral of silence to analyse the impact of manipulative actors in social networks. European Journal of Information Systems, 2019, 28(4): 394-412.

    Zerback T, T?pfl F, Kn?pfle M. The disconcerting potential of online disinformation: Persuasive effects of astroturfing comments and three strategies for inoculation against them. New Media & Society, 2020: 1461444820908530.

    韓運(yùn)榮、漆雪:《Twitter涉華輿情極化現(xiàn)象研究——以中美貿(mào)易爭(zhēng)端為例》,《現(xiàn)代傳播(中國(guó)傳媒大學(xué)學(xué)報(bào))》2019第3期。

    Hagen L, Neely S, Keller T E, et al. Rise of the Machines? Examining the Influence of Social Bots on a Political Discussion Network. Social Science Computer Review, 2020: 0894439320908190.

    Wiesenberg M, Tench R. Deep strategic mediatization: Organizational leaders knowledge and usage of social bots in an era of disinformation. International Journal of Information Management, 2020, 51: 102042.

    猜你喜歡
    社交媒體新冠肺炎疫情
    運(yùn)用大數(shù)據(jù)技術(shù)提升公共危機(jī)應(yīng)對(duì)能力
    前線(2020年3期)2020-03-13 15:08:37
    首都都市圈區(qū)域聯(lián)防聯(lián)控機(jī)制探析
    前線(2020年3期)2020-03-13 15:08:37
    新冠肺炎疫情早期科學(xué)研究對(duì)政府決策的影響
    治理研究(2020年2期)2020-03-13 08:10:15
    新冠肺炎疫情防控中的公共治理機(jī)制:信息、決策與執(zhí)行
    治理研究(2020年2期)2020-03-13 08:10:15
    新冠肺炎疫區(qū)高校大學(xué)生的精神狀態(tài)與行為應(yīng)對(duì)
    治理研究(2020年2期)2020-03-13 08:10:15
    公共衛(wèi)生學(xué)科作用在新冠肺炎疫情防控中的凸顯
    治理研究(2020年2期)2020-03-13 08:10:15
    社交媒體視域下弱勢(shì)群體輿情表達(dá)研究
    移動(dòng)互聯(lián)網(wǎng)時(shí)代用戶在線社交變遷及動(dòng)因分析
    知識(shí)零售變現(xiàn)模式的問(wèn)題與思考
    基于社交媒體的廣告學(xué)專業(yè)教學(xué)改革與實(shí)踐
    亚洲伊人久久精品综合| 天天躁夜夜躁狠狠久久av| 自拍欧美九色日韩亚洲蝌蚪91| 丰满饥渴人妻一区二区三| 全区人妻精品视频| 午夜福利视频精品| 亚洲精品美女久久av网站| 观看美女的网站| 亚洲成av片中文字幕在线观看 | 精品酒店卫生间| 亚洲欧洲日产国产| 日韩一区二区视频免费看| 又粗又硬又长又爽又黄的视频| 国产亚洲av片在线观看秒播厂| 亚洲国产av新网站| 老熟女久久久| 亚洲精品日韩在线中文字幕| 国产黄色视频一区二区在线观看| 我要看黄色一级片免费的| 99国产精品免费福利视频| 视频中文字幕在线观看| 久久av网站| 亚洲色图综合在线观看| 十分钟在线观看高清视频www| 日本午夜av视频| 老司机影院毛片| 久久精品熟女亚洲av麻豆精品| 天堂俺去俺来也www色官网| 少妇 在线观看| 少妇人妻 视频| 欧美精品高潮呻吟av久久| 少妇的丰满在线观看| 久久婷婷青草| 成人漫画全彩无遮挡| 亚洲成av片中文字幕在线观看 | 黄色一级大片看看| 久久午夜福利片| 亚洲国产最新在线播放| 国产精品熟女久久久久浪| 久久久精品94久久精品| 69精品国产乱码久久久| 色网站视频免费| 免费少妇av软件| 天天躁夜夜躁狠狠躁躁| 男人舔女人的私密视频| 午夜激情久久久久久久| 午夜福利乱码中文字幕| 男女高潮啪啪啪动态图| 国产毛片在线视频| 丝袜美足系列| 中文字幕人妻丝袜制服| 精品一区二区三区视频在线| 国产免费一级a男人的天堂| 国产黄色视频一区二区在线观看| 丝袜人妻中文字幕| 亚洲av综合色区一区| 久久精品国产自在天天线| 亚洲精品国产av蜜桃| 一本—道久久a久久精品蜜桃钙片| 欧美97在线视频| 国产片内射在线| 国产色爽女视频免费观看| 高清av免费在线| 免费看光身美女| 亚洲国产最新在线播放| 我要看黄色一级片免费的| 亚洲激情五月婷婷啪啪| 狠狠精品人妻久久久久久综合| 日本vs欧美在线观看视频| 免费黄频网站在线观看国产| 亚洲欧洲精品一区二区精品久久久 | 成人无遮挡网站| 中文字幕另类日韩欧美亚洲嫩草| 色婷婷久久久亚洲欧美| 免费人妻精品一区二区三区视频| 中文字幕制服av| 日本wwww免费看| 久久狼人影院| 人人澡人人妻人| 大陆偷拍与自拍| 亚洲欧美中文字幕日韩二区| 香蕉国产在线看| 18禁动态无遮挡网站| 爱豆传媒免费全集在线观看| 亚洲性久久影院| 精品卡一卡二卡四卡免费| 久久午夜福利片| 亚洲av电影在线进入| 美女国产高潮福利片在线看| 永久免费av网站大全| 天堂俺去俺来也www色官网| 菩萨蛮人人尽说江南好唐韦庄| av在线老鸭窝| 五月玫瑰六月丁香| 午夜福利乱码中文字幕| 色视频在线一区二区三区| 精品国产一区二区三区久久久樱花| 一本大道久久a久久精品| 亚洲精品,欧美精品| 乱码一卡2卡4卡精品| 制服人妻中文乱码| 波野结衣二区三区在线| 精品一区二区三区视频在线| 日韩伦理黄色片| 久久毛片免费看一区二区三区| 精品卡一卡二卡四卡免费| 国产精品国产三级专区第一集| 久久久国产欧美日韩av| 天堂8中文在线网| 亚洲激情五月婷婷啪啪| 久热久热在线精品观看| 黑人猛操日本美女一级片| 在线天堂中文资源库| 热99国产精品久久久久久7| 国产黄频视频在线观看| 国产色婷婷99| 免费大片18禁| 制服丝袜香蕉在线| 久久精品aⅴ一区二区三区四区 | av电影中文网址| 看免费av毛片| 青春草亚洲视频在线观看| 少妇人妻 视频| 女人久久www免费人成看片| 老司机影院成人| www.色视频.com| 高清视频免费观看一区二区| 国产精品久久久久久av不卡| 国产极品天堂在线| 久久久久久久久久成人| 性色avwww在线观看| 免费在线观看黄色视频的| 精品国产露脸久久av麻豆| 精品人妻偷拍中文字幕| 日本免费在线观看一区| 伦理电影大哥的女人| kizo精华| 国产av一区二区精品久久| 精品人妻一区二区三区麻豆| 另类精品久久| 亚洲av电影在线观看一区二区三区| 男女边摸边吃奶| 人妻 亚洲 视频| 国产精品久久久久久精品电影小说| 18禁裸乳无遮挡动漫免费视频| 夫妻性生交免费视频一级片| 久久久久久人人人人人| 黄片播放在线免费| 亚洲av国产av综合av卡| 日韩电影二区| 欧美 亚洲 国产 日韩一| 国产国语露脸激情在线看| 免费大片黄手机在线观看| 一边摸一边做爽爽视频免费| 日本猛色少妇xxxxx猛交久久| 国产熟女欧美一区二区| 日韩制服丝袜自拍偷拍| 亚洲精品久久午夜乱码| 亚洲精品久久久久久婷婷小说| 日韩欧美一区视频在线观看| av女优亚洲男人天堂| 国产男人的电影天堂91| 99热这里只有是精品在线观看| 黑人猛操日本美女一级片| 日韩一本色道免费dvd| 久久精品aⅴ一区二区三区四区 | 久久免费观看电影| 精品人妻在线不人妻| 日韩 亚洲 欧美在线| 国产亚洲午夜精品一区二区久久| 纵有疾风起免费观看全集完整版| 亚洲国产看品久久| 最近的中文字幕免费完整| 大片电影免费在线观看免费| 国产成人精品久久久久久| 久久婷婷青草| 欧美成人午夜精品| 在线观看美女被高潮喷水网站| 久久99精品国语久久久| 美国免费a级毛片| 亚洲精品乱码久久久久久按摩| av黄色大香蕉| 高清不卡的av网站| 视频在线观看一区二区三区| 亚洲欧美色中文字幕在线| 久久午夜福利片| 少妇人妻 视频| 看免费成人av毛片| 亚洲av综合色区一区| 国产片内射在线| 久久免费观看电影| 国产淫语在线视频| 老司机影院成人| 亚洲成国产人片在线观看| 国产白丝娇喘喷水9色精品| 丝袜在线中文字幕| 黑人欧美特级aaaaaa片| 母亲3免费完整高清在线观看 | 国产女主播在线喷水免费视频网站| 18禁观看日本| 免费观看无遮挡的男女| 国产 一区精品| 亚洲国产精品999| 国产日韩欧美视频二区| 国产亚洲最大av| 男的添女的下面高潮视频| 亚洲国产毛片av蜜桃av| 日韩欧美精品免费久久| 精品国产一区二区久久| 十八禁网站网址无遮挡| 飞空精品影院首页| 亚洲欧美日韩卡通动漫| 亚洲色图 男人天堂 中文字幕 | 夜夜爽夜夜爽视频| 欧美日韩国产mv在线观看视频| 亚洲伊人久久精品综合| 人人妻人人澡人人爽人人夜夜| 国产亚洲一区二区精品| 亚洲精品中文字幕在线视频| 婷婷成人精品国产| 一边摸一边做爽爽视频免费| 日韩一区二区三区影片| 亚洲国产成人一精品久久久| 亚洲国产欧美日韩在线播放| 亚洲综合精品二区| 亚洲精品色激情综合| 国产永久视频网站| 久久av网站| 韩国精品一区二区三区 | 国产黄色视频一区二区在线观看| 久久久精品94久久精品| 国产精品偷伦视频观看了| 99国产精品免费福利视频| 国产成人欧美| 边亲边吃奶的免费视频| 国产精品秋霞免费鲁丝片| 26uuu在线亚洲综合色| 免费观看a级毛片全部| 免费观看a级毛片全部| 一级,二级,三级黄色视频| 街头女战士在线观看网站| 亚洲国产av新网站| 观看av在线不卡| 女性生殖器流出的白浆| 美女中出高潮动态图| 丰满饥渴人妻一区二区三| 亚洲精品av麻豆狂野| 精品一区二区免费观看| 满18在线观看网站| 人妻一区二区av| 韩国精品一区二区三区 | 青春草视频在线免费观看| 国产精品国产三级国产专区5o| av国产久精品久网站免费入址| 久久久精品94久久精品| 日本vs欧美在线观看视频| 国产高清不卡午夜福利| videos熟女内射| 男人爽女人下面视频在线观看| 午夜久久久在线观看| 国产精品成人在线| 在线天堂中文资源库| 婷婷成人精品国产| 一本久久精品| 久久ye,这里只有精品| 成人黄色视频免费在线看| 精品国产露脸久久av麻豆| av在线app专区| 亚洲欧美日韩另类电影网站| 久久久久久久精品精品| 欧美人与性动交α欧美精品济南到 | 丝袜美足系列| 国产男人的电影天堂91| 在线天堂最新版资源| av视频免费观看在线观看| 国产精品一二三区在线看| 少妇 在线观看| 青春草视频在线免费观看| 九九在线视频观看精品| 最新中文字幕久久久久| 午夜免费鲁丝| 大片电影免费在线观看免费| 午夜日本视频在线| 免费大片黄手机在线观看| 国产亚洲精品第一综合不卡 | 男人爽女人下面视频在线观看| 国产精品女同一区二区软件| 色婷婷av一区二区三区视频| 亚洲欧美一区二区三区黑人 | 成人影院久久| 亚洲伊人久久精品综合| av网站免费在线观看视频| 少妇高潮的动态图| 老女人水多毛片| 免费黄色在线免费观看| 日本爱情动作片www.在线观看| av片东京热男人的天堂| 在线看a的网站| 亚洲精品美女久久av网站| 日本91视频免费播放| 少妇人妻精品综合一区二区| 色视频在线一区二区三区| 亚洲欧洲国产日韩| videosex国产| 国产淫语在线视频| 超碰97精品在线观看| 99久久精品国产国产毛片| 久久热在线av| 日韩三级伦理在线观看| 哪个播放器可以免费观看大片| 大话2 男鬼变身卡| 欧美日本中文国产一区发布| 黑人巨大精品欧美一区二区蜜桃 | 欧美亚洲日本最大视频资源| av不卡在线播放| 国产高清国产精品国产三级| 成人国产麻豆网| 伦理电影大哥的女人| 亚洲精品日韩在线中文字幕| 全区人妻精品视频| 赤兔流量卡办理| 婷婷成人精品国产| 人妻少妇偷人精品九色| 黄色毛片三级朝国网站| 日韩中文字幕视频在线看片| 亚洲美女黄色视频免费看| 满18在线观看网站| 亚洲经典国产精华液单| 日韩成人伦理影院| 久久精品国产鲁丝片午夜精品| 丰满少妇做爰视频| 人人妻人人添人人爽欧美一区卜| 国产国拍精品亚洲av在线观看| 一区在线观看完整版| 女人久久www免费人成看片| 精品亚洲成国产av| 青春草视频在线免费观看| av在线app专区| 青春草视频在线免费观看| 在线精品无人区一区二区三| 人人妻人人爽人人添夜夜欢视频| 91午夜精品亚洲一区二区三区| 最近最新中文字幕大全免费视频 | 国产国语露脸激情在线看| 91国产中文字幕| 亚洲一区二区三区欧美精品| 国产男女超爽视频在线观看| 午夜福利,免费看| 午夜影院在线不卡| 91成人精品电影| 久久久久久人妻| 国产69精品久久久久777片| 欧美97在线视频| 捣出白浆h1v1| 国产精品久久久久久久电影| 国产黄色免费在线视频| 国产成人免费观看mmmm| 亚洲成国产人片在线观看| 中国国产av一级| 亚洲综合精品二区| 欧美人与性动交α欧美软件 | 久久精品夜色国产| 色婷婷久久久亚洲欧美| 日韩免费高清中文字幕av| 久久韩国三级中文字幕| 天堂8中文在线网| 亚洲av电影在线观看一区二区三区| 少妇人妻久久综合中文| 久久免费观看电影| 亚洲av欧美aⅴ国产| 久久国产精品大桥未久av| 精品酒店卫生间| 日韩,欧美,国产一区二区三区| 在线精品无人区一区二区三| 日本黄色日本黄色录像| 国产高清三级在线| 日本91视频免费播放| 午夜影院在线不卡| 国产乱人偷精品视频| av线在线观看网站| 欧美日韩亚洲高清精品| 中文字幕亚洲精品专区| 日韩制服丝袜自拍偷拍| av黄色大香蕉| 在线观看一区二区三区激情| 免费人成在线观看视频色| 在线观看人妻少妇| 美女中出高潮动态图| 考比视频在线观看| 18禁国产床啪视频网站| 亚洲成av片中文字幕在线观看 | 国产成人精品婷婷| 国产激情久久老熟女| 国产精品一区二区在线不卡| 精品少妇久久久久久888优播| 日日摸夜夜添夜夜爱| av在线播放精品| 美女内射精品一级片tv| 高清不卡的av网站| 丰满少妇做爰视频| 成年人午夜在线观看视频| 97人妻天天添夜夜摸| 99热全是精品| 美女视频免费永久观看网站| 香蕉精品网在线| 精品亚洲成国产av| 秋霞伦理黄片| 久久av网站| 老司机影院毛片| 国产av码专区亚洲av| 久久99一区二区三区| 精品福利永久在线观看| 九九在线视频观看精品| 久久女婷五月综合色啪小说| 99视频精品全部免费 在线| 免费看光身美女| 九草在线视频观看| 99精国产麻豆久久婷婷| 午夜福利在线观看免费完整高清在| 制服丝袜香蕉在线| 肉色欧美久久久久久久蜜桃| av网站免费在线观看视频| 国产黄频视频在线观看| 观看av在线不卡| 女人精品久久久久毛片| 日韩av免费高清视频| 国产精品三级大全| 久久久精品94久久精品| 黄片播放在线免费| 毛片一级片免费看久久久久| 国产精品久久久久成人av| 国产精品一区www在线观看| 性色av一级| 成年av动漫网址| 欧美精品高潮呻吟av久久| 秋霞伦理黄片| 黄色一级大片看看| 男女下面插进去视频免费观看 | 高清av免费在线| 午夜免费鲁丝| 老司机亚洲免费影院| 三级国产精品片| 又黄又爽又刺激的免费视频.| 国产又色又爽无遮挡免| 女人久久www免费人成看片| 国产女主播在线喷水免费视频网站| 天天操日日干夜夜撸| 欧美人与性动交α欧美精品济南到 | 又黄又爽又刺激的免费视频.| av视频免费观看在线观看| 人人妻人人爽人人添夜夜欢视频| 色网站视频免费| av播播在线观看一区| 亚洲国产欧美在线一区| 黄色怎么调成土黄色| 99久国产av精品国产电影| 国产精品久久久久久久久免| 在线观看一区二区三区激情| 十八禁网站网址无遮挡| 国产女主播在线喷水免费视频网站| 午夜91福利影院| 香蕉精品网在线| 国产又爽黄色视频| 成人免费观看视频高清| 久久久亚洲精品成人影院| 亚洲av成人精品一二三区| 亚洲综合色网址| 美女福利国产在线| a 毛片基地| 精品亚洲乱码少妇综合久久| 久久毛片免费看一区二区三区| 国产成人精品福利久久| 日韩av在线免费看完整版不卡| 搡女人真爽免费视频火全软件| xxx大片免费视频| 国产亚洲最大av| 在现免费观看毛片| 免费黄网站久久成人精品| 午夜福利,免费看| 一级毛片 在线播放| 另类精品久久| 交换朋友夫妻互换小说| 18禁在线无遮挡免费观看视频| 午夜影院在线不卡| 久久精品久久久久久噜噜老黄| a 毛片基地| 大陆偷拍与自拍| 久久99热这里只频精品6学生| av线在线观看网站| 精品一区二区三区四区五区乱码 | 三上悠亚av全集在线观看| 最黄视频免费看| 午夜精品国产一区二区电影| av播播在线观看一区| 国产亚洲一区二区精品| 超色免费av| 午夜老司机福利剧场| 日本欧美视频一区| 中文字幕人妻熟女乱码| 亚洲欧美清纯卡通| 熟女av电影| 一本—道久久a久久精品蜜桃钙片| 亚洲高清免费不卡视频| 秋霞伦理黄片| 亚洲美女黄色视频免费看| 成人影院久久| 欧美成人午夜免费资源| 日韩av不卡免费在线播放| 观看美女的网站| 高清在线视频一区二区三区| 纵有疾风起免费观看全集完整版| 久久97久久精品| 高清在线视频一区二区三区| a级毛片在线看网站| 我要看黄色一级片免费的| 少妇高潮的动态图| 久久久久精品久久久久真实原创| 亚洲精品第二区| 亚洲av日韩在线播放| 欧美精品国产亚洲| 精品少妇内射三级| 国产又爽黄色视频| 最黄视频免费看| 亚洲四区av| 国产男女超爽视频在线观看| 亚洲国产精品一区三区| 日韩电影二区| 美女国产视频在线观看| 国产无遮挡羞羞视频在线观看| 在线看a的网站| 卡戴珊不雅视频在线播放| 另类亚洲欧美激情| 日韩av不卡免费在线播放| 大香蕉97超碰在线| 看十八女毛片水多多多| 成人影院久久| 巨乳人妻的诱惑在线观看| 最新中文字幕久久久久| 少妇 在线观看| 你懂的网址亚洲精品在线观看| 精品第一国产精品| 十八禁高潮呻吟视频| 大香蕉久久成人网| 男人爽女人下面视频在线观看| 插逼视频在线观看| 美女内射精品一级片tv| 免费看光身美女| 嫩草影院入口| 在线天堂中文资源库| 最近最新中文字幕免费大全7| 青春草国产在线视频| 免费女性裸体啪啪无遮挡网站| 亚洲国产精品一区三区| 国产又色又爽无遮挡免| 亚洲欧洲日产国产| 日韩视频在线欧美| 两性夫妻黄色片 | a级毛片黄视频| 日本免费在线观看一区| 综合色丁香网| 国产伦理片在线播放av一区| 精品午夜福利在线看| 久久久久国产精品人妻一区二区| 一本一本久久a久久精品综合妖精 国产伦在线观看视频一区 | 777米奇影视久久| av女优亚洲男人天堂| av.在线天堂| 性色avwww在线观看| 亚洲人成77777在线视频| 久久99热这里只频精品6学生| 高清视频免费观看一区二区| 青春草亚洲视频在线观看| 久久毛片免费看一区二区三区| 免费观看无遮挡的男女| 日本黄大片高清| 亚洲精品日本国产第一区| 国产女主播在线喷水免费视频网站| 久久久精品区二区三区| 亚洲av中文av极速乱| 高清在线视频一区二区三区| 国产精品三级大全| 99re6热这里在线精品视频| 国产成人a∨麻豆精品| 久久99一区二区三区| 欧美3d第一页| 十分钟在线观看高清视频www| 久久精品熟女亚洲av麻豆精品| 久久久久人妻精品一区果冻| 久久久国产精品麻豆| 国产精品久久久久久精品电影小说| 国产精品偷伦视频观看了| 美女中出高潮动态图| 校园人妻丝袜中文字幕| 亚洲av电影在线进入| 老司机影院成人| 日本色播在线视频| 国产精品久久久av美女十八| 天美传媒精品一区二区| 日本免费在线观看一区| 欧美成人午夜精品| 精品国产乱码久久久久久小说| kizo精华| videossex国产| 老司机影院毛片| 亚洲精品456在线播放app| 亚洲成国产人片在线观看| 久久精品熟女亚洲av麻豆精品| 久久午夜福利片| 天天躁夜夜躁狠狠久久av| 欧美 日韩 精品 国产| 亚洲欧洲精品一区二区精品久久久 | 在线天堂中文资源库| 欧美 亚洲 国产 日韩一| 超色免费av| 亚洲欧美色中文字幕在线|