• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    人機(jī)交互:社交機(jī)器人在新冠肺炎疫情議題架構(gòu)中的行為分析

    2020-09-26 11:13:07石韋穎何康賈全鑫
    教育傳媒研究 2020年5期
    關(guān)鍵詞:社交媒體新冠肺炎疫情

    石韋穎 何康 賈全鑫

    【內(nèi)容摘要】新冠肺炎疫情肆虐全球,社交媒體空間呈現(xiàn)出“信息疫情”的局面,信息環(huán)境高度復(fù)雜和不確定。本文探究了社交機(jī)器人在新冠肺炎議題在線討論中的參與行為。

    【關(guān)鍵詞】社交機(jī)器人;新冠肺炎疫情;社交媒體

    一、引言

    隨著新冠肺炎疫情在世界范圍內(nèi)迅速蔓延,社交媒體上涌現(xiàn)出海量的疫情相關(guān)信息,這些信息亦真亦假,有人說(shuō),這種情況構(gòu)成了網(wǎng)絡(luò)環(huán)境中的“信息疫情(Infodemic)”。作為用戶人數(shù)最多的全球化社交媒體之一,推特(Twitter)已成為當(dāng)今社會(huì)重要的數(shù)字公共領(lǐng)域,無(wú)疑也是“信息疫情”存在的主要空間。

    社交機(jī)器人是一種在社交媒體上擁有賬號(hào)并能夠承擔(dān)任務(wù),利用算法生成內(nèi)容的自主機(jī)器人,①在社交媒體上與人類用戶共同存在,②并活躍在政治選舉、公共健康議題、社會(huì)熱點(diǎn)事件等在線討論中。社交機(jī)器人會(huì)模仿人類行為與其他用戶互動(dòng),③試圖干預(yù)網(wǎng)絡(luò)輿論甚至影響人們的線下行為。在“信息疫情”的背景下,推特(Twitter)平臺(tái)上有關(guān)新冠肺炎疫情的相關(guān)討論中,社交機(jī)器人的參與情況是怎樣的?社交機(jī)器人與人類用戶之間的意見(jiàn)是否相異?社交機(jī)器人與人類用戶之間的連接和互動(dòng)情況如何?這些問(wèn)題的探討具有一定的現(xiàn)實(shí)意義。

    為解答上述問(wèn)題,本文爬取了推特(Twitter)平臺(tái)上2020年前3個(gè)月有關(guān)新冠肺炎疫情討論的推文數(shù)據(jù),對(duì)新冠肺炎疫情在線討論中社交機(jī)器人的參與行為,特別是其與人類用戶的互動(dòng)情況進(jìn)行了探究。

    二、文獻(xiàn)回顧與擬研究的問(wèn)題

    (一)社交機(jī)器人參與輿論表達(dá)

    在智能時(shí)代,包括人工智能在內(nèi)的相關(guān)互聯(lián)網(wǎng)技術(shù)對(duì)傳播領(lǐng)域乃至社會(huì)領(lǐng)域的改變已經(jīng)發(fā)生或即將發(fā)生。④社交機(jī)器人廣泛參與政治事件在線討論,實(shí)施信息操控,甚至干預(yù)輿論表達(dá)。在中美貿(mào)易談判、⑤2016年美國(guó)大選、⑥2016年英國(guó)脫歐投票、⑦2017年法國(guó)總統(tǒng)大選、⑧2018年美國(guó)中期選舉⑨等政治事件網(wǎng)絡(luò)討論中,人們均發(fā)現(xiàn)社交機(jī)器人活動(dòng)的痕跡。研究發(fā)現(xiàn)社交機(jī)器人會(huì)通過(guò)關(guān)注他人來(lái)提升自我影響力,大量散播謠言、分享垃圾信息、傳播具有黨派立場(chǎng)的消息,進(jìn)而影響選民意見(jiàn)。研究還發(fā)現(xiàn),社交機(jī)器人參與網(wǎng)絡(luò)討論的比例隨事件推進(jìn)而增長(zhǎng),在2016年美國(guó)大選3次辯論中,社交機(jī)器人參與比例從23%上升到27%,⑩在2017年德國(guó)競(jìng)選活動(dòng)中,社交機(jī)器人參與討論比例從競(jìng)選前的7.1%上升到競(jìng)選期間的9.9%。

    社交機(jī)器人同樣活躍于公共健康議題、社會(huì)熱點(diǎn)事件的線上討論,如對(duì)麻疹疫苗接種的討論、美國(guó)佛羅里達(dá)校園槍擊案爆發(fā)后的討論中均有社交機(jī)器人參與,甚至強(qiáng)化網(wǎng)絡(luò)意見(jiàn)的極化。在新冠肺炎疫情的在線討論中,亦有學(xué)者發(fā)現(xiàn)社交機(jī)器人的參與。2020年1月21日美國(guó)出現(xiàn)了該國(guó)宣稱的第一例新冠肺炎患者,2020年3月13日美國(guó)政府宣布全國(guó)進(jìn)入緊急狀態(tài),F(xiàn)errara選取這兩個(gè)時(shí)間節(jié)點(diǎn)期間有關(guān)新冠肺炎疫情的推文進(jìn)行分析,發(fā)現(xiàn)疫情期間有大量社交機(jī)器人賬號(hào)被創(chuàng)建,并且在創(chuàng)建后不久就高強(qiáng)度地投入到疫情的網(wǎng)絡(luò)討論中。本文同樣是對(duì)新冠肺炎疫情期間社交機(jī)器人參與行為的探究,但由于數(shù)據(jù)采集時(shí)間有所區(qū)別,本文首先要厘清的問(wèn)題依舊是社交機(jī)器人的參與情況,隨著事件的發(fā)展社交機(jī)器人的參與比例是否發(fā)生變化,故而提出以下研究問(wèn)題:新冠肺炎疫情在線討論中社交機(jī)器人的數(shù)量和發(fā)文量是多少?新冠肺炎疫情在線討論中社交機(jī)器人的數(shù)量是怎樣隨時(shí)間變化的?

    (二)社交機(jī)器人與人類的交互

    社交即互動(dòng)。社交機(jī)器人對(duì)人類的模擬行為,不僅是在網(wǎng)上表達(dá)和傳遞意見(jiàn),社交機(jī)器人還會(huì)與人類發(fā)生互動(dòng)行為。社交機(jī)器人與真實(shí)人類用戶互動(dòng)的過(guò)程往往也是社交機(jī)器人影響人們意見(jiàn)轉(zhuǎn)變的過(guò)程,因此成為研究的重要關(guān)注點(diǎn)。

    相關(guān)研究發(fā)現(xiàn)“人—機(jī)”互動(dòng)明顯少于“人—人”互動(dòng)比例,但“人—機(jī)”之間的交互利于信息的大范圍傳播。如Stella等人對(duì)2017年加泰羅尼亞公投事件的研究發(fā)現(xiàn),在交互模式上人類主要與人類互動(dòng)(76%),僅有19%的社交機(jī)器人主動(dòng)與人類互動(dòng),在網(wǎng)絡(luò)結(jié)構(gòu)上人類的中心地位是社交機(jī)器人的1.8倍,社交機(jī)器人傾向于與具有影響力的用戶互動(dòng)以提升自己的影響力。Shao等人對(duì)低可信度來(lái)源文章的探究也有相似發(fā)現(xiàn),在傳播初期社交機(jī)器人會(huì)通過(guò)回復(fù)、提及用戶吸引關(guān)注者,人類也往往容易受此影響并分享社交機(jī)器人發(fā)布的內(nèi)容,進(jìn)而導(dǎo)致低可信度消息滾雪球式擴(kuò)散。在騷亂或暴亂事件中,社交機(jī)器人同樣能夠引發(fā)信息大范圍的單向傳播,甚至在某些情況下與人類直接交換信息,并傾向于向人類直接傳遞恐懼信息?!叭藱C(jī)互動(dòng)”也存在著黨派差異,Luceri等人在研究中加入政治傾向性這一變量,將社交機(jī)器人劃分為保守派和自由派,發(fā)現(xiàn)保守派社交機(jī)器人與人類、與社交機(jī)器人的互動(dòng)分配更為均衡,相對(duì)而言,自由派機(jī)器人更偏向于與人類互動(dòng)。

    社交媒體上的互動(dòng)包含點(diǎn)贊、評(píng)論、轉(zhuǎn)發(fā)、提及等方式,社交機(jī)器人使用多種互動(dòng)方式達(dá)成不同傳播目的。張洪忠等對(duì)中美貿(mào)易談判議題的探究發(fā)現(xiàn),社交機(jī)器人常使用新聞?lì)愒掝}標(biāo)簽以快速傳遞信息,更頻繁地@媒體或熱點(diǎn)人物來(lái)擴(kuò)大其影響力。師文和陳昌鳳的研究發(fā)現(xiàn)在中國(guó)議題下,相比人類用戶,社交機(jī)器人更愿意通過(guò)轉(zhuǎn)發(fā)促進(jìn)信息擴(kuò)散,并通過(guò)提及人類用戶提升信息可見(jiàn)度,以期營(yíng)造意見(jiàn)氣候,但較少進(jìn)行回復(fù)和引用。由此也可見(jiàn),轉(zhuǎn)發(fā)和提及是社交機(jī)器人常用的互動(dòng)方式。

    新冠肺炎疫情期間社交媒體上充斥大量混雜的信息,疫情信息傳播情況復(fù)雜,比如疫情期間推特(Twitter)上有大量假消息被發(fā)布。信息存在極大不確定性的現(xiàn)實(shí)背景也引發(fā)對(duì)社交機(jī)器人與人類用戶互動(dòng)和連接關(guān)系的新思考,這些互動(dòng)和連接是否會(huì)呈現(xiàn)出與既有研究不同的新特點(diǎn)?本文擬以“轉(zhuǎn)發(fā)”互動(dòng)為切入點(diǎn)進(jìn)行考察,“轉(zhuǎn)發(fā)”是社交機(jī)器人最為常用的互動(dòng)方式之一,“轉(zhuǎn)發(fā)”尤其是“直接轉(zhuǎn)發(fā)”是一種基于認(rèn)同的行為,帶評(píng)論轉(zhuǎn)發(fā)還蘊(yùn)含著觀點(diǎn)的交流,相比“提及”包含更豐富的互動(dòng)訊息。本文將從信息傳播擴(kuò)散路徑著手,探究哪些人或哪類賬號(hào)是轉(zhuǎn)發(fā)推文的消息源、誰(shuí)又成為轉(zhuǎn)發(fā)傳播鏈中的關(guān)鍵節(jié)點(diǎn)或意見(jiàn)領(lǐng)袖,因而提出下列研究問(wèn)題:新冠肺炎疫情在線討論中社交機(jī)器人和人類用戶的“轉(zhuǎn)發(fā)”互動(dòng)是怎樣的?社交機(jī)器人和人類用戶“轉(zhuǎn)發(fā)”的賬號(hào)及其內(nèi)容有何差異?

    三、研究方法

    (一)數(shù)據(jù)采集與處理

    2019年12月31日,中國(guó)向世界衛(wèi)生組織通報(bào)了湖北省武漢市的一組肺炎病例,世衛(wèi)組織確認(rèn)了這是一種新型冠狀病毒,由此國(guó)際上開始正式關(guān)注新冠肺炎疫情。本文采用推特(Twitter)API獲取2020年前三個(gè)月有關(guān)新冠肺炎疫情的推文數(shù)據(jù),并在此基礎(chǔ)上構(gòu)建了一個(gè)由4萬(wàn)余條推文數(shù)據(jù)組成的小規(guī)模隨機(jī)樣本,其中包含獨(dú)立用戶4萬(wàn)多個(gè)。

    (二)社交機(jī)器人檢測(cè)

    本文采用開源工具Botometer識(shí)別社交機(jī)器人,Botometer是美國(guó)印第安納大學(xué)開發(fā)的檢測(cè)工具,使用機(jī)器學(xué)習(xí)算法進(jìn)行特征識(shí)別,操作便捷,是目前社交機(jī)器人檢測(cè)中最為廣泛使用的檢測(cè)工具。根據(jù)Botometer檢測(cè)結(jié)果將賬號(hào)二分為真實(shí)人類用戶、社交機(jī)器人。

    四、社交機(jī)器人參與疫情討論情況

    (一)社交機(jī)器人數(shù)量及其發(fā)推量均在7%左右

    經(jīng)分析發(fā)現(xiàn),4萬(wàn)多個(gè)獨(dú)立用戶中社交機(jī)器人不足3000個(gè),占比僅為6.88%。在4萬(wàn)多條推文數(shù)據(jù)中,社交機(jī)器人發(fā)布推文數(shù)量不足4000條,占比僅7.34%。

    (二)時(shí)間序列上社交機(jī)器人數(shù)量出現(xiàn)增長(zhǎng)

    在時(shí)間序列上,參與討論的社交機(jī)器人與人類用戶數(shù)量均隨時(shí)間推移大幅上升,兩者變化趨勢(shì)相似,且用戶數(shù)量峰值的出現(xiàn)時(shí)間與全球疫情發(fā)展的標(biāo)志性節(jié)點(diǎn)事件出現(xiàn)時(shí)間吻合(見(jiàn)圖1)。如圖1所示,在圖中標(biāo)記①的部分,自2020年1月21日開始參與討論的用戶數(shù)量開始增多,這一天美國(guó)境內(nèi)出現(xiàn)了當(dāng)時(shí)認(rèn)為的第一例新冠肺炎確診患者。在圖中標(biāo)記②的部分,參與討論的用戶數(shù)量劇增,并在3月12日達(dá)到峰值,3月12日參與討論的社交機(jī)器人有123個(gè)、人類用戶有1839個(gè)。在這一階段世衛(wèi)組織評(píng)估新冠肺炎為大流行病,3月9日美股年內(nèi)第一次、歷史上第二次熔斷,3月12日美股年內(nèi)第二次、歷史上第三次熔斷。圖中標(biāo)記③的部分,參與討論的用戶數(shù)量達(dá)到數(shù)據(jù)觀測(cè)期間最高峰值,3月18日社交機(jī)器人峰值數(shù)量是168個(gè),3月19日人類用戶峰值是2244個(gè)。這是由于在3月中旬疫情繼續(xù)蔓延,疫情影響繼續(xù)加劇,美股年內(nèi)第三次熔斷,特朗普發(fā)推文稱新冠病毒為“中國(guó)病毒”引發(fā)熱議。圖中標(biāo)記④的部分,盡管參與討論的用戶數(shù)量有所下降,但討論熱度仍較高,參與討論的社交機(jī)器人數(shù)量出現(xiàn)的兩次峰值分別是139個(gè)、123個(gè),在3月末這段時(shí)間確診病例不斷攀升,美國(guó)成為首個(gè)確診病例超過(guò)20萬(wàn)的國(guó)家,日本東京奧運(yùn)會(huì)因疫情而推遲。

    簡(jiǎn)言之,在新冠肺炎疫情在線討論中,盡管社交機(jī)器人數(shù)量與人類用戶存在量級(jí)上的差異,但兩者都隨時(shí)間推移明顯上升,其中參與討論的社交機(jī)器人從每日1—2個(gè)增長(zhǎng)到每日100多個(gè)。

    (三)社交機(jī)器人發(fā)布的推文中轉(zhuǎn)發(fā)推文占七成

    推文可以分為“原創(chuàng)”和“轉(zhuǎn)發(fā)”兩大類,其中“轉(zhuǎn)發(fā)”又可以細(xì)分為不帶評(píng)論轉(zhuǎn)發(fā)的直接轉(zhuǎn)發(fā)和帶評(píng)論轉(zhuǎn)發(fā)兩種。這可以從推文文本來(lái)進(jìn)行判定,在推文文本中不含有任何“RT @”的推文歸類為原創(chuàng)推文,含有“RT @”的推文是轉(zhuǎn)發(fā)推文。具體來(lái)說(shuō),如果A直接轉(zhuǎn)發(fā)B的推文,在A的推文文本中會(huì)出現(xiàn)“RT @B”,即A的推文文本由“RT @B+B的推文”構(gòu)成;如果A轉(zhuǎn)發(fā)B的推文并進(jìn)行了評(píng)論,A的推文文本由“評(píng)論+RT @B+B的推文”構(gòu)成。

    經(jīng)統(tǒng)計(jì)發(fā)現(xiàn),第一,社交機(jī)器人和人類用戶發(fā)布的推文中絕大多數(shù)是轉(zhuǎn)發(fā),原創(chuàng)推文整體較少,社交機(jī)器人發(fā)布的推文中七成以上是轉(zhuǎn)發(fā),人類用戶發(fā)布的推文中八成以上是轉(zhuǎn)發(fā);第二,在轉(zhuǎn)發(fā)的推文中,直接轉(zhuǎn)發(fā)比例遠(yuǎn)高于帶評(píng)論轉(zhuǎn)發(fā),相比社交機(jī)器人,人類用戶更傾向于帶評(píng)論轉(zhuǎn)發(fā)(見(jiàn)圖2)。從推文類型來(lái)看,轉(zhuǎn)發(fā)推文占據(jù)絕大多數(shù),用戶之間的轉(zhuǎn)發(fā)互動(dòng)十分頻繁,這也是本文選取“轉(zhuǎn)發(fā)”來(lái)考察互動(dòng)的原因之一。

    五、社交機(jī)器人和人類用戶轉(zhuǎn)發(fā)互動(dòng)情況

    社交機(jī)器人與人類用戶的轉(zhuǎn)發(fā)互動(dòng)可以通過(guò)推文文本追溯,推文文本中的“RT @”成為判斷轉(zhuǎn)發(fā)互動(dòng)關(guān)系的重要標(biāo)識(shí)。本文采用Python程序從推文文本中提取“RT @”的用戶,經(jīng)統(tǒng)計(jì)分析,社交機(jī)器人轉(zhuǎn)發(fā)推文中共“RT @”1800個(gè)用戶,其中274個(gè)是社交機(jī)器人;人類用戶轉(zhuǎn)發(fā)推文中共“RT @”14198個(gè)用戶,其中762個(gè)是社交機(jī)器人。換言之,從社交機(jī)器人發(fā)布推文追溯,社交機(jī)器人較多地轉(zhuǎn)發(fā)人類用戶發(fā)布的內(nèi)容,存在“人→機(jī)”轉(zhuǎn)發(fā)路徑(84.78%);社交機(jī)器人會(huì)轉(zhuǎn)發(fā)社交機(jī)器人發(fā)布的推文,存在“機(jī)→機(jī)”轉(zhuǎn)發(fā)路徑(15.22%)。從人類用戶發(fā)布推文追溯,“人→人”是轉(zhuǎn)發(fā)互動(dòng)中比例最高的互動(dòng)路徑(94.63%),同時(shí)也存在“機(jī)→人”轉(zhuǎn)發(fā)路徑(5.37%)(見(jiàn)圖3)。

    也就是說(shuō),在推特(Twitter)上有關(guān)新冠肺炎疫情的相關(guān)討論中,社交機(jī)器人和人類用戶之間存在交錯(cuò)相織的轉(zhuǎn)發(fā)路徑(見(jiàn)圖4)。在轉(zhuǎn)發(fā)互動(dòng)形成的擴(kuò)散網(wǎng)絡(luò)中,社交機(jī)器人類似于“擴(kuò)音器”,將人類用戶的觀點(diǎn)放大,或是二次傳播其他社交機(jī)器人發(fā)布的內(nèi)容。有少量社交機(jī)器人贏得了人類用戶的信任,發(fā)布內(nèi)容被人類轉(zhuǎn)發(fā)。

    六、“人機(jī)”轉(zhuǎn)發(fā)用戶頻次前50的比較分析

    為進(jìn)一步探究社交機(jī)器人與人類用戶在轉(zhuǎn)發(fā)互動(dòng)上的異同,我們對(duì)社交機(jī)器人轉(zhuǎn)發(fā)最多(“RT@”頻率最高)的前50個(gè)用戶、人類用戶轉(zhuǎn)發(fā)最多的前50個(gè)用戶進(jìn)行了比較分析。將兩組各50個(gè)用戶劃分身份類別(見(jiàn)圖5),其中個(gè)別無(wú)法確定身份的賬號(hào)被歸為其他類。結(jié)合賬號(hào)身份特征及其推文內(nèi)容,從兩組用戶的相同點(diǎn)、不同點(diǎn)兩方面進(jìn)行闡釋。

    (一)相同點(diǎn):媒體和政客是主要消息傳播源

    第一,媒體組織、演員或媒體工作者是主要消息來(lái)源。轉(zhuǎn)發(fā)頻率最高的前50個(gè)用戶多為媒體組織賬號(hào)、演員或媒體工作者,媒體組織賬號(hào)如CNN、《紐約時(shí)報(bào)》。演員或媒體工作者包括電視節(jié)目主持人、制片人、記者和演員,如轉(zhuǎn)發(fā)頻率最高的前三名用戶中兩位(Bill Mitchell和Charlie Kirk)都屬于媒體工作者,且兩人都是特朗普的支持者;第二,政客發(fā)布的消息被較多轉(zhuǎn)發(fā)。特朗普是轉(zhuǎn)發(fā)頻率最高的用戶。

    從相同點(diǎn)來(lái)說(shuō),轉(zhuǎn)發(fā)遵循名人效應(yīng),網(wǎng)絡(luò)大V發(fā)布的推文被轉(zhuǎn)發(fā)可能性更高。在人類用戶和社交機(jī)器人轉(zhuǎn)發(fā)頻率最高的前50個(gè)用戶中,有28個(gè)是一樣的,這也說(shuō)明人類用戶和社交機(jī)器人在參與輿論表達(dá)中關(guān)注的議題或采用的策略存在相似性。

    (二)不同點(diǎn):機(jī)器人較多轉(zhuǎn)發(fā)特朗普支持者的推文

    第一,社交機(jī)器人多轉(zhuǎn)發(fā)支持特朗普的內(nèi)容。比如,作家John Solomon稱新冠肺炎病毒為“中國(guó)病毒”的推文被社交機(jī)器人大量轉(zhuǎn)發(fā),轉(zhuǎn)發(fā)者還包括特朗普的長(zhǎng)子小唐納德·特朗普,小唐納德·特朗普本身也是社交機(jī)器人轉(zhuǎn)發(fā)較多的用戶之一。又如被轉(zhuǎn)發(fā)較多的作家Jim Hoft是支持特朗普的政論網(wǎng)站Gateway Pundit的創(chuàng)辦人。

    第二,人類用戶會(huì)轉(zhuǎn)發(fā)白宮推特(Twitter)賬號(hào)發(fā)布的消息,白宮被歸類為政府,社交機(jī)器人會(huì)轉(zhuǎn)發(fā)特朗普政治競(jìng)選團(tuán)隊(duì)推特(Twitter)賬號(hào)發(fā)布的消息。

    第三,在被社交機(jī)器人轉(zhuǎn)發(fā)最多的前50個(gè)用戶中,有兩個(gè)是社交機(jī)器人,一個(gè)是已被凍結(jié)的賬號(hào)。其中一個(gè)社交機(jī)器人是Mark Kirin,Botometer得分3.9分,它發(fā)布的推文文本是非常凌亂的、讀起來(lái)不通暢、較無(wú)邏輯,還包含大量符號(hào)表情,內(nèi)容包括中國(guó)政府將維生素C列為抗擊疫情藥物、新冠肺炎疫情死亡率遠(yuǎn)不如流感、特朗普不應(yīng)該使用“中國(guó)病毒”、不認(rèn)可新冠肺炎病毒類似于嚴(yán)重季節(jié)性流感的觀點(diǎn)等。另一個(gè)社交機(jī)器人是JoJo,Botometer得分是3.5分,其推文較多地@他人、使用話題標(biāo)簽,具體內(nèi)容涉及中國(guó)研究員申請(qǐng)藥品專利、反對(duì)特朗普言論、居家隔離等。另外,推特(Twitter)上被暫停使用的賬號(hào)和社交機(jī)器人之間存在相關(guān)性,本文研究中發(fā)現(xiàn)的用戶@StormIsUponUs雖然無(wú)法確定其賬號(hào)被凍結(jié)的具體原因,但有較高可能是個(gè)社交機(jī)器人。盡管上述兩個(gè)社交機(jī)器人都發(fā)布反對(duì)特朗普的言論,但這并不能斷定說(shuō)社交機(jī)器人都在反對(duì)特朗普。結(jié)合前文來(lái)看,疫情相關(guān)討論中既有支持特朗普的社交機(jī)器人,也有反對(duì)特朗普的。

    第四,人類用戶會(huì)轉(zhuǎn)發(fā)短期內(nèi)受到大量關(guān)注的普通人發(fā)布的推文,而社交機(jī)器人不會(huì)。人類用戶會(huì)關(guān)注到在網(wǎng)絡(luò)上迅速獲得大量點(diǎn)贊和轉(zhuǎn)發(fā)的鮮活的、真實(shí)的、平凡人的故事,比如美國(guó)姑娘Bjonda Haliti的染疫日記,網(wǎng)名為sketchy lady的女子出現(xiàn)“所有新冠病毒的癥狀”卻無(wú)法進(jìn)行病毒檢測(cè)的求助帖,又比如洛杉磯一位高中畢業(yè)生邀請(qǐng)奧巴馬為2020屆畢業(yè)生演講的請(qǐng)求。

    第五,人類用戶對(duì)疫情、健康相關(guān)消息關(guān)注更多,較多轉(zhuǎn)發(fā)專家學(xué)者發(fā)布的推文,如醫(yī)療專家Dena Grayson、前奧巴馬醫(yī)療保健主管Andy Slavitt發(fā)布的消息。

    七、結(jié)論與討論

    本文對(duì)維持(Twitter)空間有關(guān)新冠肺炎疫情討論中社交機(jī)器人的行為進(jìn)行了探究,主要有以下三點(diǎn)結(jié)論及延伸討論。

    第一,在推特(Twitter)空間有關(guān)新冠肺炎疫情討論中社交機(jī)器人數(shù)量總體占比約7%,社交機(jī)器人數(shù)量隨事態(tài)發(fā)展大幅增長(zhǎng)。盡管社交機(jī)器人參與比例從總體來(lái)看較低,但討論中少量的社交機(jī)器人仍然可以影響輿論,甚至影響線下的實(shí)際行為,如Ross等人的模擬實(shí)驗(yàn)中2%—4%的社交機(jī)器人即可反轉(zhuǎn)輿論。在Zerback等人利用社交機(jī)器人進(jìn)行的“草皮運(yùn)動(dòng)”(Online Astroturfing)實(shí)驗(yàn)中,同樣發(fā)現(xiàn)社交機(jī)器人確實(shí)能夠改變被試者的意見(jiàn)。隨著社交機(jī)器人技術(shù)的不斷進(jìn)步,社交機(jī)器人對(duì)人類行為的模擬程度更高,對(duì)社交機(jī)器人參與網(wǎng)絡(luò)輿論表達(dá)的存在及其影響需要更細(xì)致地考量,期待后續(xù)研究的推進(jìn)。

    第二,新冠肺炎疫情討論中社交機(jī)器人與人類用戶之間存在交錯(cuò)轉(zhuǎn)發(fā)的互動(dòng)模式。首先,與已有研究結(jié)論相似,社交機(jī)器人會(huì)轉(zhuǎn)發(fā)人類用戶發(fā)布的推文、機(jī)器人發(fā)布的推文,人類用戶也會(huì)轉(zhuǎn)發(fā)社交機(jī)器人發(fā)布的推文,“機(jī)→機(jī)”轉(zhuǎn)發(fā)比例高于“機(jī)→人”比例;其次,轉(zhuǎn)發(fā)互動(dòng)存在顯著的名人效應(yīng),媒體組織、演員或媒體工作者、政客是討論中的“意見(jiàn)領(lǐng)袖”。這與已有研究的發(fā)現(xiàn)有所相同也有所區(qū)別,在韓運(yùn)榮等對(duì)涉華輿論的研究中,推特(Twitter)上傳統(tǒng)媒介組織開設(shè)的賬號(hào)是議題相關(guān)信息的主要傳播者, 媒體工作者是重要的“意見(jiàn)領(lǐng)袖”,媒介及藝術(shù)工作者往往多傳播情緒性意見(jiàn)。但Hagen等人在所謂俄羅斯干涉2016年美國(guó)大選調(diào)查的在線討論中發(fā)現(xiàn)社交機(jī)器人會(huì)削弱媒體人、專家等傳統(tǒng)行動(dòng)者(Traditional Actors)的影響力,并通過(guò)放大支持特朗普的信息影響網(wǎng)絡(luò)情緒,這與本文的發(fā)現(xiàn)有所區(qū)別,本文發(fā)現(xiàn)媒體組織等依舊是社交網(wǎng)絡(luò)中具有強(qiáng)傳播力、影響力的行動(dòng)者。

    第三,推特(Twitter)空間的社交機(jī)器人較多轉(zhuǎn)發(fā)持有支持特朗普立場(chǎng)的用戶的推文,會(huì)更關(guān)注特朗普與2020年大選的相關(guān)內(nèi)容,而人類用戶會(huì)轉(zhuǎn)發(fā)專家學(xué)者對(duì)疫情的看法、普通人在疫情期間的真實(shí)經(jīng)歷。然而也并非所有的社交機(jī)器人都在支持特朗普,也有反對(duì)特朗普立場(chǎng)的社交機(jī)器人,社交媒體上的社交機(jī)器人像人類一樣擁有政治傾向性、擁有多元化的觀點(diǎn)。在社交媒體上部署這些社交機(jī)器人的個(gè)人或團(tuán)隊(duì)也是多元構(gòu)成的,一項(xiàng)對(duì)歐洲49個(gè)國(guó)家2247位歐洲通信領(lǐng)域?qū)<业恼{(diào)查發(fā)現(xiàn),有257位(11.5%)表示他們所在的組織正在使用或計(jì)劃使用社交機(jī)器人。這些機(jī)構(gòu)或組織或?qū)儆诓煌瑖?guó)家、或有著不同利益驅(qū)動(dòng)、或持有不同政治意見(jiàn),恰恰也表明了社交機(jī)器人背后使用主體的多元構(gòu)成。

    本文也存在一定的局限性。第一,轉(zhuǎn)發(fā)行為一定程度上代表著對(duì)某種觀點(diǎn)的認(rèn)同,本文沒(méi)有對(duì)轉(zhuǎn)發(fā)背后多大程度上改變了人類用戶的態(tài)度,這種影響是強(qiáng)化、弱化還是扭轉(zhuǎn)進(jìn)行探究;第二,社交媒體上的互動(dòng)除“轉(zhuǎn)發(fā)”之外還有其他形式,本文只選取較具代表性的“轉(zhuǎn)發(fā)”來(lái)分析,未來(lái)可以從其他互動(dòng)方式入手進(jìn)行補(bǔ)充完善。

    注釋:

    ①Howard P N, Woolley S, Calo R. Algorithms, bots, and political communication in the US 2016 election: The challenge of automated political communication for election law and administration. Journal of information technology & politics, 2018, 15(2): 81-93.

    ②張洪忠、段澤寧、韓秀:《異類還是共生——社交媒體中的社交機(jī)器人研究路徑探討》,《新聞界》2019年第2期。

    ③Ferrara E, Varol O, Davis C, et al. The rise of social bots. Communications of the ACM, 2016, 59(7): 96-104.

    ④喻國(guó)明:《關(guān)于智能時(shí)代新聞傳播學(xué)科建設(shè)的若干思考》,《教育傳媒研究》2020年第2期。

    ⑤張洪忠、趙蓓、石韋穎:《社交機(jī)器人在Twitter參與中美貿(mào)易談判議題的行為分析》,《新聞界》2020年第2期。

    ⑥Howard P N, Bolsover G, Kollanyi B, et al. Junk news and bots during the US election: What were Michigan voters sharing over Twitter. CompProp, OII, Data Memo, 2017.

    ⑦Bastos M T, Mercea D. The Brexit botnet and user-generated hyperpartisan news. Social Science Computer Review, 2019, 37(1): 38-54.

    ⑧Ferrara E. Disinformation and social bot operations in the run up to the 2017 French presidential election. arXiv preprint arXiv:1707.00086, 2017.

    ⑨Luceri L, Deb A, Badawy A, et al. Red bots do it better: Comparative analysis of social bot partisan behavior[C]//Companion Proceedings of The 2019 World Wide Web Conference. 2019: 1007-1012.

    ⑩Howard P, Kollanyi B, Woolley S C. Bots and automation over Twitter during the third US presidential debate. 2016.

    Keller T R, Klinger U. Social bots in election campaigns: Theoretical, empirical, and methodological implications. Political Communication, 2019, 36(1): 171-189.

    Yuan X, Schuchard R J, Crooks A T. Examining Emergent Communities and Social Bots Within the Polarized Online Vaccination Debate in Twitter. Social Media+ Society, 2019, 5(3): 2056305119865465.

    Kitzie V L, Mohammadi E, Karami A. “Life never matters in the DEMOCRATS MIND”: Examining strategies of retweeted social bots during a mass shooting event. Proceedings of the Association for Information Science and Technology, 2018, 55(1): 254-263.

    Ferrara E. # COVID-19 on Twitter: Bots, Conspiracies, and Social Media Activism. arXiv preprint arXiv:2004.09531, 2020.

    Stella M, Ferrara E, De Domenico M. Bots increase exposure to negative and inflammatory content in online social systems. Proceedings of the National Academy of Sciences, 2018, 115(49): 12435-12440.

    Shao C, Ciampaglia G L, Varol O, et al. The spread of low-credibility content by social bots. Nature communications, 2018, 9(1): 1-9.

    Ku?en E, Strembeck M. You talkinto me? Exploring Human/Bot Communication Patterns during Riot Events. Information Processing & Management, 2020, 57(1): 102126.

    師文、陳昌鳳:《分布與互動(dòng)模式:社交機(jī)器人操縱Twitter上的中國(guó)議題研究》,《國(guó)際新聞界》2020年第5期。

    Pulido C M, Villarejo-Carballido B, Redondo-Sama G, et al. COVID-19 infodemic: More retweets for science-based information on coronavirus than for false information. International Sociology, 2020: 0268580920914755.

    Ross B, Pilz L, Cabrera B, et al. Are social bots a real threat? An agent-based model of the spiral of silence to analyse the impact of manipulative actors in social networks. European Journal of Information Systems, 2019, 28(4): 394-412.

    Zerback T, T?pfl F, Kn?pfle M. The disconcerting potential of online disinformation: Persuasive effects of astroturfing comments and three strategies for inoculation against them. New Media & Society, 2020: 1461444820908530.

    韓運(yùn)榮、漆雪:《Twitter涉華輿情極化現(xiàn)象研究——以中美貿(mào)易爭(zhēng)端為例》,《現(xiàn)代傳播(中國(guó)傳媒大學(xué)學(xué)報(bào))》2019第3期。

    Hagen L, Neely S, Keller T E, et al. Rise of the Machines? Examining the Influence of Social Bots on a Political Discussion Network. Social Science Computer Review, 2020: 0894439320908190.

    Wiesenberg M, Tench R. Deep strategic mediatization: Organizational leaders knowledge and usage of social bots in an era of disinformation. International Journal of Information Management, 2020, 51: 102042.

    猜你喜歡
    社交媒體新冠肺炎疫情
    運(yùn)用大數(shù)據(jù)技術(shù)提升公共危機(jī)應(yīng)對(duì)能力
    前線(2020年3期)2020-03-13 15:08:37
    首都都市圈區(qū)域聯(lián)防聯(lián)控機(jī)制探析
    前線(2020年3期)2020-03-13 15:08:37
    新冠肺炎疫情早期科學(xué)研究對(duì)政府決策的影響
    治理研究(2020年2期)2020-03-13 08:10:15
    新冠肺炎疫情防控中的公共治理機(jī)制:信息、決策與執(zhí)行
    治理研究(2020年2期)2020-03-13 08:10:15
    新冠肺炎疫區(qū)高校大學(xué)生的精神狀態(tài)與行為應(yīng)對(duì)
    治理研究(2020年2期)2020-03-13 08:10:15
    公共衛(wèi)生學(xué)科作用在新冠肺炎疫情防控中的凸顯
    治理研究(2020年2期)2020-03-13 08:10:15
    社交媒體視域下弱勢(shì)群體輿情表達(dá)研究
    移動(dòng)互聯(lián)網(wǎng)時(shí)代用戶在線社交變遷及動(dòng)因分析
    知識(shí)零售變現(xiàn)模式的問(wèn)題與思考
    基于社交媒體的廣告學(xué)專業(yè)教學(xué)改革與實(shí)踐
    99久久精品热视频| 亚洲aⅴ乱码一区二区在线播放| 哪里可以看免费的av片| 久久午夜亚洲精品久久| 国产色爽女视频免费观看| 成年版毛片免费区| 老熟妇仑乱视频hdxx| 宅男免费午夜| www.www免费av| 国产中年淑女户外野战色| 蜜桃亚洲精品一区二区三区| 亚洲国产欧美网| av天堂中文字幕网| 日韩欧美国产在线观看| 国内久久婷婷六月综合欲色啪| 久久精品国产综合久久久| 国产黄色小视频在线观看| 欧美午夜高清在线| 日韩人妻高清精品专区| 变态另类成人亚洲欧美熟女| 老师上课跳d突然被开到最大视频 久久午夜综合久久蜜桃 | 欧美日韩黄片免| 日韩欧美国产一区二区入口| 亚洲国产精品sss在线观看| www.色视频.com| 天堂√8在线中文| 乱人视频在线观看| 一个人观看的视频www高清免费观看| 俺也久久电影网| 成人av在线播放网站| 欧美3d第一页| 国产色爽女视频免费观看| 美女被艹到高潮喷水动态| 波多野结衣巨乳人妻| 日韩免费av在线播放| 欧美黑人欧美精品刺激| 午夜福利视频1000在线观看| 99热精品在线国产| 一进一出抽搐gif免费好疼| 欧美黑人欧美精品刺激| 国产真实乱freesex| 亚洲第一电影网av| 一区二区三区激情视频| 久久精品国产清高在天天线| www.www免费av| 成人18禁在线播放| av天堂中文字幕网| 长腿黑丝高跟| av片东京热男人的天堂| 熟妇人妻久久中文字幕3abv| 精华霜和精华液先用哪个| 欧美日韩中文字幕国产精品一区二区三区| 亚洲五月天丁香| 成年女人毛片免费观看观看9| 成人永久免费在线观看视频| 啦啦啦免费观看视频1| 亚洲av一区综合| 99久久精品国产亚洲精品| 一区二区三区国产精品乱码| 久久精品人妻少妇| 亚洲av电影在线进入| 国产麻豆成人av免费视频| 日日夜夜操网爽| 我的老师免费观看完整版| 少妇的逼好多水| 午夜精品久久久久久毛片777| 日日夜夜操网爽| 精品电影一区二区在线| 亚洲av电影在线进入| 老司机午夜十八禁免费视频| 亚洲一区二区三区不卡视频| 一a级毛片在线观看| 女人十人毛片免费观看3o分钟| 国产v大片淫在线免费观看| 欧美绝顶高潮抽搐喷水| av国产免费在线观看| 亚洲七黄色美女视频| 99久国产av精品| 熟妇人妻久久中文字幕3abv| 亚洲片人在线观看| 亚洲精华国产精华精| 国内久久婷婷六月综合欲色啪| 精品不卡国产一区二区三区| 中文字幕人妻丝袜一区二区| 久久久国产成人免费| 国产精品电影一区二区三区| 亚洲精品亚洲一区二区| 欧美日韩乱码在线| 在线播放国产精品三级| 一个人看的www免费观看视频| 五月伊人婷婷丁香| 69av精品久久久久久| 国产成人欧美在线观看| 深爱激情五月婷婷| 无人区码免费观看不卡| 午夜福利视频1000在线观看| 久久九九热精品免费| 一进一出抽搐动态| 蜜桃久久精品国产亚洲av| 免费av观看视频| 搡老熟女国产l中国老女人| 成人亚洲精品av一区二区| av天堂中文字幕网| 人人妻人人看人人澡| 色综合婷婷激情| 老熟妇仑乱视频hdxx| 亚洲电影在线观看av| 我的老师免费观看完整版| 日韩欧美三级三区| 麻豆国产97在线/欧美| 亚洲精品色激情综合| 亚洲av日韩精品久久久久久密| 99热6这里只有精品| 成年人黄色毛片网站| 1024手机看黄色片| 免费在线观看成人毛片| 欧美中文综合在线视频| 国产成人a区在线观看| 啦啦啦观看免费观看视频高清| 久久久精品大字幕| 国产视频内射| 日本一本二区三区精品| 亚洲成av人片在线播放无| 久久久久国产精品人妻aⅴ院| 嫩草影院入口| 国产黄a三级三级三级人| 国产91精品成人一区二区三区| 五月玫瑰六月丁香| 国产av不卡久久| 最近最新中文字幕大全免费视频| 麻豆成人午夜福利视频| 久久6这里有精品| 亚洲国产欧洲综合997久久,| 国产精品日韩av在线免费观看| 亚洲精品粉嫩美女一区| 成人无遮挡网站| 国产成人啪精品午夜网站| 欧美国产日韩亚洲一区| 精品国内亚洲2022精品成人| 国产免费男女视频| 亚洲精品一卡2卡三卡4卡5卡| 久久精品91蜜桃| 男人舔奶头视频| 国产精品一区二区三区四区免费观看 | 亚洲第一欧美日韩一区二区三区| 99久久成人亚洲精品观看| 日本在线视频免费播放| 国语自产精品视频在线第100页| 村上凉子中文字幕在线| 在线免费观看的www视频| 欧美性猛交黑人性爽| 成人无遮挡网站| 精品久久久久久成人av| 欧美中文综合在线视频| 亚洲av中文字字幕乱码综合| 精品福利观看| 男女做爰动态图高潮gif福利片| 国产伦人伦偷精品视频| 亚洲精华国产精华精| e午夜精品久久久久久久| 天堂网av新在线| 欧美不卡视频在线免费观看| 精品国产美女av久久久久小说| 亚洲熟妇熟女久久| 亚洲激情在线av| 丰满人妻一区二区三区视频av | 夜夜爽天天搞| 久99久视频精品免费| 亚洲国产精品久久男人天堂| 免费av观看视频| 久久国产乱子伦精品免费另类| 国产精品久久久人人做人人爽| 午夜亚洲福利在线播放| 母亲3免费完整高清在线观看| 岛国在线免费视频观看| 男插女下体视频免费在线播放| 桃红色精品国产亚洲av| 热99re8久久精品国产| 亚洲成人久久爱视频| 精品无人区乱码1区二区| 国产精品野战在线观看| 在线观看av片永久免费下载| 成人三级黄色视频| 亚洲精品色激情综合| 51午夜福利影视在线观看| 亚洲av不卡在线观看| 在线播放无遮挡| 麻豆久久精品国产亚洲av| 18禁黄网站禁片免费观看直播| 国产精品久久久久久久电影 | 91麻豆精品激情在线观看国产| 精品久久久久久久毛片微露脸| 色吧在线观看| 噜噜噜噜噜久久久久久91| 国产精品一区二区三区四区久久| 宅男免费午夜| 亚洲av日韩精品久久久久久密| 啪啪无遮挡十八禁网站| e午夜精品久久久久久久| 国产 一区 欧美 日韩| 免费av观看视频| 亚洲专区中文字幕在线| 搡女人真爽免费视频火全软件 | 制服丝袜大香蕉在线| 麻豆成人午夜福利视频| 制服人妻中文乱码| 特级一级黄色大片| 1000部很黄的大片| 国产91精品成人一区二区三区| 欧美日韩乱码在线| 中文字幕精品亚洲无线码一区| 国产成人av激情在线播放| 免费无遮挡裸体视频| 国产一区二区三区视频了| 国产91精品成人一区二区三区| 欧美在线一区亚洲| 欧美成狂野欧美在线观看| 特大巨黑吊av在线直播| 日韩欧美在线乱码| 999久久久精品免费观看国产| 欧美bdsm另类| 国产91精品成人一区二区三区| 九色成人免费人妻av| 久久久久国内视频| aaaaa片日本免费| 成人18禁在线播放| 老司机深夜福利视频在线观看| 人妻夜夜爽99麻豆av| 亚洲精品亚洲一区二区| 亚洲熟妇熟女久久| 好男人在线观看高清免费视频| 久久国产精品人妻蜜桃| 欧美最新免费一区二区三区 | 欧美绝顶高潮抽搐喷水| 熟妇人妻久久中文字幕3abv| 国产老妇女一区| 欧美一区二区精品小视频在线| 少妇的逼好多水| 操出白浆在线播放| 国产激情偷乱视频一区二区| 少妇熟女aⅴ在线视频| av天堂在线播放| 亚洲熟妇熟女久久| 操出白浆在线播放| 成人一区二区视频在线观看| 在线天堂最新版资源| 久久久成人免费电影| 日日干狠狠操夜夜爽| 午夜激情福利司机影院| 免费观看精品视频网站| 全区人妻精品视频| 成人三级黄色视频| 一个人免费在线观看电影| 91麻豆av在线| av福利片在线观看| 日韩成人在线观看一区二区三区| 香蕉丝袜av| 亚洲精品456在线播放app | 三级毛片av免费| 蜜桃亚洲精品一区二区三区| 欧美日本视频| 日本免费一区二区三区高清不卡| 丰满的人妻完整版| 最后的刺客免费高清国语| 欧美中文综合在线视频| 伊人久久精品亚洲午夜| 好男人电影高清在线观看| 亚洲av免费在线观看| 日本 欧美在线| 亚洲国产中文字幕在线视频| 国产精品 欧美亚洲| 无限看片的www在线观看| 欧美激情久久久久久爽电影| 亚洲国产精品999在线| av在线天堂中文字幕| 女人被狂操c到高潮| av专区在线播放| 午夜福利高清视频| 久久久久久国产a免费观看| 一进一出抽搐动态| 窝窝影院91人妻| 精品电影一区二区在线| 亚洲精品粉嫩美女一区| 亚洲国产色片| 夜夜躁狠狠躁天天躁| 嫩草影视91久久| 噜噜噜噜噜久久久久久91| 51国产日韩欧美| 欧美+日韩+精品| 欧美日本亚洲视频在线播放| av在线天堂中文字幕| 国产精品美女特级片免费视频播放器| 国产伦精品一区二区三区四那| 精品国产亚洲在线| 欧美一区二区国产精品久久精品| 久久九九热精品免费| 久久久精品大字幕| 精品人妻偷拍中文字幕| 舔av片在线| 夜夜夜夜夜久久久久| 无限看片的www在线观看| 三级男女做爰猛烈吃奶摸视频| 国产极品精品免费视频能看的| 两个人的视频大全免费| 成人三级黄色视频| 老汉色av国产亚洲站长工具| 国产精品久久久久久久久免 | www国产在线视频色| 欧美日韩精品网址| 琪琪午夜伦伦电影理论片6080| 嫁个100分男人电影在线观看| 亚洲avbb在线观看| 国产精品久久久久久久电影 | 中文字幕久久专区| 亚洲精品亚洲一区二区| 岛国在线免费视频观看| 国产aⅴ精品一区二区三区波| 一区二区三区高清视频在线| 嫩草影院精品99| 国产久久久一区二区三区| 亚洲精品在线美女| 一个人免费在线观看的高清视频| 亚洲欧美精品综合久久99| 日韩中文字幕欧美一区二区| 90打野战视频偷拍视频| 99久久综合精品五月天人人| 亚洲精品在线美女| 在线观看美女被高潮喷水网站 | 国产精品一区二区免费欧美| 热99在线观看视频| 成人18禁在线播放| 久久精品国产清高在天天线| svipshipincom国产片| av国产免费在线观看| 又爽又黄无遮挡网站| 久久欧美精品欧美久久欧美| 午夜激情福利司机影院| 女人高潮潮喷娇喘18禁视频| 首页视频小说图片口味搜索| 村上凉子中文字幕在线| 国产成人欧美在线观看| 少妇人妻一区二区三区视频| 少妇的丰满在线观看| 精品人妻1区二区| 一进一出抽搐动态| 精品人妻偷拍中文字幕| 精品无人区乱码1区二区| 亚洲 国产 在线| 麻豆国产av国片精品| 久久久久久国产a免费观看| 国模一区二区三区四区视频| 免费观看精品视频网站| 欧美又色又爽又黄视频| 免费大片18禁| 啦啦啦韩国在线观看视频| 日韩成人在线观看一区二区三区| 一个人观看的视频www高清免费观看| 日日夜夜操网爽| 亚洲欧美日韩无卡精品| 日韩高清综合在线| 麻豆一二三区av精品| 午夜福利欧美成人| av女优亚洲男人天堂| 欧美日韩瑟瑟在线播放| 长腿黑丝高跟| 国产精品久久电影中文字幕| 亚洲专区中文字幕在线| 欧美成人a在线观看| 午夜日韩欧美国产| 国产蜜桃级精品一区二区三区| 亚洲欧美激情综合另类| 国产精品亚洲一级av第二区| 乱人视频在线观看| 国产精品一区二区免费欧美| 午夜福利欧美成人| 色尼玛亚洲综合影院| 99久久精品热视频| 真实男女啪啪啪动态图| 国产av不卡久久| 国产色婷婷99| 国产一区二区激情短视频| 天堂av国产一区二区熟女人妻| 成年女人永久免费观看视频| 亚洲国产日韩欧美精品在线观看 | 亚洲欧美日韩高清在线视频| 国产精品日韩av在线免费观看| 波多野结衣巨乳人妻| 精品久久久久久久毛片微露脸| 韩国av一区二区三区四区| 舔av片在线| 国产伦一二天堂av在线观看| 九色成人免费人妻av| 国产精品 欧美亚洲| 中文字幕人妻熟人妻熟丝袜美 | 亚洲午夜理论影院| 久久中文看片网| 一卡2卡三卡四卡精品乱码亚洲| 国产成人系列免费观看| 美女高潮的动态| 日本与韩国留学比较| 亚洲欧美日韩卡通动漫| 无限看片的www在线观看| 舔av片在线| 免费一级毛片在线播放高清视频| 亚洲国产欧洲综合997久久,| 国产又黄又爽又无遮挡在线| 草草在线视频免费看| 亚洲精品456在线播放app | 国产亚洲精品综合一区在线观看| 高清日韩中文字幕在线| x7x7x7水蜜桃| 亚洲国产高清在线一区二区三| 国产精品久久久久久人妻精品电影| 免费看光身美女| 舔av片在线| 免费在线观看日本一区| 身体一侧抽搐| 舔av片在线| 九色国产91popny在线| 精品久久久久久,| 午夜精品在线福利| 欧美日韩瑟瑟在线播放| 有码 亚洲区| 尤物成人国产欧美一区二区三区| 亚洲精品在线观看二区| a在线观看视频网站| 亚洲无线观看免费| 天堂动漫精品| 内地一区二区视频在线| 国产三级中文精品| 日韩欧美精品免费久久 | 国产亚洲精品av在线| 在线免费观看的www视频| 91麻豆av在线| www.色视频.com| 久久人妻av系列| 亚洲av成人av| 免费av观看视频| 日韩欧美免费精品| 欧美激情久久久久久爽电影| 久久久久九九精品影院| 身体一侧抽搐| 少妇人妻精品综合一区二区 | 网址你懂的国产日韩在线| 一个人观看的视频www高清免费观看| 亚洲精品一卡2卡三卡4卡5卡| 午夜福利在线观看吧| 九九在线视频观看精品| 亚洲av免费高清在线观看| 国产精品综合久久久久久久免费| 99精品久久久久人妻精品| 精品国产超薄肉色丝袜足j| 麻豆成人午夜福利视频| 无遮挡黄片免费观看| 亚洲精品乱码久久久v下载方式 | 一本综合久久免费| 女人十人毛片免费观看3o分钟| 欧美区成人在线视频| 免费观看的影片在线观看| 亚洲 国产 在线| 蜜桃亚洲精品一区二区三区| 美女黄网站色视频| 欧美高清成人免费视频www| 最近最新中文字幕大全免费视频| 日本黄色视频三级网站网址| 99热6这里只有精品| 此物有八面人人有两片| 亚洲欧美精品综合久久99| 国产私拍福利视频在线观看| 午夜免费男女啪啪视频观看 | 人妻夜夜爽99麻豆av| 97超级碰碰碰精品色视频在线观看| 少妇丰满av| 国产aⅴ精品一区二区三区波| 久久香蕉国产精品| 757午夜福利合集在线观看| 欧美成人一区二区免费高清观看| 两个人的视频大全免费| 亚洲一区高清亚洲精品| 久久99热这里只有精品18| 精品国内亚洲2022精品成人| 国产精品女同一区二区软件 | 国内精品一区二区在线观看| 最后的刺客免费高清国语| 国产乱人视频| 老司机午夜福利在线观看视频| 高清日韩中文字幕在线| 日韩欧美在线乱码| 精品久久久久久久末码| 日韩免费av在线播放| 99久久综合精品五月天人人| 五月玫瑰六月丁香| 黑人欧美特级aaaaaa片| 亚洲激情在线av| 一区二区三区国产精品乱码| 最近最新中文字幕大全免费视频| 国产一区二区三区视频了| 国产真实乱freesex| 亚洲乱码一区二区免费版| 黄色丝袜av网址大全| 哪里可以看免费的av片| 日韩国内少妇激情av| www.www免费av| 日本免费一区二区三区高清不卡| 成熟少妇高潮喷水视频| 九色成人免费人妻av| 天堂av国产一区二区熟女人妻| 91在线精品国自产拍蜜月 | 午夜激情欧美在线| 婷婷六月久久综合丁香| 波多野结衣巨乳人妻| 99久久无色码亚洲精品果冻| 午夜福利高清视频| 中出人妻视频一区二区| 亚洲国产精品999在线| 亚洲一区高清亚洲精品| 无遮挡黄片免费观看| 51国产日韩欧美| 国产视频一区二区在线看| 色精品久久人妻99蜜桃| 日韩中文字幕欧美一区二区| 男人和女人高潮做爰伦理| 国产一级毛片七仙女欲春2| 好男人在线观看高清免费视频| av在线蜜桃| 一本一本综合久久| 久久精品人妻少妇| 久久精品国产99精品国产亚洲性色| 国产成人系列免费观看| 国产精品永久免费网站| 18禁国产床啪视频网站| 国产在视频线在精品| 欧美黄色片欧美黄色片| 丁香六月欧美| 国产精品自产拍在线观看55亚洲| 国产免费男女视频| 亚洲国产精品成人综合色| 熟女电影av网| 精品熟女少妇八av免费久了| 国产三级在线视频| 亚洲av不卡在线观看| 91麻豆精品激情在线观看国产| 日本一本二区三区精品| 欧美日韩中文字幕国产精品一区二区三区| 少妇的逼水好多| 免费看美女性在线毛片视频| 特级一级黄色大片| 欧美xxxx黑人xx丫x性爽| 12—13女人毛片做爰片一| 亚洲成a人片在线一区二区| 亚洲片人在线观看| 午夜久久久久精精品| 亚洲精品色激情综合| 欧美一级a爱片免费观看看| 五月玫瑰六月丁香| 一级毛片高清免费大全| 欧美日韩乱码在线| av福利片在线观看| 免费看十八禁软件| 不卡一级毛片| 热99re8久久精品国产| 亚洲精品在线观看二区| 成人亚洲精品av一区二区| 亚洲av美国av| 免费av观看视频| 岛国在线免费视频观看| 波野结衣二区三区在线 | 国产精品亚洲av一区麻豆| 亚洲精品日韩av片在线观看 | 成人精品一区二区免费| 少妇裸体淫交视频免费看高清| 伊人久久精品亚洲午夜| 日本 欧美在线| 99视频精品全部免费 在线| 性色av乱码一区二区三区2| 小说图片视频综合网站| 精品熟女少妇八av免费久了| 无遮挡黄片免费观看| 色尼玛亚洲综合影院| 五月玫瑰六月丁香| 在线国产一区二区在线| 狠狠狠狠99中文字幕| 成人高潮视频无遮挡免费网站| 免费搜索国产男女视频| 欧美日韩综合久久久久久 | 国产激情欧美一区二区| 亚洲狠狠婷婷综合久久图片| 熟妇人妻久久中文字幕3abv| 嫩草影院入口| 欧美三级亚洲精品| 18禁黄网站禁片午夜丰满| 伊人久久大香线蕉亚洲五| 色视频www国产| 村上凉子中文字幕在线| 欧美一级毛片孕妇| 草草在线视频免费看| 欧美另类亚洲清纯唯美| av欧美777| 两个人看的免费小视频| 99在线人妻在线中文字幕| 看黄色毛片网站| 两个人视频免费观看高清| 国语自产精品视频在线第100页| 黄片大片在线免费观看| 成人av一区二区三区在线看| 国产麻豆成人av免费视频| 18禁黄网站禁片免费观看直播| 亚洲不卡免费看| 美女高潮喷水抽搐中文字幕| 丁香六月欧美| 亚洲av一区综合| 精品不卡国产一区二区三区| 久久久久国内视频| 亚洲 国产 在线| 国产v大片淫在线免费观看|