• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    國外社交機器人研究熱點與趨勢:基于WOS數(shù)據(jù)庫的可視化分析

    2025-06-18 00:00:00李潔劉一伶
    教育傳媒研究 2025年3期
    關鍵詞:人類信息研究

    ResearchHotspotsand Trends of Social BotsAbroad:A Visual AnalysisBasedon the WOS Database

    LI Jie,LIU Yi-ling

    Abstract:The research on“Social Bots”has emergedasaprominent focal point in the relevant academic field Conductingavisualizationanalysis withinthisdomaincanelucidateitsdevelopmentaltrajectoryandevolutionarycontext. This paperutilizes CiteSpace software toanalyze704 English-language articles that were indexed inthe Webof Science CoreCollectionfromo2to23.Itdssectsthepublicationcharacteristics,evolutionaryprocessresearchhotspotsnd thematiccontent of international Social Bot research,thus comprehensively portraying the research panorama.

    Keywords:socialbots;CiteSpace;literaturereview;visualization

    社交機器人(SocialBots),指的是一種自動控制的智能程序,具體指在社交網(wǎng)絡中模仿真實人類自主生產(chǎn)內(nèi)容、進行交流互動的社交賬戶。①隨著機器學習、語音識別、自然語言處理和生成方面的進步,社交機器人拋棄了笨重的“身體”,變得更具“對話”性質(zhì),能夠以虛擬形象模仿真人用戶在社交網(wǎng)絡中完成點贊、評論、轉(zhuǎn)發(fā)和對話等任務操作。②有研究估計,F(xiàn)acebook平臺上大約有 11% 的活躍賬戶為社交機器人,X平臺上大約有 15% 的活躍賬戶為社交機器人。③從全球范圍看,社交機器人廣泛地參與在線交流,已經(jīng)成為社交媒體中重要的內(nèi)容生產(chǎn)與傳播主體。

    社交機器人具有廣泛的應用場景,早期被用于商業(yè)營銷、醫(yī)療輔助,后來被政治團體、軍隊等用于操控網(wǎng)絡輿論和散播虛假信息,對網(wǎng)絡空間環(huán)境和社會發(fā)展產(chǎn)生了極大的影響,也迅速引起學術界的關注和討論。④大量調(diào)查表明,近年來國際上許多社會公共議題的線上討論中,都出現(xiàn)了“機器人大軍”的介入和干擾。比如,2016年美國大選、2017年法國大選,以及近年來的“烏克蘭危機”“巴以沖突”等,都有社交機器人操控輿論和散播虛假信息問題。受經(jīng)濟利益或政治需求的驅(qū)動,社交機器人的比例還在不斷增加,逐漸成為計算宣傳的新型工具,也為各國信息安全、輿論環(huán)境安全帶來了隱患,因此備受關注。③

    國外學者最先關注社交機器人領域,并展開了諸多研究,但鮮有研究對國外社交機器人研究的文獻進行回顧和梳理。為此,本文以WebofScience核心集論文為數(shù)據(jù)來源,運用CiteSpace軟件,對國外社交機器人研究文獻進行計量分析,以可視化方式呈現(xiàn)該領域研究的發(fā)展過程和演進脈絡,為未來相關研究提供參考。根據(jù)文獻情況,本文將重點回答如下問題:

    第一,國外社交機器人研究文獻具有何種特征?第二,國外社交機器人研究可以分為幾個階段?不同階段有何特點?第三,國外社交機器人研究有何演進趨勢?第四,國外社交機器人研究的主要內(nèi)容有哪些?希望通過回答上述問題,揭示國外社交機器人研究的現(xiàn)狀、前沿與未來發(fā)展趨勢,以推動該領域的進一步發(fā)展。

    一、研究方法與數(shù)據(jù)來源

    (一)研究方法

    使用CiteSpace軟件(6.3R1版本)對國外社交機器人研究文獻進行可視化分析。CiteSpace是基于Java環(huán)境開發(fā)的一款信息可視化軟件,不僅可以多角度挖掘研究領域中的開創(chuàng)性文獻、關鍵文獻和重要議題,而且可以通過文獻計量學分析,探索領域研究的基礎知識、結(jié)構關系和發(fā)展脈絡。本文運用該軟件開展了國外社交機器人研究領域的發(fā)文特征分析(發(fā)文量、機構、作者、期刊、高被引文獻)、演進路徑分析(關鍵詞時區(qū)圖、關鍵詞突變)、熱點主題分析(高頻關鍵詞、關鍵詞聚類分析),形成國外社交機器人研究的知識圖譜,展現(xiàn)了該領域研究的完整圖景。

    (二)數(shù)據(jù)來源

    研究文獻數(shù)據(jù)來源于WebofScience核心合集。為了提高檢索文獻的精準性,確保選取的文獻具有代表性,檢索條件設置為主題包含“SocialBot”或“SocialBots”或“Socialbots”或“Socialmediabots”或“Internetbot”或“Politicalbots”或“Twitterbots”的方式進行文獻檢索。為了體現(xiàn)國外社交機器人研究從萌芽至今的整個歷程,時間設置選擇截至2023年,檢索時間為2024年7月16日,總計檢索1364篇文獻。為了確保文獻質(zhì)量和有效性,篩選剔除了卷首語、新聞報道、信息公告、書評、會議通知等無關文獻,最終獲得704篇有效文獻,時間跨度為2002年至2023年。

    二、國外社交機器人研究的基本特征

    (一)年度發(fā)文量統(tǒng)計

    文獻數(shù)量在時間序列上的變化趨勢可以展現(xiàn)該領域在學界的關注度和發(fā)展過程。2002年,ChristopherMaher和MargaretCorbit發(fā)表的“CreatingGenetic ApplicationsforInformal ScienceLearninginMulti-userVirtualEnvironments”,討論虛擬博物館GeneBot程序與人類用戶的交互,成為國外社交機器人研究的開端,該領域開始受到關注。如圖1所示,2002年至2013年,年均發(fā)文量僅4篇,處于較低水平。2014年至2017年,年均發(fā)文量16篇,文獻開始明顯增長。特別是Twitter等社交平臺,越來越多地開發(fā)和使用能夠自動發(fā)布推文的社交機器人程序,引起了學者們的廣泛關注。③③2018年進入研究高潮,文獻大量增長,2021年發(fā)文量超過100篇,目前仍呈現(xiàn)不斷增長的趨勢。社交機器人的出現(xiàn)對網(wǎng)絡空間環(huán)境產(chǎn)生了極大的影響,尤其“COVID-19”期間社交機器人引起的“信息疫情”,引發(fā)大量討論。@

    (二)機構分析

    如圖2所示,國外社交機器人研究機構以英美國家的高校為主。其中,卡耐基梅隆大學22篇、印第安納大學伯明頓分校19篇、印第安納大學19篇、倫敦大學15篇、加利福尼亞大學12篇。發(fā)文量較多的還有南加州大學、意大利國家研究委員會和得克薩斯大學奧斯汀分校等機構。研究機構的合作網(wǎng)絡密度為0.012,出現(xiàn)了以卡耐基梅隆大學、加利福尼亞大學和印第安納大學等機構為主的合作團隊,而其他發(fā)文機構之間的合作相對缺乏。

    (三)作者與合作分布

    該領域已出現(xiàn)一批具有較高影響力的作者。如圖3所示,圖譜中包含311個節(jié)點、334條連線,網(wǎng)絡密度為0.0069。發(fā)文量排名前五的研究者為卡耐基梅隆大學的CarleyKathleenM(12篇),印第安納大學的MenczerFilippo(9篇),比薩大學的CresciStefano(7篇),南加州大學的FerraraEmilio(7篇),意大利國家研究委員會的TesconiMaurizio(6篇)。這些研究者針對社交機器人的定義、惡意社交機器人可能帶來的隱患、如何規(guī)避社交機器人帶來的風險等進行了較為深入的研究。學者合作方面,除CarleyKathleenM、Cresci Stefano、MenczerFilippo等學者有合作外,其余學者合作較少。未來研究還需加強學者間的交流與合作,推動社交機器人研究深化。

    圖12002—2023年研究文獻年度分布
    圖2研究機構合作網(wǎng)絡
    圖3研究作者合作網(wǎng)絡

    (五)文獻高被引分析

    特定研究領域?qū)W術成果的共被引文獻軌跡,構成了該領域研究發(fā)展的知識基礎。如圖5,以Reference為知識圖譜網(wǎng)絡節(jié)點進行分析,結(jié)合被引頻次與中心度,對該領域經(jīng)典文獻展開分析。從中心度來看,被引文獻中心度最高的是SnehaKudugunta等人(2018)發(fā)表的“DeepNeuralNetworksforBotDetection”,提出了一種基于上下文長短期記憶(LSTM)架構的深度神經(jīng)網(wǎng)絡來檢測推文中的僵尸程序,為社交機器人檢測研究奠定了基礎。①其次,AhmedAl-Rawi和VishalShukla2O20年發(fā)表的“BotsasActiveNewsPromoters:ADigital AnalysisofCovid-19Tweets”,從辯證的角度揭示了社交機器人在新冠疫情中推廣重要信息的積極作用。從引用頻次看,被引次數(shù)最多的是Emilioferrara等人發(fā)表的論文“TheRiseofSocialBots”,討論了社交機器人的復雜特性、對網(wǎng)絡生態(tài)系統(tǒng)的危害,以及如何區(qū)分社交機器人和人類用戶等。其次是ShaoC發(fā)表的文章“The Spread ofLow-credibility Contentby SocialBots”,討論了社交機器人執(zhí)行信息傳播的路徑和策略??傮w而言,高被引文章的內(nèi)容可分為兩類:一是社交機器人檢測方法研究;二是社交機器人信息傳播機制研究。

    2002年至2023年,該領域研究涉及369種期刊。圖4統(tǒng)計了載文量排名前十的期刊,其中,IEEEACCESS的載文量最大,該期刊具有很高的學術聲譽和影響力,共刊發(fā)了25篇,占總刊發(fā)量的 3.634% 。PLOSONE排名第二,刊文18篇,占比 2.471% 。SOCIALMEDIASOCIETY排名第三,刊文17篇,占比 2.414% 。從期刊類別看,種類繁多,涉及計算機科學、信息科學、醫(yī)學、傳播學等眾多學科,說明社交機器人應用和影響廣泛,引起了普遍討論。

    (四)期刊載文量統(tǒng)計

    標題
    圖4研究文獻被引圖譜"
    圖6關鍵詞時區(qū)圖

    三、國外社交機器人研究的演進路徑

    (一)研究脈絡:關鍵詞時區(qū)圖

    圖6為關鍵詞時區(qū)圖(Timezone),即從時間維度和關鍵詞變化來呈現(xiàn)國外社交機器人研究的演進過程。圖中節(jié)點的位置代表了關鍵詞首次出現(xiàn)的年份,連線的數(shù)量則代表該關鍵詞的活躍程度。整體而言,國外社交機器人研究大致可分為三個階段。

    1.起步階段(2002年至2013年)

    自2002年始,國外學者開始關注社交機器人。這一階段的研究文獻較少,主要出現(xiàn)的高頻關鍵詞有“communication(傳播)”“impact(影響)”“model(模型)”“socialnetwork(社交網(wǎng)絡)”“behavior(行為)”等。發(fā)展初期,社交機器人的技術程序還較為簡單,應用場景也不廣泛,沒有引起學界太多關注,研究主題也比較分散。對于社交機器人的出現(xiàn),學者們比較關心人類對其的看法,著重分析了人類對社交機器人的認知和態(tài)度,發(fā)現(xiàn)人類與社交機器人交流時,會將其視為具有一定人格和社會屬性的存在。學者們還很關心社交機器人是如何進行信息處理的,分析了社交機器人在交互過程中的認知處理過程。有學者還關注了社交機器人的行為特征,以及如何在社交網(wǎng)絡空間辨識社交機器人賬號。另有一些學者討論了社交機器人在醫(yī)學、健康領域的作用。?雖然起步階段文獻較少,內(nèi)容也較零散,但是這些成果為后續(xù)研究的深入奠定了基礎。

    2.成長階段(2014年至2017年)

    2014年起,社交機器人研究變得活躍,研究文獻開始顯著增長。該階段主要的高頻關鍵詞有“social media(社交媒體)”“socialbots(社交機器人)”“media(媒體)”“twitter(X,推特)”“machine learning(機器學習)”等。隨著Twitter(X)、Facebook等社交平臺越來越多地使用社交機器人,且社交機器人在股票操作、政治選舉、政治運動等爭議性話題討論中展現(xiàn)出超強的輿論引導和控制效果后,學者們對該領域的關注度越來越高。這一階段學者們不僅對社交機器人的定義有了更全面的概括,還闡釋了社交機器人的技術特點和發(fā)展過程。@同時,一部分學者開始探索社交機器人的輿論操控機制@,一部分學者聚焦于討論社交機器人對網(wǎng)絡環(huán)境、社會政治的各種影響。鑒于惡意機器人的破壞作用,以及社交機器人的隱蔽性和快速進化,開始重點關注社交機器人的檢測技術,致力于提高對社交機器人的可控性。整體而言,這是社交機器人研究的一個重要轉(zhuǎn)折階段,“社交機器人影響機制”和“社交機器人檢測”兩個重要的研究主題進人視野。

    3.快速發(fā)展階段(2018年至2023年)

    2018年,國外社交機器人研究進入快速發(fā)展階段。該階段主要的高頻關鍵詞涉及“fakenews(虛假信息)”“artificial intelligence(人工智能)”“news(新聞)”“networks(網(wǎng)絡)”“bot detection(機器人檢測)”等。這一階段研究成果呈井噴式涌現(xiàn),研究更加深人和精細。受全球性突發(fā)公共衛(wèi)生事件影響,社交機器人在政治宣傳、虛假信息傳播方面獲得廣泛應用,使得社交機器人的研究熱度越來越高。一部分研究分析了社交機器人的信息擴散方式,比如如何針對性發(fā)送信息,并討論這種病毒式擴散方式對信息生態(tài)方面的影響。而一部分學者側(cè)重研究社交機器人信息傳播的社會網(wǎng)絡分析,以及社交機器人模仿人類用戶的交流互動行為,試圖解析其信息傳播內(nèi)在機制。另外,為了減輕惡意社交機器人對網(wǎng)絡環(huán)境和信息傳播造成的不良影響,社交機器人的檢測變得至關重要,更多研究著力于探究高效、精準的檢測和治理方法。 當前,社交機器人研究是熱點議題,且在未來一段時間內(nèi)也將繼續(xù)獲得學界的高度關注。

    (二)前沿議題:關鍵詞突現(xiàn)分析

    突現(xiàn)詞(BurstTerm)分析,是基于關鍵詞的出現(xiàn)頻率提取出某時間段內(nèi)使用頻次激增的關鍵詞,可以反映研究熱點動態(tài)變化的過程。突現(xiàn)詞的值越大,說明關鍵詞受關注度越高;突現(xiàn)詞時間跨度越大,代表影響力越大。圖7顯示了國外社交機器人研究的8個突現(xiàn)詞。

    2017年以前,該領域沒有關鍵詞突現(xiàn)。2017年至2021年,該領域的研究熱點為“bigdata(大數(shù)據(jù))”“online social networks(在線社交網(wǎng)絡)”“fakenews(虛假信息)”“machinelearing(機器學習)”“social networking(online)(社交網(wǎng)絡)”“feature extraction(特征提?。薄?022年至今,該領域的研究熱點為“botdetection(機器人檢測)”“socialbotdetection(社交機器人檢測)”。熱點軌跡呈現(xiàn)兩個特征:一是由關注社交機器人的技術特征轉(zhuǎn)向惡意社交機器人的探測技術方法;二是由關注社交機器人的信息傳播模式轉(zhuǎn)向傳播網(wǎng)絡及機制,尤其關注虛假信息的傳播網(wǎng)絡特征。從突現(xiàn)強度看,“socialnetworking(online)(社交網(wǎng)絡)”的突現(xiàn)值最高為4.8。說明社交機器人是否以及如何對社交網(wǎng)絡環(huán)境產(chǎn)生影響是關注焦點。從影響周期看,突現(xiàn)詞“fakenews(虛假信息)”的影響周期最長,有三年。說明惡意社交機器人推送虛假信息的負面影響這一主題,一直是學者們討論的重點。

    四、外國社交機器人研究的熱點主題

    (一)研究熱點:高頻關鍵詞分析

    分析研究領域的關鍵詞能清晰呈現(xiàn)該領域的熱點與動向。圖8為國外社交機器人研究的關鍵詞共現(xiàn)圖,共563個節(jié)、1903條連線,網(wǎng)絡密度為0.012。頻次排名前五的關鍵詞為“socialmedia(社交媒體)”“social bots(社交機器人)”“media(媒體)”、“twitter(推特)”“fakenews(虛假信息)”,這些關鍵詞占圖譜面積最大,代表了國外社交機器人研究的熱點話題。其中,關鍵詞“socialmedia(社交媒體)”的中心性大于0.1,其為高中心性關鍵詞,與其他關鍵詞基本都有共現(xiàn)關系。關鍵詞“impact(影響)”“model(模型)”“network(網(wǎng)絡)”“artificialintelligence(人工智能)”等也具有高中心性,與其他關鍵詞聯(lián)系也比較緊密。總的來說,高頻關鍵詞圖譜中節(jié)點涌現(xiàn),該領域研究活躍、熱度較高。

    (二)研究主題:關鍵詞聚類分析

    如圖9所示,本文對國外社交機器人研究的關鍵詞進行聚類分析,呈現(xiàn)研究熱點之間的主題聯(lián)系,通常會用模塊值(Q值)與平均輪廓值(S值)來判斷聚類圖譜的繪制效果。結(jié)果顯示,Q值為0.7893( gt;0.3 ),S值為0.9311( gt;0.7 ),說明該領域關鍵詞的聚類效果很顯著且合理。共計形成了9個聚類群,分別是#Osocialbots(社交機器人)、#1socialmedia(社交媒體)、#2artificial intelligence(人工智能)、#3deeplearning(深度學習)、#4bigdata(大數(shù)據(jù))、#5socialnetworks(社交網(wǎng)絡)、#6socialbotdetection(社交機器人檢測)、#7computationalpropaganda(計算宣傳)、#8neuro-developmentaloutcome(神經(jīng)網(wǎng)絡結(jié)果)。聚類編號越小,表示聚類規(guī)模越大,包含的關鍵詞節(jié)點越多。通過整理分析,結(jié)合前期研究,國外社交機器人研究主要聚焦于四大主題:社交機器人的基礎特征、社交機器人檢測與治理、社交機器人信息傳播機制、社交機器人與人類用戶的互動。

    標題
    標題
    圖9關鍵詞聚類圖

    1.社交機器人的基礎特征

    該主題研究熱點包括聚類#Osocialbots(社交機器人)。主要關鍵詞有“networkanalysis(網(wǎng)絡分析)”“onlinesocialnetworks(在線社交網(wǎng)絡)”“behavioral modeling(行為建模)”“simulation(模仿)”等。社交機器人是人工智能技術應用于網(wǎng)絡在線社交的產(chǎn)物,但隨著社交機器人應用領域的泛化,其對政治、社會等產(chǎn)生了顯著的影響,成為重要的討論議題。該主題研究涉及兩個方面:

    第一,社交機器人的概念內(nèi)涵?!癇ots(機器人)”在計算機技術發(fā)展早期就已經(jīng)存在,但主要指的是傳統(tǒng)的具有身體外形的軟件機器人。后來,人工智能技術獲得發(fā)展,設計出了能夠模仿人類行為、進行對話的智能算法程序?!癈hatbot(聊天機器人)”和“Socialbots”便是智能算法技術的產(chǎn)物。學者認為,“Socialbots(社交機器人)”指的是一種計算機程序,可以在社交媒體上自動生成內(nèi)容,并模仿和改變?nèi)祟愑脩粜袨椤S械膶⑵涠x為“在社交媒體上自動書寫和響應消息、模擬人類交流的機器人設備”。也有學者將“Bots”和“Socialbots”都看作是社交平臺上“部分或完全自動化的用戶賬號”。③總體而言,對社交機器人的理解,達成了四個共識:其一“非具身性”,它是一種智能算法程序,沒有身體外形;其二“社交化”,它棲息于社交媒體平臺,通過社交媒體賬號展開信息互動;其三“擬人化”,它能夠?qū)W習并模仿人類交流方式;其四“自的性”,它以執(zhí)行信息任務為自的。

    第二,社交機器人的分類和特征。社交機器人按其意圖可分為良性與惡意兩種。良性的社交機器人,主要是為了提供有益的服務,例如聚合各種來源內(nèi)容的社交機器人、品牌公司用于客戶關懷的社交機器人、自動回復詢問的社交機器人等;而惡意社交機器人,指專門設計實施傷害目的的社交機器人,包括以謠言、垃圾郵件、惡意軟件、錯誤信息、誹謗等方式誤導、利用和操縱社交媒體及公眾的社交機器人。另外,社交機器人大致經(jīng)歷了三代發(fā)展,設計技術越來越復雜,社交行為與人類用戶越來越接近。2011年前的社交機器人屬于第一代,基本不進行偽裝,僅有少量社交活動;2011年后,第二代社交機器人問世,其設計變得復雜,不僅開始偽裝,還會建立社交連接;2016年出現(xiàn)第三代社交機器人,其與真實人類用戶的賬戶高度一致,且善于擴大影響力和自我偽裝。

    2.社交機器人檢測與治理

    這一主題涵蓋聚類#3deeplearning(深度學習)、#6 socialbotdetection(社交機器人檢測)、#5socialnetworks(社交網(wǎng)絡)。主要關鍵詞包括“machinelearning(機器學習)”“botnet(機器人網(wǎng)絡)”“agent-based simulations(智能代理仿真)”“multimedia social network(多媒體社交網(wǎng)絡)”“social networking online(在線社交網(wǎng)絡)”“unsupervised machine learning(無監(jiān)督機器學習)”等。早期,社交機器人主要為用戶提供一些便捷服務,但漸漸遭到濫用,被用于竊取個人隱私、傳播虛假信息或推廣極端主義等。社交機器人的濫用衍生出了諸多安全問題,致使如何有效檢測和治理社交機器人成為熱門話題。該主題包括以下兩個方面:

    第一,社交機器人的檢測技術。受經(jīng)濟、政治等利益需求驅(qū)動,網(wǎng)絡空間中社交機器人的比例不斷增加,提高機器人賬戶的檢測技術,以減輕惡意社交機器人的不良影響成為研究熱點。當前,社交機器人的檢測主要有三種:元數(shù)據(jù)特征檢測、文本特征檢測和社交圖特征檢測。元數(shù)據(jù)特征的檢測方法是從社交賬戶的個人信息中提取特征,然后采用機器學習或深度學習方法對賬戶特征進行分類,實現(xiàn)社交機器人的檢測。文本特征的檢測方法是從賬戶的社交文本中提取特征,然后利用LSTM(長短期記憶)網(wǎng)絡或雙向LSTM網(wǎng)絡對社交文本進行賬戶分類,實現(xiàn)社交機器人的檢測。①社交圖特征檢測是提取社交賬戶的社交圖特征,再利用多層圖卷積神經(jīng)網(wǎng)絡學習賬戶的社交圖特征,進而將其輸入分類網(wǎng)絡實施分類。隨著社交機器人偽裝和隱蔽能力增強,檢測方法研究仍有待提高。

    第二,社交機器人的治理策略。針對惡意社交機器人的入侵和破壞,除了提高社交機器人的檢測技術外,還需要一系列有效的防御和治理策略。自2017年起,美國、歐盟、新加坡、韓國等國家便有意識地開始探索社交機器人的治理策略。至今為止,大體提出了以下幾種策略:一是建立適當?shù)牡赖潞头煽蚣?,例如通過數(shù)據(jù)法、機器人法、人工智能法等法律法規(guī),對社交機器人的泛濫和濫用做出約束。③歐盟是Facebook和X等社交平臺的用戶流量池,也是社交機器人濫用的“重災區(qū)”,因此成為社交機器人治理法規(guī)的探索先鋒。二是通過社交平臺對社交機器人進行監(jiān)管,例如Facebook和X的使用條款中明確“禁止用戶使用假身份”,明確平臺“有審查和限制非法內(nèi)容傳播的義務”。三是通過眾包協(xié)作方式治理社交機器人。有學者提出通過眾包平臺雇傭工人進行社交機器人專門檢測和治理工作??偟膩碚f,社交機器人的治理策略比較分散,隨著技術的演進和矛盾的加劇,社交機器人治理需要體系化和全球化的治理架構。

    3.社交機器人信息傳播機制

    這一主題包含聚類#4bigdata(大數(shù)據(jù))、#7computationalpropaganda(計算宣傳)。涉及的關鍵詞有“sentiment analysis(情感分析)”“fakenews(虛假信息)”“social networkanalysis(社會網(wǎng)絡分析)”“natural language processing(自然語言處理)”“epistemic crisis(認知危機)”“post-filtering(后過濾)”等。社交機器人作為一種不易察覺的“意見環(huán)境塑造者”,能夠通過智能算法擴大和縮小網(wǎng)絡信息流,制造“信息迷霧”,從而實現(xiàn)輿論引導和認知干預。對此,學者們重點研究了社交機器人的信息擴散機理,并討論了社交機器人對政治的影響。

    第一,社交機器人的信息傳播模式。社交機器人的出現(xiàn),建構了一種“人機協(xié)同”的混合傳播模式,更重要的是,只需少量的社交機器人便能改變?nèi)后w中多數(shù)人的意見,有效操縱網(wǎng)絡輿論和社會認知?;诖?,學者們著力于分析社交機器人的信息擴散模式與策略原理。一部分學者聚焦于各國公共議題或重大事件,通過情感分析、社會網(wǎng)絡分析,探索社交機器人的信息擴散模式,比如“議題關聯(lián)”和“煽情傳播”等方式;一部分學者通過挖取數(shù)據(jù),或大規(guī)?;ヂ?lián)網(wǎng)實驗,探究不同傳播策略對目標受眾產(chǎn)生影響的效果和效率;還有一部分學者基于社交機器人的狀態(tài),討論關注、發(fā)文、轉(zhuǎn)發(fā)、點贊等行為策略的作用,發(fā)現(xiàn)關注最為有效。總結(jié)而言,社交機器人具備精確打擊的能力,能夠通過批量轉(zhuǎn)發(fā)和不斷重復特定信息來推動某一議題進入公眾視野。而且社交機器人可以成功滲人社交網(wǎng)絡,并改變既有社交網(wǎng)絡的結(jié)構,促進信息的快速擴散。不過,社交機器人的信息擴散如何進行,特別是虛假信息的傳播驅(qū)動機制和傳播驅(qū)動原理是什么,這些問題仍在探索中。

    第二,社交機器人對政治的影響。社交機器人備受政治黨派、軍隊的青睞,成為實現(xiàn)政治話語滲透的一種新型“計算工具”,對政治傳播具有重要影響。學者們聚焦英國脫歐、美國大選、法國大選、C0VID-19以及各類重大社會議題事件,分析社交機器人在網(wǎng)絡空間中進行政治話語操控的手段,討論社交機器人對政治的影響與意義。@一方面,社交機器人能夠促進政治信息的擴散,有利于民眾的政治參與,增加政民之間的互動;另一方面,社交機器人通過推送大量政治消息、營造虛假的人氣氛圍、傳播虛假政治信息混淆視聽和塑造高度擬人化形象的虛擬意見領袖等手段干預、操控網(wǎng)絡輿論,制造虛假的民意現(xiàn)象。學者們還討論了社交機器人操控公眾意見的影響,不僅影響了正常的公眾輿論表達,加劇了政治的兩極化形式,而且破壞了正常的網(wǎng)絡輿論生態(tài),加深了社會矛盾,更是為濫用、壟斷、霸占政治權力等預留了作用空間。社交機器人已經(jīng)成為一種重要的政治手段,對于政治領域的影響會擴大,并將持續(xù)成為該領域討論的焦點。

    4.社交機器人與人類用戶的互動

    本主題包括聚類#1socialmedia(社交媒體)、#2artificialintelligence(人工智能)、#8neuro-developmentaloutcome(神經(jīng)發(fā)育結(jié)果)。主要關鍵詞包括“human-computerinteraction(人機交互)”“news propaganda(信息宣傳)”“textmining(文本挖掘)”“computational social science(計算社會科學)”“periventricular leukomalacia(室周的腦栓塞)”等。設計社交機器人是為了與人類用戶互動,也正因為這種互動,社交機器人才能在社交媒體中產(chǎn)生巨大的影響。因此,人類對社交機器人的認知和人機互動成為討論熱點。

    第一,人類對社交機器人的認知。從社交機器人研究伊始,學者便十分關注人類對于社交機器人的認知。關注人類用戶對社交機器人的認知與接受,有助于提高人機互動的質(zhì)量,促進社交機器人有益發(fā)展。研究發(fā)現(xiàn),人類對于社交機器人的認知感情,可能源自于傳統(tǒng)具有身體的這些機器人。在認知過程中,人類往往會將自己的情感投射到社交機器人身上,從而形成一種“類人際互動”的模式。大量研究采用調(diào)查實驗等方法,分析發(fā)現(xiàn)人類用戶更傾向于與那些擁有“人格化”特征的社交機器人互動。不過,與社交機器人相比較,人類用戶還是更愿意與真實的人類賬號交流互動。另一方面,有研究指出,人類與社交機器人之間形成的“類人際互動”,可以在一定程度上緩解人類在現(xiàn)實社會交往中的不滿。不過,這種情況也可能導致人類對社交機器人產(chǎn)生情感依賴,進而影響他們在真實社會中的交往能力。

    第二,如何提高人機互動質(zhì)量。人類用戶受到社交機器人的影響參與傳播,會擴大信息影響力,因此分析人類用戶因何接觸和參與社交機器人傳播、如何提高人機互動的質(zhì)量,頗受關注。這類研究大體分為三類:一是分析社交機器人的“擬人化”特征,調(diào)查并檢驗哪些“擬人化”特征容易獲得人類用戶信任,以及人類用戶對其“擬人化”的接受程度。 二是討論互動過程中如何提升人類用戶與社交機器人互動的質(zhì)量。研究發(fā)現(xiàn)除了模擬真實人類用戶賬號特征外,社交機器人展示友誼、互惠、真誠等情感的表達,可以促進人機互動質(zhì)量。三是關注人機互動在醫(yī)療中的輔助作用。醫(yī)療領域很早便探索使用機器人協(xié)助自閉癥等心理、身體疾病的輔助治療,處于人工智能技術應用的前沿。著重討論了如何利用社交機器人與病患互動、交流,并通過這種人機互動輔助相關疾病治療。綜合而言,人類對社交機器人的關系投資與真實人類是相似的,會將真實人類的社交反應、情感互動等應用在社交機器人互動中。@也有學者為此感到擔憂,認為“真實”人類用戶與社交機器人之間的界限日益模糊,可能會引發(fā)人類用戶的疏離感及去人性化的問題。@

    五、研究結(jié)論與展望

    (一)研究結(jié)論

    本文借助CiteSpace軟件,對2002年至2023年在WebofScience上發(fā)表的共704篇社交機器人研究文獻進行可視化分析,對該領域研究的發(fā)文特征、演進脈絡、研究熱點及主題等進行討論,并得出以下結(jié)論:

    第一,從發(fā)文量上看,該領域自2002年受到關注,2018年進入研究高潮,相關研究整體呈上升態(tài)勢,并將不斷增長,這與人工智能技術的革新和社交機器人應用廣泛有關。該領域研究機構以英美國家的高校為主,并出現(xiàn)一批具有較高影響力的學者。不過,這些機構和學者的合作不夠緊密,未來還需加強交流。該領域研究涉及369種期刊,種類繁多,獲得多學科的關注。該領域高被引文獻涉及廣泛,為后續(xù)研究打下基礎。

    第二,從演進趨勢看,國外社交機器人研究分為起步階段(2002年至2013年)、成長階段(2014年至2017年)和快速發(fā)展階段(2018年至2023年)。起步階段的文獻較少,研究內(nèi)容零散,關注人類對社交機器人的感知、社交機器人的作用意義等。成長階段文獻顯著增長,研究變得活躍,主題更加多元化,社交機器人的影響機制和檢測兩個主題進人研究視野??焖侔l(fā)展階段研究成果呈井噴式涌現(xiàn),圍繞社交機器人的信息傳播模式、影響機制、檢測與抵御、人機互動等主題開展了大量研究,而且研究熱度越來越高,且在未來一段時間內(nèi)將繼續(xù)被高度關注。

    第三,從熱點主題看,頻次排名前五的關鍵詞為“social media(社交媒體)”“social bots(社交機器人)”“media(媒體)”“twitter(推特)”“fakenews(虛假信息)”。根據(jù)關鍵詞突變,該領域研究熱點呈現(xiàn)兩個特征:一是由關注社交機器人的技術特征轉(zhuǎn)向社交機器人的探測技術與治理;二是由關注社交機器人的信息傳播模式轉(zhuǎn)向社交機器人的傳播策略及機制原理。同時,該領域研究的關鍵詞聚類出四個主題:社交機器人的基礎特征、社交機器人檢測與治理、社交機器人信息傳播機制、社交機器人與人類用戶的互動。綜上,該領域研究活躍,研究內(nèi)容和熱點較為豐富,為該領域研究的深人和發(fā)展奠定了基礎。

    (二)展望

    受技術、政治、經(jīng)濟等多維因素影響,社交機器人應用越發(fā)廣泛,該領域研究熱度不斷上升。本文通過文獻分析,梳理了國外社交機器人研究的發(fā)文特征、演進趨勢和熱點主題等,可以為后續(xù)研究提供參考。不過,本文仍存在一些不足。一是主要呈現(xiàn)了國外社交機器人研究的概況,但未有對國內(nèi)該領域研究進行梳理,未來研究可以進行補充。二是重點描繪了國外社交機器人研究的特征、脈絡和前沿議題,但缺乏對相關議題成果的梳理與深入討論,后續(xù)研究可在此基礎上進一步深入。

    參考文獻:

    ① LutzC,Schtler,HoffmanC.heprivacyimplicationsofsocialrobots:Sopingrevewndexpertinterviews]obleedaamp; Communication,2019,7(3):412-434.

    ② 高山冰、汪婧:《智能傳播時代社交機器人的興起、挑戰(zhàn)與反思》,《現(xiàn)代傳播》2020年第11期。

    ③ CresciS.A decadeofsocialbotdetection[J].Communications oftheACM,202o,63(10):72-83.

    ④ RosBibledeofaffi actors in social networks[J].European Journal of Information Systems.2O19,28 (4):394-412.

    (20 ⑤ 陳昌鳳、袁雨晴:《社交機器人的“計算宣傳”特征和模式研究——以中國新冠疫苗的議題參與為例》,《新聞與寫作》2021年第11期。 ⑥ MaherCCobiteatingeneilcatiosfoalencengiultervialeoentsualofok Computer Applications,2002:295-308.

    ⑦ EdardsCdi forahumanagentandabotagentonTwiter[].ComputersinHumanBehavior014(33):37376.

    (20 ⑧ WolleyCliicaloictionoutaioalrgaddtoosgentstrutioteatioloual Communication,2016(10):4882-4890.

    ⑨ Himelein-Waoikvototdmisifoaredliaiisfor9a Medical InternetResearch,2021,23(5):-11.

    ⑩ TsaiWLiult interactionanddialogue[J].JournalofResearchinInteractiveMarketing,2O21,15(3):460-482.

    ① KuduguntaSFerrraE.Deepneuralnetworksforbotdetection[J].InformationSciences,2o18,467:312-322.

    ? Al-RawiAleesigiaisso(

    FerraraE,VarolO,DavisC,etal.Theriseofsocialbots[J].Communicationsof theACM,2016,59(7):96-104.

    ? ShaoC,Cagliaoltleedofdibilittentilts].atureats: ① HoltgravesTJdeltsteino5) ① Holtgravese 163.

    ChuZ,GiaegeitoitotEs Dependable and Secure Computing,2012,9(6): 811-824.

    (20 Whitingtodbioadlefeidel JournalofIntellectualDisabilityResearch,2O04,48(2):172-187.

    (20 JonesS.HowIlearnedtostopworryingandlovethebots]SocialMedia + Society,2015,1(1): 1-2.

    (20 ? MurthyDladliefal School for Communication amp;Journalism,2016,10(20):4952-4971.

    ② KolanyidfAaisftdsedbeaalala GuilbeaultDowingotityAnologialiefogenc]teaialoualofoicatio6 IgawR 332: 72-83.

    BastosMcitdeeedcte4 VanDerWaltE,EloffJUsingmachineleaingtodetectfkeidentitiestsvsumans]EEEcces,8(6):546549.

    Broniatowiolioitsolfa American Journal of Public Health,2018,108(10):1378-1384.

    ShahidW Transactions on Computational Social Systems,2O22: 1-14.

    BoshmafYoKtiisiteoks(

    ShiP,Zhangoetectinglicsialotsdicstreamecs]cess98

    (20 Marti 2021,8(2): 1-13.

    (20 ArinE,Kutluedlesacosdui 1772.

    (20 ③ BeskowMCalekoe Crime,2020: 53-88.

    Taddeo M,F(xiàn)loridiL.HowAIcanbeaforceforgood[J].Science,2019,28(O4):394-412. RosBPilbltdefofyie actors insocialnetworks[J].European Journal of InformationSystems,2O19,28(O4):394-412.

    ③ WangG,MohanlalMWilsonC,etal.Socialturingsts:rowdsourcingsybildetection[].Eprintriv1.

    StellaMFeEcttsceoureivediftoentiniall Sciences,2018,115(49):12435-12440.

    ③ SchaferEehese nationalist agenda[J].BigData,2017,5(4):294-309.

    (20 FretasCelfo Analysisamp; Mining,2016,6(1):1-16.

    Chennlbida 103060.

    BeskowDlotveaoeintegineofoeeoineEE. (204號 Howardl communicationforelectionlawandadministration[].JournalofInformationTechnologyamp;Politics,2O18,15(2):81-93.

    (204號 (43) Gorodnichenoaacialditintdblcosideefroreid#UEetio Economic Review,2021,136:103772.

    (43) ChavesAP,Goldboteactalactestibtei Journal ofHuman-Computer Interaction,2021,37 (8): 729-758.

    MoureyJAoi Consumer Research,2017,44(2):1-17.

    (204號 EdwardsA,dstelatioeacddiilbses Behavior,2019(90):308-314.

    VarolOFE AAAIConferenceonWeband SocialMedia,2017:280-289.

    (204號 ④ Hasanilei Developmental Disabilities,2020:1-8.

    LibinA,oebtsettaal Disease and Other Dementias,2004,19(2):111-116.

    (204號 Schniteresbolloltl 2020,78(0): 1-15.

    (204號 Wischewiisegei 2022,26(3):1505-1526.

    猜你喜歡
    人類信息研究
    FMS與YBT相關性的實證研究
    人類能否一覺到未來?
    遼代千人邑研究述論
    人類第一殺手
    好孩子畫報(2020年5期)2020-06-27 14:08:05
    視錯覺在平面設計中的應用與研究
    科技傳播(2019年22期)2020-01-14 03:06:54
    1100億個人類的清明
    EMA伺服控制系統(tǒng)研究
    訂閱信息
    中華手工(2017年2期)2017-06-06 23:00:31
    人類正在消滅自然
    奧秘(2015年2期)2015-09-10 07:22:44
    展會信息
    中外會展(2014年4期)2014-11-27 07:46:46
    啦啦啦韩国在线观看视频| 亚洲一码二码三码区别大吗| 日本撒尿小便嘘嘘汇集6| 制服人妻中文乱码| 欧美绝顶高潮抽搐喷水| 男女午夜视频在线观看| 欧美一区二区国产精品久久精品 | 两个人看的免费小视频| 欧美日韩精品网址| 国产精品香港三级国产av潘金莲| cao死你这个sao货| 精品久久久久久成人av| 欧美日韩精品网址| 亚洲成人国产一区在线观看| 一边摸一边抽搐一进一小说| 九色国产91popny在线| 欧美日韩瑟瑟在线播放| www.自偷自拍.com| 国内揄拍国产精品人妻在线| 男女做爰动态图高潮gif福利片| 一进一出好大好爽视频| 国产精品一及| 美女高潮喷水抽搐中文字幕| 国产一区二区激情短视频| 久久中文字幕人妻熟女| 久久亚洲真实| 99精品久久久久人妻精品| e午夜精品久久久久久久| 欧洲精品卡2卡3卡4卡5卡区| 夜夜躁狠狠躁天天躁| 好看av亚洲va欧美ⅴa在| 午夜两性在线视频| 亚洲国产精品999在线| 美女高潮喷水抽搐中文字幕| www.www免费av| 亚洲国产精品久久男人天堂| 国产亚洲精品久久久久久毛片| 国内揄拍国产精品人妻在线| 亚洲五月婷婷丁香| 成人一区二区视频在线观看| 亚洲 国产 在线| 黄色视频不卡| 日本撒尿小便嘘嘘汇集6| 亚洲成av人片在线播放无| 伊人久久大香线蕉亚洲五| 国产欧美日韩精品亚洲av| 青草久久国产| 国产激情欧美一区二区| 亚洲精品在线观看二区| 亚洲七黄色美女视频| 欧美中文日本在线观看视频| 免费无遮挡裸体视频| 一a级毛片在线观看| 欧美成人性av电影在线观看| svipshipincom国产片| 免费无遮挡裸体视频| 男人舔女人下体高潮全视频| 1024视频免费在线观看| 免费在线观看日本一区| 日韩欧美国产一区二区入口| 两个人视频免费观看高清| www国产在线视频色| 99国产精品一区二区三区| 欧美av亚洲av综合av国产av| 国产精品久久久久久人妻精品电影| 久久草成人影院| 超碰成人久久| 99re在线观看精品视频| 国产成人精品无人区| 午夜福利成人在线免费观看| 三级男女做爰猛烈吃奶摸视频| 婷婷六月久久综合丁香| 国产精华一区二区三区| 波多野结衣巨乳人妻| 欧美+亚洲+日韩+国产| 久久精品综合一区二区三区| 一进一出抽搐动态| 亚洲中文日韩欧美视频| 丁香欧美五月| 69av精品久久久久久| 欧美日韩亚洲国产一区二区在线观看| 黄色成人免费大全| 99在线人妻在线中文字幕| 午夜精品久久久久久毛片777| 亚洲 欧美一区二区三区| 日韩欧美 国产精品| 99在线人妻在线中文字幕| 成人av在线播放网站| 一级毛片精品| 美女大奶头视频| 岛国在线免费视频观看| 久久午夜综合久久蜜桃| 好男人电影高清在线观看| 国产精品爽爽va在线观看网站| 国内精品久久久久久久电影| 国产乱人伦免费视频| 久久婷婷人人爽人人干人人爱| 岛国在线免费视频观看| 50天的宝宝边吃奶边哭怎么回事| 欧美日本亚洲视频在线播放| 亚洲精品久久国产高清桃花| 午夜成年电影在线免费观看| 国产免费男女视频| 亚洲一区二区三区色噜噜| www日本黄色视频网| 九色成人免费人妻av| 18禁美女被吸乳视频| 欧美日韩一级在线毛片| 日本三级黄在线观看| 欧美一级a爱片免费观看看 | 琪琪午夜伦伦电影理论片6080| 久久天躁狠狠躁夜夜2o2o| 非洲黑人性xxxx精品又粗又长| 国产aⅴ精品一区二区三区波| 亚洲专区字幕在线| 99久久久亚洲精品蜜臀av| 男女做爰动态图高潮gif福利片| 久久中文字幕一级| 别揉我奶头~嗯~啊~动态视频| 在线播放国产精品三级| 夜夜看夜夜爽夜夜摸| 亚洲国产欧洲综合997久久,| 美女 人体艺术 gogo| 国产伦在线观看视频一区| 亚洲自拍偷在线| 欧美zozozo另类| 久久久久精品国产欧美久久久| 一区二区三区激情视频| 亚洲狠狠婷婷综合久久图片| 久久草成人影院| av福利片在线观看| 国产精品九九99| 亚洲欧美激情综合另类| av免费在线观看网站| 国产高清视频在线观看网站| e午夜精品久久久久久久| 激情在线观看视频在线高清| 亚洲精品美女久久av网站| 18禁黄网站禁片午夜丰满| 欧美日韩国产亚洲二区| 国产精品久久久人人做人人爽| 男插女下体视频免费在线播放| 脱女人内裤的视频| av在线播放免费不卡| 日韩大码丰满熟妇| 在线观看舔阴道视频| 美女午夜性视频免费| 这个男人来自地球电影免费观看| 人人妻人人看人人澡| 在线视频色国产色| 这个男人来自地球电影免费观看| 国产成人啪精品午夜网站| 免费在线观看视频国产中文字幕亚洲| 国产亚洲av高清不卡| 午夜两性在线视频| 亚洲国产精品999在线| 久久久久久大精品| 给我免费播放毛片高清在线观看| 欧美另类亚洲清纯唯美| 久久久久免费精品人妻一区二区| 每晚都被弄得嗷嗷叫到高潮| 亚洲成人国产一区在线观看| 免费搜索国产男女视频| 亚洲一区高清亚洲精品| 午夜精品一区二区三区免费看| 国产精品一区二区精品视频观看| 国产高清激情床上av| 免费看十八禁软件| 久久久久免费精品人妻一区二区| 日本精品一区二区三区蜜桃| 欧美成人免费av一区二区三区| 国产精品亚洲一级av第二区| 欧美日韩乱码在线| 高潮久久久久久久久久久不卡| 日本五十路高清| 日韩av在线大香蕉| 一级毛片高清免费大全| 午夜福利在线在线| 成在线人永久免费视频| av福利片在线| 91大片在线观看| 国产精品一区二区精品视频观看| 啦啦啦免费观看视频1| 少妇裸体淫交视频免费看高清 | 国产精品电影一区二区三区| 日本黄色视频三级网站网址| 国产av一区二区精品久久| 性色av乱码一区二区三区2| 亚洲成a人片在线一区二区| 亚洲av片天天在线观看| 亚洲精品在线美女| 亚洲精品色激情综合| 香蕉国产在线看| 国产在线精品亚洲第一网站| 一区二区三区激情视频| avwww免费| 亚洲av熟女| 国产激情久久老熟女| 亚洲国产欧美网| 国产爱豆传媒在线观看 | 午夜精品一区二区三区免费看| 一区二区三区激情视频| 宅男免费午夜| 黄片大片在线免费观看| 亚洲欧洲精品一区二区精品久久久| 成年版毛片免费区| avwww免费| a级毛片在线看网站| 校园春色视频在线观看| 日本熟妇午夜| 一a级毛片在线观看| 中国美女看黄片| 精品高清国产在线一区| 国产欧美日韩一区二区三| 黄色片一级片一级黄色片| 曰老女人黄片| 亚洲九九香蕉| 成人欧美大片| 一区福利在线观看| 性欧美人与动物交配| 精品国产亚洲在线| 最近最新免费中文字幕在线| 黑人操中国人逼视频| 香蕉av资源在线| 国产97色在线日韩免费| 午夜视频精品福利| 丝袜人妻中文字幕| 亚洲专区字幕在线| videosex国产| 午夜老司机福利片| 日韩国内少妇激情av| 国产精品免费一区二区三区在线| 狂野欧美激情性xxxx| 黄色 视频免费看| 国产成人精品无人区| 亚洲av中文字字幕乱码综合| 亚洲,欧美精品.| 亚洲一区高清亚洲精品| 精品不卡国产一区二区三区| 狠狠狠狠99中文字幕| 免费观看精品视频网站| 欧美午夜高清在线| 精品午夜福利视频在线观看一区| 神马国产精品三级电影在线观看 | 亚洲国产高清在线一区二区三| 欧美性猛交╳xxx乱大交人| 91大片在线观看| 在线视频色国产色| 日本撒尿小便嘘嘘汇集6| 精品一区二区三区视频在线观看免费| 精品久久久久久久末码| 搡老熟女国产l中国老女人| 五月玫瑰六月丁香| 中文字幕最新亚洲高清| av欧美777| 99久久精品国产亚洲精品| 国产一级毛片七仙女欲春2| 久久精品国产亚洲av高清一级| 亚洲 欧美一区二区三区| 久久99热这里只有精品18| 97超级碰碰碰精品色视频在线观看| 久久久久久免费高清国产稀缺| av视频在线观看入口| 麻豆一二三区av精品| 宅男免费午夜| 国产片内射在线| 午夜影院日韩av| 麻豆成人午夜福利视频| 国产一级毛片七仙女欲春2| 国产精品久久久久久人妻精品电影| 亚洲国产欧美网| 国产高清视频在线观看网站| 精品第一国产精品| 色综合亚洲欧美另类图片| 国产区一区二久久| 亚洲真实伦在线观看| 精品欧美国产一区二区三| 亚洲午夜精品一区,二区,三区| 久久久久久大精品| 看片在线看免费视频| 在线免费观看的www视频| 国产激情久久老熟女| 午夜影院日韩av| 日韩有码中文字幕| 一进一出抽搐gif免费好疼| a级毛片在线看网站| 亚洲自偷自拍图片 自拍| 亚洲中文av在线| 亚洲欧洲精品一区二区精品久久久| 精品电影一区二区在线| 制服丝袜大香蕉在线| 成人亚洲精品av一区二区| 在线观看免费视频日本深夜| АⅤ资源中文在线天堂| 国产亚洲欧美98| 欧美不卡视频在线免费观看 | 观看免费一级毛片| 精品电影一区二区在线| 欧美日韩乱码在线| 正在播放国产对白刺激| 老汉色∧v一级毛片| 国产精品自产拍在线观看55亚洲| 成熟少妇高潮喷水视频| 久久香蕉精品热| 午夜福利免费观看在线| 人妻久久中文字幕网| 精品国产亚洲在线| 高清毛片免费观看视频网站| 小说图片视频综合网站| 一级片免费观看大全| 亚洲专区字幕在线| 免费看美女性在线毛片视频| 黑人操中国人逼视频| 久久香蕉国产精品| 国产探花在线观看一区二区| 亚洲精品美女久久久久99蜜臀| 色尼玛亚洲综合影院| 五月伊人婷婷丁香| 91麻豆av在线| 美女免费视频网站| 成年女人毛片免费观看观看9| 国产av在哪里看| av福利片在线| 亚洲 国产 在线| 欧美人与性动交α欧美精品济南到| 日韩中文字幕欧美一区二区| 日韩高清综合在线| 亚洲成人免费电影在线观看| 男插女下体视频免费在线播放| 777久久人妻少妇嫩草av网站| 18禁美女被吸乳视频| 国产亚洲精品一区二区www| 91成年电影在线观看| 一级毛片女人18水好多| 99在线人妻在线中文字幕| 亚洲在线自拍视频| 欧美黑人欧美精品刺激| 夜夜躁狠狠躁天天躁| 国产一区二区在线观看日韩 | 三级男女做爰猛烈吃奶摸视频| 久久久国产精品麻豆| 91老司机精品| 两个人免费观看高清视频| av福利片在线| 国产乱人伦免费视频| 国产精品精品国产色婷婷| 亚洲在线自拍视频| 午夜福利欧美成人| 在线看三级毛片| 久久精品91蜜桃| 欧美日韩亚洲综合一区二区三区_| 国产激情久久老熟女| 亚洲 欧美 日韩 在线 免费| 亚洲欧美一区二区三区黑人| 国产单亲对白刺激| 国产激情偷乱视频一区二区| 国产不卡一卡二| 国产97色在线日韩免费| 少妇粗大呻吟视频| 一个人观看的视频www高清免费观看 | 一二三四社区在线视频社区8| 老司机午夜十八禁免费视频| 夜夜看夜夜爽夜夜摸| 亚洲av熟女| 香蕉久久夜色| АⅤ资源中文在线天堂| 正在播放国产对白刺激| 亚洲乱码一区二区免费版| 1024手机看黄色片| 国产精品国产高清国产av| 黄片小视频在线播放| 免费在线观看黄色视频的| 激情在线观看视频在线高清| 99国产综合亚洲精品| 成人18禁高潮啪啪吃奶动态图| 欧美在线黄色| 少妇的丰满在线观看| 伊人久久大香线蕉亚洲五| 丝袜人妻中文字幕| 欧美性长视频在线观看| 九色成人免费人妻av| 中文字幕最新亚洲高清| 人人妻人人澡欧美一区二区| 最近在线观看免费完整版| 成人永久免费在线观看视频| 国产成年人精品一区二区| 亚洲avbb在线观看| 麻豆久久精品国产亚洲av| 男女之事视频高清在线观看| 国产亚洲精品综合一区在线观看 | 成人18禁高潮啪啪吃奶动态图| 日韩 欧美 亚洲 中文字幕| 久99久视频精品免费| 亚洲精品美女久久久久99蜜臀| 国产高清videossex| 亚洲全国av大片| tocl精华| 三级男女做爰猛烈吃奶摸视频| 99国产精品一区二区蜜桃av| 91在线观看av| 欧美黄色片欧美黄色片| svipshipincom国产片| 精品人妻1区二区| 1024手机看黄色片| 国产乱人伦免费视频| 18禁美女被吸乳视频| 色综合婷婷激情| 日韩三级视频一区二区三区| 欧美国产日韩亚洲一区| 国产三级在线视频| 在线观看免费午夜福利视频| 精品少妇一区二区三区视频日本电影| 岛国在线免费视频观看| 亚洲va日本ⅴa欧美va伊人久久| 久久精品影院6| 欧美3d第一页| 国内少妇人妻偷人精品xxx网站 | 午夜亚洲福利在线播放| 午夜成年电影在线免费观看| 97碰自拍视频| 亚洲五月天丁香| 色老头精品视频在线观看| 久久精品综合一区二区三区| 精品国内亚洲2022精品成人| 亚洲精品久久成人aⅴ小说| 美女 人体艺术 gogo| 不卡一级毛片| 日本 欧美在线| 欧美性长视频在线观看| 欧美日韩亚洲综合一区二区三区_| 欧美一级a爱片免费观看看 | 日本一本二区三区精品| 男人舔女人下体高潮全视频| 欧美黄色淫秽网站| 久久久久亚洲av毛片大全| 国产av又大| 午夜激情av网站| 久久久水蜜桃国产精品网| 桃色一区二区三区在线观看| 一二三四在线观看免费中文在| 久久精品影院6| 国产久久久一区二区三区| 少妇粗大呻吟视频| 日本a在线网址| 欧美久久黑人一区二区| 此物有八面人人有两片| 欧美成狂野欧美在线观看| 欧美激情久久久久久爽电影| 国产亚洲精品久久久久5区| 两个人看的免费小视频| 美女午夜性视频免费| 国产精品亚洲av一区麻豆| 国产av在哪里看| 午夜激情福利司机影院| 亚洲一区二区三区色噜噜| 在线观看免费日韩欧美大片| 久久国产精品影院| 在线观看午夜福利视频| 曰老女人黄片| 夜夜爽天天搞| 曰老女人黄片| 琪琪午夜伦伦电影理论片6080| 亚洲男人的天堂狠狠| 亚洲精品在线观看二区| 午夜免费激情av| 欧美精品啪啪一区二区三区| 国产91精品成人一区二区三区| aaaaa片日本免费| 国产精品亚洲一级av第二区| 极品教师在线免费播放| 怎么达到女性高潮| 国产一区二区在线观看日韩 | 给我免费播放毛片高清在线观看| 黄色毛片三级朝国网站| 美女免费视频网站| 欧美成狂野欧美在线观看| 亚洲专区国产一区二区| 色综合站精品国产| svipshipincom国产片| 婷婷精品国产亚洲av在线| 一本久久中文字幕| 国产精品1区2区在线观看.| 一级片免费观看大全| 欧美精品亚洲一区二区| 久久精品成人免费网站| 欧美精品啪啪一区二区三区| 亚洲精品粉嫩美女一区| 校园春色视频在线观看| 亚洲 国产 在线| 久久亚洲真实| 黄色毛片三级朝国网站| 久久精品aⅴ一区二区三区四区| 好男人在线观看高清免费视频| 老司机深夜福利视频在线观看| 国产精品免费一区二区三区在线| av片东京热男人的天堂| 色在线成人网| 婷婷丁香在线五月| 亚洲精品久久成人aⅴ小说| 亚洲男人的天堂狠狠| 村上凉子中文字幕在线| 久久久久九九精品影院| 色老头精品视频在线观看| or卡值多少钱| 亚洲人成网站高清观看| 欧美在线黄色| 国产成人一区二区三区免费视频网站| 久久香蕉精品热| 亚洲七黄色美女视频| 波多野结衣巨乳人妻| 国产精品,欧美在线| 精品久久蜜臀av无| 男人舔奶头视频| 亚洲精品久久国产高清桃花| 香蕉久久夜色| 天堂动漫精品| 国产v大片淫在线免费观看| 国产99白浆流出| 精品免费久久久久久久清纯| 人妻丰满熟妇av一区二区三区| 欧美在线黄色| 精品一区二区三区四区五区乱码| 一区二区三区高清视频在线| 99精品久久久久人妻精品| 国产一区二区三区视频了| 久久精品成人免费网站| 又黄又爽又免费观看的视频| 叶爱在线成人免费视频播放| 国产激情偷乱视频一区二区| 99精品欧美一区二区三区四区| 久久久久久久久免费视频了| 亚洲av成人av| 国产97色在线日韩免费| 日韩成人在线观看一区二区三区| x7x7x7水蜜桃| 天天躁夜夜躁狠狠躁躁| 亚洲欧美日韩高清专用| 久久精品91蜜桃| 俺也久久电影网| 999久久久国产精品视频| bbb黄色大片| 日本黄大片高清| 两性夫妻黄色片| 亚洲精品一卡2卡三卡4卡5卡| 国内毛片毛片毛片毛片毛片| 日日爽夜夜爽网站| 国产免费av片在线观看野外av| 老司机午夜十八禁免费视频| 麻豆久久精品国产亚洲av| 午夜福利在线观看吧| 一本大道久久a久久精品| 国产精品日韩av在线免费观看| 天堂影院成人在线观看| 国产又色又爽无遮挡免费看| 成年免费大片在线观看| 97碰自拍视频| 在线观看免费午夜福利视频| 精品国产亚洲在线| 久久久久国内视频| 亚洲自偷自拍图片 自拍| 淫秽高清视频在线观看| 精品一区二区三区av网在线观看| 99国产精品一区二区蜜桃av| 亚洲一区二区三区不卡视频| 日本a在线网址| 一边摸一边做爽爽视频免费| 十八禁人妻一区二区| 亚洲一区二区三区色噜噜| 高清毛片免费观看视频网站| 国产精品98久久久久久宅男小说| 久久人妻福利社区极品人妻图片| 精品国内亚洲2022精品成人| 美女高潮喷水抽搐中文字幕| 成熟少妇高潮喷水视频| 日韩欧美国产一区二区入口| 亚洲欧美日韩高清专用| 精品不卡国产一区二区三区| 一个人观看的视频www高清免费观看 | 国产av在哪里看| 精品无人区乱码1区二区| 一进一出抽搐gif免费好疼| 亚洲色图 男人天堂 中文字幕| 全区人妻精品视频| a在线观看视频网站| 精品不卡国产一区二区三区| 一个人观看的视频www高清免费观看 | 欧美日韩乱码在线| 精品福利观看| 老鸭窝网址在线观看| 少妇熟女aⅴ在线视频| 18禁美女被吸乳视频| 两性午夜刺激爽爽歪歪视频在线观看 | a级毛片在线看网站| 精品福利观看| 国产精品 国内视频| 老熟妇乱子伦视频在线观看| 日韩av在线大香蕉| 午夜激情av网站| 久久亚洲真实| av福利片在线观看| 在线观看午夜福利视频| 小说图片视频综合网站| 俺也久久电影网| 久久久久久免费高清国产稀缺| 欧美乱妇无乱码| 亚洲一区二区三区色噜噜| 麻豆国产av国片精品| 久久久久久九九精品二区国产 | 午夜两性在线视频| 欧美乱妇无乱码| 每晚都被弄得嗷嗷叫到高潮| 免费在线观看黄色视频的| 成人国产一区最新在线观看| 亚洲人成伊人成综合网2020| 亚洲精品一区av在线观看|