• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    一種基于多關(guān)系傳播樹的謠言檢測方法

    2021-07-23 02:04:00衛(wèi)玲蔚淮曉永韓冀中虎嵩林
    關(guān)鍵詞:博文謠言建模

    胡 斗 衛(wèi)玲蔚 周 薇 淮曉永 韓冀中 虎嵩林

    1(華北計(jì)算機(jī)系統(tǒng)工程研究所 北京 100083)

    2(中國科學(xué)院信息工程研究所 北京 100093)

    3(中國科學(xué)院大學(xué)網(wǎng)絡(luò)空間安全學(xué)院 北京 100049)

    隨著社交媒體的快速發(fā)展,用戶生產(chǎn)內(nèi)容(user generated content, UGC)以此為載體可以迅速得到廣泛傳播、獲取大量受眾,大大加速人們信息交流的速度與深度.然而,在獲取便利的同時(shí),社交媒體也滋生許多網(wǎng)絡(luò)謠言,成為造謠、傳謠的主要領(lǐng)地,謠言依附新的媒介,呈現(xiàn)出爆發(fā)式的增長和泛濫傳播[1].謠言前所未有的迅猛之勢對人類社會產(chǎn)生著巨大的影響,極大程度上擾亂了正常的社會秩序[2-3].檢測網(wǎng)絡(luò)中的謠言不僅能夠促進(jìn)清朗的網(wǎng)絡(luò)空間建設(shè),還能幫助人們迅速甄別有效信息,對社會的穩(wěn)定快速發(fā)展具有重大的現(xiàn)實(shí)意義.

    謠言(rumor),是指一種從一個(gè)人傳到另一個(gè)人的故事[4],其真實(shí)性一開始都是未經(jīng)證實(shí)的,而其中一些后來被證明是真的(即真謠言)或被發(fā)現(xiàn)是假的(即假謠言),還有一些始終未被證實(shí)(即未經(jīng)證實(shí)的謠言)[5].謠言檢測(rumor detection)任務(wù)旨在確定謠言的真實(shí)性[6].與主要關(guān)注于新聞(news)文章的虛假新聞檢測(fake news detection)[7]任務(wù)不同,謠言檢測任務(wù)涉及的話題更廣,同時(shí)是一個(gè)更加細(xì)粒度的分類任務(wù).

    謠言檢測的早期研究基于博文內(nèi)容[8-12]展開.但是,隨著謠言檢測技術(shù)的不斷升級,謠言的偽裝能力也在動(dòng)態(tài)變化.例如,謠言的發(fā)布者常常會學(xué)習(xí)真實(shí)信息的寫作特點(diǎn)和風(fēng)格,故意模仿、偽造真實(shí)信息來逃避檢測[13].因此,單純基于博文內(nèi)容檢測方法,并不能有效地識別謠言.與博文內(nèi)容相比,謠言的傳播模式往往與真實(shí)信息的傳播存在較大差異,且這類差異很難被隱藏.基于此,對信息傳播結(jié)構(gòu)的分析和探索成為了當(dāng)下謠言檢測研究的熱點(diǎn)之一.

    為了探究謠言的傳播特征,一些謠言檢測方法主要通過統(tǒng)計(jì)傳播規(guī)律,人為構(gòu)建特征[14-17],利用傳統(tǒng)的機(jī)器學(xué)習(xí)方法識別謠言.此類方法依賴于繁重的特征工程,十分耗時(shí),需要大量人力資源,并且人為構(gòu)建的特征主觀性較強(qiáng),缺乏高階的特征表示.近期,研究學(xué)者利用深度學(xué)習(xí)模型,提出很多有效的謠言檢測方法[6,18-25].近期,基于圖模型的方法[26-28]利用圖神經(jīng)網(wǎng)絡(luò)建模傳播樹結(jié)構(gòu)特征,將謠言檢測任務(wù)轉(zhuǎn)化為圖分類任務(wù),也取得了一定的成果.然而,這些方法僅關(guān)注了傳播過程中博文之間的顯式交互關(guān)系,如轉(zhuǎn)發(fā)(或評論)關(guān)系,難以捕捉到復(fù)雜多樣的傳播結(jié)構(gòu)特征,限制了謠言檢測的性能.

    在現(xiàn)實(shí)的信息傳播過程中,用戶是否轉(zhuǎn)發(fā)(或評論)某條源博文,不僅取決于該條博文內(nèi)容的影響,還可能會受到已轉(zhuǎn)發(fā)(或評論)過該條博文的其他博文的影響.如圖1所示,社交網(wǎng)絡(luò)用戶通過轉(zhuǎn)發(fā)(或評論)行為傳播謠言源內(nèi)容,形成謠言的多級傳播結(jié)構(gòu)[29].本文發(fā)現(xiàn),該謠言傳播結(jié)構(gòu)中包含2種不同類型的依賴關(guān)系,分別是層間依賴關(guān)系和層內(nèi)依賴關(guān)系.1)層間依賴關(guān)系是指在相鄰層級之間,父節(jié)點(diǎn)與其子節(jié)點(diǎn)之間的依賴關(guān)系,反映了謠言傳播過程中,轉(zhuǎn)發(fā)(或評論)博文與被轉(zhuǎn)發(fā)(或被評論)博文之間的直接影響.2)層內(nèi)依賴關(guān)系是指在同一層級下,同一父節(jié)點(diǎn)的孩子節(jié)點(diǎn)之間的依賴關(guān)系,反映了層級內(nèi)的某條博文受到其他同級傳播內(nèi)容的潛在影響.這種層內(nèi)依賴表現(xiàn)2個(gè)方面的特征:①局部的時(shí)序性特征,即先發(fā)布的博文對后發(fā)布博文產(chǎn)生一定的影響;②對同一博文的轉(zhuǎn)發(fā)(或評論)內(nèi)容越相似,更有可能形成這種層內(nèi)依賴關(guān)系.現(xiàn)有的大多數(shù)研究僅僅考慮父子節(jié)點(diǎn)之間顯式的層間依賴關(guān)系,而忽略了潛在的兄弟節(jié)點(diǎn)之間的層內(nèi)依賴關(guān)系,難以捕捉到豐富的傳播結(jié)構(gòu)特征,限制了謠言檢測的性能.

    Fig. 1 Multi-relational dependences in a rumor propagation structure圖1 謠言傳播結(jié)構(gòu)中的多種依賴關(guān)系

    本文提出一種基于多關(guān)系傳播樹的謠言檢測方法,共同建模傳播樹中父子節(jié)點(diǎn)之間的層間依賴關(guān)系和兄弟節(jié)點(diǎn)之間的層內(nèi)依賴關(guān)系.該方法基于博文文本內(nèi)容和傳播樹結(jié)構(gòu)信息,先構(gòu)建自頂向下傳播方向和自底向上擴(kuò)散方向的異構(gòu)圖,然后利用多關(guān)系圖卷積網(wǎng)絡(luò)建模復(fù)雜的傳播結(jié)構(gòu)特征,并通過聚合2個(gè)方向的節(jié)點(diǎn)特征生成最終的特征向量表示,用于謠言檢測.

    在謠言傳播過程中,謠言源博文往往包含更豐富的信息內(nèi)容,其他轉(zhuǎn)發(fā)(或評論)博文與謠言源博文之間存在密切的關(guān)系.此外,除了謠言發(fā)布者,一些關(guān)鍵傳播用戶通過調(diào)動(dòng)用戶分享信息的積極性,在整個(gè)謠言傳播的過程中也起著重要的中介作用.Soroush等人[1]分析Twitter平臺的謠言傳播模式發(fā)現(xiàn),與真實(shí)消息相比,謠言傳播的影響范圍更廣,真實(shí)消息在任意一個(gè)層級上參與轉(zhuǎn)發(fā)的最多人數(shù)達(dá)到1 000以上,而謠言的最大轉(zhuǎn)發(fā)數(shù)最多可達(dá)萬級.本文認(rèn)為,源博文和關(guān)鍵傳播博文均對謠言的傳播有著廣泛的影響.然而,現(xiàn)有研究[30]僅僅考慮謠言源博文在傳播過程中的重要影響.為了充分考慮這2類重要博文在傳播過程中的潛在影響,本文提出一種關(guān)鍵節(jié)點(diǎn)增強(qiáng)的策略,利用傳播樹中根節(jié)點(diǎn)和當(dāng)前路徑最大轉(zhuǎn)發(fā)節(jié)點(diǎn),增強(qiáng)傳播樹中節(jié)點(diǎn)的特征向量表示,擴(kuò)大重要博文的影響力,從而提升謠言檢測性能.

    本文的貢獻(xiàn)主要包含4個(gè)方面:

    1) 首次探究博文在傳播過程中的多種交互關(guān)系,以挖掘更準(zhǔn)確的謠言傳播規(guī)律,而現(xiàn)有研究僅考慮顯式的轉(zhuǎn)發(fā)(或評論)交互關(guān)系;

    2) 提出一種基于傳播樹的多關(guān)系圖卷積網(wǎng)絡(luò)模型,共同建模傳播樹中父子節(jié)點(diǎn)之間的層間依賴關(guān)系和兄弟節(jié)點(diǎn)之間的層內(nèi)依賴關(guān)系,以捕獲豐富的傳播結(jié)構(gòu)特征;

    3) 提出一種關(guān)鍵節(jié)點(diǎn)增強(qiáng)的策略,利用傳播樹中的關(guān)鍵節(jié)點(diǎn)建模源博文和關(guān)鍵傳播博文在信息傳播中的潛在影響力;

    4) 在3個(gè)社交網(wǎng)絡(luò)數(shù)據(jù)集上評估模型,實(shí)驗(yàn)結(jié)果表明,本文方法具有比其他基線方法更高的謠言檢測性能,并且在早期傳播階段也可有效地識別謠言.

    1 相關(guān)工作

    已有的謠言檢測方法大致可分為:1)以博文內(nèi)容和用戶信息為主要特征的謠言檢測方法;2)以傳播結(jié)構(gòu)信息為主要特征的謠言檢測方法.

    1.1 基于博文內(nèi)容和用戶信息的謠言檢測方法

    謠言檢測的早期研究[6,11-12,30-31]基于博文內(nèi)容構(gòu)建人工特征,利用機(jī)器學(xué)習(xí)分類模型實(shí)現(xiàn)謠言檢測.例如,Chua等人[8]通過分析文本內(nèi)容的可理解性、情感、寫作風(fēng)格、主題等6類特征,通過邏輯回歸分類器識別謠言;Castillo等人[9]基于人工構(gòu)建的文本特征,研究信息可信度,利用決策樹模型完成謠言的分類任務(wù);劉政等人[25]通過卷積神經(jīng)網(wǎng)絡(luò)(convolu-tional neural network, CNN)自動(dòng)挖掘文本深層的特征.除了文本特征,一些研究也基于博文的圖像或音頻等內(nèi)容構(gòu)建統(tǒng)計(jì)特征[7]、內(nèi)容特征[32],用于檢測社交媒體中的謠言.

    但是,Sharma等人[13]指出,謠言發(fā)布者常常故意模仿、偽造真實(shí)信息來逃避檢測,單純基于博文內(nèi)容的檢測方法,并不能有效地識別謠言.一些研究[9-10,33-36]考慮引入用戶信息輔助博文內(nèi)容進(jìn)行謠言檢測.廖祥文等人[23]利用帶有注意力機(jī)制的雙向門控循環(huán)單元(gated recurrent unit, GRU)模塊,提取文本潛在特征和局部用戶特征,用于謠言檢測.Shu等人[37]引入用戶畫像特征,利用多個(gè)機(jī)器學(xué)習(xí)模型識別謠言,檢測性能得到一定的提升.

    1.2 基于傳播結(jié)構(gòu)的謠言檢測方法

    基于傳播結(jié)構(gòu)的謠言檢測方法通常分析博文轉(zhuǎn)發(fā)(評論)等形成的傳播路徑或網(wǎng)絡(luò)以識別謠言.早期方法主要基于傳統(tǒng)的特征工程人工提取特征來完成謠言的分類[11,14-15,17,38].例如,Ma等人[16]利用時(shí)序特征建模社交上下文特征,從而識別社交網(wǎng)絡(luò)中的謠言信息;Ma等人[17]提出基于內(nèi)核的傳播樹方法,通過評估傳播樹之間的相似性來識別謠言;Wu等人[29]提出基于核的謠言檢測模型;蔡國永等人[39]提出基于隨機(jī)通路圖核和RBF核的混合核方法,利用支持向量機(jī)(support vector machine, SVM)進(jìn)行謠言檢測;劉徹等人[40]提出一種改進(jìn)的IMPA算法,以提升檢測謠言源的性能.但是,這些方法依賴于繁重的特征工程,同時(shí)缺乏高階的特征表示.

    之后,研究學(xué)者利用深度學(xué)習(xí)模型建模傳播結(jié)構(gòu),提出很多有效的謠言檢測方法[19-20,28,41-48].例如,Ma等人[6]使用循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network, RNN)對傳播結(jié)構(gòu)進(jìn)行建模.Liu等人[49]使用RNN對傳播路徑建模,完成早期階段的謠言檢測任務(wù);Ma等人[18]使用遞歸神經(jīng)網(wǎng)絡(luò)分別建模傳播樹自頂向下的傳播方向和自底向上的擴(kuò)散方向;隨后,Chen等人[21]將CNN與注意力殘差網(wǎng)絡(luò)模型相結(jié)合,提高模型捕獲長距離依賴的能力;Chen等人[22]利用CNN來提取分散在輸入序列中的關(guān)鍵特征,有助于模型有效地識別謠言,尤其是在早期階段的謠言檢測中;Muhammad等人[41]也嘗試結(jié)合CNN和LSTM的優(yōu)點(diǎn),學(xué)習(xí)更豐富的特征表示,用于識別虛假信息中的立場類別;李力釗等人[50]結(jié)合CNN和GRU的優(yōu)點(diǎn),學(xué)習(xí)微博事件的特征表示用于謠言事件檢測.

    近年來,圖卷積網(wǎng)絡(luò)(graph convolutional network, GCN)[51]模型由于其強(qiáng)大的表示能力,在圖像處理[52-53]、自然語言處理[54-56]等領(lǐng)域受到廣泛關(guān)注.謠言檢測任務(wù)中,研究者們嘗試將傳播樹構(gòu)建為圖結(jié)構(gòu),從而將謠言檢測問題轉(zhuǎn)化為圖分類問題,取得了不錯(cuò)的進(jìn)展[26-28].Bian等人[26]利用圖卷積網(wǎng)絡(luò)模型,基于自頂向下和自底向上2個(gè)方向挖掘傳播樹的傳播結(jié)構(gòu)特征;Yang等人[27]在圖結(jié)構(gòu)上引入了對抗訓(xùn)練方法來提高對謠言傳播的圖表示學(xué)習(xí)能力.然而,這些方法僅關(guān)注了傳播過程中博文之間的顯式交互關(guān)系,如轉(zhuǎn)發(fā)(或評論)關(guān)系,難以捕捉到復(fù)雜多樣的傳播結(jié)構(gòu)特征,限制了謠言檢測的性能.

    本文探究謠言傳播過程中的多種傳播路徑,提出一種基于多關(guān)系傳播樹的謠言檢測方法,共同建模父子節(jié)點(diǎn)之間的層間依賴關(guān)系和兄弟節(jié)點(diǎn)之間的層內(nèi)依賴關(guān)系,為每個(gè)節(jié)點(diǎn)學(xué)習(xí)更準(zhǔn)確的特征向量表示.此外,考慮到傳播過程中關(guān)鍵節(jié)點(diǎn)的重要影響,本文提出基于關(guān)鍵節(jié)點(diǎn)增強(qiáng)的策略,建模源博文和關(guān)鍵傳播博文在傳播過程中的潛在影響力,學(xué)習(xí)更全面的謠言特征向量表示,用于提升謠言檢測性能.

    2 問題定義

    本節(jié)簡述謠言和傳播樹的定義,并描述謠言檢測任務(wù)的形式化定義.

    定義1.謠言(rumor)[4].謠言是一種從一個(gè)人傳到另一個(gè)人的故事,其中的真相未經(jīng)證實(shí)或值得懷疑.謠言通常出現(xiàn)在模棱兩可或有威脅的事件中.

    定義2.信息傳播樹(information propagation tree)[29].一條信息對應(yīng)的發(fā)布博文和其后續(xù)所有的轉(zhuǎn)發(fā)(評論)博文,生成的傳播路徑是一個(gè)樹狀結(jié)構(gòu),通常被稱為信息傳播樹,簡稱傳播樹.其中,根節(jié)點(diǎn)表示信息發(fā)布博文(源博文),其他節(jié)點(diǎn)表示后續(xù)的轉(zhuǎn)發(fā)(或評論)博文.

    給定樣本包含源博文和其后續(xù)轉(zhuǎn)發(fā)(或評論)博文的文本信息以及對應(yīng)的傳播結(jié)構(gòu)信息,謠言檢測(rumor detection)的目標(biāo)是學(xué)習(xí)一個(gè)分類器,預(yù)測其類別概率分布.

    (1)

    3 基于多關(guān)系傳播樹的謠言檢測方法

    本節(jié)詳細(xì)介紹本文提出的基于多關(guān)系傳播樹的謠言檢測方法RumorGCN.為簡化描述,在本節(jié)及后續(xù)章節(jié),統(tǒng)一用“轉(zhuǎn)發(fā)博文”代替“轉(zhuǎn)發(fā)(或評論)博文”,用“被轉(zhuǎn)發(fā)博文”代替“被轉(zhuǎn)發(fā)(或被評論)博文”.

    3.1 總體架構(gòu)

    本文提出的謠言檢測方法RumorGCN的總體架構(gòu)如圖2所示,包含多關(guān)系異構(gòu)圖構(gòu)建、關(guān)鍵節(jié)點(diǎn)增強(qiáng)的多關(guān)系圖卷積網(wǎng)絡(luò)以及謠言分類器3個(gè)部分.

    Fig. 2 The overall architecture of the proposed model (take the forwarding relations)圖2 基于多關(guān)系傳播樹的謠言檢測方法總體框架(以轉(zhuǎn)發(fā)關(guān)系為例)

    首先,基于給定樣本中的博文文本內(nèi)容和傳播樹結(jié)構(gòu)信息,同時(shí)構(gòu)建自頂向下傳播方向和自底向上擴(kuò)散方向的多關(guān)系異構(gòu)圖.

    其次,利用多關(guān)系圖卷積網(wǎng)絡(luò),共同建模傳播樹中父子節(jié)點(diǎn)之間的層間依賴關(guān)系和兄弟節(jié)點(diǎn)之間的層內(nèi)依賴關(guān)系,以捕獲豐富的信息傳播結(jié)構(gòu)特征.接著,利用傳播樹中的根節(jié)點(diǎn)和當(dāng)前路徑最大轉(zhuǎn)發(fā)節(jié)點(diǎn)增強(qiáng)傳播樹中當(dāng)前節(jié)點(diǎn)的特征表示,建模重要博文在信息傳播中的潛在影響力.

    最后,融合傳播樹傳播方向和擴(kuò)散方向的特征向量表示,生成樣本的特征向量表示.基于此,預(yù)測樣本屬于不同類別的概率,輸出類別標(biāo)簽.

    3.2 多關(guān)系異構(gòu)圖構(gòu)建

    對于每個(gè)樣本c={r,x1,x2,…,xn-1,S},基于博文文本和傳播樹結(jié)構(gòu),同時(shí)構(gòu)建自底向上(bottom-up, BU)信息擴(kuò)散方向上的多關(guān)系異構(gòu)圖GBU和自頂向下(top-down, TD)信息傳播方向上的多關(guān)系異構(gòu)圖GTD.

    圖GTD包含2種類型的邊,即父節(jié)點(diǎn)與子節(jié)點(diǎn)之間形成的層間依賴關(guān)系邊以及兄弟節(jié)點(diǎn)之間形成的層內(nèi)依賴關(guān)系邊,分別代表了社交網(wǎng)絡(luò)中轉(zhuǎn)發(fā)博文與被轉(zhuǎn)發(fā)博文之間的關(guān)系以及轉(zhuǎn)發(fā)同一博文的多個(gè)轉(zhuǎn)發(fā)博文之間的關(guān)系.對于第1種類型邊,根據(jù)傳播過程中的轉(zhuǎn)發(fā)關(guān)系進(jìn)行構(gòu)建,即博文與其轉(zhuǎn)發(fā)的博文之間形成一條邊.對于第2種類型邊,轉(zhuǎn)發(fā)同一博文的轉(zhuǎn)發(fā)博文之間構(gòu)成了兄弟關(guān)系.

    社交網(wǎng)絡(luò)中,先轉(zhuǎn)發(fā)的博文可能會對后轉(zhuǎn)發(fā)的博文產(chǎn)生一定的傳播影響,并且,轉(zhuǎn)發(fā)同一博文且時(shí)間相鄰的2條博文之間更有可能存在這種關(guān)系,因此,先基于轉(zhuǎn)發(fā)的時(shí)間先后順序,在每條博文的轉(zhuǎn)發(fā)博文對應(yīng)的節(jié)點(diǎn)之間構(gòu)建候選的有向時(shí)序邊.計(jì)算每條時(shí)序邊相鄰的2個(gè)節(jié)點(diǎn)特征向量xi,xj的余弦相似度,記為score(xi,xj),如果相似度得分大于預(yù)設(shè)的閾值T,即score(xi,xj)>T,這條候選的有向時(shí)序邊保留作為第2種類型邊,否則去掉該候選邊.

    形式化地,對于每種類型邊,定義如下:Ek={ek,pq|p,q=0,…,n-1},k∈{inter,intra},其中,inter和intra分別表示信息傳播方向?qū)?yīng)的傳播樹STD中層間依賴關(guān)系與層內(nèi)依賴關(guān)系.鄰接矩陣用Ak表示:

    (2)

    例如,如圖2所示,節(jié)點(diǎn)2和節(jié)點(diǎn)3相繼轉(zhuǎn)發(fā)了節(jié)點(diǎn)1,對于傳播樹中的第1種類型邊,節(jié)點(diǎn)1和節(jié)點(diǎn)2、節(jié)點(diǎn)1和節(jié)點(diǎn)3之間構(gòu)建1條有向邊,即einter,01和einter,02;對于第2種類型邊,節(jié)點(diǎn)2和節(jié)點(diǎn)3均轉(zhuǎn)發(fā)了節(jié)點(diǎn)1,并且節(jié)點(diǎn)2轉(zhuǎn)發(fā)節(jié)點(diǎn)1早于節(jié)點(diǎn)3,則構(gòu)建1條節(jié)點(diǎn)2指向節(jié)點(diǎn)3的有向邊,即eintra,12.

    為緩解圖卷積網(wǎng)絡(luò)中存在的過擬合問題,Rong等人[58]提出DropEdge方法.該方法的思想是基于一定的概率隨機(jī)失活輸入圖中的邊,從而達(dá)到緩解過擬合的目的.給定鄰接矩陣A以及失活概率η,Ne表示原圖中邊的數(shù)量,在給定圖的邊集合中隨機(jī)采樣Ne×η條邊,形成Adrop,處理后的鄰接矩陣為

    A′=A-Adrop.

    (3)

    3.3 關(guān)鍵節(jié)點(diǎn)增強(qiáng)的多關(guān)系圖卷積網(wǎng)絡(luò)模型

    3.3.1 基于層間-層內(nèi)依賴關(guān)系學(xué)習(xí)節(jié)點(diǎn)表示

    圖卷積網(wǎng)絡(luò)(graph convolutional network, GCN)[51]模型的基本思想是通過節(jié)點(diǎn)間的信息傳播更新節(jié)點(diǎn)的特征表示,定義一個(gè)卷積層操作,描述信息傳遞過程,通過迭代地聚合邊的信息和節(jié)點(diǎn)的信息,生成新的節(jié)點(diǎn)表示.

    為了更好地建模博文之間的多種交互關(guān)系,本文采用多關(guān)系圖卷積網(wǎng)絡(luò)[59]融合不同關(guān)系下節(jié)點(diǎn)的鄰居信息,學(xué)習(xí)傳播樹的信息傳播結(jié)構(gòu)特征.具體地,為了共同建模傳播過程中的層內(nèi)依賴和層間依賴,本文聚合不同關(guān)系類型下的鄰居節(jié)點(diǎn)信息,并進(jìn)行歸一化操作,生成節(jié)點(diǎn)的隱藏特征向量表示.為了確保節(jié)點(diǎn)自身第l層到第l+1層之間的信息傳遞,為每個(gè)節(jié)點(diǎn)增加自連接,即αvv=1.

    給定節(jié)點(diǎn)的初始化特征向量表示X= [xr,x1,…,xn-1]T,第1層的信息傳遞:

    ?v∈V,

    (4)

    在第2層圖卷積網(wǎng)絡(luò)中,基于第1層圖卷積網(wǎng)絡(luò)的輸出,聚合鄰居節(jié)點(diǎn)的信息:

    ?v∈V,

    (5)

    通過2層不同的圖卷積操作,可以有效累積在不同依賴關(guān)系下的局部鄰域特征.最終,基于傳播方向的異構(gòu)圖GTD和擴(kuò)散方向的異構(gòu)圖GBU,分別學(xué)習(xí)到傳播樹中的各個(gè)節(jié)點(diǎn)特征表示,記為

    3.3.2 基于關(guān)鍵節(jié)點(diǎn)增強(qiáng)特征向量表示

    在謠言傳播的過程中,許多用戶發(fā)布的內(nèi)容起到了推波助瀾的作用.以轉(zhuǎn)發(fā)關(guān)系為例,為了探究源博文和關(guān)鍵傳播博文在信息傳播中的潛在作用,本文利用傳播樹中的2類關(guān)鍵節(jié)點(diǎn)對當(dāng)前節(jié)點(diǎn)的特征進(jìn)行增強(qiáng).對于傳播樹中的任一節(jié)點(diǎn),對應(yīng)的2個(gè)關(guān)鍵節(jié)點(diǎn)分別為其根節(jié)點(diǎn)和當(dāng)前路徑最大轉(zhuǎn)發(fā)節(jié)點(diǎn).

    1) 根節(jié)點(diǎn).根節(jié)點(diǎn)代表源博文,包含了豐富的謠言源信息,有助于幫助學(xué)習(xí)更準(zhǔn)確的節(jié)點(diǎn)表示.給定當(dāng)前節(jié)點(diǎn)xi,該節(jié)點(diǎn)對應(yīng)的根節(jié)點(diǎn)記為xi,root,即xi,root=r.利用根節(jié)點(diǎn)增強(qiáng)特征向量表示,xi,root對應(yīng)的特征向量表示記為hroot.

    (6)

    其中,ODinter(xj)表示節(jié)點(diǎn)xj基于層間依賴關(guān)系的出度.例如,圖2中,節(jié)點(diǎn)9對應(yīng)的當(dāng)前路徑最大轉(zhuǎn)發(fā)節(jié)點(diǎn)為節(jié)點(diǎn)3.xi,mod對應(yīng)的特征向量,表示記為hmod.

    (7)

    (8)

    3.4 謠言分類器

    分別聚合自頂向下傳播方向和自底向上擴(kuò)散方向中各個(gè)節(jié)點(diǎn)的特征向量表示,得到傳播樹在傳播方向和擴(kuò)散方向的特征向量表示:

    (9)

    (10)

    最后,拼接自頂向下方向的特征向量表示和自底向上方向的特征向量表示作為該樣本最終的特征向量表示:

    C=concate(CTD,CBU),

    (11)

    其中,concate表示向量操作.

    本文將謠言檢測任務(wù)轉(zhuǎn)化為圖分類問題.基于謠言特征向量表示,通過線性層和softmax函數(shù)計(jì)算該謠言屬于每個(gè)類別的概率:

    (12)

    其中,Wc和bc是需要學(xué)習(xí)的參數(shù).

    (13)

    其中,yi是表示第i個(gè)樣本的真實(shí)標(biāo)簽向量表示,β是超參數(shù),表示L2正則化的大小,Θ是模型需要學(xué)習(xí)的所有參數(shù).

    4 實(shí)驗(yàn)設(shè)置

    本節(jié)詳細(xì)闡述本文的實(shí)驗(yàn)設(shè)置,4.1節(jié)介紹本文實(shí)驗(yàn)所用到的3個(gè)真實(shí)評測數(shù)據(jù)集,Twitter 15[17],Twitter 16[17]和PHEME[5].4.2節(jié)簡要地描述本文所選取的基線方法.4.3節(jié)描述實(shí)驗(yàn)評估指標(biāo).4.4節(jié)記錄實(shí)驗(yàn)的主要參數(shù)設(shè)置.

    4.1 數(shù)據(jù)集

    本文將在Twitter 15,Twitter 16和PHEME三個(gè)公開數(shù)據(jù)集上測試本文提出的方法.數(shù)據(jù)統(tǒng)計(jì)特征如表1所示.

    1) Twitter15數(shù)據(jù)集和Twitter16數(shù)據(jù)集(1)https://www.dropbox.com/s/7ewzdrbelpmrnxu/rumdetect 2017.zip?dl=0是由Ma等人[17]創(chuàng)建,收集了不同時(shí)刻來自國外著名社交網(wǎng)絡(luò)平臺Twitter網(wǎng)站上的謠言信息,分別包含1 490和818條樣本.參考Zubiaga等人[5]和Ma等人[17],根據(jù)辟謠網(wǎng)站(如snopes.com,Emergent.info等)中文章的真實(shí)性標(biāo)簽,每個(gè)樣本被標(biāo)注為4種標(biāo)簽之一,即真謠言(true rumor, TR)、假謠言(false rumor, FR)、未經(jīng)證實(shí)的謠言(unverified rumor, UR)、非謠言(non-rumor, NR).Twitter15和Twitter16數(shù)據(jù)集的劃分方式參考現(xiàn)有研究[11,18,22],采用5折交叉驗(yàn)證的方式進(jìn)行實(shí)驗(yàn).

    2) PHEME數(shù)據(jù)集(2)https://figshare.com/articles/dataset/PHEME_dataset_for_ Rumour_Detection_and_Veracity_Classification/6392078是由Zubiaga等人[5]創(chuàng)建,圍繞9個(gè)事件共收集了2 402條謠言,被標(biāo)記為3個(gè)類別,分別是真謠言(true rumor, TR)、假謠言(false rumor, FR)、未經(jīng)證實(shí)的謠言(unverified rumor, UR).該數(shù)據(jù)集劃分方式參考基線方法[20,28],采用留一法(leave-one-event-out)交叉驗(yàn)證的方式進(jìn)行實(shí)驗(yàn),這使得謠言檢測任務(wù)更加困難,但是更接近于現(xiàn)實(shí)場景下未知事件的謠言檢測.參考前人的訓(xùn)練方式[20],本文將標(biāo)簽分布較為平均的Charlie Hebdo事件中的樣本作為驗(yàn)證集,以選擇模型的最優(yōu)參數(shù).

    Table 1 Statistics of the Datasets表1 謠言檢測數(shù)據(jù)集統(tǒng)計(jì)信息

    4.2 實(shí)驗(yàn)對比方法

    本文選取基于特征工程的謠言檢測方法、基于核函數(shù)的謠言檢測方法以及基于深度學(xué)習(xí)模型的謠言檢測方法作為基線方法,與本文提出的方法RumorGCN進(jìn)行對比.

    Twitter15和Twitter16數(shù)據(jù)集的基線方法包括:

    1) DTC.Castillo等人[9]基于人工設(shè)計(jì)的全局統(tǒng)計(jì)特征,構(gòu)建決策樹分類器獲取信息可信度;

    2) SVM-RBF.Yang等人[10]基于博文內(nèi)容人工構(gòu)建統(tǒng)計(jì)特征,構(gòu)建基于RBF核函數(shù)的支持向量機(jī)分類器識別謠言;

    3) SVM-TS.Ma等人[16]基于時(shí)序上下文特征構(gòu)建線性支持向量機(jī)分類器對謠言進(jìn)行分類;

    4) SVM-TK.Ma等人[17]采用基于傳播樹的核函數(shù)提取結(jié)構(gòu)特征,利用支持向量機(jī)分類器完成分類;

    5) GRU-RNN.Ma等人[6]基于遞歸神經(jīng)網(wǎng)絡(luò),通過建模相關(guān)帖子的序列結(jié)構(gòu)學(xué)習(xí)謠言的特征向量表示.

    6) RvNN.Ma等人[18]利用2個(gè)循環(huán)神經(jīng)網(wǎng)絡(luò)模型分別對傳播方向和擴(kuò)散方向進(jìn)行建模,學(xué)習(xí)傳播樹的特征向量表示;

    7) StA-PLAN.Khoo等人[19]采用Transformer模型挖掘傳播過程中的博文之間長距離的交互特征,學(xué)習(xí)謠言的特征向量表示,基于該特征向量表示完成分類任務(wù);

    8) Bi-GCN.Bian等人[26]基于傳播樹的傳播方向和擴(kuò)散方向構(gòu)建圖卷積網(wǎng)絡(luò)模型,將謠言分類任務(wù)轉(zhuǎn)化為圖分類任務(wù).

    對于PHEME數(shù)據(jù)集,本文與目前性能較好的5個(gè)具有代表性的基線方法進(jìn)行對比:

    1) NileTMRG.Enayet等人[12]提出的基于詞袋模型獲取博文的向量表示,利用支持向量機(jī)分類器完成分類;

    2) RvNN.Ma等人[18]提出的基于RNN的謠言檢測模型;

    3) branchLSTM.Kochkina等人[20]利用序列模型LSTM檢測謠言,并采用多任務(wù)學(xué)習(xí)方式,聯(lián)合訓(xùn)練謠言檢測和立場識別任務(wù);

    4) Hierarchical GCN-RNN.Wei等人[28]利用GCN建模傳播過程中的結(jié)構(gòu)特征,并利用多任務(wù)學(xué)習(xí)同時(shí)建模謠言分類任務(wù)和立場檢測任務(wù);

    5) Bi-GCN.Bian等人[26]提出的基于圖的謠言檢測方法.

    為了保證公平性,對于基于多任務(wù)方法(branch-LSTM和Hierarchical GCN-RNN),本文僅考慮其在謠言分類單一任務(wù)下的性能.此外,參考Hierar-chical GCN-RNN采用skip-gram語言模型[60]提取博文的文本特征,本文也采用相同的方式對Bi-GCN和RumorGCN的文本特征編碼部分進(jìn)行改進(jìn),分別記為Bi-GCN(SKP),RumorGCN(SKP).

    4.3 評估方法

    本文所研究的謠言檢測問題本質(zhì)上是一個(gè)分類問題,為此,本文選用基于分類的評價(jià)指標(biāo)來評測謠言檢測性能.

    對于Twitter15和Twitter16數(shù)據(jù)集,本文選用準(zhǔn)確率(accuracy,Acc)和各個(gè)類別的F1值作為評價(jià)指標(biāo):

    (14)

    其中,TP(true positive)是真正例,指被模型預(yù)測正確的正樣本;FP(false positive)是假正例,指被模型預(yù)測正確的負(fù)樣本;FN(false negative)是假負(fù)例,指被模型預(yù)測錯(cuò)誤的正樣本;TN(true negative)是真負(fù)例,指被模型預(yù)測錯(cuò)誤的負(fù)樣本.

    對于PHEME數(shù)據(jù)集,參考基線方法[20,28],本文選用準(zhǔn)確率、宏平均F1值(macro-averagingF1,macro-F1).macro-F1即先對每一個(gè)類統(tǒng)計(jì)指標(biāo)值,然后在對所有類求算術(shù)平均值,計(jì)算方法為

    (15)

    其中,n表示預(yù)測類別的個(gè)數(shù).考慮該數(shù)據(jù)集中各個(gè)類別樣本不平衡,本文還比較了加權(quán)平均F1值(weighted-averagingF1,weighted-F1) ,先對每一個(gè)類統(tǒng)計(jì)指標(biāo)值,然后在對所有類別求加權(quán)平均值,計(jì)算方法為

    (16)

    其中,權(quán)重γi為各個(gè)類別在樣本中所占的比例.

    4.4 參數(shù)設(shè)置

    參考基線方法的參數(shù)設(shè)置[18,26],提取博文文本信息的TF-IDF特征,初始化節(jié)點(diǎn)的輸入向量表示,其維度d0=5 000.采用2層的圖卷積網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練,每1層中節(jié)點(diǎn)的隱向量維度為64,即d1=d2=64.模型各層的dropout=0.5.采用Adam算法訓(xùn)練模型,迭代次數(shù)設(shè)為200,并設(shè)置提前結(jié)束(early stopping),即當(dāng)驗(yàn)證集的損失函數(shù)在10個(gè)迭代內(nèi)不再下降時(shí),提前終止訓(xùn)練.本文提出的模型基于PyTorch(3)http://pytorch.org/開源工具實(shí)現(xiàn),采用Tesla M40 24 GB的GPU訓(xùn)練模型.

    對于Twitter15和Twitter16數(shù)據(jù)集,學(xué)習(xí)率(learning rate)設(shè)置為0.000 5.DropEdge的失活概率η=0.2.相似度閾值T分別為0.8和0.6.

    對于PHEME數(shù)據(jù)集,學(xué)習(xí)率設(shè)置為0.02,DropEdge的失活概率η=0,相似度閾值T=0.7.參考文獻(xiàn)[28], Bi-GCN(SKP)和RumorGCN(SKP)中skip-gram語言模型的特征維度設(shè)置為200.

    5 實(shí)驗(yàn)結(jié)果與分析

    本節(jié)描述實(shí)驗(yàn)結(jié)果并進(jìn)行分析.5.1節(jié)對本文提出RumorGCN和基線方法在謠言檢測任務(wù)的性能進(jìn)行對比分析;5.2節(jié)探究建模傳播樹中不同依賴的影響;5.3節(jié)探究了傳播樹中不同關(guān)鍵節(jié)點(diǎn)的影響;5.4節(jié)對比分析不同相似度閾值對謠言檢測結(jié)果的影響;5.5節(jié)評估本文提出方法RumorGCN和對比的基線方法在早期謠言檢測任務(wù)中的性能.

    5.1 謠言檢測實(shí)驗(yàn)結(jié)果與分析

    5.1.1 Twitter15和Twitter16數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果分析

    Twitter15和Twitter16數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果如表2和表3所示.其中,本文使用文獻(xiàn)[26]提供的開源代碼在相同環(huán)境進(jìn)行實(shí)現(xiàn),得到了Bi-GCN模型在2個(gè)數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果.其他基線方法的結(jié)果均參考文獻(xiàn)[18-19].

    由表2和表3可知,本文提出的RumorGCN在Twitter15和Twitter16數(shù)據(jù)集上均優(yōu)于對比的基線方法.對于Twitter15數(shù)據(jù)集,相比于最優(yōu)的基線方法,RumorGCN在準(zhǔn)確率指標(biāo)上提升1個(gè)百分點(diǎn),F(xiàn)1值指標(biāo)上最大提升了1.8個(gè)百分點(diǎn);對于Twitter16數(shù)據(jù)集,RumorGCN在準(zhǔn)確率指標(biāo)上提升了2個(gè)百分點(diǎn),F(xiàn)1值指標(biāo)上最大提升了3.7個(gè)百分點(diǎn).這些結(jié)果表明本文提出的方法具有比其他基線方法更高的謠言檢測性能.

    基于表2和表3中的實(shí)驗(yàn)結(jié)果,具體分析為:

    1) 所有基于深度學(xué)習(xí)的方法(GRU-RNN,RumorGCN,Bi-GCN,StA-PLAN以及RvNN)的謠言檢測性能均優(yōu)于基于人工構(gòu)建特征的謠言檢測方法(DTC,SVM-RBF,SVM-TS,SVM-TK).該現(xiàn)象證實(shí)了深度學(xué)習(xí)模型在謠言檢測任務(wù)中的優(yōu)越性,主要優(yōu)勢在于深度學(xué)習(xí)模型可以學(xué)習(xí)謠言潛在的特征向量表示.DTC,SVM-RBF,SVM-TS和SVM-TK利用人工構(gòu)建特征的方法識別謠言,提取的特征具有較強(qiáng)的主觀性,缺少謠言潛在的特征表示,不能較好地識別社交網(wǎng)絡(luò)中的謠言.

    Table 2 Rumor Detection Results on Twitter15 Dataset表2 謠言檢測實(shí)驗(yàn)結(jié)果(Twitter15) %

    Table 3 Rumor Detection Results on Twitter16 Dataset表3 謠言檢測實(shí)驗(yàn)結(jié)果(Twitter16) %

    2) RvNN通過使用遞歸神經(jīng)網(wǎng)絡(luò)模型對傳播樹進(jìn)行建模,但是難以捕獲序列中長距離的依賴關(guān)系,因此,謠言檢測的性能受到了制約.StA-PLAN利用Transformer結(jié)構(gòu),可以有效緩解長距離依賴問題,因此,獲得了優(yōu)于RvNN的檢測性能.與RvNN和StA-PLAN相比,基于圖的謠言檢測方法(RumorGCN和Bi-GCN)在所有深度學(xué)習(xí)模型方法中表現(xiàn)最佳,這也表明圖模型具有捕獲復(fù)雜依賴關(guān)系的能力.

    3) 與最優(yōu)的基線方法Bi-GCN相比,RumorGCN在2個(gè)Twitter數(shù)據(jù)集中均有更優(yōu)的表現(xiàn),說明RumorGCN在謠言檢測任務(wù)中的有效性.本文認(rèn)為性能提升的原因主要源于2個(gè)方面:

    1) 在對謠言樹中的依賴關(guān)系建模時(shí),Bi-GCN僅僅考慮傳播樹中父子節(jié)點(diǎn)之間形成的層間依賴關(guān)系,而RumorGCN共同顯式建模層間依賴關(guān)系和兄弟節(jié)點(diǎn)之間形成的層內(nèi)依賴關(guān)系,聚合不同依賴關(guān)系下的局部鄰域信息,可以學(xué)習(xí)到更準(zhǔn)確、更豐富的傳播結(jié)構(gòu)特征.由此說明,傳播樹中的層內(nèi)依賴關(guān)系同樣可以為謠言檢測提供有效信息.在社交媒體中,用戶轉(zhuǎn)發(fā)某條源博文,不僅受到源博文的影響,同時(shí)還可能受到轉(zhuǎn)發(fā)過該源博文的其他博文的影響,從而形成復(fù)雜的多種傳播路徑.

    2) Bi-GCN中通過利用根節(jié)點(diǎn)特征輔助學(xué)習(xí)節(jié)點(diǎn)特征表示,忽略了傳播過程中的另一類關(guān)鍵節(jié)點(diǎn)的重要影響.RumorGCN同時(shí)考慮根節(jié)點(diǎn)和當(dāng)前路徑最大轉(zhuǎn)發(fā)節(jié)點(diǎn),增強(qiáng)傳播樹中的節(jié)點(diǎn)特征表示,充分建模關(guān)鍵節(jié)點(diǎn)對信息傳播的潛在影響力,從而提升模型的檢測性能.

    5.1.2 PHEME數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果分析

    表4記錄了本文提出方法和對比的基線方法在PHEME數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果,其中,NileTMRG和BranchLSTM的結(jié)果參考文獻(xiàn)[20],RvNN和Hierarchical GCN-RNN的結(jié)果參考文獻(xiàn)[28].本文基于Bi-GCN的開源代碼進(jìn)行實(shí)驗(yàn),得到Bi-GCN在PHEME數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果.從結(jié)果可知,與最優(yōu)的基線方法相比,RumorGCN在準(zhǔn)確率指標(biāo)上提升了17個(gè)百分點(diǎn),宏平均F1值提升了7.9個(gè)百分點(diǎn),加權(quán)平均F1值指標(biāo)上提升了10.3個(gè)百分點(diǎn).

    Table 4 Rumor Detection Results on PHEME Dataset表4 謠言檢測實(shí)驗(yàn)結(jié)果(PHEME) %

    基于表4的實(shí)驗(yàn)結(jié)果,具體分析為:

    1) 與基線方法相比,RumorGCN在PHEME數(shù)據(jù)集上取得了較優(yōu)的謠言檢測結(jié)果,再次說明RumorGCN建模多關(guān)系傳播路徑和關(guān)鍵節(jié)點(diǎn)增強(qiáng)的有效性. Hierarchical GCN-RNN雖然也利用圖卷積網(wǎng)絡(luò)建模了謠言的傳播結(jié)構(gòu),但是該方法僅考慮建模傳播方向的結(jié)構(gòu)特征,忽略了擴(kuò)散方向上的傳播規(guī)律.相較之下,Bi-GCN和RumorGCN共同建模傳播樹在傳播方向和擴(kuò)散方向的規(guī)律,可學(xué)習(xí)更豐富的特征表示向量,更有助于識別謠言信息.

    2) 與利用skip-gram語言模型提取博文文本特征的基線方法Hierarchical GCN-RNN和Bi-GCN(SKP)對比,在采用相同文本特征提取方式的前提下,本文提出方法的變體RumorGCN(SKP)在3個(gè)指標(biāo)均取得最好的檢測性能,這說明本文方法在不同文本特征提取方式下的有效性.

    3) 采用skip-gram語言模型提取文本詞向量特征的Bi-GCN(SKP) 和RumorGCN(SKP),相比對應(yīng)的基于TF-IDF統(tǒng)計(jì)特征的Bi-GCN和RumorGCN,取得更高的準(zhǔn)確率和加權(quán)平均F1值,這說明skip-gram語言模型可以更充分地挖掘博文的語義特征,有助于模型識別更多的謠言.注意到RumorGCN(SKP)的宏平均F1值優(yōu)于RumorGCN,該結(jié)果的原因是PHEME數(shù)據(jù)集中類別標(biāo)簽分布不平衡導(dǎo)致,宏平均F1值會受到稀有類別的影響.

    5.2 傳播樹中不同依賴的影響分析

    為了探究在傳播過程中博文之間的多種交互關(guān)系,本節(jié)對傳播樹中層間依賴和層內(nèi)依賴的建模方式進(jìn)行了一系列消融實(shí)驗(yàn).基于這2種依賴關(guān)系的類型特性,本節(jié)設(shè)置了RumorGCN的4種相關(guān)變體,具體為:

    1) GCN(Inter-Intra)指利用傳統(tǒng)的GCN模型共同建模傳播樹中的層間依賴和層內(nèi)依賴;

    2) RumorGCN(Non-Seq)指在建模層內(nèi)依賴時(shí),沒有引入層內(nèi)節(jié)點(diǎn)之間的時(shí)序邊,而是在層內(nèi)節(jié)點(diǎn)之間構(gòu)建全連接邊,如圖2中,對于第2種類型邊,在節(jié)點(diǎn)4、節(jié)點(diǎn)5和節(jié)點(diǎn)8之間均構(gòu)建一條邊;

    3) RumorGCN(Intra-Level)指僅建模傳播樹中的兄弟節(jié)點(diǎn)之間的層內(nèi)依賴,而不考慮層間依賴;

    4) RumorGCN(Inter-Level)指僅建模傳播樹中的父子節(jié)點(diǎn)之間的層間依賴,而不考慮層內(nèi)依賴.

    在3個(gè)數(shù)據(jù)集上的消融實(shí)驗(yàn)結(jié)果如表5~表7所示,結(jié)果分析為:

    Table 5 Results of Ablation Study with Different Dependencies in the Propagation Tree on Twitter15 Dataset表5 傳播樹中不同依賴的消融實(shí)驗(yàn)結(jié)果(Twitter15) %

    Table 6 Results of Ablation Study with Different Dependencies in the Propagation Tree on Twitter16 Dataset表6 傳播樹中不同依賴的消融實(shí)驗(yàn)結(jié)果(Twitter16) %

    Table 7 Results of Ablation Study with Different Dependencies in the Propagation Tree on PHEME Dataset表7 傳播樹中不同依賴的消融實(shí)驗(yàn)結(jié)果(PHEME) %

    1) GCN(Inter-Intra)變體方法基于同構(gòu)圖結(jié)構(gòu)建模傳播樹中的依賴關(guān)系,在3個(gè)數(shù)據(jù)集上性能均有一定的下降.這說明利用多關(guān)系圖卷積模型的異構(gòu)圖結(jié)構(gòu)能更好地捕捉節(jié)點(diǎn)之間不同類型的關(guān)系.這也間接說明在傳播過程中,博文之間的顯式和隱式交互形式具有不同的特性.

    2) 與同時(shí)建模2種依賴的RumorGCN方法相比,僅建模層內(nèi)或?qū)娱g單一依賴的變體方法RumorGCN(Intra-Level)和RumorGCN(Inter-Level)的檢測性能均有明顯的下降.這說明了建模傳播樹中的層內(nèi)依賴和層間依賴的有效性.對于RumorGCN方法,同時(shí)考慮傳播過程中博文之間的多種交互關(guān)系,可以捕捉到更豐富的傳播結(jié)構(gòu)特征,進(jìn)而得到更高的謠言檢測性能.

    3) 建模傳播樹中的層內(nèi)依賴時(shí),考慮時(shí)序邊的RumorGCN的檢測性能明顯高于考慮全連接邊的RumorGCN(Non-Seq)變體方法.這表明了建模層內(nèi)依賴的局部時(shí)序性特征的有效性.這也說明了在謠言傳播過程中,較早轉(zhuǎn)發(fā)該謠言的博文對后續(xù)瀏覽的部分用戶確實(shí)具有一定影響,這也為謠言的防治提供了新思路.

    5.3 傳播樹中不同關(guān)鍵節(jié)點(diǎn)的影響分析

    為了探究源博文和關(guān)鍵傳播博文這2類重要博文在信息傳播中的潛在影響,本節(jié)基于不同方向的傳播樹,對2類關(guān)鍵節(jié)點(diǎn)的增強(qiáng)策略進(jìn)行了詳細(xì)的消融實(shí)驗(yàn).

    通過考慮不同方向的傳播樹,可得到4種傳播樹建模方案,以及對應(yīng)RumorGCN的4種變體.這4種傳播樹結(jié)構(gòu)包括UD,BU,TD和BU+TD.其中,UD(undirected)表示無向的傳播樹結(jié)構(gòu),TD(top-down)指僅考慮自頂向下的傳播方向,BU(bottom-up)指僅考慮自底向上的擴(kuò)散方向,BU+TD指同時(shí)考慮傳播和擴(kuò)散2個(gè)方向.

    在這4種傳播樹結(jié)構(gòu)下,為了探究根節(jié)點(diǎn)和當(dāng)前路徑最大轉(zhuǎn)發(fā)節(jié)點(diǎn)的增強(qiáng)作用,本節(jié)設(shè)置了4種不同的對比策略.記ROOT和MOD分別為根節(jié)點(diǎn)和當(dāng)前路徑最大轉(zhuǎn)發(fā)節(jié)點(diǎn),則4種策略具體如下:

    1) w/o ROOT & w/o MOD.指不使用任何關(guān)鍵節(jié)點(diǎn)增強(qiáng)節(jié)點(diǎn)的特征表示;

    2) w ROOT & w/o MOD.指僅利用根節(jié)點(diǎn)進(jìn)行特征增強(qiáng);

    3) w/o ROOT & w MOD.指僅利用當(dāng)前路徑最大轉(zhuǎn)發(fā)節(jié)點(diǎn)進(jìn)行特征增強(qiáng);

    4) w ROOT & w MOD.指同時(shí)利用根節(jié)點(diǎn)和當(dāng)前路徑最大轉(zhuǎn)發(fā)節(jié)點(diǎn)進(jìn)行特征增強(qiáng).

    實(shí)驗(yàn)結(jié)果如圖3所示,結(jié)果分析為:

    Fig. 3 Results of ablation study for different key nodes in the propagation tree圖3 傳播樹中不同關(guān)鍵節(jié)點(diǎn)的消融實(shí)驗(yàn)結(jié)果

    1) w/o ROOT & w/o MOD變體方法未考慮任何關(guān)鍵節(jié)點(diǎn)的增強(qiáng)影響,在4種傳播樹結(jié)構(gòu)下均獲得了較差的檢測性能.

    2) w ROOT & w/o MOD和w/o ROOT & w MOD兩種變體方法在4種傳播樹結(jié)構(gòu)下均獲得了較好的性能表現(xiàn),表明基于根節(jié)點(diǎn)和當(dāng)前路徑最大轉(zhuǎn)發(fā)節(jié)點(diǎn)的這2種特征增強(qiáng)策略的有效性.同時(shí),僅利用當(dāng)前路徑最大轉(zhuǎn)發(fā)節(jié)點(diǎn)與僅利用根節(jié)點(diǎn)進(jìn)行特征增強(qiáng)的效果相當(dāng).這表明,除了源博文,關(guān)鍵傳播博文也有著巨大的影響力,在信息傳播過程中發(fā)揮著關(guān)鍵的橋梁作用.

    3) w ROOT & w MOD變體方法同時(shí)考慮了這2類關(guān)鍵節(jié)點(diǎn)的增強(qiáng)作用,在4種傳播樹結(jié)構(gòu)下均獲得了最優(yōu)的謠言檢測性能,同時(shí)這也是本文方法RumorGCN所采取的節(jié)點(diǎn)增強(qiáng)策略.該結(jié)果表明同時(shí)考慮這2種關(guān)鍵節(jié)點(diǎn)的增強(qiáng)策略在該任務(wù)上的有效性.同時(shí),也說明了源博文和關(guān)鍵傳播博文在信息傳播中均有著不可忽視的潛在影響力,對于謠言的發(fā)現(xiàn)和識別均有一定的積極作用.

    4) 在相同的節(jié)點(diǎn)增強(qiáng)策略下,對于基于不同方向的傳播樹結(jié)構(gòu)得到的4種變體,檢測性能從低到高排序?yàn)椋篣D變體方法、BU或TD變體方法、BU+TD變體方法.由此可見,同時(shí)建模傳播和擴(kuò)散2個(gè)方向的傳播樹結(jié)構(gòu),有助于挖掘更豐富的傳播結(jié)構(gòu)特征,更好地識別社交網(wǎng)絡(luò)中的謠言信息.

    5.4 相似度閾值的影響分析

    本節(jié)對比不同相似度閾值對謠言檢測結(jié)果的影響.該閾值越高,表明2個(gè)博文之間內(nèi)容越相似.選取了[0,0.1,0.2,0.3,0.4,0.5,0.6,0.7,0.8,0.9,1.0]共11種閾值進(jìn)行實(shí)驗(yàn),結(jié)果如圖4所示.橫軸為相似度閾值大小,縱軸為準(zhǔn)確率.Twitter15,Twitter16,PHEME數(shù)據(jù)集的最優(yōu)閾值分別為0.8,0.6,0.7.

    Fig. 4 Results against different thresholds T圖4 不同相似度閾值T的謠言檢測結(jié)果

    實(shí)驗(yàn)結(jié)果如圖4所示,結(jié)果分析為:

    1) 過大的相似度閾值或者過小的相似度閾值均會限制模型識別謠言的性能.當(dāng)閾值設(shè)置過小時(shí),可能會引入一些噪聲邊,相似度較小的2個(gè)博文之間可能并不存在影響;當(dāng)閾值設(shè)置過大時(shí),使得轉(zhuǎn)發(fā)過同個(gè)博文的節(jié)點(diǎn)之間無法構(gòu)建邊,不能很好地建模層內(nèi)依賴關(guān)系,從而限制了模型的檢測能力,這也再次說明了建模層內(nèi)依賴關(guān)系對于謠言檢測任務(wù)的重要性.

    2) 最優(yōu)閾值在3個(gè)數(shù)據(jù)集上均不相同,這可能是因?yàn)橹{言所針對的事件不同,同時(shí),在數(shù)據(jù)集中,也存在一定的噪音現(xiàn)象.在實(shí)際應(yīng)用過程中,該參數(shù)的選擇可參考本文在PHEME數(shù)據(jù)集上的選擇方法,即將類別標(biāo)簽分布較為平均的某個(gè)謠言事件數(shù)據(jù)集作為驗(yàn)證集,以選擇最優(yōu)相似度閾值.

    5.5 早期謠言檢測實(shí)驗(yàn)結(jié)果與分析

    謠言的早期檢測要求模型在謠言傳播的早期階段識別謠言,便于及時(shí)進(jìn)行干預(yù),以將謠言產(chǎn)生的危害降低到最小.謠言的早期階段通常是指謠言轉(zhuǎn)發(fā)數(shù)較少或者剛產(chǎn)生的幾小時(shí).參考文獻(xiàn)[18,26],本節(jié)分別通過限制源博文的轉(zhuǎn)發(fā)數(shù)和其發(fā)布后的經(jīng)過時(shí)間2種延時(shí)策略,來評估本文提出方法和其他基線方法的早期謠言檢測能力.實(shí)驗(yàn)結(jié)果如圖5和圖6所示:

    Fig. 5 Results of early rumor detection against the comment forwarding dimension圖5 基于不同轉(zhuǎn)發(fā)數(shù)的早期謠言檢測結(jié)果

    Fig. 6 Results of early rumor detection against deadline time圖6 基于不同截止時(shí)間的早期謠言檢測結(jié)果

    5.5.1 有限轉(zhuǎn)發(fā)數(shù)下的早期謠言檢測

    通過控制自源博文發(fā)布以來用戶轉(zhuǎn)發(fā)的數(shù)量,計(jì)算不同時(shí)期謠言檢測的準(zhǔn)確率,評估模型的性能.實(shí)驗(yàn)結(jié)果如圖5所示,橫軸代表用戶轉(zhuǎn)發(fā)的博文數(shù)量.隨著轉(zhuǎn)發(fā)次數(shù)的增加而增加,不同方法的謠言檢測性能逐漸上升.RumorGCN和Bi-GCN在謠言源進(jìn)行初始廣播后的很早期就達(dá)到了較高的準(zhǔn)確率.這說明,圖卷積網(wǎng)絡(luò)可以有效聚合鄰居節(jié)點(diǎn)信息,學(xué)習(xí)準(zhǔn)確的節(jié)點(diǎn)特征向量表示用于提升模型的早期檢測謠言的能力.在PHEME數(shù)據(jù)集上,RumorGCN使用不到10條博文時(shí)優(yōu)于Bi-GCN使用所有數(shù)據(jù)的性能.這一優(yōu)勢可歸因于RumorGCN對于轉(zhuǎn)發(fā)同一博文的多個(gè)轉(zhuǎn)發(fā)博文之間形成的層內(nèi)依賴關(guān)系的探索,表明本文提出的方法可以有效地同時(shí)建模層間依賴和層內(nèi)依賴,獲得更準(zhǔn)確的謠言檢測結(jié)果.

    5.5.2 有限時(shí)間內(nèi)的早期謠言檢測

    通過控制源博文發(fā)布以來的截止時(shí)間,計(jì)算不同時(shí)期謠言檢測的準(zhǔn)確率,評估模型的性能.實(shí)驗(yàn)結(jié)果如圖6所示,橫軸代表截止時(shí)間,單位為小時(shí)(h).時(shí)間維度的效果與轉(zhuǎn)發(fā)維度的趨勢保持一致,隨著時(shí)間的推移,不同謠言檢測方法均有一定的提升,這說明信息傳播過程中顯現(xiàn)的結(jié)構(gòu)特征會越來越豐富.同時(shí),在信息傳播的早期階段,基于圖的模型可以捕獲更全面的有限傳播結(jié)構(gòu)特征,從而具有比其他對比模型更優(yōu)的檢測性能.尤其是在PHEME數(shù)據(jù)集上,RumorGCN在使用前2 h數(shù)據(jù)的謠言檢測性能已優(yōu)于基線方法使用所有數(shù)據(jù)的謠言檢測性能.這也再次說明博文之間多種交互關(guān)系的重要性和本文提出方法的有效性.

    6 總 結(jié)

    本文研究了基于文本內(nèi)容和傳播結(jié)構(gòu)信息的謠言檢測任務(wù),提出一種基于多關(guān)系傳播樹的謠言檢測方法.該方法通過多關(guān)系圖卷積網(wǎng)絡(luò)建模了傳播樹中父子節(jié)點(diǎn)之間形成的層間依賴關(guān)系和兄弟節(jié)點(diǎn)之間形成的層內(nèi)依賴關(guān)系,以捕獲復(fù)雜的傳播結(jié)構(gòu)特征.同時(shí),利用關(guān)鍵節(jié)點(diǎn)增強(qiáng)傳播樹中節(jié)點(diǎn)的特征向量表示,有效建模了源博文和關(guān)鍵傳播博文在謠言傳播過程中的潛在影響力,學(xué)習(xí)更準(zhǔn)確的謠言特征向量表示.在3個(gè)公開數(shù)據(jù)集上的廣泛實(shí)驗(yàn)表明,本文提出的方法具有比其他基線方法更高的謠言檢測性能,并且在謠言的早期傳播階段,也具有良好的檢測效果.該方法進(jìn)一步探索了謠言的深層傳播規(guī)律,對迅速甄別社交媒體中的謠言、建設(shè)清朗的網(wǎng)絡(luò)空間有重大的現(xiàn)實(shí)意義.

    猜你喜歡
    博文謠言建模
    中國使館駁斥荒謬謠言
    第一次掙錢
    聯(lián)想等效,拓展建?!浴皫щ娦∏蛟诘刃鲋凶鰣A周運(yùn)動(dòng)”為例
    當(dāng)謠言不攻自破之時(shí)
    基于PSS/E的風(fēng)電場建模與動(dòng)態(tài)分析
    電子制作(2018年17期)2018-09-28 01:56:44
    不對稱半橋變換器的建模與仿真
    誰和誰好
    謠言
    謠言大揭秘
    Review on Tang Wenzhi’s The Gist of Chinese Writing Gamut
    国产精品偷伦视频观看了| 我的亚洲天堂| 黄网站色视频无遮挡免费观看| 涩涩av久久男人的天堂| 天天添夜夜摸| 欧美日韩一级在线毛片| 怎么达到女性高潮| 999久久久国产精品视频| 欧美黑人精品巨大| 欧美精品一区二区大全| 熟女少妇亚洲综合色aaa.| 色视频在线一区二区三区| 午夜日韩欧美国产| 无遮挡黄片免费观看| 日韩三级视频一区二区三区| 女警被强在线播放| 天堂8中文在线网| 国产精品亚洲一级av第二区| 人妻 亚洲 视频| 亚洲av第一区精品v没综合| 亚洲国产av新网站| 一本综合久久免费| 巨乳人妻的诱惑在线观看| 亚洲精品粉嫩美女一区| 国产国语露脸激情在线看| 一级毛片电影观看| 亚洲熟女毛片儿| 久久精品国产亚洲av香蕉五月 | 女人久久www免费人成看片| 免费人妻精品一区二区三区视频| 欧美大码av| 国产精品98久久久久久宅男小说| 国产xxxxx性猛交| 久久精品人人爽人人爽视色| 免费在线观看黄色视频的| 色视频在线一区二区三区| 亚洲精品在线美女| 久久久水蜜桃国产精品网| 黄片大片在线免费观看| 中文字幕最新亚洲高清| 亚洲精品一卡2卡三卡4卡5卡| 精品一区二区三卡| 免费看十八禁软件| 久久影院123| 少妇 在线观看| 国产主播在线观看一区二区| 国产成人影院久久av| 欧美国产精品一级二级三级| 久久久精品区二区三区| 国产精品亚洲av一区麻豆| 王馨瑶露胸无遮挡在线观看| 少妇精品久久久久久久| 精品免费久久久久久久清纯 | 美国免费a级毛片| 十八禁高潮呻吟视频| 老司机影院毛片| 99久久国产精品久久久| 亚洲 欧美一区二区三区| 国产精品久久久久久精品古装| 一本一本久久a久久精品综合妖精| 欧美亚洲 丝袜 人妻 在线| 制服人妻中文乱码| 女人被躁到高潮嗷嗷叫费观| 亚洲中文av在线| 亚洲色图 男人天堂 中文字幕| 国产精品一区二区免费欧美| 天天躁夜夜躁狠狠躁躁| 久久国产精品大桥未久av| 国产极品粉嫩免费观看在线| 国产精品偷伦视频观看了| 美女视频免费永久观看网站| 欧美日韩av久久| 黄色 视频免费看| 纯流量卡能插随身wifi吗| 久久狼人影院| 国产成人精品无人区| 婷婷丁香在线五月| 女同久久另类99精品国产91| 免费在线观看完整版高清| 91国产中文字幕| 人人澡人人妻人| 蜜桃国产av成人99| 19禁男女啪啪无遮挡网站| 免费在线观看黄色视频的| 色综合婷婷激情| www.自偷自拍.com| 亚洲七黄色美女视频| 成人三级做爰电影| 国产日韩欧美视频二区| 国产精品.久久久| 日本wwww免费看| netflix在线观看网站| www.自偷自拍.com| 欧美激情高清一区二区三区| 老司机午夜福利在线观看视频 | 欧美变态另类bdsm刘玥| 69精品国产乱码久久久| 国产成+人综合+亚洲专区| 国产精品久久久av美女十八| 精品福利永久在线观看| xxxhd国产人妻xxx| 亚洲国产毛片av蜜桃av| a级毛片在线看网站| 国产高清国产精品国产三级| 天天躁夜夜躁狠狠躁躁| 人成视频在线观看免费观看| 国产99久久九九免费精品| 嫩草影视91久久| 国内毛片毛片毛片毛片毛片| 自拍欧美九色日韩亚洲蝌蚪91| 午夜激情av网站| 91麻豆精品激情在线观看国产 | 久久天躁狠狠躁夜夜2o2o| 久久影院123| 欧美 日韩 精品 国产| 欧美日韩中文字幕国产精品一区二区三区 | 精品午夜福利视频在线观看一区 | 狠狠婷婷综合久久久久久88av| 成人三级做爰电影| 飞空精品影院首页| 18禁美女被吸乳视频| www.熟女人妻精品国产| 好男人电影高清在线观看| 久久中文字幕人妻熟女| 亚洲第一欧美日韩一区二区三区 | 免费女性裸体啪啪无遮挡网站| 777米奇影视久久| 久久国产精品影院| 国产一区二区三区综合在线观看| 成人国产av品久久久| 亚洲欧美一区二区三区黑人| 国产一区二区 视频在线| 午夜精品国产一区二区电影| 男女下面插进去视频免费观看| www.熟女人妻精品国产| av天堂在线播放| 久久久久久久精品吃奶| 黄色毛片三级朝国网站| 国产精品久久久av美女十八| 亚洲天堂av无毛| 王馨瑶露胸无遮挡在线观看| 欧美老熟妇乱子伦牲交| 亚洲免费av在线视频| 在线 av 中文字幕| 亚洲成av片中文字幕在线观看| 18禁黄网站禁片午夜丰满| 一本综合久久免费| 99国产精品免费福利视频| 国产一区二区在线观看av| 一本大道久久a久久精品| 一区福利在线观看| 一进一出抽搐动态| 变态另类成人亚洲欧美熟女 | 国产老妇伦熟女老妇高清| 久久天堂一区二区三区四区| 三级毛片av免费| 岛国在线观看网站| videosex国产| 777米奇影视久久| 一区二区三区激情视频| 国产一区二区三区在线臀色熟女 | 日本撒尿小便嘘嘘汇集6| 色老头精品视频在线观看| 人妻一区二区av| 热99re8久久精品国产| 欧美乱码精品一区二区三区| 午夜福利一区二区在线看| tocl精华| 国产在视频线精品| 十八禁网站网址无遮挡| 高清av免费在线| 在线观看www视频免费| 久久久国产精品麻豆| 久久久国产一区二区| 亚洲熟女毛片儿| 精品久久久久久久毛片微露脸| 人妻久久中文字幕网| 建设人人有责人人尽责人人享有的| 视频区欧美日本亚洲| 老司机福利观看| 在线av久久热| 欧美日韩精品网址| 精品久久久久久久毛片微露脸| 亚洲国产中文字幕在线视频| 99久久人妻综合| 国产精品久久久久久人妻精品电影 | 国产又爽黄色视频| av福利片在线| 久久久久网色| 日本精品一区二区三区蜜桃| 91麻豆av在线| 自线自在国产av| 啪啪无遮挡十八禁网站| 亚洲av片天天在线观看| 久久av网站| 色婷婷av一区二区三区视频| 婷婷成人精品国产| 99精品欧美一区二区三区四区| 亚洲av电影在线进入| 大型黄色视频在线免费观看| 欧美在线黄色| 91精品三级在线观看| 国产欧美日韩综合在线一区二区| svipshipincom国产片| 亚洲成人手机| 国产亚洲av高清不卡| 新久久久久国产一级毛片| 天天添夜夜摸| 99久久精品国产亚洲精品| 成人影院久久| 丝袜在线中文字幕| 香蕉丝袜av| av片东京热男人的天堂| 欧美乱码精品一区二区三区| 免费看a级黄色片| 俄罗斯特黄特色一大片| 老司机午夜十八禁免费视频| 啦啦啦在线免费观看视频4| 欧美性长视频在线观看| 国产成人系列免费观看| 久久中文字幕人妻熟女| 国产成人免费观看mmmm| 国产人伦9x9x在线观看| av线在线观看网站| 久久中文看片网| 99riav亚洲国产免费| 性少妇av在线| 亚洲专区字幕在线| 精品视频人人做人人爽| 国产福利在线免费观看视频| 最新在线观看一区二区三区| 黄色毛片三级朝国网站| 美女视频免费永久观看网站| 国产精品九九99| 欧美人与性动交α欧美精品济南到| 50天的宝宝边吃奶边哭怎么回事| 亚洲精品国产区一区二| 天天添夜夜摸| 精品久久蜜臀av无| 一二三四在线观看免费中文在| 日韩三级视频一区二区三区| 久久久国产成人免费| 久久99热这里只频精品6学生| 777久久人妻少妇嫩草av网站| 免费在线观看完整版高清| 成人手机av| 欧美久久黑人一区二区| 欧美日韩黄片免| 午夜福利,免费看| 在线观看免费日韩欧美大片| 日本av手机在线免费观看| 亚洲精品在线美女| 精品视频人人做人人爽| 久久九九热精品免费| 国产精品一区二区在线不卡| 欧美精品亚洲一区二区| 宅男免费午夜| 这个男人来自地球电影免费观看| 国产高清videossex| 国产亚洲一区二区精品| 欧美激情极品国产一区二区三区| 成年人黄色毛片网站| 99国产精品一区二区三区| 免费在线观看影片大全网站| 视频区欧美日本亚洲| 国产区一区二久久| 丝袜美足系列| 国产日韩欧美亚洲二区| 这个男人来自地球电影免费观看| 两个人看的免费小视频| 999久久久精品免费观看国产| 老汉色av国产亚洲站长工具| 满18在线观看网站| 久久 成人 亚洲| 99国产极品粉嫩在线观看| 国产成人精品无人区| 久久亚洲精品不卡| 亚洲性夜色夜夜综合| 久久久精品免费免费高清| 涩涩av久久男人的天堂| 老熟妇仑乱视频hdxx| 在线观看免费视频日本深夜| 搡老熟女国产l中国老女人| 99国产精品99久久久久| 黑人欧美特级aaaaaa片| 9色porny在线观看| 最新美女视频免费是黄的| 亚洲欧洲精品一区二区精品久久久| 少妇的丰满在线观看| 老司机午夜十八禁免费视频| 久久久精品国产亚洲av高清涩受| 大香蕉久久成人网| 久久精品91无色码中文字幕| 国产亚洲精品久久久久5区| 久久久水蜜桃国产精品网| 蜜桃在线观看..| 一区二区日韩欧美中文字幕| 国产日韩欧美在线精品| av线在线观看网站| tube8黄色片| 久久婷婷成人综合色麻豆| 欧美成人午夜精品| 久久久久久免费高清国产稀缺| tube8黄色片| 国产一区有黄有色的免费视频| 三上悠亚av全集在线观看| 日韩中文字幕欧美一区二区| 女性被躁到高潮视频| 久久国产精品人妻蜜桃| av天堂久久9| 午夜激情久久久久久久| 国产精品成人在线| 国产免费福利视频在线观看| 两性夫妻黄色片| 2018国产大陆天天弄谢| 欧美大码av| 夜夜骑夜夜射夜夜干| 欧美 日韩 精品 国产| 国产淫语在线视频| 十八禁网站免费在线| 成人免费观看视频高清| 性色av乱码一区二区三区2| 操出白浆在线播放| 国产高清国产精品国产三级| 国产在视频线精品| 亚洲精品中文字幕在线视频| 久久亚洲精品不卡| 人人妻人人澡人人爽人人夜夜| 成年人黄色毛片网站| 日韩中文字幕视频在线看片| 高潮久久久久久久久久久不卡| 在线 av 中文字幕| www.自偷自拍.com| 国产一区二区三区综合在线观看| 欧美精品人与动牲交sv欧美| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲精品乱久久久久久| 9色porny在线观看| 不卡av一区二区三区| 伊人久久大香线蕉亚洲五| 国产一卡二卡三卡精品| 欧美日韩亚洲综合一区二区三区_| 欧美乱妇无乱码| 多毛熟女@视频| 亚洲国产欧美网| 日韩免费av在线播放| 午夜福利,免费看| h视频一区二区三区| 国产欧美亚洲国产| 最近最新免费中文字幕在线| 十分钟在线观看高清视频www| 天堂8中文在线网| 五月天丁香电影| 18禁观看日本| 在线天堂中文资源库| 日韩大码丰满熟妇| 欧美黄色淫秽网站| 黄片播放在线免费| 两性午夜刺激爽爽歪歪视频在线观看 | 久久狼人影院| 欧美日韩亚洲综合一区二区三区_| 欧美日韩视频精品一区| 成人18禁在线播放| 欧美日韩国产mv在线观看视频| 国产精品久久久久久精品古装| 日韩精品免费视频一区二区三区| 日本黄色日本黄色录像| 男女下面插进去视频免费观看| 欧美日韩一级在线毛片| 最近最新中文字幕大全电影3 | 一级黄色大片毛片| 免费少妇av软件| 成在线人永久免费视频| 国产精品秋霞免费鲁丝片| 精品卡一卡二卡四卡免费| 999久久久国产精品视频| 女人久久www免费人成看片| 国产黄频视频在线观看| 成人18禁在线播放| 岛国在线观看网站| 搡老岳熟女国产| 叶爱在线成人免费视频播放| 精品熟女少妇八av免费久了| 久久热在线av| 国产亚洲av高清不卡| 久久毛片免费看一区二区三区| 国产黄色免费在线视频| 国产亚洲午夜精品一区二区久久| 老司机在亚洲福利影院| 国产又爽黄色视频| 满18在线观看网站| 成人国语在线视频| 国产亚洲精品一区二区www | 午夜激情av网站| 午夜福利一区二区在线看| 69av精品久久久久久 | 妹子高潮喷水视频| 99精品欧美一区二区三区四区| 制服诱惑二区| 亚洲 欧美一区二区三区| 成人特级黄色片久久久久久久 | 亚洲av电影在线进入| 无人区码免费观看不卡 | 久久国产精品男人的天堂亚洲| 日韩视频一区二区在线观看| 99久久精品国产亚洲精品| 日韩免费高清中文字幕av| 波多野结衣av一区二区av| 99国产综合亚洲精品| 国产成人一区二区三区免费视频网站| 真人做人爱边吃奶动态| 精品人妻在线不人妻| 在线观看免费日韩欧美大片| 50天的宝宝边吃奶边哭怎么回事| 国产成人欧美| 国产欧美亚洲国产| 女警被强在线播放| 国产99久久九九免费精品| 建设人人有责人人尽责人人享有的| av视频免费观看在线观看| 午夜福利在线观看吧| 中文字幕最新亚洲高清| 建设人人有责人人尽责人人享有的| 久久av网站| 欧美乱妇无乱码| 一区二区三区乱码不卡18| 在线天堂中文资源库| 免费久久久久久久精品成人欧美视频| 三上悠亚av全集在线观看| av超薄肉色丝袜交足视频| 亚洲午夜理论影院| av欧美777| 国产精品美女特级片免费视频播放器 | 国产亚洲精品久久久久5区| 欧美久久黑人一区二区| 国产日韩欧美在线精品| 国产精品美女特级片免费视频播放器 | 中文字幕人妻丝袜制服| 两个人看的免费小视频| 国产又爽黄色视频| 久久久精品国产亚洲av高清涩受| 成人特级黄色片久久久久久久 | 欧美一级毛片孕妇| 欧美 日韩 精品 国产| 这个男人来自地球电影免费观看| 日韩免费高清中文字幕av| 日韩三级视频一区二区三区| 久久久精品94久久精品| 久久中文字幕一级| 十八禁人妻一区二区| 老司机深夜福利视频在线观看| 欧美日本中文国产一区发布| 亚洲国产中文字幕在线视频| 免费看a级黄色片| 制服诱惑二区| 一二三四在线观看免费中文在| 亚洲九九香蕉| 黄色怎么调成土黄色| 欧美变态另类bdsm刘玥| 久久久久久亚洲精品国产蜜桃av| 另类精品久久| 国产精品久久久久久人妻精品电影 | 国产日韩欧美视频二区| 男女免费视频国产| 黑人操中国人逼视频| 亚洲成av片中文字幕在线观看| 多毛熟女@视频| 搡老岳熟女国产| 日韩一卡2卡3卡4卡2021年| 激情视频va一区二区三区| 啪啪无遮挡十八禁网站| 搡老熟女国产l中国老女人| 成年人免费黄色播放视频| 伦理电影免费视频| 天天影视国产精品| 无人区码免费观看不卡 | 汤姆久久久久久久影院中文字幕| 国产老妇伦熟女老妇高清| 久久中文字幕一级| 国产成人免费无遮挡视频| 亚洲第一青青草原| 成人18禁在线播放| 美女午夜性视频免费| 两人在一起打扑克的视频| 好男人电影高清在线观看| 午夜精品久久久久久毛片777| 亚洲欧美日韩另类电影网站| 国产成人精品无人区| 一区二区三区乱码不卡18| 成年人免费黄色播放视频| 久久影院123| 精品人妻在线不人妻| 国产成人免费观看mmmm| 韩国精品一区二区三区| 日韩有码中文字幕| 不卡一级毛片| 十八禁人妻一区二区| 水蜜桃什么品种好| 亚洲av第一区精品v没综合| 午夜日韩欧美国产| 国产三级黄色录像| 我的亚洲天堂| 精品少妇黑人巨大在线播放| 成人18禁高潮啪啪吃奶动态图| 少妇被粗大的猛进出69影院| 欧美成人免费av一区二区三区 | 又黄又粗又硬又大视频| 国产三级黄色录像| 国产精品电影一区二区三区 | 国产午夜精品久久久久久| 国产日韩一区二区三区精品不卡| 国产主播在线观看一区二区| av网站在线播放免费| 丝袜喷水一区| e午夜精品久久久久久久| 久久久久久久大尺度免费视频| 两性夫妻黄色片| 成人特级黄色片久久久久久久 | 正在播放国产对白刺激| avwww免费| 欧美另类亚洲清纯唯美| 亚洲欧美色中文字幕在线| 日韩大片免费观看网站| 涩涩av久久男人的天堂| 国产成人免费观看mmmm| av线在线观看网站| 菩萨蛮人人尽说江南好唐韦庄| 18禁观看日本| 午夜精品久久久久久毛片777| 精品一区二区三区视频在线观看免费 | 亚洲色图 男人天堂 中文字幕| 一区二区三区激情视频| 国产精品偷伦视频观看了| 丰满饥渴人妻一区二区三| 这个男人来自地球电影免费观看| 黄色成人免费大全| 亚洲国产欧美一区二区综合| 亚洲午夜精品一区,二区,三区| 大型av网站在线播放| 欧美精品啪啪一区二区三区| 亚洲一码二码三码区别大吗| 国产老妇伦熟女老妇高清| 精品福利永久在线观看| 一边摸一边抽搐一进一出视频| 日韩熟女老妇一区二区性免费视频| 日日爽夜夜爽网站| 日韩熟女老妇一区二区性免费视频| 精品少妇内射三级| 亚洲av电影在线进入| 丰满少妇做爰视频| 国产有黄有色有爽视频| 日本av手机在线免费观看| 久久国产精品男人的天堂亚洲| 两人在一起打扑克的视频| 三上悠亚av全集在线观看| 欧美在线一区亚洲| netflix在线观看网站| 中文字幕另类日韩欧美亚洲嫩草| 老司机深夜福利视频在线观看| 亚洲欧美一区二区三区黑人| 欧美激情久久久久久爽电影 | 国产av又大| 亚洲精品中文字幕在线视频| 在线观看免费午夜福利视频| 自线自在国产av| 色婷婷av一区二区三区视频| 国产野战对白在线观看| 精品欧美一区二区三区在线| 久久精品国产a三级三级三级| 国产极品粉嫩免费观看在线| 中文字幕制服av| 国产麻豆69| 乱人伦中国视频| 中文字幕色久视频| 在线观看一区二区三区激情| 久久久国产一区二区| 考比视频在线观看| 成人18禁高潮啪啪吃奶动态图| 十八禁网站网址无遮挡| 人人妻人人添人人爽欧美一区卜| 国产精品二区激情视频| 国产99久久九九免费精品| videosex国产| 欧美人与性动交α欧美软件| 人成视频在线观看免费观看| 国产精品1区2区在线观看. | www.999成人在线观看| 午夜免费鲁丝| 午夜福利免费观看在线| 香蕉久久夜色| 亚洲七黄色美女视频| 一级a爱视频在线免费观看| 成人手机av| 12—13女人毛片做爰片一| 日本撒尿小便嘘嘘汇集6| 天天躁狠狠躁夜夜躁狠狠躁| 日韩中文字幕视频在线看片| 日韩视频在线欧美| 男女高潮啪啪啪动态图| 99re6热这里在线精品视频| 亚洲 欧美一区二区三区| 精品久久久久久久毛片微露脸| 91九色精品人成在线观看| 满18在线观看网站| 手机成人av网站| 午夜福利在线观看吧| 丰满饥渴人妻一区二区三| 99热国产这里只有精品6| 成人国产一区最新在线观看| 久久久久视频综合| 亚洲国产看品久久| 成人18禁高潮啪啪吃奶动态图| 十八禁网站免费在线| 亚洲午夜理论影院| 国产伦人伦偷精品视频|