• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于時空注意力的社交網(wǎng)絡(luò)信息級聯(lián)預(yù)測模型

    2021-10-12 04:52:58劉小洋黃賢英
    中文信息學(xué)報 2021年8期
    關(guān)鍵詞:空間結(jié)構(gòu)級聯(lián)時序

    劉 超,韓 銳,劉小洋,黃賢英

    (重慶理工大學(xué) 計算機(jī)科學(xué)與工程學(xué)院,重慶 400054)

    0 引言

    微博、微信、Facebook等在線社交平臺的出現(xiàn),為信息的傳遞與共享提供了巨大的便利,從而促進(jìn)了信息的快速傳播,并因此產(chǎn)生了信息級聯(lián)現(xiàn)象。這種現(xiàn)象普遍存在于: 論文與博客引用[1-2],電子郵件轉(zhuǎn)發(fā)[3],以及各種社交平臺推文的轉(zhuǎn)發(fā)(如新浪微博[4]和Twitter[5])中。信息級聯(lián)預(yù)測能夠預(yù)測信息級聯(lián)的大小和廣度,并可以控制(或加速)各種場景中的信息傳播,可應(yīng)用于企業(yè)的病毒式營銷[6]、社交網(wǎng)絡(luò)影響力最大化[7]、媒體定點(diǎn)投放廣告[8]和虛假新聞檢測[9-10]等領(lǐng)域。因此,信息級聯(lián)預(yù)測已成為社交網(wǎng)絡(luò)分析領(lǐng)域的研究熱點(diǎn)。

    目前信息級聯(lián)預(yù)測方法可歸納為四類: 基于擴(kuò)散的方法[11-12],基于特征的方法[13],基于生成建模的方法[4]和基于深度學(xué)習(xí)的方法[5,14]?;谏疃葘W(xué)習(xí)的方法是目前預(yù)測最高效的方法,該方法通常將數(shù)據(jù)通過嵌入表示學(xué)習(xí)提取節(jié)點(diǎn)的特征,再利用神經(jīng)網(wǎng)絡(luò)自動學(xué)習(xí)節(jié)點(diǎn)的特征,最后進(jìn)行預(yù)測輸出。DeepCas[5]是第一個基于深度學(xué)習(xí)的信息級聯(lián)模型,通過隨機(jī)游走將級聯(lián)圖轉(zhuǎn)換為節(jié)點(diǎn)序列,并自動學(xué)習(xí)各個圖的表示,然后使用循環(huán)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)級聯(lián)的時序信息。DeepHawkes[4]將級聯(lián)圖轉(zhuǎn)換為擴(kuò)散路徑,然后使用Hawkes過程學(xué)習(xí)級聯(lián)特征,使模型具有高度可解釋性。Topo-LSTM[15]利用動態(tài)有向無環(huán)圖DAG以及每個節(jié)點(diǎn)生成拓?fù)涓兄那度雭磉M(jìn)行預(yù)測。CasCN[14]模型利用圖卷積[16]網(wǎng)絡(luò)嵌入級聯(lián)子圖的空間結(jié)構(gòu)信息,再使用循環(huán)神經(jīng)網(wǎng)絡(luò)提取時序信息,再進(jìn)行輸出預(yù)測。

    雖然上述模型能夠預(yù)測信息級聯(lián),但是這些模型對級聯(lián)數(shù)據(jù)時序特征和空間拓?fù)浣Y(jié)構(gòu)利用不全面。文獻(xiàn)[4-5]利用了信息級聯(lián)的時序特征,忽略了空間特征;文獻(xiàn)[15]考慮了信息級聯(lián)的空間拓?fù)浣Y(jié)構(gòu),但卻忽略了時序信息。文獻(xiàn)[14]因考慮了信息級聯(lián)的時序信息和空間拓?fù)浣Y(jié)構(gòu),故實驗效果優(yōu)于文獻(xiàn)[4-5,15],但在捕獲時序信息時會丟失部分空間拓?fù)浣Y(jié)構(gòu),因而對最終的預(yù)測精度產(chǎn)生影響。由此可見,現(xiàn)有預(yù)測模型沒有實現(xiàn)時序信息與空間拓?fù)浣Y(jié)構(gòu)的有效耦合,制約了模型的預(yù)測效果。

    針對以上不足,本文提出一個端到端的深度學(xué)習(xí)模型,為了有效地捕獲級聯(lián)信息的時序和空間拓?fù)浣Y(jié)構(gòu)特征,先捕獲信息級聯(lián)的空間拓?fù)浣Y(jié)構(gòu),然后在時序信息的傳播過程中同時演變空間拓?fù)浣Y(jié)構(gòu),最后利用注意力機(jī)制將時序信息和空間結(jié)構(gòu)信息輸出的特征進(jìn)行耦合。因為級聯(lián)圖的大小不同,容易忽略一些邊緣信息,而且各個邊緣的權(quán)重不一致,導(dǎo)致對全局結(jié)構(gòu)的嵌入不全面,采用注意力機(jī)制實現(xiàn)特征耦合,有偏重地提取邊緣特征信息。

    本文主要貢獻(xiàn)如下:

    (1) 引入了時空注意力機(jī)制,實現(xiàn)了級聯(lián)圖的時序信息與空間結(jié)構(gòu)信息捕獲后的耦合,使模型適用于不同的圖結(jié)構(gòu)、時序信息。

    (2) 在利用雙向循環(huán)神經(jīng)網(wǎng)絡(luò)捕獲時序信息的同時,采用圖卷積網(wǎng)絡(luò)捕獲級聯(lián)信息的空間結(jié)構(gòu)信息,能更好地捕獲時序特征和空間結(jié)構(gòu)特征。

    (3) 提出一種新的面向社交網(wǎng)絡(luò)的信息級聯(lián)預(yù)測模型,與傳統(tǒng)基于循環(huán)網(wǎng)絡(luò)的信息級聯(lián)預(yù)測模型相比,ICP模型的級聯(lián)預(yù)測精度更高。

    1 相關(guān)工作

    1.1 圖卷積網(wǎng)絡(luò)

    圖卷積網(wǎng)絡(luò)(GCN[16])通過計算圖的拉普拉斯特征分解,從節(jié)點(diǎn)間的信息傳遞或等效的某些鄰域聚合功能中提取高級特征再進(jìn)行傅立葉域中的卷積運(yùn)算,提升各種圖任務(wù)的執(zhí)行效果。隨著圖卷積網(wǎng)絡(luò)的發(fā)展,先前的一些工作將圖卷積網(wǎng)絡(luò)應(yīng)用于信息級聯(lián),利用其特性挖掘級聯(lián)信息的空間拓?fù)浣Y(jié)構(gòu)信息。在文獻(xiàn)[14,17]中,利用圖卷積網(wǎng)絡(luò)提取級聯(lián)信息的空間拓?fù)湫畔?,用于預(yù)測信息級聯(lián)。

    1.2 注意力機(jī)制

    注意力機(jī)制在許多機(jī)器學(xué)習(xí)任務(wù)中都展示了顯著的效果,如圖像字幕[18]、視頻字幕[19]和機(jī)器翻譯[20]。注意力機(jī)制對重點(diǎn)關(guān)注鄰域分配更多的注意力資源以獲取更多所需要的特征信息,抑制其他的無用信息,從而取得更好的效果。文獻(xiàn)[5]中,采用注意力機(jī)制計算級聯(lián)序列的權(quán)重,更準(zhǔn)確地預(yù)測級聯(lián)信息。文獻(xiàn)[21]采用注意力機(jī)制探索用戶與用戶間隱式的級聯(lián)擴(kuò)散,從而實現(xiàn)預(yù)測級聯(lián)信息。注意力的關(guān)鍵思想是學(xué)習(xí)一組分配注意權(quán)重(將總和求歸一化): 較高(較低)的權(quán)重表示相應(yīng)的功能對于最終任務(wù)提供較多(較少)的信息。

    2 模型介紹

    本文提出一個端到端的深度學(xué)習(xí)面向社交網(wǎng)絡(luò)的ICP模型,采用級聯(lián)子圖Ci(t)作為輸入,預(yù)測推文pi在Δt時間內(nèi)傳播的增量ΔSi。ICP模型由4個組件組成,首先,從級聯(lián)圖中對子圖節(jié)點(diǎn)進(jìn)行采樣并生成鄰接矩陣序列;然后,將觀察時間窗口內(nèi)的鄰接矩陣序列和級聯(lián)圖的結(jié)構(gòu)信息輸入到Bi-LSTM網(wǎng)絡(luò);再將Bi-LSTM得到的表示輸入到注意力機(jī)制,耦合時間序列和空間結(jié)構(gòu)特征,再輸入衰減函數(shù),得到符合時間衰減效應(yīng)的特征表示;最后,使用全連接層輸出進(jìn)行預(yù)測。

    2.1 問題定義

    圖1 級聯(lián)圖

    表1 符號定義表

    2.2 節(jié)點(diǎn)嵌入層

    推文pi觀察到的級聯(lián)圖Ci(t),將其表示為鄰接矩陣形式,并為每個節(jié)點(diǎn)加入自環(huán),如圖2所示。然后根據(jù)級聯(lián)圖Ci(t)中每個節(jié)點(diǎn)的到達(dá)時刻進(jìn)行獨(dú)熱編碼(One-Hot Code)表示節(jié)點(diǎn)特征。將觀察窗口[0,T)劃分為l個不相交的細(xì)粒度時間間隔{[t0=0,t1),[t1,t2),…,[tl-1,tl=T)},然后再對每個時間間隔進(jìn)行編碼。

    圖2 級聯(lián)子圖序列的采樣表示

    (1)

    為了捕獲級聯(lián)信息在傳播過程中的空間結(jié)構(gòu)信息,采用圖卷積網(wǎng)絡(luò)來學(xué)習(xí)嵌入[22]。信息擴(kuò)散過程類似于馬爾科夫過程,即經(jīng)擴(kuò)散一段時間后會收斂于一個穩(wěn)定的分布,類似于分布[23]。因此,設(shè)級聯(lián)的拉普拉斯矩陣Δc,符合級聯(lián)圖的隨機(jī)游走特征,設(shè)馬爾科夫狀態(tài)轉(zhuǎn)移概率矩陣P=D-1A,且存在φi={φ1,φ2,…,φn}滿足φTP=φT。根據(jù)圖卷積網(wǎng)絡(luò)[16]公式:

    (2)

    可得拉普拉斯矩陣Δc:

    (3)

    其中,D表示級聯(lián)圖的度矩陣,K表示捕獲的鄰域?qū)訑?shù),

    2.3 圖卷積與雙向循環(huán)神經(jīng)網(wǎng)絡(luò)層

    圖3 模型框架圖

    (6)

    (7)

    (8)

    2.4 注意力機(jī)制

    (11)

    2.5 輸出預(yù)測層

    先前研究發(fā)現(xiàn),信息級聯(lián)存在著時間衰減效應(yīng),即一個節(jié)點(diǎn)對其他節(jié)點(diǎn)的影響會隨著時間的推移而減小[24]。本文采用非參數(shù)化時間衰減函數(shù)λf(T-ti),根據(jù)文獻(xiàn)[4]得:

    (12)

    ICP模型最后一部分是由全連接層(MLP)組成。根據(jù)前面計算得到的h′t,可計算出ΔSi,如式(13)所示。

    ΔSi=MLP(h′t)

    (13)

    最終任務(wù)是預(yù)測指定時間間隔內(nèi)信息傳播的增量,引入均方對數(shù)誤差(Mean Square Log-Transformed Error, MSLE),即:

    (14)

    作為損失函數(shù)loss,使用Adam優(yōu)化器優(yōu)化loss值,使其達(dá)到最優(yōu)(最小)。

    算法1 ICP算法

    2: repeat3: for鄰接矩陣序列ATi和對應(yīng)的拉普拉斯矩陣Δci do4: 根據(jù)式(6) ~ 式(8)得ht←Bi-LSTM(*G(ATi,Δci))5: 根據(jù)式(9) ~ 式(11)得hat←Attention(ht)6: 根據(jù)式(12)得h't←Aggregate(λf(T-tji)hat)7: 根據(jù)式(13)得ΔSi←MLP(h't)8: 根據(jù)式(14)得使用Adam優(yōu)化器對參數(shù)進(jìn)行優(yōu)化9: end for10: until convergence;

    3 實驗

    3.1 數(shù)據(jù)集

    為了評估ICP模型在信息級聯(lián)預(yù)測中的有效性和擴(kuò)展性,本文使用公開數(shù)據(jù)集進(jìn)行實驗并與先前的研究進(jìn)行比較。數(shù)據(jù)集的數(shù)據(jù)信息統(tǒng)計見表2。

    表2 數(shù)據(jù)集信息統(tǒng)計表

    Weibo[4]: 此數(shù)據(jù)集是選取新浪微博在2016年6月1日生成的所有原始帖子,并跟蹤接下來24小時內(nèi)每個帖子的所有轉(zhuǎn)發(fā),總共包括119 313條貼文。圖4(a)顯示了級聯(lián)大小的分布情況;圖5(a)展示了級聯(lián)的流行情況,顯示24h后,流行達(dá)到飽和。本文遵循與CasCN[14]相似的設(shè)置,即觀察時間窗口T=1, 2, 3h。最后,根據(jù)預(yù)處理后的層疊時間對層疊進(jìn)行排序,并為層疊選擇前70%的層疊為訓(xùn)練集,剩下的平均分為驗證集和測試集。

    HEP-PH[25]: HEP-PH數(shù)據(jù)集(高能物理現(xiàn)象學(xué)數(shù)據(jù)集)來自電子版arXiv論文引用網(wǎng)絡(luò),數(shù)據(jù)涵蓋了1993年1月至2003年4月(124個月)期間的論文,其中有34 546篇論文的所有引文。如果論文i引用論文j,則論文引用圖包含從i到j(luò)的有向邊。如果論文引用了數(shù)據(jù)集之外的論文或被其引用,則該圖將不包含有關(guān)此信息。圖4(b)顯示了級聯(lián)大小的分布情況,圖5(b)展示了級聯(lián)的流行情況。對于觀察窗口,選擇T=3, 5, 7a,分別對應(yīng)流行度達(dá)到最終規(guī)模的50%,60%和70%,如圖5(b)所示。然后,收集70%的級聯(lián)用于訓(xùn)練,其余平均拆分為驗證集和測試集。

    圖4 級聯(lián)尺寸分布圖X軸為級聯(lián)大小,Y軸表示不同級聯(lián)大小對應(yīng)的數(shù)量

    圖5 時間和級聯(lián)數(shù)之間的百分比分布

    3.2 實驗環(huán)境和參數(shù)設(shè)置

    本文所有實驗在Ubuntu 16操作系統(tǒng),Intel Core I9-9980XE CPU,128GB內(nèi)存和NVIDIA TiTan RTX(24GB)顯卡上進(jìn)行。

    對于DeepCas、DeepHawkes、Topo-LSTM和CasCN,參照DeepCas[5]設(shè)置用戶的嵌入維度是50,循環(huán)神經(jīng)網(wǎng)絡(luò)每層的隱藏單元數(shù)是32,全連接層的隱藏單元數(shù)分別是32和16,用戶學(xué)習(xí)率為5×10-4,其他學(xué)習(xí)率為5×10-3。每次迭代的批處理大小為32,當(dāng)連續(xù)50次迭代,驗證集的loss沒有下降,模型訓(xùn)練過程將停止。Weibo數(shù)據(jù)集的時間間隔設(shè)置為10min,HEP-PH的時間間隔設(shè)置為2個月。

    本文采用Tensorflow來實現(xiàn)ICP模型,并使用Adam優(yōu)化器通過梯度下降來優(yōu)化參數(shù)。除圖表示學(xué)習(xí)的嵌入鄰域?qū)硬捎肒=2外,其余模型參數(shù)設(shè)置與上述模型保持一致。

    3.3 評估指標(biāo)

    根據(jù)現(xiàn)有的工作,在實驗中選擇標(biāo)準(zhǔn)評估指標(biāo)——MSLE[見式(14)]來評估鏈接準(zhǔn)確性。請注意,MSLE越小,其預(yù)測性能越好。

    3.4 模型對比

    3.4.1 基準(zhǔn)版性能對比

    將用本文所提出ICP模型的基準(zhǔn)版,在真實的數(shù)據(jù)集上與先前級聯(lián)預(yù)測模型進(jìn)行實驗對比。

    DeepCas[5]是第一個用于信息級聯(lián)預(yù)測的深度學(xué)習(xí)體系結(jié)構(gòu),其表示級聯(lián)圖為一組隨機(jī)行走路徑,并通過雙向GRU神經(jīng)網(wǎng)絡(luò)通過管道傳輸,并帶有注意力機(jī)制來預(yù)測級聯(lián)的大小。它主要利用結(jié)構(gòu)和節(jié)點(diǎn)身份的信息進(jìn)行預(yù)測。

    DeepHawkes[4]模型將端到端深度學(xué)習(xí)的預(yù)測能力集成到Hawkes過程的可解釋因素中,以進(jìn)行流行度預(yù)測。深度學(xué)習(xí)方法與級聯(lián)動力學(xué)建模過程之間的結(jié)合彌合了信息級聯(lián)預(yù)測和理解之間的鴻溝。該方法既屬于生成方法又屬于基于深度學(xué)習(xí)的方法。

    Topo-LSTM[15]是有向無環(huán)圖結(jié)構(gòu)(DAG結(jié)構(gòu))RNN,將動態(tài)DAG作為輸入,并為DAG中的每個節(jié)點(diǎn)生成拓?fù)涓兄那度胱鳛檩敵?,從而預(yù)測下一個節(jié)點(diǎn)。

    CasCN[14]模型結(jié)合了結(jié)構(gòu)和時間的深度學(xué)習(xí)框架,利用圖卷積網(wǎng)絡(luò)捕獲網(wǎng)絡(luò)空間結(jié)構(gòu)信息,通過循環(huán)神經(jīng)網(wǎng)絡(luò)合并了時間衰減函數(shù)實現(xiàn)時間信息的更有效利用。該模型是一種深度學(xué)習(xí)的方法。

    表3總結(jié)了Weibo和HEP-PH數(shù)據(jù)集上ICP模型和其他模型基準(zhǔn)版之間的性能比較。ICP模型與DeepCas對比,證明僅嵌入節(jié)點(diǎn)作為圖表示是不夠的,不能將圖表示為一組隨機(jī)路徑。因DeepCas未能考慮時序信息和級聯(lián)圖的拓?fù)浣Y(jié)構(gòu),導(dǎo)致其性能比其他基于深度學(xué)習(xí)方法要差。Topo-LSTM也缺乏對時序信息的處理,導(dǎo)致其性能也較差。DeepHawkes雖然以生成方式對級聯(lián)進(jìn)行建模,但由于其學(xué)習(xí)結(jié)構(gòu)信息的能力較弱,因此無法發(fā)揮最佳性能。CasCN考慮了時序信息與空間拓?fù)浣Y(jié)構(gòu),但忽略了二者特征之間的融合。最后,本文提出的ICP模型在兩個數(shù)據(jù)集上的信息級聯(lián)預(yù)測(推文轉(zhuǎn)發(fā)和論文引用),效果明顯優(yōu)于其他模型。如在Weibo數(shù)據(jù)集中觀察1、2、3h,MSLE值分別為2.123,2.012,1.776;在HEP-PH數(shù)據(jù)集中觀察3、5、7a,MSLE值分別為0.939, 0.843, 0.812,取得了較好的預(yù)測效果。與CasCN相比,本文提出的ICP模型預(yù)測誤差分別降低了5.31%,1.18%,7.31%和6.47%,8.07%,8.46%,從而證實了模型的有效性。

    表3 性能對比表(MSLE)

    3.4.2 時空注意力對信息級聯(lián)的影響

    首先驗證注意力機(jī)制的有效性,設(shè)計消融實驗。構(gòu)建一個ICP的刪減版ICP-LSTM,即將基準(zhǔn)版中的Bi-LSTM替換為LSTM,然后與CasCN進(jìn)行比較,等價于ICP-LSTM是在CasCN模型的基礎(chǔ)上添加了注意力機(jī)制。在實驗過程中,二者參數(shù)一致,驗證采樣的鄰域?qū)訑?shù)K=1,2時的實驗效果如表4所示。

    表4 注意力機(jī)制影響級聯(lián)預(yù)測性能對比表(MSLE)

    表4中給出了嵌入層K=1,2與CasCN模型K=2的性能對比。根據(jù)表4可以看出,當(dāng)K=2時,本文提出的ICP模型優(yōu)于CasCN模型,這是因為添加了注意力機(jī)制,能夠耦合時序信息與空間結(jié)構(gòu)信息。當(dāng)K=1時,在Weibo中觀察2h,ICP-LSTM的MSLE大于CasCN,是由于K=1,采取的空間結(jié)構(gòu)信息不足,導(dǎo)致結(jié)果略低。

    然后,驗證時序信息對級聯(lián)預(yù)測的影響,將ICP的變體ICP-BiLSTM與CasCN進(jìn)行對比分析(ICP-BiLSTM為本文提出的ICP模型去掉注意力機(jī)制,也等價于將CasCN模型中LSTM網(wǎng)絡(luò)替換為BiLSTM網(wǎng)絡(luò)所產(chǎn)生的模型)。通過表5數(shù)據(jù)可以看出,當(dāng)K=2時,Weibo觀察3h的MSLE=1.783和HEP-PH觀察7a的MSLE=0.84,優(yōu)于CasCN的MSLE,從而證實時序信息在信息級聯(lián)中的重要性。

    表5 時序網(wǎng)絡(luò)影響級聯(lián)預(yù)測性能對比表(MSLE)

    最后,驗證時序信息和空間信息對級聯(lián)預(yù)測的影響,在CasCN的基礎(chǔ)上使用Bi-LSTM并添加注意力機(jī)制,再調(diào)整嵌入的鄰域?qū)訑?shù)K分別與CasCN進(jìn)行比較。通過表6的數(shù)據(jù)可以看出,在Weibo和HEP-PH數(shù)據(jù)集上K=1,2時,MSLE值均小于CasCN的MSLE值,表明本文提出的模型優(yōu)于CasCN,對時序信息和空間拓?fù)湫畔⒌牟东@更全面,從而提升了模型的效率,降低了損失率。

    表6 時序空間影響級聯(lián)預(yù)測性能對比表(MSLE)

    上述實驗表明,時序信息和空間結(jié)構(gòu)信息對信息級聯(lián)預(yù)測效果有重要影響。二者結(jié)合,能更好地保證預(yù)測的準(zhǔn)確率。使用注意力機(jī)制耦合二者數(shù)據(jù),使模型對時序信息和空間結(jié)構(gòu)信息的捕獲更加全面,也使模型更具有泛化力。

    3.5 模型優(yōu)化

    本文注意力機(jī)制的主要思想源自于自注意力機(jī)制,可采用比自注意力機(jī)制耦合效果更優(yōu)的方法。例如,可以采用多頭注意力機(jī)制來替換文中的注意力機(jī)制,提出了ICP的變體ICP-Mhead。表7給出了在相同參數(shù)下CasCN、ICP與ICP-Mhead實驗對比結(jié)果。可以得出,ICP-MHead模型的MSLE值均小于CasCN模型和ICP模型的MSLE值,表明使用多頭注意力的效果明顯優(yōu)于CasCN模型。因為多頭注意力機(jī)制采用多個頭部去捕獲特征信息,從而可以捕獲更多的邊緣信息(被忽略的時序信息和空間拓?fù)浣Y(jié)構(gòu)),使得提取的特征更加全面,故ICP-MHead模型優(yōu)于ICP模型。

    表7 多頭注意力機(jī)制影響級聯(lián)預(yù)測性能對比表(MSLE)

    3.6 模型收斂性

    本節(jié)對ICP-LSTM,ICP-BiLSTM,ICP-MHead與ICP的收斂性進(jìn)行分析,實驗結(jié)果如圖6所示。

    圖6中,可以看出,ICP-LSTM經(jīng)過100輪迭代之后基本擬合,平均用時約7h;ICP-BiLSTM經(jīng)過80次迭代之后基本擬合,平均用時約8h;ICP-MHead經(jīng)過120輪迭代之后基本擬合,平均用時約12h。ICP經(jīng)過50輪迭代之后基本擬合,平均用時約9h。ICP-MHead與ICP所采用Bi-LSTM和注意力機(jī)制導(dǎo)致訓(xùn)練時間較長,但模型的預(yù)測指標(biāo)更高且訓(xùn)練時間在可接受范圍內(nèi)。

    圖6 ICP模型驗證集Loss

    圖6 (續(xù))

    4 總結(jié)

    本文提出端到端的深度學(xué)習(xí)ICP模型實現(xiàn)信息級聯(lián)預(yù)測。在深度學(xué)習(xí)框架下,首先利用圖卷積網(wǎng)絡(luò)提取級聯(lián)信息的空間結(jié)構(gòu)特征,再利用雙向循環(huán)神經(jīng)網(wǎng)絡(luò)提取時序特征,然后使用注意力機(jī)制耦合空間結(jié)構(gòu)特征和時序特征,最后,在結(jié)合級聯(lián)的時間衰減效應(yīng)進(jìn)一步提高模型的預(yù)測準(zhǔn)確性。本文在兩個公開數(shù)據(jù)集上進(jìn)行實驗,結(jié)果表明,本文提出的基于時空注意力的社交網(wǎng)絡(luò)ICP模型預(yù)測精度高于先前的方法。

    下一步在空間結(jié)構(gòu)與時序信息相結(jié)合的基礎(chǔ)上,引入點(diǎn)過程建模,使得模型更具有可解釋性,提高模型的預(yù)測能力。

    猜你喜歡
    空間結(jié)構(gòu)級聯(lián)時序
    時序坐標(biāo)
    基于Sentinel-2時序NDVI的麥冬識別研究
    格絨追美小說敘事的空間結(jié)構(gòu)
    阿來研究(2020年1期)2020-10-28 08:10:22
    級聯(lián)LDPC碼的STBC-OFDM系統(tǒng)
    電子制作(2016年15期)2017-01-15 13:39:09
    一種毫米波放大器時序直流電源的設(shè)計
    電子制作(2016年15期)2017-01-15 13:39:08
    徐州安美固建筑空間結(jié)構(gòu)有限公司
    基于社會空間結(jié)構(gòu)流變的統(tǒng)戰(zhàn)工作組織策略研究
    基于級聯(lián)MUSIC的面陣中的二維DOA估計算法
    LCL濾波器在6kV級聯(lián)STATCOM中的應(yīng)用
    電測與儀表(2014年1期)2014-04-04 12:00:34
    H橋級聯(lián)型STATCOM的控制策略研究
    電測與儀表(2014年1期)2014-04-04 12:00:28
    亚洲中文日韩欧美视频| 巨乳人妻的诱惑在线观看| 国产在线观看jvid| 黑人巨大精品欧美一区二区蜜桃| 亚洲全国av大片| 午夜福利欧美成人| 精品国产美女av久久久久小说| 亚洲激情在线av| 久久中文字幕人妻熟女| 婷婷六月久久综合丁香| 色在线成人网| 婷婷六月久久综合丁香| 精品人妻1区二区| 欧美亚洲日本最大视频资源| 午夜免费成人在线视频| 少妇被粗大的猛进出69影院| 亚洲成人国产一区在线观看| 久久狼人影院| 国产蜜桃级精品一区二区三区| 在线观看免费视频网站a站| 欧美黄色片欧美黄色片| 日韩欧美免费精品| 久久天躁狠狠躁夜夜2o2o| 麻豆国产av国片精品| 国产在线精品亚洲第一网站| 国产成人免费无遮挡视频| 亚洲精品av麻豆狂野| 国产亚洲精品一区二区www| 国产精品久久久久成人av| 国产亚洲av高清不卡| 在线观看免费视频日本深夜| 成人国产一区最新在线观看| 无遮挡黄片免费观看| 乱人伦中国视频| 国产深夜福利视频在线观看| 久久精品aⅴ一区二区三区四区| 免费av毛片视频| 久久狼人影院| 日韩欧美国产一区二区入口| 国产成人系列免费观看| 免费少妇av软件| 精品一品国产午夜福利视频| 无遮挡黄片免费观看| 日韩 欧美 亚洲 中文字幕| 1024香蕉在线观看| 人人妻人人爽人人添夜夜欢视频| 一二三四社区在线视频社区8| 一个人免费在线观看的高清视频| 天堂中文最新版在线下载| 青草久久国产| 成年人黄色毛片网站| 在线观看免费午夜福利视频| 超色免费av| 成在线人永久免费视频| 琪琪午夜伦伦电影理论片6080| 91成年电影在线观看| 极品教师在线免费播放| 黄频高清免费视频| 精品熟女少妇八av免费久了| 一级毛片精品| 久久国产乱子伦精品免费另类| 欧美日韩亚洲综合一区二区三区_| 很黄的视频免费| 韩国av一区二区三区四区| 久久欧美精品欧美久久欧美| 日本a在线网址| 99久久综合精品五月天人人| 水蜜桃什么品种好| 亚洲成人国产一区在线观看| 三级毛片av免费| 亚洲av片天天在线观看| 最好的美女福利视频网| 91av网站免费观看| svipshipincom国产片| 亚洲精品一卡2卡三卡4卡5卡| 日韩欧美一区视频在线观看| 欧美精品一区二区免费开放| 午夜日韩欧美国产| 国产又色又爽无遮挡免费看| 青草久久国产| 午夜91福利影院| 亚洲美女黄片视频| 一个人观看的视频www高清免费观看 | 亚洲片人在线观看| 欧美乱妇无乱码| 怎么达到女性高潮| 精品人妻1区二区| 欧美日韩乱码在线| 日韩欧美在线二视频| 麻豆成人av在线观看| 午夜福利,免费看| 一区在线观看完整版| 亚洲精品av麻豆狂野| 波多野结衣高清无吗| 大陆偷拍与自拍| 欧美黄色淫秽网站| 久久国产精品影院| 久久久水蜜桃国产精品网| av福利片在线| 不卡av一区二区三区| 国产又色又爽无遮挡免费看| 两性夫妻黄色片| 精品国内亚洲2022精品成人| www.自偷自拍.com| 国产精品久久久久久人妻精品电影| 国产精品久久电影中文字幕| 亚洲精品中文字幕在线视频| 丝袜美腿诱惑在线| 久久草成人影院| 老熟妇乱子伦视频在线观看| 宅男免费午夜| 亚洲人成伊人成综合网2020| 亚洲色图av天堂| a级片在线免费高清观看视频| 香蕉国产在线看| 日日爽夜夜爽网站| 在线视频色国产色| 欧美精品一区二区免费开放| 亚洲专区字幕在线| 99热只有精品国产| 99久久精品国产亚洲精品| 国产免费男女视频| 丰满的人妻完整版| 真人一进一出gif抽搐免费| 日日摸夜夜添夜夜添小说| 91字幕亚洲| 久久中文字幕一级| www.熟女人妻精品国产| 精品国产亚洲在线| 中文字幕另类日韩欧美亚洲嫩草| 91大片在线观看| 亚洲成人久久性| 黑丝袜美女国产一区| 人妻久久中文字幕网| 亚洲欧美日韩另类电影网站| 久久久水蜜桃国产精品网| 极品人妻少妇av视频| 国产免费男女视频| 18禁国产床啪视频网站| 97超级碰碰碰精品色视频在线观看| 两性午夜刺激爽爽歪歪视频在线观看 | 中文欧美无线码| 国产1区2区3区精品| 欧美日本亚洲视频在线播放| 超色免费av| 91精品国产国语对白视频| 国产亚洲精品第一综合不卡| 男人的好看免费观看在线视频 | 黑人猛操日本美女一级片| 精品国产亚洲在线| 国产伦人伦偷精品视频| 我的亚洲天堂| 丁香欧美五月| 国产成人影院久久av| 日日摸夜夜添夜夜添小说| 欧美av亚洲av综合av国产av| 一区二区三区精品91| 国产1区2区3区精品| 在线观看一区二区三区激情| www.www免费av| 真人做人爱边吃奶动态| 天天影视国产精品| 久久久国产成人免费| 无限看片的www在线观看| 久久精品国产亚洲av香蕉五月| 久久午夜亚洲精品久久| 欧美日韩瑟瑟在线播放| 岛国视频午夜一区免费看| 黄色片一级片一级黄色片| 久久久久国产精品人妻aⅴ院| 国产精品免费一区二区三区在线| 国产极品粉嫩免费观看在线| 变态另类成人亚洲欧美熟女 | 在线观看日韩欧美| 欧美精品亚洲一区二区| 美女高潮喷水抽搐中文字幕| 日本vs欧美在线观看视频| 亚洲午夜精品一区,二区,三区| 国产成年人精品一区二区 | 午夜福利一区二区在线看| 中文欧美无线码| 韩国av一区二区三区四区| 国产av一区二区精品久久| 午夜精品久久久久久毛片777| 欧美乱色亚洲激情| 久久精品影院6| 久久精品国产99精品国产亚洲性色 | 啦啦啦在线免费观看视频4| 搡老岳熟女国产| 两性夫妻黄色片| 亚洲专区字幕在线| 免费在线观看完整版高清| 极品人妻少妇av视频| 国产精品1区2区在线观看.| 国产精品九九99| 一级片'在线观看视频| 黄色 视频免费看| 亚洲七黄色美女视频| 黑人欧美特级aaaaaa片| 国产又色又爽无遮挡免费看| 中文字幕人妻熟女乱码| 手机成人av网站| 日本黄色日本黄色录像| 欧美另类亚洲清纯唯美| 三上悠亚av全集在线观看| 亚洲七黄色美女视频| 脱女人内裤的视频| 啦啦啦免费观看视频1| 麻豆国产av国片精品| 色婷婷久久久亚洲欧美| videosex国产| 国产高清videossex| 亚洲av成人不卡在线观看播放网| 超色免费av| 欧美乱色亚洲激情| 久久久久久大精品| 免费观看精品视频网站| 精品国产美女av久久久久小说| 免费在线观看亚洲国产| 每晚都被弄得嗷嗷叫到高潮| 免费看十八禁软件| 真人做人爱边吃奶动态| 女人高潮潮喷娇喘18禁视频| 亚洲性夜色夜夜综合| 精品日产1卡2卡| 亚洲色图av天堂| 久久久国产精品麻豆| www.熟女人妻精品国产| 久久国产精品男人的天堂亚洲| 真人一进一出gif抽搐免费| 欧美日韩瑟瑟在线播放| 天天添夜夜摸| 国产99久久九九免费精品| 国产一区在线观看成人免费| 视频区图区小说| 亚洲人成网站在线播放欧美日韩| 精品国产乱码久久久久久男人| 久久热在线av| 男女做爰动态图高潮gif福利片 | xxx96com| 国产蜜桃级精品一区二区三区| 性少妇av在线| 男人舔女人的私密视频| 成人手机av| 日韩精品中文字幕看吧| 亚洲狠狠婷婷综合久久图片| 一级毛片精品| 十八禁网站免费在线| 亚洲国产中文字幕在线视频| 日韩成人在线观看一区二区三区| 很黄的视频免费| 精品一区二区三区视频在线观看免费 | 亚洲成国产人片在线观看| 老司机靠b影院| 人成视频在线观看免费观看| 不卡av一区二区三区| 美女高潮到喷水免费观看| 国产人伦9x9x在线观看| 好男人电影高清在线观看| 日韩欧美免费精品| 亚洲第一欧美日韩一区二区三区| 真人做人爱边吃奶动态| 99久久人妻综合| 国产伦人伦偷精品视频| 夫妻午夜视频| 日本黄色视频三级网站网址| 黄色视频,在线免费观看| 精品久久蜜臀av无| 亚洲人成网站在线播放欧美日韩| 亚洲中文av在线| 欧美黄色淫秽网站| 看片在线看免费视频| 在线观看免费视频日本深夜| 他把我摸到了高潮在线观看| 国产精品久久久久久人妻精品电影| 亚洲精品国产色婷婷电影| 黄网站色视频无遮挡免费观看| 视频区欧美日本亚洲| 精品久久久久久成人av| 激情视频va一区二区三区| 亚洲中文av在线| 国产成人av教育| 色综合婷婷激情| 自线自在国产av| 长腿黑丝高跟| 精品一区二区三区四区五区乱码| 在线十欧美十亚洲十日本专区| 男女下面进入的视频免费午夜 | 老司机午夜福利在线观看视频| 久久精品亚洲精品国产色婷小说| 国产91精品成人一区二区三区| 精品久久蜜臀av无| 久久久国产欧美日韩av| 无人区码免费观看不卡| 精品电影一区二区在线| 在线观看免费午夜福利视频| 中文亚洲av片在线观看爽| 欧美一级毛片孕妇| 亚洲国产精品sss在线观看 | 亚洲成人久久性| 一边摸一边抽搐一进一小说| 少妇 在线观看| 一夜夜www| 国产亚洲精品综合一区在线观看 | 国产1区2区3区精品| 欧美黄色片欧美黄色片| 两个人看的免费小视频| 亚洲成人国产一区在线观看| 国内久久婷婷六月综合欲色啪| 日本欧美视频一区| 亚洲第一欧美日韩一区二区三区| 天天影视国产精品| 自拍欧美九色日韩亚洲蝌蚪91| 婷婷精品国产亚洲av在线| 在线观看日韩欧美| 少妇粗大呻吟视频| 这个男人来自地球电影免费观看| 少妇 在线观看| 欧美在线一区亚洲| 成年版毛片免费区| av超薄肉色丝袜交足视频| 又黄又粗又硬又大视频| 免费观看人在逋| 国产成人精品久久二区二区免费| 淫秽高清视频在线观看| 亚洲av成人一区二区三| 亚洲av日韩精品久久久久久密| 欧美另类亚洲清纯唯美| 女人被躁到高潮嗷嗷叫费观| 欧美激情极品国产一区二区三区| 香蕉国产在线看| 日韩免费高清中文字幕av| 99re在线观看精品视频| av超薄肉色丝袜交足视频| 黄色丝袜av网址大全| 黑人巨大精品欧美一区二区mp4| 女生性感内裤真人,穿戴方法视频| 极品人妻少妇av视频| 亚洲专区字幕在线| 午夜免费观看网址| 操出白浆在线播放| 欧美乱色亚洲激情| 18禁国产床啪视频网站| 热99re8久久精品国产| 亚洲专区字幕在线| 亚洲第一青青草原| 美女 人体艺术 gogo| av免费在线观看网站| 国产一区二区激情短视频| 校园春色视频在线观看| 亚洲三区欧美一区| 琪琪午夜伦伦电影理论片6080| 十分钟在线观看高清视频www| 三上悠亚av全集在线观看| 欧美人与性动交α欧美精品济南到| 超碰97精品在线观看| 成人手机av| 久久精品91蜜桃| 久久久久九九精品影院| 亚洲一区二区三区色噜噜 | 久久久久国产精品人妻aⅴ院| 亚洲七黄色美女视频| 老司机深夜福利视频在线观看| 欧美日韩乱码在线| 一边摸一边抽搐一进一出视频| 亚洲国产精品一区二区三区在线| 岛国在线观看网站| 久久亚洲真实| 午夜两性在线视频| 麻豆国产av国片精品| 黄色 视频免费看| 久9热在线精品视频| 99久久久亚洲精品蜜臀av| 成人黄色视频免费在线看| 精品国产亚洲在线| 午夜精品久久久久久毛片777| 每晚都被弄得嗷嗷叫到高潮| 午夜老司机福利片| 亚洲成人精品中文字幕电影 | 18禁观看日本| 国产麻豆69| av中文乱码字幕在线| 亚洲成a人片在线一区二区| 亚洲精品一区av在线观看| 十分钟在线观看高清视频www| av中文乱码字幕在线| 女人精品久久久久毛片| 啦啦啦免费观看视频1| 熟女少妇亚洲综合色aaa.| 久久狼人影院| 夫妻午夜视频| 欧美黑人欧美精品刺激| 丁香六月欧美| 嫩草影院精品99| 黑人操中国人逼视频| 99精国产麻豆久久婷婷| 欧美性长视频在线观看| 亚洲一码二码三码区别大吗| 黄色成人免费大全| 国产精品成人在线| 三上悠亚av全集在线观看| 国产国语露脸激情在线看| 亚洲伊人色综图| 国产极品粉嫩免费观看在线| 村上凉子中文字幕在线| 大码成人一级视频| 欧美黑人精品巨大| 人人澡人人妻人| 亚洲av美国av| 91精品国产国语对白视频| 日韩视频一区二区在线观看| 欧美性长视频在线观看| 亚洲一区二区三区欧美精品| 老汉色∧v一级毛片| bbb黄色大片| 免费看a级黄色片| 大码成人一级视频| 久久天堂一区二区三区四区| 国产99久久九九免费精品| 久久久久久大精品| 色婷婷久久久亚洲欧美| 日韩高清综合在线| 国产欧美日韩一区二区三区在线| 欧美黄色淫秽网站| 国产高清激情床上av| 最新美女视频免费是黄的| 免费高清视频大片| 搡老熟女国产l中国老女人| 狠狠狠狠99中文字幕| 老司机在亚洲福利影院| 国产精品偷伦视频观看了| 一进一出抽搐gif免费好疼 | 久久中文看片网| 脱女人内裤的视频| 欧美日韩亚洲综合一区二区三区_| 久久精品亚洲熟妇少妇任你| 一级,二级,三级黄色视频| 热re99久久精品国产66热6| 国产精品美女特级片免费视频播放器 | 丁香欧美五月| 中文字幕最新亚洲高清| 国产午夜精品久久久久久| 亚洲欧美一区二区三区久久| 亚洲黑人精品在线| 亚洲一区二区三区色噜噜 | 热re99久久精品国产66热6| 欧美日韩福利视频一区二区| 久久久国产欧美日韩av| 在线播放国产精品三级| 欧美激情极品国产一区二区三区| 无限看片的www在线观看| 电影成人av| 999久久久精品免费观看国产| 操出白浆在线播放| 啦啦啦免费观看视频1| 国产人伦9x9x在线观看| 久久久久久久午夜电影 | 嫁个100分男人电影在线观看| 91成人精品电影| 成人黄色视频免费在线看| 久久久久亚洲av毛片大全| 色综合欧美亚洲国产小说| 免费av毛片视频| 日日夜夜操网爽| 欧美激情高清一区二区三区| 麻豆成人av在线观看| 欧美黄色淫秽网站| 两个人免费观看高清视频| 亚洲在线自拍视频| 俄罗斯特黄特色一大片| 侵犯人妻中文字幕一二三四区| 午夜精品在线福利| 午夜影院日韩av| 黑人猛操日本美女一级片| 久久精品影院6| 香蕉久久夜色| 视频在线观看一区二区三区| 久久人人97超碰香蕉20202| 精品欧美一区二区三区在线| 精品乱码久久久久久99久播| 午夜日韩欧美国产| 一级片免费观看大全| 不卡一级毛片| 首页视频小说图片口味搜索| 99re在线观看精品视频| 人人妻人人添人人爽欧美一区卜| 叶爱在线成人免费视频播放| 国产精品免费视频内射| 99精品久久久久人妻精品| 亚洲国产精品sss在线观看 | 一区福利在线观看| 亚洲精品久久午夜乱码| 天堂中文最新版在线下载| 亚洲熟女毛片儿| 久久久精品国产亚洲av高清涩受| 一a级毛片在线观看| 精品国产乱子伦一区二区三区| 大陆偷拍与自拍| 久热爱精品视频在线9| 精品熟女少妇八av免费久了| 日韩 欧美 亚洲 中文字幕| 久久久久久久久免费视频了| 精品国产乱码久久久久久男人| 亚洲精品成人av观看孕妇| 99热国产这里只有精品6| 久久国产精品男人的天堂亚洲| 国产精品一区二区免费欧美| 香蕉丝袜av| 少妇 在线观看| 人人妻人人澡人人看| 久久久国产欧美日韩av| 9色porny在线观看| 中文字幕另类日韩欧美亚洲嫩草| 一区二区三区激情视频| 欧美丝袜亚洲另类 | 亚洲一区二区三区欧美精品| 黑人巨大精品欧美一区二区蜜桃| 国产精品 欧美亚洲| 国产精品日韩av在线免费观看 | 国产高清激情床上av| 亚洲精品av麻豆狂野| 男女下面插进去视频免费观看| 超碰97精品在线观看| 亚洲成国产人片在线观看| 午夜福利,免费看| 国产亚洲精品一区二区www| 亚洲人成电影观看| 亚洲美女黄片视频| 黄片播放在线免费| 黄频高清免费视频| 欧美亚洲日本最大视频资源| 欧美成人免费av一区二区三区| 亚洲精品美女久久久久99蜜臀| 超碰成人久久| 成人黄色视频免费在线看| 国产又爽黄色视频| 免费观看精品视频网站| 国产成人精品无人区| 国产精品综合久久久久久久免费 | 亚洲精品久久午夜乱码| 大型av网站在线播放| 麻豆久久精品国产亚洲av | 亚洲男人天堂网一区| 亚洲专区字幕在线| 国产av又大| 国产一区在线观看成人免费| 国产激情欧美一区二区| 免费人成视频x8x8入口观看| 97碰自拍视频| 亚洲欧洲精品一区二区精品久久久| 国产成人精品在线电影| 国产亚洲精品久久久久久毛片| 亚洲人成伊人成综合网2020| 国产精品免费一区二区三区在线| 久久精品亚洲精品国产色婷小说| 国产av又大| 久久狼人影院| 亚洲中文日韩欧美视频| 十八禁人妻一区二区| 亚洲成人精品中文字幕电影 | 日韩欧美一区二区三区在线观看| 久久久久久久久中文| 麻豆av在线久日| 精品人妻1区二区| 两个人看的免费小视频| 亚洲国产精品一区二区三区在线| 纯流量卡能插随身wifi吗| 国产精品永久免费网站| 国产av精品麻豆| 超碰97精品在线观看| 校园春色视频在线观看| 90打野战视频偷拍视频| 成人特级黄色片久久久久久久| 狂野欧美激情性xxxx| 国产黄a三级三级三级人| av免费在线观看网站| 免费不卡黄色视频| 欧美黄色片欧美黄色片| 岛国在线观看网站| 美女 人体艺术 gogo| 黄片小视频在线播放| 两性午夜刺激爽爽歪歪视频在线观看 | 精品福利观看| 日本vs欧美在线观看视频| 欧美黑人欧美精品刺激| 欧美不卡视频在线免费观看 | 国产主播在线观看一区二区| 亚洲av成人一区二区三| 成年人黄色毛片网站| av欧美777| 欧美乱码精品一区二区三区| 香蕉国产在线看| 久久亚洲精品不卡| 香蕉久久夜色| 一级作爱视频免费观看| 国产精品国产av在线观看| 国产精品久久久久成人av| 99热国产这里只有精品6| 1024香蕉在线观看| 欧美精品啪啪一区二区三区| 热99re8久久精品国产| 欧美黄色片欧美黄色片| 老熟妇乱子伦视频在线观看| 操美女的视频在线观看| 天堂√8在线中文| 麻豆成人av在线观看| www国产在线视频色| 成人免费观看视频高清| 亚洲中文字幕日韩| 国产亚洲欧美精品永久| 黑丝袜美女国产一区| 亚洲国产欧美日韩在线播放| 在线播放国产精品三级| 亚洲欧美一区二区三区黑人| 99久久人妻综合|