基于圖卷積網(wǎng)絡(luò)的微博新聞故事線抽取方法

趙旭劍，王崇偉

（西南科技大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院，四川綿陽(yáng) 621010）

0 引言

互聯(lián)網(wǎng)時(shí)代，Web信息的爆炸式增長(zhǎng)以及迅速的更新，使得人們很難全面、準(zhǔn)確、及時(shí)地從中獲取事件的故事線演化脈絡(luò)。作為社交網(wǎng)絡(luò)的代表，微博為發(fā)現(xiàn)新聞事件及其演變提供了有價(jià)值的數(shù)據(jù)。但如何對(duì)這些零碎的數(shù)據(jù)進(jìn)行深度挖掘和分析，形成能準(zhǔn)確描述事件演化的故事線，已經(jīng)成為網(wǎng)絡(luò)用戶的急切需求。此外，故事線抽取結(jié)果所描述的事件演化與新聞事件的大眾輿論緊密關(guān)聯(lián)，因此，故事線抽取對(duì)網(wǎng)絡(luò)輿情研究同樣具有重要意義。

目前故事線生成的相關(guān)研究工作以考慮事件的顯式關(guān)聯(lián)關(guān)系為基礎(chǔ)，利用相似性將事件鏈接以構(gòu)建故事線。傳統(tǒng)相似性計(jì)算方法是鏈接事件的基礎(chǔ)，例如Liu等［1］提出故事森林（Story Forest），利用事件關(guān)鍵詞的Jaccard 相似系數(shù)鏈接事件并生成故事線，此外互信息［2］和余弦相似度［3］也是常用的相似性度量方法。研究人員也常常利用相似性把事件建模為圖結(jié)構(gòu)，將故事線抽取轉(zhuǎn)化為圖中樹生成問(wèn)題，常見(jiàn)有最大生成樹［4］和斯坦納樹［5］等樹生成算法構(gòu)建故事線。但這兩類方法都依賴豐富的事件語(yǔ)義信息，而這是目前微博數(shù)據(jù)所缺乏的，盡管有研究人員基于微博特征擴(kuò)展，例如訓(xùn)練微博向量［6］。為解決這一問(wèn)題，貝葉斯模型被使用來(lái)建立事件間的隱式關(guān)系，如Hua 等［7］將貝葉斯模型引入到故事線生成中，將故事線建模為包括故事線、事件和主題的三層結(jié)構(gòu)；但貝葉斯模型參數(shù)推斷復(fù)雜，時(shí)間復(fù)雜度較高。

總之，目前從微博中抽取故事線存在兩個(gè)挑戰(zhàn)性的問(wèn)題：1）如何提取微博中的首要事件?，F(xiàn)有的大部分故事線抽取工作忽略了提取首要事件的過(guò)程，基于圖的算法把首要事件提取轉(zhuǎn)化為圖中關(guān)鍵節(jié)點(diǎn)提取，但也忽略了事件原本特征。2）如何學(xué)習(xí)事件關(guān)聯(lián)關(guān)系并構(gòu)建故事分支。事件相似度計(jì)算依賴豐富的事件信息，貝葉斯模型雖然一定程度上能學(xué)習(xí)事件隱式關(guān)系，但也帶來(lái)了較高的時(shí)間復(fù)雜度。

針對(duì)以上問(wèn)題，本文提出了一種從微博自動(dòng)抽取故事線的方法，該方法通過(guò)挖掘微博事件影響力抽取首要事件，利用圖結(jié)構(gòu)建模事件關(guān)系，并設(shè)計(jì)一種改進(jìn)的圖卷積網(wǎng)絡(luò)（Graph Convolutional Network，GCN）學(xué)習(xí)事件關(guān)系，最后鏈接事件并構(gòu)建故事線。本文的主要工作如下：

1）提出了基于微博傳播影響力的事件抽取模型。定義微博事件重要性元素，將事件重要性建模為微博的傳播影響力，在此基礎(chǔ)上抽取構(gòu)建故事線的首要事件。

2）提出了一種異構(gòu)圖結(jié)構(gòu)來(lái)建模事件關(guān)系。與考慮通過(guò)相似性關(guān)聯(lián)建立事件關(guān)系的方法不同，本文對(duì)事件、關(guān)鍵詞分別定義對(duì)象節(jié)點(diǎn)，并采用點(diǎn)互信息、詞頻-逆文本頻率（Term Frequency-Inverse Document Frequency，TF-IDF）以及時(shí)間老化模型分別對(duì)節(jié)點(diǎn)間的關(guān)系進(jìn)行建模。

3）提出了一種事件圖卷積網(wǎng)絡(luò)（Event GCN，E-GCN）模型，用于學(xué)習(xí)事件之間的隱式語(yǔ)義關(guān)系，以鏈接事件并預(yù)測(cè)事件的故事分支。此外，設(shè)計(jì)了一種基于差異度的方法來(lái)解決圖卷積網(wǎng)絡(luò)需要少量標(biāo)簽節(jié)點(diǎn)初始化的問(wèn)題，避免人為構(gòu)建標(biāo)簽對(duì)故事線抽取的干擾。

1 相關(guān)工作

自互聯(lián)網(wǎng)興起，故事線挖掘成為Web 數(shù)據(jù)挖掘領(lǐng)域的一個(gè)研究熱點(diǎn)。Makkonen等［8］最早把故事線挖掘視為話題檢測(cè)與追蹤的子課題，用圖結(jié)構(gòu)表示故事線及其事件演化關(guān)系，后來(lái)Nallapati 等［9］提出了事件線索（Event Threading），為后來(lái)故事線自動(dòng)抽取研究奠定了理論基礎(chǔ)?？偟膩?lái)說(shuō)，目前故事線抽取工作在新聞網(wǎng)站和社交網(wǎng)絡(luò)上均有廣泛影響力。

1.1 基于新聞文檔的故事線抽取

社交網(wǎng)絡(luò)興起前，故事線抽取工作多數(shù)基于新聞文檔，并且存在一些與故事線生成相關(guān)的會(huì)議和研討會(huì)。例如，新聞媒體中故事線挖掘的系統(tǒng)研究可以追溯到文本檢索會(huì)議（Text REtrieval Conference，TREC）。TREC 2013 要求研究人員從網(wǎng)絡(luò)新聞?wù)Z料庫(kù)中提取事件時(shí)間軸，這是故事線生成的早期思想。隨后，其他一些會(huì)議也舉行了類似的評(píng)估任務(wù)，如2017 年由計(jì)算語(yǔ)言學(xué)協(xié)會(huì)主辦的“新聞中的事件與故事”研討會(huì)。此外，還有一部分相對(duì)獨(dú)立的研究，根據(jù)方法不同可分為三類：聚類、貝葉斯模型和基于圖的方法。

聚類算法將不同的故事分支視為不同的簇。研究人員提出一些事件操作來(lái)構(gòu)建故事線，例如Liu 等［1］提出“故事森林”將數(shù)據(jù)流聚類成事件，并基于聚類的思想提出合并、擴(kuò)展、插入三種事件操作將事件鏈接在故事線上。類似還有Laban 等［10］提出的鏈接、分裂、合并三種事件操作。然而，基于聚類算法構(gòu)建故事線依賴于明確的語(yǔ)義信息，需要豐富的事件內(nèi)容。

貝葉斯模型將故事線建模為事件特征的聯(lián)合分布，通過(guò)參數(shù)推斷得到事件的故事分支。與聚類算法相比，貝葉斯模型不考慮顯式語(yǔ)義信息來(lái)生成故事線。例如佘玉軒等［11］將貝葉斯模型引入到故事線抽取中，將故事線建模為日期、時(shí)間、機(jī)構(gòu)、人物、地點(diǎn)、主題以及關(guān)鍵詞的聯(lián)合分布。而Zhou 等［12］對(duì)事件命名實(shí)體進(jìn)行細(xì)粒度劃分，將故事線建模為命名實(shí)體和主題的聯(lián)合分布，推導(dǎo)出每個(gè)事件所屬的故事分支。然而，貝葉斯模型在推導(dǎo)參數(shù)時(shí)需要較高的時(shí)間復(fù)雜度。

基于圖的方法將事件的語(yǔ)義特征與時(shí)序特性結(jié)合，把事件建模為圖結(jié)構(gòu)，根據(jù)圖算法生成故事線，主要步驟為：1）通過(guò)相似度關(guān)系將事件建模為圖結(jié)構(gòu)；2）選擇重要節(jié)點(diǎn)作為代表事件；3）通過(guò)生成樹算法從圖中生成故事線。例如Wang等［13］基于最小權(quán)重支配集選取代表性事件，利用有向斯坦納樹生成故事線。而Yuan 等［5］則是基于度和聚類系數(shù)選取代表性事件。然而，最小權(quán)重支配集和斯坦納樹均為NP-hard問(wèn)題，即基于圖的方法也需要較高的計(jì)算代價(jià)。

1.2 基于社交網(wǎng)絡(luò)的故事線抽取

微博媒體的興起掀起了社交網(wǎng)絡(luò)文本挖掘的熱潮。傳統(tǒng)基于新聞文檔的故事線抽取研究依賴新聞文檔中豐富的文本內(nèi)容來(lái)計(jì)算事件之間的相似關(guān)系，然而微博數(shù)據(jù)往往內(nèi)容稀疏、表達(dá)隱含且缺乏上下文，對(duì)基于文本相似度度量的故事線抽取方法具有較大挑戰(zhàn)。因此，研究人員針對(duì)社交網(wǎng)絡(luò)的屬性做了更多的擴(kuò)展。

為了解決數(shù)據(jù)稀疏問(wèn)題，Hawwash 等［6］把微博訓(xùn)練成事件向量，通過(guò)對(duì)事件進(jìn)行聚類以生成故事線。Cai等［14］提出四種事件操作來(lái)捕獲事件隨時(shí)間的演化模式，并提出一種事件索引結(jié)構(gòu)來(lái)解決大規(guī)模事件更新問(wèn)題。“標(biāo)簽”是社交網(wǎng)絡(luò)中最顯著的特征，因此Hua 等［7］基于微博“標(biāo)簽”來(lái)識(shí)別故事線、事件類型和主題間的關(guān)系，并將貝葉斯模型引入到故事線生成中，將故事線建模為包括故事線、事件和主題的三層結(jié)構(gòu)。

雖然基于圖的算法在目前生成故事線中應(yīng)用最廣泛，但圖算法是NP-hard問(wèn)題，且社交網(wǎng)絡(luò)中的數(shù)據(jù)規(guī)模遠(yuǎn)大于新聞數(shù)據(jù)，所以面向社交網(wǎng)絡(luò)的故事線抽取研究也面臨挑戰(zhàn)。為了解決該問(wèn)題，Lin 等［15］提出了一種動(dòng)態(tài)偽相關(guān)反饋語(yǔ)言模型，在給定事件查詢的情況下檢索相關(guān)帖子，降低事件冗余度，通過(guò)最小權(quán)支配集和有向斯坦納樹生成故事情節(jié)。而李培等［16］則利用Top-K優(yōu)化支配集算法，并利用時(shí)間窗口降低斯坦納樹算法的復(fù)雜度。此外，李瑩瑩等［4］把事件的演化表示為一個(gè)有向無(wú)環(huán)圖，在圖中識(shí)別弱連通分量形成弱連通分量集合，為每一個(gè)弱連通分量構(gòu)造一個(gè)最大生成樹得到故事線。

綜上所述，由于社交網(wǎng)絡(luò)數(shù)據(jù)存在內(nèi)容稀疏、規(guī)模龐大和缺乏上下文等特點(diǎn)，傳統(tǒng)基于新聞文檔的故事線自動(dòng)抽取研究較難直接應(yīng)用于社交網(wǎng)絡(luò)。目前，基于社交網(wǎng)絡(luò)的故事線抽取研究相較傳統(tǒng)基于新聞網(wǎng)站的抽取方法進(jìn)行了一系列改進(jìn)，包括訓(xùn)練微博向量、利用微博“標(biāo)簽”、應(yīng)用時(shí)間窗口等，但仍舊存在局限性，特別是未能較好解決首要事件抽取與故事分支構(gòu)建兩個(gè)關(guān)鍵問(wèn)題。

2 定義與框架

2.1 概念定義

定義1事件，指在特定時(shí)間和地點(diǎn)內(nèi)發(fā)生的，有一個(gè)或多個(gè)對(duì)象參與，由一個(gè)或多個(gè)動(dòng)作組成的事情。定義為E=，其中C是事件文本，TC是事件發(fā)生時(shí)間。

定義2首要事件，指事件演化過(guò)程中最具代表性的事件，是組成故事分支與故事線的基本事件單位。定義為Ep∈E。

定義3故事分支，指由多個(gè)相同主題的事件構(gòu)成，并用事件關(guān)系串聯(lián)起來(lái)的一條事件時(shí)間軸。定義為Branch=Event_set，TS，其中Event_set是組成故事分支的事件集合，TS是故事分支的時(shí)間段。

定義4故事線，是由一條或多條相關(guān)聯(lián)的故事分支構(gòu)成的表示事件間演化關(guān)系的樹狀結(jié)構(gòu)。定義為Storyline=Branch_set，link，其中Branch_set是故事分支集合，link表示事件間的鏈接關(guān)系。

例如圖1 展示了“長(zhǎng)春長(zhǎng)生疫苗事件”的部分故事線。圖中，節(jié)點(diǎn)表示事件，深色節(jié)點(diǎn)為過(guò)渡節(jié)點(diǎn)，有向邊表示事件的演化關(guān)系，節(jié)點(diǎn)序號(hào)表示時(shí)間維度上事件的演化順序。圖2展示了三條故事分支，故事分支1 討論與“國(guó)家藥品監(jiān)督管理局”相關(guān)事件，故事分支2 討論“朋友圈中民眾反應(yīng)”，故事分支3 討論“疫苗管理法的實(shí)施過(guò)程”。通過(guò)建模事件演化構(gòu)建故事線，用戶能夠輕松從中獲悉社會(huì)事件的演化過(guò)程。

圖1 “長(zhǎng)春長(zhǎng)生疫苗事件”部分故事線Fig.1 Part storyline of“Changchun Changsheng vaccine incident”

圖2 故事分支示例Fig.2 Examples of story branch

2.2 問(wèn)題定義

2.3 框架組件

微博新聞故事線抽取研究主要包括事件提取和故事線抽取兩個(gè)主要模塊。圖3 展示了框架組件。首先，通過(guò)一系列機(jī)器學(xué)習(xí)方法對(duì)原始微博數(shù)據(jù)進(jìn)行預(yù)處理，主要包括微博切分、時(shí)間表達(dá)規(guī)范化和冗余過(guò)濾；然后，基于微博事件的傳播度對(duì)事件排序，提取首要事件；接著，使用異構(gòu)圖來(lái)建模事件之間關(guān)系，同時(shí)，為了識(shí)別初始故事分支，提出了一種基于差異度的方法；最后，利用事件圖卷積網(wǎng)絡(luò)來(lái)生成故事線。

圖3 框架組件Fig.3 Framework components

3 事件提取

事件提取旨在對(duì)微博進(jìn)行數(shù)據(jù)清洗，并從微博中提取首要事件。首先，對(duì)微博進(jìn)行預(yù)處理，包括微博切分、時(shí)間表達(dá)式規(guī)范化和冗余過(guò)濾三個(gè)步驟，得到粗粒度的事件集合；然后，基于微博的傳播特性對(duì)微博事件進(jìn)行排序篩選，基于事件的傳播度排名提取首要事件。

3.1 預(yù)處理

預(yù)處理的具體操作如下：

1）微博切分。每一個(gè)完整的句子都能表示一種完整的語(yǔ)義信息，因此基于能表達(dá)句子結(jié)尾意思的標(biāo)點(diǎn)符號(hào)對(duì)微博帖子進(jìn)行切分，得到候選事件集合，然后考慮將每一個(gè)包含時(shí)間表達(dá)式的微博帖子視為一個(gè)事件，這些事件構(gòu)成了故事線最初的事件集合。

2）時(shí)間表達(dá)式規(guī)范化。時(shí)間是事件的顯著特征，而事件中往往存在諸如“3 月24 日”“24 日”等不夠精確的模糊時(shí)間，以及“今天”“昨天”“本周五”等類似的隱式時(shí)間表達(dá)式。對(duì)于模糊時(shí)間，把微博的發(fā)布時(shí)間作為基準(zhǔn)時(shí)間，采用一種順序匹配的方法將模糊時(shí)間規(guī)范化；對(duì)于隱式時(shí)間，基于規(guī)則匹配的方法進(jìn)行規(guī)范化。

3）冗余過(guò)濾。由于微博的“社交”特性，轉(zhuǎn)發(fā)將導(dǎo)致大量的冗余微博，使得事件集合將存在大量冗余事件并且導(dǎo)致信息泛濫。本文提出使用兩層相似度對(duì)事件集合進(jìn)行冗余過(guò)濾，分別是句子層面和事件集合層面。其中，句子層面的相似度由最長(zhǎng)公共子串計(jì)算，可以有效去除由轉(zhuǎn)發(fā)帶來(lái)的重復(fù)微博。而事件集合層面的相似度通過(guò)TF-IDF 算法建立事件向量、然后計(jì)算事件向量的余弦相似性得到，能夠有效去除由相同事件帶來(lái)的重復(fù)微博。最后總體相似度計(jì)算式為：

其中：vei和vej分別是事件ei和ej的向量表示；di和dj分別是事件ei和ej的原始文本。

3.2 首要事件抽取

經(jīng)過(guò)預(yù)處理得到初始事件集合，然而，故事線致力于直觀地展示事件隨時(shí)間的演化。因此，用于構(gòu)建故事線的事件必須能全面地代表事件的演化信息。對(duì)于社交網(wǎng)絡(luò)而言，意見(jiàn)領(lǐng)袖對(duì)信息傳播的影響更大，因?yàn)槲⒉┲械囊庖?jiàn)領(lǐng)袖通常比普通用戶傳遞更多的關(guān)鍵信息。為此，意見(jiàn)領(lǐng)袖發(fā)布的微博更有可能是首要事件。

因此，提出使用微博的傳播度來(lái)衡量事件是否為故事線中的首要事件，并利用微博的發(fā)布者粉絲量以及轉(zhuǎn)發(fā)、評(píng)論和點(diǎn)贊的數(shù)量來(lái)量化事件的傳播影響力。如果一條微博由更具權(quán)威的用戶發(fā)布，并且擁有更多轉(zhuǎn)發(fā)、評(píng)論和點(diǎn)贊，即認(rèn)為該微博包含了眾多用戶都能認(rèn)可的基本信息。因此，與那些轉(zhuǎn)發(fā)、評(píng)論和點(diǎn)贊相對(duì)較少的微博相比，這條微博將更可能討論首要事件。具體來(lái)說(shuō)，把微博的傳播度定義為四元組S=user_fansnum，forwardnum，commentnum，likenum，其中，user_fansnum指微博發(fā)布者粉絲數(shù)，forwardnum指微博轉(zhuǎn)發(fā)量，commentnum指微博評(píng)論量，likenum指微博點(diǎn)贊量。事件的重要性得分計(jì)算式為：

其中，wi為S不同元素的權(quán)重值。由式（2）計(jì)算出事件的重要性得分后，依據(jù)得分對(duì)事件進(jìn)行排序，刪除排名靠后的事件，選取排名靠前的事件作為故事線抽取階段的輸入。

4 故事線抽取

故事線抽取主要分為三個(gè)步驟實(shí)現(xiàn)，即異構(gòu)事件圖構(gòu)建、初始故事分支構(gòu)建和事件圖卷積網(wǎng)絡(luò)（E-GCN）。首先，利用語(yǔ)義關(guān)系和事件的時(shí)間老化關(guān)系將事件及其特征詞建模為異構(gòu)圖；然后，提出一種基于差異度的方法構(gòu)建初始故事分支；最后，利用E-GCN模型識(shí)別故事分支并構(gòu)建故事線。

4.1 異構(gòu)事件圖建模

圖卷積網(wǎng)絡(luò)（GCN）［17］是一種對(duì)圖進(jìn)行操作并完成圖半監(jiān)督學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)?；贕CN 模型，本文提出了一種事件圖卷積網(wǎng)絡(luò)（E-GCN）模型用于學(xué)習(xí)事件間的隱式語(yǔ)義關(guān)系。由于圖可以表示復(fù)雜的節(jié)點(diǎn)關(guān)系，因此考慮基于事件特征把事件建模為異構(gòu)事件圖。考慮到基于相似性的方法難以學(xué)習(xí)事件間的隱式語(yǔ)義關(guān)系，本文提出使用事件和事件特征詞兩種節(jié)點(diǎn)，基于共現(xiàn)關(guān)系建模事件關(guān)系圖。同時(shí)，基于事件的時(shí)間老化關(guān)系將事件時(shí)間特性融入異構(gòu)圖。

具體來(lái)說(shuō)，構(gòu)建了一個(gè)異構(gòu)事件圖G=(V，E)來(lái)表示事件之間的關(guān)系，每個(gè)節(jié)點(diǎn)v∈V包含部分事件信息。主要有兩種類型的節(jié)點(diǎn)：特征詞節(jié)點(diǎn)和事件節(jié)點(diǎn)，并把事件文本中的名詞、動(dòng)詞、形容詞和量詞作為事件特征詞。此外，每條邊e=(v，v')∈E表示兩個(gè)節(jié)點(diǎn)之間的關(guān)聯(lián)關(guān)系。有三種類型的邊：特征詞-特征詞、特征詞-事件和事件-事件。

三種類型的邊權(quán)重由不同的方法計(jì)算，其中特征詞-特征詞間的權(quán)重關(guān)系由點(diǎn)互信息計(jì)算，特征詞-事件的權(quán)重關(guān)系由TF-IDF 算法計(jì)算。此外，在演變過(guò)程中，屬于同一故事分支中的事件往往發(fā)生在有限的時(shí)間內(nèi)，這意味著當(dāng)兩個(gè)事件的時(shí)間跨度較大時(shí)，這兩個(gè)事件有極大可能性在不同故事分支中。因此，本文根據(jù)時(shí)間老化模型［18］，提出了一種針對(duì)事件時(shí)間老化的關(guān)系來(lái)衡量?jī)蓚€(gè)事件之間的相關(guān)性：

式中：ε為自然常數(shù)；λ為最大時(shí)間跨度因子；t1和t2分別為事件ei和ej的發(fā)生時(shí)間。

根據(jù)上述關(guān)系建立如圖4 所示的異構(gòu)事件關(guān)系，圖中較大節(jié)點(diǎn)是事件節(jié)點(diǎn)，較小節(jié)點(diǎn)是事件特征詞節(jié)點(diǎn)。其中，事件間是一種由時(shí)間老化關(guān)系衡量的全連接關(guān)系，而特征詞間的關(guān)系、特征詞和事件的關(guān)系是一種詞共現(xiàn)關(guān)系。

圖4 異構(gòu)事件關(guān)系Fig.4 Heterogeneous event relation

4.2 初始故事分支構(gòu)建

圖卷積網(wǎng)絡(luò)是一種半監(jiān)督學(xué)習(xí)算法，可以用于節(jié)點(diǎn)分類，但需要每種類別具有少量帶標(biāo)簽節(jié)點(diǎn)。為了避免故事線構(gòu)建過(guò)程中人為因素的干擾，本文設(shè)計(jì)了一種基于差異度的啟發(fā)式算法來(lái)從每一個(gè)故事分支中識(shí)別一個(gè)事件，以此構(gòu)建初始故事分支，并將其作為E-GCN 模型中的標(biāo)簽節(jié)點(diǎn)。該算法的主要目標(biāo)是選擇不在同一故事分支的事件作為初始故事分支，以提高后續(xù)故事分支構(gòu)建的準(zhǔn)確率。

首先，從事件集合E中選擇第一個(gè)隨機(jī)事件e1加入初始故事分支集合S并從E中刪除e1；然后，計(jì)算S和E中剩余事件的相似度，選擇最不相似的事件ei加入S并E中刪除從ei，重復(fù)上述過(guò)程直到差異度大于設(shè)定的閾值，最后得到初始故事分支集合。算法1描述了構(gòu)建初始故事分支的過(guò)程。

算法1 基于差異度的初始分支構(gòu)建算法。

4.3 基于事件圖卷積網(wǎng)絡(luò)的故事線生成

事件圖卷積神經(jīng)網(wǎng)絡(luò)模型的輸入為鄰接矩陣和特征矩陣，鄰接矩陣由事件異構(gòu)圖模型得到，特征矩陣由TF-IDF 算法得到。本文建立了N×N的鄰接矩陣A，N×d的特征矩陣X，其中，N為事件數(shù)量，d為事件特征維度。然后，提出E-GCN模型來(lái)學(xué)習(xí)事件間的隱式語(yǔ)義關(guān)系，即通過(guò)預(yù)測(cè)每一個(gè)事件所屬的故事分支來(lái)學(xué)習(xí)事件關(guān)系。具體地說(shuō)，建立多層GCN模型以及式（4）表示的傳播規(guī)則［19］：

其中：yE是帶標(biāo)簽事件節(jié)點(diǎn)集合，即初始故事分支；F是輸出特征的維度，即故事分支數(shù)目；Yef是事件標(biāo)簽集合；Zef是故事分支集合。

E-GCN 模型的架構(gòu)如圖5 所示，首先事件被建模為異構(gòu)事件圖，其中異構(gòu)事件圖的鄰接矩陣A和特征矩陣X是E-GCN模型輸入，經(jīng)過(guò)多層網(wǎng)絡(luò)學(xué)習(xí)，輸出每個(gè)事件節(jié)點(diǎn)的故事分支分類結(jié)果。

圖5 E-GCN模型架構(gòu)Fig.5 Architecture of E-GCN model

本文實(shí)現(xiàn)為三層模型，允許最遠(yuǎn)三個(gè)節(jié)點(diǎn)進(jìn)行特征傳遞。如圖6 所示，圖中不同圖案的事件節(jié)點(diǎn)表示每個(gè)事件節(jié)點(diǎn)所屬的不同故事分支。值得注意的是，在訓(xùn)練之前，每個(gè)故事分支中只有一個(gè)帶圖案的標(biāo)簽節(jié)點(diǎn)，這是基于差異度的方法選擇的初始故事分支。

圖6 事件圖卷積網(wǎng)絡(luò)實(shí)現(xiàn)Fig.6 Implementation of event graph convolutional network

經(jīng)過(guò)事件提取和故事分支構(gòu)建，得到事件和事件間的關(guān)系，在此基礎(chǔ)上，進(jìn)一步挖掘故事線的脈絡(luò)結(jié)構(gòu)。通常故事線具有一定的邏輯關(guān)聯(lián)性，由故事分支和過(guò)渡節(jié)點(diǎn)構(gòu)成，合理的過(guò)渡節(jié)點(diǎn)能夠使得故事線更加流暢，結(jié)構(gòu)完整。根據(jù)模型輸出的故事分支，采用一種基于統(tǒng)計(jì)的方法識(shí)別過(guò)渡節(jié)點(diǎn)，即當(dāng)存在同一節(jié)點(diǎn)被模型輸出到不同的故事分支時(shí)，該節(jié)點(diǎn)可能屬于過(guò)渡節(jié)點(diǎn)。最后，根據(jù)過(guò)渡事件節(jié)點(diǎn)和故事分支，基于事件時(shí)序關(guān)系，將過(guò)渡事件節(jié)點(diǎn)和故事分支串聯(lián)起來(lái)，生成結(jié)構(gòu)化的故事線。

5 實(shí)驗(yàn)與結(jié)果分析

5.1 數(shù)據(jù)集

為了評(píng)測(cè)本文方法的實(shí)驗(yàn)性能，在兩個(gè)真實(shí)的微博新聞數(shù)據(jù)集（https：//weibo.com）上進(jìn)行了對(duì)比實(shí)驗(yàn)分析。爬取的微博帖子均為熱門微博，數(shù)據(jù)集具體信息如表1所示。

表1 數(shù)據(jù)集具體信息Tab.1 Specific information of datasets

5.2 故事分支構(gòu)建實(shí)驗(yàn)評(píng)測(cè)

本文在事件故事分支評(píng)價(jià)實(shí)驗(yàn)中設(shè)置了三個(gè)對(duì)照組，分別是貝葉斯模型［12］、斯坦納樹［16］和故事森林［1］，詳細(xì)信息如下所述：

1）貝葉斯模型（Bayesian Model）：該方法對(duì)事件特征進(jìn)行建模，并根據(jù)吉布斯采樣結(jié)果推導(dǎo)出事件所屬的故事分支。

2）斯坦納樹（Steiner Tree）：該方法通過(guò)斯坦納樹算法生成故事線。由于在第3 章中提取的事件數(shù)量是固定的，而斯坦納樹問(wèn)題允許在給定的點(diǎn)上添加額外的點(diǎn)。因此，本文對(duì)比過(guò)程中利用斯坦納樹的特殊情況，即最小生成樹構(gòu)建故事線。

3）故事森林（Story Forest）：該方法通過(guò)提取事件關(guān)鍵字，利用事件關(guān)鍵字的Jaccard 相似系數(shù)衡量是否將事件聚類到某個(gè)故事分支。

為了評(píng)價(jià)故事分支，使用第3 章中提取的首要事件集合，并以人工構(gòu)建結(jié)果為標(biāo)準(zhǔn)，通過(guò)計(jì)算預(yù)測(cè)故事分支結(jié)果Ep與標(biāo)準(zhǔn)結(jié)果Es之間的相似度，建立預(yù)測(cè)故事分支與其相似度最高的標(biāo)準(zhǔn)故事分支之間的映射。用準(zhǔn)確率、召回率和F1值對(duì)故事分支進(jìn)行評(píng)估。映射關(guān)系相似度計(jì)算式為：

表2和表3分別展示了在Dataset1和Dataset2上故事分支構(gòu)建的結(jié)果。其中，相較于貝葉斯模型、斯坦納樹和故事森林在F1 值上，本文方法在Dataset1 上分別高出28 個(gè)百分點(diǎn)、20個(gè)百分點(diǎn)和27個(gè)百分點(diǎn)，在Dataset2上分別高出19個(gè)百分點(diǎn)、12 個(gè)百分點(diǎn)和22 個(gè)百分點(diǎn)。在Dataset1 中本文的方法取得了最佳性能，而在Dataset2 上本文的方法在召回率上略低于斯坦納樹方法。經(jīng)過(guò)分析發(fā)現(xiàn)，這是由數(shù)據(jù)集中事件的時(shí)間分布引起，Dataset1中事件的時(shí)間跨度約為1年，而Dataset2中事件的時(shí)間跨度僅3 個(gè)月，這直接影響了事件的時(shí)間老化關(guān)系建模。

表2 不同方法在Dataset1上的故事分支構(gòu)建結(jié)果Tab.2 Story branch construction results of different methods on Dataset1

表3 不同方法在Dataset2上的故事分支構(gòu)建結(jié)果Tab.3 Story branch construction results of different methods on Dataset2

5.3 故事線抽取實(shí)驗(yàn)評(píng)測(cè)

本文基于時(shí)序關(guān)系將故事分支構(gòu)建為故事線，并設(shè)置三種結(jié)構(gòu)的故事線對(duì)照組，分別是故事時(shí)間線、斯坦納樹［16］和故事森林［1］，詳細(xì)信息如下：

1）故事時(shí)間線：該方法將事件按照時(shí)間序列進(jìn)行鏈接，是一種單分支故事線。

2）斯坦納樹：該方法生成的故事線為樹狀多分支結(jié)構(gòu)，且故事分支上還有更細(xì)的演化分支。

3）故事森林：該方法生成的故事線為樹狀多分支結(jié)構(gòu)，且故事分支上沒(méi)有更細(xì)的演化分支。

為評(píng)價(jià)故事線，首先基于標(biāo)準(zhǔn)故事分支構(gòu)建標(biāo)準(zhǔn)故事線，然后借鑒文獻(xiàn)［1］的評(píng)測(cè)方法，把正確的邊作為故事線的結(jié)構(gòu)性評(píng)價(jià)指標(biāo)，其中正確的邊指同時(shí)存在于標(biāo)準(zhǔn)故事線Edges和生成故事線Edgeg中的邊，準(zhǔn)確率由式（7）計(jì)算：

表4 展示了故事線抽取中正確的邊準(zhǔn)確率結(jié)果。其中，相較于故事時(shí)間線、斯坦納樹和故事森林在正確的邊準(zhǔn)確率上，本文方法在Dataset1上分別高出33個(gè)百分點(diǎn)、23個(gè)百分點(diǎn)和17個(gè)百分點(diǎn)，在Dataset2上分別高出12個(gè)百分點(diǎn)、3個(gè)百分點(diǎn)和9 個(gè)百分點(diǎn)。由于故事線抽取的主觀性，事實(shí)上正確的邊鏈接性能表現(xiàn)并不好。故事時(shí)間線是將事件按照時(shí)序關(guān)系排列，因此性能最差。基于斯坦納樹和故事森林的方法都考慮了事件的顯式語(yǔ)義關(guān)系，因此具有相似的性能。本文的方法考慮了事件的隱式語(yǔ)義關(guān)系，從而取得了最佳性能。

表4 不同方法的故事線抽取中正確的邊準(zhǔn)確率對(duì)比Tab.4 Accuracy comparison of correct edge in storyline extraction by different methods

6 結(jié)語(yǔ)

從社交網(wǎng)絡(luò)中抽取故事線對(duì)于人們?nèi)媪私庑侣勈录哂兄匾饬x。本文通過(guò)建模微博傳播特性，提取微博新聞首要事件，并用異構(gòu)圖建模事件關(guān)系，提出了一種改進(jìn)的圖卷積神經(jīng)網(wǎng)絡(luò)模型學(xué)習(xí)事件間的隱式關(guān)系，以預(yù)測(cè)事件的故事分支并鏈接事件。在真實(shí)微博數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)，結(jié)果表明，本文的方法能夠抽取邏輯合理、結(jié)構(gòu)清晰的故事線，幫助用戶全面、準(zhǔn)確地理解事件演化。