基于Clique聚類的精神分裂癥多文檔自動摘要研究

，

多文檔自動摘要的任務(wù)是利用自然語言處理等信息處理技術(shù)分析文獻(xiàn)內(nèi)容，從中提取出重要信息并生成簡潔的摘要。因其能夠使用戶快速了解、選擇文獻(xiàn)集中的重要信息而受到越來越多的關(guān)注。近年來，隨著科技文獻(xiàn)的迅速增長，科技人員對摘要的需求越來越大；而作者摘要僅能提供單篇論文的縮略信息，不能提供相關(guān)主題的整體研究概況。多文檔摘要，尤其是針對大型專題文獻(xiàn)集，則能有效地解決這一問題，為用戶節(jié)省更多的時間與精力，具有重要的意義。

目前多文檔自動摘要研究多集中在對新聞事件、網(wǎng)頁信息等進(jìn)行摘要，鮮有對科技論文進(jìn)行摘要的研究。其原因是科技論文報道的內(nèi)容復(fù)雜多樣，需要在對內(nèi)容理解的基礎(chǔ)上進(jìn)行摘要，因此要借助于領(lǐng)域知識庫的支撐。在生物醫(yī)學(xué)領(lǐng)域，一體化醫(yī)學(xué)語言系統(tǒng)(UMLS)的研究和開發(fā)為醫(yī)學(xué)文獻(xiàn)向知識單元的語義表達(dá)發(fā)展提供了基礎(chǔ)，也為自動摘要研究開辟了新的途徑。本研究旨在探索從節(jié)點、邊以及網(wǎng)絡(luò)凝聚子群(clique)三個層次抽取文獻(xiàn)集關(guān)鍵信息生成摘要，并利用clique共有概念對其聚類以發(fā)現(xiàn)摘要子主題的方法；同時借助于醫(yī)學(xué)術(shù)語表及自然語言處理工具，對文獻(xiàn)內(nèi)容進(jìn)行語義表達(dá)并抽取，生成文獻(xiàn)摘要的語義網(wǎng)絡(luò)圖，使摘要內(nèi)容表達(dá)形象、簡潔。

1 基于圖的多文檔自動摘要研究現(xiàn)狀

1.1 圖屬性在自動摘要研究中的應(yīng)用

文檔自動摘要是從單篇文檔或文檔集中自動提取出核心信息，按摘要生成方式分為抽取式摘要(extractive)和理解式摘要(abstractive)兩種。抽取式摘要是從源文檔中抽取出重要的句子組成摘要，句子重要性的確定多基于文本的物理信息(如詞的位置、句子的位置、詞的頻率等)，這種機(jī)械的句子抽取難以產(chǎn)生高質(zhì)量的摘要。理解式摘要是在理解文檔內(nèi)容的基礎(chǔ)上，利用自然語言處理技術(shù)(如文本表達(dá)、句子重構(gòu)等)生成新句子組成摘要，它涉及信息處理、知識表達(dá)等方面，難度較大，進(jìn)展緩慢。

近年來越來越多的研究將圖排序及聚類等技術(shù)應(yīng)用于自動摘要任務(wù)。該方法以圖形的形式表現(xiàn)論文[1-7]，節(jié)點代表論文的信息單元。大多數(shù)研究以句子為節(jié)點，如LexRank系統(tǒng)[1]，也有研究采用段落或詞為節(jié)點[7]。以節(jié)點之間的相似度為邊，可以構(gòu)建論文集的網(wǎng)絡(luò)圖。這些研究通常采用節(jié)點的中心性(centrality)作為摘要句排序和抽取的標(biāo)準(zhǔn)，其依據(jù)是節(jié)點的中心性越高，其位置在網(wǎng)絡(luò)中越重要。

上述基于圖的文本摘要研究僅以節(jié)點的中心性為指標(biāo)對重要信息進(jìn)行提取。文獻(xiàn)網(wǎng)絡(luò)圖的組成部分除節(jié)點外，還包括邊以及子網(wǎng)絡(luò)，在復(fù)雜網(wǎng)絡(luò)分析中它們都是網(wǎng)絡(luò)圖的重要屬性。高繼平等[8]提出目前國內(nèi)外針對基于詞共現(xiàn)的文獻(xiàn)網(wǎng)絡(luò)分析多依據(jù)節(jié)點在網(wǎng)絡(luò)中的影響力進(jìn)行評價，忽視另一個重要指標(biāo)—邊，進(jìn)而對基于頻次和基于連通性的權(quán)重抽取重要邊的效果進(jìn)行比較研究。此外，網(wǎng)絡(luò)中的社區(qū)也能準(zhǔn)確揭示知識主題。文獻(xiàn)網(wǎng)絡(luò)中的社區(qū)指凝聚性較高的子網(wǎng)絡(luò)，如clique，k-core等。這類子網(wǎng)絡(luò)通常揭示了網(wǎng)絡(luò)的核心內(nèi)容。如王曉光[9]的研究發(fā)現(xiàn)詞共現(xiàn)網(wǎng)絡(luò)中的社區(qū)與學(xué)科體系存在一定的對應(yīng)關(guān)系。在此基礎(chǔ)上，白如江等[10]利用k-clique社區(qū)網(wǎng)絡(luò)揭示知識創(chuàng)新情況及其演化方向。此外，高雯珺等[11]綜述了凝聚子群在發(fā)現(xiàn)合著團(tuán)體以及學(xué)科研究的子領(lǐng)域方面的應(yīng)用。

本研究擬將凝聚子群—clique應(yīng)用到摘要內(nèi)容的提取中。在網(wǎng)絡(luò)分析研究中，clique是指由兩兩均相連的點構(gòu)成的小團(tuán)體，也稱完備子群或完全子圖，根據(jù)包含節(jié)點數(shù)將clique更加準(zhǔn)確地記為n-clique?；赾lique聚類的思想是從網(wǎng)絡(luò)中的clique出發(fā)，通過分析clique的重疊部分實現(xiàn)網(wǎng)絡(luò)類的劃分。與基于詞共現(xiàn)的聚類分析相比，凝聚子群分析允許將一些重要的節(jié)點(如詞匯)劃入多個類目中，這更符合現(xiàn)實要求，因此在蛋白質(zhì)功能預(yù)測[12]、文獻(xiàn)主題劃分[13]等研究中得到廣泛應(yīng)用。目前基于clique聚類算法包括派系過濾算法(CPM)[14]、基于最大clique的層次凝聚聚類算法 (EAGLE)[15]、基于clique共節(jié)點的層次聚類法等。本研究采用的是第三種方法。

1.2 醫(yī)學(xué)知識庫在自動摘要研究中的應(yīng)用

生成高質(zhì)量的摘要需從語義、語用層次上對文本進(jìn)行理解和表達(dá)，需要學(xué)科領(lǐng)域知識庫[16]及自然語言理解技術(shù)的支撐。在生物醫(yī)學(xué)領(lǐng)域，UMLS的研究和開發(fā)為醫(yī)學(xué)文獻(xiàn)向知識單元的語義表達(dá)發(fā)展提供了基礎(chǔ)，也為自動摘要研究開辟了新的途徑。利用UMLS能夠?qū)︶t(yī)學(xué)文獻(xiàn)中的信息進(jìn)行深度表達(dá)，并能構(gòu)造出完整、細(xì)致的語義關(guān)系，是醫(yī)學(xué)信息檢索、自動摘要和知識發(fā)現(xiàn)的基礎(chǔ)[17]。

目前利用UMLS對醫(yī)學(xué)文獻(xiàn)進(jìn)行自動摘要包括兩大類。一類是以抽取概念為主，具體為利用MetaMap工具對醫(yī)學(xué)論文進(jìn)行斷句、切詞，并將文本詞匹配為UMLS超級詞表的概念。概念之間的關(guān)系較單純，通常為概念間共現(xiàn)或詞表所規(guī)定的概念間的等級關(guān)系。然后基于圖排序或統(tǒng)計學(xué)方法來確定文獻(xiàn)集中的重要信息，如Reeve的摘要系統(tǒng)[18-19]、Plaza[20]的摘要系統(tǒng)以及Yoo等人[4]的系統(tǒng)。但利用MetaMap對醫(yī)學(xué)文獻(xiàn)內(nèi)容的揭示比較淺顯，不能表達(dá)出概念間的諸如診斷、治療、引起等語義關(guān)系。另一類研究除了抽取UMLS的概念外，還對概念之間的語義關(guān)系進(jìn)行抽取，利用的工具為SemRep。該工具首先調(diào)用MetaMap抽取出醫(yī)學(xué)文本中的概念，然后抽取共句的兩個概念之間的語義關(guān)系(即謂詞)，將文本處理成形如“主語—謂詞—賓語”的語義述謂項，進(jìn)而實現(xiàn)從語義和語用層次對文本進(jìn)行表達(dá)，使生成的摘要信息更豐富完善。例如Fiszman[21]利用語義述謂項中概念的語義類型與語義關(guān)系的組配形式，預(yù)設(shè)了4個摘要主題搭配模式(Schema),自動生成關(guān)于疾病治療、藥物相互作用、疾病診斷和藥物遺傳學(xué)等四方面的摘要網(wǎng)絡(luò)圖。Fiszman系統(tǒng)的特點之一是以網(wǎng)絡(luò)圖的形式顯示摘要信息，這樣既使摘要清晰明了，又避免了對大量文檔進(jìn)行摘要句抽取時句子重復(fù)、連貫性差等問題。但該研究僅從構(gòu)建語義搭配模式出發(fā)，將摘要局限在預(yù)設(shè)主題模式所規(guī)定的范圍，缺乏廣適性。

本研究在Fiszman系統(tǒng)的基礎(chǔ)上，利用文獻(xiàn)網(wǎng)絡(luò)圖的屬性從文獻(xiàn)集中提取重要信息，避免了摘要生成固定在預(yù)設(shè)主題范圍內(nèi)的局限。與已有研究相比，本文不僅利用概念對源文檔進(jìn)行表達(dá)，同時抽取出概念之間的語義關(guān)系，彌補(bǔ)了現(xiàn)有詞共現(xiàn)網(wǎng)絡(luò)概念間關(guān)系不清的弊端，使摘要主題內(nèi)容的表達(dá)更加準(zhǔn)確。在摘要信息抽取方面，采用復(fù)雜網(wǎng)絡(luò)分析指標(biāo)，除了傳統(tǒng)的高中心度節(jié)點，還融入了關(guān)鍵邊和凝聚子群，從多角度抽取網(wǎng)絡(luò)關(guān)鍵信息，為醫(yī)學(xué)文檔自動摘要提供了新的解決思路。

2 研究步驟與方法

本研究分為以下五個步驟(圖1)。

圖1 研究技術(shù)路線

2.1 數(shù)據(jù)采集

從PubMed、Web of Science等數(shù)據(jù)庫中檢索某一主題的文獻(xiàn)，并將其保存為純文本格式，該主題即為摘要主題。

2.2 語義述謂處理

利用SemRep將文獻(xiàn)集中的各個句子處理為如“主語|語義類型|語義關(guān)系|謂語|語義類型”的語義述謂項。其中主語及賓語為UMLS超級詞表中的概念，謂詞來自于UMLS語義網(wǎng)絡(luò)中的語義關(guān)系，如句子“Clozapine is the most effective treatment of aggressive behavior in schizophrenia”，經(jīng)處理后生成如下2條語義述謂項：

Clozapine|phsu|TREATS|Aggressive behavior|mobd

Aggressive behavior|mobd|COEXISTS_WITH|Schizophrenia|mobd

以第1條為例，Clozapine為主語，其語義類型為phsu(pharmacologic substance，藥物)，TREATS 為語義關(guān)系，Aggressive behavior為賓語，其語義類型為mobd(Mental or behavioral dysfunction,精神/行為功能失常)。

2.3 數(shù)據(jù)預(yù)處理

去除Patient等含義比較寬泛的概念。寬泛概念的定義標(biāo)準(zhǔn)為處于UMLS概念等級結(jié)構(gòu)二級及以上的概念[21-22]，共633個。如果語義述謂項中的主語或賓語中有一個屬于寬泛概念，則將該語義述謂項刪除。

2.4 摘要信息提取

首先利用得到的語義述謂項集合構(gòu)建文獻(xiàn)網(wǎng)絡(luò)圖，對網(wǎng)絡(luò)圖進(jìn)行如下定義：由節(jié)點和邊組成，節(jié)點即語義述謂項中的概念(主語或賓語)。如果兩個節(jié)點分別是一條語義述謂項的主語和賓語，則兩點之間有邊連接，兩點及其間的邊對應(yīng)一條語義述謂項。通過計算該條語義述謂項出現(xiàn)的頻次對其賦權(quán)。該網(wǎng)絡(luò)圖具備如下屬性：節(jié)點的顏色標(biāo)識其語義類型，大小表示其頻次；連線的顏色標(biāo)識語義關(guān)系，寬度表示語義述謂項的頻次，繪圖工具采用Pajek,輸入文件的定義和格式詳見文獻(xiàn)[22]。

由于多文檔摘要通常是對大規(guī)模文獻(xiàn)集進(jìn)行分析、處理，因此語義述謂網(wǎng)絡(luò)往往是非常龐大的。利用復(fù)雜網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的屬性指標(biāo)(如中心性、凝聚性、聚類系數(shù)等)能夠揭示網(wǎng)絡(luò)的結(jié)構(gòu)特征，發(fā)現(xiàn)網(wǎng)絡(luò)中的關(guān)鍵信息，為摘要信息抽取服務(wù)。本研究依次從節(jié)點、連線以及簇結(jié)構(gòu)(clique)三個層次對語義述謂網(wǎng)進(jìn)行壓縮，實現(xiàn)關(guān)鍵信息的抽取。

第一步為關(guān)鍵節(jié)點(概念)的提取。目前基于圖的自動摘要研究對信息的提取多采用節(jié)點中心度(Centrality)指標(biāo)。文獻(xiàn)[15]計算并比較了采用語義述謂網(wǎng)絡(luò)中不同節(jié)點中心度(點度中心度、特征向量中心度、中介中心度、接近中心度)在抽取與疾病治療相關(guān)重要概念的效果，最終發(fā)現(xiàn)與人工標(biāo)準(zhǔn)相比。利用節(jié)點的度中心度抽取概念的效果最佳，因此本研究采用節(jié)點的度中心度對關(guān)鍵節(jié)點進(jìn)行抽取的計算公式為：CD(ni)=d(ni)/(n-1) ，式中d(ni)為節(jié)點ni的度，n是網(wǎng)絡(luò)內(nèi)節(jié)點總數(shù)，并抽取中心度高的節(jié)點所組成的語義述謂項。

第二步為關(guān)鍵邊的提取。邊為網(wǎng)絡(luò)的二元結(jié)構(gòu)，也是網(wǎng)絡(luò)的基本組成單位。本研究以文檔頻次為指標(biāo)，抽取頻次高的邊所對應(yīng)的語義述謂項。如果同一語義述謂項在不同文章中重復(fù)出現(xiàn)，則可認(rèn)定為文獻(xiàn)集的核心內(nèi)容。

第三步為clique提取，即提取clique作為文獻(xiàn)集的摘要。由底向上的網(wǎng)絡(luò)子結(jié)構(gòu)分析方法將網(wǎng)絡(luò)看成是由二元結(jié)構(gòu)和群組成的[23]。二元結(jié)構(gòu)即兩個節(jié)點之間的關(guān)系，為最基本的結(jié)構(gòu)單位，在此基礎(chǔ)上增加一個與其相連的節(jié)點，則構(gòu)成了最小的完備群，即3-clique。醫(yī)學(xué)文獻(xiàn)中小規(guī)模的clique往往能表達(dá)更完整的含義，成為網(wǎng)絡(luò)的核心。例如圖2中3-clique表達(dá)了“兩種藥物Risperidone和Olanzapine對精神分裂癥時的療效比較”(圖中TR為語義關(guān)系“TREATS"，CW為語義關(guān)系”COMPARED_WITH")。本研究采用最大clique搜索算法，在剩余的語義述謂項中提取clique作為最終的摘要。

圖2 3-clique示例

2.5 摘要主題聚類及可視化

對clique進(jìn)行聚類，每一類即為摘要的一個子主題，利用Pajek對摘要進(jìn)行可視化。為研究所生成的摘要中蘊含的子主題，對提取的clique進(jìn)行聚類。本研究采用的是UCINET的clique交疊聚類算法[24]。目前的研究大多對節(jié)點進(jìn)行聚類，其弊端是一些可能被多個類共有的核心節(jié)點(如主題概念“精神分裂癥”)僅能出現(xiàn)在一個類中，與實際情況不符。clique交疊聚類能夠有效地避免這一問題。由于一個clique中包含至少3個節(jié)點，N個clique通過尋找clique-clique之間共有的節(jié)點，可以生成N×N的矩陣，利用Pearson相關(guān)系數(shù)生成clique相似矩陣，采用組間距離法，對該矩陣做系統(tǒng)聚類，通過分析聚類內(nèi)容，實現(xiàn)摘要子主題的識別。

3 研究結(jié)果與分析

3.1 數(shù)據(jù)采集

以精神分裂癥(schizophrenia)為主要主題詞，于2015年9月在PubMed數(shù)據(jù)庫中檢索2005-2015年近10年發(fā)表的論文，并限定語種為英文，共獲得了19 661篇論文(帶摘要)。

3.2 數(shù)據(jù)處理結(jié)果

19 661篇文獻(xiàn)經(jīng)SemRep處理后，得到132 587條語義述謂項，包含7 865個節(jié)點，其中包含寬泛概念55個。去除含寬泛概念的語義述謂項后，剩余7 119個節(jié)點，經(jīng)過反復(fù)測試，將節(jié)點度中心度閾值設(shè)置為0.05(即每個節(jié)點至少與其他20個節(jié)點相連)，頻次閾值設(shè)為14，剩余178條語義述謂項，114個節(jié)點。采用最大clique搜索算法獲得31個clique，包含35個節(jié)點。31個clique中包含8個5-clique，4個4-clique以及19個3-clique。聚類樹圖見圖3，在距離小于15處將clique分為4類，即為摘要的4個子主題。利用Pajek顯示摘要圖(圖4)，其布局依據(jù)聚類的結(jié)果做調(diào)整。為了增加圖的可讀性，僅用顏色代表語義關(guān)系，省略了文字標(biāo)簽。利用節(jié)點的語義類型及語義關(guān)系搭配，可實現(xiàn)對子主題內(nèi)容的標(biāo)注。

UMLS在其語義網(wǎng)絡(luò)中對概念的語義類型及語義關(guān)系賦予詳細(xì)的定義，利用其組配模式能對醫(yī)學(xué)文獻(xiàn)內(nèi)容進(jìn)行詳盡的表達(dá)，從而實現(xiàn)對研究主題的標(biāo)注。圖4所涉及的語義搭配模式及其對應(yīng)的含義見表1。

圖3 clique系統(tǒng)聚類樹圖

圖4 精神分裂癥文獻(xiàn)集摘要圖

表1 研究子主題語義搭配及含義

子主題1：位于圖4左上方，為精神分裂癥的發(fā)病特殊人群及非藥物療法。由此類可看出，該病多發(fā)于兒童及青壯年，可用認(rèn)知療法進(jìn)行治療。圖4中深藍(lán)色線條表示的語義關(guān)系為“Treats”，紅色線條為“Process_of”。

子主題2：位于摘要圖4上方豆綠色背景區(qū)域，為精神分裂癥的癥狀，包括幻覺和妄想，其語義關(guān)系為“Coexists_with”(灰色)。

子主題3：位于圖4右上方，為精神分裂癥的致病因素及發(fā)病部位。其致病因素包括位于大腦前額葉皮質(zhì)的神經(jīng)遞質(zhì)(如多巴胺、谷氨酸、γ-氨基丁酸等)異常，導(dǎo)致神經(jīng)遞質(zhì)系統(tǒng)功能受損而發(fā)病。圖中紫色為“Associated_with”，綠色為“Location_of”，淺藍(lán)色為“ISA”。

子主題4：位于圖4下方，為精神分裂癥的藥物療法、藥物之間的比較以及產(chǎn)生的副作用。圖中深藍(lán)色為“Treats”，黃色為“Compared_with”，紅色為“Causes”，淺藍(lán)色為“ISA”。

3.3 實驗結(jié)果評價

目前摘要評價方法主要有以人工標(biāo)注摘要為標(biāo)準(zhǔn)進(jìn)行評價和基于任務(wù)的評價兩類。由于缺乏公用的醫(yī)學(xué)文本語料庫，且請專家對上萬篇文獻(xiàn)提供人工標(biāo)注的參考摘要不現(xiàn)實，因此本研究采用第二種方法，即基于概念提取和主題劃分的評價方法，考察本研究提取的各摘要主題概念的覆蓋情況。我們請兩名醫(yī)學(xué)博士以其專業(yè)知識為基礎(chǔ)，同時參考英文原版精神病學(xué)教科書Review of General Psychiatry、教育部及衛(wèi)生部“十二五”規(guī)劃教材《精神病學(xué)》以及循證醫(yī)學(xué)資源Up-To-Date中關(guān)于精神分裂癥的專家綜述，從發(fā)病人群及非藥物療法、癥狀、病因及發(fā)病部位和藥物療法四方面提取相關(guān)概念為人工標(biāo)準(zhǔn)。當(dāng)兩名專家意見不一致時，通過協(xié)商獲取一致性意見。以準(zhǔn)確率、召回率及F值為評價指標(biāo)，結(jié)果見表2。

表2 實驗結(jié)果與人工標(biāo)準(zhǔn)的對比

評價結(jié)果表明，準(zhǔn)確率普遍比較高，召回率相對較低。摘要信息的質(zhì)量與多方面因素有關(guān)。首先就信息源而言，本研究采集的是科技論文摘要，疾病癥狀、藥物副作用等概念出現(xiàn)在作者摘要的幾率較低，易被預(yù)設(shè)閾值過濾。如果采集的信息是文獻(xiàn)全文，就能夠全面地獲取信息，但會造成干擾信息過多，從而導(dǎo)致準(zhǔn)確率下降。其次在文獻(xiàn)內(nèi)容表達(dá)方面，領(lǐng)域知識庫的完備程度及自然語義處理工具(如SemRep)對信息處理的準(zhǔn)確性也同樣會影響摘要提取的質(zhì)量。SemRep對疾病類、化學(xué)物質(zhì)類概念提取的效果好，對基因名、蛋白名提取的效果相對差，這與其利用的詞表UMLS搜集詞匯的側(cè)重點有關(guān)。因此在對基因等作摘要時，建議用專有的提取工具來提取命名實體。此外，閾值的設(shè)定對摘要的準(zhǔn)確率和召回率起反向作用。如欲使摘要召回率增加，可適當(dāng)降低閾值。當(dāng)中心度閾值降到0.028時，能將副作用“嗜睡”納入進(jìn)來，但會導(dǎo)致摘要過大，降低準(zhǔn)確率和易讀性。最后，本研究對簇結(jié)構(gòu)的識別采用最大完全子群搜索算法。盡管大部分都是規(guī)模相對較小的3-clique，但可能會導(dǎo)致一些不能構(gòu)成clique的重要概念丟失，從而降低召回率。今后可嘗試采用Quasi Clique，k-core等簇發(fā)現(xiàn)算法，使摘要的覆蓋面適當(dāng)增加。

4 結(jié)論

本研究利用自然語言處理工具SemRep對醫(yī)學(xué)文本所涵蓋的語義述謂項進(jìn)行提取并生成表達(dá)文獻(xiàn)內(nèi)容的網(wǎng)絡(luò)圖，利用網(wǎng)絡(luò)圖的中心性及凝聚屬性從中提取出文獻(xiàn)集的核心內(nèi)容生成圖形摘要。該研究方法能為知識圖譜、臨床問題自動應(yīng)答系統(tǒng)的開發(fā)提供新的思路。