基于語義依存的中文本體非分類關系抽取方法

古凌嵐，孫素云

（廣東輕工職業(yè)技術學院 計算機工程系，廣東 廣州510300）

0 引 言

近年來，本體的應用越來越廣泛，如語義網(wǎng)、搜索引擎、知識工程、信息提取等領域，而本體的構建是本體應用的基礎和關鍵，盡管目前已有許多本體構建工具，能夠提供本體建立和校驗等功能，但完全依靠人工進行本體領域知識的獲取 （包括搜集領域概念、定義概念間關系），不僅費時費力，而且無法保持本體的更新。因此，本體學習技術應運而生。

本體學習是指利用機器學習和統(tǒng)計等技術自動或半自動地從已有的數(shù)據(jù)資源中獲取期望的本體［1］。由文獻 ［1］可知，本體學習主要任務是定義概念和概念關系 （分類關系和非分類關系），而概念關系學習為高層任務，其中分類關系體現(xiàn)了兩個概念之間的包含關系 （上下位關系），非分類關系則是除上下位以外的關系。非分類關系學習包括提取所涉及的概念對、進行關系語義標注兩方面。

1 相關工作

目前多數(shù)本體學習研究致力于術語和分類關系抽取，相對而言，非分類關系的抽取更加困難，同時得到的關注也較少。本體構造中發(fā)現(xiàn)得到的非分類關系多數(shù)是人類本體工程師標注所得?，F(xiàn)有方法主要有兩種：基于模式的方法和基于關聯(lián)規(guī)則的方法，國內對中文本體學習的研究多集中于后者。

基于模式的方法［2］是通過分析領域相關文本，歸納出頻繁使用的語言模式作為規(guī)則，而后作為文本中詞序列匹配的模式，來識別相應的關系。Hearst等人率先提出詞匯—句法模式方法，利用手工構造的模式實現(xiàn)了自動地抽取關系。這種方法的主要問題是：①關系抽取的效果受限于模式是否完備；②機械地使用模式匹配，導致所獲取的關系中包含大量無用概念對。

基于關聯(lián)規(guī)則的方法是一種常用方法，它是利用最初在數(shù)據(jù)庫領域定義的關聯(lián)規(guī)則，由Maedche等率先應用于本體學習，繼而以概念層次為背景知識，用來發(fā)現(xiàn)概念間非分類關系的方法。文獻 ［2］也是基于這種思想抽取概念間的非分類關系。這種方法的缺點是，只能判斷概念間是否存在關系，無法對關系進行語義標注。

上述方法主要局限于共現(xiàn)規(guī)則和頻率統(tǒng)計，而本體是領域知識語義的形式化標志，且所用的數(shù)據(jù)資源是文本，因此，引入語義和句子語法分析開展非分類關系學習將更為有效。文獻 ［3］通過提取 “主謂賓”結構，構建 ［動詞概念］和 ［概念 動詞］檢索模式，實現(xiàn)了自動獲取非分類關系，并用動詞標記關系。文獻 ［4］基于依存語法中動詞為中心的思想，提出了擴展的關聯(lián)規(guī)則方法，通過提取“主謂賓”結構的概念對和動詞，發(fā)現(xiàn)關系和標記關系。但以上研究提取中文非分類關系時，僅考慮了單句結構，且忽略了詞間的語義關聯(lián)。

針對現(xiàn)有方法中存在的抽取正確率低、缺少語義標注問題，在文獻 ［3－4］基礎上，本文針對中文非分類關系抽取，提出了一種基于語義依存分析的方法，通過分析語句中成分的語義角色和依存關系，發(fā)現(xiàn)動詞為中心的、具有語義依存關系的詞匯框架，并以語義相似度為依據(jù)，識別中文本體概念間的非分類關系，實現(xiàn)對關系的語義標注。該方法克服了關聯(lián)規(guī)則無法標識關系名稱缺點，以及僅考慮概念對和動詞共現(xiàn)詞頻所帶來的關系抽取性能問題。

2 研究基礎

2.1 語義角色標注

語義角色是謂詞與論元的語義關系。常見的語義角色有施事、受事、與事、結果、工具和處所等。從語義上看，一個論元的語義角色分配主要取決于謂詞語義。例如：“我拿了一本書”，其中 “拿”為謂詞，“我”為施事者，“書”為受事者。

語義角色標注是在句法分析基礎上，對句子中的詞語序列分組，并按照語義角色對它們進行分類［5］。該方法不對整個句子進行詳細的語義分析，而是以動詞框架為考察對象，只標注與謂詞相關論元的語義角色，這些論元作為此謂詞的框架中一部分被賦予了一定的語義含義，從而反映出句子中的謂詞與其它成分間的語義關系。

語義角色標注的基本單元可以是句法成分［6］、短語［6］、詞［6］或者依存關系［7］等等。目前實現(xiàn)方式有兩種，一是建立在短語結構句法分析方法的基礎之上，如基于統(tǒng)計的學習方法［8］；另一種使用依存句法分析結果進行語義角色標注［7］，兩者分析效果相近。

2.2 依存語法和依存語法分析

依存語法是一個用詞之間的依存關系 （dependency relationship）來描述語言結構的框架，又稱從屬關系語法。由法國語言學家L.Tesniere最先提出，其核心思想是以謂語動詞為中心，研究句子中其它成分與謂詞的依存關系。依存語法認為，句子中詞與詞之間的關系是有方向的，一個詞支配另一個詞，則稱這種支配與被支配的關系為依存關系，支配詞又被稱為被支配詞的中心詞，通?？杀憩F(xiàn)所在短語的主要語法、語義特征。

依存語法將句子結構表示為詞對的二元關系。而句子成分間相互支配與被支配、依存與被依存的現(xiàn)象普遍存在于漢語的詞匯 （合成語）、短語、單句、復合直到句群的各級能夠獨立運用的語言單位之中，這一特點為依存關系的普遍性［9］。依存語法分析的目的是發(fā)現(xiàn)詞語間的語義聯(lián)系，根據(jù)依存語法5條公理［10］，在一個完整的句子中，所有語義聯(lián)系相互交織的結果將句子的線性結構層次化，構造成為語義依存樹的形式，從而反映出句子中各成分間的語義修飾關系，且與成分的物理位置無關。

依存語法分析方法目前已較成熟，利用已有的依存句法分析器 （這里采用哈爾濱工業(yè)大學信息檢索研究中心開發(fā)的依存句法分析器，目前該分析器對依存弧的標記準確率達到86%以上），可進行句子語法分析，并以此為基礎發(fā)現(xiàn)依存關系，最終生成依存樹。例如：“家庭是孩子的第一個課堂?！狈治龅玫降囊来鏄淙鐖D1所示。其中 “是”句子的中心詞 （核心關系HED），“家庭”與中心詞有主謂依存關系 （SBV），“課堂”則與中心詞有動賓依存關系 （VOB），另外，還有定中關系 （ATT）、介賓關系 （POB）等。

依存樹將形式化的語法規(guī)則和約束表述為結點、邊，以及它們所攜帶的信息，使得對句子的依存分析轉化為尋找句子中的一組依存對。

3 基于語義依存的非分類關系抽取

非分類關系一般由動詞及與之相關的兩個概念構成，可有以下定義。

圖1 依存樹

定義1 非分類關系形式表示為：R＝＜Cpre，Vrel，Csuc＞，其中Cpre，Csuc均為本體概念 （依存樹中依存于中心詞的名詞或名詞詞組），稱Cpre為關系R前驅概念，Csuc為關系R后繼概念，Vrel（中心詞）是關系R的語義標注。

由定義1，對于中心詞、主語、賓語構成主干結構的句子，如 “渦輪噴氣發(fā)動機主要用于超聲速飛機?！本渥又械姆欠诸愱P系可以表述為：＜ “渦輪噴氣發(fā)動機”，“用于”，“超聲速飛機”＞，即主語 （“渦輪噴氣發(fā)動機”）為前驅概念，而對于用中心詞、施事者、受事者描述主干結構的句子，則施事者為前驅概念。

本文以本體概念集為學習種子，查找充當語句所含動詞框架中不同語義角色的概念對，而后計算動詞框架的語義相似度來識別非分類關系。通過加入句子結構和語義關系因素，來改善文獻 ［3－4］方法的不足。該方法包括3個方面：①對文集進行語義依存分析，獲得已標記的句子集合；②分析句法結構，提取動詞框架構成的句子主干；③計算語義相似度，發(fā)現(xiàn)非分類關系。

3.1 語義依存分析

根據(jù)中文術語特點，對于未標注語料集進行初步篩選。采用中國科學院計算技術研究所開發(fā)的ICTCLAS對文本進行分詞，將每條語句切分為一組具有詞性標注信息的中文組詞及符號，去掉對于句子意思表述無貢獻的詞，如感嘆詞、語氣詞、助詞等。而后利用基于漢語的依存語法分析器 （采用哈爾濱工業(yè)大學信息檢索研究中心開發(fā)的中文依存句法分析器，該分析器能夠實現(xiàn)詞性標注、語義角色標注、依存語法分析等功能），給定語料集中的一個句子作為輸入，產(chǎn)生一棵標注了依存關系、語義角色的語法分析樹，由依存關系確定句子中以動詞中的從屬關系框架，而語義角色標注則確定該從屬關系框架中相對應的語義角色。

通過語義依存分析，對文集句子成分的語義角色、依存語法信息實現(xiàn)標記，從而獲得文集中句子的語義依存結構信息。

3.2 提取句子主干

由于中文語法的復雜性，一個復雜句子的依存信息結構也會相當龐大，如果直接對完整句子進行分析處理，工作量巨大并且沒有必要。依存語法認為每個句子都以動詞為中心的從屬關系結構，則保留句中謂語 （中心動詞）、及其主語、賓語 （對于缺少主語或賓語的動詞框架，因無法確定中心詞所涉及的另一個概念，不作考慮）框架，或是謂詞 （中心動詞）、及其施事者、受事者 （類似地，過濾掉缺少施事者或受事者的動詞框架）角色，構成句子的主體架構，而且非分類關系抽取關注的是概念 （名詞或名詞詞組）之間的關系，因此，將句子進行剪切，以去掉噪音，得到由中心詞、主語、賓語以及主語／賓語附屬成分 （依存于主語／賓語和主語／賓語依存的詞為附屬成分），或是中心詞、施事者、受事者以及施事者／受事者附屬成分所形成的動詞框架構成的句子主干 （當句子為復句時，句子主干可能包含多個動詞框架，僅考慮直接依存于中心詞的成分，會遺漏可能的非分類關系），且依存于中心詞的成分應是名詞 （詞組），用于非分類關系抽取。由于中文句法分析器是以詞為單位進行句子成分的，而中文本體概念多為復合詞，在上述句子修剪過程中，將保留依存于主干成分的詞，作為主干成分的一部分，以提高抽取效率。動詞框架提取算法描述：

輸入：標記語義依存信息的句子集合S；

輸出：動詞框架組成的句子主干集合S′；

（1）若S為空，則退出；

（2）對于S中的任一句子s，查找中心詞 （核心關系HED）V；

（3）若s中同時有依存于V的SBV、VOB依存關系的角色Rs，Rv，則提取由V、Rs、Rv構成的動詞框架；

（4）若s中還同時有施事者、受事者語義角色Ra0，Ra1，且為名詞 （詞組），則V、Ra0、Ra1構成的動詞框架；

（5）若句子s存在與V并列 （并列關系 W）的中心詞Va，則轉步驟 （3）；否則將s中所提取的動詞框架集構成句子s的主干加入S′，轉步驟 （1）。

為了便于理解算法，給出動詞框架提取的具體示例：

例1：處理器通過軟盤控制器才能訪問軟盤驅動器。

例2：一個硬盤一般由多個盤片組成。

例3：網(wǎng)絡技術利用高速互聯(lián)網(wǎng)，為我們提供一體化的信息服務。

例1是主謂賓結構的句子，依存語法分析的結果如圖2所示?！霸L問”為中心詞，“處理器”為主語 （SBV關系），“驅動器”為賓語 （VOB關系），均依存于 “訪問”，而“軟盤”依存于 “驅動器”，提取的句子主干為 “處理器訪問軟盤驅動器?！薄６?屬于另一類句子，采用中心詞、施事者、受事者框架提取句子主干更為適合，其依存結構信息如圖3所示。由圖可知， “組成”是中心詞， “硬盤”是施事者 （A0），而 “由”是受事者 （A1）， “盤片”是“由”的附屬成分，提取的句子主干為 “硬盤由盤片組成”。例3是復句，其中 “利用”和 “提供”是并列關系 （W），可提取句中的兩個動詞框架，即 “網(wǎng)絡技術”， “利用”，“高速互聯(lián)網(wǎng)”和 “網(wǎng)絡技術”，“提供”，“信息服務”。

通過對文集中句子進行語義角色標注、依存語法分析及句子主干提取，得到了標注有句法結構信息、語義關系的、由動詞框架刻畫句子的文本。

3.3 語義相似度計算

對于經(jīng)過語義依存分析和句子主干提取的句子集，可表示為S＝ ｛F1，F(xiàn)2，…，F(xiàn)m｝，F(xiàn)i（i＝1，2，…，m）為動詞框架，表示為Fi＝ ｛Ei1，Ei2，Ei3｝，Eij是框架元素（謂詞，主語／施事者，或賓語／受事者），且Eij＝ （rij，fij，mij）（j＝1，2，3），其中rij表示語義角色 （依存關系），fij表示詞性，mij表示語義 （HowNet提供的語義描述）?？蚣茉仄ヅ錂嘀囟x為：對于元素Ei1和Ei2，若ri1和ri2，fi1和fi2，mi1和mi2均相同，則匹配權重為1；若ri1和ri2，mi1和mi2相同，但fi1和fi2不同，則匹配權重為0.6；否則為0。語義相似度計算公式如下

利用式 （1）計算句集中動詞框架的語義相似度，當大于相似度閾值的動詞框架出現(xiàn)頻率達到某一閾值時，則認為語義角色所對應的本體概念間具有非分類關系，中心詞即關系名稱。

3.4 非分類關系的抽取算法

非分類關系的抽取是發(fā)現(xiàn)概念對及語義標注的過程，其基本思路如圖4所示。另外，通過依存分析中標注的同位關系 （APP），還可以發(fā)現(xiàn)同義關系。

非分類關系學習是在已構建本體概念集，語料集已經(jīng)過無用詞過濾處理的前提下進行的。具體算法步驟：

（1）利用中文依存語法分析器對語料集進行分析，得到句子語義依存結構集合S；

（2）根據(jù)語言學規(guī)則，提取句子主干，得到由動詞框架組成的句子主干集合S′；

（3）從本體概念集C中任取一個概念Ck，若C為空或概念均已標記，則轉 （7）；

圖4 非分類關系抽取流程

（4）在S中搜索包含Ck，且Ck充當主語／施事者或賓語／受事者角色的所有動詞框架F1，F(xiàn)2，…，F(xiàn)m，計算Fi、Fj（1≤i，j≤m）的語義相似度，若存在相似度大于閾值λ，則為候選框架，并加入候選框架集合CF中；否則轉 （3）；

（5）若CF中某候選框架個數(shù)達到給定閾值ω，且C中存在與框架中賓語／受事者或主語／施事者角色的概念相似度超過閾值δ的概念Cl，則Ck、Cl具有非分類關系，根據(jù)依存結構確定前趨概念、后繼概念，并用中心詞賦予關系語義標注，同時對C中Ck、Cl標記；

（6）若S中存在Ck、Cl的同位關系詞，則作為Ck、Cl的同義關系，加入其同義詞集合，并在C中作相應標記；轉 （3）；

（7）結束。

若第 （4）步出現(xiàn)Ck與句中多個動詞框架有依存關系時，將看作新的候選非分類關系，另行計算。第 （5）步中概念相似度計算采用了文獻 ［8］的本體概念匹配算法。

4 實驗及結果分析

由于目前沒有標準的中文語料庫，實驗采用了復旦大學文本分類語料庫中計算機專業(yè)領域作為測試文集。該語料庫多來源于新聞或互聯(lián)網(wǎng)科普類，具有信息量大、覆蓋面廣、用語規(guī)范特點，從而使得實驗結果具有較強的代表性。

從測試文集中選取了95個與計算機相關的概念作為實驗本體概念集，設句子語義相似度閾值為0.53，對測試文集進行了非分類關系的抽取。為了測試實驗的有效性，采用基于關聯(lián)規(guī)則統(tǒng)計［1］、基于 “主謂賓”結構提取概念對及關聯(lián)動詞的方法 （簡稱基于 “主謂賓”結構）、本文提出的方法分別進行了實驗，并通過正確率計算對實驗結果進行了比較，其結果如表1所示。正確率的計算方式是正確抽取的非分類關系數(shù)與測試文集中所有的非分類關系數(shù)之比。

表1 3種方法的實驗結果對比

從實驗結果來看，本文提出的方法抽取正確率明顯要高，并發(fā)現(xiàn)了同義關系。這是由于通過語義依存分析，提取了由動詞框架構成的句子主干，剔除了句子中對關系抽取的干擾因素，從而提高了正確率。而加入依存于主／賓語的附屬成分在一定程度上避免了分詞造成的錯誤，如：例1句中 “軟盤驅動器”用自動分詞將會誤切分成 “軟盤／n驅動器／n”，使得復合概念的非分類關系抽取更為有效。

跟蹤分析抽取過程發(fā)現(xiàn)，影響實驗效果的主要因素有：①測試文本的選取。選擇不當將導致召回率低，非分類關系對識別效率下降。如新聞類文本中與專業(yè)領域密切相關的內容偏少，因此，應以科普類或專業(yè)研究類文章為主。②句子中心詞的選用。有些動詞 （如 “是”、“使”）作為中心詞時，所構成的非分類關系多是錯誤的，例如，句子“數(shù)據(jù)庫管理系統(tǒng)是一種系統(tǒng)軟件?！?，抽取后得到＜ “數(shù)據(jù)庫管理系統(tǒng)”，“是”，“系統(tǒng)軟件”＞，顯然數(shù)據(jù)庫管理系統(tǒng)與系統(tǒng)軟件是上下位的分類關系。而以 “是”為謂語的句子是一種常見的中文句子結構，因此，有必要針對中心詞建立一個停用詞表。

另外，實驗中同義關系的抽取不是很理想，主要原因是語法分析標注同位關系時，因中文表述方式的多樣性而無法正確識別，如，“能力成熟度模型 （CMM）”表述方式被識別為同位關系，但是 “CMM （能力成熟度模型）”將被標注為其它關系。

5 結束語

本文提出了一種基于語義依存分析的中文非分類關系抽取方法。該方法將語義角色標注和依存關系分析相結合，從句中提取中心詞和與之依存的語義角色構成的動詞框架，通過計算動詞框架的語義相似度，獲得充當不同語義角色的概念間非分類關系，并用中心詞標注之。下一步將進一步探討，如何結合中文語法特點，更有效地利用句子語義依存結構中的信息，提高關系抽取的效果。

［1］DU Xiaoyong，LI Man，WANG Shan.A survey on ontology learning research ［J］.Journal of Software，2006，17 （9）：1837－1847（in Chinese）.［杜小勇，李曼，王珊.本體學習研究綜述 ［J］.軟件學報，2006，17 （9）：1837－1847.］

［2］XIANG Yang，ZHANG Bo，HAN Jie.Agent driven intelligent construction of Chinese ontology ［J］.Computer Engineering and Applications，2009，45 （10）：133－137 （in Chinese）.［向陽，張波，韓婕.Agent驅動的中文本體智能構建研究 ［J］.計算機工程與應用，2009，45 （10）：133－137.］

［3］WANG Suihua，ZHAO Ailing，MA Weiwei.Approach to extracting non－taxonomic relationships for Chinese ontology from web ［J］.Computer Engineering and Design，2010，31 （2）：451－454（in Chinese）.［王歲花，趙愛玲，馬巍巍.從 Web中提取中文本體非分類關系的方法 ［J］.計算機工程與設計，2010，31 （2）：451－454.］

［4］WEN Chun，SHI Zhaoxiang，XIN Yuan.Chinese Non－taxonomic relation extraction based on extended association rule［J］.Computer Engineering，2009，35 （24）：63－65 （in Chinese）.［溫春，石昭祥，辛元.基于擴展關聯(lián)規(guī)則的中文非分類關系抽取 ［J］.計算機工程，2009，35 （24）：63－65.］

［5］Johansson R，Nugues P.The effect of syntactic representation on semantic role labeling［C］.Manchester，UK：Proc of the 22nd International Conference on Computational Linguistics，2008.

［6］CHEN Yaodong，WANG Ting，CHEN Huowang.Shallow semantic parsing research ［J］.Journal of Computer Research and Development，2008，45 （zl）：321－325 （in Chinese）.［陳耀東，王挺，陳火旺.淺層語義分析研究 ［J］.計算機研究與發(fā)展，2008，45 （zl）：321－325.］

［7］CHE Wanxiang，LI Zhenghua，HU Yuxuan，et al.A cascaded syntactic and semantic dependency parsing system ［C］.Manchester，UK：Proc of CoNLL，2008.

［8］LIU Ting，CHE Wanxiang，LI Sheng.Semantic role labeling with maximum entropy classifier［J］.Journal of Software，2007，18 （3）：565－573（in Chinese）.［劉挺，車萬翔，李生.基于最大熵分類器的語義角色標注 ［J］.軟件學報，2007，18 （3）：565－573.］

［9］PENG Hui，SHI Zhongzhi.Matching algorithm of semantic web service based on similarity of ontology concepts ［J］.Computer Engineering，2008，34 （15）：51－53 （in Chinese）. ［彭暉，史忠植.基于本體概念相似度的語義Web服務匹配算法［J］.計算機工程，2008，34 （15）：51－53.］

［10］LIU Huaijun，CHE Wanxiang，LIU Ting.Feature engineering for Chinese semantic role labeling ［J］.Journal of Chinese Information Processing，2007，21 （1）：79－84 （in Chinese）.［劉懷軍，車萬翔，劉挺.中文語義角色標注的特征工程［J］.中文信息學報，2007，21 （1）：79－84.］

［11］LIU Baoyan，LIN Hongfei，ZHAO Jing.Chinese sentence similarity computing based on improved edit－distance and dependency grammar ［J］.Computer Applications and Software，2008，25 （7）：33－34 （in Chinese）. ［劉寶艷，林鴻飛，趙晶.基于改進編輯距離和依存文法的漢語句子相似度計算 ［J］.計算機應用與軟件，2008，25 （7）：33－34.］

［12］Ciramita M.Unsupervised learning of semantic relations between concepts of a molecular biology ontology ［C］.Edinburgh，UK：Proc of the 19th International Joint Conference on Artificial Intelligence，2005.

［13］Kavalec M，Svatek V.A study on automated relation labeling in ontology learning ［C］.Ontology Learning From Text：Methods Evaluation and Applications.Amsterdam：IOS Press，2005.

［14］WEN Xu，ZHANG Yu.Syntactic structure parsing based Chinese question classification ［J］.Journal of Chinese Information Processing，2006，20 （2）：33－39 （in Chinese）. ［文勖，張宇.基于句法結構分析的中文問題分類 ［J］.中文信息學報，2006，20 （2）：33－39.］

［15］YANG Jianming.Ontology learning method based on semantic dependency ［D］.Hefei：University of Science and Technology of China，2008（in Chinese）.［楊建明.基于語義依存的本體學習方法 ［D］.合肥：中國科學技術大學，2008.］